ChatGPT 十亿用户背后:OpenAI 存储平台 Habitat 扛住 500PB 数据

3次阅读
没有评论

ChatGPT 十亿用户的数据是怎么扛住的?OpenAI 工程博客自己讲了,核心是一套叫 Habitat 的存储平台。

几个数字先摆出来:Habitat 覆盖 40 个区域,数据超过 500PB;最大的一个 Cosmos DB 账号,每秒要扛 2000 多万次请求。

延迟也压下来了:全球读延迟从 120 毫秒降到 10 毫秒左右。代理层还用 Rust 重写了一遍。

搞后端的可以去翻 OpenAI 工程博客的原文,干货不少。

正文完
 0