ChatGPT 十亿用户的数据是怎么扛住的?OpenAI 工程博客自己讲了,核心是一套叫 Habitat 的存储平台。
几个数字先摆出来:Habitat 覆盖 40 个区域,数据超过 500PB;最大的一个 Cosmos DB 账号,每秒要扛 2000 多万次请求。
延迟也压下来了:全球读延迟从 120 毫秒降到 10 毫秒左右。代理层还用 Rust 重写了一遍。
搞后端的可以去翻 OpenAI 工程博客的原文,干货不少。
正文完
ChatGPT 十亿用户的数据是怎么扛住的?OpenAI 工程博客自己讲了,核心是一套叫 Habitat 的存储平台。
几个数字先摆出来:Habitat 覆盖 40 个区域,数据超过 500PB;最大的一个 Cosmos DB 账号,每秒要扛 2000 多万次请求。
延迟也压下来了:全球读延迟从 120 毫秒降到 10 毫秒左右。代理层还用 Rust 重写了一遍。
搞后端的可以去翻 OpenAI 工程博客的原文,干货不少。