79% 已经在生产环境跑 AI 的公司说，他们的 GPU 一半以上时间都在闲置。但同一批公司里，70% 计划在未来 12 个月内再上一个新 AI 算力平台。闲置和加购同时发生，这就是眼下 AI 算力最拧巴的一幕。
数字来自 VentureBeat Intelligence 7 月到 9 月的三轮调查，385 名合格受访者，来自 100 人以上的组织。其中 218 家报了 GPU 利用率，172 家说 GPU 一半及以下时间在忙，占比 79%。这 172 家里，120 家计划 12 个月内上新平台、加平台或换平台，占比 70%。
更说明问题的是他们打算买什么：计划上新平台的公司里，90% 把云平台或模型厂商列为候选，只有 8% 考虑自建 GPU 集群或自管开源栈。自己搭栈的公司闲置率明显更低：56%，而其他公司是 83%。自己管的每一小时闲置都看得见，也有工程师去填满它。
钱花得也不算明白：9 月那轮调查里，91% 计划上新平台的公司，拿不出一个财务团队审核过的投资回报数字。
为什么会这样？一层是 2024 到 2025 年大家怕 GPU 短缺，提前囤了容量；另一层是员工实际在用的，是 Anthropic、OpenAI、谷歌的闭源前沿模型，按 token 付费，根本装不到自家 GPU 上。想把活挪到闲置 GPU 上，得换成开源权重模型自己跑，那是实打实的工程活。
往后省钱的口子不在算力，在 token、上下文和 Agent。Gartner 预测，单个 Agent 工作流的推理成本到 2028 年要涨 5 倍以上。Agent 每步都要重读上下文，缓存就成了关键：Claude Code 会话里，第一次调用之后的调用，85% 到 97% 的上下文来自缓存，缓存 token 的价格只有正常价的 1/40 到 1/10。Agent 组队也贵：一个主 Agent 带最多 5 个子 Agent 的团队，成本是单个 Agent 的 1.8 到 5.1 倍。
先把已经付过钱的算力和 token 用满，再签下一份合同：按每个完成任务的成本算账、默认模型按任务成本选而不是按 token 单价、只给 Agent 必要的上下文并缓存重复部分、只有能并行拆分的任务才加第二个 Agent、常规高量的分类抽取摘要类工作换开源模型跑闲置算力、剩下的闲置时间填批量推理、评测和微调。
完整调查数据和原文在这里：
https://venturebeat.com/infrastructure/ai-bubble-update-79-of-companies-say-their-gpus-sit-idle-at-least-half-the-time-yet-most-plan-new-ai-platforms