天气 
2026-05-01
GPU利用率低至5%，比不采取任何措施的基准水平还要糟糕大约六倍。企业面临GPU浪费问题，因为释放闲置容量虽然可以提高利用率，但GPU短缺推高了价格，导致团队不愿意归还闲置容量。因此，GPU利用率仅为5%左右，按小时计费，这种模式还在不断恶化。
过去两年里，数千家企业都面临着类似的压力。根据Cast AI发布的报告，大多数公司目前的GPU集群利用率仅为5%左右。合理的人工管理目标应为30%左右。5%的效率意味着企业运行其最昂贵的基础设施的成本仅为不采取任何措施所能达到的收益的一小部分。同时，云计算定价打破了20年来的稳定模式，AWS悄然上调了预留H200 GPU的价格约15%，内存供应商也宣布2026年HBM3e的价格将上涨20%。
云计算市场已经分裂成两部分。在商品层面，传统的通货紧缩机制依然有效，H100按需定价已从2025年的每GPU小时7.57美元降至如今的约3.93美元，老款A100的价格约为1.92美元。而在前端芯片层，情况则相反。英伟达已收到2026年200万颗H200芯片的订单，而库存仅为70万颗。台积电的先进封装技术订单已排到至少2027年中期。AMD也警告称，由于同样的产能紧张，其2026年的价格也将上涨。
企业需要GPU时，通常会加入超大规模数据中心的等候名单。几周甚至几个月后接到电话，告知只能提供部分所需GPU，并要求签订一年或三年合约。担心失去配额的企业通常会签署合约，即使工作负载并不需要这么多GPU。一旦这些GPU被锁定，释放它们变得极其麻烦，因为重新获取需要数月时间，没有人愿意成为那个释放了容量却无法再次获取的团队。因此，这些GPU就只能闲置，按小时计费，无论是否使用。
单靠采购环节的改进无法解决GPU利用率低的问题，架构方面的问题也需要解决。Ray框架背后的公司Anyscale指出，现代AI工作负载的GPU利用率常常低于50%。Gartner也建议将跨孤立项目的共享GPU使用与解耦推理相结合，以提高利用率。两家供应商和一家独立分析公司的相同诊断表明，这两种浪费会叠加，如果只解决其中一个问题而不解决另一个，大部分潜在的节省就无法实现。
猜你喜欢
2025-06-27
年薪2亿欧仍为足坛第一！40岁C罗继续征...
6月26日，据FIFA国际足联消息，40岁的葡萄牙前锋C罗已与沙特联球队利雅得胜利完成续约。C罗于2023年转会加盟利雅得胜利，至今共代表球队出场105次，贡献...
READ MORE
2025-10-24
人民日报点赞“卷尺哥” 城市治理新标杆
近日，深圳一位热心市民“卷尺哥”引起了广泛关注。从2023年3月起，他带着一把卷尺，在深圳的大街小巷穿梭，专门寻找公共设施的问题。令人惊讶的是，他指出的每个问题...
READ MORE
2025-07-01
钟睒睒34亿投资山西女首富 布局重组胶原...
当华熙生物与巨子生物在重组胶原蛋白领域的竞争稍歇，前首富钟睒睒已悄然进入这一赛道。锦波生物发布公告称，其向钟睒睒旗下养生堂定向发行股份募资不超过20亿元，同时创...
READ MORE
2025-07-01
37岁男子糖尿病7年不重视致截肢失明 忽...
37岁男子糖尿病7年不重视致截肢失明 忽视并发症酿悲剧！近日，福建一名37岁的陈先生因长期忽视糖尿病管理而遭受严重后果。七年前，陈先生被确诊为糖尿病患者，但他并...
READ MORE
2025-07-01
湖北咸丰暴雨公交停运学校停课 当地已紧急...
7月1日，湖北恩施咸丰遭遇特大暴雨袭击，咸丰县城4时断电，目前抢修中，当地已紧急转移8000余人。 据咸丰县教育局综合办公室消息，城区学校（含曲江）各走读制学校...
READ MORE最新发布
-
年薪2亿欧仍为足坛第一！40岁C罗继续征战沙特联，续约2年至...
国际新闻, 2025-06-27 -
人民日报点赞“卷尺哥” 城市治理新标杆
国际新闻, 2025-10-24 -
钟睒睒34亿投资山西女首富 布局重组胶原蛋白赛道
国际新闻, 2025-07-01 -
37岁男子糖尿病7年不重视致截肢失明 忽视并发症酿悲剧
国际新闻, 2025-07-01 -
湖北咸丰暴雨公交停运学校停课 当地已紧急转移8000余人
国际新闻, 2025-07-01
