中国大模型能力在过去一年中已经跻身全球第一梯队。MiniMax M2.5、Kimi K2.5的Token消耗量在OpenRouter上长期位居前列,DeepSeek V4也常被拿来与GPT-5对标。这些模型之所以能够运行,是因为现有的算力底座足够强大。

然而,当进入Agent时代时,现有的“够用”可能不再足够。“能跑”和“跑得舒服”是两码事。在今年的鲲鹏昇腾开发者大会上,昇腾指出,过去一年模型调用频次暴涨了50到100倍,序列长度从Chatbot时代的4K飙升至接近1M,相当于250倍的跨度。MoE推理对时延的要求也越来越苛刻,正从10毫秒向1毫秒级别逼近。

这不仅仅是模型变大的问题,而是整个算力底座的底层逻辑需要被重写。真正的问题在于,当Agent的需求以指数级增长时,现有算力架构还能支撑多久?基于这一视角,昇腾今年在峰会上强调了超节点架构创新、软件全面开源开放以及开发者体验升级,旨在让算力底座从“能跑模型”进化到“天然亲和Agent”。

超节点架构使得数千个NPU之间能够更高效地协同工作。在Chatbot时代,序列长度约4K,KVCache命中一次就够,NPU之间的通信压力不大。但进入Agent时代,推理链路拉长到接近1M tokens,KVCache需要跨NPU频繁跳跃。这时,问题不仅在于带宽是否足够,而是如何优化NPU之间的通信。传统方案下,每个NPU挂载独立内存,跨NPU访问要走消息语义,单次通信在微秒级。而昇腾超节点通过灵衢互联协议和总线控制器,实现了全域内存统一编址,使得NPU和CPU可以直接用虚拟地址访问任意位置,无需改代码、无需路由、无需拷贝。此外,通过片上内存和DDR的分层池化能力,查询时延大幅降低,训练和推理吞吐相比传统集群提升3到4倍。
猜你喜欢
年薪2亿欧仍为足坛第一!40岁C罗继续征...
6月26日,据FIFA国际足联消息,40岁的葡萄牙前锋C罗已与沙特联球队利雅得胜利完成续约。C罗于2023年转会加盟利雅得胜利,至今共代表球队出场105次,贡献...
READ MORE
人民日报点赞“卷尺哥” 城市治理新标杆
近日,深圳一位热心市民“卷尺哥”引起了广泛关注。从2023年3月起,他带着一把卷尺,在深圳的大街小巷穿梭,专门寻找公共设施的问题。令人惊讶的是,他指出的每个问题...
READ MORE
钟睒睒34亿投资山西女首富 布局重组胶原...
当华熙生物与巨子生物在重组胶原蛋白领域的竞争稍歇,前首富钟睒睒已悄然进入这一赛道。锦波生物发布公告称,其向钟睒睒旗下养生堂定向发行股份募资不超过20亿元,同时创...
READ MORE
37岁男子糖尿病7年不重视致截肢失明 忽...
37岁男子糖尿病7年不重视致截肢失明 忽视并发症酿悲剧!近日,福建一名37岁的陈先生因长期忽视糖尿病管理而遭受严重后果。七年前,陈先生被确诊为糖尿病患者,但他并...
READ MORE
湖北咸丰暴雨公交停运学校停课 当地已紧急...
7月1日,湖北恩施咸丰遭遇特大暴雨袭击,咸丰县城4时断电,目前抢修中,当地已紧急转移8000余人。 据咸丰县教育局综合办公室消息,城区学校(含曲江)各走读制学校...
READ MORE最新发布
-
年薪2亿欧仍为足坛第一!40岁C罗继续征战沙特联,续约2年至...
国际新闻, 2025-06-27 -
人民日报点赞“卷尺哥” 城市治理新标杆
国际新闻, 2025-10-24 -
钟睒睒34亿投资山西女首富 布局重组胶原蛋白赛道
国际新闻, 2025-07-01 -
37岁男子糖尿病7年不重视致截肢失明 忽视并发症酿悲剧
国际新闻, 2025-07-01 -
湖北咸丰暴雨公交停运学校停课 当地已紧急转移8000余人
国际新闻, 2025-07-01
热门
-
年薪2亿欧仍为足坛第一!40岁C罗继续征...
- 作者
- 2025-06-27
-
人民日报点赞“卷尺哥” 城市治理新标杆
- 作者
- 2025-10-24
-
钟睒睒34亿投资山西女首富 布局重组胶原...
- 作者
- 2025-07-01
-
37岁男子糖尿病7年不重视致截肢失明 忽...
- 作者
- 2025-07-01
-
湖北咸丰暴雨公交停运学校停课 当地已紧急...
- 作者
- 2025-07-01
-
年薪2亿欧仍为足坛第一!40岁C罗继续征...
- 作者
- 2025-06-27
-
人民日报点赞“卷尺哥” 城市治理新标杆
- 作者
- 2025-10-24
-
钟睒睒34亿投资山西女首富 布局重组胶原...
- 作者
- 2025-07-01
-
37岁男子糖尿病7年不重视致截肢失明 忽...
- 作者
- 2025-07-01
-
湖北咸丰暴雨公交停运学校停课 当地已紧急...
- 作者
- 2025-07-01

