天气 
2025-08-12
华为计划于8月12日在2025金融AI推理应用落地与发展论坛上发布一项AI推理领域的突破性技术成果。这项成果有望减少中国AI推理对高带宽内存技术的依赖，提升国内AI大模型推理性能，完善中国AI推理生态。
此前，华为在AI推理领域已有技术突破。例如，2025年3月，北京大学与华为联合发布了DeepSeek全栈开源推理方案。该方案基于北大自研的SCOW算力平台系统和鹤思调度系统，整合了DeepSeek、openEuler、MindSpore与vLLM/RAY等社区开源组件，在华为昇腾上实现了高效的DeepSeek推理。
华为昇腾在性能方面也取得了多项进展。比如，在CloudMatrix 384超节点部署DeepSeek V3/R1时，单卡Decode吞吐量在50ms时延约束下超过1920 Tokens/s；而Atlas 800I A2推理服务器在100ms时延约束下单卡吞吐量达到808 Tokens/s。
此外，科大讯飞与华为的合作也取得了显著成效。双方率先在国产算力上实现了MoE模型的大规模跨节点专家并行集群推理，使推理吞吐量提升了3.2倍，端到端时延降低了50%。
猜你喜欢
2025-06-27
年薪2亿欧仍为足坛第一！40岁C罗继续征...
6月26日，据FIFA国际足联消息，40岁的葡萄牙前锋C罗已与沙特联球队利雅得胜利完成续约。C罗于2023年转会加盟利雅得胜利，至今共代表球队出场105次，贡献...
READ MORE
2025-07-01
国际油价创2023年后最大单周跌幅 供应...
6月30日，国际油价开盘后短线跳水逾1%。消息称，石油输出国组织OPEC+有望在8月继续增产，叠加伊朗和以色列冲突缓和，地缘溢价回落，石油供应过剩预期主导市场。...
READ MORE
2025-07-01
小货车一路掉货公交司机一路捡起 善举温暖...
小货车一路掉货公交司机一路捡起 善举温暖人心。6月27日，货拉拉司机王师傅紧紧握住武汉公交370路驾驶员朱祝的双手，眼中满是激动与感激。原来，朱祝拾金不昧的善举...
READ MORE
2025-07-03
海尔空调今年欧洲销售额同比增30% 高温...
海尔空调今年欧洲销售额同比增30% 高温天气带动需求增长！步入7月，欧洲持续的高温天气让空调销售迎来旺季。格力电器总裁助理提到，受极端天气影响，欧洲多国如西班牙...
READ MORE最新发布
-
年薪2亿欧仍为足坛第一！40岁C罗继续征战沙特联，续约2年至...
国际新闻, 2025-06-27 -
国际油价创2023年后最大单周跌幅 供应过剩预期主导市场
国际新闻, 2025-07-01 -
热得受不了了，法国的游泳池现在长这样
国际新闻, 2025-07-03 -
小货车一路掉货公交司机一路捡起 善举温暖人心
国际新闻, 2025-07-01 -
海尔空调今年欧洲销售额同比增30% 高温天气带动需求增长
国际新闻, 2025-07-03
