谷歌发布新开原模型：260亿参数，本地生成速度

2026-06-11

谷歌发布新开原模型：260亿参数，本地生成速度

6月11日消息，谷歌DeepMind发布DiffusionGemma，Gemma开放权重模型家族的新成员。它不沿用主流聊天机器人的自回归路线，而是借鉴图像扩散模型的思路并行生成和修正文本，换来更快的本地推理速度。

DiffusionGemma总参数约260亿，采用混合专家架构（MoE），支持多模态输入、文本输出。谷歌称，在专用GPU的低延迟本地推理场景下，其文本生成速度最高可比传统自回归模型快约4倍：单张NVIDIA H100超过1,000 token/秒，GeForce RTX 5090上超过700 token/秒。

不再逐字生成，而是铺出再修正

多数聊天机器人按顺序生成文本：前一个token出来后才能预测下一个，用户看到的是一行字慢慢往外跳。DiffusionGemma的做法更接近图像扩散模型——先用占位符铺出一段文本，再经多轮修正逐步得到最终结果，一次最多可并行处理256个token。硬件算力够用时，生成速度因此明显提高。

对本地AI使用者来说，这意味着：隐私敏感、网络不稳定或需要低延迟的场景，可以更多依赖本机显卡完成文本生成，不必把所有请求都发到云端。

260亿总参数，推理时只激活38亿

DiffusionGemma不是一个极小模型，但混合专家架构让每次推理只激活约38亿参数。谷歌称这使它有机会在18GB显存级别的GPU上运行，门槛低于完整加载同等总参数的密集模型。

谷歌把DiffusionGemma放进Gemma开放权重体系，延续了用可本地部署模型争夺开发者生态的策略。

速度优势明确，文本质量仍待独立验证

扩散文本模型不是第一次出现。它长期未成为主流路线，关键原因是自然语言比图像更依赖语法顺序、上下文连贯和事实约束。生成得快，不等于写得稳。

DiffusionGemma证明了扩散路线可以在开放权重文本模型上跑出明显速度优势。它能否在长文本、复杂问答和事实准确性上接近主流自回归模型，还需要更多独立评测给出答案。（易句）

（本文由AI翻译，网易编辑负责校对）

来源于：https://www.163.com/tech/article/KV4TBPCN00097U7T.html 如有侵权请联系我们

谷歌发布新开原模型：260亿参数，本地生成速度

最新发布

全新上汽奥迪A5L Sportback开启预售限时臻享26...

男子发评论被拘后翻案官方调查两年曲折终获清白

安吉丽娜·朱莉×道格·里曼！出演电影《主动出击》

两电动车对峙从天亮僵持到天黑斗气引发长时间对峙

莫迪与普京通话讨论俄乌冲突等问题重申和平解决立场

Category

Sports

Travel

Technology

热门

全新上汽奥迪A5L Sportback开...

男子发评论被拘后翻案官方调查两年曲折...

安吉丽娜·朱莉×道格·里曼！出演电影《主...

两电动车对峙从天亮僵持到天黑斗气引发...

莫迪与普京通话讨论俄乌冲突等问题重申和...

全新上汽奥迪A5L Sportback开...

男子发评论被拘后翻案官方调查两年曲折...

安吉丽娜·朱莉×道格·里曼！出演电影《主...

两电动车对峙从天亮僵持到天黑斗气引发...

莫迪与普京通话讨论俄乌冲突等问题重申和...

Tags

导航

友情链接

POPULAR NEWS

Ratcliffe to be of nation talent

Ratcliffe to be of nation talent

联系我们: 917345325@qq.com

内容详情

谷歌发布新开原模型：260亿参数，本地生成速度

猜你喜欢

最新发布

Category

Sports

Travel

Technology

热门

Tags

导航

友情链接

POPULAR NEWS

联系我们: 917345325@qq.com