天气 
2025-07-05
IT之家 7 月 5 日消息，苹果公司悄然在 Hugging Face 上发布了一款名为 DiffuCode-7B-cpGRPO 的开源 AI 模型，该模型在生成代码方面具有创新特性，能够不按顺序生成代码，且性能媲美顶级开源编码模型。
IT之家注：传统大语言模型（LLM）生成代码的方式，如同大多数人类阅读文本的方式，采用从左到右、从上到下顺序。
这主要是因为这些 LLM 采用自回归（Autoregression）方式工作，意味着当用户向它们提问后，它们会处理整个问题，预测答案的第一个 token，然后带着这个 token 重新处理整个问题，预测第二个 token，以此类推。
LLM 还有一个名为“温度”（Temperature）的设置，用于控制输出的随机性。在预测下一个 token 后，模型会为所有可能的选项分配概率。较低的温度意味着更有可能选择最可能的 token，而较高的温度则给予模型更多的自由，选择不太可能的 token。
而另一种选择就是扩散（Diffusion）模型，这种模型通常用于图像模型。简而言之，模型从一个模糊、噪声的图像开始，迭代去除噪声，同时考虑到用户的需求，逐渐将其引导至更接近用户请求的图像。
苹果公司发布的模型名为 DiffuCode-7B-cpGRPO，它基于上月发表、名为《DiffuCoder: Understanding and Improving Masked Diffusion Models for Code Generation》的论文。
论文描述了一个采用扩散优先策略的代码生成模型，但有一个特别之处：当采样温度从默认的 0.2 增加到 1.2 后，DiffuCoder 在生成 token 的顺序上变得更加灵活，从而摆脱了严格的从左到右的约束。
更为有趣的是，苹果的这款模型建立在阿里的开源 Qwen2.5-7B 模型上，将这个模型按照 DiffuCoder 论文中的描述，改造成了一个基于扩散的 decoder，然后调整它以更好地遵循指示。完成这些后，他们又用超过 20000 个精心挑选的编码示例训练了它的另一个版本。
在主流编程跑分中，DiffuCode-7B-cpGRPO 保持了在生成代码时不严格依赖从左到右的生成方式情况下，相比较主流基于扩散的编程模型，测试得分提高了 4.4%。
广告声明：文内含有的对外跳转链接（包括不限于超链接、二维码、口令等形式），用于传递更多信息，节省甄选时间，结果仅供参考，IT之家所有文章均包含本声明。
来源于：https://www.ithome.com/0/865/950.htm 如有侵权请联系我们
猜你喜欢
2025-08-17
87岁的范曾也没想到，他给了徐萌一切的爱...
范曾以为自己迎来了人生的第四春，没想到结果却是“引狼入室”。 2024年4月10日，86岁的范曾高调地宣布了再婚的消息。 这是他第四次结婚了，他的妻子名叫徐萌，...
READ MORE
2025-08-17
外媒：里卡多在骑摩托时遭遇事故，送往医院...
据外媒报道，前F1车手丹尼尔-里卡多在骑摩托时遭遇事故，送往医院后已无生命危险。 据外媒报道，前F1车手丹尼尔-里卡多近日在澳大利亚昆士兰州骑摩托车时遭遇事故，...
READ MORE
2025-08-17
《代号：深渊之歌》首曝PV！从零开始搭建...
当萌系二次元邂逅硬核生存建造，一场前所未有的奇幻冒险即将启程！今日，由上海淘气泡互联网技术有限公司发行的创新手游《代号：深渊之歌》正式...
READ MORE
2025-08-17
斯沃琪在中国市场持续遇冷 宣传图争议不断
近日，瑞士斯沃琪集团旗下Swatch品牌官网上一张“眯眯眼”宣传图引发网友关注。相关内容与讨论在抖音、微博等平台持续传播扩散，“Swatch眯眯眼”话题热度上升...
READ MORE
2025-08-17
新人用儿童摇摇车作婚车 交警提醒 安全第...
近日，山西一对新人选择了一种独特的方式庆祝他们的婚礼——新郎乘坐儿童摇摇车迎娶新娘。这一创意吸引了众多网友的关注。新娘闫女士透露，摇摇车是从附近公园租来的，整个...
READ MORE最新发布
-
87岁的范曾也没想到，他给了徐萌一切的爱，却没换来一丝真心！
综合新闻, 2025-08-17 -
外媒：里卡多在骑摩托时遭遇事故，送往医院后已无生命危险
综合新闻, 2025-08-17 -
《代号：深渊之歌》首曝PV！从零开始搭建你的异世界营地
综合新闻, 2025-08-17 -
斯沃琪在中国市场持续遇冷 宣传图争议不断
综合新闻, 2025-08-17 -
新人用儿童摇摇车作婚车 交警提醒 安全第一
综合新闻, 2025-08-17
