当前位置: 首页 » 资讯 » 科技头条 » 正文

谷歌推出DiffusionGemma文本扩散AI模型,本地推理效率实现大幅提升

IP属地 中国·北京 环球网资讯 时间:2026-06-11 12:47:36

环球网

6月11日消息,谷歌近日正式发布全新开放人工智能模型DiffusionGemma。该模型依托文本扩散机制打造,相较传统自回归大语言模型,本地AI推理速度提升4倍,为端侧、本地人工智能应用优化提供了新路径。


当前GPT、Gemini等主流大语言模型多采用自回归架构,这类模型按顺序逐一生成文本单元,在云端批量处理场景中表现稳定,但受硬件内存带宽限制,应用于本地推理时易造成计算资源损耗。DiffusionGemma创新采用扩散模型技术路线,摒弃逐一生成文本单元的模式,通过对噪声逐步去噪、并行处理全部文本单元的方式完成内容生成,可同步优化整体输出效果,完美适配本地低带宽运行环境,速度优势突出。

据介绍,DiffusionGemma整体能力与同系列Gemma 4模型持平,同时兼顾高效推理与内容质量。模型支持生成过程迭代纠错,输出内容稳定性、一致性更强,采样速率可达每秒1479个文本单元,单次生成耗时仅0.84秒,生成效率大幅升级。

在综合性能测试中,该模型各领域表现各有亮点。代码生成领域,其在LiveCodeBench、BigCodeBench、HumanEval三项测试中分别取得30.9%、45.4%、89.6%的成绩,综合表现与Gemini 2.0 Flash-Lite旗鼓相当。数学推理方面,DiffusionGemma在AIME 2025测试中得分23.3%,优于同期对比模型,充分彰显出扩散架构在数理推理任务中的发展潜力。与此同时,模型仍存在一定提升空间,在科学推理、高难度综合推理相关测试中,成绩暂不及主流对比模型。

硬件适配层面,DiffusionGemma的架构设计可充分释放英伟达GPU并行计算性能。实测数据显示,单块H100 GPU环境下,模型每秒可生成1000个文本单元;在DGX Spark设备上速率为每秒150个文本单元;DGX Station设备中生成速度可达每秒2000个文本单元,整体速度约为同等运行条件下自回归模型的4倍。

据悉,DiffusionGemma已按照Apache 2.0开源协议正式对外开放,广大开发者可前往Hugging Face平台下载模型权重,开展二次开发与落地应用。

免责声明:本网信息来自于互联网,目的在于传递更多信息,并不代表本网赞同其观点。其内容真实性、完整性不作任何保证或承诺。如若本网有任何内容侵犯您的权益,请及时联系我们,本站将会在24小时内处理完毕。