你见过的大模型，都是一次吐一个词
GPT、Claude、Gemini——不管哪个模型，生成文本时都是一个token接一个token往外蹦。这是"自回归"架构，从2018年GPT-1开始就是这个套路。
7月2日，NVIDIA开源了 Nemotron-Labs-TwoTower，一个用扩散方式生成文本的语言模型。简单说：它不再是逐词生成，而是一次性处理整个输出序列。
结果是：速度翻了2.42倍，质量保持了98.7%。
双塔架构：冻结一半，加速一半
NVIDIA的工程师没有从头训练一个新模型。他们拿Nemotron-3-Nano-30B（一个30B的自回归模型），把它拆成了两个"塔"：
- 冻结上下文塔：原来的30B参数原封不动，负责理解输入，不参与生成
- 去噪器塔：新增30B参数，专门负责扩散式生成文本
总参数60B，但计算量没有翻倍。因为上下文塔是冻结的，推理时不用更新。
这个设计的聪明之处在于：没有抛弃自回归模型的能力，而是在此基础上叠加扩散能力。你既可以用原来的自回归模式，也可以切到扩散模式。两种都行。
具体快在哪
自回归模型的瓶颈是"等待"——每生成一个token，都要等上一个token算完。扩散模型是并行生成整个序列，所以没有这个延迟。
NVIDIA的实测数据：用1个block生成256个token时，速度提升约1.8倍。用32个block生成8K个token时，速度提升超过4倍。
越长的文本，加速效果越明显。
三种解码模式都能用
- 纯扩散：最快，但可能有小噪声
- 自回归+扩散混合：扩散形成骨架，自回归精调
- 投机解码：自回归快速生成草稿，扩散验证
还没到完美
98.7%的质量保留率听起来不错，但剩下的1.3%是什么？简单任务几乎看不出区别，但高度结构化的文本——代码、数学推导、格式严格的文档——偶尔会出小偏差。
另外，扩散模式目前只支持批量生成，交互式对话场景里你还得用自回归。但NVIDIA已经在研究把扩散做到流式输出。
为什么这事重要
如果扩散LLM这条路走通，整个推理成本结构都要改写。
现在跑一个大模型生成回复，成本主要花在"一个token接一个token解码"上。如果扩散模式能大规模化，同样的硬件能服务更多用户，或者同样的用户体验只花一半成本。
而且NVIDIA选择开源这个模型——Apache 2.0许可——意味着其他实验室可以直接基于TwoTower做二次开发。扩散LLM的门槛被拉低了。
这不是取代自回归，而是给LLM架构增加了一个新选项。对需要高吞吐量的场景——批量文本生成、代码补全、内容翻译——这个选项很值钱。