蚂蚁开源首个100B扩散语言模型LLaDA2.0

蚂蚁集团技术研究院于12月12日正式发布新一代LLaDA2.0系列离散扩散大语言模型（dLLM），同步公开了相关技术文档。该系列包含采用MoE架构的两个版本：参数量达160亿的”Mini”型与突破百亿级参数规模的”Flash”型（1000亿参数），标志着扩散模型参数量级首次实现百亿美元级别突破。（广角观察）

©版权声明：如无特殊说明，本站所有内容均为Amassai.net 原创发布和所有。任何个人或组织，在未征得本站同意时，禁止复制、盗用、采集、发布本站内容到任何网站、书籍等各类媒体平台。否则，我站将依法保留追究相关法律责任的权利。