蚂蚁集团连发两款开源安全模型

7月14日消息，蚂蚁AI安全实验室近日宣布开源两款安全模型。多模态安全护栏SingGuard面向大模型服务场景，支持对文本、图片及图文组合内容进行统一安全判断，可识别隐藏在图片中的跨模态攻击，支持运行时动态加载自然语言安全规则，无需重新训练模型即可完成规则更新。智能体行为安全护栏SingGuard-NSFA聚焦AI自主执行场景，在智能体执行动作前完成实时检测，将风险细分为7大类185个具体场景，覆盖133种语言近10万条样本，单次判定约50毫秒，提供0.8B、2B、4B、9B四种模型规模。（广角观察）

©版权声明：如无特殊说明，本站所有内容均为Amassai.net 原创发布和所有。任何个人或组织，在未征得本站同意时，禁止复制、盗用、采集、发布本站内容到任何网站、书籍等各类媒体平台。否则，我站将依法保留追究相关法律责任的权利。