国内首次AI大模型众测结果揭晓

央视网消息（记者 欧霁娴）9月16日，在第22届中国网络安全年会暨国家网络安全宣传周网络安全协同防御分论坛活动中，国内首次针对AI大模型的实网众测检验结果发布。

本次活动由中央网信办网络安全协调局指导，国家计算机网络应急技术处理协调中心主办。

活动共对10家AI厂商的15款大模型及应用产品进行了测试。测试产品中既有基础大模型产品，也有垂域大模型产品，还有智能体、模型开发平台等相关应用产品，其中既包含单模态大模型，也涵盖多模态大模型，具有较广泛的代表性。测试累计发现各类安全漏洞281个，其中大模型特有漏洞177个，占比超过60%。数据表明，当前AI大模型产品面临着大量传统安全领域之外的新兴安全风险。

活动中发现的典型漏洞风险包括：部分产品存在不当输出类漏洞且危害严重；信息泄露类漏洞多发；提示注入类漏洞普遍；部分大模型产品针对无限制消耗类攻击的防护措施有待加强；传统安全漏洞依然普遍存在。鉴于AI大模型产品普遍用户量大、使用率高，若上述漏洞被恶意攻击者利用，将对国内AI大模型产品生态造成较严重的影响。

有业内人士指出，随着AI应用场景的不断扩展，新的漏洞和攻击手法将不断涌现，针对大模型面临的各类漏洞风险，需持续加强安全防护措施，包括加快制定AI漏洞分类分级标准，并依据应用场景划分风险等级。同时，应通过众测模式广泛汇聚社会白帽力量，共同构建AI共治生态。此外，还需加强内生安全治理，将安全融入AI系统全生命周期，从源头筑牢安全基石。