中国消费者报北京讯(记者聂国春)日前,世界数字科学院(WDTA)在联合国日内瓦总部正式发布AI STR系列新标准《AI智能体运行安全测试标准》,标准由蚂蚁集团、清华大学、中国电信牵头,联合普华永道、新加坡南洋理工大学、美国圣路易斯华盛顿大学等20余家国内外机构、企业及高校共同编制。 该标准针对智能体跨越“语言墙”所带来的行为风险,首次将输入输出、大模型、RAG、记忆和工具5个关键链路与运行环境对应起来,构建了全链路风险分析框架;同时,细分了智能体风险类型,完善并创新提出了模型检测、网络通信分析和工具模糊测试等测试方法,弥补了智能体安全测试技术标准的空白。 最新调研数据显示,超过70%的智能体从业者担忧AI幻觉与错误决策、数据泄露等问题;超半数受访者表示,所在企业尚未设立明确的智能体安全负责人。据悉,该标准不仅提供了一套可行可靠的智能体安全基准,也为全球AI智能体生态的安全、可信和可持续发展提供了有益探索。目前,部分标准的测评与认证已在金融、医疗等领域落地应用。 |