研究公司称中国AI开发商只为一小部分模型公布安全测试结果

一家研究公司在报告中称，公司针对中国人工智能（AI）开发商所发布的模型展开调查后发现，开发商公布安全测试结果的模型只占一小部分。

据路透社报道，总部位于加州的技术研究公司SemiAnalysis调查了九家中国领先人工智能公司，即阿里巴巴、字节跳动、腾讯、百度、深度求索、月之暗面、智谱、稀宇科技、阶跃星辰，从2021年至今年9月15日所发布的857个模型。

SemiAnalysis在报告中称，有31个有可对应至特定模型的安全评估结果，占3.6%；而在发布时或之前公布此类结果的模型只有九个，占1.1%。此外，研究人员未找到另外813个模型的安全交底信息，但这些公司可能在内部进行了测试。

报告将与特定模型相关联的具体结果，包括针对有害输出、越狱防御能力、隐私等方面的测试，列入“交底”（disclosure）定义范围，但关于模型已接受安全训练或评估的笼统声明则不属于“交底”。

SemiAnalysis也说，尚未有中国主要开发商公布过涵盖网络、生物及失控风险的前沿文本模型危险能力测试结果。

报告未提供美国人工智能开发商的可比数据。报道称，包括OpenAI、Anthropic和谷歌DeepMind在内的美国领先企业，已针对他们发布的部分主要前沿模型，公布了安全报告、系统卡或模型卡。