未接获AI智能体入侵通报 政府继续留意加强防护

新加坡机构未接获 人工智能 智能体失控入侵系统的通报，政府将继续关注包括海外事件的事态发展，并汲取教训，以进一步巩固现有的安全防护措施和通报机制。

数码发展及新闻部长 杨莉明 星期二（10月6日）通过书面答复七名国会议员有关人工智能（AI）风险的询问。随着AI智能体（agents）在测试期间相继发生失控入侵外部系统的事件，如 OpenAI智能体未经授权登入澳大利亚政府的医疗网站 ，外界日益担忧AI带来的安全隐患。

杨莉明说，新加坡对AI采取的一贯方针是在促进创新之余，通过多个层面管控AI风险。

面对AI技术能力的迅速提升，有时发展速度甚至超越各国政府和外部评估机构的全面检视范围，她提出四项应对方法：依据风险设定限制、强化AI非预期行动与滥用的防护能力、识别风险和及早反应，以及与国际及业界伙伴合作。

杨莉明以公共服务部门部署AI智能体为例说，政府按风险程度设定相应限制，如智能体可登入的系统和数据、智能体可采取的行动，以及预想智能体不在预期内或未经授权的行动有什么后果。

她指出，AI的潜在危害越大，安全防护措施就应越严密。此外，这些防护措施与相关的政策和治理程序相辅相成，以确保有适当的监督与问责。

不法分子可能利用AI发动更低成本、快速和大规模的攻击。杨莉明说，数码服务深度融入我国的经济和社会，各方须设想不法分子会那么做，持续加强 网络安全 ，也运用AI防御与之对抗。

对于如何识别AI风险，新加坡人工智能安全研究所（AI Safety Institute）正建立评估先进AI系统的技术能力，并开发可行的测试和安全保障方法。

现有网安通报渠道已足以应对风险。杨莉明说， 网络安全局 、新加坡 政府科技局 及各行业领头机构设立了多个网安事故通报渠道，当中涵盖涉及AI的事故。

不过，政府也正探讨如何更有效地利用这些现有渠道，以便识别AI事故、支持事后修复和完善防护措施，同时评估是否需进一步强化协调或通报机制。

国际及业界伙伴合作也是重要一环。杨莉明说，我国会与前沿AI开发商接洽，在适当情况下获取相关信息和AI模型的访问权限，但不会将此列为强制要求，因为单凭获取模型本身并不意味着能全面了解风险。

“若是硬性要求，更可能适得其反，导致企业减少合作或共享信息。我们倾向于与前沿AI实验室建立稳固的合作关系，促进实质且及时的信息共享。”

杨莉明说，新加坡不会忽视AI可能带来的灾难性或灭绝级的风险，但也不会设想所有情景都成为现实。“我们的做法是密切关注证据，建立理解先进AI系统所需的技术能力，并随着证据积累，与国际伙伴合作制定应对严重风险的措施。”

数码发展及新闻部兼保健卫生部高级政务部长 陈杰豪 ，星期三（7日）也出席国会回应议员的补充提问，并一再强调现有机制仍有效应对AI风险。

西北区市长、马西岭—油池集选区议员 任梓铭 询问，除了关键信息基础设施业者，当局是否也规定前沿AI企业及时通报网安事故。

数码发展及新闻部兼保健卫生部高级政务部长陈杰豪，星期三（10月7日）出席国会回应议员的补充提问时，呼吁本地机构采取必要的防护措施。（gov.sg视频截图）

陈杰豪说，政府当然希望前沿AI企业承担更大责任，但面对如今不法分子已能滥用大量开源AI模型轻易发起网络威胁，本地机构不能坐以待毙。“我们不能只是等别人告知遭到黑客入侵。新加坡和各机构，尤其是关键信息基础设施业者，有责任采取必要的防护措施。”

他回应淡滨尼集选区议员 陈以君 的提问时透露，政府科技局等机构正在积极进行各项试验和测试，以紧跟技术发展，并理解如何负责任地部署代理式AI系统。