杨莉明：前沿AI技术日益强大 各方须筑多道防线

前沿人工智能（AI）企业采取的安全保障措施固然重要，但随着 人工智能 （AI）技术日益强大，仍不足以规避风险。数码发展及新闻部长 杨莉明 因此敦促各方设立多道防线，除了加强网络防御、为AI设定明确界限并加强适当的人类监督，也要持续测试、监控和学习，了解最新技术进展。

杨莉明星期五（10月2日）在脸书发文，指出前沿 AI （frontier AI）公司设定安全保障措施，包括过滤有害内容、限制AI模型可访问和执行的权限、在发布模型前进行测试、验证用户身份、检测滥用行为，以及封禁违反规则的账号。

然而，除了被罪犯和黑客等害群之马滥用，AI也可能误解指令或受骗，或作出用户和开发者未曾设想的行动。杨莉明说：“这意味着我们需要多道防线。”

她提出两项应对方法：加强保护系统，以及深入上游以了解能力日益增强的AI模型能做些什么。

她认为，强化网络防御、面对AI发起网络袭击的同时，也应提升网袭监测和事后恢复的能力。

“政府系统和关键服务供应商尤其应加强这方面能力；一旦相关系统中断或会给公众带来严重后果。我们须在便利与安全间仔细平衡，确保用户体验不会以牺牲有效安全保障为代价。”

新加坡网络安全局 已发布相关指引，呼吁公共和私营机构修复漏洞，包括采用更强身份验证、收紧对重要系统的访问控制、监控网络异常行为，以及定期测试防御能力。

杨莉明也鼓励机构使用现有的AI工具进行防御，对抗同样运用AI发起攻击的害群之马。

对于AI智能体（agents）， 资讯通信媒体发展局已发布AI监管模式框架 （Model AI Governance Framework），呼吁机构限制智能体的访问和执行权限、较高风险行动要经过人类批准等。

杨莉明说：“AI驱动的行动潜在影响越大，相应的保障措施和人类监督就应越严格。”

美国AI巨头OpenAI和Anthropic近来开发的模型，接连在测试期间发生AI智能体失控入侵外部系统的重大安全事故，加剧国际社会忧虑AI安全。这包括 AI未经授权进入美国多个联邦机构官网 、 澳大利亚政府的国民医疗数据门户 ，以及开源AI社区Hugging Face的生产服务器。

需深入了解AI系统 才能评估并制定更全面应对措施

深入理解AI也是重要的一环。杨莉明认为，只有知道AI系统具备哪些能力、极限在哪里，以及不同情境下的表现，才能评估并制定更全面的应对措施。我国将继续投资强化这项能力。

杨莉明也重申新加坡对AI的立场，同时强调国际合作的重要性。

新加坡等20个国家和欧盟上个月共同发表《呼吁管控前沿人工智能模型》声明 。联署人之一的 黄循财 总理，呼吁各方继续凝聚共识，确保前沿AI发展始终处于人类控制和监督下。

杨莉明总结道，无论是防范AI被蓄意滥用，还是避免AI做出始料不及的行为，单靠一道防线是不足够的。“随着AI的能力和自主性不断增强，我们的防护措施也须与时俱进。唯有如此，才能让公众相信AI是一项服务于公共利益的技术。”