政府建立统一监督机制 追踪AI代理操作防范风险

随着 人工智能 （AI）从协助公务员处理日常工作，逐渐发展到能代替人执行任务，政府正建立一套统一的监督机制，让各政府机构追踪AI代理的操作，以便及时发现异状，降低相关风险。

数码发展及新闻部兼保健卫生部高级政务部长 陈杰豪 星期四（11月5日）在 政府科技局 STACK科技大会第二天发表开幕辞时说，当局正开发名为“GovHarness”的共用技术平台。

他指出，过去几年的AI主要扮演辅助角色，例如撰写电邮、编写程序代码等。如今，新兴的代理式AI已能自行规划任务、使用不同工具，以及连接其他系统，完成更复杂的工作。

不过，随着AI能自主采取行动，风险也相应增加。他举例说，AI草拟一封内容有误的电邮，与自行把错误电邮发送出去，后果截然不同。同样的，AI建议付款和实际执行付款，也是两回事。

“我们须明确规定AI代理获准采取哪些行动、可使用哪些工具，以及何时须先获得人工批准。”

GovHarness将纳入统一的安全防护和测试机制，各政府机构无须各自建立监测和测试系统。

它也同时保留AI代理的操作记录，以便开发人员在系统出错时，追查AI代理实际做了什么、使用过哪些资料、采取了哪些步骤，以及在哪个环节出错。

除了开发GovHarness，政府科技局也制定代理式AI风险与能力框架（Agentic Risk and Capability Framework），根据AI代理的能力和执行任务的风险，制定相应的安全防护措施。

例如，涉及金融交易、发送官方信息或删除数据等风险较高的操作，就须采取更严格的管控措施，包括在必要时取得人工批准。

政府科技局旗下供公务员使用的数码助理“Desk”，未来在加入更多自主执行任务的功能时，也将以相关规范为依据，判断哪些操作可由AI代理自动完成，哪些须由人批准。

另一方面，随着AI让不具备传统软件工程知识的公务员也能开发应用，政府科技局正通过共用平台，让更多公务员能够安全地创新。

其中，“Rabbit Deploy”平台让公务员部署和测试借助AI开发的应用。平台已内置政府统一登入、操作记录和持续安全扫描等功能，让公务员无须自行处理复杂的技术设置。

目前，Rabbit Deploy已有来自90个政府机构的超过8000名用户，平台上运行的应用超过5000个。

陈杰豪举例，一名财务人员利用AI开发应用，并通过Rabbit Deploy部署，将每月从多处整合资料的时间，从原本的12小时缩短至一小时，每年节省超过130个工时。

我国近年积极加强对代理式AI的治理。今年1月，资讯通信媒体发展局推出专门针对代理式AI的治理框架，指导企业和机构限制AI代理的行动权限、加强人工监督及管理风险。框架在5月进一步更新，纳入实际案例和新的安全指引，协助企业更安全地使用这项技术。