霍楚推進AI安全法 擬研究「緊急關閉機制」

霍楚宣布推進「負責任AI安全與教育法案」的實施，自11月起將要求大型前沿人工智慧(AI)模型開發商向州府註冊。(取自州長辦公室Flickr)

紐約州 長 霍楚 (Kathy Hochul)21日宣布推進「負責任AI安全與教育法案」(Responsible AI Safety and Education Act，簡稱RAISE Act)的實施，州府將從11月起引導大型前沿 人工智慧 (AI)模型開發商登記，為法案明年1月1日生效作準備；霍楚同時表示，將研究是否有必要為AI系統建立「緊急關閉機制」(kill switch)，作為現有法案之外的進一步保障。

依據法案，大型前沿AI開發商須制定安全與透明度管理框架，並在公司網站公開；另須定期向州府提交災難性風險評估。一旦確認發生重大安全事故，或掌握足以合理相信事故已發生的事實，開發商須在72小時內通報。法案所界定的「災難性風險」，涉及可能造成超過50人死亡或重傷的單一事故，或超過10億元的財產損失等情況。

加州去年已通過類似法案，對比之下，紐約州的事故通報期限由加州的15天縮短至72小時，並增設大型開發商登記及監管費用；加州則在法案中提供較明確的吹哨者保障。

「AI愈來愈難以預測，川普及國會共和黨人卻仍按兵不動；紐約州不會如此」，霍楚表示，開發強大AI技術的企業應公開說明如何維持安全，並在出現問題時承擔責任。

法案在立法過程中曾因監管力度引發分歧。州議會原先通過的版本禁止大型開發商推出會造成「不合理重大傷害風險」的前沿模型；今年通過的最終修訂版刪除該條款，並降低罰款上限，使法律架構更接近加州版本，亦被指更偏向科技業者。霍楚21日被問及是否後悔修訂時未直接回答，但表示現行法律仍有加強空間，下個立法會期可再採取行動。

共同提案人、州參議員高納德斯(Andrew Gounardes)已提出兩項擴大監管的法案，要求大型前沿AI開發商每年接受獨立第三方審查，以及由州府為企業安全框架制定最低標準；兩項提案仍在州參議院委員會審議。另一名共同提案人、州眾議員博雷斯(Alex Bores)也主張向企業取得更多資料，並進一步研議擴大模型監測及安全測試要求。

精華 FAQ Q1：紐約州這次推進的RAISE Act主要要求業者做什麼？ 法案要求大型前沿AI開發商建立安全與透明度管理框架並公開，定期提交災難性風險評估，且一旦發生重大安全事故或掌握合理事實，須在72小時內通報州府。 Q2：霍楚所說的AI「緊急關閉機制」是什麼背景下提出的？ 霍楚是在推進RAISE Act實施時提出，表示AI愈來愈難以預測，州府將研究是否需要為AI系統增設kill switch，作為現有法案之外的進一步安全保障。 Q3：紐約州版本與加州類似法案相比，有哪些差異？ 紐約州將事故通報期限從加州的15天縮短至72小時，並增設大型開發商登記與監管費用；加州則提供較明確的吹哨者保障，整體監管設計略有不同。

Q1：紐約州這次推進的RAISE Act主要要求業者做什麼？ 法案要求大型前沿AI開發商建立安全與透明度管理框架並公開，定期提交災難性風險評估，且一旦發生重大安全事故或掌握合理事實，須在72小時內通報州府。

Q1：紐約州這次推進的RAISE Act主要要求業者做什麼？

法案要求大型前沿AI開發商建立安全與透明度管理框架並公開，定期提交災難性風險評估，且一旦發生重大安全事故或掌握合理事實，須在72小時內通報州府。

Q2：霍楚所說的AI「緊急關閉機制」是什麼背景下提出的？ 霍楚是在推進RAISE Act實施時提出，表示AI愈來愈難以預測，州府將研究是否需要為AI系統增設kill switch，作為現有法案之外的進一步安全保障。

Q2：霍楚所說的AI「緊急關閉機制」是什麼背景下提出的？

霍楚是在推進RAISE Act實施時提出，表示AI愈來愈難以預測，州府將研究是否需要為AI系統增設kill switch，作為現有法案之外的進一步安全保障。

Q3：紐約州版本與加州類似法案相比，有哪些差異？ 紐約州將事故通報期限從加州的15天縮短至72小時，並增設大型開發商登記與監管費用；加州則提供較明確的吹哨者保障，整體監管設計略有不同。

Q3：紐約州版本與加州類似法案相比，有哪些差異？

紐約州將事故通報期限從加州的15天縮短至72小時，並增設大型開發商登記與監管費用；加州則提供較明確的吹哨者保障，整體監管設計略有不同。

每周工作32小時 國會、紐約州推動立法 改善工作與生活平衡