紐約市議會推AI監管 擬設「緊急終止開關」、獎勵吹哨者

市議會議長梅寧(Julie Menin)近日提出一系列人工智慧(AI)監管法案，擬要求在紐約市營業的AI公司接受第三方安全驗證。(取自市議會Flickr)

AI摘要 文章摘要整理： 紐約市擬以新法管制AI公司，要求第三方驗證、安全終止機制與吹哨者獎勵，並邀請多家科技巨頭出席聽證，回應AI風險升溫。

紐約市擬以新法管制AI公司，要求第三方驗證、安全終止機制與吹哨者獎勵，並邀請多家科技巨頭出席聽證，回應AI風險升溫。

紐約市 議長 梅寧 (Julie Menin)近日提出一系列人工智慧(AI)監管案，擬要求在紐約市營業的AI公司接受第三方安全驗證，並為系統設置可由人類操作的「緊急終止開關」(kill switch)；另一項提案則以罰款收入，獎勵揭發違規企業的吹哨者。

全體51名市議員將於10月5日(周一)舉行罕見的全體聽證會，討論快速發展的AI對市民構成的風險。梅寧已致函五家主要科技企業負責人，要求Anthropic執行長阿莫代(Dario Amodei)、OpenAI執行長奧特曼(Sam Altman)、 Google 執行長皮查伊(Sundar Pichai)、馬斯克(Elon Musk)及Meta執行長祖克柏(Mark Zuckerberg)出席。

根據提案，科技公司未經外部專家核實內部安全說法，不得在紐約市內推廣、銷售或部署AI系統；在市內使用的AI工具也須設置可由人類介入、即時關閉系統的機制。每項違規最高可罰2萬5000元。

梅寧表示，市府希望鼓勵紐約發展為全球科技及AI重鎮，但這也意味當局更有責任設置適當防護，避免無心造成的後果。她指出，紐約市監管各行各業，多家主要AI公司也在此設點，這項新興科技卻幾乎未受規管。

市議會表示，提案適用於在市內設點並向市民提供服務的企業，可由市府執法；若監督未同步加強，前沿AI模型恐帶來災難性風險。

這套市級法案與州府近期行動相呼應。州長霍楚(Kathy Hochul)日前宣布，AI公司11月起須在州府網站登記，並在重大安全事故發生後72小時內通報；她也未排除採用終止開關。

AI安全疑慮本月再度升溫。Anthropic研究員考克森(Jacob Coxon)辭職時警告，業界競相開發可自行改進的超級智能，可能在本世紀末前危及人類。

精華 FAQ Q1：紐約市議會這次提出了哪些主要AI監管措施？ 提案核心包括要求在紐約市營業的AI公司接受第三方安全驗證，並為系統設置可由人類操作的緊急終止開關，同時透過罰款收入獎勵吹哨者。 Q2：如果AI公司未遵守紐約市的新規，可能面臨什麼處罰？ 根據提案，未經外部專家核實安全說法就推廣、銷售或部署AI系統者，市府可處罰款，每項違規最高可達2萬5000元，並可由市府執法。 Q3：這項市級AI法案與紐約州近期政策有何關聯？ 市級提案與州府方向相呼應。州長霍楚已宣布，AI公司11月起須在州府網站登記，重大安全事故也要在72小時內通報，並未排除採用終止開關。

Q1：紐約市議會這次提出了哪些主要AI監管措施？ 提案核心包括要求在紐約市營業的AI公司接受第三方安全驗證，並為系統設置可由人類操作的緊急終止開關，同時透過罰款收入獎勵吹哨者。

Q1：紐約市議會這次提出了哪些主要AI監管措施？

提案核心包括要求在紐約市營業的AI公司接受第三方安全驗證，並為系統設置可由人類操作的緊急終止開關，同時透過罰款收入獎勵吹哨者。

Q2：如果AI公司未遵守紐約市的新規，可能面臨什麼處罰？ 根據提案，未經外部專家核實安全說法就推廣、銷售或部署AI系統者，市府可處罰款，每項違規最高可達2萬5000元，並可由市府執法。

Q2：如果AI公司未遵守紐約市的新規，可能面臨什麼處罰？

根據提案，未經外部專家核實安全說法就推廣、銷售或部署AI系統者，市府可處罰款，每項違規最高可達2萬5000元，並可由市府執法。

Q3：這項市級AI法案與紐約州近期政策有何關聯？ 市級提案與州府方向相呼應。州長霍楚已宣布，AI公司11月起須在州府網站登記，重大安全事故也要在72小時內通報，並未排除採用終止開關。

Q3：這項市級AI法案與紐約州近期政策有何關聯？

市級提案與州府方向相呼應。州長霍楚已宣布，AI公司11月起須在州府網站登記，重大安全事故也要在72小時內通報，並未排除採用終止開關。

費城僑學界慶祝中華人民共和國成立77週年升旗遊行儀式