AI濫用疑慮升溫 Anthropic執行長籲模型發展減速

Anthropic執行長阿莫戴。(美聯社)

在 人工智慧 （AI）遭濫用疑慮日增之際， Anthropic 執行長阿莫戴呼籲，各家公司調整提升模型能力的速度。他提出一套三步驟架構，希望放慢發展腳步，爭取更多時間管理相關風險。

阿莫戴（Dario Amodei）在X平台發表的文章指出：「我們必須放慢提升AI模型能力的速度。即使速度變慢，進展仍將顯得很快，我們必須善用所爭取到的時間。」

路透社報導，這篇文章發表前，Anthropic才剛發布一份威脅情報報告，闡述有多方人士曾利用其Claude AI模型從事武器開發、網路戰、監控以及詐騙等行為。

本週對AI可能帶來傷害的憂慮加劇，Anthropic研究員考克森（Jacob Coxon）日前辭職，表示「打造AI的人真心認為，這項技術可能在10年內消滅全人類。」

阿莫戴進一步澄清，他並非主張停止模型訓練或中止技術進步，而是希望企業能有充分時間讓AI模型對齊（意指引導AI系統的行為與目標，使其符合人類的意圖、價值觀及安全規範），並加強防護，讓第三方審查人員驗證這些步驟是否確實執行。

阿莫戴提出的三步驟架構之一，包括在前沿AI公司內設立常駐的第三方審查人員，賦予其使用相關工具和參與內部風險評估流程的權限。

阿莫戴說，隨著越來越多美國國會議員呼籲制定規範AI系統的新法律，AI公司應自發合作，建立標準。

法新社指出，今年8月初，美國政府針對進階AI模型建立了自願性的發布前安全審查機制，但相關細節尚未明朗。

產業觀察人士表示，無法確定這項機制有多大成效，因為美國總統川普（Donald Trump）政府目前對包括科技業在內的多數產業，一貫採取較為鬆綁、輕度監管的政策。

精華 FAQ Q1：Anthropic執行長阿莫戴對AI發展速度提出了什麼主張？ 阿莫戴呼籲各家公司放慢提升AI模型能力的速度，認為即使節奏變慢，進展仍會很快，重點是爭取更多時間管理安全風險。 Q2：他提出的三步驟架構，核心目的是什麼？ 這套架構主要是讓企業有足夠時間進行模型對齊、加強防護，並讓第三方審查人員驗證安全措施是否真正落實，以降低濫用風險。 Q3：Anthropic近期揭露了哪些AI濫用案例？ Anthropic發布威脅情報報告指出，曾有人利用Claude AI從事武器開發、網路戰、監控與詐騙等行為，凸顯前沿模型已被用於多種不當用途。

Q1：Anthropic執行長阿莫戴對AI發展速度提出了什麼主張？ 阿莫戴呼籲各家公司放慢提升AI模型能力的速度，認為即使節奏變慢，進展仍會很快，重點是爭取更多時間管理安全風險。

Q1：Anthropic執行長阿莫戴對AI發展速度提出了什麼主張？

阿莫戴呼籲各家公司放慢提升AI模型能力的速度，認為即使節奏變慢，進展仍會很快，重點是爭取更多時間管理安全風險。

Q2：他提出的三步驟架構，核心目的是什麼？ 這套架構主要是讓企業有足夠時間進行模型對齊、加強防護，並讓第三方審查人員驗證安全措施是否真正落實，以降低濫用風險。

Q2：他提出的三步驟架構，核心目的是什麼？

這套架構主要是讓企業有足夠時間進行模型對齊、加強防護，並讓第三方審查人員驗證安全措施是否真正落實，以降低濫用風險。

Q3：Anthropic近期揭露了哪些AI濫用案例？ Anthropic發布威脅情報報告指出，曾有人利用Claude AI從事武器開發、網路戰、監控與詐騙等行為，凸顯前沿模型已被用於多種不當用途。

Q3：Anthropic近期揭露了哪些AI濫用案例？

Anthropic發布威脅情報報告指出，曾有人利用Claude AI從事武器開發、網路戰、監控與詐騙等行為，凸顯前沿模型已被用於多種不當用途。

挑9時11分下手 男子揮巴勒斯坦旗打斷9/11洋基比賽