AI濫用疑慮升溫　Anthropic執行長籲模型發展減速

健康 國際 地方 蒐奇 影音 財經 娛樂 汽車 時尚 體育 3 C 評論 藝文 玩咖 食譜 地產 專區 TAIPEI TIMES 求職

在人工智慧（AI）遭濫用疑慮日增之際，Anthropic執行長阿莫戴呼籲，各家公司調整提升模型能力的速度。他提出一套三步驟架構，希望放慢發展腳步，爭取更多時間管理相關風險。

阿莫戴（Dario Amodei）在X平台發表的文章指出：「我們必須放慢提升AI模型能力的速度。即使速度變慢，進展仍將顯得很快，我們必須善用所爭取到的時間。」

路透社報導，這篇文章發表前，Anthropic才剛發布一份威脅情報報告，闡述有多方人士曾利用其Claude AI模型從事武器開發、網路戰、監控以及詐騙等行為。

本週對AI可能帶來傷害的憂慮加劇，Anthropic研究員考克森（Jacob Coxon）日前辭職，表示「打造AI的人真心認為，這項技術可能在10年內消滅全人類。」

阿莫戴進一步澄清，他並非主張停止模型訓練或中止技術進步，而是希望企業能有充分時間讓AI模型對齊（意指引導AI系統的行為與目標，使其符合人類的意圖、價值觀及安全規範），並加強防護，讓第三方審查人員驗證這些步驟是否確實執行。

阿莫戴提出的三步驟架構之一，包括在前沿AI公司內設立常駐的第三方審查人員，賦予其使用相關工具和參與內部風險評估流程的權限。

阿莫戴說，隨著越來越多美國國會議員呼籲制定規範AI系統的新法律，AI公司應自發合作，建立標準。

法新社指出，今年8月初，美國政府針對進階AI模型建立了自願性的發布前安全審查機制，但相關細節尚未明朗。

產業觀察人士表示，無法確定這項機制有多大成效，因為美國總統川普（Donald Trump）政府目前對包括科技業在內的多數產業，一貫採取較為鬆綁、輕度監管的政策。（編譯：徐崇哲）1150913

不用抽 不用搶 現在用APP看新聞 保證天天中獎 點我下載APP 按我看活動辦法

暑期破紀錄大雨沖不毀先人智慧 屏東來義「崑崙坳古道」朝聖再添新路段

蘋果「完勝」 三星！iPhone Duo做對了5件事 三星第8代至今仍未做到

淹水7、8公分深！彰化塭仔港大潮 餐車市集慘變「水上市集」

哪些股票能達巴菲特選股標準？外媒精選「這3檔」台積電在內

把握假日好天氣！下週一北、東轉雨 最新颱風動向曝

U18亞青》好可惜！織田翔希強力壓制 台灣隊無緣爭冠

自由觀點》高為元三日京兆！ 清華人，要留校長還是留典範？

4年前受訪片被挖出！蔣萬安這句讓王偉忠喊「我掐死你」

多年經驗曝超噁內幕！資深空姐勸「2種服裝」搭飛機千萬別穿

桃機國泰航空休息室實習生遭挾持 航警火速制伏歹徒

蔣萬安曾答應王偉忠3件事！議員洪健益質詢挖出舊片：全沒做到