Anthropic CEO阿莫戴喊「AI減速」自己也難踩煞車

AI巨擘Anthropic執行長阿莫戴呼籲放慢尖端模型發展速度。(路透)

Anthropic 執行長阿莫戴(Dario Amodei)三歲時有時會宣布，「今天是數數日」，接著真花一天不停數數。妹妹丹妮拉回憶，哪個三歲小孩有這種專注力？

阿莫戴高中沒畢業，就已到加州大學 柏克萊 分校修課。幾十年後這個從小就能盯著一件事不放的人，最在意的是另一件事，人工智慧(AI)是不是跑太快了。

阿莫戴現在站在全球AI競賽的最前線，卻公開呼籲前沿模型放慢發展，讓安全的研究能追上。

問題是Anthropic自己也沒停。輝達(Nvidia，另稱英偉達)執行長 黃仁勳 因此直接反問，若一家公司覺得，自己的AI進展已失控，那要暫停或放慢，大可自己決定。Anthropic不但沒有放緩發展腳步，反而要繼續推動Anthropic在10底之前IPO公開上市募資，他的競爭對手OpenAI反宣布暫緩IPO。

阿莫戴並非想將科技「鎖回實驗室」的人。他在舊金山長大，父親從義大利移民美國，做過皮革工匠，之後因慢性病無法工作，在阿莫戴青少年時去世。阿莫戴自己也罹患早期癌症。

這些經歷讓阿莫戴對科技有一種近乎急迫的期待。他相信，夠強大的AI可能在5至10年內大幅加快治療癌症及其他重大疾病。對他而言，AI跑得太慢也會有代價。丹妮拉形容，阿莫戴從小不只擅長數學與科學，也同樣關心世界正在發生什麼。

阿莫戴讀物理及生物物理，進入「Google大腦」，再到OpenAI參與GPT-2、GPT-3與「人類回饋強化學習」等早期研究。他在2021年與丹妮拉及一批OpenAI前同事創辦Anthropic。

今年阿莫戴為安全紅線真的付出代價。Anthropic拒讓Claude模型毫無限制地用於大規模國內監控與完全自主致命武器，之後和五角大廈翻臉，因此遭列為供應鏈風險；8月底聯邦法官判決五角大廈將Anthropic列為供應鏈風險的處分違法。

如今Anthropic拿著巨額投資，和OpenAI、Google及中國實驗室搶人才、算力與客戶。即使阿莫戴真的相信AI恐失控，他也知道單一公司單獨踩煞車，別人未必會跟著停。因此他現在要做的，不是讓Anthropic退出，而是想辦法讓所有人一起慢。

阿莫戴12日發表「我們必須踩住前沿發展的節奏」，主張AI公司應先放慢提升能力的速度，讓安全的研究有時間追上。

阿莫戴知道，外界未必相信他們。他最近形容，AI正面對的「根本上是一場信任危機」。科技公司再怎麼宣稱AI有天能治癌症都沒用，「把癌症治好才真的有用」。這句話很阿莫戴。

阿莫戴沒打算跳下列車。他想讓它繼續往前，但又別快到沒人踩得住煞車。偏偏他自己也坐在最前面的車廂內。

精華 FAQ Q1：阿莫戴為何主張AI前沿模型要放慢速度？ 他認為AI能力提升太快，安全研究跟不上，可能帶來失控風險，因此主張先踩住前沿發展節奏，讓安全機制與治理能力有時間補上。 Q2：外界為何質疑Anthropic的減速立場？ 因為Anthropic自己並未真正停下，仍持續吸引資金、搶人才與算力，還計畫在10底前IPO；競爭對手認為，若真覺得失控，公司可先自行放慢。 Q3：阿莫戴對AI的期待與擔憂分別是什麼？ 他相信強大AI可在5到10年內加速治療癌症與重大疾病，但也擔心技術跑得太快會超出人類控制，因此希望AI前進但不要快到無法煞車。

Q1：阿莫戴為何主張AI前沿模型要放慢速度？ 他認為AI能力提升太快，安全研究跟不上，可能帶來失控風險，因此主張先踩住前沿發展節奏，讓安全機制與治理能力有時間補上。

Q1：阿莫戴為何主張AI前沿模型要放慢速度？

他認為AI能力提升太快，安全研究跟不上，可能帶來失控風險，因此主張先踩住前沿發展節奏，讓安全機制與治理能力有時間補上。

Q2：外界為何質疑Anthropic的減速立場？ 因為Anthropic自己並未真正停下，仍持續吸引資金、搶人才與算力，還計畫在10底前IPO；競爭對手認為，若真覺得失控，公司可先自行放慢。

Q2：外界為何質疑Anthropic的減速立場？

因為Anthropic自己並未真正停下，仍持續吸引資金、搶人才與算力，還計畫在10底前IPO；競爭對手認為，若真覺得失控，公司可先自行放慢。

Q3：阿莫戴對AI的期待與擔憂分別是什麼？ 他相信強大AI可在5到10年內加速治療癌症與重大疾病，但也擔心技術跑得太快會超出人類控制，因此希望AI前進但不要快到無法煞車。

Q3：阿莫戴對AI的期待與擔憂分別是什麼？

他相信強大AI可在5到10年內加速治療癌症與重大疾病，但也擔心技術跑得太快會超出人類控制，因此希望AI前進但不要快到無法煞車。

「瘦瘦針」掀新一波訴訟 恐引發「罕見眼中風」失明風險