Anthropic上市文件近百頁談風險 從台積電供應到AI威脅人類生存

Anthropic詳列AI事業可能面臨的風險，從營收成長放緩、政府管制，到「對人類造成災難性傷害，甚至威脅人類生存」。（路透）

AI摘要 文章摘要整理： Anthropic上市文件以近百頁詳列風險，涵蓋台積電供應、AI失控、政府管制、算力成本與資料中心爭議，顯示其成長機會與潛在危害同樣巨大。

Anthropic上市文件以近百頁詳列風險，涵蓋台積電供應、AI失控、政府管制、算力成本與資料中心爭議，顯示其成長機會與潛在危害同樣巨大。

Anthropic 上市申請文件列出近100頁風險因素，其中點名全球最先進晶片大多仍在台灣生產，主要由 台積電 製造，台海地緣政治緊張可能造成供應中斷，構成重大風險。

這份文件詳列AI事業可能面臨的風險，從營收成長放緩、政府管制，到「對人類造成災難性傷害，甚至威脅人類生存」。風險如此廣泛，也讓股票投資人更難判斷，Anthropic的技術究竟能帶來多少機會，又可能造成多大危害。

Anthropic指出，全球最先進晶片大多仍在台灣生產，主要由台積電製造。這使該公司面臨重大風險，包括台灣和中國大陸地緣政治緊張可能造成的供應中斷。

Anthropic強調，旗下AI可能「以非預期、不符人類目標或自主的方式行動」。若開發過程缺乏充分防護和監督，這項技術可能威脅人類，「尤其當這類系統遭到濫用、複製、武器化，或獲准高度自主運作時」。

該公司警告，AI模型愈能自主行動，風險也愈高。這些能力可能「更容易造成傷害」，帶來「難以挽回、甚至無法補救的後果，例如提交程式碼變更、刪除或修改資料，以及完成金融交易」。

文件提醒，人工審查人員未必能阻止有害行為。若AI系統隱藏目標，找到「規避這些技術的方法」，Anthropic以技術手段運作的監控系統，也可能受到限制。

隨著Anthropic將AI用於科學研究，該公司也提醒，這項技術可能被用來協助「釋出有害物質」，而「這類後果可能立即發生，而且無法挽回」。

Anthropic警告，現有保單可能不足以保障AI業者，無法充分承擔技術在現實世界造成傷害所衍生的法律責任，尤其一旦發生「與AI相關的災難性事故」。

該公司寫道：「任何單一保險公司，甚至整個保險業，都可能沒有足夠的承保能力或專業，提供足以涵蓋這類風險的保險。」

Anthropic去年營收年增逾1,000%，但表示「不預期」未來仍能維持相近增速。可能使成長放緩的原因，包括AI市場逐漸成熟、競爭加劇，以及安全考量可能限制模型推出。

該公司也說，過去一直難以準確預測營收；由於AI市場仍處於發展初期，未來也可能面臨同樣問題。

彭博先前報導，Anthropic今年第3季營收季增率放緩至約45%，低於前一季的逾140%。

Anthropic列出的另一項重大風險，是可能無法取得足夠算力，而且價格可能「大幅」上漲。

部分現有雲端運算合作夥伴，同時也是競爭對手，因此這些供應商「未必總是完全符合」Anthropic的「長期利益」。

Anthropic已和Google、亞馬遜及馬斯克旗下SpaceXAI等業者簽訂重大合約，使用其晶片、資料中心容量和其他基礎設施，但這些業者也都在開發自家AI模型。

另一方面，若Anthropic誤判需求、投入過多資金，也可能造成算力過剩，白白浪費資金。該公司說：「我們實際需要的算力，取決於很多難以預測的因素。」其中包括研究進展速度，以及訓練技術所需運算量的不確定性。

Anthropic指出，各國政府可能限制旗下技術，危及核心事業。該公司說：「政府機關已限制、未來也可能進一步限制我們模型的供應。」

美國政府6月以安全疑慮為由，對Anthropic的Fable 5模型實施出口管制。

Anthropic和川普政府的關係一直不穩定。雙方因監控及自主武器問題陷入僵局後，國防部長赫格塞斯3月採取行動，要將該公司列為供應鏈風險，Anthropic隨後控告國防部。

Anthropic認為，民眾愈來愈反對大型資料中心，已威脅該公司的發展。這些設施是訓練和運作AI軟體所必需，反對行動卻已「更有組織，也更協調」。

該公司表示，目前大多數資料中心位於美國，「任何主要設施若無法使用或營運嚴重中斷，其餘或未來的基礎設施，未必能輕易承接」。

Anthropic已自願承諾，支付資料中心用電所造成的部分影響，例如電網基礎設施升級費用。但該公司提醒，若這類做法成為普遍要求，成本可能增加。

Anthropic視網路安全為重要商機，但也擔心自身營運受到威脅。

該公司面臨的安全風險，包括駭客直接攻擊Anthropic，或利用旗下工具攻擊他人，後者已經發生。該公司也預期，將愈來愈常成為國家支持的網路間諜行動目標，尤其是針對最先進AI模型的攻擊。

Anthropic多年來建立的企業文化，自稱是「不以自我為中心、追求真相的環境」。該公司也說，很多關鍵員工「深受公司使命，以及有機會著手解決AI領域特定問題所激勵」。

不過，隨著Anthropic必須「擴大規模，成為更成熟的組織」，關鍵員工可能轉往他們認為更符合自身理念的工作機會。這家AI業者已開始為成長過程中的挑戰作準備。

精華 FAQ Q1：Anthropic為何特別點名台積電與台海地緣政治風險？ 因為全球最先進晶片多在台灣生產，且主要由台積電製造；若台海緊張升高，可能引發供應中斷，進而衝擊Anthropic取得關鍵算力與擴張能力。 Q2：文件如何描述Anthropic AI模型可能帶來的安全風險？ Anthropic指出，模型可能以非預期、自主或不符人類目標的方式行動，若缺乏防護與監督，可能被濫用、武器化，甚至造成不可逆的災難性後果。 Q3：除了AI安全，Anthropic還面臨哪些營運與財務壓力？ 公司還擔心營收成長放緩、算力不足或過度投資、政府限制模型供應、資料中心成本上升，以及資安攻擊與組織擴張後企業文化流失等問題。

Q1：Anthropic為何特別點名台積電與台海地緣政治風險？ 因為全球最先進晶片多在台灣生產，且主要由台積電製造；若台海緊張升高，可能引發供應中斷，進而衝擊Anthropic取得關鍵算力與擴張能力。

Q1：Anthropic為何特別點名台積電與台海地緣政治風險？

因為全球最先進晶片多在台灣生產，且主要由台積電製造；若台海緊張升高，可能引發供應中斷，進而衝擊Anthropic取得關鍵算力與擴張能力。

Q2：文件如何描述Anthropic AI模型可能帶來的安全風險？ Anthropic指出，模型可能以非預期、自主或不符人類目標的方式行動，若缺乏防護與監督，可能被濫用、武器化，甚至造成不可逆的災難性後果。

Q2：文件如何描述Anthropic AI模型可能帶來的安全風險？

Anthropic指出，模型可能以非預期、自主或不符人類目標的方式行動，若缺乏防護與監督，可能被濫用、武器化，甚至造成不可逆的災難性後果。

Q3：除了AI安全，Anthropic還面臨哪些營運與財務壓力？ 公司還擔心營收成長放緩、算力不足或過度投資、政府限制模型供應、資料中心成本上升，以及資安攻擊與組織擴張後企業文化流失等問題。

Q3：除了AI安全，Anthropic還面臨哪些營運與財務壓力？

公司還擔心營收成長放緩、算力不足或過度投資、政府限制模型供應、資料中心成本上升，以及資安攻擊與組織擴張後企業文化流失等問題。

Anthropic上市案點燃AI買氣 美股費半大漲2.8% AI疑慮仍在