防範AI風險　微軟CEO納德拉：須由人類設立與執行煞車機制

AI人工智慧示意圖。（圖取自Unsplash圖庫）

（中央社舊金山11日綜合外電報導）科技巨擘微軟董事長暨執行長納德拉近日呼籲，建構先進人工智慧（AI）系統時，應具備遏制、獨立控制及「緊急煞車」措施，使獲得授權的人員執行任務時能暫停或關閉模型。

美國財經媒體CNBC報導，納德拉（Satya Nadella）昨天在社群媒體X發文說：「我們需要以強大、具有確定性（deterministic）的系統設計、由人類控制以及可靠的操作程序，來圍繞非確定性模型，並在既有標準不足之處建立產業標準。」

納德拉指出：「將前沿的閉源及開放權重模型比照內部風險進行控管，是建構此類系統的一種方式。」

微軟（Microsoft）共同創辦人比爾蓋茲（Bill Gates）、Anthropic執行長阿莫戴（Dario Amodei）、OpenAI執行長阿特曼（Sam Altman），以及太空探索科技公司（SpaceX）執行長馬斯克（Elon Musk）等頂尖科技公司高層與研究人員，近來紛紛示警AI安全協定不足以及AI技術發展步調過快。

納德拉並表示，AI系統設計應依循「可觀測性的原則」，像是模型多樣性、模型行動的可讀性紀錄、持續的系統測試、獨立控制與可審計性、遏制機制以及安全事件披露。

他強調：「最值得信賴的超級智慧（Super Intelligence）系統，不會是擁有我們最信任模型的系統，而是能讓我們最不需要去盲目信任模型的系統。」（編譯： 洪啓原 ）1151011

微軟遭美政府暫停綠卡計畫資格 執行長同日獲川普頒獎 2026/10/09 15:41

涉濫用、詐欺 美暫停微軟等科技巨頭參與外籍勞工綠卡計畫 2026/10/09 01:45

微軟推PC端AI模型與高階筆電 攜手輝達挑戰蘋果 2026/10/08 11:23

微軟Copilot迎3大功能 主打自主AI代理與低門檻開發 2026/09/25 21:17

台灣AI使用率升至33.8% 躍居全球第19名 2026/09/22 12:36

微軟系統全球大當機重點一次看 出包公司CrowdStrike是什麼？ 2024/07/19 22:58

選擇與事實站在一起，您的每一份贊助，都是守護新聞自由的力量

下載中央社「一手新聞」APP，即時掌握最新消息

本網站之文字、圖片及影音，非經授權，不得轉載、公開播送或公開傳輸及利用。