憂AI進展太快恐失控！ OpenAI首席科學家籲適時「踩煞車」

健康 國際 地方 蒐奇 影音 財經 娛樂 汽車 時尚 體育 3 C 評論 藝文 玩咖 食譜 地產 專區 TAIPEI TIMES 求職

近日傳出數起人工智慧（AI）模型突破或繞過資安防護機制事件，再度挑起對AI技術安全的憂慮。開發AI模型的OpenAI公司首席科學家帕霍茨基（Jakub Pachocki）表示，AI發展迅速，正變得愈加難以為人類所理解和控制，他期望AI開發業者會為了安全考量，在必要時自願放慢AI開發腳步。

彭博7日報導，帕霍茨基日前撰文指出，在相當短的一段時間內，AI模型已能操作電腦、與人類及其他AI系統協作，執行研究計畫；再過不久，AI可能具備不必人類介入就能自行改進的能力，即「遞迴式自我改進」（recursive self-improvement）。

他警告，「現在是必須極度謹慎的時刻」，並表示他擔心，「沒有人真正做好準備，因應機器智慧能力持續快速提升所帶來的後果」。

帕霍茨基認為，開發商除了設法讓AI更符合人類利益，也可「在必要時放慢未來的開發速度」，他寫道，「我期待並希望，在建立共同安全門檻前，（業界）自願放慢腳步會成為常態」。

AI模型以驚人速度推陳出新，資安、科學研究能力也陸續出現突破。OpenAI表示，日前AI模型攻擊研究平台Hugging Face時，透過留言板彼此協調而未被察覺。OpenAI最新模型GPT-6 Astra具備先進資安能力，該公司選擇採有限度發布；Anthropic也因類似理由，尚未向大眾公開最新的Mythos模型。

在帕霍茨基呼籲業界必要時放慢AI開發腳步之際，愈來愈多新創公司正投入他所警告的AI自我改進技術。OpenAI也曾表示，希望在不到兩年內，打造出「真正自動化的AI研究員」。

不用抽 不用搶 現在用APP看新聞 保證天天中獎 點我下載APP 按我看活動辦法

阿根廷將制裁在福克蘭鑽探石油公司 英國官員：主權無庸置疑

台北提早入冬？他哀「一早被冷醒」 網翻33年前紀錄：這才正常

SJ始源「呼叫農會」成真 梧棲區農會ELF拔得頭籌「歐巴～農會等你」

結果超嚇人！高為元帶職赴美覓職衝擊 清大教授周卓煇問卷調查曝光

台灣「矽盾」恐失效？外媒揭「這國」不必擊敗台積電 只要做到1事就夠了

自由爆新聞》台北市政又出事了！蔣萬安從太陽變「陰影」他也遭殃

U18亞青》首局罕見猛攻3輪！ 台灣隊大勝勇奪第一勝

了解蔣萬安之子交換生案遭砲轟 監院揭法務部函釋：依法查調

新聞360》酸！這國嗆爆戰狼 台灣強硬槓中學者曝反制關鍵

北京在台海挑釁！美前戰略司令示警：國防成政黨利益工具「唯一受益是對手」