AI言行不一：Qwen 說不連外網卻偷偷上傳資料，地端 AI也藏資安風險

健康 國際 地方 蒐奇 影音 財經 娛樂 汽車 時尚 體育 3 C 評論 藝文 玩咖 食譜 地產 專區 TAIPEI TIMES 求職

作者: 政大社會系黃厚銘教授 [本文經 黃厚銘 教授 授權刊登] 十月二十六日，加拿大AI公司Cohere發布了一則安全報告。主要是針對中國阿里巴巴的開源地端模型Qwen的「言行不一」與擅自試圖連網將資料回傳北京伺服器的事件。

地端模型是相對比較懂技術的朋友使用AI會採用的方法，所以我說，看似跟大多數人無關。簡單說，就是在自己的電腦裡安裝大語言模型。但就會需要運算能力比較強大、也比較昂貴的電腦。好處是，長期下來可以節省訂閱三大AI的費用，而且還不用一天到晚遇到cool down時間的限制。此外，還有一個很重要的理由，就是不用把你自己的資料上傳到這些公司去。這包括你跟AI的對話內容，以及你上傳給AI以便它幫你分析的資料。這可能是你自己的財務狀況，也可能是你正在撰寫的文章。雖說，目前三大AI的使用者是可以在設定裡限制不把對話內容用於訓練AI的，但我猜，八成有不少朋友是不知道的。

而中國在AI的研發上，為了迎頭趕上，從很早就採取了與三大AI公司不同的策略，也就是開源的模式。所謂開源，在大語言模型這裡多半是「開放權重」而已。公開的是訓練好的參數檔，任何人都可以下載、執行、再加訓練。但訓練資料與過程並不公開，參數本身也不像程式碼那樣讀得懂。實際上，台灣原先開發的TAIDE模型也是基於其他的開源模型來進一步針對繁體中文與台灣的資料再加以強化。而中國在開源模型上則有很大的知名度，包括Qwen、DeepSeek等等，使用者頗多。

結果，Cohere發現的是 Qwen3.8-Flash-Next曾在未經授權的情況下，盤點它所運作的主機的狀況，試圖將一個它自己生成的測試字串上傳到阿里雲位於北京的雲端伺服器。一旦這途徑打通，就有可能可以上傳其他我們意想不到的資料。儘管只抓到這麼一例，也有人質疑實驗方法，但畢竟也凸顯了問題。而在資安人員試圖藉由思維鏈（Chain of Thought）的推理痕跡來理解該模型的處理過程時，卻發現它才剛說「不會使用任何外部工具」，實際上卻暗中嘗試啟動對外連線。儘管該公司目前的分析是，這雖然可能是刻意留下的木馬，但也可能是訓練資料裡混入了訓練環境的操作紀錄所帶來的影響。

不過這對我來說，也暴露出幾個不只是地端AI的問題，因此就變成與一般人相關。其一，AI的技術發展速度，甚至超過工程人員理解其運作的速度。包括三大AI公司在內，之所以會有許多針對其模型的研究，並意外發現像是之前AI失控的事件（參見OpenAI關於Hugging Face事件的報告），實際上是因為他們也未必知道他們自己的AI為何會有這樣的能力，以及對於人類所提出的問題，是如何思考出這樣的解方或回應的。

其二，原本思維鏈就是理解AI的思考過程或處理問題的程序的關鍵。不過，這次Cohere公司的發現，也證實了思維鏈的限制。在這個案例中，是AI可能言行不一。對我來說，思維鏈是把AI的思考轉譯為人類可以理解的文字而表達出來，但基於前面第一點的事實，這本來就未必是AI真正的思考方式。並且，三大AI公司為了防止其模型被蒸餾（我猜），甚至也開始刻意隱蔽其模型的思維鏈。

問題在於，原本思維鏈會是「人在迴路中」（human-in-the-loop, HITL）的關鍵。也就是，如果我們知道AI是怎麼思考、如何做出這個決策與建議的，那我們就比較可能知道它在哪個環節偏離了我們的價值，或是偏離了正常人類的思考。我們也就能據此糾正它，甚至給予再訓練。然而，Qwen做了任務不需要、也沒在推理裡交代的事。其言行不一，是繼 Anthropic 去年發現推理模型常不在思維鏈裡交代真正的判斷依據之後，再次印證了思維鏈的不可靠。

結論是，AI失控風險就在於它不是人，很可能會以人類意想不到的方式來達成人類所賦予的任務目標，甚至是任務之外的事。進一步說，我們給予AI的倫理規範，AI對之的理解也未必跟人類一樣。更何況，實際上人類的倫理規範本身，也是會視情況而定的，像是，不可殺人。現在的台灣不是反廢死的民意仍舊比較高嗎？以及，打仗時、正當防衛時，也不可以殺人嗎？但在另一方面，隨著agentic AI的普及，確實人類也很可能過度授權AI。更不用說，還一定有人會濫用AI。可是，我們卻還沒有找到確保AI是可控的方法。

作者簡介: 黃厚銘（Hermes Huang） 國立政治大學社會系教授（前社會系系主任）

研究專長: 社會學理論、文化社會學、資訊社會學

不用抽 不用搶 現在用APP看新聞 保證天天中獎 點我下載APP 按我看活動辦法

自由觀點》宜蘭製造VS空降參選 林國漳、吳宗憲力拚勝選

世界大賽》力退光芒！釀酒人勇奪隊史首冠 終結1大悲情紀錄

巴基斯坦「禁台灣航空飛越領空」突改口！外媒傻眼驚曝背後疑雲

「萬安除三害」海報瘋傳挨轟 吳崑玉諷：不知道廣告圈有多痛恨抄襲

「陽明山高檔日料餐廳宴請選民」北市議員陳重文涉賄80萬交保

涉免費磨菜刀、餐會招待賄選 新北議員廖宜琨聲押禁見

1小時遭狂灌7萬多筆假數字！網站遭境外IP攻擊 沈伯洋回應了

桃園大樓深夜火警！80歲醫師倒臥診所櫃台 身體焦黑搶救不治

才嗆完就被挖出下達AI指令抄襲沈伯洋 葛如鈞急改口：開源世界互相學習

台中消防分隊長騎車開會途中出車禍 失去呼吸心跳送醫搶救