別把AI當出氣筒！Claude首度禁止用戶亂罵　11月新規上路 - 自由電子報 3C科技

智慧手機 新機消息 評測報告 穿戴裝置 促銷資費 手機周邊 Pad 平板 iOS Android 行動OS

實用秘技 電腦相關 手機應用 拍照技巧 APP特蒐

電腦應用 筆記型電腦 桌上型電腦 作業系統 電腦周邊 軟體應用 虛擬實境 網路社群 Facebook LINE Google 網路服務 瀏覽器 資訊安全 好攝相機 數位相機 數位單眼 攝影機 運動/全景相機 相機配備 測評報告 家電娛樂 生活家電 視聽家電 娛樂遊戲 科技趣聞 生活科技 科學新知 3C 趣聞

網路社群 Facebook LINE Google 網路服務 瀏覽器 資訊安全

好攝相機 數位相機 數位單眼 攝影機 運動/全景相機 相機配備 測評報告

科技趣聞 生活科技 科學新知 3C 趣聞

Claude首次明文禁止使用者持續辱罵或惡意對待AI模型，(圖／路透社)

不要以為跟AI聊天機器人聊天時，可以毫無理由的辱罵，Anthropic針對旗下Claude更新使用政策，首次明文禁止使用者持續辱罵或惡意對待AI模型，新規預計11月12日起正式生效。不過，並不是對AI抱怨幾句就算違規，官方也特別說明了哪些情況才會踩到紅線。

Anthropic這次更新使用政策，除了進一步明確規範不得利用 AI干預選舉、開發武器軟體及監控等行為，最讓人關注的，就是新增一項「禁止虐待 AI」的規定，使用者不能長時間、毫無理由地辱罵或惡意對待 Claude。

不過，這不代表以後只要對Claude說一句難聽話，就會被認定違規。Anthropic特別強調，新規定只針對極端情況，例如使用者長時間、反覆惡意辱罵AI，而且毫無合理目的。至於一般使用者因為AI答錯問題而生氣、抱怨幾句，或是直接反駁AI，都不算違規。即使利用AI創作黑暗題材，或進行模型測試與研究，也不受影響。

事實上，Anthropic早在今年8月就已經讓Claude具備「拒絕繼續聊天」的能力。如果遇到使用者持續進行有害或辱罵性的互動，Claude可以主動結束對話，不再繼續回應。

這次政策更新，則是進一步將相關行為正式列入禁止事項。至於違規會有什麼後果？目前主要的處理方式仍是讓Claude直接結束對話，官方尚未明確說明未來是否會進一步採用帳號停權等處罰。

ChatGPT錄音轉逐字稿要付錢！網狂推Google這款免費神器

不用抽 不用搶 現在用APP看新聞 保證天天中獎 點我下載APP 按我看活動辦法