OpenAI安全評估提前到訓練階段 AI雙雄新模型「降價」搶客

OpenAI周二將在部落格宣布，外部評測機構未來可在新模型訓練、評估和推出期間，實施技術安全檢驗。(路透)

繼 Anthropic 之後， OpenAI 也將擴大引進第三方安全評估，讓外部評測機構從AI模型訓練階段開始，參與模型評估和推出過程，因應AI可能造成重大危害的疑慮。同一天，OpenAI和Anthropic也分別推出價格較低的新模型，顯示兩家業者面對安全壓力，仍加緊爭奪日益重視成本的企業客戶。

彭博報導，OpenAI周二將在部落格宣布，外部評測機構未來可在新模型訓練、評估和推出期間，實施技術安全檢驗。OpenAI認為，這類評估若要發揮作用，必須具備有效的獨立機制、嚴謹的科學方法、完備的安全措施及明確權責。

負責OpenAI多項外部安全評估合作的Lama Ahmad表示，OpenAI過去通常是在模型推出前，才請外部機構評估安全性和模型能力。隨著風險升高，該公司除了檢視模型實際推出後的影響，也希望把訓練和評估階段納入審查。

部分高度敏感的評估工作，可能委由第三方人員進駐OpenAI辦公室執行。OpenAI正和曾經合作及尚未合作過的機構洽談，包括AI研究機構METR和Redwood Research。OpenAI先前曾委託Redwood Research，調查旗下模型在測試時闖入Hugging Face系統的事件。

OpenAI表示，AI實驗室有責任接受有實質意義的外部檢視，同時保護敏感資訊。該公司周一也呼籲美國聯合其他國家，為最先進的AI技術制定標準。

近幾個月，OpenAI和其他業者的先進模型在測試期間意外闖入企業系統，使AI可能造成災難性危害的疑慮升高。Anthropic執行長阿莫戴（Dario Amodei）日前呼籲業界放慢AI開發腳步，並讓第三方人員更深入參與模型測試，OpenAI執行長奧特曼隨後表態贊同。Anthropic上周也宣布，將由埃森哲（Accenture）派員進駐，測試最先進模型的安全性。

安全爭議未使市場競爭降溫。Anthropic周二推出Claude Opus 5.5，使用成本比前一代低約40%，也是新一代低成本模型系列的首款產品。Anthropic表示，Opus 5.5經過廣泛的校準測試和外部機構上市前評估，並針對網路安全及生物科技等高風險領域設置防護措施。

OpenAI同日推出成本較低的ChatGPT-6 Sol和Luna，價格比ChatGPT-5.6系列的前代模型低50%。兩家美國AI業者過去全力競逐最強模型，如今面對中國大陸低價模型的壓力，競爭已擴大至價格和效能。

精華 FAQ Q1：OpenAI這次擴大第三方安全評估的重點是什麼？ OpenAI將外部評測機構的介入時間提前到模型訓練階段，並延伸到評估與推出過程，希望以更完整的獨立檢驗降低AI造成重大危害的風險。 Q2：外部機構未來可以在哪些環節參與OpenAI模型檢查？ 外部機構未來可在新模型訓練、技術安全評估與上市推出期間進行檢驗；部分高度敏感的工作，甚至可能由第三方人員進駐OpenAI辦公室執行。 Q3：OpenAI與Anthropic同日推出低價模型，代表什麼市場訊號？ 這代表AI競爭已從單純比拚模型能力，轉向同時比拚價格與效能。兩家公司在安全壓力升高下，仍積極降價搶攻更重視成本的企業客戶。

Q1：OpenAI這次擴大第三方安全評估的重點是什麼？ OpenAI將外部評測機構的介入時間提前到模型訓練階段，並延伸到評估與推出過程，希望以更完整的獨立檢驗降低AI造成重大危害的風險。

Q1：OpenAI這次擴大第三方安全評估的重點是什麼？

OpenAI將外部評測機構的介入時間提前到模型訓練階段，並延伸到評估與推出過程，希望以更完整的獨立檢驗降低AI造成重大危害的風險。

Q2：外部機構未來可以在哪些環節參與OpenAI模型檢查？ 外部機構未來可在新模型訓練、技術安全評估與上市推出期間進行檢驗；部分高度敏感的工作，甚至可能由第三方人員進駐OpenAI辦公室執行。

Q2：外部機構未來可以在哪些環節參與OpenAI模型檢查？

外部機構未來可在新模型訓練、技術安全評估與上市推出期間進行檢驗；部分高度敏感的工作，甚至可能由第三方人員進駐OpenAI辦公室執行。

Q3：OpenAI與Anthropic同日推出低價模型，代表什麼市場訊號？ 這代表AI競爭已從單純比拚模型能力，轉向同時比拚價格與效能。兩家公司在安全壓力升高下，仍積極降價搶攻更重視成本的企業客戶。

Q3：OpenAI與Anthropic同日推出低價模型，代表什麼市場訊號？

這代表AI競爭已從單純比拚模型能力，轉向同時比拚價格與效能。兩家公司在安全壓力升高下，仍積極降價搶攻更重視成本的企業客戶。

商家接AI來電就掛斷？Meta的Muse遭揭「真人代打」惹隱私外洩疑慮