在AI狂潮下CPU交期拉長 但專家精算 實際需求可能沒那麼多
Meta推出的新AI代理Muse迅速竄紅,不僅能開啟雲端瀏覽器、像人類一樣瀏覽網站,甚至在關閉應用程式後仍能在背景處理任務。在AI代理帶動下,曾被GPU蓋過風頭的CPU,再受矚目。但有人認為,儘管CPU交貨期拉長,但個人AI代理的需求展望,仍不足對這個產業帶來顯著影響。

Meta推出的新AI代理Muse迅速竄紅。(路透)
AI摘要 文章摘要整理: AI代理帶動CPU再受關注,但專家指出在虛擬機超額配置與低實際利用率下,Meta Muse的真實CPU需求可能沒有市場想像中那麼大。
AI代理帶動CPU再受關注,但專家指出在虛擬機超額配置與低實際利用率下,Meta Muse的真實CPU需求可能沒有市場想像中那麼大。
Meta推出的新AI代理Muse迅速竄紅,不僅能開啟雲端瀏覽器、像人類一樣瀏覽網站,甚至在關閉應用程式後仍能在背景處理任務。在AI代理帶動下,曾被GPU蓋過風頭的CPU,再受矚目。但有人認為,儘管CPU交貨期拉長,但個人AI代理的需求展望,仍不足對這個產業帶來顯著影響。
集邦科技(TrendForce)的每周雷達顯示,CPU交貨期已從均衡狀態下的16至20周延長至25至30周。儘管個人AI代理的熱潮仍處於剛起步的階段,這項數據無疑強化了市場看多CPU的論據。
為消除隱私疑慮,Muse運作於專屬且獨立的雲端電腦(即虛擬機)內部。Meta已承諾為每位Muse使用者配備一台搭載2顆vCPU、8GB RAM和100GB SSD的專屬虛擬機。粗略的初步估算顯示,隨著Muse代理的日活躍用戶規模擴大,將帶動額外數百萬顆CPU需求。
但Altimeter Capital合夥人Freda Duan在一篇見解獨到的文章中指出,現實中,AI 代理的虛擬機往往有超額配置的情況,特別是處於運行中的虛擬機,大部分時間其實都在等待模型回應、使用者輸入、回傳結果以及網路傳輸等。此外,虛擬機器雖處於活躍狀態並占用記憶體,但實際的CPU使用率往往接近於零。
Freda Duan假設Meta Muse日活躍用戶為1億,且每個代理平均每天平均運作2小時。在此情境下,需有833萬台虛擬機(算式為1億×2/24)。這2小時的工作負載並非均勻分布,會集中於尖峰時段。所以要乘以一個峰值因數才夠用,假定要2.5倍,得出任何時候都應有2,080萬台虛擬機處於可用狀態。接著還要加上約20%的備用量能,因應突發狀況,最終得出需要2,500萬台運行中的虛擬機來支援1億日活躍用戶。
那每個虛擬機需要多少顆實體CPU核心?為了推導出答案,Freda Duan參考了DeepSeek的DSec代理沙盒平台架構。DeepSeek平均一台伺服器裝188顆實體CPU核心,上面卻硬生生塞了800台微型虛擬機,換算下來,每台虛擬機只分到約0.23顆實體CPU核心。
由於Meta很難企及DeepSeek的精簡程度。因此,Freda Duan將放寬至每個運行中的虛擬機,佔用0.3至0.75顆實體CPU核心,並以0.5當作基準情境,然後綜合上述條件,在2,500萬台運行中虛擬機的基準情境下,Meta可能只需1,250萬顆CPU核心。
當然,投資人務必注意一件微妙的事情。每台虛擬機配置0.5顆CPU核心的假設並非一成不變,實際上應隨著推論速度而變。表面上來看,更快的推論速度似乎會進一步減少分配給每台虛擬機的核心數量;然而,絕對不能忽視「傑文斯悖論」(Jevons paradox),亦即當一項技術變得更有效率時,整體需求不減反增。
精華 FAQ Q1:為什麼AI代理熱潮會讓CPU重新受到市場關注? 因為Meta的Muse等AI代理需要在雲端虛擬機中長時間運作,帶動CPU交期從16至20周拉長到25至30周,市場因此認為需求可能增加。 Q2:Freda Duan是如何估算Muse的CPU需求量的? 她先以1億日活、每天運作2小時計算出833萬台虛擬機,再乘上2.5倍峰值與20%備援,推得約2,500萬台運行中虛擬機。 Q3:為什麼專家認為實際CPU需求可能沒那麼多? 因為AI代理虛擬機常有超額配置,很多時間只是等待回應、輸入與傳輸,CPU使用率接近零;再加上推論效率提升,也可能降低每台所需核心數。
Q1:為什麼AI代理熱潮會讓CPU重新受到市場關注? 因為Meta的Muse等AI代理需要在雲端虛擬機中長時間運作,帶動CPU交期從16至20周拉長到25至30周,市場因此認為需求可能增加。
Q1:為什麼AI代理熱潮會讓CPU重新受到市場關注?
因為Meta的Muse等AI代理需要在雲端虛擬機中長時間運作,帶動CPU交期從16至20周拉長到25至30周,市場因此認為需求可能增加。
Q2:Freda Duan是如何估算Muse的CPU需求量的? 她先以1億日活、每天運作2小時計算出833萬台虛擬機,再乘上2.5倍峰值與20%備援,推得約2,500萬台運行中虛擬機。
Q2:Freda Duan是如何估算Muse的CPU需求量的?
她先以1億日活、每天運作2小時計算出833萬台虛擬機,再乘上2.5倍峰值與20%備援,推得約2,500萬台運行中虛擬機。
Q3:為什麼專家認為實際CPU需求可能沒那麼多? 因為AI代理虛擬機常有超額配置,很多時間只是等待回應、輸入與傳輸,CPU使用率接近零;再加上推論效率提升,也可能降低每台所需核心數。
Q3:為什麼專家認為實際CPU需求可能沒那麼多?
因為AI代理虛擬機常有超額配置,很多時間只是等待回應、輸入與傳輸,CPU使用率接近零;再加上推論效率提升,也可能降低每台所需核心數。
一鍵就能封殺中國 法德擬改歐盟「貿易火箭炮」發動條件 德企先慌了