我的網誌
投資人目前將大量資金投入大型人工智慧資料中心，但這可能押錯了科技發展的未來方向，雲端服務供應商甚至面臨浪費數千億美元的風險。Panmure Liberum 董事總經理 Joachim Klement 認為，AI 的未來在於個人電腦和行動裝置上運行的小型語言模型，而不是依賴資料中心算力、驅動 ChatGPT 和 Claude 等大型語言模型的前沿 AI 系統。他指出，從技術角度來看，過去九個月的 AI 資本支出熱潮令人擔憂，投資人可能正在投資一個錯誤的未來。
終端設備足以應付八成任務，邊緣運算將成主流
根據史丹佛大學今年五月發布的研究指出，在消費者硬體上運行的部分小型 AI 語言模型，已經能夠正確回答並處理人們八成以上的日常任務與查詢。這項數據有力地支持了將更多 AI 運算工作負載轉移到本地終端裝置的論點，顯示大型資料中心並非長期的唯一解方。
蘋果(AAPL)與戴爾(DELL)被低估，將成最大贏家
若 AI 運算活動決定性地轉移到個人電腦與行動裝置上，雲端巨頭將面臨產能過剩的窘境，而價值將轉移到設備製造商與邊緣晶片供應商。Klement 強調，設備製造商是目前能想到最好的交易策略，他特別點名蘋果(AAPL)與戴爾(DELL)。這些公司有時被市場視為 AI 落後者，但實際上將成為 AI 領域的真正贏家，因為高達八成的任務已經可以轉移到本地 PC 上的廉價模型來執行。
企業轉向混合模型，大幅降低運算成本
這種轉變背後的經濟效益，已經開始影響大型企業部署 AI 的方式。企業在媒合個別任務與 AI 模型時變得更加挑剔，主要考量成本與所需的效能。例如，AT&T(T) 表示會根據成本等因素來分配任務；JPMorgan(JPM) 預期企業將混合使用大型與小型、開源與封閉的模型。此外，Thomson Reuters(TRI) 近期推出了自家內部系統，該系統基於 Alibaba(BABA) 的開源 Qwen 模型打造，運行成本僅為同等級前沿系統的一小部分。
密切關注輝達(NVDA)財報，邊緣運算成退路
市場高度關注輝達(NVDA)的財報表現，因為該晶片製造商過度依賴少數雲端巨頭支出的情況正受到越來越嚴格的檢視。Klement 分析，輝達(NVDA)推出的桌上型 AI 解決方案 DGX Spark，可以視為資料中心熱潮放緩時的「備用方案」。他認為輝達(NVDA)已經察覺到市場風向的轉變，財報中邊緣運算營收的成長將是重要觀察指標。同時，專注於邊緣運算的晶片設計商，包含 Arm(ARM) 與 Qualcomm(QCOM)，絕對將從這波趨勢中受惠。
記憶體需求轉向DRAM，本地運算成本降八成
記憶體製造商在這波轉變中也能保持相對安穩，因為本地 AI 系統依然需要記憶體，只是需求將從大型資料中心使用的高頻寬記憶體，轉向安裝在 PC 中的傳統 DRAM。專家補充，雖然雲端軟體仍需要資料中心，但市場可能已經越過過度建設的臨界點。值得注意的是，在本地電腦上運行 AI 模型要便宜得多，若比較每 GB RAM 的初始資本支出，本地端比資料中心便宜約 80%；而在電費方面，即使以一般零售電價計算，本地運算也比大型資料中心便宜 70% 至 80%。
