日前Google在Google Cloud Next 2026大會上，正式發布了第8代TPU。因應AI逐步導入終端裝置、推理需求增加，Google推出專做AI訓練的TPU 8t，及專做AI推理的TPU 8i，讓晶片運作更有效率。

TPU 8t在推理效能上較前一代晶片提升3倍，TPU 8i則透過直連儲存與RDMA技術，將存取速度提升10倍，算力與效能也提升約1倍，有助於Gemini語言模型提供更快、更精準的回答。

Gemini用戶爆增10倍 Anthropic大單火上加油

自去（2025）年底Gemini 3.0推出後，Gemini生成圖片與文字摘要的表現大幅提升，讓越來越多用戶從原先慣用的ChatGPT轉往Gemini。Gemini 2025年底擁有7.5億用戶，已直逼ChatGPT約9億用戶數。

以Gemini處理的字元量來看，2024年5月僅約10T，到了2025年9月則跳升至1,300T，這讓Google不得不加快推出下一代晶片與ASIC（特殊應用積體電路）伺服器的腳步，以因應指數級成長的需求。

除了Gemini在語言模型取得優勢、用戶數增加，帶動TPU晶片用量上升，今年即將在美國掛牌上市的Anthropic也承諾將導入數GW（吉瓦，等於10億瓦）等級的TPU算力，其中至少超過1GW算力將在今年啟用，其金額達數百億美元，進一步推升TPU晶片的需求。

在此趨勢下，Google TPU傳出向台積電追加訂單，2026年的CoWoS訂單量將自原先的1萬片提升至2萬片，2027年更將成長7.5倍至15萬片。

晶片互聯規模遠超輝達 OCS光交換成制勝關鍵

在AI資料傳輸需求呈現爆發性成長的影響下，Google開始提升ASIC機櫃中TPU之間的互聯能力。目前Google一個機櫃有64顆TPU，最多可將144個機櫃進行串聯，也就是高達9,216顆TPU可互聯並進行資料傳輸，遠遠超越輝達（Nvidia）72顆GPU的數量。