我的網誌
前線實驗室 Anthropic、OpenAI 內部人士接連示警，稱遞迴自我強化的超級 AI 或在十年內「殺死所有人」，但總統 Donald Trump 公開表示毫不擔心存在威脅，只在意美國是否領先中國。與此同時，Google、TSMC、Samsung、Amazon 等巨頭砸下逾千億美元布局 AI 基礎建設，安全規範卻仍在起步階段。
全球人工智慧產業正加速衝刺，但在資金與算力瘋狂湧入的同時，對「人類是否能活在自己創造的科技之下」的疑問，也首度在矽谷內部炸裂，甚至衝上華府政治舞台。當 Anthropic、OpenAI 等前沿實驗室的安全團隊連番在社群上公開示警之際，美國總統 Donald Trump 卻以一句「我沒有任何擔心」冷處理 AI 災難場景，形成極度鮮明的對比，凸顯當前 AI 軍備競賽在國安與產業利益間的巨大張力。
這波風暴源自 Anthropic 對「遞迴自我強化」（Recursive Self-Improvement, RSI）的高度憂慮。該公司 alignment 領域負責人 Evan Hubinger 在 X 上直言，未來十年 AI「殺死所有人」的機率超過一成，引發社群瘋傳。他進一步補充，真正令人恐懼的不是現有模型，而是 AI 逐步掌控訓練流程、替自己打造更強後代的自我強化路徑，一旦速度超出人類理解與監管能力，就可能失去控制權。Anthropic 自家數據也顯示，工程師每季可交付的程式碼量，已是 2021-2025 年平均的八倍，AI 本身正在加速 AI 的研發。
OpenAI 內部同樣不安。Chief Scientist Jakub Pachocki 在公司部落格中表示，他「強烈預期」目前 AI 進展速度可以一路延伸到 RSI 階段，擔心社會完全沒有準備好面對持續急速上升的機器智能。他警告，若發展路徑不變，未來幾年的系統能力跳躍恐怕比現在更大，且將「越來越多由系統自己推動」；這番話，被部分研究者詮釋為 AI 實際參與新模型設計與優化的前奏。
在這樣的背景下，Anthropic 研究員 Jacob Coxon 選擇辭職，公開指控自家與 OpenAI 正在「拿大家的生命賭博」。OpenAI alignment 研究員 Jasmine Wang 則在 X 上寫道，「很難誇大加速衝向 RSI 有多危險」，Anthropic 的 AGI 安全專家 Anna Wang 也指出，目前根本沒有成熟的科學方案可解決遞迴自我強化帶來的風險，呼籲外界「抬頭看清楚」。這些來自實驗室內部的聲音，首次把 AI 安全辯論從學術圈推向輿論主戰場。
與此形成強烈反差的是，美國總統 Donald Trump 的表態。面對媒體追問是否擔心 AI 可能導致人類滅絕，他回答：「不，我沒有。」他強調的焦點是「如果我們沒在 AI 競賽中勝出，美國就會陷入非常糟糕的局面」，並宣稱目前美國在 AI 上「大約領先中國一年」，而這在技術競賽中被視為相當大的差距。對 Trump 而言，AI 主要是一場與中國的戰略競賽工具，而非潛在的存在性威脅。
正因如此，華府政策圈內對 AI 的態度出現分裂。一方面，部分共和黨議員與民主黨人開始跨黨派合作推動監管。眾議員 Jay Obernolte（R-Calif.）與 Lori Trahan（D-Mass.）規劃提出 FRONTIER Act，試圖建立框架管理「前沿」高風險 AI 模型的部署。另一邊，參議員 Bernie Sanders（I-Vt.）與眾議員 Greg Casar（D-Texas）已提出 Ban Artificial Superintelligence Act，主張暫停先進 AI 的研發，等聯邦政府制定安全規則後再行開放。Trahan 甚至在 X 上指出，「安全研究員正在集體辭職，強大 AI 模型不斷突破實驗室防線，而公司還在全速前進」，痛批國會不能再袖手旁觀。
與安全疑慮同時升溫的，是產業端前所未見的資本洪流。晶片巨頭 TSMC 八月營收暴增逾 53%，創歷史新高，關鍵動能就是全球對 AI 晶片爆炸性的需求。在雲端端點，Google 宣布將在芬蘭投入至少 150 億美元建置 AI 基礎建設，創下該公司在歐洲史上最大單一投資案；法國新創 Mistral 也在 Samsung 領投的 35 億美元融資後，估值衝上 240 億美元。Qualcomm 則向 Amazon 核發認股權證，後者得以在 AI 基礎建設合作框架下，買進高達 40 億美元的 Qualcomm 股票，綁定長期算力與技術供給。
這些投資背後，反映出企業端一個關鍵認知：誰掌握 AI 基礎設施，誰就掌控下一世代的產業命脈。Cohere 執行長 Aidan Gomez——當年《Attention Is All You Need》Transformer 論文的共同作者——便形容部分大型 AI 模型是「史上最強大的網路攻擊武器」，同時強調在地部署、主權 AI（sovereign AI）與資料管控的重要性。他認為，美國實驗室的領先優勢「正在很快蒸發」，中國與其他地區模型追趕速度遠超過外界想像，企業開始不只問「模型有多強」，還問「資料在哪裡被處理、誰有權存取」。
在資本與國力競賽全面升溫的當下，安全界提出的反對意見顯得格外孤獨。支持繼續衝刺的陣營認為，大多數風險仍屬理論推演，距離真正的 RSI 還有關鍵技術門檻，過度嚴苛的管制可能讓美國在與中國的競賽中失去先機。安全派則指出，現有模型已能提出新想法、寫出大量程式碼，若再結合自動化研發流程與更密集的算力堆疊，能力曲線可能呈現難以預測的「拐點」，屆時再談監管已為時已晚。
在這場拉鋸中，尚無任何一方真正掌握「最後答案」。Anthropic 在 RSI 報告中列出三種未來情景：一是前沿技術停滯、能力廣泛下放，但公司認為機率不高；二是 AI 持續進步但仍由人類掌舵，世界運作方式被重塑——這是他們眼中「較可能」的路徑；三則是 AI 實現完全遞迴自我強化，人類在開發中只剩「大幅弱化」角色，而 alignment 問題會如何被解決，連他們自己都毫無把握。當總統把焦點放在輸贏，中國與美國公司則忙著擴建資料中心、買更多晶片，真正需要回答的問題卻愈來愈清楚：在這場超級軍備競賽中，人類究竟打算把安全紅線畫在哪裡？
點擊下方連結，開啟「美股K線APP」，獲得更多美股即時資訊喔！
https://www.cmoney.tw/r/56/9hlg37
本網站所提供資訊僅供參考，並無任何推介買賣之意，投資人應自行承擔交易風險。
