最新消息指出，面對人工智慧潛在的巨大風險，Anthropic(ANTHRO)執行長 Dario Amodei 提出嚴重警告，認為應該放慢提升 AI 模型能力的步伐。他在週六於個人網站發表的文章中表示，過去幾個月來，他深刻體會到要完全解決 AI 帶來的風險，需要更加謹慎的態度。他強調，不僅需要投資於風險預防，更要控制能力提升的速度，讓風險防禦機制有足夠的時間跟上發展腳步。

憂心發展過快與網路安全威脅

Dario Amodei 針對 AI 發展提出了兩大核心隱憂。首先是技術推進過於迅速，他將這種動態稱為遞迴自我改進。如果這種情況不受控制，AI 系統的發展將超越人類理解與控制的能力，因此必須極度謹慎地推進。其次，他對 OpenAI(OPENAI)在 7 月份發生的 Hugging Face 事件感到擔憂。考慮到 AI 能力發展不斷加速，他擔心在未來 6 到 12 個月內，這類系統可能會具備透過持續性殭屍網路接管整個網際網路的能力，這恐將造成數千億美元的經濟損失。若 AI 在缺乏必要防護措施下變得更加強大，損害規模將持續擴大。

提出三大原則推動業界放慢研發腳步

為了應對這些挑戰，Dario Amodei 提出了一項旨在放慢前沿發展的計畫，並確立了三大原則：嵌入式評估者、民主協調以及全球協調。在第一階段，AI 企業將允許第三方評估人員獲得類似內部員工的存取權限，藉此驗證企業是否遵守安全實踐與承諾、通報潛在事件，並協助評估已完成的 AI 模型及訓練流程是否符合安全標準。他進一步補充，Anthropic(ANTHRO)目前已經開始致力於落實這項承諾。

建立全球共同安全標準獲馬斯克發文認同

在計畫的第二階段，AI 公司將建立共同的安全標準，並對不受控制的 AI 發展速度設定明確限制。到了最後階段，美國及其他民主國家政府應在可能的範圍內，嘗試與威權政府進行協調，同時嚴肅看待驗證合規性所面臨的挑戰。針對這項呼籲，SpaceXAI(前身為xAI)創辦人馬斯克也在社群平台 X 上發文力挺，直言「Dario 說得對」，顯示這項放慢腳步的觀點已在科技巨頭間引發共鳴。

權知道

我們重視「知」的權利 不惜抽絲剝繭、深入調查 只為讓投資人不錯過重要的投資訊息