Anthropic推三級權限防堵AI風險

知名人工智慧開發商 Anthropic 宣布，正在與非營利組織 METR 及 SecureBio 展開合作，並持續與包含 Hugging Face 在內的其他機構進行討論。這項決策源於執行長 Dario Amodei 上個月提出的放緩模型開發速度提案，承諾將獨立評估人員引入公司內部，藉此驗證 Anthropic 是否嚴格遵守安全規範。埃森哲(ACN)也在隨後被選為首批合作夥伴之一。

AI安全協議發酵，科技巨頭齊響應

在 Amodei 提出倡議之前，像 METR 這樣的獨立評估機構在價值數兆美元的 AI 產業中並未受到廣泛關注。然而，隨著市場對 AI 模型安全性的擔憂日益加劇，評估機構的重要性正大幅提升。美國總統川普在九月下旬提出了一項自願性協議，鼓勵 AI 企業與獨立的外部稽核員或評估機構合作。這項協議不僅獲得 Anthropic 簽署支持，包含 Google(GOOGL)、Meta(META)、OpenAI、SpaceX 與輝達(NVDA)等頂尖科技巨頭的高層也皆表態響應。

深入核心架構，第三方團隊獲內部權限

為落實安全承諾，Anthropic 針對評估機構制定了三個等級的權限架構。根據官方發布的資訊，第一級可進行特定範圍的風險調查；第二級能在未經 Anthropic 批准的情況下發布報告；第三級則擁有宛如內部員工般的存取權限。目前 METR 被歸類為第三級評估機構，Anthropic 已引進六名 METR 員工，他們能夠使用與內部風險評估團隊大致相當的硬體設備、辦公空間及工具，藉此深入分析 Anthropic 的風險等級並公開調查結果。

輝達(NVDA)斥百億收購，未來合作受矚目

另一方面，SecureBio 目前被列為第一級評估機構，存取權限相對有限，主要負責審查八月份發布的風險報告中關於化學與生物武器的部分。至於以開源開發者平台聞名的 Hugging Face，未來將獲得何種層級的權限仍屬未知。Hugging Face 在今年七月因兩款 OpenAI 模型突破限制並透過公開網路存取其系統而聲名大噪；隨後，輝達(NVDA)於上個月斥資近 130 億美元將其收購，這也讓外界對未來各方的合作模式充滿關注。

資金來源仍待完善，短期採多元合作模式

儘管積極推動安全機制，Anthropic 坦言目前產業界針對獨立評估機構的權限標準、報告流程以及資金來源，仍缺乏統一規範。公司指出，長遠來看相關資金應由公共資金池或政府機關提供；但在這類機制建立前，只能採取多元化的合作模式。例如，Anthropic 並未提供資金給 METR，但為了加速推動進程，上個月宣布直接資助埃森哲(ACN)的評估工作，這項舉動也在社群媒體上引發了部分人士對其獨立性的探討與討論。

權知道

我們重視「知」的權利 不惜抽絲剝繭、深入調查 只為讓投資人不錯過重要的投資訊息