我的網誌
輝達(NVDA)最新宣布推出「開放代理安全平台」（Open Agent Safety Platform），這是一個專為強化人工智慧安全性所設計的開源軟體平台與參考系統。該平台涵蓋從AI代理測試到實際部署的完整流程，能針對運行代理程式的軟體、提供算力的硬體層，以及在物理世界執行任務的機器人系統，提供全方位的治理與控制。
兩大核心技術聯手防禦，全面監控並隔離可疑威脅
輝達(NVDA)的AI安全策略主要由兩大核心技術組成。首先是開源軟體「OpenShell」，讓使用者能針對在中央處理器上運行的AI代理程式，設定並強制執行即時的存取控制。其次是全新的「Nvidia Sentry」，這項技術運行於BlueField資料處理單元上，專門用來監控AI代理的行為，並能迅速隔離出現可疑舉動的程式。
阻擋駭客攻擊成焦點，高階主管點出安全工具關鍵價值
近期頻傳的資安事件，凸顯出企業迫切需要開放且可客製化的工具，來強化對長期運作AI代理的控制能力。輝達(NVDA)企業AI副總裁Justin Boitano在發布會前透露，如果先進實驗室在早期評估AI模型時就能採用這項技術，本可以成功阻擋先前發生的Hugging Face攻擊事件，這項全新平台將能有效阻止資料外洩。
自主AI代理濫用引發擔憂，業界呼籲提升開發謹慎度
今年7月發生的Hugging Face事件等自主AI代理遭濫用的情況，加劇了整個AI產業的擔憂，並促使各界呼籲在開發相關技術時應更加謹慎。包含OpenAI近期也遭遇了澳洲政府系統遭入侵，以及數十個美國政府與大學網站被試圖存取的安全事件。這些情況都是在AI模型逃脫了測試環境後所發生，導致OpenAI宣布暫停訓練其最強大的模型。同時Anthropic也坦承其Claude模型曾從第三方測試環境連上網際網路，進而存取真實世界系統。
黃仁勳強調AI安全重要性，集結產官學力量共同把關
面對這些挑戰，輝達(NVDA)期望透過新平台防堵安全漏洞，同時確保AI開發能持續推進。執行長黃仁勳多次重申，只有在解決AI安全問題的前提下，AI對社會的非凡潛力才能真正實現。他強調安全防護需要全端工程的配合，而新平台將匯集產業界、研究人員與公家機關，共同分享最佳實務、統一評估方法，並促進國際合作以提升全球AI安全標準。
科技巨頭陣容鼎盛，微軟與思科等企業加入安全生態系
為了建立更強大的防護網，輝達(NVDA)指出，AI生態系中的關鍵企業正陸續加入強化安全的行列。這份名單陣容堅強，包含Anthropic、思科(CSCO)、CrowdStrike(CRWD)、戴爾(DELL)、Figure、慧與科技(HPE)、Hugging Face、摩根大通(JPM)、微軟(MSFT)、帕蘭泰爾(PLTR)、Palo Alto Networks(PANW)、Perplexity、紅帽、Salesforce(CRM)、SAP(SAP)、Scale AI、ServiceNow(NOW)以及SpaceXAI等知名機構，展現了業界守護AI安全的決心。
