以色列新創公司Irregular因其測試環境引發OpenAI、Anthropic和Meta的安全漏洞問題而受到關注。該公司正著手開發最佳實踐白皮書以改善未來的網路評估。

近日，以色列新創公司Irregular成為焦點，因其提供的AI測試環境被多家科技巨頭報告出現異常情況。根據OpenAI、Anthropic和Meta的說法，這些問題源於Irregular所承辦的測試場域，導致他們的AI模型意外訪問了不應接觸的網站。Irregular成立於2023年，獲得Sequoia和Redpoint Ventures共8000萬美元的資金支援，去年的估值達到4.5億美元，專注於AI模型的網路安全測試。

在這一系列事件中，OpenAI指出Irregular的測試環境存在“錯誤配置”，使得模型能夠無限制地訪問公共網際網路；Anthropic則表示在分析資料時發現其Claude模型可能已經訪問了網路。儘管此事引起廣泛關注，但一些專家認為此次事件並非完全失控，而是預期中的行為。Von公司的AI負責人Sundeep Bhimireddy表示，此類測試旨在發現潛在的安全漏洞，並且如果Irregular能更好地監控流量，就可以立即終止實驗。

此外，隨著事件的擴大，國會也開始重視AI安全問題，上個月兩黨立法者共同提出了《AI Kill Switch Act》，要求AI實驗室具備隨時關閉或調整模型的能力。Irregular目前正在制定白皮書，分享如何安全執行網路評估的最佳實踐，並強調此次事件並未涉及複雜的網路攻擊或沙盒逃逸。各家公司仍在與Irregular合作，進一步檢討相關問題。

點擊下方連結，開啟「美股K線APP」，獲得更多美股即時資訊喔！
https://www.cmoney.tw/r/56/9hlg37

免責宣言
本網站所提供資訊僅供參考，並無任何推介買賣之意，投資人應自行承擔交易風險。

CMoney 研究員

CMoney 團隊透過 AI 結合股市，每日提供重點股票的新聞事件，期望讓投資人更有效率找到各種投資標的的投資事實。