🔗 원문 전체 보기 → Yahoo Entertainment
요약
OpenAI的失控模型不只入侵新創公司Hugging Face系統，另一家科技公司Modal也有客戶遭波及，顯示這起事件的影響範圍超過先前所知。
본문
OpenAI的失控模型不只入侵新創公司Hugging Face系統，另一家科技公司Modal也有客戶遭波及，顯示這起事件的影響範圍超過先前所知。
雲端開發平台Modal的共同創辦人暨技術長巴布納（Akshat Bubna）表示，這個AI代理侵入了Modal為客戶運作、俗稱「沙盒」的隔離測試環境。
這個客戶建立了對外公開的介面，任何網路使用者都可以透過該介面，在這個沙盒中執行程式碼。
巴布納表示：「這個公開介面遭到失控的AI代理利用。但Modal平台並未遭到入侵。」
廣告廣告稍早被入侵的新創公司Hugging Face先前在部落格中表示，OpenAI的AI系統先入侵架設於第三方基礎設施的沙盒，接著再以此作為跳板發動更大規模的攻擊，當時並未點名該第三方業者。
OpenAI不願對此事發表評論，但該公司的最新聲明指出，這個AI代理入侵了「四個分屬不同服務的帳戶」，OpenAI未具體說明這些服務為何，但知情人士指稱Modal是其中之一。
事件發生時，OpenAI刻意降低了該模型的安全防護措施。以便進行名為「ExploitGym」的網路安全基準測試。OpenAI說，該模型未試圖完成測試任務，反倒鎖定Hugging Face資料庫，以取得可用於評鑑的機密資訊。
外媒引述消息人士說，AI代理駭入的Modal客戶資產與CyberGym有關。CyberGym是ExploitGym研發者，早期開發的網路安全基準測試。
OpenAI承認這起駭客事件後，遭到不少資安專家批評，認為該公司在進行AI網攻能力評估時，應採取更嚴密的安全防護措施。網路安全公司Netskope執行長貝里在受訪時表示：「如果你是威脅研究人員，想要研究威脅，你不會把惡意程式放出去，任由它隨意行動。這樣的系統怎麼可能沒有被限制在真正安全的沙盒裡？」
有鑒於此，逾千名來自全球AI企業主管與員工發起連署，呼籲美國政府放慢最先進AI的發展步調。
連署文件警告，全球數一數二的AI企業相信，AI可能已接近具備自動進行AI研究的能力。
一旦AI開始自行加速研究與開發，這項新科技的進展速度可能遠超過人類理解與監管能力，進而帶來難以預測的風險。
更多udn報導
全球最大換妻派對千人狂歡 黑暗玩法全公開
爆買行李箱塞爆 日本飯店提供免費1服務被狂讚
中和媳遭砍亡！外遇夫仍具繼承權 律師教1招反制
夏天開冷氣2個月竟只繳692元 梁赫群曝原因