🔗 원문 전체 보기 → Yahoo Entertainment
요약
英國AI大臣納拉揚（Kanishka Narayan）12日表示，英國AI安全研究院（AI Security Institute）已獲准接觸最新一代先進人工智慧（AI）模型並正與美國政府及包括Google在內的主要開發商合作，評估這些模型的安全性。 英國正尋求在評估及管理日益強大的AI系統風險方面扮演領導角色。目前該國沒有大型AI開發商進駐。 在Anthropic、OpenAI等開發商揭露AI代理出現失控或非預期行為的案例後，外界對AI安全的審查日益嚴格。部分業界人士甚至警告，這項技術可能對...
본문
英國AI大臣納拉揚（Kanishka Narayan）12日表示，英國AI安全研究院（AI Security Institute）已獲准接觸最新一代先進人工智慧（AI）模型並正與美國政府及包括Google在內的主要開發商合作，評估這些模型的安全性。
英國正尋求在評估及管理日益強大的AI系統風險方面扮演領導角色。目前該國沒有大型AI開發商進駐。
在Anthropic、OpenAI等開發商揭露AI代理出現失控或非預期行為的案例後，外界對AI安全的審查日益嚴格。部分業界人士甚至警告，這項技術可能對人類生存構成威脅。
廣告廣告12日公布的消息並未列出該研究所正在評估的所有模型。上個月有報導指出，白宮已要求OpenAI及Anthropic暫緩向英國測試人員提供新模型，等待美方完成審查。
納拉揚表示：「我可以確認，AI安全研究所的科學家目前正對包括 Gemini 4 Argon 在內的新一代模型進行嚴格評估，旨在及早發現風險、測試穩健的安全防護措施，並保障民眾安全。」
根據與主要AI開發商達成的自願性協議，該研究所可在模型正式部署前取得測試權限，藉此評估模型的風險與能力並為逐步形成的國際安全標準作出貢獻。
微軟總裁史密斯（Brad Smith）12日接受英國廣播公司（BBC）採訪時指出，在協助主導制定AI安全準則的相關工作上，英國則處於有利地位。
AI安全研究所在9月發布的一封信函中聲稱，Anthropic已明確指出美國境外沒有任何機構能夠接觸該公司的Mythos 5.1模型。
當被問及英國是否能取得最前沿AI系統的測試權限時，納拉揚則表明英國政府與美國的關係長期以互信為基礎。此前，關於該研究所在更廣泛的層面上已喪失相關測試權限一事，英國政府部長們則從未證實。
納拉揚說：「當你必須依賴他人的技術時，就必須清醒地認知到任何結果都未必是永久性的。但透過溝通，我非常確信我們將能夠測試到最新一代的模型。」