DeepMind執行長Demis Hassabis提議建立AI標準組織

요약

新聞 Google DeepMind共同創辦人兼執行長Demis Hassabis周二（7/14）主張美國應成立新的AI標準組織，建立前沿AI模型的測試與安全評估制度。他認為，人工通用智慧（AGI）可能數年後便會到來，在AI能力快速提升之際，可由美國率先建立兼顧創新與安全的治理機制，再推動成為國際共同標準。 Hassabis表示，人類正站在科技奇點（Singularity）的山麓，AGI將成為人類史上最具變革性的技術，其重要性如同電力或火的發現；他預估AI帶來的影響可能達到工業革命的10倍，且速度也是10倍…

본문

圖片來源:

Google

Google DeepMind共同創辦人兼執行長Demis Hassabis周二（7/14）主張美國應成立新的AI標準組織，建立前沿AI模型的測試與安全評估制度。他認為，人工通用智慧（AGI）可能數年後便會到來，在AI能力快速提升之際，可由美國率先建立兼顧創新與安全的治理機制，再推動成為國際共同標準。

Hassabis表示，人類正站在科技奇點（Singularity）的山麓，AGI將成為人類史上最具變革性的技術，其重要性如同電力或火的發現；他預估AI帶來的影響可能達到工業革命的10倍，且速度也是10倍，可望加速新藥研發、潔淨能源及新材料開發，甚至讓資源不再成為限制人類進步的因素。

但他同時也警告，前沿AI的發展速度已超越人類對這項技術的理解，目前沒有人能確定未來走向，網路安全、核子與生物風險也可能隨模型能力提升而加劇。因此，Hassabis提議美國應成立由聯邦政府監督、採公私協力或自律模式運作的AI標準組織。

此一標準組織的董事會應納入獨立技術專家及開源社群代表，所需經費則主要由產業界提供。該組織將制定前沿AI模型的評估方法，並與聯邦機關及美國國家實驗室合作，測試模型在國家安全相關領域的能力。

依照Hassabis的構想，標準組織將依據定期更新的基準測試，認定哪些模型屬於「前沿級模型（Frontier-class Models）」，其開發單位則列為「前沿實驗室（Frontier Labs）」。前沿實驗室應公布模型技術資料、強化內部資安、審查關鍵人員，並投入足夠資源從事安全研究。

制度初期採自願參與，業者可在模型發布前30天內提交審查，評估應涵蓋網路安全、生物威脅及其他高風險領域；待評估機制證實有效且穩健後，再轉為強制制度，要求前沿模型通過測試才能在美國市場部署。

若模型具備代理能力，則應另行測試其是否會試圖繞過安全護欄或出現欺騙行為。相關基準應定期更新，標準組織也應逐步建立自行設計獨立測試的能力，避免模型針對既有評估過度最佳化；若情勢需要，還可進一步協調各前沿實驗室放慢AI開發速度。

根據Axios的報導，Hassabis已低調遊說數月；且美國媒體偏向將其稱為AI監管機構，而非中立的標準組織；此外，包括OpenAI執行長Sam Altman及Anthropic執行長Dario Amodei也都與Hassabis採取類似的立場。

`; const widget = data?.bottomBar?.map((item) => { item.url = getLink(item); item.time = formatTime(item.duration); return item; }); widget?.forEach((item) => { listElm += renderElm(item); }); listElm += ""; const rootElm = 立即報名`; } return ""; } function isSignupOpen(item) { const fromStr = item.registerStarted; const toStr = item.registerFinished; let isOpen = false; if ( item.type == "webinar" && fromStr.length > 0 && toStr.length > 0 ) { const from = new Date(fromStr).getTime(); const to = new Date(toStr).getTime(); const current = Date.now(); if (current >= from && current 直播中`; } else if (item.type == "webinar" && item.webinarstarted.length > 1) { elm += `${getDate(item.webinarstarted)} `; } else if (item.type == "vod") { elm += `${item.time} 分`; } else { elm = ""; } return elm; } function getDate(date){ return (date.split(" "))[0] } function renderElm(item) { const result = `