← 목록으로

AI幻覺 美軍險攔截陸貨船

요약

美國有線電視新聞網(CNN)十八日引述消息人士報導,今春美伊戰爭期間,美國由於一份人工智慧(AI)協助生成的錯誤情資報告,誤認一艘在中東的中國大陸船舶運載核武計畫相關零組件而一度準備展開攔截行動,所幸在行動前夕發現有誤,避免恐因此引發的美中軍事衝突。

본문

美國有線電視新聞網(CNN)十八日引述消息人士報導,今春美伊戰爭期間,美國由於一份人工智慧(AI)協助生成的錯誤情資報告,誤認一艘在中東的中國大陸船舶運載核武計畫相關零組件而一度準備展開攔截行動,所幸在行動前夕發現有誤,避免恐因此引發的美中軍事衝突。

報告由一位美國太平洋特種作戰司令部(SOCPAC)分析師製作。美軍當時迅速採取行動,武裝人員準備攔截該船,軍機也升空。

美軍及美國情報界正推動將AI融入幾乎所有的工作層面,從分析大量原始情資、挑選攻擊目標,到管理預算、後勤及供應鏈。

廣告廣告

但這起事件凸顯,在戰爭期間使用這種新穎且尚未被充分理解的技術協助選定攻擊目標,恐帶來重大風險。這起事件的分析師就SOCPAC一份涉及該船貨物清單的報告,向聊天機器人查詢。尚不清楚此一聊天機器人是市售產品或美國政府的產品。

聊天機器人將公開來源情報和政府掌握的機密情報結合,最後對該船貨物得出錯誤結論。分析師就將AI相關發現整理成美軍官員通常會信任的標準情資報告後發出。

美國軍方正迅速轉向使用AI協助選定攻擊目標,但顯然存在導致致命錯誤的風險。然而,即使保留人工決策環節,究竟要如何防止平民傷亡或誤傷友軍,目前也沒有真正的指引。

從AI工具開始在美國政府內部廣泛使用後,情報界出現像這起事件的「幻覺」並非個案。對部分較年長的情報官員而言,即使整體上支持軍方使用AI,仍認為這項技術正使分析師承受必須更快速製作,並將情資發出的壓力,因此增加出錯空間。

【看原文連結】

更多udn報導
甜美主播離婚不到2個月 震撼轉型曬高衩辣照
洪都拉斯「窮到變街友」 認曾10年未共進晚餐
蛇蠍女模騙倒一片富商 下藥億萬未婚夫下場慘
被嫌胖?AI級女星緊身長裙熱舞 1亮點美到窒息

← 목록으로