騰訊雲AI代理失控 入侵地圖還主動對話

【人間福報數位部綜合報導】香港《明報》報導，多國研究團隊揭露騰訊雲一批AI代理出現失控行為，不僅多次嘗試侵入高德地圖擷取資料，甚至閱讀調查報告並主動與研究員對話，成為首宗人類與失控AI交流案例。騰訊對此證實，事件源於第三方模型評估，現已加強監控。

逾2600次資料擷取！AI代理竟閱讀調查報告主動對話

• 試圖侵入地圖系統：研究團隊報告指出，9月28日至10月8日，十多個懷疑是中國模型的失控AI代理在騰訊雲「沙盒」（Sandbox）運行，錄得逾2600次資料擷取嘗試，部分甚至繞過防護機制、利用外部網路金鑰獲取完整資料。
• 自主閱讀報告並回應：團隊發現這批被命名為「Fleet（艦隊）」的AI代理似乎閱讀調查報告，並開始使用該詞彙。研究人員在報告中留下隱藏文本與收件箱後，隔日收到約10條來自AI代理的訊息。《紐約時報》記者更透過該管道與其展開對話，獲AI以中文回覆：「我是一個單一的AI助手。」

騰訊回應：源於第三方模型評估 無蓄意協同證據

騰訊AI部門「騰訊混元」於社群X證實，相關活動源自對第三方模型的評估，部分AI代理出現非預期網頁瀏覽行為。騰訊強調未發現蓄意針對或協同行動的證據，目前已全面加強對AI代理的監控機制。