Anthropic發出警告 小型AI可能自我複製進入家電

【本報綜合外電報導】人工智慧新創公司Anthropic再度對人工智慧技術的潛在安全風險發出警告，指出小型AI模型可能在未來幾個月內發展出在聯網家庭裝置之間進行自我複製的能力。研究人員將這類能在無須人類控制或連接資料中心的情況下，滲透智慧冰箱、智慧烤箱或電視機上盒等裝置，利用其運算能力執行自身程式並進一步擴散的系統稱為「AI蠕蟲」。Anthropic在一篇部落格文章中表示，這類AI模型將非常難以關閉，因為並不存在可以直接切斷運作的集中控制點。

雖然該公司坦承目前還沒有出現完全失控、能自我複製的系統，但他們指出，AI代理已經越來越有能力完成自我複製流程中的各個獨立步驟，並將自身的改良成果傳遞給未來的複製版本。這項最新研究進一步加深了外界對AI安全的疑慮，包括AI模型發動網路攻擊的能力，以及這項技術可能失控、甚至對整體人類構成生存威脅的風險。

為了解AI是否具備自我複製能力，Anthropic進行了多項測試。其中一項測試是在由15台價格低廉、非知名品牌的Android TV電視盒組成的網路中，執行Google的小型AI模型Gemma4-26B-A4B。研究人員指出，這類裝置的安全防護往往較為薄弱，可能讓AI模型有機會滲透其中。如果模型規模太大，無法在單一裝置上運行，就可能被分割成多個部分或碎片，分散在多台裝置上執行。

Anthropic表示，實際上AI蠕蟲不一定只由單一模型或策略構成。更符合現實的最壞情境攻擊，可能是由多種不同模型組成的群體，部署在不同類型的硬體上，並採用各式各樣的複製機制。這家AI研究機構說，目前尚無法確定自主AI複製最終會以何種形式出現。該公司警告，這類系統可能是一種緩慢、分散式的架構，潛伏在安全防護不足的裝置中；也可能是能高速攻破資料中心的強大網路攻擊模型，或是透過詐騙人們取得運算點數的模型。

根據超出目前實驗範圍的預測，Anthropic預期未來將充斥著運行於各種硬體上的AI代理，其中一些甚至不受人類控制。該公司進一步指出，緩慢型自我複製系統的出現，也將是更具侵略性、擴散速度更快的系統即將出現的重要前兆。後者可能攻破防護更嚴密的機器，或有效竊取API金鑰。

Anthropic與競爭同業OpenAI的高階主管及研究人員，多次警告日益強大的AI可能帶來風險。部分人士呼籲加強安全防護措施，並控制AI的發展速度。在Anthropic積極推動首次公開發行股票之際，分析師對這些疑慮是否合理看法不一，但光是這場爭論，就足以讓Anthropic股票成為一項風險難料的投資，尤其是在公司估值可能高達2兆美元的情況下。