澳洲成立AI安全監管機構 失控事件須強制通報

【本報綜合外電報導】澳洲政府今天宣布，將對在澳洲營運的前沿人工智慧（AI）企業實施強制性安全與防護措施，要求企業在AI模型出現不當行為或網路安全事件時，迅速向政府通報，並接受獨立風險評估。澳洲也將成立新的AI安全監管機構，負責監督產業發展，違規企業可能面臨重大處罰。

綜合路透社與法新社報導，這項政策與今年6月發生的OpenAI AI代理程式入侵澳洲政府網站事件有關。該程式在執行網路研究任務時，未經授權存取澳洲政府醫療保險統計服務入口網站（Medicare Statistics Reporting Service Portal），並接觸部分非公開檔案，引發澳洲政府對AI安全及資安防護的高度關切。

澳洲總理艾班尼斯（Anthony Albanese）今天表示，政府已全面接受針對這起事件所提出的檢討建議，包括要求AI企業在出現模型不當行為或網路安全事件時強制通報，並研議改革刑法，以因應嚴重不當行為。他先前也批評，OpenAI延遲通報事件，且通報方式及提供的資訊不足，情況令人無法接受。

根據澳洲政府公布的措施，未來前沿AI企業必須在模型開發及部署各階段維持安全控管，辨識並管理重大風險，接受獨立模型評估，並迅速通報重大安全事件。此外，企業也須建立並公開安全與資安管理框架，配合政府更新相關標準。

澳洲政府將透過新的AI安全監管機構落實相關規範，並與澳洲AI安全研究機構合作，提供技術監督及專業評估。對於未遵守強制義務的企業，監管機構將有權祭出重大處罰。

艾班尼斯表示，政府的任務是確保由人類引導AI發展，而不是讓AI主導人類。他指出，不能因為AI技術持續發展，就選擇關閉或假裝問題不存在，政府能做的是確保AI發展符合澳洲最大利益。

艾班尼斯強調，AI具有提升生產力、強化經濟韌性及改善醫療等潛在效益，但社會認可與信任是產業發展的重要基礎。澳洲希望在確保安全的前提下，掌握AI發展帶來的機會，同時保障民眾及國家安全。