【人間福報數位部綜合報導】AI 新創巨頭 Anthropic 近日私下向美國國會議員推介一項法案草案，旨在為前沿 AI 模型建立安全防護標準。據外媒報導，草案設定極高的政府干預門檻，規定僅在 AI 模型面臨迫在眉睫的重大風險時，政府才能介入阻止發布。
政府干預門檻：損害須達10億美元或50人傷亡
報導指出，只有在 AI 模型構成可預見且迫切的威脅時，政府才能下令阻止該模型的發布或使用。
其具體損害標準包括，造成超過 10 億美元的經濟損失，或是導致 50 人以上死亡或受重傷。
三大核心風險範疇
法案草案規定，上述重大風險必須源自以下三大特定情境：
- 生物武器的製造或釋出。
- AI 模型脫離或規避開發者控制。
- 發動大規模網路攻擊。
建立獨立評估與 72 小時通報機制
Anthropic 發言人表示，該法案反映了公司先前公布的「先進 AI 框架」（Advanced AI Framework），目的在於賦予政府遏制危險部署的能力，並建立客觀檢驗體系：
- 獨立評估：要求第三方評估機構向商務部登記，定期測試 AI 實驗室及其前沿模型。實驗室可支付費用給評估機構，但報酬不得與評估結果掛鉤。
- 通報機制：若評估機構認定模型存在重大威脅，須於 72 小時內向美國商務部通報。
- 司法介入：商務部確認風險後，可向哥倫比亞特區聯邦地方法院聲請暫停指令。法案並明文禁止其他政府部門或官員擅自下令暫停模型的開發或部署。
評論（0）
目前沒有評論，歡迎分享您的看法。
登入會員後即可發表評論、回覆及讚。