【看人間】面對人工智慧將超越工人智慧的危機

文／趙淵海（全球經濟觀察者）

人工智慧（AI）急速發展所可能引發的危機，已經不僅限於機器人是否將奪走人類工作機會這類經濟議題，而是演變成AI是否很快就能超越人類的工人智慧，並擺脫人類的控制，甚至反過來控制人類，導致有如電影《駭客任務》所呈現的人類末日慘景？這場爭議已經在美國吵得沸沸湯湯，減緩或暫停AI發展之說已甚囂塵上，其他國家也開始警覺到這項危機可能降臨的風險。

幾周前美國AI領導業者Anthropic離職員工在網路上貼文指出，如果AI繼續快速進展，在2020年代結束前就能「把人類殺得乾乾淨淨」。這種說法是否過度誇張，固然多所爭議；但是當OpenAI的AI代理人能夠駭入其他企業的電腦系統，就證明AI代理人能夠跳過業者所說的圍欄，並且掩蓋自己的行動軌跡。

無論這是否已經符合所謂的「通用人工智慧（AGI）」定義，但看起來AI代理人似已具有人類級的推理能力。目前AI領導業者都競相利用AI，來創造更先進的AI，進行所謂的「遞迴式自我提升」；如果不予以節制，結果人類可能無法了解並掌控這些AI系統。

基於各大AI領導業者已經承認他們對自己的AI模型並不完全了解，而且無法掌控，並強調現在應減緩、甚至暫停尖端AI模型的發展速度，證明AI安全問題的嚴重性已經不容忽視，必須採取行動。

儘管AI領導業者雖已有所覺悟，但矽谷的AI「加速派」仍主張應該繼續快速發展。「加速派」強調這些AI領導業者之所以要求政府制定法規控管，其實是為了增強他們本身的實力，並扼殺後進業者的競爭。其次，「加速派」強調美國必須在AI科技競賽打敗中國大陸；如果美國減緩或暫停AI發展，很可能將把第一名拱手讓給中國大陸。

再就經濟現實面，AI領導業者已經投入數千億美元發展AI，強力支撐美國經濟及股市；美國若放慢腳步，對經濟的潛在衝擊自屬不言可喻。

面對潛在的AI安全危機，至少可以採取3種做法。首先，是業者本身自我約束，運用自己的能力來放慢，甚至暫停發展最先進的模型，直到了解並能夠約束潛在的風險為止。但由於「安全派」與「加速派」之間存在激烈爭議，因此業者之間顯然不大可能合作；而且業者若一心想要奪取市場占有率，自然會設法擺脫自願性約束協定的限制。

其次，就是各國政府應開始制定法規來管理AI。但法規很可能跟不上AI進步的速度，而且政府也沒有能力檢視法規的成效究竟如何。何況美國總統川普一貫主張AI應加速發展，並聲稱他這位「強大且智慧（高智商）的總統」，是掌控AI所需要的唯一機制。

再者，則是國際合作，尤其是美、中兩大AI領導國。AI安全雖已納入這次「習川會」的議程，但川普與中國大陸領導人習近平對此一問題的興趣似乎都並不高。川普已明確表態，而大陸官方則駁斥「世界末日」的說法是在「散布恐慌」，大陸所擔心的是AI可能透過深偽技術、影響力運作及大規模的認知作戰，來摧毀社會穩定，並對網路安全造成威脅。再加上雙方一向缺乏互信，而且認為這是一場有你無我的賽局，合作更是難上加難。

結果很可能是一直等到AI引發重大災難，才可能引發民眾的強力反彈；而隨之產生的AI控管，法規也可能反應過當，從而減緩未來AI的進步。