AI威脅論：先過狗關(guān)，再賽人智-世界視點

“AI不如狗”，控制AI是否為時尚早？

編者按：本文來自微信公眾號 科技新知（ID：kejixinzhi），作者：樟稻，編輯：伊頁，創(chuàng)業(yè)邦經(jīng)授權(quán)轉(zhuǎn)載。

(資料圖片僅供參考)

ChatGPT讓人工智能再次引起科技界的震動，同時也激起了政策制定者、消費者倡導(dǎo)團體以及企業(yè)領(lǐng)導(dǎo)層的警覺。他們普遍要求為這種前沿技術(shù)制定規(guī)范，以確保其發(fā)展道路的可控性和可持續(xù)性。

幾個月前，馬斯克資助的生命未來研究所（Future of Life Institute，F(xiàn)LI）發(fā)起了一場具有影響力的公開信簽名運動。該運動強烈呼吁先進大模型研究應(yīng)至少暫停6個月，目的在于對當(dāng)前人工智能發(fā)展的快速膨脹進行深入反思，因為這可能正導(dǎo)致我們失去對這項技術(shù)的控制。

上個月，人工智能安全中心（Center for AI Safety，CAIS）公布了一份矚目的簡短聲明。這份聲明得到了OpenAI和DeepMind的高級管理人員、圖靈獎得主以及其他AI領(lǐng)域的領(lǐng)軍研究人員的共同簽署。他們稱AI這一堪比“疫情和核戰(zhàn)爭”的技術(shù)或?qū)θ祟悩?gòu)成生存威脅。

不過，與眾多AI謹(jǐn)慎派不同，以“深度學(xué)習(xí)三巨頭之一”楊立昆（Yann LeCun）為代表的樂觀派并認(rèn)為，我們應(yīng)該更加耐心，更加相信科技的進步；AI現(xiàn)階段仍處在它的青澀和幼稚期，我們遠(yuǎn)未抵達(dá)那個需要緊急行動的點。

這兩派的對立并非細(xì)枝末節(jié)的學(xué)術(shù)爭論，而是關(guān)于人類如何看待技術(shù)的問題，是人類把技術(shù)看作是工具，完全受人類控制，還是把它看作可能脫離人類控制，甚至危及人類存亡的潛在威脅。

01樂觀派：AI不如狗

上周三的Viva Tech大會上，Meta首席AI科學(xué)家楊立昆被問及AI目前的限制。

“這些系統(tǒng)仍然非常有限，它們對現(xiàn)實世界的底層現(xiàn)實沒有任何理解，因為它們完全是在大量的文本上接受訓(xùn)練的?！睏盍⒗フf，“大部分人類的知識與語言無關(guān)……所以人類經(jīng)驗的那一部分并未被AI捕捉到。”

“這告訴我們，人工智能還缺失了一些真正重要的東西……別說是趕上人類的智力水平了，人工智能現(xiàn)在是連狗都不如?！睏盍⒗タ偨Y(jié)道。

這并不是楊立昆首次發(fā)言“AI不如狗”，在上月底350位AI領(lǐng)域大佬簽署CAIS組織的聯(lián)名公開信時，楊立昆轉(zhuǎn)發(fā)了同是樂觀派華人科學(xué)家吳恩達(dá)的推文表示：

“在人類最重要的生存問題清單上，根本排不上超越人類的人工智能。主要是因為它還不存在。直到我們能設(shè)計出起碼達(dá)到狗狗水平的智能（更不用說人工智能了），再來談安全問題也不遲。”

當(dāng)然，“AI不如狗”本質(zhì)上輸出的結(jié)論是，人類并沒有真正設(shè)計出超級智能系統(tǒng)，談?wù)摪踩蚩刂茊栴}有些為時過早。至于如何更加全面地反駁AI威脅論，他提供了兩個更有力的論證角度。

其一，人們不會給現(xiàn)階段的AI以完全自主權(quán)：

楊立昆指出，現(xiàn)階段的自回歸模型如GPT-4，雖然擁有強大的自然語言處理能力，但其輸出結(jié)果是不可預(yù)測和難以控制的。無論是改變訓(xùn)練數(shù)據(jù)的統(tǒng)計信息，還是調(diào)整問題的形式，都無法直接地約束這些AI模型以滿足某種特定目標(biāo)。

這種情況自然引發(fā)了一系列的擔(dān)憂。人們在某種程度上假設(shè)，一旦允許這些AI系統(tǒng)自由地做任何我們能通過互聯(lián)網(wǎng)連接的事情，讓它們有自由使用網(wǎng)絡(luò)資源的權(quán)限，那么它們可能會做出一些瘋狂的、不理智的，甚至可能帶來危險的行為。一些人擔(dān)心，我們將無法控制這些AI系統(tǒng)，它們會逃脫我們的控制，甚至可能控制我們，因為它們的規(guī)模更大，所以它們的智能也會增強。

然而，這種觀點其實是沒有根據(jù)的，或者說是純粹的想象和夸大。未來被授予自主性的系統(tǒng)，應(yīng)該是能夠規(guī)劃一系列行動、有明確目標(biāo)且易于控制的。因此，楊立昆預(yù)測，理智的人不會使用完全自動的大語言模型，他們會轉(zhuǎn)向更復(fù)雜、可控制的系統(tǒng)。

其二，智力和控制欲毫無關(guān)聯(lián)性：

許多人認(rèn)為，智能實體會因為比人類更聰明而想要支配人類。然而，楊立昆認(rèn)為這是個誤解。智力高并不意味著就有支配他人的欲望，這更多的是與進化和生物性質(zhì)相關(guān)。

人類、黑猩猩、狼、狗等社會動物會想要影響他人，是因為它們在進化過程中建立了這種欲望。而對于非社會動物如長頸鹿來說，它們并沒有支配他人的欲望。因此，控制欲望和能力與智力是兩個不同的概念，它們之間沒有必然聯(lián)系。

此外，談及AI帶來的失業(yè)問題，他認(rèn)為關(guān)鍵在于如何分配財富，如何組織社會使每個人都能從中獲益。這是一個政治問題，不是技術(shù)問題，也不是人工智能造成的新問題，而是技術(shù)進化造成的。

在楊立昆、吳恩達(dá)等樂觀主義者的觀點中，可以發(fā)現(xiàn)一個共識：任何新技術(shù)在初次出現(xiàn)時，都不可能完美無缺。

實際上，人類需要的是一種可以控制的方式，限制技術(shù)可能帶來的危害，對其進行有效地監(jiān)管，并解決可能的惡性用例。完全中斷研發(fā)進程并不是一個明智的決策。人類應(yīng)該保持對技術(shù)進步的尊重和包容，而不是因為害怕未知而過早地否定其潛在的價值。

02謹(jǐn)慎派：心思各異的聯(lián)盟

相較于樂觀派，謹(jǐn)慎派的陣營似乎人數(shù)更多，也反應(yīng)了人性的一種普遍趨勢。當(dāng)新的事物出現(xiàn)時，它往往會引發(fā)人們的擔(dān)憂和疑慮。這是人類對可能帶來顛覆性改變的新技術(shù)所產(chǎn)生的本能反應(yīng)。

在兩輪的公開簽名活動中，可以看到謹(jǐn)慎派的聲音和影響力逐步增強。當(dāng)這種關(guān)于“AI風(fēng)險”的討論在外界引發(fā)了廣泛地思考和討論的同時，一些質(zhì)疑聲音也不斷出現(xiàn)。

關(guān)于“AI的風(fēng)險和危害”，這個話題已經(jīng)成為了一個表態(tài)的舞臺，每個參與者都希望在這場風(fēng)潮中塑造自己的正面形象。

然而，問題在于，這場大討論真的有用嗎？表面看起來，似乎每個人都在積極參與，但實際上，卻鮮有人真正采取行動。這種現(xiàn)象在一定程度上顯得像是在浪費大家的時間?！澳切﹦?chuàng)造出AI技術(shù)的人參與這種聲明，其實無非就是為了給自己博取好名聲?！边@是不少業(yè)界人士對這種現(xiàn)象的評價。

就連“人工智能之父”，德國計算機科學(xué)家于爾根·施密德胡伯（Jürgen Schmidhuber）也表示，許多在公開場合對人工智能的危險提出警告的人只是在尋求宣傳。

當(dāng)然，在一些人可能試圖利用這種情況來提升自己的知名度的同時，不乏也有一些獨到的見解。

中國科學(xué)院自動化研究所人工智能倫理與治理研究中心主任曾毅，也在CAIS組織的這封公開信中簽名。他認(rèn)為，公開信的目的并不是阻礙人工智能的發(fā)展，而是絕大多數(shù)人有權(quán)利知道人工智能的潛在風(fēng)險，研發(fā)者們也有義務(wù)確保人工智能不給人類帶來生存風(fēng)險，至少要確保這種風(fēng)險的最小化。

在他的觀點中，人工智能對人類生存所可能帶來的威脅，可以從兩個不同的角度進行分析：

如果將目光放到無限遠(yuǎn)，遠(yuǎn)到通用人工智能和超級智能到來，AI智力水平可能遠(yuǎn)超人類，那么或許就會像很多影視作品呈現(xiàn)的那樣，視人類如同螻蟻，與人類爭奪資源，甚至危及人類生存。

如果只看現(xiàn)在和不遠(yuǎn)的未來，當(dāng)代人工智能只是看似智能的信息處理工具，不具有真正的理解能力。但曾毅認(rèn)為，正因為它們算不上真正的智能，不理解什么是人類、什么是生死和什么是生存風(fēng)險，才有可能會以人類難以預(yù)期的方式犯下人類不會犯的錯誤。而這恰恰是更緊迫的關(guān)切所在。

有趣的是，這似乎正好在反駁楊立昆的兩大主要論點。

此外，謹(jǐn)慎派陣營中，三位“人工智能教父”中的兩位辛頓（Geoffrey Hinton）和本吉奧（Yoshua Bengio）也赫然在列。他們曾因在深度學(xué)習(xí)方面的工作，與楊立昆共同獲得2018年“圖靈獎”。

然而，與楊立昆的觀點相左，本吉奧在接受采訪時坦言，他開始對自己這一生的工作成果產(chǎn)生了一種“迷?！钡母杏X。本吉奧認(rèn)為，所有致力于構(gòu)建強大AI產(chǎn)品的企業(yè)都應(yīng)該進行正式的注冊和報備?！罢枰獙@些公司的行動進行追蹤，對其工作內(nèi)容進行審查，對AI行業(yè)至少要實行像對待航空、汽車或者制藥等領(lǐng)域一樣的監(jiān)管機制。”

辛頓則在近期辭去了谷歌的工作，并警告這一技術(shù)領(lǐng)域的持續(xù)發(fā)展或?qū)砭薮箫L(fēng)險。辛頓表示，“我總在用這樣的借口安慰自己：哪怕我自己不做，其他人也會這樣做。但目前真的不知道要怎么防止壞蛋利用 AI 來作惡?！?/p>

辛頓對于AI的擔(dān)憂主要有兩個方面。首先，他擔(dān)心AI會完全取代那些需要大量記憶的工作，這可能會對許多行業(yè)和職業(yè)產(chǎn)生深遠(yuǎn)影響。其次，隨著AI逐步獲取編寫和運行自身代碼的能力，他擔(dān)憂AI最終可能取代人類的位置。

03寫在最后

上文中對立兩派的觀點，其實也有重合的地方。對于如今的 AI 是否具有風(fēng)險以及該如何克服，兩派代表人物楊立昆和奧特曼看法一致。他們都認(rèn)為，即便風(fēng)險存在，但可以通過仔細(xì)的工程設(shè)計，減輕或抑制它。

可以肯定的是，隨著AI技術(shù)的不斷發(fā)展和深化，兩派之間的爭論和爭議仍將持續(xù)不斷。

不過相對于國外熱火朝天地討論，國內(nèi)對AI倫理和風(fēng)險的關(guān)注相對較少。市場似乎更專注于AI大模型如何改變各行各業(yè)，并對此感到喜悅和興奮。

原因可能在于，一方面為了在全球競賽中奪取發(fā)言權(quán)，商業(yè)公司首先需要縮小與國外AI大模型的差距；另一方面，也正由于國內(nèi)的AI大模型能力還未進入未知前沿，大家對AI可能帶來的威脅并未給予足夠的關(guān)注。

在此背景下，國內(nèi)的AI創(chuàng)業(yè)者更傾向于維持一種技術(shù)樂觀主義的態(tài)度，他們不希望過早收斂自身發(fā)展，認(rèn)為這將相當(dāng)于提前投降，放棄了與國外競爭的機會。

總的來說，這次的爭論并非毫無意義的口舌之爭。它為我們提供了一個理想的舞臺，讓我們深入探討AI的未來走向，以及如何以人類的智慧和經(jīng)驗，來引導(dǎo)這一領(lǐng)域的發(fā)展，使其真正地服務(wù)于人類社會，而非反過來控制我們。

從這場激烈的辯論中，可以清楚地看到，人類現(xiàn)在正站在一個重大的決策點。無論是選擇樂觀地?fù)肀I的發(fā)展，還是謹(jǐn)慎地審視其可能帶來的風(fēng)險，都需要意識到，現(xiàn)在所做的每一個決定，將會影響人類和AI之間的關(guān)系，也將塑造人類對未來的想象和期望。

關(guān)鍵詞：