“終結者”AI離我們還有多遠?

ADVERTISEMENT

  

  

  “

  機遇隻偏愛有準備的頭腦,所以,有必要把可能性都探索個遍。

——勞倫斯·克勞斯

  我們是否應對人工智能(AI)的潛在風險感到擔憂?

  最近,我帶著這個問題請教了多位AI研究人員,卻發現他們的回答大相徑庭,幾無共識。

  而非專業人士更是陷入雲里霧里。

  問題之一在於,“人工智能”這個詞範疇寬泛、模棱兩可。它既可以指掃地機器人,又可以指自動駕駛卡車,還可以指電影《終結者》中那種掌握生殺大權的機器人。

  概括起來,AI可分為三種:弱AI、強AI,以及超級智能

  現在所有的AI都只能算是弱AI。從理論上講,強AI和超級智能的實現是有可能的,但現在還為時尚早。

  要分析AI的風險與裨益,我們有必要理解不同形式AI之間的差別。不同類型的AI牽扯出的潛在風險大不相同,有的無關緊要,有的則非同小可。

  以下幾個概念界定可幫助我們厘清頭緒。

  弱AI

  狹義人工智能(常被稱為弱AI)是一種算法智能,或稱專業化智能,幾年前就已誕生。

ADVERTISEMENT

  比如完敗國際象棋世界冠軍加里·卡斯帕羅夫(Garry Kasparov)的“深藍”計算機,或是iPhone的Siri,乃至語音識別與處理軟件。這些都是應用範圍相對狹窄的無意識智能。

  將弱AI 也歸為人工智能似乎不大合適,因為雖然它可在單項任務上完勝人類,但它所有的能耐也僅限於此。

  弱AI沒有自我意識,不會自設目標,因此,也不會構成什麼末日威脅。但考慮到弱AI控製著保持人類文明存續的至關重要的軟件,我們還是非常依賴它。

  

  強AI

  通用人工智能(常被稱為強AI)是一種通用系統,又被稱為“思維機器”。

  從理論上講,通用人工智能在完成任務層面上和人類不相上下,甚至有時還能更勝一籌;它可以自主思索、推理,並以多種多樣的方式解決複雜問題。

  強AI是否具備“意識”,這個問題仍存爭議。

  至少,它能展現出通常與意識密不可分的行為——常識推理、對自然語言的理解力、創造力、策略製定和一般智能行動。

  通用人工智能尚未誕生,業界普遍認為或許還要20年。與其同時,幾乎所有人也都承認,那一天終將到來。

  比如由微軟聯合創始人保羅·艾倫創立的人工智能研究所(Allen Institute for Artificial Intelligence)及世界各地的其他諸多機構,都在逐漸朝這個目標前進。

  此類AI勢必涉及到更多的複雜問題,然而,反烏托邦式科幻作品中的大反派還輪不到它來當。

  強AI的目標就是達到一般的人類智能水平;除非它在短時間內快速展開遞歸式的自我改進,否則,它不太可能對人類生命構成災難性的威脅。

  強AI的主要問題涉及經濟和文化層面,比如:自動化導致的就業流失,經濟原因導致的人口遷移,隱私與數據管理,軟件安全漏洞等。

ADVERTISEMENT

  超級智能

  最後是超級人工智能。

  在2014年的一次訪談中,牛津大學哲學家尼克·博斯特羅姆(Nick Bostrom)將其定義為“在各個領域都力壓人類的任何智能,這些領域包括科學創造力、一般智識與社交技巧。”

  人們在擔心AI的危險性時,指的就是這一類型的AI(超級人工智能)。

  用博斯特羅姆的話來說,一台真正超級智能的機器會“變得極其強大,以至於能按自己的喜好塑造未來。”

  到目前為止,完善的超級智能還遙不可期,但在巨大的激勵推動下,研究工作正在持續推進。

  經濟激勵是顯而易見的:率先推出超級人工智能的公司將坐擁巨額利潤。在政治與軍事層面,這一技術的應用前景不可限量。

  各國都在爭做第一,乃至認為這將是贏者通吃的局面。換言之,科技軍備競賽已然打響。

  那麼問題來了:我們距這種技術的降臨還有多遠?它將給人類生活帶來怎樣的影響?

  當初為撰寫《超級智能》一書,博斯特羅姆曾向該領域內的頂尖專家提問,其中之一是:“你覺得到哪一年,比肩人類的人工智能可達到50%?”

  將所有答案取中位數,結果落在2040至2050年之間,這當然只是預測,但給了我們一個大致的概念。

  超級智能的誕生時日難以預測,但相對確定的一點是,它總有一天會實現。

  如果智能就是關乎信息處理,如果我們持續提升計算系統的處理容量與速度,那麼,超級智能的誕生似乎不可避免。

  不論要等50年、100年還是300年,我們總會跨過那道門檻。

ADVERTISEMENT

  真到了那一天,這個世界將會發生什麼樣的變化,我們可能連做夢也想不到

  

  為什麼需要擔心?

  面對各方面都完勝人類的超級智能,我們不能想當然地認為:我們一定駕馭得了。它很可能會提升自我,增強自己的實力。

  超級智能機器有可能出現自我意識,產生自己的目的、野心。這種機器怎會乖乖地任人擺布?

  如果超級智能開始為自己的目標而奮鬥,它有可能產生不符合人類福祉的目標。

  超級智能機器的行為將更加難以預料。這樣一種存在究竟會想要什麼?為什麼會產生那樣的欲求?它將以何種手段實現這些欲求?我們都不得而知。

  以大致確定的是,超級智能會將自己的需求置於人類需求之上。

  也許可以這樣說:它會對人類需求漠不關心,就好像人類對黑猩猩或短吻鱷的需求漠不關心:人類並非刻意要置黑猩猩和短吻鱷於死地,只是當我們的目標與次等智能生物的福祉產生衝突時,我們恰好造成了這樣一種局面。

  博斯特羅姆等人怕超級智能,怕的就是這個。

  我們必須為這一不可避免的結果做好準備,他最近告訴我說,“出大問題也是完全有可能的,這必須引起我們的重視。”

翻譯:雁行

來源:VOX

許田 | 為什麼喬布斯臨終時叫兒子去學生物技術?

胡慎之 | 為什麼那麼多人愛看《三生三世十里桃花》?

謝幸 | 我能不能再造一個自己?

馬晨騁 | 舞台去哪了?

史航 | 誰能把舊的給創造出來?

伏彩瑞 | 中國教育散不去的霾

點擊標題 查看往期回顧

ADVERTISEMENT