十多年前看《未來戰(zhàn)士》第一集，迷住我的不是科幻，而是玄乎于故事的主線。為什么機(jī)械頭領(lǐng)派來終結(jié)者回到過去終結(jié)未來人類頭領(lǐng)母親的性命，結(jié)果使得同樣從未來人類頭領(lǐng)派來保護(hù)他母親的人類戰(zhàn)士和他母親生下了他自己。隨后，漸漸的明白這是在倫理上可以理解的：因?yàn)閷?duì)未來所謂的預(yù)見性，有可能讓你此后的行為本身造就了你預(yù)見的未來。當(dāng)我懂得生活和工作的一些處境后我更明白了這種道理，比如戀愛中的人，怕失去對(duì)方而千方百計(jì)的以為可以永遠(yuǎn)擁有對(duì)方的適得其反；比如電視劇《中國式離婚》里的情節(jié)，因?yàn)樗炙鲕?，結(jié)果做出了傷害了與他交往的人，影響他的事，最后這些才導(dǎo)致了離婚。 我很怕《未來戰(zhàn)士》帶來的這種感覺，有時(shí)候這種道理帶來的處境是：要么赴死，要么等死。 第二集我也這么看，想了想，第二集還是有積極的意義的，仿佛即使注定悲哀里一定也有注定伴隨的希望，當(dāng)終結(jié)者終結(jié)了自己的時(shí)候，仿佛告訴我即使套上宿命的符咒，通過努力還是可以阻止什么的。但當(dāng)?shù)谌春?，我想從此又顛覆了第二集所說的希望，因?yàn)槿撕蜋C(jī)器人的戰(zhàn)爭還是不可避免：宿命就是規(guī)定好了的旅程，不接受但永遠(yuǎn)不可逃避。 我不知道以后會(huì)怎么看第四集，它會(huì)不會(huì)說起宿命的過程中，并不會(huì)失去關(guān)于犧牲了的希望存在的意義，就像我仿佛宿命的在等待觀影一樣，用《未來戰(zhàn)士》的故事，伴隨在影響我的生活中，以及愛這部電影的原因里。

其實(shí)到現(xiàn)在這個(gè)年紀(jì)，看電影的時(shí)候真的并不太關(guān)心打打殺殺了。其實(shí)終結(jié)者系列都很不錯(cuò)，但是再也沒有一部有第一部那樣的感覺了。風(fēng)暴來臨，但是仍然充滿了希望，還有卡神一定要加的那幕床戲，可謂是點(diǎn)睛之筆。 不過重點(diǎn)是配樂！片頭2分24秒處，純音樂[Theme from 'The Terminator']，拖長的號(hào)聲，配有金屬撞擊聲，深沉而且很快就帶入了氣氛。此后這首曲子在片中又出現(xiàn)了4次。 一、80分40秒起，配合Kyle Reese的告白傾訴，是輕且慢的鋼琴聲，如同低聲啜泣；然后是稍快一拍的清晰有力的鋼琴聲，Sarah和Kyle的親吻；82分28秒再次加快節(jié)奏(此處就是床戲)。 二、90分40秒起，Sarah與Kyle在火中擁抱，悲壯的號(hào)聲。 三、99分54秒起，Sarah被抬上救護(hù)車，Kyle被裝進(jìn)裹尸袋。這段很短，救護(hù)車門一關(guān)就結(jié)束了。 四、這是最重點(diǎn)的一段！101分30秒起，Sarah錄音對(duì)Kyle的懷念告白。極其緩慢，輕到幾乎斷斷續(xù)續(xù)的鋼琴聲；然后Sarah拿到照片，，也是鋼琴聲；最后開車向風(fēng)暴駛?cè)ィ浜侠茁暫蜋C(jī)械聲的管樂，為故事激昂地落下了帷幕。 這首曲子的運(yùn)用可謂經(jīng)典！ 然而，卡神加的床戲?qū)嵲谔懒?。我?guī)状慰炊?。兩個(gè)情到深處又惺惺相惜的人，在前不知是否有退路，后有致命的追兵的時(shí)候，爆發(fā)出的這一場(chǎng)拋開生死的結(jié)合，正是他們所需要的最強(qiáng)大的信念的支持。如果有一天你突然要背負(fù)起拯救世界的重任，而你只是一個(gè)普通的女孩子，難道不需要一個(gè)互相都很在乎的人來給你不能倒下的理由嗎？ Sarah

這篇影評(píng)非寫不可，因?yàn)樗苡锌赡茏屛覐拇藧凵峡苹闷?。事?shí)上，寫這篇影評(píng)前我已經(jīng)有很久沒寫過影評(píng)了，上一篇應(yīng)該是金基德的?圣殤?,我在高二理科課上偷偷記在本子上的。用豆瓣后，也懶得把那些陳年文字打出來。 科幻片我也不是沒看過，像什么?盜夢(mèng)空間?,?星際穿越?,?人工智能?等等。但是像?終結(jié)者?這樣像恐怖片一樣把我嚇個(gè)半死又像悲情片一樣害我哭到吸鼻涕還是頭一回遇到。 這部電影就是震撼本身，卡梅隆用有限成本發(fā)揮出了最大程度。無論是那個(gè)燒也不死炸也不死的紅眼骨架子機(jī)器人還是影片里這段只有一天一夜卻驚世駭俗的愛情。 最后那個(gè)紅眼骨架子真的足夠給人揮之不去的心理陰影，我看過?招魂?，?閃靈?，在我心里沒有一個(gè)的驚悚形象能超過它，主要因?yàn)?，，他怎么就是死不透呢？ ! 電影結(jié)局部分就是高潮了-----紅眼骨架子是在這里燒成骨架子嚇?biāo)廊说?，英俊勇猛?jiān)韌癡情（等等）的男主角也是在這里和它同歸于盡了。 我可是為他哭得好慘，有很久很多部電影以來我都沒怎么哭出來過了?？吹皆u(píng)論區(qū)很多人說凱爾是男二其實(shí)我認(rèn)為不對(duì)的。他是絕對(duì)男主角。雖然片名是叫終結(jié)者，但終結(jié)者畢竟只是臺(tái)恐怖的怪物。 這部電影如果沒有凱爾和沙拉這條愛情線，會(huì)平庸很多的。 這部電影告訴我們還有種情侶叫凱爾和莎拉-----凱爾生活在四十年后的世界，他收藏著沙拉的照片，每天看著，這女人是他這輩子唯一愛過的女人。 莎拉是未來世界人類領(lǐng)導(dǎo)者約翰的母親。機(jī)器人要滅絕人類，卻始終過不了約翰一關(guān)，就打算要從根做起-----干脆在受孕前殺了他媽。狡猾 ! 凱爾自告奮勇回去四十年前保護(hù)莎拉，欲幫她逃脫最強(qiáng)機(jī)器人"終結(jié)者"的殺害。雖然這一趟的代價(jià)是無法再回去，結(jié)局也是難以預(yù)料的。 凱爾舍命一搏，只因他傾慕救世主那傳奇性的母親。他恐怕也想不到，自己會(huì)是救世主的父親。哪怕他們的愛情只有短短的一天一夜，但是卻像莎拉在影片最后說的一樣-----we loved a lifetime. 凱爾與機(jī)器人同歸于盡，莎拉活下來，懷著他的孩子約翰，要孤軍奮戰(zhàn)。 我當(dāng)然就是看到了這里哭了出來的。 對(duì)于"凱爾是四十年后的人，與約翰是同齡，朋友，卻最終穿越到四十年前，與約翰他媽有了約翰"這樣的邏輯，絲毫沒有觀眾覺得過別扭，反而倒是很讓我印象深刻。這對(duì)情侶從認(rèn)識(shí)到分別只有一天一夜，感情卻深沉而真摯。也許是因?yàn)樗麄兠鎸?duì)公共敵人，面對(duì)死亡的那份堅(jiān)韌十分打動(dòng)人。 看?終結(jié)者?之前，我看完了王家衛(wèi)的?花樣年華?。?花樣年華?是以真實(shí)時(shí)代真實(shí)世界為背景的，卻缺乏?終結(jié)者?的撼動(dòng)力。看完以后平平淡淡，并沒有什么情緒。而?終結(jié)者?架構(gòu)虛幻，卻十分打動(dòng)人。 電影雖說要以真情實(shí)感為價(jià)值，但十分的真實(shí)似乎也就只能像真的生活那樣，水一樣流過，不著痕跡了。 當(dāng)然了，王家衛(wèi)拍的電影，取勝也的確從不是靠深入人心的劇情，而是靠高深的藝術(shù)手法。難免要曲高和寡。 像?終結(jié)者?這樣的愛情，感情強(qiáng)烈，穿透生死，跨越時(shí)代，即使背景虛幻，卻還是更能感染人心，更能讓平民百姓買賬吧？ 這部電影是1984年拍的，當(dāng)時(shí)美國正處于信息技術(shù)改革時(shí)代，由于對(duì)信息化的反思與展望，美國電影人在這期間拍下許多類似于這部的有關(guān)人工智能的科幻電影。美國從未恐懼暴露其信息發(fā)展弊端，面對(duì)問題，沒人避諱，是可以公眾討論的。 而當(dāng)時(shí)的中國正忙著改革開放，信息化還未開始，要求能拍出這樣的電影是過分了的。 那么中國電影人是不是就沒有做出過展望與反思呢？-----有的。田壯壯的?藍(lán)風(fēng)箏?，婁燁的?頤和園?,陳沖的?天浴?等等優(yōu)秀影片都對(duì)中國的歷史，政治進(jìn)行了反思與提問。但是很遺憾，由于我國不愛面對(duì)問題，這些優(yōu)秀電影甚至導(dǎo)演都被禁了。中國電影政治篩選力度太大。這也很大程度是中國大陸電影進(jìn)步緩慢的原因。 對(duì)于中國何時(shí)才能出現(xiàn)如此優(yōu)秀的科幻片，我們可能還得展望一大段日子...... ?終結(jié)者?著實(shí)令我大開眼界?？苹闷材苓@樣拍。 Ps:影片中不乏對(duì)于美國警方的嘲諷

本文轉(zhuǎn)自機(jī)器之心，原文選自arxiv，

作者：Toby Walsh University of New South Wales and Data61 （formerly NICTA），

編譯：李九喻、孟婷、柒柒。

已經(jīng)發(fā)明的技術(shù)和展望中的技術(shù)：

公元前1,500,000年 最早的石器 (環(huán)境限制的突破)

公元前300,000年 火 (環(huán)境限制的突破)

公元前70,000年 繪畫 (環(huán)境限制的突破)

公元前45,000年 貿(mào)易系統(tǒng) (環(huán)境限制的突破)

公元前40,000年 木船 (環(huán)境限制的突破)

公元前5000年 車輪 (環(huán)境限制的突破)

公元前3000年 楔形文字 (文化限制的突破)

公元前500年 指南針 (環(huán)境限制的突破)

公元前100年 造紙術(shù) (文化限制的突破)

公元800年 火藥 (環(huán)境限制的突破)

公元1100年 活字印刷 (文化限制的突破)

公元1400年 遠(yuǎn)洋帆船 (環(huán)境限制的突破)

公元1609年 望遠(yuǎn)鏡 (環(huán)境限制的突破)

公元1644年 顯微鏡 (環(huán)境限制的突破)

公元1770年 蒸汽機(jī) (環(huán)境限制的突破)

公元1826年 照相技術(shù) (環(huán)境限制的突破)

公元1876年 電話 (環(huán)境限制的突破)

公元1880年 燈泡 (環(huán)境限制的突破)

公元1903年 飛機(jī) (環(huán)境限制的突破)

公元1945年 原子彈，計(jì)算機(jī) (環(huán)境限制的突破)

公元1950年代 性別激素/變性技術(shù) (生物限制的突破)

公元1957年 人造衛(wèi)星 (環(huán)境限制的突破)

公元1969年 最早的計(jì)算機(jī)網(wǎng)絡(luò) (環(huán)境限制的突破)

公元1980年 試管嬰兒 (生物限制的突破)

公元1996年 生物復(fù)制技術(shù) (生物限制的突破)

公元2007年 DNA端粒延長(壽命延長技術(shù)) (生物限制的突破)

----------------------------------------

（猜想）

公元2029年 超越人類智能的機(jī)器

公元2045年 納米技術(shù)的普及 (生物在化學(xué)物質(zhì)基礎(chǔ)限制的突破)

公元2070年 仿生物技術(shù)的大規(guī)模普及 (生物在化學(xué)物質(zhì)基礎(chǔ)限制的突破)

公元2080年 意識(shí)上傳 (意識(shí)突破肉體限制)

狹義技術(shù)奇點(diǎn) (生物在化學(xué)物質(zhì)基礎(chǔ)限制的突破)

21世紀(jì)以后 突破物理定理的限制 (突破引力，光速) (物理限制的突破)

21世紀(jì)以后 能量表達(dá)方式突破3維空間的限制 (數(shù)學(xué)限制的突破)

21世紀(jì)以后 突破時(shí)間的限制，觀察到過去，現(xiàn)在，和未來，在未來的那個(gè)時(shí)刻創(chuàng)造我們現(xiàn)在生活的世界 廣義技術(shù)奇點(diǎn) (因果邏輯限制的突破)

如今，對(duì)人 (AI) 感到悲觀或樂觀的都大有人在。樂觀者正在向人工智能領(lǐng)域投資數(shù)百萬美元甚至數(shù)十億美元，而悲觀者則預(yù)測(cè)人工智能將終結(jié)很多事：工作，戰(zhàn)爭，甚至人類。無論是樂觀主義者還是悲觀主義者都被所謂技術(shù)奇點(diǎn) (technological ingularity) 的概念吸引。技術(shù)奇點(diǎn)是一個(gè)機(jī)器智能失控的時(shí)間點(diǎn)，在它之后一個(gè)全新的、更加智慧的「物種」將開始居住在地球上。如果樂觀主義者是正確的，那么這將是一個(gè)從根本上改變?nèi)私?jīng)濟(jì)和社會(huì)的時(shí)刻。如果悲觀主義者是正確的，那么這將同樣是一個(gè)從根本上改變?nèi)祟惤?jīng)濟(jì)和社會(huì)的時(shí)刻。因此，我們有必要花些時(shí)間決定這些看法是否正確。

奇點(diǎn)的歷史

技術(shù)奇點(diǎn)的概念可以追溯到幾個(gè)不同的思想家。在約翰·馮·諾伊曼 (譯者注: John von Neumann， 20世紀(jì)最重要的數(shù)學(xué)家之一，在現(xiàn)代計(jì)算機(jī)、博弈論等領(lǐng)域均有建樹) 1957年去世時(shí)，斯塔尼斯拉夫·烏拉姆 (譯者注: Stanislaw Ulam - 波蘭數(shù)學(xué)家) 寫道：

「我與約翰·馮·諾伊曼討論過在技術(shù)不斷加速發(fā)展、人類生活模式的改變下，我們看上去正在接近物種史上某個(gè)重要的奇點(diǎn)，在它之后已知的生活將無法延續(xù)?！?在1965年，I.J. 古德 (譯者注: I.J. Good，英裔數(shù)學(xué)家、密碼學(xué)家) 對(duì)這個(gè)現(xiàn)象提出了更具體的預(yù)測(cè)，他用「智能爆炸」(Intelligence Explosion) 取代了「奇點(diǎn)」 (Singularity) 的概念：「讓我們把超智能機(jī)器定義成為一臺(tái)能夠遠(yuǎn)遠(yuǎn)超過任何人類智力活動(dòng)的機(jī)器。 因?yàn)樵O(shè)計(jì)機(jī)器本身也算是智力活動(dòng)，所以超智能機(jī)器可以設(shè)計(jì)出更好的機(jī)器；毫無疑問，這將會(huì)帶來智力的爆炸式增長，而人類的智力將遠(yuǎn)遠(yuǎn)落后。以此類推，超智能機(jī)器將會(huì)是人類最后一個(gè)發(fā)明。」 許多人把 「技術(shù)奇點(diǎn)」歸功于計(jì)算機(jī)科學(xué)家?？苹眯≌f家弗諾·文奇 (Vernor Vinge) 更是預(yù)言：「在三十年內(nèi)，我們將創(chuàng)造出實(shí)現(xiàn)超人智慧的技術(shù)。不久后，人類的時(shí)代將結(jié)束?！?/p>

近來，技術(shù)奇點(diǎn)的概念又得到了包括雷·庫茲韋爾 (譯者注: Ray Kurzweil ，發(fā)明家、企業(yè)家、學(xué)者、《奇點(diǎn)臨近》等暢銷書作者) 在內(nèi)許多人的推廣。根據(jù)目前的趨勢(shì)，庫茲韋爾預(yù)計(jì)技術(shù)奇點(diǎn)會(huì)發(fā)生在2045年左右。就這篇文章的定義而言，我假設(shè)技術(shù)奇點(diǎn)是一個(gè)「當(dāng)我們創(chuàng)造出擁有足夠智慧、能通過重新設(shè)計(jì)自己來改進(jìn)智力的機(jī)器」的時(shí)間點(diǎn)，并且在這個(gè)點(diǎn)上我們將見證智力以指數(shù)級(jí)增長，并且迅速超越人類。

我將用兩個(gè)數(shù)學(xué)論證來為以上觀點(diǎn)辯護(hù)。其中一個(gè)論證是：技術(shù)奇點(diǎn)不是數(shù)學(xué)奇點(diǎn)。在函數(shù)1/(1-t)中，數(shù)學(xué)奇點(diǎn)是t=1。該函數(shù)演示了雙曲增長。當(dāng)t接近1，t的導(dǎo)數(shù)趨于正無窮并且無法被定義。然而，許多技術(shù)奇點(diǎn)的擁躉只支持指數(shù)增長的說法。例如，函數(shù)2^t呈指數(shù)增長。這樣的指數(shù)函數(shù)在接近正無窮時(shí)更慢，并且有一個(gè)可以被定義的有限導(dǎo)數(shù)。其二個(gè)論證是：智力的指數(shù)增長完全取決于測(cè)量智力的數(shù)值范圍。如果我們以對(duì)數(shù)分度向量（logspace）測(cè)量智力，指數(shù)增長僅僅是線性的。在這里，我暫時(shí)不解釋測(cè)量機(jī)器或者人類智力的具體定義或方法。我只假設(shè)有一個(gè)可以被測(cè)量、比較的特質(zhì)叫做智力，并且當(dāng)智力在適當(dāng)、合理的數(shù)值范圍內(nèi)呈指數(shù)增長時(shí)，我們將迎來技術(shù)奇點(diǎn)。目前，技術(shù)奇點(diǎn)的可能性已經(jīng)迫使幾名評(píng)論家發(fā)出關(guān)于人工智能對(duì)人類影響的悲觀預(yù)言。例如，在2014年12月時(shí)，史蒂芬霍金對(duì)BBC電視臺(tái)說：

「人工智能的全面發(fā)展可能意味著人類的終結(jié)……機(jī)器將獲得自主權(quán)，并且以前所未有的速度重新設(shè)計(jì)自己。被緩慢生物進(jìn)化限制的人類將無法競爭并且最終被取代?！?/p>

其他的知名人物，包括比爾·蓋茨，伊隆·馬斯克和史蒂夫·沃茲尼亞克也隨后發(fā)表了類似的警告。尼克·博斯特羅姆 (譯者注: Nick Bostrom ，牛津大學(xué)人類未來研究院院長、哲學(xué)教授、著名人工智能學(xué)者) 也做出了對(duì)技術(shù)奇點(diǎn)的預(yù)言，并且認(rèn)為這個(gè)現(xiàn)象將對(duì)人類的生存造成威脅。然而這篇文章與以上的觀點(diǎn)相反，我將探討的觀點(diǎn)是：技術(shù)奇點(diǎn)或許永遠(yuǎn)不會(huì)臨近。

反對(duì)技術(shù)奇點(diǎn)的論點(diǎn)

對(duì)技術(shù)奇點(diǎn)的爭論多數(shù)發(fā)生在主流人工智能行業(yè)以外。在某種程度上，這個(gè)概念的許多擁躉都不是真正的從業(yè)者。在主流文化中，技術(shù)奇點(diǎn)也和一些例如壽命延長和后人類主義等挑戰(zhàn)現(xiàn)狀的想法關(guān)系密切。這種聯(lián)系干涉我們探討真正重要的基礎(chǔ)問題：人類真的可以開發(fā)出能夠成倍提高自己智力并且遠(yuǎn)遠(yuǎn)超出人類的機(jī)器嗎？雖然它看上去并不是一個(gè)特別大膽的想法。計(jì)算機(jī)領(lǐng)域已經(jīng)在指數(shù)增長的同時(shí)不斷壯大。摩爾定律 (Moore’s Law) 以合理的精準(zhǔn)預(yù)測(cè)告訴我們，晶體管上集成電路的數(shù)量（指每塊芯片的儲(chǔ)存量）將在1975年之后每兩年內(nèi)翻倍。庫梅定律 (Koomey’s Law) 也已預(yù)測(cè)，單個(gè)能量焦耳所支持的計(jì)算次數(shù)將在1950年后的每19個(gè)月內(nèi)翻倍。以此類推，為什么不能假設(shè)人工智能也會(huì)在某個(gè)時(shí)間段內(nèi)實(shí)現(xiàn)指數(shù)增長呢？

針對(duì)技術(shù)奇點(diǎn)實(shí)現(xiàn)的可能性，以上的說法是一些有力的論據(jù)。準(zhǔn)確地說，我并不是在預(yù)估人工智能無法擁有超出人類的智能。與許多在人工智能行業(yè)工作的同事一樣，我預(yù)測(cè)人類離這個(gè)階段還有30到40年的時(shí)間。不過與一些人的觀點(diǎn)相反，我認(rèn)為未來將不會(huì)出現(xiàn)失控、呈指數(shù)增長的情形。我將在接下來的文章里提供多個(gè)關(guān)于不可能有技術(shù)奇點(diǎn)出現(xiàn)的支持論點(diǎn)。

以下的討論不包括所有技術(shù)奇點(diǎn)的反對(duì)論點(diǎn)。舉例來說，我們也可以假設(shè)人工智能創(chuàng)造出了自己的人工智能。因此，阿蘭·圖靈 (Alan Turing) 在其影響深遠(yuǎn)的Mind論文（ Turing 1963）中提出了針對(duì)人工智能的九種通俗反對(duì)意見，例如機(jī)器不能擁有意識(shí)，或者不具有創(chuàng)造性。在這里，我將集中精力討論人工智能在智力上失控增長的可能性。

論點(diǎn)一：快速思維的狗（Fast Thinking Dog）

其中一個(gè)由技術(shù)奇點(diǎn)支持者提出的先鋒觀點(diǎn)是：硅與人類大腦濕件(wetware)相比有重要的速度優(yōu)勢(shì)，并且根據(jù)摩爾定律這一優(yōu)勢(shì)每隔兩年都會(huì)翻倍。不過，速度提高不代表智力增長。在這個(gè)問題上，弗諾·文奇認(rèn)為一條快速思維的狗仍然不可能懂得下棋。史蒂芬·平克 (Steven Pinker) 意味深長地表示：

「我們沒有任何理由相信技術(shù)奇點(diǎn)會(huì)到來。人可以在自己腦海中想象未來，但不能證明它是否具有實(shí)現(xiàn)的可能性。在我的孩童時(shí)代，人們想象過的半球形城市，噴氣交通運(yùn)輸工具，水下城市，一英里高的建筑，核動(dòng)力汽車，以及很多未來式的幻想在今天從來沒有得以實(shí)現(xiàn)。最終，單純的運(yùn)算處理能力無法像魔法一樣奇跡般地解決所有問題?！?/p>

智力不僅是比別人對(duì)一個(gè)問題思考更快或是更久。當(dāng)然，摩爾定律肯定對(duì)人工智能的發(fā)展有幫助。我們現(xiàn)在用更大的數(shù)據(jù)集學(xué)習(xí)。也學(xué)習(xí)地更快。速度更快的計(jì)算機(jī)肯定會(huì)幫助我們開發(fā)更好的人工智能。但是，至少對(duì)于人類來說，對(duì)智力的評(píng)估取決于許多其他的事情，其中包括日經(jīng)月久的經(jīng)驗(yàn)和訓(xùn)練。不能在機(jī)器計(jì)算中僅靠增加時(shí)鐘頻率（即計(jì)算速度）抄近道。

論點(diǎn)二：人類中心主義（Anthropocentric）

在許多對(duì)技術(shù)奇點(diǎn)的描述中，人類智力被假設(shè)成為一個(gè)需要跨越或顛覆的臨界點(diǎn)。例如，尼克·博斯倫特寫道：

「擁有人類智力水平的人工智能的問世將會(huì)迅速帶來通向高于人類水平人工智能的發(fā)展……與此同時(shí)，機(jī)器與人類在智力上的匹配將是暫時(shí)的。此后不久，人類將無法與人工智力競爭?！?/p>

人類智力范圍是從蟑螂到老鼠再到人類的分布廣泛的范圍。事實(shí)上，與其說智力是一個(gè)點(diǎn)，不如說它是一系列概率的分布。我們并不確定人類將在具體哪一個(gè)點(diǎn)上被人工智能失控的智力增長超越：這個(gè)點(diǎn)具體是指人類的平均智力？還是人類史上最聰明的人？

科學(xué)史的教訓(xùn)告訴我們，人類遠(yuǎn)沒有自己想象的那么特殊。哥白尼告訴我們，宇宙并不繞地球轉(zhuǎn)。達(dá)爾文告訴我們，我們與猿類沒有本質(zhì)區(qū)別。人工智能可能會(huì)告訴我們，人類的智力也并不特別。我們沒有理由因此假定，人類智力是個(gè)一旦通過，智力將快速增長的特殊臨界點(diǎn)。當(dāng)然，這并不排除智力轉(zhuǎn)捩點(diǎn)本身存在的可能性。

技術(shù)奇點(diǎn)的支持者提供的說法之一是，我們是唯一能夠通過創(chuàng)造來拓展自己智力的物種，因此人類智力是一個(gè)特殊的臨界點(diǎn)。我們是地球上唯一擁有足夠智力設(shè)計(jì)新智能的物種，并且這些被設(shè)計(jì)出來的新智能不受進(jìn)程緩慢的繁衍與進(jìn)化限制。然而，這一類說法假定人類的智力可以設(shè)計(jì)出一個(gè)智力足以跨越技術(shù)奇點(diǎn)的人工智能。換句話說，它在我們決定是否有技術(shù)奇點(diǎn)之前，就已經(jīng)下定它確切存在的結(jié)論。人類可能，也同樣可能不會(huì)有足夠的智力設(shè)計(jì)出這樣的人工智能。我們并不是被注定要?jiǎng)?chuàng)造出這樣的東西。再者說，即使我們有足夠的智力設(shè)計(jì)出了能夠超越人類的人工智能，這樣的人工智能也不一定能夠帶來技術(shù)奇點(diǎn)。

論點(diǎn)三：元智力（Meta-Intelligence）

在我看來，反對(duì)技術(shù)奇點(diǎn)的其中一個(gè)強(qiáng)有力論點(diǎn)是，技術(shù)奇點(diǎn)混淆了完成工作的智力和提高完成工作的能力之間的區(qū)別。在對(duì)技術(shù)奇點(diǎn)的概念進(jìn)行詳細(xì)分析后，大衛(wèi)·查莫斯 (譯者注： David Chalmers，澳大利亞裔哲學(xué)家，認(rèn)知科學(xué)家 )寫道：

「如果我們通過機(jī)器學(xué)習(xí)創(chuàng)造一個(gè)AI，不久之后我們將能夠改善學(xué)習(xí)的算法并且延長學(xué)習(xí)的過程，創(chuàng)造出接下來的AI+?！?/p>

在以上的論述中，AI是人類智力水平的系統(tǒng)，而AI+是比一般人類更聰明的系統(tǒng)。不過，為什么查莫斯認(rèn)為我們可以在不久之后提高學(xué)習(xí)的算法？歷來機(jī)器學(xué)習(xí)在算法方面的進(jìn)展既不迅速，也不容易。機(jī)器學(xué)習(xí)的確有可能成為未來任何人類智力級(jí)別的人工智能系統(tǒng)的重要部分，因?yàn)槌酥?，利用人工編碼知識(shí)和專長是很痛苦的過程。假設(shè)，一個(gè)人工智能系統(tǒng)選擇采用機(jī)器學(xué)習(xí)來提高自己理解文本，完成數(shù)學(xué)證明的能力。該人工智能的系統(tǒng)沒有理由能夠改善機(jī)器學(xué)習(xí)本身自帶的算法。事實(shí)上，機(jī)器學(xué)習(xí)的算法通常在某一項(xiàng)工作上已經(jīng)達(dá)到極限，不論是工程還是參數(shù)的調(diào)整，都無法提高其性能。

目前，我們看到使用深度學(xué)習(xí)的人工智能令人印象深刻的進(jìn)度。這極大地提高了語音識(shí)別，計(jì)算機(jī)視覺，自然語言處理及許多其他領(lǐng)域的發(fā)展。這些進(jìn)度通常歸功于使用更多數(shù)據(jù)以及更深層次的神經(jīng)網(wǎng)絡(luò)：

Yann LeCun表示: 「在此之前，神經(jīng)網(wǎng)絡(luò)并沒有打破識(shí)別連續(xù)語音的記錄；因?yàn)樗鼈兊拇笮∮邢?。?/p>

當(dāng)然，更多的數(shù)據(jù)和更大的神經(jīng)網(wǎng)絡(luò)意味著我們需要更強(qiáng)的機(jī)器處理能力。其結(jié)果是，GPU現(xiàn)在經(jīng)常被用來提供處理能力。然而，學(xué)會(huì)更好地識(shí)別語音或者物品并沒有幫助深度學(xué)習(xí)進(jìn)步。深度學(xué)習(xí)并沒有自我改善。對(duì)深度學(xué)習(xí)在算法上的任何改善都要?dú)w功于人類在設(shè)計(jì)上的不懈努力。

我們也可以從另一方面用我們所了解到的有關(guān)智能系統(tǒng)的最好例子來例證這一論點(diǎn)?？纯次覀冏约骸Ｎ覀冎皇褂昧宋覀冏约捍竽X驚人能力中的一小部分，而且我們正努力地想要改變現(xiàn)狀。對(duì)我們來說，學(xué)習(xí)如何更好地完成某個(gè)特定任務(wù)很簡單，但學(xué)習(xí)如何更高效地學(xué)習(xí)還需要下點(diǎn)功夫。舉例來說，如果我們除去對(duì)智商固有的正常定義，我們可以察覺到智商在上個(gè)世紀(jì)內(nèi)有增長，但增長速度緩慢 （弗林效應(yīng)「Flynn Effect」）。在今天，提高智商的過程和一個(gè)世紀(jì)以前一樣痛苦并且緩慢?；蛟S，電子大腦也很難快速提高自己的性能，并且永遠(yuǎn)無法超越自身的基本功能？

論點(diǎn)四：收益遞減 （Diminishing Return）

技術(shù)奇點(diǎn)通常假設(shè)智力的改進(jìn)是一個(gè)相對(duì)恒定的乘數(shù)，每一代的分?jǐn)?shù)都比上一代更高。然而到目前為止，大部分人工智能系統(tǒng)的性能一直在經(jīng)歷收益遞減。在不同研究的初期，研究人員通常獲得許多成果，但在這之后則遇到一系列難以改進(jìn)的困難。這個(gè)過程解釋了許多早期人工智能的研究人員對(duì)行業(yè)發(fā)展過于樂觀的看法。人工智能系統(tǒng)也許可以無限制地完善自己，但對(duì)智力的總體改進(jìn)很可能存在上限。舉例來說，如果每一代人工智能比上一代增強(qiáng)半倍，那么系統(tǒng)永遠(yuǎn)不會(huì)達(dá)到2倍的整體智力。

收益遞減不僅是由于改進(jìn)人工智能算法的困難度，也是由于計(jì)算機(jī)科學(xué)快速增長的困難度。微軟的聯(lián)合創(chuàng)始人保羅·艾倫稱這一現(xiàn)象為 「復(fù)雜性剎車」(Complexity Brake)。

「我們把這個(gè)問題叫做復(fù)雜性剎車。伴隨人類對(duì)自然系統(tǒng)理解的不斷加深，我們通常會(huì)發(fā)現(xiàn)，我們需要更多并且更專業(yè)的知識(shí)來描述它們，我們不得不用越來越復(fù)雜的方式來持續(xù)擴(kuò)展我們的科學(xué)理論… 我們相信，對(duì)自然世界 [認(rèn)知上的] 理解正在被復(fù)雜性剎車放慢?！埂狝llen和Greaves，2011。

即使人類看到人工智能系統(tǒng)持續(xù)、甚至呈指數(shù)級(jí)的改進(jìn)，這些或許都無法提高機(jī)器的性能。智力提升所需要解決的問題本身的難度增長速度，甚至比智力提升的速度還要快。很多人表示，現(xiàn)階段理論物理學(xué)的探索似乎也遇到了同樣的復(fù)雜性剎車。

論點(diǎn)五：智慧的極限 （Limits of Intelligence）

宇宙中存在很多基本的限制。其中一些是物理限制。例如，我們無法加速超過光速。我們無法同時(shí)知道位置和動(dòng)量的精確數(shù)值。我們無法知道原子放射性衰變具體發(fā)生的時(shí)間。我們創(chuàng)造出來的思維機(jī)器也受這些物理定律的限制。當(dāng)然，如果機(jī)器在本質(zhì)上是電子或者甚至是量子，這些限制很可能比人類大腦生物和化學(xué)的限制還要大得多。

更多可觀察的經(jīng)驗(yàn)法則也在復(fù)雜的系統(tǒng)中不斷涌現(xiàn)。例如，鄧巴數(shù)（Dunbar’s Number）是靈長類動(dòng)物腦容量和社會(huì)平均大小之間所觀察到的聯(lián)系數(shù)值。該數(shù)值把人類社會(huì)團(tuán)體中關(guān)系穩(wěn)定的人數(shù)限制在100到250人之間。智力是一個(gè)復(fù)雜的現(xiàn)象，并且也會(huì)有類似的限制出現(xiàn)在這種復(fù)雜度中。機(jī)器智力的改善，無論是失控還是緩慢地增長，都可能碰觸到這種限制。當(dāng)然，我們沒有理由假設(shè)人類智力目前已經(jīng)達(dá)到、或者接近這個(gè)上限。同樣來說，我們也沒有理由認(rèn)為這個(gè)上限遠(yuǎn)遠(yuǎn)超過了人類的智力。

論點(diǎn)六：計(jì)算復(fù)雜性（Computational Complexity）

假設(shè)我們堅(jiān)持使用遵守傳統(tǒng)計(jì)算模型的電腦開發(fā)人工智能系統(tǒng)。那么，指數(shù)級(jí)增長也無法與計(jì)算的復(fù)雜度匹敵。舉例來說，計(jì)算機(jī)性能上的指數(shù)級(jí)增長不足以運(yùn)行超級(jí)指數(shù)算法。而且沒有任何性能上的增長可以解決無法解決的問題。計(jì)算的復(fù)雜性也許正是我們前面所討論到的基本限制之一。因此，除非我們使用的機(jī)器能夠超越傳統(tǒng)的計(jì)算模型，否則我們很可能會(huì)碰到類似于計(jì)算的復(fù)雜性從根本上限制了計(jì)算機(jī)性能的問題。當(dāng)然，很多計(jì)算的復(fù)雜度問題只是最壞的情況，大部分的人工智能都使用啟發(fā)式學(xué)習(xí)在實(shí)踐中解決計(jì)算上難以處理的問題。不過，這些啟發(fā)式學(xué)習(xí)在質(zhì)量上有根本的限制。有一些級(jí)別的問題即使超人工智能 (super-human intelligence) 也不能很好的解決，哪怕只是大致解決。

結(jié)論

在以上的文章中，我論述了關(guān)于人類也許永遠(yuǎn)無法見證技術(shù)奇點(diǎn)的許多原因。然而，即使沒有技術(shù)奇點(diǎn)，我們也許仍然可以最終擁有展現(xiàn)出超人智力水平的機(jī)器。我們可能不得不自己費(fèi)力編寫這個(gè)超能力。如果是這樣的話，人工智能對(duì)經(jīng)濟(jì)和社會(huì)的影響，要比對(duì)技術(shù)奇點(diǎn)持有悲觀或樂觀態(tài)度的人所預(yù)測(cè)的結(jié)果平淡得多。然而，我們應(yīng)該就人工智能對(duì)社會(huì)的影響開始做準(zhǔn)備。就算沒有技術(shù)奇點(diǎn)，人工智能依舊會(huì)大面積影響工作的性質(zhì)。舉第二個(gè)例子：即使智力有限的人工智能依然可以對(duì)戰(zhàn)爭的性質(zhì)產(chǎn)生很大的影響?，F(xiàn)在，我們需要開始為這樣的未來做計(jì)劃。

參考文獻(xiàn)：

[Allen and Greaves 2011] Allen, P., and Greaves, M. 2011. The singularity isn’t near. MIT Technology Review 7–65.

[Bostrom 2002] Bostrom, N. 2002. When machines outsmart humans. Futures 35(7):759–764.

[Bostrom 2014] Bostrom, N. 2014. Superintelligence: Paths, Dangers, Strategies. Oxford, UK: Oxford Uniiversity Press.

[Chalmers 2010] Chalmers, D. 2010. The singularity: A philosophical analysis. Journal of Consciousness Studies 17(9-10):7–65.

[Edwards 2015] Edwards, C. 2015. Growing pains for deep learning. Commun. ACM 58(7):14–16.

[Good 1965] Good, I. 1965. Speculations concerning the first ultraintelligent machine. Advances in Computers 6:31– 88.

[Kurzweil 2006] Kurzweil, R. 2006. The Singularity Is Near: When Humans Transcend Biology. Penguin (NonClassics).

[Pinker 2008] Pinker, S. 2008. Tech luminaries address singularity. IEEE Spectrum.

[Turing 1963] Turing, A. 1963. Computing machinery and intelligence. In Computers and Thought. McGraw-Hill Book Company.

[Ulam 1958] Ulam, S. 1958. Tribute to John von Neumann. Bulletin of the American Mathematical Society 64(3).

[Vinge 1993] Vinge, V. 1993. The coming technological singularity: How to survive in the post-human era. In Rheingold, H., ed., Whole Earth Review.