第十二章 永遠的埃達
創新者：一群技術狂人和鬼才程序員如何改變世界 作者：沃爾特·艾薩克森 投票推薦 加入書簽 留言反饋
<h2>洛夫萊斯夫人的異議</h2>
埃達·洛夫萊斯應該會感到欣慰。對於一位已經逝去超過150年的先人來說，我們隻能狹隘地揣測她的思想。我們可以想象她如何自豪地在書信中炫耀自己的敏銳洞察力，她知道計算設備總有一天會成為通用型計算機，這種美妙的機器不僅可以處理數字，而且能夠譜寫音樂和處理文字，甚至“將通用符號以連續的無限變化的形式結合起來”。
這樣的機器在20世紀50年代開始出現。在接下來的30年當中，計算機在兩項重大創新的驅動之下徹底改變了我們的生活方式：微型芯片讓計算機尺寸可以縮小為作為個人設備使用；分組交換網絡讓計算機可以作為網絡上的節點互相連接。個人電腦和互聯網的結合促進了數字創意、內容分享、社區營造和社交網絡的迅速發展。它實現了埃達所說的“詩意科學”，這是創意和技術的相互交織，就如出自雅卡爾織布機的華麗織錦一般。
埃達還有一個更具爭議性的觀點：無論如何強大的計算機都不可能真正成為一台“會思考的”機器。至少到目前為止，她仍然可以理直氣壯地誇耀自己的想法是正確的。在她身故的一個世紀之後，艾倫·圖靈將這個觀點稱為“洛夫萊斯夫人的異議”，並嚐試對它進行反駁。他為會思考的機器給出了一個可操作的定義——能夠讓提問者以為是人類的機器。他還預計在幾十年之內將會出現可以通過這個測試的計算機。但是現在60多年過去了，那些試圖通過圖靈測試的機器最多隻能進行一些蹩腳的對話，而不是真正的思考。顯然現在還沒有一台機器能夠達到埃達提出的嚴格標準：能夠“擁有”自己的思想。
瑪麗·雪萊在與埃達的父親拜倫勳爵度假期間想出了《科學怪人》的故事，自此以後，人造機器可能形成獨立思想的想法使得一代又一代的人們深感不安。《科學怪人》的主題也成為後世科幻作品的基石，其中一個生動的例子是斯坦利·庫布裏克（stanley kubrick）1968年的電影《2001太空漫遊》（2001: a space odyssey ），這部電影的主角是一台令人恐懼的智能計算機“hal”。hal通過自己平靜的嗓音展現出了一些人類特有的能力：說話、推理、識別人臉、審美、表達情緒，（當然）還有下象棋。當hal似乎出現故障的時候，人類宇航員們決定將其關閉。在得知這個計劃之後，hal將他們逐一殺害，最後隻剩下一位幸存者。經過一番英勇鬥爭之後，僅存的那位宇航員打開了hal的認知電路，把它們一個接一個地斷開。hal開始逐漸退化，直到最後哼唱出了“daisy bell”的曲調，這是向曆史上第一首計算機合成樂曲致敬——1961年，位於貝爾實驗室的一台ibm 704計算機唱出了這首曲子。
長期以來，人工智能的狂熱支持者們都在鼓吹（或者說是威脅）像hal那樣的機器很快就會出現，並且證明埃達的想法是錯誤的。這也是舉行於1956年的達特茅斯會議的前提，這場由約翰·麥卡錫和馬文·明斯基發起的會議確立了人工智能這一研究領域。與會者們最終總結得出，人工智能領域將在大約20年之後出現重大突破。但事實並非如此。每隔10年都會有一批新的專家斷言人工智能將會在可見的未來實現，然而他們見到的隻是鏡花水月，總是與我們相隔20年的距離。
約翰·馮·諾依曼在逝世（1957年）之前曾經短暫研究過人工智能。在參與了現代數字計算機結構的設計工作之後，他認識到人類大腦和計算機的結構之間存在根本性的區別。數字計算機會采用精確的單位進行計算，但是根據我們目前的了解，大腦也是一個部分模擬的係統，它會處理一係列連續統一的可能性。換句話說，人類在進行思考的時候，大量來自不同神經的信號脈衝和模擬波會聚集在一起，產生出“也許”和“可能吧”等各種有著細微差別的答案，有時還會出現困惑的情況，而不是像計算機那樣隻有二進製的“是”與“否”兩種結果。馮·諾依曼提出未來的智能計算或許需要放棄完全數字的方式，建立一種同時含有數學和模擬形式的“混合程序”。他表示，“邏輯學將必須從內在轉變為神經學”這句話翻譯過來的大致意思就是，電腦將需要變得更像人腦。1
一位來自康奈爾大學的教授弗蘭克·羅森布拉特（frank rosentt）在1958年嚐試實現這個目標。他利用數學方式設計了一種模擬大腦的人工神經網絡，並將其命名為“感知機”（perceptron）。通過使用加權統計輸入，它在理論上可以處理視覺數據。當為這個項目提供資金支持的美國海軍將其對外公布的時候，這個事件吸引了眾多媒體的大肆炒作，隨後還出現了許多關於人工智能的論斷。“海軍在今天公布了一個電子計算機的胚胎，它將可以行走、說話、視物、寫作、自我繁殖，而且可以意識到自己的存在。”這是來自《紐約時報》的報道。《紐約客》也表現出了同樣的興奮：“顧名思義……感知機能夠達到獨立思考的程度……它讓我們感到第一個真正可以媲美人類大腦的東西已經被發明出來了。”2
這已經是差不多60年之前的事情了，但是感知機的設想到現在仍未實現。3 盡管如此，幾乎從那以後的每一年都會出現這種激動人心的新聞報道，它們的主題都是說一些能夠複製和超越人類大腦的神奇發明即將到來，其中有很多都用到了跟1958年的感知機新聞幾乎一模一樣的措辭。
後來發生的兩件事讓關於人工智能的討論變得更為熱烈了（至少在大眾媒體的範圍之內）。首先是ibm的國際象棋計算機深藍在1997年擊敗了世界國際象棋冠軍加裏·卡斯帕羅夫（garry kasparov），然後同樣也是來自ibm的自然語言答題計算機沃森在2011年的《危險邊緣》（jeopardy! ）智力競猜節目中勝出，它同時擊敗了兩位冠軍選手——布拉德·拉特（brad rutter）和肯·詹寧斯（ken jennings）。“我認為它喚醒了整個人工智能社區。”ibm的首席行政官金尼·羅曼提（ginni rometty）說道。4 但是正如她首先承認的，這些都不是人工智能的真正突破。深藍是依靠蠻力算法在國際象棋比賽中勝出的，它可以每秒分析2億步棋，然後將每一步棋與以往的70萬局大師級比賽進行比對。大多數人都會認同深藍的計算方式與普遍定義的真正思考之間存在根本性的差別。“深藍的智能程度跟你的可編程鬧鍾一樣，”卡斯帕羅夫說道，“但並不是說輸給一台價值1 000萬美元的鬧鍾會讓我感到好過一些。”5
同樣，沃森也是利用了大量的計算能力才能在《危險邊緣》中獲勝：它擁有4tb的儲存容量，裏麵存放了2億頁的信息，而整個維基百科的內容僅占其中的0.2%。它可以在一秒鍾之內搜索相當於100萬本書的內容。它還能說流利的英語口語。盡管如此，看過它上電視的人都不會認為它可以通過圖靈測試。事實上，ibm團隊的負責人非常擔心該節目的腳本寫作者會設計一些蒙騙機器的問題，將這個節目變成一場圖靈測試，所以他們堅決要求節目組隻能使用來自未播放節目的現有問題。然而，這台機器還是在節目上多次展示了自己非人性的一麵。例如其中一個問題是關於奧運會體操冠軍喬治·埃塞爾（george eyser）的“生理結構特點”。沃森的回答是“什麽是一條腿？”而正確的答案應該是“埃塞爾缺了一條腿”。這個問題的難點在於理解“不尋常”的意思，ibm沃森項目的負責人戴維·費魯奇（david ferri）解釋道，“這台計算機理解不了缺了一條腿是一件極不尋常的事情。”6
加州大學伯克利分校的哲學教授，“中文房間”思維實驗的設計者約翰·希爾勒認為，沃森根本連一丁點的人工智能都算不上。“沃森並不理解那些問題，也不能理解問題的答案，它不知道自己有沒有答對，不知道自己在參加比賽，更不知道自己贏了——因為它不能理解任何東西，”希爾勒表示，“ibm不是，也不能以理解為目的來設計這台計算機。一個更恰當的說法是，它的設計目的是模擬理解，是讓它假裝自己能理解。”7
即使是ibm的工作人員也認同這個觀點。他們從來沒有標榜沃森是一台“智能”的機器。“現在的計算機都是聰明的笨蛋，”ibm的研發總監約翰·e·凱利三世（john e. kelly iii）在深藍和沃森擊敗人類之後說道，“它們在儲存信息和數字計算方麵有著驚人的能力——遠遠超出任何人。然而在另外一方麵的技能，比如理解、學習、適應和互動的能力，計算機隻能向人類俯首稱臣。”8
深藍和沃森並沒有證明機器已經進一步實現了人工智能，它們反映的是一個完全相反的事實。“令人感到諷刺的是，這些最近出現的成果揭示了計算機科學和人工智能的局限所在，”麻省理工學院的大腦、思維與機器研究中心的主管托馬索·波焦（tomaso poggio）表示，“我們目前還不了解大腦是如何產生智慧的，也不知道如何做出和我們一樣擁有全麵智慧的機器。”9
印第安納大學的道格拉斯·霍夫施塔特（dous hofstadter）教授在1979年出版了一本結合藝術與科學的著作《哥德爾、埃舍爾、巴赫》（go?del, escher, bac ），令他意想不到的是，讀書竟然成為一本風靡全球的暢銷書。他認為如果要實現有意義的人工智能，唯一的方法是理解人類想象力的運作方式。他所提出的研究方向在20世紀90年代已經基本被放棄了，因為當時的研究人員發現在處理複雜任務的時候，更為高效的做法是借助強大的處理能力來處理海量數據，正如深藍下象棋的方式。10
這種方法產生了一種令人費解的現象：雖然計算機可以完成世界上最困難的一些任務（分析數十億種可能的棋子走法，在數百個相當於維基百科大小的數據庫中找出關聯的內容），但是一些我們人類認為最簡單不過的事情它們卻做不到。如果向穀歌詢問一個高難度的問題，比如“紅海的深度是多少”，它馬上就可以給出答案“7 254英尺”，這可能連你最聰明的朋友都不一定知道。不過如果問它一個簡單如“鱷魚會打籃球嗎”的問題，它卻會不知所措，但是就連蹣跚學步的孩童都能在一陣笑聲之後給出正確的答案。11
在洛杉磯附近的applied minds公司裏麵，你可以看到控製機器人行動的程序是如何被編寫出來的，但是在興奮之餘，你很快就會發現這些機器人在陌生的房間裏會暈頭轉向，也拿不起蠟筆並寫下自己的名字。在參觀波士頓附近的nuancemunications公司的過程中，你會了解到語音識別技術的驚人進展，這種技術是支撐siri和其他類似係統的基礎。但是任何使用siri的人都清楚，我們現在還不能與計算機進行真正有意義的對話，除非是在科幻電影當中。在麻省理工學院的計算機科學與人工智能實驗室裏麵，一項關於計算機圖像識別技術的研究正在如火如荼地進行當中。然而，盡管計算機能夠從圖像中識別出一個拿著杯子的女孩、一個站在噴泉旁的男孩、一隻正在舔奶油的貓，但是它缺乏最基本的抽象思維能力，所以識別出他們都在做同樣的動作——喝東西。位於曼哈頓的紐約市警察指揮中心有一個區域警戒係統（domain awareness system），這個係統中的計算機能夠掃描來自成千上萬個監控攝像頭的圖像信號，但是它們仍然不能從人群中準確地辨認出你媽媽的樣子。
所有這些任務都有一個共同點：這些都是連一個四歲的小孩都能做到的事情。根據哈佛大學的認知科學家史蒂芬·平克（steven pinker）的說法：“過去35年的人工智能研究帶給我們的主要啟示是，困難的問題是簡單的，簡單的問題是困難的。”12 未來學家漢斯·莫拉維克（hans moravec）等人表示這個悖論之所以存在，是因為識別視覺或語言模式需要消耗的計算資源過於巨大。
莫拉維克的悖論印證了馮·諾依曼在半個世紀之前提出的觀點——人類大腦的碳基化學物質的運作模式不同於計算機的矽基二進製邏輯電路。濕件[1] 和硬件之間存在差別。人腦不僅結合了模擬和數字的處理方式，它還是一個分布式的係統，就像互聯網一樣。計算機的中央處理器執行指令的速度可以遠遠超過大腦的神經元。“但是大腦能夠很好地彌補這個劣勢，因為所有的神經元和突觸都能同時被激活，而目前大多數計算機都隻有一個或幾個cpu（中央處理器）。”這句話出自斯圖爾特·拉塞爾（stuart russell）和彼得·諾維格（peter norvig）合著的一本書，它是人工智能領域最為重要的一本教科書。13
那為什麽不製造一台可以模仿人類大腦運作方式的計算機呢？“最終我們將能夠測定人類基因組的序列，並複製出自然賦予碳基係統的智慧，”比爾·蓋茨預測道，“這就像是為了解決一個難題而對其他人的產品進行逆向工程一樣。”14 這不是一個可以輕易實現的目標。科學家們花了40年的時間才測定出一種身長1毫米的線蟲的神經活動，它隻有302個神經元和8 000個突觸。[2] 而人類大腦則擁有860億個神經元和多達150萬億個突觸。15
2013年底，《紐約時報》報道了“一項即將顛覆數字世界的研究進展”，這項進展“可能會實現新一代的人工智能係統，它們將會擁有一些對於人類來說輕而易舉的功能：視覺、語言、聽覺、尋路、操縱和控製”。這些用詞會讓人想起《紐約時報》在1958年對感知機的報道（“它將可以行走、說話、視物、寫作、自我繁殖，而且可以意識到自己的存在”）。這是複製人類大腦神經網絡運作模式的另外一次嚐試。正如《紐約時報》所描述的，“這種新的計算方式的基礎是生物神經係統，具體來說是神經元對刺激的反應以及神經元之間通過連接轉譯信息的方式。”16 ibm和高通均公布了開發“神經形態”（neuromorphic）計算機處理器的計劃，還有一個叫作“人類大腦計劃”（human brain project）的歐洲研究委員會也宣稱自己已經研製出一種神經形態微型芯片，這種芯片含有“5 000萬個塑料突觸和20萬個仿真神經元模型，所有這些元件都被安放在一個8英寸的矽片上。”17
這輪新聞報道也許確實意味著能夠像人類一樣思考的機器會在幾十年之後出現。“我們一直都在關注機器還不能做的事情——下象棋、駕駛汽車、翻譯語言，而當機器有能力做出這些事情的時候，我們就把這個清單上的項目一一劃去，”蒂姆·伯納斯–李說道，“終有一天，我們可以把清單上的最後一行劃去。”18
這些最新的研究進展甚至會導致“奇點”（singrity）的出現，這是由馮·諾依曼創造的一個術語，並在未來學家雷·庫茨韋爾（ray kurzweil）和科幻作家弗諾·文奇（vernor vinge）的推廣之下深入人心。“奇點”一詞可以用來描述計算機的智慧開始超越人類的時刻，屆時它們將能夠通過自我完善而變得越來越智能，因此就不再需要依賴人類。文奇表示這種情況到2030年將會出現。19
另外，這些新聞報道也有可能隻是重現了20世紀50年代的海市蜃樓。真正的人工智能或許需要再過幾代人甚至幾個世紀的時間才能達到。我們可以把這個話題留給未來學家們討論。實際上，根據我們對意識的定義，它也許永遠都不可能出現。這個話題則可以留給哲學家和神學家們討論。“人類的創造力將永遠不可能設計出比自然造物更完美、更簡單、更恰當的發明。”達·芬奇寫道，他創作的《維特魯威人》（vitruvian man ）成為藝術與科學相結合的終極象征。
然而，我們的未來還存在另外一種可能性，這是埃達·洛夫萊斯所認同的未來，也是建立在過去半個世紀的計算機發展道路之上的未來，而這條道路的開辟者是萬尼瓦爾·布什、j·c·r·利克萊德和道格·恩格爾巴特。
埃達·洛夫萊斯應該會感到欣慰。對於一位已經逝去超過150年的先人來說，我們隻能狹隘地揣測她的思想。我們可以想象她如何自豪地在書信中炫耀自己的敏銳洞察力，她知道計算設備總有一天會成為通用型計算機，這種美妙的機器不僅可以處理數字，而且能夠譜寫音樂和處理文字，甚至“將通用符號以連續的無限變化的形式結合起來”。
這樣的機器在20世紀50年代開始出現。在接下來的30年當中，計算機在兩項重大創新的驅動之下徹底改變了我們的生活方式：微型芯片讓計算機尺寸可以縮小為作為個人設備使用；分組交換網絡讓計算機可以作為網絡上的節點互相連接。個人電腦和互聯網的結合促進了數字創意、內容分享、社區營造和社交網絡的迅速發展。它實現了埃達所說的“詩意科學”，這是創意和技術的相互交織，就如出自雅卡爾織布機的華麗織錦一般。
埃達還有一個更具爭議性的觀點：無論如何強大的計算機都不可能真正成為一台“會思考的”機器。至少到目前為止，她仍然可以理直氣壯地誇耀自己的想法是正確的。在她身故的一個世紀之後，艾倫·圖靈將這個觀點稱為“洛夫萊斯夫人的異議”，並嚐試對它進行反駁。他為會思考的機器給出了一個可操作的定義——能夠讓提問者以為是人類的機器。他還預計在幾十年之內將會出現可以通過這個測試的計算機。但是現在60多年過去了，那些試圖通過圖靈測試的機器最多隻能進行一些蹩腳的對話，而不是真正的思考。顯然現在還沒有一台機器能夠達到埃達提出的嚴格標準：能夠“擁有”自己的思想。
瑪麗·雪萊在與埃達的父親拜倫勳爵度假期間想出了《科學怪人》的故事，自此以後，人造機器可能形成獨立思想的想法使得一代又一代的人們深感不安。《科學怪人》的主題也成為後世科幻作品的基石，其中一個生動的例子是斯坦利·庫布裏克（stanley kubrick）1968年的電影《2001太空漫遊》（2001: a space odyssey ），這部電影的主角是一台令人恐懼的智能計算機“hal”。hal通過自己平靜的嗓音展現出了一些人類特有的能力：說話、推理、識別人臉、審美、表達情緒，（當然）還有下象棋。當hal似乎出現故障的時候，人類宇航員們決定將其關閉。在得知這個計劃之後，hal將他們逐一殺害，最後隻剩下一位幸存者。經過一番英勇鬥爭之後，僅存的那位宇航員打開了hal的認知電路，把它們一個接一個地斷開。hal開始逐漸退化，直到最後哼唱出了“daisy bell”的曲調，這是向曆史上第一首計算機合成樂曲致敬——1961年，位於貝爾實驗室的一台ibm 704計算機唱出了這首曲子。
長期以來，人工智能的狂熱支持者們都在鼓吹（或者說是威脅）像hal那樣的機器很快就會出現，並且證明埃達的想法是錯誤的。這也是舉行於1956年的達特茅斯會議的前提，這場由約翰·麥卡錫和馬文·明斯基發起的會議確立了人工智能這一研究領域。與會者們最終總結得出，人工智能領域將在大約20年之後出現重大突破。但事實並非如此。每隔10年都會有一批新的專家斷言人工智能將會在可見的未來實現，然而他們見到的隻是鏡花水月，總是與我們相隔20年的距離。
約翰·馮·諾依曼在逝世（1957年）之前曾經短暫研究過人工智能。在參與了現代數字計算機結構的設計工作之後，他認識到人類大腦和計算機的結構之間存在根本性的區別。數字計算機會采用精確的單位進行計算，但是根據我們目前的了解，大腦也是一個部分模擬的係統，它會處理一係列連續統一的可能性。換句話說，人類在進行思考的時候，大量來自不同神經的信號脈衝和模擬波會聚集在一起，產生出“也許”和“可能吧”等各種有著細微差別的答案，有時還會出現困惑的情況，而不是像計算機那樣隻有二進製的“是”與“否”兩種結果。馮·諾依曼提出未來的智能計算或許需要放棄完全數字的方式，建立一種同時含有數學和模擬形式的“混合程序”。他表示，“邏輯學將必須從內在轉變為神經學”這句話翻譯過來的大致意思就是，電腦將需要變得更像人腦。1
一位來自康奈爾大學的教授弗蘭克·羅森布拉特（frank rosentt）在1958年嚐試實現這個目標。他利用數學方式設計了一種模擬大腦的人工神經網絡，並將其命名為“感知機”（perceptron）。通過使用加權統計輸入，它在理論上可以處理視覺數據。當為這個項目提供資金支持的美國海軍將其對外公布的時候，這個事件吸引了眾多媒體的大肆炒作，隨後還出現了許多關於人工智能的論斷。“海軍在今天公布了一個電子計算機的胚胎，它將可以行走、說話、視物、寫作、自我繁殖，而且可以意識到自己的存在。”這是來自《紐約時報》的報道。《紐約客》也表現出了同樣的興奮：“顧名思義……感知機能夠達到獨立思考的程度……它讓我們感到第一個真正可以媲美人類大腦的東西已經被發明出來了。”2
這已經是差不多60年之前的事情了，但是感知機的設想到現在仍未實現。3 盡管如此，幾乎從那以後的每一年都會出現這種激動人心的新聞報道，它們的主題都是說一些能夠複製和超越人類大腦的神奇發明即將到來，其中有很多都用到了跟1958年的感知機新聞幾乎一模一樣的措辭。
後來發生的兩件事讓關於人工智能的討論變得更為熱烈了（至少在大眾媒體的範圍之內）。首先是ibm的國際象棋計算機深藍在1997年擊敗了世界國際象棋冠軍加裏·卡斯帕羅夫（garry kasparov），然後同樣也是來自ibm的自然語言答題計算機沃森在2011年的《危險邊緣》（jeopardy! ）智力競猜節目中勝出，它同時擊敗了兩位冠軍選手——布拉德·拉特（brad rutter）和肯·詹寧斯（ken jennings）。“我認為它喚醒了整個人工智能社區。”ibm的首席行政官金尼·羅曼提（ginni rometty）說道。4 但是正如她首先承認的，這些都不是人工智能的真正突破。深藍是依靠蠻力算法在國際象棋比賽中勝出的，它可以每秒分析2億步棋，然後將每一步棋與以往的70萬局大師級比賽進行比對。大多數人都會認同深藍的計算方式與普遍定義的真正思考之間存在根本性的差別。“深藍的智能程度跟你的可編程鬧鍾一樣，”卡斯帕羅夫說道，“但並不是說輸給一台價值1 000萬美元的鬧鍾會讓我感到好過一些。”5
同樣，沃森也是利用了大量的計算能力才能在《危險邊緣》中獲勝：它擁有4tb的儲存容量，裏麵存放了2億頁的信息，而整個維基百科的內容僅占其中的0.2%。它可以在一秒鍾之內搜索相當於100萬本書的內容。它還能說流利的英語口語。盡管如此，看過它上電視的人都不會認為它可以通過圖靈測試。事實上，ibm團隊的負責人非常擔心該節目的腳本寫作者會設計一些蒙騙機器的問題，將這個節目變成一場圖靈測試，所以他們堅決要求節目組隻能使用來自未播放節目的現有問題。然而，這台機器還是在節目上多次展示了自己非人性的一麵。例如其中一個問題是關於奧運會體操冠軍喬治·埃塞爾（george eyser）的“生理結構特點”。沃森的回答是“什麽是一條腿？”而正確的答案應該是“埃塞爾缺了一條腿”。這個問題的難點在於理解“不尋常”的意思，ibm沃森項目的負責人戴維·費魯奇（david ferri）解釋道，“這台計算機理解不了缺了一條腿是一件極不尋常的事情。”6
加州大學伯克利分校的哲學教授，“中文房間”思維實驗的設計者約翰·希爾勒認為，沃森根本連一丁點的人工智能都算不上。“沃森並不理解那些問題，也不能理解問題的答案，它不知道自己有沒有答對，不知道自己在參加比賽，更不知道自己贏了——因為它不能理解任何東西，”希爾勒表示，“ibm不是，也不能以理解為目的來設計這台計算機。一個更恰當的說法是，它的設計目的是模擬理解，是讓它假裝自己能理解。”7
即使是ibm的工作人員也認同這個觀點。他們從來沒有標榜沃森是一台“智能”的機器。“現在的計算機都是聰明的笨蛋，”ibm的研發總監約翰·e·凱利三世（john e. kelly iii）在深藍和沃森擊敗人類之後說道，“它們在儲存信息和數字計算方麵有著驚人的能力——遠遠超出任何人。然而在另外一方麵的技能，比如理解、學習、適應和互動的能力，計算機隻能向人類俯首稱臣。”8
深藍和沃森並沒有證明機器已經進一步實現了人工智能，它們反映的是一個完全相反的事實。“令人感到諷刺的是，這些最近出現的成果揭示了計算機科學和人工智能的局限所在，”麻省理工學院的大腦、思維與機器研究中心的主管托馬索·波焦（tomaso poggio）表示，“我們目前還不了解大腦是如何產生智慧的，也不知道如何做出和我們一樣擁有全麵智慧的機器。”9
印第安納大學的道格拉斯·霍夫施塔特（dous hofstadter）教授在1979年出版了一本結合藝術與科學的著作《哥德爾、埃舍爾、巴赫》（go?del, escher, bac ），令他意想不到的是，讀書竟然成為一本風靡全球的暢銷書。他認為如果要實現有意義的人工智能，唯一的方法是理解人類想象力的運作方式。他所提出的研究方向在20世紀90年代已經基本被放棄了，因為當時的研究人員發現在處理複雜任務的時候，更為高效的做法是借助強大的處理能力來處理海量數據，正如深藍下象棋的方式。10
這種方法產生了一種令人費解的現象：雖然計算機可以完成世界上最困難的一些任務（分析數十億種可能的棋子走法，在數百個相當於維基百科大小的數據庫中找出關聯的內容），但是一些我們人類認為最簡單不過的事情它們卻做不到。如果向穀歌詢問一個高難度的問題，比如“紅海的深度是多少”，它馬上就可以給出答案“7 254英尺”，這可能連你最聰明的朋友都不一定知道。不過如果問它一個簡單如“鱷魚會打籃球嗎”的問題，它卻會不知所措，但是就連蹣跚學步的孩童都能在一陣笑聲之後給出正確的答案。11
在洛杉磯附近的applied minds公司裏麵，你可以看到控製機器人行動的程序是如何被編寫出來的，但是在興奮之餘，你很快就會發現這些機器人在陌生的房間裏會暈頭轉向，也拿不起蠟筆並寫下自己的名字。在參觀波士頓附近的nuancemunications公司的過程中，你會了解到語音識別技術的驚人進展，這種技術是支撐siri和其他類似係統的基礎。但是任何使用siri的人都清楚，我們現在還不能與計算機進行真正有意義的對話，除非是在科幻電影當中。在麻省理工學院的計算機科學與人工智能實驗室裏麵，一項關於計算機圖像識別技術的研究正在如火如荼地進行當中。然而，盡管計算機能夠從圖像中識別出一個拿著杯子的女孩、一個站在噴泉旁的男孩、一隻正在舔奶油的貓，但是它缺乏最基本的抽象思維能力，所以識別出他們都在做同樣的動作——喝東西。位於曼哈頓的紐約市警察指揮中心有一個區域警戒係統（domain awareness system），這個係統中的計算機能夠掃描來自成千上萬個監控攝像頭的圖像信號，但是它們仍然不能從人群中準確地辨認出你媽媽的樣子。
所有這些任務都有一個共同點：這些都是連一個四歲的小孩都能做到的事情。根據哈佛大學的認知科學家史蒂芬·平克（steven pinker）的說法：“過去35年的人工智能研究帶給我們的主要啟示是，困難的問題是簡單的，簡單的問題是困難的。”12 未來學家漢斯·莫拉維克（hans moravec）等人表示這個悖論之所以存在，是因為識別視覺或語言模式需要消耗的計算資源過於巨大。
莫拉維克的悖論印證了馮·諾依曼在半個世紀之前提出的觀點——人類大腦的碳基化學物質的運作模式不同於計算機的矽基二進製邏輯電路。濕件[1] 和硬件之間存在差別。人腦不僅結合了模擬和數字的處理方式，它還是一個分布式的係統，就像互聯網一樣。計算機的中央處理器執行指令的速度可以遠遠超過大腦的神經元。“但是大腦能夠很好地彌補這個劣勢，因為所有的神經元和突觸都能同時被激活，而目前大多數計算機都隻有一個或幾個cpu（中央處理器）。”這句話出自斯圖爾特·拉塞爾（stuart russell）和彼得·諾維格（peter norvig）合著的一本書，它是人工智能領域最為重要的一本教科書。13
那為什麽不製造一台可以模仿人類大腦運作方式的計算機呢？“最終我們將能夠測定人類基因組的序列，並複製出自然賦予碳基係統的智慧，”比爾·蓋茨預測道，“這就像是為了解決一個難題而對其他人的產品進行逆向工程一樣。”14 這不是一個可以輕易實現的目標。科學家們花了40年的時間才測定出一種身長1毫米的線蟲的神經活動，它隻有302個神經元和8 000個突觸。[2] 而人類大腦則擁有860億個神經元和多達150萬億個突觸。15
2013年底，《紐約時報》報道了“一項即將顛覆數字世界的研究進展”，這項進展“可能會實現新一代的人工智能係統，它們將會擁有一些對於人類來說輕而易舉的功能：視覺、語言、聽覺、尋路、操縱和控製”。這些用詞會讓人想起《紐約時報》在1958年對感知機的報道（“它將可以行走、說話、視物、寫作、自我繁殖，而且可以意識到自己的存在”）。這是複製人類大腦神經網絡運作模式的另外一次嚐試。正如《紐約時報》所描述的，“這種新的計算方式的基礎是生物神經係統，具體來說是神經元對刺激的反應以及神經元之間通過連接轉譯信息的方式。”16 ibm和高通均公布了開發“神經形態”（neuromorphic）計算機處理器的計劃，還有一個叫作“人類大腦計劃”（human brain project）的歐洲研究委員會也宣稱自己已經研製出一種神經形態微型芯片，這種芯片含有“5 000萬個塑料突觸和20萬個仿真神經元模型，所有這些元件都被安放在一個8英寸的矽片上。”17
這輪新聞報道也許確實意味著能夠像人類一樣思考的機器會在幾十年之後出現。“我們一直都在關注機器還不能做的事情——下象棋、駕駛汽車、翻譯語言，而當機器有能力做出這些事情的時候，我們就把這個清單上的項目一一劃去，”蒂姆·伯納斯–李說道，“終有一天，我們可以把清單上的最後一行劃去。”18
這些最新的研究進展甚至會導致“奇點”（singrity）的出現，這是由馮·諾依曼創造的一個術語，並在未來學家雷·庫茨韋爾（ray kurzweil）和科幻作家弗諾·文奇（vernor vinge）的推廣之下深入人心。“奇點”一詞可以用來描述計算機的智慧開始超越人類的時刻，屆時它們將能夠通過自我完善而變得越來越智能，因此就不再需要依賴人類。文奇表示這種情況到2030年將會出現。19
另外，這些新聞報道也有可能隻是重現了20世紀50年代的海市蜃樓。真正的人工智能或許需要再過幾代人甚至幾個世紀的時間才能達到。我們可以把這個話題留給未來學家們討論。實際上，根據我們對意識的定義，它也許永遠都不可能出現。這個話題則可以留給哲學家和神學家們討論。“人類的創造力將永遠不可能設計出比自然造物更完美、更簡單、更恰當的發明。”達·芬奇寫道，他創作的《維特魯威人》（vitruvian man ）成為藝術與科學相結合的終極象征。
然而，我們的未來還存在另外一種可能性，這是埃達·洛夫萊斯所認同的未來，也是建立在過去半個世紀的計算機發展道路之上的未來，而這條道路的開辟者是萬尼瓦爾·布什、j·c·r·利克萊德和道格·恩格爾巴特。