我們正被推入這個新世紀，沒有計劃，沒有控製，沒有刹車……我覺得唯一現實的選擇就是放棄：限製我們人類對於某種知識的追求，從而限製那些太過危險的技術的發展。
——比爾·喬伊\"why the future doesnt need us\"
環保主義者現在必須牢牢記住，世界已經擁有足夠的財富和技術能力，我們不應該追求更多。
——比爾·麥琪本，第一個寫到全球變暖的環保主義者<small>1</small>
進步一開始還是正確的，但現在已經失控了。
——奧格登·納什，1902—1971
在20世紀60年代後期，我變身為一個激進的環保活動家。我和一群烏合之眾一起駕駛著一艘陳舊的、有點漏水的比目魚船，穿過北太平洋，去阻止尼克鬆總統最新的氫彈實驗。在這個過程中，我和別人共同創建了綠色和平組織。當我們在做一些好事時，比如拯救鯨魚或者清潔水和空氣之類的事情時，環保主義者經常持有貌似有道理的理由。但現在我開始後悔建立這個組織。環保主義者反對生物技術特別是反對基因工程的運動。由於對一項能給人類和環境帶來如此多益處的技術采取絲毫不能容忍的政策，他們已經脫離科學家、知識分子、國際主義者。媒介和公眾最終將不可避免地看到他們立場的錯亂。
——帕特裏克·摩爾
我們並不希望在網絡中看到下麵的文章：
讓你的敵人銘記：如何用容易得到的材料<small>2</small>來製造你自己的原子彈。
如何在學校的實驗室裏修改流感病毒以釋放蛇的毒液。
對大腸杆菌的10種簡單地修改。
如何修改天花病毒以對抗天花疫苗。
使用通過互聯網獲得的原料來製造你自己的化學武器。
如何通過使用廉價的飛行器、gps和筆記本電腦來製造一個無人駕駛、自我導航、低空飛行的飛機。
或者如何解決下列問題：
10種重要病原體的基因組。
主要摩天大樓的建築平麵圖。
美國核反應堆的布局。
現代社會的100個大弱點。
互聯網的10大弱點。
一億美國人的個人健康信息。
色情網站的顧客名單。
任何人隻要發布上述第一項，幾乎可以肯定，美國聯邦調查局很快就會來造訪他。2000年3月，一個名叫納特·齊格勒的15歲高中生就經曆過這樣的事情。為了一個學校的科學項目，他建立了一個原子彈的紙模型，結果十分的準確。在隨後的媒體風暴中，齊格勒告訴abc新聞：“你知道，就像某些人提到的那樣，你可以上網獲取信息，我並不是最早獲得這些信息的人。試一試。我上網，點幾下鼠標，然後就找到了合適的信息。”<small>3</small>
當然，齊格勒沒有拿到核心配料鈈，也沒有打算得到它，但是這篇報道仍然在媒體界一石驚起千層浪，更別提擔心核擴散的政府了。
據報道，齊格勒找到了563個關於原子彈設計的web頁麵，報道的結果是這些網站很快被封殺。遺憾的是，試圖在互聯網上禁止一些信息就像是用掃帚把海水掃退。直到今天，這些網站都還很容易訪問。我不會在本書裏提供它們的網址，但是它們並不難找到。
雖然上述文章標題是虛構的，但是人們可以從互聯網中找到許多關於這些問題<small>4</small>的信息。萬維網是一個非凡的研究工具。以我個人的體驗，過去需要在圖書館利用半天時間做的研究，現在隻需要幾分鍾甚至更短的時間就可以完成。
這對於促進有益技術的進步具有巨大和明顯的好處，但是這同時也為那些反社會的人提供了便利。那麽我們生活在危險之中嗎？回答顯然是肯定的。有多危險？要怎樣做才能規避危險？這些是本章的主題。
追溯起來，我密切關注這個問題已經至少幾十年了。在20世紀80年代中期，我寫《the age of intelligent machines》那本書的時候，我對那時新興的基因工程表示擔憂，因為基因工程可以通過技術的手段使用大量有效的設備修改細菌和病毒性病原體的結構，從而製造新的疾病。<small>5</small>在破壞者或者粗心人的手中，這些改造的病原體可以組合成具有高度傳染性、隱蔽性和破壞性的聯合體。
在20世紀80年代，這些工作很難實現，但卻是可行的。我們現在知道當時的一些國家從事過生化武器的計劃。<small>6</small>當時我特意做了一個決定，在我的書裏不去討論這些恐怖之事，因為我不想給那些壞人任何破壞性的想法。我不想在某一天打開收音機時，聽到一個災難，然後犯罪分子說，他們的想法是從雷·庫茲韋爾那得到的。
由於這樣的決定，我會聽到一些合理的批評：這本書隻強調未來技術的好處，而忽視了其中的陷阱。1997～1998年，我編寫那本書時，我試圖對希望和危險 <small>7</small>兩方麵都做出解釋。在那時公眾有足夠的注意力（比如1995年的電影《outbreak》描繪了一種新病原體的釋放引起的恐懼和驚慌）使我感覺可以向公眾陳述這個問題了。
1998年9月，我剛剛完成手稿，就在塔霍湖的一個酒吧偶然遇見了比爾喬伊，這是一位在高技術領域令人尊敬的老同行。雖然我對喬伊在交互web係統的領軍語言（java）上的開創工作以及創辦sun公司方麵仰慕已久，但是在這次簡短的聚會中我所關注的不是喬伊，而是在我們房內坐著的第三個人，約翰·塞爾。塞爾是加州大學伯克利分校傑出的哲學家，以保衛人類意識的深層奧秘為終身事業。
我和塞爾在剛剛閉幕的喬治·吉爾德的telecosm大會上對進化了的機器是否擁有意識這一問題辯論。
這次會議的主題是“精神機器”，對我即將推出的新書中的哲學含義的討論有很大意義。我給喬伊初稿並試圖使他跟上我和塞爾關於意識的討論。
原來喬伊的興趣放在了完全不同的問題上，特別是三種新興的技術：基因、納米、機器人技術（這就是之前討論過的gnr）對人類文明即將產生的危險。我對未來技術下降趨勢的討論警醒了喬伊，他後來將此和現在很著名的在線故事《why the future doesnt need us》<small>8</small>聯係起來。喬伊在文章中指出，他向在科學技術領域的朋友詢問我做的工作是否可信，然後沮喪地發現這些功能多麽得接近實現。
喬伊的文章完全集中於對下降趨勢的描述，這引起了軒然大波。他作為一位技術界領軍人物，指出未來技術會產生新的可怕的危險。這讓人想起喬治·索羅斯，當這位從事貨幣套利活動的資本家對無限製的資本主義發表隱晦的批評言論時受到很大的關注。盡管關於喬伊的爭議更加激烈。據《紐約時報》報道，大約有上萬篇文章對喬伊的文章發表評論或進行討論，超過曆史上任何其他技術問題。我想在塔霍湖的酒吧放鬆下，所以沒有進行這兩個長期的辯論，因此我和約翰·塞爾的談話持續到了今天。
盡管我是喬伊憂慮的起源，但我作為“技術樂觀主義者”的聲望完好無損。我和喬伊被很多論壇邀請去討論未來技術的危險和希望。雖然人們期望我負責討論“希望”部分，但是最終我總是花費大量時間來捍衛喬伊的立場，那就是危險可能發生。
很多人認為喬伊的文章是在倡導放棄技術，這並不是指所有的技術發展，而是指那些有害的技術，比如納米技術。喬伊現在是一名風險投資家，為矽穀傳奇的kleiner、perkins、caufield＆byers公司服務，這些公司現在正在投資類似納米技術的技術，用於可再生能源和其他自然資源。他說“廣泛放棄”是誤解了他的立場，而且這從來也不是他的想法。在最近的私人電子郵件交流中，他說重點應該是“呼籲限製危險技術的發展”（參見本章前麵的介紹），而不是完全禁止。例如，他建議禁止自我複製納米技術，這與先知學會倡導的路線相似。先知學會是納米技術先驅埃裏克·德雷克斯勒與克瑞斯汀·彼得森創建的。總的來說，這是一個合理的指導路線，盡管我認為有兩點例外，在接下來的內容中我將討論到。
另一個例子，喬伊不提倡在互聯網上發布病原體的基因序列，我也同意這一點。他希望所有國家的科學家自願地遵循這些規則，並且他指出：“如果我們一直等到大禍臨頭之後，我們也許最終會製定更加嚴格和有傷害性的規則。”他說他希望“我們遵循這些規則，簡單卻能得到最多好處”。<small>9</small>
其他人，例如環境學家比爾·麥琪本，他就是最先提醒提防全球變暖的人之一，他提倡放棄大量領域，例如生物技術和納米技術，甚至所有的技術。正如我將在接下來的內容中詳細討論的，隻有從根本上放棄所有技術的發展，否則放棄大量領域是不可能實現的。這反過來需要一個新世界體係來禁止開發所有的技術。這個方案不僅與我們的民主價值觀相悖，而且實際上它會使危險更加嚴重，因為通過秘密操縱技術，最沒有責任心的從業人員會得到最多的專業技術。
——比爾·喬伊\"why the future doesnt need us\"
環保主義者現在必須牢牢記住，世界已經擁有足夠的財富和技術能力，我們不應該追求更多。
——比爾·麥琪本，第一個寫到全球變暖的環保主義者<small>1</small>
進步一開始還是正確的，但現在已經失控了。
——奧格登·納什，1902—1971
在20世紀60年代後期，我變身為一個激進的環保活動家。我和一群烏合之眾一起駕駛著一艘陳舊的、有點漏水的比目魚船，穿過北太平洋，去阻止尼克鬆總統最新的氫彈實驗。在這個過程中，我和別人共同創建了綠色和平組織。當我們在做一些好事時，比如拯救鯨魚或者清潔水和空氣之類的事情時，環保主義者經常持有貌似有道理的理由。但現在我開始後悔建立這個組織。環保主義者反對生物技術特別是反對基因工程的運動。由於對一項能給人類和環境帶來如此多益處的技術采取絲毫不能容忍的政策，他們已經脫離科學家、知識分子、國際主義者。媒介和公眾最終將不可避免地看到他們立場的錯亂。
——帕特裏克·摩爾
我們並不希望在網絡中看到下麵的文章：
讓你的敵人銘記：如何用容易得到的材料<small>2</small>來製造你自己的原子彈。
如何在學校的實驗室裏修改流感病毒以釋放蛇的毒液。
對大腸杆菌的10種簡單地修改。
如何修改天花病毒以對抗天花疫苗。
使用通過互聯網獲得的原料來製造你自己的化學武器。
如何通過使用廉價的飛行器、gps和筆記本電腦來製造一個無人駕駛、自我導航、低空飛行的飛機。
或者如何解決下列問題：
10種重要病原體的基因組。
主要摩天大樓的建築平麵圖。
美國核反應堆的布局。
現代社會的100個大弱點。
互聯網的10大弱點。
一億美國人的個人健康信息。
色情網站的顧客名單。
任何人隻要發布上述第一項，幾乎可以肯定，美國聯邦調查局很快就會來造訪他。2000年3月，一個名叫納特·齊格勒的15歲高中生就經曆過這樣的事情。為了一個學校的科學項目，他建立了一個原子彈的紙模型，結果十分的準確。在隨後的媒體風暴中，齊格勒告訴abc新聞：“你知道，就像某些人提到的那樣，你可以上網獲取信息，我並不是最早獲得這些信息的人。試一試。我上網，點幾下鼠標，然後就找到了合適的信息。”<small>3</small>
當然，齊格勒沒有拿到核心配料鈈，也沒有打算得到它，但是這篇報道仍然在媒體界一石驚起千層浪，更別提擔心核擴散的政府了。
據報道，齊格勒找到了563個關於原子彈設計的web頁麵，報道的結果是這些網站很快被封殺。遺憾的是，試圖在互聯網上禁止一些信息就像是用掃帚把海水掃退。直到今天，這些網站都還很容易訪問。我不會在本書裏提供它們的網址，但是它們並不難找到。
雖然上述文章標題是虛構的，但是人們可以從互聯網中找到許多關於這些問題<small>4</small>的信息。萬維網是一個非凡的研究工具。以我個人的體驗，過去需要在圖書館利用半天時間做的研究，現在隻需要幾分鍾甚至更短的時間就可以完成。
這對於促進有益技術的進步具有巨大和明顯的好處，但是這同時也為那些反社會的人提供了便利。那麽我們生活在危險之中嗎？回答顯然是肯定的。有多危險？要怎樣做才能規避危險？這些是本章的主題。
追溯起來，我密切關注這個問題已經至少幾十年了。在20世紀80年代中期，我寫《the age of intelligent machines》那本書的時候，我對那時新興的基因工程表示擔憂，因為基因工程可以通過技術的手段使用大量有效的設備修改細菌和病毒性病原體的結構，從而製造新的疾病。<small>5</small>在破壞者或者粗心人的手中，這些改造的病原體可以組合成具有高度傳染性、隱蔽性和破壞性的聯合體。
在20世紀80年代，這些工作很難實現，但卻是可行的。我們現在知道當時的一些國家從事過生化武器的計劃。<small>6</small>當時我特意做了一個決定，在我的書裏不去討論這些恐怖之事，因為我不想給那些壞人任何破壞性的想法。我不想在某一天打開收音機時，聽到一個災難，然後犯罪分子說，他們的想法是從雷·庫茲韋爾那得到的。
由於這樣的決定，我會聽到一些合理的批評：這本書隻強調未來技術的好處，而忽視了其中的陷阱。1997～1998年，我編寫那本書時，我試圖對希望和危險 <small>7</small>兩方麵都做出解釋。在那時公眾有足夠的注意力（比如1995年的電影《outbreak》描繪了一種新病原體的釋放引起的恐懼和驚慌）使我感覺可以向公眾陳述這個問題了。
1998年9月，我剛剛完成手稿，就在塔霍湖的一個酒吧偶然遇見了比爾喬伊，這是一位在高技術領域令人尊敬的老同行。雖然我對喬伊在交互web係統的領軍語言（java）上的開創工作以及創辦sun公司方麵仰慕已久，但是在這次簡短的聚會中我所關注的不是喬伊，而是在我們房內坐著的第三個人，約翰·塞爾。塞爾是加州大學伯克利分校傑出的哲學家，以保衛人類意識的深層奧秘為終身事業。
我和塞爾在剛剛閉幕的喬治·吉爾德的telecosm大會上對進化了的機器是否擁有意識這一問題辯論。
這次會議的主題是“精神機器”，對我即將推出的新書中的哲學含義的討論有很大意義。我給喬伊初稿並試圖使他跟上我和塞爾關於意識的討論。
原來喬伊的興趣放在了完全不同的問題上，特別是三種新興的技術：基因、納米、機器人技術（這就是之前討論過的gnr）對人類文明即將產生的危險。我對未來技術下降趨勢的討論警醒了喬伊，他後來將此和現在很著名的在線故事《why the future doesnt need us》<small>8</small>聯係起來。喬伊在文章中指出，他向在科學技術領域的朋友詢問我做的工作是否可信，然後沮喪地發現這些功能多麽得接近實現。
喬伊的文章完全集中於對下降趨勢的描述，這引起了軒然大波。他作為一位技術界領軍人物，指出未來技術會產生新的可怕的危險。這讓人想起喬治·索羅斯，當這位從事貨幣套利活動的資本家對無限製的資本主義發表隱晦的批評言論時受到很大的關注。盡管關於喬伊的爭議更加激烈。據《紐約時報》報道，大約有上萬篇文章對喬伊的文章發表評論或進行討論，超過曆史上任何其他技術問題。我想在塔霍湖的酒吧放鬆下，所以沒有進行這兩個長期的辯論，因此我和約翰·塞爾的談話持續到了今天。
盡管我是喬伊憂慮的起源，但我作為“技術樂觀主義者”的聲望完好無損。我和喬伊被很多論壇邀請去討論未來技術的危險和希望。雖然人們期望我負責討論“希望”部分，但是最終我總是花費大量時間來捍衛喬伊的立場，那就是危險可能發生。
很多人認為喬伊的文章是在倡導放棄技術，這並不是指所有的技術發展，而是指那些有害的技術，比如納米技術。喬伊現在是一名風險投資家，為矽穀傳奇的kleiner、perkins、caufield＆byers公司服務，這些公司現在正在投資類似納米技術的技術，用於可再生能源和其他自然資源。他說“廣泛放棄”是誤解了他的立場，而且這從來也不是他的想法。在最近的私人電子郵件交流中，他說重點應該是“呼籲限製危險技術的發展”（參見本章前麵的介紹），而不是完全禁止。例如，他建議禁止自我複製納米技術，這與先知學會倡導的路線相似。先知學會是納米技術先驅埃裏克·德雷克斯勒與克瑞斯汀·彼得森創建的。總的來說，這是一個合理的指導路線，盡管我認為有兩點例外，在接下來的內容中我將討論到。
另一個例子，喬伊不提倡在互聯網上發布病原體的基因序列，我也同意這一點。他希望所有國家的科學家自願地遵循這些規則，並且他指出：“如果我們一直等到大禍臨頭之後，我們也許最終會製定更加嚴格和有傷害性的規則。”他說他希望“我們遵循這些規則，簡單卻能得到最多好處”。<small>9</small>
其他人，例如環境學家比爾·麥琪本，他就是最先提醒提防全球變暖的人之一，他提倡放棄大量領域，例如生物技術和納米技術，甚至所有的技術。正如我將在接下來的內容中詳細討論的，隻有從根本上放棄所有技術的發展，否則放棄大量領域是不可能實現的。這反過來需要一個新世界體係來禁止開發所有的技術。這個方案不僅與我們的民主價值觀相悖，而且實際上它會使危險更加嚴重，因為通過秘密操縱技術，最沒有責任心的從業人員會得到最多的專業技術。