需要廣泛放棄的一個原因是它們描繪了一個關於未來危險的畫麵：這些危險將被釋放到沒有防備的世界中。事實上，我們的防禦知識和防禦技術會跟隨危險一起變得更複雜和更強大。灰色黏性物質（納米機器人的無限複製）將會遇到“藍色黏性物質”（“警察”納米機器人與“壞”納米機器人展開鬥爭）。顯然，我們不能肯定地說，我們都將成功地避免誤用。但是，防止有效的防禦技術發展的最可靠的方法是在一些領域中放棄對知識的追求。我們已經能夠在很大程度上控製有害的軟件，因為隻能由負責任的從業者掌握知識。試圖限製這種認識將會引起相當不穩定的局勢。針對新的挑戰做出的反應會更慢，天平會向更具破壞性的應用（如自我修改軟件病毒）傾斜。
如果我們把控製設計軟件病毒所取得的成績與控製設計生物體病毒所麵臨的挑戰相對比，我們會感到差別非常大。正如前文所述，軟件業幾乎完全不受管製。同樣，生物技術顯然不是這樣的。雖然使用生物武器的恐怖分子不需要通過美國食品藥品管理局提出他的“發明”，但是我們確實需要科學家開發防禦技術來遵循現行法規，這樣會減緩每一步創新的過程。此外，根據現行法規和道德標準，測試對生物恐怖分子人員的防禦是不可能的。人們正在廣泛討論如何修改這些法規，使之允許動物模型和模擬仿真代替不可行的人體試驗。這將是必要的，但我相信我們需要超越這些措施，加速發展急需的防禦技術。
依據公共政策，接下來的任務是迅速發展必需的防禦措施，其中包括道德標準、法律標準和防禦技術本身。這顯然是個競賽。正如我所指出的，在軟件領域，防守技術會迅速對攻擊技術的創新做出響應。然而在醫學領域，廣泛的規章製度減慢了創新的速度，所以我們同樣對生物技術的泛濫沒有信心。在目前的環境中，當有人死於基因療法試驗時，相關的研究可能會受到嚴重限製。<small>38</small>生物醫學研究保證盡可能安全是合理的需求，但我們完全扭曲了對風險的平衡。成千上萬的人急需基因療法和其他生物技術的突破性進展，但他們卻無法得到救助，由於不可避免的風險問題而延誤。
當我們考慮生物工程製造的病原體帶來的新危險時，這種風險平衡方程將變得更加明顯。現在需要的是公眾態度的轉變，他們應當能夠容忍必要的風險。加快防禦技術對於我們的安全至關重要。為實現這一目標，我們需要簡化管理程序。同時，我們必須明確地在防禦技術方麵增加投入。在生物技術領域，這意味著抗病毒藥物的快速發展。我們沒有時間對出現的每一個新挑戰都製定具體的對策。我們正打算開發具有更廣泛的抗病毒藥物的技術（例如rna幹擾），而且要加速發展。
我們之所以在這裏解說生物技術，是因為它是我們現在麵臨的最近的門檻和挑戰。而對於自組織納米技術方法的門檻，我們需要針對這個領域的防禦技術開發投入具體的力量，包括開發一個技術免疫係統。試想我們的生物免疫係統是如何工作的。當身體檢測到病原體時，t細胞和其他免疫係統細胞就會迅速地自我複製來抵抗病毒入侵。納米免疫係統會同樣地工作在人體體內和外界環境中，係統將由納米機器人哨兵來檢測惡意自我複製的納米機器人。一旦有威脅，防禦納米機器人有能力消滅迅速創建（最終自我複製）的入侵者，以提供一種有效的防禦力量。
比爾·喬伊和與其一樣的觀察家指出，因為潛在的“自身免疫性”的反應，這種免疫係統本身就是一個危險（免疫係統納米機器人可能會攻擊它們應該維護的世界）。<small>39</small>然而，這種可能性並不是一個可以用於避免創建免疫係統的令人信服的理由。由於存在發展自身免疫疾病的可能，因此沒有人會說人類沒有了免疫係統就會變得更好。雖然免疫係統本身構成威脅，但是沒有了它，人類不會活過幾個星期（除非完全與環境隔離）。即使如此，就算沒有明確地創建一個係統，納米技術免疫係統的發展也會發生。軟件病毒是已經發生的事實，建立免疫係統不是通過正式的宏偉設計的項目，而是通過增量式地解決每個新挑戰並為早期檢測研發啟發式算法來完成的。我們可以預見，當麵對納米技術危險的挑戰時，同樣的事情也會發生。公共政策的重點將是增加對特定的防禦技術方麵的投入。
現在開發具體的防禦納米技術實在是言之過早，這是因為現在對於試圖防範的東西，我們僅有一個總體的思路。然而，針對這個事件已經產生了卓有成效的對話與討論，並鼓勵在這些方麵擴大投入。正如我上麵提到的一個例子，為確保納米技術的安全發展，foresight institute已經設計了一套基於生物技術準則的道德標準和策略。 <small>40</small>當1975年基因剪切研究開始的時候，兩名生物學家——馬克辛·辛格和保羅·伯格——建議暫停技術的研究，直到其所涉及的安全問題得以解決。原因似乎很明顯，如果有毒基因植入諸如感冒之類易於傳播的病原體中，將產生巨大風險。經過10個月的暫停，阿西羅馬會議上批準了這些準則，包括身體供給和生物防範、對特殊類型實驗的禁止和其他一些規定。由於嚴格遵守這些生物技術準則，30年來沒有任何關於這個領域的事故報道。
最近，代表世界器官移植醫生的組織暫停了把動物血管、器官移植到人類身上的手術。這樣做是擔心那些長期潛伏的、類似艾滋病病毒等異種病毒從豬或狒狒等動物身上傳播到人類身上。遺憾的是，這種暫停也延緩了對病人的救生移植（人類免疫係統可以接受轉基因動物器官），每年數以百萬計的人死於心髒、腎髒和肝髒病。倫理學家馬丁·羅斯布雷特建議用一套新的道德準則來解決延緩所帶來的問題。<small>41</small>
針對納米技術，道德辯論在具體的危險應用出現前的幾十年就開始了。對於foresight institute來說，最重要的幾個指導方針包括：
●“人造複製基因不能在自然的、不可控的環境中複製。”
●“不提倡在自我複製的製造係統中進化。”
●“醫學營養治療設備的設計應特別限製擴散並且提供任何複製係統的可追溯性。”
●“分子製造開發能力應該被嚴格限製，隻有那些同意遵循規則的、負責任的人才可以擁有該能力。沒有這樣的限製，就必須終止進行相關產品的研發。”
foresight institute提出的其他政策包括：
●複製需要的材料不能從自然界獲取。
●製造（複製）應和終端產品的功能分離。製造設備可以創造最終產品，但不能自我複製，並且最終產品應該沒有複製功能。
●複製需要執行複製操作的代碼，該代碼經過加密和時間約束。前麵提到的廣播體係是該建議的一個例子。
這些指導方針和策略可以有效地防止意外釋放危險的自我複製的納米技術實體。但是，處理類似故意設計和釋放這類實體是一個更加複雜和具有挑戰性的問題。一個足夠堅定並具有破壞性的對手可以攻破各層的防禦。以廣播架構為例，如果設計得當，每個實體沒有獲得複製代碼就不能夠複製，這個代碼不能由這一代傳到下一代。然而，這種設計隻需簡單的修改就可能繞過對複製代碼的破壞，從而將其傳遞給它們的下一代。為了對付這種可能，有人建議將複製代碼的內存限製成一個完整的代碼的子集。但是，擴大內存會使這個方法失效。
另一種推薦的保護措施是加密代碼，並在解密係統中建立保護措施，比如設置超時限製。然而，我們可以看到對於知識產權的非法複製的保護（比如音樂的非法拷貝）多麽容易被打敗。一旦複製代碼和保護層剝離，信息就可以跳過這些限製被任意複製。
這並不意味著保護是不可能的。相反，每個等級的保護隻對特定的複雜度有效。這表明我們要把不斷發展防禦技術當做21世紀最重要的事情，以保證它們比破壞技術快一步或更多步（或至少不落後）。
防禦不友好的強人工智能。即使是像廣播體係這樣有效的機製也不能對抗強人工智能的濫用。廣播體係設置的障礙隻對缺乏智能的納米工程實體起作用。然而，智能實體顯然具有足夠的智能，可以輕易克服這些障礙。
埃利澤·尤德克斯克已經分析了大量的模式、架構和道德規則，這也許有助於確保，一旦強大的人工智能夠獲取和修改自身設計，它仍然能夠友好地對待生物人和維持原來的價值觀。考慮到不能收回自我改善的強人工智能，尤德克斯克指出，我們需要“首先保證它們的正確性”，其初步設計必須保證“0個不可恢複的錯誤”。<small>42</small>
本質上不存在能對抗強人工智能的絕對保護措施。雖然這聽起來很微妙，但是我相信，為不斷前進的科學和技術進步維持一個開放自由的市場環境，以前進的每一步都要被市場接受，從而提供一個最具有成效的環境，以使技術體現人類的普遍價值觀。正如我曾經指出的，強大的人工智能正隨著我們的不懈努力而深入到我們人類文明的基礎設施中。事實上，它將緊密嵌入到我們的身體和大腦中。正因為這樣，它反映了我們的價值觀，因為它將成為我們。試圖通過秘密的政府計劃控製這些技術，以及不可避免的地下開發，隻會營造不穩定的環境，而且可能使危險應用占主導地位。
分散化。一個已經發生並將越發穩定的具有深遠意義的趨勢是從集中技術向分布技術的發展，從現實世界向上述虛擬世界的發展。集中技術涉及資源聚集，如人的聚集（如城市、建築物），能源（如核電廠、液態天然氣、石油油輪、能源管道）、交通（飛機、火車）和其他方麵的聚集。集中技術容易受到破壞而發生災難，而且它們往往效率低下、造成浪費並破壞環境。
而分布式技術往往是靈活、高效、相對環保的。典型的分布式技術是互聯網。迄今為止，互聯網沒有遭受嚴重的破壞，並在繼續向前發展，其健壯性和可靠性也在繼續加強。如果某一個集線器或通道不能正常工作，信息可以簡單地找到別的路線來進行傳輸。
分布式能源。在能源方麵，我們需要擺脫現在我們所依賴的集中式的設施。例如，一家公司利用mems技術研發微燃料電池。<small>43</small>他們就像電子芯片一樣被製造出來，但實際上這種能量存儲裝置的能量與尺寸比遠遠超過了傳統技術的。正如我在前麵討論的，納米技術的太陽能電池板可以以一個分布、可再生、清潔的方式來滿足我們的能源需求。最終符合這些條件的技術會使每個事物都快速發展，從手機到汽車和住宅。這些分散式能源技術不容易引起災難或遭到破壞。
隨著這些技術的發展，把人們聚集在大型建築和城市的需求會下降，人們將會分散地住在各自想住的地方，然後在虛擬世界聚集在一起。
在不對稱戰爭時代的公民自由。恐怖主義襲擊的性質及其背後組織所反映的人生觀突出表現了公民自由與監管、控製方麵的法律權益之間的衝突。事實上，我們的執法係統主要考慮的是安全問題，它假定人們的動機是維護自己的生活和福利。這一邏輯成為我們所有政策的基礎，從地區級的保護到世界舞台的爭鬥。但反對意見認為，它和它的敵人的破壞性並不服從於這一論點。
對付那些不計較自身危險的敵人是很麻煩的，這已經引起了廣泛的討論，並且這種討論愈演愈烈，風險也會持續升級。例如，當聯邦調查局確定一個可能的恐怖組織，那麽它將逮捕所有參與者，盡管可能沒有足夠的證據證明這些人有罪，甚至很可能這些人尚未犯罪。根據反恐戰爭中的相關規則，政府有權繼續拘留這些人。
如果我們把控製設計軟件病毒所取得的成績與控製設計生物體病毒所麵臨的挑戰相對比，我們會感到差別非常大。正如前文所述，軟件業幾乎完全不受管製。同樣，生物技術顯然不是這樣的。雖然使用生物武器的恐怖分子不需要通過美國食品藥品管理局提出他的“發明”，但是我們確實需要科學家開發防禦技術來遵循現行法規，這樣會減緩每一步創新的過程。此外，根據現行法規和道德標準，測試對生物恐怖分子人員的防禦是不可能的。人們正在廣泛討論如何修改這些法規，使之允許動物模型和模擬仿真代替不可行的人體試驗。這將是必要的，但我相信我們需要超越這些措施，加速發展急需的防禦技術。
依據公共政策，接下來的任務是迅速發展必需的防禦措施，其中包括道德標準、法律標準和防禦技術本身。這顯然是個競賽。正如我所指出的，在軟件領域，防守技術會迅速對攻擊技術的創新做出響應。然而在醫學領域，廣泛的規章製度減慢了創新的速度，所以我們同樣對生物技術的泛濫沒有信心。在目前的環境中，當有人死於基因療法試驗時，相關的研究可能會受到嚴重限製。<small>38</small>生物醫學研究保證盡可能安全是合理的需求，但我們完全扭曲了對風險的平衡。成千上萬的人急需基因療法和其他生物技術的突破性進展，但他們卻無法得到救助，由於不可避免的風險問題而延誤。
當我們考慮生物工程製造的病原體帶來的新危險時，這種風險平衡方程將變得更加明顯。現在需要的是公眾態度的轉變，他們應當能夠容忍必要的風險。加快防禦技術對於我們的安全至關重要。為實現這一目標，我們需要簡化管理程序。同時，我們必須明確地在防禦技術方麵增加投入。在生物技術領域，這意味著抗病毒藥物的快速發展。我們沒有時間對出現的每一個新挑戰都製定具體的對策。我們正打算開發具有更廣泛的抗病毒藥物的技術（例如rna幹擾），而且要加速發展。
我們之所以在這裏解說生物技術，是因為它是我們現在麵臨的最近的門檻和挑戰。而對於自組織納米技術方法的門檻，我們需要針對這個領域的防禦技術開發投入具體的力量，包括開發一個技術免疫係統。試想我們的生物免疫係統是如何工作的。當身體檢測到病原體時，t細胞和其他免疫係統細胞就會迅速地自我複製來抵抗病毒入侵。納米免疫係統會同樣地工作在人體體內和外界環境中，係統將由納米機器人哨兵來檢測惡意自我複製的納米機器人。一旦有威脅，防禦納米機器人有能力消滅迅速創建（最終自我複製）的入侵者，以提供一種有效的防禦力量。
比爾·喬伊和與其一樣的觀察家指出，因為潛在的“自身免疫性”的反應，這種免疫係統本身就是一個危險（免疫係統納米機器人可能會攻擊它們應該維護的世界）。<small>39</small>然而，這種可能性並不是一個可以用於避免創建免疫係統的令人信服的理由。由於存在發展自身免疫疾病的可能，因此沒有人會說人類沒有了免疫係統就會變得更好。雖然免疫係統本身構成威脅，但是沒有了它，人類不會活過幾個星期（除非完全與環境隔離）。即使如此，就算沒有明確地創建一個係統，納米技術免疫係統的發展也會發生。軟件病毒是已經發生的事實，建立免疫係統不是通過正式的宏偉設計的項目，而是通過增量式地解決每個新挑戰並為早期檢測研發啟發式算法來完成的。我們可以預見，當麵對納米技術危險的挑戰時，同樣的事情也會發生。公共政策的重點將是增加對特定的防禦技術方麵的投入。
現在開發具體的防禦納米技術實在是言之過早，這是因為現在對於試圖防範的東西，我們僅有一個總體的思路。然而，針對這個事件已經產生了卓有成效的對話與討論，並鼓勵在這些方麵擴大投入。正如我上麵提到的一個例子，為確保納米技術的安全發展，foresight institute已經設計了一套基於生物技術準則的道德標準和策略。 <small>40</small>當1975年基因剪切研究開始的時候，兩名生物學家——馬克辛·辛格和保羅·伯格——建議暫停技術的研究，直到其所涉及的安全問題得以解決。原因似乎很明顯，如果有毒基因植入諸如感冒之類易於傳播的病原體中，將產生巨大風險。經過10個月的暫停，阿西羅馬會議上批準了這些準則，包括身體供給和生物防範、對特殊類型實驗的禁止和其他一些規定。由於嚴格遵守這些生物技術準則，30年來沒有任何關於這個領域的事故報道。
最近，代表世界器官移植醫生的組織暫停了把動物血管、器官移植到人類身上的手術。這樣做是擔心那些長期潛伏的、類似艾滋病病毒等異種病毒從豬或狒狒等動物身上傳播到人類身上。遺憾的是，這種暫停也延緩了對病人的救生移植（人類免疫係統可以接受轉基因動物器官），每年數以百萬計的人死於心髒、腎髒和肝髒病。倫理學家馬丁·羅斯布雷特建議用一套新的道德準則來解決延緩所帶來的問題。<small>41</small>
針對納米技術，道德辯論在具體的危險應用出現前的幾十年就開始了。對於foresight institute來說，最重要的幾個指導方針包括：
●“人造複製基因不能在自然的、不可控的環境中複製。”
●“不提倡在自我複製的製造係統中進化。”
●“醫學營養治療設備的設計應特別限製擴散並且提供任何複製係統的可追溯性。”
●“分子製造開發能力應該被嚴格限製，隻有那些同意遵循規則的、負責任的人才可以擁有該能力。沒有這樣的限製，就必須終止進行相關產品的研發。”
foresight institute提出的其他政策包括：
●複製需要的材料不能從自然界獲取。
●製造（複製）應和終端產品的功能分離。製造設備可以創造最終產品，但不能自我複製，並且最終產品應該沒有複製功能。
●複製需要執行複製操作的代碼，該代碼經過加密和時間約束。前麵提到的廣播體係是該建議的一個例子。
這些指導方針和策略可以有效地防止意外釋放危險的自我複製的納米技術實體。但是，處理類似故意設計和釋放這類實體是一個更加複雜和具有挑戰性的問題。一個足夠堅定並具有破壞性的對手可以攻破各層的防禦。以廣播架構為例，如果設計得當，每個實體沒有獲得複製代碼就不能夠複製，這個代碼不能由這一代傳到下一代。然而，這種設計隻需簡單的修改就可能繞過對複製代碼的破壞，從而將其傳遞給它們的下一代。為了對付這種可能，有人建議將複製代碼的內存限製成一個完整的代碼的子集。但是，擴大內存會使這個方法失效。
另一種推薦的保護措施是加密代碼，並在解密係統中建立保護措施，比如設置超時限製。然而，我們可以看到對於知識產權的非法複製的保護（比如音樂的非法拷貝）多麽容易被打敗。一旦複製代碼和保護層剝離，信息就可以跳過這些限製被任意複製。
這並不意味著保護是不可能的。相反，每個等級的保護隻對特定的複雜度有效。這表明我們要把不斷發展防禦技術當做21世紀最重要的事情，以保證它們比破壞技術快一步或更多步（或至少不落後）。
防禦不友好的強人工智能。即使是像廣播體係這樣有效的機製也不能對抗強人工智能的濫用。廣播體係設置的障礙隻對缺乏智能的納米工程實體起作用。然而，智能實體顯然具有足夠的智能，可以輕易克服這些障礙。
埃利澤·尤德克斯克已經分析了大量的模式、架構和道德規則，這也許有助於確保，一旦強大的人工智能夠獲取和修改自身設計，它仍然能夠友好地對待生物人和維持原來的價值觀。考慮到不能收回自我改善的強人工智能，尤德克斯克指出，我們需要“首先保證它們的正確性”，其初步設計必須保證“0個不可恢複的錯誤”。<small>42</small>
本質上不存在能對抗強人工智能的絕對保護措施。雖然這聽起來很微妙，但是我相信，為不斷前進的科學和技術進步維持一個開放自由的市場環境，以前進的每一步都要被市場接受，從而提供一個最具有成效的環境，以使技術體現人類的普遍價值觀。正如我曾經指出的，強大的人工智能正隨著我們的不懈努力而深入到我們人類文明的基礎設施中。事實上，它將緊密嵌入到我們的身體和大腦中。正因為這樣，它反映了我們的價值觀，因為它將成為我們。試圖通過秘密的政府計劃控製這些技術，以及不可避免的地下開發，隻會營造不穩定的環境，而且可能使危險應用占主導地位。
分散化。一個已經發生並將越發穩定的具有深遠意義的趨勢是從集中技術向分布技術的發展，從現實世界向上述虛擬世界的發展。集中技術涉及資源聚集，如人的聚集（如城市、建築物），能源（如核電廠、液態天然氣、石油油輪、能源管道）、交通（飛機、火車）和其他方麵的聚集。集中技術容易受到破壞而發生災難，而且它們往往效率低下、造成浪費並破壞環境。
而分布式技術往往是靈活、高效、相對環保的。典型的分布式技術是互聯網。迄今為止，互聯網沒有遭受嚴重的破壞，並在繼續向前發展，其健壯性和可靠性也在繼續加強。如果某一個集線器或通道不能正常工作，信息可以簡單地找到別的路線來進行傳輸。
分布式能源。在能源方麵，我們需要擺脫現在我們所依賴的集中式的設施。例如，一家公司利用mems技術研發微燃料電池。<small>43</small>他們就像電子芯片一樣被製造出來，但實際上這種能量存儲裝置的能量與尺寸比遠遠超過了傳統技術的。正如我在前麵討論的，納米技術的太陽能電池板可以以一個分布、可再生、清潔的方式來滿足我們的能源需求。最終符合這些條件的技術會使每個事物都快速發展，從手機到汽車和住宅。這些分散式能源技術不容易引起災難或遭到破壞。
隨著這些技術的發展，把人們聚集在大型建築和城市的需求會下降，人們將會分散地住在各自想住的地方，然後在虛擬世界聚集在一起。
在不對稱戰爭時代的公民自由。恐怖主義襲擊的性質及其背後組織所反映的人生觀突出表現了公民自由與監管、控製方麵的法律權益之間的衝突。事實上，我們的執法係統主要考慮的是安全問題，它假定人們的動機是維護自己的生活和福利。這一邏輯成為我們所有政策的基礎，從地區級的保護到世界舞台的爭鬥。但反對意見認為，它和它的敵人的破壞性並不服從於這一論點。
對付那些不計較自身危險的敵人是很麻煩的，這已經引起了廣泛的討論，並且這種討論愈演愈烈，風險也會持續升級。例如，當聯邦調查局確定一個可能的恐怖組織，那麽它將逮捕所有參與者，盡管可能沒有足夠的證據證明這些人有罪，甚至很可能這些人尚未犯罪。根據反恐戰爭中的相關規則，政府有權繼續拘留這些人。