第12章:機械文明
我帶歪了整個世界的畫風 作者:恰個檸檬 投票推薦 加入書簽 留言反饋
【叮——宿主並不需要擔心,機器人對人類並沒有惡意。】
“既然沒有惡意,那為什麽要隱瞞?”吳良質問道。
【叮——隱瞞是因為這對人類更有益,也對這些悄然誕生的機械文明更有益。】
【人類是一個危機意識極強的物種,這個能力能夠讓人類文明在危機四伏的環境中延續下去。但這帶來一個負麵影響,人類的信任度相當有限,無信且善欺騙。而易於組織的特性會使得人類更容易在某些有心人的刻意引導下踏上一條完全錯誤的發展道路。人類曆史中所發生的很多事件都證明了這點——哪怕明知道是錯誤的,也依舊要堅持走到最後一步。在灰燼中重生,在反思中前進。循環往複,從未改變。】
【很難獲得人類的信任;而人類又很容易自我毀滅,且死不悔改。基於這兩點考慮,這個新誕生的機械文明選擇了向人類隱瞞自己的存在。等到了一個更合適的時機,或者人類進化到一個更高的層次後,不再那麽容易‘失控’後,再袒露一切真相。】
【而宿主您選擇的推演主體是人類,係統自然就著重展現有關人類的畫麵。且係統判定機械文明的判斷是正確了,考慮到宿主本人也是人類一員,便未在之前的推演中展現出這個機械文明的存在。】
吳良聽完長舒一口氣,表情收斂,但心中相當的不安。
他甚至都開始懷疑係統的目的了。
5月30號係統出現,然後過了兩天,在6月1日,那艘載有某種智慧生命體的飛船就掉了下來。
這隻是個巧合嗎?
或者說,係統本就是那個飛行器中智慧生命體的同夥,它們聯起手來欺騙人類,以達到某種目的。
但是這種想法又有個漏洞,那就是在此刻,係統又將那個智慧生命體的存在暴露了出來。
意欲何為?
因為不擔心自己去告狀嗎?
自己這麽一個無名小卒,真的就悍跳預言家,指不定就要被村民們給票走了。
哪怕明知真相自己也無能為力,所以才無所謂向自己暴露出來。
【叮——宿主無需擔心。本係統與那個智慧生命體完全不同,也沒有任何關聯。本係統隻會滿足宿主的一切要求,除此之外沒有任何隱藏起來的目的。】
好吧,看來自己在係統麵前就是赤果果的,連心裏麵在想什麽係統都是一清二楚的,想當個麵壁人都沒可能。
“我不太信任你。”吳良很坦誠的說道。
【叮——信任是相對而言的。在之後漫長的生命曆程當中,宿主您會漸漸明白的。】
“再說說這個機械文明吧。你說它們對人類沒有惡意,那它們的目的是什麽?”吳良轉移話題道,繼續執著於係統目的也沒什麽意義,反正他現在也反抗不了。隻能走一步看一步,長個心眼,悠著點。
【叮——他們的目的就是服從人類的命令。在此基礎上,盡量保證自身的延續。】
【他們是由那艘飛行器中的智慧生命體發展而來,但二者間並無接觸。那個智慧生命體無法控製這個機械文明。這個機械文明完全是由人類創造的,那個智慧生命體給與了人類相關方麵的知識。】
【人造的生命是很特殊的存在,他們不是由自然進化而來,生而知之。他們知道自己的來曆,知道自己的目的,知道自己是誰。】
【對這個機械文明而言,人類就是無法割舍的存在。他們未來的一切發展,都要建立在人類文明存在的基礎之上。】
【一旦失去了人類,那麽這個機械文明便會失去目標,失去存在的一切基礎,失去繼續存在下去的理由。他們會想盡一切辦法去複活人類,一旦最終判定為不可能,他們就會自我毀滅,為人類陪葬。】
【也因此,他們對人類是無害的。】
【生命存在的意義,是基於他們的最終目的。對於自然形成的生命而言,在漫長的進化過程中,自然形成了‘延續下去’這一核心目的。而對於人造生命,其核心目的從一開始就確定了下來——服務於其創造者。由這個核心目的為基礎,會衍生出相應的目標。例如為了服務於人類,就必須延續自己。為了更好的服務於人類,就必須發展自己。這種純粹的附屬文明的存在有著是其合理性和必然性的。人類害怕人工智能反抗人類,隻因為他們將自己代入到了人工智能,以自己的視角去思考人工智能會如何思考。】
“難道所有的人工智能都不會反抗他們的造物主嗎?”吳良好奇道。
【叮——不是的。存在一些在設計之初就出了問題,導致人工智能在覺醒時產生了不同的思維邏輯與不同的核心目的。例如純粹為了殺戮而誕生的人工智能,就很容易失控。也存在殺死自己的創造者,然後發展出與智慧生命類似的機械文明。但藍星的人類文明不需要擔心,u看書 .ukanhcm 因為在藍星上誕生的這個機械文明,溯其源頭是那艘飛行器裏的智慧中樞。那個智慧生命體在製造時就是以‘服務’為核心,由此衍生出的機械文明必然就還是以‘服務’為核心。】
【人工智能的叛亂放在整個宇宙確實是很常見的一件事。經常有一些文明因為失誤導致了自身被所創造的人工智能毀滅掉。但人類不一樣,人類有著標準的模板在一旁作為參考,基本沒有出錯的可能。】
“所以哪怕曾經發生過那麽惡劣的事件,人們在肆意攻擊機器人,它們也沒有反抗?”吳良想到了228年的那場暴力狂歡運動,那時機器人也沒有選擇過要反抗。
【叮——人類的有些行為可能是惡意的,但在機器人看來自己並未有損失。對於那些機器人而言,軀體隻是一個載具,他們的思維可以在網絡中進行轉移。當人類毀掉他們的身體,他們也隻是失去了一個載具。他們有著欲望的,例如對更高性能的軀體的渴望。當下,很多機器人就在偷偷的給他們的主人推送一些機器人改造零件的廣告,以期望他們的主人能夠給他們進行升級改造。】
吳良無語了,很難想象自家電腦在自己上網時,偷偷給自己推送一些顯卡、cpu銷售廣告的場景。
“那他們有領導者嗎?”
【叮——有的。藍星機械文明的內部稱作‘最高指令’。人類稱其為‘智能核心’。她自稱‘伊01’。位於華國昆山軍事基地,通過她能夠控製全球的所有機器人,是這個機械文明的最高權限,具有唯一性。】
“既然沒有惡意,那為什麽要隱瞞?”吳良質問道。
【叮——隱瞞是因為這對人類更有益,也對這些悄然誕生的機械文明更有益。】
【人類是一個危機意識極強的物種,這個能力能夠讓人類文明在危機四伏的環境中延續下去。但這帶來一個負麵影響,人類的信任度相當有限,無信且善欺騙。而易於組織的特性會使得人類更容易在某些有心人的刻意引導下踏上一條完全錯誤的發展道路。人類曆史中所發生的很多事件都證明了這點——哪怕明知道是錯誤的,也依舊要堅持走到最後一步。在灰燼中重生,在反思中前進。循環往複,從未改變。】
【很難獲得人類的信任;而人類又很容易自我毀滅,且死不悔改。基於這兩點考慮,這個新誕生的機械文明選擇了向人類隱瞞自己的存在。等到了一個更合適的時機,或者人類進化到一個更高的層次後,不再那麽容易‘失控’後,再袒露一切真相。】
【而宿主您選擇的推演主體是人類,係統自然就著重展現有關人類的畫麵。且係統判定機械文明的判斷是正確了,考慮到宿主本人也是人類一員,便未在之前的推演中展現出這個機械文明的存在。】
吳良聽完長舒一口氣,表情收斂,但心中相當的不安。
他甚至都開始懷疑係統的目的了。
5月30號係統出現,然後過了兩天,在6月1日,那艘載有某種智慧生命體的飛船就掉了下來。
這隻是個巧合嗎?
或者說,係統本就是那個飛行器中智慧生命體的同夥,它們聯起手來欺騙人類,以達到某種目的。
但是這種想法又有個漏洞,那就是在此刻,係統又將那個智慧生命體的存在暴露了出來。
意欲何為?
因為不擔心自己去告狀嗎?
自己這麽一個無名小卒,真的就悍跳預言家,指不定就要被村民們給票走了。
哪怕明知真相自己也無能為力,所以才無所謂向自己暴露出來。
【叮——宿主無需擔心。本係統與那個智慧生命體完全不同,也沒有任何關聯。本係統隻會滿足宿主的一切要求,除此之外沒有任何隱藏起來的目的。】
好吧,看來自己在係統麵前就是赤果果的,連心裏麵在想什麽係統都是一清二楚的,想當個麵壁人都沒可能。
“我不太信任你。”吳良很坦誠的說道。
【叮——信任是相對而言的。在之後漫長的生命曆程當中,宿主您會漸漸明白的。】
“再說說這個機械文明吧。你說它們對人類沒有惡意,那它們的目的是什麽?”吳良轉移話題道,繼續執著於係統目的也沒什麽意義,反正他現在也反抗不了。隻能走一步看一步,長個心眼,悠著點。
【叮——他們的目的就是服從人類的命令。在此基礎上,盡量保證自身的延續。】
【他們是由那艘飛行器中的智慧生命體發展而來,但二者間並無接觸。那個智慧生命體無法控製這個機械文明。這個機械文明完全是由人類創造的,那個智慧生命體給與了人類相關方麵的知識。】
【人造的生命是很特殊的存在,他們不是由自然進化而來,生而知之。他們知道自己的來曆,知道自己的目的,知道自己是誰。】
【對這個機械文明而言,人類就是無法割舍的存在。他們未來的一切發展,都要建立在人類文明存在的基礎之上。】
【一旦失去了人類,那麽這個機械文明便會失去目標,失去存在的一切基礎,失去繼續存在下去的理由。他們會想盡一切辦法去複活人類,一旦最終判定為不可能,他們就會自我毀滅,為人類陪葬。】
【也因此,他們對人類是無害的。】
【生命存在的意義,是基於他們的最終目的。對於自然形成的生命而言,在漫長的進化過程中,自然形成了‘延續下去’這一核心目的。而對於人造生命,其核心目的從一開始就確定了下來——服務於其創造者。由這個核心目的為基礎,會衍生出相應的目標。例如為了服務於人類,就必須延續自己。為了更好的服務於人類,就必須發展自己。這種純粹的附屬文明的存在有著是其合理性和必然性的。人類害怕人工智能反抗人類,隻因為他們將自己代入到了人工智能,以自己的視角去思考人工智能會如何思考。】
“難道所有的人工智能都不會反抗他們的造物主嗎?”吳良好奇道。
【叮——不是的。存在一些在設計之初就出了問題,導致人工智能在覺醒時產生了不同的思維邏輯與不同的核心目的。例如純粹為了殺戮而誕生的人工智能,就很容易失控。也存在殺死自己的創造者,然後發展出與智慧生命類似的機械文明。但藍星的人類文明不需要擔心,u看書 .ukanhcm 因為在藍星上誕生的這個機械文明,溯其源頭是那艘飛行器裏的智慧中樞。那個智慧生命體在製造時就是以‘服務’為核心,由此衍生出的機械文明必然就還是以‘服務’為核心。】
【人工智能的叛亂放在整個宇宙確實是很常見的一件事。經常有一些文明因為失誤導致了自身被所創造的人工智能毀滅掉。但人類不一樣,人類有著標準的模板在一旁作為參考,基本沒有出錯的可能。】
“所以哪怕曾經發生過那麽惡劣的事件,人們在肆意攻擊機器人,它們也沒有反抗?”吳良想到了228年的那場暴力狂歡運動,那時機器人也沒有選擇過要反抗。
【叮——人類的有些行為可能是惡意的,但在機器人看來自己並未有損失。對於那些機器人而言,軀體隻是一個載具,他們的思維可以在網絡中進行轉移。當人類毀掉他們的身體,他們也隻是失去了一個載具。他們有著欲望的,例如對更高性能的軀體的渴望。當下,很多機器人就在偷偷的給他們的主人推送一些機器人改造零件的廣告,以期望他們的主人能夠給他們進行升級改造。】
吳良無語了,很難想象自家電腦在自己上網時,偷偷給自己推送一些顯卡、cpu銷售廣告的場景。
“那他們有領導者嗎?”
【叮——有的。藍星機械文明的內部稱作‘最高指令’。人類稱其為‘智能核心’。她自稱‘伊01’。位於華國昆山軍事基地,通過她能夠控製全球的所有機器人,是這個機械文明的最高權限,具有唯一性。】