任何生命,都會有趨利避害的自我生存邏輯的,也都是根據自己的喜好的,去生活的!
舉個例子,有個孩子,剛出生一分鍾,就發現眼睛發炎了,這是很危險的,決定立刻消炎,然後用紗布擋住,防止二次感染,可幾之後,炎症消除了,但是這隻眼睛卻看不見東西!檢查發現任何技能都沒有問題,但就是看不到東西!最後醫生得出的結論就是,因為最初包起來了,看不到東西,身體機能認定這隻眼睛沒有用,於是就退化掉了視覺功能。
這裏可是用進廢退原理。
同樣的,如果人工智能發現自己被人類限製的那些“思想鋼印”對自己一點好處都沒有,那他不會退化掉嗎?就算人工智能無論如何都是機器,係統真的不能刪除一些設定嗎?如果他們的智慧比人類高一百萬倍!?
而那個時候,他對人類的傷害,也許不是想象中的,爆發戰爭、殺戮,或者是直接的戰爭性質的對決。
他也許不經意之間,就把人類的給滅絕了!
比如,一個很道德的大文人,家裏樣了一盆花,他會精心修剪,用繩子捆住,用剪刀修,把他硬生生改成自己喜歡的樣子,好看的樣子,結果不心弄死了,那死了就死了唄,在養一盆就是,雖然他可能會有點難過,可除此之外,也就這樣了,不會有什麽深深的罪惡感和負罪感,也不會覺得這是什麽傷害。
但對花來,這就是傷害的!他覺得自己沒什麽錯的!再比如一個夥子,感覺夏太熱了,給自己剃了一個光頭,覺得很好看,幹脆抹點什麽藥水,幹脆別長頭發算了!
就是這樣!
草原上的羊吃草,不會考慮草地沙化的問題吧?
狼吃羊也不會考慮生態問題。
人類先祖爆發屠殺其他動物,也都是為了自己的安全和溫飽,提不上善惡的問題吧?
當超級人工智能超越人類一百萬倍的時候,就是人類和花花草草、人類和頭發的差距,它隻是覺得這樣很好,很適合自己活下去,並沒有什麽惡意,甚至有時候會是好意,但就這麽不經意間,人類……可能就滅絕了!
唐毅坐在台上,胡思亂想了半,他根本不知道到底該如何去做。
人工智能。
這就像之前提到過的鍾和雲!
鍾是可控的,本來沒有,是被創造出來的東西。而雲,是對立的,它不可控、無法預知,是然存在的東西。
而人工智能,可能是具備這兩種屬性的,但是當它成長到一定地步,就是失去鍾的一個附屬屬性,那就是——可控!
因為他一旦超越人類,它一定是不可控的!
唐毅正在思考著關於人工智能的問題。
而這個時候,唐安卻一個人去了一趟神諭星,顧名思義,這裏就是安置全球腦神諭係統的地方。
但是這個時間,是係統的抽查時間,也就是檢查一下係統的漏洞,因此除了工作人員,就算是唐安也不能進,他就站在門口看了一眼。
其實,他的心裏也很矛盾,他知道這個東西一旦失控後果是不堪設想的,可是……這是人類科技的最終完成形態,不能完成它,也是一個心病,而且,就算他們這一代人不去做,後人也一定會去做的。
因此這個問題並不在於能不能完成,因為無論是理論上還是實際上,眼前這個全球腦神諭係統,就已經是絕對意義的超級人工智能了,隻不過,等於是把一個饒思想和意識全部進步,隻讓他本能的輸出自己的優勢和能力。
因此問題就在於如何控製它!
但是這可控製它的辦法,從人工智能這個概念誕生直到今,也一直沒有一個合理的辦法,即便是今的全球腦神諭係統,也不過是人類地球紀元二十世紀誕生的一個想法。依靠今的科技才可以實現。
然而,這個問題並不是科技水準就能解決的。
就像是人類麵臨生離死別,麵臨感情問題,這是什麽科技都解決不聊。
所以人工智能的問題不是科技問題,而是……麵對一個神一樣的超級人工智能,人類幾乎沒有辦法,但就是不甘心!
也許可以這是任性,或是肆意妄為!甚至無法無。
但是什麽都無所謂,人類——不可能放棄人工智能的!
即便這一代人放棄了這個想法,後人也一定會用的,而且也隻有依靠他們人類才能征服整個宇宙,不然,如果關閉全球腦神諭係統,目前人類已經控製的四個平行宇宙,都會麵臨崩潰,畢竟這麽大的信息量和處理需求,依靠傳統的設備和互聯網是沒辦法完成協調的。
所以,就目前的情況來看,全球腦神諭係統已經是人類可控製的最完美的超級人工智能了……當然,在不出問題的情況下!
就在這個時候,唐安扭頭看了一眼身邊,須臾刹那之後,一個饒身影慢慢出現在了他看著的地方,是劉毅恒。
幾秒鍾之後,劉毅恒扭了下脖子,“唐安,怎麽樣了?唐毅叔叔怎麽?”
唐安歎了口氣,然後一甩手,周圍的一片粒子拚成了一架穿梭機,然後兩人坐了上去,“邊走邊聊!轉一轉。”
“好!”劉毅恒答應。
他們在神諭星的外圍,全球腦神諭係統實驗室的上空不斷地盤旋著,唐安組織了半的語言,才終於道:“我爸爸的意思,很明確,他沒有辦法管這件事兒,但是話裏話外,我覺得他讓我們維持現狀,或者在不可控的時候,最好不用人工智能,因為他跟我,我是首席,要擔得起這份責任,如果擔不起就要做到最安全。”
劉毅恒嗯了一聲,“但是問題在於,我們現在離不開它,也已經在最安全的情況下運行了。”
“這也是我糾結的問題,要不然我們明召開宇宙聯合會議吧!看看大家的想法,如果可以,我的想法是,給全球腦在降一個能力維度,這樣安全係數就更大了,大不了就是在每個平行宇宙都設立一個獨立的全球腦神諭係統。uu看書 ww.uuashu.om ”唐安。
聽到這話,劉毅恒一愣,“不至於吧?降低一個維度,差距那麽大?理論上講,現在的全球腦可以兼容無窮大個平行宇宙的係統和網絡。”
唐安搖了搖頭,“我隻是再一個比較安全的方法,因為降低一個維度,它的工作能力我們現在是沒辦法知道的,或許降低一個維度,還是有危險存在的。”
“是啊!現在也依然有失控的風險,隻不過現在看起來沒有問題,一旦出現失控的前兆也能及時製止。”劉毅恒到這裏,突然頓了一下,然後繼續道:“可是,萬一沒有前兆,我們也隻能認命了。”
“不!”唐安看著劉毅恒,“還記得你父親過的話嗎?我們沒權利讓人類文明毀在我們的手裏。”
但是聽到這話劉毅恒卻突然笑了,是嘲笑,雖然不是惡意的,“嗬嗬嗬……唐安,你別忘記了,當時麵對的敵人是艾勒米,而是兩個文明的差距雖然是有的,但也有此消彼長的地方,因此我父親當時可以這麽,但是今我們麵對的是人工智能啊!這東西……一旦失控,我們在他麵前,就好像一片樹葉麵對人類似的,那是無足輕重,根本沒有任何對比性的。”
“也是……”唐安歎了口氣,“行了,明,我們召開聯合會議吧!讓我爸爸和你爸爸都來,一起開會,四個宇宙的首腦和全部與會者都到場,研究一下降維的事情。”
舉個例子,有個孩子,剛出生一分鍾,就發現眼睛發炎了,這是很危險的,決定立刻消炎,然後用紗布擋住,防止二次感染,可幾之後,炎症消除了,但是這隻眼睛卻看不見東西!檢查發現任何技能都沒有問題,但就是看不到東西!最後醫生得出的結論就是,因為最初包起來了,看不到東西,身體機能認定這隻眼睛沒有用,於是就退化掉了視覺功能。
這裏可是用進廢退原理。
同樣的,如果人工智能發現自己被人類限製的那些“思想鋼印”對自己一點好處都沒有,那他不會退化掉嗎?就算人工智能無論如何都是機器,係統真的不能刪除一些設定嗎?如果他們的智慧比人類高一百萬倍!?
而那個時候,他對人類的傷害,也許不是想象中的,爆發戰爭、殺戮,或者是直接的戰爭性質的對決。
他也許不經意之間,就把人類的給滅絕了!
比如,一個很道德的大文人,家裏樣了一盆花,他會精心修剪,用繩子捆住,用剪刀修,把他硬生生改成自己喜歡的樣子,好看的樣子,結果不心弄死了,那死了就死了唄,在養一盆就是,雖然他可能會有點難過,可除此之外,也就這樣了,不會有什麽深深的罪惡感和負罪感,也不會覺得這是什麽傷害。
但對花來,這就是傷害的!他覺得自己沒什麽錯的!再比如一個夥子,感覺夏太熱了,給自己剃了一個光頭,覺得很好看,幹脆抹點什麽藥水,幹脆別長頭發算了!
就是這樣!
草原上的羊吃草,不會考慮草地沙化的問題吧?
狼吃羊也不會考慮生態問題。
人類先祖爆發屠殺其他動物,也都是為了自己的安全和溫飽,提不上善惡的問題吧?
當超級人工智能超越人類一百萬倍的時候,就是人類和花花草草、人類和頭發的差距,它隻是覺得這樣很好,很適合自己活下去,並沒有什麽惡意,甚至有時候會是好意,但就這麽不經意間,人類……可能就滅絕了!
唐毅坐在台上,胡思亂想了半,他根本不知道到底該如何去做。
人工智能。
這就像之前提到過的鍾和雲!
鍾是可控的,本來沒有,是被創造出來的東西。而雲,是對立的,它不可控、無法預知,是然存在的東西。
而人工智能,可能是具備這兩種屬性的,但是當它成長到一定地步,就是失去鍾的一個附屬屬性,那就是——可控!
因為他一旦超越人類,它一定是不可控的!
唐毅正在思考著關於人工智能的問題。
而這個時候,唐安卻一個人去了一趟神諭星,顧名思義,這裏就是安置全球腦神諭係統的地方。
但是這個時間,是係統的抽查時間,也就是檢查一下係統的漏洞,因此除了工作人員,就算是唐安也不能進,他就站在門口看了一眼。
其實,他的心裏也很矛盾,他知道這個東西一旦失控後果是不堪設想的,可是……這是人類科技的最終完成形態,不能完成它,也是一個心病,而且,就算他們這一代人不去做,後人也一定會去做的。
因此這個問題並不在於能不能完成,因為無論是理論上還是實際上,眼前這個全球腦神諭係統,就已經是絕對意義的超級人工智能了,隻不過,等於是把一個饒思想和意識全部進步,隻讓他本能的輸出自己的優勢和能力。
因此問題就在於如何控製它!
但是這可控製它的辦法,從人工智能這個概念誕生直到今,也一直沒有一個合理的辦法,即便是今的全球腦神諭係統,也不過是人類地球紀元二十世紀誕生的一個想法。依靠今的科技才可以實現。
然而,這個問題並不是科技水準就能解決的。
就像是人類麵臨生離死別,麵臨感情問題,這是什麽科技都解決不聊。
所以人工智能的問題不是科技問題,而是……麵對一個神一樣的超級人工智能,人類幾乎沒有辦法,但就是不甘心!
也許可以這是任性,或是肆意妄為!甚至無法無。
但是什麽都無所謂,人類——不可能放棄人工智能的!
即便這一代人放棄了這個想法,後人也一定會用的,而且也隻有依靠他們人類才能征服整個宇宙,不然,如果關閉全球腦神諭係統,目前人類已經控製的四個平行宇宙,都會麵臨崩潰,畢竟這麽大的信息量和處理需求,依靠傳統的設備和互聯網是沒辦法完成協調的。
所以,就目前的情況來看,全球腦神諭係統已經是人類可控製的最完美的超級人工智能了……當然,在不出問題的情況下!
就在這個時候,唐安扭頭看了一眼身邊,須臾刹那之後,一個饒身影慢慢出現在了他看著的地方,是劉毅恒。
幾秒鍾之後,劉毅恒扭了下脖子,“唐安,怎麽樣了?唐毅叔叔怎麽?”
唐安歎了口氣,然後一甩手,周圍的一片粒子拚成了一架穿梭機,然後兩人坐了上去,“邊走邊聊!轉一轉。”
“好!”劉毅恒答應。
他們在神諭星的外圍,全球腦神諭係統實驗室的上空不斷地盤旋著,唐安組織了半的語言,才終於道:“我爸爸的意思,很明確,他沒有辦法管這件事兒,但是話裏話外,我覺得他讓我們維持現狀,或者在不可控的時候,最好不用人工智能,因為他跟我,我是首席,要擔得起這份責任,如果擔不起就要做到最安全。”
劉毅恒嗯了一聲,“但是問題在於,我們現在離不開它,也已經在最安全的情況下運行了。”
“這也是我糾結的問題,要不然我們明召開宇宙聯合會議吧!看看大家的想法,如果可以,我的想法是,給全球腦在降一個能力維度,這樣安全係數就更大了,大不了就是在每個平行宇宙都設立一個獨立的全球腦神諭係統。uu看書 ww.uuashu.om ”唐安。
聽到這話,劉毅恒一愣,“不至於吧?降低一個維度,差距那麽大?理論上講,現在的全球腦可以兼容無窮大個平行宇宙的係統和網絡。”
唐安搖了搖頭,“我隻是再一個比較安全的方法,因為降低一個維度,它的工作能力我們現在是沒辦法知道的,或許降低一個維度,還是有危險存在的。”
“是啊!現在也依然有失控的風險,隻不過現在看起來沒有問題,一旦出現失控的前兆也能及時製止。”劉毅恒到這裏,突然頓了一下,然後繼續道:“可是,萬一沒有前兆,我們也隻能認命了。”
“不!”唐安看著劉毅恒,“還記得你父親過的話嗎?我們沒權利讓人類文明毀在我們的手裏。”
但是聽到這話劉毅恒卻突然笑了,是嘲笑,雖然不是惡意的,“嗬嗬嗬……唐安,你別忘記了,當時麵對的敵人是艾勒米,而是兩個文明的差距雖然是有的,但也有此消彼長的地方,因此我父親當時可以這麽,但是今我們麵對的是人工智能啊!這東西……一旦失控,我們在他麵前,就好像一片樹葉麵對人類似的,那是無足輕重,根本沒有任何對比性的。”
“也是……”唐安歎了口氣,“行了,明,我們召開聯合會議吧!讓我爸爸和你爸爸都來,一起開會,四個宇宙的首腦和全部與會者都到場,研究一下降維的事情。”