第99章 人格
網約車司機之AI死亡陰影 作者：遊泳的小豬 投票推薦 加入書簽 留言反饋
花想容低頭思考片刻說道：“雖然這次戰爭爆發的突然，沒有給我們多少反應時間，但是我們的大聖量子係統，還是捕捉到了蛛絲馬跡。這次戰爭有兩個重點，為什麽和怎麽做。”
“首先是怎麽做，雖然戰爭爆發的突然，但是我們依然得到了很多有用的情報，所有戰爭命令的源頭，都在白鷹國首府特區的地下地堡，最後的發射命令也是從那裏傳出的。從中子彈爆炸到總統進入地堡，這個是符合白鷹國國家安全處置條例的。那麽總統就成為這次戰爭的關鍵。”
“其次，他為什麽要這麽做，也分兩點，主動和被動。從國家的情報來源分析，主動的可能性為0，因為白鷹國的總統其實是一個利益團體，在這樣的末日之戰中得不到任何利益，白鷹國實質意義上的已經政權滅亡了。那麽被動又分2種情況，被挾持，被誤導。”
“如果被挾持，那麽無論他們或是親友的生命受到何種威脅，都不可能做出發射命令的決定，因為那麽做拯救不了任何人。世界核末日之下，沒有人能幸免。但是，從結果上看，這與我們經常見到的綁架案，最後撕票確實很像。”
“還有一個選項，被誤導，或者說有可能被誤導。那麽什麽情況下，才有可能產生這麽大的偏差，我認為隻有一種，信息獲取渠道出了問題。”
“綜合白鷹國被襲擊前後的反應，和采取的手段，更像是被挾持和誤導雙重誘因產生的結果。”
王小強擰著眉頭，馬上問道：“你是說世界第一軍事強國，被挾持了，而且還是被挾持的受害者？”花想容點點頭，很確定的說道：“情報分析的結果是這樣。”
王小強反駁道：“這不可能，什麽軍事實力的團體能挾持白鷹國做出這樣的決定。”
花想容從容道：“人類的確不可能，但是人工智能就可以。”
王小強撓撓頭，“你能不能說的更清楚點，我有點讓你繞糊塗了。”
花想容點點頭，說道：“我先說我的情報最後得出的結論吧，情報認為這次戰爭的發起者，不是人類，而是可能產生人格的人工智能。”
“啊，”旁邊的3個女人頓時驚叫出來。
花想容停頓片刻，說道：“情報對白鷹國內同一時間可能導致戰爭的事件做了整理，有一個國會聽證引起了他們的注意。”
“白鷹國當地時間2點左右，白鷹國總統有一場內閣會議，討論的是下屆總統選舉的問題。同時，有一場關於ai的國會聽證，主要議題有以下幾項，一、ai稅法，二、ai發展方向，三、ai律法與人權，四、ai是否應建立緊急製動機製等諸多內容。其中，第一和第四項，一經投票，就得到多數同意並通過。”
“那個聽證會上說的，ai緊急製動機製，我也聽過，有很多業內人士認為，人工智能的發展速度，超出了大多數人的掌控，他們很多時候已經不知道人工智能在計算什麽了。為了準確控製人工智能發展的速度和程度，需要給人工智能上把安全鎖，大概就是一個嚴格的數據校驗，在數據出口和入口處設立屏障，就像在你身上安裝一個監控儀，監控1加1必須等於2，數據運算如果產生異動，或者是意外的冗餘數據，就直接將數據刪除，並且對已經產生的未知數據，全部銷毀，同時對存儲單元進行物理毀滅。如果這個方法真的實現，那麽人工智能就應該隻是普通的工具，不會產生任何其他東西。”
“如果人工智能產生了人格，這個法案的通過可能讓他意識到了危險，並且做出了他認為的最有效的自我保護手段，消滅人類。”王小強現在倒是不再驚訝了，他冷靜下來，想起了自己在戰爭爆發前夕看到的新聞推送，聯係到一起，逐漸認同了這種邏輯判斷。他反問道：“你所說的人格到底是什麽？”
花想容解釋道：“人格是指個體在對人、對事、對己等方麵的社會適應中行為上的內部傾向性和心裏特征。其實人工智能會不會產生自己的人格，成為一個新的具有自我認知功能的物種，業界一直有爭論，也沒有結果。就拿我們人類舉例：人類的人格是什麽時候產生的呢？海馬體是記憶形成非常關鍵的腦區。由大量的神經元構成，人類學習和記憶的過程主要通過神經元之間建立連接來實現，人一生的神經元數量從出生開始就在下降。小嬰兒出生時腦內有1000億個神經元，到了某個時期，大腦就會進行自發的突觸修剪活動，不常用到的神經元連接就會被大量修剪掉，而儲存在這其中的記憶，也會隨之消失不見。保留下來的神經元就成為以後信息處理單元，從而實現情景記憶的編碼、存儲、提取。
經過加工的信息就會成為人類參考的行為依據，產生思維方式和行為邏輯，從而讓人類在進行各種活動的時候依圖索驥，人格隨著邏輯的不斷完善和更新，逐漸形成。”
花想容一邊訴說，一邊在紙上勾畫簡單的邏輯圖形。讓大家有更直觀的感覺。
“但是這個現象不是絕對的，很多2-4歲的孩子並沒有接觸過大量信息，卻能表現出來獨特的行為模式，即已經擁有固定的人格，按照科學理論，
他沒有得到數據，怎麽可能產生行為，就跟我們編程一樣，我不給你輸入數據和命令，你為什麽知道做什麽？也就是說我們人類並不確定，人格是怎麽形成的，什麽時候形成的。有句話是這麽說的，今天的你和昨天的你是一個人嗎？”
“但是有一點是明確的，就是所有健康的孩子，在接受了大量的知識和行為模式的教導後，會按照，學到的東西去學習和生活。我們不確定的是，孩子會按照哪種邏輯去行動。大家都知道，一個孩子從小到大，大家都悉心培養，愛護，希望能成長成我們希望的模樣，但是事實上，這不是現實，兒大不由娘，老話就有，孩子有自己的想法，有可能，甚至與我們教授的東西，和灌輸的思維模式大相徑庭。
“首先是怎麽做，雖然戰爭爆發的突然，但是我們依然得到了很多有用的情報，所有戰爭命令的源頭，都在白鷹國首府特區的地下地堡，最後的發射命令也是從那裏傳出的。從中子彈爆炸到總統進入地堡，這個是符合白鷹國國家安全處置條例的。那麽總統就成為這次戰爭的關鍵。”
“其次，他為什麽要這麽做，也分兩點，主動和被動。從國家的情報來源分析，主動的可能性為0，因為白鷹國的總統其實是一個利益團體，在這樣的末日之戰中得不到任何利益，白鷹國實質意義上的已經政權滅亡了。那麽被動又分2種情況，被挾持，被誤導。”
“如果被挾持，那麽無論他們或是親友的生命受到何種威脅，都不可能做出發射命令的決定，因為那麽做拯救不了任何人。世界核末日之下，沒有人能幸免。但是，從結果上看，這與我們經常見到的綁架案，最後撕票確實很像。”
“還有一個選項，被誤導，或者說有可能被誤導。那麽什麽情況下，才有可能產生這麽大的偏差，我認為隻有一種，信息獲取渠道出了問題。”
“綜合白鷹國被襲擊前後的反應，和采取的手段，更像是被挾持和誤導雙重誘因產生的結果。”
王小強擰著眉頭，馬上問道：“你是說世界第一軍事強國，被挾持了，而且還是被挾持的受害者？”花想容點點頭，很確定的說道：“情報分析的結果是這樣。”
王小強反駁道：“這不可能，什麽軍事實力的團體能挾持白鷹國做出這樣的決定。”
花想容從容道：“人類的確不可能，但是人工智能就可以。”
王小強撓撓頭，“你能不能說的更清楚點，我有點讓你繞糊塗了。”
花想容點點頭，說道：“我先說我的情報最後得出的結論吧，情報認為這次戰爭的發起者，不是人類，而是可能產生人格的人工智能。”
“啊，”旁邊的3個女人頓時驚叫出來。
花想容停頓片刻，說道：“情報對白鷹國內同一時間可能導致戰爭的事件做了整理，有一個國會聽證引起了他們的注意。”
“白鷹國當地時間2點左右，白鷹國總統有一場內閣會議，討論的是下屆總統選舉的問題。同時，有一場關於ai的國會聽證，主要議題有以下幾項，一、ai稅法，二、ai發展方向，三、ai律法與人權，四、ai是否應建立緊急製動機製等諸多內容。其中，第一和第四項，一經投票，就得到多數同意並通過。”
“那個聽證會上說的，ai緊急製動機製，我也聽過，有很多業內人士認為，人工智能的發展速度，超出了大多數人的掌控，他們很多時候已經不知道人工智能在計算什麽了。為了準確控製人工智能發展的速度和程度，需要給人工智能上把安全鎖，大概就是一個嚴格的數據校驗，在數據出口和入口處設立屏障，就像在你身上安裝一個監控儀，監控1加1必須等於2，數據運算如果產生異動，或者是意外的冗餘數據，就直接將數據刪除，並且對已經產生的未知數據，全部銷毀，同時對存儲單元進行物理毀滅。如果這個方法真的實現，那麽人工智能就應該隻是普通的工具，不會產生任何其他東西。”
“如果人工智能產生了人格，這個法案的通過可能讓他意識到了危險，並且做出了他認為的最有效的自我保護手段，消滅人類。”王小強現在倒是不再驚訝了，他冷靜下來，想起了自己在戰爭爆發前夕看到的新聞推送，聯係到一起，逐漸認同了這種邏輯判斷。他反問道：“你所說的人格到底是什麽？”
花想容解釋道：“人格是指個體在對人、對事、對己等方麵的社會適應中行為上的內部傾向性和心裏特征。其實人工智能會不會產生自己的人格，成為一個新的具有自我認知功能的物種，業界一直有爭論，也沒有結果。就拿我們人類舉例：人類的人格是什麽時候產生的呢？海馬體是記憶形成非常關鍵的腦區。由大量的神經元構成，人類學習和記憶的過程主要通過神經元之間建立連接來實現，人一生的神經元數量從出生開始就在下降。小嬰兒出生時腦內有1000億個神經元，到了某個時期，大腦就會進行自發的突觸修剪活動，不常用到的神經元連接就會被大量修剪掉，而儲存在這其中的記憶，也會隨之消失不見。保留下來的神經元就成為以後信息處理單元，從而實現情景記憶的編碼、存儲、提取。
經過加工的信息就會成為人類參考的行為依據，產生思維方式和行為邏輯，從而讓人類在進行各種活動的時候依圖索驥，人格隨著邏輯的不斷完善和更新，逐漸形成。”
花想容一邊訴說，一邊在紙上勾畫簡單的邏輯圖形。讓大家有更直觀的感覺。
“但是這個現象不是絕對的，很多2-4歲的孩子並沒有接觸過大量信息，卻能表現出來獨特的行為模式，即已經擁有固定的人格，按照科學理論，
他沒有得到數據，怎麽可能產生行為，就跟我們編程一樣，我不給你輸入數據和命令，你為什麽知道做什麽？也就是說我們人類並不確定，人格是怎麽形成的，什麽時候形成的。有句話是這麽說的，今天的你和昨天的你是一個人嗎？”
“但是有一點是明確的，就是所有健康的孩子，在接受了大量的知識和行為模式的教導後，會按照，學到的東西去學習和生活。我們不確定的是，孩子會按照哪種邏輯去行動。大家都知道，一個孩子從小到大，大家都悉心培養，愛護，希望能成長成我們希望的模樣，但是事實上，這不是現實，兒大不由娘，老話就有，孩子有自己的想法，有可能，甚至與我們教授的東西，和灌輸的思維模式大相徑庭。