林尼點點頭:「我也想過這個問題。所以,要不是飛廉的製造者拒絕登艦,要不就是,他們犯了極大的錯誤,根本無法登艦。說不定兩個原因都有,不想離開地球,以及犯了嚴重的錯誤。」
「什麽錯誤?」皮耶爾也湊過來問。
林尼想了想:「從飛廉的行為舉止來看,我懷疑他的製造者違反了人工智慧倫理守則,把人類的思維方式和情感,嵌入了ai的係統裏。」
「……這可能嗎?」宋君行和皮耶爾都不大理解,「思維方式還好說,感情……感情能轉化到機器身上?」
「無論思維方式還是感情,都是大腦的反應結果,其實感情也是一種邏輯,遇到什麽事,會引發快樂、憤怒、悲傷或者內疚,都是有跡可循的,沒有這麽玄。人工智慧呃製造從一開始就受到各種約束,其中有一條就是,它們應該像人,卻絕對不能太過於像人。這個守則是有判斷標準的,雖然我不清楚標準是什麽……但像飛廉這樣的,顯然已經過了。他太像人了。」
宋君行猶豫片刻,問皮耶爾:「那飛廉說過什麽和這有關的話題嗎?他的製造者到底犯了什麽錯?」
林尼立刻想起了江徹轉述的話。
——「因為他們製造了我。」
——「我太優秀了。」
「說製造其實並不十分準確。」飛廉用漢語跟江徹溝通,「更準確地說,是他們生育了我,隨後又製造了我。」
江徹的腦子一時還沒轉過彎:「生育你?」
「任意是我的生物學母親。」飛廉低聲回答。少年人站在了江徹的麵前,布滿艦艇每一個角落的全息投影設備將他的身影完整地呈現在眼前。十六七歲的飛廉非常年輕,雖然麵上從來沒有什麽表情,但無論怎麽嚴肅都壓不下那份稚嫩。他推了推臉上的眼鏡,這個動作令他的頭髮輕輕拂起,露出了暗紅色的眼睛。
江徹早就想問他了,為什麽他的眼睛是暗紅色的。眼珠子的顏色過分突兀,是飛廉身上最不像人的一個地方。
可除了雙眼,他其餘的每一個細節都近乎完美。身姿挺拔,容貌英俊,雖然性格不夠圓滑,但卻永遠彬彬有禮,並不讓人反感。
製造他的人必定很愛他。江徹心想,他們製造了如此完美的形象,賦予了鳳凰號一個忠誠的靈魂。
「在鳳凰號上,我是一個ai,我叫飛廉。」他輕聲回答江徹的問題,「而飛廉的原型,是一個名為張曉晨的孩子。我和他的外形是一模一樣的。」
江徹終於明白了。
「張曉晨是任意的孩子。任意製造了你,然後把自己孩子的外形給了你。」
他覺得自己明白了。飛廉無疑是任意和她的團隊最優秀的作品,而她選擇了讓這個作品擁有和自己孩子一樣的外形,這並不難理解。
「張曉晨也應該是一個優秀的孩子,和你一樣,健康,快樂,這個年紀應該還在讀書。」江徹說,「任意在你身上複製了他。」
「談不上優秀。他當時十六歲……」眼神柔和的少年有些緊張,像是在揭開某個不得了的大秘密,但口吻又和平時一樣冷靜平淡,「……是一個絕對不可能進入『大撤退』的自閉症患者。」
第69章 飛廉(3)
和丈夫同在亞洲區人工智慧研製實驗中心工作的任意, 是艦艇使用的人工智慧主要的研發人員。
她是鳳凰號ai研發團隊的核心, 連「飛廉」這個名字也是她起的。
因而飛廉的外形,也是在她的強烈要求下通過的。
團隊的人並沒有對這位母親的請求提出任何異議, 他們甚至和她一起觀察張曉晨的行為模式和活動細節, 再把這些細節一一呈現到ai的係統裏。
張曉晨是一個很普通的自閉症患者, 他跟世界上絕大多數的自閉症病人一樣,沒有任何音樂、數字、美術的天賦, 每天都在重複同樣的刻板行為, 無法解讀和表達自己的情緒,甚至於, 他一生中唯一能說的三個單詞, 就是「媽媽」「爸爸」和「星星」。
鳳凰號ai研發團隊裏的人和任意共事了幾十年, 他們熟悉任意,也熟悉張曉晨。
在飛廉的係統裏,儲存著很多和張曉晨與任意相關的資料。他們用這些資料來豐富飛廉的性格,讓他去理解人和人的關係, 並且「更像」張曉晨。
在這些資料裏, 有許多任意獨自一人對ai說的話。她就像對著一個傾聽者, 低沉而緩慢地跟飛廉講述張曉晨的故事。
「很漫長……很漫長的絕望。」被飛廉稱為「母親」的女人在他的記憶裏低聲哭泣,「他小的時候我們還抱著希望的,和他一起康復的孩子,有些學會了說話,有些能去小學上學了。可是曉晨不行……我和老張根本不知道他每一個動作意味著什麽,這跟我們學習到的完全不一樣。太絕望了……康復老師也不敢跟我們說他會變好, 每個人都要裝作極其有耐心,可我還是會崩潰。」
為什麽會生下這樣的孩子呢?任意本身並不是研究醫學的,她的丈夫也不是。兩人花費了大量的時間去研讀醫學書籍,但沒有任何一本書能給出答案。
他們不敢再要一個孩子。害怕那會是第二個張曉晨,更害怕那會分薄他們在張曉晨身上花費的時間。
「想過去死。」任意坐在隻屬於她自己的辦公室裏,四麵昏暗,她拉緊了所有的百葉窗,隻有終端機屏幕的光亮照在她臉上。她神情沉穩,語調平靜,把那句話又重複了一次——「我們都想過死。」
「什麽錯誤?」皮耶爾也湊過來問。
林尼想了想:「從飛廉的行為舉止來看,我懷疑他的製造者違反了人工智慧倫理守則,把人類的思維方式和情感,嵌入了ai的係統裏。」
「……這可能嗎?」宋君行和皮耶爾都不大理解,「思維方式還好說,感情……感情能轉化到機器身上?」
「無論思維方式還是感情,都是大腦的反應結果,其實感情也是一種邏輯,遇到什麽事,會引發快樂、憤怒、悲傷或者內疚,都是有跡可循的,沒有這麽玄。人工智慧呃製造從一開始就受到各種約束,其中有一條就是,它們應該像人,卻絕對不能太過於像人。這個守則是有判斷標準的,雖然我不清楚標準是什麽……但像飛廉這樣的,顯然已經過了。他太像人了。」
宋君行猶豫片刻,問皮耶爾:「那飛廉說過什麽和這有關的話題嗎?他的製造者到底犯了什麽錯?」
林尼立刻想起了江徹轉述的話。
——「因為他們製造了我。」
——「我太優秀了。」
「說製造其實並不十分準確。」飛廉用漢語跟江徹溝通,「更準確地說,是他們生育了我,隨後又製造了我。」
江徹的腦子一時還沒轉過彎:「生育你?」
「任意是我的生物學母親。」飛廉低聲回答。少年人站在了江徹的麵前,布滿艦艇每一個角落的全息投影設備將他的身影完整地呈現在眼前。十六七歲的飛廉非常年輕,雖然麵上從來沒有什麽表情,但無論怎麽嚴肅都壓不下那份稚嫩。他推了推臉上的眼鏡,這個動作令他的頭髮輕輕拂起,露出了暗紅色的眼睛。
江徹早就想問他了,為什麽他的眼睛是暗紅色的。眼珠子的顏色過分突兀,是飛廉身上最不像人的一個地方。
可除了雙眼,他其餘的每一個細節都近乎完美。身姿挺拔,容貌英俊,雖然性格不夠圓滑,但卻永遠彬彬有禮,並不讓人反感。
製造他的人必定很愛他。江徹心想,他們製造了如此完美的形象,賦予了鳳凰號一個忠誠的靈魂。
「在鳳凰號上,我是一個ai,我叫飛廉。」他輕聲回答江徹的問題,「而飛廉的原型,是一個名為張曉晨的孩子。我和他的外形是一模一樣的。」
江徹終於明白了。
「張曉晨是任意的孩子。任意製造了你,然後把自己孩子的外形給了你。」
他覺得自己明白了。飛廉無疑是任意和她的團隊最優秀的作品,而她選擇了讓這個作品擁有和自己孩子一樣的外形,這並不難理解。
「張曉晨也應該是一個優秀的孩子,和你一樣,健康,快樂,這個年紀應該還在讀書。」江徹說,「任意在你身上複製了他。」
「談不上優秀。他當時十六歲……」眼神柔和的少年有些緊張,像是在揭開某個不得了的大秘密,但口吻又和平時一樣冷靜平淡,「……是一個絕對不可能進入『大撤退』的自閉症患者。」
第69章 飛廉(3)
和丈夫同在亞洲區人工智慧研製實驗中心工作的任意, 是艦艇使用的人工智慧主要的研發人員。
她是鳳凰號ai研發團隊的核心, 連「飛廉」這個名字也是她起的。
因而飛廉的外形,也是在她的強烈要求下通過的。
團隊的人並沒有對這位母親的請求提出任何異議, 他們甚至和她一起觀察張曉晨的行為模式和活動細節, 再把這些細節一一呈現到ai的係統裏。
張曉晨是一個很普通的自閉症患者, 他跟世界上絕大多數的自閉症病人一樣,沒有任何音樂、數字、美術的天賦, 每天都在重複同樣的刻板行為, 無法解讀和表達自己的情緒,甚至於, 他一生中唯一能說的三個單詞, 就是「媽媽」「爸爸」和「星星」。
鳳凰號ai研發團隊裏的人和任意共事了幾十年, 他們熟悉任意,也熟悉張曉晨。
在飛廉的係統裏,儲存著很多和張曉晨與任意相關的資料。他們用這些資料來豐富飛廉的性格,讓他去理解人和人的關係, 並且「更像」張曉晨。
在這些資料裏, 有許多任意獨自一人對ai說的話。她就像對著一個傾聽者, 低沉而緩慢地跟飛廉講述張曉晨的故事。
「很漫長……很漫長的絕望。」被飛廉稱為「母親」的女人在他的記憶裏低聲哭泣,「他小的時候我們還抱著希望的,和他一起康復的孩子,有些學會了說話,有些能去小學上學了。可是曉晨不行……我和老張根本不知道他每一個動作意味著什麽,這跟我們學習到的完全不一樣。太絕望了……康復老師也不敢跟我們說他會變好, 每個人都要裝作極其有耐心,可我還是會崩潰。」
為什麽會生下這樣的孩子呢?任意本身並不是研究醫學的,她的丈夫也不是。兩人花費了大量的時間去研讀醫學書籍,但沒有任何一本書能給出答案。
他們不敢再要一個孩子。害怕那會是第二個張曉晨,更害怕那會分薄他們在張曉晨身上花費的時間。
「想過去死。」任意坐在隻屬於她自己的辦公室裏,四麵昏暗,她拉緊了所有的百葉窗,隻有終端機屏幕的光亮照在她臉上。她神情沉穩,語調平靜,把那句話又重複了一次——「我們都想過死。」