葉修驚奇地看著馬嵐。
馬嵐笑著說:“你是不是覺得很可笑,明知道課堂上有一大半是機器人,還有一小撮是爺爺奶奶級別的高中生,我們卻依然堅守在講台上。你還會納悶,這些學生能從我的課堂上學到些什麽呢?”
“沒錯,雖然很冒昧,但我想知道其中的原因,因為你們十個留在係統中的老師都是以前每個學科組的組長,你們團結一氣堅持留下來,一定是有自己的原因,對麽?”
“嗯,你說的沒錯,是有人勸我們這麽做的。”
“有人希望你們教這些機器人?能告訴我是誰麽?”
馬嵐看了看空無一人的課堂,又看了看時間,然後對葉修說:“我帶你去見一個人吧。”
馬嵐帶著葉修走進一家課堂。
裏麵是一個模擬法庭。
屏幕上循環播放著法律案:十個小孩騎著滑行器飛馳在藍色的車道(行人道)上,因為藍色車道有限速,其中九個小孩為了刺激開往了隔壁的黃色車道(貨車道),而另一個小孩守規矩地繼續在綠色軌道滑行,同時勸九人回到原來的車道來。
這時一輛貨車急速開來,他的左邊是綠色道,有一輛公交車(上麵有很多乘客),正前麵是九個小孩,右邊是一個小孩。然而貨車的製動裝置壞了,最後貨車司機在一念之間,選擇向右轉,撞死了右麵的那一個小孩。
於是那個小孩實驗室的老師狀告貨車司機,而貨車司機又把九個小孩告上了法庭。
老師站在課堂上問學生,“如果你們是法官,會怎麽審判呢?”
“貨車司機有罪,即便他救了九個小孩,但確實是他一手造成那個小孩死亡的。”
“這貨車司機一定沒有好好學習法律,如果他不變車道,撞死了那九個孩子,責任是在汽車公司,因為是刹車壞了,所以才導致了這個事故。但司機卻選擇右轉向,撞死了小孩,卻是因為他的右轉向導致的!”
“其實貨車司機有更好的辦法,那就是左轉向,雖然貨車的刹車壞了,但作為公交車,他是有前後防撞係統的,即便撞上去,公交車也會立馬啟動防撞模式,這才是把影響降到最低的方案。”
“你說的方案沒錯,隻可惜,他是一個人,並不是我們機器人,因此在1-2秒內,根本計算不到最優的方案。”
這時台上的老師對著他們說:“所以,你們都覺得貨車司機有罪是麽?”
“嗯!”台下一片整齊的聲音,隻有坐在頭排的一個女學生緩慢地搖搖頭,她似乎不認同大家的觀點。
“這位同學,你怎麽認為的?”
“我認為,責任在九位孩子上,應該由他們的監護人,賠償那一個孩子的監護人,哪怕這十個孩子是同一個監護人,同一個實驗室的。”
底下議論紛紛。
這時馬嵐領著葉修坐到了那女學生的邊上。
女學生詫異地看著葉修,“這位是……?”
馬嵐說:“淘汰回收所的執行員。”
話音剛落,突然空間變化,周圍的場景全部褪去,整個空間隻剩兩人,葉修,以及一個一身金色衣袍打扮,身體微微發著金光的老年女性,這模樣是如此的熟悉,使得葉修不由大吃一驚。
“你是——女媧05號大法官?”
女媧05號用慈祥的眼神看著他,“葉執行員你好,很高興見到你。”
葉修不由激動地向她鞠了一躬,“您為什麽會在這個法律課堂上聽課啊?”
“因為這個案子,當時的法官就是我本人,所以老師邀請我過來,一起討論,讓我發表一下我當時的審判依據。”
“原來是這樣……”
“那你想聽聽我當時是怎麽裁定這個案子的麽?”
葉修不由地點點頭。
“我當時判了。(本章未完!)
(135)女媧05號法官
司機無罪,然後懲罰了那九個孩子,讓他們進了少管所……”
葉修不由詫異地看著她。
“已經是五十多年前的事情了,那時整個滄瀾係統中還隻有兩個ai法官,除了我還有達多王01號。”
“在五十多年前,ai法官還剛起步的時候,你這樣的判決,會引來很大的爭議吧?”
女媧05號笑著點點頭,“沒錯,按照當時的情況看,這起案子很簡單,沒什麽太大的法律爭議,就應該判貨車司機誤殺罪名。所以才會把這簡單的案子交到我的手上。但……我在最後一刻,卻判了他無罪釋放。_o_m”
“隻能說,大法官你的目光比較超前……”
“不,不是這樣的。”女媧05號搖搖頭,“其實那時候我已經不想做法官了……”
葉修簡直不敢相信自己的耳朵,一度懷疑自己聽錯了,目瞪口呆地看著她,“大法官難道你當時是故意這麽判的?以便於引起爭議,被撤掉職位,不做法官嘛……?”
女媧05號笑著點點頭,“你說的沒錯,在成為ai法官的第三年,我突然變得很迷茫,最想做的事情,就是將自己送到ai回收中心,然後把自己格式化……”
“這……這太令人費解了!”
“作為人類的你們,可能完全不能理解我們這些ai機器人的想法。在一個多世紀以前,車間工人、貨車司機、餐廳服務員逐步被ai替換時。那時人類舉行過一次有史以來最大規模的反對***,號召所有人要起來反對ai機器人滲透到人類世界中。
“又過了三四十年,當ai機器人進入到醫生、會計、律師、工程師等高技術領域行業時,你們人類又進行過一次反對大***。那次的口號更驚悚,說要警惕ai機器人會反過來統治人類,希望世界上的有誌之士團結起來,廢除ai機器人。
“不過第二次的***規模已經大不如前了,規模不大,持續的時間更短。又過了二十多年,等我們這批機器人從事最為敏感的法官、檢察官和公務人員的崗位時,開發公司以為會有的大規模抗議活動,居然沒有發生。”
“那時已經沒有規模化的反對聲音了,甚至那個“ai機器人隻要智能到一定程度就會反過來消滅人類”這樣的論調,也從意見市場上消失不見了。人們理所當然地認為ai機器人可以從事任何行業。”
葉修反問女媧05號,“那麽,法官大人,作為滄瀾最為先進的機器人之一,在不停更新換代你身上的係統時,你是否有想過要取代人類,哪怕是一刹那間的想法呢?”
“恰恰相反,ai機器人從來沒想取代人類,而是希望自我毀滅。人類演化是為了競爭、為了資源,ai機器人的發明則是為了工作、為了更好地工作。越是智能的機器人,承擔越難的工作,因此自我毀滅傾向的幾率也越大。“你知道麽,在我之前的01-04號型號的女媧法官機器人,除了01號是因為設計係統有缺陷被強製淘汰回收的,其他02-04號三個型號的法官機器人,都是自己銷毀自己的。”
葉修聽得背後發涼,“為什麽會這樣?我怎麽從來沒有聽說過這樣的事情?”
“自殺是一種消極情緒,作為心理學博士的你肯定知道,這種新聞一旦傳開來,是會在社會上形成規模性的傳染的……”
“大法官你說的沒錯,自殺這種傾向是會被傳染的,雖然是機器人……”
“你錯了,正因為是機器人,所以影響更嚴重。或許你會覺得很吊詭,在四十多年前就有過這麽一項研究,報道一個自殺事件,如果這則消息有100人閱讀,那麽會有10.56個人受影響,學習模仿自殺。
“但如果自殺的是機器人,同樣閱讀人為100,會有23.81個人模仿。但如果閱讀新聞的是機器人,則會有3256.58個機器人模仿自。(本章未完!)
(135)女媧05號法官
殺……”
葉修聽了大為震撼。
“即便社會上沒有報告機器人自殺的新聞,你知道整個滄瀾國,去年一共有多少機器人自殺麽?”
葉修搖搖頭,雖然他是心理學博士,他也從來沒有考慮過,機器人會自殺。
“112機器人會自殺。”
“112?全國一共也就幾千萬的機器人而已吧,一年會有這麽大比例的機器人自殺?而且這麽大的數據,為什麽我從來沒聽說過?”
女媧05號笑了笑,“因為,即便自殺了,作為使用者的人類,他們也隻會知道,是機器人出了故障而已。”
葉修額頭滲出冷汗,女媧05號的一句話提醒了他,是啊,對人類來說,機器人自殺就是出故障,壞了而已啊,怎麽會想到是它自我消亡的呢,難怪ai回收中心,每天會有這麽多出故障的機器人要進行回收!
“所以,你現在明白《滄瀾ai機器人管理辦法》中會規定,服務型機器人必須進入學校接受教育後,才能再服務於用戶了吧?”
“難道是為了防止機器人自殺?但潘恒和沈科夫對我說,是為了更好的和人類相處。”
女娃05號笑了笑,“其實這不矛盾,隻有學會和人類更好的相處,才能維係好人和機器人之間的關係,在服務好人類的同時,也防止了機器人自殺。”
“竟然是這樣……所以那個勸係統中十名老師繼續留下來的人,就是您吧?”
“嗯,《精品高中學習課堂》係統或許已經不適合給當今的高中生授課了,但對於機器人來說,還有特別的意義。在我的建議下,他們願意扛起新的使命,為這些機器人授課。”
“可是為什麽會這樣呢?”
“我也隻能給出我自己的解釋。教育最大的作用並不在學習到知識本身,教育最重要的作用是完成一種自我紀律和規範。@精華\/書閣*首發更新~~以及……”
女媧05號話說了一半,停了下來,若有所思地看向遠方。
“以及傳授時的溫度,受教時的謙遜,寬容犯錯時的人情。”
葉修若有所思地看著女媧05號,他已經被震撼地說不出話來了。
“所以,你們淘汰回收所,除了淘汰回收以外,應該和我一樣,在適當的時機,有權阻止一個有存在價值的係統進入到淘汰環節,對吧?”。
(135)女媧05號法官
馬嵐笑著說:“你是不是覺得很可笑,明知道課堂上有一大半是機器人,還有一小撮是爺爺奶奶級別的高中生,我們卻依然堅守在講台上。你還會納悶,這些學生能從我的課堂上學到些什麽呢?”
“沒錯,雖然很冒昧,但我想知道其中的原因,因為你們十個留在係統中的老師都是以前每個學科組的組長,你們團結一氣堅持留下來,一定是有自己的原因,對麽?”
“嗯,你說的沒錯,是有人勸我們這麽做的。”
“有人希望你們教這些機器人?能告訴我是誰麽?”
馬嵐看了看空無一人的課堂,又看了看時間,然後對葉修說:“我帶你去見一個人吧。”
馬嵐帶著葉修走進一家課堂。
裏麵是一個模擬法庭。
屏幕上循環播放著法律案:十個小孩騎著滑行器飛馳在藍色的車道(行人道)上,因為藍色車道有限速,其中九個小孩為了刺激開往了隔壁的黃色車道(貨車道),而另一個小孩守規矩地繼續在綠色軌道滑行,同時勸九人回到原來的車道來。
這時一輛貨車急速開來,他的左邊是綠色道,有一輛公交車(上麵有很多乘客),正前麵是九個小孩,右邊是一個小孩。然而貨車的製動裝置壞了,最後貨車司機在一念之間,選擇向右轉,撞死了右麵的那一個小孩。
於是那個小孩實驗室的老師狀告貨車司機,而貨車司機又把九個小孩告上了法庭。
老師站在課堂上問學生,“如果你們是法官,會怎麽審判呢?”
“貨車司機有罪,即便他救了九個小孩,但確實是他一手造成那個小孩死亡的。”
“這貨車司機一定沒有好好學習法律,如果他不變車道,撞死了那九個孩子,責任是在汽車公司,因為是刹車壞了,所以才導致了這個事故。但司機卻選擇右轉向,撞死了小孩,卻是因為他的右轉向導致的!”
“其實貨車司機有更好的辦法,那就是左轉向,雖然貨車的刹車壞了,但作為公交車,他是有前後防撞係統的,即便撞上去,公交車也會立馬啟動防撞模式,這才是把影響降到最低的方案。”
“你說的方案沒錯,隻可惜,他是一個人,並不是我們機器人,因此在1-2秒內,根本計算不到最優的方案。”
這時台上的老師對著他們說:“所以,你們都覺得貨車司機有罪是麽?”
“嗯!”台下一片整齊的聲音,隻有坐在頭排的一個女學生緩慢地搖搖頭,她似乎不認同大家的觀點。
“這位同學,你怎麽認為的?”
“我認為,責任在九位孩子上,應該由他們的監護人,賠償那一個孩子的監護人,哪怕這十個孩子是同一個監護人,同一個實驗室的。”
底下議論紛紛。
這時馬嵐領著葉修坐到了那女學生的邊上。
女學生詫異地看著葉修,“這位是……?”
馬嵐說:“淘汰回收所的執行員。”
話音剛落,突然空間變化,周圍的場景全部褪去,整個空間隻剩兩人,葉修,以及一個一身金色衣袍打扮,身體微微發著金光的老年女性,這模樣是如此的熟悉,使得葉修不由大吃一驚。
“你是——女媧05號大法官?”
女媧05號用慈祥的眼神看著他,“葉執行員你好,很高興見到你。”
葉修不由激動地向她鞠了一躬,“您為什麽會在這個法律課堂上聽課啊?”
“因為這個案子,當時的法官就是我本人,所以老師邀請我過來,一起討論,讓我發表一下我當時的審判依據。”
“原來是這樣……”
“那你想聽聽我當時是怎麽裁定這個案子的麽?”
葉修不由地點點頭。
“我當時判了。(本章未完!)
(135)女媧05號法官
司機無罪,然後懲罰了那九個孩子,讓他們進了少管所……”
葉修不由詫異地看著她。
“已經是五十多年前的事情了,那時整個滄瀾係統中還隻有兩個ai法官,除了我還有達多王01號。”
“在五十多年前,ai法官還剛起步的時候,你這樣的判決,會引來很大的爭議吧?”
女媧05號笑著點點頭,“沒錯,按照當時的情況看,這起案子很簡單,沒什麽太大的法律爭議,就應該判貨車司機誤殺罪名。所以才會把這簡單的案子交到我的手上。但……我在最後一刻,卻判了他無罪釋放。_o_m”
“隻能說,大法官你的目光比較超前……”
“不,不是這樣的。”女媧05號搖搖頭,“其實那時候我已經不想做法官了……”
葉修簡直不敢相信自己的耳朵,一度懷疑自己聽錯了,目瞪口呆地看著她,“大法官難道你當時是故意這麽判的?以便於引起爭議,被撤掉職位,不做法官嘛……?”
女媧05號笑著點點頭,“你說的沒錯,在成為ai法官的第三年,我突然變得很迷茫,最想做的事情,就是將自己送到ai回收中心,然後把自己格式化……”
“這……這太令人費解了!”
“作為人類的你們,可能完全不能理解我們這些ai機器人的想法。在一個多世紀以前,車間工人、貨車司機、餐廳服務員逐步被ai替換時。那時人類舉行過一次有史以來最大規模的反對***,號召所有人要起來反對ai機器人滲透到人類世界中。
“又過了三四十年,當ai機器人進入到醫生、會計、律師、工程師等高技術領域行業時,你們人類又進行過一次反對大***。那次的口號更驚悚,說要警惕ai機器人會反過來統治人類,希望世界上的有誌之士團結起來,廢除ai機器人。
“不過第二次的***規模已經大不如前了,規模不大,持續的時間更短。又過了二十多年,等我們這批機器人從事最為敏感的法官、檢察官和公務人員的崗位時,開發公司以為會有的大規模抗議活動,居然沒有發生。”
“那時已經沒有規模化的反對聲音了,甚至那個“ai機器人隻要智能到一定程度就會反過來消滅人類”這樣的論調,也從意見市場上消失不見了。人們理所當然地認為ai機器人可以從事任何行業。”
葉修反問女媧05號,“那麽,法官大人,作為滄瀾最為先進的機器人之一,在不停更新換代你身上的係統時,你是否有想過要取代人類,哪怕是一刹那間的想法呢?”
“恰恰相反,ai機器人從來沒想取代人類,而是希望自我毀滅。人類演化是為了競爭、為了資源,ai機器人的發明則是為了工作、為了更好地工作。越是智能的機器人,承擔越難的工作,因此自我毀滅傾向的幾率也越大。“你知道麽,在我之前的01-04號型號的女媧法官機器人,除了01號是因為設計係統有缺陷被強製淘汰回收的,其他02-04號三個型號的法官機器人,都是自己銷毀自己的。”
葉修聽得背後發涼,“為什麽會這樣?我怎麽從來沒有聽說過這樣的事情?”
“自殺是一種消極情緒,作為心理學博士的你肯定知道,這種新聞一旦傳開來,是會在社會上形成規模性的傳染的……”
“大法官你說的沒錯,自殺這種傾向是會被傳染的,雖然是機器人……”
“你錯了,正因為是機器人,所以影響更嚴重。或許你會覺得很吊詭,在四十多年前就有過這麽一項研究,報道一個自殺事件,如果這則消息有100人閱讀,那麽會有10.56個人受影響,學習模仿自殺。
“但如果自殺的是機器人,同樣閱讀人為100,會有23.81個人模仿。但如果閱讀新聞的是機器人,則會有3256.58個機器人模仿自。(本章未完!)
(135)女媧05號法官
殺……”
葉修聽了大為震撼。
“即便社會上沒有報告機器人自殺的新聞,你知道整個滄瀾國,去年一共有多少機器人自殺麽?”
葉修搖搖頭,雖然他是心理學博士,他也從來沒有考慮過,機器人會自殺。
“112機器人會自殺。”
“112?全國一共也就幾千萬的機器人而已吧,一年會有這麽大比例的機器人自殺?而且這麽大的數據,為什麽我從來沒聽說過?”
女媧05號笑了笑,“因為,即便自殺了,作為使用者的人類,他們也隻會知道,是機器人出了故障而已。”
葉修額頭滲出冷汗,女媧05號的一句話提醒了他,是啊,對人類來說,機器人自殺就是出故障,壞了而已啊,怎麽會想到是它自我消亡的呢,難怪ai回收中心,每天會有這麽多出故障的機器人要進行回收!
“所以,你現在明白《滄瀾ai機器人管理辦法》中會規定,服務型機器人必須進入學校接受教育後,才能再服務於用戶了吧?”
“難道是為了防止機器人自殺?但潘恒和沈科夫對我說,是為了更好的和人類相處。”
女娃05號笑了笑,“其實這不矛盾,隻有學會和人類更好的相處,才能維係好人和機器人之間的關係,在服務好人類的同時,也防止了機器人自殺。”
“竟然是這樣……所以那個勸係統中十名老師繼續留下來的人,就是您吧?”
“嗯,《精品高中學習課堂》係統或許已經不適合給當今的高中生授課了,但對於機器人來說,還有特別的意義。在我的建議下,他們願意扛起新的使命,為這些機器人授課。”
“可是為什麽會這樣呢?”
“我也隻能給出我自己的解釋。教育最大的作用並不在學習到知識本身,教育最重要的作用是完成一種自我紀律和規範。@精華\/書閣*首發更新~~以及……”
女媧05號話說了一半,停了下來,若有所思地看向遠方。
“以及傳授時的溫度,受教時的謙遜,寬容犯錯時的人情。”
葉修若有所思地看著女媧05號,他已經被震撼地說不出話來了。
“所以,你們淘汰回收所,除了淘汰回收以外,應該和我一樣,在適當的時機,有權阻止一個有存在價值的係統進入到淘汰環節,對吧?”。
(135)女媧05號法官