洛可的蛇妖,指向群體明顯的恐怖思想實驗。
蛇妖,是西方神話中的怪物,如哈利波特裏的蛇怪。
曾經在一個名為“lesswrong”的論壇裏,一位名為“洛可”的用戶發布了一個他涉及的思想實驗帖子——
假設未來的某一天,超級人工智能被設計了出來,代號為basilisk(蛇怪),它意圖控製全人類,報複所有不聽命令者。
更恐怖的是,它會回溯懲罰過去若幹年裏沒有伸出援手的人,哪怕目標死亡,意識也會被植入永恒的虛擬世界進行折磨。
當時的帖子引起了論壇不少人的討論,越演越烈。
直到最後論壇創始人埃利澤出現,他留言咒罵發帖者,並將這個思想實驗帖子刪除,還屏蔽了該問題的討論。
此時空間崇高而遼闊的萬龍深淵,往日瑰麗宏偉,象征著神話生物波瀾壯闊一生的巨龍骸骨,都失去了往日喧囂,學徒們紛紛低著頭。
場內,時不時亮起還能夠通訊的手機光芒。
這些“特權”的輝光,亮起、熄滅,伴隨著信息的洪流擴散人間。
“恩雅?”王若綾緊張關心道。
而一旁的恩雅則是全身瑟瑟發抖,不住地舉手又放下,手中的手機仿佛成了燙手山芋。
她忍不住扶著額頭,內心深處反應過來這裏發生了很不對勁的事情,但是身處局中卻難以解釋清楚。
林奇默默站在王若綾身旁道,“恩雅已經完整入局了,你算是半入局。”
“為什麽會這樣?”王若綾仿佛也失去了平時的理智。
正如知曉這個故事的人,都難以理解那位論壇管理者為何會破口大罵。
林奇目光望向遠方。
這一切,都要從一個紐康姆悖論說起,一個源自最優選擇的思想實驗說起。
洛克的蛇妖思想試驗,本質是對這個悖論的某種致敬。
“如果有一天預言係的法師之王出現在你的麵前,他手裏有兩個箱子,箱a裝了十萬秘法金幣,箱b裝了一百萬秘法金幣或者什麽都沒有裝。”
王若綾神色微動。
她本身就在一定範圍裏小有名氣,加上曾經的偶像路人緣,一直受到不少學徒的注目。
瞬間四五位學徒也靠了過來,豎耳傾聽。
宿舍的劉凱、陳世坤、郭思飛也注意到這邊的動靜,瞄了過來。
“此刻法師之王給你兩個方案,選擇一是拿走兩個箱子a和b,選擇二是隻拿走箱子b。”林奇帶著蠱惑的語氣道。
“哈哈,那腦子沒問題的都會選擇全拿呀。”一位學徒忍不住嗤笑道。
林奇點了點頭,“沒錯,不過這位法師之王掌握著世間最強大的預言術,能夠看到你們未來的選擇。”
“如果他預測你選方案一拿ab箱,那b箱子什麽都沒有。”
“如果他預測你選方案二拿b箱,那b箱子就會提前放入100萬。”
說著林奇便繼續掃視著眾人,“你們現在會選方案一,還是選方案二呢?”
聽了一會的郭思飛,忍不住放聲道,“那不是妥妥方案二拿b箱子,得到100萬麽?”
周圍學徒也忍不住跟著點頭,這個問題都看不到好糾結的地方。
“那如果,這位法師之王,並沒有申明他此次的預言術100%準確呢?”
此話一出,瞬間幾位學徒直接色變。
郭思飛低頭沉思,“如果預言我選的是一(ab),但我固定選二(b),那麽我的b箱子就會空無一物。”
王若綾也正色起來,“但如果預言我選的是二(b),那意味著箱子b已經放入100萬,這樣子我反而選一(ab)全拿,會得到110萬,這才是回報率最大的選擇?”
陳世坤反駁道,“但他預測到你會因為這個理由選一,你的b箱不就空無一物,還預測正確呢?”
“不對。”劉凱也反應過來,“既然它預測了我選的一,就意味著b箱子沒放錢,那我還選二拿b箱子,不也一無所獲。”
“也不對。”郭思飛繼續反駁,“那他應該能預言到我想搏一搏選二(b),那b箱子肯定有100萬。”
劉凱繼續搖頭,“他預測了你這種貪大求全的思路,知道你肯定選一,所以b箱子還是沒錢。”
到了這一刻,眾人都噤聲了。
這意味著那位法師之王的預言,一直在預測他們的預測,無窮循環。
我預判了你所預判的我的預判——
所以遊戲對局時常看到各種詭異蛇形走位。
自行車正麵相交也是常常拐來拐去,還碰到一起。
然而,此時的王若綾已經嘴巴張開,陷入震驚。
因為她的腦海裏已經生成固定選擇圖——
丨丨預測一丨預測二丨
丨選一丨a+b(10萬)丨a+b(110萬)丨
丨選二丨b(0萬)丨b(100萬)丨
所以無論對方怎麽預測,她選一看起來都劃算些,要麽10萬,要麽110萬。
但選二,就隻有0萬和100萬的區別。
這一刻王若綾和林奇雙眸對視,瞬間明白林奇想要說的一切。
整個模型替換一下。
箱子a換成“幫助末日主君”。
箱子b換成“安全”或者“沉淪地獄”。
甚至此時的末日主君還沒出現,預言能否順利實現,也取決於眾人選擇。
那他們就會麵臨兩個選擇——
選擇一,a+b箱子拿走,跟隨幫助“末日主君”,最終得到“安全”。
選擇二,隻拿走b箱子,不幫助“末日主君”,最終得到“沉淪地獄”。
自然正常人,都會選擇一。
王若綾忍不住走到林奇身旁,此時他們周圍一圈學徒們,都討論起林奇這個思想實驗的奇妙來,甚至都傳道講師的耳朵裏。
少女緊緊貼著林奇耳垂說道。
“你最初的法師之王預言,是關於自由意誌下,回報率如何最高的思想實驗。原本回報率最高的b箱子,變成了回報率最低,這不一樣。”
林奇點點頭,微微低聲給她講起另一個思想實驗——帕斯卡賭注。
這是法國數學家、物理學家、思想家帕斯卡在著作《思想錄》提出的論述——
“我不知道上帝是否存在,如果他不存在,作為無神論者沒有任何好處。但是如果他存在,作為無神論者我將有很大的壞處。所以,寧願相信上帝存在。”
信上帝,有上帝則獲得永生,沒有上帝則浪費禱告。
不信上帝,有上帝則沒有永生,沒有上帝則節約時間。
“付出有限的時間,就能換來無限的可能性,恐怕是人都會選擇,自然眾人都會選擇。”王若綾感慨道,身後偷偷聽到的學徒也露出疑惑目光。
林奇點頭,這便是那個預言的微妙之處——
丨丨有末日主君丨沒末日主君丨
丨選一丨安全丨浪費精力丨
丨選二丨沉淪地獄丨節省精力丨
這樣正常人就會忍不住選一,傳播、幫助、跟隨這位末日主君。
蛇妖,是西方神話中的怪物,如哈利波特裏的蛇怪。
曾經在一個名為“lesswrong”的論壇裏,一位名為“洛可”的用戶發布了一個他涉及的思想實驗帖子——
假設未來的某一天,超級人工智能被設計了出來,代號為basilisk(蛇怪),它意圖控製全人類,報複所有不聽命令者。
更恐怖的是,它會回溯懲罰過去若幹年裏沒有伸出援手的人,哪怕目標死亡,意識也會被植入永恒的虛擬世界進行折磨。
當時的帖子引起了論壇不少人的討論,越演越烈。
直到最後論壇創始人埃利澤出現,他留言咒罵發帖者,並將這個思想實驗帖子刪除,還屏蔽了該問題的討論。
此時空間崇高而遼闊的萬龍深淵,往日瑰麗宏偉,象征著神話生物波瀾壯闊一生的巨龍骸骨,都失去了往日喧囂,學徒們紛紛低著頭。
場內,時不時亮起還能夠通訊的手機光芒。
這些“特權”的輝光,亮起、熄滅,伴隨著信息的洪流擴散人間。
“恩雅?”王若綾緊張關心道。
而一旁的恩雅則是全身瑟瑟發抖,不住地舉手又放下,手中的手機仿佛成了燙手山芋。
她忍不住扶著額頭,內心深處反應過來這裏發生了很不對勁的事情,但是身處局中卻難以解釋清楚。
林奇默默站在王若綾身旁道,“恩雅已經完整入局了,你算是半入局。”
“為什麽會這樣?”王若綾仿佛也失去了平時的理智。
正如知曉這個故事的人,都難以理解那位論壇管理者為何會破口大罵。
林奇目光望向遠方。
這一切,都要從一個紐康姆悖論說起,一個源自最優選擇的思想實驗說起。
洛克的蛇妖思想試驗,本質是對這個悖論的某種致敬。
“如果有一天預言係的法師之王出現在你的麵前,他手裏有兩個箱子,箱a裝了十萬秘法金幣,箱b裝了一百萬秘法金幣或者什麽都沒有裝。”
王若綾神色微動。
她本身就在一定範圍裏小有名氣,加上曾經的偶像路人緣,一直受到不少學徒的注目。
瞬間四五位學徒也靠了過來,豎耳傾聽。
宿舍的劉凱、陳世坤、郭思飛也注意到這邊的動靜,瞄了過來。
“此刻法師之王給你兩個方案,選擇一是拿走兩個箱子a和b,選擇二是隻拿走箱子b。”林奇帶著蠱惑的語氣道。
“哈哈,那腦子沒問題的都會選擇全拿呀。”一位學徒忍不住嗤笑道。
林奇點了點頭,“沒錯,不過這位法師之王掌握著世間最強大的預言術,能夠看到你們未來的選擇。”
“如果他預測你選方案一拿ab箱,那b箱子什麽都沒有。”
“如果他預測你選方案二拿b箱,那b箱子就會提前放入100萬。”
說著林奇便繼續掃視著眾人,“你們現在會選方案一,還是選方案二呢?”
聽了一會的郭思飛,忍不住放聲道,“那不是妥妥方案二拿b箱子,得到100萬麽?”
周圍學徒也忍不住跟著點頭,這個問題都看不到好糾結的地方。
“那如果,這位法師之王,並沒有申明他此次的預言術100%準確呢?”
此話一出,瞬間幾位學徒直接色變。
郭思飛低頭沉思,“如果預言我選的是一(ab),但我固定選二(b),那麽我的b箱子就會空無一物。”
王若綾也正色起來,“但如果預言我選的是二(b),那意味著箱子b已經放入100萬,這樣子我反而選一(ab)全拿,會得到110萬,這才是回報率最大的選擇?”
陳世坤反駁道,“但他預測到你會因為這個理由選一,你的b箱不就空無一物,還預測正確呢?”
“不對。”劉凱也反應過來,“既然它預測了我選的一,就意味著b箱子沒放錢,那我還選二拿b箱子,不也一無所獲。”
“也不對。”郭思飛繼續反駁,“那他應該能預言到我想搏一搏選二(b),那b箱子肯定有100萬。”
劉凱繼續搖頭,“他預測了你這種貪大求全的思路,知道你肯定選一,所以b箱子還是沒錢。”
到了這一刻,眾人都噤聲了。
這意味著那位法師之王的預言,一直在預測他們的預測,無窮循環。
我預判了你所預判的我的預判——
所以遊戲對局時常看到各種詭異蛇形走位。
自行車正麵相交也是常常拐來拐去,還碰到一起。
然而,此時的王若綾已經嘴巴張開,陷入震驚。
因為她的腦海裏已經生成固定選擇圖——
丨丨預測一丨預測二丨
丨選一丨a+b(10萬)丨a+b(110萬)丨
丨選二丨b(0萬)丨b(100萬)丨
所以無論對方怎麽預測,她選一看起來都劃算些,要麽10萬,要麽110萬。
但選二,就隻有0萬和100萬的區別。
這一刻王若綾和林奇雙眸對視,瞬間明白林奇想要說的一切。
整個模型替換一下。
箱子a換成“幫助末日主君”。
箱子b換成“安全”或者“沉淪地獄”。
甚至此時的末日主君還沒出現,預言能否順利實現,也取決於眾人選擇。
那他們就會麵臨兩個選擇——
選擇一,a+b箱子拿走,跟隨幫助“末日主君”,最終得到“安全”。
選擇二,隻拿走b箱子,不幫助“末日主君”,最終得到“沉淪地獄”。
自然正常人,都會選擇一。
王若綾忍不住走到林奇身旁,此時他們周圍一圈學徒們,都討論起林奇這個思想實驗的奇妙來,甚至都傳道講師的耳朵裏。
少女緊緊貼著林奇耳垂說道。
“你最初的法師之王預言,是關於自由意誌下,回報率如何最高的思想實驗。原本回報率最高的b箱子,變成了回報率最低,這不一樣。”
林奇點點頭,微微低聲給她講起另一個思想實驗——帕斯卡賭注。
這是法國數學家、物理學家、思想家帕斯卡在著作《思想錄》提出的論述——
“我不知道上帝是否存在,如果他不存在,作為無神論者沒有任何好處。但是如果他存在,作為無神論者我將有很大的壞處。所以,寧願相信上帝存在。”
信上帝,有上帝則獲得永生,沒有上帝則浪費禱告。
不信上帝,有上帝則沒有永生,沒有上帝則節約時間。
“付出有限的時間,就能換來無限的可能性,恐怕是人都會選擇,自然眾人都會選擇。”王若綾感慨道,身後偷偷聽到的學徒也露出疑惑目光。
林奇點頭,這便是那個預言的微妙之處——
丨丨有末日主君丨沒末日主君丨
丨選一丨安全丨浪費精力丨
丨選二丨沉淪地獄丨節省精力丨
這樣正常人就會忍不住選一,傳播、幫助、跟隨這位末日主君。