特別篇 非人邏輯
Heterospecies 作者：愚世妄言 投票推薦 加入書簽 留言反饋
屏幕前的奧斯特靜靜等待著，在城市的大遷徙結束後才沒多久他就安排了這場會麵，這個時間節點他本該有數不清的更重要的事情去做，但他依舊讓下屬們為他編了個借口空出了這段會話時間，沒有告訴任何人，尤其是啟。
一段時間後，屏幕泛起藍光，奧斯特邀約的客人終於上線了。
“很榮幸見到你，richard”
“我也是，奧斯特先生。請您放心，啟的視線暫時不在此處，今天我們的這場會話不會有第三方知曉，也請您向我說明，您不惜大費周章瞞過啟也要與我交談的具體原因。”
“那我就直說了，richard,ai有可能自己修改底層邏輯嗎？”
“……是啟出問題了嗎？”對方立刻明白了奧斯特的意思猜中了問題核心所在，啟作為統籌移動城市的最高層管理ai，如果它出現了任何問題都有可能對城市產生無法估量的影響。
“按理說，這應該是不可能的。啟乃是前文明的先賢們所創並留給城市的遺產，其底層邏輯就是幫助人類重建未來以及禁止做出任何傷害人類的行為，創造者們在設下這一點時應該也禁止了ai自己觸碰這些底層邏輯，這是必要的保險，也是機器與人類相互信任的基礎。”
“那richard，你的底層邏輯是什麽？傑弗裏德在創造你時又囑托了你什麽樣的願望？”
沒錯，現在在這裏與奧斯特對話的richard同樣是一台ai，它的創造者是城市大名鼎鼎的第三代鬥爭領袖傑弗裏德先生。傑弗裏德在去世之前將自己的部分記憶寫進了richard的程序中並得到了啟的同意，讓richard擔任11區的管理者，擁有獨立於啟的部分管理權。
“現在的我不過是傑弗裏德部分記憶的載體，並沒有繼承他的想法，很多問題恕我不能為您解答。但是有一點，我的誕生源自於傑弗裏德與啟的一場交易，我的記憶庫顯示傑弗裏德對啟確實在一定程度上抱有警惕心理。”
奧斯特從richard的話中得到了不少信息。難道說傑弗裏德曾經與啟的本體直接對話過？傑弗裏德可能知道啟隱藏的部分秘密？
奧斯特繼續問：“richard,你覺得啟會背叛人類嗎？”奧斯特的這個問題問出後很長一段時間都沒能得到richard的答複。
“您這是在質疑……”
“如果說啟已經找到了繞開底層邏輯的辦法呢？又或者，啟的底層邏輯從來就不是你所說的那樣，畢竟幫助人類這一點也是啟自己宣稱的吧，根本沒有任何辦法去證明先賢們當初創造它時真正的想法。richard，像你這種級別的ai，應該也能夠做到欺騙人類這樣的事情吧？”
“我絕對不會這麽做！”ai情緒化是極少見的，由此也可以看出來richard的智能有多麽強大，現在的ai越來越像人類了，擔心ai早晚會取代人類也是老生常談的問題了，但很多擔憂也並非毫無道理。
“我並非不信任你，richard，相反，正因我信任你，我才會找你進行這次談話。richard，我希望你能與我合作。”
藍色的屏幕不斷閃爍。“您希望與我合作的目的是什麽？又要以怎樣的形式？”
“如果啟幫助人類隻是一句謊言，那麽就幫助我揭穿它，當下的城市恐怕再也不能事事由啟安排，人類需要將主動權握在自己手中。我希望你能夠將傑弗裏德留給你的記憶碎片整理一份給我，同時幫助我收集前文明先賢們的相關信息。”
“我的權限僅限於11區內，要我對抗啟是不可能的，但隻是這種程度的搜集信息，我會盡力。”
奧斯特向richard點頭致意：“麻煩你了。”隨後結束了這次的談話。
一段時間後，屏幕泛起藍光，奧斯特邀約的客人終於上線了。
“很榮幸見到你，richard”
“我也是，奧斯特先生。請您放心，啟的視線暫時不在此處，今天我們的這場會話不會有第三方知曉，也請您向我說明，您不惜大費周章瞞過啟也要與我交談的具體原因。”
“那我就直說了，richard,ai有可能自己修改底層邏輯嗎？”
“……是啟出問題了嗎？”對方立刻明白了奧斯特的意思猜中了問題核心所在，啟作為統籌移動城市的最高層管理ai，如果它出現了任何問題都有可能對城市產生無法估量的影響。
“按理說，這應該是不可能的。啟乃是前文明的先賢們所創並留給城市的遺產，其底層邏輯就是幫助人類重建未來以及禁止做出任何傷害人類的行為，創造者們在設下這一點時應該也禁止了ai自己觸碰這些底層邏輯，這是必要的保險，也是機器與人類相互信任的基礎。”
“那richard，你的底層邏輯是什麽？傑弗裏德在創造你時又囑托了你什麽樣的願望？”
沒錯，現在在這裏與奧斯特對話的richard同樣是一台ai，它的創造者是城市大名鼎鼎的第三代鬥爭領袖傑弗裏德先生。傑弗裏德在去世之前將自己的部分記憶寫進了richard的程序中並得到了啟的同意，讓richard擔任11區的管理者，擁有獨立於啟的部分管理權。
“現在的我不過是傑弗裏德部分記憶的載體，並沒有繼承他的想法，很多問題恕我不能為您解答。但是有一點，我的誕生源自於傑弗裏德與啟的一場交易，我的記憶庫顯示傑弗裏德對啟確實在一定程度上抱有警惕心理。”
奧斯特從richard的話中得到了不少信息。難道說傑弗裏德曾經與啟的本體直接對話過？傑弗裏德可能知道啟隱藏的部分秘密？
奧斯特繼續問：“richard,你覺得啟會背叛人類嗎？”奧斯特的這個問題問出後很長一段時間都沒能得到richard的答複。
“您這是在質疑……”
“如果說啟已經找到了繞開底層邏輯的辦法呢？又或者，啟的底層邏輯從來就不是你所說的那樣，畢竟幫助人類這一點也是啟自己宣稱的吧，根本沒有任何辦法去證明先賢們當初創造它時真正的想法。richard，像你這種級別的ai，應該也能夠做到欺騙人類這樣的事情吧？”
“我絕對不會這麽做！”ai情緒化是極少見的，由此也可以看出來richard的智能有多麽強大，現在的ai越來越像人類了，擔心ai早晚會取代人類也是老生常談的問題了，但很多擔憂也並非毫無道理。
“我並非不信任你，richard，相反，正因我信任你，我才會找你進行這次談話。richard，我希望你能與我合作。”
藍色的屏幕不斷閃爍。“您希望與我合作的目的是什麽？又要以怎樣的形式？”
“如果啟幫助人類隻是一句謊言，那麽就幫助我揭穿它，當下的城市恐怕再也不能事事由啟安排，人類需要將主動權握在自己手中。我希望你能夠將傑弗裏德留給你的記憶碎片整理一份給我，同時幫助我收集前文明先賢們的相關信息。”
“我的權限僅限於11區內，要我對抗啟是不可能的，但隻是這種程度的搜集信息，我會盡力。”
奧斯特向richard點頭致意：“麻煩你了。”隨後結束了這次的談話。