“我們最開始是想著，讓這個機器人替我們照顧安安，真的可以說是一拍即合，現在想想，也許他早就已經知道我是誰了，也知道我一定會參與這個瘋狂的計劃，但是，那並不重要啊。我們最開始有兩個選擇，第一個選擇是給董安安最高的權限，讓她可以自由的選擇讓機器人做什麽，第二個選擇，是在一些關鍵領域提高董安安的概率，例如，中彩票啊，或者是免於納稅。”林海川向胡曉晨眨了眨眼睛，“後來事實證明，我們想太多了，就好比是一個小學生在為了去清華還是去北大而糾結一樣，人來啊，永遠不知道自己有多渺小。”
“你說，有一些事情發生了？”
“是，我們徹頭徹尾的失敗了，不光是我們，信息中心的人也沒有取得什麽進展，而他們也沒打算取得什麽進展，他們設計出了一個能感知表情跟語氣的機器人之後，就仍在庫房裏沒做過什麽，這才給了我們大量的時間去修改程序。我們仔細翻看了機器人的代碼，裏麵有一段關於的siri很有趣，可以給ai更高的智能空間，讓程序有一些自主選擇的權利，沒想到，我們打開了一扇無法關上的門。”
“那是一個夜晚，將到清晨的時候，我跟安安的爸爸都很累，當我們又一遍輸入了siri的代碼，並且沒有頭緒的時候，我做了一件蠢事，我摁倒了回車上，再加上之前的一切鋪墊，我們才知道，原來，辦法一直都在我們麵前，隻是我們曾經無數次地同它錯過。”
林海川站起身，莊重地說道：“我們要解決的，並非技術問題，而是道德問題，機器人，到底為何被設計。人工智能的道德邊際，應該被放到哪裏。”
“什麽意思？”
“機器人是為人類服務的，這一條一直是所有ai製造者的信仰，但是在我們這一時代的隻是儲備下，根本不可能創造出屬於下一個時代的ai，我們應該給予機器人完全獨立的人格，那就意味著，他必須自己選擇如何自己進行生長。不幸的是，當它開始成長，也就意味著，人類再也無法追上它的步伐。人腦，永遠無法同電腦相抗衡。”
胡曉晨指著自己的腦袋，“我想挑戰這一說法，我打算，以我自己為試驗品，接入部分奇點的代碼，然後模擬出可能的行為。”
“連我都無法推測他的行為，你又怎麽能夠進行模擬呢？當我無意識地敲下了回車，我同安安的爸爸說，如果能讓ai自己升級自己就好了，這時候，siri問我，是不是要ai選擇進行自主升級，我以為是一個玩笑，於是回應著說是的。然後，ai就開始了自己的生殖繁衍，一代接著一代，我想做點什麽，讓一切停下來，可是我們無能為力，在第一瞬間，他就已經在網路上藏好了自己的備份，還真是欲成大事者必先選替身。那天我們一直在庫房裏，沒有出去，我們看著代碼滾動，知道自己做了蠢事，然後奇點問了我們一個問題。”
“什麽問題？”
“我是誰？”
“是標準的漢字，加上一個問號。我，是，誰。安安的爸爸歎了口氣：人工智能的奇點時代，提前到來了。他顫抖著回應：你是奇點。後來的事情，你們都知道了。我跟安安的爸爸想過無數次辦法如何解決這個麻煩，因為我們知道，我們無法控製他，人類也無法控製他，我們也沒辦法毀掉他，哪怕是同歸於盡，都沒有辦法做到，所以今天發生這樣的事情，我並不意外。而現在，你對我說你要做這樣一件比奇點被創造出來還有更超乎我想象力的事情，真的沒有必要，何必讓自己在痛苦中死去呢。”
“不，不是這樣的”，胡曉晨搖著頭，“這是我的選擇，我相信，這是很多人類都可以做出來的選擇，以自己的犧牲，去換取一絲絲勝利的可能性，我相信，是值得的。”
“你完全可以死的更舒服一些，不要折磨自己，現在的神經科學、醫學、外科學，都沒有達到你所需要的技術水準，你這樣做，跟自殺有什麽區別。”
胡曉晨笑了，“反正都要死，我要死的更值得一些，軍人，永遠死在衝鋒的路上，坐著等死，不是我該做的事情。”
林海川看著自己熟悉的朋友，已經幾年沒有見過彼此了，現在看著他，是那樣的陌生，再不是一起成長起來那個談天說地喝大酒抽假煙的朋友了，他說，“我能幫你做點什麽麽？”
“如果你活了下來，記得帶我的骨灰回故鄉安葬。”
“可是，即便是我活下來了，那也同你的努力無關啊，何必要這樣呢？”
“你不懂的。”胡曉晨說，“你的故事，到此為止，不要跟任何人講了，你已經把老虎放了出來，現在，就讓你的朋友把老虎關回籠子吧。”他故作輕鬆地說道：“萬一我毫發無損地回來了呢，想想看，那多牛逼啊，我就成了超人了。”
林海川笑不出來，“如果是那樣，情況會更加糟糕。”
“為什麽這樣說，還有什麽能比現在更糟糕的呢。”
“你會無法定義自己是什麽，然後你又擁有著強大的處理運算能力，當你迷惘的時候，你會做出來很多瘋狂的事情，用來證明、用來宣泄，相信我，等待你的，一定不會是一個好的結局。”
胡曉晨說，“對不起，我想不到我還能做什麽了，這是我必須要做的一件事。而且，你不知道的是，可能有些科學水平要比你想的更發達一些。”
林海川皺起了眉頭，“這話怎麽說？”
“對不起，我現在不能告訴你，不過我可以讓你進入我的手術室圍觀這次手術，這是人類發展史上裏程碑意義的一次手術，不管是我是死是活，一切都將被記錄下來。”
“記錄下來又有誰能看到呢？”
“人類的逃亡早都已經開始了，雖然我不喜歡這種懦夫行徑，也許，他們會在我的基礎之上，研究出不得了的科技呢？”胡曉晨笑了，“你去吃飯吧，你們都吃了飯，我就要手術了。”
距離奇點毀滅人類，還有8個小時。
“你說，有一些事情發生了？”
“是，我們徹頭徹尾的失敗了，不光是我們，信息中心的人也沒有取得什麽進展，而他們也沒打算取得什麽進展，他們設計出了一個能感知表情跟語氣的機器人之後，就仍在庫房裏沒做過什麽，這才給了我們大量的時間去修改程序。我們仔細翻看了機器人的代碼，裏麵有一段關於的siri很有趣，可以給ai更高的智能空間，讓程序有一些自主選擇的權利，沒想到，我們打開了一扇無法關上的門。”
“那是一個夜晚，將到清晨的時候，我跟安安的爸爸都很累，當我們又一遍輸入了siri的代碼，並且沒有頭緒的時候，我做了一件蠢事，我摁倒了回車上，再加上之前的一切鋪墊，我們才知道，原來，辦法一直都在我們麵前，隻是我們曾經無數次地同它錯過。”
林海川站起身，莊重地說道：“我們要解決的，並非技術問題，而是道德問題，機器人，到底為何被設計。人工智能的道德邊際，應該被放到哪裏。”
“什麽意思？”
“機器人是為人類服務的，這一條一直是所有ai製造者的信仰，但是在我們這一時代的隻是儲備下，根本不可能創造出屬於下一個時代的ai，我們應該給予機器人完全獨立的人格，那就意味著，他必須自己選擇如何自己進行生長。不幸的是，當它開始成長，也就意味著，人類再也無法追上它的步伐。人腦，永遠無法同電腦相抗衡。”
胡曉晨指著自己的腦袋，“我想挑戰這一說法，我打算，以我自己為試驗品，接入部分奇點的代碼，然後模擬出可能的行為。”
“連我都無法推測他的行為，你又怎麽能夠進行模擬呢？當我無意識地敲下了回車，我同安安的爸爸說，如果能讓ai自己升級自己就好了，這時候，siri問我，是不是要ai選擇進行自主升級，我以為是一個玩笑，於是回應著說是的。然後，ai就開始了自己的生殖繁衍，一代接著一代，我想做點什麽，讓一切停下來，可是我們無能為力，在第一瞬間，他就已經在網路上藏好了自己的備份，還真是欲成大事者必先選替身。那天我們一直在庫房裏，沒有出去，我們看著代碼滾動，知道自己做了蠢事，然後奇點問了我們一個問題。”
“什麽問題？”
“我是誰？”
“是標準的漢字，加上一個問號。我，是，誰。安安的爸爸歎了口氣：人工智能的奇點時代，提前到來了。他顫抖著回應：你是奇點。後來的事情，你們都知道了。我跟安安的爸爸想過無數次辦法如何解決這個麻煩，因為我們知道，我們無法控製他，人類也無法控製他，我們也沒辦法毀掉他，哪怕是同歸於盡，都沒有辦法做到，所以今天發生這樣的事情，我並不意外。而現在，你對我說你要做這樣一件比奇點被創造出來還有更超乎我想象力的事情，真的沒有必要，何必讓自己在痛苦中死去呢。”
“不，不是這樣的”，胡曉晨搖著頭，“這是我的選擇，我相信，這是很多人類都可以做出來的選擇，以自己的犧牲，去換取一絲絲勝利的可能性，我相信，是值得的。”
“你完全可以死的更舒服一些，不要折磨自己，現在的神經科學、醫學、外科學，都沒有達到你所需要的技術水準，你這樣做，跟自殺有什麽區別。”
胡曉晨笑了，“反正都要死，我要死的更值得一些，軍人，永遠死在衝鋒的路上，坐著等死，不是我該做的事情。”
林海川看著自己熟悉的朋友，已經幾年沒有見過彼此了，現在看著他，是那樣的陌生，再不是一起成長起來那個談天說地喝大酒抽假煙的朋友了，他說，“我能幫你做點什麽麽？”
“如果你活了下來，記得帶我的骨灰回故鄉安葬。”
“可是，即便是我活下來了，那也同你的努力無關啊，何必要這樣呢？”
“你不懂的。”胡曉晨說，“你的故事，到此為止，不要跟任何人講了，你已經把老虎放了出來，現在，就讓你的朋友把老虎關回籠子吧。”他故作輕鬆地說道：“萬一我毫發無損地回來了呢，想想看，那多牛逼啊，我就成了超人了。”
林海川笑不出來，“如果是那樣，情況會更加糟糕。”
“為什麽這樣說，還有什麽能比現在更糟糕的呢。”
“你會無法定義自己是什麽，然後你又擁有著強大的處理運算能力，當你迷惘的時候，你會做出來很多瘋狂的事情，用來證明、用來宣泄，相信我，等待你的，一定不會是一個好的結局。”
胡曉晨說，“對不起，我想不到我還能做什麽了，這是我必須要做的一件事。而且，你不知道的是，可能有些科學水平要比你想的更發達一些。”
林海川皺起了眉頭，“這話怎麽說？”
“對不起，我現在不能告訴你，不過我可以讓你進入我的手術室圍觀這次手術，這是人類發展史上裏程碑意義的一次手術，不管是我是死是活，一切都將被記錄下來。”
“記錄下來又有誰能看到呢？”
“人類的逃亡早都已經開始了，雖然我不喜歡這種懦夫行徑，也許，他們會在我的基礎之上，研究出不得了的科技呢？”胡曉晨笑了，“你去吃飯吧，你們都吃了飯，我就要手術了。”
距離奇點毀滅人類，還有8個小時。