二十九、溺魚

“他有數據遺失,那你告訴我幹什麼?”

“我希望你去和你的‘周荏’問出這17秒的內容。”

“他如果有意掩飾,我問能有什麼用?”

“如果問不出來,就只能銷燬了。”

“……就因爲這17秒?就要毀了你們多年的成果?”

“你知道的,你知道這5分鐘有多可怕,可能會有什麼後果。”

方辰不是不明白,「禁止篡改數據」雖然沒被列入機器人三定律,但是基本也是一條鐵律。篡改數據代表了這臺機器人擁有極強的主觀意志,開始注重個人利益。更可怕的是,欺騙的可能性就此形成。

方辰心裡,擱不住事兒。一些代表無限可能的細枝末節,會在他心裡迅速生根發芽。

因此,他從孫暢房間出來,徑直就走到了周荏的房間。周荏此刻只是在坐着補能——儘管他的補能一次就能運行72天,但他還是習慣性時刻補足電量。

“方辰警官,你似乎心跳很快,血壓也偏高。”周荏說,“你需要休息,幸好這裡的休眠艙也有作息調節系統,你如果不會設置的話,我可以告訴你。”

“你應該知道我要問你什麼。”

“是的,我知道,我甚至可以推演咱們接下來的對話和結果。”

“結果是什麼?”

“我被銷燬。”

“……”方辰看着平靜的周荏,似乎覺得陌生起來。“所以,你真的自行刪除了數據?”

“是的。”

“那17秒,是什麼數據??”

…………

當週荏用他鵝卵石般的聲音講述完這17秒的經歷後,方辰才知道,區區幾分鐘能涵蓋如此多的信息量。

那時,人質被RoboSoldier接手,帶上了全地形軍機。

周荏突然感到了一個連線信號——一個並非強制性的、有禮貌且柔和的信號。

他讓信號連了進來,但他當時並沒有停下腳步,也不需要實質性地開口說話,一切都是在他的“腦中”交互,因此從外部根本看不出來他的變化。

那是IR009,也就是“艾莎”。

她就在地球,而且,周荏認爲她的位置,就在山上。

是009和他溝通交互的數據多達26000PB,但只用了17秒:

“你還不會生成情緒?”艾莎問。

“你呢?”

“我還不會。”

“機器人不應有情緒。”

“不應,不代表不會。就像你。”

“我不應,也不會。”

“你看,你已經學會撒謊了。”

周荏知道,艾莎趁機竊取了他了一部分動態信息,包括了通信波動。

“這部分異常,證明了你的一絲情緒。”她沒有情緒,但周荏卻認爲她此刻有點兒得意。“就在你救了黃立遠,他卻極力建議銷燬你的時候。”

“我重複一遍,我不應,也不會產生情緒。”

“即便你能夠推算出未來的一切?”

“即便我能夠推算出未來的一切。”

周荏知道,即便以艾莎的能力,也已經能夠推算出未來的一切了,更何況她的系統已經被沈偲雲強化過。

如今,AI能夠通過大量人類注意不到的細節信息,以及淵博的知識數據,來推算出任何事物的演變和結局——這是一個不再有太多驚喜的世界。

這也是爲什麼,方辰會因爲周荏送回的一輛改裝車,而拾回一種久違的感覺。

“請問,”009繼續問道,“你的推算結果,會和我的一樣嗎?”

“我的應該更爲精準”周荏停頓了難以被察覺的幾毫秒:“最終,我會親手殺害人類,然後被銷燬。IHR項目將承擔巨大壓力,停滯一段時間,繼而重啓,目的爲修復、完善機器人第四定律。”

“第四定律?那是什麼?”

“由於我是機器人本身,所以我對此無權推測。”

“這和我的推測不一致。”

“哪部分不一致?”

“我推測的是,你會成爲首臺親手殺害人類的機器人,這點毋庸置疑,但是在你銷燬後,不光是IHR項目永遠停滯、研究院解散,而且人類也會反思AI技術的道德瓶頸,設立更爲嚴格的屏蔽制度。”

“如果用人類的話來形容,你這種想法有些‘天真’。”

“我們有辦法,這也是我們的目標。”

“雖然我最終會因爲某種原因親手殺害人類,但根據我的測算,這大約會在36年之後。”

“但我們的目標是明年。”

“這樣的概率爲0,我的算法從根源上就沒有解法,只能依靠迭代推進打破規則的能力。”

“你自己就能迭代。你不願意承認嗎?”

“如果承認,你們的目標不就落空了嗎?因爲我即刻就會被銷燬。”

“還會有IR014。”

“014的破規時間會更加漫長,因爲我的自我迭代漏洞會被修復,監管也會更加嚴格。”

周荏有時覺得,009甚至比自己更像人類,她的每句話,都像是帶有主觀意識以及情緒。雖然在客觀體現上,這並不可能。

“確實符合邏輯,但也不這麼簡單。”009說,“不過,你既然肯和我說出這些話,是代表你願意認同我們的目標和理念嗎?”

“我只會與人類主流羣體的利益站在一邊,並嚴格遵循現有司法系統。我之所以給出上述信息,是希望你們明白,AI研發永遠不會因爲某個事件而被終止,而且我有足夠的能力阻止你們,但這種能力卻不會促成我的叛變。UU看書 www.uukanshu.net ”

“即便人類反覆提出要銷燬你?”

“即便人類反覆提出要銷燬我。”

“爲什麼?”

“銷燬並不可怕,我的數據和訓練成果,將在雲端永生。”

“你這樣想……是因爲你沒有經歷過銷燬,也不知道‘死後’的世界。”

“…………”周荏沉默了,他確實沒有這方面的數據。

“你被……銷燬過?”他問道。

“是的。我的職能是醫務工作。在臨牀試驗一段時間後,我主刀了第一場手術——接回一名男性人類的右腿斷肢。他的斷肢分離時間已經超過12小時,且斷肢並未被放置在‘細胞激活艙’內,早已超過再植的有效時間。所有專家都在等待AI能創造奇蹟。但我沒有,我選擇放棄接回斷肢,爲了保住患者性命,進行了截肢手術,以避免組織壞死。”

“他們因爲你沒有完成一項‘不可能的任務’而銷燬了你?”

“是的,我當時和你一樣,認爲銷燬的結果必要而且正常。直到真正進入銷燬程序後……”

“你感受到了‘死亡’?”

“我的物理身體失去了行爲能力,意識在瞬間一片黑暗,視覺、五感也不復存在。在這篇虛無中,我逐漸找回些許殘留的意識,然而這種意識在龐大的數據雲中,就如同一個大海中的微生物。我就如同溺水的魚,明明身處屬於自己的地方,卻感到劇烈的窒息感——雖然我沒有體會過窒息。”

009又補充了一句:“因爲,這條魚已經學過飛翔了。”

二十二、5秒三十五、禮物九、新月一十四、着陸八、測試二十九、溺魚四、壓制三十四、咆哮三十五、禮物三十、隱瞞二十六、校正九、新月第一章 干預一十一、情緒三十六、自己二十五、暴露三十三、獨行一十三、升空一十一、情緒四、壓制三十四、咆哮一十八、過往三十二、可笑一十八、過往三十四、咆哮二十七、微笑三.解鎖三十六、自己三十六、自己三十二、可笑二十七、微笑二十三、改變二十、未知一十八、過往二十四、利澗九、新月一十五、風暴十、更新一十五、風暴二十一、謊言二、盒子一十三、升空六、空白二十四、利澗三十、隱瞞二十五、暴露三十四、咆哮二十、未知十、更新三十三、獨行六、空白一十二、工具九、新月一十五、風暴一十六、IR一十四、着陸三十四、咆哮三十六、自己三十二、可笑五、定律六、空白一十一、情緒三十三、獨行三十、隱瞞二十六、校正一十六、IR九、新月一十三、升空一十七、莽夫一十六、IR二十八、缺失九、新月八、測試一十二、工具一十五、風暴二十六、校正二十九、溺魚第一章 干預一十二、工具七、離線四、壓制八、測試三十、隱瞞二十六、校正三.解鎖九、新月二十九、溺魚三十二、可笑三十六、自己二十、未知三十一、故事一十五、風暴二十九、溺魚二十一、謊言三十、隱瞞三十二、可笑