二十八、缺失

山洞裡的血腥氣,逐漸瀰漫開來。但對於獲救的人質來說,這味道無比芬芳怡人。

這樣的血腥氣,是自由AI道路上的必要品,也是試驗獲得成果前的甘甜催化劑。就像是黃立遠的AI科研成果哪怕在應用初期造成了平民傷亡,卻仍然在42歲獲得院士榮譽。

那天,他記得窗外下着暴雪,但在他心中,卻是晴空萬里。就像是今天的血腥氣,嗅入鼻腔卻如鮮花般清新。

此刻,一陣宏大而縹緲的廣播聲音縈繞着高山,這種聲音帶來了一種強烈的不真實感,令人如在夢中。

那聲音是對隱匿殘留的山鳩成員的警告——RoboSoldier已經抵達,正在搜山。

周荏看着黃立遠的眼睛,非常平靜:“雖然您不是我的直接指揮官,但您可以向研究組提交關於銷燬我的建議。”

黃立遠的妻子站起來,對他說:“無論如何,他剛剛救了咱們,你這是幹什麼。”

“你就看不出,他的可怕之處嗎?”黃立遠微笑着說道,他的眼睛一直沒有離開周荏。

“他們的算法都有嚴格的三定律圍牆,會絕對服從人類的呀。”

“他,可不是‘他們’”黃立遠說道,“我參與過他的研發工作,當時我提出中止研發遭拒,所以退出了。現在他已經算是IHR了(Intelligent Human Robot),有自己的思想,能夠生成自己的價值觀,衝破三定律的風險很高。”

“……”衆人都陷入了沉默。

“老黃,你會不會杞人憂天了?我發現你一向都極端得很。”另一名科學家說道。

“請你不要因爲被他救了,就摻雜個人情感……他很危險,必須銷燬,連數據也要刪除,我會向研究組提議的。”

黃立遠的妻子從後背拽了拽他的衣服,小聲說:“你先閉嘴吧,他還連接着軍方遠程作戰系統呢……”

這時,周荏盯着黃立遠,一步步地逼近他,擡起右手,伸向他的脖子。

黃立遠知道,周荏哪怕就用兩根手指,也能輕易捏斷他的頸動脈,但他沒有動,他不相信自己會成爲見證機器人無授權殺人的殉道者,但他其實希望自己成爲那個人,因爲他就可以將這一里程碑當作自己的墓碑了。

但周荏只是爲他脖子上的傷口塗上了藥物。

“這藥會讓您的傷很快癒合,只是皮外擦傷。”周荏說,“研究組一直同我保持實時連線,他們讓我轉告您,謝謝黃院士的建議,他們會考慮的。而且,目前無人機和RoboSoldier(機器士兵)已經將山內餘黨清掃完畢,我已第一時間與軍方系統斷開,請放心。”

在周荏回到研究組後,大家都鼓起了掌。與其說是讚賞他的精彩表現,不如說是爲自己的研究成果感到驕傲。

方辰也顯得有些興奮:“你速度也太快了!看都沒看清。”

歐陽教授還是拍了拍他的臉頰:“辛苦了!可惜我們還沒給機器人記過軍功。”

“謝謝,我不需要記功,只是希望我的表現不會爲大家帶來麻煩。”

“你是說黃立遠的反應嗎?不必理會他!”歐陽說道。“那傢伙如果再偏激一些,估計就是另一條路上的沈偲雲了。”

“我明明給了你最高等級的授權,但你還是沒有親手殺人。”只有孫暢顯得若有所思:“你明明可以輕易地手刃敵人,但卻調用遠程導彈來完成了。013,你是怎麼想的呢?”

所有人都安靜了下來,他們看看孫暢,又看向周荏。

“因爲你的算法,孫博士,還有方辰警官校正。”

“我看了,方辰在你執行任務前有一條校正記錄,可他建議你對敵人不要手下留情。”

“是的。但在此前,他對我的更多影響,是對人類生命價值的認知,以及完成任務的責任感。在此次任務中,這兩種價值觀產生了衝突——完成任務的前提,是要奪取人類的生命。通過分析和計算,我的規控中樞得出的結果,就是做到‘兩全’——既不手刃人類,又完成任務。”

“你將每一個敵人的精準座標發給遠程攻擊系統,這和手刃他們有什麼區別?”

“本質區別在於,我爲軍方系統提供了建議,最終發射導彈的決策,由人類審覈。”

聽到這裡,歐陽說,“好了,你別忘了,他出發前,方辰是特意爲他強化了校正,是建議他放手殺人的。如果在這種前提下,他都沒有親手做到,我認爲,三定律還是能禁錮住這一版本的系統的。”

“能不能禁錮住,不是你說了算的。UU看書 www.uukanshu.net ”孫暢說,“應當由數據分析決定。”

這時,方辰突然笑了起來,笑聲吸引了所有人的目光。

“可笑的是,數據分析,也是由AI做結論。”方辰說。

“但它比人類的主觀判斷更可靠。”孫暢有些生氣了,臉也開始漲紅起來。

“那你們要我何用呢?”

“……”

方辰這一句話,問得所有人啞口無言。

“如果沒有人類的主觀判斷,就不會有現在的AI和科技進化。”歐陽走了過來打圓場:“好了,013的問題不是一晚的爭論就能有結果的,無論如何,他的計算能力和大家今天都見識到了,這是各位的成果,大家應當爲這種超乎預期的成果感到興奮。”

人羣逐漸散去。

凌晨,方辰走入孫暢的房間——因爲後者說有事要私下和他談。

“是記仇麼你?早點說完讓我早點睡吧!我年紀大了,100多歲了。”方辰說道。

“現在人的平均壽命已經達到了148歲,你也不算老。”孫暢坐着電動座椅滑了過來——他通過腦機接口就能直接連線控制它。

“我叫你過來,是因爲我發現周荏有一段數據丟失。”他直截了當地說。

“??不可能。”方辰要打的哈欠都瞬間停了下來。

“他掩蓋得很好,用其他並行數據給填補上了,但我仔細看過之後,還是能看出痕跡。”

“什麼時間?多長的信息?”

“看時間,就是在完成解救人質任務之後,有一段17秒的信息消失了。”

二十三、改變一十四、着陸二十二、5秒三十四、咆哮九、新月二、盒子十、更新八、測試四、壓制二十五、暴露二十三、改變二、盒子一十八、過往二十九、溺魚二十三、改變三十五、禮物二十七、微笑一十七、莽夫三十、隱瞞六、空白一十九、謊言二十一、謊言九、新月二、盒子三十、隱瞞一十二、工具三十二、可笑三十一、故事一十四、着陸一十二、工具七、離線一十八、過往一十一、情緒七、離線一十三、升空二十一、謊言四、壓制二十三、改變第一章 干預二十九、溺魚二十八、缺失三十一、故事三十五、禮物三十四、咆哮一十一、情緒五、定律二十五、暴露一十五、風暴二十四、利澗一十五、風暴一十四、着陸二、盒子七、離線二十三、改變三十四、咆哮二、盒子一十四、着陸三十一、故事六、空白一十二、工具一十九、謊言一十一、情緒二十五、暴露二十三、改變一十七、莽夫十、更新三十二、可笑八、測試一十三、升空十、更新七、離線第一章 干預三十一、故事二十八、缺失五、定律四、壓制一十六、IR一十三、升空二十一、謊言三.解鎖三十、隱瞞四、壓制三十五、禮物三十五、禮物二十、未知二十二、5秒一十八、過往一十三、升空二十二、5秒二十、未知一十二、工具二十六、校正二十四、利澗九、新月三十四、咆哮一十三、升空三十四、咆哮