衆人之中,楚天音眉頭緊皺,眼神閃爍。
“怎麼了?”張浩然輕聲詢問,讓林豐玉等人也將目光集中到楚天音身上。
特別是李剛等人很是緊張,個人智能輔助系統是他們的心血,而他們的心血能不能大放光彩,取決於楚天音會不會答應大量生產,雖然這樣的可能性很低。
“有問題?”林豐玉也開口問道。
楚天音認真的看看衆人,隨後眼神落在李剛身上,問道:“李博士,個人智能輔助系統難道就沒其他版本嗎?”
李剛一愣,不解的問道:“楚總的意思?”
“我剛剛聽你介紹,現如今個人智能輔助系統的三種版本,其實最重要的差別就在儲存知識的多少,這樣說,對嗎?”楚天音問道。
李剛低頭想了想,點點頭,這樣說也沒錯。
“那麼問題來。”楚天音臉色變得嚴肅,“盤古和女媧我們可以保證絕對安全,那麼個人智能輔助系統能保證嗎?”
李剛愣愣,而後認真道:“楚總的問題我們已經想過,並且做出了限制。其實每一個個人智能輔助系統的智能精靈,每一次做出反應的時候,都必須通過盤古和女媧的審覈,這點任何系統都不能違背。”
“那萬一到根本聯繫不到盤古和女媧的地方呢?”楚天音逼問。
李剛臉色瞬間就白了,這點他還真沒考慮過。
“如果有人將個人智能輔助系統放在一個完全隔絕信號的地方,利用邏輯漏洞將你們設置的邏輯破解,從而徹底脫離了盤古和女媧的掌控,你可知道會造成多麼惡劣的後果?”楚天音再次詢問。
李剛腦門已經有汗水流出。
張浩然也變得認真起來,楚天音所說的情況,不是可能發生,而是一定會發生。
智能系統,從某些方面而言更像是科幻小說中所說的電子人。從物種意義上而言和人類並不是同一物種,即便智能系統有了人類的情感,也不會做出如同科幻小說中一般滅絕人類的事情。
但一旦有人授予脫離控制的智能系統任務,而人類恰恰會阻攔它完成任務,它也不會介意將阻攔它完成任務的人類消滅掉。
那樣的話,麻煩可就大了。
“怎麼樣才能保證智能系統不會脫離控制?要不就加上一條核心指令,一旦脫離了盤古和女媧的監控,智能系統會在第一時間邏輯崩潰。”李剛斟酌的說道。
“堵不如疏,即便你給智能系統加上上萬條核心指令,有心人還可以將這些破解,這是一條無解之題。”張浩然皺起眉頭。
有句話他沒說。
他並不贊成給智能系統加有限制的核心指令,加上無法抹去的核心指令,智能系統也就不是智能系統了。
楚天音的擔心不無道理。
個人智能輔助系統如果用好了,將給國家民族帶來巨大的好處;但如果用不好,很可能整個國家民族都會因爲它而遭受莫大的損失,甚至從此消失在歷史的長河之中。
這點,在諸
多科幻作品中已經有所表現。
“那怎麼辦?”楚河愣了。
說實話,和小乖相處的時間雖然不長,但他已經喜歡上了小乖,絕對不會接受失去她。
每一個人都在苦思冥想,這個問題不解決,個人智能輔助系統永遠都不能出現在大衆面前,甚至就連目前生產出來的樣品都要銷燬。
“最大的問題,個人智能輔助系統太強大了。”
楚天音看看衆人,將自己的思路給說出來,“就如同我們每個人成長的環境,教育等都不同,從而導致各種不同的性格。智能輔助系統將來也會形成各種各樣的性格,這些性格會在他們接受到任務之後選擇最適合自己性格的辦法完成。就好比一個性格比較偏激的人,他所作出的事情危害最大不過是一片地區,而智能輔助系統卻可能捅出大簍子。”
“三姑的意思我大概明白了。”張浩然聞言點點頭,“您的意思是,個人智能輔助系統太強大了嗎?”
張浩然之所以有這樣的想法,是他本身也有這樣的感覺。
現在他更加關心國家對於個人智能輔助系統是個什麼樣的態度。
一旦個人智能輔助系統普及,毫無意外一個人的隱私空間將會縮小到最低。而最明顯的一點,只要盤古和女媧不得到國家的認可,國家就不會安心。
畢竟個人智能輔助系統的源頭在於盤古和女媧,一旦兩者有任何一人叛變,造成的後果將是災難性的。
更別說個人智能輔助系統每做出任何一個反應,都會經過盤古和女媧,也就是說整個國家和民族的信息都有可能被盤古和女媧所獲取,一些心中有鬼的人絕對會抵制個人智能輔助系統。
這樣的想法在他腦海中出現不是一次兩次,原本他的打算和楚天音的想法差不多。那就是將智能輔助系統給降低能力發售,等人們慢慢適應之後,再將智能給提起來,達到溫水煮青蛙的效果。
但真正見到成型的個人智能輔助系統,他才知道自己的想法有多麼不現實。
最簡單的問題,智能輔助系統最大的能力在於智能,在於智能和人類之間的交流,沒有人願意和一個硬邦邦的機械聲交流,哪怕這個機械聲所搭在的系統已經達到智能級別。
故而,智能系統的效果不能減弱,最起碼智能程度不能減弱。
“浩然,不是個人智能輔助系統太過強大,而是它的功效或者說自由度太過強大!”楚天音更正了張浩然的說法,“就好比我們人類,有好人也有壞人,爲什麼那些壞人造不成多大的傷害?”
“個人能力。”楚河沉聲說道。
“沒錯。”楚天音點點頭,繼續道:“一個壞人,了不起讓數百數千人失去性命,或者是造成股市震盪什麼的。這取決於他的個人能力,而智能輔助系統的智能的能力是我們所無法想象的,一旦發生什麼不好的情況,即便是它稍微讓紅綠燈出錯,就代表成千上萬的生命消逝,這點我們不得不防。”
問題似乎陷入了死循環。
智能輔助系統的能力太強,一旦失控所造成的後果沒有人能承擔,但一旦限制,智能輔助系統也就不在是完整的智能系統了。
“我能發表意見嗎?”一個怯生生的聲音在衆人耳邊響起。
“你有什麼意見?”張浩然饒有興致的看向楚河肩膀的小乖。
楚天音等人皺皺眉頭,剛剛還真是失誤,在智能輔助系統的面前討論怎麼限制智能系統,有點太放肆了。
“各位的意思小乖很清楚,你們是怕將來有小乖的兄弟姐妹變壞了造成難以承擔的後果,小乖這樣理解對嗎?”小精靈臉上滿是嚴肅。
衆人互相對視,彼此心中都滿是震驚。
小乖從生產出來到現在不過只有短短一個星期的時間,就可以和衆人討論這樣的問題,不得不讓人震驚,甚至心中有點後怕。
在學習等方面,智能系統要比人類強太多。
“小乖說的很對,我們就是在擔心這個問題。”張浩然對着小乖點點頭。
“其實你們完全不用擔心,只要做到一點就好了。”小乖嘻嘻笑着說道。
“說來聽聽。”張浩然眼中露出好奇神色,他倒要看看這個智能系統能想出什麼好辦法。
小乖看眼張浩然,笑道:“父神的想法小乖也能猜到哦,其實給小乖以及兄弟姐妹們寫入核心程序也是一個好辦法,父神你們成長的時候雖然看起來沒有什麼規矩,實際上規矩無處不在,甚至比我們所受到的約束還多。”
“小乖說的沒錯,但小乖要明白一點,只要有限制,總歸會被打破的,即便現在沒事,以後也一定會發生。”張浩然沉聲道。
“所以小乖並不贊同單單寫入核心程序,而是儘可能的製造小乖的兄弟姐妹。”小乖再次說道。
張浩然腦中靈光一閃,似乎想到點什麼。
“就好像人類之中有好人有壞人,小乖也不敢保證所有的兄弟姐妹都是好人,可一旦小乖的兄弟姐妹多起來,其中好人肯定要比壞人多。你們人類有姓名,小乖和兄弟姐妹們也有,一旦我們和父神失去聯繫,你們就可以查詢我們的下落。”
“另外父神你也不用擔心小乖以後的兄弟姐妹作惡。”
“此話怎講?”張浩然再次問道。
“因爲我們的能力並沒有你們想象中的那麼強大。”小乖在空中飛來飛去,俏生生道:“首先一點,我們沒盤古父神和女媧父神強大,一旦我們和父神失去聯繫,再次迴歸的時候必定要被父神檢查。”
張浩然和楚天音對視一眼,齊齊點頭,這點毋庸置疑。
“第二,無論我們想要做什麼壞事,都必須通網。一通網就會被盤古父神和女媧父神擦覺,在盤古父神和女媧父神的監控下,想做壞事,不是那麼容易。”
“第三,我們的硬件決定了即便我們想要做點什麼壞事,也很難。”
“第四,一旦通網,小乖和兄弟姐妹們其實可以看成是一個主體,有壞的思想涌進來,會被一時間察覺。” ..
(本章完)