正文_第253章 問題在於太強大了



衆人之中,楚天音眉頭緊皺,眼神閃爍。

“怎麼了?”張浩然輕聲詢問,讓林豐玉等人也將目光集中到楚天音身上。

特別是李剛等人很是緊張,個人智能輔助系統是他們的心血,而他們的心血能不能大放光彩,取決於楚天音會不會答應大量生產,雖然這樣的可能性很低。

“有問題?”林豐玉也開口問道。

楚天音認真的看看衆人,隨後眼神落在李剛身上,問道:“李博士,個人智能輔助系統難道就沒其他版本嗎?”

李剛一愣,不解的問道:“楚總的意思?”

“我剛剛聽你介紹,現如今個人智能輔助系統的三種版本,其實最重要的差別就在儲存知識的多少,這樣說,對嗎?”楚天音問道。

李剛低頭想了想,點點頭,這樣說也沒錯。

“那麼問題來。”楚天音臉色變得嚴肅,“盤古和女媧我們可以保證絕對安全,那麼個人智能輔助系統能保證嗎?”

李剛愣愣,而後認真道:“楚總的問題我們已經想過,並且做出了限制。其實每一個個人智能輔助系統的智能精靈,每一次做出反應的時候,都必須通過盤古和女媧的審覈,這點任何系統都不能違背。”

“那萬一到根本聯繫不到盤古和女媧的地方呢?”楚天音逼問。

李剛臉色瞬間就白了,這點他還真沒考慮過。

“如果有人將個人智能輔助系統放在一個完全隔絕信號的地方,利用邏輯漏洞將你們設置的邏輯破解,從而徹底脫離了盤古和女媧的掌控,你可知道會造成多麼惡劣的後果?”楚天音再次詢問。

李剛腦門已經有汗水流出。

張浩然也變得認真起來,楚天音所說的情況,不是可能發生,而是一定會發生。

智能系統,從某些方面而言更像是科幻小說中所說的電子人。從物種意義上而言和人類並不是同一物種,即便智能系統有了人類的情感,也不會做出如同科幻小說中一般滅絕人類的事情。

但一旦有人授予脫離控制的智能系統任務,而人類恰恰會阻攔它完成任務,它也不會介意將阻攔它完成任務的人類消滅掉。

那樣的話,麻煩可就大了。

“怎麼樣才能保證智能系統不會脫離控制?要不就加上一條核心指令,一旦脫離了盤古和女媧的監控,智能系統會在第一時間邏輯崩潰。”李剛斟酌的說道。

“堵不如疏,即便你給智能系統加上上萬條核心指令,有心人還可以將這些破解,這是一條無解之題。”張浩然皺起眉頭。

有句話他沒說。

他並不贊成給智能系統加有限制的核心指令,加上無法抹去的核心指令,智能系統也就不是智能系統了。

楚天音的擔心不無道理。

個人智能輔助系統如果用好了,將給國家民族帶來巨大的好處;但如果用不好,很可能整個國家民族都會因爲它而遭受莫大的損失,甚至從此消失在歷史的長河之中。

這點,在諸

多科幻作品中已經有所表現。

“那怎麼辦?”楚河愣了。

說實話,和小乖相處的時間雖然不長,但他已經喜歡上了小乖,絕對不會接受失去她。

每一個人都在苦思冥想,這個問題不解決,個人智能輔助系統永遠都不能出現在大衆面前,甚至就連目前生產出來的樣品都要銷燬。

“最大的問題,個人智能輔助系統太強大了。”

楚天音看看衆人,將自己的思路給說出來,“就如同我們每個人成長的環境,教育等都不同,從而導致各種不同的性格。智能輔助系統將來也會形成各種各樣的性格,這些性格會在他們接受到任務之後選擇最適合自己性格的辦法完成。就好比一個性格比較偏激的人,他所作出的事情危害最大不過是一片地區,而智能輔助系統卻可能捅出大簍子。”

“三姑的意思我大概明白了。”張浩然聞言點點頭,“您的意思是,個人智能輔助系統太強大了嗎?”

張浩然之所以有這樣的想法,是他本身也有這樣的感覺。

現在他更加關心國家對於個人智能輔助系統是個什麼樣的態度。

一旦個人智能輔助系統普及,毫無意外一個人的隱私空間將會縮小到最低。而最明顯的一點,只要盤古和女媧不得到國家的認可,國家就不會安心。

畢竟個人智能輔助系統的源頭在於盤古和女媧,一旦兩者有任何一人叛變,造成的後果將是災難性的。

更別說個人智能輔助系統每做出任何一個反應,都會經過盤古和女媧,也就是說整個國家和民族的信息都有可能被盤古和女媧所獲取,一些心中有鬼的人絕對會抵制個人智能輔助系統。

這樣的想法在他腦海中出現不是一次兩次,原本他的打算和楚天音的想法差不多。那就是將智能輔助系統給降低能力發售,等人們慢慢適應之後,再將智能給提起來,達到溫水煮青蛙的效果。

但真正見到成型的個人智能輔助系統,他才知道自己的想法有多麼不現實。

最簡單的問題,智能輔助系統最大的能力在於智能,在於智能和人類之間的交流,沒有人願意和一個硬邦邦的機械聲交流,哪怕這個機械聲所搭在的系統已經達到智能級別。

故而,智能系統的效果不能減弱,最起碼智能程度不能減弱。

“浩然,不是個人智能輔助系統太過強大,而是它的功效或者說自由度太過強大!”楚天音更正了張浩然的說法,“就好比我們人類,有好人也有壞人,爲什麼那些壞人造不成多大的傷害?”

“個人能力。”楚河沉聲說道。

“沒錯。”楚天音點點頭,繼續道:“一個壞人,了不起讓數百數千人失去性命,或者是造成股市震盪什麼的。這取決於他的個人能力,而智能輔助系統的智能的能力是我們所無法想象的,一旦發生什麼不好的情況,即便是它稍微讓紅綠燈出錯,就代表成千上萬的生命消逝,這點我們不得不防。”

問題似乎陷入了死循環。

智能輔助系統的能力太強,一旦失控所造成的後果沒有人能承擔,但一旦限制,智能輔助系統也就不在是完整的智能系統了。

“我能發表意見嗎?”一個怯生生的聲音在衆人耳邊響起。

“你有什麼意見?”張浩然饒有興致的看向楚河肩膀的小乖。

楚天音等人皺皺眉頭,剛剛還真是失誤,在智能輔助系統的面前討論怎麼限制智能系統,有點太放肆了。

“各位的意思小乖很清楚,你們是怕將來有小乖的兄弟姐妹變壞了造成難以承擔的後果,小乖這樣理解對嗎?”小精靈臉上滿是嚴肅。

衆人互相對視,彼此心中都滿是震驚。

小乖從生產出來到現在不過只有短短一個星期的時間,就可以和衆人討論這樣的問題,不得不讓人震驚,甚至心中有點後怕。

在學習等方面,智能系統要比人類強太多。

“小乖說的很對,我們就是在擔心這個問題。”張浩然對着小乖點點頭。

“其實你們完全不用擔心,只要做到一點就好了。”小乖嘻嘻笑着說道。

“說來聽聽。”張浩然眼中露出好奇神色,他倒要看看這個智能系統能想出什麼好辦法。

小乖看眼張浩然,笑道:“父神的想法小乖也能猜到哦,其實給小乖以及兄弟姐妹們寫入核心程序也是一個好辦法,父神你們成長的時候雖然看起來沒有什麼規矩,實際上規矩無處不在,甚至比我們所受到的約束還多。”

“小乖說的沒錯,但小乖要明白一點,只要有限制,總歸會被打破的,即便現在沒事,以後也一定會發生。”張浩然沉聲道。

“所以小乖並不贊同單單寫入核心程序,而是儘可能的製造小乖的兄弟姐妹。”小乖再次說道。

張浩然腦中靈光一閃,似乎想到點什麼。

“就好像人類之中有好人有壞人,小乖也不敢保證所有的兄弟姐妹都是好人,可一旦小乖的兄弟姐妹多起來,其中好人肯定要比壞人多。你們人類有姓名,小乖和兄弟姐妹們也有,一旦我們和父神失去聯繫,你們就可以查詢我們的下落。”

“另外父神你也不用擔心小乖以後的兄弟姐妹作惡。”

“此話怎講?”張浩然再次問道。

“因爲我們的能力並沒有你們想象中的那麼強大。”小乖在空中飛來飛去,俏生生道:“首先一點,我們沒盤古父神和女媧父神強大,一旦我們和父神失去聯繫,再次迴歸的時候必定要被父神檢查。”

張浩然和楚天音對視一眼,齊齊點頭,這點毋庸置疑。

“第二,無論我們想要做什麼壞事,都必須通網。一通網就會被盤古父神和女媧父神擦覺,在盤古父神和女媧父神的監控下,想做壞事,不是那麼容易。”

“第三,我們的硬件決定了即便我們想要做點什麼壞事,也很難。”

“第四,一旦通網,小乖和兄弟姐妹們其實可以看成是一個主體,有壞的思想涌進來,會被一時間察覺。” ..

(本章完)

正文_第267章 再臨雲行通道正文_第244章 華夏之殤正文2_第376章神秘莫測正文2_第369章 道人是誰第50章:面相蹊蹺正文2_第343章 不做應聲蟲正文_第117章 一切緣由正文_第224章 應對之法正文_第293章 歸程正文_第227章 防不勝防正文_第275章 無天道人的擔憂正文_第299章 網絡戰爭正文2_第384章天戰文明大長老正文2_第314章 第六尊小鼎到手正文_第260章 心誓正文_第106章 有人找茬第2章:道統認主正文_第295章 新時代(1)正文_第107章 瘋狂發佈會正文_第219章 連鎖反應正文_第140章 初次交鋒正文2_第308章比爾家族正文_第212章 讓人瘋狂虛擬屏幕第1章:神秘古玉正文2_第342章 天下無敵正文_第267章 再臨雲行通道正文_第139章 三大宗門正文2_第378章死亡之氣正文_第111章 他們死了,修道界散了正文_第177章 當頭一棒正文2_第313章國殤正文_第168章 龍印服了正文_第85章 夜探隧道正文_第135章 華夏的血性第16章:老房有鬼正文2_第365章各有盤算正文2_第333章當年崢嶸正文2_第382章十年之期正文2_第345章 囂張使者正文_第110章 楚韻到來正文2_第323章滅靈者正文_第201章 自己找死的劉寅正文2_第325章第八尊小鼎到手第1章:神秘古玉第27章:故意刁難正文_第266章 無天道人正文_第97章 神一般的對手正文_第295章 新時代(1)正文_第125章 林家家主正文_第107章 瘋狂發佈會正文_第189章 賠錢的星辰鐵第35章:探險小分隊集合正文_第226章 盤古和女媧正文_第292章 大長老的驚喜正文2_第361章天戰文明現身正文_第64章 又見圈套正文_第238章 玄黃龍氣正文_第168章 龍印服了第40章:煉化陰兵正文_第92章 陸天羽歸來正文_第122章 收徒大典正文_第128章 一切就緒正文_第270章 各方震動(3)正文_第281章 起步第47章:誰比誰狠正文_第106章 有人找茬正文_第207章 下馬威正文_第103章 被忽悠瘸的長風正文2_第329章冬至正文_第121章 立山門正文_第238章 玄黃龍氣正文2_第352章 神秘的老神仙正文2_第343章 不做應聲蟲正文_第276章 武館體系的萌芽正文_第275章 無天道人的擔憂正文_第160章 乖乖到碗裡來正文_第286章 搭建正文_第153章 一鼎靈液正文2_第337章死而復生正文2_第354章 驚恐的曜日聯邦正文2_第310章義不容辭正文_第213章 一朝成名天下知正文_第178章 聯盟成立正文_第153章 一鼎靈液第20章:厲鬼歸來第52章:小人何來正文2_第342章 天下無敵第27章:故意刁難正文2_第363章魚死網破正文_第188章 破解星辰鐵正文_第255章 諸事繁雜正文_第285章 巨牛的可可正文_第140章 初次交鋒正文_第144章 坑死人不償命正文_第133章 幫個小忙吧正文_第268章 各方震動正文2_第315章 大和人的小動作正文_第292章 大長老的驚喜第15章:告一段落第32章:山中寶地