涉獵這一領域,成敗,並不在於何時開始,而在於能否想到這一步。
盛夏時節,眼見就要過去,東北太平洋大區的廣袤土地上,第一縷秋風帶來絲絲縷縷的涼意,NEP_791的地下世界,擴建工程緊鑼密鼓,在初號機測試進行的同時,更大規模的“強人工智慧”部署用基礎設施,也在緊張施工中。
研究劃時代的“強人工智慧”,單論項目本身,已經是一項前所未有的巨大成就。
但方然的動機,據實而言,並不是簡單的探尋科學技術之未知,他希望擁有的“強AI”,能力至少也要在最頂尖的人類科學家之上。
否則,從促進科技發展的角度,庸碌的“強AI”就沒有意義,單純研究意識、思維與認知,進而用計算機+人工智慧的方式將其復現,便會成爲舊時代的諸多燒錢工程,徒然耗費資源而得不到即期的收益。
一切科學技術的研究,必須要有收益,否則,NEP便無法自殘酷的競爭中勝出。
即便如此,一開始研發“強人工智慧”,目的仍然是驗證總體架構的可用性,出於種種考慮,NEP_791地下世界裡的初號機,指標要求一點也不高。
採納萊斯利*蘭伯特的意見,方然爲初號機選定的研究領域,是數學。
遵循從易到難的原則,考慮到強人工智慧的一切初始條件,只能來自於人,而人類的科學技術體系又未必完全正確、完全自洽,爲避免不必要的干擾和疏漏,“數學”這樣一個最客觀的學科,是很合理的選擇。
總之,第一個“強人工智慧”的目標,是探索數學。
但依靠很原始的強AI,能否去探索前沿,解決大量懸而未決的問題呢,當然不可能,沒學會爬就像跑,只會摔一個大跟頭。
研發組的具體規劃,是給予初號機的資料庫一份簡單的“已有知識列表”,按FSCIM體系的規範要求,錄入基礎知識條目,而後啓動該系統,觀察、測度系統能否從這些簡單的已有知識出發,推導出其自身並不知曉的數學定律。
即便推導出的結果,極大可能,是人類已經掌握、因此而毫無價值的東西。
但用來驗證系統的可用性,這卻是一個可行之策。
不僅如此,觀察系統的運行,藉助ASA這樣的人工智慧進行追蹤,還有望解析“強AI”的運作機理,甚至搞清楚其自主意識的根源。
資料庫,思維核心,具備這兩大部分的系統,原則上便是一個“強人工智慧”。
不過,早在項目的規劃之初,方然就意識到,僅有這兩部分所組成的“強AI”,能力註定十分有限,直白的講,其理論上的最高成就,僅僅侷限於現有基礎理論的延拓、應用,而絕不可能在現有基礎理論的基礎上更進一步。
原因很簡單,不論是人,還是人工智慧,脫離客觀世界、閉門造車,都不可能憑空推動科學技術的進步。
理論,對與不對,要由實踐來檢驗。
沒有後面的這一步,再華麗的理論,也只能永遠停留在空中樓閣的狀態,永遠無法坐實,永遠無法成爲新的出發點。
正是基於這種考慮,在規劃AI整體框架時,自己纔會有意略過“實踐”這一塊。
只要強人工智慧沒有這一模組,其全部活動,便只能在現有框架的範疇內進行,即便如蘭伯特先生所言,隨時間流逝,其自身狀態越來越未可知,風險持續累計,也不至於越過虛幻與現實的界限,輕易對人類、也即自己構成威脅。
工程進度有條不紊,到1495年深秋,數據——思維——實踐,強人工智慧的三大模組中,前兩部分已大致完成。
至於第三部分,研發,也在持續進行中,只不過一時半刻還用不上。
不僅如此,爲防範“強人工智慧”失控的風險,思慮再三,方然還是在一開始就啓動了自稱爲“連鎖安全機制”的並行研究,除NEP_791外,還指示另外兩處研究機構進行“強AI”的研究。
目的,不是要多個方案、優中選優,而是讓目標不同的AI彼此制衡。
791研究機構裡的“強AI”,初號機的目標,一開始被指定爲“數學基礎理論研究”,後續目標則是“科學技術的創造性、探索性研究”。
787研究機構的“強AI”,目標則是“防範自主系統的越權企圖”,簡單說來,這一強人工智慧要去解決的問題,是利用自身的思維、認知能力,全力防範一個“自主系統”的獨走,給出反制的措施。
最後,還有一個830研究機構,同樣進行“強AI”的研發,初號機的目標是“安保系統許可權與行爲審查”。
不消說,這一強AI要盯防的,正是NEP_787正在研究的強人工智慧。
一環扣一環,三大研究機構的開發團隊,實力大致相若,獲得的資源也差不多一樣,“以人工智慧提防人工智慧”的策略,則在邏輯上確保了項目整體的安全性。
原因很簡單,倘若NEP_787的“監控強AI之AI”研發不力,無法獲得具有自主思維、能夠主動採取措施限制目標行爲的“強人工智慧”,最有可能的原因,只能是這一設想本身有問題,以人類現有的技術水平,根本無法創造出具有自主思維的AI。
換句話說,如果以東北太平洋大區的技術水平,能創造出“強人工智慧”,那麼也就應該能創造出監控這種AI的“監控型強AI”。
至於萬一的機率,監控型AI,也會有失控獨走的風險,
則由NEP_830的“監控監控型強AI之AI”,來作爲最後一道安全屏障。
一環扣一環,以人工智慧盯防人工智慧,這種策略要想做到萬無一失,理論上需要將鏈條延伸到無窮遠,當然這不可能,方然能做到的,也不過是權衡利弊,在資源消耗與預期收益之間取得暫時的平衡。
提前部署了這一切,項目啓動後,方然時常抽時間瀏覽報告,瞭解“強人工智慧”的研發情況。
史上第一次,嘗試打破人類對智力的壟斷,對可能遇到的困難,方然已經有一些心理準備,所以,當各研發組報告進展順利,預計將在兩、三年內得到成果時,他着實挺意外。