機器人技術自然是關於機器人的。機器人已經在工廠投入使用以製造其他機器人,至少一家大學實驗室已研製出自組裝機器人樣機。給這臺機器一堆零件,它可以組裝出自己的翻版。
信息技術涉及計算機病毒、人造大腦和通過數據累積產生的虛擬人物這樣的自我複製物。計算機病毒已經因爲擅長自我複製而聞名,數千種病毒感染數以億計的電腦。機器學習和人工智能的聖器當然是研製出足夠聰明的人造大腦,由它去製造更加聰明的人造大腦。
納米技術與極其微小的機器(像細菌一般大小)有關,這些機器被製造出來用於清除油污、計算和清理人的動脈血管。因爲體積極小,它們可以像精密的計算機電路一樣工作,因此理論上,它們可以被設計成像其他電腦程序一樣自組裝和自我複製。它們會成爲無水生命形態,儘管這將是很多年以後的事。
在上述四個領域,自我繁殖的循環不斷自動放大,非常快速地顯示出這些技術的效用將對未來產生什麼影響。機器人制造機器人,這些機器人又去製造新的機器人。它們的繁殖週期加速,速度快到可以大步甩開我們的意圖,因此令人不安。誰將控制這些機器人後代?
在基因的世界裡,假如我們編寫代碼改變基因鏈,這些變異會不斷複製到新一代。而且不只是親緣基因有這樣的特性,基因可輕鬆地在不同物種間橫向移動。因此新基因的複製品——不論好壞——也許會發生時間和空間的雙重傳播。正如我們在數字時代所瞭解的那樣,一旦複製品被釋放出來,就難以收回。如果我們可以設計出無限繁殖並且後代比父代(以及人類)更聰明的人造大腦,我們如何控制對此類創造物的道德判斷?如果它們開始產生危害,我們該怎麼辦?
信息技術同樣具有這種滾雪球般的特性:自我繁殖超出人類的控制。計算機安全專家宣稱,到目前爲止在數千種由黑客製造的可自我複製的蠕蟲病毒和其他病毒中,沒有一種完全消失。它們永遠都在發生作用——只需要兩臺仍然運行的電腦即可。
最後,納米技術有望製造出不可思議的超級微生物,其結構達到單個原子的精度。這些納米級有機體將無限繁殖,直到控制一切物體,這種威脅被稱爲“灰霧”假設。因爲若干理由,我認爲灰霧從科學角度來說不太可能發生,儘管某些類型的可自我繁殖的納米級物質必然會出現。但是下面這種情況非常有可能出現:至少幾種由納米技術產生的脆弱生物(不是灰霧)將在自然界、在狹窄的受到保護的生態位繁衍生息。一旦納米蟲在野外得以存活,就不可能滅絕。
當技術元素的複雜度提高時,它的自主性也在增強。可自我複製的基因、機器人、信息和納米技術目前取得的成果揭示了這種不斷增強的自主性如何引起我們的注意和重視。除了新技術的所有常見難題——不斷變動的功能、副效應、不可預見的結果,自我複製的技術還有兩個特有問題:放大和加速。隨着一代接一代的放大,微小的效應迅速膨脹爲劇變,其過程就像麥克風前的低語經過反饋後,突然放大爲震耳欲聾的尖叫。憑藉同樣的自我繁殖循環,複製技術影響技術元素的速度不斷提升。它們的影響如此深遠,以至於我們現在需要擴展自身能力,提前使用和檢測這些技術,從中選擇合適的類型。
這是一個老故事的重新演繹。生命本身令人吃驚、使人振奮的力量來源於它那具有槓桿作用的自我繁殖能力,現在這種力量正在技術元素體內聚集。當世界上最強大的力量——科技提高自我複製的能力時,它將遠比今天強大,要控制這股變動中的力量,人類將面臨巨大挑戰。
對於基因技術、機器人技術、信息技術和納米技術難以控制的本性,常見的反應是要求暫緩發展這些技術,或者徹底禁止。2000年,發明了互聯網使用的幾種主要編程語言的計算機科學先驅人物比爾·喬伊(BillJoy)呼籲研究基因、機器人和計算機科學的同行們放棄這四類具有潛在軍事用途的技術,就像放棄生物武器一樣。在預防原則的指導下,加拿大生產監視器的集團公司ETC號召暫停一切納米技術研究項目。德國同行EPA公司要求禁止生產包含納米銀粒(作爲抗菌塗料)的產品。其他公司希望禁止自動駕駛汽車在公共道路上行駛,宣佈兒童用基因疫苗非法,停止人類基因療法,直到每項新技術被證明無害後再解除禁令。
這種做法恰恰是錯誤的。這些技術具有必然性,它們會造成一定程度的危害。僅就上文的一個例子來看,不要忘了,有人駕駛汽車給社會帶來巨大危害,每年全世界車禍死亡人數達數百萬。如果機器控制的汽車每年“只”撞死50萬人,那就是進步!
可是它們最重要的後果——不論正面還是負面,在幾代人的時間裡是看不到的。世界各地是否會種植轉基因作物,對此我們別無選擇:會。我們可以選擇的是基因食品系統的特性——它的創新技術是公開還是私有、政府或行業是否會制定規則、我們研製轉基因食品是爲了世代享用還是僅僅作爲新興產業。隨着廉價的通信系統覆蓋世界,地球披上了由類似神經傳導物質織成的薄衣,發育出某種必然出現的電子“地球腦”。可是如果這個“地球腦”不開始工作,它的所有優缺點就無法衡量。人類的選擇是,我們希望用這件薄衣製成什麼類型的地球腦?是否允許大衆參與?可以輕鬆變更其中規則並與大衆共享嗎?或者要費盡周折才能修改規則?控制權會被壟斷嗎?如果不想捲入其中,能夠輕易做到嗎?這張大網的細節可以通過100種不同方式表現出來,但是這些技術本身會引導我們朝着特定方向前進。怎樣展現必然的全球網絡是我們自己的重要抉擇。塑造具體技術形式的唯一辦法就是與它融合,騎上它,摟住它的脖子與之齊飛。
那樣意味着現在就擁抱這些技術,把它們研發出來,啓用,試驗。這與暫停的做法相反,更像是摸着石頭過河。其結果將是一場對話,與新興技術的慎重接觸。這些技術越快地融入未來,我們越有必要從一開始就與之共舞。
克隆、納米技術、網絡化機器人和人工智能(四大技術的幾個例子)需要在我們的引導下投入使用。然後我們可以左右擺弄這幾種技術。更恰當的說法是,我們將訓練這些技術。就像動物和兒童的最佳訓練方法展示的那樣,集中資源強化它們的正面特性,淡化負面特性,直至徹底消失。
從某種意義上說,上述四種自我放大的技術屬於搗蛋分子,或者說,壞技術。爲了訓練它們成爲帶來持續收益的好技術,我們必須投入最大精力關注它們。我們需要開發恰當的長期訓練技巧,引導它們更新換代。最糟糕的做法就是禁止和隔離它們。很大程度上,我們希望教育問題兒童。而高風險技術需要更多機會去挖掘它們的真實價值,它們需要我們投入更多心血和機會去試驗。下封殺令只會驅使它們轉入地下發展,那樣它們最壞的一面將得以重點發展。
已經有幾項試驗在人工智能系統中嵌入指導性經驗常識,使之具有“道德”,還有一些試驗爲基因和納米系統安裝遠距離控制系統。現有的證據表明那些深入大腦的準則對人類自身是有影響的。如果我們可以培養孩子們——他們是極度渴望力量、有自主意識的整整一代搗蛋鬼——成爲更優秀的人,那麼我們也可以訓練四大尖端技術。
如同培養孩子一樣,真正的問題和爭議在於我們希望傳遞什麼樣的價值觀。這值得討論。現實生活中人們能否達成共識,我很懷疑。
就技術元素而言,任何選擇都要好於沒有選擇。這解釋了爲什麼科技會產生如此多的問題,儘管它的天平往往略微偏向好的一邊。假設我們研發出一種新技術,可以讓100人長生不老,但必須殺死另外1人作爲交換。我們可以爭論實現所謂“平衡”需要的實際比例(也許是1000人或者100萬人永生,作爲交換,1人死亡),但是這種計算方法忽視了一個關鍵事實:因爲這種延長生命的技術得以問世,所以在1人死亡和100人永生之間產生了過去未有的新選擇。這個永生和死亡之間的額外機會——也可以說自由或選擇——本身就是積極的。因此即使我們認爲這個具有特殊寓意的選擇結果(100名長生不老者=1名死者)意義被中和了,多出來的選擇也會使平衡向好的一邊傾斜幾個百分點。用這個百分數乘以每年科技領域誕生的100萬、1000萬或者1億項發明,可以看出爲什麼技術元素的積極面通常略大於消極面。它提高了世界福利,因爲除了直接收益外,技術元素的軌跡???不斷增加選擇、機會、自由和自由意志,這些是更大的福利。
最終,科技成爲一種思維方式,而單項技術是思想的表現方式。不是所有思想和技術的地位都是同等的。顯然,還有荒唐可笑的理論、錯誤的答案和愚蠢的觀念。儘管軍用激光器和甘地的非暴力運動都是人類想象力的有效產物,都屬於技術成果,但二者之間仍有差別。有些機會制約未來的選擇,有些機會則孕育新機會。
不管怎樣,對蹩腳思想的正確反應不是停止思考,而是想出更好的辦法。事實上,糟糕的想法總要好於完全沒有想法,因爲不好的想法至少可以修正,可是沒有思考,就沒有希望。
技術元素也是如此。對有害技術的合理反應不是放棄研發或者停止生產科技產品,而是開發更好的、更具生命親和力的技術。
生命親和力是一個恰當的表達,深層含義爲“與生命和睦相處”。教育家和哲學家伊萬·伊里奇在其著作《實現生命親和力的工具》(ToolsforConviviality)中的定義是:“提高自主個體和原生羣體的貢獻……”的技術。伊里奇相信某些技術具有內在的生命親和力,而其他技術——例如“多車道公路和義務教育”,不論使用者是誰,都是破壞性的。因此,對生命來說,技術工具非好即壞。可是我對技術元素規則的研究使我確信,生命親和力不在於特定技術的本質,而在於它的用途、使用環境和我們賦予它的表現形式。工具的親和力是易變的。
技術的生命親和力表現爲:
·合作性。它推動人和機構的合作。
·透明性。它的來源和所有權清晰明瞭,使用方法簡單,非專業用戶容易上手。對某些用戶來說,不存在難以理解的問題。
·分散性。它的所有權、產品和控制是分散的,不會被某個專業精英壟斷。
·靈活性。用戶可輕鬆改動、調試、提升或檢測它的核心,個人可以自由選擇使用或放棄。
·冗餘性。它不是唯一的解決方法,不是壟斷技術,而是若干選擇之一。
·高效性。它對生態系統的影響達到最低程度,高效利用能源和物資,易於重複使用。
活性有機體和生態系統具有下列特徵:深層次非直接合作、功能透明化、分散化、靈活性和適應性、作用的冗餘性和自然效益。這些特徵使得生物爲人類所用,同時也是生命能夠持續進化的動力。因此我們賦予技術越多的生命特徵,它就越親近我們,技術元素就越具有長期可持續發展能力。一項技術的生命親和力越強,它就越符合作爲第七王國成員所具有的本性。
的確,有些技術比其他技術更具備某些特徵。有些技術很容易分散化,而其他技術傾向於集中化。有些技術天然具備透明性,其他則顯得晦澀難懂,需要良好的專業知識才能使用。但是所有技術——無論來源於何處——都可以通過訓練增加透明度,提高合作性、靈活性和開放性。
這就是我們的選擇可以發揮作用的地方。新技術的進化是必然的,無法阻擋,但是每一項技術的特性將由我們決定。