人與機器人

劉乃強

從人類的角度,我們一定要確定人類能積極和全面掌控GNR科技,為人類的福祉服務,而不是帶來人類的滅亡?

自從工業革命以來,人類對機器便開始有各種不同的恐懼?上世紀下半葉,人工智能,以及隨之而來的機器人不斷普及,其智力不斷提高,更引發科幻小說中不少遐想?最著名的,是十分有現實意義的機器人三條定律(Tree Laws of Robotics)?這三條定律最初于1942年由科幻小說大師阿士莫夫(Issac Asimov)提出的?

我最近接觸到一篇由電腦科技大師?美國Sun Microsystem的首席科學家和共同創辦人;Unix?Java和Jini的創造者,Bill Joy的十分重要文章,真有暮鼓晨鐘的感覺,和無比的危機感和迫切感?作為美國和全球科技尖端人士,Joy認為21世紀的機器人?基因和納米科技的發展,將會指向一個“不需要我們(人類)的未來(Why the future doesn＇t need us)”?

對于高新科技的恐懼和抗拒,以前也曾出現過?但與20世紀的大規模殺傷性武器(weapons of mass destruction,WMD)等屬于核子?生物和化學(NBC)科技比較,基因?納米和機器人(GNR)科技屬于知識發動大規模殺傷性(knowl-edge-enabled mass destruction,KMD)類型,特點在于:

GNR科技特色在于它能自我重復?繁殖,自我維護和改善?它有自己的“生命”?人類有能力創造這些“生命”,但對于這些“生命”出現之后的各種更復雜和嚴重的結果和影響,則束手無策,很容易失控,后果無從收拾?

GNR科技不是由國家主導,集中和有控制地開發,目標不是國家安全,而是赤裸裸的市場動力:貪婪?科技開發和生產無序?分散,而且彼此保密,容易失控而長期不被發覺,直至局面難以逆轉?

GNR科技由知識發動,通過基因?納米技術,開發和生產的條件要求和成本十分低,只要擁有有關知識,便很容易大量生產,之后可大量地繁殖和自我繁殖?改良升級?

一方面,根據GNR科技目前發展的速度,估計不到2030年,十分廉價和具有人類智力水平的機器人將取代人類很多工作?到時將會出現兩種情況:一是機器人獲準作所有決策,毋須人類監控;二是人類依然有效監控機器人?

第一種情況,人類將無法知道決策和結果是什么,完全為機器人所左右?人類當然不會愚蠢至自動放棄監控,但當機器人的能力越來越強,人類會讓它們代我們作更多的決策,直至整個系統復雜到人類難以了解和操縱,機器人事實上掌控人類生活,而人類亦因為太依靠機器人,而不敢貿然關掉這系統?

第二個情況,一般群眾可控制他們擁有的機器人,如汽車?電腦等,但整個系統則由少數精英所操控?表面看來,這與今天的情況無異,但首先精英對群眾的控制能力大增,更重要的是人類的工作已經不重要,群眾將成為系統中無用的負擔?少數精英可以殘酷毀滅絕大部分人類,或者可以通過各種手段,大降生殖率,直至只剩精英階層;又或可以慈愛地把群眾的生理?心理需要全部照顧,有如養寵物一樣?兩者都不是我們所想見到的發展?

事實上,Joy引述了許多科技界人士的權威意見,得到的結論是被人類設計得比自己更強的機器人,將于數十年內會取代人類?至于根據市場優勢取代進化優勢取向的發展,對現時有利人類和生物生存發展生態的毀滅性損害,更不在話下?

不論我們是否同意Joy的分析和結論,我們不能不嚴肅地面對GNR科技對人類生存和發展的巨大挑戰?從人類的角度,我們一定要確定人類能積極和全面掌控GNR科技,為人類的福祉服務,而不是帶來人類的滅亡?從國家民族角度,我們不能放任科技先進的發達國家,繼續毫無限制地發展GNR科技,并且短期獲得甜頭,甚至以此壓抑我國的發展,最后還極有可能要讓我國人民無辜地被拖累,分享滅絕的惡果?中國如不鼓起勇氣抗衡,我們將無可選擇地被逼投入大量資源去從事最后結果是自我毀滅的科技競賽,情況比上世紀冷戰時代NBC科技的軍事競賽更惡劣?效果更嚴重?

因此,響應歐美最尖端科技界對現時GNR科技無序發展的憂慮,既會得到廣大發展中國家的支持,而即使在美?歐?日等發達國家內部,也會得到不少有識之士十分積極的回應,必將占領全球道德和智力制高點?