“人機融合”值得期待 倫理風險亟待解決

文／劉艷 趙衛華

美國科幻巨匠阿西莫夫向往的未來世界，是以人類為代表的“碳文明”及以機器人為代表的“硅文明”和諧共存，他所提出的“機器人三定律”，已跳出科幻小說，具有了現實意義。

很多人工智能和機器人領域的技術專家將“機器人三定律”認定為未來機器人的安全準則，由此展開關于人與機器關系的大討論，并就“人機共融”的世界有可能存在的風險進行預判。

在世界工程組織聯合會前任主席、中國電子學會副理事長龔克主持下，三位院士在2022世界機器人大會領航峰會上，圍繞機器人的發展方向、路徑及挑戰展開了對話。

通用型機器人必要性不大

如中國科學院院士、中國科學院自動化研究所研究員喬紅所言，人類對機器人有很多期待，隨著技術的發展和應用漸次落地，人們希望機器人能替我們做更多的事情，甚至更像人類。

喬紅表示，從某種意義上說，當機器人從簡單的服務進化為越來越多地替代人類從事復雜、艱難、危險的工作，它和人類的關系已從“奴仆”走向好朋友，地位逐漸平等，但無論“人機融合”如何發展，服務于人依然是機器人的生存準則。

關于公眾關注的未來機器人長什么樣，中國工程院院士、中國科學院沈陽自動化研究所機器人技術國家工程研究中心主任王天然認為，未來機器人本體形態將會五花八門。

王天然說：“人對機器人有非常多的幻想，如果真的有人造肌肉代替現在機器人的鋼鐵機械臂，運動學都要重寫?！?/p>

在中國科學院院士、清華大學人工智能研究院名譽院長張鈸看來，基本建立在電機和齒輪傳動機基礎之上的機器人要完成物理世界的任務，可以走仿真之路，但目前還做不到真正仿人，因為材料等問題還沒解決。

“圍繞通用人工智能有很多爭論，但造一個完全跟人一樣的機器人，必要性不是很大，目前也做不到。”張鈸說，“機器人的目標是協助人類完成任務，它基本表現為專用而非通用，既然如此，沒必要非讓手術機器人去扛大包，多任務種類的機器人是合理存在?！?/p>

發展要抓創新也要抓治理

人工智能技術對機器人的發展有著至關重要的影響，但張鈸指出，公眾對機器人和人工智能兩個重要領域的理解存在偏差。

“或許是因為名字的關系，‘機器人’讓公眾誤解為它必須像人，‘人工智能’讓公眾以為它是做智能的。”張鈸指出，不能把人工智能和機器人劃等號，也不能把雙方理解為互相包含，這是兩個獨立的學科和應用領域。

“機器人模擬人類的智能行為只是手段之一，它的目標是協助人類完成某種任務。人工智能的目標是用機器模仿人類的智能行為，追求的是機器的行為跟人類行為的相似性。”張鈸強調，人工智能是用機器模擬人類的智能行為，不是模擬智能。

包括霍金在內的很多學者都持有這樣的觀點，人類一旦研制出有自我意識的超智能機器人，將無法控制它，后果很嚴重。

王天然表示，機器人統治人類的想法過于科幻，挑起了人和機器的矛盾。人類設計制造機器人的目的，不是讓它爭奪控制權，人造機器不可能達到這個目標。

那么，人與機器的關系究竟應該怎樣？王天然以外骨骼機器人為例指出，現在的外骨骼機器人可以幫助傷殘人士解決一定問題，它和人類的關系“宛如手足”。但人背負一堆鋼鐵，既不舒服，也暫未實現很好的協調。未來，希望人和機器人能夠達成彼此感知互動，實現人和機器人“宛如同類”的關系。

張鈸對當前的人工智能賦能機器人未來發展持謹慎態度。盡管人類是否能制造出超級智能機器人在學術界還存在爭議，但張鈸指出，現階段人工智能算法存在不安全、不可靠等風險，“仿聲”“換臉”等誤用、濫用人工智能問題的出現發出了預警，機器人發展的遠慮已經變成近憂，必須馬上著手解決。

信息科技發展異常迅猛，但基本實現了安全可控，重要原因在于，信息學基礎理論在信息科技發展之初就已建立。因此，張鈸重申為人工智能補上理論基礎的“第三代人工智能”理念初衷。

具體來說，就是融合第一代的知識驅動和第二代的數據驅動的人工智能，建立新的可解釋的人工智能理論與方法，從而發展安全、可信、可靠和可擴展的人工智能技術。

張鈸強調，雖然未來機器人治理有很多難題，但可研究新的倫理分析工具進行更好的倫理分析和結果預測，利用深度學習方法對不道德和道德行為給出樣本進行分析，以及通過仿真模擬大量實驗來解決安全性問題和倫理問題。