人工智能何以不聽人話

馬陸亭

歲末年初，ChatGPT橫空出世，這是繼2016年AlphaGo戰勝人類頂級棋手后人工智能技術再次帶給世界的驚喜。與AlphaGo的觀摩效應不同，ChatGPT能夠給使用者以沉浸式體驗，這無疑增強了人們的參與感和娛樂感。科技正在改變世界，新一輪科技革命正在以人工智能為牽引性技術展開。

從概念內涵看，人工智能是指被人設計出來的智能機器或新的智能體（Intelligent Agents），它能夠感知環境，思考并采取行動使成功機會最大化。人工智能技術會給人帶來許多便利，也將給未來帶來巨大的發展空間。

從前期實踐看，它主要沿著兩大學科路徑集聚發展要素：一是計算機學科——包括芯片、算法、大數據、數據標識，典型例子即AlphaGo，在有明確邊界的場景機器已完勝；二是自動控制學科——涵蓋信號、識別、傳感、反饋系統，典型例子是智能汽車，但因其駕駛環境的復雜性目前仍處于實驗階段。當然，最終相關學科會走向融合，包括數學、哲學、腦科學、神經學科等，使算法、數據、邏輯、控制、倫理緊密地結合在一起，形成關鍵算力，促進智能體在邊界突破、多場景應用中的思考能力不斷增強。

從發展階段看，在一個場景下的人工智能為弱人工智能。因此，邊界明確的智能應用屬于弱人工智能，而突破邊界的應用則需要得到強人工智能的支撐。世界才剛剛開啟人工智能的進程，目前尚處于弱人工智能階段。

人工智能就是被用以超越人類的，所謂智能就是使機器具備像人類思維一樣的生成式學習能力。AlphaGo的邊界在棋盤內，它依據海量棋譜和算法生成對抗網絡實現自動對弈，運算速度大大超越人類。ChatGPT的數據邊界雖在不斷擴展，但其數據搜尋、邏輯推理和歸納整理能力極強、速度極快。

當然，人工智能從本質上講仍是機器，底層是遵循二進位制的與非門，算法由人設計，所以理論上講能夠可控。但是，確也存在著失控因素，分主客觀兩個方面：主觀因素可以通過制度規范和算法完善改進，如科技倫理失范與智能片面信息推送等問題的解決；而那些由客觀原因造成的失控，則不易彌補，多與數據邊界突破有關。

其一，數據良莠不齊失控。火爆出圈的ChatGPT很直接地把這個問題帶出——它對有大數據支撐的通用問題回答得很有條理，而對于數據支撐不足的個性問題就一本正經地編瞎話了。大數據的質量是人工智能應用的基礎，數據不足或不好會產生數據識別問題。ChatGPT不能辨真偽，致使人機對話過程產生海量貌似真實的虛假信息，由此導致的失控將形成對知識體系的挑戰。

其二，軟硬件損傷失控。任何機器都有壞的時候，人工智能作為工程產品有一個可靠性問題。例如：智能汽車面對著極其復雜的外部環境，數據邊界隨時會被打破，所以在實驗室、特定地段或者軌道交通中易于實現，而在現實路況中很難得到實際應用，即使整個系統萬無一失但只要出現機器故障也足以導致車毀人亡。

其三，系統關聯作用失控。單一算法當然能夠可控，但復雜系統會產生設計者尚未認識到的潛在聯系，即多個算法的交互作用。如果有一天，當某些算法突然自發地產生了聯系，從而觸發了一些指令，那么機器人甚至某個系統不聽人話的事情就會真正發生。人當然能夠解決這些問題，但災難已經降臨，情況嚴重的話甚至不給人類解決問題的機會。這是真正的強人工智能所必須面對的問題，需要加強“防火墻”建設。

新一代人工智能正在引領社會和教育變革，談問題不是要因噎廢食，而是為了實現健康發展，要從技術、倫理、規則、制度、法律層面推進和完善。

[責任編輯：于 洋]