人工智能體中機器語言邏輯設計的規范化

商志鵬

編者按：隨著人工智能時代的不斷逼近，由它所帶來的對人類發展的不確定影響正在不斷增大，我們應當確定的是人工智能的發展是以維護人類價值為基礎，以實現人類幸福為目標。對人工智能的設計與開發不能僅從技術層面單向發展，更應該考慮的是其應用層面與人的交互及其將會造成的社會影響。因此對人工智能體做出符合人類價值需求的邏輯設計理應是人工智能發展的重點問題，如何將人類對人工智能的理想設計轉化成研發人員可以輸入的指令判斷？如何使人工智能“發乎于情，止止于禮”？這篇文章借助道義邏輯、心智邏輯、行動邏輯等邏輯的發展來對機器語言進行刻畫，為實現人工智能體機器語言的邏輯應用提供了可能性。

在當今信息飛速發展的時代，大眾對“人工智能”并不陌生。人工智能產業可定義為：“對智能主體（intelligent agent）的研究與設計”，上述智能主體是指一個可以觀察周遭環境并作出行動以達至目標的系統。在今年7月于上海召開的2021世界人工智能大會中，業界專業人士就對規范人工智能體機器語言的設計及其應用進行了大量的討論與宣傳。而在當今時代潮流下，我們要做的不應是限制人工智能的發展，而應控制人工智能的發展。而控制人工智能發展的前提就是，認識到人工智能體的發展需遵循一定的底線，在對機器語言的設計時不應僅僅考慮其帶來的收益價值，而更應提防其可能產生的危害，因此對人工智能體機器語言的邏輯設計規范化迫在眉睫。

基礎人工智能體機器語言的邏輯基礎

基礎的人工智能算法建立在大量的一階邏輯基礎上，數理邏輯的開創者萊布尼茨就在1673年發明了作為計算機語言基礎的二進制語言，設計制作了一臺計算機并提出“將出現一種通用代數。在其中，一切推理的正確性將化歸于簡單的運算。它同時又將是通用語言，但卻和目前的一切語言完全不同。其中的字母和字將由理性來確定”的偉大夢想。因此對通用語言的研究成為了計算機語言設計的基礎，而邏輯學也因此成為與計算機語言乃至人工智能體語言的重要底層設計。第一個符合通用語言設計的就是布爾代數，它也是計算機電路、人工智能體智能系統邏輯設計的理論基礎，計算機中的基礎開關器件、運算電路（觸發器、寄存器、半全加器等）都起源于布爾代數的應用，而更為復雜邏輯電路如時序邏輯電路、TTL電路、ECL電路、集成電路等組合電路，對其進行描述及分析皆離不開布爾代數的運用。

機器語言的總體呈現依賴于對其邏輯基礎的設計，如戴文森-普特南算法（DPLL算法）中所運用的命題邏輯語言，其真值“真”“假”可以對應機器符號語言的“1”“0”，機器語言的合法性可以表現為命題邏輯的“重言式”。命題邏輯作為一種陳述性語言，它的語義是基于語句和可能世界之間的真值關系的。而它的析取式和否定式可以用來處理不完全信息，它的推理可以用來表達大部分常識。而一階邏輯在命題邏輯的基礎上增加了量詞，表示關系的謂詞符號以及表達推導的函數符號。相比于命題邏輯，一階邏輯在表達對象與對象之間的關系上進行了擴展，使得表達更為充分。1931年德國數學家哥德爾證明了“不完備性定理”，迫使數學家、邏輯學家、計算機科學家等通過創立更高階的邏輯語言來尋求出路。陳波教授就認為計算機科學和人工智能將至少是21世紀早期邏輯學發展的主要動力源泉。

人工智能程序設計中的邏輯語言

符號邏輯應用于人工智能程序設計中的驗證、分析與綜合，弗洛伊德使用歸納邏輯創造出對框圖程序，用其驗證計算機程序的正確性，而后曼納運用一階謂詞邏輯將該程序設計為計算機語言，并提出方法對任意程序和相應的入出口條件進行驗證;后期霍爾對程序正確性的驗證，與程序語義刻畫提出程序邏輯，其主要邏輯如下：

（1）A{P}B（A與B為一階公式，P為程序）;

（2）如果公式A在程序P執行前成立，而后程序P終止;

（3）那么公式B會在程序P執行后成立。

霍爾的程序邏輯衍生出另一種用于驗證程序正確性方法——最弱前置謂詞方法，其主要邏輯如下：設WP（P）B為滿足下列條件的最弱語句，

（1）如果證明公式B使P終止，并且P已完成;

（2）首先證明A{p}B符合霍爾的程序邏輯WP（p，B）;

（3）然后驗證A，WP（P，B）來實現

人工智能程序中自動生成領域沿用了以最弱前置謂詞方法衍生出的程序形式推導技術，并且程序形式推導技術也應用于對程序設計工具和環境的研究。由于人工智能發展中對程序語言設計的可靠性與可移植性使用更加廣泛，形式描述程序設計語言語義學成為人工智能領域語言設計專家的攻堅問題，指稱語義學的基礎模型論將一個語言成分對應于一個對象域的相應物，相當于模型論中的詮釋，但不在乎語言與機器的聯系。維也納開發方法（VDM）就是基于語義學發展的一整套開發軟件的工程方法，而后發展的由蘭丁創造的操作語義學即把語言的可操作性作為語義，要分辨我們日常語言中可操作性語言的成分，則需要引入補演算語言。

LISP正是以補演算語言為基礎構建起來的，也是人工智能中十分重要的程序設計語言。PROLOG作為第五代計算機的核心語言，既是一個邏輯系統也是一個程序設計語言，PROLOG作為一種描述性語言，程序設計者僅僅需要對他所要解釋的問題進行描述，而不用推導詳細的計算過程，他作為計算機語言遠遠超過低級的程序設計語言，但是它的基礎語言依然是依賴基礎邏輯進行合并、析取、否定等進行計算，所以它在機器語言上依然沒有擺脫低級程序設計語言的框架。所以PROLOG擁有低級程序設計語言與高級程序設計語言的綜合性優勢，它可以將數據結構與過程分離，將機器邏輯與實際操作相分離，可以減少變元的賦值，緩解動靜態之間的矛盾，可以計算得出多重結果并且推算出逆倒過程。對于程序語言設計者來說，他也不同于高級程序語言那樣復雜繁縟，很難上手，操作實現難度大。而后發明的混合型語言，結合了邏輯型設計語言的實現能力強，與函數式設計語言編譯效率優越的優勢，如LOGLISP語言在保持LISP邏輯型設計語言的豐富功能同時還添加了函數式設計語言的高效率。FUNLOG語言也是這樣的綜合，PROLOG邏輯型設計語言+函數定義方程設計語言。

繼而綜合性更高的數據庫語言誕生了，它主要分為數據庫理論、關系數據庫理論、演繹數據庫理論與知識庫理論。關系數據庫的理論運算工具是元組演算，它的發展主要得益于集合論的發展，也可以說是一階謂詞邏輯的發展。如INGRES數據庫中的查詢語言QUEL語言即是脫胎于元組演算。如何對關系數據庫進行規范化是人工智能領域乃至全社會的重要問題，其落腳點主要歸因于數據依賴問題，核心是對函數的依賴與函數多值的依賴，而邏輯學家通過形式化的邏輯語言為解決數據依賴問題獻上了自己的答案，其中最為著名的是阿姆斯特朗的函數依賴公理系統。

演繹數據庫是通常關系數據庫中的一種，主要功能是數據間的演繹，如實關系與事實之間的演繹，虛關系與實數據之間的演繹，它主要通過設立具有演繹功能的邏輯規則庫，例如可以通過查詢數據庫的數據庫管理系統DB查詢實關系，而對于虛關系可以通過邏輯規則庫進行證實并且將其轉化為實關系，然后通過DBMS數據庫管理系統進行查詢。通過數據庫管理系統的邏輯設計，我們可以將其中運算的數據改為專家性的知識，這樣數據庫管理系統就會對專家性知識進行自動的識別、調整、歸納甚至對落后的專家性知識進行優化，知識庫的整個系統包括從開發到歸納的整個流程都通過邏輯語言進行，這樣組成了數據庫管理系統中的知識庫系統（專家系統）。

人工智能中知識工程領域的邏輯設計

知識工程領域的邏輯語言設計基礎是一階邏輯語言進行靜態的形式化設計，而知識的識別、提取、歸納及優化需要依賴于較為高級的模態邏輯語言進行設計，例如知識工程程序的語義設計可以使用時態邏輯等動態邏輯語言進行刻畫，對于認知可以通過心智邏輯進行模型化處理，對于信念可以使用信念邏輯，對于日常生活中瑣碎無法精確的信息可以采用模糊邏輯，對于一些多值性問題可以通過非單調性邏輯等等，邏輯的應用載體主要是通過推理機。對于人工智能中知識工程領域的邏輯設計已無法局限于經典邏輯的使用，而是要大量采用非經典邏輯系統，人工智能體與一般計算機語言的巨大差別正是在其設計語言中邏輯語言的使用的層次不同。我們已經不滿足于機器僅僅能夠對簡單運算、簡單步驟的事物進行處理，而是要讓機器具有更高智能，可以具有人類的類比推理能力、歸納學習能力、知識聯想能力等復雜思維能力，甚至具有自學習的功能，這樣的知識工程設計無疑需要更為復雜的算法與更加強大的算力。

不同階段人工智能體機器語言的邏輯設計

我們通過對人工智能體機器語言中邏輯設計的辨析去考慮如何從邏輯的底層設計出發，對人工智能體的發展進行規范。

首先我們來探討弱人工智能（指不能真正推理，只是按照指令行動的智能機器）的機器語言如何設計。弱人工智能是沒有自我意識的，它完全按照人類所輸入的指令進行推理、行動。所以弱人工智能體的行為規范的實現應該更集中于對其創造人員的行業規范，而其中編寫命令所使用的邏輯語言主要是上文所講到的由“否定”“蘊含”“等值”“量詞”等一階邏輯命題語言組成的語句和推理。

而筆者主要談論強人工智能（能真正推理，有自我意識的智能機器）的行為規范是否可用邏輯語言實現。首先要明確的是，這里的自我意識并不代表和人一樣的自我意識，而是具有建立在更為高階的推理上產生的“類人意識”。庫茲威爾的奇點理論就預言隨著神經芯片、量子芯片的研發突破所帶來的計算能力的指數增長，機器自我意識的產生只是時間問題。假設強人工智能存在，那它的行為規范能否用邏輯語言實現？道義邏輯也許可以給出解答。

道義邏輯是模態邏輯的分支，研究含有“應當（O）”“允許（P）”“禁止（F）”等道義詞的道義命題，它體現了邏輯對人工智能體機器語言的規范化處理。在目前的邏輯中，道義邏輯對人工智能體機器語言的規范化表達無疑是最好的。比如道義邏輯可將阿西莫夫的機器人學三定律做如下表達：①Fa;②Ob∧Fa;③Oc∧Ob∧Fa（其中a，b，c代表具體命題）。而這在道義邏輯中還可以擴展為：Fa≡O～a;～O～ b≡Pb;Ob≡～ P ～ b;Ob≡F ～ b;～Ob≡P ～ b;O～ b≡～ Pb。這表明在一定范圍內，道義邏輯是可以表達機器語言的，而想要更加完整地表達人工智能體行為，道義邏輯在機器語言中的應用十分可觀。這種依靠邏輯語言表達及推理的邏輯設計也使得人工智能體理解并實現完整的規范行為具有可能性。所以，針對未來更為高階的人工智能的行為規范實現來說，機器語言中道義邏輯的設計是可以重點研究的方向。但考慮到人工智能體的學習能力是不斷增強的，僅僅靠道義邏輯的靜態表達是不夠的。為了更好地適應變化著的人工智能體智能發展，運用目前邏輯中不斷發展的心智邏輯等認知邏輯，行動邏輯等能動性邏輯，并將其兩者與道義邏輯相結合是值得期待的。

心智邏輯是研究人類推理的心理學理論，試圖通過對人類心理動機及推理的刻畫來描繪人類的心智。其中發展最快的兩個主流理論是心智邏輯理論（MLT）與心智模型理論（MMT），前者是人類運用推理圖示進行推理，后者是通過構造心智模型進行推理。兩種理論具有互補性，融合兩種理論以建立一個更普遍的、解釋力更廣泛的，統一的人類演繹推理理論是值得期待的。人工智能通過心智邏輯的刻畫具有一些類人的心智狀態（如知情意），這對于人工智能更好地理解社會規范提供了可能性。

而行動邏輯通過對“行動”概念的形式化分析與刻畫，試圖揭示主體的能動結構和構造行動的邏輯。其中西格伯格與貝爾納普是最重要的兩位行動邏輯學家，前者將行動看作一種例行程序，偏向刻畫行動的客觀方面;而后者將行動看作由主體控制的事件，偏向刻畫行動的主觀方面。兩者雖依然存在理論缺陷，但通過與心智邏輯等認知邏輯相結合，是可能克服的。行動邏輯的刻畫，可以使人工智能更好地踐行規范化行為。

如果上述各邏輯的發展能在未來得到好的實現，那么人工智能可以首先通過心智邏輯的刻畫，以及神經科學、認知科學、心理學等學科的共同努力，產生類似人類的情感（如快樂、憤怒、悲哀、恐懼），這些情感讓人工智能不再是理性的工具，而會對所做的行為產生反思，這樣就具備了踐行規范化行為的基本素質;再通過道義邏輯的刻畫，引導它正確判斷是非;最后通過行動邏輯的刻畫，引導它的行為，這三部分的結合可以使得人工智能體的行為得到大力的規范。

參考文獻：

[1]（英）瑪格麗特·博登編.人工智能哲學[M].劉西瑞，王漢琦譯.上海： 上海譯文出版社.2006：119.

[2]Stuart Russel，Peter Norvig.人工智能——一種現代方法[M].3版.姜哲，金奕江，張敏，楊磊等譯.北京：人民郵電出版社，2010：184.

[3]陳波.從人工智能看當代邏輯學的發展[J].中山大學學報論叢，2000（02）：10-19.

[4]Horty John F. Agency and Deontic Logic[M]. New York： Oxford University Press， 2001（01）.

[5]趙藝.論心智邏輯理論與心智模型理論融合的可能途徑[J].自然辯證法研究， 2005（06）：47-50+93.

[6]王淑慶.論“行動”概念的兩種邏輯分析[J].湖南科技大學學報（社會科學版）， 2016，19（02）：31-36.

[7] [美]溫德爾·瓦拉赫，科林·艾倫. 道德機器如何讓機器人明辨是非[J].王小紅 主譯.北京：北京大學出版社，2017：26-26.

[8]Cervantes JA， López S， Rodríguez LF， et al. Artificial Moral Agents： A Survey of the Current Status[J]. Science and engineering ethics. 2020， 26（2）： 501-532.

[9]Hansson B. An Analysis of some Deontic Logics[J].Nous，1969，3（4）： 373-398.

[10]馬少平，朱小燕.人工智能[M].北京：清華大學出版社，2016（6）：95.

[11]Kowalski R，Satoh K. Obligation as optimal goal satisfaction[J]. Journal of Philosophical logic，2018，47（4）：579-609.

[12][德]施太格繆勒.當代哲學主流[M].王炳文等譯，北京：商務印書館，1992：144.

[13]Dehghani M，Tomai E，Forbus K D， et al. An Integrated Reasoning Approach to Moral Decision Making[J].Machine Ethics，2008：1280-1286.

[14]Anderson M， Anderson S L. Geneth：A General Ethical Dilemma Analyzer[C]. In Twenty-eighth AAAI conference on artificial intelligence， Quebec， Canada， 2014： 253 –261.

[15]Cervantes J， López S，Rodríguez L. Artificial Moral Agents： A Survey of the Current Status[J]. Science and Engineering Ethics， 2018： 1-32.