機器行為與人機協(xié)同決策理論和方法

曾大軍，張 柱，梁嘉琦，徐 楠，王刊良，楊彥武，陳偉運，徐 楊，劉鵬飛，謝佳亨

1 中國科學(xué)院 自動化研究所，北京 100190

2 中國科學(xué)院大學(xué) 經(jīng)濟與管理學(xué)院，北京 100190

3 中國科學(xué)院大學(xué) 人工智能學(xué)院，北京 100190

4 中國人民大學(xué) 商學(xué)院，北京 100872

5 華中科技大學(xué) 管理學(xué)院，武漢 430074

6 電子科技大學(xué) 計算機科學(xué)與工程學(xué)院，成都 611731

7 特拉華大學(xué) Alfred Lerner 商業(yè)與經(jīng)濟學(xué)院，紐瓦克 19716

引言

隨著大數(shù)據(jù)和機器智能的普及，人工智能技術(shù)正被越來越多地應(yīng)用到管理和決策領(lǐng)域。人工智能在搜索、計算、優(yōu)化、形式化推理、對抗博弈等領(lǐng)域優(yōu)勢明顯，但在高級認(rèn)知功能方面性能十分低下。在經(jīng)驗和知識積累的基礎(chǔ)上，人類能夠靈巧地實現(xiàn)無監(jiān)督學(xué)習(xí)、小樣本甚至無樣本學(xué)習(xí)，甚至進行“無中生有”的創(chuàng)造。人與機器協(xié)同工作，從而構(gòu)成混合智能系統(tǒng)，已成為包括管理科學(xué)在內(nèi)的多個學(xué)術(shù)領(lǐng)域共同關(guān)注的熱點。

在此背景下，機器行為學(xué)作為一門研究人工智能如何與人類共存、交互和協(xié)同的新興學(xué)科開始快速發(fā)展，其核心內(nèi)容包括機器個體復(fù)雜行為、機器集群交互與行為涌現(xiàn)、人機融合群組協(xié)調(diào)管理等。人機協(xié)同決策過程是人類、數(shù)據(jù)和算法的相互融合、相互作用、相互影響的過程，這種交互過程貫穿于算法模型的建立、人機交互分析和結(jié)果綜合等各個階段，需要結(jié)合決策組織的文化、具體決策情景和任務(wù)特征對機器行為進行綜合研究，并整合多學(xué)科的知識和見解。機器行為與人機協(xié)同決策研究的核心目標(biāo)是融合機器個體和機器集群智能與人類專家智慧，設(shè)計二者協(xié)同決策的有效機制，其面臨的主要挑戰(zhàn)包括機器智能在學(xué)習(xí)和推理方面的可解釋性弱、人機融合群體的行為復(fù)雜、人與機器表達和解決問題的機理差異大。

作為新一輪科技革命和產(chǎn)業(yè)變革的重要驅(qū)動力，人工智能已上升為國家戰(zhàn)略，而基于機器行為與人機協(xié)同的決策理論和方法則是其基礎(chǔ)內(nèi)容之一。2017 年7 月8 日國務(wù)院印發(fā)《新一代人工智能發(fā)展規(guī)劃》明確指出：“大數(shù)據(jù)驅(qū)動知識學(xué)習(xí)、跨媒體協(xié)同處理、人機協(xié)同增強智能、群體集成智能、自主智能系統(tǒng)成為人工智能的發(fā)展重點”，混合增強智能理論需“重點突破人機協(xié)同共融的情景理解與決策學(xué)習(xí)、直覺推理與因果模型、記憶與知識演化等理論，實現(xiàn)學(xué)習(xí)與思考接近或超過人類智能水平的混合增強智能”。

1 國內(nèi)外研究現(xiàn)狀和發(fā)展態(tài)勢

1.1 國內(nèi)外研究現(xiàn)狀

機器行為與人機協(xié)同決策的相關(guān)研究不僅受到政府主管部門的支持，同時也受到學(xué)術(shù)界的廣泛關(guān)注，主要表現(xiàn)在相關(guān)研究機構(gòu)的項目支持、重要學(xué)術(shù)期刊的關(guān)注，以及一系列科研成果的不斷涌現(xiàn)等方面。

2010 年美國情報高級研究計劃局發(fā)起了“基于群體智慧的事件估計”項目，該項目融合專家群體研判，預(yù)測效果顯著；2016 年美國情報高級研究計劃局資助的“混合預(yù)測挑戰(zhàn)”項目利用人機協(xié)同的方法對地緣政治事件進行預(yù)測。近些年來，美國國家科學(xué)基金會也資助了一批關(guān)于人機協(xié)同決策理論和應(yīng)用方向的研究，2019 年的“面向醫(yī)療決策制定的人機合作研究”項目和“AI-DCL：基于人在決策回路中的人工智能系統(tǒng)偏見治理”項目。在歐洲，相關(guān)研究同樣也受到政府支持和鼓勵，2018 年歐盟資助了“推動面向?qū)W校教育的具有類人社交能力的直覺式人機交互”項目，其目標(biāo)之一是探索機器人與人的虛擬角色的外表、行為、感知的相互關(guān)系等基礎(chǔ)問題。此外，2018 年英國工程與物理科學(xué)委員會資助了“人機合作中的信任”項目，其目標(biāo)之一是通過交叉學(xué)科方法將人與智能體交互以及信息可視化技術(shù)整合到人工智能的規(guī)劃研究中，從而使人與人工智能的協(xié)作進入到新發(fā)展階段。

隨著大數(shù)據(jù)和人工智能技術(shù)的進一步發(fā)展，機器行為與人機協(xié)同決策也逐漸受到大量學(xué)者的關(guān)注。SHIRADO et al.[1]和AWAD et al.[2]先后在《Nature》上發(fā)表論文，認(rèn)為與簡單機器人的交互可以增加人類協(xié)調(diào)性，機器與人類合作可達到人類之間合作的水平。2019 年4 月24 日，《Nature》刊發(fā)了MIT 媒體實驗室領(lǐng)銜撰寫的，來自美國、德國、法國、英國和加拿大等國33 位作者參與的題為“Machine Behavior”的綜述文章，提出了機器行為學(xué)這一跨學(xué)科的新興領(lǐng)域，認(rèn)為廣義的機器行為包括人機協(xié)同過程了出現(xiàn)的一系列合作、競爭和協(xié)調(diào)行為[3]，標(biāo)志著相關(guān)探索已成為國際跨學(xué)科研究的焦點。近5 年來，《Nature》和《Science》等綜合性期刊已發(fā)表20 余篇相關(guān)論文[4-5]，《MIS Quarterly》等管理學(xué)期刊已發(fā)表20 余篇相關(guān)論文[6-9]，《自動化學(xué)報》和《軟件學(xué)報》等中文頂級期刊已發(fā)表10 余篇相關(guān)論文[10-11]，這體現(xiàn)了機器行為與人機協(xié)同決策在醫(yī)療健康、應(yīng)急管理、交通系統(tǒng)和政策智能等領(lǐng)域起到重要作用，也反映了機器行為與人機協(xié)同決策本身具有的學(xué)科交互的研究特點。

1.2 發(fā)展態(tài)勢

在機器行為與人機協(xié)同決策的相關(guān)研究中，棋牌類的人機博弈、社交媒體中的信息傳播、基于算法的定價和交易、人機談判、供應(yīng)鏈決策等研究已經(jīng)取得一系列重要的理論和技術(shù)成果。總體而言，已有研究聚焦于特定任務(wù)，在技術(shù)層面設(shè)計面向特定功能的智能體和算法，但仍缺乏跨學(xué)科、體系化的頂層設(shè)計和部署，對深層科學(xué)問題的研究還處于起步階段。近年來，大數(shù)據(jù)和人工智能的飛速發(fā)展，一方面大量擴充了交叉關(guān)聯(lián)的海量數(shù)據(jù)和復(fù)雜多樣的應(yīng)用場景，另一方面促進了深度強化學(xué)習(xí)、因果發(fā)現(xiàn)和推理、圖神經(jīng)網(wǎng)絡(luò)等基礎(chǔ)理論和方法的提升，這為機器行為與人機協(xié)同決策研究帶來新的機遇。該領(lǐng)域未來的發(fā)展趨勢和研究熱點有以下三方面。

(1)在研究機器行為的機理和演化中，充分考慮法律制度、倫理規(guī)范和文化等因素的影響。已有相關(guān)研究主要面向結(jié)構(gòu)化的簡單應(yīng)用場景，未來研究需要面向真實復(fù)雜的管理決策場景，將法律制度、倫理規(guī)范和文化等融合到機器行為的機理、發(fā)展、適應(yīng)性、群體演化等方面的建模中。

(2)研究人機協(xié)同決策中機器行為與人的行為的交互機理和相互影響，尤其是機器行為對人的塑造和影響。隨著人工智能系統(tǒng)在生產(chǎn)和生活中的廣泛應(yīng)用，人機協(xié)同決策會對參與其中的個人或群體提出特定的要求，機器行為也可能導(dǎo)致一些新的社會現(xiàn)象或問題，對人的心理、行為、生活和工作等產(chǎn)生影響。

(3)針對不同的管理應(yīng)用場景，研究相應(yīng)的新型人機協(xié)同決策理論和技術(shù)。雖然已有研究涉及人類的政治、經(jīng)濟、醫(yī)療和教育娛樂等各個領(lǐng)域，但是還存在大量的有重大價值和應(yīng)用前景的場景尚未涉及，對應(yīng)的人機交互機制和人機協(xié)同決策機制還有待深入挖掘。

2 中國發(fā)展基礎(chǔ)和優(yōu)勢

機器行為與人機協(xié)同決策的相關(guān)研究也受到中國學(xué)者的高度重視。20 世紀(jì)90 年代，錢學(xué)森等[12]和戴汝為[13]提出了開放復(fù)雜巨系統(tǒng)理論和從定性到定量的綜合集成研討體系，其核心是將專家智慧與機器智能有機地結(jié)合起來，這為本領(lǐng)域在中國的發(fā)展奠定了基礎(chǔ)。

近年來，隨著腦科學(xué)和人工智能技術(shù)的進步，中國越來越多的研究機構(gòu)對機器行為與人機協(xié)同決策進行了相關(guān)研究。2015 年中國科學(xué)院成立腦科學(xué)與智能技術(shù)卓越創(chuàng)新中心，其研究內(nèi)容之一為人機智能協(xié)同。2017 年，中國科學(xué)院、清華大學(xué)、北京大學(xué)、復(fù)旦大學(xué)、浙江大學(xué)、上海交通大學(xué)、西安交通大學(xué)、東南大學(xué)、廈門大學(xué)、微軟亞洲研究院、曠視科技等高校、科研機構(gòu)和企業(yè)的學(xué)者參加了中國科協(xié)新觀點新學(xué)說學(xué)術(shù)沙龍“人機協(xié)同的混合增強智能”，有效地傳遞了人機協(xié)同的混合增強智能的理念，表明混合智能將成為新一代人工智能的一個重要部分。此外，機器行為與人機協(xié)同決策也逐漸受到工業(yè)界的關(guān)注，2016 年微軟亞洲研究院開展的“HI+AI：人機協(xié)同，賦能未來”項目，強調(diào)人機協(xié)同在人工智能發(fā)展中的關(guān)鍵作用；2018 年阿里巴巴提出“人機協(xié)同”智能服務(wù)解決方案。

機器行為與人機協(xié)同決策的相關(guān)研究同樣受到政府的支持和鼓勵。2019 年5 月，習(xí)近平總書記在致第三屆世界智能大會的信中強調(diào)，在包括腦科學(xué)等新理論、新技術(shù)驅(qū)動下，人工智能呈現(xiàn)出深度學(xué)習(xí)、跨界融合和人機協(xié)同等新特征，正在對經(jīng)濟發(fā)展和社會進步等方面產(chǎn)生重大而深遠(yuǎn)的影響。開展腦科學(xué)和類腦研究，借鑒腦處理信息的特點推進人工智能的發(fā)展，是實現(xiàn)智能科技快速發(fā)展的關(guān)鍵環(huán)節(jié)。近些年，國家自然科學(xué)基金委員會(以下簡稱基金委)資助了一批關(guān)于人機協(xié)同決策方法和應(yīng)用方向的研究，如2017 年資助了 “多源數(shù)據(jù)融合與人機混合實驗驅(qū)動的兩級電力市場全景式建模與決策理論研究”項目，2019 年資助了“腦機混合智能”項目。此外，基金委資助了一批相關(guān)的青年科學(xué)基金項目和面上項目。

在各類基金的支持下，中國學(xué)者在該領(lǐng)域取得了初步成果，已有人機協(xié)同決策的相關(guān)研究成果發(fā)表在中國和國際高水平期刊上，中國期刊包括《自動化學(xué)報》《軟件學(xué)報》《Frontiers of Information Technology& Electronic Engineering》 等， 國際期刊包括《 MIS Quarterly》 《 Decision Support Systems》 《 IEEE Transactions on Neural Systems and Rehabilitation Engineering》《European Journal of Operational Research》《International Journal of Production Research》等。就研究領(lǐng)域而言，已有研究主要集中在理論探討和系統(tǒng)設(shè)計，應(yīng)用方面主要集中于人機談判、供應(yīng)鏈決策、船舶自動避碰和制造業(yè)等方向。

整體而言，中國科研力量在該研究領(lǐng)域已具備堅實基礎(chǔ)，隨著進一步的成長和壯大，有希望在該領(lǐng)域做出國際領(lǐng)先的成果，引領(lǐng)該領(lǐng)域的快速發(fā)展。

3 主要研究方向和典型科學(xué)問題

對于機器行為與人機協(xié)同決策理論和方法，主要研究方向包括管理決策環(huán)境下的機器行為模式及其演化、人機協(xié)同中人的行為塑造和特征、人機協(xié)同決策的新型模式和管理場景、基于人機協(xié)同決策的產(chǎn)品和服務(wù)創(chuàng)新4 個方面，它們之間的相互關(guān)系見圖1。這4 個研究方向從整體上覆蓋了機器行為與人機協(xié)同決策的微觀、中觀和宏觀3 個層次，管理決策環(huán)境下的機器行為模式及其演化側(cè)重于研究人機協(xié)同決策中機器的行為模式，人機協(xié)同中人的行為塑造和特征重點研究人的行為塑造和特征。由于在人機協(xié)同決策中人機之間的交互作用，這兩個方向的研究有一定交互。在這兩個研究方向的基礎(chǔ)上，第3 個研究方向側(cè)重于人機協(xié)同決策中的新型模式和管理場景，最后一個研究方向重點關(guān)注人機協(xié)同決策理論和方法在生產(chǎn)和生活中的具體應(yīng)用，主要研究基于人機協(xié)同決策的產(chǎn)品和服務(wù)創(chuàng)新。

圖1 主要研究方向的關(guān)系Figure 1 Relations of the Main Research Directions

3.1 管理決策環(huán)境下的機器行為模式及其演化

在管理決策場景中，簡單設(shè)定機器針對特定目標(biāo)能夠達到最優(yōu)性能未必是最佳選擇。在特定的社會文化背景下，人機協(xié)同可能產(chǎn)生復(fù)雜的社會聯(lián)動效應(yīng)，對這些次生效應(yīng)的評估或預(yù)期將對機器行為的可能模式及其演化路徑造成影響。此外，法律制度、倫理規(guī)范和決策文化也對機器行為構(gòu)成實質(zhì)性的約束，如法律和倫理對獲取和使用訓(xùn)練數(shù)據(jù)集會直接影響機器可能產(chǎn)生的行為，對機器行為可解釋性的需求也會制約機器行為的復(fù)雜性。探討這些約束條件下機器行為的模式和可能的演化路徑具有重要的研究意義。

典型科學(xué)問題舉例：特定管理決策環(huán)境下機器產(chǎn)生特定行為的內(nèi)在機理，機器行為的傳播復(fù)制和突變，機器行為的發(fā)展及其驅(qū)動因素，機器行為的適應(yīng)性，集群機器行為特征及產(chǎn)生機理，集群機器的協(xié)同和管理等。

3.2 人機協(xié)同中人的行為塑造和特征

人機協(xié)同決策環(huán)境對參與決策的個體提出了更高的要求，需要參與決策的個體對機器行為有一定的理解，以形成高效協(xié)同。近年來，以深度學(xué)習(xí)為代表的人工智能技術(shù)在多個特定領(lǐng)域取得了突出進展，但其“黑盒”特征也阻礙了其進一步的發(fā)展和使用。為解決這些新技術(shù)催生的人機協(xié)同問題，從機器行為的角度，需構(gòu)建更易理解的可解釋性人工智能；從人和組織的角度，需要從決策流程和方法、人員培訓(xùn)和組織決策文化等多個方面保障人機協(xié)同的順利實施。這個過程將會影響參與人的行為，同時也需要考慮人的行為對過程可能造成的影響。

典型科學(xué)問題舉例：人機協(xié)同決策中的參與者角色確定與任務(wù)分工，人員培訓(xùn)及其評價方法，人機協(xié)同決策算法模型，人機協(xié)同決策中的算法厭惡及其規(guī)避措施，人機協(xié)同決策中的交互優(yōu)化，機器行為對人類決策行為的長期影響等。

3.3 人機協(xié)同決策的新型模式和管理場景

在很多管理決策場景中，機器智能的作用形式、貢獻度因場景和相關(guān)特征統(tǒng)計分布的不同而存在差異，人與機器的協(xié)同也存在不同的組合機制和形式。如一些場景下需要高強度的人力監(jiān)督和監(jiān)管，并利用群體智慧對機器進行在線培訓(xùn)；另外一些場景下則需要人機交互學(xué)習(xí)，充分利用機制設(shè)計、團隊和制度，以保證高效持續(xù)的人機協(xié)同。本方向的問題需要綜合多個學(xué)科進行系統(tǒng)的理論和實證研究。

典型科學(xué)問題舉例：人機協(xié)同決策的典型場景及其分類，人機信任和合作的影響因素，人機協(xié)同決策模式及其效果的實證，人機協(xié)同的群體智慧決策方法，人機協(xié)同機制設(shè)計，人機協(xié)同決策行為的長期演變等。

3.4 基于人機協(xié)同決策的產(chǎn)品和服務(wù)創(chuàng)新

在人機協(xié)同決策環(huán)境中，企業(yè)需要挖掘、預(yù)測消費者的內(nèi)在和潛在需求，而不只是簡單地滿足表層和顯性需求。同時，企業(yè)的產(chǎn)品設(shè)計和制造過程、服務(wù)流程將需要更加智能化，需精準(zhǔn)理解消費群體結(jié)構(gòu)和行為以及個體行為、需求和偏好。此外，人機協(xié)同決策還可能催生數(shù)據(jù)驅(qū)動的風(fēng)險識別、政策影響評估及效果預(yù)測、大規(guī)模模擬推演系統(tǒng)等新的產(chǎn)品和服務(wù)形態(tài)。

典型科學(xué)問題舉例：基于人機協(xié)同的計算廣告投放機制，融合人機行為的自動推薦方法，基于人機協(xié)同的新一代電子商務(wù)，大數(shù)據(jù)驅(qū)動的群體行為計算實驗，人機協(xié)同環(huán)境下的產(chǎn)品和服務(wù)模式創(chuàng)新，新能源政策推演和風(fēng)險分析等。

4 結(jié)束語

隨著大數(shù)據(jù)和人工智能技術(shù)在眾多行業(yè)的普及，研究人工智能如何與人類共存、交互、協(xié)同的機器行為學(xué)作為一門新學(xué)科逐漸興起。以人機協(xié)同為核心的機器行為學(xué)在管理和決策領(lǐng)域具有巨大的應(yīng)用潛力，同時也面臨人機融合帶來的行為復(fù)雜性、機器智能的弱可解釋性、人與機器表達和解決問題的差異性等多方面的挑戰(zhàn)。相關(guān)研究在中國處于快速起步階段，需要深入探索管理決策環(huán)境下的機器行為模式及其演化、人機協(xié)同中人的行為塑造和特征、人機協(xié)同決策的新型模式和管理場景、基于人機協(xié)同決策的產(chǎn)品和服務(wù)創(chuàng)新。今后仍需進一步提煉新的關(guān)鍵科學(xué)問題，規(guī)劃和推進相關(guān)項目的實施和人才隊伍的培養(yǎng)，以推動機器行為與人機協(xié)同決策理論和應(yīng)用的健康發(fā)展，為國家發(fā)展人工智能的戰(zhàn)略目標(biāo)夯實理論和技術(shù)基礎(chǔ)。

致謝：

感謝霍紅、李林靜、魏一鳴(依姓氏拼音排序)等各位專家參與本次“機器行為與人機協(xié)同決策理論和方法”優(yōu)先領(lǐng)域討論并提出真知灼見，這些建議和意見對本文尤其是其中第三部分關(guān)鍵科學(xué)問題具有很大幫助。