前 言

在當前的科技發展背景下，人工智能（artificial intelligence, AI）已廣泛滲透到我們的日常生活和工作中. 然而，當AI遭遇開放環境，其復雜和不確定的特性使得決策的偏見、算法的透明度、系統的安全性等問題變得更加凸顯，深度挑戰了AI的可信度. 因此，研究和開發面向開放環境的可信AI已成為一個緊迫且至關重要的任務. 面向開放環境的可信AI的研究動力，主要來源于幾個方面：首先，公平性的考量. 為了避免決策偏見，需要研究如何在復雜的開放環境中保證算法的公平性；其次，透明度的追求. 以便用戶可以理解和預測AI系統的行為，需要提升算法的透明度；最后，安全性的強化. AI系統需要在開放環境中，能夠對各種可能的威脅進行有效應對，以保證系統的安全性. 構建可信AI不僅需要在技術層面提供解決方案，同時也需要在社會層面建立信任. 通過研發面向開放環境的可信AI，我們不僅可以構建更為公平、透明、安全的AI系統，而且可以提高公眾對于AI在開放環境中應用的信任感，對于推動AI的廣泛接受和應用，以及推動信息社會的全面發展具有深遠的意義.

為了及時反映國內同行在面向開放場景的可信人工智能前沿領域的最新研究成果，加速我國可信人工智能方面研究的突破，《計算機研究與發展》組織策劃了“面向開放場景的可信人工智能前沿進展”專題. 本專題通過公開征文共收到60篇投稿，論文從不同角度闡述了可信人工智能的算法設計、關鍵技術和熱點應用，反映了該領域多個方面的最新研究成果. 本專題的審稿嚴格按照期刊的審稿要求，特邀編委邀請了相關領域的專家，歷經初評、盲審、復審、終審等階段，最終共精選出11篇高質量論文入選本專題，內容涵蓋了開放場景域適應、可解釋性和魯棒性、可信人工智能的熱點應用等方面，在一定程度上反映了當前國內可信人工智能領域的最新研究成果.

1 .開放場景域適應

針對域自適應中如何準確度量源域和目標域的概率分布距離的問題，孫昊等作者的“基于反向偽標簽最優化傳輸的無監督域自適應”提出反向偽標簽最優化傳輸方法，從最優化特征-拓撲傳輸的角度更準確地計算了分布之間的差異，并且設計了反向驗證偽標簽的模塊來更有效地利用偽標簽；針對傳統領域自適應方法在開放集領域自適應場景中導致負遷移的問題，劉星宏等作者的“基于自步學習的開放集領域自適應”提出了一種基于自步學習的新穎框架并設計了一個跨領域混合方法，為目標域樣本生成偽標簽最大程度地減小了偽標簽的噪聲；針對域對抗對齊方法中對齊網絡和分類網絡彼此獨立使得對齊任務無法直接服務于分類任務，封筠等作者的“二次解耦與活體特征漸進式對齊的域自適應人臉反欺詐”提出了一種二次解耦與活體特征課程學習漸進式對抗的域自適應方法，通過課程學習的方式對目標域特征與活體相關、無關特征的組合進行漸進式對抗對齊. 開放環境中數據往往是以流的方式呈現的，針對數據的特征可能隨時間而演變、數據標記可能存在噪聲等問題，張震宇等作者的“面向特征演變環境的標記噪聲魯棒學習算法”提出了一種在特征演變環境中針對標記帶噪數據的差異度量方法，該差異度量啟發了泛化誤差分析，并根據泛化誤差的理論分析設計了一種基于深度神經網絡實現的學習算法.

2 .可解釋性和魯棒性

針對深度卷積網絡現有解釋結果依賴獨立于原始模型的額外的分類器而出現的解釋結果不符合原始模型邏輯的問題，趙小陽等作者的“ADIC：一種面向可解釋圖像識別的自適應解糾纏CNN分類器”提出了潛在空間自適應解糾纏的可解釋 CNN 分類器，其中設計了一種類內概念圖編碼器學習類內基礎概念及其潛在交互和實現不同依賴關系的基礎概念不同程度解糾纏的正則化項；針對情境感知的自然語言推理的現有工作忽略了情境信息以及輸入句子之間存在的虛假關聯，張大操等作者的“針對情境感知的自然語言的因果去偏推理方法”提出一種全新的因果去偏推理方法，緩解了模型在充分考慮情境信息的條件下推理過程受到的有偏信息的影響. 蒙特卡洛樹搜索已經成為開放環境下眾多領域智能系統的關鍵通用方法，針對蒙特卡洛樹搜索樹由于計算資源匱乏或者計算成本昂貴等原因難以完全充分地對樹結構進行搜索的問題，以及針對現有算法缺少識別誤差和影響因素的分析使得算法的可信性和可解釋性較差的問題，劉郭慶等作者的“給定預算下基于相對熵置信區間的蒙特卡洛樹搜索最優動作識別算法”提出了固定預算設定下 MCTS 抽象模型的最優行動識別算法，推導了DLU 算法的識別誤差上界，并分析了算法性能的影響因素.

3 .可信人工智能的熱點應用

針對重購產品推薦忽略了對多層次信息融合建模方法的研究和忽略了重購推薦結果的可解釋性需求的問題，耿杰等作者的“基于用戶重購行為的產品推薦方法”構建了具有雙層注意力機制的可解釋用戶重復消費推薦方法，通過多層次提取學習用戶重購偏好，基于信息處理理論構建S型用戶重購動態偏好函數，融合產品流行度信息進行重購產品和新穎產品的混合推薦，提高了模型可解釋性和準確性；針對半監督學習范式的動態異質圖表示學習方法存在監督信息昂貴和泛化性較差等問題，焦鵬飛等作者的“基于對比學習的全局增強動態異質圖神經網絡”提出了一種基于對比學習的全局增強動態異質圖神經網絡，通過對比學習來最大化局部節點表示和全局圖表示的互信息來豐富節點表示中的全局語義信息；針對知識追蹤方法的預測結果與學生知識畫像存在時序、預測粒度不一致導致學生知識畫像不可信的問題，王士進等作者的“可信的端到端深度學生知識畫像建模方法”提出了一種深度知識畫像模型，通過知識粒度上表征學習交互表征、學生知識狀態變化建模、學生掌握度預測的設計，提升學生畫像的可信性. 針對現有工作大多只在單一層次提取知識而忽略多層次信息交互而導致的特征提取不魯棒的問題，余鷹等作者的“多層次知識自蒸餾聯合多步驟訓練的細粒度圖像識別”提出了層次知識自蒸餾聯合多步驟訓練的細粒度圖像識別模型，提取了更魯棒的特征從而提高了整個模型的性能.

我們感激各位作者、審稿專家以及編輯部對本專題無私的貢獻和全力支持，有賴于他們的努力，本專題得以順利出版. 對此，我們致以誠摯的感謝. 可信人工智能是一個發展迅速且活躍的領域，學科前沿的瞬息萬變對特邀編委和審稿人的審稿、選稿工作構成了巨大挑戰. 受限于投稿數量眾多、主題廣泛，時間安排緊湊以及專題容量有限，本專題僅挑選了部分具有代表性的研究工作進行發表，遺憾無法全面反映該領域所有的最新研究成果. 因此，一些優秀的稿件未能入選本專題，對此我們感到抱歉，并敬請諒解.

我們特別感謝《計算機研究與發展》的編委會和編輯部的付出，從專題的設立、征稿公告的發布，到評審專家的邀請、評審意見的整合，以及最后的定稿、修改和出版工作，都體現了他們的勤勉和專業. 我們期望本專題的出版能夠對相關領域的研究人員提供有益的啟示和幫助. 在審稿過程中，若有任何失誤或不足之處，我們懇請各位作者和讀者的理解和寬容，并熱烈歡迎同行的批評和建議. 最后，我們再次向所有參與本專題工作的作者、審稿專家、特邀編委以及編輯部表達最深的感謝，他們的辛勤工作對本專題的出版起到了決定性的作用.