在當(dāng)前的科技發(fā)展背景下，人工智能（artificial intelligence, AI）已廣泛滲透到我們的日常生活和工作中. 然而，當(dāng)AI遭遇開放環(huán)境，其復(fù)雜和不確定的特性使得決策的偏見、算法的透明度、系統(tǒng)的安全性等問題變得更加凸顯，深度挑戰(zhàn)了AI的可信度. 因此，研究和開發(fā)面向開放環(huán)境的可信AI已成為一個(gè)緊迫且至關(guān)重要的任務(wù). 面向開放環(huán)境的可信AI的研究動力，主要來源于幾個(gè)方面：首先，公平性的考量. 為了避免決策偏見，需要研究如何在復(fù)雜的開放環(huán)境中保證算法的公平性；其次，透明度的追求. 以便用戶可以理解和預(yù)測AI系統(tǒng)的行為，需要提升算法的透明度；最后，安全性的強(qiáng)化. AI系統(tǒng)需要在開放環(huán)境中，能夠?qū)Ω鞣N可能的威脅進(jìn)行有效應(yīng)對，以保證系統(tǒng)的安全性. 構(gòu)建可信AI不僅需要在技術(shù)層面提供解決方案，同時(shí)也需要在社會層面建立信任. 通過研發(fā)面向開放環(huán)境的可信AI，我們不僅可以構(gòu)建更為公平、透明、安全的AI系統(tǒng)，而且可以提高公眾對于AI在開放環(huán)境中應(yīng)用的信任感，對于推動AI的廣泛接受和應(yīng)用，以及推動信息社會的全面發(fā)展具有深遠(yuǎn)的意義.

為了及時(shí)反映國內(nèi)同行在面向開放場景的可信人工智能前沿領(lǐng)域的最新研究成果，加速我國可信人工智能方面研究的突破，《計(jì)算機(jī)研究與發(fā)展》組織策劃了“面向開放場景的可信人工智能前沿進(jìn)展”專題. 本專題通過公開征文共收到60篇投稿，論文從不同角度闡述了可信人工智能的算法設(shè)計(jì)、關(guān)鍵技術(shù)和熱點(diǎn)應(yīng)用，反映了該領(lǐng)域多個(gè)方面的最新研究成果. 本專題的審稿嚴(yán)格按照期刊的審稿要求，特邀編委邀請了相關(guān)領(lǐng)域的專家，歷經(jīng)初評、盲審、復(fù)審、終審等階段，最終共精選出11篇高質(zhì)量論文入選本專題，內(nèi)容涵蓋了開放場景域適應(yīng)、可解釋性和魯棒性、可信人工智能的熱點(diǎn)應(yīng)用等方面，在一定程度上反映了當(dāng)前國內(nèi)可信人工智能領(lǐng)域的最新研究成果.

1 .開放場景域適應(yīng)

針對域自適應(yīng)中如何準(zhǔn)確度量源域和目標(biāo)域的概率分布距離的問題，孫昊等作者的“基于反向偽標(biāo)簽最優(yōu)化傳輸?shù)臒o監(jiān)督域自適應(yīng)”提出反向偽標(biāo)簽最優(yōu)化傳輸方法，從最優(yōu)化特征-拓?fù)鋫鬏數(shù)慕嵌雀鼫?zhǔn)確地計(jì)算了分布之間的差異，并且設(shè)計(jì)了反向驗(yàn)證偽標(biāo)簽的模塊來更有效地利用偽標(biāo)簽；針對傳統(tǒng)領(lǐng)域自適應(yīng)方法在開放集領(lǐng)域自適應(yīng)場景中導(dǎo)致負(fù)遷移的問題，劉星宏等作者的“基于自步學(xué)習(xí)的開放集領(lǐng)域自適應(yīng)”提出了一種基于自步學(xué)習(xí)的新穎框架并設(shè)計(jì)了一個(gè)跨領(lǐng)域混合方法，為目標(biāo)域樣本生成偽標(biāo)簽最大程度地減小了偽標(biāo)簽的噪聲；針對域?qū)箤R方法中對齊網(wǎng)絡(luò)和分類網(wǎng)絡(luò)彼此獨(dú)立使得對齊任務(wù)無法直接服務(wù)于分類任務(wù)，封筠等作者的“二次解耦與活體特征漸進(jìn)式對齊的域自適應(yīng)人臉反欺詐”提出了一種二次解耦與活體特征課程學(xué)習(xí)漸進(jìn)式對抗的域自適應(yīng)方法，通過課程學(xué)習(xí)的方式對目標(biāo)域特征與活體相關(guān)、無關(guān)特征的組合進(jìn)行漸進(jìn)式對抗對齊. 開放環(huán)境中數(shù)據(jù)往往是以流的方式呈現(xiàn)的，針對數(shù)據(jù)的特征可能隨時(shí)間而演變、數(shù)據(jù)標(biāo)記可能存在噪聲等問題，張震宇等作者的“面向特征演變環(huán)境的標(biāo)記噪聲魯棒學(xué)習(xí)算法”提出了一種在特征演變環(huán)境中針對標(biāo)記帶噪數(shù)據(jù)的差異度量方法，該差異度量啟發(fā)了泛化誤差分析，并根據(jù)泛化誤差的理論分析設(shè)計(jì)了一種基于深度神經(jīng)網(wǎng)絡(luò)實(shí)現(xiàn)的學(xué)習(xí)算法.

2 .可解釋性和魯棒性

針對深度卷積網(wǎng)絡(luò)現(xiàn)有解釋結(jié)果依賴獨(dú)立于原始模型的額外的分類器而出現(xiàn)的解釋結(jié)果不符合原始模型邏輯的問題，趙小陽等作者的“ADIC：一種面向可解釋圖像識別的自適應(yīng)解糾纏CNN分類器”提出了潛在空間自適應(yīng)解糾纏的可解釋 CNN 分類器，其中設(shè)計(jì)了一種類內(nèi)概念圖編碼器學(xué)習(xí)類內(nèi)基礎(chǔ)概念及其潛在交互和實(shí)現(xiàn)不同依賴關(guān)系的基礎(chǔ)概念不同程度解糾纏的正則化項(xiàng)；針對情境感知的自然語言推理的現(xiàn)有工作忽略了情境信息以及輸入句子之間存在的虛假關(guān)聯(lián)，張大操等作者的“針對情境感知的自然語言的因果去偏推理方法”提出一種全新的因果去偏推理方法，緩解了模型在充分考慮情境信息的條件下推理過程受到的有偏信息的影響. 蒙特卡洛樹搜索已經(jīng)成為開放環(huán)境下眾多領(lǐng)域智能系統(tǒng)的關(guān)鍵通用方法，針對蒙特卡洛樹搜索樹由于計(jì)算資源匱乏或者計(jì)算成本昂貴等原因難以完全充分地對樹結(jié)構(gòu)進(jìn)行搜索的問題，以及針對現(xiàn)有算法缺少識別誤差和影響因素的分析使得算法的可信性和可解釋性較差的問題，劉郭慶等作者的“給定預(yù)算下基于相對熵置信區(qū)間的蒙特卡洛樹搜索最優(yōu)動作識別算法”提出了固定預(yù)算設(shè)定下 MCTS 抽象模型的最優(yōu)行動識別算法，推導(dǎo)了DLU 算法的識別誤差上界，并分析了算法性能的影響因素.

3 .可信人工智能的熱點(diǎn)應(yīng)用

針對重購產(chǎn)品推薦忽略了對多層次信息融合建模方法的研究和忽略了重購?fù)扑]結(jié)果的可解釋性需求的問題，耿杰等作者的“基于用戶重購行為的產(chǎn)品推薦方法”構(gòu)建了具有雙層注意力機(jī)制的可解釋用戶重復(fù)消費(fèi)推薦方法，通過多層次提取學(xué)習(xí)用戶重購偏好，基于信息處理理論構(gòu)建S型用戶重購動態(tài)偏好函數(shù)，融合產(chǎn)品流行度信息進(jìn)行重購產(chǎn)品和新穎產(chǎn)品的混合推薦，提高了模型可解釋性和準(zhǔn)確性；針對半監(jiān)督學(xué)習(xí)范式的動態(tài)異質(zhì)圖表示學(xué)習(xí)方法存在監(jiān)督信息昂貴和泛化性較差等問題，焦鵬飛等作者的“基于對比學(xué)習(xí)的全局增強(qiáng)動態(tài)異質(zhì)圖神經(jīng)網(wǎng)絡(luò)”提出了一種基于對比學(xué)習(xí)的全局增強(qiáng)動態(tài)異質(zhì)圖神經(jīng)網(wǎng)絡(luò)，通過對比學(xué)習(xí)來最大化局部節(jié)點(diǎn)表示和全局圖表示的互信息來豐富節(jié)點(diǎn)表示中的全局語義信息；針對知識追蹤方法的預(yù)測結(jié)果與學(xué)生知識畫像存在時(shí)序、預(yù)測粒度不一致導(dǎo)致學(xué)生知識畫像不可信的問題，王士進(jìn)等作者的“可信的端到端深度學(xué)生知識畫像建模方法”提出了一種深度知識畫像模型，通過知識粒度上表征學(xué)習(xí)交互表征、學(xué)生知識狀態(tài)變化建模、學(xué)生掌握度預(yù)測的設(shè)計(jì)，提升學(xué)生畫像的可信性. 針對現(xiàn)有工作大多只在單一層次提取知識而忽略多層次信息交互而導(dǎo)致的特征提取不魯棒的問題，余鷹等作者的“多層次知識自蒸餾聯(lián)合多步驟訓(xùn)練的細(xì)粒度圖像識別”提出了層次知識自蒸餾聯(lián)合多步驟訓(xùn)練的細(xì)粒度圖像識別模型，提取了更魯棒的特征從而提高了整個(gè)模型的性能.

我們感激各位作者、審稿專家以及編輯部對本專題無私的貢獻(xiàn)和全力支持，有賴于他們的努力，本專題得以順利出版. 對此，我們致以誠摯的感謝. 可信人工智能是一個(gè)發(fā)展迅速且活躍的領(lǐng)域，學(xué)科前沿的瞬息萬變對特邀編委和審稿人的審稿、選稿工作構(gòu)成了巨大挑戰(zhàn). 受限于投稿數(shù)量眾多、主題廣泛，時(shí)間安排緊湊以及專題容量有限，本專題僅挑選了部分具有代表性的研究工作進(jìn)行發(fā)表，遺憾無法全面反映該領(lǐng)域所有的最新研究成果. 因此，一些優(yōu)秀的稿件未能入選本專題，對此我們感到抱歉，并敬請諒解.

我們特別感謝《計(jì)算機(jī)研究與發(fā)展》的編委會和編輯部的付出，從專題的設(shè)立、征稿公告的發(fā)布，到評審專家的邀請、評審意見的整合，以及最后的定稿、修改和出版工作，都體現(xiàn)了他們的勤勉和專業(yè). 我們期望本專題的出版能夠?qū)ο嚓P(guān)領(lǐng)域的研究人員提供有益的啟示和幫助. 在審稿過程中，若有任何失誤或不足之處，我們懇請各位作者和讀者的理解和寬容，并熱烈歡迎同行的批評和建議. 最后，我們再次向所有參與本專題工作的作者、審稿專家、特邀編委以及編輯部表達(dá)最深的感謝，他們的辛勤工作對本專題的出版起到了決定性的作用.