李強

2021年4月，來自于亞信科技、中國移動、中國電信、清華大學(xué)以及其他中外運營商和高校的資深專家們，以一篇《通信人工智能的下一個十年》，就移動通信與人工智能的協(xié)同發(fā)展，對沿革進行了梳理，對未來進行了展望。中國移動抓住時代機遇，全面推進數(shù)智化轉(zhuǎn)型，打造基于大數(shù)據(jù)、AI等技術(shù)的一站式解決方案。其中，中國移動創(chuàng)新研究院落地杭州上城區(qū)，是移動公司踐行數(shù)智化轉(zhuǎn)型過程中堅實有力的一步。中國聯(lián)通陜西省政府、天津市政府分別簽訂戰(zhàn)略合作協(xié)議，致力于將5G技術(shù)與應(yīng)用于數(shù)字政府、智慧城市、智慧醫(yī)療、智慧教育等多個領(lǐng)域。

風(fēng)險不可避免

然而，智能技術(shù)的不確定性與高滲透率決定了其構(gòu)建與應(yīng)用必將帶來一定的風(fēng)險。對于任何一家通信企業(yè)或科技企業(yè)而言，這些風(fēng)險不易避免。通信行業(yè)將全面認識以AI為主的智能技術(shù)的潛在風(fēng)險，深入分析技術(shù)與風(fēng)險的內(nèi)在聯(lián)系。

戰(zhàn)略風(fēng)險

內(nèi)外部危機。對內(nèi)，數(shù)智化轉(zhuǎn)型勢必使內(nèi)部資源向智能技術(shù)研發(fā)等新業(yè)務(wù)傾斜，導(dǎo)致傳統(tǒng)業(yè)務(wù)可能面臨結(jié)構(gòu)及人員的調(diào)整問題。對外，AI創(chuàng)新企業(yè)間的競爭會導(dǎo)致企業(yè)盲目發(fā)展非優(yōu)勢產(chǎn)業(yè)，形成惡性競爭;技術(shù)相關(guān)部門間的競爭可能引發(fā)重復(fù)建設(shè)問題，甚至導(dǎo)致業(yè)務(wù)分割。

數(shù)據(jù)與技術(shù)壟斷。AI算法的訓(xùn)練過程依賴于數(shù)據(jù)產(chǎn)生的正反饋循環(huán)，擁有著大量數(shù)據(jù)的企業(yè)能夠訓(xùn)練出更優(yōu)秀的數(shù)據(jù)模型，從而帶來更好的體驗與更多的拓展功能;另一方面，更多的客戶被上述條件所吸引，從而帶來更多數(shù)據(jù)與模型。因此，智能技術(shù)行業(yè)也不可避免地傾向于壟斷。類似移動集團這樣的通信公司，雖然擁有著大量用戶數(shù)據(jù)和行為數(shù)據(jù)，但在外部數(shù)據(jù)積累、算法、算力等方面還依賴于第三方供應(yīng)商，尤其對芯片、操作系統(tǒng)、底層算法通用架構(gòu)等。存在個別供應(yīng)商有能力壟斷這些技術(shù)的輸出權(quán)與定價權(quán)，隨時實施網(wǎng)絡(luò)監(jiān)控或禁止合作，制約通信行業(yè)在人工智能領(lǐng)域的發(fā)展。

?技術(shù)風(fēng)險

基礎(chǔ)薄弱。智能技術(shù)創(chuàng)新所需要的相關(guān)技術(shù)不成熟、相應(yīng)數(shù)據(jù)能力不完備、相關(guān)技術(shù)人員能力不足、現(xiàn)有設(shè)備計算能力不足或存在固有漏洞等，不足以匹配智能應(yīng)用對外部資源的要求，會導(dǎo)致企業(yè)數(shù)智化轉(zhuǎn)型起步遲緩且易暴露于外部攻擊造成信息泄露等。

“偽”人工智能。人工代替AI工作、AI成果造假從而獲取企業(yè)資金投入、把預(yù)設(shè)程序稱為AI等“偽”人工智能行為，可能導(dǎo)致AI的“虛假繁華”;內(nèi)部人員為應(yīng)對企業(yè)轉(zhuǎn)型任務(wù)，可能會劍走偏鋒，通過成果造假、數(shù)據(jù)造假、成果竊取等手段應(yīng)對上層的轉(zhuǎn)型需求。

運營風(fēng)險

不準確性與不可解釋性。智能技術(shù)學(xué)習(xí)的準確性是由數(shù)據(jù)質(zhì)量、特征維度、算法、訓(xùn)練時間、參數(shù)設(shè)計等因素決定的。當(dāng)使用智能技術(shù)手段輸出的結(jié)果不準確或偏離預(yù)期時，對內(nèi)會與管理層的決策相悖，導(dǎo)致內(nèi)部對智能技術(shù)的輸出不信任;對外會造成預(yù)測錯誤，影響客戶選擇，造成經(jīng)濟損失。而由于算法黑箱的特性，包括技術(shù)人員在內(nèi)的人常常無法對相關(guān)算法、模型及其給出的結(jié)果進行合理的解釋，甚至引發(fā)監(jiān)督審查困境。

通信公司在大力推動智能技術(shù)發(fā)展的同時，也不能忽略對其風(fēng)險自身的研究，并適時開展內(nèi)部審計工作，因此需要建立相應(yīng)的研究與監(jiān)控組織。

算法偏見與歧視。智能技術(shù)的優(yōu)勢在于算法的中立，進而滿足推薦、分析、預(yù)測等場景應(yīng)用的客觀化。但是，在沒有惡意的算法設(shè)計中，卻可能存在開發(fā)人員的“偏見”或采用了帶有“偏見”的數(shù)據(jù)，從而在輸出端表現(xiàn)為性別歧視、仇外思想、確認偏誤等，而這種機器偏見被隱藏在了科技的客觀性之下。

監(jiān)管風(fēng)險

知識產(chǎn)權(quán)與數(shù)據(jù)資產(chǎn)保護爭議。智能機器人能夠收集并儲存大量的他人已享有著作權(quán)的信息，這可能構(gòu)成非法復(fù)制他人的作品，從而構(gòu)成對他人著作權(quán)的侵害。若利用他人享有著作權(quán)的知識和信息進行學(xué)習(xí)并最終創(chuàng)作出有相似內(nèi)容的作品，存在構(gòu)成剽竊的可能?！睹穹倓t》第127條對數(shù)據(jù)的保護規(guī)則作出了規(guī)定，數(shù)據(jù)在性質(zhì)上屬于新型財產(chǎn)權(quán)，但數(shù)據(jù)保護問題并不限于財產(chǎn)權(quán)的歸屬和分配問題，還涉及此類財產(chǎn)權(quán)的安全，特別是涉及國家安全。

隱私泄露。數(shù)據(jù)在技術(shù)中的大規(guī)模應(yīng)用也極大地增加了隱私入侵的機會，對個人隱私實現(xiàn)了直接監(jiān)控，同時，其迷惑性的侵害隱私的行為能夠以類人的方式收集客戶信息。在國外，《健康保險可移植性和責(zé)任法案》（HIPAA）要求公司在披露個人健康信息之前必須獲得授權(quán)，歐盟的《通用隱私數(shù)據(jù)保護條例》（GDPR）等國際框架幫助消費者更好地控制個人數(shù)據(jù)的收集和使用。但我國仍未完善隱私保護的法律體系，未對隱私保護的技術(shù)路徑、市場機制和倫理原則引起足夠的重視。由智能技術(shù)導(dǎo)致的監(jiān)管風(fēng)險，將會大大降低智能技術(shù)的可信度，提高合規(guī)成本。

聲譽風(fēng)險

企業(yè)不良形象。由AI應(yīng)用導(dǎo)致的錯誤決策、違規(guī)行為、數(shù)據(jù)泄露等企業(yè)丑聞，即便企業(yè)花費大量的時間和精力用于事后的危機管理，也難于彌補對自身聲譽造成的實質(zhì)性損害。公眾將對企業(yè)形成內(nèi)部管理混亂、管理層能力不足、企業(yè)缺乏社會責(zé)任等不良印象。

內(nèi)部信任危機。隨著智能技術(shù)系統(tǒng)的日趨復(fù)雜，企業(yè)或?qū)㈦y以對其進行密切監(jiān)控，而復(fù)雜的算法也不能對決策作出合理的解釋，企業(yè)無法完完全全將決策的權(quán)力交予機器，這就容易導(dǎo)致企業(yè)內(nèi)部的信任危機。業(yè)務(wù)部門或許無法完全基于技術(shù)部門給出的智能運算結(jié)果開展業(yè)務(wù)，技術(shù)部門或許也無法完全信任業(yè)務(wù)部門提交的數(shù)據(jù)和指標。

應(yīng)對智能技術(shù)風(fēng)險

通信企業(yè)將著力于制定出更加科學(xué)的監(jiān)管制度和體系，深入挖掘數(shù)智化轉(zhuǎn)型的相關(guān)風(fēng)險，通過以風(fēng)險為導(dǎo)向的內(nèi)部控制方式對其實現(xiàn)預(yù)測、監(jiān)督與管控，不斷完善規(guī)章制度體系建設(shè)，合理確定各種風(fēng)險的應(yīng)對策略。構(gòu)建以智能技術(shù)發(fā)展決策為風(fēng)險預(yù)防堡壘、以技術(shù)風(fēng)險研究為導(dǎo)向、以內(nèi)部審計為監(jiān)測手段、以多部門及相關(guān)企業(yè)聯(lián)合治理的“可信賴”智能技術(shù)風(fēng)險防控機制。

構(gòu)建完善的發(fā)展決策體系

建立完整謹慎的智能技術(shù)發(fā)展決策體系，以推動企業(yè)轉(zhuǎn)型。發(fā)展決策體系是將企業(yè)的決策組織、決策流程、決策規(guī)范進行有機整合，防止權(quán)力的交叉或真空，以確保企業(yè)經(jīng)營管理有序進行。具體包括：

設(shè)計并建立健全的決策組織。企業(yè)決策是一個從簡單到復(fù)雜的圖譜，所涉及的各領(lǐng)域問題也寬泛復(fù)雜，為了增加決策的有效性，必須明確規(guī)定權(quán)利主體。對于通信企業(yè)而言，推動智能技術(shù)創(chuàng)新的決策組織人員不宜過多，以輕量級、決策快為特點構(gòu)建集權(quán)式、扁平化團隊。團隊成員應(yīng)分別來自各核心的業(yè)務(wù)、技術(shù)、職能部門，熟悉公司業(yè)務(wù)且了解戰(zhàn)略發(fā)展，并建議由一位技術(shù)發(fā)展決策專員統(tǒng)一領(lǐng)導(dǎo)。其次，決策者的行為由利益驅(qū)動、由責(zé)任約束、由權(quán)力保障，因此需要根據(jù)組織團隊的特點，對決策進行全面梳理、模塊分類，建立與權(quán)力結(jié)構(gòu)相適應(yīng)的利益結(jié)構(gòu)，實現(xiàn)團隊成員的職責(zé)劃分，做到權(quán)責(zé)統(tǒng)一。

制定清晰的決策流程?；诜从匙陨硗ㄟ^技術(shù)創(chuàng)新活動所要達到的經(jīng)濟預(yù)期的目的，技術(shù)部門需要依據(jù)市場需求，在技術(shù)研發(fā)上制定需要達到的階段性目標，并且明確技術(shù)創(chuàng)新主體的主觀意志與服務(wù)對象，尤其當(dāng)服務(wù)對象為大眾市場時。同時，根據(jù)團隊責(zé)任的劃分，共同議定項目評估流程，確定決策權(quán)重。并且依托權(quán)利保證、組織保證、信息系統(tǒng)保證等，作好方案評估、方案論證和決策宣傳，提供及時、準確、適用的信息支撐。

建立完善的決策規(guī)范。管理層需從操作、約束、權(quán)限等角度建立相應(yīng)的規(guī)范。在數(shù)據(jù)方面，考慮數(shù)據(jù)集成、管控與共享等流程，并適當(dāng)執(zhí)行數(shù)據(jù)治理流程，完善數(shù)據(jù)管理;在模型方面，考慮輸入數(shù)據(jù)結(jié)構(gòu)、模型操作與權(quán)限約束;在客戶方面，考慮多渠道收集信息、全方面刻畫客戶畫像、注重個性化服務(wù)。始終滿足（1）監(jiān)管要求;（2）制度層面能夠防范AI風(fēng)險;（3）實際執(zhí)行能夠滿足規(guī)范要求。

建立技術(shù)風(fēng)險研究組織

在大力推動智能技術(shù)發(fā)展的同時，也不能忽略對其風(fēng)險自身的研究，并適時開展內(nèi)部審計工作，因此需要建立相應(yīng)的研究與監(jiān)控組織，具體包括：

技術(shù)研究與風(fēng)險研究并行。盲目地推動顛覆性技術(shù)發(fā)展會弱化對風(fēng)險研究的重視，技術(shù)的大幅進步更容易隱藏業(yè)務(wù)安全隱患。因此，建議企業(yè)設(shè)立相應(yīng)的智能技術(shù)風(fēng)險研究崗位，深度探究智能技術(shù)發(fā)展為企業(yè)內(nèi)部、技術(shù)本身、對外合作等方面帶來的影響與風(fēng)險應(yīng)對措施。該組織的人員需具備一定的技術(shù)能力、了解技術(shù)風(fēng)險點和業(yè)務(wù)流程，并熟悉風(fēng)險管理理念，從技術(shù)的角度將風(fēng)險扼殺于萌芽階段。

構(gòu)建專業(yè)審計團隊。針對智能技術(shù)的審計工作將檢查相關(guān)部門是否按計劃執(zhí)行技術(shù)實施工作、能否達到有效的創(chuàng)新效益、是否存在信息泄露或違規(guī)操作等。相關(guān)審計人員將具備一定的軟硬件基礎(chǔ)知識和智能技術(shù)常識，審計團隊中應(yīng)適當(dāng)加入信息安全專家、IT系統(tǒng)專家、算法專家等成員。由于智能技術(shù)更新周期短、涉及范圍廣，企業(yè)應(yīng)引入培訓(xùn)機制定期對審計團隊進行相關(guān)技術(shù)的培訓(xùn)。

風(fēng)險研究與內(nèi)部審計柔性結(jié)合。風(fēng)險研究組織將與內(nèi)部審計團隊緊密聯(lián)系，適當(dāng)時可組建風(fēng)險防控的柔性組織，形成信息互通、能力互補、技術(shù)共享，工作內(nèi)容包括預(yù)警模型設(shè)計、風(fēng)險信息管理、持續(xù)監(jiān)測并定期擬定相關(guān)風(fēng)險分析報告。例如，內(nèi)部審計團隊能夠搭建特定的審計框架與數(shù)據(jù)需求，IT技術(shù)團隊負責(zé)承接技術(shù)需求并幫助內(nèi)審團隊獲取、整合和分析數(shù)據(jù)，從而共同發(fā)現(xiàn)審計問題與風(fēng)險。

通信企業(yè)需要擁抱機遇，積極應(yīng)對智能技術(shù)風(fēng)險，提前部署體制，謹防風(fēng)險管理與企業(yè)戰(zhàn)略產(chǎn)生割裂。

建立針對智能技術(shù)的審計方式

風(fēng)險管控部門需要持續(xù)監(jiān)測智能技術(shù)相關(guān)系統(tǒng)的建設(shè)與應(yīng)用，確保系統(tǒng)性能的可靠性、完整性與前瞻性。具體包括：

持續(xù)風(fēng)控/審計模型的構(gòu)建與應(yīng)用。通信企業(yè)在過去的審計與風(fēng)控工作中，積累了大量審計/風(fēng)控規(guī)則，能應(yīng)用于搭建具備可持續(xù)挖掘?qū)徲媶栴}/風(fēng)險的規(guī)則模型;同時，企業(yè)積累了大量的業(yè)務(wù)數(shù)據(jù)、客戶信息、行為數(shù)據(jù)，有能力設(shè)計并提取有效的風(fēng)險特征，用于搭建機器學(xué)習(xí)模型進行訓(xùn)練，使用邏輯回歸、GBDT、神經(jīng)網(wǎng)絡(luò)等技術(shù)在訓(xùn)練數(shù)據(jù)上搭建風(fēng)控模型，通過AUC等指標判斷模型的準確率，不斷完善模型框架并最終進行信息化落地。

提高算法的透明度。鼓勵技術(shù)人員將算法的可解釋性作為在模型投入生產(chǎn)之前獲得合規(guī)批準的必要步驟。在技術(shù)部門的協(xié)助下，制定算法透明度度量標準，根據(jù)任務(wù)重要程度適當(dāng)調(diào)整算法的透明度。

建立針對智能技術(shù)的審計方式。定期針對技術(shù)領(lǐng)域開展1?2個專項審計，例如：客戶敏感信息審計、系統(tǒng)日志審計、重要系統(tǒng)賬號口令審計等。同時，依托企業(yè)內(nèi)部的審計經(jīng)驗及相關(guān)技術(shù)資源積累，利用互聯(lián)網(wǎng)Web應(yīng)用訪問日志、網(wǎng)絡(luò)流量日志、設(shè)備監(jiān)控日志、安全威脅態(tài)勢等信息，開展AI建設(shè)與應(yīng)用審計工作，及時發(fā)現(xiàn)潛在安全威脅及已經(jīng)面臨的風(fēng)險。

敏捷且動態(tài)地治理

風(fēng)險管控相關(guān)部門通過運用敏捷且動態(tài)的智能技術(shù)風(fēng)險治理方式，聯(lián)合其他組織部門，形成多方聯(lián)動機制。具體包括：

持續(xù)跟進多領(lǐng)域的智能技術(shù)風(fēng)險問題。設(shè)專人及時追蹤社會、監(jiān)管、企業(yè)聲譽、倫理等領(lǐng)域新出現(xiàn)的智能技術(shù)相關(guān)問題，并及時反饋至管理層，從而及時對企業(yè)內(nèi)部系統(tǒng)完整性、數(shù)據(jù)采購及管理、模型訓(xùn)練及使用進行企業(yè)內(nèi)部自查，并及時做出調(diào)整。

建立多部門聯(lián)動機制。在企業(yè)數(shù)字化轉(zhuǎn)型之初，管理層需強化部門協(xié)調(diào)聯(lián)動，通過建立部門間信息溝通、規(guī)劃統(tǒng)籌、協(xié)調(diào)服務(wù)、跟蹤問效等多項制度，完善牽頭部門負責(zé)、相關(guān)部門配合、集團公司監(jiān)督的部門協(xié)調(diào)聯(lián)動機制，幫助智能技術(shù)服務(wù)在企業(yè)內(nèi)外部高效落地。對涉及部門灌輸和培養(yǎng)風(fēng)險優(yōu)化的意識，從產(chǎn)品設(shè)計之初就將信任的概念嵌入到服務(wù)和產(chǎn)品中，使得利益相關(guān)方能夠在技術(shù)服務(wù)中建立信任，追求長期的價值。

數(shù)字化浪潮帶來了新的機遇，也帶來了新的風(fēng)險和困難。對于通信企業(yè)而言，需要擁抱機遇，積極應(yīng)對智能技術(shù)風(fēng)險，提前部署體制，規(guī)范落實機制，謹防風(fēng)險管理與企業(yè)戰(zhàn)略產(chǎn)生割裂，避免風(fēng)險預(yù)警與管控缺乏時效性，大力推動企業(yè)數(shù)字化轉(zhuǎn)型進程，在時代的風(fēng)雪中抱薪前行。

*?作者系中國移動通信集團浙江有限公司內(nèi)審部專項審計部經(jīng)理