摘 要：人工智能技術的顛覆性、復雜性以及社會關聯(lián)性，特別是強人工智能的可能性，引發(fā)了諸多方面的倫理挑戰(zhàn)和風險。人工智能倫理對于人工智能技術進步、人工智能科技向善有著重要的調(diào)和作用。對人工智能的研發(fā)和從業(yè)人員來說，了解人工智能中的倫理風險、遵守人工智能的職業(yè)道德規(guī)范、培養(yǎng)人工智能的倫理思維和意識，無論對人工智能技術進步、人類社會發(fā)展，還是個人職場發(fā)展，都有著重要的意義。本文對人工智能倫理的歷史淵源進行了梳理，對人工智能倫理的主要問題及治理進行了簡要介紹，并結合教學實踐對“人工智能倫理”課程教學進行了討論。

關鍵詞：人工智能倫理；風險；職業(yè)道德規(guī)范；課程建設；人才培養(yǎng)；素質教育

人工智能（Artificial Intelligence，AI）作為引領未來的戰(zhàn)略性技術，日益成為驅動經(jīng)濟社會各領域從數(shù)字化、網(wǎng)絡化向智能化加速躍升的重要引擎。2017年7月，我國《新一代人工智能發(fā)展規(guī)劃》提出了面向2030年我國新一代人工智能發(fā)展的指導思想、戰(zhàn)略目標、重點任務等。人工智能在帶來巨大機遇的同時，也蘊含著風險和挑戰(zhàn)。2018年10月中共中央政治局就人工智能發(fā)展現(xiàn)狀和趨勢舉行第九次集體學習，習近平總書記指出，要加強人工智能發(fā)展的潛在風險研判和防范，維護人民利益和國家安全，確保人工智能安全、可靠、可控。2019年6月，國家新一代人工智能治理專業(yè)委員會發(fā)布《新一代人工智能治理原則——發(fā)展負責任的人工智能》，提出AI治理的框架和行動指南，強調(diào)了公平公正、尊重隱私、安全可控、同擔責任、開放協(xié)作、敏捷治理等八條原則。2021年9月，國家新一代人工智能治理專業(yè)委員會發(fā)布《新一代人工智能倫理規(guī)范》，明確提出“將倫理道德融入人工智能全生命周期，促進公平、公正、和諧、安全，避免偏見、歧視、隱私和信息泄露等問題”。

在國外，2017年12月國際電氣電子工程師協(xié)會發(fā)布《符合倫理設計：人工智能和自主系統(tǒng)促進人類福祉的遠景》。2019年4月歐盟委員會下屬的歐洲人工智能高級別專家組撰寫并發(fā)布了人工智能道德準則《可信賴AI的倫理指導原則》。2019年6月美國發(fā)布的《國家人工智能研究和發(fā)展戰(zhàn)略規(guī)劃》中七項戰(zhàn)略之一是“理解人工智能的倫理、法律和社會影響，開發(fā)用于設計與倫理、法律和社會目標一致的人工智能研發(fā)方法；建立倫理人工智能，設計符合倫理道德的人工智能體系”。2021年11月，聯(lián)合國教科文組織（UNESCO）通過了首個全球性的AI倫理協(xié)議《人工智能倫理建議書》。

人工智能技術及其產(chǎn)業(yè)的可持續(xù)健康發(fā)展離不開人工智能倫理治理。人工智能倫理治理需要積極開展人工智能倫理教育。高等院校在開展人工智能教學時[1-3]，要及時開展人工智能倫理課程教學，培養(yǎng)大學生的倫理道德素養(yǎng)，無論對人工智能技術進步、人類社會發(fā)展，還是大學生個人職場發(fā)展，都有著重要的意義。

一、人工智能倫理淵源

人工智能倫理學（Ethics of Artificial Intelli-gence）是針對人工智能系統(tǒng)的應用倫理學的一個分支。人工智能倫理是人類設計、制造、使用和對待人工智能系統(tǒng)的道德、機器倫理中的機器行為以及超級人工智能的奇點問題[4]。

首先，機器人通常被認為是人工智能系統(tǒng)的載體，機器人是人工智能的承載者。但是，不是所有的機器人都通過人工智能系統(tǒng)發(fā)揮作用，也不是所有的人工智能系統(tǒng)都是機器人。因此，人工智能倫理與機器人倫理相互交叉。其次，機器學習是人工智能的核心技術，機器學習被譽為“算法+算力+數(shù)據(jù)”。由此，人工智能倫理與數(shù)據(jù)倫理、網(wǎng)絡倫理、計算機倫理、信息倫理具有密切的聯(lián)系[4]。

計算機倫理（學）（Computer Ethics）是計算機設計、開發(fā)和應用以及計算機信息的生產(chǎn)、存儲、交換和傳播中所涉及的倫理道德問題。計算機倫理最早可追溯到20世紀40年代。1948年，維納（Norbert Wiener）在《控制論》（Cybernetics）一書中指出：“像眾所周知的原子彈一樣……超高速計算機器給人類帶來的是美好還是罪惡？”1950年，他的另一本書《人有人的用處》（The Human Use of Human Beings）的觀點為計算機倫理學研究奠定了基礎。1958年發(fā)生了世界上第一起計算機犯罪：一位程序員使用計算機代碼來防止他的銀行賬戶被標記為透支。當時沒有法律能夠阻止，因此他沒有受到指控。人們意識到，為了避免通過計算機進行類似金融犯罪的發(fā)生，有必要設立計算機的相關道德準則。1976年，曼娜（Walter Maner）正式提出“計算機倫理學”這一概念，并率先將自己的理論用于教學實踐。計算機倫理的主要問題包括：個人隱私、計算機犯罪、知識產(chǎn)權、職業(yè)道德等[4]。

信息倫理（學）（Information Ethics）是從倫理學角度研究和探討信息以及信息傳遞過程中的道德倫理問題，以揭示信息傳遞中的道德倫理規(guī)律。1985年，卡普羅（Rafael Capurro）發(fā)表論文《信息科學中的道德問題》（“Moral issues in information science”），研究了電子形式下專門信息的生產(chǎn)、存儲、傳播和使用問題，包括信息研究、信息科學教育、信息工作領域中的倫理問題，是最早的以信息科學作為倫理學研究對象的論文。1986年，梅森（Richard O. Mason）提出了著名的“PAPA”理論，即，信息隱私（Privacy）、信息正確（Accuracy）、信息產(chǎn)權（Property）、信息存取（Accessibility）。1999年卡普羅的論文《數(shù)字圖書館的倫理問題》（“Ethical Aspects of Digital Libraries”）對信息時代下圖書館方面產(chǎn)生的倫理問題進行了分析和論述。2000年，卡普羅的論文《21世紀信息社會的倫理挑戰(zhàn)》（“Ethical challenges of the information society in the 21st century”）將信息倫理從計算機倫理中區(qū)分出來，強調(diào)了信息倫理學。信息倫理的主要問題包括：知識產(chǎn)權、個人隱私、信息污染、信息安全、信息鴻溝和文化侵害等[4]。

信息倫理學有廣義和狹義之分：狹義的信息倫理學是研究信息和知識管理（與管理倫理學有關）以及圖書館、檔案領域的倫理問題的應用倫理學科。廣義的信息倫理學是探討與信息相關的所有方面的倫理問題，而不局限于信息情報技術的范圍。隨著信息倫理學研究范圍和深度的不斷拓展，人們逐漸認識到，信息倫理學與計算機倫理學雖具有密切的關系，但信息倫理學不完全等同于計算機倫理學，信息倫理學有著更廣闊的研究范圍，涵蓋了前者的研究范圍。計算機倫理學融入信息倫理學、被信息倫理學取而代之代表了諸多學者的一種觀點[4]。

網(wǎng)絡倫理（學）（Network Ethics，Internet Ethics，Cyber Ethics），又稱為計算機網(wǎng)絡倫理學，是在計算機信息網(wǎng)絡領域調(diào)節(jié)人與人、人與社會之間特殊利益關系的道德價值觀念和行為規(guī)范，是研究計算機網(wǎng)絡中的倫理問題以及計算機網(wǎng)絡引起的社會倫理問題的一門應用性學科。20世紀90年代，計算機信息技術與互聯(lián)網(wǎng)通信技術融合，推動人類進入信息化程度更高的網(wǎng)絡時代。相較于計算機信息技術，網(wǎng)絡技術對人們生產(chǎn)、生活、學習和工作方式的影響要更加深刻。網(wǎng)絡技術在使用過程中不僅出現(xiàn)了傳統(tǒng)計算機倫理問題，還出現(xiàn)了新的倫理問題，計算機倫理學的外延得到進一步拓展。1996年，羅格森（Simon Rogerson）和貝奈姆（Terrell Ward Bynum）共同發(fā)文《信息倫理：第二代》（“Information Ethics： the Second Generation”）指出，第一代計算機倫理學存在研究范圍有限、深度不夠和應用領域狹窄等問題。高尼亞科（Krystyna Gorniak）倡導建立有力的信息倫理理論來為網(wǎng)絡社會提供指南和決策。為了更加全面、深入地研究和解決信息網(wǎng)絡技術和信息網(wǎng)絡系統(tǒng)相關的倫理問題，學術界在傳統(tǒng)計算機倫理學的基礎上將計算機倫理學的研究范圍向外拓展到互聯(lián)網(wǎng)，進入計算機倫理學的第二個階段，為了凸顯網(wǎng)絡信息這一專門領域的特點，一些學者將該階段稱為網(wǎng)絡倫理階段，這一階段的計算機倫理學稱為網(wǎng)絡倫理學[4]。

大數(shù)據(jù)倫理（學）（Big Data Ethics），簡稱為數(shù)據(jù)倫理（學），是大型數(shù)據(jù)的采集、開發(fā)、利用和保護的道德規(guī)范，關注的是由大型數(shù)據(jù)集的收集和分析引起的倫理問題。數(shù)據(jù)倫理作為大數(shù)據(jù)時代的新概念，它來源于信息倫理、網(wǎng)絡倫理和計算機倫理，但又需要新的范式來適應大數(shù)據(jù)時代的需求。2012年9月，戴維斯（Kord Davis）和帕特森（Doug Patterson）出版的《大數(shù)據(jù)倫理：平衡風險與創(chuàng)新》（Ethics of Big Data： Balancing Risk and Innovation）開啟了數(shù)據(jù)倫理的先河。2013年，舍恩伯格（Viktor Mayer-Sch?nberger）和庫克耶（Kenneth Cukier）的《大數(shù)據(jù)》（Big Data）一書將大數(shù)據(jù)倫理界定為新的隱私問題、數(shù)據(jù)安全問題、虛假數(shù)據(jù)問題。數(shù)據(jù)倫理的主要問題包括：數(shù)字身份、數(shù)據(jù)隱私、數(shù)據(jù)權利、數(shù)據(jù)獨裁、數(shù)字鴻溝等[4]。

現(xiàn)代信息技術是信息倫理學產(chǎn)生與演進的邏輯依據(jù)，即隨著信息技術的發(fā)展，信息倫理學不斷形成新的研究領域。20世紀70年代，因研究計算機技術引發(fā)的倫理問題，產(chǎn)生了計算機倫理學。到了20世紀90年代，信息技術拓展到互聯(lián)網(wǎng)領域，與信息相關的倫理研究發(fā)展為網(wǎng)絡倫理學。進入21世紀，大數(shù)據(jù)作為信息化發(fā)展的高級階段，產(chǎn)生了新的倫理現(xiàn)象，引發(fā)新的倫理問題，逐步形成了新的道德價值和道德規(guī)范，即數(shù)據(jù)倫理學。信息倫理學是一個動態(tài)的概念，其內(nèi)涵隨著信息社會的變化而變化。信息技術的推進和信息化程度的加深，促使信息倫理學的研究范圍不斷向外拓展，已經(jīng)深入與信息領域有關的所有倫理問題，超出了傳統(tǒng)計算機倫理學與網(wǎng)絡倫理學的邊界。總體上，信息倫理學的內(nèi)涵經(jīng)歷了計算機倫理、網(wǎng)絡倫理到大數(shù)據(jù)時代信息倫理（數(shù)據(jù)倫理）的歷史演變，逐步形成了一種抽象層次的、具有整體視野和普遍意義的信息倫理學[4]。

機器人倫理（學）（Robot Ethics）是人類設計、建造、使用和對待機器人的道德，是關涉機器人的建造和使用的倫理學。機器倫理（學）（Machine Ethics）是如何確保使用人工智能的人工機器或人工智能體（Artificial Moral Agents）具有道德的行為，是人工道德智能體、機器人或人工智能計算機行為的道德（或倫理）設計。機器倫理學與機器人倫理學的內(nèi)涵略有差異。機器人倫理學屬于“以人為中心”的倫理學，責任主體是人，主要研究設計者在機器人設計、使用中的倫理規(guī)范以及把人類道德規(guī)范嵌入機器人系統(tǒng)等問題；機器倫理學是機器人具有了人類智能后應該遵循的倫理規(guī)范，機器倫理學是“以機器為中心”的倫理學，責任主體是機器。

機器人倫理學的根源濫觴于科幻文學作品之中。1936年，恰佩克（Karel Capek）在喜劇《羅素姆的萬能機器人》（Rossums Universal Robots）中首次使用了“Robota”一詞，后來演化為“Robot”，該詞指的是經(jīng)過生物零件組裝、為人類服務的奴隸。恰佩克創(chuàng)制該詞的原意是指“勞動”或“奴役”，為倫理道德的引入提供了對象載體。巴特勒（Samuel Butler）在1863年就已開始考慮機器成為人類繼任者的可能性。他在該問題上做了深刻的哲學反思，不僅表現(xiàn)在對智能機器的一般性探討，而且也轉向了機器倫理方面（利用倫理原則對機器行為進行規(guī)約和引導）的討論。1942年，阿西莫夫（Isaac Asimov）的短篇小說《環(huán)舞》（Run Around）闡述了著名的“機器人三定律”。1987年，沃爾德羅普（Mitchell Waldrop）的論文《責任問題》（“A Question of Responsi-bility”）正式提出機器倫理這一術語。2002年在意大利召開的國際機器人倫理學研討會上，首次使用了“機器人倫理學”（Roboethics），并提出把“機器人倫理學”細化為“機器倫理學”和“機器人倫理學”兩個應用分支學科。2017年，機器人索菲亞（Sophia）被授予沙特阿拉伯國籍（第一個擁有國籍的機器人），引發(fā)了若干爭議，如，索菲亞是否可以投票選舉或結婚？故意關閉系統(tǒng)是否視為謀殺等。機器人倫理的主要問題包括：機器人的權利、人與機器人的關系、機器人法律、專門領域機器人道德等[4]。

以2016年阿爾法狗（AlphaGo）贏得人機圍棋大戰(zhàn)為標志，人工智能倫理成為世界各國政府、組織機構以及大型科技企業(yè)的人工智能政策的核心內(nèi)容之一。學者們也對人工智能倫理及相關問題開展了積極廣泛的研究和探討。2017年，伯德丁頓（Paula Boddington）出版了首部AI倫理著作《走向人工智能的道德準則》（Towards a Code of Ethics for Artificial Intelligence），闡述了如何借鑒其他領域的經(jīng)驗教訓制定人工智能倫理規(guī)范或其他法規(guī)，并介紹了人工智能職業(yè)道德的特點，認為人工智能倫理的主要問題包括：隱私泄露、偏見歧視、責權歸屬、技術濫用等[4]。

綜上可知，人工智能倫理源于計算機倫理、信息倫理、網(wǎng)絡倫理、數(shù)據(jù)倫理和機器人倫理（見圖1）。從計算機倫理、信息倫理、網(wǎng)絡倫理、數(shù)據(jù)倫理、機器人倫理到人工智能倫理，有其發(fā)展的繼承性，有很多相似之處，但也有不同（見圖2）。

二、人工智能倫理課程的開設情況

人工智能倫理教育逐步引起了國內(nèi)外高等學校的關注。美國斯坦福大學于2014年首先開設了人工智能倫理相關課程“人工智能中的哲學、倫理及其影響”（Artificial Intelligence-Philosophy， Ethics， and Impact），涉及內(nèi)容包括：人工智能歷史，哲學問題，倫理問題，法律、社會及經(jīng)濟影響，未來挑戰(zhàn)等。2017年至2019年間，美國哈佛大學、麻省理工學院、卡內(nèi)基梅隆大學等，英國的愛丁堡大學、卡迪夫大學等，加拿大的麥吉爾大學、滑鐵盧大學等，荷蘭的代爾夫特大學等一大批歐美高校陸續(xù)開設了人工智能倫理相關課程。盡管這些課程的授課內(nèi)容存在差異，但是大部分課程都對經(jīng)典倫理理論、人工智能倫理問題、典型倫理案例、未來政策及挑戰(zhàn)等主題進行了介紹和討論。

在國內(nèi)，南京大學于2019年出版了《南京大學人工智能本科專業(yè)教育培養(yǎng)體系2019》，將“人工智能倫理”課程（2學分）列入人才培養(yǎng)方案[5]，課程教學內(nèi)容包括：人工智能與倫理簡介、倫理規(guī)范、人工智能倫理的案例及分析、應對技術變革的措施、人工智能倫理的發(fā)展之路等。西安交通大學于2019年出版了《人工智能本科專業(yè)知識體系與課程設置》，其中設置了由“人工智能的哲學基礎與倫理”（1學分）和“人工智能的社會風險與法律”（1學分）共兩門課程組成的人工智能與社會課程群[6]?！叭斯ぶ悄艿恼軐W基礎與倫理”課程的教學內(nèi)容有：人工智能的一般哲學問題、強人工智能的哲學問題、人工智能的倫理規(guī)范問題、人工智能系統(tǒng)的道德困境等?！叭斯ぶ悄艿纳鐣L險與法律”課程的教學內(nèi)容包括：人工智能的產(chǎn)業(yè)發(fā)展與政策規(guī)制、人工智能的社會風險、人工智能的法律挑戰(zhàn)以及人工智能與未來社會等。西安電子科技大學于2019年出版了《人工智能學院本碩博培養(yǎng)體系》，將“人工智能中的道德法律”課程（1學分）列為選修課[7]。

同時，北京大學于2019年開設了“人工智能與機器人倫理”課程，教學內(nèi)容包括：AI的基本問題、發(fā)展歷史，人的心智與智能，AI倫理與社會影響，AI中的法律與治理等。復旦大學于2019年開設了“人工智能：語言與倫理”課程，其授課內(nèi)容由人工智能史、超級人工智能、人工智能與自然語言處理、機器翻譯問題、具有道德意識的機器人設計、如何建造儒家機器人等內(nèi)容組成。暨南大學于2021年開設了“人工智能倫理導論”通識課。但迄今為止，國內(nèi)高校人工智能倫理相關課程的開設還非常欠缺。

三、人工智能倫理課程的教學設計

人工智能倫理課程的教學目標應該著力培養(yǎng)學生建立AI技術應用、AI技術研發(fā)、AI系統(tǒng)設計、AI系統(tǒng)運維中的倫理意識，要求學生了解在AI技術應用、AI技術研發(fā)、AI系統(tǒng)設計、AI系統(tǒng)運維中的倫理規(guī)范（和職業(yè)道德），要求學生基本具備在AI技術應用、AI技術研發(fā)、AI系統(tǒng)設計、AI系統(tǒng)運維中的倫理思維和倫理決策能力。

表1給出了結合教學實踐設計的人工智能倫理課程教學計劃（2學分）。課程授課內(nèi)容大致包括三大部分：人工智能及倫理風險、人工智能倫理問題、職業(yè)素養(yǎng)與道德規(guī)范。人工智能及倫理風險部分講授人工智能的發(fā)展歷史、經(jīng)典倫理理論基礎、人工智能的倫理風險、人工智能倫理的歷史淵源、人工智能治理的基本路徑。人工智能倫理問題部分結合計算機視覺、自然語言處理、語音識別、生物特征識別、推薦系統(tǒng)、無人駕駛、人工智能創(chuàng)作等人工智能應用的典型案例，分析講授人工智能應用中隱私泄露、偏見歧視、責權歸屬、技術濫用等主要倫理問題。職業(yè)道德準則部分講授人工智能應用、研發(fā)、設計人員應該遵守的職業(yè)道德，以及可信賴人工智能的基本治理原則。

總而言之，目前國內(nèi)高校主要設置了“人工智能”和“智能科學與技術”兩個人工智能類的主要本科專業(yè)[8]，現(xiàn)有人工智能和智能科學與技術本科專業(yè)點數(shù)共計643個。積極開展人工智能倫理課程教學研究，建立適合我國國情的人工智能倫理課程教學內(nèi)容、教學方式和課程教材，顯得十分迫切和必要。

參考文獻：

[1] 吳飛，吳超，朱強. 科教融合和產(chǎn)教協(xié)同促進人工智能創(chuàng)新人才培養(yǎng)[J]. 中國大學教學，2022（1/2）：15-19.

[2] 劉江，章曉慶. 面向非計算機專業(yè)的人工智能導論課程建設與探索[J]. 中國大學教學，2022（1/2）：46-51.

[3] 胡清華，王國蘭，王鑫. 校企深度融合的人工智能復合型人才培養(yǎng)探索[J]. 中國大學教學，2022（3）：43-50，57.

[4] 古天龍. 人工智能倫理導論[M]. 北京：高等教育出版社，2022.

[5] 南京大學人工智能學院. 南京大學人工智能本科專業(yè)教育培養(yǎng)體系 2019[M]. 北京：機械工業(yè)出版社，2019.

[6] 鄭南寧. 人工智能本科專業(yè)知識體系與課程設置[M]. 北京：清華大學出版社，2019.

[7] 焦李成，李陽陽，侯彪，等. 人工智能學院本碩博培養(yǎng)體系[M]. 北京：清華大學出版社，2019.

[8] 古天龍. 適應辦學層次/類型的人工智能專業(yè)建設[J]. 中國大學教學，2020（10）：25-29.

古天龍，暨南大學教授，教育部高等學校計算機類專業(yè)教學指導委員會副主任委員。