楊會軍 程啟華

摘要：人工智能是人類第四次工業(yè)革命進程中的關(guān)鍵技術(shù)，將會深刻影響人類社會的發(fā)展進程。人工智能技術(shù)的發(fā)展伴隨著一系列倫理問題，例如安全隱患、隱私泄露，以及自主選擇權(quán)的放棄等。通過對人工智能技術(shù)及其倫理問題的分析，可以得出人工智能技術(shù)和倫理之間的辯證關(guān)系，并提出應(yīng)對人工智能技術(shù)倫理問題的若干策略。堅持“以人為本”的科學(xué)發(fā)展精神，使得人工智能能夠始終走在向善、為人類福祉服務(wù)的發(fā)展道路上。

關(guān)鍵詞：人工智能，技術(shù)倫理，對策

人工智能是人類第四次工業(yè)革命進程中的關(guān)鍵技術(shù)，通過模擬人類智能和學(xué)習(xí)能力，計算機系統(tǒng)完成類似人類智能的任務(wù)和活動。當(dāng)今社會受人工智能技術(shù)影響較深，主要表現(xiàn)在以下方面：

第一，對產(chǎn)業(yè)結(jié)構(gòu)的影響?？茖W(xué)技術(shù)是第一生產(chǎn)力，人工智能技術(shù)作為新一代科技革命的代表，將極大地推動已有產(chǎn)業(yè)結(jié)構(gòu)的變革。高附加值崗位，如以“復(fù)雜智力”為代表的職位，逐漸取代了以“簡單體力”為代表的低附加值崗位。

第二，對供需關(guān)系的影響。人工智能和人類生產(chǎn)和生活緊密結(jié)合，社會生產(chǎn)力的發(fā)展導(dǎo)致供需關(guān)系產(chǎn)生變化，從而培育出新的價值增長點。

人工智能技術(shù)一方面提高了生產(chǎn)效率，方便了人們的生活；另一方面，如果不加以引導(dǎo)，技術(shù)發(fā)展可能帶來適得其反的不良后果，并引發(fā)大量倫理問題。因此，人工智能的倫理規(guī)范至關(guān)重要。包括為智能機器人預(yù)設(shè)道德準(zhǔn)則、設(shè)定人工智能技術(shù)研發(fā)及應(yīng)用標(biāo)準(zhǔn)、建立人工智能產(chǎn)品本身的道德指引，以及規(guī)范科研人員的倫理行為[1]。本文針對人工智能技術(shù)發(fā)展過程中所伴生的倫理問題，從技術(shù)和倫理兩個角度進行研究，分析技術(shù)倫理和人工智能之間的辯證關(guān)系，并提出解決人工智能倫理問題的若干對策。

一、人工智能技術(shù)及其倫理問題

（一）人工智能技術(shù)及其存在的問題

1956年的達特茅斯會議上首次提出了人工智能的概念，隨后相關(guān)技術(shù)取得了突破性進展，其發(fā)展日新月異。

人工智能的本質(zhì)是對人類思維的模擬。這種模擬可以通過結(jié)構(gòu)模擬和功能模擬來實現(xiàn)[2]。采用類比的方法來仿真人腦的組織結(jié)構(gòu)，創(chuàng)造出類似人腦的機器；功能模擬對人腦進行抽象分析，將人腦分解為若干功能模塊，在功能上模擬人類思維過程。相較于結(jié)構(gòu)模擬，功能模擬更為簡化。隨著人類對人腦研究深入，基于結(jié)構(gòu)模擬的人工智能產(chǎn)品將具備更多人類智慧，也給人類帶來更大的挑戰(zhàn)。

在人工智能發(fā)展的早期階段，人類通過簡單的程序來控制機器設(shè)備，機器設(shè)備是執(zhí)行者，按照指令完成工作，本身沒有自學(xué)習(xí)能力。但隨著以機器學(xué)習(xí)、深度學(xué)習(xí)為代表的人工智能技術(shù)的進步，機器設(shè)備通過模擬人類的神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)獲得了自學(xué)習(xí)能力。機器的智力水平和學(xué)習(xí)效果與其所接觸的樣本數(shù)量有關(guān)。再加上機器學(xué)習(xí)的速度遠超人類的學(xué)習(xí)速度，可以預(yù)見，人工智能將對人類智能帶來挑戰(zhàn)。

科學(xué)技術(shù)是一把“雙刃劍”，既可以造福人類，也可能帶來災(zāi)難[3]。同樣，人工智能也存在著一些潛在的風(fēng)險和倫理問題，需要人們在其發(fā)展過程中加以重視和規(guī)范，確保其積極影響人類社會。

1.便利與危險并存

在新型冠狀病毒肆虐的疫情期間中，人工智能起到了重要作用。新型冠狀病毒傳染性極強，為了切斷傳播路徑，國家實行動態(tài)清零的抗疫政策。并利用人工智能技術(shù)分析與感染人員（區(qū)域）有交叉的相關(guān)人員的時空數(shù)據(jù)。及時通知并做好備案篩查工作，使得疫情能夠及時得到控制。同時，利用融合了人工智能技術(shù)的措施，如疫情防控健康碼和核酸檢測數(shù)據(jù)的實時更新，也起到了良好的抗疫效果。另一方面，在疫情防控期間，有些不法分子在社交平臺上有目的地散布虛假信息，制造恐慌和混亂。人工智能技術(shù)也起到了很好的作用，通過自動化的文本分析和情感識別技術(shù)，快速識別和篩查出不實信息。此外，人工智能還可以幫助監(jiān)測大數(shù)據(jù)中的信息流動，及時發(fā)現(xiàn)和追蹤病例的傳播路徑，從而更有效地進行疫情控制?？傮w而言，人工智能在新冠疫情期間發(fā)揮了重要作用，為防控工作提供了有力支持。

無人駕駛技術(shù)是指在無需人類干預(yù)的情況下，實現(xiàn)車輛自主控制與操作，從而實現(xiàn)汽車駕駛自動化技術(shù)。無人駕駛可以將人類從單調(diào)乏味的駕駛過程中解放出來，讓人們專注于風(fēng)景或工作，大大提高了駕駛的舒適度。然而，機器的智能化控制是由“智能芯片+驅(qū)動模塊”組成的，代表了電子產(chǎn)品的可靠性問題。例如，程序控制中可能出現(xiàn)的“程序跑飛”現(xiàn)象。雖然這種情況發(fā)生的概率很低，但人們對將自己的生命完全交給“智能芯片+驅(qū)動模塊”需要有很大的勇氣。在2023年4月，谷歌旗下自動駕駛公司W(wǎng)aymo的無人駕駛車輛在接送乘客過程中遇到了交通管制。交警示意車輛靠邊停車，但無人駕駛車沒有立即做出反應(yīng)，而乘客也無法使汽車按照交警的手勢行駛。而在2018年3月，美國亞利桑那州一名女子不幸被一輛處于自動駕駛模式的Uber汽車撞傷，后來不幸身亡。因此，目前來看，人工智能系統(tǒng)存在系統(tǒng)漏洞和能力缺陷。

2.數(shù)據(jù)的消費者與隱私的失控

大數(shù)據(jù)被譽為“未來的新石油”，是人工智能學(xué)習(xí)和判斷的基礎(chǔ)。因此，人工智能需要不斷地從物理世界中獲取數(shù)據(jù)、分析數(shù)據(jù)、挖掘數(shù)據(jù)，從而為人們提供實時精準(zhǔn)的服務(wù)。

每個人既是數(shù)據(jù)的貢獻者，也是數(shù)據(jù)的消費者。這些數(shù)據(jù)既包括公共數(shù)據(jù)，也包括私有數(shù)據(jù)。如果私有數(shù)據(jù)被不法分子濫用的話，將會帶來隱私的失控，給個人帶來傷害。在萬物互聯(lián)的時代，人們享受到了高效、便捷的生活，但個人的性格特點、興趣愛好、意識形態(tài)、行蹤軌跡等都被系統(tǒng)記錄下來且無法消除。這些交織在一起的數(shù)據(jù)信息在毫無防備的情況下不受控地流向何方，人們根本無從所知。未來的人工智能依靠這些汲取的信息不斷地進化迭代出新一代的智能體，因此很難說是人掌控著塑造出來的人工智能，還是人被人工智能所掌控？

3.被動的“多”和主動的“少”

在20世紀(jì)，人們主要通過查閱書刊和積累經(jīng)驗來獲取信息。然而，在當(dāng)今的信息時代，人們可以通過百度、谷歌等搜索工具快速獲取未知領(lǐng)域的信息。人工智能能夠根據(jù)搜索關(guān)鍵詞分析用戶的興趣點，并定期推送相關(guān)主題的信息，大大提高了信息獲取的效率。導(dǎo)航軟件如百度地圖和高德地圖可以根據(jù)實時路況信息為人們規(guī)劃不同的路徑選擇。旅游類APP如攜程和同程旅游能夠為人們提供交通、飲食、住宿、導(dǎo)游等一條龍服務(wù)。網(wǎng)上購物平臺可以根據(jù)人們的瀏覽記錄推送相關(guān)商品選擇。從用戶的角度來看，人們在被動地選擇，有時甚至不需要選擇，系統(tǒng)已經(jīng)給出了答案。這有可能造成人們自身主動性的逐漸喪失，把它交給了人工智能，讓人工智能來做選擇，這很可能會使人們陷入“信息繭房”[4]的困境。

當(dāng)人們信賴人工智能時，其實是無條件接受了人工智能背后的規(guī)則。而這些規(guī)則對人們就像一個“黑箱”，但又并不能準(zhǔn)確地分析和描述“黑箱”背后的工作流程以及“黑箱”操作背后的規(guī)則。由于個體的差異，這些規(guī)則并不能適合于每一個人。只是被動地接受人工智能提供的若干選項，將自身的主動權(quán)和決策權(quán)交給了自己并不了解的人工智能。而人工智能提供給人們的信息是根據(jù)開發(fā)者制定的規(guī)則和依據(jù)篩選出來的，因此，人們所獲得的信息是不完整的，這又嚴(yán)重局限了人們的思維，只能在有限的信息空間內(nèi)思考問題。

4.表面的“得到”與背后的“失去”

人工智能技術(shù)的應(yīng)用使得人們的生活日益便捷，享受著高科技帶來的無憂生活。通過對天氣的預(yù)測，人們可以決定是否添加衣物或外出；通過對景區(qū)人流的動態(tài)監(jiān)測，人們可以規(guī)劃自己的旅行目的地；通過對實時路況信息的獲取，人們可以提前規(guī)劃行程，避開擁堵地段，提高效率；通過美食的建議和推送，人們可以選擇享受美食的地點；全球互聯(lián)網(wǎng)技術(shù)大大降低了信息獲取的成本，人工智能基于網(wǎng)絡(luò)數(shù)據(jù)為用戶提供個性化服務(wù)，人們的衣食住行更加便捷，享受到了像保姆般的貼心服務(wù)，促進了社會的繁榮。

在日常生活中，無論是否愿意，每個人都直接或間接成為數(shù)據(jù)的貢獻者。人工智能正在融入并改變著人們的生活，但人工智能所帶來的結(jié)構(gòu)性失業(yè)、算法歧視、隱私泄露等問題讓人們喪失了自主性、獨立性和創(chuàng)造性。笛卡爾曾說過“我思故我在”，人的價值體現(xiàn)在于主觀的能動性、獨立性和創(chuàng)造性。沒有了主動思考能力的人類將面臨更大的失去。如果沒有技術(shù)倫理的限制，人類終有一天會被自己的技術(shù)產(chǎn)品所取代。

（二）人工智能技術(shù)和倫理之間的關(guān)系

在萬物互聯(lián)的時代，人和物本質(zhì)上都是數(shù)據(jù)的貢獻者和消費者。人工智能技術(shù)通過對人的思維過程，賦予智能體學(xué)習(xí)能力，但這也帶來了復(fù)雜的倫理、法律和安全問題。人工智能技術(shù)倫理的目標(biāo)是從道德角度規(guī)范科技開發(fā)人員的活動，確?？萍蓟顒硬粫p害人類的生存條件和健康，保障人類切身利益，實現(xiàn)可持續(xù)發(fā)展[5]。

人工智能技術(shù)和其伴生的技術(shù)倫理問題之間存在著辯證關(guān)系。一方面，技術(shù)與倫理之間存在矛盾。技術(shù)追求的是改變、先進和效率，而倫理強調(diào)的是規(guī)范和秩序。通常情況下，倫理問題滯后于技術(shù)發(fā)展，因此面對新技術(shù)的浪潮，倫理上往往會產(chǎn)生巨大的恐慌。然而，機遇與挑戰(zhàn)并存，絕對禁止這些新技術(shù)，一味地保守可能使人類和新技術(shù)的發(fā)展失去平衡。另一方面，技術(shù)與倫理之間又是統(tǒng)一的。歷史上可以看到，開放包容會帶來科技文化的巨大發(fā)展，而閉關(guān)鎖國則會導(dǎo)致科技文化走向衰落。開放包容并不意味著盲目接受，而是有選擇地進行揚棄。技術(shù)倫理也是如此，其初衷是為了使技術(shù)獲得更好的發(fā)展，通過挖掘優(yōu)勢、舍棄劣勢，讓人工智能始終走在道德善良、造福人類的發(fā)展道路上。技術(shù)和技術(shù)倫理可以看作問題的兩個方面，可讓人們能更全面地看待新技術(shù)，在對立統(tǒng)一中實現(xiàn)人工智能技術(shù)的良性發(fā)展。

二、應(yīng)對人工智能技術(shù)倫理問題的策略

每位科技工作者都應(yīng)該承擔(dān)起時代的責(zé)任和擔(dān)當(dāng)，并主動將自己的工作融入人類時代發(fā)展的大潮之中，為社會的進步貢獻自己的力量。人工智能作為一種新技術(shù)，是一個客觀的存在，技術(shù)本身并不包含社會文化和道德層面的因素，但是該技術(shù)的研究方法、研究過程、研究成果及其應(yīng)用卻具有社會文化和倫理道德的影響因素。因此，人工智能技術(shù)的發(fā)展需要受到技術(shù)倫理的道德引導(dǎo)。針對人工智能技術(shù)的倫理問題，可以從以下幾個方面入手。

第一，鼓勵公眾參與。科技成果推動生產(chǎn)力的進步，并最終影響到公眾的生活。因此，公眾應(yīng)該擁有更多的知情權(quán)。在制定決策前，廣泛且深入地討論人工智能可能存在的倫理問題，采集公眾的建議，并公之于眾，形成諸多成果。在新技術(shù)的良性發(fā)展中，公眾的態(tài)度和意見將提供重要參考，“兼聽則明，偏信則暗”。

第二，開展大學(xué)生工程倫理教育。大學(xué)生是未來人工智能技術(shù)研究的主力軍。因此，在大學(xué)工科教育階段，要及時對相關(guān)專業(yè)的大學(xué)生進行工程倫理教育。使其在學(xué)習(xí)專業(yè)技術(shù)的同時，充分了解工程倫理的概念和內(nèi)涵，能辯證地看待技術(shù)和倫理之間的關(guān)系。牢固樹立“以人為本”的科學(xué)發(fā)展精神。目前，國內(nèi)高校都在開展工程教育認證工作，畢業(yè)要求第六節(jié)明確要求評價“工程方案對社會、健康、安全、法律以及文化的影響，并理解應(yīng)承擔(dān)的責(zé)任”。在理工科大學(xué)教育中全面推進工程倫理教育已成為工程界、教育界和政府相關(guān)部門的共識。

第三，提高科研人員的人文素養(yǎng)?？蒲腥藛T在工作過程中，企業(yè)應(yīng)主動承擔(dān)科研人員的人文素養(yǎng)教育。在開展科技研究的過程中，要將技術(shù)能力和職業(yè)道德并舉，企業(yè)效益和社會責(zé)任兩手抓，兩手都要硬。在科技管理中，加強科研人員的職業(yè)素養(yǎng)教育，提高科研人員遵紀(jì)守法、追求真理、誠實守信、杜絕弄虛作假等職業(yè)道德，弘揚風(fēng)清氣正的科研環(huán)境。

第四，發(fā)揮政府的指導(dǎo)性作用。政府針對人工智能發(fā)展中存在的社會問題進行研究，出臺相關(guān)行政規(guī)章制度，并設(shè)立專門的機構(gòu)進行規(guī)范和監(jiān)督，除了禁止與人性倫理道德完全相違背的技術(shù)及其應(yīng)用外，對于大多數(shù)具有一般性倫理問題的新技術(shù)，可以引入一種倫理“軟著陸”的機制[6]。在剛性規(guī)則不成熟的情況下，政府和企業(yè)可以聯(lián)合出臺指導(dǎo)性的行業(yè)規(guī)約，對技術(shù)的研究和應(yīng)用進行約束，并周期性評估執(zhí)行過程中的規(guī)約，實現(xiàn)倫理在科技應(yīng)用中的“軟著陸”。

第五，進行同行評議。號召不同區(qū)域、不同單位的專家學(xué)者對人工智能技術(shù)及其倫理問題進行評議和審核，同行具有比外行更專業(yè)的知識結(jié)構(gòu)，相互之間的評議更有說服力。此外，專家學(xué)者之間還存在知識結(jié)構(gòu)互補，同行評議方式可以對他人的研究成果進行監(jiān)督和規(guī)范。

第六，開展跨學(xué)科專業(yè)論壇。組織召開跨學(xué)科專業(yè)論壇，參與者可以是利益相關(guān)者，擁有廣泛的視角和經(jīng)驗。包括人工智能技術(shù)專家、生物醫(yī)學(xué)家、社會學(xué)家、倫理學(xué)家、決策者、管理者、研究資助者、公共利益的擁護者、行業(yè)代表和公眾成員等。從不同的角度看待以人工智能為代表的專業(yè)技術(shù)，了解不同學(xué)科的需求和關(guān)切，收集廣泛的意見和建議，最終達成共識。

三、結(jié)束語

人工智能技術(shù)的快速發(fā)展必然帶來一系列倫理問題。在人工智能技術(shù)產(chǎn)業(yè)發(fā)展過程中，需要充分考慮人工智能技術(shù)倫理問題對產(chǎn)業(yè)發(fā)展的影響。這意味著社會在肯定人工智能推動人類社會進步的同時，也要及時發(fā)現(xiàn)技術(shù)存在的不足之處，使人工智能的倫理研究能夠走在技術(shù)發(fā)展的前面。針對人工智能技術(shù)及其存在的問題，本文提出了應(yīng)對人工智能技術(shù)倫理問題的若干策略，以保證人工智能的發(fā)展受到道德倫理的約束。

作者單位：楊會軍 南京工程學(xué)院信息與通信工程學(xué)院

程啟華 南京工程學(xué)院工業(yè)中心

參? 考? 文? 獻

[1]吳漢東.人工智能時代的制度安排與法律規(guī)制[J]. 法律科學(xué)（西北政法大學(xué)學(xué)報）， 2017， 35 （05）： 128-136.

[2]朱欣文. 5G+人工智能時代辦公室工作模式與應(yīng)對策略[J]. 秘書之友， 2020 （02）： 4-7.

[3]張全潔. 人工智能的倫理準(zhǔn)則研究[D]. 蘇州大學(xué)， 2020.

[4]王紹源， 趙君. “物倫理學(xué)”視閾下機器人的倫理設(shè)計——兼論機器人倫理學(xué)的勃興[J]. 道德與文明， 2013 （3）： 133-138.

[5]王蒲生，雷毅.技術(shù)的報復(fù)——科技倫理與科技人員的倫理責(zé)任[J]. 科學(xué)中國人， 2002（05）： 42-44.

[6]劉大椿. 在真與善之間——科技時代的倫理問題與道德抉擇[M]. 北京： 中國社會科學(xué)出版社， 2000.

基金項目：江蘇省教育廳高校哲學(xué)社會科學(xué)研究項目資助（2022SJYB0449）。

楊會軍（1979.10-），男，漢族，河南長葛，博士，高級工程師，研究方向：電磁信息數(shù)據(jù)及應(yīng)用；

程啟華（1979.07-），女，漢族，四川成都，博士，副教授，研究方向：智能測控系統(tǒng)。