文/拓曉瑞 徐久香

0 引言

人工智能（AI）是新一輪科技革命和產(chǎn)業(yè)變革的重要驅(qū)動力量，是推動區(qū)域科技跨越發(fā)展、產(chǎn)業(yè)優(yōu)化升級、生產(chǎn)力整體躍升的重要戰(zhàn)略資源。近年來，廣東緊緊把握全球新一代人工智能發(fā)展重大戰(zhàn)略機(jī)遇，不斷完善人工智能創(chuàng)新鏈和生態(tài)鏈，加速推動人工智能與電子信息、高端裝備制造、生物醫(yī)藥等產(chǎn)業(yè)融合發(fā)展，為構(gòu)筑產(chǎn)業(yè)體系新支柱，實(shí)現(xiàn)經(jīng)濟(jì)高質(zhì)量發(fā)展奠定了堅(jiān)實(shí)基礎(chǔ)。2017年，全省人工智能核心產(chǎn)業(yè)規(guī)模約260億元，占全國產(chǎn)業(yè)規(guī)模的1/3；人工智能企業(yè)300多家，占全國總數(shù)的21.6%，居全國第二；創(chuàng)業(yè)公司134家，占全國總數(shù)的18.9%。我們在看到人工智能取得重大發(fā)展成效的同時(shí)，也需要認(rèn)真研究和處理人工智能所帶來的個(gè)人隱私保護(hù)、倫理道德、勞動力替代等社會問題，統(tǒng)籌考慮、前瞻布局，積極應(yīng)對各種潛在風(fēng)險(xiǎn)與挑戰(zhàn)，推動我省人工智能科學(xué)、快速發(fā)展。

1 人工智能的個(gè)人隱私保護(hù)問題

進(jìn)入人工智能時(shí)代，大數(shù)據(jù)技術(shù)與智能技術(shù)實(shí)現(xiàn)融合發(fā)展，政府、企業(yè)等創(chuàng)新主體的決策越來越依賴大量的數(shù)據(jù)分析，大規(guī)模數(shù)據(jù)的收集、分析和使用，使得傳統(tǒng)社會不斷走向透明化，給人們的隱私保護(hù)帶來諸多風(fēng)險(xiǎn)與挑戰(zhàn)。一是個(gè)人數(shù)據(jù)有可能隨時(shí)被收集。人工智能產(chǎn)品被廣泛應(yīng)用后，這些智能化產(chǎn)品能夠自動收集各類用戶數(shù)據(jù)，包括個(gè)人姓名、性別、電話號碼、電子郵箱、地理位置、家庭住址等，這些數(shù)據(jù)海量收集會對用戶形成全面追蹤。二是個(gè)人數(shù)據(jù)存在泄漏風(fēng)險(xiǎn)。利用大數(shù)據(jù)分析技術(shù)不僅能夠識別出特定的群體，還能分析出群體內(nèi)個(gè)人的購物習(xí)慣、行蹤軌跡等信息，進(jìn)一步擴(kuò)大了隱私暴露的風(fēng)險(xiǎn)。三是現(xiàn)有信息安保技術(shù)并不是特別安全。由于黑客攻擊、系統(tǒng)安全漏洞等原因，個(gè)人數(shù)據(jù)始終面臨著被泄露的潛在安全風(fēng)險(xiǎn)，例如，2016年9月，全球互聯(lián)網(wǎng)巨頭雅虎證實(shí)至少有5億用戶賬戶信息遭人竊取，內(nèi)容涉及用戶姓名、電子郵箱、電話號碼、出生日期和部分登錄密碼，在業(yè)界引起巨大轟動與不安。四是掌握信息數(shù)據(jù)的公司對個(gè)人隱私保護(hù)不夠重視。目前廣大用戶數(shù)據(jù)多數(shù)聚集在大型互聯(lián)網(wǎng)或數(shù)據(jù)處理公司手中，他們出于商業(yè)利益考慮，對保護(hù)用戶個(gè)人隱私的意愿和動力并不強(qiáng)烈，缺乏足夠的技術(shù)保護(hù)手段，導(dǎo)致用戶數(shù)據(jù)基本處于“裸露”狀態(tài)。五是有關(guān)個(gè)人信息保護(hù)的法律法規(guī)不完善。在法律法規(guī)制定過程中，關(guān)于如何對個(gè)人信息進(jìn)行界定，被遺忘權(quán)、攜帶權(quán)等新型數(shù)據(jù)權(quán)力是否納入到未來個(gè)人信息保護(hù)立法，以及如何確保個(gè)人數(shù)據(jù)安全和數(shù)據(jù)跨境流動之間的平衡等問題，尚未達(dá)成一致性意見。

為更好地應(yīng)對個(gè)人隱私和數(shù)據(jù)保護(hù)的挑戰(zhàn)，各國通過政策制定、立法、技術(shù)等手段進(jìn)一步強(qiáng)化對個(gè)人信息的保護(hù)。其中，“匿名化處理”技術(shù)被廣泛應(yīng)用1。但值得注意的是，人們在使用各種人工智能產(chǎn)品時(shí)，本身就是主動的隱私泄密者，任何技術(shù)手段的“匿名”或“去身份化”可能都會因?yàn)榇髷?shù)據(jù)的分析而重新獲得“身份”。當(dāng)前迫切需要做的是如何完善有關(guān)法律法規(guī)，推動個(gè)人信息數(shù)據(jù)的合理、合規(guī)、安全使用，最大限度降低隱私泄露風(fēng)險(xiǎn)。

廣東作為全國人工智能產(chǎn)業(yè)大省，擁有華為、騰訊、大疆科技、柔宇科技、碳云智能等300多家人工智能企業(yè)，人工智能產(chǎn)品及技術(shù)廣泛應(yīng)用于政務(wù)、醫(yī)療、金融、制造、零售和教育等場景領(lǐng)域。當(dāng)今萬物互聯(lián)、大數(shù)據(jù)和機(jī)器智能“疊加”發(fā)展日趨明顯，各類數(shù)據(jù)信息成百倍增長，特別是在各級政府的大力推動下，廣東在數(shù)據(jù)更新頻率、數(shù)據(jù)覆蓋范圍及數(shù)據(jù)應(yīng)用質(zhì)量等方面走在全國前列，如在2017年全國政府?dāng)?shù)據(jù)開放排名中，廣東有佛山、東莞、南海和廣州四個(gè)數(shù)據(jù)開放平臺入選前十。但需要深思的是，廣東目前過于注重?cái)?shù)據(jù)的開放利用與共享，而忽視了對用戶數(shù)據(jù)的保護(hù)管理，特別是涉及個(gè)人信息保護(hù)的法律法規(guī)存在缺位，數(shù)據(jù)“裸奔”現(xiàn)象嚴(yán)重。建議廣東省在大力發(fā)展人工智能的同時(shí)，進(jìn)一步加強(qiáng)對個(gè)人隱私問題的研究，從政策制定、法律法規(guī)及技術(shù)手段等角度，強(qiáng)化對個(gè)人隱私和數(shù)據(jù)的保護(hù)，營造安全和諧的信息發(fā)展環(huán)境。一是在政策層面，建議廣東省在制定出臺有關(guān)人工智能、大數(shù)據(jù)、數(shù)字經(jīng)濟(jì)等政策文件的時(shí)候，充分考慮個(gè)人數(shù)據(jù)信息及隱私保護(hù)問題，積極引導(dǎo)企業(yè)、平臺等主體重視對數(shù)據(jù)信息的保護(hù)管理，合法、合規(guī)地收集使用各類信息，切實(shí)保護(hù)好個(gè)人隱私安全。二是在立法層面，建議廣東省人大研究出臺《廣東省個(gè)人信息保護(hù)條例》，明確個(gè)人信息保護(hù)的基本原則、個(gè)人信息主體的權(quán)利、監(jiān)管機(jī)構(gòu)及其職責(zé)、個(gè)人信息侵權(quán)責(zé)任追究和賠償?shù)?，?guī)范企業(yè)等主體收集、使用個(gè)人信息行為，確保個(gè)人信息安全。三是在技術(shù)層面，蘋果公司已引入了“差分隱私”的概念，這種做法通過加入虛擬數(shù)據(jù)，避免了數(shù)據(jù)與特定主體之間建立聯(lián)系，在實(shí)現(xiàn)保護(hù)用戶身份和數(shù)據(jù)詳情的同時(shí)，仍能提煉出一些基本信息用于機(jī)器學(xué)習(xí)，建議廣東省科技廳加大對企業(yè)、高校及科研院所的支持力度，進(jìn)一步強(qiáng)化對人工智能個(gè)人信息保護(hù)技術(shù)的開發(fā)研究，防堵技術(shù)漏洞，為個(gè)人信息保護(hù)提供安全技術(shù)屏障。

2 人工智能的倫理道德問題

人工智能技術(shù)的發(fā)展與普及應(yīng)用對傳統(tǒng)社會倫理認(rèn)知造成巨大沖擊，特別是未來進(jìn)入強(qiáng)人工智能和超人工智能時(shí)代，智能機(jī)器完全可以像人一樣具有感知、認(rèn)知、規(guī)劃、決策和執(zhí)行等能力，甚至具備自主“思考”的能力，屆時(shí)既有的針對人類決策者的法律和倫理規(guī)則并不適用于非人類意義上的智能機(jī)器，迫切需要研究建立新的倫理范式約束機(jī)器行為，確保機(jī)器作出的決策可以像人類一樣，也是合理、合法的。目前，人工智能發(fā)展所帶來的無知、忽視、偏狹、誤解、安全、價(jià)值判斷等倫理問題已受到全球各國的高度重視，美國、英國、歐盟等主要國家和地區(qū)及相關(guān)國際組織紛紛通過出臺研究報(bào)告、指南、法律政策等措施，企圖找到約束人工智能的“軍規(guī)”和“緊箍咒”，確保人工智能朝著有益、安全、可控方向發(fā)展，如，美國在《國家人工智能研究和發(fā)展戰(zhàn)略計(jì)劃》中提出，要構(gòu)建人工智能倫理體系，研究者需要研究出新的算法確保人工智能作出的決策與現(xiàn)有的法律、社會倫理一致；聯(lián)合國世界科學(xué)知識與科技倫理委員會在2016年8月發(fā)布《關(guān)于機(jī)器人倫理的初步草案報(bào)告》，提出機(jī)器人不僅需要尊重人類社會的倫理規(guī)范，而且需要將特定倫理準(zhǔn)則編寫進(jìn)機(jī)器人中；英國政府在2016年9月發(fā)布的《機(jī)器人技術(shù)和人工智能》中提出，要加強(qiáng)AI倫理研究，使AI的益處最大化，并尋找使其潛在威脅最小化的方法。一些學(xué)者也對如何解決人工智能倫理問題進(jìn)行了探索性思考，如阿西莫夫在科幻著作《環(huán)舞》中提出了機(jī)器人三定律，以期對機(jī)器人進(jìn)行倫理規(guī)制：第一定律，機(jī)器人不能傷害人類，不能袖手旁觀坐視人類受到傷害；第二定律，機(jī)器人應(yīng)服從人類指令，除非該指令與第一定律相悖；第三定律，在不違背第一和第二定律的情況下，機(jī)器人應(yīng)該保護(hù)自身的存在。2017年，在美國加利福尼亞舉辦的阿西洛馬AI會議上，近千名人工智能領(lǐng)域的專家聯(lián)合簽署了阿西洛馬人工智能23條原則，呼吁全世界在發(fā)展人工智能的同時(shí)嚴(yán)格遵守這些原則，保障人類未來的利益和安全。

需要強(qiáng)調(diào)的是，研究人工智能倫理問題并不是研究機(jī)器的道德和倫理，而是一個(gè)借由該問題對人類進(jìn)行自我探索，對人性進(jìn)行深度剖析的過程。各國政府、產(chǎn)業(yè)界、研究人員、民間組織和其他利益攸關(guān)方需要開展廣泛對話和持續(xù)合作，共同探討和尋找解決人工智能理論問題的基本原則及“最優(yōu)方案”，鼓勵發(fā)展以人為本的人工智能，促進(jìn)人類社會公平和可持續(xù)發(fā)展。目前，廣東在推動人工智能關(guān)鍵核心技術(shù)攻關(guān)、重大平臺載體建設(shè)和高端人才引進(jìn)培育等方面進(jìn)行了重點(diǎn)布局，但是，對有關(guān)人工智能帶來的隱私、安全、價(jià)值判斷等倫理問題一直沒有給予足夠重視，建議廣東省從公共政策層面加強(qiáng)對人工智能理論問題的研究部署，引導(dǎo)高校、科研院所及企業(yè)等有關(guān)人員重視人工智能倫理問題，確保人工智能研發(fā)和應(yīng)用沿著符合人類利益的方向前進(jìn)。一是設(shè)立人工智能倫理研究專題。在廣東省科技廳軟科學(xué)研究或人工智能重大專項(xiàng)中設(shè)立人工智能倫理研究專題，重點(diǎn)支持省內(nèi)大學(xué)、科研機(jī)構(gòu)開展人工智能倫理問題研究，形成一批標(biāo)志性研究成果。二是在廣東省推進(jìn)新一代人工智能發(fā)展戰(zhàn)略咨詢專家委員會下面設(shè)立人工智能倫理咨詢專家組，對人工智能項(xiàng)目、技術(shù)、產(chǎn)品及應(yīng)用進(jìn)行倫理與合法性評估，探索設(shè)立人工智能倫理標(biāo)準(zhǔn)體系，防范和減少人工智能倫理風(fēng)險(xiǎn)。三是加強(qiáng)人工智能倫理方面的國際合作研究。鼓勵和支持省內(nèi)人工智能研究機(jī)構(gòu)及人員積極參與全球人工智能倫理原則的研究和制定，及早識別禁區(qū)，為國際人工智能倫理研究貢獻(xiàn)廣東智慧。

3 人工智能對勞動力的替代問題

隨著人工智能技術(shù)的發(fā)展，越來越多的領(lǐng)域?qū)⑦M(jìn)入自動化、智能化，許多原先由人類從事的工作將會被機(jī)器取代，人機(jī)“競爭上崗”將逐漸成為未來社會的新常態(tài)。人工智能不僅會替代餐廳服務(wù)、庫房搬運(yùn)、商品銷售、流水線作業(yè)等常規(guī)性和低端重復(fù)性的勞動工作，而且已經(jīng)進(jìn)軍高等教育、醫(yī)療診斷、新聞撰寫、律師等智力密集型行業(yè)，“搶走”了人們大量的就業(yè)機(jī)會，人機(jī)關(guān)系需要重新審視和定義。據(jù)世界經(jīng)濟(jì)論壇2016年報(bào)告《工作的未來》預(yù)測，從2015年到2020年，人工智能將使工作崗位凈減少510萬個(gè)（減少710萬個(gè)、增加200萬個(gè)）。針對人工智能對勞動力替代問題，我們需要認(rèn)識和關(guān)注以下幾個(gè)方面：一是人工智能對人類的工作數(shù)量和工作結(jié)構(gòu)帶來深刻影響，大量勞動密集型制造業(yè)崗位迅速消失，常規(guī)性、重復(fù)性的工作被機(jī)器所取代，圍繞人工智能的新型工作崗位不斷涌現(xiàn)，整個(gè)社會結(jié)構(gòu)和經(jīng)濟(jì)秩序?qū)媾R重新調(diào)整。二是人工智能給人類的生產(chǎn)生活帶來翻天覆地的變化，助力全球大多數(shù)國家實(shí)現(xiàn)經(jīng)濟(jì)翻倍增長、完成就業(yè)轉(zhuǎn)型和社會變革，最終邁入高度智能化社會形態(tài)。三是人工智能的發(fā)展顛覆了人們對傳統(tǒng)機(jī)器的認(rèn)知，人機(jī)關(guān)系需要重新定義和構(gòu)建，因?yàn)槿斯ぶ悄軐⑹箼C(jī)器具有自主意識、自我決策能力，機(jī)器也會越來越像人，人機(jī)共存問題將會是全人類需要共同探索解決的關(guān)鍵問題。

廣東是我國的經(jīng)濟(jì)大省，2018年全省地區(qū)生產(chǎn)總值達(dá)9.73萬億元，個(gè)體工商戶和私營企業(yè)數(shù)量突破1000萬戶，民營經(jīng)濟(jì)增加值達(dá)5.26萬億元，均居全國第一，特別是在紡織服裝、食品飲料、家具制造、金屬制品、輕工造紙等傳統(tǒng)優(yōu)勢產(chǎn)業(yè)及新一代電子信息、生物醫(yī)藥、高端裝備制造等戰(zhàn)略性新興產(chǎn)業(yè)領(lǐng)域形成了比較完善的產(chǎn)業(yè)鏈條和加工制造體系，解決了幾千萬人的上崗就業(yè)問題，為國家經(jīng)濟(jì)社會穩(wěn)定發(fā)展作出了重要貢獻(xiàn)。但值得注意的是，隨著人工智能時(shí)代的來臨，廣東以勞動密集型為主的產(chǎn)業(yè)會加速轉(zhuǎn)型升級，“機(jī)器換人”“數(shù)字工廠”“無人車間”大量涌現(xiàn)，一大批原來依靠工人來做的工作全部會被智能機(jī)器所替代，就業(yè)崗位必將大量減少，人們面臨的失業(yè)風(fēng)險(xiǎn)持續(xù)增加，如果不加考慮和部署，有可能給社會穩(wěn)定帶來巨大挑戰(zhàn)。

針對以上問題，建議廣東省前瞻布局研究人工智能對勞動力的替代問題，盡早研究制定應(yīng)對策略，確保人機(jī)關(guān)系和諧、穩(wěn)定發(fā)展。一是大力支持人工智能新企業(yè)、新產(chǎn)業(yè)、新業(yè)態(tài)發(fā)展，推動人工技術(shù)及產(chǎn)品推廣應(yīng)用，增加新型就業(yè)崗位，降低人工智能替代勞動力帶來的失業(yè)風(fēng)險(xiǎn)。二是圍繞人工智能深入推進(jìn)“雙創(chuàng)”工作，以創(chuàng)業(yè)帶動就業(yè)，重點(diǎn)支持大學(xué)生、科研人員、技術(shù)人員等創(chuàng)辦人工智能企業(yè)、創(chuàng)客空間及科技企業(yè)孵化器，增加社會就業(yè)崗位。三是加強(qiáng)就業(yè)服務(wù)培訓(xùn)，重點(diǎn)對勞動密集型產(chǎn)業(yè)轉(zhuǎn)型升級及“機(jī)器換人”淘汰的普通工人開展再就業(yè)培訓(xùn)，提升其專業(yè)技能，使其能夠勝任人工智能時(shí)代的工作要求，實(shí)現(xiàn)再就業(yè)。