国产日韩欧美一区二区三区三州_亚洲少妇熟女av_久久久久亚洲av国产精品_波多野结衣网站一区二区_亚洲欧美色片在线91_国产亚洲精品精品国产优播av_日本一区二区三区波多野结衣 _久久国产av不卡

?

強(qiáng)人工智能政治倫理的不確定性之中國(guó)方案

2020-03-11 15:41:46何江新
甘肅社會(huì)科學(xué) 2020年5期
關(guān)鍵詞:倫理人工智能政治

何江新

(西安科技大學(xué) 馬克思主義學(xué)院,西安 710054)

提要: 以人工智能與人類智能水平之間的關(guān)系為判斷標(biāo)準(zhǔn),根據(jù)塞爾和庫茲韋爾等人的劃分與展望,人工智能分為弱人工智能、強(qiáng)人工智能和超人工智能三個(gè)階段。目前,人類正在從弱人工智能向強(qiáng)人工智能時(shí)代邁進(jìn)。通過文獻(xiàn)資料查找等方式發(fā)現(xiàn),作為最新技術(shù),強(qiáng)人工智能一方面對(duì)人們生產(chǎn)、生活和思維方式產(chǎn)生深遠(yuǎn)影響,另一方面也對(duì)政治倫理形成有力沖擊,導(dǎo)致政治價(jià)值理念、政治行為主體倫理、政治制度倫理與政治組織倫理等的不確定性,從而對(duì)社會(huì)發(fā)展產(chǎn)生負(fù)面效應(yīng)。以中華優(yōu)秀文化為底版,通過強(qiáng)化理想信念、提升治理能力和治理體系建設(shè)以及提升人類命運(yùn)共同體建設(shè)等措施,從而形成強(qiáng)人工智能政治倫理的中國(guó)智慧、中國(guó)方案。

亞里士多德早就指出,人是天生的政治動(dòng)物。政治在人類社會(huì)生活中扮演著極其重要的角色,很顯然,政治倫理是政治的基礎(chǔ)與根本保證。所謂政治倫理,是“一門研究人類政治正當(dāng)性及其操作規(guī)范和方法論的價(jià)值哲學(xué)”[1],它規(guī)范了國(guó)家在行使政治權(quán)力時(shí)應(yīng)當(dāng)遵守的基本行為準(zhǔn)則,為政府行政主體提供了基本的倫理道德構(gòu)架。人類已然進(jìn)入人工智能時(shí)代,目前正從弱人工智能向強(qiáng)人工智能時(shí)代邁進(jìn)。哈貝馬斯指出,科學(xué)技術(shù)已然成為意識(shí)形態(tài),即技術(shù)與政治緊密相連,且是把雙刃劍,其對(duì)人和人類社會(huì)的負(fù)面影響非常大。有鑒于人工智能的不確定因素,習(xí)近平主席在致信世界人工智能大會(huì)開幕時(shí)強(qiáng)調(diào),處理好人工智能在法律、安全、就業(yè)、道德倫理和政府治理等方面提出的新課題,需要各國(guó)深化合作、共同探討,中國(guó)愿在人工智能領(lǐng)域與各國(guó)共推發(fā)展、共護(hù)安全、共享成果。為此,張浩、王玨、張愛軍和秦小琪等學(xué)者從制定治理人工智能具體規(guī)則與機(jī)制、胡斌從弱人工智能對(duì)人類的影響、王志強(qiáng)從強(qiáng)人工智能政治哲學(xué)等方面進(jìn)行了探討。總體情況是,學(xué)術(shù)界針對(duì)當(dāng)前人工智能的發(fā)展方向進(jìn)行了較為細(xì)致的探討,卻忽視了中國(guó)對(duì)強(qiáng)人工智能政治倫理的構(gòu)建。

一、強(qiáng)人工智能政治倫理基本框架

(一)從弱人工智能到強(qiáng)人工智能

一般說來,所謂人工智能(Artificial Intelligence)是指“計(jì)算機(jī)科學(xué)、控制論、信息論、神經(jīng)生理學(xué)、心理學(xué)、語言學(xué)等多種學(xué)科相互滲透而發(fā)展起來的一門綜合性新學(xué)科”[2],它是人的視覺、聽覺、觸覺和腦力等功能的延伸。自1956年達(dá)特茅斯會(huì)議以來,人工智能正式進(jìn)入人們的視線。雖幾經(jīng)波折,但近幾十年來發(fā)展越來越迅猛,對(duì)人類社會(huì)的影響越來越深。如約翰·塞爾(J.R.Searle)和雷·庫茲韋爾(Ray Kurzweil)等研究者所概括和展望的,人工智能經(jīng)歷了弱、強(qiáng)、超這樣三個(gè)階段。其中,弱人工智能指的是“受人支配的、不具有自我意識(shí)的機(jī)器”[3],其本身只是人的使用工具,不對(duì)人的主體地位有所挑戰(zhàn),是人工智能發(fā)展的初級(jí)階段;強(qiáng)人工智指的是“全方位模擬人類能力甚至超過人類而應(yīng)對(duì)各種挑戰(zhàn)的通用智能系統(tǒng)”[4],即它可以像人類一樣認(rèn)知、思維,是人工智能發(fā)展的較高階段;超人工智能則指其超過人類智力水平,也就是“奇點(diǎn)”到臨時(shí)刻與狀態(tài)。追溯起來看,弱人工智能產(chǎn)生于資本主義生產(chǎn)方式,然而如胡斌所指出的,在該狀態(tài)下,“少數(shù)資本家借由弱人工智能技術(shù)而直接掌握巨大的生產(chǎn)能力,并將這些生產(chǎn)能力用于在當(dāng)下具有近乎無限愿景的發(fā)展目標(biāo),從而一方面減少資本循環(huán)增殖對(duì)人的勞動(dòng)與消費(fèi)的依賴性;另一方面,增大了勞動(dòng)者被逐出物質(zhì)和文化生產(chǎn)領(lǐng)域的可能性,從而在社會(huì)中被進(jìn)一步邊緣化”[5]。作者指出,資本主義依據(jù)技術(shù)確定性優(yōu)勢(shì)將勞動(dòng)者這一不確定性因素排擠在外,表明弱人工智能對(duì)勞動(dòng)者的負(fù)面影響是比較深重的、全方位的,這種受擠壓狀態(tài)只有在共產(chǎn)主義社會(huì)才會(huì)得以扭轉(zhuǎn)。根據(jù)馬克思關(guān)于技術(shù)導(dǎo)致人的異化這一重要思想,有研究者深入探討了人工智能技術(shù)所導(dǎo)致的人的自我異化、人類的主體性危機(jī)和人類交往等異化形態(tài)[6]。

通觀人工智能發(fā)展歷程發(fā)現(xiàn),它給人類帶來了極大的便利,也帶來災(zāi)害乃至滅頂之災(zāi),于是有學(xué)者呼吁從體制機(jī)制上對(duì)該技術(shù)進(jìn)行規(guī)范與管控。前者中如張浩認(rèn)為,需要制定人工智能治理規(guī)則,“這些落地的規(guī)則和機(jī)制將是未來的重點(diǎn)和方向”[7];王玨等學(xué)者指出,“通過制度調(diào)適、輿論調(diào)適和教育調(diào)適三種路徑,實(shí)現(xiàn)人工智能與社會(huì)價(jià)值系統(tǒng)的順利融合”[8];張愛軍、秦小琪則指出,人類應(yīng)主動(dòng)與人工智能共同參與政治,“共建新型政治關(guān)系和政治倫理”[9]。馬克思主義認(rèn)為,基于科技革命而來的經(jīng)濟(jì)基礎(chǔ)的變動(dòng)必然引發(fā)上層建筑的深刻變革,人工智能這一新技術(shù)的廣泛應(yīng)用必定會(huì)引發(fā)上層建筑的深刻變革。其中,政治居于上層建筑的核心,政治倫理居上層建筑的底端,兩者一顯一隱,互為補(bǔ)充。在厘清強(qiáng)人工智能基本模式基礎(chǔ)上,研究其政治倫理是異常緊迫的時(shí)代課題。

(二)強(qiáng)人工智能時(shí)代基本模式

雖然弱人工智能時(shí)代尚未結(jié)束,但如摩爾定律所示,當(dāng)代技術(shù)以不以人的意志為轉(zhuǎn)移地向前突飛猛進(jìn)。按照塞爾的理解,計(jì)算機(jī)不僅是一種用來研究人的思維的工具,而且只要運(yùn)行適當(dāng)?shù)某绦颍?jì)算機(jī)本身就是有思維的,即可以制造出能推理和解決問題的智能機(jī)器,這就是有自我意識(shí)、能自主學(xué)習(xí)、自主決策的強(qiáng)人工智能。強(qiáng)人工智能時(shí)代的來臨離不開芯片、存儲(chǔ)器、光纖、移動(dòng)通訊與大數(shù)據(jù)等底層技術(shù)的突破。數(shù)據(jù)源的擴(kuò)大是最根本的推動(dòng)力,隨著5G無線網(wǎng)絡(luò)的推出,互聯(lián)網(wǎng)將泛化成萬物互聯(lián)的物聯(lián)網(wǎng)。形形色色的計(jì)算神經(jīng)網(wǎng)絡(luò)的人工智能芯片與量子機(jī)器學(xué)習(xí)將被設(shè)計(jì)出來進(jìn)一步提升人工智能的算力,深度學(xué)習(xí)算法的實(shí)現(xiàn)與突破則成為揭開強(qiáng)人工智能時(shí)代的轉(zhuǎn)折點(diǎn)。類腦智能的智能腦機(jī)交互與神經(jīng)形態(tài)計(jì)算的研發(fā)將成為強(qiáng)人工智能時(shí)代到來的必要條件,如褚君浩等學(xué)者所指出的,新一代人工智能技術(shù)正經(jīng)歷迅猛的發(fā)展,強(qiáng)人工智能時(shí)代離我們?cè)絹碓浇?。在該時(shí)代條件下,超級(jí)物聯(lián)網(wǎng)與超級(jí)虛擬現(xiàn)實(shí)網(wǎng)將代替?zhèn)鹘y(tǒng)交流方式,全球無監(jiān)督教育代替了區(qū)域封閉式教育而使人的價(jià)值似原子彈式的爆發(fā),接受教育將成為每個(gè)人向往的“課余活動(dòng)”;數(shù)字化式的經(jīng)濟(jì)生活將進(jìn)一步解決政府行政治理中決策失誤、賄賂腐敗與隱性浪費(fèi)等問題;算法正義將代替律師的人為審判而成為維護(hù)法律公平正義的有效手段;趣緣性合作將突破結(jié)構(gòu)性失業(yè)的風(fēng)險(xiǎn)成為新的職業(yè)方式;人機(jī)一體發(fā)展將突破人的身心局限性而成為該時(shí)代新興的數(shù)據(jù)生命體??傊环N徹底而嶄新的關(guān)于“智能+”的認(rèn)知方式將在強(qiáng)人工智能時(shí)代得以顯現(xiàn)。然而,如史蒂芬·霍金、埃隆·馬斯克、馬文·明斯基等著名科學(xué)家所憂慮的,這一“新物種”將招致人類的滅亡。那么,這些科學(xué)家憂慮的理由是什么?對(duì)其進(jìn)行前瞻性研究才更有利于我們更好地審視和預(yù)見未來社會(huì)生活,因?yàn)楣嫒缢麄兯鶓n慮的,其后果真是不敢設(shè)想。有道是,人是政治的動(dòng)物、理性的動(dòng)物。在馬克思那里,社會(huì)屬性是人之為人的根本屬性。從社會(huì)關(guān)系的角度去審視人工智能,顯然有利于兩者的健康發(fā)展,而倫理關(guān)系便是社會(huì)關(guān)系“總和”中的重要關(guān)系之一。強(qiáng)人工智能的政治倫理是從政治層面克服強(qiáng)人工智能不確定性的重要武器。換句話說,要實(shí)現(xiàn)強(qiáng)人工智能的健康發(fā)展,就需要做好強(qiáng)人工智能政治倫理的前瞻性研究。與胡斌研究資本主義條件下人工智能技術(shù)并未真給工人帶去自由這一觀點(diǎn)的側(cè)重點(diǎn)不同,成素梅等人則展望,人類將因該技術(shù)的普及而導(dǎo)致自由時(shí)間大大增多[10]——人類甚或盡早邁入理想社會(huì)。

(三)強(qiáng)人工智能政治倫理基本內(nèi)涵

從界定上看,強(qiáng)人工智能政治倫理探討的是為了使政治向善,各類政治行為以及行為主體在該時(shí)代條件下所應(yīng)當(dāng)遵守的倫理規(guī)范方面的問題。以戴木才教授對(duì)政治倫理的研究為范本,從內(nèi)涵上看,強(qiáng)人工智能政治倫理的實(shí)體內(nèi)容主要包括強(qiáng)人工智能時(shí)代的政治價(jià)值理念、政治行為主體倫理、政治制度倫理與政治組織倫理等。其中,政治價(jià)值理念是國(guó)家政治倫理的核心,它從理論上表達(dá)了政治行為的正當(dāng)性與合理性,主要包括執(zhí)政黨和政府的價(jià)值理念以及機(jī)器人的權(quán)利與法律追責(zé)等;政治行為主體是政治行為的最終裁決者,政治行為主體倫理是國(guó)家政治倫理的基礎(chǔ)實(shí)體組成部分,主要指機(jī)器人和其他行政人員的德性情操等;政治制度倫理是國(guó)家政治倫理的重要實(shí)體組成部分,它在制度層面體現(xiàn)了政治價(jià)值理念,主要包括從制度上規(guī)范行政人員和機(jī)器人的公正與正義、自由與平等、民主與法治、信用與公開等具體行政規(guī)范;政治組織倫理是國(guó)家政治倫理的主要組成部分,主要包括各政治組織的正義、人道、平等、善治、效率等具體規(guī)范。強(qiáng)人工智能政治倫理的四個(gè)方面是辯證統(tǒng)一的,它們共同構(gòu)成強(qiáng)人工智能政治倫理的基本實(shí)體構(gòu)架。

二、強(qiáng)人工智能政治倫理所面臨的基本問題

在強(qiáng)人工智能時(shí)代,機(jī)器將取代更多人的勞動(dòng)。有人據(jù)此認(rèn)為人類將面臨大面積失業(yè),也有人認(rèn)為,人們將從事與互聯(lián)網(wǎng)、人工智能、大數(shù)據(jù)等新興產(chǎn)業(yè)相關(guān)的工作,所以仍然可以就業(yè)。只不過,如前述研究,一方面,屆時(shí)人類物質(zhì)文化、精神文化水平均將比以往有較大的提升;但另一方面,由于技術(shù)對(duì)人的擠壓以及技術(shù)本身的不穩(wěn)定性等原因,人類的政治生活將變得異常復(fù)雜多變,有研究將之分為有限自主性的強(qiáng)人工智能、純知性的強(qiáng)人工智能、有自主目的的超人工智能三類[11],而有目的的超人工智能對(duì)于人類“一定是政治性的,它將在不同意義上終結(jié)政治”[12]?;诖?,強(qiáng)人工智能政治倫理不確定性不可避免。

(一)強(qiáng)人工智能政治價(jià)值理念方面的不確定性

政治價(jià)值理念涵括政治價(jià)值與政治理念兩個(gè)部分,它指的是政治行為主體在行使政治行為時(shí)應(yīng)當(dāng)而且必須遵守的道德價(jià)值,是國(guó)家歷來固有的政治理念。政治價(jià)值理念的正當(dāng)性規(guī)定了國(guó)家政治行為的合理合法性。在弱人工智能時(shí)代,各個(gè)國(guó)家政治價(jià)值理念基本上包括自由、平等、公正等。而在強(qiáng)人工智能時(shí)代,表面上看是機(jī)器代替了人手,人的自由時(shí)間貌似在相對(duì)增多,但是,人們并不能真正享受自由與公平公正,因?yàn)槿嗽诹Χ?、速度、精?zhǔn)度等許多方面都比不過智能機(jī)器,人力資本也比機(jī)器成本高,所以大多數(shù)普通人必定受機(jī)器及掌握技術(shù)的精英階層的擠壓而被邊緣化。據(jù)段偉文研究員的研判,“機(jī)器掌控世界還是少數(shù)精英掌控,人工智能的發(fā)展不僅可能導(dǎo)致社會(huì)不平等的激化,更令人憂思的是人類還剩下多少不會(huì)被機(jī)器取代的優(yōu)勢(shì)”[13]。于是,以往社會(huì)條件下人與人之間的平等演變?yōu)閺?qiáng)人工智能時(shí)代下掌握技術(shù)的人與未掌握技術(shù)的人之間的不平等以及人作為類與其本質(zhì)力量對(duì)象化的機(jī)器之間的不平等,公平公正也難以達(dá)到。

(二)強(qiáng)人工智能政治行為主體倫理方面的不確定性

2017年10月,沙特阿拉伯為由美國(guó)漢森機(jī)器人公司生產(chǎn)的機(jī)器人索菲亞授予了公民身份,這是世界上第一個(gè)具有公民身份的機(jī)器人,而沙特阿拉伯卻有很多人不具備公民身份。由此,我們不得不思考,當(dāng)越來越多的智能機(jī)器人獲得公民身份,而還有很多人類無法擁有人權(quán)時(shí),社會(huì)運(yùn)行會(huì)出現(xiàn)怎樣的紊亂,社會(huì)制度又將面臨怎樣的動(dòng)蕩。政治總是關(guān)乎人的公共活動(dòng)。從實(shí)踐發(fā)展角度看,強(qiáng)人工智能政治行為主體倫理存在于由人所參與的、復(fù)雜多變的政治環(huán)境之中,是人的復(fù)雜活動(dòng)的產(chǎn)物。政治行為主體倫理大致包括執(zhí)政者倫理、公民倫理與國(guó)際組織主體倫理,強(qiáng)人工智能政治行為主體倫理包括該時(shí)代條件下的執(zhí)政者倫理、公民倫理與國(guó)際政治倫理。有道是,“有機(jī)械者必有其機(jī)心”。具有不同社會(huì)制度的政治行為主體會(huì)根據(jù)本國(guó)的利益而制定相應(yīng)的政治規(guī)范,強(qiáng)人工智能成為各個(gè)國(guó)家爭(zhēng)相擁有的核心技術(shù),政治主體之間的關(guān)系在該時(shí)代充滿變數(shù)。公民是國(guó)家的重要組成部分,也是國(guó)家與國(guó)際政治的主要參與者,比如是以資本、資產(chǎn)階級(jí)為中心還是以人民為中心的公民倫理在強(qiáng)人工智能時(shí)代將變得更加尖銳。國(guó)際組織主體是制定國(guó)際制度規(guī)則的具體決策者和執(zhí)行者,其倫理道德在強(qiáng)人工智能時(shí)代會(huì)隨著科技的迅猛發(fā)展而不斷調(diào)整、弱化。

(三)強(qiáng)人工智能政治制度倫理方面的不確定性

政治制度是政治行為主體對(duì)政治價(jià)值理念的具體落實(shí),制度倫理表達(dá)了制度設(shè)定的基本理念,政治制度倫理是制度倫理在政治層面的重要表達(dá)。弱人工智能時(shí)代政治制度倫理具有明顯指向性。我國(guó)現(xiàn)階段的根本政治制度是人民代表大會(huì)制度,基本政治制度包括民族區(qū)域自治制度、基層群眾自治制度、中國(guó)共產(chǎn)黨領(lǐng)導(dǎo)的多黨合作制度,這些制度的共同指向就是為人民服務(wù),最終實(shí)現(xiàn)共產(chǎn)主義。與此相反,資本主義社會(huì)一整套政治制度是為資產(chǎn)階級(jí)意識(shí)服務(wù)的,如涂良川所指出的,“人工智能是人在一定的社會(huì)歷史條件下的一種創(chuàng)造性產(chǎn)物,具有同資本類似的社會(huì)歷史效應(yīng)。人工智能的充分發(fā)展必將改變?nèi)祟惔嬖诜绞脚c社會(huì)運(yùn)行邏輯”[14]。如同西方國(guó)家應(yīng)對(duì)新冠肺炎疫情所暴露出的資本主義政治制度的弊端那樣,受其基本矛盾的制約,資本主義制度的弊端在強(qiáng)人工智能時(shí)代將更加充分地暴露出來并逐步走向衰落。那么,在強(qiáng)人工智能時(shí)代,國(guó)家與國(guó)家之間的界限是否還那么明顯?各國(guó)的政治制度是否還能適應(yīng)強(qiáng)人工智能的發(fā)展?強(qiáng)人工智能政治制度應(yīng)當(dāng)具有怎樣的制度描繪?這一系列問題都體現(xiàn)出對(duì)未來強(qiáng)人工智能制度倫理的思考與追問。

(四)強(qiáng)人工智能政治組織倫理方面的不確定性

組織是社會(huì)團(tuán)體的一種重要表現(xiàn)形式,政治組織是具有政治目的的社會(huì)團(tuán)體形式,主要包括國(guó)家、政府以及國(guó)際政治組織。政治組織倫理是國(guó)家倫理、政府倫理與國(guó)際政治組織倫理的統(tǒng)稱。國(guó)家是表示“陷入了不可解決的自我矛盾,分裂為不可調(diào)和的對(duì)立面而又無力擺脫這種對(duì)立面……這種從社會(huì)中產(chǎn)生但又自居于社會(huì)之上并且日益同社會(huì)脫離的力量”[15]。在霍布斯那里,國(guó)家被比作強(qiáng)大的利維坦。從性本惡的角度出發(fā),霍布斯認(rèn)為世界是“一切人反對(duì)一切人”的戰(zhàn)爭(zhēng),國(guó)家誕生的意義就是要通過訂立契約以保證合理合法的社會(huì)秩序,以保證人不至于被自己毀滅。在強(qiáng)人工智能時(shí)代,技術(shù)非常發(fā)達(dá),人類利用自己所創(chuàng)造的技術(shù)從事各種工作,也有人借此攫取資源與財(cái)富。當(dāng)目標(biāo)無法實(shí)現(xiàn)時(shí),他們就利用這些工具進(jìn)行征伐,導(dǎo)致競(jìng)爭(zhēng)更趨劇烈。古希臘哲學(xué)家柏拉圖認(rèn)為,“國(guó)家是社會(huì)分工的產(chǎn)物”[16],這意味著人并不是全才全能的,人的能力的不全面性要求人只能干自己適合干的事情,人與人之間只有合作才能維系自身生存。在強(qiáng)人工智能時(shí)代條件下,人與人之間的關(guān)系變得更加微妙,人與其所造的人工物之間的關(guān)系更趨緊張。政府是國(guó)家政策的具體執(zhí)行機(jī)構(gòu),政府的主要任務(wù)是對(duì)國(guó)家政策的具體執(zhí)行,它起到承上啟下的作用。屆時(shí),基于機(jī)器人、大數(shù)據(jù)分析而取代許多部門的決策與執(zhí)行,政府工作人員及政府的作用將趨于弱化。國(guó)際政治組織的歷史由來已久,成立國(guó)際政治組織的目的就是要管理國(guó)際經(jīng)濟(jì)、政治、文化、外交、環(huán)境等公共問題。基于各自所掌握的技術(shù)的隱蔽性,國(guó)際政治組織之間將難以互信。

三、強(qiáng)人工智能政治倫理不確定性之原因

正如前文所述,強(qiáng)人工智能政治倫理具有不確定性,隱藏在不確定性背后的主要原因是:強(qiáng)人工智能政治價(jià)值理念的同一趨勢(shì)、強(qiáng)人工智能政治主體能力有待提高、強(qiáng)人工智能制度構(gòu)成方面的阻礙以及國(guó)際溝通障礙等。

(一)強(qiáng)人工智能對(duì)國(guó)家價(jià)值理念形成沖擊

弱人工智能時(shí)代的政治價(jià)值理念具有對(duì)立性,主要表現(xiàn)為社會(huì)主義國(guó)家政治價(jià)值理念與資本主義國(guó)家政治價(jià)值理念的對(duì)立,發(fā)達(dá)國(guó)家政治價(jià)值理念與落后國(guó)家政治價(jià)值理念的對(duì)立,西方國(guó)家政治價(jià)值理念與東方國(guó)家政治理念的對(duì)立以及不同種族國(guó)家之間國(guó)家政治價(jià)值理念的對(duì)立。弱人工智能政治價(jià)值理念具有基本確定性,主要表現(xiàn)為各國(guó)政府對(duì)本國(guó)政治價(jià)值理念的基本遵守。與弱人工智能不同,強(qiáng)人工智能的政治價(jià)值理念指的是在強(qiáng)人工智能時(shí)代各國(guó)政治所表現(xiàn)出來的政治追求。在該時(shí)代,各國(guó)政治價(jià)值理念具有趨同傾向。合作才能共贏,機(jī)器化大生產(chǎn)將世界政治更加緊密地聯(lián)系在一起,但在實(shí)現(xiàn)同一性的過程中強(qiáng)人工智能的政治倫理充滿了不確定性,主要表現(xiàn)為變動(dòng)性、復(fù)雜性以及不可預(yù)期性。其中,變動(dòng)性是指強(qiáng)人工智能政治理念會(huì)隨著國(guó)家政治結(jié)構(gòu)的發(fā)展而變化,復(fù)雜性是由于國(guó)內(nèi)外政治輿論的影響而致使本國(guó)的政治理念受到破壞,變動(dòng)性與復(fù)雜性共同證明了強(qiáng)人工智能政治理念的不可預(yù)期性。

(二)強(qiáng)人工智能對(duì)國(guó)家政治行為主體形成沖擊

政治行為主體的價(jià)值評(píng)判是強(qiáng)人工智能政治行為主體倫理不確定性的主要原因,有怎樣的價(jià)值評(píng)判就會(huì)有怎樣的價(jià)值行為。強(qiáng)人工智能時(shí)代政治倫理行為主體的價(jià)值評(píng)判是由它的知識(shí)水平結(jié)構(gòu)與認(rèn)知水平?jīng)Q定的。能夠符合強(qiáng)人工智能發(fā)展歷史潮流,具有先進(jìn)知識(shí)水平的執(zhí)政者或者公民主體能夠掌握世界發(fā)展的大趨勢(shì),從而對(duì)國(guó)家政治的未來發(fā)展做出準(zhǔn)確預(yù)測(cè),否則,知識(shí)與認(rèn)知水平有限的行政主體就會(huì)使國(guó)家的發(fā)展偏離正確軌道。人民群眾是社會(huì)歷史發(fā)展的決定力量,習(xí)近平總書記強(qiáng)調(diào),“黨員、干部初心變沒變、使命記得牢不牢,要由群眾來評(píng)價(jià)、由實(shí)踐來檢驗(yàn)。我們不能關(guān)起門來搞自我革命,而要多聽聽人民群眾意見,自覺接受人民群眾監(jiān)督”[17];與此相反,唯心史觀認(rèn)為少數(shù)英雄人物或上帝意識(shí)推動(dòng)歷史發(fā)展。資產(chǎn)階級(jí)把“自己的生產(chǎn)關(guān)系和所有制關(guān)系從歷史的、在生產(chǎn)過程中是暫時(shí)的關(guān)系變成永恒的自然規(guī)律和理性規(guī)律”[18]45,他們的觀念“本身是資產(chǎn)階級(jí)的生產(chǎn)關(guān)系和所有制關(guān)系的產(chǎn)物”[19],而不是人民意志的產(chǎn)物。為了不斷滿足人民對(duì)美好生活的向往與追求,增強(qiáng)人民的幸福感獲得感安全感,強(qiáng)人工智能的發(fā)展成為新時(shí)代中國(guó)治國(guó)理政的重要工具,而其他國(guó)家在此方面略顯滯后。其原因主要有:一是強(qiáng)人工智能的發(fā)展與壯大可能尚未觸及到這些國(guó)家,它們還缺乏實(shí)際治理經(jīng)驗(yàn);二是由于生產(chǎn)、生活方式的相對(duì)落后,作為強(qiáng)人工智能的后發(fā)展型國(guó)家,如何應(yīng)對(duì)和規(guī)范由此而產(chǎn)生的后續(xù)問題,將需要長(zhǎng)期的探索與經(jīng)驗(yàn)總結(jié),而后才能將之應(yīng)用于國(guó)家治理過程中。

(三)強(qiáng)人工智能對(duì)國(guó)家制度形成沖擊

不確定性充盈在強(qiáng)人工智能制度政治倫理發(fā)展的全過程,主要表現(xiàn)為:一是制度構(gòu)造的不確定性,二是制度的變動(dòng)性。以私有制為基礎(chǔ)的資本主義國(guó)家按照資產(chǎn)階級(jí)的意識(shí),將強(qiáng)人工智能發(fā)展作為牟取暴利的重要手段,盡力確保其優(yōu)勢(shì)地位,比如,一些資本主義國(guó)家打著“人權(quán)”“民主”的幌子,粗暴干涉別國(guó)內(nèi)政,將無人機(jī)投放于戰(zhàn)場(chǎng)而不是發(fā)展民生,其目的就是解體其他國(guó)家,維護(hù)其霸主地位,這從根本上來說是不得人心的,也是逆全球化的。相反,以中國(guó)為代表的社會(huì)主義國(guó)家發(fā)展強(qiáng)人工智能,促進(jìn)各國(guó)人民互利共贏,共同進(jìn)步。如習(xí)近平主席在致2019中國(guó)國(guó)際大數(shù)據(jù)產(chǎn)業(yè)博覽會(huì)賀信中指出的,“中國(guó)高度重視大數(shù)據(jù)產(chǎn)業(yè)發(fā)展,愿同各國(guó)共享數(shù)字經(jīng)濟(jì)發(fā)展機(jī)遇,通過探索新技術(shù)、新業(yè)態(tài)、新模式,共同探尋新的增長(zhǎng)動(dòng)能和發(fā)展路徑”[20]。以科學(xué)技術(shù)為第一生產(chǎn)力的中國(guó)共產(chǎn)黨人通過社會(huì)主義制度優(yōu)勢(shì),適時(shí)推出《新一代人工智能發(fā)展規(guī)劃》等綱領(lǐng)性文件,領(lǐng)導(dǎo)人民發(fā)展強(qiáng)人工智能相關(guān)產(chǎn)業(yè),不斷搶占技術(shù)高地,并及時(shí)與他國(guó)共享。2019年6月17日,國(guó)家新一代AI治理專家委員會(huì)又發(fā)布《新一代人工智能治理原則——發(fā)展負(fù)責(zé)任的人工智能》,該治理原則強(qiáng)調(diào)了“和諧友好、公平公正、包容共享、尊重隱私、安全可控、共擔(dān)責(zé)任、開放協(xié)作、敏捷治理”[21]等八條原則。歷史總是不斷向前發(fā)展的,制度政治倫理也經(jīng)歷著發(fā)展變化,之前將強(qiáng)人工智能的政治倫理納入國(guó)家的政治倫理可能不是其關(guān)注的焦點(diǎn),如今卻成為必須討論的話題。相同歷史發(fā)展階段的制度政治倫理也處于不斷革新的狀態(tài)之中。國(guó)際對(duì)于強(qiáng)人工智能的制度政治倫理的要求也在不斷的討論和變更之中,它會(huì)隨著實(shí)踐的發(fā)展而促進(jìn)人工智能不斷進(jìn)步。

(四)強(qiáng)人工智能對(duì)政治組織形成沖擊

強(qiáng)人工智能作為未來經(jīng)濟(jì)、政治、文化發(fā)展的重要抓手,必然要成為國(guó)內(nèi)組織與國(guó)際組織的討論話題。政治上,由于國(guó)家制度的不同,各個(gè)國(guó)家歷來所秉持的價(jià)值觀念不同,以美國(guó)為首的資本主義國(guó)家在信息科技領(lǐng)域總體上處于領(lǐng)先位置,它們不會(huì)將關(guān)于人工智能技術(shù)與社會(huì)主義國(guó)家分享。從技術(shù)上來說,既想保持本國(guó)獨(dú)立,又想在國(guó)際舞臺(tái)上發(fā)揮展示自身魅力的國(guó)家會(huì)出現(xiàn)矛盾。那就是,它既想要將核心技術(shù)掌握于自己手中,又想與國(guó)際社會(huì)接軌。未來區(qū)域鏈的發(fā)展還能困住脫韁的AI嗎?顯然不能。經(jīng)濟(jì)上,強(qiáng)人工智能時(shí)代的到來必然使生產(chǎn)力得到極大的提高,那么擁有強(qiáng)大科技競(jìng)爭(zhēng)力的國(guó)家必然不會(huì)把提高本國(guó)生產(chǎn)力的核心技術(shù)拱手讓人。從國(guó)際技術(shù)基礎(chǔ)理論上來看,強(qiáng)人工智能的技術(shù)共同體是某些國(guó)家利用強(qiáng)人工智能在人口、規(guī)模市場(chǎng)、應(yīng)用轉(zhuǎn)化、整體規(guī)劃等方面的優(yōu)勢(shì)與其他國(guó)家構(gòu)建人類命運(yùn)共同體,還是要利用其金融、科技、軍事、文化與原始創(chuàng)新的優(yōu)勢(shì)構(gòu)造不平衡的國(guó)際政治新秩序?這些問題都需要進(jìn)行國(guó)際溝通。

四、強(qiáng)人工智能政治倫理不確定性問題的中國(guó)回應(yīng)

資本主義生產(chǎn)方式一方面推動(dòng)了社會(huì)發(fā)展,但另一方面,如“自然力的征服,機(jī)器的采用,化學(xué)在工業(yè)和農(nóng)業(yè)中的應(yīng)用,輪船的行使,鐵路的通行,電報(bào)的使用等”[18]12所示,它也使得生態(tài)環(huán)境受到前所未有的破壞。之所以如此,是因?yàn)橘Y本趨利的本性或強(qiáng)人工智能政治倫理具有不確定性,只不過這種不確定性中又包涵著確定性的維度?;厮萜饋砜?,在政治上,價(jià)值理念多元化、政治效能低級(jí)化、政治優(yōu)勢(shì)偏離化以及政治聯(lián)系割裂化都是國(guó)家政治健康發(fā)展的障礙。美國(guó)于2019年7月和11月開展了具體的治理行動(dòng)。與西方社會(huì)相比較,我國(guó)雖整體上在人工智能相關(guān)產(chǎn)業(yè)上起步較晚,但對(duì)于智能治理卻后者居上。比如,繼《新一代人工智能發(fā)展規(guī)劃》后,我國(guó)于2019年2月15日專門成立了國(guó)家新一代AI治理專家委員會(huì),《新一代人工智能治理原則——發(fā)展負(fù)責(zé)任的人工智能》則指出,“考慮到人工智能發(fā)展的高度復(fù)雜性和不確定性,要按照漸進(jìn)性的思路推進(jìn)人工智能的治理”[22]。對(duì)于我國(guó)政府來說,人工智能治理雖剛剛起步,但我們可負(fù)責(zé)任地在未來強(qiáng)人工智能時(shí)代徹底清除這些障礙,積極參與國(guó)際合作,實(shí)現(xiàn)國(guó)家的持續(xù)發(fā)展。

(一)強(qiáng)化共產(chǎn)主義理想信念

縱觀西方資本主義陣營(yíng),以美國(guó)為首的西方資本主義為了維護(hù)其霸權(quán)地位,采用各種方式對(duì)我國(guó)進(jìn)行文化滲透、意識(shí)形態(tài)滲透。對(duì)此,我們有充分的認(rèn)識(shí)。如黨的十九大報(bào)告所指出的,中國(guó)共產(chǎn)黨一經(jīng)成立,就把實(shí)現(xiàn)共產(chǎn)主義作為黨的最高理想和最終目標(biāo)。有了理想信念,人們的責(zé)任感、使命感增強(qiáng),工作干勁十足,如果“沒有理想信念,理想信念不堅(jiān)定,精神上就會(huì)缺鈣,就會(huì)得軟骨病”[23]。反觀蘇聯(lián)解體或東歐劇變,它們就是共產(chǎn)主義理想信念最終缺失的最鮮活的教材。中國(guó)人工智能之所以健康發(fā)展,得益于我們堅(jiān)定中國(guó)特色社會(huì)主義理想信念,始終運(yùn)用馬克思主義立場(chǎng)、觀點(diǎn)與方法去思考問題、解決問題,成功抵制住西方文化的滲透。數(shù)據(jù)顯示,我國(guó)人工智能市場(chǎng)規(guī)模已達(dá)到237.4億元,單年度投融資總額突破277億美元,占據(jù)全球融資總額70%,我國(guó)已成為全球人工智能投資熱情最為高漲的國(guó)家[24]。比如,在這次新冠肺炎疫情防控中,我國(guó)科研團(tuán)隊(duì)及時(shí)研發(fā)出智能機(jī)器人來代替醫(yī)護(hù)人員咽拭子檢測(cè)和藥物配送等工作,這樣就大大降低了醫(yī)護(hù)人員感染率、緩解了醫(yī)療人員緊張問題,保證了醫(yī)護(hù)人員的生命安全和身體健康。相比之下的西方國(guó)家,即便擁有先進(jìn)的醫(yī)療設(shè)備,但他們以資本追逐為本,對(duì)人民生命置若罔聞,對(duì)國(guó)際合作共同抗疫漠不關(guān)心,甚至阻撓世界衛(wèi)生組織和聯(lián)合國(guó)開展救援工作。在此背景下,中國(guó)政府依然一如既往地派送醫(yī)療隊(duì)和緊缺物資以及診斷方案,提出國(guó)際合作具體倡議,以實(shí)際行動(dòng)生動(dòng)詮釋共產(chǎn)主義理想信念。

(二)落實(shí)“人民至上”治理原則

智能革命早期是技術(shù)推動(dòng),后期是制度與倫理推動(dòng),以惠及全體人民。從歷史的縱向發(fā)展來看,不同歷史發(fā)展階段的政治倫理有不同的特點(diǎn),而“現(xiàn)代政治倫理體現(xiàn)出從統(tǒng)治政治到生活政治、從等級(jí)政治到平等政治、從全能政治到權(quán)限政治、從人治政治到民治政治、從集權(quán)政治到分權(quán)政治、從強(qiáng)權(quán)政治到聯(lián)合政治等六大發(fā)展潮流”[25]。相比于現(xiàn)代政治倫理的相關(guān)屬性,強(qiáng)人工智能時(shí)代的政治倫理也有其突出表現(xiàn)。在這一過程中,我們始終堅(jiān)持以人民為中心和堅(jiān)定“四個(gè)自信”,繼續(xù)推進(jìn)中國(guó)特色社會(huì)主義各項(xiàng)事業(yè),不斷走近世界舞臺(tái)的中央。中國(guó)特色社會(huì)主義制度是為人民服務(wù)的,人民性賦予它合理性與合法性。在“四個(gè)自信”基礎(chǔ)上,黨和國(guó)家以史為鑒,不斷深化中國(guó)共產(chǎn)黨執(zhí)政規(guī)律、社會(huì)主義建設(shè)規(guī)律和人類社會(huì)發(fā)展規(guī)律。如中國(guó)防控新冠肺炎疫情所反襯出來的,在中國(guó)共產(chǎn)黨的堅(jiān)強(qiáng)領(lǐng)導(dǎo)下,及時(shí)啟動(dòng)突發(fā)重大公共事件應(yīng)急管理,通過廣泛動(dòng)員,發(fā)動(dòng)疫情防控人民戰(zhàn)爭(zhēng)、總體戰(zhàn)、阻擊戰(zhàn),及時(shí)阻斷了疫情蔓延并成功地進(jìn)入“常態(tài)化”防控階段??墒牵Y本主義國(guó)家情況卻令人堪憂,政要們一直在忙著推卸責(zé)任、轉(zhuǎn)嫁危機(jī)而不對(duì)其人民生命安全和身體健康負(fù)責(zé),導(dǎo)致確診病例和死亡率持續(xù)攀升。在強(qiáng)人工智能時(shí)代,根據(jù)資本積累規(guī)律,資本主義世界里的勞動(dòng)崗位將更加相對(duì)減少,如果政府仍堅(jiān)持“叢林法則”,則相對(duì)剩余人口將持續(xù)增多。在“依法治國(guó)”前提下,我國(guó)始終貫徹“人倫法則”和“以德治國(guó)”,堅(jiān)持以人民為中心,政府和社會(huì)出面干預(yù)就業(yè)情況,這使得人與人和人與機(jī)器之間的矛盾得以消解。另外,黨和國(guó)家加強(qiáng)人工智能法治建設(shè)。經(jīng)歷物理的、社會(huì)的、心靈的網(wǎng)絡(luò)連接的賽博化世界必將來臨,判定它與人的主體地位的倫理關(guān)系,從法律上界定它的法律地位,加強(qiáng)與科研界、制造界的聯(lián)系,出臺(tái)強(qiáng)人工智能的負(fù)責(zé)任的法律政策。

(三)增強(qiáng)社會(huì)主義制度優(yōu)勢(shì)向治理效能的轉(zhuǎn)化

強(qiáng)人工智能政治倫理發(fā)展存在著不以人的主觀意志為轉(zhuǎn)移的不確定性因素,當(dāng)然這并不意味著不可改造性。它一方面要求政府必須站在現(xiàn)實(shí)的立場(chǎng)上精確掌握這種不確定性,明確現(xiàn)實(shí)性的基本依據(jù);另一方面,它也要求政府在深刻把握不確定性的基礎(chǔ)上,積極促成不確定性中不利方向有利方轉(zhuǎn)化。強(qiáng)人工智能對(duì)政治行為主體能力提出了更高的要求。人工智能的語義學(xué)與語境學(xué)的突破是強(qiáng)人工智能發(fā)展的重要理論基礎(chǔ)點(diǎn)。《新一代人工智能發(fā)展規(guī)劃》指出,“我國(guó)人工智能整體發(fā)展水平與發(fā)達(dá)國(guó)家相比仍存在差距,缺少重大原創(chuàng)成果,在基礎(chǔ)理論、核心算法以及關(guān)鍵設(shè)備、高端芯片”[26]等方面差距較大。黨和國(guó)家加大對(duì)科技哲學(xué)等理論科研的投資力度,加大強(qiáng)人工智能向善發(fā)展、人工智能道德意向性實(shí)現(xiàn)的最大理論可能性。加強(qiáng)技術(shù)人員培養(yǎng)。科技引領(lǐng)未來,實(shí)現(xiàn)科技強(qiáng)國(guó)必須具備強(qiáng)大的科技研究團(tuán)隊(duì)與科研技術(shù)人員。我們國(guó)家高度重視學(xué)??蒲袉挝慌囵B(yǎng)科技領(lǐng)軍人才的重要戰(zhàn)略,加大技術(shù)人員培訓(xùn)費(fèi)用,加強(qiáng)技術(shù)交流,培養(yǎng)交叉型、混合型與國(guó)際型人才。習(xí)近平總書記指出,防控新冠肺炎疫情是個(gè)大考,需要我們不斷地將社會(huì)主義制度優(yōu)勢(shì)轉(zhuǎn)化為治理效能。通過宏觀調(diào)控,以5G、大數(shù)據(jù)、人工智能等新興技術(shù)為主導(dǎo)的“新基建”無疑是提振疫情影響下經(jīng)濟(jì)和民生的戰(zhàn)略決策。提升政府行政人員的技術(shù)水平與綜合實(shí)力,設(shè)立專業(yè)研究機(jī)構(gòu),建設(shè)服務(wù)型政府。此外,提升政府利用技術(shù)改善人民生活的具體執(zhí)行能力,提升公民的科學(xué)技術(shù)文化道德理論知識(shí),提高科技輿論辨別力,加強(qiáng)政府應(yīng)對(duì)國(guó)際科技危機(jī)的能力與效率,利用人工智能改善勞動(dòng)力市場(chǎng)供需平衡,實(shí)現(xiàn)充分就業(yè)。

(四)推動(dòng)人類命運(yùn)共同體建設(shè)

革命導(dǎo)師曾指出,“當(dāng)我們通過思維來考察自然界或人類歷史或我們自己的精神活動(dòng)的時(shí)候,首先現(xiàn)在我們眼前的,是一幅由種種聯(lián)系和相互作用無窮無盡地交織起來的畫面”[27],這說的是人類相互交往相互聯(lián)系的畫卷。中國(guó)共產(chǎn)黨人自覺繼承捍衛(wèi)了革命導(dǎo)師的世界史視野,在革命、建設(shè)和改革等時(shí)期一直致力于國(guó)際社會(huì)和平、合作與發(fā)展,于黨的十九大報(bào)告中正式提出“構(gòu)建人類命運(yùn)共同體”。習(xí)近平總書記反復(fù)強(qiáng)調(diào),當(dāng)今世界形勢(shì)愈發(fā)多變,氣候、環(huán)境、恐怖活動(dòng)等不確定性因素顯著增多,誰也不能獨(dú)善其身。他在二十國(guó)集團(tuán)領(lǐng)導(dǎo)人新冠肺炎疫情特別峰會(huì)及多種場(chǎng)合上反復(fù)指出,國(guó)際社會(huì)必須加強(qiáng)合作,方能贏得這場(chǎng)戰(zhàn)役的徹底勝利。在強(qiáng)人工智能時(shí)代,技術(shù)愈發(fā)達(dá),少數(shù)掌握有高端技術(shù)的資本家與機(jī)器化大生產(chǎn)之間的矛盾愈益尖銳,這導(dǎo)致資本家單方面的去全球化和產(chǎn)業(yè)、經(jīng)營(yíng)、金融和國(guó)際分工的全球化,兩者的深刻矛盾更加尖銳而導(dǎo)致共產(chǎn)主義的真正到來。屆時(shí),類似于“自由人聯(lián)合體”的“機(jī)器人聯(lián)合體”[28]即機(jī)器人之間的交流也將常態(tài)化。目前,我國(guó)正大力加強(qiáng)算法技術(shù)的國(guó)際交流,為強(qiáng)人工智能算法的進(jìn)一步發(fā)展提供國(guó)際技術(shù)保障。如“人工智能的智能程度取決于對(duì)不確定和非結(jié)構(gòu)化的語境問題的處理能力”[29]所示,通過人工智能的語境論范式研究,讓人工智能真正擁有意向性,實(shí)現(xiàn)人工智能的新發(fā)展;還如徐英瑾等學(xué)者所探討的,“如何將帶有語義內(nèi)容的倫理規(guī)范分解為具體算法”[30],將中華優(yōu)秀文化植入我國(guó)人工智能算法之中,則可為全人類的持久和平公正秩序提供中國(guó)方案。

五、結(jié) 語

由上所述,強(qiáng)人工智能條件下社會(huì)生活飛速發(fā)展,但也給政治倫理具有諸多問題。雖然該技術(shù)發(fā)軔于資本主義,但資本主義國(guó)家未給出合理方案,而基于社會(huì)主義制度的優(yōu)越性,我國(guó)人工智能的發(fā)展規(guī)劃具有原創(chuàng)性、示范性。如同張富利所指出的,“人工智能并非單一技術(shù)、單一產(chǎn)業(yè)的孤軍奮進(jìn),而是人類社會(huì)運(yùn)行機(jī)制顛覆性的根本變革。它的本質(zhì)是奠基于互聯(lián)網(wǎng)、大數(shù)據(jù)革命之上的奇點(diǎn)變革”[31],未來的強(qiáng)人工智能政治倫理具有不確定性,但矛盾之中總是蘊(yùn)藏著確定性的希望。在新的時(shí)代條件下,面對(duì)人工智能的新機(jī)遇與新挑戰(zhàn),我們要在不確定性中探求確定性的真理,努力化解強(qiáng)人工智能的各類政治挑戰(zhàn),積極促進(jìn)強(qiáng)人工智能政治倫理健康發(fā)展。我們完全有理由相信,在中國(guó)共產(chǎn)黨的卓越領(lǐng)導(dǎo)下,中國(guó)強(qiáng)人工智能政治倫理必將起著重要的引領(lǐng)作用。

需要指出的是,無論弱人工智能、強(qiáng)人工智能還是超人工智能,不管它多么先進(jìn)、發(fā)達(dá),它都只是人工物而已。從終極意義上看,它不可能完全超過人類整體上的智能或部分精英人士智力水平,而只能說可能超過其中部分人的智能。所謂人工智能完全超過人類智能,這只是部分人的推斷與展望,因?yàn)楦鶕?jù)馬克思主義物質(zhì)與意識(shí)的辯證關(guān)系,人工智能作為意識(shí)的創(chuàng)造物,它僅僅是人的頭腦的創(chuàng)造物而已,它不可能完全超過人類。當(dāng)然,我們也不能因此而懈怠,因?yàn)槿说膭?chuàng)造潛能非常巨大,甚至大到超乎想象。所以,我們要謹(jǐn)慎研究,科學(xué)研判,提前預(yù)防,高瞻遠(yuǎn)矚,以決勝于千里之外,而這正是本文的意義之所在。

猜你喜歡
倫理人工智能政治
《心之死》的趣味與倫理焦慮
“講政治”絕不能只是“講講”
護(hù)生眼中的倫理修養(yǎng)
活力(2019年19期)2020-01-06 07:37:00
“政治攀附”
“政治不純”
政治不過硬,必定不可靠——政治體檢不能含糊
2019:人工智能
商界(2019年12期)2019-01-03 06:59:05
人工智能與就業(yè)
數(shù)讀人工智能
小康(2017年16期)2017-06-07 09:00:59
下一幕,人工智能!
邹平县| 新源县| 呼伦贝尔市| 永德县| 澳门| 无为县| 忻城县| 盘山县| 宣恩县| 邯郸市| 高邮市| 章丘市| 牟定县| 柏乡县| 黄浦区| 开封县| 简阳市| 青河县| 沙湾县| 乐东| 凉山| 盐边县| 余江县| 勃利县| 太原市| 台东市| 宜宾县| 沙洋县| 缙云县| 苗栗县| 呼图壁县| 黑水县| 昌平区| 通城县| 霍城县| 富阳市| 白水县| 廊坊市| 巍山| 噶尔县| 彭州市|