曹淑紅

摘 要：面對人工智能強勢介入社會治理、經(jīng)濟運行和家庭生活的迅猛態(tài)勢，大家對機器思維的智能化、擬人化隱憂也在日漸加重。由于機器思維具有“自主思維”的能力，可以自主進行“趨利避害”的行為選擇。所以，我們無法設(shè)計它的“應(yīng)然性”，也無法控制它的“實然性”。那么，我們創(chuàng)造的這種人工智能將會“奴役”我們這些創(chuàng)造者，這是一種合乎邏輯的存在。為避免這種結(jié)果的出現(xiàn)，必須堅守AI領(lǐng)域中的“人類中心主義”，必須有AI研究的禁區(qū)和紅線，如非類人的人工智能、非邏輯的情感機器人和人機一體發(fā)展等，要保證這些紅線不被突破，AI行業(yè)的自律約定和國際標(biāo)準(zhǔn)的他律建設(shè)勢在必行。

關(guān)鍵詞：人工智能；機器思維；實然性；應(yīng)然性

中圖分類號：TP18 文獻標(biāo)識碼：A 文章編號：1671-0037（2018）5-29-3

DOI：10.19345/j.cxkj.1671-0037.2018.05.007

Abstract： Facing the strong intervention of artificial intelligence into social governance， economic operation and family life， people are increasingly worried about the intelligence and personification of machine thinking. Because machine thinking has the ability of "independent thinking"， it can make the behavior selection of "seeking advantages and avoiding disadvantages" independently. Therefore， we cannot design its "contingency"， nor control its "reality". The artificial intelligence we create will then "enslave" us creators， which is logical. In order to avoid the occurrence of this result， we must stick to "anthropocentrism" in the AI field， must have restricted area and red line for AI research， such as non-humanoid artificial intelligence， illogical emotional robot and the man-machine integrated development， etc. To ensure that those red lines are not breached， self-discipline convention and discipline construction of international standards in AI industry are imperative.

Key words： artificial intelligence； machine thinking； reality； contingency

近年來，人工智能（Artificial Intelligence，簡稱AI）進入尋常生活的步伐越來越快，在一個國家的產(chǎn)業(yè)結(jié)構(gòu)調(diào)整中所扮演的角色也越來越重要。面對人工智能強勢介入社會治理、經(jīng)濟運行和家庭生活的迅猛態(tài)勢，大家一方面為自身能夠擺脫思維的勞累與體能上的乏力而歡欣鼓舞，另一方面也對AI的智能化、擬人化越來越擔(dān)憂，其痛點集中在機器思維的應(yīng)然性與實然性上。

1 應(yīng)然性與實然性的哲學(xué)寓意與在AI中的解讀

應(yīng)然性、實然性是哲學(xué)領(lǐng)域的范疇，與或然性、必然性處于同一個層次并相互關(guān)聯(lián)。對應(yīng)然性最為通俗的理解可以是：我們的研究對象“應(yīng)該怎么樣”。顯然，這是在技術(shù)倫理層面上的探討。例如，對克隆技術(shù)的發(fā)展應(yīng)該設(shè)定禁行的邊界，它不能進入克隆人的領(lǐng)域。對于實然性的理解可以是：我們的研究對象“能夠怎么樣”。顯然，這是在技術(shù)實踐層面上的探討。例如，精準(zhǔn)醫(yī)療中用分子靶向攻克癌癥的技術(shù)，能否一勞永逸。

科學(xué)、技術(shù)、哲學(xué)和倫理永遠都是相伴而行。人工智能作為科學(xué)與技術(shù)的共生體，逃避不了應(yīng)然性和實然性對它的追問。人工智能應(yīng)該怎么樣？可以肯定的是它應(yīng)該模擬、延伸和擴展人的智能，不能肯定的是它是否應(yīng)該取代或者控制人的智能。

再從實然性層面來展開。在人工智能已經(jīng)踐行的“機器識別”和“智能模擬”兩大領(lǐng)域中，無不顯示出超強的能力。如指紋和掌紋的識別、人臉識別、視網(wǎng)膜和虹膜識別都超越了人類自身所具有的識別能力。再如遺傳編程、智能搜索、定理證明、自動程序設(shè)計、攻守博弈、智能控制、語言和圖像理解等方面更使人類對世界的認知、改造與控制達到了空前的地步。在舉世關(guān)注的、挑戰(zhàn)人類尊嚴的“人機大戰(zhàn)”中，象棋、圍棋棋段高手的屢戰(zhàn)屢敗似乎已說明：由人自己創(chuàng)造的機器，卻成為自己的“掘墓人”。這種由“自我”向“非我”的異化，然后“非我”又奴役了“自我”，確實是“自我”的悲哀與無奈[1]。

這種隱憂來自于對AI中最為關(guān)鍵的“機器思維”實然性困惑：它可以必然地“征服”人類的智慧嗎？它可以肆意地奴役我們?nèi)吮旧韱幔?/p>

2 機器感知與機器思維

眾所周知，人的認知過程可以分為兩個階段。第一個階段是由感覺、直覺再到表象的感性認識階段，其中主要以非邏輯的方式來認知對象。第二個階段是由概念、判斷到推理的理性認識階段，這主要以邏輯的方式來認知對象。

AI中也存在這兩個對應(yīng)的階段。第一階段是機器感知（Machine Cognition）。它包括機器的聽覺、視覺和觸覺等。這是由很多常規(guī)傳感器采集信息，之后通過復(fù)雜程序處理所形成的、非基本感官所能得到的“印象”。像計算機視覺、計算機模式、計算機識別和計算機對人類自然語言的理解等，都屬于機器感知的內(nèi)容。第二階段是機器思維（Thinking Machine）。這是在機器感知所得到的“印象”中，通過特定的邏輯算法推導(dǎo)出的、在“印象”中蘊涵但卻沒有得到展現(xiàn)的結(jié)論[2]。在這個過程當(dāng)中，它具有“自動擇優(yōu)”和“自動糾錯”的功能，因此其結(jié)論不僅僅是“科學(xué)的”，而且也是“可靠的”。它可被認作是機器的行為由“實然性”向“必然性”的進化。在當(dāng)前的AI中，如計算機學(xué)習(xí)、計算機下棋、計算機作曲、計算機繪畫、計算機設(shè)計、計算機證明、計算機編程等都屬于機器思維的行為體現(xiàn)與結(jié)果展示。

由此看來，我們不必為機器感知而憂慮，因為它的實然性已經(jīng)內(nèi)在地被規(guī)定為是一個信息輸入、處理與輸出的機械過程，它將成為我們?nèi)祟惙浅Ｓ杏玫墓ぞ撸瑏頌槿说乃季S提供支持。同時，機器感知的應(yīng)然性也是由我們?nèi)祟愃茉O(shè)計和掌控的，我們可以給它設(shè)定“軌道”與“邊境”，讓機器感知在我們認為適合活動的范圍內(nèi)活動。

但是，機器思維卻非如此。由于它具有“自主思維”的能力，可以自主地進行“趨利避害”，從而產(chǎn)生一種“自主行動”的能力。所以，我們?nèi)祟悷o法設(shè)計它的“應(yīng)然性”，也無法控制它的“實然性”。一旦計算機的自我學(xué)習(xí)、自我編程都進入了“自由”的層次，那么，我們?nèi)斯に鶆?chuàng)造的這種智能將會“奴役”人類。顯然這是一種合乎邏輯的存在。在此，我們不禁要問：我們還要為未來的人工智能鼓與呼嗎？

3 當(dāng)前我們能做什么，應(yīng)做什么，不應(yīng)做什么？

我是什么？我能做什么？我應(yīng)做什么？是德國古典哲學(xué)家康德的三個著名追問?？档抡J為“我是什么”的要旨是通過對人性的追問，獲得人主體性的尊嚴和價值合理性的根據(jù)?！拔夷茏鍪裁础本褪俏覀兘裉焖接懙膶嵢恍詥栴}，是對人作為自我主體的能力的追問，表示我們是否能夠擁有一種認知事物與采取某一特定行動的行為能力。而“我應(yīng)做什么”則是我們正在探討的應(yīng)然性問題，這是基于我們行為的價值關(guān)切與后果評判[3]。

在這里，我們必須明確：能做的未必就是應(yīng)做的?？档碌倪@三個追問，是我們永遠無法回避且關(guān)乎我們自身存在與前途的問題。“能做什么”與“應(yīng)做什么”的追問已經(jīng)成為每一次科學(xué)技術(shù)新突破的熱門話題。像對生物學(xué)中克隆人技術(shù)和醫(yī)學(xué)中換頭顱手術(shù)等問題的“能做什么”與“應(yīng)做什么”的關(guān)切，像對基因組計劃和超級病毒研制中“能做什么”與“應(yīng)做什么”的討論，像對人工智能“能做什么”與“應(yīng)做什么”的憂慮，都成為揮之不去的熱點與焦點。

值得慶幸的是，在人工智能的領(lǐng)域，當(dāng)前仍處于朦朧未分的混沌階段。很多研究者還沒有將機器感知與機器思維進行界分，真正意義上的機器思維初見端倪，我們?nèi)斯頌槿斯ぶ悄堋傲⒎ā?，?guī)定它“應(yīng)做什么”和“不應(yīng)做什么”還完全來得及。

3.1 AI領(lǐng)域中必須堅守“人類中心主義”

雖然幾百年來裝備制造業(yè)的野蠻瘋長帶來了環(huán)境退化、能源枯竭的惡果，大家都在呼吁“自然中心主義”的回歸。但是，以AI元素為支撐的智能制造和智能制造中的機器感知并不是以環(huán)境和能源為代價的，二者是人類知識與智慧的集成，因此，它有天然的“人類中心主義”特征。要謹防這種天然特征的退化，要讓我們?nèi)祟惖闹R與智慧能夠在機器思維過程中仍然成為主導(dǎo)的力量，并能夠一直處于“獨立自決”的地位。

3.2 在國家層面必須對AI的發(fā)展進行技術(shù)預(yù)測

技術(shù)預(yù)測已經(jīng)在技術(shù)研發(fā)和技術(shù)后果的預(yù)判中越來越起到先決的作用。它不僅僅能夠使研發(fā)者提前預(yù)知其研發(fā)對象在未來的時空中的特殊功能與應(yīng)用的領(lǐng)域，而且也能夠預(yù)測一旦研發(fā)成功和投入使用所帶來的對行業(yè)、對社會甚至是對人的心理結(jié)構(gòu)所產(chǎn)生的沖擊波。由此來決定我們是否“做”或“不做”，如果“做”又“如何做”等這些應(yīng)然性行為。顯然，這是一個龐大的系統(tǒng)工程，特別是像AI領(lǐng)域的技術(shù)預(yù)測，會涉及社會、經(jīng)濟、文化和心理等方方面面，絕非一個企業(yè)或者一個行業(yè)的專家所能覆蓋。因此，應(yīng)該在國家層面組織技術(shù)、政治學(xué)、經(jīng)濟學(xué)、管理學(xué)、法學(xué)、醫(yī)學(xué)、生物學(xué)、社會學(xué)和倫理學(xué)界的精英，組成AI技術(shù)預(yù)測專家委員會或者智庫，定期對AI技術(shù)發(fā)展前景、AI產(chǎn)品的發(fā)展趨勢進行公告，以指導(dǎo)AI行業(yè)的發(fā)展，或者對AI的研發(fā)方向和領(lǐng)域做出“可做”或“不可做”的建議。

3.3 AI研發(fā)領(lǐng)域應(yīng)當(dāng)有行業(yè)的自律

行業(yè)自律尤為重要，因為行業(yè)最為清楚其發(fā)展到了何種層次，其未來有何種伸展方向，這種方向可以變革何種對象，等等。當(dāng)前，行業(yè)專家們將AI領(lǐng)域分為強人工智能和弱人工智能兩大類。強人工智也可以分成兩類，第一類是類人的人工智能，即機械地思考和推理，就像我們?nèi)祟愐粯?。第二類是非類人的人工智能，即機器自我產(chǎn)生了和我們完全不一樣的知覺和意識，使用和我們完全不一樣的推理方式。而弱人工智能“弱”則是因為這些機器并不擁有人的智能，只不過它的“行為”看起來像是智能化和擬人化的，它沒有自主意識與自主思維的能力。為了避免我們落入被強人工智能“奴役”的地步，在AI領(lǐng)域必須建立全球化的行業(yè)協(xié)會，通過行業(yè)協(xié)會來識別AI專家的研究類型，并通過“行規(guī)”來對AI專家的行為進行管控。屬于弱人工智能領(lǐng)域的專家，可以盡其研發(fā)自由；而對于強人工智能領(lǐng)域的人工智能的研發(fā)，可以受限地進行。其限度應(yīng)在邏輯思維領(lǐng)域之內(nèi)，不應(yīng)進入非邏輯思維的領(lǐng)域。

3.4 AI研發(fā)領(lǐng)域應(yīng)當(dāng)有國際標(biāo)準(zhǔn)的他律

在AI領(lǐng)域，以美國、日本為代表的先驅(qū)者和領(lǐng)跑者已經(jīng)觸發(fā)了產(chǎn)業(yè)狂潮，智能芯片、智能機器人、智能通信、智能交通、智能教育、智能社交等，已經(jīng)深度地在解構(gòu)和重構(gòu)原有的產(chǎn)業(yè)和市場。盡管當(dāng)前絕大部分還是屬于弱人工智能的領(lǐng)域，但是其前沿已經(jīng)觸及“紅線”。比如說，在有心理認同、情感共鳴和非邏輯思維能力的情感機器人的研發(fā)領(lǐng)域，有不少的資訊在宣稱，已經(jīng)取得了關(guān)鍵突破。例如，日本舉國研發(fā)的“感性工學(xué)”，使個人機器人（Personal Robot）產(chǎn)品系列問世。其中取名“小IF”的情感機器人，可從聲音中發(fā)現(xiàn)對方感情的微妙變化，然后通過自己的表情變化和對話來表達喜怒哀樂。再如，“人機一體發(fā)展”的研究試圖彌合人與機器的界限，實現(xiàn)人體的機器化和機器的人體化。其最主要的點位在于，將智能芯片植入大腦，使兩者在邏輯與情感上對接，使芯片信息和算法與人腦信息和算法對接，從而實現(xiàn)電腦與人腦的融合，形成超級大腦。一旦這種研發(fā)成功并且被應(yīng)用于國家競爭的格局之中，那改變的將是整個人類生活與相處的基本法則，顛覆的將是整個人類的社會結(jié)構(gòu)。因此，僅僅有行業(yè)的自律是遠遠不夠的，必須要有在全球領(lǐng)域通行的具有強制性的國際立法來禁止任何一個國家或者財團嘗試這種研究。

參考文獻：

[1] 互動百科.機器感知[EB/OL].（2011-12-12）[2018-04-06].http：//www.baike.com/wiki/機器感知.

[2] 唐紅麗.科技與倫理：“能做什么”和“應(yīng)做什么”的博弈[EB/OL].（2017-12-03）[2018-04-06].https：//zhidao.baidu.com/question/1887946912538226308.html.

[3] 360百科.情感機器人[EB/OL].（2018-04-06）[2018-04-06].https：//baike.so.com/doc/5416643-5654788.html.