周游

2017年4月，美國《Nature》雜志發(fā)表的一項(xiàng)研究成果表明，當(dāng)智能算法通過分析處理人類書寫的文本來學(xué)習(xí)詞句的含義時(shí)，也會獲得類似于人類偏見那樣的刻板印象。算法，是人工智能自主決策的關(guān)鍵。人工智能的應(yīng)用，為人類社會帶來巨大機(jī)遇的同時(shí)，也帶來因算法而導(dǎo)致的歧視、錯(cuò)誤等問題。因此，加快建立人工智能算法審查機(jī)制有助于維護(hù)我國國家、社會安全和搶占產(chǎn)業(yè)國際話語主導(dǎo)權(quán)。

建立算法審查機(jī)制的必要性

算法本身無法實(shí)現(xiàn)技術(shù)中立。技術(shù)是中立的，但算法本身不是中立的。一方面，算法的基礎(chǔ)是數(shù)據(jù)，基于錯(cuò)誤的或者不準(zhǔn)確的數(shù)據(jù)，算法決策得出的結(jié)論自然是錯(cuò)誤的、有偏差的；另一方面，算法是人工智能的底層構(gòu)架，算法過程看起來是非人為的決策行為，但其實(shí)，算法內(nèi)嵌程序不可避免地會帶入設(shè)計(jì)者的價(jià)值取向、倫理道德素質(zhì)、指標(biāo)標(biāo)準(zhǔn)、結(jié)果導(dǎo)讀等因素。

算法本身不具有公開透明性。智能時(shí)代，人類將選擇權(quán)和決策權(quán)讓渡給算法，就必然導(dǎo)致算法將成為監(jiān)管的核心。算法具有高度技術(shù)性，其運(yùn)行機(jī)制和決策依據(jù)， 只有程序員和相關(guān)人員能夠知曉，競爭性商業(yè)機(jī)密也往往成為算法不能向公眾公開、透明的主要緣由。因此，必須有相應(yīng)的機(jī)制能夠?qū)λ惴ㄟM(jìn)行監(jiān)管，能夠在公眾質(zhì)疑時(shí)公開或予以解釋，以此保證算法是符合公眾利益、倫理道德取向以及沒有違反現(xiàn)有相關(guān)法律制度。

算法在一些領(lǐng)域已經(jīng)開始主導(dǎo)人類選擇方向和內(nèi)容。搜索引擎、瀏覽器、新聞客戶端等，憑借強(qiáng)大的算法，分析并解讀用戶的使用習(xí)慣和興趣，可能會不斷地向用戶推薦大量魚龍混雜的信息。算法淪為商家追逐利益的工具，“標(biāo)題黨”泛濫，價(jià)值取向跑偏，內(nèi)容淪為附庸。同時(shí)，算法基于特定標(biāo)準(zhǔn)的推薦還會導(dǎo)致用戶封閉在自我喜好和習(xí)慣的信息孤島之中，制約獲取異質(zhì)化信息和內(nèi)容，長此以往，將導(dǎo)致人類自我封閉，不利于創(chuàng)新。

可借鑒的國外算法規(guī)制經(jīng)驗(yàn)

美國加強(qiáng)行業(yè)自律制定算法基本原則。2017年1月12日，美國計(jì)算機(jī)協(xié)會下屬美國公共政策委員會發(fā)布文件，闡述了關(guān)于人工智能算法透明化和可責(zé)性七條原則。具體如下：（1）公眾對算法的了解，應(yīng)該讓公眾了解自動決策的程度。（2）錯(cuò)誤決策的救濟(jì)，對錯(cuò)誤決策可以進(jìn)行調(diào)查并予以糾正。（3）責(zé)任認(rèn)定，算法設(shè)計(jì)者而不是系統(tǒng)本身對基于此算法所做出的決策負(fù)責(zé)。（4）解釋，無論算法的邏輯構(gòu)架多么復(fù)雜，都必須能夠用人類語言進(jìn)行解釋。（5）數(shù)據(jù)來源及可靠性，算法設(shè)計(jì)者應(yīng)該對訓(xùn)練數(shù)據(jù)的來源及可靠性加以說明。（6）可審查性，算法設(shè)計(jì)機(jī)構(gòu)應(yīng)記錄模型、算法、數(shù)據(jù)和具體決策，以便在解決出現(xiàn)的問題或依法監(jiān)管時(shí)有據(jù)可查。（7）驗(yàn)證和測試，算法應(yīng)用機(jī)構(gòu)應(yīng)采取可靠的技術(shù)手段對其算法的程序進(jìn)行驗(yàn)證，以提高基于此算法所自動做出的決策的可信度。由于包括技術(shù)、經(jīng)濟(jì)和社會等在內(nèi)的很多因素，算法所作出的決策可能是不透明的或具有某種導(dǎo)向，算法偏見或歧視可能對公眾產(chǎn)生危害，上述原則的確立是通過算法透明化及可追溯性，盡量減少潛在的風(fēng)險(xiǎn)及危害。

美國對公共政策算法立法規(guī)制及核心內(nèi)容。2017年12月1日，紐約市議會通過了《政府部門自動決策系統(tǒng)法案》（以下簡稱《法案》），這是美國針對人工智能算法進(jìn)行立法監(jiān)管的首個(gè)法案，其目的在于促進(jìn)政府自動決策算法的公開、公平，提高政府決策智能算法的公信力。其核心內(nèi)容包括三個(gè)方面：一是厘清自動決策系統(tǒng)概念；二是制定對公共政策自動決策系統(tǒng)算法審查的規(guī)則；三是建立政府決策算法開源和公眾問責(zé)機(jī)制。《法案》規(guī)定，由市長或指定人士召集成立專門工作機(jī)構(gòu)，組成人員主要包括自動決策系統(tǒng)技術(shù)專家、代表受政策影響公眾的公益組織人士，其職責(zé)是制定相關(guān)規(guī)則，對公共政策自動決策及其算法的公平性進(jìn)行審查。

其他國家關(guān)于算法的相關(guān)規(guī)制。其他國家普遍的做法是在人工智能細(xì)分領(lǐng)域相關(guān)的法規(guī)或倫理道德規(guī)范中對算法制定相關(guān)規(guī)則，會專門制定算法的法律法規(guī)。2017年2月，歐盟議會通過《機(jī)器人民事法律規(guī)則》，其中有關(guān)于算法的倫理道德規(guī)定：強(qiáng)調(diào)透明原則，即對某個(gè)人或更多人的生活可能產(chǎn)生實(shí)質(zhì)性的影響，借助于人工智能所做出的決策，必須在任何情況下都可以提供其決策背后的算法設(shè)計(jì)規(guī)則。2017年6月，德國提出全球首個(gè)自動駕駛汽車倫理原則《自動和聯(lián)網(wǎng)駕駛》，其中針對算法有三個(gè)原則：當(dāng)危險(xiǎn)情況不可避免時(shí)，保護(hù)人類生命優(yōu)先于其他權(quán)益方，為了避免造成人員傷亡，允許在決策算法中事先設(shè)定讓動物或財(cái)產(chǎn)遭受損害；道德困境下的決策依賴于現(xiàn)實(shí)中的具體情況，不可能事先將其進(jìn)行標(biāo)準(zhǔn)化編程；在事故無法避免時(shí)，嚴(yán)格禁止基于人的特征（年齡、性別、生理或者心理狀況等）做出歧視性的算法決策，同時(shí)不得犧牲不相關(guān)方。

對策與建議

一是制定算法法律法規(guī)，搶占人工智能戰(zhàn)略制高點(diǎn)。算法是人工智能的核心，決定人工智能的決策程序、價(jià)值取向和發(fā)展方向，我國應(yīng)盡快對算法進(jìn)行立法，加強(qiáng)人工智能頂層設(shè)計(jì)，搶占人工智能發(fā)展先機(jī)與戰(zhàn)略制高點(diǎn)。首先，加快推動算法倫理道德規(guī)范出臺，厘清算法倫理道德規(guī)范和算法法律的界限。其次，在此基礎(chǔ)上，以算法為規(guī)制對象制定法律法規(guī)，約束和規(guī)范算法設(shè)計(jì)及決策等行為。立法的主要方面應(yīng)該包括但不限于：一是厘清算法的概念及應(yīng)用范疇；二是制定對算法的審查規(guī)則；三是把部分倫理規(guī)范融入法律規(guī)則，強(qiáng)化對算法設(shè)計(jì)者遵循社會倫理道德的法律約束力。

二是設(shè)立專門機(jī)構(gòu)，構(gòu)建全過程監(jiān)管機(jī)制。建議有關(guān)部門成立算法審查專門機(jī)構(gòu)，組成人員可包括職能部門人員、計(jì)算技術(shù)專家、產(chǎn)業(yè)界人士、法律專家、社會團(tuán)體或公益機(jī)構(gòu)人員等不同利益方。專門機(jī)構(gòu)應(yīng)該進(jìn)行全過程的監(jiān)管，包括：事前，算法設(shè)計(jì)者向?qū)ｉT機(jī)構(gòu)提供算法相關(guān)技術(shù)及決策依據(jù)的說明，并進(jìn)行備案；事中，專門機(jī)構(gòu)加大對算法與決策的隨機(jī)抽查力度，從技術(shù)上對算法進(jìn)行審查檢驗(yàn)，對錯(cuò)誤決策進(jìn)行糾正；事后，通過構(gòu)建算法問責(zé)追溯機(jī)制，為公眾建立算法決策的申訴渠道，接受公眾對算法的質(zhì)疑，要求算法設(shè)計(jì)者針對算法進(jìn)行必要解釋和說明。

三是開展相關(guān)研究，夯實(shí)算法應(yīng)用基礎(chǔ)。一是加強(qiáng)對算法在人工智能領(lǐng)域的技術(shù)開發(fā)和應(yīng)用，開展預(yù)測、研判和研究，準(zhǔn)確把握技術(shù)和產(chǎn)業(yè)發(fā)展的趨勢；二是加大資金扶持，研究和評估算法決策應(yīng)用對社會秩序、價(jià)值導(dǎo)向、社會倫理等方面的影響，開展防止算法歧視的研究，強(qiáng)化前瞻性預(yù)防和引導(dǎo)；三是加緊對算法設(shè)計(jì)人員和算法提供者在法律以及道德倫理方面的教育，提高公眾對算法技術(shù)和相關(guān)知識的認(rèn)識和了解程度。