孫占利

(廣東財(cái)經(jīng)大學(xué) 法學(xué)院,廣東 廣州 510320)

一、引 言

1.算法簡(jiǎn)介。算法可被簡(jiǎn)單理解為一種可以反復(fù)采用的計(jì)算方法。算法是人工智能的核心技術(shù)或靈魂,其優(yōu)劣直接決定著人工智能系統(tǒng)的質(zhì)量。一般認(rèn)為,算法之于智能時(shí)代,如同蒸汽機(jī)之于工業(yè)革命,代表著一個(gè)時(shí)代的生產(chǎn)力上限。21世紀(jì)人工智能的興起和規(guī)?；瘧?yīng)用依賴于三個(gè)基礎(chǔ)因素:算法、數(shù)據(jù)、算力,這三大生產(chǎn)要素是以智能化為核心的新一輪科技與產(chǎn)業(yè)革命的驅(qū)動(dòng)力,同時(shí)也構(gòu)成了企業(yè)、行業(yè)、地區(qū)乃至國(guó)家的核心競(jìng)爭(zhēng)力,被業(yè)界認(rèn)為是智能時(shí)代或數(shù)字經(jīng)濟(jì)的“三駕馬車”,分別指向生產(chǎn)關(guān)系、生產(chǎn)資料及生產(chǎn)力。關(guān)于三者的關(guān)系,以自動(dòng)駕駛汽車為例,算法就像是汽車的自動(dòng)控制系統(tǒng)或大腦,數(shù)據(jù)可類比為汽油,算力則如同發(fā)動(dòng)機(jī),三者協(xié)同推動(dòng)汽車安全與穩(wěn)定地運(yùn)行。

2.立法意義。算法在促進(jìn)經(jīng)濟(jì)社會(huì)發(fā)展的同時(shí),也產(chǎn)生了“大數(shù)據(jù)殺熟”、算法黑箱、算法歧視、算法合謀壟斷、算法自動(dòng)決策侵權(quán)等新型問題。如果不對(duì)算法進(jìn)行倫理審查和安全監(jiān)管,就可能產(chǎn)生算法奴役、“信息繭房”及“深度偽造”等社會(huì)風(fēng)險(xiǎn),甚至危及人類自身的安全。對(duì)算法進(jìn)行系統(tǒng)性專門立法,可以防止算法風(fēng)險(xiǎn)問題和促進(jìn)算法產(chǎn)業(yè)的健康發(fā)展,維護(hù)國(guó)家安全、社會(huì)公眾利益及各方的合法權(quán)益,也有助于我國(guó)搶占智能化時(shí)代的戰(zhàn)略制高點(diǎn)。

3.立法現(xiàn)狀。我國(guó)已將人工智能發(fā)展上升為國(guó)家戰(zhàn)略,2017年國(guó)務(wù)院印發(fā)的《新一代人工智能發(fā)展規(guī)劃》提出,到2025年初步建立人工智能法律法規(guī)、倫理規(guī)范和政策體系,到2030年建成更加完善的人工智能法律法規(guī)、倫理規(guī)范和政策體系。我國(guó)關(guān)于算法的立法見于《中華人民共和國(guó)電子商務(wù)法》《中華人民共和國(guó)個(gè)人信息保護(hù)法》《中華人民共和國(guó)數(shù)據(jù)安全法》《中華人民共和國(guó)反壟斷法》《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》等法律法規(guī)、部門規(guī)章、地方性法規(guī)及規(guī)范性文件,在算法產(chǎn)業(yè)促進(jìn)和治理方面已經(jīng)取得了積極成效。

4.立法發(fā)展。我國(guó)在算法治理立法方面取得了積極成效,但尚存在系統(tǒng)性和協(xié)調(diào)性不足、算法產(chǎn)業(yè)促進(jìn)措施不到位及算法風(fēng)險(xiǎn)不能充分有效監(jiān)管等問題,這必然影響到算法產(chǎn)業(yè)的發(fā)展速度與質(zhì)量。智能化時(shí)代的社會(huì)發(fā)展已經(jīng)為算法立法提出了更高的要求,需要對(duì)算法進(jìn)行系統(tǒng)性的專門立法,以促進(jìn)和保障算法產(chǎn)業(yè)規(guī)范有序地發(fā)展。

5.本建議稿。本建議稿在借鑒已有立法、政策及研究成果的基礎(chǔ)上,對(duì)算法產(chǎn)業(yè)促進(jìn)與治理立法進(jìn)行探索,以期拋磚引玉,共同推進(jìn)算法立法的發(fā)展。在本建議稿起草過程中,學(xué)習(xí)借鑒了本領(lǐng)域?qū)＜覍W(xué)者們的杰出研究成果,謹(jǐn)致誠摯的謝意!本建議稿的起草工作得到廣東省法學(xué)會(huì)的大力支持,佛山市順德區(qū)人民檢察院朱鳳茹全程協(xié)助起草,廣東財(cái)經(jīng)大學(xué)白雪梅副教授、劉薇副教授、蔡孟兼副教授、李振宇講師及廣東技術(shù)師范大學(xué)法學(xué)與知識(shí)產(chǎn)權(quán)學(xué)院朱騰偉副教授、廣東財(cái)經(jīng)大學(xué)華商學(xué)院陳敏講師、珠海市橫琴創(chuàng)新發(fā)展研究院法律與規(guī)則銜接研究所鄧鑫研究專員等提出了寶貴的修改意見。由于起草人的水平有限,本建議稿一定存在諸多問題或不足之處,公開刊發(fā)的目的在于希望收到更多批評(píng)指正意見,以期進(jìn)一步完善本建議稿。衷心歡迎專家學(xué)者們提出寶貴意見,起草人聯(lián)系郵箱為:sunzhanli@vip.126.com。

二、目 錄

第一章 總則

第二章 算法產(chǎn)業(yè)促進(jìn)

第三章 算法安全監(jiān)管

第四章 算法企業(yè)的權(quán)利與義務(wù)

第五章 算法救濟(jì)

第六章 法律責(zé)任

第七章 附則

第一章 總 則

第一條【立法目的】為了促進(jìn)算法技術(shù)的創(chuàng)新發(fā)展,推進(jìn)算法在經(jīng)濟(jì)社會(huì)領(lǐng)域的深度融合應(yīng)用,規(guī)范算法研發(fā)與應(yīng)用活動(dòng),保護(hù)公民、法人和非法人組織的合法權(quán)益,維護(hù)國(guó)家安全和社會(huì)公共利益,制定本法。

第二條【適用范圍】中華人民共和國(guó)境內(nèi)的算法研發(fā)、應(yīng)用及監(jiān)管等活動(dòng),適用本法。中華人民共和國(guó)境外的算法應(yīng)用對(duì)境內(nèi)經(jīng)濟(jì)社會(huì)發(fā)展產(chǎn)生負(fù)面影響的,適用本法。

第三條【產(chǎn)業(yè)發(fā)展理念】算法產(chǎn)業(yè)遵循綠色發(fā)展、協(xié)調(diào)發(fā)展、安全發(fā)展理念,弘揚(yáng)社會(huì)主義核心價(jià)值觀,維護(hù)算法公平與正義,推動(dòng)各行業(yè)領(lǐng)域轉(zhuǎn)型升級(jí)和可持續(xù)發(fā)展。

第四條【產(chǎn)業(yè)發(fā)展原則】算法產(chǎn)業(yè)發(fā)展應(yīng)當(dāng)遵循融合創(chuàng)新、安全可控、開放合作、公平競(jìng)爭(zhēng)、協(xié)同治理的原則,防范和控制算法風(fēng)險(xiǎn),保障特殊群體的合法權(quán)益,消除數(shù)字鴻溝。

第五條【產(chǎn)業(yè)發(fā)展規(guī)劃】國(guó)務(wù)院負(fù)責(zé)制定算法產(chǎn)業(yè)發(fā)展規(guī)劃,優(yōu)化算法創(chuàng)新研發(fā)與融合應(yīng)用環(huán)境,加強(qiáng)算法產(chǎn)業(yè)生態(tài)培育與發(fā)展。

地方各級(jí)人民政府負(fù)責(zé)實(shí)施上級(jí)人民政府的規(guī)劃部署,協(xié)調(diào)解決算法產(chǎn)業(yè)發(fā)展中的重大問題,統(tǒng)籌推進(jìn)算法產(chǎn)業(yè)創(chuàng)新與安全發(fā)展。

第六條【安全監(jiān)管原則】算法安全監(jiān)管應(yīng)當(dāng)堅(jiān)持總體國(guó)家安全觀,遵循依法依規(guī)、鼓勵(lì)創(chuàng)新、包容審慎、主動(dòng)防控風(fēng)險(xiǎn)的原則,建立健全分類分級(jí)監(jiān)管體系,綜合運(yùn)用法律、倫理、道德、技術(shù)等手段進(jìn)行科學(xué)監(jiān)管。

第七條【安全監(jiān)管機(jī)制】中央國(guó)家安全領(lǐng)導(dǎo)機(jī)構(gòu)負(fù)責(zé)國(guó)家算法安全工作的決策和議事協(xié)調(diào),研究制定、指導(dǎo)實(shí)施國(guó)家算法安全戰(zhàn)略和有關(guān)重大方針政策,統(tǒng)籌協(xié)調(diào)國(guó)家算法安全的重大事項(xiàng)和重要工作,建立國(guó)家算法安全工作協(xié)調(diào)機(jī)制。

各地區(qū)、各部門對(duì)本地區(qū)、本部門工作中的算法安全負(fù)責(zé)。

工業(yè)、電信、交通、金融、自然資源、衛(wèi)生健康、教育、科技等主管部門承擔(dān)本行業(yè)、本領(lǐng)域算法安全監(jiān)管職責(zé)。

公安機(jī)關(guān)、國(guó)家安全機(jī)關(guān)等依照本法和有關(guān)法律、行政法規(guī)的規(guī)定,在各自職責(zé)范圍內(nèi)承擔(dān)算法安全監(jiān)管職責(zé)。

第八條【協(xié)調(diào)機(jī)制】中央國(guó)家網(wǎng)信領(lǐng)導(dǎo)機(jī)構(gòu)負(fù)責(zé)建立算法產(chǎn)業(yè)安全與發(fā)展協(xié)調(diào)機(jī)制,統(tǒng)籌推進(jìn)算法產(chǎn)業(yè)的總體布局、整體推進(jìn)和檢查落實(shí)協(xié)調(diào)機(jī)制。

國(guó)家網(wǎng)信部門依照本法和有關(guān)法律、行政法規(guī)的規(guī)定,負(fù)責(zé)統(tǒng)籌協(xié)調(diào)算法安全與發(fā)展及相關(guān)監(jiān)管工作。

縣級(jí)以上地方人民政府建立本級(jí)算法產(chǎn)業(yè)安全與發(fā)展協(xié)調(diào)工作機(jī)制,協(xié)調(diào)各主管部門的管理工作,推進(jìn)算法產(chǎn)業(yè)與其他產(chǎn)業(yè)的融合發(fā)展。

第九條【部門職責(zé)】各級(jí)人民政府的發(fā)展和改革部門負(fù)責(zé)擬制本級(jí)算法產(chǎn)業(yè)發(fā)展戰(zhàn)略、規(guī)劃和政策,推進(jìn)算法產(chǎn)業(yè)發(fā)展重大工程和重點(diǎn)項(xiàng)目實(shí)施。各級(jí)人民政府的工業(yè)和信息化部門負(fù)責(zé)算法產(chǎn)業(yè)發(fā)展的具體工作。

各級(jí)人民政府的網(wǎng)信、科技、教育、公安、財(cái)政、統(tǒng)計(jì)、人力資源保障、交通運(yùn)輸、商務(wù)、衛(wèi)生健康、國(guó)有資產(chǎn)監(jiān)管委員會(huì)、市場(chǎng)監(jiān)督管理、政務(wù)服務(wù)數(shù)據(jù)管理、中小企業(yè)服務(wù)等有關(guān)主管部門在其職責(zé)分工范圍內(nèi)促進(jìn)算法產(chǎn)業(yè)健康發(fā)展。

第十條【地方政府職責(zé)】地方各級(jí)人民政府及其有關(guān)部門鼓勵(lì)和支持符合算法倫理和法律法規(guī)的算法新技術(shù)、新產(chǎn)業(yè)、新業(yè)態(tài)、新模式的探索和創(chuàng)新,建立與之相適應(yīng)的監(jiān)管機(jī)制。

第十一條【算法治理】國(guó)家統(tǒng)籌規(guī)劃加強(qiáng)對(duì)算法研發(fā)與應(yīng)用的科學(xué)治理,推動(dòng)政府、企業(yè)、社會(huì)組織及公眾共同參與算法治理,保障自然人、法人和非法人的合法權(quán)益,促進(jìn)算法產(chǎn)業(yè)的健康發(fā)展。

第十二條【行業(yè)自律】國(guó)家鼓勵(lì)相關(guān)行業(yè)組織加強(qiáng)本行業(yè)算法研發(fā)與應(yīng)用的行業(yè)自律,建立健全行業(yè)自律準(zhǔn)則,組織制定行業(yè)標(biāo)準(zhǔn),促進(jìn)本行業(yè)的算法技術(shù)與應(yīng)用創(chuàng)新,推廣具有較高經(jīng)濟(jì)社會(huì)價(jià)值的算法技術(shù)應(yīng)用,督促和指導(dǎo)會(huì)員建立健全算法管理制度和服務(wù)規(guī)范,依法提供服務(wù)并接受社會(huì)監(jiān)督。

第十三條【標(biāo)準(zhǔn)制定】國(guó)家推動(dòng)制定算法領(lǐng)域的國(guó)家標(biāo)準(zhǔn),支持制定行業(yè)標(biāo)準(zhǔn)、地方標(biāo)準(zhǔn)、團(tuán)體標(biāo)準(zhǔn)和企業(yè)標(biāo)準(zhǔn)。

鼓勵(lì)和支持高等院校、科研機(jī)構(gòu)、行業(yè)協(xié)會(huì)、企業(yè)及專業(yè)人士參與制定算法領(lǐng)域的國(guó)際標(biāo)準(zhǔn)、國(guó)家標(biāo)準(zhǔn)、行業(yè)標(biāo)準(zhǔn)、地方標(biāo)準(zhǔn)、團(tuán)體標(biāo)準(zhǔn)及企業(yè)標(biāo)準(zhǔn)。

第十四條【算法企業(yè)】算法企業(yè)應(yīng)尊重社會(huì)公德和科技倫理,促進(jìn)算法技術(shù)、產(chǎn)品和服務(wù)的創(chuàng)新發(fā)展,依法落實(shí)算法治理責(zé)任,不得損害國(guó)家安全、社會(huì)公共利益和他人的合法權(quán)益。

第十五條【交流與合作】國(guó)家鼓勵(lì)跨學(xué)科、跨領(lǐng)域、跨地區(qū)、跨國(guó)界的交流與合作,加強(qiáng)國(guó)際組織、政府部門、科研機(jī)構(gòu)、教育機(jī)構(gòu)、企業(yè)、社會(huì)組織的交流與合作,推進(jìn)算法技術(shù)創(chuàng)新和賦能經(jīng)濟(jì)社會(huì)發(fā)展。

第二章 算法產(chǎn)業(yè)促進(jìn)

第十六條【總體部署】國(guó)家依法制定算法產(chǎn)業(yè)促進(jìn)政策,在資金、人才、技術(shù)、信息、平臺(tái)等方面扶持算法企業(yè),加強(qiáng)算法技術(shù)的基礎(chǔ)研究,促進(jìn)算法核心技術(shù)和關(guān)鍵技術(shù)的突破,支持自主研發(fā)算法的部署和推廣,實(shí)現(xiàn)算法可信化、模塊化、系統(tǒng)化和平臺(tái)化,促進(jìn)算法模型的創(chuàng)新研發(fā)和推廣應(yīng)用。

第十七條【生態(tài)培育】縣級(jí)以上地方人民政府制定算法生態(tài)培育規(guī)劃,完善算法產(chǎn)業(yè)技術(shù)創(chuàng)新體系和基礎(chǔ)技術(shù)供給體系,加強(qiáng)算法技術(shù)的基礎(chǔ)研究和應(yīng)用研究,促進(jìn)算法技術(shù)創(chuàng)新和成果轉(zhuǎn)化,推動(dòng)優(yōu)質(zhì)算法技術(shù)、產(chǎn)品和服務(wù)的普及應(yīng)用,提高全社會(huì)的算法應(yīng)用意識(shí)和能力,推進(jìn)經(jīng)濟(jì)社會(huì)的智能化發(fā)展。

第十八條【資金支持】縣級(jí)以上地方人民政府加大對(duì)算法技術(shù)與應(yīng)用創(chuàng)新的財(cái)政支持力度,發(fā)揮區(qū)域內(nèi)各類產(chǎn)業(yè)發(fā)展、科技創(chuàng)新相關(guān)專項(xiàng)資金的引導(dǎo)作用,建立與社會(huì)資本的聯(lián)動(dòng)機(jī)制,對(duì)算法創(chuàng)新平臺(tái)建設(shè)、技術(shù)研發(fā)攻關(guān)、應(yīng)用轉(zhuǎn)化落地、人才引進(jìn)與培養(yǎng)等予以重點(diǎn)支持。

第十九條【數(shù)據(jù)保障】縣級(jí)以上地方人民政府依法擴(kuò)大面向算法研發(fā)領(lǐng)域的公共數(shù)據(jù)開放,支持針對(duì)算法產(chǎn)業(yè)的數(shù)據(jù)服務(wù)的發(fā)展。

第二十條【應(yīng)用場(chǎng)景保障】縣級(jí)以上地方人民政府依法加大算法應(yīng)用場(chǎng)景的開放力度,建立全球創(chuàng)新算法與應(yīng)用場(chǎng)景的對(duì)接共建機(jī)制,扶持具有重大經(jīng)濟(jì)與社會(huì)效益的算法技術(shù)、產(chǎn)品和服務(wù)的應(yīng)用推廣。

第二十一條【技術(shù)發(fā)展】縣級(jí)以上地方人民政府鼓勵(lì)和支持算法行業(yè)、企業(yè)推進(jìn)關(guān)鍵算法突破升級(jí),研制推廣標(biāo)準(zhǔn)化算法組件、預(yù)訓(xùn)練模型,形成具有示范推廣效應(yīng)的算法技術(shù)及其應(yīng)用產(chǎn)品和服務(wù),促進(jìn)算法的多元供給。

鼓勵(lì)各地因地制宜建設(shè)通用算法庫、應(yīng)用算法庫、前沿算法庫,推動(dòng)算法池?cái)U(kuò)容與共享,建立算法評(píng)測(cè)體系,制定算法技術(shù)、產(chǎn)品和服務(wù)標(biāo)準(zhǔn)。

第二十二條【算法開源】各級(jí)人民政府應(yīng)當(dāng)培育共創(chuàng)、共建、共治、共享的開源理念,鼓勵(lì)打造算法開源平臺(tái)和社區(qū),鼓勵(lì)企業(yè)參與算法開源交流與合作,有序?qū)崿F(xiàn)國(guó)內(nèi)外開源平臺(tái)和社區(qū)互聯(lián)互通,推動(dòng)算法領(lǐng)域開源軟件國(guó)際規(guī)則互認(rèn),培育算法開源基金,保障算法開源方的合法權(quán)益。

第二十三條【人才培育】縣級(jí)以上地方人民政府建立健全算法人才培養(yǎng)制度,加強(qiáng)算法專業(yè)人才隊(duì)伍建設(shè),探索建立算法領(lǐng)域人才評(píng)價(jià)標(biāo)準(zhǔn)與認(rèn)證體系,加大對(duì)優(yōu)秀人才與研究團(tuán)隊(duì)的扶持和獎(jiǎng)勵(lì)。

第二十四條【知識(shí)產(chǎn)權(quán)保護(hù)】國(guó)家針對(duì)算法領(lǐng)域的新技術(shù)、新產(chǎn)業(yè)、新業(yè)態(tài)、新模式的知識(shí)產(chǎn)權(quán)保護(hù)要求,完善算法知識(shí)產(chǎn)權(quán)保護(hù)制度,提高算法知識(shí)產(chǎn)權(quán)執(zhí)法效能,加強(qiáng)算法知識(shí)產(chǎn)權(quán)的跨區(qū)域協(xié)作保護(hù)。

權(quán)利人可以根據(jù)算法技術(shù)與產(chǎn)品的特點(diǎn)依法取得軟件著作權(quán)或?qū)＠麢?quán),也可以選擇采用商業(yè)秘密的方式進(jìn)行保護(hù)。

縣級(jí)以上地方人民政府應(yīng)當(dāng)指導(dǎo)算法企業(yè)、高等院校、科研機(jī)構(gòu)、行業(yè)組織、金融機(jī)構(gòu)等組建算法公共專利池,促進(jìn)算法技術(shù)的應(yīng)用推廣和不斷創(chuàng)新。

第二十五條【成果轉(zhuǎn)化與推廣】縣級(jí)以上地方人民政府支持建設(shè)算法技術(shù)的應(yīng)用轉(zhuǎn)化體系,支持建設(shè)面向重點(diǎn)應(yīng)用領(lǐng)域的公共算法服務(wù)平臺(tái)和算法應(yīng)用信息平臺(tái)、算法復(fù)現(xiàn)平臺(tái),推動(dòng)創(chuàng)新型算法成果的轉(zhuǎn)化和推廣。

鼓勵(lì)縣級(jí)以上地方人民政府建設(shè)算法技術(shù)、產(chǎn)品、服務(wù)交易平臺(tái),探索制定科學(xué)完備的交易規(guī)則和平臺(tái)管理體系。

鼓勵(lì)各類企業(yè)實(shí)現(xiàn)算法技術(shù)與企業(yè)業(yè)務(wù)的對(duì)接,打造算法技術(shù)轉(zhuǎn)化示范項(xiàng)目,加強(qiáng)高質(zhì)量的算法技術(shù)、產(chǎn)品和服務(wù)的推廣。

第二十六條【智庫支持】地方各級(jí)人民政府根據(jù)需要設(shè)立算法產(chǎn)業(yè)發(fā)展與治理專家委員會(huì),為本行政區(qū)域算法產(chǎn)業(yè)的發(fā)展規(guī)劃、重大決策和疑難問題提供專業(yè)咨詢意見。

第二十七條【協(xié)同發(fā)展】國(guó)家支持算法產(chǎn)業(yè)與其他產(chǎn)業(yè)的協(xié)同發(fā)展,推進(jìn)跨區(qū)域的算法產(chǎn)業(yè)發(fā)展規(guī)劃銜接、技術(shù)標(biāo)準(zhǔn)互認(rèn)等工作。

鼓勵(lì)高等院校、科研機(jī)構(gòu)、行業(yè)協(xié)會(huì)、企業(yè)及專業(yè)人士在基礎(chǔ)研究、技術(shù)開發(fā)、技術(shù)引進(jìn)、技術(shù)共享、人才培養(yǎng)等方面開展協(xié)作,協(xié)同攻關(guān)突破關(guān)鍵技術(shù)和核心技術(shù)。

第三章 算法安全監(jiān)管

第二十八條【總體要求】國(guó)家建立健全算法安全監(jiān)管制度,推動(dòng)算法安全監(jiān)管體制機(jī)制創(chuàng)新,加強(qiáng)算法倫理審查和安全治理,推動(dòng)算法產(chǎn)業(yè)的安全發(fā)展。

算法安全監(jiān)管應(yīng)落實(shí)算法研發(fā)和應(yīng)用企業(yè)的主體責(zé)任、各級(jí)人民政府的屬地監(jiān)管責(zé)任和地方算法安全監(jiān)管部門的直接監(jiān)管責(zé)任。

第二十九條【監(jiān)管職責(zé)】各級(jí)人民政府的有關(guān)部門依法對(duì)本行業(yè)領(lǐng)域的算法研發(fā)與應(yīng)用進(jìn)行安全監(jiān)管,針對(duì)本行業(yè)領(lǐng)域的特點(diǎn)建立算法風(fēng)險(xiǎn)預(yù)警和評(píng)估機(jī)制,定期開展本行業(yè)領(lǐng)域的算法安全監(jiān)督檢查,對(duì)發(fā)現(xiàn)的算法風(fēng)險(xiǎn)及時(shí)予以處理。

第三十條【監(jiān)管機(jī)制】各級(jí)人民政府及其算法安全監(jiān)管部門應(yīng)當(dāng)建立算法安全事前、事中、事后相結(jié)合的一體化監(jiān)管體系,對(duì)算法的研發(fā)與應(yīng)用活動(dòng)實(shí)施動(dòng)態(tài)風(fēng)險(xiǎn)防控,實(shí)時(shí)分析算法技術(shù)與應(yīng)用的潛在風(fēng)險(xiǎn)并采取預(yù)防措施,及時(shí)對(duì)算法安全事件采取有效的處置措施。

算法企業(yè)應(yīng)當(dāng)配合有關(guān)主管部門依法實(shí)施的監(jiān)管工作,并提供必要的技術(shù)、數(shù)據(jù)及其他協(xié)助。

第三十一條【安全審查】算法安全審查納入國(guó)家網(wǎng)絡(luò)安全審查工作機(jī)制,國(guó)家網(wǎng)絡(luò)安全審查部門負(fù)責(zé)制定算法安全審查相關(guān)制度規(guī)范、組織算法安全審查和對(duì)違反算法安全審查規(guī)定的行為進(jìn)行處理。

第三十二條【分類分級(jí)監(jiān)管】國(guó)家算法安全審查部門應(yīng)當(dāng)按照算法的應(yīng)用場(chǎng)景、安全風(fēng)險(xiǎn)、社會(huì)影響等因素建立算法分類分級(jí)管理制度。

鼓勵(lì)促進(jìn)經(jīng)濟(jì)社會(huì)發(fā)展、防災(zāi)救災(zāi)及公共衛(wèi)生事件的應(yīng)急處理的算法的研發(fā)與應(yīng)用,禁止危及人類社會(huì)、危害國(guó)家安全、損害社會(huì)公共利益及侵害他人合法權(quán)益的算法研發(fā)與應(yīng)用。

存在較大國(guó)家安全風(fēng)險(xiǎn)、倫理風(fēng)險(xiǎn)、社會(huì)風(fēng)險(xiǎn)的算法應(yīng)當(dāng)在研發(fā)和應(yīng)用前取得國(guó)家算法安全審查部門或其授權(quán)的省級(jí)算法安全審查部門的許可,并在許可范圍內(nèi)研發(fā)和應(yīng)用。

第三十三條【算法備案】具有輿論屬性或者社會(huì)動(dòng)員能力的算法推薦服務(wù)及其他對(duì)社會(huì)影響較大的算法服務(wù)的提供者應(yīng)當(dāng)在提供服務(wù)之日起十個(gè)工作日內(nèi)通過互聯(lián)網(wǎng)信息服務(wù)算法備案系統(tǒng)填報(bào)服務(wù)提供者的名稱、服務(wù)形式、應(yīng)用領(lǐng)域、算法類型、算法自評(píng)估報(bào)告、擬公示內(nèi)容等信息,履行備案手續(xù)。

完成備案的算法服務(wù)提供者應(yīng)當(dāng)在其對(duì)外提供服務(wù)的網(wǎng)站、應(yīng)用程序等的顯著位置標(biāo)明其備案編號(hào)并提供公示信息鏈接。

算法服務(wù)提供者的備案信息發(fā)生變更的,應(yīng)當(dāng)在變更之日起十個(gè)工作日內(nèi)辦理變更手續(xù)。

算法服務(wù)提供者終止服務(wù)的,應(yīng)當(dāng)在終止服務(wù)之日起二十個(gè)工作日內(nèi)辦理注銷備案手續(xù),并作出妥善安排。

第三十四條【企業(yè)備案承諾】企業(yè)在辦理算法備案時(shí)應(yīng)當(dāng)承諾不利用提供算法技術(shù)、產(chǎn)品和服務(wù)的便利條件非法獲取用戶數(shù)據(jù)或非法操控用戶設(shè)備,無正當(dāng)理由不得中斷算法產(chǎn)品供應(yīng)或者停止技術(shù)支持服務(wù)。

第三十五條【監(jiān)管沙盒】算法安全審查部門可以根據(jù)算法的應(yīng)用場(chǎng)景、風(fēng)險(xiǎn)等級(jí)、影響范圍等因素,要求風(fēng)險(xiǎn)較高的算法在特定區(qū)域和范圍開展應(yīng)用安全測(cè)試,通過安全測(cè)試后方可投入使用。未通過安全測(cè)試的算法,算法安全審查部門可以根據(jù)安全風(fēng)險(xiǎn)程度要求其退出安全測(cè)試或者對(duì)算法調(diào)整后重新申請(qǐng)安全測(cè)試。

第三十六條【高風(fēng)險(xiǎn)算法】算法安全監(jiān)管部門依法對(duì)高風(fēng)險(xiǎn)算法采取與其風(fēng)險(xiǎn)相適應(yīng)的監(jiān)管措施,可以要求企業(yè)解釋說明算法風(fēng)險(xiǎn)及其防控措施,必要時(shí)可以按照?qǐng)?zhí)法程序遠(yuǎn)程獲取企業(yè)用于訓(xùn)練、驗(yàn)證、測(cè)試算法的數(shù)據(jù)集和獲取算法設(shè)計(jì)的源代碼。

第三十七條【監(jiān)測(cè)與預(yù)警】算法安全監(jiān)管部門可以采用自動(dòng)化系統(tǒng)和人工巡查同步結(jié)合的方式對(duì)算法的數(shù)據(jù)使用、應(yīng)用場(chǎng)景、社會(huì)影響等進(jìn)行動(dòng)態(tài)監(jiān)測(cè),及時(shí)發(fā)現(xiàn)算法安全風(fēng)險(xiǎn)并予以預(yù)警。

第三十八條【應(yīng)急處理】各級(jí)人民政府建立算法安全風(fēng)險(xiǎn)應(yīng)急機(jī)制,根據(jù)算法安全風(fēng)險(xiǎn)等級(jí)制定相應(yīng)的應(yīng)急預(yù)案,配備必要的專業(yè)應(yīng)急人員和應(yīng)急設(shè)備。

第三十九條【安全主體責(zé)任】算法企業(yè)應(yīng)當(dāng)依法落實(shí)算法安全主體責(zé)任,建立健全算法倫理審查、安全評(píng)估監(jiān)測(cè)、安全事件應(yīng)急處置、數(shù)據(jù)安全保護(hù)和個(gè)人信息保護(hù)等管理制度,向用戶公開算法技術(shù)、產(chǎn)品和服務(wù)的安全應(yīng)用與服務(wù)協(xié)議。

第四十條【安全評(píng)估與監(jiān)督】算法企業(yè)應(yīng)當(dāng)依法建立算法風(fēng)險(xiǎn)評(píng)估制度,在算法的研發(fā)與應(yīng)用全過程自主實(shí)施安全評(píng)估或委托第三方專業(yè)機(jī)構(gòu)進(jìn)行評(píng)估。

算法安全監(jiān)管部門定期開展算法安全評(píng)估與監(jiān)督工作,對(duì)發(fā)現(xiàn)的問題及時(shí)提出整改意見并責(zé)令相關(guān)企業(yè)限期整改。

第四十一條【第三方安全服務(wù)與協(xié)作】國(guó)家促進(jìn)算法安全檢測(cè)評(píng)估、認(rèn)證等服務(wù)的發(fā)展,支持算法安全檢測(cè)評(píng)估、認(rèn)證等專業(yè)機(jī)構(gòu)依法開展服務(wù)活動(dòng)。

國(guó)家支持有關(guān)部門、行業(yè)組織、企業(yè)、教育和科研機(jī)構(gòu)等在算法安全風(fēng)險(xiǎn)評(píng)估、防范、處置方面的交流與合作。

第四十二條【行業(yè)監(jiān)管】縣級(jí)以上地方人民政府支持成立本級(jí)算法安全保護(hù)行業(yè)組織,行業(yè)組織在授權(quán)范圍內(nèi)依法開展下列活動(dòng):

(一)向有關(guān)主管部門反映算法安全保護(hù)情況和提供咨詢建議;

(二)督促和指導(dǎo)行業(yè)組織的成員企業(yè)建立健全算法安全規(guī)范并接受社會(huì)監(jiān)督;

(三)依法開展行業(yè)安全監(jiān)督檢查,向行業(yè)組織的成員提供算法安全保護(hù)信息和咨詢服務(wù);

(四)接受算法安全方面的投訴、舉報(bào)并進(jìn)行調(diào)查和調(diào)解;

(五)對(duì)符合公益訴訟條件的算法安全事件,依法向人民法院提起公益訴訟。

第四十三條【保密義務(wù)】參與算法安全審查、評(píng)估與監(jiān)督檢查的機(jī)構(gòu)和人員應(yīng)當(dāng)對(duì)工作中所知悉的商業(yè)秘密、個(gè)人信息、用戶或企業(yè)提交的未公開材料及其他未公開信息承擔(dān)保密義務(wù)。未經(jīng)信息提供方同意,不得將保密信息對(duì)外披露或者用于工作以外的目的。

第四章 算法企業(yè)的權(quán)利與義務(wù)

第四十四條【算法企業(yè)的權(quán)利】算法企業(yè)依法享受算法產(chǎn)業(yè)支持政策,平等獲得稅收、信貸、科技經(jīng)費(fèi)、人才引進(jìn)、科技成果轉(zhuǎn)化等方面的優(yōu)惠待遇。

第四十五條【算法管理體系】算法企業(yè)應(yīng)當(dāng)建立健全算法倫理審查、影響評(píng)估、安全防護(hù)及應(yīng)急處置等算法管理體系,確保算法能夠依法合規(guī)、公平公正、安全可靠地作出自動(dòng)化決策,防止損害國(guó)家安全、社會(huì)公共利益及他人合法權(quán)益。

第四十六條【算法倫理】算法企業(yè)應(yīng)當(dāng)建立算法倫理風(fēng)險(xiǎn)管理體系,明確管理機(jī)構(gòu)、目標(biāo)及工作規(guī)程,提升算法倫理審查、風(fēng)險(xiǎn)管控和應(yīng)急處置能力。

第四十七條【算法合規(guī)】算法企業(yè)根據(jù)業(yè)務(wù)類型、市場(chǎng)規(guī)模、技術(shù)水平、行業(yè)狀況等建立算法合規(guī)管理制度,設(shè)立算法合規(guī)管理機(jī)構(gòu)或?qū)Ｂ毴藛T,加強(qiáng)算法風(fēng)險(xiǎn)防控和隱患排查,提升應(yīng)對(duì)安全風(fēng)險(xiǎn)的能力和水平,確保算法技術(shù)、產(chǎn)品和服務(wù)符合相關(guān)法律法規(guī)、安全與質(zhì)量標(biāo)準(zhǔn)及業(yè)務(wù)規(guī)范的規(guī)定。

第四十八條【算法安全風(fēng)險(xiǎn)】算法企業(yè)應(yīng)當(dāng)防范算法安全風(fēng)險(xiǎn),規(guī)范算法應(yīng)用行為,提高算法安全風(fēng)險(xiǎn)的監(jiān)測(cè)、預(yù)警和處置能力。

第四十九條【資質(zhì)與標(biāo)準(zhǔn)】算法企業(yè)應(yīng)當(dāng)具備與其業(yè)務(wù)范圍相適應(yīng)的企業(yè)資質(zhì),提供的算法技術(shù)、產(chǎn)品和服務(wù)的質(zhì)量應(yīng)符合有關(guān)的國(guó)家標(biāo)準(zhǔn)、行業(yè)標(biāo)準(zhǔn)及地方標(biāo)準(zhǔn)的要求。

第五十條【算法決策的科學(xué)性、合理性、可靠性】算法企業(yè)應(yīng)確保算法決策的科學(xué)性、合理性和可靠性達(dá)到國(guó)家有關(guān)規(guī)定的要求,防止算法決策錯(cuò)誤或者造成其他不利后果。

算法決策的科學(xué)性、合理性、可靠性從下列方面進(jìn)行判斷:

(一)訓(xùn)練數(shù)據(jù)和監(jiān)測(cè)數(shù)據(jù)的全面性、規(guī)范性、準(zhǔn)確性和可靠性;

(二)算法決策規(guī)則與參數(shù)設(shè)置的科學(xué)性、合理性和先進(jìn)性;

(三)算法決策過程的邏輯性、可解釋性和可驗(yàn)證性;

(四)算法決策結(jié)果的可預(yù)測(cè)性和可驗(yàn)證性;

(五)用戶畫像的公正性、客觀性和真實(shí)性;

(六)其他影響因素。

第五十一條【算法公平】算法企業(yè)應(yīng)當(dāng)采取可靠的技術(shù)手段對(duì)其算法的分析、決策和優(yōu)化等具體應(yīng)用任務(wù)的公平性進(jìn)行驗(yàn)證,不得利用算法優(yōu)勢(shì)侵害用戶或他人的合法權(quán)益。

算法技術(shù)、產(chǎn)品和服務(wù)的社會(huì)化應(yīng)用應(yīng)當(dāng)尊重和幫助弱勢(shì)群體,滿足特殊群體的特別需求或提供適宜的替代方案。

第五十二條【算法透明】算法企業(yè)應(yīng)向用戶明示算法決策的目的、方式和范圍,適當(dāng)披露算法的基本原理、運(yùn)行邏輯、決策過程、驗(yàn)證方式及功能局限,并向有能力了解算法決策的利益相關(guān)方提供易訪問、可理解、可評(píng)估的路徑。

企業(yè)在公開披露算法時(shí)可以不公開核心算法技術(shù)、關(guān)鍵參數(shù)和源代碼,但應(yīng)以普通用戶可理解的方式說明算法決策是否公平或是否損害用戶的合法權(quán)益。

第五十三條【算法解釋】算法技術(shù)、產(chǎn)品和服務(wù)的用戶有證據(jù)認(rèn)為算法對(duì)其合法權(quán)益造成損害的,可要求企業(yè)對(duì)算法的決策目的、基本原理、決策規(guī)則、參數(shù)設(shè)置、運(yùn)行過程、驗(yàn)證方式及優(yōu)化方案等進(jìn)行可信解釋。

對(duì)影響國(guó)家安全、社會(huì)公共利益以及他人合法權(quán)益的算法,算法安全監(jiān)管部門可要求相關(guān)企業(yè)對(duì)算法進(jìn)行可信解釋,并根據(jù)解釋和審查結(jié)果采取修正后使用、限制使用范圍、禁止使用等措施。

第五十四條【算法歧視或偏見】算法企業(yè)應(yīng)當(dāng)遵循平等原則,不得因用戶的身份、職業(yè)、性別、年齡、民族、種族等作出具有歧視性或偏見性的算法決策。

算法企業(yè)應(yīng)當(dāng)主動(dòng)檢查研發(fā)或應(yīng)用的算法是否存在歧視或偏見,發(fā)現(xiàn)算法歧視或偏見時(shí)應(yīng)立即停止應(yīng)用并予以消除。

第五十五條【算法風(fēng)險(xiǎn)評(píng)估】企業(yè)在設(shè)計(jì)、開發(fā)算法時(shí)應(yīng)根據(jù)應(yīng)用場(chǎng)景,綜合考慮實(shí)現(xiàn)算法功能的準(zhǔn)確性、代碼的正確性、目標(biāo)函數(shù)的影響、訓(xùn)練數(shù)據(jù)集的影響、對(duì)抗性樣本的影響和環(huán)境數(shù)據(jù)的影響等指標(biāo),對(duì)算法決策的風(fēng)險(xiǎn)進(jìn)行評(píng)估。

算法應(yīng)用企業(yè)應(yīng)當(dāng)定期對(duì)算法安全風(fēng)險(xiǎn)及其應(yīng)對(duì)措施進(jìn)行評(píng)估,發(fā)現(xiàn)較大風(fēng)險(xiǎn)或可能產(chǎn)生較大社會(huì)影響時(shí)應(yīng)當(dāng)及時(shí)上報(bào)有關(guān)主管部門。

第五十六條【算法審計(jì)】算法企業(yè)應(yīng)當(dāng)建立算法的安全性、合法性及正當(dāng)性的內(nèi)部審計(jì)制度,保障算法內(nèi)部審計(jì)人員參與或指導(dǎo)算法研發(fā)與應(yīng)用工作的權(quán)利,在系統(tǒng)權(quán)限管理等方面為內(nèi)部審計(jì)工作提供便利條件。

企業(yè)提供的算法技術(shù)、產(chǎn)品和服務(wù)具有重大社會(huì)影響的,算法安全監(jiān)管部門可以委托第三方專業(yè)機(jī)構(gòu)對(duì)算法研發(fā)、數(shù)據(jù)安全保護(hù)、算法決策規(guī)則、數(shù)據(jù)開發(fā)利用及企業(yè)承諾執(zhí)行情況等進(jìn)行年度外部審計(jì),依照有關(guān)法律法規(guī)的規(guī)定披露審計(jì)結(jié)果。

第五十七條【用戶畫像】算法企業(yè)根據(jù)用戶行為進(jìn)行用戶畫像的,不得侵害用戶和其他主體的合法權(quán)益,不得危害國(guó)家安全和社會(huì)公共利益。

用戶畫像限于用戶授權(quán)或同意的范圍,且應(yīng)當(dāng)進(jìn)行去個(gè)人化或匿名化處理,不得包含淫穢、色情、暴力等非法和不良信息。

第五十八條【算法操縱】算法企業(yè)不得利用算法操縱用戶賬號(hào)、評(píng)論、點(diǎn)贊、榜單、熱搜等,實(shí)施影響網(wǎng)絡(luò)輿論或者規(guī)避監(jiān)管行為。

第五十九條【算法推送】算法推送服務(wù)企業(yè)應(yīng)當(dāng)加強(qiáng)對(duì)推送信息的審核與監(jiān)管,建立健全人工干預(yù)和用戶選擇機(jī)制,最大程度地減少對(duì)用戶判斷或選擇的不利影響。

第六十條【互聯(lián)網(wǎng)平臺(tái)經(jīng)營(yíng)者】互聯(lián)網(wǎng)平臺(tái)經(jīng)營(yíng)者向消費(fèi)者銷售商品或者提供服務(wù)的,應(yīng)當(dāng)保護(hù)消費(fèi)者公平交易的權(quán)利,不得根據(jù)消費(fèi)者的偏好、交易習(xí)慣等特征,利用算法在交易價(jià)格等交易條件上實(shí)施不合理的差別待遇等違法行為。

第六十一條【算法壟斷】禁止企業(yè)濫用算法與其他經(jīng)營(yíng)者達(dá)成或?qū)嵤艛鄥f(xié)議、對(duì)其他經(jīng)營(yíng)者進(jìn)行不合理限制以及實(shí)施具有或者可能具有排除、限制競(jìng)爭(zhēng)效果的其他行為。

第六十二條【勞動(dòng)者權(quán)益保障】企業(yè)運(yùn)用算法技術(shù)安排工作調(diào)度的,應(yīng)當(dāng)動(dòng)態(tài)完善訂單分配、工作時(shí)間、報(bào)酬構(gòu)成與支付及獎(jiǎng)懲等的算法設(shè)計(jì)和運(yùn)行規(guī)則,依法保障勞動(dòng)者的合法權(quán)益。

第六十三條【特殊群體權(quán)益保障】向殘疾人、未成年人及老年人等特殊群體提供算法產(chǎn)品或服務(wù)的企業(yè),應(yīng)當(dāng)提供適合特殊群體特點(diǎn)的使用模式和服務(wù)方式,簡(jiǎn)明扼要地說明算法產(chǎn)品或服務(wù)的基本功能、使用方法及注意事項(xiàng),維護(hù)特殊群體的合法權(quán)益。

第六十四條【數(shù)據(jù)安全】算法企業(yè)應(yīng)當(dāng)依法獲取用戶的個(gè)人信息,建立健全與個(gè)人信息保護(hù)相關(guān)的算法服務(wù)協(xié)議、隱私政策和算法披露制度。

算法企業(yè)應(yīng)當(dāng)明確算法使用數(shù)據(jù)的來源、范圍和用途,防止數(shù)據(jù)泄露與濫用。

第六十五條【安全保障措施】算法企業(yè)應(yīng)當(dāng)增強(qiáng)算法系統(tǒng)的魯棒性,配置應(yīng)急管理和備份系統(tǒng),動(dòng)態(tài)檢測(cè)算法系統(tǒng)漏洞等安全風(fēng)險(xiǎn),發(fā)現(xiàn)風(fēng)險(xiǎn)時(shí)應(yīng)及時(shí)采取有效處置措施。

對(duì)與人身安全密切相關(guān)的算法,算法企業(yè)應(yīng)進(jìn)行針對(duì)性的風(fēng)險(xiǎn)測(cè)試和采用更高級(jí)別的安全保護(hù)措施。

算法企業(yè)應(yīng)當(dāng)將算法模型的修改權(quán)限限制在授權(quán)用戶和特定授權(quán)范圍,防止算法原始模型數(shù)據(jù)被第三方惡意篡改。

第六十六條【算法服務(wù)協(xié)議】算法企業(yè)依法制定算法服務(wù)協(xié)議,明確算法服務(wù)中有關(guān)各方的權(quán)利、義務(wù)及責(zé)任。

算法服務(wù)協(xié)議有較大變更時(shí),算法企業(yè)應(yīng)當(dāng)在其官方網(wǎng)站公開征求意見,征求意見的時(shí)間不得少于一個(gè)月,并確保公眾能夠便捷、充分地表達(dá)意見。

算法服務(wù)企業(yè)應(yīng)當(dāng)充分采納公眾的合理意見,適時(shí)公布意見采納情況。對(duì)未采納的意見,應(yīng)當(dāng)說明理由。

第六十七條【算法濫用】算法企業(yè)不得濫用算法技術(shù)、產(chǎn)品和服務(wù),并采取措施防止他人濫用其算法產(chǎn)品或服務(wù)以損害國(guó)家安全、社會(huì)公共利益或者他人合法權(quán)益。

第六十八條【應(yīng)急處理】算法企業(yè)應(yīng)當(dāng)制定算法安全事件應(yīng)急預(yù)案,發(fā)生算法安全事件時(shí),應(yīng)當(dāng)立即啟動(dòng)應(yīng)急預(yù)案,采取相應(yīng)的補(bǔ)救措施,并向算法安全監(jiān)管部門報(bào)告。

第六十九條【算法追溯機(jī)制】算法企業(yè)應(yīng)當(dāng)確保算法模型、運(yùn)行過程、決策結(jié)果可記錄和可留痕,妥善保存算法決策日志與相關(guān)記錄,協(xié)助用戶或有關(guān)部門查明損害結(jié)果的發(fā)生原因與產(chǎn)生的后果。

第七十條【算法終結(jié)機(jī)制】算法企業(yè)應(yīng)當(dāng)保證算法系統(tǒng)的可中斷性,在算法系統(tǒng)出現(xiàn)非法自動(dòng)化決策、無法預(yù)測(cè)或控制其決策結(jié)果及可能產(chǎn)生重大社會(huì)風(fēng)險(xiǎn)時(shí),立即終止算法系統(tǒng)的運(yùn)行。

第五章 算法救濟(jì)

第七十一條【企業(yè)承諾】算法企業(yè)應(yīng)切實(shí)履行算法服務(wù)協(xié)議,踐行在算法備案、算法審計(jì)及其他安全監(jiān)管中作出的承諾,維護(hù)用戶和有關(guān)各方的合法權(quán)益。

第七十二條【算法救濟(jì)便利化】算法企業(yè)應(yīng)主動(dòng)收集和及時(shí)反饋用戶意見,設(shè)置便捷的用戶投訴渠道,及時(shí)處理用戶投訴,并將處理結(jié)果告知用戶。

算法企業(yè)應(yīng)以提供必要的證據(jù)等方式為用戶和有關(guān)各方依法維權(quán)提供便利條件。

第七十三條【算法披露與解釋權(quán)】算法技術(shù)、產(chǎn)品和服務(wù)的用戶可以依法要求企業(yè)對(duì)其算法進(jìn)行適當(dāng)披露和可信解釋,企業(yè)不得以算法黑箱、商業(yè)秘密及用戶難以理解等為由拒絕披露或解釋。

第七十四條【知情權(quán)和選擇權(quán)】算法服務(wù)企業(yè)應(yīng)告知與用戶合法權(quán)益相關(guān)的算法服務(wù)信息,為用戶提供便捷選擇或退出算法服務(wù)的選項(xiàng)。選項(xiàng)的設(shè)置不得針對(duì)用戶個(gè)人特征,并應(yīng)保障用戶可以隨時(shí)選擇退出算法服務(wù)。

算法服務(wù)企業(yè)不得以個(gè)人不同意處理其個(gè)人信息或者撤回同意為由拒絕提供算法服務(wù),但處理個(gè)人信息屬于提供服務(wù)所必需的除外。

第七十五條【拒絕權(quán)和更正權(quán)】用戶可以拒絕算法自動(dòng)化決策提供的服務(wù)或拒絕接受僅通過算法自動(dòng)化決策方式提供服務(wù)。

出現(xiàn)算法決策錯(cuò)誤時(shí),用戶可以要求企業(yè)采取更正算法輸入的數(shù)據(jù)或修改算法運(yùn)行規(guī)則等補(bǔ)救措施。

第七十六條【維權(quán)監(jiān)督】有關(guān)主管部門通過受理投訴、舉報(bào)及主動(dòng)檢查等方式加強(qiáng)維權(quán)監(jiān)督,責(zé)令相關(guān)企業(yè)及時(shí)整改發(fā)現(xiàn)的問題,保障用戶和有關(guān)各方的合法權(quán)益。

第七十七條【違法處理】有關(guān)主管部門發(fā)現(xiàn)算法技術(shù)、產(chǎn)品、服務(wù)存在侵權(quán)或其他安全隱患時(shí),可約談相關(guān)企業(yè),責(zé)令其及時(shí)采取改正措施。

第七十八條【司法救濟(jì)】用戶發(fā)現(xiàn)算法技術(shù)、產(chǎn)品、服務(wù)侵害其合法權(quán)益時(shí),可以依法向有管轄權(quán)的人民法院提起訴訟。

第七十九條【公益訴訟】對(duì)利用算法技術(shù)、產(chǎn)品、服務(wù)侵害眾多用戶合法權(quán)益等損害社會(huì)公共利益的行為,法律規(guī)定的機(jī)關(guān)和有關(guān)組織可以依法向人民法院提起訴訟。

人民檢察院履行職責(zé)中發(fā)現(xiàn)算法技術(shù)、產(chǎn)品、服務(wù)侵害眾多用戶合法權(quán)益等損害社會(huì)公共利益的行為,在沒有適格主體或者適格主體未提起訴訟的情況下,可以向人民法院提起民事公益訴訟。用戶或行業(yè)組織提起訴訟的,人民檢察院可以支持起訴。

第八十條【行業(yè)組織救濟(jì)】用戶發(fā)現(xiàn)算法技術(shù)、產(chǎn)品或服務(wù)損害其合法權(quán)益時(shí),可以向相關(guān)行業(yè)組織投訴。行業(yè)組織收到投訴后應(yīng)及時(shí)予以處理,并將處理結(jié)果告知相關(guān)企業(yè)和用戶。

行業(yè)組織在處理用戶投訴時(shí)發(fā)現(xiàn)算法系統(tǒng)存在較大社會(huì)風(fēng)險(xiǎn)或安全隱患時(shí),應(yīng)及時(shí)告知相關(guān)企業(yè)修改算法或終止運(yùn)行算法系統(tǒng),并及時(shí)上報(bào)有關(guān)主管部門。

第八十一條【企業(yè)維權(quán)】算法企業(yè)認(rèn)為監(jiān)管部門、行業(yè)組織及其工作人員有失客觀公正,或者不依法履行保密等義務(wù)的,可以向有關(guān)部門投訴或舉報(bào)。有關(guān)部門收到投訴或舉報(bào)后應(yīng)及時(shí)予以處理,并將處理結(jié)果告知相關(guān)企業(yè)。

第六章 法律責(zé)任

第八十二條【民事責(zé)任】有下列情形之一的,算法企業(yè)應(yīng)當(dāng)承擔(dān)民事責(zé)任:

(一)算法技術(shù)、產(chǎn)品、服務(wù)對(duì)用戶產(chǎn)生歧視或偏見的;

(二)無理由不履行或未適當(dāng)履行算法解釋等義務(wù)的;

(三)算法產(chǎn)品或服務(wù)不符合約定的目的、用途和范圍的;

(四)違法處理用戶個(gè)人信息或其他數(shù)據(jù);

(五)實(shí)施其他損害用戶或他人合法權(quán)益的行為。

發(fā)現(xiàn)算法技術(shù)、產(chǎn)品、服務(wù)正在侵犯或可能侵害其合法權(quán)益時(shí),權(quán)利人可依法要求該算法企業(yè)承擔(dān)停止侵害、消除危險(xiǎn)、消除影響、恢復(fù)名譽(yù)等民事責(zé)任。造成用戶損失的,依法賠償損失。

第八十三條【備案責(zé)任】企業(yè)未按規(guī)定取得許可或未履行備案義務(wù),或者通過隱瞞真實(shí)情況、提供虛假材料等不正當(dāng)手段取得許可或備案的,有關(guān)主管部門應(yīng)及時(shí)撤回許可或備案,并依法給予警告、通報(bào)批評(píng)、限制開展生產(chǎn)經(jīng)營(yíng)活動(dòng)、責(zé)令停產(chǎn)停業(yè)、罰款等行政處罰。

第八十四條【執(zhí)法約談】企業(yè)違反本法的算法安全監(jiān)管規(guī)定的,算法安全監(jiān)管部門可依職責(zé)約談相關(guān)企業(yè)的主管人員或其他直接責(zé)任人員,責(zé)令限期改正;約談后仍不改正的,依照相關(guān)法律法規(guī)的規(guī)定予以處理。

第八十五條【行政責(zé)任和刑事責(zé)任】算法企業(yè)及其工作人員違反本法的規(guī)定,構(gòu)成違反治安管理行為的,依法給予治安管理處罰;構(gòu)成犯罪的,根據(jù)算法服務(wù)的風(fēng)險(xiǎn)等級(jí)不同,依法追究刑事責(zé)任。

第八十六條【記入信用檔案】算法企業(yè)違反本法規(guī)定造成嚴(yán)重后果的,除依法承擔(dān)相應(yīng)的民事責(zé)任、行政責(zé)任及刑事責(zé)任外,還應(yīng)當(dāng)依照有關(guān)法律法規(guī)的規(guī)定記入企業(yè)信用檔案,并予以公示。

第八十七條【第三方機(jī)構(gòu)的責(zé)任】從事算法評(píng)估、算法審計(jì)等的第三方專業(yè)機(jī)構(gòu)及其工作人員違反本法規(guī)定的,有關(guān)主管部門依職責(zé)給予警告、通報(bào)批評(píng)、限制開展生產(chǎn)經(jīng)營(yíng)活動(dòng)、責(zé)令停產(chǎn)停業(yè)、沒收違法所得、罰款等行政處罰;造成他人財(cái)產(chǎn)損失的,依法賠償損失;構(gòu)成犯罪的,依法追究刑事責(zé)任。

第八十八條【寬嚴(yán)相濟(jì)】算法企業(yè)及其工作人員違法行為輕微且能及時(shí)整改,未造成危害后果的,不予行政處罰;初次違法且危害后果輕微,并及時(shí)改正的,可以不予行政處罰;違法情節(jié)或后果較為嚴(yán)重但主動(dòng)報(bào)告有關(guān)情況并積極配合調(diào)查和消除危險(xiǎn)的,可以減輕或者免除處罰。

第八十九條【容錯(cuò)免責(zé)】對(duì)于算法產(chǎn)業(yè)創(chuàng)新過程中已經(jīng)盡到勤勉盡責(zé)但未能避免失誤或過錯(cuò)的企業(yè)及其工作人員,省級(jí)人民政府可以根據(jù)需要制定不予處罰清單,采取約談告誡、批評(píng)教育、責(zé)令改正等措施督促企業(yè)依法創(chuàng)新和合規(guī)經(jīng)營(yíng)。

第九十條【技術(shù)局限免責(zé)】算法技術(shù)、產(chǎn)品、服務(wù)投入市場(chǎng)時(shí)的科學(xué)技術(shù)尚不能發(fā)現(xiàn)存在缺陷的,算法技術(shù)、產(chǎn)品、服務(wù)提供者可以主張免除法律責(zé)任,但未能結(jié)合科學(xué)技術(shù)的發(fā)展對(duì)其技術(shù)、產(chǎn)品、服務(wù)進(jìn)行動(dòng)態(tài)優(yōu)化以致造成重大損失的除外。

第七章 附則

第九十一條【定義】本法下列用語的含義:

本法所稱“算法”是為一個(gè)問題或一類問題給出的解決方法與具體步驟,是對(duì)問題求解過程的一種準(zhǔn)確而完整的邏輯描述。

本法所稱“算法企業(yè)”是指從事算法研發(fā)和向社會(huì)提供算法技術(shù)、產(chǎn)品和服務(wù)的企業(yè)。

本法所稱“算法推薦”是指通過機(jī)器學(xué)習(xí)、統(tǒng)計(jì)或其他數(shù)據(jù)處理形成的向用戶提供個(gè)性化推送、排序精選、檢索過濾、調(diào)度決策等信息內(nèi)容的計(jì)算程序。

本法所稱“算法推薦服務(wù)提供者”是指使用算法推薦技術(shù)提供算法推薦服務(wù)的企業(yè)或其他組織。

本法所稱“算法黑箱”是指機(jī)器學(xué)習(xí)時(shí)其復(fù)雜的神經(jīng)元網(wǎng)絡(luò)中存在的不為人所能直觀捕捉到的隱層。

本法所稱“算法歧視”是指算法研發(fā)人員對(duì)事物的認(rèn)知存在某種偏見或算法學(xué)習(xí)、運(yùn)行時(shí)使用了帶有偏見的數(shù)據(jù)集等,導(dǎo)致該算法產(chǎn)生歧視性的結(jié)果。

本法所稱“可靠性”是指算法在一定時(shí)間和一定條件下可以無故障地實(shí)現(xiàn)特定的功能,以及在輸入數(shù)據(jù)出現(xiàn)問題時(shí)能夠作出適當(dāng)反應(yīng)或者進(jìn)行有效處理。

本法所稱“魯棒性”是指算法系統(tǒng)遇到輸入、運(yùn)算等問題時(shí)處理錯(cuò)誤和繼續(xù)正常運(yùn)行的能力。

本法所稱“可驗(yàn)證性”是指輸入某組特定數(shù)據(jù)時(shí)同一算法會(huì)產(chǎn)生相同的結(jié)果,可用于解決算法解釋與算法追責(zé)問題。

本法所稱“可解釋性”是指算法企業(yè)應(yīng)盡可能地對(duì)算法的過程和特定的決策提供解釋,以維護(hù)算法用戶的知情權(quán)和拒絕權(quán),避免和解決算法決策的錯(cuò)誤性和歧視性。

第九十二條【例外情形】其他法律對(duì)特定類型的算法技術(shù)、產(chǎn)品、服務(wù)及其監(jiān)管另有規(guī)定的,依照其規(guī)定。

第九十三條【實(shí)施】本法自 年 月 日起實(shí)施。