編者按：隨著人工智能技術的縱深發(fā)展與廣泛應用，算法正在重塑經濟社會的發(fā)展方式、人們的交往方式和生活方式；作為新興產業(yè)的算法產業(yè)對傳統(tǒng)產業(yè)的滲透率持續(xù)提升，影響力日慚增強。如何促進算法產業(yè)的可持續(xù)發(fā)展和規(guī)范治理，已然成為當前急迫的時代課題。為此，本刊特刊出廣東財經大學孫占利教授草擬的《算法產業(yè)促進與治理法（建議稿）》，以期能引起學界和業(yè)界專家對“促進算法產業(yè)發(fā)展與治理”相關立法的關注、討論，推進算法產業(yè)規(guī)范化發(fā)展。

收稿日期：20230515

基金項目：國家社科基金項目：人工智能算法的法律規(guī)制研究（20BFX017）

作者簡介：

孫占利，教授，法學博士，博士生導師， 主要從事信息網(wǎng)絡法與智慧社會法治研究，Email： sunzhanli@vip.126.com。

摘要：

算法是人工智能乃至智能化的核心技術，與算力、數(shù)據(jù)一起被稱為智能時代或數(shù)字經濟的“三駕馬車”。算法在促進經濟社會發(fā)展的同時，也產生了算法黑箱、算法歧視、“大數(shù)據(jù)殺熟”、算法合謀壟斷、算法奴役、“信息繭房”等新型社會問題。我國關于算法的立法規(guī)定散見于《電子商務法》《個人信息保護法》《反壟斷法》等法律法規(guī)和部門規(guī)章之中，缺乏系統(tǒng)性和協(xié)調性，且對諸多問題未作規(guī)定。我國宜對算法產業(yè)促進與安全監(jiān)管等進行專門立法，立法的主要內容包括總則、算法產業(yè)促進、算法安全監(jiān)管、算法企業(yè)的權利與義務、算法救濟、法律責任、附則等。本建議稿以算法安全與發(fā)展的平衡協(xié)調為基本理念，著眼于算法產業(yè)生態(tài)建設和系統(tǒng)治理，建立算法安全事前、事中、事后相結合的一體化監(jiān)管體系，按照算法的應用場景、安全風險、社會影響等因素建立算法分類分級管理制度；確立監(jiān)管沙盒、算法安全檢測評估與認證、算法審計、算法公平性驗證、算法追溯、算法終結、算法問責、算法救濟、算法合規(guī)等安全保障機制，實時分析算法技術與應用的安全風險并動態(tài)采取預警和處置措施；針對算法黑箱等具體問題采用可信解釋等解決方案，確保算法決策的科學性、合理性、可靠性；在規(guī)范算法研發(fā)與應用活動的同時引入產業(yè)政策扶持、容錯免責及技術局限免責等鼓勵創(chuàng)新的措施，推進算法在經濟社會領域的深度融合與應用，以保護公民、法人和非法人組織的合法權益，維護國家安全和社會公共利益，探索并推動科學立法以維護算法公平與正義。

關鍵詞：算法倫理；算法黑箱；算法歧視；算法問責；算法救濟

中圖分類號：D912.17

文獻標識碼：A

文章編號：16738268（2024）01000112

一、引言

1.算法簡介。算法可被簡單理解為一種可以反復采用的計算方法。算法是人工智能的核心技術或靈魂，其優(yōu)劣直接決定著人工智能系統(tǒng)的質量。一般認為，算法之于智能時代，如同蒸汽機之于工業(yè)革命，代表著一個時代的生產力上限。21世紀人工智能的興起和規(guī)模化應用依賴于三個基礎因素：算法、數(shù)據(jù)、算力，這三大生產要素是以智能化為核心的新一輪科技與產業(yè)革命的驅動力，同時也構成了企業(yè)、行業(yè)、地區(qū)乃至國家的核心競爭力，被業(yè)界認為是智能時代或數(shù)字經濟的“三駕馬車”，分別指向生產關系、生產資料及生產力。關于三者的關系，以自動駕駛汽車為例，算法就像是汽車的自動控制系統(tǒng)或大腦，數(shù)據(jù)可類比為汽油，算力則如同發(fā)動機，三者協(xié)同推動汽車安全與穩(wěn)定地運行。

2.立法意義。算法在促進經濟社會發(fā)展的同時，也產生了“大數(shù)據(jù)殺熟”、算法黑箱、算法歧視、算法合謀壟斷、算法自動決策侵權等新型問題。如果不對算法進行倫理審查和安全監(jiān)管，就可能產生算法奴役、“信息繭房”及“深度偽造”等社會風險，甚至危及人類自身的安全。對算法進行系統(tǒng)性專門立法，可以防止算法風險問題和促進算法產業(yè)的健康發(fā)展，維護國家安全、社會公眾利益及各方的合法權益，也有助于我國搶占智能化時代的戰(zhàn)略制高點。

3.立法現(xiàn)狀。我國已將人工智能發(fā)展上升為國家戰(zhàn)略，2017年國務院印發(fā)的《新一代人工智能發(fā)展規(guī)劃》提出，到2025年初步建立人工智能法律法規(guī)、倫理規(guī)范和政策體系，到2030年建成更加完善的人工智能法律法規(guī)、倫理規(guī)范和政策體系。我國關于算法的立法見于《中華人民共和國電子商務法》《中華人民共和國個人信息保護法》《中華人民共和國數(shù)據(jù)安全法》《中華人民共和國反壟斷法》《互聯(lián)網(wǎng)信息服務算法推薦管理規(guī)定》等法律法規(guī)、部門規(guī)章、地方性法規(guī)及規(guī)范性文件，在算法產業(yè)促進和治理方面已經取得了積極成效。

4.立法發(fā)展。我國在算法治理立法方面取得了積極成效，但尚存在系統(tǒng)性和協(xié)調性不足、算法產業(yè)促進措施不到位及算法風險不能充分有效監(jiān)管等問題，這必然影響到算法產業(yè)的發(fā)展速度與質量。智能化時代的社會發(fā)展已經為算法立法提出了更高的要求，需要對算法進行系統(tǒng)性的專門立法，以促進和保障算法產業(yè)規(guī)范有序地發(fā)展。

5.本建議稿。本建議稿在借鑒已有立法、政策及研究成果的基礎上，對算法產業(yè)促進與治理立法進行探索，以期拋磚引玉，共同推進算法立法的發(fā)展。在本建議稿起草過程中，學習借鑒了本領域專家學者們的杰出研究成果，謹致誠摯的謝意！本建議稿的起草工作得到廣東省法學會的大力支持，佛山市順德區(qū)人民檢察院朱鳳茹全程協(xié)助起草，廣東財經大學白雪梅副教授、劉薇副教授、蔡孟兼副教授、李振宇講師及廣東技術師范大學法學與知識產權學院朱騰偉副教授、廣東財經大學華商學院陳敏講師、珠海市橫琴創(chuàng)新發(fā)展研究院法律與規(guī)則銜接研究所鄧鑫研究專員等提出了寶貴的修改意見。由于起草人的水平有限，本建議稿一定存在諸多問題或不足之處，公開刊發(fā)的目的在于希望收到更多批評指正意見，以期進一步完善本建議稿。衷心歡迎專家學者們提出寶貴意見，起草人聯(lián)系郵箱為：sunzhanli@vip.126.com。

二、目錄

第一章總則

第二章算法產業(yè)促進

第三章算法安全監(jiān)管

第四章算法企業(yè)的權利與義務

第五章算法救濟

第六章法律責任

第七章附則

第一章總則

第一條【立法目的】為了促進算法技術的創(chuàng)新發(fā)展，推進算法在經濟社會領域的深度融合應用，規(guī)范算法研發(fā)與應用活動，保護公民、法人和非法人組織的合法權益，維護國家安全和社會公共利益，制定本法。

第二條【適用范圍】中華人民共和國境內的算法研發(fā)、應用及監(jiān)管等活動，適用本法。中華人民共和國境外的算法應用對境內經濟社會發(fā)展產生負面影響的，適用本法。

第三條【產業(yè)發(fā)展理念】算法產業(yè)遵循綠色發(fā)展、協(xié)調發(fā)展、安全發(fā)展理念，弘揚社會主義核心價值觀，維護算法公平與正義，推動各行業(yè)領域轉型升級和可持續(xù)發(fā)展。

第四條【產業(yè)發(fā)展原則】算法產業(yè)發(fā)展應當遵循融合創(chuàng)新、安全可控、開放合作、公平競爭、協(xié)同治理的原則，防范和控制算法風險，保障特殊群體的合法權益，消除數(shù)字鴻溝。

第五條【產業(yè)發(fā)展規(guī)劃】國務院負責制定算法產業(yè)發(fā)展規(guī)劃，優(yōu)化算法創(chuàng)新研發(fā)與融合應用環(huán)境，加強算法產業(yè)生態(tài)培育與發(fā)展。

地方各級人民政府負責實施上級人民政府的規(guī)劃部署，協(xié)調解決算法產業(yè)發(fā)展中的重大問題，統(tǒng)籌推進算法產業(yè)創(chuàng)新與安全發(fā)展。

第六條【安全監(jiān)管原則】算法安全監(jiān)管應當堅持總體國家安全觀，遵循依法依規(guī)、鼓勵創(chuàng)新、包容審慎、主動防控風險的原則，建立健全分類分級監(jiān)管體系，綜合運用法律、倫理、道德、技術等手段進行科學監(jiān)管。

第七條【安全監(jiān)管機制】中央國家安全領導機構負責國家算法安全工作的決策和議事協(xié)調，研究制定、指導實施國家算法安全戰(zhàn)略和有關重大方針政策，統(tǒng)籌協(xié)調國家算法安全的重大事項和重要工作，建立國家算法安全工作協(xié)調機制。

各地區(qū)、各部門對本地區(qū)、本部門工作中的算法安全負責。

工業(yè)、電信、交通、金融、自然資源、衛(wèi)生健康、教育、科技等主管部門承擔本行業(yè)、本領域算法安全監(jiān)管職責。

公安機關、國家安全機關等依照本法和有關法律、行政法規(guī)的規(guī)定，在各自職責范圍內承擔算法安全監(jiān)管職責。

第八條【協(xié)調機制】中央國家網(wǎng)信領導機構負責建立算法產業(yè)安全與發(fā)展協(xié)調機制，統(tǒng)籌推進算法產業(yè)的總體布局、整體推進和檢查落實協(xié)調機制。

國家網(wǎng)信部門依照本法和有關法律、行政法規(guī)的規(guī)定，負責統(tǒng)籌協(xié)調算法安全與發(fā)展及相關監(jiān)管工作。

縣級以上地方人民政府建立本級算法產業(yè)安全與發(fā)展協(xié)調工作機制，協(xié)調各主管部門的管理工作，推進算法產業(yè)與其他產業(yè)的融合發(fā)展。

第九條【部門職責】各級人民政府的發(fā)展和改革部門負責擬制本級算法產業(yè)發(fā)展戰(zhàn)略、規(guī)劃和政策，推進算法產業(yè)發(fā)展重大工程和重點項目實施。各級人民政府的工業(yè)和信息化部門負責算法產業(yè)發(fā)展的具體工作。

各級人民政府的網(wǎng)信、科技、教育、公安、財政、統(tǒng)計、人力資源保障、交通運輸、商務、衛(wèi)生健康、國有資產監(jiān)管委員會、市場監(jiān)督管理、政務服務數(shù)據(jù)管理、中小企業(yè)服務等有關主管部門在其職責分工范圍內促進算法產業(yè)健康發(fā)展。

第十條【地方政府職責】地方各級人民政府及其有關部門鼓勵和支持符合算法倫理和法律法規(guī)的算法新技術、新產業(yè)、新業(yè)態(tài)、新模式的探索和創(chuàng)新，建立與之相適應的監(jiān)管機制。

第十一條【算法治理】國家統(tǒng)籌規(guī)劃加強對算法研發(fā)與應用的科學治理，推動政府、企業(yè)、社會組織及公眾共同參與算法治理，保障自然人、法人和非法人的合法權益，促進算法產業(yè)的健康發(fā)展。

第十二條【行業(yè)自律】國家鼓勵相關行業(yè)組織加強本行業(yè)算法研發(fā)與應用的行業(yè)自律，建立健全行業(yè)自律準則，組織制定行業(yè)標準，促進本行業(yè)的算法技術與應用創(chuàng)新，推廣具有較高經濟社會價值的算法技術應用，督促和指導會員建立健全算法管理制度和服務規(guī)范，依法提供服務并接受社會監(jiān)督。

第十三條【標準制定】國家推動制定算法領域的國家標準，支持制定行業(yè)標準、地方標準、團體標準和企業(yè)標準。

鼓勵和支持高等院校、科研機構、行業(yè)協(xié)會、企業(yè)及專業(yè)人士參與制定算法領域的國際標準、國家標準、行業(yè)標準、地方標準、團體標準及企業(yè)標準。

第十四條【算法企業(yè)】算法企業(yè)應尊重社會公德和科技倫理，促進算法技術、產品和服務的創(chuàng)新發(fā)展，依法落實算法治理責任，不得損害國家安全、社會公共利益和他人的合法權益。

第十五條【交流與合作】國家鼓勵跨學科、跨領域、跨地區(qū)、跨國界的交流與合作，加強國際組織、政府部門、科研機構、教育機構、企業(yè)、社會組織的交流與合作，推進算法技術創(chuàng)新和賦能經濟社會發(fā)展。

第二章算法產業(yè)促進

第十六條【總體部署】國家依法制定算法產業(yè)促進政策，在資金、人才、技術、信息、平臺等方面扶持算法企業(yè)，加強算法技術的基礎研究，促進算法核心技術和關鍵技術的突破，支持自主研發(fā)算法的部署和推廣，實現(xiàn)算法可信化、模塊化、系統(tǒng)化和平臺化，促進算法模型的創(chuàng)新研發(fā)和推廣應用。

第十七條【生態(tài)培育】縣級以上地方人民政府制定算法生態(tài)培育規(guī)劃，完善算法產業(yè)技術創(chuàng)新體系和基礎技術供給體系，加強算法技術的基礎研究和應用研究，促進算法技術創(chuàng)新和成果轉化，推動優(yōu)質算法技術、產品和服務的普及應用，提高全社會的算法應用意識和能力，推進經濟社會的智能化發(fā)展。

第十八條【資金支持】縣級以上地方人民政府加大對算法技術與應用創(chuàng)新的財政支持力度，發(fā)揮區(qū)域內各類產業(yè)發(fā)展、科技創(chuàng)新相關專項資金的引導作用，建立與社會資本的聯(lián)動機制，對算法創(chuàng)新平臺建設、技術研發(fā)攻關、應用轉化落地、人才引進與培養(yǎng)等予以重點支持。

第十九條【數(shù)據(jù)保障】縣級以上地方人民政府依法擴大面向算法研發(fā)領域的公共數(shù)據(jù)開放，支持針對算法產業(yè)的數(shù)據(jù)服務的發(fā)展。

第二十條【應用場景保障】縣級以上地方人民政府依法加大算法應用場景的開放力度，建立全球創(chuàng)新算法與應用場景的對接共建機制，扶持具有重大經濟與社會效益的算法技術、產品和服務的應用推廣。

第二十一條【技術發(fā)展】縣級以上地方人民政府鼓勵和支持算法行業(yè)、企業(yè)推進關鍵算法突破升級，研制推廣標準化算法組件、預訓練模型，形成具有示范推廣效應的算法技術及其應用產品和服務，促進算法的多元供給。

鼓勵各地因地制宜建設通用算法庫、應用算法庫、前沿算法庫，推動算法池擴容與共享，建立算法評測體系，制定算法技術、產品和服務標準。

第二十二條【算法開源】各級人民政府應當培育共創(chuàng)、共建、共治、共享的開源理念，鼓勵打造算法開源平臺和社區(qū)，鼓勵企業(yè)參與算法開源交流與合作，有序實現(xiàn)國內外開源平臺和社區(qū)互聯(lián)互通，推動算法領域開源軟件國際規(guī)則互認，培育算法開源基金，保障算法開源方的合法權益。

第二十三條【人才培育】縣級以上地方人民政府建立健全算法人才培養(yǎng)制度，加強算法專業(yè)人才隊伍建設，探索建立算法領域人才評價標準與認證體系，加大對優(yōu)秀人才與研究團隊的扶持和獎勵。

第二十四條【知識產權保護】國家針對算法領域的新技術、新產業(yè)、新業(yè)態(tài)、新模式的知識產權保護要求，完善算法知識產權保護制度，提高算法知識產權執(zhí)法效能，加強算法知識產權的跨區(qū)域協(xié)作保護。

權利人可以根據(jù)算法技術與產品的特點依法取得軟件著作權或專利權，也可以選擇采用商業(yè)秘密的方式進行保護。

縣級以上地方人民政府應當指導算法企業(yè)、高等院校、科研機構、行業(yè)組織、金融機構等組建算法公共專利池，促進算法技術的應用推廣和不斷創(chuàng)新。

第二十五條【成果轉化與推廣】縣級以上地方人民政府支持建設算法技術的應用轉化體系，支持建設面向重點應用領域的公共算法服務平臺和算法應用信息平臺、算法復現(xiàn)平臺，推動創(chuàng)新型算法成果的轉化和推廣。

鼓勵縣級以上地方人民政府建設算法技術、產品、服務交易平臺，探索制定科學完備的交易規(guī)則和平臺管理體系。

鼓勵各類企業(yè)實現(xiàn)算法技術與企業(yè)業(yè)務的對接，打造算法技術轉化示范項目，加強高質量的算法技術、產品和服務的推廣。

第二十六條【智庫支持】地方各級人民政府根據(jù)需要設立算法產業(yè)發(fā)展與治理專家委員會，為本行政區(qū)域算法產業(yè)的發(fā)展規(guī)劃、重大決策和疑難問題提供專業(yè)咨詢意見。

第二十七條【協(xié)同發(fā)展】國家支持算法產業(yè)與其他產業(yè)的協(xié)同發(fā)展，推進跨區(qū)域的算法產業(yè)發(fā)展規(guī)劃銜接、技術標準互認等工作。

鼓勵高等院校、科研機構、行業(yè)協(xié)會、企業(yè)及專業(yè)人士在基礎研究、技術開發(fā)、技術引進、技術共享、人才培養(yǎng)等方面開展協(xié)作，協(xié)同攻關突破關鍵技術和核心技術。

第三章算法安全監(jiān)管

第二十八條【總體要求】國家建立健全算法安全監(jiān)管制度，推動算法安全監(jiān)管體制機制創(chuàng)新，加強算法倫理審查和安全治理，推動算法產業(yè)的安全發(fā)展。

算法安全監(jiān)管應落實算法研發(fā)和應用企業(yè)的主體責任、各級人民政府的屬地監(jiān)管責任和地方算法安全監(jiān)管部門的直接監(jiān)管責任。

第二十九條【監(jiān)管職責】各級人民政府的有關部門依法對本行業(yè)領域的算法研發(fā)與應用進行安全監(jiān)管，針對本行業(yè)領域的特點建立算法風險預警和評估機制，定期開展本行業(yè)領域的算法安全監(jiān)督檢查，對發(fā)現(xiàn)的算法風險及時予以處理。

第三十條【監(jiān)管機制】各級人民政府及其算法安全監(jiān)管部門應當建立算法安全事前、事中、事后相結合的一體化監(jiān)管體系，對算法的研發(fā)與應用活動實施動態(tài)風險防控，實時分析算法技術與應用的潛在風險并采取預防措施，及時對算法安全事件采取有效的處置措施。

算法企業(yè)應當配合有關主管部門依法實施的監(jiān)管工作，并提供必要的技術、數(shù)據(jù)及其他協(xié)助。

第三十一條【安全審查】算法安全審查納入國家網(wǎng)絡安全審查工作機制，國家網(wǎng)絡安全審查部門負責制定算法安全審查相關制度規(guī)范、組織算法安全審查和對違反算法安全審查規(guī)定的行為進行處理。

第三十二條【分類分級監(jiān)管】國家算法安全審查部門應當按照算法的應用場景、安全風險、社會影響等因素建立算法分類分級管理制度。

鼓勵促進經濟社會發(fā)展、防災救災及公共衛(wèi)生事件的應急處理的算法的研發(fā)與應用，禁止危及人類社會、危害國家安全、損害社會公共利益及侵害他人合法權益的算法研發(fā)與應用。

存在較大國家安全風險、倫理風險、社會風險的算法應當在研發(fā)和應用前取得國家算法安全審查部門或其授權的省級算法安全審查部門的許可，并在許可范圍內研發(fā)和應用。

第三十三條【算法備案】具有輿論屬性或者社會動員能力的算法推薦服務及其他對社會影響較大的算法服務的提供者應當在提供服務之日起十個工作日內通過互聯(lián)網(wǎng)信息服務算法備案系統(tǒng)填報服務提供者的名稱、服務形式、應用領域、算法類型、算法自評估報告、擬公示內容等信息，履行備案手續(xù)。

完成備案的算法服務提供者應當在其對外提供服務的網(wǎng)站、應用程序等的顯著位置標明其備案編號并提供公示信息鏈接。

算法服務提供者的備案信息發(fā)生變更的，應當在變更之日起十個工作日內辦理變更手續(xù)。

算法服務提供者終止服務的，應當在終止服務之日起二十個工作日內辦理注銷備案手續(xù)，并作出妥善安排。

第三十四條【企業(yè)備案承諾】企業(yè)在辦理算法備案時應當承諾不利用提供算法技術、產品和服務的便利條件非法獲取用戶數(shù)據(jù)或非法操控用戶設備，無正當理由不得中斷算法產品供應或者停止技術支持服務。

第三十五條【監(jiān)管沙盒】算法安全審查部門可以根據(jù)算法的應用場景、風險等級、影響范圍等因素，要求風險較高的算法在特定區(qū)域和范圍開展應用安全測試，通過安全測試后方可投入使用。未通過安全測試的算法，算法安全審查部門可以根據(jù)安全風險程度要求其退出安全測試或者對算法調整后重新申請安全測試。

第三十六條【高風險算法】算法安全監(jiān)管部門依法對高風險算法采取與其風險相適應的監(jiān)管措施，可以要求企業(yè)解釋說明算法風險及其防控措施，必要時可以按照執(zhí)法程序遠程獲取企業(yè)用于訓練、驗證、測試算法的數(shù)據(jù)集和獲取算法設計的源代碼。

第三十七條【監(jiān)測與預警】算法安全監(jiān)管部門可以采用自動化系統(tǒng)和人工巡查同步結合的方式對算法的數(shù)據(jù)使用、應用場景、社會影響等進行動態(tài)監(jiān)測，及時發(fā)現(xiàn)算法安全風險并予以預警。

第三十八條【應急處理】各級人民政府建立算法安全風險應急機制，根據(jù)算法安全風險等級制定相應的應急預案，配備必要的專業(yè)應急人員和應急設備。

第三十九條【安全主體責任】算法企業(yè)應當依法落實算法安全主體責任，建立健全算法倫理審查、安全評估監(jiān)測、安全事件應急處置、數(shù)據(jù)安全保護和個人信息保護等管理制度，向用戶公開算法技術、產品和服務的安全應用與服務協(xié)議。

第四十條【安全評估與監(jiān)督】算法企業(yè)應當依法建立算法風險評估制度，在算法的研發(fā)與應用全過程自主實施安全評估或委托第三方專業(yè)機構進行評估。

算法安全監(jiān)管部門定期開展算法安全評估與監(jiān)督工作，對發(fā)現(xiàn)的問題及時提出整改意見并責令相關企業(yè)限期整改。

第四十一條【第三方安全服務與協(xié)作】國家促進算法安全檢測評估、認證等服務的發(fā)展，支持算法安全檢測評估、認證等專業(yè)機構依法開展服務活動。

國家支持有關部門、行業(yè)組織、企業(yè)、教育和科研機構等在算法安全風險評估、防范、處置方面的交流與合作。

第四十二條【行業(yè)監(jiān)管】縣級以上地方人民政府支持成立本級算法安全保護行業(yè)組織，行業(yè)組織在授權范圍內依法開展下列活動：

（一）向有關主管部門反映算法安全保護情況和提供咨詢建議；

（二）督促和指導行業(yè)組織的成員企業(yè)建立健全算法安全規(guī)范并接受社會監(jiān)督；

（三）依法開展行業(yè)安全監(jiān)督檢查，向行業(yè)組織的成員提供算法安全保護信息和咨詢服務；

（四）接受算法安全方面的投訴、舉報并進行調查和調解；

（五）對符合公益訴訟條件的算法安全事件，依法向人民法院提起公益訴訟。

第四十三條【保密義務】參與算法安全審查、評估與監(jiān)督檢查的機構和人員應當對工作中所知悉的商業(yè)秘密、個人信息、用戶或企業(yè)提交的未公開材料及其他未公開信息承擔保密義務。未經信息提供方同意，不得將保密信息對外披露或者用于工作以外的目的。

第四章算法企業(yè)的權利與義務

第四十四條【算法企業(yè)的權利】算法企業(yè)依法享受算法產業(yè)支持政策，平等獲得稅收、信貸、科技經費、人才引進、科技成果轉化等方面的優(yōu)惠待遇。

第四十五條【算法管理體系】算法企業(yè)應當建立健全算法倫理審查、影響評估、安全防護及應急處置等算法管理體系，確保算法能夠依法合規(guī)、公平公正、安全可靠地作出自動化決策，防止損害國家安全、社會公共利益及他人合法權益。

第四十六條【算法倫理】算法企業(yè)應當建立算法倫理風險管理體系，明確管理機構、目標及工作規(guī)程，提升算法倫理審查、風險管控和應急處置能力。

第四十七條【算法合規(guī)】算法企業(yè)根據(jù)業(yè)務類型、市場規(guī)模、技術水平、行業(yè)狀況等建立算法合規(guī)管理制度，設立算法合規(guī)管理機構或專職人員，加強算法風險防控和隱患排查，提升應對安全風險的能力和水平，確保算法技術、產品和服務符合相關法律法規(guī)、安全與質量標準及業(yè)務規(guī)范的規(guī)定。

第四十八條【算法安全風險】算法企業(yè)應當防范算法安全風險，規(guī)范算法應用行為，提高算法安全風險的監(jiān)測、預警和處置能力。

第四十九條【資質與標準】算法企業(yè)應當具備與其業(yè)務范圍相適應的企業(yè)資質，提供的算法技術、產品和服務的質量應符合有關的國家標準、行業(yè)標準及地方標準的要求。

第五十條【算法決策的科學性、合理性、可靠性】算法企業(yè)應確保算法決策的科學性、合理性和可靠性達到國家有關規(guī)定的要求，防止算法決策錯誤或者造成其他不利后果。

算法決策的科學性、合理性、可靠性從下列方面進行判斷：

（一）訓練數(shù)據(jù)和監(jiān)測數(shù)據(jù)的全面性、規(guī)范性、準確性和可靠性；

（二）算法決策規(guī)則與參數(shù)設置的科學性、合理性和先進性；

（三）算法決策過程的邏輯性、可解釋性和可驗證性；

（四）算法決策結果的可預測性和可驗證性；

（五）用戶畫像的公正性、客觀性和真實性；

（六）其他影響因素。

第五十一條【算法公平】算法企業(yè)應當采取可靠的技術手段對其算法的分析、決策和優(yōu)化等具體應用任務的公平性進行驗證，不得利用算法優(yōu)勢侵害用戶或他人的合法權益。

算法技術、產品和服務的社會化應用應當尊重和幫助弱勢群體，滿足特殊群體的特別需求或提供適宜的替代方案。

第五十二條【算法透明】算法企業(yè)應向用戶明示算法決策的目的、方式和范圍，適當披露算法的基本原理、運行邏輯、決策過程、驗證方式及功能局限，并向有能力了解算法決策的利益相關方提供易訪問、可理解、可評估的路徑。

企業(yè)在公開披露算法時可以不公開核心算法技術、關鍵參數(shù)和源代碼，但應以普通用戶可理解的方式說明算法決策是否公平或是否損害用戶的合法權益。

第五十三條【算法解釋】算法技術、產品和服務的用戶有證據(jù)認為算法對其合法權益造成損害的，可要求企業(yè)對算法的決策目的、基本原理、決策規(guī)則、參數(shù)設置、運行過程、驗證方式及優(yōu)化方案等進行可信解釋。

對影響國家安全、社會公共利益以及他人合法權益的算法，算法安全監(jiān)管部門可要求相關企業(yè)對算法進行可信解釋，并根據(jù)解釋和審查結果采取修正后使用、限制使用范圍、禁止使用等措施。

第五十四條【算法歧視或偏見】算法企業(yè)應當遵循平等原則，不得因用戶的身份、職業(yè)、性別、年齡、民族、種族等作出具有歧視性或偏見性的算法決策。

算法企業(yè)應當主動檢查研發(fā)或應用的算法是否存在歧視或偏見，發(fā)現(xiàn)算法歧視或偏見時應立即停止應用并予以消除。

第五十五條【算法風險評估】企業(yè)在設計、開發(fā)算法時應根據(jù)應用場景，綜合考慮實現(xiàn)算法功能的準確性、代碼的正確性、目標函數(shù)的影響、訓練數(shù)據(jù)集的影響、對抗性樣本的影響和環(huán)境數(shù)據(jù)的影響等指標，對算法決策的風險進行評估。

算法應用企業(yè)應當定期對算法安全風險及其應對措施進行評估，發(fā)現(xiàn)較大風險或可能產生較大社會影響時應當及時上報有關主管部門。

第五十六條【算法審計】算法企業(yè)應當建立算法的安全性、合法性及正當性的內部審計制度，保障算法內部審計人員參與或指導算法研發(fā)與應用工作的權利，在系統(tǒng)權限管理等方面為內部審計工作提供便利條件。

企業(yè)提供的算法技術、產品和服務具有重大社會影響的，算法安全監(jiān)管部門可以委托第三方專業(yè)機構對算法研發(fā)、數(shù)據(jù)安全保護、算法決策規(guī)則、數(shù)據(jù)開發(fā)利用及企業(yè)承諾執(zhí)行情況等進行年度外部審計，依照有關法律法規(guī)的規(guī)定披露審計結果。

第五十七條【用戶畫像】算法企業(yè)根據(jù)用戶行為進行用戶畫像的，不得侵害用戶和其他主體的合法權益，不得危害國家安全和社會公共利益。

用戶畫像限于用戶授權或同意的范圍，且應當進行去個人化或匿名化處理，不得包含淫穢、色情、暴力等非法和不良信息。

第五十八條【算法操縱】算法企業(yè)不得利用算法操縱用戶賬號、評論、點贊、榜單、熱搜等，實施影響網(wǎng)絡輿論或者規(guī)避監(jiān)管行為。

第五十九條【算法推送】算法推送服務企業(yè)應當加強對推送信息的審核與監(jiān)管，建立健全人工干預和用戶選擇機制，最大程度地減少對用戶判斷或選擇的不利影響。

第六十條【互聯(lián)網(wǎng)平臺經營者】互聯(lián)網(wǎng)平臺經營者向消費者銷售商品或者提供服務的，應當保護消費者公平交易的權利，不得根據(jù)消費者的偏好、交易習慣等特征，利用算法在交易價格等交易條件上實施不合理的差別待遇等違法行為。

第六十一條【算法壟斷】禁止企業(yè)濫用算法與其他經營者達成或實施壟斷協(xié)議、對其他經營者進行不合理限制以及實施具有或者可能具有排除、限制競爭效果的其他行為。

第六十二條【勞動者權益保障】企業(yè)運用算法技術安排工作調度的，應當動態(tài)完善訂單分配、工作時間、報酬構成與支付及獎懲等的算法設計和運行規(guī)則，依法保障勞動者的合法權益。

第六十三條【特殊群體權益保障】向殘疾人、未成年人及老年人等特殊群體提供算法產品或服務的企業(yè)，應當提供適合特殊群體特點的使用模式和服務方式，簡明扼要地說明算法產品或服務的基本功能、使用方法及注意事項，維護特殊群體的合法權益。

第六十四條【數(shù)據(jù)安全】算法企業(yè)應當依法獲取用戶的個人信息，建立健全與個人信息保護相關的算法服務協(xié)議、隱私政策和算法披露制度。

算法企業(yè)應當明確算法使用數(shù)據(jù)的來源、范圍和用途，防止數(shù)據(jù)泄露與濫用。

第六十五條【安全保障措施】算法企業(yè)應當增強算法系統(tǒng)的魯棒性，配置應急管理和備份系統(tǒng)，動態(tài)檢測算法系統(tǒng)漏洞等安全風險，發(fā)現(xiàn)風險時應及時采取有效處置措施。

對與人身安全密切相關的算法，算法企業(yè)應進行針對性的風險測試和采用更高級別的安全保護措施。

算法企業(yè)應當將算法模型的修改權限限制在授權用戶和特定授權范圍，防止算法原始模型數(shù)據(jù)被第三方惡意篡改。

第六十六條【算法服務協(xié)議】算法企業(yè)依法制定算法服務協(xié)議，明確算法服務中有關各方的權利、義務及責任。

算法服務協(xié)議有較大變更時，算法企業(yè)應當在其官方網(wǎng)站公開征求意見，征求意見的時間不得少于一個月，并確保公眾能夠便捷、充分地表達意見。

算法服務企業(yè)應當充分采納公眾的合理意見，適時公布意見采納情況。對未采納的意見，應當說明理由。

第六十七條【算法濫用】算法企業(yè)不得濫用算法技術、產品和服務，并采取措施防止他人濫用其算法產品或服務以損害國家安全、社會公共利益或者他人合法權益。

第六十八條【應急處理】算法企業(yè)應當制定算法安全事件應急預案，發(fā)生算法安全事件時，應當立即啟動應急預案，采取相應的補救措施，并向算法安全監(jiān)管部門報告。

第六十九條【算法追溯機制】算法企業(yè)應當確保算法模型、運行過程、決策結果可記錄和可留痕，妥善保存算法決策日志與相關記錄，協(xié)助用戶或有關部門查明損害結果的發(fā)生原因與產生的后果。

第七十條【算法終結機制】算法企業(yè)應當保證算法系統(tǒng)的可中斷性，在算法系統(tǒng)出現(xiàn)非法自動化決策、無法預測或控制其決策結果及可能產生重大社會風險時，立即終止算法系統(tǒng)的運行。

第五章算法救濟

第七十一條【企業(yè)承諾】算法企業(yè)應切實履行算法服務協(xié)議，踐行在算法備案、算法審計及其他安全監(jiān)管中作出的承諾，維護用戶和有關各方的合法權益。

第七十二條【算法救濟便利化】算法企業(yè)應主動收集和及時反饋用戶意見，設置便捷的用戶投訴渠道，及時處理用戶投訴，并將處理結果告知用戶。

算法企業(yè)應以提供必要的證據(jù)等方式為用戶和有關各方依法維權提供便利條件。

第七十三條【算法披露與解釋權】算法技術、產品和服務的用戶可以依法要求企業(yè)對其算法進行適當披露和可信解釋，企業(yè)不得以算法黑箱、商業(yè)秘密及用戶難以理解等為由拒絕披露或解釋。

第七十四條【知情權和選擇權】算法服務企業(yè)應告知與用戶合法權益相關的算法服務信息，為用戶提供便捷選擇或退出算法服務的選項。選項的設置不得針對用戶個人特征，并應保障用戶可以隨時選擇退出算法服務。

算法服務企業(yè)不得以個人不同意處理其個人信息或者撤回同意為由拒絕提供算法服務，但處理個人信息屬于提供服務所必需的除外。

第七十五條【拒絕權和更正權】用戶可以拒絕算法自動化決策提供的服務或拒絕接受僅通過算法自動化決策方式提供服務。

出現(xiàn)算法決策錯誤時，用戶可以要求企業(yè)采取更正算法輸入的數(shù)據(jù)或修改算法運行規(guī)則等補救措施。

第七十六條【維權監(jiān)督】有關主管部門通過受理投訴、舉報及主動檢查等方式加強維權監(jiān)督，責令相關企業(yè)及時整改發(fā)現(xiàn)的問題，保障用戶和有關各方的合法權益。

第七十七條【違法處理】有關主管部門發(fā)現(xiàn)算法技術、產品、服務存在侵權或其他安全隱患時，可約談相關企業(yè)，責令其及時采取改正措施。

第七十八條【司法救濟】用戶發(fā)現(xiàn)算法技術、產品、服務侵害其合法權益時，可以依法向有管轄權的人民法院提起訴訟。

第七十九條【公益訴訟】對利用算法技術、產品、服務侵害眾多用戶合法權益等損害社會公共利益的行為，法律規(guī)定的機關和有關組織可以依法向人民法院提起訴訟。

人民檢察院履行職責中發(fā)現(xiàn)算法技術、產品、服務侵害眾多用戶合法權益等損害社會公共利益的行為，在沒有適格主體或者適格主體未提起訴訟的情況下，可以向人民法院提起民事公益訴訟。用戶或行業(yè)組織提起訴訟的，人民檢察院可以支持起訴。

第八十條【行業(yè)組織救濟】用戶發(fā)現(xiàn)算法技術、產品或服務損害其合法權益時，可以向相關行業(yè)組織投訴。行業(yè)組織收到投訴后應及時予以處理，并將處理結果告知相關企業(yè)和用戶。

行業(yè)組織在處理用戶投訴時發(fā)現(xiàn)算法系統(tǒng)存在較大社會風險或安全隱患時，應及時告知相關企業(yè)修改算法或終止運行算法系統(tǒng)，并及時上報有關主管部門。

第八十一條【企業(yè)維權】算法企業(yè)認為監(jiān)管部門、行業(yè)組織及其工作人員有失客觀公正，或者不依法履行保密等義務的，可以向有關部門投訴或舉報。有關部門收到投訴或舉報后應及時予以處理，并將處理結果告知相關企業(yè)。

第六章法律責任

第八十二條【民事責任】有下列情形之一的，算法企業(yè)應當承擔民事責任：

（一）算法技術、產品、服務對用戶產生歧視或偏見的；

（二）無理由不履行或未適當履行算法解釋等義務的；

（三）算法產品或服務不符合約定的目的、用途和范圍的；

（四）違法處理用戶個人信息或其他數(shù)據(jù)；

（五）實施其他損害用戶或他人合法權益的行為。

發(fā)現(xiàn)算法技術、產品、服務正在侵犯或可能侵害其合法權益時，權利人可依法要求該算法企業(yè)承擔停止侵害、消除危險、消除影響、恢復名譽等民事責任。造成用戶損失的，依法賠償損失。

第八十三條【備案責任】企業(yè)未按規(guī)定取得許可或未履行備案義務，或者通過隱瞞真實情況、提供虛假材料等不正當手段取得許可或備案的，有關主管部門應及時撤回許可或備案，并依法給予警告、通報批評、限制開展生產經營活動、責令停產停業(yè)、罰款等行政處罰。

第八十四條【執(zhí)法約談】企業(yè)違反本法的算法安全監(jiān)管規(guī)定的，算法安全監(jiān)管部門可依職責約談相關企業(yè)的主管人員或其他直接責任人員，責令限期改正；約談后仍不改正的，依照相關法律法規(guī)的規(guī)定予以處理。

第八十五條【行政責任和刑事責任】算法企業(yè)及其工作人員違反本法的規(guī)定，構成違反治安管理行為的，依法給予治安管理處罰；構成犯罪的，根據(jù)算法服務的風險等級不同，依法追究刑事責任。

第八十六條【記入信用檔案】算法企業(yè)違反本法規(guī)定造成嚴重后果的，除依法承擔相應的民事責任、行政責任及刑事責任外，還應當依照有關法律法規(guī)的規(guī)定記入企業(yè)信用檔案，并予以公示。

第八十七條【第三方機構的責任】從事算法評估、算法審計等的第三方專業(yè)機構及其工作人員違反本法規(guī)定的，有關主管部門依職責給予警告、通報批評、限制開展生產經營活動、責令停產停業(yè)、沒收違法所得、罰款等行政處罰；造成他人財產損失的，依法賠償損失；構成犯罪的，依法追究刑事責任。

第八十八條【寬嚴相濟】算法企業(yè)及其工作人員違法行為輕微且能及時整改，未造成危害后果的，不予行政處罰；初次違法且危害后果輕微，并及時改正的，可以不予行政處罰；違法情節(jié)或后果較為嚴重但主動報告有關情況并積極配合調查和消除危險的，可以減輕或者免除處罰。

第八十九條【容錯免責】對于算法產業(yè)創(chuàng)新過程中已經盡到勤勉盡責但未能避免失誤或過錯的企業(yè)及其工作人員，省級人民政府可以根據(jù)需要制定不予處罰清單，采取約談告誡、批評教育、責令改正等措施督促企業(yè)依法創(chuàng)新和合規(guī)經營。

第九十條【技術局限免責】算法技術、產品、服務投入市場時的科學技術尚不能發(fā)現(xiàn)存在缺陷的，算法技術、產品、服務提供者可以主張免除法律責任，但未能結合科學技術的發(fā)展對其技術、產品、服務進行動態(tài)優(yōu)化以致造成重大損失的除外。

第七章附則

第九十一條【定義】本法下列用語的含義：

本法所稱“算法”是為一個問題或一類問題給出的解決方法與具體步驟，是對問題求解過程的一種準確而完整的邏輯描述。

本法所稱“算法企業(yè)”是指從事算法研發(fā)和向社會提供算法技術、產品和服務的企業(yè)。

本法所稱“算法推薦”是指通過機器學習、統(tǒng)計或其他數(shù)據(jù)處理形成的向用戶提供個性化推送、排序精選、檢索過濾、調度決策等信息內容的計算程序。

本法所稱“算法推薦服務提供者”是指使用算法推薦技術提供算法推薦服務的企業(yè)或其他組織。

本法所稱“算法黑箱”是指機器學習時其復雜的神經元網(wǎng)絡中存在的不為人所能直觀捕捉到的隱層。

本法所稱“算法歧視”是指算法研發(fā)人員對事物的認知存在某種偏見或算法學習、運行時使用了帶有偏見的數(shù)據(jù)集等，導致該算法產生歧視性的結果。

本法所稱“可靠性”是指算法在一定時間和一定條件下可以無故障地實現(xiàn)特定的功能，以及在輸入數(shù)據(jù)出現(xiàn)問題時能夠作出適當反應或者進行有效處理。

本法所稱“魯棒性”是指算法系統(tǒng)遇到輸入、運算等問題時處理錯誤和繼續(xù)正常運行的能力。

本法所稱“可驗證性”是指輸入某組特定數(shù)據(jù)時同一算法會產生相同的結果，可用于解決算法解釋與算法追責問題。

本法所稱“可解釋性”是指算法企業(yè)應盡可能地對算法的過程和特定的決策提供解釋，以維護算法用戶的知情權和拒絕權，避免和解決算法決策的錯誤性和歧視性。

第九十二條【例外情形】其他法律對特定類型的算法技術、產品、服務及其監(jiān)管另有規(guī)定的，依照其規(guī)定。

第九十三條【實施】本法自 年 月日起實施。

（編輯：刁勝先）