葉蓁蓁

2023年初，ChatGPT誕生僅兩個月，月活用戶就突破1億，成為史上用戶增長最快的應(yīng)用?；仡櫄v史，月活用戶達(dá)到1億門檻，推特（Twitter）用了5年，臉書（Facebook）用了4年半，照片墻（Instagram）用了2年半時間。標(biāo)志性平臺產(chǎn)品出現(xiàn)，人類在經(jīng)歷PC互聯(lián)網(wǎng)、移動互聯(lián)網(wǎng)之后，正式進(jìn)入智能互聯(lián)網(wǎng)時代?，F(xiàn)在看來，第三代互聯(lián)網(wǎng)很可能是以智能互聯(lián)為基礎(chǔ)能力的價值互聯(lián)、產(chǎn)業(yè)互聯(lián)、虛實互聯(lián)。

人工智能：有價值觀的高科技

智能互聯(lián)網(wǎng)時代，以通用人工智能為代表的技術(shù)加速更迭，將融合千行百業(yè)，驅(qū)動新一輪產(chǎn)業(yè)和技術(shù)革命。需要重視的是，人工智能在推動經(jīng)濟(jì)社會發(fā)展同時，也存在潛在的、不可忽視的技術(shù)倫理、價值觀念等風(fēng)險。人工智能大腦既是高科技的大腦，也是價值觀的大腦。人工智能平臺有立場，人工智能生成的內(nèi)容有導(dǎo)向，所謂“技術(shù)中性”是不存在的。無論是喂養(yǎng)人工智能的語料數(shù)據(jù)，還是模型本身的算法，都必須高度關(guān)注政治方向、輿論導(dǎo)向和價值取向問題。

生成式人工智能（AIGC）技術(shù)正在重構(gòu)內(nèi)容生產(chǎn)、傳播、消費、反饋全流程，智能傳播大規(guī)模應(yīng)用的序幕已經(jīng)拉開。然而，生成式人工智能的不當(dāng)應(yīng)用，也引發(fā)了國內(nèi)國際社會的擔(dān)憂。今年2月，一條ChatGPT生成的假新聞在社交媒體上廣泛傳播，內(nèi)容是關(guān)于杭州市政府3月1日將取消車輛限行。這條假新聞?wù)`導(dǎo)了很多市民，形成了小范圍的輿情事件。歐洲社會許多國家已經(jīng)開始或正在研究禁用 ChatGPT，全球許多教育機(jī)構(gòu)、學(xué)術(shù)機(jī)構(gòu)紛紛出臺禁令，防止生成式人工智能被濫用。近期，全球千余名科技界人士呼吁暫停開發(fā)更先進(jìn)的人工智能。這都表明，對生成式人工智能的治理已迫在眉睫。不能放任人工智能脫離人類視野，不能沒有管理的“生成即傳播”，要積極探索人工智能應(yīng)用和治理之道。

參與人工智能的應(yīng)用與創(chuàng)新

人工智能互聯(lián)網(wǎng)時代，越來越多的行業(yè)、企業(yè)引入人工智能替代人類工作。未來人工智能雖然無法取代人工，但各行各業(yè)不會使用人工智能的人或?qū)⒈惶蕴?/p>

主動適應(yīng)。黨媒黨網(wǎng)必須加快發(fā)展，主動適應(yīng)、參與人工智能應(yīng)用和創(chuàng)新。近年來，人民網(wǎng)主動跟進(jìn)下一代互聯(lián)網(wǎng)發(fā)展趨勢，以建設(shè)內(nèi)容科技領(lǐng)軍企業(yè)為目標(biāo)，在人工智能領(lǐng)域，承建傳播內(nèi)容認(rèn)知全國重點實驗室，瞄準(zhǔn)認(rèn)知智能開展研發(fā)；建設(shè)人民鏈探索價值互聯(lián)；建設(shè)828企業(yè)服務(wù)平臺探索產(chǎn)業(yè)互聯(lián)；建設(shè)靈境·人民藝術(shù)館探索虛實互聯(lián)。這些嘗試只是起步，卻能提振我們跨向未知的信心和勇氣，未來人民網(wǎng)也將全力參與人工智能應(yīng)用與創(chuàng)新。

創(chuàng)新研發(fā)。目前各界關(guān)注、輿論熱炒通用型大模型，其技術(shù)路線是大模型、大數(shù)據(jù)、大算力、大資本、大平臺、大團(tuán)隊的研究范式，費錢、費人、費電，并不適合所有國家、所有團(tuán)隊。智能互聯(lián)網(wǎng)的時代剛剛開啟，一方面我們不能大意、不能懈怠，需要發(fā)揮新型舉國體制的優(yōu)勢，在別人證明成功的路徑上抓緊發(fā)展，追趕超越；另一方面，我們也不能被打亂節(jié)奏，需要著力思考如何開創(chuàng)新的人工智能研發(fā)范式，走出一條“優(yōu)模型、低能耗、高性價比”的新路徑。例如，大力推進(jìn)量子計算、類腦計算和光電計算；再如，在網(wǎng)絡(luò)視聽行業(yè)，根據(jù)網(wǎng)絡(luò)視聽任務(wù)的需求，發(fā)展專用中小模型，憑借網(wǎng)絡(luò)視聽行業(yè)的場景和數(shù)據(jù)優(yōu)勢驅(qū)動研發(fā)等。

人工智能的治理之道：“用AI治理AI”

2023年1月10日，國家網(wǎng)信辦等多部委發(fā)布的《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》正式生效。4月11日，國家互聯(lián)網(wǎng)信息辦公室發(fā)布《生成式人工智能服務(wù)管理辦法（征求意見稿）》，提出二十一條舉措。業(yè)界認(rèn)為，這是國內(nèi)首次明確針對生成式人工智能服務(wù)征求管理意見，將有利于推動生成式人工智能產(chǎn)業(yè)健康穩(wěn)定發(fā)展。

《生成式人工智能服務(wù)管理辦法（征求意見稿）》規(guī)定了我國生成式人工智能需要符合五方面要求，包括體現(xiàn)社會主義核心價值觀、避免歧視、公平、準(zhǔn)確負(fù)責(zé)、隱私及產(chǎn)權(quán)保護(hù)，體現(xiàn)了國家對生成式人工智能在意識形態(tài)和法律倫理方面的要求。

人民日報對以上規(guī)定和管理辦法做出積極回應(yīng)，走出一條“用AI治理AI”的人工智能治理之道：依托人民網(wǎng)建設(shè)傳播內(nèi)容認(rèn)知全國重點實驗室，推出跨模態(tài)視頻安全引擎“白澤”、涉政智能審核平臺“人民審?！?、輿論安全監(jiān)測平臺“諦聽”和生成內(nèi)容識別工具AIGC-X四款產(chǎn)品，初步建立智能化的安全風(fēng)控體系以及人工智能意識形態(tài)風(fēng)險評測體系。

人民日報社傳播內(nèi)容認(rèn)知全國重點實驗室，致力于服務(wù)國家重大需求、突破行業(yè)關(guān)鍵技術(shù)、解決行業(yè)痛點難題，打造傳播領(lǐng)域的戰(zhàn)略科技力量。實驗室聚焦構(gòu)建“傳播智能體”，分別在主流價值觀精準(zhǔn)傳播、內(nèi)容智能審核、網(wǎng)絡(luò)空間態(tài)勢感知三個方向開展研發(fā)，通過人工智能技術(shù)，把新聞輿論工作中要牢牢把握的政治方向、輿論導(dǎo)向、價值取向，轉(zhuǎn)化為可計算、可認(rèn)知的人工智能技術(shù)體系，用技術(shù)賦能主流價值觀傳播，凝聚社會共識。

AIGC-X平臺能夠?qū)θ斯ぶ悄苌晌谋?、圖形、視頻內(nèi)容進(jìn)行精準(zhǔn)識別，快速區(qū)分機(jī)器生成內(nèi)容與人工生成內(nèi)容。目前，該平臺對中文文本檢測的準(zhǔn)確率已超過90%。

文本識別方面，實驗室以語言模型的困惑度、詞頻特征為切入點進(jìn)行的研究發(fā)現(xiàn)，人工智能生成模型傾向于采用高頻詞，而人類寫作的選詞則更具有隨機(jī)性?；诖?，實驗室研發(fā)了語義與風(fēng)格特征融合的語言模型評價方法，可以精準(zhǔn)識別AI生成文本。

圖像識別方面，人工智能生成圖像的基本原理是通過對訓(xùn)練數(shù)據(jù)的學(xué)習(xí)，讓人工智能模型能夠提取圖像的基本特征、結(jié)構(gòu)和樣式，并嘗試在新的圖像中融合和組合這些特征。但是這種生成方式目前缺少對視覺元素邏輯合理性、細(xì)節(jié)特征完整性的約束，不同特征區(qū)域融合的時候會出現(xiàn)問題。基于此，實驗室研發(fā)了基于視覺上下文、子塊信號特征的人工智能生成圖像檢測模型，實現(xiàn)對人工智能生成圖像的精確識別。

視頻識別方面，當(dāng)前人工智能生成視頻的應(yīng)用主要集中在換臉、場景置入等局部內(nèi)容的生成融合。人工智能生成視頻目前無法完全模型人在真實動作中的語言、表情、姿態(tài)等復(fù)雜的生理特征關(guān)聯(lián)性，因此，通過提取真實視頻中人物的視覺、音頻特征，建立人物關(guān)聯(lián)特異性模型，可以檢測出合成人物在全局一致性、幾何特性等方面與真實人物存在的偏差。

另外，實驗室還研發(fā)建設(shè)高質(zhì)量的主流價值語料庫，以支持各類生成式人工智能平臺合規(guī)發(fā)展、安全發(fā)展、加速發(fā)展。通過建立常態(tài)化的運行維護(hù)機(jī)制，并隨著政策法規(guī)及技術(shù)發(fā)展動態(tài)更新持續(xù)完善。

AIGC-X在內(nèi)容版權(quán)、學(xué)術(shù)教育、虛假信息和學(xué)術(shù)造假檢測等內(nèi)容安全、內(nèi)容風(fēng)控方面有廣闊的應(yīng)用前景。例如，根據(jù)法律規(guī)定，人工智能生成的內(nèi)容必須進(jìn)行顯著標(biāo)識。AIGC-X可以服務(wù)于媒體的內(nèi)容風(fēng)控需求，提供人工智能生成內(nèi)容標(biāo)識、虛假信息識別等服務(wù)。還可以賦能教育、學(xué)術(shù)領(lǐng)域，可以用于防范學(xué)術(shù)不端行為，提供AI內(nèi)容抄襲、論文造假檢測服務(wù)等。

智能互聯(lián)網(wǎng)時代剛剛開啟，我們要立足長遠(yuǎn)，統(tǒng)籌發(fā)展與安全，重視安全才能更好發(fā)展，加快發(fā)展才能實現(xiàn)真正的安全。

作者系人民網(wǎng)黨委書記、董事長、總裁，傳播內(nèi)容認(rèn)知全國重點實驗室主任