近日，一段外國歌手“說”中文的短視頻在網(wǎng)上刷屏。通過AI（人工智能）變聲與變臉技術(shù)等進(jìn)行二次創(chuàng)作，視頻中的歌手“說”著流利中文，音色和中國人講母語時的音色極其相似，甚至連口型都能對上。有網(wǎng)友感嘆：“太自然了，差點兒以為是真的。”更多人則表示擔(dān)憂：“若是技術(shù)被濫用，以后視頻造假就會越來越容易?！盇I相關(guān)的話題我們聊過很多，今天，我們來繼續(xù)聊聊其背后的危與機。

自20世紀(jì)中期人類首次提出AI這一概念以來，軟硬件技術(shù)不斷升級，AI技術(shù)取得階段性進(jìn)展。在近段時間的熱點新聞中，AI就是名副其實的“顯眼包”：在杭州亞運會火炬線上傳遞過程中，通過AI捏臉、AI動作捕捉等技術(shù)的運用，上億名數(shù)字火炬手一人一面、自由換裝；在第六屆中國國際進(jìn)口博覽會上，AI照相館前人潮涌動，參觀者只需要在照相館內(nèi)拍攝一張照片，就能通過人臉融合技術(shù)，或換上古韻漢服“漫步”于上海街頭，或穿著活力十足的文化衫“打卡”電競現(xiàn)場：在烏鎮(zhèn)“互聯(lián)網(wǎng)之光”博覽會上，未來生活數(shù)字體驗區(qū)成為最熱鬧的展區(qū)之一，觀眾可以參加AI心理測試，甚至還能找AI中醫(yī)來把脈問診。AI運用推陳出新，盡顯科技的無窮魅力，不斷豐富人們對未來的想象。

人臉識別、語音合成、自動駕駛……AI已融入人們的日常生活。近年，以算法與數(shù)據(jù)為基石的人工智能迅速發(fā)展，應(yīng)用越來越廣泛，對經(jīng)濟(jì)發(fā)展、社會進(jìn)步產(chǎn)生著深遠(yuǎn)影響。當(dāng)前，我國人工智能產(chǎn)業(yè)蓬勃發(fā)展，核心產(chǎn)業(yè)規(guī)模達(dá)到5000億元，企業(yè)數(shù)量超過4300家。數(shù)據(jù)顯示，到2030年，我國人工智能核心產(chǎn)業(yè)規(guī)模有望超過1萬億元，帶動相關(guān)產(chǎn)業(yè)規(guī)模超過10萬億元，推動勞動生產(chǎn)率提高20%以上。而從全球科技、經(jīng)濟(jì)發(fā)展的大趨勢看，人工智能也同樣是新一輪科技革命和產(chǎn)業(yè)變革的重要驅(qū)動力，可謂潛力巨大、未來可期。

AI技術(shù)發(fā)展得如火如荼，其潛在風(fēng)險也不容忽視。比如，AI生成近似原畫的內(nèi)容、構(gòu)圖等，可能侵犯原創(chuàng)者的知識產(chǎn)權(quán)：大型語言、圖像模型在處理、生成數(shù)據(jù)時，可能侵犯個人隱私；生成式AI技術(shù)可能被不法分子惡意使用，用來從事制造虛假信息、詐騙等違法活動。從社交機器人衍生出網(wǎng)絡(luò)“水軍”，到算法推薦加固信息繭房，再到AI掀起種種“以假亂真”風(fēng)潮，新技術(shù)這把雙刃劍可能造成的規(guī)則沖突、法律風(fēng)險和社會倫理挑戰(zhàn)，引起了越來越多人的關(guān)注和重視，成為全社會面臨的一道必答題。

新技術(shù)的發(fā)展不會止步，因噎廢食不可取。維護(hù)市場秩序、保護(hù)人的合法權(quán)益，“有形之手”就顯得很關(guān)鍵。從現(xiàn)實來看，AI算法具有“黑箱”特性，表現(xiàn)為行為不可控、決策機制難解釋等，給監(jiān)管帶來了不小的難度。近年，《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》《生成式人工智能服務(wù)管理暫行辦法》等相關(guān)法律法規(guī)密集出臺，針對AI技術(shù)的特點，不斷創(chuàng)新、完善與之相適應(yīng)的監(jiān)管方式。只有堅持包容、審慎的態(tài)度，統(tǒng)籌發(fā)展與安全，促進(jìn)創(chuàng)新與依法治理，才能讓AI技術(shù)始終行駛在正確軌道上。

劉慈欣曾說，“未來像盛夏的大雨，在我們還來不及撐開傘時就撲面而來”。一段時間以來，AI領(lǐng)域的新突破就像密集的雨點，猝不及防地砸在我們身上。有人說，此時正是“人工智能的蒸汽機時刻”，我們正面臨著如何與自己創(chuàng)造的強大工具和諧相處的難題。更好地向未來，我們不僅要矢志奔赴科技創(chuàng)新的“星辰大?！?，也要在明確行業(yè)底線、劃定監(jiān)管紅線方面持續(xù)探索。唯有如此，才能讓技術(shù)真正地服務(wù)于人、造福社會。

（曹怡晴／文，選自微信公眾號“人民日報評論”2023年11月13日，有刪改）

[閱讀筆記]

1.結(jié)合文章內(nèi)容，概括AI技術(shù)存在哪些潛在風(fēng)險。

2.我們應(yīng)如何與AI和諧相處？

（曉聲／設(shè)題）