王四新

剛上線的換臉軟件“ZAO”一夜爆紅，同時(shí)也帶來(lái)很多爭(zhēng)議。除容易想到的版權(quán)、肖像權(quán)問(wèn)題之外，還引發(fā)人們對(duì)用戶隱私和數(shù)據(jù)安全的擔(dān)憂。而隱私和個(gè)人數(shù)據(jù)安全出問(wèn)題的話，又會(huì)產(chǎn)生社會(huì)管理問(wèn)題。剛開始大家可能更多關(guān)注的是它對(duì)用戶產(chǎn)生的影響，而用戶使用軟件過(guò)程中又可能對(duì)第三方產(chǎn)生大規(guī)模侵權(quán)，并引發(fā)更多的社會(huì)管理問(wèn)題。

雖然目前它已經(jīng)修改了用戶協(xié)議中過(guò)度使用“肖像權(quán)”的內(nèi)容，但這并不能解決它所存在的安全問(wèn)題。換句話說(shuō)，能不能有效保護(hù)消費(fèi)者的隱私和數(shù)據(jù)安全不是通過(guò)用戶協(xié)議來(lái)實(shí)現(xiàn)的，用戶協(xié)議只是一個(gè)方面，更關(guān)鍵的問(wèn)題是用戶協(xié)議如何落實(shí)。用戶數(shù)據(jù)的使用方式和保護(hù)方式，也非常重要。如果不對(duì)其進(jìn)行有效監(jiān)管，很可能會(huì)出現(xiàn)數(shù)據(jù)被非法使用并對(duì)消費(fèi)者產(chǎn)生更多次生災(zāi)害的情況。此外，隨著平臺(tái)用戶和數(shù)據(jù)的增多，平臺(tái)網(wǎng)絡(luò)安全措施是否足以應(yīng)對(duì)用戶激增以后產(chǎn)生的管理風(fēng)險(xiǎn)，也是一個(gè)問(wèn)題。

社會(huì)管理的有效進(jìn)行，建立在可以對(duì)行為的實(shí)施者進(jìn)行識(shí)別并對(duì)之進(jìn)行追蹤的基礎(chǔ)上的。政府可以運(yùn)用社會(huì)的認(rèn)證體系提升行為人的責(zé)任意識(shí)，可以利用證據(jù)等找到真正的罪犯或者說(shuō)實(shí)施者，這是社會(huì)管理得以運(yùn)行的基礎(chǔ)。這類App很容易產(chǎn)生深度偽造（deepfake）的現(xiàn)象，以假亂真的視頻、音頻挑戰(zhàn)了公眾“眼見為實(shí)”認(rèn)知，也挑戰(zhàn)著現(xiàn)有社會(huì)管理的基礎(chǔ)。從這個(gè)軟件使用的情況來(lái)看，如果不嚴(yán)格限定其使用范圍和使用方式，它完全有可能為各種各樣的違法者提供技術(shù)上的便利，并給政府的有效監(jiān)管帶來(lái)意想不到的挑戰(zhàn)。

實(shí)際上，對(duì)于類似的新技術(shù)新應(yīng)用我們國(guó)家是有相關(guān)規(guī)定的，國(guó)家互聯(lián)網(wǎng)信息辦公室對(duì)新技術(shù)新應(yīng)用，尤其是具有新聞屬性和社會(huì)動(dòng)員功能的新技術(shù)新應(yīng)用，需要在上線之前進(jìn)行安全評(píng)估。這個(gè)軟件具有很明確的社交功能和社交訴求，將其納入評(píng)估范圍是沒(méi)有任何問(wèn)題的。不清楚這個(gè)軟件有沒(méi)有進(jìn)行安全評(píng)估，如果沒(méi)有評(píng)估，非常有必要對(duì)其啟動(dòng)安全評(píng)估程序。

當(dāng)然我們也不必過(guò)于悲觀，通過(guò)監(jiān)管部門的嚴(yán)格監(jiān)管和企業(yè)社會(huì)責(zé)任的認(rèn)真履行，“ZAO”所引發(fā)的擔(dān)憂，是可以得到緩解甚至從根本上解決的。將新技術(shù)真正納入到法治、人文、倫理的框架內(nèi)，是能更好地服務(wù)于社會(huì)的。▲（作者是中國(guó)傳媒大學(xué)政法學(xué)院副院長(zhǎng)、教授）