磐石之心

對(duì)于人工智能，知名物理學(xué)家霍金曾多次表達(dá)自己的擔(dān)憂。他曾呼吁全球都要警惕具有獨(dú)立意識(shí)的人工智能可能毀掉人類。而特斯拉的創(chuàng)始人埃隆·馬斯克也曾警告，人工智能可能會(huì)將人類變成瀕危物種。

此外，國內(nèi)的騰訊公司也在最近提出“科技向善”，認(rèn)為人工智能時(shí)代，科技企業(yè)必須守住底線，要用“善心”利用人工智能技術(shù)。

然而搜狗的王小川則認(rèn)為，人工智能永遠(yuǎn)都不會(huì)超過人類，同時(shí)還大肆鼓吹“被人工智能搶走工作是一件很快樂的事?！?/p>

就在幾天前，搜狗發(fā)布AI變聲功能，并將此應(yīng)用到搜狗輸入法中。此舉引發(fā)了網(wǎng)友對(duì)人工智能侵犯人類安全和隱私的廣泛擔(dān)憂。

助長詐騙犯罪

5月24日，搜狗CEO王小川在極客公園rebuild大會(huì)上現(xiàn)場(chǎng)演示了其智能語音模擬系統(tǒng)，將自己的聲音模擬成高曉松和東北妹子的聲音。

而且搜狗宣布，這種“AI變聲”技術(shù)已經(jīng)被應(yīng)用到擁有數(shù)億用戶的搜狗輸入法中。消息一出，便引發(fā)了微博上的廣泛熱議，其中談?wù)撟疃嗟木褪沁@個(gè)技術(shù)是不是會(huì)助長電信詐騙。

“突然間感到一絲不安全。”華爾街見聞APP。

“小心被壞人用來搞電信詐騙?！背馑龠M(jìn)化。

“周知，以后收到馬云的電話，請(qǐng)小心，謝謝?！彼南?。

“這東西有意義么？就算真的有用，有必要向民間開放技術(shù)么？” Enzo-四敢怪杰。

對(duì)于AI變聲被用在電信詐騙的擔(dān)憂并非沒有道理。

首先，電信詐騙帶來的損失十分巨大，讓人觸目驚心。

2018年全國公安機(jī)關(guān)電信詐騙案件立案69萬起，共造成經(jīng)濟(jì)損失222億元。

另外，通過模仿人聲實(shí)施詐騙早已出現(xiàn)。

2016年央視曾報(bào)道，一種新型電信詐騙，打電話能模仿親人的聲音。而中科院研究員在這期節(jié)目中，解釋了這個(gè)詐騙的技術(shù)原理，就是通過錄制目標(biāo)人的10-50句聲音，然后通過軟件生成目標(biāo)人的聲音。

搜狗官方這樣解釋自己的AI變聲：“搜狗做到的是語音變聲領(lǐng)域最難的技術(shù)，通過在語音表征學(xué)習(xí)、遷移學(xué)習(xí)技術(shù)取得的重大突破，可以把任意人音色變聲成特定人音色（Any-to-One），從實(shí)用程度到技術(shù)難度都是最高等級(jí)?！?/p>

這意味著，任何人只要拿到目標(biāo)人的一段聲紋，都可以將自己的聲音轉(zhuǎn)變?yōu)閷?duì)方的聲音。比如，詐騙分子將自己的聲音轉(zhuǎn)變?yōu)槟銉鹤拥穆曇?，向你求助，從而?shí)施詐騙。

因此，搜狗將這樣的技術(shù)向4億多輸入法用戶開放，即使還未“將轉(zhuǎn)換成任意人聲音”功能開放，也會(huì)導(dǎo)致網(wǎng)友的深深不安。

為了好玩，就不顧風(fēng)險(xiǎn)么？

搜狗王小川在演講中說，將AI變聲技術(shù)應(yīng)用到輸入法中，主要是為了“好玩”。因?yàn)椋梢苑乱恍┢渌说穆曇羧スぷ鳌?/p>

聽到這里，我有些渾身發(fā)汗。難道，搜狗為了輸入法更好玩，就不顧這個(gè)技術(shù)的風(fēng)險(xiǎn)么？

這讓我不由得想到搜狗已經(jīng)被腰斬的股價(jià)和比較差勁的2019年第一季度財(cái)報(bào)。

搜狗股價(jià)已經(jīng)跌至4.4美元，跌破發(fā)行價(jià)的同時(shí)，距離最高價(jià)已經(jīng)跌去了3/4。

股價(jià)的下跌與當(dāng)前整體市場(chǎng)環(huán)境比較差有一定關(guān)系，但更重要的是其越來越差的財(cái)報(bào)數(shù)據(jù)。

2019年第一季度，搜狗交上了一份虧損的財(cái)報(bào)，同時(shí)獲取流量的成本占比大幅提升。而關(guān)乎未來的人工智能收入大幅下降了34%，技術(shù)研發(fā)投入同比下降12%。

顯然，投資者已經(jīng)對(duì)搜狗的未來失去了希望?；蛟S為了提振投資者對(duì)搜狗在人工智能技術(shù)上的信心，才將可能存在風(fēng)險(xiǎn)的AI變聲技術(shù)急切地用在搜狗輸入法之上。

另有媒體報(bào)道稱，搜狗的AI變聲技術(shù)不是“實(shí)時(shí)”變聲，只是對(duì)你錄制好的語音進(jìn)行音色轉(zhuǎn)換。

就在王小川在rebuild大會(huì)上公開推介這一技術(shù)之前，科大訊飛董事長劉慶峰在其公司新品發(fā)布會(huì)上展示了類似技術(shù)，而且比搜狗的更加先進(jìn)，是“實(shí)時(shí)變聲”。

無需提前錄制，劉慶峰在臺(tái)上說什么，現(xiàn)場(chǎng)就立刻以另一種聲音傳達(dá)出來，僅有零點(diǎn)幾秒的延遲。

但是，劉慶峰特別強(qiáng)調(diào)，他們的實(shí)時(shí)變聲技術(shù)只是展示，并不會(huì)對(duì)外公開，更不會(huì)應(yīng)用到訊飛輸入法等軟硬件產(chǎn)品中，因?yàn)樗恢眻?jiān)持認(rèn)為“人工智能要持續(xù)發(fā)展，最核心的是它的價(jià)值觀如何陽光健康與人為善。”

呼吁科技向善！

雖然霍金教授、馬斯克關(guān)于人工智能的預(yù)言遭遇許多質(zhì)疑和反對(duì)之聲，但是我們不能忽視人工智能可能帶來的負(fù)面影響，更不能為了短期利益而濫用人工智能技術(shù)。

谷歌曾投資過一家名為波士頓動(dòng)力的人形機(jī)器人公司，但是沒過多久便將其賣掉。因?yàn)楣雀柙谫I入該公司后，才發(fā)現(xiàn)這家公司研發(fā)的人形機(jī)器人實(shí)在是太過強(qiáng)大，很可能對(duì)人類產(chǎn)生威脅。谷歌不想成為它的助推者。

在許多科幻影片中，人工智能打造的機(jī)器人被壞人利用、操縱，然后攻擊人類，人類根本無還手之力。

這些看似遙遠(yuǎn)的預(yù)測(cè)，其實(shí)早已發(fā)生在我們的身邊。

比如，網(wǎng)絡(luò)攝像頭公司因?yàn)榧夹g(shù)不成熟，或技術(shù)漏洞，而導(dǎo)致大量使用該產(chǎn)品的用戶在家里的隱私視頻被公然傳到網(wǎng)上。

一些內(nèi)容平臺(tái)、短視頻平臺(tái)利用人類對(duì)色情、八卦、暴力等內(nèi)容的貪婪，以“算法之名”刻意推薦此類內(nèi)容給用戶，搶占用戶的上網(wǎng)時(shí)常以播放廣告牟利。他們其實(shí)已經(jīng)將用戶牢牢的控制在自己的平臺(tái)上，把用戶變成了自己的奴隸。

這些其實(shí)都是在利用技術(shù)犯罪，都違背了“科技向善”。這個(gè)世界需要科技，但不需要假科技之名而侵害人類利益的AI狂熱分子。