国产日韩欧美一区二区三区三州_亚洲少妇熟女av_久久久久亚洲av国产精品_波多野结衣网站一区二区_亚洲欧美色片在线91_国产亚洲精品精品国产优播av_日本一区二区三区波多野结衣 _久久国产av不卡

?

愛(ài)的算法殖民化:人工智能時(shí)代約會(huì)程序算法面臨的倫理挑戰(zhàn)及其應(yīng)對(duì)策略

2024-01-01 00:00:00郭佳楠
關(guān)鍵詞:哈貝馬斯人工智能算法

摘要:晚近十年,人工智能算法獲得了長(zhǎng)足發(fā)展,智能算法被視為解決人類問(wèn)題的一個(gè)全新進(jìn)路。與此同時(shí),在人類主義的框架中,愛(ài)情通常被視為人類生活中最親密的情感,但它現(xiàn)在越來(lái)越多地被少數(shù)程序員用人工智能來(lái)進(jìn)行控制或操縱。在當(dāng)代世界中,許多約會(huì)平臺(tái)正在設(shè)計(jì)所謂的智能算法來(lái)為用戶識(shí)別更多的潛在匹配對(duì)象。這些由人工智能驅(qū)動(dòng)的配對(duì)系統(tǒng)通過(guò)豐富的數(shù)據(jù)驅(qū)動(dòng),不僅能夠預(yù)測(cè)用戶可能喜歡什么類型的對(duì)象,而且還可以深刻影響人們選擇伴侶的方式。對(duì)此,基于哈貝馬斯的“生活世界的殖民化理論”,批判性地探討了將浪漫決策委托給算法的潛在影響以及可能由此引發(fā)的倫理挑戰(zhàn)。通過(guò)對(duì)Tinder等約會(huì)應(yīng)用程序使用算法的現(xiàn)實(shí)分析,指出愛(ài)情生活世界正在被殖民化,因?yàn)樵诰€約會(huì)算法侵入了人們的浪漫關(guān)系,以至于浪漫關(guān)系中的交往行為被算法的技術(shù)規(guī)則所取代。為了應(yīng)對(duì)算法殖民化引發(fā)的倫理難題,要著眼于從個(gè)體維度上彌補(bǔ)算法思維的固有邏輯缺陷,從技術(shù)維度上優(yōu)化算法模型與標(biāo)準(zhǔn)設(shè)計(jì),從企業(yè)以及約會(huì)應(yīng)用程序設(shè)計(jì)者的維度上賦予愛(ài)情關(guān)系中個(gè)體更多的自主選擇權(quán),據(jù)此來(lái)探尋未來(lái)理想愛(ài)情關(guān)系“去算法殖民化”的可能性通路。

關(guān)鍵詞:約會(huì)應(yīng)用程序;算法;人工智能;哈貝馬斯;殖民化

中圖分類號(hào):B01

文獻(xiàn)標(biāo)識(shí)碼:A

文章編號(hào):1673-8268(2024)03-0103-12

一、研究背景與問(wèn)題的提出:愛(ài)是一種算法嗎?

在新冠疫情大流行期間,瀏覽世界各地交友網(wǎng)站的人數(shù)激增。2020年3月,Tinder創(chuàng)下了每日新的訪問(wèn)紀(jì)錄:30億次滑動(dòng)次數(shù)的瀏覽量。從2020年3月到5月,OkCupid的使用量飆升了700%,僅Bumble的視頻通話次數(shù)就飆升了70%[1]。然而,事實(shí)上,在2020年3月之前,通過(guò)互聯(lián)網(wǎng)尋找愛(ài)情的現(xiàn)象就已經(jīng)非常普遍,而疫情的蔓延只是加速了這一趨勢(shì)。2019年斯坦福大學(xué)的一項(xiàng)研究表明,在線約會(huì)已經(jīng)取代“朋友和家人的中介角色”,成為美國(guó)人結(jié)識(shí)浪漫伴侶的首要方式[2]。雖然社交服務(wù)如此受歡迎,但對(duì)于大多數(shù)用戶來(lái)說(shuō),在線約會(huì)平臺(tái)的具體內(nèi)部運(yùn)作方式卻仍然相當(dāng)模糊。然而,其運(yùn)作的總體思路很簡(jiǎn)單:將浪漫的愛(ài)情——人類最親密的情感——轉(zhuǎn)化為數(shù)學(xué)算法正如OkCupid的數(shù)據(jù)大師克里斯蒂安·魯?shù)拢–hristian Rudder)所指出的:“算法工程師通過(guò)制造一些神秘的東西——能夠有效地吸引人類的注意力——并將其分解為計(jì)算機(jī)可以使用的組件?!奔s會(huì)算法通常就是這樣設(shè)計(jì)與運(yùn)行的。。

早在1965年,研究人員就使用打孔卡記錄了有關(guān)誰(shuí)是“理想約會(huì)對(duì)象”的調(diào)查問(wèn)卷。隨后,這些信息被輸入一臺(tái)重達(dá)5噸的IBM計(jì)算機(jī),以推薦潛在的匹配選項(xiàng)(對(duì)象)。當(dāng)時(shí)人們稱這種大型婚介機(jī)器為“電腦大神”:它會(huì)“知道(人們)不知道的事情”。隨著20世紀(jì)90年代互聯(lián)網(wǎng)的興起,電腦婚介越來(lái)越多地變成了在線約會(huì)的方式。許多公司建立了在線約會(huì)平臺(tái),供互聯(lián)網(wǎng)用戶發(fā)布自身信息的廣告以及能夠?yàn)g覽他人的資料。這些約會(huì)網(wǎng)站的匹配過(guò)程或多或少是隨機(jī)的,因?yàn)橄蛴脩籼峁┑膫€(gè)人資料也是隨機(jī)匹配的。在過(guò)去的二十年里,約會(huì)算法已經(jīng)更新到極具預(yù)測(cè)性。在線約會(huì)公司推出了新的匹配算法,它能夠根據(jù)個(gè)人資料過(guò)濾或挑選約會(huì)對(duì)象。一般來(lái)說(shuō),用戶在回答完調(diào)查問(wèn)卷后,算法會(huì)分析并預(yù)測(cè)出對(duì)于用戶而言比較合適的約會(huì)日期,然后自動(dòng)匹配合適的約會(huì)對(duì)象。與人類的直覺(jué)判斷相比,這些算法經(jīng)常被認(rèn)為是一種更科學(xué)、更可靠地尋找靈魂或愛(ài)情伴侶的方法。2010年,隨著智能手機(jī)的普及,約會(huì)應(yīng)用程序主導(dǎo)了在線約會(huì)行業(yè)。這些程序的分析算法已大大簡(jiǎn)化,只需用手指點(diǎn)擊幾下,或者只滑動(dòng)頭像即可匹配到合適的用戶(對(duì)象)。

時(shí)至今日,在線約會(huì)算法越來(lái)越“智能化”,因?yàn)樗鼈內(nèi)谌肓烁嗟臋C(jī)器學(xué)習(xí)技術(shù)。許多約會(huì)應(yīng)用程序正在部署人工智能(AI)來(lái)創(chuàng)建不同類型的智能配對(duì)功能,用戶不再需要在屏幕上來(lái)回滑動(dòng)。例如,在線約會(huì)領(lǐng)先者M(jìn)atch.com近來(lái)開(kāi)發(fā)了一款人工智能約會(huì)聊天機(jī)器人“Lara”,將其作為用戶的私人愛(ài)情教練。Lara通過(guò)應(yīng)用自然語(yǔ)言學(xué)習(xí)與用戶進(jìn)行互動(dòng),這樣不僅能夠有效地推薦潛在匹配對(duì)象,而且還可以指導(dǎo)用戶如何管理愛(ài)情關(guān)系。此外,美國(guó)最大的婚戀交友網(wǎng)站之一eHarmony還創(chuàng)建了一種先進(jìn)的人工智能程序,它可以通過(guò)算法來(lái)分析用戶聊天記錄的每個(gè)細(xì)節(jié),并為他們提供有關(guān)如何采取下一步行動(dòng)的個(gè)性化建議。同樣,交友約會(huì)類應(yīng)用Happn通過(guò)訓(xùn)練其人工智能技術(shù)來(lái)學(xué)習(xí)并了解用戶的理想約會(huì)對(duì)象,并“對(duì)他們可能更感興趣的個(gè)人資料進(jìn)行排名”[3]。英國(guó)一個(gè)名為L(zhǎng)oveflutter的交友類APP在其推出的更新版本中,通過(guò)使用人工智能系統(tǒng)甚至可以指導(dǎo)用戶何時(shí)開(kāi)始進(jìn)行線下約會(huì)以及選擇在哪些餐館、酒吧或俱樂(lè)部進(jìn)行約會(huì)。以上這些人工智能程序的約會(huì)算法并沒(méi)有具體說(shuō)明什么是良好的匹配,它們只是根據(jù)從用戶與應(yīng)用程序互動(dòng)中收集的大量數(shù)據(jù),推斷出相關(guān)性來(lái)匹配人員正如Happn程序的首席執(zhí)行官迪迪?!だ敛ㄌ兀―idier Rappaport)所言:“我們不相信如果你喜歡同一部電影,你就會(huì)墜入愛(ài)河。(我們的算法)結(jié)果更多的是基于我們的數(shù)據(jù)。”(參見(jiàn)https://www.businessinsider.com.au/happn-is-getting-paid-subscriptions-and-will-use-ai-to-recommend-matches-2017-4?r=USamp;IR=T)。隨著在線生成的數(shù)據(jù)增多,約會(huì)算法在不久的將來(lái)可能會(huì)變得更加智能化最終,正如大衛(wèi)·塔夫利(David Tuffley)所想象的那樣,未來(lái)的人工智能可以創(chuàng)建一個(gè)完全虛擬的匹配對(duì)象,在未來(lái)幾十年內(nèi)其行為就像真人一樣。。

至于愛(ài)情,它通常被視為人們生活中最親密的一種社交關(guān)系,它涉及“相互透露私人關(guān)切與分享珍貴的情感”的內(nèi)容。盡管約會(huì)算法可能會(huì)嵌入關(guān)于浪漫的某些概念或情節(jié),但它們似乎永遠(yuǎn)無(wú)法掌握關(guān)于浪漫體驗(yàn)的全部復(fù)雜性正如吉姆·科祖貝克(Jim Kozubek)所指出的:“雖然在線約會(huì)平臺(tái)可以告訴我們很多關(guān)于潛在伴侶的信息,但人們并不是由穩(wěn)定的數(shù)據(jù)點(diǎn)組成的,愛(ài)情不僅僅是興趣匹配?!币簿褪钦f(shuō),用戶不僅僅是一個(gè)平面概念或維度;相反,他/她可以在社交媒體上擁有多種不同的個(gè)人資料和身份,并且他/她的自我呈現(xiàn)也可能是矛盾和不一致的。(參見(jiàn)https://www.theatlantic.com/technology/archive/2014/09/love-is-not-algorithmic/380688/)。即使如此,算法驅(qū)動(dòng)的配對(duì)系統(tǒng)仍在不斷預(yù)測(cè)并塑造我們的約會(huì)生活。例如,Tinder用戶當(dāng)然可以自己決定向右或向左滑動(dòng)來(lái)選擇約會(huì)對(duì)象,但Tinder的算法首先要決定哪些個(gè)人資料是可見(jiàn)的。

誠(chéng)然,提供各種可能的伴侶與在現(xiàn)實(shí)中選擇一個(gè)伴侶并墜入愛(ài)河之間是有區(qū)別的。對(duì)此,有人會(huì)說(shuō),人工智能改變的只是我們“認(rèn)識(shí)”人的方式(人與人相識(shí)的傳統(tǒng)方式大多是基于偶然性,在酒吧、餐廳聚會(huì)等場(chǎng)合,而并非基于人工智能),而不是直接改變愛(ài)的情感。但這里需要明確的是,豐富的情感會(huì)受到人們選擇伴侶方式的影響,因?yàn)榧s會(huì)應(yīng)用程序算法(如Tinder的滑動(dòng)算法)構(gòu)建了一種新的愛(ài)情體驗(yàn),它將迫使人們改變對(duì)自身和愛(ài)情情感的看法。此外,一些人工智能“媒人”(如Lara和Loveflutter)能夠通過(guò)監(jiān)控用戶與應(yīng)用程序的互動(dòng)情況,來(lái)直接“指導(dǎo)”用戶如何正確、成功地約會(huì),這不僅決定了約會(huì)對(duì)象是誰(shuí),而且在某種意義上還根據(jù)商業(yè)與技術(shù)邏輯規(guī)范了用戶對(duì)愛(ài)的感知。因此,我們?cè)谒惴〞r(shí)代需要反復(fù)討論的問(wèn)題是,人們是否應(yīng)該將浪漫的決策過(guò)程委托給算法,以及讓人工智能決定我們的愛(ài)情生活會(huì)面臨什么風(fēng)險(xiǎn)。

參照已有研究,上述問(wèn)題在此前的國(guó)內(nèi)外研究中尚未得到清晰的解答。對(duì)此,本文在借鑒哈貝馬斯“生活世界的殖民化”理論的基礎(chǔ)上,批判性地探討人工智能驅(qū)動(dòng)的匹配程序可能引發(fā)的社會(huì)后果。通過(guò)介紹哈貝馬斯的殖民化理論,指出如何用他的觀點(diǎn)來(lái)分析“愛(ài)的算法殖民化”概念,并詳細(xì)論述愛(ài)的算法殖民化對(duì)生活世界的象征性再現(xiàn)的三種病態(tài)影響。具體而言,這些新的倫理挑戰(zhàn)或病態(tài)影響包括:首先,闡釋愛(ài)是如何不僅最終淪為商品,而且被簡(jiǎn)化為一套代碼與算法公式;其次,闡明由監(jiān)控資本主義控制的約會(huì)應(yīng)用程序與用戶之間的不對(duì)稱權(quán)力結(jié)構(gòu)所引起的合法性危機(jī);最后,約會(huì)算法不僅放大了現(xiàn)有的自我商品化過(guò)程,而且還創(chuàng)造了一種新的自我表征——一種算法殖民化的身份。筆者建議,應(yīng)該允許人們通過(guò)與他人開(kāi)放的互動(dòng)并從個(gè)體維度、技術(shù)維度、企業(yè)以及約會(huì)應(yīng)用程序設(shè)計(jì)者維度來(lái)發(fā)展愛(ài)情關(guān)系,而不僅僅是遵循人工智能約會(huì)系統(tǒng)規(guī)定和操縱的一些技術(shù)規(guī)范。

二、愛(ài)的算法殖民化的緣起

在《交往行為理論》第二卷中,哈貝馬斯通過(guò)引入殖民論,批判性地評(píng)估了現(xiàn)代社會(huì)的病態(tài)影響。他的殖民化概念并不是字面意義上的“殖民地主人進(jìn)入部落社會(huì)”,而是描述了制度無(wú)情地侵占生活世界的過(guò)程這里,哈貝馬斯還用一個(gè)比喻來(lái)描述殖民化理論:“……自治子系統(tǒng)必然要求從外部進(jìn)入生活世界——就像殖民統(tǒng)治者進(jìn)入部落社會(huì)一樣——并迫使其進(jìn)行同化過(guò)程。”。同時(shí),哈貝馬斯將社會(huì)視為“一個(gè)制度與一個(gè)生活世界”[4]。

生活世界的核心功能是保證社會(huì)的符號(hào)再生產(chǎn),為“交往行為”提供事物的起源和發(fā)展背景。這個(gè)術(shù)語(yǔ)不僅意味著人類的生活需要語(yǔ)言互動(dòng)的行為,而且這些互動(dòng)應(yīng)該建立在所有參與者相互理解的基礎(chǔ)上。每個(gè)成員的信仰都是自己發(fā)展出來(lái)的,而不是通過(guò)欺騙或操縱脅迫產(chǎn)生的。在哈貝馬斯看來(lái),生活世界對(duì)于培育人的交往理性至關(guān)重要,同時(shí),生活世界以交往行為為媒介,通過(guò)三個(gè)并行的過(guò)程進(jìn)行自我再生產(chǎn):(1)文化的再生產(chǎn)或意義的傳遞;(2)社會(huì)融合或“合法有序的人際關(guān)系”;(3)具有強(qiáng)烈自我意識(shí)(個(gè)人認(rèn)同)的個(gè)體的社會(huì)化或發(fā)展。

相比之下,這個(gè)制度的功能是保證社會(huì)的物質(zhì)再生產(chǎn)。該系統(tǒng)由所有戰(zhàn)略行動(dòng)(以成功為導(dǎo)向的互動(dòng))組成,從而利用外部力量來(lái)實(shí)現(xiàn)目標(biāo)。與以達(dá)成共識(shí)為目標(biāo)的溝通行動(dòng)不同,戰(zhàn)略行動(dòng)通常是由獲取利益的動(dòng)機(jī)驅(qū)動(dòng)的??梢钥隙ǖ氖?,這種區(qū)別并不能表明交往行為需要無(wú)私的行為者,基本上每個(gè)人的行為都是為了追求某些目標(biāo)。然而,對(duì)于交往行為來(lái)說(shuō),人們并不是通過(guò)操縱來(lái)實(shí)現(xiàn)自己的目標(biāo),而是僅僅基于“對(duì)自己處境的理解,而這種理解是關(guān)于相關(guān)事實(shí)的真實(shí)性、所起作用的社會(huì)關(guān)系的規(guī)范正確性以及參與者對(duì)真實(shí)性的詮釋”[5]。

隨著生活世界的合理化,社會(huì)的系統(tǒng)協(xié)調(diào)也迅速優(yōu)化發(fā)展。當(dāng)資本主義生產(chǎn)方式出現(xiàn)時(shí),該系統(tǒng)開(kāi)始通過(guò)金錢(qián)和權(quán)力的媒介使自身合法化,而不需要交往行為。從這個(gè)意義上說(shuō),系統(tǒng)獲得了某種“自主性”,因?yàn)樗蛔裱到y(tǒng)集成的內(nèi)在邏輯,而不會(huì)被“通過(guò)生活世界進(jìn)行評(píng)估和質(zhì)疑”[6]。在哈貝馬斯看來(lái),這種近乎“自治”的系統(tǒng)如果僅僅局限于物質(zhì)再生產(chǎn)領(lǐng)域,本身并沒(méi)有那么大的問(wèn)題,他真正擔(dān)心的是,當(dāng)系統(tǒng)性命令超出其預(yù)期邊界,以不受控制的方式侵入生活世界時(shí),就會(huì)導(dǎo)致“生活世界的殖民化”。對(duì)于哈貝馬斯來(lái)說(shuō),人們應(yīng)該被允許通過(guò)與他人廣泛的交往來(lái)發(fā)展自己的個(gè)性并構(gòu)建共同的文化意義。當(dāng)生活世界被殖民化時(shí),交往話語(yǔ)將被扭曲甚至被工具性規(guī)則所取代,這可能會(huì)導(dǎo)致生活世界的符號(hào)再生產(chǎn)產(chǎn)生三種病態(tài)效應(yīng):文化再生產(chǎn)的意義喪失、社會(huì)整合的合法性危機(jī)以及社會(huì)化過(guò)程中個(gè)人身份的喪失。

為此,通過(guò)借鑒哈貝馬斯的殖民論,我們將進(jìn)一步反思算法驅(qū)動(dòng)的愛(ài)情關(guān)系。值得注意的是,哈貝馬斯本人似乎從未直接分析過(guò)浪漫愛(ài)情問(wèn)題,但我們?nèi)匀豢梢杂盟闹趁裾撟鳛榉妒侥P蛠?lái)批判性地理解人工智能驅(qū)動(dòng)的愛(ài)情及其對(duì)現(xiàn)代社會(huì)的病態(tài)影響塞爾吉奧·科斯塔(Sérgio Costa)指出,“哈貝馬斯很少提及(愛(ài))問(wèn)題”。梅羅德·韋斯特法爾(Merold Westphal)也曾問(wèn)道:“哈貝馬斯從未想到談?wù)撨^(guò)愛(ài),這到底有多重要?”。哈貝馬斯的殖民化理論是為了批評(píng)社會(huì)互動(dòng)的技術(shù)化而提出的,在這種技術(shù)化中溝通互動(dòng)被排斥或簡(jiǎn)化為技術(shù)交換。這意味著以效率、便利性與標(biāo)準(zhǔn)化為導(dǎo)向的機(jī)械流程將取代定性體驗(yàn)與有意義的互動(dòng)。

用哈貝馬斯的術(shù)語(yǔ)來(lái)說(shuō),愛(ài)情與浪漫關(guān)系是人們生活世界的重要組成部分,而約會(huì)應(yīng)用程序則充當(dāng)侵入并改變?nèi)藗兩钍澜绲南到y(tǒng)工具,通過(guò)提供自己的資源和信息以及(有限)行動(dòng)的背景,按照自己的優(yōu)先順序(商品化和牟取暴利)來(lái)構(gòu)建人們的浪漫關(guān)系。這種侵犯可能會(huì)導(dǎo)致“愛(ài)的算法殖民化”,即用戶傾向于不通過(guò)開(kāi)放的互動(dòng)來(lái)與他人發(fā)展愛(ài)情關(guān)系,而只能通過(guò)約會(huì)算法規(guī)定和操縱的一些不可協(xié)商的規(guī)范來(lái)發(fā)展這種關(guān)系。質(zhì)言之,哈貝馬斯現(xiàn)代化理論的基本思想——所有社會(huì)都遵循從“原始”到“現(xiàn)代”的軌跡,并且假設(shè)生活世界不受權(quán)力的影響——是相當(dāng)有爭(zhēng)議的。因此,所謂的哈貝馬斯對(duì)生活世界的歷史性與浪漫化假設(shè)并不是必要的,而只是遵循對(duì)生活世界的規(guī)范性理解來(lái)批判性地分析愛(ài)情關(guān)系和約會(huì)算法之間的緊張關(guān)系。這里要強(qiáng)調(diào)的是,生活世界只能通過(guò)交往行為來(lái)自我復(fù)制,這種參與互動(dòng)的過(guò)程不應(yīng)被商業(yè)或技術(shù)要求所扭曲或排擠。也正因?yàn)槿绱耍诠P者看來(lái),嘗試建構(gòu)一個(gè)關(guān)于愛(ài)的算法殖民的整體理論框架并不能完全實(shí)現(xiàn)個(gè)體關(guān)于愛(ài)的美好生活理想和社會(huì)的良好秩序理想,相反,唯有更多地專注于思考如何應(yīng)對(duì)由愛(ài)的算法殖民化引起文化、社會(huì)和人領(lǐng)域中三種主要的社會(huì)病態(tài)與風(fēng)險(xiǎn),即個(gè)體意義的喪失、合法性危機(jī)和身份危機(jī)對(duì)于哈貝馬斯來(lái)說(shuō),生活世界的殖民化所造成的社會(huì)病態(tài)更為復(fù)雜。為了更好地理解,筆者將這些社會(huì)病態(tài)概括為三種主要類型。

在文化領(lǐng)域,存在“意義的喪失”“集體認(rèn)同的不穩(wěn)定”“傳統(tǒng)的斷裂”;在社會(huì)領(lǐng)域,存在“合法性的撤回”“失范”“動(dòng)力的撤回”;在人的領(lǐng)域,存在“取向和教育危機(jī)”“異化”“精神病理學(xué)”。,在探索算法殖民化的理論支撐、形成條件和控制(操縱)實(shí)施過(guò)程的基礎(chǔ)上思考治理路徑,才能更好地應(yīng)對(duì)算法社會(huì)不斷涌現(xiàn)的新倫理挑戰(zhàn)。

三、約會(huì)程序算法帶來(lái)的倫理挑戰(zhàn)

(一)個(gè)體意義的喪失

人工智能技術(shù)范式為社會(huì)組織的網(wǎng)絡(luò)擴(kuò)張?zhí)峁┝宋镔|(zhì)基礎(chǔ),網(wǎng)絡(luò)服務(wù)商和各類組織建立的約會(huì)程序平臺(tái)是網(wǎng)絡(luò)中愛(ài)情關(guān)系的“樞紐”。在約會(huì)算法的引導(dǎo)下,愛(ài)情關(guān)系不僅可以簡(jiǎn)化為商品,還可以進(jìn)一步轉(zhuǎn)譯為一組代碼與數(shù)學(xué)公式,即一種算法。當(dāng)人類的親密情感被商品化與算法殖民化時(shí),這種情感就會(huì)失去其本身應(yīng)有的意義,因?yàn)榧s會(huì)對(duì)象可能只將對(duì)方視為客觀“事物”,而不是他們可以進(jìn)行有意義互動(dòng)的人。

在現(xiàn)實(shí)生活當(dāng)中,商品化并不是一個(gè)新問(wèn)題。許多學(xué)者都意識(shí)到了愛(ài)情關(guān)系與功利經(jīng)濟(jì)邏輯之間的緊張關(guān)系。赫伯特·馬爾庫(kù)塞(Herbert Marcuse)在《愛(ài)欲與文明》中認(rèn)為,隨著浪漫體驗(yàn)大眾消費(fèi)的不斷增長(zhǎng),人類的浪漫幻想已經(jīng)被商業(yè)化。結(jié)果,愛(ài)情的商業(yè)化會(huì)產(chǎn)生一種“偽需求”,從而消除人類解放的可能性。齊格蒙特·鮑曼(Zygmunt Bauman)則對(duì)愛(ài)情的商品化形式提出了特別的批評(píng)。正如他在《液態(tài)愛(ài)情》中所指出的,“就像在商品市場(chǎng)上一樣,情侶對(duì)象有權(quán)像對(duì)待消費(fèi)對(duì)象一樣對(duì)待彼此。這樣,情侶對(duì)象就被賦予了消費(fèi)者對(duì)象的地位與意義”[7]。他強(qiáng)調(diào),在現(xiàn)代社會(huì)中,發(fā)生性行為“就像點(diǎn)披薩一樣。現(xiàn)在你可以上網(wǎng)訂購(gòu)生殖器。不再需要調(diào)情或約會(huì),不再需要努力爭(zhēng)取伴侶的認(rèn)可,不再需要為了值得和贏得伴侶的同意而卑躬屈膝,不再需要去討好她或成為他眼中的自己,或者等待很長(zhǎng)一段時(shí)間,也許是無(wú)限期的,不再需要等待所有這些努力結(jié)出果實(shí)”[8]。因此,愛(ài)情的商品化是有問(wèn)題的,因?yàn)樗赡軐?dǎo)致情侶彼此間愛(ài)情關(guān)系的疏遠(yuǎn)。當(dāng)快樂(lè)和性欲都可以通過(guò)購(gòu)買和使用商品來(lái)調(diào)節(jié)時(shí),那么人們只會(huì)將潛在的伴侶視為商業(yè)產(chǎn)品,而不是需要與之交流的人。最終,這種商品化會(huì)導(dǎo)致“人際關(guān)系紐帶的損害”,尤其是“愛(ài)情關(guān)系的粉碎與破裂”[9]。

除了商品化引發(fā)的消極后果之外,在線約會(huì)算法還將導(dǎo)致一種新型的意義喪失:算法殖民化的約會(huì)文化。在這種文化中,用戶的浪漫體驗(yàn)被算法轉(zhuǎn)化為互動(dòng)性較低、成本較低且膚淺的體驗(yàn)。正如Tinder創(chuàng)始人聲稱的那樣,他們的應(yīng)用程序被有意設(shè)計(jì)為提供流暢的體驗(yàn):就像玩一個(gè)“游戲”那樣,不僅會(huì)“減輕約會(huì)的壓力”,而且能夠促使人們不用在線下約會(huì)上投入太多時(shí)間和情感。因此,Tinder用戶的個(gè)人資料會(huì)被設(shè)計(jì)為“類似于一副撲克牌,愛(ài)、性與親密感是這個(gè)游戲的賭注”[10]。Tinder設(shè)計(jì)的滑動(dòng)算法使用戶只能向左或向右滑動(dòng)來(lái)確定約會(huì)日期,向右滑動(dòng)表示可以選擇的約會(huì)日期,向左滑動(dòng)則表示完全拒絕算法匹配。正如蓋比·大衛(wèi)(Gaby David)和卡羅萊納·坎伯(Carolina Camber)所言,Tinder滑動(dòng)邏輯中的這種二元邏輯限制了潛在約會(huì)者之間有意義的意圖表達(dá)。這種快速滑動(dòng)個(gè)人資料的方式可能會(huì)讓用戶忘記照片背后的真實(shí)人物。對(duì)此,克里斯·海伍德(Chris Haywood)指出,滑動(dòng)用戶傾向于將彼此視為客觀物體,而不是需要與之互動(dòng)的人:“滑動(dòng)瀏覽多個(gè)個(gè)人資料的過(guò)程可以被視為類似于瀏覽購(gòu)物目錄,其中的選擇過(guò)程可以看成是一種情感體驗(yàn)……與其他女性相比,被選中的女性就成為了一種產(chǎn)品。”[11]

除了交互性較差之外,滑動(dòng)算法很可能會(huì)強(qiáng)化這樣的印象:這里有無(wú)數(shù)的選項(xiàng)可供選擇。由于人們認(rèn)為選擇過(guò)剩,愛(ài)情就會(huì)貶值從而變得廉價(jià),任何一次約會(huì)都不那么重要。一位曾使用過(guò)該程序的女士抱怨:“我和一個(gè)男人發(fā)生了性關(guān)系,當(dāng)我穿好衣服時(shí)他根本無(wú)視我,我看到他又回到了Tinder……”[12]這種由約會(huì)應(yīng)用程序構(gòu)建的廉價(jià)愛(ài)情或許可以解釋為“約會(huì)末日的黎明”[13]。正如南希·J.薩萊斯(Nancy J. Sales)所指出的那樣,新的算法約會(huì)方式可能會(huì)帶來(lái)深刻的社會(huì)變化:“當(dāng)女性過(guò)剩,或者人們理所當(dāng)然地認(rèn)為女性過(guò)剩時(shí),整個(gè)交配系統(tǒng)往往會(huì)轉(zhuǎn)向短期約會(huì)的發(fā)展趨勢(shì)?;橐鲎兊貌环€(wěn)定,離婚率增加,男性不必再為未來(lái)做出承諾,因此他們追求的是短期交配策略。”[12]

最后,這種滑動(dòng)算法還有助于形成以外表為中心的約會(huì)文化。按照約會(huì)算法的程序設(shè)計(jì),用戶“喜歡”或“不喜歡”的決定僅基于個(gè)人資料圖片。這樣,應(yīng)用程序的用戶只能根據(jù)他人的外貌來(lái)選擇潛在的伴侶。有些人可能會(huì)認(rèn)為滑動(dòng)算法僅僅反映了面對(duì)面約會(huì)中長(zhǎng)期存在的文化。的確,在線下約會(huì)中,外表相當(dāng)重要,正如伊娃·伊盧茲(Eva Illouz)所指出的那樣,現(xiàn)實(shí)生活中的“第一印象”是“整個(gè)人格”的動(dòng)態(tài)體驗(yàn),其中包括運(yùn)動(dòng)、聲音、怪癖、氣味等。相比之下,當(dāng)人們刷照片時(shí),他們的體驗(yàn)通常是靜態(tài)的:“(他們)只體驗(yàn)到自己身體的外觀,而不是感覺(jué)如何。”[14]因此,滑動(dòng)算法往往會(huì)產(chǎn)生一種膚淺的文化,這種文化只關(guān)注用戶固定的個(gè)人資料照片,而不是他們動(dòng)態(tài)的情感體驗(yàn)。從這個(gè)意義上說(shuō),選擇的過(guò)程直接影響著愛(ài)情本身的情感。

(二)合法化危機(jī)

作為數(shù)字化時(shí)代的產(chǎn)物,監(jiān)控資本主義依賴于無(wú)處不在的數(shù)字工具并通過(guò)數(shù)字(算法)技術(shù)運(yùn)作滲透(實(shí)際上就是監(jiān)控)到用戶本身及其生活的方方面面。其中,在線約會(huì)平臺(tái)始終處于權(quán)力支配地位,它可以輕松地利用并操縱用戶。權(quán)力的不對(duì)稱性不僅使其很難受到民主審查的影響,而且還可能通過(guò)改變用戶的行為并削弱他們民主參與的批判性思維能力來(lái)侵蝕民主本身。

2021年初,OkCupid背后的投資集團(tuán)ClarifaiClarifai是一家位于紐約的人工智能初創(chuàng)公司,為開(kāi)發(fā)者提供給照片標(biāo)記元數(shù)據(jù)的能力,以便公司得知照片中的對(duì)象類型。被提起訴訟。在訴訟中,據(jù)稱Clarifai公司的相關(guān)人員可以訪問(wèn)OkCupid的數(shù)據(jù)庫(kù),訓(xùn)練其用于分析圖像和視頻的算法,包括用于面部識(shí)別。然而,問(wèn)題在于OkCupid的用戶并沒(méi)有收到關(guān)于訪問(wèn)的通知,更不用說(shuō)征求他們的同意了。另一起隱私丑聞涉及LGBTQ+LGBTQ,網(wǎng)絡(luò)流行語(yǔ),中文又名“彩虹族”“彩虹族群”“性少數(shù)者”等,是女同性戀者(lesbian)、男同性戀者(gay)、雙性向者(bisexual)、跨性別者(transgender)與酷兒(queer)的縮寫(xiě)。約會(huì)應(yīng)用程序Grindr,該應(yīng)用程序與其廣告商共享了大量用戶的敏感數(shù)據(jù),包括他們的艾滋病毒狀況和最近的檢測(cè)日期等。可以說(shuō),這兩起案件都是典型的有關(guān)侵犯隱私問(wèn)題的案件。在線約會(huì)算法高度依賴大量數(shù)據(jù),尤其是一些敏感的個(gè)人事實(shí)或信息,如日常生活中人們的性取向、宗教、艾滋病毒狀況和刷卡歷史等,當(dāng)某些數(shù)據(jù)可能被其他人獲取時(shí),這種對(duì)私人數(shù)據(jù)的嚴(yán)重依賴令人擔(dān)憂根據(jù)歐盟的《通用數(shù)據(jù)保護(hù)條例》(GDPR),如果公司收集數(shù)據(jù)主體的個(gè)人信息,應(yīng)告知數(shù)據(jù)主體并征得其同意。盡管GDPR不適用于美國(guó),但歐盟對(duì)隱私的基本關(guān)注與美國(guó)是相似的。。實(shí)際上,隱私問(wèn)題只是冰山一角,更為嚴(yán)重的是,一種新的資本主義邏輯——肖莎娜·祖博夫(Shoshana Zuboff)將其描述為“監(jiān)控資本主義”誕生,它“單方面聲稱人類經(jīng)驗(yàn)是可以轉(zhuǎn)化為行為數(shù)據(jù)的免費(fèi)原材料”[15]。在監(jiān)控資本主義中,一些數(shù)據(jù)被默認(rèn)用于改進(jìn)產(chǎn)品與服務(wù),而其余數(shù)據(jù)則被視為在新市場(chǎng)上出售的“行為剩余”。這些數(shù)據(jù)對(duì)于想要了解和塑造個(gè)人行為的公司和政府來(lái)說(shuō)非常有價(jià)值。

在監(jiān)控資本主義視角下,隱私不是被侵犯的,而是被聲稱用戶具有絕對(duì)隱私的資本監(jiān)控所重新分配的,這樣OkCupid和Grindr應(yīng)用程序利用用戶的個(gè)人數(shù)據(jù)來(lái)構(gòu)建預(yù)測(cè)產(chǎn)品并與其商業(yè)客戶(如廣告商)交換隱私信息也就不足為奇了。這就是在線約會(huì)行業(yè)的商業(yè)運(yùn)營(yíng)模式。約會(huì)應(yīng)用程序會(huì)跟蹤用戶在其平臺(tái)上浪漫生活的每一個(gè)細(xì)節(jié),在算法的幫助下,這些經(jīng)驗(yàn)被分析并轉(zhuǎn)化為行為數(shù)據(jù),以最終轉(zhuǎn)化為“剩余價(jià)值”。其中一些數(shù)據(jù)能夠提供應(yīng)用程序自己的算法分析和建議以改進(jìn)其服務(wù),但其他數(shù)據(jù)則用于制作預(yù)測(cè)性產(chǎn)品(如個(gè)性化廣告),然后出售給廣告商。監(jiān)控資本主義的這種潛在的剝削過(guò)程揭示了用戶與監(jiān)控資本家之間的不對(duì)稱權(quán)力結(jié)構(gòu)。正如祖博夫所指出的那樣:(監(jiān)控資本主義)代表了知識(shí)的前所未有的集中以及這些知識(shí)所產(chǎn)生的力量。它們了解我們的一切,但我們對(duì)它們卻知之甚少。它們能預(yù)測(cè)我們的未來(lái),但卻是為了他人的利益……這些知識(shí)不對(duì)稱性被引入了全新的社會(huì)不平等與不公正的軸心[16]。

對(duì)于現(xiàn)代的網(wǎng)絡(luò)交友行業(yè)來(lái)說(shuō),用戶與交友平臺(tái)之間也存在這種不對(duì)稱的權(quán)力結(jié)構(gòu)。在線約會(huì)公司看似并不是為了剝削用戶(用戶通過(guò)犧牲隱私來(lái)在線尋找匹配對(duì)象,而平臺(tái)則通過(guò)提供有效的推薦來(lái)獲利),然而實(shí)際上,約會(huì)網(wǎng)站在結(jié)構(gòu)上比用戶獲得了更多的好處。約會(huì)算法經(jīng)常在未經(jīng)用戶同意的情況下將用戶的浪漫經(jīng)歷秘密轉(zhuǎn)化為行為數(shù)據(jù)。約會(huì)應(yīng)用程序經(jīng)常聲稱它們的服務(wù)純粹是社交性的,從而淡化了他們的商業(yè)功能。因此,大多數(shù)用戶“不知道他們的算法行為是商業(yè)交易的一部分”[17]。用祖博夫的話來(lái)說(shuō),人類的生活經(jīng)歷因此被私營(yíng)公司“單方面”獲得了。

此外,約會(huì)應(yīng)用程序經(jīng)常隨意分析用戶的浪漫生活并將其轉(zhuǎn)化為行為數(shù)據(jù)。對(duì)于約會(huì)應(yīng)用程序而言,用戶留下關(guān)于他們的浪漫目標(biāo)或理想伴侶模式的記錄,這是他們浪漫關(guān)系的一部分。在一般情況下,約會(huì)算法將這些數(shù)據(jù)默認(rèn)為經(jīng)濟(jì)產(chǎn)品或資源。然而,祖博夫認(rèn)為,個(gè)人數(shù)據(jù)并不是可以任意交易的商品,因?yàn)閿?shù)據(jù)是人類經(jīng)驗(yàn)的重要組成部分。貝亞特·羅斯勒(Beate Roessler)則更明確地解釋了這一點(diǎn)。她認(rèn)為,這些“本應(yīng)屬于并留在社會(huì)關(guān)系領(lǐng)域”的數(shù)據(jù)不應(yīng)該被商業(yè)化,因?yàn)樗鼈兪怯脩舭l(fā)展人格和與他人的社會(huì)關(guān)系所必需的要素。如果這些數(shù)據(jù)被任意提取,她擔(dān)心人們與他人的社會(huì)關(guān)系可能會(huì)被“操縱成某種商業(yè)化”的方式:“我被迫對(duì)自己和我的社會(huì)關(guān)系采取一種觀點(diǎn),這種觀點(diǎn)不是出于友誼,而是出于市場(chǎng)的盈利目的,因此不是自我決定的,也不是通過(guò)社會(huì)環(huán)境的規(guī)范決定的?!保?8]

需要指出的是,約會(huì)算法經(jīng)常利用并榨取用戶的“行為剩余價(jià)值”。如前文所述,OkCupid和Grindr應(yīng)用程序不僅會(huì)利用用戶數(shù)據(jù)進(jìn)行廣告,并且人們還發(fā)現(xiàn),在線約會(huì)算法可以跟蹤和操縱用戶的行為來(lái)購(gòu)買其優(yōu)質(zhì)服務(wù)(關(guān)鍵是要讓用戶足夠滿意,這樣他們就不會(huì)太快放棄服務(wù),但也不要太滿意,這樣他們就會(huì)傾向于轉(zhuǎn)向付費(fèi)服務(wù))。這一設(shè)計(jì)動(dòng)機(jī)意味著算法需要在鼓勵(lì)用戶與限制用戶之間進(jìn)行動(dòng)態(tài)交替與平衡。

雖然用戶看起來(lái)是在使用Tinder程序追求完美匹配,但其算法卻暗中鼓動(dòng)用戶只追求平臺(tái)收入。這個(gè)例子揭示了算法背后操縱的邪惡:Tinder程序的算法利用用戶的漏洞,“引導(dǎo)他或她”來(lái)實(shí)現(xiàn)操縱者目的的決策過(guò)程[19]。更重要的是,約會(huì)應(yīng)用程序的算法并不是孤立和限制在愛(ài)情領(lǐng)域,而是在各種算法驅(qū)動(dòng)的更廣泛的社會(huì)生活中緊密結(jié)合并被嵌入。在這樣一個(gè)算法社會(huì)中,算法已被廣泛用于決定人們的生活,而民主審查很難改變這種剝削性和操縱性的權(quán)力結(jié)構(gòu),這就亟需制定和完善相關(guān)的人工智能(算法)倫理規(guī)范[20]。哈貝馬斯提醒人們,如果僵化的權(quán)力不對(duì)稱難題無(wú)法通過(guò)民主參與有效化解,那么,人們將不會(huì)接受現(xiàn)有政治結(jié)構(gòu)的合法性,以至于出現(xiàn)合法性危機(jī)。對(duì)于約會(huì)算法和更廣泛意義的算法社會(huì)來(lái)說(shuō),主要有兩個(gè)因素阻礙人們的民主參與,很可能會(huì)侵蝕民主并導(dǎo)致合法性危機(jī):一方面,約會(huì)應(yīng)用程序算法的工作原理就像弗蘭克·帕斯奎爾(Frank Pasquale)所描述的“算法黑箱”,其中算法的內(nèi)部工作原理對(duì)公眾來(lái)說(shuō)通常是隱蔽的和模糊的;另一方面,為了獲得最大的經(jīng)濟(jì)利益,監(jiān)控資本家不僅會(huì)監(jiān)視人們的日常行為,而且還試圖“通過(guò)微妙和潛意識(shí)的暗示、獎(jiǎng)勵(lì)和懲罰來(lái)改變和操縱人們的日常行為,誘導(dǎo)人們轉(zhuǎn)向?qū)λ麄儊?lái)說(shuō)最有利可圖的結(jié)果”。這種行為矯正手段破壞了個(gè)人“民主社會(huì)所必需的道德判斷和批判性思維能力”[21]。因此,人們幾乎沒(méi)有抵抗的空間或能力,或者說(shuō)他們甚至不知道自己應(yīng)該這樣做,因?yàn)榈挚沟囊庠缚赡軓囊婚_(kāi)始就被取代了。

(三)身份危機(jī)

智能算法正在重新界定人們的生活理念,改變?nèi)藗儗?duì)自我身份的認(rèn)同。在線約會(huì)平臺(tái)不僅放大了現(xiàn)有的自我商品化過(guò)程,而且還創(chuàng)造了一種新的自我表現(xiàn)形式——算法殖民化的身份。這種新的身份可能不是源于一個(gè)人的自決,相反,約會(huì)算法將促使用戶更積極地參與規(guī)定的標(biāo)準(zhǔn)化過(guò)程。

一直以來(lái),自我商品化問(wèn)題在批判理論中得到了廣泛討論。埃里?!じヂ迥罚‥rich Fromm)認(rèn)為,消費(fèi)邏輯會(huì)讓人們將自己視為消費(fèi)者與產(chǎn)品,從而導(dǎo)致一種自我具體化的過(guò)程,“即一個(gè)人關(guān)心的不是自己的生活狀況與幸福,而是是否可銷售”[22]。人們會(huì)因此忽視自己的日常生活感受,只將自己視為是否能夠出售的商品。此外,鮑曼還擔(dān)心商業(yè)化會(huì)威脅到人們的自我認(rèn)同與身份認(rèn)同問(wèn)題。對(duì)于鮑曼來(lái)說(shuō),消費(fèi)主義的邏輯將導(dǎo)致道德代理的規(guī)避。在面對(duì)面互動(dòng)的情境下,個(gè)人有一種天生的道德沖動(dòng),不僅要理解和同情他人,而且還要對(duì)他人負(fù)責(zé)。但在消費(fèi)主義的情境下,人們將無(wú)法行使自我的道德能動(dòng)性,因?yàn)樗麄兊臎Q策受到商品化邏輯的影響,從而使得他們與生俱來(lái)的道德(倫理)動(dòng)力無(wú)法自由發(fā)揮。應(yīng)該說(shuō),弗洛姆和鮑曼所關(guān)心的問(wèn)題不僅是愛(ài)情關(guān)系變得膚淺,而且還包括人們與自己的疏遠(yuǎn)與異化。長(zhǎng)此以往,人們將逐漸變得自我商品化,他們體驗(yàn)到的不是自己獲得的真正快樂(lè),而是消費(fèi)主義規(guī)定和引導(dǎo)的快樂(lè)。他們認(rèn)為,人類的自決自由在愛(ài)情的商業(yè)化中受到了損害。正如弗洛姆所言:“人們受到了大眾建議的激勵(lì),他們的目標(biāo)是生產(chǎn)更多、消費(fèi)更多,以此作為自己的生活目的。一切活動(dòng)都服從于經(jīng)濟(jì)目標(biāo),手段成為目的;人成為一個(gè)機(jī)器人——吃得好,穿得好。”[23]

通常,在線約會(huì)應(yīng)用程序中很容易發(fā)現(xiàn)自我商品化的現(xiàn)象。例如,一項(xiàng)研究采訪提到,蒂姆是一位經(jīng)驗(yàn)豐富的Tinder用戶,他吹噓自己如何幫助朋友“推銷”自己。在蒂姆眼中,他的個(gè)人資料就是一種產(chǎn)品,因此他需要銷售技巧來(lái)讓其他Tinder用戶“購(gòu)買”它。和蒂姆一樣,愛(ài)麗絲也是Tinder的長(zhǎng)期用戶,她分享了如何在Tinder上成功展示自己的經(jīng)驗(yàn):你可以嘗試挑選自己最好的照片……我們對(duì)自己都有這樣的想法,這就是營(yíng)銷。蒂姆和愛(ài)麗絲都運(yùn)用“購(gòu)買”和“營(yíng)銷”的商業(yè)邏輯將自己的個(gè)人資料商品化,這就代表了一種自我商品化。除了促進(jìn)自我商品化之外,約會(huì)應(yīng)用程序還通過(guò)約會(huì)算法規(guī)定的技術(shù)規(guī)范來(lái)積極塑造用戶的身份。前面我們討論了為什么故意以類似游戲的方式設(shè)計(jì)滑動(dòng)算法:“向左滑動(dòng),向右滑動(dòng),‘這是一場(chǎng)比賽’!匹配后,應(yīng)用程序會(huì)提示用戶選擇是向匹配者發(fā)送消息,還是‘繼續(xù)玩,就像一場(chǎng)游戲’。”近來(lái),Tinder還推出了一款名為Swipe Night的真實(shí)游戲,將約會(huì)體驗(yàn)很大程度上變成了冒險(xiǎn)游戲。Tinder的應(yīng)用程序?yàn)橛脩籼峁┝诉@款免費(fèi)游戲,讓他們回答一些關(guān)于如何為世界末日做準(zhǔn)備的道德難題。之后,用戶將收到“做出類似選擇的單身人士列表”:“彼此向右滑動(dòng)的約會(huì)者將能夠匹配并進(jìn)行對(duì)話。向左滑動(dòng)意味著該人必須找到其他人才能在末日中生存。”通過(guò)這種游戲化的方式,約會(huì)體驗(yàn)被簡(jiǎn)化為一種必勝的游戲,它也因此具有了競(jìng)爭(zhēng)性,有趣且令人上癮。而為了贏得約會(huì)游戲并找到合適的匹配對(duì)象,用戶必須使自己適應(yīng)約會(huì)算法規(guī)定的規(guī)范系統(tǒng)。在算法構(gòu)建的約會(huì)游戲中,算法決定哪些個(gè)人資料對(duì)其他約會(huì)者更可見(jiàn)。因此,為了脫穎而出,用戶們必須知道如何充分利用算法。他們必須學(xué)習(xí)算法的工作原理,以及如何讓算法幫助他們有效地玩約會(huì)游戲,甚至可以說(shuō),有關(guān)算法的知識(shí)對(duì)于他們而言變得至關(guān)重要。遺憾的是,算法通常是隱藏的和不可見(jiàn)的,并且通過(guò)結(jié)合更多的機(jī)器學(xué)習(xí)來(lái)運(yùn)作,這些算法甚至對(duì)于它們自己的設(shè)計(jì)者來(lái)說(shuō)也相當(dāng)晦澀。算法想象在這里就變得至關(guān)重要。

“算法想象”一詞是泰娜·布赫(Taina Bucher)在對(duì)Facebook用戶與算法交互的研究基礎(chǔ)上創(chuàng)造的?!八惴ㄏ胂蟆笔侵浮八伎妓惴ㄊ鞘裁?、它們應(yīng)該是什么、它們?nèi)绾芜\(yùn)作以及這些想象反過(guò)來(lái)使什么樣的算法可能得以應(yīng)用”[24]。布赫認(rèn)為,這種想象將改變用戶對(duì)待和使用算法的行為。以Facebook為例,用戶可以調(diào)整他們的數(shù)據(jù)共享行為,以充分利用感知到的算法功能。對(duì)于在線約會(huì)應(yīng)用程序而言,用戶還可以運(yùn)用這種算法想象來(lái)贏得約會(huì)游戲,以獲得最多的回應(yīng)。這種想象可以從自己的算法經(jīng)驗(yàn)中獲得,或者通過(guò)在網(wǎng)上搜尋很多匹配的人的分享策略等方法來(lái)獲取。通過(guò)“算法想象”,用戶知道何時(shí)開(kāi)始滑動(dòng)、如何選擇最佳照片,甚至拍照時(shí)應(yīng)該與什么類型的寵物一起擺姿勢(shì)。簡(jiǎn)言之,“算法想象”為用戶提供了可遵循的事實(shí)上的范式,它告訴他們?nèi)绾纬浞掷盟惴▉?lái)成為約會(huì)游戲中的勝者。這種想象使得約會(huì)應(yīng)用程序的規(guī)范化過(guò)程更加活躍和具有參與性。但是,這些規(guī)范可能并非源自用戶的真實(shí)身份,而僅是由約會(huì)算法規(guī)定的。通過(guò)它的設(shè)計(jì)與功能展現(xiàn),算法通常將用戶分為不同的類別。這些類別可以讓用戶更容易識(shí)別自己,從而更有效地表達(dá)自己。但那種已經(jīng)假定了一套現(xiàn)有判斷的類別卻可以限制人們的思維,并鼓勵(lì)他們更容易接受設(shè)計(jì)師設(shè)定的規(guī)定分類。

這種規(guī)定的標(biāo)準(zhǔn)化過(guò)程在一般約會(huì)文化中很常見(jiàn),在這種文化中,諸如主導(dǎo)美感標(biāo)準(zhǔn)之類的話語(yǔ)規(guī)范雖然限定了用戶定義、呈現(xiàn)自我和遇到他人的能力,但約會(huì)應(yīng)用程序卻能夠以一種特定的方式實(shí)現(xiàn)這種形式的標(biāo)準(zhǔn)化。約會(huì)應(yīng)用程序算法會(huì)主動(dòng)學(xué)習(xí)個(gè)人偏好,并僅根據(jù)相似特征在用戶不知情的情況下默默推薦可能的伴侶。在此基礎(chǔ)之上,它們創(chuàng)建了洛倫扎·帕里西(Lorenza Parisi)和弗朗西斯·科穆內(nèi)洛(Francesca Comunello)所說(shuō)的“關(guān)系過(guò)濾氣泡”,通過(guò)這種過(guò)濾,用戶就只能跟與自己具有“相似”特征的人約會(huì)。也就是說(shuō),約會(huì)算法構(gòu)建了一個(gè)新的但分隔的環(huán)境,在這個(gè)環(huán)境中,人們只能看到自己個(gè)性化的知識(shí)世界,并且只能與那些具有相似特征的人進(jìn)行親密互動(dòng)。在不知不覺(jué)中,用戶逐漸被困在一個(gè)條件性、限定性的空間里被動(dòng)地遵循自己已有的偏好,無(wú)法主動(dòng)、充分地表達(dá)自己的身份與特征。

更進(jìn)一步而言,由于約會(huì)應(yīng)用程序算法遵循系統(tǒng)邏輯的要求,有時(shí)可能超越個(gè)人的自我認(rèn)同。算法可以將用戶分為某些類別,這只是為了約會(huì)應(yīng)用程序分析數(shù)據(jù)并更有效地匹配到合適的人,而不是讓用戶自由表達(dá)自己的身份與內(nèi)在社會(huì)特征。例如,目前有許多研究批評(píng)Tinder、Bumble和其他約會(huì)應(yīng)用程序中設(shè)計(jì)的二元性別分類,這種二元分類部分是基于在線約會(huì)應(yīng)用程序關(guān)注的效率和實(shí)用性來(lái)設(shè)計(jì)的?!皯?yīng)用程序中的性別與身份本身無(wú)關(guān),而是一種將用戶分組的方式,從而使匹配合適對(duì)象的可能性更大。”[25]因此,來(lái)自性別少數(shù)群體的用戶只能被歸類為男性或女性,他們不但無(wú)法自由地表明自己的身份或性取向,而且常常在約會(huì)平臺(tái)上展示自己時(shí)感到苦惱。

四、超越不可協(xié)商的愛(ài):約會(huì)程序算法引發(fā)倫理失范的治理路徑

約會(huì)程序算法向人們描繪了一個(gè)數(shù)字社會(huì)的美好未來(lái),這無(wú)疑助長(zhǎng)了技術(shù)樂(lè)觀主義,同時(shí)也巧妙地遮蔽了數(shù)據(jù)過(guò)濾中權(quán)力結(jié)構(gòu)的不平等與不對(duì)稱。筆者通過(guò)借鑒哈貝馬斯的殖民化理論,進(jìn)一步提出在不對(duì)稱的權(quán)力結(jié)構(gòu)下,通過(guò)游戲化的約會(huì)應(yīng)用程序可能會(huì)鼓勵(lì)用戶定義自己并根據(jù)應(yīng)用程序的規(guī)范、類別和指標(biāo)對(duì)他人進(jìn)行排名,從而阻礙了以往人們線下的有意義的自我表達(dá)與親密互動(dòng)。然而,有些人可能認(rèn)為約會(huì)文化總體上也可以被視為一種“游戲”,它不僅能夠使人們盡最大努力增加約會(huì)成功的機(jī)會(huì),而且還鼓勵(lì)他們學(xué)習(xí)和遵循一些關(guān)于約會(huì)穿什么、如何調(diào)情和如何化妝等方面的社會(huì)規(guī)范。那么,即使在這種技術(shù)優(yōu)勢(shì)下,約會(huì)應(yīng)用程序如何以一種與一般約會(huì)不同的方式塑造用戶的關(guān)系和自我定義呢?從治理路徑層面看,可以從以下幾個(gè)方面著力。

首先,在個(gè)體維度上,引導(dǎo)算法設(shè)計(jì)者秉承公正的設(shè)計(jì)思想,以人為介入來(lái)彌補(bǔ)算法思維的固有邏輯缺陷。由于約會(huì)應(yīng)用程序遵循著不同的邏輯,約會(huì)應(yīng)用程序算法規(guī)定的范式不是通過(guò)日常交互自然形成的,而是由應(yīng)用程序設(shè)計(jì)者以脫離情境和不可協(xié)商的方式預(yù)先定義的。例如,在現(xiàn)實(shí)生活的約會(huì)中,人的外表并不是固定的、靜態(tài)的東西,而是涉及動(dòng)態(tài)約會(huì)過(guò)程中的感受體驗(yàn),其中一個(gè)人的外貌的相關(guān)性總是隨著親密互動(dòng)的進(jìn)行而變化。又如,當(dāng)你在酒吧遇見(jiàn)某人,也許你會(huì)被這個(gè)人的外表所吸引,但通過(guò)面對(duì)面的互動(dòng)與交流,你也可以探索并逐漸認(rèn)識(shí)到這個(gè)人所具備的其他一些更內(nèi)在的品質(zhì),如幽默感或責(zé)任感等個(gè)人性格特征?;诖耍谖磥?lái)約會(huì)應(yīng)用程序的設(shè)計(jì)中應(yīng)該盡量避免將數(shù)字資本巨頭的主觀意愿及隱含偏見(jiàn)寫(xiě)進(jìn)算法,從而使得人們?cè)诿鎸?duì)技術(shù)所帶來(lái)的價(jià)值觀與社會(huì)所提倡的價(jià)值觀不一致的情況時(shí)能夠做出正確抉擇。同時(shí),在約會(huì)應(yīng)用程序中可深化并嵌入人機(jī)協(xié)同理念,將算法的歸類簡(jiǎn)化思想與人類的多維復(fù)雜思辨有機(jī)融合,將基于算法邏輯的技術(shù)判斷與基于經(jīng)驗(yàn)事實(shí)的人為判斷有機(jī)融合,盡可能縮小算法決策與人為決策之間的差距。

其次,在技術(shù)維度上,從算法本身的運(yùn)作入手,優(yōu)化算法模型。在構(gòu)造模型與設(shè)計(jì)標(biāo)準(zhǔn)時(shí),要盡可能基于公正原則做出合乎倫理與社會(huì)價(jià)值的選擇,并且通過(guò)在約會(huì)應(yīng)用程序中的算法技術(shù)標(biāo)準(zhǔn)來(lái)構(gòu)建信息交換的結(jié)構(gòu)性元規(guī)則,從而推動(dòng)社會(huì)與算法的跨系統(tǒng)、跨情境溝通,在此基礎(chǔ)上其他相關(guān)的算法規(guī)制策略才能有效展開(kāi)。在約會(huì)應(yīng)用程序上,約會(huì)的動(dòng)態(tài)與情境過(guò)程通常被分解為單獨(dú)的組件,這些組件只能由計(jì)算機(jī)算法“管理和操作”,而這種操控很可能促致約會(huì)應(yīng)用程序中外表特征的設(shè)計(jì)不僅脫離了約會(huì)的流程,而且成為約會(huì)對(duì)象匹配的固定標(biāo)準(zhǔn)。因此,外觀本身的動(dòng)態(tài)變化和交互體驗(yàn)被簡(jiǎn)化為一種靜態(tài)標(biāo)準(zhǔn),或者用吉爾·德勒茲(Gilles Deleuze)的比喻來(lái)說(shuō),這種程序的算法更像是一個(gè)僅允許特定個(gè)人通過(guò)而拒絕其他人的“篩選網(wǎng)格”[26]。值得注意的是,這樣的決定或選擇標(biāo)準(zhǔn)具有不可協(xié)商性,或者用祖博夫的話說(shuō),這是一種基于“單方面執(zhí)行”的“非契約”的選擇標(biāo)準(zhǔn):除了用于自動(dòng)執(zhí)行的功能之外,不需要任何承諾、對(duì)話或共享意義的社會(huì)過(guò)程。例如,在Tinder的滑動(dòng)算法中,身體吸引力已經(jīng)成為用戶向右或向左滑動(dòng)的唯一因素。在沒(méi)有任何協(xié)商或?qū)υ挼那闆r下,一些相貌平平的用戶沒(méi)有機(jī)會(huì)充分表達(dá)自己的想法。從這個(gè)意義上說(shuō),算法將約會(huì)的互動(dòng)過(guò)程進(jìn)行了去情境化、“解契約化”,限制甚至消除人們的個(gè)性化思維以及探索可能伴侶的其他更內(nèi)在性格特征的可能性。因此,有必要對(duì)用于算法訓(xùn)練的數(shù)據(jù)進(jìn)行多重過(guò)濾,并依靠算法倫理和規(guī)則來(lái)對(duì)算法模型加以規(guī)范和引導(dǎo),從使用者或用戶的訴求考量角度出發(fā),推進(jìn)以人為本的自主選擇。一方面,應(yīng)該積極為使用者提供選擇關(guān)閉算法操控的機(jī)會(huì),同時(shí)建立具有場(chǎng)景性、技術(shù)性、靈活性等特點(diǎn)的算法系統(tǒng)溝通的結(jié)構(gòu)性元規(guī)則與標(biāo)準(zhǔn),從而既能夠幫助人們?cè)谌粘?ài)情關(guān)系中實(shí)現(xiàn)跨系統(tǒng)或情境、多元化、可解釋性的溝通與交流,又有利于實(shí)現(xiàn)交往行動(dòng)意義的其他算法規(guī)制策略或技術(shù)的積極構(gòu)建。另一方面,在未來(lái)人機(jī)社會(huì)中,人比任何一個(gè)時(shí)期都更看重感性的意義,建立以人為本的算法標(biāo)準(zhǔn)能夠推動(dòng)人們?cè)跍贤ɑ驉?ài)情交往偶然性的去殖民化中形成秩序,進(jìn)而倒逼人類正視自己情感方面的需求,通過(guò)擺脫“工具理性”對(duì)自身的束縛來(lái)解放情感,從而避免人類愛(ài)情在人工智能技術(shù)影響下走向“商品化”。

最后,在企業(yè)以及約會(huì)應(yīng)用程序設(shè)計(jì)者的維度上,應(yīng)該保證數(shù)據(jù)可查性與算法可審計(jì)性,盡可能消除算法設(shè)計(jì)過(guò)程中存在的技術(shù)漏洞,并通過(guò)完善個(gè)性化服務(wù)如“選擇退出”“溝通交流”等機(jī)制賦予個(gè)體更多的自主選擇權(quán)。不得不承認(rèn),約會(huì)應(yīng)用程序企業(yè)及其設(shè)計(jì)者的預(yù)測(cè)算法確實(shí)能夠讓很多人受益,讓人們的約會(huì)體驗(yàn)變得更有趣、更高效,但我們也應(yīng)該警惕這些算法是否會(huì)使以往的互動(dòng)愛(ài)情體驗(yàn)成為一個(gè)不可協(xié)商的自動(dòng)化流程。哈貝馬斯曾提醒我們,現(xiàn)代人不應(yīng)該輕易放棄生活世界中的交往行為。即使在算法社會(huì)中,人們也應(yīng)該被允許通過(guò)與他人開(kāi)放的互動(dòng)來(lái)找到自己真正喜歡的東西,而不是被約會(huì)應(yīng)用程序算法規(guī)定和操縱。鑒于此,有必要確保相關(guān)企業(yè)及設(shè)計(jì)者在提供服務(wù)的每個(gè)環(huán)節(jié)都注重合理、合法使用個(gè)人數(shù)據(jù),以提升對(duì)個(gè)人數(shù)據(jù)自主性權(quán)利的重視與保護(hù)。同時(shí),加快構(gòu)建數(shù)字倫理共同體,“秉持責(zé)任、道義、公正、人性尺度,形成利益共享、權(quán)利一致、責(zé)任共擔(dān)、價(jià)值共通、風(fēng)險(xiǎn)共抗、命運(yùn)相依的數(shù)字倫理共同體”[27],讓包括約會(huì)應(yīng)用程序生產(chǎn)者、運(yùn)用者和使用者在內(nèi)的各主體享受算法紅利,尤其是要對(duì)數(shù)據(jù)內(nèi)容、數(shù)據(jù)特征選擇及權(quán)重進(jìn)行說(shuō)明,用這樣的解釋程序搭建起個(gè)體用戶之間進(jìn)行自由交往的技術(shù)橋梁,使之成為跨越技術(shù)鴻溝的重要保障,而非被算法所監(jiān)控的囚徒。

五、結(jié)語(yǔ)

在21世紀(jì)初期,算法正在逐漸將其邊界擴(kuò)展到人類的社會(huì)互動(dòng)領(lǐng)域,并將人們的互動(dòng)關(guān)系變成一種自動(dòng)執(zhí)行的懲罰與激勵(lì)形式,而不再需要以往情感關(guān)系中的承諾、對(duì)話或大數(shù)據(jù)社會(huì)中的共享意義。這種持續(xù)存在的現(xiàn)象被描述為“算法殖民化”。本文借鑒哈貝馬斯的殖民化理論,以技術(shù)與監(jiān)控資本主義研究的批判性理論為支撐,進(jìn)一步審視愛(ài)情關(guān)系殖民化的復(fù)雜含義,而不是被動(dòng)地使用還原論的含義,嘗試?yán)寮s會(huì)程序算法在人類愛(ài)情關(guān)系中引發(fā)的倫理挑戰(zhàn),進(jìn)而探索算法如何塑造并殖民化地處理人類社會(huì)的交往互動(dòng)??梢灶A(yù)見(jiàn)的是,這種受算法驅(qū)動(dòng)的愛(ài)情關(guān)系將不再僅僅關(guān)注資本主義發(fā)展的必要性,而是更多聚焦算法規(guī)則的內(nèi)在邏輯,以及這些算法規(guī)則或邏輯如何逐漸排斥人們的文化、社會(huì)與個(gè)人發(fā)展所必需的交往行為。因此,目前亟須將“去殖民化”付諸實(shí)現(xiàn),真正在現(xiàn)實(shí)生活里對(duì)愛(ài)情關(guān)系從個(gè)體維度、技術(shù)維度、企業(yè)以及約會(huì)應(yīng)用程序設(shè)計(jì)者維度上實(shí)現(xiàn)數(shù)據(jù)殖民現(xiàn)象的“去殖民化”。

總之,生活世界之所以具有規(guī)范性,不僅因?yàn)樗松鐣?huì)正義、公正等規(guī)范性價(jià)值來(lái)支持交往行為與開(kāi)放性探索,還因?yàn)樗鼤?huì)通過(guò)交往探索來(lái)產(chǎn)生和再生產(chǎn)社會(huì)正義、公正等社會(huì)價(jià)值。這種“對(duì)可能性的開(kāi)放探索”是基于社會(huì)價(jià)值觀的,并且其中的“可能性”也不是任意的,而是以規(guī)范的方式構(gòu)建。用哈貝馬斯的話來(lái)說(shuō),算法作為社會(huì)系統(tǒng)的一部分,能夠根據(jù)其自身的效率、自動(dòng)化和去情境化優(yōu)先級(jí)侵入并改變我們的生活世界。算法殖民化的觀點(diǎn)強(qiáng)調(diào),生活世界只能通過(guò)交往行為來(lái)復(fù)制自身,而這種參與性互動(dòng)的過(guò)程不應(yīng)該被商業(yè)或技術(shù)的要求所扭曲或排擠。有鑒于此,人們應(yīng)該被允許通過(guò)與他人自由、開(kāi)放的互動(dòng)交流來(lái)發(fā)展自己的個(gè)性、社會(huì)關(guān)系和共享的文化意義。當(dāng)生活世界被殖民化后,交往關(guān)系及其基礎(chǔ)設(shè)施將被扭曲,甚至被工具性規(guī)則所取代,這可能會(huì)瓦解生活世界在文化、社會(huì)和個(gè)人領(lǐng)域的符號(hào)再現(xiàn)。未來(lái)人類必須通過(guò)對(duì)算法有效性、算法必要性和算法自主性的考量,用公平、多元化的價(jià)值理念指導(dǎo)算法的研發(fā)和應(yīng)用,彌補(bǔ)算法內(nèi)在的邏輯缺陷,并且將這些倫理或價(jià)值維度在經(jīng)驗(yàn)層面與“去算法殖民化”相結(jié)合,這才是實(shí)現(xiàn)人工智能時(shí)代人類情感解放的可能性通路。

參考文獻(xiàn):

[1]BRESLOWA S, SANDIL R, BREWSTER M E," et al. Adonis on the Apps: Online objectification, self-esteem, and sexual minority men[J].Psychology of Men amp; Masculinities,2020(1):25.

[2]RYAN C, CITRON D K. The automated administrative state: A crisis of legitimacy[J].Emory Law Journal,2021(4):797-846.

[3]CHIN C, ROBISON M. This cuffing season, it’s time to consider the privacy of dating Apps[EB/OL]. (2020-11-20)[2023-06-15].https://www.brookings.edu/blog/techtank/2020/11/20/this-cuffing-season-its-time-to-consider-the-privacy-of-dating-apps/.

[4]HABERMAS J. The theory of communicative action: Lifeworld and systems, a critique of functionalist reason[M].Boston: Beacon Press,1987:56-64.

[5]HABERMAS J. Technology and science as “ideology”[M]//Toward a rational society. SHAPIRO J, trans. Boston: Beacon Press,1970:81-127.

[6]HEYMAN R, PIERSON J. Social media, delinguistification and colonization of lifeworld: Changing faces of Facebook[J].Social Media+Society,2015(2):33-37.

[7]BAUMAN" Z. Liquid love: On the frailty of human bonds[M].Cambridge: Polity,2003:77-89.

[8]BAUMAN Z. Consuming life[M].Cambridge: Polity,2007:21.

[9]BAUMAN Z, MAZZEO R. On education[M].Cambridge: Polity,2012:117.

[10]DEHAENE S. How we learn: Why brains learn better than any machine…for now[M].London: Viking,2020:18.

[11]HAYWOOD C. Mobile romance: Tinder and the navigation of masculinity[M]//Men, masculinity and contemporary dating. London: Palgrave Macmillan UK,2018:131-166.

[12]SALES N J. Tinder and the dawn of the “dating apocalypse” [EB/OL].(2015-08-06)[2023-06-20]. https://www.vanityfair.com/culture/2015/08/tinder-hook-up-culture-end-of-dating.

[13]SRNICEK N. Platform capitalism[M].Cambridge: Polity,2016:99-103.

[14]ILLOUZ E. Cold intimacies: The making of emotional capitalism[M].Cambridge: Polity Press,2007:77-84.

[15]ZUBOFF S. The age of surveillance capitalism: The fight for the future at the new frontier of power[M].London: Profile Books,2019:117-120.

[16]ZUBOFF S, LAIDLER J. High tech is watching you[EB/OL]. (2019-03-04)[2023-06-17].https://news.harvard.edu/gazette/story/2019/03/harvard-professor-says-surveillance-capitalism-is-undermining-democracy/.

[17]LANZING M. The transparent self: A normative investigation of changing selves and relationships in the age of the quantified self[D].Eindhoven: Technische Universiteit Eindhoven,2019:143.

[18]ROESSLER B. Should personal data be a tradable good? On the moral limits of markets in privacy[M].Cambridge: Cambridge University Press,2015:141-161.

[19]SAX M. Optimization of what? For-profit health Apps as manipulative digital environments[J].Ethics and Information Technology,2021(23):345-361.

[20]周慶山,鄭霞,黃國(guó)彬.人工智能倫理規(guī)范核心原則的政策文本內(nèi)容分析[J].重慶郵電大學(xué)學(xué)報(bào)(社會(huì)科學(xué)版),2023(5):9-20.

[21]PASQUALE F. The black box society: The secret algorithms that control money and information[M].Cambridge, Massachusetts: Harvard University Press,2015:45-56.

[22]FROMM E. Man for himself: An enquiry into the psychology of ethics[M].London: Routledge and Kegan Paul,1948:76-83.

[23]FROMM E. The art of loving[M].London: Thorsons,1995:221-226.

[24]BUCHER T. The algorithmic imaginary: Explore the ordinary affects of facebook algorithms[J].Information, Communication amp; Society,2017(1):39-40.

[25]MACLEOD C," MCARTHUR V. The construction of gender in dating Apps: An interface analysis of Tinder and Bumble[J]. Feminist Media Studies,2019(6):831.

[26]DELEUZE G. Postscript on the societies of control[J].October,1992(59):3-7.

[27]田旭明.數(shù)字社會(huì)的主要倫理風(fēng)險(xiǎn)及其應(yīng)對(duì)[J].中州學(xué)刊,2022(2):93.

Colonization of algorithm in love: Ethical challenges and countermeasuresfor dating App algorithms in the age of artificial intelligence

Abstract:

In the past ten years, artificial intelligence algorithms have made great progress, and intelligent algorithms are regarded as a new approach to solving human problems. At the same time, in a humanist framework, love is often seen as the most intimate emotion in our lives, but it is increasingly controlled or manipulated by a small number of programmers using artificial intelligence. In the contemporary world, many dating platforms are designing so-called smart algorithms to identify more potential matches for users. These AI-powered matchmaking systems are driven by a wealth of data, not only capable of predicting what types of mates a user is likely to choose, but also profoundly influencing the way people choose their mates. In response, this article critically explores the potential implications of delegating romantic decision-making to algorithms, and the ethical challenges that may arise, by drawing on Habermas’ theory of the colonization of the lifeworld. Based on a real-world analysis of the use of algorithms by dating Apps such as Tinder, it points out that the world of love life is being colonized as online dating algorithms invade people’s romantic relationships to such an extent that the act of intercourse in romance is superseded by the algorithm’s technical rules. In order to deal with the ethical problems caused by algorithm colonization, it is necessary to focus on making up for the inherent logical defects of algorithmic thinking from the individual dimension, optimize the algorithm model and standard design from the technical dimension, and endow love relationships from the dimension of enterprises and dating application designers. Individuals have more independent choice rights, and based on this, we can explore the possible path of “de-algorithmic colonization” of ideal love relationships in the future.

Keywords:

dating Apps; algorithms; artificial intelligence; Habermas; colonization

猜你喜歡
哈貝馬斯人工智能算法
如何理解現(xiàn)實(shí)的人——論哈貝馬斯理解人的三個(gè)維度
規(guī)則與有效——論哈貝馬斯言語(yǔ)行為的規(guī)范性
哈貝馬斯科學(xué)技術(shù)批判的深層邏輯
基于MapReduce的改進(jìn)Eclat算法
Travellng thg World Full—time for Rree
2019:人工智能
商界(2019年12期)2019-01-03 06:59:05
進(jìn)位加法的兩種算法
人工智能與就業(yè)
數(shù)讀人工智能
小康(2017年16期)2017-06-07 09:00:59
下一幕,人工智能!
岗巴县| 额敏县| 呼玛县| 丰台区| 黔江区| 曲松县| 金堂县| 萝北县| 东光县| 苍溪县| 建德市| 芦溪县| 灌云县| 珠海市| 新巴尔虎左旗| 黄骅市| 绍兴县| 平舆县| 宜兰市| 文安县| 刚察县| 元朗区| 武川县| 健康| 前郭尔| 浦县| 义乌市| 手机| 仁化县| 尚志市| 天柱县| 白山市| 宁南县| 商河县| 应用必备| 吉安县| 阿克苏市| 博爱县| 噶尔县| 稻城县| 长岭县|