文/鄭廣懷 朱 苗
持續(xù)更新迭代的大數(shù)據(jù)與算法之間的相互配合,不但改變了社會制度的運作,而且正在以前所未有的方式改變著人們的日常生活乃至思考方式。對于這一改變存在著兩種完全不同的判斷。樂觀者認(rèn)為,數(shù)字時代的算法極大地拓展了人們所處的時空范圍和活動能力,給人們的生活帶來諸多便利,幫助人們掙脫過度工具理性化的“鐵籠”(iron cage),從而最終促進(jìn)人類解放。批判者認(rèn)為,算法社會非但沒有弱化“鐵籠”,而且將“鐵籠”升級成“硅籠”(silicon cage),每個人都生活在數(shù)字技術(shù)精密構(gòu)筑的牢籠之下而不自知。
首先,數(shù)字技術(shù)雖然帶來了經(jīng)濟生產(chǎn)的全面革新,但背后仍是資本原始積累的邏輯。祖博夫(Zuboff)將收集、分析互聯(lián)網(wǎng)用戶數(shù)據(jù)用于預(yù)測“未來行為”,進(jìn)而得以精準(zhǔn)的投放廣告實現(xiàn)有效營銷,最終達(dá)到資本積累的數(shù)字經(jīng)濟稱為“監(jiān)控資本主義”。[1]本質(zhì)上,數(shù)字技術(shù)已經(jīng)成為了資本的牟利手段,它將人類生活置于一種以技術(shù)至上為表征的特殊市場邏輯之下。[2]數(shù)字資本主義“只不過是讓資本主義的矛盾完成了現(xiàn)代化而已”。[3]其二,數(shù)字時代的基本特征不是將技術(shù)手段置于社會目的之下,而是置于權(quán)力控制之下。數(shù)字資本與數(shù)字技術(shù)、知識產(chǎn)權(quán)、文化的合謀,衍生出了數(shù)字資本霸權(quán),壟斷了數(shù)字生產(chǎn)和流通,從而操控了資本市場和普通民眾的生活。[4]當(dāng)對大數(shù)據(jù)的收集、儲存、控制和分析受到政治經(jīng)濟利益的驅(qū)使時,將會帶來大政府獨裁和大資本主義企業(yè),最終形成由數(shù)字巨頭構(gòu)成的“數(shù)字帝國主義”。[5]其三,掌握數(shù)字資本和技術(shù)的政治經(jīng)濟力量有選擇地投放信息,造成了社會公眾的“集體愚昧”。數(shù)字化自動裝置弱化了社會主體的創(chuàng)造性和選擇性。[6]它根據(jù)人們搜索過的信息持續(xù)推送同質(zhì)性的信息,將人們禁錮于自我構(gòu)建的虛擬“數(shù)字囚籠”中。[7]奧尼爾(O’Neil)嚴(yán)厲地批評,算法是一種“數(shù)字毀滅性武器”。[8]
既有研究從資本積累、權(quán)力支配和主體性塑造等方面對數(shù)字技術(shù)進(jìn)行了批判性分析,但這種批判性分析容易陷入技術(shù)決定論。當(dāng)前圍繞數(shù)字技術(shù),出現(xiàn)了算法、人工智能、大數(shù)據(jù)等技術(shù)語言,學(xué)術(shù)界產(chǎn)生了算法權(quán)力、算法權(quán)威、數(shù)字資本主義、數(shù)字勞動等新概念。這些概念關(guān)注的核心是,通過數(shù)字技術(shù),企業(yè)和精英把控了社會資源,支配了社會經(jīng)濟生活的方方面面,從而形成了“數(shù)字技術(shù)即權(quán)力”“算法即權(quán)力”“技術(shù)支配一切”的命題。然而,數(shù)字技術(shù)僅是數(shù)字經(jīng)濟和社會生活的技術(shù)工具,技術(shù)不會自動產(chǎn)生權(quán)力。在數(shù)字化時代,通過數(shù)字技術(shù)對社會成員的監(jiān)視所獲取的原始數(shù)據(jù)才是技術(shù)產(chǎn)生權(quán)力的“原材料”。按照??碌挠^點,整個社會以持續(xù)的監(jiān)視技術(shù)來建立權(quán)力基礎(chǔ),即“監(jiān)視產(chǎn)生權(quán)力”。質(zhì)言之,數(shù)字社會根源于企業(yè)和精英利用數(shù)字技術(shù)獲取社會大眾的數(shù)據(jù)以支配其社會生活。正如伯瑞爾(Burrell)和弗考德(Fourcade)所說,數(shù)字技術(shù)早在20世紀(jì)就已經(jīng)存在,而新的內(nèi)容是數(shù)字技術(shù)對個人日常生活數(shù)據(jù)的監(jiān)視、追蹤、分析和使用。[9]數(shù)字社會得以形成的基礎(chǔ)在于數(shù)字技術(shù)對社會成員無所不在、無遠(yuǎn)弗屆的監(jiān)視。沿著這一進(jìn)路,本文從??滤岢龅摹氨O(jiān)視產(chǎn)生權(quán)力”出發(fā),試圖探討數(shù)字監(jiān)視社會的形成、后果和應(yīng)對。
??掠谩皥A形監(jiān)獄”比擬現(xiàn)代的懲罰式社會,暗指通過不斷監(jiān)督、監(jiān)視和檢查所實現(xiàn)的技術(shù)規(guī)訓(xùn)。圓形監(jiān)獄被認(rèn)為是規(guī)訓(xùn)機制的微縮模型,是一座由外環(huán)小囚房圍繞著中央觀測塔所形成的環(huán)狀設(shè)計,目的是讓隱身于內(nèi)環(huán)的獄卒在外環(huán)囚犯無法察覺的情況下隨時被監(jiān)視,使得囚犯產(chǎn)生一種無時無刻受到監(jiān)視的壓力,從而使監(jiān)視權(quán)力實時啟動。[10]??轮赋?,全景敞視主義以鑲嵌、分類、監(jiān)視的權(quán)力運作方式,無所不在地滲透進(jìn)個人生活,展開對個人日常生活及身心極為精致的控制。一旦“圓形監(jiān)獄”的監(jiān)視機制擴大到整個社會,監(jiān)視技術(shù)就會遍布社會的各個角落,形成全方位的“監(jiān)視社會”。
里昂(Lyon)認(rèn)為,“監(jiān)視”指通過對個人資料的收集與處理,以實現(xiàn)對特定可疑對象的目的性凝視。[11]隨著技術(shù)的發(fā)展,信息通訊技術(shù)成為現(xiàn)代社會生活的監(jiān)視工具,即遍布社會各個角落的電子攝像孔的監(jiān)視使得公眾在心理上形成“自我監(jiān)視”的恐懼感,進(jìn)而形成監(jiān)視社會。然而,在數(shù)字化時代,電腦、手機、智能手環(huán)以及現(xiàn)代電子設(shè)備的普及使監(jiān)視更加例行化、擴大化和深刻化。[12]大數(shù)據(jù)和算法技術(shù)使得監(jiān)視更加難以察覺而又無孔不入?!皵?shù)字監(jiān)視社會”形成于大數(shù)據(jù)全方位的持續(xù)監(jiān)視與算法權(quán)力產(chǎn)生的規(guī)訓(xùn)技術(shù)之中。
數(shù)據(jù)是數(shù)字化時代的基點,數(shù)字技術(shù)與數(shù)字經(jīng)濟的運行依賴于數(shù)據(jù)的收集、處理、分析和評估。數(shù)據(jù)指的是未被數(shù)據(jù)化的元數(shù)據(jù),它具有多種形式,例如IP地址、聯(lián)系人的身份、電話、位置以及聯(lián)系的持續(xù)時間。這些元數(shù)據(jù)被計算機收集、處理為可操作化的算法數(shù)據(jù)或算法語言,并被再次利用。因此,數(shù)據(jù)是數(shù)字經(jīng)濟和計算機技術(shù)得以運行和發(fā)展的“原材料”。離開了數(shù)據(jù),計算機和算法就像缺失了“靈魂”的“軀殼”,猶如電器離開了電力,它便無法正常運行。因此,日常生活的數(shù)據(jù)化是數(shù)字經(jīng)濟和數(shù)字技術(shù)得以運行的基本條件。
在“一切皆可數(shù)字化”的情況下,獲取或挖掘數(shù)據(jù)成為了數(shù)字化的關(guān)鍵問題。為了獲取數(shù)據(jù),數(shù)字公司、平臺公司等數(shù)字資本熱衷于開發(fā)免費軟件,其根本目的是通過實時跟蹤技術(shù)、全球定位系統(tǒng)、激光掃描器等信息傳感設(shè)備獲取個人信息。例如,用戶下載社交APP時,系統(tǒng)軟件彈出“獲取手機照片、電話、儲存功能、手機聯(lián)系人”等窗口,當(dāng)用戶拒絕獲取時,該軟件的某些功能被限制使用或自動退出。這些強制性“告知同意”成為數(shù)字資本獲取個人信息的重要渠道。此外,用戶的使用過程可能被監(jiān)視以獲取用戶數(shù)據(jù),進(jìn)而“打包”成可供盈利的商品。例如,用戶使用APP觀看視頻時,系統(tǒng)根據(jù)觀看內(nèi)容確定用戶可能喜歡的視頻或商品,隨即推送同質(zhì)性的視頻或廣告。
信息獲取技術(shù)的本質(zhì)是通過數(shù)字技術(shù)進(jìn)行實時地監(jiān)視以便獲取數(shù)據(jù),而當(dāng)這種信息獲取技術(shù)擴大到整個社會時,全方位監(jiān)視隨之形成。與依賴于“瞭望臺”所進(jìn)行的監(jiān)視不同,數(shù)字技術(shù)使得監(jiān)視具有可變性、流動性、廣泛性和隱秘性的特征。隨著數(shù)字技術(shù)的進(jìn)步,監(jiān)視呈現(xiàn)出多重可變的形式,無需依賴固定的、具體的建筑空間。例如,系統(tǒng)軟件可以植入不可見的高頻音頻、畫布指紋追蹤技術(shù)、軟件后臺的實時跟蹤技術(shù)。這些信息跟蹤技術(shù)可以植入到任意的手機、筆記本電腦、平板等可移動通訊設(shè)備中,并對每個人進(jìn)行精準(zhǔn)的檢查、監(jiān)督和定位,使得監(jiān)視具有高度流動性和廣泛性,既可隨時進(jìn)行又無處不在,實現(xiàn)了監(jiān)視從“瞭望塔”到“毛細(xì)血管”的質(zhì)變。[13]另外,與“前臺”表演的、明顯可感知的監(jiān)視不同,精密而隱秘且具備穿越時空能力的技術(shù)使得監(jiān)視從“在場”走向了虛擬的“不在場”。
??轮赋?,監(jiān)視技術(shù)產(chǎn)生了權(quán)力效應(yīng)。圓形監(jiān)獄的空間設(shè)計形成了監(jiān)視與被監(jiān)視的權(quán)力關(guān)系,被監(jiān)視者處于被孤立、被隔離的狀態(tài)。在信息不對稱的情況下,他們產(chǎn)生了隨時被監(jiān)視的恐懼心理,從而實現(xiàn)自我規(guī)訓(xùn)。雖然現(xiàn)代數(shù)字技術(shù)超越了傳統(tǒng)空間設(shè)計的監(jiān)視,使得監(jiān)視的形式發(fā)生了變化,但是監(jiān)視的本質(zhì)并沒有超越??滤f的“監(jiān)視產(chǎn)生權(quán)力”的觀點。在數(shù)字化時代,監(jiān)視無需“人”的監(jiān)視,而是利用作為眼睛的“算法”開展實時監(jiān)視,并進(jìn)行自動化決策,以實現(xiàn)規(guī)訓(xùn)。
由數(shù)據(jù)驅(qū)動的算法成為社會中新的權(quán)力掮客。算法是一組被定義好地用于處理指令或數(shù)據(jù)以輸出結(jié)果的命令,不同的數(shù)字技術(shù)共同構(gòu)成了算法機器。[14]這些算法機器處理了大量復(fù)雜的任務(wù),包括執(zhí)行搜索、安全加密交換、推薦、模式識別、數(shù)據(jù)壓縮、自動更正、預(yù)測、分析、模擬和優(yōu)化等。依據(jù)自動程序命令,算法實現(xiàn)了人類無法完成的任務(wù)。然而,這種自動化決策機制構(gòu)建了一種新型的算法權(quán)力,即算法將“人的決策”轉(zhuǎn)變?yōu)椤皺C器的自動化決策”。算法通過計算個人的過往信息,勾畫個人的數(shù)字圖像,自動計算個人的行為。人們無需自我決定,而是由系統(tǒng)決定。這種自動化的決策導(dǎo)致個體逐漸失去自決能力,依賴于軟件生活。算法逐漸在日常生活中顯現(xiàn)出權(quán)力特質(zhì),個體自決能力逐漸讓位于算法的自動化決策。
通過算法的自動化決策,現(xiàn)代數(shù)字技術(shù)生產(chǎn)出臣服于技術(shù)理性的“馴服個體”。福柯指出,規(guī)訓(xùn)產(chǎn)生于“獄卒”的持續(xù)監(jiān)視壓力而形成的自我監(jiān)禁和監(jiān)督。然而,現(xiàn)代數(shù)字技術(shù)產(chǎn)生的“監(jiān)視”幾乎是不可察覺的,又何談“監(jiān)視”產(chǎn)生的壓力而形成自我規(guī)訓(xùn)呢?與福柯的“空間規(guī)訓(xùn)思想”不同,現(xiàn)代數(shù)字技術(shù)的規(guī)訓(xùn)機制依賴于算法的自動化決策,即算法自動運算的結(jié)果有意或無意地改變了個體行為,并生產(chǎn)出“無意識的個體”或依附于技術(shù)的“馴服個體”。數(shù)字經(jīng)濟的核心要素是“預(yù)測未來行為”,即通過對數(shù)據(jù)的運算和分析,算法不僅勾畫出個人的“圖像”,而且可以預(yù)測個人的“未來行為”,進(jìn)而改變個人的實際行為。例如,軟件通過對個人信息的識別、監(jiān)控、分析和評估,刻畫出個體所處的階層位置,判斷其消費能力,進(jìn)而推送符合用戶偏好的商品,往往用戶偏向于購買算法系統(tǒng)推薦的商品,因為這是系統(tǒng)在核算個人傾向的基礎(chǔ)上推送的結(jié)果。換言之,算法比我們自己還了解我們“自己”。
算法自動運算制造了“個體臣服于技術(shù)”的陷阱,規(guī)訓(xùn)技術(shù)由此形成。一方面,方便高效的自動化決策代替并優(yōu)化了人們的思考過程,使得人們更傾向于相信自動化的決策結(jié)果。久而久之,技術(shù)理性將逐漸取代人的思維能力,個體失去自我選擇的能力。另一方面,人們相信科學(xué)計算高于主觀判斷。基于算法的分析和計算,個人的主體性被重新構(gòu)建,從自決主體轉(zhuǎn)變?yōu)橐蕾嚰夹g(shù)系統(tǒng)的“無意識”主體。概言之,由數(shù)據(jù)和算法驅(qū)動的社會有別于??滤f的“監(jiān)視社會”,巴特利(Bartley)將其稱為“數(shù)字監(jiān)視社會”。[15]在數(shù)字監(jiān)視社會中,人們的日常生活被信息技術(shù)實時監(jiān)視,并被嵌入于由技術(shù)理性所構(gòu)成的算法權(quán)力體系之中。
在??碌恼撌鲋校O(jiān)視是構(gòu)成微觀權(quán)力體系的關(guān)鍵要素,目的是實現(xiàn)“隱秘權(quán)力”的滲透,使民眾成為“馴服的身體”。而在數(shù)字監(jiān)視社會中,監(jiān)視以掠奪個人信息為基礎(chǔ),以算法運算為核心,意在預(yù)測未來行為,企圖改變個人的實際行為,使個體成為臣服于技術(shù)理性的“順從身體”,造成了隱私透明化、權(quán)力兩極化和社會原子化的后果。
數(shù)字資本對個人數(shù)據(jù)的監(jiān)視導(dǎo)致大眾的信息被肆意侵犯和濫用。一方面,“數(shù)字監(jiān)視經(jīng)濟”的運作使數(shù)據(jù)成為數(shù)字企業(yè)的重要資產(chǎn)。資本依賴于用戶信息的收集、整合與分析,從而實現(xiàn)資本增值。這一商業(yè)邏輯決定了資本只會變本加厲地大肆侵占和掠奪個人信息,進(jìn)而售賣個人信息以獲取利潤。另一方面,盡管技術(shù)治理在推動犯罪治理、社會治理創(chuàng)新等方面有顯著作用,但基于數(shù)據(jù)監(jiān)視的技術(shù)治理同樣使人們陷入信息泄露的巨大風(fēng)險中。2013年6月,斯諾登首次披露了西方國家基于國家安全考慮對普通用戶的社交活動的實時跟蹤和分析,臉書、蘋果、微軟等多個網(wǎng)絡(luò)公司均卷入其中。
從個人信息保護(hù)方面看,現(xiàn)代人追求公共領(lǐng)域與私人領(lǐng)域的分離,渴望隱私被保護(hù),但是在數(shù)字歡愉的今天,他們又急切地想要分享個人生活,這反而加劇了信息泄露,例如微信朋友圈、QQ空間動態(tài)等。人們廣泛參與到一場數(shù)字自由的盛世狂歡之中,而資本則通過“偽自愿”的方式獲取個人信息,即用戶使用某一網(wǎng)站或軟件被默認(rèn)為個人信息可以被監(jiān)視或挖掘,而用戶卻不知情或沒有意識到監(jiān)視正在發(fā)生。
從個人的心理角度講,隨著技術(shù)霸權(quán)和網(wǎng)絡(luò)持續(xù)的信息掠奪,用戶可能出于無奈或不知情而部分放棄對隱私的保護(hù),從而產(chǎn)生“隱私倦怠”或“隱私犬儒”的心理。[16]當(dāng)隱私保護(hù)成為一種奢望,漠不關(guān)心或視而不見的心理會使人們最終放棄對隱私的保護(hù)。這實際上鼓勵了數(shù)字資本的監(jiān)視與掠奪,加劇了隱私透明化。
數(shù)字化塑造了新的“數(shù)字鴻溝”。數(shù)字鴻溝指的是信息技術(shù)在使用者和未使用者之間的信息落差與不均衡現(xiàn)象。[17]傳統(tǒng)的數(shù)字鴻溝是橫向數(shù)字鴻溝,指的是區(qū)域性的信息落差和不均衡。而數(shù)字化時代的鴻溝多是縱向的,指的是隨著數(shù)字技術(shù)的普及在不同群體之間存在的信息落差和不均衡。[18]縱向數(shù)字鴻溝體現(xiàn)在兩個方面:一是數(shù)據(jù)占有的不平等。隨著數(shù)字化的發(fā)展,互聯(lián)網(wǎng)巨頭(如臉書、谷歌、蘋果、微軟等)掌握著絕大多數(shù)人的數(shù)據(jù),而用戶被排除在外。[19]二是技術(shù)壁壘。技術(shù)掌握在資本與代碼控制者手中。普通民眾僅是數(shù)字軟件的使用者,或者是被數(shù)字技術(shù)免費獲取數(shù)據(jù)的工具人。隨著數(shù)字化的發(fā)展,縱向的數(shù)字鴻溝將會持續(xù)擴大,逐漸呈現(xiàn)為二元對立的局面,即一端是擁有數(shù)據(jù)和技術(shù)的互聯(lián)網(wǎng)巨頭和代碼控制者,另一端是被軟件和技術(shù)控制的普羅大眾。
數(shù)字鴻溝的擴大意味著權(quán)力的兩極分化,即權(quán)力越來越集中在少數(shù)能夠獲取、分析和提取數(shù)據(jù)的人手中。[20]如同??滤f的“瞭望塔”與“囚牢”之間鮮明的對立一樣,兩級分化的一方是掌握監(jiān)視權(quán)力的少數(shù)派,通過控制普通用戶的數(shù)據(jù),引導(dǎo)他們的日常消費、生產(chǎn)和生活行為,另一方是被監(jiān)視和控制的大多數(shù)“順從的身體”?;ヂ?lián)網(wǎng)巨頭作為“瞭望塔”中心,通過掌握大量的數(shù)據(jù)和先進(jìn)的數(shù)字技術(shù)而擁有權(quán)力,外繞其四周的是無數(shù)如提線木偶的網(wǎng)民。然而,與??滤f的“獄卒”與“囚犯”可見的、透明的直接對立不同,技術(shù)掌握者和普通用戶之間并無顯性的對立,他們出現(xiàn)在互聯(lián)網(wǎng)屏幕的“這邊”與“那邊”,虛擬的網(wǎng)絡(luò)鏈接模糊并掩蓋了這種權(quán)力的兩極化。并且,數(shù)字監(jiān)視的規(guī)訓(xùn)技術(shù)不僅僅是經(jīng)濟領(lǐng)域的事情,它可能拓展為全社會的權(quán)力控制機制,推動社會走向“數(shù)字威權(quán)體制”或“數(shù)字帝國主義”。
在數(shù)字監(jiān)視的操控下,人與人的關(guān)聯(lián)方式發(fā)生了顯著的變化。過去,人們之間的交流是一種基于自我主體性的情感關(guān)聯(lián),并逐步構(gòu)成了鮮活而緊密的社群,社會因此呈現(xiàn)出高度整合狀態(tài)。在數(shù)字化時代,人們變成了“數(shù)字人”。個人的主體性被數(shù)字技術(shù)剝離,人變成了數(shù)據(jù)海洋中的一個符號、一個數(shù)字,甚至是電腦圖像中的一個點。當(dāng)人變成數(shù)據(jù)后,就被數(shù)字技術(shù)勾畫出“個人圖像”(被計算后的個人偏好),從而被有針對性地“安排”(預(yù)測行為),例如推送符合購買傾向的商品。經(jīng)過數(shù)字技術(shù)的分析和計算,人與人之間的鏈接變成了“人—網(wǎng)絡(luò)”或“人—網(wǎng)絡(luò)—人”的鏈接方式。例如相親不再需要媒人,而由軟件自動為用戶推送匹配的相親對象。在此過程中,人與人之間的互動或關(guān)聯(lián)方式被網(wǎng)絡(luò)修改,人與人之間的情感鏈接變成了人與技術(shù)理性的鏈接。相應(yīng)地,傳統(tǒng)的人際關(guān)系的情感鏈接解組,隨之社會開始解組,社會呈現(xiàn)出原子化的趨勢。
社會原子化意味著對社會整合狀態(tài)的否定。一方面,數(shù)字化時代的來臨顛覆了傳統(tǒng)的生活方式、工作方式以及組織方式。取而代之的是,互聯(lián)網(wǎng)整合了人們的生活與生產(chǎn),例如,基于網(wǎng)絡(luò)的平臺經(jīng)濟重組了人們的衣食住行。個體生活不再直接依賴于具體事物,而是虛擬的網(wǎng)絡(luò)。這種變化使得個體不再需要線下的社交聯(lián)系而仍能維持日常生活。在這種情況下,人們少有日常接觸的熟人,也不相信陌生人,卻對互聯(lián)網(wǎng)平臺別無選擇地篤信不已。另一方面,數(shù)字化消解了社會整合,使得人與人之間的情感連接更加薄弱?!安辉趫觥钡幕与y以增加人與人之間的情感,反而使得人們的集體認(rèn)同和身份認(rèn)同下降,走向認(rèn)同碎片化。盡管技術(shù)所提供的個性化服務(wù)滿足了多樣化的人類需求,但也使得個體之間無需集體協(xié)作即可完成復(fù)雜任務(wù)。因為數(shù)字化平臺智能地、高效地連接與調(diào)節(jié)了各種生活和生產(chǎn)任務(wù)的分配,過去人們之間的協(xié)同配合完全被平臺或算法所取代。簡言之,在數(shù)據(jù)提取、分析和預(yù)測的過程中,被數(shù)據(jù)操控的個體依附于網(wǎng)絡(luò)即可滿足個體需求,進(jìn)而逐漸疏遠(yuǎn)社群生活。
如何突破“數(shù)字監(jiān)視社會”?自從斯諾登揭露數(shù)據(jù)化監(jiān)視后,引起了社會各界對監(jiān)視的反抗。本文認(rèn)為解決數(shù)字技術(shù)的監(jiān)視、避免技術(shù)理性無限擴張的問題不能從單一方面入手,而是需要多方面的共同協(xié)作,特別是法律法規(guī)的完善和個人主體性的構(gòu)建。
面對數(shù)字企業(yè)對普羅大眾的隨意監(jiān)視和信息掠奪,當(dāng)務(wù)之急是完善數(shù)據(jù)安全的法律法規(guī),為用戶提供合法權(quán)益保障。目前,我國已經(jīng)制定了數(shù)據(jù)保護(hù)相關(guān)的法律法規(guī)。如《信息網(wǎng)絡(luò)傳播權(quán)保護(hù)條例》《中華人民共和國網(wǎng)絡(luò)安全法》《電信和互聯(lián)網(wǎng)用戶個人信息保護(hù)規(guī)定》《中華人民共和國數(shù)據(jù)安全法》等,這些法律和條例規(guī)范了網(wǎng)絡(luò)運行安全、監(jiān)測預(yù)警,以及法律責(zé)任等相關(guān)內(nèi)容,促進(jìn)了個人信息安全保護(hù),在一定程度上有效預(yù)防了個人信息泄露。2021年11月1日,我國首部《個人信息保護(hù)法》正式實施。該法案明確規(guī)范了個人信息獲取和處理方式,尤其是針對“大數(shù)據(jù)殺熟”、企業(yè)對個人信息的過度收集與泄露問題,在法律層面對個人信息起到了規(guī)范和保護(hù)作用。
同時,由于持續(xù)的、“偽自愿”的監(jiān)視是數(shù)字經(jīng)濟與技術(shù)的邏輯起點,逃脫數(shù)字監(jiān)視以保護(hù)數(shù)據(jù)安全的核心在于明確的數(shù)據(jù)權(quán)利,使得數(shù)字監(jiān)視在用戶“知情同意”的前提下實施。國家還需要從以下幾個方面明確數(shù)據(jù)權(quán)利:第一,從法律層面明確數(shù)據(jù)的所有權(quán)。信息數(shù)據(jù)不同于傳統(tǒng)的數(shù)據(jù),遺留在網(wǎng)絡(luò)上的數(shù)據(jù)需要技術(shù)收集方可獲得,而用戶往往不具備收集并保護(hù)這些信息的能力?;ヂ?lián)網(wǎng)公司默認(rèn),當(dāng)用戶被“強制性同意”后,它們就擁有了獲取數(shù)據(jù)的權(quán)利,以及數(shù)據(jù)的所有權(quán)。因此,保護(hù)個人信息的第一步在于明確用戶遺留在互聯(lián)網(wǎng)上的信息所有權(quán)。第二,完善數(shù)據(jù)訪問權(quán)的法律法規(guī)。目前,任意具備訪問能力的個人和企業(yè)均可無條件地訪問用戶信息。政府應(yīng)完善數(shù)據(jù)訪問的相關(guān)法律法規(guī),確保企業(yè)和個人在合理合法的前提下訪問個人數(shù)據(jù)。第三,規(guī)范數(shù)據(jù)使用的相關(guān)法律法規(guī)。當(dāng)下,互聯(lián)網(wǎng)公司隨意挖掘數(shù)據(jù)和出售未經(jīng)授權(quán)數(shù)據(jù)的事件屢見不鮮。因此,政府應(yīng)加強監(jiān)管數(shù)字企業(yè)對數(shù)據(jù)的使用,包括規(guī)范企業(yè)買賣個人數(shù)據(jù)、共享第三方用戶的數(shù)據(jù)等。
在數(shù)字時代,人們擁抱數(shù)字技術(shù)的客觀性、科學(xué)性、高效性和有效性,但是數(shù)字技術(shù)的理性計算邏輯正在逐漸毀滅人的主體意識,將個體鎖定于“硅籠”之中,使其成為“馴服的個體”。要擺脫技術(shù)理性對個體的持續(xù)異化,就必須培養(yǎng)自我的主體意識,重構(gòu)個人主體性。
首先,是建立參與式的用戶體驗、知情同意與反饋機制,以提高個人的主體性。數(shù)字技術(shù)將個體視為可以監(jiān)視和獲取數(shù)據(jù)的被動“數(shù)字人”,將個人完全排斥在數(shù)字技術(shù)之外。規(guī)避技術(shù)對個人的排斥,需要數(shù)字企業(yè)或平臺公司研發(fā)用戶參與式的技術(shù)系統(tǒng)。其一,開發(fā)數(shù)據(jù)訪問技術(shù),建立用戶知情同意技術(shù)系統(tǒng)。在用戶“知情同意”而非“強制性同意”的前提下,合理合法地訪問用戶數(shù)據(jù)。其二,研發(fā)用戶體驗與反饋的技術(shù)系統(tǒng),構(gòu)建用戶與企業(yè)之間雙向互動的平臺。數(shù)字技術(shù)的核心應(yīng)以人為本,需建立用戶或社會公眾參與式的互動氛圍。比如,個人可以根據(jù)智能手表或自我追蹤技術(shù)所反饋的數(shù)據(jù)規(guī)劃個人的飲食、運動與生活習(xí)慣,形成了包括“救贖自我”“忠誠者”“創(chuàng)新者”和“獲獎?wù)摺彼姆N參與式的主體性。[21]
其次,應(yīng)對個體無意識,需要增強個人的自律意識。在數(shù)字化時代,自律意識是抵制信息轟炸、保持自我主體性的重要品質(zhì)。高水平的自律意識能夠促使個體堅守精神世界和道德價值。培養(yǎng)自律意識的關(guān)鍵在兩個方面:一是提高自我的反思性能力。人類生活的真正價值在于對自我生活的批判和“反觀自我”的能力。培養(yǎng)反思性需要個體時刻關(guān)注自我行為,并以此為基礎(chǔ)思考行為和數(shù)字技術(shù)運作的合理性與不合理性。比如,反思同質(zhì)化的信息洪流、反思技術(shù)理性的自動化決策、反思自我對數(shù)字技術(shù)的盲目追隨。二是提高個人的自我判斷能力。雖然數(shù)字技術(shù)能做出決策或“最佳規(guī)劃”,但其關(guān)鍵在于個體是否遵從人工智能的規(guī)劃。具有高度自我判斷能力的個體能夠因具體情況而定,而非完全遵從技術(shù)運算的結(jié)果。保持自我的判斷能力是抵制技術(shù)思維取代人的思維的重要方法,其核心在于培養(yǎng)個體甄別、選擇和整合信息的能力,充分認(rèn)識信息背后的價值牢籠,在數(shù)字洪流中保持自我清醒。例如,當(dāng)購物平臺根據(jù)個體偏好推送同質(zhì)性的商品時,個體需要甄別其內(nèi)在商業(yè)邏輯,以鑒別和反抗技術(shù)理性。
此外,重建個人主體性還需要個體建構(gòu)現(xiàn)實社會的情感鏈接。當(dāng)下,人與人之間的互動和情感鏈接被人與網(wǎng)絡(luò)的機械鏈接所取代。重構(gòu)現(xiàn)實社會的情感鏈接是保持自我判斷能力、建構(gòu)社會整合、阻止社會原子化趨勢的重要措施。建構(gòu)現(xiàn)實社會的情感鏈接,需要人們注重人與人之間的情感交流和互動。畢竟,網(wǎng)絡(luò)只是為我們提供了一種方便快捷的生活方式,或者一種中介,并不能取代現(xiàn)實生活世界。
本文探討了“數(shù)字監(jiān)視社會”的概念,它是指日常生活被數(shù)字技術(shù)實時全面監(jiān)控,并被困于算法權(quán)力所主導(dǎo)的“硅籠”之中,個體被迫臣服于以技術(shù)理性為基礎(chǔ)的算法自動化決策,從而失去自我選擇和決策的能力,進(jìn)而形成對個體的規(guī)訓(xùn)。??抡J(rèn)為,圓形監(jiān)獄的設(shè)計重在監(jiān)視,不在懲罰,監(jiān)視產(chǎn)生了權(quán)力,并形成一種規(guī)訓(xùn)機制。[22]這一監(jiān)視機制仍然適用于數(shù)字化時代的今天,即通過數(shù)字技術(shù)監(jiān)視和追蹤個體的生活軌跡生成原始數(shù)據(jù),并經(jīng)過勾畫個人圖像,自動化地預(yù)測或塑造個人偏好,進(jìn)而實現(xiàn)規(guī)訓(xùn)或支配個體。因此,當(dāng)下的關(guān)鍵問題在于如何應(yīng)對編碼精英對數(shù)碼大眾的全面監(jiān)視、數(shù)據(jù)提取和應(yīng)用推廣。這需要國家不斷完善對數(shù)據(jù)采集和使用的規(guī)制。此外,還需要重構(gòu)個人主體性,培養(yǎng)個人自律意識,建立用戶體驗、知情同意與反饋機制。
從宏觀層面看,數(shù)字技術(shù)將帶我們走向何方依然是一個謎題。??怂怪赋觯?1世紀(jì)正處于歷史的岔路口,“我們可能走向超級新自由主義資本主義、獨裁資本主義、法西斯主義,在一場核世界大戰(zhàn)中徹底毀滅地球和人類,或是替代上述預(yù)案,走向共同體社會”。[23]馬克思認(rèn)為監(jiān)視是一種統(tǒng)治的政治過程,同時蘊含著反監(jiān)視的政治和文化潛力,對居于統(tǒng)治地位的監(jiān)視者的監(jiān)視可以是政治斗爭中的“反權(quán)力”。[24]當(dāng)下,我們不應(yīng)該盲目地追隨大數(shù)據(jù)和算法的腳步,對其進(jìn)行批判反思才能使社會走得更加穩(wěn)健和從容。一方面,反思數(shù)字技術(shù)的過度控制和壟斷,避免走向“數(shù)字威權(quán)體制”或“數(shù)字帝國主義”;另一方面,反思技術(shù)理性的意識形態(tài)風(fēng)險,避免消解人的主體性和社會性。