(安慶師范大學,安徽安慶 246133)

0 緒論

想要探討算法的“控制與對抗”問題,首先要考慮到,人作為生命個體,是交織在社會生產(chǎn)和控制中的物質存在,同時是具有自我意識和反抗精神的生命個體[1]。“控制與對抗”這一話題貫穿人類文明發(fā)展史,到了算法時代,“控制與對抗”變的更加隱性和復雜化。算法的控制屬性被技術的先進與相對科學所包裹,偽裝成一個中立的存在,面對來勢洶洶的算法革命,人的對抗具有無意識、偏退讓和曲線式的特點,更直觀的說,所謂對抗只不過是在算法漏洞中的妥協(xié)共存。

1 外賣平臺的算法控制

數(shù)字經(jīng)濟時代,算法從“幕后”轉移至“前臺”,成為聯(lián)結平臺、生產(chǎn)者、消費者的中介。對于需要輸出實體食物和提供送餐上門服務的外賣平臺來說,商家如何將外賣送至顧客手中是不可忽視的一環(huán)。因此,資本強行介入并創(chuàng)造了一個新的群體—騎手,并用經(jīng)濟利益拉攏,用算法去控制。而對需要依靠平臺和算法的騎手們而言,作為資本產(chǎn)物的算法天生就帶有剝削屬性,而這種剝削和控制,在騎手身上運用到極致。

算法對騎手的控制是存在一定邏輯的,會根據(jù)騎手個體所處狀態(tài)調整控制方式。在騎手收到配送訂單前,算法會收集顧客的畫像和位置等狀態(tài)信息,并尋找附近騎手的信息與之匹配。外賣平臺中時效性是考量服務的一個關鍵指標,這些前期的信息收集會直接影響整個送餐流程[1]。因此,從接單-取餐-配送-完成,騎手的每一步操作都要在規(guī)定的時間內完成,并且接受算法的監(jiān)督和提醒,并且算法還會將騎手實時狀態(tài)傳遞給顧客,顧客可以通過軟件實時掌控外賣的走向[2]。這就產(chǎn)生了一個很奇怪的現(xiàn)象,作為工具的算法成為了行為的指揮者,而作為主體的騎手卻淪落成算法的執(zhí)行工具,人的主觀能動性在此時轉化為“跑得再快一點”的斯德哥爾摩效應式的算法規(guī)訓。

算法在人類行為的不同階段有著不同的表征,因此需要定位和定量分析,定位是指算法處于什么位置,定量是指在該位置算法最合適的參與度是多少。

2 定位與定量

2.1 第一階段:信息收集與整合

在這個階段算法進行單純的收集和整合信息,完全遵循準確的代碼邏輯,例如氣象信息的收集處理;工商業(yè)領域的信息收集(生產(chǎn)要素、消費者需求、市場導向等);社會調查領域的信息收集(人口普查、戶籍信息數(shù)字化等)等。

從算法在信息收集和整合的合法性出發(fā),算法投放者如何使用用戶個人信息;是否能夠保護用戶隱私數(shù)據(jù)不被泄露和濫用;信息整合的過程是否公平等,都是需要關注的問題。合法性問題在這一階段是主要矛盾,是潛在的、由實踐延伸出來的、很難去界定的,其產(chǎn)生危害的時機也不在這一階段。在這一階段算法有產(chǎn)生風險的因,但是產(chǎn)生的果在其他階段,例如抖音推薦算法在后臺收集作品信息并標簽化,與相同標簽的用戶匹配,然后推送給用戶[3],這其中帶來的信息的碎片化、受眾注意力受控、選擇權缺失等問題,其實是在第一階段完成后才顯現(xiàn)出來的。換句話說,第一階段只存在于系統(tǒng)后臺,是獨立的、僅有算法的場景,沒有與實際的人相聯(lián)結。

2.2 第二階段:判斷與決策

在第二階段,是對第一階段收集整合出來的信息進行處理的過程,包括判斷正確性、可行性等多方面因素,提供指揮實踐的決策支持[4]。算法參與判斷與決策的實體案例比比皆是,如司法領域的概率建模和算法裁決、醫(yī)療領域的智能診療等。在這個階段,算法與人的實踐僅一墻之隔,算法判斷決策后,人就會根據(jù)決策內容進行實踐來現(xiàn)實化算法決策。由于算法的技術正確的特點,判斷與決策的邏輯性毋庸質疑,唯一需要考慮的是,在這個過程中算法的考量是否人性化,以及邏輯正確與人性化之間的平衡問題。

此時算法針對的是信息的判斷與決策,這就開始波及到人的決策權,當涉及權力之爭時,就需要萬般謹慎了。算法天然帶有“技術正確”的邏輯話語,所以在判斷與決策時不可否認的比人類更加理性和正確,但是算法終究是機器語言,沒有人性思維。因此需要在算法的編寫中加入感性思維,同時要避免算法與某一個人或某一群人封閉接觸。在敞開系統(tǒng)的同時,還要加入一個獨立于系統(tǒng)之外的看門人來監(jiān)督算法決策過程,在對算法決策有異議的情況下,這個看門人可以作為公訴方在合法途徑下提出申訴。歐盟《通用數(shù)據(jù)保護條例》第71條規(guī)定:“數(shù)據(jù)主體有權獲得人工干預,表達其觀點,獲得針對自動化決策的解釋并提出異議的權利。”[5]這里的請求人工干預的主體必須是獨立的看門人,由他替當事人提出異議,這個看門人的現(xiàn)實身份可能是學者,老師,律師,專家等沒有事先出現(xiàn)在系統(tǒng)里的群體?？撮T人的角色不是固定的,具有對抗意識的與算法互動的當事人也可以成為看門人,但是從心理學和社會學考量,這些人即使成為看門人,也無法否決不符合他們利益的算法,因為算法損害的只是他們一小部分權利,而在全局上他們仍然需要依靠算法達成目的,除非當事人能夠徹底脫離算法控制,實現(xiàn)系統(tǒng)突圍成為獨立于系統(tǒng)外的人。

2.3 第三階段:執(zhí)行

執(zhí)行過程是一個明確的概念,是前面兩個階段的可視化操作過程。當?shù)诙A段算法決策的合法性通過時,在算法與人互動的場景下,執(zhí)行過程中人所受到的算法控制是最顯著的。例如司法領域算法裁決后就需要執(zhí)行刑罰,這個執(zhí)行過程變相來說就是算法對人的控制,即使這種控制披著法律規(guī)則的外衣;再者,外賣平臺算法根據(jù)騎手的狀態(tài)數(shù)據(jù)(位置、速度、運載能力等因素)實時分配訂單并規(guī)定每一個步驟的用時[6],在這種勞動控制中,算法仿佛扮演了一個監(jiān)工的角色,騎手受制于工資報酬不得不向算法低頭,接受其決策并安排實踐,這種俯首稱臣般的“逆算法”仿佛是算法時代的犬儒主義。

此時算法針對的是人執(zhí)行決策的實踐行為,決策對實踐起指導作用,但是決策也分正確與否。例如礦難問題中,200名礦工,卻只有10人份的食物和水,地面的救援人員紛紛獻計,如“節(jié)約資源等待救援”“按年齡分配資源”等[7],但是當算法出來決策時,其為了達到最大存活人數(shù)這個系統(tǒng)目標,提供了食人的方案,顯然這樣的輸出結果是錯誤、不可執(zhí)行的。

2.4 第四階段:反饋

從控制論的角度出發(fā),本文所設計的反饋階段可以定義為“為了改善某個或某些受控對象的功能或發(fā)展,需要獲得并使用信息,以這種信息為基礎而進行通信并作用于對象[8]”。反饋是控制論的基本概念,在這個過程中,將系統(tǒng)的輸出返回到輸入端并以某種方式改變輸入,進而影響系統(tǒng)功能。此時,控制論的”控制“并不是指算法對人的控制,而是控制算法,并且反饋在這里,可以引申為“申訴”、“投訴”、甚至“對抗”也未嘗不可。

反饋階段的核心任務是設計一個目標差不斷減少的過程,通過系統(tǒng)不斷把自己控制后果與目標作比較,使得目標差在一次一次控制中慢慢減少,最后達到控制算法的目的。以外賣平臺算法對騎手的控制為例,送餐時間的不斷縮短是算法對騎手的一種規(guī)訓,算法要求騎手達到更快的送餐速度,但和騎手的能力、意愿相沖突,這時候就需要加入反饋階段,設計一個獨立的算法,來控制算法與人的沖突,使得沖突在一次又一次控制中慢慢減少,最終實現(xiàn)對算法的規(guī)訓。

此階段中,人有權力也有途徑,將在算法甲指導的實踐過程中的不合理之處反饋給算法乙,但為了公平和防止有人鉆系統(tǒng)漏洞,人在反饋過程中只能提供是與否的信息供算法乙參考,算法乙通過多維度求證人所提供信息的可信度(例如尋找更多的反饋案例、人在算法甲指導下實踐行為以及實踐行為所處現(xiàn)實環(huán)境等),如果信息屬實將會在下一次實踐中減少算法甲不合理之處的生成因素;如果人依然反饋報錯,算法乙則重復通過相同的求證過程來改進算法甲,直至人不反饋或算法乙的求證過程得出人提供信息可信度低于某個限度,結束反饋過程。這個時候,算法在人通過不斷地實踐“試錯”中完成了“算法再造”。

3 結論

隨著算法在一段行為中的移動,或者說是算法在信息與人之間移動,當算法越靠近信息,所占比例可以越大;當算法越靠近人,所占比例應當逐漸減小。算法很少參與到每一個單一環(huán)節(jié),所以算法的應用占比在某一個具體行為中,應該隨著實踐的推進呈現(xiàn)曲線下降的變化趨勢。

算法的控制與對抗,其對象都是人類主體。算法控制試圖將人機械化,導致人的尊嚴和價值的降低,過分講求以算法為中心,極大的損害了人的主體性地位,過分注重技術,忽視人的內在潛能,否認了人的積極主動性和創(chuàng)造性,這是人的主體性地位所不容的。人本位關心的問題是人能否有尊嚴的活著并獲得發(fā)展。馬斯洛認為,人的終極需求到最后就是基本需求。因此算法對人基本需求的控制,必然會導致人的對抗,隨著矛盾的擴大和升級,權力與利益構成錯綜復雜,最后的沖突與對立將不可調和。

就人本位的思路,提出循序漸進地緩解人和算法之間矛盾的措施。首先,要重視人與算法的對抗,并且?guī)椭嗽诤锨楹戏ǖ南薅葍葢?zhàn)勝算法,這是對普通人覺醒對抗未知存在萌芽的保護;其次,要要實現(xiàn)算法和人的角色互換。算法是一個中介物,但是只是人與實踐的中介,而不是人與人的中介,

在人與實踐中算法充當?shù)氖枪ぞ叩淖饔?而在人與人的互動中算法更多的是具備了教鞭的屬性,所以我在下圖中設計了一套理想下的算法中介規(guī)則,人可以實現(xiàn)對算法的按需使用和主動獲取,與傳統(tǒng)的算法中介規(guī)則的強制完成和被動接受相比,理性模式更能體現(xiàn)人的主體地位;最后,要將人與算法的對話,轉變?yōu)槿伺c算法背后的人對話,有利于緩解社會矛盾和重構階級關系。

重構人本位,是對算法超然地位的打壓。算法天生的帶有類人化的特征,倘若給算法裝上四肢與軀干就能成為一個人,當然現(xiàn)在的低級智能的算法還做不到,但是隨著技術的不斷革新,總有一天會成為新的社會問題。從一開始就強調人的主體地位,在算法的代碼中就加入不能逾越人之上的規(guī)則限制,提前就為算法系上緊箍咒。就如我們的智慧富有遠見的祖先,他們在和狼的相處中,不斷地用棍棒規(guī)訓以此強調人的主體地位,久而久之,被馴服的狼進化成狗,成為人類看家的好伙伴。對于算法,人也要持”棍棒“以馴服,使其成為無害而有益的存在。

只有構建人與算法和諧相處的新時代,才能讓人類與機器算法實現(xiàn)共同進化、共同發(fā)展,使算法豐富人類文明的演進歷程[9]。同時不能忽視算法所植根的社會環(huán)境,要結合中國的國情,在編寫、投放、使用、監(jiān)督等算法參與環(huán)節(jié)融入適合本國道德、人文和法律的元素,將算法與中國特色社會主義核心價值觀聯(lián)系起來,用正確的思想引導算法的編寫者,投放者以及使用者。使其發(fā)揮積極作用以促進社會發(fā)展和文明進步。