隨著智能社會(huì)的發(fā)展，數(shù)據(jù)智能的應(yīng)用日益廣泛，其基礎(chǔ)是能夠?qū)?shù)據(jù)進(jìn)行程序化、自動(dòng)化處理而獲得知識(shí)與做出決策的智能算法。最常見(jiàn)的智能算法是內(nèi)容推薦算法，而內(nèi)容推薦的基礎(chǔ)是通過(guò)數(shù)據(jù)的收集和挖掘，對(duì)事物和人加以區(qū)分。

區(qū)分事物最基本的方法是樹(shù)狀分類(lèi)和標(biāo)注。樹(shù)狀分類(lèi)一般是建立在公共與專(zhuān)業(yè)知識(shí)之上的樹(shù)狀劃分系統(tǒng)，具有靜態(tài)、結(jié)構(gòu)化和專(zhuān)業(yè)性等特征，如商品類(lèi)型、教育背景、職稱(chēng)職位等。但一般而言，不論從自然科學(xué)還是從社會(huì)科學(xué)知識(shí)出發(fā)，對(duì)各種自然和社會(huì)事物的樹(shù)狀分類(lèi)在邏輯上很難完備。以生物學(xué)中的物種分類(lèi)為例，很多動(dòng)植物的分類(lèi)存在歧義。

標(biāo)注又稱(chēng)大眾分類(lèi)法，源于人們?cè)谌粘Ｉ钪羞\(yùn)用某一屬性或特征，對(duì)人和事物做出的臨時(shí)性區(qū)分，如“開(kāi)寶馬車(chē)的”“背ＬＶ 包的”等。標(biāo)注方法往往是經(jīng)驗(yàn)性的，取決于動(dòng)態(tài)的場(chǎng)景。故可以說(shuō)標(biāo)注是動(dòng)態(tài)的分類(lèi)，而分類(lèi)是靜態(tài)的標(biāo)簽。

隨著大數(shù)據(jù)的出現(xiàn)，大量的和多維度的各種數(shù)據(jù)都可以以很低的成本用作標(biāo)注，這使得數(shù)據(jù)的擁有者可以利用由大量數(shù)據(jù)標(biāo)注組成的標(biāo)簽體系描述事物與人。在內(nèi)容推薦等商業(yè)智能的應(yīng)用中，標(biāo)注所構(gòu)建的標(biāo)簽體系既可用于描繪產(chǎn)品和服務(wù)等內(nèi)容屬性，也可用于描述用戶(hù)即所謂的用戶(hù)畫(huà)像。用于用戶(hù)畫(huà)像的數(shù)據(jù)不僅包括性別、年齡、住址、教育背景等結(jié)構(gòu)化的靜態(tài)數(shù)據(jù)，還包括位置、搜索、點(diǎn)贊、評(píng)論、分享、關(guān)注、播放時(shí)長(zhǎng)等體現(xiàn)用戶(hù)行為特征的動(dòng)態(tài)數(shù)據(jù)。

值得指出的是，盡管各種智能算法貌似客觀，但不論是分類(lèi)還是標(biāo)注都會(huì)受到算法設(shè)計(jì)和數(shù)據(jù)分析的主導(dǎo)者的價(jià)值取向的影響，即便是所謂用數(shù)據(jù)說(shuō)話(huà)也往往負(fù)載著相關(guān)主體的價(jià)值選擇。在各種形式的陳述和表達(dá)中，語(yǔ)詞和數(shù)據(jù)的選取往往帶有相關(guān)主體的價(jià)值預(yù)設(shè)和偏見(jiàn)。在餐館的菜譜上，為什么商家稱(chēng)水煮魚(yú)為水煮魚(yú)而不是水煮豆芽菜或更客觀的水煮豆芽菜和魚(yú)？ 反觀數(shù)據(jù)標(biāo)注及由其所形成的用戶(hù)畫(huà)像，數(shù)據(jù)智能的分析者“斷數(shù)識(shí)人”或?qū)θ诉M(jìn)行分類(lèi)，顯然服務(wù)于其特定目的。

評(píng)價(jià)型社會(huì)與智能化生活的發(fā)展，將使得各種數(shù)據(jù)集與數(shù)據(jù)畫(huà)像成為人的第二身體，既是在生命意義上的，也是在社會(huì)意義上的。通過(guò)各種生命和行為數(shù)據(jù)的精確采集、建模與分析，每一個(gè)個(gè)體可以在個(gè)人層面上得到刻畫(huà)和定義，個(gè)體由此投射為一種虛擬身體或數(shù)據(jù)孿生。也就是說(shuō)，人們可以根據(jù)人的行為數(shù)據(jù)而不是人的行為本身研究其特征。

隨著各種人的行為數(shù)據(jù)的累積，可以運(yùn)用相關(guān)性發(fā)現(xiàn)等數(shù)據(jù)智能方法，揭示出有意義的差異性和相關(guān)性等特征。例如，通過(guò)對(duì)大學(xué)生的飯卡打開(kāi)水的數(shù)據(jù)的分析，可以發(fā)現(xiàn)打開(kāi)水多的學(xué)生成績(jī)好的比較多，很少打開(kāi)水的學(xué)生可能患有孤獨(dú)癥或游戲成癮。

人的數(shù)據(jù)孿生意味著基于數(shù)據(jù)智能的身體既是透明的又必然是共享的。從身體到行為的數(shù)據(jù)化形成了一種由數(shù)據(jù)界定的透明的身體，而要解讀每個(gè)人的透明的身體，必須以數(shù)據(jù)共享為前提。以人的生命醫(yī)學(xué)數(shù)據(jù)為例，只有在既了解每個(gè)個(gè)體的數(shù)據(jù)又掌握了所有個(gè)體的數(shù)據(jù)時(shí)，才可能找到每個(gè)個(gè)體數(shù)據(jù)的確切內(nèi)涵，才能為每個(gè)個(gè)體開(kāi)出特定的治療方案，而這一切沒(méi)有數(shù)據(jù)共享是難以想象的。

從價(jià)值和倫理反思的維度來(lái)看，數(shù)據(jù)畫(huà)像或數(shù)據(jù)孿生非但不能等同于主體，而且在很大程度上是智能算法對(duì)人進(jìn)行非人格化計(jì)算的產(chǎn)物，是一種將人作為計(jì)算與算計(jì)對(duì)象的“數(shù)字種性系統(tǒng)”（Digital Caste System）或“算法分揀程序”。后者使人聯(lián)想到通過(guò)多維數(shù)據(jù)標(biāo)注所形成的人的數(shù)據(jù)畫(huà)像，人如同郵政地址一樣變成了編碼的集合。

通過(guò)智能算法，數(shù)據(jù)智能可以自動(dòng)高效地“斷數(shù)識(shí)人”或?qū)θ诉M(jìn)行分類(lèi)，進(jìn)而對(duì)相關(guān)人群進(jìn)行更具針對(duì)性的內(nèi)容推薦、目標(biāo)管理乃至行為引導(dǎo)與控制。由此，作為智能算法計(jì)算對(duì)象的主體的能動(dòng)性受到了雙重的挑戰(zhàn)。

一方面，智能算法對(duì)主體的數(shù)據(jù)分析僭越了主體的對(duì)其個(gè)體性的認(rèn)同，剝奪了主體的個(gè)體化權(quán)力。為了解釋事物何以成為個(gè)體，法國(guó)當(dāng)代哲學(xué)家吉爾伯特?西蒙棟（Gilbert Simondon）曾提出“個(gè)體化”（Individualization）的概念，即主體可以在各種由人和物構(gòu)成的異質(zhì)網(wǎng)絡(luò)中的角色擔(dān)當(dāng)而成為某種個(gè)體。在不同的個(gè)體化過(guò)程中，主體的能動(dòng)性使其不僅在個(gè)體化過(guò)程中具有一定的主導(dǎo)性，而且這種主導(dǎo)性使得特定的個(gè)體化并不排斥更多個(gè)體化的可能。

反觀基于智能算法的數(shù)據(jù)畫(huà)像，被計(jì)算主體不僅對(duì)其數(shù)據(jù)畫(huà)像或數(shù)據(jù)孿生的內(nèi)容及其所意味的刻板印象一無(wú)所知，更不了解數(shù)據(jù)分析者的意圖以及因此可能受到的行為引導(dǎo)和操控。有鑒數(shù)據(jù)畫(huà)像的過(guò)程中被描繪主體的能動(dòng)性的缺席，數(shù)據(jù)孿生中所寄居的并非被描繪主體的心靈，而是非人格化的“機(jī)器之心”或居于其背后的操控者的他者之心，所以甚至可以說(shuō)，所謂的數(shù)據(jù)孿生實(shí)質(zhì)上是數(shù)據(jù)幽靈或數(shù)據(jù)僵尸。

另一方面，智能算法在精細(xì)的信息顆粒度層面對(duì)主體的數(shù)據(jù)標(biāo)注與畫(huà)像已然將其轉(zhuǎn)化為無(wú)限多維的數(shù)據(jù)集，主體的個(gè)體性隨之被消解為算法上可區(qū)分的特征數(shù)據(jù)。當(dāng)代哲學(xué)家德勒茲（Gilles Deleuze）將此個(gè)體被信息技術(shù)消解的結(jié)果稱(chēng)為“分格”（Dividuals），并將這種基于對(duì)個(gè)體的精細(xì)化信息治理的社會(huì)稱(chēng)為“管控社會(huì)”。在他看來(lái)，在以往的社會(huì)中，盡管在職場(chǎng)、學(xué)校和家庭等具體場(chǎng)所，人們的行為會(huì)因?yàn)槭艿疥P(guān)注而被規(guī)訓(xùn)，但依然存在一些免受管控的空間。而在管控社會(huì)中，管控不再置于具體的場(chǎng)景，而更多地基于由代碼組成的數(shù)字語(yǔ)言——它們不僅決定了人們能否獲得信息，并且使人置身于一種無(wú)處不在的、持續(xù)運(yùn)轉(zhuǎn)的網(wǎng)絡(luò)之中，形同巨大的篩子上排列得錯(cuò)落有致的篩孔。

比利時(shí)媒體理論家安托瓦內(nèi)特?魯夫羅伊（Antoinette Rouvroy）對(duì)德勒茲所預(yù)見(jiàn)的基于數(shù)字實(shí)在論（Digital Realism）和數(shù)據(jù)行為主義（Data-behaviourism）的算法治理術(shù)（Algorithmic Governmentality）進(jìn)行了反思。她指出，在數(shù)據(jù)化的超精致社會(huì)中，新自由主義所謂的方法論的個(gè)人主義已經(jīng)被指數(shù)化所取代，個(gè)體僅僅將其自身視為某種超量化的事物，從其與他人的表現(xiàn)的關(guān)系中界定自身。由此導(dǎo)致的具有顛覆性的問(wèn)題是，一旦這種建立在所謂算法理性之上的治理得逞其志，個(gè)體因而被消解為絕對(duì)客觀，同時(shí)也必然是絕對(duì)獨(dú)斷的數(shù)據(jù)幽靈之后，當(dāng)代社會(huì)基于個(gè)體的權(quán)衡、慎思與協(xié)作的社會(huì)知識(shí)的生產(chǎn)何以可能？

透過(guò)德勒茲對(duì)個(gè)體被消解為分格的管控社會(huì)的預(yù)見(jiàn)及其“實(shí)現(xiàn)”，其對(duì)尼采在《權(quán)力意志》和《道德譜系》中的權(quán)力意志的探討顯得意味深長(zhǎng)。在《尼采與哲學(xué)》一書(shū)中，德勒茲對(duì)尼采的權(quán)力意志作了深入的解讀：力是所能，權(quán)力意志是所愿。權(quán)力意志既存在于能動(dòng)和支配的力中，也存在于反動(dòng)和服從的力中，能動(dòng)力和反動(dòng)力在起源的時(shí)候就存在著區(qū)別并在起源中共存。主動(dòng)追求權(quán)力就是能動(dòng)，能動(dòng)力具有占有、征服和支配等特征，力圖通過(guò)開(kāi)拓環(huán)境來(lái)強(qiáng)加和創(chuàng)造形式，是一種轉(zhuǎn)換的力量或酒神的力量，能動(dòng)力肯定自己和自己的差異，并把差異變?yōu)橄順?lè)與肯定的對(duì)象。反動(dòng)力是否定意志或虛無(wú)主義，它拒絕生命的最基本生存條件，是一種虛無(wú)意志和反生命的意志，反動(dòng)力即便在服從的時(shí)候也局限著能動(dòng)力，將種種限制和不公平的約束強(qiáng)加于能動(dòng)力。

由此，反觀智能治理術(shù)下個(gè)體消解為分格一旦成為一種存在論趨勢(shì)，作為智能算法計(jì)算對(duì)象的主體將不再是能動(dòng)的主體，其個(gè)體性可能為智能算法這種反動(dòng)力所制約和塑造，主體的欲望和意志很可能受制于對(duì)數(shù)據(jù)驅(qū)動(dòng)行為的純粹適應(yīng)。個(gè)體被多維的數(shù)據(jù)分格消解于無(wú)形，遑論作為個(gè)體的主體對(duì)其生活形式的反思平衡或參與審議式對(duì)話(huà)與商談。

面對(duì)個(gè)體被消解為分格的智能治理術(shù)及其反動(dòng)力，必須透過(guò)對(duì)能動(dòng)性的檢視引入一種使得能動(dòng)力得以恢復(fù)的政治倫理策略。如果將智能治理術(shù)對(duì)個(gè)體生命、存在及其能動(dòng)力的限制視為葛蘭西式的霸權(quán)，那么主體在數(shù)據(jù)智能這一生活形式下的政治倫理策略的基本原則就在于對(duì)此霸權(quán)的非對(duì)抗性反制，即纏斗（agonism）。

何謂纏斗？ 當(dāng)代政治學(xué)家墨菲（Chantal Mouffe）指出，每一種秩序都是政治性的，其建立有賴(lài)于霸權(quán)實(shí)踐，而每一個(gè)秩序的霸權(quán)實(shí)踐都會(huì)受到反霸權(quán)實(shí)踐的挑戰(zhàn)。霸權(quán)與反霸權(quán)實(shí)踐預(yù)設(shè)了對(duì)抗的不可根除性與無(wú)限延伸性，雙方對(duì)立的本質(zhì)與其說(shuō)是出于敵對(duì)的根本性對(duì)抗（Antagonism），毋寧說(shuō)實(shí)乃非敵對(duì)的纏斗。參與霸權(quán)與反霸權(quán)實(shí)踐的雙方是對(duì)手（Adversaries）而不是敵人，兩者雖相互沖突卻皆認(rèn)同依然屬于共同的政治聯(lián)合體。

從非對(duì)抗性的纏斗這一基本的原則出發(fā)，應(yīng)對(duì)智能治理術(shù)的基本倫理策略是對(duì)智能算法及其權(quán)力施以倫理審計(jì)和爭(zhēng)勝性策略。所謂智能算法的倫理審計(jì)的基本思路，是從對(duì)智能算法應(yīng)用及其權(quán)力實(shí)施中顯見(jiàn)或嚴(yán)重的不當(dāng)后果出發(fā)，反過(guò)來(lái)檢視智能算法的設(shè)計(jì)和應(yīng)用中存在的倫理上的不恰當(dāng)性。

其中，智能算法的倫理審計(jì)主要包括兩個(gè)層面：其一為后果分析，即對(duì)于對(duì)智能算法應(yīng)用中出現(xiàn)的各種負(fù)面的后果進(jìn)行認(rèn)真的分析和審視。例如，在內(nèi)容推薦算法中，時(shí)常出現(xiàn)的反復(fù)推薦、負(fù)面誘導(dǎo)、偏見(jiàn)放大、信息繭房、過(guò)濾氣泡等現(xiàn)象，要研究和辨析其中的問(wèn)題、危害及肇因。

其二為價(jià)值揭示，即從相關(guān)主體的能動(dòng)性出發(fā)，運(yùn)用行動(dòng)者網(wǎng)絡(luò)分析方法，對(duì)相關(guān)群體和利害關(guān)系人在智能算法的運(yùn)用中的主觀意圖、價(jià)值取向、利益與風(fēng)險(xiǎn)分擔(dān)等展開(kāi)系統(tǒng)深入的分析，使其中存在的偏見(jiàn)、歧視、對(duì)自主權(quán)和隱私權(quán)等權(quán)利的侵害等價(jià)值沖突和利益沖突得以充分的披露。

爭(zhēng)勝性策略則主要包括價(jià)值糾偏、倫理引導(dǎo)和倫理增強(qiáng)等層面。價(jià)值糾偏分為價(jià)值制衡與爭(zhēng)勝性設(shè)計(jì)兩個(gè)相互關(guān)聯(lián)的環(huán)節(jié)。價(jià)值制衡就是在價(jià)值揭示的基礎(chǔ)上，運(yùn)用反思平衡、風(fēng)險(xiǎn)效益比較等方法重新權(quán)衡價(jià)值的合理性，使得智能算法在應(yīng)用中所呈現(xiàn)出的具體的價(jià)值和倫理上的不當(dāng)性得到具體而有針對(duì)性的價(jià)值制衡。爭(zhēng)勝性設(shè)計(jì)則是價(jià)值制衡的落實(shí)機(jī)制。

由此，“價(jià)值揭示-價(jià)值制衡-爭(zhēng)勝性設(shè)計(jì)”的循環(huán)成為環(huán)環(huán)相扣的最基本的倫理審計(jì)和爭(zhēng)勝性策略模式。

在倫理實(shí)踐中，這一模式的啟動(dòng)往往是由社會(huì)輿論關(guān)注程度較高的危害性事件觸發(fā)的。以滴滴順風(fēng)車(chē)司機(jī)侵害女乘客事件為例，首先可以從價(jià)值上去揭示平臺(tái)的責(zé)任：平臺(tái)為何將順風(fēng)車(chē)這一共享交通軟件變成一個(gè)社交軟件，與此相關(guān)的利害關(guān)系人有哪些，是否表明平臺(tái)為了商業(yè)利益而犧牲女乘客的隱私與安全？ 其次，從價(jià)值制衡出發(fā)充分考慮乘客等價(jià)值主體在共享交通中的安全性這一關(guān)鍵價(jià)值得以凸顯。最后，通過(guò)平臺(tái)軟件的改進(jìn)，從設(shè)計(jì)層面扭轉(zhuǎn)平臺(tái)運(yùn)行中出現(xiàn)的價(jià)值與倫理上的不當(dāng)性。事件發(fā)生后，“滴滴”平臺(tái)暫停了順風(fēng)車(chē)服務(wù)，并通過(guò)增設(shè)聯(lián)系人、報(bào)警按鈕以及全程錄音等方式對(duì)平臺(tái)軟件的設(shè)計(jì)做了一些改進(jìn)。

但價(jià)值制衡是否得到了落實(shí)，還有待對(duì)應(yīng)用后果在價(jià)值與倫理上的恰當(dāng)性的再檢視，其后續(xù)的發(fā)展更將引入新一輪的“價(jià)值揭示- 價(jià)值制衡-爭(zhēng)勝性設(shè)計(jì)”。例如，如何處理好全程錄音與保護(hù)用戶(hù)的隱私權(quán)等問(wèn)題，有可能通過(guò)一些特定的事件演變?yōu)閭惱韺徲?jì)和爭(zhēng)勝性策略的關(guān)注焦點(diǎn)。

此外，智能化的倫理引導(dǎo)和倫理增強(qiáng)等也可能成為重要的爭(zhēng)勝性策略，其要義是在計(jì)算機(jī)說(shuō)服技術(shù)的基礎(chǔ)上，通過(guò)智能化的勸導(dǎo)和助推，對(duì)個(gè)體行為進(jìn)行倫理上的引導(dǎo)，甚至借助智能化的道德矯正，提升主體的道德水準(zhǔn)。

但使問(wèn)題變得尤為復(fù)雜的是，一方面，在倫理引導(dǎo)與倫理增強(qiáng)的過(guò)程中，數(shù)據(jù)智能等機(jī)器智能作為一種非人格化的權(quán)力，會(huì)不會(huì)與個(gè)體的自主性和主體的能動(dòng)性發(fā)生沖突？ 另一方面，根據(jù)什么標(biāo)準(zhǔn)，可以由誰(shuí)對(duì)誰(shuí)實(shí)施倫理引導(dǎo)和倫理增強(qiáng)？

-----

本文節(jié)選自作者刊于《當(dāng)代美國(guó)評(píng)論》2019年第1期的論文“面向人工智能時(shí)代的倫理策略”。作者段偉文，系中國(guó)社會(huì)科學(xué)院哲學(xué)所研究員，中國(guó)社會(huì)科學(xué)院科學(xué)技術(shù)和社會(huì)研究中心主任。“澎湃”經(jīng)授權(quán)選編。