【編者按】近日，F(xiàn)acebook數(shù)據(jù)泄露事件（亦稱臉書事件）持續(xù)發(fā)酵。當(dāng)以大數(shù)據(jù)技術(shù)為基礎(chǔ)的社交媒體逐漸成為當(dāng)代社會的重要結(jié)構(gòu)性元素，當(dāng)人類社會從對一般工具的依賴開始走向?qū)χ讣y解鎖、人臉識別等智慧生活的依賴，當(dāng)普通民眾讓渡了“識別性”所獲得的“便捷性”和“安全性”的生活軌跡本身構(gòu)成大數(shù)據(jù)的一部分，當(dāng)傳統(tǒng)的農(nóng)業(yè)秩序和工業(yè)秩序全面轉(zhuǎn)向信息時代的數(shù)據(jù)秩序，智慧生活的革命意味著社會變遷的拐點，秩序切換的混沌也不可避免導(dǎo)致了智慧生活的焦慮，特別有一種焦慮揮之不去，那就是大數(shù)據(jù)時代的隱私問題，深層次的問題是數(shù)據(jù)巨機器的形成和人的自由的喪失。我們?nèi)绾卧趥€體自主性與公共秩序性之間找到新的平衡？我們?nèi)绾卧跀?shù)據(jù)權(quán)力與倫理權(quán)利之間實現(xiàn)新的制衡？我們?nèi)绾卧谒惴ò迪渑c隱私通貨之間搭建新的規(guī)則？我們?nèi)绾卧跀?shù)據(jù)暴力與多元社會之間達(dá)成新的共識？為此，《探索與爭鳴》編輯部與華東理工大學(xué)社會科學(xué)高等研究院、華東理工大學(xué)社會與公共管理學(xué)院特邀相關(guān)領(lǐng)域的專家學(xué)者，聯(lián)合召開了以“智慧生活與技術(shù)治理”為主題的圓桌會議，希冀在對Facebook數(shù)據(jù)泄露事件背后數(shù)據(jù)監(jiān)控模式和新型風(fēng)險社會深度反思的基礎(chǔ)上，探求全球的對數(shù)據(jù)監(jiān)控之規(guī)制的技術(shù)治理新政。

人與技術(shù)的自由關(guān)系是技術(shù)倫理學(xué)探尋的核心命題。在不同的技術(shù)時代，人與技術(shù)的自由關(guān)系問題匯聚在不同的焦點上。在機器大工業(yè)時代，它聚焦于人與機器的自由關(guān)系，在當(dāng)今大數(shù)據(jù)和普適計算時代，它聚焦于人與數(shù)據(jù)的自由關(guān)系。技術(shù)異化常常與技術(shù)增進(jìn)人的自由相伴而行，如何促成人與技術(shù)的自由關(guān)系，就成了技術(shù)倫理學(xué)探尋的終極目標(biāo)。

Facebook數(shù)據(jù)泄露門的曝光和持續(xù)發(fā)酵，使隱私問題再度成為人們熱議的話題。隱私一直是計算機倫理四大經(jīng)典問題之一，自從有了普適計算、大數(shù)據(jù)和人工智能等技術(shù)，這一經(jīng)典的計算機倫理問題便激發(fā)了關(guān)于更為基礎(chǔ)的倫理問題的討論，即人與技術(shù)的自由關(guān)系問題。對這些事件而言，隱私問題是公眾關(guān)注的焦點，但隱私問題僅是冰山一角，深層的問題是數(shù)據(jù)濫用和數(shù)據(jù)侵權(quán)的問題，是人的自由的問題。隱私問題的極化可能導(dǎo)致數(shù)據(jù)巨機器的出現(xiàn)，進(jìn)而導(dǎo)致人與數(shù)據(jù)關(guān)系的破裂、人的自由的喪失。隱私問題只是數(shù)據(jù)濫用的后果之一，數(shù)據(jù)巨機器的形成和人的自由的喪失才是數(shù)據(jù)濫用最嚴(yán)重的后果。

人與數(shù)據(jù)的關(guān)系是數(shù)據(jù)倫理學(xué)的核心議題，人與數(shù)據(jù)的自由關(guān)系是數(shù)據(jù)倫理的價值追求。事件的曝光使人們對這個問題有了前所未有的緊迫感，意味著我們應(yīng)當(dāng)加大力度治理數(shù)據(jù)隱私問題，同時應(yīng)當(dāng)積極建構(gòu)人與技術(shù)、人與數(shù)據(jù)的自由關(guān)系。

楚門效應(yīng)：數(shù)據(jù)巨機器與人的自由

大數(shù)據(jù)的倫理問題與計算時代密切相關(guān)。計算時代經(jīng)歷了從巨型計算到個人計算、網(wǎng)絡(luò)計算，再到普適計算。伴隨計算時代的更替，數(shù)據(jù)收集和使用經(jīng)歷了三階段。數(shù)據(jù)庫階段：數(shù)據(jù)的收集和存儲是離散的。網(wǎng)絡(luò)階段：離散存儲的數(shù)據(jù)互相關(guān)聯(lián)起來。大數(shù)據(jù)階段：收集和存儲的數(shù)據(jù)的類型和數(shù)量急劇增加。更重要的是，大數(shù)據(jù)便于挖掘和定位，易于對個體進(jìn)行數(shù)據(jù)畫像，建構(gòu)關(guān)于個體的完整形象，從而使全方位全程監(jiān)控個體成為可能。數(shù)據(jù)濫用等正是依托這樣的計算平臺和環(huán)境得以實現(xiàn)。因此，通過數(shù)據(jù)和算法可以輕而易舉地監(jiān)控和控制個體，人機關(guān)系、人-數(shù)據(jù)關(guān)系發(fā)生了逆轉(zhuǎn)。

大數(shù)據(jù)殺熟現(xiàn)象表明，消費者自以為是的自主決定其實是被操縱的決定，而消費者對此全然不知。我們不妨將這種現(xiàn)象稱為“楚門效應(yīng)”。楚門效應(yīng)的實質(zhì)是，消費者在毫不知情的情況下其自主權(quán)遭到侵犯。在具體的網(wǎng)絡(luò)購物場景中，消費者通過貨比三家，自以為作出了最佳選擇，殊不知消費者看到的價格是購物網(wǎng)站通過對個人數(shù)據(jù)的收集和挖掘，針對消費者進(jìn)行個性化定制的價格。當(dāng)消費者通過所謂的貨比三家或長時間的比價，以為自己得了便宜沾沾自喜時，商家可能在暗暗發(fā)笑，因為一切都在商家的掌控之中，根本不存在消費者的自主選擇。

前人有言“人類一思考，上帝就發(fā)笑”，如今我們可言“消費者一思考，馬云就發(fā)笑”。“馬云”似乎成了大數(shù)據(jù)時代的上帝——數(shù)據(jù)上帝。在數(shù)據(jù)上帝面前，消費者的自由意志則成了笑料。以前，消費者討價還價的能力大有用武之地，到了大數(shù)據(jù)精準(zhǔn)營銷時代，這種自主判斷和選擇的能力已派不上用場，甚至可以說連這種能力都可能喪失，而問題的要害在于消費者被操縱、被決定而不自知。

Facebook用戶信息泄露事件表明，選民的自由選舉權(quán)都可以被精準(zhǔn)操縱。與消費者的自主權(quán)相比，選民的政治權(quán)利被操縱更為可怕。據(jù)報道，劍橋分析公司收集了超過5000萬Facebook用戶的資料，通過分析用戶的性格特征、價值取向、行為模式和人生經(jīng)歷等方面的數(shù)據(jù)，對左派、右派和搖擺不定的人群進(jìn)行精準(zhǔn)的信息推送，使他們支持公司預(yù)定的總統(tǒng)候選人。不難想象當(dāng)選民自以為自主行使了自己神圣的選舉權(quán)時，劍橋分析公司及其雇主一定在暗暗發(fā)笑。以上我們僅從目前熱議的消費和選舉兩個場景，探討人的自由權(quán)利被侵犯的問題。大數(shù)據(jù)和普適計算催生了新的人機關(guān)系、人-數(shù)據(jù)關(guān)系，數(shù)據(jù)和算法不再只發(fā)揮工具的作用，它們會改變?nèi)藗兊纳盍?xí)慣和行為方式，與人共同組成一個人機、人-數(shù)據(jù)融合的新世界。人類稍有不慎，這個新世界就可能成為數(shù)據(jù)巨機器。

在一般意義上來講，現(xiàn)代社會是一個基于技術(shù)的空間，在這個空間中人與技術(shù)的非自由關(guān)系一直是技術(shù)哲學(xué)家和倫理學(xué)家關(guān)注的問題。美國技術(shù)哲學(xué)家劉易斯·芒福德在《技術(shù)與文明》《機器的神話》等著作中，探討了人類在機械文明中的自由問題。芒福德認(rèn)為，現(xiàn)代技術(shù)尤其是單一技術(shù)造就了一種高度權(quán)力化的復(fù)雜的大型機器——“巨機器”。在這個巨機器中，人無異于一顆顆螺絲釘，服從機械的鐵律。

大數(shù)據(jù)技術(shù)是現(xiàn)代單一技術(shù)的典范，如果不對大數(shù)據(jù)技術(shù)的使用進(jìn)行合理的規(guī)范，人類就可能面臨“數(shù)據(jù)巨機器”的災(zāi)難性后果。大數(shù)據(jù)技術(shù)和普適計算成了數(shù)據(jù)巨機器出現(xiàn)的物質(zhì)基礎(chǔ)。數(shù)據(jù)巨機器由數(shù)據(jù)和算法鑄成。數(shù)據(jù)是原材料，算法是加工廠。數(shù)據(jù)來源于離散的個體，算法由具有單一性的機構(gòu)決定。數(shù)據(jù)通過算法的加工，鑄成了數(shù)據(jù)巨機器。數(shù)據(jù)巨機器猶如“楚門的世界”。

在楚門世界，除了楚門，人人都是演員；在數(shù)據(jù)巨機器里，人人都是楚門，人人都是演員，無人是自己。這意味著楚門世界不過是數(shù)據(jù)巨機器的雛形，數(shù)據(jù)巨機器是楚門世界的升級版。楚門世界已足以警示人類，倘若數(shù)據(jù)巨機器真的全面實現(xiàn)，人類集體憂慮的程度可想而知。顯然，人類的任務(wù)就是要阻止數(shù)據(jù)巨機器的出現(xiàn)，而要阻止這種巨機器的出現(xiàn)，還需要深挖促使它形成的精神因素，并建立新的世界觀和倫理觀。

數(shù)據(jù)主義與基于權(quán)利的數(shù)據(jù)倫理

如果說大數(shù)據(jù)技術(shù)和普適計算是數(shù)據(jù)巨機器形成的物質(zhì)基礎(chǔ)，那么數(shù)據(jù)主義則是數(shù)據(jù)巨機器形成的精神基礎(chǔ)。數(shù)據(jù)主義造就了數(shù)據(jù)巨機器，數(shù)據(jù)巨機器信奉數(shù)據(jù)主義，數(shù)據(jù)主義成了數(shù)據(jù)巨機器的意識形態(tài)。

數(shù)據(jù)主義推崇數(shù)據(jù)自由至上，這集中體現(xiàn)在它的兩條律令上。數(shù)據(jù)主義第一條律令：要連接越來越多的媒介，產(chǎn)生和使用越來越多的信息，讓數(shù)據(jù)流最大化。數(shù)據(jù)主義第二條律令：要把一切連接到系統(tǒng)，連那些不想連入的異端也不能例外。不難看出，數(shù)據(jù)主義追求數(shù)據(jù)流最大化和連接最大化，要實現(xiàn)這兩個最大化，數(shù)據(jù)自由是必要前提，正如尤瓦爾·赫拉利分析指出的，“數(shù)據(jù)主義相信一切的善（包括經(jīng)濟增長）都來自信息自由?！绻胍獎?chuàng)造一個更美好的世界，關(guān)鍵就是要釋放數(shù)據(jù)，給它們自由?！边@里的自由是針對數(shù)據(jù)的，而非針對人的。

數(shù)據(jù)獲得了自由，人失去了自由，自由似乎遵循守恒定律，這也暗示自由與善存在某種沖突。數(shù)據(jù)主義有助于社會運行效率的提高，但可能對個人隱私造成傷害，導(dǎo)致人的齊一性、個人自由的喪失。在自由與善之間，數(shù)據(jù)主義極端地選擇了所謂的善，忽略了人的自由?；蛘哒f，數(shù)據(jù)主義僅在數(shù)據(jù)這一點上統(tǒng)一了善和自由，因為“對數(shù)據(jù)主義來說，信息自由就是最高的善”。

數(shù)據(jù)主義推崇算法至上，推崇算法暗箱，以實現(xiàn)數(shù)據(jù)自由的最大價值。人文主義呼吁“聆聽自己內(nèi)心的聲音”，數(shù)據(jù)主義呼吁“聆聽算法的意見”。隨著大數(shù)據(jù)和普適計算時代的到來，人類正在將權(quán)力交給算法?！案鞣N事情的決定權(quán)已經(jīng)完全從人類手中轉(zhuǎn)移到具備高度智能的算法?！睌?shù)據(jù)主義實際上是技術(shù)至上主義在大數(shù)據(jù)時代的當(dāng)前形態(tài)。數(shù)據(jù)主義主張算法至上，為實現(xiàn)算法至上，算法暗箱是必要的前提。算法暗箱顯現(xiàn)了用戶數(shù)據(jù)權(quán)利與機構(gòu)數(shù)據(jù)權(quán)力的失衡現(xiàn)象。數(shù)據(jù)是用戶的，算法是機構(gòu)的。數(shù)據(jù)的收集和使用，對消費者而言是被動的，對機構(gòu)而言則是主動的。沒有算法，數(shù)據(jù)也許沒有價值，算法賦予機構(gòu)巨大的數(shù)據(jù)權(quán)力，主動權(quán)總是掌握在機構(gòu)手中。

數(shù)據(jù)權(quán)利和數(shù)據(jù)權(quán)力的不對稱，使消費者淪為數(shù)據(jù)巨機器的原材料。對機構(gòu)而言，數(shù)據(jù)是透明的，哪里有數(shù)據(jù)，如何收集和挖掘數(shù)據(jù)，機構(gòu)都知道。對用戶而言，數(shù)據(jù)是暗的，數(shù)據(jù)是用戶的，但用戶并不知道自己有多少數(shù)據(jù)在外面，這些數(shù)據(jù)在哪里，如何被使用？對機構(gòu)而言，算法是透明的，算法是機構(gòu)設(shè)計的，是機構(gòu)意志的模型化。對用戶而言，算法是暗的，用戶不知道算法為何物，算法對用戶意味著什么。

數(shù)據(jù)和算法厚此薄彼的灰度（暗和透明），生動地呈現(xiàn)了數(shù)據(jù)權(quán)利與數(shù)據(jù)權(quán)力的失衡現(xiàn)象，這種失衡不可避免導(dǎo)致數(shù)據(jù)巨機器，導(dǎo)致算法歧視或暴政。若想走出大數(shù)據(jù)之困，就必須維護數(shù)據(jù)權(quán)利與數(shù)據(jù)權(quán)力的平衡?；谀壳皵?shù)據(jù)權(quán)力遠(yuǎn)勝于數(shù)據(jù)權(quán)利的現(xiàn)狀，我們應(yīng)當(dāng)提倡基于權(quán)利的數(shù)據(jù)倫理。

基于權(quán)利的數(shù)據(jù)倫理主張有規(guī)范的數(shù)據(jù)共享。數(shù)據(jù)主義主張絕對的數(shù)據(jù)共享，基于權(quán)利的數(shù)據(jù)倫理是對這種數(shù)據(jù)主義的反對。基于權(quán)利的數(shù)據(jù)倫理并不一味地反對數(shù)據(jù)共享，相反它支持?jǐn)?shù)據(jù)共享，反對無序無度的數(shù)據(jù)共享，反對不顧個人權(quán)利的數(shù)據(jù)共享，反對算法暗箱。目前，國際組織、各國政府、行業(yè)協(xié)會和企業(yè)等正在致力于推進(jìn)數(shù)據(jù)共享，同時也制訂了諸多保護個人數(shù)據(jù)權(quán)利的政策。

基于權(quán)利的數(shù)據(jù)倫理要求尊重用戶的數(shù)據(jù)權(quán)利和隱私權(quán)。數(shù)據(jù)的收集和使用需征得用戶的知情同意，并實行最少原則（必要原則），用戶應(yīng)當(dāng)有權(quán)知曉個人數(shù)據(jù)的收集范圍和用途。目前，絕大多數(shù)機構(gòu)或網(wǎng)站都制訂了自己的隱私條款，但這些條款的內(nèi)容和實施過程出現(xiàn)了諸多問題，如違背最少原則、擴大個人數(shù)據(jù)收集范圍、違反知情同意原則、未經(jīng)用戶同意二次或多次使用用戶數(shù)據(jù)等。因此，應(yīng)當(dāng)對這些隱私條款進(jìn)行必要的內(nèi)容審核和過程監(jiān)督。

基于權(quán)利的數(shù)據(jù)倫理要求算法具有透明性。對用戶而言，暗是算法的技術(shù)架構(gòu)特征，透明則是算法的規(guī)范性要求。只要算法是暗的，數(shù)據(jù)共享就是無序的、無度的，就會導(dǎo)致數(shù)據(jù)濫用和權(quán)利侵害。透明至少包含開放和可理解兩個方面。算法若是封閉的，不被外人知悉，便是暗的，是不透明的。算法即使是開放的，如不可理解，仍是暗的，是不透明的。只有做到了算法的開放性和可理解性，才能確保算法的透明性，使用戶和機構(gòu)在算法灰度上達(dá)到平衡，確保用戶的數(shù)據(jù)權(quán)利。

基于權(quán)利的數(shù)據(jù)倫理主張以人為本。數(shù)據(jù)主義和數(shù)據(jù)巨機器遵循機械論和機器法則。正如芒福德所指出的，以單一技術(shù)為特征的現(xiàn)代技術(shù)的意識形態(tài)基礎(chǔ)是一種機械化的世界觀，這種機械化的世界觀已經(jīng)深入到現(xiàn)代人類的心靈，變成一種基本的價值觀念和思維方式。這種機械論導(dǎo)致人類智能最高表現(xiàn)的巨機器的出現(xiàn)，機器法則猶如升級版的叢林法則，使人成了數(shù)據(jù)巨機器統(tǒng)治的對象。這種機械論遵循決定論，與自由律背道而馳。技術(shù)意志替代了人的意志，人過著機械化的生活。數(shù)據(jù)巨機器是具有自由意志的人設(shè)計的，但數(shù)據(jù)巨機器服從機械論，人作為具有自由意志的設(shè)計者成了數(shù)據(jù)巨機器的奴隸。要擺脫巨機器的控制，需要用一種新的世界觀來代替這種機械世界觀，這種新的世界觀提倡基于權(quán)利的數(shù)據(jù)倫理。

基于權(quán)利的數(shù)據(jù)倫理是對數(shù)據(jù)主義的反對，提倡以人的權(quán)利為本，而不是以數(shù)據(jù)的權(quán)力為本；以人的自由為中心，而不是以數(shù)據(jù)的自由為中心。芒福德通過對技術(shù)與文明發(fā)展歷史的總結(jié)，認(rèn)為科技具有人文傳統(tǒng)，這一傳統(tǒng)建立在“以塵世為中心的接近自然符合人性的模型”之上，但是這一傳統(tǒng)因單一技術(shù)的出現(xiàn)式微了，要想避免“巨機器”的災(zāi)難性進(jìn)程，西方文明必須回歸這一傳統(tǒng)。

總的來說，基于權(quán)利的數(shù)據(jù)倫理，旨在消除數(shù)據(jù)主義對數(shù)據(jù)自由的崇拜，提倡有規(guī)范的數(shù)據(jù)共享；旨在促進(jìn)數(shù)據(jù)共享，消除數(shù)據(jù)孤島，防止數(shù)據(jù)濫用；旨在消除機械論世界觀的不良影響，提倡尊重人的權(quán)利，重建人在大數(shù)據(jù)時代的主體地位，建構(gòu)人與技術(shù)、人與數(shù)據(jù)的自由關(guān)系。芒福德曾大聲疾呼“：人類要獲得救贖，需要經(jīng)歷一場類似自發(fā)皈依宗教的歷程：以有機生命世界觀替代機械論世界觀，將現(xiàn)在給予機器和電腦的最高地位賦予人?！被跈?quán)利的數(shù)據(jù)倫理，正是強調(diào)平衡數(shù)據(jù)權(quán)利與數(shù)據(jù)權(quán)力的關(guān)系，平衡數(shù)據(jù)領(lǐng)域自由與善的關(guān)系，促進(jìn)數(shù)據(jù)共享，增進(jìn)人類福祉，維護人類的自由。

本文原載《探索與爭鳴》2018年第5期，本文原題為《“楚門效應(yīng)”：數(shù)據(jù)巨機器的“意識形態(tài)”——數(shù)據(jù)主義與基于權(quán)利的數(shù)據(jù)倫理》，澎湃新聞（www.loaarchitects.com.cn）獲授權(quán)轉(zhuǎn)載。