下載客戶端

登錄

看一百部《黑鏡》，都不如讀這一本書

2022-03-30 13:06

來源：澎湃新聞·澎湃號·湃客

原創(chuàng) Vincent 硬核讀書會

《黑鏡》劇照。

在科幻電影和書籍里，未來被描摹成很多模樣，它們或是悲觀，或是樂觀。我們還沒搞清楚“元宇宙”“加密貨幣”是怎樣的存在時(shí)，下一個(gè)潮流似乎又在醞釀當(dāng)中了。

與其說我們被算法控制，不如說我們被我們的本能控制。一邊看《黑鏡》感嘆未來的黑暗，一邊熱火朝天地在社交網(wǎng)絡(luò)與人“激戰(zhàn)”，不就是最好的證明嗎？

今天的硬核讀書會，我們和來自牛津的學(xué)者杰米·薩斯坎德一起聊了聊未來。

?采寫 | Vincent

?編輯 | 程遲

古時(shí)候，信徒想知道自己未來能否上天堂、將軍想知道自己出兵是否順利；如今，商人想知道未來投資的風(fēng)口、政客想知道未來社會的發(fā)展趨勢……從古代的先知、算命先生到當(dāng)代的“未來學(xué)家”，人類對未來的好奇從未改變。

在巫術(shù)和宗教被祛魅的時(shí)代，技術(shù)的日新月異讓人類從未如此強(qiáng)烈地感受到“未來已來”。在技術(shù)給人類社會帶來無限便利的同時(shí)，我們也對技術(shù)本身有所反思：技術(shù)到底將帶領(lǐng)我們走向何方？技術(shù)將如何改變未來人們的生活方式？技術(shù)可能奴役人類嗎？不管是好萊塢的科幻大片，還是書店里放在大門前的未來學(xué)暢銷書，在常熱的作品里，總少不了這幾個(gè)話題。

“技術(shù)如何改變?nèi)祟惿睢币恢笔窃S多暢銷書的主題，它們關(guān)注的側(cè)重點(diǎn)各不相同。

阿爾文·托夫勒的《第三次浪潮》曾紅極一時(shí)，他將人類歷史劃分為三次浪潮。他認(rèn)為人類正處在“第三次浪潮”的前沿，他筆下的信息革命也早已席卷全球。

凱文·凱利的《失控》從技術(shù)進(jìn)化的角度思考人類社會的進(jìn)化，他書中提到的云計(jì)算、物聯(lián)網(wǎng)、網(wǎng)絡(luò)經(jīng)濟(jì)等也逐漸變成現(xiàn)實(shí)。

尼葛洛龐帝的《數(shù)字化生存》揭示了信息世界的法則，預(yù)言了數(shù)字世界的交流的開放性。這是社交媒體甚至“元宇宙”的先聲。

尤瓦爾·赫拉利的《未來簡史》則思考大數(shù)據(jù)、算法和生命之間的關(guān)系，如何應(yīng)對人工智能和算法時(shí)代對人類的威脅，是他思考的重點(diǎn)，也是當(dāng)今大眾關(guān)注的議題。

不過，以上提及的學(xué)者們更多傾向于從經(jīng)濟(jì)學(xué)、社會學(xué)、傳播學(xué)等角度出發(fā)，思考技術(shù)將會如何改變?nèi)祟惖奈磥?。那么，技術(shù)會對未來政治產(chǎn)生什么樣的影響？似乎很少人會從政治學(xué)的角度對這個(gè)問題做出系統(tǒng)性分析。

《算法的力量》

[英]杰米·薩斯坎德著，李大白譯

理想國 | 北京日報(bào)出版社，2022-2

杰米·薩斯坎德的《算法的力量》填補(bǔ)了這個(gè)空缺。杰米·薩斯坎德在書里說，當(dāng)我們討論未來政治的時(shí)候，我們的腦海中最先浮現(xiàn)出來的可能是奧威爾的《1984》和赫胥黎的《美麗新世界》，我們很難想出哪位政治理論家的著作。

2016年，奧威爾的《1984》沖上了美國各大書店的暢銷榜，杰米·薩斯坎德對此質(zhì)疑道：“人類希望看懂2050年的世界，難道真要借助一本寫于1949年的小說嗎？”為此，他創(chuàng)作了《算法的力量》（其英文名就叫FuturePolitics），以此來系統(tǒng)性地分析技術(shù)對未來政治可能造成的影響。

杰米關(guān)切的焦點(diǎn)是，科技的發(fā)展不僅會改變?nèi)祟惖纳罘绞剑ū热?，人工智能搶了多少人的工作），也會為政治帶來極為深遠(yuǎn)且駭人的影響。那么，技術(shù)到底會如何影響未來政治呢？

杰米·薩斯坎德（Jamie Susskind）/劍橋官網(wǎng)

數(shù)字技術(shù)就是政治本身

近些年， “信息繭房”“回音壁效應(yīng)”等解釋社交媒體上的政治極化現(xiàn)象的術(shù)語也成為了我們生活中日常討論的詞匯?？梢姡瑐鞑ッ浇榈淖兏镌缫焉钌畹馗淖兞巳祟惖恼涡螒B(tài)，以至于有人認(rèn)為，社交媒體要為西方民粹主義的興起以及“民主的衰落”負(fù)主要責(zé)任。

《社交網(wǎng)絡(luò)》劇照。在信息革命之前，不少人對技術(shù)持有樂觀態(tài)度，認(rèn)為互聯(lián)網(wǎng)將會創(chuàng)造一個(gè)平等、自由的空間。

暫且不論以上論點(diǎn)是否成立，人們在信息革命之前對技術(shù)的樂觀態(tài)度仿佛就在眼前。

上世紀(jì)末信息革命剛開始的時(shí)候，許多人對技術(shù)是非常樂觀的。這種“硅谷樂觀主義”伴隨著“第三次浪潮”“數(shù)字化生存”等術(shù)語曾火遍全球——這些未來的創(chuàng)造者認(rèn)為，技術(shù)和商業(yè)的結(jié)合能夠改變世界，讓世界變得更開放、更自由、更互相聯(lián)結(jié)。

這幫硅谷“狂人”（想想喬布斯）不喜歡墨守成規(guī)，自命不凡，桀驁不馴，他們糅合了嬉皮士的烏托邦主義和極客（geek）精神，成為了世紀(jì)交替之際的時(shí)代弄潮兒。在他們眼里，技術(shù)是解放一切的靈丹妙藥，所有的問題都可以被正確的算法所搞定。

對于政治來說，互聯(lián)網(wǎng)這個(gè)開放的公共空間，簡直是德國哲學(xué)家哈貝馬斯“公共領(lǐng)域”的最佳實(shí)踐場所，是實(shí)現(xiàn)協(xié)商民主的絕佳途徑。伴隨著當(dāng)年“歷史終結(jié)論”的樂觀論調(diào)，大家天真地相信互聯(lián)網(wǎng)能給人類帶來持續(xù)的、高質(zhì)量的公共討論。

樂觀的預(yù)期很快就被這些年來的變化“打臉”。硅谷“狂人”的確改變了世界，但他們也給世界帶來了新問題，甚至帶來新的隱患。硅谷流行的“好主意第一，利潤第二”的口號僅是一個(gè)高尚的姿態(tài)，技術(shù)創(chuàng)新的根本驅(qū)動力其實(shí)是謀利。

在太多情況下，數(shù)字技術(shù)是按掌權(quán)者和特權(quán)者的立場設(shè)計(jì)的。隨著越來越多人類活動被數(shù)據(jù)化，“數(shù)字老大哥們”掌握的信息遠(yuǎn)超以往的機(jī)構(gòu)，這造成了極大的信息不對稱。掌握信息者可以預(yù)測、分析甚至規(guī)訓(xùn)用戶的行為。

上世紀(jì)八九十年代的樂觀主義正在消退，如今人們對政府和科技巨頭不受限的權(quán)力的擔(dān)憂越來越多，在談?wù)撐磥淼臅充N書中，反思人工智能和算法的書籍也正在變多，人們越來越擔(dān)心《黑鏡》式的未來會成為現(xiàn)實(shí)。隨著大數(shù)據(jù)和物聯(lián)網(wǎng)時(shí)代的到來，掌握數(shù)據(jù)和信息的一方的優(yōu)勢只會越來越大。“數(shù)字利維坦”等反烏托邦設(shè)想也開始變得流行。因此，我們亟須在數(shù)碼世界里尋找一些能維系公民權(quán)利的方案。

在《算法的力量》里，杰米·薩斯坎德認(rèn)為，數(shù)字技術(shù)就是政治本身。

他在書中給我們梳理，在一個(gè)人工智能的功能日益強(qiáng)大、技術(shù)日益綜合、社會日益被量化的時(shí)代，政治和科技精英將掌握史無前例的巨大權(quán)力，這時(shí)，公民追究這些精英責(zé)任的力量也應(yīng)該同步增長。

他的解決方案的核心有兩個(gè)，第一個(gè)是“透明化”——對那些有能力影響人類核心自由、解決社會正義的技術(shù)系統(tǒng)，應(yīng)確保其公開透明；第二個(gè)是“新三權(quán)分立”——確保沒有任何實(shí)體能穩(wěn)妥掌握一種以上的武力、審查和感知控制方式，或?qū)σ陨先魏我环N能力的壟斷。這是一種新的理論設(shè)想。政治理論該如何創(chuàng)新，才能給在未來的數(shù)碼世界里生活的人類提供某種新的想象空間？最近火熱的“元宇宙”“加密貨幣”又會給未來政治帶來什么新的問題？為此，我們采訪了《算法的力量》的作者杰米·薩斯坎德。

“我對技術(shù)對未來政治的影響既不樂觀也不悲觀”

硬核讀書會：在《算法的力量》中，你說你熱愛政治學(xué)，但你疑惑為何這個(gè)學(xué)科對未來不感興趣。畢竟，對于學(xué)術(shù)研究來說，預(yù)測未來是有風(fēng)險(xiǎn)的。但是，對于很多投資者、商人來說，他們渴望了解未來社會發(fā)展的大趨勢，因此市面上也有非常多關(guān)于技術(shù)如何改變?nèi)祟惿畹奈磥韺W(xué)的著作，比如凱文·凱利、阿爾文·托夫勒、尤瓦爾·赫拉利等人的著作。你認(rèn)為你的著作與其他未來學(xué)著作有什么不同？你為何會更關(guān)心數(shù)字技術(shù)對未來政治的影響？另外，你認(rèn)為你是“未來學(xué)家”嗎？

杰米·薩斯坎德：政治理論很重要，因?yàn)樗鼮槲覀兲峁┝死斫馕覀冎車澜缢璧母拍詈头懂牎ＴS多書只關(guān)注“描述”技術(shù)變革；我正試圖改變?nèi)藗儗夹g(shù)變革的“思考方式”，向人們展示——技術(shù)變革是一種政治現(xiàn)象，而不僅僅是經(jīng)濟(jì)現(xiàn)象。我不傾向于將自己描述為一個(gè)未來學(xué)家——這聽起來太宏大了。

硬核讀書會：許多新技術(shù)剛誕生的時(shí)候大家或許都會很樂觀，互聯(lián)網(wǎng)剛誕生的時(shí)候，硅谷的“谷歌主義”和“網(wǎng)絡(luò)烏托邦主義”都曾認(rèn)為互聯(lián)網(wǎng)將給人類帶來前所未有的自由和開放。但如今，這種樂觀的論調(diào)慢慢轉(zhuǎn)為《黑鏡》式的悲觀擔(dān)憂，硅谷的形象也不再像以前那么美好。為什么？

杰米·薩斯坎德：我對此既不樂觀也不悲觀。我當(dāng)然承認(rèn)，你所描述的這些早期技術(shù)烏托邦主義是需要進(jìn)行修正的。但我也認(rèn)為，2016年以來，一些關(guān)于技術(shù)的論調(diào)變得過于反烏托邦，這是不必要的。我所關(guān)心的是，我們?nèi)绾握业秸_的治理技術(shù)和方法，使技術(shù)進(jìn)步能夠與人類的自由聯(lián)系起來，而不僅僅為了設(shè)計(jì)者的利益。

在演講中的杰米·薩斯坎德。

反壟斷法不能只按照經(jīng)濟(jì)規(guī)模來判斷公司是否處于壟斷地位

硬核讀書會：近些年來，科技公司濫用數(shù)據(jù)的丑聞有很多，比如，劍橋分析公司濫用數(shù)據(jù)丑聞等，這引發(fā)了公眾對科技巨頭的普遍擔(dān)憂，以及對“監(jiān)控資本主義”的反思。你認(rèn)為我們需要思考一種新的制度來對科技巨頭進(jìn)行結(jié)構(gòu)性監(jiān)管。具體是怎么樣的？

杰米·薩斯坎德：我認(rèn)為，反壟斷法，或者在歐洲我們稱之為競爭法，需要進(jìn)行改革——我們不能只根據(jù)公司的經(jīng)濟(jì)規(guī)模，或?qū)r(jià)格的影響來判斷這個(gè)公司是否處于壟斷地位，而要根據(jù)其政治力量和媒體生態(tài)系統(tǒng)多樣性的需求來進(jìn)行判斷。

因此，當(dāng)監(jiān)管機(jī)構(gòu)考察 "這個(gè)并購可以被接受嗎？"或 "這個(gè)收購應(yīng)該被允許嗎？"或 "這個(gè)公司是否在濫用其主導(dǎo)地位？"這些問題時(shí)，除了經(jīng)濟(jì)目標(biāo)之外，他們還應(yīng)該考慮社會和政治目標(biāo)。這可能意味著，在某些極端情況下，監(jiān)管機(jī)構(gòu)需要要求大型科技公司剝離某些次級單位，以便形成公平競爭。

《黑鏡》劇照。

硬核讀書會：在大數(shù)據(jù)時(shí)代，數(shù)據(jù)是資產(chǎn)，可以被拿來交易。但是，個(gè)人數(shù)據(jù)也是隱私，你在書里主要從經(jīng)濟(jì)的角度聊到了數(shù)種對數(shù)據(jù)交易的反對意見，那么，你覺得從保護(hù)隱私權(quán)的角度出發(fā)，我們該如何保護(hù)我們的數(shù)據(jù)隱私權(quán)？

杰米·薩斯坎德：實(shí)際上，我對數(shù)據(jù)使用的主要抱怨根本就不是經(jīng)濟(jì)問題。

我認(rèn)為，我們利用自身的數(shù)據(jù)進(jìn)行經(jīng)濟(jì)交易并不是問題。問題在于政治；隱私是其中的一部分，但自由也很重要。數(shù)據(jù)收集本身使我們暴露在某種程度的操縱之下，這也會削弱自主性。

《黑鏡》劇照。

硬核讀書會：你在書里討論“被遺忘權(quán)”，歐盟對如何處理個(gè)人數(shù)據(jù)有嚴(yán)格的、約束性強(qiáng)的法律。你認(rèn)為歐盟的“被遺忘權(quán)”應(yīng)該被推廣嗎？有人認(rèn)為，歐盟的“被遺忘權(quán)”其實(shí)是為了牽制美國互聯(lián)網(wǎng)巨頭的信息控制能力，“被遺忘權(quán)”傷害了互聯(lián)網(wǎng)企業(yè)數(shù)據(jù)收集的利益，你怎么看待這個(gè)問題？

杰米·薩斯坎德：我支持 "被遺忘權(quán)"。如果它的副作用之一是給科技公司的商業(yè)模式帶來不利影響，那又怎樣呢？我當(dāng)然不認(rèn)為這是歐盟反對美國公司的陰謀；事實(shí)是，美國的數(shù)據(jù)市場在很大程度上是以不符合GDPR（歐盟的《通用數(shù)據(jù)保護(hù)條例》）的方式運(yùn)作的，因此美國公司和歐盟監(jiān)管機(jī)構(gòu)之間往往會出現(xiàn)緊張關(guān)系，這未必是一件壞事。

我們該如何面對“數(shù)字利維坦”？

硬核讀書會：有人曾提出過“數(shù)字利維坦”這樣的詞，用來形容使用數(shù)碼世界的反烏托邦。你在書里提到，黑客和密碼學(xué)都是一種抵抗形式，但是能掌握這些知識的公民實(shí)在太少，對于普通人來說，該如何面對“數(shù)字利維坦”的威脅？

杰米·薩斯坎德：我確實(shí)認(rèn)為這是一個(gè)問題，數(shù)字權(quán)力崛起的主要受益者并不是個(gè)體。

想要適當(dāng)回應(yīng)數(shù)字權(quán)力崛起，需要集體的解決方案（如法治和民主治理）以及個(gè)人抵抗。我們不能指望大家都成為黑客、程序員或密碼學(xué)家。法律應(yīng)該保護(hù)我們，以免受控制數(shù)字技術(shù)的人和受其影響的人之間的權(quán)力不對稱的影響。

《黑鏡》劇照。

“元宇宙”會誕生從未存在過的權(quán)力形式

硬核讀書會：加密貨幣自誕生以來，便有非常理想主義的、去中心化的無政府主義色彩，但后來也遭到許多打擊和監(jiān)管，你是如何看待加密貨幣的？加密貨幣的理想能實(shí)現(xiàn)嗎？區(qū)塊鏈技術(shù)將如何改變社會？

杰米·薩斯坎德：到目前為止，我并不信服。加密貨幣（和一般的區(qū)塊鏈）有一個(gè)大膽的說法，即成為去中心化和去中介化的革命性代理人。到目前為止——就像大多數(shù)其他技術(shù)一樣——它們越來越多地要么落入本應(yīng)使之成為多余的大型機(jī)構(gòu)的控制之下，要么成為犯罪、欺詐、金融投機(jī)的工具。我可以看到，這是一個(gè)有趣的社會發(fā)展，但我還不認(rèn)為它是政治進(jìn)步的代理人。

去中心化在帶來平等機(jī)遇的同時(shí)，也帶來各種風(fēng)險(xiǎn)與隱患。/unsplash

硬核讀書會：你在書里提到，我們可以改變現(xiàn)有的工作范式和私有財(cái)產(chǎn)范式，來應(yīng)對失業(yè)和越來越大的貧富差距。你提出了許多具體的建議，比如UBI（全民基本收入）、資產(chǎn)稅、國有化、用益權(quán)、公有、共享、數(shù)據(jù)交易等方式，但每一種方式都可能會帶來問題。你覺得哪一種新的方式更有希望應(yīng)對越來越大的貧富差距？

杰米·薩斯坎德：沒有一個(gè)統(tǒng)一的解決方案(這也沒有一個(gè)統(tǒng)一的問題。在我的書中，我自然關(guān)注由數(shù)字技術(shù)造成的不平等，但這遠(yuǎn)不是造成不平等的唯一因素。導(dǎo)致不平等的原因是如此之多，我不想試圖在一個(gè)簡短的答案中解決它們。

Facebook的“元宇宙”概念圖。/Facebook官網(wǎng)

硬核讀書會：近期，“元宇宙”概念被熱炒，F(xiàn)acebook更是將自己公司的名字改成了“Meta”。你是如何看待“元宇宙”的？在“元宇宙”的世界里，政治將發(fā)生什么樣的改變？

杰米·薩斯坎德：這是非常重要的發(fā)展。雖然我們很容易嘲笑今天的虛擬現(xiàn)實(shí)系統(tǒng)如此初級，但它們顯然會得到改善。而且，在我看來，我們的孩子以及我們孩子的孩子，很可能會在完全是人造的數(shù)字宇宙中花費(fèi)大量時(shí)間。這造成了重要的政治后果，這些“空間”中的規(guī)則就像鐵律一樣不能被打破。編寫規(guī)則的人將擁有相當(dāng)程度的權(quán)力——這是一種在以前的人類事務(wù)中從未存在過的新的、奇怪的權(quán)力形式。