從科幻和未來圖景回到現(xiàn)實，人工智能當下發(fā)展的主要特征是數(shù)據(jù)智能興起與解析社會的來臨。當前的人工智能熱主要得益于數(shù)據(jù)智能即數(shù)據(jù)驅(qū)動的智能發(fā)展，各種人工智能應用方興未艾的基礎是對數(shù)據(jù)的認知計算和機器學習。所謂數(shù)據(jù)就是一切可以以電子化形式對人和世界的記錄。

隨著移動智能終端、監(jiān)控與傳感技術、普適計算、身體與生物信息采集、大型科學裝置與數(shù)據(jù)密集型科學等方面的發(fā)展，各種類型的數(shù)據(jù)呈指數(shù)級增長，數(shù)據(jù)對人的狀態(tài)和行為的記錄無處不在，不管是主動還是被動，每個人和各種事物都是數(shù)據(jù)的貢獻者。由此，數(shù)據(jù)與存在如影隨形，甚至可以說“數(shù)據(jù)就是存在”“世界等同于數(shù)據(jù)”。

數(shù)據(jù)智能的實質(zhì)就是透過對數(shù)據(jù)的自動化、智能化認知分析人的行為，建立在數(shù)據(jù)智能分析之上的人類社會可以稱之為解析社會。就像17世紀，笛卡爾提出解析幾何這一精確地分析運動軌跡的方法一樣，數(shù)據(jù)智能可以對人的行為軌跡加以記錄和解析并實施相應的引導和調(diào)控。一切都將被記錄，一切都將被分析，建立在數(shù)據(jù)智能之上的社會正在走向解析社會。

數(shù)據(jù)智能對人類社會的洞察如同透鏡對自然界的透視，可以稱之為數(shù)據(jù)透鏡。13世紀時，人們發(fā)明了透鏡，后來又用它制造出了望遠鏡和顯微鏡，從微觀到宇觀天體系統(tǒng)，整個世界的自然圖景得以呈現(xiàn)和改變。

17世紀時，統(tǒng)計學的早期倡導者威廉?配蒂（William Petty） 寫了本名為《政治算術》（Political Arithmetic）的小冊子，將數(shù)據(jù)的價值提升到了統(tǒng)治基礎的高度。如今，人們開始運用數(shù)據(jù)智能這一數(shù)據(jù)透鏡從各種可量化的層面，對個體和群體進行社會計算，在記錄、解析、引導和調(diào)控人的行為的基礎上，對個人和社會進行管理和治理。

基于數(shù)據(jù)智能的計算社會學和新社會物理學認為，通過數(shù)據(jù)智能的解析，甚至可以站在“上帝的視角”來看整個社會和組織是怎樣來發(fā)展的。在城市管理中，數(shù)據(jù)智能的發(fā)展使網(wǎng)格化管理向“城市大腦”的方向發(fā)展。在組織管理中，對包括微表情在內(nèi)的人的行為數(shù)據(jù)的記錄，可以監(jiān)測并建議人們在講堂或會議中如何更加集中注意力，如何互動，而這種調(diào)控對人的控制力應該是很強的。換句話說，借助數(shù)據(jù)透鏡可以對人的行為進行智能化的調(diào)節(jié)。

在數(shù)據(jù)智能的應用中，數(shù)據(jù)成為計算、分析、評價、預測人的行為的素材與資源。雖然各種數(shù)據(jù)在采集時本來只有單一的目的，而一旦記錄下來以后，根據(jù)需要就可以有多重目的與各種各樣的用途。不同的數(shù)據(jù)整合后會帶來意想不到的效果。比如，把一個人的醫(yī)療數(shù)據(jù)和他的犯罪數(shù)據(jù)結(jié)合在一起，可以判斷這個人可能是真的因為有某種精神疾患才去犯罪。有人在一些網(wǎng)站點擊了某些商品，馬上就會有推銷的電話打過來，對方知道某人的電話可能是因為某人在注冊時登記的，也可能由網(wǎng)絡服務商或第三方的不當個人數(shù)據(jù)泄露所致。

通過對不同的數(shù)據(jù)整合與分析，就使得它們成為反映和折射事實的素材，用于評價人的狀況和行為。因此，數(shù)據(jù)智能所帶來的解析社會首先表現(xiàn)為每個人的行為都會得到量化的評價。

在基于數(shù)據(jù)智能的評價型社會中，人類所產(chǎn)生的各種數(shù)據(jù)被當作事件和過程加以分析和調(diào)控，即數(shù)據(jù)智能通過對人的行為的評價來調(diào)節(jié)人類自身的行為。在網(wǎng)絡購物和網(wǎng)約車的使用中，各種應用軟件會對使用者進行評分，如果頻繁取消“滴滴”的叫車服務，軟件會“記仇”———因為評分下降，在特別需要叫車時，可能會得不到派車。軟件還可以根據(jù)某人是否愿意在著急的情況下加價支付以及每次加多少，評價某人的性格特征，甚至難免用于對某人的算計。

由于各種數(shù)據(jù)都可以從不同側(cè)面反映人的人格與行為特征，信貸、保險等行業(yè)已經(jīng)開始使用行業(yè)之外的大數(shù)據(jù)評價客戶。假如一個人有不當?shù)穆放袨榛蛟谀承﹫鏊c他人發(fā)生過沖突，保險公司有可能獲得這些事件的記錄數(shù)據(jù)并對其加以分析，某人很可能就要交數(shù)額較高的保費。其實，這種評分體系一直就有，只不過是在數(shù)據(jù)智能出現(xiàn)以后，使用的大數(shù)據(jù)資源更廣，分析與評價的自動化和智能化程度更高，其應用越來越朝著規(guī)?；姆较虬l(fā)展。

美國的一些法院已經(jīng)在使用一些特定的算法預測犯人再次犯罪的概率，并據(jù)此決定是否假釋。隨著各種大數(shù)據(jù)集的建構(gòu)以及數(shù)據(jù)智能的普遍應用，這種預測犯罪概率的算法將更為智能化和普及，甚至用于對潛在的嫌疑對象沒有實施的犯罪的預測、控制和打擊，而這種治未罪的做法顯然不同于一般對嫌疑犯無罪推定的做法。

但問題是，實行這些評價的數(shù)據(jù)模型和智能算法一般被當作行業(yè)和部門的機密，被評價者往往不知道它們的存在，對于非專業(yè)人員來說它們?nèi)缤诤?，對其一無所知。評價一旦出現(xiàn)偏差，不僅很難加以糾正，而且會被視為一種合理的結(jié)論，使偏差持續(xù)強化而造成惡性循環(huán)，甚至會通過數(shù)據(jù)的跨領域運用導致附加傷害。

近年來，基于數(shù)據(jù)智能的智能化生活已經(jīng)初現(xiàn)端倪。其一是量化自我，在可穿戴技術的推動下，量化自我運動的實踐者運用運動手環(huán)等各種可穿戴設備，對人們的健康狀態(tài)和運動情況進行量化評價和管理，并在微信等社交軟件上展示。但這在一定程度上也是人屈從于機器的一種表現(xiàn)，而實際上有很多東西是不可量化的。

其二是智能陪伴，隨著人工智能和機器人技術的發(fā)展，各種陪伴機器人、智能音箱、記憶管家將得到普遍應用。由于這些技術還在發(fā)展之中，難免出現(xiàn)體驗不佳、言行誤導和成癮等負面后果。尤其值得關注的是，智能陪伴將使個人的所有活動數(shù)據(jù)得到全面的采集，這些數(shù)據(jù)的采集與使用無疑將在法律和倫理層面帶來巨大的挑戰(zhàn)。

從信息化向智能化發(fā)展的維度來看，正在興起的智能化社會可以視為控制革命的2.0版。20世紀80年代，信息社會的研究者、美國傳播學學者詹姆斯?貝尼格（James Beniger）寫過一本《控制革命：信息社會的技術與經(jīng)濟起源》（ The Control Revolution：Technological and Economic Origins of the Information Society）的書。該書指出，19世紀以來，城市化帶來的陌生人社會和現(xiàn)代工業(yè)化大生產(chǎn)導致了一系列的控制的危機，信息技術的發(fā)展就是對它們的回應，由此從電報、無線電到計算機和互聯(lián)網(wǎng)等信息技術的發(fā)展，導致了一系列控制革命。智能化的解析社會中，通過數(shù)據(jù)智能可以對社會和人進行最大限度的解析，形成觀測、監(jiān)視、預測、評價、誘導等全新的智能化控制手段。一個典型的反面案例是智能化賭場，通過對人的表情和行為精細的數(shù)據(jù)洞察設計，完全可以設計出一種智能化的上癮機制使賭徒無法自拔。

透過對數(shù)據(jù)智能和解析社會的描述，已經(jīng)可以清晰地看到巨大的力量。這種力量的實質(zhì)不僅僅意味著工具理性或某種自主性的技術力量，與掌控這種力量主體和被這種力量所掌控的主體休戚相關，更多地關涉尼采意味的權力意志與葛蘭西式（Gramscian）霸權，故而應從主體能動性的維度，對作為數(shù)據(jù)智能和解析社會基礎的智能算法展開必要的價值追問與倫理審度。

-----

本文節(jié)選自作者刊于《當代美國評論》2019年第1期的論文“面向人工智能時代的倫理策略”。作者段偉文系中國社會科學院哲學所研究員，中國社會科學院科學技術和社會研究中心主任?！芭炫取苯?jīng)授權選編。