21世紀(jì)剛剛來(lái)臨時(shí)，當(dāng)時(shí)著名的太陽(yáng)微系統(tǒng)公司的創(chuàng)始人、首席科學(xué)家 比爾?喬伊（Bill Joy）發(fā)表了一篇《為什么未來(lái)不需要我們》 （Why the Future Doesn’t Need Us） 的文章。 他指出，在21世紀(jì)，人類擁有的最強(qiáng)大的三種技 術(shù)———機(jī)器人技術(shù)、基因工程技術(shù)和納米技術(shù)———正在使人類自身成為瀕危 物種。與此同時(shí)，雷?庫(kù)茲韋爾（Ray Kurzweil）在《靈魂機(jī)器的時(shí)代》《奇點(diǎn) 臨近》等書(shū)中則樂(lè)觀地指出，人類將在機(jī)器的幫助下獲得永生。

在當(dāng)前的人工智能熱潮中，機(jī)器人和人工智能會(huì)不會(huì)超過(guò)人類智能，是否會(huì)取代人的問(wèn)題 再次備受關(guān)注。 樂(lè)觀主義者認(rèn)為，全面超越人類智能的超級(jí)人工智能一旦出現(xiàn)，將為人類帶來(lái)新的文明躍遷。 悲觀主義者則認(rèn)為，人工智能對(duì)人類智能的超越將打破人類智能在地球的絕對(duì)優(yōu)勢(shì)，即便不會(huì)出現(xiàn)“機(jī)器覺(jué)醒”——機(jī)器人和人工智能統(tǒng)治人的情形，人工智能的發(fā)展也可能使人類自身變成多余的物種或無(wú)用的人。

不論這些觀點(diǎn)所描述的未來(lái)是烏托邦還是反烏托邦，可以都以它們?yōu)閰⒄?，立足人工智能發(fā)展的現(xiàn)實(shí)，系統(tǒng)地展開(kāi)人文或哲學(xué)社會(huì)科學(xué)的反思，以此深入思考人工智能等未來(lái)科技發(fā)展的上限和下限，找到人類可以普遍接受的深度科技化的前景。

人類未來(lái)究竟會(huì)是一幅怎樣的圖景？ 未來(lái)圖景一是融合科技與后人類發(fā)展。 依照這一圖景，除了人工智能可能發(fā)展出超級(jí)人工智能之外，納米、生命、認(rèn)知和信息等融合科技將使人類的認(rèn)知與智能增強(qiáng)成為可能，甚至與人工智能和機(jī)器人融為一體，乃至可以通過(guò)意識(shí)上傳和身體替代而獲得永生。

例如，可以通過(guò)藥物、基因技術(shù)等實(shí)現(xiàn)認(rèn)知與智能增強(qiáng)，如服用聰明藥可以使人的智能得到改善。 此外，可以通過(guò)讀心術(shù)、讀腦術(shù)、認(rèn)知介入技術(shù)、人機(jī)融合的“賽博格”技術(shù)等，走向超人類或后人類。 例如，不僅人的而且動(dòng)物的記憶都有可能被移植。 但這些技術(shù)若能得到開(kāi)發(fā)并付諸應(yīng)用，必將帶來(lái)一些難以回避的問(wèn)題。

人類不得不思考的是，人之所以為人，一個(gè)最重要的因素是具有自主性，認(rèn)知介入技術(shù)的發(fā)展會(huì)不會(huì)使人的自主性受到?jīng)_擊？ 人還有沒(méi)有認(rèn)知上的自由？ 把別人的記憶移植到某人的大腦以后，怎么知道認(rèn)知是移植過(guò)來(lái)的還是自身的？

未來(lái)圖景二是機(jī)器掌控世界。 機(jī)器智能超越人類智能，機(jī)器可以在無(wú)人監(jiān)督的情況下自主學(xué)習(xí)、自行決策甚至自動(dòng)升級(jí)，人類的命運(yùn)因此可能在很大程度上為機(jī)器所掌握。 如果機(jī)器智能在功能上超越人類智能，甚至從其心智中涌現(xiàn)出意識(shí)和自我意識(shí)，人類是否會(huì)被機(jī)器消滅，取決于人類賦予機(jī)器智能的倫理架構(gòu)是否能在終極意義上，使智能機(jī)器遵循機(jī)器人三定律等倫理義務(wù)或絕對(duì)的道德命令。

如果機(jī)器智能在功能上超越人類，但不可能生成意識(shí)和自我意識(shí)，人類很可能因?yàn)閷?duì)機(jī)器的依賴越來(lái)越強(qiáng)，而將越來(lái)越多和越來(lái)越復(fù)雜的任務(wù)交給機(jī)器處理，最終越來(lái)越無(wú)力掌控維持人類社會(huì)運(yùn)轉(zhuǎn)的復(fù)雜決策和行動(dòng)，不得不逐漸將命運(yùn)在事實(shí)上完全托付給機(jī)器。 在此不可逆的未來(lái)情境中，即便人類認(rèn)識(shí)到不應(yīng)該由機(jī)器掌控世界，也會(huì)因?yàn)閷?duì)機(jī)器的高度依賴而無(wú)法通過(guò)關(guān)閉機(jī)器重獲主導(dǎo)權(quán)。

未來(lái)圖景三是人類依然保持對(duì)機(jī)器的控制，但出現(xiàn)了難以消弭和日漸擴(kuò)大的智能化鴻溝。 在此未來(lái)情境中，機(jī)器和社會(huì)為少數(shù)掌握權(quán)力、資本和創(chuàng)新的精英所控制，人口中的大多數(shù)越來(lái)越多地放棄工作而成為社會(huì)系統(tǒng)中不必要的“累贅”，即所謂“無(wú)用階層”的出現(xiàn)。

而“無(wú)用階層”無(wú)疑會(huì)對(duì)社會(huì)治理帶來(lái)巨大的挑戰(zhàn)。 如何對(duì)其進(jìn)行心理疏導(dǎo)和社會(huì)管控？ 如何從心理和精神層面對(duì)其進(jìn)行智能化的引導(dǎo)和校正？ 由此也可能會(huì)帶來(lái)更為復(fù)雜的問(wèn)題，特別是可能出現(xiàn)智能算法的非人格化權(quán)力在對(duì)不同群體的賦能和授權(quán)上的不平等，以及由此形成的漸行漸遠(yuǎn)的智能化鴻溝等根本性分歧。

透過(guò)這些可能的情景構(gòu)想，人工智能和智能化的未來(lái)發(fā)展將呈現(xiàn)諸多不易解決的難題。 首先，人工智能與智能化發(fā)展可能會(huì)導(dǎo)致社會(huì)不平等的激化與極端化。 與以往的自動(dòng)化及網(wǎng)絡(luò)信息技術(shù)一樣，人工智能和智能化的發(fā)展日益呈現(xiàn)出對(duì)就業(yè)的沖擊，“機(jī)器換人”可謂愈演愈烈，而這一沖擊很可能加劇甚至激化社會(huì)群體的不平等。

一般而言，自動(dòng)化與信息化的發(fā)展替代了一些勞動(dòng)力，其創(chuàng)新紅利也帶來(lái)了就業(yè)的增加。 從作為智能化先導(dǎo)的自動(dòng)化與信息化的發(fā)展可以看到，的確出現(xiàn)了低報(bào)酬的簡(jiǎn)單技術(shù)職位與高報(bào)酬的高新科技職位同時(shí)增加的現(xiàn)象。

但問(wèn)題是，一方面，資本對(duì)利潤(rùn)的追逐使得高收入與低收入之間的差距越來(lái)越大。 在巨大的資本投入的影響下，網(wǎng)絡(luò)與金融結(jié)合下的科技金融進(jìn)一步放大了這種不平等，使得互聯(lián)網(wǎng)和金融等行業(yè)的分配體系十分扭曲。 在網(wǎng)紅經(jīng)濟(jì)中，網(wǎng)紅與明星不合理的高收入，也是拜當(dāng)下網(wǎng)絡(luò)媒體或智能化的發(fā)展背后的巨大資本投入所賜。 當(dāng)前的大數(shù)據(jù)、人工智能熱潮與互聯(lián)網(wǎng)的發(fā)展一脈相承，在很多人工智能的應(yīng)用領(lǐng)域，收入的差異與不平等也呈現(xiàn)出類似的兩極化趨勢(shì)。

另一方面，智能化的發(fā)展將使職業(yè)變更日益頻繁，由于低報(bào)酬的簡(jiǎn)單技術(shù)職位的知識(shí)與科技含量不高，相關(guān)從業(yè)者的學(xué)習(xí)能力有限，轉(zhuǎn)換新職業(yè)的能力較弱。 因此，人工智能等智能化技術(shù)的發(fā)展對(duì)就業(yè)適應(yīng)能力差的低收入從業(yè)人員的沖擊尤其值得關(guān)注。

其次，人工智能對(duì)就業(yè)的沖擊難免進(jìn)一步引發(fā)人們對(duì)智能化未來(lái)帶有一種根本性的憂思：面對(duì)人工智能與智能化的發(fā)展，人類還剩下哪些不會(huì)被機(jī)器取代的優(yōu)勢(shì)？ 這也可以說(shuō)是一種危機(jī)意識(shí)。 為此，不妨列一個(gè)所謂的“人類剩余優(yōu)勢(shì)清單”：智能化時(shí)代來(lái)臨以后，到目前為止，人類至少在創(chuàng)造性與變通性、社會(huì)知覺(jué)、談判藝術(shù)和論證能力等方面勝機(jī)器一籌。

最后，信息化與智能化的發(fā)展已經(jīng)或可能會(huì)帶來(lái)一系列困擾人類的疾患，如虛擬現(xiàn)實(shí)成癮、辨別現(xiàn)實(shí)障礙、身份認(rèn)同焦慮、機(jī)械移植排異、超智能精神失常、機(jī)器人恐懼癥、自我刺激成癮、壽命延長(zhǎng)倦怠等。

在這些問(wèn)題背后更為根本的一個(gè)問(wèn)題是，近半個(gè)多世紀(jì)以來(lái)，多元主義與反基礎(chǔ)主義等思想的濫觴固然有治療激進(jìn)主義與獨(dú)斷論之功效，人類文明似乎已經(jīng)在思想層面放棄了對(duì)人的發(fā)展和演進(jìn)具有一定之規(guī)的統(tǒng)一陳述。 毫不夸張地說(shuō)，面對(duì)深度科技化的沖擊與挑戰(zhàn)，人類的各種利益紛爭(zhēng)和價(jià)值糾結(jié)愈益盤(pán)根錯(cuò)節(jié)，人類在整體上其實(shí)已經(jīng)迷失了發(fā)展的目標(biāo)和方向，而只能一邊在經(jīng)驗(yàn)主義、功利主義和實(shí)用主義的裹挾下盲目前行，一邊祈禱宙斯和雅典娜繼續(xù)賦予人類得以幸存的好運(yùn)氣。

-----

本文節(jié)選自作者刊于《當(dāng)代美國(guó)評(píng)論》2019年第1期的論文“面向人工智能時(shí)代的倫理策略”。作者段偉文系中國(guó)社科院哲學(xué)所研究員。“澎湃”經(jīng)授權(quán)選編。