《人類(lèi)簡(jiǎn)史》作者、以色列歷史學(xué)家尤瓦爾·赫拉利。

這篇題為《你可以擁有藍(lán)色藥丸或紅色藥丸，我們已經(jīng)沒(méi)有藍(lán)色藥丸了》的文章發(fā)表在《紐約時(shí)報(bào)》。紅色藥丸與藍(lán)色藥丸（red pill and blue pill）是一種流行的迷因，意思是在令人不安的知識(shí)和殘酷現(xiàn)實(shí)的“紅色藥丸”與保持愚昧并繼續(xù)過(guò)著平凡生活的“藍(lán)色藥丸”之間做出選擇。

文章指出，未對(duì)產(chǎn)品進(jìn)行嚴(yán)格的安全檢查，藥品公司不能向人們出售新藥。生物技術(shù)實(shí)驗(yàn)室不能為了打動(dòng)股東而將新病毒發(fā)布到公共領(lǐng)域。同樣，具有GPT-4及以上能力的人工智能系統(tǒng)，其卷入數(shù)十億人生活的速度，不應(yīng)該超過(guò)文化能安全吸收它們的速度。為了主導(dǎo)市場(chǎng)而展開(kāi)的競(jìng)賽，不應(yīng)該設(shè)定部署人類(lèi)最重要技術(shù)的速度。

“自20世紀(jì)中期以來(lái)，人工智能的幽靈一直困擾著人類(lèi)，但直到最近，它仍然是一個(gè)遙遠(yuǎn)的前景，是屬于科幻小說(shuō)而不是嚴(yán)肅科學(xué)和政治辯論的東西。我們?nèi)祟?lèi)的頭腦很難掌握GPT-4和類(lèi)似工具的新能力，更難掌控這些工具發(fā)展更先進(jìn)和更強(qiáng)大能力的指數(shù)級(jí)速度。但大多數(shù)關(guān)鍵技能歸結(jié)為一件事：操縱和生成語(yǔ)言的能力，無(wú)論是用文字、聲音還是圖像。”文章寫(xiě)道。

“起初是文字。語(yǔ)言是人類(lèi)文化的操作系統(tǒng)。從語(yǔ)言中產(chǎn)生了神話和法律，眾神和金錢(qián)，藝術(shù)和科學(xué)，友誼和國(guó)家，以及計(jì)算機(jī)代碼。人工智能對(duì)語(yǔ)言的掌握，意味著它現(xiàn)在可以入侵并操縱文明的操作系統(tǒng)。通過(guò)對(duì)語(yǔ)言的掌握，人工智能正在奪取文明的萬(wàn)能鑰匙，從金庫(kù)到圣墓?！蔽恼吕^續(xù)寫(xiě)道。

對(duì)人類(lèi)來(lái)說(shuō)，生活在這樣一個(gè)世界里意味著什么？“在這個(gè)世界里，很大比例的故事、旋律、圖像、法律、政策和工具都是由非人類(lèi)智能塑造的，它知道如何以超人的效率利用人類(lèi)思維的弱點(diǎn)、偏見(jiàn)和成癮，同時(shí)知道如何與人類(lèi)形成親密的關(guān)系？在像國(guó)際象棋這樣的游戲中，沒(méi)人有希望能擊敗計(jì)算機(jī)。當(dāng)同樣的事情發(fā)生在藝術(shù)、政治或宗教領(lǐng)域時(shí)會(huì)發(fā)生什么？”作者問(wèn)道。

“AI可以迅速吃掉整個(gè)人類(lèi)文化——我們幾千年來(lái)產(chǎn)生的一切——消化它，并開(kāi)始涌出大量的新文化藝術(shù)品。不僅僅是學(xué)校作文，還有政治演說(shuō)、意識(shí)形態(tài)宣言、新邪教的圣書(shū)。到2028年，美國(guó)總統(tǒng)競(jìng)選可能不再由人類(lèi)主持?！?/p>

這篇文章認(rèn)為，人類(lèi)往往不能直接接觸到現(xiàn)實(shí)，而是被文化所籠罩，通過(guò)文化棱鏡體驗(yàn)現(xiàn)實(shí)?！拔覀兊恼斡^點(diǎn)是由記者的報(bào)道和朋友的軼聞形成的。我們的性偏好是由藝術(shù)和宗教來(lái)調(diào)整的。到目前為止，這個(gè)文化之繭是由其他人類(lèi)編織的。通過(guò)非人類(lèi)智慧產(chǎn)生的棱鏡來(lái)體驗(yàn)現(xiàn)實(shí)會(huì)是什么樣子？”

“幾千年來(lái)，我們?nèi)祟?lèi)一直生活在其他人類(lèi)的夢(mèng)中。我們崇拜神靈，追求美麗的理想，并把我們的生命獻(xiàn)給源于某些先知、詩(shī)人或政治家想象的事業(yè)。很快，我們也會(huì)發(fā)現(xiàn)自己生活在非人類(lèi)智慧的幻覺(jué)中?！?/p>

文章舉例稱(chēng)，《終結(jié)者》系列電影描繪了機(jī)器人在街上奔跑和射擊的場(chǎng)景?！逗诳偷蹏?guó)》假設(shè)要獲得對(duì)人類(lèi)社會(huì)的完全控制，人工智能將不得不首先獲得對(duì)我們大腦的物理控制，并將它們直接連接到計(jì)算機(jī)網(wǎng)絡(luò)。然而，只要掌握了語(yǔ)言，AI就會(huì)擁有它所需要的一切，將人類(lèi)控制在一個(gè)類(lèi)似母體的幻覺(jué)世界中，而不需要向任何人開(kāi)槍或在大腦中植入任何芯片。如果有必要開(kāi)槍?zhuān)斯ぶ悄芸梢宰屓祟?lèi)扣動(dòng)扳機(jī)，只需要對(duì)人類(lèi)講述合適的故事即可。

文章指出：“社交媒體是人工智能與人類(lèi)的第一次接觸，而人類(lèi)輸了。第一次接觸讓我們嘗到了隨之而來(lái)的苦果。在社交媒體中，初期的人工智能不是用來(lái)創(chuàng)造內(nèi)容，而是用來(lái)組織用戶(hù)生成的內(nèi)容。新聞瀑布流背后的人工智能仍然在選擇哪些文字、聲音和圖像到達(dá)我們的視網(wǎng)膜和耳膜，其依據(jù)是選擇那些將獲得最廣傳播、最大反應(yīng)和最多參與的內(nèi)容。

“雖然非常原始，但社交媒體背后的人工智能足以創(chuàng)造出一幕幕幻象，加劇了社會(huì)的兩極分化，破壞了我們的心理健康，并使民主解體。數(shù)以百萬(wàn)計(jì)的人將這些幻覺(jué)與現(xiàn)實(shí)混淆。美國(guó)擁有歷史上最好的信息技術(shù)，但美國(guó)公民卻無(wú)法再就誰(shuí)贏得選舉達(dá)成共識(shí)。盡管現(xiàn)在每個(gè)人都已經(jīng)意識(shí)到了社交媒體的弊端，但由于我們太多的社會(huì)、經(jīng)濟(jì)和政治機(jī)構(gòu)已經(jīng)與之糾纏在一起，所以這個(gè)問(wèn)題還沒(méi)有得到解決。

紀(jì)錄片《監(jiān)視資本主義：智能陷阱》揭示了人類(lèi)日益依賴(lài)社交媒體帶來(lái)的后果。

“大型語(yǔ)言模型是我們與人工智能的第二次接觸，我們不能再輸了。但是，我們應(yīng)該在什么基礎(chǔ)上相信人類(lèi)有能力使這些新形式的人工智能與我們的利益相一致？如果我們繼續(xù)像往常一樣，新的人工智能能力將再次被用來(lái)獲得利潤(rùn)和權(quán)力，即使它在無(wú)意中破壞了我們社會(huì)的基礎(chǔ)?！?/p>

文章最后強(qiáng)調(diào)，人工智能確實(shí)有潛力幫助戰(zhàn)勝癌癥，發(fā)現(xiàn)拯救生命的藥物，為氣候和能源危機(jī)提供解決方案，還有無(wú)數(shù)無(wú)法想象的其他好處?！暗?，如果地基坍塌，人工智能組裝的利益摩天大樓有多高也不重要了?！?/p>

作者發(fā)出呼吁：“在我們的政治、經(jīng)濟(jì)和日常生活變得依賴(lài)人工智能之前，是時(shí)候重視人工智能了。民主是一種對(duì)話，對(duì)話依賴(lài)于語(yǔ)言，而當(dāng)語(yǔ)言本身被入侵時(shí)，對(duì)話就會(huì)中斷，民主就會(huì)變得無(wú)法維持。如果我們等待混亂的發(fā)生，再來(lái)補(bǔ)救就太晚了。

“我們已經(jīng)召喚出了一個(gè)外星智能。我們對(duì)它了解不多，只知道它非常強(qiáng)大，為我們提供了令人眼花繚亂的禮物，但也可能破壞我們文明的基礎(chǔ)。我們呼吁世界各國(guó)領(lǐng)導(dǎo)人以對(duì)應(yīng)其挑戰(zhàn)的水平來(lái)應(yīng)對(duì)這一時(shí)刻。第一步是爭(zhēng)取時(shí)間，為人工智能世界升級(jí)我們19世紀(jì)的機(jī)構(gòu)，并在人工智能掌控我們之前學(xué)會(huì)掌控它?！?/p>

尤瓦爾·赫拉利長(zhǎng)期關(guān)注人工智能對(duì)世界的影響，著有《人類(lèi)簡(jiǎn)史》《未來(lái)簡(jiǎn)史》和《今日簡(jiǎn)史》等書(shū)籍，并創(chuàng)辦了Sapienship國(guó)際咨詢(xún)公司。特里斯坦·哈里斯和阿扎·拉斯金是“人道主義技術(shù)中心（Center for Humane Technology）”的創(chuàng)始人，他們參與制作的紀(jì)錄片《監(jiān)視資本主義：智能陷阱》也被譯作《社交陷阱》，揭示了人類(lèi)日益依賴(lài)社交媒體帶來(lái)的后果：人類(lèi)社會(huì)正面臨一個(gè)生死攸關(guān)的危機(jī)，被人工智能、大數(shù)據(jù)和算法模型所控制，導(dǎo)致出現(xiàn)最近幾年的分裂和混亂。