人工智能與文本末世

人工智能語言模型的快速發(fā)展將會如何影響我們的寫作？2023年，馬里蘭大學英語系的學者馬修·柯申鮑姆（Matthew Kirschenbaum）提出了文本末世（Textpocalypse）的理論。伴隨著生成式人工智能的爆發(fā)，我們更有理由去反思生成式人工智能對于原創(chuàng)思想和文學創(chuàng)造力的削弱。

在文章《迎接文字末日》（Prepare for the Textpocalypse）中，柯申鮑姆提出：我們與書面文字的關(guān)系正在發(fā)生根本性的變化。所謂的“生成式人工智能”已經(jīng)通過 ChatGPT 等程序進入主流。這些程序使用大型語言模型（LLM），通過統(tǒng)計預測文本序列中的下一個字母或單詞，從而生成模仿被輸入文檔的句子和段落。它們將類似“自動補全”的功能擴展到了整個互聯(lián)網(wǎng)。

柯申鮑姆隨后提出了擔憂：此前，人們通過主動輸入提示詞來訓練這些模型，這些模型（大多數(shù)情況下）仍然主要基于人類創(chuàng)作的文本進行訓練。然而，自ChatGPT API 發(fā)布以來，過去的訓練模式可能被顛覆——機器可以提示其他機器無休止地生成文本，利用機器生成的文字“自我訓練”，這些毫無人味的合成文本將迅速充斥互聯(lián)網(wǎng)，就像文字版的灰色粘質(zhì)（gray goo，一種科幻概念，指納米機器人消耗完地球上所有的生物量，通過無限自我復制造成的末日災難）。

不論是出于商業(yè)目的，政治宣傳，甚至是為了某些惡趣味，這些系統(tǒng)都將生成大量的文本，并將它們投放到互聯(lián)網(wǎng)上，與其他信息混雜在一起。這并非危言聳聽，2022年6月，一個經(jīng)過調(diào)整的開源語言模型GPT-J被植入匿名論壇 4chan，它在24小時內(nèi)發(fā)布了 15000條大多帶有攻擊性的帖子。設(shè)想某人建立一個系統(tǒng)，使人工智能程序不斷自我查詢，并自動將生成內(nèi)容發(fā)布到網(wǎng)站或社交媒體上，形成一個永無止境的內(nèi)容流。這些內(nèi)容不僅干擾互聯(lián)網(wǎng)上的信息流，還會被重新吸收進訓練數(shù)據(jù)集，最終影響模型生成的新內(nèi)容。這些信息的準確性也難以保證，科技新聞網(wǎng)站CNET曾發(fā)布過數(shù)十篇由AI輔助撰寫的文章，試圖吸引流量，而其中超過一半的文章被發(fā)現(xiàn)存在錯誤。

我們可能很快會面臨一場文本末世（Textpocalypse），屆時機器生成的語言將成為常態(tài)，而人類撰寫的文章則成為例外。屆時，網(wǎng)絡(luò)上的人類創(chuàng)作文本可能會變得稀有，就像書法家的珍貴作品一般。這仿佛一場全球性的垃圾信息（spam）事件，但我們尚未開發(fā)出有效的過濾機制。

許多人沒有意識到的是，文本是內(nèi)容，但它是一種特殊的內(nèi)容——“元內(nèi)容”（meta-content）。在每個網(wǎng)頁的表層之下，都隱藏著文本，用尖括號括起的指令或代碼，決定頁面的外觀和行為。瀏覽器與服務(wù)器之間通過文本進行連接和交流。編程同樣通過純文本進行。圖像、視頻和音頻都依賴文本進行描述和標注，這些文本被稱為元數(shù)據(jù)（metadata）?；ヂ?lián)網(wǎng)遠不止是文本，但從根本上說，互聯(lián)網(wǎng)的每個元素都是由文本支撐的。

長期以來，“讀—寫”網(wǎng)絡(luò)（read-write web）一直是互聯(lián)網(wǎng)的基本范式。我們不僅消費內(nèi)容，還能生產(chǎn)內(nèi)容，通過編輯、評論和上傳來參與網(wǎng)絡(luò)的構(gòu)建。然而，如今我們正處在邁向“寫—寫”網(wǎng)絡(luò)（write-write web）的邊緣：網(wǎng)絡(luò)開始自行書寫和重寫，甚至在這個過程中可能會重新構(gòu)建自身。

針對柯申鮑姆的文章，威諾納州立大學大眾傳播學副教授達文·赫克曼 (Davin Heckman) 提出三點思考：第一，一旦無休止的、令人信服卻完全空洞的機器人詭辯泛濫成災，那么參與和表達有意義內(nèi)容的場所的價值將迅速下降。換句話說，繁榮之后便是衰敗。俗話說，“說話不花錢”，但話語的價值將變得更加廉價。很快，你會看到人們推著滿載文字的手推車走出圖書館，而這些文字的價值甚至比承載它們的紙張還要低。

其次，根據(jù)斯蒂格勒的理論：個體化作為一個過程（而非目標），它與個人的（心理的）、集體的（社會的）和技術(shù)的日常生活協(xié)商密切相關(guān)。人們在參與心靈、社會與文化生活時，個體性才會作為一種自我意識不斷地生成和變化。然而，在越發(fā)技術(shù)化、自動化的社會中，人與人之間的互動變得更加空洞。社會世界已經(jīng)變得傾向于選擇欲望與滿足之間的最短距離，沒有空間進行反思、社交互動，更不用說歷史性的推測了。人類語言被簡化為稀疏的禮節(jié)性功能，這種功能反映了我們在社交媒體上所學會的強迫性手勢（點贊?。Ｎ磥?，人工智能可能進一步塑造人與人之間的互動方式。

最后，赫克曼質(zhì)疑了人工智能成為社會知識基礎(chǔ)的替代的可行性。赫克曼提出：智慧存在于城市、鄉(xiāng)村、家庭、教堂、工作場所等地。換句話說，智力生活不僅依賴于個體的智力，還依賴于社會知識基礎(chǔ)的形成；依賴于社區(qū)知識和分析能力的聚合。當一個活躍的社區(qū)將自己視為跨代的實體時，它會收集來自過去世代的信息，并為未來世代保存信息，運用記憶技術(shù)和技巧，建立檔案。個體、社區(qū)和文化的這種整合是文明意義的基礎(chǔ)。人工智能的出現(xiàn)，提供給人們更加直接的“回答”，讓人質(zhì)疑保存和建檔的工作意義，這似乎也預示著人們逐步放棄建立社區(qū)的艱巨任務(wù)。

自《迎接文字末日》發(fā)布以來，已經(jīng)過去了兩年時間，人工智能以更加迅猛的勢頭飛速發(fā)展。柯申鮑姆近日寫道：如今，正如關(guān)于AI“劣質(zhì)內(nèi)容”泛濫的新聞標題所揭示的，文本末世已基本成為現(xiàn)實。如今的文本已不再是為了被閱讀，甚至不再是供人消費的內(nèi)容，而更接近一種通用貨幣——一種無限的、可替代的代幣，成為新的（并且具有掠奪性的）書寫經(jīng)濟的化石燃料。

無論一場完全自動化的文本末世是否真的會降臨，這一趨勢都在加速發(fā)展。從類型小說到醫(yī)生報告，我們或許無法再輕易假定自己正在閱讀的文本出自人類之手。寫作（尤其是數(shù)字文本），作為一種人類表達形式正在逐漸與我們疏離。這些文字，最終可能也難逃被吸納進下一代生成式人工智能的訓練數(shù)據(jù)之列，不可避免地淪為即將到來的文本末世的燃料。

寫作定義人類

人工智能會取代作家嗎？美國作家海倫·菲利普斯（Helen Phillips）給出了她的答案：也許正是在這個技術(shù)爆炸的時代，人類的寫作變得更有意義。

菲利普斯2月14日接受了CBC加拿大電臺采訪，在談?wù)撍钚鲁霭娴男≌f《嗡鳴》（Hum）時，探討了在由人工智能驅(qū)動的日常生活中，是什么讓我們成為人類。

菲利普斯是布魯克林學院教授，已出版六本書，包括入圍美國國家圖書獎的小說《需要》（The Need），以及獲得約翰·加德納小說獎的短篇小說集《一些可能的解決方案》（Some Possible Solutions）。

《嗡鳴》書封

“我的焦慮是我的靈感：更深入地理解這些焦慮，直面它們，也許能找到某種解決方案?！彼贐ookends節(jié)目訪談中說，“對我來說，面對焦慮的過程就是更多地了解我所擔心的事情?！?/p>

這種將焦慮轉(zhuǎn)化為故事的能力，源于她的童年經(jīng)歷。11歲那年，菲利普斯因自身免疫性疾病失去了所有頭發(fā)?！霸谀嵌巫钇D難的時期，寫作給了我一個自由的空間。13歲開始，我給自己定了個目標：每天寫一首詩。這個習慣一直堅持了八年?！?/p>

對菲利普斯而言，寫作不僅是表達方式，更是將私人經(jīng)驗轉(zhuǎn)化為可共享敘事的過程。“當我用語言表達出來時，它就轉(zhuǎn)變成了我可以與他人分享的東西。當我與他人分享時，它就不再是我一個人承擔的負擔?！边@種將個人危機轉(zhuǎn)化為普遍意義的能力，正是人類寫作區(qū)別于人工智能文本生成的關(guān)鍵。

在寫作《嗡鳴》時，菲利普斯直面了對于人工智能和氣候變化的恐懼。

故事發(fā)生在一個反烏托邦世界，這個世界既熟悉又與我們的現(xiàn)實有微妙的不同。氣候變化已經(jīng)破壞了環(huán)境。（“要是森林沒有被燒毀就好了，”May想。“要是離開城市、越過眾多工業(yè)和荒蕪地帶不是那么困難、那么昂貴就好了?！保?/span>攝像頭和屏幕與空氣中的污染一樣無處不在；隱私、親近自然和免受廣告干擾已成為奢侈品。智能機器人(稱為“Hum”)在這里行走、說話并執(zhí)行各種工作。這里的年幼兒童普遍佩戴智能手表方便家長來監(jiān)測他們。幾乎每個大人都沉迷于被稱為“Woom”的個人虛擬現(xiàn)實艙。

許多工作都被自動化取代，包括May的工作。她曾在一家開發(fā)“人工智能溝通能力”的公司工作，但在無意中訓練了一個使她自己變得多余的人工智能網(wǎng)絡(luò)后被解雇。她的丈夫Jem是一名前攝影師，現(xiàn)在靠清理捕鼠器和打掃壁櫥的零工維持生計。這對夫婦對未來的焦慮已經(jīng)影響到他們的孩子，8歲的Lu和6歲的Sy，他們表現(xiàn)出對蟑螂的呵護、對防災手冊的癡迷，以及對無味草莓的歡欣。

為了賺取相當于十個月生活費的報酬，May參加了一項實驗手術(shù)。她用掙來的一部分錢帶全家去了植物園——這個被圍墻圈起來的“自然樂園”已經(jīng)成為富人社交媒體的打卡勝地。當兩個孩子看到一則昂貴軟糖的廣告時興奮不已，May無法拒絕他們。她剛批準購買——只需要兩個字——軟糖就“在他們嘴里……在他們舌頭上香甜地融化”。這些細節(jié)提出了一個問題：在一個快感被渴望、被創(chuàng)造、又在呼吸間就消耗殆盡的世界里，你能給孩子們什么持久的幸福？當一切都是一次性的時候，你如何保護他們的幸福？

這種母職焦慮似乎已成為當代文學的一個顯著主題?！都~約客》把這部小說歸類為“生態(tài)焦慮媽媽文學”：育兒焦慮有了新的對象，不是未寫的文字或未實現(xiàn)的職業(yè)目標，而是地球的毀滅。

最近幾年，確實出現(xiàn)了不少類似作品：Lauren Groff的《佛羅里達》（Florida，2018）里，一位母親整天刷著環(huán)境災難新聞；Jenny Offill的《天氣》（Weather，2020）中，主人公的工作是回復氣候危機播客聽眾的焦慮郵件；Kate Zambreno的《光之室》（The Light Room，2023）描寫了一位在極端高溫中帶娃的媽媽。這些書的敘述者痛苦地意識到人為的氣候變化和失控的資本主義，她們對即將到來的反烏托邦世界充滿恐懼。《嗡鳴》呈現(xiàn)的未來愿景，不是即將來臨的末日，而是May日常生活中令人失去人性、失去快樂的磨難，這是一場持久地對抗消費和技術(shù)媒介的戰(zhàn)斗。

小說中無處不在的機器人“Hum”性格溫和，富有同理心，在植物園里像精靈一樣為游客服務(wù)。提到小說標題“嗡鳴”的雙重含義：既是無處不在的數(shù)字噪音，也是人類最原始的發(fā)聲方式——哼唱、低語、搖籃曲。就像我們既是人工智能的創(chuàng)造者，又可能成為它的受害者。這種矛盾本身就很有意思。

或許這就是為什么人類寫作仍然有其不可替代的位置。不是因為技術(shù)的限制——這些限制終將被突破，而是因為某些經(jīng)驗只能通過人類的身體和情感來理解和表達。就像May在夜里問她的丈夫：“等他們到了我們這個年齡，這個星球還能給他們什么？”這個問題的力量不在于它的修辭，而在于它背后真實的恐懼和愛。