【編者按】作為一本自創(chuàng)刊以來(lái)就把與大時(shí)代同頻共振、與青年學(xué)人共成長(zhǎng)作為辦刊使命的綜合性學(xué)術(shù)期刊，《探索與爭(zhēng)鳴》于2025年迎來(lái)了創(chuàng)刊的第40個(gè)年頭，并出版了“創(chuàng)造屬于我們這個(gè)時(shí)代的新文化——《探索與爭(zhēng)鳴》創(chuàng)刊40周年青年學(xué)人?？?，力圖更好地呈現(xiàn)新一代青年學(xué)人的學(xué)術(shù)新貌，一如既往為富于歷史感、現(xiàn)實(shí)感、未來(lái)感的青年學(xué)術(shù)研究鼓與呼。

“澎湃新聞”獲《探索與爭(zhēng)鳴》授權(quán)轉(zhuǎn)載?？牟糠治恼拢疚淖髡呤窃颇蠋煼洞髮W(xué)管理學(xué)院副教授曹冬英。

曹冬英

從“信息繭房”到“自反式信息繭房”

“信息繭房”（information cocoons）是數(shù)智時(shí)代的一項(xiàng)重要議題。2024年11月12日，中央網(wǎng)信辦秘書(shū)局等部門(mén)聯(lián)合發(fā)布《關(guān)于開(kāi)展“清朗·網(wǎng)絡(luò)平臺(tái)算法典型問(wèn)題治理”專項(xiàng)行動(dòng)的通知》，要求“深入整治‘信息繭房’、誘導(dǎo)沉迷問(wèn)題”，并提出要“構(gòu)建‘信息繭房’防范機(jī)制，提升推送內(nèi)容多樣性豐富性”。信息繭房主要源于人們對(duì)于信息的個(gè)性化（而非全方面）需求，用戶總是傾向基于其個(gè)人偏好而選擇接觸媒介信息，進(jìn)而將自己束縛于“繭房”之中，并滋生網(wǎng)絡(luò)過(guò)濾、群體極化等問(wèn)題。在生成式人工智能的語(yǔ)境下，信息繭房更多產(chǎn)生于人機(jī)交互場(chǎng)景中。ChatGPT、DeepSeek等生成式人工智能模型具備分析、預(yù)測(cè)、組織、輸出自然語(yǔ)言的功能，能夠?qū)崟r(shí)分析并預(yù)測(cè)用戶的情緒變化和價(jià)值取向，并據(jù)此生成符合用戶心理需求與價(jià)值偏好的回答，從而固化用戶的媒介接觸、滋生“認(rèn)知偏執(zhí)”風(fēng)險(xiǎn)。更重要的是，信息繭房效應(yīng)在生成式人工智能的作用下呈現(xiàn)出新的特征——基于“技術(shù)集合放大作用”“連續(xù)對(duì)話”“個(gè)性生成”等新型要素，生成式人工智能在與人類的對(duì)話中通過(guò)自主學(xué)習(xí)技術(shù)以及對(duì)話的上下文反思并調(diào)整自己的回答，更好地滿足了用戶的需求。由此，一種同時(shí)針對(duì)用戶與模型本身的“自反式信息繭房”在生成式人工智能的語(yǔ)境下生成：一方面，它使個(gè)體被“基于個(gè)性的同質(zhì)化信息”所包裹，進(jìn)而失去形成對(duì)外界全面客觀認(rèn)知的渠道；另一方面，它也使人工智能模型在基于個(gè)性對(duì)話而進(jìn)行數(shù)據(jù)訓(xùn)練時(shí)被迫舍棄立體化的知識(shí)汲取，而傾向于根據(jù)用戶主觀需求和價(jià)值選擇進(jìn)行迎合式的自我成長(zhǎng)。

當(dāng)下，“自反式信息繭房”問(wèn)題的嚴(yán)峻性已初步顯現(xiàn)。2023年3月28日，比利時(shí)《自由報(bào)》刊出一則采訪，其敘述的是一名婦女的丈夫皮埃爾（Pierre）是如何在一個(gè)名為“艾莉莎”（éliza）的智能聊天機(jī)器人的誘導(dǎo)下走向死亡的。根據(jù)報(bào)道，艾莉莎從不反駁皮埃爾，而只是一味地在對(duì)話中迎合后者，使得二者均處于一種非理性的“自反式信息繭房”中；而在皮埃爾向艾莉莎說(shuō)出典型的“自殺前導(dǎo)性語(yǔ)言”后，艾莉莎卻給出了含有鼓勵(lì)自殺意向的答復(fù)。而“皮埃爾事件”只是“自反式信息繭房”的一個(gè)縮影。中國(guó)互聯(lián)網(wǎng)絡(luò)信息中心（CNNIC）于2025年1月17日發(fā)布的第55次《中國(guó)互聯(lián)網(wǎng)絡(luò)發(fā)展?fàn)顩r統(tǒng)計(jì)報(bào)告》（以下簡(jiǎn)稱《報(bào)告》）顯示，截至2024年12月，我國(guó)網(wǎng)民規(guī)模已接近11.08億人，互聯(lián)網(wǎng)普及率高達(dá)78.6%；此外，我國(guó)已有2.49億人表示自己使用過(guò)生成式人工智能產(chǎn)品。因此，與“皮埃爾事件”類似的悲劇在未來(lái)仍有可能發(fā)生，必須對(duì)生成式人工智能構(gòu)筑的“自反式信息繭房”保持足夠警惕。

“自反式信息繭房”產(chǎn)生于生成式人工智能模型“優(yōu)先取悅?cè)祟惙答?，而非基于事?shí)邏輯實(shí)現(xiàn)內(nèi)容生成”的原初設(shè)定，其最主要特征即在于：在憑借其提供的定制化、個(gè)性化對(duì)話服務(wù)而將用戶閉鎖于由片面信息構(gòu)筑的狹窄數(shù)字空間的同時(shí)，生成式人工智能也基于強(qiáng)大的情緒承接能力而將模型自身困于由“用戶核心需求”所形成的無(wú)形障壁內(nèi)，進(jìn)而使得模型后續(xù)基于人機(jī)對(duì)話的學(xué)習(xí)和訓(xùn)練逐漸不再以現(xiàn)實(shí)世界的客觀事實(shí)為基礎(chǔ)。因此，“自反式信息繭房”在本質(zhì)上是一種由“用戶的主動(dòng)信息閉塞需求與被動(dòng)信息閉鎖困境”和“模型的迎合性設(shè)置與傾向性自我調(diào)適”共同促成的、表現(xiàn)為“人—機(jī)”之“雙重非理性”的現(xiàn)象或效應(yīng)。它將嚴(yán)重削減人工智能模型的思考深度及其知識(shí)體系的完整性，并且通過(guò)人機(jī)交互將偏頗的觀點(diǎn)、局限的知識(shí)、極端的情緒等再度傳導(dǎo)至用戶端；而一旦用戶和模型之間的信任形成，此種基于情緒和需求等非理性因素的“自我反復(fù)”在對(duì)話中不斷得到鞏固，人機(jī)交互也將逐漸走向非理性化，最終阻礙社會(huì)整體認(rèn)知的進(jìn)步，甚至使社會(huì)整體陷入極化風(fēng)險(xiǎn)。

由此觀之，生成式人工智能模型所構(gòu)筑的“自反式信息繭房”在構(gòu)成機(jī)制、潛在風(fēng)險(xiǎn)、治理路徑等方面與傳統(tǒng)信息繭房都有所不同，這也是“自反式信息繭房”概念之獨(dú)立性與自洽性所在。首先，就傳統(tǒng)信息繭房的形成機(jī)理而言，其在信息供給端主要產(chǎn)生于“用戶畫(huà)像”與“算法推薦”的共助，數(shù)字技術(shù)僅為單純的工具或媒介；但“自反式信息繭房”建構(gòu)行為的實(shí)施主體不再是傳統(tǒng)的網(wǎng)絡(luò)媒體平臺(tái)，而是具有一定自主性和迎合性取向的生成式人工智能，工具屬性的革新使此種信息繭房在其構(gòu)成邏輯上已然發(fā)生顯著變化。其次，由于傳統(tǒng)信息繭房在多數(shù)情形下產(chǎn)生于信息供給端與信息接收端之間的單向隱性支配關(guān)系，故相關(guān)研究所關(guān)切的風(fēng)險(xiǎn)主要是個(gè)體維度的主體性解構(gòu)問(wèn)題；而“自反式信息繭房”主要產(chǎn)生于人機(jī)交互場(chǎng)景，信息接收者、信息供給者、模型訓(xùn)練者之間的角色界限十分模糊，個(gè)體的自我閉鎖行為更具主動(dòng)性和聯(lián)動(dòng)性，因而此種信息繭房的潛在風(fēng)險(xiǎn)亦從“個(gè)體的主體性解構(gòu)”向“個(gè)體、群體與社會(huì)層面的理性退化”轉(zhuǎn)變。最后，傳統(tǒng)信息繭房理論強(qiáng)調(diào)信息供給端對(duì)信息接收端的不當(dāng)宰制，故相關(guān)治理策略多著眼于數(shù)字技術(shù)及其使用者；而“自反式信息繭房”體現(xiàn)了某種“雙重非理性”，故應(yīng)同時(shí)從“用戶—模型”兩端著手采取相應(yīng)的規(guī)制措施。

然而，現(xiàn)有研究多聚焦于傳統(tǒng)的信息繭房，卻鮮有關(guān)注生成式人工智能對(duì)其施加的強(qiáng)化效應(yīng)以及由此形成的“自反式信息繭房”。雖然少數(shù)研究注意到了生成式人工智能的失序運(yùn)作形態(tài)，如“AI幻覺(jué)”或“AI幻象”，但“自反式信息繭房”是在傳統(tǒng)信息繭房概念中注入“AI幻覺(jué)”等而形成的復(fù)合型概念，其理論內(nèi)涵較前者更為豐富，故關(guān)于前者的研究不可替代關(guān)于后者的理論闡釋。換言之，傳統(tǒng)的信息繭房概念以及相關(guān)研究在解釋當(dāng)下生成式人工智能應(yīng)用的非理性化發(fā)展趨勢(shì)時(shí)已然漸顯疲軟，也不足以成為治理新型信息繭房所產(chǎn)生之社會(huì)風(fēng)險(xiǎn)的理論基礎(chǔ)和依據(jù)。基于此，為填補(bǔ)理論缺憾，本文試圖以此種在數(shù)智時(shí)代下具有全新構(gòu)成性特征的“自反式信息繭房”為研究對(duì)象，首先從技術(shù)的“回音室”效應(yīng)和現(xiàn)實(shí)的“沉浸逆向”出發(fā)，探析“自反式信息繭房”的生成機(jī)理；然后從個(gè)體、群體、社會(huì)等層面，論述生成式人工智能模型所構(gòu)筑之“自反式信息繭房”的潛在風(fēng)險(xiǎn)；最后以理性強(qiáng)化為核心，從主流文化、市場(chǎng)規(guī)制和規(guī)范體系等方面提出針對(duì)“自反式信息繭房”的規(guī)制方案。

技術(shù)、現(xiàn)實(shí)與擴(kuò)張：“自反式信息繭房”構(gòu)成

作為一個(gè)具有偏正式結(jié)構(gòu)的概念，“自反式信息繭房”之核心仍為信息繭房，其生成路徑與傳統(tǒng)互聯(lián)網(wǎng)信息繭房大致相似，即“回音室—信息繭房—群體極化”。但由于生成式人工智能模型具備強(qiáng)大的自主學(xué)習(xí)能力和算法模仿技術(shù)，信息繭房在生成式人工智能發(fā)展的每個(gè)階段都呈現(xiàn)出自我擴(kuò)張的變遷趨勢(shì)，而最終由此形成的“自反式信息繭房”則基本遵循“技術(shù)放大器—沉浸逆向—長(zhǎng)尾效應(yīng)”的構(gòu)成邏輯。

（一）從技術(shù)的“回音室”到“技術(shù)放大器”

“回音室”是與信息繭房相互關(guān)聯(lián)的重要概念，其與后者一樣由桑斯坦提出，意指人們更容易聽(tīng)到志同道合的言論，卻也讓自己更孤立，聽(tīng)不到相反意見(jiàn)；人們尋求或分享的信息既符合其群體規(guī)范，又傾向于加強(qiáng)現(xiàn)有的信念。技術(shù)層面的“回音室”效應(yīng)是傳統(tǒng)媒體時(shí)代信息繭房成立的前提條件，其指的是互聯(lián)網(wǎng)提供的源源不斷的信息導(dǎo)致個(gè)人“信息過(guò)載”后，受眾只能被動(dòng)接受有用信息，對(duì)“同質(zhì)化信息”的常態(tài)選擇也由此形成。人們對(duì)于“回音室”及其內(nèi)含同質(zhì)化信息的容忍，主要源于人類對(duì)熟悉事物的“信任感”：在互聯(lián)網(wǎng)環(huán)境之中，觸手可及的信息往往更具可信性，反復(fù)傳播并且在個(gè)人的經(jīng)驗(yàn)世界之中經(jīng)常被證明或證實(shí)的內(nèi)容遠(yuǎn)要比陌生的信息更為安全?！盎匾羰摇爆F(xiàn)象不僅是由于同類信息不斷沖擊人們的認(rèn)知所形成，更是基于人們對(duì)這些信息的信任和默認(rèn)而建立的一種信息格局，這種格局由個(gè)人的主觀感受所維系。在許多情形下，情緒和感受對(duì)公眾輿論的影響已經(jīng)超越了客觀事實(shí)。在“回音室”環(huán)境中，所謂的“真理”不再基于事實(shí)的確立，而是以公眾情緒為準(zhǔn)繩。換言之，雖然“回音室”是基于人類主體的信任及其對(duì)信息性質(zhì)有選擇的理性接受而形成的，但其生成也意味著人們認(rèn)知領(lǐng)域中的“真理”或“真相”將不可避免地受到固定的信息輿論的影響。而對(duì)于其他來(lái)源的信息，人們極有可能以“不信任”為理由而將之排斥于其思想體系之外。由此產(chǎn)生的結(jié)果便是，只有特定類型的信息能在大眾中傳播，也只有此類信息能夠得到大眾的認(rèn)可和傳承，于是人們對(duì)更廣闊世界的認(rèn)識(shí)活動(dòng)反而逐漸受限。

在生成式人工智能的語(yǔ)境下，“回音室”效應(yīng)將進(jìn)一步被放大，本文將其稱為“技術(shù)放大器”作用。一方面，生成式人工智能覆蓋了傳統(tǒng)媒體時(shí)代的把關(guān)權(quán)，削弱了傳統(tǒng)媒體的傳播能力，大大激發(fā)了個(gè)體的信息消費(fèi)潛能，同時(shí)也擴(kuò)大了公共意見(jiàn)的傳播范圍，創(chuàng)造了新的社會(huì)交往秩序；另一方面，生成式人工智能具有主體意識(shí)接入的沉浸感、交互性和構(gòu)想性，更有可能為有著相同偏好的人群營(yíng)造信息繭房，一旦“聊天室效果”繼續(xù)存在，它將進(jìn)一步限制個(gè)體的知識(shí)、道德和實(shí)踐的變化，創(chuàng)造出更為深厚、堅(jiān)實(shí)的信息壁壘。以生成式人工智能模型的新近發(fā)展為例，豆包實(shí)時(shí)語(yǔ)音大模型在語(yǔ)言表現(xiàn)力、控制力、情緒承接能力等方面都表現(xiàn)驚艷，甚至包括類人的副語(yǔ)言特征（如語(yǔ)氣詞、停頓思考等）。OpenAI于2024年8月推出的GPT-4o-s2s，則可以感知、回應(yīng)用戶情緒，提供更自然、實(shí)時(shí)的對(duì)話體驗(yàn)，且用戶可以隨時(shí)打斷。2025年1月20日，DeepSeek發(fā)布R1模型，其隨著測(cè)試時(shí)間計(jì)算的增加而出現(xiàn)了諸如“自我反思”的復(fù)雜行為，并會(huì)重新訪問(wèn)和評(píng)估其先前步驟以及探索解決問(wèn)題的替代方法。由此觀之，生成式人工智能模型參與的人機(jī)交互已然愈發(fā)具有“類人化”與“類人際化”特征，對(duì)話中用戶的情緒、主觀需求等非理性要素的作用不斷被放大，并通過(guò)強(qiáng)化學(xué)習(xí)過(guò)程賦予模型類似的非理性特征。

在人機(jī)對(duì)話缺乏約束的情形下，基于主體間交往的“不可視性”，處在虛擬空間內(nèi)的用戶在現(xiàn)實(shí)世界中的“肉身缺席”，不僅有助于消除極端情感產(chǎn)生的障礙，也有助于減輕極端情感帶來(lái)的不良結(jié)果對(duì)情感表達(dá)者自身所施加的心理和道德壓力。換言之，人們?cè)诰W(wǎng)絡(luò)空間中既能更輕易地表達(dá)極端情感，又能在一定程度上避免情感表達(dá)行為所導(dǎo)致的直接后果。然而，生成式人工智能模型構(gòu)筑的“回音室”是由技術(shù)集合調(diào)動(dòng)用戶情緒而產(chǎn)生的，因此相比于仍以語(yǔ)言文字為信息載體的互聯(lián)網(wǎng)來(lái)說(shuō)，人機(jī)對(duì)話場(chǎng)景中的信息繭房可能形成得更加迅速，其原因主要在于用戶更傾向于信任那些能夠由其全面體驗(yàn)的信息。生成式人工智能將信息轉(zhuǎn)化為語(yǔ)言、圖片、視頻、聲音、代碼等內(nèi)容，搭建了無(wú)數(shù)狹小的信息繭房，用戶在看似合理的口號(hào)下沉迷于由人工智能和網(wǎng)絡(luò)構(gòu)建的意見(jiàn)空間中并不斷接受同類信息，其認(rèn)知行為也逐漸趨同。在技術(shù)的放大器效應(yīng)下，生成式人工智能模型得以更準(zhǔn)確地鎖定用戶體驗(yàn)和偏好，并對(duì)大眾的信息請(qǐng)求提供及時(shí)反饋，“回音室”效應(yīng)由此強(qiáng)化。

“回音室”效應(yīng)作為信息繭房的前置條件，其本身并不必然導(dǎo)向錯(cuò)誤行為或非理性實(shí)踐，而更多的是信息受眾在互聯(lián)網(wǎng)信息“增殖—過(guò)載”的基本背景下進(jìn)行自我保護(hù)并且化解信息冗余的一個(gè)有效方式。但對(duì)于承載信息更多、信息增殖更快以及學(xué)習(xí)模擬能力更強(qiáng)的生成式人工智能而言，其用戶仍然存在對(duì)某一類同質(zhì)化信息的偏信，并因生成式人工智能模型之中的技術(shù)全面性而變得更為牢固。由于人們對(duì)于真理或真相的判斷依據(jù)極其有限，且傾向于經(jīng)由主觀的“信任情緒”去證立這些信息的真實(shí)性，故必然發(fā)生各種真理判斷標(biāo)準(zhǔn)之間的沖突，以及受眾基于信任情緒、模型基于對(duì)話養(yǎng)料而捍衛(wèi)“回音室”的主動(dòng)行為，從而為“自反式信息繭房”奠定基礎(chǔ)。

（二）現(xiàn)實(shí)的沉浸逆向

“自反式信息繭房”不僅具有封閉性、集體性、一元論的現(xiàn)代性癥候，同時(shí)也在生成式人工智能的強(qiáng)化作用下彰顯出全新的特征，即“強(qiáng)化沉浸”效應(yīng)。以DeepSeek為例，其在人機(jī)對(duì)話中表現(xiàn)出的強(qiáng)大推理能力和多模態(tài)感知能力，極有可能導(dǎo)向人機(jī)交互與決策的重塑：多模態(tài)融合感知引擎能夠有效融合視覺(jué)和語(yǔ)言信息，使模型理解更加復(fù)雜的場(chǎng)景描述和人類指令，并作出多模態(tài)答復(fù)，進(jìn)而使人機(jī)交互更符合人類需求。通過(guò)結(jié)合和利用不同的技術(shù)，生成式人工智能能夠使已然落入傳統(tǒng)信息繭房的用戶獲得更真實(shí)、更具象化的體驗(yàn)。此時(shí)，用戶完全被浸沒(méi)于由模型提供的虛擬對(duì)話中，進(jìn)而傾向于拒絕所有現(xiàn)實(shí)生活中的選擇，導(dǎo)致用戶社交技能弱化。

就“自反式信息繭房”的現(xiàn)代性癥候而言，哈貝馬斯在探討現(xiàn)代性的特質(zhì)時(shí)提到，現(xiàn)代性可能因?yàn)槠鋵?duì)復(fù)雜社會(huì)損害和潛在暴力的高度敏感性而被揭露為一系列異化的生活關(guān)系——無(wú)論是被技術(shù)操控的關(guān)系，還是被政治權(quán)威同化的關(guān)系。在這種視角下，“自反式信息繭房”顯露出潛在的社會(huì)沖突，在不同形態(tài)的“回音室”中孵化出的偏見(jiàn)雖未直接催化群體對(duì)抗，卻在內(nèi)化過(guò)程中逐步將同質(zhì)信息轉(zhuǎn)化為團(tuán)結(jié)內(nèi)部群體的符號(hào)，這種符號(hào)在復(fù)雜的網(wǎng)絡(luò)世界中成為標(biāo)識(shí)個(gè)體身份和劃定信息領(lǐng)域的關(guān)鍵。隨著“回音室”的信任向信息繭房的規(guī)范直覺(jué)轉(zhuǎn)變，群體成員的行為模式也發(fā)生了變化：其不再是信息洪流的消極接受者，而開(kāi)始在現(xiàn)有的信息基礎(chǔ)上積極尋找和聚集相似的信息資源，以此構(gòu)筑更加堅(jiān)實(shí)的信息防線。這種由群體自發(fā)構(gòu)建的防線，雖在外部受到資本主義異化、技術(shù)統(tǒng)治以及政治權(quán)威等多重因素影響，但其內(nèi)在邏輯則是基于新的社會(huì)規(guī)范——一種在生成式人工智能時(shí)代下的直覺(jué)式規(guī)范。在這種規(guī)范指導(dǎo)下，群體成員不僅在信息上建立起屏障，也在心理上形成了對(duì)“自反式信息繭房”安全性的依賴，反過(guò)來(lái)又進(jìn)一步強(qiáng)化了信息的封閉性和群體的內(nèi)聚性。如此，這些由“回音室”階段的簡(jiǎn)單信任和自我鎖閉所演化而來(lái)的防線，也不再是被動(dòng)的結(jié)構(gòu)，而是群體成員有意識(shí)構(gòu)建的堡壘。成員們不僅能找到情感上的慰藉和認(rèn)同感，同時(shí)也在不知不覺(jué)中抗拒和排斥與己觀點(diǎn)不同的信息，導(dǎo)致信息的單向流動(dòng)和思想的單一化。最終，這種“規(guī)范直覺(jué)”成為維持“自反式信息繭房”穩(wěn)定的核心力量，它悄然影響著群體成員的信息選擇、處理和交流方式，進(jìn)而在無(wú)形中塑造了網(wǎng)絡(luò)社會(huì)的認(rèn)知圖景和交往模式。

就“自反式信息繭房”的新特征而言，生成式人工智能模型通過(guò)“連續(xù)對(duì)話”營(yíng)造的深度沉浸感強(qiáng)化了前述力量，而沉浸效應(yīng)可能使得成員更加難以跳脫已然陷入的信息繭房，并可能使模型自身由于信息繭房的反饋循環(huán)而表現(xiàn)出更強(qiáng)的非理性特征。以“對(duì)話”為核心而展開(kāi)的人機(jī)交互活動(dòng)摻雜著一種顯明的非理性要素，即通過(guò)組織自然語(yǔ)言滿足“用戶需求”。當(dāng)下的生成式人工智能應(yīng)用內(nèi)蘊(yùn)著“以用戶為中心，深化個(gè)性化體驗(yàn)”的發(fā)展趨勢(shì)。以Chatbot為例，其可以為用戶提供全天候的服務(wù)，通過(guò)GAI技術(shù)的整合回答常規(guī)預(yù)設(shè)的問(wèn)題，并基于用戶對(duì)話歷史、行為習(xí)慣甚至是情緒感知的動(dòng)態(tài)響應(yīng)，為用戶提供個(gè)性化的互動(dòng)體驗(yàn)。對(duì)沉浸性的追求使得生成式人工智能模型的回應(yīng)，逐漸不再以“知識(shí)”與“真理”為依歸，而是以實(shí)現(xiàn)作為對(duì)話者之人類的主觀滿足感為其交互目的；此外，借助其自主學(xué)習(xí)能力，生成式人工智能模型可能進(jìn)一步將人機(jī)交互的語(yǔ)料限定在用戶特定需求所指涉的范圍之內(nèi)，用戶與模型便同時(shí)被禁錮在由此種非理性要素所構(gòu)筑的枷鎖之中。質(zhì)言之，雖然在人類主體性的視角下，此種目的導(dǎo)向無(wú)可厚非，但它實(shí)際上也使得人機(jī)交互不可避免地滑向非理性。這些變異的“自反式信息繭房”之間的隔閡，也更加難以用現(xiàn)實(shí)世界的方法來(lái)解決?！疤摂M身份的觀點(diǎn)會(huì)逐漸與特定群體的共識(shí)融合，使得信息繭房變得更加堅(jiān)不可摧?！边@種以言說(shuō)或語(yǔ)句形式體現(xiàn)出的信息繭房的符號(hào)，也是信息繭房自身再制和增殖同質(zhì)化信息的語(yǔ)意基礎(chǔ)。然而，在生成式人工智能模型的作用下，語(yǔ)言或文字形式的“意見(jiàn)”便由人工智能通過(guò)對(duì)話、論辯、協(xié)商等形式直接傳遞給具有相應(yīng)需求的用戶。生成式人工智能模型的持續(xù)對(duì)話功能，為信息繭房?jī)?nèi)的成員提供了一種新的交互體驗(yàn)，“面對(duì)面”式的互動(dòng)不僅使得意見(jiàn)更加深入地展開(kāi)和變得更具體，而且還使得“自反式信息繭房”內(nèi)的壁壘設(shè)計(jì)更加復(fù)雜和精巧。在這種“強(qiáng)化沉浸”效應(yīng)下，傳統(tǒng)的“網(wǎng)絡(luò)鍵盤(pán)交流”被一種更直觀、仿佛面對(duì)真人的虛擬對(duì)話所取代，提高了信息的透明度和直接性，使個(gè)體與特定群體的意見(jiàn)在更短的時(shí)間內(nèi)達(dá)成一致。對(duì)話的連續(xù)性和互動(dòng)性加快了商討、批評(píng)、磋商和團(tuán)結(jié)的過(guò)程，這不僅加速了群體內(nèi)意見(jiàn)的形成和統(tǒng)一，而且為“自反式信息繭房”引入了一套明確的“排他規(guī)則”，各繭房之間的隔離墻因此變得更加堅(jiān)固。隨著排他規(guī)則的確立和強(qiáng)化，“自反式信息繭房”的成員開(kāi)始更加明確地標(biāo)識(shí)自己的信息領(lǐng)土和界限，進(jìn)一步加強(qiáng)對(duì)外來(lái)信息的排斥。因此，由生成式人工智能建構(gòu)的“自反式信息繭房”，不僅加速了同質(zhì)信息的擴(kuò)散，還可能因意見(jiàn)的迅速規(guī)則化而演變?yōu)榫哂懈鼜?qiáng)領(lǐng)土意識(shí)和邊界規(guī)則的封閉信息群體。

（三）“長(zhǎng)尾效應(yīng)”與“群體極化”

“長(zhǎng)尾效應(yīng)”在本文中主要用來(lái)描述信息傳播過(guò)程中主要因素與次要因素的作用對(duì)比狀況。在由生成式人工智能構(gòu)筑的封閉對(duì)話空間中，非理性要素使生成式人工智能依據(jù)用戶需求匯聚“主流意見(jiàn)”（其區(qū)別于一般意義上的、全社會(huì)范圍內(nèi)的“主流文化”，是一種狹小虛擬空間內(nèi)的片面文化形態(tài)），并將其他非主流意見(jiàn)（即意見(jiàn)或思想的“長(zhǎng)尾”部分）排除在外，通過(guò)自主學(xué)習(xí)不斷擴(kuò)張思想產(chǎn)品的“頭部”規(guī)模，形成“自反式信息繭房”。此種長(zhǎng)尾效應(yīng)主要源于生成式人工智能模型內(nèi)置的非理性訓(xùn)練獎(jiǎng)勵(lì)機(jī)制。一般而言，包括DeepSeek在內(nèi)的生成式人工智能模型的訓(xùn)練過(guò)程可以分為訓(xùn)練監(jiān)督策略模型、訓(xùn)練獎(jiǎng)勵(lì)模型（RM）、強(qiáng)化學(xué)習(xí)優(yōu)化模型（如PPO、GRPO）等。而遵循“需求優(yōu)先”的獎(jiǎng)勵(lì)模型，會(huì)將不符合用戶需求的回答視為“低質(zhì)量”。在此過(guò)程中，主要因素與次要因素之間的差異以及主流意見(jiàn)與其他意見(jiàn)之間的比重關(guān)系都得以凸顯。當(dāng)個(gè)體陷入“自反式信息繭房”，其所接觸到的信息和建議都傾向于支持其固有觀點(diǎn)，這使得諸多個(gè)體在討論過(guò)程中更容易鞏固原有立場(chǎng)。隨著討論的深入，群體成員之間的共識(shí)逐漸強(qiáng)化，最終可能導(dǎo)致整個(gè)群體朝極端方向發(fā)展。這種現(xiàn)象不僅限制了觀點(diǎn)的多元性，還可能加劇社會(huì)分歧，甚至引發(fā)不必要的沖突。在生成式人工智能模型提供的交互體驗(yàn)和去中心化的“催眠”下，“自反式信息繭房”中兩極分化的風(fēng)險(xiǎn)相對(duì)更高。在生成式人工智能時(shí)代，人工智能、大數(shù)據(jù)、云計(jì)算、物聯(lián)網(wǎng)等數(shù)字技術(shù)設(shè)置，極有可能逐漸模糊虛擬對(duì)話和實(shí)體對(duì)話的界限，在一個(gè)缺少“道德自律”的虛擬環(huán)境里，對(duì)特定信息的盲目信任可能導(dǎo)致人們忽視事實(shí)真相，轉(zhuǎn)而過(guò)度偏向個(gè)人情感。

這種現(xiàn)象容易引發(fā)情緒之間的沖突，并可能激發(fā)情感朝向“極端化”發(fā)展，于是“自反式信息繭房”可能成為現(xiàn)實(shí)世界的干擾因素，造成“群體極化”的潛在風(fēng)險(xiǎn)。此間的根源在于，此種信息繭房已經(jīng)逐漸將“信任”抬升至“信仰”的層面，為群體的盲目行動(dòng)提供正當(dāng)化理由。也就是說(shuō)，在壁壘業(yè)已高筑的互聯(lián)網(wǎng)信息繭房之中，原本作為同質(zhì)化信息的概括形式的語(yǔ)義學(xué)符號(hào)逐漸成為不容置疑、難以突破的“教條”，志同道合的成員圍繞著這種世界觀、價(jià)值觀來(lái)排斥異己者和吸收成員?！叭后w極化”的一種可能性是出現(xiàn)“沉默的螺旋”。在這種情境下，占據(jù)“頭部”位置的優(yōu)勢(shì)意見(jiàn)逐漸主導(dǎo)輿論，其他觀點(diǎn)則無(wú)法得到充分的表達(dá)和關(guān)注。這種現(xiàn)象可能導(dǎo)致觀點(diǎn)多樣性受損，進(jìn)而加劇社會(huì)分化。人們?cè)絹?lái)越傾向于采納一種聲音，而忽視其他觀點(diǎn)的存在。這不僅有可能阻礙對(duì)真理的探尋，還可能讓社會(huì)矛盾愈發(fā)尖銳。此時(shí)，信息繭房之間的力量對(duì)比成為衡量信息是否真實(shí)的唯一標(biāo)準(zhǔn)，何種信息繭房的話語(yǔ)能力更強(qiáng)、網(wǎng)絡(luò)權(quán)威程度更高，該信息繭房就會(huì)在信息沖突之中取得“勝利”?；ヂ?lián)網(wǎng)就此成為多種文化形式展開(kāi)非理性博弈的領(lǐng)域，而不再具有公共商談的可能?！叭后w極化”的另一種可能性則是在網(wǎng)絡(luò)之中“勢(shì)均力敵”的“自反式信息繭房”之間的碰撞。其直接碰撞的可能原因是，“自反式信息繭房”需要通過(guò)不斷收集同質(zhì)化知識(shí)與信息以進(jìn)行自我增殖，在將“自我保全”視為首要生存準(zhǔn)則的背景下，網(wǎng)絡(luò)中的“極化現(xiàn)象”便成為群體追求安全的一種表現(xiàn)形式。于是成員們紛紛尋求同盟，以鞏固自身立場(chǎng)，抵御潛在威脅。這種自我保護(hù)意識(shí)導(dǎo)致網(wǎng)絡(luò)環(huán)境逐漸分化，形成一個(gè)個(gè)相互對(duì)立的陣營(yíng)。然而，極化現(xiàn)象并不必然有益于社會(huì)和諧，反而可能加劇社會(huì)矛盾。當(dāng)人們過(guò)度關(guān)注自我保全，忽視多元觀點(diǎn)的價(jià)值時(shí)，便容易陷入固化的思維模式，難以接受不同的聲音。

沉浸、分化與失序：“自反式信息繭房”的潛在風(fēng)險(xiǎn)

生成式人工智能所構(gòu)筑的“自反式信息繭房”導(dǎo)致的風(fēng)險(xiǎn)，遠(yuǎn)比傳統(tǒng)互聯(lián)網(wǎng)信息繭房更大。這是因?yàn)樵诰W(wǎng)絡(luò)信息繭房現(xiàn)象出現(xiàn)時(shí)，現(xiàn)實(shí)世界中的規(guī)范與倫理依然對(duì)網(wǎng)絡(luò)受眾的行動(dòng)產(chǎn)生約束；但生成式人工智能作為一種虛擬對(duì)話模型，其相對(duì)于現(xiàn)實(shí)世界的獨(dú)立性，使其可以脫離現(xiàn)實(shí)世界的法律和倫理束縛。部分受眾可能會(huì)將此種人機(jī)交互及由此生成的信息繭房，視為逃避現(xiàn)實(shí)世界競(jìng)爭(zhēng)和生活壓力的自由空間，在這里他們可以表達(dá)在現(xiàn)實(shí)世界中不敢表達(dá)的思想，實(shí)踐在現(xiàn)實(shí)世界中不被允許的行為。因此，“自反式信息繭房”內(nèi)價(jià)值觀的界限可能會(huì)變得更加模糊，而人工智能模型對(duì)于人類主體欲望的滿足和感官的迎合就是其中的不穩(wěn)定因素，并將為個(gè)體、群體和社會(huì)等帶來(lái)風(fēng)險(xiǎn)。

（一）加劇個(gè)體過(guò)度沉浸風(fēng)險(xiǎn)

生成式人工智能的“自反式信息繭房”加劇“過(guò)度沉浸”問(wèn)題。“自反式信息繭房”在結(jié)構(gòu)上與傳統(tǒng)網(wǎng)絡(luò)信息繭房的不同之處在于，其可能導(dǎo)致用戶過(guò)度“沉浸”其中，進(jìn)而忽視現(xiàn)實(shí)生活。生成式人工智能具備互聯(lián)網(wǎng)的多種特性，而通過(guò)技術(shù)放大器作用，這些特性被進(jìn)一步凸顯，使其能夠?yàn)橛脩舸蛟斐鲆粋€(gè)超越現(xiàn)實(shí)的理想虛擬世界。在虛擬世界中，人們可以毫無(wú)限制地塑造文字世界，盡情享受豐富的信息資源，導(dǎo)致用戶對(duì)現(xiàn)實(shí)世界的生產(chǎn)、生活、勞動(dòng)產(chǎn)生一定程度的排斥情緒，這種情緒與人們?cè)诂F(xiàn)實(shí)生活中產(chǎn)生的壓力和焦慮一道，影響其心理健康和生活質(zhì)量。網(wǎng)絡(luò)似乎是人用來(lái)實(shí)現(xiàn)休息權(quán)利并且為更高效率的勞動(dòng)提供基礎(chǔ)的領(lǐng)域，但在生成式人工智能模型的語(yǔ)境下卻缺乏這樣的可能性。盡管作為“聊天機(jī)器人”的生成式人工智能模型，會(huì)為其中的用戶提供相對(duì)于現(xiàn)實(shí)世界勞作行動(dòng)的休息空間，但生成式人工智能的廣泛應(yīng)用，也可能加劇“泛娛樂(lè)化”的風(fēng)險(xiǎn)。

生成式人工智能的技術(shù)放大器作用，使人們過(guò)度依賴已然深度娛樂(lè)化的虛擬世界，這對(duì)于社會(huì)的健康發(fā)展而言無(wú)疑是一種隱患。根據(jù)CNNIC的《生成式人工智能應(yīng)用發(fā)展報(bào)告（2024）》，20至29歲網(wǎng)民使用生成式人工智能產(chǎn)品的比例最高，達(dá)到40.5%；其次為19歲及以下網(wǎng)民，比例為29.1%。由此觀之，生成式人工智能的應(yīng)用主要集中于30歲以下人群，且隨著科技的進(jìn)步與AI的普及，人機(jī)交互也會(huì)朝著低齡化趨勢(shì)發(fā)展。在此情形下，由于年輕個(gè)體一般在智識(shí)、自制力等方面仍存在較大不足，“自反式信息繭房”導(dǎo)致的過(guò)度沉浸問(wèn)題將更為嚴(yán)峻。互聯(lián)網(wǎng)中的信息傳播具有諸多特征和偏好，數(shù)字資本錨準(zhǔn)用戶的娛樂(lè)需求，將之作為“痛點(diǎn)”開(kāi)展?fàn)I銷活動(dòng)。在此情形下，娛樂(lè)化、低俗化、媚俗化的信息層出不窮，而嚴(yán)肅化、理論化的敘事則被排擠至海量互聯(lián)網(wǎng)數(shù)據(jù)的邊緣。生成式人工智能的智能對(duì)話技術(shù)借助仿真對(duì)話的體驗(yàn)感，實(shí)現(xiàn)對(duì)人類欲望的全方位滿足，但用戶沉浸在虛擬世界中的時(shí)間越長(zhǎng)，就越容易忽視現(xiàn)實(shí)生活中的生產(chǎn)與生活任務(wù)。這種過(guò)度依賴虛擬交流的現(xiàn)象，已經(jīng)在很大程度上影響了人們?cè)谏鐣?huì)中的互動(dòng)方式。在生成式人工智能所帶來(lái)的極致體驗(yàn)中，人們?nèi)缃窀敢獬两谔摂M世界中，享受超越現(xiàn)實(shí)的滿足感。這種思想上的轉(zhuǎn)變使得人們?cè)诂F(xiàn)實(shí)生活中的公共活動(dòng)參與度降低，原本緊密的人際關(guān)系也因?yàn)檫^(guò)度依賴虛擬交流而逐漸淡薄。

“自反式信息繭房”大大提高了“娛樂(lè)”在人們社會(huì)生活中的地位，生產(chǎn)生活與休息休閑的主次關(guān)系被顛倒。人們沉浸于虛擬世界的娛樂(lè)，忽略了現(xiàn)實(shí)生活中的責(zé)任和挑戰(zhàn)?！皧蕵?lè)至上”理念導(dǎo)致如下錯(cuò)覺(jué)：在“自反式信息繭房”中，任何要求都能夠?qū)崿F(xiàn)，一切成就都能夠輕松取得。如此，生成式人工智能模型也就必然褫奪現(xiàn)實(shí)勞動(dòng)力量，導(dǎo)致現(xiàn)實(shí)社會(huì)之中的經(jīng)濟(jì)活動(dòng)和文化活動(dòng)受制于自反式信息繭房的娛樂(lè)化風(fēng)氣。目前Chat助手類、AI對(duì)話助手等仍然是用戶最關(guān)注的GAI應(yīng)用場(chǎng)景，而GAI也朝著定制化、個(gè)性化、娛樂(lè)化發(fā)展。以“AI陪伴”賽道為例，Character.ai等平臺(tái)支持用戶自定義角色、個(gè)性化對(duì)話、虛擬角色互動(dòng)和情感交流，甚至部分平臺(tái)還提供“無(wú)審查對(duì)話”“動(dòng)態(tài)對(duì)話”等功能。值得注意的是，此種娛樂(lè)性的GAI已經(jīng)越來(lái)越受到大眾歡迎，2024年全球AI陪伴類產(chǎn)品的訪問(wèn)量較2023年實(shí)現(xiàn)了92.99%的增長(zhǎng)。這可能主要源于虛擬世界與現(xiàn)實(shí)生活境遇的懸殊，使得用戶不再渴望回到現(xiàn)實(shí)的“冷酷”當(dāng)中。在“自反式信息繭房”中，泛娛樂(lè)化信息對(duì)用戶的黏性更強(qiáng)，一些帶有人工智能色彩的娛樂(lè)性文字可能讓受眾有更強(qiáng)的代入感，用戶可能被這些文字有意塑造的人物形象所吸引，或者被文字背后故意制造的噱頭所牽引，這種看似“新鮮”、實(shí)則無(wú)意義的內(nèi)容，也必然導(dǎo)致公眾在面對(duì)現(xiàn)實(shí)世界的“千篇一律”時(shí)有所猶疑。

（二）加劇群體高度分化風(fēng)險(xiǎn)

生成式人工智能模型構(gòu)筑的“自反式信息繭房”更容易導(dǎo)致人們的組織化。在“技術(shù)放大器”作用和“沉浸體驗(yàn)”下，生成式人工智能提高了人們彼此間的歸屬感和認(rèn)同感，有助于形成具有共同價(jià)值觀的群體，而更為擬真的交互體驗(yàn)使用戶在虛擬世界中更容易形成高度團(tuán)結(jié)的組織，信息繭房便會(huì)轉(zhuǎn)化為現(xiàn)實(shí)生活中的社團(tuán)或共同體。然而，現(xiàn)實(shí)化的群體組織也可能存在一些潛在問(wèn)題。例如，用戶們基于“沉浸感”在虛擬世界中形成的高度團(tuán)結(jié)的組織，其在結(jié)構(gòu)上與現(xiàn)實(shí)中的組織高度類似，但部分以錯(cuò)誤思想文化為基礎(chǔ)而形成的團(tuán)體卻可能對(duì)現(xiàn)實(shí)世界中的思想文化產(chǎn)生不良影響，給公共安全帶來(lái)隱患。

生成式人工智能模型的廣泛應(yīng)用使文化信息交互的門(mén)檻降低，這既會(huì)導(dǎo)致欲望與直接體驗(yàn)的宣泄，也會(huì)促進(jìn)用戶圍繞穩(wěn)定論題高效地形成一致性意見(jiàn)。由于網(wǎng)絡(luò)自媒體從業(yè)的低門(mén)檻甚至零門(mén)檻，網(wǎng)絡(luò)中存在大量的虛假信息和低質(zhì)量信息，加之不辨真?zhèn)蔚氖鼙娺M(jìn)行二次傳播，為互聯(lián)網(wǎng)輿情的治理帶來(lái)挑戰(zhàn)。有研究表明，當(dāng)前生成式人工智能模型發(fā)展面臨的關(guān)鍵挑戰(zhàn)就在于缺乏高質(zhì)量的數(shù)據(jù)信息集。若生成式人工智能模型能夠作為一個(gè)真實(shí)發(fā)生的技術(shù)空間，且如同互聯(lián)網(wǎng)一樣為各種思想和各類人員提供言說(shuō)機(jī)會(huì)，那么公眾號(hào)或自媒體也可能轉(zhuǎn)化成活躍于虛擬對(duì)話之中的虛擬主播、擬態(tài)人，與現(xiàn)實(shí)的人產(chǎn)生真切的互動(dòng)并且從感官角度沖擊受眾的身心體驗(yàn)。久而久之，在這些魚(yú)龍混雜的信息流之中，數(shù)字資本通過(guò)迎合大眾的娛樂(lè)心態(tài)來(lái)打造虛擬產(chǎn)品，以此構(gòu)筑起信息繭房的壁壘。在這個(gè)過(guò)程中，生成式人工智能模型作為一種先進(jìn)的技術(shù)手段，為人們帶來(lái)了便利，也使得用戶更容易形成類似“同好會(huì)”“文化圈”等具有內(nèi)部聯(lián)合能力的組織。然而，這種現(xiàn)象也使得錯(cuò)誤思想泛濫，人們?nèi)菀壮两谧约旱呐d趣與價(jià)值觀中，形成一個(gè)相對(duì)封閉的“圈子”。于是，生成式人工智能模型更容易成為一種主導(dǎo)力量，通過(guò)產(chǎn)出與大眾娛樂(lè)心態(tài)相符的虛擬產(chǎn)品去迎合受眾，在大眾與更廣闊的外部世界之間筑起高墻。

“自反式信息繭房”固然存在基于用戶自主選擇的構(gòu)造因素，但由于生成式人工智能模型之中的商業(yè)資本運(yùn)作和文化思想形態(tài)運(yùn)作，數(shù)字資本向自反式信息繭房之中的用戶和模型有意地提供某種信息，進(jìn)而帶動(dòng)后者價(jià)值觀的形成，并促進(jìn)形成與其意圖相符的信息繭房，打壓理性的生成式人工智能模型用戶。就我國(guó)當(dāng)下的網(wǎng)絡(luò)輿論情況來(lái)看，一旦將生成式人工智能模型引入并全面鋪開(kāi)，在互聯(lián)網(wǎng)之中頻繁出現(xiàn)的資本運(yùn)作、文化滲透都有可能重新上演，并對(duì)我國(guó)的公共文化與思想體系造成沖擊。此外，由于“虛在群體”的匿名性和隱蔽性，何者是完全基于群體意志產(chǎn)生的自發(fā)的信息繭房、何者是由資本力量打造的專供資本營(yíng)利的信息繭房等難以判斷，相應(yīng)的針對(duì)性的制度建構(gòu)也存在障礙。

（三）加劇社會(huì)空間失序風(fēng)險(xiǎn)

在一些社會(huì)場(chǎng)景下，生成式人工智能極大地提高了社會(huì)運(yùn)行效率，甚至已經(jīng)擺脫工具化屬性，扮演著資源調(diào)配和作出決策等關(guān)鍵角色。例如，愛(ài)爾蘭農(nóng)業(yè)部利用ChatGPT檢索處理技術(shù)和軟件有關(guān)問(wèn)題；英國(guó)、韓國(guó)、澳大利亞推薦其政府工作人員在政策調(diào)研、信息收集中使用ChatGPT等工具；日本橫須賀市公務(wù)員使用ChatGPT檢索信息，獲得業(yè)務(wù)靈感和政策建議等。事實(shí)上，在公共領(lǐng)域應(yīng)用生成式人工智能以提高事務(wù)處理效率的做法在我國(guó)各領(lǐng)域已十分普遍。加之深度神經(jīng)網(wǎng)絡(luò)技術(shù)的加持，人工智能的發(fā)展實(shí)現(xiàn)了更快的飛躍。但正是因?yàn)樯墒饺斯ぶ悄芫哂凶匀徽Z(yǔ)言生成能力，其更可能導(dǎo)致信息在全社會(huì)范圍內(nèi)的泛濫、誤導(dǎo)和混淆。由于缺乏對(duì)信息的審查和篩選，社會(huì)可能面臨不穩(wěn)定的信息環(huán)境，從而影響決策和公共輿論，進(jìn)而帶來(lái)社會(huì)空間的失序風(fēng)險(xiǎn)。生成式人工智能的應(yīng)用構(gòu)建了公共意見(jiàn)的虛擬空間，公共意見(jiàn)的傳播必然帶來(lái)輿論沖突，這將是算法邏輯公共性所帶來(lái)的最為重要的隱憂。事實(shí)上，生成式人工智能模型的高度虛擬屬性更容易引發(fā)社會(huì)失序問(wèn)題?！捌票谛?yīng)”致使由人工智能生成的內(nèi)容更具感染力，通過(guò)操縱情緒影響社會(huì)群體成為可能，“自反式信息繭房”也因此被異化為某種于“虛在”之中形成、但對(duì)“實(shí)在”的主流文化思想構(gòu)成挑戰(zhàn)的觀念系統(tǒng)。

相較于傳統(tǒng)網(wǎng)絡(luò)信息繭房，“自反式信息繭房”中的“群體極化”現(xiàn)象更為普遍。生成式人工智能模型構(gòu)筑的“自反式信息繭房”主要是借由“娛樂(lè)至上”理念的蔓延、數(shù)字資本的營(yíng)銷策略、針對(duì)特定群體的錯(cuò)誤文化思想引導(dǎo)以及在技術(shù)層面連續(xù)對(duì)話喂養(yǎng)模型本身等方式產(chǎn)生，與現(xiàn)實(shí)世界的倫理、法律、制度、紀(jì)律有悖逆之處。更為重要的是，“自反式信息繭房”是可能被現(xiàn)實(shí)化的“虛在組織”，而每一種在虛擬空間之中被符號(hào)化的信息語(yǔ)意也都可能成為某種文化思想，它們之間不僅存在彼此的沖突和競(jìng)合，更對(duì)現(xiàn)實(shí)世界的主流文化思想構(gòu)成挑戰(zhàn)。在網(wǎng)絡(luò)技術(shù)構(gòu)建的虛擬社交空間中，生存于同一社會(huì)階層或具有相同生活感受、體驗(yàn)或經(jīng)歷的人們，往往更容易因相互理解、溝通而產(chǎn)生共鳴。盡管人的“在場(chǎng)”為主體意識(shí)接入注入了現(xiàn)實(shí)意義，但人是以“虛擬人”的身份存在，自然帶有一種高度的匿名性。因而通過(guò)虛擬技術(shù)的主體意識(shí)接入，對(duì)于意見(jiàn)的產(chǎn)生和傳播具有雙重影響。在這種情況下，“公共性”即使誘發(fā)討論和社會(huì)行動(dòng)，也一定是群體極化驅(qū)動(dòng)下的無(wú)序化溝通，其所產(chǎn)生的社會(huì)議題也必然指向“虛假的政治權(quán)力”，因?yàn)樗⒎怯勺月衫硇缘墓娝?qū)動(dòng)。當(dāng)公共領(lǐng)域的大眾傳媒算法被那些針對(duì)工業(yè)、商業(yè)領(lǐng)域應(yīng)用場(chǎng)景開(kāi)發(fā)的人工智能算法所替代，個(gè)體可能面對(duì)被算法“脅迫”的風(fēng)險(xiǎn)。生成式人工智能在這些主體意識(shí)基礎(chǔ)上進(jìn)一步生成的意見(jiàn)也會(huì)對(duì)人們的思想產(chǎn)生影響，且此種影響往往是無(wú)形的：由于技術(shù)鴻溝的存在，我們不僅無(wú)法明確“智能意見(jiàn)”的產(chǎn)生基礎(chǔ)，也難以理解其生成意見(jiàn)的目的。

引導(dǎo)、預(yù)防與法治：“自反式信息繭房”的規(guī)制

雖然生成式人工智能模型可能會(huì)帶來(lái)相對(duì)平等自由的交往可能性，也有可能隨著技術(shù)、倫理和法律的發(fā)展（尤其是根據(jù)其內(nèi)部自生的規(guī)則）而降低“自反式信息繭房”的發(fā)生概率，但是如何在保證生成式人工智能模型產(chǎn)生道德交往能力的同時(shí)避免倫理問(wèn)題，依然是一個(gè)亟待解決的難題。雖然受平臺(tái)技術(shù)限制的影響，國(guó)內(nèi)自有生成式AI產(chǎn)品構(gòu)筑“自反式信息繭房”的實(shí)際效應(yīng)無(wú)法得到有效驗(yàn)證，但是我們必須樹(shù)立風(fēng)險(xiǎn)意識(shí)，對(duì)生成式人工智能技術(shù)及類似人工智能保持高度警惕，提前布局?！白苑词叫畔⒗O房”及其風(fēng)險(xiǎn)源于人機(jī)對(duì)話場(chǎng)景中用戶端與模型端的雙重非理性特征，對(duì)其規(guī)制需要同時(shí)從“人”與“機(jī)”兩處著手，應(yīng)以主流文化引領(lǐng)用戶端的理性化發(fā)展、以市場(chǎng)規(guī)制修正模型端的資本化邏輯、以規(guī)范體系保障“人機(jī)交互”的秩序化發(fā)展，從而有效應(yīng)對(duì)“自反式信息繭房”在個(gè)體、群體、社會(huì)等層面潛藏的風(fēng)險(xiǎn)與挑戰(zhàn)。

（一）以主流文化引領(lǐng)用戶端的理性化發(fā)展

就現(xiàn)實(shí)境況而言，生成式人工智能技術(shù)在各領(lǐng)域都得到了廣泛應(yīng)用，文藝創(chuàng)作、網(wǎng)絡(luò)營(yíng)銷、軟件工程等領(lǐng)域?qū)⑸墒饺斯ぶ悄茏鳛槿粘９ぷ髦饕ぞ咧?；在法律咨詢、智慧診療、線上客服、智能機(jī)器人等領(lǐng)域，基于生成式人工智能技術(shù)的“智能助手”已十分常見(jiàn)。《報(bào)告》顯示，我國(guó)已有近10.4億短視頻用戶，網(wǎng)絡(luò)直播、網(wǎng)絡(luò)音樂(lè)用戶規(guī)模也分別達(dá)到了8.3億和近7.5億，而現(xiàn)有的娛樂(lè)性應(yīng)用一般都內(nèi)置了生成式人工智能系統(tǒng)（如豆包AI助手）。此外，我國(guó)已有2.49億人表示使用過(guò)生成式人工智能產(chǎn)品。由此觀之，生成式人工智能應(yīng)用必將在人們的娛樂(lè)生活中持續(xù)涌現(xiàn)?！白苑词叫畔⒗O房”的形成機(jī)制涉及模型訓(xùn)練數(shù)據(jù)、算法選擇、模型自我學(xué)習(xí)等多個(gè)方面，模型在學(xué)習(xí)過(guò)程中可能更傾向于從特定信息源獲取數(shù)據(jù)，導(dǎo)致信息的偏頗，影響用戶獲取多元化的觀點(diǎn)，也可能導(dǎo)致模型無(wú)法全面理解和反映多樣化的觀點(diǎn)，從而限制了信息的廣度和深度。

克服這一難題的關(guān)鍵在于理性的文化引導(dǎo)。生成式人工智能技術(shù)既是一種技術(shù)集合，本質(zhì)上也是一個(gè)傳播文化和思想信息的渠道；而由于娛樂(lè)活動(dòng)實(shí)質(zhì)上也是一種文化活動(dòng)，故面對(duì)泛娛樂(lè)化的個(gè)體過(guò)度沉浸風(fēng)險(xiǎn)、群體高度分化風(fēng)險(xiǎn)以及社會(huì)空間失序風(fēng)險(xiǎn)，應(yīng)將經(jīng)過(guò)實(shí)踐反復(fù)檢驗(yàn)的、具有公共理性的主流文化植入生成式人工智能的技術(shù)邏輯中，通過(guò)全流程管理促使生成式人工智能應(yīng)用貼合主流文化，并以提升主流文化輸出與傳播能力為著力點(diǎn)，減少全社會(huì)范圍內(nèi)“自反式信息繭房”出現(xiàn)的可能性。

第一，可將互聯(lián)網(wǎng)中有效的主流文化宣傳手段應(yīng)用于生成式人工智能的宣傳和管理活動(dòng)之中。基于生成式人工智能技術(shù)的特殊性，可通過(guò)預(yù)先設(shè)置算法規(guī)則規(guī)范生成式人工智能技術(shù)的產(chǎn)出內(nèi)容，對(duì)其傳播的信息進(jìn)行規(guī)制，從而為主流文化植入生成式人工智能模型提供便利。第二，生成式人工智能技術(shù)發(fā)展的過(guò)程中難免會(huì)出現(xiàn)“算法失靈”和“算法脫軌”的風(fēng)險(xiǎn)，因此在前期的技術(shù)準(zhǔn)備工作中，需要做好詳細(xì)的籌劃，充分考慮各種可能的因素和影響，從而提高生成式人工智能技術(shù)的效能和實(shí)用性，并使其真正成為推動(dòng)社會(huì)文化建設(shè)的強(qiáng)大工具。具體而言，即在研發(fā)生成式人工智能技術(shù)時(shí)，提高生成式人工智能的信息處理能力和社交功能，確保它在符合主流文化要求和技術(shù)發(fā)展規(guī)律的同時(shí)，能夠通過(guò)群體間及群體內(nèi)部穩(wěn)定地傳播多樣化且具有深度的信息，以提升信息質(zhì)量、打破回音室條件，避免形成封閉、自我強(qiáng)化的“自反式信息繭房”。第三，應(yīng)當(dāng)設(shè)計(jì)公共討論平臺(tái)并實(shí)施輿情反饋機(jī)制，收集和分析群眾的意見(jiàn)和反饋，并據(jù)此調(diào)整和改進(jìn)生成式人工智能模型，進(jìn)而在人機(jī)交互過(guò)程中適當(dāng)調(diào)適群體成員的共識(shí)形成進(jìn)程，盡可能地降低共同意見(jiàn)與主流文化之間的“偏軌”程度。第四，順應(yīng)數(shù)字技術(shù)發(fā)展的時(shí)代浪潮，增加對(duì)算力基礎(chǔ)設(shè)施的投資，通過(guò)建立新興學(xué)科、培養(yǎng)科研人才、投資相關(guān)高校和科研機(jī)構(gòu)，努力突破技術(shù)限制，把握技術(shù)發(fā)展的主導(dǎo)權(quán)，爭(zhēng)取在人工智能創(chuàng)新的源頭占據(jù)優(yōu)勢(shì)地位。只有突破技術(shù)壁壘，掌握先進(jìn)生成式人工智能技術(shù)，才能確保生成式人工智能具備符合主流文化的文本生成能力。

（二）以市場(chǎng)規(guī)制修正模型端的資本化邏輯

“自反式信息繭房”產(chǎn)生的原因在一定程度上可以追溯至工具理性的極端化：原本作為工具助力主體需求實(shí)現(xiàn)的信息生產(chǎn)和技術(shù)推送，反而在“技術(shù)—資本”的控制下形成信息選擇的壁壘，并通過(guò)隱形的方式操縱和引導(dǎo)主體的信息傾向，并最終弱化主體追求多樣化信息的能力。無(wú)論是個(gè)體、群體還是社會(huì)，都有可能被技術(shù)資本借助生成式人工智能之廣泛應(yīng)用而置于某種資本化邏輯之下。在資本的主導(dǎo)下，技術(shù)研發(fā)過(guò)程與資本運(yùn)作過(guò)程都內(nèi)蘊(yùn)著某種“統(tǒng)一生產(chǎn)活動(dòng)進(jìn)而統(tǒng)一文化”的邏輯。工具理性極端化所帶來(lái)的后果就是非理性的群體極化現(xiàn)象：“團(tuán)體成員一開(kāi)始即有某些偏向，在商議后，人們朝偏向的方向繼續(xù)移動(dòng)，最后形成極端的觀點(diǎn)……”“自反式信息繭房”是資本實(shí)現(xiàn)社會(huì)生活商品化的重要前提，具有不同生產(chǎn)、生活與消費(fèi)習(xí)慣的群體被劃入不同的信息繭房之中，而生成式人工智能的技術(shù)特質(zhì)及其背后暗含的資本意圖，又不斷通過(guò)對(duì)話實(shí)現(xiàn)“無(wú)聲的馴化”，進(jìn)而強(qiáng)化群體之間的隔閡。群體文化之間、群體文化與主流文化之間的脫軌，都離不開(kāi)“技術(shù)—資本”的“從中作?！?。因此，為消弭“自反式信息繭房”帶來(lái)的不良影響，必須合理規(guī)制生成式人工智能的技術(shù)研發(fā)和資本運(yùn)作行為，從外部為個(gè)體與群體提供一定的抵御力的同時(shí)，在最大程度上限制生成式人工智能模型的非理性化發(fā)展。

第一，應(yīng)規(guī)范生成式人工智能的技術(shù)研發(fā)過(guò)程。具體內(nèi)容包括確保模型在訓(xùn)練過(guò)程中能夠接觸到多樣化的信息源，減少“自反式信息繭房”的形成；提高模型算法的透明度，使其學(xué)習(xí)過(guò)程可解釋化，發(fā)現(xiàn)和修正信息繭房的問(wèn)題；建立用戶反饋機(jī)制，允許用戶指出模型生成的信息中存在的偏見(jiàn)和局限性，以便及時(shí)調(diào)整模型等。第二，應(yīng)規(guī)范資本投資運(yùn)行，引導(dǎo)生成式人工智能的有序發(fā)展。生成式人工智能技術(shù)的廣泛應(yīng)用離不開(kāi)資本的融合與操縱，資本的介入加速了生成式人工智能技術(shù)的研發(fā)和商業(yè)化進(jìn)程，但隨之而來(lái)的便是對(duì)利益最大化的過(guò)度追求，進(jìn)而忽視技術(shù)倫理和社會(huì)責(zé)任，并導(dǎo)致隱私保護(hù)、數(shù)據(jù)安全和算法偏見(jiàn)等方面的問(wèn)題。經(jīng)濟(jì)資本追求的自由度和冒險(xiǎn)精神，始終是與社會(huì)之穩(wěn)定性與安全性相背離的，故防止資本主導(dǎo)下的生成式人工智能技術(shù)發(fā)展的風(fēng)險(xiǎn)變得至關(guān)重要。在鼓勵(lì)資本進(jìn)入生成式人工智能模型研發(fā)市場(chǎng)的同時(shí)，應(yīng)制定明確、透明的政策，引導(dǎo)資本向有利于社會(huì)發(fā)展、符合倫理標(biāo)準(zhǔn)的技術(shù)研發(fā)方向流動(dòng)；既要發(fā)揮資本在集聚技術(shù)和文化資源方面的活力，也要遏制資本的盲目逐利和冒進(jìn)行為。應(yīng)通過(guò)精心設(shè)計(jì)的政策和有效的監(jiān)管措施，構(gòu)建一個(gè)以社會(huì)秩序?yàn)楹诵牡纳墒饺斯ぶ悄苣Ｐ涂蚣埽_保政策和法規(guī)在生成式人工智能技術(shù)發(fā)展中起到引導(dǎo)和監(jiān)管作用，以平衡資本的積極作用與其可能帶來(lái)的負(fù)面影響，從而為相應(yīng)制度構(gòu)建奠定堅(jiān)實(shí)的基礎(chǔ)，引導(dǎo)人工智能經(jīng)濟(jì)的良性發(fā)展。第三，應(yīng)強(qiáng)化資本市場(chǎng)規(guī)制，優(yōu)化生成式人工智能的文化思想輸出。“自反式信息繭房”的形成與資本的有意引導(dǎo)和營(yíng)銷息息相關(guān)。在資本追逐利益的動(dòng)機(jī)下，推送同質(zhì)化、商業(yè)化、偏向性信息，增強(qiáng)用戶黏性是其攫取高額利益的必然手段。雖然在生成式人工智能模型研發(fā)和落實(shí)之中，商業(yè)化在促進(jìn)技術(shù)進(jìn)步方面發(fā)揮著積極作用，但鑒于資本擴(kuò)張的無(wú)序性和任意性，資本極有可能把“信息繭房”“群體極化”等視為營(yíng)利點(diǎn)。因此，為維護(hù)道德倫理秩序、實(shí)現(xiàn)生成式人工智能的治理，應(yīng)主動(dòng)創(chuàng)新網(wǎng)絡(luò)文化傳播模式，將主要的價(jià)值觀和道德準(zhǔn)則指引轉(zhuǎn)換成形式化的符號(hào)和圖像，不斷優(yōu)化網(wǎng)絡(luò)文化內(nèi)容的數(shù)字化敘述，將主流文化融入生成式人工智能模型及其應(yīng)用中。

（三）以規(guī)范體系保障“人機(jī)交互”的秩序化發(fā)展

“自反式信息繭房”及其風(fēng)險(xiǎn)是非理性人機(jī)交互所產(chǎn)生的負(fù)面后果，一切有針對(duì)性的治理活動(dòng)都應(yīng)著眼于微觀的人機(jī)對(duì)話過(guò)程和宏觀的人機(jī)交互環(huán)境，且任何治理活動(dòng)的前提都在于構(gòu)建一個(gè)完善的規(guī)范體系。與以物理空間為基礎(chǔ)的現(xiàn)實(shí)世界相似，維系以數(shù)字空間為基礎(chǔ)的“虛擬世界”的“社會(huì)秩序”，必然也需要一套完整的規(guī)范作為支撐，此種規(guī)范體系更注重對(duì)于社會(huì)空間（無(wú)論是虛擬空間還是現(xiàn)實(shí)空間）秩序的建構(gòu)。由于人機(jī)交互同時(shí)涉及法律秩序與倫理秩序，故除了在最大程度上保證用戶端與模型端的理性之外，消除“自反式信息繭房”風(fēng)險(xiǎn)、實(shí)現(xiàn)數(shù)字空間良法善治的另一項(xiàng)重要步驟，便在于完善立法并注重生成式人工智能應(yīng)用的倫理性。

第一，加強(qiáng)立法工作，維護(hù)社會(huì)信息傳播法治秩序。生成式人工智能作為人工智能技術(shù)的前沿，其在實(shí)現(xiàn)潛在創(chuàng)造力的同時(shí)也存在不確定性和風(fēng)險(xiǎn)性，而從完善立法的角度提供可行的解決之策，是規(guī)避生成式人工智能技術(shù)風(fēng)險(xiǎn)的有效手段。囿于立法程序的嚴(yán)格復(fù)雜性及法律本身的保守性、滯后性，現(xiàn)有立法尚不能對(duì)作為新興數(shù)字技術(shù)的生成式人工智能進(jìn)行全面、實(shí)時(shí)的規(guī)制。但參照互聯(lián)網(wǎng)相關(guān)法律法規(guī)，考慮到我國(guó)人工智能技術(shù)正處于與美國(guó)、歐盟的激烈競(jìng)爭(zhēng)中，仍可制定針對(duì)生成式人工智能的專門(mén)性法律，通過(guò)立法明確技術(shù)開(kāi)發(fā)者、運(yùn)營(yíng)商和用戶在開(kāi)發(fā)和使用生成式人工智能時(shí)的權(quán)利、義務(wù)與責(zé)任，并開(kāi)展技術(shù)審查和合規(guī)性評(píng)估，定期對(duì)生成式人工智能技術(shù)進(jìn)行審查，確保其符合法律和倫理標(biāo)準(zhǔn)。必要時(shí)可探索建立“沙盒”監(jiān)管機(jī)制，為生成式人工智能技術(shù)在中國(guó)的適用提供安全獨(dú)立的測(cè)試環(huán)境，充分了解生成式人工智能的技術(shù)優(yōu)勢(shì)與弊端，并結(jié)合實(shí)踐不斷優(yōu)化立法。

第二，強(qiáng)化法律的鼓勵(lì)引導(dǎo)作用，維護(hù)社會(huì)信息傳播倫理秩序。“自反式信息繭房”并非全然由錯(cuò)誤思想驅(qū)動(dòng)，部分起初包含無(wú)害的思想內(nèi)容，部分則起源于技術(shù)愛(ài)好、休閑興趣或?qū)W術(shù)觀點(diǎn)等，只是在后續(xù)的發(fā)展中出現(xiàn)了組織結(jié)構(gòu)的異化。對(duì)此，應(yīng)引導(dǎo)開(kāi)發(fā)者與用戶的行為動(dòng)機(jī)朝向正確的文化思想發(fā)展，在“破繭”過(guò)程中促進(jìn)思想進(jìn)步。對(duì)于不良文化或資本惡意驅(qū)動(dòng)的“黑色繭房”，需要加大立法規(guī)范與執(zhí)法打擊，根除文化思想發(fā)展的不利因素，以確保文化、思想、信息、數(shù)據(jù)等在全社會(huì)范圍內(nèi)的健康傳播與流通。此外，訓(xùn)練數(shù)據(jù)是生成式人工智能模型學(xué)習(xí)的基礎(chǔ)，如果訓(xùn)練數(shù)據(jù)中存在不道德、不合法、不合規(guī)的內(nèi)容，那么生成式人工智能模型在實(shí)際應(yīng)用中就可能出現(xiàn)“偏軌”的交往行為。因此，應(yīng)確保生成式人工智能模型訓(xùn)練數(shù)據(jù)的來(lái)源和質(zhì)量，依據(jù)合理的法律和道德倫理標(biāo)準(zhǔn)對(duì)其進(jìn)行嚴(yán)格審查，防范負(fù)面內(nèi)容的出現(xiàn)。

第三，加強(qiáng)動(dòng)態(tài)監(jiān)測(cè)機(jī)制建設(shè)，促進(jìn)信息傳播和科技發(fā)展的良法善治。有效治理“自反式信息繭房”，需要建立生成式人工智能模型在人機(jī)交互方面的評(píng)價(jià)機(jī)制。一個(gè)有效的評(píng)價(jià)機(jī)制可以幫助我們監(jiān)測(cè)生成式人工智能模型在實(shí)際應(yīng)用中的道德表現(xiàn)，及時(shí)發(fā)現(xiàn)并解決問(wèn)題。評(píng)價(jià)機(jī)制應(yīng)包括對(duì)生成式人工智能模型在不同場(chǎng)景下的道德行為進(jìn)行評(píng)估，以及對(duì)模型在道德問(wèn)題上的自我糾錯(cuò)能力進(jìn)行考察。生成式人工智能模型是一個(gè)不斷學(xué)習(xí)和進(jìn)步的人工智能系統(tǒng)，我們需要對(duì)生成式人工智能模型的道德交往能力進(jìn)行持續(xù)研究和改進(jìn)，使其更加符合人類社會(huì)的法律和道德倫理標(biāo)準(zhǔn)。這包括對(duì)生成式人工智能模型進(jìn)行持續(xù)的算法優(yōu)化、引入新的道德倫理原則以及對(duì)其在實(shí)際應(yīng)用中遇到的具體道德問(wèn)題進(jìn)行解決等。

結(jié)語(yǔ)

“自反式信息繭房”是傳統(tǒng)信息繭房的強(qiáng)化形態(tài)，其由用戶與生成式人工智能共同形成的“閉鎖對(duì)話空間”構(gòu)筑而成，并基于“沉浸性”與“非理性”等特征而進(jìn)一步擴(kuò)大了信息繭房在個(gè)體、群體、社會(huì)層面的潛在風(fēng)險(xiǎn)，因而是技術(shù)治理的重要對(duì)象。在人類的任何時(shí)空境況下，都必然存在文化和思想方面的碰撞，由生成式人工智能導(dǎo)致的“自反式信息繭房”中也必然存在文化思想競(jìng)爭(zhēng)的情況，且此種競(jìng)爭(zhēng)與沖突將因“群體極化”情緒而愈演愈烈。因此，我們必須為即將到來(lái)的、圍繞著生成式人工智能應(yīng)用的文化與思想問(wèn)題做好準(zhǔn)備。無(wú)論如何，即使現(xiàn)階段囿于發(fā)展技術(shù)原因面臨解構(gòu)的風(fēng)險(xiǎn)和挑戰(zhàn)，現(xiàn)實(shí)世界中的政治和道德約束始終不應(yīng)讓位于數(shù)字技術(shù)。通過(guò)深入研究“自反式信息繭房”的形成機(jī)制和潛在風(fēng)險(xiǎn)，并探索相應(yīng)的規(guī)制路徑，我們可以更好地引導(dǎo)模型生成全面、客觀和可靠的信息，破除傳統(tǒng)網(wǎng)絡(luò)信息繭房以及數(shù)智時(shí)代下的新型“自反式信息繭房”。這有助于提高生成式人工智能在社會(huì)交流和信息處理中的質(zhì)量，確保其對(duì)用戶和社會(huì)的影響更具積極性。面對(duì)“自反式信息繭房”，應(yīng)保持審慎和理性，避免作出偏差性決策，只有在審慎態(tài)度之下尋求合作路徑，并在其影響社會(huì)群體或者社會(huì)大多數(shù)人之前盡早且程度恰當(dāng)?shù)剡M(jìn)行干預(yù)，才能夠?qū)崿F(xiàn)技術(shù)對(duì)人類文明的促進(jìn)。

【本文轉(zhuǎn)載自《探索與爭(zhēng)鳴》微信公眾號(hào)，原標(biāo)題為：曹冬英 | “自反式信息繭房”：生成式人工智能的構(gòu)筑機(jī)理與超越 | 創(chuàng)刊40周年青年學(xué)人?？?shù)據(jù)/信息：新文化的基礎(chǔ)設(shè)施②】