人均控制數(shù)千個(gè)自媒體賬號(hào)，用AI批量生產(chǎn)“小作文”……15個(gè)網(wǎng)絡(luò)水軍團(tuán)伙在一起案件中被搗毀。

在近日舉行的“清朗浦江·2025”網(wǎng)絡(luò)生態(tài)治理旬行動(dòng)啟動(dòng)儀式上，上海市網(wǎng)信辦公布了上述典型案例。

“一張大網(wǎng)”時(shí)刻準(zhǔn)備著將網(wǎng)絡(luò)水軍團(tuán)伙繩之于法。澎湃新聞?dòng)浾邚纳虾Ｊ形W(wǎng)信辦獲悉，網(wǎng)信部門(mén)與公安網(wǎng)安等部門(mén)建立了“巡查監(jiān)測(cè)-核查反饋-會(huì)商研判-線(xiàn)索移送-打擊處置”的閉環(huán)機(jī)制。針對(duì)不實(shí)謠言信息，網(wǎng)信部門(mén)始終采取“零容忍”的態(tài)度，發(fā)現(xiàn)一起，處置一起。

控制超20萬(wàn)個(gè)賬號(hào)

2024年3月，在某網(wǎng)絡(luò)平臺(tái)上，大量“自媒體”賬號(hào)短時(shí)間內(nèi)集中發(fā)布某則不實(shí)信息。相同的圖片、高度相似的用詞和句式，引起了上海網(wǎng)信部門(mén)的注意。該部門(mén)工作人員告訴澎湃新聞?dòng)浾?，針?duì)一些突發(fā)的，涉及經(jīng)濟(jì)民生、社會(huì)秩序等方面的信息，他們會(huì)通報(bào)相關(guān)領(lǐng)域的主管部門(mén)，進(jìn)行信息真實(shí)性核驗(yàn)，從而確定“自媒體”賬號(hào)集中發(fā)布的信息是否屬實(shí)。

上海網(wǎng)信部門(mén)已經(jīng)與公安網(wǎng)安部門(mén)、網(wǎng)站平臺(tái)，形成了“監(jiān)測(cè)—攔截—打擊”的全鏈條治理模式，確?？焖俑咝У卮驌艟W(wǎng)絡(luò)水軍團(tuán)伙。三方迅速聯(lián)動(dòng)響應(yīng)：網(wǎng)信部門(mén)負(fù)責(zé)統(tǒng)籌協(xié)調(diào)，利用技術(shù)手段監(jiān)測(cè)和識(shí)別“水軍”行為，并進(jìn)行線(xiàn)索移交；公安網(wǎng)安部門(mén)依法查處違法犯罪行為，追查“水軍”幕后組織；網(wǎng)站平臺(tái)則通過(guò)技術(shù)過(guò)濾、用戶(hù)舉報(bào)和內(nèi)容審核等，及時(shí)清理“水軍”賬號(hào)和虛假信息。

截至2025年3月21日，公安部門(mén)在這起案件中抓獲違法犯罪嫌疑人36人，打掉網(wǎng)絡(luò)水軍團(tuán)伙15個(gè)。目前，3人已被判決獲刑，其余相關(guān)涉案人員在進(jìn)一步審理中。

澎湃新聞?dòng)浾邚纳虾Ｊ泄簿志W(wǎng)安總隊(duì)獲悉，經(jīng)上海警方偵查，這類(lèi)被網(wǎng)絡(luò)水軍團(tuán)伙統(tǒng)一控制的賬號(hào)在某平臺(tái)上超過(guò)20萬(wàn)個(gè)。據(jù)到案嫌疑人交代，團(tuán)伙中人均控制多達(dá)數(shù)千個(gè)自媒體賬號(hào)。

上述網(wǎng)絡(luò)水軍團(tuán)伙相對(duì)獨(dú)立，作案手法相同。此次抓獲的團(tuán)伙人員本身處在“水軍”黑灰產(chǎn)業(yè)鏈上層，通過(guò)網(wǎng)絡(luò)社交軟件發(fā)布刷單招募廣告，大肆招募網(wǎng)民，并指揮他們?nèi)粘０l(fā)帖。

這些團(tuán)伙通常會(huì)使用特定的軟件，批量生成文章及控制自媒體賬號(hào)登錄。使用上述非法軟件，一小時(shí)即可制文數(shù)萬(wàn)余篇，1個(gè)月平均可發(fā)文70余萬(wàn)篇。

“通俗來(lái)說(shuō)，水軍團(tuán)伙的實(shí)控人會(huì)根據(jù)平臺(tái)的熱點(diǎn)事件洗稿，短時(shí)間生成我們平時(shí)看到的大體相似、細(xì)微不同的文章。之后再通過(guò)軟件給到下游網(wǎng)民。”上海網(wǎng)安總隊(duì)表示，這些網(wǎng)絡(luò)水軍團(tuán)伙的變現(xiàn)方式僅依靠平臺(tái)收益補(bǔ)貼提現(xiàn)，“因?yàn)榘l(fā)的都是低質(zhì)文章，賬號(hào)無(wú)法養(yǎng)大，只能通過(guò)螞蟻搬家式的手法賺取收益。但時(shí)間一長(zhǎng)，發(fā)展的下游網(wǎng)民數(shù)量越來(lái)越多，收益也水漲船高?！碑?dāng)下游網(wǎng)民未按此前約定分成提現(xiàn)的收益時(shí)，網(wǎng)絡(luò)水軍團(tuán)伙便會(huì)終止合作，不再往其郵箱投放文章。

如何防患于未然？

網(wǎng)絡(luò)上的不實(shí)信息五花八門(mén)。

澎湃新聞?dòng)浾咦⒁獾?，在“清朗浦江?025”網(wǎng)絡(luò)生態(tài)治理旬行動(dòng)啟動(dòng)儀式上發(fā)布的典型案例中，還涉及炒作社會(huì)熱點(diǎn)事件牟利、拼湊嫁接“小作文”賺取流量等多種類(lèi)型。

上海網(wǎng)信部門(mén)工作人員介紹，在各類(lèi)不實(shí)信息中，憑空捏造類(lèi)、渲染夸大類(lèi)、虛實(shí)結(jié)合類(lèi)不實(shí)信息最容易發(fā)酵并大面積傳播?！斑@些不實(shí)信息往往無(wú)中生有、夸大其詞，利用公眾的急切心理、獵奇心理或情感共鳴，通過(guò)小道消息、民間偏方、冒充權(quán)威等方式傳播，具有誤導(dǎo)性強(qiáng)、仿真性高、易引發(fā)恐慌和焦慮等特點(diǎn)，從而在短時(shí)間內(nèi)引發(fā)廣泛傳播?！?/p>

針對(duì)不實(shí)謠言信息，網(wǎng)信部門(mén)始終采取“零容忍”的態(tài)度，發(fā)現(xiàn)一起，處置一起。網(wǎng)絡(luò)上的信息浩如煙海，如何對(duì)不實(shí)信息防患于未然？

對(duì)此，上海網(wǎng)信部門(mén)表示，治理不實(shí)謠言，需在早期冒頭時(shí)精準(zhǔn)識(shí)別打擊。當(dāng)謠言廣泛傳播后，則要實(shí)現(xiàn)迅速核查處置。

當(dāng)“上海財(cái)政向寺廟借款100億”、“臺(tái)風(fēng)將小區(qū)人員吹落”等網(wǎng)絡(luò)謠言出現(xiàn)后，網(wǎng)信部門(mén)與公安網(wǎng)安等部門(mén)基于已經(jīng)建立的相關(guān)機(jī)制，均實(shí)現(xiàn)了迅速核查處置，起到了震懾作用。

除了精準(zhǔn)打擊，官方平臺(tái)及時(shí)發(fā)布準(zhǔn)確信息，主動(dòng)公開(kāi)辟謠，擠壓不實(shí)信息的傳播空間也頗為重要。針對(duì)“上海財(cái)政向寺廟借款100億”、“臺(tái)風(fēng)將小區(qū)人員吹落”等兩起謠言，上海警方除了對(duì)謠言發(fā)布者依法予以處罰外，還同步協(xié)調(diào)本市媒體等發(fā)布事件真相，還原事實(shí)。

在壓實(shí)平臺(tái)責(zé)任方面，網(wǎng)信部門(mén)通過(guò)督促屬地網(wǎng)站平臺(tái)強(qiáng)化內(nèi)容審核機(jī)制，對(duì)虛假信息加掛謠言標(biāo)簽、對(duì)存疑信息加掛爭(zhēng)議標(biāo)簽等方式，加強(qiáng)過(guò)濾和攔截，切實(shí)建立謠言信息“防火墻”。此外，為鼓勵(lì)網(wǎng)民積極參與監(jiān)督，及時(shí)舉報(bào)不實(shí)信息，形成群防群治的良好氛圍，網(wǎng)信部門(mén)督促屬地網(wǎng)站平臺(tái)建立便捷的謠言信息舉報(bào)入口，在“上海市互聯(lián)網(wǎng)違法和不良信息舉報(bào)中心”網(wǎng)站上開(kāi)設(shè)“一鍵舉報(bào)”入口。

網(wǎng)絡(luò)水軍的危害本質(zhì)上是“信息污染”，其影響已突破虛擬空間，深刻侵蝕社會(huì)信任、市場(chǎng)公平與個(gè)人權(quán)益，治理這一“數(shù)字毒瘤”亟需多維度協(xié)同，唯有秩序規(guī)范，才能重塑清朗。為營(yíng)造風(fēng)清氣正的網(wǎng)絡(luò)空間，上海去年開(kāi)展優(yōu)化營(yíng)商網(wǎng)絡(luò)環(huán)境、抵制網(wǎng)絡(luò)暴力、整治“自媒體”無(wú)底線(xiàn)博流量等20多個(gè)專(zhuān)項(xiàng)行動(dòng)，累計(jì)清理違法違規(guī)和不良信息1008萬(wàn)余條，處置違規(guī)賬號(hào)349萬(wàn)余個(gè)，網(wǎng)絡(luò)生態(tài)治理取得扎實(shí)成效。