原創(chuàng) 以殷 果殼

當(dāng)長(zhǎng)輩在家族群中發(fā)“無(wú)籽葡萄是避孕藥泡過(guò)的”謠言推送時(shí)，我顫巍巍地把果殼的科普甩進(jìn)群里，等待長(zhǎng)輩的諄諄教誨。但為什么年輕人給老一輩科普還要背上“大不敬”的罪名？如果社交媒體能直接搭載AI識(shí)別謠言，只要長(zhǎng)輩一發(fā)“千滾水不能喝”之類(lèi)的東西，AI就自動(dòng)警鈴大作，在長(zhǎng)輩的手機(jī)屏幕上彈出“此條消息是謠言”的警告，豈不美哉！

查證來(lái)源是識(shí)別謠言的好方法丨Giphy

AI在線查謠言，仍需人類(lèi)來(lái)主攻

其實(shí)AI識(shí)別謠言并不新鮮。去年，阿里巴巴達(dá)摩院的科學(xué)家就造了個(gè)AI謠言粉碎機(jī)，據(jù)稱(chēng)謠言識(shí)別準(zhǔn)確率達(dá)81%。阿里開(kāi)發(fā)的AI用的是自然語(yǔ)言處理技術(shù)，分三步來(lái)判斷謠言。

1. AI會(huì)找到內(nèi)容最初的信息源，并分析用戶(hù)畫(huà)像。比如用戶(hù)發(fā)表了“韭菜和牛奶相克”的內(nèi)容，那TA的專(zhuān)業(yè)領(lǐng)域是不是醫(yī)學(xué)或者營(yíng)養(yǎng)學(xué)呢？

2. 尋找網(wǎng)上所有的信息源，看內(nèi)容鏈接的域名是不是來(lái)自可信的網(wǎng)站，比如政府官網(wǎng)或者可信賴(lài)的媒體。

3. 將正文里關(guān)鍵的論證提煉為知識(shí)點(diǎn)，與知識(shí)圖譜里的權(quán)威知識(shí)庫(kù)做匹配驗(yàn)證。如果毫無(wú)聯(lián)系、自相矛盾，就會(huì)減分。

在社交媒體時(shí)代，每個(gè)互聯(lián)網(wǎng)用戶(hù)都是內(nèi)容生產(chǎn)者，謠言治理是個(gè)全球性的難題，除了國(guó)內(nèi)的阿里、今日頭條等在AI識(shí)別謠言上做出努力之外，國(guó)外的臉書(shū)、推特等社交媒體為打擊假新聞，也搭載了AI來(lái)識(shí)別謠言。這次美國(guó)大選，推特更是嚴(yán)陣以待，利用AI和人工審核，把選舉有關(guān)的不實(shí)內(nèi)容都打上標(biāo)記——特朗普的近百條推文就被標(biāo)記為“不實(shí)消息”。

被打上不實(shí)消息的推文丨Twitter：@realDonaldTrump

盡管很多人對(duì)AI識(shí)別謠言寄予厚望，但實(shí)際上，現(xiàn)在AI的能力還沒(méi)想象中的那么強(qiáng)。目前謠言識(shí)別仍然依賴(lài)人工核查，AI處于補(bǔ)充地位，主要在識(shí)別簡(jiǎn)單重復(fù)的虛假內(nèi)容、假新聞網(wǎng)址和機(jī)器人賬號(hào)上發(fā)揮作用。在新冠疫情期間，為對(duì)付滿(mǎn)天飛的新冠謠言，臉書(shū)和全世界60多個(gè)事實(shí)核查組織合作，先來(lái)標(biāo)記虛假新聞，然后當(dāng)用戶(hù)分享假新聞時(shí)，AI就能檢測(cè)到這些內(nèi)容。到今年4月份，大約有5000萬(wàn)條與新冠疫情相關(guān)的虛假內(nèi)容被打上了“警告”標(biāo)簽。

為什么現(xiàn)階段在識(shí)別謠言上，AI還拼不過(guò)人工呢？一些專(zhuān)家認(rèn)為，AI無(wú)法單獨(dú)勝任謠言識(shí)別的工作。盡管AI可以提取某些事實(shí)并進(jìn)行粗略的情感分析，但它無(wú)法完全理解人類(lèi)的寫(xiě)作方式，對(duì)文字的語(yǔ)境和語(yǔ)調(diào)帶來(lái)的細(xì)微差別束手無(wú)策，也沒(méi)辦法自己打電話去求證核實(shí)?，F(xiàn)在網(wǎng)上沖浪選手喜歡“陰陽(yáng)怪氣”的諷刺表達(dá)，除非AI變成人類(lèi)老油條，不然很難摸清人類(lèi)寫(xiě)作的真實(shí)目的。

“人類(lèi)，你在說(shuō)啥？”丨Pexels

打造謊言照妖鏡:

故事聽(tīng)起來(lái)很脫節(jié)？很可能是謠言

除了高頻率碰到的健康養(yǎng)生類(lèi)謠言，新冠疫情期間的種種陰謀論也甚囂塵上。盡管科學(xué)家不斷發(fā)聲辟謠，但“新冠病毒是實(shí)驗(yàn)室制造的”等陰謀論依然大有受眾，發(fā)達(dá)的社交媒體更是陰謀論萌發(fā)和傳播的溫床。為了識(shí)破陰謀論并將它扼殺在搖籃里，加州大學(xué)的文化分析小組也嘗試，訓(xùn)練AI來(lái)識(shí)別謠言和陰謀論的基本特征與內(nèi)容框架，以便“按圖索驥”，謠言一露頭就加以控制。

在研究中，研究人員以“披薩門(mén)”（pizzagate）和“封橋門(mén)”（bridgegate）為例，展示了AI識(shí)破陰謀論的原理。

“披薩門(mén)”是已被證實(shí)的陰謀論，發(fā)生在2016年美國(guó)大選期間。當(dāng)時(shí)的民主黨總統(tǒng)候選人希拉里被指卷入了一個(gè)兒童色情團(tuán)伙，這個(gè)團(tuán)伙在華盛頓特區(qū)的大本營(yíng)是一家披薩餐廳，甚至有一個(gè)“披薩門(mén)”的擁護(hù)者持步槍在該餐廳里開(kāi)槍?zhuān)覠o(wú)人員傷亡。而“封橋門(mén)”則是一個(gè)真實(shí)的政治丑聞，2013年，新澤西州長(zhǎng)的親信向政敵進(jìn)行政治報(bào)復(fù)，關(guān)閉華盛頓大橋的兩條通道造成交通擁堵。

披薩門(mén)中提及的披薩店丨Wikimedia Commons

研究者開(kāi)發(fā)的AI先從一些論壇上扒下討論“披薩門(mén)”和“封橋門(mén)”的帖子，并識(shí)別帖子中的人物、地點(diǎn)和事物等元素。當(dāng)AI提取數(shù)據(jù)的時(shí)候，會(huì)把這些故事元素當(dāng)作節(jié)點(diǎn)，并把相關(guān)的節(jié)點(diǎn)聯(lián)系在一起，形成一個(gè)體系。在比較過(guò)程中，研究者就發(fā)現(xiàn)了兩個(gè)明顯的陰謀論特征。

首先是完整故事圖譜的形成速度。封橋門(mén)的故事圖譜因?yàn)闋砍兜脑剡^(guò)多，從2013年到2020年不斷發(fā)展豐富，花了將近六年才得以完整描述，而披薩門(mén)的故事圖譜在一個(gè)月內(nèi)就基本穩(wěn)定成型了。

第二個(gè)特征則是故事的“堅(jiān)固”程度。因?yàn)殛幹\論者都很喜歡“透過(guò)現(xiàn)象看本質(zhì)”，發(fā)現(xiàn)世界的隱藏聯(lián)系，這就導(dǎo)致故事本身非常容易脫節(jié)。披薩門(mén)的故事內(nèi)容是非常松散的，故事圖譜的主要元素偏少，聯(lián)系也比較微弱，如果把關(guān)鍵的元素去掉，整個(gè)故事就分崩離析，分解成政治、餐飲、撒旦主義等不太相干的領(lǐng)域。而對(duì)于真實(shí)事件封橋門(mén)來(lái)說(shuō)，因?yàn)樵剡^(guò)多，聯(lián)系緊密，即使刪除了丑聞中的關(guān)鍵人物和關(guān)系，也能形成一個(gè)單一的、相聯(lián)系的網(wǎng)絡(luò)，并聚焦于新澤西州的政治問(wèn)題，故事本身依然成立。

上圖為封橋門(mén)，聯(lián)系緊密；下圖為披薩門(mén)，結(jié)構(gòu)松散丨

https://doi.org/10.1371/journal.pone.0233879

通過(guò)這些特征，AI不需要全面收集數(shù)據(jù)就能近乎實(shí)時(shí)識(shí)破陰謀論，不過(guò)加州大學(xué)這個(gè)“陰謀論識(shí)別模型”依舊在完善之中，研究人員不斷地將新冠疫情期間流行的陰謀論和針對(duì)反疫苗接種運(yùn)動(dòng)的謠言“投喂”給它，希望這個(gè)識(shí)別模型能夠早日完成，并基于它開(kāi)發(fā)一個(gè)跟蹤陰謀論出現(xiàn)和發(fā)展的預(yù)警系統(tǒng)，提醒網(wǎng)友注意新冒出來(lái)的陰謀論。

人類(lèi)聯(lián)手AI對(duì)抗謠言已經(jīng)是一個(gè)趨勢(shì)，不過(guò)在等待AI變得更“聰明”、扼殺更多謠言之前，提高自身的科學(xué)素養(yǎng)和信息甄別能力才是更重要的。

參考文獻(xiàn)

[1] Tangherlini, T. R., Shahsavari, S., Shahbazi, B., Ebrahimzadeh, E., & Roychowdhury, V. (2020). An automated pipeline for the discovery of conspiracy and conspiracy theory narrative frameworks: Bridgegate, Pizzagate and storytelling on the web. PloS one, 15(6), e0233879.

[2]https://theconversation.com/an-ai-tool-can-distinguish-between-a-conspiracy-theory-and-a-true-conspiracy-it-comes-down-to-how-easily-the-story-falls-apart-146282

[3]https://www.theguardian.com/technology/2020/nov/11/how-2020-transformed-big-tech-the-story-of-facebook-qanon-and-the-worlds-slackening-grip-on-reality

[4]https://en.wikipedia.org/wiki/Fort_Lee_lane_closure_scandal

[5]https://en.wikipedia.org/wiki/Pizzagate_conspiracy_theory

[6]http://www.xinhuanet.com/local/2019-03/01/c_1124178146.htm

[7]https://www.theverge.com/2018/4/5/17202886/facebook-fake-news-moderation-ai-challenges

[8]https://ai.facebook.com/blog/using-ai-to-detect-covid-19-misinformation-and-exploitative-content/

作者：以殷

原標(biāo)題：《小道消息漫天飛，辟謠還得靠AI？》

閱讀原文