谷歌要為AI生成的內(nèi)容打標(biāo)記，因?yàn)锳I也拿AI沒有辦法

澎湃新聞?dòng)浾?舒怡爾衛(wèi)瑤

2023-05-12 11:59

來源：澎湃新聞

擺出兩張照片，讓你分辨其中哪一張是 AI 生成的；給你兩分鐘時(shí)間，讓你判斷網(wǎng)線另一頭同你聊天的是 AI 還是人類。無論答對(duì)還是答錯(cuò)，抉擇時(shí)的搖擺說明了一切：AI 突進(jìn)，但你還沒有做好準(zhǔn)備。

一張由 Midjourney 5.1 版本生成，另一張則是真照片。

抖音 5 月 9 日發(fā)布關(guān)于人工智能生成內(nèi)容的平臺(tái)規(guī)范暨行業(yè)倡議。其中提到，發(fā)布者應(yīng)對(duì)人工智能生成內(nèi)容進(jìn)行顯著標(biāo)識(shí)，幫助其他用戶區(qū)分虛擬與現(xiàn)實(shí)，特別是易混淆場(chǎng)景。若發(fā)布者利用生成式 AI 技術(shù)創(chuàng)作、發(fā)布侵權(quán)內(nèi)容，造謠傳謠，一經(jīng)發(fā)現(xiàn)，平臺(tái)將嚴(yán)格處罰。

“如果用戶在平臺(tái)上發(fā)布的人工智能生成的假視頻、假消息造成了不良的影響，第一責(zé)任人肯定是用戶?！?/strong>上海大邦律師事務(wù)所高級(jí)合伙人游云庭接受澎湃新聞?dòng)浾卟稍L時(shí)表示：“平臺(tái)現(xiàn)在是觸發(fā)式監(jiān)管，比如說瀏覽量在 500 次以下的，哪怕有問題，他也不擔(dān)責(zé)。但是瀏覽量到了一定程度，比如說上了熱搜，平臺(tái)是需要進(jìn)行人工審核的。這個(gè)時(shí)候平臺(tái)就要承擔(dān)責(zé)任了?！?/p>

游云庭補(bǔ)充道：“監(jiān)管的操作第一線肯定是平臺(tái)?！?/strong>

同時(shí)，各國政府都在考慮加大對(duì) AI 的監(jiān)管力度。4 月 27 日，歐盟達(dá)成《人工智能法（The AI Act）》協(xié)議，為世界上第一部綜合性人工智能法律鋪平道路。

科技公司擔(dān)起責(zé)任，用技術(shù)制衡 AI 濫用。5 月 11 日，谷歌在 Google I/O 大會(huì)上公布了它的 AI 生成圖像識(shí)別工具，你可以通過上傳來源不明的圖片、執(zhí)行反向圖片搜索，了解到這張圖片被谷歌初次收錄的時(shí)間、最早出現(xiàn)的網(wǎng)站。如果一張帶有新聞機(jī)構(gòu)水印的圖片首次出現(xiàn)在搞笑網(wǎng)站，那它很有可能是偽造的。
谷歌還宣布，它自己的生成式 AI 工具將在每張圖片中包含元數(shù)據(jù)、嵌入水印，以表明這是 AI 生成的圖像，而不是真實(shí)照片。谷歌的博客文章寫道，Midjourney、Shutterstock 和其他公司將在 “未來幾個(gè)月”推出這種標(biāo)記。
AI 野蠻生長的時(shí)代，科技是最快的解法。
科技解法一：AI 生成內(nèi)容識(shí)別器
在線課程供應(yīng)商 Study.com 向 1000 名 18 歲以上的學(xué)生發(fā)起調(diào)查，結(jié)果表明超過 89%的學(xué)生使用 ChatGPT 來完成家庭作業(yè)。如果靠人力一條條地去分辨 AI 生成的痕跡，實(shí)在太過勞心勞力。
所以，最直接的想法是，不如讓 AI 來辨別內(nèi)容是否由 AI 生成。2 月 1 日，OpenAI 團(tuán)隊(duì)推出“AI 生成內(nèi)容識(shí)別器”，旨在識(shí)別文本是由電腦自動(dòng)生成還是人類撰寫，其本質(zhì)上是一個(gè)區(qū)別真實(shí)內(nèi)容和 AI 生成內(nèi)容的分類器。不過，OpenAI 在博客中指出，此識(shí)別器對(duì) AI 撰寫內(nèi)容的檢出成功率僅為 26%。
科技網(wǎng)站 TechCrunch 曾在 2 月份用類似 ChatGPT 的聊天機(jī)器人 Claude 生成了 7 段不同風(fēng)格的文字，來測(cè)試幾個(gè)比較流行的 AI 文本檢測(cè)器的“偵查能力”。結(jié)果，沒有 AI 檢測(cè)器能夠通關(guān)。
然而，隨著 AI 的能力越來越強(qiáng)，繞過 AI 檢測(cè)器也變得越來越容易。
拿上述表現(xiàn)最佳的 GPTZero 來說，澎湃新聞?dòng)浾哂?GPT-4 生成的一段 250 字的小說，被其判定為“有可能完全出自人類之手”。
GPT-4 生成的文字被 GPTZero 判定為“有可能完全出自人類之手”
科技解法二：數(shù)字水印
數(shù)字水印指，AI 生成時(shí)，以用戶肉眼不可察的方式，在內(nèi)容中插入一些信息，打上“此文章（此圖）由 AI 生成”的隱秘水印。
AI 生成內(nèi)容識(shí)別器失敗之后，OpenAI 開始考慮在生成的文本中加入數(shù)字水印。OpenAI 對(duì)齊團(tuán)隊(duì)（Alignment Team，主要負(fù)責(zé)提高系統(tǒng)安全性）負(fù)責(zé)人 Jan Leike 對(duì)《紐約時(shí)報(bào)》透露，OpenAI 正在探索的水印方法類似于馬里蘭大學(xué)研究人員最近發(fā)表的一篇論文中描述的方法。
然而這種新方法的局限之處在于，水印只有從一開始就嵌入到大語言模型才有效。若要廣泛運(yùn)用，人工智能領(lǐng)域的公司必須就水印的實(shí)施標(biāo)準(zhǔn)達(dá)成共識(shí)。
OpenAI 的 CEO，Sam Altman 接受《StrictlyVC》采訪時(shí)表示，不存在一個(gè)完美的 AI 生成文字識(shí)別工具?！叭藗兛倳?huì)弄清楚他們要修改多少文字，還會(huì)出現(xiàn)修改輸出文本的其他工具。”
通過嵌入“元數(shù)據(jù)”，圖像可以強(qiáng)硬地把“AI”寫在作者欄。但 AI 生成文字還在等一個(gè)可行的解法。
開頭的兩張圖里，左邊是真照片，右邊是AI生成的，你猜到了嗎？