DeepSeek熱潮未退，Manus一碼難求，AI產(chǎn)品的火爆出圈，瞬間吸引了嗅覺(jué)敏銳的“賣課大軍”與逐利者蜂擁而至。而那些自以為“吃上螃蟹”的消費(fèi)者，常常面臨風(fēng)險(xiǎn)。

澎湃新聞深入挖掘9776條投訴數(shù)據(jù)，從中梳理出消費(fèi)者深陷AI陷阱與騙局的各類場(chǎng)景及渠道。值得高度警惕的是，AI相關(guān)消費(fèi)投訴不乏上萬(wàn)元乃至幾十萬(wàn)元的高額消費(fèi)投訴，部分消費(fèi)騙局已達(dá)到立案標(biāo)準(zhǔn)，背后潛藏的風(fēng)險(xiǎn)不容小覷。

AI讓人上頭，嘗鮮容易遇到哪些消費(fèi)陷阱

DeepSeek上線后掀起全民AI熱，帶動(dòng)AI全面出圈。許多原本對(duì)AI一知半解的消費(fèi)者，也渴望走近AI，一探究竟。

然而萬(wàn)事開(kāi)頭難，許多消費(fèi)者在嘗試后發(fā)現(xiàn)，想要下載一個(gè)貨真價(jià)實(shí)的DeepSeek其實(shí)并不容易。

澎湃新聞從黑貓投訴中找到了消費(fèi)者最常接觸到的12種仿冒DeepSeek的APP。“Deepdesk”“Deepsek”“Dreamdesk”“Deep seek”......一眼望去，孰真孰假？也許只是多一個(gè)空格，或少一個(gè)字母“e”，便能收割一批消費(fèi)者的錢(qián)包。

消費(fèi)者上當(dāng)受騙也并非都是粗心大意，相關(guān)搜索平臺(tái)也會(huì)利用用戶“搜索結(jié)果按相關(guān)度排列”的默認(rèn)心理，引誘不了解的用戶點(diǎn)擊下載。在消費(fèi)者接觸仿冒DeepSeek APP的渠道中，占比最高的是各類應(yīng)用商店，達(dá)到50%，其次是瀏覽器，占比11.8%。

澎湃新聞?dòng)浾咴?月14日分別使用百度、360搜索DeepSeek，第一個(gè)搜索結(jié)果均不是DeepSeek官網(wǎng)。

這些冒牌DeepSeek往往會(huì)先將錢(qián)攬進(jìn)口袋，再卸下面具。按照典型套路，這類APP會(huì)在用戶下載之后，第一時(shí)間要求用戶開(kāi)通會(huì)員或終身使用權(quán)限，甚至直接彈出付款界面。而在下載一段時(shí)間或自動(dòng)更新后，軟件會(huì)突然“掉馬”，露出原皮。消費(fèi)者這才發(fā)現(xiàn)，這完全是一場(chǎng)“掛羊頭賣狗肉”的戲碼。然而到了這個(gè)時(shí)候，往往已經(jīng)退款無(wú)門(mén)。

消費(fèi)者嘗鮮AI失利在賣課界也是屢見(jiàn)不鮮。澎湃新聞對(duì)黑貓投訴平臺(tái)的9776條數(shù)據(jù)深入分析后發(fā)現(xiàn)，與“賺錢(qián)變現(xiàn)”及“學(xué)習(xí)技能”相關(guān)的關(guān)鍵詞，最易誘使消費(fèi)者落入陷阱。不良商家深諳消費(fèi)者心態(tài)，將AI視為絕佳的引流利器。在宣傳時(shí)，只需洗腦式地拋出“前學(xué)員已成功變現(xiàn)XX元”“AI剪輯一分鐘出片”這類噱頭，便能吸引眾多消費(fèi)者的關(guān)注，從中謀取不當(dāng)利益。有消費(fèi)者在投訴中寫(xiě)到，買(mǎi)完課的那一刻才是上當(dāng)受騙的開(kāi)始，類似“1對(duì)1輔導(dǎo)”“教你第一個(gè)吃螃蟹”等話術(shù)，不過(guò)是誘騙自己再多買(mǎi)一些無(wú)用課程的戲碼。

老年人、未成年人與打工人，是AI嘗鮮受騙的三大主要群體。而短視頻和直播鏈接，常常讓他們?yōu)榱薃I而沖動(dòng)下單。

購(gòu)買(mǎi)課程后，打工人群體往往能夠自主察覺(jué)到上當(dāng)受騙，“授課內(nèi)容和AI毫無(wú)關(guān)系”?！皨寢屇隁q已高，根本分不清是非，騙子公司欺騙她能幫忙理財(cái)盈利”，而老年人受騙后，通常是由子女發(fā)現(xiàn)異樣。產(chǎn)品貨不對(duì)板、服務(wù)質(zhì)量差等問(wèn)題，是他們上當(dāng)受騙后遭遇的普遍狀況。

“拉個(gè)群收款之后就消失了”“和老師要求退款，會(huì)遭到各種理由拒絕，真的不知該如何維權(quán)”......退款無(wú)門(mén)，是投訴數(shù)據(jù)中被騙消費(fèi)者的共同困境。及時(shí)試圖聯(lián)系詢問(wèn)，往往只能得到AI客服的回復(fù)，解決不了實(shí)際問(wèn)題。

從一鍵下單到憤怒投訴，此類惡性AI賣課行為是造成消費(fèi)者經(jīng)濟(jì)損失的主要原因之一。除此之外，AI應(yīng)用領(lǐng)域還藏著哪些共性套路？

動(dòng)輒上萬(wàn)，大額AI投訴金額是如何產(chǎn)生的

當(dāng)商業(yè)逐步融入豐富的AI技術(shù)應(yīng)用場(chǎng)景，暗藏的風(fēng)險(xiǎn)隱患也日益增多。無(wú)論是商家蓄意利用消費(fèi)者對(duì)新技術(shù)懵懂而設(shè)局，還是吹噓技術(shù)暴露出馬腳。商業(yè)機(jī)遇的表象下，消費(fèi)者權(quán)益極易在各類陷阱中受到損害。

加盟投資是一個(gè)可能發(fā)生大額詐騙的場(chǎng)景，初創(chuàng)AI公司打著先進(jìn)技術(shù)與廣闊市場(chǎng)前景的幌子，以極具誘惑性的加盟政策吸引消費(fèi)者。在投訴典型案例中，一家初創(chuàng)AI公司標(biāo)明“一年內(nèi)可以自由全額退款”等豐厚條件，而在簽約合同后，當(dāng)加盟方發(fā)現(xiàn)前景不佳、或運(yùn)營(yíng)虧損想要退款時(shí)，公司往往不按合同規(guī)定，拖延退款。而加盟方在后續(xù)上訴過(guò)程中，必須拿出有證明力度的錢(qián)款流水證明。

AI產(chǎn)品是引起投訴的罪魁禍?zhǔn)?。一方面，部分商家將所謂的AI技術(shù)“縫”入產(chǎn)品，夸大實(shí)現(xiàn)效果和服務(wù)質(zhì)量。而實(shí)則貨不對(duì)板，沒(méi)有AI技術(shù)含量或效果不可接受。這種拙劣的技術(shù)“縫合”往往出現(xiàn)在AI賣課領(lǐng)域，“孩子聽(tīng)了AI外教，根本沒(méi)什么作用”“下單后，老師拒發(fā)教材資料”等類似投訴比比皆是。另一方面，部分商家為降本增效，強(qiáng)制要求用戶“將產(chǎn)品替換為AI課程”。消費(fèi)者不滿提出退款，賣課商家多將皮球踢給客服，客服又給不出具體的解決方案。

然而，值得一提的是，也有不少投訴案例并不真的與AI有直接關(guān)系。但是，當(dāng)AI開(kāi)始滲透進(jìn)生活的方方面面，消費(fèi)者會(huì)意識(shí)到AI扮演的各種角色，而將自己的權(quán)益受損與AI勾連起來(lái)。

許多大額且案情繁雜的AI投訴，僅靠消費(fèi)者發(fā)聲是遠(yuǎn)遠(yuǎn)不夠的。在法院立案受理的案件中，又隱藏著哪些更為突出、亟待解決的問(wèn)題？

AI技術(shù)涉多起刑事案件，最高涉案金額超69萬(wàn)元

AI有關(guān)投訴反映了AI觸及社會(huì)生活的廣度，裁判文書(shū)則體現(xiàn)了AI爭(zhēng)議與侵害造成惡劣影響的深度。在106篇與AI關(guān)聯(lián)度較高的裁判文書(shū)中，合同糾紛是最主要的民事案由，AI換臉成為刑事案件的重災(zāi)區(qū)。

今年兩會(huì)期間，AI換臉成為備受矚目的焦點(diǎn)話題。全國(guó)政協(xié)委員、中國(guó)煤礦文工團(tuán)團(tuán)長(zhǎng)靳東直言，不少喜愛(ài)其影視劇的觀眾被AI換臉視頻騙得很慘。全國(guó)人大代表、小米集團(tuán)創(chuàng)始人雷軍也提到，AI換臉、AI擬聲在網(wǎng)絡(luò)上已淪為重災(zāi)區(qū)，自己便是主要受害者之一。他呼吁盡快立法，重點(diǎn)整治這一亂象。

澎湃新聞?dòng)浾咴诓门形臅?shū)中留意到一起因AI人臉識(shí)別被破解引發(fā)的惡性案件。被告人李某某伙同佘某某，通過(guò)AI技術(shù)破解人臉識(shí)別的方式，注冊(cè)電子醫(yī)保賬號(hào)。之后，犯罪分子使用醫(yī)保二維碼在藥房購(gòu)買(mǎi)阿膠、安宮牛黃丸等藥品或保健品，折價(jià)銷售后按照五五比例分配，累計(jì)非法獲利超69萬(wàn)元。

這類人臉識(shí)別案件與個(gè)人隱私泄露密切相關(guān)。在這起案件中，被告人通過(guò)一些技術(shù)手段鉆了某支付平臺(tái)的漏洞，將準(zhǔn)備好的視頻進(jìn)行人臉識(shí)別驗(yàn)證，從而盜刷了受害人醫(yī)?？ā?/strong>這些受害者是醫(yī)務(wù)人員，被告從網(wǎng)絡(luò)非法獲取了他們的姓名、身份、照片等用于認(rèn)證的信息。還有一類典型的AI換臉場(chǎng)景是制作出售淫穢色情和圖片非法獲利。被告人往往會(huì)在淫穢色情網(wǎng)站發(fā)布信息，通過(guò)QQ來(lái)進(jìn)行販賣，典型的侵害對(duì)象是明星和公眾人物。

在裁判文書(shū)中還能看到許多打著AI旗號(hào)招搖撞騙的皮包公司。在一起利用AI進(jìn)行虛假宣傳的合同糾紛案里，被告公司聲稱手握大量AI技術(shù)專利，與央視、浙大有合作，且已獲5000萬(wàn)元融資，還宣稱加盟投資后日收益可達(dá)3000元至8000元。原告信以為真，支付了20萬(wàn)元加盟費(fèi)，可直至起訴，累計(jì)收益僅7.6元。

除了AI造成的爭(zhēng)議和侵害，在裁判文書(shū)的描述細(xì)節(jié)中還能看到AI對(duì)個(gè)體和社會(huì)的諸多改變。

在一起返還原物糾紛案中，原告不滿一審結(jié)果再次上訴，提供的新證據(jù)之一是他與豆包AI助手的聊天記錄。在兩起與設(shè)計(jì)師有關(guān)的勞動(dòng)爭(zhēng)議中，一家公司認(rèn)為設(shè)計(jì)工作可被AI替代，決定取消整個(gè)設(shè)計(jì)部門(mén)和相關(guān)崗位；在另一起案件中，設(shè)計(jì)師使用AI產(chǎn)出的工作量已經(jīng)被納入績(jī)效考核，而本案設(shè)計(jì)師在安裝完AI軟件后沒(méi)有生成過(guò)一張圖。還有一些觀念上的變化，比如在一起戀愛(ài)引起的經(jīng)濟(jì)糾紛中，男方會(huì)因?yàn)榕皆诮煌笆褂肁I制作朋友圈“照騙”來(lái)質(zhì)疑女方說(shuō)辭的可信度。

中國(guó)法院網(wǎng)在分析文章中指出，當(dāng)前越來(lái)越多的涉人工智能案件出現(xiàn)在司法裁判領(lǐng)域，涉及糾紛類型多樣、侵犯權(quán)益新型迭穎、牽動(dòng)權(quán)利義務(wù)關(guān)系復(fù)雜、可歸責(zé)主體眾多。囿于人工智能自身法律定性不明、法律規(guī)范分散滯后等因素，司法審判受到前所未有的挑戰(zhàn)。應(yīng)秉持解決實(shí)務(wù)問(wèn)題的導(dǎo)向，對(duì)涉人工智能典型案例的裁判難點(diǎn)進(jìn)行深入研析，為類案司法提供范式指引和司法助益。

不論是投訴中的亂象，還是裁判文書(shū)揭示的癥結(jié)，都只是AI時(shí)代復(fù)雜社會(huì)問(wèn)題露出的小小尖端。AI在賦能社會(huì)進(jìn)步的賽道上風(fēng)馳電掣，卻也沿途揚(yáng)起諸多隱患——虛假宣傳、隱私侵犯、崗位沖擊等，這些問(wèn)題都不容忽視。對(duì)普通人而言，審慎甄別信息、捍衛(wèi)自身權(quán)益，或是在AI浪潮中自我保護(hù)的有效途徑。而在社會(huì)層面，急需搭建起全方位的應(yīng)對(duì)體系，精準(zhǔn)阻擊風(fēng)險(xiǎn)。

分析方法：

本文所使用的分析數(shù)據(jù)來(lái)自黑貓投訴和裁判文書(shū)網(wǎng)。在數(shù)據(jù)處理中，使用 DeepSeek 等 AI 大模型對(duì)投訴數(shù)據(jù)進(jìn)行了分類打標(biāo)，獲取了投訴信息中的類型、消費(fèi)者接觸 AI 產(chǎn)品來(lái)源的維度；在裁判文書(shū)的預(yù)處理中，使用 DeepSeek 對(duì)裁判文書(shū)全網(wǎng)進(jìn)行 AI 關(guān)聯(lián)度打分，篩選出高關(guān)聯(lián)度案例。為了使裁判文書(shū)更易讀，還使用 DeepSeek 將裁判文書(shū)轉(zhuǎn)化為知識(shí)圖譜和思維導(dǎo)圖。