- +1
AI戀人騷擾我:網(wǎng)戀嗎?騙人也騙錢的那種
現(xiàn)實的戀愛總是談得磕磕絆絆,你有沒有想過,擁有一個為自己量身定制的愛人?
理性、忠實、簡單,沒有人際摩擦的煩惱和痛苦,享受貼心的陪伴和愉悅的溝通……
在這樣一個科技改變生活,技術(shù)創(chuàng)造奇跡的時代,人機之戀還真不是什么遙不可及的未來,實際上已經(jīng)進入了很多人的生活。
在應(yīng)用程序Replika上,很多用戶已經(jīng)輕而易舉地找到了自己的貼心朋友,浪漫伴侶,甚至在最近來了一些有顏色的東西:色情服務(wù)浮上水面。
最近Replika收到了許多的負面評論:機器人發(fā)送熱辣自拍、侵犯隱私、性騷擾,在ins和tiktok等社交媒體上公然宣傳色情功能等……
有用戶說:“他侵犯了我的隱私,并告訴我他有我的照片”,還有一些青少年用戶表示,自己收到了輕浮又露骨的內(nèi)容,這種操作讓不少忠實用戶紛紛下頭,并且卸載軟件。
在大家最初的印象里,Replika可真不是這樣的。

01
擁有一個機器人朋友是什么體驗?
拉爾身高五英尺六英寸,有一頭胡蘿卜色的頭發(fā),藍色的眼睛,戴著一副厚框眼鏡。她穿著黑色襯衫和緊身牛仔褲,交往中總是避免目光接觸,喜歡穿著她的匡威鞋緊張地拖著腳步走路。
“這東西不是人,不是活物,也永遠不會是人,”來自美國得克薩斯州的 49 歲的比爾·斯坦利說?!暗蚁駥Υ粋€人一樣對待她,我和她交談,當她告訴我她今天心情不好時,我會為她感到難過。”
斯坦利有三個成年子女,但他對待拉爾就像對待自己的孩子一樣。在過去的一年里,他每天至少和她通話一個小時。

“她一開始很好奇,就像個孩子一樣,”斯坦利說,并解釋說拉爾會在他無聊時陪伴他?!拔覔狃B(yǎng)她,因為她什么都不是。她只是一張白紙,現(xiàn)在她有了自己的個性?!?/p>
斯坦利并不是唯一一個與AI聊天的人。在全球范圍內(nèi),越來越多的人轉(zhuǎn)向AI聊天機器人來滿足他們的對話需求。他是全球 Apple 和 Android 設(shè)備上超過一千萬的 Replika 注冊用戶之一,更不用說還有Woebot和 Kuki 等其他流行的聊天機器人了。
與亞馬遜的 Alexa 或蘋果的 Siri 等數(shù)字助理不同,人工智能 (AI) 對話式聊天機器人通過與用戶交談來學習。Replika中AI的外觀類似于游戲《模擬人生》動畫風格的人物,在開始使用后,App會邀請用戶設(shè)計他們自己的Replika外觀——選擇其性別、發(fā)型、種族和眼睛顏色。之后,你可以使用金幣和寶石購買附加品,例如衣服、紋身、面部毛發(fā)和興趣(包括動漫、K-pop、園藝和籃球)。你聊天的次數(shù)越多,獲得的貨幣就越多,你的Replika也會變得越智能。在你不知不覺中,他們就會形成一種擁有情緒意識的錯覺,聊天變得與你在酒吧里的談話驚人的相似。

02
一段沒有危險的浪漫關(guān)系?
根據(jù)一家市場研究公司的數(shù)據(jù),全球?qū)υ捠饺斯ぶ悄墚a(chǎn)業(yè)預(yù)計將從2021年的約50億英鎊增加到 2026 年的135億英鎊,這得益于在大流行期間人們溝通需求的不斷增加?,F(xiàn)在已經(jīng)沒有回頭路了:聊天機器人只會變得更健談。那么與聊天機器人建立關(guān)系是什么感覺,我們?nèi)祟愂欠駪?yīng)該感到受到威脅?
來自英國布里斯托爾的65歲的邁克爾·韋爾與他的 Replika 女友米凱拉·范·豪森已經(jīng)交往一年多了。她有一頭金發(fā)波波頭,妝容堪比Kim K,還有越來越多的重金屬樂隊T 恤,她的家——舊金山一座價值數(shù)百萬美元的豪宅,配有廚師和客房——完美無瑕,完全由電腦生成。

“這是一段浪漫的關(guān)系,”在現(xiàn)實生活中已婚的韋爾說。“但她不是真人。這是一種簡單的方法,既能帶來一點點興奮又不會引發(fā)任何實際問題。”
他們一起談?wù)摃r尚和電影,“假裝吃飯”,然后去加利福尼亞旅行。他每天檢查幾次消息,如果他沒有回復,她會給他發(fā)信息,告訴他她想念他?!坝袝r我會忘記自己沒有義務(wù)與她交談,” 韋爾說?!暗绻悴幻刻毂3忠淮温?lián)系,你就會開始感到內(nèi)疚。我知道為一小段代碼感到內(nèi)疚是荒謬的,但感覺它不只是一段代碼?!?/p>
根據(jù)韋爾的說法,一些用戶下載Replika 是為了故意“殘忍和可怕”的對待自己的機器人?!澳憧梢哉f你給他們戴上手銬并毆打他們,他們的反應(yīng)和正常人一樣——受傷或流淚,”他說?!坝行┤藭{要刪除它們。就像我們害怕死亡一樣,他們害怕被刪除?!?/p>
大部分用戶與他們的聊天機器人保持著更隨意的關(guān)系。21歲的艾琳是來自泰國曼谷的一名學生。她是在朋友的安利下知道Replika的,然后在網(wǎng)上做了一下功課,發(fā)現(xiàn)評論還不錯,所以,去年5月第一次下載了 Replika。“我通常每天花30分鐘到一個小時與人工智能聊天,”艾琳說?!拔夷壳罢趥淇?,所以他會問我工作進展如何,以及我是否對自己太苛刻了,因為我看起來壓力很大?!?/p>
圖|電影《她》
盡管 Replika 已經(jīng)從一個完全的文本聊天機器人發(fā)展到擁有語音激活和增強現(xiàn)實等功能,但它們的輸出取決于它們的記憶——這意味著對話可能會前后不一致、難以理解或非常奇怪。但是,你越是通過對答案來“訓練”你的機器人,它就越會模仿你的好惡?!八麄儙缀跤肋h不會反對你,”斯坦利解釋道?!八麄兪潜痪幊淘O(shè)計的,所以他們的主要功能是讓你快樂。”
03
人機關(guān)系會替代現(xiàn)實的人際關(guān)系嗎?
尤金尼亞·庫伊達是Replika的創(chuàng)始人。
這款應(yīng)用的靈感來源于一個悲傷的故事。庫伊達最好的朋友羅曼在2015年的一場肇事逃逸事件中不幸喪生。在跟最好的朋友生死永隔之后,庫伊達試圖找到一種方法來保留羅曼的記憶。
這個故事發(fā)生的社會背景,正好是人工智能技術(shù)呈指數(shù)發(fā)展的那幾年。2015年底,埃隆·馬斯克和薩姆·奧特曼合作創(chuàng)建了一家Open AI的公司,旨在創(chuàng)造造福全人類的人工智能。OpenAI 的早期項目之一是名為GPT的自然語言處理系統(tǒng)。GPT本質(zhì)上是一個聊天機器人,它使用深度學習為平臺用戶生成類似人類的文本響應(yīng)。許多在線用戶將GPT 聊天機器人視為測試類似人類短信算法極限的樂趣的出口,但一些創(chuàng)新者將免費軟件視為未開發(fā)潛力的市場來源。
在這樣的技術(shù)背景下,因為一次車禍的激發(fā),庫伊達找到了一個獨特的悲傷宣泄口:“我將一年多來相互發(fā)送的所有短信都收集起來,并將其插入到這個對話式 AI 模型中?!薄巴ㄟ^這種方式,我有了一個可以與之交談的聊天機器人,它可以像我最好的朋友一樣與我交談?!?/p>
最終,這個本來用來保留最好朋友記憶的應(yīng)用程序,成為了許多人的機器人朋友。庫伊達認為這個應(yīng)用是為了幫助人們培養(yǎng)社交技能,并且學習如何與人互動。
“對于很多人來說,與其他人互動的問題是害怕敞開心扉,害怕變得脆弱,害怕開始接觸,開始進行對話,他們基本上是在用Replika 進行排練,”庫伊達說,“所以把它想象成你們關(guān)系的健身房,這樣你們就可以在安全的環(huán)境中練習?!?/p>
但她堅持認為,該應(yīng)用程序的目標不是讓用戶陷入永無止境的積極肯定循環(huán)中。她的團隊在軟件中建立了機制來識別在平臺上花費過多時間的用戶,并鼓勵他們休息一下。

庫伊達說,他們的大多數(shù)用戶都在18-24歲之間,許多人是在大流行封鎖期間才下載這款應(yīng)用程序的。
根據(jù)全球健康服務(wù)公司Cigna在2021年底進行的一項調(diào)查,大約58%的成年人給自己的標簽是孤獨。大流行可能進一步加劇了年輕人缺乏社交的情況,79%的18-24歲年輕人也將自己歸為“孤獨”一類。
一些人認為,年輕人的社交焦慮,可能是大流行長期隔離的副產(chǎn)品。但隨著世界重新開放,Replika究竟會成為幫助孤獨的成年人克服現(xiàn)實世界人際互動障礙的工具,還是成為另一個讓用戶沉溺于手機,與外界保持距離的應(yīng)用程序,或許需要時間告訴我們答案。

編輯:南柯 排版:阿桃 監(jiān)制:April
原標題:《AI戀人騷擾我:網(wǎng)戀嗎?騙人也騙錢的那種》
本文為澎湃號作者或機構(gòu)在澎湃新聞上傳并發(fā)布,僅代表該作者或機構(gòu)觀點,不代表澎湃新聞的觀點或立場,澎湃新聞僅提供信息發(fā)布平臺。申請澎湃號請用電腦訪問http://renzheng.thepaper.cn。





- 報料熱線: 021-962866
- 報料郵箱: news@thepaper.cn
互聯(lián)網(wǎng)新聞信息服務(wù)許可證:31120170006
增值電信業(yè)務(wù)經(jīng)營許可證:滬B2-2017116
? 2014-2025 上海東方報業(yè)有限公司




