- +1
【社論】AI手機(jī),打開了潘多拉的魔盒?

豆包AI手機(jī)一上市,就成為市場關(guān)注的焦點(diǎn),也引發(fā)了不小的爭議。人們驚奇地發(fā)現(xiàn):這款手機(jī)擁有幫人點(diǎn)外賣、訂機(jī)票、比價購物,甚至回復(fù)消息、操作小程序游戲的能力。只需向手機(jī)輸入一段類似“幫我訂一份附近三公里內(nèi)的最便宜的拿鐵咖啡”的命令,手機(jī)就能幫助用戶完成訂單。
一方面,AI手機(jī)讓人感覺未來已來;另一方面,在口令驅(qū)動之下的手機(jī)界面自動跳轉(zhuǎn),一氣呵成完成比價、點(diǎn)單、支付任務(wù),讓人產(chǎn)生深深的隱憂。這款手機(jī)通過系統(tǒng)級權(quán)限實(shí)現(xiàn)跨應(yīng)用自動比價、下單等功能,將AI應(yīng)用的倫理邊界、隱私保護(hù)、安全風(fēng)險、法律責(zé)任等爭議推上了風(fēng)口浪尖。
12月5日,豆包手機(jī)助手發(fā)布說明稱,會對AI操作手機(jī)的能力做一些規(guī)范化調(diào)整,包括:限制刷分、刷激勵的使用場景;限制金融類應(yīng)用;限制部分游戲類使用場景。而且一再強(qiáng)調(diào):豆包手機(jī)助手不會代替用戶進(jìn)行相關(guān)授權(quán)和敏感操作。
所有人都很清楚,目前人工智能正在處于大爆發(fā)的前夜,顛覆性的使用效果即將來到。如何馴服人工智能,是一個嚴(yán)肅的、迫切的現(xiàn)實(shí)話題。
首先,從倫理上說,AI助手正從信息查詢工具進(jìn)化為系統(tǒng)級操作者,“不可控性”可能引發(fā)系統(tǒng)性風(fēng)險。
“認(rèn)知卸載”將人類的決策負(fù)擔(dān)轉(zhuǎn)移至算法,導(dǎo)致“代理衰退”——人類因過度依賴AI而逐漸喪失獨(dú)立思考、判斷與選擇的能力,在顛覆人和工具之間的“主奴關(guān)系”。我在手機(jī)點(diǎn)到的“最便宜的拿鐵咖啡”,到底是我內(nèi)心想要的咖啡,還是算法希望我看到、點(diǎn)到的那一杯咖啡?
其次,從隱私保護(hù)上說,AI手機(jī)實(shí)現(xiàn)跨應(yīng)用操作,誰來監(jiān)督?
AI的“后臺靜默操作”降低了用戶對數(shù)據(jù)流轉(zhuǎn)的感知,也引發(fā)了擔(dān)憂。微信作為國民級應(yīng)用,已經(jīng)對這款手機(jī)實(shí)施了“被動下線”。雖然,豆包方面明確,會限制金融類等的敏感操作,但是,人們還是擔(dān)心AI會不會違背人們的意志,造成嚴(yán)重的風(fēng)險。目前,《個人信息保護(hù)法》等法律,只是粗線條地規(guī)定了“收集個人信息最小夠用”原則、“知情-同意”機(jī)制,但可能在新興的AI應(yīng)用之下變得不堪一擊。
第三,在法律責(zé)任上說,AI手機(jī)的操作到底由誰來負(fù)責(zé)?手機(jī)到底是用戶的代理人,還是AI要對第三方負(fù)責(zé)?
AI手機(jī)替用戶完成的交易,是不是代表其真實(shí)意思的表達(dá)?如果有侵權(quán)、買賣糾紛,比如,AI手機(jī)在社交平臺上發(fā)布了侮辱性的內(nèi)容,誰來承擔(dān)民事責(zé)任?AI手機(jī)“誤操作”,一下子點(diǎn)了100杯咖啡,誰來承擔(dān)損失?企業(yè)當(dāng)然希望堅(jiān)持“授權(quán)即免責(zé)”的邏輯,但是,用戶顯然不愿意處于AI操控的風(fēng)險之下。面對方興未艾的AI應(yīng)用,法律如何定分止?fàn)帲磕懿荒軐I代理提供者采用“過錯推定原則”?
這里不是針對具體哪一款A(yù)I手機(jī)提出質(zhì)疑,而是針對“在座的每一位”,針對每一位雄心勃勃的AI服務(wù)商。當(dāng)然,不能對AI手機(jī)一棍子打死,因?yàn)檫@就是未來的方向,但是,技術(shù)創(chuàng)新與用戶權(quán)益之間要尋找平衡,構(gòu)建“合理、透明、可問責(zé)”的倫理框架,讓機(jī)器服務(wù)于人,而不是打開潘多拉的魔盒。





- 報料熱線: 021-962866
- 報料郵箱: news@thepaper.cn
互聯(lián)網(wǎng)新聞信息服務(wù)許可證:31120170006
增值電信業(yè)務(wù)經(jīng)營許可證:滬B2-2017116
? 2014-2025 上海東方報業(yè)有限公司




