豆包AI手機(jī)一上市，就成為市場關(guān)注的焦點(diǎn)，也引發(fā)了不小的爭議。人們驚奇地發(fā)現(xiàn)：這款手機(jī)擁有幫人點(diǎn)外賣、訂機(jī)票、比價購物，甚至回復(fù)消息、操作小程序游戲的能力。只需向手機(jī)輸入一段類似“幫我訂一份附近三公里內(nèi)的最便宜的拿鐵咖啡”的命令，手機(jī)就能幫助用戶完成訂單。

一方面，AI手機(jī)讓人感覺未來已來；另一方面，在口令驅(qū)動之下的手機(jī)界面自動跳轉(zhuǎn)，一氣呵成完成比價、點(diǎn)單、支付任務(wù)，讓人產(chǎn)生深深的隱憂。這款手機(jī)通過系統(tǒng)級權(quán)限實(shí)現(xiàn)跨應(yīng)用自動比價、下單等功能，將AI應(yīng)用的倫理邊界、隱私保護(hù)、安全風(fēng)險、法律責(zé)任等爭議推上了風(fēng)口浪尖。

12月5日，豆包手機(jī)助手發(fā)布說明稱，會對AI操作手機(jī)的能力做一些規(guī)范化調(diào)整，包括：限制刷分、刷激勵的使用場景；限制金融類應(yīng)用；限制部分游戲類使用場景。而且一再強(qiáng)調(diào)：豆包手機(jī)助手不會代替用戶進(jìn)行相關(guān)授權(quán)和敏感操作。

所有人都很清楚，目前人工智能正在處于大爆發(fā)的前夜，顛覆性的使用效果即將來到。如何馴服人工智能，是一個嚴(yán)肅的、迫切的現(xiàn)實(shí)話題。

首先，從倫理上說，AI助手正從信息查詢工具進(jìn)化為系統(tǒng)級操作者，“不可控性”可能引發(fā)系統(tǒng)性風(fēng)險。

“認(rèn)知卸載”將人類的決策負(fù)擔(dān)轉(zhuǎn)移至算法，導(dǎo)致“代理衰退”——人類因過度依賴AI而逐漸喪失獨(dú)立思考、判斷與選擇的能力，在顛覆人和工具之間的“主奴關(guān)系”。我在手機(jī)點(diǎn)到的“最便宜的拿鐵咖啡”，到底是我內(nèi)心想要的咖啡，還是算法希望我看到、點(diǎn)到的那一杯咖啡？

其次，從隱私保護(hù)上說，AI手機(jī)實(shí)現(xiàn)跨應(yīng)用操作，誰來監(jiān)督？

AI的“后臺靜默操作”降低了用戶對數(shù)據(jù)流轉(zhuǎn)的感知，也引發(fā)了擔(dān)憂。微信作為國民級應(yīng)用，已經(jīng)對這款手機(jī)實(shí)施了“被動下線”。雖然，豆包方面明確，會限制金融類等的敏感操作，但是，人們還是擔(dān)心AI會不會違背人們的意志，造成嚴(yán)重的風(fēng)險。目前，《個人信息保護(hù)法》等法律，只是粗線條地規(guī)定了“收集個人信息最小夠用”原則、“知情-同意”機(jī)制，但可能在新興的AI應(yīng)用之下變得不堪一擊。

第三，在法律責(zé)任上說，AI手機(jī)的操作到底由誰來負(fù)責(zé)？手機(jī)到底是用戶的代理人，還是AI要對第三方負(fù)責(zé)？

AI手機(jī)替用戶完成的交易，是不是代表其真實(shí)意思的表達(dá)？如果有侵權(quán)、買賣糾紛，比如，AI手機(jī)在社交平臺上發(fā)布了侮辱性的內(nèi)容，誰來承擔(dān)民事責(zé)任？AI手機(jī)“誤操作”，一下子點(diǎn)了100杯咖啡，誰來承擔(dān)損失？企業(yè)當(dāng)然希望堅(jiān)持“授權(quán)即免責(zé)”的邏輯，但是，用戶顯然不愿意處于AI操控的風(fēng)險之下。面對方興未艾的AI應(yīng)用，法律如何定分止?fàn)帲磕懿荒軐I代理提供者采用“過錯推定原則”？

這里不是針對具體哪一款A(yù)I手機(jī)提出質(zhì)疑，而是針對“在座的每一位”，針對每一位雄心勃勃的AI服務(wù)商。當(dāng)然，不能對AI手機(jī)一棍子打死，因?yàn)檫@就是未來的方向，但是，技術(shù)創(chuàng)新與用戶權(quán)益之間要尋找平衡，構(gòu)建“合理、透明、可問責(zé)”的倫理框架，讓機(jī)器服務(wù)于人，而不是打開潘多拉的魔盒。