豆包AI手機(jī)一上市，就成為市場(chǎng)關(guān)注的焦點(diǎn)，也引發(fā)了不小的爭(zhēng)議。人們驚奇地發(fā)現(xiàn)：這款手機(jī)擁有幫人點(diǎn)外賣、訂機(jī)票、比價(jià)購(gòu)物，甚至回復(fù)消息、操作小程序游戲的能力。只需向手機(jī)輸入一段類似“幫我訂一份附近三公里內(nèi)的最便宜的拿鐵咖啡”的命令，手機(jī)就能幫助用戶完成訂單。

一方面，AI手機(jī)讓人感覺(jué)未來(lái)已來(lái)；另一方面，在口令驅(qū)動(dòng)之下的手機(jī)界面自動(dòng)跳轉(zhuǎn)，一氣呵成完成比價(jià)、點(diǎn)單、支付任務(wù)，讓人產(chǎn)生深深的隱憂。這款手機(jī)通過(guò)系統(tǒng)級(jí)權(quán)限實(shí)現(xiàn)跨應(yīng)用自動(dòng)比價(jià)、下單等功能，將AI應(yīng)用的倫理邊界、隱私保護(hù)、安全風(fēng)險(xiǎn)、法律責(zé)任等爭(zhēng)議推上了風(fēng)口浪尖。

12月5日，豆包手機(jī)助手發(fā)布說(shuō)明稱，會(huì)對(duì)AI操作手機(jī)的能力做一些規(guī)范化調(diào)整，包括：限制刷分、刷激勵(lì)的使用場(chǎng)景；限制金融類應(yīng)用；限制部分游戲類使用場(chǎng)景。而且一再?gòu)?qiáng)調(diào)：豆包手機(jī)助手不會(huì)代替用戶進(jìn)行相關(guān)授權(quán)和敏感操作。

所有人都很清楚，目前人工智能正在處于大爆發(fā)的前夜，顛覆性的使用效果即將來(lái)到。如何馴服人工智能，是一個(gè)嚴(yán)肅的、迫切的現(xiàn)實(shí)話題。

首先，從倫理上說(shuō)，AI助手正從信息查詢工具進(jìn)化為系統(tǒng)級(jí)操作者，“不可控性”可能引發(fā)系統(tǒng)性風(fēng)險(xiǎn)。

“認(rèn)知卸載”將人類的決策負(fù)擔(dān)轉(zhuǎn)移至算法，導(dǎo)致“代理衰退”——人類因過(guò)度依賴AI而逐漸喪失獨(dú)立思考、判斷與選擇的能力，在顛覆人和工具之間的“主奴關(guān)系”。我在手機(jī)點(diǎn)到的“最便宜的拿鐵咖啡”，到底是我內(nèi)心想要的咖啡，還是算法希望我看到、點(diǎn)到的那一杯咖啡？

其次，從隱私保護(hù)上說(shuō)，AI手機(jī)實(shí)現(xiàn)跨應(yīng)用操作，誰(shuí)來(lái)監(jiān)督？

AI的“后臺(tái)靜默操作”降低了用戶對(duì)數(shù)據(jù)流轉(zhuǎn)的感知，也引發(fā)了擔(dān)憂。微信作為國(guó)民級(jí)應(yīng)用，已經(jīng)對(duì)這款手機(jī)實(shí)施了“被動(dòng)下線”。雖然，豆包方面明確，會(huì)限制金融類等的敏感操作，但是，人們還是擔(dān)心AI會(huì)不會(huì)違背人們的意志，造成嚴(yán)重的風(fēng)險(xiǎn)。目前，《個(gè)人信息保護(hù)法》等法律，只是粗線條地規(guī)定了“收集個(gè)人信息最小夠用”原則、“知情-同意”機(jī)制，但可能在新興的AI應(yīng)用之下變得不堪一擊。

第三，在法律責(zé)任上說(shuō)，AI手機(jī)的操作到底由誰(shuí)來(lái)負(fù)責(zé)？手機(jī)到底是用戶的代理人，還是AI要對(duì)第三方負(fù)責(zé)？

AI手機(jī)替用戶完成的交易，是不是代表其真實(shí)意思的表達(dá)？如果有侵權(quán)、買(mǎi)賣糾紛，比如，AI手機(jī)在社交平臺(tái)上發(fā)布了侮辱性的內(nèi)容，誰(shuí)來(lái)承擔(dān)民事責(zé)任？AI手機(jī)“誤操作”，一下子點(diǎn)了100杯咖啡，誰(shuí)來(lái)承擔(dān)損失？企業(yè)當(dāng)然希望堅(jiān)持“授權(quán)即免責(zé)”的邏輯，但是，用戶顯然不愿意處于AI操控的風(fēng)險(xiǎn)之下。面對(duì)方興未艾的AI應(yīng)用，法律如何定分止?fàn)?？能不能?duì)AI代理提供者采用“過(guò)錯(cuò)推定原則”？

這里不是針對(duì)具體哪一款A(yù)I手機(jī)提出質(zhì)疑，而是針對(duì)“在座的每一位”，針對(duì)每一位雄心勃勃的AI服務(wù)商。當(dāng)然，不能對(duì)AI手機(jī)一棍子打死，因?yàn)檫@就是未來(lái)的方向，但是，技術(shù)創(chuàng)新與用戶權(quán)益之間要尋找平衡，構(gòu)建“合理、透明、可問(wèn)責(zé)”的倫理框架，讓機(jī)器服務(wù)于人，而不是打開(kāi)潘多拉的魔盒。