馬斯克對(duì)人工智能的擔(dān)憂(yōu)并非玩笑。

據(jù)《財(cái)富》8月21日?qǐng)?bào)道，包括特斯拉、SpaceX創(chuàng)始人埃隆·馬斯克（Elon Musk）和谷歌Deepmind聯(lián)合創(chuàng)始人穆斯塔法·蘇萊曼（Mustafa Suleyman）在內(nèi)的166名人工智能（AI）研究人員已經(jīng)致信聯(lián)合國(guó)，要求嚴(yán)格監(jiān)管自動(dòng)武器，即“殺手機(jī)器人”。 雖然信件本身措辭比較謹(jǐn)慎，但隨同信函發(fā)表的一份新聞稿表示，他們希望機(jī)器人武器被“禁止在國(guó)際上使用”。

該信的簽署人還包括丹麥通用機(jī)器人公司、加拿大元素AI公司以及法國(guó)Aldebaran機(jī)器人公司的高管和創(chuàng)始人。

這封信嚴(yán)格描述了機(jī)器人武器的風(fēng)險(xiǎn)，并表示迫切需要采取強(qiáng)有力的行動(dòng)。此次專(zhuān)家團(tuán)聯(lián)合上書(shū)主要是針對(duì)聯(lián)合國(guó)官員考慮在聯(lián)合國(guó)常規(guī)武器公約中加入機(jī)器人武器。早在1981年制定的公約和平行條約中限制了化學(xué)武器、眩目激光武器、地雷和其他武器，這些武器被認(rèn)為 “會(huì)對(duì)戰(zhàn)斗人員造成不必要的或不正當(dāng)?shù)耐纯?，或者不加區(qū)別地影響平民”。

此前，機(jī)器人戰(zhàn)士被認(rèn)為可以減少人類(lèi)士兵的傷亡，至少對(duì)富有的發(fā)達(dá)國(guó)家來(lái)說(shuō)是這樣。但馬斯克和蘇萊曼所代表的專(zhuān)家團(tuán)主要的擔(dān)憂(yōu)來(lái)自于機(jī)器武器對(duì)平民的風(fēng)險(xiǎn)。他們寫(xiě)道：“這些武器可能會(huì)被暴君和恐怖分子用來(lái)對(duì)付無(wú)辜的人民，以及可能被黑客以惡意的方式使用?！?/p>

這封信還警告表示，如果不能迅速采取行動(dòng)，將導(dǎo)致軍備競(jìng)賽走向“殺人機(jī)器人”。事實(shí)上這已經(jīng)在成為一種趨勢(shì)，包括雷聲、達(dá)索、MiG在內(nèi)公司已經(jīng)在開(kāi)發(fā)或開(kāi)發(fā)成功自治武器系統(tǒng)或前導(dǎo)技術(shù)。

元素AI創(chuàng)始人約書(shū)亞·本吉奧（Yoshua Bengio）還警告表示，AI武器化實(shí)際上可能會(huì)“損害人工智能的在良好應(yīng)用方面的進(jìn)一步發(fā)展”。這正是弗蘭克赫伯特的科幻小說(shuō)《沙丘》中所預(yù)見(jiàn)的場(chǎng)景——在一個(gè)宇宙中，所有的思考機(jī)器都被禁止，因?yàn)樗鼈冊(cè)谶^(guò)去的戰(zhàn)爭(zhēng)中扮演了角色。

據(jù)悉，聯(lián)合國(guó)武器組織原定于8月21日召開(kāi)會(huì)議，目前這次會(huì)議被推遲到11月。各國(guó)在此次專(zhuān)家會(huì)議上將表明對(duì)“殺人機(jī)器人武器”的觀(guān)點(diǎn)，在邁向制定管制框架的討論事實(shí)也即將啟動(dòng)。目前美國(guó)被認(rèn)為正在急速推進(jìn)開(kāi)發(fā)“殺人機(jī)器人”。 迄今為止，在關(guān)于“殺人機(jī)器人武器”管制問(wèn)題的非正式討論中，機(jī)器人技術(shù)發(fā)達(dá)的日美對(duì)制定條約實(shí)施管制等態(tài)度慎重，而中國(guó)則表明了支持管制的立場(chǎng)。