馬斯克對人工智能的擔(dān)憂并非玩笑。

據(jù)《財富》8月21日報道，包括特斯拉、SpaceX創(chuàng)始人埃隆·馬斯克（Elon Musk）和谷歌Deepmind聯(lián)合創(chuàng)始人穆斯塔法·蘇萊曼（Mustafa Suleyman）在內(nèi)的166名人工智能（AI）研究人員已經(jīng)致信聯(lián)合國，要求嚴(yán)格監(jiān)管自動武器，即“殺手機器人”。 雖然信件本身措辭比較謹(jǐn)慎，但隨同信函發(fā)表的一份新聞稿表示，他們希望機器人武器被“禁止在國際上使用”。

該信的簽署人還包括丹麥通用機器人公司、加拿大元素AI公司以及法國Aldebaran機器人公司的高管和創(chuàng)始人。

這封信嚴(yán)格描述了機器人武器的風(fēng)險，并表示迫切需要采取強有力的行動。此次專家團聯(lián)合上書主要是針對聯(lián)合國官員考慮在聯(lián)合國常規(guī)武器公約中加入機器人武器。早在1981年制定的公約和平行條約中限制了化學(xué)武器、眩目激光武器、地雷和其他武器，這些武器被認為 “會對戰(zhàn)斗人員造成不必要的或不正當(dāng)?shù)耐纯?，或者不加區(qū)別地影響平民”。

此前，機器人戰(zhàn)士被認為可以減少人類士兵的傷亡，至少對富有的發(fā)達國家來說是這樣。但馬斯克和蘇萊曼所代表的專家團主要的擔(dān)憂來自于機器武器對平民的風(fēng)險。他們寫道：“這些武器可能會被暴君和恐怖分子用來對付無辜的人民，以及可能被黑客以惡意的方式使用。”

這封信還警告表示，如果不能迅速采取行動，將導(dǎo)致軍備競賽走向“殺人機器人”。事實上這已經(jīng)在成為一種趨勢，包括雷聲、達索、MiG在內(nèi)公司已經(jīng)在開發(fā)或開發(fā)成功自治武器系統(tǒng)或前導(dǎo)技術(shù)。

元素AI創(chuàng)始人約書亞·本吉奧（Yoshua Bengio）還警告表示，AI武器化實際上可能會“損害人工智能的在良好應(yīng)用方面的進一步發(fā)展”。這正是弗蘭克赫伯特的科幻小說《沙丘》中所預(yù)見的場景——在一個宇宙中，所有的思考機器都被禁止，因為它們在過去的戰(zhàn)爭中扮演了角色。

據(jù)悉，聯(lián)合國武器組織原定于8月21日召開會議，目前這次會議被推遲到11月。各國在此次專家會議上將表明對“殺人機器人武器”的觀點，在邁向制定管制框架的討論事實也即將啟動。目前美國被認為正在急速推進開發(fā)“殺人機器人”。 迄今為止，在關(guān)于“殺人機器人武器”管制問題的非正式討論中，機器人技術(shù)發(fā)達的日美對制定條約實施管制等態(tài)度慎重，而中國則表明了支持管制的立場。