·《布萊切利宣言》是全球第一份針對人工智能這一快速新興技術(shù)的國際性聲明，旨在關(guān)注對未來強(qiáng)大人工智能模型構(gòu)成人類生存威脅的擔(dān)憂，以及對人工智能當(dāng)前增強(qiáng)有害或偏見信息的擔(dān)憂。

·英國媒體評價稱，“這是罕見的全球團(tuán)結(jié)表現(xiàn)”。但英美在監(jiān)管的優(yōu)先事項上存在差異，人工智能學(xué)界和業(yè)界也爭論激烈。

11月1日，首屆全球人工智能安全峰會在英國布萊切利莊園召開，中國科技部副部長吳朝暉在開幕式上發(fā)表了演講。

全球28個國家和歐盟一致認(rèn)為，人工智能對人類構(gòu)成了潛在的災(zāi)難性風(fēng)險。

11月1日，首屆全球人工智能（AI）安全峰會在英國布萊切利莊園拉開帷幕。在開幕式上，由包括中國在內(nèi)的與會國共同達(dá)成的《布萊切利宣言》正式發(fā)表。這是全球第一份針對人工智能這一快速新興技術(shù)的國際性聲明，旨在關(guān)注對未來強(qiáng)大人工智能模型構(gòu)成人類生存威脅的擔(dān)憂，以及對人工智能當(dāng)前增強(qiáng)有害或偏見信息的擔(dān)憂。

據(jù)新華社報道，中國科技部副部長吳朝暉率團(tuán)出席此次峰會，參與人工智能安全等問題討論，積極宣介中方提出的《全球人工智能治理倡議》，并將與相關(guān)國家開展雙邊會談。該倡議圍繞人工智能發(fā)展、安全、治理三方面系統(tǒng)闡述了人工智能治理中國方案。

中國科技部副部長吳朝暉發(fā)表講話

布萊切利莊園是二戰(zhàn)期間盟軍破譯密碼的主要地點(diǎn)。半個多世紀(jì)前，“現(xiàn)代計算機(jī)科學(xué)與人工智能之父”、數(shù)學(xué)家阿蘭·圖靈在那里發(fā)明了第一代圖靈計算機(jī)。

如今，英國科學(xué)、創(chuàng)新和技術(shù)大臣米歇爾·唐蘭發(fā)表講話宣布了《布萊切利宣言》。她說：“各國現(xiàn)在第一次一致認(rèn)為，我們不僅需要各自面對，而且需要共同審視前沿人工智能的風(fēng)險。”

“我們申明，為了所有人的利益，人工智能應(yīng)該以安全、以人為中心、值得信賴和負(fù)責(zé)任的方式設(shè)計、開發(fā)、部署和使用?！毙詫懙溃⑻貏e呼吁人們關(guān)注OpenAI、Meta和谷歌等公司正在開發(fā)的大型語言模型，以及它們可能因濫用而造成的具體威脅。

“人工智能的‘前沿’出現(xiàn)了特殊的安全風(fēng)險，被理解為那些能力強(qiáng)大的通用人工智能模型，包括基礎(chǔ)模型，它們可以執(zhí)行各種各樣的任務(wù)，以及相關(guān)的特定狹義人工智能，它們可以表現(xiàn)出以下能力：造成傷害——其能力達(dá)到或超過當(dāng)今最先進(jìn)模型的能力?！毙灾赋?。

宣言尤其關(guān)注網(wǎng)絡(luò)安全和生物技術(shù)等領(lǐng)域的風(fēng)險，以及前沿AI可能放大虛假信息等風(fēng)險。

唐蘭宣布，人工智能安全峰會將成為一項定期重復(fù)舉行的活動，下一屆峰會計劃于6個月后在韓國舉行，再下一屆計劃一年后在法國舉行。

吳朝暉在開幕式上發(fā)表了演講。據(jù)新華社報道，中方指出，人工智能治理攸關(guān)全人類命運(yùn)，是世界各國面臨的共同課題。發(fā)展人工智能，應(yīng)當(dāng)積極倡導(dǎo)以人為本，智能向善，加強(qiáng)技術(shù)風(fēng)險管控，并在相互尊重、平等互利的原則基礎(chǔ)上，鼓勵各方協(xié)同共治，增強(qiáng)發(fā)展中國家在人工智能全球治理中的代表性和發(fā)言權(quán)，不斷彌合智能鴻溝和治理能力差距。中方愿與各方一道就人工智能安全治理加強(qiáng)溝通交流，為推動形成普遍參與的國際機(jī)制和具有廣泛共識的治理框架積極貢獻(xiàn)智慧，切實(shí)落實(shí)全球發(fā)展倡議、全球安全倡議和全球文明倡議，促進(jìn)人工智能技術(shù)更好造福人類，共同構(gòu)建人類命運(yùn)共同體。

峰會中也出現(xiàn)了一些具體進(jìn)展。美國商務(wù)部長吉娜·雷蒙多宣布成立一個新的人工智能安全研究所，該研究所將設(shè)在美國商務(wù)部內(nèi)，具體隸屬于該部的國家標(biāo)準(zhǔn)與技術(shù)研究院（NIST）。雷蒙多說，該組織的目標(biāo)是與其他政府設(shè)立的其他人工智能安全組織密切合作，并透露英國也計劃建立安全研究所。“我們必須開始工作，我們的機(jī)構(gòu)之間也必須開始努力，以在全球范圍內(nèi)實(shí)現(xiàn)政策一致?！彼f。

當(dāng)?shù)貢r間2023年11月1日，英國布萊切利園，人工智能安全峰會召開，全球科技公司的高管和政府官員等近百名代表出席。澎湃影像 圖

“罕見的全球團(tuán)結(jié)表現(xiàn)”

本次峰會邀請了約100名各國官員、人工智能企業(yè)代表和專家。英國科學(xué)、創(chuàng)新和技術(shù)部11月1日發(fā)布的信息顯示，有美國、中國、日本、德國、印度等20多個國家的政府代表，以及聯(lián)合國、經(jīng)合組織、國際電信聯(lián)盟等多個國際組織的代表參會。另有超過80個學(xué)術(shù)機(jī)構(gòu)、企業(yè)和協(xié)會組織代表參會。

據(jù)《環(huán)球時報》援引路透社報道，中國于上周接受了英方的參會邀請，與吳朝暉一道與會的還有來自中國外交部、企業(yè)和學(xué)術(shù)機(jī)構(gòu)的代表。據(jù)新華社報道，中國科學(xué)院、中國騰訊公司、阿里巴巴公司出席了會議。外國科技企業(yè)中，微軟總裁布拉德·史密斯、OpenAI首席執(zhí)行官山姆·奧特曼、谷歌DeepMind首席執(zhí)行官德米斯·哈薩比斯、特斯拉首席執(zhí)行官埃隆·馬斯克等出席峰會。

英國媒體稱，美國商務(wù)部長雷蒙多和中國科技部副部長吳朝暉與唐蘭一起登臺，“這是罕見的全球團(tuán)結(jié)表現(xiàn)”。負(fù)責(zé)組織此次峰會的英國官員之一馬特·克利福德（Matt Clifford）稱，雷蒙多和吳朝暉一起出現(xiàn)在舞臺上是“一個非凡的時刻”。此次峰會標(biāo)志著英國尤其是英國首相蘇納克的外交成功。

不過，美國媒體注意到，根據(jù)與會者的個人陳述，各國的優(yōu)先事項存在一定差異。比如，一些學(xué)者和包括馬斯克在內(nèi)的人工智能開發(fā)者猜測“上帝般的”人工智能可能會消滅人類，在此推動下，蘇納克傾向于控制超能力的前沿模型，而《布萊切利宣言》也對這種理論上滅絕級別的威脅表示認(rèn)可。

相比之下，美國代表不同意這種優(yōu)先事項，或者至少在同意的程度上不如英國。與會的美國副總統(tǒng)卡馬拉·哈里斯更擔(dān)心人工智能目前對社會構(gòu)成的威脅?！白屛覀兠鞔_一點(diǎn)，還有其他威脅也需要我們采取行動。當(dāng)前正在造成傷害的威脅，對許多人來說也感覺是存在的……”她表示。

美國媒體POLICITO評論道，這種分歧并不是完全排除或忽視其中一種風(fēng)險，正如《布萊切利宣言》對這兩種風(fēng)險都認(rèn)可。但政府的政治資本和影響力都是有限的，而且它們決定關(guān)注的法規(guī)目前還遠(yuǎn)未確定。企業(yè)擔(dān)心這種不確定性，一些公司對針對不同優(yōu)先事項的監(jiān)管法規(guī)可能會使他們的工作變得復(fù)雜化感到憤怒。Meta公司全球事務(wù)總裁尼克·克萊格 （Nick Clegg）表示，世界各國政府監(jiān)管人工智能的競賽令整個行業(yè)感到困惑，希望本周的峰會至少能讓各國政府“朝著類似的方向前進(jìn)”。

開幕全體會議上的領(lǐng)導(dǎo)人不僅包括來自世界最大經(jīng)濟(jì)體的代表，還有一些發(fā)展中國家的代表。他們談到了包容性和責(zé)任感，但如何實(shí)施仍存在許多疑問。

AI業(yè)界爭論激烈

一些開發(fā)人員、學(xué)者和活動人士擔(dān)心，政府缺乏協(xié)調(diào)會導(dǎo)致科技巨頭在競爭中肆意妄為，破壞保護(hù)隱私或消費(fèi)者權(quán)益的概念。

就在此次峰會召開前夕，圖靈獎得主、“人工智能三巨頭”等學(xué)者爆發(fā)了一場激烈爭論。首先是三巨頭中的杰弗里·辛頓（Geoffrey Hinton）和約書亞·本吉奧（Yoshua Bengio）呼吁加強(qiáng)對AI技術(shù)監(jiān)管，否則可能引發(fā)危險的“AI末日論”，隨后三巨頭之一、Meta人工智能的負(fù)責(zé)人楊立昆（Yann LeCun）警告說，“迅速采取錯誤的監(jiān)管方式可能會導(dǎo)致以損害競爭和創(chuàng)新的方式集中權(quán)力。”斯坦福大學(xué)教授吳恩達(dá)加入楊立昆行列，稱對末日論的過度恐懼正在造成真正的傷害，將粉碎開源，扼殺創(chuàng)新。

10月25日，中國人工智能科學(xué)家與西方知名學(xué)者一道，呼吁對人工智能技術(shù)實(shí)施更嚴(yán)格的控制。這24名AI專家簽署一份聲明警告稱，在未來幾十年，先進(jìn)的人工智能將對“人類的生存構(gòu)成威脅”。清華大學(xué)交叉信息研究院院長姚期智、清華大學(xué)智能產(chǎn)業(yè)研究院院長張亞勤這兩位知名中國學(xué)者均是簽署者。他們呼吁建立一個國際監(jiān)管機(jī)構(gòu)，先進(jìn)的人工智能系統(tǒng)須進(jìn)行強(qiáng)制性注冊和接受審核，引入即時“關(guān)閉”程序，并要求開發(fā)企業(yè)將30%的研究預(yù)算用于人工智能安全?！督鹑跁r報》11月1日稱，這些提議初步表明了中國在全球人工智能監(jiān)管方面可能采取的立場。

在布萊切利莊園，馬斯克在峰會期間提出了自己的建議?！拔覀儊磉@里的真正目標(biāo)是建立一個洞察框架，這樣至少會有一個第三方裁判，一個獨(dú)立的裁判，可以觀察領(lǐng)先的AI公司在做什么，至少在他們有擔(dān)憂時發(fā)出警報。”他認(rèn)為，在政府采取監(jiān)管行動之前，需要先了解AI的發(fā)展情況，AI領(lǐng)域的很多人都擔(dān)心政府在知道該怎么做之前會過早地制定規(guī)則。

一直以來對AI頻頻發(fā)出警報的馬斯克說：“這是人類歷史上第一次與遠(yuǎn)比我們聰明的東西共處，所以我不清楚，我們是否真的能控制這樣的東西。但我認(rèn)為我們可以期待的是，引導(dǎo)它朝著對人類有益的方向發(fā)展。我確實(shí)認(rèn)為，這是我們面臨的生存風(fēng)險之一，而且可能是最緊迫的風(fēng)險?！?p>

本次峰會歷時兩天，第一天由唐蘭主持，大多數(shù)科技公司和政府官員將出席首日活動。第二天的會議則由蘇納克主持，只會邀請小部分政治領(lǐng)導(dǎo)人和科技高管討論具體應(yīng)對措施。