編者按：百年未有之大變局，全球風(fēng)險(xiǎn)急劇上升。各個(gè)國家和地區(qū)如何求生存，謀發(fā)展，搞競合，爭未來？誰來指南找北？2021年，中國提出全球發(fā)展倡議，聚焦減貧、糧食安全、抗疫和疫苗、發(fā)展籌資、氣候變化和綠色發(fā)展、工業(yè)化、數(shù)字經(jīng)濟(jì)、互聯(lián)互通等八大領(lǐng)域國際合作，是對上述問題提出的“中國答案”。在八大領(lǐng)域內(nèi)，世界各國智庫各顯神通，仰觀俯察，深思熟慮，出謀劃策。北京大學(xué)區(qū)域與國別研究院特開辟全球智點(diǎn)·全球發(fā)展倡議卡片專欄，以極簡方式提煉要點(diǎn)，為促進(jìn)全球發(fā)展倡議下各領(lǐng)域國際合作提供智力支持。同時(shí)，也歡迎讀者循例投稿，形成全球智點(diǎn)·全球發(fā)展倡議的爆炸式擴(kuò)散效應(yīng)。

標(biāo)簽：#人工智能/國家安全/全球治理

觀點(diǎn)：科學(xué)家之間開展的非政治化對話有助于提升全球人工智能安全合作的包容性。

背景：當(dāng)前人工智能安全是高度政治化的，各國治理模式存在巨大分歧。

1．各國對于人工智能安全的定義、標(biāo)準(zhǔn)和實(shí)現(xiàn)手段等方面存在分歧。隨著各國紛紛推出各自的人工智能治理模式，有關(guān)于“安全”的分歧和沖突愈發(fā)顯著，這反映出了不同的政治價(jià)值觀和優(yōu)先事項(xiàng)偏好。

2．歐美國家遵循基于風(fēng)險(xiǎn)、以人為中心的治理模式，這種模式植根于人權(quán)和民主價(jià)值觀，但各國在如何界定風(fēng)險(xiǎn)水平以及劃定人工智能模型開發(fā)者的義務(wù)等方面仍然存在差異。中國則更為明確地主張從國家主權(quán)、社會穩(wěn)定以及國際數(shù)據(jù)安全等角度來定義和實(shí)現(xiàn)人工智能安全。

3．隨著科學(xué)技術(shù)的發(fā)展，人工智能安全的標(biāo)準(zhǔn)也在不斷更新。此外，單一國家的治理模式尚不足以應(yīng)對日益加劇的跨境風(fēng)險(xiǎn)，因此各國的治理模式之間進(jìn)行協(xié)調(diào)和互鑒是尤為必要的。

圖源：Chatham House（英國查塔姆研究所）

內(nèi)容：國家主導(dǎo)的全球治理深受政治化影響，而科學(xué)家主導(dǎo)開展的交流更有利于提升全球人工智能安全合作的包容性。

1．科學(xué)家們在解決全球性問題上一直發(fā)揮著重要作用。這主要在于科學(xué)家是堅(jiān)持證據(jù)導(dǎo)向的，其相較于政治領(lǐng)導(dǎo)人而言更愿意表達(dá)不確定性和敏感性問題?？茖W(xué)家之間的對話合作有可能減弱全球人工智能安全的政治化，有助于提升該議題的包容性。然而，這些交流和對話在未來是否能真正發(fā)揮作用，還將取決于它們的研究結(jié)果如何被引導(dǎo)到具體的政策制定之中。

2．全球科學(xué)家圍繞人工智能開展知識分享。在著名的人工智能科學(xué)家約書亞·本吉奧（Yoshua Bengio）教授的領(lǐng)導(dǎo)下，全球科學(xué)家共同撰寫了《關(guān)于先進(jìn)人工智能安全的國際科學(xué)報(bào)告》（International Scientific Report on the Safety of Advanced AI），該報(bào)告于5月份在首爾舉行的人工智能峰會上發(fā)布。這意味著各國在人工智能安全的合作和國際共享的科學(xué)理念上實(shí)現(xiàn)的歷史性跨越。

建議：應(yīng)當(dāng)在制度安排、開放平臺以及獨(dú)立性等方面積極創(chuàng)造條件，促進(jìn)科學(xué)家更好地推動人工智能安全國際合作。

1．完善人工智能安全合作的國際制度安排。建立從科學(xué)到政策的有效機(jī)制，使得人工智能政策制定者能夠從科學(xué)家的包容性努力中受益。

2．增強(qiáng)高級別國際會議的開放性。當(dāng)前人工智能的國際會議仍然由少數(shù)國家、公司和技術(shù)領(lǐng)袖所主導(dǎo)，未來應(yīng)向更多科學(xué)家敞開大門，以納入更加多樣化的專業(yè)知識以及更多國家參與。

3．維護(hù)科學(xué)家發(fā)揮作用的獨(dú)立性?？茖W(xué)家并非天生不受政治影響，部分科學(xué)家在自身觀點(diǎn)中帶入了政治偏見。因此需要保障科學(xué)家免于政治壓力的脅迫，這有助于提出關(guān)于全球性風(fēng)險(xiǎn)狀況的可靠性、共識性認(rèn)知。

來源：《科學(xué)家可以在全球范圍內(nèi)推動人工智能安全合作》，英國查塔姆研究所（Chatham House），2024年7月19日，https://www.chathamhouse.org/2024/07/where-scientists-can-move-needle-global-ai-safety-collaboration

整理者：李添翼，北京大學(xué)區(qū)域與國別研究院全球智多星團(tuán)隊(duì)成員