近期，生成式人工智能技術(shù)掀起了新一輪科技創(chuàng)新浪潮，在帶來(lái)生產(chǎn)力革新的同時(shí)，也引發(fā)了網(wǎng)絡(luò)安全、算法歧視和道德倫理等風(fēng)險(xiǎn)隱患，美國(guó)和歐盟為此加速制定人工智能治理政策。賽迪研究院網(wǎng)絡(luò)安全研究所認(rèn)為，美國(guó)采取的治理舉措寬松溫和，以行業(yè)自律為主要手段，在促進(jìn)技術(shù)發(fā)展的同時(shí)保證其安全可靠；歐盟則采取了較為嚴(yán)格的限制舉措，從國(guó)家法律層面對(duì)人工智能系統(tǒng)實(shí)施風(fēng)險(xiǎn)定級(jí),并分別提出規(guī)制路徑，強(qiáng)化其在新一代人工智能技術(shù)浪潮中的國(guó)際影響力與戰(zhàn)略主動(dòng)權(quán)。美國(guó)和歐盟人工智能治理的相關(guān)舉措對(duì)中國(guó)有一定的借鑒意義。 

一、美歐人工智能治理政策文件密集發(fā)布

美國(guó)的人工智能治理政策，其核心是以技術(shù)的發(fā)展應(yīng)用為重點(diǎn)，逐步向加強(qiáng)監(jiān)管靠攏。自2022年美國(guó)白宮發(fā)布《人工智能權(quán)利法案藍(lán)圖》以來(lái)，又發(fā)布了多個(gè)原則性規(guī)定，指導(dǎo)人工智能系統(tǒng)的設(shè)計(jì)、開(kāi)發(fā)、部署和使用，鼓勵(lì)行業(yè)自愿遵守相關(guān)原則并進(jìn)行自我監(jiān)管，逐步形成了美國(guó)人工智能治理的基本框架。2023年，隨著生成式人工智能等技術(shù)的不斷成熟，其存在的算法歧視、數(shù)據(jù)過(guò)擬合和數(shù)據(jù)泄露等風(fēng)險(xiǎn)日益凸顯。為確保生成式人工智能技術(shù)的安全性和可靠性，美國(guó)政府對(duì)人工智能的監(jiān)管力度逐漸加大，且發(fā)布系列政策文件強(qiáng)化人工智能治理，確保和維護(hù)美國(guó)在該領(lǐng)域的霸主地位，降低人工智能安全風(fēng)險(xiǎn)。

歐盟采取強(qiáng)監(jiān)管風(fēng)格，推出人工智能領(lǐng)域的“GDPR”。2023年6月，歐洲議會(huì)全體會(huì)議通過(guò)了2021年4月由歐盟委員會(huì)提出的《人工智能法案》談判授權(quán)草案。該法案草案是歐盟范圍內(nèi)人工智能治理方面統(tǒng)一的法律框架，管轄適用范圍寬泛，可用于規(guī)范全部系統(tǒng)輸出數(shù)據(jù)在歐盟使用的系統(tǒng)提供方或使用者。其嚴(yán)格禁止銷售和使用對(duì)人們安全、生計(jì)和權(quán)力構(gòu)成明顯威脅的人工智能技術(shù)，違規(guī)公司可能被處以其全球年?duì)I業(yè)額的7%或4000萬(wàn)歐元的高額罰款。歐盟對(duì)人工智能監(jiān)管的風(fēng)格趨向強(qiáng)硬，期望通過(guò)設(shè)立全球范圍的規(guī)則對(duì)人工智能進(jìn)行全面監(jiān)管。該法案草案通過(guò)對(duì)人工智能系統(tǒng)風(fēng)險(xiǎn)等級(jí)和治理策略劃分等級(jí)，設(shè)定了普適、 全面的人工智能監(jiān)管方法，如同《歐洲通用數(shù)據(jù)保護(hù)條例》（GDPR）。預(yù)計(jì)，它將對(duì)全球人工智能監(jiān)管產(chǎn)生重要影響。 

二、美歐對(duì)人工智能治理的異同分析

在治理重點(diǎn)方面，美歐均將算法歧視治理放在人工智能治理的首要位置。

算法歧視是指人工智能系統(tǒng)在決策或提供服務(wù)時(shí)對(duì)某些個(gè)體或群體產(chǎn)生不公平的影響，這種歧視可能基于數(shù)據(jù)偏見(jiàn)、人類偏見(jiàn)或系統(tǒng)設(shè)計(jì)缺陷等因素，給個(gè)人和社會(huì)帶來(lái)潛在風(fēng)險(xiǎn)。一是不平等對(duì)待風(fēng)險(xiǎn)。例如，在就業(yè)、貸款和保險(xiǎn)等領(lǐng)域不公平的結(jié)果，會(huì)帶來(lái)對(duì)特定群體的偏袒或歧視。二是倫理道德風(fēng)險(xiǎn)。算法可能侵犯?jìng)€(gè)人隱私權(quán)、違反倫理準(zhǔn)則，對(duì)個(gè)人權(quán)益造成損害。三是社會(huì)分裂風(fēng)險(xiǎn)。算法歧視可能加劇社會(huì)不平等及深化分裂，激發(fā)不滿情緒，造成動(dòng)蕩。雖然歐美在 對(duì)人工智能風(fēng)險(xiǎn)的定義劃分和治理態(tài)度上存在一定差異，但算法歧視是雙方共同認(rèn)可且最為關(guān)注的治理重點(diǎn)。美國(guó)《人工智 能權(quán)利法案藍(lán)圖》將“算法歧視保護(hù)”作為人工智能設(shè)計(jì)部署的五項(xiàng)基本原則之一，《人工智能問(wèn)責(zé)政策（征求意見(jiàn)稿）》中也將“算法公平”列為人工智能審計(jì)和評(píng)估的重點(diǎn)領(lǐng)域。歐盟《人工智能法案》談判授權(quán)草案更是將帶有算法歧視風(fēng)險(xiǎn)的人工智能系統(tǒng)歸類為對(duì)人類安全造成不可接受風(fēng)險(xiǎn)的人工智能系統(tǒng)，禁止在歐盟范圍內(nèi)部署。

在治理態(tài)度方面，歐盟高度重視，美國(guó)則持寬松態(tài)度。

歐盟高度重視人工智能安全風(fēng)險(xiǎn)，將其分為不可接受風(fēng)險(xiǎn)、高風(fēng)險(xiǎn)、有限風(fēng)險(xiǎn)和低（無(wú)）風(fēng)險(xiǎn)四個(gè)風(fēng)險(xiǎn)級(jí)別。其中，帶有算法歧視的系統(tǒng)、基于敏感屬性的生物識(shí)別分類系統(tǒng)等被劃分為不可接受風(fēng)險(xiǎn)系統(tǒng)，醫(yī)療等關(guān)鍵領(lǐng)域受管制的部分系統(tǒng)被劃分為高風(fēng)險(xiǎn)系統(tǒng)，其他系統(tǒng)為有限風(fēng)險(xiǎn)或低（無(wú)）風(fēng)險(xiǎn)系統(tǒng)。歐盟對(duì)不同風(fēng)險(xiǎn)級(jí)別的系統(tǒng)設(shè)置了不同的監(jiān)管措施，以確保人工智能的倫理和法律準(zhǔn)則得到遵守。相形之下，美國(guó)對(duì)人工智能安全風(fēng)險(xiǎn)問(wèn)題的看法相對(duì)寬松，雖然也面臨人工智能安全挑戰(zhàn)，但并未像歐盟一樣對(duì)人工智能獨(dú)有風(fēng)險(xiǎn)進(jìn)行專門研究并分類分級(jí)， 而是重點(diǎn)關(guān)注算法歧視引發(fā)的公平問(wèn)題與數(shù)據(jù)隱私安全保護(hù)這兩個(gè)風(fēng)險(xiǎn)點(diǎn)，以求在維護(hù)公平和保護(hù)隱私的同時(shí)，保持本國(guó)人工智能技術(shù)創(chuàng)新和商業(yè)競(jìng)爭(zhēng)力。 

在治理手段方面，美國(guó)傾向于行業(yè)自律，歐盟則通過(guò)立法途徑解決。

美國(guó)聯(lián)邦政府和企業(yè)普遍更加注重人工智能系統(tǒng)的性能和創(chuàng)新，對(duì)算法歧視等安全風(fēng)險(xiǎn)并沒(méi)有明確的立法和監(jiān)管框架。聯(lián)邦政府層面更傾向于通過(guò)采用自律和行業(yè)準(zhǔn)則等方式解決相關(guān)安全風(fēng)險(xiǎn)。例如，敦促企業(yè)制定自己的AI倫理準(zhǔn)則，并通過(guò)內(nèi)部審核和自我監(jiān)督來(lái)減少算法歧視風(fēng)險(xiǎn)。此外，一些學(xué)術(shù)機(jī)構(gòu)和非營(yíng)利組織也在推動(dòng)人工智能系統(tǒng)的公平性和透明性研究，并提供工具和指導(dǎo)方針來(lái)減少算法歧視風(fēng)險(xiǎn)。歐盟則傾向于通過(guò)立法途徑對(duì)人工智能進(jìn)行嚴(yán)格監(jiān)管與處罰，以確保技術(shù)和系統(tǒng)的公正性與透明性。歐盟2021年發(fā)布的《歐洲人工智能法規(guī)》，對(duì)高風(fēng)險(xiǎn)人工智能系統(tǒng)的使用提出了嚴(yán)格要求，并對(duì)不合規(guī)行為進(jìn)行罰款和制裁，以限制和減少人工智能系統(tǒng)的算法歧視風(fēng)險(xiǎn)；《人工智能法案》談判授權(quán)草案作為全球首部人工智能管制法案，也從法律層面對(duì)高風(fēng)險(xiǎn)人工智能系統(tǒng)做出禁止部署要求，并對(duì)違規(guī)企業(yè)處以高額罰款。 

三、幾點(diǎn)思考

人工智能作為具有重大顛覆性意義的新一代信息技術(shù)，正在深刻重塑全球競(jìng)爭(zhēng)格局。建議借鑒美歐相關(guān)舉措，從法律法規(guī)、標(biāo)準(zhǔn)和產(chǎn)業(yè)等層面發(fā)力，完善人工智能治理體系，促進(jìn)中國(guó)人工智能健康發(fā)展。

完善人工智能治理法律法規(guī)。法律法規(guī)是治理的依據(jù)。國(guó)務(wù)院2023年度立法工作計(jì)劃明確，將預(yù)備提請(qǐng)全國(guó)人大常委會(huì)審議人工智能法草案。為此，建議加快立法進(jìn)度，明確人工智能治理規(guī)則。

一方面，要明確人工智能網(wǎng)絡(luò)安全監(jiān)管規(guī)則。不得將人工智能用于網(wǎng)絡(luò)詐騙、網(wǎng)絡(luò)和數(shù)據(jù)攻擊、隱私和商業(yè)秘密竊取等，不得利用人工智能生成和傳播虛假信息、暴力色情信息等。另一方面，應(yīng)建立和完善人工智能應(yīng)用算法歧視和倫理審查等規(guī)則。鼓勵(lì)通過(guò)社會(huì)實(shí)驗(yàn)等方式，密切跟蹤人工智能技術(shù)應(yīng)用于教育、醫(yī)療、養(yǎng)老和交通等領(lǐng)域可能帶來(lái)的算法歧視和道德倫理問(wèn)題。比如，人工智能大規(guī)模使用導(dǎo)致的結(jié)構(gòu)性失業(yè)問(wèn)題，人工智能導(dǎo)致事故后的權(quán)責(zé)判定問(wèn)題，以及沉迷人工智能帶來(lái)的青少年心理健康問(wèn)題等，據(jù)此，研究制定人工智能算法歧視、道德倫理審查規(guī)則和標(biāo)準(zhǔn)。鼓勵(lì)通過(guò)行業(yè)自律形式營(yíng)造積極應(yīng)對(duì)人工智能算法歧視、道德倫理問(wèn)題的良好氛圍。

促進(jìn)人工智能安全服務(wù)產(chǎn)業(yè)發(fā)展。網(wǎng)絡(luò)安全的本質(zhì)是技術(shù)對(duì)抗，強(qiáng)化人工智能治理離不開(kāi)網(wǎng)絡(luò)安全技術(shù)和產(chǎn)業(yè)的有力支撐。一方面，要引導(dǎo)網(wǎng)絡(luò)安全產(chǎn)業(yè)各方為人工智能研發(fā)機(jī)構(gòu)提供安全服務(wù)，做好人工智能算法模型訓(xùn)練數(shù)據(jù)集的清洗，避免訓(xùn)練數(shù)據(jù)集帶有歧視性內(nèi)容；做好人工智能生成內(nèi)容合規(guī)性檢查，制定網(wǎng)絡(luò)和數(shù)據(jù)安全事件應(yīng)急處置舉措。另一方面，應(yīng)引導(dǎo)網(wǎng)絡(luò)安全產(chǎn)業(yè)各方為人工智能應(yīng)用機(jī)構(gòu)提供安全服務(wù)，從技術(shù)層面甄別有關(guān)內(nèi)容是否為人工智能生成；強(qiáng)化人工智能使用機(jī)構(gòu)的漏洞挖掘、病毒查殺、邊界防護(hù)、入侵防御、數(shù)據(jù)保護(hù)和追蹤溯源等能力。

為人工智能技術(shù)應(yīng)用創(chuàng)新留足空間。人工智能治理的目的是促進(jìn)技術(shù)應(yīng)用創(chuàng)新發(fā)展。作為新技術(shù)新應(yīng)用，人工智能應(yīng)用大多具備輿情動(dòng)員能力，需經(jīng)有關(guān)部門評(píng)估后方能上線應(yīng)用。

一方面，考慮到人工智能應(yīng)用后帶來(lái)的網(wǎng)絡(luò)安全和算法歧視等風(fēng)險(xiǎn)存在一定的未知性，建議在新技術(shù)新應(yīng)用評(píng)估過(guò)程中適度允許研發(fā)機(jī)構(gòu)增加內(nèi)測(cè)時(shí)間、擴(kuò)大內(nèi)測(cè)用戶規(guī)模，給予人工智能應(yīng)用一定的上線觀察期。另一方面，應(yīng)推進(jìn)人工智能安全風(fēng)險(xiǎn)分類分級(jí)標(biāo)準(zhǔn)，在法律法規(guī)層面探索建立責(zé)任豁免機(jī)制，在人工智能開(kāi)發(fā)者嚴(yán)格遵守有關(guān)法律和標(biāo)準(zhǔn)的條件下，如果出現(xiàn)較低風(fēng)險(xiǎn)人工智能網(wǎng)絡(luò)安全和算法歧視事件，則可賦予開(kāi)發(fā)者免責(zé)機(jī)會(huì)，以避免責(zé)任失衡導(dǎo)致技術(shù)創(chuàng)新發(fā)展動(dòng)力被遏制。

（作者周千荷、郝依然、張博卿均來(lái)自賽迪研究院）