2024年圖靈獎(jiǎng)得主、“強(qiáng)化學(xué)習(xí)之父”理查德·薩頓（Richard Sutton）。

9月11日上午，2025 Inclusion·外灘大會(huì)在上海黃浦世博園區(qū)開(kāi)幕。2024年圖靈獎(jiǎng)得主、“強(qiáng)化學(xué)習(xí)之父”理查德·薩頓（Richard Sutton）在開(kāi)幕式上針對(duì)AI帶來(lái)偏見(jiàn)、失業(yè)甚至人類(lèi)滅絕的擔(dān)憂(yōu)表示，這種對(duì)人工智能的恐懼被夸大了。人工智能和人類(lèi)繁榮將來(lái)自去中心化協(xié)作，“協(xié)作并非總能實(shí)現(xiàn)，卻是世間一切美好事物的源泉，我們必須尋求協(xié)作、支持協(xié)作，并致力將協(xié)作制度化。”

被譽(yù)為“AI教父”的計(jì)算機(jī)科學(xué)家、諾貝爾獎(jiǎng)得主杰弗里·辛頓（Geoffrey Hinton）曾預(yù)測(cè)，隨著企業(yè)用人工智能取代工人，AI將引發(fā)失業(yè)率上升與企業(yè)利潤(rùn)激增。盡管目前裁員尚未激增，但越來(lái)越多的證據(jù)表明，人工智能正在壓縮入門(mén)級(jí)崗位。

對(duì)于AI帶來(lái)偏見(jiàn)、失業(yè)甚至人類(lèi)滅絕的擔(dān)憂(yōu)，薩頓則認(rèn)為，這種對(duì)人工智能的恐懼被夸大了，并且是被某些從中獲利的組織和個(gè)人煽動(dòng)起來(lái)的。他以經(jīng)濟(jì)社會(huì)的運(yùn)行為例，只有當(dāng)每個(gè)人有不同的目標(biāo)和能力，經(jīng)濟(jì)才能運(yùn)行得最好。同樣，不同目標(biāo)的智能體可以通過(guò)去中心化的協(xié)作實(shí)現(xiàn)雙贏?！叭祟?lèi)最卓越的超能力，就在于比其他任何動(dòng)物都更擅長(zhǎng)協(xié)作。人類(lèi)最偉大的成功在協(xié)作本身?！彼_頓表示，人工智能和人類(lèi)繁榮將來(lái)自去中心化協(xié)作?！皡f(xié)作并非總能實(shí)現(xiàn)，卻是世間一切美好事物的源泉，我們必須尋求協(xié)作、支持協(xié)作，并致力將協(xié)作制度化?！?/p>

薩頓表示，今天大多數(shù)機(jī)器學(xué)習(xí)的目標(biāo)是把人類(lèi)已有的知識(shí)轉(zhuǎn)移到靜態(tài)、缺乏自主學(xué)習(xí)能力的AI 上。但人類(lèi)數(shù)據(jù)紅利正逼近極限，“我們逐漸達(dá)到人類(lèi)數(shù)據(jù)的極限，現(xiàn)有的方法不能生成新的知識(shí)，不適合持續(xù)學(xué)習(xí)，而持續(xù)學(xué)習(xí)對(duì)智能的效用至關(guān)重要?！彼J(rèn)為，人類(lèi)正進(jìn)入“經(jīng)驗(yàn)時(shí)代”，需要由智能體與世界直接交互生成的一種新數(shù)據(jù)源，這正是人類(lèi)和其他動(dòng)物的學(xué)習(xí)方式，是近期AlphaProof在國(guó)際數(shù)學(xué)奧林匹克斬獲銀牌的路徑。

“經(jīng)驗(yàn)”是指觀(guān)察、行動(dòng)和獎(jiǎng)勵(lì)，這三種信號(hào)在智能體與世界之間來(lái)回傳遞?！爸R(shí)來(lái)自于經(jīng)驗(yàn)，可以從經(jīng)驗(yàn)中學(xué)習(xí)。一個(gè)智能體的智能程度取決于它能預(yù)測(cè)并控制自身輸入信號(hào)的程度。經(jīng)驗(yàn)是一切智能的核心與基礎(chǔ)?！彼硎?，強(qiáng)化學(xué)習(xí)帶領(lǐng)我們進(jìn)入了新的經(jīng)驗(yàn)時(shí)代，但要釋放全部潛力，還需要兩項(xiàng)目前尚不成熟的技術(shù)——持續(xù)學(xué)習(xí)（continual learning）和元學(xué)習(xí)（meta-learning）技術(shù)。

薩頓將宇宙的歷史分為四個(gè)時(shí)代：粒子時(shí)代、恒星時(shí)代、復(fù)制者時(shí)代和設(shè)計(jì)時(shí)代。他認(rèn)為人類(lèi)的獨(dú)特之處在于“把設(shè)計(jì)推向極致”，創(chuàng)造出能自己設(shè)計(jì)的事物。人類(lèi)至少是催化劑，是助產(chǎn)士，更是開(kāi)啟宇宙第四大時(shí)代“設(shè)計(jì)時(shí)代”的先驅(qū)。他認(rèn)為人類(lèi)終將真正理解智能，并借助技術(shù)創(chuàng)造智能。當(dāng)前人類(lèi)的智力水平很快將會(huì)被超級(jí)人工智能或超級(jí)智能增強(qiáng)的人類(lèi)遠(yuǎn)遠(yuǎn)超越，權(quán)力和資源會(huì)流向最聰明的智能體。