- +1
對話清華教授孫茂松:第三代人工智能要處理“可解釋性”問題
正如人類會綜合利用視覺、聽覺、觸覺、語言等信息,讓人工智能(AI)從多角度、多模態(tài)、多學(xué)科學(xué)習(xí)自然語言也是清華大學(xué)人工智能研究院的目標(biāo)與任務(wù)。
2019年7月1日,清華大學(xué)人工智能研究院第八個研究中心:自然語言處理與社會人文計算研究中心(以下簡稱中心)在校本部FIT樓舉行成立儀式。中心主任由清華大學(xué)人工智能研究院常務(wù)副院長、國家重點(diǎn)基礎(chǔ)研究發(fā)展計劃(973計劃)項目首席科學(xué)家孫茂松教授擔(dān)任。
7月3日,澎湃新聞(www.loaarchitects.com.cn)記者走進(jìn)清華園,與孫茂松教授聊了聊這個名字格外長的中心成立的背景、擔(dān)負(fù)的使命、以及當(dāng)下人工智能的發(fā)展、困境與解決方法。

孫茂松教授接受澎湃新聞(www.loaarchitects.com.cn)記者采訪
AI詩人、人工智能輔助法官與未來的諾貝爾經(jīng)濟(jì)學(xué)獎獲得者
語言是人類智能的重要標(biāo)志,在人類文明中的地位與作用毋庸置疑,自然語言處理,通俗地解釋就是“讓計算機(jī)學(xué)習(xí)人類語言”。清華大學(xué)新設(shè)立的中心旨在通過加強(qiáng)人工智能的基礎(chǔ)研究及其與人文社科學(xué)科的交叉合作,建立更強(qiáng)大的機(jī)器用知識庫,進(jìn)而提升人工智能對語言的學(xué)習(xí)和處理的能力。
孫茂松認(rèn)為,目前人工智能同社會科學(xué)和人文科學(xué)的結(jié)合有兩個主要的橋梁,一個是狹義的數(shù)據(jù),比如說金融市場上的數(shù)據(jù),可根據(jù)數(shù)據(jù)來預(yù)測市場行為;另一個就是語言文字形成的文本,比如新聞、消息、用戶在社交網(wǎng)絡(luò)上反映觀點(diǎn)和情緒的各種“短信息”等等。
基于人類語言文字這一橋梁,自2015年底起,他指導(dǎo)一個最初以兩位本科生為主體的課題小組,通過深度神經(jīng)網(wǎng)絡(luò)的方法,讓機(jī)器對全部古代詩歌進(jìn)行“閱讀”并“理解”,在此基礎(chǔ)上,推出了會作詩的AI——“九歌”,使人工智能“跨界”到了文學(xué)創(chuàng)作領(lǐng)域。由于公眾的關(guān)注與參與,到目前為止“九歌”已經(jīng)產(chǎn)生了差不多400萬首詩,“從古流傳至今的詩歌總量估計達(dá)不到400萬首,如果這么想,效果也還不錯?!毙〗M目前正在研究現(xiàn)代詩的生成,以期滿足大眾越來越多樣的“作詩要求”。

“九歌”在CCTV-1《機(jī)智過人》節(jié)目上創(chuàng)作出藏頭詩
社會人文學(xué)科是一個很寬廣的概念。除了文學(xué)外,今年以來人工智能研究院正在與清華大學(xué)法學(xué)院合作,在原有的法學(xué)基礎(chǔ)上更多地加入計算與人工智能的成分。法學(xué)院越來越認(rèn)識到,“計算法學(xué)”是未來法學(xué)研究的一個發(fā)展趨勢。孫茂松也提到,近年來最高人民法院領(lǐng)導(dǎo)的案卷卷宗數(shù)字化、公開化是計算法學(xué)發(fā)展的一個重要基礎(chǔ)。
當(dāng)澎湃新聞(www.loaarchitects.com.cn)記者問未來是否會有“AI法官”時,孫茂松說,“應(yīng)該會有‘人工智能輔助法官’。雖然本質(zhì)上機(jī)器的能力肯定超不過優(yōu)秀的法官,但機(jī)器確實(shí)有它的長處,比如說它可以快速閱讀大量的卷宗,人有時候會判斷有片面性、情緒上會有所波動、法官水平也會參差不齊,機(jī)器則不會。”
孫茂松指出,人工智能目前基于大數(shù)據(jù)的深層神經(jīng)網(wǎng)絡(luò)方法(也叫深度學(xué)習(xí)方法,見后)有可能為某些社會人文領(lǐng)域帶來研究范式的改變。雖然清華人工智能研究院目前剛剛開始進(jìn)行外匯兌換率預(yù)測的研究,但他認(rèn)為人工智能與金融、經(jīng)濟(jì)的深度融合可望帶來極具震撼力的成果,一旦深度學(xué)習(xí)方法被創(chuàng)造性地、系統(tǒng)性地應(yīng)用到這個領(lǐng)域,甚至“這幾年國際上能出一個諾貝爾經(jīng)濟(jì)學(xué)獎”。
針對金融、經(jīng)濟(jì)系統(tǒng)的高度復(fù)雜性,孫茂松認(rèn)為,當(dāng)把各類相關(guān)信息都涵蓋進(jìn)來,并且有高超的手段對這些信息進(jìn)行“大一統(tǒng)”式的有效處理時,這個復(fù)雜系統(tǒng)的可預(yù)測性便會顯著上升。他舉了個例子,“螞蟻王國有自己的一套運(yùn)作規(guī)律,但這個規(guī)律有時會變得非常脆弱,因為可能突然來一個人,啪地來一腳,便給這個王國帶來了滅頂之災(zāi)。僅僅從螞蟻的世界來看,這個突發(fā)事件是不可預(yù)測的。但如果把人的因素包含進(jìn)來,細(xì)致了解這個人的秉性,比如他是否是一個有愛心的人、是否是一名佛教徒等等,他的行為的可預(yù)測性就會大大提高,螞蟻王國的不可預(yù)測性也會隨之大大降低”。
在孫茂松看來,經(jīng)典金融學(xué)或經(jīng)濟(jì)學(xué)的研究范式主要是依靠人的理性思辨和求解方程(無論是線性還是非線性方程)。但復(fù)雜且龐大的金融和經(jīng)濟(jì)系統(tǒng)里充滿了不確定性,很多現(xiàn)象難以用方程顯式地刻畫。但深度學(xué)習(xí)方法具有高度的非線性性質(zhì),在大數(shù)據(jù)的驅(qū)動下,理論上它能隱式地模擬任何復(fù)雜的方程,更加有效地處理系統(tǒng)的不確定性。這就使得一種全新的金融學(xué)或經(jīng)濟(jì)學(xué)研究范式的產(chǎn)生成為可能。
把“黑盒子”變成“灰盒子”

孫茂松的書架上擺著金融、語言、邏輯等各領(lǐng)域的書籍
“當(dāng)代人工智能教父”、2018年圖靈獎得主約書亞·本吉奧(Yoshua Bengio)認(rèn)為,人工智能領(lǐng)域在近些年出現(xiàn)巨大變革要?dú)w功于 “深度學(xué)習(xí)”(deep learning)的出現(xiàn)。他在一篇名為《深度學(xué)習(xí):人工智能的復(fù)興》的署名文章中說,“近年來,深度學(xué)習(xí)已經(jīng)成為了驅(qū)動人工智能領(lǐng)域發(fā)展的最主要力量,各大信息技術(shù)公司在這方面共擲下了數(shù)十億美元的資金。”
本吉奧此前接受澎湃新聞(www.loaarchitects.com.cn)記者專訪時表示,現(xiàn)有的自然語言處理系統(tǒng)掌握了大量的詞匯量和語言轉(zhuǎn)換的技巧,但是卻并不理解句子的真正含義,機(jī)器“會犯一些非常愚蠢的錯誤,甚至沒有兩歲小孩的理解能力”。同時他認(rèn)為,模擬人腦的神經(jīng)網(wǎng)絡(luò)以期能夠?qū)崿F(xiàn)類人工智能的機(jī)器學(xué)習(xí)技術(shù),即神經(jīng)網(wǎng)絡(luò)技術(shù)對于新時代的意義是巨大的。
盡管意義巨大,但目前的深層神經(jīng)網(wǎng)絡(luò)系統(tǒng)存在著一個重大不足:給定一個輸入,系統(tǒng)給出相應(yīng)結(jié)果的深刻原因?qū)θ藖碚f是不透明的,從這個意義上來說,它基本上是一個“黑盒子”。這就導(dǎo)致系統(tǒng)的穩(wěn)健性會變大打折扣,系統(tǒng)的適用范圍也會縮窄。當(dāng)我們深究機(jī)器為什么犯錯時(如機(jī)器翻譯系統(tǒng)為什么把一句話翻成這樣、而不翻成那樣),機(jī)器卻無法給出解釋,“反正我就翻成這樣,你看著用吧?!?/p>
此外,深度學(xué)習(xí)最擅長處理的是關(guān)聯(lián)性:當(dāng)輸入“公雞打鳴”這個詞語時,它會自動聯(lián)想到“太陽升起來了”這句話。這體現(xiàn)了一種關(guān)聯(lián)性,但顯然前者不是導(dǎo)致后者的原因。深度學(xué)習(xí)現(xiàn)在基本上沒有因果推理能力。孫茂松說,深度學(xué)習(xí)只是在統(tǒng)計意義上“覺得”某兩個東西是相關(guān)的,但兩者之間到底有沒有邏輯關(guān)系,它卻渾然不知。
孫茂松進(jìn)一步闡釋,自然語言處理研究面臨著同樣的難題,實(shí)際上,“可解釋性”是整個人工智能領(lǐng)域目前面臨的困境,也是目前的國際學(xué)術(shù)研究前沿。研究者們正在努力讓這個人工智能“黑盒子”至少變成一個“灰盒子”。孫茂松認(rèn)為,在自然語言處理方面,知識庫的構(gòu)建或許是一個解決方法。以古詩詞寫作舉例:“灞橋”后接“折柳”,深度學(xué)習(xí)應(yīng)該能從詩庫中捕捉到這個知識關(guān)聯(lián),但其它眾多知識關(guān)聯(lián)是否都能學(xué)到,就不好說了。但如果我們自覺地把跟“灞橋”相關(guān)的東西全預(yù)先列出來,如“灞水、驛站、銷魂、斷腸、長安、關(guān)中八景、李白、李商隱、孟浩然…”,建立起一個知識圖譜,那么,機(jī)器就可以根據(jù)這個知識圖譜比較自覺地去寫詩,針對性更強(qiáng),寫詩過程也便具有了一定的可解釋性。
根據(jù)人工智能研究院院長張鈸院士的說法,人工智能在其發(fā)展史上已經(jīng)先后經(jīng)歷了理性主義和經(jīng)驗主義兩代。第三代人工智能應(yīng)該是這兩者的完美結(jié)合。解決可解釋性問題,是其核心研究任務(wù)之一。
因為知識天然地具有一定解釋性,知識庫就帶有一種可解釋性。
“通專雖應(yīng)兼顧,而重心所寄, 應(yīng)在通而不在專”
以人工智能和大數(shù)據(jù)為標(biāo)志的第四次工業(yè)革命到來之際,國內(nèi)多所高校開始布局人工智能教育。2017年5月,中國科學(xué)院大學(xué)成立人工智能技術(shù)學(xué)院,成為我國人工智能技術(shù)領(lǐng)域首個全面開展教學(xué)和科研工作的新型學(xué)院;2018年,上海交通大學(xué)與南京大學(xué)先后建立了人工智能研究院與人工智能學(xué)院,南京大學(xué)還招收了首批人工智能專業(yè)本科學(xué)生。
而作為中國頂尖的高等學(xué)府,清華大學(xué)對頂尖人才培養(yǎng)一貫高度重視。2005年設(shè)立的計算機(jī)科學(xué)實(shí)驗班(因其創(chuàng)始人、“圖靈獎”唯一華人獲獎?wù)咭ζ谥嵌妹耙Π唷保┦侨珖酥寥蝾I(lǐng)先的計算機(jī)人才培養(yǎng)的搖籃。一流的高等教育有責(zé)任助力計算機(jī)科學(xué)和人工智能達(dá)至下一個令人鼓舞的高度,更應(yīng)該能夠給這個時代帶來顛覆性的影響。
那么,人工智能本科專業(yè)的設(shè)置是否必要?人工智能要不要在本科階段就獨(dú)立成系?
“通專雖應(yīng)兼顧,而重心所寄, 應(yīng)在通而不在?!保瑢O茂松用清華大學(xué)老校長梅貽琦的一句話為澎湃新聞記者解釋了國內(nèi)頂尖高校對于人工智能本科教育或許應(yīng)有的態(tài)度。在參考了全球名校如MIT(麻省理工學(xué)院Massachusetts Institute of Technology)、斯坦福大學(xué)、CMU(卡耐基梅隆大學(xué)Carnegie Mellon University)等的課程建構(gòu)后,孫茂松認(rèn)為人工智能不應(yīng)貿(mào)然獨(dú)立于計算機(jī)科學(xué)技術(shù)的一級學(xué)科。當(dāng)然,各個高校根據(jù)各自不同的情況和需要制定自己的發(fā)展策略,也是可以理解的。
“清華主要的還是要穩(wěn),沒有特殊的需求不要變,一變反而變亂了,兩撥人可能無序競爭了?!?整體穩(wěn)定、積極探索是清華大學(xué)在人工智能本科教育上的方針。
今年,清華大學(xué)在“姚班”之外新設(shè)立了“智班”,全稱為“清華學(xué)堂人工智能班”,在計算機(jī)教育結(jié)構(gòu)大體不變的前提下,這個規(guī)模不大的實(shí)驗班將對人工智能人才、特別是頂尖人才本科階段的培養(yǎng)進(jìn)行深度探索。而人工智能研究院的工作主要定位在研究生階段,特別是博士生階段的培養(yǎng)。
在本中心之前,清華大學(xué)陸續(xù)成立了人工智能研究院基礎(chǔ)理論研究中心、智能機(jī)器人研究中心等七個研究機(jī)構(gòu)。
孫茂松說,這八個中心的核心力量主要對應(yīng)著人工智能研究的“初心”,也就是研究人的感知和認(rèn)知。感知最重要的通道是視覺和聽覺,所以設(shè)立了視覺智能和聽覺智能中心;而認(rèn)知體現(xiàn)人的語言、推理、邏輯、學(xué)習(xí)的能力,所以設(shè)立了基礎(chǔ)理論中心、知識智能中心和自然語言處理中心等。再向外探索就是智能人機(jī)交互與智能多模態(tài)信息交互乃至機(jī)器人的相關(guān)研究,中心和中心之間是緊密聯(lián)系、相互合作的。
剛滿一周歲的清華人工智能研究院已基本實(shí)現(xiàn)了“整合力量、統(tǒng)籌安排”的目標(biāo)。孫茂松表示,接下來的兩個中心會分別以“社交網(wǎng)絡(luò)大數(shù)據(jù)”和“人工智能芯片”為關(guān)鍵詞。





- 報料熱線: 021-962866
- 報料郵箱: news@thepaper.cn
互聯(lián)網(wǎng)新聞信息服務(wù)許可證:31120170006
增值電信業(yè)務(wù)經(jīng)營許可證:滬B2-2017116
? 2014-2025 上海東方報業(yè)有限公司




