撰稿：汪詰 王木頭

未來的某一天，人工智能“天網(wǎng)”覺醒，它制造出可怕的機(jī)器人，代號“終結(jié)者”，企圖消滅所有人類，但人類在約翰·康納的帶領(lǐng)下，與終結(jié)者進(jìn)行著殊死搏斗。天網(wǎng)制造出了時間機(jī)器，派終結(jié)者去殺死約翰·康納的母親以阻止康納的出生。

這就是我小時候最愛看的科幻電影《終結(jié)者》的故事背景。我當(dāng)時就在想，既然這樣，那么人類也可以派出特工回到過去，阻止發(fā)明 AI 的那位關(guān)鍵科學(xué)家，這樣，天網(wǎng)就不會，至少不會那么快就誕生了。

假如科幻成真，人類應(yīng)該回到哪一年？又該去阻止哪位科學(xué)家呢？

2024年10月8日，諾貝爾獎委員會給出了答案——未來人應(yīng)該回到 1982 年，去找一位名字果然也叫約翰的物理學(xué)家，他的全名是約翰·J·霍普菲爾德（John J. Hopfield）。然后，再去找一位叫杰弗里·E·辛頓（Geoffrey E. Hinton）的科學(xué)家。阻止他倆，就能阻止（至少是大大減緩）人工智能的發(fā)展。

兩位獲獎?wù)?/p>

這兩位科學(xué)家就是 2024 年諾貝爾物理學(xué)獎的獲獎人，或許，諾獎委員會在用這種方式給未來人拯救人類提供關(guān)鍵線索。

那么，他們倆到底對人工智能的誕生做出了怎樣的貢獻(xiàn)呢？我一個個來說。

約翰·霍普菲爾德老爺子 1933 年出生于美國芝加哥，今年已經(jīng) 91 歲高齡。他 25 歲在康奈爾大學(xué)獲得物理學(xué)博士學(xué)位，28 歲到加州大學(xué)伯克利分校教授物理學(xué)，開始了自己的物理學(xué)生涯。1982 年，他 49 歲，說實話，這對于搞理論的物理學(xué)家來說，已經(jīng)算是高齡了，學(xué)術(shù)的黃金年齡已經(jīng)過去。但是，對于約翰·霍普菲爾德來說，這一年卻是他產(chǎn)出最重要成果的一年。這一年，他提出了“霍普菲爾德網(wǎng)絡(luò)”模型，首次將物理學(xué)中的統(tǒng)計力學(xué)原理引入神經(jīng)網(wǎng)絡(luò)，開創(chuàng)了人工神經(jīng)網(wǎng)絡(luò)中的關(guān)聯(lián)記憶概念。

霍普菲爾德神經(jīng)網(wǎng)絡(luò)

實際上，在霍普菲爾德之前很多年，神經(jīng)網(wǎng)絡(luò)的基本雛形就已經(jīng)被提出了。我們把模擬人類大腦神經(jīng)元的工作機(jī)制的計算機(jī)算法模型稱為神經(jīng)網(wǎng)絡(luò)模型。人的大腦中擁有海量的神經(jīng)元細(xì)胞，這些細(xì)胞長得就像有很多觸手的章魚，神經(jīng)元與神經(jīng)元之間的觸手可以相互連接，也可以斷開。我們每個人的大腦中神經(jīng)元細(xì)胞的總數(shù)大體差不多，但是，我們每個人大腦中的神經(jīng)元的相互連接方式卻是獨一無二的，而且，這些神經(jīng)元之間的連接方式在我們的成長過程中，也在不斷地產(chǎn)生變化。神經(jīng)元之間的這種網(wǎng)狀連接結(jié)構(gòu)存儲了我們的記憶，而我們每個人的思想，不過是電信號在這些無窮無盡的神經(jīng)元中游走所涌現(xiàn)出來的一種現(xiàn)象。

模擬人腦神經(jīng)元的工作機(jī)制來實現(xiàn)人工智能是比較容易想到的一種方式，不過，這只不過是眾多 AI 實現(xiàn)流派中的一派，甚至是并不被特別看好的一派。這是因為，它有一個天然的劣勢，就是需要的計算量非常龐大。因此，這一派一直在努力提高算力的使用效率。霍普菲爾德的貢獻(xiàn)就是另辟蹊徑，從物理學(xué)的角度解決問題。

我來講講他的解決思路大概是怎樣的。不過千萬注意，我這是做科普，是把他的思路簡化再簡化之后的講解，但也能讓我們普通人略微領(lǐng)略一下諾獎大神的思想魅力了。

人工神經(jīng)網(wǎng)絡(luò)之所以會很消耗算力，很大一部分是有很多無效的計算。這就像是讓一個盲人尋找房間出口，一定是磕磕碰碰很多次才能嘗試出門在哪里。這些磕磕碰碰就是浪費掉的算力。

但是，浴室中的水會直奔下水道，不會到處亂撞。這是因為下水道入口在浴室地板的最低處，而水一定是往低處流的。

這個換做更加物理的說法那就是，下水道入口的位置處于重力場勢能最低的地方，而一個物體傾向于在能量最低狀態(tài)保持平衡。

霍普費爾德就是把這個原理應(yīng)用到了神經(jīng)網(wǎng)絡(luò)算法中。他設(shè)想，是否可以用計算機(jī)算法來實現(xiàn)一個虛擬的力場呢？想到就干，霍普費爾德先用軟件虛擬出一個神經(jīng)網(wǎng)絡(luò)，然后再用神經(jīng)網(wǎng)絡(luò)虛擬出一個遵守物理規(guī)律的力場，這就是他獲得諾獎的那個重要成就——霍普費爾德網(wǎng)絡(luò)。具體實現(xiàn)的數(shù)學(xué)方法非常復(fù)雜，我們不講數(shù)學(xué)，我只給你講他的思路。

我們可以把這個力場想象成是一個高低起伏的二維平面，這個平面上哪里高、哪里低，哪里是一個山峰，哪里是一個低谷，都是由神經(jīng)網(wǎng)絡(luò)里的參數(shù)決定的。

訓(xùn)練神經(jīng)網(wǎng)絡(luò)的時候，需要喂給模型很多數(shù)據(jù)，這些數(shù)據(jù)就像是一個一個的小球，把它們放到虛擬的力場里，它們就會自動滾落到最低的能量低谷里。

比如說，我們希望這個模型可以判斷出照片里面有沒有狗，在一個神經(jīng)網(wǎng)絡(luò)的虛擬力場里，不同位置代表不同的結(jié)果，分別有貓、狗、狼、石頭等等，那么，狗的位置就是勢能最低的地方，然后是狼、貓、石頭的勢能依次增大。

在真實的物理世界中，假如一個位置的力場勢能高低我們不清楚，我們可以從不同位置放下一個一個的小球，通過小球的運(yùn)行狀態(tài)來探測力場的真實情況。

不過，當(dāng)我們訓(xùn)練一個神經(jīng)網(wǎng)絡(luò)模型的時候，情況就不太一樣了，因為神經(jīng)網(wǎng)絡(luò)里的這個場的形狀應(yīng)該是什么樣子的我們并不知道。但我們可以不斷地把真實的貓的照片數(shù)據(jù)喂給模型，如果這個力場是正確的話，那么這個訓(xùn)練數(shù)據(jù)最后應(yīng)該落在貓的位置，如果落到的是其他位置，就說明這個力場是錯的。

這個時候就需要調(diào)整模型參數(shù)，然后再用測試數(shù)據(jù)試一下，直到測試的數(shù)據(jù)能夠正確下落到代表貓的位置為止。

只要這個虛擬的力場訓(xùn)練出來了，這時候再給模型輸入數(shù)據(jù)，就能判斷它到底是不是貓的照片了，這就像浴室里的水一樣，直奔下水道，而不需要到處碰壁嘗試了。

但是，霍普費爾德網(wǎng)絡(luò)有一個問題，那就是它最后訓(xùn)練出來的那個虛擬的力場并不是只有一個低谷，雖然最低的那個低谷仍然是正確答案，但是在它周圍還有幾個深淺不一的小凹坑。于是就可能出現(xiàn)，給模型輸入一個數(shù)據(jù)之后，這個數(shù)據(jù)的確是往低處滾動，但是滾動到了一個周圍的小坑里靜止了，這樣它就永遠(yuǎn)不會滾動到正確的最深谷里了。

霍普菲爾德網(wǎng)絡(luò)訓(xùn)練可能產(chǎn)生的誤差

這個問題，霍普菲爾德沒有解決，但他的這個思想，已足以讓他名垂青史。不過，霍普菲爾德沒能解決的問題，被杰弗里·辛頓發(fā)明的“玻爾茲曼機(jī)”給解決了。

杰弗里·E·辛頓， 1947 年出生于英國倫敦，今年 77 歲。他本科拿的是英國劍橋大學(xué)的實驗心理學(xué)文憑，本科畢業(yè)后前往愛丁堡大學(xué)學(xué)習(xí)計算機(jī)，獲得人工智能的博士學(xué)位。你沒聽錯，早在 1975 年，大學(xué)里面就已經(jīng)有人工智能專業(yè)了。他在 2018 年獲得圖靈獎，今年 2024 年又獲得諾貝爾物理學(xué)獎，他是全世界除了赫伯特.西蒙，同時獲得圖靈獎和諾貝爾獎的第二人。

首先，玻爾茲曼是另外一個物理大神的名字，玻爾茲曼在物理學(xué)中的貢獻(xiàn)被稱為玻爾茲曼分布。這是用來描述類似氣體分子這樣微小粒子的狀態(tài)的。氣體分子有什么特點呢，就是它們是在持續(xù)不斷運(yùn)動的，而且這個運(yùn)動還和溫度有關(guān)，溫度越高動能越高，溫度越低動能越低。

玻爾茲曼機(jī)模型

剛才提到的霍普費爾德網(wǎng)絡(luò)，一個數(shù)據(jù)容易陷入到局部最低的小低谷里面出不來，如果這個數(shù)據(jù)是具有溫度的氣體分子呢？那么它是會不斷運(yùn)動的，即便是不小心到了一個小低谷里面，它仍然有可能翻出去，直到進(jìn)入全局的那個低谷。

如果用人工智能的術(shù)語來說，那就是霍普費爾德網(wǎng)絡(luò)更容易出現(xiàn)過擬合，但是在霍普費爾德網(wǎng)絡(luò)虛擬出來的那個簡化版物理世界里，再把玻爾茲曼分布的規(guī)律也引入進(jìn)去，就可以比較好的避免過擬合的現(xiàn)象。

直到現(xiàn)在，“溫度”仍然是人工智能里的非常重要的概念。ChatGPT 這樣的 AI 工具，通常有一個高級設(shè)置，設(shè)置模型的溫度。溫度越高，模型給出的答案會越有創(chuàng)意，溫度越低則是會越遵守原有的數(shù)據(jù)。

最后，我來總結(jié)一下：

霍普菲爾德和辛頓之所以會獲得今年的諾貝爾物理學(xué)獎，是因為提出了霍普費爾德網(wǎng)絡(luò)和玻爾茲曼機(jī)這兩個神經(jīng)網(wǎng)絡(luò)模型。其實如果單純說對現(xiàn)在人工智能的貢獻(xiàn)，這兩個模型的直接貢獻(xiàn)其實并不算突出，它們更多的是為神經(jīng)網(wǎng)絡(luò)的發(fā)展引入了新思想和新的發(fā)展模式?，F(xiàn)在大部分的大語言模型都沒有直接使用這兩個模型，但是，追根溯源，他們的思想被延續(xù)了下來。

這也是為什么諾貝爾物理學(xué)獎居然頒給了搞計算機(jī)神經(jīng)網(wǎng)絡(luò)算法的科學(xué)家，因為他們是最早將物理學(xué)引入到人工智能領(lǐng)域的科學(xué)家。

他們就是終結(jié)者要保護(hù)的人！