神們自己

科普作家，著有《貓、愛因斯坦和密碼學(xué)：我也能看懂的量子通信》《機(jī)器新腦》

2016年，當(dāng)Alpha Go戰(zhàn)勝世界頂級圍棋選手李世石時，我第一次意識到人工智能（AI）時代的到來。于是，我創(chuàng)作了《機(jī)器新腦：人工智能將如何進(jìn)化》一書。在該書前言中，我引用了AI研究先驅(qū)杰克·施瓦茨的話：“創(chuàng)造超級人工智能所需的技術(shù)，可能需要數(shù)百個諾貝爾獎作為墊腳石。”

然而，AI的發(fā)展速度遠(yuǎn)比我想象的更快。短短幾年時間，Chat GPT引領(lǐng)的大模型技術(shù)就橫空出世，成了人們?nèi)粘Ｉ詈凸ぷ鞯闹匾帧?024年，杰克·施瓦茨的預(yù)言成為現(xiàn)實：備受關(guān)注的諾貝爾物理學(xué)獎和化學(xué)獎都頒發(fā)給了在AI領(lǐng)域做出重要貢獻(xiàn)的科學(xué)家，心甘情愿地當(dāng)起了人工智能的“墊腳石”。人工智能明明是計算機(jī)領(lǐng)域的，但如果你細(xì)看2024年諾貝爾物理學(xué)獎給約翰·霍普菲爾德和杰弗里·辛頓兩位科學(xué)家的頒獎理由，就會發(fā)現(xiàn)其實一點也不違和。

霍普菲爾德原本是一名物理學(xué)家，在機(jī)緣巧合下，他加入一個心理學(xué)家和生物學(xué)家組成的研究團(tuán)隊，專門研究“思想究竟如何從大腦中產(chǎn)生”的課題。他在1982年發(fā)明了“霍普菲爾德神經(jīng)網(wǎng)絡(luò)”，首次成功模擬了人類大腦的記憶機(jī)制。

霍普菲爾德發(fā)現(xiàn)，如果不斷迭代更新神經(jīng)元的參數(shù)，神經(jīng)網(wǎng)絡(luò)最終會收斂到一個穩(wěn)定的狀態(tài)。他借鑒了物理學(xué)中的類似概念，稱之為“能量最小化”?！澳芰孔钚』痹谖锢硎澜缰须S處可見，就像人們常說的“人往高處走，水往低處流”。樹上的蘋果總是掉到地上，而不是飛到天上，因為地球引力使蘋果在地上“躺平”的勢能最小。同樣地，當(dāng)神經(jīng)網(wǎng)絡(luò)處于“能量最小化”狀態(tài)時，意味著它已經(jīng)記住了之前輸入的訓(xùn)練數(shù)據(jù)，性能達(dá)到最佳狀態(tài)。

霍普菲爾德用圖片訓(xùn)練這個神經(jīng)網(wǎng)絡(luò)。由于受當(dāng)時算力的限制，訓(xùn)練用的圖片只是黑白方塊組成的九宮格。如果用0代表白、1代表黑，一張圖片就是9個數(shù)字組成的矩陣。神經(jīng)網(wǎng)絡(luò)訓(xùn)練穩(wěn)定之后，達(dá)到“能量最小化”狀態(tài)，此時挑一張訓(xùn)練圖片稍加修改，比如把一個黑方塊改成白方塊，再輸入神經(jīng)網(wǎng)絡(luò)，它的輸出竟是修改之前的原圖！這證明神經(jīng)網(wǎng)絡(luò)和人一樣有了記憶能力，能夠“記住”圖片，并“聯(lián)想”到最接近的數(shù)據(jù)。

如今的人工智能當(dāng)然比“霍普菲爾德神經(jīng)網(wǎng)絡(luò)”復(fù)雜很多，但本質(zhì)是一樣的：所謂“AI訓(xùn)練”，就是將海量數(shù)據(jù)輸入模型，通過不斷地修正和更新，直到模型“收斂”——也就是達(dá)到“能量最小化”狀態(tài)?？梢哉f，AI的底層原理和物理學(xué)思想有著異曲同工之妙。

如果說霍普菲爾德堪稱人工智能科學(xué)的祖師爺，那么杰弗里·辛頓就是現(xiàn)代生成式人工智能的奠基人?！盎羝辗茽柕律窠?jīng)網(wǎng)絡(luò)”雖然能記住數(shù)據(jù)，但無法生成新的數(shù)據(jù)。而現(xiàn)代生成式AI，如Chat GPT這樣的大模型，卻能根據(jù)用戶的問題“隨機(jī)應(yīng)變”，生成互聯(lián)網(wǎng)上搜不到的全新內(nèi)容。這一能力源于辛頓提出的“波爾茲曼機(jī)”。

物理學(xué)中，波爾茲曼分布描述了在一個由大量粒子組成的熱力學(xué)系統(tǒng)中，粒子處于某個能量狀態(tài)的概率和溫度的關(guān)系。比如由無數(shù)分子組成的空氣，當(dāng)溫度較低時，大多數(shù)的分子運動緩慢，少量分子能獲得高動能；當(dāng)溫度升高時，分子平均運動速度更快，更多的分子能獲得高動能。波爾茲曼分布能定量計算出在某個溫度下，到底有多少比例的分子具備多少份額的能量。

如果物理世界的大量粒子遵循波爾茲曼分布規(guī)律，那么一個大型神經(jīng)網(wǎng)絡(luò)中的神經(jīng)元也遵循著類似規(guī)律嗎？于是，辛頓借（照）鑒（抄）了波爾茲曼分布公式，他把能量E替換為神經(jīng)網(wǎng)絡(luò)的能量函數(shù)，用溫度T來控制隨機(jī)性。訓(xùn)練初期，他使用高溫讓系統(tǒng)更隨機(jī)，可以廣泛探索狀態(tài)空間。隨著訓(xùn)練趨于穩(wěn)定，他逐漸降溫讓系統(tǒng)來到低能量狀態(tài)。這個降溫的辦法使模型更容易收斂到最佳參數(shù)。從此，深度網(wǎng)絡(luò)訓(xùn)練問題得到了解決，AI深度學(xué)習(xí)迎來了復(fù)興。幾乎所有現(xiàn)代AI都和辛頓的“波爾茲曼機(jī)”一樣，使用概率分布來控制模型的隨機(jī)化輸出。所以你問Chat GPT同一個問題，它每次的答案都不太一樣。

人工智能不僅僅是計算機(jī)編程，而是融合了物理學(xué)、數(shù)學(xué)、腦神經(jīng)科學(xué)等多個領(lǐng)域的交叉學(xué)科。在大模型崛起之后，通用人工智能很可能在幾年之內(nèi)就會問世，而出現(xiàn)在科幻電影中的“超級人工智能”也不再是可望而不可即的幻想。

2024年7月，某研究機(jī)構(gòu)用全套高考真題測試7種AI，其中文科最高成績546分，已達(dá)一本分?jǐn)?shù)線，理科最高成績468分，達(dá)到二本分?jǐn)?shù)線。等你參加高考時，AI很可能已經(jīng)具備大學(xué)本科生甚至研究生的智力水平了！未來需要的人才，不是只會解題的“做題家”，而是會提出問題、創(chuàng)造需求、為AI技術(shù)找到應(yīng)用場景的人。

怎樣與加速進(jìn)化的AI共存發(fā)展？這是未來的你需要持續(xù)思考的問題。