如果科學(xué)家們能夠了解電子在分子中的活動(dòng)，那么他們就能夠預(yù)測(cè)一切事物的行為，包括實(shí)驗(yàn)藥物與高溫超導(dǎo)體。

作者 | 吳彤

編輯 | 陳彩嫻

「AI+X」愈發(fā)如火如荼。

最近，權(quán)威學(xué)術(shù)媒介 QuantaMagazine 發(fā)表了一篇文章，介紹了 DeepMind 在內(nèi)的許多研究團(tuán)隊(duì)正使用機(jī)器學(xué)習(xí)算法攻破物理領(lǐng)域的一個(gè)著名難題——密度泛函理論。

他們企圖通過機(jī)器學(xué)習(xí)算法來尋找第三級(jí)密度泛函的方程式，找出人類無法用數(shù)學(xué)描述的電子行為，從而突破電子在分子中的活動(dòng)細(xì)節(jié)。這對(duì)藥物發(fā)現(xiàn)、超導(dǎo)研究與奇異材料的研究意義重大。

在科學(xué)家們看來，這是一項(xiàng)重要的、振奮人心的研究，因?yàn)槊芏确汉碚撌且粋€(gè)經(jīng)典的量子力學(xué)理論，而從密度泛函出發(fā)，他們有望在分子與化學(xué)等相關(guān)領(lǐng)域取得重大突破，實(shí)現(xiàn)人工智能跨界共舞的又一傳說。

那么，機(jī)器學(xué)習(xí)算法與物理如何能共舞呢？我們來看看 QuantaMagazine 的要點(diǎn)介紹。

1

密度泛函理論是什么？

密度泛函理論的英文名為「Density Functional Theory」，簡(jiǎn)稱「DFT」，始于1960年代，是一種研究多電子體系下電子結(jié)構(gòu)的方法，在物理與化學(xué)上有廣泛的應(yīng)用，尤其用來研究分子和凝聚態(tài)性質(zhì)，是凝聚態(tài)物理計(jì)算材料學(xué)和計(jì)算化學(xué)領(lǐng)域最常用的方法之一。

這樣說似乎還有點(diǎn)抽象。舉一些形象的例子：

眾所周知，近年來超算出奇跡。而2018年美國(guó)超級(jí)計(jì)算機(jī)集群的三大應(yīng)用，排名第一的便是密度泛函，其次才是夸克和其他亞原子粒子的研究，氣候模擬也只能排第三。

更往前一點(diǎn)，2014年10月，Nature整理出100篇有史以來引用數(shù)量最高的研究論文，其中有12篇論文都與密度泛函理論有關(guān)。這是 Nature 當(dāng)時(shí)的描述是：

「我們地球世界中的一切事物都取決于電子的運(yùn)動(dòng)——因此，DFT 就是一切的基礎(chǔ)?！?/span>

圖注：密度泛函理論揭示了電子在分子（如2,3-(S,S)-二甲基環(huán)氧乙烷）中的活動(dòng)

幾十年來，研究人員利用 DFT 對(duì)事物進(jìn)行預(yù)測(cè)：2014年，化學(xué)家 Christopher  H Hendon 等人用 DFT 理論量化物種常見的咖啡酸、咖啡因與代表性風(fēng)味成分丁香酚的熱力學(xué)結(jié)合能，由此掌握了咖啡味道形成的奧妙；2017年，天文學(xué)家又用 DFT 理論預(yù)測(cè)木星核心的稠度，相關(guān)論文發(fā)表在了頂刊《Geophysical Research Letters》上。

英國(guó)牛津大學(xué)的材料物理學(xué)家 Feliciano Giustino 評(píng)價(jià)：「本質(zhì)上，DFT 是一種使不可能的數(shù)學(xué)變得簡(jiǎn)單的近似?！?/span>

要通過考慮每個(gè)電子和每個(gè)原子核如何與每個(gè)電子和原子核相互作用來研究硅晶體中的電子行為，研究人員需要分析 16 萬億 (1021) TB 的數(shù)據(jù)，這遠(yuǎn)遠(yuǎn)超出了任何人的處理能力。而計(jì)算機(jī)將 DFT 的數(shù)據(jù)需求減少到只有幾百 KB，完全在標(biāo)準(zhǔn)筆記本電腦的容量范圍內(nèi)。這昭示了計(jì)算機(jī)科學(xué)與DFT的合作基礎(chǔ)。

另一方面，DFT 為科學(xué)家們提供了一條捷徑，可以預(yù)測(cè)電子的去向，進(jìn)而預(yù)測(cè)原子、分子和其他披著電子的物體將如何行動(dòng)。長(zhǎng)期以來，物理學(xué)家和化學(xué)家一直利用深厚的物理專業(yè)知識(shí)來使他們的方程式更好地反映所有電子共有的復(fù)雜活動(dòng)。

了解電子就是了解它們構(gòu)成的原子、分子和材料。自 1920 年代歐文·薛定諤發(fā)表他的同名方程（「薛定諤波動(dòng)方程」）以來，物理學(xué)家已經(jīng)徹底理解了電子。

圖注：薛定諤波動(dòng)方程

但在分析大量電子時(shí)，薛定諤方程幾乎毫無用處，原因就在于電子比粒子更多團(tuán)。它們?cè)诳臻g中擴(kuò)散，以多種方式與其他電子重疊并相互擠壓。隨著電子數(shù)量的增加，使用薛定諤波動(dòng)方程來解釋所有電子之間的不斷接觸的難度也呈指數(shù)級(jí)增長(zhǎng)。

來自加州大學(xué)伯克利分校的凝聚態(tài)物理學(xué)家杰弗里·尼頓 (Jeffrey Neaton) 便提出這樣的觀點(diǎn)：「即使是只有幾個(gè)粒子，你也需要用更多的磁盤空間才能把波函數(shù)寫入硬盤?！?/span>

2

從DFT到通用密度泛函

多年來，密度泛函理論的強(qiáng)大吸引著無數(shù)研究者躬身其中。在他們當(dāng)中，我們不得不提到1998年獲得諾貝爾化學(xué)獎(jiǎng)的物理學(xué)家 Walter Kohn。

圖注：Walter Kohn

Walter Kohn 出生于奧地利維也納，1945年獲數(shù)學(xué)和物理學(xué)學(xué)士學(xué)位，1946年于多倫多大學(xué)獲應(yīng)用數(shù)學(xué)碩士學(xué)位，1948年在哈佛大學(xué)獲博士學(xué)位。曾任哈佛大學(xué)物理系教員，卡內(nèi)基-梅隆大學(xué)（CMU）助教和教授，加利大學(xué)圣地亞哥分校物理系教授、系主任，1979年到加利大學(xué)圣巴巴拉分校先后任理論物理所所長(zhǎng)和物理系教授。

1964 年，他與另一位物理學(xué)家 Pierre Hohenberg 找到了一種方法，證明通過將分子的電子粘在一起，形成一些點(diǎn)更厚、一些點(diǎn)更薄的液體，就可以完美地捕捉到分子的每一個(gè)方面。這種電子液體（electron soup）的密度包含分子復(fù)雜波函數(shù)的所有信息，使物理學(xué)家實(shí)現(xiàn)了對(duì)電子進(jìn)行單獨(dú)的、原先以為絕無可能完成的任務(wù)。非常了不起。

圖注：研究人員使用基于密度泛函理論的工具來預(yù)測(cè) DNA 堿基對(duì)周圍的電子在被激光脈沖擊中時(shí)如何反應(yīng)。

Hohenberg 和 Kohn 證明了存在一個(gè)強(qiáng)大的主方程，即「通用密度泛函」。該方程將以「電子液體」為例計(jì)算其能量，引導(dǎo)物理學(xué)家采用能量最低且最自然的電子排列。從這個(gè)角度看，通用密度泛函具有很強(qiáng)的普遍性，原則上可以描述從硅磚到水分子的所有系統(tǒng)。

唯一的問題是沒有人知道這個(gè)方程式是什么樣的。

很快，1965年，Kohn和另一位物理學(xué)家 Lu Jeu Sham 首次寫出了可用的密度泛函方程式。在這個(gè)過程中，他們知道，想要寫出捕捉電子行為所有微妙表現(xiàn)的精確函數(shù)難度極高，因此他們將難題一分為二：一半是已知部分，它提供了一組只能平均感知彼此的電子的能量；一半是未知部分，比如拜占庭量子效應(yīng)和非局部相互作用產(chǎn)生的多余能量，統(tǒng)一放進(jìn)一個(gè)被稱為交換和相關(guān)函數(shù)的容差系數(shù)中。

論文鏈接：https://journals.aps.org/pr/abstract/10.1103/PhysRev.140.A1133

目前，Kohn對(duì)DFT的兩篇研究論文分別在Nature的這100篇論文中排名第34位和第39位。Kohn意識(shí)到，他可以通過假設(shè)每個(gè)電子對(duì)所有其他（不是單個(gè)的）電子的反應(yīng)，以模糊的平均值來計(jì)算系統(tǒng)的屬性，比如它的最低能態(tài)。原則上，數(shù)學(xué)是簡(jiǎn)單明了的；系統(tǒng)的行為就像一個(gè)連續(xù)的流體，其密度隨點(diǎn)而變化。這一理論也因此得名。

這個(gè)方法將我們對(duì)通用泛函的未知降到了最低。在接下來的幾十年里，科學(xué)家們基于 Kohn 和Sham 的工作，采用越來越聰明的方法來估計(jì)容差系數(shù)，從而使得密度泛函成為理解電子的實(shí)用方法。

在實(shí)際應(yīng)用中，研究人員使用這個(gè)方法來預(yù)測(cè)原子捕獲或釋放電子、分子振動(dòng)的方式（比如好奇號(hào)探測(cè)器用來尋找火星上的生命跡象）、晶格中原子的排列、 聲音在材料中等等。1998年，Kohn還憑借該理論的廣泛應(yīng)用贏得了諾貝爾化學(xué)獎(jiǎng)。

3

用AI尋找通用泛函的近似值

研究人員要求更高的 DFT 精確度，就必須考慮到泛函交換和相關(guān)項(xiàng)的無關(guān)性，打磨函數(shù)的細(xì)節(jié)，使它更符合通用密度泛函。

尋找更通用的泛函方程，尤其是泛函方程的近似值，成為「DFT 狂熱者」的新目標(biāo)。

天普大學(xué)的物理學(xué)家約翰·珀杜（John Perdew）是這方面的先驅(qū)者。他將通向通用泛函的道路描述為「在梯子上攀爬」。在每個(gè)梯級(jí)上，物理學(xué)家都在函數(shù)中添加新成分。最簡(jiǎn)單的成分就是每個(gè)位置的「電子燉菜」（electron stew）的厚度。在下一個(gè)梯級(jí)上，泛函還考慮了從一個(gè)地方到另一個(gè)地方的厚度變化速度，從而使這項(xiàng)研究更加精確。

圖注：John Perdew

Perdew 的策略核心是使用了物理推理，從而保證通用泛函的近似值一定會(huì)遵守某些數(shù)學(xué)屬性，即所謂的「精確約束」。越高的階梯要滿足越多的約束條件，因此研究人員就必須更努力地尋找滿足所有這些約束條件的方程。

Perdew 的團(tuán)隊(duì)于 1999 年開始處理混合六種成分的第三級(jí)泛函。2015年，他們年發(fā)布了當(dāng)時(shí)最先進(jìn)的名為「SCAN 」的泛函。這是他的第八次嘗試，也是泛函第一次符合與第三級(jí)相關(guān)的所有 17 條已知約束。SCAN 適用于分子和固體領(lǐng)域，已證明是迄今為止發(fā)現(xiàn)的通用泛函最強(qiáng)大的近似之一。

論文鏈接：https://arxiv.org/abs/1511.01089

「第三級(jí)函數(shù)的可能性非常大。弄清楚什么是重要的，什么是有效的，需要時(shí)間?！筆erdew談道。

這時(shí)，機(jī)器學(xué)習(xí)就派上了用場(chǎng)。

4

機(jī)器學(xué)習(xí)入場(chǎng)

當(dāng) Perdew 基于物理直覺改進(jìn)密度泛函時(shí)，一場(chǎng)革命正在醞釀：算法能否找出人類無法用數(shù)學(xué)描述的電子行為的模式？

2012 年，來自美國(guó)UC Irvine大學(xué)的 Kieron Burke 及團(tuán)隊(duì)首次嘗試將機(jī)器學(xué)習(xí)應(yīng)用于一組簡(jiǎn)化的電子。他所提出的一維原型驅(qū)使了他和其他研究者思考能夠采用機(jī)器學(xué)習(xí)算法來尋找密度函數(shù)。

論文鏈接：https://journals.aps.org/prl/abstract/10.1103/PhysRevLett.108.253002

2021年初，Burke團(tuán)隊(duì)又取得了突破：他與合作者為一個(gè)玩具問題建立了一個(gè)神經(jīng)網(wǎng)絡(luò)，采用了一個(gè)此前大多數(shù)工作都會(huì)忽略的方法來跟蹤密度誤差和能量誤差。相關(guān)工作發(fā)表在了《Physical Review Letters》上。

論文鏈接：https://journals.aps.org/prl/abstract/10.1103/PhysRevLett.126.036401

盧森堡大學(xué)的理論化學(xué)家 Alexandre Tkatchenko 說：“要獲得既能提供密度又能提供能量的泛函，需要一個(gè)非常靈活的架構(gòu)，單純依靠人腦寫出一個(gè)函數(shù)式是很難的?！?/span>

石溪大學(xué)的 Fernández-Serra 也是研究將機(jī)器學(xué)習(xí)算法用于尋找泛函的學(xué)者之一。她使用類似的策略設(shè)計(jì)了一個(gè)神經(jīng)網(wǎng)絡(luò)，研究一系列分子和能量，并尋找服從大多數(shù)已知約束的第三級(jí)函數(shù)，本質(zhì)上就是使用一臺(tái)機(jī)器來追溯 Perdew 的足跡。

正如她和Sebastian Dick在 2021年秋季《Physical Review B》中報(bào)道的一樣，由此產(chǎn)生的交換和相關(guān)函數(shù)在預(yù)測(cè)不熟悉分子的能量方面比SCAN高出了大約10%，但這輕微的增益表明Perdew的研究已經(jīng)接近于第三級(jí)泛函的天花板。

https://journals.aps.org/prb/abstract/10.1103/PhysRevB.104.L161109

「物理直覺幾乎耗盡了人類所能達(dá)到的所有智慧。在不使用機(jī)器學(xué)習(xí)的情況下，Perdew的泛函研究真的是盡善盡美?！笷ernández-Serra 評(píng)論。

5

DeepMind「盯上」DFT

但是想要爬得更高，就需要更復(fù)雜的輸入，以及能夠理解這些輸入的算法。

DeepMind 的理論化學(xué)家阿隆·科恩 (Aron Cohen) 也對(duì)尋找更通用的泛函方程十分感興趣。為了深入理論量子化學(xué)的抽象觀點(diǎn)，他隨身帶著一個(gè)3d打印的藍(lán)色玩具，形似幸運(yùn)餅干，彎曲描繪出了一個(gè)泛函函數(shù)的確切形狀。它僅適用于最簡(jiǎn)單的系統(tǒng)描述，比如任意兩個(gè)原子間共享的兩個(gè)電子的信息，但也時(shí)刻提醒著 Cohen：這個(gè)世界上可能存在一種能夠處理任意數(shù)量電子和原子的通用泛函。

圖注：這個(gè)玩具函數(shù)描述了任意兩個(gè)原子之間共享的兩個(gè)電子。球軸承表示能量最低的排列、傾斜模型則會(huì)改變?cè)印?/span>

DFT 研究的主要目標(biāo)之一是找到該通用泛函的更準(zhǔn)確的近似值。

眾所周知，DeepMind在研究出圍棋系統(tǒng)Go之后，便一直在尋找新的挑戰(zhàn)，尤其將目光集中在了「科學(xué)機(jī)器學(xué)習(xí)」的問題上。于是，Cohen便提議研究 DFT，此前他也花了數(shù)年時(shí)間研究簡(jiǎn)單系統(tǒng)的精確泛函，但這些系統(tǒng)并不足以反映現(xiàn)實(shí)的世界。

回顧科恩的研究歷程，DFT 的一個(gè)核心弱點(diǎn)大大阻礙Cohen：電流密度泛函通常會(huì)過多地涂抹電子。這個(gè)問題在不平衡的系統(tǒng)中尤其明顯。電子應(yīng)該主要聚集在一個(gè)分子上，但 DFT 偏偏將電子汁均勻地分布在兩個(gè)分子上。當(dāng)這種連帶問題出現(xiàn)在化學(xué)反應(yīng)中時(shí)，DFT 就無法為粒子合并和分離提供正確的能量，即使是像氫原子這種簡(jiǎn)單的情況也是如此。

為了設(shè)計(jì)下一代函數(shù)，Cohen和DeepMind團(tuán)隊(duì)選擇不再糾結(jié)于滿足一長(zhǎng)串的物理原則。相反，他們依賴大量的數(shù)據(jù)，首先從數(shù)據(jù)庫(kù)中搜索出數(shù)千個(gè)已知能量的分子（使用薛定諤方程或類似方法以高成本計(jì)算），然后再使用超級(jí)計(jì)算機(jī)來處理數(shù)百個(gè)額外分子的能量（其中許多分子需要幾天的時(shí)間來計(jì)算）。

當(dāng)研究小組收集了詳盡的分子樣本時(shí)，Cohen和其他化學(xué)家再?zèng)Q定如何構(gòu)造這些泛函。

他們找到了一種萬能的方法：當(dāng)以一種方式計(jì)算某一函數(shù)的80%的能量，再以另一種方式計(jì)算剩下的20%的能量時(shí)，就會(huì)出現(xiàn)一個(gè)最佳點(diǎn)。這一方法是研究人員經(jīng)過多年的反復(fù)試驗(yàn)找到的，用來估計(jì)部分交換和相關(guān)函數(shù)。

長(zhǎng)期以來，研究人員一直猶豫下一步是不是讓分子周圍的點(diǎn)按照80/20的比例隨點(diǎn)變化，但目前還沒有人能完全成功做到這一點(diǎn)。

1998年 Burke 在其發(fā)表于 ACS 期刊的“Exchange-Correlation Energy Density from Viral Theorem” 中介紹了這種類型的函數(shù)。但是，他說：“人們可能已經(jīng)在100篇論文中嘗試應(yīng)用這種形式的函數(shù)，但他們還沒有創(chuàng)造出每個(gè)人都能用的東西。也許這對(duì)一個(gè)人來說太難了。”

論文鏈接：https://pubs.acs.org/doi/10.1021/jp980950v

憑借大量的樣本分子和DeepMind團(tuán)隊(duì)的機(jī)器學(xué)習(xí)專業(yè)知識(shí)，該團(tuán)隊(duì)所提出的神經(jīng)網(wǎng)絡(luò)能夠訓(xùn)練出一種靈活的第四級(jí)函數(shù)——DM21 ，可以比SCAN和其他頂級(jí)競(jìng)爭(zhēng)對(duì)手更好地估計(jì)各種分子的能量，因?yàn)樗芨鼫?zhǔn)確地定位電子，更好地描述它們的自旋。據(jù)介紹，他們所提出的泛函是第一個(gè)能夠處理化學(xué)鍵斷裂和形成的通用泛函。去年12月9日，該工作發(fā)表在了《Science》上。

論文鏈接：https://www.science.org/doi/10.1126/science.abj6511

但不可否認(rèn)，DM21 也有一個(gè)明顯的缺點(diǎn)，就是只訓(xùn)練了元素周期表的前三行分子，盡管數(shù)據(jù)更豐富，但也意味著它學(xué)到的電子行為可能無法轉(zhuǎn)移到金屬原子或固體材料上，而這兩者卻對(duì)于分析銅基高溫超導(dǎo)體系列至關(guān)重要。目前，這兩個(gè)領(lǐng)域的通用泛函細(xì)節(jié)還在用 SCAN 和其他泛函做逼近。

6

結(jié)語

目前，機(jī)器學(xué)習(xí)在科學(xué)領(lǐng)域的「輔助」才剛剛嶄露頭角。AI 算法能為科學(xué)研究帶來多大的突破，仍是一個(gè)未知數(shù)。

但正如 QuantaMagazine所評(píng)價(jià)，F(xiàn)ernández-Serra 和 DeepMind 等團(tuán)隊(duì)對(duì)新泛函的研究已經(jīng)表明，機(jī)器學(xué)習(xí)可以成為探索通用密度泛函新領(lǐng)域的強(qiáng)大工具，尤其是分子和化學(xué)的相關(guān)領(lǐng)域。

Tkatchenko評(píng)價(jià)，機(jī)器學(xué)習(xí)有助于調(diào)整化學(xué)空間，使泛函盡可能高效。

不過，改進(jìn)后的化學(xué)泛函是否能有效揭示從原子到材料等事物的通用特征，還有待觀察。

Perdew 便表示，他會(huì)繼續(xù)尋找新的直觀特性，以進(jìn)一步完善傳統(tǒng)研究路徑。但他可能不會(huì)在機(jī)器學(xué)習(xí)方面投入大量時(shí)間，「因?yàn)楸M管機(jī)器可以學(xué)習(xí)，但它們還不能向我們解釋它們學(xué)到了什么?！?/span>

但 Cohen 認(rèn)為已經(jīng)可以從 DM21 中看到可能成為未來近似值的持久元素的通用特征，無論這些特征是由人類大腦生成的、還是由神經(jīng)網(wǎng)絡(luò)生成的。

「函數(shù)是十分復(fù)雜的，所以對(duì)它進(jìn)行任何嘗試都是好的。理想情況下，我們希望將它們都統(tǒng)一起來?！笴ohen說。

參考鏈接：

1.https://www.quantamagazine.org/quantum-complexity-tamed-by-machine-learning-20220207/

2.https://pubmed.ncbi.nlm.nih.gov/24802110/

3.https://agupubs.onlinelibrary.wiley.com/doi/full/10.1002/2017GL073160

4.https://www.nature.com/news/the-top-100-papers-1.16224

雷峰網(wǎng)雷峰網(wǎng)(公眾號(hào)：雷峰網(wǎng))

雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。