0
| 本文作者： 我在思考中 | 2022-04-11 10:53 |
校對(duì)丨維克多
量子技術(shù)和人工智能都是當(dāng)前最先進(jìn)的科學(xué)技術(shù)，前者被寄希望于擁有超強(qiáng)的計(jì)算能力，后者已經(jīng)在各行各業(yè)“大殺四方”。當(dāng)兩者相遇會(huì)碰撞出什么樣的火花？人工智能又能在哪些方面助力量子技術(shù)？
去年12月份，德州農(nóng)工大學(xué)計(jì)算機(jī)科學(xué)與工程系（校長(zhǎng)有影響力）教授姬水旺在CNCC大會(huì)上發(fā)表了《量子化學(xué)和物理的深度學(xué)習(xí)》的演講，表達(dá)了他對(duì)兩個(gè)學(xué)科的感想。
“量子打破了我們很多常識(shí)性的理解，在量子狀態(tài)世界的運(yùn)行并不確定，我們最多只能預(yù)測(cè)各種結(jié)果出現(xiàn)的概率?！?/span>
此外，他還表示，量子的研究對(duì)象雖然是原子層級(jí)甚至亞原子層級(jí)的物體，但與宏觀規(guī)則也有相通之處，例如可以把分子之間的結(jié)構(gòu)看成一張圖，進(jìn)行處理。
以下是演講全文，AI科技評(píng)論做了不改變?cè)獾恼怼?/span>
大家好，今天我將著重談?wù)勅绾芜\(yùn)用AI以及圖形計(jì)算技術(shù)來(lái)解決量子物理及量子化學(xué)問(wèn)題。
首先讓我們來(lái)了解一些背景：在經(jīng)典物理學(xué)領(lǐng)域，我們討論的是宏觀世界中的物體或者現(xiàn)象。比如，你朝一個(gè)球踢了一腳，如果你知道球的具體質(zhì)量、速度以及當(dāng)前的時(shí)間，你就能預(yù)測(cè)出五秒后這個(gè)球的位置。但是在量子領(lǐng)域，由于研究對(duì)象是原子層級(jí)甚至亞原子層級(jí)的物體，例如原子和化學(xué)鍵組成的分子，因此無(wú)法按照傳統(tǒng)邏輯思考領(lǐng)域規(guī)則。
近些年，我們不斷與各個(gè)領(lǐng)域的專(zhuān)家合作，希望從量子物理學(xué)家、量子化學(xué)家、量子材料學(xué)家等身上獲得研究突破。這些不同領(lǐng)域的學(xué)者都有一些共同需要研究的話(huà)題，而這些話(huà)題與圖像、AI、尤其是深度學(xué)習(xí)相關(guān)聯(lián)?，F(xiàn)在我來(lái)匯報(bào)最新進(jìn)展。
分子由原子及原子間的化學(xué)鍵構(gòu)成，例如在分子中，原子用點(diǎn)表示，而分子則由線(xiàn)表示。所以能夠?qū)⒎肿右?D圖形的形式呈現(xiàn)出來(lái)。在機(jī)器學(xué)習(xí)和數(shù)據(jù)挖掘領(lǐng)域，圖形計(jì)算是一個(gè)老生常談的話(huà)題。但遷移到分子領(lǐng)域，也面臨新的挑戰(zhàn)：2D圖形的形式并不能完全挖掘分子的屬性。畢竟，分子實(shí)際上不是一個(gè)2D的平面，其具有三維空間屬性的。它的結(jié)構(gòu)并不只由點(diǎn)和線(xiàn)的屬性決定，而同時(shí)由空間坐標(biāo)、化學(xué)鍵角等等決定。因此，在探索分子功能時(shí)，需要重視它的三維結(jié)構(gòu)。
如何高效地利用分子的空間信息去進(jìn)行預(yù)測(cè)及生成模型？消息傳播神經(jīng)網(wǎng)絡(luò)（Message Passing Neural Network， MPNN）是一種常用的圖神經(jīng)網(wǎng)絡(luò)框架。我們能發(fā)現(xiàn)，此類(lèi)方法可以歸納為兩個(gè)方程：聚合函數(shù)和節(jié)點(diǎn)更新函數(shù)。聚合函數(shù)能將把鄰居節(jié)點(diǎn)的信息聚合起來(lái)。
當(dāng)我們嘗試計(jì)算一個(gè)節(jié)點(diǎn)的信息時(shí)，基本上都會(huì)考慮節(jié)點(diǎn)在上個(gè)時(shí)間點(diǎn)本身的屬性以及中介節(jié)點(diǎn)的屬性，以及邊界的信息。計(jì)算聚合函數(shù)之后，需要利用節(jié)點(diǎn)更新函數(shù)，這一步要求能夠利用之前步驟的信息與屬性，更新現(xiàn)在的節(jié)點(diǎn)信息。但此舉只是簡(jiǎn)單地考慮了節(jié)點(diǎn)及邊界的特征。所以，我們近期的工作就是嘗試構(gòu)建三維圖形計(jì)算網(wǎng)絡(luò)，以便能夠獲取完整的三維信息。
一旦需要納入三維信息，計(jì)算網(wǎng)絡(luò)將變得非常復(fù)雜，且信息傳遞也將變得低效。所以我們希望網(wǎng)絡(luò)在高效的同時(shí)，讓計(jì)算變得等效與穩(wěn)定。如果有一個(gè)分子，當(dāng)你旋轉(zhuǎn)這個(gè)分子時(shí)，他的很多2D屬性也許不會(huì)改變，但3D信息卻不一定；因此，我們希望在預(yù)測(cè)及生成模型中，當(dāng)分子的一個(gè)節(jié)點(diǎn)旋轉(zhuǎn)時(shí)，它的量子屬性也保持穩(wěn)定。
模型的預(yù)測(cè)功能是指預(yù)測(cè)一個(gè)給定分子的屬性，例如，我們可以預(yù)測(cè)分子是否有作為抗生素的潛力。而生成模型是指根據(jù)給定的屬性去生成/合成相應(yīng)的新分子。
當(dāng)前，已經(jīng)有不少研究者將3D屬性納入考量了。其中一個(gè)最早的工作叫SchNet，他們將距離作為三維屬性納入。即使用SchNet意味著會(huì)考慮邊界以及邊界的長(zhǎng)度。。最近也有一個(gè)工作叫DimeNet。DimeNet在SchNet的基礎(chǔ)上更進(jìn)一步，因?yàn)樗鼘⒔嵌燃{入了考量。例如你有從j到i的信息，你需要計(jì)算mi，j，那么需要不僅僅將節(jié)點(diǎn)信息納入考量，還需要考慮兩個(gè)化學(xué)鍵之間的角度。
但在化學(xué)中，我們發(fā)現(xiàn)僅僅考量距離和幾何形狀是遠(yuǎn)遠(yuǎn)不夠的。如上圖，紅色部分代表了一個(gè)并不真實(shí)存在的平面，藍(lán)色部分也是如此。分子擁有幾何形狀，但是僅僅知道三條化學(xué)鍵的距離、兩個(gè)鍵角是沒(méi)法完全確定分子的幾何形狀的。
讓我們思考一下，d1，d2確定的平面與由d2，d3確定的平面之間會(huì)存在一個(gè)φ角。也正是這個(gè)角，成為了上述模型中的不確定因素。因?yàn)榧词箵碛邢嗤膬蓚€(gè)鍵角時(shí)，而φ角不斷改變，導(dǎo)致分子的幾何形狀也會(huì)發(fā)生改變。
我們嘗試構(gòu)建的是一個(gè)完整的、能夠解決所有情況的幾何框架，稱(chēng)之為球形信息傳遞。
為了解決上述問(wèn)題，將φ角納入了考量，φ角是X與他的投影之間的夾角。
此舉的一個(gè)考量是：必須讓呈現(xiàn)出來(lái)的分子是穩(wěn)定不變的。例如，當(dāng)旋轉(zhuǎn)分子時(shí)，它們的屬性，例如所有的夾角，應(yīng)當(dāng)不發(fā)生變化。。在球形信息傳遞中，我們構(gòu)建一個(gè)球坐標(biāo)系，包括參照點(diǎn)、距離和扭角。但此模型不是100%完美的。
因?yàn)閮H僅考慮了一個(gè)對(duì)照，所以當(dāng)考慮其他節(jié)點(diǎn)時(shí)就會(huì)出現(xiàn)不確定因素。所以我們的工作是不完美但是非常具有效率的。
最近有一個(gè)叫GemNet的系統(tǒng)，他們的想法是，我們的系統(tǒng)僅僅使用了的A節(jié)點(diǎn)的鄰居節(jié)點(diǎn)的信息，并沒(méi)有使用2-hop領(lǐng)域信息。GemNet科學(xué)家認(rèn)為，當(dāng)你使用了2-hop領(lǐng)域信息時(shí)，這個(gè)系統(tǒng)將會(huì)趨近完善。確實(shí)，當(dāng)你使用2-hop領(lǐng)域信息時(shí)，角度信息將被較好地合并，并且達(dá)到近乎完善的效果，但是問(wèn)題在于，一旦你使用了2-hop信息，信息更新后將納入大量地鄰居節(jié)點(diǎn)，整個(gè)信息更新步驟將變得異常復(fù)雜。
相較之下，我們的系統(tǒng)雖然不是100%的完善，但更具效率，能夠直觀地看到復(fù)雜程度：n代表節(jié)點(diǎn)的數(shù)量，K則是所有節(jié)點(diǎn)的平均自由度。在實(shí)際效果上，我們的模型與更復(fù)雜的GemNet十分相近。
下圖能夠清晰地展示我們的模型能或不能表示哪些情況。a圖和b圖表示的是在化學(xué)上被稱(chēng)為手性的現(xiàn)象。
事實(shí)上，這兩個(gè)分子就像是鏡像。我們?cè)O(shè)計(jì)的網(wǎng)絡(luò)能夠區(qū)分這兩種情況，而之前很多的方法并不能做到。因?yàn)樵谖覀兊姆椒ㄖ校覀冇玫搅伺そ亲鳛橄鄬?duì)角度，而在手性這個(gè)例子中，二者q1的角度分別為60°和90°。但是，在第二種情況下，q1的扭角都為90°，所以我們的方法無(wú)法區(qū)分出來(lái)。第二種情況也是被社區(qū)的同行們指出“希望更正”的情況，但是從化學(xué)意義上說(shuō)，這種情況發(fā)生的概率非常非常低，因?yàn)閝2和q3作為不同的原子，他們與q1之間的扭角相同的情況幾乎不可能發(fā)生。所以我們認(rèn)為，盡管我們的模型不是100%覆蓋了所有的情況，無(wú)法覆蓋的情況在自然界中很難發(fā)生。
當(dāng)我們開(kāi)始著眼于量子力學(xué)時(shí)，薛定諤方程為我們提供了解答思路。如果你知道距離角和扭角的數(shù)值，你可以使用方程中的不同函數(shù)，例如球面諧波和球面貝塞爾函數(shù)，也可以使用其他的基本函數(shù)去收集Θ值，并最終得到一個(gè)特征向量。這是一個(gè)具有物理意義的特征向量，能夠在實(shí)際的信息傳遞中使用。
下圖是系統(tǒng)構(gòu)建過(guò)程。有輸入模塊，一個(gè)采用扭轉(zhuǎn)角和距離信息作為輸入的交互模塊，這個(gè)交互模塊可能會(huì)重估很多次，這個(gè)重復(fù)的次數(shù)將取決于你的數(shù)據(jù)量。最后是輸出模塊，有了這個(gè)模塊，能夠使信息傳遞用于一些賽事當(dāng)中，例如公開(kāi)催化劑挑戰(zhàn)。
公開(kāi)催化劑挑戰(zhàn)賽是一個(gè)由Facebook AI和CMU發(fā)起的競(jìng)賽。賽事的宗旨是利用新的大規(guī)模分子數(shù)據(jù)去預(yù)測(cè)熱力學(xué)數(shù)據(jù)。在催化劑發(fā)現(xiàn)領(lǐng)域，這些目標(biāo)分子通常都相對(duì)較大，每個(gè)分子在結(jié)構(gòu)上平均含有80個(gè)原子。
所以他們根據(jù)訓(xùn)練與測(cè)試的關(guān)系將數(shù)據(jù)集分為四組，打分是根據(jù)每一個(gè)絕對(duì)誤差的平均值，來(lái)評(píng)價(jià)系統(tǒng)能夠測(cè)量的最佳質(zhì)量。每一行代表一個(gè)模型，CGCNN來(lái)自一個(gè)利用模型研究分子的公司，還有SchNet，DimeNet以及GemNet。大家能看到，在所有的系統(tǒng)中，SphereNet能夠占據(jù)一個(gè)非常有競(jìng)爭(zhēng)力的地位。
上圖是來(lái)自其他數(shù)據(jù)集QM9的結(jié)果。這是一個(gè)相對(duì)較小的數(shù)據(jù)集，每一列代表了一個(gè)量子屬性，每一行代表了一個(gè)預(yù)測(cè)方法，從表中能夠看到每個(gè)方法在不同屬性上的平均誤差。
在其他數(shù)據(jù)集上我們的系統(tǒng)也是成功的，例如MD17，這是一個(gè)更小的數(shù)據(jù)集。正如我們提到的，GemNet因?yàn)槭褂昧?-hop數(shù)據(jù)，計(jì)算力需求更大，所以只能用在較小的數(shù)據(jù)集當(dāng)中。
正如上圖所見(jiàn)，就算在較小的數(shù)據(jù)集中，我們系統(tǒng)的表現(xiàn)也稍?xún)?yōu)于DimeNet，與GemNet相比表現(xiàn)也相差無(wú)幾，但GemNet的計(jì)算消耗更大。
下圖計(jì)算消耗的比較。截至目前，與兩代的GemNet計(jì)算相比，我們的計(jì)算消耗都是要小得多的。
下圖展示了系統(tǒng)的過(guò)濾器。正如所見(jiàn)，每行代表的分子具有不同的扭角，而在很多情況下我們的過(guò)濾器展示的結(jié)果在不同扭角下是非常不同的，這也印證了扭角參數(shù)在捕獲不同分子模式時(shí)是非常重要的。
簡(jiǎn)單小結(jié)一下，我們的想法是嘗試將分子的三維信息完整地展示出來(lái)，所以我們構(gòu)建了SphereNet 框架。并且框架是理論上近乎完善且非常高效的，從實(shí)際效果上來(lái)看我們的框架可能已經(jīng)是100%覆蓋的了，我們?cè)谶@個(gè)方向上也有了很多的進(jìn)展。
目前，相關(guān)工作已經(jīng)開(kāi)源，設(shè)計(jì)成了“dive into graphs”庫(kù)。
特別的，對(duì)于分子研究應(yīng)用，我們有一個(gè)專(zhuān)門(mén)的庫(kù)叫做“molecule X”。如果你關(guān)注KDD比賽，你會(huì)了解我們是圖形神經(jīng)網(wǎng)絡(luò)計(jì)算領(lǐng)域的領(lǐng)先者之一，我們也參與了AI Cures 針對(duì)Covid-19的開(kāi)放挑戰(zhàn)目前我們?cè)贏UCROC和AUPRC上的成績(jī)都是排名第一。
因此我們的工作主要是開(kāi)發(fā)全新的圖像處理技術(shù)，從而解決基礎(chǔ)科學(xué)領(lǐng)域尤其是量子化學(xué)、量子物理、材料科學(xué)中的問(wèn)題。我的團(tuán)隊(duì)開(kāi)發(fā)了計(jì)算方法、開(kāi)源了軟件庫(kù)并在會(huì)議、期刊中發(fā)表了我們的成果。同時(shí)，我們也參與了多項(xiàng)開(kāi)放挑戰(zhàn)，如KDD杯。
我們的研究人工智能和量子物理的交叉領(lǐng)域，在量子物理中，是以薛定諤方程為基礎(chǔ)的。相應(yīng)的研究花費(fèi)非常昂貴，如果構(gòu)建粒子系統(tǒng)，需要龐大的算力支持才能解決特征值問(wèn)題。但將量子物理與AI計(jì)算結(jié)合起來(lái)，將是一個(gè)非?；馃岬念I(lǐng)域，目前，該領(lǐng)域仍處在探索階段。
雷峰網(wǎng)雷峰網(wǎng)(公眾號(hào)：雷峰網(wǎng))
雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見(jiàn)轉(zhuǎn)載須知。
