AI 與人文共舞！DeepMind 用神經(jīng)網(wǎng)絡(luò)修復(fù)古希臘銘文，登頂Nature最新封面

本文作者：我在思考中

2022-03-11 15:50

導(dǎo)語：歷史的前進(jìn)，從來離不開科學(xué)與人文這兩個車輪。

作者 | 西西

編輯 | 陳彩嫻

今天，人工智能領(lǐng)軍團(tuán) DeepMind 又爆出了一項重要成果：用深度神經(jīng)網(wǎng)絡(luò)修復(fù)古希臘受損的石碑銘文，號稱「Predicting the Past」（預(yù)測過去），在以Nature為首的科學(xué)媒介上掀起了一番熱烈關(guān)注。

他們以古希臘的島嶼名為該模型命名——「Ithaca」（伊薩卡島），以表對古希臘文明的神往。在荷馬史詩《奧德賽》中，伊薩卡島是英雄奧德修斯（Odysseus）的故鄉(xiāng)。傳聞，公元前1183年，國王奧德修斯在特洛伊戰(zhàn)役中取得勝利后，歷經(jīng)十七年的艱險斗爭，戰(zhàn)勝無數(shù)困難，最終回到伊薩卡島，與妻兒幸福團(tuán)聚。

「伊薩卡」也從此成為古希臘文明中「家」的象征。這可能也是 DeepMind 迄今為止被賦予了最浪漫名義的 AI 模型。

在官方推特中，他們也稱，希望能夠「幫助歷史學(xué)家，更好地理解古代歷史」，馬上就收獲了過千的點贊：

AI 與人文共舞！DeepMind 用神經(jīng)網(wǎng)絡(luò)修復(fù)古希臘銘文，登頂Nature最新封面

作為「AI for Science」的著名代表，顯然，DeepMind 祭出的深度神經(jīng)網(wǎng)絡(luò) Ithaca 打破了外界對它的「純理工科」誤解。在官方博客中，DeepMind 也解釋，這次的成果符合他們「實現(xiàn)智能、促進(jìn)科學(xué)與人文發(fā)展」的使命。

Ithaca 是 DeepMind 在「AI for Humanity」（用人工智能研究人文社科）的第一個里程碑。那么，這是否意味著：DeepMind 的野心不僅是「AI for Science」，還有「AI for Humanity」？

科學(xué)與人文從來便是人類文明的兩大黃金分支。歷史的前進(jìn)，從來離不開這兩個車輪。往后回看，Ithaca 的出現(xiàn)，或許正是 AI 進(jìn)軍人文社科的起點。

1

揭開 Ithaca 的神秘面紗

3月9日，Nature最新封面發(fā)布，Ithaca登頂。古老的土黃銘文與酷炫的深藍(lán)編碼交織，完美寫就了 DeepMind與威尼斯 Ca' Foscari 大學(xué)人文系、牛津大學(xué)經(jīng)典學(xué)院和雅典經(jīng)濟(jì)大學(xué)信息系學(xué)者的研究成果：

用神經(jīng)網(wǎng)絡(luò)修復(fù)、破解幾千年前的古希臘銘文，不僅有歷史的滾滾黃塵，還有最新的時代印記——人工智能。

相關(guān)論文也以“Restoring and attributing ancient texts using deep neural networks”為題發(fā)表在了 Nature 上（如下圖）：

AI 與人文共舞！DeepMind 用神經(jīng)網(wǎng)絡(luò)修復(fù)古希臘銘文，登頂Nature最新封面

一個字：秀！?

文字是文明的載體。從兩千多年前開始，古希臘人便在石頭、陶器和金屬上書寫文字，以記錄租約、法律、日歷、神諭等社會生活的內(nèi)容。但由于年代久遠(yuǎn)，許多銘文經(jīng)過風(fēng)雨摧殘，已被損壞，并從原來的位置移走。

在文物修復(fù)一塊，現(xiàn)代的測年技術(shù)（如放射性碳測年）并不能用于研究刻在石頭、陶瓷和金屬等材料上的銘文，使得這些銘文難以解讀或解讀十分耗時。因此，DeepMind 的團(tuán)隊開始思考：是否可以用人工智能幫助歷史學(xué)家解釋銘文？

于是，他們與歷史學(xué)家們合作，推出了 Ithaca——據(jù)稱，這是第一個可以恢復(fù)受損銘文的缺失文本，識別銘文在載體上的初始位置、以確定書寫年限的深度神經(jīng)網(wǎng)絡(luò)。

Ithaca 的架構(gòu)如下：文本的損壞部分用破折號“-”表示；此外，DeepMind 研究團(tuán)隊還人為地破解了字符“δημ”。提供輸入后，Ithaca 會自動恢復(fù)文本，并識別文本的編寫時間和地點。

AI 與人文共舞！DeepMind 用神經(jīng)網(wǎng)絡(luò)修復(fù)古希臘銘文，登頂Nature最新封面

據(jù)介紹，Ithaca 在帕卡德人文學(xué)院（Packard Humanities Institute）最大的希臘銘文數(shù)字?jǐn)?shù)據(jù)集上進(jìn)行訓(xùn)練。

通常來說，自然語言處理模型是使用單詞進(jìn)行訓(xùn)練，因為它們在句子中出現(xiàn)的順序以及單詞之間的關(guān)系提供了額外的上下文背景和含義。但由于許多銘文都處于損壞狀態(tài)，并且經(jīng)常有大塊的文字丟失。因此，為了確保模型適用于文字損失狀態(tài)，他們使用了單詞和單個字符作為輸入來訓(xùn)練。模型核心的稀疏自注意力機(jī)制會并行評估這兩個輸入，以更好地評估銘文。

AI 與人文共舞！DeepMind 用神經(jīng)網(wǎng)絡(luò)修復(fù)古希臘銘文，登頂Nature最新封面

圖注：Ithaca 的輸出。(a) 雅典銘文 (IG II2 116) 中 6 個缺失字符（用「-」表示）的恢復(fù)預(yù)測。綠色的頂部修復(fù)是正確的（συμμαχ?α，「聯(lián)盟」的意思）。注意紅色部分的假設(shè)（?κκλησ?α，「集會」和 προξεν?α，「國家與外國人之間的條約」）常出現(xiàn)在雅典的政治法令中，這也揭示了 Ithaca 對上下文的接受度。(b) Amorgos 銘文的地理歸屬 (IG XII 7, 2)。Ithaca 的頂部預(yù)測是正確的，最接近的預(yù)測是相鄰區(qū)域。(c) Delos 銘文的日期分布 (IG XI 4, 579)?；疑糠质钦鎸嵢掌诠?00-250年，而 Ithaca 的預(yù)測分布為黃色，平均值為公元前 273 年（綠色），準(zhǔn)確率極高。

為了最大限度地發(fā)揮 Ithaca 的價值，DeepMind 團(tuán)隊還創(chuàng)建了許多視覺輔助工具，以確保 Ithaca 的研究結(jié)果容易被歷史學(xué)家解讀：

恢復(fù)假設(shè)：Ithaca 為文本恢復(fù)任務(wù)生成了幾個預(yù)測假設(shè)，供歷史學(xué)家使用他們的專業(yè)知識進(jìn)行選擇。
地理歸因：Ithaca 通過為歷史學(xué)家提供所有可能預(yù)測的概率分布（而不僅僅是單個輸出）來顯示其不確定性。它會返回代表其確定性水平的 84 個不同古代區(qū)域的概率。它在地圖上將這些結(jié)果可視化，以闡明古代世界可能存在的潛在地理聯(lián)系。
年代歸屬：在對文本進(jìn)行年測時，Ithaca 會生成從公元前 800 年到公元 800 年所有十年的預(yù)測日期分布。這可以使歷史學(xué)家對特定日期范圍的置信度可視化，可能會提供有價值的歷史見解。
顯著性映射：為了將結(jié)果傳達(dá)給歷史學(xué)家，Ithaca 使用計算機(jī)視覺中常用的一種技術(shù)來識別哪些輸入序列對預(yù)測的貢獻(xiàn)最大。輸出以不同顏色強(qiáng)度突出顯示導(dǎo)致 Ithaca 預(yù)測缺失文本、位置和日期的單詞。

圖注：這段文字（IG II2 116，Athens 361/0 BCE）記錄了雅典人和色薩利人的聯(lián)盟。通過使用顯著映射，他們可以在恢復(fù)損壞的單詞「alliance」時將 Ithaca 「關(guān)注」上下文重要的詞「Athenians」和「Thessalians」可視化。

據(jù) DeepMind 介紹，經(jīng)評估表明：Ithaca 在恢復(fù)受損文本方面的準(zhǔn)確率達(dá)到了 62%，在識別其原始位置方面的準(zhǔn)確率達(dá)到 71%，并且可以將文本的日期確定在其真實日期范圍的 30 年內(nèi)。

DeepMind 還說：與他們合作的歷史專家在單獨修復(fù)古代文本時準(zhǔn)確率只有 25%，但當(dāng)他們與 Ithaca 合作修復(fù)時時，準(zhǔn)確率提高到了 72%，超過了模型的個人性能，體現(xiàn)出了人機(jī)協(xié)作在歷史解釋、建立歷史事件的相對年代上的優(yōu)勢。

通過 Ithaca，歷史學(xué)家們重新評估了希臘歷史上的多個重要時期。用一個夸張點的說法是：Ithaca 「改變」了歷史；四舍五入，人工智能「改變」了歷史。

圖注：歷史學(xué)家們用 Ithaca 修復(fù)了記錄雅典衛(wèi)城法令的銘文 (IG I3 4B) ，日期為公元前 485/4 年

目前，Ithaca已開源，供歷史學(xué)家們按需使用。

2

進(jìn)一步討論

DeepMind 認(rèn)為，Ithaca 的出現(xiàn)有助于歷史學(xué)家對歷史事實的辯論。

目前歷史學(xué)家們在蘇格拉底等人物生活的時代制定的一系列重要的雅典法令的日期上有爭議。長期以來，人們一直認(rèn)為這些法令是在公元前 446/445 年之前制定的，但新的證據(jù)表明其日期是公元前 420 年代。雖然這些差異看起來很小，但對人類理解古典雅典的政治史至關(guān)重要。