雷鋒網(wǎng)消息 根據(jù)MIT和Google研究人員近期發(fā)表的論文，他們正在訓(xùn)練AI將圖像、聲音和文字等多方面信息匹配起來。

在語音識別、圖像識別以及下圍棋等單項能力方面，AI已經(jīng)足夠出色，甚至超越了人類。但是如果AI一次只能使用一種感知能力，無法將看到和聽到的內(nèi)容進行匹配的話，就無法徹底理解周圍的世界。這正是MIT和Google的研究人員進行這項研究原因。

研究人員并沒有教給算法任何新東西，只是建立了一種方式讓算法能夠?qū)⒍喾N感官獲得的知識進行連接和協(xié)調(diào)。這一點至關(guān)重要。

論文的聯(lián)合作者之一——MIT的AI博士后Yusuf Aytar以無人車為例：比如無人車的聲音傳感器先聽到了救護車的聲音，然后激光雷達才看到救護車的樣子。有關(guān)救護車的鳴叫聲、樣子以及職能的知識可以讓無人車放慢速度，切換車道，為救護車讓路。

他說道：“你是先看到汽車還是先聽見引擎聲并沒有關(guān)系，你馬上能識別出這是同一個概念。因為你大腦中的信息已經(jīng)自然地把它們協(xié)調(diào)統(tǒng)一起來了?！?/p>

為了訓(xùn)練這套系統(tǒng)，MIT的研究小組首先向神經(jīng)網(wǎng)絡(luò)展示了與音頻相關(guān)的視頻幀。在神經(jīng)網(wǎng)絡(luò)發(fā)現(xiàn)視頻中的對象并且識別出特別的音頻之后，AI就會嘗試預(yù)測哪一個對象跟聲音關(guān)聯(lián)。比方說，招手會不會發(fā)出聲音呢？

接下來，研究人員又以相同的形式為算法提供了帶標(biāo)題的圖片，讓它將文字和圖片進行匹配。網(wǎng)絡(luò)首先需要單獨識別出圖中所有的對象以及相關(guān)問題，然后才能進行匹配。

由于AI獨立識別聲音、圖像、文字的能力已經(jīng)十分出色，這種網(wǎng)絡(luò)乍看之下并沒有什么了不起。但研究人員表示，當(dāng)他們對AI進行聲音/圖像、圖像/文字的配對訓(xùn)練時，系統(tǒng)就能在未經(jīng)訓(xùn)練指導(dǎo)哪個單詞與不同聲音匹配的情況下將聲音與文字關(guān)聯(lián)起來。這表明神經(jīng)網(wǎng)絡(luò)對于所看到的、聽到的或者讀到的東西已經(jīng)形成了更加客觀的看法，而且這種看法的形成并不完全依賴于它用來了解這一信息的媒介。

統(tǒng)籌對象的觀感、聽覺以及文字后，算法就能自動將聽到的東西轉(zhuǎn)化為視覺圖像，從而強化對于世界的理解。

據(jù)悉，Google也進行了類似的研究，不過Google更加強調(diào)一點：新算法還能將文字轉(zhuǎn)化成其他的媒體形式，雖然從準確率上來說，它暫時還比不上單用途的算法。

雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。