前有Facebook“AI”失控，后有Google為“在管理YouTube極端內(nèi)容上，AI比人類更有用”站臺(tái)。

雷鋒網(wǎng)8月2日消息  據(jù)外媒近日?qǐng)?bào)道，谷歌公開表示，將繼續(xù)使用機(jī)器學(xué)習(xí)開發(fā)高級(jí)程序，以打擊極端主義內(nèi)容。經(jīng)過一段時(shí)間的實(shí)測(cè)表明，AI比人類可以更快更精準(zhǔn)的清理YouTube上的非法內(nèi)容。

7月上旬，谷歌正式發(fā)布人機(jī)協(xié)作計(jì)劃——“PAIR”（People + AI Research）。據(jù)雷鋒網(wǎng)了解，該項(xiàng)目由Google Brain的研究員 Fernanda Viégas 和 Martin Wattenberg 領(lǐng)導(dǎo)，二位都是開發(fā)復(fù)雜信息可視化技術(shù)的專家。其目的在于保證AI技術(shù)對(duì)每個(gè)人都有益處，并專注為AI開發(fā)者提供新工具。

而落實(shí)到Y(jié)ouTube上，則為這樣的分工模式。即讓機(jī)器學(xué)習(xí)和人類審查人員分工合作，作為跨部門途徑的一部分，以解決YouTube上的極端主義和爭(zhēng)議性視頻的內(nèi)容傳播。在此其中，還包括為視頻設(shè)立更嚴(yán)格的審核標(biāo)準(zhǔn)，以及聘請(qǐng)更多人力對(duì)需要審核的內(nèi)容進(jìn)行標(biāo)記。

在該計(jì)劃發(fā)布一個(gè)月后，英國(guó)內(nèi)政部部長(zhǎng) Amber Rudd 向美國(guó)科技公司一再呼吁，為打擊極端主義內(nèi)容的興起，大家還需做更多工作。Google旗下YouTube向外表示，該問題利用機(jī)器學(xué)習(xí)系統(tǒng)已經(jīng)得到很大的改善。

YouTube發(fā)言人表示，雖然這些工具并不完美，也并不匹配所有設(shè)置，但是使用過程證明，該系統(tǒng)比人類更能準(zhǔn)確的標(biāo)出需要?jiǎng)h除的視頻。

“最初我們使用機(jī)器學(xué)習(xí)來排除暴力極端主義內(nèi)容，數(shù)據(jù)表明是人類排除數(shù)量的兩倍。而在減少此類內(nèi)容的速度上，機(jī)器同樣是我們的兩倍。過去一個(gè)月內(nèi)，有超過75%的暴力視頻內(nèi)容被清理?！?/p>

該公司表示，YouTube目前在監(jiān)管非法內(nèi)容遇到的一個(gè)問題在于，用戶上傳的內(nèi)容正以每分鐘400小時(shí)的速度進(jìn)行，這項(xiàng)可怕的數(shù)據(jù)將對(duì)實(shí)時(shí)過濾極端主義內(nèi)容產(chǎn)生巨大的挑戰(zhàn)。

YouTube還表示，目前，他們已經(jīng)和15個(gè)NGO和機(jī)構(gòu)合作，包括反誹謗聯(lián)盟、無仇恨言論運(yùn)動(dòng)（the No Hate Speech Movement）和戰(zhàn)略對(duì)話研究所，以提高系統(tǒng)對(duì)這些議題、仇恨言論、激進(jìn)和恐怖主義內(nèi)容的理解，以便更好的處理這些內(nèi)容。

接下來幾周內(nèi)，Google將對(duì)視頻內(nèi)容執(zhí)行更嚴(yán)格的標(biāo)準(zhǔn)，這些視頻可能是令人反感但又不違法的。該公司表示，YouTube上雖然有些視頻內(nèi)容被標(biāo)記為不適當(dāng)，如含有爭(zhēng)議性的宗教主義內(nèi)容等，但其并不違反公司對(duì)仇恨言論或暴力極端主義的政策的，將被置于“被限制的區(qū)間”。

如何處理這些內(nèi)容？一位YouTube發(fā)言人對(duì)此表示，“這些視頻依然會(huì)留在YouTube的插頁式廣告中，不會(huì)被推薦，也不會(huì)有盈利，更不會(huì)有評(píng)論、推薦、喜歡等關(guān)鍵功能?！?/p>

作為預(yù)防激進(jìn)主義的一部分，YouTube也開始對(duì)某些視頻頁面的特定關(guān)鍵詞進(jìn)行重新定向搜索，這些頁面直達(dá)暴力極端主義內(nèi)容。

此外，Google方也表示將繼續(xù)開發(fā)機(jī)器學(xué)習(xí)技術(shù)，并以其他技術(shù)公司合作處理網(wǎng)絡(luò)上的極端主義言論。

Via the guardian，雷鋒網(wǎng)編譯

雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。