圖片來源：yotovr

自從被外界批評不足以應付極端主義之后，F(xiàn)acebook發(fā)言人周四首次向外公布使用AI來遏制和消除恐怖主義內(nèi)容的進展情況。

Facebook全球政策管理總監(jiān)Monika Bickert和反恐怖主義政策經(jīng)理Brian Fishman日前在一篇文章中表示，F(xiàn)acebook將利用AI來檢測有關(guān)恐怖主義的視頻或內(nèi)容信息。在發(fā)現(xiàn)之后，F(xiàn)acebook將立馬刪除相關(guān)內(nèi)容，以阻止它們出現(xiàn)在網(wǎng)站上。

“目前，我們正集中利用AI的先進技術(shù)都打擊與ISIS、基地組織及其相關(guān)的恐怖主義內(nèi)容。在適當?shù)臅r候，我們希望能將其擴及其他恐怖組織。”Facebook兩位發(fā)言人對此表示，“當有人試圖上傳恐怖照片或視頻時，我們的系統(tǒng)會將其與ISIS的宣傳視頻或者在Facebook上出現(xiàn)的其它極端圖片和視頻進行自動匹配，一旦匹配符合，則會立馬刪除這些內(nèi)容。”

除此之外，F(xiàn)acebook還在進行相關(guān)實驗，對網(wǎng)站上恐怖分子可能使用的語言進行解析。對此前被Facebook禁用的賬戶，F(xiàn)acebook也將加緊它們被重新啟用的管控，并在線識別和刪除恐怖主義支持者群集。Facebook還表示，準備擴大技術(shù)的應用范圍，用在其它App中，包括WhatsApp 和 Instagram。

然而在反恐問題上，技術(shù)還不能完全解決問題，還需要人工來處理一些特定狀況。雷鋒網(wǎng)了解到，F(xiàn)acebook為此還成立了反恐團隊，該部門目前已有150名人員，職位有檢查官、工程師、執(zhí)法人員不等。同時，F(xiàn)acebook還與其它一些機構(gòu)和組織合作，也會定期與執(zhí)法機關(guān)和政府合作。據(jù)雷鋒網(wǎng)了解，去年12月，F(xiàn)acebook與其它科技企業(yè)合作，包括Twitter、微軟、谷歌旗下YouTube，創(chuàng)建了一個行業(yè)數(shù)據(jù)庫，以記錄恐怖分子的數(shù)字指紋。

就在5月初，F(xiàn)acebook還向外透露，明年將雇傭3000+的員工，以處理網(wǎng)站上出現(xiàn)的不良內(nèi)容，還將加大力度刪除涉及謀殺、自殺及其它暴力行為的視頻。 在這個宣告之前，一名兇手利用Facebook直播了殺人過程，該事件性質(zhì)極其惡劣，也將Facebook推向了風口浪尖，外界又一次對其在極端主義事件的無力進行了討伐。

距離上一次的討伐，尚不足一年，不過上次討伐的地點直接出現(xiàn)在法庭上。雷鋒網(wǎng)查閱的資料顯示，去年7月，在一起恐怖主義襲擊案中，受害人代表律師以“Facebook允許隸屬于恐怖組織哈馬斯的巴勒斯坦激進分子使用其服務來策劃恐怖襲擊活動，造成4名美國人喪生和1名美國人受傷的慘劇”為由，將Facebook告上了法庭，并向其提出10億美元的賠償。

雖然在該起案件中，F(xiàn)acebook被起訴的理由在法律上站不住腳，但這也推進了Facebook對反恐的重視和投入。于是，就有了今日Facebook發(fā)言人向外宣布的進展和成果。

值得注意的是，隨著社交媒體影響力的擴大，F(xiàn)acebook目前的月活用戶已接近20億。如此量級，必然會滋生內(nèi)容審查上的諸多問題。更別說還有許多假新聞、暴力、謀殺等內(nèi)容。

當然，選擇用AI技術(shù)對恐怖主義內(nèi)容進行圖片匹配，已經(jīng)是扎克伯格在2月份發(fā)布的Facebook前景信中的一個進展。當時，扎克伯格稱，F(xiàn)acebook正在研發(fā)AI系統(tǒng)，可自行閱讀文本、查看照片和視頻。但該系統(tǒng)當時還處在發(fā)展初期，尚有一些潛在問題。

以此為例，我們能看到Facebook利用AI解決反恐的步調(diào)和決心，這也將激發(fā)其他科技巨頭在這一塊的行動。正如那句話所說，科技發(fā)展的終極是讓世界變得更加美好。

雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。