“優(yōu)衣庫(kù)試衣間”視頻之后，北京三里屯的優(yōu)衣庫(kù)儼然已經(jīng)成了朋友圈朝拜的景點(diǎn)之一。這又印證了那個(gè)萬(wàn)古不變的真理：黃賭毒的病毒傳播屬性總是驚人。

不過(guò)，不是說(shuō)好網(wǎng)監(jiān)手伸的又長(zhǎng)又廣嗎？不是說(shuō)好視頻審核很?chē)?yán)格嗎？這樣的視頻是如何在一夜間不斷被刪又不斷流出？

某視頻網(wǎng)站的工作人員告訴雷鋒網(wǎng)編輯，目前他們每天處理的短視頻上傳量在150萬(wàn)左右，而審核人員不超過(guò)50個(gè)，視頻審核的工作一大部分由機(jī)器負(fù)責(zé)。

圖像識(shí)別和聲音識(shí)別都還好說(shuō)，機(jī)器是如何審核視頻的？

入門(mén)級(jí)：MD5

先來(lái)看看國(guó)家不喜歡什么樣的視頻。

在下發(fā)的《網(wǎng)絡(luò)視頻審查管理規(guī)定》中，一共對(duì)十類(lèi)視頻不予審查通過(guò)，大而言之是反對(duì)憲法基本原則的、危害國(guó)家統(tǒng)一、泄露國(guó)家秘密等。

不過(guò)某視頻網(wǎng)站告訴雷鋒網(wǎng)編輯，更接地氣一些的形容是三類(lèi)：色情、暴恐和極端宗教主義。除了規(guī)定所有用戶(hù)自發(fā)上傳的視頻需要進(jìn)行嚴(yán)格審查之外，網(wǎng)監(jiān)還會(huì)對(duì)互聯(lián)網(wǎng)上已經(jīng)發(fā)布的視頻進(jìn)行二次審核?！皡⑴c審核的人數(shù)多到讓你震驚”，某位業(yè)內(nèi)人士這樣告訴雷鋒網(wǎng)編輯。

在中國(guó)，每個(gè)公民都有一個(gè)唯一的身份證號(hào)（ID），通過(guò)這個(gè)ID可以全方位的定位一個(gè)人的年齡、性別、出生地等，同比MD5就是視頻的ID。網(wǎng)監(jiān)有一個(gè)巨大的危險(xiǎn)MD5庫(kù)，庫(kù)內(nèi)藏著各種不能流于世的視頻。視頻網(wǎng)站都需要接入這個(gè)庫(kù)，并在實(shí)際審核中增加自己的庫(kù)存。

在早期，過(guò)濾視頻的第一步就是橫掃整個(gè)庫(kù)，把MD5吻合的視頻直接剔除，并將它提交給公安違禁庫(kù)。

不過(guò)，某短視頻網(wǎng)站的工作人員M告訴雷鋒網(wǎng)編輯，匹配MD5正在逐步棄用，原因在于MD5非常容易被篡改，在視頻中加入文字或者修改任意一幀就能實(shí)現(xiàn)。

于是，出現(xiàn)了更高級(jí)別的審核辦法。

性能級(jí)：機(jī)器審核

通過(guò)MD5之后的視頻，第二步會(huì)經(jīng)歷機(jī)器審核的過(guò)濾。市面上已經(jīng)有成熟的第三方公司提供API接口，輔助視頻網(wǎng)站進(jìn)行機(jī)器審核。

圖普科技的CEO李明強(qiáng)告訴雷鋒網(wǎng)，機(jī)器審核視頻是基于深度學(xué)習(xí)圖像識(shí)別云，實(shí)際也是將視頻截圖，由機(jī)器審核每一張截圖的安全性。不過(guò)具體是3秒截一張還是5秒截一張，松緊度由視頻網(wǎng)站自己控制。

李明強(qiáng)介紹，機(jī)器審核視頻原理是先建模，然后導(dǎo)入海量的違禁視頻，讓多個(gè)機(jī)器同時(shí)進(jìn)行深度樣本學(xué)習(xí)，再標(biāo)注無(wú)法通過(guò)的圖像種類(lèi)，進(jìn)而把這些樣本揉碎、旋轉(zhuǎn)、添加“噪音”，提高機(jī)器識(shí)別能力。這其中拼的不止是技術(shù)，還有樣本圖庫(kù)的大小。據(jù)了解，在圖普科技的樣本庫(kù)中，有超過(guò)1億的色情樣本和千萬(wàn)級(jí)別的極端宗教主義樣本特征。

對(duì)于不能通過(guò)的視頻，機(jī)器審核視頻會(huì)給出兩類(lèi)結(jié)果：確定不能通過(guò)的，這類(lèi)的準(zhǔn)確率幾乎能達(dá)到99.5%以上；僅作參考的，準(zhǔn)確率在95%到97%，這可能意味著該視頻需要再次進(jìn)行人工審核。

據(jù)雷鋒網(wǎng)了解，從整個(gè)行業(yè)來(lái)說(shuō)，機(jī)器基本能篩過(guò)99%的視頻，只有1%需要再次動(dòng)用人工。如果是150萬(wàn)的視頻，那人工只需要審核1.5萬(wàn)個(gè)。

專(zhuān)業(yè)級(jí)：機(jī)器+人工審核

第三方的技術(shù)可以直接拿來(lái)用嗎？M告訴雷鋒網(wǎng)編輯，當(dāng)然不行。拿來(lái)的只是底層，還要把機(jī)器再過(guò)一遍自己的樣本圖庫(kù)，提高機(jī)器的識(shí)別能力。

M介紹，目前視頻網(wǎng)站的審核坐席基本都是7x24小時(shí)工作，在臨近閱兵、六四等重要日子，還要加大審核人員的配置。對(duì)于機(jī)器沒(méi)有通過(guò)的視頻，審核的工作人員會(huì)把其每6秒截圖，一頁(yè)60張圖，一眼掃過(guò)去就可以判別視頻是否真的觸了紅線。

第三方公司還會(huì)提供更加人性化的服務(wù)，例如對(duì)于可能需要人工再次審核的視頻，會(huì)把機(jī)器判定是敏感圖片的截圖放在最靠前的位置，方便工作人員進(jìn)行鑒別。

在機(jī)器和人工審核的雙重過(guò)濾下，目前的視頻網(wǎng)站基本可以實(shí)現(xiàn)上傳視頻一個(gè)小時(shí)內(nèi)給出審核結(jié)果。

攻略若干

M介紹，目前的違禁視頻排除少數(shù)政治原因和個(gè)人信仰之外，以色情居多，而且已經(jīng)形成了完整的經(jīng)濟(jì)鏈條：販賣(mài)色情小電影、勒索和色情裸聊數(shù)不勝數(shù)。有了經(jīng)濟(jì)利益的催動(dòng)，審核的難度會(huì)變大很多。

當(dāng)然，為了減輕審核工作，視頻網(wǎng)站也有很多竅門(mén)，比如新用戶(hù)和高危用戶(hù)的上傳會(huì)優(yōu)先審核，他們是“重點(diǎn)關(guān)注對(duì)象”；明星、大V等賬號(hào)會(huì)被設(shè)置成為信任賬戶(hù)，默認(rèn)他們發(fā)布的視頻不用通過(guò)審核。

漏洞也是有的。目前的視頻審核基本只審核圖像，不審核聲音。這意味著，如果一段視頻用正常的圖像配上違禁的配音，也可以逃過(guò)審查。三星研究院負(fù)責(zé)聲音識(shí)別的工作人員告訴雷鋒網(wǎng)編輯，目前對(duì)聲音的識(shí)別技術(shù)已經(jīng)非常成熟，沒(méi)有將它運(yùn)用到視頻審核中，是因?yàn)閮H用聲音違規(guī)的視頻是少數(shù)，還不成規(guī)模。

在國(guó)內(nèi)，幾乎所有的視頻網(wǎng)站都是“先發(fā)后審”：視頻先發(fā)布，打上網(wǎng)站水印，自己或者關(guān)注自己的好友能夠看到，接著再進(jìn)行審核。因此這也不奇怪，像“優(yōu)衣庫(kù)”中帶著水印的視頻滿(mǎn)天飛了。

最后科普一下，視頻網(wǎng)站除了會(huì)對(duì)發(fā)布違禁視頻的用戶(hù)封號(hào)處理之外，還會(huì)把其IP匯報(bào)給網(wǎng)監(jiān)，據(jù)說(shuō)散布危害國(guó)家安全的視頻判六年。如果你有個(gè)朋友突然消失了，你們感受感受。

雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見(jiàn)轉(zhuǎn)載須知。