0
雷鋒網(wǎng)按：今年4月，對于互聯(lián)網(wǎng)內(nèi)容公司來說是多事之秋。4月4日，快手和火山小視頻兩家平臺被廣電總局約談并進行內(nèi)部清查整頓。9日，今日頭條與鳳凰新聞、網(wǎng)易新聞、天天快報等新聞類APP被做下架處理，其中，今日頭條的下架時間最長，達到3周。10日，《奇葩大會》第2季視頻全面下架，廣電總局責令永久關停內(nèi)涵段子。
4月6日，快手在某招聘網(wǎng)站發(fā)布的招聘信息顯示，為了加強審核能力與內(nèi)容上傳量的匹配，快手將在現(xiàn)有2000人的審核團隊基礎上，擴招3000名審核人員，將審核人員的規(guī)模擴充到5000人。此前的1月3日，今日頭條在招聘網(wǎng)站上發(fā)布了有關內(nèi)容審核編輯的招聘信息，擬招聘2000人的內(nèi)容審核團隊，同時今日頭條方面也表示，這個數(shù)據(jù)還會持續(xù)增加，預計很快突破10000人。
監(jiān)管逐漸趨嚴，對網(wǎng)絡低俗、色情、暴力內(nèi)容零容忍、嚴整頓，網(wǎng)絡內(nèi)容平臺亟需有效措施解決內(nèi)容審核方面的漏洞。
5月29日，為了幫助直播和短視頻平臺適應加強的內(nèi)容審核需求，通過圖像識別來進行內(nèi)容審核的人工智能公司圖普科技發(fā)布“高召回·識低俗·懂視頻”的內(nèi)容審核2.0新產(chǎn)品。雷鋒網(wǎng)來到發(fā)布會現(xiàn)場，試圖了解這款產(chǎn)品如何利用人工智能技術過濾低俗內(nèi)容。
據(jù)雷鋒網(wǎng)了解，傳統(tǒng)的圖像審核方式主要有三種：一是純?nèi)斯徍恕Ｆ髽I(yè)員工“三班倒”工作，人眼鑒別該圖片或視頻是否違規(guī)。二是建立MD5數(shù)據(jù)庫。網(wǎng)監(jiān)建立存儲違規(guī)圖片、視頻的MD5數(shù)據(jù)庫，用戶上傳后自動分析MD5是否合法，則可避免涉黃內(nèi)容重復分享。三是傳統(tǒng)的智能審核。如識別色情圖像，基本是通過圖片RGB值識別膚色比例、通過建模識別異常動作、敏感部位等。
但是三種審核方式都存在較大漏洞：“三班倒”的人工容易導致審核效率低、誤判漏判多等主觀性問題；MD5則非常容易被篡改；傳統(tǒng)智能識別色情圖片準確率低、經(jīng)常誤報等。而以圖普科技為代表的互聯(lián)網(wǎng)圖像內(nèi)容審核專家，基于人工智能與圖像識別技術領域的深度學習算法，通過模擬人腦神經(jīng)網(wǎng)絡構建模型，能夠對高復雜度數(shù)據(jù)形成良好解讀。通過大數(shù)據(jù)持續(xù)訓練、頻繁迭代，圖普科技的圖像識別云平臺的內(nèi)容審核產(chǎn)品的精確度達到99.5%，節(jié)省超過90%的人工復審工作。
發(fā)布會上，秒拍平臺副總裁陳太鋒表示：“面對目前嚴格的內(nèi)容審核需求，我們平臺方不僅僅需要準確地識別違規(guī)內(nèi)容的審核服務，更需要能把所有疑似違規(guī)內(nèi)容都識別全的服務。因為任何一條漏網(wǎng)視頻帶來的后果，我們平臺方都是難以承受的。”
2017年短視頻出現(xiàn)，成為了新的UGC載體。隨著視頻數(shù)量的劇增、違規(guī)場景的變化，監(jiān)管方對內(nèi)容合規(guī)要求也在不斷調整，因此對平臺運營的要求也原來越高。據(jù)了解，今年3月，某短視頻平臺累計清理27231條違規(guī)視頻，8921個音頻，89個挑戰(zhàn)，永久封禁15234個賬號。
據(jù)圖普科技CEO李明強介紹，圖普科技的內(nèi)容審核2.0，使用更加成熟的深度學習技術，在1.0產(chǎn)品高召回率的基礎上，具備識別低俗內(nèi)容功能，能夠讀懂視頻，幫助平臺提高審核效率，過濾低俗、色情、暴力等內(nèi)容。根據(jù)內(nèi)容安全管理相關部門的規(guī)定，將低俗內(nèi)容分為四個分類維度：危險性行為、成癮性行為、涉嫌低俗場景、特殊人群，幫助平臺確保不出現(xiàn)淫穢色情、兇殺暴力等有害內(nèi)容，不傳播低俗惡俗內(nèi)容。
圖普科技內(nèi)容審核2.0產(chǎn)品除了擁有低俗內(nèi)容審核功能之外，還借助AI技術深度賦能，通過人物屬性、人物行為、場景識別、物體識別等四個維度來提取視頻內(nèi)容，幫助平臺方高效細分視頻內(nèi)容，助力平臺精細化運營。同時借助該功能，平臺可以進行智能視頻檢索和比對，實現(xiàn)經(jīng)典視頻防篡改、版權視頻受保護、敏感視頻可檢索。
據(jù)其官網(wǎng)介紹，圖普科技是一家基于深度學習技術解讀圖片和視頻內(nèi)容的人工智能科技公司，提供圖像內(nèi)容審查服務，包括鑒黃、鑒暴、政治敏感、廣告過濾、直播監(jiān)控、頭像審核等，在2014年初創(chuàng)建并開放了提供各類圖像識別能力的云服務平臺，目前圖普云平臺涵蓋黃暴識別、人臉識別、證件識別、場景識別、圖像風格化等數(shù)十種圖像識別接口，日均圖像接口調用數(shù)億次，累計處理超過1000億圖像，是較早將人工智能成功商業(yè)化落地的企業(yè)。合作方包括映客、秒拍、今日頭條、唱吧、酷狗、花椒直播等數(shù)百家互聯(lián)網(wǎng)企業(yè)和政企機構。
現(xiàn)在關注“雷鋒網(wǎng)”微信公眾號（leiphone-sz），回復關鍵詞【2018】，隨機抽送價值 3999 元的參會門票 3 張
雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權禁止轉載。詳情見轉載須知。
