0
昨天是各位老司機、福利姬的末日，因為美國著名博客網(wǎng)站Tumblr在當(dāng)天突然出臺了新的政策決定——Tumblr將全面禁止出現(xiàn)任何成人內(nèi)容，新規(guī)定將于12月17日正式施行。
這不是天經(jīng)地義的事情嗎，有何可大驚小怪的？
和多數(shù)人心中對“和諧社區(qū)”的定義不同，在新規(guī)定發(fā)布之前，Tumblr這個以年輕人為中心的社交網(wǎng)絡(luò)平臺以收容大量的色情內(nèi)容（主要為文章、靜態(tài)圖和Gif圖）而聞名全球。
社交網(wǎng)站Tumblr截圖
Tumblr 創(chuàng)始人 David Carp 曾表示，色情相關(guān)的內(nèi)容，占據(jù)了該網(wǎng)站流量的2-4個百分點。2012年，一份當(dāng)月刊發(fā)的意大利研究報告顯示，這一數(shù)字正迅速增長，甚至有近半網(wǎng)友遇到過避無可避的成人內(nèi)容，而對此評論Tumblr未做出任何的回應(yīng)。
時至今日，在雅虎旗下的這家社交網(wǎng)站上，盡管只有超出0.1% 的賬戶在出產(chǎn)色情內(nèi)容，但卻有22%，甚至更高的用戶關(guān)注、點贊、或轉(zhuǎn)發(fā)了上述賬號的內(nèi)容。有研究指出，正是這種“分享”行為，導(dǎo)致另外28.5%的 Tumblr用戶無意間接觸到了色情暴露內(nèi)容。
俗話說得好，常在河邊走，哪有不濕鞋？
雷鋒網(wǎng)獲悉，就在兩周前，蘋果公司將Tumblr軟件從其應(yīng)用程序商店中刪除，原因是其檢測和刪除兒童色情的自動化系統(tǒng)出現(xiàn)故障。而從類型上來看，盡管在Tumblr上也能看到類似天文地理歷史科學(xué)的各種“小清新”內(nèi)容，但相比前者來說只能是冰山一角罷了。
至此，Tumblr啟動了AI鑒黃計劃，并在聲明中鄭重表態(tài)要將成人內(nèi)容“趕盡殺絕”。
Tumblr CEO Jeff D’Onofrio在聲明中表示，Tumblr的AI鑒黃計劃并不是指要禁止裸體政治抗議或大衛(wèi)雕像。這個操作要求AI具備極強的成人內(nèi)容識別能力，同時也依靠人類幫助訓(xùn)練和控制系統(tǒng)。
簡單來說，Tumblr希望打造一個可以識別裸體女性但同時又不會將裸體女性塑像誤認(rèn)為是成人內(nèi)容的人工智能系統(tǒng)。盡管這對人來說是一件再簡單不過的事，但對于AI來說其難度則是達(dá)到了“雞蛋里挑骨頭”的級別。
換做你是AI，看到這種場景有木有想罵街的沖動？
說到這里，想必會有人問了：“Why？”
實際上，AI識別圖像的過程分為信息的獲取、預(yù)處理、特征抽取；選擇、分類器設(shè)計；分類決策三大塊。在第一部分中，AI將圖片中的特征點提取出來，并通過數(shù)據(jù)匹配來獲取到它的屬性，并最終生成判定。
也就是說，除了成人內(nèi)容相關(guān)的敏感詞匯、特征點的抓取，要想讓AI將真人與雕塑區(qū)分開就需要在此基礎(chǔ)上再對特征點的材質(zhì)等特征做出匹配。難點在于，初期AI只能按照指定的幾個“標(biāo)簽”分析圖片類型，對于圖片中的物體是肉體還是大理石、是塑料還是泡沫......這種問題是無法做出精確分析的。
簡單的智能系統(tǒng)更無法像人一樣立刻在隨機的圖片中找到哪些標(biāo)簽應(yīng)該衡量，哪些不值得衡量。將這一問題對應(yīng)在Tumblr的鑒黃計劃中，其解決問題的唯一辦法就是盡可能全面地抓取圖片、文字中的特征點，而這對于系統(tǒng)而言必將承受巨大負(fù)荷。
特征點識別
如何避免這樣的惡循環(huán)怪圈？對此，Tumblr CEO Jeff D’Onofrio表示，公司不斷加大投資推動此政策的實施，包括符合行業(yè)標(biāo)準(zhǔn)的機器監(jiān)控、不斷壯大的人類仲裁團隊以及便于舉報濫用行為的用戶工具。通過讓更多的用戶以及相關(guān)人員參與其中，Tumblr希望通過人工智能的學(xué)習(xí)能力來逐步培養(yǎng)AI鑒黃系統(tǒng)獲得精準(zhǔn)的篩選能力。
而除了人工合作之外，針對以上問題雷鋒網(wǎng)也曾在名為《世界最大黃網(wǎng)要用 AI “鑒黃”，還號稱要讓鑒黃師下崗》的文章中向圖普科技運營總監(jiān)姜澤榮提出了疑問，他的回答是：“如果是一個1.5小時的視頻，一秒一張截圖，在上述數(shù)量視頻的基礎(chǔ)上足以訓(xùn)練出效果尚可的模型?！?/p>
由此來看，盡管Tumblr的識別對象是圖片和文字，但對于如此量級的社交網(wǎng)站（也不止這一家在做類似的事）來說訓(xùn)練出“可用”的AI鑒黃系統(tǒng)自然是不在話下。
既然不在話下，為啥還任重道遠(yuǎn)？
從目前效果來看，盡管聲明中Tumblr明確提出會著重訓(xùn)練AI在性取向言論和色情內(nèi)容方面的篩選能力，以便避免前者被認(rèn)為是不當(dāng)內(nèi)容屏蔽掉。但有反饋稱被錯誤禁止的內(nèi)容甚至包括加菲貓的圖片，蝙蝠俠吃法蘭克福的圖片和電視廚師戈登·拉姆齊胸前拿著一塊米糕并稱之為“隆胸”的圖片。
AI：Emm~這只喵長得灰常少兒不宜，屏蔽！
紐約自由攝影師勞拉·湯普森表示，我不得不手動申訴團隊解鎖這些圖片，雖然我貼在網(wǎng)站上的標(biāo)簽確實是“色情”（如“食品色情”）但顯然它們和色情無關(guān)。
從成本方面看，Tumblr的社交網(wǎng)站屬性讓內(nèi)容量變得源源不斷，這就需要AI鑒黃系統(tǒng)具備強大的GPU運算能力，高速端對端圖像處理速度以及較高的帶寬標(biāo)準(zhǔn)。在雷鋒網(wǎng)名為《AI 會讓鑒黃師失業(yè)嗎？》的文章中曾提到：“算力方面，原本千萬級別的樣本在GPU為單機單卡的情況下訓(xùn)練時間要接近一個月，而僅10000張圖片里面往往有一張屬于色情圖片，為了識別出這張圖片，AI掃描的成本即為10000次”。由此可見，AI鑒黃確是一項費錢費力的大工程。
從風(fēng)險系數(shù)看，AI鑒黃計劃執(zhí)行的同時也伴隨著各種其他風(fēng)險。首先，針對用戶屬性的AI鑒黃師必須要盡量全面的獲取到用戶在平臺上的各類數(shù)據(jù)，而誰都無法擔(dān)保這些數(shù)據(jù)最終會流向何處（盡管大家都說“我們是絕對安全的”）。
3月16日，F(xiàn)acebook被曝在2014年有超過5000萬名用戶資料遭“劍橋分析”公司非法用來發(fā)送政治廣告，此次事件曝光后Facebook 僅在一天之內(nèi)市值蒸發(fā)60億美元（約合人民幣380億元）。盡管直到目前Facebook仍因此事深陷動蕩局勢之中，但其CEO馬克·扎克伯格卻在多次聽證會議上否定了公司存在有意侵犯用戶隱私并參與到相關(guān)交易中的行為。
在真相浮出水面之前我們不知道真相究竟是什么，但這足以證明——當(dāng)你試圖開始收集并利用用戶信息達(dá)成某些目的時，一旦出事，即使你渾身張嘴也別想洗刷清白。
短期效果、長期成本以及風(fēng)險系數(shù)，對于Tumblr來說，AI鑒黃系統(tǒng)不同于某成人視頻網(wǎng)站，它除了要有效篩選成人向內(nèi)容，還要從中將正常性談?wù)摵Y選出來推薦給大家，如果給做這件事情的難度打個分，我給五顆星！
可見，Tumblr的AI鑒黃計劃可謂是任重而道遠(yuǎn)，而現(xiàn)在我們看到的僅是一條規(guī)定，一切將在12月17日見分曉。
雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。
