0
| 本文作者： 溫曉樺 | 2016-04-18 17:02 |
言論自由的邊界是如何在一個(gè)高風(fēng)險(xiǎn)公共領(lǐng)域的爆炸性增長(zhǎng)時(shí)期中成立起來的？
今天，YouTube的十幾億用戶大約每分鐘上傳400小時(shí)的視頻。同時(shí)在每小時(shí)里，Instagram用戶送出1.46億個(gè)“贊”，Twitter用戶共發(fā)送2100萬條推訊。去年8月，馬克·扎克伯格在Facebook上表示，該網(wǎng)站到達(dá)了“一個(gè)重要的里程碑：Facebook首次實(shí)現(xiàn)一天之內(nèi)有十億人使用Facebook”。
但是，在面對(duì)自由與管制的問題上，這些平臺(tái)的內(nèi)容過濾機(jī)制——時(shí)常處于企業(yè)利益、社交責(zé)任、基本人權(quán)等問題之間權(quán)衡的迷之困惑當(dāng)中。事實(shí)上，我們所迷戀的西方言論自由，背后有我們看不見的機(jī)制。
2006年夏天的某個(gè)日子，朱莉·莫拉·布蘭科永遠(yuǎn)記得這天：這個(gè)日子她落實(shí)了新的工作。莫拉·布蘭科是當(dāng)時(shí)加州州立大學(xué)奇科分校的應(yīng)屆生，主修藝術(shù)，輔修女性主義研究，而且她大部分空間時(shí)間都在搗騰雕塑。在跳槽到互聯(lián)網(wǎng)創(chuàng)業(yè)公司YouTube前，布蘭科在時(shí)事電視臺(tái)（Current TV）從事后期制作，每天為著沉重的房租奮斗。她想，也許，她可以在賺足了錢然后去追求她一生的夢(mèng)想：成為一名發(fā)型設(shè)計(jì)師。
那是一個(gè)溫暖、陽光明媚的早晨，她坐在公司辦公室里——公司坐落于圣馬特奧市，舊金山里田園牧歌式的富裕區(qū)。Mora-Blanco是60多個(gè)二十幾歲在這家仍未實(shí)現(xiàn)盈利的網(wǎng)站中工作的人之一。
布蘭科的團(tuán)隊(duì)——一共10個(gè)人——被稱為“SQUAD隊(duì)”（Safety, Quality, and User Advocacy Department：安全、質(zhì)量和用戶宣傳部門）。他們團(tuán)隊(duì)一般工作四到六天，部分時(shí)間實(shí)行輪班，晚上他們就一起審閱視頻。他們的職責(zé)是什么？過濾網(wǎng)站上被用戶標(biāo)記的攻擊性或惡意的內(nèi)容，維護(hù)YouTube這個(gè)羽翼未豐的品牌?；蛘呷绮继m科所說的。YouTube創(chuàng)始人希望YouTube能夠成為一個(gè)新銳的網(wǎng)站——一個(gè)屬于所有人的地方——而不是另一個(gè)eBaum。
面對(duì)一條條標(biāo)簽：刪除虐待動(dòng)物的視頻、刪除血腥視頻、刪除黃色電影……等等，布蘭科經(jīng)常和同事Misty Ewing·Davis拿這些標(biāo)簽開玩笑。“你必須要自找幽默，要不然真的太痛苦了?！?/p>
出現(xiàn)在電腦屏幕上的視頻永無休止。大概4秒鐘，SQUAD小隊(duì)的成員大概看完一屏的視頻然后選擇“批準(zhǔn)”——同意上傳到網(wǎng)站；“拒絕”則是——?jiǎng)h除該視頻，但不懲罰上傳者；“打擊”——?jiǎng)t是不僅刪除，還將對(duì)上傳賬戶采取一定禁止措施。點(diǎn)擊、點(diǎn)擊、點(diǎn)擊……但某一天，一些事情改變了布蘭科的發(fā)展軌跡。
“噢，天啊！”對(duì)于那個(gè)早上看到的東西，布蘭科如今還心有余悸。不過最后她還是回憶了起來，她說，她看到視頻中一個(gè)蹣跚學(xué)步的孩子在一個(gè)昏暗的房間，里面發(fā)生了駭人聽聞的暴力。
Ewing-Davis冷靜地幫助布蘭科點(diǎn)擊“打擊”，停用了該賬戶，并報(bào)告了組長(zhǎng)。然后，該信息將會(huì)被發(fā)送至檢舉中心——一個(gè)由國(guó)家失蹤和受虐兒童中心(NCMEC)于1998年發(fā)起的報(bào)告系統(tǒng)。兒童虐待的鏡頭是法律明確禁止的行為。
這個(gè)視頻是消失了，但下一個(gè)又來了。
是的，這就是你的工作。布蘭科和Ewing-Davis在街上踱來踱去，思索著：對(duì)的，你總會(huì)看到些不好的東西。
大約過了十年，那個(gè)兒童受虐的視頻仍然困擾著布蘭科?！霸谖业哪X海里，那個(gè)畫面還時(shí)常浮現(xiàn)?！薄拔覍?duì)職業(yè)生涯沒有很多的規(guī)劃，當(dāng)時(shí)25歲還年輕的我，還在為薪酬感到高興，卻從未想過遭遇如此之黑暗沉重?！?/p>
布蘭科是十幾個(gè)接受The Verge采訪的來自YouTube、Facebook等主流互聯(lián)網(wǎng)平臺(tái)的前任或現(xiàn)任員工之一，他們?cè)诮邮懿稍L時(shí)，都談到了內(nèi)容審核造就的“互聯(lián)網(wǎng)黎明”。他們當(dāng)中大多數(shù)人都是第一次公開他們的經(jīng)歷，他們的故事揭示了言論自由的邊界是如何在一個(gè)高風(fēng)險(xiǎn)公共領(lǐng)域的爆炸性增長(zhǎng)時(shí)期中成立起來的。如法學(xué)教授許多年前首次提到的：“Facebook這一類平臺(tái)擁有比世界各地任何一名最高法院法官、國(guó)王或總統(tǒng)更多的‘決定誰能發(fā)言、誰的發(fā)言被聽見的權(quán)利’。”也就是說，它們?yōu)槊癖妿砀蟮脑捳Z權(quán)。
YouTube于2005年2月15日注冊(cè)，由華裔（臺(tái)灣）美籍華人陳士駿、查德·赫利 （Chad Hurley）、喬德·卡林（Jawed Karim）創(chuàng)立。2006年11月，Google公司以16.5億美元收購(gòu)了YouTube，并把其當(dāng)做一家子公司來經(jīng)營(yíng)。
YouTube成為在線視頻之王并不容易，創(chuàng)立之初，這三個(gè)二十多歲的年輕人是非常的挫敗，因?yàn)榧夹g(shù)上他們沒有簡(jiǎn)單的方法來分享兩個(gè)特別引人注目的視頻：2004年那場(chǎng)摧毀東南亞的海嘯剪輯和Janet Jackson的超級(jí)碗“服裝事故”。2005年4月，他們進(jìn)行了第一次上傳測(cè)試。到了10月份，他們發(fā)布了第一個(gè)點(diǎn)擊量過百萬的熱點(diǎn)視頻：這段視頻是耐克的廣告，展示的是巴西足球明星Ronaldinho領(lǐng)取“金靴”的場(chǎng)景。幾個(gè)星期之后，Google斥資16.5億美元收購(gòu)了這家視頻分享網(wǎng)站。當(dāng)時(shí)Google稱其為“互聯(lián)網(wǎng)革命的下一階段”，此時(shí)YouTube已經(jīng)有65名員工。這個(gè)時(shí)候，布蘭科獲得了晉升：內(nèi)容策略分析師。到2006年中期，YouTube用戶每天在線觀看的視頻超過1億個(gè)。
YouTube誕生初期，該網(wǎng)站吸引了一小部門專門共享關(guān)于家庭和朋友生活的視頻。但隨著網(wǎng)站的爆發(fā)式擴(kuò)張，內(nèi)容主題也多樣起來，甚至充斥著大量危害社會(huì)的內(nèi)容：商業(yè)電影和音樂的剪輯視頻被上傳，同時(shí)有大量的業(yè)余和專業(yè)的色情。慢慢地，虐待兒童、毆打和虐待動(dòng)物的視頻也隨之出現(xiàn)。到了2007年底，YouTube承諾遵守著作權(quán)法，并創(chuàng)建一個(gè)專門負(fù)責(zé)內(nèi)容審核的小組。但篩選惡意內(nèi)容比想象中要復(fù)雜，首先它需要密集的人類勞動(dòng)。
于是，就有了上述“SQUAD隊(duì)”的工作了。他們?yōu)閮?nèi)容審核創(chuàng)造了一系列的標(biāo)準(zhǔn)，其中簡(jiǎn)單地說就是“這個(gè)視頻能夠分享給家人嗎？”大多數(shù)情況下他們都是各自獨(dú)立，部分具有爭(zhēng)議性地則交給創(chuàng)始人來決斷。慢慢地，他們便形成了一個(gè)行業(yè)內(nèi)尚未出現(xiàn)過的工作領(lǐng)域：專業(yè)的內(nèi)容審核。（作者可能不知道天朝有廣電局）
到了2006年秋季，與 SQUAD一起處理數(shù)據(jù)和視頻插圖的YouTube律師、審核政策主導(dǎo)者為該團(tuán)隊(duì)制定了一個(gè)長(zhǎng)達(dá)六頁(yè)的規(guī)則小冊(cè)子，然后每隔幾周還更新一次。沒有政策定義，這個(gè)即興創(chuàng)作的小團(tuán)隊(duì)未曾領(lǐng)會(huì)到，他們實(shí)際在研發(fā)了一個(gè)關(guān)于言論自由的新全球標(biāo)準(zhǔn)。
2009年夏天，伊朗示威者涌上街頭，抗議內(nèi)賈德當(dāng)局在選舉中舞弊。此次抗議被稱為“綠色運(yùn)動(dòng)”，是伊朗革命歷史上最重要的政治事件之一。在這場(chǎng)大規(guī)?？棺h和騷亂中，互聯(lián)網(wǎng)成為示威者傳遞信息、發(fā)泄不滿和積聚外界同情的重要渠道。個(gè)人博客、Twitter、Facebook等成為示威者交流的重要方式；Youtube、Flickr等成為向國(guó)際媒體反映德黑蘭街頭實(shí)景的首選載體。而布蘭科和她的團(tuán)隊(duì)，監(jiān)控著許多被上傳到Y(jié)ouTube的抗議視頻。
7月20日，該團(tuán)隊(duì)收到一段視頻：這是一位業(yè)余攝影師拍攝并上傳到Y(jié)ouTube上的一段視頻。視頻拍攝于總統(tǒng)大選抗議活動(dòng)中的伊朗街頭，記錄了一位名叫Neda Agha-Soltan的女子胸部中彈后死亡在大街上的經(jīng)過。畫面中這個(gè)26歲的女孩血液從眼睛冒出，她生命中最后的而且是可怕的時(shí)刻被記錄了下來。
這個(gè)視頻上傳后數(shù)小時(shí)內(nèi)，它都成為布蘭科和團(tuán)隊(duì)關(guān)注的焦點(diǎn)。根據(jù)她的回憶，他們的政策指導(dǎo)并沒有任何有關(guān)“構(gòu)成了新聞價(jià)值”的指引，或者說，在本質(zhì)上構(gòu)成了新聞倫理。但她知道視頻所具有的政治意義，也意識(shí)到他們的決定將能給她的犧牲帶來貢獻(xiàn)。
布蘭科和團(tuán)隊(duì)最終決定保留該視頻。后來，該視頻引發(fā)了全球范圍的言論自由與人權(quán)的對(duì)話——它有巨大的政治影響力。他們有巨大的政治權(quán)力。
隨后，SQUAD政策團(tuán)隊(duì)迅速與法律部門合作，決定放寬其無端的反暴力政策，匆忙創(chuàng)立起一個(gè)“豁免新聞”的標(biāo)準(zhǔn)。如今這段視頻被廣泛轉(zhuǎn)載，全球都可以目睹這個(gè)擁護(hù)民主的抗議者的壯舉。后來該視頻還獲得了荷賽獎(jiǎng)。
今天，YouTube的十幾億用戶大約每分鐘上傳400小時(shí)的視頻。同時(shí)在每小時(shí)里，Instagram用戶送出1.46億個(gè)“贊”，Twitter用戶共發(fā)送2100萬條推訊。去年8月，馬克·扎克伯格在Facebook上表示，該網(wǎng)站到達(dá)了“一個(gè)重要的里程碑：Facebook首次實(shí)現(xiàn)一天之內(nèi)有十億人使用Facebook”。
在面對(duì)自由與管制的問題上，這些平臺(tái)的內(nèi)容過濾機(jī)制——時(shí)常處于企業(yè)利益、社交責(zé)任、基本人權(quán)等問題之間權(quán)衡的迷思當(dāng)中——它們對(duì)言論自由、政府異議、社會(huì)規(guī)范的形成、用戶安全 、隱私的意義有重大的影響。哪些內(nèi)容應(yīng)該被刪除？誰來決定內(nèi)容的去與留？什么是新聞價(jià)值？威脅？傷害？當(dāng)涉及到法律實(shí)施嗎？他們也很困惑
雖然公眾對(duì)政府的審查制度和大學(xué)校園的言論自由管理感到憤怒，但是客戶內(nèi)容管理給關(guān)于隱私、共同管理的互聯(lián)網(wǎng)的言論自由帶來了和平傳播的環(huán)境。關(guān)于內(nèi)容審核，微軟研究員Kate Crawford定義為——是“一個(gè)選擇什么才能構(gòu)成公共領(lǐng)域自由言論的深刻人類決策過程”。
截至去年夏季，社交媒體平臺(tái)——尤其是Facebook——占據(jù)所有主流新聞網(wǎng)站43%的流量，將近三分之二的Facebook和Twitter用戶通過社交平臺(tái)接收新聞內(nèi)容。無節(jié)制的社交媒體經(jīng)常涉及宗派暴力、家庭暴力、暴力極端主義者的招募、大規(guī)模欺凌事件等等。報(bào)告稱，社交媒體和移動(dòng)科技給巴基斯坦等國(guó)家的婦女帶來真正的傷害，因?yàn)樗審?qiáng)奸犯多了一個(gè)勒索受害者的手段（受害者或許會(huì)因被強(qiáng)奸了而入獄）。
《大西洋月刊》某個(gè)報(bào)道所提倡的一種流行敘事，是指當(dāng)前內(nèi)容審核系統(tǒng)被打破。但是，對(duì)于那些已經(jīng)受到在線傷害的人來說，“打破”已經(jīng)不是一個(gè)合適的詞，相反，這制度應(yīng)該是在此前已經(jīng)被全部擊碎了。在過去的18個(gè)月中，通過對(duì)十幾名業(yè)內(nèi)專家的采訪發(fā)現(xiàn)，具有全球影響的內(nèi)容審核已經(jīng)被邊緣化，甚至達(dá)到驚人的程度。早期憑借經(jīng)驗(yàn)達(dá)成的直覺性審核政策今天依舊存在，但已經(jīng)被業(yè)內(nèi)拒絕參與實(shí)質(zhì)性公眾對(duì)話和媒體問答的企業(yè)所掩蓋。
via The Verge
雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。
