編者按：在《互聯(lián)網(wǎng)秘密規(guī)則：言論自由背后的內(nèi)容管制(上)》中我們談到，在面對(duì)自由與管制的問題上，主流社交平臺(tái)的內(nèi)容過濾機(jī)制——時(shí)常處于企業(yè)利益、社交責(zé)任、基本人權(quán)等問題之間權(quán)衡的迷之困惑當(dāng)中。事實(shí)上，我們所迷戀的西方言論自由，背后有我們看不見的機(jī)制。

而即使在法律監(jiān)管下，所有用來監(jiān)管傳統(tǒng)媒體的三權(quán)分立制衡體系將不再適用，它們也無需承受誹謗的風(fēng)險(xiǎn)，一切，實(shí)際上并沒有規(guī)則。

像軍隊(duì)那樣地隱蔽，帶來的后果就是所施行的指令更加不透明——由一波風(fēng)險(xiǎn)投資家 、CEO、政策、社區(qū)、隱私信譽(yù)和安全經(jīng)理、律師、工程師在數(shù)千里之外共同定制。加拿大韋仕敦大學(xué)信息和媒體研究助理教授Sarah T. Roberts，以及即將出版的《屏幕的背后：社交媒體暗影世界中的數(shù)字化勞動(dòng)》的作者表示，商業(yè)內(nèi)容管制不是一個(gè)有凝聚力的系統(tǒng)，而是一個(gè)隨著需求不斷發(fā)展的實(shí)踐，受制于不同國(guó)家的不同法律，而且長(zhǎng)期無法充分應(yīng)對(duì)當(dāng)前的任務(wù)。這些實(shí)踐經(jīng)常在挑戰(zhàn)的重壓和復(fù)雜性下分崩瓦解——雖然內(nèi)容審核者讓這種實(shí)踐成為更深刻的法律和人權(quán)問題。 

再回顧阿拉伯世界的革命浪潮“阿拉伯之春”，當(dāng)時(shí)西方媒體認(rèn)為這個(gè)“阿拉伯之春”屬于“諳熟互聯(lián)網(wǎng)、要求和世界其它大部分地區(qū)一樣享有基本民主權(quán)利的年輕一代”。然而各穆斯林國(guó)家的命運(yùn)并不相同，使得這場(chǎng)跨及多國(guó)的民主化運(yùn)動(dòng)蒙上陰影。當(dāng)時(shí)的在線內(nèi)容無論是幸存還是被消除，它都能夠推動(dòng)這次革命和行動(dòng)的進(jìn)行，并掃除所產(chǎn)生的政策改革和文化轉(zhuǎn)移。

上個(gè)月，一篇題目《社交媒體的陰暗面：是Facebook讓你抑郁的嗎？》的文章指出，研究抑郁癥的認(rèn)知科學(xué)家Charlotte Blease表示，她認(rèn)為社會(huì)地位是社交媒體抑郁癥的根源。在現(xiàn)代的環(huán)境下，當(dāng)我們感到我們被那些高社會(huì)地位或高聲望的人超過時(shí)，就會(huì)觸發(fā)這種機(jī)制。 那么，誰來主導(dǎo)這一切？據(jù)悉，三分之一的Facebook員工屬于內(nèi)容審核者。

在Facebook、Pinterest和YouTube等行業(yè)巨頭當(dāng)中，內(nèi)容審核進(jìn)程正在大幅度提高；而其他一些平臺(tái)可能還處于2006年時(shí)的情況。他們之間審查系統(tǒng)的聯(lián)手構(gòu)建還處于早期階段，因此公司的之間的審查是相互獨(dú)立的。所以，這些不同的內(nèi)容審查政策，反映出各平臺(tái)用戶和創(chuàng)始人的內(nèi)在價(jià)值觀。

以綜合型討論區(qū)4chan為例，4chan網(wǎng)站熱衷于發(fā)布一些粗俗和帶有仇恨性質(zhì)的內(nèi)容，幾乎可以是自由發(fā)布任何內(nèi)容——只要是董事會(huì)所定義的。據(jù)該網(wǎng)站創(chuàng)始人Hiroyuki Nishimura所說，4chan仍然嚴(yán)重依賴志愿者體系作為用戶的“看門人”?！八麄儫o法決定的問我，我不懂的問律師?！奔词故鞘赀^去了，4chan仍然是一個(gè)充滿騷擾和威脅的網(wǎng)站。上面的內(nèi)容包括從國(guó)際色情、迷因，到種族主義和威脅到用戶個(gè)人的信息。“無論是YouTube、Facebook、Twitter，還是4chan，想利用社交平臺(tái)做壞事的人，他們走到哪都會(huì)出現(xiàn)。如果有什么方式可以制止他們，我愿意那樣做?！?/p>

互聯(lián)網(wǎng)光鮮背后的秘密規(guī)則

然而，一旦說到內(nèi)容審核的細(xì)節(jié)，公眾便不會(huì)得知它們的真面目，在企業(yè)的內(nèi)部，他們對(duì)于用戶和公眾來說就是一種秘密規(guī)則。盡管社會(huì)不斷呼吁要求公開透明，社交媒體公司從來不會(huì)對(duì)外披露它們過去或者現(xiàn)在的內(nèi)容審核標(biāo)準(zhǔn)，至今都沒有，包括Facebook、Twitter、Reddit、Pinterest。當(dāng)被問及 Twitter 的信任與安全部門的操作，他們的發(fā)言人只寫了以下這些話：

“我們?cè)O(shè)定的規(guī)則是為了讓我們的用戶能夠在一個(gè)安全的環(huán)境下創(chuàng)建和分享各種各樣內(nèi)容。當(dāng)用戶發(fā)布的內(nèi)容違反了我們的規(guī)則時(shí)，我們將暫停他的賬戶，違規(guī)的內(nèi)容包括暴力威脅和有特定的虐待行為。我們基于用戶上傳的內(nèi)容評(píng)估和不斷完善我們的政策，同時(shí)還與其他安全組織合作以保證我們能夠?qū)嵺`這個(gè)行業(yè)的最佳做法?！?/p>

對(duì)于他們可以保密的動(dòng)機(jī)，F(xiàn)acebook互聯(lián)網(wǎng)公司的內(nèi)容審核者 Crawford、Willner表示：一方面，高管們想保護(hù)這方面的技術(shù)專利，同時(shí)避免被卷入某些責(zé)任當(dāng)中；另一方面，他們希望在如今快速變化的情況下贏得足夠大的周旋空間，以及讓員工免于接受公眾的監(jiān)督和威脅。很明顯，由于保密和監(jiān)管這個(gè)準(zhǔn)政府職能而付出的成本，在互聯(lián)網(wǎng)公司的眼中不值一提。

Dave Willner在 2008 年至2013年間擔(dān)任Facebook 內(nèi)容政策主管。Facebook 第一個(gè)用于內(nèi)容審查的“標(biāo)準(zhǔn)”創(chuàng)建于2009年，包含了 15000 個(gè)單詞。Dave Willner 說：“當(dāng)時(shí)這份‘標(biāo)準(zhǔn)’的企圖是無所不包的?！惫姵蓡T，也急速用戶對(duì)此一無所知，只能依靠猜測(cè)：完全有機(jī)器人來執(zhí)行；依據(jù)法律來執(zhí)行；或者說由內(nèi)容主管來對(duì)每篇文章進(jìn)行評(píng)定。Williner 指出：

“這些標(biāo)準(zhǔn)都是錯(cuò)的，他們忽略了一點(diǎn)——在這體系當(dāng)中，用戶自身才是至關(guān)重要的角色。”

總的來說，用戶認(rèn)為自己是消費(fèi)者或者是客戶。但平臺(tái)卻需要依靠他們來改變線性關(guān)系：首先，用戶產(chǎn)生內(nèi)容——故事、照片、視頻、評(píng)論以及互動(dòng)；第二，用戶的行為——分析、包裝和重新包裝——都是廣告營(yíng)收的來源；第三，由于幾乎所有的內(nèi)容審核系統(tǒng)都取決于用戶標(biāo)記的內(nèi)容和提交的投訴，以及幫助形成一個(gè)平臺(tái)的品牌特征的內(nèi)容，所以用戶本身才是內(nèi)容審核過程中至關(guān)重要的角色。

校園社交工具 iCanHelpline創(chuàng)始人Anne Collier表示，用戶還沒有意識(shí)到他們擁有解決他們?cè)谏缃幻襟w上創(chuàng)造的危害。“他們被稱為‘用戶’是有原因的，以及思想和行為都是被動(dòng)的。通過模糊他們的角色，企業(yè)成功阻滯了他們的力量?！?/p>

互聯(lián)網(wǎng)的早期階段里，業(yè)內(nèi)提出“信息想要實(shí)現(xiàn)免費(fèi)”這個(gè)崇高的目標(biāo)。互聯(lián)網(wǎng)被給予了激發(fā)人們積極性、創(chuàng)造性潛能的厚望，而不是成為虐待狂、猥褻兒童者、強(qiáng)奸犯、或極端種族主義者宣泄個(gè)人情緒的陣地。但完全免費(fèi)的互聯(lián)網(wǎng)卻迅速成為一些令人發(fā)指的內(nèi)容散布的地方，而這些內(nèi)容的發(fā)布者和支持者仿佛在互聯(lián)網(wǎng)找到了美好歸宿。

這個(gè)早期階段——從上世紀(jì) 60 年代持續(xù)到 2000 年，哈佛大學(xué)伯克曼互聯(lián)網(wǎng)與社會(huì)中心前執(zhí)行董事 J.G.Palfrey 稱之為“開放的互聯(lián)網(wǎng)”。1996 年通過的《通信內(nèi)容端正法案》（ Communications Decency Act）的 第 230(c) 節(jié)規(guī)定，免除了提供內(nèi)容共享服務(wù)的公司對(duì)用戶發(fā)布內(nèi)容的責(zé)任。這個(gè)法案也被稱為“《善良的撒瑪利亞人法》（the Good Samaritan Act：是關(guān)于在緊急狀態(tài)下，施救者因其無償?shù)木戎袨?，給被救助者造成某種損害時(shí)免除責(zé)任的法律條文。）”。

230節(jié)被認(rèn)為是“互聯(lián)網(wǎng)最重要的法律”，它具體是這么說的：“所有交互式計(jì)算機(jī)服務(wù)中的供應(yīng)方和使用者，都不應(yīng)該被視作任何其他內(nèi)容發(fā)布者所發(fā)布信息的發(fā)言者和發(fā)表者?！边@項(xiàng)26個(gè)字的條款意味著：將言論自由的決定權(quán)交回到個(gè)人手中，有效地免除了平臺(tái)所有非法內(nèi)容的法律責(zé)任，比如兒童色情。所有用來監(jiān)管傳統(tǒng)媒體的三權(quán)分立制衡體系將不再適用，它們也無需承受誹謗的風(fēng)險(xiǎn)，一切，實(shí)際上并沒有規(guī)則。

via The Verge

雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。