雷鋒網(wǎng)10月18日消息，亞馬遜的面部識(shí)別工具Rekognition由于與美國警方開展合作，正受到內(nèi)部員工的反對(duì)。一員工在Medium平臺(tái)匿名發(fā)布了公開信，對(duì)公司與警方的合作表示擔(dān)憂。

事情的起源是15日，亞馬遜CEO貝佐斯在Wired會(huì)議上為美國國防部JEDI云合同辯護(hù)時(shí)，強(qiáng)調(diào)了“做出可能不受歡迎的決定（如與軍方合作）是商業(yè)領(lǐng)袖工作的一部分”。僅僅一天之后，這份員工公開信就在各大媒體傳開了。

這封公開信中這樣描述：

我們知道貝佐斯意識(shí)到了這些擔(dān)憂，現(xiàn)在正在進(jìn)行全行業(yè)的對(duì)話。在舞臺(tái)上，他承認(rèn)高科技的產(chǎn)品可能被濫用，甚至被獨(dú)裁者剝削。但不是有意義的解釋，亞馬遜將采取行動(dòng)以防止自己的技術(shù)被濫用，貝佐斯建議我們等待社會(huì)的“免疫反應(yīng)”。

如果亞馬遜等待，我們認(rèn)為傷害將很難撤消。

起底R(shí)ekognition項(xiàng)目

雷鋒網(wǎng)進(jìn)一步探究了這個(gè)“Rekognition”項(xiàng)目。

根據(jù)公開資料顯示，Rekognition是一個(gè)強(qiáng)大的實(shí)時(shí)面部識(shí)別系統(tǒng)，可以利用警察身體上的攝像頭和市政監(jiān)控系統(tǒng)，追蹤逃犯、被販賣人口等對(duì)象。這項(xiàng)技術(shù)是亞馬遜在2017年11月正式推出的。

其主要功能是：實(shí)時(shí)分析流視頻、人物識(shí)別和跟蹤、面孔識(shí)別、面孔分析、對(duì)象場景和活動(dòng)檢測、視頻檢測、名人識(shí)別等。

圖為：Rekognition在社交媒體上查找失蹤人口

查詢了當(dāng)時(shí)發(fā)布Rekognition的新聞稿時(shí)，雷鋒網(wǎng)摘取了上面的描述文字：

“現(xiàn)在可以對(duì)具有數(shù)千萬個(gè)面孔的集合執(zhí)行實(shí)時(shí)面部搜索。這表示搜索延遲減少了5-10倍，同時(shí)允許可以存儲(chǔ)比以前多10-20倍的面部的集合。對(duì)于公共安全應(yīng)用程序而言，此更新有助于實(shí)時(shí)識(shí)別數(shù)百萬個(gè)面孔的集合，從而實(shí)現(xiàn)需要立即響應(yīng)的判斷和舉動(dòng)?！?/p>

當(dāng)前，這款技術(shù)主要在幫助Marinus Analytics公司打擊人口販運(yùn)（雷鋒網(wǎng)注：Marinus Analytics是美國一家向執(zhí)法部門授權(quán)技術(shù)的創(chuàng)業(yè)公司）。借助Amazon Rekognition，使用Marinus Analytics的調(diào)查人員可以在幾秒鐘內(nèi)搜索數(shù)百萬條記錄，以便找到受害者，從而采取快速有效的行動(dòng)。

簡而言之，執(zhí)法人員可以使用失蹤兒童的照片、社交媒體照片或社會(huì)工作者的照片，并將其與 Traffic Jam 的數(shù)據(jù)庫中的其他人員進(jìn)行匹配，如果他們的照片被用來在網(wǎng)上作為交易等廣告信息發(fā)布，將會(huì)通過匹配照片幫助執(zhí)法人員找到受害者。

但是，這項(xiàng)技術(shù)有被“擴(kuò)大化利用”的風(fēng)險(xiǎn)。

根據(jù)此前華盛頓郵報(bào)的進(jìn)一步報(bào)道，華盛頓的一位警長每月支付6至12美元用于訪問Rekognition，這使得該部門能夠根據(jù)實(shí)時(shí)鏡頭掃描追蹤對(duì)象的大頭照。據(jù)悉，Rekognition能夠在整個(gè)城市的攝像機(jī)網(wǎng)絡(luò)上運(yùn)行實(shí)時(shí)面部識(shí)別。

Rekognition項(xiàng)目總監(jiān)Ranju Das透漏，整個(gè)奧蘭多市都有經(jīng)過授權(quán)的攝像機(jī)。這些攝像機(jī)將數(shù)據(jù)流式傳輸?shù)終inesis視頻流，亞馬遜再實(shí)時(shí)分析這些數(shù)據(jù)并搜索他們擁有的面部集合。也許當(dāng)警方想確定這個(gè)城市的市長是否在某一個(gè)地方，或者他們想要跟蹤的某個(gè)其他人，這都可以實(shí)現(xiàn)。

公民自由引發(fā)社會(huì)聯(lián)盟關(guān)切

對(duì)于ACLU（美國公民自由聯(lián)盟）而言，這種能力引發(fā)了重大的公民自由關(guān)注。該組織在一份聲明中說：“通過自動(dòng)化大規(guī)模監(jiān)視，像Rekognition這樣的面部識(shí)別系統(tǒng)威脅到公民自由，對(duì)當(dāng)前政治氣候中已被不公正對(duì)待的社區(qū)構(gòu)成特殊威脅。人們應(yīng)該在沒有被政府監(jiān)視的情況下自由走在街上。

此前的2018年5月22日，ACLU寫給貝佐斯的信中也闡述了這種關(guān)切。

圖為：2018年5月22日，ACLU寫給貝佐斯的信

可見，剛剛在員工漲薪問題上引發(fā)部分員工抵觸情緒的亞馬遜，又因?yàn)閱T工的反對(duì)遇到了一件麻煩事。

但據(jù)雷鋒網(wǎng)了解，這是技術(shù)員工在不到一周的時(shí)間內(nèi)發(fā)出的第二封匿名信。上一封，來自微軟。

上周五，一名微軟員工也同樣是在Medium上表達(dá)了對(duì)該公司參與100億美元JEDI國防部云合同的擔(dān)憂。

“這是一個(gè)秘密的100億美元項(xiàng)目，目標(biāo)是打造特朗普政府監(jiān)管的‘更致命的’軍事力量。谷歌員工對(duì)這一點(diǎn)看得很清楚，于是發(fā)起抗議并最終迫使公司退出投標(biāo)，而我們看得也很清楚?！?/p>

在美國的科技大公司里，鼓勵(lì)員工表達(dá)意見一直是傳統(tǒng)。雷鋒網(wǎng)也梳理了近些年因?yàn)椤皢T工反對(duì)”而被迫中止的一些項(xiàng)目或計(jì)劃：

• 谷歌: 員工聯(lián)名反對(duì)谷歌參與國防部AI項(xiàng)目“Maven”，導(dǎo)致谷歌放棄續(xù)簽；員工反對(duì)谷歌參與中國審查版的搜索引擎的開發(fā)，高管離職抗議并爆料；員工反對(duì)谷歌參與JEDI國防部云計(jì)算合同，谷歌只能宣布退出競標(biāo)。

• 微軟：員工反對(duì)微軟競標(biāo)IEDI云合同，稱不符合AI倫理原則；員工反對(duì)公司向ICE提供服務(wù)。（雷鋒網(wǎng)注：ICE是美國移民海關(guān)執(zhí)法部門）

• Salesforce：參與移民政策，最終在員工反對(duì)與批評(píng)聲中與美國海關(guān)和邊境保護(hù)局中斷了技術(shù)合作。

• 蘋果：因?yàn)楸Ｃ艽胧O其嚴(yán)格，甚至影響員工正常生活，也曾遭遇員工抱怨。2017年，蘋果共計(jì)抓到“29名泄密者”，其中有12名已被逮捕。

• Facebook：由于Facebook一位全球政策高管Kaplan支持最高法院大法官提名人，并出席了其提名聽證會(huì)，數(shù)百名Facebook員工表示了憤怒。員工認(rèn)為企業(yè)遭政治綁架，隨后，Kaplan在一個(gè)內(nèi)部論壇上為自己唐突出席聽證會(huì)道歉。
  

…

雷鋒網(wǎng)點(diǎn)評(píng)

可見，在美國的大型科技公司中，“員工問責(zé)制”正形成巨大的影響力，或超過媒體影響力，推動(dòng)者公司在不斷的調(diào)整決策。即便他們的CEO都是全球性的商業(yè)領(lǐng)袖，也沒辦法忽視這些意見。

而眼下，當(dāng)亞馬遜員工堅(jiān)持“不作惡”的理念繼續(xù)走下去的時(shí)候，我們并不確定Rekognition是否會(huì)接著運(yùn)行。相比國內(nèi)，與警方、軍方的合作則顯得是非常重大且具有戰(zhàn)略意義，因?yàn)檎牟少徥菑?qiáng)有力的背書，對(duì)技術(shù)和流程有著十分嚴(yán)格的程序，重要的一點(diǎn)是，這種項(xiàng)目一般都是大單子，動(dòng)輒上千萬，甚至上億。在國內(nèi)企業(yè)趨之若鶩的追求軍事合同當(dāng)下，我們旁觀者其實(shí)更應(yīng)該多一些清醒思考的空間。

公開信全文：

《我是亞馬遜員工。我的公司不應(yīng)該向警察出售面部識(shí)別技術(shù)》

10月17日

當(dāng)一個(gè)公司把新技術(shù)引進(jìn)世界時(shí)，它有責(zé)任思考后果。我工作的亞馬遜公司目前允許全國各地的警察部門購買它的面部識(shí)別產(chǎn)品“Rekognition”，我和其他員工要求我們立即停止。

幾個(gè)星期前，我的同事給杰夫·貝佐斯和其他高管寫了一封信，上面有450多名員工簽名。這封信還包含要求將Palantir公司踢出AWS，并規(guī)定對(duì)員工進(jìn)行道德監(jiān)督。Palantir是ICE的大部分遣返和追蹤程序的軟件公司。

我們知道貝佐斯意識(shí)到了這些擔(dān)憂，現(xiàn)在正在進(jìn)行全行業(yè)的對(duì)話。在舞臺(tái)上，他承認(rèn)高科技的產(chǎn)品可能被濫用，甚至被獨(dú)裁者剝削。但不是有意義的解釋，亞馬遜將采取行動(dòng)以防止自己的技術(shù)被濫用，貝佐斯建議我們等待社會(huì)的“免疫反應(yīng)”。

如果亞馬遜等待，我們認(rèn)為傷害將很難撤消。

畢竟，我們關(guān)注的不是其它公司將來可能造成的危害，而是亞馬遜目前正在設(shè)計(jì)、營銷和銷售的一套用于危險(xiǎn)、大規(guī)模監(jiān)控的系統(tǒng)：Rekognition。亞馬遜網(wǎng)站吹噓說，該系統(tǒng)可以一次性存儲(chǔ)和搜索數(shù)千萬張人臉。執(zhí)法部門已經(jīng)開始使用亞馬遜的這項(xiàng)面部識(shí)別技術(shù)，但幾乎沒有任何公眾監(jiān)督，也沒有對(duì)此進(jìn)行公開辯論，或有所限制。佛羅里達(dá)州奧蘭多市正在通過遍布全市的監(jiān)控?cái)z像頭的實(shí)時(shí)視頻信號(hào)來測試Rekognition。俄勒岡州的一個(gè)警察部門目前正在利用Rekognition，讓現(xiàn)場的警官將照片與數(shù)據(jù)庫的面部照片進(jìn)行比對(duì)。這已不再是一個(gè)假設(shè)的情況。

如果我們想要領(lǐng)導(dǎo)，我們需要在人與利潤之間做出選擇。

歷史告訴我們，新的強(qiáng)大的監(jiān)控工具仍然掌握在國家手中，將用于針對(duì)沒有做錯(cuò)事的人；在美國，由于缺乏公共問責(zé)制，已經(jīng)導(dǎo)致了對(duì)有色人種、移民和行使第一修正案權(quán)利的人進(jìn)行過度干擾和過度監(jiān)管。在向政府和執(zhí)法機(jī)構(gòu)提供強(qiáng)大技術(shù)的同時(shí)，忽視這些緊迫問題是危險(xiǎn)的和不負(fù)責(zé)任的。

這就是為什么當(dāng)AWS全球公共部門副總裁Teresa Carlson最近表示亞馬遜“堅(jiān)定的支持”執(zhí)法、國防和情報(bào)客戶時(shí)，我們失望的原因，即使我們不知道他們實(shí)際上是利用一切的工具做什么。

亞馬遜甚至建議，為警官隨身相機(jī)提供Rekognition功能，這將把本來作為警察問責(zé)的工具變成針對(duì)公眾的移動(dòng)監(jiān)控設(shè)備。我們?yōu)槭裁匆@樣做？

我們都有權(quán)利去生活，而不被政府不斷監(jiān)控。像我們這樣的公司不應(yīng)該參與促進(jìn)威權(quán)監(jiān)督。不是現(xiàn)在，也不是以后。但Rekognition支持通過從一幀視頻中提取幾十個(gè)面部標(biāo)識(shí)，并將它們存儲(chǔ)起來供以后使用，或者立即將它們與有數(shù)百萬張圖片的數(shù)據(jù)庫進(jìn)行比對(duì)。

出售這個(gè)系統(tǒng)與亞馬遜的價(jià)值觀背道而馳。我們把自己作為一個(gè)以客戶為中心的公司。貝佐斯也直接反對(duì)不道德的政府政策、穆斯林的禁令。

我們不能以犧牲公眾利益為代價(jià)，從那些擁有強(qiáng)大權(quán)力的客戶群體中獲利；我們不能忽視我們業(yè)務(wù)對(duì)公眾利益的損害。我們銷售的Rekognition系統(tǒng)是一種有缺陷的技術(shù)，它強(qiáng)化了美國現(xiàn)有的偏見。研究表明，面部識(shí)別技術(shù)更容易誤認(rèn)擁有深色皮膚的人。這一點(diǎn)在最近對(duì)Rekognition的測試中得到了明確的證明。這項(xiàng)調(diào)查將美國國會(huì)議員的照片與數(shù)據(jù)庫的一些臉部照片逐一比對(duì)，結(jié)果出現(xiàn)了28項(xiàng)錯(cuò)誤匹配，而在有色人種中不正確結(jié)果比例特別高。但即使這些錯(cuò)誤被修正了，允許執(zhí)法部門使用這種軟件仍然是不負(fù)責(zé)任、危險(xiǎn)和不道德的?，F(xiàn)在，產(chǎn)生這種偏見的根源存在于美國更廣泛的社會(huì)和司法系統(tǒng)中。面部識(shí)別技術(shù)的使用只會(huì)復(fù)制和放大美國現(xiàn)有的這種偏見。

美國目前的政治環(huán)境使得向政府出售面部識(shí)別產(chǎn)品的想法更加令人反感。美國警方加大了對(duì)黑人活動(dòng)人士的監(jiān)視力度，特朗普政府也在繼續(xù)全力打擊移民。我們不希望以任何方式為美國政府的超級(jí)監(jiān)視系統(tǒng)做出貢獻(xiàn)。亞馬遜表示已要求Rekognition的客戶遵守法律，但這只是一種為這項(xiàng)技術(shù)的負(fù)面使用逃避責(zé)任的方式。

谷歌員工公開反對(duì)公司與美國國防部的Maven合同，微軟員工公開反對(duì)公司與美國國防部的云計(jì)算合同JEDJEDI，我們將跟隨他們的步伐。不管我們對(duì)美國軍方的觀點(diǎn)如何，任何人都不應(yīng)該從“增加軍隊(duì)的殺傷力”中獲利。

亞馬遜談?wù)摿撕芏嚓P(guān)于領(lǐng)導(dǎo)力的價(jià)值觀問題。如果我們想要擁有領(lǐng)導(dǎo)力，我們需要在人類利益與利潤之間做出選擇。我們可以把危險(xiǎn)的監(jiān)視系統(tǒng)賣給執(zhí)法部門，或者我們可以維護(hù)正義。但我們不能兩者兼得。

雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。