0
| 本文作者： 肖漫 | 2019-05-05 19:03 |
雷鋒網(wǎng)按：如今，人臉識別技術被廣泛應用于智能手機領域，但人臉識別技術還未真正成熟。近期，亞馬遜想要在執(zhí)法領域推行AI人臉識別技術，但卻遭到了多方質疑與反對?！度A盛頓郵報》對“俄勒岡州成為亞馬遜人臉識別政策的試驗場”發(fā)表了相關文章，雷鋒網(wǎng)全文編譯如下。
【 圖片來源：pixabay 所有者：pixabay 】
希爾斯博羅，俄勒岡州——當?shù)匾患褹ce五金公司的員工報告說，一名年輕女子帶著一箱11.99美元的焊接氣體走出了商店，而她的手提包里卻沒有支付這筆錢， 一項精心設計的高科技打擊犯罪行動迅速展開。
華盛頓縣治安官的一名偵探與該機構的特別調查組合作，通過亞馬遜(Amazon)開發(fā)的一套內部人臉識別程序Rekognition，監(jiān)控了這家商店的監(jiān)控錄像，發(fā)現(xiàn)了可能的匹配。
三個月后，一名緝毒人員在一輛沒有標識的SUV上發(fā)現(xiàn)了這名女子的車牌，并通過無線電通知其他巡邏人員阻止她。一份逮捕報告顯示，一名警員用手銬銬住了她的手腕。她說她需要這些焊接氣體來修車。
在俄勒岡州西部波特蘭郊外的這個角落里，警員們通常用老式的方法來追查罪犯，他們會把嫌疑犯在辦公室里被拍下的照片傳真過去，希望有人能認出這張臉。
2017年末，華盛頓縣治安官辦公室成為已知的美國第一家使用亞馬遜人工智能工具（Rekognition）的執(zhí)法機構，將這片叢林和郊區(qū)變成了一個公共試驗場，用于新一波實驗性的警察監(jiān)控技術。
幾乎在一夜之間，議員們發(fā)現(xiàn)他們的調查權力被賦予了更大的權力，這使得他們能夠掃描自2001年以來在該縣監(jiān)獄拍攝的30多萬張嫌疑犯臉部照片的匹配項。安全攝像頭、社交媒體賬號或副手的智能手機捕捉到的人臉模糊圖片，可以很快成為他們身份的鏈接，包括他們的姓名、家庭和地址。警員們說，去年記錄在案的人臉識別搜索超過1,000次，他們有時會利用搜索結果查找嫌疑人的Facebook頁面、訪問他們的家或實施逮捕。
但華盛頓縣也成為了一場高風險戰(zhàn)斗的起點，這場戰(zhàn)斗圍繞的是算法不受監(jiān)管的警務增長。辯護律師、人工智能研究人員和民權專家認為，這項技術可能會錯誤逮捕那些與視頻圖像相似的無辜人士。Rekognition的準確性也備受爭議，一些專家擔心，武裝代表的錯誤身份可能會產生危險的影響，威脅到隱私和人們的生命。
近年來，一些警察機構使用Cognitec、IDEMIA和NEC等承包商開發(fā)的系統(tǒng)，對州或聯(lián)邦調查局的數(shù)據(jù)庫進行人臉識別搜索。但亞馬遜的推出，或許標志著這項備受爭議的面部掃描技術將成為主流。Rekognition很容易激活，不需要什么主要的技術基礎設施，而且?guī)缀跞魏稳硕伎梢砸缘蛢r獲得。首次上傳大量圖片，華盛頓縣花了大約700美元，現(xiàn)在，對于所有的搜索，每月大約只支付7美元。
不過，在頭18個月的實際測試中，我們無法判斷這項技術究竟有多準確或有效。當警方使用面部識別搜索時，執(zhí)法人員無需在逮捕報告中注明，導致逮捕的確切次數(shù)也不清楚。警長的官員說，該軟件已經導致數(shù)十人因盜竊、暴力或其他罪行被捕，但在公開記錄的要求中只找到了9份涉及面部識別的案件報告。
“就像任何調查技術一樣，我們不會告訴人們我們是如何抓到他們的，我們希望他們繼續(xù)猜測?！敝匕附M的偵探Robert Rookhuyzen說。他已經進行了“幾十次”搜索，并且發(fā)現(xiàn)在75%的情況下是有用的。
警長的官員說，面部掃描并不總是標志著調查的結束：在指控犯罪嫌疑人之前，警員們還必須確定可能的原因或找到證據(jù)。但警長辦公室為面部識別的使用制定了自己的規(guī)則，允許警員使用該工具來識別尸體、昏迷的嫌疑人和拒絕透露姓名的人。
搜索工具的不完美的結果增加了一個無辜的人被標記和逮捕的風險，特別是在掃描圖像模糊、質量低下或部分隱藏的情況下。警員們還可以在搜索過程中掃描藝術家的素描，人工智能專家表示，這種不尋常的使用可能更容易導致錯誤匹配。
亞馬遜的執(zhí)法指南稱，只有當系統(tǒng)對匹配有99%的把握時，官員才應該采納Rekognition的結果。但是這里的警員們在使用這個工具時的搜索信心測試中并沒有顯示出來。相反，即使系統(tǒng)在匹配中的確定性很低，在每次搜索中也都會給他們五種可能的匹配。
在回答了《華盛頓郵報》的問題后，亞馬遜在這些指導方針中增加了措辭，規(guī)定警官在拘留嫌疑人之前應該人為審查所有匹配，搜索不應被用作采取行動的唯一決定因素。
亞馬遜和俄勒岡州第三大執(zhí)法機構之間的關系是互惠互利的，治安官辦公室正在幫助完善這個系統(tǒng)，亞馬遜希望在全國銷售這個系統(tǒng)。但亞馬遜進軍執(zhí)法銷售領域的舉動，令一些法律維權人士感到擔憂，他們表示，該系統(tǒng)對公民自由構成了太多風險。
“政府是非常強大的，在一個案件中，它會帶來很多去應對給公民個體?！?為無法負擔起律師費用的被告辯護的華盛頓縣公設辯護律師辦公室主任Mary Bruington說，“你把它和亞馬遜配對了？這是一個強有力的伙伴關系。”
亞馬遜網(wǎng)絡服務公司云計算部門的人工智能總經理Matt Wood在一份聲明中說，Rekognition只是“對一項100%由人類驅動的調查的許多其他線索中的另一個投入?！?/p>
盡管如此,該公司仍面臨著許多批評：高級人工智能研究人員,國會成員和民權組織,以及亞馬遜的自己的一些投資者和雇員曾敦促該公司停止向執(zhí)法部門提供的技術, 有研究指出，該系統(tǒng)對皮膚黝黑的臉部識別不太準確。亞馬遜對這一研究提出了質疑。
亞馬遜的一些競爭對手也拒絕了類似的合同。微軟總裁Brad Smith說，該公司最近在4月份的時候拒絕提供其面部識別軟件給加州執(zhí)法機構，該機構想要其軍官讓人靠邊停車時可以隨時進行臉部掃描。但它已經同意了一項將該技術應用在美國監(jiān)獄中的協(xié)議。微軟拒絕提供細節(jié)。
亞馬遜的投資者將在5月就一項由一群維權股東支持的提案進行投票，該提案將阻止該公司向政府機構出售Rekognition，除非該公司董事會認定它不會對人權構成風險。
今年3月，警長辦公室允許《華盛頓郵報》的記者在警車、偵探辦公室和縣監(jiān)獄里呆上兩天，觀察警員們是如何將這項技術融入日常案件的。大多數(shù)接受采訪的人表示，該軟件為他們節(jié)省了時間，增加了逮捕人數(shù)，并幫助他們處理日益增多的視覺證據(jù)。警員和公眾辯護人說，到目前為止，還沒有出現(xiàn)因為照片匹配錯誤而對逮捕提出的任何法律挑戰(zhàn)。
但是俄勒岡州的律師說，在很多人看來，技術不應該成為治安未來即將邁出的一步，他們建造的系統(tǒng)不是作為技術里程碑，而是道德：如果為了抓住更多的壞人，但有更多的好人可能會被逮捕，這是好的嗎？
“人們總是喜歡說，‘嘿，如果是能夠抓壞人就很好啊，誰在乎呢’”俄勒岡州的首席副辯護律師Joshua Crowther說，“直到他們有一天也被抓了。”
【 圖片來源：pixabay 所有者：pixabay 】
2016年，當亞馬遜(Amazon)公開Rekognition時，該公司稱其為一種強大的深度學習人工智能方式的突破，其結果顯示“與魔術無法區(qū)分”。在一篇配有一位高管寵物狗照片的博客文章中，該公司為人們如何開始使用它提供了一些一般性的想法，包括用于安全檢查點或連接在一起收集觀眾面部數(shù)據(jù)的廣告牌。
這次揭幕式引起了eBay前程序員Chris Adzima的注意，他受雇于華盛頓縣治安官辦公室，負責開發(fā)一款能被警員應用于追蹤犯人行為的iPhone應用程序。他的機構在網(wǎng)上已經有成千上萬的面部照片，但沒有真正的方法來分析它們。通過使用亞馬遜的人工智能，他在不到三周的時間里就建立了一個系統(tǒng)并運行起來。
“他們對現(xiàn)實世界中的任何類型的應用案例都沒有明確的概念，但他們知道自己創(chuàng)造了一個強大的工具，所以我開始使用它了?！痹谥伟补倏偛康囊粋€小隔間里工作的高級信息系統(tǒng)分析師Adzima說。
警員們立即開始將面部搜索納入日常巡邏任務中，Adzima還建立了一個簡單的內部網(wǎng)站，讓他們可以在巡邏車中進行搜索。他放棄了搜索信心的百分比，并設計系統(tǒng)每次返回5個結果。他說，當系統(tǒng)返回0個結果時，議員們會懷疑他們是否把事情搞砸了。為了增加趣味性，每當一名警員上傳一張照片，他還會添加了一個不必要的紫色“掃描”動畫——他說這是受到了像《犯罪現(xiàn)場調查》這樣的警匪片的啟發(fā)。
當他開始在亞馬遜的服務器上大量輸入圖像數(shù)據(jù)時，那里的賬戶管理人員注意到了這一點，一些人對他將其用于警察工作表示驚訝和興奮。2017年，美國公民自由聯(lián)盟的一份公開記錄請求首次披露了一封電子郵件。郵件中，一名亞馬遜的客戶高管將Adzima介紹給一家警用相機公司的高管，該公司希望了解他是如何“克服利益相關者的阻力”的?！澳悻F(xiàn)在是AWS的名人了?！边@位高管寫道，并附上了一個笑臉的表情符號。
這里的警員們說，這個系統(tǒng)是一個巨大的打擊。曾在5起盜竊和盜竊案件中使用過該搜索引擎的Chris Lee表示，他的許多同事成為了多產的用戶，渴望找到一種解決艱難狩獵的簡單方法?！澳憧偸窃谙?這會給我們帶來什么嗎?”他說。
在培訓方面，警員們只會收到一份打印出來的辦公室人臉識別政策，以及一份簡短的PPT演示文稿，提醒他們要小心處理結果。其中一張幻燈片展示了該系統(tǒng)對上傳的O.J. Simpson面部照片的反應:退回一張蓄胡須的白人男子的照片?！罢缒闼吹降模被脽羝蠈懙溃斑@個系統(tǒng)仍然需要人工解釋?！?/p>
該機構長達四頁的政策要求工作人員僅在“犯罪聯(lián)系”的情況下使用該系統(tǒng)，并禁止在“大規(guī)模監(jiān)控”中使用，或根據(jù)宗教、政治活動或種族對人進行監(jiān)控。但它也提供了一些例外，包括允許在“生命受到重大威脅”的情況下進行面部搜查，或者當警方認為重罪嫌疑人將在特定時間出現(xiàn)在特定地點時進行面部搜查。
這種搜查幫助警員想出了一些非常規(guī)的方法。在一個案例中，一名囚犯在監(jiān)獄里打電話給他的女朋友，她說有逮捕令要逮捕她。警員們進入了這名囚犯的Facebook頁面，找到了一段她唱歌的舊視頻，并通過人臉識別搜索得到了她的名字，幾天后她就被捕了。
警員還可以通過系統(tǒng)查找黑白警用速寫尋找結果，他們說，在一個測試案例中，它指向了一名他們已經標記為嫌疑人的男子。亞馬遜表示，通過Rekognition進行速寫并不違反規(guī)定，但它希望人工審核人“密切關注以這種方式生成的任何匹配結果的可信度”。
來自縣公設辯護律師辦公室的Bruington說，Rekognition的低廉價格和易用性可能會誘使警察機構嘗試一種他們可能并不完全了解的系統(tǒng)。她還擔心，該系統(tǒng)對臉部照片的依賴意味著任何以前被警察帶進來的人，都更有可能在刑事搜查中重新露面。
她說:“無辜的人每天都要接受刑事司法系統(tǒng)的審判?！?/p>
幾十年來，人臉識別技術一直是警察局的夢想：一種簡單的、隱秘的、可以在不知情或未經他人同意的情況下識別遠方的任何人的方法。但直到最近幾年，由于成像技術和計算機能力的提高，以及數(shù)據(jù)存儲成本的大幅下降，這項技術才變得廉價和廣泛，被用于給Facebook照片加標簽，以及解鎖iphone。
如今的系統(tǒng)將人們的面部照片分解成長串的代碼，稱為“特征向量”或“臉紋”，可以與龐大數(shù)據(jù)庫中的其他肖像快速比較。但是，盡管“計算機視覺”算法擅長模式識別，但它們匹配的是像素，而不是線索，而且可能會忽略在人眼看來明顯得驚人的不一致性。
盡管如此，事實證明，廉價和容易識別的承諾對許多公司來說太有吸引力了以至于不能忽視。美國國家標準與技術研究所是評估人臉識別算法的聯(lián)邦機構。該機構最近表示，它已經測試了44家公司的127套系統(tǒng)，測試它們在“大規(guī)模人群中的可擴展性”，以及在野外識別“非合作對象”時的準確性。來自微軟和中國初創(chuàng)企業(yè)依圖科技的頂級算法，可以在包含數(shù)百萬張圖像的數(shù)據(jù)庫中，以99%的準確率匹配人臉照片。
亞馬遜此前曾拒絕提交Rekognition的評估報告，稱這項研究孤立版本的核心搜索算法的測試無法在復雜的基于云端的搜索中運行。但NIST的一名官員表示，這一事實并未妨礙其他公司進行類似的搜索。一位亞馬遜官員表示，該公司已啟動一項“實質性”努力，去“重新設計”系統(tǒng)的“關鍵組件”，以便參與其中。
美國聯(lián)邦調查局(FBI)表示，在過去的一個財政年度，該機構進行了5.2萬多次面部識別搜索。2016年，喬治敦大學的法律研究人員發(fā)現(xiàn)，至少有52個州或地方機構在某種程度上依賴于由聯(lián)邦承包商或監(jiān)控公司建立的面部識別系統(tǒng)。但亞馬遜根據(jù)“儲存的人臉”數(shù)量收取部分費用，讓任何一支新警察隊伍的起步都變得簡單起來。
沒有聯(lián)邦法律管制面部識別的使用。不過，今年3月美國參議院提出的一項兩黨議案，以及亞馬遜總部所在地華盛頓州提出的一項議案，這些議案可能會實施新的規(guī)定，比如要求公司通知過路人他們的臉正在被掃描。預計舊金山領導人下周將就一項遭到警方反對的提案進行投票，該提案將使舊金山成為美國第一個禁止當?shù)貦C構使用面部識別軟件的城市。
亞馬遜高管表示，他們支持國家進行人臉識別立法，但他們也辯稱，“不應該因為它可能被濫用就禁止或譴責新技術?！甭?lián)邦調查局(FBI)特工和奧蘭多警方表示，他們已經對該系統(tǒng)進行了測試，亞馬遜已經向包括移民和海關執(zhí)法在內的政府機構推銷了這套系統(tǒng)。
華盛頓縣的律師們說，他們才剛剛開始在逮捕報告中看到這種技術，一些人正在為可能要在法庭上就系統(tǒng)的可接受性提起訴訟的那一天做準備。在俄勒岡州公共辯護服務辦公室工作的副首席辯護人Marc Brown說，他擔心系統(tǒng)的隱藏的決策可能使權力的天平傾斜：人類目擊者可以在法庭上提出質疑，但對這個“神奇的黑盒”不可以，“我們作為辯護律師不能詢問這個過程是如何工作的?！?/p>
Brown補充說，該體系的結果可能會通過引導議員們的反應，帶來一個巨大的確認偏差問題。他說:“你已經被告知這就是你要找的人，所以當你調查的時候，你的腦海里就會浮現(xiàn)出這個想法。問題不再是誰犯了罪，而是支持計算機分析的證據(jù)在哪里?”
亞馬遜的軟件正迅速變得更加先進。上個月，該公司宣布了一項Rekognition更新，該更新將提高系統(tǒng)的“情緒檢測”功能的準確性，可以根據(jù)一個人在鏡頭前的樣子自動推測出他的感受。它包括7種受支持的情緒：開心、悲傷、憤怒、驚訝、厭惡、平靜和困惑。
亞馬遜還擁有廣受歡迎的門鈴攝像頭制造商Ring，該公司去年申請了一項面部識別專利，該專利能夠在買家門口發(fā)現(xiàn)“可疑”人士。Ring的一位發(fā)言人表示，公司的專利申請旨在“探索新技術的全部可能性”。
與此同時，華盛頓縣治安官辦公室的人臉數(shù)據(jù)庫一直在增長，每年約有1.9萬次監(jiān)獄預約。當人們被逮捕時，他們會被帶到一個熙熙攘攘的接待室，在那里他們會被一個網(wǎng)絡攝像頭拍攝下來，攝像頭的頂部是一個紅色的豆豆娃紅衣主教?！翱茨侵圾B。”拍照的時候警官會對他們說。
這些照片成為了該縣整個刑罰系統(tǒng)中囚犯的身份，監(jiān)獄內部的一個網(wǎng)站和iPhone應用程序將這些照片顯示在一個大網(wǎng)格中，這樣警員們就可以快速跟蹤他們的食物攝入量、行為和自殺風險。
Rekognition在囚犯被關進監(jiān)獄后不會被使用，但它仍然在監(jiān)獄里產生了微妙的影響。Brian van Kleef副警長站在3號艙的警衛(wèi)室神經中樞，這里是囚犯們稱為“洞”的最高安全級別的側翼，他說:“這是我們收集數(shù)據(jù)庫的地方?！?/p>
雷鋒網(wǎng)注：本文編譯自The Washington Post
雷峰網(wǎng)版權文章，未經授權禁止轉載。詳情見轉載須知。
