原標題:美國藥店零售巨頭秘密部署人臉識別系統(tǒng)達8年,重點針對有色人種
近日,路透社公布的一項調查顯示,美國第三大連鎖藥店Rite Aid在全美200家商店中秘密部署人臉識別系統(tǒng),其中大部分部署于有色人種居住的低收入社區(qū)中。
據(jù)悉,他們使用該技術已超過8年,直到最近才停止。
Rite Aid是美國東海岸最大的連鎖藥店之一,總部位于賓夕法尼亞州,在美國開設有大約2500家商店。該連鎖藥店出售處方藥以及保健藥品、化妝用品、家庭日用品等多種商品。
1
擁有該項技術的Rite Aid會拍攝并在后臺直播每個進入商店的人,創(chuàng)建一個獨特的面部輪廓。當顧客走到Rite Aid商店的另一臺面部識別相機前,新的圖像就會被添加到顧客現(xiàn)有的個人資料中。
當商店管理員看到有人犯罪或者有可疑動作時,會在后臺進行搜索匹配,經過經理批準后,才會將此人添加到“可能從事潛在犯罪活動的人”的監(jiān)視名單中。
當顧客再次走進使用了這項技術的Rite Aid時,安全監(jiān)管員將新采集的圖像與“可能從事潛在犯罪活動的人”名單進行匹配。若匹配成功則會將警報發(fā)送到安全員的手機上。相關人員在確認匹配準確后,將要求該顧客離開商店。
商店安全管理人員補充說,他們在10天后就無法獲取這些圖像,除非此人根據(jù)在商店的行為被列入監(jiān)視名單。
Rite Aid隨后證實了其面部識別程序的存在和范圍。并稱該公司使用人臉識別技術的目的是防止盜竊和暴力犯罪,保護員工和顧客免受暴力侵害,不涉及種族歧視。
雖然Rite Aid表示,他們會告知顧客,在進入商店時有相機對他們的面部進行掃描并識別。但是調查發(fā)現(xiàn),至少三分之一的商店并未設置相關標識。并且Rite Aid拒絕透露在哪些商店部署這些設有人臉識別功能的相機。
路透社調查中發(fā)現(xiàn),紐約和洛杉磯的75家Rite Aid商店中,有33家商店部署有這種相機。
設有人臉識別功能的相機很容易辨認,它們通常懸掛在商店入口附近和化妝品過道的天花板上。大多數(shù)長半英尺,呈矩形,標有其型號“iHD23”或帶有供應商首字母“DC”的序列號。
這75家商店中,較貧困地區(qū)的商店比高收入地區(qū)的商店使用面部識別的可能性要高得多。
在黑人和拉丁裔居民等有色人種占比最大的地區(qū),商店里部署人臉識別系統(tǒng)的可能性是其他社區(qū)的三倍以上。
目前,Rite Aid發(fā)表聲明表示已關閉所有設有人臉識別功能的相機。 相關人員稱,“鑒于該技術的實用性越來越不確定,其他大型科技公司似乎正在縮減或重新考慮在人臉識別方面的投入。”
近年來深受財務虧損困擾的Rite Aid并不是唯一采用或嘗試人臉識別技術的零售商。
2018年,部分美國零售商成了一個旨在測試反犯罪技術的聯(lián)盟——零售防損研究委員會(Loss Prevention Research Council),將人臉識別技術視作“有發(fā)展前途的新工具”。其中美國有幾家零售商決定采用人臉識別技術,此技術可以幫助增加銷量,減少損失。
美國第二大零售商Home Depot向路透社表示,他們在至少一家商店測試了人臉識別能否減少入店行竊,但已在2020年停止實驗。此外,CNBC報道顯示,截至2019年初,美國知名家裝產品零售公司Menards在至少10個地點試用了人臉識別系統(tǒng)。沃爾瑪也在少數(shù)商店試用了該系統(tǒng)。
弗吉尼亞州獨立的7- 11連鎖店老板告訴路透社,他們從2018年開始試用該軟件,但后來放棄。他們發(fā)現(xiàn)這個系統(tǒng)很大程度上是準確的,但對用戶不友好,而且維護成本太高。該系統(tǒng)在網上的廣告中稱月費為99美元。
2
美國政府機構的一項研究表明,當受試者的膚色較深時,支持該技術的算法更容易出錯。
一位顧客回憶起2016年9月在Rite Aid商店被誤認為是潛在的扒手的經歷。顧客認為因其是有色人種才被識別錯誤。
Rite Aid目前使用的這項技術由 DeepCam提供,早前,使用的則是FaceFirst的技術。同時使用過兩個系統(tǒng)的安全管理人員表示,盡管有時會出現(xiàn)失誤,但DeepCam的匹配更準確。
而從2013年開始,隨著Rite Aid在費城、巴爾的摩等地部署FaceFirst的技術,發(fā)生過嚴重誤識別。
其在事件發(fā)生一周后向加州消費者事務部提交的訴狀,他在2016年9月在某Rite Aid商店時,一名經理命令他離開商店。據(jù)起訴書稱,這名經理曾收到該2013年在另一家Rite Aid公司拍攝的圖像,該圖像顯示他偷了東西。
但該顧客看到經理提供的照片時表示,除了他們都是黑人種族之外,他們長得一點都不像。
3
人臉識別技術在美國已經引起了高度爭議,因為它在公共和私營部門的使用都在擴大,包括執(zhí)法部門和零售商。公民自由倡導者警告說,這可能會導致對無辜個人的騷擾、任意和歧視性的逮捕、侵犯隱私權。
2019年5月,舊金山通過人臉識別禁用法令,禁止城市工作人員購買和使用人臉識別技術,成為全球首個禁止人臉識別的城市。隨后,奧克蘭和薩默維爾市也通過人臉識別禁令。
舊金山在一項關于監(jiān)視技術的行政法規(guī)——《停止秘密監(jiān)視條例》中,針對人臉識別技術特別指出,“人臉識別技術危害公民權利和公民自由的傾向大大超過了其聲稱的好處,這項技術將加劇種族不平等,并威脅到我們不受政府長期監(jiān)控的生活能力”。
弗洛伊德事件后,人臉識別使用爭議再次引發(fā)討論,美國多家科技公司公開宣布放棄這項技術。
此前,在亞馬遜宣布禁止向美國警方出售面部識別軟件Rekognition一年以后 ,隨后,IBM、微軟相繼宣布停止向美國警方提供面部識別技術,并反對將其用于大規(guī)模監(jiān)視和種族定性。
盡管承諾的細節(jié)和條款有所不同,比如亞馬遜、微軟表示暫時停止,而IBM則完全退出面部識別技術的出售,但這三家公司都要求美國華盛頓特區(qū)監(jiān)管該技術。
“技術可以提高透明度,幫助警察保護社區(qū),但絕不能放大歧視與種族不平等。”IBM首席執(zhí)行官克里希納在給美國國會議員的公開信中這樣講到。
美國公民自由聯(lián)盟(ACLU)高級政策分析師杰伊·斯坦利(Jay Stanley)表示,對于監(jiān)控技術引發(fā)的公民自由擔憂,正確的回應是“不要秘密使用它”。
(文章來源:雷鋒網)