當人臉識別對準執法者，AI的應用邊界博弈

鈦媒體 ? 4年前掃碼分享

我是創始人李巖：很抱歉！給自己產品做個廣告，點擊進來看看。

當人臉識別對準執法者，AI的應用邊界博弈

腦極體

· 剛剛

微信掃碼

不能因噎廢食。

當人臉識別對準執法者，AI的應用邊界博弈

00:00 12:21

圖片來源@視覺中國

文丨腦極體

當AI技術正在帶來欣欣向榮的智能產業之時，我們有感于AI可以應用的范圍之廣，也感慨于AI普及速度之快。這其中一個非常重要的原因，就在于AI的開發門檻在大幅降低。

驕陽之下，必生陰影。當AI正在進入尋常百姓家的同時，AI技術也可能在那些不法之徒手中變身惡龍，釋放規模更大、后果更嚴重的人性之惡。

還記得去年那個可以“一鍵脫衣”的DeepNude軟件么，因為觸犯用戶隱私也觸及道德底線而在爆火之后被馬上禁止。但這項技術卻被很多人盯上，也給了很多黑產以靈感。

據報道，最近一個DeepNude2.0版本的應用程序在Telegram APP上出現，同樣也是主打“一鍵脫衣”的功能。與1.0版本有一定技術門檻不同的是，原先還需要用戶安裝完整軟件和完整的神經網絡框架，做好設置調試等操作才能得到一張“裸照”，而現在只需從手機里上傳一張照片，不需要任何技術和專門的硬件支持，就能把照片中的目標“一鍵脫衣”。

據發現這一軟件的安全公司稱，當時已經產生了至少68萬名女性的“假裸照”，這意味著大量普通人正在遭受AI所帶來的隱私和名譽的危害。受害者的“照片”不僅有可能被不法分子用來牟利，如果同時泄露更多社交信息，還有潛在的勒索威脅。

我們不得不面對AI在應用中的這一問題：“AI for Good”還是“AI for Evil”，更為復雜的是，一些AI技術應用，比如人臉識別，也正陷入到了新的博弈困境，比如，人臉識別技術能否成為普通人對抗強者的工具，還是說，這些AI應用必須徹底禁止就行？

這恐怕并不容易能夠立刻做出回答。

人臉識別，反過來對準了執法者

“我們正在逼近小人物也能對付大人物的技術門檻。”

這是下面事件里的開發者的立場。他所指的技術正是人臉識別。而事件的起因是，今年因為非裔男子佛洛依德之死所引發的全美大抗議。

事件之后，美國俄勒岡州波特蘭市爆發了持續數月的抗議游行，聯邦特工和波特蘭警方加入到曠日持久的阻擊和鎮壓當中。從之前的新聞看來，警方不僅使用了催淚瓦斯，甚至在沖突后出現了槍擊，一人因槍擊死亡的事件。

一名參與了持續抗疫的開發者Christopher Howell則堅持認為，“我們必須明確責任，需要知道事件中誰做了什么。”他所指的就是要對警方身份進行識別和行為進行確認。

Howell是一個熟悉神經網絡算法的開發者，他們當時正好也拍攝了很多警察執法的照片。為了防止濫用警力，或警察違規執法，原本警員制服上的名字可以告訴公眾人們他們的身份，但是在這場示威游行中，波特蘭市警察局允許了身穿制服的警察可以遮擋住自己的名字。

因此，Howell才使用了人臉識別技術，連同政府官網、社交媒體和新聞報道中搜集到的警員照片，來辨認這些執法警察。

而幾乎同時，9月初波特蘭市議會開始公開討論，是否出臺一項立法以全面禁止使用人臉識別技術，該法案將主要禁止警員利用摘下抗議者面罩或者用監視攝像頭拍下并識別這些人的身份，也阻止企業和其他組織使用該技術識別未知人員的身份。

該法案征求意見期間，Howell反映了他用人臉識別技術來識別波特蘭警員的事情，這件事讓波特蘭官方感到非常不爽。經過討論，該法案也得到了市議會的通過，但Howell個人可以繼續開展該項目。

這確實出人意料。代表執法者的官方被禁止使用人臉技術來對準民眾，而民眾個人則有權利用人臉識別技術來對抗執法者。

Howell的做法并非孤例。原本執法部門可以通過政府數據庫中的照片或者通過人臉識別技術公司Clearview AI從公共互聯網中獲得的照片，來利用人臉識別技術發現犯罪分子，而現在一些激進人士反過來用這一技術對付執法部門，用來揭露行為不當的執法人員的身份。

去年，一名抗議者Colin Cheung試圖通過警員在網上的照片來識別其身份，因為其在Facebook公開發布了該項目的視頻而被捕。

白俄羅斯的一個技術專家則通過YouTube演示了如何使用人臉識別技術來識別那些暴力執法的蒙面警察，其過程也是通過社交媒體上的警員照片進行對比而獲得。當然，這位專家已經逃到了美國洛杉磯。

通過Howell的案例我們看到，只要具有一定AI開發經驗的普通人，都可以利用那些開放的圖像識別軟件，進行人臉識別技術的開發，比如Howell就用了谷歌的TensorFlow，幫助他構建機器學習模型。

這就是技術門檻降低帶給“小人物對抗大人物”的底氣。但是這樣真的好嗎？

濫用人臉識別：一場無人勝出的博弈

我們知道，波特蘭市議會出臺的這一項禁止政府使用人臉識別技術的法律，其根源正是來自于今年6月在全美開啟的一項關于“人臉識別技術是否要禁止”的大爭論。

為聲援全美掀起的“BLM”（黑命貴）抗議活動，微軟、IBM、亞馬遜為代表的科技企業紛紛表示拒絕向美國警方提供人臉識別技術服務，其中IBM公司直接宣稱放棄人臉識別業務，激進可見一般。6月底，美國計算機協會（ACM）的技術政策小組呼吁，以記錄在案的種族和性別偏見為由，公開敦促美國立法者立即中止企業和政府部門使用人臉識別。

其實，在此之前，舊金山、波士頓等城市都以性別偏見和錯誤識別為由，已經禁止使用人臉識別技術用于警察執法。而現在，美國參眾兩院的議員推動，美國多個州的地方議會和政府也開始相繼討論和禁止用于執法的人臉識別技術。

雖然警方的人臉識別的軟件之前存在缺陷，出現過錯誤識別和逮捕嫌疑人的情況，但是技術的問題似乎應該通過改進技術來解決，現在為了政治正確，他們把這項技術也直接推翻。

而另一面，我們也看到，小人物也獲得了對付大人物的“屠龍術”。激進抗議者為了獲得警察的身份數據也可謂是不遺余力。

在引入人臉識別技術之前，一些反監視組織采取了眾包的辦法，就是依靠網絡用戶去識別那些有警察暴力執法視頻中的警員身份，或者直接上傳穿制服的警員照片，最后通過那些可以搜索到的記錄執法人員的公共數據庫，來找到警員的姓名、徽章編號。

現在，這些開源的數據庫正在成為像Howell這樣的開發者獲得警員身份照片的途徑，而人臉識別技術又能快速判定現在執法行動中警員的身份。

這當然是給受到暴力執法之苦的民眾予以起訴這些執法警員的有利途徑，但是同時人臉識別技術的應用有可能導致被更激進的人員濫用。因為這些警員也會有私人生活，也會攜帶家人和孩子出行。一旦有些人可以使用這一工具追蹤這些警員，那么很可能讓這些警員和家人處在更加危險的境地。

普通民眾擔心官方濫用人臉識別技術，因為錯誤識別和種族偏見而蒙受不公待遇，而現在執法者卻因為可能濫用的人臉識別技術，被激進者跟蹤或報復。

為了凸顯這一矛盾，最近一個法國藝術家Paolo Cirio在網絡發起了一個名為“Capture”的展覽活動，公布了1000張法國警員的臉部照片，這是從互聯網和一些參加抗議活動的攝影師那里獲得的照片。他匯總了這些照片之后，聲稱這是開發一款人臉識別應用程序的第一步。

緊接著，他就收到了來自法國內政部的壓力，隨即他撤下了照片。這位藝術家的立場恰恰是要禁止人臉識別。他希望官方能夠意識到人臉識別技術帶給人們的壓力，無論是民眾還是執法者。而現在官方的做法只是在解決“提出問題的人”，而非去解決問題。

那么，人臉識別技術就在這樣的沖突中真的無解了嗎？

濫用無解，合規有道

正如人類幾乎難以阻止AI技術被用于色情、黑產等灰色地帶，我們也不應因噎廢食地放棄AI技術用于正常的日常社會生產生活當中。

現在我們看到，人臉識別技術已經廣泛應用到面部解鎖、身份認證、面部支付、門禁、通行、安防等領域，不僅給個人生活帶來極大的便利，也給社會環境提供了更為安全的保障。正如亞馬遜的表態一樣，他們并未放棄人臉識別技術，而且還會在找尋失蹤兒童上面跟政府進行合作，而微軟也希望在聯邦政府出臺更為嚴格的監管法律之后再重新合作。

當然，人臉識別技術在危及隱私和身份信息安全方面也一直被人們所詬病。

不過，技術的問題應該用技術的辦法來解決。正如美國的人臉識別技術在有色人種的識別率差的問題，在好幾年前就已經暴露出來，而現在應該通過訓練樣本等手段的改進而改變識別率，而非因為有過“翻車”事件就直接去掉，可謂印證了中國這句“波洗澡水，把孩子也一起潑掉了”的老話。

技術問題解決，更應該強調的是監管問題。

在一個人人皆媒體的時代，誰都將成為社會事件的記錄者。正如弗洛依德事件中，我們看到警方在有意掩蓋現場執法過程，而圍觀群眾則將整個事件從各個角度都拍了下來，因此才引起全網的軒然大波。

如果在沒有攝像機執法，沒有路人圍觀拍攝的情況下，警方一定是強勢的解釋方，真相可能就此被掩蓋。所以，無論從掌握的攝像頭的拍攝數據和民眾信息，還是現場的執法權，政府和警方都擁有絕對的優勢，那么，官方在使用人臉識別技術的時候，就必須要嚴格遵守程序正義和結果的可溯源，在執法中的交叉錄像、執法后的證據固定，事后的結論公布等都要對當事方要透明公開。如果中間出現疏漏，當事人可由此提請申訴。

而對于民眾而言，人臉識別技術的使用也必須有一定的邊界，其使用的人臉識別數據必須要有合法的來源，其識別軟件必須要嚴格控制其擴散途徑，一旦隨意擴散該工具和數據，從而造成相關法律風險，發明者和使用者都需要付出相關的代價。

個人的無商業或者無違法目的的使用是一回事，而一旦用于謀利或犯罪就是另一回事。其中的邊界相當敏感，未來需要更多的案例和更多的博弈出現。

正好最近看到一個非常正向的人臉識別應用。杭州市的一個初二學生，剛剛發明了一種可以進行人臉識別和語音提醒功能的“智能項圈”，其發明的初衷是為了幫助家中患有阿爾茨海默癥的老人，可以通過項圈的攝像頭識別出眼前的親人，可以通過紫外線傳感器來識別室內室外，提醒老人回家。