原創(chuàng) 李子 果殼

“現(xiàn)在去售樓處買房，都得帶個(gè)頭盔！為啥？攝像頭‘認(rèn)識(shí)’你！”

前一陣，這樣一則新聞引起了轟動(dòng)：山東濟(jì)南某樓盤售樓處，一名看房人為了不泄露自己個(gè)人信息，頭戴摩托頭盔去看房。《南方都市報(bào)》和《北京日?qǐng)?bào)》等數(shù)家媒體的調(diào)查顯示，售樓處使用了帶有面部識(shí)別的監(jiān)控技術(shù)，能夠辨認(rèn)出一名顧客是“自行前來(lái)”的購(gòu)房者，還是中介帶來(lái)的；不同的銷售渠道會(huì)使用不同的定價(jià)策略，而一個(gè)人是否被面部識(shí)別為“直銷”，中間會(huì)有高達(dá)幾十萬(wàn)的差價(jià)；而這種技術(shù)，已經(jīng)在相當(dāng)多的地方有應(yīng)用。

為保護(hù)個(gè)人信息，戴著頭盔看房｜截圖自新浪微博

所有的一切，都是在顧客不知情的情況下展開的。你被盯得清楚，卻蒙在鼓里。

許多人聽(tīng)聞這件事之后，比這更直接的反應(yīng)，是“可怕”，甚至是“毛骨悚然”。仿佛在一個(gè)看不到的地方，有無(wú)數(shù)只眼睛盯著你，自己的身份，連同一舉一動(dòng)，都暴露在一個(gè)全知全能的監(jiān)視者之下。

還有更多的問(wèn)題在腦海中浮現(xiàn)：連同面部信息一起，其他個(gè)人信息數(shù)據(jù)存儲(chǔ)在哪里？是否被用來(lái)盈利？是否有泄露的風(fēng)險(xiǎn)？面部識(shí)別技術(shù)，是否被濫用了？

這讓我想起一件事。2018年，在某人工智能大會(huì)的會(huì)展區(qū)，我在里面起碼20多個(gè)屏幕上，看到了自己被“識(shí)別”的臉。除了智慧城市、安保監(jiān)控之外，“刷臉”還被開發(fā)者們用在了虛擬登機(jī)牌、景區(qū)門票、無(wú)人超市上，可謂是無(wú)孔不入。登機(jī)的時(shí)候，安檢刷完臉之后，機(jī)場(chǎng)遍布的攝像頭知道你在哪兒，也知道什么時(shí)候該給你送上“溫馨提示”，告訴你要登機(jī)、別跑了；而最讓我感到“不適”的，是某家公司開發(fā)的監(jiān)控系統(tǒng)，把人臉和身份證號(hào)后四位直接赤裸裸地展示在監(jiān)控屏幕上。

自己的身份，連同一舉一動(dòng)，都暴露在一個(gè)全知全能的監(jiān)視者之下｜圖蟲創(chuàng)意

這種恐懼感究竟來(lái)自哪里？到底是哪個(gè)環(huán)節(jié)需要我們特別警惕？我們是否會(huì)在遍布四周的監(jiān)控技術(shù)里被“溫水煮青蛙”、習(xí)慣了它的存在，還是真的有某一個(gè)不能碰的人性和隱私底線？

“順暢”刷臉的隱憂

其實(shí)，如果單論技術(shù)本身，面部識(shí)別技術(shù)已經(jīng)發(fā)展了相當(dāng)長(zhǎng)一段時(shí)間了，其技術(shù)原理也并沒(méi)有很復(fù)雜。和其它的圖像識(shí)別一樣，它的原理是提取圖像中的特征，然后判定這個(gè)特征是否與數(shù)據(jù)庫(kù)中的特征符合、有多少概率是同一張臉。最近幾年，因?yàn)闄C(jī)器學(xué)習(xí)的快速發(fā)展，機(jī)器對(duì)于面部特征的提取和識(shí)別能力，亦有了飛速進(jìn)展。2016年的時(shí)候，谷歌基于 ImageNet 訓(xùn)練出來(lái)的圖像識(shí)別模型，準(zhǔn)確度已經(jīng)超越了人類，速度自然也是不在話下。

這其實(shí)和真正的“人工智能”還差得很遠(yuǎn)。但因?yàn)樗膽?yīng)用實(shí)在太廣，嵌進(jìn)了無(wú)數(shù)的使用場(chǎng)景中，而應(yīng)用過(guò)程又十分地順暢，給人一種“智能”的錯(cuò)覺(jué)。

“順暢”，是面部識(shí)別技術(shù)的一大特征。在推崇這個(gè)技術(shù)的人眼里，它最大程度地模仿了人和人之間的交互，即用“看”即可。畢竟，用眼睛識(shí)別一個(gè)人的臉，是我們?nèi)祟惻c生俱來(lái)的功能。你拿起你的 iPhone，就會(huì)自動(dòng)解鎖；走進(jìn)家門，門會(huì)自動(dòng)打開；進(jìn)入學(xué)校和辦公室等需要安保的場(chǎng)所，不用停下查證件……

但這種順暢的交互，從另外一個(gè)角度看，是“沒(méi)有交互”。一切都無(wú)縫地、在無(wú)聲無(wú)息之間發(fā)生。也就是說(shuō)，很多時(shí)候我并不能以知情的方式，給出我的同意。我用我的指紋必須按在門鎖上，這個(gè)“按”的動(dòng)作，亦是我在與機(jī)器“對(duì)話”——我現(xiàn)在需要開門了。而我只是在攝像頭面前“出現(xiàn)”，我的臉就已經(jīng)給出了所有的信號(hào)，不管我想不想。

我只是在攝像頭面前“出現(xiàn)”，我的臉就已經(jīng)給出了所有的信號(hào)，不管我想不想。｜圖蟲創(chuàng)意

這也是為什么人臉識(shí)別技術(shù)可以非常“隱蔽”。它是一個(gè)不需要給出“知情同意”就可以應(yīng)用的技術(shù)。它出現(xiàn)了，它應(yīng)用了，但你不知道。而知情同意的缺失，也讓隱私泄露變得極其容易。到底有多少攝像頭在我身邊，跟蹤我、記錄我？我是不是已經(jīng)在不知不覺(jué)中“丟失”了我的臉？這些問(wèn)題，想起來(lái)略微有一些可怕。

如何用臉“重建”一個(gè)你？

但更進(jìn)一層的恐懼，來(lái)自于面部識(shí)別背后的運(yùn)轉(zhuǎn)邏輯——它是如何處理、如何匹配、如何運(yùn)用面部信息的。

我們?nèi)擞性S多可供識(shí)別的生物特征，包括指紋、虹膜、面部特征，乃至基因等等，都有潛在的數(shù)據(jù)化的可能。它們可以被記錄，可以被復(fù)制，可以被傳播，可以散見(jiàn)在互聯(lián)網(wǎng)各處——公安系統(tǒng)里有我們的指紋，微信里錄下了我們的聲音，而我們上傳到社交網(wǎng)絡(luò)的照片上都有我們的臉。美國(guó)加州大學(xué)圣迭戈分校（UCSD）技術(shù)社會(huì)學(xué)教授凱莉·蓋茨（Kelly Gates）將其稱為“去身化的身份”（disembodied identity）。

我們的身份已然“離開了”我們身體，我們甚至不再對(duì)其有掌控。

但是，面部識(shí)別技術(shù)的關(guān)鍵在于，這些獨(dú)一無(wú)二的生物信息數(shù)據(jù)，怎么和更多的技術(shù)、更大的數(shù)據(jù)庫(kù)、更廣的系統(tǒng)中的各式各樣的關(guān)于我們的碎片拼起來(lái)，湊成一個(gè)完整的“自己”。

將一個(gè)人的面部特征作為加密信息、打開我的手機(jī)“刷臉”，和將一個(gè)人的臉解碼成為“我的身份”，在更大的系統(tǒng)里流轉(zhuǎn)（和公安系統(tǒng)匹配的監(jiān)控），雖然都是“刷臉”，但卻是截然不同的刷法。

我們的身份已然“離開了”我們身體，我們甚至不再對(duì)其有掌控｜圖蟲創(chuàng)意

如果你的臉只是用來(lái)打開你家的門，那么你的臉除了重建出“你是這個(gè)家的主人”之外，并沒(méi)有任何別的意義。

但當(dāng)這個(gè)數(shù)據(jù)從你的小世界來(lái)到了“云端”，與更大的數(shù)據(jù)庫(kù)相交、互相印證，那么你自己的身份，也就更加無(wú)所遁形——你是誰(shuí)，你家在哪里，你大概處于社會(huì)中什么樣的地位，你昨天網(wǎng)購(gòu)的東西，你的“健康碼”、你的身份證號(hào)……即使證件號(hào)碼等重要信息泄露可能性小，但只要有足夠多的其它數(shù)據(jù)，“重建”一個(gè)你，并不會(huì)太困難。

我們和深淵之間，并沒(méi)有多少堅(jiān)實(shí)的保護(hù)。

利益讓技術(shù)跑得越來(lái)越快

紐約長(zhǎng)島大學(xué)的技術(shù)倫理學(xué)家安東·阿爾特曼（Anton Alterman）在一篇論文中指出，生物信息識(shí)別的隱私風(fēng)險(xiǎn)，主要存在于幾個(gè)方面：

1）一個(gè)技術(shù)是否能準(zhǔn)確識(shí)別出一個(gè)特定個(gè)人的真實(shí)社會(huì)身份；

2）信息是否只留存于本地、還是在更廣的網(wǎng)絡(luò)中流動(dòng)、使用；

3）使用一個(gè)技術(shù)是否需要用戶的協(xié)作；

4）技術(shù)開發(fā)者是否有保護(hù)隱私的動(dòng)力。

當(dāng)下的面部識(shí)別技術(shù)，正挑戰(zhàn)著全部四個(gè)方面。面部數(shù)據(jù)可以準(zhǔn)確識(shí)別個(gè)人；數(shù)據(jù)互通帶來(lái)濫用的危險(xiǎn)；使用的時(shí)候，甚至無(wú)需知情同意。而最后一點(diǎn)可能是解題的關(guān)鍵——保護(hù)數(shù)據(jù)隱私的動(dòng)力從何而來(lái)？它們能對(duì)各方帶來(lái)什么好處？而誰(shuí)又從中獲利？誰(shuí)在其中有發(fā)言權(quán)？

在那場(chǎng)人工智能大會(huì)上，我著實(shí)領(lǐng)會(huì)到了生產(chǎn)端的動(dòng)力，以及客戶的購(gòu)買力。人工智能作為一個(gè)新興產(chǎn)業(yè)，得到了大量的投資，而投資者需要看到技術(shù)投入應(yīng)用、看到回報(bào)。于是，面部識(shí)別技術(shù)被包裝為各種各樣的“解決方案”，打包出售給商業(yè)客戶。是他們最有能力購(gòu)買這些技術(shù)作為“解決方案”，而這種購(gòu)買力，很大程度上決定了面部識(shí)別技術(shù)的研發(fā)走向。

一個(gè)有面部識(shí)別解鎖功能的手機(jī)，或者能刷臉開門的智能門鎖，對(duì)我們普通用戶的吸引力并沒(méi)有那么大。畢竟，指紋也能解鎖，密碼也能開門，不“云端”“智能”也無(wú)妨。但對(duì)于公共場(chǎng)所的經(jīng)營(yíng)者以及各級(jí)管理部門而言，全面而有效的監(jiān)控，身份的精準(zhǔn)識(shí)別，乃至收集、使用數(shù)據(jù)以獲益，帶來(lái)的好處十分巨大，比“保護(hù)隱私”更加重要。強(qiáng)大的推動(dòng)力，讓技術(shù)開發(fā)越走越遠(yuǎn)，且越來(lái)越向經(jīng)營(yíng)者、管理者、客戶，而不是實(shí)際用戶傾斜。

人臉識(shí)別技術(shù)越來(lái)越向經(jīng)營(yíng)者、管理者、客戶，而不是實(shí)際用戶傾斜｜圖蟲創(chuàng)意

在面部識(shí)別這個(gè)技術(shù)的很多應(yīng)用場(chǎng)景里，用戶發(fā)出的聲音是有限的，有的時(shí)候甚至是無(wú)力的。我們有選擇“不使用”的權(quán)力嗎？我們的意愿能夠得到重視嗎？我們是否能夠判斷，一個(gè)技術(shù)運(yùn)用在什么地方是合適的、在什么地方是過(guò)度的？理想的市場(chǎng)場(chǎng)景里，我們可以用腳投票；而當(dāng)下的市場(chǎng)，資本的強(qiáng)大加上信息的不透明，讓用戶處于無(wú)權(quán)、無(wú)聲的劣勢(shì)。

無(wú)處不在的攝像頭，讓這個(gè)社會(huì)變得越來(lái)越像?？鹿P下的“環(huán)形監(jiān)獄”（Panopticon）——監(jiān)控?zé)o處不在，能看到所有人、識(shí)別所有人，而被觀看者甚至無(wú)法得知監(jiān)控在哪里、從何而來(lái)。一個(gè)良性發(fā)展的技術(shù)，不應(yīng)該是這樣。

技術(shù)的“潛臺(tái)詞”

技術(shù)一旦投入社會(huì)，就不再僅僅是“工具”了。一個(gè)技術(shù)的使用，數(shù)據(jù)與數(shù)據(jù)構(gòu)建的身份，為人與人、人與機(jī)構(gòu)之間的關(guān)系定下了基調(diào)，也為這些“數(shù)據(jù)”賦予了社會(huì)含義。在購(gòu)房處被“識(shí)別”，意味著我們和售樓處的關(guān)系，變成了“奸商”和待宰的購(gòu)房客之間的關(guān)系；在公司的樓道里，因?yàn)槎喽琢?0分鐘廁所而被“識(shí)別”，意味著我們和公司的關(guān)系，變成了資本家和必須要被壓榨出每一分鐘勞動(dòng)力的打工人的關(guān)系。

但我們之間的關(guān)系，一定、必須是這樣的嗎？我們真的沒(méi)有別的選擇了嗎？在商業(yè)交易中，雙方應(yīng)該是站在平等對(duì)話的基礎(chǔ)上協(xié)商交易的關(guān)系；在雇傭勞動(dòng)中，雙方應(yīng)該是相互信任、付出勞動(dòng)并得到回報(bào)的關(guān)系。面部識(shí)別和監(jiān)控技術(shù)的濫用，扭曲了這種關(guān)系，將公平與信任踩在腳下。

面部識(shí)別和監(jiān)控技術(shù)的濫用，將公平與信任踩在腳下｜圖蟲創(chuàng)意

隱私是人格尊嚴(yán)的一部分——它代表著一個(gè)人有能力且有權(quán)利支配自己的空間，不受他人的干擾；也意味著對(duì)隱私的保護(hù)，能夠最大程度地尊重人的自由和創(chuàng)造性，而不是把人看作一個(gè)隨時(shí)需要監(jiān)控、需要操縱的螺絲釘。不管技術(shù)如何發(fā)展，我們的底線是，一個(gè)安全、方便的社會(huì)，不應(yīng)該以犧牲人的尊嚴(yán)為代價(jià)。

所以，技術(shù)背后的“潛臺(tái)詞”，可能比技術(shù)本身更加重要。追問(wèn)技術(shù)存在的理由，追問(wèn)技術(shù)與人的關(guān)系，是讓一個(gè)技術(shù)變得不再“可怕”的第一步。

比如，在人流密集的公共場(chǎng)所，機(jī)場(chǎng)、火車站等地，我們實(shí)際上是讓渡自己一部分的隱私，去換取方便、安全；這用別的方式或許很難達(dá)到、不夠經(jīng)濟(jì)；或許能夠阻止巨大的災(zāi)難——911事件發(fā)生時(shí)，監(jiān)控錄像實(shí)際上已經(jīng)拍到了恐怖分子的臉，但并沒(méi)有識(shí)別出來(lái)。

我們讓渡自己一部分的隱私，去換取方便、安全｜圖蟲創(chuàng)意

但在小區(qū)、在學(xué)校、在火鍋店，每個(gè)場(chǎng)景都是不同的，都有著自己的“潛臺(tái)詞”——為什么要用它？數(shù)據(jù)的作用是什么？數(shù)據(jù)存儲(chǔ)在哪里？除了這個(gè)方法之外，有沒(méi)有別的方法？這對(duì)被監(jiān)控、被識(shí)別的人的好處在哪里？是否知情、是否予以了同意？這些都是在技術(shù)被應(yīng)用之前，需要提出的問(wèn)題。

希望我們將來(lái)的社會(huì)，還能讓我們坦然“面”對(duì)。

參考文獻(xiàn)

[1]Gates, K. A. (2011). Our biometric future: Facial recognition technology and the culture of surveillance (Vol. 2). NYU Press.

[2]Alterman, A. (2003). ``A piece of yourself'': Ethical issues in biometric identification. Ethics and information technology, 5(3), 139-150.

[3]Van Oenen, G. (2006). A machine that would go of itself: interpassivity and its impact on political life. Theory & event, 9(2).

[4]Introna, L. D. (2005). Disclosive ethics and information technology: Disclosing facial recognition systems. Ethics and Information Technology, 7(2), 75-86.

作者：李子

原標(biāo)題：《無(wú)所不在的面部識(shí)別：我監(jiān)控你一切行動(dòng)，而你卻蒙在鼓里》

閱讀原文