通過機(jī)器識(shí)別人臉來判斷罪犯，這像是科幻電影出現(xiàn)的一幕。上海交通大學(xué)教授武筱林的一項(xiàng)“人臉識(shí)別罪犯”研究卻引起了巨大的爭(zhēng)議。

5月7日，谷歌人工智能研究員布萊斯、瑪格麗特和普林斯頓大學(xué)神經(jīng)科學(xué)教授亞歷山大發(fā)布的《相面術(shù)的新外衣》一文，質(zhì)疑武筱林研究的可信性，并稱其研究結(jié)論可“具有誤導(dǎo)性，洗白科學(xué)種族主義”。

近日，武筱林回應(yīng)南都記者稱，“他們對(duì)我們研究的上下文進(jìn)行斷章取義，有失學(xué)術(shù)探討的公正精神，我感到非常失望?！?/p>

看臉識(shí)罪犯

研究者“原本打算證偽”

事情緣起于2016年11月，上海交大圖像通信與網(wǎng)絡(luò)工程研究所教授武筱林和其博士生張熙在國(guó)際電子預(yù)印本文獻(xiàn)庫arX iv上提前發(fā)布了一篇題為《基于面部圖像的自動(dòng)犯罪概率推斷》的研究。

“這在科學(xué)界是很常規(guī)的做法。”武筱林回應(yīng)南都記者稱。

清華大學(xué)納米生物領(lǐng)域博士后張旭告訴南都記者，arX iv是國(guó)際科研工作者在研究成果未正式發(fā)表前，出于和同行交流目的先行發(fā)布的一個(gè)電子預(yù)印本文獻(xiàn)庫，涉及物理、數(shù)學(xué)、計(jì)算機(jī)科學(xué)等領(lǐng)域，“相當(dāng)于永不落幕的學(xué)術(shù)會(huì)議”。

在該研究中，武筱林和團(tuán)隊(duì)通過運(yùn)用計(jì)算機(jī)視覺和機(jī)器學(xué)習(xí)技術(shù)，對(duì)1856名18到55歲中國(guó)男性的身份證照進(jìn)行檢測(cè)。這些研究對(duì)象被分為罪犯組與非罪犯組兩組，罪犯組包含730名犯罪人員，涉及盜竊、貪污、謀殺、強(qiáng)奸、綁架和搶劫等罪行。其余1100名普通人所在的非罪犯組，職業(yè)覆蓋司機(jī)、醫(yī)生、律師、教授、服務(wù)員、建筑工人等領(lǐng)域。

“我們當(dāng)時(shí)在公安部、各省公安廳協(xié)助下得到這些圖像”，武筱林指出，這些研究對(duì)象來自全國(guó)不同的地方，“后來這些照片都被調(diào)整為80cm×80cm大小，照片的亮度和對(duì)比度等都進(jìn)行了統(tǒng)一處理，隨后通過卷積神經(jīng)網(wǎng)絡(luò)算法(一種高度通用的深度學(xué)習(xí)技術(shù))進(jìn)行檢測(cè)?！?/p>

研究結(jié)果顯示：四類分離器(邏輯回歸，K N N，SV M，C N N )對(duì)罪犯與非罪犯的區(qū)分準(zhǔn)確率至少在86%以上。與此同時(shí)，兩組面部特征方面在內(nèi)眼角間距、上唇曲率和鼻唇角角度這三個(gè)測(cè)度最為顯著。通過計(jì)算機(jī)模擬出來的罪犯與非罪犯的“平均臉”較相似，但非罪犯之間的面部特征差異要比罪犯小。也就是說，樣本中非犯罪人員的樣貌更為相似，變化幅度更小，犯罪人員的面部表情差異比普通人更大。

對(duì)于該結(jié)論，武筱林稱，他們當(dāng)時(shí)也很驚訝，“研究結(jié)果與預(yù)期相反，我們?cè)鞠胗脭?shù)據(jù)分析推翻‘相由心生’這種說法，原本是打算證偽的。”

結(jié)論引熱議

被指樣本量太小，研究不科學(xué)

結(jié)論一出，有研究者質(zhì)疑武筱林的研究不科學(xué)，“樣本量太小了”。部分人士表示擔(dān)憂，這會(huì)加重人們對(duì)樣貌有缺陷人群的歧視。

武筱林告訴南都記者，這半年來他收到了非常多的反饋郵件，“有的來信索取數(shù)據(jù)，有的想要與我們合作，還有質(zhì)疑實(shí)驗(yàn)結(jié)論的。”有同行還要求他從arX iv上撤稿。

這些聲音中，就包括谷歌研究員布萊斯等人最新發(fā)表的文章——— 《相面術(shù)的新外衣》。該文開頭指出，武筱林的研究將人類行為中存在的偏見帶入機(jī)器學(xué)習(xí)模型的開發(fā)過程中，“通過計(jì)算機(jī)算法對(duì)人類偏見的‘洗白’可能會(huì)使這些偏見看來是客觀的?！?/p>

“武筱林的研究最讓人不安的是，它讓人群高低貴賤之分的這種說法再次復(fù)蘇并且予以證明，是科學(xué)種族主義?！辈既R斯等人擔(dān)憂人工智能和機(jī)器學(xué)習(xí)的快速發(fā)展可能使科學(xué)種族主義進(jìn)入了一個(gè)新的時(shí)代，“讓機(jī)器習(xí)得人類的偏見。”

對(duì)于武的研究的實(shí)用性，布萊斯等人認(rèn)為，“可能讓一名人類法官將圖像從微笑到皺眉來排個(gè)序，也可以很好地將‘非罪犯’與‘犯罪分子’區(qū)別開來?！?/p>

針對(duì)上述觀點(diǎn)，武筱林在回應(yīng)南都記者時(shí)表示，“對(duì)于純粹的科學(xué)問題，我們歡迎一起討論?！?/p>

“但谷歌研究者將我們的上下文割裂了。我們的研究設(shè)定的邊界是證明機(jī)器學(xué)習(xí)的相關(guān)性。我們已經(jīng)討論過的數(shù)據(jù)的風(fēng)險(xiǎn)和采取的措施并反復(fù)核查，這也被谷歌的研究者忽略了?！蔽潴懔址Q。

針對(duì)布萊斯等人的“科學(xué)種族主義”批評(píng)，武筱林表示，“他們對(duì)科學(xué)種族主義的指責(zé)毫無根據(jù)。事實(shí)上，我們?cè)谶M(jìn)步的社會(huì)價(jià)值觀上與這些作者沒有什么不同?！?/p>

武筱林告訴南都記者，近期他將盡快用英文正式回復(fù)谷歌研究員質(zhì)疑。

專家觀點(diǎn)

“該研究在法律上不具有參考意義”

人像識(shí)別在人工智能時(shí)代越來越成為社會(huì)關(guān)注重點(diǎn)。針對(duì)武筱林的研究是否科學(xué)與應(yīng)用前景，中國(guó)政法大學(xué)刑事司法學(xué)院教授曲新久對(duì)南都記者表示，該研究成果“在法律上不具有參考的意義”。

“在刑事偵查中，公安機(jī)關(guān)早已采用圖像識(shí)別技術(shù)尋找犯罪嫌疑人，但這種‘面部識(shí)別術(shù)’僅僅用于鑒定某個(gè)人的身份，在法律上，根據(jù)嫌疑人的長(zhǎng)相特征來判定犯罪的可能性大小是不被允許的。”曲新久說。

一位不愿具名的計(jì)算機(jī)科學(xué)領(lǐng)域的研究人員對(duì)南都記者表示，把人臉特征作為判斷犯罪的依據(jù)不具有科學(xué)性?！皬恼撐谋旧淼难芯糠绞絹砜矗@是一種單純的數(shù)據(jù)挖掘和探索，即從數(shù)據(jù)直接關(guān)聯(lián)標(biāo)簽，但數(shù)據(jù)與標(biāo)簽之間不存在有力的理論支撐。這種做法其實(shí)在數(shù)據(jù)挖掘領(lǐng)域已經(jīng)有過很多嘗試，而且一般也都是作為數(shù)據(jù)間某種關(guān)聯(lián)的一種啟發(fā)，不是作為最終判定依據(jù)。所以，對(duì)于這篇論文的結(jié)論的定位問題，如果只是作為數(shù)據(jù)挖掘中的一種探索，可以接受，但如果就因此認(rèn)定人臉是判斷犯罪的依據(jù)，無法接受?！?/p>

他表示，目前人工智能領(lǐng)域還做不到“看臉識(shí)別罪犯”，但即使未來技術(shù)上能做到，也不能“全看臉”。

“這種研究?jī)?nèi)容是需要考慮很多其他因素的，如社會(huì)因素、心理因素等，而不是簡(jiǎn)單地從臉推斷是否為罪犯的概率。嚴(yán)肅點(diǎn)說，這種做法其實(shí)是很淺顯且不負(fù)責(zé)任的?！痹撗芯咳藛T稱。

對(duì)話

研究者武筱林：

“結(jié)論不是百分之百正確，但本著科學(xué)的精神在做”

南都：看到谷歌研究員的這篇文章你的第一反應(yīng)是?

武筱林：我把對(duì)方的文章完整地讀下來了。我對(duì)他們‘?dāng)嗾氯×x’這種有失學(xué)術(shù)公正精神的做法感到非常失望。今天下午我與同事、學(xué)生在會(huì)議上也討論了這個(gè)事情，不是說對(duì)方文章中所有的指責(zé)都是錯(cuò)的，但他們忽略我們研究的上下文、居高臨下進(jìn)行道德審判這讓人很不舒服。

南都：你怎么看谷歌研究員文章中對(duì)你們的批評(píng)?

武筱林：對(duì)方故意隱瞞了我們文章很多說明性的文字以及關(guān)鍵性的實(shí)驗(yàn)，比方數(shù)據(jù)過濾的問題。其實(shí)這個(gè)問題我們是排查過的，做過隨機(jī)標(biāo)記測(cè)試。當(dāng)然我們的東西不是百分之百正確，但團(tuán)隊(duì)本著科學(xué)的精神做了當(dāng)時(shí)知道的、能夠做的所有的驗(yàn)證。

南都：網(wǎng)友的觀點(diǎn)是研究樣本量有些小。

武筱林：更多犯罪者的數(shù)據(jù)公安部門才有。這1856個(gè)樣本我們是做了相當(dāng)大的努力，從公安部、各省公安廳的通緝犯等網(wǎng)頁或公共渠道獲取的。因?yàn)榇嬖陔[私的問題，目前研究存在一些阻力，更多的數(shù)據(jù)相關(guān)部門不便提供。我們想推進(jìn)，苦于沒有數(shù)據(jù)。

南都：當(dāng)時(shí)發(fā)起研究的背景是什么?總共花了多少時(shí)間進(jìn)行研究?

武筱林：我們的本質(zhì)研究是圖像分析。這幾年人工智能、人像處理和在人臉識(shí)別上都有長(zhǎng)足的進(jìn)步。這個(gè)研究我們前后投入了兩年時(shí)間。

南都：2015年實(shí)驗(yàn)結(jié)果就出來了，為什么當(dāng)時(shí)沒有發(fā)布而推遲了一年?

武筱林：對(duì)，一年間我們有進(jìn)行反復(fù)的推敲和認(rèn)證。是不是罪犯從臉上的特征是很難去區(qū)分的，我們本來是想“證偽”，相由心生這種事我們本來是不相信的。結(jié)果剛出來時(shí)我們也很驚訝。

南都：選擇在arX iv上提前發(fā)布的原因是?

武筱林：這是很常規(guī)的做法，提前公布自己的研究成果。因?yàn)樵趪?guó)際上這方面的研究還是比較有競(jìng)爭(zhēng)力的，所以就先發(fā)表了。但這并不是急功近利，因?yàn)楹荛L(zhǎng)時(shí)間我們都沒有公布這個(gè)結(jié)果。

南都：你對(duì)“相面術(shù)”怎么看?

武筱林：我也是受過教育的人，也反對(duì)歧視。但純粹的科學(xué)問題，就應(yīng)該用科學(xué)的態(tài)度。

南都：谷歌研究員指出你們文末提到了對(duì)“研究結(jié)論感到興奮”。

武筱林：“當(dāng)時(shí)用了一個(gè)錯(cuò)誤的詞‘excited’。我們當(dāng)時(shí)認(rèn)為，研究也許會(huì)對(duì)社會(huì)心理學(xué)、管理學(xué)、犯罪學(xué)有啟示，讓相關(guān)領(lǐng)域的專家去探究真正的原因和解釋。但有意義不是說用來對(duì)人進(jìn)行歧視。只是說可能有這種相關(guān)性，比方說犯罪分子具有這種面貌特征，有可能是此前受到歧視被社會(huì)歧視邊緣化，最后走向犯罪道路。我們的研究結(jié)論，其實(shí)恰恰可以用來作為反樣貌歧視的根據(jù)。

采寫：南都記者 嵇石 實(shí)習(xí)生 黃馳波 梁耀丹