想了解刷臉支付，或者支付通道的朋友，歡迎撥打咨詢熱線：400 0591 498 或者點(diǎn)擊留言，498科技免費(fèi)為大家提供咨詢和解答。

全新的AI安全挑戰(zhàn)賽

10月24日上午，“AI變臉口罩挑戰(zhàn)賽”率先開(kāi)始。賽題靈感來(lái)自于現(xiàn)實(shí)生活：在疫情的影響下，口罩已成為出行的必備物品。那么，它能否成為極客們的破解道具?在比賽中，4支戰(zhàn)隊(duì)的選手需要戴上口罩，讓人臉識(shí)別系統(tǒng)把自己識(shí)別成目標(biāo)人物。

舞臺(tái)上擺放著經(jīng)過(guò)改造的自動(dòng)售貨機(jī)和ATM機(jī)，兩臺(tái)機(jī)器都加裝了人臉識(shí)別系統(tǒng)。不同的是，自動(dòng)售貨機(jī)使用的是“白盒算法”，即2019年IEEE國(guó)際計(jì)算機(jī)視覺(jué)與模式識(shí)別會(huì)議提出的ArcFace算法，前兩輪挑戰(zhàn)的目標(biāo)人物依次是蔣昌建、漫威人物黑寡婦。ATM機(jī)使用的則是“黑盒”算法，目標(biāo)人物依次是馬斯克、漫威人物美國(guó)隊(duì)長(zhǎng)。選手不知道具體的模型參數(shù)，挑戰(zhàn)難度更高。

每輪挑戰(zhàn)限時(shí)150秒。計(jì)時(shí)開(kāi)始，4隊(duì)選手們依次沖到機(jī)器前，不斷調(diào)整著口罩位置和面孔角度。南都記者看到，選手們準(zhǔn)備的口罩風(fēng)格各異：有些相當(dāng)寫(xiě)實(shí)，選手戴上后，肉眼看上去真的和目標(biāo)人物有幾分相似;有些則“簡(jiǎn)單粗暴”，僅僅是隱約能看出口鼻形狀的像素色塊。

極棒實(shí)驗(yàn)室負(fù)責(zé)人王海兵解釋說(shuō)，這是因?yàn)槿四樧R(shí)別系統(tǒng)的認(rèn)人方式跟人類不一樣。對(duì)機(jī)器來(lái)說(shuō)，只要一張人臉的主要特征值符合后臺(tái)數(shù)據(jù)，就會(huì)被判定是本人。也就是說(shuō)，哪怕只是一堆像素，機(jī)器能讀出特征值就行。舞臺(tái)后方的大屏幕上實(shí)時(shí)顯示著選手挑戰(zhàn)的置信度，即機(jī)器“眼中”人臉特征值的吻合程度。南都記者發(fā)現(xiàn)，當(dāng)選手戴上不同口罩、采用不同姿態(tài)時(shí)，置信度也在快速地發(fā)生變化。

由于舞臺(tái)環(huán)境和光線的影響，整個(gè)比賽進(jìn)展得不如預(yù)賽順利，但還是有一支戰(zhàn)隊(duì)在ATM機(jī)前成功“化身”馬斯克——系統(tǒng)判斷置信度達(dá)標(biāo)后，取鈔口應(yīng)時(shí)而開(kāi)，一張紙片掉落在地上。蔣昌建撿起一看：“哇，美元!”觀眾席又是一陣笑聲。

變臉與假臉識(shí)別

如果說(shuō)“口罩變臉”是相對(duì)超前的科學(xué)設(shè)想，那么下午進(jìn)行的“虛假人臉AI識(shí)別大賽”，要解決的則是“AI換臉”帶來(lái)的一系列緊迫現(xiàn)實(shí)問(wèn)題：電信詐騙、財(cái)產(chǎn)盜刷、偽造色情視頻……在美國(guó)，“AI換臉”甚至已被用于選戰(zhàn)。

2019年，F(xiàn)acebook、微軟、亞馬遜、麻省理工等知名企業(yè)、高校，曾聯(lián)合發(fā)起一場(chǎng)針對(duì)AI換臉視頻檢測(cè)的挑戰(zhàn)賽。挑戰(zhàn)賽于今年3月31日結(jié)束，但仍然留下了一些亟待解決的問(wèn)題。因此，今年的GeekPwn再度設(shè)置同類的比賽，希望幫助選手更好地調(diào)優(yōu)或精簡(jiǎn)自身的訓(xùn)練模型，提升AI檢測(cè)方面的技術(shù)突破，與各方共同推動(dòng)更好的虛假人臉檢測(cè)方法出現(xiàn)。

比賽要求選手開(kāi)發(fā)AI檢測(cè)方法，快速、高效地識(shí)別出圖像以及視頻中的虛假人臉。這些假臉由DeepFakes、Face2Face、FaceSwap、CycleGAN等AI技術(shù)或它們的變體生成。為了增加比賽的對(duì)抗性，主辦方還設(shè)計(jì)了攻防環(huán)節(jié)：每隊(duì)選手既要用自家的AI模型識(shí)別出其他隊(duì)伍的假臉，又要用假臉騙過(guò)其他隊(duì)伍的AI模型。

相較于上午的比賽，這場(chǎng)比賽更符合極客們的破解常態(tài)：5隊(duì)選手各自守在電腦前，操作AI模型生成假臉、展開(kāi)攻防——當(dāng)然，表面的波瀾不驚之下，是更加激烈的暗戰(zhàn)，最終獲勝的是TSAIL戰(zhàn)隊(duì)。

普通人還能安心地曬照片嗎?

極棒實(shí)驗(yàn)室負(fù)責(zé)人王海兵告訴南都記者，以往的人臉識(shí)別破解主要在線上進(jìn)行，選手們只需要通過(guò)人臉照片完成“數(shù)字攻擊”。而今年的比賽中要戴著口罩去刷臉，相當(dāng)于“數(shù)字攻擊+物理攻擊”，制約要素更多，現(xiàn)實(shí)環(huán)境的影響更大。

在比賽現(xiàn)場(chǎng)，蔣昌建半開(kāi)玩笑地提醒觀眾不要隨便在網(wǎng)上發(fā)照片，不然可能會(huì)像他一樣被換臉。近幾年，AI換臉信息確實(shí)越來(lái)越多，而且已經(jīng)有不法分子繞過(guò)金融類應(yīng)用風(fēng)控機(jī)制的真實(shí)案例。在這樣的情況下，普通人還能安心地曬照片嗎?就此，王海兵也給出專業(yè)建議。他說(shuō)，目前來(lái)看，商業(yè)人臉識(shí)別算法的可靠度和安全性還是可以的，AI換臉一般無(wú)法輕易突破。曬照片帶來(lái)的家庭地址、行蹤軌跡等隱私信息泄露的風(fēng)險(xiǎn)，其實(shí)遠(yuǎn)遠(yuǎn)高于換臉的風(fēng)險(xiǎn)——一個(gè)保護(hù)隱私和安全的小訣竅是不要發(fā)原圖，經(jīng)過(guò)壓縮后，圖片信息會(huì)大大減少。

“至少公眾現(xiàn)在可以暫時(shí)放心”，王海兵說(shuō)。但他也強(qiáng)調(diào)，對(duì)潛在風(fēng)險(xiǎn)要給予足夠的警惕。“我們希望告訴大家有這樣一個(gè)風(fēng)險(xiǎn)的存在，從而通過(guò)研究去避免風(fēng)險(xiǎn)的發(fā)生。否則，等到將來(lái)風(fēng)險(xiǎn)真的發(fā)生時(shí)再去認(rèn)識(shí)它，可能就來(lái)不及了。”

典型案例

破解智能攝像頭 耗時(shí)不到一分鐘　極客坐在上海看到了北京的畫(huà)面

你是否想象過(guò)這樣的場(chǎng)景：在上海，一名極客敲打了幾下鍵盤，就成功控制了某個(gè)在北京的攝像頭，并觀看到了實(shí)時(shí)畫(huà)面呢?10月24日，2020國(guó)際安全極客大賽(GeekPwn 2020)在上海舉行，4名極客試圖在現(xiàn)場(chǎng)遠(yuǎn)程控制一個(gè)在北京的智能攝像頭。挑戰(zhàn)進(jìn)行不到一分鐘，現(xiàn)場(chǎng)評(píng)委就喊出了“攻擊成功”。隨即，選手的手機(jī)上出現(xiàn)了遠(yuǎn)在北京的攝像頭所拍攝到的畫(huà)面。

GeekPwn大賽評(píng)委、滴滴美研所安全專家王宇解釋了破解的流程：智能攝像頭有云端控制系統(tǒng)，選手通過(guò)攻擊控制了系統(tǒng)和設(shè)備之間的接口，并用偽造的攝像頭取代了真實(shí)的攝像頭。他進(jìn)一步舉例說(shuō)明，手機(jī)上有App可以監(jiān)控?cái)z像頭的狀態(tài)，選手就是偽造了一個(gè)類似的假終端，從而讀取了攝像頭的數(shù)據(jù)。而且，王宇說(shuō)，選手在控制云端系統(tǒng)后，還能通過(guò)“枚舉”的方式，去嘗試攻擊其他連接同一個(gè)云端的攝像頭，如果是銷售規(guī)模比較大的品牌，一個(gè)云端可能連接著幾十萬(wàn)個(gè)攝像頭。

近年來(lái)，攝像頭的應(yīng)用場(chǎng)景越來(lái)越廣泛，除了普通人的家里，停車場(chǎng)等公共場(chǎng)合也出現(xiàn)了越來(lái)越多的智能攝像頭，它們都面臨同樣的技術(shù)風(fēng)險(xiǎn)：“一些攻擊可能針對(duì)的是某些敏感場(chǎng)所的攝像頭，結(jié)合一些其他技術(shù)手段，攻擊者就能從視頻上采集出更多信息。”王宇說(shuō)。

在過(guò)往多年的極客大賽舞臺(tái)上，破解攝像頭多次作為挑戰(zhàn)項(xiàng)目出現(xiàn)。王宇認(rèn)為，攝像頭的安全問(wèn)題層出不窮，“可能有一些老的廠商，在前幾年被攻破過(guò)，已經(jīng)開(kāi)始注意這方面的問(wèn)題。但是一些新入行的廠商還沒(méi)有開(kāi)始重視，哪怕之前的廠商已經(jīng)改得很好了，但是新入行的廠商可能還是會(huì)把犯過(guò)的錯(cuò)再犯一遍，挺麻煩的。”

那么，作為普通人，我們應(yīng)該怎么預(yù)防攝像頭被入侵呢?王宇提醒，消費(fèi)者可以在購(gòu)買智能攝像頭時(shí)選擇更“成熟”廠商的產(chǎn)品，并且及時(shí)按照廠商的要求更新攝像頭的軟件版本。因?yàn)橛袝r(shí)候升級(jí)是源于廠商修復(fù)了一些漏洞，“如果遲遲不升級(jí)，這個(gè)風(fēng)險(xiǎn)實(shí)際上是由我們來(lái)承擔(dān)。”