想了解刷臉支付，或者支付通道的朋友，歡迎撥打咨詢熱線：400 0591 498 或者點(diǎn)擊留言，498科技免費(fèi)為大家提供咨詢和解答。

全新的AI安全挑戰(zhàn)賽

10月24日上午，“AI變臉口罩挑戰(zhàn)賽”率先開始。賽題靈感來自于現(xiàn)實(shí)生活：在疫情的影響下，口罩已成為出行的必備物品。那么，它能否成為極客們的破解道具?在比賽中，4支戰(zhàn)隊(duì)的選手需要戴上口罩，讓人臉識(shí)別系統(tǒng)把自己識(shí)別成目標(biāo)人物。

舞臺(tái)上擺放著經(jīng)過改造的自動(dòng)售貨機(jī)和ATM機(jī)，兩臺(tái)機(jī)器都加裝了人臉識(shí)別系統(tǒng)。不同的是，自動(dòng)售貨機(jī)使用的是“白盒算法”，即2019年IEEE國際計(jì)算機(jī)視覺與模式識(shí)別會(huì)議提出的ArcFace算法，前兩輪挑戰(zhàn)的目標(biāo)人物依次是蔣昌建、漫威人物黑寡婦。ATM機(jī)使用的則是“黑盒”算法，目標(biāo)人物依次是馬斯克、漫威人物美國隊(duì)長。選手不知道具體的模型參數(shù)，挑戰(zhàn)難度更高。

每輪挑戰(zhàn)限時(shí)150秒。計(jì)時(shí)開始，4隊(duì)選手們依次沖到機(jī)器前，不斷調(diào)整著口罩位置和面孔角度。南都記者看到，選手們準(zhǔn)備的口罩風(fēng)格各異：有些相當(dāng)寫實(shí)，選手戴上后，肉眼看上去真的和目標(biāo)人物有幾分相似;有些則“簡單粗暴”，僅僅是隱約能看出口鼻形狀的像素色塊。

極棒實(shí)驗(yàn)室負(fù)責(zé)人王海兵解釋說，這是因?yàn)槿四樧R(shí)別系統(tǒng)的認(rèn)人方式跟人類不一樣。對(duì)機(jī)器來說，只要一張人臉的主要特征值符合后臺(tái)數(shù)據(jù)，就會(huì)被判定是本人。也就是說，哪怕只是一堆像素，機(jī)器能讀出特征值就行。舞臺(tái)后方的大屏幕上實(shí)時(shí)顯示著選手挑戰(zhàn)的置信度，即機(jī)器“眼中”人臉特征值的吻合程度。南都記者發(fā)現(xiàn)，當(dāng)選手戴上不同口罩、采用不同姿態(tài)時(shí)，置信度也在快速地發(fā)生變化。

由于舞臺(tái)環(huán)境和光線的影響，整個(gè)比賽進(jìn)展得不如預(yù)賽順利，但還是有一支戰(zhàn)隊(duì)在ATM機(jī)前成功“化身”馬斯克——系統(tǒng)判斷置信度達(dá)標(biāo)后，取鈔口應(yīng)時(shí)而開，一張紙片掉落在地上。蔣昌建撿起一看：“哇，美元!”觀眾席又是一陣笑聲。

變臉與假臉識(shí)別

如果說“口罩變臉”是相對(duì)超前的科學(xué)設(shè)想，那么下午進(jìn)行的“虛假人臉AI識(shí)別大賽”，要解決的則是“AI換臉”帶來的一系列緊迫現(xiàn)實(shí)問題：電信詐騙、財(cái)產(chǎn)盜刷、偽造色情視頻……在美國，“AI換臉”甚至已被用于選戰(zhàn)。

2019年，F(xiàn)acebook、微軟、亞馬遜、麻省理工等知名企業(yè)、高校，曾聯(lián)合發(fā)起一場(chǎng)針對(duì)AI換臉視頻檢測(cè)的挑戰(zhàn)賽。挑戰(zhàn)賽于今年3月31日結(jié)束，但仍然留下了一些亟待解決的問題。因此，今年的GeekPwn再度設(shè)置同類的比賽，希望幫助選手更好地調(diào)優(yōu)或精簡自身的訓(xùn)練模型，提升AI檢測(cè)方面的技術(shù)突破，與各方共同推動(dòng)更好的虛假人臉檢測(cè)方法出現(xiàn)。

比賽要求選手開發(fā)AI檢測(cè)方法，快速、高效地識(shí)別出圖像以及視頻中的虛假人臉。這些假臉由DeepFakes、Face2Face、FaceSwap、CycleGAN等AI技術(shù)或它們的變體生成。為了增加比賽的對(duì)抗性，主辦方還設(shè)計(jì)了攻防環(huán)節(jié)：每隊(duì)選手既要用自家的AI模型識(shí)別出其他隊(duì)伍的假臉，又要用假臉騙過其他隊(duì)伍的AI模型。

相較于上午的比賽，這場(chǎng)比賽更符合極客們的破解常態(tài)：5隊(duì)選手各自守在電腦前，操作AI模型生成假臉、展開攻防——當(dāng)然，表面的波瀾不驚之下，是更加激烈的暗戰(zhàn)，最終獲勝的是TSAIL戰(zhàn)隊(duì)。

普通人還能安心地曬照片嗎?

極棒實(shí)驗(yàn)室負(fù)責(zé)人王海兵告訴南都記者，以往的人臉識(shí)別破解主要在線上進(jìn)行，選手們只需要通過人臉照片完成“數(shù)字攻擊”。而今年的比賽中要戴著口罩去刷臉，相當(dāng)于“數(shù)字攻擊+物理攻擊”，制約要素更多，現(xiàn)實(shí)環(huán)境的影響更大。

在比賽現(xiàn)場(chǎng)，蔣昌建半開玩笑地提醒觀眾不要隨便在網(wǎng)上發(fā)照片，不然可能會(huì)像他一樣被換臉。近幾年，AI換臉信息確實(shí)越來越多，而且已經(jīng)有不法分子繞過金融類應(yīng)用風(fēng)控機(jī)制的真實(shí)案例。在這樣的情況下，普通人還能安心地曬照片嗎?就此，王海兵也給出專業(yè)建議。他說，目前來看，商業(yè)人臉識(shí)別算法的可靠度和安全性還是可以的，AI換臉一般無法輕易突破。曬照片帶來的家庭地址、行蹤軌跡等隱私信息泄露的風(fēng)險(xiǎn)，其實(shí)遠(yuǎn)遠(yuǎn)高于換臉的風(fēng)險(xiǎn)——一個(gè)保護(hù)隱私和安全的小訣竅是不要發(fā)原圖，經(jīng)過壓縮后，圖片信息會(huì)大大減少。

“至少公眾現(xiàn)在可以暫時(shí)放心”，王海兵說。但他也強(qiáng)調(diào)，對(duì)潛在風(fēng)險(xiǎn)要給予足夠的警惕。“我們希望告訴大家有這樣一個(gè)風(fēng)險(xiǎn)的存在，從而通過研究去避免風(fēng)險(xiǎn)的發(fā)生。否則，等到將來風(fēng)險(xiǎn)真的發(fā)生時(shí)再去認(rèn)識(shí)它，可能就來不及了?！?/p>

典型案例

破解智能攝像頭 耗時(shí)不到一分鐘　極客坐在上海看到了北京的畫面

你是否想象過這樣的場(chǎng)景：在上海，一名極客敲打了幾下鍵盤，就成功控制了某個(gè)在北京的攝像頭，并觀看到了實(shí)時(shí)畫面呢?10月24日，2020國際安全極客大賽(GeekPwn 2020)在上海舉行，4名極客試圖在現(xiàn)場(chǎng)遠(yuǎn)程控制一個(gè)在北京的智能攝像頭。挑戰(zhàn)進(jìn)行不到一分鐘，現(xiàn)場(chǎng)評(píng)委就喊出了“攻擊成功”。隨即，選手的手機(jī)上出現(xiàn)了遠(yuǎn)在北京的攝像頭所拍攝到的畫面。

GeekPwn大賽評(píng)委、滴滴美研所安全專家王宇解釋了破解的流程：智能攝像頭有云端控制系統(tǒng)，選手通過攻擊控制了系統(tǒng)和設(shè)備之間的接口，并用偽造的攝像頭取代了真實(shí)的攝像頭。他進(jìn)一步舉例說明，手機(jī)上有App可以監(jiān)控?cái)z像頭的狀態(tài)，選手就是偽造了一個(gè)類似的假終端，從而讀取了攝像頭的數(shù)據(jù)。而且，王宇說，選手在控制云端系統(tǒng)后，還能通過“枚舉”的方式，去嘗試攻擊其他連接同一個(gè)云端的攝像頭，如果是銷售規(guī)模比較大的品牌，一個(gè)云端可能連接著幾十萬個(gè)攝像頭。

近年來，攝像頭的應(yīng)用場(chǎng)景越來越廣泛，除了普通人的家里，停車場(chǎng)等公共場(chǎng)合也出現(xiàn)了越來越多的智能攝像頭，它們都面臨同樣的技術(shù)風(fēng)險(xiǎn)：“一些攻擊可能針對(duì)的是某些敏感場(chǎng)所的攝像頭，結(jié)合一些其他技術(shù)手段，攻擊者就能從視頻上采集出更多信息?！蓖跤钫f。

在過往多年的極客大賽舞臺(tái)上，破解攝像頭多次作為挑戰(zhàn)項(xiàng)目出現(xiàn)。王宇認(rèn)為，攝像頭的安全問題層出不窮，“可能有一些老的廠商，在前幾年被攻破過，已經(jīng)開始注意這方面的問題。但是一些新入行的廠商還沒有開始重視，哪怕之前的廠商已經(jīng)改得很好了，但是新入行的廠商可能還是會(huì)把犯過的錯(cuò)再犯一遍，挺麻煩的?！?/p>

那么，作為普通人，我們應(yīng)該怎么預(yù)防攝像頭被入侵呢?王宇提醒，消費(fèi)者可以在購買智能攝像頭時(shí)選擇更“成熟”廠商的產(chǎn)品，并且及時(shí)按照廠商的要求更新攝像頭的軟件版本。因?yàn)橛袝r(shí)候升級(jí)是源于廠商修復(fù)了一些漏洞，“如果遲遲不升級(jí)，這個(gè)風(fēng)險(xiǎn)實(shí)際上是由我們來承擔(dān)?！?/p>