1月18日，國家工業(yè)信息安全發(fā)展研究中心AI國檢中心發(fā)布《人臉識(shí)別系統(tǒng)安全評(píng)測(cè)研究報(bào)告》。《報(bào)告》顯示，騰訊云、京東科技、商湯科技、曠視科技、海康威視、的盧深視成為首批通過人臉識(shí)別系統(tǒng)安全測(cè)評(píng)的企業(yè)。
近年來，作為人工智能領(lǐng)域最具商業(yè)價(jià)值的技術(shù)方向，人臉識(shí)別在安防、金融、交通、教育等領(lǐng)域?qū)崿F(xiàn)廣泛應(yīng)用，但在技術(shù)和應(yīng)用層面仍存在安全挑戰(zhàn)，漏洞攻擊、數(shù)據(jù)泄露、技術(shù)濫用等問題屢屢成為社會(huì)焦點(diǎn)。因此，作為人工智能領(lǐng)域國家級(jí)檢測(cè)機(jī)構(gòu)，AI國檢中心就人臉識(shí)別系統(tǒng)安全啟動(dòng)測(cè)評(píng)工作，對(duì)市場(chǎng)主流人臉識(shí)別產(chǎn)品實(shí)施監(jiān)督檢驗(yàn)，規(guī)范人臉識(shí)別產(chǎn)業(yè)健康發(fā)展。
據(jù)悉，這是首個(gè)人臉識(shí)別系統(tǒng)安全能力的國家檢測(cè)與評(píng)估，依據(jù)《信息技術(shù)生物特征識(shí)別人臉識(shí)別系統(tǒng)技術(shù)要求》《信息安全技術(shù)人臉比對(duì)模型安全技術(shù)規(guī)范》等現(xiàn)行和在研的有關(guān)國家和行業(yè)標(biāo)準(zhǔn)，通過呈現(xiàn)攻擊、注入攻擊等技術(shù)手段對(duì)人臉識(shí)別產(chǎn)品和服務(wù)進(jìn)行全方位的測(cè)試，有效評(píng)估人臉識(shí)別安全風(fēng)險(xiǎn)。
“人臉識(shí)別系統(tǒng)安全風(fēng)險(xiǎn)主要涵蓋算法安全、數(shù)據(jù)安全和應(yīng)用軟件安全等維度。”國家工信安全中心人工智能所副所長劉永東介紹，本次測(cè)評(píng)對(duì)人臉識(shí)別系統(tǒng)的安全風(fēng)險(xiǎn)提供明確測(cè)試方法，包括算法層面的抗惡意攻擊檢測(cè)，軟件層面的靜態(tài)代碼安全測(cè)試、注入攻擊測(cè)試和程序數(shù)據(jù)掃描等。
“測(cè)試過程中我們發(fā)現(xiàn)諸多問題。首先，對(duì)人臉識(shí)別身份認(rèn)證系統(tǒng)的安全評(píng)估，不能采用同一尺度衡量。不同場(chǎng)景對(duì)技術(shù)安全性判定規(guī)則應(yīng)加以區(qū)分。”國家工業(yè)信息安全發(fā)展研究中心人工智能所圖像檢測(cè)室負(fù)責(zé)人朱倩倩說，以門禁通行和金融支付為例，門禁閘機(jī)注重通行效率，對(duì)安全性要求相對(duì)較低，金融支付則非常高。從應(yīng)用角度而言，沒有百分之百安全的技術(shù)，所以高風(fēng)險(xiǎn)場(chǎng)景應(yīng)采用多重身份認(rèn)證方式。此外，由于人臉識(shí)別技術(shù)采用深度學(xué)習(xí)結(jié)合大數(shù)據(jù)訓(xùn)練模式，受呈現(xiàn)攻擊測(cè)試樣本量數(shù)據(jù)限制，檢測(cè)不能完全覆蓋各種不安全情況，建議采用與人臉識(shí)別相匹配的數(shù)據(jù)庫規(guī)模測(cè)試，結(jié)合呈現(xiàn)攻擊測(cè)試的方式，綜合判定人臉識(shí)別系統(tǒng)安全性。
朱倩倩介紹，針對(duì)上述問題，AI國檢中心將研究應(yīng)用場(chǎng)景安全等級(jí)，按照不同場(chǎng)景、不同功能、不同應(yīng)用階段劃分人臉識(shí)別安全等級(jí)，研制技術(shù)和應(yīng)用安全測(cè)評(píng)標(biāo)準(zhǔn)。持續(xù)提高檢測(cè)水平，研究測(cè)試樣本差異，為企業(yè)提供高水準(zhǔn)測(cè)試服務(wù)，幫助企業(yè)找到安全問題，提出改進(jìn)及優(yōu)化建議。
目前，對(duì)人臉識(shí)別技術(shù)的規(guī)范和管理早已成為全球關(guān)注的重點(diǎn)。美國、歐盟相繼推出《人臉識(shí)別和生物特征識(shí)別技術(shù)禁令法案》《通用數(shù)據(jù)保護(hù)條例》等監(jiān)管政策，同時(shí)主導(dǎo)多項(xiàng)人臉識(shí)別國際標(biāo)準(zhǔn)。我國則提出發(fā)展與安全并重的理念，多措并舉推進(jìn)人臉安全應(yīng)用，逐步牽頭引領(lǐng)部分標(biāo)準(zhǔn)制訂，在公安和金融等領(lǐng)域先行構(gòu)建規(guī)范。本次測(cè)評(píng)工作為進(jìn)一步完善人臉識(shí)別標(biāo)準(zhǔn)體系、推動(dòng)產(chǎn)業(yè)規(guī)范發(fā)展提供有力支撐，通過測(cè)評(píng)的企業(yè)也將參與后續(xù)的標(biāo)準(zhǔn)編制工作。
人臉識(shí)別具有高度的社會(huì)屬性，應(yīng)在法治框架下開展協(xié)同治理。如何貫徹落實(shí)政策法規(guī)要求？北京瑞萊智慧科技有限公司高級(jí)副總裁朱萌認(rèn)為，技術(shù)廠商可聯(lián)手律師事務(wù)所，針對(duì)數(shù)字經(jīng)濟(jì)時(shí)代新場(chǎng)景下監(jiān)管機(jī)構(gòu)的合規(guī)要求，對(duì)內(nèi)健全技術(shù)合規(guī)體系建設(shè)，對(duì)外輸出應(yīng)用合規(guī)咨詢服務(wù)，比如培育數(shù)據(jù)安全咨詢、數(shù)據(jù)保護(hù)設(shè)計(jì)與數(shù)據(jù)安全管理等服務(wù)，從技術(shù)和業(yè)務(wù)流程角度提供完整安全保障解決方案。
責(zé)任編輯：Rex_08
營業(yè)執(zhí)照公示信息