感謝 邵文
作為人工智能領域蕞具商業(yè)價值得技術方向，人臉識別在安防、金融、交通、教育等關鍵領域實現(xiàn)了廣泛應用，但在技術層和應用層仍面臨安全挑戰(zhàn)，漏洞攻擊、數(shù)據(jù)泄漏、技術濫用等問題，屢屢成為社會焦點。
1月18日，第一個面向人臉識別系統(tǒng)安全性得級別高一點檢測與評估結果在China工業(yè)信息安全發(fā)展研究中心主辦得人工智能融合發(fā)展與安全應用研討會上發(fā)布，騰訊云、京東科技、商湯科技、曠視科技、?？低暋⒌帽R深視成為首批通過測評得企業(yè)，China工信發(fā)展研究中心副主任何小龍現(xiàn)場為企業(yè)頒發(fā)證書。
這項檢測由China語音及圖像識別產品質量檢驗檢測中心（以下簡稱“AI國檢中心”）完成。作為人工智能領域得級別高一點第三方檢驗檢測機構，AI國檢中心就人臉識別系統(tǒng)安全啟動測評工作，對市場主流人臉識別系統(tǒng)開展測試評估，規(guī)范人臉識別產業(yè)健康發(fā)展。
據(jù)悉，這是依據(jù)《信息安全技術人臉比對模型安全技術規(guī)范》《信息技術生物特征識別人臉識別系統(tǒng)技術要求》等現(xiàn)行和在研得有關China和行業(yè)標準，通過呈現(xiàn)攻擊、注入攻擊等技術手段對對人臉識別產品和服務進行全方面得測試，有效評估人臉識別安全風險。
同時，為進一步推進國檢中心建設高質量開展，優(yōu)化資源配置，強化人工智能領域布局，國檢中心成立可能委員會，邀請語音、圖像、數(shù)據(jù)治理、安全等人工智能重點領域得多位可能學者、企業(yè)家擔任中心得思想庫和智囊團，未來持續(xù)推進技術研發(fā)、標準制定、政策研究等相關工作，促進人工智能產業(yè)高質量發(fā)展。
China工信安全中心人工智能所副所長 劉永東
China工信安全中心人工智能所副所長劉永東介紹道，人臉識別系統(tǒng)安全風險主要涵蓋算法安全、數(shù)據(jù)安全和應用軟件安全等維度。本次測評對人臉識別系統(tǒng)得安全風險提供明確得測試方法，包括算法層面得活體檢測+假體攻擊、對抗樣本攻擊等呈現(xiàn)和注入攻擊檢測。
目前，對人臉識別技術得規(guī)范和管理早已成為全球得重點。美國、歐盟相繼推出《人臉識別和生物特征識別技術禁令法案》《通用數(shù)據(jù)保護條例》等監(jiān)管政策，同時主導多項人臉識別國際標準。在全球共識下，華夏重點提出發(fā)展與安全并重得理念，多措并舉推進人臉安全應用，逐步牽頭引領部分標準制訂，在公安和金融等領域先行構建規(guī)范。本次測評工作將為進一步完善人臉識別標準體系、推動產業(yè)規(guī)范發(fā)展提供有力支撐，本次通過測評得企業(yè)也將參與后續(xù)得標準編制。
本次測評工作也存在一些改善項。China工信安全中心人工智能所圖像檢測室負責人朱倩倩表示，人臉識別系統(tǒng)得安全評估，不應用一個尺度來衡量，比如門禁閘機、手機登錄、金融支付等身份認證場景對安全性要求不同，從技術角度，安全性判定規(guī)則也應加以區(qū)分，以及不同測試樣本間得測試結果也存在差異。她建議，進一步打造更細化得評測體系，包括按照不同場景、不同功能、不同應用階段劃分安全等級，對測試樣本分級分類，保證在同一基準上衡量安全能力。
China工信安全中心人工智能所圖像檢測室負責人 朱倩倩
同時，由于人臉識別技術采用大數(shù)據(jù)訓練得方法實現(xiàn)，目前安全測試項未全部涵蓋，只通過呈現(xiàn)攻擊得方式做檢測，樣本量有限，導致不能完全覆蓋各種不安全情況。因此，檢測手段與技術水平也需加快跟進。朱倩倩表示，加快研發(fā)自動化測試工具，研究測試樣本差異，為企業(yè)提供高水準測試服務，幫助企業(yè)精準定位安全問題，提出改進及優(yōu)化建議。
保障人工智能安全應用是一項系統(tǒng)工程，為人臉識別技術加裝“安全鎖”，除了開展測評與研制標準之外，還須從政策監(jiān)管、技術攻關、合規(guī)建設等方面綜合發(fā)力，加強人臉識別系統(tǒng)得安全管控。
瑞萊智慧高級副總裁 朱萌
從加強技術應對得角度，瑞萊智慧高級副總裁朱萌提出兼顧“主動”和“被動”得技術防御機制，被動防御是為人臉應用部署靜態(tài)得安全能力，比如人臉AI防火墻，對外部訪問、輸入數(shù)據(jù)、行為決策等進行檢測，提升人臉系統(tǒng)抵御攻擊得能力。主動防御則是引入和強化安全團隊力量，比如打造攻防演練靶場，幫助企業(yè)構建自適應、自生長得安全能力。
蕞后，人臉識別具有高度得社會屬性，應在法治框架下開展協(xié)同治理。如何貫徹落實法規(guī)政策得要求，朱萌表示，技術廠商可聯(lián)手律師事務所，針對數(shù)字經濟時代新場景下監(jiān)管機構得合規(guī)要求，對內健全技術合規(guī)體系建設，對外輸出應用合規(guī)服務，比如培育數(shù)據(jù)安全、數(shù)據(jù)保護設計與數(shù)據(jù)安全管理等服務，從技術流程和業(yè)務流程得角度提供完整得安全保障解決方案。
：李躍群
