對抗樣本攻擊、模型后門、模型竊取…人工智能產(chǎn)業(yè)的發(fā)展也帶來了特有的新風(fēng)險。隨著產(chǎn)業(yè)進(jìn)程的深入，這些安全風(fēng)險的邊界也迅速擴(kuò)散，逐步蔓延至金融、互聯(lián)網(wǎng)、安防、城市和社會治理各個領(lǐng)域。

如果可以模擬真實網(wǎng)絡(luò)環(huán)境，演練“攻擊”與“防守”尋找新漏洞，是不是就能有效應(yīng)對不斷出現(xiàn)的新型攻擊手段？并未雨綢繆提前補上漏洞？

11月11日，瑞萊智慧發(fā)布了人工智能安全靶場RealRange，提供提供實戰(zhàn)化、體系化的一站式人工智能攻防演練服務(wù)支撐。

瑞萊智慧人工智能安全靶場RealRange

北京瑞萊智慧科技有限公司成立于2018年7月，是清華大學(xué)人工智能研究院發(fā)起成立的科技成果轉(zhuǎn)化企業(yè)，致力于提供安全可控人工智能基礎(chǔ)設(shè)施平臺與解決方案。中國科學(xué)院院士、清華大學(xué)人工智能研究院名譽院長張鈸和清華大學(xué)計算機系教授朱軍共同擔(dān)任公司首席科學(xué)家，清華大學(xué)計算機系博士田天出任CEO。

“隨著人工智能安全態(tài)勢不斷演化，新型攻擊手段不斷出現(xiàn)，單點產(chǎn)品只能解決滯后問題，對于未知威脅無法進(jìn)行風(fēng)險預(yù)判和策略調(diào)整，同時作為新興領(lǐng)域，行業(yè)普遍面臨專業(yè)人才不足與實戰(zhàn)經(jīng)驗匱乏的雙重困境。鑒于此，打造動態(tài)演化、科學(xué)調(diào)整的安全防御體系成為核心需求，也促使人工智能攻防靶場成為一項重要的新型基礎(chǔ)設(shè)施，”瑞萊智慧副總裁唐家渝表示。

具體來說，即是通過預(yù)設(shè)訓(xùn)練場景模型，構(gòu)建真實網(wǎng)絡(luò)環(huán)境的人工智能實戰(zhàn)攻防演練，通過“實戰(zhàn)化、模塊化”的平臺服務(wù)，幫助政企機構(gòu)企業(yè)開展安全能力體系檢驗評估，實現(xiàn)精準(zhǔn)挖掘薄弱環(huán)節(jié)、驗證攻防能力、敏捷迭代防御體系等能力。

7月12日，工信部官網(wǎng)發(fā)布《網(wǎng)絡(luò)安全產(chǎn)業(yè)高質(zhì)量發(fā)展三年行動計劃（2021-2023年）（征求意見稿）》，將“構(gòu)建人工智能安全靶場”列為重點投入方向。

唐家渝介紹道，人工智能安全靶場RealRange類似于“演兵場”，安全靶場通過攻防實戰(zhàn)演練將風(fēng)險暴露前置，提前發(fā)現(xiàn)和適應(yīng)不斷升級、瞬息萬變的新型攻擊和高級威脅，動態(tài)提升團(tuán)隊軟實力，快速彌補技術(shù)水平與經(jīng)驗的不足，實現(xiàn)“讓風(fēng)險發(fā)生在靶場，讓有效防御構(gòu)建在安全事件之前”。

據(jù)悉，該平臺集“學(xué)、練”為一體，包含攻擊靶場、防御靶場、攻防演練三大功能模塊。“攻防靶場”內(nèi)置不同維度、不同難度的攻防靶標(biāo)與最新的攻防算法；“攻防演練模塊”支持針對人臉識別、圖像分類等不同應(yīng)用場景開展攻防演練，同時平臺可自動化評估攻防兩端能力，以攻防態(tài)勢的可視化功能直觀反饋實時戰(zhàn)況。

具體來看，該靶場平臺具備三大特點：場景豐富：集成多種典型應(yīng)用場景、攻防靶標(biāo)、攻防工具，有效支撐各類業(yè)務(wù)場景下的攻防演練；容易上手：內(nèi)置難度由低到高的分階靶場體系，進(jìn)階式學(xué)練體系，無需具備專業(yè)AI安全知識也能快速上手；擴(kuò)展靈活：模塊化設(shè)計支持靈活構(gòu)建各類演練場景，級聯(lián)設(shè)計支持靈活擴(kuò)展各種演練規(guī)模。

唐家渝說道，“該靶場平臺基于瑞萊智慧在模型攻防領(lǐng)域深厚的技術(shù)積累，包括白盒攻擊、黑盒遷移攻擊等前沿對抗技術(shù)以及與清華大學(xué)、阿里安全聯(lián)合研發(fā)的AI對抗攻防基準(zhǔn)，將團(tuán)隊長期在攻防、競賽、實戰(zhàn)過程中形成的實踐經(jīng)驗內(nèi)化于平臺之中。他透露，平臺下一步將基于橫向的通用計算機視覺任務(wù)，打造身份驗證、自動駕駛等縱向細(xì)分領(lǐng)域的個性化定制方案。”

瑞萊智慧是安全可控人工智能基礎(chǔ)設(shè)施平臺和解決方案提供商，團(tuán)隊曾獲2017NIPS對抗攻防競賽、2018 世界頂級黑客大會DEFCON的CAAD CTF對抗攻防邀請賽、2019 國際安全極客安全大賽GeekPwn“CAAD CTF圖像對抗樣本挑戰(zhàn)賽”及 “CAAD隱身挑戰(zhàn)賽”等多項世界級AI安全大賽冠軍。