QQ在線
企業(yè)微信
資訊
537
數(shù)字時代是人工智能（AI）深度應用和發(fā)展的時代。AI的發(fā)展，正在以一日千里的速度改變著這個世界，并在交通、醫(yī)療、環(huán)境保護、城市管理等多個領域中，發(fā)揮著越來越不可替代的作用。但同時，AI的安全性問題，也成為了數(shù)字化發(fā)展進程中不可回避的問題。在數(shù)字經濟欣欣向榮的發(fā)展態(tài)勢下，安全被許多業(yè)內人士視為木桶上的那一塊“短板”。
如何讓安全為數(shù)字化發(fā)展“保駕護航”？8月6日，2021新京報貝殼財經夏季峰會——數(shù)字經濟時代的風險防控線上論壇舉行，螞蟻集團副總裁，螞蟻集團安全事業(yè)群總裁趙聞飆表示，可信人工智能的研究和落地或是抵御“數(shù)字化”風險的關鍵能力。
用可信AI解決智能化風險
伴隨著數(shù)字化經濟的發(fā)展，用戶在享受數(shù)字化帶來的便捷與普惠的同時，也面臨數(shù)字化背后的風險，如羊毛黨通過操縱多賬戶套取商戶營銷資金、個人用戶遭遇網絡欺詐、賬戶盜用等。“過去，我們一直重點談的是‘數(shù)字化’背后的風險和應對，而對‘智能化’背后的風險講得很少。因為當時行業(yè)普遍認為，人工智能技術的落地應用還相對有限。但事實上，早在六七年前，我們就在平常應對黑產攻擊中，發(fā)現(xiàn)了AI的痕跡。”趙聞飆表示。
新京報貝殼財經記者注意到，當下的確有越來越多的黑灰產團伙將AI等新技術投入到了薅羊毛、詐騙等非法活動中。如使用AI工具操控大量賬號進行違規(guī)操作、使用AI換臉技術試圖繞過人臉識別認證等。
這意味著伴隨人工智能技術的高速發(fā)展和加持，數(shù)字化背后的風險將持續(xù)加劇，并且演變?yōu)椤爸悄芑北澈蟮娘L險挑戰(zhàn)。
據(jù)了解，目前黑產作案越來越趨于多平臺、多鏈路、團隊化和智能化。這對行業(yè)協(xié)同、風險響應機制的速度和準確性提出了更高的要求，而且還需要切合“數(shù)字化浪潮”下社會對于隱私保護、技術倫理治理等多方面的需求。
在趙聞飆看來，要對抗“智能化”的風險，就需要“智能化”的手段，這也是“可信AI”技術進入快速發(fā)展階段的核心驅動力。可信AI技術要求人工智能技術應當具備可解釋性，以幫助人類理解和信賴他們的決策；具備魯棒性（robustness），以抵御黑產的攻擊，以保障計算和決策的穩(wěn)定性和效能；具備隱私保護的能力，以滿足社會和民眾對于個人數(shù)據(jù)資產保護的需求；具備公平性，強調決策結果的公平性，同時關注技術背后的社會責任和倫理治理。
“數(shù)字時代，安全是AI與AI的博弈，而可信AI，則是抵御風險的關鍵能力。”
面向可信AI技術的下一代風控體系“IMAGE”
據(jù)了解，螞蟻集團自2015年起投入可信AI技術的研究。2016年，全面啟動了人工智能風控防御戰(zhàn)略。目前，可信AI技術已在包括反欺詐、反洗錢、反盜用、企業(yè)聯(lián)合風控、數(shù)據(jù)隱私保護在內的多個風控場景下落地，支撐著其全風險域的防御需求。根據(jù)今年6月全球專利權威機構IPR Daily發(fā)布的報告，螞蟻集團目前擁有全球范圍內數(shù)量最多的“AI安全可信關鍵技術”專利，并上線部署了以“IMAGE”命名的下一代風控體系。它包含著“交互式風控”、“多方安全風控”、“智能決策”、“全圖風控”、“端云協(xié)同風控”五大組成部分。
趙聞飆表示，“全圖風控”技術能夠以“圖”的形態(tài)，聚合“動態(tài)發(fā)展變化的風險信息”，解決了傳統(tǒng)風控中只能依靠單一或靜態(tài)信息維度追蹤風險的困境，實現(xiàn)對風險變化趨勢的預測，提前遏制風險的發(fā)生。在反電詐等風控場景，對于打擊團伙型、多鏈路作案，具有重要意義。而“全圖式”的風險分析和追蹤形式，也對人工智能的“可解釋性”發(fā)展提供了更廣泛的空間。
而“多方安全風控”和“端云協(xié)同風控”則是“智能化”趨勢下，實現(xiàn)風控與隱私保護平衡發(fā)展的實踐探索。“多方安全風控”實現(xiàn)了在數(shù)據(jù)不交換的前提下，多企業(yè)、多平臺之間的聯(lián)合風控協(xié)作。“端云協(xié)同風控”的價值則是保障數(shù)據(jù)的使用和保有權真正屬于用戶。通過將風控模型部署在智能終端，如手機上，螞蟻的技術團隊建立起了一套“終端進行數(shù)據(jù)計算和決策、云端僅獲取決策結果”的風控模式。終端計算，意味著敏感信息被保留在用戶手中，規(guī)避了信息傳輸過程中可能出現(xiàn)的被攻擊風險。云端僅獲取決策，不僅保障了安全防御和風險控制不受影響，還節(jié)約了云端的計算資源。目前，“端云協(xié)同風控”已經被廣泛用于支付寶的日常風控中，在去年的雙十一期間，98%的風控決策都是在用戶智能終端上完成的。
趙聞飆在分享中強調，傳統(tǒng)風控受制于技術成本、數(shù)據(jù)規(guī)模和算法效能，許多場景還是專家經驗驅動，而不是數(shù)據(jù)智能驅動。“支付寶每天有數(shù)億筆交易，面對如此龐大的計算量，一旦決策產生延遲，就給了黑產可乘之機。” 通過人工智能與金融風控的深度融合，螞蟻安全實驗室打造了能夠實現(xiàn)“智能決策”的AI大腦——AlphaRisk。其能夠在零人工干預的全自動模式下，對風險進行毫秒級的響應。但更重要的是——AlphaRisk具備的自學習、自適應的能力，將極大地提升人工智能的抗打擊能力。AI大腦通過對每一次黑產攻擊行為的學習和研究，不斷提升防御手段，進行高效的自我進化。
在技術快速發(fā)展的同時，可信AI的公平性也考驗著研究者對社會責任的堅守。趙聞飆提到，早在2016年，螞蟻就成立了針對電信網絡詐騙的技術研究小組，借助包括“圖神經網絡”“博弈攻防”在內的一系列創(chuàng)新技術應用，極大地遏制了平臺電詐發(fā)生率。但許多騙子引導受害人轉而使用其他的支付渠道，社會欺詐問題仍舊嚴峻。如何依靠技術力量，真正將詐騙罪案止步于支付環(huán)節(jié)，成為研究的重點，“交互式風控”也因此應運而生。
貝殼財經記者注意到，區(qū)別于以往的安全風控模式，交互式主動風控的關鍵在于“主動”二字——傳統(tǒng)的安全往往依賴于已知風險模式，只有風險發(fā)生過，才知道如何預防，這也使得安全風控往往處于“被動防守”的態(tài)勢。
對此，趙聞飆表示，安全必須從靜態(tài)的被動防守，轉變?yōu)閯討B(tài)的主動對抗，特別是金融安全。“以交互式風控產品‘叫醒熱線’為例，當用戶被騙子誘導轉賬時，AI機器人將向用戶發(fā)出來電提醒。充分學習了欺詐罪案分析的AI機器人，能夠捕捉用戶交流中的關鍵信息，采取恰當有效的反詐勸阻話術和措施。為了跟騙子拼速度，目前螞蟻的反詐騙叫醒熱線中，有超9成電話是由AI打出的，叫醒成功率超過了人工客服。除了事中的防護，如果用戶深度受騙、執(zhí)意支付，技術人員還開發(fā)了‘延遲到賬’和‘資金截留’的功能，讓欺詐者沒有辦法支取贓款。”
“人工智能技術的快速發(fā)展，引領了第四次工業(yè)革命的浪潮。而可信人工智能的研究和落地，則代表了人工智能技術發(fā)展的新階段。在未來，與人類社會深度耦合的人工智能技術，如何在安全、可信、公平的原則下，持續(xù)發(fā)展和進步？這是每一位從業(yè)者和研究者，為推動科技有序、健康發(fā)展都不應回避的命題。”趙聞飆表示。
