速途網6月11日消息（報道：李楠）日前，由中國人工智能學會、杭州市人民政府主辦的“2021全球人工智能技術大會”在杭州舉辦。螞蟻集團首席AI科學家漆遠在會上首次提出了“可信AI”的技術架構體系，并分享了螞蟻集團基于該技術架構體系研發落地的多項應用成果。

據悉，本次“2021全球人工智能技術大會”共邀請了31位中外院士、以及來自世界各地的人工智能領域專家，共同為人工智能的發展建言獻策。會上，螞蟻集團首席AI科學家漆遠教授以《人工智能與風險-從創新到落地和治理》為主題進行了分享。

漆遠表示，AI是數字經濟的源動力，確保AI的安全性和公平性是行業共性課題。圍繞“可信AI”這一技術命題，他提出了包含“數據隱私保護”、“魯棒性”、“可解釋性與因果分析”和“公平性”四個方面的技術架構體系。

在“數據隱私保護”方面，傳統的數據保護方法客觀上形成了“數據孤島”，影響了如醫療、金融等領域的協同作戰，也制約AI技術以及行業發展。因此，拓展數據價值的隱私計算技術，對實現“數據不動價值動”顯得尤為重要。

漆遠透露，截至今年3月，螞蟻集團隱私技術專利申請數量以740個位居全球第一，落地實踐成果豐富。比如營銷反作弊場景下，幫助超過1萬家合作伙伴識別薅羊毛風險，節省營銷資金超300億。

在提高模型“魯棒性”（Robustness）方面，為了應對黑產攻擊、并使得模型能適應復雜多變的數據環境，還需要引入博弈論思想生成攻擊手段，并進行智能防御，通過左右手互搏，加強抗打擊能力。據悉，螞蟻集團正在風險交易識別、黑灰賬戶身份識別等風控場景持續打磨這項能力。

關于“可解釋性與因果分析”，漆遠解釋，AI模型不能是黑盒。“人類希望知道模型背后的邏輯、收獲新的知識，并在它出現問題時踩好剎車，確保AI合規合法。”他認為，這背后需要數據驅動與模型推理能力結合起來，產生可解釋的結果。目前，螞蟻集團已經將這項能力在智能風控、投訴審理，反洗錢等領域廣泛應用。

“可信AI”的技術架構體系還需要解決模型公平性問題，保持技術的敬畏心，在重視社會倫理原則下進行AI調優。通過AI技術，讓老年人、殘障人士、欠發達地區用戶，享受到數字經濟時代的價值，這也是AI公平性的體現。漆遠透露，螞蟻集團已完成了“空中手勢”驗證碼識別方案的研發，幫助視障人群通過“滑動驗證碼”關卡，該方案將免費開放給更多企業。