當前，AI在金融行業的應用落地上，智能客服與聯絡中心是最為成熟的，容聯云AI服務眾多大型金融機構的營銷與運營體系，經受上萬坐席考驗，近日，內部訪談了容聯AI實驗室及工程化團隊，聊一聊AI工程化落地最佳實踐。

本次對話干貨滿滿，揭秘AI在大型金融機構落地的過程、效果與未來趨勢。

主要探討問題：

1、未來金融機構的AI圖景

2、AI如何在技術側服務金融機構？

3、AI的投入分別解決金融機構哪些痛點？產生什么效果？

4、除了算法算力的工程化，AI的運營有沒有可復制的方法論？

5、AI賦能下的企業數字化是什么樣子的？

未來金融機構的AI圖景

未來趨勢一：橫向拓寬，從單一應用切入，做智能化矩陣

過去大部分金融機構布局智能化從一個單點——外呼機器人作為抓手切入整個智能化市場。

隨著金融機構數字化的不斷深入，單一應用不能完全滿足營銷與運營體系建設，也催生了從過去做單一應用，開始向智能應用矩陣發展。

除了外呼機器人，還有導航機器人、坐席助手機器人，陪練機器人等，還有多渠道接入的客服性機器人等，這都是從不同的場景出發，來滿足客服中心橫向發展的一些應用化的產品。

總結：金融機構無論是對CC還是AICC的采購或選型不是為了做單一應用，做單一應用稱之為煙囪式的做法，未來會基于平臺會做出更多符合自己業務場景的應用性產品。

未來趨勢二：產品頂層設計——從應用到垂直化平臺

這幾年金融科技口的人員，對AI的理解、AI的落地場景的探索也越來越深，企業考慮的不單單是能否解決問題，也要考慮技術架構的前瞻性，拓展性和合理性。

一套系統的建設在企業通常是要花很大的人力，財力去建設的，一旦運行之后，必然要求穩定和靈活兼具，但是可靠性和靈活性是在架構設計之初就決定了的，在生產和測試階段再考慮就非常困難了，這個是基石，做不好的話，再往上走，做的越多犯錯的風險就越大。

另外，大型的行業客戶IT技術架構跟互聯網的IT架構風格還是有所不同的，核心的幾個點，比如：安全、災備、容錯等有較大的區別，所以，設計的時候也不能一概而論，還要結合產品的市場定位來考慮。

過去完全依賴售前去做咨詢服務，再去做應用落地，未來這種方式在真正落地AI的時候將非常痛苦。

在這種大的背景下，我們建議可以做兩個布局：

第一：可以把通訊/呼叫等聯絡層和AI能力做一個整體分離，通訊解決溝通、連接的問題，AI解決智能化、能力輸出的問題。

第二：對于產品頂層設計，我們建議做框架性的設計，一平臺+N中心的架構。

AI其實有一些非常共性的技術，還有一些數據運營的方法，每一個應用如果從0~1做工程搭建是極其耗時耗力的過程，創新的成本也是極高的。

可以打造一個完整AI的中臺，同時還附帶多個中心，比如應用中心、知識中心、數據中心。在這些中心里，提供比較完整的運營方法論，以及將運營方法的落地所需要的一系列的工具，包括數據爬取，數據清洗，還有數據標注、標簽分類等。

搭建AI中臺，可以考慮跟AI相關的能力組件、應用支撐性的運營工具，做能力性的下沉，放進中臺，同時也將一些數據標注、數據清洗放進中臺，從自下而上形成整個AI平臺化的架構。機構可以借助這個平臺化的工具，快速實現應用場景的落地，避免了完全從零開始的重復工作。

這也是容聯云AI kernel誕生的初衷，我們稱之為AI kernel云梯平臺，助力企業向平臺化建設轉型。

搭完AI中臺之后，可以快速沉淀一套算法能力，一套數據運營方法以及一套訓練發布平臺。對前臺的應用來講，可以快速和底層本地進行集成，無須關注各種算法調參和模型評測，同時，通過應用來結合企業業務場景來做快速的落地。

總結：通過構建一個AI中臺來沉淀一些共享式的服務，然后提升服務的復用率，打破這種煙囪、項目制之間的集成或協作壁壘。能快速降低潛在業務的一些試錯成本，賦予業務快速創新的能力，然后能最終提升企業的效率。

技術與實踐Q&A

Q：除了應用和平臺，AI如何在技術側服務金融機構？

第一，構建從應用到對話引擎，到NLP引擎這種算力算法的一體化解決方案。

我們要再做垂直領域更深層算法的拓展，實際上除了NLP常規的包括分類，聚類，知識推薦，文本摘要，長句壓縮，分詞詞性，詞向量等這一系列單項任務之外，容聯也一直在探索知識圖譜的落地。

但我們并不像業界的二維表格來做，我們是真正基于知識圖譜，三元組的實體提取，實體之間的關系建立，然后再到圖庫的展示，我們會做一整套的技術底層的實踐和落地。有了這些技術之后，再考慮把這些技術應用到對話系統里面去，形成一個完整的KBQA的應用，讓它們能完成包括多維度，多渠道支持的輸出，這樣能豐富整個應用場景，同時也能帶來更好的體驗。

第二，提供機器標注和反向推薦的一些算法。

在去做數據標注的過程中，可以通過機器初標和知識反向推薦算法來輔助人工，快速的進行標注，不需要完全的從頭到尾的去做標注，同時，在算法這一側，我們一直在解決一個什么問題呢？過去，我們一直在說AI是離不開大數據的，但其本質原因就在于AI現在的深度學習需要大量的數據。自從Google推出transformer這種模型之后，它有了預訓練模型之后，所需的數據量大大在減少，每一個標簽僅需要少量樣本就可以搭建初版模型進行系統冷啟。

我們現在還有一個思路來完善語料積累，就是通過文本生成的算法來輔助數據標注人員。在人工少量標注的情況下，進行標簽的擴充，再通過聚類算法整合發散語料，不斷反復這個過程，能快速適應新場景，同時保證維持模型的效果。當然我們還提供了數據增強方法，結合我們自己的詞庫、相似問庫不斷擴充語料的多樣性和豐富性，通過機器做了大量前期工作，人工的工作量自然就降低了。

Q：很多機構的痛點是投入很多人維護話術，能否用技術手段來解決？

我們的AI實驗室在這個方向的一些探索給出了答復。技術上可以通過情感分析SPO三元組細粒度情感標簽建模，對歷史話術做篩選，前期需要少量做標注，然后訓練，重復這個過程，模型會越來越好。使用模型對話術進行分類，評分，聚類，聚類之后話術多樣性也出來了，但是優秀話術不等于成單話術，關鍵是對成單話術做關聯關系的挖掘，得到不同情況下的優秀話術，推薦系統也依賴模型評分做排序，在通過顯式采納和隱式采納不斷反饋給模型做訓練。

Q：什么情況下該上AI？什么情況下不該上？有沒有一個邊界指標？

絕不貿然上AI，充分了解當前技術的上限，做出完美匹配方能成功落地

從NLP應用角度看，對話是目前最為流行也是相對成熟的領域，市場上有很多服務商做對話，但真正要做好是非常困難的。除了搭建好對話系統經典架構，比如：NLU，DST，DPL，DM，NLG等獨立子系統，特別是對話策略模塊要花特別長時間打磨，同時，還要考慮結合當前技術上限以及用戶的使用下限。

比如說，外呼機器人，機器人跟用戶對話的意圖理解準確率和整通電話所能達到的通過率有個最低要求的，比如：單輪理解要求大于95%，整通對話通過率不能低于85%。如果單獨講在技術上做到98%，實際落地卻無法達到用戶要求的最低指標，這個無法落地的，或者說落地也是毫無價值的。

當然還有坐席輔助場景和智能陪練場景下，話術推薦和思路導航的準確率也是有個最低要求的，甚至還要跟過去人工業務指標對比，如果人工比AI強出太多，都不足以彌補減少人工帶來的成本節約，或者在營銷場景下AI對業務實際轉化率跟人工差距太大，這個時候是不能貿然上AI。

所以對話目前一定是在限定領域限定場景的任務型對話系統，背后依賴場景數據和VUI收斂問法、業務話術庫的支撐才能達到用戶的要求。

Q：這些技術在實際應用中產生了什么樣的效果？

AI已經真正成為銀行催收部門一個生產系統

比如說催收場景的催回率，人工過去的催回率是多少呢？業界有一個標準，在M1一M2階段大概在70%左右，這是一個相對比較合理的，因為前期人工提醒居多，大概維持在這個水平，那現在AI的催收，已經基本快逼近這樣的數字了，這樣對比下，AI的價值就非常大了。

拿我們在服務某大型銀行舉例，整個AI的座席人員，技術上稱之為并發數，已經突破了2000席，AI已經真正的成為銀行催收部門一個生產系統，用它來進行生產，會帶來極大效率的提升，替代了過去銀行在M0一M1這個階段2000席BPO外包，帶來極大的提升。

營銷線索路徑標簽化后推廣成功率大幅提升

具體到某個環節的改善，比如說營銷線索的路徑標簽化。簡單來講，在營銷環節，為客戶去做用戶畫像的標簽，對二輪篩選就會有很大的提升。

比如說我們在某大型保險公司實施百萬醫療險營銷場景的外呼任務，目前的并發路數已經到了600多路，過去百萬醫療險人工座席的推廣成功率在7%，現在AI已經可以做到5%，這就是用AI篩選出來的，再用人工去跟進，基本也能跟人工去持平，但是會節省了大量的第一次篩選的工作。第一次篩選的工作反復的高掛機率會極大打擊人工坐席的信心和情緒，因此，人機協同模式在保險營銷場景得到了極大的推廣。

有了AI指標，再結合業務指標，兩個指標一旦做了平衡，比如AI指標準確召回已經達到了雙85或者雙90，這個時候AI在生產方面就能帶來極大的效率提升，這也是企業會為此買單的一個重要的原因，也是AI落地的最佳實踐。

Q：除了算法算力的工程化，AI的運營有沒有可復制的方法論？

AI不運營，效果=0，有章可循，有跡可查

我們一直在強調AI和運營目前這個階段其實是密不可分的。因為我們處的這個時代，雖然說趕上了AI的第五次浪潮，但是AI技術本身，還是有比較明顯的短板，背后其實離不開大量數據的支撐。

如果我們做一個測試，在現在的預訓練模型之下，大概在50~100條或200條這樣一個數據的測試下，會發現在算法基本保持一致的情況下，50條數據大概有一個初版模型，沒有經過任何優化，就能達到接近80%。放100條語料之后，馬上就越過了85%，當放到200條的時候，躍升到90%。

AI在運營過程中要有數據的支持，用高質量數據提升算法指標來的最為簡單和直接，甚至好過了算法調參的各種詭異表現。因此要不斷的去做數據的回流。所以運營工作在AI智能化趨勢上是極其重要的，甚至說比算法可能還要重要。這部分可以形成一套AI落地的方法論。

這樣特別像一個咨詢公司做的事情，他們可能會輸出一套咨詢理論，其實運營方法就是AI的咨詢理論。這套理論是有章可循，有跡可查的，不是憑空來的，也不是包裝出來的，是可以輸出也是可以賦能，輔助現在的AI算法，形成一套相對比較完整的數據運營方式，這是從算法之外，工程之外，做智能化產品最大的一個收獲。

Q：現在都在談企業數字化，AI賦能下的企業數字化是什么樣子的？

企業數字化到底在數字化什么？企業本身在經營過程中以及流程制度執行過程中就會會生產有很多的數據，比如：企業的人事管理，名冊，客戶資料，知識庫，wiki等很多知識和數據，但這些知識都沒有有效利用起來，都是割離的。但如果圍繞NLP技術進行語義的理解與挖掘，就可以幫企業去整理構建結構化知識，有了結構化知識，就可以落地很多有價值的應用場景，甚至說可以直接基于企業文檔閱讀理解，做檢索和查詢，然后再對接到對話機器人，以它為窗口可以去橫跨企業的很多業務。