對話RealAI：從底層技術框架出發，引入貝葉斯深度學習，推動第三代AI發展

安全、可靠、可信的第三代人工智能將快速推動技術應用落地。

“我們給公司取名‘RealAI’，意在探索真正的人工智能。其實現在的AI技術距離真正的人工智能還有很長的路要走。”

那什么才是真正的AI呢？在RealAI看來，“真正的AI應該是有理解能力、具備‘人類智能水平’的AI。”

后深度學習時代的人工智能

2016年，清華大學人工智能研究院院長張鈸院士首次提出了“后深度學習時代的人工智能”的概念，并就AI技術發展做了階段性分類。簡單來說，AI技術發展主要分為三個階段：

第一代，“知識驅動型”AI，以規則模型/符號模型為主的符號主義AI，可以從宏觀層面模擬人類行為，但對于無法精確描述的知識束手無策；

第二代，“數據驅動型”AI，以深度學習為代表，對領域知識要求不高，可以通過深度神經網絡建立計算模型，從數據中發現規律，但高度依賴大量高質量的訓練數據；

第三代，“知識驅動+數據驅動型”AI，即安全、可靠、可信的AI，白盒化AI模型提供可理解的決策依據，即便在樣本不足、噪音高、標注差等未知場景中也能夠可靠提升預測效果以及持續保持較高的判斷力。

目前以深度神經網絡為代表的AI技術尚處于第二階段，魯棒性較差、易受干擾，并且決策過程為“黑盒”，可解釋性差，這也直接導致了關鍵AI技術在落地應用時達不到預期。基于此，清華大學率先倡導發展第三代人工智能，而RealAI作為清華大學人工智能研究院的核心孵化企業，其主要目標是從底層技術框架出發，專注第三代人工智能基礎技術研究，并探索其產業落地方向，致力于讓前沿AI技術在生產、生活中得到真正的應用。

值得一提的是，去年9月，美國國防高級研究計劃局DARPA也相繼發布了“AI NEXT”計劃，該計劃將斥資20億美元，圍繞“新能力、可靠性、對抗性、高性能和可解釋性”五大方向，旨在推動人工智能第三次浪潮?？梢哉f，當前中美兩國針對第三代人工智能的競爭已經展開，清華大學、RealAI等中國研究機構和企業則是搶占了先機。

引入貝葉斯深度學習，用概率統計方法模擬人類決策

實際上，人工智能很多時候需要做“預測問題”，要讓AI具備人腦的判斷、決策能力，就需要讓AI學習人類在做預測時的決策過程——即“先假設，再找論據進行修正”的方法，先對現象做預判，再基于知識或數據給予這個預判以修正。例如，人類在判斷明天是否下雨的時候，會先做假定，再去觀察云層、風力、氣溫等，并基于看到的現象去驗證“下雨”的可能性，即由果尋因。

那么，如何讓AI也具備這樣的能力？RealAI給出的答案是，貝葉斯深度學習。從技術本身來看，貝葉斯深度學習以貝葉斯理論為核心，即利用概率表示所有形式的不確定性，通過概率規則來實現學習和推理過程，是一種從概率統計的角度定義問題的方式。簡單來說，就是“把先驗知識應用到決策過程中”，此處的“先驗知識”也就是人類在觀察到一些現象之前基于經驗對最終問題答案做出推斷預測。

所以，貝葉斯深度學習其實是融合了貝葉斯學習和深度學習的技術特點，將“知識”與“數據”結合起來，對結構化的先驗信息建模，讓AI在決策時更接近人腦的思維方式，同時更精確的總結出數據分析后的經驗。

可以說，貝葉斯深度學習技術為處理不確定信息、提高可解釋性提供了新方法。映射到應用效果層面，貝葉斯深度學習技術支持不確定性建模，對臟/假數據、數據缺失的容忍度顯著提升，能夠從概率角度刻畫真實性，實現“黑盒”模型白盒化，輸出模型層面與實例層面的解釋依據，算法模型更魯棒、更安全。

依托于貝葉斯深度學習，RealAI較其他AI企業在人工智能領域走的更深一步，同時也鑄就了其他企業在短期內無法突破的技術壁壘。

發掘有價值的應用場景，就不會存在所謂的泡沫

正如Gartner技術成熟度曲線所展示的，一項技術剛出來的時候，公眾往往會高估其應用價值。所以，在AlphaGo擊敗人類圍棋選手、OpenAI在電子游戲“Dota”中戰勝人類職業玩家等一系列典型AI事件發生后，整個行業開始出現一些不合理的預期或是過于異想天開的設想，這也導致了部分概念型AI公司的出現。2019年以來AI行業開始趨于冷靜，但此前預想的“變革性”AI應用并未出現，于是，“行業泡沫”、“AI寒冬”等言論一時間紛紛四起。

“其實AI技術本身是不存在泡沫的，只要找到真正有價值的場景并與之結合，AI行業也不會存在所謂的泡沫。”在RealAI看來，確保安全是AI可信應用的基礎，因此RealAI將AI技術的安全性作為重點研究方向之一，通過預防AI潛在風險，推動產業健康發展。

隨著AI技術在各大領域中的廣泛應用，越來越多潛在的安全風險也暴露出來，如果不對AI安全問題加以重視，甚至將可能引發如催生出色情產業鏈的Deepfake這樣的惡性事件。

其實早在2015年，RealAI的創始團隊就意識到“安全問題”將會是未來AI發展過程中不可避免的一環，而Deepfake事件也印證了一旦缺乏防御技術的抵御、監管機制的遏制，AI技術的使用最終會走向不可控，這也更加堅定了RealAI的想法：AI安全需求在未來一段時間內將迎來爆發式增長。

為此，今年5月，RealAI正式推出了與清華大學聯合開發的RealSafe人工智能安全平臺，支持對多種AI算法進行漏洞檢測與漏洞修復，并輸出AI算法的安全性評測報告。與國際知名科技企業旗下的AI安全平臺相較，RealSafe支持更為通用的模型、更豐富的對抗攻擊和防御算法，具有領先優勢。

此外，RealAI還將業務拓展至工業和金融兩大對AI魯棒性、解釋性要求較高的領域。工業方面，RealAI自主研發智能制造決策系統。在制造環節，通過智能檢測技術提升質檢穩定性、降低成本；在運行環節，通過對設備檢測信號的分析，利用算法找出潛在異常，從而實現對設備健康狀況的評估和預測，提高使用壽命，找到引發故障的原因。目前，該領域的相關技術成功應用于光伏EL智能缺陷檢測、大壩安全智能評估、石油管道缺陷檢測等實際場景中。

金融方面，依托貝葉斯深度學習在無標簽、少標簽、冷啟動和不確定性處理等場景有更好的模型表現，以及擁有黑盒轉白盒的可解釋性優勢，RealAI自主研發了一鍵端到端建模平臺，支持智慧建模和模型部署，流水類數據導入即可建模，幫助金融機構解決傳統建模流程慢、模型評估困難、迭代成本高等問題。

在風險評估方面，RealAI還推出了獨有的零售信貸風控回撈方案，通過采用生成式模型等技術，支持對全體貸款申請群體進行建模，解決了深度學習技術對于標簽數據高依賴的難題，風險識別也更加精準，可以做到從被拒絕貸款的“壞”客戶中“回撈”一部分用戶，并且保證回撈用戶放款后的整體風險水平與原本通過審核的用戶擁有相同的不良率。

歸根結底，AI是一項非常有用的技術，只要找到合適的場景就能夠發揮出作用。作為一支對未來AI充滿熱愛的團隊，RealAI仍然相信，無論是AI技術本身還是AI產業都還是處于快速發展的階段。

最后，記得關注微信公眾號：鎂客網（im2maker），更多干貨在等你！