創新工場南京國際人工智能研究院馮霽：我們要解決當前AI系統的安全性問題

在創新工場和一群優秀的人做最酷的事情，讓學術界的成果落葉歸根，找到合適的商業化路徑。

三年前，李開復曾經說過，“今后要將創新工場變‘AI工廠’”，與此同時，創新工場成立了人工智能工程院。

三年后的此時再去看，VC+AI定位的創新工場不負眾望，投資了一批AI領域的獨角獸企業，成為AI界的投資一把手。

就在去年，創新工場人工智能工程院在南京設立創新工場南京國際人工智能研究院，由南京大學周志華教授的得意弟子馮霽領銜擔任執行院長。近日，鎂客網在南京采訪了馮霽，聽他分享了研究院從0到1的開始以及兩個關鍵的驅動引擎。

圖 | 創新工場南京國際人工智能研究院院長馮霽

選擇南京，始于人才

從早期的互聯網到移動互聯網時代，北上廣深一直是產業的漩渦中心，這些一線城市坐擁大量的人才、資源和資金，但是到了AI主導的技術時代，中心似乎正在向外擴散。

那些錯過了互聯網紅利的城市也開始奮起直追，力圖抓住新的技術紅利。這其中包括擁有著優質高校資源和人才的南京。

以南京大學為例，由周志華教授領導的南大人工智能學院是國內首個成立AI學院的雙一流A類、C9類高校。

而為了更好地接近這些AI人才，鎂客網此次拜訪的創新工場南京國際人工智能研究院就落戶在南大旁邊的興智科技園。

負責研究院的馮霽院長也是一個典型的南京人才代表：雖然家在西安，但最終選擇了南京作為事業的起點。

“之前不少人都會離開南京去往北上廣，還是蠻可惜的。這幾年南京市政府一直鼓勵一些AI企業在南京設點。雖然南京沒有那些擁有海量數據的互聯網公司，但他們另辟蹊徑，作為一個AI人才輸出的城市，先把人先留住，然后再完善AI產業的建設。”

馮霽表示正是非常認可南京的政策和優質人才，創新工場選擇在南京落地兩個實體：創新工場南京國際人工智能研究院和創新奇智。

確實，近年來南京為打造創新名城，非常重視AI這樣的核心技術的發展。以南京經濟技術開發區為例，在打造智慧新港期間，他們吸引了包括人工智能、半導體等多個行業、領域的高等研究院的入駐，助力人工智能、大數據等技術賦能傳統產業。

而創新工場南京國際人工智能研究院從0到1的組建過程，于馮霽來說也算是一次很有挑戰的創業。“這個機會非常有挑戰性，我也非常喜歡。”馮霽坦言。

研究院創建之初，最大的難題便是戰略方向的制定。馮霽強調企業和高校做科研的模式是不同的，雖然創新工場屬于投資機構，但是脫離了業務去做研究未必是個明智的選擇。

馮霽早期也一直在思考，“在創新工場VC+AI的模式下設立研究院，既不能做太陽春白雪的科研工作，而太過工程化又不能稱之為研究院，那么我們到底要輸出什么？需要做哪些足夠有意思的事情？”

最終，研究院確定了兩個關鍵的方向：計算金融和AI安全。

計算金融+AI安全，研究院的使命和責任

馮霽總結，研究院的兩個重點，一個是以業務為中心，一個是以技術為核心。

其中，計算金融強調技術賦能落地，也就是我們常說的的人工智能+金融，通常情況下， 計算金融又可以分為三個維度：金融風控、智能投顧以及智能投資。

在具體落地上，馮霽透露研究院正在圍繞交易行為的相關業務場景做一些嘗試。“交易行為是市場中買方和賣方一系列交易行為的結果，但金融市場的噪聲比較大，如何從交易數據和行為中挖掘相應的模式并作出預測，相當于AI+金融領域的圣杯問題。”

除此之外，研究院另一個重心便是AI安全，馮霽直言這是非?？?，也是非常重要的事情的事情。此處的AI安全并不是安防之類的安全保護，特指的是當前AI系統的安全和魯棒性。

馮霽認為，當前的AI解決方案已經從低風險應用轉為高風險應用，比如十年前的垃圾郵件分類，逐漸深入到自動駕駛系統、安防領域的人臉識別，一旦AI系發生錯誤或者被人惡意攻擊，后果不堪設想。“以人臉識別為例，現在一個特制的眼鏡（鏡框上繪制了包含算法的花紋）就能騙過人臉識別系統，讓其把甲認成乙。”

所以研究院的一大任務就是研究那些攻擊算法，設置相應的防御機制應對攻擊，同時提出統一的風控或者評估機制，以第三方的角度來為評估AI系統的安全性。

另一方面， AI安全除了研究AI系統安全之外，還囊括數據隱私保護相關的技術。比如現在由楊強教授等人推動的“聯邦學習”，力圖在不共享數據以及合法合規的前提下，利用雙方的數據進行機器學習，實現模型增長。

以手機上的用戶數據為例，此前可以一股腦將所有數據上傳到云端進行數據訓練。但歐盟數據隱私保護條例GDPR規定出來后，本地數據是禁止被上傳到云端共享的。那么借助聯邦學習，手機廠商可以直接在手機本地將數據訓練出一個小模型，然后將模型的參數上傳到云端進行算法的優化，不共享數據，共享知識。

就在鎂客網采訪之前，馮霽代表創新工場，當選為聯邦學習國際標準制定委員會的副主席，在微眾銀行的楊強教授帶領下，共同參與制定國際上第一個人工智能協同與合作的標準。

如果標準制定順利的話，聯邦學習對于互聯網公司以及金融機構都是非常利好的消息，“金融機構在做一些信用評級的時候，如果雙方數據能夠共享、共同訓練一個大的模型，銀行的業務都會有所提升。”

在馮霽的描述中，創新工場南京國際人工智能研究院的發展路徑和目標非常明確，一方面是研究金融場景下的人工智能模型，另一方面則是針對魯棒性和安全性的人工智能研究，關注AI企業所提供的人工智能解決方案中安全和數據隱私的問題，并提供相應的算法建議。

學術界的研究一定要“不那么有用”

馮霽在確定研究院戰略方向的同時，也十分清醒的認識到企業和高校研究院的定位差異。“同工業界相比，學術界的研究不應該那么‘有用’。”這是馮霽給出的答案。

在他看來，學術界和工業界研究院關注的內容應該涇渭分明。以AI為例，當前的工業界應用都是在吃學術界早期技術研究的紅利。

就像幾十年前被提出的卷積神經網絡，當后期的硬件條件跟上，才有了今天大規模的技術商業應用市場。而以現在的時間點去看未來，如果學術界停止研發那些“沒用”的東西，十年后的我們又要何去何從？

所以，從科研角度看，學術界不應該去做和工業界一樣的研究，比如那些可以帶來立竿見影經濟效益的事情。“學術界更應該做一些有利于這個學科長久發展的研究，不要急功近利考慮太多變現的事情。”工業界的研究則恰恰相反，它們需要思考如何將學術的成果變成一個真正可商業化的工業級產品。

馮霽也坦言，如今兩者的界線越來越模糊，尤其是在大量的學術界大佬被企業挖走，造成學術研究斷崖的當下。

就像馮霽之所以選擇創新工場南京國家人工智能研究院，骨子里有著創業精神的他，熱愛和一群優秀的人做最酷的事情，讓學術界的成果落葉歸根，找到合適的商業化路徑。

One more thing:一個大牛云集的夏令營，為AI人才培養做貢獻

馮霽直言，目前人工智能人才缺口十分巨大，創新工場人工智能研究院有義務，也有動力，為人工智能的人才培養出一份力。

為此，他們在2017年發起了免費培訓項目DeeCamp夏令營，旨在提升高校AI人才在行業應用中的實踐案例經驗，同時推進產學研深度結合。

“這個夏令營的目的是以項目驅動的方式，培訓在校生以團隊合作的方式，從0到1完成一個人工智能系統的設計與開發工作，試圖搭建高校同產業界的橋梁。”馮霽表示。

據了解，今年夏天，在南京市工信局指導下，創新工場南京研究院將同南京大學人工智能學院聯動合作，招收100名優秀的在校生，用5周的時間進行封閉式全方位的免費培訓。另外從北京，廣州，上海三地亦會同時開展，共計招收600名左右最優秀的在校學生。目前報名人數已經接近萬余人。“報名要趁早。”馮霽說。

最后，記得關注微信公眾號：鎂客網（im2maker），更多干貨在等你！