業界專家把脈人工智能發展：要重視安全問題

“第九期網絡安全創新發展高端論壇——人工智能安全主題論壇”3月15日在上海舉辦。

在今年兩會期間，“人工智能”第三次在國務院《政府工作報告》中被重點提及，這意味著人工智能被進一步上升為國家戰略，為加強對人工智能發展的潛在風險的研判和防范，推動人工智能健康發展，國家信息中心國信衛士網絡空間安全研究院于3月15日在上海舉辦了“第九期網絡安全創新發展高端論壇——人工智能安全主題論壇”，國家信息中心國信衛士網絡空間安全研究院副院長葉紅、中共上海市委網絡安全和信息化委員會辦公室總工程師楊海軍出席會議并致辭。會上，業界專家學者、企業高管就人工智能安全問題發表了真知灼見。

“人工智能既是盾也是矛”，中國科學院院士何積豐在《安全可信人工智能》報告中提出。何院士表示，人工智能面臨著諸如無人機黑飛、亂飛，自動駕駛汽車程序失控，造成失誤錯誤等內部問題，同時還存在著被恐怖主義、黑客組織惡意利用等外部問題，但另一方面，人工智能在預測和防御惡意應用、監測工具漏洞、對抗分布式拒絕服務攻擊等方面發揮著積極作用，因此，保證人工智能安全可信極為重要。

信息內容分析技術國家工程實驗室主任、上海交通大學教授、博導李建華在做《人工智能與網絡空間安全》的主題報告中提出，“網絡空間威脅朝泛化和復雜化的趨勢在發展，各類網絡攻擊也更加具有持續性和隱蔽性，網絡空間安全亟需智能化安全技術，在這方面，人工智能可運用于用戶行為分析、入侵監測、反欺詐活動、威脅情報處理等過程。”

針對保障人工智能安全方面，國家信息中心國信衛士網絡空間安全研究院特聘專家、中國電子科技集團首席專家、衛士通總工程師董貴山認為，密碼作為保障網絡安全的核心技術手段—數據安全，控制安全，必將在人工智能安全領域繼續發揮著核心作用，與此同時，人工智能的發展也為密碼技術及基于密碼的安全防護提供了全新思路。

上海機器人產業技術研究院副院長、上海大學教授、博導郭帥，深圳奧聯信息安全技術有限公司首席專家程朝輝，翼盾（上海）智能科技有限公司創始人、CEO 朱易翔分別做了“人工智能與網絡安全在機器人產業中存在的技術問題初探”、“人工智能身份認證技術研究”以及“基于身份標識的機器人安全框架”的主題演講。

在上海社會科學院互聯網研究中心主任惠志斌主持的圓桌討論環節中，KEEN公司CEO、GeekPwn大賽發起和創辦人王琦,國家信息中心國信衛士網絡空間安全研究院特聘專家、中國電子科技集團首席專家、衛士通總工程師董貴山,魔笙科技CEO吳薇薇幾位嘉賓還就“AI變臉”的技術原理與實現，主要應用場景以及“AI變臉”技術帶來的安全挑戰展開了高端對話。同時，各位專家還就“AI變臉”技術的安全應對措施，未來的研究方向發表了眾多精彩觀點。

人工智能現階段還處在初級發展階段，面臨著包括倫理道德方面的挑戰以及各種不可預知的安全風險，要使人工智能朝著造福人類的方向發展，必須要筑牢人工智能安全防線，確保人工智能安全、可靠、可控。

最后，記得關注微信公眾號：鎂客網（im2maker），更多干貨在等你！