李開復：我反對馬斯克“AI末日論”，科幻跟科學是兩碼事

其實過去幾個月，李開復和國內外AI專家、圖靈獎國際得主就這個話題也有過不少交流，大家基本都同意扎克伯格、李開復的觀點。

【編者按】本文轉載自微信公眾號量子位

十天前，硅谷鋼鐵俠、特斯拉CEO伊隆·馬斯克在幾十位美國州長面前，聲稱AI是對人類存在的最大威脅，并且呼吁加強對AI的監管。

雖然馬斯克鼓吹這一論調已經多年，但這次整個AI界似乎都站到了他的對面，對他的批評聲不絕于耳，直到Facebook創始人扎克伯格出手，事件到達了高潮。

“我認為那些對AI持否定態度或者鼓吹末日論的人，其實根本沒理解什么是AI。他們的看法太消極了，甚至有些不負責任”，扎克伯格談到馬斯克時如是說。他還補充道“未來5-10年內，AI將大幅提高我們的生活質量。”

這很快成為搶眼的新聞標題，而馬斯克也通過推特給予了回擊：“我跟小扎聊過了。他對這事兒（AI）的理解有限”。

不負責任vs理解有限。

應該如何正確看待馬斯克和扎克伯格這次關于AI的隔空交手？AI是個末日威脅么？量子位就這個問題，請教了李開復博士。

李開復表示，Facebook有世界頂尖AI團隊，扎克伯格在這個問題上肯定不會“理解有限”。

李開復明確反對馬斯克“AI終將滅絕人類”的悲觀論調。他指出AI現在僅僅是人類的工具，離擁有意識的“超級智能（Superintelligence）”還非常遙遠，更別提滅絕人類了。

其實過去幾個月，李開復和國內外AI專家、圖靈獎國際得主就這個話題也有過不少交流，大家基本都同意扎克伯格、李開復的觀點。

另一方面，李開復警告說：馬斯克如此高調頻繁地宣揚AI帶來的威脅，可能會讓大眾忽視AI正在帶來的巨大機遇，也會讓更多更緊迫的AI問題沒有得到關注，這只會撿了芝麻丟了西瓜。

李開復表示，是時候就著這次辯論，直接評論下馬斯克的“AI末日論”了。

李開復回復全文

量子位問我關于這次馬斯克和扎克伯格辯論AI未來的看法。

坦白講，我不太認同伊隆·馬斯克“AI滅絕人類”的觀點，對于當前AI的發展看法，我有5個方面的具體觀點：

AI只是工具，離超級智能還很遠；基于我投入AI領域的科研、開發、投資相關工作37年的經驗，“超級智能”、“滅絕人類”這類聳人聽聞的說法，根本沒有切實的工程基礎。

智庫、科學家應該討論AI安全問題、AI對社會的改變，但是科技圈的意見領袖不應該在這時誤導大眾AI要控制人類，讓人類滅亡，這確實是不負責的說法。大部分的人已經對AI所知有限，這會造成更為錯誤不實的群眾恐慌。

AI可以為人類創造大量財富，甚至逐漸解決人類溫飽問題；我們每個人也將獲得更多的時間和自由，來做我們愛做的事情。

AI真實會帶來的問題是人類的失業，失業后可能的抑郁和喪志問題，還有貧富不均問題，人類社會目前所習慣的職業結構確實會發生顯著的改變。

AI會帶給我們100%確定性的巨大機會，隨著改變也會產生些必然的問題。此時去用概率極低甚至是零可能性的“超級智能”，誤導大眾恐懼AI，甚至約束AI，反而不去擁抱機會、解決問題，是沒有道理的。

AI大咖們怎么看？

這其中有我的看法，也有一些已是業內不少專家的共識。如果我們去問頂尖AI專家，絕大多數是同意扎克伯格和我的看法的，比如說圖靈獎得主Rodney Brooks。

Rodney Brooks的觀點是：“有很多人都聲稱AI是人類存在的威脅：斯蒂芬·霍金、馬丁·里斯爵士……在沒有親身在AI領域工作的情況下，這樣的想法很普遍。我們能夠理解，對于那些不在AI領域工作的人，要通過產品級別的東西來弄明白一些問題有多么困難。他們會根據一個領域的一個AI成果，就一概而論地認為AI會在多領域超過人類。但是其實今天的AI，只是在某一個狹窄領域基于大數據優化，只能說是個很厲害的模式識別引擎。要做到通用的、無所不能的AI根本不知從何開始。”

另外，Rodney Brooks也提到，馬斯克想要立法管理AI，但是需要管理的通用AI都不存在，如何立法？

實際上，今年五月在上海的ACM圖靈獎五十周年大會論壇討論上，我和三位圖靈獎獲得者討論時，基本也是類似觀點，描述了人類今天并不知道如何做出“超級智能”，也否定了量子計算取代大腦的一說。

當然，持“AI末日論”觀點的除了馬斯克，另一知名的人是斯蒂芬·霍金，霍金是杰出的物理學教授，但并不意味著他在AI方面的觀點也同樣令人認同。

著名的AI研究專家Michael Jordan就直言不諱地說過，如果你有物理學方面的問題，可以向霍金求教，但如果是AI方面的問題，可能更合適的人選是自己。

吳恩達聽到霍金馬斯克等關于“超級人工智能”的觀點時，他直接忍不住地用手蓋住了臉。

吳恩達說：作為真的做AI產品的人，我看不到今天的AI可能發展為邪惡力量的任何可能性。

甚至在聽到“奇點理論”之類的觀點時，吳恩達索性翻白眼，他甚至說：聽到奇點，我的眼睛就會自動翻白。

另一位知名的AI大咖Geoff Hinton也明確表示，未來50年內，我不對什么“超級人工智能”的實際進展抱有希望。

所以，我認識的業界真正做過突破性計算機和AI科研工作的人，都是更支持扎克伯格的看法的。

實際上，許多硅谷主流的企業家、圖領獎的科學家，已經私下對馬斯克和霍金的言論不認可有段時間了。我之前在《紐約時報》和《連線》的專欄文章中，其實也表達了這種“不認可”，只是并沒有那么直白地針對馬斯克或霍金教授說出來。

我在《連線》的專欄文章中說：“一些自稱未來學家的人開始對人工智能做出各種預言，他們談論著’超級智能’、’奇點’、’人機結合’，甚至毫無根據地聲稱’我們其實就生活在電子游戲當中’。這些反烏托邦的警告令人惴惴不安，這些言論大多出自世界級的科技大拿之口，又透過科幻小說中那些大家所熟悉的橋段和場景而深植人心。”

實際上就是針對馬斯克一系列的言論觀點，希望提醒大家，區分“科幻”和“科學”的不同。

更加直白來說，我認為那些聳人聽聞的預言并沒有切實的工程基礎?？?ldquo;幻”小說主要是幻想，而不是“科”學。我們目前面臨的真正危機并不在于擔憂這樣的情況在遙遠的未來可能會發生，而是解決即將到來的職業取代問題。

但這一次扎克伯格這樣直白地反對和批評馬斯克，我覺得或許是真的認為馬斯克的言論實在過激了，特別是面對美國重要的政治人物演講時，如此言之鑿鑿地談AI毀滅人類。

更早之前，Michael Jordan也明確批評過，他說：AI科學家必須絕對誠實，無論是對你的出資者、贊助商、員工、同行、同事、公眾，還有面對你自己。當我們誠實地面對AI時，有不誠實或妄想者做出瘋狂的AI預言（而影響了公眾輿論甚至政府政策），這些人讓我們這些務實又誠實的科學家活得很艱難。

機器人將會處理一切工作？不認同

我也不認同馬斯克“機器人將會處理一切工作”的看法，這有點以偏概全了。一方面，我同意AI將取代簡單的、重復性的工作，但另一方面是我們完全可以給人類創造新的工作，而且是AI做不了的工作。

AI做不了的工作是什么呢？我們會發現主要是創造力和社交相關的能力，那么最多10%的工作屬于創造性部分，而90%就必須進入社交為核心的服務型工作。

所以，我們要鼓勵更多年輕人走向創造的路線，無論是理工科學的發明，或者是人文藝術的創意。AI只能夠優化，只有人才能夠創造。

另外，服務業會有很多的機會，尤其是社交屬性較強，“有愛”的服務業。這包括了已有的行業：熱情的導游、細心的禮賓、風趣的調酒師、有感染力的美發師、饒富創意的壽司師傅。我們也會創造新的行業：可以上門服務的營養廚師、能夠按照季節更替來上門服務的居家換季師、帶你年邁的父母去醫院的銀發關愛專家。甚至包括了一些志愿者型的工作：血庫的助工、孤兒院的老師、夏令營的輔導員、誡癮互助會的發起人。

我們需要改變社會思想和教育，讓做服務業的人能夠從中得到滿足。如果服務業能夠盡量幫助他人，關懷他人，解決他人問題或苦惱，讓他人開心，這樣不就解決自我實現的問題了嗎？（當你做到這幾點的時候，是不是很開心，很自豪呢？）

即便不是90%的人都從事這樣服務型的工作，假設只有50%做到，還有少數提早退休，專注自己的嗜好，或在網上消磨時間，只有極少數可能有抑郁或其它問題。

這樣社會也穩定下來了，不是嗎？

馬斯克應該多聽聽AI專家的意見

最后，坦白講，我并不認為通過這次辯論可以馬上改變馬斯克的觀點，畢竟他對“超級人工智能”如此堅信而著迷——甚至影響他的那個作家改變主意了，他也看起來不準備改變。馬斯克被OpenAI研究超級人工智能的科學家圍繞著，所以他們必然彼此影響鼓吹著末日論。就如扎克伯格被務實的Yann LeCun（Facebook AI研究院院長）和創造商業價值的人工智能專家圍繞著，所以也一定彼此影響對AI保持樂觀。

雖然伊隆·馬斯克過去展現出的遠見和戰略思維令人敬佩，對他啟動OpenAI的初衷——開放AI作為約束AI的一種方法，我也深感認可，但對于馬斯克一直以來對于AI過于悲觀和具有毀滅性的論調，我卻非常不認同。

相對來說，我認為在“AI和人類未來”這個話題上，我們應該更多聽取扎克伯格的看法，扎克伯格的團隊是真實用了AI，解決了問題，創造了價值。他麾下有Yann LeCun帶領的一流AI研究人才，他們很清楚目前AI能做什么、不能做什么，以及可預見的將來能做什么。

而且據說馬斯克關于“超級人工智能”的觀點，受到牛津大學人類未來研究院院長、《超級智能》的作者Nick Bostrom（尼克·波斯特洛姆）的啟發，但最近這個影響了馬斯克論點的人，也公開表示“反水”了，他認為自己書中所寫的超級人工智能帶來的悲慘情況，并不意味著有可能發生。

更早之前還有人告訴我，說馬斯克之所以如此篤定超級人工智能的威脅，是因為DeepMind當年在尋求收購時，曾表達了超級人工智能威脅之類的觀點，所以還要求收購了他公司的人，要設立一個道德委員會去約束DeepMind未來的所作所為，免得毀滅人類。當時的潛在收購者之一馬斯克深受影響。

但DeepMind創始人哈薩比斯的要求，可能其實是在收購案過程中開的一個“策略”，讓他的團隊看起來更強大。AlphaGo很強，但離“超級智能”還很遠。并且哈薩比斯后來自己也承認了，AI威脅人類的事情，還太過遙遠。

所以對于AI和人類的關系，我認為馬斯克應該多聽聽真正的每天把AI當做工作的人的看法。我認為他也可以去和最頂尖的AI專家和圖靈獎得主交流，看看為什么這些專家都不認可他的“超級智能”和“末日觀”。

馬斯克這么多年確實有不少偉大的創新創作，而且基本沒有失敗過，但并不意味著他不需要在“超級智能”這個問題上三思而后“談”。

最后，記得關注微信公眾號：鎂客網（im2maker），更多干貨在等你！