好好的機器人，怎么就暴走了？

斯坦福大學人工智能與倫理學教授杰瑞·卡普蘭大開腦洞，在《人工智能時代》中揭秘了機器人過去到未來的“暴走大事件”。

好好的機器人，怎么就犯罪了？

好好的人類，怎么就遭受機器人襲擊了？

在人工智能時代，我們應該如何與機器人和平共處？

斯坦福大學人工智能與倫理學教授杰瑞·卡普蘭大開腦洞，在《人工智能時代》中揭秘了機器人過去到未來的“暴走大事件”。

第一次機器人暴走事件

時間：1972年

地點：美國波士頓

歷史上第一次機器人暴走事件就發生在1972年一家離波士頓不遠的實驗室里。

馬文·明斯基是MIT人工智能實驗室聯合創始人主任，他曾提議，也許某一天醫生可以遠程控制機器人手臂，為病人實施外科手術。但是他需要一個實際由電腦控制的手臂才能實現這個想法。于是他給在斯坦福大學的朋友約翰·麥卡錫打電話，麥卡錫就把自己的研究助手借給明斯基幫他完成這個計劃。維克托·沙因曼是一位機械工程方面的青年才俊，他很快就設計出了一個原型，這個原型后來成了第一個在商業上獲得成功的電腦控制手臂PUMA可編程通用裝配機械手）的設計基礎。

理論雖然不錯，但現實卻在拖后腿。PLWA手臂很沉重，也很難控制，必須要固定在桌子上才能穩定。一天，可能是由于編程錯誤，這個手臂開始前后振動。隨著沖量越來越大，桌子開始劇烈地晃動，后來竟然開始隨著手臂的擺動在房間中顛簸行進。一個在實驗室工作的倒霉研究生一開始沒有注意到這個新生的移動機器人正在靠近。當他終于注意到的時候，已經太晚了——他被逼到了一個角落里。這個機械“虐待狂”毫不留情地靠近他，他蹲伏在地并大聲呼救。正當他即將成為“歷史腳注”的時候，一個同事沖了進來制止了這臺機器，才結束了這場鬧劇。

我是一個粉刷匠，粉刷本領強

時間：2022年

地點：英國劍橋

如果讓你設想未來的機器人油漆工長什么樣子？我們很容易就能想象到一個人形機器人爬在梯子上揮舞著刷子，和它旁邊的人類同事一起工作的場景。

如果你來到2022年英國劍橋小鎮，會發現機器人粉刷匠其實是一組飛翔的無人機中隊，每個無人機上面都配備有噴霧嘴并牽引著一袋顏料。無論是因為強風還是其他因素，無人機都能迅速而精確地調整彼此之間的距離，以及它們和木板外墻之間的距離。當個體機器人供給不足時，它們就會飛到涂料桶處自動注滿并充電，然后再回到最需要的位置上。分散安裝在項目周邊的一系列攝像頭會持續監測這群飛翔的小家伙，并且評估工作的進度和質量。真正指揮這場“機械芭蕾”的設備甚至不需要出現在現場。它可能就是廠商在亞馬遜云上租用的所謂“軟件即服務”。為什么在一星期只使用幾小時的情況下，還非要冒著被雨淋的危險棄機器人而不用呢？

你的粉刷匠可能仍然在為這些酷炫的裝備償還貸款，他出現后就架起攝像機，在平板電腦上的App中標記目標區域，打開涂料桶，然后啟動無人機。整個房子可能只需要一個下午（而不是一個星期）就可以粉刷完畢，而費用只需要今天人工費用的零頭。在這種系統成型的初期，工人可能仍然需要預處理表面、鋪罩布單，但是當產品工程師升級了系統并添加了部件之后，這些工作就沒有必要了。

坐上無人駕駛汽車，你就再無隱私可言

時間：2030年

地點：中國北京

2030年的街道上，已經很難再見到人類司機駕駛的汽車了，因為它們的事故率實在太高，人們都已經習慣乘坐無人駕駛汽車。

當我們在家門前等候，無人駕駛汽車會來接我們上班，我們想要喝咖啡，汽車建議你選擇Peet's。如果在走到這一步的時候我們停下來看看屏幕上的地圖，就會發現Peet's咖啡既不是一個最順路的選擇，這家咖啡店也不在你的偏好列表中，而無人駕駛汽車本應該根據實踐中不斷磨合改進的機器學習算法為你選出你最愛的咖啡館。為什么它會向你推薦Peet’s咖啡館呢？因為這家咖啡館在無人駕駛汽車的推薦結果中花錢購買了優先推薦，就像你打開Google（是的，Google已經回到中國）最先看到的那些搜索結果一樣，它們也經過了一定的商業化干預。與網上搜索結果優先展現不同的是，你的無人駕駛汽車可以用比較隱蔽的方法影響你的決策。

你對于干洗店的選擇也是一樣，你所以會把衣服送到那家店，完全是因為聽從了無人駕駛汽車的建議。而這輛車之所以會給出這種建議，是因為Suds干洗店給無人駕駛汽車的制造者Google公司付了錢，這樣一來這家干洗店就能夠成為你所在地區無人駕駛汽車的首選。

至于那一家搞優惠活動的素食餐廳，倒的確是你的最愛，不過奇怪的是這輛無人駕駛汽車此前從未來過這里，它是怎么知道你的喜好的呢？很簡單，它通過梳理你的電子郵件獲得了關鍵詞，在這基礎上評估其中蘊含的感情基調并且獲取相關信息。同樣，這輛無人駕駛汽車也非常明白應該在路過雜貨店的時候向你展示哪一些產品信息，因為它已經回顧了你過去的購物行為。

此外，有一次你和朋友在車里聊天時提到前一晚上你曾經品嘗了一種非常棒的啤酒。你的汽車聽到了你和朋友的對話，迅速地記下了其中的品牌關鍵詞，因此當這種啤酒在雜貨店里有售時就會自動顯示在你的購物清單上。

無人駕駛汽車普及的那一天，我們要為便利性所付出的代價就是處處被監視。

警官，逮捕那個機器人！

時間：2045年

地點：美國洛杉磯

奇點年的到來讓家庭機器人走入每家每戶。你最近新買了一臺家庭機器人，它能從你的公寓出發，從10樓坐電梯下樓，去馬路對面的星巴克給你買一杯焦糖星冰樂。這臺機器人不僅被預編好了一套一般行為準則，還會通過觀察它接觸到的人的行為來加強自己的導航和社交技能。畢竟，習俗和實踐需要因地制宜?？赡茉诩~約，你和你遇到的女性握手是適當的行為，但是在伊朗，你和非親屬的女性握手是不被允許的。你可能不知道，你的機器人最近看到了一個小概率事件，一個善良的人在警察趕到之前制服了一個偷錢包的賊，這個人贏得了周圍一大幫圍觀群眾的贊許和欽佩。

在去給你買咖啡的路上，你的機器人看到了一個男人和一個女人扭打在一起，這個男人在她明確反對的情況下拿走了她的錢包。機器人根據自己的通用編程和具體經驗推測有人正在犯罪，它把男人摔倒在地，一邊控制住他一邊撥打911。

警察趕到之后，那個男人解釋他和自己的妻子只是在互相鬧著玩爭奪車鑰匙，好決定誰來開車。他的妻子證實了這個故事。他們把注意力轉移到了你好心但是倒霉的機器人身上，它盡職地解釋說，它只是在你的命令下去買杯飲料而已。這兩個人憤怒地堅持要警察以傷害罪逮捕你。

這真是糟糕的一天！

最后，記得關注微信公眾號：鎂客網（im2maker），更多干貨在等你！