“臉書”成“死亡筆記”，小扎要在全球推廣AI自殺分析系統，這樣真的能拯救自殺者嗎？

如何讓AI真正落地，更好地為人類所用，這是包括Facebook在內的所有企業都要面對的問題。

Facebook上又雙叒叕有人直播自殺啦！扎克很忙，扎克很累。

所以，他們最近正式對外宣布要在全球范圍內推廣AI防自殺系統。

停不下來的自殺事件，“臉書”成了死亡筆記

今年10月，因為女兒沒有邀請自己參加婚禮，土耳其的一位父親在Facebook上向網友傾訴一番后，毫不猶豫地拿起槍抵住自己的腦袋，爆頭而亡。

這已經不是Facebook上第一起自殺事件了。今年4月，一美國男子因失戀在Facebook上直播隨機殺人，在槍殺一名無辜老人后自殺，未過幾日，一泰國父親將自己女兒直播吊死后自己也上吊身亡。

更糟糕的是，這些自殺視頻在Facebook主頁上通常掛了幾小時甚至幾周后，才被官方發現并刪除，此時視頻已經被大量用戶看見并且轉發，對社會造成了極大不良影響。

由于網友們根本無法去到現場，報警也需要一定時間，那些在Facebook上自殺的人，大多都沒有得到及時的制止與搶救。“臉書”變成了完整記錄他人死亡過程的死亡筆記。

惋惜之后，人們將矛頭對準平臺，Facebook遭遇重大形象危機。

在今年的Facebook 年度開發者大會 F8 上，扎克伯格在向那些逝者表達慰藉之后，向我們介紹，公司正計劃通過人類與人工智能的協同作戰，以加強平臺的內容管理和秩序維護，消除人們的不滿和質疑。

今年5月份，扎克伯格在其臉書主頁宣布，公司將再雇用3000名員工，與原有團隊共同組成7500人的審查大隊，采取7*24小時的工作制，專門負責檢測Facebook上的不當貼文與視頻，包括那些有自殺傾向的內容。

然而作為全球登錄用戶最多的社交應用，Facebook每天更新的內容數以億計，不管在成本還是速度上，人工審核都有所不足，因此，公司又研發出了一套人工智慧防自殺分析系統，將AI程序作為信息的第一道過濾，幫助工作人員更快地發現異常狀況并采取措施。今年3月初，該系統在美國范圍內進行了測試。

今年秋天，一名美國女子在Facebook直播過程中不斷揮舞手中的刀子，并揚言要自殺，Facebook的人工智能系統立刻偵測到其異常狀態，并判定其有自殺傾向，隨后立即通報警方與醫院，有效阻止了一次自殺行為。

據Facebook介紹，AI偵測與回報機制的速度比人工的手動回報快三成，在正式投入使用后，一個月內能檢測并攔截到的自殺事件就有百余個，有效挽救了許多生命。鑒于其功能已經相對完善，所以官方宣布將在全球范圍內正式推廣此系統。

Facebook到底是怎樣用AI防止自殺的呢？

目前，系統主要是對用戶的發帖內容進行掃描，“我想死”“我討厭這個世界，我不想活了”這樣的內容都會被作為檢測的關鍵語句，接著，系統就會自動將這些用戶標記起來，然后直接轉發給公司相關部門，交由專員篩選和處理，對于那些確實有自殺傾向的人，Facebook會及時向當事人及其朋友發送有用信息，并且聯系警方、醫院，以及當地的防自殺組織甚至政府。

除了文字識別，Facebook在視頻直播中也植入了AI程序，當發現疑似自殺直播后，系統不會切斷信號，但是會開始內容監控，并在屏幕上顯示熱線電話等相關內容，不過關于直播監測的技術細節，官方目前并沒有透露。

某種程度上，該系統確實極大提高了Facebook應對此類事件的能力，但是其在響應的速度和準確度上仍有很大的提升空間。

雖然和人工相比，AI程序已經相當迅速了，但是這類緊急事件對系統響應速度的要求十分之高，甚至要比警察系統的響應速度更快，因為它是第一道檢測程序，直接決定了此次攔截能否及時有效實施，Facebook官方也表示：提高響應速度將會是整個流程中的重中之重。

另外，和人工相比，AI程序的準確度還遠遠不夠，因為AI缺乏人類常識，經常會出現“開不起玩笑”的誤報警現象。扎克伯格表示：“雖然目前已經有了通過識別語音語調，揣摩發言者意圖以及辨別內容真假的技術，但是目前還不清楚將該技術整合進深度學習框架中后，是否還能有效率的運行。”

AI的加入，或許真的可以幫上大忙

雖然Facebook推出此系統很大程度上是為了減輕負面輿論，維護企業形象，但不得不說，其在AI的具體應用上有極大的借鑒意義。

如何讓AI真正落地，更好地為人類所用，這是包括Facebook在內的所有企業都要面對的問題。事實上，許多企業都有類似的防自殺措施，比如siri的語音服務和谷歌的關鍵詞搜索。另外，世界上還有很多相關的慈善機構，比如The Samaritans就在通過和Twitter這些社交平臺的合作來阻止那些有自殺傾向的人。

但到目前為止，由于技術和成本等因素的限制，對自殺行為的識別仍停留在比較初級的關鍵字層面，并沒有取得實質性的突破。

而Facebook這次大舉花費人力財力搭建完整的AI防自殺系統，至少說明，在“全球越來越多人選擇自殺”的這個老大難問題上，AI的加入，或許真的可以幫上大忙，帶來更多質的飛躍。

比如AI的情緒識別，不僅在防止自殺，在醫療、服務、甚至審訊領域都有極大意義。目前國內外多家公司都推出了相關的面部表情識別系統，基于特定算法，捕捉人類面部的幾百個關鍵肌肉點，構建模型進行分析，不僅可以識別出人類常有的基本表情，還可以計算視線方向，頭部方向，甚至推測出對象性格。

結語：

雖然AI現在只是初具“察言觀色”的能力，但相信不久的將來，隨著算法的完善和數據的積累，它能夠做到真正的洞察人心。至于它會化為魔鬼還是天使，那就要看人類自身對它的定義了。

最后，記得關注微信公眾號：鎂客網（im2maker），更多干貨在等你！