我們談論色情時，AI能做什么？

飲食男女，人之大欲存焉。

幾千年前，孟子與告子辯論，告子說：“食、色，性也。仁，內也，非外也。義，外也。非內也。”盡管，這句“食色性也”常被人們誤以為是孟子所言，但將色與食物放在同等重要位置的可不止告子一人，就連孔子也曾說：“飲食男女，人之大欲存焉。”

“色”這一事的重要程度可見一斑。

而這來自于人類最原始與本真的需求，在千百年間，也催生、推動了成人產業的發展。

日前，TRE臺北國際成人展正如火如荼的舉行，日本著名女優高橋圣子的參展成為了最大噱頭。而再過數日，2018亞洲成人博覽也將拉開帷幕。

根據今年5月18日艾媒咨詢發布的《2018Q1中國情趣用品專題研究報告》顯示，現階段中國情趣用品市場正處于快速發展時期，預計2020年中國情趣用品市場規模將突破1300億元。此前，90后女生馬佳佳因為圍繞情趣用品創業備受關注，近年來，以網易春風為代表的行業“老司機們”也紛紛入局。

然而，關于“色”有合理合法處于“明處”的成人產業，也有隸屬違法犯罪暗地中的淫穢色情。

所謂“春風”不度玉門關，安全意識要增加。

成人產業界的“安檢”一職就此產生。

色與戒

圖 | 來源：南方都市報

吳霞坐在電腦前，快速的滑動著手中的鼠標，電腦中是多個點開的窗口。她熟練的點開運營審核系統，每個用戶的微動態、活動、相冊圖片等信息都會顯示在電腦上。她的工作就是從中選出違規的內容。隔著大西洋的另外一邊，薩拉與吳霞做著類似的工作，不同的是，她每天需要看8000多條包括大量種族主義言論、以及其他不堪的照片和視頻。

這樣的安檢工作，被稱為鑒黃師。

職業鑒黃師每天的工作內容主要包括查看各種文本、圖像、視頻，查看其中是否含有色情、血腥、暴力等內容。

巨大的工作量、長時間觀看令人不適的內容，久而久之，身為鑒黃師的她們不僅視力會下降、精神和心理上也受到了很大的影響。

英國媒體就在此前報道了微軟公司網絡安全團隊中的兩名員工亨利和格雷格將微軟告上法庭的新聞。起訴的原因就是他們在工作的過程中需要查看成千上萬的暴力視頻和圖片，導致了兩人出現精神分裂以及抑郁等癥狀。

兩人的律師表示，“許多人無法想象，亨利一天究竟要看多少可怕和殘忍的東西。不僅看到兒童遭性侵犯的畫面，還有針對兒童的謀殺以及難以形容的暴行。”

長期以往，亨利出現睡眠障礙，工作中看到的畫面經常出現在他的腦海中，他的病情越來越嚴重，甚至開始出現幻覺、精神分裂和抑郁等癥狀。

而這并非個案。之前，在美國、英國、中國等都曾出現過多例鑒黃師起訴“老東家”的案件，狀告鑒黃師這一職位帶給他們嚴重的心理影響。

但這個高危的職業，在國內卻被冠以“高薪”、“神秘”等標簽，引起了不少人對于鑒黃師這一職業的羨慕。

鑒黃師真的享受“年薪二十萬”的待遇嗎？

據悉，Facebook的鑒黃師薪資在每小時13美元到28美元不等；國內的一些網絡公司，該職位的月薪也僅為2000元-4000元。并且，很多鑒黃師在工作幾個月到一年之后就會辭職。

人員流動性大，也成為了這個崗位顯著的特點。

圖 | 來源：電影色戒海報

被強烈需要的鑒黃師

一邊是鑒黃師們對色的攔截，一邊是伴隨著互聯網社交媒體、直播、短視頻不斷涌現，色情、暴力等內容在法律邊緣瘋狂試探的此起彼伏。

直播行業中，前有 “直播造人”、“黃鱔自慰”被媒體怒批的斗魚TV；后有未成年人露體直播被《法制晚報》曝光的美拍。短視頻行業，有因內容低俗被人民日報點名、被責令整改的快手；也有剛推出國際版走向海外，就因為呈現不適內容，被印尼官方封禁，海外之路就此夭折的抖音。

這些依靠內容起家的社交媒體平臺們，在影響力、業務、商業化不斷上升的同時，內容成為了其最堅實的鎧甲，卻也成為了最薄弱的軟肋。通過已經“涼涼”的五五開和陳一發事件不難看出，在內容安全面前，商業價值再高也不能容忍。

因此，負責內容審核的鑒黃師成為了保證內容安全至關重要的防線，鑒黃師也自然而然成為各大企業擴招的對象。

2018年4月7日，快手在被責令整改后，面向全國發布招聘信息，新招3000內容審核編輯，將2000人的審核團隊擴大至5000人。而在海外，截至2017年12月，Facebook負責內容審查的人員就從4500名增加到了7500名，并且計劃在2018年底，該崗位人數達20000人，而海外著名平臺YouTube母公司谷歌也將內容審查團隊擴充到了10000人以上。

企業對于鑒黃師的需求是迫切而廣泛的，但這一職業帶給從業者的心理傷害引發的官司、人員流動性大造就了招人難、成本高的局面。而伴隨著人工智能技術的成熟以及商業化落地到金融、醫療、服務、文娛等各個領域，一些科技公司看到了人工智能在鑒黃、內容審核這一應用場景潛在的機遇。阿里巴巴、騰訊、網易、圖普科技等就是代表之一。

AI鑒黃，了解一下

2015年10月，阿里巴巴宣布“綠網”正式上線，該系統的另一個名字是“黃圖打分器”，即通過AI技術鑒別黃色圖片。

同年，騰訊上線了萬象優圖智能鑒黃服務。

而被戲稱為“養豬場”的網易也不甘落后，推出了網易易盾，提供智能鑒黃、暴恐識別等服務。

成立于2014年4月的圖普科技，目前已經為迅雷、酷狗、我圖網、七牛云、花瓣網等眾多一線互聯網公司達成合作，為其定制個性化圖片/視頻識別引擎。

圖 | 來源：微博

那么，AI又是如何充當鑒黃師的呢？

據悉，AI鑒黃和很多人工智能系統類似，將海量的色情圖片作為素材，通過深度學習算法進行訓練，識別色情信息，并通過樣本建立模型，最終機器以此為據判定哪些是色情圖片。

圖片與視頻直播不同在于，圖片是靜態的，而視頻和直播是動態的，但其識別方法并沒有本質區別。鑒別視頻和直播時都是通過間隔截圖、關鍵幀截圖等從視頻內容中提取相應的視頻幀進行圖像識別。

目前，Facebook、快手、迅雷、百度等都通過AI系統對色情、暴力等違法內容進行鑒定過濾。扎克伯格表示，臉書的AI系統已經能夠過濾掉高達99%的不良內容，但剩下的依舊需要鑒黃師進行處理。而根據百度發布的《2017年度信息安全綜合治理報告》中顯示，AI系統能夠實現95%以上的信息審核。

盡管已經極大的提升了效率，但當前AI并不能完全取代鑒黃師的崗位。

擅長在多模態深度語義理解，和結合上下文多輪語義理解的深思考人工智能CEO楊志明解釋道:“現在，在圖像識別或者視頻，針對于某些特定的目標，比如狗、職務、人這些識別都已經非常準確。但針對圖像或者視頻場景的理解，比如小狗趴在葡萄架下乘涼，整個場景的理解相對更難。而色情、暴力、血腥等往往正是需要AI對場景進行理解。”

此外，楊志明也表示，在技術層面，人們通常說的色情、暴力等本身是一個抽象復雜的概念。只有先在技術上將其定義清楚才能做內容上的識別。不過，技術人員可以采用知識圖譜來描述這些概念，比如暴力，可能會有施暴工具、被害者、施暴者等。在定義清楚之后，再用場景理解，識別的準確率就會提高很多。

關愛鑒黃師身心健康，從AI做起。

結尾：

從春宮圖、妓院、金瓶梅到如今的情色電影、成人產業，色與食始終是人類根本的需求。而隨著時代的發展，科技對于色與性的介入也將不僅僅停留在AI取代鑒黃師的層面。目前，已經有不少科技公司正在研發性愛機器人、虛擬情人，通過新材料、AI、VR等多種技術手段，多層面和維度去滿足人類關于性的需求。

未來，誰又能保證人類不會像電影《Her》里面一樣，愛上一個語音助手呢？

文章部分資料來源：1. 南方都市報 《女鑒黃師：一分鐘看上百張圖 視覺沖擊大久了扛不住》  2. SuperD超多維科技《AI鑒黃師如何工作？計算視覺技術與網絡視頻審核》。

最后，記得關注微信公眾號：鎂客網（im2maker），更多干貨在等你！