微軟Bing被曝顯示兒童色情內容，AI審核這么不靠譜？

微軟可能需要像今日頭條學習，加強人工審核了。

微軟在2019年年初就遭遇了不少的危機，今天，據外媒報道，微軟的Bing搜索中有一些相關的關鍵字，正在為戀童癖者提供大量的兒童色情內容，微軟回復正在努力修復中。

安全公司的調研發現，微軟必應搜索不僅僅會在搜索結果中返回裸體兒童照片，如果用戶點擊這些圖片，必應也會在類似圖片功能中展示更多非法虐待兒童圖像，他們還會向用戶推薦其他類似搜索關鍵詞，從而跳轉出更多的兒童色情內容。

然而，谷歌的類似搜索卻沒有像必應這樣出現明顯的非法圖像以及內容。對此，微軟必應和人工智能產品副總裁喬迪·里伯斯（Jordi Ribas）表示，“研究人員發現的搜索結果確實違反了網站規則，公司正在努力防止此類事故的發生。”

此前，微軟宣布正在通過他們的AI研究成果讓必應搜索變得更加智能。去年，他們還使用專門的人工智能計算硬件BrainWave，使機器學習模型的性能提高10倍以上，增強了微軟必應搜索引擎的功能。

而在兒童色情內容上，微軟還開創了PhotoDNA技術，實現兒童性虐圖片檢測的自動化，讓此類非法圖片可以由電腦程序而非工程師自動識別。

據了解，PhotoDNA可以將圖片轉化為常見的黑白格式，還能將圖片尺寸調整至指定大小。然后該技術會把圖片分成一個個正方形，同時給每一個正方形內存在的特有底紋分配一個數值。這些數值結合在一起以后，就代表一個圖像文件的“PhotoDNA簽名”。這種獨一無二的簽名可以被用于與其他在線圖片進行比對。

早些時候，微軟已經將PhotoDNA技術應用在必應上，用來識別兒童性虐圖片，阻止這些照片在網上進一步傳播。

現在，必應卻被曝出這種負面事件，可以看到這項AI技術似乎并沒有預料中的有效，技術并沒有過濾掉那些非法色情的內容。

當然，不僅僅是搜索引擎會遇到這種問題，社交平臺、內容分發平臺也經常被曝出各種性虐色情內容傳播，其實這也在某種程度上反映了整個科技行業的現狀，當科技公司過于追求營收的增長以及效率，就會忽視對公眾利益的保護，比如如何在機器審核和人工審核之間達到平衡。

最后，記得關注微信公眾號：鎂客網（im2maker），更多干貨在等你！