Google旗下的孵化項目Jigsaw花了一年時間研究如何使用 人工智能 技術檢測網絡言論。最近，它推出了一款名為Perspective的工具。這是一個應用程序界面，能使用機器學習的方法自動檢測帶有侮辱、騷擾、辱罵性質的言論。Perspective將“毒性”定義為“粗魯的、無禮的、不合理的言論”。在這個界面中，人工智能技術會自動給被輸入的言論的“毒性”評級打分，從“很健康”到“很毒”，對應1%到100%的評分。

這個開源界面鼓勵全球各地的相關人士參與其中，利用Perspective管理各種網絡平臺的騷擾言論。對于Perspective的開發者來說，此舉可以通過搜集更多的數據來精進算法、優化功能。與Perspective合作的不僅有維基百科，還有《紐約時報》《衛報》《經濟學人》這些主流媒體，就拿《紐約時報》來說，它擁有一個14人的團隊，他們每天要人工檢查1萬多條評論。

這款工具也陷入了是否會限制言論自由的爭議中。對此，與Perspective合作的媒體已表達了觀點?！都~約時報》希望借此保留有禮貌的語言和實質性的觀點，同時也希望觀點更加多樣化，讓來自不同群體的讀者都能發聲。《經濟學人》則指出，此舉是為了“提高辯論的質量”。它和《衛報》都在做讀者調查，以進一步了解讀者對這個實驗性項目的態度。另外，其實Perspective系統不會對用戶評論做任何修改，評論者可以自行選擇是否需要修改。

打算開發網絡言論優化技術的公司不只Google一家。在不久前發表的一封公開信中，Facebook的 CEO 馬克?扎克伯格也表達了類似想法。顯然，自動篩查網絡言論的技術更大的應用場景就是在Facebook、Twitter以及YouTube等社交平臺上。

Facebook已經開始使用人工智能技術區分報道恐怖主義的新聞和實際的恐怖主義宣傳，并嘗試辨別照片和視頻。不過，Facebook這項技術目前還在初級階段，在人工智能審核后，一些內容還是會被提交給人工團隊復核。