Google 用人工智能技術 自動屏蔽不良言論
美國脫口秀節目《吉米雞毛秀》上有一個經典環節，邀請明星朗讀網友的「惡毒推文」。面對鋪天蓋地的網絡暴力，即使是習慣被評頭論足的明星也不免氣急敗壞，直接爆粗口。網絡在帶來網絡自由的同時，這些鍵盤俠、杠精也是其產物之一。
面對鋪天蓋地的評論，很多平臺都制定了發言規定。對于不友善言論，知乎采取的方法是「折疊」，微博上更常用「拉黑」，或者屏蔽關鍵詞。為了凈化網絡討論環境，Google 也做出了自己的嘗試，他們推出一個叫 Tune 的 Chrome 插件，用戶可以打開按鈕，對一些惡毒評論進行屏蔽。
這個小工具來自 Jigsaw 公司，它的前身為 Google Ideas，是 Google 創建的一個技術孵化器，致力于用技術解決網絡暴力、言論自由、信息透明等難題。
Tune 的作用就是屏蔽惡毒評論。它目前支持 YouTube、Twitter、Facebook、Reddit、Disqus五個平臺，開啟之后，用戶會看到一個調整惡毒程度的按鈕，有 quit、low、medium、loud、blaring 五檔，級別越高，可以看到的惡毒評論越多，反之則是一個安靜友善的網絡環境。
你還可以選擇兩個極端：「來者不拒」展示全部評論、「歲月靜好」隱藏所有評論。
有哪些評論會被屏蔽呢？帶攻擊、侮辱性質的話語是一定會被屏蔽的，比如常見的 F 開頭字眼。這些評估基于人工智能技術，用一套機器學習模型來評估評論可能對會話產生的影響。Perspective 網站展示了這套模型的「忍耐度」，你可以嘗試輸入一些評論，測試它們是否惡毒。
這項技術的應用不光是檢測「惡毒評論」，還能引導社區氛圍。維基百科正在研究如何避免編輯詞條時的惡意攻擊，媒體則用來引導高質量討論。水貼、抖機靈、夸大事實…… 這套系統可以做的還有很多，任務艱巨。
目前 Tune 僅僅是一個實驗性的項目，它對惡毒評論的評估不一定準確，會有漏網之魚、也會「誤殺好人」。不過對于只想要安安靜靜上網的網友來說，這倒是個不錯的工具，眼不見心不煩。
當然，這個工具僅僅是在使用者的一端屏蔽了惡毒評論，無法根除這個問題。想建立一個真正友善的社區，還是要靠平臺合理的規則引導，以及每個人的自覺。
來源：極客公園
一周排行榜
-
工程設計計算器
-
河姆渡方案館
