谷歌推出“Conversation AI”工具來屏蔽網(wǎng)絡暴力言論

　　隨著互聯(lián)網(wǎng)進入我們的生活，網(wǎng)絡暴力言論也經(jīng)常出現(xiàn)在我們的生活中，越來越多的無辜網(wǎng)友在網(wǎng)絡上受到他人的肆意語言攻擊，針對這種現(xiàn)象，谷歌推出了一款“Conversation AI”工具，這款工具利用人工智能能夠屏蔽網(wǎng)絡暴力言論，從目前的技術來說，屏蔽的準確率已打92%。

　　電影《搜索》描述了這樣一個畫面：高圓圓飾演的女主因為在公交車上沒有給老人讓座，有人將這段視頻傳到網(wǎng)絡，引發(fā)了廣大網(wǎng)友對她進行人肉搜索。一時間，鋪天蓋地的辱罵、嘲諷、詛咒充斥著她的生活，最后女主選擇用跳樓來結(jié)束自己的生命。如今，這已經(jīng)不再只是電影中才出現(xiàn)的畫面。隨著互聯(lián)網(wǎng)滲入我們生活的方方面面，網(wǎng)絡暴力、道德綁架，越來越多的鍵盤俠們用不負責任的言語在網(wǎng)上肆意攻擊他人。

　　據(jù)國外媒體報道，美國網(wǎng)民在最早接觸網(wǎng)絡的同時，也最先受到網(wǎng)絡造謠誹謗之害。根據(jù)美國獨立民調(diào)機構(gòu)皮尤研究中心 2014 年的一份調(diào)查，每 10 個網(wǎng)民中就有 4 人遭遇過某種形式的網(wǎng)絡騷擾，近五分之一互聯(lián)網(wǎng)用戶遭遇過嚴重的網(wǎng)絡暴力，包括人身威脅、持續(xù)性的跟蹤騷擾。

　　網(wǎng)絡安全已經(jīng)成為我們不得不重視的一個問題。面對互聯(lián)網(wǎng)海量的言論和信息，人工檢測網(wǎng)絡暴力信息的確費時費力，這時候，人工智能就派上用場了。

　　Facebook 和 Google 等公司都開始嘗試結(jié)合人工智能等技術來過濾網(wǎng)絡不良言論。就連一向以言論自由著稱的 Twitter 也開始允許用戶設置一些關鍵詞來屏蔽騷擾信息：

　　Facebook 機器學習小組使用機器學習技術監(jiān)測所有上載到 Facebook 的圖片的內(nèi)容，包括廣告的內(nèi)容，用來過濾其中色情、暴力等內(nèi)容。

　　Google 的 SafeSearch（安全檢索）功能使用了機器學習來識別色情圖片，可給未成年人提供健康正常的網(wǎng)絡瀏覽與檢索。

　　Twitter 收購了兩家視覺媒體內(nèi)容監(jiān)測創(chuàng)業(yè)公司 Madbits 和 Whetlab，運用它們的人工神經(jīng)網(wǎng)絡技術實現(xiàn)色情內(nèi)容監(jiān)控。

　　近日，谷歌又推出了一款人工智能技術支撐的全新工具，名為“Conversation AI”。這個新軟件能夠幫助用戶不受網(wǎng)絡有害言論的威脅。

　　Conversation AI 通過機器學習技術，自動捕捉網(wǎng)絡上的污言穢語，并給它的攻擊力評分——100分是最有害的，0 分是無害的。這個工具將會首先在《紐約時報》的注釋版塊進行測試，維基百科也計劃將會使用這款應用。不過據(jù)《有線》雜志稱，該公司并沒有透露測試的具體細節(jié)。

　　由于該技術最終將成為開源的，所以在不久的將來，全球的網(wǎng)站和各類社交媒體平臺，都可以用它幫助用戶逃過暴力言論的傷害�！队芯�》表示，Conversation AI 可以“自動識別出侮辱、騷擾的言論，甚至還能幫你刪除它。”

　　雖然 Conversation AI 在測試中被發(fā)現(xiàn)存在一些缺陷，但是谷歌透露，它的準確度已達 92 % ，并且隨著時間的推移，功能將會不斷完善。

　　在網(wǎng)絡上，暴力言論、網(wǎng)友道德綁架事件時有發(fā)生，并且常有一些公眾人物受到這些惡意艷遇的侮辱和騷擾，如果有了“Conversation AI”工具，那你就可以屏蔽這些不良言語，還我們一個干凈的上網(wǎng)環(huán)境。