Google藉由人工智慧打擊惡意留言等網路罷凌問題

2017.02.24 03:13PM
66
是Google藉由人工智慧打擊惡意留言等網路罷凌問題這篇文章的首圖
首圖

在諸多服務導入人工智慧技術之後,Google再度與Jigsaw合作推出名為Perspective的服務內容,並且將相關API開放提供使用,讓各類線上服務內容可以此降低惡意攻擊或偏離討論主題的留言與評論。

是Google藉由人工智慧打擊惡意留言等網路罷凌問題的第2張圖

許多線上內容網站、討論區等服務,最困擾的其實不是廣告留言,而是惡意攻擊或偏離討論主題的留言與評論,過去處理模式通常需要透過專職人員手動清理、杜絕,而Google宣布與Jigsaw合作藉由人工智慧技術打造名為Perspective服務內容,讓線上服務內容業者能透過開放使用的API內容聰明過濾網站不當留言。

根據Google說明,Perspective主要透過由人手動評定為不當留言內容,並且藉由長時間累積學習之下,讓系統能依照學習經驗協助釐清刻意搗亂、影響內容討論的網路留言,藉此減少網路語言暴力、罷凌現象,同時也能讓內容網站服務發展更為正向。

目前此項服務已經開始與維基百科、紐約時報、衛報、經濟學人等內容合作,未來或許也會計畫跟更大線上社群平台如FacebookTwitter等內容服務合作。

不過,以目前技術發展來看,即便可透過人工智慧過濾不當留言內容,依然必須要配置專職人員確認是否誤判,或是造成內容判斷邏輯異常現象,避免內容管理陷入一言堂等獨斷情況,但整體上確實可讓內容管理所需人力需求減緩。

回應 0

0 則回應