Google AI 辨識工具將不再註記性別標籤,避免造成性別歧視

2020.02.21 02:27PM
309
照片中提到了Google、人、:更多,包含了人類的中國符號、公共關係、牌、產品設計、人類行為

基於 AI 的影像辨識是當前相當廣泛的應用,不過畢竟當前的技術難以 100% 正確區分性別等,難免發生性別判讀錯誤的情況,對一些反應比較激烈的族群,也容易踩到他們的雷; Google 為了避免性別判讀造成如性別歧視等爭議,決定在新版的 Google Cloud Vision API 工具取消對照片辨識當中的性別標籤,全部改為以"人物"標籤。

根據 Business Insider 指出, Google 針對 Cloud Vision API 的開發者發出通知,表示未來將不再為照片分析加入性別標籤,避免 AI 判讀灌輸偏見; Google 的說法是由於無法僅透過外觀正確判讀性別,不該以二元方式,故決定刪除性別標籤,以符合 Google 提出的人工智慧原則的第二項:避免造成或是加強不公平的偏見。

當前以基於機器視覺的 AI 辨識仍存在許多問題,除了 AI 邏輯以外,感測器(相機)輸出的影像清晰度、對比、細節等也會影響 AI 進行影像判斷,例如白種人的臉部辨識成功率就高於有色人種,更不用說 Google 的 AI 影像辨識也曾發生把黑人判斷成大猩猩的荒謬錯誤,雖然 Google 事後修正了這項錯誤,但相似的情況仍層出不窮。

Google 在 2018 年由於協助五角大廈發展無人機一事造成員工反彈,故 Google 在當時發表人工智慧原則,包括允諾不將人工智慧用於發展武器,以及列舉許多關於人工智慧的道德準則,藉此減少員工的不滿。

雖然 Google 的舉措看似積極消弭 AI 造成的偏見,不過仍有少數人持反對意見,當 Google 邀請認為受到影響的開發者在論壇上討論,有一位開發者抱怨 Google 此舉是由於政治正確,他認為如果多半的情況下性別辨識是正確且接近人類的判斷力(等同指出人類也無法 100% 正確以視覺分別男女)為何不能使用 AI 判斷,並指出他的公司將改用其它仍可提供性別標籤的相似服務。

資料來源

回應 7

7 則回應