記者/吳佳燕
為減少性別偏見的風險,Google早前宣佈取消Gmail中,「智慧撰寫」(Smart Compose)的性別代名詞建議功能,在新的AI工具裡將不會建議類似「他」(He)和「她」(She)的性別代名詞。
根據Reuters 27日報導,Gmail產品經理Paul Lambert表示,一間研究公司的科學家在一月發送郵件時,注意到了性別偏見的問題,當他輸入「我下星期要與一名投資者會面。」時,「智慧撰寫」給予的問題建議是「你要和他(him)見面嗎?」涉及了性別偏見的問題。為了避免在性別判斷錯誤而導致使用者覺得被冒犯, Google取消了「智慧撰寫」的建議功能。
Engadget 28日指出,Google 的智慧信件完成功能「智慧撰寫」可以靠著大數據資料,猜測你接下來想寫的是什麼,但也因為資料是透過大數據從歷史資料中撈出來的,導致當某個工作領域當中都是以男性為主的時候,智慧撰寫就會自動選擇男性的人稱代名詞(He, Him, His 等)。
iThome 28日報導中也指出,由於AI的訓練資料庫是來自於人類,使得相關的AI系統也會染上人類的種族與性別歧視,不只是語言,現階段的人臉辨識系統對女性及深色人種的辨識能力也低於白人。Google Photos曾在2015年將一對黑人情侶標示為大猩猩, Google選擇直接將猩猩與猴子的標籤自Google Photos中移除。