Google 機器學習系統裡也有「刻板印象」?

科技的進步,也讓我們增加對機器學習的依賴,自動化系統帶給我們可用數據、消費者洞察,不管是行銷、交易、招募等等,我們都會利用到系統「機器學習」來搜集資料、進而分析,但是你們知道機器學習裡也存在著「無意識偏見」嗎?

簡單來說,你可以把它想像是「刻板印象」,而研究員也在努力避免這件事情發生。

舉例來說,如果一間公司創建了一種演算法來幫助尋找公司「某個職缺最適合的人選」,邏輯上來說,會從公司現有的員工的輪廓、背景、學歷等等去做數據的基礎來源,那麼系統中的「數據」會受到這些「植入」而影響。

所以這些AI研究員他們都必須得有這種「偏見認知&認識」,去減輕偏差的情況以及消除「預先存在系統中的偏見」,因此Google也在上周推出一套新研究—數據探索工具 (KYD),全名叫Know Your Data,這套系統可以看到系統裡存在偏見的數據,然後去消除它。

KYD數據中可以看到男女性、興趣、活動等等的項目如何影響性別比例,例如:滑板項目男生佔多數、籃球項目男生佔多數。

但目前系統上要做出減輕及消除偏見受到蠻大的限制,但研究人員也指出這能改進未來系統數據中的「不公平」及「偏差」、確保未來的「機會公平」,這對Google將是一項重大的研究及挑戰。

回到頂端