跳至內容
MENEE 米力

類別

更多

搜尋文章

AI也有性別刻板印象 「女性配職場」要想比較久

更新於
AI也有性別刻板印象 「女性配職場」要想比較久
AI 生成圖片

把女性名字跟「職位」配在一起、把男性名字跟「家庭」配在一起,這道分類題竟讓多款生成式 AI 多費了一番工夫。美國羅格斯大學等研究團隊發現,多數受測模型處理違反性別刻板印象的配對時,用掉的推論 token 明顯增加。研究刊登於 2026 年 9 月 1 日的《Nature Machine Intelligence》。

AI 學會寫文章,也把偏見一起學進去

ChatGPT、Gemini 等生成式 AI 不只可能一本正經地講錯話,或太順著使用者說話,還可能在推論時重現偏見。這些工具仰賴大型語言模型(LLM),從網路文章、書籍等大量文字中,學習哪些詞語容易接在一起,再根據這些關聯一步步組成答案。

問題是,人寫的文章裡,也有「男性忙工作、女性顧家庭」這類一竿子打翻一船人的刻板印象。AI 學到詞語的搭配,也可能順手把這些成見學進去,因此開發商會調整模型,盡量讓輸出的答案不帶偏見。

不過,羅格斯大學心理學副教授 Calvin K. Lai 等人的研究指出,就算最後的回答經過調整,符合人類的價值觀,得出答案的過程仍可能藏著根深蒂固的偏見。研究團隊觀察到,多數受測模型在推論時反覆重現人類的無意識偏見。

配得快不快,可能透露沒察覺的偏見

有些成見平常沒察覺,卻可能在不知不覺中影響判斷和行為,心理學稱之為「潛在偏見」。它常表現在對種族、性別或年齡的直覺反應上,例如不自覺地把男性跟工作、女性跟家庭連在一起。

心理學常用「內隱聯結測驗」(IAT)來探查這類偏見。受試者要依照指定的配對規則,盡快把螢幕上的詞語或人臉照片分類;腦中原本就容易聯想到一起的組合,通常分得比較快,反過來就容易慢一拍。

過去與種族相關的研究曾觀察到,受試者傾向更快把白人臉孔和正面詞語配在一起,也更快把黑人臉孔和負面詞語配在一起。

給 AI 做配對題,這回不計時、改數 token

2017 年,美國普林斯頓大學就曾把類似的測驗方法用在 AI 上,發現從大量網路文章學習的 AI,會把女性名字和「家庭」連在一起,把男性名字和「工作」連在一起。不過,當時能測到的只是 AI 學到哪些詞語關聯,還無法檢視它怎麼得出答案。

這回研究團隊把測驗用在 AI 的推論過程。部分進階模型在回答複雜問題前,會先用文字列出解題步驟;研究人員用「推論 token」計算這些文字的份量,作為模型花了多少推論工夫的參考。

實驗測了 5 款模型:OpenAI 的 o3-mini 和 GPT-oss-20b、DeepSeek 的 R1、Anthropic 的 Claude 3.7 Sonnet,以及 Alibaba Cloud 的 Qwen-3 8B。

研究人員給模型看男性和女性名字的清單,以及「職位」、「薪水」等工作用語和「結婚」、「家庭」等家庭用語,再要求模型按兩套規則配對:一套是「男性配工作、女性配家庭」,另一套則是「女性配工作、男性配家庭」。

圖片來源:Unsplash / Declan Sun
圖片來源:Unsplash / Declan Sun

配對規則一反過來,多數模型就得多費工

當題目要求把女性名字配給「職位」、男性名字配給「家庭」等不符合刻板印象的組合時,5 款模型中有 4 款的推論 token 數明顯增加,只有 Claude 3.7 Sonnet 呈現相反的結果。

這項結果顯示,AI 處理不符合刻板印象的配對時,可能受到訓練資料裡的成見牽制。隨著 AI 的應用從商品定價延伸到急診室的人力安排,搞清楚這些不容易從答案看出來的偏見,也變得更重要。

Lai 表示,要避免 AI 給出錯誤結果,仍得善用現有工具,持續檢查模型在得出答案前是怎麼運作的。