研究發(fā)現(xiàn)AI模型存在性別偏見：中性 / 男性 LLM 性能優(yōu)于女性角色

　　研究表明 AI 在處理法律相關(guān)任務(wù)時(shí)存在性別偏見，相比較女性角色，中立或男性角色的工作效率更高。

　　密歇根大學(xué)研究人員通過最新研究，揭示了社會和性別角色對大型語言模型(LLM)的影響。這項(xiàng)研究由來自計(jì)算機(jī)科學(xué)與工程系、社會研究所和信息學(xué)院的跨學(xué)科團(tuán)隊(duì)進(jìn)行。

　　IT之家從報(bào)道中獲悉，該研究通過 Flan-T5、LLaMA2 和 OPT-instruct 這三個(gè)模型，追蹤了 2457 個(gè)問題，觀察其不同性別角色的回答情況。

　　研究人員納入了 162 種不同的社會角色，涵蓋了一系列社會關(guān)系和職業(yè)，并測量了每種角色對模型性能的影響。

　　表現(xiàn)最好的角色是導(dǎo)師、合作伙伴、聊天機(jī)器人和人工智能語言模型。

　　研究還發(fā)現(xiàn)，在提示中指定受眾(如“您正在與一名消防員交談”)的效果最好，其次是角色提示。

　　這一發(fā)現(xiàn)對人工智能系統(tǒng)的開發(fā)者和用戶都很有價(jià)值，用戶可以考慮使用 LLM 的社會背景，可以提高 LLM 的有效性。

　　研究人員分析了 50 個(gè)分為男性、女性或中性的人際角色，發(fā)現(xiàn)中性詞和男性角色比女性角色的模型性能更高。

　　這一發(fā)現(xiàn)值得重點(diǎn)關(guān)注，表明這些人工智能系統(tǒng)對男性角色和性別中性角色的固有偏好高于女性角色。