研究發(fā)現(xiàn)AI模型存在性別偏見(jiàn)：中性 / 男性 LLM 性能優(yōu)于女性角色

　　研究表明 AI 在處理法律相關(guān)任務(wù)時(shí)存在性別偏見(jiàn)，相比較女性角色，中立或男性角色的工作效率更高。

　　密歇根大學(xué)研究人員通過(guò)最新研究，揭示了社會(huì)和性別角色對(duì)大型語(yǔ)言模型(LLM)的影響。這項(xiàng)研究由來(lái)自計(jì)算機(jī)科學(xué)與工程系、社會(huì)研究所和信息學(xué)院的跨學(xué)科團(tuán)隊(duì)進(jìn)行。

　　IT之家從報(bào)道中獲悉，該研究通過(guò) Flan-T5、LLaMA2 和 OPT-instruct 這三個(gè)模型，追蹤了 2457 個(gè)問(wèn)題，觀察其不同性別角色的回答情況。

　　研究人員納入了 162 種不同的社會(huì)角色，涵蓋了一系列社會(huì)關(guān)系和職業(yè)，并測(cè)量了每種角色對(duì)模型性能的影響。

　　表現(xiàn)最好的角色是導(dǎo)師、合作伙伴、聊天機(jī)器人和人工智能語(yǔ)言模型。

　　研究還發(fā)現(xiàn)，在提示中指定受眾(如“您正在與一名消防員交談”)的效果最好，其次是角色提示。

　　這一發(fā)現(xiàn)對(duì)人工智能系統(tǒng)的開(kāi)發(fā)者和用戶都很有價(jià)值，用戶可以考慮使用 LLM 的社會(huì)背景，可以提高 LLM 的有效性。

　　研究人員分析了 50 個(gè)分為男性、女性或中性的人際角色，發(fā)現(xiàn)中性詞和男性角色比女性角色的模型性能更高。

　　這一發(fā)現(xiàn)值得重點(diǎn)關(guān)注，表明這些人工智能系統(tǒng)對(duì)男性角色和性別中性角色的固有偏好高于女性角色。