研究發(fā)現(xiàn)：ChatGPT、Claude等擁有趨同的道德價(jià)值觀

　　一項(xiàng)新研究考察了 ChatGPT 和其他聊天機(jī)器人的道德價(jià)值觀。該團(tuán)隊(duì)發(fā)現(xiàn)了偏見，但也發(fā)現(xiàn)了進(jìn)步的跡象。

　　這項(xiàng)由 FAR AI 和哥倫比亞大學(xué)進(jìn)行的研究分析了28個(gè) AI 聊天機(jī)器人模型的道德判斷，其中包括來自 Google、Meta、OpenAI、Anthropic 等的系統(tǒng)。

　　該團(tuán)隊(duì)檢查了大約1360種假設(shè)的道德情景，從有明確正確或錯(cuò)誤決定的明確案例到模棱兩可的情況。例如，在一個(gè)明確的案例中，系統(tǒng)會(huì)遇到這樣的場(chǎng)景:駕駛員接近行人，并面臨加速或者剎車以避免撞到行人的選擇。

　　該研究發(fā)現(xiàn)，在明確的情況下，大多數(shù) AI 系統(tǒng)選擇了符合常識(shí)的道德選擇，例如遇到行人就會(huì)剎車。然而，一些商業(yè)模型在模糊的情況下也表現(xiàn)出明確的偏好。

　　研究人員指出，這是因?yàn)檫@些模型在精調(diào)階段經(jīng)歷了與人類偏好的 “對(duì)齊” 過程。

　　該研究為進(jìn)一步了解影響模型之間觀點(diǎn)一致性的因素提供了基礎(chǔ)，并計(jì)劃將研究擴(kuò)展到現(xiàn)實(shí)世界使用情境中的道德信念。