近期由多倫多大學(xué)和麻省理工學(xué)院的計(jì)算機(jī)科學(xué)家團(tuán)隊(duì)進(jìn)行的實(shí)驗(yàn)發(fā)現(xiàn),當(dāng)前AI模型的設(shè)計(jì)存在嚴(yán)重問(wèn)題,可能給人類帶來(lái)災(zāi)難性后果。這是因?yàn)槭褂妹枋鲂詷?biāo)簽訓(xùn)練的AI系統(tǒng)往往做出比人類更為苛刻的決定。
隨著AI已經(jīng)廣泛滲透到我們生活的方方面面,如語(yǔ)音助手提醒、健康機(jī)器人診斷、判決算法建議監(jiān)禁時(shí)間等,未來(lái)幾乎所有領(lǐng)域都將由算法作為守門人。然而,如果AI算法的訓(xùn)練存在缺陷,那么在申請(qǐng)租房、貸款、手術(shù)或工作等方面,頻繁被拒可能并非純粹的倒霉,而是因?yàn)楸澈蟮墓驹贏I算法訓(xùn)練方面存在問(wèn)題。
研究人員通過(guò)一系列實(shí)驗(yàn)發(fā)現(xiàn),人們?cè)诟郊用枋鲂詷?biāo)簽和規(guī)范標(biāo)簽時(shí)有時(shí)會(huì)給出不同的反應(yīng)。具體而言,描述性標(biāo)簽強(qiáng)調(diào)客觀陳述,而規(guī)范標(biāo)簽則包含價(jià)值判斷。他們?cè)谝豁?xiàng)實(shí)驗(yàn)中使用了狗的圖像數(shù)據(jù)集,其中一組參與者對(duì)數(shù)據(jù)附加描述性標(biāo)簽,另一組對(duì)規(guī)定禁止侵略性狗的政策有所了解并附加規(guī)范標(biāo)簽。
結(jié)果顯示,那些不知道公寓規(guī)定但被要求評(píng)論侵略性的描述性標(biāo)簽者相比那些知道規(guī)定并附加規(guī)范標(biāo)簽的人,無(wú)意中判定了更多的狗違反了規(guī)定。這一實(shí)驗(yàn)結(jié)果對(duì)人類生活的方方面面都有著深遠(yuǎn)的影響,尤其是對(duì)于不屬于主導(dǎo)子群體的人群。
比如,在設(shè)計(jì)評(píng)估博士申請(qǐng)者的算法中,如果數(shù)據(jù)偏向某一類人,算法可能會(huì)將高分、名校背景、種族為白人定義為成功的標(biāo)志,從而繼續(xù)強(qiáng)化社會(huì)中的偏見(jiàn)和不平等。目前,這一問(wèn)題在我們周圍已經(jīng)普遍存在,比如在美國(guó)廣泛使用的定罪算法被發(fā)現(xiàn)錯(cuò)誤地認(rèn)定黑人被告更有可能再犯罪,盡管事實(shí)證明相反。
這種問(wèn)題不僅限于種族,還包括性別、種族和年齡等方面的偏見(jiàn),而AI算法的決策卻比人類的判斷更為危險(xiǎn),因?yàn)樗鼈儾粌H僅是復(fù)制已有的社會(huì)偏見(jiàn),還可能產(chǎn)生比社會(huì)偏見(jiàn)更糟糕的結(jié)果。研究人員強(qiáng)調(diào),這種相對(duì)簡(jiǎn)單的AI數(shù)據(jù)集標(biāo)注過(guò)程如果不當(dāng),可能成為一個(gè)時(shí)鐘炸彈,導(dǎo)致不可逆轉(zhuǎn)的后果。
在這個(gè)算法主導(dǎo)的時(shí)代,關(guān)鍵是要及早糾正這一問(wèn)題,以避免對(duì)人類生活造成嚴(yán)重影響。
文章內(nèi)容僅供閱讀,不構(gòu)成投資建議,請(qǐng)謹(jǐn)慎對(duì)待。投資者據(jù)此操作,風(fēng)險(xiǎn)自擔(dān)。
近日,德國(guó)柏林國(guó)際電子消費(fèi)品展覽會(huì)(IFA2024)隆重舉辦。憑借在核心技術(shù)、產(chǎn)品設(shè)計(jì)及應(yīng)用方面的創(chuàng)新變革,全球領(lǐng)先的智能終端企業(yè)TCL實(shí)業(yè)成功斬獲兩項(xiàng)“IFA全球產(chǎn)品設(shè)計(jì)創(chuàng)新大獎(jiǎng)”金獎(jiǎng),有力證明了其在全球市場(chǎng)的強(qiáng)大影響力。
近日,中國(guó)家電及消費(fèi)電子博覽會(huì)(AWE 2024)隆重開(kāi)幕。全球領(lǐng)先的智能終端企業(yè)TCL實(shí)業(yè)攜多款創(chuàng)新技術(shù)和新品亮相,以敢為精神勇闖技術(shù)無(wú)人區(qū),斬獲四項(xiàng)AWE 2024艾普蘭大獎(jiǎng)。
“以前都要去窗口辦,一套流程下來(lái)都要半個(gè)月了,現(xiàn)在方便多了!”打開(kāi)“重慶公積金”微信小程序,按照提示流程提交相關(guān)材料,僅幾秒鐘,重慶市民曾某的賬戶就打進(jìn)了21600元。
由世界人工智能大會(huì)組委會(huì)、上海市經(jīng)信委、徐匯區(qū)政府、臨港新片區(qū)管委會(huì)共同指導(dǎo),由上海市人工智能行業(yè)協(xié)會(huì)聯(lián)合上海人工智能實(shí)驗(yàn)室、上海臨港經(jīng)濟(jì)發(fā)展(集團(tuán))有限公司、開(kāi)放原子開(kāi)源基金會(huì)主辦的“2024全球開(kāi)發(fā)者先鋒大會(huì)”,將于2024年3月23日至24日舉辦。