百川智能發(fā)布全鏈路領(lǐng)域增強(qiáng)金融大模型 Baichuan4-Finance年末家電消費(fèi)觀察:品質(zhì)生活類(lèi)產(chǎn)品熱賣(mài),將持續(xù)迎來(lái)剛需式普及?GPT-5研發(fā)受阻:OpenAI 新一代模型難見(jiàn)突破性進(jìn)展新一代語(yǔ)言模型ModernBERT發(fā)布,RAG等任務(wù)處理速度快四倍、成本低新研究顯示:Anthropic 的 Claude AI 在合作能力上領(lǐng)先于 OpenAI 和谷歌模型谷歌向投資者保證人工智能本月將迎來(lái)“驚人”表現(xiàn)多模態(tài)大模型引爆應(yīng)用場(chǎng)景 階躍星辰完成數(shù)億美元融資星動(dòng)紀(jì)元發(fā)布端到端原生機(jī)器人大模型ERA-42 實(shí)現(xiàn)機(jī)器人復(fù)雜場(chǎng)景操作免費(fèi)模式強(qiáng)攻下,快手、抖音用“短劇VIP”反擊?低碳存儲(chǔ)助力算力產(chǎn)業(yè) 富士膠片首次亮相IDC大會(huì)行業(yè)唯一!海爾熱聲熱泵技術(shù)獲全國(guó)顛覆性技術(shù)創(chuàng)新大賽最高獎(jiǎng)OPPO A5 Pro首創(chuàng)獵手天線架構(gòu):信號(hào)能穿十堵墻一加 Ace 5 Pro首發(fā)電競(jìng)Wi-Fi芯片G1 帶來(lái)「穿墻王」和「搶網(wǎng)王」般的網(wǎng)絡(luò)體驗(yàn)電視市場(chǎng)又出黑馬!TCL同檔Mini LED音畫(huà)王P12K,萬(wàn)象分區(qū)打造超強(qiáng)控光!零下25℃如何取暖?海爾水暖通溫暖驛站亮相冰雪大世界馬太效應(yīng),強(qiáng)者恒強(qiáng)?——《中國(guó)企業(yè)科創(chuàng)力研究報(bào)告(2024)》美團(tuán)年度報(bào)告竟然用上了AI和短劇?這下是真出圈了消息稱(chēng)上汽大眾正開(kāi)發(fā)三款新車(chē),技術(shù)分別來(lái)自小鵬、智己和榮威鴻蒙智行泊車(chē)代駕VPD正式開(kāi)啟全量推送!升級(jí)自動(dòng)泊車(chē)/接駕等多項(xiàng)功能華為官方翻新手機(jī)最高降價(jià)4000元
  • 首頁(yè) > 企業(yè)IT頻道 > 人工智能

    AI訓(xùn)練中的缺陷:算法決策或成為未來(lái)生活的威脅

    2023年11月28日 11:23:03   來(lái)源:站長(zhǎng)之家

      近期由多倫多大學(xué)和麻省理工學(xué)院的計(jì)算機(jī)科學(xué)家團(tuán)隊(duì)進(jìn)行的實(shí)驗(yàn)發(fā)現(xiàn),當(dāng)前AI模型的設(shè)計(jì)存在嚴(yán)重問(wèn)題,可能給人類(lèi)帶來(lái)災(zāi)難性后果。這是因?yàn)槭褂妹枋鲂詷?biāo)簽訓(xùn)練的AI系統(tǒng)往往做出比人類(lèi)更為苛刻的決定。

      隨著AI已經(jīng)廣泛滲透到我們生活的方方面面,如語(yǔ)音助手提醒、健康機(jī)器人診斷、判決算法建議監(jiān)禁時(shí)間等,未來(lái)幾乎所有領(lǐng)域都將由算法作為守門(mén)人。然而,如果AI算法的訓(xùn)練存在缺陷,那么在申請(qǐng)租房、貸款、手術(shù)或工作等方面,頻繁被拒可能并非純粹的倒霉,而是因?yàn)楸澈蟮墓驹贏I算法訓(xùn)練方面存在問(wèn)題。

      研究人員通過(guò)一系列實(shí)驗(yàn)發(fā)現(xiàn),人們?cè)诟郊用枋鲂詷?biāo)簽和規(guī)范標(biāo)簽時(shí)有時(shí)會(huì)給出不同的反應(yīng)。具體而言,描述性標(biāo)簽強(qiáng)調(diào)客觀陳述,而規(guī)范標(biāo)簽則包含價(jià)值判斷。他們?cè)谝豁?xiàng)實(shí)驗(yàn)中使用了狗的圖像數(shù)據(jù)集,其中一組參與者對(duì)數(shù)據(jù)附加描述性標(biāo)簽,另一組對(duì)規(guī)定禁止侵略性狗的政策有所了解并附加規(guī)范標(biāo)簽。

      結(jié)果顯示,那些不知道公寓規(guī)定但被要求評(píng)論侵略性的描述性標(biāo)簽者相比那些知道規(guī)定并附加規(guī)范標(biāo)簽的人,無(wú)意中判定了更多的狗違反了規(guī)定。這一實(shí)驗(yàn)結(jié)果對(duì)人類(lèi)生活的方方面面都有著深遠(yuǎn)的影響,尤其是對(duì)于不屬于主導(dǎo)子群體的人群。

      比如,在設(shè)計(jì)評(píng)估博士申請(qǐng)者的算法中,如果數(shù)據(jù)偏向某一類(lèi)人,算法可能會(huì)將高分、名校背景、種族為白人定義為成功的標(biāo)志,從而繼續(xù)強(qiáng)化社會(huì)中的偏見(jiàn)和不平等。目前,這一問(wèn)題在我們周?chē)呀?jīng)普遍存在,比如在美國(guó)廣泛使用的定罪算法被發(fā)現(xiàn)錯(cuò)誤地認(rèn)定黑人被告更有可能再犯罪,盡管事實(shí)證明相反。

      這種問(wèn)題不僅限于種族,還包括性別、種族和年齡等方面的偏見(jiàn),而AI算法的決策卻比人類(lèi)的判斷更為危險(xiǎn),因?yàn)樗鼈儾粌H僅是復(fù)制已有的社會(huì)偏見(jiàn),還可能產(chǎn)生比社會(huì)偏見(jiàn)更糟糕的結(jié)果。研究人員強(qiáng)調(diào),這種相對(duì)簡(jiǎn)單的AI數(shù)據(jù)集標(biāo)注過(guò)程如果不當(dāng),可能成為一個(gè)時(shí)鐘炸彈,導(dǎo)致不可逆轉(zhuǎn)的后果。

      在這個(gè)算法主導(dǎo)的時(shí)代,關(guān)鍵是要及早糾正這一問(wèn)題,以避免對(duì)人類(lèi)生活造成嚴(yán)重影響。

      文章內(nèi)容僅供閱讀,不構(gòu)成投資建議,請(qǐng)謹(jǐn)慎對(duì)待。投資者據(jù)此操作,風(fēng)險(xiǎn)自擔(dān)。

    即時(shí)

    新聞

    明火炊具市場(chǎng):三季度健康屬性貫穿全類(lèi)目

    奧維云網(wǎng)(AVC)推總數(shù)據(jù)顯示,2024年1-9月明火炊具線上零售額94.2億元,同比增加3.1%,其中抖音渠道表現(xiàn)優(yōu)異,同比有14%的漲幅,傳統(tǒng)電商略有下滑,同比降低2.3%。

    企業(yè)IT

    重慶創(chuàng)新公積金應(yīng)用,“區(qū)塊鏈+政務(wù)服務(wù)”顯成效

    “以前都要去窗口辦,一套流程下來(lái)都要半個(gè)月了,現(xiàn)在方便多了!”打開(kāi)“重慶公積金”微信小程序,按照提示流程提交相關(guān)材料,僅幾秒鐘,重慶市民曾某的賬戶就打進(jìn)了21600元。

    3C消費(fèi)

    華碩ProArt創(chuàng)藝27 Pro PA279CRV顯示器,高能實(shí)力,創(chuàng)

    華碩ProArt創(chuàng)藝27 Pro PA279CRV顯示器,憑借其優(yōu)秀的性能配置和精準(zhǔn)的色彩呈現(xiàn)能力,為您的創(chuàng)作工作帶來(lái)實(shí)質(zhì)性的幫助,雙十一期間低至2799元,性價(jià)比很高,簡(jiǎn)直是創(chuàng)作者們的首選。

    研究

    中國(guó)信通院羅松:深度解讀《工業(yè)互聯(lián)網(wǎng)標(biāo)識(shí)解析體系

    9月14日,2024全球工業(yè)互聯(lián)網(wǎng)大會(huì)——工業(yè)互聯(lián)網(wǎng)標(biāo)識(shí)解析專(zhuān)題論壇在沈陽(yáng)成功舉辦。