英國(guó)初創(chuàng)公司W(wǎng)ayve在2023年6月發(fā)布了GAIA-1(Generative Artificial Intelligence for Autonomy),這是一款為自動(dòng)駕駛車(chē)輛培訓(xùn)數(shù)據(jù)而設(shè)計(jì)的生成式模型。GAIA-1的最新版本,GAIA-19B,已經(jīng)取得了令人矚目的進(jìn)展。
GAIA-1的獨(dú)特之處在于它的能力,它能夠使用文本、圖像、視頻和行動(dòng)數(shù)據(jù)來(lái)生成各種交通情景的合成視頻。這一能力填補(bǔ)了自動(dòng)駕駛車(chē)輛訓(xùn)練中的數(shù)據(jù)缺口。
試想一下,在霧中,有一個(gè)行人從卡車(chē)后面跳出來(lái),同時(shí)一名摩托車(chē)手即將超越你,一名自行車(chē)手從前方靠近。這是一個(gè)真實(shí)的情景,但要捕捉到這個(gè)精確的場(chǎng)景,你需要開(kāi)多少英里的車(chē)并進(jìn)行拍攝呢?GAIA-1回答了這個(gè)問(wèn)題,它可以生成各種交通情景的合成視頻,用于自動(dòng)駕駛車(chē)輛的培訓(xùn)。
與傳統(tǒng)的生成式視頻模型不同,Wayve表示,GAIA-1是一種生成式“世界模型”,它學(xué)會(huì)了理解和解讀駕駛的最重要概念。它能夠識(shí)別和分離不同的車(chē)輛及其特征、道路、建筑物或交通信號(hào)燈等概念。GAIA-1還學(xué)會(huì)了代表環(huán)境及其未來(lái)動(dòng)態(tài),為駕駛提供了結(jié)構(gòu)化的環(huán)境理解,可用于做出明智的駕駛決策。
自GAIA-1首次發(fā)布以來(lái),Wayve團(tuán)隊(duì)對(duì)其進(jìn)行了優(yōu)化,以高效生成高分辨率視頻,并通過(guò)大規(guī)模培訓(xùn)提高了世界模型的質(zhì)量。該模型現(xiàn)在擁有90億個(gè)參數(shù)(相對(duì)于六月版本的10億個(gè)參數(shù)),還能夠精確控制視頻中的車(chē)輛行為和場(chǎng)景特征。這使其成為培訓(xùn)和驗(yàn)證自動(dòng)駕駛系統(tǒng)的強(qiáng)大工具。
GAIA-1的模型基于在2019年至2023年間在英國(guó)倫敦收集的4700小時(shí)專有駕駛數(shù)據(jù)。模型的架構(gòu)包括每個(gè)輸入模態(tài)(視頻、文本和行動(dòng))的專用編碼器、世界模型、自回歸變換器和視頻解碼器,以及將預(yù)測(cè)的圖像元素轉(zhuǎn)換回像素空間的視頻擴(kuò)散模型。
值得注意的是,GAIA-1的世界建模任務(wù)與大型語(yǔ)言模型(LLMs)常用的方法非常相似,其中任務(wù)被簡(jiǎn)化為預(yù)測(cè)下一個(gè)標(biāo)記。在GAIA-1中,這一方法應(yīng)用于視頻建模,而不是語(yǔ)言。這表明隨著模型大小和培訓(xùn)數(shù)據(jù)集的增加,GAIA-1在視頻生成方面的性能和效率將繼續(xù)提高,類似于大型語(yǔ)言模型在其各自領(lǐng)域內(nèi)觀察到的縮放模式。開(kāi)發(fā)人員表示,隨著更多的數(shù)據(jù)和處理能力,仍然存在“顯著的改進(jìn)空間”。
此外,GAIA-1還可以預(yù)測(cè)過(guò)去的上下文視頻圖像的不同未來(lái)情景,包括行人、自行車(chē)手、摩托車(chē)手和對(duì)向交通的行為,從而使模型能夠考慮與其他道路使用者的互動(dòng)并對(duì)情況做出反應(yīng)。GAIA-1還可以通過(guò)純文本輸入進(jìn)行控制,例如,通過(guò)文本命令“天氣是晴朗的”、“多雨的”、“有霧的”或“多雪的”來(lái)生成不同的駕駛情景。此外,它還可以使用文本命令,如“現(xiàn)在是白天,我們處于直射陽(yáng)光下”、“天空是灰色的”、“現(xiàn)在是黃昏”和“現(xiàn)在是夜晚”,來(lái)創(chuàng)建不同的照明情景。
然而,Wayve也指出了GAIA-1的一些局限性。雖然自回歸生成過(guò)程非常有效,但需要大量計(jì)算,因此生成長(zhǎng)時(shí)間的視頻會(huì)非常計(jì)算密集。此外,當(dāng)前模型主要集中于預(yù)測(cè)單一攝像機(jī)輸出,而自動(dòng)駕駛需要來(lái)自所有周?chē)朁c(diǎn)的全面視圖,這是關(guān)鍵問(wèn)題之一。
未來(lái)的工作將擴(kuò)展該模型的能力,以捕捉更廣泛的視角,并優(yōu)化其生成效率,使該技術(shù)更具適用性和效率。此外,Wayve還在開(kāi)發(fā)Lingo-1,這是一種自動(dòng)駕駛系統(tǒng),將機(jī)器視覺(jué)與基于文本的邏輯相結(jié)合,以解釋道路上的決策和情況。這種基于文本的邏輯可以增加車(chē)輛的安全感,使人工智能的決策不再像一個(gè)“黑盒子”。
文章內(nèi)容僅供閱讀,不構(gòu)成投資建議,請(qǐng)謹(jǐn)慎對(duì)待。投資者據(jù)此操作,風(fēng)險(xiǎn)自擔(dān)。
2024年的Adobe MAX 2024發(fā)布會(huì)上,Adobe推出了最新版本的Adobe Creative Cloud。
奧維云網(wǎng)(AVC)推總數(shù)據(jù)顯示,2024年1-9月明火炊具線上零售額94.2億元,同比增加3.1%,其中抖音渠道表現(xiàn)優(yōu)異,同比有14%的漲幅,傳統(tǒng)電商略有下滑,同比降低2.3%。
“以前都要去窗口辦,一套流程下來(lái)都要半個(gè)月了,現(xiàn)在方便多了!”打開(kāi)“重慶公積金”微信小程序,按照提示流程提交相關(guān)材料,僅幾秒鐘,重慶市民曾某的賬戶就打進(jìn)了21600元。
華碩ProArt創(chuàng)藝27 Pro PA279CRV顯示器,憑借其優(yōu)秀的性能配置和精準(zhǔn)的色彩呈現(xiàn)能力,為您的創(chuàng)作工作帶來(lái)實(shí)質(zhì)性的幫助,雙十一期間低至2799元,性價(jià)比很高,簡(jiǎn)直是創(chuàng)作者們的首選。
9月14日,2024全球工業(yè)互聯(lián)網(wǎng)大會(huì)——工業(yè)互聯(lián)網(wǎng)標(biāo)識(shí)解析專題論壇在沈陽(yáng)成功舉辦。