AntGPT：一個視頻中長期行為預(yù)測大型語言模型

　　AntGPT 是一個將大型語言模型應(yīng)用于視頻長期行為預(yù)測(LTA)的視覺語言框架。研究人員通過使用監(jiān)督動作識別算法識別人類活動，并將其作為離散化的視頻表示輸入給 OpenAI GPT 模型。通過自回歸方法、微調(diào)或上下文學(xué)習(xí)，GPT 模型可以預(yù)測未來的行動序列，從而實現(xiàn)從底向上的行動預(yù)測。

　　他們還利用目標(biāo)信息來提供以目標(biāo)為條件的預(yù)測，并研究了 AntGPT 在上下文推理和少樣本學(xué)習(xí)方面的能力。

　　定量和定性評估表明，LLMs 可以從視頻觀察的離散化動作標(biāo)簽中推斷出演員的高級目標(biāo)，并且在 EPIC-Kitchens-55、EGTEA GAZE + 和 Ego4D LTA v1和 v2基準(zhǔn)測試中取得了最先進的長期行動預(yù)測性能。該研究提出了使用大型語言模型進行長期行動預(yù)測的方法，并通過 AntGPT 框架將 LLMs 與計算機視覺算法相結(jié)合，取得了顯著的成果。

　　核心功能:

　　1)預(yù)測目標(biāo):AntGPT 利用大型語言模型推斷演員的目標(biāo)，即使只有少量觀察到的人類行為。

　　2)目標(biāo)條件預(yù)測:AntGPT 通過將目標(biāo)信息嵌入視覺框架，實現(xiàn)了基于目標(biāo)的行為預(yù)測。

　　3)建模動作時序:AntGPT通過將大型語言模型調(diào)整到特定領(lǐng)域的行動序列上，直接建模動作的時間動態(tài)。

　　4)少樣本預(yù)測:AntGPT 探索了大型語言模型在少樣本情況下的預(yù)測能力，并嘗試了不同的提示策略。