超火迷你GPT-4視覺能力暴漲，GitHub兩萬星，華人團隊出品

　　本文來自于微信公眾號 量子位 (ID:QbitAI)，作者:白交 。

　　GPT-4V來做目標檢測?網(wǎng)友實測:還沒有準備好。

　　雖然檢測到的類別沒問題，但大多數(shù)邊界框都錯放了。

　　沒關系，有人會出手!

　　那個搶跑GPT-4看圖能力幾個月的迷你GPT-4升級啦——MiniGPT-v2。

　　而且只是一句簡單指令:[grounding] describe this image in detail就實現(xiàn)的結(jié)果。

　　不僅如此，還輕松處理各類視覺任務。

　　圈出一個物體，提示詞前面加個 [identify] 可讓模型直接識別出來物體的名字。

　　當然也可以什么都不加，直接問~

　　MiniGPT-v2由來自MiniGPT-4的原班人馬(KAUST沙特阿卜杜拉國王科技大學)以及Meta的五位研究員共同開發(fā)。

　　上次MiniGPT-4剛出來就引發(fā)巨大關注，一時間服務器被擠爆，如今GItHub項目已超22000+星。

　　此番升級，已經(jīng)有網(wǎng)友開始用上了~

　　多視覺任務的通用界面

　　大模型作為各文本應用的通用界面，大家已經(jīng)司空見慣了。受此靈感，研究團隊想要建立一個可用于多種視覺任務的統(tǒng)一界面，比如圖像描述、視覺問題解答等。

　　「如何在單一模型的條件下，使用簡單多模態(tài)指令來高效完成各類任務?」成為團隊需要解決的難題。

　　簡單來說，MiniGPT-v2由三個部分組成:視覺主干、線性層和大型語言模型。

　　該模型以ViT視覺主干為基礎，所有訓練階段都保持不變。從ViT中歸納出四個相鄰的視覺輸出標記，并通過線性層將它們投影到 LLaMA-2語言模型空間中。

　　團隊建議在訓練模型為不同任務使用獨特的標識符，這樣一來大模型就能輕松分辨出每個任務指令，還能提高每個任務的學習效率。

　　訓練主要分為三個階段:預訓練——多任務訓練——多模式指令調(diào)整。

　　最終，MiniGPT-v2在許多視覺問題解答和視覺接地基準測試中，成績都優(yōu)于其他視覺語言通用模型。

　　最終這個模型可以完成多種視覺任務，比如目標對象描述、視覺定位、圖像說明、視覺問題解答以及從給定的輸入文本中直接解析圖片對象。