阿里通義千問(wèn)推出Qwen2-VL：開(kāi)源2B/7B模型，處理任意分辨率圖像無(wú)需分割成塊

　　通義千問(wèn)團(tuán)隊(duì)今天對(duì) Qwen-VL(視覺(jué)語(yǔ)言、Vision Language)模型進(jìn)行更新，推出 Qwen2-VL。

　　Qwen2-VL 的一項(xiàng)關(guān)鍵架構(gòu)改進(jìn)是實(shí)現(xiàn)了動(dòng)態(tài)分辨率支持(Naive Dynamic Resolution support)。與上一代模型 Qwen-VL 不同，Qwen2-VL 可以處理任意分辨率的圖像，而無(wú)需將其分割成塊，從而確保模型輸入與圖像固有信息之間的一致性。這種方法更接近地模仿人類(lèi)的視覺(jué)感知，使模型能夠處理任何清晰度或大小的圖像。

　　另一個(gè)關(guān)鍵架構(gòu)增強(qiáng)是 Multimodal Rotary Position Embedding(M-ROPE)。通過(guò)將 original rotary embedding 分解為代表時(shí)間和空間(高度和寬度)信息的三個(gè)部分，M-ROPE 使 LLM 能夠同時(shí)捕獲和集成 1D 文本、2D 視覺(jué)和 3D 視頻位置信息。這使 LLM 能夠充當(dāng)多模態(tài)處理器和推理器。

　　在 7B 規(guī)模下，Qwen2-VL-7B 保留了對(duì)圖像、多圖像和視頻輸入的支持，以更具成本效益的模型大小提供“具有競(jìng)爭(zhēng)力”的性能。

　　Qwen2-VL-2B 模型針對(duì)潛在的移動(dòng)部署進(jìn)行了優(yōu)化。盡管參數(shù)量只有 2B，但官方表示該模型在圖像、視頻和多語(yǔ)言理解方面表現(xiàn)出色。