📖
视觉语言模型
模型架构
一句话概括
专注于理解图像和视频并结合文本推理的模型类别,是多模态的重要分支。
详细解析
视觉语言模型(Vision-Language Model, VLM)是一类专门处理视觉(图像、视频)与文本联合任务的多模态模型。它通常由视觉编码器(如CLIP、ViT)提取图像特征,经投影后输入大语言模型进行推理和生成。
VLM支持图像问答、图像描述、OCR、图表理解、视频摘要、视觉推理等任务。代表模型包括GPT-4V、Gemini、Qwen-VL、LLaVA、InternVL等。早期VLM仅支持单图输入,新一代已扩展到多图、长视频、高分辨率。
VLM的核心挑战是视觉特征与语言空间的对齐、细粒度视觉理解(如计数、空间关系)、以及长视频的时序建模。它在文档智能、内容审核、辅助驾驶、教育等场景有广泛应用,是多模态AI落地最成熟的领域之一。