引入

多模态模型的范式主要有Discriminative和Generative两种。前者的代表作有CLIP，后者包括OFA以及本文的重点-多模态大语言模型(MLLM)。

Discriminative

CLIP是OpenAI的大作，它通过对比学习的方式将视觉信息（如图像）与文本信息（如描述）统一到同一个表征空间，这有益于多模态下游任务的构建。之所以认为它是Discriminative范式，是因为CLIP使用对比学习框架，通过比较正样本（匹配的图像-文本对）和负样本（不匹配的图像-文本对）来训练模型。这种学习方式强调了区分不同类别的能力，即区分匹配与不匹配对的能力。同时，它能够在没有见过特定类别标签的情况下进行分类，如下图所示：

Generative

OFA模型，即One-For-All模型，是由阿里巴巴的达摩院提出的一个多模态预训练模型。OFA模型属于Generative类的方案，使用统一的Transformer encoder-decoder架构进行预训练和微调，无需针对不同任务设计特定的模型层。OFA将不同的任务表达为序列到序列（Seq2Seq）的形式，通过生成范式进行预训练和微调，使得模型可以同时学习多种任务。

随着大模型的兴起，Generative方案正成为大家研究的热点。其中，多模态大语言模型凭借其强大的多模态感知和理解能力，在一些涉及多模态信息推理的任务中表现出色，为用户提供更自然、便捷的交互体验。

接下来，本文将对多模态大语言模型的重要方面进行全面的解读。

多模态大语言模型

一般多模态大语言模型的网络架构主要包括一个预训练的模态编码器、一个预训练的LLM和一个模态接口Connector。当然，也可以在LLM后再接一个生成器，生成不同的模态结果。

模态编码器

模态编码器是一种预训练模态对齐模型，它的作用是提前将不同模态的输入数据与LLM的输入数据进行对齐。针对不同类型的数据，模态编码器分为图片编码器、音频编码器和视频编码器。

例如，常见的图片编码器有：

很多工作表明，更大分辨率图片的输入可以带来较大的性能提升。对于如何提升输入图片的分辨率，主要有两方面的工作：

direct scaling way

直接输入较大分辨率的图片，这涉及到微调一个能接受大分辨率图片输入的编码器，或者直接用一个更大分辨率编码器来替换。CogAgent使用了一个双编码器的机制，分别接受低分辨率和高分辨率的图片。高分辨率特征通过cross-attention嵌入低分辨率分支。

patch-division methods

将大分辨率的图片切分成多个patches，这些patch都可以输入低分辨率编码器。patches和大分辨率的图片对应的低分辨率图片一起输入到图片编码器中，二者分辨捕捉局部和全局特征。

除了图片编码器，还有其他模态的编码器，如CLAP对语音进行编码，ImageBind对图片、文本、语音、深度图、热图、IMU数据进行编码。

大语言模型

大语言模型是一种预训练大模型，大家应该都比较熟悉：

模态接口

模态接口其实就是一种可学习的网络。模态接口有三种形态：projection-based, query-based以及fusion-based。前两种属于token级别的混合，最后一种属于特征级别。

projection-based方法是将其他模态数据特征通过MLP映射到文本特征空间；query-based方法是通过query的方式找到输入模态数据的文本特征；fusion-based方法则是将输入中的文本特征及其他模态特征通过多头注意力机制混合在一起。前两种方案得到的文本特征也需要与输入中的文本特征结合起来，不过与fusion-based方式不同，前两者一般是concat在一起。

学AI大模型的正确顺序，千万不要搞错了

🤔2026年AI风口已来！各行各业的AI渗透肉眼可见，超多公司要么转型做AI相关产品，要么高薪挖AI技术人才，机遇直接摆在眼前！

有往AI方向发展，或者本身有后端编程基础的朋友，直接冲AI大模型应用开发转岗超合适！

就算暂时不打算转岗，了解大模型、RAG、Prompt、Agent这些热门概念，能上手做简单项目，也绝对是求职加分王🔋

📝给大家整理了超全最新的AI大模型应用开发学习清单和资料，手把手帮你快速入门！👇👇

学习路线:

✅大模型基础认知—大模型核心原理、发展历程、主流模型（GPT、文心一言等）特点解析
✅核心技术模块—RAG检索增强生成、Prompt工程实战、Agent智能体开发逻辑
✅开发基础能力—Python进阶、API接口调用、大模型开发框架（LangChain等）实操
✅应用场景开发—智能问答系统、企业知识库、AIGC内容生成工具、行业定制化大模型应用
✅项目落地流程—需求拆解、技术选型、模型调优、测试上线、运维迭代
✅面试求职冲刺—岗位JD解析、简历AI项目包装、高频面试题汇总、模拟面经

以上6大模块，看似清晰好上手，实则每个部分都有扎实的核心内容需要吃透！

我把大模型的学习全流程已经整理📚好了！抓住AI时代风口，轻松解锁职业新可能，希望大家都能把握机遇，实现薪资/职业跃迁～

这份完整版的大模型 AI 学习资料已经上传CSDN，朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】