跨越多种模态的技术专题:跨模态对齐、视觉语言模型、视频、音频、生成与视觉-语言-动作模型。本目录也暂收代码、表格等专门能力;纯文本代码模型本身不因此成为多模态模型。
常见方案是把模态编码器接入语言模型,也有把图像与文本 token 放入同一模型联合训练的路线。主要难题包括跨模态信息融合、输入长度膨胀与时空关系建模。
返回人工智能。
跨越多种模态的技术专题:跨模态对齐、视觉语言模型、视频、音频、生成与视觉-语言-动作模型。本目录也暂收代码、表格等专门能力;纯文本代码模型本身不因此成为多模态模型。
常见方案是把模态编码器接入语言模型,也有把图像与文本 token 放入同一模型联合训练的路线。主要难题包括跨模态信息融合、输入长度膨胀与时空关系建模。
返回人工智能。
8 items under this folder.