要解决的问题
在不完整重训的前提下，尝试把多个微调模型的能力融合到一个模型中，或构造更好的初始化。直接逐元素合并通常要求参数形状、位置和词表对应，且常以同一预训练基座为前提；权重形状相同并不保证功能对齐或合并后性能更好。
核心方法
- 任务算术（Task Arithmetic）：微调后权重减去原始权重得到「任务向量」，通过对任务向量加减来组合或去除能力。
- 模型汤（Model Soups）：对多个微调模型的权重直接取平均。
- TIES-Merging：修剪变化较小的任务向量分量、确定合并符号，再合并符号一致的分量。
- DARE：随机丢弃任务向量分量，并按保留概率重新缩放；它本身不包含 TIES 的符号冲突处理，可以与 TIES 等合并方法组合。
- SLERP：在两个模型的权重之间做球面线性插值。
- 演化式合并：用演化算法自动搜索合并的方式和参数。
代表工作
- Model Soups（2022）：证明平均多个微调模型的权重可以提升精度，且不增加推理成本。
- Task Arithmetic（2022）：提出任务向量及其加减运算。
- TIES-Merging（2023）：通过修剪、选择符号、分离合并解决参数冲突。
- DARE（2023）：随机丢弃大部分任务向量参数并重新缩放，几乎不影响能力。
- Evolutionary Optimization of Model Merging Recipes（2024）：Sakana AI 用演化算法自动发现合并方案。
定位
模型合并与 多模型编排 互为对偶：合并是在离线阶段融合权重，编排是在推理阶段在线调度多个模型。
开放问题
- 哪些模型可以合并，理论边界在哪里。
- 跨架构、跨词表的合并。
- 合并后的能力能否预测。