知识编辑

要解决的问题

在不重新训练的前提下，定向地修改、注入或删除模型中的某一条事实知识。例如把「某国总统是 A」改为「某国总统是 B」，同时不影响其他知识。

核心方法

• 定位后编辑：用因果干预等实验寻找对特定事实预测有影响的层或计算位置，再修改有关权重，如 ROME、MEMIT。它不等于证明每条知识都唯一储存在某个参数位置。
• 超网络与元学习编辑：训练一个额外的网络，输入编辑需求，输出对原模型参数的修改量，如 MEND。
• 外部记忆：不改原模型，把编辑内容放进外部记忆，推理时优先使用。

代表工作

• MEND（2021）：用超网络把微调梯度变换成高效的参数编辑。
• ROME（2022）：通过因果追踪定位事实知识所在的层，再对该层做秩一修改。
• MEMIT（2022）：把 ROME 扩展到一次编辑成千上万条事实。

开放问题

• 批量编辑后的连锁一致性（ripple effects）：改了一条事实，与它相关的其他事实是否同步更新。
• 编辑能否持久保持。
• 与机器遗忘、合规要求的结合。

参考资料

• ROME：Locating and Editing Factual Associations in GPT
• MEMIT：Mass-Editing Memory in a Transformer

相关专题

• 持续预训练：大规模更新知识的方式。
• 检索增强生成：从外部获取最新知识，不修改参数。
• 隐私保护：机器遗忘。
• 机制可解释性：定位知识存储位置的方法与可解释性研究相通。