跳到正文
机器之心· Pro会员通讯·· 3 天前AI 评分22

将经验存到权重更能帮助 LLM 获得长期记忆吗?清华唐杰团队系统梳理模型内部记忆机制

将经验存到权重更能帮助 LLM 获得长期记忆吗?

AI 导读

清华唐杰团队在「Memory For LLM」工作中,从信息保存形式、更新方式、持续时长三个维度系统梳理了 LLM 模型层面的记忆机制。此前 TTT Layers、Titans、MemoryLLM 分别尝试用快速权重、可更新神经记忆模块和固定大小记忆池将历史信息写入模型内部,但信息写入权重后仍可能被新任务覆盖。

来源:机器之心 · mp.weixin.qq.com