Agent 拒绝一次还不够:记忆投毒需要状态修复与跨会话验收
MemPoison 与 Bad Memory 共同暴露了一个常被忽略的缺口:当前会话拒绝恶意指令,不代表持久状态已恢复安全。本文把记忆投毒治理拆成写入、检索、消费、隔离、修复与跨会话验收,并给出可落地的数据模型、状态机和回归协议。
Tag
MemPoison 与 Bad Memory 共同暴露了一个常被忽略的缺口:当前会话拒绝恶意指令,不代表持久状态已恢复安全。本文把记忆投毒治理拆成写入、检索、消费、隔离、修复与跨会话验收,并给出可落地的数据模型、状态机和回归协议。
PM-Bench 把长期记忆从“能否回忆过去”推进到“能否在正确未来状态执行意图”。本文复核其公开场景与 64 条轨迹,并给出适用于企业 Agent 的意图状态机、选择性监控架构、执行门和评测协议。