登录社区云，与社区用户共同成长
邀请您加入社区
MemT-1.0 把「记住上一轮说了什么」从提示词文本挪成前向传播里固定大小的记忆状态：选定 Transformer 层加一条与注意力并行的记忆分支，生成时读取、每轮结束写入。Nano 基于 Qwen3.6-35B-A3B（36B 总参/3B 激活），Flash 基于 DeepSeek-V4-Flash（288B/17B）。33 倍不是压缩技术而是除法：Nano 单轨迹状态 10 层×16×256
