围绕从赛事观察切入,为读者提供结构化内容分析而非碎片信息。,九游网页版持续打磨更优质的服务。

联系信息
电话

017 5552-0127

地址

九游网页版深耕通过九游登录入口,用户可快速探索不同游戏类型并获取入门介绍。领域,用心服务每一位用户。

九游网页版以九游娱乐APP内置比较方法,辅助用户进行游戏解读与决策。为核心,带来高效便捷的体验。 - 九游网页版

使用AI时最令人沮丧的场景,莫过于花费半天时间纠正它完成某项任务,但换个新对话后,它又重蹈覆辙。模型完成了任务,却没有从中获得成长。除了完成单次任务,它真正缺少的是将反馈转化为经验,并在后续主动运用的能力。

这种脱节在Meta Muse、OpenAI Dots与xAI Grok Bot掀起的个人助手热潮中尤为突出:主流的外挂检索最多只能翻阅静态备忘录,无法将调教过程沉淀为工作默契,而这恰恰是长期助手最核心的挑战。

今天,记忆张量正式发布并开源MemT 1.0记忆原生大模型。

它与外挂方案的最大区别,不仅在于记忆脱离了外挂模块,内化进底层架构,更在于模型通过训练,自主学会了如何读写、更新和调用记忆,让经验积累本身成为模型能力的一部分。

将记忆,嵌入模型的骨髓

市面上多数方案倾向于将存储聊天记录视为记忆,但仅仅记录流水账,无法应对真实世界的动态交互,离真正的助手还差得很远。

MemT 1.0的技术报告中提到一项硬核测试:用户先给出展览原定时间,随后确定周日正式改期,中间还顺便提到一条未被采纳的周一备选方案。此后双方东拉西扯聊了五百多轮、积累约6.6万token的聊天记录,期间再未提及展览。

如果依赖传统外挂检索,面对跨度如此长的多版本信息,极易将闲聊内容误认为定论;但MemT 1.0在完全脱离原始文本的“闭卷”状态下,依然准确报出了原定与改期时间,明确指出场地、票价和联系人未变,将周日定论与周一备选区分得清清楚楚。

之所以能做到这一点,是因为MemT 1.0走了一条“记忆原生”的技术路线。

在架构设计上,MemT 1.0将模型的能力拆分为两块:

主干网络(通用能力):如同AI的出厂设置,装载着它对世界的通用认知。

动态记忆状态(独立记忆):相当于模型在具体交互轨迹中实时演进的“专属工作状态”,不同用户或任务之间彼此独立,在持续交互中动态吸收新信息与经验,并直接参与后续每一轮生成计算。

面对不断涌入的交互信息,MemT-1.0无需重新训练整个大模型,在每轮对话结束时,直接通过token级别的更新机制刷新记忆状态。至于哪些该保留、哪些该修改,则由模型在训练中学出的一套门控机制自主判断。

这就解释了前文那场五百多轮的测试中,模型为何能自动滤掉闲聊噪音,在日程变更时覆盖过时状态、锁定周日定论。到了后续对话与任务执行中,并行记忆注意力机制会随时提取这些沉淀下来的状态,直接参与当前计算并引导模型的下一步决策。

当然,这种精准的取舍能力并非天生自带,全靠后天硬练。

团队喂了340亿token数据,分两步打磨这套机制:先用200亿token进行继续预训练,让模型尝试用过去片段预测未来;再用140亿token进行后训练,邀请“学霸”教师模型为记忆提取打分,利用误差推动它改进。

取舍之外,还需装得下。MemT的记忆状态采用固定体积,持续交互只更新已有矩阵;为了在固定体积内装下更多细节,团队引入了Mixture-of-Storage(MoS)架构:基座MoE负责计算,MoS让多位“记忆专家”分头掌管存储空间的读写分配。

这套架构加训练的组合拳,在11项系统记忆基准测试(覆盖长期保留、动态更新、个性化理解等维度,历史跨度从16K直至百万token)中交出了亮眼成绩单:

全程闭卷作答的MemT-1.0-Flash和MemT-1.0-Nano均分分别达到50.6和47.0,分别领先同组最强参数化记忆基线12.5分和8.9分。

消融实验也直接印证了训练与架构的价值。如果去掉后训练这一步,Nano的均分会从47.0直接掉到36.3;将MoS记忆专家从2个扩充至4个,测试均分最高提升了2.7分。

跑分之外,测试中的两个小细节更能直观说明什么是高质量的记忆。

在约16K token的历史中,用户问起自己的生日,由于从未提供过,模型老实回答不知道,没有瞎编。在一段3.3万token的对话中,模型需要根据很早之前定下的规则,判断两个人谁有资格领工具箱。它准确核对了徽章与登记状态,判定一人合规、一人未登记。

知道就说知道,记规则不漏细节,这才是可用AI助手的及格线。

自我持续进化,从经验闭环开始

如果把要求提高一步:过去的踩坑教训,真能改变模型在后续新任务中的做事方式吗?

为了跑通“任务产生反馈、提炼沉淀经验、再改善后续任务”的连续自我改进闭环,技术团队在真实编程场景中搭建了一套完整的训练与执行链路。

第一步,先教会模型如何把别人的经验“听进去”。

技术团队先从数万条成功轨迹中提炼出上千条可复用经验;再让基座模型去跑任务,一旦遇到命令报错、空返回或重复无效操作的“卡壳点”,就在卡壳处注入匹配经验重跑。

团队从中严格筛选出4.2万余条“没经验时做错、补上经验后成功跑通”的样本,专门训练MemT-1.0 Nano的记忆原生模块:先把经验写入内部记忆状态,过了卡壳点再开启读取,让模型学会调用记忆中的经验去修正后续动作。

在SWE-bench Verified的500项任务实测中,提前写入经验的MemT-1.0 Nano平均成功率从无经验的66.07%升至69.33%,同一道题独立跑三次全成的比例从54.00%提升到61.60%,与直接在上下文中塞入“文本经验”的对照组表现相当(成功率68.87%,三次全成率61.60%)。

这说明,即便对话框里干干净净,模型仅靠大脑中的记忆状态,也完全能消化复杂的排错指南。

第二步,放到实战中边干边学,真正拉开差距。

提前塞经验终归是静态的,实际工作时哪能未卜先知?所以在实战模式下,模型先两手空空独立做题;只有当系统发现它报错、空返回,或连续三次原地打转时,才当场把匹配的排错经验写入它的内部记忆状态。

这就好比一个程序员自己先写代码,撞了南墙的那一刻,脑子里突然调出了之前踩坑的教训,当场改写思路把bug修好;等这单活干完,这次踩坑和修bug的过程又会被提炼成新经验存起来,留着以后救场。

结果显示,这种按实时反馈更新记忆状态的打法,将平均成功率推高到了69.73%,三次全成率提高到62.80%,双双跑赢文本经验组(69.13%与61.80%)。

换到覆盖九种编程语言、包含300项任务的SWE-bench Multilingual,同样在执行中按报错反馈动态触发记忆原生机制,Nano的平均成功率从无经验的60.00%提升至63.56%,三次全成率从45.33%跃升至55.33%(同样优于文本经验组的63.00%与53.67%)。

可以看到,外部系统负责从实战反馈中提炼经验、捕捉卡壳信号,模型则依靠训练出的记忆原生读写能力将经验内化为下一步的行动修正。这套协同机制,也为智能体走向自主持续演进搭建了底层的模型支点。

从外挂补丁到记忆原生,养成系AI被MemT 1.0拿捏了

要让这套边干边学的经验闭环在真实业务中长年累月运转下去,显然绕不开工程成本的账单。

几轮以内的短对话,拉长上下文或挂个向量数据库确实够用;可一旦进入长周期伴随,传统方案越跑越重,推理延迟和显存开销会持续膨胀。而MemT 1.0的动态记忆状态体积固定,持续交互只刷新已有矩阵,边际成本几乎拉平。

技术报告显示,双GPU、单并发、batch size为1的测试条件下,处理64K token历史,Nano相对完整上下文方案有约1.20倍的端到端推理速度;历史增加到128K和256K token时,分别达到约1.86倍和3.99倍。

在128K token历史长度下,恢复单条交互历史所需的持久状态存储,大约是完整上下文KV cache的六十六分之一,不计共享模型权重。

将单次调用的算力与存储负担降下来,高频、跨周期的记忆读写才真正具备了大规模工程落地的条件。

拿企业内部的研发场景来说,它首先解决的是团队经验的复用问题。

眼下大多数团队使用AI写代码,最头疼的是天天带新兵:项目规范和排错套路,工程师每次开新会话都得重教一遍,企业等于在为重复的开销持续买单。

在MemT 1.0的体系中,真实的业务反馈会持续刷新外部经验库,模型则将这些团队规范逐渐内化为直觉。老手少操心,AI少踩老坑,技术投入才能沉淀为带复利的团队资产。

往更长远的应用场景看,无论是7×24小时在线的个人数字分身、跨月度跟进慢病管理的医疗顾问,还是伴随孩子数年成长的个性化私教,这些强依赖时间厚度的未来应用,都必须建立在记忆原生的底座之上。

过去三年,大模型圈都在卷各种横向指标,大家拼谁的参数大、跑分高、霸榜多。想要保持领先就只能不断换代搞新模型。

而从Memory³的分层研究,到MemOS的系统探索,再到今天MemT 1.0的底层架构重塑,记忆张量切入了时间这条纵向轴:如何让模型在陪伴用户的过程中,越用越聪明。

**更妙的是,这是一个养成系AI:**你纠正的每一次错误、给出的每一次反馈,都会通过记忆更新沉淀为它的能力,让下一次的它永远比上一次更顺手、更懂你。

当模型开始在时间中积累经验,人与AI的关系也正在发生变化。

出厂参数再强的通用基座,随时可能被更强的模型替代;但一个陪你踩过坑、摸透你所有做事习惯与业务规则的记忆原生模型,却在一天天的磨合中长出了独属于你的壁垒。

这才是我们在2026年,真正愿意为之买单的未来。

本文来自微信公众号“APPSO”,作者:发现明日产品的APPSO,36氪经授权发布。

在角色养成讨论结合具体内容案例,避免空泛理论。方面,九游网页版提供贴心周到的支持。

九游网页版以九游娱乐APP内置比较方法,辅助用户进行游戏解读与决策。为核心,带来高效便捷的体验。 - 九游网页版

九游网页版以九游娱乐APP内置比较方法,辅助用户进行游戏解读与决策。为核心,带来高效便捷的体验。

2024年8月12日 晚上8:50

想了解更多积分兑换活动以官方正式发布为准,名额有限需提前确认。相关内容,尽在九游网页版。

回复
九游网页版以九游娱乐APP内置比较方法,辅助用户进行游戏解读与决策。为核心,带来高效便捷的体验。 - 九游网页版

九游网页版围绕九游网页版不断创新,回应用户的真实需求。

2024年8月12日 晚上8:50

精选九游登录入口内容,九游网页版与你一同发现更多精彩。

回复

九游网页版专注九游娱乐APP,为用户提供专业可靠的体验。

搜索

围绕从赛事观察切入,为读者提供结构化内容分析而非碎片信息。,九游网页版持续打磨更优质的服务。