天脉资讯
财经快讯 价值公司 财经人物 IPO解读 热门赛道 经济解码 科技业界 文化艺术 消费零售 大燕公益 商业快讯

清华等多校联手:打破AI“自我确认陷阱”,让智能体真正学会“吃一堑长一智”

2026-06-28来源:快讯编辑:瑞雪

在人工智能技术飞速发展的今天,主流AI智能体普遍面临一个棘手问题:当它们独自承担任务执行、效果评估和经验存储的全流程时,容易陷入“自我确认陷阱”。这种机制类似于学生自行批改试卷,错误的答案可能被反复强化,最终导致系统性能力退化。清华大学深圳国际研究生院联合多所高校的研究团队,针对这一难题提出了创新解决方案——EDV(执行-提炼-验证)框架,通过引入多智能体协作机制,显著提升了AI系统的学习效率和可靠性。

研究团队通过对照实验揭示了问题的严重性:当AI记忆库被注入10%的错误经验时,其任务成功率从82.5%骤降至77.2%。这种“污染”效应源于单一AI的认知偏差——执行任务时的思维模式与评估结果时的判断标准高度一致,导致错误经验难以被识别。例如在模拟航空客服场景中,AI可能反复尝试用旅行证书修改订单,尽管每次失败仍会记录这种“探索过程”,最终形成顽固的错误习惯。

EDV框架的核心突破在于构建了分工明确的三阶段流程。在执行阶段,系统从包含Mimo-V2-Flash、GLM-4.7-FP8等不同模型的“模型池”中随机抽取组合,确保行动记录的多样性。这种设计使不同AI的思维方式产生碰撞:有的偏好先查询信息,有的倾向直接推理,从而形成包含成功路径与失败教训的丰富数据集。实验显示,使用三个不同模型的任务成功率比单一模型提升2.6个百分点。

提炼阶段引入“第三方分析师”角色,由未参与执行的AI对所有行动记录进行横向对比。这种去中心化的分析方式有效避免了执行者的认知盲区,能够精准识别成功关键步骤与失败共性原因。例如在处理退款请求时,分析师可发现“必须同时验证订单号和支付方式”这类跨案例的通用规律,而单一AI往往只能记录表面操作。

验证阶段采用“默认拒绝”策略,只有当所有执行AI一致认可的经验才能进入共享记忆库。这种严苛的准入标准配合“能力矩阵”系统——根据历史表现记录各AI的专长领域——确保了经验调用的精准性。当新任务到来时,系统会优先分配给最擅长的AI,并从记忆库中检索高度相关的经验作为参考。技术实现上,Qwen3-Embedding-4B语义模型通过向量相似度计算,将共享记忆库的检索阈值设定为0.80,私人记忆库设定为0.85。

在τ?-bench客服测试中,EDV框架展现出显著优势:综合成功率达86.6%,电信领域更是高达99.1%,较传统方案提升超过4个百分点。在Mind2Web网页操作测试中,其步骤成功率在跨任务、跨网站、跨领域三种场景下分别达到43.17%、36.56%和39.57%,均优于对比基准。更值得关注的是,EDV在MMTB工具调用测试中取得58.10%的成功率,证明其能有效处理需要严格参数协调的复杂任务。

人工审核结果显示,EDV存储的经验在正确性(4.41分)、可操作性(4.32分)等积极指标上显著优于传统方案,同时将噪音程度(0.63分)和误导风险(0.51分)降低近一半。这种质量提升源于EDV经验的三重升华:从机械记录操作步骤到动态感知环境状态,从局部目标满足到全局结构把握,从表面现象描述到根本原因挖掘。例如在翻译工具调用场景中,EDV经验明确指出“必须使用ISO 639-1标准代码”,而非简单记录“不要用自然语言名称”。

资源消耗分析颠覆了多智能体系统必然低效的认知。由于经验构建过程在离线阶段并行完成,EDV在实际推理时的计算量反而比传统方案减少24.5%。这种“备货式”设计使AI能快速调用高质量经验,避免在错误路径上反复试错,实现了效率与准确性的双重提升。研究团队承认,该框架仍面临共识验证可能强化共同偏见、弱模型干扰决策等挑战,未来将探索记忆库动态管理和智能体规模自适应调整等方向。

这项发表于arXiv平台(编号2606.24428)的研究,为AI持续学习机制提供了全新范式。其核心价值在于证明:通过结构化设计打破单一智能体的认知闭环,能够有效构建可靠的知识积累系统。对于需要长期运行的复杂AI应用,这种“质量优先”的记忆管理策略,或许将成为突破性能瓶颈的关键路径。完整代码已在GitHub公开,供全球研究者验证与改进。

工学博士领航!同元软控启动IPO 核心产品助力国家重大工程
公开资料显示,同元软控成立于2007年,注册资本为3.6亿元,是专业从事新一代信息物理系统计算仿真工业软件产品研发、工程服务以及解决方案的高科技企业。周凡利于2001年起主持开发新一代多领域统一建模与仿真平…

2026-08-17

苹果阿里AI合作再升级:从接入通义千问到联合研发中国专属大模型
综合多方泄露信息,苹果、阿里的 AI 合作涉及两个层面:一是通义千问直接接入苹果终端智能体系,填补国行设备原生 AI能力缺口,对标海外版本搭载的 ChatGPT;二是双方联合研发中国市场专属大模型,承担类…

2026-08-17

易鼎行曹立英亮相河北校企融通会 共探智能建造产学研合作新路径
2026年8月14日,河北省“校企融通”产学研成果发布及技术交流会在石家庄举办。易鼎行集团董事长曹立英受邀参会,与省内高校专家、科研院所及各行业企业家代表齐聚现场,围绕智能建造装备研发、技术攻关、成果转化、人…

2026-08-17

沃客非凡冲刺港股IPO:46岁董事长许龙华控股近半,入选福布斯精英榜
自2019年1月起,其担任湖南邵阳武冈市南门口米粉有限公司(一家主要从事粘米粉产品销售的公司)的总经理,主要负责整体管理及营运。 值得一提的是,创办人兼董事会董事长许龙华曾在TCL任职7年,对跨境零售业务有…

2026-08-17

0204廊坊高精密制造新标杆:博阳达信如何满足高精尖领域严苛需求
符合高精尖领域需求的高精密构件制造,首先需要达到对应行业的精度标准,比如半导体领域要求加工精度达到微米级,适配特种金属、工程塑料等特殊材质的加工需求;其次需要具备合规的洁净生产空间,避免加工、装配过程中出现…

2026-08-17

机器人租赁热潮来袭:价格“亲民” 场景多元 百亿赛道加速崛起
价格,是这一轮爆发的最强催化剂,日租金从8000元降到2000多,外骨骼爬山助力99元租3天,陪伴机器人月租200元起,机器人以租赁的方式“走”入寻常家庭,一个百亿级的新赛道正在加速成型。 武汉豪创达科技有…

2026-08-16

AI浪潮下如何不被替代?马斯克提醒:构建个人独特价值才是破局关键
无论黄仁勋还是马斯克,包括硅谷那些冲在AI第一线的人和公司都已经达成共识,那就是AI很快就会逾越快速爆发的那条线,换句话说,人类进入通用人工智能时代的速度要比进入移动互联网时代的速度快得多。 所以品牌影响力…

2026-08-16

童年回忆旺旺遇经营危机?消费者“糖分焦虑”成最大挑战
近日,旺旺集团创始人蔡衍明一封题为《大团结——致全体旺旺人的一封信》的内部公开信流出,信中一反这家老牌食品企业对外一贯的稳健口径,将2026财年一季度的业绩失速直接定性为“重大经营危机”,并罕见地对内展开深…

2026-08-16

人形机器人:看似完美适配人类世界,或成发展路上隐藏的“陷阱”?
如果机器人只是偶尔出现,人形当然方便,可是如果未来一家仓库里80%的工作都是机器人完成的呢? 人形,可能是机器人走向现实世界最聪明的一条捷径,也可能是我们作为人类,因为太习惯自己的身体,而为机器想象出的第一…

2026-08-16

SpaceX斥资600亿美元收购Cursor,AI编程公司助力马斯克拓展AI版图
来源:环球网 【环球网科技综合报道】8月15日消息,据《商业内幕》报道,SpaceX完成了对人工智能编程初创公司Cursor的600亿美元收购。外媒称,这笔交易是马斯克为追赶Anthropic 和 Ope…

2026-08-16