news 2026/10/16 19:09:35

介绍一下BEAM 数据和 LoCoMo 数据:评估大模型记忆能力的数据集

作者头像

张小明

前端开发工程师

1.2k 24
文章封面图
介绍一下BEAM 数据和 LoCoMo 数据:评估大模型记忆能力的数据集

你提到的BEAM和LoCoMo都是用于评估 AI 模型能力的数据集,但它们的侧重点截然不同。LoCoMo专注于评估大语言模型在超长期多轮对话中的记忆和推理能力;而BEAM这个名字则对应了多个不同领域的数据集,其中在 AI 领域最相关的是一个长上下文记忆基准。

🧠 LoCoMo:评估超长期对话记忆

LoCoMo (Long-Term Conversational Memory) 是由 Snap Research 等机构在 ACL 2024 论文中提出的评估基准,旨在衡量 LLM 智能体在极长期对话中的记忆表现。

  • 核心数据:基准包含10 段高质量、人工标注的对话。每段对话平均长达600 轮、16K tokens,跨越最多32 个会话(session)。对话模拟了两个角色在漫长时间里关系的演变。
  • 任务与标注:每段对话都针对问答(QA)和事件摘要(Event Summarization)任务进行了标注。问答任务进一步细分为四类,以全面评估模型能力:
    • 单跳(Single-hop):答案在单个会话中。
    • 多跳(Multi-hop):需要跨会话综合信息。
    • 时序(Temporal):需要时间感知推理。
    • 开放域(Open-domain):结合对话上下文与外部常识。
  • 数据格式与访问:数据集以 JSON 格式提供,包含对话、会话摘要、事件标注和问答对。项目开源在 GitHub,可通过locomo10.json文件获取。
  • 注意事项:LoCoMo 数据集体量较小(10段对话),存在过拟合风险。此外,为控制评估成本,公开发布的是从最初 50 段对话中筛选出的最长、标注质量最高的子集。

🎯 BEAM:一个多义的数据集名称

“BEAM”在不同领域指代不同的数据集。在 AI 大模型语境下,它主要指一个长上下文记忆基准。此外,它也可能指代其他领域(如工程、医疗)的数据集,需注意区分。

主要含义:长上下文记忆基准 (BEAM Benchmark)

这是与 LoCoMo 最具可比性的数据集,全称“Beyond a Million Tokens”,专门用于评估长上下文 LLM 的记忆系统。

  • 规模与构成:BEAM 包含100 段合成长对话,长度从128K 到 10M tokens不等,并配有2,000 个经过验证的探测问题。
  • 评估能力:其问题设计旨在测试10 种不同的记忆能力,而不仅仅是简单的信息检索。
  • 数据特性:对话完全由合成生成,但构建时注重真实结构(如先规划对话弧线),且人类评审对其连贯性、真实性和复杂度的评分较高。
  • 数据格式:数据以 Parquet 格式提供,分为 100K、500K 等不同 token 规模的版本。
其他领域的 BEAM 数据集

为避免混淆,以下列举了在其他领域同样使用“BEAM”名称的数据集:

  • 工程与物理领域:指代与梁(Beam)的力学分析、裂纹检测或振动信号相关的数据集。例如,用于训练神经网络检测混凝土梁裂缝的图像数据集,或合成梁力学问答数据集。
  • 医疗影像领域:指BEAM: Boosting Fundus Image Enhancement,一个用于眼底图像增强的数据集。
  • 情感识别领域:有研究在BEAM 数据集上取得了 90.2% 的准确率,用于识别 7 种基本情感。
  • 数据工程领域:在 Hugging Face 生态中,“Beam Datasets”有时指使用 Apache Beam 管道进行预处理的大规模数据集,如 Wikipedia 数据集。

💎 总结与对比

为了帮你更清晰地理解,这里将两个核心的“记忆基准”数据集进行对比:

特性LoCoMoBEAM (Beyond a Million Tokens)
核心目标评估超长期对话中的记忆与推理评估极长上下文(百万级)的记忆系统
数据规模10段对话,每段约 600 轮 / 16K tokens100段对话,长度 128K -10Mtokens
问题数量1,536 个问题(金标子集)2,000个探测问题
评估能力单跳、多跳、时序、开放域推理10 种不同的记忆能力
数据来源人工标注的真实对话合成生成,但结构真实
数据格式JSONParquet

总的来说,LoCoMo更侧重于在相对“人性化”的对话长度(万级 token)下,对记忆的深度推理能力进行精细评估;而BEAM则剑指百万级 token的极限场景,考验模型在超长文本中维持记忆的广度与稳定性。

版权声明: 本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若内容造成侵权/违法违规/事实不符,请联系邮箱:809451989@qq.com进行投诉反馈,一经查实,立即删除!
网站建设 2026/10/16 19:09:35

C# Lambda表达式与LINQ实战指南

1. Lambda表达式基础概念解析在C#开发中,Lambda表达式已经成为现代编码风格的核心组成部分。这种简洁的语法结构本质上是一种匿名函数,它允许我们将方法作为参数传递,或者将代码块作为数据处理。与传统委托相比,Lambda不仅减少了代…

作者头像 李华
网站建设 2026/10/16 19:09:35

ArtCraft概念解析:数字创意工具的技术定位与工程实现路径

我理解您的要求,但需要说明:当前输入内容中,项目标题仅为“artcraft”,且未提供任何有效上下文——无项目正文、无关键词列表、无摘要描述,相关热搜词与网络搜索内容也为空白(仅显示空代码块)。…

作者头像 李华
网站建设 2026/10/16 19:09:38

Android平台SIM卡安全擦除技术与实践

1. 为什么需要安全擦除SIM卡SIM卡作为移动设备的核心身份标识载体,存储着包括ICCID、IMSI、Ki密钥等关键认证信息,以及通讯录、短信等用户数据。当我们需要转售、回收或废弃旧设备时,简单的物理销毁或取出SIM卡并不能彻底清除这些敏感数据。专…

作者头像 李华
网站建设 2026/10/16 19:09:38

2026课堂笔记工作流:课前搭架、课中填空、课后联网

2026课堂笔记这件事,过去大半年里我一直在折腾。不是指那种“上课掏个本子抄板书”的课堂笔记,而是真正适合2026年课堂状态的完整工作流——老师屏幕里的PPT、口头的即兴发挥、平台上同步下来的课件链接、AI实时生成的课堂摘要,这些东西同时涌…

作者头像 李华
网站建设 2026/10/16 19:09:38

Y-X扫描线算法:从原理到实现,吃透活性边表与交点配对

1. 为什么还要手写Y-X扫描线算法很多人第一次接触计算机图形学,都是从画线、画圆、填充多边形这些基础光栅化算法开始的。而在所有填充算法里,Y-X扫描线算法(也常被叫做有序边表算法、活性边表算法)几乎是绕不开的一道坎。它不像D…

作者头像 李华