news 2026/10/2 2:12:22

Marco-Bench-MIF: On Multilingual Instruction-Following Capability of Large Language Models

作者头像

张小明

前端开发工程师

1.2k 24
文章封面图
Marco-Bench-MIF: On Multilingual Instruction-Following Capability of Large Language Models

文章主要内容和创新点

主要内容

本文针对现有指令遵循能力评估数据集多为单语(以英语为中心)或仅经机器翻译、缺乏多语言场景适用性的问题,提出了一个多语言指令遵循基准测试集Marco-Bench-MIF。该数据集扩展自IFEval,涵盖30种语言,通过“自动翻译+两轮人工验证”的混合流程实现本地化,解决了语言约束(如修改中文的大小写要求)和文化参考(如替换特定地区的公司名称)等问题。

通过对20多个大语言模型(LLMs)的评估,发现以下关键结论:

  1. 高资源语言与低资源语言的准确率差距为25-35%;
  2. 模型规模对性能影响显著(70B+模型比8B模型准确率高45-60%),但仍存在脚本特定挑战(如阿拉伯语等);
  3. 机器翻译数据比本地化数据低估7-22%的准确率。
创新点
  1. 构建了首个涵盖30种语言的细粒度本地化多语言指令遵循基准Marco-Bench-MIF,考虑语言和文化多样性;
  2. 提出系统化的本地化框架,结合自动翻译与人工调整,解决多语言指令适配中的语言约束和文化适配问题;
  3. 对20多个LLMs进行全面评估,揭示了模型规模、资源可用性、机器翻译数据局限性对多语言指令遵循能力的影响。

翻译部分(摘要、引言、结论)

摘要

指令遵循能力已成为大型语言模型(LLMs)的核心评估能力之一(Brown等人,202

版权声明: 本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若内容造成侵权/违法违规/事实不符,请联系邮箱:809451989@qq.com进行投诉反馈,一经查实,立即删除!
网站建设 2026/10/2 2:12:18

KROMA: Ontology Matching with Knowledge Retrieval and Large Language Models

文章主要内容总结 本文提出了一种名为KROMA的新型本体匹配(Ontology Matching, OM)框架,旨在解决现有本体匹配系统依赖手工规则或专用模型、适应性有限的问题。KROMA将大型语言模型(LLMs)与检索增强生成(RAG) pipeline结合,通过动态富集结构、词汇和定义知识的语义上下…

作者头像 李华
网站建设 2026/10/2 2:09:41

CentOS Stream 10 下 vsftpd 虚拟用户配置实战与排障指南

上一篇我们在 CentOS Stream 10 上把 vsftpd 装好、让 FTP 服务能正常启停了。但你如果真拿系统里的真实账号去登录一次,多半会发现这条路不太好走:密码跟 SSH 登录是同一个,权限全靠系统目录去卡,用户想上传个文件你还得斟酌半天…

作者头像 李华
网站建设 2026/10/2 2:09:32

KLJN协议随机数生成器统计攻击:Matlab仿真与防御实践

做物理层安全研究这几年,我的一个体会是:越是宣称“信息论安全”的协议,越容易在随机源这个环节翻车。基尔霍夫-洛-约翰逊噪声(KLJN)安全密钥交换协议就是典型——它绕开RSA、ECC那套大整数分解和离散对数难题&#xf…

作者头像 李华
网站建设 2026/10/2 2:09:22

让 Codex 直连 Claude 网关:CC Switch 本地路由配置指南

让 Codex 直连 Claude 网关:CC Switch 本地路由配置指南 【免费下载链接】cc-switch A cross-platform desktop All-in-One assistant for Claude Code, Codex, OpenCode, OpenClaw, Grok Build & Hermes Agent. Only official website: ccswitch.io 项目地址…

作者头像 李华
网站建设 2026/10/2 2:06:57

ClaudeCode 终端AI编程助手:三大平台安装实战指南

老实说,第一次看到 ClaudeCode 这个词的时候,我以为是某个 VS Code 插件名。直到同事在终端里敲了一个claude,唰一下拉出命令行对话界面,我才反应过来:这东西不走 IDE,它直接住在你的终端里。作为 Anthropi…

作者头像 李华