代码生成实战评测:Dolphin 2.9.1 Yi 1.5 34b 编程能力到底有多强?
【免费下载链接】dolphin-2.9.1-yi-1.5-34b项目地址: https://ai.gitcode.com/hf_mirrors/dphn/dolphin-2.9.1-yi-1.5-34b
如果你正在寻找一款开源代码生成大模型,Dolphin 2.9.1 Yi 1.5 34b 值得认真关注。它由 Cognitive Computations 团队基于 Yi-1.5-34B 全参数微调而来,MMLU 基准拿下 77.4 分,并重点强化了编程能力、函数调用与 Agent 能力,还采用 Apache 2.0 协议开放商用。本文将从部署到实测,用真实场景检验它的编程实力。
Dolphin 2.9.1 Yi 1.5 34b 是什么:主打编程能力的开源代码生成模型
简单说,这是一只"海豚"🐬——Dolphin 系列一贯以"听话、能力强、不设限"著称。这一代选择了 Yi-1.5-34B 作为基座,采用全参数微调(FFT、16bit),并非低成本的 LoRA 方案,因此模型质量相当扎实。
从模型配置(config.json)可以看到它的硬实力:
- 34B 参数规模的 Llama 架构,60 层 Transformer
- 上下文长度扩展至8K,并针对长序列调优了 RoPE 位置编码
- 词汇表 64000,权重以 bfloat16 存储
- 权重拆分为 15 个 safetensors 分片(model-00001-of-00015.safetensors 至 model-00015-of-00015.safetensors),总量约 64GB
代码生成能力从哪来:海量代码语料加持
Dolphin 2.9.1 Yi 1.5 34b 的编程能力不是凭空而来,README 中列出的训练数据清晰说明了它的"配方":
| 数据类型 | 代表数据集 | 作用 |
|---|---|---|
| 代码生成 | dolphin-coder、CodeFeedback-Filtered-Instruction | 核心编程能力 |
| 指令对话 | Dolphin-2.9、OpenHermes-2.5 | 通用能力 |
| 数学推理 | orca-math-word-problems-200k | 算法与逻辑 |
| 函数调用 | function-calling-chatml、Agent-FLAN | 工具与 Agent |
正是这些代码与工具调用语料,让它在代码生成实战中表现突出。
快速部署:三步跑通 Dolphin 2.9.1 Yi 1.5 34b
部署前先确认硬件:全精度 bf16 推理约需 64GB 显存,建议使用 A100/H100 或 2×4090;消费级显卡可用 GGUF/量化版本,仅需 16~24GB 显存即可流畅运行。
第一步,克隆模型仓库:
git clone https://gitcode.com/hf_mirrors/dphn/dolphin-2.9.1-yi-1.5-34b第二步,安装依赖:
pip install transformers accelerate第三步,加载模型生成代码:
from transformers import AutoModelForCausalLM, AutoTokenizer model = AutoModelForCausalLM.from_pretrained( "./dolphin-2.9.1-yi-1.5-34b", torch_dtype="auto", device_map="auto" ) tokenizer = AutoTokenizer.from_pretrained("./dolphin-2.9.1-yi-1.5-34b")整个流程十分钟内即可跑通,新手也能轻松上手。
ChatML 提示词格式:让代码生成更精准的关键
Dolphin 2.9.1 使用 ChatML 对话模板,这是保证输出质量的最快配置方法:
<|im_start|>system You are Dolphin, a helpful AI assistant.<|im_end|> <|im_start|>user 用 Python 写一个判断质数的函数<|im_end|> <|im_start|>assistant📌 小技巧:在 system 中明确"你是资深程序员,输出简洁可运行的代码",能明显提升代码生成质量。相关模板定义可查看仓库中的 tokenizer_config.json。
实战评测:5 个场景验证编程能力
我用以下场景做了实测,结果相当惊喜:
- 算法实现:要求实现快排、动态规划等经典算法,代码结构清晰、注释到位
- Bug 修复:给出报错代码,能准确指出问题并给出修复版本
- 函数调用:能按 JSON 格式调用工具函数,Agent 场景可用性高
- SQL 生成:根据自然语言描述生成查询语句,语法规范
- 代码翻译:Python 与 JavaScript 互转,语义保真度高
例如让它写质数判断,输出直接可用:
def is_prime(n): if n < 2: return False for i in range(2, int(n ** 0.5) + 1): if n % i == 0: return False return True对于 34B 这个规模的开源模型编程能力而言,综合表现已接近甚至超过部分同尺寸闭源模型的入门版本。
评测数据怎么看:77.4 MMLU 意味着什么
MMLU 是衡量模型综合知识水平的主流基准,覆盖 57 个学科。Dolphin 2.9.1 Yi 1.5 34b 在 34B 级别拿下77.4 分,意味着它不仅会写代码,还具备扎实的数学、逻辑与常识储备——这正是优秀代码生成模型的底层支撑。加上训练损失收敛至 0.44 左右,模型稳定性有保障。
使用注意事项:合规与安全
需要特别提醒的是,Dolphin 系列是"uncensored"模型,即未做过多对齐过滤,可能对不合规请求也高度配合。官方明确建议:对外提供服务前,务必自行增加安全对齐层,并对生成内容负责。商业使用时请遵循 Apache 2.0 协议。
总结
Dolphin 2.9.1 Yi 1.5 34b 是一款性价比极高的开源代码生成大模型:77.4 的 MMLU、8K 上下文、函数调用支持、Apache 2.0 可商用,配合 ChatML 模板与简单的部署流程,无论是个人学习还是生产环境的辅助编程,都非常值得一试。如果你预算有限又想要接近 70B 级别的编程体验,它就是那个"便宜大碗"的答案!
【免费下载链接】dolphin-2.9.1-yi-1.5-34b项目地址: https://ai.gitcode.com/hf_mirrors/dphn/dolphin-2.9.1-yi-1.5-34b
创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考