news 2026/8/29 1:54:08

CoT+RAG+AI推理·工程手记 篇四:DeepSeek-R1-0528-Qwen3-8B 模型解析

作者头像

张小明

前端开发工程师

1.2k 24
文章封面图
CoT+RAG+AI推理·工程手记 篇四:DeepSeek-R1-0528-Qwen3-8B 模型解析

文章目录

      • 系列文章
      • Hugging Face 模型仓库结构
      • DeepSeek 生态
      • DeepSeek-R1-0528-Qwen3-8B 仓库实例分析
        • 仓库文件清单与默认配置
        • 核心加载流程
        • 自述文件
        • config.json
        • model.safetensors.index.json
        • tokenizer_config.json
          • 源文件注释版
          • `chat_template`参数注释版
          • 如何修改这些参数
            • 示例 1:加载 tokenizer 时覆盖参数
            • 示例 2:动态设置 chat template
            • 示例 3:调用 `apply_chat_template` 时传入 `add_generation_prompt`
          • 对话模板(`chat_template`)详解
        • tokenizer.json
      • 父系模型的本地运行核心参考
        • DeepSeek-R1
        • DeepSeek-V3

系列文章

CoT+RAG+AI推理·工程手记 篇一:系统架构与工程结构概览
CoT+RAG+AI推理·工程手记 篇二:Hugging Face 与 DeepSeek 模型生态全景解析
CoT+RAG+AI推理·工程手记 篇三:Hugging Face 模型仓库结构全解析

Hugging Face 模型仓库结构

参见:https://blog.csdn.net/zhiyuan411/article/details/156650512

DeepSeek 生态

参见:https://blog.csdn.net/zhiyuan411/article/details/156384108

版权声明: 本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若内容造成侵权/违法违规/事实不符,请联系邮箱:809451989@qq.com进行投诉反馈,一经查实,立即删除!
网站建设 2026/8/21 9:43:50

Hunyuan-MT-7B购买Token送算力?限时优惠活动开启

Hunyuan-MT-7B:当大模型翻译遇上“一键部署”,AI普惠正在发生 在边疆地区的基层医院里,一位汉族医生面对维吾尔族患者的病历记录束手无策;在西南山区的双语课堂上,教师为找不到高质量的彝汉教学材料而发愁;…

作者头像 李华
网站建设 2026/8/27 16:29:26

权限控制设计:多用户场景下的安全访问机制

权限控制设计:多用户场景下的安全访问机制 引言:从万物识别项目看多用户系统的权限挑战 随着AI模型在企业级应用中的广泛部署,如何在多用户环境中保障资源的安全访问成为系统设计的关键命题。以“万物识别-中文-通用领域”这一阿里开源的图像…

作者头像 李华
网站建设 2026/8/26 5:52:21

deepcode国内使用教程

deepcode国内使用教程 本文面向国内网络环境/国内模型接口的使用场景,整理了从 GitHub 克隆 DeepCode 后,为了“能跑起来 更稳定 更快写代码进文件”需要做的关键修改点与原因。 说明:本文不会写入任何真实 API Key,请按自己的…

作者头像 李华
网站建设 2026/8/25 6:08:40

税务工作流智能体设计与实现方案

税务工作流智能体设计与实现方案 一、项目概述与设计理念 1.1 项目背景 税务工作流智能体是基于Coze平台构建的专业化税务处理助手,旨在通过AI技术实现税务流程自动化、智能化和标准化。本系统将税务申报、发票管理、税务咨询、风险评估等核心业务整合到统一的工作流中,显…

作者头像 李华
网站建设 2026/8/19 18:06:03

内网渗透实战笔记:信息收集命令快速参考手册​

收藏必备!内网渗透信息收集完全指南:从机器角色判断到域管理员定位 本文全面介绍内网渗透测试中的信息收集技术,包括判断机器所处网络区域及角色、本机信息收集(操作系统、权限、服务等)、域环境信息收集(…

作者头像 李华
网站建设 2026/8/21 22:54:17

Java动态编译[源码是字符串形式]

一、代码如下import javax.tools.*; import java.io.IOException; import java.net.URI; import java.nio.charset.Charset; import java.util.ArrayList; import java.util.Arrays; import java.util.List;/*** author * version 1.0.0* <p>* date: 2026/1/7**/ public …

作者头像 李华