5分钟快速上手：CMLM-ZhongJing中医大语言模型完整使用指南-平芜编程栈

5分钟快速上手：CMLM-ZhongJing中医大语言模型完整使用指南

【免费下载链接】CMLM-ZhongJing首个中医大语言模型——“仲景”。受古代中医学巨匠张仲景深邃智慧启迪，专为传统中医领域打造的预训练大语言模型。 The first-ever Traditional Chinese Medicine large language model - "CMLM-ZhongJing". Inspired by the profound wisdom of the ancient Chinese medical master Zhang Zhongjing, it is a pre-trained large language model designed specifically for the field of Traditional Chinese Medicine.项目地址: https://gitcode.com/gh_mirrors/cm/CMLM-ZhongJing

CMLM-ZhongJing（仲景）是首个专门为传统中医领域打造的预训练大语言模型，受古代中医学巨匠张仲景的深邃智慧启发，旨在将中医博大精深的知识体系与现代AI技术相结合，为医学研究和临床辅助提供专业工具。本指南面向技术新手和普通用户，提供从零开始快速体验这一专业中医AI模型的完整流程。

第一步：环境准备与项目部署

项目获取与基础配置

首先需要获取项目代码并设置基础环境。CMLM-ZhongJing基于Python开发，支持多种部署方式，从最简单的网页演示到本地完整运行都能满足不同需求。

关键操作点：

克隆项目仓库：使用Git命令获取最新代码

git clone https://gitcode.com/gh_mirrors/cm/CMLM-ZhongJing.git cd CMLM-ZhongJing

安装依赖包：项目提供了完整的依赖列表
```
pip install -r requirements.txt
```
模型下载准备：项目支持两种不同规模的模型，可根据硬件配置选择：
- ZhongjingGPT1_13B：13B参数版本，需要高性能GPU
- ZhongJing-2-1_8b：1.8B轻量版，单张Tesla T4即可运行

实用小贴士：如果本地GPU资源有限，推荐使用1.8B轻量版模型，运行要求较低且响应速度快。

第二步：快速启动网页演示界面

一键启动交互式Web界面

CMLM-ZhongJing提供了基于Gradio的网页演示界面，无需编写任何代码即可体验中医AI的强大功能。

操作指南：

启动Web Demo：在项目目录中运行
```
python WebDemo.py
```
访问本地服务：启动成功后，在浏览器中打开http://localhost:7860/
界面功能说明：
- 单轮对话模式：适合简单的症状咨询和方剂查询
- 多轮对话模式：支持复杂的诊疗对话和病情分析
- 历史记录：自动保存对话历史便于回溯

界面特点：演示界面设计简洁直观，左侧为输入区域，右侧实时显示模型回答，支持中英文输入，响应速度快。

上图展示了CMLM-ZhongJing采用的多任务诊疗行为分解策略，该策略借鉴人类记忆与学习机制，通过15种诊疗场景任务构建高质量指令数据，确保模型在中医专业领域的准确性。

第三步：核心功能深度体验

中医专业问答实践

CMLM-ZhongJing在中医领域具备专业的知识库和推理能力，用户可以通过以下方式深度体验其核心功能：

中医症状咨询示例：

简单症状："头痛发热怎么办？"
复杂症状："心痛彻背，背痛彻心，怎么治疗，请你对此症状给出中医处方。"
舌脉象分析："舌红苔薄黄，脉细数，这是什么证候？"

诊疗决策推理测试：模型在复杂诊疗场景中表现出色，能够结合病史、症状、舌脉象进行综合辨证分析。

处方生成能力：基于专业中医知识库，模型能够生成符合中医理论的中药方剂，包括药物组成、剂量和煎服方法。

模型效果对比验证

CMLM-ZhongJing在专业医师评估中展现出卓越表现。以下是与其他主流模型在中医诊疗任务中的对比结果：

评估结果显示，CMLM-ZhongJing在参数规模相对较小的情况下，在客观性、逻辑性、专业性、准确性和完整性等多个维度上均表现优异，部分场景下甚至超越GPT-4等大型模型。

第四步：代码调用与集成开发

本地API调用方法

对于开发者用户，可以直接在Python项目中集成CMLM-ZhongJing模型：

基础调用示例：

from transformers import AutoModelForCausalLM, AutoTokenizer import torch # 初始化模型和分词器 peft_model_id = "CMLL/ZhongJing-2-1_8b" base_model_id = "Qwen/Qwen1.5-1.8B-Chat" model = AutoModelForCausalLM.from_pretrained(base_model_id, device_map="auto") model.load_adapter(peft_model_id) tokenizer = AutoTokenizer.from_pretrained( "CMLL/ZhongJing-2-1_8b", padding_side="right", trust_remote_code=True, pad_token='' ) # 构建查询指令 instruction = "我对三元汤的全过程很好奇，能否从简介、病历、症状、诊断和治疗，以及结果讨论等方面给我详细介绍？" # 准备输入 messages = [ {"role": "system", "content": "You are a helpful TCM medical assistant."}, {"role": "user", "content": f"Question: {instruction}"} ] # 生成回答 inputs = tokenizer.apply_chat_template(messages, tokenize=False, add_generation_prompt=True) model_inputs = tokenizer([inputs], return_tensors="pt").to("cuda") generated_ids = model.generate(model_inputs.input_ids, max_new_tokens=512) response = tokenizer.decode(generated_ids[0], skip_special_tokens=True) print(response)

进阶配置选项：

设备选择：支持CPU、CUDA、MPS等多种计算设备
生成参数：可调整max_new_tokens、temperature等参数控制输出
批量处理：支持批量输入提高处理效率

实用小贴士：参考项目中的src/zhongjinggpt_1_b.py文件，了解更多高级用法和配置选项。

第五步：高级应用与定制开发

数据构建与模型微调

CMLM-ZhongJing的核心优势在于其专业的指令数据构建方法，开发者可以基于此方法扩展模型能力：

专业指令数据特点：

多任务诊疗分解：涵盖15种诊疗场景任务
中医常识指令：包含8万条多维度的中医专业知识
高质量数据源：基于中医古籍、方药、证候等专业资料

模型微调建议：

数据准备：按照项目的数据格式准备中医专业数据
微调配置：参考LoRA微调方法进行参数调整
效果验证：使用专业医师评估标准验证模型效果

部署优化与性能调优

部署环境建议：

硬件要求：1.8B版本建议8GB以上显存，13B版本建议24GB以上显存
软件环境：Python 3.8+，PyTorch 2.0+，Transformers 4.30+
网络要求：首次运行需要下载模型权重，建议稳定网络环境

性能优化技巧：

量化压缩：使用4-bit或8-bit量化减少内存占用
缓存优化：启用KV缓存提高推理速度
批量推理：合理设置batch_size平衡内存和速度

总结与后续学习路径

CMLM-ZhongJing为中医AI领域提供了强大的工具支持，通过本指南的五个步骤，用户可以快速上手并深度体验这一专业模型。从简单的网页演示到复杂的代码集成，项目提供了完整的解决方案。

后续学习建议：

深入研究项目文档：详细阅读项目README文件了解技术细节
探索源码结构：分析src/目录下的核心代码实现
参与社区讨论：关注项目更新和技术交流
实践应用开发：尝试将模型集成到实际中医辅助系统中

重要提示：本模型所有输出结果仅供学术研究参考，不构成任何医疗建议。临床诊断和治疗应由经验丰富的专业医师提供。模型尚处于实验室测试阶段，不具备高度可信的临床诊疗能力。

通过本指南的学习，您已经掌握了CMLM-ZhongJing中医大语言模型的核心使用方法，无论是作为研究工具还是技术验证，都能为中医与现代AI技术的结合提供有力支持。

创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考

5分钟快速上手：CMLM-ZhongJing中医大语言模型完整使用指南