千问模型下载 加载

目录

加载千问模型：

生成提示词：

调用comfui接口：

---

加载千问模型：

import os from transformers import AutoTokenizer, AutoModel from modelscope import AutoModelForCausalLM, AutoTokenizer # 1. 使用正确的本地模型路径（请确保这是绝对路径） model_path = "/data/lbg/models/qwen2_5-1_5b-20250224-merged/qwen2_5-1_5b-20250224-merged" # 请根据实际情况修改 # 2. 加载模型和分词器，明确指定从本地加载 model = AutoModelForCausalLM.from_pretrained( model_path, # 使用统一的路径变量 torch_dtype="auto", device_map="auto", local_files_only=True # 关键：强制从本地路径加载，避免网络请求 ) tokenizer = AutoTokenizer.from_pretrained( model_path, local_files_only=True # 关键：强制从本地路径加载 )