news 2026/2/4 4:41:05

第六十一篇-ComfyUI+V100-32G+GGUF+运行Flux Schnell GGUF

作者头像

张小明

前端开发工程师

1.2k 24
文章封面图
第六十一篇-ComfyUI+V100-32G+GGUF+运行Flux Schnell GGUF

环境

系统:CentOS-7 CPU : E5-2680V4 14核28线程 内存:DDR4 2133 32G * 2 显卡:Tesla V100-32G【PG503】 (水冷) 驱动: 535 CUDA: 12.2 ComfyUI version: 0.4.0 ComfyUI frontend version: 1.34.8

系统软件信息

系统信息 OS linux Python Version 3.12.12 | packaged by Anaconda, Inc. | (main, Oct 21 2025, 20:16:04) [GCC 11.2.0] Embedded Python false Pytorch Version 2.9.1+cu128 Arguments main.py --listen --port 8188 --cuda-malloc --lowvram RAM Total 62.68 GB RAM Free 60.25 GB

启动

python main.py --listen --port8188--cuda-malloc --lowvram

参考

基于ComfyUI的Flux Schnell案例修改模型为GGUF加载器 [第五十九篇-ComfyUI+V100-32G+运行Flux Schnell-CSDN博客](https://blog.csdn.net/hai4321/article/details/155953374)

ComfyUI安装GGUF支持

进入你看着ComfyUI目录的custom_nodes cd ComfyUI/custom_nodes 克隆代码 git clone https://github.com/city96/ComfyUI-GGUF 安装依赖 pip install -r requirements.txt 重启ComfyUI

下载GGUF模型

https://hf-mirror.com/city96/FLUX.1-schnell-gguf/resolve/main/flux1-schnell-Q4_K_S.gguf?download=true
放入ComfyUI/models/unet文件夹中

调整模型加载器

删除Setp1 UNet加载器

添加【节点库】–》【UnetLoader(GGUF)】-》【选择flux1-schnell-Q4_K_S.gguf】

Flux Schnell完整版文生图

保存工作流

Ctrl+S

运行结果

第一次时间长一点

参数

1024*1024

时间

gguf qtypes: F32(468), Q4_K(304), F16(4)model weight dtype torch.float16, manual cast: None model_type FLOW Requested to load Flux loaded completely;30387.70MB usable,6595.58MB loaded, full load: True100%|███████████████████████████████████████████████████████████████████████████████████████|4/4[00:06<00:00,1.69s/it]Prompt executedin11.09seconds got prompt100%|███████████████████████████████████████████████████████████|4/4[00:06<00:00,1.70s/it]Prompt executedin7.59seconds got prompt100%|███████████████████████████████████████████████████████████|4/4[00:06<00:00,1.70s/it]Prompt executedin7.61seconds

GPU

Tue Dec1621:42:542025+---------------------------------------------------------------------------------------+|NVIDIA-SMI535.129.03 Driver Version:535.129.03 CUDA Version:12.2||-----------------------------------------+----------------------+----------------------+|GPU Name Persistence-M|Bus-Id Disp.A|Volatile Uncorr. ECC||Fan Temp Perf Pwr:Usage/Cap|Memory-Usage|GPU-Util Compute M.||||MIG M.||=========================================+======================+======================||0Tesla PG503-216 On|00000000:04:00.0 Off|0||N/A 21C P0 36W / 250W|7184MiB / 32768MiB|0% Default||||N/A|+-----------------------------------------+----------------------+----------------------+

总结

1.GPU 占用7-8G 2.GPU 100% 3.7 秒左右一张1024*1024 4.还是挺好用的,GPU内存占用只有7G多,比fp16少很多
版权声明: 本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若内容造成侵权/违法违规/事实不符,请联系邮箱:809451989@qq.com进行投诉反馈,一经查实,立即删除!
网站建设 2026/2/3 3:15:38

Python defaultdict新手教程:从零开始学

快速体验 打开 InsCode(快马)平台 https://www.inscode.net输入框内输入如下内容&#xff1a; 创建一个面向初学者的defaultdict教学代码&#xff0c;包含&#xff1a;1) defaultdict的基本概念图解 2) 与普通字典的直观对比 3) 3个循序渐进的示例&#xff08;计数器、分组、树…

作者头像 李华
网站建设 2026/1/30 18:38:52

企业级应用中的数据库连接异常处理实战

快速体验 打开 InsCode(快马)平台 https://www.inscode.net输入框内输入如下内容&#xff1a; 开发一个Spring Boot应用&#xff0c;展示企业级数据库连接异常处理方案。包含&#xff1a;1) 多数据源配置&#xff1b;2) HikariCP连接池优化&#xff1b;3) 自定义异常处理器&am…

作者头像 李华
网站建设 2026/2/2 23:36:59

LobeChat能否支持GraphQL订阅?实时更新功能探索

LobeChat能否支持GraphQL订阅&#xff1f;实时更新功能探索 在构建现代AI聊天应用的今天&#xff0c;用户早已不满足于“发送问题、等待回答”的简单交互模式。越来越多的应用场景要求系统具备实时性&#xff1a;比如多个设备间的消息同步、插件执行进度的动态反馈、语音识别过…

作者头像 李华
网站建设 2026/2/3 22:37:27

传统vs智能:AI如何提升前端面试准备效率10倍

快速体验 打开 InsCode(快马)平台 https://www.inscode.net输入框内输入如下内容&#xff1a; 构建一个智能前端面试准备系统&#xff0c;功能包括&#xff1a;1) 基于用户技术栈和能力评估的个性化题目推荐 2) 自动记录错题并生成薄弱知识点图谱 3) 智能答案比对&#xff08;…

作者头像 李华
网站建设 2026/2/1 4:10:36

Coze工作流下载:AI如何自动化你的开发流程

快速体验 打开 InsCode(快马)平台 https://www.inscode.net输入框内输入如下内容&#xff1a; 创建一个Python脚本&#xff0c;使用Coze工作流下载API自动下载指定工作流文件&#xff0c;并解析JSON内容。脚本应包含错误处理和日志记录功能&#xff0c;确保下载过程的稳定性。…

作者头像 李华
网站建设 2026/2/3 11:00:49

为什么map函数比for循环快?性能对比实测

快速体验 打开 InsCode(快马)平台 https://www.inscode.net输入框内输入如下内容&#xff1a; 创建一个性能对比测试&#xff1a;1) 用for循环和map分别处理100万个数据的平方运算 2) 使用timeit模块测量执行时间 3) 分析内存使用差异。要求生成可视化对比图表&#xff0c;并解…

作者头像 李华