news 2026/8/5 19:34:03

mindie部署qwen3-8b

作者头像

张小明

前端开发工程师

1.2k 24
文章封面图
mindie部署qwen3-8b

参考:
https://www.hiascend.com/document/detail/zh/mindie/230/quickstart/mindie_quickstart_0004.html

https://www.hiascend.com/document/detail/zh/mindie/230/mindiellm/llmdev/mindie_service0285.html

mkdir /root/tmp
modelscope download --model Qwen/Qwen3-8B --local_dir /root/tmp/
将Qwen3-8B直接放到tmp中,目录结构为
/root/tmp/Qwen3-8B/config.json

1. 拉取镜像
docker pull --platform=arm64 swr.cn-south-1.myhuaweicloud.com/ascendhub/mindie:2.3.0-300I-Duo-py311-openeuler24.03-lts

docker images |grep 2.3.0-300I-Duo-py311-openeuler24.03-lts

2.启动容器
docker run -it -d --net=host --shm-size=4g \
       --name  qwen3-8b\
       -w /home \
       --device=/

版权声明: 本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若内容造成侵权/违法违规/事实不符,请联系邮箱:809451989@qq.com进行投诉反馈,一经查实,立即删除!
网站建设 2026/8/2 18:50:11

Hudi 客户端实现分析

08. Hudi 客户端实现分析 主题说明 Hudi 提供了三种客户端实现:Spark、Flink 和 Java。理解客户端实现有助于理解不同引擎下的写入机制。 客户端实现包括: BaseHoodieWriteClient:客户端基类SparkRDDWriteClient:Spark 客户端Hood…

作者头像 李华
网站建设 2026/8/2 19:29:34

智能体(Agent)何时能可靠完成复杂任务?

智能体(Agent)可靠完成复杂任务的时间线已随技术突破逐渐清晰,行业头部机构与专家给出了明确预判:短期1-3年可实现结构化场景稳定落地,中期5年内突破跨领域长时程任务能力,长期需依托底层技术迭代实现全场景…

作者头像 李华
网站建设 2026/7/31 0:22:01

Vue3 系列教程(二) 创建第一个 Vue 应用

前言 第1课已完成Vue3开发环境搭建与项目结构认知,本课将聚焦Vue3核心应用的创建流程,掌握createApp函数与mount方法的使用逻辑,理解单文件组件的基础结构,最终实现一个可独立运行的自定义Vue3应用,为后续指令、响应式…

作者头像 李华
网站建设 2026/7/31 6:58:03

如何让AI写的文章摆脱“AI味”

让AI写的文章摆脱“AI味”,核心在于用“人”的真实表达、细节和逻辑,去覆盖AI的模板化输出。本文梳理了一套从思路到实操的完整方法。 🎭 转变写作视角 尝试为AI设定一个更具体的“角色”,而不要让它以默认的、中立的“助手”身份…

作者头像 李华