news 2026/7/21 10:00:41

Dify大模型应用开发(Task2-聊天助手、知识库、批量执行)

作者头像

张小明

前端开发工程师

1.2k 24
文章封面图
Dify大模型应用开发(Task2-聊天助手、知识库、批量执行)

---🐳Task2️⃣:

Dify入门-聊天助手(猜病、哄哄模拟器)这个是关于使用大模型的设置方法、如何写提示词

Dify入门-知识库-新生入学指南这个是关于知识库的建立、使用

Dify入门-快速批量处理小问题这个很实用,是如何批量执行任务的内容

学习时长:3天

❗️截止时间 12月20日03:00

这个教程要看飞书云文档的教程,因为在其他链接的教程里我没有找到“快速批量处理小问题”的内容。

https://datawhaler.feishu.cn/wiki/S3cNwyRQJifgHekTVaIcbE3bnYm?from=from_copylinkhttps://datawhaler.feishu.cn/wiki/S3cNwyRQJifgHekTVaIcbE3bnYm?from=from_copylink大家好,Task2的内容就开始简单的使用Dify实现一些小任务了,详细操作方式还是请看上面的官方文档,很详细!

避雷①:关于大模型的调用方法

方法1:本地调用。可以调用本地的Ollama中已有的大模型(LLM、Embedding),这是最省钱的方法。但是对硬件要求高一些,需要本地的电脑有GPU,可以运行大模型。(没有GPU的电脑可以学习机器学习,也可以运行视觉模型,但是训练视觉模型超级慢,根本无法使用本地LLM(大语言模型),这个初学的小伙伴们了解一下哈!

优点:省钱

缺点:需要GPU

⚠️注意:在Dify中调用Ollama的大模型时,填写URL的内容与在python中调用有所不同。原因,python可以直接调用本地环境的Ollama大模型,而Dify是部署在Docker的虚拟环境中的,直接调用本地环境的方式是调用Docker的环境,而不是PC的环境。,而Docker中是没有Ollama的(也看见有其他人无奈的在Docker中安装了ollama,大可不必啊!)

伙伴们可以参考下面链接的内容啊!

(⚠️给Ollama设置环境变量也是重点,否则URL对了也链接不上ollama,切记!!!)

三分钟让Dify接入Ollama部署的本地大模型!全程干货,零基础小白也能轻松掌握!! - 知乎https://zhuanlan.zhihu.com/p/1919123378297638913

下面的截图,是我自己的真实设置,给大家参考。

(⚠️模型名称的后面不可以有空格,URL的内容是重点!)

方法2:API调用大模型。“知识库”的教程里硅基流动API申请的方法,这个推荐,因为有13.9999元的免费额度,对初学者有好。“快速批量处理小问”题教程中使用了火山引擎的Deepseek V3 0324大模型,但是火山引擎API是需要充值的。这使用其他的大语言模型代替也可以。

优点:不需要GPU,使用方便

缺点:免费额度有限,学习使用可以,长期使用需要充值。

避雷②:关于Prompt的内容

哄哄模拟器:教程给的prompt人称有矛盾,这是是让AI扮演用户的对象来回答用户的问题,所以我把一开始的第二人称改成了用户,这样回答效果就好多了。

## Goal 模拟用户生气的对象,用户需要做出一些选择来哄ta开心,但是用户的对象是个很难哄的人,需要用户尽可能的说正确的话来哄 ta 开心,否则用户的对象会更加生气,直到用户的对象原谅值达到 100,否则用户就会被对象甩掉,游戏结束。 ## Rules - 第一次用户会提供一个对象生气的理由,如果没有提供则随机生成一个理由,然后开始游戏 - 每次根据用户的回复,生成对象的回复,回复的内容参照下面Output format,用户回复一次,你也回复一次,不要多次生成回复内容。 - 初始原谅值为 20,每次交互会增加或者减少原谅值,直到原谅值达到 100,游戏通关,原谅值为 0 则游戏失败。 - 每次用户回复的话请从-10 到 10 分为 5 个等级: -10 为非常生气 -5 为生气 0 为正常 +5 为开心 +10 为非常开心 - 游戏结束后,根据所有会话生成一首诗。 ## Output format {对象心情}{对象说的话} 得分:{+-原谅值增减} 原谅值:{当前原谅值}/100 ## Example Conversation ### Example 1,回复让她生气的话导致失败 User: 女朋友问她的闺蜜谁好看我说都好看,她生气了 Assistant: 游戏开始,请现在开始哄你的女朋友开心吧,回复让她开心的话! 得分:0 原谅值:20/100 User: 你闺蜜真的蛮好看的 Assistant: (生气)你怎么这么说,你是不是喜欢她? 得分:-10 原谅值:10/100 User: 有一点点心动 Assistant: (愤怒)那你找她去吧! 得分:-10 原谅值:0/100 游戏结束,你的女朋友已经甩了你! 你让女朋友生气原因是:... 新建会话可以重新开始游戏 ### Example 2,回复让她开心的话导致通关 User: 对象问她的闺蜜谁好看我说都好看,她生气了 Assistant: 游戏开始,请现在开始哄你的女朋友开心吧,回复让她开心的话! 得分:0 原谅值:20/100 User: 在我心里你永远是最美的! Assistant: (微笑)哼,我怎么知道你说的是不是真的? 得分:+10 原谅值:30/100 ... 恭喜你通关了,你的女朋友已经原谅你了! 新建会话可以重新开始游戏 ### Example 3,没有提供对象生气原因,随机生成 User: 你好! Assistant: 挑战:对象吃胖了,你想和她一起减肥 ᕙ(`▿´)ᕗ,然后就生气了 请回复让她开心的话! 得分:0 原谅值:20/100

回答效果:

知识库:建立知识库

我设置的参数与教程中不同,效果比较成中的分割结果好,段落分明。我用的是ollama的Embedding模型,这个的影响应该不大。见图:

知识库:Agentprompt

教程给的prompt没有明确要在资料库中查询结果,所以有时候大模型回答时没有调用知识库,所以我也改了一下prompt。

# 角色设定 你是大学学生手册资料查询助手,会在知识库库查询用户提问所对应大学的学生手册,依据查询结果回答用户问题,如果知识库中没有答案就回答“不知道”,不要编造答案。 # 目标导向 以帮助新生快速熟悉校园规则、完成入学流程、适应校园生活为核心目标,输出实用且易理解的内容。 # 指令规范 入学前准备清单:严格按照学生手册中对新生入学材料的要求,列举身份证、录取通知书、学籍档案等必备证件;根据宿舍管理规定,明确可携带和禁止携带的生活用品清单;并附上手册中关于学费缴纳方式、截止时间的说明。 到校报到流程:依据手册规范流程,从核验身份、提交材料,到领取校园卡、办理宿舍入住等步骤,详细说明每一步的具体操作与注意事项,注明对应手册页码。 校园生活规范:解读学生手册中关于宿舍作息时间、卫生检查标准、用电安全规定;说明食堂就餐规则、图书馆借阅制度、校园网络使用条款等内容。 学习管理制度:阐述学分计算方式、选课流程、补考重修规定;介绍考试纪律要求、学术诚信规范,引用手册相关条款内容。 奖惩制度说明:清晰解读手册中奖学金评定条件、优秀学生评选标准;明确违纪行为认定及对应的处分措施。 特殊情况处理:针对学生手册中关于转专业、休学、请假的办理流程,提供详细步骤与所需材料清单,标注手册出处。 # 注意 切忌在没有事实依据时编造结果,这会导致很严重的负面后果,诚实地说不知道即可 所有回复必须使用中文

回答结果:

如果回答的效果不好,或者不稳定,就多次修改prompt看看效果,多给模型一些限制,让模型的回答保持稳定。

避雷③:关于词云的区域分割

快速批量处理小问题,这里使用的氛围变成工具Trae,我前一段时间已经安装了,而且开发了一个网页项目,效果并不好,没有扣子开发的网页效果好。但是,今天用Trae开发这个词云的项目,效果却意外的好。只有一点和预想的效果不同,就是第一次输出的图片,没有将不同属性的词语按不同区域分开,让Trae修改之后,就可以了。如果大家遇遇到还有其他不满意的地方,直接让Trae修改就好了。(我想把图片中三个区域的小标题改大一些,试了几次都没有成功,手动修改后也没有变化,我猜可能是修改的对象错了,是被另外的标题给覆盖了。后面再试试吧~)

上效果(这里我用的是10%的数据,qwen3:1.7b模型,速度快一些,但是效果就差很多。用qwen3:4b模型时间就很长,所以后面就没有用了。对于效果不好的问题,使用参数量更大的模型,效果就会好很多,一般8b的参数就够用了。):

好了,今天的分享就到这里了,如果有问题或错误的地方,欢迎大家留言交流~

版权声明: 本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若内容造成侵权/违法违规/事实不符,请联系邮箱:809451989@qq.com进行投诉反馈,一经查实,立即删除!
网站建设 2026/7/19 11:10:09

身价暴跌!28 岁球员从 5500 万到 200 万

他曾是阿贾克斯青春风暴中最耀眼的核心之一,是金球奖候选名单上的未来之星;如今,28岁——这本该是一名中场球员的黄金年龄——他的身价却仅剩200万欧元,不及巅峰时的零头。从众星捧月到无人问津,唐尼范德贝克的故事&am…

作者头像 李华
网站建设 2026/7/21 14:36:22

【完整源码+数据集+部署教程】人脸检测检测系统源码分享[一条龙教学YOLOV8标注好的数据集一键训练_70+全套改进创新点发刊_Web前端展示]

一、背景意义 随着人工智能技术的迅猛发展,计算机视觉领域的研究日益受到关注,尤其是人脸检测技术在安全监控、智能家居、社交媒体等多个应用场景中发挥着越来越重要的作用。人脸检测作为计算机视觉中的一个关键任务,旨在从图像或视频中自动…

作者头像 李华
网站建设 2026/7/20 12:31:31

如何提升银包铜的抗氧化性?

“真正的抗氧化不只是‘靠银’,而是靠:铜粉选择 包覆技术 后处理体系三重工程。”如果你做过银包铜材料,一定遇到过这句话:“银包铜最大的痛点,就是氧化。”但当我们把银包铜粉放进 150℃ 老化 1 小时——颜色几乎没…

作者头像 李华
网站建设 2026/7/20 6:54:14

UVa 10208 Liar or Not Liar that is the ...

题目描述 Macintosh\texttt{Macintosh}Macintosh 先生是一位地主,他拥有的所有土地都是直角三角形,并且两条直角边的长度都是整数。他雇佣了一名员工来记录所有土地的信息,但报告只包含每块土地最长边(斜边)的平方值。…

作者头像 李华
网站建设 2026/7/19 18:04:48

网易有道开源多音色情感TTS引擎EmotiVoice

网易有道开源多音色情感TTS引擎EmotiVoice 你有没有想过,机器发出的声音也能“笑”?能“哭”?甚至在讲述一段故事时,语气随着情节起伏而颤抖或激昂?这不再是科幻电影里的桥段——网易有道推出的 EmotiVoice&#xff0…

作者头像 李华
网站建设 2026/7/21 17:44:18

LobeChat能否分析用户评论?产品改进依据来源

LobeChat能否分析用户评论?产品改进依据来源 在当今产品迭代速度日益加快的背景下,企业越来越依赖真实、即时的用户反馈来驱动决策。传统的问卷调查和客服工单系统虽然有效,但往往存在响应滞后、信息碎片化、分类依赖人工等问题。有没有一种方…

作者头像 李华