news 2026/8/2 13:51:16

《别再把机密数据喂给GPT了!30行Python教你部署企业级本地RAG系统》

作者头像

张小明

前端开发工程师

1.2k 24
文章封面图
《别再把机密数据喂给GPT了!30行Python教你部署企业级本地RAG系统》
1. 前言
  • 痛点:ChatGPT要梯子,API太贵,公司数据不敢上传云端。

  • 解决方案:使用国产之光DeepSeek配合Ollama进行本地部署,完全免费且离线可用。

  • 本文目标:手把手教你搭建一个能读懂你PDF文档的AI助手。

2. 环境准备
  • Ollama安装:给出Windows/Mac/Linux的安装命令(强调简单)。

  • 模型拉取:ollama run deepseek-coder:33b # 或者 deepseek-llm

    *(注:提醒读者根据显存选择模型大小)*
3. 核心代码实战(Python + LangChain)
  • 依赖安装:pip install langchain chromadb ollama

  • 向量化处理(Embeddings):解释为什么需要向量化(让计算机听懂人话)。

  • 代码示例(关键部分):

    from langchain_community.llms import Ollama from langchain.document_loaders import PyPDFLoader from langchain.vectorstores import Chroma from langchain.embeddings import HuggingFaceEmbeddings # 1. 加载本地私有数据 loader = PyPDFLoader("我的绝密文档.pdf") pages = loader.load_and_split() # 2. 向量化并存入数据库 vector_db = Chroma.from_documents( documents=pages, embedding=HuggingFaceEmbeddings(model_name="moka-ai/m3e-base"), # 推荐中文友好的Embedding persist_directory="./db" ) # 3. 召唤DeepSeek回答问题 llm = Ollama(model="deepseek-llm") retriever = vector_db.as_retriever()
4. 避坑指南
  • 显存溢出怎么办?

  • 中文回答乱码怎么调?

  • DeepSeek与其他模型(如Llama 3)的对比优劣。

5. 结语与福利
  • 互动:“由于篇幅限制,下一篇讲如何给这个系统套个Web UI壳子,想看的在评论区扣1!”

  • 拉票:“正在参加CSDN 2025博客之星,如果本文对你有用,请投我一票!”

版权声明: 本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若内容造成侵权/违法违规/事实不符,请联系邮箱:809451989@qq.com进行投诉反馈,一经查实,立即删除!
网站建设 2026/8/2 17:08:26

智能时代的测试新边界:AI系统测试的特殊考量与实践路径

1 范式转移:从确定性逻辑到概率性输出的测试革命 当我们从传统软件测试跨入AI系统测试领域,本质上经历的是一场测试范式的根本性变革。传统软件测试基于确定性逻辑——相同的输入必定产生预期的输出,测试用例的设计围绕业务逻辑路径展开。而…

作者头像 李华
网站建设 2026/8/1 14:19:06

EmotiVoice语音合成后台服务稳定性:7x24小时运行压力测试

EmotiVoice语音合成服务的724小时稳定性实践 在内容创作平台、虚拟偶像直播或在线游戏对话系统中,用户对语音交互的真实感和情感表达提出了更高要求。传统的文本转语音(TTS)技术虽然能“说话”,但往往语调单一、缺乏情绪变化&…

作者头像 李华
网站建设 2026/8/2 4:35:49

EmotiVoice语音合成跨平台兼容性测试:Windows/Linux/macOS一致体验

EmotiVoice语音合成跨平台兼容性测试:Windows/Linux/macOS一致体验 在虚拟主播直播带货、游戏NPC即兴对话、AI有声书自动朗读的今天,用户早已不再满足于“能说话”的机械语音。他们期待的是——听到一个会笑、会生气、甚至带着轻微鼻音和语调起伏的“真实…

作者头像 李华
网站建设 2026/8/1 17:27:54

QCAD v3.28.1.3源码编译,使用VS2019+Qt5.15.2环境

几年前写过一篇博文:《QCAD v3.23.0.2源码编译,使用VS2017Qt5.12.5环境》 https://blog.csdn.net/libaineu2004/article/details/100217789 https://github.com/qcad/qcad https://gitee.com/mirrors/qcad 现在qcad版本也一直更新,于是决…

作者头像 李华
网站建设 2026/7/31 12:03:00

jQuery EasyUI 数据网格 - 取得选中行数据

jQuery EasyUI 数据网格 - 取得选中行数据 在 jQuery EasyUI 的 datagrid 中,获取用户选中的行数据是非常常见的操作,用于编辑、删除、查看详情等功能。下面详细介绍几种常用方法,根据单选/多选模式的不同而异。 官方参考: Dat…

作者头像 李华
网站建设 2026/8/1 12:43:58

jQuery EasyUI 数据网格 - 动态改变列

jQuery EasyUI 数据网格 - 动态改变列 datagrid 支持在运行时动态显示/隐藏列、添加新列、移除列、改变列标题/宽度/对齐方式等操作。这在实际应用中非常实用,例如: 用户个性化表格视图(选择显示哪些列)根据权限动态隐藏敏感列切…

作者头像 李华