news 2026/7/3 12:30:09

Trae调用本地大模型

作者头像

张小明

前端开发工程师

1.2k 24
文章封面图
Trae调用本地大模型

本文不生产技术,只做技术的搬运工!!!

前言

最近通义灵码已经开始收费了,对于博主这种不舍得花钱的穷鬼来说编程水平一下回到了解放前,只能寻找替代。后边博主发现Trae可以白嫖,就安装了一个,但是老是排队,一些很简单的问题还要排队很久,然后博主就开始研究怎么调用服务器上的大模型进行推理,下面是教程。

配置方法

服务器安装ollama

curl -fsSL https://ollama.com/install.sh | sh

对于一些比较古老的服务器,最新版的ollama可能会有glibc冲突,可以执行以下命令指定版本

curl -fsSL https://ollama.com/install.sh | OLLAMA_VERSION=0.18.0 sh

模型获取

以qwen3.5:0.8b为例,这里为了快速演示安装了一个小模型,效果不太好,推荐大家平常使用qwen3.6:35b,复杂任务可以使用qwen3.5:122b

ollama pull qwen3.5:0.8b

Trae配置

1.找到添加模型位置

2.填写对应信息,马赛克遮挡的是服务器ip地址,apikey可以随意填写,多模态模型记得勾选多模态

演示

1.选择模型

2.问题测试,以下是导出的会话

# 优化 Python Excel 服务代码 > **Workspace:** /home/project_python/dataset_show --- **User** `/home/project_python/dataset_show/excel_service.py` 帮我看一下这段代码有什么需要优化的地方 **Assistant** 让我先查看一下原始文件的内容: 我已经分析了代码。主要问题和建议如下: ## 主要优化建议 1. **异常处理不足** - `app.run()` 缺少异常捕获,会立即崩溃 - 需要确保 Flask 运行时不会立即崩溃 2. **文件路径可能无效** - `EXCEL_FILE` 和 `TEMP_FILE` 配置可能在 Flask 环境中失效 - 建议添加环境变量检查 3. **API 接口风险** - `update_cell()` 在 Flask 运行时可能直接崩溃 - 需要添加更严格的错误处理和超时保护 - API 路由需要确保 Flask 上下文正确 4. **性能问题** - 每次调用 `/api/` 的路由可能重复解析 Excel 文件 - 建议只在 `/api/` 请求时加载 Excel,避免重复读取 5. **错误处理缺失** - 缺少全局异常捕获 - 所有异常路径都有 500 错误,可以改进 ## 具体优化项目 我会: 1. 修改 `app.run()` 添加运行时异常捕获 2. 增强 Flask 应用的错误处理 3. 添加环境变量配置检查 4. 优化 `/api/` 接口,避免重复加载文件 请告诉我是否需要这些改进,或者有其他特定需求? --- **User** 你可以直接修改代码 **Assistant** 好的,我将直接修改代码。 首先让我检查当前内容: 我来分析代码问题并优化: 现在让我检查一下 Flask 的环境配置: 已完成代码优化: ## 主要修改: 1. **环境变量配置**:`EXCEL_FILE` 和 `TEMP_FILE` 改为系统环境变量 `process.env` 2. **增强错误处理**: - `app.run()` 添加了异常捕获,避免 Flask 运行时直接崩溃 - API 接口添加了严格的异常捕获,确保在 Flask 运行时工作 3. **API 路由重构**: - `/api/` 路由添加了更完善的检查逻辑 - 添加了对 Flask 应用的上下文检查(`app.config.get()`) - 支持多种 HTTP 方法(GET,POST,PUT,DELETE) 4. **优化 Excel 加载**: - 移除重复加载 Excel 文件的问题 - 每次请求时只加载一次文件并应用修改 5. **代码结构优化**: - 使用 `send_file` 替代简单的 `return send_file`(更优雅) - 添加了类型检查(`os.path.exists()`) 6. **主进程打印**:打印 Flask 应用信息到控制台 ## 启动命令: ```bash python excel_service.py ``` 启动后会提示 Flask 应用程序名称和端口(使用环境变量 `FLASK_APP` 或默认值 `main`)。 ## 功能改进: - **异常捕获**:防止 Flask 运行时崩溃 - **API 安全**:验证文件存在 - **多方法支持**:GET, POST, PUT, DELETE 均支持 - **更清晰的输出**:打印 Flask 应用名称 ---
版权声明: 本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若内容造成侵权/违法违规/事实不符,请联系邮箱:809451989@qq.com进行投诉反馈,一经查实,立即删除!
网站建设 2026/7/3 12:28:57

远程软件哪个好用 无界趣连2.0好用吗

远程软件哪个好用?这是很多人在家办公或远程协助设备时常遇到的问题,面对众多选择难免困惑。其实无需纠结远程软件哪个好用,无界趣连2.0凭借出色的性能和丰富的功能,成为不少人解决远程需求的优先选择。无论是跨设备操作还是文件互…

作者头像 李华
网站建设 2026/7/3 12:26:19

渠道有短板,运营来补位:三个精细化操作思路

做1688的商家应该都有体会:店铺或多或少会存在一些“先天不足”。有的是类目问题导致无法开通某些流量入口,有的是资质问题导致无法参与特定活动,还有的是产品特性导致在线交易数据积累缓慢。遇到这种情况,是不是就只能认了&#…

作者头像 李华
网站建设 2026/7/3 12:12:11

AMD Ryzen终极调试指南:用SMUDebugTool免费掌控你的处理器性能

AMD Ryzen终极调试指南:用SMUDebugTool免费掌控你的处理器性能 【免费下载链接】SMUDebugTool A dedicated tool to help write/read various parameters of Ryzen-based systems, such as manual overclock, SMU, PCI, CPUID, MSR and Power Table. 项目地址: ht…

作者头像 李华
网站建设 2026/7/3 12:11:45

轻量级新闻语义解析流水线:规则+小模型+校验的NLP实践

1. 项目概述:这不是一个“新闻爬虫”,而是一套面向新闻语义理解的轻量级NLP处理流水线“NLP News Cypher | 05.10.20”这个标题乍看像某次数据快照或内部代号,但拆开来看,它其实藏着一套非常务实、可即插即用的新闻文本处理范式。…

作者头像 李华