张小明
前端开发工程师
最近在做一些端侧部署一些小参数模型来进行一些自动化操作的尝试发现一个有意思的地方
使用qwen30b-a3b模型直接使用阿里百炼永远比ollama部署的模型toolcall效果要更好
c#调用ollama的模型默认使用ollama sharp这个包
OllamaSharp
https://github.com/awaescher/OllamaSharp
翻阅代码可知
对于方法调用参数的定义非常的奇怪如果参数是引用类型或者存在嵌套的情况则上下文会完全丢失参数细节
这样调用会存在问题也不足为奇了
如果你也遇到类似的问题可以考虑转用Microsoft.Extensions.AI.OpenAI
ollama也部分兼容openai格式的请求
openai-compatibility
https://docs.ollama.com/api/openai-compatibility
实测QWEN-AUDIO语音合成系统：4种人声音色一键切换，效果惊艳 1. 开场即惊艳：一段语音，四种人生 你有没有试过，把同一段文字，用四种完全不同性格的声音读出来？不是简单变调，而是像真…
李华
告别AutoCAD字体管理难题：FontCenter智能插件提升设计效率指南 【免费下载链接】FontCenter AutoCAD自动管理字体插件 项目地址: https://gitcode.com/gh_mirrors/fo/FontCenter 你是否曾在打开重要CAD图纸时，被一连串字体缺失警告打断工作流&…
李华
打造无缝用户体验：现代前端应用中的消息反馈系统设计指南 【免费下载链接】vue3-element-admin 基于 vue3 vite4 typescript element-plus 构建的后台管理系统（配套接口文档和后端源码）。vue-element-admin 的 vue3 版本。 项目地址: ht…
李华
DDColor从零开始教程：下载-安装-测试-导出，全流程保姆级手册 1. 为什么你需要DDColor——不只是上色，是让历史呼吸 你有没有翻过家里的老相册？泛黄的纸页里，祖父穿着笔挺的中山装站在祠堂前，祖母挽着发髻…
李华
DWPose加载失败？轻松解决ComfyUI ControlNet Aux模型加载问题完全指南 【免费下载链接】comfyui_controlnet_aux 项目地址: https://gitcode.com/gh_mirrors/co/comfyui_controlnet_aux 如何诊断DWPose加载失败问题 最近有不少小伙伴反馈，在升级…
李华
Qwen2.5-Coder-1.5B保姆级教程：从安装到代码生成 你是不是也遇到过这些情况？写一段排序算法要查三次文档，补全函数时反复删改缩进，看别人几千行的代码仓库不知从哪下手……别急，今天带你用上真正懂代码的AI助手——Qw…
李华