如何用 Foundry Toolkit for VS Code：4 步完成从选模型到本地测试

如何用 Foundry Toolkit for VS Code：4 步完成从选模型到本地测试

【免费下载链接】foundry-dev-tools项目地址: https://gitcode.com/GitHub_Trending/vs/foundry-dev-tools

Foundry Toolkit for Visual Studio Code（前身是 AI Toolkit）是微软 Foundry 开发者工具套件里的一款 VS Code 扩展。它把浏览模型目录、与模型对话测试、微调模型、调试 Agent、查看调用链这些环节收进同一个编辑器，用一套扩展串起完整流程。本文按你脑子里问题的顺序，一步步带你走通。

认识 Foundry Toolkit：它能替你做什么

很多人第一反应是"这和我直接写代码有什么区别"。一句话区分：Foundry Toolkit 管的是 AI 应用里的"模型"这一侧——找模型、试模型、调模型、看模型，而你的业务代码照旧写在 VS Code 里，不需要换环境。

官方把整条工具链分成了 4 个入口，你可以按自己的工作习惯挑：

工具	干什么
Foundry Toolkit for VS Code	在 VS Code 里浏览模型、聊天测试、微调、管理资源，本文主角
Azure Developer CLI（azd）	用终端命令脚手架项目、部署、自动化
Foundry Skills	给你的编程助手（coding agent）提供可复用的 Foundry 开发指引
Foundry Canvas（预览版）	在引导式可视化面板里设计、配置、部署托管 Agent

这四者不冲突，可以混用。典型路径是：先在 VS Code 里把项目搭起来，再用azd命令行部署到云端。

安装 Foundry Toolkit 并验证环境

用 1 次点击或 1 个脚本装好扩展

最直接的方式：按Ctrl+Shift+X打开扩展面板，搜索 "AI Toolkit"，点安装。正式发布版功能稳定，预发布版可以提前体验新特性。装完你会看到扩展出现在左侧活动栏，并提示重新加载窗口。

另一条路是用官方 DevPack 一键安装器，把整套开发工具一次装齐。它检测到系统里有 VS Code 或 GitHub Copilot App 时才会装上 Toolkit 和 Canvas 扩展，不会替你把开发环境改面目全非。仓库里放着这两个安装脚本：devpack-installer/scripts/ 下的foundry-devpack.sh（Linux/macOS）和foundry-devpack.ps1（Windows）。

⚠️ 安装后记得重新加载 VS Code 窗口。首次启动时扩展会自动检测 Python 依赖，缺什么会弹出安装提示，跟着走几分钟就能完成。

首次启动后做 3 件事

• 让扩展把环境检测跑完。如果你有 NVIDIA 显卡，先确认终端里nvidia-smi能正常输出，否则后面微调时容易遇到"未检测到 GPU"。
• 从侧边栏进入内置的快速入门引导，它会带你完成选模型、建项目这些基础动作。
• 确认侧边栏树视图里出现了 Models、Playground、Tracing 等节点——看到这个，说明安装完成。

图 1：Foundry Toolkit 首次启动的内置引导页，跟着走完就能进入 Playground 与模型对话

为你的电脑找到合适的模型

用模型目录的 3 组筛选条件

在侧边栏点Models打开模型目录。模型来自 GitHub、ONNX、OpenAI、Anthropic、Google 等多个托管源，卡片列表支持 3 组筛选：

• Hosted by / Publisher：模型托管在谁家、哪家机构出品
• Device Type：CPU、GPU 还是 NPU 能跑——这是决定"我电脑能不能跑"的关键
• Fine-tuning Support：打开后只显示支持微调的模型

💡 拿不准就先按 Device Type 筛，再从知名出品方里挑个小模型。等它在你机器上跑通了再换大的，试错成本几乎为零。

看懂模型卡片上的 3 个按钮

每张模型卡片上有 3 个入口：Try in Playground不下载模型直接试推理；Download从 Hugging Face 等源把模型文件拉到本地；Load in Playground把已下载的模型载入聊天面板。点完前一个按钮，几秒后你就会看到 Playground 面板自动弹出、模型已选中的状态。

图 2：模型目录以卡片展示模型，可按托管源、出品方和设备类型筛选

在 Playground 里直接测试模型

不下载模型先试聊

Playground 就是下决定前的"试驾场"。在顶部下拉框选一个模型，可选地填上下文指令、调 temperature 等参数，然后在底部输入框直接提问。多模态模型还支持附加本地文件：点附件图标选一个图片或文档，模型会把它和文字 prompt 一起理解。

图 3：Playground 聊天测试界面：上方选模型与参数，下方输入问题即可看到生成结果

把你已有的模型接进来

目录之外的模型有两条接入路径：

• 远程模型（BYOM）：把鼠标悬停在MY MODELS上点+，填入模型名、托管 URL 和可选的认证信息，任何 OpenAI 兼容的聊天端点都能变成一个可选模型。
• 本地 Ollama：装好 Ollama 后，选 "Add an Ollama model"，它会列出本机已下载的模型供你勾选加入。

ollama pull <model-name>

列表里没有想要的模型时，先在终端跑上面这条命令下载。

💡 Ollama 列表只展示已下载过的模型；且 Ollama 模型暂不支持附件功能，需要多模态的话请选目录模型或远程端点。

Playground 的完整用法可参考 doc/playground.md。

让通用模型变成懂你业务的模型

从微调项目模板起步

微调就是用你的小数据集，让一个已"受过教育"的模型学会你的具体任务。Toolkit 提供开箱即用的微调项目模板：选好模型、给项目起名、指定存放位置，点 Generate Project，扩展会把运行环境替你准备好。训练参数拿不准就直接用默认值，配合项目里自带的示例数据集先跑通一遍流程。

数据如果来自 Hugging Face，先登录一次，数据集才能替你下载：

huggingface-cli login

把微调和推理放到云端跑

本地没有 GPU 也没关系。创建项目时不勾选"本地微调"，扩展会引导你预配 Azure Container Apps 环境，然后云端提交微调任务，用 QLoRA 方式产出 LoRA 适配器。训练全程可以在 VS Code 的输出面板里看流式日志。完成后还能部署推理端点，通过自带的 Gradio 网页立刻验证微调效果。

图 4：微调完成后启动的 Gradio 网页，可直接对话验证微调后的模型表现

⚠️ 微调任务可能因资源不足进入排队，流式日志迟迟不出时等一会儿再用"Show Streaming Logs"命令重连；GPU 检测不通过时先更新 NVIDIA 驱动。

云端微调与推理的完整步骤见 doc/finetune.md。

观察你的 AI 应用内部在做什么

用 Agent Inspector 一键调试

模型包成 Agent 之后，问题从"能不能出结果"变成"是不是在对地出结果"。Agent Inspector 就是为此设计：按 F5，它会带着调试器启动你的 Agent，你在聊天区发消息触发工作流，Agent 之间的执行图实时可视化，双击任意节点就能跳到对应代码。

没有现成 Agent 也能玩：在 Inspector 里选Scaffold a Sample，它先生成一个预配置好的示例项目，再按 F5 体验完整流程。

图 5：Agent Inspector 的快速开始入口，选择 Scaffold a Sample 即可获得可运行的 Agent 示例

接入追踪收集器

另一层观察手段是分布式追踪：在树视图选中Tracing，点Start Collector，扩展会在本地起一个 OTLP 收集服务；给 AI 应用加上插桩代码后运行它，每次模型调用都会以 span 的形式出现在追踪列表里，点进去能看到输入、输出和完整元数据。支持的 SDK 清单与插桩示例见 doc/tracing.md。

Foundry Toolkit 并不替代你的业务代码，它只是把 AI 开发里"模型"这一侧统一收进了 VS Code。现在打开模型目录，挑一个标注为能在你设备运行的模型，在 Playground 里完成第一次对话，就是最快的第一步。

【免费下载链接】foundry-dev-tools项目地址: https://gitcode.com/GitHub_Trending/vs/foundry-dev-tools