AI 专有名词释义-平芜编程栈

一. LLM（大语言模型）
- 1.1 Prompt（提示词）
- 1.2 Token（词元）
- 1.3 RAG（检索增强生成）
二. Agent（智能体）
- 2.1 CLI（命令行交互方式）
- 2.2 MCP（标准化工具接入协议）
- 2.3 Skill
- 2.4 Function Calling（函数调用）
- 2.5 总结
三. 大模型的模式
- 3.1 AI Embedded（嵌入式 AI）
- 3.2 AI Copilot（助手 AI）
- 3.3 AI Agent（智能体 AI）

一. LLM（大语言模型）

🔷Large Language Model大语言模型的缩写，本质上是一个会预测下一个词的模型。例如：

GPT
DeepSeek

🧐大模型可以：

输入：文本（Prompt）
输出：文本（预测结果）
能力：写代码 / 翻译 / 推理 / 对话

不会主动做事，只是被动响应。

1.1 Prompt（提示词）

🔷输入给LLM大语言模型的指令，提示词的好坏直接影响到结果的质量。高级的用法：

Few-shot（给示例）
Chain-of-thought（引导推理）
System Prompt（设定角色）

1.2 Token（词元）

🔷LLM大语言模型处理文本时的最小单位（不是字符，也不是单词），发送给大模型的Prompt，以及大模型的回复都需要消耗token。
LLM大语言模型的服务提供商通常会根据token进行收费。

内容	token 大概数量
1 个英文单词	~1 token
1 个中文汉字	~1–2 token
1 行代码	几十 token

与大模型进行交互的时候，一次对话能记住的内容是有限的，有着上下文限制。例如能记住的最多的token为：

8K token
32K token
128K token

在一次对话中，token消耗越多速度会越慢，同时花费也越贵。

1.3 RAG（检索增强生成）

🔷Retrieval-Augmented Generation的缩写，在AI生成回答之前，先从外部知识库中检索相关信息，然后利用这些信息增强 LLM 的回答，从而解决模型可能出现的幻觉问题，提供更准确、更专业的内容。

🧠 为什么需要 RAG？
LLM（大模型）本身有几个问题：

❌ 知识是“训练时的”，可能过时
❌ 不知道用户的私有数据（本地文件 / 数据库）
❌ 对于不知道的问题容易“编”（幻觉）

👉 举个例子：
用户问公司数据库表结构是什么。LLM会胡编一个看起来合理的答案，因为LLM 并不知道公司数据库的结构。
👉 这时候就需要 RAG：
先去用户提供的数据库 / 文档里查，再回答。

🧩流程
1️⃣ Retrieval（检索），例如：向量搜索（embedding）和关键词搜索（BM25）

文档（PDF / txt / md）
数据库
网页
本地文件

2️⃣ Augmented（增强），相当于让LLM带着明确的参考资料回答问题。

问题： xxx 参考资料： xxx xxx xxx 请基于以上内容回答

3️⃣ Generation（生成）
LLM 根据，用户问题和检索到的内容，生成最终答案。

二. Agent（智能体）

🔷Agent（智能体）= LLM + 记忆 + 工具 + 自动决策

能力	LLM	Agent
回答问题	✅	✅
自动执行任务	❌	✅
调用工具	❌	✅
多步骤推理	🔺（弱）	✅

🙄如果我们希望AI帮我们查询天气然后发送邮件给张三：

LLM：只会告诉我们天气，无法帮发送邮件
Agent：
- 调 API 查天气
- 生成邮件
- 调用邮件工具发送

🧐Agent相当于可以调用操作系统各种功能的AI。

2.1 CLI（命令行交互方式）

🔷CLI是Command Line Interface的缩写。常用的CLI：

PowerShell
bash
cmd

CLI作为作为 Agent 的执行环境，可以用来调用脚本、程序等。

2.2 MCP（标准化工具接入协议）

🔷Model Context Protocol的缩写，Agent接入外部工具的标准协议，类似于AI世界的USB接口。
工具按照MCP协议进行了实现之后，Agent才能对其进行调用。

通过 MCP，Agent 可以：

读取电脑文件
调用数据库
控制程序

2.3 Skill

🔷Agent可调用的能力模块，是对工具的封装。例如一个Agent 可能有这些 skill：

search_web
read_file
run_powershell
query_sqlite

2.4 Function Calling（函数调用）

Function Calling = 调用机制
Skill = 被调用的能力（函数本身）

用户请求 ↓ LLM 判断 ↓ Function Calling（决定调用哪个函数 + 生成参数） ↓ Skill（真正执行代码） ↓ 返回结果

角色	职责
开发者	定义 Skill（函数）
LLM	决定是否调用 + 填参数
Function Calling	承载这个`调用行为`
程序（Agent）	真正执行 Skill

2.5 总结

三. 大模型的模式

3.1 AI Embedded（嵌入式 AI）

🔷AI 被藏在功能里面，用户感知不到 AI 的存在。不需要用户写 Prompt，不需要对话，就像普通功能一样自动运行。

输入法自动纠错

打字 → 自动修正
背后其实是 LLM / NLP

电商推荐

打开页面 → 推荐商品
AI 在后台算

3.2 AI Copilot（助手 AI）

🔷AI 作为助手，由用户主导，AI只起到辅助作用。特点：

以对话/提示为主
用户发起任务
AI 提供建议或生成内容
不会自动执行关键操作，最终将由用户决定

3.3 AI Agent（智能体 AI）

🔷AI 并不只是建议，而是根据用户的Prompt自己去完成任务。特点：

👍可以自动执行任务
多步骤决策
会调用工具（Function Calling / MCP）
可以循环执行（plan → act → observe）

例如用户要求AI：帮我整理桌面 txt 文件，按日期分类，然后打包，Agent 会：

扫描文件
分类
创建目录
移动文件
压缩

AI 专有名词释义

目录