在以字母K开头的术语中，人工智能领域呈现出三条截然不同却又彼此呼应的知识脉络：K-Means Clustering（K均值聚类）将无监督学习的分组问题转化为一个迭代优化的几何过程；K-Nearest Neighbors（K最近邻）则将监督学习的决策建立在对邻近样本的“投票”之上，不进行显式训练；而Knowledge Graph（知识图谱）跳出了数值空间，将世界的实体与关系编码为结构化的符号网络，使机器能够进行逻辑推理与语义查询。这三个概念分别代表了聚类、分类与知识表示三个核心领域中最具标志性的思想，它们共同揭示了机器学习从连续数值空间到离散符号空间的广阔方法论光谱。
一、K-Means Clustering：几何驱动的无监督分组
K-Means Clustering（K均值聚类）是一种最经典且应用最广泛的划分式聚类算法。其目标十分直观：将n个数据点划分到预先指定的K个簇中，使得每个数据点所属簇的簇内平方和（Within-Cluster Sum of Squares，WCSS）最小化。换句话说，它试图找到一种分组方式，使得簇内样本尽可能相似，簇间样本尽可能相异。
算法的数学表述如下：给定数据集X={x1,x2,…,xn}X = \{\mathbf{x}_1, \mathbf{x}_2, \dots, \mathbf{x}_n\}X={x1,x2,…,xn}，K-Means的目标是最小化：
∑i=1K∑x∈Ci∥x−μi∥2 \sum_{i=1}^{K} \sum_{\mathbf{x} \in C_i} \|\mathbf{x} - \boldsymbol{\mu}_i\|^2i=1∑Kx∈Ci∑∥x−μi∥2
其中CiC_iCi表示第i个簇的样本集合，μi\boldsymbol{\mu}_iμi是该簇的均值向量（即质心）。这个优化问题是NP难的，但Lloyd提出的迭代启发式算法在实践中高效且几乎总能收敛到一个良好的局部最优解。其步骤简洁明了：
- 初始化：随机选择K个数据点作为初始质心。
- 分配步骤：将每个数据点分配给距离最近的质心所属的簇。
- 更新步骤：将每个簇的质心重新计算为该簇所有点的均值。
- 重复：交替执行分配与更新步骤，直到质心不再变化或达到预设的最大迭代次数。
K-Means的简洁性掩盖了其背后几个关键的设计选择。K值的选择是最重要的超参数，通常借助肘部法则（观察WCSS随K增加的下降曲线，寻找"拐点"）或轮廓系数来确定。距离度量默认为欧几里得距离，这使得K-Means倾向于发现各向同性的球形簇；对于非球形分布或不同密度的簇，K-Means表现不佳。初始质心的选择对最终结果影响显著，K-Means++初始化策略通过让初始质心尽可能远离彼此，显著提升了收敛质量与速度。
在人工智能实践中，K-Means的应用极为广泛：客户分群与市场细分、图像压缩中的颜色量化、文档聚类与主题发现、异常检测中识别偏离正常簇的孤立点、以及作为深度学习中特征表示质量的评估手段。尽管深度学习催生了更强大的无监督方法，K-Means因其可解释性强、计算效率高、易于实现等优点，至今仍是探索性数据分析与基线模型的首选工具。
二、K-Nearest Neighbors：记忆驱动的监督推理
与K-Means的无监督聚类不同，K-Nearest Neighbors（K最近邻，KNN）是一种监督学习算法，可用于分类与回归。它的哲学极度朴素：判断一个未知样本的属性，只需观察它在特征空间中最近的K个已知邻居，由它们"投票"决定。KNN没有传统的训练过程——它不学习一个显式的参数化模型，而是直接"记住"整个训练集，待到预测时再查询临近点。因此，它被称为懒惰学习或基于实例的学习。
对于分类问题，给定查询点xq\mathbf{x}_qxq，KNN找到训练集中距离它最近的K个点NK(xq)\mathcal{N}_K(\mathbf{x}_q)NK(xq)，然后根据这些邻居的类别标签进行多数投票：
y^q=argmaxc∑i∈NK(xq)1(yi=c) \hat{y}_q = \arg\max_{c} \sum_{i \in \mathcal{N}_K(\mathbf{x}_q)} \mathbf{1}(y_i = c)y^q=argcmaxi∈NK(xq)∑1(yi=c)
对于回归问题，通常取邻居标签的平均值或加权平均值作为预测结果。
KNN的性能高度依赖三个核心要素。K值的选择是关键：K太小会使决策边界崎岖不平，对噪声高度敏感，容易过拟合；K太大则使边界过度平滑，可能掩盖局部结构，导致欠拟合。通常通过交叉验证选择最优K。距离度量同样举足轻重：欧几里得距离适用于连续特征，曼哈顿距离在某些高维场景更稳健，汉明距离用于分类特征，余弦相似度常用于文本向量。特征缩放是KNN的强制性前提，因为距离计算会直接受量纲影响——未标准化的特征会使某些维度主导距离计算结果，扭曲近邻关系。
KNN的适用场景与局限同样鲜明。它的优点在于无需训练时间、理论简单、天然支持多分类，且决策边界可以形成任意复杂形状。然而其致命弱点是计算成本：每次预测都需要扫描全部训练数据，在大规模数据集上推理缓慢。对此，KD树、球树等空间索引结构可在低维情况下加速近邻搜索，但在高维数据中效率急剧下降（维度灾难）。此外，KNN对不相关特征与噪声敏感，且缺乏特征重要性的直接输出。
在实践应用中，KNN常用于推荐系统中的协同过滤、手写数字识别等小规模图像分类、异常检测，以及作为深度学习模型的基线对比。它的非参数特性使其在数据分布复杂、难以显式建模的场景中仍有独特价值。
三、Knowledge Graph：符号化的世界模型
Knowledge Graph（知识图谱）代表了一种截然不同的信息组织范式。它不再将数据表示为无结构的数值向量，而是将现实世界的实体、概念及其相互关系编码为结构化的符号网络。从数学上看，知识图谱是一个有向标签图，其中节点代表实体（如"巴黎"“法国”“埃菲尔铁塔”），边代表实体间的关系（如"巴黎"与"法国"之间有一条标记为"首都"的有向边）。这种三元组结构（头实体，关系，尾实体）构成了知识图谱的基本单元。
2012年，Google正式提出"Knowledge Graph"这一术语，并将其嵌入搜索引擎，从此知识图谱从学术概念走向工业级应用。在用户搜索"达芬奇"时，搜索结果右侧不再仅是链接，而是一个信息卡片，展示其生卒日期、代表作《蒙娜丽莎》、国籍意大利等结构化信息，这些正是知识图谱中该实体节点所连接的关系片段。
知识图谱的构建通常涉及多个阶段。信息抽取从非结构化或半结构化文本中提取实体和关系，命名实体识别与关系抽取是核心技术。实体消歧与共指消解解决同名异义和同义异名问题，将文本中提及的"华盛顿"链接到正确实体（总统还是城市）。知识融合则将多个异构数据源的知识合并，消除冲突与冗余。最终，知识图谱以RDF三元组、图数据库等形式存储，支持基于SPARQL等查询语言的复杂推理。
在人工智能系统中，知识图谱扮演着举足轻重的角色。它为推荐系统提供基于关系的解释能力（如"推荐这部电影是因为你喜欢的导演也执导了它"），为问答系统与对话系统提供事实性知识的支撑，为搜索引擎提供结构化语义理解。更重要的是，知识图谱与表示学习相结合催生了知识图谱嵌入，将实体和关系映射到连续向量空间，使逻辑推理转化为向量运算，在链接预测、知识补全等任务上取得了突破。大规模语言模型虽展现了强大的知识记忆能力，但其事实准确性与可溯源性仍是短板，而知识图谱作为一种精确、可解释、可编辑的知识库，正日益被视为弥补这一短板的关键组件。
四、数值空间与符号空间的汇聚
将K组的三个概念并置，可以看到机器学习在方法论光谱两端的两个极端——以及正在发生的融合趋势。K-Means与KNN完全在连续数值空间中操作，依赖距离度量来捕捉模式，分别代表了无监督分组与监督推理的最简实现；Knowledge Graph则扎根于离散符号空间，用结构化关系表达知识，追求逻辑的精确性与可解释性。前者善于处理感知与模式匹配，后者长于推理与知识组织。当下人工智能的前沿发展，如知识增强的预训练模型、图神经网络在知识图谱上的应用、以及基于嵌入的逻辑推理，正致力于将这两个世界的优势融为一体——让机器既能从海量数据中自动学习统计规律，又能运用结构化的知识进行可解释的推理。K组的这三个术语，恰好为我们理解这一融合趋势提供了三个清晰的支点。
