kNN
理解距离度量、近邻决策、kd 树与 sklearn 实战。
本专题条目
4 篇文章与资料
01
01. k-近邻算法概述k 近邻 (k Nearest Neighbor, 简称 kNN)是一种常见的监督学习算法,它是 Cover T 和 Hart P 在 1967 年提出的一种既可以用于分类,也可以用于回归的学习方法。它的工作原理非常简 …
Notebook
02
02. 距离度量方法在前一节中,我们学习了 kNN 算法就是要找到距离输入样本最近的 k 个样本,然后再通过多数表决规则进行分类。那么这里的距离应该如何定义? 我们在中学时就学过怎么计算平面几何中(二维空间)两点之间的距离: 如上图所示, …
Notebook
03
03. k-近邻的算法实现:kd 树根据前面的学习,我们知道实现 k 近邻算法的关键就是如何找到距离某个样本最近的 k 个样本。最简单的实现方法是线性扫描(linear scan),或者叫做暴力搜索,也就是依次计算输入样本和每个训练样本的距离,不过当训练集 …
Notebook
04
04. sklearn 实战 k-近邻算法这一节我们使用 sklearn 自带的鸢尾花数据集来实现 kNN 算法,和前面一样,我们只取数据集中的两个维度: 使用 sklearn 的 kNN 算法和 sklearn 的其他算法流程是一样的:首先定义分类器(在这里分 …
Notebook