k-近邻算法

k-近邻算法(kNN)采用测量不同特征值之间的距离方法进行分类。

使用数据范围:数值型和标称型。
优点:精度高、对异常值不敏感、无数据输入假定。
缺点:计算复杂度高、空间复杂度高。

k-近邻算法的一般流程:

  1. 收集数据。
  2. 准备数据:格式化数据格式、归一化。
  3. 分析数据。
  4. 训练算法:不适用于k-近邻算法。
  5. 测试算法:计算错误率。
  6. 使用算法。

实施步骤:

对未知类别属性的数据集中的每个点依次执行以下操作:

  1. 计算已知类别数据集中的点与当前点之间的距离;
  2. 按照距离递增次序排序;
  3. 选取与当前点距离最小的k个点;
  4. 确定前k个点所在类别的出现频率;
  5. 返回前k个点出现频率最高的类别作为当前点的预测分类。

发表评论

电子邮件地址不会被公开。 必填项已用*标注