效果评估算法和kNN 让我们回到上一章中运动项目的例子。 在那个例子中，我们编写了一个分类器程序，通过运动员的身高和体重来判断她参与的运动项目——体操、田径、篮球等。 上图中的Marissa Coleman，身高6尺1寸，重160磅，我们的分类器可以正确的进行预测： 对于身高4尺9寸，90磅重的人： 当我们构建完一个分类器后，应该问以下问题： 分类器的准确度…

第四章：分类 在上几章中我们使用用户对物品的评价来进行推荐，这一章我们将使用物品本身的特征来进行推荐。这也是潘多拉音乐站所使用的方法。 内容： 潘多拉推荐系统简介 特征值选择的重要性 示例：音乐特征值和邻域算法 数据标准化 修正的标准分数 Python代码：音乐，特征，以及简单的邻域算法实现 一个和体育相关的示例 特征值抽取方式一览 根据物品特征进行分类 前…

机器学习中存在各种不同的分类模型，如逻辑回归、决策树、朴素贝叶斯和支持向量机等。评估不同分类模型性能的方法是相通的。

对于不平衡数据集，一般的分类算法都倾向于将样本划分到多数类，体现在模型整体的准确率很高。

决策树 (又称判定树，Decision Tree)是硕、博士生数据挖掘课程要点和难点，教学实践表明，这一章需要数学基础知识多，难得有趣。明知是难点，偏向难点行，再难也要“趣味”一番，从课程PPT中取了一些素材，把漫谈的焦点选在了水泊梁山。

故事中没有月亮、云朵和晚风，却有关于数据挖掘中的分类技术的启示；虽然，现在不再分福利房了，但此故事既回顾历史，也解释了分类技术若干要点，有参考价值。

摘要：决策树是一种通过对历史数据进行测算实现对新数据进行分类和预测的算法。简单来说决策树算法就是通过对已有明确结果的历史数据进行分析，寻找数据中的特征。并以此为依据对新产生的数据结果进行预测。 决策树由3个主要部分组成，分别为决策节点，分支，和叶子节点。其中决策树最顶部的决策节点是根决策节点。每一个分支都有一个新的决策节点。决策节点下面是叶子节点。每个决策节…