1. 为什么要学？ 老师上课时候就说过：传统算法解决确定性问题，而机器学习解决非确定性问题。 好吧，确实激起了我的兴趣，所以系统学习一下吧。 文章图片来源于 GitHub，网速不佳的朋友请点我看原文。 顺便软广一下个人技术小站：godbmw.com。欢迎常来♪(^∇^*) 2. 机器学习算法 机器学习算法和普通算法还是有很大区别的。它不要求百分之百准确，并且对数学要求较高。 我认为重点有几下 4 点： 理解算法原理 应用实际场景 进行对比试验 不同算法对比 同一算法不同参数对比 难点有几下几点： 如何评价算法好坏 解决拟合和过拟合 如何正确调参 如何验证算法正确性 3. 可以解决什么问题？ 有些算法既可以处理分类、也可以处理回归任务，而在一些情况下，回归任务可以简化为分类任务，以方便问题解决。 3.1 分类任务 常见的有分类任务有 2 分类和多分类任务，并且两者之间可以转化。 比如 AlphaGo 下围棋，可以理解成一个多分类任务：因为是在选择棋盘上的落子点。除此之外，推箱子游戏：可能有 2-4 个方向提供选择，也可以理解成分类任务。 3.2 多标签分类 而在 ML 前沿领域，实现了多标签分类：不再单纯的是一个分类，而是拥有多个标签。 例如下面这张含有多个标签的图片，多标签会让机器对它的定位更准确： 3.3 回归任务 机器获得结果是一个连续的数字的值，而不是一个类别。连续的值可以划分为无限多个小的点（可以理解成无限多个类别），又怎么能处理成类别呢。 4. 算法分类 4.1 监督学习 交给算法的训练数据已经被打了“标签”，或者已经给出了分类。训练后的算法可以给新的数据打标签或者分类。 因此，监督学习的训练数据需要大量的人力来进行标记。 当然，在一些领域已经积累了一些被标记的数据信息，例如大型博客平台，对每篇博客都有分类和标签。这种时候，监督学习的人力成本基本就是 0 了。 4.2 非监督学习 给机器的训练数据没有任何“标签”，或者分类。训练后的算法仍然可以给新的数据打标签或者分类。 经常听到的算法，就有聚类分析，比如每个用户都被电商平台划分到某一用户群体。 另一个非常重要的用途，是对数据进行降维处理： 特征提取：提取重要的特征，去除不重要的特征。防止噪声影响特征提取。 特征压缩：在保证数据信息不被过多损害的情况下，将高维向量压缩成低维向量，例如 PCA 算法。在保证稳定性的情况下，提高处理速度。 另一个非常重要的用途：异常检测。如下图所示。以方便算法发现一般性特征和规律。 4.3 半监督学习 一部分数据有“标签”或分类，另一部分并没有。 此时，一般通过无监督学习手段对数据进行处理，之后使用监督学习做模型的训练和预测。 4.4 增强学习 根据周围环境，采取行动，再根据行动结果，改善学习行动方式。 如下图所示，agent 使我们的算法，当他执行后，会根据环境反馈来执行奖赏或者惩罚，再改进行为模式。循环往复。 而 AlphaGo、自动驾驶等前言机器人，都使用了增强学习。 5. 更多算法分类 5.1 批量学习和在线学习 批量学习是指：算法一旦根据数据训练出模型后，不会接受新的数据来优化模型。在线学习是指：算法运行的过程中，也会把吸收新数据进行模型训练。 优缺点显而易见，前者更省心，但是无法适应数据快速变化的场景；后者可以及时针对不同的数据来优化模型，但是容易受到新数据中垃圾数据影响。 5.2 非参数学习和参数学习 参数学习是给出数据模型，剩下的工作就是利用算法找出最合适参数。比如假定数据点符合y = ax + b的模型，剩下工作就是用最小二乘法之类的算法找到(a,b)的最优解。 非参数学习相反，不对模型进行过多假设，不将问题理解成学习一些参数。 5. 学习资料 在线课程： Python3 入门机器学习 经典算法与应用https://www.cnblogs.com/geyouneihan/p/9664995.html