机器学习(Machine Learning,简称ML)作为一门多领域交叉学科,融合了概率论、统计学、逼近论、凸分析、算法复杂度理论等众多学科知识,核心目标是让计算机模拟乃至实现人类的学习行为,从而获取新知、重组知识结构,持续提升自身性能。它的主要分支涵盖模式识别、计算机视觉、语音识别、统计学习以及自然语言处理等热门方向。
在人工智能(AI)研究中,机器学习属于相对年轻但发展迅猛的分支,通常分为监督学习和无监督学习两大类。随着AI持续升温,深度学习已逐渐成为机器学习领域内一个极具活力的全新研究方向。
机器学习,从知识清单开始
学开车的第一天,没人会直接让你上路——总得先熟悉基本知识,再上模拟器。机器学习入门也是如此。只有对整体知识体系形成全面认知,未来工作中遇到实际问题时才能快速定位,找到对应的解决方案。
这里为你列出一份机器学习入门必备的知识清单,涵盖机器学习的一般流程、十大经典算法以及算法学习的三重境界,帮你开启这段学习之旅。
一、机器学习的基本流程

引用一段经典定义:
A computer program is said to learn from experience E with respect to some task T and some performance measure P, if its performance on T, as measured by P, improves with experience E. — Tom Mitchell
简单来说,机器学习就是针对现实问题,利用输入数据对算法进行训练,训练后生成一个能够捕捉当前问题规律的模型。随后将模型导入新数据进行评估,根据结果好坏反向调整算法,形成反馈与优化的闭环。整个过程机器在不断学习、训练和迭代,这也正是机器学习强大能力的核心所在。
二、机器学习的十大算法
为了完成机器学习和数据挖掘任务,数据科学家们提出了多种模型。在众多模型中,国际权威学术组织ICDM(IEEE International Conference on Data Mining)评选出了十大经典算法。按照不同目的,这些算法可以分为四类,便于理解。
分类算法:C4.5,朴素贝叶斯(Naive Bayes),SVM,KNN,Adaboost,CART
聚类算法:K-Means,EM
关联分析:Apriori
连接分析:PageRank
1. C4.5
C4.5算法得票最高,堪称十大算法之首。作为决策树算法,它在构造过程中创造性地引入了剪枝操作,还能处理连续属性以及不完整数据,在决策树分类领域具有里程碑式的意义。
2. 朴素贝叶斯(Naive Bayes)
朴素贝叶斯基于概率论,核心思想是:对未知物体进行分类时,计算该物体出现条件下各个类别出现的概率,概率最大的类别即被视为该物体的归属。
3. SVM
SVM中文全称为支持向量机(Support Vector Machine)。它在训练过程中建立一个超平面,以此构建分类模型。
4. KNN
KNN(K-Nearest Neighbor)即K最近邻算法。每个样本都可以用与其最接近的K个邻居来代表——如果一个样本的K个最近邻居都属于分类A,那么该样本也归属于分类A。
5. AdaBoost
Adaboost在训练中构建一个联合的分类模型。“boost”意为提升,Adaboost是一种提升算法,能够将多个弱分类器组合成一个强分类器,是常用的分类算法之一。
6. CART
CART(Classification and Regression Trees)代表分类和回归树。它构建了两棵树:一棵分类树,一棵回归树。与C4.5一样,属于决策树学习方法。
7. Apriori
Apriori是一种挖掘关联规则的算法,通过挖掘频繁项集(frequent item sets)揭示物品之间的关联关系,广泛应用于商业挖掘和网络安全等领域。频繁项集指经常一起出现的物品集合,关联规则则暗示物品之间可能存在较强的关系。
8. K-Means
K-Means是聚类算法。可以这样理解:想把物体划分成K类,每个类别都有一个“中心点”(相当于意见领袖)。新点需要归类时,只需计算它到K个中心点的距离,距离哪个近就归入哪个类别。
9. EM
EM算法也叫最大期望算法,是求参数最大似然估计的一种方法。原理是:假设要评估参数A和B,两者均未知,但知道A的信息就能得到B,反之亦然。可以先赋予A某个初值,据此得到B的估值,再从B的估值重新估计A,如此迭代直到收敛。EM常用于聚类和机器学习领域。
10. PageRank
PageRank起源于论文影响力的计算:一篇论文被引用的次数越多,影响力越强。Google将其创造性地应用到网页权重计算中——一个页面链出的页面越多,说明它“参考文献”越多;被链入的频率越高,说明被引用的次数越高。基于此原理可以划分网站权重。
算法是机器学习的灵魂,也是最精华的部分。这10个经典算法在整个机器学习领域得票最高,后来的许多算法基本都是在它们基础上改进和创新。今天先对十大算法有初步了解,做到心中有数即可。
三、机器学习的三大境界
1. 掌握算法入口与出口
第一重境界:将算法本身视为黑箱,虽然不知道具体原理,但能掌握算法的基本应用场景(有监督/无监督),会调包实现算法。
2. 理解原理,灵活调优
第二重境界:深入了解并掌握算法原理,明白实践过程中的关键技术和核心参数,最好能用编程语言手动实现算法,能解读执行结果,并在理解原理的基础上通过调参优化算法。
3. 融会贯通,设计算法
第三重境界:算法(研发)工程师的主要任务——结合业务场景和自身数学基础进行有针对性的算法研发。不仅需要扎实的算法原理知识,也需要扎实的编程能力。
总结
今天列出了学习机器学习需要掌握的知识清单。只有对流程、算法、原理有更深的理解,才能在实际工作中更好地运用。祝你在机器学习的路上越走越远。
