尽管Coursera、MIT和UC伯克利提供了很多机器学习课程,包括吴恩达等专家的经典课程,但这些课程主要是针对具备一定理科背景的专业人士。本文尝试以更加通俗易懂的方式讲解机器学习,让没有理科背景的读者也能理解。
将复杂的概念简化,以便非专业人士快速掌握,并且能够有所顿悟,是一项强大的技能。举例来说,如果你正在应聘机器学习工程师职位,面对的是文科背景的HR,能够在短时间内清晰地展示你的专业能力,将大大提高面试的成功率。
目前,机器学习领域非常火热,但很多人却感到困惑。因为大多数人难以理解机器学习的具体用途以及一些晦涩难懂的概念,如逻辑回归、梯度下降等。
一位药学专业的学生在参加机器学习培训课程时,感觉自己就像一个不懂现代科技的家庭主妇。于是,一位名叫Audrey Lorberfeld的毕业生决定尝试填补普通人与机器学习之间的知识鸿沟,从而产生了这一系列文章。
在深入了解机器学习之前,我们需要先弄清楚两个基本概念:算法和模型。可以把模型想象成一个自动售货机,输入货币,输出饮料。算法则是用来训练这个模型的方法,模型根据输入作出相应的决策。例如,根据投入的金额和饮料的价格,判断是否足够购买,如果有剩余,则计算应找回的钱数。
总的来说,算法是模型背后的核心动力。没有模型,算法只是一个数学公式。不同的模型取决于使用的不同算法。
梯度下降是一种优化技术,虽然通常不被视为机器学习算法的一部分,但它在理解众多机器学习算法及其优化方式方面起着重要作用。梯度下降帮助我们根据数据找到最精确的预测。
例如,你有一份包含每个人身高和体重的数据表。你可以通过绘制一条线来找出身高与体重之间的关系。这条线能很好地描述身高和体重之间的关系。例如,身高1.5米的人体重大约为60公斤。那么这条线是如何找到的呢?答案是梯度下降。
梯度下降涉及一个概念叫RSS(残差平方和),它是点和线之间的差异平方和。梯度下降的目标是找到RSS的最小值。通过可视化每次为这条线寻找的不同参数,我们得到一个称为成本曲线的东西,其最低点即为RSS的最小值。
梯度下降还涉及到一些细分领域,如步长和学习率,即我们选择的方向。
总之,我们通过梯度下降找到数据点和最佳拟合线之间的最小空间,而最佳拟合线是我们进行预测的基础。
线性回归是一种分析一个变量与其他一个或多个变量(自变量)之间关系强度的方法。线性回归的标志在于自变量与结果变量之间的关系呈直线形态。
例如,我们可以用线性回归来分析纽约州降雨量与海拔之间的关系。结果变量是降雨量,自变量是海拔。如果结果变量是非连续的,我们无法进行有效的预测。但如果是连续的,我们就可以预测在任意海拔下的降雨量。
线性回归之后,还有更为高级的回归方法,如岭回归。在了解岭回归之前,需要先了解正则化。正则化是一种确保模型只关注对结果变量有显著影响的自变量的技术。
然而,正则化并不意味着忽略那些对结果影响不大的自变量。正则化可以帮助避免模型过度拟合训练数据,导致在新数据上表现不佳的问题。
过拟合的一个例子是,一个新妈妈为了宝宝能愉快地吃面条,形成了打开窗户、穿围裙、狗在旁边等习惯。当她面对新的环境时,这些习惯反而成了障碍。通过正则化,我们可以去除不必要的因素,让模型专注于真正有用的数据。
岭回归(L2回归)通过惩罚变量系数的平方和来减少自变量的系数,但不完全消除它们。LASSO回归(L1回归)则只惩罚高系数特征,并可能将某些特征的系数降至零,从而从数据集中删除这些特征。
逻辑回归用于处理结果变量为分类的情况。与线性回归不同,逻辑回归的输出不是具体的数值,而是某一事件发生的概率。
例如,假设一个班级中女生通过考试的概率是5:1,而男生通过考试的概率是3:10。逻辑回归模型输出的是一个概率值,而不是具体的数值。
逻辑回归中的关键概念是“比值”和“对数比值”。比值是事件发生的次数与事件不发生的次数的比率。对数比值是比值的自然对数,有助于将输出转换到0到1之间,便于模型预测。
逻辑回归的核心是通过最大似然估计(MLE)来找到最能描述数据的概率分布参数,从而提供最准确的预测。
通过本文的介绍,我们已经了解了梯度下降、线性回归、逻辑回归等基础知识。下一讲将由Audrey继续讲解决策树、随机森林和SVM等内容。