机器学习的算法和普通《算法导论》里的算法有什么本质上的异同?
作者头像
  • 南方都市煲
  • 2019-10-04 06:38:47 8

机器学习算法和经典算法虽然都涉及算法策略,但在本质上有显著的区别。尽管两者都运用了诸如决策树、最短路径和动态规划等策略,但机器学习算法更注重处理不确定性问题。这种差异主要体现在它们解决问题的方式和目标上。

经典算法通常旨在解决明确的问题,即那些具有确定解法的问题。例如,通过图灵机可以明确地定义一个问题的解决方案。这类算法关注的是如何高效地找到问题的最优解。然而,机器学习算法则面对的是不确定性更大的问题。这些问题往往无法通过直接的方法获得精确答案,因为算法的输入通常是有限的样本数据,而真实的误差情况未知。因此,机器学习算法需要通过概率方法来猜测问题的真实情况,并在此基础上进行求解。

这种区别导致了机器学习算法的独特之处在于它们引入了归纳偏置的概念。归纳偏置是指在有限的数据下,算法用来推测未知情况的策略。不同类型的机器学习算法采用不同的归纳偏置策略,这些策略决定了算法如何处理问题以及如何定义问题。这正是机器学习研究的核心所在。

机器学习的研究经常围绕三个关键方面展开:“表示”、“评价”和“优化”。其中,“表示”指的是数据和模型的形式,如数据结构和模型类型。“评价”定义了理想模型的标准。“优化”则是实现学习过程的具体方法。尽管机器学习算法在优化技术上有所应用,但它们的独特之处在于“表示”和“评价”的部分,这部分决定了机器学习系统的泛化能力。不同的“表示”和“评价”方法直接影响了问题的定义方式,从而影响优化的目标。

综上所述,经典算法是在已知且适定的问题下寻找解决方案,而机器学习算法则在不确定和病态的问题下重新定义并解决这些问题。机器学习不仅关注如何解决问题,还关注如何定义问题本身。这一过程涉及对不确定性的处理和归纳偏置的应用,这些都是机器学习的核心特点。

    本文来源:图灵汇
责任编辑: : 南方都市煲
声明:本文系图灵汇原创稿件,版权属图灵汇所有,未经授权不得转载,已经协议授权的媒体下载使用时须注明"稿件来源:图灵汇",违者将依法追究责任。
    分享
算法异同导论本质机器普通学习什么
    下一篇