多层感知器的机器学习之讨论
作者头像
  • 李建鑫
  • 2019-10-04 12:54:54 6

多层感知器的训练过程采用反向传播误差算法,通过迭代调整网络参数,使输入样本的标记与对应的输入节点类别判断的平均误差最小化。该算法源自最小二乘法。经过多次迭代,准确率可以达到预期水平。利用调整好的神经网络来识别新的手写数字,预测准确率也能超过90%。

值得注意的是,这个数学模型——即神经网络的功能——是通用的。同样的神经网络可用于识别手写数字,也可以用于评估债券等级。对于债券评级,需要提供描述债券特征的训练样本。同样,同一算法可以通过不同的训练数据赋予机器不同的知识和智能。机器的学习能力,或者说智能,主要取决于数学模型处理数据的能力。参数越多,表达能力越强。

通常情况下,这种数学模型通过简单的线性函数和非线性函数组合来表示数值规律和类别划分,其中线性函数的参数量可以达到数万至数百亿。尽管模型本身简单,但由于参数众多,能够实现复杂的功能,覆盖各种预测和识别任务。在数学上,通过调整模型参数来减少误差和进行预测的算法是有效且精确的。然而,由于变量数量庞大,难以分析每个步骤的转换规则,因此无法像物理学那样简单清晰地总结因果关系,难以用直观的方式理解其功能。

或许有人会认为,既然计算机中的软件是人为编写的,机器不过是执行预定功能,那么机器学习又如何解释?

这种观点混淆了人赋予的功能和机器自主获得的功能。20世纪50年代的感知器完全是硬件实现的机器学习,当时并不依赖计算机或软件。当时使用了400个光学传感器及电动机、滑动电阻和控制电路等设备来构建感知器,使其能够识别简单的图像,如猫、狗和鱼。这个感知器相当于神经网络中的单个神经元。现代神经网络包含数千万个神经元,能够完成非常复杂的识别任务,而计算机和软件只是模拟神经网络硬件功能的一种手段。当前的训练样本也是由人类提供的,但机器可以通过传感器和网络自行收集样本数据,理论上并无不可克服的障碍。例如,自动驾驶汽车的机器学习就通过记录车速、油门、刹车、方向盘角度和道路情况等数据作为训练样本。尽管如此,机器的学习能力确实是由人赋予的,但赋予的只是学习能力,机器通过训练样本自主获取专业知识和由此产生的智能。这就像人类一样,孩子是父母生养的,但知识和能力则是通过学习获得的。

    本文来源:图灵汇
责任编辑: : 李建鑫
声明:本文系图灵汇原创稿件,版权属图灵汇所有,未经授权不得转载,已经协议授权的媒体下载使用时须注明"稿件来源:图灵汇",违者将依法追究责任。
    分享
习之多层感知机器讨论
    下一篇