人工智能入门100讲:机器学习神经网络之一感知器学习规则
作者头像
  • 李静
  • 2020-05-11 14:12:06 7

人工智能的学习其实并不难,跟随我的讲解,相信你会掌握得更快。本专栏《100节课带你从小白入门人工智能》结合多年的教学经验和精心编撰的内容,堪称“人工智能的百科全书”。涵盖的主题包括人工智能的历史、搜索方法、知情搜索、博弈中的搜索、人工智能中的逻辑、知识表示、产生式系统、专家系统、机器学习和神经网络、遗传算法、自然语言处理、自动规划、机器人技术、高级计算机博弈以及人工智能的未来展望。即使对人工智能一无所知的人也能轻松入门。

小复习

在上一章节中,我们探讨了人工智能入门100讲中的机器学习、人工神经网络与生物神经网络之间的关系。如果你想回顾相关内容,请查看上一节。


人工智能的基础之一是神经网络。神经网络中的基本单元被称为神经元,其中一种抽象模型称为阈值逻辑单元(TLU)。TLU的工作原理类似于二进制开关,可以根据输入值的不同输出不同的结果。

例如,假设一个TLU有两个输入,输入值分别为(1,1,0)和权重向量(0.5,1.0,1.2)。根据这些参数,可以计算出TLU的输出结果。神经元的激励可以通过这种方式来决定。


神经网络中的输入通常称为模式。当输入限制在二进制值时,图中的TLU有四种可能的输入模式:(0,0)、(0,1)、(1,0)和(1,1)。所有可能的输入模式构成了所谓的模式空间。

图11.14展示了TLU的模式空间,图11.15则展示了每个输入模式对应的输出。通过观察,我们可以发现,这个TLU表现出了与(AND)门的功能。输入形式的集合称为形式类。图11.15表明,当输入为(0,0)、(0,1)或(1,0)时,输出为0;当输入为(1,1)时,输出为1。我们将前者称为形式类0(C0),后者称为形式类1(C1)。在图11.14中,C0的成员用空心圆点表示,而C1的成员用黑色实心圆点表示。直线将两个形式类分隔开来。


接下来,我们将探讨感知器学习规则。感知器是一种能够通过训练学习的神经网络模型。感知器的学习规则可以帮助我们调整权重,从而使网络能够正确分类输入。

通过观察图11.18中的两个TLU,我们可以发现,通过将阈值视为另一个权重,可以使模型更加灵活。图11.19展示了TLU在产生错误输入时的情况。图11.20给出了感知器学习规则的伪代码。

示例11.1:用感知器学习规则训练TLU,学习双输入或(OR)函数。

图11.22展示了感知器学习规则使用的表格,图11.23则展示了在经过一个训练周期后参数的变化。图11.24展示了完整的感知器训练程序。训练需要四个周期。在第三个周期时,我们找到了正确的权重,但为了验证这些值是否正确,还需要额外的周期。

图11.25展示了训练过程中的四个阶段的判别式。在图11.25(d)中,判别式正确地将形式类0与形式类1分开。C0中的所有点都在判别式之下,而C1中的所有点都在或高于这条直线。


我们之前提到过,当形式类是线性可分时,感知器学习规则能够成功收敛并生成判别式。使用两个变量的布尔函数有16种,除了两种以外,其余都是线性可分的。一种无法线性分离的函数是双输入异或(XOR)函数。为了方便起见,图11.27(a)再现了这个函数。

图11.27(b)展示了双输入异或函数的形式空间。形式类0由(0,0)和(1,1)组成,形式类1由(0,1)和(1,0)组成。显然,无法用一条直线将这两个形式类分开。因此,在训练这种函数时,感知器学习规则将陷入循环。然而,这并不意味着感知器没有用武之地。我们可以通过多层网络来解决这个问题,这将在后续章节中讨论。


获取专栏答案的方式

关注我,私信获取更多详细信息。


希望这些内容对你有所帮助!如果你还有其他问题或需要更多信息,请随时联系我。

    本文来源:图灵汇
责任编辑: : 李静
声明:本文系图灵汇原创稿件,版权属图灵汇所有,未经授权不得转载,已经协议授权的媒体下载使用时须注明"稿件来源:图灵汇",违者将依法追究责任。
    分享
学习神经网络人工智能感知入门机器规则之一100
    下一篇