人工智能入门其实并不困难，通过交流，相信你能事半功倍。我们的专栏《100节课带你从小白入门人工智能》融合了多年的教学经验，内容详尽，堪称“人工智能的百科全书”。涵盖的主题包括人工智能简史、搜索方法、知情搜索、博弈中的搜索、人工智能中的逻辑、知识表示、产生式系统、专家系统、机器学习和神经网络、遗传算法、自然语言处理、自动规划、机器人技术、高级计算机博弈以及人工智能的历史与未来等。即使是毫无基础的初学者也能轻松掌握。

小复习

在上一章节中，我们探讨了机器学习和神经网络如何恰当地表示数据。如果你想回顾上一节的内容，可以自行查阅。

11.7 圆满型霍普菲尔德网络

本节将介绍由诺贝尔物理学奖得主约翰·霍普菲尔德提出的圆满型霍普菲尔德网络。这种网络与能量函数紧密相关。霍普菲尔德网络总能找到能量函数的局部最小值。它是一种联想网络，能够在组合优化和NP完全问题上找到近似解决方案，从而证明其广泛的应用价值。

联想网络分为自联想和异联想两种类型。自联想网络用于检索被扭曲或部分丢失的输入。自联想网络的一个应用实例如图所示。

人们通常使用赫布学习规则来训练联想网络。赫布认为，当两个神经元在同一任务中同时活跃时，它们之间的联系会增强。对于输入神经元x1和yj，赫布学习规则规定权重更新公式为Δwij = αx1yj。赫布学习规则的具体应用可以在劳伦·V·法塞特的《神经网络基础》中找到。

上过“开关理论”课程的人会发现，这种网络类似于能记住一些输入的时间电路。

圆满型霍普菲尔德网络是一种具有反馈的自联想网络，或者说是一种递归的自联想网络。在时间t的网络输入就是时间t+1的系统输入。然而，这种网络中不存在自循环。

圆满型霍普菲尔德网络具有以下特性：

1. 网络中的每个单元都与其他单元相连，但不与自身相连。
2. 网络是对称的：∀i, j, wij = wji。
3. 每个单元可以假定为+1或-1。
4. 一次只更新一个单元，选择是随机的。
5. 要使网络达到稳定状态，必须满足以下条件：

圆满型霍普菲尔德网络的一个例子是拥有两个单元的网络，如图所示。

在两个单元的网络中，单元内的数字代表单元的阈值。因此，θ1 = θ2 = 0。此外，w12 = w21 = -1。假设网络初始化为x1 = 1 和 x2 = -1。单元1的激励是x2 * w21 = (-1) * (-1) = 1。由于激励大于单元阈值，单元1保持在状态x1 = 1。同时，单元2经历了激励x1 * w12 = (1) * (-1) = -1。因为激励小于阈值θ2 = 0，单元2保持在状态x2 = -1。因此，状态(1, -1)保持不变，这是一个稳定状态。验证(-1, 1)是否为另一个稳定状态。接下来，考虑初始状态为(-1, -1)的情况。如果选择单元1进行更新，激励为x2 * w21 = (-1) * (-1) = 1。激励大于阈值θ1 = 0，因此单元1将其状态更改为x1 = 1。网络现在处于状态(1, -1)，因此状态(-1, -1)是非稳定状态。如果先选择单元2进行更新，会发生什么情况？你可以验证(1, 1)也是网络的非稳定状态。

如果取消对称权重的要求，即不再要求圆满型霍普菲尔德网络中的权重是对称的，那么会出现什么情况？如图所示。

再次设定阈值θ1和θ2为0。验证状态(1, -1)变为(1, 1)，且(-1, 1) → (-1, -1) → (1, -1)。由此得出结论，对称权重是存在稳定状态的必要条件。

霍普菲尔德定义了这些网络的能量函数（也称为李雅普诺夫函数）。如果用n×n权重矩阵表示具有n个单元的霍普菲尔德网络，其中行向量维度为n，θ表示单元的阈值，那么形状x的能量E(x)为：

或者，这个能量函数可以按如下方式计算：

在这个双重求和中，wij xi xj和wji xj xi项都出现，因此使用系数1/2。霍普菲尔德网络通常用于解决组合问题。由于霍普菲尔德网络总能找到能量函数的局部最小值，所以获得的解有时只是近似解。考虑图中两种稳定状态的霍普菲尔德网络。计算以下四种状态的能量：

图说明了在选择任意单元进行更新的情况下，形状的变化。可以观察到，稳定状态对应于能量最小的状态。

示例11.4：利用霍普菲尔德网络解决多值触发器问题

多值触发器是一个n位二进制向量，除了一个1之外，其他位都是0。例如，如果n=4，那么这个问题的一个解是(1,0,0,0)。考虑如图所示的霍普菲尔德网络。

如果将某个单元设置为1，那么这个单元将通过权重等于3的边抑制其他单元。假设网络启动时，所有单元都设置为0（在这种情况下允许二进制值）。随机选择更新任何单元，将其状态翻转为1。激励为0，大于θ1=-1。假设单元1更新为1，那么这将抑制任何其他单元的状态改变为1。这个例子看似简单，但在实践中，我们会看到如何利用与图所示的相似网络解决之前章节中遇到的一些难题，如n皇后问题和旅行商问题。

获取本专栏答案的方式

关注我们，私信获取更多内容。

如果你对IT学习感兴趣，欢迎关注我们的头条号。