建立更加系统化的大脑模型是理解大脑内部组织方式的重要环节，这有助于我们从功能性磁共振成像（fMRI）、脑电图（EEG）等大脑测量数据中获取更多有意义的信息。

数据处理不仅是从海量数据中提取有用知识的过程，更是理解和解读世界的一种方式。无论是个人生活还是公司运营，掌握有用的知识都能带来巨大的优势。

数据处理者的追求如同生命本身一样古老：所有生物都在不断地从环境中提取知识，以便更好地适应生存。这一过程已经持续了数亿年。

大脑在这一过程中扮演着最为复杂的角色。

迷信查询

这一过程大致可以分为两部分：构建世界模型并与实际数据进行比对。

具体来说，这两步类似于自动编码器的工作流程：

1. 编码器：数据 → 模型

   在这一阶段，我们需要从数据中提炼出某种形式的表示或模型，旨在反映数据背后的真实结构，无论是因果关系还是概率分布。

2. 解码器：模型 → 预测（新数据）

   第二阶段通过模型对未来数据进行预测，并将预测结果与实际观测结果对比，从而验证模型的有效性。

3. 模型修正：预测的数据 vs. 实际数据 → 优化模型

   当预测与实际数据不符时，我们需要调整模型以适应预测误差。

如何高效地利用数据优化模型？如何在不破坏模型整体结构的前提下调整多个参数？

大脑在数据处理方面表现出色，尤其擅长直觉判断。即使面对多种偏见，大脑仍会不断构建世界模型，并根据这些模型做出预测。如果预测出现偏差，大脑会迅速调整模型。这也是为什么退化过程总是先影响我们的思维。

大脑是一个高效的多功能学习者，相较于当前的人工智能算法，大脑更善于推广和适应变化的环境。

大脑能够对极其复杂的过程做出预测，例如“几分钟前遇到的人下一步会做什么？”这就需要大脑为每个人建立模型，并将这些模型整合到现有的框架中。大脑会综合多种信息来源（如外貌、声音、气味、动作等），微调模型，再根据模型预测人的行为或快速分类朋友或敌人。

如果人的行为与预测不符，大脑会立即更新模型，而大多数情况下我们并未察觉到这种变化。然而，目前的机器学习技术在实现这些功能时需要耗费更多时间和资源，并需要大量数据支持。

向大脑学习“如何学习”

神经科学家研究大脑已有百余年历史，但大脑始终是个谜。我们收集的数据往往杂乱无章，难以解读。然而，大脑每天都在面对类似的挑战。大脑无法逃避现实，如果大脑只是简单地放弃，认为世界太过复杂而无法从中提取有用信息，那么我们早已无法生存。

因此，即使没有充足的数据，我们也不能放弃探索更好的大脑模型。

我们可以通过研究大脑本身来学习大脑的学习机制，从而为改进和构建算法提供灵感，帮助我们更好地分析和建模大脑数据及行为数据。

大脑中的层次模型

大脑能够有效地推测和优化其对变化世界的认知模型。

层次模型是一种概念化的工具，用于逐步构建越来越复杂的对象表示。它们可以捕捉深层结构和数据背后的概率分布，用于高效生成预测。

神经科学家一直在寻找大脑中的层次模型。我们在一个充满不确定性的世界中生活，大脑似乎能够利用其内部的概率分布来解释这种不确定性。关于如何在神经元水平上实现这一机制，已有理论探讨。

这些层次模型可能分布在不同的大脑区域和前额叶皮层的不同层次中，因此我们的世界模型也在大脑中呈现出物理上的分布。

高斯滤波器模型

作为在大脑中实施的一种简单层次模型，高斯滤波器旨在理解隐变量的概率结构。隐变量可以代表任何类型的数据，无论是股票价格的变化还是朋友的决定。

该模型描述了代理对变量的信心随时间的变化，并提供了一个生成模型来预测变量。

高斯滤波模型由多个高斯随机分布堆叠而成。每个高斯分布有自己的均值和方差，均值的倒数称为精度，方差越大，精度越低。

这些高斯函数随时间变化，每个高斯函数在时间t的新均值是通过从时间t-1的相同高斯函数中抽取得出的。

为了进行预测，我们从最顶层的高斯分布开始，根据固定的精度抽取一个值。这个值决定了下一层高斯分布的精度，然后从中抽取。这个过程一直重复，直到达到最底层。

我们试图预测的隐变量连接到高斯层次的最底层。如果变量是二进制的（例如“是”或“否”），则底部高斯函数可以连接到单位平方的S形函数。如果变量本身是高斯分布的，则底部高斯直接对随机变量的概率分布进行建模。

高斯滤波器模型的学习行为

假设我们有两个选项：选择“是”或“否”，这取决于某些隐变量。我们可以将这些隐变量视为外部过程，如思想和动机，它们会随着时间变化。

底层的高斯分布表示代理倾向于“是”或“否”的倾向。上层的高斯分布模拟了底层分布的波动性：代理倾向于选择“是”或“否”的趋势随时间变化的程度以及我们对预测的自信程度。

如果我们增加更多的高斯分布，可以更细致地建模波动性，从而使模型能够捕捉到代理行为中更复杂的概率分布。

层次模型中的模型修正

高斯滤波器模型中的模型修正与神经网络的反向传播相似。预测完成后，各层通过最小化自由能来更新，逆精度加权后逐层向上。

通过平均场近似（假设分布保持高斯分布并独立更新），该方案相对简单且计算高效，并可在实验和实时环境中应用。

基于预测误差调整参数。从底层开始，遵循与反向传播相反的逻辑，在反向传播中，我们从连接到输入的网络层开始。

高斯分布的均值和精度根据预测误差的大小进行调整。如果预测非常好，接近实际观察结果，那么误差很小，逐层向上误差也会逐渐减小。

如果预测很差，但预测的精度很低，说明模型在此级别上对预测高度不确定，因此不会大幅调整模型，因为模型已经考虑到预测可能不准确。

学习大脑如何学习

这一模型展示了大脑如何学习吗？答案尚不确定（因为大脑如何对不确定性进行建模仍是未知数），但我们成功地使用该模型来预测行为并不意味着大脑确实是以这种方式工作的。

尽管如此，伊格莱西亚斯等人声称，神经影像学研究表明，根据预测误差的大小，预测误差会在不同的大脑区域和层次上传播，然后与不同的神经递质联系起来，例如参与奖励预测的多巴胺。

根据这一理论，该模型可以与神经解剖学联系起来：预测可能由深层锥体细胞传递，而预测误差则由浅层锥体细胞编码。

然而，仍然有许多问题悬而未决，如如何在解剖学上实现高斯分布，如何根据锥体细胞的信号更新均值和协方差，如何计算预测误差等。

我们不仅可以通过用大脑启发的模型来预测大脑的行为，从而学习大脑如何学习世界，还可以从更广泛的角度来看待层次模型在深度学习和数据科学中的应用。这些模型在构建推理网络方面具有强大的功能，例如动态系统的推理、自然语言处理，以及在变分自动编码器中学习更好的近似后验，使模型更具解释性。因为我们对世界的感知是分层次的，所以分层模型可以更容易地与我们的直觉和日常语言联系起来。

建立更加系统化的大脑模型是理解大脑如何组织自身的关键步骤，这有助于我们从功能性磁共振成像（fMRI）、脑电图（EEG）等大脑测量数据中获得更多的数据意义。

学习无监督的数据生成模型是人工智能发展的重要一步。我认为，层次方法是思考这一问题的一个很有希望的方向。