人工智能入门100讲:机器学习神经网络如何适当地表示数据?
作者头像
  • 杨铭
  • 2020-05-11 15:10:43 6

人工智能入门其实并不复杂,通过交流,你可以快速掌握基础知识。我们的专栏《100节课带你从小白入门人工智能》集结了多年的教学经验,旨在为你提供全面的人工智能知识。该专栏涵盖人工智能简史、搜索方法、逻辑推理、知识表示、机器学习、神经网络、遗传算法、自然语言处理、自动规划、机器人技术以及未来展望等内容。即使是完全没有基础的新手也能轻松入门。

小复习

上一章节我们探讨了机器学习和人工神经网络的关系。如果你需要回顾相关内容,请点击上一节查看。

11.6 完成关注点

本章节重点讨论了神经网络,这是一种模拟自然智能实体的基础机制。设计有效的ANN应用程序不仅需要具备线性代数、微积分和学习规则的知识,还需要了解如何适当地表示和获取数据,最重要的是,知道如何训练网络。我们提到,训练条件之一是误差足够小。然而,为了取得更好的效果,我们需要更具体的训练条件。

例如,考虑二进制形式的不同之处。汉明距离是一种常用的度量标准,用于计算两个二进制序列中不同的位数。假设我们有两个二进制序列:

x = 0111010010111101100001110

y = 0111001010010100110101110

汉明距离H(x, y)为7。这意味着在这两个序列中,有7个位置上的值不同。通过这种方式,我们可以更直观地理解数据之间的差异。

在数据表示方面,我们需要特别注意参数间的相关性。例如,在天气预报的应用场景中,温度与降水类型之间可能存在相关性。此外,数据的表示方式也非常重要。对于二进制形式,可以使用1表示某个特征存在,0表示不存在。有时,也可能存在第三种状态,即“不确定”。

例如,在设计一个用于预测计算机科学研究生录取的反向传播网络时,我们需要确定输入数据的表示方式和激活函数的选择。合适的输入包括学生的姓名、本科专业、GPA、财务支付能力和英语水平等。我们建议使用斜坡函数作为激活函数,因为它更适合处理连续数据。网络的输入数量为8,一个经验法则建议隐藏层单元数约为输入层单元数的20%。因此,一个初始架构可能是一个8-2-1的前馈网络。

训练数据可以从注册办公室获得。但需要注意的是,训练数据应包含过去几年的数据,并且应包含学生是否最终成功的记录。训练过程中可能会遇到过度拟合的问题,即网络在训练集上表现良好,但在新数据上表现不佳。为了避免这种情况,应定期评估验证集的表现,确保网络的泛化能力。

此外,如果训练过程中发现误差不再下降,可能是数据存在矛盾或网络设计存在问题。在这种情况下,可以使用二分搜索方法逐步缩小问题范围,或者通过增加或删除隐藏层单元来优化网络结构。

总之,设计和训练神经网络是一项复杂但有趣的任务,需要细致的规划和不断调整。希望以上内容对你有所帮助。

    本文来源:图灵汇
责任编辑: : 杨铭
声明:本文系图灵汇原创稿件,版权属图灵汇所有,未经授权不得转载,已经协议授权的媒体下载使用时须注明"稿件来源:图灵汇",违者将依法追究责任。
    分享
神经网络人工智能地表入门适当机器数据如何学习100
    下一篇