Yoshua Bengio在Twitter上答疑解惑

作者 | 青 暮

编辑 | 丛 末

Yoshua Bengio，2018年图灵奖得主，蒙特利尔大学计算机科学与运筹学系教授，蒙特利尔学习算法研究所（MILA）科学主任，以及微软研究院顾问，首次在Twitter上亮相。尽管他并未亲自开设账号，而是借助微软研究院的官方账号进行交流。7月11日，他在微软研究院的官方Twitter账号上发布了一段视频，预告将在7月16日与网友进行互动问答。Bengio在视频中表示，欢迎网友就他的研究工作提问，特别是他发表在ICML2020上的论文。

网友的问题主要集中在如何入门AI以及学术问题上，Bengio耐心回答了二十多个问题。以下是部分精选内容：

如何入门AI

1. Rakshith V： 如何从理论转向实践以更好地了解深度学习？

   Yoshua Bengio： 首先，亲自实践很重要。复现论文是一个好的起点，但通常需要进行小型实验。如果遇到问题，应立即联系作者。最后，分享你的实验结果，即使它们没有达到预期效果。

2. Zaryab Akram： 对初入AI领域的研究人员有何建议？

   Yoshua Bengio： 深入阅读AI领域的文献，专注于一个领域成为专家。通过实验建立直觉，并将其应用于理论研究。

3. Marcos Pereira： 如何展开独立研究以弥补深度学习的不足？

   Yoshua Bengio： 不同的研究人员会有不同的解答，这很正常。你可以通过观看我的演讲和阅读我的论文来了解更多信息。

4. devarajith： 我是一名学生，对深度学习感兴趣，但不想直接应用。如何从纯数学角度入手？

   Yoshua Bengio： 即使只做基础研究，也需要动手实践，建立基于经验和理论的直觉。

5. Ash： 软件工程人员如何开始AI研究？

   Yoshua Bengio： 阅读《深度学习》这本书，学会必要的数学知识，并阅读相关文献。然后进行大量实验，并提出自己的问题。

学术讨论

6. Rakshith V： 对近期自监督学习的发展有何看法？

   Yoshua Bengio： 自监督学习是一个古老的概念，近年来越来越受到重视，但它并不能解决所有问题。

7. Mayur Jain： 数据中存在偏见，如何克服？

   Yoshua Bengio： 出发点是同情心，考虑我们的行为如何影响他人。逐步改变社会规范，使之更加公平。

8. Antonio Regalado： 您的新论文是否在为计算机和人类推理偏见辩护？

   Yoshua Bengio： 归纳偏置和偏见不是同一概念。机器学习需要探索多种归纳偏置，以实现更好的泛化能力。

9. Harm van Seijen： 研究模块化网络需要注意什么？

   Yoshua Bengio： 应从OOD泛化和迁移学习的角度衡量增益，而非仅仅根据基准。

10. Alejandro Piad Morffis： 您对AutoML感兴趣吗？

    Yoshua Bengio： AutoML和NAS的研究非常吸引人，但也存在一些挑战。我们需要更多地探索这些领域。

11. Samiul Hasan： 当前的神经网络还不能解决哪些问题？

    Yoshua Bengio： 当前的神经网络在处理系统2（实际）的能力方面仍有不足。

12. Mohit Sharma： 实际研究很难独立发表，您有什么建议？

    Yoshua Bengio： 接触从事有趣工作的初级研究人员。

13. Hitesh Kumar Balapanuru： AI中存在哪些问题？

    Yoshua Bengio： 泛化能力和准确率的平衡，以及可解释性的重要性。

14. Venkateshwar Ragavan： 物理学对理解人工神经网络有何作用？

    Yoshua Bengio： 物理学对神经网络有很大影响，比如基于能量的模型和因果推理。

15. Ujjwal Upadhyay： 表征学习有助于解决对抗性学习成绩吗？

    Yoshua Bengio： 表征学习可以帮助提升系统的鲁棒性，但还需要更多的研究。

16. Alex Simonelis： 国家是否应该限制AI研究？

    Yoshua Bengio： 这是一个复杂的问题，但我们需要关注AI的潜在负面影响。

17. Greg Yang： 您在“先验知识”方面的最新研究成果是什么？

    Yoshua Bengio： 最近的研究集中在因果发现和模块化循环架构上。

18. Harm van Seijen： 是否存在一种模块化网络设计可以编码所有类型的组合？

    Yoshua Bengio： 目前还没有一种单一的设计可以涵盖所有类型，但分布式表征和深度学习已经在这方面取得了进展。

AI未来五年

19. Pinaki Dasgupta： 您认为未来五年深度学习或感知处理会如何发展？

    Yoshua Bengio： 大脑中的感知处理机制将逐渐融入深度学习架构中。

20. Devon Hjelm： 是什么想法促成了当前机器学习的现状？未来五年将走向何方？

    Yoshua Bengio： 你可以通过观看我最近的演讲视频《深度学习》来了解更多信息。

假如让Bengio教孩子机器学习

21. Stefania： 您会如何设计K12阶段的机器学习教育？

    Yoshua Bengio： 让孩子们自主学习数学和计算机科学，鼓励他们成为发现者，而不是被动接受者。

招聘

AI科技希望招聘科技编辑/记者，办公地点在北京或深圳，主要职责包括： 1. 关注学术热点并及时报道； 2. 采访人工智能领域的学者或研发人员； 3. 参加各种人工智能学术会议并进行报道。

要求： 1. 热爱人工智能学术研究，善于与学者或企业工程人员沟通； 2. 具备一定的理工科背景，对人工智能技术有所了解； 3. 英语能力强，能处理大量英文材料； 4. 学习能力强，对人工智能前沿技术有了解，并能形成自己的观点。

有兴趣者请将简历发送至jiangbaoshang@yanxishe.com。