学术文献代表着研究热点和技术前沿，过去十多年间，学术文献出现了爆炸式增长。对于很多初学者来说，如何正确找到自己研究领域的切入点成为一件非常痛苦的事情。别担心，这里有一些神奇的推荐！AMiner平台新推出的必读论文模块，将会帮助你避免因不知道读哪些论文而感到困扰，实现才华与智慧的双重提升。

下面是小编整理并搜索到的，近五年来关于机器学习的20篇必读论文。不知道是否符合你的期待？如果有遗漏，请联系我们，我们将及时添加你心目中的“梦想论文”。更令人兴奋的是，如果推荐的论文获得了5个赞，它们还有机会进入领域必读论文榜单。

核心速递

1. 挑战无监督分离式表征的常见假设
2. 稀疏变分高斯过程回归的收敛速度
3. 非妄想Q学习和价值迭代
4. 非光滑凸函数的分布式优化算法
5. 通过样本紧缩方案学习混合高斯模型的近乎严密的样本复杂性边界
6. 神经常微分方程
7. 公正机器学习的滞后影响
8. 混淆梯度的虚伪安全感：对抗样本防御
9. 不完全信息博弈的安全嵌套子博弈求解
10. 带有凸对象的基于方差的正则化方法
11. 一种线性时间核的拟合优度测试方法
12. 应用影响函数了解黑箱预测
13. 价值迭代网络
14. 矩阵填充没有假的部分最小值
15. 基于Magenta的即兴音乐交互体验
16. 确保异步吉布斯采样的快速混合和低偏差
17. 像素循环神经网络
18. 深度强化学习中的竞争网络架构
19. 图结构稀疏性的近似线性时间框架
20. Online Boosting的优化和自适应算法

详细解读

1. 论文标题：Challenging Common Assumptions in the Unsupervised Learning of Disentangled Representations

中文标题：挑战无监督分离式表征的常见假设

论文作者：Francesco Locatello, Stefan Bauer, Mario Lucic, Gunnar Rätsch, Sylvain Gelly, Bernhard Schölkopf, Olivier Bachem

参与单位：ETH Zurich, Department for Computer Science; Max Planck Institute for Intelligent Systems; Google Research Brain Team

论文解读：本文主要从理论和实践两个方面挑战了无监督学习分离式表征的几个基本假设。理论上，如果没有对学习方法和数据集施加归纳偏置，无监督学习分离式表征几乎是不可能的。实验方面，本文采用了一个大规模的实验方案，并发布了一个名为disentanglement_lib的新库，用于训练和评估分离式表征。此外，为了便于后续研究，论文还发布了超过10000个预训练模型。

2. 论文标题：Rates of Convergence for Sparse Variational Gaussian Process Regression

中文标题：稀疏变分高斯过程回归的收敛速度

论文作者：David R. Burt, Carl E. Rasmussen, Mark van der Wilk

参与单位：University of Cambridge; PROWLER.io, Cambridge

论文解读：本文探讨了稀疏变分高斯过程回归的收敛速度。研究表明，通过控制诱导变量的数量，可以实现稀疏高斯过程回归的高效计算。本文证明了稀疏高斯过程回归变分近似到后验变分近似的KL散度的边界，这些边界仅依赖于先验核的协方差算子的特征值的衰减。这些结果表明，即使在非强凸目标函数的情况下，稀疏高斯过程回归仍能提供可靠的结果。

3. 论文标题：Non-delusional Q-learning and Value-iteration

中文标题：非妄想Q学习和价值迭代

论文作者：Tyler Lu, Dale Schuurmans, Craig Boutilier

参与单位：Google AI

论文解读：本文探讨了Q学习和其他形式的动态规划中的误差来源。研究发现，当近似结构限制了可表达的贪心策略的类别时，会导致偏差。为了消除这种偏差，本文引入了策略分歧性的新概念，并定义了一个局部备份流程，通过运用信息集来确保全局一致性。这些算法不仅可以在一般条件下保证最优结果，还只需要少量的信息集即可实现。

4. 论文标题：Optimal Algorithms for Non-Smooth Distributed Optimization in Networks

中文标题：非光滑凸函数的分布式优化算法

论文作者：Kevin Scaman, Francis Bach, Sébastien Bubeck, Laurent Massoulié, Yin Tat Lee

参与单位：Noah's Ark Lab, Huawei Technologies

论文解读：本文研究了利用计算单元网络进行非光滑凸函数的分布式优化问题。研究在两个正则性假设下进行：（1）全局目标函数的Lipschitz连续性；（2）局部个体函数的Lipschitz连续性。在局部正则性假设下，本文给出了一个被称为多步原对偶（MSPD）的最优分散算法及其对应的最优收敛速度。在全局正则性假设下，本文提出了一种简单的分布式随机平滑（DRS）算法，并证明了其在最优收敛速度的d/4倍因子内。

5. 论文标题：Nearly Tight Sample Complexity Bounds for Learning Mixtures of Gaussians via Sample Compression Schemes

中文标题：通过样本紧缩方案学习混合高斯模型的近乎严密的样本复杂性边界

论文作者：Hassan Ashtiani, Shai Ben-David, Nicholas J. A. Harvey, Chris Liaw, Abbas Mehrabian, Yaniv Plan

参与单位：Department of Computing and Software, McMaster University; School of Computer Science, University of Waterloo; Department of Computer Science, University of British Columbia; School of Computer Science, McGill University; Department of Mathematics, University of British Columbia

论文解读：本文证明了学习Rd中k个高斯混合所需的样本数量为O(k d2/ε2)，这是充分必要的条件。对于轴对准高斯混合，本文证明了样本数量为O(k d/ε2)是足够紧的。本文利用样本紧缩概念提出了一种新的学习技术，任何允许这种样本紧缩方案的分布类都可以用较少的样本学习。

6. 论文标题：Neural Ordinary Differential Equations

中文标题：神经常微分方程

论文作者：Tian Qi Chen, Yulia Rubanova, Jesse Bettencourt, David Duvenaud

参与单位：University of Toronto

论文解读：本文介绍了一种新的深度神经网络模型，通过参数化隐藏状态的导数来代替离散的隐藏层序列。本文展示了这些连续深度模型具有恒定的内存成本，并且可以通过反向传播进行端到端训练。本文在连续深度残差网络和连续时间潜变量模型中验证了这些性质，并构建了一种生成模型——连续归一化流，该模型可以通过最大似然进行训练，而无需对数据维度进行分区或排序。

7. 论文标题：Delayed Impact of Fair Machine Learning

中文标题：公正机器学习的滞后影响

论文作者：Lydia T. Liu, Sarah Dean, Esther Rolf, Max Simchowitz, Moritz Hardt

参与单位：Department of Electrical Engineering and Computer Sciences, University of California, Berkeley

论文解读：本文研究了静态公平性标准如何与短期利益目标相互作用。研究发现，即使在一步反馈模型中，常见的公平性标准也可能在长期内损害某些群体的利益。本文通过实证研究证明了这一点，并指出公平性标准的设计需要更加谨慎，以避免潜在的负面影响。

8. 论文标题：Obfuscated Gradients Give a False Sense of Security: Circumventing Defenses to Adversarial Examples

中文标题：混淆梯度的虚伪安全感：对抗样本防御

论文作者：Anish Athalye, Nicholas Carlini, David Wagner

参与单位：Massachusetts Institute of Technology; University of California, Berkeley

论文解读：本文揭示了对抗样本防御中存在的一个关键问题：混淆梯度。这些梯度可能会使防御机制误认为模型是安全的，但实际上对抗样本仍然能够欺骗模型。本文通过一系列实验展示了混淆梯度的存在，并提出了一些可能的解决方案。

9. 论文标题：Safe and Nested Subgame Solving for Imperfect-Information Games

中文标题：不完全信息博弈的安全嵌套子博弈求解

论文作者：Noam Brown, Tuomas Sandholm

参与单位：Carnegie Mellon University

论文解读：本文提出了一种新的子博弈求解技术，适用于不完全信息博弈。这种方法不仅在理论上优越，而且在实践中也表现出色。本文展示了如何将其应用于不完全信息博弈，并且提出了比现有方法更为有效的策略。

10. 论文标题：Variance-based Regularization with Convex Objectives

中文标题：带有凸对象的基于方差的正则化方法

论文作者：Hongseok Namkoong, John Duchi

参与单位：Stanford University

论文解读：本文研究了一种风险最小化和随机优化的方法，通过提供一个凸属性的替代项来处理方差问题，从而实现了逼近和估计误差之间的良好权衡。本文的方法基于分布鲁棒性优化和经验似然度，并提供了有限样本和渐进结果，展示了估计器的实际性能。实验结果表明，该方法在实际应用中表现优于传统的经验风险最小化方法。

11. 论文标题：A Linear-Time Kernel Goodness-of-Fit Test

中文标题：一种线性时间核的拟合优度测试方法

论文作者：Wittawat Jitkrittum, Wenkai Xu, Zoltan Szabo, Kenji Fukumizu, Arthur Gretton

参与单位：Gatsby Unit, UCL; CMAP, École Polytechnique

论文解读：本文提出了一种线性时间的拟合优度测试方法，该方法通过最小化假负类率来学习最能展示观察样本与参考模型之间差异的测试特征。这些特征是通过Stein方法构造的，无需计算模型的归一化常数。本文分析了新测试的Bahadur渐进效率，并证明了在均值偏移的情况下，本文的测试方法比先前的线性时间核测试方法更具效率。

12. 论文标题：Understanding Black-box Predictions via Influence Functions

中文标题：应用影响函数了解黑箱预测

论文作者：Pang Wei Koh, Percy Liang

参与单位：Stanford University

论文解读：本文应用影响函数（一种经典的稳健统计技术）来追踪黑箱模型的预测，并追溯到训练数据，以识别对给定预测影响最大的训练点。为了扩展影响函数的应用范围，本文设计了一个简单高效的实验，只需梯度oracle访问和Hessian矢量积。此外，即使在非凸和非微分模型上，影响函数的近似值也能提供有价值的信息。在线性模型和卷积神经网络中，影响函数可用于理解模型行为、调试模型、检测数据集错误，甚至生成视觉上无法区分的训练集攻击。

13. 论文标题：Value Iteration Networks

中文标题：价值迭代网络

论文作者：Aviv Tamar, Yi Wu, Garrett Thomas, Sergey Levine, Pieter Abbeel

参与单位：UC Berkeley

论文解读：本文介绍了一种名为价值迭代网络（VIN）的完全可微分神经网络，内置了“规划模块”。VIN可以学习规划，并适用于预测基于计划的推理结果，例如在强化学习中制定策略。本文的关键是一种新的可微分近似值迭代算法，它可以表示为卷积神经网络，并通过标准反向传播进行端到端训练。本文基于离散和连续路径规划域以及基于自然语言的搜索任务评价了基于VIN的策略。结果表明，通过学习明确的规划计算，VIN策略可以更好地推广到新的、未见过的领域。

14. 论文标题：Matrix Completion has No Spurious Local Minimum

中文标题：矩阵填充没有假的部分最小值

论文作者：Rong Ge, Jason Lee, Tengyu Ma

参与单位：Duke University; University of Southern California; Princeton University

论文解读：本文证明了用于矩阵填充的常用非凸目标函数没有假的部分最小值——所有部分最小值也必须是全局的。因此，许多流行的优化算法（例如随机梯度下降）可以证明地解决矩阵填充问题。本文的方法对于了解其他涉及部分或嘈杂观测值的统计问题的几何性质也很有用。

15. 论文标题：Interactive Musical Improvisation with Magenta

中文标题：基于Magenta的即兴音乐交互体验

论文作者：Adam Roberts, Jesse Engel, Curtis Hawthorne, Ian Simon, Elliot Waite, Sageev Oore, Natasha Jaques, Cinjon Resnick, Douglas Eck

参与单位：Google Brain; Dalhousie University; MIT

论文解读：本文介绍了结合基于LSTM的循环神经网络和Deep Q-learning建立的实时生成音乐序列的方法。LSTM负责学习音乐评分的通用结构，而Deep Q-learning则用于改进基于奖励的序列，如期望的类型、组成正确性和预测人类合作者演奏的内容。这种方法比单独使用LSTM更为稳定，生成的音乐也更悦耳。本文还提供了一个全新的MIDI接口，使得用户可以与神经网络实时交互，生成即兴音乐体验。

16. 论文标题：Ensuring Rapid Mixing and Low Bias for Asynchronous Gibbs Sampling

中文标题：确保异步吉布斯采样的快速混合和低偏差

论文作者：Christopher De Sa, Kunle Olukotun, Christopher Ré

参与单位：Stanford University

论文解读：本文探讨了异步吉布斯采样的快速混合和低偏差问题。吉布斯采样是一种常用的马尔可夫链蒙特卡罗技术，用于估计边缘分布。本文通过实验验证了理论结果，展示了异步吉布斯采样在实际应用中的可行性和有效性。

17. 论文标题：Pixel Recurrent Neural Networks

中文标题：像素循环神经网络

论文作者：Aaron van den Oord, Nal Kalchbrenner, Koray Kavukcuoglu

参与单位：Google DeepMind

论文解读：本文提出了一种深度神经网络，可以沿二维空间维度依次预测图像中的像素。该方法通过建立原始像素值的离散概率模型，并编码图像中所有残缺的依赖关系，实现了高效的图像建模。本文展示了该模型在自然图像上的对数似然分数，比之前最先进的模型更好。

18. 论文标题：Dueling Network Architectures for Deep Reinforcement Learning

中文标题：深度强化学习中的竞争网络架构

论文作者：Ziyu Wang, Tom Schaul, Matteo Hessel, Hado van Hasselt, Marc Lanctot, Nando de Freitas

参与单位：Google DeepMind

论文解读：本文提出了一种新的深度强化学习网络架构——竞争网络架构。该架构将状态价值函数和状态依赖动作优势函数分开，从而在动作间实现更好的归纳学习。本文展示了该架构在多种价值相似的动作面前能引发更好的策略评价，并且在Atari游戏环境中表现优于现有的最先进算法。

19. 论文标题：A Nearly-Linear Time Framework for Graph-Structured Sparsity

中文标题：图结构稀疏性的近似线性时间框架

论文作者：Chinmay Hegde, Piotr Indyk, Ludwig Schmidt

参与单位：Massachusetts Institute of Technology

论文解读：本文提出了一种新的框架，通过图结构定义稀疏性。该框架灵活地涵盖了以前研究过的几种稀疏模型，并提供了有效的投影算法，几乎可以在线性时间内运行。本文还证明了该框架在理论上实现了广泛参数下的信息最优样本复杂性，并通过实验验证了其在实际应用中的优越性。

20. 论文标题：Optimal and Adaptive Algorithms for Online Boosting

中文标题：Online Boosting的优化和自适应算法

论文作者：Alina Beygelzimer, Satyen Kale, Haipeng Luo

参与单位：Yahoo Labs; Princeton University

论文解读：本文研究了在线Boosting算法，旨在将弱学习者转化为强学习者。基于对网络学习能力弱的新定义，本文开发了两种在线Boosting算法。第一种算法是在线版本的Boost by Majority，证明了其对于弱学习者的数量和达到指定精度所需的样本复杂度本质上是最优的。第二种算法则是无参数但非最优的自适应在线Boosting算法，适用于基础学习者可以直接处理示例重要性权重的情况。实验结果验证了这两种算法的有效性。

希望这些改写后的论文摘要对你有所帮助！如果你有任何进一步的需求或疑问，请随时告诉我。