到目前为止，深度学习是最流行的会议轨道，其程度是该轨道的会议室不堪重负，而且仅在站立空间之外。我错过了一些我想参加的演讲，因为根本没有进入的可能性。尽管有许多深度学习专家及其研究生都在CVPR工作。幸运的是，Yoshua Bengio选择了ICML，并通过几次演讲为深度学习提供了足够的见识，值得撰写另一篇博客文章。总体主题是：在征服计算机视觉之后，深度学习研究人员现在将注意力转向自然语言文本，并且在早期取得了一些显著成就，例如 段落矢量。当然，该品牌的销量很高，这解释了一些纸质标题的选择，例如，“深度助推”。还有一个会议标题为“神经理论与光谱方法”...有趣的床友！
ADMM突然变得流行（大约在18个月前，由于想法，会议提交和演示之间的延迟）。通过这种方式，我并不是说要使用ADMM进行分布式优化，尽管有很多。相反，有几篇使用ADMM解决受约束的优化问题的论文，否则这些问题将很烦人。带回家的课程是：在针对您遇到的任何受限优化问题提出定制的求解器之前，请尝试ADMM。
现在获取洗衣清单（也请注意上述纸张）：
- 非平稳函数的贝叶斯优化的输入变形。如果要引起社区的注意，就必须打号码，所以不要带着刀子进行枪战。
- 通过主动子空间选择使核规范最小化。无与伦比的谢祖瑞再次做到了，这次将主动变量方法的思想应用到核规范的正则化中。
- 驯服怪物：上下文盗贼的快速简单算法。不可知论语境盗贼所需的计算复杂性得到了显着改善。
- 高效的可编程学习搜索。自NIPS以来，命令式编程的其他改进。如果您要进行结构化预测，尤其是在需要将产品投入生产的工业环境中，则需要研究这种方法。首先，它减轻了指定复杂的结构化预测任务的负担。其次，它减少了培训和评估之间的差异，这不仅意味着更快的部署，而且还减少了实验与生产系统之间引入的缺陷。
- 不变位移核的准蒙特卡洛特征图。确认准随机数可以更好地适用于随机特征图。
- 单次通过算法可有效恢复高维数据的稀疏聚类中心。我需要在本文上花一些时间。
- 多分辨率矩阵分解。 Nikos和我通过使用经典矩阵分解来学习判别表示法时非常幸运。我希望可以对这种新的分解技术进行类似的调整。
- 基于样本的近似正则化。我发现依赖数据的正则化很有希望（例如，最小二乘法的遗失等效于无标度L2正则化器），因此本文引起了我的注意。
- 适应性和乐观：改进的指数梯度算法。本文没有进行任何实验，因此也许这是``纯粹的理论胜利''，但看起来很有趣。
