潮流2.0

• 编者按：在“权阈”(W&B)，不死者的复活是我们的一个核心竞争力。我们最近复活了信息理论的创始人克劳德·香农，并给了他arXiV和Twitter的访问权限。在要求我们友善地将他送回坟墓之前，香农用他的骨架手指敲出了这篇简短的论文。

在过去的几年中，深度学习已经成为了一种科学潮流。它最初是计算机视觉工程师的技术工具，但现在它在大众和科学媒体中都获得了非凡的宣传。一部分原因是因为它与计算机，控制论和自动化等流行领域的联系所致。另外也因为其主题的新颖性。结果是，它可能已经膨胀到超出其实际成就的重要性。我们在许多不同领域的同僚科学家都被这轰轰烈烈的宣传，和这科学分析的新途径所吸引，正在将这些想法用于自己的问题。生物学，心理学，语言学，基础物理学，经济学，组织理论以及许多其他领域正在应用深度学习。简而言之，深度学习目前正在变成一种有些令人头疼的大众流行。

尽管这一波普及潮对于我们这一领域的工作人员来说无疑是令人愉快和兴奋的，但同时也带来了危险。虽然我们认为深度学习对于探索感知本质确实是有价值的工具，并且将变得越来越重要，但对于计算机视觉工程师或其他任何人来说，它当然都不是灵丹妙药。大自然的秘密很少让人一次性揭露。当我们意识到使用一些令人激动的词语（如深度depth，注意力attention，嵌入embedding）并不能解决我们所有的问题时，我们有些虚假的繁荣将很容易在一夜之间崩溃。

在这种情况下，可以做些什么来节制呢？首先，其他领域的工作者应该意识到，深度学习的基本结果是针对非常特定的方向，该方向不一定与心理学、经济学和其他社会科学等领域相关。实际上，深度学习的硬核本质上是统计学的一个分支，一个严格的预测系统。对数学基础及其统计应用的透彻理解无疑是其他应用的先决条件。我个人认为，深度学习的许多概念将在其他领域发挥作用——实际上，一些应用结果已经很有希望——但是建立这样的应用并不是简单地一一照搬，而是一个不断进行假设和实验验证的缓慢繁琐的过程。例如，如果人类在某些情况下像卷积网络那样行动——则这是实验性事实，而不是数学事实，因此必须在各种实验情况下进行测试。

其次，我们必须保持自己的高标准。深度学习的主题已经被四处贩卖，甚至是过度售卖。现在，我们应该将注意力放在我们可以维持的最高科学标准的研究和发展上。研究才是关键，而不是曝光，而且应该提高我们的门槛。作者应只提交自己的最佳成果，而这些结果要经过他们自己和同事们的认真批评。少量的一流研究论文胜于大量的低水平或半成品论文。后者对他们的作者来说没有意义，对他们的读者来说则是浪费时间。只有保持彻底的科学态度，我们才能在深度学习中取得真正的进步并巩固我们目前的地位。

结尾：

In 1956, Claude Shannon wrote an article called [The Bandwagon](ht\1956年，克劳德·香农（Claude Shannon）撰写了一篇名为The Bandwagon的文章，谴责了当时热门的信息理论领域的过度宣传。通过巧妙地替换几个关键词，我们得到了一篇符合当下的文章。