别再吹CNN了简单的区分异同都做不到

　　选自Quantamagazine
　　作者：JohnPavlus
　　机器之心编译
　　机器之心编辑部
　　主宰AI的CNN居然这么菜：俄罗斯方块换个方向就不认识了。
　　《芝麻街》中有一个游戏，叫做其中一个不一样（OneofTheseThingsIsNotLiketheOther）。顾名思义，参与该游戏的小朋友需要从几个东西中找出那个不一样的。对于人类幼崽来说，这个任务着实太简单了，换着花样玩一百次可能也不会出错。
　　但是，对于神经网络来说，这个游戏就没那么简单了。以强大的卷积神经网络（CNN）为例，经过训练的CNN可以完成一系列复杂任务，甚至比人类完成得还要出色，但最近的研究表明，CNN只能在非常有限的条件下区分两个简单的图案是否相同。只要稍微改变这些条件，该网络的性能就会随之下降。
　　2018年的一项研究表明，虽然CNN能够区分图（a）中两只狗的品种，但却不知道图（b）（i）中的两个图案其实是一样的，只是经过了旋转。
　　这些结果在深度学习研究者和认知科学研究者中引起了争议。如果工程方面得到提升，CNN能否像人类幼崽一样区分相同和不同？还是说CNN的抽象推理能力本身就是有限的，无论设计得多么精巧，用多少数据训练？
　　无论哪种猜想是对的，大多数研究者都同意一个观点：理解异同关系是智能的重要标志，无论这种智能是人工的还是其他形式的。
　　不只你我能够区分相同和不同，很多动物也能做到，比如鸭子和蜜蜂，在约翰霍普金斯大学研究视觉认知的ChazFirestone表示。
　　成功区分异同的能力可以被看作人类作出各种推理的基础。DeepMind研究者AdamSantoro表示，他们公司正在以一种整体的方式研究异同关系，即不仅局限于视觉场景，还扩展到了自然语言和物理交互。
　　当我让一个AI智能体捡起玩具车的时候，我的意思是让它捡起我们玩的这辆玩具车，而不是隔壁房间那辆。他解释说。去年10月份一项关于异同推理的研究也强调了这一点。来自布朗大学等机构的研究者在文中写道：如果没有识别相同的能力，打造真正智能的视觉推理机器的梦想就会变得无望。
　　自2013年起，异同关系就一直困扰着神经网络。当时的人工智能先驱YoshuaBengio及其合作者CaglarGulcehre在论文《KnowledgeMatters：ImportanceofPriorInformationforOptimization》中的研究表明：CNN无法判断若干组俄罗斯方块形状是否相同。但这个盲点并没有阻止CNN主宰AI。卷积神经网络曾帮助AlphaGo击败了世界上最好的围棋棋手，近90支持深度学习的Android应用都依赖于卷积神经网络。
　　这种能力的激增重新点燃了一些研究人员对探索神经网络无法做到的事情的兴趣。CNN通过粗略模仿哺乳动物大脑处理视觉输入的方式来学习视觉处理。神经网络中一层人工神经元检测原始数据中的简单特征（例如亮度和对比度差异）。然后神经网络再将这些特征传递给连续的层，这些层将它们组合成更复杂、更抽象的类别。
　　根据布朗大学机器学习研究员MatthewRicci的说法，异同关系似乎是对CNN局限性一个很好的测试，因为它们是与图像特征无关的最简单问题。也就是说，两个对象是否相同并不取决于它们是一对蓝色三角形还是一对红色圆圈。特征之间的关系比特征本身更重要。
　　2018年，Ricci、JunkyungKim和ThomasSerre在来自合成视觉推理测试（SVRT）的图像上测试了CNN，SVRT是一组旨在探索神经网络抽象推理技巧的简单图案。这些图案由在白色方块上以黑色轮廓绘制的成对不规则形状组成。如果一对图案在形状、大小和方向上都相同，则被归类为相同；否则，这一对被标记为不同。
　　Ricci等人的研究发现，使用来自SVRT图像集中的新样例训练CNN，辨别异同的准确率将高达75。但是只要以非常简单的方式修改形状（比如只是让它们变大，或者拉远它们之间的距离），CNN的准确率就会严重下降。研究人员因此得出结论，神经网络仍然专注于特征，而不善于学习异同等关系概念。
　　去年，图宾根大学的ChristinaFunke和JudyBorowski的研究表明，将神经网络的层数从6层增加到50层可以将其在SVRT异同任务上的准确率提升到90以上。然而，他们并没有测试这个层数增加的CNN在SVRT数据集以外的样例上性能如何。因此，该研究没有任何证据表明更深层的CNN具备概括异同定义的能力。
　　布里斯托大学的认知科学家GuillermoPuebla和JeffreyBowers在今年早些时候进行了一项后续研究。Puebla以人类的智能举例说：人们一旦理解一种事物关系，就可以将它应用到任何相关事情上，他认为CNN也应该遵守这个标准。
　　Puebla和Bowers使用4种不同的初始设置（其中包含Funke和Borowski使用的一些设置）在SVRT异同任务的几种变体上训练了四个CNN。他们发现图案低级特征的细微变化（比如将形状轮廓的厚度从一个像素更改为两个像素）通常就足以让CNN的性能降低一半，从接近完美到几乎无用。
　　这对人工智能意味着什么？不同人有不同的回答。Firestone和Puebla认为最近一些研究中的实验结果表明：当前的CNN缺乏基本的推理能力，并且无法通过添加更多数据或设计更精巧的训练来解决这个问题。Puebla表示：尽管CNN越来越强大，但它不太可能解决辨别异同的问题。也许引入其他方法能够解决，而只依靠CNN自己则无望。
　　Funke同意Puebla的结论。但她建议：声称深度卷积神经网络无法学习一个概念要非常谨慎。DeepMind研究员Santoro表示同意：缺乏证据并不代表着证据不存在，神经网络历来如此。Santoro指出：神经网络在数学上已被证明能够在原则上逼近任何函数，并说道：研究人员在这方面需要做的就是确定函数所需的实际条件。
　　Ricci则认为：让任何机器学会辨别异同都需要在对学习本身的理解上取得突破。人类幼崽玩一次游戏就能够区分异同，不需要长期训练。鸟类、蜜蜂和人类都可以通过这种方式学习，除了辨别异同，还有许多认知任务也是如此。Ricci说：我认为在弄清楚如何从少量样本和新数据样本中学习之前，很多问题都不能完全解决。
　　原文链接：https：www。quantamagazine。orgsameordifferentaicanttell20210623