人类在幻觉认知上扳回人工智能一局

　　近些年来，人工智能（AI）技术的迅猛发展和广泛应用，因其很多方面的优越表现超过人类而备受关注。不过，中国科学院自动化研究所（中科院自动化所）团队最新完成的一项研究发现，基于人工智能的神经网络和深度学习模型对幻觉轮廓视而不见，人类与人工智能的角逐在幻觉认知上扳回一局。
　　受人类和生物视觉系统中广泛存在幻觉轮廓现象启发，中科院自动化所曾毅研究团队提出一种将机器学习视觉数据集转换成幻觉轮廓样本的方法，量化测量当前深度学习模型对幻觉轮廓的识别能力。实验结果显示，人工智能从经典到最先进的深度神经网络都难以像人一样具有较好的幻觉轮廓识别能力，即使是其具备了当前最先进的深度学习算法，在交错光栅效应（幻觉识别能力之一）的识别上也与人类水平相距甚远。
　　这项人工智能与人类在幻觉轮廓方面尚有显著认知差距的重要研究成果论文，近日在细胞出版社旗下专业学术期刊《模式》（Patterns）上发表。该研究表明，目前，人类的视觉系统在幻觉认知问题上具有高度鲁棒性（也称稳健性，一般指在异常和危险情况下系统自适应能力强健稳定），基于人工智能的深度学习系统与生物视觉系统相比仍然存在根本性缺陷。
　　为何研究？
　　论文通讯作者、中科院自动化所类脑认知智能研究组负责人曾毅研究员介绍说，幻觉轮廓是认知心理学中经典的幻觉现象，在没有颜色对比度或亮度梯度的情况下，生物视觉系统能够感知到一个清晰的边界。这一现象已经在人类和多种动物物种中被广泛发现，包括哺乳动物、鸟类和昆虫等。
　　独立进化的视觉系统中普遍存在幻觉轮廓感知能力，表明它在生物视觉处理中具有基础和关键的作用。因此，幻觉轮廓感知也应该是人工智能视觉系统所必须具备的能力。
　　此前，深度学习模型的幻觉轮廓感知相关研究相对较少，研究深度学习模型对幻觉轮廓感知的鲁棒性比图像干扰鲁棒性更加复杂，主要障碍是幻觉轮廓的样本有限。大多数研究分析的幻觉轮廓都是在先前的心理学文献中手动设计，而这些测试图片无法直接与深度学习模型训练的任务相匹配，同时由于数量很少，无法形成一个有相对规模的测试集，很难以机器学习的方式去衡量深度学习模型的幻觉轮廓感知能力。
　　如何研究？
　　曾毅指出，这次主要研究了深度学习对交错光栅幻觉的识别能力，交错光栅幻觉是一个经典的幻觉轮廓现象，位移的光栅会在没有亮度对比的情况下诱发出虚假的边缘和形状。标准的交错光栅错觉能够让人类在实际上没有物理边界的情况下感知到中间的垂直线。交错光栅幻觉被广泛应用于生理学研究中，以探索幻觉轮廓的生物视觉处理。
　　中科院自动化所类脑认知智能研究组提出一种名为交错光栅扭曲的图像干扰方法，作为量化神经网络模型幻觉轮廓感知能力的工具。该方法可直接应用于具有外部轮廓而没有纹理信息的剪影图像，从而系统性地生成大量幻觉轮廓图像。由于不同的参数设置能够产生不同程度的幻觉效应，这项研究对人类被试者进行测试，用于了解不同的干扰参数对人类被试的幻觉轮廓感知能力的影响。
　　对于深度学习模型，这项研究训练全连接网络和卷积网络，收集了109种公开可用的预训练模型。同时，这项研究也招募了24名人类受试者，从而评估不同的参数设置下，人类的幻觉轮廓感知能力以及其对数字和图像识别的影响。
　　有何收获？
　　论文第一作者、中科院自动化所类脑认知智能研究组工程师范津宇说，这项研究结合认知科学和人工智能，提出将传统机器视觉数据集转换成认知科学中的交错光栅幻觉图像，首次对大量的公开预训练神经网络模型的幻觉轮廓感知能力进行量化测量，并从神经元动力学角度和行为学两个角度，检验深度学习和神经网络模型对幻觉轮廓的感知。
　　本次研究实验中的所有深度神经网络模型无论是否被训练、使用什么方式训练，都产生了神经动力学层面的沿着幻觉轮廓的激活。然而即使如此，这一神经动力学层面的激活并没有能够帮助到深度神经网络最终在行为学层面识别出幻觉轮廓。而唯一拥有相对好的幻觉轮廓感知能力的深度增强模型，则表现出端点激活效应，从而揭示未来突破这个问题重点在于端点激活和幻觉轮廓的关系。
　　曾毅总结称，本项研究成果亮点可概括为四个方面：一是提出系统性生成幻觉轮廓样本的方法；二是将视觉认知和机器学习数据集结合，实现对神经网络幻觉轮廓感知能力的量化；三是测试大量公开的预训练神经网络模型；四是发现幻觉轮廓感知较好的模型展现出计算神经科学理论预言的端点激活现象。
　　这项研究最大的特点是从认知科学的角度检验和部分重新审视了当前看似成功的人工神经网络模型，并且证明人工神经网络模型与人脑视觉处理过程仍然存在着很大差距，这还只是人工智能与人类认知显著距离的冰山一角，大脑运作的机理和智能的本质将继续启发人工智能，特别是神经网络的研究。
　　如果想从本质上取得突破，人工智能需要借鉴并受自然演化、脑与心智的启发，建立智能的理论体系，这样的人工智能才会有长远的未来。曾毅说。
　　栏目主编：顾万全文字编辑：杨蓉题图来源：图虫创意图片编辑：项建英