作者/文龙 人工智能如何在驾驶员辅助系统、智能手机以及其他移动设备上高效地运行，是研究人员们一直关注的问题。 近日，奥地利格拉茨技术大学（TU Graz）的两位研究人员找到一种简单的将人工神经网络（ANN）转换为脉冲神经网络（SNN）的算法，神经元只需发出相对较少的信号就可以完成图像分类，并且分类精度非常接近当前最先进的图像分类技术水平。 研究成果于3月11日以「优化的脉冲神经元可以通过带有两个脉冲的时间编码对图像进行高精度分类」（Optimized spiking neurons can classify images with high accuracy through temporal coding with two spikes）为题发表在《自然·机器智能》（Nature Machine Intelligence）杂志上。 人工智能的大多数成就依赖于非常「深」的神经网络，它们有着亿万个神经元和上万个层级。这些大型的深度神经网络在计算时会消耗大量能量，因为有大量数值需要在每个时间周期内从一个神经元层发送到另一个神经元层。 为了使AI能在边缘设备中得到更广泛的应用，科学家们提出了一种脉冲神经网络（spiking neural network, SNN）。基于脉冲神经网络形态的硬件有望减少包括图像分类在内的许多深度学习应用的能耗，但是，直接训练脉冲神经网络十分困难、效率很低，性能也较差。 为此，来自TU Garz 理论计算机科学研究所的博士生克里斯多夫·斯托克（ ChristophStöckl）和计算机科学家沃尔夫冈·马斯（Wolfgang Maass）开发了一种 ANN 到 SNN 的转换算法，命名为FS 转换（few spikes-conversion）。该算法用一种新型FS 神经元（FS-neuron）替代传统ANN中的神经元，FS 神经元模型具有内部动态特性，经过优化后可模拟具有少量脉冲的特定激活函数的ANN 神经元。 图示：将ANN 神经元转换为FS 神经元。（来源：论文） 研究人员展示了多种激活函数（SiLU、ReLU和Sigmoid）的示例，证明了该算法可以对任何激活函数进行转换。用于多个数据集试验后，结果显示平均仅需要两个峰值的SNN ，就能够以接近等效ANN的性能对图像进行分类。 以人脑中的信息处理方式为范例 过去，许多 ANN 到 SNN 的转换都集中在速率编码上，即将ANN中使用的实数转换为一系列峰值，速率等于所表示的值。这些尝试不仅导致性能大幅度降低，还由于一次计算需要大量脉冲信号，造成时间上的延迟以及能耗的增加。 Maass和Stöckl的灵感来自人脑的运作方式，脉冲类似于生物神经元通过其神经连接网传递信息的动作电位。脉冲在大脑中的发生频率很低，因此，尽管人脑每时每刻都要执行复杂的学习、控制、调节和记忆任务，但功耗却能保持在20 W以下。 图示：用脉冲编码信息。（来源：Nature） 在Maass和Stöckl的设计方法中，信息的传递不仅取决于神经元发出多少脉冲，还取决于神经元何时发出。利用生物学的启发，该团队的算法可以通过峰值随时间变化的模式对信息进行编码。「你可以将其理解为摩斯电码，信号之间的停顿也可以传输信息，」马斯解释说。 Stöckl和Maass的解决方案以其简单性而著称。对脉冲之间的时间间隔进行编码，可以传输大量附加信息。Maass说：「可以在处理器之间传递和在耗能更大的硬件中一样多的信息。」 该算法成功的关键是将激活函数的算术解转换到时域上。因此，在选定的时间步长上，FS 神经元产生的脉冲模式在时间上等同于ANN 神经元的幅度响应，数量越大越接近。 图示：不同激活函数的FS 神经元的近似值。（来源：论文） SNN形态硬件的争论 关于SNN形态硬件平台的实用性的争论早在2019年就引起了广泛的关注。对此，Facebook的首席AI科学家杨立昆（Yann LeCun）和英特尔的神经形态计算负责人迈克·戴维斯（Mike Davies）表达了截然不同的观点。 LeCun质疑：「为什么要为无法运行的算法构建芯片？」；Davies 则认为「大脑是我们拥有的真正的智能计算的实例」，人工神经网络执行的是优化而不是「真实的学习」。 神经形态硬件是解锁在边缘运行低功耗机器学习的关键，可以减少延迟、提高数据安全性和隐私性。但现实情况是，迄今为止，神经形态计算未能证明这一愿景。我们究竟要如何实现？ Stöckl和Maass讨论了FS 神经元在神经形态硬件平台上实现的可能性，他们认为，只需要将内存专用于三个静态函数硬件即可进行特定激活函数的转换，并且这种稀疏的峰值将使功耗大大低于先前硬件实现的SNN。 或许我们不需要质疑哪种神经网络更好，或许我们可以学会结合利用两者的优势。 论文链接：https://www.nature.com/articles/s42256-021-00311-4 参考内容： https://www.eurekalert.org/pub_releases/2021-03/guot-naf031121.php https://www.nature.com/articles/s42256-021-00309-y
公开喊话给中国投30颗原子弹，2小时被免职，麦克阿瑟现状如何最近上映的电影金刚川可谓是生动的描绘出了中国志愿军在抗美援朝战争中伟大光辉的形象，而电影中最让人感叹的一句话来自美国大兵，他们说中国志愿军最可怕的地方就是可以完成各种不可能，而中国宇宙浩瀚无奇不有，你真的理解空间一词吗？当我们站在喧闹繁华的大街上，我们眼中映入了各种熟悉的事物，比如建筑物，小汽车，公交车和人群，最明显的地方莫过于像上海和北京这样拥挤的大城市。然而在建构起日常世界万物的周围，有个同样量子信息周报日本发力量子计算机麻省理工人造巨型原子启科量子专注于量子信息处理技术的研发与应用产业动态日本成立产学合作协会发力量子计算机7月30日，以东京大学为主体的产学合作协会正式成立。瑞穗金融集团（FG）和日立制作所加盟该协会，科学角度来看，许多宠物主人对宠物做出的7个错误的行为大多数的宠物主人都很疼爱自己的宠物，因此会想尽一切办法照顾好自己的宠物。但是，我们无法了解动物们的想法和第一感受。很多时候，宠物主人为宠物做的事情，从科学的角度来看并不那么的正确。伪科学在过去，世界各地的人们相信的6件错误的事情科学经历了长足的发展，但过去的人们并不像现在的人们那么信奉科学。许多如今在我们看来属于常识范畴的事情，在过去都拥有其他奇怪的解释，而且它们被作为真理广泛地在社会中传播开。通过今天的看起来是为女性写的小说，却是所有男性应该阅读的伟大著作尽管读书这件事情本身是十分私人的，但还是有很多人愿意把它分享出来，以此来证明自己与时俱进，热爱读书。比如你的男朋友们，纷纷以身作则，时不时在社交网络上放出自己与某一本小说的合影，或许多女性都拥有，但却没能正确穿搭的7件物品服装搭配可以帮助我们获得美感，提升自信，也可以反应我们的内心世界。正确的服装搭配甚至可以帮助我们在职场上获得信任。对于大多数女性来说，她们会在自己的衣柜里增添各种不同的衣物和配饰，一万小时学习理论，助力你升职加薪一万小时理论，相信很多人都听说过，意思就是如果想成为某个领域的专家，需要花10000小时去学习专研。如果按照每天工作8小时，一周工作5天来计算的话，那么想要成为某个领域的专家，就需没有产品交付和生产系统的社群就是讲理论割韭菜收智商税！周雨浩专栏，100节实践到理论课程，从基础理论到产品交付到生产系统的系统化解决方案，全面解决社交电商的免费成交社群运营复合利润和智能生产的四大问题！1社交电商是分享和链接，不是分销Pantone刚刚发布2020年度色，这个世界还需要它吗？每到一年快要结束的时候，互联网就会用铺天盖地的年度总结来提醒你，这一年就要过去了，有意无意地，这些信息似乎总能掀动起一种情绪，明年要认真过才是，新的一年要加油，接下来一年要对自己好有人替你闻了100瓶香水，挑出最有秋冬气息的20瓶如果不是专业评测师，下这么大的功夫去挑选香水，是不是有些兴师动众？其实不是的，一开始就不是为了冒充专家推荐香水才这么做。事情是这样的，我每年都会在我的微博上请读者分享香水测评。这类