范文健康探索娱乐情感热点
投稿投诉
热点动态
科技财经
情感日志
励志美文
娱乐时尚
游戏搞笑
探索旅游
历史星座
健康养生
美丽育儿
范文作文
教案论文
国学影视

什么是深度学习?什么是类脑计算?

  现如今,谈起人工智能我们都会想到的是"深度学习"(deep learning),无论是战胜李世石的AlphaGo,还是能够随意写出人类水平文章的GPT-3,它们的背后都依托的是这套算法。
  它具有很好的数学解释性,与现有的计算机架构完美匹配,但也存在需要大量数据训练、耗能巨大以及随之而来的产热惊人等问题,为此最前沿的研究者提出了"类脑计算"的概念,想要通过进一步模仿人类大脑的运行方式,重构计算机的底层架构,好让人工智能摆脱这种越好用成本越高的窘境。
  目前,新兴的"类脑计算"还没有大规模应用,但各项研究已经取得了一定的突破,今天首席未来官特意为你梳理了"类脑计算"的底层原理,并通过与"深度学习"算法的对比,让你提前了解这个可能会颠覆未来计算机产业的新技术。
  1. "深度学习"的原理
  "深度学习"算法本质是对人类大脑视觉系统的模仿,因为人的视觉系统由很多层神经网络组成,层与层之间通过学习训练生成连接的通路,所以被称为"深度学习"。
  深度学习算法虽然在层级上模拟了视觉系统,但受限于电脑结构中存储与运算分开的模式,做不到像人类的神经元一样将计算(神经元)和存储(突触)一体化,于是把神经元的运作方式抽象成了一个输入与输出结合的计算过程。
  这就导致了原本一个神经元能够完成的任务,在计算机上需要大量的计算单位才能完成。2021年8月10日,在Neuron上发布的一项研究显示,人脑一个神经元的功能在深度算法中需要1000个以上的计算单元通过5到8层的深度网络实现。
  2. 先天缺陷带来的短板
  由于需要大量计算单元才能实现单个人类神经元的功能,这就直接导致了深度学习要实现与人脑相似的功能复杂程度就会更高。
  如今在语言模型上最强的GPT-3拥有1750亿个参数,做个简单推导也就相当于1.7亿个人类的脑神经元,而人脑的神经元个数在100亿左右,如果把人脑神经网络的复杂连接再算上,要完全模拟一个人脑出来的耗能将难以想象。
  更多的计算单元也就意味着更大的能量消耗,同样拿GPT-3为例,它训练一次消耗的能量可以让一辆车在在地球与月球之间跑完一个来回,而只用来下围棋的Alpha Go仅计算单元的功率也有2000W的水平,与之相对的是坐它对面的李世石的大脑耗能只需要20W左右,是它的百分之一。
  3. 模仿神经元的"类脑计算"
  为了解决深度学习的问题,科学家提出了进一步模拟人脑"神经元—突触"体系的"类脑计算"思路,分别从算法和硬件两方面探索打造"人工大脑"的方法。
  算法层面上,目前的研究重点是"脉冲神经网络"(Spiking Neural Network,简称SNN),顾名思义就是模仿神经脉冲信号传递、运算的人工智能算法,SNN的最大优点在于,相较传统算法中每个计算单元始终处于活跃状态不同,其每个计算单元只有在接受或者发出信号时才被激活,同时它进行的只有加减运算,节省了运算资源也减小了求和量。
  但脉冲本身的不连续性使得传统的人工智能训练模式并不能适用于它,所以其性能尽管理论上可以与深度学习算法相匹配,相应的训练模式还处于研究阶段。
  硬件层面,类脑芯片也开始兴起,不再像传统计算机中的"冯·诺依曼架构",把存储与计算功能分离,使得每次计算都要在内存和CPU上频繁调用数据,导致信息效率差、发热高,而是基于微电子技术和新型神经形态器件的结合,实现存储与计算的深度融合,使芯片能够进行异步、并行、低速和分布式处理信息数据,并具备自主感知、识别和学习的能力。
  4. 4款类脑芯片
  ·IBM TrueNorth(SyNAPSE芯片)
  2014年8月,IBM公司推出了第二代类脑芯片"True North",工艺进化到了28纳米,拥有了100万个可编程神经元和2.56亿个可编程数据传输通道。
  这次最大的进步在于"神经突触内核架构",让其中每个计算核心(神经元)都拥有了本地内存,工作方式已经非常类似人脑中的神经元,总功耗降低到了第一代的1%,体积是第一代的十五分之一。
  ·英特尔Loihi芯片
  Loihi芯片是英特尔的首款自学习神经元芯片,历时十年研究设计,可以像人类大脑一样,通过脉冲或尖峰传递信息,并自动调节突触强度,通过环境中的各种反馈信息,进行自主学习、下达指令。
  据英特尔的数据,该芯片内部包含了128个计算核心,每个核心集成1024个人工神经元,总计13.1万个神经元,彼此之间通过1.3亿个突触相互连接,运算规模和虾脑相当。
  ·高通Zeroth芯片
  Zeroth不需要预编程,通过正向强化的方式,提供了类似人类大脑多巴胺刺激的方式,让芯片具备了从周围环境获取反馈的能力,高通用装载该芯片的机器小车进行演示,使小车在自行启发算法下完成寻路、躲避障碍等任务。
  ·西井科技DeepSouth芯片
  西井科技是一家中国公司,已推出了两款类脑芯片,其中DeepSouth拥有5000 万类脑神经元,总计有 50 亿的"神经突触",可以直接在芯片上完成计算,不需要通过网络连接后台服务器,可在"无网络"情况下使用。

linux下用户uid和gid有啥意义平时我们登录linux时候,大家都是用户名登录,可是大家可能并不知道用户名其实就是系统中的后台对用户管理具现化体现。而后台对用户名管理就是通过一串数值识别代替。大家可以先这么理解系宋晓互联互通可以提升用户体验,也有助于社会治理为了促进平台之间的互联互通保障消费者权益与助力中小企业发展,北京航空航天大学网络空间安全学院联合北京科技创新中心研究基地复旦大学中国研究院数字一带一路研究中心于1月21日举办平台互还有5天!超100款APP侵害用户权益面临下架本报记者谢若琳留给这些APP整改的时间不多了。2月18日,工信部通报2022年第一批侵害用户权益的APP,共包含107款APP,视频直播软件成为重灾区。工信部表示,依据个人信息保护一千五百元左右什么手机好点?1500元档现在有很多选择,然后小编把这些选择分为两类,供大家参考。性能怪兽类可能有人有疑问了,1500元买什么性能怪兽级别的手机?没错,还真有,这里的性能怪兽是指相对于普通千元机工作流引擎哪家好?分享一款JVS开源框架系列流程引擎含开源地址一项目简介JVS是面向软件开发团队可以快速实现应用的基础开发框架,采用微服务分布式框架,提供丰富的基础功能,集成众多业务引擎,它灵活性强不同品牌的显卡有什么差别?不同品牌的显卡有什么差别?关于这个问题我来说说我的看法吧,到目前为止我应该也有十几年的玩机史了,多多少少对电脑硬件还是有一些了解,对于一台电脑来说最重要的两大件无非就是CPU和显卡关于人力资源数字化转型,企业该怎么做?人力资源管理数字化要回归本源,即组织能力建设。现在的组织能力跟原来定义的组织能力本质区别在哪里?过去我们看企业,主要看它是不是管控型的,因为大多数中国企业的组织结构都比较复杂。所以FindX5系列出道即巅峰?马里亚纳AI算力超A15,还有3A算法加持智能手机发展至今,随着硬件趋向同质化,大多数手机厂商都已进入了瓶颈期。为了提高自己的核心竞争力,自研芯片成为了众多手机厂商的新赛道,国内大厂纷纷宣布了造芯计划。其中近期OPPO就发手机型号的ProSEMax,代表什么意思?1字之差可能就相差千元手机型号里的ProSTSEMax,都代表什么意思?如小米12proiPhone6s华为nova7se。相信很多人都有这样的疑问,其实这是手机厂家为了区分不同段位手机的标记。买手机时2K骁龙8再次降价200,比小米12还便宜了准智能手机的更新换代速度非常快,你看就高通骁龙8Gen1旗舰手机而已目前就已经有多款搭载高通骁龙8Gen1处理器的旗舰手机推出,而且价格上也越来越实惠了。小米在去年12月的时候推出拆解跳蚤市场捡漏来的飞利浦1590与三洋5065收音机比较做工当前科技飞速发展的时代,很多厂家都在不同的时期,生产诸多类似的产品,或者是相同品类竞争的产品,良性竞争的环境下,有可能您购买的使用品牌产品和你实际使用的东西半毛钱关系都没有在跳蚤市
销量不足万台,为何第一台5G手机销量如此惨淡?前几年中兴手机在国内市场还是有一定的市场份额,当年中华酷联可是国内手机品牌的4强,但最近几年在华为小米ov的冲击之下,中兴的手机市场份额越来越小,在4G时代,中兴在国内的市场份额跟手机电量扛不住用?自己检查解决,能省掉好几百随着大家使用手机的频率越来越高,常常面临手机电量掉得飞快充电过快或过慢手机发烫严重等问题。那什么时候是不需要换电池,自己操作解决,什么时候才是电池老化,需要更换呢?下面有这三种情况新基建项目火热开局5G基站大数据中心工业互联网等成重点2021年伊始,一批新基建重大项目迎来密集开工。从近期多个部委和地方两会部署上看,加快新型基础设施建设正成为扩大有效投资的关键选项。湖北广东等地正加紧谋划一批千亿级的新基建投资建设2020年远程办公云办公企业综合排行榜,鹏博士排名第18云生活云经济云办公,随着移动互联网时代的深入发展,云技术正快速地渗透进我们的日常生活。2020年以来,社会生产的各个部门也加速了云化的进程。云办公普及率大大提升,曾经起协助作用的线2021行业前瞻云网发力注智赋能数字化转型很难想象,一场疫情对社会运行的影响如此之大,它加速推动了社会数字化转型的进程,更多的行业企业意识到数字化的重要性和紧迫性。展望2021年,注定绕不开数字化转型,在这场浪潮中,电信运5G时代,数字经济助推运营商政企业务发展数字经济乘5G之风,助推运营商政企业务发展。有机构指出,未来23年是5G产业经济迅速发展的黄金时期,数字化需求的不断提升,将有效促进数字经济规模发展。据中国信息通信研究院预测,我国智能云网从时代所需,到运营商所向企业数字化经历数十年发展,已经成为经济发展的主要推动力之一。在目前阶段,企业上云成为企业数字化转型中的主要趋势。而上云必先配网,与企业上云相配套的云网服务需求也随之提升。在2021R95900HXRX6800M强劲组合?竟然是ROG魔霸5R5900HXRX6800M双A合璧释放芯能作为今年最受玩家关注的处理器,ROG魔霸5R为玩家搭载了AMD的Ryzen95900HX,采用7nm制程工艺,拥有8核心16线程,在ROG一圈六铁!这是什么配置?TRNVXHIFI耳机体验前言自打笔记本电脑取消掉麦克风接口之后,很多带麦的耳机都会出现没法同时兼顾耳机和麦克风的功能。用户就需要使用额外的声卡进行转接带麦的耳机,很是麻烦,同时也影响桌面美观。但我最近发现App精准控制宠物食量Pawbby智能宠物碗体验前言主子是只肥猫,能吃能睡,体型肥圆,养了它之后对他百般呵护,它的到来给家里带来不少的乐趣。奈何工作加班出差等情况时有发生,没法及时回家投喂,总是怕它吃不饱,一次投喂太多又担心饮食数字化大视野这四个政协提案,代表了中国数字化发展的晴雨表数字化将怎么走?整个社会在想什么,在看什么,准备做什么?跟着政协委员的提案或许我们能够管中窥豹,得见几许真章!为什么这么说,懂的人自然懂!知名电信专家陈志刚为我们梳理了十大关键词,