范文健康探索娱乐情感热点
热点动态
科技财经
情感日志
励志美文
娱乐时尚
游戏搞笑
探索旅游
历史星座
健康养生
美丽育儿
范文作文
教案论文

AlphaFold2成功秘诀注意力机制取代卷积网络,预测准确性提升超30

  最近,DeepMind 开源 AlphaFold2,让学术圈再一次沸腾了。
  这意味着,对于普通研究人员而言曾需要花几年时间才能破解的蛋白质结构,现在用 AlphaFold2 几小时就能算出来了!
  那么,如此厉害的 AlphaFold2 究竟如何做到的呢?
  DeepMind 团队已经将它的详细信息在《Nature》上公开发表。
  现在,就让我们来看看 AlphaFold2 的魔法是怎么实现的吧。卷积消失了,Attention 来了
  论文中,研究人员强调 AlphaFold2 是一个完全不同于 AlphaFold 的新模型。
  的确,它们使用的模型框架都不一样,这也是 AlphaFold2 准确性能够突飞猛进的主要原因。
  此前 AlphaFold 中所有的卷积神经网络,现在都被替换成了 Attention 。
  为什么要这样做呢?
  我们首先要了解一下 AlphaFold 的工作原理:
  它主要是通过预测蛋白质中每对氨基酸之间的距离分布,以及连接它们的化学键之间的角度,然后将所有氨基酸对的测量结果汇总成 2D 的距离直方图。
  然后让卷积神经网络对这些图片进行学习,从而构建出蛋白质的 3D 结构。
  ▲AlphaFold 主要架构
  但这是一种从局部开始进行预测的方式,很有可能会忽略蛋白质结构信息的长距离依赖性。
  而 Attention 的特点刚好可以弥补这一缺陷,它是一种模仿人类注意力的网络架构,可以同时聚焦多个细节部分。
  这样可以使得框架预测的结果更加全面、准确。
  在 CASP13 中,AlphaFold 预测的准确性还只有不到 60 分。
  但是在 CASP14 中 AlphaFold2 就将准确性直接拔高到了 92.4/100。图网络 + Attention
  具体来看,AlphaFold2 主要利用多序列比对(MSA),把蛋白质的结构和生物信息整合到了深度学习算法中。
  它主要包括两个部分:神经网络 EvoFormer 和结构模块(Structure module)。
  在 EvoFormer 中,主要是将图网络(Graph networks)和多序列比对(MSA)结合完成结构预测。
  图网络可以很好表示事物之间的相关性,在这里,它可以将蛋白质的相关信息构建出一个图表,以此表示不同氨基酸之间的距离。
  研究人员用 Attention 机制构建出一个特殊的"三重自注意力机制(Triangular self-attention)",来处理计算氨基酸之间的关系图。
  ▲三重自注意力机制(Triangular self-attention)
  然后,他们将这一步得到的信息与多序列比对结合。
  多序列比对主要是使相同残基的位点位于同一列,暴露出不同序列之间的相似部分,从而推断出不同蛋白质在结构和功能上的相似关系。
  计算出的氨基酸关系与 MSA 进行信息交换,能直接推理出空间和进化关系的配对表征。预测所有原子的 3D 结构
  架构的第二部分是一个结构模块(Structure Module),它的主要工作是将 EvoFormer 得到的信息转换为蛋白质的 3D 结构。
  ▲结构模块(Structure module)
  在这里,研究人员同样使用了 Attention 机制,它可以单独计算蛋白质的各个部分,称为"不变点注意力(invariant point attention)"机制。
  它以某个原子为原点,构建出一个 3D 参考场,根据预测信息进行旋转和平移,得到一个结构框架。
  ▲不变点注意力(invariant point attention)
  然后 Attention 机制会对所有原子都进行预测,最终汇总得出一个高度准确的蛋白质结构。
  此外,研究人员还强调 AlphaFold2 是一个"端到端"的神经网络。
  他们会反复把最终损失应用于输出结果,然后再对输出结果进行递归,不断逼近正确结果。
  这样做既能减少额外的训练,还能大幅提高预测结构的准确性。为破解蛋白质折叠谜题带来希望
  Alphafold2 的出现,能更好地预判蛋白质与分子结合的概率,从而极大地加速新药研发的效率。
  此次 Alphafold2 开源,将进一步推动科学界前进。
  据了解,目前 DeepMind 已经与瑞士的一些研究团队合作,通过预测蛋白质结构开展药物方面的研究。
  事实上,研究 Alphafold2 预测程序本身,也为探索蛋白质结构折叠原理带来了希望。
  芝加哥大学的计算生物学家 Jinbo Xu 就表示:
  这些工具的开源,意味着科学界能够在此基础上开发出更加强大的软件。
  论文地址:
  https://www.nature.com/articles/s41586-021-03819-2_reference.pdf
  补充材料:
  https://static-content.springer.com/esm/art%3A10.1038%2Fs41586-021-03819-2/MediaObjects/41586_2021_3819_MOESM1_ESM.pdf*

13天时间让皮肤细胞年轻30岁重返青春,剑桥科学家找到精准细胞重编程新方法为了让皮肤保持年轻对抗衰老,人类想出很多手段。现在科学家找到一种新方法,让53岁皮肤细胞年轻30岁,直接重返青春。而且这一次不局限于小鼠研究,实验中真正使用了人类细胞。相关论文目前剑桥大学新技术可使皮肤年轻30岁,还可加速伤口愈合北京时间4月8日消息,剑桥大学研究人员称,他们开发的一项新技术可以使人类皮肤细胞年轻30岁,通过对慢慢变老的细胞重编程,使细胞功能恢复到更年轻的状态。在实验中,衰老的细胞会变得与被对称虽美,但不对称才是宇宙和生命存在的原因北京时间2月11日消息,据国外媒体报道,在人类中,左撇子的比例大约为十分之一,是名副其实的少数。但毫无疑问的是,从亚原子粒子到生命本身,宇宙其实很青睐左撇子。事实上,如果没有这种基科学家通过SKA先导望远镜发现超强磁场新天体,距太阳系约4200光年IT之家2月7日消息,据上海天文台消息,近日,中国科学院上海天文台助理研究员张翔与澳大利亚科廷大学国际射电天文研究中心(ICRARCurtin)研究人员HurleyWalker等通1个月飞行160万公里,NASA韦伯太空望远镜到达最终轨道1月25日消息,美国宇航局(NASA)的詹姆斯韦伯太空望远镜(JWST)过去1个月中在太空中飞行了160多万公里,于美国当地时间周一进行了最后一次航向修正操作,终于到达了其最终目的科学家新猜想轴子会是我们寻找暗物质的最佳选择吗北京时间3月11日消息,据国外媒体报道,科学家一直在探索暗物质的真实身份和组成。现在,研究人员发现了新的证据,为一种被称为轴子(axion)的假想粒子提供了支持,认为这很可能是暗物奇特系外行星的昼夜一面永远白天,另一面永远黑夜北京时间3月3日消息,据国外媒体报道,天文学家已经在太阳系以外发现了许多围绕其他恒星运行的行星,这些星球与太阳系的行星非常不同。在系外行星中,有许多是大型的气态行星,它们的体积与木宇宙大爆炸会不会重复发生北京时间3月2日消息,据国外媒体报道,自从罗杰彭罗斯2020年获得诺贝尔奖以来,许多人都对他提出的共形循环宇宙学(简称CCC)产生了兴趣。虽然我们可能没有资格质疑诺奖得主,但彭罗斯科幻变现实喷下即疗愈,下一步生物3D打印生命最近,因为315新闻的曝光,大家最不想看到的食物就是酸菜了,下头到让人甚至有点PTSD。看到什么十几道古法晾晒工序,眼前浮现的是一双双大脚板特殊腌制。涉及到酸菜系列的各种食物,泡面我国生物合成领域取得重大突破,全球首次实现从一氧化碳到蛋白质的合成IT之家10月31日消息,据中国农业信息网,我国在一碳生物合成领域取得重大突破性进展。中国农业科学院饲料研究所昨日宣布全球首次实现从一氧化碳到蛋白质的合成,并已形成万吨级工业产能。中国生物人凝血因子上市,可用于防治血友病等IT之家9月10日消息根据国药集团中国生物官方消息,今日其下属企业天坛生物发布公告称,近日收到国家药品监督管理局签发的药品注册证书,成都蓉生研制的人凝血因子符合药品注册的有关要求。
SpaceX星链遭投诉,马斯克回怼只是影响你家生意了美国通信公司Viasat此前向美国联邦通信委员会提交申请,要求调查SpaceX公司的星链互联网卫星,称卫星网络会对环境造成危害。针对美国卫星通信公司Viasat有关星链互联网卫星对SpaceX怎样回收超重型火箭马斯克称要用发射塔悬臂美国太空探索技术公司SpaceX首席执行官埃隆马斯克(ElonMusk)表示,该公司将尝试一种与猎鹰9号火箭助推器回收截然不同的方法,以回收发射星际飞船的超重型火箭助推器。超重型火快讯我国最大推力分段式固体火箭发动机试车成功IT之家12月30日消息据央视新闻,刚刚,我国自主研制的民用航天首台3。2米3分段大型固体火箭助推发动机在西安完成首次地面试车,这是我国目前为止推力最大的分段式固体火箭发动机。报道马斯克超级重型火箭首个原型将在几个月后上天据国外媒体报道,太空探索技术公司SpaceX首席执行官埃隆马斯克(ElonMusk)表示,用于星际飞船助推器的超级重型火箭助推器首个原型将在几个月后完成,并准备进行飞行测试。超级重俄罗斯安加拉A5M重型火箭计划于2024年发射IT之家12月27日消息据俄罗斯媒体塔斯社报道,俄罗斯礼炮设计局总设计师谢尔盖库兹涅佐夫表示,俄罗斯第一个现代化重型火箭安加拉A5M计划于2024年底发射。他还表示,目前重型火箭的黑洞中心会发生什么所有的可能性都很奇怪北京时间12月4日消息,黑洞中心的奇点是终极的无主之地在这里,物质被压缩到一个无限小的点,所有关于时间和空间的概念都被完全打破。事实上,奇点并不存在必须有什么东西取代奇点,但我们还我国科研团队发现双黑洞吞噬恒星罕见天文现象IT之家11月29日消息据新华社今日报道,安徽师范大学物理与电子信息学院舒新文教授研究小组在一个河外星系中发现了一对互相绕转的超大质量双黑洞吞噬恒星的罕见天文现象。这是天体物理学家破局国外垄断,华中科大首台高精度量子重力仪成功交付当前,以量子信息科学为代表的量子科技正在不断形成新的科学前沿激发革命性的科技创新孕育对人类社会产生巨大影响的颠覆性技术。量子科技的产业化及其应用备受关注。近日,华中科大成功实现量子中国科大多参数量子精密测量获得重要进展达到海森堡极限最优测量来自中国科大的消息显示,近日,中国科大郭光灿院士团队李传锋项国勇研究组与香港中文大学袁海东教授在多参数量子精密测量研究中取得重要实验进展,完全解决了量子比特幺正演化算法中三个参数之中国科大量子存储领域重要进展按需式读取可集成固态量子存储器问世1月1日消息来自中国科大的消息显示,近日,中国科大郭光灿院士团队李传锋周宗权研究组在量子存储领域取得重要进展,首次实现了按需式读取的可集成固态量子存储器,存储保真度达到99。30。中国科大量子通信领域重要进展首次在自由空间信道实现测量设备无关量子密钥分发实验来自中国科大的消息显示,近日,中国科大潘建伟及其同事彭承志张强等与清华大学王向斌,中科院上海微系统所尤立星等人合作,首次在国际上实现了基于远距离自由空间信道的测量设备无关量子密钥分