PyTorch核心开发者灵魂发问我们怎么就越来越像Julia
PyTorch社区最近有一种声音:下个版本应该抛弃Python改用Julia语言。
现在就连PyTorch团队内部也会拿这个说法来开玩笑。
对这个问题,核心开发成员中的EdwardYang在论坛上作出过一些回应。
他认为PyTorch的确越来越像Julia了,比如借鉴Julia的多重分派特性开发了PytorchDispatcher。
PyTorch总体的发展方向也和Julia的愿景一致,也就是同时具备拓展性、易用性和执行性能。
一方面PyTorch的底层代码后期用C重写以获得更好的性能,另一方面functorch、fx等新功能又让用户可以直接使用Python做以前必须借助C完成的工作。
那为什么不直接改用Julia呢?
害,其实是舍不得Python那无可替代的生态。
当初从原版Torch使用的Lua改用Python就是看中了生态这一点。这么多年过去了其他语言生态连一点可能超过Python的迹象都没有。
简而言之,Julia语言本身的特性和Python的生态他们全都要,向Julia的优点学习也是团队未来的努力方向。
那么,Julia这种语言到底好在哪,让PyTorch开发团队都向它学习?
面向科学计算设计的语言
Julia来自麻省理工CSAIL实验室,设计初衷就是想要一个既有C的速度又有Ruby的动态性、既能像Matlab一样使用数学表达式又有Python的通用性。
Julia要能像Perl一样自然地处理字符串、像R一样适用于统计,像Shell一样作为胶水语言去和其他语言交互。
要有Hadoop的并行计算能力,又不想要那些繁杂的配置。
最后做出来的Julia采用即时编译(JustInTime),速度比需要解释器的Python快得多,又没有失去交互性。
通过多重分派(MultipleDispatch)特性来实现类型稳定又不失脚本语言的简洁灵活。
同一个函数名对不同参数类型的调用分派不同的操作,因为适合处理多种数据类型还被PyTorch给学了去。
具体到机器学习来说,Julia执行各类算法包括矩阵运算的速度都比Python快得多。
Julia生态里也有自己的开源深度学习框架JuliaFlux。
此外Julia还在语法上对线性代数、数据处理这些场景有额外的优化。
比如支持Unicode数学符号,数字乘以变量时候可以省略,以及索引从1而不是0开始更符合人类直觉。
Julia代码可以写成这样:
0。5f(u)u;f(2)sin(2)
以至于有些数学背景的开发者认为,Julia代码写起来就像在黑板上做数学题一样的,很亲切。
相比之下,用Python做矩阵运算感觉就不是那么好。
Python:
np。dot(array1,array2)
Julia:
array1。array2
Julia的历史可以追溯到2009年,由于想实现的功能太多,直到2018年才对外发布1。0正式版。
不过最近几年Julia已迅速被金融、医药、航天等一些行业接受,使用者包括摩根大通、辉瑞、NASA等。
TIOBE指数中的Julia流行趋势变化
Julia改变了过去他们只能用C等高性能语言做底层开发、同时用高易用性的Python等语言做扩展开发的割裂问题。
今年7月,Julia创始团队成立的公司JuliaComputing还获得2400万美元的A轮融资。
Julia语言速度快、天生适合机器学习又在高速成长,也难怪PyTorch社区会有用Julia替代Python的声音出现。
有人认为Python是一种糟糕的语言,虽然有优秀的生态,但生态中对机器学习最有价值的部分(Numpy)其实是用C实现的。
Python生态虽然强大,但人们对其中的混乱也有不少诟病,各种重复开发的包管理系统让配置好Python开发环境都不是一件容易事。
相比之下,Julia的包管理方案就很统一,虽然有可能是还在起步阶段没来得及混乱。
也有人认为Python这些所谓的缺点其实正是它流行的原因。
像Python、Javascript和PHP这种看起来糟糕的语言,正是因为能够轻松的编写糟糕代码,降低了门槛而流行。
这位要提醒大家Julia自身就带有和其他语言的交互功能,他平常会在Julia代码里调用Huggingface的Python模型作开发,两种生态都用上才是坠吼的。
最后,有人很不理解PyTorch开发团队不选择迁移到Julia的做法,既然Julia语言有所有他们需要的特性,还要花时间在Python里重新造轮子是自找麻烦。
另一位的视角有些微妙的不同:
这正是PyTorch团队想把方便留给用户,而把麻烦留给自己。对这种态度我很感激。参考链接:
〔1〕https:devdiscuss。pytorch。orgtwhereweareheadedandwhyitlooksalotlikejuliabutnotexactlylikejulia276
〔2〕https:news。ycombinator。comitem?id29354474
〔3〕https:ucidatascienceinitiative。github。ioIntroToJuliaHtmlWhyJulia
高三学生综合评语学校期末操行评定工作是教师对学生ldquo;精雕细琢rdquo;的重要教育手段之一。作为班主任,应该把握学生的心理特征,正确评价学生,努力使他们健康、愉快地度过中学阶段;下面是……
加码芯片和SET,三星电子宣布更换所有事业部负责人IT之家12月7日消息,彭博社报道称,三星电子在年度高层管理人员改组声明中表示,该公司整并了消费电子和移动部门。据悉,三星视觉显示业务负责人韩钟熙(JongHeeHan)……
策划书的标准格式范文策划书名称尽可能具体的写出策划名称,如ldquo;times;年times;月times;日信息系times;活动策划书rdquo;,置于页面中央。下面是策划书的标准格式范文,……
公司中标喜报范文公司中标的喜讯怎么写中标是指投标人被招标人按照法定流程确定为招标项目合同签订对象,那么公司中标的喜报怎么写呢?下面品学网小编给大家介绍关于公司中标喜报范文的相关资料,希望对您有所帮助。公司中标喜报……
推进元宇宙开发,Meta(原Facebook)继续重组架构人北京时间12月10日上午消息,据报道,消息人士透露,Facebook的母公司MetaPlatforms已经将人工智能团队合并至开发增强现实和虚拟现实产品的RealityLabs……
Facebook正式发布虚拟现实应用HorizonWorld北京时间12月10日消息,Facebook当地时间星期四宣布向美国和加拿大18岁及以上用户开放虚拟现实应用HorizonWorlds。去年,Facebook向部分受到邀请的Oc……
改名为Meta的这一年,Facebook已痛失18位高管北京时间12月9日下午消息,据报道,Facebook(已更名为Meta)今年经历了高管离职大潮,到目前为止至少已有18位高管离职,包括首席技术官(CTO)、首席营收官(CRO)……
300多名科学家致信扎克伯格要求公开Facebook对青少年北京时间12月7日晚间消息,据报道,一个由300多名心理学、科技和健康领域的科学家组成的国际联盟,周一致信Meta公司CEO马克扎克伯格(MarkZuckerberg),要求M……
说话学生检讨书汇总五篇在学习、工作、生活中出现了失误后,为了避免再犯,往往被要求写检讨书来自我检讨,在写检讨书时要注意用语,切忌自由散漫。那么问题来了,到底应如何写检讨书呢?以下是小编为大家收集的说……
中芯国际联席CEO赵海军全球缺芯跟中国半导体产业没太大关系,11月19日,在上海举行的2021红杉数字科技全球领袖峰会上,中芯国际联席CEO赵海军表示,考虑到产业链可控等因素,中国半导体的产业需求至少应有三分之一由本地制造支撑。中……
清华大学教授王志华目前国内集成电路人才荒现象短期无解,到2011月20日下午消息,2021未来科学大奖周科学峰会期间,清华大学长聘教授、电子电气工程师协会会士王志华发表题为《简论集成电路产业及技术发展》的演讲,王志华指出,集成电路是工业……
学校消防安全教育主题班会方案火一旦失去控制就会造成灾难,古往今来,多少无情的火灾不胜枚举。那么,下面是小编给大家整理收集的学校消防安全教育主题班会方案,供大家阅读参考。学校消防安全教育主题班会方案1……
流离的造句【注音】:liuli【意思】:由于灾荒战乱而流转离散:失所(到处流浪,无法安身)颠沛。流离造句:1、是的,政府应该帮助那些流离失所的人。2、这就是为什么……
爱是什么颜色教学设计范文教材分析《爱什么颜色》这首诗歌以简练的语句,相同的结构段式勾勒了三副绚丽的色彩画面,抒发了作者对家乡对生活的热爱,以及对自己理想的追求。第一幅画面描绘了碧绿的禾苗,……
杯字开头的成语有哪些杯是盛酒、水、茶等的器皿,你知道哪些杯开头的成语?接下来品学网网小编将带来杯字开头成语内容,希望对大家有所帮助。由杯开头的成语有:杯酒言欢杯酒戈矛杯水车薪杯盘狼籍杯圈之思……
腾讯起诉微信截图生成软件开发商,后者被判赔偿75万元IT之家3月31日消息据南山区人民法院官方微信公众号消息,当别人晒出一张张微信收款截图、余额截图,你除了羡慕,还有没有想过这些截图可能是假的?日前,南山法院审结了腾讯科技……
霎时的近义词忽然狂风大作,霎时,飞沙走石,遮天盖地。下面是小编精选整理的霎时的近义词及造句,欢迎大家阅读,供您参考。霎时的近义词:俄顷、少顷、瞬间、顿时、片刻、刹那、片时……
理想的风筝第一课时教学设计方案教学目标:1、掌握本课的六个生字,理解文中的词语。2、能正确、流利读通课文。准确读通长句。3、整体把握课文内容,知道课文主要写了笑谈腿疾旋转板书放风筝三件事。……
荷花教案范文《荷花》教案〔教学目的〕1、理解课文内容,能够想象白荷花在这些大圆盘之间冒出来是什么样子;一池的荷花有什么姿态。能够理解冒饱胀挨挨挤挤等词的意思。2、能够准确……
余额宝7日收益率创历史新低万元单日收益仅6毛IT之家7月10日消息银河证券基金研究中心发布数据显示,2019年上半年,货币基金规模收益双双下降,不但规模较去年底减少3561。62亿元,而且超过七成货币基金收益率跌破了2。……
由核舟记谈简单说明文的写作(含范文)能写简单的说明文,做到内容具体,中心明确,文字通顺,是(大纲)对初中阶段说明文写作的基本要求,具体讲,包括以下几点:认真观察说明对象,抓住特征;说明讲究一定的顺序,……
天弘余额宝2018年报新增客户超1亿,平均每天为用户赚一个亿IT之家3月27日消息今天天弘余额宝基金发布年报,称其用户已经超过了5。8亿。而此前余额宝也公布过平台用户数为6亿,相当于每三个中国人就有一个人用余额宝。数据显示,成立五年多以……
蚂蚁基金余额宝用户破6亿IT之家1月8日消息据报道,1月8日,蚂蚁金服财富事业群常务副总裁、蚂蚁基金总经理祖国明在2019基金业金融科技峰会上介绍,截至2018年末,余额宝累计交易用户突破6亿户,基金……
AppAnnie拼多多淘宝相关数据还需校验,此前排名已撤回IT之家4月10日消息AppAnnie对昨日删除的报告作出说明称:关于2020年第一季度热门应用榜单,由于淘宝和拼多多的数据还需最终校检,我们已暂时撤回了相关排名报道,敬请知悉……