YRCloudFileV6。9。0加速企业在大数据应用技术创
近日,焱融科技发布分布式文件存储产品YRCloudFile6。9。0版本。该版本在功能和性能方面有多项技术性突破,主要包括大数据应用无缝对接Hadoop,为大数据应用提供高性能存储平台;独有的Dataload功能和智能分层细粒度化,更加精确丝滑地响应业务需求;同时实现NFSSMB协议节点的动态管理,使并发访问性能进一步提升;最后在产品运维和管理方式上更加贴合系统运维人员的使用场景,操作快速便捷。
YRCloudFile是焱融科技提供的新一代独立的混合云文件存储系统,基于灵活的SDS架构,可提供POSIX、NFS、SMBCIFS等丰富的文件服务,不仅可以用于企业的文件共享,大容量数据存储等通用场景,还能更成熟的应用于智能汽车、多模态AI、HPC高性能计算、生物信息、GIS等高性能计算应用场景。
在6。9。0版本中,YRCloudFile主要进行了以下重要更新:
产品性能:动态增加NFSSMB协议节点,提升整个YRCloudFile集群对外提供NFSSMB并发访问性能。
产品功能:YRCloudFile无缝对接Hadoop平台,将更易于扩展的存算分离架构与Hadoop兼容,通过YRCloudFile可完美替代HDFS。
用户体验:优化了资源占用等的界面统计信息。细化了智能分层、Dataload、日志审计、运维界面等,提升用户体验。
HDFS100兼容大数据应用极致性能文件存储平台
HDFS(HadoopDistributedFileSystem,即Hadoop分布式文件系统)作为Hadoop生态系统的一个重要组成部分,是Hadoop中的的存储组件,负责海量数据的存储。
随着大数据、数据湖在各个行业中的广泛应用,原生的HDFS在支撑大数据应用时,存在存算耦合、扩展不灵活的问题。YRCloudFile6。9。0版本,支持大数据相关框架,实现与HadoopSparkHivePrestoClickHouse的完全兼容,通过YRCloudFile可完美替代HDFS。Hadoop生态中的各种应用都可以在不改变代码的情况下,平滑地使用YRCloudFile存储并访问数据,实现更加贴合业务应用的存算分离架构,解耦资源。
YRCloudFile提供的大数据存算分离解决方案中的文件存储服务避免在管理和运维上投入过多精力,使计算资源弹性伸缩,满足客户对计算资源的灵活调度,更好地利用公有云计算弹性伸缩的能力。与此同时,YRCloudFile还支持对数据进行冷热分层,可将冷数据下刷到更低成本的对象存储中,大数据分析的存储成本大大降低。
例如在AI、自动驾驶等场景中,大数据处理作为整个数据处理流程中的重要环节,通过YRCloudFile对大数据框架的支持,用户仅在一套YRCloudFile集群上,就轻松实现对所有数据处理环节的支持,减少数据在不同集群之间的重复拷贝,进一步提升企业内部对非结构化数据的处理效率。
功能优化又双叒叕增强
冷热数据治理粒度更细
智能分层在海量数据全生命周期管理中非常实用,YRCloudFile6。9。0版本将分层策略粒度更加细化,新增分层下刷的任务状态和执行情况以及数据的历史记录功能,用户可实时掌握数据在冷热数据层之间的流动情况,更加强化管理。
数据流动功能更强大
为适应跨云和不同数据平台之间的数据流转需求,减少数据在不同集群之间的重复拷贝,进而提升企业内部对非结构化数据的处理效率。新版本Dataload功能支持用户多次导入导出的操作,随时满足在数据不断变化的状态下的数据更新需求。
日志审计功能
数据的关键操作记录,是系统管理员非常关注的系统运维工具。新版本增加日志审计功能,系统管理员可追溯客户端的删除、打开文件目录等重要操作的相关信息;同时支持对接ELK等工具对审计日志进行分析处理。
在Fluid中增加YRCloudFileRuntime支持
Fluid是一个开源的基于Kubernetes的分布式数据集编排和加速引擎,主要服务于云原生场景下的数据密集型应用,例如:大数据应用、AI应用等。在计算和存储分离的大背景驱动下,Fluid的目标是为AI与大数据云原生应用提供一层高效便捷的数据抽象,将数据从存储抽象出来。
通过Kubernetes服务提供的该数据层抽象,可以让数据在诸如HDFS、OSS、Ceph这样的存储源和Kubernetes上层的云原生应用计算之间灵活高效地移动、复制、驱逐、转换和管理。而具体的数据操作对用户透明,用户不必再担心访问远端数据的效率,或是管理数据源的便捷性,以及如何帮助Kubernetes做出恰当的调度决策等运维问题。用户只需以Kubernetes原生数据卷的方式直接访问抽象出来的数据,剩余任务交给Fluid完成。
YRCloudFile开发了符合FluidRuntime接口的YRCloudFileRuntime,使用Fluid的接口来对接YRCloudFile的DataLoad功能,让容器用户在YRCloudFile中创建存储卷,只使用Kubernetes的API接口就可以高效地使用对象存储中的数据,大幅提高数据访问的速度和效率。
性能强化又双叒叕提升
NFSSMB协议节点动态管理
系统管理员可以在集群运行过程中,动态增加NFSSMB协议节点,通过调整NFSSMB的协议节点,提升整个YRCloudFile集群对外提供NFSSMB并发访问性能。
追加写性能优化
新版本在确保不同客户端、多进程之间追加写的数据正确性的前提下,提升了客户端追加写性能。经过实际测试,在单客户端对文件进行持续追加写的场景下(日志的典型IO模型),性能提升35倍,在全闪环境下,性能提升更为显著。
运维管理能力又双叒叕增强
在YRCloudFile6。9。0版本中,我们持续优化增强监控告警、运维的能力,包括对InfiniBandMultiChannel(多个InfiniBand网卡)聚合网络的监控、客户端简化安装配置、系统参数动态配置、集群扩容的优化等功能。让运维管理人员更清晰地了解存储系统工作情况,灵活管理数据,使YRCloudFile的易用性再次加强。
总结
YRCloudFile在持续深化性能优化的同时,不断适应用户在更多使用上的业务需求,拓宽在应用场景、接口上的支持。后续我们会进一步分享大数据存储解决方案以及性能深度解读的文章,让大家更好地了解YRCloudFile6。9。0版本新功能,敬请期待。
坚持不下去了?试试新木桶原理吧!放弃比坚持更容易,所以我们总是一事无成!最近,偶然间听朋友谈起了新木桶原理。但在我的认知里,木桶最短的那个板子决定了它能盛多少水,这就是木桶原理。我们要学会发现自己的短板,尽力弥补
人去世了,就什么都没有了吗?不!留下了他的人生!头条创作挑战赛人死如灯灭,是这样的吗?但,人不是灯。人去世后,他的身体是不存在了,但是,他的一生却深深刻在了亲人心中。有的父母陪孩子四五十年,有的父母陪孩子六七十年,甚至有的父母陪
散文丨冬日的林子文张福献图片来自网络一hr一声清脆的鸟鸣,划破了黎明时阴暗的天空,薄薄的雾气笼罩着树林,晨曦调皮地在林中嬉戏,朦胧中,巳辨不清白杨树树冠的形状。拂晓时分,树林从夜色中被黎明唤醒,树
散文诗月光来到我的身旁李白呤过的月光,透出的乡愁悄悄来到我的身旁,健在的和早被时光吹散的背影也来了,记忆中的名字被月光洗的愈加清晰。月光漫过浅浅的堤岸,渗入骨髓。这一片片银亮的叶子,如一片片银亮的词汇照
在家做土豆饼,切记不要放面粉跟淀粉,教你正确做法,酥脆又好吃头条创作挑战赛土豆是我们日常生活中经常吃到的一种食物,它跟红薯一样,都属于粗粮,但是它大部分会被用作菜肴。因为它没有很大的味道,非常适合烹饪,因为不知道加入了什么之后它会出现什么味
何以解忧,唯有烤鱼?最特别的是还有不常见的口味气温一降,寒风萧瑟何以解忧,唯有烤鱼。此话怎讲?吃货是这样形容的,鱼可清蒸可红烧可烧烤但众多烹饪方式,烧烤带来的那个原始而豪迈的口感最为迷人。在这个气温达到零下的天气里,左一口烤鱼
餐厅里的菜肴与饮品,不同形式展示更能吸引顾客不同餐厅有着不同的菜肴和饮品,通过不同的方式来进行包装吸引顾客。现在是互联网思维世界,创新是一种方式,通过不同的媒介来进行宣传,一种噱头,一种引流的方式。思考就是一种方式,开拓进取
做白菜馅饺子,焯水和用盐杀水都不对,巧用一招,鲜香多汁不出水做白菜馅饺子,焯水和用盐杀水都不对,巧用一招,鲜香多汁不出水天冷了,白菜又成了我们家,大量囤货的蔬菜,上个月买的一袋子,直至今天还剩下4颗没吃完。但是说实话,已经快坏了,家里有点热
这碗汤,补益心脾还安神,助你睡得香桂圆杞子党参乌鸡汤材料桂圆肉20克,杞子20克,党参20克,生姜3片,乌鸡1只(23人量)。做法桂圆肉杞子党参洗净,浸泡1520分钟乌鸡剁块,用温开水焯一下将炒锅烧热后,加入以上食
十元一壶的散装酒,农民喝了半辈子都没事,为啥现在却说喝不成了传承了千年的白酒,要说最经典的,那还是农村十元就能买一壶的散装酒,许多的老酒友都对其是爱不释手,甚至有很多的城里人都会慕名千里而来,就是为了品尝一下它的味道。在很多酒友的心中,十元
1分钟学会做古代宫廷酸奶,只需牛奶和米酒,软滑到让人不知所措关注大胖友图图,每天都能看到新奇,简单,美味又实用的食谱哦今天我们来快速说一下糖蒸酥酪的简单做法。这是一道宫廷点心,在没有吉利丁,明胶,琼脂等凝固添加剂的古代,用米酒凝固牛奶变成布
奔入湾区产业圈的创投从互联网到产业投资,不怕从0开始2010到2020年这个时间段,险峰主要投资互联网消费等领域,不过那时我们也已经看到了一些变化趋势,比如互联网流量红利将走向见顶。险峰长青合伙人赵阳回忆,为此,2014年开始险峰组
普通人靠炒股赚钱真的有那么难吗?只是你不知道这个方法头条创作挑战赛专家老百姓炒股能赚钱吗本来我这个头条号是不打算写投资相关的内容的,这个是我的工作,但是头条是我的私生活,是我的兴趣爱好。我仅仅打算在头条上写作,和分享一些平日里的想法
交通运输部110月我国水路货运量货物周转量同比分别增长4。85。5中新网11月25日电在25日举行的交通运输部例行新闻发布会上,交通运输部水运局副局长郭青松表示,我国港口航道运行平稳有序。今年110月,我国水路货运量货物周转量同比分别增长4。8和
央行决定12月5日下调金融机构存款准备金率新京报讯据中国人民银行消息,为保持流动性合理充裕,促进综合融资成本稳中有降,落实稳经济一揽子政策措施,巩固经济回稳向上基础,中国人民银行决定于2022年12月5日降低金融机构存款准
巴斯夫宣布把业务永久迁往中国近日,有消息称,德国最大的化工企业巴斯夫宣布将把业务永久迁往中国。该公司给出原因,是欧洲日益高企的能源成本以及中国的广阔市场。1992年,巴斯夫在中国南京建立了第一个工厂,到目前,
资讯奔驰发行首只绿色熊猫债券,发行规模5亿元人民币文懂车帝原创李德喆懂车帝原创行业懂车帝从梅赛德斯奔驰官方获悉,梅赛德斯奔驰国际财务有限公司于2022年11月24日在中国银行间市场成功发行首只绿色熊猫债券,发行规模为5亿元人民币,
世界杯比赛日6黑白孰能入玄门,千问方圆生死分荷兰与厄瓜多尔的对决,英国与美国的较量,其实是英格兰与荷兰,索斯盖特和范加尔的一场隔空博弈。或许不少人认为我是在安慰有些失望与气愤的荷兰英格兰球迷,因为看到两支球队在同一天遭遇了相
动脉硬化,多是因为气虚,一张方子通经络,保护血管抗动脉硬化今天这篇文章主要是跟大家聊聊中医辨证治疗动脉硬化的思路。本篇主要讲的是下肢动脉硬化的中医辨证治疗。老年下肢动脉硬化这种血管疾病在我们的实际生活中尤为常见,毕竟人上了年纪,就算没有高
徐冬冬发微博,希望造谣者给我兑现豪宅,网友我养你11月11号,也就是光棍节的时候,徐冬冬发了一个微博,希望造谣的人兑现我一套豪宅。网友吓了一跳,这可数目不小,不是简单的事情,为啥徐冬冬会发这么大的火?原来是11月11号,是光棍节
大嫂徐冬冬我跑过龙套,走了性感路线,这没什么,这些都是积累,感恩一切。時間是記憶也是橡皮擦,一件事情总會有兩方面的方向。无论你遇到什么不幸,一定要抱有好的心态,坚持下去,哪怕要垮掉的一瞬间再
美图分享,美图合集徐冬冬白色线条紧身裙显得腰细腿长,高马尾发型露出肩颈线条,太美了!卷发红唇侧颜完美,简约穿搭演绎港式复古风。黑色深V开衩裙优雅又迷人,搭配慵懒卷发,复古女郎范十足,很难不对美女心动!精致