范文健康探索娱乐情感热点
热点动态
科技财经
情感日志
励志美文
娱乐时尚
游戏搞笑
探索旅游
历史星座
健康养生
美丽育儿
范文作文
教案论文

干货科普大火的对象存储到底是什么

  感谢IT之家网友 鲜枣课堂 的线索投递!
  上期文章(链接:关于存储技术的最强入门科普),小枣君给大家详细介绍了数据存储技术的基本知识,其中重点对DAS、SAN和NAS技术进行了对比分析。
  我们知道,在很长的一段时间里,这三种架构几乎统治了数据存储市场。所有行业用户的数据存储需求,都是在这三者中进行选择。
  然而,随着时代的发展,一种新的数据存储形态诞生,开始挑战前面三者的垄断地位。
  没错,它就是云计算时代存储技术的新网红——对象存储。
  哈哈,也许搞着搞着,对象就有了呢!
  对象存储,也称为"面向对象的存储",英文是Object-based Storage。现在很多云厂商,也直接称之为"云存储" 。
  不同的云厂商对它有不同的英文缩写命名。例如阿里云把自家的对象存储服务叫做OSS,华为云叫OBS,腾讯云叫COS,七牛叫Kodo,百度叫BOS,网易叫NOS……五花八门,反正都是一个技术。
  之前小枣君介绍过,DAS和SAN是基于物理块的存储方式,而NAS是基于文件的存储方式。
  在DAS和SAN中,存储资源就像一块一块的硬盘,直接挂载在主机上,我们称之为块存储。
  而在NAS中,呈现出来的是一个基于文件系统的目录架构,有目录、子目录、孙目录、文件,我们称之为文件存储。
  文件存储的最大特点,就是所有存储资源都是多级路径方式进行访问的。例如:
  C:\Program Files (x86)\Tencent\WeChat\WeChat.exe
  \\NJUST-Server\学习资料\通信原理\第一章作业.doc
  20世纪末,随着互联网的爆发,数据存储需求发生了两个重大的变化。
  第一,就是数据量爆炸式增长。
  原因我就不用说了吧?大家可以瞅瞅自己的硬盘,都藏了些什么。
  Web应用的崛起、社交需求的刺激,极大地推动了多媒体内容的创作和分享。人们开始上传大量的照片、音乐、视频,加剧了数据量的爆发。
  此外,信息技术的发展、企业数字化的落地,也产生了大量的数据,不断吞食着存储资源。
  第二,是非结构化数据的占比显著增加。
  什么是非结构化数据?
  举个例子大家就明白了。我们经常做的excel表格,姓名、身高、体重、年龄、性别,这种用二维表结构可以进行逻辑表达的数据,就是结构化数据。
  结构化数据
  而图像、音频、视频、word文章、演示胶片这样的数据,就是非结构化数据。
  根据此前的预测,到2020年(也就是今年),全球数据总量的80%,将是非结构化数据。
  面对这两大趋势,因为本身技术和架构的限制,DAS、SAN和NAS无法进行有效应对。
  于是,专家们就搞出了对象存储。
  虽然我们说对象存储是新网红,但实际上它诞生的时间并不算短。早在1996年,美国卡内基梅隆大学就将对象存储作为一个研究项目提出来。随后,加州大学伯克利分校也有推出类似的项目。
  2002年,Filepool公司推出了基于内容可寻址技术的Centera系统,算是比较早期的对象存储系统。
  2006年,美国Amazon公司发布AWS S3(Simple Storage Service)服务,正式将对象存储作为一项云存储服务,引入云计算领域,从此开启了对象存储的黄金时代。
  S3几乎成为对象存储的事实标准
  各厂家基本上都会兼容S3
  ▉ 对象存储和块存储、文件存储的区别
  说了半天,对象存储到底是一个什么样的技术?它和块存储、文件存储有什么区别?
  首先,第一点,千万不要去看百度百科上面"对象存储"的定义,否则,你可能会怀疑人生。
  想要了解对象存储,最简单直接的办法,就是从实际使用体验上进行对比。
  对象存储的底层硬件介质,依然是硬盘,和块存储、文件存储没有区别。
  而对象存储架构在底层硬件之上的系统,和两者完全不同。(下文会详细介绍系统架构)
  不同的软件,带来了完全不同的使用体验:
  块存储,操作对象是磁盘。存储协议是SCSI、iSCSI、FC。
  以 SCSI 为例,主要接口命令有 Read/Write/Read Capacity/Inquiry 等等。
  文件存储,操作对象是文件和文件夹。存储协议是NFS、SAMBA(SMB)、POSIX等。
  以NFS(大家应该都用过"网上邻居"共享文件吧?就是那个)为例,文件相关的接口命令包括:READ/WRITE/CREATE/REMOVE/RENAME/LOOKUP/ACCESS 等等,文件夹相关的接口命令包括:MKDIR/RMDIR/READDIR 等等。
  对象存储,主要操作对象是对象(Object)。存储协议是S3、Swift等。
  以 S3 为例,主要接口命令有 PUT/GET/DELETE 等。
  看出来了吧?接口命令非常简洁,没有那种目录树的概念。
  在对象存储系统里,你不能直接打开/修改文件,只能先下载、修改,再上传文件。(如果大家用过百度网盘或ftp服务,一定可以秒懂。)
  ▉ 对象存储中的数据组成
  对象存储呈现出来的是一个"桶"(bucket),你可以往"桶"里面放"对象(Object)"。这个对象包括三个部分:Key、Data、Metadata。
  Key
  可以理解文件名,是该对象的全局唯一标识符(UID)。
  Key是用于检索对象,服务器和用户不需要知道数据的物理地址,也能通过它找到对象。这种方法极大地简化了数据存储。
  下面这行,就是一个对象的地址范例:
  看上去就是一个URL网址。如果该对象被设置为"公开",所有互联网用户都可以通过这个地址访问它。
  Data
  也就是用户数据本体。这个不用解释了。
  Metadata
  Metadata叫做元数据,它是对象存储一个非常独特的概念。
  元数据有点类似数据的标签,标签的条目类型和数量是没有限制的,可以是对象的各种描述信息。
  举个例子,如果对象是一张人物照片,那么元数据可以是姓名、性别、国籍、年龄、拍摄地点、拍摄时间等。
  元数据可以有很多
  在传统的文件存储里,这类信息属于文件本身,和文件一起封装存储。而对象存储中,元数据是独立出来的,并不在数据内部封装。
  元数据的好处非常明显,可以大大加快对象的排序,还有分类和查找。
  ▉ 对象存储的架构
  对象存储的架构是怎样的呢?如下图所示,分为3个主要部分:
  对象存储的简单架构示意图
  OSD对象存储设备
  这是对象存储的核心,具有自己的CPU、内存、网络和磁盘系统。它的主要功能当然是存储数据。同时,它还会利用自己的算力,优化数据分布,并且支持数据预读取,提升磁盘性能。
  MDS元数据服务器
  它控制Client和OSD的交互,还会管理着限额控制、目录和文件的创建与删除,以及访问控制权限。
  Client客户端
  提供文件系统接口,方便外部访问。
  根据上面的架构可以看出,对象存储系统可以是一个提供海量存储服务的分布式架构。
  ▉ 对象存储的优点
  对象存储的优点很多,简单归纳如下:
  容量无限大
  对象存储的容量是EB级以上。EB有多大?大家的硬盘普遍是TB级别。1EB约等于1TB的一百万倍,请自行脑补...
  对象存储的所有业务、存储节点采用分布式集群方式工作,各功能节点、集群都可以独立扩容。从理论上来说,某个对象存储系统或单个桶(bucket),并没有总数据容量和对象数量的限制。
  换句话说,只要你有足够的money,服务商就可以不停地往架构里增加资源,这个存储空间就是无限的。
  你可以根据自身需求购买相应大小的对象存储空间。如果需要调整大小,也是支持弹性伸缩的,你不要进行数据迁移和人工干预。
  数据安全可靠
  对象存储采用了分布式架构,对数据进行多设备冗余存储(至少三个以上节点),实现异地容灾和资源隔离。
  根据云服务商的承诺,数据可靠性至少可以达到99.999999999%(不用数了,一共11个9)。这意味着,1000亿个文件里,每月最多只会有1个文件发生数据丢失。这比一个人被陨石击中的概率还要小143000倍。
  数据访问方面,所有的桶和对象都有ACL等访问控制策略,所有的连接都支持SSL加密,OBS系统会对访问用户进行身份鉴权。因为数据是分片存储在不同硬盘上的,所以即使有坏人偷了硬盘,也无法还原出完整的对象数据。
  使用方便
  对于用户来说,对象存储是一个非常方便的存储方式。
  很多人把它比喻为"代客泊车",你只需要把车扔给他,他给你一个凭证,你通过凭证取车就可以了。你不需要知道车库的布局,也不需要自己去费力停放。
  数据的存取方法也非常灵活多样。除了前面说的可以使用网页(基于http)直接访问之外,大部分云服务提供商都有自己的图形化界面客户端工具,用户存取数据就像用网盘一样。
  腾讯云的对象存储工具界面
  事实上,大部分的对象存储需求,并不是个人用户买来当网盘用,而且企业或政府用户用于系统数据存储。例如网站、App的静态图片、音频、视频,还有企业系统的归档数据等。
  像这种数据,是通过程序内部的接口调用的。对象存储提供开放的REST API接口。程序员在开发应用时,直接把存储参数写进代码,就可以通过API接口调用对象存储里的数据。相比文件存储那一串串的路径,对象存储要方便很多。
  ▉ 对象存储的应用场景
  目前国内有大量的云服务提供商,他们把对象存储当作云存储在卖。
  他们通常会把存储业务分为3个等级,即标准型、低频型、归档型。对应的应用场景如下:
  标准类型:移动应用 | 大型网站 | 图片分享 | 热点音视频
  低频访问类型:移动设备 | 应用与企业数据备份 | 监控数据 | 网盘应用
  归档类型:各种长期保存的档案数据 | 医疗影像 | 影视素材
  根据估算,目前全球互联网70%以上的热点数据是保存在对象存储系统中的。
  对象存储虽然看上去很好很强大,但也不是没有缺点。它最大的缺点,和它的工作模式有关。
  它是那种把整个数据取出来,修改,再放回去的模式,不支持直接在存储上修改,哪怕只是加一行数据,都不行。所以,它不适合存储需要频繁擦写的数据(例如关系型数据库的数据)。
  在数据的一致性保证上,对象存储也存在先天的不足。不过,据说目前技术上已经有了很大改进。

因通货膨胀上升,SpaceX星链将涨价北京时间3月23日早间消息,据报道,埃隆马斯克旗下太空探索技术公司SpaceX声称,其卫星互联网服务星链(Starlink)将涨价,而通货膨胀则是主要原因。该公司在一封邮件中对用户维珍银河宣布太空飞行门票明日开售,票价45万美元IT之家2月15日消息,维珍银河刚刚宣布太空飞行机票将于2月16日开售,总价为45万美元,客户将支付15万美元的初始费用,并在航班起飞前支付最后一笔款项。维珍银河股价盘前涨超10。蓝色起源遭安全举报后通过监管审查,今晚将送6人到太空北京时间12月11日消息,杰夫贝索斯(JeffBezos)旗下蓝色起源已经解决了安全指控,可以按计划推进周六的载人发射任务。蓝色起源的新谢泼德号火箭此前,一名举报人发文称,蓝色起源马斯克回应逃税我不领工资,一直在按规定缴税6月10日消息,本周早些时候的一份报道称,特斯拉首席执行官埃隆马斯克(ElonMusk)和其他几位公司高管不缴纳个人所得税。当地时间周三马斯克就此回应称,自己并没有将股权套现,也一退出手机市场后,一代巨头LG决定撤出太阳能面板业务IT之家2月23日消息,LG电子(LGelectronics)2月23日发布声明称,LG电子将退出全球太阳能电池板业务。声明指出,这一决定于2月22日在韩国由LG董事会批准,是在全北斗高精度服务全球用户突破10亿IT之家1月30日消息,据国资委网站,2021年,北斗高精度服务全球用户突破10亿,北斗三号区域短报文通信民用服务体系具备服务能力,在海南省实现1。26万套规模化应用。此外,兵器工高德地图发布全国最难停车十大地点,四个为医院全国尚有8000万停车位需求缺口IT之家1月8日消息,根据高德地图与清华大学交通研究所近日联合发布的全国停车场分析报告(简称报告),目前国内已建设了超过百万的停车场,但对比庞大的汽车保有量,停车位依然紧缺,尚有8再也不怕黑漆漆的小路了!高德地图最新上线夜间宽敞大路导航感谢IT之家网友肖战割割的线索投递!IT之家1月6日消息,高德地图今天上线了一个新功能,再也不怕黑漆漆的小路了。高德地图称,夜黑风高的晚上,最怕开上一条黑漆漆的小路。就不说路况了,交通运输部安装使用北斗终端的重点营运车辆已超700万辆IT之家9月26日消息今日上午,国新办就加快推动交通运输领域新型基础设施建设情况举行发布会。交通运输部新闻发言人综合规划司负责人范振宇在会上表示,截至今年第二季度,安装使用北斗终端全天时毫米级,浙江舟山首次应用北斗三号系统提升监测精度IT之家8月14日消息据舟山市应急管理局官网,近日,舟山市应用北斗三号系统,对全市200米以上露天矿山高陡边坡进行了监测。舟山市两家200米以上高陡边坡矿山企业全部选用基于北斗三号华为认证需要进行实名制,否则证书资质无效,合作伙伴身份能力不达标IT之家8月5日消息华为官方近期发布了关于认证实名制应用于伙伴能力复核的公告。为了维护公平公正的商业环境,促进合作伙伴能力进一步提升,同时杜绝伙伴资质认证不真实的现象,华为认证考试
微信小游戏越来越重,但它能赚钱吗?说起微信小游戏,外界总会有几个刻板标签。比如,小游戏只能玩轻度游戏,跳一跳欢乐斗地主是典型小游戏不温不火,跳一跳之后似乎再无全民话题的爆款相比App游戏,小游戏的生命周期更短,用户Facebook在印度内容监管问题待解决,高管将再被传唤据报道,印度议会信息技术委员会负责人表示,由于无法在周三解决Facebook内容监管政策的问题,印度信息技术委员会将再次传唤Facebook公司高管。由反对党国大党(CongresMindfactory公布五月份德国市场CPU销量数据AMD大幅领先,占比87。25IT之家6月8日消息德国最大的PC硬件电商Mindfactory日前公布了他们过去一周的CPU销量数据。数据显示,AMD此前一周总共售出5270盒CPU,占比87。25Intel总AMD产品经理4G显存即将淘汰,未来游戏需要更高配置IT之家6月6日消息近日,AMDRadeon和游戏事业部产品营销经理AditBhutani发表了一篇博客,他指出4G显存显卡已经难以支持3A游戏了,因为3A游戏对显存的需求一直在不2020中国民营企业500强出炉华为苏宁正威国际排前三IT之家9月10日消息今日,2020中国民营企业500强峰会在北京召开。2020中国民营企业500强榜单在会上发布。报告显示,2019民企营收20强榜单中华为蝉联第一。IT之家了解英媒英伟达进入独家谈判期,有望在夏末完成对arm的收购IT之家8月15日消息据英国媒体EveningStandard今日报道,英伟达与arm的收购案有望将于今年夏末达成。据晚报称,英伟达目前已进入独家谈判环节。消息人士表示,此次交易有估值或达400亿美元,英伟达收购ARM谈判加速8月15日消息,据外媒报道,美国芯片巨头英伟达收购日本软银集团旗下英国芯片设计子公司ARM的谈判正在加快进行,双方进入排他性谈判阶段。据知情人士称,收购将于月底完成,对ARM的估值ARM我们大部分产品不受美国的出口管制约束IT之家9月14日消息据财联社报道,ARM首席执行官赛格斯表示,我们大部分产品不受美国的出口管制约束,这不会随着美国母公司的改变而改变。9月13日,英伟达宣布与软银达成最终协议,将腾讯AR导航正式亮相,相关量产车型将于年内上市9月10日消息,在腾讯全球数字生态大会智慧出行论坛上,腾讯AR导航正式亮相。据悉,搭载腾讯AR导航的量产车型将于年内上市。据介绍,此次腾讯全新发布的AR导航,采用车道级精准定位技术软银首席合规官离职,曾就职于诺基亚和Paypal软银集团首席合规官查德芬特里斯(ChadFentress)宣布离职。他在LinkedIn上的资料已经变更为Novare咨询公司创始人。软银投资的共享办公创业公司WeWork发言人称豪赌美国科技股上涨!软银打造纳斯达克鲸消息人士称,软银在过去一个月中抢购了数十亿美元的美国科技股期权,从而推动了交易量的增长,并引发美股交易狂潮。一位市场人士称这是危险赌注。据高盛的数据,过去两周,美国单个股票交易看涨