大数据入门Hive应用场景
在大数据的发展当中,大数据技术生态的组件,也在不断地拓展开来,而其中的Hive组件,作为Hadoop的数据仓库工具,可以实现对Hadoop集群当中的大规模数据进行相应的数据处理。今天我们的大数据入门分享,就主要来讲讲,Hive应用场景。
关于Hive,首先需要明确的一点就是,Hive并非数据库,Hive所提供的数据存储、查询和分析功能,本质上来说,并非传统数据库所提供的存储、查询、分析功能。
Hive数据仓库工具将结构化的数据文件映射为一张数据库表,并提供SQL查询功能,能将SQL语句转变成MapReduce任务来执行。通过类SQL语句实现快速MapReduce统计,使MapReduce编程变得更加简单易行。 Hive应用场景
总的来说,Hive是十分适合数据仓库的统计分析和Windows注册表文件。
Hive在Hadoop中扮演数据仓库的角色。Hive添加数据的结构在HDFS(Hive superimposes structure on data in HDFS),并允许使用类似于SQL语法进行数据查询。
Hive更适合于数据仓库的任务,主要用于静态的结构以及需要经常分析的工作。Hive与SQL相似促使其成为Hadoop与其他BI工具结合的理想交集。 Hive使用
Hive在Hadoop之上,使用Hive的前提是先要安装Hadoop。
Hive要分析的数据存储在HDFS,Hive为数据创建的表结构(schema),存储在RDMS(relevant database manage system关系型数据库管理系统,比如mysql)。
Hive构建在基于静态批处理的Hadoop之上,Hadoop通常都有较高的延迟并且在作业提交和调度的时候需要大量的开销。因此,Hive并不能够在大规模数据集上实现低延迟快速的查询,例如,Hive在几百MB的数据集上执行查询一般有分钟级的时间延迟。
Hive查询操作过程严格遵守Hadoop MapReduce的作业执行模型,Hive将用户的HiveQL语句通过解释器转换为MapReduce作业提交到Hadoop集群上,Hadoop监控作业执行过程,然后返回作业执行结果给用户。Hive的最佳使用场合是大数据集的批处理作业,例如,网络日志分析。 Hive优缺点
优点:
操作接口采用类SQL语法,提供快速开发的能力(简单、容易上手)。
Hive的执行延迟比较高,因此Hive常用于数据分析,对实时性要求不高的场合。
Hive优势在于处理大数据,对于处理小数据没有优势,因为Hive的执行延迟比较高。
Hive支持用户自定义函数,用户可以根据自己的需求来实现自己的函数。
缺点:
1.Hive的HQL表达能力有限
(1)迭代式算法无法表达递归算法
(2)数据挖掘方面不擅长(数据挖掘和算法机器学习)
2.Hive的效率比较低
(1)Hive自动生成的MapReduce作业,通常情况下不够智能化
(2)Hive调优比较困难,粒度较粗(快)
关于大数据入门,Hive应用场景,以上就为大家做了大致的介绍了。在大数据应用场景下,Hive更多是作为Hadoop的一个数据仓库工具,并不直接存储数据,但是却不可或缺。
比特币矿商IrisEnergy计划在纳斯达克上市前融资2亿美元比特币矿商IrisEnergy计划在寻求在纳斯达克直接上市之前,立即进行一轮融资,筹集2亿美元。IrisEnergy可能决定放弃上市计划,据报道,有几家SPAC与它接触,商讨在美国
PayPal将把每周加密货币购买限额上调至10万美元据报道,美国支付服务平台PayPal将用户的加密货币购买限额上调至原先的5倍。PayPal用户现在每周可以购买价值10万美元的比特币和其他数字货币资产,而之前的上限仅为2万美元。该
中国比特币矿工正准备涌入巴拉圭据报道,中国的比特币矿工正准备成群结队地涌入巴拉圭,报道称,如果监管机构不阻止矿工,未来三年该国可能有50万台在线钻机,一些工业企业已经在这个南美国家建立了商店。根据巴拉圭矿业公司
自5月以来,比特币首次突破50,000美元周日晚上,比特币回到50,000美元大关,这是一个重要的价格里程碑,上一次比特币价值5万美元是在5月中旬,特斯拉首席执行官埃隆马斯克表示,由于环境问题,他的公司将不再接受比特币作为
凯利泰冯柳只是个过客?AAAA代表基本面非常优秀,BBBB代表基本面比较优秀,CCCC代表概念性比较强。评级仅为个人观点,仅供参考,不作为投资建议。数据截止日期2019年6月30日单位亿元证券代码300
科博达新股跌停,机会还是大坑?证券简称科博达评级AAAAAA代表基本面非常优秀,BBBB代表基本面比较优秀,CCCC代表概念性比较强,评级仅为个人观点,仅供参考,不作为投资建议。数据截止日期2019年6月30日
利安隆历史新高唾手可得?证券简称利安隆评级BBBAAAA代表基本面非常优秀,BBBB代表基本面比较优秀,CCCC代表概念性比较强,评级仅为个人观点,仅供参考,不作为投资建议。数据截止日期2019年9月30
安井食品百亿市值只是刚起步?证券简称安井食品评级AAAAAA代表基本面非常优秀,BBBB代表基本面比较优秀,CCCC代表概念性比较强,评级仅针对公司基本面,为个人观点,仅供参考,不作为投资建议。数据截止日期2
iPhone12抢先爆料无刘海全面屏A14芯片,网友价格一定暴涨!由于疫情爆发,苹果取消了春季发布会,改为网上直销。iPadPro几天前突然在官方网站上更新,据透露iPhone9和苹果第一代5Giphone12将一起发布。就iPadpro而言,这
不笑你打我精选内涵段子1。带破洞的牛仔裤刚流行那年,邻村有个青年因打架伤人坐了两年牢出狱了,他老婆给他带来了一身新衣裤。当他换上了当时最流行的破洞牛仔裤后百感交集,抱着他老婆放声大哭,连声追
佩蒂股份全球宠物咬胶龙头,出口转内销增长空间巨大独立客观第三方研究,为您筛选优质上市公司证券代码300673综合评级A一主营业务评分751业务分析公司是我国较早从事宠物食品产业的企业之一,主要产品有畜皮咬胶植物咬胶宠物营养肉质零