大佬们学hive要先学学hadoop吗?Hive有哪些特点

2023-05-15 09:40:06 12

大佬们学hive要先学学hadoop吗?Hive有哪些特点

本文目录

大佬们学hive要先学学hadoop吗

hive 我感悟是这样的,hive类似于mysql和 mapreduce的结合品。

1hive的语法 和mysql很像,但hive因为是依赖hdfs文件系统的,所以他有自己独有的语法体系,比如 1 建表时它有分隔符的概念,2 插入时他有覆盖的概念,3插入它不支持部分插入,只支持整体插入,4.不支持更新和删除只支持查找,在查询语法和mysql很像,但计算引擎和mysql完全不一样。所以学习hive首先把mysql语法掌握了。

因为hive底层技术引擎是用mapreduce,所以学习hive最好先学习mapreduce,把mapreduce的原理,熟悉了 学习hive更得心应手了

Hive有哪些特点

您好,我是数据僧(头条,公众号,简书),,一名数据相关从业者。下面讲讲我对您这个问题的理解。

Hive是为了解决什么问题,Hive产生的背景,我们以这个为引子,展开回答。

1,MapReduce编程的不变性,如果要处理一些数据处理的任务,会有一定的门槛,并且操作起来不方便。

2,Hdfs上的文件缺少Schema。例如:缺少 字段名,数据类型等,不方面数据进行有效管理。

3,用于解决海量结构化数据的统计问题

4,如果使用MapReduce等计算框架,学习成本比较高

5,在项目周期比较短的情况下,如果使用mapReduce或者其它的开发框架进行开发,无法满足项目对时间的要求。

我们从具体应用场景下看看Hive处于hadoop生态系统的什么位置:

如图:Hive以Hdfs为基本的文件存储,以MapReduce为执行引擎。所以Hive天然就具备了Hdfs,MapReduce的特性。

我们和传统数据库进行对比看看Hive有哪些优势和不足,当然这种不足是特定场景下的,也是Hive不擅长的领域。

hive的编写语法和传统的sql类似,核心的是hive有一套不同与sql的语法规则,最终被解释为mapReduce任务。hive只适合在海量数据下进行批量数据统计分析。

我们在来看看hive和mapReduce之间的关系,如图:

在来看看hive的内部结构示意图

Driver组件:

SQL Parser:编译器,将HQL转换成抽象语法树。

Query Optimizer:查询优化器

Physical Plan,SerDes,Udfs:执行器

解释器、编译器、优化器完成 HQL 查询语句从词法分析、语法分析、编译、优化以及查询计划的生成。生成的查询计划存储在HDFS 中,并在随后有 MapReduce 调用执行。

Metastore组件:Hive将元数据存储在数据库中。Hive 中的元数据包括表的名字,表的列和分区及其属性,表的属性(是否为外部表等),表的数据所在目录等

Hive处理命令的流程示意图:

SQL Parser将SQL语句转换成抽象语法树---》生成逻辑执行计划----》查询优化----》 物理执行计划(SerDes序列化与反序列化,UDFs,执行引擎)

上面主要是从整体上介绍hive,已经hive相关的组件,最后总结下hive有哪些特点:

1,hive延迟高,适合高吞吐量,批量,海量数据处理。

2,语法和SQL相似,学习成本低,避免去写复杂的MapReduce,缩短开发周期。

3,Hive支持自由的扩展集群的规模,一般不需要重启服务。

4,Hive支持自定义函数,用户可以根据自己的需求去定义函数。

5,良好的容错性,节点出现问题,SQL仍然可以成功执行。

。。

整体上来说是继承了HDFS和MapReduce的特点。

数据僧,祝愿每个在数据道路上的人越走越好。你们的关注 是我巨大的动力。欢迎大家在评论区留言,大家一起讨论。

大佬们学hive要先学学hadoop吗?Hive有哪些特点

本文编辑:admin
: hive,p,
暂无评论,期待你的首评

更多文章:


夏至是哪天?夏至是什么时候

夏至是哪天?夏至是什么时候

大家好,夏至相信很多的网友都不是很明白,包括夏至是哪天也是一样,不过没有关系,接下来就来为大家分享关于夏至和夏至是哪天的一些知识点,大家可以关注收藏,免得下次来找不到哦,下面我们开始吧!本文目录夏至是哪天夏至是什么时候夏至是几月几号 夏至每

2024年3月12日 07:55

李的笔顺怎么写(李的笔顺)

李的笔顺怎么写(李的笔顺)

各位老铁们好,相信很多人对李的笔顺怎么写都不是特别的了解,因此呢,今天就来为大家分享下关于李的笔顺怎么写以及李的笔顺的问题知识,还望可以帮助大家,解决大家的一些困惑,下面一起来看看吧!本文目录李的笔顺李的笔顺笔画顺序怎么写的李的笔顺“李”的

2024年7月24日 13:36

正史上关羽被害后,四员大将关平、廖化、周仓、王甫结局如何?祝大家新年快乐

正史上关羽被害后,四员大将关平、廖化、周仓、王甫结局如何?祝大家新年快乐

本文目录正史上关羽被害后,四员大将关平、廖化、周仓、王甫结局如何祝大家新年快乐《破冰行动》中温嘉良作为卧底,需要大笔资金来运作,这费用怎么来的正史上关羽被害后,四员大将关平、廖化、周仓、王甫结局如何周仓,自刎而死。周仓是一位关西大汉,身材高

2023年4月6日 22:09

容易的反义词(容易的反义词)

容易的反义词(容易的反义词)

本文目录容易的反义词反义词,容易对什么容易的反义词是什么 准答案“容易”的反义词是什么容易的反义词是什么容易的反义词是什么呢容易的反义词是怎么明白,经常,困难,爱护的反义词小学语文二年级反义词容易的反义词容易的反义词——不易、困难、繁难、艰

2023年6月6日 09:20

十种不适合学笛子的人(十种不适合学长笛的人)

十种不适合学笛子的人(十种不适合学长笛的人)

大家好,十种不适合学笛子的人相信很多的网友都不是很明白,包括十种不适合学长笛的人也是一样,不过没有关系,接下来就来为大家分享关于十种不适合学笛子的人和十种不适合学长笛的人的一些知识点,大家可以关注收藏,免得下次来找不到哦,下面我们开始吧!本

2024年2月10日 20:15

宅字怎么读?宅怎么读 宅具体怎么读

宅字怎么读?宅怎么读 宅具体怎么读

本文目录宅字怎么读宅怎么读 宅具体怎么读宅怎么读 拼音宅拼音怎么读宅的读音宅的读音是什么宅字普通话怎么读汉语拼音怎么读宅怎么读音是什么宅字怎么读你好,很高兴为你解答:宅的读音释义zhái部首:宀笔画:6结构:上下结构五笔:PTAB:1. 住

2023年8月6日 10:35

茶客365:怎样辨别过期茶叶,泡过水的茶叶做新哪里能买到放心茶?中国有哪些茶被茶客极力追捧

茶客365:怎样辨别过期茶叶,泡过水的茶叶做新哪里能买到放心茶?中国有哪些茶被茶客极力追捧

本文目录茶客365:怎样辨别过期茶叶,泡过水的茶叶做新哪里能买到放心茶中国有哪些茶被茶客极力追捧茶客365:春节喝什么茶最好茶客365:怎样

2023年2月2日 23:00

樱花,掌故和呜呼的拼音?人文掌故的读音

樱花,掌故和呜呼的拼音?人文掌故的读音

本文目录樱花,掌故和呜呼的拼音人文掌故的读音挟樱花绯红宛如掌故落第畸形不逊匿名拼音掌故的读音掌故的拼音和解释樱花,掌故和呜呼的拼音“樱花”的拼音:yīng huā释义:李属的几种灌木或乔木,花白色或粉红色,栽培供观赏,原产日本“掌故”的拼

2023年11月16日 20:40

什么样的人容易接受新鲜事物?职场“过期新鲜人”如何突围

什么样的人容易接受新鲜事物?职场“过期新鲜人”如何突围

本文目录什么样的人容易接受新鲜事物职场“过期新鲜人”如何突围作为一个社会新鲜人,第一辆车是买飞度还是威驰FS“过期新鲜人”求职如何解释职业空

2022年11月9日 01:20

狂风怒号的反义词(什么风怒号)

狂风怒号的反义词(什么风怒号)

本文目录什么风怒号飞檐走壁、大吃一惊、千真万确、乌云密布、狂风怒号、倾盆大雨含有反义词的是小学五年级上册第一单元的词语盘点中的所有词语的近义词和反义词有哪些六年级近义词反义词6年级上册语文第6课多音字近义词反义词狂风怒号的意思,狂风怒号的反

2023年6月24日 13:41

10个小方法缓解喉咙痛(快速缓解喉咙痛的方法)

10个小方法缓解喉咙痛(快速缓解喉咙痛的方法)

各位老铁们,大家好,今天由我来为大家分享10个小方法缓解喉咙痛,以及快速缓解喉咙痛的方法的相关问题知识,希望对大家有所帮助。如果可以帮助到大家,还望关注收藏下本站,您的支持是我们最大的动力,谢谢大家了哈,下面我们开始吧!本文目录快速缓解喉咙

2024年7月13日 22:25

haokan(有没有一些好看的电视剧推荐)

haokan(有没有一些好看的电视剧推荐)

本文目录有没有一些好看的电视剧推荐有没有一些好看的电视剧推荐若问有没有好看的电视剧,有呀,中央电视一台正在热播的电视剧《一个都不能少》就非常好看。这部电视剧已演过大半,我们一家人都非常喜欢,因为电视剧特接地气,现正是高潮时刻。丹霞村里的村民

2023年4月24日 14:18

皱_的读音皱_的读音是什么?皱字的读音

皱_的读音皱_的读音是什么?皱字的读音

大家好,如果您还对皱的拼音不太了解,没有关系,今天就由本站为大家分享皱的拼音的知识,包括皱_的读音皱_的读音是什么的问题都会给大家分析到,还望可以解决大家的问题,下面我们就开始吧!本文目录皱_的读音皱_的读音是什么皱字的读音皱的拼音是什么_

2024年2月11日 20:40

兴的拼音和组词(兴字有几种读音,怎样组词)

兴的拼音和组词(兴字有几种读音,怎样组词)

本篇文章给大家谈谈兴的拼音和组词,以及兴字有几种读音,怎样组词对应的知识点,希望对各位有所帮助,不要忘了收藏本站喔。本文目录兴字有几种读音,怎样组词兴两个拼音怎么组词兴字有几种读音,怎样组词“兴”有两种读音:【 xīng】,组词:兴奋,兴办

2024年8月9日 16:02

正方体展开图(正方体的11种展开图)

正方体展开图(正方体的11种展开图)

大家好,今天小编来为大家解答以下的问题,关于正方体展开图,正方体的11种展开图这个很多人还不知道,现在让我们一起来看看吧!本文目录正方体的11种展开图正方体展开图12种方法,要有图的正方体展开图有几种正方形的12种展开图正方形的展开图11种

2023年12月18日 01:00

淮安疫情最新消息(现在去淮安需要隔离吗淮安最新隔离政策)

淮安疫情最新消息(现在去淮安需要隔离吗淮安最新隔离政策)

其实淮安疫情最新消息的问题并不复杂,但是又很多的朋友都不太了解现在去淮安需要隔离吗淮安最新隔离政策,因此呢,今天小编就来为大家分享淮安疫情最新消息的一些知识,希望可以帮助到大家,下面我们一起来看看这个问题的分析吧!本文目录现在去淮安需要隔离

2024年3月23日 14:20

书湖阴先生壁拼音版(书湖阴先生壁怎么读拼音)

书湖阴先生壁拼音版(书湖阴先生壁怎么读拼音)

本文目录书湖阴先生壁怎么读拼音书湖阴先生壁拼音书湖阴先生壁的拼音书湖阴先生壁古诗带拼音求《书湖阴先生壁》拼音(全部)《书湖阴先生壁》全诗的拼音是什么书湖阴先生壁 注音”书湖阴先生壁“的拼音是什么书湖阴先生壁怎么读拼音书湖阴先生壁这样读拼音(

2023年9月19日 10:21

蜣螂是一种什么虫?蜣螂俗称屎壳郎,古人用它入药,它有什么药用价值呢

蜣螂是一种什么虫?蜣螂俗称屎壳郎,古人用它入药,它有什么药用价值呢

本文目录蜣螂是一种什么虫蜣螂俗称屎壳郎,古人用它入药,它有什么药用价值呢蜣螂是一种什么虫世界上约有2300种蜣螂,分布在南极洲以外的任何一块大陆。最著名的蜣螂生活在埃及,有1-2.5厘米长。世界上最大的蜣螂是10厘米长的巨蜣螂。大多数蜣螂营

2023年3月29日 07:33

侵略的近义词和反义词(入侵的反义词_入侵的近义词_入侵的词语解释)

侵略的近义词和反义词(入侵的反义词_入侵的近义词_入侵的词语解释)

各位老铁们,大家好,今天由我来为大家分享侵略的近义词和反义词,以及入侵的反义词_入侵的近义词_入侵的词语解释的相关问题知识,希望对大家有所帮助。如果可以帮助到大家,还望关注收藏下本站,您的支持是我们最大的动力,谢谢大家了哈,下面我们开始吧!

2024年1月25日 16:35

胸闷气短是大病征兆(晚上睡觉半夜突然感觉胸口闷出不上来气是心脏病的前兆吗)

胸闷气短是大病征兆(晚上睡觉半夜突然感觉胸口闷出不上来气是心脏病的前兆吗)

大家好,胸闷气短是大病征兆相信很多的网友都不是很明白,包括晚上睡觉半夜突然感觉胸口闷出不上来气是心脏病的前兆吗也是一样,不过没有关系,接下来就来为大家分享关于胸闷气短是大病征兆和晚上睡觉半夜突然感觉胸口闷出不上来气是心脏病的前兆吗的一些知识

2024年3月14日 18:15