hadoop - Hive 解释计划理解

Question

有没有什么合适的资源可以让我们完全理解hive生成的解释计划？我曾尝试在 wiki 中搜索它，但找不到完整的指南来理解它。
这是 wiki，它简要解释了解释计划的工作原理。但我需要有关如何推断解释计划的更多信息。
https://cwiki.apache.org/confluence/display/Hive/LanguageManual+Explain

Answer 1

我将尝试解释一些我所知道的。
执行计划是对查询所需任务的描述、它们的执行顺序以及有关每个任务的一些详细信息。
要查看查询的执行计划，您可以这样做，在查询前加上关键字 EXPLAIN ，然后运行它。
执行计划可能很长而且很复杂。
完全理解它们需要深入了解 MapReduce .
例子

EXPLAIN CREATE TABLE flights_by_carrier AS 
SELECT carrier, COUNT(flight) AS num 
FROM flights 
GROUP BY carrier;

此查询是 CTAS statement创建一个名为 flight_by_carrier 的新表并用 SELECT query 的结果填充它. SELECT query按承运人对航类表的行进行分组，并返回每个承运人以及该承运人的航类数。
Hive 的输出 EXPLAIN该示例的语句显示在此处

+----------------------------------------------------+--+
|                      Explain                       |
+----------------------------------------------------+--+
| STAGE DEPENDENCIES:                                |
|   Stage-1 is a root stage                          |
|   Stage-0 depends on stages: Stage-1               |
|   Stage-3 depends on stages: Stage-0               |
|   Stage-2 depends on stages: Stage-3               |
|                                                    |
| STAGE PLANS:                                       |
|   Stage: Stage-1                                   |
|     Map Reduce                                     |
|       Map Operator Tree:                           |
|           TableScan                                |
|             alias: flights                         |
|             Statistics: Num rows: 61392822 Data size: 962183360 Basic stats: COMPLETE Column stats: NONE |
|             Select Operator                        |
|               expressions: carrier (type: string), flight (type: smallint) |
|               outputColumnNames: carrier, flight   |
|               Statistics: Num rows: 61392822 Data size: 962183360 Basic stats: COMPLETE Column stats: NONE |
|               Group By Operator                    |
|                 aggregations: count(flight)        |
|                 keys: carrier (type: string)       |
|                 mode: hash                         |
|                 outputColumnNames: _col0, _col1    |
|                 Statistics: Num rows: 61392822 Data size: 962183360 Basic stats: COMPLETE Column stats: NONE |
|                 Reduce Output Operator             |
|                   key expressions: _col0 (type: string) |
|                   sort order: +                    |
|                   Map-reduce partition columns: _col0 (type: string) |
|                   Statistics: Num rows: 61392822 Data size: 962183360 Basic stats: COMPLETE Column stats: NONE |
|                   value expressions: _col1 (type: bigint) |
|       Reduce Operator Tree:                        |
|         Group By Operator                          |
|           aggregations: count(VALUE._col0)         |
|           keys: KEY._col0 (type: string)           |
|           mode: mergepartial                       |
|           outputColumnNames: _col0, _col1          |
|           Statistics: Num rows: 30696411 Data size: 481091680 Basic stats: COMPLETE Column stats: NONE |
|           File Output Operator                     |
|             compressed: false                      |
|             Statistics: Num rows: 30696411 Data size: 481091680 Basic stats: COMPLETE Column stats: NONE |
|             table:                                 |
|                 input format: org.apache.hadoop.mapred.TextInputFormat |
|                 output format: org.apache.hadoop.hive.ql.io.HiveIgnoreKeyTextOutputFormat |
|                 serde: org.apache.hadoop.hive.serde2.lazy.LazySimpleSerDe |
|                 name: fly.flights_by_carrier       |
|                                                    |
|   Stage: Stage-0                                   |
|     Move Operator                                  |
|       files:                                       |
|           hdfs directory: true                     |
|           destination: hdfs://localhost:8020/user/hive/warehouse/fly.db/flights_by_carrier |
|                                                    |
|   Stage: Stage-3                                   |
|       Create Table Operator:                       |
|         Create Table                               |
|           columns: carrier string, num bigint      |
|           input format: org.apache.hadoop.mapred.TextInputFormat |
|           output format: org.apache.hadoop.hive.ql.io.IgnoreKeyTextOutputFormat |
|           serde name: org.apache.hadoop.hive.serde2.lazy.LazySimpleSerDe |
|           name: fly.flights_by_carrier             |
|                                                    |
|   Stage: Stage-2                                   |
|     Stats-Aggr Operator                            |
|                                                    |
+----------------------------------------------------+--+

阶段依赖
示例查询将在四个 stages 中执行，第 0 阶段到第 3 阶段。
每个 stage可能是 MapReduce工作，一个 HDFS行动，一个 metastore操作，或由 Hive server 执行的其他操作.
编号并不暗示执行顺序或依赖性。
阶段之间的依赖关系决定了它们必须执行的顺序， Hive在 EXPLAIN 的开头明确指定这些依赖项结果。
根阶段，如本例中的 Stage-1，没有依赖关系，可以先自由运行。
非根阶段在它们所依赖的阶段完成之前不能运行。
阶段计划
输出的阶段计划部分显示了阶段的描述。
对于 Hive ，从顶部开始然后向下阅读它们。
阶段 1 被标识为 MapReduce工作。
查询计划显示此作业包括 map phase (由 Map Operator Tree 描述)和 reduce phase (由Reduce Operator Tree 描述)。
在 map phase ， map task 读取航类表并选择航空公司和航类列。
此数据传递给 reduce phase ，其中reduce任务按载体对数据进行分组，并通过计数航类来聚合它。
第 1 阶段之后是第 0 阶段，这是一个 HDFS Action (移动)。
在这个阶段， Hive将上一阶段的输出移动到 HDFS 中仓库目录中的新子目录。
这是将命名为 flight_by_carrier 的新表的存储目录。
在 Stage-0 之后是 Stage-3，这是一个 metastore行动:
创建表 .
在这个阶段， Hive在 fly 数据库中创建一个名为 flight_by_carrier 的新表。
该表有两列:一个 STRING名为载体的列和 BIGINT名为 num 的列。
最后阶段，阶段 2， 采集统计 .
这个最后阶段的细节并不重要，但它会收集诸如表中的行数、存储表数据的文件数等信息 HDFS ，以及表中每列中唯一值的数量。
这些统计信息可用于优化 Hive查询。