【博学谷学习记录】超强总结,用心分享 | Hive分区表和分桶表

 #博学谷IT技术支持# 

一、分区表

  1. 分区表就是对一个表的文件数据进行分类管理,表现形式就是有很多的文件夹(dt=2019-02-27)。
  2. 分区表的作用是以后查询时,我们可以手动指定对应分区的数据,避免全表扫描,提高查询效率。
  3. 所谓的分区表,指的就是将数据按照表中的某一个字段进行统一归类,并存储在表中的不同的位置,也就是说,一个分区就是一类,这一类的数据对应到hdfs存储上就是对应一个目录。当我们需要进行处理的时候,可以通过分区进行过滤,从而只取部分数据,而没必要取全部数据进行过滤,从而提升数据的处理效率。且分区表是可以分层级创建。
  4. 分区表的关键字是Partition,这里的分区是MR中的分区没有关系。
  5. 分区表可以有内部分区表,也可以有外部分区表。
  6. 什么时候表数据不用分区:
    1. 几乎在实际应用中所有的表数据都要分区。
    2. 如果你的数据量很小,而且数据很单一,此时可以不用分区。
  • 静态分区
-- 1、创建单分区表
create table score
(
    sid    string,
    cid    string,
    sscore int
)
partitioned by (dt string)  -- 这个dt是分区字段和表字段没有关系,理论上可以随便写
row format delimited fields terminated by '\t';

-- 2、给分区表加载数据
-- 第一件事:在HDFS的表目录下创建文件夹:dt=2022-10-13  第二件事:将

你可能感兴趣的:(hive,大数据,hadoop)