ODS& DWD& DWS& ADS 数仓分层

数仓分层

ODS：Operation Data Store
原始数据

DWD(数据清洗/DWI ) data warehouse detail
数据明细详情，去除空值，脏数据，超过极限范围的明细解析
具体表

DWS(宽表-用户行为，轻度聚合) data warehouse service ----->有多少个宽表？多少个字段
服务层--留存-转化-GMV-复购率-日活 、点赞、评论、收藏; 
轻度聚合对DWD

ADS(APP/DAL/DF)-出报表结果 Application Data Store
做分析处理同步到RDS数据库里边

数据集市：狭义ADS层； 广义上指DWD DWS ADS 从hadoop同步到RDS的数据

 

1. ODS层

原始数据层，存放原始数据，直接加载原始日志、数据，数据保持原貌不做处理。

eg:创建启动日志表ods_start_log

 

2. DWD层数据解析

对ODS层数据进行清洗（去除空值，脏数据，超过极限范围的数据，行式存储改为列存储，改压缩格式）

DWD解析过程，临时过程

eg:

• 两个临时表： dwd_base_event_log、dwd_base_start_log
• 建多张表外部表: 以日期分区,dwd_base_event_log在这张表中根据event_name将event_json中的字段通过get_json_object函数一个个解析开来;

DWD层创建基础明细表

明细表用于存储ODS层原始表转换过来的明细数据。

 

3.DWS层--（用户行为宽表层）

目标：统计当日、当周、当月活动的每个设备明细

eg：建表dws_uv_detail_day

 

4.ADS层

  目标：当日、当周、当月活跃设备数    使用 day_count表 join wk_count  join mn_count , 把3张表连接一起

eg：建表ads_uv_count表