@TOC 　　

　　

　　清点纸币 　　

　　

　　数据仓库和数据集市的详细说明：ODS，DW，DWD，DWM，DWS，ADS:https://blog.csdn.net/weixin _ 42526326/article/details/12163372 　　

　　

　　第一个项目的需求和架构设计，硅谷数仓实战：https://blog.csdn.net/weixin _ 42526326/article/details/121656151 　　

　　

　　硅谷实战二号仓库层次维度建模：https://blog.csdn.net/weixin _ 42526326/article/details/121657214 　　

　　

　　硅谷实战第三仓库建设：https://blog.csdn.net/weixin _ 42526326/article/details/121657431 　　

　　

　　尚硅谷数据仓库4.0视频教程 　　

　　

　　直通哔哩哔哩：2021新版电商数据仓库V4.0大数据仓库项目实战：https://www.bilibili.com/video/BV1rL411E7uz 　　

　　

　　百度网盘：https://pan.baidu.com/s/1FGUb8X0Wx7IWAmKXBRwVFg,提取代码：yyds 　　

　　

　　阿里云磁盘：https://www.aliyundrive.com/s/F2FuMVePj92,提取代码：335o 　　

　　

　　第1章仓库分层数量1.1为什么要分层 　　

　　

　　1.2数据集市和数据仓库概念 　　

　　

　　1.3数据仓库命名规范1.3.1表命名ODS层命名为ods_ table name 　　

　　

　　尺寸图层被命名为“尺寸_表格名称” 　　

　　

　　DWD图层被命名为dwd_ table name 　　

　　

　　DWS图层被命名为dws_ table name。 　　

　　

　　DWT图层被命名为dwt_ table name。 　　

　　

　　ADS层被命名为ads_ table name 　　

　　

　　临时表被命名为tmp_ table name 　　

　　

　　1.3.2脚本将数据源命名为target _ db/log.sh。 　　

　　

　　用户行为脚本以日志为后缀；业务脚本的后缀是db。 　　

　　

　　1.3.3表字段类型和数量类型为bigint。 　　

　　

　　金额为小数(16，2)，表示：16位有效数字，其中小数部分为2位。 　　

　　

　　字符串的类型(名称、描述信息等。)是字符串。 　　

　　

　　外键类型是字符串。 　　

　　

　　时间戳类型是bigint 　　

　　

　　第二章数字仓库理论2.1范式理论2.1.1范式概念1)定义 　　

　　

　　数据建模必须遵循一定的规则。在关系建模中，这条规则就是范例。 　　

　　

　　2)目的 　　

　　

　　通过采用范式，可以减少数据的冗余。 　　

　　

　　为什么要减少数据冗余？ 　　

　　

　　(1)十几年前，磁盘很贵，为了减少磁盘存储。 　　

　　

　　(2)以前没有分布式系统，都是单机，只能加磁盘，而且磁盘数量有限。 　　

　　

　　(3)由于需要一次修改多个表，很难保证数据的一致性。 　　

　　

　　3)缺点 　　

　　

　　范式的缺点是当你得到数据时，你需要通过连接来拼接最终的数据。 　　

　　

　　4)分类 　　

　　

　　目前行业范式有：第一范式(1NF)、第二范式(2NF)、第三范式(3NF)、巴斯-科德范式(BCNF)、第四范式(4NF)、第五范式(5NF)。 　　

　　

　　2.1.2功能依赖 　　

　　

　　2.1.3三种范式区分 　　

　　

　　 　　

　　

　　 　　

　　

　　2.2关系建模和维度建模关系建模和维度建模是两种数据仓库建模技术。关系建模由比尔恩门倡导，维度建模由Ralph Kimball倡导。 　　

　　

　　2.2.1关系建模关系建模将复杂的数据抽象为两个概念——实体和关系，并以标准化的方式表达。关系模型如图所示。从图中可以看出，它是松散零碎的，有大量的物理表。 　　

src="https://tupian.lamuhao.com/pic/img.php?k=关于商店优惠券的数学建模,优惠券数学建模7.jpg">

　　

关系模型严格遵循第三范式（3NF），数据冗余程度低，数据的一致性容易得到保证。由于数据分布于众多的表中，查询会相对复杂，在大数据的场景下，查询效率相对较低。

　　

2.2.2 维度建模维度模型如图所示，从图中可以看出，模型相对清晰、简洁。

　　

　　

图 维度模型示意图

　　

维度模型以数据分析作为出发点，不遵循三范式，故数据存在一定的冗余。维度模型面向业务，将业务用事实表和维度表呈现出来。表结构简单，故查询简单，查询效率较高。

　　

2.3 维度表和事实表（重点）2.3.1 维度表维度表：一般是对事实的描述信息。每一张维表对应现实世界中的一个对象或者概念。 例如：用户、商品、日期、地区等。

　　

维表的特征：

　　

维表的范围很宽（具有多个属性、列比较多）

　　

跟事实表相比，行数相对较小：通常< 10万条

　　

内容相对固定：编码表

　　

时间维度表：

　　

日期ID

　　

day of week

　　

day of year

　　

季度

　　

节假日

　　

2020-01-01

　　

2

　　

1

　　

1

　　

元旦

　　

2020-01-02

　　

3

　　

2

　　

1

　　

无

　　

2020-01-03

　　

4

　　

3

　　

1

　　

无

　　

2020-01-04

　　

5

　　

4

　　

1

　　

无

　　

2020-01-05

　　

6

　　

5

　　

1

　　

无

　　

2.3.2 事实表事实表中的每行数据代表一个业务事件（下单、支付、退款、评价等）。“事实”这个术语表示的是业务事件的度量值（可统计次数、个数、金额等），例如，2020年5月21日，宋宋老师在京东花了250块钱买了一瓶海狗人参丸。维度表：时间、用户、商品、商家。事实表：250块钱、一瓶

　　

每一个事实表的行包括：具有可加性的数值型的度量值、与维表相连接的外键，通常具有两个和两个以上的外键。

　　

事实表的特征：

　　

非常的大

　　

内容相对的窄：列数较少（主要是外键id和度量值）

　　

经常发生变化，每天会新增加很多。

　　

1）事务型事实表

　　

以每个事务或事件为单位，例如一个销售订单记录，一笔支付记录等，作为事实表里的一行数据。一旦事务被提交，事实表数据被插入，数据就不再进行更改，其更新方式为增量更新。

　　

2）周期型快照事实表

　　

周期型快照事实表中不会保留所有数据，只保留固定时间间隔的数据，例如每天或者每月的销售额，或每月的账户余额等。

　　

例如购物车，有加减商品，随时都有可能变化，但是我们更关心每天结束时这里面有多少商品，方便我们后期统计分析。

　　

3）累积型快照事实表

　　

累计快照事实表用于跟踪业务事实的变化。例如，数据仓库中可能需要累积或者存储订单从下订单开始，到订单商品被打包、运输、和签收的各个业务阶段的时间点数据来跟踪订单声明周期的进展情况。当这个业务过程进行时，事实表的记录也要不断更新。

　　

订单id

　　

用户id

　　

下单时间

　　

打包时间

　　

发货时间

　　

签收时间

　　

订单金额

　　

　　

　　

3-8

　　

3-8

　　

3-9

　　

3-10

　　

　　

2.4 维度模型分类在维度建模的基础上又分为三种模型：星型模型、雪花模型、星座模型。

　　

　　

　　

　　

2.5 数据仓库建模（绝对重点）2.5.1 ODS层1）HDFS用户行为数据

　　

　　

2）HDFS业务数据

　　

　　

3）针对HDFS上的用户行为数据和业务数据，我们如何规划处理？

　　

（1）保持数据原貌不做任何修改，起到备份数据的作用。

　　

（2）数据采用压缩，减少磁盘存储空间（例如：原始数据100G，可以压缩到10G左右）

　　

（3）创建分区表，防止后续的全表扫描

　　

2.5.2 DIM层和DWD层DIM层DWD层需构建维度模型，一般采用星型模型，呈现的状态一般为星座模型。

　　

维度建模一般按照以下四个步骤：

　　

选择业务过程→声明粒度→确认维度→确认事实

　　

（1）选择业务过程

　　

在业务系统中，挑选我们感兴趣的业务线，比如下单业务，支付业务，退款业务，物流业务，一条业务线对应一张事实表。

　　

（2）声明粒度

　　

数据粒度指数据仓库的数据中保存数据的细化程度或综合程度的级别。

　　

声明粒度意味着精确定义事实表中的一行数据表示什么，应该尽可能选择最小粒度，以此来应各种各样的需求。

　　

典型的粒度声明如下：

　　

订单事实表中一行数据表示的是一个订单中的一个商品项。

　　

支付事实表中一行数据表示的是一个支付记录。

　　

（3）确定维度

　　

维度的主要作用是描述业务是事实，主要表示的是“谁，何处，何时”等信息。

　　

确定维度的原则是：后续需求中是否要分析相关维度的指标。例如，需要统计，什么时间下的订单多，哪个地区下的订单多，哪个用户下的订单多。需要确定的维度就包括：时间维度、地区维度、用户维度。

　　

（4）确定事实

　　

此处的“事实”一词，指的是业务中的度量值（次数、个数、件数、金额，可以进行累加），例如订单金额、下单次数等。

　　

在DWD层，以业务过程为建模驱动，基于每个具体业务过程的特点，构建最细粒度的明细层事实表。事实表可做适当的宽表化处理。

　　

事实表和维度表的关联比较灵活，但是为了应对更复杂的业务需求，可以将能关联上的表尽量关联上。

　　

业务总线矩阵：

　　

　　

时间

　　

用户

　　

地区

　　

商品

　　

优惠券

　　

活动

　　

度量值

　　

订单

　　

√

　　

√

　　

√

　　

　　

　　

　　

运费/优惠金额/原始金额/最终金额

　　

订单详情

　　

√

　　

√

　　

√

　　

√

　　

√

　　

√

　　

件数/优惠金额/原始金额/最终金额

　　

支付

　　

√

　　

√

　　

√

　　

　　

　　

　　

支付金额

　　

加购

　　

√

　　

√

　　

　　

√

　　

　　

　　

件数/金额

　　

收藏

　　

√

　　

√

　　

　　

√

　　

　　

　　

次数

　　

评价

　　

√

　　

√

　　

　　

√

　　

　　

　　

次数

　　

退单

　　

√

　　

√

　　

√

　　

√

　　

　　

　　

件数/金额

　　

退款

　　

√

　　

√

　　

√

　　

√

　　

　　

　　

件数/金额

　　

优惠券领用

　　

√

　　

√

　　

　　

　　

√

　　

　　

次数

　　

至此，数据仓库的维度建模已经完毕，DWD层是以业务过程为驱动。

　　

DWS层、DWT层和ADS层都是以需求为驱动，和维度建模已经没有关系了。

　　

DWS和DWT都是建宽表，按照主题去建表。主题相当于观察问题的角度。对应着维度表。

　　

2.5.3 DWS层与DWT层DWS层和DWT层统称宽表层，这两层的设计思想大致相同，通过以下案例进行阐述。

　　

1）问题引出：两个需求，统计每个省份订单的个数、统计每个省份订单的总金额

　　

2）处理办法：都是将省份表和订单表进行join，group by省份，然后计算。同样数据被计算了两次，实际上类似的场景还会更多。

　　

那怎么设计能避免重复计算呢？针对上述场景，可以设计一张地区宽表，其主键为地区ID，字段包含为：下单次数、下单金额、支付次数、支付金额等。上述所有指标都统一进行计算，并将结果保存在该宽表中，这样就能有效避免数据的重复计算。

　　

3）总结：

　　

（１）需要建哪些宽表：以维度为基准。

　　

（２）宽表里面的字段：是站在不同维度的角度去看事实表，重点关注事实表聚合后的度量值。

　　

（３）DWS和DWT层的区别：DWS层存放的所有主题对象当天的汇总行为，例如每个地区当天的下单次数，下单金额等，DWT层存放的是所有主题对象的累积行为，例如每个地区最近７天（１５天、３０天、６０天）的下单次数、下单金额等。

　　

2.5.4 ADS层