数仓扫盲篇:什么是数据仓库?
moboyou 2025-03-25 12:38 13 浏览
不少人可能接触过数据仓库这一概念,那么,你是否了解数据仓库的定义和内涵呢?这篇文章里,作者结合自己的语言,针对数据仓库的定义、作用和特征等维度进行了总结分析,一起来看看吧,或许会对你有所启发。
一、什么是数据仓库?
百度是这样介绍的:
看起来有点抽象。
不管他,我们将数据仓库拆成“数据”+“仓库”,来理解。
继续百度。
数据:
仓库:
再简单上个仓库图,有画面感了!
数据+仓库,我们现在也可以粗暴的理解为“数据中转站”。
我们把仓库的描述进行拆分,通过对比数据仓库,来体会一下数据仓库是什么?
1)仓库的构成:库房、传送设施、出入库房的管道和设备、消防设施、管理用房
这里描述了货物的存储,出入,管理环节的基础设施。
那数据的存储,出入,管理环节同样也需要基础设施去支撑,数据存储在数据库或者文件系统里,数据通过ETL工具在数据仓库里流转,通过API对外提供数据,以及任务调度工具、节点管理工具去管理等。
2)按仓库存储的物品形态分为:固体、液体、气体、粉状物品
固体有固体的存储空间和方式,液体有液体的存储空间和方式,同样的气体、粉状物品都会有相应的存储方式。
数据也是一样,结构化数据可以存储在结构化的数据库,比如mysql,oracle等;文件等非结构化数据,也有相应的数据库去存储,比如HDFS,Hbase等。
3)按存储物品性质分为:原材料、半成本、成品
从加工的流程来看,物品在不同加工阶段,有不同的展现形式,数据也是一样,在原材料阶段,称为原始数据;对原始数据进行清洗,加工后,成为明细数据;对明细数据进行聚合,加工后,成为汇总数据;最后产出可直接应用的数据,成为应用数据。
4)按建筑形态分为:单层仓库、多层仓库、圆筒形仓库
对于存储不同形态的的物品,存储量不同,仓库也会有不同的建筑形态。数据仓库也是一样,根据应用场景,可以分为离线数仓,实时数仓,按照数据分层,可以分为贴源层,明细层,汇总层,应用层。
仓库有了,货物有了,还要考虑什么?
在现实生活中,每天都要存货,找货,出货。如何合理的存储货物,快速的查找货物,及时的把货物运出去才是仓库管理员最关心的。
数据也是如此,为了合理的存储数据,快速的使用数据,横向可对数据进行主题的划分,纵向可对数据进行层级划分(这里就不展开介绍了)。
经过以上对比介绍,大致就能理解数据仓库具体是干什么的了。
二、为什么需要数据仓库?
首先,数据仓库的典型用户是数据分析人员,使用场景是决策场景,那么企业为什么需要数据仓库,我们需要知道没有数据仓库前,数据分析是什么样的,就能知道为什么需要数据仓库?
这里需要先补充一下业务系统的范式模型是什么?
即指遵循3范式规则设计的表模型。
第①范式:列都是原子性的,即数据库表的每一列都是不可分割的原子数据项(为了消除冗余和方便查询,对数据拆分处理,主要是针对时间、地区等属性)。
第②范式:在1范式基础上,实体的属性需要完全依赖于主键全部,不能存在仅依赖主键一部分的属性(指不能只依赖联合主键的其中一个属性,只有一个主键可不考虑第2范式)。
第③范式:需要确保数据表中的每一列数据都和主键直接相关,而不能间接相关(消除冗余,降低实体属性和业务数据之间的影响)。
范式模型就像是异地恋,双方不在一起,只能通过电话联系,沟通效率不高,但是你也可以知道对方每天做了什么,吃了什么。但是范式模型是会关联多个哈,是个海王。
在业务系统中,范式模型强调减少数据冗余、单纯依赖关联关系,主要应用于在线事务系统。由于业务数据库是实时记录业务操作的,仅通过ID关联,在业务系统的各种实体属性修改时,不会牵扯到历史数据的回溯;以及业务数据修改时候,不会影响各种实体属性。
假设此时企业没有建设数据仓库。这时候来了一个分析需求,要求统计企业每个工程项目的物料使用情况和人力成本情况。
那么可能会遇到以下几个情况:
- 取数难:由于人资、物资、项目是三个子系统,你就得想办法去多个业务系统去搞生产数据,能不能拿到,需不需要审批,数据安全都是要考虑的问题。
- 分析难:每个系统的开发规则,规范程度、统计口径都不一致。你还要去做数据关系映射,了解原业务系统的数据逻辑,废了老大劲。
- 分析慢:由于业务系统是遵循范式建模的,发现关联了一堆表才能完成分析需求,分析时间长不说,还可能会影响业务数据库的稳定。
- 成本高:显而易见,在没有数据统一处理的情况下,这种分析需求费时费力,如果有更多更复杂的分析需求,该怎么办呢。
此时我们需要一个可以将各个业务系统数据集成起来,面向业务数据分析的,统一规划数据加工的规范,甚至是独立的,不会影响业务系统的数据模型组织方式。
数据仓库就是这样一种数据的组织方式,此处引出维度建模理论,那么维度模型是什么?
维度建模从分析决策的需求出发构建模型,为分析需求服务,因此它重点关注用户如何更快速地完成需求分析,同时具有较好的大规模复杂查询的响应性能。其典型的代表是星形模型。(来源大数据之路)
维度模型强调面向业务分析决策需求,提高数据查询的效率,可以减少关联,进行维度冗余。由于维度模型的数据具有稳定性,进入数仓的数据,不会发生修改,且数据都有历史记录,所以不需要考虑事实和维度之间的变化会互相影响。
但是数据冗余在提高查询效率的同时,也会增加存储成本。
维度模型就像是本地恋,恨不得天天腻在一起,去玩,去吃饭,相互之间了解的更多了,感情变好了,但是日常花销也变高了。
由以上问题我们可以推导出数据仓库的作用,以及为什么需要数据仓库?
- 隔离业务数据。
- 把散落在各个业务系统的数据集中起来,集中处理。
- 统一建模,沉淀数据处理的结果,降低重复加工。
- 提高数据的使用/共享效率,为企业决策提 供数据依据。
三、数据仓库有什么特征?
结合前两部分的介绍,我们总结一下数据仓库的特征:
- 面向业务的:根据业务过程对数据进行划分,让数据合理的组织和存储,方便快速查找和使用数据。
- 集成的:原始数据是从多个业务系统获得,要将这些来源不同的原始数据整合到一个数据库中统一处理。
- 稳定的:一旦进入数据仓库,就不允许被修改,一般的操作就是查询、定期的加载。
- 统一的:数据仓库可以对数据规范化、统一化处理,沉淀公共处理逻辑。
本文由 @成长中的数据产品 原创发布于人人都是产品经理,未经许可,禁止转载
题图来自 Unsplash,基于 CC0 协议
该文观点仅代表作者本人,人人都是产品经理平台仅提供信息存储空间服务。
相关推荐
- Excel技巧:SHEETSNA函数一键提取所有工作表名称批量生产目录
-
首先介绍一下此函数:SHEETSNAME函数用于获取工作表的名称,有三个可选参数。语法:=SHEETSNAME([参照区域],[结果方向],[工作表范围])(参照区域,可选。给出参照,只返回参照单元格...
- Excel HOUR函数:“小时”提取器_excel+hour函数提取器怎么用
-
一、函数概述HOUR函数是Excel中用于提取时间值小时部分的日期时间函数,返回0(12:00AM)到23(11:00PM)之间的整数。该函数在时间数据分析、考勤统计、日程安排等场景中应用广泛。语...
- Filter+Search信息管理不再难|多条件|模糊查找|Excel函数应用
-
原创版权所有介绍一个信息管理系统,要求可以实现:多条件、模糊查找,手动输入的内容能去空格。先看效果,如下图动画演示这样的一个效果要怎样实现呢?本文所用函数有Filter和Search。先用filter...
- FILTER函数介绍及经典用法12:FILTER+切片器的应用
-
EXCEL函数技巧:FILTER经典用法12。FILTER+切片器制作筛选按钮。FILTER的函数的经典用法12是用FILTER的函数和切片器制作一个筛选按钮。像左边的原始数据,右边想要制作一...
- office办公应用网站推荐_office办公软件大全
-
以下是针对Office办公应用(Word/Excel/PPT等)的免费学习网站推荐,涵盖官方教程、综合平台及垂直领域资源,适合不同学习需求:一、官方权威资源1.微软Office官方培训...
- WPS/Excel职场办公最常用的60个函数大全(含卡片),效率翻倍!
-
办公最常用的60个函数大全:从入门到精通,效率翻倍!在职场中,WPS/Excel几乎是每个人都离不开的工具,而函数则是其灵魂。掌握常用的函数,不仅能大幅提升工作效率,还能让你在数据处理、报表分析、自动...
- 收藏|查找神器Xlookup全集|一篇就够|Excel函数|图解教程
-
原创版权所有全程图解,方便阅读,内容比较多,请先收藏!Xlookup是Vlookup的升级函数,解决了Vlookup的所有缺点,可以完全取代Vlookup,学完本文后你将可以应对所有的查找难题,内容...
- 批量查询快递总耗时?用Excel这个公式,自动计算揽收到签收天数
-
批量查询快递总耗时?用Excel这个公式,自动计算揽收到签收天数在电商运营、物流对账等工作中,经常需要统计快递“揽收到签收”的耗时——比如判断某快递公司是否符合“3天内送达”的服务承...
- Excel函数公式教程(490个实例详解)
-
Excel函数公式教程(490个实例详解)管理层的财务人员为什么那么厉害?就是因为他们精通excel技能!财务人员在日常工作中,经常会用到Excel财务函数公式,比如财务报表分析、工资核算、库存管理等...
- Excel(WPS表格)Tocol函数应用技巧案例解读,建议收藏备用!
-
工作中,经常需要从多个单元格区域中提取唯一值,如体育赛事报名信息中提取唯一的参赛者信息等,此时如果复制粘贴然后去重,效率就会很低。如果能合理利用Tocol函数,将会极大地提高工作效率。一、功能及语法结...
- Excel中的SCAN函数公式,把计算过程理清,你就会了
-
Excel新版本里面,除了出现非常好用的xlookup,Filter公式之外,还更新一批自定义函数,可以像写代码一样写公式其中SCAN函数公式,也非常强大,它是一个循环函数,今天来了解这个函数公式的计...
- Excel(WPS表格)中多列去重就用Tocol+Unique组合函数,简单高效
-
在数据的分析和处理中,“去重”一直是绕不开的话题,如果单列去重,可以使用Unique函数完成,如果多列去重,如下图:从数据信息中可以看到,每位参赛者参加了多项运动,如果想知道去重后的参赛者有多少人,该...
- Excel(WPS表格)函数Groupby,聚合统计,快速提高效率!
-
在前期的内容中,我们讲了很多的统计函数,如Sum系列、Average系列、Count系列、Rank系列等等……但如果用一个函数实现类似数据透视表的功能,就必须用Groupby函数,按指定字段进行聚合汇...
- Excel新版本,IFS函数公式,太强大了!
-
我们举一个工作实例,现在需要计算业务员的奖励数据,右边是公司的奖励标准:在新版本的函数公式出来之前,我们需要使用IF函数公式来解决1、IF函数公式IF函数公式由三个参数组成,IF(判断条件,对的时候返...
- Excel不用函数公式数据透视表,1秒完成多列项目汇总统计
-
如何将这里的多组数据进行汇总统计?每组数据当中一列是不同菜品,另一列就是该菜品的销售数量。如何进行汇总统计得到所有的菜品销售数量的求和、技术、平均、最大、最小值等数据?不用函数公式和数据透视表,一秒就...
- 一周热门
- 最近发表
-
- Excel技巧:SHEETSNA函数一键提取所有工作表名称批量生产目录
- Excel HOUR函数:“小时”提取器_excel+hour函数提取器怎么用
- Filter+Search信息管理不再难|多条件|模糊查找|Excel函数应用
- FILTER函数介绍及经典用法12:FILTER+切片器的应用
- office办公应用网站推荐_office办公软件大全
- WPS/Excel职场办公最常用的60个函数大全(含卡片),效率翻倍!
- 收藏|查找神器Xlookup全集|一篇就够|Excel函数|图解教程
- 批量查询快递总耗时?用Excel这个公式,自动计算揽收到签收天数
- Excel函数公式教程(490个实例详解)
- Excel(WPS表格)Tocol函数应用技巧案例解读,建议收藏备用!
- 标签列表
-
- 外键约束 oracle (36)
- oracle的row number (32)
- 唯一索引 oracle (34)
- oracle in 表变量 (28)
- oracle导出dmp导出 (28)
- 多线程的创建方式 (29)
- 多线程 python (30)
- java多线程并发处理 (32)
- 宏程序代码一览表 (35)
- c++需要学多久 (25)
- css class选择器用法 (25)
- css样式引入 (30)
- css教程文字移动 (33)
- php简单源码 (36)
- php个人中心源码 (25)
- php小说爬取源码 (23)
- 云电脑app源码 (22)
- html画折线图 (24)
- docker好玩的应用 (28)
- linux有没有pe工具 (34)
- 可以上传视频的网站源码 (25)
- 随机函数如何生成小数点数字 (31)
- 随机函数excel公式总和不变30个数据随机 (33)
- 所有excel函数公式大全讲解 (22)
- 有动图演示excel函数公式大全讲解 (32)
