炼数成金 门户 培训 查看内容

高性能高扩展的千亿级实时数据仓库全实现

2019-12-13 10:34| 发布者: 仙豆| 查看: 12811| 评论: 0|原作者: 仙豆

快速报名入口
数据仓库(Data Warehouse)简称DW或DWH,是数据库的一种概念上的升级,可以说是为满足新需求设计的一种新数据库,而这个数据库是需容纳更多的数据,更加庞大的数据集,从逻辑上讲数据仓库和数据库是没有什么区别的。

为企业所有级别的决策制定过程,提供所有类型数据支撑的战略集合,主要是用于数据挖掘和数据分析,以建立数据沙盘为基础,为消灭消息孤岛和支持决策为目的而创建的。

数据仓库的应用 1.数据分析、数据挖掘、人工智能机器学习、风险控制、无人驾驶。 2.数据化运营、精准运营。 3.广告精准、智能投放。

随着我们从IT时代步入DT时代,数据积累量也与日俱增,同时伴随着互联网的发展,越来越多的应用场景产生,传统的数据处理、存储方式已经不能满足日益增长的需求。而互联网行业相比传统行业对新生事物的接受度更高、应用场景更复杂, 因此基于大数据构建的数据仓库最先在互联网行业得到了尝试。

高性能高扩展的亿级电商全端实时数据仓库全实现(PC、移动、小程序) ,以热门的互联网电商实际业务应用场景为案例讲解,对电商数据仓库的常见实战指标以及难点实战指标进行了详尽讲解,具体指标包括:每日、月大盘收入报表、高付费用户分析报表、流量域多方位分析、营销域多方位分析、实时排行榜指标分析、用户主题分析、店铺主题时间区间分析等,数据分析涵盖全端(PC、移动、小程序)应用,与互联网企业大数据技术同步,让大家能够真正学到大数据企业级数据仓库的实战经验。

本课程凝聚讲师多年一线大数据企业实际项目经验,大数据企业在职架构师亲自授课,全程实操代码,带你体验真实的大数据开发过程,代码现场调试。通过本课程的学习再加上老师的答疑,你完全可以将本案例直接应用于企业。本套课程可以满足世面上绝大多数大数据企业级的数据仓库业务场景,全部代码可以直接部署企业,支撑亿级并发数据分析。最后的项目代码也是具有极高的商业价值的,大家可以根据自己的业务进行修改,便可以使用。

本课程包含的技术:
Flink1.9.0
Greenplum5.0.0
Hadoop2.6.0 HBase1.0.0
Kafka2.1.0
Hive1.1.0
HDFS、MapReduce
Redis、Flume
Sqoop、Zookeeper
MyBatis、EhCache
SpringBoot2.0.2.RELEASE
SpringCloud Finchley.RELEASE
Binlog、Canal
MySQLMycat
Vue.js、Nodejs
Highcharts

课程亮点:
1.与企业无缝对接、真实工业界产品  
2.支持海量数据的分析
3.支持全端实时数据分析
4.通用数据仓库分层解决方案
5.数据库实时同步解决方案
6.主流微服务后端系统
7.电商数据仓库实战指标
8.实时加离线多方位分析
9.互联网大数据企业热门技术栈
10.分布式数据库存储解决方案
11.涵盖主流前端技术VUE+jQuery+Ajax+NodeJS
12.大数据热门技术Flink新版本
13.集成SpringCloud实现统一整合方案
14.全程代码实操,提供全部代码和资料
15.提供答疑和提供企业技术方案咨询

课程大纲:
第一课:数仓接入层以及流量域数据设计和实现
1、课程说明
2、数据接入层之springboot构建数据收集服务
3、数据接入层之构建springcloud注册中心
4、数据接入层之收集服务注册
5、数据接入层之模拟数据代码编写
6、数据接入层之模拟数据联调接口以及效果演示
7、数据接入层之流量域app端业务数据结构讲解
8、数据接入层之流量域小程序端业务数据结构讲解
9、数据接入层之流量域pc端业务数据结构讲解
10、数据接入层之流量域数据采集架构讲解
11、数据接入层之模拟流量域数据采集代码编写1
12、数据接入层之模拟流量域数据采集代码编写2

第二课:数据仓库分层以及实时采集设计和实现
13、数据接入层之kafka2安装
14、数据接入层之kafka2可用性测试
15、数据接入层之spring boot整合kafka
16、数据接入层之spring boot整合kafka联调测试
17、实时计算服务之flink部署以及任务提交效果演示
18、数据仓库之hadoop安装讲解
19、数据仓库之flume讲解以及安装
20、数据仓库之flume同步数据
21、数据仓库之flume同步数据问题解决以及注意事项说明
22、数据仓库之hive安装讲解
23、实时数据仓库之未分层带来的问题讲解
24、实时数据仓库之实时数据仓库之分层好处以及分层模型讲解

第三课:全端商品、活动、购物车流量域数据结构以及数据实时同步大数据环境
25、实时数据仓库之pc端商品流量数据模拟
26、实时数据仓库之pc端活动流量数据模拟
27、实时数据仓库之pc端购物车流量数据模拟
28、实时数据仓库之小程序端商品流量数据模拟
29、实时数据仓库之小程序端活动流量数据模拟
30、实时数据仓库之小程序端购物车流量数据模拟
31、实时数据仓库之app端活动流量数据模拟
32、实时数据仓库之app端购物车流量数据模拟
33、实时数据仓库之pc端流量补充信息模拟数据以及pc端日志结构优化
34、实时数据仓库之日志类型枚举设计
35、实时数据仓库之所有日志抽象日志类型讲解以及代码实现
36、实时数据仓库之数据收集服务优化以及调试
37、实时数据仓库之app流量域数据flume配置讲解以及同步app流量域数据到HDFS
38、实时数据仓库之pc端流量域数据flume配置讲解以及同步pc端流量域数据到HDFS
39、实时数据仓库之小程序端流量域数据flume配置讲解以及同步小程序端流量域数据

第四课:数据仓库分层之ODS层以及DWD层设计和实现
40、实时数据仓库之Hive JsonSerde讲解
41、实时数据仓库之ODS层之app流量域数据映射外部表讲解
42、实时数据仓库之ODS层之app流量域数据外部分区表优化讲解
43、实时数据仓库之ODS层之app流量域活动以及商品信息表构建
44、实时数据仓库之ODS层之pc端流量域购物车表构建
45、实时数据仓库之ODS层之pc端流量域活动以及商品表构建
46、实时数据仓库之ODS层之小程序端流量域表构建1
47、实时数据仓库之ODS层之小程序端流量域表构建2
48、实时数据仓库之LinuxShell脚本讲解
49、实时数据仓库之linuxCrontab讲解
50、实时数据仓库之定时导入分区脚本编写以及定时任务设置
51、实时数据仓库DWD层之购物车整合流量域表构建
52、实时数据仓库DWD层之活动整合流量域表构建
53、实时数据仓库DWD层之商品整合流量域表构建
54、实时数据仓库DWD层之整合流量域表构建补充讲解
55、实时数据仓库DWD层之购物车基础数据转换整合
56、实时数据仓库DWD层之购物车基础数据转换整合补充

第五课:数据仓库分层之DWD层、DWM层、DWS层设计和实现
57、实时数据仓库DWD层之活动基础数据转换整合
58、实时数据仓库DWD层之商品基础数据转换整合
59、实时数据仓库DWD层之商品基础数据转换整合补充
60、实时数据仓库DWM层讲解以及表结构定义
61、实时数据仓库DWM层数据转换讲解
62、实时数据仓库DWD层异常数据处理
63、实时数据仓库DWD层异常数据处理sql调试以及解决
64、实时数据仓库DWM层子查询处理pc端设备信息
65、实时数据仓库DWS层讲解以及用户宽表结构定义
66、实时数据仓库DWM层表结构以及数据转换优化讲解
67、实时数据仓库DWS层用户宽表数据转换sql编写1
68、实时数据仓库DWS层用户宽表数据转换sql编写2
69、实时数据仓库DWS层用户宽表数据转换调试讲解
70、实时数据仓库DWS层商品宽表结构定义
71、实时数据仓库DWS层商品宽表数据转sql编写
72、实时数据仓库DWS层用户宽表月表
73、实时数据仓库DWS层用户宽表月表补充讲解
74、实时数据仓库DWS层商品宽表月表

第六课:数据仓库营销域设计和实现
75、实时数据仓库之Sqoop讲解以及安装
76、实时数据仓库之商品域商品数据模拟
77、实时数据仓库之商品域商家以及用户数据模拟
78、实时数据仓库之商品域ODS层表构建
79、实时数据仓库之Sqoop同步商品域数据
80、实时数据仓库之Sqoop兼容性问题解决以及同步效果演示
81、实时数据仓库之商品域数据同步完善优化
82、实时数据仓库之营销域活动数据模拟
83、实时数据仓库之营销域团购数据模拟
84、实时数据仓库之营销域优惠劵数据模拟
85、实时数据仓库之营销域秒杀数据模拟
86、实时数据仓库之营销域红包数据模拟
87、实时数据仓库之交易域订单数据模拟1
88、实时数据仓库之交易域订单数据模拟2
89、实时数据仓库之营销域ODS层表构建
90、实时数据仓库之交易域ODS层表构建
91、实时数据仓库之批量同步营销域数据
92、实时数据仓库之批量同步交易域数据

第七课:数据库实时同步以及实时分析设计和实现
93、实时数据仓库之Binlog讲解
94、实时数据仓库之Binlog日志查看
95、实时数据仓库之业务数据同步技术选型
96、实时数据仓库之Canal详解
97、实时数据仓库之Canal+Kafka实时同步业务数据
98、实时数据仓库之Canal+Kafka实时同步业务数据效果演示
99、实时数据仓库之Flink1.9+Kafka构建实时分析项目
100、实时数据仓库之业务数据topic构建
101、实时数据仓库之业务数据公共实体构建1
102、实时数据仓库之业务数据公共实体构建2
103、实时数据仓库之Flink实时转换同步业务数据代码编写
104、实时数据仓库之反射技术实时转换业务数据到数据仓库
105、实时数据仓库之FastJson解析Binlog日志数据
106、实时数据仓库之Flink实时转换业务数据代码编写
107、实时数据仓库之Flink过滤Binlog业务数据代码编写
108、实时数据仓库之目标topic sink联调测试
109、实时数据仓库之Flume实时同步业务数据脚本编写以及效果演示

第八课:用户主题团购以及优惠劵排行榜实时分析
110、实时数据仓库之Hbase环境搭建
111、实时数据仓库之Hbase 工具类代码编写
112、实时数据仓库之用户主题实时团购分析map代码编写
113、实时数据仓库之用户主题实时团购分析reduce代码编写
114、实时数据仓库之用户主题实时团购分析sink代码编写
115、实时数据仓库之用户主题实时团购数据存储hbase仓库代码编写
116、实时数据仓库之用户主题实时团购数据用户较大成交团购分析代码编写
117、实时数据仓库之Redis环境构建
118、实时数据仓库之Redis使用讲解
119、实时数据仓库之Redis实现实时排名代码编写
120、实时数据仓库之实时优惠劵用户排行分析代码编写
121、实时数据仓库之app应用层终端使用类别分析sql编写
122、实时数据仓库之app应用层购物车操作分析sql编写
123、实时数据仓库之sqoop同步app层数据到mysql脚本编写

第九课:商品域、营销域、交易域数据仓库完善以及app层设计和实现
124、实时数据仓库之DIM层讲解以及构建
125、实时数据仓库之商品域DWD层表构建以及数据转换
126、实时数据仓库之营销域DWD层表构建以及数据转换
127、实时数据仓库之交易域DWD层表构建以及数据转换
128、实时数据仓库之DWM层订单行为表构建以及数据转换sql编写
129、实时数据仓库之DWS层用户、店铺、商家、商品订单主题宽表讲解以及开发
130、实时数据仓库之app应用层团购订单分析开发
131、实时数据仓库之app应用层红包、优惠劵、指定活动、秒杀活动订单分析开发
132、实时数据仓库之app应用层团购、红包、优惠劵、指定活动、秒杀活动订单月表
133、实时数据仓库之app应用层终端使用、购物车月表分析开发
134、实时数据仓库之app层订单分析结果同步到mysql脚本开发1
135、实时数据仓库之app层订单分析结果同步到mysql脚本开发2

第十课:大盘收入、高付费报表以及店铺主题分析
136、实时数据仓库之MyCat详解
137、实时数据仓库之MyCat安装1
138、实时数据仓库之MyCat安装2以及演示
139、实时数据仓库之app层实时大盘收入报表代码编写1
140、实时数据仓库之app层实时大盘收入报表代码编写2
141、实时数据仓库之app层高付费用户综合报表代码编写
142、实时数据仓库之Greenplum讲解
143、实时数据仓库之Greenplum安装实战讲解
144、实时数据仓库之Greenplum使用讲解
145、实时数据仓库之Greenplum远程权限配置以及api使用讲解
146、实时数据仓库之Greenplum特定时间店铺主题分析代码编写1
147、实时数据仓库之Greenplum特定时间店铺主题分析代码编写2
148、实时数据仓库之Greenplum特定时间店铺主题分析代码编写3
149、实时数据仓库之Greenplum特定时间店铺主题分析代码编写4

第十一课:数仓前端+图标项目实战
150、实时数据仓库之Vue前端项目构建实战讲解
151、实时数据仓库之前端系统项目开发架构讲解
152、实时数据仓库之Vue.js+highcharts构建图表
153、实时数据仓库之大盘收入报表图表实战开发
154、实时数据仓库之高付费用户报表图表实战开发
155、实时数据仓库之流量域分析图表实战开发
156、实时数据仓库之营销域分析图表实战开发
157、实时数据仓库之用户主题分析图表实战开发
158、实时数据仓库之实时排行图表实战开发
159、实时数据仓库之特定时间店铺主题分析图表实战开发
160、实时数据仓库之后端接口服务构建
161、实时数据仓库之后端联调前端代码开发
162、实时数据仓库之后端联调大盘收入报表代码开发

第十二课:数仓完善、后端系统开发、前端项目整合以及性能优化
163、实时数据仓库之后端联调高付费用户报表代码开发
164、实时数据仓库之后端联调流量域分析代码开发
165、实时数据仓库之后端联调营销域分析代码开发
166、实时数据仓库之后端联调用户主题以及实时排行分析代码开发
167、实时数据仓库之后端联调特定时间店铺主题分析代码开发
168、实时数据仓库之后端联调代码开发补充
169、实时数据仓库之大盘收入报表后端接口实现
170、实时数据仓库之高付费用户报表接口实现
171、实时数据仓库之流量域以及营销域接口实现1
172、实时数据仓库之流量域以及营销域接口实现2
173、实时数据仓库之用户主题实时分析完善代码讲解
174、实时数据仓库之用户主题接口代码讲解
175、实时数据仓库之实时排行榜分析完善讲解
176、实时数据仓库之实时排行榜分析接口代码讲解
177、实时数据仓库之特定时间店铺主题分析接口代码讲解
178、实时数据仓库性能优化之缓存优化

授课时间:
课程将于2020年9月20日开课,课程持续时间大约为12周。

课程环境:
系统:Windows7     开发工具:IDEA WebStorm  

授课对象:
本课程针对具有一定的Java、大数据基础与相关大数据框架经验,想通过本项目的学习,掌握企业级的大数据数据仓库应用以及提高自己大数据的技能的同学。同时欢迎想入行大数据,或者对大数据数据仓库感兴趣及想跳槽拿高薪的同学们加入,一起成长一起进步。

讲师介绍:
友凡
多年移动互联网产品设计和开发经验,带领团队完成多个知名互联网产品,历任多家知名公司Java和大数据架构师,负责过多个大型Java和大数据系统的架构和开发。精通Java、Go、Python、Hadoop、Storm、Spark、Docker、NoSQL等语言和大数据技术,对分布式、高并发、高可用、微服务、缓存、虚拟化、海量数据处理有丰富的实战经验和解决方案。IT一线行业8年实战经验,教程案例均来自真实工业界开发场景。

收获预期:
熟练掌握大数据数据仓库设计思想,企业级实时数据仓库技术,主流大数据技术,分布式数据库技术,主流微服务技术,主流前端技术等,学完后能通过以上技术自主开发一套高并发高可用的实时大数据数据仓库系统。学员还可以对企业的大数据开发过程一目了然,全部掌握本课程内容能够满足企业级的大数据开发人才需求。

掌握本课程内容你可以从事:
数据仓库工程师/架构师 薪资范围 20K-50K
大数据基础架构工程师  薪资范围  20K-30K
数据开发工程师 薪资范围 20K-40K

新颖的课程收费形式:“逆向收费”约等于免费学习,仅收取100元固定收费+300元暂存学费,学习圆满则全额奖励返还给学员!

本门课程本来打算完全免费,某位大神曾经说过“成功就是正确的方向再加上适度的压力”。考虑到讲师本身要付出巨大的劳动,为了防止一些朋友在学习途中半途而废,浪费了讲师的付出,为此我们计划模仿某些健身课程,使用“逆向收费”的方法。
在报名时每位报名者收取400元,其中100元为固定 收费,另外300是暂存学费,即如果学员能完成全部课程要求,包括完成全部的书面和互动作业,则300元全款退回。如果学员未能坚持到完全所有的学习计划任务,则会被扣款。期望这种方式可以转化为大家强烈的学习愿望和驱动力!

课程授课方式:
1、 学习方式:老师发布教学资料、教材,幻灯片和视频,学员通过网络下载学习。同时通过论坛互动中老师对学员进行指导及学员之间相互交流。
2、 学习作业:老师每周布置书面及互动作业,学员需按时按质完成作业。
3、 老师辅导:根据作业批改中发现的问题,针对性给予辅导,帮助大家掌握知识。
4、 结业测验:通过测验,完成学业。

您是否对此课程还有疑问,那么请 点击进入 FAQ,您的问题将基本得到解答
全国统一咨询热线 4008-010-006
课程现开始接受报名,报名方式

网上报名 请点击:
高性能高扩展的千亿级实时数据仓库全实现
咨询Email :edu01@dataguru.cnedu02@dataguru.cn
课程入门讨论咨询群:706821899(群内有培训公开课视频供大家免费观看)
咨询QQ: 2222010006 (上班时间在线)

技术热点、 行业资讯,培训课程信息,尽在炼数成金官方微信,低成本传递高端知识!技术成就梦想!欢迎关注!
打开微信,使用扫一扫功能,即刻关注炼数成金官方微信账户,不容错过的精彩,期待您的体验!!!

快速报名入口
1

鲜花

握手

雷人

路过

鸡蛋

刚表态过的朋友 (1 人)

相关阅读

热门频道

  • 大数据
  • 商业智能
  • 量化投资
  • 科学探索
  • 创业

即将开课

 

GMT+8, 2020-9-28 21:18 , Processed in 0.198625 second(s), 33 queries .