炼数成金 门户 培训 查看内容

亿级电商实时数据分析平台构建实战

2020-7-22 17:08| 发布者: 仙豆| 查看: 1218| 评论: 0|原作者: 仙豆

快速报名入口
基于Flink+ClickHouse构建亿级电商实时数据分析平台(PC、移动、小程序)

引用网络文章开启本课程的开篇:
在大数据分析领域中,传统的大数据分析需要不同框架和技术组合才能达到最终的效果,在人力成本,技术能力和硬件成本上以及维护成本让大数据分析变得成为昂贵的事情。让很多中小型企业非常苦恼,不得不被迫租赁第三方大型公司的数据分析服务。

ClickHouse开源的出现让许多想做大数据并且想做大数据分析的很多公司和企业耳目一新。ClickHouse 正是以不依赖Hadoop 生态、安装和维护简单、查询速度快、可以支持SQL等特点在大数据分析领域越走越远。

本课程采用全新的大数据技术栈:Flink+ClickHouse,让你体验到全新技术栈的强大,感受时代变化的气息,通过学习完本课程可以节省你摸索的时间,节省企业成本,提高企业开发效率。本课程不仅告诉你如何做项目,还会告诉你如何验证系统如何支撑亿级并发,如何部署项目等等。希望本课程对一些企业开发人员和对新技术栈有兴趣的伙伴有所帮助,如对我录制的教程内容有建议请及时交流。


课程概述:
在这个数据爆发的时代,像大型电商的数据量达到百亿级别,我们往往无法对海量的明细数据做进一步层次的预聚合,大量的业务数据都是好几亿数据关联,并且我们需要聚合结果能在秒级返回。

那么我们该如何实现这一需求呢?基于Flink+ClickHouse构建电商亿级实时数据分析平台课程,将带领大家一步一步从无到有实现一个高性能的实时数据分析平台,该系统以热门的互联网电商实际业务应用场景为案例讲解,对电商数据的常见实战指标以及难点实战指标进行了详尽讲解,具体指标包括:概况统计、全站流量分析、渠道分析、广告分析、订单分析、运营分析(团购、秒杀、指定活动)等,该系统指标分为分钟级和小时级多时间方位分析,能承载海量数据的实时分析,数据分析涵盖全端(PC、移动、小程序)应用。

本课程凝聚讲师多年一线大数据企业实际项目经验,大数据企业在职架构师亲自授课,全程实操代码,带你体验真实的大数据开发过程,代码现场调试。通过本课程的学习再加上老师的答疑,你完全可以将本案例直接应用于企业。

项目截图
20200710155307_61764.png

本课程包含的技术:
开发工具为:IDEA、WebStorm
Flink1.9.0
ClickHouse
Hadoop2.6.0
HBase1.0.0
Kafka2.1.0
Hive1.0.0
Jmeter(验证如何支撑亿级并发)
Docker (虚拟化部署)
HDFS、MapReduce
Zookeeper
SpringBoot2.0.2.RELEASE
SpringCloud Finchley.RELEASE Binlog、
Canal
MySQL
Vue.js、Nodejs
Highcharts
Linux Shell编程


课程亮点:
1.与企业无缝对接、真实工业界产品
2.ClickHouse高性能列式存储数据库
3.大数据热门技术Flink新版本
4.Flink join 实战
5.Flink 自定义输出路径实战
6.全链路性能压力测试
7.虚拟化部署
8.集成指标明细查询
9.主流微服务后端系统
10.分钟级别与小时级别多时间方位分析
11.数据库实时同步解决方案
12.涵盖主流前端技术VUE+jQuery+Ajax+NodeJS
13.集成SpringCloud实现统一整合方案
14.互联网大数据企业热门技术栈
15.支持海量数据的实时分析
16.支持全端实时数据分析
17.全程代码实操,提供全部代码和资料
18.提供答疑和提供企业技术方案咨询
企业一线架构师讲授,代码在老师的指导下企业可以复用,提供企业解决方案。  

课程大纲:
第一课:实时分析服务以及采集服务构建
1、课程说明免费
2、课程价值说明免费
3、数据采集服务构建免费
4、Spring Cloud Eureka构建服务注册中心
5、日志数据结构深度讲解
6、数据采集服务完善以及客户端数据上报实战
7、kafka环境搭建以及kafka联调测试
8、数据采集服务整合kafka
9、flink部署以及任务提交讲解
10、flink+kafka构建实时分析服务
11、flink+kafka构建实时分析服务联调测试以及效果演示

第二课:ClickHouse讲解和实战以及用户多终端多状态设计和开发
12、hadoop环境搭建
13、ClickHouse 初识讲解
14、ClickHouse安装详解以及简单使用讲解
15、ClickHouse数据类型以及常用操作实战
16、ClickHouse Java使用讲解
17、ClickHouse java使用讲解
18、日志数据完善优化讲解
19、数据收集服务优化完善
20、hbase环境安装
21、hbase 工具类代码编写以及联调测试
22、用户状态设计讲解
23、数据收集服务业务处理
24、新增用户状态封装代码编写
25、用户多终端活跃状态封装代码编写
26、日期工具代码编写以及数据收集服务业务处理代码完善

第三课:全站流量多维度多时间方位分析
27、全站流量分析访问次数分钟级map代码编写
28、全站流量分析访问次数分钟级浏览量reduce以及sink代码编写
29、全站流量分析新增用户分钟级趋势代码编写
30、全站流量分析多时间周期活跃用户分钟级趋势代码编写
31、全站流量分析分钟级用户趋势以及分钟级用户去重代码编写
32、全站流量分析小时级趋势分析代码编写以及巧妙代码重构
33、全站流量趋势分析完善补充
34、全站流量分析时间间隔处理代码编写
35、flink自定义输出路径BucketingSink
36、flink事件数据规则自定义输出路径代码编写以及效果演示
37、flink自定义输出路径StreamingFileSink代码编写以及效果演示
38、全站流量分析之flink实现用户小时级明细map代码编写
39、全站流量分析之flink实现小时级明细reduce以及filesink代码编写
40、全站流量分析之flink实现小时级明细分区路径优化代码编写

第四课:用户指标明细以及渠道分析
41、hive安装实战
42、hive使用详解
43、Hive JsonSerde实战讲解
44、全站流量分析小时级用户明细联调测试
45、全站流量分析小时级用户明细bug调试以及问题解决实战讲解
46、hive 分区表实战讲解
47、linux shell编程讲解
48、linux crontab实战讲解
49、全站流量用户明细hive区分表以及添加分区实现
50、全站流量用户明细定时任务脚本编写以及定时任务设定
51、渠道分析数据以及指标讲解
52、渠道分析分钟级访问次数趋势代码编写
53、渠道分析分钟级新增以及活跃用户趋势代码编写
54、渠道分析小时级分析代码编写
55、渠道分析之小时级用户明细代码编写
56、渠道分析趋势代码完善
57、渠道分析之用户明细hive表构建以及定时任务脚本编写以及定时任务设定

第五课:业务数据实时同步设计和开发
58、业务数据结构讲解
59、业务数据同步之binlog讲解
60、业务数据同步之binlog日志查看
61、业务数据同步之canal讲解
62、业务数据同步之canal+kafka实时同步业务数据
63、业务数据同步之实战联调讲解1
64、业务数据同步之实战联调讲解2
65、业务数据同步之实战联调讲解3
66、flink+fastJson实时处理binlog数据代码编写
67、flink+反射技术实时业务数据提取和存储
68、kafka 工具类代码编写
69、业务数据重定向各个业务topic
70、业务数据实时重定向实战联调演示

第六课:广告多方位分析
71、广告分析之分钟级点击量趋势
72、广告分析之用户趋势实时分析代码编写
73、广告分析之小时级用户明细代码编写
74、广告分析之用户明细hive定时离线导入
75、flink之Join详解
76、flink之Join实战代码编写
77、flink之Join实战效果联调测试
78、广告分析之广告转化率实时分析代码编写1
79、广告分析之广告转化率实时分析代码编写2

第七课:Clickhouse工具封装、flink代码完善以及后端服务和前端vue项目构建
80、ClickHouse业务表构建
81、ClickHouse工具类封装数据转换sql代码编写
82、ClickHouse工具类封装数值类型特殊转换代码编写
83、ClickHouse工具类结合jdbc实战调试数据转换和数据存储
84、flink ClickHouseSink代码完善
85、spring boot 2.x 构建后端接口服务
86、vue.js构建前端项目1
87、vue.js构建前端项目2
88、vue 前端项目模板说明
89、前端系统之vue.js+highcharts构建图表实战

第八课:前端系统之Vue+highchart图表开发、后端接口服务开发、前后端联调及压力测试
90、前端系统之全站流量趋势新增用户趋势实战开发
91、前端系统之vue表格实战
92、前端系统之vue-resource实现后台交互实战
93、前端系统vue代码完善以及后端接口设计和代码编写
94、前端系统联调后端接口服务实战讲解
95、前端系统vue代码调试以及跨域问题解决
96、前端系统之highchart点击事件实战讲解
97、vue 动态参数传递以及页面内部跳转讲解
98、clickhouse表结构优化以及flink sink代码优化
99、flink日期特殊处理9
100、接口服务整合clickhouse代码编写
101、接口服务封装clickhouse查询结果以及数据联调效果演示
102、接口服务之map和set巧妙解决日期乱序数据日期不对称问题
103、接口服务之代码坑讲解以及解决
104、后端数据联调前端项目实战演示
105、接口服务整合hive之hive工具类代码编写
106、后端数据服务整合hive代码编写
107、压力测试jemeter详解
108、flink实时分析系统jemeter压测实战

第九课:全站流量以及广告分析前后端开发、实时分析服务docker化部署、订单分析开发
109、接口服务以及前端系统完善之全站点击量趋势
110、接口服务以及前端系统之全站流量用户数量趋势
111、接口服务以及前端系统之全站流量活跃用户趋势
112、接口服务以及前端系统完善之渠道分析
113、接口服务之广告分析点击趋势和用户趋势代码编写
114、广告分析之广告列表服务以vue 点击事件以及自定义函数及前端开发
115、广告分析之广告转化率接口以及前端代码编写
116、广告分析之广告用户明细接口以及前端代码编写
117、docker 部署实时分析服务之docker安装
118、docker 部署实时分析服务之dockerfile讲解
119、docker部署全流量分析服务实战
120、docker部署全流量分析服务实战
121、docker部署全流量分析服务实战
122、订单分析之订单量趋势分钟级代码编写
123、订单分析之订单量趋势小时级代码编写
124、订单分析之订单用户趋势代码编写
125、订单分析之客单价分析代码编写
126、订单分析完善之clickhouse建表补充

第十课:运营分析开发以及课程总结u
127、运营分析表结构讲解
128、运营分析之团购商品类别趋势分钟级代码编写
129、运营分析之团购商品类别趋势小时级完善补充
130、运营分析之团购订单趋势代码编写
131、运营分析之团购用户趋势代码编写
132、运营分析之团购用户趋势代码编写补充讲解
133、运营分析之秒杀成交订单趋势分钟级代码编写
134、运营分析之秒杀成交订单趋势小时级代码编写
135、运营分析之秒杀支付类型趋势代码编写
136、运营分析之秒杀clickhouse表构建补充
137、运营分析之活动地域趋势分析代码编写
138、运营分析之指定活动订单趋势代码编写
139、订单分析后端服务之订单趋势以及用户趋势接口代码编写
140、订单分析后端服务之客单价接口代码编写
141、团购分析后端服务接口代码编写1
142、团购分析后端服务接口代码编写2
143、秒杀活动分析后端服务接口代码编写
144、指定活动分析后端服务接口代码编写
145、订单分析前端代码开发
146、团购分析前端代码开发
147、秒杀分析以及活动分析前端代码开发讲解
148、clickhouse实现实时概况统计实战
149、clickhouse实现实时概况统计实战
150、前端项目完善
151、前端项目完善
152、课程总结
153、项目最终效果演示

授课时间:
课程将于2020年8月22日开课,课程持续时间大约为12周。

课程环境:
开发工具为:IDEA、WebStorm

授课对象:
本课程针对具有一定的Java、大数据基础与相关大数据框架经验,想通过本项目的学习,掌握Flink+ClickHouse技术栈的综合应用以及提高自己大数据的技能的同学。同时欢迎想入行大数据,或者对大数据Flink+ClickHouse技术栈感兴趣及想跳槽拿高薪的同学们加入,一起成长一起进步。

讲师介绍:
友凡
多年移动互联网产品设计和开发经验,带领团队完成多个知名互联网产品,历任多家知名公司Java和大数据架构师,负责过多个大型Java和大数据系统的架构和开发。精通Java、Go、Python、Hadoop、Storm、Spark、Docker、NoSQL等语言和大数据技术,对分布式、高并发、高可用、微服务、缓存、虚拟化、海量数据处理有丰富的实战经验和解决方案。IT一线行业8年实战经验,教程案例均来自真实工业界开发场景。

收获预期:
该系统以热门的互联网电商实际业务应用场景为案例讲解,对电商数据的常见实战指标以及难点实战指标进行了详尽讲解,学完后能通过以上技术自主开发一套高并发高可用的实时数据分析系统。学员还可以对企业的大数据开发过程一目了然,全部掌握本课程内容能够满足企业级的大数据开发人才需求。

新颖的课程收费形式:“逆向收费”约等于免费学习,仅收取100元固定收费+300元暂存学费,学习圆满则全额奖励返还给学员!

本门课程本来打算完全免费,某位大神曾经说过“成功就是正确的方向再加上适度的压力”。考虑到讲师本身要付出巨大的劳动,为了防止一些朋友在学习途中半途而废,浪费了讲师的付出,为此我们计划模仿某些健身课程,使用“逆向收费”的方法。
在报名时每位报名者收取400元,其中100元为固定 收费,另外300是暂存学费,即如果学员能完成全部课程要求,包括完成全部的书面和互动作业,则300元全款退回。如果学员未能坚持到完全所有的学习计划任务,则会被扣款。期望这种方式可以转化为大家强烈的学习愿望和驱动力!

课程授课方式:
1、 学习方式:老师发布教学资料、教材,幻灯片和视频,学员通过网络下载学习。同时通过论坛互动中老师对学员进行指导及学员之间相互交流。
2、 学习作业:老师每周布置书面及互动作业,学员需按时按质完成作业。
3、 老师辅导:根据作业批改中发现的问题,针对性给予辅导,帮助大家掌握知识。
4、 结业测验:通过测验,完成学业。

您是否对此课程还有疑问,那么请 点击进入 FAQ,您的问题将基本得到解答
全国统一咨询热线 4008-010-006
课程现开始接受报名,报名方式

网上报名 请点击:
亿级电商实时数据分析平台构建实战
咨询Email :edu01@dataguru.cnedu02@dataguru.cn
课程入门讨论咨询群:706821899(群内有培训公开课视频供大家免费观看)
咨询QQ: 2222010006 (上班时间在线)

技术热点、 行业资讯,培训课程信息,尽在炼数成金官方微信,低成本传递高端知识!技术成就梦想!欢迎关注!
打开微信,使用扫一扫功能,即刻关注炼数成金官方微信账户,不容错过的精彩,期待您的体验!!!

快速报名入口

鲜花

握手

雷人

路过

鸡蛋

相关阅读

热门频道

  • 大数据
  • 商业智能
  • 量化投资
  • 科学探索
  • 创业

即将开课

 

GMT+8, 2020-8-3 19:41 , Processed in 0.158416 second(s), 35 queries .