TA的每日心情 | 奋斗
4 天前 |
|---|
签到天数: 237 天 [LV.7]常住居民III
会|员
 
- 积分
- 9869
-
|
本站资源全部免费,回复即可查看下载地址!
您需要 登录 才可以下载或查看，没有帐号？立即注册
x
第1章 课程导学与学习指南
本章中将向大家介绍课程能学到什么、解决什么实际问题、项目成果展示，课程整体安排以及如何学习更高效。
第2章 认识企业中的大数据平台
为什么要有大数据平台？大数据平台究竟是为了解决什么问题产生的？如何判断一个大数据平台的好坏？在设计一个数据平台时，需要注意哪些，有什么步骤。各大企业现有的解决方案有哪些，常见的技术栈有哪些，我们自己设计的这个通用的大数据平台是什么结构。...
第3章 大数据平台 —— 数据仓库之离线&实时
你真的理解数据仓库是什么吗？数据仓库如何进行分层，为什么要分层呢？分层一定好吗？带你理解数据仓库，逐步掌握离线数仓工具Hive。对比离线数仓和实时数仓，了解实时数仓常见架构。
第4章 大数据平台——数据仓库之权限管理
解决三大问题：数仓安全问题，对比常见权限认证框架，使用Ranger开发数仓权限模块；数据来源问题，对常用数据采集工具进行介绍，使用DataX进行数据采集；数仓管理问题，介绍数据治理的概念及ApacheAtlas
第5章 大数据平台 —— 调度系统
解决离线批处理任务的定时执行问题，对主流调度框架Azkaban进行架构介绍、特性讲解和部署应用。通过Java程序调用Azkaban相关接口，实现创建任务、调度任务功能，实现API接口封装
第6章 大数据平台 —— 计算引擎
平台的计算引擎是基于Spark构建的，依托了Yarn进行资源调度。本章从Spark架构、核心介绍及部署开始，进行Spark部分开发。之后接入Spark SQL模块。最后介绍了Spark的一些高阶调优技巧。
第7章 大数据平台建设 —— SQL查询引擎
介绍SQL On Hadoop 方案。对Presto架构和应用做了一些介绍，利用Presto作为底层的SQL查询引擎，实现快速查询和多数据源查询。涉及Presto的配置优化，自定义函数、EventListener、以及通用UDF的开发，最后完成Presto On Yarn部署
第8章 大数据平台建设 —— 监控预警
集群监控能提高资源利用率，有效管理整个集群，本章对常见集群的预警方案做了介绍和应用，最后通过Ganafa展示项目监控数据
第9章 大数据平台建设 —— 管理整合、任务定制
整合前面章节中开发的数仓管理功能，整合数仓权限、数据治理和数据采集，通过界面化配置实现数据采集任务定制。实现任务调度功能，实现shell命令、JAVA程序、Python程序、Spark程序的运行和管理
第10章 系统集成及可视化
实现多引擎的数据查询及可视化模块，生成图表进行展示。将前面的数据仓库、调度系统、SQL引擎、计算引擎、预警监控系统、元数据管理系统等等，如何将他们集成到一起构建大数据平台
|
温馨提示：
1、本站所有内容均为互联网收集或网友分享或网络购买,本站不破解、不翻录任何视频!
2、如本帖侵犯到任何版权问题，请立即告知本站，本站将及时予与删除并致以最深的歉意!
3、本站资源仅供本站会员学习参考,不得传播及用于其他用途,学习完后请在24小时内自行删除.
4、本站资源质量虽均经精心审查,但也难保万无一失,若发现资源有问题影响学习请一定及时点此进行问题反馈,我们会第一时间改正!
5、若发现链接失效了请联系管理员,管理员会在2小时内修复
6、如果有任何疑问,请加客服QQ:1300822626 2小时内回复你!
|
[复制链接]
发表于 2020-4-8 11:27:43
照妖镜
发表于 2020-4-8 13:23:24
发表于 2020-4-14 19:58:16
