导读

Spark全面精讲(基于Spark2版本+含Spark调优+超多案例)

[复制链接]

微信扫一扫 分享朋友圈

admin 发表于 2018-2-7 09:06:49 | 显示全部楼层 |阅读模式 打印 上一主题 下一主题
第一阶段 Spark内核深度剖析

第00节课-课程特色和学习方式
第一节课-Spark概述(四大特性)
第二节课-Spark入门
第三节课-什么是RDD?
第四节课-spark架构
第五节课-linux环境准备(虚拟机,linux)
第六节课-hadoop环境准备
第七节课-spark环境准备
第八节课-spark开发环境搭建(java,scala)
第八节课-补充-maven打包
第九节课-spark任务提交
第十节课--Historyserver配置
第十一节课--RDD的创建方式
第十二节课--Transformation和action原理剖析
第十三节课--map,filter,flatMap算子演示(java版)
第十四节课--groupByKey,reduceByKey,sortByKey算子演示(java版)
第十五节课--join,cogroup,union算在演示(java版本)
第十六节课--Intersection,Distinct,Cartesian算子演示(java版本)
第十七节课--mapPartition,reparation,coalesce算子演示(java版)
第十八节课--sample,aggregateByke算子演示(java版本)
第十九节课--mapPartitionsWithIndex,repartitionAndSortWithinPartitions算子演示(java)
第二十节课--action算子演示(java版)
第二十一节课--map,filter,flatMap,groupByKey,reduceByKey,sortByKey算子演示(scala)
第二十二节课--join,cogroup,union,intersection,distinct,cartesian算子演示(scala)
第二十三节课--mapPartitions,reparition,coalesce,sample,aggregateByKey算子演示(scala)
第二十四节课-mapPartitionsWithIndex,repartitionAndSortWithinPartitions算子演示(scala)
第二十五节课-RDD持久化(tachyon)
第二十六节课--共享变量(广播变量,累加变量)
第二十七节课-Spark on YARN模式(cluster,client)
第二十八节课-窄依赖和宽依赖
第二十九节课--Shuffle原理剖析
第三十节课--stage划分原理剖析
第三十一节课-Spark任务调度
第三十二节课--综合案例一TopN(scala)
第三十三节课--综合案例二日志分析上(scala)
第三十三节课--综合案例二日志分析下(scala)
第三十四节课--spark2内核新特性


第二阶段 Spark调优

第三十五节课-Spark调优概述
第三十六节课-开发调优(1)
第三十七节课-开发调优(2)
第三十八节课-开发调优(3)
第三十九节课-开发调优(4)
第四十节课-开发调优(5)
第四十一节课-开发调优(6)
第四十二节课-开发调优(7)
第四十三节课-开发调优(8)
第四十四节课-开发调优(9)
第四十五节课-数据本地化
第四十六节课-数据倾斜原理
第四十七节课-数据倾斜解决方案一
第四十八节课-数据倾斜解决方案二
第四十九节课-数据倾斜解决方案三
第五十节课-数据倾斜解决方案四
第五十一节课-数据倾斜解决方案五
第五十二节课-数据倾斜解决方案六
第五十三节课-数据倾斜解决方案七
第五十四节课-shuffle调优
第五十五节课-Spark资源模型
第五十六节课-资源调优
第五十七节课-Spark JVM调优(1)
第五十八节课-Spark JVM调优(2)
第五十九节课-Spark JVM调优(3)
第六十节课-Spark JVM调优(4)
第六十一节课-Spark JVM调优(5)
第六十二节课-spark调优总结


第三阶段 SparkSQL精讲

第六十三节课-SparkSQL前世今生
第六十四节课-Dataframe使用
第六十五节课-Reflection方式将RDD转换成Dataframe
第六十六节课-Programmatically方式将RDD转换成DataFrame
第六十七节课-DataFreme VS RDD
第六十八节课-数据源之数据load和save
第六十九节课-数据源之parquetfile操作
第七十节课-数据源之JSON数据
第七十一节-课数据源之JDBC
第七十二节课-数据源之Hive table-hive环境搭建
第七十三节课-数据源之Hive table-spark环境集成
第七十四节课-数据源之Hive table-使用
第七十五节课-数据源之HBase环境准备
第七十六节课-数据源之HBase
第七十七节课-Thriftserver使用
第七十八节课-UDF开发
第七十九节课-UADF开发
第八十节课-开窗函数
第八十一节课-groupBy和agg函数使用
第八十二节课-综合案例一(日志分析)
第八十三节课-综合案例二(用户行为分析)-1
第八十四节课-综合案例二(用户行为分析)-2
第八十五节课-综合案例二(用户行为分析)-3
第八十六节课-综合案例二(用户行为分析)-4
第八十七节课-综合案例二(用户行为分析)-5


第四阶段 SparkStreaming精讲

第八十八节课-Spark Streaming工作原理
第八十九节课-Spark Streaming入门案例
第九十节课-Spark Streaming HDFS WordCount例子演示
第九十一节课-Spark Streaming之updateStateByKey
第九十二节课-Spark Streaming之mapWithState
第九十三节课-Spark Streaming之transform
第九十四节课-Spark Streaming之window操作
第九十五节课-Spark Streaming之foreachRDD
第九十六节课-Spark Streaming之flume原理介绍
第九十七节课-Spark Streaming之flume搭建
第九十八节课-Spark Streaming之flume集成
第九十九节课-Spark Streaming之kafka原理介绍
第一百节课-Spark Streaming之kafka集成
第一百零一节课-Spark Streaming之kafka集群部署
第一百零二节课-Spark Streaming之综合案例TopN实时统计
第一百零三节课-Spark Streaming之Driver HA配置


第五阶段 Spark2新特性

第一百零四节课-Spark2新特性之 Spark2设计目标-更容易、更快速、更智能
第一百零五节课-Spark2 新特性之SparkSQL变化之 SparkSession
第一百零六节课-Spark2新特性之whole-stage code generation和vectorization技术剖析
第一百零七节课-Spark2 新特性之RDD,DataFream 和DataSet关系
第一百零八节课-Spark2 新特性之DataSet Transformation演示(1)
第一百零九节课-Spark2 新特性之DataSet Action演示(2)
第一百一十节课-Spark2 新特性之DataSet 基本操作演示(3)
第一百一十一节课-Spark2 新特性之DataSet[untyped ] 基本操作演示(4)
第一百一十二节课-Spark2 新特性之DataSet其它功能演示(5)
第一百一十三节课-Spark2 新特性之 Structured Streaming设计目标
第一百一十四节课-Spark2 新特性之 Structured Streaming原理剖析
第一百一十五节课-Spark2 新特性之 Structured Streaming 案例演示
游客,如果您要查看本帖隐藏内容请回复

回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则


0关注

0粉丝

261帖子

发布主题
推荐阅读更多+
广告位
JAVA118在线客户
在线客户
QQ临时会话可能会导致消息无法正常接收,请尽量添加为好友.

Powered by www X3.2© 2001-2013 Inc.   版权所有   

  申明:站内资源均来自于互联网,仅供会员学习与参考,切勿用于商业用途,版权归原作者所有,所有下载者表示默认接受并同意签订该免责声明协议,如有侵犯任何第三方权益,请发邮件至2468165617@qq.com删除

Comsenz Inc.  

wzm