你好,我是号主的朋友应癫,大数据领域十年研发和管理,曾就职于中国电子、美团、字节跳动。
今天给大家分享的是我根据自己的经历和经验总结出来的大数据技术学习路线,教你如何突破大数据层层技术难关。
由于原图太大,请文末扫码获取原图
如图,你可以看到一些图标,红色的小红旗表示这个地方是重点,绿色的对勾表示这个地方是难点。
对重点和难点更详细的解读,接下来我也会分享,现在还是先来认识整体的学习路线。
由于原图太大,请文末扫码获取
整个学习路线在这里分成了 14 个阶段,而这 14 个阶段会被进一步划分为 5 大模块。
1. Java 知识
第一大模块是 Java 的知识,作为大数据从业人员,Java 是我们必须要会的。因为大数据平台很多软件都是 Java 开发的,所以我们必须要掌握这门编程语言。
2. 离线阶段
第二大模块是离线阶段。你已经知道大数据计算有离线计算和实时流式计算,离线计算在当下企业中应用得也比较多,实时虽然是王道,但现状是,在企业应用当中离线计算也占有挺大比例。
对于离线阶段,你重点要学习 Hadoop 框架以及 Hadoop 生态圈当中的技术栈。
除此之外,数据采集工具 Flume,大数据交互组件 Hue 也需要学习。以及前面提到的 HBase 非关系型据库,包括一些任务调度系统。这些我们都把它归为 Hadoop 生态圈技术栈。
在我给大家提供的学习路线图当中,离线阶段还有其他两个内容,就是 Redis 和 Kafka。
这就是大数据平台经常涉及到的两个组件——Redis 和 Kafka,需要我们去学习。其实 Kafka 比 Redis 在大数据平台当中更加常见。
学完这部分,你可以选择做一做离线数仓项目巩固一下知识。
3. 实时阶段
实时阶段离不开 Spark,建议你在学习 Spark 之前,最好掌握 Scala 语言,往往在写 Spark 程序是用 Scala 语言去开发。
Spark 不仅有离线处理部分,也有实时处理部分。其中离线处理部分就叫作 Spark SQL,可以处理离线数据;实时处理部分叫作 Spark Streaming,可以处理流式数据。
除此之外,你还应该去掌握一下 Spark 的源码以及 Spark 的调优措施。
学习完 Spark 的知识点,你最好去做一个 Spark 实时处理项目,综合地练习一下。
4. 新技术实践阶段
最近一两年其实也出现了一些新技术,这些新技术也受到越来越多的企业关注,所以对于我们来说,还是有必要去学习它的。
比如实时处理框架 Flink,现在受到了很多企业关注。还有比如做多维分析、时效性特别高的软件,像 ClickHouse、Kudu、Kylin 以及 Druid。
还有 Elastic Stack(ELK),即海量日志平台。其实 ELK 并不算是很新,放在这里是提醒你注意下学习大数据平台知识的时候, 也应该学习到 ELK。
在新技术实践阶段,也最好做一个项目,把这些知识进行综合性地练习。
5. 机器学习阶段
因为大数据发展的下一步就是人工智能机器学习,这两个领域中间的界限现在非常模糊了。在大数据开发的过程中也经常会去调用一些机器学习算法,所以还是要储备一定的机器学习知识,这样的话我们才更有竞争力。
对于机器学习,我们经常用 Python 语言,所以你可以去学习 Python,再去学习一些机器学习框架,比如 TensorFlow 以及 Spark MLib。
最后当然你也可以搞一个项目去练习,夯实你所学习到的大数据和算法的知识。
所以整体上我建议大家按照这 14 个阶段来学习。这同样也是我在拉勾教育开设的《大数据开发高薪训练营》的整体思路,就是为了帮助大家吃透大数据开发。
通过这个路线,你就可以把当下大数据领域主流技术,新潮流技术以及延伸的机器学习知识,来贯通学习。
如果你对大数据开发感兴趣,没有大数据基础也没有关系,都可扫码咨询拉勾教育的 《大数据开发高薪训练营》,还可以获得大数据开发学习路线高清原图,以及免费学习资料,更有 1v1 就业指导,赶紧扫描下方二维码。
▽ 扫码咨询
部分资料截图
双十二口碑训练营5折起抄底,赠送价值6399元超值礼品,最后50个名额,等你来抢!
点击阅读原文,也可咨询。
本文分享自微信公众号 - 浪尖聊大数据(bigdatatip)。
如有侵权,请联系 support@oschina.cn 删除。
本文参与“OSC源创计划”,欢迎正在阅读的你也加入,一起分享。