学习大数据之前要打什么基础？

更新时间2019-09-21 04:55:54

一、学习大数据需要的基础

 

1、java SE、EE(SSM)

 

90%的大数据框架都是java写的

 

2、mysql

 

SQL on Hadoop

 

3、Linux

 

大数据的框架安装在Linux操作系统上

 

在有了上面的技术基础支撑之后，便可以开始我们的大数据开发工程师的锻造之旅了，可以根据以下三个大的方面进行学习，当然了，中间需要穿插一些项目练习，将理论和实战相关联才能成长的很快!

 

二、大数据技术需要学什么

 

1、大数据离线分析

 

一般处理T+1数据(T：可能是1天、一周、一个月、一年)

 

a、Hadoop ：一般不选用新版本，踩坑难解决

 

(common、HDES、MapReduce、YARN)

 

环境搭建、处理数据的思想

 

b、Hive：大数据的数据仓库

 

经过写SQL对数据进行操作，类似于mysql数据库的sql

 

c、HBase：基于HDFS的NOSQL数据库

 

面向列存储

 

d、协作框架：

 

sqoop(桥梁：HDFS《==》RDBMS)

 

flume：搜集日志文件中的信息

 

e、调度框架

 

anzkaban

 

了解：crotab(Linux自带)

 

zeus(Alibaba)

 

Oozie(cloudera)

 

f、前沿框架扩展：

 

kylin、impala、ElasticSearch(ES)

 

2、大数据实时分析

 

以spark框架为主

 

Scala：OOP(面向对象程序设计)+FP(函数是程序设计)

 

sparkCore：类比MapReduce

 

sparkSQL：类比hive

 

sparkStreaming：实时数据处理

 

kafka：消息队列

 

前沿框架扩展：flink

 

阿里巴巴：blink

 

3、大数据机器学习

 

spark MLlib：机器学习库

 

pyspark编程：Python和spark的结合

 

以上就是大数据的学习路线，有兴趣的朋友，也可以了解下人工智能和物联网。

 

在不久的将来，多智时代一定会彻底走入我们的生活，有兴趣入行未来前沿产业的朋友，可以收藏多智时代，及时获取人工智能、大数据、云计算和物联网的前沿资讯和基础知识，让我们一起携手，引领人工智能的未来

基本的网络和TCP-IP协议知识要有认知

编程，数据处理规则

心态。先要平下心来。

多喝点恢复恢复得好的话

各种数学基础，计算机基础~~~文字基础。