虽然采集端本身会有很多数据库，但是如果要对这些海量数据进行有效的分析，还是应该将这 些来自前端的数据导入到一个集中的大型分布式数据库，或者分布式存储集群，并且可以在导入基础上做一些简单的清洗和预处理工作。也有一些用户会在导入时使 用来自Twitter的Storm来对数据进行流式计算，来满足部分业务的实时计算需求。导入与预处理过程的特点和挑战主要是导入的数据量大，每秒钟的导入量经常会达到百兆，甚至千兆级别。
JAVA中级开发工程师 工作2-3年 年薪15万
JAVA高级开发工程师 工作3-5年 年薪25万
系统架构师 工作5-8年 年薪50万
首席架构师 工作10年 年薪60-100万
大数据应用开发工程师 年薪20-30万
大数据分析师（算法研究）年薪40-60万
数据老师 年薪60-80万
| 第一阶段：Java基础 |
● 核心技能点：Java基础语法、面向对象、异常处理、集合框架、常用类、I/O操作、多线程、网络编程、XML解析 ● 核心能力培养：熟练使用MyElipse开发Java程序；会使用Java编写常用的流程控制语句；理解并掌握面向对象思想及其三大特性；能够灵活运用Java常用类解决实际问题；会使用集合框架存储数据、I/O技术操作文件；能够实现多线程及网络编程 ● 具备能力及市场价值：深刻理解面向对象思想，掌握JavaEE核心技术并能灵活运用Java常用API解决实际问题，具备了程序员必备的逻辑思维能力及自学能力，为后续深入学习JavaWeb技术及框架技术打下牢固的基础。 |
| 第二阶段：JavaWeb网站开发 |
● 核心技能点：HTML5、CSS3、JavaScript/ES6、JQuery、JSP/Servlet、MySQL数据库、JDBC、Linux、SVN ● 核心能力培养：了解B/S架构运行原理；掌握网页的开发和设计技能；掌握JavaWeb核心开发技能；掌握Linux应用部署和监控技能；掌握基本的JavaEE应用设计和开发技能；锻炼学员团队协作能力 ● 具备能力及市场价值：能够完成B/S架构的中小型网站系统的开发，并在真实生产环境下进行项目发布 |
| 第三阶段：SSM/SSH框架 |
● 核心技能点：MyBatis框架、Spring框架、Spring MVC框架、Struts2框架、Hibernate框架、Git、Maven 、Oracle数据库 ● 核心能力培养：掌握SSM/SSH框架核心技能及应用开发技能；掌握Oracle数据库设计和应用技能；学会使用Git进行项目代码版本管理；学会使用Maven进行项目构建管理 ● 具备能力及市场价值：能够胜任垂直架构下的Java开发工作，熟练使用流行的开发框架SSM、SSH进行传统企业级项目开发。月薪7000-9000元 |
| 第四阶段：基于分布式微服的互联网架构 |
● 核心技能点：分布式微服架构、Dubbox、Spring Cloud、Spring Boot、Docker环境快速搭建实现自动化部署、分布式下ID唯一性、Redis、分布式事务处理、分布式下三方接入、Active MQ消息队列等 ● 核心能力培养：培养学员基于分布式项目的业务架构、应用架构、技术架构、安全架构、网络拓扑架构等的设计和代码开发能力，以及在部署策略等方面的综合能力；培养学员分布式项目下核心业务处理能力；培养学员在分布式项目下对于高并发、数据最终一致性、性能优化等问题的解决处理能力 ● 具备能力及市场价值：能够胜任互联网公司的分布式项目的开发和架构设计工作，月薪12000-18000元。 |
| 第五阶段：Python爬虫+ELK+分析 |
● 核心技能点：Linux Shell编程、Python编程、NumPy&Pandas、Scrapy、LXML、PySpider、数据采集、整理和清洗、Elasticsearch、Logstash、Kibana ● 核心能力培养：掌握Python编程；具备Python的爬虫开发、 数据获取和整理等能力；能够使用ELK进行数据导入、 查询和集成 ● 具备能力及市场价值：能够胜任Python开发工程师、爬虫工程师、搜索引擎工程师。 |
| 第六阶段：Hadoop生态圈 |
● 核心技能点：HDFS、MapReduce、YARN、Hive、Sqoop、HBase ● 核心能力培养：掌握Hadoop集群配置与管理；掌握HDFS文件操作；掌握分布式计算原理；掌握基于Hive的数据ETL和数据查询；掌握HBase数据存储；掌握数据导入导出 ● 具备能力及市场价值：能够胜任：Hadoop工程师、ETL工程师、Hive工程师、数据仓库工程师。 |
| 第七阶段：Spark技术栈 |
● 核心技能点：Scala编程、Spark RDD、Spark SQL、Spark GraphX、PySpark、Jupyter、Hadoop数据模型、Atlas&Ranger、NiFi、Kafka、Oozie、Cassandra&Hive、Redis&Hive、MongoDB、Tableau ● 核心能力培养：掌握Spark集群配置与管理，以及Spark离线计算；具备Scala和Python编写 Spark应用的能力；具备在企业数据湖中建立数据流程/通道、实施数据监管、规范数据管理和确保数据安全；具备数据采集、数据变换、数据建模、任务调度以及与企业应用的数据集成的能力；具备多种NoSQL数据存储的能力；掌握Hive/Spark实施数据变换、BI工具与 Hive、 NoSQL 的集成；掌握用户兴趣取向分析/航班飞行网图分析/电子商务消费行为分析/用户交易欺诈分析案例的具体实现 ● 具备能力及市场价值：能够胜任：Spark工程师、Hadoop工程师、ETL工程师 |
| 第八阶段：实时流处理平台 |
● 核心技能点：Spark Streaming、Flink、Flume、Storm、d3.js、Echarts ● 核心能力培养：掌握Apache NiFi/Kafka/Flume/Spark Streaming的集成使用；具备实时流数据存储、计算、查询的能力；具备多种流处理框架的运用能力；掌握多种常见可视化工具的使用；掌握股票流数据实时分析/舆情分析案例 ● 具备能力及市场价值：能够胜任：大数据开发工程师、大数据架构师，市场价值：月薪16000-20000。 |
| 第九阶段：机器学习 |
● 核心技能点：Spark Mllib ● 核心能力培养：掌握Spark机器学习数据结构及流程；掌握分类,聚类和推荐模型；掌握垃圾邮件分类 ● 具备能力及市场价值：能够胜任：大数据架构师、大数据初级分析师、大数据挖掘工程师，市场价值：月薪25000+ |
用阿里巴巴集团研究员薛贵荣的话来说，大数据工程师就是一群“玩数据”的人，玩出数据的商业价值，让数据变成生产力。大数据和传统数据的较大区别在于，它是在线的、实时的，规模海量且形式不规整，无章法可循，因此“会玩”这些数据的人就很重要。沈志勇认为如果把大数据想象成一座不停累积的矿山，那么大数据工程师的工作就是，“第一步，定位并抽取信息所在的数据集，相当于探矿和采矿。第二步，把它变成直接可以做判断的信息，相当于冶炼。最后是应用，把数据可视化等。”
大数据开发工程师标准版大数据开发工程师专业版大数据分析师
