大数据运维实战

大数据运维实战 / 给大数据工程师的运维修炼手册

高俊峰(南非蚂蚁)
前新浪资深运维专家
  • 课程目录
  • 课程介绍
  • 开篇词:掌握大数据,把握未来

  • 第01讲:大话 Hadoop 生态圈

  • 第02讲:Hadoop 发行版选型和伪分布式平台的构建

  • 第03讲:自动化运维工具 Ansible 在部署大数据平台下的应用(上)

  • 第04讲:自动化运维工具 Ansible 在部署大数据平台下的应用(下)

  • 第05讲:手动模式构建双 Namenode+Yarn 的 Hadoop 集群(上)

  • 第06讲:手动模式构建双 Namenode+Yarn 的 Hadoop 集群(下)

  • 第07讲:通过 Ambari 工具自动化构建 Hadoop 大数据平台和外围应用(上)

  • 第08讲:通过 Ambari 工具自动化构建 Hadoop 大数据平台和外围应用(下)

  • 第09讲:如何通过 Hive/tez 与 Hadoop 的整合快速实现大数据开发(上)

  • 第10讲:如何通过 Hive/tez 与 Hadoop 的整合快速实现大数据开发(下)

  • 第11讲:HDFS 组件运行机制剖析及 HDFS Shell 的使用

  • 第12讲:Hadoop 分布式资源管理器 Yarn、MR 运行机制剖析

  • 第13讲:Spark Standalone 模式的构建以及 Spark 与 Yarn 的整合

  • 第14讲:HBase 与 Hadoop 的整合应用实践

  • 第15讲:Flink Standalone、Flink on Yarn 集群构建与应用场景

  • 第16讲:轻量级日志收集工具 Filebeat 应用案例

  • 第17讲:日志收集、分析过滤工具 Logstash 应用实战

  • 第18讲:Elasticsearch 应用架构的实现与调优

  • 第19讲:Kafka 应用场景、集群容量规划、架构设计应用案例

  • 第20讲:日均数据量 30 亿的 Filebeat+Kafka+Mirrormaker 跨机房实时日志传送案例

  • 第21讲:Filebeat+Kafka+Logstash+Elasticsearch 构建可视化日志分析系统

  • 第22讲:通过 Ganglia 实现对 HDFS、Yarn、Spark 运行状态监控

  • 第23讲:Namenode、Datanode、Nodemanager 等服务状态监控策略

  • 第24讲:通过 Kafka Eagle 实现对 Kafka 消息队列的监控

  • 第25讲:Yarn 资源调度 Fair Schedule 与 Capacity Scheduler 配置选型

  • 第26讲:HDFS 存储权限 ACL 控制策略以及与系统权限整合应用

  • 第27讲:Yarn、HDFS、Kafka 内存调优策略以及性能瓶颈

  • 第28讲:Hadoop 平台常见故障汇总以及操作系统性能调优

  • 第29讲:大数据平台的硬件规划、网络调优、架构设计、节点规划

  • 第30讲:Hadoop 跨集群数据迁移应用实践

  • 结语:大数据运维,大有作为

课程背景

相比大数据开发,大数据运维方向需要更多的经验积累,比如什么架构才能支撑这个数据量、什么资源配置才能满足分析需求,这需要你实际接触过、操作过才能给出答案,而不是靠理论或者猜测。

专栏解读

专栏共七大模块, 26 个课时,引用大量大数据运维的实战案例,来讲述大数据平台的架构设计与部署、大数据平台的监控告警、性能调优,涵盖了大数据运维工作的全方位技能点。

模块一:Hadoop 大数据平台的规划与部署,主要讲解 Hadoop 大数据平台的搭建与基础配置;

模块二:Hadoop 分布式架构解析,主要讲解分布式文件系统 HDFS 和分布式资源管理器 Yarn 的运行机制以及内部实现细节;

模块三:Hadoop 外围应用整合实战,主要讲解大数据平台下如何整合一些外围应用,主要是 Spark、Flink 与 Yarn 的整合应用,以及 HBase 集群的部署;

模块四:Hadoop 大数据平台数据收集应用实践,主要讲解数据收集方法以及如何实现快速查询,Filebeat 、 Logstash、Elasticsearch ;

模块五:大数据平台日志传输与可视化应用实践,主要讲解海量数据环境中如何实现数据的实时传输,并实现可视化展示 ;

模块六:大数据平台运维监控体系的构建,主要讲解如何对大数据平台下每个组件的运行状态、服务状态进行监控;

模块七:大数据平台性能调优与运维经验汇总,主要讲解大数据运维中常见的故障处理方法、集群扩缩容、集群调度策略选型等。

老师简介

高俊峰(南非蚂蚁):前新浪资深运维专家
专业运维专家、系统架构师、DBA 和技术顾问,曾就职于新浪、阿里云、新好耶等企业,从事 Linux/Unix 服务器系统的架构、运维和管理工作。他负责设计并运维过 PB 数量级、日百亿量的大数据平台,擅长大规模服务器集群的运维和管理,在故障诊断与排除、自动化运维、安全运维、性能调优、虚拟化等方面有丰富的实战经验。目前,他任国内某创业公司 CTO,主要从事基于 Hadoop 的云平台,以及 Hadoop 相关生态系统的运维、监控与优化等技术研究工作。

此外,他还著有畅销书《循序渐进Linux》和《高性能Linux服务器构建实战:运维监控、性能调优与集群应用》等书,其中后者是 Linux 运维领域公认的经典著作。

课程大纲

大数据运维大纲.png

学习收获

  1. 理论结合实践,详解大数据运维必备技能
  2. 掌握大数据平台的架构、监控、性能调优
  3. 大量实战案例,解决企业级业务需求
  4. 突破职业瓶颈,挑战大数据高薪 Offer

订阅须知

  1. 本专栏共 26 讲,已全部更新;
  2. 支持 视频+音频+图文 3 种阅读形式;
  3. 购买后在拉勾 App-课程,可永久观看课程;
  4. 视频课程为虚拟商品,一旦售出不可申请退款;
  5. 本课程版权归拉勾所有,严禁翻录,违者必究;
  6. 如有问题请咨询客服同学,召唤客服>>>

教程推荐

DBUtils在线教程

Python数据科学在线教程

ES6在线教程

VueJs在线教程

Git在线教程

C++在线教程

随机推荐

乐歌液晶电脑显示器支架桌面底座旋转升降伸缩架评测不看后悔,优...

好孩子gb婴儿毛毯使用良心测评分享,来看看买家说法

迪士尼DISNEY评价质量实话实说,分析哪款更适合你

飞利浦PHILIPS评测哪款值得买,评测质量好吗

紫客intel酷睿i5-10400评测不看后悔,入手使用1个月感受揭露

哈罗闪德国原装进口婴儿柔润按摩油200ml婴儿抚触油按摩油详细评...