多读书多实践,勤思考善领悟

Flink开发环境搭建、集群环境搭建和应用部署

Flink开发环境搭建、集群环境搭建和应用部署

本文主要内容包括: Flink 开发环境的部署和配置 运行 Flink 应用(包括:单机 Standalone 模式、多机 Standalone 模式和 Yarn 集群模式) 一、Flink 开发环境部署和配置Flink 是一个以...

Flink高可用集群部署

Flink高可用集群部署

JobManager高可用性(HA)JobManager协调每个Flink部署。它负责调度和资源管理。 默认情况下,每个Flink群集都有一个JobManager实例。这会产生单点故障(SPOF):如果JobManager崩溃,则无法...

Flink集群部署

Flink集群部署

独立群集此页面提供有关如何在静态(但可能是异构)集群上以完全分布式方式运行Flink的说明。 要求软件要求Flink可在所有类UNIX环境中运行,例如Linux,Mac OS X和Cygwin(适用于Windows),并期望集群由一个...

基于Zookeeper搭建Kafka高可用集群

基于Zookeeper搭建Kafka高可用集群

一、Zookeeper集群搭建为保证集群高可用,Zookeeper集群的节点数最好是奇数,最少有三个节点,所以这里搭建一个三个节点的集群。 1.1 下载 & 解压下载对应版本Zookeeper,这里我下载的版本3.4.14。官...

Zookeeper单机环境和集群环境搭建

Zookeeper单机环境和集群环境搭建

一、单机环境搭建1.1 下载下载对应版本Zookeeper,这里我下载的版本3.4.14。官方下载地址:https://archive.apache.org/dist/zookeeper/ 1# wget https://archiv...

HBase集群环境配置

HBase集群环境配置

一、集群规划这里搭建一个3节点的HBase集群,其中三台主机上均为Regin Server。同时为了保证高可用,除了在hadoop001上部署主Master服务外,还在hadoop002上部署备用的Master服务。Master服务由...

Storm集群环境搭建

Storm集群环境搭建

一、集群规划这里搭建一个3节点的Storm集群:三台主机上均部署Supervisor和LogViewer服务。同时为了保证高可用,除了在hadoop001上部署主Nimbus服务外,还在hadoop002上部署备用的Nimbus服务。...

基于ZooKeeper搭建Spark高可用集群

基于ZooKeeper搭建Spark高可用集群

一、集群规划这里搭建一个3节点的Spark集群,其中三台主机上均部署Worker服务。同时为了保证高可用,除了在hadoop001上部署主Master服务外,还在hadoop002和hadoop003上分别部署备用的Master服务,...

基于ZooKeeper搭建Hadoop高可用集群

基于ZooKeeper搭建Hadoop高可用集群

一、高可用简介Hadoop 高可用 (High Availability) 分为 HDFS 高可用和 YARN 高可用,两者的实现基本类似,但 HDFS NameNode 对数据存储及其一致性的要求比 YARN ResourceMan...

Hadoop集群环境搭建

Hadoop集群环境搭建

一、集群规划这里搭建一个3节点的Hadoop集群,其中三台主机均部署DataNode和NodeManager服务,但只有hadoop001上部署NameNode和ResourceManager服务。 二、前置条件Hadoop的...