Docker部署常见应用之大数据实时计算引擎Flink

文章目录

Flink 简介

Apache Flink 是一个开源的分布式流批一体化的计算框架，它提供了一个流计算引擎，能够处理有界和无界的数据流。Flink 的核心优势在于其高吞吐量、低延迟的处理能力，以及强大的状态管理和容错机制。它支持事件驱动的应用和复杂的事件处理（CEP），并且可以处理批处理任务。Flink 的设计目标是提供一个易于使用、灵活且高性能的数据处理平台。

Flink 的一些关键特性包括：

• 高吞吐量和低延迟：能够处理大规模的数据流，同时保持毫秒级的处理延迟。
• 状态管理和容错：提供了强大的状态管理功能，允许在发生故障时从检查点或保存点恢复作业。
• 事件时间处理：支持基于事件时间的数据处理，可以处理乱序事件和长时间运行的计算。
• CEP（复杂事件处理）：可以识别和处理复杂的事件模式，这对于监控和警报等应用非常有用。
• 批流一体：统一了批处理和流处理，使得开发人员可以使用相同的 API 来编写批处理和流处理作业。
• 可伸缩性：可以在小型集群到大型集群中运行，支持水平伸缩以适应不同的负载需求。
• 生态系统：拥有丰富的连接器和库，可以与各种数据源和数据存储系统集成。
• 多语言支持：提供了 Java 和 Scala API，并且通过 DataStream API 支持 Python 和其他语言的集成。

在 Docker 中部署 Flink 是一种流行的实践，因为它简化了环境的配置和管理工作。以下是使用 Docker 部署 Flink 的基本步骤：

Docker 部署

1. 安装 Docker：确保你的系统上已经安装了 Docker，可以从 Docker 官网下载并安装。
2. 创建 Docker 网络：为了使 Flink 组件能够相互通信，需要创建一个 Docker 网络。docker network create flink-network
3. 拉取 Flink 镜像：从 Docker Hub 拉取官方的 Flink 镜像。docker pull flink:1.15.0-scala_2.12-java8
4. 启动 Flink 组件：使用 Docker 命令启动 Flink 的 JobManager 和 TaskManager 组件，并加入到创建的网络中。docker run -d-p8081:8081 --name flink-jobmanager --network flink-network --envFLINK_PROPERTIES="jobmanager.rpc.address: flink-jobmanager" flink:1.15.0-scala_2.12-java8 jobmanagerdocker run -d--name flink-taskmanager --network flink-network --envFLINK_PROPERTIES="jobmanager.rpc.address: flink-jobmanager" flink:1.15.0-scala_2.12-java8 taskmanager
5. 访问 Flink Web UI：通过浏览器访问 http://<host>:8081 来查看 Flink 的 Web UI 界面，其中 <host> 是运行 JobManager 的 Docker 主机的地址。
6. 提交 Flink 作业：可以通过 Flink 的命令行工具或者 Web UI 提交作业到集群运行。
7. 管理 Flink 集群：可以通过 Docker 的命令来管理 Flink 容器的生命周期，如停止、删除等。

Docker Compose 部署

1. Docker Compose文件定义: 为了方便管理， 将上述的 docker run 命令转换为 docker-compose.yml 文件， 同时增加 sql-client服务。version:'3'# 你可以根据需要选择合适的版本services:jobmanager:image: flink:1.15.0-scala_2.12-java8 container_name: flink-jobmanager ports:-"8081:8081"environment:-| FLINK_PROPERTIES= jobmanager.rpc.address: jobmanagercommand: jobmanager networks:- flink-network taskmanager:image: flink:1.15.0-scala_2.12-java8 container_name: flink-taskmanager environment:-| FLINK_PROPERTIES= jobmanager.rpc.address: jobmanager taskmanager.numberOfTaskSlots: 2command: taskmanager depends_on:- jobmanager networks:- flink-network sql-client:image: flink:1.15.0-scala_2.12-java8 container_name: flink-sql-client environment:-| FLINK_PROPERTIES= jobmanager.rpc.address: jobmanagercommand: bin/sql-client.sh depends_on:- jobmanager networks:- flink-network networks:flink-network:driver: bridge这个 docker-compose.yml 文件定义了三个服务：jobmanager 和 taskmanager， sql-client。每个服务都使用 flink:1.15.0-scala_2.12-java8 镜像，并设置了相应的环境变量和命令来启动 Flink 的相应组件。请注意以下几点：- container_name 指定了容器的名称。- ports 映射了容器端口到宿主机端口。- environment 设置了容器的环境变量。- command 指定了容器启动时执行的命令。- depends_on 确保了 taskmanager 在 jobmanager 之后启动。- networks 定义了一个名为 flink-network 的网络，所有服务都在这个网络上。在使用 docker-compose.yml 文件之前，请确保你已经安装了 Docker 和 Docker Compose，并且已经创建了 flink-network 网络（如果尚未创建，Docker Compose 将自动创建它）。
2. 启动Flink集群要启动 Flink 集群，你需要在包含 docker-compose.yml 文件的目录中运行以下命令：docker-compose up -d``````-d 参数表示在后台运行服务。
3. 运行Flink-SQL客户端:docker-compose run sql-client进入flink sql客户端， 可以创建表并进行相关查询。
4. 停止Flink集群要停止服务并移除容器，你可以使用：docker-compose down

参考文章

Apache Flink Documentation | Apache Flink
Flink SQL Client with Session Cluste
Docker | Apache Flink
聊聊Flink：Docker搭建Flink