0


【分布式云储存】高性能云存储MinIO简介与Docker部署集群

文章目录

前言

分布式存储服务一直以来是中大型项目不可或缺的一部分,一般常用的商用文件服务有七牛云、阿里云等等,自建的开源文件服务有FastDFS、HDFS等等。但是对于这些方案有的需要付费有些却太过于笨重,今天我们就分享一款轻量级完全可替代生产的高性能分布式储存服务Minio。

MinIO简介

MinIO 提供高性能、与S3 兼容的对象存储系统,让你自己能够构建自己的私有云储存服务。
MinIO原生支持 Kubernetes,它可用于每个独立的公共云、每个 Kubernetes 发行版、私有云和边缘的对象存储套件。
MinIO是软件定义的,不需要购买其他任何硬件,在 GNU AGPL v3 下是 100% 开源的。
在这里插入图片描述

MinIO优势

简单
简单性是百万兆次级数据基础设施的基础 - 无论是在技术上还是在操作上。MinIO使用和部署非常简单,没有其他对象存储可以让您在最快的时间内实现下载到生产环境的部署
高性能
简单性是百万兆次级数据基础设施的基础 - 无论是在技术上还是在操作上。MinIO使用和部署非常简单,没有其他对象存储可以让您在最快的时间内实现下载到生产环境的部署
kubernetes原生支持
通过原生 Kubernetes 运营商集成,MinIO 支持公共云、私有云和边缘云上所有主要的 Kubernetes 发行版。

MinIO技术亮点

主动复制
对象存储的主动、多站点复制是任务关键型生产环境的关键要求。MinIO是目前唯一提供它的供应商。MinIO 提供存储桶级粒度,并支持同步和近同步复制,具体取决于架构选择和数据变化率。
在这里插入图片描述

加密
在对象存储领域,需要强大的加密才能在谈判桌上占有一席之地。MinIO 通过最高级别的加密以及广泛的优化提供更多功能,几乎消除了通常与存储加密操作相关的开销。
在这里插入图片描述

可扩展性
缩放是一个维度概念,但它有一个真理:简单缩放。MinIO 通过称为服务器池的概念进行水平扩展(横向扩展)。服务器池是一种结合了多个技术组件的方法。每个服务器池都是一组独立的节点,具有自己的计算、网络和存储资源。
在这里插入图片描述

Docker部署MinIO集群

为方便展示操作过程我们选择docker-compose编排容器,并且直接编排四个MinIO服务和一个Nginx服务,有条件的同学可以分别部署在不同服务器上。

Minio目录树
[root@master minio]# tree
.

├── docker-compose-minio.yaml
├── nginx.conf
├── minio1
│ ├── config
│ └── data
├── minio2
│ ├── config
│ └── data
├── minio3
│ ├── config
│ └── data
├── minio4
│ ├── config
│ └── data
├── ssl
│ ├── cacert.pem
│ └── privkey.pem

docker与docker-compose安装

  1. #安装docker社区版
  2. yum install docker-ce
  3. #版本查看
  4. docker version
  5. #docker-compose插件安装
  6. curl -L https://github.com/docker/compose/releases/download/1.21.2/docker-compose-`uname -s`-`uname -m` -o /usr/local/bin/docker-compose
  7. #可执行权限
  8. chmod +x /usr/local/bin/docker-compose
  9. #版本查看
  10. docker-compose version

新增nginx配置

nginx.conf创建
vim nginx.conf

  1. user nginx;
  2. worker_processes auto;
  3. error_log /var/log/nginx/error.log warn;
  4. pid /var/run/nginx.pid;
  5. events {
  6. worker_connections 4096;
  7. }
  8. http {
  9. include /etc/nginx/mime.types;
  10. default_type application/octet-stream;
  11. log_format main '$remote_addr - $remote_user [$time_local] "$request" '
  12. '$status $body_bytes_sent "$http_referer" '
  13. '"$http_user_agent" "$http_x_forwarded_for"';
  14. access_log /var/log/nginx/access.log main;
  15. sendfile on;
  16. keepalive_timeout 65;
  17. # include /etc/nginx/conf.d/*.conf;
  18. upstream minio {
  19. server minio1:9000;
  20. server minio2:9000;
  21. server minio3:9000;
  22. server minio4:9000;
  23. }
  24. server {
  25. listen 9000;
  26. listen [::]:9000;
  27. server_name localhost;
  28. #ssl on; ssl配置自行开启
  29. #ssl_certificate /ssl/cacert.pem;
  30. #ssl_certificate_key /ssl/privkey.pem;
  31. # To allow special characters in headers
  32. ignore_invalid_headers off;
  33. # Allow any size file to be uploaded.
  34. # Set to a value such as 1000m; to restrict file size to a specific value
  35. client_max_body_size 0;
  36. # To disable buffering
  37. proxy_buffering off;
  38. location / {
  39. proxy_set_header Host $http_host;
  40. proxy_set_header X-Real-IP $remote_addr;
  41. proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;
  42. proxy_set_header X-Forwarded-Proto $scheme;
  43. proxy_connect_timeout 300;
  44. # Default is HTTP/1, keepalive is only enabled in HTTP/1.1
  45. proxy_http_version 1.1;
  46. proxy_set_header Connection "";
  47. chunked_transfer_encoding off;
  48. proxy_pass http://minio;
  49. }
  50. }
  51. }

编写docker-compose.yml文件

#创建minio数据存储目录
[root@master minio]# pwd
/app/minio
[root@master minio]# mkdir -p minio1/data minio1/config minio2/data minio2/config minio3/data minio3/config minio4/data minio4/config

增加docker-compose编排文件
vim docker-compose-minio.yaml

  1. version: '3.3'
  2. services:
  3. minio1:
  4. image: registry.cn-hangzhou.aliyuncs.com/senfel/minio:RELEASE.2023-07-11T21-29-34Z
  5. hostname: minio1
  6. container_name: minio1
  7. restart: always
  8. volumes:
  9. - /app/minio/minio1/data:/data
  10. - /app/minio/minio1/config:/root/.minio/ # 映射配置目录
  11. ports:
  12. - "19001:9000"
  13. - "18001:8000"
  14. environment:
  15. MINIO_ACCESS_KEY: minio
  16. MINIO_SECRET_KEY: minio123
  17. command: server http://minio{1...4}/data --console-address ":8000"
  18. healthcheck:
  19. test: ["CMD", "curl", "-f", "http://localhost:9000/minio/health/live"]
  20. interval: 30s
  21. timeout: 20s
  22. retries: 3
  23. minio2:
  24. image: registry.cn-hangzhou.aliyuncs.com/senfel/minio:RELEASE.2023-07-11T21-29-34Z
  25. hostname: minio2
  26. container_name: minio2
  27. restart: always
  28. volumes:
  29. - /app/minio/minio2/data:/data
  30. - /app/minio/minio2/config:/root/.minio/ # 映射配置目录
  31. ports:
  32. - "19002:9000"
  33. - "18002:8000"
  34. environment:
  35. MINIO_ACCESS_KEY: minio
  36. MINIO_SECRET_KEY: minio123
  37. command: server http://minio{1...4}/data --console-address ":8000"
  38. healthcheck:
  39. healthcheck:
  40. test: ["CMD", "curl", "-f", "http://localhost:9000/minio/health/live"]
  41. interval: 30s
  42. timeout: 20s
  43. retries: 3
  44. minio3:
  45. image: registry.cn-hangzhou.aliyuncs.com/senfel/minio:RELEASE.2023-07-11T21-29-34Z
  46. hostname: minio3
  47. container_name: minio3
  48. restart: always
  49. volumes:
  50. - /app/minio/minio3/data:/data
  51. - /app/minio/minio3/config:/root/.minio/ # 映射配置目录
  52. ports:
  53. - "19003:9000"
  54. - "18003:8000"
  55. environment:
  56. MINIO_ACCESS_KEY: minio
  57. MINIO_SECRET_KEY: minio123
  58. command: server http://minio{1...4}/data --console-address ":8000"
  59. healthcheck:
  60. test: ["CMD", "curl", "-f", "http://localhost:9000/minio/health/live"]
  61. interval: 30s
  62. timeout: 20s
  63. retries: 3
  64. minio4:
  65. image: registry.cn-hangzhou.aliyuncs.com/senfel/minio:RELEASE.2023-07-11T21-29-34Z
  66. hostname: minio4
  67. container_name: minio4
  68. restart: always
  69. volumes:
  70. - /app/minio/minio4/data:/data
  71. - /app/minio/minio4/config:/root/.minio/ # 映射配置目录
  72. ports:
  73. - "19004:9000"
  74. - "18004:8000"
  75. environment:
  76. MINIO_ACCESS_KEY: minio
  77. MINIO_SECRET_KEY: minio123
  78. command: server http://minio{1...4}/data --console-address ":8000"
  79. healthcheck:
  80. test: ["CMD", "curl", "-f", "http://localhost:9000/minio/health/live"]
  81. interval: 30s
  82. timeout: 20s
  83. retries: 3
  84. nginx-minio:
  85. image: nginx:1.19.2-alpine
  86. hostname: nginx-minio
  87. restart: always
  88. volumes:
  89. - /app/minio/nginx.conf:/etc/nginx/nginx.conf:ro
  90. - /app/minio/ssl:/ssl
  91. ports:
  92. - "9100:9000"
  93. depends_on:
  94. - minio1
  95. - minio2
  96. - minio3
  97. - minio4

启动MinIO容器并验证

#启动容器
[root@master minio]# docker-compose -f docker-compose-minio.yaml up -d
#查看启动的minio
[root@master minio]# docker ps | grep minio
49f824c8af57 minio/minio “/usr/bin/docker-ent…” 10 seconds ago Up 9 seconds (health: starting) 0.0.0.0:18004->8000/tcp, :::18004->8000/tcp, 0.0.0.0:19004->9000/tcp, :::19004->9000/tcp minio4
5bdf40deb4dc minio/minio “/usr/bin/docker-ent…” 10 seconds ago Up 9 seconds (health: starting) 0.0.0.0:18002->8000/tcp, :::18002->8000/tcp, 0.0.0.0:19002->9000/tcp, :::19002->9000/tcp minio2
baa7311a31e2 minio/minio “/usr/bin/docker-ent…” 10 seconds ago Up 9 seconds (health: starting) 0.0.0.0:18001->8000/tcp, :::18001->8000/tcp, 0.0.0.0:19001->9000/tcp, :::19001->9000/tcp minio1
6ddcbfb7114b minio/minio “/usr/bin/docker-ent…” 10 seconds ago Up 9 seconds (health: starting) 0.0.0.0:18003->8000/tcp, :::18003->8000/tcp, 0.0.0.0:19003->9000/tcp, :::19003->9000/tcp minio3

查看启动日志
http://your_hostname:18001~18004/login
分别访问 MinIO 的管理界面。跳出登录页面说明启动成功
在这里插入图片描述

在这里插入图片描述

注意事项

对于MinIO集群,至少需要提供4个端点,并且端点数量必须为偶数
不同服务器上部署节点时确保使用的端口号防火墙已经放行

标签: 分布式 docker 容器

本文转载自: https://blog.csdn.net/weixin_39970883/article/details/133068212
版权归原作者 小沈同学呀 所有, 如有侵权,请联系我们删除。

“【分布式云储存】高性能云存储MinIO简介与Docker部署集群”的评论:

还没有评论