技術文章 » Docker | redis叢集部署實戰

Docker | redis叢集部署實戰

2022-10-20 18:00:44

前面已經簡單熟悉過redis的下載安裝使用，今天接著部署redis叢集（cluster），簡單體會一下redis叢集的高可用特性。

環境準備

Redis是C語言開發，安裝Redis需要先將Redis的原始碼進行編譯，編譯依賴gcc環境

安裝gcc-c++

yum install gcc-c++

檢視版本

[root@--- redis]# gcc -v
Using built-in specs.
COLLECT_GCC=gcc
COLLECT_LTO_WRAPPER=/usr/libexec/gcc/x86_64-redhat-linux/4.8.5/lto-wrapper
Target: x86_64-redhat-linux
Configured with: ../configure --prefix=/usr --mandir=/usr/share/man --infodir=/usr/share/info --with-bugurl=http://bugzilla.redhat.com/bugzilla --enable-bootstrap --enable-shared --enable-threads=posix --enable-checking=release --with-system-zlib --enable-__cxa_atexit --disable-libunwind-exceptions --enable-gnu-unique-object --enable-linker-build-id --with-linker-hash-style=gnu --enable-languages=c,c++,objc,obj-c++,java,fortran,ada,go,lto --enable-plugin --enable-initfini-array --disable-libgcj --with-isl=/builddir/build/BUILD/gcc-4.8.5-20150702/obj-x86_64-redhat-linux/isl-install --with-cloog=/builddir/build/BUILD/gcc-4.8.5-20150702/obj-x86_64-redhat-linux/cloog-install --enable-gnu-indirect-function --with-tune=generic --with-arch_32=x86-64 --build=x86_64-redhat-linux
Thread model: posix
gcc version 4.8.5 20150623 (Red Hat 4.8.5-44) (GCC) 
[root@--- redis]#

Redis的四種模式

  1. 單機模式

  2. master+slave(主從)

  3. sentinel(哨兵)

  4. cluster(叢集)

建立redis網路卡

[root@--- ~]# docker network create redis --subnet 172.38.0.0/16
0350d84612bef09bc32b39f15ac6b608dae17cbd75d04b282c0bd37c0283bb7c
[root@iZm5e23n3ueobwkjtfartxZ ~]# docker network ls
NETWORK ID     NAME           DRIVER    SCOPE
feafa30d4051   bridge         bridge    local
e8bf4fced9e2   host           host      local
0096a971fd2c   mynet          bridge    local
6263db0933b9   none           null      local
0350d84612be   redis          bridge    local
799426d70aa2   test-network   bridge    local
[root@--- ~]#

建立6個redis服務

通過編寫指令碼建立6個redis服務

  • cluster-enabled：是否啟動叢集，選值：yes 、no
  • cluster-config-file 組態檔.conf ：指定節點資訊，自動生成
  • cluster-node-timeout 毫秒值： 設定節點連線超時時間
  • appendonly：是否開啟持久化，選值：yes、no
  • daemonize: 守護行程啟動(後臺啟動)

在/var目錄下建立指令碼檔案create_redis_script.sh

touch create_redis_script.sh

編寫指令碼內容

vim create_redis_script.sh，寫入下面的內容

for port in $(seq	1 6); \
do \
mkdir -p /var/redisNode/node-${port}/conf
touch /var/redisNode/node-${port}/conf/redis.conf
cat << EOF >/var/redisNode/node-${port}/conf/redis.conf
port 6379
bind 0.0.0.0
cluster-enabled yes
cluster-config-file nodes.conf
cluster-node-timeout 5000
cluster-announce-ip 172.38.0.1${port}
cluster-announce-port 6379
cluster-announce-bus-port 16379
appendonly yes
#daemonize yes
EOF
done

檢視指令碼檔案

cat create_redis_script.sh

賦予create_redis_script.sh檔案可執行許可權

[root@--- ~]# chmod o+x create_redis_script.sh

執行指令碼，建立redis服務

./create_redis_script.sh

檢視redis節點

[root@--- redisNode]# pwd
/var/redisNode
[root@--- redisNode]# ls
node-1  node-2  node-3  node-4  node-5  node-6
[root@--- redisNode]#

檢視redis.conf組態檔

啟動redis服務

  • -v 掛載資料卷

  • redis:5.0.9-alpine3.11 redis映象

  • 6379 是redis埠： 對映雲伺服器埠6371 - 6376

  • 16379 是redis叢集TCP埠： 對映雲伺服器埠16371 - 16376

  • --net 使用自定義redis網路

  • --ip 是本容器繫結的ip： 172.38.0.11 - 16

  • --name 容器名字： redis-1 - 6

  • redis-server /etc/redis/redis.conf 追加命令，通過redis.conf啟動

啟動方式一（不推薦）：

一個一個啟動

啟動第一個redis節點

docker run -p 6371:6379 -p 16371:16379 --name redis-1 \
-v /var/redisNode/node-1/data:/data \
-v /var/redisNode/node-1/conf/redis.conf:/etc/redis/redis.conf \
-d --net redis --ip 172.38.0.11 redis:5.0.9-alpine3.11 redis-server /etc/redis/redis.conf

如上，類似的，遞增ip、port和name，啟動其它五個redis節點，太麻煩了，可以通過編寫指令碼來一次啟動6個服務

啟動方式二（推薦）：

編寫啟動指令碼，6個全部啟動

建立start_redis_script.sh檔案

touch start_redis_script.sh

編寫指令碼內容

vim start_redis_script.sh，寫入下面的內容

for port in $(seq	1 6); \
do \
echo ${port}
docker run -p 637${port}:6379 -p 1637${port}:16379 --name redis-${port} \
-v /var/redisNode/node-${port}/data:/data \
-v /var/redisNode/node-${port}/conf/redis.conf:/etc/redis/redis.conf \
-d --net redis --ip 172.38.0.1${port} redis:5.0.9-alpine3.11 redis-server /etc/redis/redis.conf; \
done

賦予start_redis_script.sh檔案可執行許可權

[root@--- ~]# chmod o+x start_redis_script.sh

執行指令碼，啟動redis容器服務

./start_redis_script.sh

檢視redis容器

[root@--- var]# docker ps
CONTAINER ID   IMAGE                    COMMAND                  CREATED              STATUS              PORTS                                              NAMES
0d3c18b61098   redis:5.0.9-alpine3.11   "docker-entrypoint.s…"   2 seconds ago        Up 1 second         0.0.0.0:6376->6379/tcp, 0.0.0.0:16376->16379/tcp   redis-6
ee896fb093da   redis:5.0.9-alpine3.11   "docker-entrypoint.s…"   13 seconds ago       Up 12 seconds       0.0.0.0:6375->6379/tcp, 0.0.0.0:16375->16379/tcp   redis-5
a83bb7b16dff   redis:5.0.9-alpine3.11   "docker-entrypoint.s…"   48 seconds ago       Up 47 seconds       0.0.0.0:6374->6379/tcp, 0.0.0.0:16374->16379/tcp   redis-4
ffe4c9619bed   redis:5.0.9-alpine3.11   "docker-entrypoint.s…"   58 seconds ago       Up 57 seconds       0.0.0.0:6373->6379/tcp, 0.0.0.0:16373->16379/tcp   redis-3
a316a31e273f   redis:5.0.9-alpine3.11   "docker-entrypoint.s…"   About a minute ago   Up About a minute   0.0.0.0:6372->6379/tcp, 0.0.0.0:16372->16379/tcp   redis-2
71c072f57c29   redis:5.0.9-alpine3.11   "docker-entrypoint.s…"   9 minutes ago        Up 9 minutes        0.0.0.0:6371->6379/tcp, 0.0.0.0:16371->16379/tcp   redis-1
[root@--- var]#

建立叢集

進入任意一個 Redis 範例

進入redis-1容器

docker exec -it redis-1 /bin/sh

建立叢集主節點

  • Redis Cluster最低要求是3個主節點

  • --cluster-replicas 引數為數位，1表示每個主節點需要1個從節點。

# redis-1 容器內
/data # redis-cli --cluster create 172.38.0.11:6379 172.38.0.12:6379 172.38.0.13:6379 172.38.0.14:6379 172.38.0.15:6379 172.38.0.16:6379 --cluster-replicas 1

測試連線叢集

連線叢集 -c

# redis-1 容器內
/data # redis-cli -c
127.0.0.1:6379>

檢視叢集資訊 cluster info

127.0.0.1:6379> cluster info
cluster_state:ok
cluster_slots_assigned:16384
cluster_slots_ok:16384
cluster_slots_pfail:0
cluster_slots_fail:0
cluster_known_nodes:6
cluster_size:3
cluster_current_epoch:6
cluster_my_epoch:1
cluster_stats_messages_ping_sent:292
cluster_stats_messages_pong_sent:307
cluster_stats_messages_sent:599
cluster_stats_messages_ping_received:302
cluster_stats_messages_pong_received:292
cluster_stats_messages_meet_received:5
cluster_stats_messages_received:599
127.0.0.1:6379>

檢視節點資訊 cluster nodes

127.0.0.1:6379> cluster nodes
b3f737d0d77b823794087011f1501fd43a2ea316 172.38.0.12:6379@16379 master - 0 1633332452560 2 connected 5461-10922
506ff2bf1020d468e7d7a81ddbfb616a7e9b7d96 172.38.0.13:6379@16379 master - 0 1633332453000 3 connected 10923-16383
7f57f8a01493fa9e46e24ad8a9e46995634f7442 172.38.0.15:6379@16379 slave 70ebdca0264c079bb2c33452e6388d37706da282 0 1633332453000 5 connected
70ebdca0264c079bb2c33452e6388d37706da282 172.38.0.11:6379@16379 myself,master - 0 1633332452000 1 connected 0-5460
f839b6924977e99d3b74324f2ef70b3678e1a257 172.38.0.14:6379@16379 slave 506ff2bf1020d468e7d7a81ddbfb616a7e9b7d96 0 1633332453762 4 connected
bbc4dd0639b90e9ddfb5cef278be04a24276cbdb 172.38.0.16:6379@16379 slave b3f737d0d77b823794087011f1501fd43a2ea316 0 1633332453000 6 connected
127.0.0.1:6379>

測試主從節點替換

驗證高可用

set一個值，然後停掉對應的服務，再次get，驗證是否可以得到值

set值

127.0.0.1:6379> set a b
-> Redirected to slot [15495] located at 172.38.0.13:6379
OK
172.38.0.13:6379>

發現a值設定在了172.38.0.13容器上，然後我們試著去停掉redis-3容器的服務，然後再次get,看一下結果

get值

172.38.0.13:6379> get a
"b"
172.38.0.13:6379>

停止redis-3容器裡的redis服務

docker stop redis-3

再次取值

172.38.0.13:6379> get a
Could not connect to Redis at 172.38.0.13:6379: Host is unreachable
(34.04s)
not connected> exit
# 重連叢集
/data # redis-cli -c
127.0.0.1:6379> get a
-> Redirected to slot [15495] located at 172.38.0.14:6379
"b"
172.38.0.14:6379>

發現a值被儲存到了172.38.0.14機器上，172.38.0.14是172.38.0.13的從節點，當主節點172.38.0.13發生故障時，自動替換到172.38.0.13，這就是高可用

檢視redis節點服務資訊

發現172.38.0.13節點fail, 172.38.0.14變成master

docker搭建redis叢集完成