1、集群的概念
集群是一组相互独立的、通过高速网络互联的计算机,它们构成了一个组,并以单一系统的模式加以管理。一个客户与集群相互作用时,集群像是一个独立的服务器。集群配置是用于提高可用性和可缩放性。
当请求到来首先由负载均衡服务器处理,把请求转发到另外的一台服务器上。
2、redis集群
Redis集群是一个由多个主从节点群组成的分布式服务集群,它具有复制、高可用和分片特性。
2.1 Redis有三种集群模式
- 主从模式
- Sentinel模式
- Cluster模式
2.2 Redis集群的优点
- Redis集群有多个master,可以减小访问瞬断问题的影响
- Redis集群有多个master,可以提供更高的并发量
- Redis集群可以分片存储,这样就可以存储更多的数据
2.3 分类
- 软件层面
- 硬件层面
软件层面:只有一台电脑,在这一台电脑上启动了多个redis服务。
硬件层面:存在多台实体的电脑,每台电脑上都启动了一个redis或者多个redis服务。
3、搭建集群(方式一)
- 当前拥有两台主机172.16.x.12、172.16.1.13,这⾥的IP在使⽤时要改为实际值
参考阅读
- redis集群搭建 Redis集群搭建与简单使用 – 邬兴亮 – 博客园
- [Python]搭建redis集群 编程网_菜鸟学编程_编程培训_PHP培训_PHP程序员教程
3.1 配置机器1
在演示中,192.168.X.12为当前ubuntu机器的ip
在192.168.X.12上进⼊Desktop⽬录,创建conf⽬录
在conf⽬录下创建⽂件7000.conf,编辑内容如下
port 7000 bind 192.168.X.12 daemonize yes pidfile 7000.pid cluster-enabled yes cluster-config-file 7000_node.conf cluster-node-timeout 15000 appendonly yes
在conf⽬录下创建⽂件7001.conf,编辑内容如下
port 7001 bind 172.X.12 daemonize yes pidfile 7001.pid cluster-enabled yes cluster-config-file 7001_node.conf cluster-node-timeout 15000 appendonly yes
在conf⽬录下创建⽂件7002.conf,编辑内容如下
port 7002 bind 172.16.X.13 daemonize yes pidfile 7002.pid cluster-enabled yes cluster-config-file 7002_node.conf cluster-node-timeout 15000 appendonly yes
总结:三个⽂件的配置区别在port、pidfile、cluster-config-file三项
使⽤配置⽂件启动redis服务
redis-server 7000.conf redis-server 7001.conf redis-server 7002.conf
查看进程如下图
3.2 配置机器2
【可以用一台虚拟机操作一下,可以不用配置机器2】
在演示中,192.168.X.13为当前ubuntu机器的ip
在192.168.X.13上进⼊Desktop⽬录,创建conf⽬录
在conf⽬录下创建⽂件7003.conf,编辑内容如下
port 7003 bind 192.168.X.13 daemonize yes pidfile 7003.pid cluster-enabled yes cluster-config-file 7003_node.conf cluster-node-timeout 15000 appendonly yes
在conf⽬录下创建⽂件7004.conf,编辑内容如下
port 7004 bind 192.168.X.13 daemonize yes pidfile 7004.pid cluster-enabled yes cluster-config-file 7004_node.conf cluster-node-timeout 15000 appendonly yes
在conf⽬录下创建⽂件7005.conf,编辑内容如下
port 7005 bind 192.168.X.13 daemonize yes pidfile 7005.pid cluster-enabled yes cluster-config-file 7005_node.conf cluster-node-timeout 15000 appendonly yes
总结:三个⽂件的配置区别在port、pidfile、cluster-config-file三项
使⽤配置⽂件启动redis服务
redis-server 7003.conf redis-server 7004.conf redis-server 7005.conf
查看进程如下图
3.3 创建集群
文档连接
redis的安装包中包含了redis-trib.rb,⽤于创建集群
接下来的操作在192.168.X.12机器上进⾏
将命令复制,这样可以在任何⽬录下调⽤此命令
sudo cp /usr/share/doc/redis-tools/examples/redis-trib.rb /usr/local/bin/
安装ruby环境,因为redis-trib.rb是⽤ruby开发的
sudo apt-get install ruby
在提示信息处输⼊y,然后回⻋继续安装
运⾏如下命令创建集群
redis-trib.rb create --replicas 1 192.168.X.12:7000 192.168.X.12:7001 192.168.X.12:7002 192.168.X.13:7003 192.168.X.13:7004 192.168.X.13:7005
执⾏上⾯这个指令在某些机器上可能会报错,主要原因是由于安装的 ruby 不是最 新版本!
天朝的防⽕墙导致⽆法下载最新版本,所以需要设置 gem 的源
解决办法如下
-- 先查看⾃⼰的 gem 源是什么地址 gem source -l -- 如果是https://rubygems.org/ 就需要更换 -- 更换指令为 gem sources --add https://gems.ruby-china.com/ --remove https://rubygems.org/ -- 通过 gem 安装 redis 的相关依赖 sudo gem install redis -- 然后重新执⾏指令
redis-trib.rb create --replicas 1 192.168.X.12:7000 192.168.X.12:7001 192.168.X.12:7002 192.168.X.13:7003 192.168.X.13:7004 192.168.X.13:7005
提示如下主从信息,输⼊yes后回⻋
提示完成,集群搭建成功
3.4 数据验证
根据上图可以看出,当前搭建的主服务器为7000、7001、7002,对应的从服务器是7004、7005、7003
在192.168.X.12机器上连接7002,加参数-c表示连接到集群
redis-cli -h 192.168.X.12 -c -p 7002
写⼊数据
set name itheima
在7005可以获取数据,如果写入数据又重定向到7000(负载均衡)
3.5 在哪个服务器上写数据:CRC16
- redis cluster在设计的时候,就考虑到了去中⼼化,去中间件,也就是说,集群中 的每个节点都是平等的关系,都是对等的,每个节点都保存各⾃的数据和整个集 群的状态。每个节点都和其他所有节点连接,⽽且这些连接保持活跃,这样就保 证了我们只需要连接集群中的任意⼀个节点,就可以获取到其他节点的数据
- Redis集群没有并使⽤传统的⼀致性哈希来分配数据,⽽是采⽤另外⼀种叫做哈希 槽 (hash slot)的⽅式来分配的。redis cluster 默认分配了 16384 个slot,当我们 set⼀个key 时,会⽤CRC16算法来取模得到所属的slot,然后将这个key 分到哈 希槽区间的节点上,具体算法就是:CRC16(key) % 16384。所以我们在测试的 时候看到set 和 get 的时候,直接跳转到了7000端⼝的节点
- Redis 集群会把数据存在⼀个 master 节点,然后在这个 master 和其对应的salve 之间进⾏数据同步。当读取数据时,也根据⼀致性哈希算法到对应的 master 节 点获取数据。只有当⼀个master 挂掉之后,才会启动⼀个对应的 salve 节点,充 当 master
- 需要注意的是:必须要3个或以上的主节点,否则在创建集群时会失败,并且当存 活的主节点数⼩于总节点数的⼀半时,整个集群就⽆法提供服务了
4、搭建集群(方式二)
Redis的集群搭建最少需要3个master节点,我们这里搭建3个master,每个下面挂一个slave节点,总共6个Redis节点;
Cluster模式没有中心节点,可水平扩展。
4.1 环境准备
第1台机器: 192.168.1.12 8001端口 8002端口 第2台机器: 192.168.1.18 8001端口 8002端口 第3台机器: 192.168.1.22 8001端口 8002端口
4.2 创建文件夹
分别在三台机器上创建文件夹,具体路径根据个人redis安装路径来定。
mkdir -p /usr/local/redis/bin/redis-cluster/8001 /usr/local/redis/bin/redis-cluster/8002
4.3 拷贝配置文件
将redis安装目录下的 redis.conf 文件拷贝到8001目录下
cp /usr/local/redis/bin/redis.conf /usr/local/redis/bin/redis-cluster/8001
4.4 修改编辑redis.conf文件中的内容
port 8001 daemonize yes pidfile "/var/run/redis_8001.pid" #指定数据文件存放位置,必须要指定不同的目录位置,不然会丢失数据 dir /usr/local/redis/bin/redis-cluster/8001/ #启动集群模式 cluster-enabled yes #集群节点信息文件,这里800x最好和port对应上 cluster-config-file nodes-8001.conf # 节点离线的超时时间 cluster-node-timeout 5000 #去掉bind绑定访问ip信息 #bind 127.0.0.1 #关闭保护模式 protected-mode no #启动AOF文件 appendonly yes #如果要设置密码需要增加如下配置: #设置redis访问密码 #requirepass xxxxxx #设置集群节点间访问密码,跟上面一致 #masterauth xxxxxx
4.5 文件拷贝到8002文件夹
cp /usr/local/redis/bin/redis-cluster/8001/redis.conf /usr/local/redis/bin/redis-cluster/8002/
将配置文件中的8001修改为8002:
vim redis.conf # 批量修改字符串 :%s/8001/8002/g
4.6 将本机机器上的文件拷贝到另外两台机器上
scp /usr/local/redis/bin/redis-cluster/8001/redis.conf root@192.168.1.18:/usr/local/redis/bin/redis-cluster/8001/ scp /usr/local/redis/bin/redis-cluster/8002/redis.conf root@192.168.1.18:/usr/local/redis/bin/redis-cluster/8002/ scp /usr/local/redis/bin/redis-cluster/8001/redis.conf root@192.168.1.22:/usr/local/redis/bin/redis-cluster/8001/ scp /usr/local/redis/bin/redis-cluster/8002/redis.conf root@192.168.1.22:/usr/local/redis/bin/redis-cluster/8002/
4.7 分别启动这6个redis实例
分别在三台机器上执行下面命令启动redis
/usr/local/redis/bin/redis-server /usr/local/redis/bin/redis-cluster/8001/redis.conf /usr/local/redis/bin/redis-server /usr/local/redis/bin/redis-cluster/8002/redis.conf
4.8 分别检查是否启动成功
ps -ef | grep redis
4.9 使用redis-cli创建整个redis集群
/usr/local/redis/bin/redis-cli -a redis-pw --cluster create --cluster-replicas 1 192.168.1.12:8001 192.168.1.12:8002 192.168.1.18:8001 192.168.1.18:8002 192.168.1.22:8001 192.168.1.22:8002
参数:
- -a:密码
- –cluster-replicas 1:表示1个master下挂1个slave; –cluster-replicas 2:表示1个master下挂2个slave。
4.10 查看帮助命令
[root@192 8001]# /usr/local/redis/bin/redis-cli --cluster help Cluster Manager Commands: create host1:port1 ... hostN:portN --cluster-replicas <arg> check host:port --cluster-search-multiple-owners info host:port fix host:port --cluster-search-multiple-owners --cluster-fix-with-unreachable-masters reshard host:port --cluster-from <arg> --cluster-to <arg> --cluster-slots <arg> --cluster-yes --cluster-timeout <arg> --cluster-pipeline <arg> --cluster-replace rebalance host:port --cluster-weight <node1=w1...nodeN=wN> --cluster-use-empty-masters --cluster-timeout <arg> --cluster-simulate --cluster-pipeline <arg> --cluster-threshold <arg> --cluster-replace add-node new_host:new_port existing_host:existing_port --cluster-slave --cluster-master-id <arg> del-node host:port node_id call host:port command arg arg .. arg --cluster-only-masters --cluster-only-replicas set-timeout host:port milliseconds import host:port --cluster-from <arg> --cluster-from-user <arg> --cluster-from-pass <arg> --cluster-from-askpass --cluster-copy --cluster-replace backup host:port backup_directory help For check, fix, reshard, del-node, set-timeout you can specify the host and port of any working node in the cluster. Cluster Manager Options: --cluster-yes Automatic yes to cluster commands prompts
参数:
- create:创建一个集群环境host1:port1 … hostN:portN
- call:可以执行redis命令
- add-node:将一个节点添加到集群里,第一个参数为新节点的ip:port,第二个参数为集群中
- 任意一个已经存在的节点的ip:port
- del-node:移除一个节点
- reshard:重新分片
- check:检查集群状态
4.11 验证集群
连接任意一个客户端
/usr/local/redis/bin/redis-cli -c -h 192.168.1.22 -p 8001
参数:
- ‐a表示服务端密码
- ‐c表示集群模式
- -h指定ip地址
- -p表示端口号
4.12 查看集群的信息
cluster info
5、Cluster模式原理分析
Redis Cluster将所有数据划分为16384个slots(槽位),每个节点负责其中一部分槽位。槽位的信息存储于每个节点中。只有master节点会被分配槽位,slave节点不会分配槽位。
槽位定位算法: k1 =
Cluster 默认会对 key 值使用 crc16 算法进行 hash 得到一个整数值,然后用这个整数值对 16384进行取模来得到具体槽位。
HASH_SLOT = CRC16(key) % 16384
5.1 命令执行
set k1 v1
注意:
- 根据k1计算出的槽值进行切换节点,并存入数据。不在一个slot下的键值,是不能使用mget、mset等多建操作。
可以通过{}来定义组的概念,从而是key中{}内相同内容的键值对放到同一个slot中。
5.2 故障恢复
查看节点:
cluster nodes
杀死Master节点:
观察节点信息:
6、Python与redis集群交互
安装包如下
pip install redis-py-cluster
redis-py-cluster源码地址https://github.com/Grokzen/redis-py-cluster
创建⽂件redis_cluster.py,示例码如下:
from rediscluster import RedisCluster if __name__ == '__main__': try: # 构建所有的节点,Redis会使⽤CRC16算法,将键和值写到某个节点上 startup_nodes = [ {'host': '192.168.X.12', 'port': '7000'}, {'host': '192.168.X.12', 'port': '7002'}, {'host': '192.168.X.12', 'port': '7001'}, ] # 构建StrictRedisCluster对象 src = RedisCluster(startup_nodes=startup_nodes, decode_responses=True) # 设置键为name、值为abcd的数据 result = src.set('name2', 'abcd') print(result) # 获取键为name name = src.get('name2') print(name) except Exception as e: print(e)
运行效果:
今天的文章
java连接redis集群_redis高可用集群搭建分享到此就结束了,感谢您的阅读。
版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 举报,一经查实,本站将立刻删除。
如需转载请保留出处:https://bianchenghao.cn/81181.html