Redis 高可用方案

天翼云开发者社区
• 阅读 17

本文分享自天翼云开发者社区《Redis 高可用方案》,作者:芋泥麻薯

一、常见使用方式 Redis的几种常见使用方式包括: •Redis单副本; • Redis多副本(主从); • Redis Sentinel(哨兵); • Redis Cluster; • dynomite; 二、各种使用方式的优缺点 1、Redis单副本 Redis单副本,采用单个Redis节点部署架构,没有备用节点实时同步数据,不提供数据持久化和备份策略,适用于数据可靠性要求不高的纯缓存业务场景。 Redis 高可用方案 优点: •架构简单,部署方便; • 高性价比:缓存使用时无需备用节点(单实例可用性可以用supervisor或crontab保证),当然为了满足业务的高可用性,也可以牺牲一个备用节点,但同时刻只有一个实例对外提供服务; • 高性能。

缺点: •不保证数据的可靠性; • 在缓存使用,进程重启后,数据丢失,即使有备用的节点解决高可用性,但是仍然不能解决缓存预热问题,因此不适用于数据可靠性要求高的业务; • 高性能受限于单核CPU的处理能力(Redis是单线程机制),CPU为主要瓶颈,所以适合操作命令简单,排序、计算较少的场景。也可以考虑用Memcached替代。

2、Redis多副本(主从)

Redis多副本,采用主从(replication)部署结构,相较于单副本而言最大的特点就是主从实例间数据实时同步,并且提供数据持久化和备份策略。主从实例部署在不同的物理服务器上,根据公司的基础环境配置,可以实现同时对外提供服务和读写分离策略。 Redis 高可用方案 优点: • 高可靠性:一方面,采用双机主备架构,能够在主库出现故障时自动进行主备切换,从库提升为主库提供服务,保证服务平稳运行;另一方面,开启数据持久化功能和配置合理的备份策略,能有效的解决数据误操作和数据异常丢失的问题; • 读写分离策略:从节点可以扩展主库节点的读能力,有效应对大并发量的读操作。

缺点: • 故障恢复复杂,如果没有RedisHA系统(需要开发),当主库节点出现故障时,需要手动将一个从节点晋升为主节点,同时需要通知业务方变更配置,并且需要让其它从库节点去复制新主库节点,整个过程需要人为干预,比较繁琐; • 主库的写能力受到单机的限制,可以考虑分片; • 主库的存储能力受到单机的限制,可以考虑Pika; • 原生复制的弊端在早期的版本中也会比较突出,如:Redis复制中断后,Slave会发起psync,此时如果同步不成功,则会进行全量同步,主库执行全量备份的同时可能会造成毫秒或秒级的卡顿;又由于COW机制,导致极端情况下的主库内存溢出,程序异常退出或宕机;主库节点生成备份文件导致服务器磁盘IO和CPU(压缩)资源消耗;发送数GB大小的备份文件导致服务器出口带宽暴增,阻塞请求,建议升级到最新版本。

3、Redis Sentinel(哨兵)

Redis Sentinel是社区版本推出的原生高可用解决方案,其部署架构主要包括两部分:Redis Sentinel集群和Redis数据集群。

其中Redis Sentinel集群是由若干Sentinel节点组成的分布式集群,可以实现故障发现、故障自动转移、配置中心和客户端通知。Redis Sentinel的节点数量要满足2n+1(n>=1)的奇数个。 Redis 高可用方案 优点: •Redis Sentinel集群部署简单; • 能够解决Redis主从模式下的高可用切换问题; • 很方便实现Redis数据节点的线形扩展,轻松突破Redis自身单线程瓶颈,可极大满足Redis大容量或高性能的业务需求; • 可以实现一套Sentinel监控一组Redis数据节点或多组数据节点。

缺点: •部署相对Redis主从模式要复杂一些,原理理解更繁琐; • 资源浪费,Redis数据节点中slave节点作为备份节点不提供服务; • Redis Sentinel主要是针对Redis数据节点中的主节点的高可用切换,对Redis的数据节点做失败判定分为主观下线和客观下线两种,对于Redis的从节点有对节点做主观下线操作,并不执行故障转移。 • 不能解决读写分离问题,实现起来相对复杂。

建议: •如果监控同一业务,可以选择一套Sentinel集群监控多组Redis数据节点的方案,反之选择一套Sentinel监控一组Redis数据节点的方案。 • sentinel monitor 配置中的建议设置成Sentinel节点的一半加1,当Sentinel部署在多个IDC的时候,单个IDC部署的Sentinel数量不建议超过(Sentinel数量 – quorum)。 • 合理设置参数,防止误切,控制切换灵敏度控制:

  1. quorum
  2. down-after-milliseconds 30000
  3. failover-timeout 180000
  4. maxclient
  5. timeout • 部署的各个节点服务器时间尽量要同步,否则日志的时序性会混乱。 • Redis建议使用pipeline和multi-keys操作,减少RTT次数,提高请求效率。 • 自行搞定配置中心(zookeeper),方便客户端对实例的链接访问。

4、Redis Cluster

Redis Cluster是社区版推出的Redis分布式集群解决方案,主要解决Redis分布式方面的需求,比如,当遇到单机内存,并发和流量等瓶颈的时候,Redis Cluster能起到很好的负载均衡的目的。 Redis Cluster集群节点最小配置6个节点以上(3主3从),其中主节点提供读写操作,从节点作为备用节点,不提供请求,只作为故障转移使用。

Redis Cluster采用虚拟槽分区,所有的键根据哈希函数映射到0~16383个整数槽内,每个节点负责维护一部分槽以及槽所印映射的键值数据。

优点: • 无中心架构; • 数据按照slot存储分布在多个节点,节点间数据共享,可动态调整数据分布; • 可扩展性:可线性扩展到1000多个节点,节点可动态添加或删除; • 高可用性:部分节点不可用时,集群仍可用。通过增加Slave做standby数据副本,能够实现故障自动failover,节点之间通过gossip协议交换状态信息,用投票机制完成Slave到Master的角色提升; • 降低运维成本,提高系统的扩展性和可用性。

缺点: • Client实现复杂,驱动要求实现Smart Client,缓存slots mapping信息并及时更新,提高了开发难度,客户端的不成熟影响业务的稳定性。目前仅JedisCluster相对成熟,异常处理部分还不完善,比如常见的“max redirect exception”。 • 节点会因为某些原因发生阻塞(阻塞时间大于clutser-node-timeout),被判断下线,这种failover是没有必要的。 • 数据通过异步复制,不保证数据的强一致性。 • 多个业务使用同一套集群时,无法根据统计区分冷热数据,资源隔离性较差,容易出现相互影响的情况。 • Slave在集群中充当“冷备”,不能缓解读压力,当然可以通过SDK的合理设计来提高Slave资源的利用率。 • Key批量操作限制,如使用mset、mget目前只支持具有相同slot值的Key执行批量操作。对于映射为不同slot值的Key由于Keys不支持跨slot查询,所以执行mset、mget、sunion等操作支持不友好。 • Key事务操作支持有限,只支持多key在同一节点上的事务操作,当多个Key分布于不同的节点上时无法使用事务功能。 • Key作为数据分区的最小粒度,不能将一个很大的键值对象如hash、list等映射到不同的节点。 • 不支持多数据库空间,单机下的redis可以支持到16个数据库,集群模式下只能使用1个数据库空间,即db 0。 • 复制结构只支持一层,从节点只能复制主节点,不支持嵌套树状复制结构。 • 避免产生hot-key,导致主库节点成为系统的短板。 • 避免产生big-key,导致网卡撑爆、慢查询等。 • 重试时间应该大于cluster-node-time时间。 • Redis Cluster不建议使用pipeline和multi-keys操作,减少max redirect产生的场景。

5、dynomite

dynomite使用netflix开源的一个开源将非分布式的缓存系统改造成分布式的缓存系统,根据亚马逊的Dynamo进行设计,是一个高可用,高性能,支持跨数据中副本的分布式存储代理层。 Redis 高可用方案 Redis 高可用方案

上面是官方给的两个拓扑图,其结构和elasticsearch集群的结构比较相似。 这个图里面有两个概念,datacent和rack。这两个概念举例来理解,假设我们在阿里云有集群,在腾讯云也有集群,这就叫两个datacent,或者换种说法,假设有很多集群,这些集群可以根据物理机所在位置或者其他标准,分成了两大部分,这就叫两个datacent。 然后在每个datacent内,可能某些物理机在一个机房或者机架甚至就是一个机器上的几个虚拟机,那么这些机器之间的通信等速度肯定会更快,这些机器可以组成一个集群,就叫一个rack。

在dynomite拓扑结构中,每个rack都是一个完整集群,每个rack的都拥有完整的数据,多个rack间相互备份,这就达到了高可用,具体同步机制后面讲。 Redis 高可用方案 dynomite结构中,每个rack都是一个一致性hash环,具体规则是rack上每个节点都是个redis master,是可读写的。在每个redis节点上都挂载着一个dynomite代理,每个代理持有一个tokens,一致性hash的分配就是根据这个tokens来的,tokens计算规则:从0开始 token = (4294967295 / numberOfNodesInRack) * nodeIndex。每个rack上存在节点都是可以不同的,不需要对应,因为每个rack上的tokens都是重新计算的。

当客户端的请求到达任意一个dynomite代理后,dynomite会根据tokens计算出这个key是否属于自己管理的节点,如果不是的话,会把请求发送到对应的dynomite代理上。

同时,还会把这个请求发送到其他的rack的dynomite代理上,以此来完成rack间的数据同步,这个rack间的数据同步时异步的,但是当我们要求强一致性的时候,可以通过配置参数,当有多少个rack完成数据写入时,才返回结果,根据对一致性要求程度的不同来设置不同的参数

简单的异地多活高可用方案: 1、两地各键一个datacent 2、每个datacent中建立两个rack 3、每个rack上的redis-server为一个sentinel集群,dynomite高可用通过一个redis上挂载多个dynomite实现 4、sentinel集群通过client-reconf-script脚本,在master节点发生switch操作时,自动去修改dynomite代理地址指向的redis server地址

优点: 1、部署简单,分别部署redis和dynomite即可使用 2、支持各种redis连接工具 3、只要有一个节点存活即可使用,适合小数据量使用 4、支持redis、memcahe等多种解决方案

6、dynomite的高可用方案。

Redis 高可用方案 对应的服务调用方连接多个dynomite client,每个dynomite client连接多个rack,这样server在调用任意一个dynomite client时即可查询对应数据,当某个client异常无法服务时,server调用其他client。由于每个rack直接数据互相备份。所以当某个rack发生异常时,则dynomite client则使用其他rack。从而保证只要有一个dynomite client和一个rack存在时,业务即可正常使用。

以上为Redis高可用方案相关内容。学习了解Redis相关知识,对高可用解决方案有更深的理解,有利于项目中对其灵活应用。

点赞
收藏
评论区
推荐文章
Stella981 Stella981
3年前
Redis Cluster集群主从方案
RedisCluster集群主从方案本文介绍一种通过Jedis和Cluster实现Redis集群(主从)的高可用方案,该方案需要使用Jedis2.8.0(推荐),Redis3.0及以上版本(强制).附:RedisCluster集群主从方案:http://www.cnblogs.com/soul
Stella981 Stella981
3年前
Redis低成本高可用方案设计
关于Redis高可用方案,看到较多的是keepalived、zookeeper方案。keepalived是主备模式,意味着总有一台浪费着。zookeeper工作量成本偏高。本文主要介绍下使用官方sentinel做redis高可用方案的设计。阅读目录:1.RedisSentinel2.故障转移消息接收的3种方式3.整体流程
Stella981 Stella981
3年前
Redis哨兵
RedisSentinel是redis官方推荐的高可用性解决方案,当用redis作masterslave的高可用时,如果master本身宕机,redis本身或者客户端都没有实现主从切换的功能。而redissentinel就是一个独立运行的进程,用于监控多个masterslave集群,自动发现master
Stella981 Stella981
3年前
Redis Sentinel 源码:Redis的高可用模型分析
摘要:本文通过对RedisSentinel源码的理解,详细说明Sentinel的代码实现方式。RedisSentinel是Redis提供的高可用模型解决方案。Sentinel可以自动监测一个或多个Redis主备实例,并在主实例宕机的情况下自动实行主备倒换。本文通过对RedisSentinel源码的理解,详细说明Sentinel的代码实
Stella981 Stella981
3年前
Redis基础与性能调优
Redis是一个开源的,基于内存的结构化数据存储媒介,可以作为数据库、缓存服务或消息服务使用。Redis支持多种数据结构,包括字符串、哈希表、链表、集合、有序集合、位图、Hyperloglogs等。Redis具备LRU淘汰、事务实现、以及不同级别的硬盘持久化等能力,并且支持副本集和通过RedisSentinel实现的高可用方案,
Stella981 Stella981
3年前
Redis Sentinel 哨兵模式
RedisSentinel哨兵模式Sentinel介绍Redis的主从模式下,主节点一旦发生故障不能提供服务,需要人工干预,将从节点晋升为主节点,同时还需要修改客户端配置。对于很多应用场景这种方式无法接受。Sentinel(哨兵)架构解决了redis主从人工干预的问题。Redis
Stella981 Stella981
3年前
Redis 单机模式,主从模式,哨兵模式(sentinel),集群模式(cluster),第三方模式优缺点分析
Redis的几种常见使用方式包括:单机模式主从模式哨兵模式(sentinel)集群模式(cluster)第三方模式单机模式Redis单副本,采用单个Redis节点部署架构,没有备用节点实时同步数据,不提供数据持久化和备份策略,适用于数据可靠性要求不高的纯缓存业务场景。优点:
Stella981 Stella981
3年前
Redis(1.7)Redis高可用架构(理论篇)
【0】常用架构种类  (0.1)单机Redis  (0.2)单纯的Redis主从复制  (0.3)哨兵SentinelRedis主从复制集群(实现高可用自动故障转移)  (0.4)RedisCluster分布式数据库集群  (0.5)第三方中间件Redis主从复制【1】Redis主从复制
Stella981 Stella981
3年前
Redis高可用技术解决方案总结
一、常见使用方式Redis的几种常见使用方式包括:Redis单副本;Redis多副本(主从);RedisSentinel(哨兵);RedisCluster;Redis自研。二、各种使用方式的优缺点1、Redis单副本Redis单副本,采用
RabbitMQ集群部署(一)——单机模式部署
本文分享自天翼云开发者社区《》,作者:芋泥麻薯RabbitMQ是一种开源消息队列系统,是AMQP的标准实现,用erlang语言开发。RabbitMQ具有良好的性能和时效性,同时还能够非常好的支持集群和负载部署,非常适合在较大规模的分布式系统中使用。Rabb
天翼云开发者社区
天翼云开发者社区
Lv1
天翼云是中国电信倾力打造的云服务品牌,致力于成为领先的云计算服务提供商。提供云主机、CDN、云电脑、大数据及AI等全线产品和场景化解决方案。
文章
790
粉丝
16
获赞
40