微信公众号搜"智元新知"关注
微信扫一扫可直接关注哦!

直播类app开发,实现数据一致性是必须要做的

背景
缓存是直播类app开发中一个非常有用的概念,数据库缓存更是在项目中必然会遇到的场景。而缓存一致性的保证,更是在面试中被反复问到,这里进行一下总结,针对不同的要求,选择恰到好处的一致性方案。

缓存是什么
存储的速度是有区别的。缓存就是把低速存储的结果,临时保存在高速存储的技术。

 如图所示,金字塔更上面的存储,可以作为下面存储的缓存。

我们本次的讨论,主要针对直播类app开发数据库缓存场景,将以redis作为MysqL的缓存为案例来进行。

为什么需要缓存
存储如MysqL通常支持完整的ACID特性,因为可靠性,持久性等因素,性能普遍不高,直播类app开发高并发的查询会给MysqL带来压力,造成数据库系统的不稳定。同时也容易产生延迟。

根据局部性原理,80%请求会落到20%的热点数据上,在读多写少场景,增加一层缓存非常有助提升系统吞吐量和健壮性。

存在问题
直播类app开发存储的数据随着时间可能会发生变化,而缓存中的数据就会不一致。具体能容忍的不一致时间,需要具体业务具体分析,但是通常的业务,都需要做到最终一致。

redis作为MysqL缓存
通常的直播类app开发模式中,都会使用MysqL作为存储,而redis作为缓存,加速和保护MysqL。但是,当MysqL数据更新之后,redis怎么保持同步呢。

强一致性同步成本太高,如果追求强一致,那么没必要用缓存了,直接用MysqL即可。通常考虑的,都是最终一致性。

解决方
方案一

通过key的过期时间,MysqL更新时,redis不更新。

这种方式实现简单,但不一致的时间会很长。如果读请求非常频繁,且过期时间比较长,则会产生很多长期的脏数据。

优点:

开发成本低,易于实现;

管理成本低,出问题的概率会比较小。

不足:

完全依赖过期时间,时间太短容易缓存频繁失效,太长容易有长时间更新延迟(不一致)

方案二

在方案一的基础上扩展,通过key的过期时间兜底,并且,在更新MysqL时,同时更新redis

 

优点:

相对方案一,更新延迟更小。

不足:

如果更新MysqL成功,更新redis却失败,就退化到了方案一;

在直播类app开发高并发场景,业务server需要和MysqL,redis同时进行连接。这样是损耗双倍的连接资源,容易造成连接数过多的问题。

方案三

针对方案二的同步写redis进行优化,增加消息队列,将redis更新操作交给kafka,由消息队列保证可靠性,再搭建一个消费服务,来异步更新redis

 优点:

消息队列可以用一个句柄,很多消息队列客户端还支持本地缓存发送,有效解决了方案二连接数过多的问题;

使用消息队列,实现了逻辑上的解耦;

消息队列本身具有可靠性,通过手动提交等手段,可以至少一次消费到redis

不足:

依旧解决不了直播类app开发的时序性问题,如果多台业务服务器分别处理针对同一行数据的两条请求,举个栗子,a = 1;a = 5; 如果MysqL中是第一条先执行,而进入kafka的顺序是第二条先执行,那么数据就会产生不一致。

引入了消息队列,同时要增加服务消费消息,成本较高,还有重复消费的风险。

方案四

通过订阅binlog来更新redis,把我们搭建的消费服务,作为MysqL一个slave,订阅binlog,解析出更新内容,再更新到redis

 优点:

MysqL压力不大情况下,延迟较低;

和业务完全解耦;

解决了时序性问题。

缺点:

要单独搭建一个同步服务,并且引入binlog同步机制,成本较大。

总结
方案选型
首先确认直播类app开发对延迟性的要求,如果要求极高,且数据有可能变化,别用缓存。

通常来说,方案1就够了,笔者咨询过4,5个团队,基本都是用方案1,因为能用缓存方案,通常是读多写少场景,同时业务上对延迟具有一定的包容性。方案1没有开发成本,其实比较实用。

如果想增加更新时的即时性,就选择方案2,不过没必要做重试保证之类的。

方案3,方案4针对于对延时要求比较高业务,一个是推模式,一个是拉模式,而方案4具备更强的可靠性,既然都愿意花功夫做处理消息的逻辑,不如一步到位,用方案4。

结论
一般情况,方案1够用。若直播类app开发延时要求高,直接选择方案4。
————————————————
声明:本文由云豹科技转发自HelloWorld搬运工博客,如有侵权请联系作者删除

版权声明:本文内容由互联网用户自发贡献,该文观点与技术仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 [email protected] 举报,一经查实,本站将立刻删除。

相关推荐