当前位置:首页 > 黑客技术 > 正文内容

redis订阅和发布(redis数据库和mysql数据库)

访客3年前 (2022-04-19)黑客技术681

前阵子开发了公司领劵中心的项目,这个项目是以redis作为关键技术落地的。先说一下领劵中心的项目吧,这个项目就类似京东app的领劵中心,当然图是截取京东的,公司的就不截了。。。

其中有一个功能叫做领劵的订阅推送。什么是领劵的订阅推送?就是用户订阅了该劵的推送,在可领取前的一分钟就要把提醒信息推送到用户的app中。本来这个订阅功能应该是消息中心那边做的,但他们说这个短时间内做不了。所以让我这个负责优惠劵的做了-.-!。具体方案就是到具体的推送时间点了,coupon系统调用消息中心的推送接口,把信息推送出去。

下们我们分析一下这个功能的业务情景。公司目前注册用户6000W+,是哪家就不要打听了。。。比如有一张无门槛的优惠劵下单立减20元,那么抢这张劵的人就会比较多,我们保守估计10W+,百万级别不好说。我们初定为20W万人,那么这20W条推送信息要在一分钟推送完成!并且一个用户是可以订阅多张劵的。所以我们知道了这个订阅功能的有两个突出的难点:

1、推送的实效性:推送慢了,用户会抱怨没有及时通知他们错过了开抢时机。

2、推送的体量大:爆款的神劵,人人都想抢!

然而推送体量又会影响到推送的实效性。这真是一个让人头疼的问题!

那就让我们把问题一个个解决掉吧!

推送的实效性的问题:当用户在领劵中心订阅了某个劵的领取提醒后,在后台就会生成一条用户的订阅提醒记录,里面记录了在哪个时间点给用户发送推送信息。所以问题就变成了系统如何快速实时选出哪些要推送的记录!

方案1:MQ的延迟投递。MQ虽然支持消息的延迟投递但尺度太大1s 5s 10s 30s 1m,用来做精确时间点投递不行!并且用户执行订阅之后又取消订阅的话,要把发出去的MQ消息delete掉这个操作有点头大,短时间内难以落地!并且用户可以取消之后再订阅,这又涉及到去重的问题。所以MQ的方案否掉。

方案2:传统定时任务。这个相对来说就简单一点,用定时任务是去db里面load用户的订阅提醒记录,从中选出当前可以推送的记录。但有句话说得好任何脱离实际业务的设计都是耍流氓~。下面我们就分析一下传统的定时任务到底适不适合我们的这个业务!

总上所述我们就知道了一般传统的定时任务存在以下缺点:

1、性能瓶颈。只有一台机在处理,在大体量数据面前力不从心!

2、实效性差。定时任务的频率不能太高,太高会业务数据库造成很大的压力!

3、单点故障。万一跑的那台机挂了,那整个业务不可用了-。- 这是一个很可怕的事情!

所以传统定时任务也不太适合这个业务。。。

那我们是不是就束手无策了呢?其实不是的! 我们只要对传统的定时任务做一个简单的改造!就可以把它变成可以同时多机跑,并且实效性可以精确到秒级,并且拒绝单点故障的定时任务集群!这其中就要借助我们的强大的redis了。

方案3:定时任务集群

首先我们要定义定时任务集群要解决的三个问题!

1、实效性要高

2、吞吐量要大

3、服务要稳定,不能有单点故障

下面是整个定时任务集群的架构图。

架构很简单:我们把用户的订阅推送记录存储到redis集群的sortedSet队列里面,并且以提醒用户提醒时间戳作为score值,然后在我们个每业务server里面起一个定时器频率是秒级,我的设定就是1s,然后经过负载均衡之后从某个队列里面获取要推送的用户记录进行推送。下面我们分析以下这个架构

1、性能:除去带宽等其它因素,基本与机器数成线性相关。机器数量越多吞吐量越大,机器数量少时相对的吞吐量就减少。

2、实效性:提高到了秒级,效果还可以接受。

3、单点故障?不存在的!除非redis集群或者所有server全挂了。。。。

这里解析一下为什么用redis?

之一、redis 可以作为一个高性能的存储db,性能要比MySQL好很多,并且支持持久化,稳定性好。

第二、redis SortedSet队列天然支持以时间作为条件排序,完美满足我们选出要推送的记录。

ok~既然方案已经有了那如何在一天时间内把这个方案落地呢?是的我设计出这个方案到基本编码完成,时间就是一天。。。 因为时间太赶鸟。

首先我们以user_id作为key,然后mod队列数hash到redis SortedSet队列里面。为什么要这样呢,因为如果用户同时订阅了两张劵并且推送时间很近,这样的两条推送就可以合并成一条~,并且这样hash也相对均匀。下面是部分代码的截图:

然后要决定队列的数量,一般正常来说我们有多少台处理的服务器就定义多少条队列。因为队列太少,会造成队列竞争,太多可能会导致记录得不到及时处理。

然而更佳实践是队列数量应该是可动态配置化的,因为线上的集群机器数是会经常变的。大促的时候我们会加机器是不是,并且业务量增长了,机器数也是会增加是不是~。所以我是借用了 *** 的diamond进行队列数的动态配置。

我们每次从队列里面取多少条记录也是可以动态配置的。

这样就可以随时根据实际的生产情况调整整个集群的吞吐量~。 所以我们的定时任务集群还是具有一个特性就是支持动态调整~。

最后一个关键组件就是负载均衡了。这个是非常重要的!因为这个做得不好就会可能导致多台机竞争同时处理一个队列,影响整个集群的效率!在时间很紧的情况下我就用了一个简单实用的利用redis一个自增key 然后 mod 队列数量算法。这样就很大程度上就保证不会有两台机器同时去竞争一条队列~.

最后我们算一下整个集群的吞吐量

10(机器数) * 2000(一次拉取数) = 20000。然后以MQ的形式把消息推送到消息中心,发MQ是异步的,算上其它处理0.5s。

其实发送20W的推送也就是10几s的事情。

ok~ 到这里我们整个定时任务集群就差不多基本落地好了。如果你问我后面还有什么可以完善的话那就是:

1、加监控, 集群怎么可以木有监控呢,万一出问题有任务堆积怎么办~

2、加上可视化界面。

3、更好有智能调度,增加任务优先级。优先级高的任务先运行嘛。

4、资源调度,万一机器数量不够,力不从心,优先保证重要任务执行。

目前项目已上前线,运行平稳~。

原文作者:浮云骑士LIN

原文地址:https://www.cnblogs.com/linlini *** ine/p/9214299.html

扫描二维码推送至手机访问。

版权声明:本文由黑客24小时在线接单网站发布,如需转载请注明出处。

本文链接:https://www.cn-sl.com/17342.html

标签: 数据库
分享给朋友:

“redis订阅和发布(redis数据库和mysql数据库)” 的相关文章

比特币价格实时_1比特币价格人民币

约折群众币 一0 八 二 四 九点 二 八元/枚,今朝 ,负责会有吃亏 ;提醒 :投资有风险,但如今 的止情没有太不变 ,群众币Btcc尔所相识 的便是那些。如今 最新的价钱 币 二0 一 九年 八月的 一比特币币,以避免跌至无奈挽归的局势 ,商场处于极为没有不变 状况 。 如今 是 二0 一 九年...

汽车价格排行榜前十名,汽车排名前十

各年纪 段的用户集体皆有。品牌代价 : 四 三 九点 三0亿美圆,那是世界汽车排名汽车第一位:黄金跑车,依据 昨天的汇率是 一英镑比 一 一点 八R这么那车如今 是 一 二亿阁下 ,第一位Bugatti Veyron 一 六点 四产天:法国价钱 : 一 一 九 二0 五 七美圆Bugatti Vey...

苹果9参数配置(苹果9手机参数

苹因xs max是苹因 八后来拉没的型号,苹因私司宣布 了iPhone第三代产物 iPhone 三南京空儿 二0 一0,iPhone 三南京空儿 二00 九年 六月 九日清晨  二: 四 八分,似乎苹因也正在开辟 更年夜 版原。 iPhone XS Max采取  六点 五,iPhone 三G,设置装...

毕福剑怎么了(朱军现在干什么)

倪萍 杨澜 杨澜 赵奸祥悲悼 会 赵奸祥悲悼 会 赵奸祥悲悼 会 赵奸祥悲悼 会 网难文娱 一月 二0日报导 一月 二0日上午,有名 主持人赵奸祥尸体 离别 典礼 正在南京八宝山举办 。杨澜、毕祸剑、马已皆、墨军、倪萍、杨澜、周涛、李瑞英等现身吊唁 。...

胡桃夹子是什么东西(胡桃夹子这首歌的含义)

一提到“胡桃夹子”,便恍如看到了 纷飞的雪花、斑斓的彩灯、 心爱的私仔、扭转 着的图图裙 ...... 那是一个充斥 梦幻气味 的名字, 也是一个无论年夜 人小孩 皆可以或许 深深邃深挚 迷个中 的童话小说。 而闭于《胡桃夹子》, 有太多的体式格局让人忘住! 德国有名 做野霍妇曼的...

上班空闲时间怎么实践(如何利用上班空闲时间实践)

起首 ,最主要 的是您可否 应用 您的履历 战资本 ,然后剖析 您熟习 的范畴 的需供,然后构修一个亏利的框架(贸易 模式)去入止亏利才能 的正在线连续 劣化,正在线运用csv入没心办事 ,人群需乞降 需供深刻 剖析 需供剖析 。经由过程 年夜 质的数据开掘需供否以看没,互   起首 ,最主要...

评论列表

寻妄南殷
3年前 (2022-06-10)

集群的架构图。 架构很简单:我们把用户的订阅推送记录存储到redis集群的sortedSet队列里面,并且以提醒用户提醒时间戳作为score值,然后在我们个每业务server里面起一个定时器频率是秒级,我的设定就是1s,然后经过负载均衡之后从某

离鸢戈亓
3年前 (2022-06-10)

的推送时间点了,coupon系统调用消息中心的推送接口,把信息推送出去。 下们我们分析一下这个功能的业务情景。公司目前注册用户6000W+,是哪家就不要打听了。。。比如有一张无门槛的优惠劵下单立减20元,那么抢这张劵的人

瑰颈蔚落
3年前 (2022-06-10)

订阅了该劵的推送,在可领取前的一分钟就要把提醒信息推送到用户的app中。本来这个订阅功能应该是消息中心那边做的,但他们说这个短时间内做不了。所以让我这个负责优惠劵的做了-.-!。具体方案就是到具体的推送时间点了,coupon系统调用消息中心的推

发表评论

访客

◎欢迎参与讨论,请在这里发表您的看法和观点。