[TOC] ## MQ消息可靠投递核心流程 MQ既然将消息投递拆成了上下半场,为了保证消息的可靠投递,上下半场都必须尽量保证消息必达。 ![UTOOLS1577544428248.png](http://yanxuan.nosdn.127.net/dacd7da695a4587a0531daec387770f1.png) **上半场**,MQ-client-sender到MQ-server流程见上图 1-3: 1. MQ-client将消息发送给MQ-server(此时业务方调用的是API:SendMsg) 2. MQ-server将消息落地,落地后即为发送成功 3. MQ-server将应答发送给MQ-client(此时回调业务方是API:SendCallback) **下半场**,MQ-server到MQ-client-receiver流程见上图 4-6: 1. MQ-server将消息发送给MQ-client(此时回调业务方是API:RecvCallback) 2. MQ-client回复应答给MQ-server(此时业务方主动调用API:SendAck) 3. MQ-server收到ack,将之前已经落地的消息删除,完成消息的可靠投递 ### 如果消息丢了怎么办 为了降低消息丢失的概率,MQ需要进行超时和重传 ### 上半场的超时与重传 MQ上半场的1或者2或者3如果丢失或者超时,MQ-client-sender内的timer会重发消息,直到期望收到3,如果重传N次后还未收到,则SendCallback回调发送失败,需要注意的是,这个过程中MQ-server可能会收到同一条消息的多次重发。 ### 下半场的超时与重传 MQ下半场的4或者5或者6如果丢失或者超时,MQ-server内的timer会重发消息,直到收到5并且成功执行6,这个过程可能会重发很多次消息,一般采用指数退避的策略,先隔x秒重发,2x秒重发,4x秒重发,以此类推,需要注意的是,这个过程中MQ-client-receiver也可能会收到同一条消息的多次重发。 ## 保证幂等 ![UTOOLS1577545256085.png](http://yanxuan.nosdn.127.net/e6099e4dcc2aed7e65b097d9f0dd08bb.png) 为保证消息的可达性,超时、重传、确认机制可能导致消息总线、或者业务方收到重复的消息,从而对业务产生影响 ### 上半场的幂等性设计 一句话:MQ-client生成inner-msg-id,保证上半场幂等 MQ消息发送上半场,即上图中的1-3 1. 发送端MQ-client将消息发给服务端MQ-server 2. 服务端MQ-server将消息落地 3. 服务端MQ-server回ACK给发送端MQ-client 如果3丢失,发送端MQ-client超时后会重发消息,可能导致服务端MQ-server收到重复消息。 此时重发是MQ-client发起的,消息的处理是MQ-server,为了避免步骤2落地重复的消息,对每条消息,MQ系统内部必须生成一个inner-msg-id,作为去重和幂等的依据,这个内部消息ID的特性是: - 全局唯一 - MQ生成,具备业务无关性,对消息发送方和消息接收方屏蔽 有了这个inner-msg-id,就能保证上半场重发,也只有1条消息落到MQ-server的DB中,实现上半场幂等 ### 下半场的幂等性设计 一句话:业务发送方带入biz-id,业务接收方去重保证幂等。 MQ消息发送下半场,即上图中的4-6 4. 服务端MQ-server将消息发给接收端MQ-client 5. 接收端MQ-client回ACK给服务端 6. 服务端MQ-server将落地消息删除 需要强调的是,接收端MQ-client回ACK给服务端MQ-server,是消息消费业务方的主动调用行为,不能由MQ-client自动发起,因为MQ系统不知道消费方什么时候真正消费成功。 如果5丢失,服务端MQ-server超时后会重发消息,可能导致MQ-client收到重复的消息。 此时重发是MQ-server发起的,消息的处理是消息消费业务方,消息重发势必导致业务方重复消费(上例中的一次付款,重复发卡),为了保证业务幂等性,业务消息体中,必须有一个biz-id,作为去重和幂等的依据,这个业务ID的特性是: - 对于同一个业务场景,全局唯一 - 由业务消息发送方生成,业务相关,对MQ透明 - 由业务消息消费方负责判重,以保证幂等 最常见的业务ID有:支付ID,订单ID,帖子ID等。 具体到支付购卡场景,发送方必须将支付ID放到消息体中,消费方必须对同一个支付ID进行判重,保证购卡的幂等。 有了这个业务ID,才能够保证下半场消息消费业务方即使收到重复消息,也只有1条消息被消费,保证了幂等