Redis 实现队列 · php笔记

## Redis 实现队列 Redis 实现队列场景说明： ·用于处理比较耗时的请求，例如批量发送邮件，如果直接在网页触发执行发送，程序会出现超时 ·高并发场景，当某个时刻请求瞬间增加时，可以把请求写入到队列，后台在去处理这些请求 ·抢购场景，先入先出的模式命令： rpush + blpop 或 lpush + brpop rpush : 往列表右侧推入数据 blpop : 客户端阻塞直到队列有值输出简单队列： simple.php $stmt = $pdo->prepare('select id, cid, name from zc_goods limit 200000');$stmt->execute();while ($row = $stmt->fetch(PDO::FETCH_ASSOC)) { $redis->rPush('goods:task', json_encode($row));} $redis->close(); 获取20000万个商品，并把json化后的数据推入goods:task队列 queueBlpop.php // 出队while (true) { // 阻塞设置超时时间为3秒 $task = $redis->blPop(array('goods:task'), 3); if ($task) { $redis->rPush('goods:success:task', $task[1]); $task = json_decode($task[1], true); echo $task['id'] . ':' . $task['cid'] . ':' . 'handle success'; echo PHP_EOL; } else { echo 'nothing' . PHP_EOL; sleep(5); }} 设置blpop阻塞时间为3秒，当有数据出队时保存到goods:success:task表示执行成功，当队列没有数据时，程序睡眠10秒重新检查goods:task是否有数据出队 cli 模式执行命令： php simple.phpphp queueBlpop.php 优先级队列思路： blpop 有多个键时，blpop会从左至右遍历键，一旦一个键能弹出元素，客户端立即返回。例如： blpop key1 key2 key3 key4 从key1到key4遍历，如果哪个key有值，则弹出这个值，若多个key同时有值时，优先弹出排在左边的key。 priority.php // 设置优先级队列$high = 'goods:high:task';$mid = 'goods:mid:task';$low = 'goods:low:task'; $stmt = $pdo->prepare('select id, cid, name from zc_goods limit 200000');$stmt->execute();while ($row = $stmt->fetch(PDO::FETCH_ASSOC)) { // cid 小于100放在低级队列 if ($row['cid'] < 100) { $redis->rPush($low, json_encode($row)); } // cid 100到600之间放在中级队列 elseif ($row['cid'] > 100 && $row['cid'] < 600) { $redis->rPush($mid, json_encode($row)); } // cid 大于600放在高级队列 else { $redis->rPush($high, json_encode($row)); }}$redis->close(); priorityBlop.php // 优先级队列$high = 'goods:high:task';$mid = 'goods:mid:task';$low = 'goods:low:task';// 出队while(true){ // 优先级高的队列放在左侧 $task = $redis->blPop(array($high, $mid, $low), 3); if ($task) { $task = json_decode($task[1], true); echo $task['id'] . ':' . $task['cid'] . ':' . 'handle success'; echo PHP_EOL; } else { echo 'nothing' . PHP_EOL; sleep(5); }} 优先级高的队列放在blpop命令左侧，依次排序，blpop命令会依次弹出high, mid, low队列的值 cli 模式执行命令： php priority.phpphp priorityBlpop.php 延迟队列思路：可以用一个有序集合来保存延迟任务，member保存任务内容，score保存（当前时间 + 延时时间）。用时间作为score。程序只要用有序集合的第一条任务的score和当前时间做比较，如果当前时间比score小，说明有序集合的所有任务还没到执行时间。 delay.php $stmt = $pdo->prepare('select id, cid, name from zc_goods limit 200000');$stmt->execute();while ($row = $stmt->fetch(PDO::FETCH_ASSOC)) { $redis->zAdd('goods:delay:task', time() + rand(1, 300), json_encode($row));} 将20万条任务导入有序集合goods:delay:task，所有任务延迟到之后的1秒到300秒内执行 delayHandle.php while (true) { // 因为是有序集合，只要判断第一条记录的延时时间，例如第一条未到执行时间 // 相对说明集合的其他任务未到执行时间 $rs = $redis->zRange('goods:delay:task', 0, 0, true); // 集合没有任务，睡眠时间设置为5秒 if (empty($rs)) { echo 'no tasks , sleep 5 seconds' . PHP_EOL; sleep(5); continue; } $taskJson = key($rs); $delay = $rs[$taskJson]; $task = json_decode($taskJson, true); $now = time(); // 到时间执行延时任务 if ($delay <= $now) { // 对当前任务加锁，避免移动移动延时任务到任务队列时被其他客户端修改 if (!($identifier = acquireLock($task['id']))) { continue; } // 移动延时任务到任务队列 $redis->zRem('goods:delay:task', $taskJson); $redis->rPush('goods:task', $taskJson); echo $task['id'] . ' run ' . PHP_EOL; // 释放锁 releaseLock($task['id'], $identifier); } else { // 延时任务未到执行时间 $sleep = $delay - $now; // 最大值设置为2秒，保证如果有新的任务（延时时间1秒）进入集合时能够及时的被处理// $sleep = $sleep > 2 ? 2 :$sleep; echo 'wait ' . $sleep . ' seconds ' . PHP_EOL; sleep($sleep); }} 这个文件对有序集合内的延迟任务做处理，如果延迟任务到了执行时间，则把延迟任务移动到任务队列中 queueBlpop.php // 出队while (true) { // 阻塞设置超时时间为3秒 $task = $redis->blPop(array('goods:task'), 3); if ($task) { $redis->rPush('goods:success:task', $task[1]); $task = json_decode($task[1], true); echo $task['id'] . ':' . $task['cid'] . ':' . 'handle success'; echo PHP_EOL; } else { echo 'nothing' . PHP_EOL; sleep(5); }} 处理任务队列中的任务 cli模式下执行命令： php delay.phpphp delayHanlde.phpphp queueBlpop.php 学习学习方向和指导，咨询微微老师QQ:1079192266 来源：[六星教育PHP学院首席助理薇薇老师 [http://1079192266.qzone.qq.com]](https://user.qzone.qq.com/1079192266/blog/1504943570?_t_=0.21135489828884602) * * * * * ### 其它 **Redis为队列存取而生** >[danger] BLPOP 是列表的阻塞式(blocking)弹出原语。 Redis实现队列重要的一点解决了存和取的问题，存很快，取弹出队列（`blpop: 客户端阻塞直到队列有值输出`），注意是**阻塞弹出队列的，即阻塞取消息的**，这意味着多工人进程也没事，多工人进程时也不会出现重复取消息，不会出现并发问题，是安全的，这就方便多了，要是用mysql存消息，为了防止并发问题，保证不会出现重复取消息，那处理起来就麻烦多了，需要开启事务用锁，每次limit 1，扫表，取出来任务处理完后还要更新，多进程间的锁等待，真是不敢想象的恐怖，超级超级的低效率。所以Redis真爽，一下子就解决了队列中最头痛的问题，简直是为队列消息存取而生的。 * * * * * ### 参考 [BLPOP — Redis 命令参考](http://redisdoc.com/list/blpop.html) [为什么要誓死学好 Redis ？](http://mp.weixin.qq.com/s/tO7KbtPtbzGgOGhOWFQe8A) [解密 Redis 助力双 11 背后电商秒杀系统](https://mp.weixin.qq.com/s/EXOoKDtOYEyGGp3Pm4LhAg) * * * * * last update：2017-10-17 18:20:36