Redis 實現隊列原理的實例詳解
場景說明:
·用于處理比較耗時的請求,例如批量發送郵件,如果直接在網頁觸發執行發送,程序會出現超時
·高并發場景,當某個時刻請求瞬間增加時,可以把請求寫入到隊列,后臺在去處理這些請求
·搶購場景,先入先出的模式
命令:
1
|
rpush + blpop 或 lpush + brpop |
rpush : 往列表右側推入數據
blpop : 客戶端阻塞直到隊列有值輸出
簡單隊列:
1
2
|
simple.php $stmt = $pdo ->prepare( 'select id, cid, name from zc_goods limit 200000' ); $stmt ->execute(); while ( $row = $stmt ->fetch(PDO::FETCH_ASSOC)) { $redis ->rPush( 'goods:task' , json_encode( $row ));} $redis ->close(); |
獲取20000萬個商品,并把json化后的數據推入goods:task隊列
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
|
queueBlpop.php // 出隊 while (true) { // 阻塞設置超時時間為3秒 $task = $redis ->blPop( array ( 'goods:task' ), 3); if ( $task ) { $redis ->rPush( 'goods:success:task' , $task [1]); $task = json_decode( $task [1], true); echo $task [ 'id' ] . ':' . $task [ 'cid' ] . ':' . 'handle success' ; echo PHP_EOL; } else { echo 'nothing' . PHP_EOL; sleep(5); } } |
設置blpop阻塞時間為3秒,當有數據出隊時保存到goods:success:task表示執行成功,當隊列沒有數據時,程序睡眠10秒重新檢查goods:task是否有數據出隊
cli 模式執行命令:
1
|
php simple.phpphp queueBlpop.php |
優先級隊列
思路:
blpop 有多個鍵時,blpop會從左至右遍歷鍵,一旦一個鍵能彈出元素,客戶端立即返回。例如:
1
|
blpop key1 key2 key3 key4 |
從key1到key4遍歷,如果哪個key有值,則彈出這個值,若多個key同時有值時,優先彈出排在左邊的key。
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
|
priority.php // 設置優先級隊列 $high = 'goods:high:task' ; $mid = 'goods:mid:task' ; $low = 'goods:low:task' ; $stmt = $pdo ->prepare( 'select id, cid, name from zc_goods limit 200000' ); $stmt ->execute(); while ( $row = $stmt ->fetch( PDO :: FETCH_ASSOC )) { // cid 小于 100 放在低級隊列 if ( $row [ 'cid' ] < 100 ) { $redis ->rPush( $low , json_encode( $row )); // cid 100 到 600 之間放在中級隊列 }elseif ( $row [ 'cid' ] > 100 && $row [ 'cid' ] < 600 ) { $redis ->rPush( $mid , json_encode( $row )); } // cid 大于 600 放在高級隊列 else { $redis ->rPush( $high , json_encode( $row )); } } $redis ->close(); priorityBlop.php // 優先級隊列 $high = 'goods:high:task' ; $mid = 'goods:mid:task' ; $low = 'goods:low:task' ; // 出隊 while ( true ){ // 優先級高的隊列放在左側 $task = $redis ->blPop(array( $high , $mid , $low ), 3 ); if ( $task ) { $task = json_decode( $task [ 1 ], true ); echo $task [ 'id' ] . ':' . $task [ 'cid' ] . ':' . 'handle success' ; echo PHP_EOL ; } else { echo 'nothing' . PHP_EOL ; sleep( 5 ); } } |
優先級高的隊列放在blpop命令左側,依次排序,blpop命令會依次彈出high, mid, low隊列的值
cli 模式執行命令:
1
|
php priority.phpphp priorityBlpop.php |
延遲隊列
思路:
可以用一個有序集合來保存延遲任務,member保存任務內容,score保存(當前時間 + 延時時間)。用時間作為score。程序只要用有序集合的第一條任務的score和當前時間做比較,如果當前時間比score小,說明有序集合的所有任務還沒到執行時間。
1
2
|
delay.php $stmt = $pdo - >prepare( 'select id, cid, name from zc_goods limit 200000' );$stmt - >execute(); while ($row = $stmt - >fetch(PDO::FETCH_ASSOC)) { $redis - >zAdd( 'goods:delay:task' , time() + rand( 1 , 300 ), json_encode($row));} |
將20萬條任務導入有序集合goods:delay:task,所有任務延遲到之后的1秒到300秒內執行
delayHandle.php
while (true) {// 因為是有序集合,只要判斷第一條記錄的延時時間,例如第一條未到執行時間 // 相對說明集合的其他任務未到執行時間
1
|
$rs = $redis ->zRange( 'goods:delay:task' , 0 , 0 , true ); |
// 集合沒有任務,睡眠時間設置為5秒
1
2
3
4
5
6
7
|
if (empty( $rs )) { echo 'no tasks , sleep 5 seconds' . PHP_EOL ;sleep( 5 );continue;} $taskJson = key( $rs ); $delay = $rs [ $taskJson ]; $task = json_decode( $taskJson , true ); $now = time();// 到時間執行延時任務 if ( $delay <= $now ) { |
// 對當前任務加鎖,避免移動移動延時任務到任務隊列時被其他客戶端修改
1
2
|
if (!( $identifier = acquireLock( $task [ 'id' ]))) { continue;} |
// 移動延時任務到任務隊列
1
2
3
|
$redis - >zRem( 'goods:delay:task' , $taskJson); $redis - >rPush( 'goods:task' , $taskJson); echo $task[ 'id' ] . ' run ' . PHP_EOL; |
// 釋放鎖
1
2
|
releaseLock( $task [ 'id' ], $identifier ); } else { |
// 延時任務未到執行時間
1
|
$sleep = $delay - $now ; |
// 最大值設置為2秒,保證如果有新的任務(延時時間1秒)進入集合時能夠及時的被處理
1
2
3
4
|
$sleep = $sleep > 2 ? 2 : $sleep ; echo 'wait ' . $sleep . ' seconds ' . PHP_EOL ; sleep( $sleep ); } } |
這個文件對有序集合內的延遲任務做處理,如果延遲任務到了執行時間,則把延遲任務移動到任務隊列中
1
2
3
4
5
6
7
8
9
10
11
12
|
queueBlpop.php // 出隊 while ( true ) { // 阻塞設置超時時間為 3 秒 $task = $redis ->blPop(array( 'goods:task' ), 3 ); if ( $task ) { $redis ->rPush( 'goods:success:task' , $task [ 1 ]); $task = json_decode( $task [ 1 ], true ); echo $task [ 'id' ] . ':' . $task [ 'cid' ] . ':' . 'handle success' ; echo PHP_EOL ; } else { echo 'nothing' . PHP_EOL ;sleep( 5 ); } } |
處理任務隊列中的任務
cli模式下執行命令:
1
|
php delay.phpphp delayHanlde.phpphp queueBlpop.php |
如有疑問請留言或者到本站社區交流討論,感謝閱讀,希望能幫助到大家,謝謝大家對本站的支持!