存儲引擎之內存管理
在innodb存儲引擎中,數據庫中的緩沖池是通過lru(latest recent used,最近最少使用)算法來進行管理的,即最頻繁使用的頁在lru列表的最前段,而最少使用的頁在lru列表的尾端,當緩沖池不能存放新讀取到的頁時,首先釋放lru列表尾端的頁。
上面的圖中,我使用8個數據頁來表示隊列,具體作用,先賣個關子。在innodb存儲引擎中,緩沖池中頁的默認大小是16kb,lru列表中有一個midpoint的位置,新讀取到的數據頁并不是直接放入到lru列表的首部,而是放入到lru列表的midpoint位置,這個操作稱之為midpoint insertion stategy,也叫中間點插入策略。在默認配置下,該位置在lru長度的5/8處,這也就是上面使用8個數據頁的作用。下面的圖示意了新的數據頁的插入過程:
mitpoint的位置可通過參數innodb_old_blocks_pct控制,如下:
1
2
3
4
5
6
7
|
mysql> show variables like 'innodb_old_blocks_pct' ; + -----------------------+-------+ | variable_name | value | + -----------------------+-------+ | innodb_old_blocks_pct | 37 | + -----------------------+-------+ row in set (. sec) |
從上面的例子看出,結果是37,這個37意味著新讀取的頁將被插入到大概距離lru列表尾端37%的位置,差不多3/8的位置,在innodb存儲引擎中,midpoint之前的頁稱為new列表,后面的頁稱之為old列表,new列表中的頁是最為活躍的數據。
為什么不直接把數據頁放在lru隊列的首部?
之所以不把新讀取的數據頁放在lru隊列的首部,是因為某些全表掃描的sql操作可能會將所有的熱點數據都刷新出lru隊列,導致下一次訪問熱點數據的時候,必須從磁盤中取相應的數據,從而影響緩沖池的效率。為了解決這個問題,innodb使用另外一個參數來管理lru列表,就是innodb_old_blocks_time,用于表示頁讀取到midpoint之后,多久才會加入到lru列表的熱端。因此當需要執行上述所說的sql操作時,可以通過下面的方法盡可能使lru列表中的熱點數據不被刷出。
1
2
|
mysql> set global innodb_old_blocks_time=; query ok, rows affected (0.00 sec) |
這表示在1000s之后,才允許這些數據刷新到lru列表的熱端。
如果在實際情況中,數據頁活躍的比率不止63%,用戶還可以通過設置innodb_old_blocks_pct來減少熱點頁可能被刷出的概率。
1
2
|
mysql> set global innodb_old_blocks_pct=; query ok, rows affected (0.00 sec) |
當數據庫剛啟動時,lru的內容是空的,這個時候,所有的數據頁都放在free列表中,當需要從緩沖池中分頁時,首先從free列表中查找是否有可用的free頁,如果存在,則將該頁從free頁中刪除,然后放入到lru的列表中。淘汰掉lru列表末尾的數據頁,將該內存空間分配給新的頁。這個過程的流程圖如下:
當lru列表中的頁從old部分加入到new部分時,稱此時發生的操作是page made young,而因為innodb_old_blocks_time的設置而沒有從old部分移動到new部分的操作稱之為page_not_made young。可以通過show engine innodb status來觀察lru列表以及free列表的使用情況和運行狀態。
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
|
mysql> show engine innodb status\g *** *** ---------------------- buffer pool and memory ---------------------- total large memory allocated dictionary memory allocated buffer pool size free buffers database pages old database pages modified db pages pending reads pending writes: lru , flush list , single page pages made young , not young 0.00 youngs/s, 0.00 non-youngs/s pages read , created , written 0.00 reads/s, 0.00 creates/s, 0.00 writes/s no buffer pool page gets since the last printout pages read ahead 0.00/s, evicted without access 0.00/s, random read ahead 0.00/s lru len: , unzip_lru len: i/o sum []:cur[], unzip sum []:cur[] -------------- row operations -------------- queries inside innodb, queries in queue read views open inside innodb process id=, main thread id=, state: sleeping number of rows inserted , updated , deleted , read 0.00 inserts/s, 0.00 updates/s, 0.00 deletes/s, 0.00 reads/s ---------------------------- end of innodb monitor output ============================ row in set (0.00 sec) |
從上面的結果可以看到:當前buffer pool size總共有8191個頁,每個數據頁的大小是16k,總共的大小是8191*16k=128m的緩沖池,其中free buffers表示當前free列表中頁的數量。page made young顯示了lru列表中頁移動到前端的次數,因為該服務器在運行階段沒有改變innodb_old_blocks_time的值,因此not young為0,youngs/s、non_youngs/s表示每秒這兩類操作的次數。
innodb存儲引擎從1.0.x版本開始支持壓縮頁的功能,即將原本16kb的數據頁壓縮成1kb、2kb、4kb和8kb。對于非16kb的頁,是通過unzip_lru來管理的,上述命令中的第22行就顯示了壓縮頁和非壓縮頁的信息。
需要注意的一點是free buffers的值與database pages的值之和不一定等于buffer pool size,因為緩沖池中的頁可能還會被分配各自適應哈希索引、鎖信息等頁,而這部分頁并不需要lru算法進行維護。
臟頁
在lru列表中的頁被修改之后,這個頁就稱之為“臟頁”,即緩沖池中的數據頁和磁盤上的數據產生了不一致,緩沖池的數據比較新,這時數據庫會通過checkpoint機制將臟頁刷新回磁盤,而flush列表中的頁也就是臟頁列表,臟頁既存在于lru列表中,也存在與flush列表中,lru列表用來管理緩沖池中頁的可用性,flush列表用來管理將頁刷新回磁盤,二者不影響。flush列表也可以通過show engine innodb status來查看,前面的結果列表中的第13行,modified db pages就是當前的臟頁數量,用戶可以通過元數據表innodb_buffer_page_lru表來查看。
以上就是詳解mysql innodb存儲引擎的內存管理的詳細內容,更多關于innodb 內存管理的資料請關注服務器之家其它相關文章!
原文鏈接:https://cloud.tencent.com/developer/article/1533579