概述
內(nèi)存池(MemPool)技術(shù)備受推崇。我用google搜索了下,沒有找到比較詳細(xì)的原理性的文章,故此補(bǔ)充一個。另外,補(bǔ)充了boost::pool組件與經(jīng)典MemPool的差異。同時也描述了MemPool在sgi-stl/stlport中的運(yùn)用。
經(jīng)典的內(nèi)存池技術(shù)
經(jīng)典的內(nèi)存池(MemPool)技術(shù),是一種用于分配大量大小相同的小對象的技術(shù)。通過該技術(shù)可以極大加快內(nèi)存分配/釋放過程。下面我們詳細(xì)解釋其中的奧妙。
經(jīng)典的內(nèi)存池只涉及兩個常量:MemBlockSize、ItemSize(小對象的大小,但不能小于指針的大小,在32位平臺也就是不能小于4字節(jié)),以及兩個指針變量MemBlockHeader、FreeNodeHeader。開始,這兩個指針均為空。
class MemPool
{
private:
const int m_nMemBlockSize;
const int m_nItemSize;
struct _FreeNode {
_FreeNode* pPrev;
{
private:
const int m_nMemBlockSize;
const int m_nItemSize;
struct _FreeNode {
_FreeNode* pPrev;
BYTE data[m_nItemSize - sizeof(_FreeNode*)];
};
struct _MemBlock {
_MemBlock* pPrev;
_FreeNode data[m_nMemBlockSize/m_nItemSize];
};
_MemBlock* m_pMemBlockHeader;
_FreeNode* m_pFreeNodeHeader;
public:
MemPool(int nItemSize, int nMemBlockSize = 2048)
: m_nItemSize(nItemSize), m_nMemBlockSize(nMemBlockSize),
m_pMemBlockHeader(NULL), m_pFreeNodeHeader(NULL)
{
}
};
};
struct _MemBlock {
_MemBlock* pPrev;
_FreeNode data[m_nMemBlockSize/m_nItemSize];
};
_MemBlock* m_pMemBlockHeader;
_FreeNode* m_pFreeNodeHeader;
public:
MemPool(int nItemSize, int nMemBlockSize = 2048)
: m_nItemSize(nItemSize), m_nMemBlockSize(nMemBlockSize),
m_pMemBlockHeader(NULL), m_pFreeNodeHeader(NULL)
{
}
};
其中指針變量MemBlockHeader是把所有申請的內(nèi)存塊(MemBlock)串成一個鏈表,以便通過它可以釋放所有申請的內(nèi)存。FreeNodeHeader變量則是把所有自由內(nèi)存結(jié)點(diǎn)(FreeNode)串成一個鏈。
申請內(nèi)存過程
代碼如下:
void* MemPool::malloc() // 沒有參數(shù)
{
if (m_pFreeNodeHeader == NULL)
{
const int nCount = m_nMemBlockSize/m_nItemSize;
_MemBlock* pNewBlock = new _MemBlock;
pNewBlock->data[0].pPrev = NULL;
for (int i = 1; i < nCount; ++i)
pNewBlock->data[i].pPrev = &pNewBlock->data[i-1];
m_pFreeNodeHeader = &pNewBlock->data[nCount-1];
pNewBlock->pPrev = m_pMemBlock;
m_pMemBlock = pNewBlock;
}
void* pFreeNode = m_pFreeNodeHeader;
m_pFreeNodeHeader = m_pFreeNodeHeader->pPrev;
return pFreeNode;
}
{
if (m_pFreeNodeHeader == NULL)
{
const int nCount = m_nMemBlockSize/m_nItemSize;
_MemBlock* pNewBlock = new _MemBlock;
pNewBlock->data[0].pPrev = NULL;
for (int i = 1; i < nCount; ++i)
pNewBlock->data[i].pPrev = &pNewBlock->data[i-1];
m_pFreeNodeHeader = &pNewBlock->data[nCount-1];
pNewBlock->pPrev = m_pMemBlock;
m_pMemBlock = pNewBlock;
}
void* pFreeNode = m_pFreeNodeHeader;
m_pFreeNodeHeader = m_pFreeNodeHeader->pPrev;
return pFreeNode;
}
內(nèi)存申請過程分為兩種情況:
- 在自由內(nèi)存結(jié)點(diǎn)鏈表(FreeNodeList)非空。
在此情況下,Alloc過程只是從鏈表中摘下一個結(jié)點(diǎn)的過程。
- 否則,意味著需要一個新的內(nèi)存塊(MemBlock)。
這個過程需要將新申請的MemBlock切割成多個Node,并把它們串起來。
MemPool技術(shù)的開銷主要在這。
釋放內(nèi)存過程
代碼如下:
void MemPool::free(void* p)
{
_FreeNode* pNode = (_FreeNode*)p;
pNode->pPrev = m_pFreeNodeHeader;
m_pFreeNodeHeader = pNode;
}
{
_FreeNode* pNode = (_FreeNode*)p;
pNode->pPrev = m_pFreeNodeHeader;
m_pFreeNodeHeader = pNode;
}
釋放過程極其簡單,只是把要釋放的結(jié)點(diǎn)掛到自由內(nèi)存鏈表(FreeNodeList)的開頭即可。
性能分析
MemPool技術(shù)申請內(nèi)存/釋放內(nèi)存均極其快(比AutoFreeAlloc慢)。其內(nèi)存分配過程多數(shù)情況下復(fù)雜度為O(1),主要開銷在FreeNodeList為空需要生成新的MemBlock時。內(nèi)存釋放過程復(fù)雜度為O(1)。
boost::pool
boost::pool是內(nèi)存池技術(shù)的變種。主要的變化如下:
- MemBlock改為非固定長度(MemBlockSize),而是:第1次申請時m_nItemSize*32,第2次申請時m_nItemSize*64,第3次申請時m_nItemSize*128,以此類推。不采用固定的MemBlockSize,而采用這種做法預(yù)測模型(是的,這是一種用戶內(nèi)存需求的預(yù)測模型,其實(shí)std::vector的內(nèi)存增長亦采用了該模型),是一個細(xì)節(jié)上的改良。
- 增加了ordered_free(void* p) 函數(shù)。
ordered_free區(qū)別于free的是,free把要釋放的結(jié)點(diǎn)掛到自由內(nèi)存鏈表(FreeNodeList)的開頭,ordered_free則假設(shè)FreeNodeList是有序的,因此會遍歷FreeNodeList把要釋放的結(jié)點(diǎn)插入到合適的位置。
我們已經(jīng)看到,free的復(fù)雜度是O(1),非???。但請注意ordered_free是比較費(fèi)的操作,其復(fù)雜度是O(N)。這里N是FreeNodeList的大小。對于一個頻繁釋放/申請的系統(tǒng),這個N很可能是個大數(shù)。這個boost描述得很清楚:http://www.boost.org/libs/pool/doc/interfaces/pool.html
注意:不要認(rèn)為boost提供ordered_free是多此一舉。后文我們會在討論boost::object_pool時解釋這一點(diǎn)。
基于內(nèi)存池技術(shù)的通用內(nèi)存分配組件
sgi-stl把內(nèi)存池(MemPool)技術(shù)進(jìn)行發(fā)揚(yáng)光大,用它來實(shí)現(xiàn)其最根本的allocator。
其大體的思想是,建立32個MemPool,<=4字節(jié)的內(nèi)存申請由0號MemPool分配,<=8字節(jié)的內(nèi)存申請由1號MemPool分配,以此類推。最后,>128字節(jié)的內(nèi)存申請由普通的malloc分配。
注意
以上代碼屬于偽代碼(struct _FreeNode、_MemBlock編譯通不過),并且去除了出錯處理。


