Skip to content

仿 TCMalloc 的三层内存池 ​

面向高频小对象分配的内存池:通用分配器在高并发下要么抢全局锁,要么频繁向系统要页,两件事都会拖慢程序。它仿照 TCMalloc 做三层缓存——线程本地无锁分配、中心缓存批量补给、页缓存按页合并——让绝大多数分配只碰线程私有链表,减少锁竞争和外部碎片;仓库配有单测与性能对比,用来验证这套分层到底划不划算。

技术栈:C++11 · CMake · 单测 + 性能测试

三层结构 ​

text
线程 A ThreadCache ─┐
线程 B ThreadCache ─┼─► CentralCache(按 size class 管理 span)─► PageCache(按页管理)─► 系统
线程 C ThreadCache ─┘
层作用
ThreadCache每线程独享的空闲链表,小对象分配无锁
CentralCache线程缓存不够时批量补给,跨线程回收
PageCache以页为单位向系统申请,切分 span;相邻空闲页可合并

分配路径 ​

  • 小于 256KB 的对象按 8 字节对齐归入 size class,从对应空闲链表取;
  • ThreadCache 为空时,向 CentralCache 批量要一批,摊薄加锁成本;
  • CentralCache 没有 span 时向 PageCache 要页,PageCache 不够再调用系统接口。

释放是分配的反向过程:对象回到 ThreadCache;线程缓存过长时批量归还 CentralCache;span 全空后合并回 PageCache,减少碎片。

为什么这样分层 ​

  • 无锁快路径:绝大多数小对象分配只碰线程本地链表;
  • 批量搬运:跨层操作一次搬一批,锁的临界区不随分配次数线性增长;
  • 页级合并:span 回收后相邻页合并,缓解长期运行后的外部碎片。

测试 ​

仓库内提供单元测试与性能测试,覆盖分配/释放正确性、size class 边界、跨线程回收以及和系统分配器的吞吐对比。

取舍 ​

  • 释放接口需要同时传入 size,调用方必须记住原始大小;换来的是省掉对象头,内存利用率更高。
  • 针对通用场景的简化实现,没有处理超大对象、线程退出回收等全部边界,学习与验证价值大于直接投产。

源码 ​

GitHub · TCMalloc-Inspired-Memory-Pool