主题
仿 TCMalloc 的三层内存池
面向高频小对象分配的内存池:通用分配器在高并发下要么抢全局锁,要么频繁向系统要页,两件事都会拖慢程序。它仿照 TCMalloc 做三层缓存——线程本地无锁分配、中心缓存批量补给、页缓存按页合并——让绝大多数分配只碰线程私有链表,减少锁竞争和外部碎片;仓库配有单测与性能对比,用来验证这套分层到底划不划算。
技术栈:C++11 · CMake · 单测 + 性能测试
三层结构
text
线程 A ThreadCache ─┐
线程 B ThreadCache ─┼─► CentralCache(按 size class 管理 span)─► PageCache(按页管理)─► 系统
线程 C ThreadCache ─┘| 层 | 作用 |
|---|---|
| ThreadCache | 每线程独享的空闲链表,小对象分配无锁 |
| CentralCache | 线程缓存不够时批量补给,跨线程回收 |
| PageCache | 以页为单位向系统申请,切分 span;相邻空闲页可合并 |
分配路径
- 小于 256KB 的对象按 8 字节对齐归入 size class,从对应空闲链表取;
- ThreadCache 为空时,向 CentralCache 批量要一批,摊薄加锁成本;
- CentralCache 没有 span 时向 PageCache 要页,PageCache 不够再调用系统接口。
释放是分配的反向过程:对象回到 ThreadCache;线程缓存过长时批量归还 CentralCache;span 全空后合并回 PageCache,减少碎片。
为什么这样分层
- 无锁快路径:绝大多数小对象分配只碰线程本地链表;
- 批量搬运:跨层操作一次搬一批,锁的临界区不随分配次数线性增长;
- 页级合并:span 回收后相邻页合并,缓解长期运行后的外部碎片。
测试
仓库内提供单元测试与性能测试,覆盖分配/释放正确性、size class 边界、跨线程回收以及和系统分配器的吞吐对比。
取舍
- 释放接口需要同时传入 size,调用方必须记住原始大小;换来的是省掉对象头,内存利用率更高。
- 针对通用场景的简化实现,没有处理超大对象、线程退出回收等全部边界,学习与验证价值大于直接投产。