【lesson3】高并发内存池的三层框架介绍

最新推荐文章于 2024-09-06 18:12:53 发布

(unstoppable)

最新推荐文章于 2024-09-06 18:12:53 发布

阅读量389

点赞数 6

分类专栏：项目高并发内存池文章标签：缓存内存池 C++ C

本文链接：https://blog.csdn.net/m0_67077469/article/details/135959959

版权

项目高并发内存池专栏收录该内容

12 篇文章 1 订阅

订阅专栏

本文探讨了在高并发环境下设计内存池的关键问题，包括性能优化（减少锁竞争）、线程缓存(threadcache)的无锁分配、中心缓存(centralcache)的按需回收与锁定机制，以及页缓存(pagecache)用来解决内存碎片的策略。

摘要由CSDN通过智能技术生成

高并发内存池需要考虑的问题

现代很多的开发环境都是多核多线程，在申请内存的场景下，必然存在激烈的锁竞争问题。malloc本身其实已经很优秀，那么我们项目的原型tcmalloc就是在多线程高并发的场景下更胜一筹，所以这次我们实现的内存池需要考虑以下几方面的问题。

性能问题。
多线程环境下，锁竞争问题。
内存碎片问题。

高并发内存池的3个核心部分

在这里插入图片描述

thread cache

thread cache：线程缓存是每个线程独有的，用于小于256KB的内存的分配，线程从这里申请内存不需要加锁，每个线程独享一个cache，这也就是这个并发线程池高效的地方。

central cache

central cache：中心缓存是所有线程所共享，thread cache是按需从central cache中获取的对象。central cache合适的时机回收thread cache中的对象，避免一个线程占用了太多的内存，而其他线程的内存吃紧，达到内存分配在多个线程中更均衡的按需调度的目的。central cache是存在竞争的，所以从这里取内存对象是需要加锁，首先这里用的是桶锁，其次只有thread cache的没有内存对象时才会找central cache，所以这里竞争不会很激烈。

page cache

page cache：页缓存是在central cache缓存上面的一层缓存，存储的内存是以页为单位存储及分配的，central cache没有内存对象时，从page cache分配出一定数量的page，并切割成定长大小的小块内存，分配给central cache。当一个span的几个跨度页的对象都回收以后，page cache会回收central cache满足条件的span对象，并且合并相邻的页，组成更大的页，缓解内存碎片的问题。