Skip to content

Latest commit

 

History

History
61 lines (46 loc) · 4.39 KB

File metadata and controls

61 lines (46 loc) · 4.39 KB

ObjectPool 参考文档

ObjectPool<T> 是一个基于自适应扩缩容和高性能无锁/低锁机制设计的对象池组件,专为高性能、高并发场景(如网络连接、昂贵对象复用)设计。它完全兼容项目的高性能模式(Netty 底层网络编程),并提供了精细的生命周期管理与严格的内存泄漏检测。

1. 核心特性:自适应扩缩容 (Adaptive Refill)

ObjectPool 最核心的亮点是能够根据实际的借用(Borrow)频率,动态计算并调节空闲对象池的目标大小(Target Size),兼顾了内存的节约与高并发下的极致性能。

工作原理

  1. 滑动窗口采样:后台周期性任务(由 validationPeriod 控制)会收集当前周期内的对象借用次数,并记录到一个大小为 12 (SAMPLE_COUNT) 的环形缓冲区 borrowSamples 中。
  2. 平均需求计算:计算过去 12 个周期内的平均单周期借用量 (avgPerPeriod)。
  3. 动态目标容量:通过公式计算出最合适的池大小:
    int targetSize = Math.max(minIdleSize, 
        Math.min(maxPoolSize, (int) Math.ceil(avgPerPeriod * demandFactor)));
    demandFactor(需求因子)默认值为 2.0,意味着系统会预备平时平均需求量两倍的对象,以应对突发的并发洪峰。
  4. 预热与维持:如果当前池大小低于 targetSizeminIdleSize,后台线程会自动触发创建新对象(doCreate)并将其放入空闲队列,确保借用线程始终能够实现“零等待”获取。

通过这套机制,空闲大小 (idleSize) 是完全动态变更的。在流量低谷时,过期策略会自动清理多余对象;在流量高峰来临前,自适应机制会自动预热对象。

2. 极致性能优化

作为高性能模式的核心组件,ObjectPool 针对热点路径进行了极端的优化:

  • L1 线程本地缓存 (ThreadLocal Cache): 当 minIdleSize <= 0 时开启。借用线程在归还对象时,会优先将其放入 FastThreadLocal 缓存中;下次同线程借用时可直接以无锁方式(CAS 极速校验)取回,实现零竞争。
  • 双向链表与 CAS 状态机: 内部对象包装类 ObjectConf 通过 CAS 管理状态(IDLE, BORROWED, RETIRED)。空闲队列和存活队列使用双向链表管理,极大地降低了复杂结构的开销。
  • 低锁竞争分配: 对象的创建和销毁被严格管理。等待获取对象的线程使用 ReentrantLockCondition,而在存活对象扫描(如过期检查)时只使用极轻量的锁。

3. 完善的生命周期管理

对象在池中的状态转换由一系列严谨的时间阈值与回调函数控制:

  • 超时控制
    • borrowTimeout (默认 10000ms):借用对象时允许等待的最大时间。
    • idleTimeout (默认 600000ms):空闲对象在池中驻留的最大时间,超时将被清理。
    • maxLifetime (默认 0,不限制):对象的绝对最大存活时间。
  • 内存泄漏检测 (Leak Detection): 通过 leakDetectionThreshold 设定。如果对象被借出且长时间未归还(超过阈值),后台扫描任务会判定其发生内存泄漏(Leaked),自动释放其资源并记录指标(OBJECT_POOL_LEAK),有效防止因业务代码异常导致的对象耗尽。
  • 生命周期回调 (Handlers)
    • createHandler: 必须提供,定义如何创建新对象。
    • validateHandler: 必须提供,在借出前和后台扫描时验证对象的可用性。
    • activateHandler: 对象被借出前触发(如清理旧的上下文状态)。
    • passivateHandler: 对象归还时触发(如释放不必要的强引用以协助 GC)。

4. 可观测性 (Metrics)

完全对接了 DiagnosticMetrics,记录了丰富的运行指标,包括但不限于:

  • 池的总大小 (size.count)
  • 当前空闲数 (idle.count)
  • 等待借用的线程数 (waiting.count)
  • 滑动窗口内的借用量 (borrow.window.count)
  • 动态目标容量 (target.count)
  • 创建、销毁、泄漏与超时次数

总结

ObjectPool 将复杂的并发控制、对象分配和动态扩容策略封装在底层,保证了热点路径上极低的对象分配和线程阻塞开销。其自适应空闲大小调节机制是保障其在波动流量下依然能维持微秒级延迟的核心关键。