各位同仁,下午好!
在现代多核处理器架构下,充分利用并行计算能力已成为软件性能优化的关键。无锁(Lock-Free)编程作为一种高级并发技术,旨在通过避免传统互斥锁的开销和潜在死锁问题,实现极高的并发性能。然而,无锁编程并非没有挑战,其中最棘手、最容易出错的问题之一便是动态内存的回收与安全释放。
今天,我将与大家深入探讨一种强大且广泛应用于无锁数据结构中的内存回收机制——基于 Hazard Pointers 的安全释放方案。我们将从无锁编程的基本挑战出发,逐步揭示 Hazard Pointers 的核心原理、设计细节、实现方法,并探讨其在实际应用中的考量与权衡。
1. 无锁编程的诱惑与陷阱:内存回收的困境
无锁编程通过原子操作(如Compare-And-Swap, CAS)来协调多个线程对共享数据的访问,避免了操作系统级别的上下文切换和锁竞争,从而在理论上提供了卓越的性能和可伸缩性。一个典型的无锁数据结构操作,例如向一个无锁栈中push或pop一个节点,通常涉及以下步骤:
- 读取当前共享数据结构的状态(例如栈顶指针)。
- 基于读取的状态计算新的状态。
- 尝试使用CAS原子地更新共享状态。
- 如果CAS失败(说明其他线程已修改),则重复上述步骤。
这种模式在很多情况下工作得很好,但当涉及到动态内存的释放时,复杂性急剧上升。考虑一个简单的无锁栈的pop操作:
template <typename T>
struct Node {
T data;
std::atomic<Node<T>*> next;
// ...
};
template <typename T>
class LockFreeStack {
std::atomic<Node<T>*> head;
public:
// ...
T pop() {
Node<T>* oldHead = head.load(std::memory_order_relaxed);
Node<T>* newHead;
do {
if (oldHead == nullptr) {
throw std::runtime_error("Stack is empty");
}
newHead = oldHead->next.load(std::memory_order_relaxed);
} while (!head.compare_exchange_weak(oldHead, newHead,
std::memory_order_release,
std::memory_order_relaxed));
T result = oldHead->data; // 获取数据
// delete oldHead; // <-- 危险!
return result;
}
// ...
};
在上述pop操作中,一旦compare_exchange_weak成功,oldHead指向的节点就不再是栈的一部分。直观地看,我们似乎应该立即delete oldHead来回收内存。然而,这正是无锁内存回收的陷阱所在:
- 并发访问冲突: 假设线程A成功
pop了一个节点N,并立即delete N。与此同时,线程B可能在pop操作的早期阶段读取了head指针,发现它指向N。线程B正准备访问N->next。如果N被线程A过早地释放,线程B将访问一块已被释放的内存,导致未定义行为(use-after-free)。 - ABA问题: 即使没有
use-after-free,如果节点N被释放后,其内存被系统重新分配并用于构造了一个新的节点N',并且N'巧合地与N拥有相同的地址。此时,如果线程B在compare_exchange_weak之前读取的oldHead仍然是N的地址,而实际上该地址现在是N'。线程B的CAS操作可能会成功,但它实际上是基于一个过时的值进行操作,这被称为ABA问题。Hazard Pointers 主要解决use-after-free,对于ABA问题,通常需要结合版本号(tagged pointers)来解决。
传统的内存回收机制(如垃圾回收GC、引用计数)在无锁环境中各有局限:GC需要语言运行时支持,且可能引入全局暂停;引用计数(如std::shared_ptr)涉及对引用计数器的原子更新,这本身可能成为性能瓶颈,并且难以处理复杂的循环引用。
因此,我们需要一种专门为无锁环境设计的、既安全又高效的内存回收方案。Hazard Pointers 正是为此而生。
2. Hazard Pointers 的核心思想
Hazard Pointers 的基本思想是:任何一个线程,在尝试访问一个共享数据结构中的节点时,必须首先“声明”它正在访问该节点,直到它完成对该节点的访问为止。 这个声明通过将节点的地址写入一个特殊的、可被其他线程看到的“危险指针”(Hazard Pointer)来实现。
具体来说:
-
读者(Accessor)线程:
- 在尝试读取共享数据结构中的一个节点
N之前,线程A会将N的地址写入其私有的、但可被其他线程访问的 Hazard Pointer 槽位中。 - 写入后,线程A必须再次检查
N是否仍然是共享数据结构中的有效部分(例如,栈顶是否仍是N,或者N是否仍是链表中的某个节点)。这个检查是为了防止N在线程A读取其地址后、将其写入Hazard Pointer之前,已经被其他线程移除并释放。如果N不再有效,线程A必须清除其Hazard Pointer并重新尝试。 - 一旦确认
N有效且已被Hazard Pointer保护,线程A就可以安全地访问N的内容了。 - 完成对
N的访问后,线程A必须清除其Hazard Pointer槽位。
- 在尝试读取共享数据结构中的一个节点
-
写者(Remover)线程:
- 当一个线程B从共享数据结构中移除一个节点
M时,它不会立即delete M。 - 相反,线程B会将
M添加到自己的“待回收列表”(Retired List)中。 - 定期地(例如,当待回收列表达到一定大小时,或者在专门的回收线程中),线程B(或回收器)会执行一个回收过程(Reclamation Process):
- 收集所有活动线程的 Hazard Pointers 中当前正在保护的所有地址。
- 遍历自己的待回收列表。
- 对于待回收列表中的每一个节点
P,检查它的地址是否出现在任何一个活动 Hazard Pointer 中。 - 如果
P的地址没有被任何 Hazard Pointer 保护,那么P就可以被安全地delete了。 - 那些仍然被保护的节点,则继续保留在待回收列表中,等待下一次回收周期。
- 当一个线程B从共享数据结构中移除一个节点
通过这种机制,Hazard Pointers 确保了一个节点只有在所有潜在的读者都已完成对它的访问,并且没有线程将其标记为“危险”时,才会被释放。这有效地解决了use-after-free的问题。
3. Hazard Pointers 的设计与实现
实现 Hazard Pointers 需要管理以下几个核心组件:
- Hazard Pointer 数组: 一个全局共享的数组,每个元素代表一个线程的 Hazard Pointer 槽位。
- 线程本地的 Hazard Pointer 管理器: 每个线程需要获取自己的 Hazard Pointer 槽位,并在其中发布/清除指针。
- 待回收列表(Retired List): 每个线程维护一个私有的列表,用于存放它从数据结构中移除但尚未释放的节点。
- 回收器(Reclaimer): 负责扫描所有 Hazard Pointers,并从待回收列表中安全地释放节点。
3.1. Hazard Pointer 结构体与管理
每个线程可能需要多个 Hazard Pointers,因为一个线程可能在遍历数据结构时同时持有多个节点的引用。例如,一个双向链表可能需要同时保护当前节点和下一个节点。通常,2-3个 Hazard Pointers 槽位足以应对大多数常见数据结构(栈、队列、单链表、二叉树)。
我们首先定义一个HazardPointer结构,它将是全局数组的元素。为了避免伪共享(false sharing),我们通常会对它进行缓存行对齐。
#include <atomic>
#include <vector>
#include <thread>
#include <set>
#include <algorithm>
#include <stdexcept>
#include <iostream>
#include <chrono> // For std::this_thread::sleep_for
// 定义缓存行大小,通常为64字节
#if defined(__cpp_lib_hardware_interference_size)
const size_t CACHE_LINE_SIZE = std::hardware_destructive_interference_size;
#else
const size_t CACHE_LINE_SIZE = 64;
#endif
// HazardPointer 结构体
// 每个HazardPointer实例代表一个线程的一个槽位
struct alignas(CACHE_LINE_SIZE) HazardPointer {
std::atomic<void*> ptr; // 指向被保护的节点的指针
HazardPointer() : ptr(nullptr) {}
void set(void* p) {
ptr.store(p, std::memory_order_release);
}
void clear() {
ptr.store(nullptr, std::memory_order_release);
}
void* get() const {
return ptr.load(std::memory_order_acquire);
}
};
// HazardPointerManager 管理所有线程的Hazard Pointers
class HazardPointerManager {
public:
static const size_t MAX_THREADS = 128; // 最大支持的并发线程数
static const size_t MAX_HPS_PER_THREAD = 3; // 每个线程最大Hazard Pointer数量
private:
// 全局的Hazard Pointer数组
// hp_storage[thread_idx * MAX_HPS_PER_THREAD + hp_idx]
HazardPointer hp_storage[MAX_THREADS * MAX_HPS_PER_THREAD];
// 每个线程的Hazard Pointer槽位分配状态
// true表示已分配,false表示未分配
std::atomic<bool> thread_hp_allocated[MAX_THREADS];
// 线程本地存储,用于记录当前线程的HP槽位索引
static thread_local int s_thread_idx;
public:
HazardPointerManager() {
for (size_t i = 0; i < MAX_THREADS; ++i) {
thread_hp_allocated[i].store(false, std::memory_order_relaxed);
}
}
// 获取当前线程的Hazard Pointer槽位起始索引
// 如果是第一次调用,则尝试分配一个槽位
int acquire_thread_idx() {
if (s_thread_idx != -1) {
return s_thread_idx;
}
for (int i = 0; i < MAX_THREADS; ++i) {
bool expected = false;
if (thread_hp_allocated[i].compare_exchange_strong(expected, true,
std::memory_order_acquire,
std::memory_order_relaxed)) {
s_thread_idx = i;
return i;
}
}
throw std::runtime_error("Exceeded MAX_THREADS for Hazard Pointers");
}
// 释放当前线程的Hazard Pointer槽位
void release_thread_idx(int idx) {
if (idx == -1) return; // Already released or never acquired
// Clear all HPs for this thread
for (size_t i = 0; i < MAX_HPS_PER_THREAD; ++i) {
hp_storage[idx * MAX_HPS_PER_THREAD + i].clear();
}
thread_hp_allocated[idx].store(false, std::memory_order_release);
s_thread_idx = -1; // Mark as released for this thread
}
// 获取指定线程和HP索引的Hazard Pointer
HazardPointer* get_hp(int thread_idx, size_t hp_idx) {
if (thread_idx < 0 || thread_idx >= MAX_THREADS || hp_idx >= MAX_HPS_PER_THREAD) {
throw std::out_of_range("Invalid Hazard Pointer index");
}
return &hp_storage[thread_idx * MAX_HPS_PER_THREAD + hp_idx];
}
// 获取所有活动的Hazard Pointers指向的地址
std::set<void*> get_all_hazard_pointers() const {
std::set<void*> hazards;
for (size_t i = 0; i < MAX_THREADS; ++i) {
if (thread_hp_allocated[i].load(std::memory_order_acquire)) {
for (size_t j = 0; j < MAX_HPS_PER_THREAD; ++j) {
void* p = hp_storage[i * MAX_HPS_PER_THREAD + j].get();
if (p != nullptr) {
hazards.insert(p);
}
}
}
}
return hazards;
}
};
thread_local int HazardPointerManager::s_thread_idx = -1;
// 全局唯一的HazardPointerManager实例
HazardPointerManager g_hp_manager;
// HazardPointerScope: RAII 风格的 Hazard Pointer 管理器
// 每个线程在需要使用Hazard Pointer时,创建一个此对象
class HazardPointerScope {
int thread_idx;
public:
HazardPointerScope() : thread_idx(g_hp_manager.acquire_thread_idx()) {}
~HazardPointerScope() {
g_hp_manager.release_thread_idx(thread_idx);
}
// 保护一个指针,将其写入到指定的Hazard Pointer槽位
void protect(void* p, size_t hp_idx = 0) {
g_hp_manager.get_hp(thread_idx, hp_idx)->set(p);
}
// 清除指定的Hazard Pointer槽位
void clear(size_t hp_idx = 0) {
g_hp_manager.get_hp(thread_idx, hp_idx)->clear();
}
// 获取当前线程的Hazard Pointer
HazardPointer* get_hp(size_t hp_idx = 0) {
return g_hp_manager.get_hp(thread_idx, hp_idx);
}
};
内存序(Memory Order)的考量:
HazardPointer::ptr.store(p, std::memory_order_release):当一个线程将一个指针写入其 Hazard Pointer 槽位时,它必须使用release语义。这确保了在 Hazard Pointer 被写入之后进行的任何内存操作(例如,访问被保护节点的数据)都不会被编译器或处理器重排到 Hazard Pointer 写入之前。HazardPointer::ptr.load(std::memory_order_acquire):当回收器读取 Hazard Pointer 的值时,它必须使用acquire语义。这确保了回收器在读取 Hazard Pointer 之后进行的任何内存操作(例如,检查待回收节点)都不会被重排到 Hazard Pointer 读取之前。它还确保了之前由设置 Hazard Pointer 的线程写入的任何数据(即被保护节点的内容)对回收器是可见的。thread_hp_allocated[i].compare_exchange_strong(expected, true, std::memory_order_acquire, std::memory_order_relaxed):分配线程索引时,acquire语义确保了在分配成功后,当前线程能看到其他线程对hp_storage的所有写入。thread_hp_allocated[idx].store(false, std::memory_order_release):释放线程索引时,release语义确保了在thread_hp_allocated设为false之前,当前线程对hp_storage的所有清除操作都已完成,并且对其他线程可见。
3.2. 待回收列表与回收器
每个线程需要维护一个待回收列表。当一个节点从数据结构中被逻辑移除时,它会被添加到这个列表中。回收器将定期检查这些列表。
// 待回收列表中的节点信息
struct RetiredNode {
void* ptr;
void (*deleter)(void*); // 用于释放节点的函数指针
RetiredNode(void* p, void (*d)(void*)) : ptr(p), deleter(d) {}
};
// 线程本地的待回收列表
class ThreadReclaimer {
static const size_t RECLAIM_THRESHOLD = 100; // 待回收列表达到此大小时触发回收
std::vector<RetiredNode> retired_list;
int thread_idx; // 用于获取HazardPointerScope
public:
ThreadReclaimer() : thread_idx(-1) {} // Initialized to -1, will be set by init()
void init(int idx) {
thread_idx = idx;
}
// 将节点添加到待回收列表
template <typename T>
void retire(T* node) {
retired_list.emplace_back(node, [](void* p){ delete static_cast<T*>(p); });
if (retired_list.size() >= RECLAIM_THRESHOLD) {
scan_and_reclaim();
}
}
// 扫描Hazard Pointers并回收节点
void scan_and_reclaim() {
if (retired_list.empty()) {
return;
}
// 1. 获取所有活跃的Hazard Pointers
std::set<void*> hazards = g_hp_manager.get_all_hazard_pointers();
// 2. 遍历待回收列表,将未被保护的节点进行回收
std::vector<RetiredNode> new_retired_list;
for (const auto& r_node : retired_list) {
if (hazards.find(r_node.ptr) == hazards.end()) {
// 如果节点未被任何HP保护,则可以安全删除
r_node.deleter(r_node.ptr);
} else {
// 否则,保留在新的待回收列表中
new_retired_list.push_back(r_node);
}
}
retired_list = std::move(new_retired_list);
}
// 在线程退出时,强制回收所有剩余节点
void force_reclaim_all() {
scan_and_reclaim(); // Perform a final scan
// Any remaining nodes must be removed, as no thread should be protecting them anymore
for (const auto& r_node : retired_list) {
r_node.deleter(r_node.ptr);
}
retired_list.clear();
}
};
thread_local ThreadReclaimer s_thread_reclaimer;
3.3. 结合 Hazard Pointers 的无锁栈实现
现在,我们把 Hazard Pointers 机制集成到无锁栈的pop操作中。
template <typename T>
struct Node {
T data;
std::atomic<Node<T>*> next;
Node(const T& val) : data(val), next(nullptr) {}
Node(T&& val) : data(std::move(val)), next(nullptr) {}
};
template <typename T>
class LockFreeStack {
std::atomic<Node<T>*> head;
public:
LockFreeStack() : head(nullptr) {}
~LockFreeStack() {
Node<T>* current = head.load(std::memory_order_relaxed);
while (current) {
Node<T>* next_node = current->next.load(std::memory_order_relaxed);
delete current;
current = next_node;
}
}
void push(const T& value) {
Node<T>* newNode = new Node<T>(value);
Node<T>* oldHead = head.load(std::memory_order_relaxed);
do {
newNode->next.store(oldHead, std::memory_order_relaxed);
} while (!head.compare_exchange_weak(oldHead, newNode,
std::memory_order_release,
std::memory_order_relaxed));
}
std::optional<T> pop() {
// 每个线程都需要自己的HazardPointerScope和ThreadReclaimer
HazardPointerScope hp_scope;
s_thread_reclaimer.init(hp_scope.thread_idx); // Ensure reclaimer is initialized for this thread
Node<T>* oldHead = head.load(std::memory_order_relaxed);
Node<T>* newHead;
do {
if (oldHead == nullptr) {
return std::nullopt; // Stack is empty
}
// 1. 保护oldHead
hp_scope.protect(oldHead, 0); // 使用第一个HP槽位保护oldHead
// 2. 重新读取head,检查oldHead是否仍然有效
// 这是关键一步:防止oldHead在被保护之前被其他线程pop并释放
if (head.load(std::memory_order_acquire) != oldHead) {
// oldHead已不再是栈顶,清除HP,重试
hp_scope.clear(0);
oldHead = head.load(std::memory_order_relaxed); // 重新获取最新的head
continue;
}
// oldHead仍然是栈顶,现在可以安全地访问其next指针
newHead = oldHead->next.load(std::memory_order_acquire);
} while (!head.compare_exchange_weak(oldHead, newHead,
std::memory_order_release,
std::memory_order_acquire)); // CAS失败时也需要acquire语义
// CAS成功,oldHead已被逻辑移除,但不能立即删除
// 3. 清除对oldHead的保护
hp_scope.clear(0);
// 4. 将oldHead添加到待回收列表
s_thread_reclaimer.retire(oldHead);
return oldHead->data;
}
};
pop操作中的内存序和Hazard Pointer流程:
oldHead = head.load(std::memory_order_relaxed);:初始读取栈顶,relaxed足以,因为后续会进行acquire验证。hp_scope.protect(oldHead, 0);:将oldHead的地址写入 Hazard Pointer。set内部使用release语义,确保对oldHead的保护在内存中可见。if (head.load(std::memory_order_acquire) != oldHead):这是 Hazard Pointers 机制的关键验证步骤。在将oldHead写入Hazard Pointer之后,我们必须再次load栈顶指针。如果此时栈顶指针已不是oldHead,说明在oldHead被读取到并写入Hazard Pointer之间,有其他线程修改了栈顶。此时,我们不能信任oldHead,必须清除Hazard Pointer并重试。这个load必须是acquire语义,确保它能看到所有之前对head的修改。newHead = oldHead->next.load(std::memory_order_acquire);:一旦oldHead被成功保护并验证,我们就可以安全地访问其成员(如next指针)。这里的acquire语义确保我们能看到oldHead中最新的next值。head.compare_exchange_weak(...):如果CAS成功,oldHead从栈中移除。release语义确保oldHead的移除对其他线程可见。hp_scope.clear(0);:CAS成功后,当前线程不再需要保护oldHead,清除 Hazard Pointer。s_thread_reclaimer.retire(oldHead);:将oldHead添加到当前线程的待回收列表。
3.4. 示例:多线程测试
// 简单的测试函数
void test_stack() {
LockFreeStack<int> s;
const int NUM_OPS = 10000;
const int NUM_THREADS = 4;
std::vector<std::thread> threads;
for (int i = 0; i < NUM_THREADS; ++i) {
threads.emplace_back([&s, NUM_OPS, i]() {
// 在线程开始时,确保ThreadReclaimer被初始化
// HazardPointerScope hps; // 仅用于初始化 s_thread_idx
// s_thread_reclaimer.init(hps.thread_idx);
for (int j = 0; j < NUM_OPS; ++j) {
if ((j + i) % 2 == 0) { // 交替进行push和pop
s.push(j);
} else {
s.pop();
}
}
// 线程退出前强制回收其所有待回收节点
s_thread_reclaimer.force_reclaim_all();
});
}
for (auto& t : threads) {
t.join();
}
std::cout << "Stack operations completed." << std::endl;
// 检查栈中剩余元素
int count = 0;
while(s.pop()) {
count++;
}
std::cout << "Remaining elements in stack: " << count << std::endl;
}
int main() {
test_stack();
return 0;
}
注意: 在test_stack中的线程函数里,HazardPointerScope hps;的注释掉部分是正确的。HazardPointerScope的构造函数会自动调用g_hp_manager.acquire_thread_idx()并设置s_thread_idx,析构函数则会释放。s_thread_reclaimer.init(hp_scope.thread_idx)确保ThreadReclaimer知道当前线程的索引,以便它在需要时可以获取 Hazard Pointers。force_reclaim_all()在线程退出前非常重要,以确保该线程的待回收列表不会被遗漏。
4. 深入考量与优化
4.1. ABA 问题与 Hazard Pointers
正如前面提到的,Hazard Pointers 主要解决 use-after-free 问题,它不能直接解决 ABA 问题。如果一个节点 A 被移除,其内存被回收,然后一个新的节点 B 在相同地址上被创建,一个线程可能误认为它仍然在处理 A。
解决 ABA 问题的常用方法是使用带标签的指针(Tagged Pointers)。这通常通过将一个版本号或计数器编码到指针的低位(如果地址对齐允许)或作为一个单独的字段与指针一起进行原子操作。例如,std::atomic<std::pair<Node<T>*, size_t>> 可以用来原子地更新指针和版本号。
Hazard Pointers 可以与带标签的指针结合使用:Hazard Pointer 保护的是内存地址,带标签的指针确保了内存地址指向的内容是预期的版本。
4.2. 性能影响与优化
Hazard Pointers 机制引入了以下性能开销:
- 读者开销: 每次访问共享节点都需要写入和清除 Hazard Pointer(原子操作),以及额外的
load和比较操作。 - 回收器开销: 定期扫描所有活动的 Hazard Pointers。如果线程数很多,或者待回收列表很大,这个过程可能非常耗时,因为它需要遍历全局的 Hazard Pointer 数组并进行
std::set的查找或构建。
优化策略:
- 减少 Hazard Pointer 数量: 限制每个线程所需的 Hazard Pointer 数量,通常 1-3 个就足够。
- 调整回收阈值:
RECLAIM_THRESHOLD的选择是性能调优的关键。- 太小: 频繁进行回收操作,增加了扫描 Hazard Pointers 的开销。
- 太大: 内存可能积压过多,直到回收发生。
- 通常通过基准测试来确定最佳值。
- 回收器策略:
- 按需回收: 如示例中所示,当待回收列表达到阈值时触发。优点是简单,缺点是回收操作可能在关键路径上发生,增加延迟。
- 后台回收线程: 专门启动一个低优先级的线程来定期执行
scan_and_reclaim。这可以将回收的开销从工作线程中分离出来,但增加了复杂性。 - 批量回收: 每次回收时不只处理自己的待回收列表,而是尝试从其他线程的待回收列表中“偷取”一些节点进行回收,这可以平衡负载。
- 优化
get_all_hazard_pointers:std::set的插入和查找可能较慢。如果 Hazard Pointer 数量和活跃节点数量很大,可以考虑使用哈希表或排序数组进行更快的查找。 - 内存池: 对于频繁创建和销毁的节点,使用自定义内存池(而不是
new/delete)可以减少内存分配器的开销,并提高内存局部性。回收器可以简单地将节点返回到内存池中。
4.3. 线程生命周期管理
当一个线程退出时,它必须:
- 清除其所有 Hazard Pointers: 确保它不再保护任何节点。
- 回收其待回收列表中的所有节点: 即使这些节点可能仍然被其他 Hazard Pointers 保护,但由于该线程即将退出,不再有其他机会进行回收。因此,在线程退出前,通常会强制回收其待回收列表中的所有节点。
ThreadReclaimer::force_reclaim_all()就是为此目的。
HazardPointerScope的RAII设计有助于自动管理Hazard Pointer的分配和释放。
4.4. 与其他内存回收机制的比较
下表总结了Hazard Pointers与其他几种常见无锁内存回收机制的对比:
| 特性/机制 | Hazard Pointers | Epoch-Based Reclamation | RCU (Read-Copy-Update) | Reference Counting (std::shared_ptr) |
|---|---|---|---|---|
| 核心思想 | 读者声明正在访问的节点,写者将节点标记为待回收。 | 读者进入/退出“时期”,写者在旧时期节点不再活跃时回收。 | 读者不加锁访问,写者复制修改,旧版本在所有读者退出后回收。 | 每个对象维护一个原子计数器,为0时回收。 |
| 读者开销 | 读前设置HP,读后清除HP(原子写)。 | 读前声明时期,读后退出时期(原子写)。 | 读前声明 read_lock,读后 read_unlock(通常无锁或极轻量)。 |
每次复制/赋值/访问都原子递增/递减计数器。 |
| 写者/回收开销 | 收集所有HP,遍历待回收列表进行比较。 | 维护全局时期,遍历旧时期节点,检查活跃时期。 | 复制数据,更新指针,等待所有旧读者退出(synchronize_rcu)。 |
每次递减计数器,检查是否为0。 |
| 回收时机 | 当节点不被任何HP保护时。 | 当旧时期节点不再被任何活跃时期中的线程访问时。 | 当所有在旧版本存在期间活跃的读者都退出时。 | 引用计数降为0时立即回收。 |
| 内存积压 | 可能积压,直到HP被清除且回收器运行。 | 可能积压,直到所有旧时期读者退出。 | 可能积压,直到所有旧读者退出。 | 通常不会积压,立即回收。 |
| ABA 问题 | 不直接解决,需结合Tagged Pointers。 | 不直接解决,需结合Tagged Pointers。 | 不直接解决。 | 间接解决(每次原子递增/递减计数器,本质上是版本号)。 |
| 复杂性 | 中等,需要仔细管理HP和回收逻辑。 | 中等,全局时期管理和节点追踪。 | 较低(对读者),较高(对写者和内核实现)。 | 较低,语言内置支持。 |
| 适用场景 | 节点基数据结构(栈、队列、链表、树)。 | 节点基数据结构,通常比HP更简单,回收延迟可能更高。 | Linux内核广泛使用,高读低写场景。 | 任意共享对象,但开销相对较高,不适合极致性能场景。 |
5. 实际应用与最佳实践
Hazard Pointers 是一个强大的工具,但在决定使用它之前,需要仔细评估其适用性。
何时考虑 Hazard Pointers:
- 极致性能要求: 当传统锁机制成为性能瓶颈,且对延迟有严格要求时。
- 并发数据结构: 实现高性能、无锁的链表、栈、队列、哈希表、B树等节点基数据结构。
- 避免死锁: 在复杂的并发系统中,无锁设计可以从根本上消除死锁的可能性。
何时可能不适用 Hazard Pointers:
- 简单场景: 如果
std::shared_ptr或简单的锁(如std::mutex)已经足够满足性能需求,那么 Hazard Pointers 的复杂性是不必要的。 - 非节点基数据结构: 对于数组、向量等非节点基数据结构,Hazard Pointers 的模型可能不那么自然或高效。
- 内存分配器瓶颈: 如果频繁的
new/delete本身就是瓶颈,那么 Hazard Pointers 只是改变了delete的时机,而不是消除了它。此时可能需要考虑内存池或其他定制分配器。
最佳实践:
- 最小化 Hazard Pointer 数量: 每个线程只保留必要的 Hazard Pointers。
- 合理设置回收阈值: 通过测试找到平衡内存积压和回收开销的最佳点。
- 考虑后台回收线程: 对于高并发、高吞吐量的系统,将回收工作卸载到专门的线程可以提高响应一致性。
- 与内存池结合: 将回收的节点返回到内存池而不是直接
delete,可以显著提升性能和内存利用率。 - 严格的内存序: 确保在所有原子操作中都使用正确的
std::memory_order,这是无锁编程正确性的基石。 - 详尽的测试: 无锁代码极难调试。使用并发测试框架(如Google Test、Catch2结合多线程)和内存检查工具(如Valgrind、AddressSanitizer)进行彻底的测试是必不可少的。
结语
Hazard Pointers 为 C++ 无锁编程中的动态内存回收提供了一个安全、高效且可扩展的解决方案。通过显式的“危险”声明和延迟回收机制,它成功地解决了use-after-free这一核心难题,使得构建高性能的无锁数据结构成为可能。虽然引入了一定的复杂性和性能考量,但在追求极致并发性能的场景下,熟练掌握 Hazard Pointers 无疑能为您的技术栈增添一把利器,助您构建出更健壮、更高效的并发系统。