当前位置：首页 > news >正文

【中间件】bthread效率为什么高？

news 2025/5/1 7:47:36

bthread效率为什么更高？

1 基本概念

bthread是brpc中的用户态线程，也是协程的一种实现。其采用M:N模型，即多个用户线程映射到少量的系统线程上。

2 高效做法

用户态调度：避免内核态和用户态之间的切换开销，上下文切换更快。系统线程的切换需要内核接入，而用户态线程的切换完全在用户空间完成，减少了系统调用和上下文切换的开销。
更轻量级的上下文切换：用户态线程的上下文数据量风小，只需要保存必要的寄存器状态，而内核线程需要保存更多的状态信息，比如浮点寄存器、信号处理器等。
M:N模型：多个用户线程由较少的系统线程调度，减少了系统线程的创建和销毁开销，同时也减少了上下文切换的次数。系统线程的数量通常与cpu核心数相当，避免了过多的线程竞争。
无锁或细粒度锁的数据结构：任务队列使用无锁队列或细粒度锁，减少了线程间的竞争和等待时间，提高了并发性能。
工作窃取（work stealing）：当某个工作线程的任务队列为空时，可以从其他线程的队列中窃取任务，实现负载均衡，避免线程空闲，提高资源利用率。
定制化的内存池管理：采用内存池技术，复用栈空间，减少内存分配和释放的开销，避免频繁的系统调用。
避免阻塞系统调用：通过异步IO或非阻塞IO配合事件驱动，减少了线程因IO操作而阻塞的情况，提高了CPU利用率。

进一步解释

用户态调度
避免内核陷入；
能够实现0系统调用（无需内核调度器）；

类型	上下文切换时长	操作
用户态	50 - 100 ns	仅需保存/恢复必要的寄存器（约10个reg）
内核态	1-5 us	保存完整的上下文（浮点寄存器、信号处理器等）；切换内核态堆栈

M:N模型

维度	M:N模型	1:1模型（eg. pthread）
线程数量	百万级用户线程	千级系统线程
调度开销	用户态协作式调度	内核抢占式调度
内存占用	每个线程约4-64KB栈	每个线程约2-10MB
创建/销毁成本	微秒级（纯用户态操作）	毫秒级（需内核参与）

任务调度策略

工作窃取算法

Task *steal_task()
{for (Worker &w : other_workers) {if (Task *t = w.queue.try_steal()) {return t;}}return nullptr;
}// 每个worker线程维护本地任务队列
// 空闲worker从其他worker的队列尾部窃取任务
// 减少锁竞争，提高CPU缓存命中率

协作式调度
显式yield让出cpu；
避免不必要的抢占，减少上下文切换；

内存管理优化

栈内存复用

class StackPool {
public:static constexpr int MAX_CACHED_STACKS = 1000;std::vector<void*> cached_stacks;void *alloc() {if (!cached_stacks.empty()) {return pop_back();}return ::malloc(STACK_SIZE);}void free(void *stack) {if (cached_stacks.size() < MAX_CACHED_STACKS) {cached_tasks.push_back(stack);} else {::free(stack);}}
};// 减少频繁的malloc/free
// 避免内存碎片

** 个人疑问？**
栈内存复用的场景是什么？

与异步I/O深度集成

事件驱动架构

void async_read(int fd, void *buf, size_t size) {epoll_ctl(epoll_fd, EPOLL_CTL_ADD, fd, ...);bthread_yield();// IO完成后由事件循环唤醒
}// 通过epoll/kqueue实现非阻塞IO
// IO等待期间自动yield，不阻塞worker线程