当前位置: 首页 > news >正文

存储系统03——数据缓冲evBuffer

存储系统03——数据缓冲evBuffer

  • 数据缓冲evBuffer
    • 分段存储
    • 零拷贝
    • 线程安全
  • evbuffer 实例——存储系统事件触发

数据缓冲evBuffer

evbuffer 是 Libevent 提供的一个高效内存缓冲区管理工具,用于存储和操作数据。它类似于一个动态增长的字节缓冲区,支持多种操作,如添加、移除、读取和写入数据;在多线程环境中,evbuffer 的操作是线程安全的。

分段存储

evbuffer 内部使用链表结构存储数据,可以根据需要动态扩展和收缩内存空间;这使得它能够高效地处理不同大小的文件,而无需预先分配固定大小的缓冲区

避免了直接使用套接字传输时,需要的手动管理缓冲区、大文件手动分段

零拷贝

evbuffer 提供了零拷贝操作,如evbuffer_add_file(),可以直接将文件内容添加到缓冲区,而无需先将文件内容读取到内存中,这样可以显著减少内存占用和拷贝操作,提高传输效率。

避免了直接使用套接字传输时,需要将文件内容先读取到内存缓冲区中,再写入套接字;这会增加不必要的内存拷贝操作,降低传输效率。

线程安全

evbuffer 的操作是线程安全的。

evbuffer 实例——存储系统事件触发

用户在浏览器中触发了某些功能后,事件触发并调用回调函数GenHandler(),根据读取到的不同URL请求,回调函数执行对应的业务;
以Download为例:

static void GenHandler(struct evhttp_request *req, void *arg)
{std::string path = evhttp_uri_get_path(evhttp_request_get_evhttp_uri(req));path = UrlDecode(path);// 根据请求中的内容判断是什么请求// 这里是下载请求if (path.find("/download/") != std::string::npos){Download(req, arg);}else{evhttp_send_reply(req, HTTP_NOTFOUND, "Not Found", NULL);}
}

当读取到的业务为Download时,evbuffer 被用于处理 HTTP 文件下载请求;
下载代码逻辑为:

  1. 从 HTTP 请求中提取资源路径,并进行 URL 解码
// 1. 获取客户端请求的资源路径path   req.path
std::string resource_path = evhttp_uri_get_path(evhttp_request_get_evhttp_uri(req)); // 从请求的 URI 中提取路径部分           
resource_path = UrlDecode(resource_path); // 对路径进行 URL 解码
  1. 根据资源路径查询文件的存储信息
// 2. 根据资源路径,获取StorageInfo
StorageInfo info;
data_->GetOneByURL(resource_path, &info); // 根据资源路径获取文件的存储信息std::string download_path = info.storage_path_; // 获取文件的实际存储路径
  1. 将文件内容添加到 HTTP 响应中
// 3. 读取文件数据,放入 rsp.body 中
evbuffer *outbuf = evhttp_request_get_output_buffer(req); // 获取 HTTP 请求的输出缓冲区 evbuffer
int fd = open(download_path.c_str(), O_RDONLY);
// 使用零拷贝机制将文件放入输出缓冲区
evbuffer_add_file(outbuf, fd, 0, fu.FileSize()) // 将文件内容添加到输出缓冲区 outbuf
  1. 设置相应的 HTTP 头部字段,回传文件
// 4. 设置响应头部字段: ETag, Accept-Ranges: bytes
evhttp_add_header(req->output_headers, "Accept-Ranges", "bytes");
evhttp_add_header(req->output_headers, "ETag", GetETag(info).c_str());
evhttp_add_header(req->output_headers, "Content-Type", "application/octet-stream");evhttp_send_reply(req, HTTP_OK, "Success", NULL);
http://www.xdnf.cn/news/525367.html

相关文章:

  • 不同类型桥梁的无人机检测内容及技术难度
  • 智能体应用如何重塑未来生活?全面解析技术场景与实在Agent突破
  • Oracle 的 PGA_AGGREGATE_LIMIT 参数
  • 2024年ASOC SCI2区TOP,多机制群优化算法+多风场输电线路巡检中多无人机任务分配与路径规划,深度解析+性能实测
  • 使用PowerShell备份和还原Windows环境变量
  • 第三十八节:视频处理-视频保存
  • Vue百日学习计划Day36-42天详细计划-Gemini版
  • 树莓派(Raspberry Pi)中切换为国内的软件源
  • easy-live2d v0.2.1 发布啦! 增加了语音 以及 口型同步功能,现在你的Live2D角色 可以在web里说话了!Ciallo~(∠・ω< )
  • OpenMV IDE 的图像接收缓冲区原理
  • 2025年AI与网络安全的终极博弈:冲击、重构与生存法则
  • 谷歌前CEO TED演讲解析:AI 红利的三年窗口期与行业重构
  • Python类方法解析:从字节序列重构Vector2d实例
  • 用 CodeBuddy 搭建「MiniGoal 小目标打卡器」:一次流畅的 UniApp 开发体验
  • WPF Data Binding 及经典应用示例
  • 界面组件DevExpress WPF中文教程:Grid - Bands分隔符
  • JavaScript 中使用 Elasticsearch 的正确方式,第一部分
  • windows服务器部署jenkins工具
  • outlook怎么用163邮箱
  • 软件设计师E-R模型考点分析——求三连
  • 服务端安全测试:OWASP ZAP使用
  • OpenTelemetry 从入门到精通
  • ffmpeg转码后的视频有横条纹和彩虹横条等乱彩问题
  • uniapp-商城-62-后台 商品列表(分类展示商品的布局)
  • cmd里可以使用npm,vscode里使用npm 报错
  • 深入解析分布式数据库TiDB:原理、优化与架构实践
  • 深度学习---模型预热(Model Warm-Up)
  • 全能视频处理工具介绍说明
  • 机器学习--特征工程具体案例
  • 虚幻引擎5-Unreal Engine笔记之什么时候新建GameMode,什么时候新建关卡?