beegfs读取文件完整流程分析

已于 2024-04-29 18:34:02 修改
阅读量262 收藏 4
点赞数 1
分类专栏： beegfs 文章标签： linux c++ 缓存 系统架构 开源软件
于 2024-04-29 18:19:49 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/yinghuo233/article/details/127968088
版权
本文详细分析了Beegfs客户端在读取文件时与meta和storage节点的交互过程，包括FhgfsOps_getattr、FhgfsOps_read、FhgfsOps_flush及FhgfsOps_release等关键步骤，涉及缓存、通信协议和数据传输优化。通过日志跟踪，展示了client如何校验文件有效性、获取属性信息、读取文件内容并刷新缓存，以及释放资源的完整流程。
摘要由CSDN通过智能技术生成

   

目录

client读取文件-与storage主要交互过程整理 

 file_operations结构体

beegfs-client与beegfs-meta通信-FhgfsOps_getattr

FhgfsOps_getattr

maybeRefreshInode

__FhgfsOps_doRefreshInode

__FhgfsOps_flushInodeFileCache

FhgfsOpsHelper_flushCache

FhgfsOpsRemoting_statDirect

FhgfsOpsRemoting_statAndGetParentInfo

MessagingTk_requestResponseNodeRetryAutoIntr和

__MessagingTk_requestResponseNodeRetry

beegfs-client与beegfs-meta通信-获取属性日志

beegfs-client与beegfs-storage通信-读取文件

FhgfsOps_read

FhgfsOpsHelper_readCached

FhgfsOpsRemoting_readfile

FhgfsOpsRemoting_readfileVec

FhgfsOpsCommKit_readfileV2bCommunicate

FhgfsOpsCommkit_communicate

CommKitState enum

__commkit_prepare_generic

__commkit_sendheader_generic

__commkit_senddata_generic

__commkit_recvheader_generic

__commkit_recvdata_generic

CommKitContextOps readfileOps

__commkit_cleanup_generic

client与storage通信日志记录

读取15M文件，client部分日志记录

beegfs-client FhgfsOps_flush

         FhgfsOps_flush

__FhgfsOps_flush

FhgfsOpsHelper_flushCache

__FhgfsOpsHelper_flushCacheUnlocked

刷新日志信息

 beegfs-client FhgfsOps_release

FhgfsOps_release

FhgfsInode_releaseHandle

FhgfsOpsHelper_closefileWithAsyncRetry

FhgfsOpsRemoting_closefileEx

MessagingTk_requestResponseNodeRetryAutoIntr

释放日志信息

beegfs-storage读取文件流程

storage读取文件主要流程整理 

读取文件结束日志

beegfs消息类型

NetMessageFactory

ReadLocalFileV2MsgEx

 ReadLocalFileV2MsgEx::  openFile

SessionLocalFile::openFile 

ReadLocalFileV2MsgEx::incrementalReadStatefulAndSendV2

storage读取文件日志

     为了分析beegfs读取文件源码的完整流程，从cat文件入手，分析beegfs-client cat文件时，与meta和storage的完整交互过程，以此记录分析过程。

cat读取文件client与meta和storage交互过程 

了解本专栏 订阅专栏 解锁全文 超级会员免费看
莹火233
关注
专栏目录
订阅专栏
beegfs源码分析-读取文件
yinghuo233的博客
09-26 584
【代码】Beegfs源码分析-读取文件。
【开源存储】beegfs并行文件系统部署实践
Luxf0的博客
06-01 3399
BeeGFS是行业领先的并行集群文件系统，设计时优先考虑性能强大的同时，安装和管理非常方便，是I/O密集型工作负载的优质存储开源解决方案 本文主要介绍相关配置说明及实践过程
[解析]BeeGFS将是高性能计算领域的一匹黑马
Hardy
06-29 8312
简单总结: BeeGFS的轻量级架构设计和对现在高性能计算中对Burst Buffer技术需求的精确把握，加上对开源趋势和势态的开怀拥抱将力助BeeGFS在商业上获得成功。此外，BeeGFS也具备丰富的企业级软件特性(后续分享)和强大的生态伙伴，这种种迹象表明，BeeGFS无疑将会是下一个高性能计算领域的Lustre。
并行分布式文件系统BeeGFS的部署
越努力，越幸运
02-27 1643
本文主要介绍在Linux集群中部署BeeGFS，以及遇到的问题的解决方案。
BeeGFS客户端的文件缓存
梦幻之巅
10-29 1674
从内核角度看，Linux上有Buffered IO和Direct IO两种文件IO模式，Direct IO绕过内核缓存直接将数据写入后端设备，Buffered IO先将数据写到pagecache（内核中每个文件（inode）都包含一个address_space结构（内部通过一棵基数树来管理缓存页）来管理文件缓存），然后通过内核在合适的时候（内存不足、用户发起fsync、定期flush等）将数据回写到后端设备。
BeeGFS介绍高可用框架读写流程文件分布系统管理说明
02-27
BeeGFS是一款硬件独立的并行文件系统（也称为软件定义存储），专为性能关键型环境设计，以支持高性能计算（HPC）场景。其最初由位于德国的Fraunhofer高性能计算中心开发，该中心隶属于欧洲最大的应用研究组织...
beegfs元数据-工作流程整理20200417.docx
05-29
BeeGFS 元数据服务是 BeeGFS 系统中维护文件和目录关系及其属性配置的服务，采用多线程 epoll 模式设计实现非常高效。下面对 BeeGFS 元数据服务的架构和工作流程进行详细解析。 元数据服务架构 BeeGFS 元数据服务...
beegfs日志源码分析和日志使用
yinghuo233的博客
11-11 491
client各服务日志使用方式分析和总结
GDS-enabled BeeGFS 人工智能并行存储解决方案
大隐隐于野
11-02 600
如下图所示, 通过在VFS层嵌入内核模块 nvidia-fs.ko 和 nvidia.ko 来管理GPU 内存地址和CPU RAM及GPU RAM的IO操作，这扩展到了PCI总线允许数据在GPU和网卡之间搬运，元数据仍然存储在CPU RAM，而数据块则允许直接读取到GPU RAM。在这样的新时代，企业需要全新的存储解决方案，才能以高效且经济的方式从容应对来势汹汹的数据洪流。Paraview是一个开源的，跨平台的数据处理和可视化程序，使用分布式的内存计算资源，能够实现对非常大的数据集的分析与处理。
Beegfs事件监听和监控服务
yinghuo233的博客
11-07 818
beegfs事件监听和监控服务
BeeGFS元数据管理设计思想剖析
梦幻之巅
05-02 2438
这里写自定义目录标题Beegfs元数据管理新的改变功能快捷键合理的创建标题，有助于目录的生成如何改变文本的样式插入链接与图片如何插入一段漂亮的代码片生成一个适合你的列表创建一个表格设定内容居中、居左、居右SmartyPants创建一个自定义列表如何创建一个注脚注释也是必不可少的KaTeX数学公式新的甘特图功能，丰富你的文章UML 图表FLowchart流程图导出与导入导出导入 Beegfs元数据管理 换工作以后，近两年，对块存储和对象存储的关注有所减少，专注在分布式文件系统的研发上，为满足公司业务对文件存储
BeeGFS读文件分析
chqhong的博客
12-09 499
根据函数的输入可以看到，确实是将收到的文件路径进行查询，在元数据服务器一步步获取到相应的FileId。按照同样的方法也找到寻找inode相关的源码，但是由于meta端源码编译没跑通，没有进一步的验证，很多东西都是靠猜测，也是一知半解。首先我根据file1元数据存储的目录反向分析**/beegfs_meta/meta1/dentries/38/51/root/#fSiDs#/3-6392928E-2**，分析root为何存储在38/51目录下。为2，也对应上面的猜测，是元数据存储节点master对应的ID。
GFS分布式文件系统
m0_73792056的博客
01-08 1003
GlusterFS 是一个开源的分布式文件系统。
基于CentOS7安装配置BeeGFS并行文件系统（已试验部署成功）
qq_35332549的博客
02-22 4756
前言： 之前由于测试需要用到BeeGFS（简称：BGFS），自己按照官网指南学习搭建过一套BGFS的文件系统。现在将自己搭建配置的步骤整理分享出来，从以下几个方向介绍：
BeeGFS开发环境搭建2-安装部署
chiminlai5815的博客
06-13 1905
在上一篇介绍完环境的基本配置后，现在正式开始部署，并解决安装中可能存在的两个问题。 安装软件包 我的测试环境使用CentOS 7， 安装BeeGFS的V6版本。 使用下载好的RPM包进行安装： $ rpm -ivh beegfs_rpm/*.rpm $ rpm -qa | grep be...
BeeGFS开发环境搭建1-环境配置
chiminlai5815的博客
06-13 1248
BeeGFS常用于高性能计算中的分布式文件存储，其对巨量小文件的支持相比于其他大多数文件系统而言，要好太多，这里介绍搭建的详细过程。一共使用3台服务器，一个磁盘分成两个区（分别用于元数据和数据存储），两个网卡（一个管理网，一个存储网）。 网络配置 网络分配 管理网络用于SSH登录等功能，都是千...
beegfs写文件
最新发布
yinghuo233的博客
04-29 198
【代码】beegfs写文件。
beegfs容器开发、编译和调试
yinghuo233的博客
09-26 515
安装好后的Cmake位于/usr/local/share/cmake-3.18.6/，可执行程序位于/usr/local/bin/cmake。重新编译后，/opt/beegfs/src/client/client_module_7/source下会生成最新的beegfs.ko文件。gdb将被安装到/usr/local/share/gdb目录，可执行程序位于/usr/local/bin/gdb。重启beegfs-meta服务后，可以看到对meta源码的修改日志打印，可以调试修改后的功能。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

莹火233

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值