GlusterFS 分布式文件系统

目录

1、GlusterFS 简介

2、Gluster 的特点

（1）扩展性和高性能

（2）高可用性

（3）全局统一命名空间

（4）弹性卷管理

（5）基于标准协议

3、GlusterFS术语

4、模块化堆栈式架构

二、Gluster 的工作原理

1、Gluster 的工作原理

2、弹性HASH算法

三、GlusterFS 的卷类型

1、分布式卷（Distribute volume）

2、复制卷（Replica volume）

3、分布式复制卷（Distribute Replica volume）

4、分散卷（Dispersed Volume）

5、分布式分散卷

---

1、GlusterFS 简介

GlusterFS 是一个开源的分布式文件系统，同时也是 Scale-Out 存储解决方案 Gluster 的核心，在存储数据方面具有强大的横向扩展能力，通过扩展不同的节点可以支持数 PB 级 别的存储容量。GlusterFS 借助 TCP/IP 或 InfiniBand RDMA 网络将分散的存储资源汇聚在一起，统一提供存储服务，并使用单一全局命名空间来管理数据。GlusterFS 基于可堆叠的用户空间以及无元的设计，可为各种不同的数据负载提供优异的性能。

GlusterFS 主要由存储服务器（Brick Server）、客户端及 NFS/Samba 存储网关（可选， 根据需要选择使用）组成。

GlusterFS 架构中最大的设计特点是没有元数据服务器组件，这有助于提升整个系统的性能、可靠性和稳定性。传统的分布式文件系统大多通过元服务器来存储元数据，元数据包含存储节点上的目录信息、目录结构等。这样的设计在浏览目录时效率非常高，但是也存在一些缺陷，例如单点故障。一旦元数据服务器出现故障，即使节点具备再高的冗余性，整个存储系统也将崩溃。而GlusterFS 分布式文件系统是基于无元服务器的设计，数据横向扩展 能力强，具备较高的可靠性及存储效率。GlusterFS 支持 TCP/IP 和 InfiniBandRDMA 高速网络互联，客户端可通过原生GlusterFS 协议访问数据，其他没有运行 GlusterFS 客户端的终端可利用 NFS/CIFS 标准协议通过存储网关访问数据。

2、Gluster 的特点

（1）扩展性和高性能

GlusterFS 利用双重特性来提供高容量存储解决方案。

• Scale-Out 架构通过增加存储节点的方式来提高存储容量和性能（磁盘、计算和 I/O 资源都可以独立增加），支持 10GbE 和 InfiniBand 等高速网络互联。
• Gluster 弹性哈希（Elastic Hash）解决了 GlusterFS 对元数据服务器的依赖，GlusterFS 采用弹性哈希算法在存储池中定位数据，放弃了传统的通过元数据服 务器定位数据。GlusterFS 中可以智能地定位任意数据分片（将数据分片存储在不同节点上），不需要查看索引或者向元数据服务器查询。这种设计机制实现了存储的横向扩展， 改善了单点故障及性能瓶颈，真正实现了并行化数据访问。

（2）高可用性

GlusterFS 通过配置某些类型的存储卷，可以对文件进行自动复制（类似 于 RAID1），即使某个节点出现故障，也不影响数据的访问。当数据出现不一致时，自动修复功能能够把数据恢复到正确的状态，数据的修复是以增量的方式在后台执行，不会占用太多系统资源。GlusterFS 可以支持所有的存储，因为它没有设计自己的私有数据文件格式，而是采用操作系统中标准的磁盘文件系统（如 EXT3、XFS 等）来存储文件，数据可以使用传统访问磁盘的方式被访问。

（3）全局统一命名空间

全局统一命名空间将所有的存储资源聚集成一个单一的虚拟存储池，对用户和应用屏蔽了物理存储信息。存储资源（类似于 LVM）可以根据生产环境中的需要进行弹性扩展或收缩。在多节点场景中，全局统一命名空间还可以基于不同节点做负载均衡，大大提高了存取效率。

（4）弹性卷管理

GlusterFS 通过将数据储存在逻辑卷中，逻辑卷从逻辑存储池进行独立逻辑划分。逻辑存储池可以在线进行增加和移除，不会导致业务中断。逻辑卷可以根据需求在线增长和缩减，并可以在多个节点中实现负载均衡。文件系统配置也可以实时在线进行更改并应用，从而可以适应工作负载条件变化或在线性能调优。

3、GlusterFS术语

• Brick(存储块)：指可信主机池中由主机提供的用于物理存储的专用分区，是GlusterFS中的基本存储单元，同时也是可信存储池中服务器上对外提供的存储目录存储目录的格式由服务器和目录的绝对路径构成，表示方法为 SERVER:EXPORT如 192.168.1.4:/ data/mydir/.
• Volume(逻辑卷)：一个逻辑卷是一组 Brick的集合。卷是数据存储的逻辑设备，类似于 LVM 中的逻辑卷。大部分 Gluster 管理操作是在卷上进行的。
• FUSE(Filesystem inUserspace)：是一个内核模块，允许用户创建自己的文件系统无须修改内核代码。
• VFS：内核空间对用户空间提供的访问磁盘的接口。
• Glusterd(后台管理进程)：在存储群集中的每个节点上都要运行。

4、模块化堆栈式架构

GlusterFS 采用模块化、堆栈式的架构，可以根据需求配置定制化的应用环境，如大文件存储、海量小文件存储、云存储、多传输协议应用等。通过对模块进行各种组合，即可实现复杂的功能。例如 Replicate 模块可实现 RAID1，Stripe 模块可实现 RAID0，通过两者的组合可实现 RAID10 和 RAID01，同时获得更高的性能及可靠性。

GlusterFS 是模块化堆栈式的架构设计，模块称为 Translator，是 GlusterFS 提供的一种强大机制，借助这种良好定义的接口可以高效简便地扩展文件系统的功能。

• 服务端与客户端的设计高度模块化的同时模块接口是兼容的，同一个 translator 可同时在客户端和服务器加载。
• GlusterFS 中所有的功能都是通过 translator 实现的，其中客户端要比服务端更复杂，所以功能的重点主要集中在客户端上。

二、Gluster 的工作原理

1、Gluster 的工作原理

GlusterFS 数据访问的一个概要图。

GlusterFS 的工作流程如下：

1. 客户端或应用程序通过 GlusterFS 的挂载点访问数据。
2. Linux 系统内核通过 VFS API 收到请求并处理。
3. VFS 将数据递交给 FUSE 内核文件系统，并向系统注册一个实际的文件系统 FUSE，而 FUSE 文件系统则是将数据通过/dev/fuse 设备文件递交给了 GlusterFS client 端。可以 将 FUSE 文件系统理解为一个代理。
4. GlusterFS client 收到数据后，client 根据配置文件对数据进行处理。
5. 经过 GlusterFS client 处理后，通过网络将数据传递至远端的 GlusterFS Server，并且将数据写入服务器存储设备。

2、弹性HASH算法

弹性 HASH 算法是 Davies-Meyer 算法的具体实现，通过 HASH 算法可以得到一个 32 位的整数范围的 hash 值，假设逻辑卷中有 N 个存储单位 Brick，则 32 位的整数范围将被划分为 N 个连续的子空间，每个空间对应一个 Brick。当用户或应用程序访问某一个命名空间时，通过对该命名空间计算 HASH 值，根据该 HASH 值所对应的 32 位整数空间定位数据所在的 Brick。弹性 HASH 算法的优点表现如下。

• 保证数据平均分布在每个 Brick 中。
• 解决了对元数据服务器的依赖，进而解决了单点故障及访问瓶颈。

现在假设创建了一个包含四个 Brick 节点的 GlusterFS 卷，在服务端的 Brick 挂载目录会给四个 Brick 平均分配 2^32的区间的范围空间，GlusterFS hash 分布区间是保存在目录上而不是根据机器去分布区间。Brick* 表示一个目录。分布区间保存在每个 Brick 挂载点目录的扩展属性上。

HASH 分布图： 

在卷中创建四个文件，分别是 test-file1、test-file2、test-file3、test-file4。在访问文件时，通过快速Hash函数计算出对应的HASH值(2 32范围的数值)，然后根据计算出来的HASH 值所对应的子空间散列到服务器的 Brick 上。

通过HASH 定位文件： 

三、GlusterFS 的卷类型

GlusterFS 支持五种卷，即分布式卷、复制卷、分布式复制卷、分散卷、分布式分散卷，这五种卷可以满足不同应用对高性能、高可用的需求。 

​​​​​​​1、分布式卷（Distribute volume）

文件通过 HASH 算法分布到所有 Brick Server 上，这种卷是 Glusterf 的基础；以文件为单位根据 HASH 算法散列到不同的 Brick，其实只是扩大了磁盘空间，如果有一块磁盘损坏，数据也将丢失，属于文件级的 RAID 0，不具有容错能力。

特点：

• 文件分布在不同的服务器,不具备冗余性。
• 更容易且廉价地扩展卷的大小。
• 存在单点故障会造成数据丢失。
• 依赖底层的数据保护。

创建分布式卷的命令：

gluster volume create dis-volume server1:/dir1 server2:/dir2 server3:/dir3gluster volume start dis-volume    #启动分布式卷
gluster volume info dis-volume    #查看分布式卷

上述命令创建了一个名为 dis-volume 的分布式卷，文件将根据 HASH 分布在 server1:/dir1、server2:/dir2 和 server3:/dir3 中。

2、复制卷（Replica volume）

将文件同步到多个 Brick 上，使其具备多个文件副本， 属于文件级 RAID 1，具有容错能力。因为数据分散在多个 Brick 中，所以读性能得到很大提升，但写性能下降。

特点：

• 卷中所有的服务器均保存一个完整的副本。
• 卷的副本数量可由客户创建的时候决定。
• 至少有两个块服务器或更多服务器。
• 具备冗余性。

创建复制卷的命令：

gluster volume create rep-volume replica 2 transport tcp server1:/dir1 server2:/dir2gluster volume start rep-volume
gluster volume info rep-volume

上述命令创建了一个名为 rep-volume 的复制卷，文件将同时存储两个副本，分别在 Server1:/dir1 和 Server2:/dir2 两个 Brick 中。

3、分布式复制卷（Distribute Replica volume）

Brick Server 数量是镜像数（数据副本数量）的倍数，兼具分布式卷和复制卷的特点。

gluster volume create dis-rep replica 2 transport tcp server1:/dir1 server2:/dir2 server3:/dir3 server4:/dir4gluster volume start dis-rep
gluster volume info dis-rep

上述命令创建了一个名为 dis-rep 的分布式复制卷，配置分布式复制卷时，卷中 Brick 所包含的存储服务器数必须是条带数的倍数(≥2 倍)。在上述命令中，Brick 的数量是 4 （Server1:/dir1、Server2:/dir2、Server3:/dir3 和 Server4:/dir4），复制数为 2（replica 2）。

假如存在 8 台存储服务器，当复制副本为 2 时，按照服务器列表的顺序，服务器 1 和 2 作为一个复制, 服务器 3 和 4 作为一个复制, 服务器 5 和 6 作为一个复制, 服务器 7 和 8 作为一个复制；当复制副本为 4 时，按照服务器列表的顺序，服务器 1/2/3/4 作为一个复制, 服务器 5/6/7/8 作为一个复制。

4、分散卷（Dispersed Volume）

GlusterFS 基于纠删码（Erasure Codes）技术实现的一种高空间效率的卷类型，通过数据分块和校验块组合提供冗余能力，在保证可靠性的同时显著减少存储开销。

特点：

• 纠删码技术：分散卷通过纠删码算法将数据分割为数据块和校验块，允许在部分存储节点故障时恢复数据。例如，配置为 redundancy=1 的分散卷，可在损失 1 个节点数据时仍保持可用
• 存储效率优化：相比复制卷（如 replica 3 需占用 3 倍存储空间），分散卷通过纠删码减少冗余开销。例如，disperse 4 redundancy 1 的卷仅需额外 25% 存储空间（4 数据块 + 1 校验块）。
• 灵活的冗余配置：用户可根据需求调整冗余级别（redundancy 参数），但需满足 bricks总数 > 2 × redundancy 的条件。例如，redundancy=2 时至少需要 5 个 brick。

gluster volume create disp-volume disperse 3 redundancy 1 server1:/dir1 server2:/dir2 server3:/dir3gluster volume start disp-volume
gluster volume info disp-volume

5、分布式分散卷

gluster volume create dist-disp disperse 3 redundancy 1 server1:/dir1 server2:/dir2 server3:/dir3 server4:/dir4 server5:/dir5 server6:/dir6gluster volume start dist-disp
gluster volume info dist-disp