块存储
典型设备:磁盘阵列、硬盘
块存储主要是将裸磁盘空间整个映射给主机使用的。
就是说例如:
磁盘阵列里面有 5 块硬盘,然后可以通过划逻辑盘、做 Raid、或者 LVM 等方式逻辑划分出 N 个逻辑的硬盘。但是逻辑盘和物理盘是两个完全不同的概念。假设每个硬盘 100G,共有 5 个硬盘,划分为逻辑盘也为 5 个,每个 100G,但是这 5 个逻辑盘和原来的 5 个物理盘意义完全不同了。例如第一个逻辑盘第一个 20G 可能来自物理盘 1,第二个 20G 来自物理盘 2,所以逻辑盘是多个物理盘逻辑虚构出来的硬盘。
接着块存储会采用映射的方式将这几个逻辑盘映射给主机,主机上面的操作系统会识别到有 5 块硬盘,但是操作系统是无法区分到底是物理盘还是逻辑盘,它一概就认为只是 5 块裸的物理硬盘而已,跟直接拿一块物理硬盘挂载到操作系统没区别,至少操作系统感知上没有区别的。
在此方式下,操作系统还需要对挂载的裸硬盘进行分区、格式化后,才能使用,与平常主机内置的硬盘无差异。
优点
- 这种方式的好处当然是因为通过了 Raid 与 LVM 等手段,对数据提供了保护;
- 可以将多块廉价的硬盘组合起来,称为一个大容量的逻辑盘对外提供服务,提高了容量;
- 写入数据时,由于是多块磁盘组合出来的逻辑盘,所以几块硬盘可以并行写入的,提升了读写效率;
- 很多时候块存储采用 SAN 架构组网,传输速度以及封装协议的原因,使得传输速度和读写效率得到提升
缺点
- 采用 SAN 架构组网时,需要额外为主机购买光纤通道卡,还要购买光纤交换机,造价成本高;
- 主机之间数据无法共享,在服务器不做集群的情况下,块存储裸盘映射给主机,在格式化使用后,对于主机来说相当于本地盘,那么主机 A 的本地盘根本不能给主机 B 去使用,无法共享数据
- 不利于不同操作系统主机间的数据共享:因为操作系统使用不同的文件系统,格式化后,不同的文件系统间的数据是共享不了的。 例如一台 win7,文件系统是 FAT32/NTFS,而 linux 是 EXT4,EXT4 是无法识别 NTFS 的文件系统的。
文件存储
为了克服文件无法共享的问题,所以有了文件存储。
文件存储也有软硬一体化的设备,但是其实一台普通的 PC 机,只要装上合适的操作系统和软件,就可以假设 FTP 与 NFS 服务了,架上该类服务之后的服务器,就是文件存储的一种了。
主机 A 可以直接对文件存储进行文件的上传和下载,与块存储不同,主机 A 是不需要再对文件存储进行格式化的,因为文件管理功能已经由文件存储自己搞定了。
优点
- 造价低:随便一台机器就可以,另外普通的以太网就可以,根本不需要专用的 SAN 网络,所以造价低
- 方便文件共享
缺点
- 读写速率低,传输速率慢:以太网,上传下载速度较慢,另外所有读写都要 1 台服务器里面的硬盘来承受,相比起磁盘阵列动不动就十几上百块硬盘同时读写,速率慢了许多。
对象存储
典型设备:内置大容量硬盘的分布式服务器
对象存储最常用的方案,就是多台服务器内置大容量硬盘,再装上对象存储软件,然后再额外搞几台服务作为管理节点,安装上对象存储管理软件。管理节点可以管理其他服务器对外提供读写访问功能。
之所以出现对象存储这种东西,是为了克服块存储与文件存储各自的缺点,发扬各自的优点。简单来说块存储读写快,不利于共享,文件存储读写慢,利于共享。能否弄一个读写块,利于共享的存储出来呢?于是就有了对象存储。
首先,一个文件包含了属性(术语:metadata,元数据,例如该文件的大小、修改时间、存储路径等)以及内容(数据)。
像 FAT32 这种文件系统,是直接将一份文件与 metadata 一起存储的,存储过程先将文件按照文件系统的最小块大小来打散(例如 4M 的文件,假设文件系统要求一个块 4K,那么就将文件打散称为 1000 个小块),再写进硬盘里,过程中没有区分数据和 metadata 的。而每个块最后会告知你下一个要读取的块地址,然后一直这样顺序的按图索骥,最后完成整份文件的所有块的读取。 这种情况下读写速率很慢,因为就算你有 100 个机械臂在读写,但是由于你只有读取到第一个块,才能知道下一个块在哪里,其实相当于只能有 1 个机械臂在实际工作。
而对象存储则将元数据独立出来了,控制节点叫元数据服务器(服务器+对象存储管理软件),里面主要负责存储对象的属性(主要是对象的数据被打散存放到了那几台分布式服务器中的信息)而其他负责存储数据的分布式服务器叫做 OSD,主要负责存储文件的数据部分。当用户访问对象,会先访问元数据服务器,元数据服务器只负责反馈对象存储在哪里 OSD,假设反馈文件 A 存储在 B、C、D 三台 OSD,那么用户就会再次直接访问 3 台 OSD 服务器去读取数据。
这时候由于是 3 台 OSD 同时对外传输数据,所以传输的速度就会加快了,当 OSD 服务器数量越多,这种读写速度的提升就越大,通过此种方式,实现了读写快的目的。
另一方面,对象存储软件是有专门的文件系统的,所以 OSD 对外又相当于文件服务器,那么就不存在共享方面的困难了,也解决了文件共享方面的问题
所以对象存储的出现,很好的结合了块存储和文件存储的优点
为什么对象存储兼具块存储和文件存储的好处,还要使用块存储和文件存储呢?
(1)有一类应用是需要存储直接裸盘映射的,例如数据库。因为数据需要存储楼盘映射给自己后,再根据自己的数据库文件系统来对裸盘进行格式化的,所以是不能够采用其他已经被格式化为某种文件系统的存储的。此类应用更合适使用块存储。
(2)对象存储的成本比起普通的文件存储还要较高,需要购买专门的对象存储软件以及大容量硬盘。如果对数据量要求不是海量,只是为了做文件共享的时候,直接用文件存储的形式好了,性价比高。
相关博客
文档信息
- 本文作者:Lewin
- 本文链接:https://lewinz.com/2021/05/28/block-file-object-storage/
- 版权声明:自由转载-非商用-非衍生-保持署名