Linux块设备中的IO路径及调度策略 _Linux

当文件系统通过submit_bio提交IO之后，请求就进入了通用块层。通用块层会对IO进行一些预处理的动作，其目的是为了保证请求能够更加合理的发送到底层的磁盘设备，尽量保证性能最佳。这里面比较重要的就是IO调度模块。大家可能都听说过CFQ，除此之前还有DeadLine和Noop等，这些都是磁盘的调度算法。其中CFQ调度算法用的最多。
如果忽略块设备的层叠结构和各种映射，简化的结构大概有3层，如图1所示。这里的3层并非都是软件，还包含硬件。通用块层就不用多说了，这里主要完成IO的合并和调度等操作。其下是驱动层，驱动层是硬件的驱动程序，用于将IO请求转换为对硬件寄存器的操作（注：不同的块设备又有差异，必然iSCSI设备是不会有寄存器操作的）。物理设备不同该驱动层的程序就不同，比如对于SAS直连的磁盘，该驱动层的程序就是SAS驱动，而如果是FC-HBA卡连接的FC-SAN，那么这个驱动层就是FC驱动（比如Qlogic的驱动）。

文章插图
图1 块设备分层
最下面一层是设备层，设备层通常是一个硬件设备。这里的硬件种类繁多，比如SAS卡、SATA卡、FC-HBA卡或者iSCSI-HBA卡等等。但有的时候又可能并不是硬件设备，比如对于iSCSI来说，该层可能是通过软件模拟的一个设备层，而其请求则是通过网卡发送到目标器端。
主要数据结构及流程绝大多数程序都是由数据结构和算法2部分内容组成的，数据结构相当于程序的骨架，而算法则是程序的筋和肉。通过算法将数据结构关联起来，从而形成一个完整的整体。人类认识问题的规律是从具体到抽象，从简单到复杂，因此我们先从数据结构开始。理解了数据关键的数据结构，那我们就能更加容易的理解块设备IO的整个逻辑。
在块设备IO中最为关键的数据结构是request_queue，也就是请求队列。该数据结构的简图如图2所示，这个数据结构本身非常复杂，我们这里进行了简化，只保留了部分关键的成员。如图彩色部分是2个函数指针，分别用于接收请求和处理请求。

文章插图
图2 请求队列数据结构
为了便于理解，我们这里举一个例子。以NBD块设备为例，在块设备初始化的时候make_request_fn被初始化为blk_queue_bio，request_fn被初始化为do_nbd_request 。对于SCSI块设备而言，request_fn会被初始化为scsi_request_fn 。
有了上面数据结构的知识及关键成员初始化的结果，接下来我们就可以分析一下块设备的整个流程的细节。块设备请求的入口是submit_bio，经过简单的检查后调用

文章插图

由上述代码可以看出IO处理的入口函数其实是函数指针make_request_fn，而我们知道该指针实际上是函数blk_queue_bio 。因此块设备的请求会由blk_queue_bio函数进行处理。
磁盘调度策略linux内核在设计磁盘的调度策略时提供了极大的灵活性。磁盘的调度策略以插件的注册到内核当中，也就是用户可以自由的选择磁盘的调度策略。
调度算法的思想其实非常简单，主要是通过对IO的排序、合并和批量处理来优化磁盘寻道和请求的处理时间。这里值得说明的目前的调度算法其实更多的是针对机械磁盘，因为机械磁盘磁头定位耗时占整个IO处理时间的很大比例。当然对于SSD磁盘，调度算法也有一定的帮助，这就需要针对IO的特性具体来看了。

文章插图
图3 调度策略结构体
磁盘调度策略的结构体定义如图3所示，各个变量的含义也是比较明确，本文不再赘述。本文主要看一下其中elevator_ops类型的变量ops，这个变量是调度策略具体的功能实现，任何调度算法都要实现其中某些函数。
调度策略的实现就是通过这些回调函数完成的。为了理解调度策略的函数集具体做哪些事情，本文整理了一个表格，我们先从整体上看一下每个函数具体做了哪些事情。对于调度策略来说，这里的函数并非每个都要实现，下表中只有带*的才是必须要实现的函数。

文章插图

简而言之，上述回调函数的功能就是判断请求是否可以被合并、执行合并和请求下发等等操作。上述回调函数比较多，而且使用场景也比较复杂，具体使用分散在调度器的很多流程中。因此，我们很难一下子介绍清楚所有的场景。为了更加直观的理解上述回调函数的作用，我们以Deadline调度策略为例进行简单的介绍。