You cannot select more than 25 topics Topics must start with a letter or number, can include dashes ('-') and can be up to 35 characters long.

21 KiB

08 | Redis server启动后会做哪些操作

你好我是蒋德钧。从这节课开始我们就来到了课程的第二个模块在这个模块里我会带你了解和学习与Redis实例运行相关方面的知识包括Redis server的启动过程、基于事件驱动框架的网络通信机制以及Redis线程执行模型。今天我们先来学习下Redis server的启动过程。

我们知道main函数是Redis整个运行程序的入口并且Redis实例在运行时也会从这个main函数开始执行。同时由于Redis是典型的Client-Server架构一旦Redis实例开始运行Redis server也就会启动而main函数其实也会负责Redis server的启动运行。

我在第1讲给你介绍过Redis源码的整体架构。其中Redis运行的基本控制逻辑是在server.c文件中完成的而main函数就是在server.c中。

你平常在设计或实现一个网络服务器程序时可能会遇到一个问题那就是服务器启动时应该做哪些操作、有没有一个典型的参考实现。所以今天这节课我就从main函数开始给你介绍下Redis server是如何在main函数中启动并完成初始化的。通过这节课内容的学习你可以掌握Redis针对以下三个问题的实现思路

  1. Redis server启动后具体会做哪些初始化操作
  2. Redis server初始化时有哪些关键配置项
  3. Redis server如何开始处理客户端请求

并且Redis server设计和实现的启动过程也具有一定的代表性你在学习后就可以把其中的关键操作推而广之用在自己的网络服务器实现中。

好了接下来我们先从main函数开始来了解下它在Redis server中的设计实现思路。

main函数Redis server的入口

一般来说一个使用C开发的系统软件启动运行的代码逻辑都是实现在了main函数当中所以在正式了解Redis中main函数的实现之前我想先给你分享一个小Tips就是你在阅读学习一个系统的代码时可以先找下main函数看看它的执行过程。

那么对于Redis的main函数来说我把它执行的工作分成了五个阶段。

阶段一:基本初始化

在这个阶段main函数主要是完成一些基本的初始化工作包括设置server运行的时区、设置哈希函数的随机种子等。这部分工作的主要调用函数如下所示

//设置时区
setlocale(LC_COLLATE,"");
tzset();
...
//设置随机种子
char hashseed[16];
getRandomHexChars(hashseed,sizeof(hashseed));
dictSetHashFunctionSeed((uint8_t*)hashseed);

这里你需要注意的是在main函数的开始部分有一段宏定义覆盖的代码。这部分代码的作用是如果定义了REDIS_TEST宏定义并且Redis server启动时的参数符合测试参数那么main函数就会执行相应的测试程序。

这段宏定义的代码如以下所示其中的示例代码就是调用ziplist的测试函数ziplistTest

#ifdef REDIS_TEST
//如果启动参数有test和ziplist那么就调用ziplistTest函数进行ziplist的测试
if (argc == 3 && !strcasecmp(argv[1], "test")) {
  if (!strcasecmp(argv[2], "ziplist")) {
     return ziplistTest(argc, argv);
  }
  ...
}
#endif

阶段二检查哨兵模式并检查是否要执行RDB检测或AOF检测

Redis server启动后可能是以哨兵模式运行的而哨兵模式运行的server在参数初始化、参数设置以及server启动过程中要执行的操作等方面与普通模式server有所差别。所以main函数在执行过程中需要根据Redis配置的参数检查是否设置了哨兵模式。

如果有设置哨兵模式的话main函数会调用initSentinelConfig函数对哨兵模式的参数进行初始化设置以及调用initSentinel函数初始化设置哨兵模式运行的server。有关哨兵模式运行的Redis server相关机制我会在第21讲中给你详细介绍。

下面的代码展示了main函数中对哨兵模式的检查以及对哨兵模式的初始化你可以看下

...
//判断server是否设置为哨兵模式
if (server.sentinel_mode) {
        initSentinelConfig();  //初始化哨兵的配置
        initSentinel();   //初始化哨兵模式
}
...

除了检查哨兵模式以外main函数还会检查是否要执行RDB检测或AOF检查这对应了实际运行的程序是redis-check-rdb或redis-check-aof。在这种情况下main函数会调用redis_check_rdb_main函数或redis_check_aof_main函数检测RDB文件或AOF文件。你可以看看下面的代码其中就展示了main函数对这部分内容的检查和调用

...
//如果运行的是redis-check-rdb程序调用redis_check_rdb_main函数检测RDB文件
if (strstr(argv[0],"redis-check-rdb") != NULL)
   redis_check_rdb_main(argc,argv,NULL);
//如果运行的是redis-check-aof程序调用redis_check_aof_main函数检测AOF文件
else if (strstr(argv[0],"redis-check-aof") != NULL)
   redis_check_aof_main(argc,argv);
...

阶段三:运行参数解析

在这一阶段main函数会对命令行传入的参数进行解析并且调用loadServerConfig函数对命令行参数和配置文件中的参数进行合并处理然后为Redis各功能模块的关键参数设置合适的取值以便server能高效地运行。

阶段四初始化server

在完成对运行参数的解析和设置后main函数会调用initServer函数对server运行时的各种资源进行初始化工作。这主要包括了server资源管理所需的数据结构初始化、键值对数据库初始化、server网络框架初始化等。

而在调用完initServer后main函数还会再次判断当前server是否为哨兵模式。如果是哨兵模式main函数会调用sentinelIsRunning函数设置启动哨兵模式。否则的话main函数会调用loadDataFromDisk函数从磁盘上加载AOF或者是RDB文件以便恢复之前的数据。

阶段五:执行事件驱动框架

为了能高效处理高并发的客户端连接请求Redis采用了事件驱动框架来并发处理不同客户端的连接和读写请求。所以main函数执行到最后时会调用aeMain函数进入事件驱动框架开始循环处理各种触发的事件。

我把刚才介绍的五个阶段涉及到的关键操作,画在了下面的图中,你可以再回顾下。

那么在这五个阶段当中阶段三、四和五其实就包括了Redis server启动过程中的关键操作。所以接下来我们就来依次学习下这三个阶段中的主要工作。

Redis运行参数解析与设置

我们知道Redis提供了丰富的功能既支持多种键值对数据类型的读写访问还支持数据持久化保存、主从复制、切片集群等。而这些功能的高效运行其实都离不开相关功能模块的关键参数配置。

举例来说Redis为了节省内存设计了内存紧凑型的数据结构来保存Hash、Sorted Set等键值对类型。但是在使用了内存紧凑型的数据结构之后如果往数据结构存入的元素个数过多或元素过大的话键值对的访问性能反而会受到影响。因此为了平衡内存使用量和系统访问性能我们就可以通过参数来设置和调节内存紧凑型数据结构的使用条件。

也就是说,掌握这些关键参数的设置可以帮助我们提升Redis实例的运行效率。

不过Redis的参数有很多我们无法在一节课中掌握所有的参数设置。所以下面我们可以先来学习下Redis的主要参数类型这样就能对各种参数形成一个全面的了解。同时我也会给你介绍一些和server运行关系密切的参数及其设置方法以便你可以配置好这些参数让server高效运行起来。

Redis的主要参数类型

首先Redis运行所需的各种参数都统一定义在了server.h文件的redisServer结构体中。根据参数作用的范围我把各种参数划分为了七大类型包括通用参数、数据结构参数、网络参数、持久化参数、主从复制参数、切片集群参数、性能优化参数。具体你可以参考下面表格中的内容。

这样如果你能按照上面的划分方法给Redis参数进行归类那么你就可以发现这些参数实际和Redis的主要功能机制是相对应的。所以如果你要深入掌握这些参数的典型配置值你就需要对相应功能机制的工作原理有所了解。我在接下来的课程中也会在介绍Redis功能模块设计的同时带你了解下其相应的典型参数配置。

现在我们就了解了Redis的七大参数类型以及它们基本的作用范围那么下面我们就接着来学习下Redis是如何针对这些参数进行设置的。

Redis参数的设置方法

Redis对运行参数的设置实际上会经过三轮赋值分别是默认配置值、命令行启动参数以及配置文件配置值。

首先Redis在main函数中会先调用initServerConfig函数为各种参数设置默认值。参数的默认值统一定义在server.h文件中都是以CONFIG_DEFAULT开头的宏定义变量。下面的代码显示的是部分参数的默认值你可以看下。

#define CONFIG_DEFAULT_HZ        10   //server后台任务的默认运行频率         
#define CONFIG_MIN_HZ            1    // server后台任务的最小运行频率
#define CONFIG_MAX_HZ            500 // server后台任务的最大运行频率
#define CONFIG_DEFAULT_SERVER_PORT  6379  //server监听的默认TCP端口
#define CONFIG_DEFAULT_CLIENT_TIMEOUT  0  //客户端超时时间默认为0表示没有超时限制

在server.h中提供的默认参数值一般都是典型的配置值。因此如果你在部署使用Redis实例的过程中对Redis的工作原理不是很了解就可以使用代码中提供的默认配置。

当然如果你对Redis各功能模块的工作机制比较熟悉的话也可以自行设置运行参数。你可以在启动Redis程序时在命令行上设置运行参数的值。比如如果你想将Redis server监听端口从默认的6379修改为7379就可以在命令行上设置port参数为7379如下所示

./redis-server --port 7379

这里你需要注意的是Redis的命令行参数设置需要使用**两个减号“–”**来表示相应的参数名否则的话Redis就无法识别所设置的运行参数。

Redis在使用initServerConfig函数对参数设置默认配置值后接下来main函数就会对Redis程序启动时的命令行参数进行逐一解析

main函数会把解析后的参数及参数值保存成字符串接着main函数会调用loadServerConfig函数进行第二和第三轮的赋值。以下代码显示了main函数对命令行参数的解析以及调用loadServerConfig函数的过程你可以看下。

int main(int argc, char **argv) {
…
//保存命令行参数
for (j = 0; j < argc; j++) server.exec_argv[j] = zstrdup(argv[j]);
…
if (argc >= 2) {
   …
   //对每个运行时参数进行解析
   while(j != argc) {
      …
   }
   …
   //
   loadServerConfig(configfile,options);
}

这里你要知道的是loadServerConfig函数是在config.c文件中实现的该函数是以Redis配置文件和命令行参数的解析字符串为参数将配置文件中的所有配置项读取出来形成字符串。紧接着loadServerConfig函数会把解析后的命令行参数追加到配置文件形成的配置项字符串。

这样一来,配置项字符串就同时包含了配置文件中设置的参数,以及命令行设置的参数。

最后loadServerConfig函数会进一步调用loadServerConfigFromString函数对配置项字符串中的每一个配置项进行匹配。一旦匹配成功loadServerConfigFromString函数就会按照配置项的值设置server的参数。

以下代码显示了loadServerConfigFromString函数的部分内容。这部分代码是使用了条件分支来依次比较配置项是否是“timeout”和“tcp-keepalive”如果匹配上了就将server参数设置为配置项的值。

同时代码还会检查配置项的值是否合理比如是否小于0。如果参数值不合理程序在运行时就会报错。另外对于其他的配置项loadServerConfigFromString函数还会继续使用elseif分支进行判断。

loadServerConfigFromString(char *config) {
   …
   //参数名匹配检查参数是否为“timeout“
   if (!strcasecmp(argv[0],"timeout") && argc == 2) {
            //设置server的maxidletime参数
	server.maxidletime = atoi(argv[1]);
	//检查参数值是否小于0小于0则报错
            if (server.maxidletime < 0) {
                err = "Invalid timeout value"; goto loaderr;
            }
   }
  //参数名匹配检查参数是否为“tcp-keepalive“
  else if (!strcasecmp(argv[0],"tcp-keepalive") && argc == 2) {
            //设置server的tcpkeepalive参数
	server.tcpkeepalive = atoi(argv[1]);
	//检查参数值是否小于0小于0则报错
            if (server.tcpkeepalive < 0) {
                err = "Invalid tcp-keepalive value"; goto loaderr;
            }
   }
   …
}

好了到这里你应该就了解了Redis server运行参数配置的步骤我也画了一张图以便你更直观地理解这个过程。

在完成参数配置后main函数会开始调用initServer函数对server进行初始化。所以接下来我们继续来了解Redis server初始化时的关键操作。

initServer初始化Redis server

Redis server的初始化操作主要可以分成三个步骤。

  • 第一步Redis server运行时需要对多种资源进行管理。

比如说和server连接的客户端、从库等Redis用作缓存时的替换候选集以及server运行时的状态信息这些资源的管理信息都会在initServer函数中进行初始化。

我给你举个例子initServer函数会创建链表来分别维护客户端和从库并调用evictionPoolAlloc函数evict.c采样生成用于淘汰的候选key集合。同时initServer函数还会调用resetServerStats函数在server.c中重置server运行状态信息。

  • 第二步在完成资源管理信息的初始化后initServer函数会对Redis数据库进行初始化。

因为一个Redis实例可以同时运行多个数据库所以initServer函数会使用一个循环依次为每个数据库创建相应的数据结构。

这个代码逻辑是实现在initServer函数中它会为每个数据库执行初始化操作包括创建全局哈希表为过期key、被BLPOP阻塞的key、将被PUSH的key和被监听的key创建相应的信息表。

for (j = 0; j < server.dbnum; j++) {
        //创建全局哈希表
        server.db[j].dict = dictCreate(&dbDictType,NULL);
        //创建过期key的信息表
        server.db[j].expires = dictCreate(&keyptrDictType,NULL);
        //为被BLPOP阻塞的key创建信息表
        server.db[j].blocking_keys = dictCreate(&keylistDictType,NULL);
        //为将执行PUSH的阻塞key创建信息表
        server.db[j].ready_keys = dictCreate(&objectKeyPointerValueDictType,NULL);
        //为被MULTI/WATCH操作监听的key创建信息表
        server.db[j].watched_keys = dictCreate(&keylistDictType,NULL);
        …
    }

  • 第三步initServer函数会为运行的Redis server创建事件驱动框架并开始启动端口监听用于接收外部请求。

注意为了高效处理高并发的外部请求initServer在创建的事件框架中针对每个监听IP上可能发生的客户端连接都创建了监听事件用来监听客户端连接请求。同时initServer为监听事件设置了相应的处理函数acceptTcpHandler

这样一来只要有客户端连接到server监听的IP和端口事件驱动框架就会检测到有连接事件发生然后调用acceptTcpHandler函数来处理具体的连接。你可以参考以下代码中展示的处理逻辑

//创建事件循环框架
server.el = aeCreateEventLoop(server.maxclients+CONFIG_FDSET_INCR);
…
//开始监听设置的网络端口
if (server.port != 0 &&
        listenToPort(server.port,server.ipfd,&server.ipfd_count) == C_ERR)
        exit(1);
…
//为server后台任务创建定时事件
if (aeCreateTimeEvent(server.el, 1, serverCron, NULL, NULL) == AE_ERR) {
        serverPanic("Can't create event loop timers.");
        exit(1);
}
…
//为每一个监听的IP设置连接事件的处理函数acceptTcpHandler
for (j = 0; j < server.ipfd_count; j++) {
        if (aeCreateFileEvent(server.el, server.ipfd[j], AE_READABLE,
            acceptTcpHandler,NULL) == AE_ERR)
       { … }
}

那么到这里Redis server在完成运行参数设置和初始化后就可以开始处理客户端请求了。为了能持续地处理并发的客户端请求server在main函数的最后会进入事件驱动循环机制。而这就是接下来,我们要了解的事件驱动框架的执行过程。

执行事件驱动框架

事件驱动框架是Redis server运行的核心。该框架一旦启动后就会一直循环执行每次循环会处理一批触发的网络读写事件。关于事件驱动框架本身的设计思想与实现方法我会在第9至11讲给你具体介绍。这节课我们主要是学习Redis入口的main函数中是如何转换到事件驱动框架进行执行的。

其实进入事件驱动框架开始执行并不复杂main函数直接调用事件框架的主体函数aeMain(在ae.c文件中)后,就进入事件处理循环了。

当然在进入事件驱动循环前main函数会分别调用aeSetBeforeSleepProc和aeSetAfterSleepProc两个函数来设置每次进入事件循环前server需要执行的操作以及每次事件循环结束后server需要执行的操作。下面代码显示了这部分的执行逻辑你可以看下。

int main(int argc, char **argv) {
    …
    aeSetBeforeSleepProc(server.el,beforeSleep);
    aeSetAfterSleepProc(server.el,afterSleep);
    aeMain(server.el);
	aeDeleteEventLoop(server.el);
	...
}

小结

今天这节课我们通过server.c文件中main函数的设计和实现思路了解了Redis server启动后的五个主要阶段。在这五个阶段中运行参数解析、server初始化和执行事件驱动框架则是Redis sever启动过程中的三个关键阶段。所以相应的我们需要重点关注以下三个要点。

第一main函数是使用initServerConfig给server运行参数设置默认值然后会解析命令行参数并通过loadServerConfig读取配置文件参数值将命令行参数追加至配置项字符串。最后Redis会调用loadServerConfigFromString函数来完成配置文件参数和命令行参数的设置。

第二在Redis server完成参数设置后initServer函数会被调用用来初始化server资源管理的主要结构同时会初始化数据库启动状态以及完成server监听IP和端口的设置。

第三一旦server可以接收外部客户端的请求后main函数会把程序的主体控制权交给事件驱动框架的入口函数也就aeMain函数。aeMain函数会一直循环执行处理收到的客户端请求。到此为止server.c中的main函数功能就已经全部完成了程序控制权也交给了事件驱动循环框架Redis也就可以正常处理客户端请求了。

实际上Redis server的启动过程从基本的初始化操作到命令行和配置文件的参数解析设置再到初始化server各种数据结构以及最后的执行事件驱动框架这是一个典型的网络服务器执行过程你在开发网络服务器时就可以作为参考。

而且掌握了启动过程中的初始化操作还可以帮你解答一些使用中的疑惑。比如Redis启动时是先读取RDB文件还是先读取AOF文件。如果你了解了Redis server的启动过程就可以从loadDataFromDisk函数中看到Redis server会先读取AOF而如果没有AOF则再读取RDB。

所以掌握Redis server启动过程有助于你更好地了解Redis运行细节这样当你遇到问题时就知道还可以从启动过程中去溯源server的各种初始状态从而助力你更好地解决问题。

每课一问

Redis源码的main函数在调用initServer函数之前会执行如下的代码片段你知道这个代码片段的作用是什么吗

int main(int argc, char **argv) {
...
server.supervised = redisIsSupervised(server.supervised_mode);
int background = server.daemonize && !server.supervised;
if (background) daemonize();
...
}

欢迎在留言区分享你的答案和见解,我们一起交流讨论。如果觉得有收获,也欢迎你把今天的内容分享给更多的朋友。