You cannot select more than 25 topics Topics must start with a letter or number, can include dashes ('-') and can be up to 35 characters long.

18 KiB

14 | Linux初始化GRUB与vmlinuz的结构

你好我是LMOS。

在前面的课程中我们建好了二级引导器启动了我们的Cosmos并进行了我们Cosmos的Hal层初始化。

我会用两节课带你领会Linux怎样做初始化。虽然我们自己具体实现过了初始化不过我们也不妨看看Linux的初始化流程借鉴一下Linux开发者的玩法。

这节课我会先为你梳理启动的整体流程重点为你解读Linux上GRUB是怎样启动以及内核里的“实权人物”——vmlinuz内核文件是如何产生和运转的。下节课我们从setup.bin文件的_start函数入手研究Linux初始化流程。

好,接下来我们从全局流程讲起,正式进入今天的学习。

全局流程

x86平台的启动流程是非常复杂的。为了帮助你理解我们先从全局粗略地看一看整体流程然后一步步细化。

在机器加电后BIOS会进行自检然后由BIOS加载引导设备中引导扇区。在安装有Linux操作系统的情况下在引导扇区里通常是安装的GRUB的一小段程序安装windows的情况则不同。最后GRUB会加载Linux的内核映像vmlinuz如下图所示。

上图中的引导设备通常是机器中的硬盘但也可以是U盘或者光盘甚至是软盘。BIOS会自动读取保存在CMOS中的引导设备信息。

从BIOS到GRUB

从前面的课程我们已经知道CPU被设计成只能运行内存中的程序没有办法直接运行储存在硬盘或者U盘中的操作系统程序。

如果想要运行硬盘或者U盘中的程序就必须要先加载到内存RAM中才能运行。这是因为硬盘、U盘外部储存器并不和CPU直接相连它们的访问机制和寻址方式与内存截然不同。

内存在断电后就没法保存数据了那BIOS又是如何启动的呢硬件工程师设计CPU时硬性地规定在加电的瞬间强制将CS寄存器的值设置为0XF000IP寄存器的值设置为0XFFF0。

这样一来CS:IP就指向了0XFFFF0这个物理地址。在这个物理地址上连接了主板上的一块小的ROM芯片。这种芯片的访问机制和寻址方式和内存一样只是它在断电时不会丢失数据在常规下也不能往这里写入数据它是一种只读内存BIOS程序就被固化在该ROM芯片里。

现在CS:IP指向了0XFFFF0这个位置正是BIOS程序的入口地址。这意味着BIOS正式开始启动。

BIOS一开始会初始化CPU接着检查并初始化内存然后将自己的一部分复制到内存最后跳转到内存中运行。BIOS的下一步就是枚举本地设备进行初始化并进行相关的检查检查硬件是否损坏这期间BIOS会调用其它设备上的固件程序如显卡、网卡等设备上的固件程序。

当设备初始化和检查步骤完成之后,BIOS会在内存中建立中断表和中断服务程序这是启动Linux至关重要的工作因为Linux会用到它们。

具体是怎么操作的呢BIOS会从内存地址0x00000开始用1KB的内存空间0x00000~0x003FF构建中断表在紧接着中断表的位置用256KB的内存空间构建BIOS数据区0x00400~0x004FF并在0x0e05b的地址加载了8KB大小的与中断表对应的中断服务程序。

中断表中有256个条目每个条目占用4个字节其中两个字节是CS寄存器的值两个字节是IP寄存器的值。每个条目都指向一个具体的中断服务程序。

为了启动外部储存器中的程序BIOS会搜索可引导的设备搜索的顺序是由CMOS中的设置信息决定的这也是我们平时讲的所谓的在BIOS中设置的启动设备顺序。一个是软驱一个是光驱一个是硬盘上还可以是网络上的设备甚至是一个usb 接口的U盘都可以作为一个启动设备。

当然Linux通常是从硬盘中启动的。硬盘上的第1个扇区每个扇区512字节空间被称为MBR主启动记录其中包含有基本的GRUB启动程序和分区表安装GRUB时会自动写入到这个扇区当MBR被BIOS装载到0x7c00地址开始的内存空间中后BIOS就会将控制权转交给了MBR。在当前的情况下其实是交给了GRUB。

到这里BIOS到GRUB的过程结束。

GRUB是如何启动的

根据前面内容可以发现BIOS只会加载硬盘上的第1个扇区。不过这个扇区仅有512字节这512字节中还有64字节的分区表加2字节的启动标志很显然剩下446字节的空间是装不下GRUB这种大型通用引导器的。

于是GRUB的加载分成了多个步骤同时GRUB也分成了多个文件其中有两个重要的文件boot.img和core.img,如下所示:

其中boot.img被GRUB的安装程序写入到硬盘的MBR中同时在boot.img文件中的一个位置写入core.img文件占用的第一个扇区的扇区号。

而core.img文件是由GRUB安装程序根据安装时环境信息用其它GRUB的模块文件动态生成。如下图所示

如果是从硬盘启动的话core.img中的第一个扇区的内容就是diskboot.img文件。diskboot.img文件的作用是读取core.img中剩余的部分到内存中。

由于这时diskboot.img文件还不识别文件系统所以我们将core.img文件的全部位置都用文件块列表的方式保存到diskboot.img文件中。这样就能确保diskboot.img文件找到core.img文件的剩余内容最后将控制权交给kernel.img文件。

因为这时core.img文件中嵌入了足够多的功能模块所以可以保证GRUB识别出硬盘分区上文件系统能够访问/boot/grub目录并且可以加载相关的配置文件和功能模块来实现相关的功能例如加载启动菜单、加载目标操作系统等。

正因为GRUB2大量使用了动态加载功能模块这使得core.img文件的体积变得足够小。而GRUB的core.img文件一旦开始工作就可以加载Linux系统的vmlinuz内核文件了。

详解vmlinuz文件结构

我们在/boot目录下会发现vmlinuz文件这个文件是怎么来的呢

其实它是由Linux编译生成的bzImage文件复制而来的你自己可以下载最新的Linux代码.

我们一致把Linux源码解压到一个linux目录中也就是说我们后面查找Linux源代码文件总是从linux目录开始的切换到代码目录执行make ARCH=x86_64再执行make install就会产生vmlinuz文件你可以参考后面的makefile代码。

#linux/arch/x86/boot/Makefile
install:    sh $(srctree)/$(src)/install.sh $(KERNELRELEASE) $(obj)/bzImage \        System.map "$(INSTALL_PATH)"

install.sh脚本文件只是完成复制的功能所以我们只要搞懂了bzImage文件结构就等同于理解了vmlinuz文件结构。

那么bzImage文件又是怎么来的呢我们只要研究bzImage文件在Makefile中的生成规则就会恍然大悟代码如下

#linux/arch/x86/boot/Makefile
$(obj)/bzImage: $(obj)/setup.bin $(obj)/vmlinux.bin $(obj)/tools/build FORCE    $(call if_changed,image)    @$(kecho) 'Kernel: $@ is ready' ' (#'`cat .version`')'

从前面的代码可以知道生成bzImage文件需要三个依赖文件setup.bin、vmlinux.binlinux/arch/x86/boot/tools目录下的build。让我们挨个来分析一下。

其实build只是一个HOSTOS正在使用的Linux下的应用程序它的作用就是将setup.bin、vmlinux.bin两个文件拼接成一个bzImage文件如下图所示

剩下的就是搞清楚setup.bin、vmlinux.bin这两个文件的的结构先来看看setup.bin文件setup.bin文件是由objcopy命令根据setup.elf生成的。

setup.elf文件又怎么生成的呢我们结合后面的代码来看看。

#这些目标文件正是由/arch/x86/boot/目录下对应的程序源代码文件编译产生
setup-y     += a20.o bioscall.o cmdline.o copy.o cpu.o cpuflags.o cpucheck.o
setup-y     += early_serial_console.o edd.o header.o main.o memory.o
setup-y     += pm.o pmjump.o printf.o regs.o string.o tty.o video.o
setup-y     += video-mode.o version.o

#……
SETUP_OBJS = $(addprefix $(obj)/,$(setup-y))
#……
LDFLAGS_setup.elf   := -m elf_i386 -T$(obj)/setup.elf: $(src)/setup.ld $(SETUP_OBJS) FORCE    $(call if_changed,ld)
#……
OBJCOPYFLAGS_setup.bin  := -O binary$(obj)/setup.bin: $(obj)/setup.elf FORCE    $(call if_changed,objcopy)

根据这段代码不难发现setup.bin文件正是由/arch/x86/boot/目录下一系列对应的程序源代码文件编译链接产生,其中的head.S文件main.c文件格外重要,别急,这个我之后会讲。

下面我们先看看vmlinux.bin是怎么产生的构建vmlinux.bin的规则依然在linux/arch/x86/boot/目录下的Makefile文件中如下所示

#linux/arch/x86/boot/Makefile
OBJCOPYFLAGS_vmlinux.bin := -O binary -R .note -R .comment -S$(obj)/vmlinux.bin: $(obj)/compressed/vmlinux FORCE    $(call if_changed,objcopy)

这段代码的意思是vmlinux.bin文件依赖于linux/arch/x86/boot/compressed/目录下的vmlinux目标下面让我们切换到linux/arch/x86/boot/compressed/目录下继续追踪。打开该目录下的Makefile会看到如下代码。

#linux/arch/x86/boot/compressed/Makefile
#……
#这些目标文件正是由/arch/x86/boot/compressed/目录下对应的程序源代码文件编译产生$(BITS)取值32或者64
vmlinux-objs-y := $(obj)/vmlinux.lds $(obj)/kernel_info.o $(obj)/head_$(BITS).o \    $(obj)/misc.o $(obj)/string.o $(obj)/cmdline.o $(obj)/error.o \    $(obj)/piggy.o $(obj)/cpuflags.o
vmlinux-objs-$(CONFIG_EARLY_PRINTK) += $(obj)/early_serial_console.o
vmlinux-objs-$(CONFIG_RANDOMIZE_BASE) += $(obj)/kaslr.o
ifdef CONFIG_X86_64    
vmlinux-objs-y += $(obj)/ident_map_64.o    
vmlinux-objs-y += $(obj)/idt_64.o $(obj)/idt_handlers_64.o    vmlinux-objs-y += $(obj)/mem_encrypt.o    
vmlinux-objs-y += $(obj)/pgtable_64.o    
vmlinux-objs-$(CONFIG_AMD_MEM_ENCRYPT) += $(obj)/sev-es.o
endif
#……
$(obj)/vmlinux: $(vmlinux-objs-y) $(efi-obj-y) FORCE  
$(call if_changed,ld)

结合这段代码我们发现linux/arch/x86/boot/compressed目录下的vmlinux是由该目录下的head_32.o或者head_64.o、cpuflags.o、error.o、kernel.o、misc.o、string.o 、cmdline.o 、early_serial_console.o等文件以及piggy.o链接而成的。

其中vmlinux.lds是链接脚本文件。在没做任何编译动作前前面依赖列表中任何一个目标文件的源文件除了piggy.o源码我们几乎都可以在Linux内核源码里找到。

比如说head_64.o对应源文件head_64.S、string.o对应源文件string.c、misc.o对应源文件misc.c等。

那么问题来了为啥找不到piggy.o对应的源文件比如piggy.c、piggy.S或其他文件呢你需要在Makefile文件仔细观察一下才能发现有个创建文件piggy.S的规则代码如下所示

#linux/arch/x86/boot/compressed/Makefile
#……
quiet_cmd_mkpiggy = MKPIGGY $@      
cmd_mkpiggy = $(obj)/mkpiggy $< > $@

targets += piggy.S
$(obj)/piggy.S: $(obj)/vmlinux.bin.$(suffix-y) $(obj)/mkpiggy FORCE    $(call if_changed,mkpiggy)

看到上面的规则我们豁然开朗原来piggy.o是由piggy.S汇编代码生成而来而piggy.S是编译Linux内核时由mkpiggy工作HOST OS下的应用程序动态创建的这就是我们找不到它的原因。

piggy.S的第一个依赖文件vmlinux.bin.$(suffix-y)中的suffix-y它表示内核压缩方式对应的后缀。

#linux/arch/x86/boot/compressed/Makefile
#……
vmlinux.bin.all-y := $(obj)/vmlinux.bin
vmlinux.bin.all-$(CONFIG_X86_NEED_RELOCS) += $(obj)/vmlinux.relocs
$(obj)/vmlinux.bin.gz: $(vmlinux.bin.all-y) FORCE    
$(call if_changed,gzip)
$(obj)/vmlinux.bin.bz2: $(vmlinux.bin.all-y) FORCE    
$(call if_changed,bzip2)
$(obj)/vmlinux.bin.lzma: $(vmlinux.bin.all-y) FORCE    
$(call if_changed,lzma)
$(obj)/vmlinux.bin.xz: $(vmlinux.bin.all-y) FORCE   
$(call if_changed,xzkern)
$(obj)/vmlinux.bin.lzo: $(vmlinux.bin.all-y) FORCE    
$(call if_changed,lzo)
$(obj)/vmlinux.bin.lz4: $(vmlinux.bin.all-y) FORCE    
$(call if_changed,lz4)
$(obj)/vmlinux.bin.zst: $(vmlinux.bin.all-y) FORCE    
$(call if_changed,zstd22)
suffix-$(CONFIG_KERNEL_GZIP)    := gz
suffix-$(CONFIG_KERNEL_BZIP2)   := bz2
suffix-$(CONFIG_KERNEL_LZMA)    := lzma
suffix-$(CONFIG_KERNEL_XZ)  := xz
suffix-$(CONFIG_KERNEL_LZO)     := lzo
suffix-$(CONFIG_KERNEL_LZ4)     := lz4
suffix-$(CONFIG_KERNEL_ZSTD)    := zst

由前面内容可以发现Linux内核可以被压缩成多种格式。虽然现在我们依然没有搞清楚vmlinux.bin文件是怎么来的但是我们可以发现linux/arch/x86/boot/compressed目录下的Makefile文件中有下面这样的代码。

#linux/arch/x86/boot/compressed/Makefile
#……
OBJCOPYFLAGS_vmlinux.bin :=  -R .comment -S
$(obj)/vmlinux.bin: vmlinux FORCE 
$(call if_changed,objcopy)

也就是说arch/x86/boot/compressed目录下的vmlinux.bin它是由objcopy工具通过vmlinux目标生成。而vmlinux目标没有任何修饰前缀和依赖的目标这说明它就是最顶层目录下的一个vmlinux文件

我们继续深究一步就会发现objcopy工具在处理过程中只是删除了vmlinux文件中“.comment”段以及符号表和重定位表通过参数-S指定而vmlinux文件的格式依然是ELF格式的如果不需要使用ELF格式的内核这里添加“-O binary”选项就可以了。

我们现在来梳理一下vmlinux文件是如何创建的。

其实vmlinux文件就是编译整个Linux内核源代码文件生成的Linux的代码分布在各个代码目录下这些目录之下又存在目录Linux的kbuild内核编译系统会递归进入到每个目录由该目录下的Makefile决定要编译哪些文件。

在编译完具体文件之后就会在该目录下把已经编译了的文件链接成一个该目录下的built-in.o文件这个built-in.o文件也会与上层目录的built-in.o文件链接在一起。

再然后层层目录返回到顶层目录所有的built-in.o文件会链接生成一个vmlinux文件这个vmlinux文件会通过前面的方法转换成vmlinux.bin文件。但是请注意vmlinux.bin文件它依然是ELF格式的文件。

最后工具软件会压缩成vmlinux.bin.gz文件这里我们以gzip方式压缩。

让我们再次回到mkpiggy命令其中mkpiggy是内核自带的一个工具程序它把输出方式重定向到文件从而产生piggy.S汇编文件源码如下

int main(int argc, char *argv[]){ 
    uint32_t olen;    
    long ilen;    
    FILE *f = NULL;    
    int retval = 1;
    f = fopen(argv[1], "r");    
    if (!f) {        
        perror(argv[1]);        
        goto bail;    
    }
    //……为节约篇幅略去部分代码
    printf(".section \".rodata..compressed\",\"a\",@progbits\n");
    printf(".globl z_input_len\n");    
    printf("z_input_len = %lu\n", ilen);    
    printf(".globl z_output_len\n");    
    printf("z_output_len = %lu\n", (unsigned long)olen);
    printf(".globl input_data, input_data_end\n");
    printf("input_data:\n");    
    printf(".incbin \"%s\"\n", argv[1]);    
    printf("input_data_end:\n");
    printf(".section \".rodata\",\"a\",@progbits\n");
    printf(".globl input_len\n");    
    printf("input_len:\n\t.long %lu\n", ilen);    
    printf(".globl output_len\n");    
    printf("output_len:\n\t.long %lu\n", (unsigned long)olen);
    retval = 0;
bail:    
    if (f)        
        fclose(f);    
    return retval;
}
//由上mkpiggy程序“写的”一个汇编程序piggy.S。
.section ".rodata..compressed","a",@progbits 
.globl z_input_len
 z_input_len = 1921557 
.globl z_output_len 
z_output_len = 3421472 
.globl input_data,input_data_end
.incbin "arch/x86/boot/compressed/vmlinux.bin.gz" 
input_data_end:
.section ".rodata","a",@progbits
.globl input_len
input_len:4421472
.globl output_len
output_len:4424772

根据上述代码不难发现这个piggy.S非常简单使用汇编指令incbin将压缩的vmlinux.bin.gz毫无修改地包含进来。

除了包含了压缩的vmlinux.bin.gz内核映像文件外piggy.S中还定义了解压vmlinux.bin.gz时需要的各种信息包括压缩内核映像的长度、解压后的长度等信息。

这些信息和vmlinux.bin.gz文件它们一起生成了piggy.o文件然后piggy.o文件和(vmlinux-objs-y)(efi-obj-y)中的目标文件一起链接生成最终生成了linux/arch/x86/boot/compressed目录下的vmlinux。

说到这里你是不是感觉这和Linux的启动流程无关呢有这种想法就大错特错了要想搞明白Linux的启动流程首先得搞懂它vmlinuz的文件结构。有了这些基础才能知其然同时知其所以然。

重点回顾

又到了课程尾声,这节课的学习我们就告一段落了,我来给你做个总结。

今天我们首先从全局梳理了一遍x86平台的启动流程掌握了BIOS加载GRUB的过程又一起学习了BIOS是如何启动的它又是如何加载引导设备的。

接着我们研究了GRUB的启动流程BIOS加载了GRUB的第一个部分这一部分加载了GRUB的其余部分。

最后我们详细了解了Linux内核的启动文件vmlinuz的结构搞清楚了它的生成过程。

思考题

请问为什么要用C代码mkpiggy程序生成piggy.S文件并包含vmlinux.bin.gz文件呢

欢迎你在留言区记录你的收获和疑问,也欢迎你把这节课分享给有需要的朋友,跟他一起学习进步。

我是LMOS我们下节课见