哈喽，各位好！今天咱们来聊点刺激的，聊聊怎么自己动手，在 Linux 内核里加个系统调用。这事儿听起来高大上，但只要你跟着我的节奏，保证你也能玩转内核，体会一把当“上帝”的感觉。
什么是系统调用？
先别急着动手，咱们得先搞清楚啥是系统调用。简单来说，系统调用就是用户程序和内核之间的桥梁。你写的程序想读个文件、发个网络包，都得通过系统调用告诉内核：“老大哥，帮帮忙！”。
你可以把内核想象成一个非常严格的管家，你不能直接闯进它的地盘（内核空间），只能通过特定的“呼叫”方式（系统调用）来请求服务。
为什么要自定义系统调用？
你可能会问：“现成的系统调用不够用吗？干嘛要自己造轮子？”问得好！
- 学习内核机制： 这是最好的学习内核工作原理的方式，能让你对操作系统的理解更上一层楼。
- 特定需求： 有时候，你可能需要一些内核才能提供的功能，但又不想修改现有系统调用的行为，这时候自定义系统调用就派上用场了。
- 实验和研究： 对于研究操作系统或者进行一些底层实验来说，自定义系统调用提供了极大的灵活性。
- 装逼： 咳咳，好吧，我承认，能自己改内核，确实挺酷的。
准备工作
在开始之前，你需要准备以下东西：
- Linux 环境： 最好是虚拟机，这样即使你把内核搞崩了，也不会影响你的主机。推荐 Ubuntu 或 CentOS。
- 内核源码： 你可以从 kernel.org 下载最新的内核源码，或者使用你当前系统的内核源码。
- 编译工具： gcc、make 等编译工具是必不可少的。
- root 权限： 修改内核需要 root 权限，所以确保你有 sudo 或者直接以 root 用户登录。
- 耐心： 改内核不是一件容易的事情，需要耐心和细心。
步骤一：定义系统调用号
Linux 内核使用一个唯一的数字来标识每个系统调用，这个数字就是系统调用号。我们需要为我们的自定义系统调用分配一个未被使用的系统调用号。
- 查看已使用的系统调用号： 在内核源码目录下，找到
arch/x86/entry/syscalls/syscall_64.tbl文件（如果是其他架构，目录可能会有所不同）。这个文件列出了所有已使用的系统调用号。 - 选择一个未使用的号码： 从
syscall_64.tbl中选择一个空闲的号码。通常，你可以选择靠近末尾的号码，因为这些号码通常是为自定义系统调用预留的。 例如，假设我们选择 445。 -
修改
syscall_64.tbl： 在syscall_64.tbl文件中添加一行，格式如下：445 64 my_syscall sys_my_syscall445： 我们选择的系统调用号。64： 表示这是一个 64 位的系统调用。my_syscall： 系统调用的名称（用于汇编代码）。sys_my_syscall： 系统调用处理函数的名称（C 函数）。
步骤二：编写系统调用处理函数
接下来，我们需要编写 C 函数来实现系统调用的具体功能。
- 创建源文件： 在内核源码目录下，创建一个新的源文件，例如
kernel/my_syscall.c。 -
编写函数： 在
my_syscall.c文件中，编写系统调用处理函数。 函数名必须与你在syscall_64.tbl中定义的sys_my_syscall一致。#include <linux/kernel.h> #include <linux/syscalls.h> #include <linux/string.h> SYSCALL_DEFINE2(my_syscall, const char __user *, str, int, len) { char kernel_str[256]; if (len < 0 || len > 255) return -EINVAL; if (copy_from_user(kernel_str, str, len)) return -EFAULT; kernel_str[len] = ''; // 确保字符串以 null 结尾 printk(KERN_INFO "My syscall received: %sn", kernel_str); return 0; }#include <linux/kernel.h>： 包含内核相关的头文件。#include <linux/syscalls.h>： 包含系统调用相关的宏定义。#include <linux/string.h>： 包含字符串操作函数。SYSCALL_DEFINE2： 这是一个宏，用于定义系统调用函数。2表示该函数接受两个参数。const char __user *str： 指向用户空间字符串的指针。__user告诉内核，这个指针指向用户空间，需要进行安全检查。int len： 字符串的长度。copy_from_user： 从用户空间复制数据到内核空间。 这是非常重要的，因为用户空间的数据是不可信任的。printk(KERN_INFO "...")： 内核的打印函数，类似于用户空间的printf。return 0： 返回 0 表示成功。 返回负数表示出错。
步骤三：导出系统调用函数
为了让内核能够找到我们的系统调用处理函数，我们需要将它导出。
-
修改
kernel/Makefile： 在kernel/Makefile文件中，找到obj-y +=这一行，添加我们的源文件：obj-y += my_syscall.o
步骤四：更新系统调用表
我们需要更新内核的系统调用表，告诉内核我们的系统调用号对应的处理函数。
-
修改
arch/x86/kernel/syscall_table_64.S： 在syscall_table_64.S文件中，找到.quad sys_ni_syscall这一行，将对应于我们选择的系统调用号的那一行替换为我们的函数名：.quad sys_my_syscallsys_my_syscall： 我们在my_syscall.c中定义的系统调用处理函数名。sys_ni_syscall： 这是一个空操作的系统调用，通常用于未实现的系统调用。
步骤五：编译内核
现在，我们可以开始编译内核了。
- 配置内核： 在内核源码目录下，运行
make menuconfig命令，配置内核。 你可以选择默认配置，或者根据自己的需求进行修改。 注意，如果你的内核配置之前已经存在，最好先运行make clean命令清理一下。 - 编译内核： 运行
make -j$(nproc)命令编译内核。-j$(nproc)表示使用所有可用的 CPU 核心进行编译，可以加快编译速度。 - 安装内核模块： 运行
sudo make modules_install命令安装内核模块。 - 安装内核： 运行
sudo make install命令安装内核。 这个命令会将新的内核文件复制到/boot目录下，并更新 GRUB 引导加载器。
步骤六：重启系统并测试
编译安装完成后，重启你的系统。在 GRUB 引导菜单中，选择你新编译的内核。
-
编写测试程序： 编写一个简单的 C 程序来调用我们的自定义系统调用。
#include <stdio.h> #include <stdlib.h> #include <unistd.h> #include <sys/syscall.h> #include <string.h> #define MY_SYSCALL_NUM 445 // 替换为你选择的系统调用号 int main() { char *message = "Hello from user space!"; int len = strlen(message); long result = syscall(MY_SYSCALL_NUM, message, len); if (result == 0) { printf("System call executed successfully!n"); } else { perror("System call failed"); } return 0; }#include <sys/syscall.h>： 包含syscall函数的头文件。#define MY_SYSCALL_NUM 445： 定义系统调用号。 一定要和你之前在syscall_64.tbl中定义的号码一致。syscall(MY_SYSCALL_NUM, message, len)： 调用系统调用。 第一个参数是系统调用号，后面的参数是传递给系统调用的参数。
-
编译测试程序： 使用
gcc命令编译测试程序：gcc test.c -o test -
运行测试程序： 运行编译后的程序：
./test -
查看内核日志： 使用
dmesg命令查看内核日志。 你应该能看到我们在my_syscall.c中使用printk打印的消息。dmesg | tail如果一切顺利，你应该能看到类似这样的输出：
[ 123.456789] My syscall received: Hello from user space!
恭喜你！你已经成功地自定义了一个系统调用！
注意事项
- 安全： 在编写系统调用处理函数时，一定要注意安全性。 用户空间的数据是不可信任的，一定要进行严格的检查和验证。 特别是从用户空间复制数据到内核空间时，一定要使用
copy_from_user函数。 - 错误处理： 在系统调用处理函数中，一定要进行完善的错误处理。 如果发生错误，一定要返回一个负数，并设置
errno变量。 - 并发： 内核是并发执行的，所以一定要注意并发安全。 如果你的系统调用处理函数需要访问共享资源，一定要使用锁或其他同步机制。
- 内核版本： 不同的内核版本可能会有不同的 API 和数据结构，所以一定要确保你的代码与你使用的内核版本兼容。
- 调试： 调试内核代码比较困难，可以使用
printk函数打印调试信息，或者使用gdb进行远程调试。
代码示例汇总
为了方便你复制粘贴，我把上面提到的代码示例汇总一下：
-
arch/x86/entry/syscalls/syscall_64.tbl445 64 my_syscall sys_my_syscall -
kernel/my_syscall.c#include <linux/kernel.h> #include <linux/syscalls.h> #include <linux/string.h> SYSCALL_DEFINE2(my_syscall, const char __user *, str, int, len) { char kernel_str[256]; if (len < 0 || len > 255) return -EINVAL; if (copy_from_user(kernel_str, str, len)) return -EFAULT; kernel_str[len] = ''; // 确保字符串以 null 结尾 printk(KERN_INFO "My syscall received: %sn", kernel_str); return 0; } -
kernel/Makefileobj-y += my_syscall.o -
arch/x86/kernel/syscall_table_64.S.quad sys_my_syscall -
test.c#include <stdio.h> #include <stdlib.h> #include <unistd.h> #include <sys/syscall.h> #include <string.h> #define MY_SYSCALL_NUM 445 // 替换为你选择的系统调用号 int main() { char *message = "Hello from user space!"; int len = strlen(message); long result = syscall(MY_SYSCALL_NUM, message, len); if (result == 0) { printf("System call executed successfully!n"); } else { perror("System call failed"); } return 0; }
常见问题
- 编译内核出错？ 仔细检查你的代码和配置文件，确保没有语法错误或者拼写错误。 查看编译器的输出，找到错误信息，并尝试解决。
- 系统调用无法调用？ 确保你的系统调用号是正确的，并且你在
syscall_64.tbl和syscall_table_64.S文件中都正确地配置了它。 检查你的测试程序，确保你使用了正确的系统调用号和参数。 - 内核崩溃？ 内核崩溃通常是由于代码中的错误导致的。 尝试使用
printk函数打印调试信息，找到出错的地方，并修复代码。 如果问题仍然存在，可以使用gdb进行远程调试。
总结
自定义系统调用是一个非常有挑战性但也非常有意义的任务。它可以让你更深入地理解操作系统的原理，并为你提供更大的灵活性。 虽然过程可能会遇到一些困难，但只要你有耐心和细心，相信你一定能成功。希望这篇文章能帮助你入门自定义系统调用，并激发你对内核开发的兴趣。 祝你玩得开心！