【计算机网络】Linux 内核网络概述

文章目的

• 了解 Linux 内核网络架构
• 通过网络包过滤器或者防火墙获得使用的 IP 数据包（分组）管理技巧
• 熟悉如何在 Linux 内核级别使用套接字

概述

    网络应用程序的开发过去这些年按照指数级增长，这样增加了对系统网络子系统的速度要求和产品化要求。网络子系统不是 Linux 内核必须的组件（Linux 内核可以在没有网络支持的情况下编译通过）。然而非常少的计算系统（即便是嵌入式设备）很难没有网络支持，因为它们都需要联网。现代操作系统使用 TCP/IP 协议栈，协议栈实现了传输层以下的所有协议层，应用层协议通常在用户空间实现（HTTP、FTP、SSH等）。

用户空间网络

    用户空间中，网络网络通信被抽象为套接字（socket），套接字抽象了通信通道，是基于内核 TCP/IP 协议栈交互接口。一个 IP 套接字和一个 IP 地址、传输层协议（TCP、UDP 等）、以及一个端口关联。使用套接字的普通函数调用包括：创建（socket）、初始化（bind）、连接（connect）、关闭套接字（close）。

    TCP 套接字通过 read/write 或者 recv/send 调用完成网络通信，而 UDP 使用 recvfrom/sento 接口调用完成网络调用。通信过程中的传输和接收操作对于应用程序来讲是透明的，即数据的封装以及网络传输由内核决定。然而，也可以通过原始套接字在用户空间实现 TCP/IP 协议栈（传教套接字时使用 PF_PACKET 选项），或者在内核实现应用层协议（比如 TUX web server）。

    更多关于用户空间使用套接字编程的信息，参考 Beej's Guide to Network Programming 

Linux 网络通信

    Linux 内核提供了网络包工作的三个基本数据结构：struct socket、struct sock、struct sk_buff。

    前两个是套接字的抽象：

• struct socket 和用户空间的抽象非常相似，也就是用来编写网络应用程序的 BSD 套接字

• struct sock 或者 Linux 术语中的 INET 套接字是套接字的网络层表示。

    这两个结构是有关联的：struct socket 包含 INET 套接字字段，struct sock 有一个 BSD 套接字包含它。
  
    struct sk_buff 结构是网络包及其状态的表示。当内核接到一个一个数据包时，就会创建这个结构，数据包可以是从用户空间传来的也可以是从网络接口传来的。
  

struct socket 结构

    struct socket 结构是 BSD 套接字在内核的表示，在它上面执行的操作和内核提供的操作非常类似（通过系统调用）。一些套接字的常见操作（创建、初始化/绑定、关闭等）会导致特定的系统调用，这些系统调用会使用 struct socket 结构。

    struct socket 操作在 net/socket.c 中实现，它是和具体协议类型无关的。因此，struct socket 结构是一个在各种网络操作实现上的一个通用接口。通常，这些操作以 sock_ 前缀开始。

socket 结构上的操作

creation

创建操作和用户空间调用 socket() 函数类似，但是创建出的套接字被存到了 res 参数中：

• int sock_create(int family, int typ, int protocol, struct socket **res) 在 socket() 系统调用后创建一个套接字；
• Int sock_create_kern(struct net *net, int family, int type, int protocol, struct socket **ret) 创建一个内核套接字；
• int sock_create_lite(int family, int type, int protocol, struct **res) 创建一个内核套接字，不进行 sanity 检查

这些调用的如下：

• net，是一个网络名字空间的引用，通常我们使用 init_net 初始化它

• family 表示用于信息传输的协议家族，以 PF_ 字符串开头，带上协议家族，这个常量表示协议家族，定义在 linux/socket.h 中，TCP/IP 通常使用 PF_INET

• type 是套接字的类型，定义在 linux/net.h 中，通常面向连接的通信采用 SOCK_STREAM，而非连接通信采用 SOCK_DGRAM

• protocol 表示采用的协议，和 type 相关，定义在 linux/in.h 中，TCP 使用 IPROTO_TCP，UDP 使用 IPROTO_UDP。

    在内核空间创建 TCP 套接字，必须调用：
  

struct socket *sock;
int err;

err = sock_create_kern(&init_net, PF_INET, SOCK_STREAM, IPPROTO_TCP, &sock);
if (err < 0) {
        /* handle error */
}

    创建一个 UDP 套接字：

struct socket *sock;
int err;

err = sock_create_kern(&init_net, PF_INET, SOCK_DGRAM, IPPROTO_UDP, &sock);
if (err < 0) {
        /* handle error */
}

     sys_socket() 系统调用处理函数（handler）中有相关使用举例：

SYSCALL_DEFINE3(socket, int, family, int, type, int, protocol)
{
      int retval;
      struct socket *sock;
      int flags;

      /* Check the SOCK_* constants for consistency.  */
      BUILD_BUG_ON(SOCK_CLOEXEC != O_CLOEXEC);
      BUILD_BUG_ON((SOCK_MAX | SOCK_TYPE_MASK) != SOCK_TYPE_MASK);
      BUILD_BUG_ON(SOCK_CLOEXEC & SOCK_TYPE_MASK);
      BUILD_BUG_ON(SOCK_NONBLOCK & SOCK_TYPE_MASK);

      flags = type & ~SOCK_TYPE_MASK;
      if (flags & ~(SOCK_CLOEXEC | SOCK_NONBLOCK))
              return -EINVAL;
      type &= SOCK_TYPE_MASK;

      if (SOCK_NONBLOCK != O_NONBLOCK && (flags & SOCK_NONBLOCK))
              flags = (flags & ~SOCK_NONBLOCK) | O_NONBLOCK;

      retval = sock_create(family, type, protocol, &sock);
      if (retval < 0)
              goto out;

      return sock_map_fd(sock, flags & (O_CLOEXEC | O_NONBLOCK));
}

closing

    关闭连接（面向连接的套接字）并释放相关资源：

• void sock_release(struct socket *sock) 调用套接字结构 ops 字段的 release 函数：

void sock_release(struct socket *sock)
{
      if (sock->ops) {
              struct module *owner = sock->ops->owner;

              sock->ops->release(sock);
              sock->ops = NULL;
              module_put(owner);
      }
      //...
}

sending/receiving 消息

    使用下面函数进行消息发送和接收：

int sock_recvmsg(struct socket *sock, struct msghdr *msg, int flags);
int kernel_recvmsg(struct socket *sock, struct msghdr *msg, struct kvec *vec, size_t num, size_t size, int flags);
int sock_sendmsg(struct socket *sock, struct msghdr *msg);
int kernel_sendmsg(struct socket *sock, struct msghdr *msg, struct kvec *vec, size_t num, size_t size);

    消息发送和接收函数会调用套接字 ops 字段的 sendmsg、recvmsg 函数，具有 kernel_ 前缀的函数是套接字在内核中使用的。

    参数如下：

• msg，是一个 struct msghdr 结构，包含着需要发送接收的消息。这个结构中最重要的成员是 msg_name 和 msg_namelen，对于 UDP 套接字，必须填充为发送消息的目标地址（struct sockaddr_in）

• vec，一个 struct kvec 结构，包含一个指向缓冲器（包含数据和大小）的指针，这个结构和 struct iovec 结构类似（struct iovec 结构用于用户空间，而 struct kvec 结构用于内核空间数据）

    sys_sendto() 系统调用处理函数里有一些使用例程：
  

SYSCALL_DEFINE6(sendto, int, fd, void __user *, buff, size_t, len,
              unsigned int, flags, struct sockaddr __user *, addr,
              int, addr_len)
{
      struct socket *sock;
      struct sockaddr_storage address;
      int err;
      struct msghdr msg;
      struct iovec iov;
      int fput_needed;

      err = import_single_range(WRITE, buff, len, &iov, &msg.msg_iter);
      if (unlikely(err))
              return err;
      sock = sockfd_lookup_light(fd, &err, &fput_needed);
      if (!sock)
              goto out;

      msg.msg_name = NULL;
      msg.msg_control = NULL;
      msg.msg_controllen = 0;
      msg.msg_namelen = 0;
      if (addr) {
              err = move_addr_to_kernel(addr, addr_len, &address);
              if (err < 0)
                      goto out_put;
              msg.msg_name = (struct sockaddr *)&address;
              msg.msg_namelen = addr_len;
      }
      if (sock->file->f_flags & O_NONBLOCK)
              flags |= MSG_DONTWAIT;
      msg.msg_flags = flags;
      err = sock_sendmsg(sock, &msg);

out_put:
      fput_light(sock->file, fput_needed);
out:
      return err;
}

    struct socket 的字段：

/**
 *  struct socket - general BSD socket
 *  @state: socket state (%SS_CONNECTED, etc)
 *  @type: socket type (%SOCK_STREAM, etc)
 *  @flags: socket flags (%SOCK_NOSPACE, etc)
 *  @ops: protocol specific socket operations
 *  @file: File back pointer for gc
 *  @sk: internal networking protocol agnostic socket representation
 *  @wq: wait queue for several uses
 */
struct socket {
      socket_state            state;

      short                   type;

      unsigned long           flags;

      struct socket_wq __rcu  *wq;

      struct file             *file;
      struct sock             *sk;
      const struct proto_ops  *ops;
};

    需要解释的字段有：

• ops - 这个结构存储一些协议相关的函数指针
• sk - 和套接字相关的 INET socket

struct proto_ops 结构

    struct proto_ops 结构包含特定操作的实现（TCP/UDP 等），这些函数会被 struct socket(sock_release(), sock_sendmsg() 等) 普通函数调用。

    struct proto_ops 结构也就包含了一些指向这些协议实现的指针：

struct proto_ops {
      int             family;
      struct module   *owner;
      int             (*release)   (struct socket *sock);
      int             (*bind)      (struct socket *sock,
                                    struct sockaddr *myaddr,
                                    int sockaddr_len);
      int             (*connect)   (struct socket *sock,
                                    struct sockaddr *vaddr,
                                    int sockaddr_len, int flags);
      int             (*socketpair)(struct socket *sock1,
                                    struct socket *sock2);
      int             (*accept)    (struct socket *sock,
                                    struct socket *newsock, int flags, bool kern);
      int             (*getname)   (struct socket *sock,
                                    struct sockaddr *addr,
                                    int peer);
      //...
}

    struct socket 的 ops 字段的初始化是通过 __sock_create() 函数实现的，通过调用 create() 函数，指定每个协议。一个等效的调用是 __sock_create() 函数的实现：

//...
      err = pf->create(net, sock, protocol, kern);
      if (err < 0)
              goto out_module_put;
//...

    这个会初始化这些函数指针为套接字指定协议类型的函数，sock_register() 和 sock_unregister() 调用用来填充 net_fanilies 向量。

    对于剩余的 socket 操作（除了创建、关闭、发送接收外），也会通过指针来调用，比如 bind 函数：

#define MY_PORT 60000

struct sockaddr_in addr = {
      .sin_family = AF_INET,
      .sin_port = htons (MY_PORT),
      .sin_addr = { htonl (INADDR_LOOPBACK) }
};

//...
      err = sock->ops->bind (sock, (struct sockaddr *) &addr, sizeof(addr));
      if (err < 0) {
              /* handle error */
      }
//...