include/net/ip_vs.h

   1 /*
   2  *      IP Virtual Server
   3  *      data structure and functionality definitions
   4  */
   5
   6 #ifndef _NET_IP_VS_H
   7 #define _NET_IP_VS_H
   8
   9 #include <linux/ip_vs.h>                /* definitions shared with userland */
  10
  11 /* old ipvsadm versions still include this file directly */
  12 #ifdef __KERNEL__
  13
  14 #include <asm/types.h>                  /* for __uXX types */
  15
  16 #include <linux/sysctl.h>               /* for ctl_path */
  17 #include <linux/list.h>                 /* for struct list_head */
  18 #include <linux/spinlock.h>             /* for struct rwlock_t */
  19 #include <asm/atomic.h>                 /* for struct atomic_t */
  20 #include <linux/compiler.h>
  21 #include <linux/timer.h>
  22
  23 #include <net/checksum.h>
  24 #include <linux/netfilter.h>            /* for union nf_inet_addr */
  25 #include <linux/ipv6.h>                 /* for struct ipv6hdr */
  26 #include <net/ipv6.h>                   /* for ipv6_addr_copy */
  27
  28 struct ip_vs_iphdr {
  29         int len;
  30         __u8 protocol;
  31         union nf_inet_addr saddr;
  32         union nf_inet_addr daddr;
  33 };
  34
  35 static inline void
  36 ip_vs_fill_iphdr(int af, const void *nh, struct ip_vs_iphdr *iphdr)
  37 {
  38 #ifdef CONFIG_IP_VS_IPV6
  39         if (af == AF_INET6) {
  40                 const struct ipv6hdr *iph = nh;
  41                 iphdr->len = sizeof(struct ipv6hdr);
  42                 iphdr->protocol = iph->nexthdr;
  43                 ipv6_addr_copy(&iphdr->saddr.in6, &iph->saddr);
  44                 ipv6_addr_copy(&iphdr->daddr.in6, &iph->daddr);
  45         } else
  46 #endif
  47         {
  48                 const struct iphdr *iph = nh;
  49                 iphdr->len = iph->ihl * 4;
  50                 iphdr->protocol = iph->protocol;
  51                 iphdr->saddr.ip = iph->saddr;
  52                 iphdr->daddr.ip = iph->daddr;
  53         }
  54 }
  55
  56 static inline void ip_vs_addr_copy(int af, union nf_inet_addr *dst,
  57                                    const union nf_inet_addr *src)
  58 {
  59 #ifdef CONFIG_IP_VS_IPV6
  60         if (af == AF_INET6)
  61                 ipv6_addr_copy(&dst->in6, &src->in6);
  62         else
  63 #endif
  64         dst->ip = src->ip;
  65 }
  66
  67 static inline int ip_vs_addr_equal(int af, const union nf_inet_addr *a,
  68                                    const union nf_inet_addr *b)
  69 {
  70 #ifdef CONFIG_IP_VS_IPV6
  71         if (af == AF_INET6)
  72                 return ipv6_addr_equal(&a->in6, &b->in6);
  73 #endif
  74         return a->ip == b->ip;
  75 }
  76
  77 #ifdef CONFIG_IP_VS_DEBUG
  78 #include <linux/net.h>
  79
  80 extern int ip_vs_get_debug_level(void);
  81
  82 static inline const char *ip_vs_dbg_addr(int af, char *buf, size_t buf_len,
  83                                          const union nf_inet_addr *addr,
  84                                          int *idx)
  85 {
  86         int len;
  87 #ifdef CONFIG_IP_VS_IPV6
  88         if (af == AF_INET6)
  89                 len = snprintf(&buf[*idx], buf_len - *idx, "[" NIP6_FMT "]",
  90                                NIP6(addr->in6)) + 1;
  91         else
  92 #endif
  93                 len = snprintf(&buf[*idx], buf_len - *idx, NIPQUAD_FMT,
  94                                NIPQUAD(addr->ip)) + 1;
  95
  96         *idx += len;
  97         BUG_ON(*idx > buf_len + 1);
  98         return &buf[*idx - len];
  99 }
 100
 101 #define IP_VS_DBG_BUF(level, msg...)                    \
 102     do {                                                \
 103             char ip_vs_dbg_buf[160];                    \
 104             int ip_vs_dbg_idx = 0;                      \
 105             if (level <= ip_vs_get_debug_level())       \
 106                     printk(KERN_DEBUG "IPVS: " msg);    \
 107     } while (0)
 108 #define IP_VS_ERR_BUF(msg...)                           \
 109     do {                                                \
 110             char ip_vs_dbg_buf[160];                    \
 111             int ip_vs_dbg_idx = 0;                      \
 112             printk(KERN_ERR "IPVS: " msg);              \
 113     } while (0)
 114
 115 /* Only use from within IP_VS_DBG_BUF() or IP_VS_ERR_BUF macros */
 116 #define IP_VS_DBG_ADDR(af, addr)                        \
 117     ip_vs_dbg_addr(af, ip_vs_dbg_buf,                   \
 118                    sizeof(ip_vs_dbg_buf), addr,         \
 119                    &ip_vs_dbg_idx)
 120
 121 #define IP_VS_DBG(level, msg...)                        \
 122     do {                                                \
 123             if (level <= ip_vs_get_debug_level())       \
 124                     printk(KERN_DEBUG "IPVS: " msg);    \
 125     } while (0)
 126 #define IP_VS_DBG_RL(msg...)                            \
 127     do {                                                \
 128             if (net_ratelimit())                        \
 129                     printk(KERN_DEBUG "IPVS: " msg);    \
 130     } while (0)
 131 #define IP_VS_DBG_PKT(level, pp, skb, ofs, msg)         \
 132     do {                                                \
 133             if (level <= ip_vs_get_debug_level())       \
 134                 pp->debug_packet(pp, skb, ofs, msg);    \
 135     } while (0)
 136 #define IP_VS_DBG_RL_PKT(level, pp, skb, ofs, msg)      \
 137     do {                                                \
 138             if (level <= ip_vs_get_debug_level() &&     \
 139                 net_ratelimit())                        \
 140                 pp->debug_packet(pp, skb, ofs, msg);    \
 141     } while (0)
 142 #else   /* NO DEBUGGING at ALL */
 143 #define IP_VS_DBG_BUF(level, msg...)  do {} while (0)
 144 #define IP_VS_ERR_BUF(msg...)  do {} while (0)
 145 #define IP_VS_DBG(level, msg...)  do {} while (0)
 146 #define IP_VS_DBG_RL(msg...)  do {} while (0)
 147 #define IP_VS_DBG_PKT(level, pp, skb, ofs, msg)         do {} while (0)
 148 #define IP_VS_DBG_RL_PKT(level, pp, skb, ofs, msg)      do {} while (0)
 149 #endif
 150
 151 #define IP_VS_BUG() BUG()
 152 #define IP_VS_ERR(msg...) printk(KERN_ERR "IPVS: " msg)
 153 #define IP_VS_INFO(msg...) printk(KERN_INFO "IPVS: " msg)
 154 #define IP_VS_WARNING(msg...) \
 155         printk(KERN_WARNING "IPVS: " msg)
 156 #define IP_VS_ERR_RL(msg...)                            \
 157     do {                                                \
 158             if (net_ratelimit())                        \
 159                     printk(KERN_ERR "IPVS: " msg);      \
 160     } while (0)
 161
 162 #ifdef CONFIG_IP_VS_DEBUG
 163 #define EnterFunction(level)                                            \
 164     do {                                                                \
 165             if (level <= ip_vs_get_debug_level())                       \
 166                     printk(KERN_DEBUG "Enter: %s, %s line %i\n",        \
 167                            __FUNCTION__, __FILE__, __LINE__);           \
 168     } while (0)
 169 #define LeaveFunction(level)                                            \
 170     do {                                                                \
 171             if (level <= ip_vs_get_debug_level())                       \
 172                         printk(KERN_DEBUG "Leave: %s, %s line %i\n",    \
 173                                __FUNCTION__, __FILE__, __LINE__);       \
 174     } while (0)
 175 #else
 176 #define EnterFunction(level)   do {} while (0)
 177 #define LeaveFunction(level)   do {} while (0)
 178 #endif
 179
 180 #define IP_VS_WAIT_WHILE(expr)  while (expr) { cpu_relax(); }
 181
 182
 183 /*
 184  *      The port number of FTP service (in network order).
 185  */
 186 #define FTPPORT  __constant_htons(21)
 187 #define FTPDATA  __constant_htons(20)
 188
 189 /*
 190  *      TCP State Values
 191  */
 192 enum {
 193         IP_VS_TCP_S_NONE = 0,
 194         IP_VS_TCP_S_ESTABLISHED,
 195         IP_VS_TCP_S_SYN_SENT,
 196         IP_VS_TCP_S_SYN_RECV,
 197         IP_VS_TCP_S_FIN_WAIT,
 198         IP_VS_TCP_S_TIME_WAIT,
 199         IP_VS_TCP_S_CLOSE,
 200         IP_VS_TCP_S_CLOSE_WAIT,
 201         IP_VS_TCP_S_LAST_ACK,
 202         IP_VS_TCP_S_LISTEN,
 203         IP_VS_TCP_S_SYNACK,
 204         IP_VS_TCP_S_LAST
 205 };
 206
 207 /*
 208  *      UDP State Values
 209  */
 210 enum {
 211         IP_VS_UDP_S_NORMAL,
 212         IP_VS_UDP_S_LAST,
 213 };
 214
 215 /*
 216  *      ICMP State Values
 217  */
 218 enum {
 219         IP_VS_ICMP_S_NORMAL,
 220         IP_VS_ICMP_S_LAST,
 221 };
 222
 223 /*
 224  *      Delta sequence info structure
 225  *      Each ip_vs_conn has 2 (output AND input seq. changes).
 226  *      Only used in the VS/NAT.
 227  */
 228 struct ip_vs_seq {
 229         __u32                   init_seq;       /* Add delta from this seq */
 230         __u32                   delta;          /* Delta in sequence numbers */
 231         __u32                   previous_delta; /* Delta in sequence numbers
 232                                                    before last resized pkt */
 233 };
 234
 235
 236 /*
 237  *      IPVS statistics objects
 238  */
 239 struct ip_vs_estimator {
 240         struct list_head        list;
 241
 242         u64                     last_inbytes;
 243         u64                     last_outbytes;
 244         u32                     last_conns;
 245         u32                     last_inpkts;
 246         u32                     last_outpkts;
 247
 248         u32                     cps;
 249         u32                     inpps;
 250         u32                     outpps;
 251         u32                     inbps;
 252         u32                     outbps;
 253 };
 254
 255 struct ip_vs_stats
 256 {
 257         __u32                   conns;          /* connections scheduled */
 258         __u32                   inpkts;         /* incoming packets */
 259         __u32                   outpkts;        /* outgoing packets */
 260         __u64                   inbytes;        /* incoming bytes */
 261         __u64                   outbytes;       /* outgoing bytes */
 262
 263         __u32                   cps;            /* current connection rate */
 264         __u32                   inpps;          /* current in packet rate */
 265         __u32                   outpps;         /* current out packet rate */
 266         __u32                   inbps;          /* current in byte rate */
 267         __u32                   outbps;         /* current out byte rate */
 268
 269         /*
 270          * Don't add anything before the lock, because we use memcpy() to copy
 271          * the members before the lock to struct ip_vs_stats_user in
 272          * ip_vs_ctl.c.
 273          */
 274
 275         spinlock_t              lock;           /* spin lock */
 276
 277         struct ip_vs_estimator  est;            /* estimator */
 278 };
 279
 280 struct dst_entry;
 281 struct iphdr;
 282 struct ip_vs_conn;
 283 struct ip_vs_app;
 284 struct sk_buff;
 285
 286 struct ip_vs_protocol {
 287         struct ip_vs_protocol   *next;
 288         char                    *name;
 289         u16                     protocol;
 290         u16                     num_states;
 291         int                     dont_defrag;
 292         atomic_t                appcnt;         /* counter of proto app incs */
 293         int                     *timeout_table; /* protocol timeout table */
 294
 295         void (*init)(struct ip_vs_protocol *pp);
 296
 297         void (*exit)(struct ip_vs_protocol *pp);
 298
 299         int (*conn_schedule)(int af, struct sk_buff *skb,
 300                              struct ip_vs_protocol *pp,
 301                              int *verdict, struct ip_vs_conn **cpp);
 302
 303         struct ip_vs_conn *
 304         (*conn_in_get)(int af,
 305                        const struct sk_buff *skb,
 306                        struct ip_vs_protocol *pp,
 307                        const struct ip_vs_iphdr *iph,
 308                        unsigned int proto_off,
 309                        int inverse);
 310
 311         struct ip_vs_conn *
 312         (*conn_out_get)(int af,
 313                         const struct sk_buff *skb,
 314                         struct ip_vs_protocol *pp,
 315                         const struct ip_vs_iphdr *iph,
 316                         unsigned int proto_off,
 317                         int inverse);
 318
 319         int (*snat_handler)(struct sk_buff *skb,
 320                             struct ip_vs_protocol *pp, struct ip_vs_conn *cp);
 321
 322         int (*dnat_handler)(struct sk_buff *skb,
 323                             struct ip_vs_protocol *pp, struct ip_vs_conn *cp);
 324
 325         int (*csum_check)(int af, struct sk_buff *skb,
 326                           struct ip_vs_protocol *pp);
 327
 328         const char *(*state_name)(int state);
 329
 330         int (*state_transition)(struct ip_vs_conn *cp, int direction,
 331                                 const struct sk_buff *skb,
 332                                 struct ip_vs_protocol *pp);
 333
 334         int (*register_app)(struct ip_vs_app *inc);
 335
 336         void (*unregister_app)(struct ip_vs_app *inc);
 337
 338         int (*app_conn_bind)(struct ip_vs_conn *cp);
 339
 340         void (*debug_packet)(struct ip_vs_protocol *pp,
 341                              const struct sk_buff *skb,
 342                              int offset,
 343                              const char *msg);
 344
 345         void (*timeout_change)(struct ip_vs_protocol *pp, int flags);
 346
 347         int (*set_state_timeout)(struct ip_vs_protocol *pp, char *sname, int to);
 348 };
 349
 350 extern struct ip_vs_protocol * ip_vs_proto_get(unsigned short proto);
 351
 352 /*
 353  *      IP_VS structure allocated for each dynamically scheduled connection
 354  */
 355 struct ip_vs_conn {
 356         struct list_head        c_list;         /* hashed list heads */
 357
 358         /* Protocol, addresses and port numbers */
 359         u16                      af;            /* address family */
 360         union nf_inet_addr       caddr;          /* client address */
 361         union nf_inet_addr       vaddr;          /* virtual address */
 362         union nf_inet_addr       daddr;          /* destination address */
 363         __be16                   cport;
 364         __be16                   vport;
 365         __be16                   dport;
 366         __u16                   protocol;       /* Which protocol (TCP/UDP) */
 367
 368         /* counter and timer */
 369         atomic_t                refcnt;         /* reference count */
 370         struct timer_list       timer;          /* Expiration timer */
 371         volatile unsigned long  timeout;        /* timeout */
 372
 373         /* Flags and state transition */
 374         spinlock_t              lock;           /* lock for state transition */
 375         volatile __u16          flags;          /* status flags */
 376         volatile __u16          state;          /* state info */
 377         volatile __u16          old_state;      /* old state, to be used for
 378                                                  * state transition triggerd
 379                                                  * synchronization
 380                                                  */
 381
 382         /* Control members */
 383         struct ip_vs_conn       *control;       /* Master control connection */
 384         atomic_t                n_control;      /* Number of controlled ones */
 385         struct ip_vs_dest       *dest;          /* real server */
 386         atomic_t                in_pkts;        /* incoming packet counter */
 387
 388         /* packet transmitter for different forwarding methods.  If it
 389            mangles the packet, it must return NF_DROP or better NF_STOLEN,
 390            otherwise this must be changed to a sk_buff **.
 391          */
 392         int (*packet_xmit)(struct sk_buff *skb, struct ip_vs_conn *cp,
 393                            struct ip_vs_protocol *pp);
 394
 395         /* Note: we can group the following members into a structure,
 396            in order to save more space, and the following members are
 397            only used in VS/NAT anyway */
 398         struct ip_vs_app        *app;           /* bound ip_vs_app object */
 399         void                    *app_data;      /* Application private data */
 400         struct ip_vs_seq        in_seq;         /* incoming seq. struct */
 401         struct ip_vs_seq        out_seq;        /* outgoing seq. struct */
 402 };
 403
 404
 405 /*
 406  *      Extended internal versions of struct ip_vs_service_user and
 407  *      ip_vs_dest_user for IPv6 support.
 408  *
 409  *      We need these to conveniently pass around service and destination
 410  *      options, but unfortunately, we also need to keep the old definitions to
 411  *      maintain userspace backwards compatibility for the setsockopt interface.
 412  */
 413 struct ip_vs_service_user_kern {
 414         /* virtual service addresses */
 415         u16                     af;
 416         u16                     protocol;
 417         union nf_inet_addr      addr;           /* virtual ip address */
 418         u16                     port;
 419         u32                     fwmark;         /* firwall mark of service */
 420
 421         /* virtual service options */
 422         char                    *sched_name;
 423         unsigned                flags;          /* virtual service flags */
 424         unsigned                timeout;        /* persistent timeout in sec */
 425         u32                     netmask;        /* persistent netmask */
 426 };
 427
 428
 429 struct ip_vs_dest_user_kern {
 430         /* destination server address */
 431         union nf_inet_addr      addr;
 432         u16                     port;
 433
 434         /* real server options */
 435         unsigned                conn_flags;     /* connection flags */
 436         int                     weight;         /* destination weight */
 437
 438         /* thresholds for active connections */
 439         u32                     u_threshold;    /* upper threshold */
 440         u32                     l_threshold;    /* lower threshold */
 441 };
 442
 443
 444 /*
 445  *      The information about the virtual service offered to the net
 446  *      and the forwarding entries
 447  */
 448 struct ip_vs_service {
 449         struct list_head        s_list;   /* for normal service table */
 450         struct list_head        f_list;   /* for fwmark-based service table */
 451         atomic_t                refcnt;   /* reference counter */
 452         atomic_t                usecnt;   /* use counter */
 453
 454         u16                     af;       /* address family */
 455         __u16                   protocol; /* which protocol (TCP/UDP) */
 456         union nf_inet_addr      addr;     /* IP address for virtual service */
 457         __be16                  port;     /* port number for the service */
 458         __u32                   fwmark;   /* firewall mark of the service */
 459         unsigned                flags;    /* service status flags */
 460         unsigned                timeout;  /* persistent timeout in ticks */
 461         __be32                  netmask;  /* grouping granularity */
 462
 463         struct list_head        destinations;  /* real server d-linked list */
 464         __u32                   num_dests;     /* number of servers */
 465         struct ip_vs_stats      stats;         /* statistics for the service */
 466         struct ip_vs_app        *inc;     /* bind conns to this app inc */
 467
 468         /* for scheduling */
 469         struct ip_vs_scheduler  *scheduler;    /* bound scheduler object */
 470         rwlock_t                sched_lock;    /* lock sched_data */
 471         void                    *sched_data;   /* scheduler application data */
 472 };
 473
 474
 475 /*
 476  *      The real server destination forwarding entry
 477  *      with ip address, port number, and so on.
 478  */
 479 struct ip_vs_dest {
 480         struct list_head        n_list;   /* for the dests in the service */
 481         struct list_head        d_list;   /* for table with all the dests */
 482
 483         u16                     af;             /* address family */
 484         union nf_inet_addr      addr;           /* IP address of the server */
 485         __be16                  port;           /* port number of the server */
 486         volatile unsigned       flags;          /* dest status flags */
 487         atomic_t                conn_flags;     /* flags to copy to conn */
 488         atomic_t                weight;         /* server weight */
 489
 490         atomic_t                refcnt;         /* reference counter */
 491         struct ip_vs_stats      stats;          /* statistics */
 492
 493         /* connection counters and thresholds */
 494         atomic_t                activeconns;    /* active connections */
 495         atomic_t                inactconns;     /* inactive connections */
 496         atomic_t                persistconns;   /* persistent connections */
 497         __u32                   u_threshold;    /* upper threshold */
 498         __u32                   l_threshold;    /* lower threshold */
 499
 500         /* for destination cache */
 501         spinlock_t              dst_lock;       /* lock of dst_cache */
 502         struct dst_entry        *dst_cache;     /* destination cache entry */
 503         u32                     dst_rtos;       /* RT_TOS(tos) for dst */
 504
 505         /* for virtual service */
 506         struct ip_vs_service    *svc;           /* service it belongs to */
 507         __u16                   protocol;       /* which protocol (TCP/UDP) */
 508         union nf_inet_addr      vaddr;          /* virtual IP address */
 509         __be16                  vport;          /* virtual port number */
 510         __u32                   vfwmark;        /* firewall mark of service */
 511 };
 512
 513
 514 /*
 515  *      The scheduler object
 516  */
 517 struct ip_vs_scheduler {
 518         struct list_head        n_list;         /* d-linked list head */
 519         char                    *name;          /* scheduler name */
 520         atomic_t                refcnt;         /* reference counter */
 521         struct module           *module;        /* THIS_MODULE/NULL */
 522 #ifdef CONFIG_IP_VS_IPV6
 523         int                     supports_ipv6;  /* scheduler has IPv6 support */
 524 #endif
 525
 526         /* scheduler initializing service */
 527         int (*init_service)(struct ip_vs_service *svc);
 528         /* scheduling service finish */
 529         int (*done_service)(struct ip_vs_service *svc);
 530         /* scheduler updating service */
 531         int (*update_service)(struct ip_vs_service *svc);
 532
 533         /* selecting a server from the given service */
 534         struct ip_vs_dest* (*schedule)(struct ip_vs_service *svc,
 535                                        const struct sk_buff *skb);
 536 };
 537
 538
 539 /*
 540  *      The application module object (a.k.a. app incarnation)
 541  */
 542 struct ip_vs_app
 543 {
 544         struct list_head        a_list;         /* member in app list */
 545         int                     type;           /* IP_VS_APP_TYPE_xxx */
 546         char                    *name;          /* application module name */
 547         __u16                   protocol;
 548         struct module           *module;        /* THIS_MODULE/NULL */
 549         struct list_head        incs_list;      /* list of incarnations */
 550
 551         /* members for application incarnations */
 552         struct list_head        p_list;         /* member in proto app list */
 553         struct ip_vs_app        *app;           /* its real application */
 554         __be16                  port;           /* port number in net order */
 555         atomic_t                usecnt;         /* usage counter */
 556
 557         /* output hook: return false if can't linearize. diff set for TCP.  */
 558         int (*pkt_out)(struct ip_vs_app *, struct ip_vs_conn *,
 559                        struct sk_buff *, int *diff);
 560
 561         /* input hook: return false if can't linearize. diff set for TCP. */
 562         int (*pkt_in)(struct ip_vs_app *, struct ip_vs_conn *,
 563                       struct sk_buff *, int *diff);
 564
 565         /* ip_vs_app initializer */
 566         int (*init_conn)(struct ip_vs_app *, struct ip_vs_conn *);
 567
 568         /* ip_vs_app finish */
 569         int (*done_conn)(struct ip_vs_app *, struct ip_vs_conn *);
 570
 571
 572         /* not used now */
 573         int (*bind_conn)(struct ip_vs_app *, struct ip_vs_conn *,
 574                          struct ip_vs_protocol *);
 575
 576         void (*unbind_conn)(struct ip_vs_app *, struct ip_vs_conn *);
 577
 578         int *                   timeout_table;
 579         int *                   timeouts;
 580         int                     timeouts_size;
 581
 582         int (*conn_schedule)(struct sk_buff *skb, struct ip_vs_app *app,
 583                              int *verdict, struct ip_vs_conn **cpp);
 584
 585         struct ip_vs_conn *
 586         (*conn_in_get)(const struct sk_buff *skb, struct ip_vs_app *app,
 587                        const struct iphdr *iph, unsigned int proto_off,
 588                        int inverse);
 589
 590         struct ip_vs_conn *
 591         (*conn_out_get)(const struct sk_buff *skb, struct ip_vs_app *app,
 592                         const struct iphdr *iph, unsigned int proto_off,
 593                         int inverse);
 594
 595         int (*state_transition)(struct ip_vs_conn *cp, int direction,
 596                                 const struct sk_buff *skb,
 597                                 struct ip_vs_app *app);
 598
 599         void (*timeout_change)(struct ip_vs_app *app, int flags);
 600 };
 601
 602
 603 /*
 604  *      IPVS core functions
 605  *      (from ip_vs_core.c)
 606  */
 607 extern const char *ip_vs_proto_name(unsigned proto);
 608 extern void ip_vs_init_hash_table(struct list_head *table, int rows);
 609 #define IP_VS_INIT_HASH_TABLE(t) ip_vs_init_hash_table((t), ARRAY_SIZE((t)))
 610
 611 #define IP_VS_APP_TYPE_FTP      1
 612
 613 /*
 614  *     ip_vs_conn handling functions
 615  *     (from ip_vs_conn.c)
 616  */
 617
 618 /*
 619  *     IPVS connection entry hash table
 620  */
 621 #ifndef CONFIG_IP_VS_TAB_BITS
 622 #define CONFIG_IP_VS_TAB_BITS   12
 623 #endif
 624 /* make sure that IP_VS_CONN_TAB_BITS is located in [8, 20] */
 625 #if CONFIG_IP_VS_TAB_BITS < 8
 626 #define IP_VS_CONN_TAB_BITS     8
 627 #endif
 628 #if CONFIG_IP_VS_TAB_BITS > 20
 629 #define IP_VS_CONN_TAB_BITS     20
 630 #endif
 631 #if 8 <= CONFIG_IP_VS_TAB_BITS && CONFIG_IP_VS_TAB_BITS <= 20
 632 #define IP_VS_CONN_TAB_BITS     CONFIG_IP_VS_TAB_BITS
 633 #endif
 634 #define IP_VS_CONN_TAB_SIZE     (1 << IP_VS_CONN_TAB_BITS)
 635 #define IP_VS_CONN_TAB_MASK     (IP_VS_CONN_TAB_SIZE - 1)
 636
 637 enum {
 638         IP_VS_DIR_INPUT = 0,
 639         IP_VS_DIR_OUTPUT,
 640         IP_VS_DIR_INPUT_ONLY,
 641         IP_VS_DIR_LAST,
 642 };
 643
 644 extern struct ip_vs_conn *ip_vs_conn_in_get
 645 (int af, int protocol, const union nf_inet_addr *s_addr, __be16 s_port,
 646  const union nf_inet_addr *d_addr, __be16 d_port);
 647
 648 extern struct ip_vs_conn *ip_vs_ct_in_get
 649 (int af, int protocol, const union nf_inet_addr *s_addr, __be16 s_port,
 650  const union nf_inet_addr *d_addr, __be16 d_port);
 651
 652 extern struct ip_vs_conn *ip_vs_conn_out_get
 653 (int af, int protocol, const union nf_inet_addr *s_addr, __be16 s_port,
 654  const union nf_inet_addr *d_addr, __be16 d_port);
 655
 656 /* put back the conn without restarting its timer */
 657 static inline void __ip_vs_conn_put(struct ip_vs_conn *cp)
 658 {
 659         atomic_dec(&cp->refcnt);
 660 }
 661 extern void ip_vs_conn_put(struct ip_vs_conn *cp);
 662 extern void ip_vs_conn_fill_cport(struct ip_vs_conn *cp, __be16 cport);
 663
 664 extern struct ip_vs_conn *
 665 ip_vs_conn_new(int af, int proto, const union nf_inet_addr *caddr, __be16 cport,
 666                const union nf_inet_addr *vaddr, __be16 vport,
 667                const union nf_inet_addr *daddr, __be16 dport, unsigned flags,
 668                struct ip_vs_dest *dest);
 669 extern void ip_vs_conn_expire_now(struct ip_vs_conn *cp);
 670
 671 extern const char * ip_vs_state_name(__u16 proto, int state);
 672
 673 extern void ip_vs_tcp_conn_listen(struct ip_vs_conn *cp);
 674 extern int ip_vs_check_template(struct ip_vs_conn *ct);
 675 extern void ip_vs_random_dropentry(void);
 676 extern int ip_vs_conn_init(void);
 677 extern void ip_vs_conn_cleanup(void);
 678
 679 static inline void ip_vs_control_del(struct ip_vs_conn *cp)
 680 {
 681         struct ip_vs_conn *ctl_cp = cp->control;
 682         if (!ctl_cp) {
 683                 IP_VS_ERR_BUF("request control DEL for uncontrolled: "
 684                               "%s:%d to %s:%d\n",
 685                               IP_VS_DBG_ADDR(cp->af, &cp->caddr),
 686                               ntohs(cp->cport),
 687                               IP_VS_DBG_ADDR(cp->af, &cp->vaddr),
 688                               ntohs(cp->vport));
 689
 690                 return;
 691         }
 692
 693         IP_VS_DBG_BUF(7, "DELeting control for: "
 694                       "cp.dst=%s:%d ctl_cp.dst=%s:%d\n",
 695                       IP_VS_DBG_ADDR(cp->af, &cp->caddr),
 696                       ntohs(cp->cport),
 697                       IP_VS_DBG_ADDR(cp->af, &ctl_cp->caddr),
 698                       ntohs(ctl_cp->cport));
 699
 700         cp->control = NULL;
 701         if (atomic_read(&ctl_cp->n_control) == 0) {
 702                 IP_VS_ERR_BUF("BUG control DEL with n=0 : "
 703                               "%s:%d to %s:%d\n",
 704                               IP_VS_DBG_ADDR(cp->af, &cp->caddr),
 705                               ntohs(cp->cport),
 706                               IP_VS_DBG_ADDR(cp->af, &cp->vaddr),
 707                               ntohs(cp->vport));
 708
 709                 return;
 710         }
 711         atomic_dec(&ctl_cp->n_control);
 712 }
 713
 714 static inline void
 715 ip_vs_control_add(struct ip_vs_conn *cp, struct ip_vs_conn *ctl_cp)
 716 {
 717         if (cp->control) {
 718                 IP_VS_ERR_BUF("request control ADD for already controlled: "
 719                               "%s:%d to %s:%d\n",
 720                               IP_VS_DBG_ADDR(cp->af, &cp->caddr),
 721                               ntohs(cp->cport),
 722                               IP_VS_DBG_ADDR(cp->af, &cp->vaddr),
 723                               ntohs(cp->vport));
 724
 725                 ip_vs_control_del(cp);
 726         }
 727
 728         IP_VS_DBG_BUF(7, "ADDing control for: "
 729                       "cp.dst=%s:%d ctl_cp.dst=%s:%d\n",
 730                       IP_VS_DBG_ADDR(cp->af, &cp->caddr),
 731                       ntohs(cp->cport),
 732                       IP_VS_DBG_ADDR(cp->af, &ctl_cp->caddr),
 733                       ntohs(ctl_cp->cport));
 734
 735         cp->control = ctl_cp;
 736         atomic_inc(&ctl_cp->n_control);
 737 }
 738
 739
 740 /*
 741  *      IPVS application functions
 742  *      (from ip_vs_app.c)
 743  */
 744 #define IP_VS_APP_MAX_PORTS  8
 745 extern int register_ip_vs_app(struct ip_vs_app *app);
 746 extern void unregister_ip_vs_app(struct ip_vs_app *app);
 747 extern int ip_vs_bind_app(struct ip_vs_conn *cp, struct ip_vs_protocol *pp);
 748 extern void ip_vs_unbind_app(struct ip_vs_conn *cp);
 749 extern int
 750 register_ip_vs_app_inc(struct ip_vs_app *app, __u16 proto, __u16 port);
 751 extern int ip_vs_app_inc_get(struct ip_vs_app *inc);
 752 extern void ip_vs_app_inc_put(struct ip_vs_app *inc);
 753
 754 extern int ip_vs_app_pkt_out(struct ip_vs_conn *, struct sk_buff *skb);
 755 extern int ip_vs_app_pkt_in(struct ip_vs_conn *, struct sk_buff *skb);
 756 extern int ip_vs_skb_replace(struct sk_buff *skb, gfp_t pri,
 757                              char *o_buf, int o_len, char *n_buf, int n_len);
 758 extern int ip_vs_app_init(void);
 759 extern void ip_vs_app_cleanup(void);
 760
 761
 762 /*
 763  *      IPVS protocol functions (from ip_vs_proto.c)
 764  */
 765 extern int ip_vs_protocol_init(void);
 766 extern void ip_vs_protocol_cleanup(void);
 767 extern void ip_vs_protocol_timeout_change(int flags);
 768 extern int *ip_vs_create_timeout_table(int *table, int size);
 769 extern int
 770 ip_vs_set_state_timeout(int *table, int num, char **names, char *name, int to);
 771 extern void
 772 ip_vs_tcpudp_debug_packet(struct ip_vs_protocol *pp, const struct sk_buff *skb,
 773                           int offset, const char *msg);
 774
 775 extern struct ip_vs_protocol ip_vs_protocol_tcp;
 776 extern struct ip_vs_protocol ip_vs_protocol_udp;
 777 extern struct ip_vs_protocol ip_vs_protocol_icmp;
 778 extern struct ip_vs_protocol ip_vs_protocol_esp;
 779 extern struct ip_vs_protocol ip_vs_protocol_ah;
 780
 781
 782 /*
 783  *      Registering/unregistering scheduler functions
 784  *      (from ip_vs_sched.c)
 785  */
 786 extern int register_ip_vs_scheduler(struct ip_vs_scheduler *scheduler);
 787 extern int unregister_ip_vs_scheduler(struct ip_vs_scheduler *scheduler);
 788 extern int ip_vs_bind_scheduler(struct ip_vs_service *svc,
 789                                 struct ip_vs_scheduler *scheduler);
 790 extern int ip_vs_unbind_scheduler(struct ip_vs_service *svc);
 791 extern struct ip_vs_scheduler *ip_vs_scheduler_get(const char *sched_name);
 792 extern void ip_vs_scheduler_put(struct ip_vs_scheduler *scheduler);
 793 extern struct ip_vs_conn *
 794 ip_vs_schedule(struct ip_vs_service *svc, const struct sk_buff *skb);
 795 extern int ip_vs_leave(struct ip_vs_service *svc, struct sk_buff *skb,
 796                         struct ip_vs_protocol *pp);
 797
 798
 799 /*
 800  *      IPVS control data and functions (from ip_vs_ctl.c)
 801  */
 802 extern int sysctl_ip_vs_cache_bypass;
 803 extern int sysctl_ip_vs_expire_nodest_conn;
 804 extern int sysctl_ip_vs_expire_quiescent_template;
 805 extern int sysctl_ip_vs_sync_threshold[2];
 806 extern int sysctl_ip_vs_nat_icmp_send;
 807 extern struct ip_vs_stats ip_vs_stats;
 808 extern const struct ctl_path net_vs_ctl_path[];
 809
 810 extern struct ip_vs_service *
 811 ip_vs_service_get(int af, __u32 fwmark, __u16 protocol,
 812                   const union nf_inet_addr *vaddr, __be16 vport);
 813
 814 static inline void ip_vs_service_put(struct ip_vs_service *svc)
 815 {
 816         atomic_dec(&svc->usecnt);
 817 }
 818
 819 extern struct ip_vs_dest *
 820 ip_vs_lookup_real_service(int af, __u16 protocol,
 821                           const union nf_inet_addr *daddr, __be16 dport);
 822
 823 extern int ip_vs_use_count_inc(void);
 824 extern void ip_vs_use_count_dec(void);
 825 extern int ip_vs_control_init(void);
 826 extern void ip_vs_control_cleanup(void);
 827 extern struct ip_vs_dest *
 828 ip_vs_find_dest(int af, const union nf_inet_addr *daddr, __be16 dport,
 829                 const union nf_inet_addr *vaddr, __be16 vport, __u16 protocol);
 830 extern struct ip_vs_dest *ip_vs_try_bind_dest(struct ip_vs_conn *cp);
 831
 832
 833 /*
 834  *      IPVS sync daemon data and function prototypes
 835  *      (from ip_vs_sync.c)
 836  */
 837 extern volatile int ip_vs_sync_state;
 838 extern volatile int ip_vs_master_syncid;
 839 extern volatile int ip_vs_backup_syncid;
 840 extern char ip_vs_master_mcast_ifn[IP_VS_IFNAME_MAXLEN];
 841 extern char ip_vs_backup_mcast_ifn[IP_VS_IFNAME_MAXLEN];
 842 extern int start_sync_thread(int state, char *mcast_ifn, __u8 syncid);
 843 extern int stop_sync_thread(int state);
 844 extern void ip_vs_sync_conn(struct ip_vs_conn *cp);
 845
 846
 847 /*
 848  *      IPVS rate estimator prototypes (from ip_vs_est.c)
 849  */
 850 extern int ip_vs_estimator_init(void);
 851 extern void ip_vs_estimator_cleanup(void);
 852 extern void ip_vs_new_estimator(struct ip_vs_stats *stats);
 853 extern void ip_vs_kill_estimator(struct ip_vs_stats *stats);
 854 extern void ip_vs_zero_estimator(struct ip_vs_stats *stats);
 855
 856 /*
 857  *      Various IPVS packet transmitters (from ip_vs_xmit.c)
 858  */
 859 extern int ip_vs_null_xmit
 860 (struct sk_buff *skb, struct ip_vs_conn *cp, struct ip_vs_protocol *pp);
 861 extern int ip_vs_bypass_xmit
 862 (struct sk_buff *skb, struct ip_vs_conn *cp, struct ip_vs_protocol *pp);
 863 extern int ip_vs_nat_xmit
 864 (struct sk_buff *skb, struct ip_vs_conn *cp, struct ip_vs_protocol *pp);
 865 extern int ip_vs_tunnel_xmit
 866 (struct sk_buff *skb, struct ip_vs_conn *cp, struct ip_vs_protocol *pp);
 867 extern int ip_vs_dr_xmit
 868 (struct sk_buff *skb, struct ip_vs_conn *cp, struct ip_vs_protocol *pp);
 869 extern int ip_vs_icmp_xmit
 870 (struct sk_buff *skb, struct ip_vs_conn *cp, struct ip_vs_protocol *pp, int offset);
 871 extern void ip_vs_dst_reset(struct ip_vs_dest *dest);
 872
 873 #ifdef CONFIG_IP_VS_IPV6
 874 extern int ip_vs_bypass_xmit_v6
 875 (struct sk_buff *skb, struct ip_vs_conn *cp, struct ip_vs_protocol *pp);
 876 extern int ip_vs_nat_xmit_v6
 877 (struct sk_buff *skb, struct ip_vs_conn *cp, struct ip_vs_protocol *pp);
 878 extern int ip_vs_tunnel_xmit_v6
 879 (struct sk_buff *skb, struct ip_vs_conn *cp, struct ip_vs_protocol *pp);
 880 extern int ip_vs_dr_xmit_v6
 881 (struct sk_buff *skb, struct ip_vs_conn *cp, struct ip_vs_protocol *pp);
 882 extern int ip_vs_icmp_xmit_v6
 883 (struct sk_buff *skb, struct ip_vs_conn *cp, struct ip_vs_protocol *pp,
 884  int offset);
 885 #endif
 886
 887 /*
 888  *      This is a simple mechanism to ignore packets when
 889  *      we are loaded. Just set ip_vs_drop_rate to 'n' and
 890  *      we start to drop 1/rate of the packets
 891  */
 892 extern int ip_vs_drop_rate;
 893 extern int ip_vs_drop_counter;
 894
 895 static __inline__ int ip_vs_todrop(void)
 896 {
 897         if (!ip_vs_drop_rate) return 0;
 898         if (--ip_vs_drop_counter > 0) return 0;
 899         ip_vs_drop_counter = ip_vs_drop_rate;
 900         return 1;
 901 }
 902
 903 /*
 904  *      ip_vs_fwd_tag returns the forwarding tag of the connection
 905  */
 906 #define IP_VS_FWD_METHOD(cp)  (cp->flags & IP_VS_CONN_F_FWD_MASK)
 907
 908 static inline char ip_vs_fwd_tag(struct ip_vs_conn *cp)
 909 {
 910         char fwd;
 911
 912         switch (IP_VS_FWD_METHOD(cp)) {
 913         case IP_VS_CONN_F_MASQ:
 914                 fwd = 'M'; break;
 915         case IP_VS_CONN_F_LOCALNODE:
 916                 fwd = 'L'; break;
 917         case IP_VS_CONN_F_TUNNEL:
 918                 fwd = 'T'; break;
 919         case IP_VS_CONN_F_DROUTE:
 920                 fwd = 'R'; break;
 921         case IP_VS_CONN_F_BYPASS:
 922                 fwd = 'B'; break;
 923         default:
 924                 fwd = '?'; break;
 925         }
 926         return fwd;
 927 }
 928
 929 extern void ip_vs_nat_icmp(struct sk_buff *skb, struct ip_vs_protocol *pp,
 930                            struct ip_vs_conn *cp, int dir);
 931
 932 #ifdef CONFIG_IP_VS_IPV6
 933 extern void ip_vs_nat_icmp_v6(struct sk_buff *skb, struct ip_vs_protocol *pp,
 934                               struct ip_vs_conn *cp, int dir);
 935 #endif
 936
 937 extern __sum16 ip_vs_checksum_complete(struct sk_buff *skb, int offset);
 938
 939 static inline __wsum ip_vs_check_diff4(__be32 old, __be32 new, __wsum oldsum)
 940 {
 941         __be32 diff[2] = { ~old, new };
 942
 943         return csum_partial((char *) diff, sizeof(diff), oldsum);
 944 }
 945
 946 #ifdef CONFIG_IP_VS_IPV6
 947 static inline __wsum ip_vs_check_diff16(const __be32 *old, const __be32 *new,
 948                                         __wsum oldsum)
 949 {
 950         __be32 diff[8] = { ~old[3], ~old[2], ~old[1], ~old[0],
 951                             new[3],  new[2],  new[1],  new[0] };
 952
 953         return csum_partial((char *) diff, sizeof(diff), oldsum);
 954 }
 955 #endif
 956
 957 static inline __wsum ip_vs_check_diff2(__be16 old, __be16 new, __wsum oldsum)
 958 {
 959         __be16 diff[2] = { ~old, new };
 960
 961         return csum_partial((char *) diff, sizeof(diff), oldsum);
 962 }
 963
 964 #endif /* __KERNEL__ */
 965
 966 #endif  /* _NET_IP_VS_H */