include/linux/netdevice.h

   1 /*
   2  * INET         An implementation of the TCP/IP protocol suite for the LINUX
   3  *              operating system.  INET is implemented using the  BSD Socket
   4  *              interface as the means of communication with the user level.
   5  *
   6  *              Definitions for the Interfaces handler.
   7  *
   8  * Version:     @(#)dev.h       1.0.10  08/12/93
   9  *
  10  * Authors:     Ross Biro
  11  *              Fred N. van Kempen, <waltje@uWalt.NL.Mugnet.ORG>
  12  *              Corey Minyard <wf-rch!minyard@relay.EU.net>
  13  *              Donald J. Becker, <becker@cesdis.gsfc.nasa.gov>
  14  *              Alan Cox, <alan@lxorguk.ukuu.org.uk>
  15  *              Bjorn Ekwall. <bj0rn@blox.se>
  16  *              Pekka Riikonen <priikone@poseidon.pspt.fi>
  17  *
  18  *              This program is free software; you can redistribute it and/or
  19  *              modify it under the terms of the GNU General Public License
  20  *              as published by the Free Software Foundation; either version
  21  *              2 of the License, or (at your option) any later version.
  22  *
  23  *              Moved to /usr/include/linux for NET3
  24  */
  25 #ifndef _LINUX_NETDEVICE_H
  26 #define _LINUX_NETDEVICE_H
  27
  28 #include <linux/if.h>
  29 #include <linux/if_ether.h>
  30 #include <linux/if_packet.h>
  31
  32 #ifdef __KERNEL__
  33 #include <linux/timer.h>
  34 #include <linux/delay.h>
  35 #include <asm/atomic.h>
  36 #include <asm/cache.h>
  37 #include <asm/byteorder.h>
  38
  39 #include <linux/device.h>
  40 #include <linux/percpu.h>
  41 #include <linux/dmaengine.h>
  42 #include <linux/workqueue.h>
  43
  44 #include <net/net_namespace.h>
  45 #include <net/dsa.h>
  46
  47 struct vlan_group;
  48 struct ethtool_ops;
  49 struct netpoll_info;
  50 /* 802.11 specific */
  51 struct wireless_dev;
  52                                         /* source back-compat hooks */
  53 #define SET_ETHTOOL_OPS(netdev,ops) \
  54         ( (netdev)->ethtool_ops = (ops) )
  55
  56 #define HAVE_ALLOC_NETDEV               /* feature macro: alloc_xxxdev
  57                                            functions are available. */
  58 #define HAVE_FREE_NETDEV                /* free_netdev() */
  59 #define HAVE_NETDEV_PRIV                /* netdev_priv() */
  60
  61 #define NET_XMIT_SUCCESS        0
  62 #define NET_XMIT_DROP           1       /* skb dropped                  */
  63 #define NET_XMIT_CN             2       /* congestion notification      */
  64 #define NET_XMIT_POLICED        3       /* skb is shot by police        */
  65 #define NET_XMIT_MASK           0xFFFF  /* qdisc flags in net/sch_generic.h */
  66
  67 /* Backlog congestion levels */
  68 #define NET_RX_SUCCESS          0   /* keep 'em coming, baby */
  69 #define NET_RX_DROP             1  /* packet dropped */
  70 #define NET_RX_CN_LOW           2   /* storm alert, just in case */
  71 #define NET_RX_CN_MOD           3   /* Storm on its way! */
  72 #define NET_RX_CN_HIGH          4   /* The storm is here */
  73 #define NET_RX_BAD              5  /* packet dropped due to kernel error */
  74
  75 /* NET_XMIT_CN is special. It does not guarantee that this packet is lost. It
  76  * indicates that the device will soon be dropping packets, or already drops
  77  * some packets of the same priority; prompting us to send less aggressively. */
  78 #define net_xmit_eval(e)        ((e) == NET_XMIT_CN? 0 : (e))
  79 #define net_xmit_errno(e)       ((e) != NET_XMIT_CN ? -ENOBUFS : 0)
  80
  81 #endif
  82
  83 #define MAX_ADDR_LEN    32              /* Largest hardware address length */
  84
  85 /* Driver transmit return codes */
  86 #define NETDEV_TX_OK 0          /* driver took care of packet */
  87 #define NETDEV_TX_BUSY 1        /* driver tx path was busy*/
  88 #define NETDEV_TX_LOCKED -1     /* driver tx lock was already taken */
  89
  90 #ifdef  __KERNEL__
  91
  92 /*
  93  *      Compute the worst case header length according to the protocols
  94  *      used.
  95  */
  96
  97 #if defined(CONFIG_WLAN_80211) || defined(CONFIG_AX25) || defined(CONFIG_AX25_MODULE)
  98 # if defined(CONFIG_MAC80211_MESH)
  99 #  define LL_MAX_HEADER 128
 100 # else
 101 #  define LL_MAX_HEADER 96
 102 # endif
 103 #elif defined(CONFIG_TR)
 104 # define LL_MAX_HEADER 48
 105 #else
 106 # define LL_MAX_HEADER 32
 107 #endif
 108
 109 #if !defined(CONFIG_NET_IPIP) && !defined(CONFIG_NET_IPIP_MODULE) && \
 110     !defined(CONFIG_NET_IPGRE) &&  !defined(CONFIG_NET_IPGRE_MODULE) && \
 111     !defined(CONFIG_IPV6_SIT) && !defined(CONFIG_IPV6_SIT_MODULE) && \
 112     !defined(CONFIG_IPV6_TUNNEL) && !defined(CONFIG_IPV6_TUNNEL_MODULE)
 113 #define MAX_HEADER LL_MAX_HEADER
 114 #else
 115 #define MAX_HEADER (LL_MAX_HEADER + 48)
 116 #endif
 117
 118 #endif  /*  __KERNEL__  */
 119
 120 /*
 121  *      Network device statistics. Akin to the 2.0 ether stats but
 122  *      with byte counters.
 123  */
 124
 125 struct net_device_stats
 126 {
 127         unsigned long   rx_packets;             /* total packets received       */
 128         unsigned long   tx_packets;             /* total packets transmitted    */
 129         unsigned long   rx_bytes;               /* total bytes received         */
 130         unsigned long   tx_bytes;               /* total bytes transmitted      */
 131         unsigned long   rx_errors;              /* bad packets received         */
 132         unsigned long   tx_errors;              /* packet transmit problems     */
 133         unsigned long   rx_dropped;             /* no space in linux buffers    */
 134         unsigned long   tx_dropped;             /* no space available in linux  */
 135         unsigned long   multicast;              /* multicast packets received   */
 136         unsigned long   collisions;
 137
 138         /* detailed rx_errors: */
 139         unsigned long   rx_length_errors;
 140         unsigned long   rx_over_errors;         /* receiver ring buff overflow  */
 141         unsigned long   rx_crc_errors;          /* recved pkt with crc error    */
 142         unsigned long   rx_frame_errors;        /* recv'd frame alignment error */
 143         unsigned long   rx_fifo_errors;         /* recv'r fifo overrun          */
 144         unsigned long   rx_missed_errors;       /* receiver missed packet       */
 145
 146         /* detailed tx_errors */
 147         unsigned long   tx_aborted_errors;
 148         unsigned long   tx_carrier_errors;
 149         unsigned long   tx_fifo_errors;
 150         unsigned long   tx_heartbeat_errors;
 151         unsigned long   tx_window_errors;
 152
 153         /* for cslip etc */
 154         unsigned long   rx_compressed;
 155         unsigned long   tx_compressed;
 156 };
 157
 158
 159 /* Media selection options. */
 160 enum {
 161         IF_PORT_UNKNOWN = 0,
 162         IF_PORT_10BASE2,
 163         IF_PORT_10BASET,
 164         IF_PORT_AUI,
 165         IF_PORT_100BASET,
 166         IF_PORT_100BASETX,
 167         IF_PORT_100BASEFX
 168 };
 169
 170 #ifdef __KERNEL__
 171
 172 #include <linux/cache.h>
 173 #include <linux/skbuff.h>
 174
 175 struct neighbour;
 176 struct neigh_parms;
 177 struct sk_buff;
 178
 179 struct netif_rx_stats
 180 {
 181         unsigned total;
 182         unsigned dropped;
 183         unsigned time_squeeze;
 184         unsigned cpu_collision;
 185 };
 186
 187 DECLARE_PER_CPU(struct netif_rx_stats, netdev_rx_stat);
 188
 189 struct dev_addr_list
 190 {
 191         struct dev_addr_list    *next;
 192         u8                      da_addr[MAX_ADDR_LEN];
 193         u8                      da_addrlen;
 194         u8                      da_synced;
 195         int                     da_users;
 196         int                     da_gusers;
 197 };
 198
 199 /*
 200  *      We tag multicasts with these structures.
 201  */
 202
 203 #define dev_mc_list     dev_addr_list
 204 #define dmi_addr        da_addr
 205 #define dmi_addrlen     da_addrlen
 206 #define dmi_users       da_users
 207 #define dmi_gusers      da_gusers
 208
 209 struct hh_cache
 210 {
 211         struct hh_cache *hh_next;       /* Next entry                        */
 212         atomic_t        hh_refcnt;      /* number of users                   */
 213 /*
 214  * We want hh_output, hh_len, hh_lock and hh_data be a in a separate
 215  * cache line on SMP.
 216  * They are mostly read, but hh_refcnt may be changed quite frequently,
 217  * incurring cache line ping pongs.
 218  */
 219         __be16          hh_type ____cacheline_aligned_in_smp;
 220                                         /* protocol identifier, f.e ETH_P_IP
 221                                          *  NOTE:  For VLANs, this will be the
 222                                          *  encapuslated type. --BLG
 223                                          */
 224         u16             hh_len;         /* length of header */
 225         int             (*hh_output)(struct sk_buff *skb);
 226         seqlock_t       hh_lock;
 227
 228         /* cached hardware header; allow for machine alignment needs.        */
 229 #define HH_DATA_MOD     16
 230 #define HH_DATA_OFF(__len) \
 231         (HH_DATA_MOD - (((__len - 1) & (HH_DATA_MOD - 1)) + 1))
 232 #define HH_DATA_ALIGN(__len) \
 233         (((__len)+(HH_DATA_MOD-1))&~(HH_DATA_MOD - 1))
 234         unsigned long   hh_data[HH_DATA_ALIGN(LL_MAX_HEADER) / sizeof(long)];
 235 };
 236
 237 /* Reserve HH_DATA_MOD byte aligned hard_header_len, but at least that much.
 238  * Alternative is:
 239  *   dev->hard_header_len ? (dev->hard_header_len +
 240  *                           (HH_DATA_MOD - 1)) & ~(HH_DATA_MOD - 1) : 0
 241  *
 242  * We could use other alignment values, but we must maintain the
 243  * relationship HH alignment <= LL alignment.
 244  *
 245  * LL_ALLOCATED_SPACE also takes into account the tailroom the device
 246  * may need.
 247  */
 248 #define LL_RESERVED_SPACE(dev) \
 249         ((((dev)->hard_header_len+(dev)->needed_headroom)&~(HH_DATA_MOD - 1)) + HH_DATA_MOD)
 250 #define LL_RESERVED_SPACE_EXTRA(dev,extra) \
 251         ((((dev)->hard_header_len+(dev)->needed_headroom+(extra))&~(HH_DATA_MOD - 1)) + HH_DATA_MOD)
 252 #define LL_ALLOCATED_SPACE(dev) \
 253         ((((dev)->hard_header_len+(dev)->needed_headroom+(dev)->needed_tailroom)&~(HH_DATA_MOD - 1)) + HH_DATA_MOD)
 254
 255 struct header_ops {
 256         int     (*create) (struct sk_buff *skb, struct net_device *dev,
 257                            unsigned short type, const void *daddr,
 258                            const void *saddr, unsigned len);
 259         int     (*parse)(const struct sk_buff *skb, unsigned char *haddr);
 260         int     (*rebuild)(struct sk_buff *skb);
 261 #define HAVE_HEADER_CACHE
 262         int     (*cache)(const struct neighbour *neigh, struct hh_cache *hh);
 263         void    (*cache_update)(struct hh_cache *hh,
 264                                 const struct net_device *dev,
 265                                 const unsigned char *haddr);
 266 };
 267
 268 /* These flag bits are private to the generic network queueing
 269  * layer, they may not be explicitly referenced by any other
 270  * code.
 271  */
 272
 273 enum netdev_state_t
 274 {
 275         __LINK_STATE_START,
 276         __LINK_STATE_PRESENT,
 277         __LINK_STATE_NOCARRIER,
 278         __LINK_STATE_LINKWATCH_PENDING,
 279         __LINK_STATE_DORMANT,
 280 };
 281
 282
 283 /*
 284  * This structure holds at boot time configured netdevice settings. They
 285  * are then used in the device probing.
 286  */
 287 struct netdev_boot_setup {
 288         char name[IFNAMSIZ];
 289         struct ifmap map;
 290 };
 291 #define NETDEV_BOOT_SETUP_MAX 8
 292
 293 extern int __init netdev_boot_setup(char *str);
 294
 295 /*
 296  * Structure for NAPI scheduling similar to tasklet but with weighting
 297  */
 298 struct napi_struct {
 299         /* The poll_list must only be managed by the entity which
 300          * changes the state of the NAPI_STATE_SCHED bit.  This means
 301          * whoever atomically sets that bit can add this napi_struct
 302          * to the per-cpu poll_list, and whoever clears that bit
 303          * can remove from the list right before clearing the bit.
 304          */
 305         struct list_head        poll_list;
 306
 307         unsigned long           state;
 308         int                     weight;
 309         int                     (*poll)(struct napi_struct *, int);
 310 #ifdef CONFIG_NETPOLL
 311         spinlock_t              poll_lock;
 312         int                     poll_owner;
 313         struct net_device       *dev;
 314         struct list_head        dev_list;
 315 #endif
 316 };
 317
 318 enum
 319 {
 320         NAPI_STATE_SCHED,       /* Poll is scheduled */
 321         NAPI_STATE_DISABLE,     /* Disable pending */
 322         NAPI_STATE_NPSVC,       /* Netpoll - don't dequeue from poll_list */
 323 };
 324
 325 extern void __napi_schedule(struct napi_struct *n);
 326
 327 static inline int napi_disable_pending(struct napi_struct *n)
 328 {
 329         return test_bit(NAPI_STATE_DISABLE, &n->state);
 330 }
 331
 332 /**
 333  *      napi_schedule_prep - check if napi can be scheduled
 334  *      @n: napi context
 335  *
 336  * Test if NAPI routine is already running, and if not mark
 337  * it as running.  This is used as a condition variable
 338  * insure only one NAPI poll instance runs.  We also make
 339  * sure there is no pending NAPI disable.
 340  */
 341 static inline int napi_schedule_prep(struct napi_struct *n)
 342 {
 343         return !napi_disable_pending(n) &&
 344                 !test_and_set_bit(NAPI_STATE_SCHED, &n->state);
 345 }
 346
 347 /**
 348  *      napi_schedule - schedule NAPI poll
 349  *      @n: napi context
 350  *
 351  * Schedule NAPI poll routine to be called if it is not already
 352  * running.
 353  */
 354 static inline void napi_schedule(struct napi_struct *n)
 355 {
 356         if (napi_schedule_prep(n))
 357                 __napi_schedule(n);
 358 }
 359
 360 /* Try to reschedule poll. Called by dev->poll() after napi_complete().  */
 361 static inline int napi_reschedule(struct napi_struct *napi)
 362 {
 363         if (napi_schedule_prep(napi)) {
 364                 __napi_schedule(napi);
 365                 return 1;
 366         }
 367         return 0;
 368 }
 369
 370 /**
 371  *      napi_complete - NAPI processing complete
 372  *      @n: napi context
 373  *
 374  * Mark NAPI processing as complete.
 375  */
 376 static inline void __napi_complete(struct napi_struct *n)
 377 {
 378         BUG_ON(!test_bit(NAPI_STATE_SCHED, &n->state));
 379         list_del(&n->poll_list);
 380         smp_mb__before_clear_bit();
 381         clear_bit(NAPI_STATE_SCHED, &n->state);
 382 }
 383
 384 static inline void napi_complete(struct napi_struct *n)
 385 {
 386         unsigned long flags;
 387
 388         local_irq_save(flags);
 389         __napi_complete(n);
 390         local_irq_restore(flags);
 391 }
 392
 393 /**
 394  *      napi_disable - prevent NAPI from scheduling
 395  *      @n: napi context
 396  *
 397  * Stop NAPI from being scheduled on this context.
 398  * Waits till any outstanding processing completes.
 399  */
 400 static inline void napi_disable(struct napi_struct *n)
 401 {
 402         set_bit(NAPI_STATE_DISABLE, &n->state);
 403         while (test_and_set_bit(NAPI_STATE_SCHED, &n->state))
 404                 msleep(1);
 405         clear_bit(NAPI_STATE_DISABLE, &n->state);
 406 }
 407
 408 /**
 409  *      napi_enable - enable NAPI scheduling
 410  *      @n: napi context
 411  *
 412  * Resume NAPI from being scheduled on this context.
 413  * Must be paired with napi_disable.
 414  */
 415 static inline void napi_enable(struct napi_struct *n)
 416 {
 417         BUG_ON(!test_bit(NAPI_STATE_SCHED, &n->state));
 418         smp_mb__before_clear_bit();
 419         clear_bit(NAPI_STATE_SCHED, &n->state);
 420 }
 421
 422 #ifdef CONFIG_SMP
 423 /**
 424  *      napi_synchronize - wait until NAPI is not running
 425  *      @n: napi context
 426  *
 427  * Wait until NAPI is done being scheduled on this context.
 428  * Waits till any outstanding processing completes but
 429  * does not disable future activations.
 430  */
 431 static inline void napi_synchronize(const struct napi_struct *n)
 432 {
 433         while (test_bit(NAPI_STATE_SCHED, &n->state))
 434                 msleep(1);
 435 }
 436 #else
 437 # define napi_synchronize(n)    barrier()
 438 #endif
 439
 440 enum netdev_queue_state_t
 441 {
 442         __QUEUE_STATE_XOFF,
 443         __QUEUE_STATE_FROZEN,
 444 };
 445
 446 struct netdev_queue {
 447         struct net_device       *dev;
 448         struct Qdisc            *qdisc;
 449         unsigned long           state;
 450         spinlock_t              _xmit_lock;
 451         int                     xmit_lock_owner;
 452         struct Qdisc            *qdisc_sleeping;
 453 } ____cacheline_aligned_in_smp;
 454
 455 /*
 456  *      The DEVICE structure.
 457  *      Actually, this whole structure is a big mistake.  It mixes I/O
 458  *      data with strictly "high-level" data, and it has to know about
 459  *      almost every data structure used in the INET module.
 460  *
 461  *      FIXME: cleanup struct net_device such that network protocol info
 462  *      moves out.
 463  */
 464
 465 struct net_device
 466 {
 467
 468         /*
 469          * This is the first field of the "visible" part of this structure
 470          * (i.e. as seen by users in the "Space.c" file).  It is the name
 471          * the interface.
 472          */
 473         char                    name[IFNAMSIZ];
 474         /* device name hash chain */
 475         struct hlist_node       name_hlist;
 476         /* snmp alias */
 477         char                    *ifalias;
 478
 479         /*
 480          *      I/O specific fields
 481          *      FIXME: Merge these and struct ifmap into one
 482          */
 483         unsigned long           mem_end;        /* shared mem end       */
 484         unsigned long           mem_start;      /* shared mem start     */
 485         unsigned long           base_addr;      /* device I/O address   */
 486         unsigned int            irq;            /* device IRQ number    */
 487
 488         /*
 489          *      Some hardware also needs these fields, but they are not
 490          *      part of the usual set specified in Space.c.
 491          */
 492
 493         unsigned char           if_port;        /* Selectable AUI, TP,..*/
 494         unsigned char           dma;            /* DMA channel          */
 495
 496         unsigned long           state;
 497
 498         struct list_head        dev_list;
 499 #ifdef CONFIG_NETPOLL
 500         struct list_head        napi_list;
 501 #endif
 502
 503         /* The device initialization function. Called only once. */
 504         int                     (*init)(struct net_device *dev);
 505
 506         /* ------- Fields preinitialized in Space.c finish here ------- */
 507
 508         /* Net device features */
 509         unsigned long           features;
 510 #define NETIF_F_SG              1       /* Scatter/gather IO. */
 511 #define NETIF_F_IP_CSUM         2       /* Can checksum TCP/UDP over IPv4. */
 512 #define NETIF_F_NO_CSUM         4       /* Does not require checksum. F.e. loopack. */
 513 #define NETIF_F_HW_CSUM         8       /* Can checksum all the packets. */
 514 #define NETIF_F_IPV6_CSUM       16      /* Can checksum TCP/UDP over IPV6 */
 515 #define NETIF_F_HIGHDMA         32      /* Can DMA to high memory. */
 516 #define NETIF_F_FRAGLIST        64      /* Scatter/gather IO. */
 517 #define NETIF_F_HW_VLAN_TX      128     /* Transmit VLAN hw acceleration */
 518 #define NETIF_F_HW_VLAN_RX      256     /* Receive VLAN hw acceleration */
 519 #define NETIF_F_HW_VLAN_FILTER  512     /* Receive filtering on VLAN */
 520 #define NETIF_F_VLAN_CHALLENGED 1024    /* Device cannot handle VLAN packets */
 521 #define NETIF_F_GSO             2048    /* Enable software GSO. */
 522 #define NETIF_F_LLTX            4096    /* LockLess TX - deprecated. Please */
 523                                         /* do not use LLTX in new drivers */
 524 #define NETIF_F_NETNS_LOCAL     8192    /* Does not change network namespaces */
 525 #define NETIF_F_LRO             32768   /* large receive offload */
 526
 527         /* Segmentation offload features */
 528 #define NETIF_F_GSO_SHIFT       16
 529 #define NETIF_F_GSO_MASK        0xffff0000
 530 #define NETIF_F_TSO             (SKB_GSO_TCPV4 << NETIF_F_GSO_SHIFT)
 531 #define NETIF_F_UFO             (SKB_GSO_UDP << NETIF_F_GSO_SHIFT)
 532 #define NETIF_F_GSO_ROBUST      (SKB_GSO_DODGY << NETIF_F_GSO_SHIFT)
 533 #define NETIF_F_TSO_ECN         (SKB_GSO_TCP_ECN << NETIF_F_GSO_SHIFT)
 534 #define NETIF_F_TSO6            (SKB_GSO_TCPV6 << NETIF_F_GSO_SHIFT)
 535
 536         /* List of features with software fallbacks. */
 537 #define NETIF_F_GSO_SOFTWARE    (NETIF_F_TSO | NETIF_F_TSO_ECN | NETIF_F_TSO6)
 538
 539
 540 #define NETIF_F_GEN_CSUM        (NETIF_F_NO_CSUM | NETIF_F_HW_CSUM)
 541 #define NETIF_F_V4_CSUM         (NETIF_F_GEN_CSUM | NETIF_F_IP_CSUM)
 542 #define NETIF_F_V6_CSUM         (NETIF_F_GEN_CSUM | NETIF_F_IPV6_CSUM)
 543 #define NETIF_F_ALL_CSUM        (NETIF_F_V4_CSUM | NETIF_F_V6_CSUM)
 544
 545         /*
 546          * If one device supports one of these features, then enable them
 547          * for all in netdev_increment_features.
 548          */
 549 #define NETIF_F_ONE_FOR_ALL     (NETIF_F_GSO_SOFTWARE | NETIF_F_GSO_ROBUST | \
 550                                  NETIF_F_SG | NETIF_F_HIGHDMA | \
 551                                  NETIF_F_FRAGLIST)
 552
 553         /* Interface index. Unique device identifier    */
 554         int                     ifindex;
 555         int                     iflink;
 556
 557
 558         struct net_device_stats* (*get_stats)(struct net_device *dev);
 559         struct net_device_stats stats;
 560
 561 #ifdef CONFIG_WIRELESS_EXT
 562         /* List of functions to handle Wireless Extensions (instead of ioctl).
 563          * See <net/iw_handler.h> for details. Jean II */
 564         const struct iw_handler_def *   wireless_handlers;
 565         /* Instance data managed by the core of Wireless Extensions. */
 566         struct iw_public_data * wireless_data;
 567 #endif
 568         const struct ethtool_ops *ethtool_ops;
 569
 570         /* Hardware header description */
 571         const struct header_ops *header_ops;
 572
 573         /*
 574          * This marks the end of the "visible" part of the structure. All
 575          * fields hereafter are internal to the system, and may change at
 576          * will (read: may be cleaned up at will).
 577          */
 578
 579
 580         unsigned int            flags;  /* interface flags (a la BSD)   */
 581         unsigned short          gflags;
 582         unsigned short          priv_flags; /* Like 'flags' but invisible to userspace. */
 583         unsigned short          padded; /* How much padding added by alloc_netdev() */
 584
 585         unsigned char           operstate; /* RFC2863 operstate */
 586         unsigned char           link_mode; /* mapping policy to operstate */
 587
 588         unsigned                mtu;    /* interface MTU value          */
 589         unsigned short          type;   /* interface hardware type      */
 590         unsigned short          hard_header_len;        /* hardware hdr length  */
 591
 592         /* extra head- and tailroom the hardware may need, but not in all cases
 593          * can this be guaranteed, especially tailroom. Some cases also use
 594          * LL_MAX_HEADER instead to allocate the skb.
 595          */
 596         unsigned short          needed_headroom;
 597         unsigned short          needed_tailroom;
 598
 599         struct net_device       *master; /* Pointer to master device of a group,
 600                                           * which this device is member of.
 601                                           */
 602
 603         /* Interface address info. */
 604         unsigned char           perm_addr[MAX_ADDR_LEN]; /* permanent hw address */
 605         unsigned char           addr_len;       /* hardware address length      */
 606         unsigned short          dev_id;         /* for shared network cards */
 607
 608         spinlock_t              addr_list_lock;
 609         struct dev_addr_list    *uc_list;       /* Secondary unicast mac addresses */
 610         int                     uc_count;       /* Number of installed ucasts   */
 611         int                     uc_promisc;
 612         struct dev_addr_list    *mc_list;       /* Multicast mac addresses      */
 613         int                     mc_count;       /* Number of installed mcasts   */
 614         unsigned int            promiscuity;
 615         unsigned int            allmulti;
 616
 617
 618         /* Protocol specific pointers */
 619
 620 #ifdef CONFIG_NET_DSA
 621         void                    *dsa_ptr;       /* dsa specific data */
 622 #endif
 623         void                    *atalk_ptr;     /* AppleTalk link       */
 624         void                    *ip_ptr;        /* IPv4 specific data   */
 625         void                    *dn_ptr;        /* DECnet specific data */
 626         void                    *ip6_ptr;       /* IPv6 specific data */
 627         void                    *ec_ptr;        /* Econet specific data */
 628         void                    *ax25_ptr;      /* AX.25 specific data */
 629         struct wireless_dev     *ieee80211_ptr; /* IEEE 802.11 specific data,
 630                                                    assign before registering */
 631
 632 /*
 633  * Cache line mostly used on receive path (including eth_type_trans())
 634  */
 635         unsigned long           last_rx;        /* Time of last Rx      */
 636         /* Interface address info used in eth_type_trans() */
 637         unsigned char           dev_addr[MAX_ADDR_LEN]; /* hw address, (before bcast
 638                                                         because most packets are unicast) */
 639
 640         unsigned char           broadcast[MAX_ADDR_LEN];        /* hw bcast add */
 641
 642         struct netdev_queue     rx_queue;
 643
 644         struct netdev_queue     *_tx ____cacheline_aligned_in_smp;
 645
 646         /* Number of TX queues allocated at alloc_netdev_mq() time  */
 647         unsigned int            num_tx_queues;
 648
 649         /* Number of TX queues currently active in device  */
 650         unsigned int            real_num_tx_queues;
 651
 652         unsigned long           tx_queue_len;   /* Max frames per queue allowed */
 653         spinlock_t              tx_global_lock;
 654 /*
 655  * One part is mostly used on xmit path (device)
 656  */
 657         void                    *priv;  /* pointer to private data      */
 658         int                     (*hard_start_xmit) (struct sk_buff *skb,
 659                                                     struct net_device *dev);
 660         /* These may be needed for future network-power-down code. */
 661         unsigned long           trans_start;    /* Time (in jiffies) of last Tx */
 662
 663         int                     watchdog_timeo; /* used by dev_watchdog() */
 664         struct timer_list       watchdog_timer;
 665
 666 /*
 667  * refcnt is a very hot point, so align it on SMP
 668  */
 669         /* Number of references to this device */
 670         atomic_t                refcnt ____cacheline_aligned_in_smp;
 671
 672         /* delayed register/unregister */
 673         struct list_head        todo_list;
 674         /* device index hash chain */
 675         struct hlist_node       index_hlist;
 676
 677         struct net_device       *link_watch_next;
 678
 679         /* register/unregister state machine */
 680         enum { NETREG_UNINITIALIZED=0,
 681                NETREG_REGISTERED,       /* completed register_netdevice */
 682                NETREG_UNREGISTERING,    /* called unregister_netdevice */
 683                NETREG_UNREGISTERED,     /* completed unregister todo */
 684                NETREG_RELEASED,         /* called free_netdev */
 685         } reg_state;
 686
 687         /* Called after device is detached from network. */
 688         void                    (*uninit)(struct net_device *dev);
 689         /* Called after last user reference disappears. */
 690         void                    (*destructor)(struct net_device *dev);
 691
 692         /* Pointers to interface service routines.      */
 693         int                     (*open)(struct net_device *dev);
 694         int                     (*stop)(struct net_device *dev);
 695 #define HAVE_NETDEV_POLL
 696 #define HAVE_CHANGE_RX_FLAGS
 697         void                    (*change_rx_flags)(struct net_device *dev,
 698                                                    int flags);
 699 #define HAVE_SET_RX_MODE
 700         void                    (*set_rx_mode)(struct net_device *dev);
 701 #define HAVE_MULTICAST
 702         void                    (*set_multicast_list)(struct net_device *dev);
 703 #define HAVE_SET_MAC_ADDR
 704         int                     (*set_mac_address)(struct net_device *dev,
 705                                                    void *addr);
 706 #define HAVE_VALIDATE_ADDR
 707         int                     (*validate_addr)(struct net_device *dev);
 708 #define HAVE_PRIVATE_IOCTL
 709         int                     (*do_ioctl)(struct net_device *dev,
 710                                             struct ifreq *ifr, int cmd);
 711 #define HAVE_SET_CONFIG
 712         int                     (*set_config)(struct net_device *dev,
 713                                               struct ifmap *map);
 714 #define HAVE_CHANGE_MTU
 715         int                     (*change_mtu)(struct net_device *dev, int new_mtu);
 716
 717 #define HAVE_TX_TIMEOUT
 718         void                    (*tx_timeout) (struct net_device *dev);
 719
 720         void                    (*vlan_rx_register)(struct net_device *dev,
 721                                                     struct vlan_group *grp);
 722         void                    (*vlan_rx_add_vid)(struct net_device *dev,
 723                                                    unsigned short vid);
 724         void                    (*vlan_rx_kill_vid)(struct net_device *dev,
 725                                                     unsigned short vid);
 726
 727         int                     (*neigh_setup)(struct net_device *dev, struct neigh_parms *);
 728 #ifdef CONFIG_NETPOLL
 729         struct netpoll_info     *npinfo;
 730 #endif
 731 #ifdef CONFIG_NET_POLL_CONTROLLER
 732         void                    (*poll_controller)(struct net_device *dev);
 733 #endif
 734
 735         u16                     (*select_queue)(struct net_device *dev,
 736                                                 struct sk_buff *skb);
 737
 738 #ifdef CONFIG_NET_NS
 739         /* Network namespace this network device is inside */
 740         struct net              *nd_net;
 741 #endif
 742
 743         /* mid-layer private */
 744         void                    *ml_priv;
 745
 746         /* bridge stuff */
 747         struct net_bridge_port  *br_port;
 748         /* macvlan */
 749         struct macvlan_port     *macvlan_port;
 750         /* GARP */
 751         struct garp_port        *garp_port;
 752
 753         /* class/net/name entry */
 754         struct device           dev;
 755         /* space for optional statistics and wireless sysfs groups */
 756         struct attribute_group  *sysfs_groups[3];
 757
 758         /* rtnetlink link ops */
 759         const struct rtnl_link_ops *rtnl_link_ops;
 760
 761         /* VLAN feature mask */
 762         unsigned long vlan_features;
 763
 764         /* for setting kernel sock attribute on TCP connection setup */
 765 #define GSO_MAX_SIZE            65536
 766         unsigned int            gso_max_size;
 767 };
 768 #define to_net_dev(d) container_of(d, struct net_device, dev)
 769
 770 #define NETDEV_ALIGN            32
 771 #define NETDEV_ALIGN_CONST      (NETDEV_ALIGN - 1)
 772
 773 static inline
 774 struct netdev_queue *netdev_get_tx_queue(const struct net_device *dev,
 775                                          unsigned int index)
 776 {
 777         return &dev->_tx[index];
 778 }
 779
 780 static inline void netdev_for_each_tx_queue(struct net_device *dev,
 781                                             void (*f)(struct net_device *,
 782                                                       struct netdev_queue *,
 783                                                       void *),
 784                                             void *arg)
 785 {
 786         unsigned int i;
 787
 788         for (i = 0; i < dev->num_tx_queues; i++)
 789                 f(dev, &dev->_tx[i], arg);
 790 }
 791
 792 /*
 793  * Net namespace inlines
 794  */
 795 static inline
 796 struct net *dev_net(const struct net_device *dev)
 797 {
 798 #ifdef CONFIG_NET_NS
 799         return dev->nd_net;
 800 #else
 801         return &init_net;
 802 #endif
 803 }
 804
 805 static inline
 806 void dev_net_set(struct net_device *dev, struct net *net)
 807 {
 808 #ifdef CONFIG_NET_NS
 809         release_net(dev->nd_net);
 810         dev->nd_net = hold_net(net);
 811 #endif
 812 }
 813
 814 static inline bool netdev_uses_dsa_tags(struct net_device *dev)
 815 {
 816 #ifdef CONFIG_NET_DSA_TAG_DSA
 817         if (dev->dsa_ptr != NULL)
 818                 return dsa_uses_dsa_tags(dev->dsa_ptr);
 819 #endif
 820
 821         return 0;
 822 }
 823
 824 static inline bool netdev_uses_trailer_tags(struct net_device *dev)
 825 {
 826 #ifdef CONFIG_NET_DSA_TAG_TRAILER
 827         if (dev->dsa_ptr != NULL)
 828                 return dsa_uses_trailer_tags(dev->dsa_ptr);
 829 #endif
 830
 831         return 0;
 832 }
 833
 834 /**
 835  *      netdev_priv - access network device private data
 836  *      @dev: network device
 837  *
 838  * Get network device private data
 839  */
 840 static inline void *netdev_priv(const struct net_device *dev)
 841 {
 842         return (char *)dev + ((sizeof(struct net_device)
 843                                + NETDEV_ALIGN_CONST)
 844                               & ~NETDEV_ALIGN_CONST);
 845 }
 846
 847 /* Set the sysfs physical device reference for the network logical device
 848  * if set prior to registration will cause a symlink during initialization.
 849  */
 850 #define SET_NETDEV_DEV(net, pdev)       ((net)->dev.parent = (pdev))
 851
 852 /**
 853  *      netif_napi_add - initialize a napi context
 854  *      @dev:  network device
 855  *      @napi: napi context
 856  *      @poll: polling function
 857  *      @weight: default weight
 858  *
 859  * netif_napi_add() must be used to initialize a napi context prior to calling
 860  * *any* of the other napi related functions.
 861  */
 862 static inline void netif_napi_add(struct net_device *dev,
 863                                   struct napi_struct *napi,
 864                                   int (*poll)(struct napi_struct *, int),
 865                                   int weight)
 866 {
 867         INIT_LIST_HEAD(&napi->poll_list);
 868         napi->poll = poll;
 869         napi->weight = weight;
 870 #ifdef CONFIG_NETPOLL
 871         napi->dev = dev;
 872         list_add(&napi->dev_list, &dev->napi_list);
 873         spin_lock_init(&napi->poll_lock);
 874         napi->poll_owner = -1;
 875 #endif
 876         set_bit(NAPI_STATE_SCHED, &napi->state);
 877 }
 878
 879 /**
 880  *  netif_napi_del - remove a napi context
 881  *  @napi: napi context
 882  *
 883  *  netif_napi_del() removes a napi context from the network device napi list
 884  */
 885 static inline void netif_napi_del(struct napi_struct *napi)
 886 {
 887 #ifdef CONFIG_NETPOLL
 888         list_del(&napi->dev_list);
 889 #endif
 890 }
 891
 892 struct packet_type {
 893         __be16                  type;   /* This is really htons(ether_type). */
 894         struct net_device       *dev;   /* NULL is wildcarded here           */
 895         int                     (*func) (struct sk_buff *,
 896                                          struct net_device *,
 897                                          struct packet_type *,
 898                                          struct net_device *);
 899         struct sk_buff          *(*gso_segment)(struct sk_buff *skb,
 900                                                 int features);
 901         int                     (*gso_send_check)(struct sk_buff *skb);
 902         void                    *af_packet_priv;
 903         struct list_head        list;
 904 };
 905
 906 #include <linux/interrupt.h>
 907 #include <linux/notifier.h>
 908
 909 extern rwlock_t                         dev_base_lock;          /* Device list lock */
 910
 911
 912 #define for_each_netdev(net, d)         \
 913                 list_for_each_entry(d, &(net)->dev_base_head, dev_list)
 914 #define for_each_netdev_safe(net, d, n) \
 915                 list_for_each_entry_safe(d, n, &(net)->dev_base_head, dev_list)
 916 #define for_each_netdev_continue(net, d)                \
 917                 list_for_each_entry_continue(d, &(net)->dev_base_head, dev_list)
 918 #define net_device_entry(lh)    list_entry(lh, struct net_device, dev_list)
 919
 920 static inline struct net_device *next_net_device(struct net_device *dev)
 921 {
 922         struct list_head *lh;
 923         struct net *net;
 924
 925         net = dev_net(dev);
 926         lh = dev->dev_list.next;
 927         return lh == &net->dev_base_head ? NULL : net_device_entry(lh);
 928 }
 929
 930 static inline struct net_device *first_net_device(struct net *net)
 931 {
 932         return list_empty(&net->dev_base_head) ? NULL :
 933                 net_device_entry(net->dev_base_head.next);
 934 }
 935
 936 extern int                      netdev_boot_setup_check(struct net_device *dev);
 937 extern unsigned long            netdev_boot_base(const char *prefix, int unit);
 938 extern struct net_device    *dev_getbyhwaddr(struct net *net, unsigned short type, char *hwaddr);
 939 extern struct net_device *dev_getfirstbyhwtype(struct net *net, unsigned short type);
 940 extern struct net_device *__dev_getfirstbyhwtype(struct net *net, unsigned short type);
 941 extern void             dev_add_pack(struct packet_type *pt);
 942 extern void             dev_remove_pack(struct packet_type *pt);
 943 extern void             __dev_remove_pack(struct packet_type *pt);
 944
 945 extern struct net_device        *dev_get_by_flags(struct net *net, unsigned short flags,
 946                                                   unsigned short mask);
 947 extern struct net_device        *dev_get_by_name(struct net *net, const char *name);
 948 extern struct net_device        *__dev_get_by_name(struct net *net, const char *name);
 949 extern int              dev_alloc_name(struct net_device *dev, const char *name);
 950 extern int              dev_open(struct net_device *dev);
 951 extern int              dev_close(struct net_device *dev);
 952 extern void             dev_disable_lro(struct net_device *dev);
 953 extern int              dev_queue_xmit(struct sk_buff *skb);
 954 extern int              register_netdevice(struct net_device *dev);
 955 extern void             unregister_netdevice(struct net_device *dev);
 956 extern void             free_netdev(struct net_device *dev);
 957 extern void             synchronize_net(void);
 958 extern int              register_netdevice_notifier(struct notifier_block *nb);
 959 extern int              unregister_netdevice_notifier(struct notifier_block *nb);
 960 extern int call_netdevice_notifiers(unsigned long val, struct net_device *dev);
 961 extern struct net_device        *dev_get_by_index(struct net *net, int ifindex);
 962 extern struct net_device        *__dev_get_by_index(struct net *net, int ifindex);
 963 extern int              dev_restart(struct net_device *dev);
 964 #ifdef CONFIG_NETPOLL_TRAP
 965 extern int              netpoll_trap(void);
 966 #endif
 967
 968 static inline int dev_hard_header(struct sk_buff *skb, struct net_device *dev,
 969                                   unsigned short type,
 970                                   const void *daddr, const void *saddr,
 971                                   unsigned len)
 972 {
 973         if (!dev->header_ops || !dev->header_ops->create)
 974                 return 0;
 975
 976         return dev->header_ops->create(skb, dev, type, daddr, saddr, len);
 977 }
 978
 979 static inline int dev_parse_header(const struct sk_buff *skb,
 980                                    unsigned char *haddr)
 981 {
 982         const struct net_device *dev = skb->dev;
 983
 984         if (!dev->header_ops || !dev->header_ops->parse)
 985                 return 0;
 986         return dev->header_ops->parse(skb, haddr);
 987 }
 988
 989 typedef int gifconf_func_t(struct net_device * dev, char __user * bufptr, int len);
 990 extern int              register_gifconf(unsigned int family, gifconf_func_t * gifconf);
 991 static inline int unregister_gifconf(unsigned int family)
 992 {
 993         return register_gifconf(family, NULL);
 994 }
 995
 996 /*
 997  * Incoming packets are placed on per-cpu queues so that
 998  * no locking is needed.
 999  */
1000 struct softnet_data
1001 {
1002         struct Qdisc            *output_queue;
1003         struct sk_buff_head     input_pkt_queue;
1004         struct list_head        poll_list;
1005         struct sk_buff          *completion_queue;
1006
1007         struct napi_struct      backlog;
1008 #ifdef CONFIG_NET_DMA
1009         struct dma_chan         *net_dma;
1010 #endif
1011 };
1012
1013 DECLARE_PER_CPU(struct softnet_data,softnet_data);
1014
1015 #define HAVE_NETIF_QUEUE
1016
1017 extern void __netif_schedule(struct Qdisc *q);
1018
1019 static inline void netif_schedule_queue(struct netdev_queue *txq)
1020 {
1021         if (!test_bit(__QUEUE_STATE_XOFF, &txq->state))
1022                 __netif_schedule(txq->qdisc);
1023 }
1024
1025 static inline void netif_tx_schedule_all(struct net_device *dev)
1026 {
1027         unsigned int i;
1028
1029         for (i = 0; i < dev->num_tx_queues; i++)
1030                 netif_schedule_queue(netdev_get_tx_queue(dev, i));
1031 }
1032
1033 static inline void netif_tx_start_queue(struct netdev_queue *dev_queue)
1034 {
1035         clear_bit(__QUEUE_STATE_XOFF, &dev_queue->state);
1036 }
1037
1038 /**
1039  *      netif_start_queue - allow transmit
1040  *      @dev: network device
1041  *
1042  *      Allow upper layers to call the device hard_start_xmit routine.
1043  */
1044 static inline void netif_start_queue(struct net_device *dev)
1045 {
1046         netif_tx_start_queue(netdev_get_tx_queue(dev, 0));
1047 }
1048
1049 static inline void netif_tx_start_all_queues(struct net_device *dev)
1050 {
1051         unsigned int i;
1052
1053         for (i = 0; i < dev->num_tx_queues; i++) {
1054                 struct netdev_queue *txq = netdev_get_tx_queue(dev, i);
1055                 netif_tx_start_queue(txq);
1056         }
1057 }
1058
1059 static inline void netif_tx_wake_queue(struct netdev_queue *dev_queue)
1060 {
1061 #ifdef CONFIG_NETPOLL_TRAP
1062         if (netpoll_trap()) {
1063                 clear_bit(__QUEUE_STATE_XOFF, &dev_queue->state);
1064                 return;
1065         }
1066 #endif
1067         if (test_and_clear_bit(__QUEUE_STATE_XOFF, &dev_queue->state))
1068                 __netif_schedule(dev_queue->qdisc);
1069 }
1070
1071 /**
1072  *      netif_wake_queue - restart transmit
1073  *      @dev: network device
1074  *
1075  *      Allow upper layers to call the device hard_start_xmit routine.
1076  *      Used for flow control when transmit resources are available.
1077  */
1078 static inline void netif_wake_queue(struct net_device *dev)
1079 {
1080         netif_tx_wake_queue(netdev_get_tx_queue(dev, 0));
1081 }
1082
1083 static inline void netif_tx_wake_all_queues(struct net_device *dev)
1084 {
1085         unsigned int i;
1086
1087         for (i = 0; i < dev->num_tx_queues; i++) {
1088                 struct netdev_queue *txq = netdev_get_tx_queue(dev, i);
1089                 netif_tx_wake_queue(txq);
1090         }
1091 }
1092
1093 static inline void netif_tx_stop_queue(struct netdev_queue *dev_queue)
1094 {
1095         set_bit(__QUEUE_STATE_XOFF, &dev_queue->state);
1096 }
1097
1098 /**
1099  *      netif_stop_queue - stop transmitted packets
1100  *      @dev: network device
1101  *
1102  *      Stop upper layers calling the device hard_start_xmit routine.
1103  *      Used for flow control when transmit resources are unavailable.
1104  */
1105 static inline void netif_stop_queue(struct net_device *dev)
1106 {
1107         netif_tx_stop_queue(netdev_get_tx_queue(dev, 0));
1108 }
1109
1110 static inline void netif_tx_stop_all_queues(struct net_device *dev)
1111 {
1112         unsigned int i;
1113
1114         for (i = 0; i < dev->num_tx_queues; i++) {
1115                 struct netdev_queue *txq = netdev_get_tx_queue(dev, i);
1116                 netif_tx_stop_queue(txq);
1117         }
1118 }
1119
1120 static inline int netif_tx_queue_stopped(const struct netdev_queue *dev_queue)
1121 {
1122         return test_bit(__QUEUE_STATE_XOFF, &dev_queue->state);
1123 }
1124
1125 /**
1126  *      netif_queue_stopped - test if transmit queue is flowblocked
1127  *      @dev: network device
1128  *
1129  *      Test if transmit queue on device is currently unable to send.
1130  */
1131 static inline int netif_queue_stopped(const struct net_device *dev)
1132 {
1133         return netif_tx_queue_stopped(netdev_get_tx_queue(dev, 0));
1134 }
1135
1136 static inline int netif_tx_queue_frozen(const struct netdev_queue *dev_queue)
1137 {
1138         return test_bit(__QUEUE_STATE_FROZEN, &dev_queue->state);
1139 }
1140
1141 /**
1142  *      netif_running - test if up
1143  *      @dev: network device
1144  *
1145  *      Test if the device has been brought up.
1146  */
1147 static inline int netif_running(const struct net_device *dev)
1148 {
1149         return test_bit(__LINK_STATE_START, &dev->state);
1150 }
1151
1152 /*
1153  * Routines to manage the subqueues on a device.  We only need start
1154  * stop, and a check if it's stopped.  All other device management is
1155  * done at the overall netdevice level.
1156  * Also test the device if we're multiqueue.
1157  */
1158
1159 /**
1160  *      netif_start_subqueue - allow sending packets on subqueue
1161  *      @dev: network device
1162  *      @queue_index: sub queue index
1163  *
1164  * Start individual transmit queue of a device with multiple transmit queues.
1165  */
1166 static inline void netif_start_subqueue(struct net_device *dev, u16 queue_index)
1167 {
1168         struct netdev_queue *txq = netdev_get_tx_queue(dev, queue_index);
1169         clear_bit(__QUEUE_STATE_XOFF, &txq->state);
1170 }
1171
1172 /**
1173  *      netif_stop_subqueue - stop sending packets on subqueue
1174  *      @dev: network device
1175  *      @queue_index: sub queue index
1176  *
1177  * Stop individual transmit queue of a device with multiple transmit queues.
1178  */
1179 static inline void netif_stop_subqueue(struct net_device *dev, u16 queue_index)
1180 {
1181         struct netdev_queue *txq = netdev_get_tx_queue(dev, queue_index);
1182 #ifdef CONFIG_NETPOLL_TRAP
1183         if (netpoll_trap())
1184                 return;
1185 #endif
1186         set_bit(__QUEUE_STATE_XOFF, &txq->state);
1187 }
1188
1189 /**
1190  *      netif_subqueue_stopped - test status of subqueue
1191  *      @dev: network device
1192  *      @queue_index: sub queue index
1193  *
1194  * Check individual transmit queue of a device with multiple transmit queues.
1195  */
1196 static inline int __netif_subqueue_stopped(const struct net_device *dev,
1197                                          u16 queue_index)
1198 {
1199         struct netdev_queue *txq = netdev_get_tx_queue(dev, queue_index);
1200         return test_bit(__QUEUE_STATE_XOFF, &txq->state);
1201 }
1202
1203 static inline int netif_subqueue_stopped(const struct net_device *dev,
1204                                          struct sk_buff *skb)
1205 {
1206         return __netif_subqueue_stopped(dev, skb_get_queue_mapping(skb));
1207 }
1208
1209 /**
1210  *      netif_wake_subqueue - allow sending packets on subqueue
1211  *      @dev: network device
1212  *      @queue_index: sub queue index
1213  *
1214  * Resume individual transmit queue of a device with multiple transmit queues.
1215  */
1216 static inline void netif_wake_subqueue(struct net_device *dev, u16 queue_index)
1217 {
1218         struct netdev_queue *txq = netdev_get_tx_queue(dev, queue_index);
1219 #ifdef CONFIG_NETPOLL_TRAP
1220         if (netpoll_trap())
1221                 return;
1222 #endif
1223         if (test_and_clear_bit(__QUEUE_STATE_XOFF, &txq->state))
1224                 __netif_schedule(txq->qdisc);
1225 }
1226
1227 /**
1228  *      netif_is_multiqueue - test if device has multiple transmit queues
1229  *      @dev: network device
1230  *
1231  * Check if device has multiple transmit queues
1232  */
1233 static inline int netif_is_multiqueue(const struct net_device *dev)
1234 {
1235         return (dev->num_tx_queues > 1);
1236 }
1237
1238 /* Use this variant when it is known for sure that it
1239  * is executing from hardware interrupt context or with hardware interrupts
1240  * disabled.
1241  */
1242 extern void dev_kfree_skb_irq(struct sk_buff *skb);
1243
1244 /* Use this variant in places where it could be invoked
1245  * from either hardware interrupt or other context, with hardware interrupts
1246  * either disabled or enabled.
1247  */
1248 extern void dev_kfree_skb_any(struct sk_buff *skb);
1249
1250 #define HAVE_NETIF_RX 1
1251 extern int              netif_rx(struct sk_buff *skb);
1252 extern int              netif_rx_ni(struct sk_buff *skb);
1253 #define HAVE_NETIF_RECEIVE_SKB 1
1254 extern int              netif_receive_skb(struct sk_buff *skb);
1255 extern void             netif_nit_deliver(struct sk_buff *skb);
1256 extern int              dev_valid_name(const char *name);
1257 extern int              dev_ioctl(struct net *net, unsigned int cmd, void __user *);
1258 extern int              dev_ethtool(struct net *net, struct ifreq *);
1259 extern unsigned         dev_get_flags(const struct net_device *);
1260 extern int              dev_change_flags(struct net_device *, unsigned);
1261 extern int              dev_change_name(struct net_device *, const char *);
1262 extern int              dev_set_alias(struct net_device *, const char *, size_t);
1263 extern int              dev_change_net_namespace(struct net_device *,
1264                                                  struct net *, const char *);
1265 extern int              dev_set_mtu(struct net_device *, int);
1266 extern int              dev_set_mac_address(struct net_device *,
1267                                             struct sockaddr *);
1268 extern int              dev_hard_start_xmit(struct sk_buff *skb,
1269                                             struct net_device *dev,
1270                                             struct netdev_queue *txq);
1271
1272 extern int              netdev_budget;
1273
1274 /* Called by rtnetlink.c:rtnl_unlock() */
1275 extern void netdev_run_todo(void);
1276
1277 /**
1278  *      dev_put - release reference to device
1279  *      @dev: network device
1280  *
1281  * Release reference to device to allow it to be freed.
1282  */
1283 static inline void dev_put(struct net_device *dev)
1284 {
1285         atomic_dec(&dev->refcnt);
1286 }
1287
1288 /**
1289  *      dev_hold - get reference to device
1290  *      @dev: network device
1291  *
1292  * Hold reference to device to keep it from being freed.
1293  */
1294 static inline void dev_hold(struct net_device *dev)
1295 {
1296         atomic_inc(&dev->refcnt);
1297 }
1298
1299 /* Carrier loss detection, dial on demand. The functions netif_carrier_on
1300  * and _off may be called from IRQ context, but it is caller
1301  * who is responsible for serialization of these calls.
1302  *
1303  * The name carrier is inappropriate, these functions should really be
1304  * called netif_lowerlayer_*() because they represent the state of any
1305  * kind of lower layer not just hardware media.
1306  */
1307
1308 extern void linkwatch_fire_event(struct net_device *dev);
1309
1310 /**
1311  *      netif_carrier_ok - test if carrier present
1312  *      @dev: network device
1313  *
1314  * Check if carrier is present on device
1315  */
1316 static inline int netif_carrier_ok(const struct net_device *dev)
1317 {
1318         return !test_bit(__LINK_STATE_NOCARRIER, &dev->state);
1319 }
1320
1321 extern void __netdev_watchdog_up(struct net_device *dev);
1322
1323 extern void netif_carrier_on(struct net_device *dev);
1324
1325 extern void netif_carrier_off(struct net_device *dev);
1326
1327 /**
1328  *      netif_dormant_on - mark device as dormant.
1329  *      @dev: network device
1330  *
1331  * Mark device as dormant (as per RFC2863).
1332  *
1333  * The dormant state indicates that the relevant interface is not
1334  * actually in a condition to pass packets (i.e., it is not 'up') but is
1335  * in a "pending" state, waiting for some external event.  For "on-
1336  * demand" interfaces, this new state identifies the situation where the
1337  * interface is waiting for events to place it in the up state.
1338  *
1339  */
1340 static inline void netif_dormant_on(struct net_device *dev)
1341 {
1342         if (!test_and_set_bit(__LINK_STATE_DORMANT, &dev->state))
1343                 linkwatch_fire_event(dev);
1344 }
1345
1346 /**
1347  *      netif_dormant_off - set device as not dormant.
1348  *      @dev: network device
1349  *
1350  * Device is not in dormant state.
1351  */
1352 static inline void netif_dormant_off(struct net_device *dev)
1353 {
1354         if (test_and_clear_bit(__LINK_STATE_DORMANT, &dev->state))
1355                 linkwatch_fire_event(dev);
1356 }
1357
1358 /**
1359  *      netif_dormant - test if carrier present
1360  *      @dev: network device
1361  *
1362  * Check if carrier is present on device
1363  */
1364 static inline int netif_dormant(const struct net_device *dev)
1365 {
1366         return test_bit(__LINK_STATE_DORMANT, &dev->state);
1367 }
1368
1369
1370 /**
1371  *      netif_oper_up - test if device is operational
1372  *      @dev: network device
1373  *
1374  * Check if carrier is operational
1375  */
1376 static inline int netif_oper_up(const struct net_device *dev) {
1377         return (dev->operstate == IF_OPER_UP ||
1378                 dev->operstate == IF_OPER_UNKNOWN /* backward compat */);
1379 }
1380
1381 /**
1382  *      netif_device_present - is device available or removed
1383  *      @dev: network device
1384  *
1385  * Check if device has not been removed from system.
1386  */
1387 static inline int netif_device_present(struct net_device *dev)
1388 {
1389         return test_bit(__LINK_STATE_PRESENT, &dev->state);
1390 }
1391
1392 extern void netif_device_detach(struct net_device *dev);
1393
1394 extern void netif_device_attach(struct net_device *dev);
1395
1396 /*
1397  * Network interface message level settings
1398  */
1399 #define HAVE_NETIF_MSG 1
1400
1401 enum {
1402         NETIF_MSG_DRV           = 0x0001,
1403         NETIF_MSG_PROBE         = 0x0002,
1404         NETIF_MSG_LINK          = 0x0004,
1405         NETIF_MSG_TIMER         = 0x0008,
1406         NETIF_MSG_IFDOWN        = 0x0010,
1407         NETIF_MSG_IFUP          = 0x0020,
1408         NETIF_MSG_RX_ERR        = 0x0040,
1409         NETIF_MSG_TX_ERR        = 0x0080,
1410         NETIF_MSG_TX_QUEUED     = 0x0100,
1411         NETIF_MSG_INTR          = 0x0200,
1412         NETIF_MSG_TX_DONE       = 0x0400,
1413         NETIF_MSG_RX_STATUS     = 0x0800,
1414         NETIF_MSG_PKTDATA       = 0x1000,
1415         NETIF_MSG_HW            = 0x2000,
1416         NETIF_MSG_WOL           = 0x4000,
1417 };
1418
1419 #define netif_msg_drv(p)        ((p)->msg_enable & NETIF_MSG_DRV)
1420 #define netif_msg_probe(p)      ((p)->msg_enable & NETIF_MSG_PROBE)
1421 #define netif_msg_link(p)       ((p)->msg_enable & NETIF_MSG_LINK)
1422 #define netif_msg_timer(p)      ((p)->msg_enable & NETIF_MSG_TIMER)
1423 #define netif_msg_ifdown(p)     ((p)->msg_enable & NETIF_MSG_IFDOWN)
1424 #define netif_msg_ifup(p)       ((p)->msg_enable & NETIF_MSG_IFUP)
1425 #define netif_msg_rx_err(p)     ((p)->msg_enable & NETIF_MSG_RX_ERR)
1426 #define netif_msg_tx_err(p)     ((p)->msg_enable & NETIF_MSG_TX_ERR)
1427 #define netif_msg_tx_queued(p)  ((p)->msg_enable & NETIF_MSG_TX_QUEUED)
1428 #define netif_msg_intr(p)       ((p)->msg_enable & NETIF_MSG_INTR)
1429 #define netif_msg_tx_done(p)    ((p)->msg_enable & NETIF_MSG_TX_DONE)
1430 #define netif_msg_rx_status(p)  ((p)->msg_enable & NETIF_MSG_RX_STATUS)
1431 #define netif_msg_pktdata(p)    ((p)->msg_enable & NETIF_MSG_PKTDATA)
1432 #define netif_msg_hw(p)         ((p)->msg_enable & NETIF_MSG_HW)
1433 #define netif_msg_wol(p)        ((p)->msg_enable & NETIF_MSG_WOL)
1434
1435 static inline u32 netif_msg_init(int debug_value, int default_msg_enable_bits)
1436 {
1437         /* use default */
1438         if (debug_value < 0 || debug_value >= (sizeof(u32) * 8))
1439                 return default_msg_enable_bits;
1440         if (debug_value == 0)   /* no output */
1441                 return 0;
1442         /* set low N bits */
1443         return (1 << debug_value) - 1;
1444 }
1445
1446 /* Test if receive needs to be scheduled but only if up */
1447 static inline int netif_rx_schedule_prep(struct net_device *dev,
1448                                          struct napi_struct *napi)
1449 {
1450         return napi_schedule_prep(napi);
1451 }
1452
1453 /* Add interface to tail of rx poll list. This assumes that _prep has
1454  * already been called and returned 1.
1455  */
1456 static inline void __netif_rx_schedule(struct net_device *dev,
1457                                        struct napi_struct *napi)
1458 {
1459         __napi_schedule(napi);
1460 }
1461
1462 /* Try to reschedule poll. Called by irq handler. */
1463
1464 static inline void netif_rx_schedule(struct net_device *dev,
1465                                      struct napi_struct *napi)
1466 {
1467         if (netif_rx_schedule_prep(dev, napi))
1468                 __netif_rx_schedule(dev, napi);
1469 }
1470
1471 /* Try to reschedule poll. Called by dev->poll() after netif_rx_complete().  */
1472 static inline int netif_rx_reschedule(struct net_device *dev,
1473                                       struct napi_struct *napi)
1474 {
1475         if (napi_schedule_prep(napi)) {
1476                 __netif_rx_schedule(dev, napi);
1477                 return 1;
1478         }
1479         return 0;
1480 }
1481
1482 /* same as netif_rx_complete, except that local_irq_save(flags)
1483  * has already been issued
1484  */
1485 static inline void __netif_rx_complete(struct net_device *dev,
1486                                        struct napi_struct *napi)
1487 {
1488         __napi_complete(napi);
1489 }
1490
1491 /* Remove interface from poll list: it must be in the poll list
1492  * on current cpu. This primitive is called by dev->poll(), when
1493  * it completes the work. The device cannot be out of poll list at this
1494  * moment, it is BUG().
1495  */
1496 static inline void netif_rx_complete(struct net_device *dev,
1497                                      struct napi_struct *napi)
1498 {
1499         unsigned long flags;
1500
1501         /*
1502          * don't let napi dequeue from the cpu poll list
1503          * just in case its running on a different cpu
1504          */
1505         if (unlikely(test_bit(NAPI_STATE_NPSVC, &napi->state)))
1506                 return;
1507         local_irq_save(flags);
1508         __netif_rx_complete(dev, napi);
1509         local_irq_restore(flags);
1510 }
1511
1512 static inline void __netif_tx_lock(struct netdev_queue *txq, int cpu)
1513 {
1514         spin_lock(&txq->_xmit_lock);
1515         txq->xmit_lock_owner = cpu;
1516 }
1517
1518 static inline void __netif_tx_lock_bh(struct netdev_queue *txq)
1519 {
1520         spin_lock_bh(&txq->_xmit_lock);
1521         txq->xmit_lock_owner = smp_processor_id();
1522 }
1523
1524 static inline int __netif_tx_trylock(struct netdev_queue *txq)
1525 {
1526         int ok = spin_trylock(&txq->_xmit_lock);
1527         if (likely(ok))
1528                 txq->xmit_lock_owner = smp_processor_id();
1529         return ok;
1530 }
1531
1532 static inline void __netif_tx_unlock(struct netdev_queue *txq)
1533 {
1534         txq->xmit_lock_owner = -1;
1535         spin_unlock(&txq->_xmit_lock);
1536 }
1537
1538 static inline void __netif_tx_unlock_bh(struct netdev_queue *txq)
1539 {
1540         txq->xmit_lock_owner = -1;
1541         spin_unlock_bh(&txq->_xmit_lock);
1542 }
1543
1544 /**
1545  *      netif_tx_lock - grab network device transmit lock
1546  *      @dev: network device
1547  *
1548  * Get network device transmit lock
1549  */
1550 static inline void netif_tx_lock(struct net_device *dev)
1551 {
1552         unsigned int i;
1553         int cpu;
1554
1555         spin_lock(&dev->tx_global_lock);
1556         cpu = smp_processor_id();
1557         for (i = 0; i < dev->num_tx_queues; i++) {
1558                 struct netdev_queue *txq = netdev_get_tx_queue(dev, i);
1559
1560                 /* We are the only thread of execution doing a
1561                  * freeze, but we have to grab the _xmit_lock in
1562                  * order to synchronize with threads which are in
1563                  * the ->hard_start_xmit() handler and already
1564                  * checked the frozen bit.
1565                  */
1566                 __netif_tx_lock(txq, cpu);
1567                 set_bit(__QUEUE_STATE_FROZEN, &txq->state);
1568                 __netif_tx_unlock(txq);
1569         }
1570 }
1571
1572 static inline void netif_tx_lock_bh(struct net_device *dev)
1573 {
1574         local_bh_disable();
1575         netif_tx_lock(dev);
1576 }
1577
1578 static inline void netif_tx_unlock(struct net_device *dev)
1579 {
1580         unsigned int i;
1581
1582         for (i = 0; i < dev->num_tx_queues; i++) {
1583                 struct netdev_queue *txq = netdev_get_tx_queue(dev, i);
1584
1585                 /* No need to grab the _xmit_lock here.  If the
1586                  * queue is not stopped for another reason, we
1587                  * force a schedule.
1588                  */
1589                 clear_bit(__QUEUE_STATE_FROZEN, &txq->state);
1590                 if (!test_bit(__QUEUE_STATE_XOFF, &txq->state))
1591                         __netif_schedule(txq->qdisc);
1592         }
1593         spin_unlock(&dev->tx_global_lock);
1594 }
1595
1596 static inline void netif_tx_unlock_bh(struct net_device *dev)
1597 {
1598         netif_tx_unlock(dev);
1599         local_bh_enable();
1600 }
1601
1602 #define HARD_TX_LOCK(dev, txq, cpu) {                   \
1603         if ((dev->features & NETIF_F_LLTX) == 0) {      \
1604                 __netif_tx_lock(txq, cpu);              \
1605         }                                               \
1606 }
1607
1608 #define HARD_TX_UNLOCK(dev, txq) {                      \
1609         if ((dev->features & NETIF_F_LLTX) == 0) {      \
1610                 __netif_tx_unlock(txq);                 \
1611         }                                               \
1612 }
1613
1614 static inline void netif_tx_disable(struct net_device *dev)
1615 {
1616         unsigned int i;
1617         int cpu;
1618
1619         local_bh_disable();
1620         cpu = smp_processor_id();
1621         for (i = 0; i < dev->num_tx_queues; i++) {
1622                 struct netdev_queue *txq = netdev_get_tx_queue(dev, i);
1623
1624                 __netif_tx_lock(txq, cpu);
1625                 netif_tx_stop_queue(txq);
1626                 __netif_tx_unlock(txq);
1627         }
1628         local_bh_enable();
1629 }
1630
1631 static inline void netif_addr_lock(struct net_device *dev)
1632 {
1633         spin_lock(&dev->addr_list_lock);
1634 }
1635
1636 static inline void netif_addr_lock_bh(struct net_device *dev)
1637 {
1638         spin_lock_bh(&dev->addr_list_lock);
1639 }
1640
1641 static inline void netif_addr_unlock(struct net_device *dev)
1642 {
1643         spin_unlock(&dev->addr_list_lock);
1644 }
1645
1646 static inline void netif_addr_unlock_bh(struct net_device *dev)
1647 {
1648         spin_unlock_bh(&dev->addr_list_lock);
1649 }
1650
1651 /* These functions live elsewhere (drivers/net/net_init.c, but related) */
1652
1653 extern void             ether_setup(struct net_device *dev);
1654
1655 /* Support for loadable net-drivers */
1656 extern struct net_device *alloc_netdev_mq(int sizeof_priv, const char *name,
1657                                        void (*setup)(struct net_device *),
1658                                        unsigned int queue_count);
1659 #define alloc_netdev(sizeof_priv, name, setup) \
1660         alloc_netdev_mq(sizeof_priv, name, setup, 1)
1661 extern int              register_netdev(struct net_device *dev);
1662 extern void             unregister_netdev(struct net_device *dev);
1663 /* Functions used for secondary unicast and multicast support */
1664 extern void             dev_set_rx_mode(struct net_device *dev);
1665 extern void             __dev_set_rx_mode(struct net_device *dev);
1666 extern int              dev_unicast_delete(struct net_device *dev, void *addr, int alen);
1667 extern int              dev_unicast_add(struct net_device *dev, void *addr, int alen);
1668 extern int              dev_unicast_sync(struct net_device *to, struct net_device *from);
1669 extern void             dev_unicast_unsync(struct net_device *to, struct net_device *from);
1670 extern int              dev_mc_delete(struct net_device *dev, void *addr, int alen, int all);
1671 extern int              dev_mc_add(struct net_device *dev, void *addr, int alen, int newonly);
1672 extern int              dev_mc_sync(struct net_device *to, struct net_device *from);
1673 extern void             dev_mc_unsync(struct net_device *to, struct net_device *from);
1674 extern int              __dev_addr_delete(struct dev_addr_list **list, int *count, void *addr, int alen, int all);
1675 extern int              __dev_addr_add(struct dev_addr_list **list, int *count, void *addr, int alen, int newonly);
1676 extern int              __dev_addr_sync(struct dev_addr_list **to, int *to_count, struct dev_addr_list **from, int *from_count);
1677 extern void             __dev_addr_unsync(struct dev_addr_list **to, int *to_count, struct dev_addr_list **from, int *from_count);
1678 extern int              dev_set_promiscuity(struct net_device *dev, int inc);
1679 extern int              dev_set_allmulti(struct net_device *dev, int inc);
1680 extern void             netdev_state_change(struct net_device *dev);
1681 extern void             netdev_bonding_change(struct net_device *dev);
1682 extern void             netdev_features_change(struct net_device *dev);
1683 /* Load a device via the kmod */
1684 extern void             dev_load(struct net *net, const char *name);
1685 extern void             dev_mcast_init(void);
1686 extern int              netdev_max_backlog;
1687 extern int              weight_p;
1688 extern int              netdev_set_master(struct net_device *dev, struct net_device *master);
1689 extern int skb_checksum_help(struct sk_buff *skb);
1690 extern struct sk_buff *skb_gso_segment(struct sk_buff *skb, int features);
1691 #ifdef CONFIG_BUG
1692 extern void netdev_rx_csum_fault(struct net_device *dev);
1693 #else
1694 static inline void netdev_rx_csum_fault(struct net_device *dev)
1695 {
1696 }
1697 #endif
1698 /* rx skb timestamps */
1699 extern void             net_enable_timestamp(void);
1700 extern void             net_disable_timestamp(void);
1701
1702 #ifdef CONFIG_PROC_FS
1703 extern void *dev_seq_start(struct seq_file *seq, loff_t *pos);
1704 extern void *dev_seq_next(struct seq_file *seq, void *v, loff_t *pos);
1705 extern void dev_seq_stop(struct seq_file *seq, void *v);
1706 #endif
1707
1708 extern int netdev_class_create_file(struct class_attribute *class_attr);
1709 extern void netdev_class_remove_file(struct class_attribute *class_attr);
1710
1711 extern char *netdev_drivername(const struct net_device *dev, char *buffer, int len);
1712
1713 extern void linkwatch_run_queue(void);
1714
1715 unsigned long netdev_increment_features(unsigned long all, unsigned long one,
1716                                         unsigned long mask);
1717 unsigned long netdev_fix_features(unsigned long features, const char *name);
1718
1719 static inline int net_gso_ok(int features, int gso_type)
1720 {
1721         int feature = gso_type << NETIF_F_GSO_SHIFT;
1722         return (features & feature) == feature;
1723 }
1724
1725 static inline int skb_gso_ok(struct sk_buff *skb, int features)
1726 {
1727         return net_gso_ok(features, skb_shinfo(skb)->gso_type);
1728 }
1729
1730 static inline int netif_needs_gso(struct net_device *dev, struct sk_buff *skb)
1731 {
1732         return skb_is_gso(skb) &&
1733                (!skb_gso_ok(skb, dev->features) ||
1734                 unlikely(skb->ip_summed != CHECKSUM_PARTIAL));
1735 }
1736
1737 static inline void netif_set_gso_max_size(struct net_device *dev,
1738                                           unsigned int size)
1739 {
1740         dev->gso_max_size = size;
1741 }
1742
1743 /* On bonding slaves other than the currently active slave, suppress
1744  * duplicates except for 802.3ad ETH_P_SLOW, alb non-mcast/bcast, and
1745  * ARP on active-backup slaves with arp_validate enabled.
1746  */
1747 static inline int skb_bond_should_drop(struct sk_buff *skb)
1748 {
1749         struct net_device *dev = skb->dev;
1750         struct net_device *master = dev->master;
1751
1752         if (master &&
1753             (dev->priv_flags & IFF_SLAVE_INACTIVE)) {
1754                 if ((dev->priv_flags & IFF_SLAVE_NEEDARP) &&
1755                     skb->protocol == __constant_htons(ETH_P_ARP))
1756                         return 0;
1757
1758                 if (master->priv_flags & IFF_MASTER_ALB) {
1759                         if (skb->pkt_type != PACKET_BROADCAST &&
1760                             skb->pkt_type != PACKET_MULTICAST)
1761                                 return 0;
1762                 }
1763                 if (master->priv_flags & IFF_MASTER_8023AD &&
1764                     skb->protocol == __constant_htons(ETH_P_SLOW))
1765                         return 0;
1766
1767                 return 1;
1768         }
1769         return 0;
1770 }
1771
1772 #endif /* __KERNEL__ */
1773
1774 #endif  /* _LINUX_DEV_H */