drivers/usb/core/hcd.c

   1 /*
   2  * (C) Copyright Linus Torvalds 1999
   3  * (C) Copyright Johannes Erdfelt 1999-2001
   4  * (C) Copyright Andreas Gal 1999
   5  * (C) Copyright Gregory P. Smith 1999
   6  * (C) Copyright Deti Fliegl 1999
   7  * (C) Copyright Randy Dunlap 2000
   8  * (C) Copyright David Brownell 2000-2002
   9  *
  10  * This program is free software; you can redistribute it and/or modify it
  11  * under the terms of the GNU General Public License as published by the
  12  * Free Software Foundation; either version 2 of the License, or (at your
  13  * option) any later version.
  14  *
  15  * This program is distributed in the hope that it will be useful, but
  16  * WITHOUT ANY WARRANTY; without even the implied warranty of MERCHANTABILITY
  17  * or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU General Public License
  18  * for more details.
  19  *
  20  * You should have received a copy of the GNU General Public License
  21  * along with this program; if not, write to the Free Software Foundation,
  22  * Inc., 675 Mass Ave, Cambridge, MA 02139, USA.
  23  */
  24
  25 #include <linux/module.h>
  26 #include <linux/version.h>
  27 #include <linux/kernel.h>
  28 #include <linux/slab.h>
  29 #include <linux/completion.h>
  30 #include <linux/utsname.h>
  31 #include <linux/mm.h>
  32 #include <asm/io.h>
  33 #include <asm/scatterlist.h>
  34 #include <linux/device.h>
  35 #include <linux/dma-mapping.h>
  36 #include <linux/mutex.h>
  37 #include <asm/irq.h>
  38 #include <asm/byteorder.h>
  39 #include <linux/platform_device.h>
  40 #include <linux/workqueue.h>
  41
  42 #include <linux/usb.h>
  43
  44 #include "usb.h"
  45 #include "hcd.h"
  46 #include "hub.h"
  47
  48
  49 /*-------------------------------------------------------------------------*/
  50
  51 /*
  52  * USB Host Controller Driver framework
  53  *
  54  * Plugs into usbcore (usb_bus) and lets HCDs share code, minimizing
  55  * HCD-specific behaviors/bugs.
  56  *
  57  * This does error checks, tracks devices and urbs, and delegates to a
  58  * "hc_driver" only for code (and data) that really needs to know about
  59  * hardware differences.  That includes root hub registers, i/o queues,
  60  * and so on ... but as little else as possible.
  61  *
  62  * Shared code includes most of the "root hub" code (these are emulated,
  63  * though each HC's hardware works differently) and PCI glue, plus request
  64  * tracking overhead.  The HCD code should only block on spinlocks or on
  65  * hardware handshaking; blocking on software events (such as other kernel
  66  * threads releasing resources, or completing actions) is all generic.
  67  *
  68  * Happens the USB 2.0 spec says this would be invisible inside the "USBD",
  69  * and includes mostly a "HCDI" (HCD Interface) along with some APIs used
  70  * only by the hub driver ... and that neither should be seen or used by
  71  * usb client device drivers.
  72  *
  73  * Contributors of ideas or unattributed patches include: David Brownell,
  74  * Roman Weissgaerber, Rory Bolt, Greg Kroah-Hartman, ...
  75  *
  76  * HISTORY:
  77  * 2002-02-21   Pull in most of the usb_bus support from usb.c; some
  78  *              associated cleanup.  "usb_hcd" still != "usb_bus".
  79  * 2001-12-12   Initial patch version for Linux 2.5.1 kernel.
  80  */
  81
  82 /*-------------------------------------------------------------------------*/
  83
  84 /* host controllers we manage */
  85 LIST_HEAD (usb_bus_list);
  86 EXPORT_SYMBOL_GPL (usb_bus_list);
  87
  88 /* used when allocating bus numbers */
  89 #define USB_MAXBUS              64
  90 struct usb_busmap {
  91         unsigned long busmap [USB_MAXBUS / (8*sizeof (unsigned long))];
  92 };
  93 static struct usb_busmap busmap;
  94
  95 /* used when updating list of hcds */
  96 DEFINE_MUTEX(usb_bus_list_lock);        /* exported only for usbfs */
  97 EXPORT_SYMBOL_GPL (usb_bus_list_lock);
  98
  99 /* used for controlling access to virtual root hubs */
 100 static DEFINE_SPINLOCK(hcd_root_hub_lock);
 101
 102 /* used when updating hcd data */
 103 static DEFINE_SPINLOCK(hcd_data_lock);
 104
 105 /* wait queue for synchronous unlinks */
 106 DECLARE_WAIT_QUEUE_HEAD(usb_kill_urb_queue);
 107
 108 /*-------------------------------------------------------------------------*/
 109
 110 /*
 111  * Sharable chunks of root hub code.
 112  */
 113
 114 /*-------------------------------------------------------------------------*/
 115
 116 #define KERNEL_REL      ((LINUX_VERSION_CODE >> 16) & 0x0ff)
 117 #define KERNEL_VER      ((LINUX_VERSION_CODE >> 8) & 0x0ff)
 118
 119 /* usb 2.0 root hub device descriptor */
 120 static const u8 usb2_rh_dev_descriptor [18] = {
 121         0x12,       /*  __u8  bLength; */
 122         0x01,       /*  __u8  bDescriptorType; Device */
 123         0x00, 0x02, /*  __le16 bcdUSB; v2.0 */
 124
 125         0x09,       /*  __u8  bDeviceClass; HUB_CLASSCODE */
 126         0x00,       /*  __u8  bDeviceSubClass; */
 127         0x01,       /*  __u8  bDeviceProtocol; [ usb 2.0 single TT ]*/
 128         0x40,       /*  __u8  bMaxPacketSize0; 64 Bytes */
 129
 130         0x00, 0x00, /*  __le16 idVendor; */
 131         0x00, 0x00, /*  __le16 idProduct; */
 132         KERNEL_VER, KERNEL_REL, /*  __le16 bcdDevice */
 133
 134         0x03,       /*  __u8  iManufacturer; */
 135         0x02,       /*  __u8  iProduct; */
 136         0x01,       /*  __u8  iSerialNumber; */
 137         0x01        /*  __u8  bNumConfigurations; */
 138 };
 139
 140 /* no usb 2.0 root hub "device qualifier" descriptor: one speed only */
 141
 142 /* usb 1.1 root hub device descriptor */
 143 static const u8 usb11_rh_dev_descriptor [18] = {
 144         0x12,       /*  __u8  bLength; */
 145         0x01,       /*  __u8  bDescriptorType; Device */
 146         0x10, 0x01, /*  __le16 bcdUSB; v1.1 */
 147
 148         0x09,       /*  __u8  bDeviceClass; HUB_CLASSCODE */
 149         0x00,       /*  __u8  bDeviceSubClass; */
 150         0x00,       /*  __u8  bDeviceProtocol; [ low/full speeds only ] */
 151         0x40,       /*  __u8  bMaxPacketSize0; 64 Bytes */
 152
 153         0x00, 0x00, /*  __le16 idVendor; */
 154         0x00, 0x00, /*  __le16 idProduct; */
 155         KERNEL_VER, KERNEL_REL, /*  __le16 bcdDevice */
 156
 157         0x03,       /*  __u8  iManufacturer; */
 158         0x02,       /*  __u8  iProduct; */
 159         0x01,       /*  __u8  iSerialNumber; */
 160         0x01        /*  __u8  bNumConfigurations; */
 161 };
 162
 163
 164 /*-------------------------------------------------------------------------*/
 165
 166 /* Configuration descriptors for our root hubs */
 167
 168 static const u8 fs_rh_config_descriptor [] = {
 169
 170         /* one configuration */
 171         0x09,       /*  __u8  bLength; */
 172         0x02,       /*  __u8  bDescriptorType; Configuration */
 173         0x19, 0x00, /*  __le16 wTotalLength; */
 174         0x01,       /*  __u8  bNumInterfaces; (1) */
 175         0x01,       /*  __u8  bConfigurationValue; */
 176         0x00,       /*  __u8  iConfiguration; */
 177         0xc0,       /*  __u8  bmAttributes;
 178                                  Bit 7: must be set,
 179                                      6: Self-powered,
 180                                      5: Remote wakeup,
 181                                      4..0: resvd */
 182         0x00,       /*  __u8  MaxPower; */
 183
 184         /* USB 1.1:
 185          * USB 2.0, single TT organization (mandatory):
 186          *      one interface, protocol 0
 187          *
 188          * USB 2.0, multiple TT organization (optional):
 189          *      two interfaces, protocols 1 (like single TT)
 190          *      and 2 (multiple TT mode) ... config is
 191          *      sometimes settable
 192          *      NOT IMPLEMENTED
 193          */
 194
 195         /* one interface */
 196         0x09,       /*  __u8  if_bLength; */
 197         0x04,       /*  __u8  if_bDescriptorType; Interface */
 198         0x00,       /*  __u8  if_bInterfaceNumber; */
 199         0x00,       /*  __u8  if_bAlternateSetting; */
 200         0x01,       /*  __u8  if_bNumEndpoints; */
 201         0x09,       /*  __u8  if_bInterfaceClass; HUB_CLASSCODE */
 202         0x00,       /*  __u8  if_bInterfaceSubClass; */
 203         0x00,       /*  __u8  if_bInterfaceProtocol; [usb1.1 or single tt] */
 204         0x00,       /*  __u8  if_iInterface; */
 205
 206         /* one endpoint (status change endpoint) */
 207         0x07,       /*  __u8  ep_bLength; */
 208         0x05,       /*  __u8  ep_bDescriptorType; Endpoint */
 209         0x81,       /*  __u8  ep_bEndpointAddress; IN Endpoint 1 */
 210         0x03,       /*  __u8  ep_bmAttributes; Interrupt */
 211         0x02, 0x00, /*  __le16 ep_wMaxPacketSize; 1 + (MAX_ROOT_PORTS / 8) */
 212         0xff        /*  __u8  ep_bInterval; (255ms -- usb 2.0 spec) */
 213 };
 214
 215 static const u8 hs_rh_config_descriptor [] = {
 216
 217         /* one configuration */
 218         0x09,       /*  __u8  bLength; */
 219         0x02,       /*  __u8  bDescriptorType; Configuration */
 220         0x19, 0x00, /*  __le16 wTotalLength; */
 221         0x01,       /*  __u8  bNumInterfaces; (1) */
 222         0x01,       /*  __u8  bConfigurationValue; */
 223         0x00,       /*  __u8  iConfiguration; */
 224         0xc0,       /*  __u8  bmAttributes;
 225                                  Bit 7: must be set,
 226                                      6: Self-powered,
 227                                      5: Remote wakeup,
 228                                      4..0: resvd */
 229         0x00,       /*  __u8  MaxPower; */
 230
 231         /* USB 1.1:
 232          * USB 2.0, single TT organization (mandatory):
 233          *      one interface, protocol 0
 234          *
 235          * USB 2.0, multiple TT organization (optional):
 236          *      two interfaces, protocols 1 (like single TT)
 237          *      and 2 (multiple TT mode) ... config is
 238          *      sometimes settable
 239          *      NOT IMPLEMENTED
 240          */
 241
 242         /* one interface */
 243         0x09,       /*  __u8  if_bLength; */
 244         0x04,       /*  __u8  if_bDescriptorType; Interface */
 245         0x00,       /*  __u8  if_bInterfaceNumber; */
 246         0x00,       /*  __u8  if_bAlternateSetting; */
 247         0x01,       /*  __u8  if_bNumEndpoints; */
 248         0x09,       /*  __u8  if_bInterfaceClass; HUB_CLASSCODE */
 249         0x00,       /*  __u8  if_bInterfaceSubClass; */
 250         0x00,       /*  __u8  if_bInterfaceProtocol; [usb1.1 or single tt] */
 251         0x00,       /*  __u8  if_iInterface; */
 252
 253         /* one endpoint (status change endpoint) */
 254         0x07,       /*  __u8  ep_bLength; */
 255         0x05,       /*  __u8  ep_bDescriptorType; Endpoint */
 256         0x81,       /*  __u8  ep_bEndpointAddress; IN Endpoint 1 */
 257         0x03,       /*  __u8  ep_bmAttributes; Interrupt */
 258                     /* __le16 ep_wMaxPacketSize; 1 + (MAX_ROOT_PORTS / 8)
 259                      * see hub.c:hub_configure() for details. */
 260         (USB_MAXCHILDREN + 1 + 7) / 8, 0x00,
 261         0x0c        /*  __u8  ep_bInterval; (256ms -- usb 2.0 spec) */
 262 };
 263
 264 /*-------------------------------------------------------------------------*/
 265
 266 /*
 267  * helper routine for returning string descriptors in UTF-16LE
 268  * input can actually be ISO-8859-1; ASCII is its 7-bit subset
 269  */
 270 static int ascii2utf (char *s, u8 *utf, int utfmax)
 271 {
 272         int retval;
 273
 274         for (retval = 0; *s && utfmax > 1; utfmax -= 2, retval += 2) {
 275                 *utf++ = *s++;
 276                 *utf++ = 0;
 277         }
 278         if (utfmax > 0) {
 279                 *utf = *s;
 280                 ++retval;
 281         }
 282         return retval;
 283 }
 284
 285 /*
 286  * rh_string - provides manufacturer, product and serial strings for root hub
 287  * @id: the string ID number (1: serial number, 2: product, 3: vendor)
 288  * @hcd: the host controller for this root hub
 289  * @type: string describing our driver
 290  * @data: return packet in UTF-16 LE
 291  * @len: length of the return packet
 292  *
 293  * Produces either a manufacturer, product or serial number string for the
 294  * virtual root hub device.
 295  */
 296 static int rh_string (
 297         int             id,
 298         struct usb_hcd  *hcd,
 299         u8              *data,
 300         int             len
 301 ) {
 302         char buf [100];
 303
 304         // language ids
 305         if (id == 0) {
 306                 buf[0] = 4;    buf[1] = 3;      /* 4 bytes string data */
 307                 buf[2] = 0x09; buf[3] = 0x04;   /* MSFT-speak for "en-us" */
 308                 len = min (len, 4);
 309                 memcpy (data, buf, len);
 310                 return len;
 311
 312         // serial number
 313         } else if (id == 1) {
 314                 strlcpy (buf, hcd->self.bus_name, sizeof buf);
 315
 316         // product description
 317         } else if (id == 2) {
 318                 strlcpy (buf, hcd->product_desc, sizeof buf);
 319
 320         // id 3 == vendor description
 321         } else if (id == 3) {
 322                 snprintf (buf, sizeof buf, "%s %s %s", init_utsname()->sysname,
 323                         init_utsname()->release, hcd->driver->description);
 324
 325         // unsupported IDs --> "protocol stall"
 326         } else
 327                 return -EPIPE;
 328
 329         switch (len) {          /* All cases fall through */
 330         default:
 331                 len = 2 + ascii2utf (buf, data + 2, len - 2);
 332         case 2:
 333                 data [1] = 3;   /* type == string */
 334         case 1:
 335                 data [0] = 2 * (strlen (buf) + 1);
 336         case 0:
 337                 ;               /* Compiler wants a statement here */
 338         }
 339         return len;
 340 }
 341
 342
 343 /* Root hub control transfers execute synchronously */
 344 static int rh_call_control (struct usb_hcd *hcd, struct urb *urb)
 345 {
 346         struct usb_ctrlrequest *cmd;
 347         u16             typeReq, wValue, wIndex, wLength;
 348         u8              *ubuf = urb->transfer_buffer;
 349         u8              tbuf [sizeof (struct usb_hub_descriptor)]
 350                 __attribute__((aligned(4)));
 351         const u8        *bufp = tbuf;
 352         int             len = 0;
 353         int             patch_wakeup = 0;
 354         unsigned long   flags;
 355         int             status = 0;
 356         int             n;
 357
 358         cmd = (struct usb_ctrlrequest *) urb->setup_packet;
 359         typeReq  = (cmd->bRequestType << 8) | cmd->bRequest;
 360         wValue   = le16_to_cpu (cmd->wValue);
 361         wIndex   = le16_to_cpu (cmd->wIndex);
 362         wLength  = le16_to_cpu (cmd->wLength);
 363
 364         if (wLength > urb->transfer_buffer_length)
 365                 goto error;
 366
 367         urb->actual_length = 0;
 368         switch (typeReq) {
 369
 370         /* DEVICE REQUESTS */
 371
 372         /* The root hub's remote wakeup enable bit is implemented using
 373          * driver model wakeup flags.  If this system supports wakeup
 374          * through USB, userspace may change the default "allow wakeup"
 375          * policy through sysfs or these calls.
 376          *
 377          * Most root hubs support wakeup from downstream devices, for
 378          * runtime power management (disabling USB clocks and reducing
 379          * VBUS power usage).  However, not all of them do so; silicon,
 380          * board, and BIOS bugs here are not uncommon, so these can't
 381          * be treated quite like external hubs.
 382          *
 383          * Likewise, not all root hubs will pass wakeup events upstream,
 384          * to wake up the whole system.  So don't assume root hub and
 385          * controller capabilities are identical.
 386          */
 387
 388         case DeviceRequest | USB_REQ_GET_STATUS:
 389                 tbuf [0] = (device_may_wakeup(&hcd->self.root_hub->dev)
 390                                         << USB_DEVICE_REMOTE_WAKEUP)
 391                                 | (1 << USB_DEVICE_SELF_POWERED);
 392                 tbuf [1] = 0;
 393                 len = 2;
 394                 break;
 395         case DeviceOutRequest | USB_REQ_CLEAR_FEATURE:
 396                 if (wValue == USB_DEVICE_REMOTE_WAKEUP)
 397                         device_set_wakeup_enable(&hcd->self.root_hub->dev, 0);
 398                 else
 399                         goto error;
 400                 break;
 401         case DeviceOutRequest | USB_REQ_SET_FEATURE:
 402                 if (device_can_wakeup(&hcd->self.root_hub->dev)
 403                                 && wValue == USB_DEVICE_REMOTE_WAKEUP)
 404                         device_set_wakeup_enable(&hcd->self.root_hub->dev, 1);
 405                 else
 406                         goto error;
 407                 break;
 408         case DeviceRequest | USB_REQ_GET_CONFIGURATION:
 409                 tbuf [0] = 1;
 410                 len = 1;
 411                         /* FALLTHROUGH */
 412         case DeviceOutRequest | USB_REQ_SET_CONFIGURATION:
 413                 break;
 414         case DeviceRequest | USB_REQ_GET_DESCRIPTOR:
 415                 switch (wValue & 0xff00) {
 416                 case USB_DT_DEVICE << 8:
 417                         if (hcd->driver->flags & HCD_USB2)
 418                                 bufp = usb2_rh_dev_descriptor;
 419                         else if (hcd->driver->flags & HCD_USB11)
 420                                 bufp = usb11_rh_dev_descriptor;
 421                         else
 422                                 goto error;
 423                         len = 18;
 424                         break;
 425                 case USB_DT_CONFIG << 8:
 426                         if (hcd->driver->flags & HCD_USB2) {
 427                                 bufp = hs_rh_config_descriptor;
 428                                 len = sizeof hs_rh_config_descriptor;
 429                         } else {
 430                                 bufp = fs_rh_config_descriptor;
 431                                 len = sizeof fs_rh_config_descriptor;
 432                         }
 433                         if (device_can_wakeup(&hcd->self.root_hub->dev))
 434                                 patch_wakeup = 1;
 435                         break;
 436                 case USB_DT_STRING << 8:
 437                         n = rh_string (wValue & 0xff, hcd, ubuf, wLength);
 438                         if (n < 0)
 439                                 goto error;
 440                         urb->actual_length = n;
 441                         break;
 442                 default:
 443                         goto error;
 444                 }
 445                 break;
 446         case DeviceRequest | USB_REQ_GET_INTERFACE:
 447                 tbuf [0] = 0;
 448                 len = 1;
 449                         /* FALLTHROUGH */
 450         case DeviceOutRequest | USB_REQ_SET_INTERFACE:
 451                 break;
 452         case DeviceOutRequest | USB_REQ_SET_ADDRESS:
 453                 // wValue == urb->dev->devaddr
 454                 dev_dbg (hcd->self.controller, "root hub device address %d\n",
 455                         wValue);
 456                 break;
 457
 458         /* INTERFACE REQUESTS (no defined feature/status flags) */
 459
 460         /* ENDPOINT REQUESTS */
 461
 462         case EndpointRequest | USB_REQ_GET_STATUS:
 463                 // ENDPOINT_HALT flag
 464                 tbuf [0] = 0;
 465                 tbuf [1] = 0;
 466                 len = 2;
 467                         /* FALLTHROUGH */
 468         case EndpointOutRequest | USB_REQ_CLEAR_FEATURE:
 469         case EndpointOutRequest | USB_REQ_SET_FEATURE:
 470                 dev_dbg (hcd->self.controller, "no endpoint features yet\n");
 471                 break;
 472
 473         /* CLASS REQUESTS (and errors) */
 474
 475         default:
 476                 /* non-generic request */
 477                 switch (typeReq) {
 478                 case GetHubStatus:
 479                 case GetPortStatus:
 480                         len = 4;
 481                         break;
 482                 case GetHubDescriptor:
 483                         len = sizeof (struct usb_hub_descriptor);
 484                         break;
 485                 }
 486                 status = hcd->driver->hub_control (hcd,
 487                         typeReq, wValue, wIndex,
 488                         tbuf, wLength);
 489                 break;
 490 error:
 491                 /* "protocol stall" on error */
 492                 status = -EPIPE;
 493         }
 494
 495         if (status) {
 496                 len = 0;
 497                 if (status != -EPIPE) {
 498                         dev_dbg (hcd->self.controller,
 499                                 "CTRL: TypeReq=0x%x val=0x%x "
 500                                 "idx=0x%x len=%d ==> %d\n",
 501                                 typeReq, wValue, wIndex,
 502                                 wLength, status);
 503                 }
 504         }
 505         if (len) {
 506                 if (urb->transfer_buffer_length < len)
 507                         len = urb->transfer_buffer_length;
 508                 urb->actual_length = len;
 509                 // always USB_DIR_IN, toward host
 510                 memcpy (ubuf, bufp, len);
 511
 512                 /* report whether RH hardware supports remote wakeup */
 513                 if (patch_wakeup &&
 514                                 len > offsetof (struct usb_config_descriptor,
 515                                                 bmAttributes))
 516                         ((struct usb_config_descriptor *)ubuf)->bmAttributes
 517                                 |= USB_CONFIG_ATT_WAKEUP;
 518         }
 519
 520         /* any errors get returned through the urb completion */
 521         local_irq_save (flags);
 522         spin_lock (&urb->lock);
 523         if (urb->status == -EINPROGRESS)
 524                 urb->status = status;
 525         spin_unlock (&urb->lock);
 526         usb_hcd_giveback_urb (hcd, urb);
 527         local_irq_restore (flags);
 528         return 0;
 529 }
 530
 531 /*-------------------------------------------------------------------------*/
 532
 533 /*
 534  * Root Hub interrupt transfers are polled using a timer if the
 535  * driver requests it; otherwise the driver is responsible for
 536  * calling usb_hcd_poll_rh_status() when an event occurs.
 537  *
 538  * Completions are called in_interrupt(), but they may or may not
 539  * be in_irq().
 540  */
 541 void usb_hcd_poll_rh_status(struct usb_hcd *hcd)
 542 {
 543         struct urb      *urb;
 544         int             length;
 545         unsigned long   flags;
 546         char            buffer[4];      /* Any root hubs with > 31 ports? */
 547
 548         if (unlikely(!hcd->rh_registered))
 549                 return;
 550         if (!hcd->uses_new_polling && !hcd->status_urb)
 551                 return;
 552
 553         length = hcd->driver->hub_status_data(hcd, buffer);
 554         if (length > 0) {
 555
 556                 /* try to complete the status urb */
 557                 local_irq_save (flags);
 558                 spin_lock(&hcd_root_hub_lock);
 559                 urb = hcd->status_urb;
 560                 if (urb) {
 561                         spin_lock(&urb->lock);
 562                         if (urb->status == -EINPROGRESS) {
 563                                 hcd->poll_pending = 0;
 564                                 hcd->status_urb = NULL;
 565                                 urb->status = 0;
 566                                 urb->hcpriv = NULL;
 567                                 urb->actual_length = length;
 568                                 memcpy(urb->transfer_buffer, buffer, length);
 569                         } else          /* urb has been unlinked */
 570                                 length = 0;
 571                         spin_unlock(&urb->lock);
 572                 } else
 573                         length = 0;
 574                 spin_unlock(&hcd_root_hub_lock);
 575
 576                 /* local irqs are always blocked in completions */
 577                 if (length > 0)
 578                         usb_hcd_giveback_urb (hcd, urb);
 579                 else
 580                         hcd->poll_pending = 1;
 581                 local_irq_restore (flags);
 582         }
 583
 584         /* The USB 2.0 spec says 256 ms.  This is close enough and won't
 585          * exceed that limit if HZ is 100. The math is more clunky than
 586          * maybe expected, this is to make sure that all timers for USB devices
 587          * fire at the same time to give the CPU a break inbetween */
 588         if (hcd->uses_new_polling ? hcd->poll_rh :
 589                         (length == 0 && hcd->status_urb != NULL))
 590                 mod_timer (&hcd->rh_timer, (jiffies/(HZ/4) + 1) * (HZ/4));
 591 }
 592 EXPORT_SYMBOL_GPL(usb_hcd_poll_rh_status);
 593
 594 /* timer callback */
 595 static void rh_timer_func (unsigned long _hcd)
 596 {
 597         usb_hcd_poll_rh_status((struct usb_hcd *) _hcd);
 598 }
 599
 600 /*-------------------------------------------------------------------------*/
 601
 602 static int rh_queue_status (struct usb_hcd *hcd, struct urb *urb)
 603 {
 604         int             retval;
 605         unsigned long   flags;
 606         int             len = 1 + (urb->dev->maxchild / 8);
 607
 608         spin_lock_irqsave (&hcd_root_hub_lock, flags);
 609         if (urb->status != -EINPROGRESS)        /* already unlinked */
 610                 retval = urb->status;
 611         else if (hcd->status_urb || urb->transfer_buffer_length < len) {
 612                 dev_dbg (hcd->self.controller, "not queuing rh status urb\n");
 613                 retval = -EINVAL;
 614         } else {
 615                 hcd->status_urb = urb;
 616                 urb->hcpriv = hcd;      /* indicate it's queued */
 617
 618                 if (!hcd->uses_new_polling)
 619                         mod_timer (&hcd->rh_timer,
 620                                 (jiffies/(HZ/4) + 1) * (HZ/4));
 621
 622                 /* If a status change has already occurred, report it ASAP */
 623                 else if (hcd->poll_pending)
 624                         mod_timer (&hcd->rh_timer, jiffies);
 625                 retval = 0;
 626         }
 627         spin_unlock_irqrestore (&hcd_root_hub_lock, flags);
 628         return retval;
 629 }
 630
 631 static int rh_urb_enqueue (struct usb_hcd *hcd, struct urb *urb)
 632 {
 633         if (usb_pipeint (urb->pipe))
 634                 return rh_queue_status (hcd, urb);
 635         if (usb_pipecontrol (urb->pipe))
 636                 return rh_call_control (hcd, urb);
 637         return -EINVAL;
 638 }
 639
 640 /*-------------------------------------------------------------------------*/
 641
 642 /* Unlinks of root-hub control URBs are legal, but they don't do anything
 643  * since these URBs always execute synchronously.
 644  */
 645 static int usb_rh_urb_dequeue (struct usb_hcd *hcd, struct urb *urb)
 646 {
 647         unsigned long   flags;
 648
 649         if (usb_pipeendpoint(urb->pipe) == 0) { /* Control URB */
 650                 ;       /* Do nothing */
 651
 652         } else {                                /* Status URB */
 653                 if (!hcd->uses_new_polling)
 654                         del_timer (&hcd->rh_timer);
 655                 local_irq_save (flags);
 656                 spin_lock (&hcd_root_hub_lock);
 657                 if (urb == hcd->status_urb) {
 658                         hcd->status_urb = NULL;
 659                         urb->hcpriv = NULL;
 660                 } else
 661                         urb = NULL;             /* wasn't fully queued */
 662                 spin_unlock (&hcd_root_hub_lock);
 663                 if (urb)
 664                         usb_hcd_giveback_urb (hcd, urb);
 665                 local_irq_restore (flags);
 666         }
 667
 668         return 0;
 669 }
 670
 671 /*-------------------------------------------------------------------------*/
 672
 673 static struct class *usb_host_class;
 674
 675 int usb_host_init(void)
 676 {
 677         int retval = 0;
 678
 679         usb_host_class = class_create(THIS_MODULE, "usb_host");
 680         if (IS_ERR(usb_host_class))
 681                 retval = PTR_ERR(usb_host_class);
 682         return retval;
 683 }
 684
 685 void usb_host_cleanup(void)
 686 {
 687         class_destroy(usb_host_class);
 688 }
 689
 690 /**
 691  * usb_bus_init - shared initialization code
 692  * @bus: the bus structure being initialized
 693  *
 694  * This code is used to initialize a usb_bus structure, memory for which is
 695  * separately managed.
 696  */
 697 static void usb_bus_init (struct usb_bus *bus)
 698 {
 699         memset (&bus->devmap, 0, sizeof(struct usb_devmap));
 700
 701         bus->devnum_next = 1;
 702
 703         bus->root_hub = NULL;
 704         bus->busnum = -1;
 705         bus->bandwidth_allocated = 0;
 706         bus->bandwidth_int_reqs  = 0;
 707         bus->bandwidth_isoc_reqs = 0;
 708
 709         INIT_LIST_HEAD (&bus->bus_list);
 710 }
 711
 712 /*-------------------------------------------------------------------------*/
 713
 714 /**
 715  * usb_register_bus - registers the USB host controller with the usb core
 716  * @bus: pointer to the bus to register
 717  * Context: !in_interrupt()
 718  *
 719  * Assigns a bus number, and links the controller into usbcore data
 720  * structures so that it can be seen by scanning the bus list.
 721  */
 722 static int usb_register_bus(struct usb_bus *bus)
 723 {
 724         int busnum;
 725
 726         mutex_lock(&usb_bus_list_lock);
 727         busnum = find_next_zero_bit (busmap.busmap, USB_MAXBUS, 1);
 728         if (busnum < USB_MAXBUS) {
 729                 set_bit (busnum, busmap.busmap);
 730                 bus->busnum = busnum;
 731         } else {
 732                 printk (KERN_ERR "%s: too many buses\n", usbcore_name);
 733                 mutex_unlock(&usb_bus_list_lock);
 734                 return -E2BIG;
 735         }
 736
 737         bus->class_dev = class_device_create(usb_host_class, NULL, MKDEV(0,0),
 738                                              bus->controller, "usb_host%d", busnum);
 739         if (IS_ERR(bus->class_dev)) {
 740                 clear_bit(busnum, busmap.busmap);
 741                 mutex_unlock(&usb_bus_list_lock);
 742                 return PTR_ERR(bus->class_dev);
 743         }
 744
 745         class_set_devdata(bus->class_dev, bus);
 746
 747         /* Add it to the local list of buses */
 748         list_add (&bus->bus_list, &usb_bus_list);
 749         mutex_unlock(&usb_bus_list_lock);
 750
 751         usb_notify_add_bus(bus);
 752
 753         dev_info (bus->controller, "new USB bus registered, assigned bus number %d\n", bus->busnum);
 754         return 0;
 755 }
 756
 757 /**
 758  * usb_deregister_bus - deregisters the USB host controller
 759  * @bus: pointer to the bus to deregister
 760  * Context: !in_interrupt()
 761  *
 762  * Recycles the bus number, and unlinks the controller from usbcore data
 763  * structures so that it won't be seen by scanning the bus list.
 764  */
 765 static void usb_deregister_bus (struct usb_bus *bus)
 766 {
 767         dev_info (bus->controller, "USB bus %d deregistered\n", bus->busnum);
 768
 769         /*
 770          * NOTE: make sure that all the devices are removed by the
 771          * controller code, as well as having it call this when cleaning
 772          * itself up
 773          */
 774         mutex_lock(&usb_bus_list_lock);
 775         list_del (&bus->bus_list);
 776         mutex_unlock(&usb_bus_list_lock);
 777
 778         usb_notify_remove_bus(bus);
 779
 780         clear_bit (bus->busnum, busmap.busmap);
 781
 782         class_device_unregister(bus->class_dev);
 783 }
 784
 785 /**
 786  * register_root_hub - called by usb_add_hcd() to register a root hub
 787  * @hcd: host controller for this root hub
 788  *
 789  * This function registers the root hub with the USB subsystem.  It sets up
 790  * the device properly in the device tree and then calls usb_new_device()
 791  * to register the usb device.  It also assigns the root hub's USB address
 792  * (always 1).
 793  */
 794 static int register_root_hub(struct usb_hcd *hcd)
 795 {
 796         struct device *parent_dev = hcd->self.controller;
 797         struct usb_device *usb_dev = hcd->self.root_hub;
 798         const int devnum = 1;
 799         int retval;
 800
 801         usb_dev->devnum = devnum;
 802         usb_dev->bus->devnum_next = devnum + 1;
 803         memset (&usb_dev->bus->devmap.devicemap, 0,
 804                         sizeof usb_dev->bus->devmap.devicemap);
 805         set_bit (devnum, usb_dev->bus->devmap.devicemap);
 806         usb_set_device_state(usb_dev, USB_STATE_ADDRESS);
 807
 808         mutex_lock(&usb_bus_list_lock);
 809
 810         usb_dev->ep0.desc.wMaxPacketSize = __constant_cpu_to_le16(64);
 811         retval = usb_get_device_descriptor(usb_dev, USB_DT_DEVICE_SIZE);
 812         if (retval != sizeof usb_dev->descriptor) {
 813                 mutex_unlock(&usb_bus_list_lock);
 814                 dev_dbg (parent_dev, "can't read %s device descriptor %d\n",
 815                                 usb_dev->dev.bus_id, retval);
 816                 return (retval < 0) ? retval : -EMSGSIZE;
 817         }
 818
 819         retval = usb_new_device (usb_dev);
 820         if (retval) {
 821                 dev_err (parent_dev, "can't register root hub for %s, %d\n",
 822                                 usb_dev->dev.bus_id, retval);
 823         }
 824         mutex_unlock(&usb_bus_list_lock);
 825
 826         if (retval == 0) {
 827                 spin_lock_irq (&hcd_root_hub_lock);
 828                 hcd->rh_registered = 1;
 829                 spin_unlock_irq (&hcd_root_hub_lock);
 830
 831                 /* Did the HC die before the root hub was registered? */
 832                 if (hcd->state == HC_STATE_HALT)
 833                         usb_hc_died (hcd);      /* This time clean up */
 834         }
 835
 836         return retval;
 837 }
 838
 839 void usb_enable_root_hub_irq (struct usb_bus *bus)
 840 {
 841         struct usb_hcd *hcd;
 842
 843         hcd = container_of (bus, struct usb_hcd, self);
 844         if (hcd->driver->hub_irq_enable && hcd->state != HC_STATE_HALT)
 845                 hcd->driver->hub_irq_enable (hcd);
 846 }
 847
 848
 849 /*-------------------------------------------------------------------------*/
 850
 851 /**
 852  * usb_calc_bus_time - approximate periodic transaction time in nanoseconds
 853  * @speed: from dev->speed; USB_SPEED_{LOW,FULL,HIGH}
 854  * @is_input: true iff the transaction sends data to the host
 855  * @isoc: true for isochronous transactions, false for interrupt ones
 856  * @bytecount: how many bytes in the transaction.
 857  *
 858  * Returns approximate bus time in nanoseconds for a periodic transaction.
 859  * See USB 2.0 spec section 5.11.3; only periodic transfers need to be
 860  * scheduled in software, this function is only used for such scheduling.
 861  */
 862 long usb_calc_bus_time (int speed, int is_input, int isoc, int bytecount)
 863 {
 864         unsigned long   tmp;
 865
 866         switch (speed) {
 867         case USB_SPEED_LOW:     /* INTR only */
 868                 if (is_input) {
 869                         tmp = (67667L * (31L + 10L * BitTime (bytecount))) / 1000L;
 870                         return (64060L + (2 * BW_HUB_LS_SETUP) + BW_HOST_DELAY + tmp);
 871                 } else {
 872                         tmp = (66700L * (31L + 10L * BitTime (bytecount))) / 1000L;
 873                         return (64107L + (2 * BW_HUB_LS_SETUP) + BW_HOST_DELAY + tmp);
 874                 }
 875         case USB_SPEED_FULL:    /* ISOC or INTR */
 876                 if (isoc) {
 877                         tmp = (8354L * (31L + 10L * BitTime (bytecount))) / 1000L;
 878                         return (((is_input) ? 7268L : 6265L) + BW_HOST_DELAY + tmp);
 879                 } else {
 880                         tmp = (8354L * (31L + 10L * BitTime (bytecount))) / 1000L;
 881                         return (9107L + BW_HOST_DELAY + tmp);
 882                 }
 883         case USB_SPEED_HIGH:    /* ISOC or INTR */
 884                 // FIXME adjust for input vs output
 885                 if (isoc)
 886                         tmp = HS_NSECS_ISO (bytecount);
 887                 else
 888                         tmp = HS_NSECS (bytecount);
 889                 return tmp;
 890         default:
 891                 pr_debug ("%s: bogus device speed!\n", usbcore_name);
 892                 return -1;
 893         }
 894 }
 895 EXPORT_SYMBOL (usb_calc_bus_time);
 896
 897
 898 /*-------------------------------------------------------------------------*/
 899
 900 /*
 901  * Generic HC operations.
 902  */
 903
 904 /*-------------------------------------------------------------------------*/
 905
 906 static void urb_unlink(struct usb_hcd *hcd, struct urb *urb)
 907 {
 908         unsigned long           flags;
 909         int at_root_hub = (urb->dev == hcd->self.root_hub);
 910
 911         /* clear all state linking urb to this dev (and hcd) */
 912         spin_lock_irqsave (&hcd_data_lock, flags);
 913         list_del_init (&urb->urb_list);
 914         spin_unlock_irqrestore (&hcd_data_lock, flags);
 915
 916         if (hcd->self.uses_dma && !at_root_hub) {
 917                 if (usb_pipecontrol (urb->pipe)
 918                         && !(urb->transfer_flags & URB_NO_SETUP_DMA_MAP))
 919                         dma_unmap_single (hcd->self.controller, urb->setup_dma,
 920                                         sizeof (struct usb_ctrlrequest),
 921                                         DMA_TO_DEVICE);
 922                 if (urb->transfer_buffer_length != 0
 923                         && !(urb->transfer_flags & URB_NO_TRANSFER_DMA_MAP))
 924                         dma_unmap_single (hcd->self.controller,
 925                                         urb->transfer_dma,
 926                                         urb->transfer_buffer_length,
 927                                         usb_pipein (urb->pipe)
 928                                             ? DMA_FROM_DEVICE
 929                                             : DMA_TO_DEVICE);
 930         }
 931 }
 932
 933 /* may be called in any context with a valid urb->dev usecount
 934  * caller surrenders "ownership" of urb
 935  * expects usb_submit_urb() to have sanity checked and conditioned all
 936  * inputs in the urb
 937  */
 938 int usb_hcd_submit_urb (struct urb *urb, gfp_t mem_flags)
 939 {
 940         int                     status;
 941         struct usb_hcd          *hcd = bus_to_hcd(urb->dev->bus);
 942         struct usb_host_endpoint *ep;
 943         unsigned long           flags;
 944
 945         if (!hcd)
 946                 return -ENODEV;
 947
 948         usbmon_urb_submit(&hcd->self, urb);
 949
 950         /*
 951          * Atomically queue the urb,  first to our records, then to the HCD.
 952          * Access to urb->status is controlled by urb->lock ... changes on
 953          * i/o completion (normal or fault) or unlinking.
 954          */
 955
 956         // FIXME:  verify that quiescing hc works right (RH cleans up)
 957
 958         spin_lock_irqsave (&hcd_data_lock, flags);
 959         ep = (usb_pipein(urb->pipe) ? urb->dev->ep_in : urb->dev->ep_out)
 960                         [usb_pipeendpoint(urb->pipe)];
 961         if (unlikely (!ep))
 962                 status = -ENOENT;
 963         else if (unlikely (urb->reject))
 964                 status = -EPERM;
 965         else switch (hcd->state) {
 966         case HC_STATE_RUNNING:
 967         case HC_STATE_RESUMING:
 968 doit:
 969                 list_add_tail (&urb->urb_list, &ep->urb_list);
 970                 status = 0;
 971                 break;
 972         case HC_STATE_SUSPENDED:
 973                 /* HC upstream links (register access, wakeup signaling) can work
 974                  * even when the downstream links (and DMA etc) are quiesced; let
 975                  * usbcore talk to the root hub.
 976                  */
 977                 if (hcd->self.controller->power.power_state.event == PM_EVENT_ON
 978                                 && urb->dev->parent == NULL)
 979                         goto doit;
 980                 /* FALL THROUGH */
 981         default:
 982                 status = -ESHUTDOWN;
 983                 break;
 984         }
 985         spin_unlock_irqrestore (&hcd_data_lock, flags);
 986         if (status) {
 987                 INIT_LIST_HEAD (&urb->urb_list);
 988                 usbmon_urb_submit_error(&hcd->self, urb, status);
 989                 return status;
 990         }
 991
 992         /* increment urb's reference count as part of giving it to the HCD
 993          * (which now controls it).  HCD guarantees that it either returns
 994          * an error or calls giveback(), but not both.
 995          */
 996         urb = usb_get_urb (urb);
 997         atomic_inc (&urb->use_count);
 998
 999         if (urb->dev == hcd->self.root_hub) {
1000                 /* NOTE:  requirement on hub callers (usbfs and the hub
1001                  * driver, for now) that URBs' urb->transfer_buffer be
1002                  * valid and usb_buffer_{sync,unmap}() not be needed, since
1003                  * they could clobber root hub response data.
1004                  */
1005                 status = rh_urb_enqueue (hcd, urb);
1006                 goto done;
1007         }
1008
1009         /* lower level hcd code should use *_dma exclusively,
1010          * unless it uses pio or talks to another transport.
1011          */
1012         if (hcd->self.uses_dma) {
1013                 if (usb_pipecontrol (urb->pipe)
1014                         && !(urb->transfer_flags & URB_NO_SETUP_DMA_MAP))
1015                         urb->setup_dma = dma_map_single (
1016                                         hcd->self.controller,
1017                                         urb->setup_packet,
1018                                         sizeof (struct usb_ctrlrequest),
1019                                         DMA_TO_DEVICE);
1020                 if (urb->transfer_buffer_length != 0
1021                         && !(urb->transfer_flags & URB_NO_TRANSFER_DMA_MAP))
1022                         urb->transfer_dma = dma_map_single (
1023                                         hcd->self.controller,
1024                                         urb->transfer_buffer,
1025                                         urb->transfer_buffer_length,
1026                                         usb_pipein (urb->pipe)
1027                                             ? DMA_FROM_DEVICE
1028                                             : DMA_TO_DEVICE);
1029         }
1030
1031         status = hcd->driver->urb_enqueue (hcd, ep, urb, mem_flags);
1032 done:
1033         if (unlikely (status)) {
1034                 urb_unlink(hcd, urb);
1035                 atomic_dec (&urb->use_count);
1036                 if (urb->reject)
1037                         wake_up (&usb_kill_urb_queue);
1038                 usbmon_urb_submit_error(&hcd->self, urb, status);
1039                 usb_put_urb (urb);
1040         }
1041         return status;
1042 }
1043
1044 /*-------------------------------------------------------------------------*/
1045
1046 /* called in any context */
1047 int usb_hcd_get_frame_number (struct usb_device *udev)
1048 {
1049         struct usb_hcd  *hcd = bus_to_hcd(udev->bus);
1050
1051         if (!HC_IS_RUNNING (hcd->state))
1052                 return -ESHUTDOWN;
1053         return hcd->driver->get_frame_number (hcd);
1054 }
1055
1056 /*-------------------------------------------------------------------------*/
1057
1058 /* this makes the hcd giveback() the urb more quickly, by kicking it
1059  * off hardware queues (which may take a while) and returning it as
1060  * soon as practical.  we've already set up the urb's return status,
1061  * but we can't know if the callback completed already.
1062  */
1063 static int
1064 unlink1 (struct usb_hcd *hcd, struct urb *urb)
1065 {
1066         int             value;
1067
1068         if (urb->dev == hcd->self.root_hub)
1069                 value = usb_rh_urb_dequeue (hcd, urb);
1070         else {
1071
1072                 /* The only reason an HCD might fail this call is if
1073                  * it has not yet fully queued the urb to begin with.
1074                  * Such failures should be harmless. */
1075                 value = hcd->driver->urb_dequeue (hcd, urb);
1076         }
1077
1078         if (value != 0)
1079                 dev_dbg (hcd->self.controller, "dequeue %p --> %d\n",
1080                                 urb, value);
1081         return value;
1082 }
1083
1084 /*
1085  * called in any context
1086  *
1087  * caller guarantees urb won't be recycled till both unlink()
1088  * and the urb's completion function return
1089  */
1090 int usb_hcd_unlink_urb (struct urb *urb, int status)
1091 {
1092         struct usb_host_endpoint        *ep;
1093         struct usb_hcd                  *hcd = NULL;
1094         struct device                   *sys = NULL;
1095         unsigned long                   flags;
1096         struct list_head                *tmp;
1097         int                             retval;
1098
1099         if (!urb)
1100                 return -EINVAL;
1101         if (!urb->dev || !urb->dev->bus)
1102                 return -ENODEV;
1103         ep = (usb_pipein(urb->pipe) ? urb->dev->ep_in : urb->dev->ep_out)
1104                         [usb_pipeendpoint(urb->pipe)];
1105         if (!ep)
1106                 return -ENODEV;
1107
1108         /*
1109          * we contend for urb->status with the hcd core,
1110          * which changes it while returning the urb.
1111          *
1112          * Caller guaranteed that the urb pointer hasn't been freed, and
1113          * that it was submitted.  But as a rule it can't know whether or
1114          * not it's already been unlinked ... so we respect the reversed
1115          * lock sequence needed for the usb_hcd_giveback_urb() code paths
1116          * (urb lock, then hcd_data_lock) in case some other CPU is now
1117          * unlinking it.
1118          */
1119         spin_lock_irqsave (&urb->lock, flags);
1120         spin_lock (&hcd_data_lock);
1121
1122         sys = &urb->dev->dev;
1123         hcd = bus_to_hcd(urb->dev->bus);
1124         if (hcd == NULL) {
1125                 retval = -ENODEV;
1126                 goto done;
1127         }
1128
1129         /* insist the urb is still queued */
1130         list_for_each(tmp, &ep->urb_list) {
1131                 if (tmp == &urb->urb_list)
1132                         break;
1133         }
1134         if (tmp != &urb->urb_list) {
1135                 retval = -EIDRM;
1136                 goto done;
1137         }
1138
1139         /* Any status except -EINPROGRESS means something already started to
1140          * unlink this URB from the hardware.  So there's no more work to do.
1141          */
1142         if (urb->status != -EINPROGRESS) {
1143                 retval = -EBUSY;
1144                 goto done;
1145         }
1146
1147         /* IRQ setup can easily be broken so that USB controllers
1148          * never get completion IRQs ... maybe even the ones we need to
1149          * finish unlinking the initial failed usb_set_address()
1150          * or device descriptor fetch.
1151          */
1152         if (!test_bit(HCD_FLAG_SAW_IRQ, &hcd->flags)
1153             && hcd->self.root_hub != urb->dev) {
1154                 dev_warn (hcd->self.controller, "Unlink after no-IRQ?  "
1155                         "Controller is probably using the wrong IRQ."
1156                         "\n");
1157                 set_bit(HCD_FLAG_SAW_IRQ, &hcd->flags);
1158         }
1159
1160         urb->status = status;
1161
1162         spin_unlock (&hcd_data_lock);
1163         spin_unlock_irqrestore (&urb->lock, flags);
1164
1165         retval = unlink1 (hcd, urb);
1166         if (retval == 0)
1167                 retval = -EINPROGRESS;
1168         return retval;
1169
1170 done:
1171         spin_unlock (&hcd_data_lock);
1172         spin_unlock_irqrestore (&urb->lock, flags);
1173         if (retval != -EIDRM && sys && sys->driver)
1174                 dev_dbg (sys, "hcd_unlink_urb %p fail %d\n", urb, retval);
1175         return retval;
1176 }
1177
1178 /*-------------------------------------------------------------------------*/
1179
1180 /* disables the endpoint: cancels any pending urbs, then synchronizes with
1181  * the hcd to make sure all endpoint state is gone from hardware, and then
1182  * waits until the endpoint's queue is completely drained. use for
1183  * set_configuration, set_interface, driver removal, physical disconnect.
1184  *
1185  * example:  a qh stored in ep->hcpriv, holding state related to endpoint
1186  * type, maxpacket size, toggle, halt status, and scheduling.
1187  */
1188 void usb_hcd_endpoint_disable (struct usb_device *udev,
1189                 struct usb_host_endpoint *ep)
1190 {
1191         struct usb_hcd          *hcd;
1192         struct urb              *urb;
1193
1194         hcd = bus_to_hcd(udev->bus);
1195         local_irq_disable ();
1196
1197         /* ep is already gone from udev->ep_{in,out}[]; no more submits */
1198 rescan:
1199         spin_lock (&hcd_data_lock);
1200         list_for_each_entry (urb, &ep->urb_list, urb_list) {
1201                 int     tmp;
1202
1203                 /* the urb may already have been unlinked */
1204                 if (urb->status != -EINPROGRESS)
1205                         continue;
1206                 usb_get_urb (urb);
1207                 spin_unlock (&hcd_data_lock);
1208
1209                 spin_lock (&urb->lock);
1210                 tmp = urb->status;
1211                 if (tmp == -EINPROGRESS)
1212                         urb->status = -ESHUTDOWN;
1213                 spin_unlock (&urb->lock);
1214
1215                 /* kick hcd unless it's already returning this */
1216                 if (tmp == -EINPROGRESS) {
1217                         tmp = urb->pipe;
1218                         unlink1 (hcd, urb);
1219                         dev_dbg (hcd->self.controller,
1220                                 "shutdown urb %p pipe %08x ep%d%s%s\n",
1221                                 urb, tmp, usb_pipeendpoint (tmp),
1222                                 (tmp & USB_DIR_IN) ? "in" : "out",
1223                                 ({ char *s; \
1224                                  switch (usb_pipetype (tmp)) { \
1225                                  case PIPE_CONTROL:     s = ""; break; \
1226                                  case PIPE_BULK:        s = "-bulk"; break; \
1227                                  case PIPE_INTERRUPT:   s = "-intr"; break; \
1228                                  default:               s = "-iso"; break; \
1229                                 }; s;}));
1230                 }
1231                 usb_put_urb (urb);
1232
1233                 /* list contents may have changed */
1234                 goto rescan;
1235         }
1236         spin_unlock (&hcd_data_lock);
1237         local_irq_enable ();
1238
1239         /* synchronize with the hardware, so old configuration state
1240          * clears out immediately (and will be freed).
1241          */
1242         might_sleep ();
1243         if (hcd->driver->endpoint_disable)
1244                 hcd->driver->endpoint_disable (hcd, ep);
1245
1246         /* Wait until the endpoint queue is completely empty.  Most HCDs
1247          * will have done this already in their endpoint_disable method,
1248          * but some might not.  And there could be root-hub control URBs
1249          * still pending since they aren't affected by the HCDs'
1250          * endpoint_disable methods.
1251          */
1252         while (!list_empty (&ep->urb_list)) {
1253                 spin_lock_irq (&hcd_data_lock);
1254
1255                 /* The list may have changed while we acquired the spinlock */
1256                 urb = NULL;
1257                 if (!list_empty (&ep->urb_list)) {
1258                         urb = list_entry (ep->urb_list.prev, struct urb,
1259                                         urb_list);
1260                         usb_get_urb (urb);
1261                 }
1262                 spin_unlock_irq (&hcd_data_lock);
1263
1264                 if (urb) {
1265                         usb_kill_urb (urb);
1266                         usb_put_urb (urb);
1267                 }
1268         }
1269 }
1270
1271 /*-------------------------------------------------------------------------*/
1272
1273 #ifdef  CONFIG_PM
1274
1275 int hcd_bus_suspend(struct usb_device *rhdev)
1276 {
1277         struct usb_hcd  *hcd = container_of(rhdev->bus, struct usb_hcd, self);
1278         int             status;
1279         int             old_state = hcd->state;
1280
1281         dev_dbg(&rhdev->dev, "bus %s%s\n",
1282                         rhdev->auto_pm ? "auto-" : "", "suspend");
1283         if (!hcd->driver->bus_suspend) {
1284                 status = -ENOENT;
1285         } else {
1286                 hcd->state = HC_STATE_QUIESCING;
1287                 status = hcd->driver->bus_suspend(hcd);
1288         }
1289         if (status == 0) {
1290                 usb_set_device_state(rhdev, USB_STATE_SUSPENDED);
1291                 hcd->state = HC_STATE_SUSPENDED;
1292         } else {
1293                 hcd->state = old_state;
1294                 dev_dbg(&rhdev->dev, "bus %s fail, err %d\n",
1295                                 "suspend", status);
1296         }
1297         return status;
1298 }
1299
1300 int hcd_bus_resume(struct usb_device *rhdev)
1301 {
1302         struct usb_hcd  *hcd = container_of(rhdev->bus, struct usb_hcd, self);
1303         int             status;
1304
1305         dev_dbg(&rhdev->dev, "usb %s%s\n",
1306                         rhdev->auto_pm ? "auto-" : "", "resume");
1307         if (!hcd->driver->bus_resume)
1308                 return -ENOENT;
1309         if (hcd->state == HC_STATE_RUNNING)
1310                 return 0;
1311
1312         hcd->state = HC_STATE_RESUMING;
1313         status = hcd->driver->bus_resume(hcd);
1314         if (status == 0) {
1315                 /* TRSMRCY = 10 msec */
1316                 msleep(10);
1317                 usb_set_device_state(rhdev, rhdev->actconfig
1318                                 ? USB_STATE_CONFIGURED
1319                                 : USB_STATE_ADDRESS);
1320                 hcd->state = HC_STATE_RUNNING;
1321         } else {
1322                 dev_dbg(&rhdev->dev, "bus %s fail, err %d\n",
1323                                 "resume", status);
1324                 usb_hc_died(hcd);
1325         }
1326         return status;
1327 }
1328
1329 /* Workqueue routine for root-hub remote wakeup */
1330 static void hcd_resume_work(struct work_struct *work)
1331 {
1332         struct usb_hcd *hcd = container_of(work, struct usb_hcd, wakeup_work);
1333         struct usb_device *udev = hcd->self.root_hub;
1334
1335         usb_lock_device(udev);
1336         usb_mark_last_busy(udev);
1337         usb_external_resume_device(udev);
1338         usb_unlock_device(udev);
1339 }
1340
1341 /**
1342  * usb_hcd_resume_root_hub - called by HCD to resume its root hub
1343  * @hcd: host controller for this root hub
1344  *
1345  * The USB host controller calls this function when its root hub is
1346  * suspended (with the remote wakeup feature enabled) and a remote
1347  * wakeup request is received.  The routine submits a workqueue request
1348  * to resume the root hub (that is, manage its downstream ports again).
1349  */
1350 void usb_hcd_resume_root_hub (struct usb_hcd *hcd)
1351 {
1352         unsigned long flags;
1353
1354         spin_lock_irqsave (&hcd_root_hub_lock, flags);
1355         if (hcd->rh_registered)
1356                 queue_work(ksuspend_usb_wq, &hcd->wakeup_work);
1357         spin_unlock_irqrestore (&hcd_root_hub_lock, flags);
1358 }
1359 EXPORT_SYMBOL_GPL(usb_hcd_resume_root_hub);
1360
1361 #endif
1362
1363 /*-------------------------------------------------------------------------*/
1364
1365 #ifdef  CONFIG_USB_OTG
1366
1367 /**
1368  * usb_bus_start_enum - start immediate enumeration (for OTG)
1369  * @bus: the bus (must use hcd framework)
1370  * @port_num: 1-based number of port; usually bus->otg_port
1371  * Context: in_interrupt()
1372  *
1373  * Starts enumeration, with an immediate reset followed later by
1374  * khubd identifying and possibly configuring the device.
1375  * This is needed by OTG controller drivers, where it helps meet
1376  * HNP protocol timing requirements for starting a port reset.
1377  */
1378 int usb_bus_start_enum(struct usb_bus *bus, unsigned port_num)
1379 {
1380         struct usb_hcd          *hcd;
1381         int                     status = -EOPNOTSUPP;
1382
1383         /* NOTE: since HNP can't start by grabbing the bus's address0_sem,
1384          * boards with root hubs hooked up to internal devices (instead of
1385          * just the OTG port) may need more attention to resetting...
1386          */
1387         hcd = container_of (bus, struct usb_hcd, self);
1388         if (port_num && hcd->driver->start_port_reset)
1389                 status = hcd->driver->start_port_reset(hcd, port_num);
1390
1391         /* run khubd shortly after (first) root port reset finishes;
1392          * it may issue others, until at least 50 msecs have passed.
1393          */
1394         if (status == 0)
1395                 mod_timer(&hcd->rh_timer, jiffies + msecs_to_jiffies(10));
1396         return status;
1397 }
1398 EXPORT_SYMBOL (usb_bus_start_enum);
1399
1400 #endif
1401
1402 /*-------------------------------------------------------------------------*/
1403
1404 /**
1405  * usb_hcd_giveback_urb - return URB from HCD to device driver
1406  * @hcd: host controller returning the URB
1407  * @urb: urb being returned to the USB device driver.
1408  * Context: in_interrupt()
1409  *
1410  * This hands the URB from HCD to its USB device driver, using its
1411  * completion function.  The HCD has freed all per-urb resources
1412  * (and is done using urb->hcpriv).  It also released all HCD locks;
1413  * the device driver won't cause problems if it frees, modifies,
1414  * or resubmits this URB.
1415  */
1416 void usb_hcd_giveback_urb (struct usb_hcd *hcd, struct urb *urb)
1417 {
1418         urb_unlink(hcd, urb);
1419         usbmon_urb_complete (&hcd->self, urb);
1420         usb_unanchor_urb(urb);
1421
1422         /* pass ownership to the completion handler */
1423         urb->complete (urb);
1424         atomic_dec (&urb->use_count);
1425         if (unlikely (urb->reject))
1426                 wake_up (&usb_kill_urb_queue);
1427         usb_put_urb (urb);
1428 }
1429 EXPORT_SYMBOL (usb_hcd_giveback_urb);
1430
1431 /*-------------------------------------------------------------------------*/
1432
1433 /**
1434  * usb_hcd_irq - hook IRQs to HCD framework (bus glue)
1435  * @irq: the IRQ being raised
1436  * @__hcd: pointer to the HCD whose IRQ is being signaled
1437  * @r: saved hardware registers
1438  *
1439  * If the controller isn't HALTed, calls the driver's irq handler.
1440  * Checks whether the controller is now dead.
1441  */
1442 irqreturn_t usb_hcd_irq (int irq, void *__hcd)
1443 {
1444         struct usb_hcd          *hcd = __hcd;
1445         int                     start = hcd->state;
1446
1447         if (unlikely(start == HC_STATE_HALT ||
1448             !test_bit(HCD_FLAG_HW_ACCESSIBLE, &hcd->flags)))
1449                 return IRQ_NONE;
1450         if (hcd->driver->irq (hcd) == IRQ_NONE)
1451                 return IRQ_NONE;
1452
1453         set_bit(HCD_FLAG_SAW_IRQ, &hcd->flags);
1454
1455         if (unlikely(hcd->state == HC_STATE_HALT))
1456                 usb_hc_died (hcd);
1457         return IRQ_HANDLED;
1458 }
1459
1460 /*-------------------------------------------------------------------------*/
1461
1462 /**
1463  * usb_hc_died - report abnormal shutdown of a host controller (bus glue)
1464  * @hcd: pointer to the HCD representing the controller
1465  *
1466  * This is called by bus glue to report a USB host controller that died
1467  * while operations may still have been pending.  It's called automatically
1468  * by the PCI glue, so only glue for non-PCI busses should need to call it.
1469  */
1470 void usb_hc_died (struct usb_hcd *hcd)
1471 {
1472         unsigned long flags;
1473
1474         dev_err (hcd->self.controller, "HC died; cleaning up\n");
1475
1476         spin_lock_irqsave (&hcd_root_hub_lock, flags);
1477         if (hcd->rh_registered) {
1478                 hcd->poll_rh = 0;
1479
1480                 /* make khubd clean up old urbs and devices */
1481                 usb_set_device_state (hcd->self.root_hub,
1482                                 USB_STATE_NOTATTACHED);
1483                 usb_kick_khubd (hcd->self.root_hub);
1484         }
1485         spin_unlock_irqrestore (&hcd_root_hub_lock, flags);
1486 }
1487 EXPORT_SYMBOL_GPL (usb_hc_died);
1488
1489 /*-------------------------------------------------------------------------*/
1490
1491 /**
1492  * usb_create_hcd - create and initialize an HCD structure
1493  * @driver: HC driver that will use this hcd
1494  * @dev: device for this HC, stored in hcd->self.controller
1495  * @bus_name: value to store in hcd->self.bus_name
1496  * Context: !in_interrupt()
1497  *
1498  * Allocate a struct usb_hcd, with extra space at the end for the
1499  * HC driver's private data.  Initialize the generic members of the
1500  * hcd structure.
1501  *
1502  * If memory is unavailable, returns NULL.
1503  */
1504 struct usb_hcd *usb_create_hcd (const struct hc_driver *driver,
1505                 struct device *dev, char *bus_name)
1506 {
1507         struct usb_hcd *hcd;
1508
1509         hcd = kzalloc(sizeof(*hcd) + driver->hcd_priv_size, GFP_KERNEL);
1510         if (!hcd) {
1511                 dev_dbg (dev, "hcd alloc failed\n");
1512                 return NULL;
1513         }
1514         dev_set_drvdata(dev, hcd);
1515         kref_init(&hcd->kref);
1516
1517         usb_bus_init(&hcd->self);
1518         hcd->self.controller = dev;
1519         hcd->self.bus_name = bus_name;
1520         hcd->self.uses_dma = (dev->dma_mask != NULL);
1521
1522         init_timer(&hcd->rh_timer);
1523         hcd->rh_timer.function = rh_timer_func;
1524         hcd->rh_timer.data = (unsigned long) hcd;
1525 #ifdef CONFIG_PM
1526         INIT_WORK(&hcd->wakeup_work, hcd_resume_work);
1527 #endif
1528
1529         hcd->driver = driver;
1530         hcd->product_desc = (driver->product_desc) ? driver->product_desc :
1531                         "USB Host Controller";
1532
1533         return hcd;
1534 }
1535 EXPORT_SYMBOL (usb_create_hcd);
1536
1537 static void hcd_release (struct kref *kref)
1538 {
1539         struct usb_hcd *hcd = container_of (kref, struct usb_hcd, kref);
1540
1541         kfree(hcd);
1542 }
1543
1544 struct usb_hcd *usb_get_hcd (struct usb_hcd *hcd)
1545 {
1546         if (hcd)
1547                 kref_get (&hcd->kref);
1548         return hcd;
1549 }
1550 EXPORT_SYMBOL (usb_get_hcd);
1551
1552 void usb_put_hcd (struct usb_hcd *hcd)
1553 {
1554         if (hcd)
1555                 kref_put (&hcd->kref, hcd_release);
1556 }
1557 EXPORT_SYMBOL (usb_put_hcd);
1558
1559 /**
1560  * usb_add_hcd - finish generic HCD structure initialization and register
1561  * @hcd: the usb_hcd structure to initialize
1562  * @irqnum: Interrupt line to allocate
1563  * @irqflags: Interrupt type flags
1564  *
1565  * Finish the remaining parts of generic HCD initialization: allocate the
1566  * buffers of consistent memory, register the bus, request the IRQ line,
1567  * and call the driver's reset() and start() routines.
1568  */
1569 int usb_add_hcd(struct usb_hcd *hcd,
1570                 unsigned int irqnum, unsigned long irqflags)
1571 {
1572         int retval;
1573         struct usb_device *rhdev;
1574
1575         dev_info(hcd->self.controller, "%s\n", hcd->product_desc);
1576
1577         set_bit(HCD_FLAG_HW_ACCESSIBLE, &hcd->flags);
1578
1579         /* HC is in reset state, but accessible.  Now do the one-time init,
1580          * bottom up so that hcds can customize the root hubs before khubd
1581          * starts talking to them.  (Note, bus id is assigned early too.)
1582          */
1583         if ((retval = hcd_buffer_create(hcd)) != 0) {
1584                 dev_dbg(hcd->self.controller, "pool alloc failed\n");
1585                 return retval;
1586         }
1587
1588         if ((retval = usb_register_bus(&hcd->self)) < 0)
1589                 goto err_register_bus;
1590
1591         if ((rhdev = usb_alloc_dev(NULL, &hcd->self, 0)) == NULL) {
1592                 dev_err(hcd->self.controller, "unable to allocate root hub\n");
1593                 retval = -ENOMEM;
1594                 goto err_allocate_root_hub;
1595         }
1596         rhdev->speed = (hcd->driver->flags & HCD_USB2) ? USB_SPEED_HIGH :
1597                         USB_SPEED_FULL;
1598         hcd->self.root_hub = rhdev;
1599
1600         /* wakeup flag init defaults to "everything works" for root hubs,
1601          * but drivers can override it in reset() if needed, along with
1602          * recording the overall controller's system wakeup capability.
1603          */
1604         device_init_wakeup(&rhdev->dev, 1);
1605
1606         /* "reset" is misnamed; its role is now one-time init. the controller
1607          * should already have been reset (and boot firmware kicked off etc).
1608          */
1609         if (hcd->driver->reset && (retval = hcd->driver->reset(hcd)) < 0) {
1610                 dev_err(hcd->self.controller, "can't setup\n");
1611                 goto err_hcd_driver_setup;
1612         }
1613
1614         /* NOTE: root hub and controller capabilities may not be the same */
1615         if (device_can_wakeup(hcd->self.controller)
1616                         && device_can_wakeup(&hcd->self.root_hub->dev))
1617                 dev_dbg(hcd->self.controller, "supports USB remote wakeup\n");
1618
1619         /* enable irqs just before we start the controller */
1620         if (hcd->driver->irq) {
1621                 snprintf(hcd->irq_descr, sizeof(hcd->irq_descr), "%s:usb%d",
1622                                 hcd->driver->description, hcd->self.busnum);
1623                 if ((retval = request_irq(irqnum, &usb_hcd_irq, irqflags,
1624                                 hcd->irq_descr, hcd)) != 0) {
1625                         dev_err(hcd->self.controller,
1626                                         "request interrupt %d failed\n", irqnum);
1627                         goto err_request_irq;
1628                 }
1629                 hcd->irq = irqnum;
1630                 dev_info(hcd->self.controller, "irq %d, %s 0x%08llx\n", irqnum,
1631                                 (hcd->driver->flags & HCD_MEMORY) ?
1632                                         "io mem" : "io base",
1633                                         (unsigned long long)hcd->rsrc_start);
1634         } else {
1635                 hcd->irq = -1;
1636                 if (hcd->rsrc_start)
1637                         dev_info(hcd->self.controller, "%s 0x%08llx\n",
1638                                         (hcd->driver->flags & HCD_MEMORY) ?
1639                                         "io mem" : "io base",
1640                                         (unsigned long long)hcd->rsrc_start);
1641         }
1642
1643         if ((retval = hcd->driver->start(hcd)) < 0) {
1644                 dev_err(hcd->self.controller, "startup error %d\n", retval);
1645                 goto err_hcd_driver_start;
1646         }
1647
1648         /* starting here, usbcore will pay attention to this root hub */
1649         rhdev->bus_mA = min(500u, hcd->power_budget);
1650         if ((retval = register_root_hub(hcd)) != 0)
1651                 goto err_register_root_hub;
1652
1653         if (hcd->uses_new_polling && hcd->poll_rh)
1654                 usb_hcd_poll_rh_status(hcd);
1655         return retval;
1656
1657 err_register_root_hub:
1658         hcd->driver->stop(hcd);
1659 err_hcd_driver_start:
1660         if (hcd->irq >= 0)
1661                 free_irq(irqnum, hcd);
1662 err_request_irq:
1663 err_hcd_driver_setup:
1664         hcd->self.root_hub = NULL;
1665         usb_put_dev(rhdev);
1666 err_allocate_root_hub:
1667         usb_deregister_bus(&hcd->self);
1668 err_register_bus:
1669         hcd_buffer_destroy(hcd);
1670         return retval;
1671 }
1672 EXPORT_SYMBOL (usb_add_hcd);
1673
1674 /**
1675  * usb_remove_hcd - shutdown processing for generic HCDs
1676  * @hcd: the usb_hcd structure to remove
1677  * Context: !in_interrupt()
1678  *
1679  * Disconnects the root hub, then reverses the effects of usb_add_hcd(),
1680  * invoking the HCD's stop() method.
1681  */
1682 void usb_remove_hcd(struct usb_hcd *hcd)
1683 {
1684         dev_info(hcd->self.controller, "remove, state %x\n", hcd->state);
1685
1686         if (HC_IS_RUNNING (hcd->state))
1687                 hcd->state = HC_STATE_QUIESCING;
1688
1689         dev_dbg(hcd->self.controller, "roothub graceful disconnect\n");
1690         spin_lock_irq (&hcd_root_hub_lock);
1691         hcd->rh_registered = 0;
1692         spin_unlock_irq (&hcd_root_hub_lock);
1693
1694 #ifdef CONFIG_PM
1695         cancel_work_sync(&hcd->wakeup_work);
1696 #endif
1697
1698         mutex_lock(&usb_bus_list_lock);
1699         usb_disconnect(&hcd->self.root_hub);
1700         mutex_unlock(&usb_bus_list_lock);
1701
1702         hcd->driver->stop(hcd);
1703         hcd->state = HC_STATE_HALT;
1704
1705         hcd->poll_rh = 0;
1706         del_timer_sync(&hcd->rh_timer);
1707
1708         if (hcd->irq >= 0)
1709                 free_irq(hcd->irq, hcd);
1710         usb_deregister_bus(&hcd->self);
1711         hcd_buffer_destroy(hcd);
1712 }
1713 EXPORT_SYMBOL (usb_remove_hcd);
1714
1715 void
1716 usb_hcd_platform_shutdown(struct platform_device* dev)
1717 {
1718         struct usb_hcd *hcd = platform_get_drvdata(dev);
1719
1720         if (hcd->driver->shutdown)
1721                 hcd->driver->shutdown(hcd);
1722 }
1723 EXPORT_SYMBOL (usb_hcd_platform_shutdown);
1724
1725 /*-------------------------------------------------------------------------*/
1726
1727 #if defined(CONFIG_USB_MON)
1728
1729 struct usb_mon_operations *mon_ops;
1730
1731 /*
1732  * The registration is unlocked.
1733  * We do it this way because we do not want to lock in hot paths.
1734  *
1735  * Notice that the code is minimally error-proof. Because usbmon needs
1736  * symbols from usbcore, usbcore gets referenced and cannot be unloaded first.
1737  */
1738
1739 int usb_mon_register (struct usb_mon_operations *ops)
1740 {
1741
1742         if (mon_ops)
1743                 return -EBUSY;
1744
1745         mon_ops = ops;
1746         mb();
1747         return 0;
1748 }
1749 EXPORT_SYMBOL_GPL (usb_mon_register);
1750
1751 void usb_mon_deregister (void)
1752 {
1753
1754         if (mon_ops == NULL) {
1755                 printk(KERN_ERR "USB: monitor was not registered\n");
1756                 return;
1757         }
1758         mon_ops = NULL;
1759         mb();
1760 }
1761 EXPORT_SYMBOL_GPL (usb_mon_deregister);
1762
1763 #endif /* CONFIG_USB_MON */