arch/x86/kernel/acpi/boot.c

   1 /*
   2  *  boot.c - Architecture-Specific Low-Level ACPI Boot Support
   3  *
   4  *  Copyright (C) 2001, 2002 Paul Diefenbaugh <paul.s.diefenbaugh@intel.com>
   5  *  Copyright (C) 2001 Jun Nakajima <jun.nakajima@intel.com>
   6  *
   7  * ~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~
   8  *
   9  *  This program is free software; you can redistribute it and/or modify
  10  *  it under the terms of the GNU General Public License as published by
  11  *  the Free Software Foundation; either version 2 of the License, or
  12  *  (at your option) any later version.
  13  *
  14  *  This program is distributed in the hope that it will be useful,
  15  *  but WITHOUT ANY WARRANTY; without even the implied warranty of
  16  *  MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
  17  *  GNU General Public License for more details.
  18  *
  19  *  You should have received a copy of the GNU General Public License
  20  *  along with this program; if not, write to the Free Software
  21  *  Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA  02111-1307  USA
  22  *
  23  * ~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~
  24  */
  25
  26 #include <linux/init.h>
  27 #include <linux/acpi.h>
  28 #include <linux/acpi_pmtmr.h>
  29 #include <linux/efi.h>
  30 #include <linux/cpumask.h>
  31 #include <linux/module.h>
  32 #include <linux/dmi.h>
  33 #include <linux/irq.h>
  34 #include <linux/bootmem.h>
  35 #include <linux/ioport.h>
  36
  37 #include <asm/pgtable.h>
  38 #include <asm/io_apic.h>
  39 #include <asm/apic.h>
  40 #include <asm/genapic.h>
  41 #include <asm/io.h>
  42 #include <asm/mpspec.h>
  43 #include <asm/smp.h>
  44
  45 static int __initdata acpi_force = 0;
  46 u32 acpi_rsdt_forced;
  47 #ifdef  CONFIG_ACPI
  48 int acpi_disabled = 0;
  49 #else
  50 int acpi_disabled = 1;
  51 #endif
  52 EXPORT_SYMBOL(acpi_disabled);
  53
  54 #ifdef  CONFIG_X86_64
  55 # include <asm/proto.h>
  56 #endif                          /* X86 */
  57
  58 #define BAD_MADT_ENTRY(entry, end) (                                        \
  59                 (!entry) || (unsigned long)entry + sizeof(*entry) > end ||  \
  60                 ((struct acpi_subtable_header *)entry)->length < sizeof(*entry))
  61
  62 #define PREFIX                  "ACPI: "
  63
  64 int acpi_noirq;                         /* skip ACPI IRQ initialization */
  65 int acpi_pci_disabled;          /* skip ACPI PCI scan and IRQ initialization */
  66 EXPORT_SYMBOL(acpi_pci_disabled);
  67 int acpi_ht __initdata = 1;     /* enable HT */
  68
  69 int acpi_lapic;
  70 int acpi_ioapic;
  71 int acpi_strict;
  72
  73 u8 acpi_sci_flags __initdata;
  74 int acpi_sci_override_gsi __initdata;
  75 int acpi_skip_timer_override __initdata;
  76 int acpi_use_timer_override __initdata;
  77
  78 #ifdef CONFIG_X86_LOCAL_APIC
  79 static u64 acpi_lapic_addr __initdata = APIC_DEFAULT_PHYS_BASE;
  80 #endif
  81
  82 #ifndef __HAVE_ARCH_CMPXCHG
  83 #warning ACPI uses CMPXCHG, i486 and later hardware
  84 #endif
  85
  86 /* --------------------------------------------------------------------------
  87                               Boot-time Configuration
  88    -------------------------------------------------------------------------- */
  89
  90 /*
  91  * The default interrupt routing model is PIC (8259).  This gets
  92  * overridden if IOAPICs are enumerated (below).
  93  */
  94 enum acpi_irq_model_id acpi_irq_model = ACPI_IRQ_MODEL_PIC;
  95
  96
  97 /*
  98  * Temporarily use the virtual area starting from FIX_IO_APIC_BASE_END,
  99  * to map the target physical address. The problem is that set_fixmap()
 100  * provides a single page, and it is possible that the page is not
 101  * sufficient.
 102  * By using this area, we can map up to MAX_IO_APICS pages temporarily,
 103  * i.e. until the next __va_range() call.
 104  *
 105  * Important Safety Note:  The fixed I/O APIC page numbers are *subtracted*
 106  * from the fixed base.  That's why we start at FIX_IO_APIC_BASE_END and
 107  * count idx down while incrementing the phys address.
 108  */
 109 char *__init __acpi_map_table(unsigned long phys, unsigned long size)
 110 {
 111         unsigned long base, offset, mapped_size;
 112         int idx;
 113
 114         if (!phys || !size)
 115                 return NULL;
 116
 117         if (phys+size <= (max_low_pfn_mapped << PAGE_SHIFT))
 118                 return __va(phys);
 119
 120         offset = phys & (PAGE_SIZE - 1);
 121         mapped_size = PAGE_SIZE - offset;
 122         clear_fixmap(FIX_ACPI_END);
 123         set_fixmap(FIX_ACPI_END, phys);
 124         base = fix_to_virt(FIX_ACPI_END);
 125
 126         /*
 127          * Most cases can be covered by the below.
 128          */
 129         idx = FIX_ACPI_END;
 130         while (mapped_size < size) {
 131                 if (--idx < FIX_ACPI_BEGIN)
 132                         return NULL;    /* cannot handle this */
 133                 phys += PAGE_SIZE;
 134                 clear_fixmap(idx);
 135                 set_fixmap(idx, phys);
 136                 mapped_size += PAGE_SIZE;
 137         }
 138
 139         return ((unsigned char *)base + offset);
 140 }
 141
 142 #ifdef CONFIG_PCI_MMCONFIG
 143
 144 static int acpi_mcfg_64bit_base_addr __initdata = FALSE;
 145
 146 /* The physical address of the MMCONFIG aperture.  Set from ACPI tables. */
 147 struct acpi_mcfg_allocation *pci_mmcfg_config;
 148 int pci_mmcfg_config_num;
 149
 150 static int __init acpi_mcfg_oem_check(struct acpi_table_mcfg *mcfg)
 151 {
 152         if (!strcmp(mcfg->header.oem_id, "SGI"))
 153                 acpi_mcfg_64bit_base_addr = TRUE;
 154
 155         return 0;
 156 }
 157
 158 int __init acpi_parse_mcfg(struct acpi_table_header *header)
 159 {
 160         struct acpi_table_mcfg *mcfg;
 161         unsigned long i;
 162         int config_size;
 163
 164         if (!header)
 165                 return -EINVAL;
 166
 167         mcfg = (struct acpi_table_mcfg *)header;
 168
 169         /* how many config structures do we have */
 170         pci_mmcfg_config_num = 0;
 171         i = header->length - sizeof(struct acpi_table_mcfg);
 172         while (i >= sizeof(struct acpi_mcfg_allocation)) {
 173                 ++pci_mmcfg_config_num;
 174                 i -= sizeof(struct acpi_mcfg_allocation);
 175         };
 176         if (pci_mmcfg_config_num == 0) {
 177                 printk(KERN_ERR PREFIX "MMCONFIG has no entries\n");
 178                 return -ENODEV;
 179         }
 180
 181         config_size = pci_mmcfg_config_num * sizeof(*pci_mmcfg_config);
 182         pci_mmcfg_config = kmalloc(config_size, GFP_KERNEL);
 183         if (!pci_mmcfg_config) {
 184                 printk(KERN_WARNING PREFIX
 185                        "No memory for MCFG config tables\n");
 186                 return -ENOMEM;
 187         }
 188
 189         memcpy(pci_mmcfg_config, &mcfg[1], config_size);
 190
 191         acpi_mcfg_oem_check(mcfg);
 192
 193         for (i = 0; i < pci_mmcfg_config_num; ++i) {
 194                 if ((pci_mmcfg_config[i].address > 0xFFFFFFFF) &&
 195                     !acpi_mcfg_64bit_base_addr) {
 196                         printk(KERN_ERR PREFIX
 197                                "MMCONFIG not in low 4GB of memory\n");
 198                         kfree(pci_mmcfg_config);
 199                         pci_mmcfg_config_num = 0;
 200                         return -ENODEV;
 201                 }
 202         }
 203
 204         return 0;
 205 }
 206 #endif                          /* CONFIG_PCI_MMCONFIG */
 207
 208 #ifdef CONFIG_X86_LOCAL_APIC
 209 static int __init acpi_parse_madt(struct acpi_table_header *table)
 210 {
 211         struct acpi_table_madt *madt = NULL;
 212
 213         if (!cpu_has_apic)
 214                 return -EINVAL;
 215
 216         madt = (struct acpi_table_madt *)table;
 217         if (!madt) {
 218                 printk(KERN_WARNING PREFIX "Unable to map MADT\n");
 219                 return -ENODEV;
 220         }
 221
 222         if (madt->address) {
 223                 acpi_lapic_addr = (u64) madt->address;
 224
 225                 printk(KERN_DEBUG PREFIX "Local APIC address 0x%08x\n",
 226                        madt->address);
 227         }
 228
 229         default_acpi_madt_oem_check(madt->header.oem_id,
 230                                     madt->header.oem_table_id);
 231
 232         return 0;
 233 }
 234
 235 static void __cpuinit acpi_register_lapic(int id, u8 enabled)
 236 {
 237         unsigned int ver = 0;
 238
 239         if (!enabled) {
 240                 ++disabled_cpus;
 241                 return;
 242         }
 243
 244         if (boot_cpu_physical_apicid != -1U)
 245                 ver = apic_version[boot_cpu_physical_apicid];
 246
 247         generic_processor_info(id, ver);
 248 }
 249
 250 static int __init
 251 acpi_parse_lapic(struct acpi_subtable_header * header, const unsigned long end)
 252 {
 253         struct acpi_madt_local_apic *processor = NULL;
 254
 255         processor = (struct acpi_madt_local_apic *)header;
 256
 257         if (BAD_MADT_ENTRY(processor, end))
 258                 return -EINVAL;
 259
 260         acpi_table_print_madt_entry(header);
 261
 262         /*
 263          * We need to register disabled CPU as well to permit
 264          * counting disabled CPUs. This allows us to size
 265          * cpus_possible_map more accurately, to permit
 266          * to not preallocating memory for all NR_CPUS
 267          * when we use CPU hotplug.
 268          */
 269         acpi_register_lapic(processor->id,      /* APIC ID */
 270                             processor->lapic_flags & ACPI_MADT_ENABLED);
 271
 272         return 0;
 273 }
 274
 275 static int __init
 276 acpi_parse_sapic(struct acpi_subtable_header *header, const unsigned long end)
 277 {
 278         struct acpi_madt_local_sapic *processor = NULL;
 279
 280         processor = (struct acpi_madt_local_sapic *)header;
 281
 282         if (BAD_MADT_ENTRY(processor, end))
 283                 return -EINVAL;
 284
 285         acpi_table_print_madt_entry(header);
 286
 287         acpi_register_lapic((processor->id << 8) | processor->eid,/* APIC ID */
 288                             processor->lapic_flags & ACPI_MADT_ENABLED);
 289
 290         return 0;
 291 }
 292
 293 static int __init
 294 acpi_parse_lapic_addr_ovr(struct acpi_subtable_header * header,
 295                           const unsigned long end)
 296 {
 297         struct acpi_madt_local_apic_override *lapic_addr_ovr = NULL;
 298
 299         lapic_addr_ovr = (struct acpi_madt_local_apic_override *)header;
 300
 301         if (BAD_MADT_ENTRY(lapic_addr_ovr, end))
 302                 return -EINVAL;
 303
 304         acpi_lapic_addr = lapic_addr_ovr->address;
 305
 306         return 0;
 307 }
 308
 309 static int __init
 310 acpi_parse_lapic_nmi(struct acpi_subtable_header * header, const unsigned long end)
 311 {
 312         struct acpi_madt_local_apic_nmi *lapic_nmi = NULL;
 313
 314         lapic_nmi = (struct acpi_madt_local_apic_nmi *)header;
 315
 316         if (BAD_MADT_ENTRY(lapic_nmi, end))
 317                 return -EINVAL;
 318
 319         acpi_table_print_madt_entry(header);
 320
 321         if (lapic_nmi->lint != 1)
 322                 printk(KERN_WARNING PREFIX "NMI not connected to LINT 1!\n");
 323
 324         return 0;
 325 }
 326
 327 #endif                          /*CONFIG_X86_LOCAL_APIC */
 328
 329 #ifdef CONFIG_X86_IO_APIC
 330
 331 static int __init
 332 acpi_parse_ioapic(struct acpi_subtable_header * header, const unsigned long end)
 333 {
 334         struct acpi_madt_io_apic *ioapic = NULL;
 335
 336         ioapic = (struct acpi_madt_io_apic *)header;
 337
 338         if (BAD_MADT_ENTRY(ioapic, end))
 339                 return -EINVAL;
 340
 341         acpi_table_print_madt_entry(header);
 342
 343         mp_register_ioapic(ioapic->id,
 344                            ioapic->address, ioapic->global_irq_base);
 345
 346         return 0;
 347 }
 348
 349 /*
 350  * Parse Interrupt Source Override for the ACPI SCI
 351  */
 352 static void __init acpi_sci_ioapic_setup(u32 gsi, u16 polarity, u16 trigger)
 353 {
 354         if (trigger == 0)       /* compatible SCI trigger is level */
 355                 trigger = 3;
 356
 357         if (polarity == 0)      /* compatible SCI polarity is low */
 358                 polarity = 3;
 359
 360         /* Command-line over-ride via acpi_sci= */
 361         if (acpi_sci_flags & ACPI_MADT_TRIGGER_MASK)
 362                 trigger = (acpi_sci_flags & ACPI_MADT_TRIGGER_MASK) >> 2;
 363
 364         if (acpi_sci_flags & ACPI_MADT_POLARITY_MASK)
 365                 polarity = acpi_sci_flags & ACPI_MADT_POLARITY_MASK;
 366
 367         /*
 368          * mp_config_acpi_legacy_irqs() already setup IRQs < 16
 369          * If GSI is < 16, this will update its flags,
 370          * else it will create a new mp_irqs[] entry.
 371          */
 372         mp_override_legacy_irq(gsi, polarity, trigger, gsi);
 373
 374         /*
 375          * stash over-ride to indicate we've been here
 376          * and for later update of acpi_gbl_FADT
 377          */
 378         acpi_sci_override_gsi = gsi;
 379         return;
 380 }
 381
 382 static int __init
 383 acpi_parse_int_src_ovr(struct acpi_subtable_header * header,
 384                        const unsigned long end)
 385 {
 386         struct acpi_madt_interrupt_override *intsrc = NULL;
 387
 388         intsrc = (struct acpi_madt_interrupt_override *)header;
 389
 390         if (BAD_MADT_ENTRY(intsrc, end))
 391                 return -EINVAL;
 392
 393         acpi_table_print_madt_entry(header);
 394
 395         if (intsrc->source_irq == acpi_gbl_FADT.sci_interrupt) {
 396                 acpi_sci_ioapic_setup(intsrc->global_irq,
 397                                       intsrc->inti_flags & ACPI_MADT_POLARITY_MASK,
 398                                       (intsrc->inti_flags & ACPI_MADT_TRIGGER_MASK) >> 2);
 399                 return 0;
 400         }
 401
 402         if (acpi_skip_timer_override &&
 403             intsrc->source_irq == 0 && intsrc->global_irq == 2) {
 404                 printk(PREFIX "BIOS IRQ0 pin2 override ignored.\n");
 405                 return 0;
 406         }
 407
 408         mp_override_legacy_irq(intsrc->source_irq,
 409                                 intsrc->inti_flags & ACPI_MADT_POLARITY_MASK,
 410                                 (intsrc->inti_flags & ACPI_MADT_TRIGGER_MASK) >> 2,
 411                                 intsrc->global_irq);
 412
 413         return 0;
 414 }
 415
 416 static int __init
 417 acpi_parse_nmi_src(struct acpi_subtable_header * header, const unsigned long end)
 418 {
 419         struct acpi_madt_nmi_source *nmi_src = NULL;
 420
 421         nmi_src = (struct acpi_madt_nmi_source *)header;
 422
 423         if (BAD_MADT_ENTRY(nmi_src, end))
 424                 return -EINVAL;
 425
 426         acpi_table_print_madt_entry(header);
 427
 428         /* TBD: Support nimsrc entries? */
 429
 430         return 0;
 431 }
 432
 433 #endif                          /* CONFIG_X86_IO_APIC */
 434
 435 /*
 436  * acpi_pic_sci_set_trigger()
 437  *
 438  * use ELCR to set PIC-mode trigger type for SCI
 439  *
 440  * If a PIC-mode SCI is not recognized or gives spurious IRQ7's
 441  * it may require Edge Trigger -- use "acpi_sci=edge"
 442  *
 443  * Port 0x4d0-4d1 are ECLR1 and ECLR2, the Edge/Level Control Registers
 444  * for the 8259 PIC.  bit[n] = 1 means irq[n] is Level, otherwise Edge.
 445  * ECLR1 is IRQs 0-7 (IRQ 0, 1, 2 must be 0)
 446  * ECLR2 is IRQs 8-15 (IRQ 8, 13 must be 0)
 447  */
 448
 449 void __init acpi_pic_sci_set_trigger(unsigned int irq, u16 trigger)
 450 {
 451         unsigned int mask = 1 << irq;
 452         unsigned int old, new;
 453
 454         /* Real old ELCR mask */
 455         old = inb(0x4d0) | (inb(0x4d1) << 8);
 456
 457         /*
 458          * If we use ACPI to set PCI IRQs, then we should clear ELCR
 459          * since we will set it correctly as we enable the PCI irq
 460          * routing.
 461          */
 462         new = acpi_noirq ? old : 0;
 463
 464         /*
 465          * Update SCI information in the ELCR, it isn't in the PCI
 466          * routing tables..
 467          */
 468         switch (trigger) {
 469         case 1:         /* Edge - clear */
 470                 new &= ~mask;
 471                 break;
 472         case 3:         /* Level - set */
 473                 new |= mask;
 474                 break;
 475         }
 476
 477         if (old == new)
 478                 return;
 479
 480         printk(PREFIX "setting ELCR to %04x (from %04x)\n", new, old);
 481         outb(new, 0x4d0);
 482         outb(new >> 8, 0x4d1);
 483 }
 484
 485 int acpi_gsi_to_irq(u32 gsi, unsigned int *irq)
 486 {
 487         *irq = gsi;
 488         return 0;
 489 }
 490
 491 /*
 492  * success: return IRQ number (>=0)
 493  * failure: return < 0
 494  */
 495 int acpi_register_gsi(u32 gsi, int triggering, int polarity)
 496 {
 497         unsigned int irq;
 498         unsigned int plat_gsi = gsi;
 499
 500 #ifdef CONFIG_PCI
 501         /*
 502          * Make sure all (legacy) PCI IRQs are set as level-triggered.
 503          */
 504         if (acpi_irq_model == ACPI_IRQ_MODEL_PIC) {
 505                 if (triggering == ACPI_LEVEL_SENSITIVE)
 506                         eisa_set_level_irq(gsi);
 507         }
 508 #endif
 509
 510 #ifdef CONFIG_X86_IO_APIC
 511         if (acpi_irq_model == ACPI_IRQ_MODEL_IOAPIC) {
 512                 plat_gsi = mp_register_gsi(gsi, triggering, polarity);
 513         }
 514 #endif
 515         acpi_gsi_to_irq(plat_gsi, &irq);
 516         return irq;
 517 }
 518
 519 /*
 520  *  ACPI based hotplug support for CPU
 521  */
 522 #ifdef CONFIG_ACPI_HOTPLUG_CPU
 523
 524 static int __cpuinit _acpi_map_lsapic(acpi_handle handle, int *pcpu)
 525 {
 526         struct acpi_buffer buffer = { ACPI_ALLOCATE_BUFFER, NULL };
 527         union acpi_object *obj;
 528         struct acpi_madt_local_apic *lapic;
 529         cpumask_var_t tmp_map, new_map;
 530         u8 physid;
 531         int cpu;
 532         int retval = -ENOMEM;
 533
 534         if (ACPI_FAILURE(acpi_evaluate_object(handle, "_MAT", NULL, &buffer)))
 535                 return -EINVAL;
 536
 537         if (!buffer.length || !buffer.pointer)
 538                 return -EINVAL;
 539
 540         obj = buffer.pointer;
 541         if (obj->type != ACPI_TYPE_BUFFER ||
 542             obj->buffer.length < sizeof(*lapic)) {
 543                 kfree(buffer.pointer);
 544                 return -EINVAL;
 545         }
 546
 547         lapic = (struct acpi_madt_local_apic *)obj->buffer.pointer;
 548
 549         if (lapic->header.type != ACPI_MADT_TYPE_LOCAL_APIC ||
 550             !(lapic->lapic_flags & ACPI_MADT_ENABLED)) {
 551                 kfree(buffer.pointer);
 552                 return -EINVAL;
 553         }
 554
 555         physid = lapic->id;
 556
 557         kfree(buffer.pointer);
 558         buffer.length = ACPI_ALLOCATE_BUFFER;
 559         buffer.pointer = NULL;
 560
 561         if (!alloc_cpumask_var(&tmp_map, GFP_KERNEL))
 562                 goto out;
 563
 564         if (!alloc_cpumask_var(&new_map, GFP_KERNEL))
 565                 goto free_tmp_map;
 566
 567         cpumask_copy(tmp_map, cpu_present_mask);
 568         acpi_register_lapic(physid, lapic->lapic_flags & ACPI_MADT_ENABLED);
 569
 570         /*
 571          * If mp_register_lapic successfully generates a new logical cpu
 572          * number, then the following will get us exactly what was mapped
 573          */
 574         cpumask_andnot(new_map, cpu_present_mask, tmp_map);
 575         if (cpumask_empty(new_map)) {
 576                 printk ("Unable to map lapic to logical cpu number\n");
 577                 retval = -EINVAL;
 578                 goto free_new_map;
 579         }
 580
 581         cpu = cpumask_first(new_map);
 582
 583         *pcpu = cpu;
 584         retval = 0;
 585
 586 free_new_map:
 587         free_cpumask_var(new_map);
 588 free_tmp_map:
 589         free_cpumask_var(tmp_map);
 590 out:
 591         return retval;
 592 }
 593
 594 /* wrapper to silence section mismatch warning */
 595 int __ref acpi_map_lsapic(acpi_handle handle, int *pcpu)
 596 {
 597         return _acpi_map_lsapic(handle, pcpu);
 598 }
 599 EXPORT_SYMBOL(acpi_map_lsapic);
 600
 601 int acpi_unmap_lsapic(int cpu)
 602 {
 603         per_cpu(x86_cpu_to_apicid, cpu) = -1;
 604         set_cpu_present(cpu, false);
 605         num_processors--;
 606
 607         return (0);
 608 }
 609
 610 EXPORT_SYMBOL(acpi_unmap_lsapic);
 611 #endif                          /* CONFIG_ACPI_HOTPLUG_CPU */
 612
 613 int acpi_register_ioapic(acpi_handle handle, u64 phys_addr, u32 gsi_base)
 614 {
 615         /* TBD */
 616         return -EINVAL;
 617 }
 618
 619 EXPORT_SYMBOL(acpi_register_ioapic);
 620
 621 int acpi_unregister_ioapic(acpi_handle handle, u32 gsi_base)
 622 {
 623         /* TBD */
 624         return -EINVAL;
 625 }
 626
 627 EXPORT_SYMBOL(acpi_unregister_ioapic);
 628
 629 static int __init acpi_parse_sbf(struct acpi_table_header *table)
 630 {
 631         struct acpi_table_boot *sb;
 632
 633         sb = (struct acpi_table_boot *)table;
 634         if (!sb) {
 635                 printk(KERN_WARNING PREFIX "Unable to map SBF\n");
 636                 return -ENODEV;
 637         }
 638
 639         sbf_port = sb->cmos_index;      /* Save CMOS port */
 640
 641         return 0;
 642 }
 643
 644 #ifdef CONFIG_HPET_TIMER
 645 #include <asm/hpet.h>
 646
 647 static struct __initdata resource *hpet_res;
 648
 649 static int __init acpi_parse_hpet(struct acpi_table_header *table)
 650 {
 651         struct acpi_table_hpet *hpet_tbl;
 652
 653         hpet_tbl = (struct acpi_table_hpet *)table;
 654         if (!hpet_tbl) {
 655                 printk(KERN_WARNING PREFIX "Unable to map HPET\n");
 656                 return -ENODEV;
 657         }
 658
 659         if (hpet_tbl->address.space_id != ACPI_SPACE_MEM) {
 660                 printk(KERN_WARNING PREFIX "HPET timers must be located in "
 661                        "memory.\n");
 662                 return -1;
 663         }
 664
 665         hpet_address = hpet_tbl->address.address;
 666
 667         /*
 668          * Some broken BIOSes advertise HPET at 0x0. We really do not
 669          * want to allocate a resource there.
 670          */
 671         if (!hpet_address) {
 672                 printk(KERN_WARNING PREFIX
 673                        "HPET id: %#x base: %#lx is invalid\n",
 674                        hpet_tbl->id, hpet_address);
 675                 return 0;
 676         }
 677 #ifdef CONFIG_X86_64
 678         /*
 679          * Some even more broken BIOSes advertise HPET at
 680          * 0xfed0000000000000 instead of 0xfed00000. Fix it up and add
 681          * some noise:
 682          */
 683         if (hpet_address == 0xfed0000000000000UL) {
 684                 if (!hpet_force_user) {
 685                         printk(KERN_WARNING PREFIX "HPET id: %#x "
 686                                "base: 0xfed0000000000000 is bogus\n "
 687                                "try hpet=force on the kernel command line to "
 688                                "fix it up to 0xfed00000.\n", hpet_tbl->id);
 689                         hpet_address = 0;
 690                         return 0;
 691                 }
 692                 printk(KERN_WARNING PREFIX
 693                        "HPET id: %#x base: 0xfed0000000000000 fixed up "
 694                        "to 0xfed00000.\n", hpet_tbl->id);
 695                 hpet_address >>= 32;
 696         }
 697 #endif
 698         printk(KERN_INFO PREFIX "HPET id: %#x base: %#lx\n",
 699                hpet_tbl->id, hpet_address);
 700
 701         /*
 702          * Allocate and initialize the HPET firmware resource for adding into
 703          * the resource tree during the lateinit timeframe.
 704          */
 705 #define HPET_RESOURCE_NAME_SIZE 9
 706         hpet_res = alloc_bootmem(sizeof(*hpet_res) + HPET_RESOURCE_NAME_SIZE);
 707
 708         hpet_res->name = (void *)&hpet_res[1];
 709         hpet_res->flags = IORESOURCE_MEM;
 710         snprintf((char *)hpet_res->name, HPET_RESOURCE_NAME_SIZE, "HPET %u",
 711                  hpet_tbl->sequence);
 712
 713         hpet_res->start = hpet_address;
 714         hpet_res->end = hpet_address + (1 * 1024) - 1;
 715
 716         return 0;
 717 }
 718
 719 /*
 720  * hpet_insert_resource inserts the HPET resources used into the resource
 721  * tree.
 722  */
 723 static __init int hpet_insert_resource(void)
 724 {
 725         if (!hpet_res)
 726                 return 1;
 727
 728         return insert_resource(&iomem_resource, hpet_res);
 729 }
 730
 731 late_initcall(hpet_insert_resource);
 732
 733 #else
 734 #define acpi_parse_hpet NULL
 735 #endif
 736
 737 static int __init acpi_parse_fadt(struct acpi_table_header *table)
 738 {
 739
 740 #ifdef CONFIG_X86_PM_TIMER
 741         /* detect the location of the ACPI PM Timer */
 742         if (acpi_gbl_FADT.header.revision >= FADT2_REVISION_ID) {
 743                 /* FADT rev. 2 */
 744                 if (acpi_gbl_FADT.xpm_timer_block.space_id !=
 745                     ACPI_ADR_SPACE_SYSTEM_IO)
 746                         return 0;
 747
 748                 pmtmr_ioport = acpi_gbl_FADT.xpm_timer_block.address;
 749                 /*
 750                  * "X" fields are optional extensions to the original V1.0
 751                  * fields, so we must selectively expand V1.0 fields if the
 752                  * corresponding X field is zero.
 753                  */
 754                 if (!pmtmr_ioport)
 755                         pmtmr_ioport = acpi_gbl_FADT.pm_timer_block;
 756         } else {
 757                 /* FADT rev. 1 */
 758                 pmtmr_ioport = acpi_gbl_FADT.pm_timer_block;
 759         }
 760         if (pmtmr_ioport)
 761                 printk(KERN_INFO PREFIX "PM-Timer IO Port: %#x\n",
 762                        pmtmr_ioport);
 763 #endif
 764         return 0;
 765 }
 766
 767 #ifdef  CONFIG_X86_LOCAL_APIC
 768 /*
 769  * Parse LAPIC entries in MADT
 770  * returns 0 on success, < 0 on error
 771  */
 772
 773 static void __init acpi_register_lapic_address(unsigned long address)
 774 {
 775         mp_lapic_addr = address;
 776
 777         set_fixmap_nocache(FIX_APIC_BASE, address);
 778         if (boot_cpu_physical_apicid == -1U) {
 779                 boot_cpu_physical_apicid  = read_apic_id();
 780                 apic_version[boot_cpu_physical_apicid] =
 781                          GET_APIC_VERSION(apic_read(APIC_LVR));
 782         }
 783 }
 784
 785 static int __init early_acpi_parse_madt_lapic_addr_ovr(void)
 786 {
 787         int count;
 788
 789         if (!cpu_has_apic)
 790                 return -ENODEV;
 791
 792         /*
 793          * Note that the LAPIC address is obtained from the MADT (32-bit value)
 794          * and (optionally) overriden by a LAPIC_ADDR_OVR entry (64-bit value).
 795          */
 796
 797         count =
 798             acpi_table_parse_madt(ACPI_MADT_TYPE_LOCAL_APIC_OVERRIDE,
 799                                   acpi_parse_lapic_addr_ovr, 0);
 800         if (count < 0) {
 801                 printk(KERN_ERR PREFIX
 802                        "Error parsing LAPIC address override entry\n");
 803                 return count;
 804         }
 805
 806         acpi_register_lapic_address(acpi_lapic_addr);
 807
 808         return count;
 809 }
 810
 811 static int __init acpi_parse_madt_lapic_entries(void)
 812 {
 813         int count;
 814
 815         if (!cpu_has_apic)
 816                 return -ENODEV;
 817
 818         /*
 819          * Note that the LAPIC address is obtained from the MADT (32-bit value)
 820          * and (optionally) overriden by a LAPIC_ADDR_OVR entry (64-bit value).
 821          */
 822
 823         count =
 824             acpi_table_parse_madt(ACPI_MADT_TYPE_LOCAL_APIC_OVERRIDE,
 825                                   acpi_parse_lapic_addr_ovr, 0);
 826         if (count < 0) {
 827                 printk(KERN_ERR PREFIX
 828                        "Error parsing LAPIC address override entry\n");
 829                 return count;
 830         }
 831
 832         acpi_register_lapic_address(acpi_lapic_addr);
 833
 834         count = acpi_table_parse_madt(ACPI_MADT_TYPE_LOCAL_SAPIC,
 835                                       acpi_parse_sapic, MAX_APICS);
 836
 837         if (!count)
 838                 count = acpi_table_parse_madt(ACPI_MADT_TYPE_LOCAL_APIC,
 839                                               acpi_parse_lapic, MAX_APICS);
 840         if (!count) {
 841                 printk(KERN_ERR PREFIX "No LAPIC entries present\n");
 842                 /* TBD: Cleanup to allow fallback to MPS */
 843                 return -ENODEV;
 844         } else if (count < 0) {
 845                 printk(KERN_ERR PREFIX "Error parsing LAPIC entry\n");
 846                 /* TBD: Cleanup to allow fallback to MPS */
 847                 return count;
 848         }
 849
 850         count =
 851             acpi_table_parse_madt(ACPI_MADT_TYPE_LOCAL_APIC_NMI, acpi_parse_lapic_nmi, 0);
 852         if (count < 0) {
 853                 printk(KERN_ERR PREFIX "Error parsing LAPIC NMI entry\n");
 854                 /* TBD: Cleanup to allow fallback to MPS */
 855                 return count;
 856         }
 857         return 0;
 858 }
 859 #endif                          /* CONFIG_X86_LOCAL_APIC */
 860
 861 #ifdef  CONFIG_X86_IO_APIC
 862 #define MP_ISA_BUS              0
 863
 864 #ifdef CONFIG_X86_ES7000
 865 extern int es7000_plat;
 866 #endif
 867
 868 static struct {
 869         int apic_id;
 870         int gsi_base;
 871         int gsi_end;
 872         DECLARE_BITMAP(pin_programmed, MP_MAX_IOAPIC_PIN + 1);
 873 } mp_ioapic_routing[MAX_IO_APICS];
 874
 875 int mp_find_ioapic(int gsi)
 876 {
 877         int i = 0;
 878
 879         /* Find the IOAPIC that manages this GSI. */
 880         for (i = 0; i < nr_ioapics; i++) {
 881                 if ((gsi >= mp_ioapic_routing[i].gsi_base)
 882                     && (gsi <= mp_ioapic_routing[i].gsi_end))
 883                         return i;
 884         }
 885
 886         printk(KERN_ERR "ERROR: Unable to locate IOAPIC for GSI %d\n", gsi);
 887         return -1;
 888 }
 889
 890 int mp_find_ioapic_pin(int ioapic, int gsi)
 891 {
 892         if (WARN_ON(ioapic == -1))
 893                 return -1;
 894         if (WARN_ON(gsi > mp_ioapic_routing[ioapic].gsi_end))
 895                 return -1;
 896
 897         return gsi - mp_ioapic_routing[ioapic].gsi_base;
 898 }
 899
 900 static u8 __init uniq_ioapic_id(u8 id)
 901 {
 902 #ifdef CONFIG_X86_32
 903         if ((boot_cpu_data.x86_vendor == X86_VENDOR_INTEL) &&
 904             !APIC_XAPIC(apic_version[boot_cpu_physical_apicid]))
 905                 return io_apic_get_unique_id(nr_ioapics, id);
 906         else
 907                 return id;
 908 #else
 909         int i;
 910         DECLARE_BITMAP(used, 256);
 911         bitmap_zero(used, 256);
 912         for (i = 0; i < nr_ioapics; i++) {
 913                 struct mpc_ioapic *ia = &mp_ioapics[i];
 914                 __set_bit(ia->apicid, used);
 915         }
 916         if (!test_bit(id, used))
 917                 return id;
 918         return find_first_zero_bit(used, 256);
 919 #endif
 920 }
 921
 922 static int bad_ioapic(unsigned long address)
 923 {
 924         if (nr_ioapics >= MAX_IO_APICS) {
 925                 printk(KERN_ERR "ERROR: Max # of I/O APICs (%d) exceeded "
 926                        "(found %d)\n", MAX_IO_APICS, nr_ioapics);
 927                 panic("Recompile kernel with bigger MAX_IO_APICS!\n");
 928         }
 929         if (!address) {
 930                 printk(KERN_ERR "WARNING: Bogus (zero) I/O APIC address"
 931                        " found in table, skipping!\n");
 932                 return 1;
 933         }
 934         return 0;
 935 }
 936
 937 void __init mp_register_ioapic(int id, u32 address, u32 gsi_base)
 938 {
 939         int idx = 0;
 940
 941         if (bad_ioapic(address))
 942                 return;
 943
 944         idx = nr_ioapics;
 945
 946         mp_ioapics[idx].type = MP_IOAPIC;
 947         mp_ioapics[idx].flags = MPC_APIC_USABLE;
 948         mp_ioapics[idx].apicaddr = address;
 949
 950         set_fixmap_nocache(FIX_IO_APIC_BASE_0 + idx, address);
 951         mp_ioapics[idx].apicid = uniq_ioapic_id(id);
 952 #ifdef CONFIG_X86_32
 953         mp_ioapics[idx].apicver = io_apic_get_version(idx);
 954 #else
 955         mp_ioapics[idx].apicver = 0;
 956 #endif
 957         /*
 958          * Build basic GSI lookup table to facilitate gsi->io_apic lookups
 959          * and to prevent reprogramming of IOAPIC pins (PCI GSIs).
 960          */
 961         mp_ioapic_routing[idx].apic_id = mp_ioapics[idx].apicid;
 962         mp_ioapic_routing[idx].gsi_base = gsi_base;
 963         mp_ioapic_routing[idx].gsi_end = gsi_base +
 964             io_apic_get_redir_entries(idx);
 965
 966         printk(KERN_INFO "IOAPIC[%d]: apic_id %d, version %d, address 0x%x, "
 967                "GSI %d-%d\n", idx, mp_ioapics[idx].apicid,
 968                mp_ioapics[idx].apicver, mp_ioapics[idx].apicaddr,
 969                mp_ioapic_routing[idx].gsi_base, mp_ioapic_routing[idx].gsi_end);
 970
 971         nr_ioapics++;
 972 }
 973
 974 int __init acpi_probe_gsi(void)
 975 {
 976         int idx;
 977         int gsi;
 978         int max_gsi = 0;
 979
 980         if (acpi_disabled)
 981                 return 0;
 982
 983         if (!acpi_ioapic)
 984                 return 0;
 985
 986         max_gsi = 0;
 987         for (idx = 0; idx < nr_ioapics; idx++) {
 988                 gsi = mp_ioapic_routing[idx].gsi_end;
 989
 990                 if (gsi > max_gsi)
 991                         max_gsi = gsi;
 992         }
 993
 994         return max_gsi + 1;
 995 }
 996
 997 static void assign_to_mp_irq(struct mpc_intsrc *m,
 998                                     struct mpc_intsrc *mp_irq)
 999 {
1000         memcpy(mp_irq, m, sizeof(struct mpc_intsrc));
1001 }
1002
1003 static int mp_irq_cmp(struct mpc_intsrc *mp_irq,
1004                                 struct mpc_intsrc *m)
1005 {
1006         return memcmp(mp_irq, m, sizeof(struct mpc_intsrc));
1007 }
1008
1009 static void save_mp_irq(struct mpc_intsrc *m)
1010 {
1011         int i;
1012
1013         for (i = 0; i < mp_irq_entries; i++) {
1014                 if (!mp_irq_cmp(&mp_irqs[i], m))
1015                         return;
1016         }
1017
1018         assign_to_mp_irq(m, &mp_irqs[mp_irq_entries]);
1019         if (++mp_irq_entries == MAX_IRQ_SOURCES)
1020                 panic("Max # of irq sources exceeded!!\n");
1021 }
1022
1023 void __init mp_override_legacy_irq(u8 bus_irq, u8 polarity, u8 trigger, u32 gsi)
1024 {
1025         int ioapic;
1026         int pin;
1027         struct mpc_intsrc mp_irq;
1028
1029         /*
1030          * Convert 'gsi' to 'ioapic.pin'.
1031          */
1032         ioapic = mp_find_ioapic(gsi);
1033         if (ioapic < 0)
1034                 return;
1035         pin = mp_find_ioapic_pin(ioapic, gsi);
1036
1037         /*
1038          * TBD: This check is for faulty timer entries, where the override
1039          *      erroneously sets the trigger to level, resulting in a HUGE
1040          *      increase of timer interrupts!
1041          */
1042         if ((bus_irq == 0) && (trigger == 3))
1043                 trigger = 1;
1044
1045         mp_irq.type = MP_INTSRC;
1046         mp_irq.irqtype = mp_INT;
1047         mp_irq.irqflag = (trigger << 2) | polarity;
1048         mp_irq.srcbus = MP_ISA_BUS;
1049         mp_irq.srcbusirq = bus_irq;     /* IRQ */
1050         mp_irq.dstapic = mp_ioapics[ioapic].apicid; /* APIC ID */
1051         mp_irq.dstirq = pin;    /* INTIN# */
1052
1053         save_mp_irq(&mp_irq);
1054 }
1055
1056 void __init mp_config_acpi_legacy_irqs(void)
1057 {
1058         int i;
1059         int ioapic;
1060         unsigned int dstapic;
1061         struct mpc_intsrc mp_irq;
1062
1063 #if defined (CONFIG_MCA) || defined (CONFIG_EISA)
1064         /*
1065          * Fabricate the legacy ISA bus (bus #31).
1066          */
1067         mp_bus_id_to_type[MP_ISA_BUS] = MP_BUS_ISA;
1068 #endif
1069         set_bit(MP_ISA_BUS, mp_bus_not_pci);
1070         pr_debug("Bus #%d is ISA\n", MP_ISA_BUS);
1071
1072 #ifdef CONFIG_X86_ES7000
1073         /*
1074          * Older generations of ES7000 have no legacy identity mappings
1075          */
1076         if (es7000_plat == 1)
1077                 return;
1078 #endif
1079
1080         /*
1081          * Locate the IOAPIC that manages the ISA IRQs (0-15).
1082          */
1083         ioapic = mp_find_ioapic(0);
1084         if (ioapic < 0)
1085                 return;
1086         dstapic = mp_ioapics[ioapic].apicid;
1087
1088         /*
1089          * Use the default configuration for the IRQs 0-15.  Unless
1090          * overridden by (MADT) interrupt source override entries.
1091          */
1092         for (i = 0; i < 16; i++) {
1093                 int idx;
1094
1095                 for (idx = 0; idx < mp_irq_entries; idx++) {
1096                         struct mpc_intsrc *irq = mp_irqs + idx;
1097
1098                         /* Do we already have a mapping for this ISA IRQ? */
1099                         if (irq->srcbus == MP_ISA_BUS && irq->srcbusirq == i)
1100                                 break;
1101
1102                         /* Do we already have a mapping for this IOAPIC pin */
1103                         if (irq->dstapic == dstapic && irq->dstirq == i)
1104                                 break;
1105                 }
1106
1107                 if (idx != mp_irq_entries) {
1108                         printk(KERN_DEBUG "ACPI: IRQ%d used by override.\n", i);
1109                         continue;       /* IRQ already used */
1110                 }
1111
1112                 mp_irq.type = MP_INTSRC;
1113                 mp_irq.irqflag = 0;     /* Conforming */
1114                 mp_irq.srcbus = MP_ISA_BUS;
1115                 mp_irq.dstapic = dstapic;
1116                 mp_irq.irqtype = mp_INT;
1117                 mp_irq.srcbusirq = i; /* Identity mapped */
1118                 mp_irq.dstirq = i;
1119
1120                 save_mp_irq(&mp_irq);
1121         }
1122 }
1123
1124 int mp_register_gsi(u32 gsi, int triggering, int polarity)
1125 {
1126         int ioapic;
1127         int ioapic_pin;
1128 #ifdef CONFIG_X86_32
1129 #define MAX_GSI_NUM     4096
1130 #define IRQ_COMPRESSION_START   64
1131
1132         static int pci_irq = IRQ_COMPRESSION_START;
1133         /*
1134          * Mapping between Global System Interrupts, which
1135          * represent all possible interrupts, and IRQs
1136          * assigned to actual devices.
1137          */
1138         static int gsi_to_irq[MAX_GSI_NUM];
1139 #else
1140
1141         if (acpi_irq_model != ACPI_IRQ_MODEL_IOAPIC)
1142                 return gsi;
1143 #endif
1144
1145         /* Don't set up the ACPI SCI because it's already set up */
1146         if (acpi_gbl_FADT.sci_interrupt == gsi)
1147                 return gsi;
1148
1149         ioapic = mp_find_ioapic(gsi);
1150         if (ioapic < 0) {
1151                 printk(KERN_WARNING "No IOAPIC for GSI %u\n", gsi);
1152                 return gsi;
1153         }
1154
1155         ioapic_pin = mp_find_ioapic_pin(ioapic, gsi);
1156
1157 #ifdef CONFIG_X86_32
1158         if (ioapic_renumber_irq)
1159                 gsi = ioapic_renumber_irq(ioapic, gsi);
1160 #endif
1161
1162         /*
1163          * Avoid pin reprogramming.  PRTs typically include entries
1164          * with redundant pin->gsi mappings (but unique PCI devices);
1165          * we only program the IOAPIC on the first.
1166          */
1167         if (ioapic_pin > MP_MAX_IOAPIC_PIN) {
1168                 printk(KERN_ERR "Invalid reference to IOAPIC pin "
1169                        "%d-%d\n", mp_ioapic_routing[ioapic].apic_id,
1170                        ioapic_pin);
1171                 return gsi;
1172         }
1173         if (test_bit(ioapic_pin, mp_ioapic_routing[ioapic].pin_programmed)) {
1174                 pr_debug("Pin %d-%d already programmed\n",
1175                          mp_ioapic_routing[ioapic].apic_id, ioapic_pin);
1176 #ifdef CONFIG_X86_32
1177                 return (gsi < IRQ_COMPRESSION_START ? gsi : gsi_to_irq[gsi]);
1178 #else
1179                 return gsi;
1180 #endif
1181         }
1182
1183         set_bit(ioapic_pin, mp_ioapic_routing[ioapic].pin_programmed);
1184 #ifdef CONFIG_X86_32
1185         /*
1186          * For GSI >= 64, use IRQ compression
1187          */
1188         if ((gsi >= IRQ_COMPRESSION_START)
1189             && (triggering == ACPI_LEVEL_SENSITIVE)) {
1190                 /*
1191                  * For PCI devices assign IRQs in order, avoiding gaps
1192                  * due to unused I/O APIC pins.
1193                  */
1194                 int irq = gsi;
1195                 if (gsi < MAX_GSI_NUM) {
1196                         /*
1197                          * Retain the VIA chipset work-around (gsi > 15), but
1198                          * avoid a problem where the 8254 timer (IRQ0) is setup
1199                          * via an override (so it's not on pin 0 of the ioapic),
1200                          * and at the same time, the pin 0 interrupt is a PCI
1201                          * type.  The gsi > 15 test could cause these two pins
1202                          * to be shared as IRQ0, and they are not shareable.
1203                          * So test for this condition, and if necessary, avoid
1204                          * the pin collision.
1205                          */
1206                         gsi = pci_irq++;
1207                         /*
1208                          * Don't assign IRQ used by ACPI SCI
1209                          */
1210                         if (gsi == acpi_gbl_FADT.sci_interrupt)
1211                                 gsi = pci_irq++;
1212                         gsi_to_irq[irq] = gsi;
1213                 } else {
1214                         printk(KERN_ERR "GSI %u is too high\n", gsi);
1215                         return gsi;
1216                 }
1217         }
1218 #endif
1219         io_apic_set_pci_routing(ioapic, ioapic_pin, gsi,
1220                                 triggering == ACPI_EDGE_SENSITIVE ? 0 : 1,
1221                                 polarity == ACPI_ACTIVE_HIGH ? 0 : 1);
1222         return gsi;
1223 }
1224
1225 int mp_config_acpi_gsi(unsigned char number, unsigned int devfn, u8 pin,
1226                         u32 gsi, int triggering, int polarity)
1227 {
1228 #ifdef CONFIG_X86_MPPARSE
1229         struct mpc_intsrc mp_irq;
1230         int ioapic;
1231
1232         if (!acpi_ioapic)
1233                 return 0;
1234
1235         /* print the entry should happen on mptable identically */
1236         mp_irq.type = MP_INTSRC;
1237         mp_irq.irqtype = mp_INT;
1238         mp_irq.irqflag = (triggering == ACPI_EDGE_SENSITIVE ? 4 : 0x0c) |
1239                                 (polarity == ACPI_ACTIVE_HIGH ? 1 : 3);
1240         mp_irq.srcbus = number;
1241         mp_irq.srcbusirq = (((devfn >> 3) & 0x1f) << 2) | ((pin - 1) & 3);
1242         ioapic = mp_find_ioapic(gsi);
1243         mp_irq.dstapic = mp_ioapic_routing[ioapic].apic_id;
1244         mp_irq.dstirq = mp_find_ioapic_pin(ioapic, gsi);
1245
1246         save_mp_irq(&mp_irq);
1247 #endif
1248         return 0;
1249 }
1250
1251 /*
1252  * Parse IOAPIC related entries in MADT
1253  * returns 0 on success, < 0 on error
1254  */
1255 static int __init acpi_parse_madt_ioapic_entries(void)
1256 {
1257         int count;
1258
1259         /*
1260          * ACPI interpreter is required to complete interrupt setup,
1261          * so if it is off, don't enumerate the io-apics with ACPI.
1262          * If MPS is present, it will handle them,
1263          * otherwise the system will stay in PIC mode
1264          */
1265         if (acpi_disabled || acpi_noirq) {
1266                 return -ENODEV;
1267         }
1268
1269         if (!cpu_has_apic)
1270                 return -ENODEV;
1271
1272         /*
1273          * if "noapic" boot option, don't look for IO-APICs
1274          */
1275         if (skip_ioapic_setup) {
1276                 printk(KERN_INFO PREFIX "Skipping IOAPIC probe "
1277                        "due to 'noapic' option.\n");
1278                 return -ENODEV;
1279         }
1280
1281         count =
1282             acpi_table_parse_madt(ACPI_MADT_TYPE_IO_APIC, acpi_parse_ioapic,
1283                                   MAX_IO_APICS);
1284         if (!count) {
1285                 printk(KERN_ERR PREFIX "No IOAPIC entries present\n");
1286                 return -ENODEV;
1287         } else if (count < 0) {
1288                 printk(KERN_ERR PREFIX "Error parsing IOAPIC entry\n");
1289                 return count;
1290         }
1291
1292         count =
1293             acpi_table_parse_madt(ACPI_MADT_TYPE_INTERRUPT_OVERRIDE, acpi_parse_int_src_ovr,
1294                                   nr_irqs);
1295         if (count < 0) {
1296                 printk(KERN_ERR PREFIX
1297                        "Error parsing interrupt source overrides entry\n");
1298                 /* TBD: Cleanup to allow fallback to MPS */
1299                 return count;
1300         }
1301
1302         /*
1303          * If BIOS did not supply an INT_SRC_OVR for the SCI
1304          * pretend we got one so we can set the SCI flags.
1305          */
1306         if (!acpi_sci_override_gsi)
1307                 acpi_sci_ioapic_setup(acpi_gbl_FADT.sci_interrupt, 0, 0);
1308
1309         /* Fill in identity legacy mapings where no override */
1310         mp_config_acpi_legacy_irqs();
1311
1312         count =
1313             acpi_table_parse_madt(ACPI_MADT_TYPE_NMI_SOURCE, acpi_parse_nmi_src,
1314                                   nr_irqs);
1315         if (count < 0) {
1316                 printk(KERN_ERR PREFIX "Error parsing NMI SRC entry\n");
1317                 /* TBD: Cleanup to allow fallback to MPS */
1318                 return count;
1319         }
1320
1321         return 0;
1322 }
1323 #else
1324 static inline int acpi_parse_madt_ioapic_entries(void)
1325 {
1326         return -1;
1327 }
1328 #endif  /* !CONFIG_X86_IO_APIC */
1329
1330 static void __init early_acpi_process_madt(void)
1331 {
1332 #ifdef CONFIG_X86_LOCAL_APIC
1333         int error;
1334
1335         if (!acpi_table_parse(ACPI_SIG_MADT, acpi_parse_madt)) {
1336
1337                 /*
1338                  * Parse MADT LAPIC entries
1339                  */
1340                 error = early_acpi_parse_madt_lapic_addr_ovr();
1341                 if (!error) {
1342                         acpi_lapic = 1;
1343                         smp_found_config = 1;
1344                 }
1345                 if (error == -EINVAL) {
1346                         /*
1347                          * Dell Precision Workstation 410, 610 come here.
1348                          */
1349                         printk(KERN_ERR PREFIX
1350                                "Invalid BIOS MADT, disabling ACPI\n");
1351                         disable_acpi();
1352                 }
1353         }
1354 #endif
1355 }
1356
1357 static void __init acpi_process_madt(void)
1358 {
1359 #ifdef CONFIG_X86_LOCAL_APIC
1360         int error;
1361
1362         if (!acpi_table_parse(ACPI_SIG_MADT, acpi_parse_madt)) {
1363
1364                 /*
1365                  * Parse MADT LAPIC entries
1366                  */
1367                 error = acpi_parse_madt_lapic_entries();
1368                 if (!error) {
1369                         acpi_lapic = 1;
1370
1371 #ifdef CONFIG_X86_BIGSMP
1372                         generic_bigsmp_probe();
1373 #endif
1374                         /*
1375                          * Parse MADT IO-APIC entries
1376                          */
1377                         error = acpi_parse_madt_ioapic_entries();
1378                         if (!error) {
1379                                 acpi_irq_model = ACPI_IRQ_MODEL_IOAPIC;
1380                                 acpi_ioapic = 1;
1381
1382                                 smp_found_config = 1;
1383                                 if (apic->setup_apic_routing)
1384                                         apic->setup_apic_routing();
1385                         }
1386                 }
1387                 if (error == -EINVAL) {
1388                         /*
1389                          * Dell Precision Workstation 410, 610 come here.
1390                          */
1391                         printk(KERN_ERR PREFIX
1392                                "Invalid BIOS MADT, disabling ACPI\n");
1393                         disable_acpi();
1394                 }
1395         } else {
1396                 /*
1397                  * ACPI found no MADT, and so ACPI wants UP PIC mode.
1398                  * In the event an MPS table was found, forget it.
1399                  * Boot with "acpi=off" to use MPS on such a system.
1400                  */
1401                 if (smp_found_config) {
1402                         printk(KERN_WARNING PREFIX
1403                                 "No APIC-table, disabling MPS\n");
1404                         smp_found_config = 0;
1405                 }
1406         }
1407
1408         /*
1409          * ACPI supports both logical (e.g. Hyper-Threading) and physical
1410          * processors, where MPS only supports physical.
1411          */
1412         if (acpi_lapic && acpi_ioapic)
1413                 printk(KERN_INFO "Using ACPI (MADT) for SMP configuration "
1414                        "information\n");
1415         else if (acpi_lapic)
1416                 printk(KERN_INFO "Using ACPI for processor (LAPIC) "
1417                        "configuration information\n");
1418 #endif
1419         return;
1420 }
1421
1422 static int __init disable_acpi_irq(const struct dmi_system_id *d)
1423 {
1424         if (!acpi_force) {
1425                 printk(KERN_NOTICE "%s detected: force use of acpi=noirq\n",
1426                        d->ident);
1427                 acpi_noirq_set();
1428         }
1429         return 0;
1430 }
1431
1432 static int __init disable_acpi_pci(const struct dmi_system_id *d)
1433 {
1434         if (!acpi_force) {
1435                 printk(KERN_NOTICE "%s detected: force use of pci=noacpi\n",
1436                        d->ident);
1437                 acpi_disable_pci();
1438         }
1439         return 0;
1440 }
1441
1442 static int __init dmi_disable_acpi(const struct dmi_system_id *d)
1443 {
1444         if (!acpi_force) {
1445                 printk(KERN_NOTICE "%s detected: acpi off\n", d->ident);
1446                 disable_acpi();
1447         } else {
1448                 printk(KERN_NOTICE
1449                        "Warning: DMI blacklist says broken, but acpi forced\n");
1450         }
1451         return 0;
1452 }
1453
1454 /*
1455  * Limit ACPI to CPU enumeration for HT
1456  */
1457 static int __init force_acpi_ht(const struct dmi_system_id *d)
1458 {
1459         if (!acpi_force) {
1460                 printk(KERN_NOTICE "%s detected: force use of acpi=ht\n",
1461                        d->ident);
1462                 disable_acpi();
1463                 acpi_ht = 1;
1464         } else {
1465                 printk(KERN_NOTICE
1466                        "Warning: acpi=force overrules DMI blacklist: acpi=ht\n");
1467         }
1468         return 0;
1469 }
1470
1471 /*
1472  * Force ignoring BIOS IRQ0 pin2 override
1473  */
1474 static int __init dmi_ignore_irq0_timer_override(const struct dmi_system_id *d)
1475 {
1476         /*
1477          * The ati_ixp4x0_rev() early PCI quirk should have set
1478          * the acpi_skip_timer_override flag already:
1479          */
1480         if (!acpi_skip_timer_override) {
1481                 WARN(1, KERN_ERR "ati_ixp4x0 quirk not complete.\n");
1482                 pr_notice("%s detected: Ignoring BIOS IRQ0 pin2 override\n",
1483                         d->ident);
1484                 acpi_skip_timer_override = 1;
1485         }
1486         return 0;
1487 }
1488
1489 /*
1490  * If your system is blacklisted here, but you find that acpi=force
1491  * works for you, please contact acpi-devel@sourceforge.net
1492  */
1493 static struct dmi_system_id __initdata acpi_dmi_table[] = {
1494         /*
1495          * Boxes that need ACPI disabled
1496          */
1497         {
1498          .callback = dmi_disable_acpi,
1499          .ident = "IBM Thinkpad",
1500          .matches = {
1501                      DMI_MATCH(DMI_BOARD_VENDOR, "IBM"),
1502                      DMI_MATCH(DMI_BOARD_NAME, "2629H1G"),
1503                      },
1504          },
1505
1506         /*
1507          * Boxes that need acpi=ht
1508          */
1509         {
1510          .callback = force_acpi_ht,
1511          .ident = "FSC Primergy T850",
1512          .matches = {
1513                      DMI_MATCH(DMI_SYS_VENDOR, "FUJITSU SIEMENS"),
1514                      DMI_MATCH(DMI_PRODUCT_NAME, "PRIMERGY T850"),
1515                      },
1516          },
1517         {
1518          .callback = force_acpi_ht,
1519          .ident = "HP VISUALIZE NT Workstation",
1520          .matches = {
1521                      DMI_MATCH(DMI_BOARD_VENDOR, "Hewlett-Packard"),
1522                      DMI_MATCH(DMI_PRODUCT_NAME, "HP VISUALIZE NT Workstation"),
1523                      },
1524          },
1525         {
1526          .callback = force_acpi_ht,
1527          .ident = "Compaq Workstation W8000",
1528          .matches = {
1529                      DMI_MATCH(DMI_SYS_VENDOR, "Compaq"),
1530                      DMI_MATCH(DMI_PRODUCT_NAME, "Workstation W8000"),
1531                      },
1532          },
1533         {
1534          .callback = force_acpi_ht,
1535          .ident = "ASUS P4B266",
1536          .matches = {
1537                      DMI_MATCH(DMI_BOARD_VENDOR, "ASUSTeK Computer INC."),
1538                      DMI_MATCH(DMI_BOARD_NAME, "P4B266"),
1539                      },
1540          },
1541         {
1542          .callback = force_acpi_ht,
1543          .ident = "ASUS P2B-DS",
1544          .matches = {
1545                      DMI_MATCH(DMI_BOARD_VENDOR, "ASUSTeK Computer INC."),
1546                      DMI_MATCH(DMI_BOARD_NAME, "P2B-DS"),
1547                      },
1548          },
1549         {
1550          .callback = force_acpi_ht,
1551          .ident = "ASUS CUR-DLS",
1552          .matches = {
1553                      DMI_MATCH(DMI_BOARD_VENDOR, "ASUSTeK Computer INC."),
1554                      DMI_MATCH(DMI_BOARD_NAME, "CUR-DLS"),
1555                      },
1556          },
1557         {
1558          .callback = force_acpi_ht,
1559          .ident = "ABIT i440BX-W83977",
1560          .matches = {
1561                      DMI_MATCH(DMI_BOARD_VENDOR, "ABIT <http://www.abit.com>"),
1562                      DMI_MATCH(DMI_BOARD_NAME, "i440BX-W83977 (BP6)"),
1563                      },
1564          },
1565         {
1566          .callback = force_acpi_ht,
1567          .ident = "IBM Bladecenter",
1568          .matches = {
1569                      DMI_MATCH(DMI_BOARD_VENDOR, "IBM"),
1570                      DMI_MATCH(DMI_BOARD_NAME, "IBM eServer BladeCenter HS20"),
1571                      },
1572          },
1573         {
1574          .callback = force_acpi_ht,
1575          .ident = "IBM eServer xSeries 360",
1576          .matches = {
1577                      DMI_MATCH(DMI_BOARD_VENDOR, "IBM"),
1578                      DMI_MATCH(DMI_BOARD_NAME, "eServer xSeries 360"),
1579                      },
1580          },
1581         {
1582          .callback = force_acpi_ht,
1583          .ident = "IBM eserver xSeries 330",
1584          .matches = {
1585                      DMI_MATCH(DMI_BOARD_VENDOR, "IBM"),
1586                      DMI_MATCH(DMI_BOARD_NAME, "eserver xSeries 330"),
1587                      },
1588          },
1589         {
1590          .callback = force_acpi_ht,
1591          .ident = "IBM eserver xSeries 440",
1592          .matches = {
1593                      DMI_MATCH(DMI_BOARD_VENDOR, "IBM"),
1594                      DMI_MATCH(DMI_PRODUCT_NAME, "eserver xSeries 440"),
1595                      },
1596          },
1597
1598         /*
1599          * Boxes that need ACPI PCI IRQ routing disabled
1600          */
1601         {
1602          .callback = disable_acpi_irq,
1603          .ident = "ASUS A7V",
1604          .matches = {
1605                      DMI_MATCH(DMI_BOARD_VENDOR, "ASUSTeK Computer INC"),
1606                      DMI_MATCH(DMI_BOARD_NAME, "<A7V>"),
1607                      /* newer BIOS, Revision 1011, does work */
1608                      DMI_MATCH(DMI_BIOS_VERSION,
1609                                "ASUS A7V ACPI BIOS Revision 1007"),
1610                      },
1611          },
1612         {
1613                 /*
1614                  * Latest BIOS for IBM 600E (1.16) has bad pcinum
1615                  * for LPC bridge, which is needed for the PCI
1616                  * interrupt links to work. DSDT fix is in bug 5966.
1617                  * 2645, 2646 model numbers are shared with 600/600E/600X
1618                  */
1619          .callback = disable_acpi_irq,
1620          .ident = "IBM Thinkpad 600 Series 2645",
1621          .matches = {
1622                      DMI_MATCH(DMI_BOARD_VENDOR, "IBM"),
1623                      DMI_MATCH(DMI_BOARD_NAME, "2645"),
1624                      },
1625          },
1626         {
1627          .callback = disable_acpi_irq,
1628          .ident = "IBM Thinkpad 600 Series 2646",
1629          .matches = {
1630                      DMI_MATCH(DMI_BOARD_VENDOR, "IBM"),
1631                      DMI_MATCH(DMI_BOARD_NAME, "2646"),
1632                      },
1633          },
1634         /*
1635          * Boxes that need ACPI PCI IRQ routing and PCI scan disabled
1636          */
1637         {                       /* _BBN 0 bug */
1638          .callback = disable_acpi_pci,
1639          .ident = "ASUS PR-DLS",
1640          .matches = {
1641                      DMI_MATCH(DMI_BOARD_VENDOR, "ASUSTeK Computer INC."),
1642                      DMI_MATCH(DMI_BOARD_NAME, "PR-DLS"),
1643                      DMI_MATCH(DMI_BIOS_VERSION,
1644                                "ASUS PR-DLS ACPI BIOS Revision 1010"),
1645                      DMI_MATCH(DMI_BIOS_DATE, "03/21/2003")
1646                      },
1647          },
1648         {
1649          .callback = disable_acpi_pci,
1650          .ident = "Acer TravelMate 36x Laptop",
1651          .matches = {
1652                      DMI_MATCH(DMI_SYS_VENDOR, "Acer"),
1653                      DMI_MATCH(DMI_PRODUCT_NAME, "TravelMate 360"),
1654                      },
1655          },
1656         {}
1657 };
1658
1659 /* second table for DMI checks that should run after early-quirks */
1660 static struct dmi_system_id __initdata acpi_dmi_table_late[] = {
1661         /*
1662          * HP laptops which use a DSDT reporting as HP/SB400/10000,
1663          * which includes some code which overrides all temperature
1664          * trip points to 16C if the INTIN2 input of the I/O APIC
1665          * is enabled.  This input is incorrectly designated the
1666          * ISA IRQ 0 via an interrupt source override even though
1667          * it is wired to the output of the master 8259A and INTIN0
1668          * is not connected at all.  Force ignoring BIOS IRQ0 pin2
1669          * override in that cases.
1670          */
1671         {
1672          .callback = dmi_ignore_irq0_timer_override,
1673          .ident = "HP nx6115 laptop",
1674          .matches = {
1675                      DMI_MATCH(DMI_SYS_VENDOR, "Hewlett-Packard"),
1676                      DMI_MATCH(DMI_PRODUCT_NAME, "HP Compaq nx6115"),
1677                      },
1678          },
1679         {
1680          .callback = dmi_ignore_irq0_timer_override,
1681          .ident = "HP NX6125 laptop",
1682          .matches = {
1683                      DMI_MATCH(DMI_SYS_VENDOR, "Hewlett-Packard"),
1684                      DMI_MATCH(DMI_PRODUCT_NAME, "HP Compaq nx6125"),
1685                      },
1686          },
1687         {
1688          .callback = dmi_ignore_irq0_timer_override,
1689          .ident = "HP NX6325 laptop",
1690          .matches = {
1691                      DMI_MATCH(DMI_SYS_VENDOR, "Hewlett-Packard"),
1692                      DMI_MATCH(DMI_PRODUCT_NAME, "HP Compaq nx6325"),
1693                      },
1694          },
1695         {
1696          .callback = dmi_ignore_irq0_timer_override,
1697          .ident = "HP 6715b laptop",
1698          .matches = {
1699                      DMI_MATCH(DMI_SYS_VENDOR, "Hewlett-Packard"),
1700                      DMI_MATCH(DMI_PRODUCT_NAME, "HP Compaq 6715b"),
1701                      },
1702          },
1703         {}
1704 };
1705
1706 /*
1707  * acpi_boot_table_init() and acpi_boot_init()
1708  *  called from setup_arch(), always.
1709  *      1. checksums all tables
1710  *      2. enumerates lapics
1711  *      3. enumerates io-apics
1712  *
1713  * acpi_table_init() is separate to allow reading SRAT without
1714  * other side effects.
1715  *
1716  * side effects of acpi_boot_init:
1717  *      acpi_lapic = 1 if LAPIC found
1718  *      acpi_ioapic = 1 if IOAPIC found
1719  *      if (acpi_lapic && acpi_ioapic) smp_found_config = 1;
1720  *      if acpi_blacklisted() acpi_disabled = 1;
1721  *      acpi_irq_model=...
1722  *      ...
1723  *
1724  * return value: (currently ignored)
1725  *      0: success
1726  *      !0: failure
1727  */
1728
1729 int __init acpi_boot_table_init(void)
1730 {
1731         int error;
1732
1733         dmi_check_system(acpi_dmi_table);
1734
1735         /*
1736          * If acpi_disabled, bail out
1737          * One exception: acpi=ht continues far enough to enumerate LAPICs
1738          */
1739         if (acpi_disabled && !acpi_ht)
1740                 return 1;
1741
1742         /*
1743          * Initialize the ACPI boot-time table parser.
1744          */
1745         error = acpi_table_init();
1746         if (error) {
1747                 disable_acpi();
1748                 return error;
1749         }
1750
1751         acpi_table_parse(ACPI_SIG_BOOT, acpi_parse_sbf);
1752
1753         /*
1754          * blacklist may disable ACPI entirely
1755          */
1756         error = acpi_blacklisted();
1757         if (error) {
1758                 if (acpi_force) {
1759                         printk(KERN_WARNING PREFIX "acpi=force override\n");
1760                 } else {
1761                         printk(KERN_WARNING PREFIX "Disabling ACPI support\n");
1762                         disable_acpi();
1763                         return error;
1764                 }
1765         }
1766
1767         return 0;
1768 }
1769
1770 int __init early_acpi_boot_init(void)
1771 {
1772         /*
1773          * If acpi_disabled, bail out
1774          * One exception: acpi=ht continues far enough to enumerate LAPICs
1775          */
1776         if (acpi_disabled && !acpi_ht)
1777                 return 1;
1778
1779         /*
1780          * Process the Multiple APIC Description Table (MADT), if present
1781          */
1782         early_acpi_process_madt();
1783
1784         return 0;
1785 }
1786
1787 int __init acpi_boot_init(void)
1788 {
1789         /* those are executed after early-quirks are executed */
1790         dmi_check_system(acpi_dmi_table_late);
1791
1792         /*
1793          * If acpi_disabled, bail out
1794          * One exception: acpi=ht continues far enough to enumerate LAPICs
1795          */
1796         if (acpi_disabled && !acpi_ht)
1797                 return 1;
1798
1799         acpi_table_parse(ACPI_SIG_BOOT, acpi_parse_sbf);
1800
1801         /*
1802          * set sci_int and PM timer address
1803          */
1804         acpi_table_parse(ACPI_SIG_FADT, acpi_parse_fadt);
1805
1806         /*
1807          * Process the Multiple APIC Description Table (MADT), if present
1808          */
1809         acpi_process_madt();
1810
1811         acpi_table_parse(ACPI_SIG_HPET, acpi_parse_hpet);
1812
1813         return 0;
1814 }
1815
1816 static int __init parse_acpi(char *arg)
1817 {
1818         if (!arg)
1819                 return -EINVAL;
1820
1821         /* "acpi=off" disables both ACPI table parsing and interpreter */
1822         if (strcmp(arg, "off") == 0) {
1823                 disable_acpi();
1824         }
1825         /* acpi=force to over-ride black-list */
1826         else if (strcmp(arg, "force") == 0) {
1827                 acpi_force = 1;
1828                 acpi_ht = 1;
1829                 acpi_disabled = 0;
1830         }
1831         /* acpi=strict disables out-of-spec workarounds */
1832         else if (strcmp(arg, "strict") == 0) {
1833                 acpi_strict = 1;
1834         }
1835         /* Limit ACPI just to boot-time to enable HT */
1836         else if (strcmp(arg, "ht") == 0) {
1837                 if (!acpi_force)
1838                         disable_acpi();
1839                 acpi_ht = 1;
1840         }
1841         /* acpi=rsdt use RSDT instead of XSDT */
1842         else if (strcmp(arg, "rsdt") == 0) {
1843                 acpi_rsdt_forced = 1;
1844         }
1845         /* "acpi=noirq" disables ACPI interrupt routing */
1846         else if (strcmp(arg, "noirq") == 0) {
1847                 acpi_noirq_set();
1848         } else {
1849                 /* Core will printk when we return error. */
1850                 return -EINVAL;
1851         }
1852         return 0;
1853 }
1854 early_param("acpi", parse_acpi);
1855
1856 /* FIXME: Using pci= for an ACPI parameter is a travesty. */
1857 static int __init parse_pci(char *arg)
1858 {
1859         if (arg && strcmp(arg, "noacpi") == 0)
1860                 acpi_disable_pci();
1861         return 0;
1862 }
1863 early_param("pci", parse_pci);
1864
1865 int __init acpi_mps_check(void)
1866 {
1867 #if defined(CONFIG_X86_LOCAL_APIC) && !defined(CONFIG_X86_MPPARSE)
1868 /* mptable code is not built-in*/
1869         if (acpi_disabled || acpi_noirq) {
1870                 printk(KERN_WARNING "MPS support code is not built-in.\n"
1871                        "Using acpi=off or acpi=noirq or pci=noacpi "
1872                        "may have problem\n");
1873                 return 1;
1874         }
1875 #endif
1876         return 0;
1877 }
1878
1879 #ifdef CONFIG_X86_IO_APIC
1880 static int __init parse_acpi_skip_timer_override(char *arg)
1881 {
1882         acpi_skip_timer_override = 1;
1883         return 0;
1884 }
1885 early_param("acpi_skip_timer_override", parse_acpi_skip_timer_override);
1886
1887 static int __init parse_acpi_use_timer_override(char *arg)
1888 {
1889         acpi_use_timer_override = 1;
1890         return 0;
1891 }
1892 early_param("acpi_use_timer_override", parse_acpi_use_timer_override);
1893 #endif /* CONFIG_X86_IO_APIC */
1894
1895 static int __init setup_acpi_sci(char *s)
1896 {
1897         if (!s)
1898                 return -EINVAL;
1899         if (!strcmp(s, "edge"))
1900                 acpi_sci_flags =  ACPI_MADT_TRIGGER_EDGE |
1901                         (acpi_sci_flags & ~ACPI_MADT_TRIGGER_MASK);
1902         else if (!strcmp(s, "level"))
1903                 acpi_sci_flags = ACPI_MADT_TRIGGER_LEVEL |
1904                         (acpi_sci_flags & ~ACPI_MADT_TRIGGER_MASK);
1905         else if (!strcmp(s, "high"))
1906                 acpi_sci_flags = ACPI_MADT_POLARITY_ACTIVE_HIGH |
1907                         (acpi_sci_flags & ~ACPI_MADT_POLARITY_MASK);
1908         else if (!strcmp(s, "low"))
1909                 acpi_sci_flags = ACPI_MADT_POLARITY_ACTIVE_LOW |
1910                         (acpi_sci_flags & ~ACPI_MADT_POLARITY_MASK);
1911         else
1912                 return -EINVAL;
1913         return 0;
1914 }
1915 early_param("acpi_sci", setup_acpi_sci);
1916
1917 int __acpi_acquire_global_lock(unsigned int *lock)
1918 {
1919         unsigned int old, new, val;
1920         do {
1921                 old = *lock;
1922                 new = (((old & ~0x3) + 2) + ((old >> 1) & 0x1));
1923                 val = cmpxchg(lock, old, new);
1924         } while (unlikely (val != old));
1925         return (new < 3) ? -1 : 0;
1926 }
1927
1928 int __acpi_release_global_lock(unsigned int *lock)
1929 {
1930         unsigned int old, new, val;
1931         do {
1932                 old = *lock;
1933                 new = old & ~0x3;
1934                 val = cmpxchg(lock, old, new);
1935         } while (unlikely (val != old));
1936         return old & 0x1;
1937 }