arch/x86/kernel/acpi/boot.c

   1 /*
   2  *  boot.c - Architecture-Specific Low-Level ACPI Boot Support
   3  *
   4  *  Copyright (C) 2001, 2002 Paul Diefenbaugh <paul.s.diefenbaugh@intel.com>
   5  *  Copyright (C) 2001 Jun Nakajima <jun.nakajima@intel.com>
   6  *
   7  * ~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~
   8  *
   9  *  This program is free software; you can redistribute it and/or modify
  10  *  it under the terms of the GNU General Public License as published by
  11  *  the Free Software Foundation; either version 2 of the License, or
  12  *  (at your option) any later version.
  13  *
  14  *  This program is distributed in the hope that it will be useful,
  15  *  but WITHOUT ANY WARRANTY; without even the implied warranty of
  16  *  MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
  17  *  GNU General Public License for more details.
  18  *
  19  *  You should have received a copy of the GNU General Public License
  20  *  along with this program; if not, write to the Free Software
  21  *  Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA  02111-1307  USA
  22  *
  23  * ~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~
  24  */
  25
  26 #include <linux/init.h>
  27 #include <linux/acpi.h>
  28 #include <linux/acpi_pmtmr.h>
  29 #include <linux/efi.h>
  30 #include <linux/cpumask.h>
  31 #include <linux/module.h>
  32 #include <linux/dmi.h>
  33 #include <linux/irq.h>
  34 #include <linux/bootmem.h>
  35 #include <linux/ioport.h>
  36
  37 #include <asm/pgtable.h>
  38 #include <asm/io_apic.h>
  39 #include <asm/apic.h>
  40 #include <asm/io.h>
  41 #include <asm/mpspec.h>
  42 #include <asm/smp.h>
  43
  44 static int __initdata acpi_force = 0;
  45 u32 acpi_rsdt_forced;
  46 #ifdef  CONFIG_ACPI
  47 int acpi_disabled = 0;
  48 #else
  49 int acpi_disabled = 1;
  50 #endif
  51 EXPORT_SYMBOL(acpi_disabled);
  52
  53 #ifdef  CONFIG_X86_64
  54 # include <asm/proto.h>
  55 #endif                          /* X86 */
  56
  57 #define BAD_MADT_ENTRY(entry, end) (                                        \
  58                 (!entry) || (unsigned long)entry + sizeof(*entry) > end ||  \
  59                 ((struct acpi_subtable_header *)entry)->length < sizeof(*entry))
  60
  61 #define PREFIX                  "ACPI: "
  62
  63 int acpi_noirq;                         /* skip ACPI IRQ initialization */
  64 int acpi_pci_disabled;          /* skip ACPI PCI scan and IRQ initialization */
  65 EXPORT_SYMBOL(acpi_pci_disabled);
  66 int acpi_ht __initdata = 1;     /* enable HT */
  67
  68 int acpi_lapic;
  69 int acpi_ioapic;
  70 int acpi_strict;
  71
  72 u8 acpi_sci_flags __initdata;
  73 int acpi_sci_override_gsi __initdata;
  74 int acpi_skip_timer_override __initdata;
  75 int acpi_use_timer_override __initdata;
  76
  77 #ifdef CONFIG_X86_LOCAL_APIC
  78 static u64 acpi_lapic_addr __initdata = APIC_DEFAULT_PHYS_BASE;
  79 #endif
  80
  81 #ifndef __HAVE_ARCH_CMPXCHG
  82 #warning ACPI uses CMPXCHG, i486 and later hardware
  83 #endif
  84
  85 /* --------------------------------------------------------------------------
  86                               Boot-time Configuration
  87    -------------------------------------------------------------------------- */
  88
  89 /*
  90  * The default interrupt routing model is PIC (8259).  This gets
  91  * overridden if IOAPICs are enumerated (below).
  92  */
  93 enum acpi_irq_model_id acpi_irq_model = ACPI_IRQ_MODEL_PIC;
  94
  95
  96 /*
  97  * Temporarily use the virtual area starting from FIX_IO_APIC_BASE_END,
  98  * to map the target physical address. The problem is that set_fixmap()
  99  * provides a single page, and it is possible that the page is not
 100  * sufficient.
 101  * By using this area, we can map up to MAX_IO_APICS pages temporarily,
 102  * i.e. until the next __va_range() call.
 103  *
 104  * Important Safety Note:  The fixed I/O APIC page numbers are *subtracted*
 105  * from the fixed base.  That's why we start at FIX_IO_APIC_BASE_END and
 106  * count idx down while incrementing the phys address.
 107  */
 108 char *__init __acpi_map_table(unsigned long phys, unsigned long size)
 109 {
 110
 111         if (!phys || !size)
 112                 return NULL;
 113
 114         return early_ioremap(phys, size);
 115 }
 116 void __init __acpi_unmap_table(char *map, unsigned long size)
 117 {
 118         if (!map || !size)
 119                 return;
 120
 121         early_iounmap(map, size);
 122 }
 123
 124 #ifdef CONFIG_PCI_MMCONFIG
 125
 126 static int acpi_mcfg_64bit_base_addr __initdata = FALSE;
 127
 128 /* The physical address of the MMCONFIG aperture.  Set from ACPI tables. */
 129 struct acpi_mcfg_allocation *pci_mmcfg_config;
 130 int pci_mmcfg_config_num;
 131
 132 static int __init acpi_mcfg_oem_check(struct acpi_table_mcfg *mcfg)
 133 {
 134         if (!strcmp(mcfg->header.oem_id, "SGI"))
 135                 acpi_mcfg_64bit_base_addr = TRUE;
 136
 137         return 0;
 138 }
 139
 140 int __init acpi_parse_mcfg(struct acpi_table_header *header)
 141 {
 142         struct acpi_table_mcfg *mcfg;
 143         unsigned long i;
 144         int config_size;
 145
 146         if (!header)
 147                 return -EINVAL;
 148
 149         mcfg = (struct acpi_table_mcfg *)header;
 150
 151         /* how many config structures do we have */
 152         pci_mmcfg_config_num = 0;
 153         i = header->length - sizeof(struct acpi_table_mcfg);
 154         while (i >= sizeof(struct acpi_mcfg_allocation)) {
 155                 ++pci_mmcfg_config_num;
 156                 i -= sizeof(struct acpi_mcfg_allocation);
 157         };
 158         if (pci_mmcfg_config_num == 0) {
 159                 printk(KERN_ERR PREFIX "MMCONFIG has no entries\n");
 160                 return -ENODEV;
 161         }
 162
 163         config_size = pci_mmcfg_config_num * sizeof(*pci_mmcfg_config);
 164         pci_mmcfg_config = kmalloc(config_size, GFP_KERNEL);
 165         if (!pci_mmcfg_config) {
 166                 printk(KERN_WARNING PREFIX
 167                        "No memory for MCFG config tables\n");
 168                 return -ENOMEM;
 169         }
 170
 171         memcpy(pci_mmcfg_config, &mcfg[1], config_size);
 172
 173         acpi_mcfg_oem_check(mcfg);
 174
 175         for (i = 0; i < pci_mmcfg_config_num; ++i) {
 176                 if ((pci_mmcfg_config[i].address > 0xFFFFFFFF) &&
 177                     !acpi_mcfg_64bit_base_addr) {
 178                         printk(KERN_ERR PREFIX
 179                                "MMCONFIG not in low 4GB of memory\n");
 180                         kfree(pci_mmcfg_config);
 181                         pci_mmcfg_config_num = 0;
 182                         return -ENODEV;
 183                 }
 184         }
 185
 186         return 0;
 187 }
 188 #endif                          /* CONFIG_PCI_MMCONFIG */
 189
 190 #ifdef CONFIG_X86_LOCAL_APIC
 191 static int __init acpi_parse_madt(struct acpi_table_header *table)
 192 {
 193         struct acpi_table_madt *madt = NULL;
 194
 195         if (!cpu_has_apic)
 196                 return -EINVAL;
 197
 198         madt = (struct acpi_table_madt *)table;
 199         if (!madt) {
 200                 printk(KERN_WARNING PREFIX "Unable to map MADT\n");
 201                 return -ENODEV;
 202         }
 203
 204         if (madt->address) {
 205                 acpi_lapic_addr = (u64) madt->address;
 206
 207                 printk(KERN_DEBUG PREFIX "Local APIC address 0x%08x\n",
 208                        madt->address);
 209         }
 210
 211         default_acpi_madt_oem_check(madt->header.oem_id,
 212                                     madt->header.oem_table_id);
 213
 214         return 0;
 215 }
 216
 217 static void __cpuinit acpi_register_lapic(int id, u8 enabled)
 218 {
 219         unsigned int ver = 0;
 220
 221         if (!enabled) {
 222                 ++disabled_cpus;
 223                 return;
 224         }
 225
 226         if (boot_cpu_physical_apicid != -1U)
 227                 ver = apic_version[boot_cpu_physical_apicid];
 228
 229         generic_processor_info(id, ver);
 230 }
 231
 232 static int __init
 233 acpi_parse_lapic(struct acpi_subtable_header * header, const unsigned long end)
 234 {
 235         struct acpi_madt_local_apic *processor = NULL;
 236
 237         processor = (struct acpi_madt_local_apic *)header;
 238
 239         if (BAD_MADT_ENTRY(processor, end))
 240                 return -EINVAL;
 241
 242         acpi_table_print_madt_entry(header);
 243
 244         /*
 245          * We need to register disabled CPU as well to permit
 246          * counting disabled CPUs. This allows us to size
 247          * cpus_possible_map more accurately, to permit
 248          * to not preallocating memory for all NR_CPUS
 249          * when we use CPU hotplug.
 250          */
 251         acpi_register_lapic(processor->id,      /* APIC ID */
 252                             processor->lapic_flags & ACPI_MADT_ENABLED);
 253
 254         return 0;
 255 }
 256
 257 static int __init
 258 acpi_parse_sapic(struct acpi_subtable_header *header, const unsigned long end)
 259 {
 260         struct acpi_madt_local_sapic *processor = NULL;
 261
 262         processor = (struct acpi_madt_local_sapic *)header;
 263
 264         if (BAD_MADT_ENTRY(processor, end))
 265                 return -EINVAL;
 266
 267         acpi_table_print_madt_entry(header);
 268
 269         acpi_register_lapic((processor->id << 8) | processor->eid,/* APIC ID */
 270                             processor->lapic_flags & ACPI_MADT_ENABLED);
 271
 272         return 0;
 273 }
 274
 275 static int __init
 276 acpi_parse_lapic_addr_ovr(struct acpi_subtable_header * header,
 277                           const unsigned long end)
 278 {
 279         struct acpi_madt_local_apic_override *lapic_addr_ovr = NULL;
 280
 281         lapic_addr_ovr = (struct acpi_madt_local_apic_override *)header;
 282
 283         if (BAD_MADT_ENTRY(lapic_addr_ovr, end))
 284                 return -EINVAL;
 285
 286         acpi_lapic_addr = lapic_addr_ovr->address;
 287
 288         return 0;
 289 }
 290
 291 static int __init
 292 acpi_parse_lapic_nmi(struct acpi_subtable_header * header, const unsigned long end)
 293 {
 294         struct acpi_madt_local_apic_nmi *lapic_nmi = NULL;
 295
 296         lapic_nmi = (struct acpi_madt_local_apic_nmi *)header;
 297
 298         if (BAD_MADT_ENTRY(lapic_nmi, end))
 299                 return -EINVAL;
 300
 301         acpi_table_print_madt_entry(header);
 302
 303         if (lapic_nmi->lint != 1)
 304                 printk(KERN_WARNING PREFIX "NMI not connected to LINT 1!\n");
 305
 306         return 0;
 307 }
 308
 309 #endif                          /*CONFIG_X86_LOCAL_APIC */
 310
 311 #ifdef CONFIG_X86_IO_APIC
 312
 313 static int __init
 314 acpi_parse_ioapic(struct acpi_subtable_header * header, const unsigned long end)
 315 {
 316         struct acpi_madt_io_apic *ioapic = NULL;
 317
 318         ioapic = (struct acpi_madt_io_apic *)header;
 319
 320         if (BAD_MADT_ENTRY(ioapic, end))
 321                 return -EINVAL;
 322
 323         acpi_table_print_madt_entry(header);
 324
 325         mp_register_ioapic(ioapic->id,
 326                            ioapic->address, ioapic->global_irq_base);
 327
 328         return 0;
 329 }
 330
 331 /*
 332  * Parse Interrupt Source Override for the ACPI SCI
 333  */
 334 static void __init acpi_sci_ioapic_setup(u32 gsi, u16 polarity, u16 trigger)
 335 {
 336         if (trigger == 0)       /* compatible SCI trigger is level */
 337                 trigger = 3;
 338
 339         if (polarity == 0)      /* compatible SCI polarity is low */
 340                 polarity = 3;
 341
 342         /* Command-line over-ride via acpi_sci= */
 343         if (acpi_sci_flags & ACPI_MADT_TRIGGER_MASK)
 344                 trigger = (acpi_sci_flags & ACPI_MADT_TRIGGER_MASK) >> 2;
 345
 346         if (acpi_sci_flags & ACPI_MADT_POLARITY_MASK)
 347                 polarity = acpi_sci_flags & ACPI_MADT_POLARITY_MASK;
 348
 349         /*
 350          * mp_config_acpi_legacy_irqs() already setup IRQs < 16
 351          * If GSI is < 16, this will update its flags,
 352          * else it will create a new mp_irqs[] entry.
 353          */
 354         mp_override_legacy_irq(gsi, polarity, trigger, gsi);
 355
 356         /*
 357          * stash over-ride to indicate we've been here
 358          * and for later update of acpi_gbl_FADT
 359          */
 360         acpi_sci_override_gsi = gsi;
 361         return;
 362 }
 363
 364 static int __init
 365 acpi_parse_int_src_ovr(struct acpi_subtable_header * header,
 366                        const unsigned long end)
 367 {
 368         struct acpi_madt_interrupt_override *intsrc = NULL;
 369
 370         intsrc = (struct acpi_madt_interrupt_override *)header;
 371
 372         if (BAD_MADT_ENTRY(intsrc, end))
 373                 return -EINVAL;
 374
 375         acpi_table_print_madt_entry(header);
 376
 377         if (intsrc->source_irq == acpi_gbl_FADT.sci_interrupt) {
 378                 acpi_sci_ioapic_setup(intsrc->global_irq,
 379                                       intsrc->inti_flags & ACPI_MADT_POLARITY_MASK,
 380                                       (intsrc->inti_flags & ACPI_MADT_TRIGGER_MASK) >> 2);
 381                 return 0;
 382         }
 383
 384         if (acpi_skip_timer_override &&
 385             intsrc->source_irq == 0 && intsrc->global_irq == 2) {
 386                 printk(PREFIX "BIOS IRQ0 pin2 override ignored.\n");
 387                 return 0;
 388         }
 389
 390         mp_override_legacy_irq(intsrc->source_irq,
 391                                 intsrc->inti_flags & ACPI_MADT_POLARITY_MASK,
 392                                 (intsrc->inti_flags & ACPI_MADT_TRIGGER_MASK) >> 2,
 393                                 intsrc->global_irq);
 394
 395         return 0;
 396 }
 397
 398 static int __init
 399 acpi_parse_nmi_src(struct acpi_subtable_header * header, const unsigned long end)
 400 {
 401         struct acpi_madt_nmi_source *nmi_src = NULL;
 402
 403         nmi_src = (struct acpi_madt_nmi_source *)header;
 404
 405         if (BAD_MADT_ENTRY(nmi_src, end))
 406                 return -EINVAL;
 407
 408         acpi_table_print_madt_entry(header);
 409
 410         /* TBD: Support nimsrc entries? */
 411
 412         return 0;
 413 }
 414
 415 #endif                          /* CONFIG_X86_IO_APIC */
 416
 417 /*
 418  * acpi_pic_sci_set_trigger()
 419  *
 420  * use ELCR to set PIC-mode trigger type for SCI
 421  *
 422  * If a PIC-mode SCI is not recognized or gives spurious IRQ7's
 423  * it may require Edge Trigger -- use "acpi_sci=edge"
 424  *
 425  * Port 0x4d0-4d1 are ECLR1 and ECLR2, the Edge/Level Control Registers
 426  * for the 8259 PIC.  bit[n] = 1 means irq[n] is Level, otherwise Edge.
 427  * ECLR1 is IRQs 0-7 (IRQ 0, 1, 2 must be 0)
 428  * ECLR2 is IRQs 8-15 (IRQ 8, 13 must be 0)
 429  */
 430
 431 void __init acpi_pic_sci_set_trigger(unsigned int irq, u16 trigger)
 432 {
 433         unsigned int mask = 1 << irq;
 434         unsigned int old, new;
 435
 436         /* Real old ELCR mask */
 437         old = inb(0x4d0) | (inb(0x4d1) << 8);
 438
 439         /*
 440          * If we use ACPI to set PCI IRQs, then we should clear ELCR
 441          * since we will set it correctly as we enable the PCI irq
 442          * routing.
 443          */
 444         new = acpi_noirq ? old : 0;
 445
 446         /*
 447          * Update SCI information in the ELCR, it isn't in the PCI
 448          * routing tables..
 449          */
 450         switch (trigger) {
 451         case 1:         /* Edge - clear */
 452                 new &= ~mask;
 453                 break;
 454         case 3:         /* Level - set */
 455                 new |= mask;
 456                 break;
 457         }
 458
 459         if (old == new)
 460                 return;
 461
 462         printk(PREFIX "setting ELCR to %04x (from %04x)\n", new, old);
 463         outb(new, 0x4d0);
 464         outb(new >> 8, 0x4d1);
 465 }
 466
 467 int acpi_gsi_to_irq(u32 gsi, unsigned int *irq)
 468 {
 469         *irq = gsi;
 470         return 0;
 471 }
 472
 473 /*
 474  * success: return IRQ number (>=0)
 475  * failure: return < 0
 476  */
 477 int acpi_register_gsi(u32 gsi, int triggering, int polarity)
 478 {
 479         unsigned int irq;
 480         unsigned int plat_gsi = gsi;
 481
 482 #ifdef CONFIG_PCI
 483         /*
 484          * Make sure all (legacy) PCI IRQs are set as level-triggered.
 485          */
 486         if (acpi_irq_model == ACPI_IRQ_MODEL_PIC) {
 487                 if (triggering == ACPI_LEVEL_SENSITIVE)
 488                         eisa_set_level_irq(gsi);
 489         }
 490 #endif
 491
 492 #ifdef CONFIG_X86_IO_APIC
 493         if (acpi_irq_model == ACPI_IRQ_MODEL_IOAPIC) {
 494                 plat_gsi = mp_register_gsi(gsi, triggering, polarity);
 495         }
 496 #endif
 497         acpi_gsi_to_irq(plat_gsi, &irq);
 498         return irq;
 499 }
 500
 501 /*
 502  *  ACPI based hotplug support for CPU
 503  */
 504 #ifdef CONFIG_ACPI_HOTPLUG_CPU
 505
 506 static int __cpuinit _acpi_map_lsapic(acpi_handle handle, int *pcpu)
 507 {
 508         struct acpi_buffer buffer = { ACPI_ALLOCATE_BUFFER, NULL };
 509         union acpi_object *obj;
 510         struct acpi_madt_local_apic *lapic;
 511         cpumask_var_t tmp_map, new_map;
 512         u8 physid;
 513         int cpu;
 514         int retval = -ENOMEM;
 515
 516         if (ACPI_FAILURE(acpi_evaluate_object(handle, "_MAT", NULL, &buffer)))
 517                 return -EINVAL;
 518
 519         if (!buffer.length || !buffer.pointer)
 520                 return -EINVAL;
 521
 522         obj = buffer.pointer;
 523         if (obj->type != ACPI_TYPE_BUFFER ||
 524             obj->buffer.length < sizeof(*lapic)) {
 525                 kfree(buffer.pointer);
 526                 return -EINVAL;
 527         }
 528
 529         lapic = (struct acpi_madt_local_apic *)obj->buffer.pointer;
 530
 531         if (lapic->header.type != ACPI_MADT_TYPE_LOCAL_APIC ||
 532             !(lapic->lapic_flags & ACPI_MADT_ENABLED)) {
 533                 kfree(buffer.pointer);
 534                 return -EINVAL;
 535         }
 536
 537         physid = lapic->id;
 538
 539         kfree(buffer.pointer);
 540         buffer.length = ACPI_ALLOCATE_BUFFER;
 541         buffer.pointer = NULL;
 542
 543         if (!alloc_cpumask_var(&tmp_map, GFP_KERNEL))
 544                 goto out;
 545
 546         if (!alloc_cpumask_var(&new_map, GFP_KERNEL))
 547                 goto free_tmp_map;
 548
 549         cpumask_copy(tmp_map, cpu_present_mask);
 550         acpi_register_lapic(physid, lapic->lapic_flags & ACPI_MADT_ENABLED);
 551
 552         /*
 553          * If mp_register_lapic successfully generates a new logical cpu
 554          * number, then the following will get us exactly what was mapped
 555          */
 556         cpumask_andnot(new_map, cpu_present_mask, tmp_map);
 557         if (cpumask_empty(new_map)) {
 558                 printk ("Unable to map lapic to logical cpu number\n");
 559                 retval = -EINVAL;
 560                 goto free_new_map;
 561         }
 562
 563         cpu = cpumask_first(new_map);
 564
 565         *pcpu = cpu;
 566         retval = 0;
 567
 568 free_new_map:
 569         free_cpumask_var(new_map);
 570 free_tmp_map:
 571         free_cpumask_var(tmp_map);
 572 out:
 573         return retval;
 574 }
 575
 576 /* wrapper to silence section mismatch warning */
 577 int __ref acpi_map_lsapic(acpi_handle handle, int *pcpu)
 578 {
 579         return _acpi_map_lsapic(handle, pcpu);
 580 }
 581 EXPORT_SYMBOL(acpi_map_lsapic);
 582
 583 int acpi_unmap_lsapic(int cpu)
 584 {
 585         per_cpu(x86_cpu_to_apicid, cpu) = -1;
 586         set_cpu_present(cpu, false);
 587         num_processors--;
 588
 589         return (0);
 590 }
 591
 592 EXPORT_SYMBOL(acpi_unmap_lsapic);
 593 #endif                          /* CONFIG_ACPI_HOTPLUG_CPU */
 594
 595 int acpi_register_ioapic(acpi_handle handle, u64 phys_addr, u32 gsi_base)
 596 {
 597         /* TBD */
 598         return -EINVAL;
 599 }
 600
 601 EXPORT_SYMBOL(acpi_register_ioapic);
 602
 603 int acpi_unregister_ioapic(acpi_handle handle, u32 gsi_base)
 604 {
 605         /* TBD */
 606         return -EINVAL;
 607 }
 608
 609 EXPORT_SYMBOL(acpi_unregister_ioapic);
 610
 611 static int __init acpi_parse_sbf(struct acpi_table_header *table)
 612 {
 613         struct acpi_table_boot *sb;
 614
 615         sb = (struct acpi_table_boot *)table;
 616         if (!sb) {
 617                 printk(KERN_WARNING PREFIX "Unable to map SBF\n");
 618                 return -ENODEV;
 619         }
 620
 621         sbf_port = sb->cmos_index;      /* Save CMOS port */
 622
 623         return 0;
 624 }
 625
 626 #ifdef CONFIG_HPET_TIMER
 627 #include <asm/hpet.h>
 628
 629 static struct __initdata resource *hpet_res;
 630
 631 static int __init acpi_parse_hpet(struct acpi_table_header *table)
 632 {
 633         struct acpi_table_hpet *hpet_tbl;
 634
 635         hpet_tbl = (struct acpi_table_hpet *)table;
 636         if (!hpet_tbl) {
 637                 printk(KERN_WARNING PREFIX "Unable to map HPET\n");
 638                 return -ENODEV;
 639         }
 640
 641         if (hpet_tbl->address.space_id != ACPI_SPACE_MEM) {
 642                 printk(KERN_WARNING PREFIX "HPET timers must be located in "
 643                        "memory.\n");
 644                 return -1;
 645         }
 646
 647         hpet_address = hpet_tbl->address.address;
 648
 649         /*
 650          * Some broken BIOSes advertise HPET at 0x0. We really do not
 651          * want to allocate a resource there.
 652          */
 653         if (!hpet_address) {
 654                 printk(KERN_WARNING PREFIX
 655                        "HPET id: %#x base: %#lx is invalid\n",
 656                        hpet_tbl->id, hpet_address);
 657                 return 0;
 658         }
 659 #ifdef CONFIG_X86_64
 660         /*
 661          * Some even more broken BIOSes advertise HPET at
 662          * 0xfed0000000000000 instead of 0xfed00000. Fix it up and add
 663          * some noise:
 664          */
 665         if (hpet_address == 0xfed0000000000000UL) {
 666                 if (!hpet_force_user) {
 667                         printk(KERN_WARNING PREFIX "HPET id: %#x "
 668                                "base: 0xfed0000000000000 is bogus\n "
 669                                "try hpet=force on the kernel command line to "
 670                                "fix it up to 0xfed00000.\n", hpet_tbl->id);
 671                         hpet_address = 0;
 672                         return 0;
 673                 }
 674                 printk(KERN_WARNING PREFIX
 675                        "HPET id: %#x base: 0xfed0000000000000 fixed up "
 676                        "to 0xfed00000.\n", hpet_tbl->id);
 677                 hpet_address >>= 32;
 678         }
 679 #endif
 680         printk(KERN_INFO PREFIX "HPET id: %#x base: %#lx\n",
 681                hpet_tbl->id, hpet_address);
 682
 683         /*
 684          * Allocate and initialize the HPET firmware resource for adding into
 685          * the resource tree during the lateinit timeframe.
 686          */
 687 #define HPET_RESOURCE_NAME_SIZE 9
 688         hpet_res = alloc_bootmem(sizeof(*hpet_res) + HPET_RESOURCE_NAME_SIZE);
 689
 690         hpet_res->name = (void *)&hpet_res[1];
 691         hpet_res->flags = IORESOURCE_MEM;
 692         snprintf((char *)hpet_res->name, HPET_RESOURCE_NAME_SIZE, "HPET %u",
 693                  hpet_tbl->sequence);
 694
 695         hpet_res->start = hpet_address;
 696         hpet_res->end = hpet_address + (1 * 1024) - 1;
 697
 698         return 0;
 699 }
 700
 701 /*
 702  * hpet_insert_resource inserts the HPET resources used into the resource
 703  * tree.
 704  */
 705 static __init int hpet_insert_resource(void)
 706 {
 707         if (!hpet_res)
 708                 return 1;
 709
 710         return insert_resource(&iomem_resource, hpet_res);
 711 }
 712
 713 late_initcall(hpet_insert_resource);
 714
 715 #else
 716 #define acpi_parse_hpet NULL
 717 #endif
 718
 719 static int __init acpi_parse_fadt(struct acpi_table_header *table)
 720 {
 721
 722 #ifdef CONFIG_X86_PM_TIMER
 723         /* detect the location of the ACPI PM Timer */
 724         if (acpi_gbl_FADT.header.revision >= FADT2_REVISION_ID) {
 725                 /* FADT rev. 2 */
 726                 if (acpi_gbl_FADT.xpm_timer_block.space_id !=
 727                     ACPI_ADR_SPACE_SYSTEM_IO)
 728                         return 0;
 729
 730                 pmtmr_ioport = acpi_gbl_FADT.xpm_timer_block.address;
 731                 /*
 732                  * "X" fields are optional extensions to the original V1.0
 733                  * fields, so we must selectively expand V1.0 fields if the
 734                  * corresponding X field is zero.
 735                  */
 736                 if (!pmtmr_ioport)
 737                         pmtmr_ioport = acpi_gbl_FADT.pm_timer_block;
 738         } else {
 739                 /* FADT rev. 1 */
 740                 pmtmr_ioport = acpi_gbl_FADT.pm_timer_block;
 741         }
 742         if (pmtmr_ioport)
 743                 printk(KERN_INFO PREFIX "PM-Timer IO Port: %#x\n",
 744                        pmtmr_ioport);
 745 #endif
 746         return 0;
 747 }
 748
 749 #ifdef  CONFIG_X86_LOCAL_APIC
 750 /*
 751  * Parse LAPIC entries in MADT
 752  * returns 0 on success, < 0 on error
 753  */
 754
 755 static void __init acpi_register_lapic_address(unsigned long address)
 756 {
 757         mp_lapic_addr = address;
 758
 759         set_fixmap_nocache(FIX_APIC_BASE, address);
 760         if (boot_cpu_physical_apicid == -1U) {
 761                 boot_cpu_physical_apicid  = read_apic_id();
 762                 apic_version[boot_cpu_physical_apicid] =
 763                          GET_APIC_VERSION(apic_read(APIC_LVR));
 764         }
 765 }
 766
 767 static int __init early_acpi_parse_madt_lapic_addr_ovr(void)
 768 {
 769         int count;
 770
 771         if (!cpu_has_apic)
 772                 return -ENODEV;
 773
 774         /*
 775          * Note that the LAPIC address is obtained from the MADT (32-bit value)
 776          * and (optionally) overriden by a LAPIC_ADDR_OVR entry (64-bit value).
 777          */
 778
 779         count =
 780             acpi_table_parse_madt(ACPI_MADT_TYPE_LOCAL_APIC_OVERRIDE,
 781                                   acpi_parse_lapic_addr_ovr, 0);
 782         if (count < 0) {
 783                 printk(KERN_ERR PREFIX
 784                        "Error parsing LAPIC address override entry\n");
 785                 return count;
 786         }
 787
 788         acpi_register_lapic_address(acpi_lapic_addr);
 789
 790         return count;
 791 }
 792
 793 static int __init acpi_parse_madt_lapic_entries(void)
 794 {
 795         int count;
 796
 797         if (!cpu_has_apic)
 798                 return -ENODEV;
 799
 800         /*
 801          * Note that the LAPIC address is obtained from the MADT (32-bit value)
 802          * and (optionally) overriden by a LAPIC_ADDR_OVR entry (64-bit value).
 803          */
 804
 805         count =
 806             acpi_table_parse_madt(ACPI_MADT_TYPE_LOCAL_APIC_OVERRIDE,
 807                                   acpi_parse_lapic_addr_ovr, 0);
 808         if (count < 0) {
 809                 printk(KERN_ERR PREFIX
 810                        "Error parsing LAPIC address override entry\n");
 811                 return count;
 812         }
 813
 814         acpi_register_lapic_address(acpi_lapic_addr);
 815
 816         count = acpi_table_parse_madt(ACPI_MADT_TYPE_LOCAL_SAPIC,
 817                                       acpi_parse_sapic, MAX_APICS);
 818
 819         if (!count)
 820                 count = acpi_table_parse_madt(ACPI_MADT_TYPE_LOCAL_APIC,
 821                                               acpi_parse_lapic, MAX_APICS);
 822         if (!count) {
 823                 printk(KERN_ERR PREFIX "No LAPIC entries present\n");
 824                 /* TBD: Cleanup to allow fallback to MPS */
 825                 return -ENODEV;
 826         } else if (count < 0) {
 827                 printk(KERN_ERR PREFIX "Error parsing LAPIC entry\n");
 828                 /* TBD: Cleanup to allow fallback to MPS */
 829                 return count;
 830         }
 831
 832         count =
 833             acpi_table_parse_madt(ACPI_MADT_TYPE_LOCAL_APIC_NMI, acpi_parse_lapic_nmi, 0);
 834         if (count < 0) {
 835                 printk(KERN_ERR PREFIX "Error parsing LAPIC NMI entry\n");
 836                 /* TBD: Cleanup to allow fallback to MPS */
 837                 return count;
 838         }
 839         return 0;
 840 }
 841 #endif                          /* CONFIG_X86_LOCAL_APIC */
 842
 843 #ifdef  CONFIG_X86_IO_APIC
 844 #define MP_ISA_BUS              0
 845
 846 #ifdef CONFIG_X86_ES7000
 847 extern int es7000_plat;
 848 #endif
 849
 850 static struct {
 851         int apic_id;
 852         int gsi_base;
 853         int gsi_end;
 854         DECLARE_BITMAP(pin_programmed, MP_MAX_IOAPIC_PIN + 1);
 855 } mp_ioapic_routing[MAX_IO_APICS];
 856
 857 int mp_find_ioapic(int gsi)
 858 {
 859         int i = 0;
 860
 861         /* Find the IOAPIC that manages this GSI. */
 862         for (i = 0; i < nr_ioapics; i++) {
 863                 if ((gsi >= mp_ioapic_routing[i].gsi_base)
 864                     && (gsi <= mp_ioapic_routing[i].gsi_end))
 865                         return i;
 866         }
 867
 868         printk(KERN_ERR "ERROR: Unable to locate IOAPIC for GSI %d\n", gsi);
 869         return -1;
 870 }
 871
 872 int mp_find_ioapic_pin(int ioapic, int gsi)
 873 {
 874         if (WARN_ON(ioapic == -1))
 875                 return -1;
 876         if (WARN_ON(gsi > mp_ioapic_routing[ioapic].gsi_end))
 877                 return -1;
 878
 879         return gsi - mp_ioapic_routing[ioapic].gsi_base;
 880 }
 881
 882 static u8 __init uniq_ioapic_id(u8 id)
 883 {
 884 #ifdef CONFIG_X86_32
 885         if ((boot_cpu_data.x86_vendor == X86_VENDOR_INTEL) &&
 886             !APIC_XAPIC(apic_version[boot_cpu_physical_apicid]))
 887                 return io_apic_get_unique_id(nr_ioapics, id);
 888         else
 889                 return id;
 890 #else
 891         int i;
 892         DECLARE_BITMAP(used, 256);
 893         bitmap_zero(used, 256);
 894         for (i = 0; i < nr_ioapics; i++) {
 895                 struct mpc_ioapic *ia = &mp_ioapics[i];
 896                 __set_bit(ia->apicid, used);
 897         }
 898         if (!test_bit(id, used))
 899                 return id;
 900         return find_first_zero_bit(used, 256);
 901 #endif
 902 }
 903
 904 static int bad_ioapic(unsigned long address)
 905 {
 906         if (nr_ioapics >= MAX_IO_APICS) {
 907                 printk(KERN_ERR "ERROR: Max # of I/O APICs (%d) exceeded "
 908                        "(found %d)\n", MAX_IO_APICS, nr_ioapics);
 909                 panic("Recompile kernel with bigger MAX_IO_APICS!\n");
 910         }
 911         if (!address) {
 912                 printk(KERN_ERR "WARNING: Bogus (zero) I/O APIC address"
 913                        " found in table, skipping!\n");
 914                 return 1;
 915         }
 916         return 0;
 917 }
 918
 919 void __init mp_register_ioapic(int id, u32 address, u32 gsi_base)
 920 {
 921         int idx = 0;
 922
 923         if (bad_ioapic(address))
 924                 return;
 925
 926         idx = nr_ioapics;
 927
 928         mp_ioapics[idx].type = MP_IOAPIC;
 929         mp_ioapics[idx].flags = MPC_APIC_USABLE;
 930         mp_ioapics[idx].apicaddr = address;
 931
 932         set_fixmap_nocache(FIX_IO_APIC_BASE_0 + idx, address);
 933         mp_ioapics[idx].apicid = uniq_ioapic_id(id);
 934 #ifdef CONFIG_X86_32
 935         mp_ioapics[idx].apicver = io_apic_get_version(idx);
 936 #else
 937         mp_ioapics[idx].apicver = 0;
 938 #endif
 939         /*
 940          * Build basic GSI lookup table to facilitate gsi->io_apic lookups
 941          * and to prevent reprogramming of IOAPIC pins (PCI GSIs).
 942          */
 943         mp_ioapic_routing[idx].apic_id = mp_ioapics[idx].apicid;
 944         mp_ioapic_routing[idx].gsi_base = gsi_base;
 945         mp_ioapic_routing[idx].gsi_end = gsi_base +
 946             io_apic_get_redir_entries(idx);
 947
 948         printk(KERN_INFO "IOAPIC[%d]: apic_id %d, version %d, address 0x%x, "
 949                "GSI %d-%d\n", idx, mp_ioapics[idx].apicid,
 950                mp_ioapics[idx].apicver, mp_ioapics[idx].apicaddr,
 951                mp_ioapic_routing[idx].gsi_base, mp_ioapic_routing[idx].gsi_end);
 952
 953         nr_ioapics++;
 954 }
 955
 956 int __init acpi_probe_gsi(void)
 957 {
 958         int idx;
 959         int gsi;
 960         int max_gsi = 0;
 961
 962         if (acpi_disabled)
 963                 return 0;
 964
 965         if (!acpi_ioapic)
 966                 return 0;
 967
 968         max_gsi = 0;
 969         for (idx = 0; idx < nr_ioapics; idx++) {
 970                 gsi = mp_ioapic_routing[idx].gsi_end;
 971
 972                 if (gsi > max_gsi)
 973                         max_gsi = gsi;
 974         }
 975
 976         return max_gsi + 1;
 977 }
 978
 979 static void assign_to_mp_irq(struct mpc_intsrc *m,
 980                                     struct mpc_intsrc *mp_irq)
 981 {
 982         memcpy(mp_irq, m, sizeof(struct mpc_intsrc));
 983 }
 984
 985 static int mp_irq_cmp(struct mpc_intsrc *mp_irq,
 986                                 struct mpc_intsrc *m)
 987 {
 988         return memcmp(mp_irq, m, sizeof(struct mpc_intsrc));
 989 }
 990
 991 static void save_mp_irq(struct mpc_intsrc *m)
 992 {
 993         int i;
 994
 995         for (i = 0; i < mp_irq_entries; i++) {
 996                 if (!mp_irq_cmp(&mp_irqs[i], m))
 997                         return;
 998         }
 999
1000         assign_to_mp_irq(m, &mp_irqs[mp_irq_entries]);
1001         if (++mp_irq_entries == MAX_IRQ_SOURCES)
1002                 panic("Max # of irq sources exceeded!!\n");
1003 }
1004
1005 void __init mp_override_legacy_irq(u8 bus_irq, u8 polarity, u8 trigger, u32 gsi)
1006 {
1007         int ioapic;
1008         int pin;
1009         struct mpc_intsrc mp_irq;
1010
1011         /*
1012          * Convert 'gsi' to 'ioapic.pin'.
1013          */
1014         ioapic = mp_find_ioapic(gsi);
1015         if (ioapic < 0)
1016                 return;
1017         pin = mp_find_ioapic_pin(ioapic, gsi);
1018
1019         /*
1020          * TBD: This check is for faulty timer entries, where the override
1021          *      erroneously sets the trigger to level, resulting in a HUGE
1022          *      increase of timer interrupts!
1023          */
1024         if ((bus_irq == 0) && (trigger == 3))
1025                 trigger = 1;
1026
1027         mp_irq.type = MP_INTSRC;
1028         mp_irq.irqtype = mp_INT;
1029         mp_irq.irqflag = (trigger << 2) | polarity;
1030         mp_irq.srcbus = MP_ISA_BUS;
1031         mp_irq.srcbusirq = bus_irq;     /* IRQ */
1032         mp_irq.dstapic = mp_ioapics[ioapic].apicid; /* APIC ID */
1033         mp_irq.dstirq = pin;    /* INTIN# */
1034
1035         save_mp_irq(&mp_irq);
1036 }
1037
1038 void __init mp_config_acpi_legacy_irqs(void)
1039 {
1040         int i;
1041         int ioapic;
1042         unsigned int dstapic;
1043         struct mpc_intsrc mp_irq;
1044
1045 #if defined (CONFIG_MCA) || defined (CONFIG_EISA)
1046         /*
1047          * Fabricate the legacy ISA bus (bus #31).
1048          */
1049         mp_bus_id_to_type[MP_ISA_BUS] = MP_BUS_ISA;
1050 #endif
1051         set_bit(MP_ISA_BUS, mp_bus_not_pci);
1052         pr_debug("Bus #%d is ISA\n", MP_ISA_BUS);
1053
1054 #ifdef CONFIG_X86_ES7000
1055         /*
1056          * Older generations of ES7000 have no legacy identity mappings
1057          */
1058         if (es7000_plat == 1)
1059                 return;
1060 #endif
1061
1062         /*
1063          * Locate the IOAPIC that manages the ISA IRQs (0-15).
1064          */
1065         ioapic = mp_find_ioapic(0);
1066         if (ioapic < 0)
1067                 return;
1068         dstapic = mp_ioapics[ioapic].apicid;
1069
1070         /*
1071          * Use the default configuration for the IRQs 0-15.  Unless
1072          * overridden by (MADT) interrupt source override entries.
1073          */
1074         for (i = 0; i < 16; i++) {
1075                 int idx;
1076
1077                 for (idx = 0; idx < mp_irq_entries; idx++) {
1078                         struct mpc_intsrc *irq = mp_irqs + idx;
1079
1080                         /* Do we already have a mapping for this ISA IRQ? */
1081                         if (irq->srcbus == MP_ISA_BUS && irq->srcbusirq == i)
1082                                 break;
1083
1084                         /* Do we already have a mapping for this IOAPIC pin */
1085                         if (irq->dstapic == dstapic && irq->dstirq == i)
1086                                 break;
1087                 }
1088
1089                 if (idx != mp_irq_entries) {
1090                         printk(KERN_DEBUG "ACPI: IRQ%d used by override.\n", i);
1091                         continue;       /* IRQ already used */
1092                 }
1093
1094                 mp_irq.type = MP_INTSRC;
1095                 mp_irq.irqflag = 0;     /* Conforming */
1096                 mp_irq.srcbus = MP_ISA_BUS;
1097                 mp_irq.dstapic = dstapic;
1098                 mp_irq.irqtype = mp_INT;
1099                 mp_irq.srcbusirq = i; /* Identity mapped */
1100                 mp_irq.dstirq = i;
1101
1102                 save_mp_irq(&mp_irq);
1103         }
1104 }
1105
1106 int mp_register_gsi(u32 gsi, int triggering, int polarity)
1107 {
1108         int ioapic;
1109         int ioapic_pin;
1110 #ifdef CONFIG_X86_32
1111 #define MAX_GSI_NUM     4096
1112 #define IRQ_COMPRESSION_START   64
1113
1114         static int pci_irq = IRQ_COMPRESSION_START;
1115         /*
1116          * Mapping between Global System Interrupts, which
1117          * represent all possible interrupts, and IRQs
1118          * assigned to actual devices.
1119          */
1120         static int gsi_to_irq[MAX_GSI_NUM];
1121 #else
1122
1123         if (acpi_irq_model != ACPI_IRQ_MODEL_IOAPIC)
1124                 return gsi;
1125 #endif
1126
1127         /* Don't set up the ACPI SCI because it's already set up */
1128         if (acpi_gbl_FADT.sci_interrupt == gsi)
1129                 return gsi;
1130
1131         ioapic = mp_find_ioapic(gsi);
1132         if (ioapic < 0) {
1133                 printk(KERN_WARNING "No IOAPIC for GSI %u\n", gsi);
1134                 return gsi;
1135         }
1136
1137         ioapic_pin = mp_find_ioapic_pin(ioapic, gsi);
1138
1139 #ifdef CONFIG_X86_32
1140         if (ioapic_renumber_irq)
1141                 gsi = ioapic_renumber_irq(ioapic, gsi);
1142 #endif
1143
1144         /*
1145          * Avoid pin reprogramming.  PRTs typically include entries
1146          * with redundant pin->gsi mappings (but unique PCI devices);
1147          * we only program the IOAPIC on the first.
1148          */
1149         if (ioapic_pin > MP_MAX_IOAPIC_PIN) {
1150                 printk(KERN_ERR "Invalid reference to IOAPIC pin "
1151                        "%d-%d\n", mp_ioapic_routing[ioapic].apic_id,
1152                        ioapic_pin);
1153                 return gsi;
1154         }
1155         if (test_bit(ioapic_pin, mp_ioapic_routing[ioapic].pin_programmed)) {
1156                 pr_debug("Pin %d-%d already programmed\n",
1157                          mp_ioapic_routing[ioapic].apic_id, ioapic_pin);
1158 #ifdef CONFIG_X86_32
1159                 return (gsi < IRQ_COMPRESSION_START ? gsi : gsi_to_irq[gsi]);
1160 #else
1161                 return gsi;
1162 #endif
1163         }
1164
1165         set_bit(ioapic_pin, mp_ioapic_routing[ioapic].pin_programmed);
1166 #ifdef CONFIG_X86_32
1167         /*
1168          * For GSI >= 64, use IRQ compression
1169          */
1170         if ((gsi >= IRQ_COMPRESSION_START)
1171             && (triggering == ACPI_LEVEL_SENSITIVE)) {
1172                 /*
1173                  * For PCI devices assign IRQs in order, avoiding gaps
1174                  * due to unused I/O APIC pins.
1175                  */
1176                 int irq = gsi;
1177                 if (gsi < MAX_GSI_NUM) {
1178                         /*
1179                          * Retain the VIA chipset work-around (gsi > 15), but
1180                          * avoid a problem where the 8254 timer (IRQ0) is setup
1181                          * via an override (so it's not on pin 0 of the ioapic),
1182                          * and at the same time, the pin 0 interrupt is a PCI
1183                          * type.  The gsi > 15 test could cause these two pins
1184                          * to be shared as IRQ0, and they are not shareable.
1185                          * So test for this condition, and if necessary, avoid
1186                          * the pin collision.
1187                          */
1188                         gsi = pci_irq++;
1189                         /*
1190                          * Don't assign IRQ used by ACPI SCI
1191                          */
1192                         if (gsi == acpi_gbl_FADT.sci_interrupt)
1193                                 gsi = pci_irq++;
1194                         gsi_to_irq[irq] = gsi;
1195                 } else {
1196                         printk(KERN_ERR "GSI %u is too high\n", gsi);
1197                         return gsi;
1198                 }
1199         }
1200 #endif
1201         io_apic_set_pci_routing(ioapic, ioapic_pin, gsi,
1202                                 triggering == ACPI_EDGE_SENSITIVE ? 0 : 1,
1203                                 polarity == ACPI_ACTIVE_HIGH ? 0 : 1);
1204         return gsi;
1205 }
1206
1207 int mp_config_acpi_gsi(unsigned char number, unsigned int devfn, u8 pin,
1208                         u32 gsi, int triggering, int polarity)
1209 {
1210 #ifdef CONFIG_X86_MPPARSE
1211         struct mpc_intsrc mp_irq;
1212         int ioapic;
1213
1214         if (!acpi_ioapic)
1215                 return 0;
1216
1217         /* print the entry should happen on mptable identically */
1218         mp_irq.type = MP_INTSRC;
1219         mp_irq.irqtype = mp_INT;
1220         mp_irq.irqflag = (triggering == ACPI_EDGE_SENSITIVE ? 4 : 0x0c) |
1221                                 (polarity == ACPI_ACTIVE_HIGH ? 1 : 3);
1222         mp_irq.srcbus = number;
1223         mp_irq.srcbusirq = (((devfn >> 3) & 0x1f) << 2) | ((pin - 1) & 3);
1224         ioapic = mp_find_ioapic(gsi);
1225         mp_irq.dstapic = mp_ioapic_routing[ioapic].apic_id;
1226         mp_irq.dstirq = mp_find_ioapic_pin(ioapic, gsi);
1227
1228         save_mp_irq(&mp_irq);
1229 #endif
1230         return 0;
1231 }
1232
1233 /*
1234  * Parse IOAPIC related entries in MADT
1235  * returns 0 on success, < 0 on error
1236  */
1237 static int __init acpi_parse_madt_ioapic_entries(void)
1238 {
1239         int count;
1240
1241         /*
1242          * ACPI interpreter is required to complete interrupt setup,
1243          * so if it is off, don't enumerate the io-apics with ACPI.
1244          * If MPS is present, it will handle them,
1245          * otherwise the system will stay in PIC mode
1246          */
1247         if (acpi_disabled || acpi_noirq) {
1248                 return -ENODEV;
1249         }
1250
1251         if (!cpu_has_apic)
1252                 return -ENODEV;
1253
1254         /*
1255          * if "noapic" boot option, don't look for IO-APICs
1256          */
1257         if (skip_ioapic_setup) {
1258                 printk(KERN_INFO PREFIX "Skipping IOAPIC probe "
1259                        "due to 'noapic' option.\n");
1260                 return -ENODEV;
1261         }
1262
1263         count =
1264             acpi_table_parse_madt(ACPI_MADT_TYPE_IO_APIC, acpi_parse_ioapic,
1265                                   MAX_IO_APICS);
1266         if (!count) {
1267                 printk(KERN_ERR PREFIX "No IOAPIC entries present\n");
1268                 return -ENODEV;
1269         } else if (count < 0) {
1270                 printk(KERN_ERR PREFIX "Error parsing IOAPIC entry\n");
1271                 return count;
1272         }
1273
1274         count =
1275             acpi_table_parse_madt(ACPI_MADT_TYPE_INTERRUPT_OVERRIDE, acpi_parse_int_src_ovr,
1276                                   nr_irqs);
1277         if (count < 0) {
1278                 printk(KERN_ERR PREFIX
1279                        "Error parsing interrupt source overrides entry\n");
1280                 /* TBD: Cleanup to allow fallback to MPS */
1281                 return count;
1282         }
1283
1284         /*
1285          * If BIOS did not supply an INT_SRC_OVR for the SCI
1286          * pretend we got one so we can set the SCI flags.
1287          */
1288         if (!acpi_sci_override_gsi)
1289                 acpi_sci_ioapic_setup(acpi_gbl_FADT.sci_interrupt, 0, 0);
1290
1291         /* Fill in identity legacy mapings where no override */
1292         mp_config_acpi_legacy_irqs();
1293
1294         count =
1295             acpi_table_parse_madt(ACPI_MADT_TYPE_NMI_SOURCE, acpi_parse_nmi_src,
1296                                   nr_irqs);
1297         if (count < 0) {
1298                 printk(KERN_ERR PREFIX "Error parsing NMI SRC entry\n");
1299                 /* TBD: Cleanup to allow fallback to MPS */
1300                 return count;
1301         }
1302
1303         return 0;
1304 }
1305 #else
1306 static inline int acpi_parse_madt_ioapic_entries(void)
1307 {
1308         return -1;
1309 }
1310 #endif  /* !CONFIG_X86_IO_APIC */
1311
1312 static void __init early_acpi_process_madt(void)
1313 {
1314 #ifdef CONFIG_X86_LOCAL_APIC
1315         int error;
1316
1317         if (!acpi_table_parse(ACPI_SIG_MADT, acpi_parse_madt)) {
1318
1319                 /*
1320                  * Parse MADT LAPIC entries
1321                  */
1322                 error = early_acpi_parse_madt_lapic_addr_ovr();
1323                 if (!error) {
1324                         acpi_lapic = 1;
1325                         smp_found_config = 1;
1326                 }
1327                 if (error == -EINVAL) {
1328                         /*
1329                          * Dell Precision Workstation 410, 610 come here.
1330                          */
1331                         printk(KERN_ERR PREFIX
1332                                "Invalid BIOS MADT, disabling ACPI\n");
1333                         disable_acpi();
1334                 }
1335         }
1336 #endif
1337 }
1338
1339 static void __init acpi_process_madt(void)
1340 {
1341 #ifdef CONFIG_X86_LOCAL_APIC
1342         int error;
1343
1344         if (!acpi_table_parse(ACPI_SIG_MADT, acpi_parse_madt)) {
1345
1346                 /*
1347                  * Parse MADT LAPIC entries
1348                  */
1349                 error = acpi_parse_madt_lapic_entries();
1350                 if (!error) {
1351                         acpi_lapic = 1;
1352
1353 #ifdef CONFIG_X86_BIGSMP
1354                         generic_bigsmp_probe();
1355 #endif
1356                         /*
1357                          * Parse MADT IO-APIC entries
1358                          */
1359                         error = acpi_parse_madt_ioapic_entries();
1360                         if (!error) {
1361                                 acpi_irq_model = ACPI_IRQ_MODEL_IOAPIC;
1362                                 acpi_ioapic = 1;
1363
1364                                 smp_found_config = 1;
1365                                 if (apic->setup_apic_routing)
1366                                         apic->setup_apic_routing();
1367                         }
1368                 }
1369                 if (error == -EINVAL) {
1370                         /*
1371                          * Dell Precision Workstation 410, 610 come here.
1372                          */
1373                         printk(KERN_ERR PREFIX
1374                                "Invalid BIOS MADT, disabling ACPI\n");
1375                         disable_acpi();
1376                 }
1377         } else {
1378                 /*
1379                  * ACPI found no MADT, and so ACPI wants UP PIC mode.
1380                  * In the event an MPS table was found, forget it.
1381                  * Boot with "acpi=off" to use MPS on such a system.
1382                  */
1383                 if (smp_found_config) {
1384                         printk(KERN_WARNING PREFIX
1385                                 "No APIC-table, disabling MPS\n");
1386                         smp_found_config = 0;
1387                 }
1388         }
1389
1390         /*
1391          * ACPI supports both logical (e.g. Hyper-Threading) and physical
1392          * processors, where MPS only supports physical.
1393          */
1394         if (acpi_lapic && acpi_ioapic)
1395                 printk(KERN_INFO "Using ACPI (MADT) for SMP configuration "
1396                        "information\n");
1397         else if (acpi_lapic)
1398                 printk(KERN_INFO "Using ACPI for processor (LAPIC) "
1399                        "configuration information\n");
1400 #endif
1401         return;
1402 }
1403
1404 static int __init disable_acpi_irq(const struct dmi_system_id *d)
1405 {
1406         if (!acpi_force) {
1407                 printk(KERN_NOTICE "%s detected: force use of acpi=noirq\n",
1408                        d->ident);
1409                 acpi_noirq_set();
1410         }
1411         return 0;
1412 }
1413
1414 static int __init disable_acpi_pci(const struct dmi_system_id *d)
1415 {
1416         if (!acpi_force) {
1417                 printk(KERN_NOTICE "%s detected: force use of pci=noacpi\n",
1418                        d->ident);
1419                 acpi_disable_pci();
1420         }
1421         return 0;
1422 }
1423
1424 static int __init dmi_disable_acpi(const struct dmi_system_id *d)
1425 {
1426         if (!acpi_force) {
1427                 printk(KERN_NOTICE "%s detected: acpi off\n", d->ident);
1428                 disable_acpi();
1429         } else {
1430                 printk(KERN_NOTICE
1431                        "Warning: DMI blacklist says broken, but acpi forced\n");
1432         }
1433         return 0;
1434 }
1435
1436 /*
1437  * Limit ACPI to CPU enumeration for HT
1438  */
1439 static int __init force_acpi_ht(const struct dmi_system_id *d)
1440 {
1441         if (!acpi_force) {
1442                 printk(KERN_NOTICE "%s detected: force use of acpi=ht\n",
1443                        d->ident);
1444                 disable_acpi();
1445                 acpi_ht = 1;
1446         } else {
1447                 printk(KERN_NOTICE
1448                        "Warning: acpi=force overrules DMI blacklist: acpi=ht\n");
1449         }
1450         return 0;
1451 }
1452
1453 /*
1454  * Force ignoring BIOS IRQ0 pin2 override
1455  */
1456 static int __init dmi_ignore_irq0_timer_override(const struct dmi_system_id *d)
1457 {
1458         /*
1459          * The ati_ixp4x0_rev() early PCI quirk should have set
1460          * the acpi_skip_timer_override flag already:
1461          */
1462         if (!acpi_skip_timer_override) {
1463                 WARN(1, KERN_ERR "ati_ixp4x0 quirk not complete.\n");
1464                 pr_notice("%s detected: Ignoring BIOS IRQ0 pin2 override\n",
1465                         d->ident);
1466                 acpi_skip_timer_override = 1;
1467         }
1468         return 0;
1469 }
1470
1471 /*
1472  * If your system is blacklisted here, but you find that acpi=force
1473  * works for you, please contact acpi-devel@sourceforge.net
1474  */
1475 static struct dmi_system_id __initdata acpi_dmi_table[] = {
1476         /*
1477          * Boxes that need ACPI disabled
1478          */
1479         {
1480          .callback = dmi_disable_acpi,
1481          .ident = "IBM Thinkpad",
1482          .matches = {
1483                      DMI_MATCH(DMI_BOARD_VENDOR, "IBM"),
1484                      DMI_MATCH(DMI_BOARD_NAME, "2629H1G"),
1485                      },
1486          },
1487
1488         /*
1489          * Boxes that need acpi=ht
1490          */
1491         {
1492          .callback = force_acpi_ht,
1493          .ident = "FSC Primergy T850",
1494          .matches = {
1495                      DMI_MATCH(DMI_SYS_VENDOR, "FUJITSU SIEMENS"),
1496                      DMI_MATCH(DMI_PRODUCT_NAME, "PRIMERGY T850"),
1497                      },
1498          },
1499         {
1500          .callback = force_acpi_ht,
1501          .ident = "HP VISUALIZE NT Workstation",
1502          .matches = {
1503                      DMI_MATCH(DMI_BOARD_VENDOR, "Hewlett-Packard"),
1504                      DMI_MATCH(DMI_PRODUCT_NAME, "HP VISUALIZE NT Workstation"),
1505                      },
1506          },
1507         {
1508          .callback = force_acpi_ht,
1509          .ident = "Compaq Workstation W8000",
1510          .matches = {
1511                      DMI_MATCH(DMI_SYS_VENDOR, "Compaq"),
1512                      DMI_MATCH(DMI_PRODUCT_NAME, "Workstation W8000"),
1513                      },
1514          },
1515         {
1516          .callback = force_acpi_ht,
1517          .ident = "ASUS P4B266",
1518          .matches = {
1519                      DMI_MATCH(DMI_BOARD_VENDOR, "ASUSTeK Computer INC."),
1520                      DMI_MATCH(DMI_BOARD_NAME, "P4B266"),
1521                      },
1522          },
1523         {
1524          .callback = force_acpi_ht,
1525          .ident = "ASUS P2B-DS",
1526          .matches = {
1527                      DMI_MATCH(DMI_BOARD_VENDOR, "ASUSTeK Computer INC."),
1528                      DMI_MATCH(DMI_BOARD_NAME, "P2B-DS"),
1529                      },
1530          },
1531         {
1532          .callback = force_acpi_ht,
1533          .ident = "ASUS CUR-DLS",
1534          .matches = {
1535                      DMI_MATCH(DMI_BOARD_VENDOR, "ASUSTeK Computer INC."),
1536                      DMI_MATCH(DMI_BOARD_NAME, "CUR-DLS"),
1537                      },
1538          },
1539         {
1540          .callback = force_acpi_ht,
1541          .ident = "ABIT i440BX-W83977",
1542          .matches = {
1543                      DMI_MATCH(DMI_BOARD_VENDOR, "ABIT <http://www.abit.com>"),
1544                      DMI_MATCH(DMI_BOARD_NAME, "i440BX-W83977 (BP6)"),
1545                      },
1546          },
1547         {
1548          .callback = force_acpi_ht,
1549          .ident = "IBM Bladecenter",
1550          .matches = {
1551                      DMI_MATCH(DMI_BOARD_VENDOR, "IBM"),
1552                      DMI_MATCH(DMI_BOARD_NAME, "IBM eServer BladeCenter HS20"),
1553                      },
1554          },
1555         {
1556          .callback = force_acpi_ht,
1557          .ident = "IBM eServer xSeries 360",
1558          .matches = {
1559                      DMI_MATCH(DMI_BOARD_VENDOR, "IBM"),
1560                      DMI_MATCH(DMI_BOARD_NAME, "eServer xSeries 360"),
1561                      },
1562          },
1563         {
1564          .callback = force_acpi_ht,
1565          .ident = "IBM eserver xSeries 330",
1566          .matches = {
1567                      DMI_MATCH(DMI_BOARD_VENDOR, "IBM"),
1568                      DMI_MATCH(DMI_BOARD_NAME, "eserver xSeries 330"),
1569                      },
1570          },
1571         {
1572          .callback = force_acpi_ht,
1573          .ident = "IBM eserver xSeries 440",
1574          .matches = {
1575                      DMI_MATCH(DMI_BOARD_VENDOR, "IBM"),
1576                      DMI_MATCH(DMI_PRODUCT_NAME, "eserver xSeries 440"),
1577                      },
1578          },
1579
1580         /*
1581          * Boxes that need ACPI PCI IRQ routing disabled
1582          */
1583         {
1584          .callback = disable_acpi_irq,
1585          .ident = "ASUS A7V",
1586          .matches = {
1587                      DMI_MATCH(DMI_BOARD_VENDOR, "ASUSTeK Computer INC"),
1588                      DMI_MATCH(DMI_BOARD_NAME, "<A7V>"),
1589                      /* newer BIOS, Revision 1011, does work */
1590                      DMI_MATCH(DMI_BIOS_VERSION,
1591                                "ASUS A7V ACPI BIOS Revision 1007"),
1592                      },
1593          },
1594         {
1595                 /*
1596                  * Latest BIOS for IBM 600E (1.16) has bad pcinum
1597                  * for LPC bridge, which is needed for the PCI
1598                  * interrupt links to work. DSDT fix is in bug 5966.
1599                  * 2645, 2646 model numbers are shared with 600/600E/600X
1600                  */
1601          .callback = disable_acpi_irq,
1602          .ident = "IBM Thinkpad 600 Series 2645",
1603          .matches = {
1604                      DMI_MATCH(DMI_BOARD_VENDOR, "IBM"),
1605                      DMI_MATCH(DMI_BOARD_NAME, "2645"),
1606                      },
1607          },
1608         {
1609          .callback = disable_acpi_irq,
1610          .ident = "IBM Thinkpad 600 Series 2646",
1611          .matches = {
1612                      DMI_MATCH(DMI_BOARD_VENDOR, "IBM"),
1613                      DMI_MATCH(DMI_BOARD_NAME, "2646"),
1614                      },
1615          },
1616         /*
1617          * Boxes that need ACPI PCI IRQ routing and PCI scan disabled
1618          */
1619         {                       /* _BBN 0 bug */
1620          .callback = disable_acpi_pci,
1621          .ident = "ASUS PR-DLS",
1622          .matches = {
1623                      DMI_MATCH(DMI_BOARD_VENDOR, "ASUSTeK Computer INC."),
1624                      DMI_MATCH(DMI_BOARD_NAME, "PR-DLS"),
1625                      DMI_MATCH(DMI_BIOS_VERSION,
1626                                "ASUS PR-DLS ACPI BIOS Revision 1010"),
1627                      DMI_MATCH(DMI_BIOS_DATE, "03/21/2003")
1628                      },
1629          },
1630         {
1631          .callback = disable_acpi_pci,
1632          .ident = "Acer TravelMate 36x Laptop",
1633          .matches = {
1634                      DMI_MATCH(DMI_SYS_VENDOR, "Acer"),
1635                      DMI_MATCH(DMI_PRODUCT_NAME, "TravelMate 360"),
1636                      },
1637          },
1638         {}
1639 };
1640
1641 /* second table for DMI checks that should run after early-quirks */
1642 static struct dmi_system_id __initdata acpi_dmi_table_late[] = {
1643         /*
1644          * HP laptops which use a DSDT reporting as HP/SB400/10000,
1645          * which includes some code which overrides all temperature
1646          * trip points to 16C if the INTIN2 input of the I/O APIC
1647          * is enabled.  This input is incorrectly designated the
1648          * ISA IRQ 0 via an interrupt source override even though
1649          * it is wired to the output of the master 8259A and INTIN0
1650          * is not connected at all.  Force ignoring BIOS IRQ0 pin2
1651          * override in that cases.
1652          */
1653         {
1654          .callback = dmi_ignore_irq0_timer_override,
1655          .ident = "HP nx6115 laptop",
1656          .matches = {
1657                      DMI_MATCH(DMI_SYS_VENDOR, "Hewlett-Packard"),
1658                      DMI_MATCH(DMI_PRODUCT_NAME, "HP Compaq nx6115"),
1659                      },
1660          },
1661         {
1662          .callback = dmi_ignore_irq0_timer_override,
1663          .ident = "HP NX6125 laptop",
1664          .matches = {
1665                      DMI_MATCH(DMI_SYS_VENDOR, "Hewlett-Packard"),
1666                      DMI_MATCH(DMI_PRODUCT_NAME, "HP Compaq nx6125"),
1667                      },
1668          },
1669         {
1670          .callback = dmi_ignore_irq0_timer_override,
1671          .ident = "HP NX6325 laptop",
1672          .matches = {
1673                      DMI_MATCH(DMI_SYS_VENDOR, "Hewlett-Packard"),
1674                      DMI_MATCH(DMI_PRODUCT_NAME, "HP Compaq nx6325"),
1675                      },
1676          },
1677         {
1678          .callback = dmi_ignore_irq0_timer_override,
1679          .ident = "HP 6715b laptop",
1680          .matches = {
1681                      DMI_MATCH(DMI_SYS_VENDOR, "Hewlett-Packard"),
1682                      DMI_MATCH(DMI_PRODUCT_NAME, "HP Compaq 6715b"),
1683                      },
1684          },
1685         {}
1686 };
1687
1688 /*
1689  * acpi_boot_table_init() and acpi_boot_init()
1690  *  called from setup_arch(), always.
1691  *      1. checksums all tables
1692  *      2. enumerates lapics
1693  *      3. enumerates io-apics
1694  *
1695  * acpi_table_init() is separate to allow reading SRAT without
1696  * other side effects.
1697  *
1698  * side effects of acpi_boot_init:
1699  *      acpi_lapic = 1 if LAPIC found
1700  *      acpi_ioapic = 1 if IOAPIC found
1701  *      if (acpi_lapic && acpi_ioapic) smp_found_config = 1;
1702  *      if acpi_blacklisted() acpi_disabled = 1;
1703  *      acpi_irq_model=...
1704  *      ...
1705  *
1706  * return value: (currently ignored)
1707  *      0: success
1708  *      !0: failure
1709  */
1710
1711 int __init acpi_boot_table_init(void)
1712 {
1713         int error;
1714
1715         dmi_check_system(acpi_dmi_table);
1716
1717         /*
1718          * If acpi_disabled, bail out
1719          * One exception: acpi=ht continues far enough to enumerate LAPICs
1720          */
1721         if (acpi_disabled && !acpi_ht)
1722                 return 1;
1723
1724         /*
1725          * Initialize the ACPI boot-time table parser.
1726          */
1727         error = acpi_table_init();
1728         if (error) {
1729                 disable_acpi();
1730                 return error;
1731         }
1732
1733         acpi_table_parse(ACPI_SIG_BOOT, acpi_parse_sbf);
1734
1735         /*
1736          * blacklist may disable ACPI entirely
1737          */
1738         error = acpi_blacklisted();
1739         if (error) {
1740                 if (acpi_force) {
1741                         printk(KERN_WARNING PREFIX "acpi=force override\n");
1742                 } else {
1743                         printk(KERN_WARNING PREFIX "Disabling ACPI support\n");
1744                         disable_acpi();
1745                         return error;
1746                 }
1747         }
1748
1749         return 0;
1750 }
1751
1752 int __init early_acpi_boot_init(void)
1753 {
1754         /*
1755          * If acpi_disabled, bail out
1756          * One exception: acpi=ht continues far enough to enumerate LAPICs
1757          */
1758         if (acpi_disabled && !acpi_ht)
1759                 return 1;
1760
1761         /*
1762          * Process the Multiple APIC Description Table (MADT), if present
1763          */
1764         early_acpi_process_madt();
1765
1766         return 0;
1767 }
1768
1769 int __init acpi_boot_init(void)
1770 {
1771         /* those are executed after early-quirks are executed */
1772         dmi_check_system(acpi_dmi_table_late);
1773
1774         /*
1775          * If acpi_disabled, bail out
1776          * One exception: acpi=ht continues far enough to enumerate LAPICs
1777          */
1778         if (acpi_disabled && !acpi_ht)
1779                 return 1;
1780
1781         acpi_table_parse(ACPI_SIG_BOOT, acpi_parse_sbf);
1782
1783         /*
1784          * set sci_int and PM timer address
1785          */
1786         acpi_table_parse(ACPI_SIG_FADT, acpi_parse_fadt);
1787
1788         /*
1789          * Process the Multiple APIC Description Table (MADT), if present
1790          */
1791         acpi_process_madt();
1792
1793         acpi_table_parse(ACPI_SIG_HPET, acpi_parse_hpet);
1794
1795         return 0;
1796 }
1797
1798 static int __init parse_acpi(char *arg)
1799 {
1800         if (!arg)
1801                 return -EINVAL;
1802
1803         /* "acpi=off" disables both ACPI table parsing and interpreter */
1804         if (strcmp(arg, "off") == 0) {
1805                 disable_acpi();
1806         }
1807         /* acpi=force to over-ride black-list */
1808         else if (strcmp(arg, "force") == 0) {
1809                 acpi_force = 1;
1810                 acpi_ht = 1;
1811                 acpi_disabled = 0;
1812         }
1813         /* acpi=strict disables out-of-spec workarounds */
1814         else if (strcmp(arg, "strict") == 0) {
1815                 acpi_strict = 1;
1816         }
1817         /* Limit ACPI just to boot-time to enable HT */
1818         else if (strcmp(arg, "ht") == 0) {
1819                 if (!acpi_force)
1820                         disable_acpi();
1821                 acpi_ht = 1;
1822         }
1823         /* acpi=rsdt use RSDT instead of XSDT */
1824         else if (strcmp(arg, "rsdt") == 0) {
1825                 acpi_rsdt_forced = 1;
1826         }
1827         /* "acpi=noirq" disables ACPI interrupt routing */
1828         else if (strcmp(arg, "noirq") == 0) {
1829                 acpi_noirq_set();
1830         } else {
1831                 /* Core will printk when we return error. */
1832                 return -EINVAL;
1833         }
1834         return 0;
1835 }
1836 early_param("acpi", parse_acpi);
1837
1838 /* FIXME: Using pci= for an ACPI parameter is a travesty. */
1839 static int __init parse_pci(char *arg)
1840 {
1841         if (arg && strcmp(arg, "noacpi") == 0)
1842                 acpi_disable_pci();
1843         return 0;
1844 }
1845 early_param("pci", parse_pci);
1846
1847 int __init acpi_mps_check(void)
1848 {
1849 #if defined(CONFIG_X86_LOCAL_APIC) && !defined(CONFIG_X86_MPPARSE)
1850 /* mptable code is not built-in*/
1851         if (acpi_disabled || acpi_noirq) {
1852                 printk(KERN_WARNING "MPS support code is not built-in.\n"
1853                        "Using acpi=off or acpi=noirq or pci=noacpi "
1854                        "may have problem\n");
1855                 return 1;
1856         }
1857 #endif
1858         return 0;
1859 }
1860
1861 #ifdef CONFIG_X86_IO_APIC
1862 static int __init parse_acpi_skip_timer_override(char *arg)
1863 {
1864         acpi_skip_timer_override = 1;
1865         return 0;
1866 }
1867 early_param("acpi_skip_timer_override", parse_acpi_skip_timer_override);
1868
1869 static int __init parse_acpi_use_timer_override(char *arg)
1870 {
1871         acpi_use_timer_override = 1;
1872         return 0;
1873 }
1874 early_param("acpi_use_timer_override", parse_acpi_use_timer_override);
1875 #endif /* CONFIG_X86_IO_APIC */
1876
1877 static int __init setup_acpi_sci(char *s)
1878 {
1879         if (!s)
1880                 return -EINVAL;
1881         if (!strcmp(s, "edge"))
1882                 acpi_sci_flags =  ACPI_MADT_TRIGGER_EDGE |
1883                         (acpi_sci_flags & ~ACPI_MADT_TRIGGER_MASK);
1884         else if (!strcmp(s, "level"))
1885                 acpi_sci_flags = ACPI_MADT_TRIGGER_LEVEL |
1886                         (acpi_sci_flags & ~ACPI_MADT_TRIGGER_MASK);
1887         else if (!strcmp(s, "high"))
1888                 acpi_sci_flags = ACPI_MADT_POLARITY_ACTIVE_HIGH |
1889                         (acpi_sci_flags & ~ACPI_MADT_POLARITY_MASK);
1890         else if (!strcmp(s, "low"))
1891                 acpi_sci_flags = ACPI_MADT_POLARITY_ACTIVE_LOW |
1892                         (acpi_sci_flags & ~ACPI_MADT_POLARITY_MASK);
1893         else
1894                 return -EINVAL;
1895         return 0;
1896 }
1897 early_param("acpi_sci", setup_acpi_sci);
1898
1899 int __acpi_acquire_global_lock(unsigned int *lock)
1900 {
1901         unsigned int old, new, val;
1902         do {
1903                 old = *lock;
1904                 new = (((old & ~0x3) + 2) + ((old >> 1) & 0x1));
1905                 val = cmpxchg(lock, old, new);
1906         } while (unlikely (val != old));
1907         return (new < 3) ? -1 : 0;
1908 }
1909
1910 int __acpi_release_global_lock(unsigned int *lock)
1911 {
1912         unsigned int old, new, val;
1913         do {
1914                 old = *lock;
1915                 new = old & ~0x3;
1916                 val = cmpxchg(lock, old, new);
1917         } while (unlikely (val != old));
1918         return old & 0x1;
1919 }