arch/x86/kernel/acpi/boot.c

   1 /*
   2  *  boot.c - Architecture-Specific Low-Level ACPI Boot Support
   3  *
   4  *  Copyright (C) 2001, 2002 Paul Diefenbaugh <paul.s.diefenbaugh@intel.com>
   5  *  Copyright (C) 2001 Jun Nakajima <jun.nakajima@intel.com>
   6  *
   7  * ~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~
   8  *
   9  *  This program is free software; you can redistribute it and/or modify
  10  *  it under the terms of the GNU General Public License as published by
  11  *  the Free Software Foundation; either version 2 of the License, or
  12  *  (at your option) any later version.
  13  *
  14  *  This program is distributed in the hope that it will be useful,
  15  *  but WITHOUT ANY WARRANTY; without even the implied warranty of
  16  *  MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
  17  *  GNU General Public License for more details.
  18  *
  19  *  You should have received a copy of the GNU General Public License
  20  *  along with this program; if not, write to the Free Software
  21  *  Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA  02111-1307  USA
  22  *
  23  * ~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~
  24  */
  25
  26 #include <linux/init.h>
  27 #include <linux/acpi.h>
  28 #include <linux/acpi_pmtmr.h>
  29 #include <linux/efi.h>
  30 #include <linux/cpumask.h>
  31 #include <linux/module.h>
  32 #include <linux/dmi.h>
  33 #include <linux/irq.h>
  34 #include <linux/bootmem.h>
  35 #include <linux/ioport.h>
  36
  37 #include <asm/pgtable.h>
  38 #include <asm/io_apic.h>
  39 #include <asm/apic.h>
  40 #include <asm/io.h>
  41 #include <asm/mpspec.h>
  42 #include <asm/smp.h>
  43
  44 #ifdef CONFIG_X86_LOCAL_APIC
  45 # include <mach_apic.h>
  46 #endif
  47
  48 static int __initdata acpi_force = 0;
  49
  50 #ifdef  CONFIG_ACPI
  51 int acpi_disabled = 0;
  52 #else
  53 int acpi_disabled = 1;
  54 #endif
  55 EXPORT_SYMBOL(acpi_disabled);
  56
  57 #ifdef  CONFIG_X86_64
  58
  59 #include <asm/proto.h>
  60 #include <asm/genapic.h>
  61
  62 #else                           /* X86 */
  63
  64 #ifdef  CONFIG_X86_LOCAL_APIC
  65 #include <mach_apic.h>
  66 #include <mach_mpparse.h>
  67 #endif                          /* CONFIG_X86_LOCAL_APIC */
  68
  69 #endif                          /* X86 */
  70
  71 #define BAD_MADT_ENTRY(entry, end) (                                        \
  72                 (!entry) || (unsigned long)entry + sizeof(*entry) > end ||  \
  73                 ((struct acpi_subtable_header *)entry)->length < sizeof(*entry))
  74
  75 #define PREFIX                  "ACPI: "
  76
  77 int acpi_noirq;                         /* skip ACPI IRQ initialization */
  78 int acpi_pci_disabled;          /* skip ACPI PCI scan and IRQ initialization */
  79 EXPORT_SYMBOL(acpi_pci_disabled);
  80 int acpi_ht __initdata = 1;     /* enable HT */
  81
  82 int acpi_lapic;
  83 int acpi_ioapic;
  84 int acpi_strict;
  85
  86 static int disable_irq0_through_ioapic __initdata;
  87
  88 u8 acpi_sci_flags __initdata;
  89 int acpi_sci_override_gsi __initdata;
  90 int acpi_skip_timer_override __initdata;
  91 int acpi_use_timer_override __initdata;
  92
  93 #ifdef CONFIG_X86_LOCAL_APIC
  94 static u64 acpi_lapic_addr __initdata = APIC_DEFAULT_PHYS_BASE;
  95 #endif
  96
  97 #ifndef __HAVE_ARCH_CMPXCHG
  98 #warning ACPI uses CMPXCHG, i486 and later hardware
  99 #endif
 100
 101 /* --------------------------------------------------------------------------
 102                               Boot-time Configuration
 103    -------------------------------------------------------------------------- */
 104
 105 /*
 106  * The default interrupt routing model is PIC (8259).  This gets
 107  * overridden if IOAPICs are enumerated (below).
 108  */
 109 enum acpi_irq_model_id acpi_irq_model = ACPI_IRQ_MODEL_PIC;
 110
 111 #ifdef  CONFIG_X86_64
 112
 113 /* rely on all ACPI tables being in the direct mapping */
 114 char *__init __acpi_map_table(unsigned long phys_addr, unsigned long size)
 115 {
 116         if (!phys_addr || !size)
 117                 return NULL;
 118
 119         if (phys_addr+size <= (max_pfn_mapped << PAGE_SHIFT) + PAGE_SIZE)
 120                 return __va(phys_addr);
 121
 122         return NULL;
 123 }
 124
 125 #else
 126
 127 /*
 128  * Temporarily use the virtual area starting from FIX_IO_APIC_BASE_END,
 129  * to map the target physical address. The problem is that set_fixmap()
 130  * provides a single page, and it is possible that the page is not
 131  * sufficient.
 132  * By using this area, we can map up to MAX_IO_APICS pages temporarily,
 133  * i.e. until the next __va_range() call.
 134  *
 135  * Important Safety Note:  The fixed I/O APIC page numbers are *subtracted*
 136  * from the fixed base.  That's why we start at FIX_IO_APIC_BASE_END and
 137  * count idx down while incrementing the phys address.
 138  */
 139 char *__init __acpi_map_table(unsigned long phys, unsigned long size)
 140 {
 141         unsigned long base, offset, mapped_size;
 142         int idx;
 143
 144         if (phys + size < 8 * 1024 * 1024)
 145                 return __va(phys);
 146
 147         offset = phys & (PAGE_SIZE - 1);
 148         mapped_size = PAGE_SIZE - offset;
 149         set_fixmap(FIX_ACPI_END, phys);
 150         base = fix_to_virt(FIX_ACPI_END);
 151
 152         /*
 153          * Most cases can be covered by the below.
 154          */
 155         idx = FIX_ACPI_END;
 156         while (mapped_size < size) {
 157                 if (--idx < FIX_ACPI_BEGIN)
 158                         return NULL;    /* cannot handle this */
 159                 phys += PAGE_SIZE;
 160                 set_fixmap(idx, phys);
 161                 mapped_size += PAGE_SIZE;
 162         }
 163
 164         return ((unsigned char *)base + offset);
 165 }
 166 #endif
 167
 168 #ifdef CONFIG_PCI_MMCONFIG
 169 /* The physical address of the MMCONFIG aperture.  Set from ACPI tables. */
 170 struct acpi_mcfg_allocation *pci_mmcfg_config;
 171 int pci_mmcfg_config_num;
 172
 173 int __init acpi_parse_mcfg(struct acpi_table_header *header)
 174 {
 175         struct acpi_table_mcfg *mcfg;
 176         unsigned long i;
 177         int config_size;
 178
 179         if (!header)
 180                 return -EINVAL;
 181
 182         mcfg = (struct acpi_table_mcfg *)header;
 183
 184         /* how many config structures do we have */
 185         pci_mmcfg_config_num = 0;
 186         i = header->length - sizeof(struct acpi_table_mcfg);
 187         while (i >= sizeof(struct acpi_mcfg_allocation)) {
 188                 ++pci_mmcfg_config_num;
 189                 i -= sizeof(struct acpi_mcfg_allocation);
 190         };
 191         if (pci_mmcfg_config_num == 0) {
 192                 printk(KERN_ERR PREFIX "MMCONFIG has no entries\n");
 193                 return -ENODEV;
 194         }
 195
 196         config_size = pci_mmcfg_config_num * sizeof(*pci_mmcfg_config);
 197         pci_mmcfg_config = kmalloc(config_size, GFP_KERNEL);
 198         if (!pci_mmcfg_config) {
 199                 printk(KERN_WARNING PREFIX
 200                        "No memory for MCFG config tables\n");
 201                 return -ENOMEM;
 202         }
 203
 204         memcpy(pci_mmcfg_config, &mcfg[1], config_size);
 205         for (i = 0; i < pci_mmcfg_config_num; ++i) {
 206                 if (pci_mmcfg_config[i].address > 0xFFFFFFFF) {
 207                         printk(KERN_ERR PREFIX
 208                                "MMCONFIG not in low 4GB of memory\n");
 209                         kfree(pci_mmcfg_config);
 210                         pci_mmcfg_config_num = 0;
 211                         return -ENODEV;
 212                 }
 213         }
 214
 215         return 0;
 216 }
 217 #endif                          /* CONFIG_PCI_MMCONFIG */
 218
 219 #ifdef CONFIG_X86_LOCAL_APIC
 220 static int __init acpi_parse_madt(struct acpi_table_header *table)
 221 {
 222         struct acpi_table_madt *madt = NULL;
 223
 224         if (!cpu_has_apic)
 225                 return -EINVAL;
 226
 227         madt = (struct acpi_table_madt *)table;
 228         if (!madt) {
 229                 printk(KERN_WARNING PREFIX "Unable to map MADT\n");
 230                 return -ENODEV;
 231         }
 232
 233         if (madt->address) {
 234                 acpi_lapic_addr = (u64) madt->address;
 235
 236                 printk(KERN_DEBUG PREFIX "Local APIC address 0x%08x\n",
 237                        madt->address);
 238         }
 239
 240         acpi_madt_oem_check(madt->header.oem_id, madt->header.oem_table_id);
 241
 242         return 0;
 243 }
 244
 245 static void __cpuinit acpi_register_lapic(int id, u8 enabled)
 246 {
 247         unsigned int ver = 0;
 248
 249         if (!enabled) {
 250                 ++disabled_cpus;
 251                 return;
 252         }
 253
 254 #ifdef CONFIG_X86_32
 255         if (boot_cpu_physical_apicid != -1U)
 256                 ver = apic_version[boot_cpu_physical_apicid];
 257 #endif
 258
 259         generic_processor_info(id, ver);
 260 }
 261
 262 static int __init
 263 acpi_parse_lapic(struct acpi_subtable_header * header, const unsigned long end)
 264 {
 265         struct acpi_madt_local_apic *processor = NULL;
 266
 267         processor = (struct acpi_madt_local_apic *)header;
 268
 269         if (BAD_MADT_ENTRY(processor, end))
 270                 return -EINVAL;
 271
 272         acpi_table_print_madt_entry(header);
 273
 274         /*
 275          * We need to register disabled CPU as well to permit
 276          * counting disabled CPUs. This allows us to size
 277          * cpus_possible_map more accurately, to permit
 278          * to not preallocating memory for all NR_CPUS
 279          * when we use CPU hotplug.
 280          */
 281         acpi_register_lapic(processor->id,      /* APIC ID */
 282                             processor->lapic_flags & ACPI_MADT_ENABLED);
 283
 284         return 0;
 285 }
 286
 287 static int __init
 288 acpi_parse_sapic(struct acpi_subtable_header *header, const unsigned long end)
 289 {
 290         struct acpi_madt_local_sapic *processor = NULL;
 291
 292         processor = (struct acpi_madt_local_sapic *)header;
 293
 294         if (BAD_MADT_ENTRY(processor, end))
 295                 return -EINVAL;
 296
 297         acpi_table_print_madt_entry(header);
 298
 299         acpi_register_lapic((processor->id << 8) | processor->eid,/* APIC ID */
 300                             processor->lapic_flags & ACPI_MADT_ENABLED);
 301
 302         return 0;
 303 }
 304
 305 static int __init
 306 acpi_parse_lapic_addr_ovr(struct acpi_subtable_header * header,
 307                           const unsigned long end)
 308 {
 309         struct acpi_madt_local_apic_override *lapic_addr_ovr = NULL;
 310
 311         lapic_addr_ovr = (struct acpi_madt_local_apic_override *)header;
 312
 313         if (BAD_MADT_ENTRY(lapic_addr_ovr, end))
 314                 return -EINVAL;
 315
 316         acpi_lapic_addr = lapic_addr_ovr->address;
 317
 318         return 0;
 319 }
 320
 321 static int __init
 322 acpi_parse_lapic_nmi(struct acpi_subtable_header * header, const unsigned long end)
 323 {
 324         struct acpi_madt_local_apic_nmi *lapic_nmi = NULL;
 325
 326         lapic_nmi = (struct acpi_madt_local_apic_nmi *)header;
 327
 328         if (BAD_MADT_ENTRY(lapic_nmi, end))
 329                 return -EINVAL;
 330
 331         acpi_table_print_madt_entry(header);
 332
 333         if (lapic_nmi->lint != 1)
 334                 printk(KERN_WARNING PREFIX "NMI not connected to LINT 1!\n");
 335
 336         return 0;
 337 }
 338
 339 #endif                          /*CONFIG_X86_LOCAL_APIC */
 340
 341 #ifdef CONFIG_X86_IO_APIC
 342
 343 static int __init
 344 acpi_parse_ioapic(struct acpi_subtable_header * header, const unsigned long end)
 345 {
 346         struct acpi_madt_io_apic *ioapic = NULL;
 347
 348         ioapic = (struct acpi_madt_io_apic *)header;
 349
 350         if (BAD_MADT_ENTRY(ioapic, end))
 351                 return -EINVAL;
 352
 353         acpi_table_print_madt_entry(header);
 354
 355         mp_register_ioapic(ioapic->id,
 356                            ioapic->address, ioapic->global_irq_base);
 357
 358         return 0;
 359 }
 360
 361 /*
 362  * Parse Interrupt Source Override for the ACPI SCI
 363  */
 364 static void __init acpi_sci_ioapic_setup(u32 gsi, u16 polarity, u16 trigger)
 365 {
 366         if (trigger == 0)       /* compatible SCI trigger is level */
 367                 trigger = 3;
 368
 369         if (polarity == 0)      /* compatible SCI polarity is low */
 370                 polarity = 3;
 371
 372         /* Command-line over-ride via acpi_sci= */
 373         if (acpi_sci_flags & ACPI_MADT_TRIGGER_MASK)
 374                 trigger = (acpi_sci_flags & ACPI_MADT_TRIGGER_MASK) >> 2;
 375
 376         if (acpi_sci_flags & ACPI_MADT_POLARITY_MASK)
 377                 polarity = acpi_sci_flags & ACPI_MADT_POLARITY_MASK;
 378
 379         /*
 380          * mp_config_acpi_legacy_irqs() already setup IRQs < 16
 381          * If GSI is < 16, this will update its flags,
 382          * else it will create a new mp_irqs[] entry.
 383          */
 384         mp_override_legacy_irq(gsi, polarity, trigger, gsi);
 385
 386         /*
 387          * stash over-ride to indicate we've been here
 388          * and for later update of acpi_gbl_FADT
 389          */
 390         acpi_sci_override_gsi = gsi;
 391         return;
 392 }
 393
 394 static int __init
 395 acpi_parse_int_src_ovr(struct acpi_subtable_header * header,
 396                        const unsigned long end)
 397 {
 398         struct acpi_madt_interrupt_override *intsrc = NULL;
 399
 400         intsrc = (struct acpi_madt_interrupt_override *)header;
 401
 402         if (BAD_MADT_ENTRY(intsrc, end))
 403                 return -EINVAL;
 404
 405         acpi_table_print_madt_entry(header);
 406
 407         if (intsrc->source_irq == acpi_gbl_FADT.sci_interrupt) {
 408                 acpi_sci_ioapic_setup(intsrc->global_irq,
 409                                       intsrc->inti_flags & ACPI_MADT_POLARITY_MASK,
 410                                       (intsrc->inti_flags & ACPI_MADT_TRIGGER_MASK) >> 2);
 411                 return 0;
 412         }
 413
 414         if (acpi_skip_timer_override &&
 415             intsrc->source_irq == 0 && intsrc->global_irq == 2) {
 416                 printk(PREFIX "BIOS IRQ0 pin2 override ignored.\n");
 417                 return 0;
 418         }
 419
 420         mp_override_legacy_irq(intsrc->source_irq,
 421                                 intsrc->inti_flags & ACPI_MADT_POLARITY_MASK,
 422                                 (intsrc->inti_flags & ACPI_MADT_TRIGGER_MASK) >> 2,
 423                                 intsrc->global_irq);
 424
 425         return 0;
 426 }
 427
 428 static int __init
 429 acpi_parse_nmi_src(struct acpi_subtable_header * header, const unsigned long end)
 430 {
 431         struct acpi_madt_nmi_source *nmi_src = NULL;
 432
 433         nmi_src = (struct acpi_madt_nmi_source *)header;
 434
 435         if (BAD_MADT_ENTRY(nmi_src, end))
 436                 return -EINVAL;
 437
 438         acpi_table_print_madt_entry(header);
 439
 440         /* TBD: Support nimsrc entries? */
 441
 442         return 0;
 443 }
 444
 445 #endif                          /* CONFIG_X86_IO_APIC */
 446
 447 /*
 448  * acpi_pic_sci_set_trigger()
 449  *
 450  * use ELCR to set PIC-mode trigger type for SCI
 451  *
 452  * If a PIC-mode SCI is not recognized or gives spurious IRQ7's
 453  * it may require Edge Trigger -- use "acpi_sci=edge"
 454  *
 455  * Port 0x4d0-4d1 are ECLR1 and ECLR2, the Edge/Level Control Registers
 456  * for the 8259 PIC.  bit[n] = 1 means irq[n] is Level, otherwise Edge.
 457  * ECLR1 is IRQs 0-7 (IRQ 0, 1, 2 must be 0)
 458  * ECLR2 is IRQs 8-15 (IRQ 8, 13 must be 0)
 459  */
 460
 461 void __init acpi_pic_sci_set_trigger(unsigned int irq, u16 trigger)
 462 {
 463         unsigned int mask = 1 << irq;
 464         unsigned int old, new;
 465
 466         /* Real old ELCR mask */
 467         old = inb(0x4d0) | (inb(0x4d1) << 8);
 468
 469         /*
 470          * If we use ACPI to set PCI IRQs, then we should clear ELCR
 471          * since we will set it correctly as we enable the PCI irq
 472          * routing.
 473          */
 474         new = acpi_noirq ? old : 0;
 475
 476         /*
 477          * Update SCI information in the ELCR, it isn't in the PCI
 478          * routing tables..
 479          */
 480         switch (trigger) {
 481         case 1:         /* Edge - clear */
 482                 new &= ~mask;
 483                 break;
 484         case 3:         /* Level - set */
 485                 new |= mask;
 486                 break;
 487         }
 488
 489         if (old == new)
 490                 return;
 491
 492         printk(PREFIX "setting ELCR to %04x (from %04x)\n", new, old);
 493         outb(new, 0x4d0);
 494         outb(new >> 8, 0x4d1);
 495 }
 496
 497 int acpi_gsi_to_irq(u32 gsi, unsigned int *irq)
 498 {
 499         *irq = gsi;
 500         return 0;
 501 }
 502
 503 /*
 504  * success: return IRQ number (>=0)
 505  * failure: return < 0
 506  */
 507 int acpi_register_gsi(u32 gsi, int triggering, int polarity)
 508 {
 509         unsigned int irq;
 510         unsigned int plat_gsi = gsi;
 511
 512 #ifdef CONFIG_PCI
 513         /*
 514          * Make sure all (legacy) PCI IRQs are set as level-triggered.
 515          */
 516         if (acpi_irq_model == ACPI_IRQ_MODEL_PIC) {
 517                 if (triggering == ACPI_LEVEL_SENSITIVE)
 518                         eisa_set_level_irq(gsi);
 519         }
 520 #endif
 521
 522 #ifdef CONFIG_X86_IO_APIC
 523         if (acpi_irq_model == ACPI_IRQ_MODEL_IOAPIC) {
 524                 plat_gsi = mp_register_gsi(gsi, triggering, polarity);
 525         }
 526 #endif
 527         acpi_gsi_to_irq(plat_gsi, &irq);
 528         return irq;
 529 }
 530
 531 /*
 532  *  ACPI based hotplug support for CPU
 533  */
 534 #ifdef CONFIG_ACPI_HOTPLUG_CPU
 535
 536 static int __cpuinit _acpi_map_lsapic(acpi_handle handle, int *pcpu)
 537 {
 538         struct acpi_buffer buffer = { ACPI_ALLOCATE_BUFFER, NULL };
 539         union acpi_object *obj;
 540         struct acpi_madt_local_apic *lapic;
 541         cpumask_t tmp_map, new_map;
 542         u8 physid;
 543         int cpu;
 544
 545         if (ACPI_FAILURE(acpi_evaluate_object(handle, "_MAT", NULL, &buffer)))
 546                 return -EINVAL;
 547
 548         if (!buffer.length || !buffer.pointer)
 549                 return -EINVAL;
 550
 551         obj = buffer.pointer;
 552         if (obj->type != ACPI_TYPE_BUFFER ||
 553             obj->buffer.length < sizeof(*lapic)) {
 554                 kfree(buffer.pointer);
 555                 return -EINVAL;
 556         }
 557
 558         lapic = (struct acpi_madt_local_apic *)obj->buffer.pointer;
 559
 560         if (lapic->header.type != ACPI_MADT_TYPE_LOCAL_APIC ||
 561             !(lapic->lapic_flags & ACPI_MADT_ENABLED)) {
 562                 kfree(buffer.pointer);
 563                 return -EINVAL;
 564         }
 565
 566         physid = lapic->id;
 567
 568         kfree(buffer.pointer);
 569         buffer.length = ACPI_ALLOCATE_BUFFER;
 570         buffer.pointer = NULL;
 571
 572         tmp_map = cpu_present_map;
 573         acpi_register_lapic(physid, lapic->lapic_flags & ACPI_MADT_ENABLED);
 574
 575         /*
 576          * If mp_register_lapic successfully generates a new logical cpu
 577          * number, then the following will get us exactly what was mapped
 578          */
 579         cpus_andnot(new_map, cpu_present_map, tmp_map);
 580         if (cpus_empty(new_map)) {
 581                 printk ("Unable to map lapic to logical cpu number\n");
 582                 return -EINVAL;
 583         }
 584
 585         cpu = first_cpu(new_map);
 586
 587         *pcpu = cpu;
 588         return 0;
 589 }
 590
 591 /* wrapper to silence section mismatch warning */
 592 int __ref acpi_map_lsapic(acpi_handle handle, int *pcpu)
 593 {
 594         return _acpi_map_lsapic(handle, pcpu);
 595 }
 596 EXPORT_SYMBOL(acpi_map_lsapic);
 597
 598 int acpi_unmap_lsapic(int cpu)
 599 {
 600         per_cpu(x86_cpu_to_apicid, cpu) = -1;
 601         cpu_clear(cpu, cpu_present_map);
 602         num_processors--;
 603
 604         return (0);
 605 }
 606
 607 EXPORT_SYMBOL(acpi_unmap_lsapic);
 608 #endif                          /* CONFIG_ACPI_HOTPLUG_CPU */
 609
 610 int acpi_register_ioapic(acpi_handle handle, u64 phys_addr, u32 gsi_base)
 611 {
 612         /* TBD */
 613         return -EINVAL;
 614 }
 615
 616 EXPORT_SYMBOL(acpi_register_ioapic);
 617
 618 int acpi_unregister_ioapic(acpi_handle handle, u32 gsi_base)
 619 {
 620         /* TBD */
 621         return -EINVAL;
 622 }
 623
 624 EXPORT_SYMBOL(acpi_unregister_ioapic);
 625
 626 static int __init acpi_parse_sbf(struct acpi_table_header *table)
 627 {
 628         struct acpi_table_boot *sb;
 629
 630         sb = (struct acpi_table_boot *)table;
 631         if (!sb) {
 632                 printk(KERN_WARNING PREFIX "Unable to map SBF\n");
 633                 return -ENODEV;
 634         }
 635
 636         sbf_port = sb->cmos_index;      /* Save CMOS port */
 637
 638         return 0;
 639 }
 640
 641 #ifdef CONFIG_HPET_TIMER
 642 #include <asm/hpet.h>
 643
 644 static struct __initdata resource *hpet_res;
 645
 646 static int __init acpi_parse_hpet(struct acpi_table_header *table)
 647 {
 648         struct acpi_table_hpet *hpet_tbl;
 649
 650         hpet_tbl = (struct acpi_table_hpet *)table;
 651         if (!hpet_tbl) {
 652                 printk(KERN_WARNING PREFIX "Unable to map HPET\n");
 653                 return -ENODEV;
 654         }
 655
 656         if (hpet_tbl->address.space_id != ACPI_SPACE_MEM) {
 657                 printk(KERN_WARNING PREFIX "HPET timers must be located in "
 658                        "memory.\n");
 659                 return -1;
 660         }
 661
 662         hpet_address = hpet_tbl->address.address;
 663
 664         /*
 665          * Some broken BIOSes advertise HPET at 0x0. We really do not
 666          * want to allocate a resource there.
 667          */
 668         if (!hpet_address) {
 669                 printk(KERN_WARNING PREFIX
 670                        "HPET id: %#x base: %#lx is invalid\n",
 671                        hpet_tbl->id, hpet_address);
 672                 return 0;
 673         }
 674 #ifdef CONFIG_X86_64
 675         /*
 676          * Some even more broken BIOSes advertise HPET at
 677          * 0xfed0000000000000 instead of 0xfed00000. Fix it up and add
 678          * some noise:
 679          */
 680         if (hpet_address == 0xfed0000000000000UL) {
 681                 if (!hpet_force_user) {
 682                         printk(KERN_WARNING PREFIX "HPET id: %#x "
 683                                "base: 0xfed0000000000000 is bogus\n "
 684                                "try hpet=force on the kernel command line to "
 685                                "fix it up to 0xfed00000.\n", hpet_tbl->id);
 686                         hpet_address = 0;
 687                         return 0;
 688                 }
 689                 printk(KERN_WARNING PREFIX
 690                        "HPET id: %#x base: 0xfed0000000000000 fixed up "
 691                        "to 0xfed00000.\n", hpet_tbl->id);
 692                 hpet_address >>= 32;
 693         }
 694 #endif
 695         printk(KERN_INFO PREFIX "HPET id: %#x base: %#lx\n",
 696                hpet_tbl->id, hpet_address);
 697
 698         /*
 699          * Allocate and initialize the HPET firmware resource for adding into
 700          * the resource tree during the lateinit timeframe.
 701          */
 702 #define HPET_RESOURCE_NAME_SIZE 9
 703         hpet_res = alloc_bootmem(sizeof(*hpet_res) + HPET_RESOURCE_NAME_SIZE);
 704
 705         hpet_res->name = (void *)&hpet_res[1];
 706         hpet_res->flags = IORESOURCE_MEM;
 707         snprintf((char *)hpet_res->name, HPET_RESOURCE_NAME_SIZE, "HPET %u",
 708                  hpet_tbl->sequence);
 709
 710         hpet_res->start = hpet_address;
 711         hpet_res->end = hpet_address + (1 * 1024) - 1;
 712
 713         return 0;
 714 }
 715
 716 /*
 717  * hpet_insert_resource inserts the HPET resources used into the resource
 718  * tree.
 719  */
 720 static __init int hpet_insert_resource(void)
 721 {
 722         if (!hpet_res)
 723                 return 1;
 724
 725         return insert_resource(&iomem_resource, hpet_res);
 726 }
 727
 728 late_initcall(hpet_insert_resource);
 729
 730 #else
 731 #define acpi_parse_hpet NULL
 732 #endif
 733
 734 static int __init acpi_parse_fadt(struct acpi_table_header *table)
 735 {
 736
 737 #ifdef CONFIG_X86_PM_TIMER
 738         /* detect the location of the ACPI PM Timer */
 739         if (acpi_gbl_FADT.header.revision >= FADT2_REVISION_ID) {
 740                 /* FADT rev. 2 */
 741                 if (acpi_gbl_FADT.xpm_timer_block.space_id !=
 742                     ACPI_ADR_SPACE_SYSTEM_IO)
 743                         return 0;
 744
 745                 pmtmr_ioport = acpi_gbl_FADT.xpm_timer_block.address;
 746                 /*
 747                  * "X" fields are optional extensions to the original V1.0
 748                  * fields, so we must selectively expand V1.0 fields if the
 749                  * corresponding X field is zero.
 750                  */
 751                 if (!pmtmr_ioport)
 752                         pmtmr_ioport = acpi_gbl_FADT.pm_timer_block;
 753         } else {
 754                 /* FADT rev. 1 */
 755                 pmtmr_ioport = acpi_gbl_FADT.pm_timer_block;
 756         }
 757         if (pmtmr_ioport)
 758                 printk(KERN_INFO PREFIX "PM-Timer IO Port: %#x\n",
 759                        pmtmr_ioport);
 760 #endif
 761         return 0;
 762 }
 763
 764 #ifdef  CONFIG_X86_LOCAL_APIC
 765 /*
 766  * Parse LAPIC entries in MADT
 767  * returns 0 on success, < 0 on error
 768  */
 769
 770 static void __init acpi_register_lapic_address(unsigned long address)
 771 {
 772         mp_lapic_addr = address;
 773
 774         set_fixmap_nocache(FIX_APIC_BASE, address);
 775         if (boot_cpu_physical_apicid == -1U) {
 776                 boot_cpu_physical_apicid  = GET_APIC_ID(read_apic_id());
 777 #ifdef CONFIG_X86_32
 778                 apic_version[boot_cpu_physical_apicid] =
 779                          GET_APIC_VERSION(apic_read(APIC_LVR));
 780 #endif
 781         }
 782 }
 783
 784 static int __init early_acpi_parse_madt_lapic_addr_ovr(void)
 785 {
 786         int count;
 787
 788         if (!cpu_has_apic)
 789                 return -ENODEV;
 790
 791         /*
 792          * Note that the LAPIC address is obtained from the MADT (32-bit value)
 793          * and (optionally) overriden by a LAPIC_ADDR_OVR entry (64-bit value).
 794          */
 795
 796         count =
 797             acpi_table_parse_madt(ACPI_MADT_TYPE_LOCAL_APIC_OVERRIDE,
 798                                   acpi_parse_lapic_addr_ovr, 0);
 799         if (count < 0) {
 800                 printk(KERN_ERR PREFIX
 801                        "Error parsing LAPIC address override entry\n");
 802                 return count;
 803         }
 804
 805         acpi_register_lapic_address(acpi_lapic_addr);
 806
 807         return count;
 808 }
 809
 810 static int __init acpi_parse_madt_lapic_entries(void)
 811 {
 812         int count;
 813
 814         if (!cpu_has_apic)
 815                 return -ENODEV;
 816
 817         /*
 818          * Note that the LAPIC address is obtained from the MADT (32-bit value)
 819          * and (optionally) overriden by a LAPIC_ADDR_OVR entry (64-bit value).
 820          */
 821
 822         count =
 823             acpi_table_parse_madt(ACPI_MADT_TYPE_LOCAL_APIC_OVERRIDE,
 824                                   acpi_parse_lapic_addr_ovr, 0);
 825         if (count < 0) {
 826                 printk(KERN_ERR PREFIX
 827                        "Error parsing LAPIC address override entry\n");
 828                 return count;
 829         }
 830
 831         acpi_register_lapic_address(acpi_lapic_addr);
 832
 833         count = acpi_table_parse_madt(ACPI_MADT_TYPE_LOCAL_SAPIC,
 834                                       acpi_parse_sapic, MAX_APICS);
 835
 836         if (!count)
 837                 count = acpi_table_parse_madt(ACPI_MADT_TYPE_LOCAL_APIC,
 838                                               acpi_parse_lapic, MAX_APICS);
 839         if (!count) {
 840                 printk(KERN_ERR PREFIX "No LAPIC entries present\n");
 841                 /* TBD: Cleanup to allow fallback to MPS */
 842                 return -ENODEV;
 843         } else if (count < 0) {
 844                 printk(KERN_ERR PREFIX "Error parsing LAPIC entry\n");
 845                 /* TBD: Cleanup to allow fallback to MPS */
 846                 return count;
 847         }
 848
 849         count =
 850             acpi_table_parse_madt(ACPI_MADT_TYPE_LOCAL_APIC_NMI, acpi_parse_lapic_nmi, 0);
 851         if (count < 0) {
 852                 printk(KERN_ERR PREFIX "Error parsing LAPIC NMI entry\n");
 853                 /* TBD: Cleanup to allow fallback to MPS */
 854                 return count;
 855         }
 856         return 0;
 857 }
 858 #endif                          /* CONFIG_X86_LOCAL_APIC */
 859
 860 #ifdef  CONFIG_X86_IO_APIC
 861 #define MP_ISA_BUS              0
 862
 863 #ifdef CONFIG_X86_ES7000
 864 extern int es7000_plat;
 865 #endif
 866
 867 static struct {
 868         int apic_id;
 869         int gsi_base;
 870         int gsi_end;
 871         DECLARE_BITMAP(pin_programmed, MP_MAX_IOAPIC_PIN + 1);
 872 } mp_ioapic_routing[MAX_IO_APICS];
 873
 874 static int mp_find_ioapic(int gsi)
 875 {
 876         int i = 0;
 877
 878         /* Find the IOAPIC that manages this GSI. */
 879         for (i = 0; i < nr_ioapics; i++) {
 880                 if ((gsi >= mp_ioapic_routing[i].gsi_base)
 881                     && (gsi <= mp_ioapic_routing[i].gsi_end))
 882                         return i;
 883         }
 884
 885         printk(KERN_ERR "ERROR: Unable to locate IOAPIC for GSI %d\n", gsi);
 886         return -1;
 887 }
 888
 889 static u8 __init uniq_ioapic_id(u8 id)
 890 {
 891 #ifdef CONFIG_X86_32
 892         if ((boot_cpu_data.x86_vendor == X86_VENDOR_INTEL) &&
 893             !APIC_XAPIC(apic_version[boot_cpu_physical_apicid]))
 894                 return io_apic_get_unique_id(nr_ioapics, id);
 895         else
 896                 return id;
 897 #else
 898         int i;
 899         DECLARE_BITMAP(used, 256);
 900         bitmap_zero(used, 256);
 901         for (i = 0; i < nr_ioapics; i++) {
 902                 struct mp_config_ioapic *ia = &mp_ioapics[i];
 903                 __set_bit(ia->mp_apicid, used);
 904         }
 905         if (!test_bit(id, used))
 906                 return id;
 907         return find_first_zero_bit(used, 256);
 908 #endif
 909 }
 910
 911 static int bad_ioapic(unsigned long address)
 912 {
 913         if (nr_ioapics >= MAX_IO_APICS) {
 914                 printk(KERN_ERR "ERROR: Max # of I/O APICs (%d) exceeded "
 915                        "(found %d)\n", MAX_IO_APICS, nr_ioapics);
 916                 panic("Recompile kernel with bigger MAX_IO_APICS!\n");
 917         }
 918         if (!address) {
 919                 printk(KERN_ERR "WARNING: Bogus (zero) I/O APIC address"
 920                        " found in table, skipping!\n");
 921                 return 1;
 922         }
 923         return 0;
 924 }
 925
 926 void __init mp_register_ioapic(int id, u32 address, u32 gsi_base)
 927 {
 928         int idx = 0;
 929
 930         if (bad_ioapic(address))
 931                 return;
 932
 933         idx = nr_ioapics;
 934
 935         mp_ioapics[idx].mp_type = MP_IOAPIC;
 936         mp_ioapics[idx].mp_flags = MPC_APIC_USABLE;
 937         mp_ioapics[idx].mp_apicaddr = address;
 938
 939         set_fixmap_nocache(FIX_IO_APIC_BASE_0 + idx, address);
 940         mp_ioapics[idx].mp_apicid = uniq_ioapic_id(id);
 941 #ifdef CONFIG_X86_32
 942         mp_ioapics[idx].mp_apicver = io_apic_get_version(idx);
 943 #else
 944         mp_ioapics[idx].mp_apicver = 0;
 945 #endif
 946         /*
 947          * Build basic GSI lookup table to facilitate gsi->io_apic lookups
 948          * and to prevent reprogramming of IOAPIC pins (PCI GSIs).
 949          */
 950         mp_ioapic_routing[idx].apic_id = mp_ioapics[idx].mp_apicid;
 951         mp_ioapic_routing[idx].gsi_base = gsi_base;
 952         mp_ioapic_routing[idx].gsi_end = gsi_base +
 953             io_apic_get_redir_entries(idx);
 954
 955         printk(KERN_INFO "IOAPIC[%d]: apic_id %d, version %d, address 0x%lx, "
 956                "GSI %d-%d\n", idx, mp_ioapics[idx].mp_apicid,
 957                mp_ioapics[idx].mp_apicver, mp_ioapics[idx].mp_apicaddr,
 958                mp_ioapic_routing[idx].gsi_base, mp_ioapic_routing[idx].gsi_end);
 959
 960         nr_ioapics++;
 961 }
 962
 963 static void assign_to_mp_irq(struct mp_config_intsrc *m,
 964                                     struct mp_config_intsrc *mp_irq)
 965 {
 966         memcpy(mp_irq, m, sizeof(struct mp_config_intsrc));
 967 }
 968
 969 static int mp_irq_cmp(struct mp_config_intsrc *mp_irq,
 970                                 struct mp_config_intsrc *m)
 971 {
 972         return memcmp(mp_irq, m, sizeof(struct mp_config_intsrc));
 973 }
 974
 975 static void save_mp_irq(struct mp_config_intsrc *m)
 976 {
 977         int i;
 978
 979         for (i = 0; i < mp_irq_entries; i++) {
 980                 if (!mp_irq_cmp(&mp_irqs[i], m))
 981                         return;
 982         }
 983
 984         assign_to_mp_irq(m, &mp_irqs[mp_irq_entries]);
 985         if (++mp_irq_entries == MAX_IRQ_SOURCES)
 986                 panic("Max # of irq sources exceeded!!\n");
 987 }
 988
 989 void __init mp_override_legacy_irq(u8 bus_irq, u8 polarity, u8 trigger, u32 gsi)
 990 {
 991         int ioapic;
 992         int pin;
 993         struct mp_config_intsrc mp_irq;
 994
 995         /* Skip the 8254 timer interrupt (IRQ 0) if requested.  */
 996         if (bus_irq == 0 && disable_irq0_through_ioapic)
 997                 return;
 998
 999         /*
1000          * Convert 'gsi' to 'ioapic.pin'.
1001          */
1002         ioapic = mp_find_ioapic(gsi);
1003         if (ioapic < 0)
1004                 return;
1005         pin = gsi - mp_ioapic_routing[ioapic].gsi_base;
1006
1007         /*
1008          * TBD: This check is for faulty timer entries, where the override
1009          *      erroneously sets the trigger to level, resulting in a HUGE
1010          *      increase of timer interrupts!
1011          */
1012         if ((bus_irq == 0) && (trigger == 3))
1013                 trigger = 1;
1014
1015         mp_irq.mp_type = MP_INTSRC;
1016         mp_irq.mp_irqtype = mp_INT;
1017         mp_irq.mp_irqflag = (trigger << 2) | polarity;
1018         mp_irq.mp_srcbus = MP_ISA_BUS;
1019         mp_irq.mp_srcbusirq = bus_irq;  /* IRQ */
1020         mp_irq.mp_dstapic = mp_ioapics[ioapic].mp_apicid; /* APIC ID */
1021         mp_irq.mp_dstirq = pin; /* INTIN# */
1022
1023         save_mp_irq(&mp_irq);
1024 }
1025
1026 void __init mp_config_acpi_legacy_irqs(void)
1027 {
1028         int i;
1029         int ioapic;
1030         unsigned int dstapic;
1031         struct mp_config_intsrc mp_irq;
1032
1033 #if defined (CONFIG_MCA) || defined (CONFIG_EISA)
1034         /*
1035          * Fabricate the legacy ISA bus (bus #31).
1036          */
1037         mp_bus_id_to_type[MP_ISA_BUS] = MP_BUS_ISA;
1038 #endif
1039         set_bit(MP_ISA_BUS, mp_bus_not_pci);
1040         Dprintk("Bus #%d is ISA\n", MP_ISA_BUS);
1041
1042 #ifdef CONFIG_X86_ES7000
1043         /*
1044          * Older generations of ES7000 have no legacy identity mappings
1045          */
1046         if (es7000_plat == 1)
1047                 return;
1048 #endif
1049
1050         /*
1051          * Locate the IOAPIC that manages the ISA IRQs (0-15).
1052          */
1053         ioapic = mp_find_ioapic(0);
1054         if (ioapic < 0)
1055                 return;
1056         dstapic = mp_ioapics[ioapic].mp_apicid;
1057
1058         /*
1059          * Use the default configuration for the IRQs 0-15.  Unless
1060          * overridden by (MADT) interrupt source override entries.
1061          */
1062         for (i = 0; i < 16; i++) {
1063                 int idx;
1064
1065                 /* Skip the 8254 timer interrupt (IRQ 0) if requested.  */
1066                 if (i == 0 && disable_irq0_through_ioapic)
1067                         continue;
1068
1069                 for (idx = 0; idx < mp_irq_entries; idx++) {
1070                         struct mp_config_intsrc *irq = mp_irqs + idx;
1071
1072                         /* Do we already have a mapping for this ISA IRQ? */
1073                         if (irq->mp_srcbus == MP_ISA_BUS
1074                             && irq->mp_srcbusirq == i)
1075                                 break;
1076
1077                         /* Do we already have a mapping for this IOAPIC pin */
1078                         if (irq->mp_dstapic == dstapic &&
1079                             irq->mp_dstirq == i)
1080                                 break;
1081                 }
1082
1083                 if (idx != mp_irq_entries) {
1084                         printk(KERN_DEBUG "ACPI: IRQ%d used by override.\n", i);
1085                         continue;       /* IRQ already used */
1086                 }
1087
1088                 mp_irq.mp_type = MP_INTSRC;
1089                 mp_irq.mp_irqflag = 0;  /* Conforming */
1090                 mp_irq.mp_srcbus = MP_ISA_BUS;
1091                 mp_irq.mp_dstapic = dstapic;
1092                 mp_irq.mp_irqtype = mp_INT;
1093                 mp_irq.mp_srcbusirq = i; /* Identity mapped */
1094                 mp_irq.mp_dstirq = i;
1095
1096                 save_mp_irq(&mp_irq);
1097         }
1098 }
1099
1100 int mp_register_gsi(u32 gsi, int triggering, int polarity)
1101 {
1102         int ioapic;
1103         int ioapic_pin;
1104 #ifdef CONFIG_X86_32
1105 #define MAX_GSI_NUM     4096
1106 #define IRQ_COMPRESSION_START   64
1107
1108         static int pci_irq = IRQ_COMPRESSION_START;
1109         /*
1110          * Mapping between Global System Interrupts, which
1111          * represent all possible interrupts, and IRQs
1112          * assigned to actual devices.
1113          */
1114         static int gsi_to_irq[MAX_GSI_NUM];
1115 #else
1116
1117         if (acpi_irq_model != ACPI_IRQ_MODEL_IOAPIC)
1118                 return gsi;
1119 #endif
1120
1121         /* Don't set up the ACPI SCI because it's already set up */
1122         if (acpi_gbl_FADT.sci_interrupt == gsi)
1123                 return gsi;
1124
1125         ioapic = mp_find_ioapic(gsi);
1126         if (ioapic < 0) {
1127                 printk(KERN_WARNING "No IOAPIC for GSI %u\n", gsi);
1128                 return gsi;
1129         }
1130
1131         ioapic_pin = gsi - mp_ioapic_routing[ioapic].gsi_base;
1132
1133 #ifdef CONFIG_X86_32
1134         if (ioapic_renumber_irq)
1135                 gsi = ioapic_renumber_irq(ioapic, gsi);
1136 #endif
1137
1138         /*
1139          * Avoid pin reprogramming.  PRTs typically include entries
1140          * with redundant pin->gsi mappings (but unique PCI devices);
1141          * we only program the IOAPIC on the first.
1142          */
1143         if (ioapic_pin > MP_MAX_IOAPIC_PIN) {
1144                 printk(KERN_ERR "Invalid reference to IOAPIC pin "
1145                        "%d-%d\n", mp_ioapic_routing[ioapic].apic_id,
1146                        ioapic_pin);
1147                 return gsi;
1148         }
1149         if (test_bit(ioapic_pin, mp_ioapic_routing[ioapic].pin_programmed)) {
1150                 Dprintk(KERN_DEBUG "Pin %d-%d already programmed\n",
1151                         mp_ioapic_routing[ioapic].apic_id, ioapic_pin);
1152 #ifdef CONFIG_X86_32
1153                 return (gsi < IRQ_COMPRESSION_START ? gsi : gsi_to_irq[gsi]);
1154 #else
1155                 return gsi;
1156 #endif
1157         }
1158
1159         set_bit(ioapic_pin, mp_ioapic_routing[ioapic].pin_programmed);
1160 #ifdef CONFIG_X86_32
1161         /*
1162          * For GSI >= 64, use IRQ compression
1163          */
1164         if ((gsi >= IRQ_COMPRESSION_START)
1165             && (triggering == ACPI_LEVEL_SENSITIVE)) {
1166                 /*
1167                  * For PCI devices assign IRQs in order, avoiding gaps
1168                  * due to unused I/O APIC pins.
1169                  */
1170                 int irq = gsi;
1171                 if (gsi < MAX_GSI_NUM) {
1172                         /*
1173                          * Retain the VIA chipset work-around (gsi > 15), but
1174                          * avoid a problem where the 8254 timer (IRQ0) is setup
1175                          * via an override (so it's not on pin 0 of the ioapic),
1176                          * and at the same time, the pin 0 interrupt is a PCI
1177                          * type.  The gsi > 15 test could cause these two pins
1178                          * to be shared as IRQ0, and they are not shareable.
1179                          * So test for this condition, and if necessary, avoid
1180                          * the pin collision.
1181                          */
1182                         gsi = pci_irq++;
1183                         /*
1184                          * Don't assign IRQ used by ACPI SCI
1185                          */
1186                         if (gsi == acpi_gbl_FADT.sci_interrupt)
1187                                 gsi = pci_irq++;
1188                         gsi_to_irq[irq] = gsi;
1189                 } else {
1190                         printk(KERN_ERR "GSI %u is too high\n", gsi);
1191                         return gsi;
1192                 }
1193         }
1194 #endif
1195         io_apic_set_pci_routing(ioapic, ioapic_pin, gsi,
1196                                 triggering == ACPI_EDGE_SENSITIVE ? 0 : 1,
1197                                 polarity == ACPI_ACTIVE_HIGH ? 0 : 1);
1198         return gsi;
1199 }
1200
1201 int mp_config_acpi_gsi(unsigned char number, unsigned int devfn, u8 pin,
1202                         u32 gsi, int triggering, int polarity)
1203 {
1204 #ifdef CONFIG_X86_MPPARSE
1205         struct mp_config_intsrc mp_irq;
1206         int ioapic;
1207
1208         if (!acpi_ioapic)
1209                 return 0;
1210
1211         /* print the entry should happen on mptable identically */
1212         mp_irq.mp_type = MP_INTSRC;
1213         mp_irq.mp_irqtype = mp_INT;
1214         mp_irq.mp_irqflag = (triggering == ACPI_EDGE_SENSITIVE ? 4 : 0x0c) |
1215                                 (polarity == ACPI_ACTIVE_HIGH ? 1 : 3);
1216         mp_irq.mp_srcbus = number;
1217         mp_irq.mp_srcbusirq = (((devfn >> 3) & 0x1f) << 2) | ((pin - 1) & 3);
1218         ioapic = mp_find_ioapic(gsi);
1219         mp_irq.mp_dstapic = mp_ioapic_routing[ioapic].apic_id;
1220         mp_irq.mp_dstirq = gsi - mp_ioapic_routing[ioapic].gsi_base;
1221
1222         save_mp_irq(&mp_irq);
1223 #endif
1224         return 0;
1225 }
1226
1227 /*
1228  * Parse IOAPIC related entries in MADT
1229  * returns 0 on success, < 0 on error
1230  */
1231 static int __init acpi_parse_madt_ioapic_entries(void)
1232 {
1233         int count;
1234
1235         /*
1236          * ACPI interpreter is required to complete interrupt setup,
1237          * so if it is off, don't enumerate the io-apics with ACPI.
1238          * If MPS is present, it will handle them,
1239          * otherwise the system will stay in PIC mode
1240          */
1241         if (acpi_disabled || acpi_noirq) {
1242                 return -ENODEV;
1243         }
1244
1245         if (!cpu_has_apic)
1246                 return -ENODEV;
1247
1248         /*
1249          * if "noapic" boot option, don't look for IO-APICs
1250          */
1251         if (skip_ioapic_setup) {
1252                 printk(KERN_INFO PREFIX "Skipping IOAPIC probe "
1253                        "due to 'noapic' option.\n");
1254                 return -ENODEV;
1255         }
1256
1257         count =
1258             acpi_table_parse_madt(ACPI_MADT_TYPE_IO_APIC, acpi_parse_ioapic,
1259                                   MAX_IO_APICS);
1260         if (!count) {
1261                 printk(KERN_ERR PREFIX "No IOAPIC entries present\n");
1262                 return -ENODEV;
1263         } else if (count < 0) {
1264                 printk(KERN_ERR PREFIX "Error parsing IOAPIC entry\n");
1265                 return count;
1266         }
1267
1268         count =
1269             acpi_table_parse_madt(ACPI_MADT_TYPE_INTERRUPT_OVERRIDE, acpi_parse_int_src_ovr,
1270                                   NR_IRQ_VECTORS);
1271         if (count < 0) {
1272                 printk(KERN_ERR PREFIX
1273                        "Error parsing interrupt source overrides entry\n");
1274                 /* TBD: Cleanup to allow fallback to MPS */
1275                 return count;
1276         }
1277
1278         /*
1279          * If BIOS did not supply an INT_SRC_OVR for the SCI
1280          * pretend we got one so we can set the SCI flags.
1281          */
1282         if (!acpi_sci_override_gsi)
1283                 acpi_sci_ioapic_setup(acpi_gbl_FADT.sci_interrupt, 0, 0);
1284
1285         /* Fill in identity legacy mapings where no override */
1286         mp_config_acpi_legacy_irqs();
1287
1288         count =
1289             acpi_table_parse_madt(ACPI_MADT_TYPE_NMI_SOURCE, acpi_parse_nmi_src,
1290                                   NR_IRQ_VECTORS);
1291         if (count < 0) {
1292                 printk(KERN_ERR PREFIX "Error parsing NMI SRC entry\n");
1293                 /* TBD: Cleanup to allow fallback to MPS */
1294                 return count;
1295         }
1296
1297         return 0;
1298 }
1299 #else
1300 static inline int acpi_parse_madt_ioapic_entries(void)
1301 {
1302         return -1;
1303 }
1304 #endif  /* !CONFIG_X86_IO_APIC */
1305
1306 static void __init early_acpi_process_madt(void)
1307 {
1308 #ifdef CONFIG_X86_LOCAL_APIC
1309         int error;
1310
1311         if (!acpi_table_parse(ACPI_SIG_MADT, acpi_parse_madt)) {
1312
1313                 /*
1314                  * Parse MADT LAPIC entries
1315                  */
1316                 error = early_acpi_parse_madt_lapic_addr_ovr();
1317                 if (!error) {
1318                         acpi_lapic = 1;
1319                         smp_found_config = 1;
1320                 }
1321                 if (error == -EINVAL) {
1322                         /*
1323                          * Dell Precision Workstation 410, 610 come here.
1324                          */
1325                         printk(KERN_ERR PREFIX
1326                                "Invalid BIOS MADT, disabling ACPI\n");
1327                         disable_acpi();
1328                 }
1329         }
1330 #endif
1331 }
1332
1333 static void __init acpi_process_madt(void)
1334 {
1335 #ifdef CONFIG_X86_LOCAL_APIC
1336         int error;
1337
1338         if (!acpi_table_parse(ACPI_SIG_MADT, acpi_parse_madt)) {
1339
1340                 /*
1341                  * Parse MADT LAPIC entries
1342                  */
1343                 error = acpi_parse_madt_lapic_entries();
1344                 if (!error) {
1345                         acpi_lapic = 1;
1346
1347 #ifdef CONFIG_X86_GENERICARCH
1348                         generic_bigsmp_probe();
1349 #endif
1350                         /*
1351                          * Parse MADT IO-APIC entries
1352                          */
1353                         error = acpi_parse_madt_ioapic_entries();
1354                         if (!error) {
1355                                 acpi_irq_model = ACPI_IRQ_MODEL_IOAPIC;
1356                                 acpi_irq_balance_set(NULL);
1357                                 acpi_ioapic = 1;
1358
1359                                 smp_found_config = 1;
1360                                 setup_apic_routing();
1361                         }
1362                 }
1363                 if (error == -EINVAL) {
1364                         /*
1365                          * Dell Precision Workstation 410, 610 come here.
1366                          */
1367                         printk(KERN_ERR PREFIX
1368                                "Invalid BIOS MADT, disabling ACPI\n");
1369                         disable_acpi();
1370                 }
1371         }
1372 #endif
1373         return;
1374 }
1375
1376 static int __init disable_acpi_irq(const struct dmi_system_id *d)
1377 {
1378         if (!acpi_force) {
1379                 printk(KERN_NOTICE "%s detected: force use of acpi=noirq\n",
1380                        d->ident);
1381                 acpi_noirq_set();
1382         }
1383         return 0;
1384 }
1385
1386 static int __init disable_acpi_pci(const struct dmi_system_id *d)
1387 {
1388         if (!acpi_force) {
1389                 printk(KERN_NOTICE "%s detected: force use of pci=noacpi\n",
1390                        d->ident);
1391                 acpi_disable_pci();
1392         }
1393         return 0;
1394 }
1395
1396 static int __init dmi_disable_acpi(const struct dmi_system_id *d)
1397 {
1398         if (!acpi_force) {
1399                 printk(KERN_NOTICE "%s detected: acpi off\n", d->ident);
1400                 disable_acpi();
1401         } else {
1402                 printk(KERN_NOTICE
1403                        "Warning: DMI blacklist says broken, but acpi forced\n");
1404         }
1405         return 0;
1406 }
1407
1408 /*
1409  * Limit ACPI to CPU enumeration for HT
1410  */
1411 static int __init force_acpi_ht(const struct dmi_system_id *d)
1412 {
1413         if (!acpi_force) {
1414                 printk(KERN_NOTICE "%s detected: force use of acpi=ht\n",
1415                        d->ident);
1416                 disable_acpi();
1417                 acpi_ht = 1;
1418         } else {
1419                 printk(KERN_NOTICE
1420                        "Warning: acpi=force overrules DMI blacklist: acpi=ht\n");
1421         }
1422         return 0;
1423 }
1424
1425 /*
1426  * Don't register any I/O APIC entries for the 8254 timer IRQ.
1427  */
1428 static int __init
1429 dmi_disable_irq0_through_ioapic(const struct dmi_system_id *d)
1430 {
1431         pr_notice("%s detected: disabling IRQ 0 through I/O APIC\n", d->ident);
1432         disable_irq0_through_ioapic = 1;
1433         return 0;
1434 }
1435
1436 /*
1437  * Force ignoring BIOS IRQ0 pin2 override
1438  */
1439 static int __init dmi_ignore_irq0_timer_override(const struct dmi_system_id *d)
1440 {
1441         pr_notice("%s detected: Ignoring BIOS IRQ0 pin2 override\n", d->ident);
1442         acpi_skip_timer_override = 1;
1443         force_mask_ioapic_irq_2();
1444         return 0;
1445 }
1446
1447 /*
1448  * If your system is blacklisted here, but you find that acpi=force
1449  * works for you, please contact acpi-devel@sourceforge.net
1450  */
1451 static struct dmi_system_id __initdata acpi_dmi_table[] = {
1452         /*
1453          * Boxes that need ACPI disabled
1454          */
1455         {
1456          .callback = dmi_disable_acpi,
1457          .ident = "IBM Thinkpad",
1458          .matches = {
1459                      DMI_MATCH(DMI_BOARD_VENDOR, "IBM"),
1460                      DMI_MATCH(DMI_BOARD_NAME, "2629H1G"),
1461                      },
1462          },
1463
1464         /*
1465          * Boxes that need acpi=ht
1466          */
1467         {
1468          .callback = force_acpi_ht,
1469          .ident = "FSC Primergy T850",
1470          .matches = {
1471                      DMI_MATCH(DMI_SYS_VENDOR, "FUJITSU SIEMENS"),
1472                      DMI_MATCH(DMI_PRODUCT_NAME, "PRIMERGY T850"),
1473                      },
1474          },
1475         {
1476          .callback = force_acpi_ht,
1477          .ident = "HP VISUALIZE NT Workstation",
1478          .matches = {
1479                      DMI_MATCH(DMI_BOARD_VENDOR, "Hewlett-Packard"),
1480                      DMI_MATCH(DMI_PRODUCT_NAME, "HP VISUALIZE NT Workstation"),
1481                      },
1482          },
1483         {
1484          .callback = force_acpi_ht,
1485          .ident = "Compaq Workstation W8000",
1486          .matches = {
1487                      DMI_MATCH(DMI_SYS_VENDOR, "Compaq"),
1488                      DMI_MATCH(DMI_PRODUCT_NAME, "Workstation W8000"),
1489                      },
1490          },
1491         {
1492          .callback = force_acpi_ht,
1493          .ident = "ASUS P4B266",
1494          .matches = {
1495                      DMI_MATCH(DMI_BOARD_VENDOR, "ASUSTeK Computer INC."),
1496                      DMI_MATCH(DMI_BOARD_NAME, "P4B266"),
1497                      },
1498          },
1499         {
1500          .callback = force_acpi_ht,
1501          .ident = "ASUS P2B-DS",
1502          .matches = {
1503                      DMI_MATCH(DMI_BOARD_VENDOR, "ASUSTeK Computer INC."),
1504                      DMI_MATCH(DMI_BOARD_NAME, "P2B-DS"),
1505                      },
1506          },
1507         {
1508          .callback = force_acpi_ht,
1509          .ident = "ASUS CUR-DLS",
1510          .matches = {
1511                      DMI_MATCH(DMI_BOARD_VENDOR, "ASUSTeK Computer INC."),
1512                      DMI_MATCH(DMI_BOARD_NAME, "CUR-DLS"),
1513                      },
1514          },
1515         {
1516          .callback = force_acpi_ht,
1517          .ident = "ABIT i440BX-W83977",
1518          .matches = {
1519                      DMI_MATCH(DMI_BOARD_VENDOR, "ABIT <http://www.abit.com>"),
1520                      DMI_MATCH(DMI_BOARD_NAME, "i440BX-W83977 (BP6)"),
1521                      },
1522          },
1523         {
1524          .callback = force_acpi_ht,
1525          .ident = "IBM Bladecenter",
1526          .matches = {
1527                      DMI_MATCH(DMI_BOARD_VENDOR, "IBM"),
1528                      DMI_MATCH(DMI_BOARD_NAME, "IBM eServer BladeCenter HS20"),
1529                      },
1530          },
1531         {
1532          .callback = force_acpi_ht,
1533          .ident = "IBM eServer xSeries 360",
1534          .matches = {
1535                      DMI_MATCH(DMI_BOARD_VENDOR, "IBM"),
1536                      DMI_MATCH(DMI_BOARD_NAME, "eServer xSeries 360"),
1537                      },
1538          },
1539         {
1540          .callback = force_acpi_ht,
1541          .ident = "IBM eserver xSeries 330",
1542          .matches = {
1543                      DMI_MATCH(DMI_BOARD_VENDOR, "IBM"),
1544                      DMI_MATCH(DMI_BOARD_NAME, "eserver xSeries 330"),
1545                      },
1546          },
1547         {
1548          .callback = force_acpi_ht,
1549          .ident = "IBM eserver xSeries 440",
1550          .matches = {
1551                      DMI_MATCH(DMI_BOARD_VENDOR, "IBM"),
1552                      DMI_MATCH(DMI_PRODUCT_NAME, "eserver xSeries 440"),
1553                      },
1554          },
1555
1556         /*
1557          * Boxes that need ACPI PCI IRQ routing disabled
1558          */
1559         {
1560          .callback = disable_acpi_irq,
1561          .ident = "ASUS A7V",
1562          .matches = {
1563                      DMI_MATCH(DMI_BOARD_VENDOR, "ASUSTeK Computer INC"),
1564                      DMI_MATCH(DMI_BOARD_NAME, "<A7V>"),
1565                      /* newer BIOS, Revision 1011, does work */
1566                      DMI_MATCH(DMI_BIOS_VERSION,
1567                                "ASUS A7V ACPI BIOS Revision 1007"),
1568                      },
1569          },
1570         {
1571                 /*
1572                  * Latest BIOS for IBM 600E (1.16) has bad pcinum
1573                  * for LPC bridge, which is needed for the PCI
1574                  * interrupt links to work. DSDT fix is in bug 5966.
1575                  * 2645, 2646 model numbers are shared with 600/600E/600X
1576                  */
1577          .callback = disable_acpi_irq,
1578          .ident = "IBM Thinkpad 600 Series 2645",
1579          .matches = {
1580                      DMI_MATCH(DMI_BOARD_VENDOR, "IBM"),
1581                      DMI_MATCH(DMI_BOARD_NAME, "2645"),
1582                      },
1583          },
1584         {
1585          .callback = disable_acpi_irq,
1586          .ident = "IBM Thinkpad 600 Series 2646",
1587          .matches = {
1588                      DMI_MATCH(DMI_BOARD_VENDOR, "IBM"),
1589                      DMI_MATCH(DMI_BOARD_NAME, "2646"),
1590                      },
1591          },
1592         /*
1593          * Boxes that need ACPI PCI IRQ routing and PCI scan disabled
1594          */
1595         {                       /* _BBN 0 bug */
1596          .callback = disable_acpi_pci,
1597          .ident = "ASUS PR-DLS",
1598          .matches = {
1599                      DMI_MATCH(DMI_BOARD_VENDOR, "ASUSTeK Computer INC."),
1600                      DMI_MATCH(DMI_BOARD_NAME, "PR-DLS"),
1601                      DMI_MATCH(DMI_BIOS_VERSION,
1602                                "ASUS PR-DLS ACPI BIOS Revision 1010"),
1603                      DMI_MATCH(DMI_BIOS_DATE, "03/21/2003")
1604                      },
1605          },
1606         {
1607          .callback = disable_acpi_pci,
1608          .ident = "Acer TravelMate 36x Laptop",
1609          .matches = {
1610                      DMI_MATCH(DMI_SYS_VENDOR, "Acer"),
1611                      DMI_MATCH(DMI_PRODUCT_NAME, "TravelMate 360"),
1612                      },
1613          },
1614         /*
1615          * HP laptops which use a DSDT reporting as HP/SB400/10000,
1616          * which includes some code which overrides all temperature
1617          * trip points to 16C if the INTIN2 input of the I/O APIC
1618          * is enabled.  This input is incorrectly designated the
1619          * ISA IRQ 0 via an interrupt source override even though
1620          * it is wired to the output of the master 8259A and INTIN0
1621          * is not connected at all.  Abandon any attempts to route
1622          * IRQ 0 through the I/O APIC therefore.
1623          */
1624         {
1625          .callback = dmi_disable_irq0_through_ioapic,
1626          .ident = "HP NX6125 laptop",
1627          .matches = {
1628                      DMI_MATCH(DMI_SYS_VENDOR, "Hewlett-Packard"),
1629                      DMI_MATCH(DMI_PRODUCT_NAME, "HP Compaq nx6125"),
1630                      },
1631          },
1632         {
1633          .callback = dmi_disable_irq0_through_ioapic,
1634          .ident = "HP NX6325 laptop",
1635          .matches = {
1636                      DMI_MATCH(DMI_SYS_VENDOR, "Hewlett-Packard"),
1637                      DMI_MATCH(DMI_PRODUCT_NAME, "HP Compaq nx6325"),
1638                      },
1639          },
1640         /*
1641          * HP laptops which use a DSDT reporting as HP/SB400/10000,
1642          * which includes some code which overrides all temperature
1643          * trip points to 16C if the INTIN2 input of the I/O APIC
1644          * is enabled.  This input is incorrectly designated the
1645          * ISA IRQ 0 via an interrupt source override even though
1646          * it is wired to the output of the master 8259A and INTIN0
1647          * is not connected at all.  Force ignoring BIOS IRQ0 pin2
1648          * override in that cases.
1649          */
1650         {
1651          .callback = dmi_ignore_irq0_timer_override,
1652          .ident = "HP NX6125 laptop",
1653          .matches = {
1654                      DMI_MATCH(DMI_SYS_VENDOR, "Hewlett-Packard"),
1655                      DMI_MATCH(DMI_PRODUCT_NAME, "HP Compaq nx6125"),
1656                      },
1657          },
1658         {
1659          .callback = dmi_ignore_irq0_timer_override,
1660          .ident = "HP NX6325 laptop",
1661          .matches = {
1662                      DMI_MATCH(DMI_SYS_VENDOR, "Hewlett-Packard"),
1663                      DMI_MATCH(DMI_PRODUCT_NAME, "HP Compaq nx6325"),
1664                      },
1665          },
1666         {}
1667 };
1668
1669 /*
1670  * acpi_boot_table_init() and acpi_boot_init()
1671  *  called from setup_arch(), always.
1672  *      1. checksums all tables
1673  *      2. enumerates lapics
1674  *      3. enumerates io-apics
1675  *
1676  * acpi_table_init() is separate to allow reading SRAT without
1677  * other side effects.
1678  *
1679  * side effects of acpi_boot_init:
1680  *      acpi_lapic = 1 if LAPIC found
1681  *      acpi_ioapic = 1 if IOAPIC found
1682  *      if (acpi_lapic && acpi_ioapic) smp_found_config = 1;
1683  *      if acpi_blacklisted() acpi_disabled = 1;
1684  *      acpi_irq_model=...
1685  *      ...
1686  *
1687  * return value: (currently ignored)
1688  *      0: success
1689  *      !0: failure
1690  */
1691
1692 int __init acpi_boot_table_init(void)
1693 {
1694         int error;
1695
1696         dmi_check_system(acpi_dmi_table);
1697
1698         /*
1699          * If acpi_disabled, bail out
1700          * One exception: acpi=ht continues far enough to enumerate LAPICs
1701          */
1702         if (acpi_disabled && !acpi_ht)
1703                 return 1;
1704
1705         /*
1706          * Initialize the ACPI boot-time table parser.
1707          */
1708         error = acpi_table_init();
1709         if (error) {
1710                 disable_acpi();
1711                 return error;
1712         }
1713
1714         acpi_table_parse(ACPI_SIG_BOOT, acpi_parse_sbf);
1715
1716         /*
1717          * blacklist may disable ACPI entirely
1718          */
1719         error = acpi_blacklisted();
1720         if (error) {
1721                 if (acpi_force) {
1722                         printk(KERN_WARNING PREFIX "acpi=force override\n");
1723                 } else {
1724                         printk(KERN_WARNING PREFIX "Disabling ACPI support\n");
1725                         disable_acpi();
1726                         return error;
1727                 }
1728         }
1729
1730         return 0;
1731 }
1732
1733 int __init early_acpi_boot_init(void)
1734 {
1735         /*
1736          * If acpi_disabled, bail out
1737          * One exception: acpi=ht continues far enough to enumerate LAPICs
1738          */
1739         if (acpi_disabled && !acpi_ht)
1740                 return 1;
1741
1742         /*
1743          * Process the Multiple APIC Description Table (MADT), if present
1744          */
1745         early_acpi_process_madt();
1746
1747         return 0;
1748 }
1749
1750 int __init acpi_boot_init(void)
1751 {
1752         /*
1753          * If acpi_disabled, bail out
1754          * One exception: acpi=ht continues far enough to enumerate LAPICs
1755          */
1756         if (acpi_disabled && !acpi_ht)
1757                 return 1;
1758
1759         acpi_table_parse(ACPI_SIG_BOOT, acpi_parse_sbf);
1760
1761         /*
1762          * set sci_int and PM timer address
1763          */
1764         acpi_table_parse(ACPI_SIG_FADT, acpi_parse_fadt);
1765
1766         /*
1767          * Process the Multiple APIC Description Table (MADT), if present
1768          */
1769         acpi_process_madt();
1770
1771         acpi_table_parse(ACPI_SIG_HPET, acpi_parse_hpet);
1772
1773         return 0;
1774 }
1775
1776 static int __init parse_acpi(char *arg)
1777 {
1778         if (!arg)
1779                 return -EINVAL;
1780
1781         /* "acpi=off" disables both ACPI table parsing and interpreter */
1782         if (strcmp(arg, "off") == 0) {
1783                 disable_acpi();
1784         }
1785         /* acpi=force to over-ride black-list */
1786         else if (strcmp(arg, "force") == 0) {
1787                 acpi_force = 1;
1788                 acpi_ht = 1;
1789                 acpi_disabled = 0;
1790         }
1791         /* acpi=strict disables out-of-spec workarounds */
1792         else if (strcmp(arg, "strict") == 0) {
1793                 acpi_strict = 1;
1794         }
1795         /* Limit ACPI just to boot-time to enable HT */
1796         else if (strcmp(arg, "ht") == 0) {
1797                 if (!acpi_force)
1798                         disable_acpi();
1799                 acpi_ht = 1;
1800         }
1801         /* "acpi=noirq" disables ACPI interrupt routing */
1802         else if (strcmp(arg, "noirq") == 0) {
1803                 acpi_noirq_set();
1804         } else {
1805                 /* Core will printk when we return error. */
1806                 return -EINVAL;
1807         }
1808         return 0;
1809 }
1810 early_param("acpi", parse_acpi);
1811
1812 /* FIXME: Using pci= for an ACPI parameter is a travesty. */
1813 static int __init parse_pci(char *arg)
1814 {
1815         if (arg && strcmp(arg, "noacpi") == 0)
1816                 acpi_disable_pci();
1817         return 0;
1818 }
1819 early_param("pci", parse_pci);
1820
1821 int __init acpi_mps_check(void)
1822 {
1823 #if defined(CONFIG_X86_LOCAL_APIC) && !defined(CONFIG_X86_MPPARSE)
1824 /* mptable code is not built-in*/
1825         if (acpi_disabled || acpi_noirq) {
1826                 printk(KERN_WARNING "MPS support code is not built-in.\n"
1827                        "Using acpi=off or acpi=noirq or pci=noacpi "
1828                        "may have problem\n");
1829                 return 1;
1830         }
1831 #endif
1832         return 0;
1833 }
1834
1835 #ifdef CONFIG_X86_IO_APIC
1836 static int __init parse_acpi_skip_timer_override(char *arg)
1837 {
1838         acpi_skip_timer_override = 1;
1839         return 0;
1840 }
1841 early_param("acpi_skip_timer_override", parse_acpi_skip_timer_override);
1842
1843 static int __init parse_acpi_use_timer_override(char *arg)
1844 {
1845         acpi_use_timer_override = 1;
1846         return 0;
1847 }
1848 early_param("acpi_use_timer_override", parse_acpi_use_timer_override);
1849 #endif /* CONFIG_X86_IO_APIC */
1850
1851 static int __init setup_acpi_sci(char *s)
1852 {
1853         if (!s)
1854                 return -EINVAL;
1855         if (!strcmp(s, "edge"))
1856                 acpi_sci_flags =  ACPI_MADT_TRIGGER_EDGE |
1857                         (acpi_sci_flags & ~ACPI_MADT_TRIGGER_MASK);
1858         else if (!strcmp(s, "level"))
1859                 acpi_sci_flags = ACPI_MADT_TRIGGER_LEVEL |
1860                         (acpi_sci_flags & ~ACPI_MADT_TRIGGER_MASK);
1861         else if (!strcmp(s, "high"))
1862                 acpi_sci_flags = ACPI_MADT_POLARITY_ACTIVE_HIGH |
1863                         (acpi_sci_flags & ~ACPI_MADT_POLARITY_MASK);
1864         else if (!strcmp(s, "low"))
1865                 acpi_sci_flags = ACPI_MADT_POLARITY_ACTIVE_LOW |
1866                         (acpi_sci_flags & ~ACPI_MADT_POLARITY_MASK);
1867         else
1868                 return -EINVAL;
1869         return 0;
1870 }
1871 early_param("acpi_sci", setup_acpi_sci);
1872
1873 int __acpi_acquire_global_lock(unsigned int *lock)
1874 {
1875         unsigned int old, new, val;
1876         do {
1877                 old = *lock;
1878                 new = (((old & ~0x3) + 2) + ((old >> 1) & 0x1));
1879                 val = cmpxchg(lock, old, new);
1880         } while (unlikely (val != old));
1881         return (new < 3) ? -1 : 0;
1882 }
1883
1884 int __acpi_release_global_lock(unsigned int *lock)
1885 {
1886         unsigned int old, new, val;
1887         do {
1888                 old = *lock;
1889                 new = old & ~0x3;
1890                 val = cmpxchg(lock, old, new);
1891         } while (unlikely (val != old));
1892         return old & 0x1;
1893 }