arch/x86/kernel/pci-dma_32.c

   1 /*
   2  * Dynamic DMA mapping support.
   3  *
   4  * On i386 there is no hardware dynamic DMA address translation,
   5  * so consistent alloc/free are merely page allocation/freeing.
   6  * The rest of the dynamic DMA mapping interface is implemented
   7  * in asm/pci.h.
   8  */
   9
  10 #include <linux/types.h>
  11 #include <linux/mm.h>
  12 #include <linux/string.h>
  13 #include <linux/pci.h>
  14 #include <linux/module.h>
  15 #include <linux/pci.h>
  16 #include <asm/io.h>
  17
  18 struct dma_coherent_mem {
  19         void            *virt_base;
  20         u32             device_base;
  21         int             size;
  22         int             flags;
  23         unsigned long   *bitmap;
  24 };
  25
  26 void *dma_alloc_coherent(struct device *dev, size_t size,
  27                            dma_addr_t *dma_handle, gfp_t gfp)
  28 {
  29         void *ret;
  30         struct dma_coherent_mem *mem = dev ? dev->dma_mem : NULL;
  31         int order = get_order(size);
  32         /* ignore region specifiers */
  33         gfp &= ~(__GFP_DMA | __GFP_HIGHMEM);
  34
  35         if (mem) {
  36                 int page = bitmap_find_free_region(mem->bitmap, mem->size,
  37                                                      order);
  38                 if (page >= 0) {
  39                         *dma_handle = mem->device_base + (page << PAGE_SHIFT);
  40                         ret = mem->virt_base + (page << PAGE_SHIFT);
  41                         memset(ret, 0, size);
  42                         return ret;
  43                 }
  44                 if (mem->flags & DMA_MEMORY_EXCLUSIVE)
  45                         return NULL;
  46         }
  47
  48         if (dev == NULL || (dev->coherent_dma_mask < 0xffffffff))
  49                 gfp |= GFP_DMA;
  50
  51         ret = (void *)__get_free_pages(gfp, order);
  52
  53         if (ret != NULL) {
  54                 memset(ret, 0, size);
  55                 *dma_handle = virt_to_phys(ret);
  56         }
  57         return ret;
  58 }
  59 EXPORT_SYMBOL(dma_alloc_coherent);
  60
  61 void dma_free_coherent(struct device *dev, size_t size,
  62                          void *vaddr, dma_addr_t dma_handle)
  63 {
  64         struct dma_coherent_mem *mem = dev ? dev->dma_mem : NULL;
  65         int order = get_order(size);
  66
  67         WARN_ON(irqs_disabled());       /* for portability */
  68         if (mem && vaddr >= mem->virt_base && vaddr < (mem->virt_base + (mem->size << PAGE_SHIFT))) {
  69                 int page = (vaddr - mem->virt_base) >> PAGE_SHIFT;
  70
  71                 bitmap_release_region(mem->bitmap, page, order);
  72         } else
  73                 free_pages((unsigned long)vaddr, order);
  74 }
  75 EXPORT_SYMBOL(dma_free_coherent);
  76
  77 int dma_declare_coherent_memory(struct device *dev, dma_addr_t bus_addr,
  78                                 dma_addr_t device_addr, size_t size, int flags)
  79 {
  80         void __iomem *mem_base = NULL;
  81         int pages = size >> PAGE_SHIFT;
  82         int bitmap_size = BITS_TO_LONGS(pages) * sizeof(long);
  83
  84         if ((flags & (DMA_MEMORY_MAP | DMA_MEMORY_IO)) == 0)
  85                 goto out;
  86         if (!size)
  87                 goto out;
  88         if (dev->dma_mem)
  89                 goto out;
  90
  91         /* FIXME: this routine just ignores DMA_MEMORY_INCLUDES_CHILDREN */
  92
  93         mem_base = ioremap(bus_addr, size);
  94         if (!mem_base)
  95                 goto out;
  96
  97         dev->dma_mem = kzalloc(sizeof(struct dma_coherent_mem), GFP_KERNEL);
  98         if (!dev->dma_mem)
  99                 goto out;
 100         dev->dma_mem->bitmap = kzalloc(bitmap_size, GFP_KERNEL);
 101         if (!dev->dma_mem->bitmap)
 102                 goto free1_out;
 103
 104         dev->dma_mem->virt_base = mem_base;
 105         dev->dma_mem->device_base = device_addr;
 106         dev->dma_mem->size = pages;
 107         dev->dma_mem->flags = flags;
 108
 109         if (flags & DMA_MEMORY_MAP)
 110                 return DMA_MEMORY_MAP;
 111
 112         return DMA_MEMORY_IO;
 113
 114  free1_out:
 115         kfree(dev->dma_mem);
 116  out:
 117         if (mem_base)
 118                 iounmap(mem_base);
 119         return 0;
 120 }
 121 EXPORT_SYMBOL(dma_declare_coherent_memory);
 122
 123 void dma_release_declared_memory(struct device *dev)
 124 {
 125         struct dma_coherent_mem *mem = dev->dma_mem;
 126
 127         if(!mem)
 128                 return;
 129         dev->dma_mem = NULL;
 130         iounmap(mem->virt_base);
 131         kfree(mem->bitmap);
 132         kfree(mem);
 133 }
 134 EXPORT_SYMBOL(dma_release_declared_memory);
 135
 136 void *dma_mark_declared_memory_occupied(struct device *dev,
 137                                         dma_addr_t device_addr, size_t size)
 138 {
 139         struct dma_coherent_mem *mem = dev->dma_mem;
 140         int pages = (size + (device_addr & ~PAGE_MASK) + PAGE_SIZE - 1) >> PAGE_SHIFT;
 141         int pos, err;
 142
 143         if (!mem)
 144                 return ERR_PTR(-EINVAL);
 145
 146         pos = (device_addr - mem->device_base) >> PAGE_SHIFT;
 147         err = bitmap_allocate_region(mem->bitmap, pos, get_order(pages));
 148         if (err != 0)
 149                 return ERR_PTR(err);
 150         return mem->virt_base + (pos << PAGE_SHIFT);
 151 }
 152 EXPORT_SYMBOL(dma_mark_declared_memory_occupied);
 153
 154 #ifdef CONFIG_PCI
 155 /* Many VIA bridges seem to corrupt data for DAC. Disable it here */
 156
 157 int forbid_dac;
 158 EXPORT_SYMBOL(forbid_dac);
 159
 160 static __devinit void via_no_dac(struct pci_dev *dev)
 161 {
 162         if ((dev->class >> 8) == PCI_CLASS_BRIDGE_PCI && forbid_dac == 0) {
 163                 printk(KERN_INFO "PCI: VIA PCI bridge detected. Disabling DAC.\n");
 164                 forbid_dac = 1;
 165         }
 166 }
 167 DECLARE_PCI_FIXUP_FINAL(PCI_VENDOR_ID_VIA, PCI_ANY_ID, via_no_dac);
 168
 169 static int check_iommu(char *s)
 170 {
 171         if (!strcmp(s, "usedac")) {
 172                 forbid_dac = -1;
 173                 return 1;
 174         }
 175         return 0;
 176 }
 177 __setup("iommu=", check_iommu);
 178 #endif