arch/x86/kernel/pci-nommu.c

   1 /* Fallback functions when the main IOMMU code is not compiled in. This
   2    code is roughly equivalent to i386. */
   3 #include <linux/mm.h>
   4 #include <linux/init.h>
   5 #include <linux/pci.h>
   6 #include <linux/string.h>
   7 #include <linux/dma-mapping.h>
   8 #include <linux/scatterlist.h>
   9
  10 #include <asm/iommu.h>
  11 #include <asm/processor.h>
  12 #include <asm/dma.h>
  13
  14 static int
  15 check_addr(char *name, struct device *hwdev, dma_addr_t bus, size_t size)
  16 {
  17         if (hwdev && !is_buffer_dma_capable(*hwdev->dma_mask, bus, size)) {
  18                 if (*hwdev->dma_mask >= DMA_32BIT_MASK)
  19                         printk(KERN_ERR
  20                             "nommu_%s: overflow %Lx+%zu of device mask %Lx\n",
  21                                 name, (long long)bus, size,
  22                                 (long long)*hwdev->dma_mask);
  23                 return 0;
  24         }
  25         return 1;
  26 }
  27
  28 static dma_addr_t nommu_map_page(struct device *dev, struct page *page,
  29                                  unsigned long offset, size_t size,
  30                                  enum dma_data_direction dir,
  31                                  struct dma_attrs *attrs)
  32 {
  33         dma_addr_t bus = page_to_phys(page) + offset;
  34         WARN_ON(size == 0);
  35         if (!check_addr("map_single", dev, bus, size))
  36                 return bad_dma_address;
  37         flush_write_buffers();
  38         return bus;
  39 }
  40
  41 static dma_addr_t nommu_map_single(struct device *hwdev, phys_addr_t paddr,
  42                                    size_t size, int direction)
  43 {
  44         return nommu_map_page(hwdev, pfn_to_page(paddr >> PAGE_SHIFT),
  45                               paddr & ~PAGE_MASK, size, direction, NULL);
  46 }
  47
  48 /* Map a set of buffers described by scatterlist in streaming
  49  * mode for DMA.  This is the scatter-gather version of the
  50  * above pci_map_single interface.  Here the scatter gather list
  51  * elements are each tagged with the appropriate dma address
  52  * and length.  They are obtained via sg_dma_{address,length}(SG).
  53  *
  54  * NOTE: An implementation may be able to use a smaller number of
  55  *       DMA address/length pairs than there are SG table elements.
  56  *       (for example via virtual mapping capabilities)
  57  *       The routine returns the number of addr/length pairs actually
  58  *       used, at most nents.
  59  *
  60  * Device ownership issues as mentioned above for pci_map_single are
  61  * the same here.
  62  */
  63 static int nommu_map_sg(struct device *hwdev, struct scatterlist *sg,
  64                int nents, int direction)
  65 {
  66         struct scatterlist *s;
  67         int i;
  68
  69         WARN_ON(nents == 0 || sg[0].length == 0);
  70
  71         for_each_sg(sg, s, nents, i) {
  72                 BUG_ON(!sg_page(s));
  73                 s->dma_address = sg_phys(s);
  74                 if (!check_addr("map_sg", hwdev, s->dma_address, s->length))
  75                         return 0;
  76                 s->dma_length = s->length;
  77         }
  78         flush_write_buffers();
  79         return nents;
  80 }
  81
  82 static void nommu_free_coherent(struct device *dev, size_t size, void *vaddr,
  83                                 dma_addr_t dma_addr)
  84 {
  85         free_pages((unsigned long)vaddr, get_order(size));
  86 }
  87
  88 struct dma_mapping_ops nommu_dma_ops = {
  89         .alloc_coherent = dma_generic_alloc_coherent,
  90         .free_coherent = nommu_free_coherent,
  91         .map_single = nommu_map_single,
  92         .map_sg = nommu_map_sg,
  93         .map_page = nommu_map_page,
  94         .is_phys = 1,
  95 };
  96
  97 void __init no_iommu_init(void)
  98 {
  99         if (dma_ops)
 100                 return;
 101
 102         force_iommu = 0; /* no HW IOMMU */
 103         dma_ops = &nommu_dma_ops;
 104 }