drm_scatter.c revision 1.1.1.1.8.2 1 1.1.1.1.8.2 yamt /**
2 1.1.1.1.8.2 yamt * \file drm_scatter.c
3 1.1.1.1.8.2 yamt * IOCTLs to manage scatter/gather memory
4 1.1.1.1.8.2 yamt *
5 1.1.1.1.8.2 yamt * \author Gareth Hughes <gareth (at) valinux.com>
6 1.1.1.1.8.2 yamt */
7 1.1.1.1.8.2 yamt
8 1.1.1.1.8.2 yamt /*
9 1.1.1.1.8.2 yamt * Created: Mon Dec 18 23:20:54 2000 by gareth (at) valinux.com
10 1.1.1.1.8.2 yamt *
11 1.1.1.1.8.2 yamt * Copyright 2000 VA Linux Systems, Inc., Sunnyvale, California.
12 1.1.1.1.8.2 yamt * All Rights Reserved.
13 1.1.1.1.8.2 yamt *
14 1.1.1.1.8.2 yamt * Permission is hereby granted, free of charge, to any person obtaining a
15 1.1.1.1.8.2 yamt * copy of this software and associated documentation files (the "Software"),
16 1.1.1.1.8.2 yamt * to deal in the Software without restriction, including without limitation
17 1.1.1.1.8.2 yamt * the rights to use, copy, modify, merge, publish, distribute, sublicense,
18 1.1.1.1.8.2 yamt * and/or sell copies of the Software, and to permit persons to whom the
19 1.1.1.1.8.2 yamt * Software is furnished to do so, subject to the following conditions:
20 1.1.1.1.8.2 yamt *
21 1.1.1.1.8.2 yamt * The above copyright notice and this permission notice (including the next
22 1.1.1.1.8.2 yamt * paragraph) shall be included in all copies or substantial portions of the
23 1.1.1.1.8.2 yamt * Software.
24 1.1.1.1.8.2 yamt *
25 1.1.1.1.8.2 yamt * THE SOFTWARE IS PROVIDED "AS IS", WITHOUT WARRANTY OF ANY KIND, EXPRESS OR
26 1.1.1.1.8.2 yamt * IMPLIED, INCLUDING BUT NOT LIMITED TO THE WARRANTIES OF MERCHANTABILITY,
27 1.1.1.1.8.2 yamt * FITNESS FOR A PARTICULAR PURPOSE AND NONINFRINGEMENT. IN NO EVENT SHALL
28 1.1.1.1.8.2 yamt * PRECISION INSIGHT AND/OR ITS SUPPLIERS BE LIABLE FOR ANY CLAIM, DAMAGES OR
29 1.1.1.1.8.2 yamt * OTHER LIABILITY, WHETHER IN AN ACTION OF CONTRACT, TORT OR OTHERWISE,
30 1.1.1.1.8.2 yamt * ARISING FROM, OUT OF OR IN CONNECTION WITH THE SOFTWARE OR THE USE OR OTHER
31 1.1.1.1.8.2 yamt * DEALINGS IN THE SOFTWARE.
32 1.1.1.1.8.2 yamt */
33 1.1.1.1.8.2 yamt
34 1.1.1.1.8.2 yamt #include <linux/vmalloc.h>
35 1.1.1.1.8.2 yamt #include <linux/slab.h>
36 1.1.1.1.8.2 yamt #include <drm/drmP.h>
37 1.1.1.1.8.2 yamt
38 1.1.1.1.8.2 yamt #define DEBUG_SCATTER 0
39 1.1.1.1.8.2 yamt
40 1.1.1.1.8.2 yamt static inline void *drm_vmalloc_dma(unsigned long size)
41 1.1.1.1.8.2 yamt {
42 1.1.1.1.8.2 yamt #if defined(__powerpc__) && defined(CONFIG_NOT_COHERENT_CACHE)
43 1.1.1.1.8.2 yamt return __vmalloc(size, GFP_KERNEL, PAGE_KERNEL | _PAGE_NO_CACHE);
44 1.1.1.1.8.2 yamt #else
45 1.1.1.1.8.2 yamt return vmalloc_32(size);
46 1.1.1.1.8.2 yamt #endif
47 1.1.1.1.8.2 yamt }
48 1.1.1.1.8.2 yamt
49 1.1.1.1.8.2 yamt void drm_sg_cleanup(struct drm_sg_mem * entry)
50 1.1.1.1.8.2 yamt {
51 1.1.1.1.8.2 yamt struct page *page;
52 1.1.1.1.8.2 yamt int i;
53 1.1.1.1.8.2 yamt
54 1.1.1.1.8.2 yamt for (i = 0; i < entry->pages; i++) {
55 1.1.1.1.8.2 yamt page = entry->pagelist[i];
56 1.1.1.1.8.2 yamt if (page)
57 1.1.1.1.8.2 yamt ClearPageReserved(page);
58 1.1.1.1.8.2 yamt }
59 1.1.1.1.8.2 yamt
60 1.1.1.1.8.2 yamt vfree(entry->virtual);
61 1.1.1.1.8.2 yamt
62 1.1.1.1.8.2 yamt kfree(entry->busaddr);
63 1.1.1.1.8.2 yamt kfree(entry->pagelist);
64 1.1.1.1.8.2 yamt kfree(entry);
65 1.1.1.1.8.2 yamt }
66 1.1.1.1.8.2 yamt
67 1.1.1.1.8.2 yamt #ifdef _LP64
68 1.1.1.1.8.2 yamt # define ScatterHandle(x) (unsigned int)((x >> 32) + (x & ((1L << 32) - 1)))
69 1.1.1.1.8.2 yamt #else
70 1.1.1.1.8.2 yamt # define ScatterHandle(x) (unsigned int)(x)
71 1.1.1.1.8.2 yamt #endif
72 1.1.1.1.8.2 yamt
73 1.1.1.1.8.2 yamt int drm_sg_alloc(struct drm_device *dev, struct drm_scatter_gather * request)
74 1.1.1.1.8.2 yamt {
75 1.1.1.1.8.2 yamt struct drm_sg_mem *entry;
76 1.1.1.1.8.2 yamt unsigned long pages, i, j;
77 1.1.1.1.8.2 yamt
78 1.1.1.1.8.2 yamt DRM_DEBUG("\n");
79 1.1.1.1.8.2 yamt
80 1.1.1.1.8.2 yamt if (!drm_core_check_feature(dev, DRIVER_SG))
81 1.1.1.1.8.2 yamt return -EINVAL;
82 1.1.1.1.8.2 yamt
83 1.1.1.1.8.2 yamt if (dev->sg)
84 1.1.1.1.8.2 yamt return -EINVAL;
85 1.1.1.1.8.2 yamt
86 1.1.1.1.8.2 yamt entry = kzalloc(sizeof(*entry), GFP_KERNEL);
87 1.1.1.1.8.2 yamt if (!entry)
88 1.1.1.1.8.2 yamt return -ENOMEM;
89 1.1.1.1.8.2 yamt
90 1.1.1.1.8.2 yamt pages = (request->size + PAGE_SIZE - 1) / PAGE_SIZE;
91 1.1.1.1.8.2 yamt DRM_DEBUG("size=%ld pages=%ld\n", request->size, pages);
92 1.1.1.1.8.2 yamt
93 1.1.1.1.8.2 yamt entry->pages = pages;
94 1.1.1.1.8.2 yamt entry->pagelist = kcalloc(pages, sizeof(*entry->pagelist), GFP_KERNEL);
95 1.1.1.1.8.2 yamt if (!entry->pagelist) {
96 1.1.1.1.8.2 yamt kfree(entry);
97 1.1.1.1.8.2 yamt return -ENOMEM;
98 1.1.1.1.8.2 yamt }
99 1.1.1.1.8.2 yamt
100 1.1.1.1.8.2 yamt entry->busaddr = kcalloc(pages, sizeof(*entry->busaddr), GFP_KERNEL);
101 1.1.1.1.8.2 yamt if (!entry->busaddr) {
102 1.1.1.1.8.2 yamt kfree(entry->pagelist);
103 1.1.1.1.8.2 yamt kfree(entry);
104 1.1.1.1.8.2 yamt return -ENOMEM;
105 1.1.1.1.8.2 yamt }
106 1.1.1.1.8.2 yamt
107 1.1.1.1.8.2 yamt entry->virtual = drm_vmalloc_dma(pages << PAGE_SHIFT);
108 1.1.1.1.8.2 yamt if (!entry->virtual) {
109 1.1.1.1.8.2 yamt kfree(entry->busaddr);
110 1.1.1.1.8.2 yamt kfree(entry->pagelist);
111 1.1.1.1.8.2 yamt kfree(entry);
112 1.1.1.1.8.2 yamt return -ENOMEM;
113 1.1.1.1.8.2 yamt }
114 1.1.1.1.8.2 yamt
115 1.1.1.1.8.2 yamt /* This also forces the mapping of COW pages, so our page list
116 1.1.1.1.8.2 yamt * will be valid. Please don't remove it...
117 1.1.1.1.8.2 yamt */
118 1.1.1.1.8.2 yamt memset(entry->virtual, 0, pages << PAGE_SHIFT);
119 1.1.1.1.8.2 yamt
120 1.1.1.1.8.2 yamt entry->handle = ScatterHandle((unsigned long)entry->virtual);
121 1.1.1.1.8.2 yamt
122 1.1.1.1.8.2 yamt DRM_DEBUG("handle = %08lx\n", entry->handle);
123 1.1.1.1.8.2 yamt DRM_DEBUG("virtual = %p\n", entry->virtual);
124 1.1.1.1.8.2 yamt
125 1.1.1.1.8.2 yamt for (i = (unsigned long)entry->virtual, j = 0; j < pages;
126 1.1.1.1.8.2 yamt i += PAGE_SIZE, j++) {
127 1.1.1.1.8.2 yamt entry->pagelist[j] = vmalloc_to_page((void *)i);
128 1.1.1.1.8.2 yamt if (!entry->pagelist[j])
129 1.1.1.1.8.2 yamt goto failed;
130 1.1.1.1.8.2 yamt SetPageReserved(entry->pagelist[j]);
131 1.1.1.1.8.2 yamt }
132 1.1.1.1.8.2 yamt
133 1.1.1.1.8.2 yamt request->handle = entry->handle;
134 1.1.1.1.8.2 yamt
135 1.1.1.1.8.2 yamt dev->sg = entry;
136 1.1.1.1.8.2 yamt
137 1.1.1.1.8.2 yamt #if DEBUG_SCATTER
138 1.1.1.1.8.2 yamt /* Verify that each page points to its virtual address, and vice
139 1.1.1.1.8.2 yamt * versa.
140 1.1.1.1.8.2 yamt */
141 1.1.1.1.8.2 yamt {
142 1.1.1.1.8.2 yamt int error = 0;
143 1.1.1.1.8.2 yamt
144 1.1.1.1.8.2 yamt for (i = 0; i < pages; i++) {
145 1.1.1.1.8.2 yamt unsigned long *tmp;
146 1.1.1.1.8.2 yamt
147 1.1.1.1.8.2 yamt tmp = page_address(entry->pagelist[i]);
148 1.1.1.1.8.2 yamt for (j = 0;
149 1.1.1.1.8.2 yamt j < PAGE_SIZE / sizeof(unsigned long);
150 1.1.1.1.8.2 yamt j++, tmp++) {
151 1.1.1.1.8.2 yamt *tmp = 0xcafebabe;
152 1.1.1.1.8.2 yamt }
153 1.1.1.1.8.2 yamt tmp = (unsigned long *)((u8 *) entry->virtual +
154 1.1.1.1.8.2 yamt (PAGE_SIZE * i));
155 1.1.1.1.8.2 yamt for (j = 0;
156 1.1.1.1.8.2 yamt j < PAGE_SIZE / sizeof(unsigned long);
157 1.1.1.1.8.2 yamt j++, tmp++) {
158 1.1.1.1.8.2 yamt if (*tmp != 0xcafebabe && error == 0) {
159 1.1.1.1.8.2 yamt error = 1;
160 1.1.1.1.8.2 yamt DRM_ERROR("Scatter allocation error, "
161 1.1.1.1.8.2 yamt "pagelist does not match "
162 1.1.1.1.8.2 yamt "virtual mapping\n");
163 1.1.1.1.8.2 yamt }
164 1.1.1.1.8.2 yamt }
165 1.1.1.1.8.2 yamt tmp = page_address(entry->pagelist[i]);
166 1.1.1.1.8.2 yamt for (j = 0;
167 1.1.1.1.8.2 yamt j < PAGE_SIZE / sizeof(unsigned long);
168 1.1.1.1.8.2 yamt j++, tmp++) {
169 1.1.1.1.8.2 yamt *tmp = 0;
170 1.1.1.1.8.2 yamt }
171 1.1.1.1.8.2 yamt }
172 1.1.1.1.8.2 yamt if (error == 0)
173 1.1.1.1.8.2 yamt DRM_ERROR("Scatter allocation matches pagelist\n");
174 1.1.1.1.8.2 yamt }
175 1.1.1.1.8.2 yamt #endif
176 1.1.1.1.8.2 yamt
177 1.1.1.1.8.2 yamt return 0;
178 1.1.1.1.8.2 yamt
179 1.1.1.1.8.2 yamt failed:
180 1.1.1.1.8.2 yamt drm_sg_cleanup(entry);
181 1.1.1.1.8.2 yamt return -ENOMEM;
182 1.1.1.1.8.2 yamt }
183 1.1.1.1.8.2 yamt
184 1.1.1.1.8.2 yamt int drm_sg_alloc_ioctl(struct drm_device *dev, void *data,
185 1.1.1.1.8.2 yamt struct drm_file *file_priv)
186 1.1.1.1.8.2 yamt {
187 1.1.1.1.8.2 yamt struct drm_scatter_gather *request = data;
188 1.1.1.1.8.2 yamt
189 1.1.1.1.8.2 yamt return drm_sg_alloc(dev, request);
190 1.1.1.1.8.2 yamt
191 1.1.1.1.8.2 yamt }
192 1.1.1.1.8.2 yamt
193 1.1.1.1.8.2 yamt int drm_sg_free(struct drm_device *dev, void *data,
194 1.1.1.1.8.2 yamt struct drm_file *file_priv)
195 1.1.1.1.8.2 yamt {
196 1.1.1.1.8.2 yamt struct drm_scatter_gather *request = data;
197 1.1.1.1.8.2 yamt struct drm_sg_mem *entry;
198 1.1.1.1.8.2 yamt
199 1.1.1.1.8.2 yamt if (!drm_core_check_feature(dev, DRIVER_SG))
200 1.1.1.1.8.2 yamt return -EINVAL;
201 1.1.1.1.8.2 yamt
202 1.1.1.1.8.2 yamt entry = dev->sg;
203 1.1.1.1.8.2 yamt dev->sg = NULL;
204 1.1.1.1.8.2 yamt
205 1.1.1.1.8.2 yamt if (!entry || entry->handle != request->handle)
206 1.1.1.1.8.2 yamt return -EINVAL;
207 1.1.1.1.8.2 yamt
208 1.1.1.1.8.2 yamt DRM_DEBUG("virtual = %p\n", entry->virtual);
209 1.1.1.1.8.2 yamt
210 1.1.1.1.8.2 yamt drm_sg_cleanup(entry);
211 1.1.1.1.8.2 yamt
212 1.1.1.1.8.2 yamt return 0;
213 1.1.1.1.8.2 yamt }
214