subr_cprng.c revision 1.7.2.2 1 1.7.2.2 yamt /* $NetBSD: subr_cprng.c,v 1.7.2.2 2012/04/17 00:08:27 yamt Exp $ */
2 1.7.2.2 yamt
3 1.7.2.2 yamt /*-
4 1.7.2.2 yamt * Copyright (c) 2011 The NetBSD Foundation, Inc.
5 1.7.2.2 yamt * All rights reserved.
6 1.7.2.2 yamt *
7 1.7.2.2 yamt * This code is derived from software contributed to The NetBSD Foundation
8 1.7.2.2 yamt * by Thor Lancelot Simon.
9 1.7.2.2 yamt *
10 1.7.2.2 yamt * Redistribution and use in source and binary forms, with or without
11 1.7.2.2 yamt * modification, are permitted provided that the following conditions
12 1.7.2.2 yamt * are met:
13 1.7.2.2 yamt * 1. Redistributions of source code must retain the above copyright
14 1.7.2.2 yamt * notice, this list of conditions and the following disclaimer.
15 1.7.2.2 yamt * 2. Redistributions in binary form must reproduce the above copyright
16 1.7.2.2 yamt * notice, this list of conditions and the following disclaimer in the
17 1.7.2.2 yamt * documentation and/or other materials provided with the distribution.
18 1.7.2.2 yamt *
19 1.7.2.2 yamt * THIS SOFTWARE IS PROVIDED BY THE NETBSD FOUNDATION, INC. AND CONTRIBUTORS
20 1.7.2.2 yamt * ``AS IS'' AND ANY EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED
21 1.7.2.2 yamt * TO, THE IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR
22 1.7.2.2 yamt * PURPOSE ARE DISCLAIMED. IN NO EVENT SHALL THE FOUNDATION OR CONTRIBUTORS
23 1.7.2.2 yamt * BE LIABLE FOR ANY DIRECT, INDIRECT, INCIDENTAL, SPECIAL, EXEMPLARY, OR
24 1.7.2.2 yamt * CONSEQUENTIAL DAMAGES (INCLUDING, BUT NOT LIMITED TO, PROCUREMENT OF
25 1.7.2.2 yamt * SUBSTITUTE GOODS OR SERVICES; LOSS OF USE, DATA, OR PROFITS; OR BUSINESS
26 1.7.2.2 yamt * INTERRUPTION) HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER IN
27 1.7.2.2 yamt * CONTRACT, STRICT LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE)
28 1.7.2.2 yamt * ARISING IN ANY WAY OUT OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED OF THE
29 1.7.2.2 yamt * POSSIBILITY OF SUCH DAMAGE.
30 1.7.2.2 yamt */
31 1.7.2.2 yamt
32 1.7.2.2 yamt #include <sys/types.h>
33 1.7.2.2 yamt #include <sys/time.h>
34 1.7.2.2 yamt #include <sys/param.h>
35 1.7.2.2 yamt #include <sys/kernel.h>
36 1.7.2.2 yamt #include <sys/systm.h>
37 1.7.2.2 yamt #include <sys/kmem.h>
38 1.7.2.2 yamt #include <sys/mutex.h>
39 1.7.2.2 yamt #include <sys/rngtest.h>
40 1.7.2.2 yamt #include <sys/rnd.h>
41 1.7.2.2 yamt #include <dev/rnd_private.h>
42 1.7.2.2 yamt
43 1.7.2.2 yamt #if defined(__HAVE_CPU_COUNTER)
44 1.7.2.2 yamt #include <machine/cpu_counter.h>
45 1.7.2.2 yamt #endif
46 1.7.2.2 yamt
47 1.7.2.2 yamt #include <sys/cprng.h>
48 1.7.2.2 yamt
49 1.7.2.2 yamt __KERNEL_RCSID(0, "$NetBSD: subr_cprng.c,v 1.7.2.2 2012/04/17 00:08:27 yamt Exp $");
50 1.7.2.2 yamt
51 1.7.2.2 yamt void
52 1.7.2.2 yamt cprng_init(void)
53 1.7.2.2 yamt {
54 1.7.2.2 yamt nist_ctr_initialize();
55 1.7.2.2 yamt }
56 1.7.2.2 yamt
57 1.7.2.2 yamt static inline uint32_t
58 1.7.2.2 yamt cprng_counter(void)
59 1.7.2.2 yamt {
60 1.7.2.2 yamt struct timeval tv;
61 1.7.2.2 yamt
62 1.7.2.2 yamt #if defined(__HAVE_CPU_COUNTER)
63 1.7.2.2 yamt if (cpu_hascounter())
64 1.7.2.2 yamt return cpu_counter32();
65 1.7.2.2 yamt #endif
66 1.7.2.2 yamt if (__predict_false(cold)) {
67 1.7.2.2 yamt /* microtime unsafe if clock not running yet */
68 1.7.2.2 yamt return 0;
69 1.7.2.2 yamt }
70 1.7.2.2 yamt microtime(&tv);
71 1.7.2.2 yamt return (tv.tv_sec * 1000000 + tv.tv_usec);
72 1.7.2.2 yamt }
73 1.7.2.2 yamt
74 1.7.2.2 yamt static void
75 1.7.2.2 yamt cprng_strong_sched_reseed(cprng_strong_t *const c)
76 1.7.2.2 yamt {
77 1.7.2.2 yamt KASSERT(mutex_owned(&c->mtx));
78 1.7.2.2 yamt if (!(c->reseed_pending) && mutex_tryenter(&c->reseed.mtx)) {
79 1.7.2.2 yamt c->reseed_pending = 1;
80 1.7.2.2 yamt c->reseed.len = NIST_BLOCK_KEYLEN_BYTES;
81 1.7.2.2 yamt rndsink_attach(&c->reseed);
82 1.7.2.2 yamt mutex_spin_exit(&c->reseed.mtx);
83 1.7.2.2 yamt }
84 1.7.2.2 yamt }
85 1.7.2.2 yamt
86 1.7.2.2 yamt static void
87 1.7.2.2 yamt cprng_strong_reseed(void *const arg)
88 1.7.2.2 yamt {
89 1.7.2.2 yamt cprng_strong_t *c = arg;
90 1.7.2.2 yamt uint8_t key[NIST_BLOCK_KEYLEN_BYTES];
91 1.7.2.2 yamt uint32_t cc = cprng_counter();
92 1.7.2.2 yamt
93 1.7.2.2 yamt if (!mutex_tryenter(&c->mtx)) {
94 1.7.2.2 yamt return;
95 1.7.2.2 yamt }
96 1.7.2.2 yamt
97 1.7.2.2 yamt if (c->reseed.len != sizeof(key)) {
98 1.7.2.2 yamt panic("cprng_strong_reseed: bad entropy length %d "
99 1.7.2.2 yamt " (expected %d)", (int)c->reseed.len, (int)sizeof(key));
100 1.7.2.2 yamt }
101 1.7.2.2 yamt if (nist_ctr_drbg_reseed(&c->drbg, c->reseed.data, c->reseed.len,
102 1.7.2.2 yamt &cc, sizeof(cc))) {
103 1.7.2.2 yamt panic("cprng %s: nist_ctr_drbg_reseed failed.", c->name);
104 1.7.2.2 yamt }
105 1.7.2.2 yamt c->reseed_pending = 0;
106 1.7.2.2 yamt if (c->flags & CPRNG_USE_CV) {
107 1.7.2.2 yamt cv_broadcast(&c->cv);
108 1.7.2.2 yamt }
109 1.7.2.2 yamt selnotify(&c->selq, 0, 0);
110 1.7.2.2 yamt mutex_exit(&c->mtx);
111 1.7.2.2 yamt }
112 1.7.2.2 yamt
113 1.7.2.2 yamt cprng_strong_t *
114 1.7.2.2 yamt cprng_strong_create(const char *const name, int ipl, int flags)
115 1.7.2.2 yamt {
116 1.7.2.2 yamt cprng_strong_t *c;
117 1.7.2.2 yamt uint8_t key[NIST_BLOCK_KEYLEN_BYTES];
118 1.7.2.2 yamt int r, getmore = 0, hard = 0;
119 1.7.2.2 yamt uint32_t cc;
120 1.7.2.2 yamt
121 1.7.2.2 yamt c = kmem_alloc(sizeof(*c), KM_NOSLEEP);
122 1.7.2.2 yamt if (c == NULL) {
123 1.7.2.2 yamt return NULL;
124 1.7.2.2 yamt }
125 1.7.2.2 yamt c->flags = flags;
126 1.7.2.2 yamt strlcpy(c->name, name, sizeof(c->name));
127 1.7.2.2 yamt c->reseed_pending = 0;
128 1.7.2.2 yamt c->reseed.cb = cprng_strong_reseed;
129 1.7.2.2 yamt c->reseed.arg = c;
130 1.7.2.2 yamt mutex_init(&c->reseed.mtx, MUTEX_DEFAULT, IPL_VM);
131 1.7.2.2 yamt strlcpy(c->reseed.name, name, sizeof(c->reseed.name));
132 1.7.2.2 yamt
133 1.7.2.2 yamt mutex_init(&c->mtx, MUTEX_DEFAULT, ipl);
134 1.7.2.2 yamt
135 1.7.2.2 yamt if (c->flags & CPRNG_USE_CV) {
136 1.7.2.2 yamt cv_init(&c->cv, name);
137 1.7.2.2 yamt }
138 1.7.2.2 yamt
139 1.7.2.2 yamt selinit(&c->selq);
140 1.7.2.2 yamt
141 1.7.2.2 yamt r = rnd_extract_data(key, sizeof(key), RND_EXTRACT_GOOD);
142 1.7.2.2 yamt if (r != sizeof(key)) {
143 1.7.2.2 yamt if (c->flags & CPRNG_INIT_ANY) {
144 1.7.2.2 yamt #ifdef DEBUG
145 1.7.2.2 yamt printf("cprng %s: WARNING insufficient "
146 1.7.2.2 yamt "entropy at creation.\n", name);
147 1.7.2.2 yamt #endif
148 1.7.2.2 yamt rnd_extract_data(key + r, sizeof(key - r),
149 1.7.2.2 yamt RND_EXTRACT_ANY);
150 1.7.2.2 yamt } else {
151 1.7.2.2 yamt hard++;
152 1.7.2.2 yamt }
153 1.7.2.2 yamt getmore++;
154 1.7.2.2 yamt }
155 1.7.2.2 yamt
156 1.7.2.2 yamt if (nist_ctr_drbg_instantiate(&c->drbg, key, sizeof(key),
157 1.7.2.2 yamt &cc, sizeof(cc), name, strlen(name))) {
158 1.7.2.2 yamt panic("cprng %s: instantiation failed.", name);
159 1.7.2.2 yamt }
160 1.7.2.2 yamt
161 1.7.2.2 yamt if (getmore) {
162 1.7.2.2 yamt /* Cause readers to wait for rekeying. */
163 1.7.2.2 yamt if (hard) {
164 1.7.2.2 yamt c->drbg.reseed_counter =
165 1.7.2.2 yamt NIST_CTR_DRBG_RESEED_INTERVAL + 1;
166 1.7.2.2 yamt } else {
167 1.7.2.2 yamt c->drbg.reseed_counter =
168 1.7.2.2 yamt (NIST_CTR_DRBG_RESEED_INTERVAL / 2) + 1;
169 1.7.2.2 yamt }
170 1.7.2.2 yamt }
171 1.7.2.2 yamt return c;
172 1.7.2.2 yamt }
173 1.7.2.2 yamt
174 1.7.2.2 yamt size_t
175 1.7.2.2 yamt cprng_strong(cprng_strong_t *const c, void *const p, size_t len, int flags)
176 1.7.2.2 yamt {
177 1.7.2.2 yamt uint32_t cc = cprng_counter();
178 1.7.2.2 yamt #ifdef DEBUG
179 1.7.2.2 yamt int testfail = 0;
180 1.7.2.2 yamt #endif
181 1.7.2.2 yamt if (len > CPRNG_MAX_LEN) { /* XXX should we loop? */
182 1.7.2.2 yamt len = CPRNG_MAX_LEN; /* let the caller loop if desired */
183 1.7.2.2 yamt }
184 1.7.2.2 yamt mutex_enter(&c->mtx);
185 1.7.2.2 yamt
186 1.7.2.2 yamt if (nist_ctr_drbg_generate(&c->drbg, p, len, &cc, sizeof(cc))) {
187 1.7.2.2 yamt /* A generator failure really means we hit the hard limit. */
188 1.7.2.2 yamt if (c->flags & CPRNG_REKEY_ANY) {
189 1.7.2.2 yamt uint8_t key[NIST_BLOCK_KEYLEN_BYTES];
190 1.7.2.2 yamt
191 1.7.2.2 yamt printf("cprng %s: WARNING pseudorandom rekeying.\n",
192 1.7.2.2 yamt c->name);
193 1.7.2.2 yamt rnd_extract_data(key, sizeof(key), RND_EXTRACT_ANY);
194 1.7.2.2 yamt cc = cprng_counter();
195 1.7.2.2 yamt if (nist_ctr_drbg_reseed(&c->drbg, key, sizeof(key),
196 1.7.2.2 yamt &cc, sizeof(cc))) {
197 1.7.2.2 yamt panic("cprng %s: nist_ctr_drbg_reseed "
198 1.7.2.2 yamt "failed.", c->name);
199 1.7.2.2 yamt }
200 1.7.2.2 yamt } else {
201 1.7.2.2 yamt if (!(flags & FNONBLOCK) &&
202 1.7.2.2 yamt (c->flags & CPRNG_USE_CV)) {
203 1.7.2.2 yamt int wr;
204 1.7.2.2 yamt
205 1.7.2.2 yamt cprng_strong_sched_reseed(c);
206 1.7.2.2 yamt do {
207 1.7.2.2 yamt wr = cv_wait_sig(&c->cv, &c->mtx);
208 1.7.2.2 yamt if (wr == ERESTART) {
209 1.7.2.2 yamt mutex_exit(&c->mtx);
210 1.7.2.2 yamt return 0;
211 1.7.2.2 yamt }
212 1.7.2.2 yamt } while (nist_ctr_drbg_generate(&c->drbg, p,
213 1.7.2.2 yamt len, &cc,
214 1.7.2.2 yamt sizeof(cc)));
215 1.7.2.2 yamt } else {
216 1.7.2.2 yamt len = 0;
217 1.7.2.2 yamt }
218 1.7.2.2 yamt }
219 1.7.2.2 yamt }
220 1.7.2.2 yamt
221 1.7.2.2 yamt #ifdef DEBUG
222 1.7.2.2 yamt /*
223 1.7.2.2 yamt * If the generator has just been keyed, perform
224 1.7.2.2 yamt * the statistical RNG test.
225 1.7.2.2 yamt */
226 1.7.2.2 yamt if (__predict_false(c->drbg.reseed_counter == 1)) {
227 1.7.2.2 yamt rngtest_t *rt = kmem_alloc(sizeof(*rt), KM_NOSLEEP);
228 1.7.2.2 yamt
229 1.7.2.2 yamt if (rt) {
230 1.7.2.2 yamt
231 1.7.2.2 yamt strncpy(rt->rt_name, c->name, sizeof(rt->rt_name));
232 1.7.2.2 yamt
233 1.7.2.2 yamt if (nist_ctr_drbg_generate(&c->drbg, rt->rt_b,
234 1.7.2.2 yamt sizeof(rt->rt_b), NULL, 0)) {
235 1.7.2.2 yamt panic("cprng %s: nist_ctr_drbg_generate "
236 1.7.2.2 yamt "failed!", c->name);
237 1.7.2.2 yamt
238 1.7.2.2 yamt }
239 1.7.2.2 yamt testfail = rngtest(rt);
240 1.7.2.2 yamt
241 1.7.2.2 yamt if (testfail) {
242 1.7.2.2 yamt printf("cprng %s: failed statistical RNG "
243 1.7.2.2 yamt "test.\n", c->name);
244 1.7.2.2 yamt c->drbg.reseed_counter =
245 1.7.2.2 yamt NIST_CTR_DRBG_RESEED_INTERVAL + 1;
246 1.7.2.2 yamt len = 0;
247 1.7.2.2 yamt }
248 1.7.2.2 yamt memset(rt, 0, sizeof(*rt));
249 1.7.2.2 yamt kmem_free(rt, sizeof(*rt));
250 1.7.2.2 yamt }
251 1.7.2.2 yamt }
252 1.7.2.2 yamt #endif
253 1.7.2.2 yamt if (__predict_false(c->drbg.reseed_counter >
254 1.7.2.2 yamt (NIST_CTR_DRBG_RESEED_INTERVAL / 2))) {
255 1.7.2.2 yamt cprng_strong_sched_reseed(c);
256 1.7.2.2 yamt }
257 1.7.2.2 yamt
258 1.7.2.2 yamt if (rnd_full) {
259 1.7.2.2 yamt if (!c->rekeyed_on_full) {
260 1.7.2.2 yamt c->rekeyed_on_full++;
261 1.7.2.2 yamt cprng_strong_sched_reseed(c);
262 1.7.2.2 yamt }
263 1.7.2.2 yamt } else {
264 1.7.2.2 yamt c->rekeyed_on_full = 0;
265 1.7.2.2 yamt }
266 1.7.2.2 yamt
267 1.7.2.2 yamt mutex_exit(&c->mtx);
268 1.7.2.2 yamt return len;
269 1.7.2.2 yamt }
270 1.7.2.2 yamt
271 1.7.2.2 yamt void
272 1.7.2.2 yamt cprng_strong_destroy(cprng_strong_t *c)
273 1.7.2.2 yamt {
274 1.7.2.2 yamt mutex_enter(&c->mtx);
275 1.7.2.2 yamt mutex_spin_enter(&c->reseed.mtx);
276 1.7.2.2 yamt
277 1.7.2.2 yamt if (c->flags & CPRNG_USE_CV) {
278 1.7.2.2 yamt KASSERT(!cv_has_waiters(&c->cv));
279 1.7.2.2 yamt cv_destroy(&c->cv);
280 1.7.2.2 yamt }
281 1.7.2.2 yamt seldestroy(&c->selq);
282 1.7.2.2 yamt
283 1.7.2.2 yamt if (c->reseed_pending) {
284 1.7.2.2 yamt rndsink_detach(&c->reseed);
285 1.7.2.2 yamt }
286 1.7.2.2 yamt mutex_spin_exit(&c->reseed.mtx);
287 1.7.2.2 yamt mutex_destroy(&c->reseed.mtx);
288 1.7.2.2 yamt
289 1.7.2.2 yamt nist_ctr_drbg_destroy(&c->drbg);
290 1.7.2.2 yamt
291 1.7.2.2 yamt mutex_exit(&c->mtx);
292 1.7.2.2 yamt mutex_destroy(&c->mtx);
293 1.7.2.2 yamt
294 1.7.2.2 yamt memset(c, 0, sizeof(*c));
295 1.7.2.2 yamt kmem_free(c, sizeof(*c));
296 1.7.2.2 yamt }
297 1.7.2.2 yamt
298 1.7.2.2 yamt int
299 1.7.2.2 yamt cprng_strong_getflags(cprng_strong_t *const c)
300 1.7.2.2 yamt {
301 1.7.2.2 yamt KASSERT(mutex_owned(&c->mtx));
302 1.7.2.2 yamt return c->flags;
303 1.7.2.2 yamt }
304 1.7.2.2 yamt
305 1.7.2.2 yamt void
306 1.7.2.2 yamt cprng_strong_setflags(cprng_strong_t *const c, int flags)
307 1.7.2.2 yamt {
308 1.7.2.2 yamt KASSERT(mutex_owned(&c->mtx));
309 1.7.2.2 yamt if (flags & CPRNG_USE_CV) {
310 1.7.2.2 yamt if (!(c->flags & CPRNG_USE_CV)) {
311 1.7.2.2 yamt cv_init(&c->cv, (const char *)c->name);
312 1.7.2.2 yamt }
313 1.7.2.2 yamt } else {
314 1.7.2.2 yamt if (c->flags & CPRNG_USE_CV) {
315 1.7.2.2 yamt KASSERT(!cv_has_waiters(&c->cv));
316 1.7.2.2 yamt cv_destroy(&c->cv);
317 1.7.2.2 yamt }
318 1.7.2.2 yamt }
319 1.7.2.2 yamt if (flags & CPRNG_REKEY_ANY) {
320 1.7.2.2 yamt if (!(c->flags & CPRNG_REKEY_ANY)) {
321 1.7.2.2 yamt if (c->flags & CPRNG_USE_CV) {
322 1.7.2.2 yamt cv_broadcast(&c->cv);
323 1.7.2.2 yamt }
324 1.7.2.2 yamt selnotify(&c->selq, 0, 0);
325 1.7.2.2 yamt }
326 1.7.2.2 yamt }
327 1.7.2.2 yamt c->flags = flags;
328 1.7.2.2 yamt }
329