lfs_rfw.c revision 1.3.10.4 1 1.3.10.4 yamt /* $NetBSD: lfs_rfw.c,v 1.3.10.4 2008/01/21 09:48:12 yamt Exp $ */
2 1.3.10.2 yamt
3 1.3.10.2 yamt /*-
4 1.3.10.2 yamt * Copyright (c) 1999, 2000, 2001, 2002, 2003 The NetBSD Foundation, Inc.
5 1.3.10.2 yamt * All rights reserved.
6 1.3.10.2 yamt *
7 1.3.10.2 yamt * This code is derived from software contributed to The NetBSD Foundation
8 1.3.10.2 yamt * by Konrad E. Schroder <perseant (at) hhhh.org>.
9 1.3.10.2 yamt *
10 1.3.10.2 yamt * Redistribution and use in source and binary forms, with or without
11 1.3.10.2 yamt * modification, are permitted provided that the following conditions
12 1.3.10.2 yamt * are met:
13 1.3.10.2 yamt * 1. Redistributions of source code must retain the above copyright
14 1.3.10.2 yamt * notice, this list of conditions and the following disclaimer.
15 1.3.10.2 yamt * 2. Redistributions in binary form must reproduce the above copyright
16 1.3.10.2 yamt * notice, this list of conditions and the following disclaimer in the
17 1.3.10.2 yamt * documentation and/or other materials provided with the distribution.
18 1.3.10.2 yamt * 3. All advertising materials mentioning features or use of this software
19 1.3.10.2 yamt * must display the following acknowledgement:
20 1.3.10.2 yamt * This product includes software developed by the NetBSD
21 1.3.10.2 yamt * Foundation, Inc. and its contributors.
22 1.3.10.2 yamt * 4. Neither the name of The NetBSD Foundation nor the names of its
23 1.3.10.2 yamt * contributors may be used to endorse or promote products derived
24 1.3.10.2 yamt * from this software without specific prior written permission.
25 1.3.10.2 yamt *
26 1.3.10.2 yamt * THIS SOFTWARE IS PROVIDED BY THE NETBSD FOUNDATION, INC. AND CONTRIBUTORS
27 1.3.10.2 yamt * ``AS IS'' AND ANY EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED
28 1.3.10.2 yamt * TO, THE IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR
29 1.3.10.2 yamt * PURPOSE ARE DISCLAIMED. IN NO EVENT SHALL THE FOUNDATION OR CONTRIBUTORS
30 1.3.10.2 yamt * BE LIABLE FOR ANY DIRECT, INDIRECT, INCIDENTAL, SPECIAL, EXEMPLARY, OR
31 1.3.10.2 yamt * CONSEQUENTIAL DAMAGES (INCLUDING, BUT NOT LIMITED TO, PROCUREMENT OF
32 1.3.10.2 yamt * SUBSTITUTE GOODS OR SERVICES; LOSS OF USE, DATA, OR PROFITS; OR BUSINESS
33 1.3.10.2 yamt * INTERRUPTION) HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER IN
34 1.3.10.2 yamt * CONTRACT, STRICT LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE)
35 1.3.10.2 yamt * ARISING IN ANY WAY OUT OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED OF THE
36 1.3.10.2 yamt * POSSIBILITY OF SUCH DAMAGE.
37 1.3.10.2 yamt */
38 1.3.10.2 yamt
39 1.3.10.2 yamt #include <sys/cdefs.h>
40 1.3.10.4 yamt __KERNEL_RCSID(0, "$NetBSD: lfs_rfw.c,v 1.3.10.4 2008/01/21 09:48:12 yamt Exp $");
41 1.3.10.2 yamt
42 1.3.10.2 yamt #if defined(_KERNEL_OPT)
43 1.3.10.2 yamt #include "opt_quota.h"
44 1.3.10.2 yamt #endif
45 1.3.10.2 yamt
46 1.3.10.2 yamt #include <sys/param.h>
47 1.3.10.2 yamt #include <sys/systm.h>
48 1.3.10.2 yamt #include <sys/namei.h>
49 1.3.10.2 yamt #include <sys/proc.h>
50 1.3.10.2 yamt #include <sys/kernel.h>
51 1.3.10.2 yamt #include <sys/vnode.h>
52 1.3.10.2 yamt #include <sys/mount.h>
53 1.3.10.2 yamt #include <sys/kthread.h>
54 1.3.10.2 yamt #include <sys/buf.h>
55 1.3.10.2 yamt #include <sys/device.h>
56 1.3.10.2 yamt #include <sys/mbuf.h>
57 1.3.10.2 yamt #include <sys/file.h>
58 1.3.10.2 yamt #include <sys/disklabel.h>
59 1.3.10.2 yamt #include <sys/ioctl.h>
60 1.3.10.2 yamt #include <sys/errno.h>
61 1.3.10.2 yamt #include <sys/malloc.h>
62 1.3.10.2 yamt #include <sys/pool.h>
63 1.3.10.2 yamt #include <sys/socket.h>
64 1.3.10.2 yamt #include <sys/syslog.h>
65 1.3.10.2 yamt #include <uvm/uvm_extern.h>
66 1.3.10.2 yamt #include <sys/sysctl.h>
67 1.3.10.2 yamt #include <sys/conf.h>
68 1.3.10.2 yamt #include <sys/kauth.h>
69 1.3.10.2 yamt
70 1.3.10.2 yamt #include <miscfs/specfs/specdev.h>
71 1.3.10.2 yamt
72 1.3.10.2 yamt #include <ufs/ufs/quota.h>
73 1.3.10.2 yamt #include <ufs/ufs/inode.h>
74 1.3.10.2 yamt #include <ufs/ufs/ufsmount.h>
75 1.3.10.2 yamt #include <ufs/ufs/ufs_extern.h>
76 1.3.10.2 yamt
77 1.3.10.2 yamt #include <uvm/uvm.h>
78 1.3.10.2 yamt #include <uvm/uvm_stat.h>
79 1.3.10.2 yamt #include <uvm/uvm_pager.h>
80 1.3.10.2 yamt #include <uvm/uvm_pdaemon.h>
81 1.3.10.2 yamt
82 1.3.10.2 yamt #include <ufs/lfs/lfs.h>
83 1.3.10.2 yamt #include <ufs/lfs/lfs_extern.h>
84 1.3.10.2 yamt
85 1.3.10.2 yamt #include <miscfs/genfs/genfs.h>
86 1.3.10.2 yamt #include <miscfs/genfs/genfs_node.h>
87 1.3.10.2 yamt
88 1.3.10.2 yamt /*
89 1.3.10.2 yamt * Roll-forward code.
90 1.3.10.2 yamt */
91 1.3.10.2 yamt static daddr_t check_segsum(struct lfs *, daddr_t, u_int64_t,
92 1.3.10.2 yamt kauth_cred_t, int, int *, struct lwp *);
93 1.3.10.2 yamt
94 1.3.10.2 yamt extern int lfs_do_rfw;
95 1.3.10.2 yamt
96 1.3.10.2 yamt /*
97 1.3.10.2 yamt * Allocate a particular inode with a particular version number, freeing
98 1.3.10.2 yamt * any previous versions of this inode that may have gone before.
99 1.3.10.2 yamt * Used by the roll-forward code.
100 1.3.10.2 yamt *
101 1.3.10.2 yamt * XXX this function does not have appropriate locking to be used on a live fs;
102 1.3.10.2 yamt * XXX but something similar could probably be used for an "undelete" call.
103 1.3.10.2 yamt *
104 1.3.10.2 yamt * Called with the Ifile inode locked.
105 1.3.10.2 yamt */
106 1.3.10.2 yamt int
107 1.3.10.2 yamt lfs_rf_valloc(struct lfs *fs, ino_t ino, int vers, struct lwp *l,
108 1.3.10.2 yamt struct vnode **vpp)
109 1.3.10.2 yamt {
110 1.3.10.2 yamt IFILE *ifp;
111 1.3.10.2 yamt struct buf *bp, *cbp;
112 1.3.10.2 yamt struct vnode *vp;
113 1.3.10.2 yamt struct inode *ip;
114 1.3.10.2 yamt ino_t tino, oldnext;
115 1.3.10.2 yamt int error;
116 1.3.10.2 yamt CLEANERINFO *cip;
117 1.3.10.2 yamt
118 1.3.10.2 yamt ASSERT_SEGLOCK(fs); /* XXX it doesn't, really */
119 1.3.10.2 yamt
120 1.3.10.2 yamt /*
121 1.3.10.2 yamt * First, just try a vget. If the version number is the one we want,
122 1.3.10.2 yamt * we don't have to do anything else. If the version number is wrong,
123 1.3.10.2 yamt * take appropriate action.
124 1.3.10.2 yamt */
125 1.3.10.2 yamt error = VFS_VGET(fs->lfs_ivnode->v_mount, ino, &vp);
126 1.3.10.2 yamt if (error == 0) {
127 1.3.10.2 yamt DLOG((DLOG_RF, "lfs_rf_valloc[1]: ino %d vp %p\n", ino, vp));
128 1.3.10.2 yamt
129 1.3.10.2 yamt *vpp = vp;
130 1.3.10.2 yamt ip = VTOI(vp);
131 1.3.10.2 yamt if (ip->i_gen == vers)
132 1.3.10.2 yamt return 0;
133 1.3.10.2 yamt else if (ip->i_gen < vers) {
134 1.3.10.4 yamt lfs_truncate(vp, (off_t)0, 0, NOCRED);
135 1.3.10.2 yamt ip->i_gen = ip->i_ffs1_gen = vers;
136 1.3.10.2 yamt LFS_SET_UINO(ip, IN_CHANGE | IN_UPDATE);
137 1.3.10.2 yamt return 0;
138 1.3.10.2 yamt } else {
139 1.3.10.2 yamt DLOG((DLOG_RF, "ino %d: sought version %d, got %d\n",
140 1.3.10.2 yamt ino, vers, ip->i_ffs1_gen));
141 1.3.10.2 yamt vput(vp);
142 1.3.10.2 yamt *vpp = NULLVP;
143 1.3.10.2 yamt return EEXIST;
144 1.3.10.2 yamt }
145 1.3.10.2 yamt }
146 1.3.10.2 yamt
147 1.3.10.2 yamt /*
148 1.3.10.2 yamt * The inode is not in use. Find it on the free list.
149 1.3.10.2 yamt */
150 1.3.10.2 yamt /* If the Ifile is too short to contain this inum, extend it */
151 1.3.10.2 yamt while (VTOI(fs->lfs_ivnode)->i_size <= (ino /
152 1.3.10.2 yamt fs->lfs_ifpb + fs->lfs_cleansz + fs->lfs_segtabsz)
153 1.3.10.2 yamt << fs->lfs_bshift) {
154 1.3.10.2 yamt lfs_extend_ifile(fs, NOCRED);
155 1.3.10.2 yamt }
156 1.3.10.2 yamt
157 1.3.10.2 yamt LFS_IENTRY(ifp, fs, ino, bp);
158 1.3.10.2 yamt oldnext = ifp->if_nextfree;
159 1.3.10.2 yamt ifp->if_version = vers;
160 1.3.10.3 yamt brelse(bp, 0);
161 1.3.10.2 yamt
162 1.3.10.2 yamt LFS_GET_HEADFREE(fs, cip, cbp, &ino);
163 1.3.10.2 yamt if (ino) {
164 1.3.10.2 yamt LFS_PUT_HEADFREE(fs, cip, cbp, oldnext);
165 1.3.10.2 yamt } else {
166 1.3.10.2 yamt tino = ino;
167 1.3.10.2 yamt while (1) {
168 1.3.10.2 yamt LFS_IENTRY(ifp, fs, tino, bp);
169 1.3.10.2 yamt if (ifp->if_nextfree == ino ||
170 1.3.10.2 yamt ifp->if_nextfree == LFS_UNUSED_INUM)
171 1.3.10.2 yamt break;
172 1.3.10.2 yamt tino = ifp->if_nextfree;
173 1.3.10.3 yamt brelse(bp, 0);
174 1.3.10.2 yamt }
175 1.3.10.2 yamt if (ifp->if_nextfree == LFS_UNUSED_INUM) {
176 1.3.10.3 yamt brelse(bp, 0);
177 1.3.10.2 yamt return ENOENT;
178 1.3.10.2 yamt }
179 1.3.10.2 yamt ifp->if_nextfree = oldnext;
180 1.3.10.2 yamt LFS_BWRITE_LOG(bp);
181 1.3.10.2 yamt }
182 1.3.10.2 yamt
183 1.3.10.2 yamt error = lfs_ialloc(fs, fs->lfs_ivnode, ino, vers, &vp);
184 1.3.10.2 yamt if (error == 0) {
185 1.3.10.2 yamt /*
186 1.3.10.2 yamt * Make it VREG so we can put blocks on it. We will change
187 1.3.10.2 yamt * this later if it turns out to be some other kind of file.
188 1.3.10.2 yamt */
189 1.3.10.2 yamt ip = VTOI(vp);
190 1.3.10.2 yamt ip->i_mode = ip->i_ffs1_mode = IFREG;
191 1.3.10.2 yamt ip->i_nlink = ip->i_ffs1_nlink = 1;
192 1.3.10.2 yamt ip->i_ffs_effnlink = 1;
193 1.3.10.2 yamt ufs_vinit(vp->v_mount, lfs_specop_p, lfs_fifoop_p, &vp);
194 1.3.10.2 yamt ip = VTOI(vp);
195 1.3.10.2 yamt
196 1.3.10.2 yamt DLOG((DLOG_RF, "lfs_rf_valloc: ino %d vp %p\n", ino, vp));
197 1.3.10.2 yamt
198 1.3.10.2 yamt /* The dirop-nature of this vnode is past */
199 1.3.10.2 yamt lfs_unmark_vnode(vp);
200 1.3.10.2 yamt (void)lfs_vunref(vp);
201 1.3.10.3 yamt vp->v_uflag &= ~VU_DIROP;
202 1.3.10.4 yamt mutex_enter(&lfs_lock);
203 1.3.10.2 yamt --lfs_dirvcount;
204 1.3.10.2 yamt --fs->lfs_dirvcount;
205 1.3.10.2 yamt TAILQ_REMOVE(&fs->lfs_dchainhd, ip, i_lfs_dchain);
206 1.3.10.2 yamt wakeup(&lfs_dirvcount);
207 1.3.10.2 yamt wakeup(&fs->lfs_dirvcount);
208 1.3.10.4 yamt mutex_exit(&lfs_lock);
209 1.3.10.2 yamt }
210 1.3.10.2 yamt *vpp = vp;
211 1.3.10.2 yamt return error;
212 1.3.10.2 yamt }
213 1.3.10.2 yamt
214 1.3.10.2 yamt /*
215 1.3.10.2 yamt * Load the appropriate indirect block, and change the appropriate pointer.
216 1.3.10.2 yamt * Mark the block dirty. Do segment and avail accounting.
217 1.3.10.2 yamt */
218 1.3.10.2 yamt static int
219 1.3.10.2 yamt update_meta(struct lfs *fs, ino_t ino, int vers, daddr_t lbn,
220 1.3.10.2 yamt daddr_t ndaddr, size_t size, struct lwp *l)
221 1.3.10.2 yamt {
222 1.3.10.2 yamt int error;
223 1.3.10.2 yamt struct vnode *vp;
224 1.3.10.2 yamt struct inode *ip;
225 1.3.10.2 yamt #ifdef DEBUG
226 1.3.10.2 yamt daddr_t odaddr;
227 1.3.10.2 yamt struct indir a[NIADDR];
228 1.3.10.2 yamt int num;
229 1.3.10.2 yamt int i;
230 1.3.10.2 yamt #endif /* DEBUG */
231 1.3.10.2 yamt struct buf *bp;
232 1.3.10.2 yamt SEGUSE *sup;
233 1.3.10.2 yamt
234 1.3.10.2 yamt KASSERT(lbn >= 0); /* no indirect blocks */
235 1.3.10.2 yamt
236 1.3.10.2 yamt if ((error = lfs_rf_valloc(fs, ino, vers, l, &vp)) != 0) {
237 1.3.10.2 yamt DLOG((DLOG_RF, "update_meta: ino %d: lfs_rf_valloc"
238 1.3.10.2 yamt " returned %d\n", ino, error));
239 1.3.10.2 yamt return error;
240 1.3.10.2 yamt }
241 1.3.10.2 yamt
242 1.3.10.2 yamt if ((error = lfs_balloc(vp, (lbn << fs->lfs_bshift), size,
243 1.3.10.2 yamt NOCRED, 0, &bp)) != 0) {
244 1.3.10.2 yamt vput(vp);
245 1.3.10.2 yamt return (error);
246 1.3.10.2 yamt }
247 1.3.10.2 yamt /* No need to write, the block is already on disk */
248 1.3.10.4 yamt if (bp->b_oflags & BO_DELWRI) {
249 1.3.10.2 yamt LFS_UNLOCK_BUF(bp);
250 1.3.10.2 yamt fs->lfs_avail += btofsb(fs, bp->b_bcount);
251 1.3.10.2 yamt }
252 1.3.10.3 yamt brelse(bp, BC_INVAL);
253 1.3.10.2 yamt
254 1.3.10.2 yamt /*
255 1.3.10.2 yamt * Extend the file, if it is not large enough already.
256 1.3.10.2 yamt * XXX this is not exactly right, we don't know how much of the
257 1.3.10.2 yamt * XXX last block is actually used. We hope that an inode will
258 1.3.10.2 yamt * XXX appear later to give the correct size.
259 1.3.10.2 yamt */
260 1.3.10.2 yamt ip = VTOI(vp);
261 1.3.10.2 yamt if (ip->i_size <= (lbn << fs->lfs_bshift)) {
262 1.3.10.2 yamt u_int64_t newsize;
263 1.3.10.2 yamt
264 1.3.10.2 yamt if (lbn < NDADDR)
265 1.3.10.2 yamt newsize = ip->i_ffs1_size = (lbn << fs->lfs_bshift) +
266 1.3.10.2 yamt (size - fs->lfs_fsize) + 1;
267 1.3.10.2 yamt else
268 1.3.10.2 yamt newsize = ip->i_ffs1_size = (lbn << fs->lfs_bshift) + 1;
269 1.3.10.2 yamt
270 1.3.10.2 yamt if (ip->i_size < newsize) {
271 1.3.10.2 yamt ip->i_size = newsize;
272 1.3.10.2 yamt /*
273 1.3.10.2 yamt * tell vm our new size for the case the inode won't
274 1.3.10.2 yamt * appear later.
275 1.3.10.2 yamt */
276 1.3.10.2 yamt uvm_vnp_setsize(vp, newsize);
277 1.3.10.2 yamt }
278 1.3.10.2 yamt }
279 1.3.10.2 yamt
280 1.3.10.2 yamt lfs_update_single(fs, NULL, vp, lbn, ndaddr, size);
281 1.3.10.2 yamt
282 1.3.10.2 yamt LFS_SEGENTRY(sup, fs, dtosn(fs, ndaddr), bp);
283 1.3.10.2 yamt sup->su_nbytes += size;
284 1.3.10.2 yamt LFS_WRITESEGENTRY(sup, fs, dtosn(fs, ndaddr), bp);
285 1.3.10.2 yamt
286 1.3.10.2 yamt /* differences here should be due to UNWRITTEN indirect blocks. */
287 1.3.10.2 yamt KASSERT((lblkno(fs, ip->i_size) > NDADDR &&
288 1.3.10.2 yamt ip->i_lfs_effnblks == ip->i_ffs1_blocks) ||
289 1.3.10.2 yamt ip->i_lfs_effnblks >= ip->i_ffs1_blocks);
290 1.3.10.2 yamt
291 1.3.10.2 yamt #ifdef DEBUG
292 1.3.10.2 yamt /* Now look again to make sure it worked */
293 1.3.10.2 yamt ufs_bmaparray(vp, lbn, &odaddr, &a[0], &num, NULL, NULL);
294 1.3.10.2 yamt for (i = num; i > 0; i--) {
295 1.3.10.2 yamt if (!a[i].in_exists)
296 1.3.10.2 yamt panic("update_meta: absent %d lv indirect block", i);
297 1.3.10.2 yamt }
298 1.3.10.2 yamt if (dbtofsb(fs, odaddr) != ndaddr)
299 1.3.10.2 yamt DLOG((DLOG_RF, "update_meta: failed setting ino %d lbn %"
300 1.3.10.2 yamt PRId64 " to %" PRId64 "\n", ino, lbn, ndaddr));
301 1.3.10.2 yamt #endif /* DEBUG */
302 1.3.10.2 yamt vput(vp);
303 1.3.10.2 yamt return 0;
304 1.3.10.2 yamt }
305 1.3.10.2 yamt
306 1.3.10.2 yamt static int
307 1.3.10.2 yamt update_inoblk(struct lfs *fs, daddr_t offset, kauth_cred_t cred,
308 1.3.10.2 yamt struct lwp *l)
309 1.3.10.2 yamt {
310 1.3.10.2 yamt struct vnode *devvp, *vp;
311 1.3.10.2 yamt struct inode *ip;
312 1.3.10.2 yamt struct ufs1_dinode *dip;
313 1.3.10.2 yamt struct buf *dbp, *ibp;
314 1.3.10.2 yamt int error;
315 1.3.10.2 yamt daddr_t daddr;
316 1.3.10.2 yamt IFILE *ifp;
317 1.3.10.2 yamt SEGUSE *sup;
318 1.3.10.2 yamt
319 1.3.10.2 yamt devvp = VTOI(fs->lfs_ivnode)->i_devvp;
320 1.3.10.2 yamt
321 1.3.10.2 yamt /*
322 1.3.10.2 yamt * Get the inode, update times and perms.
323 1.3.10.2 yamt * DO NOT update disk blocks, we do that separately.
324 1.3.10.2 yamt */
325 1.3.10.2 yamt error = bread(devvp, fsbtodb(fs, offset), fs->lfs_ibsize, cred, &dbp);
326 1.3.10.2 yamt if (error) {
327 1.3.10.2 yamt DLOG((DLOG_RF, "update_inoblk: bread returned %d\n", error));
328 1.3.10.2 yamt return error;
329 1.3.10.2 yamt }
330 1.3.10.2 yamt dip = ((struct ufs1_dinode *)(dbp->b_data)) + INOPB(fs);
331 1.3.10.2 yamt while (--dip >= (struct ufs1_dinode *)dbp->b_data) {
332 1.3.10.2 yamt if (dip->di_inumber > LFS_IFILE_INUM) {
333 1.3.10.2 yamt error = lfs_rf_valloc(fs, dip->di_inumber, dip->di_gen,
334 1.3.10.2 yamt l, &vp);
335 1.3.10.2 yamt if (error) {
336 1.3.10.2 yamt DLOG((DLOG_RF, "update_inoblk: lfs_rf_valloc"
337 1.3.10.2 yamt " returned %d\n", error));
338 1.3.10.2 yamt continue;
339 1.3.10.2 yamt }
340 1.3.10.2 yamt ip = VTOI(vp);
341 1.3.10.2 yamt if (dip->di_size != ip->i_size)
342 1.3.10.4 yamt lfs_truncate(vp, dip->di_size, 0, NOCRED);
343 1.3.10.2 yamt /* Get mode, link count, size, and times */
344 1.3.10.2 yamt memcpy(ip->i_din.ffs1_din, dip,
345 1.3.10.2 yamt offsetof(struct ufs1_dinode, di_db[0]));
346 1.3.10.2 yamt
347 1.3.10.2 yamt /* Then the rest, except di_blocks */
348 1.3.10.2 yamt ip->i_flags = ip->i_ffs1_flags = dip->di_flags;
349 1.3.10.2 yamt ip->i_gen = ip->i_ffs1_gen = dip->di_gen;
350 1.3.10.2 yamt ip->i_uid = ip->i_ffs1_uid = dip->di_uid;
351 1.3.10.2 yamt ip->i_gid = ip->i_ffs1_gid = dip->di_gid;
352 1.3.10.2 yamt
353 1.3.10.2 yamt ip->i_mode = ip->i_ffs1_mode;
354 1.3.10.2 yamt ip->i_nlink = ip->i_ffs_effnlink = ip->i_ffs1_nlink;
355 1.3.10.2 yamt ip->i_size = ip->i_ffs1_size;
356 1.3.10.2 yamt
357 1.3.10.2 yamt LFS_SET_UINO(ip, IN_CHANGE | IN_UPDATE);
358 1.3.10.2 yamt
359 1.3.10.2 yamt /* Re-initialize to get type right */
360 1.3.10.2 yamt ufs_vinit(vp->v_mount, lfs_specop_p, lfs_fifoop_p,
361 1.3.10.2 yamt &vp);
362 1.3.10.2 yamt vput(vp);
363 1.3.10.2 yamt
364 1.3.10.2 yamt /* Record change in location */
365 1.3.10.2 yamt LFS_IENTRY(ifp, fs, dip->di_inumber, ibp);
366 1.3.10.2 yamt daddr = ifp->if_daddr;
367 1.3.10.2 yamt ifp->if_daddr = dbtofsb(fs, dbp->b_blkno);
368 1.3.10.2 yamt error = LFS_BWRITE_LOG(ibp); /* Ifile */
369 1.3.10.2 yamt /* And do segment accounting */
370 1.3.10.2 yamt if (dtosn(fs, daddr) != dtosn(fs, dbtofsb(fs, dbp->b_blkno))) {
371 1.3.10.2 yamt if (daddr > 0) {
372 1.3.10.2 yamt LFS_SEGENTRY(sup, fs, dtosn(fs, daddr),
373 1.3.10.2 yamt ibp);
374 1.3.10.2 yamt sup->su_nbytes -= sizeof (struct ufs1_dinode);
375 1.3.10.2 yamt LFS_WRITESEGENTRY(sup, fs,
376 1.3.10.2 yamt dtosn(fs, daddr),
377 1.3.10.2 yamt ibp);
378 1.3.10.2 yamt }
379 1.3.10.2 yamt LFS_SEGENTRY(sup, fs, dtosn(fs, dbtofsb(fs, dbp->b_blkno)),
380 1.3.10.2 yamt ibp);
381 1.3.10.2 yamt sup->su_nbytes += sizeof (struct ufs1_dinode);
382 1.3.10.2 yamt LFS_WRITESEGENTRY(sup, fs,
383 1.3.10.2 yamt dtosn(fs, dbtofsb(fs, dbp->b_blkno)),
384 1.3.10.2 yamt ibp);
385 1.3.10.2 yamt }
386 1.3.10.2 yamt }
387 1.3.10.2 yamt }
388 1.3.10.3 yamt brelse(dbp, BC_AGE);
389 1.3.10.2 yamt
390 1.3.10.2 yamt return 0;
391 1.3.10.2 yamt }
392 1.3.10.2 yamt
393 1.3.10.2 yamt #define CHECK_CKSUM 0x0001 /* Check the checksum to make sure it's valid */
394 1.3.10.2 yamt #define CHECK_UPDATE 0x0002 /* Update Ifile for new data blocks / inodes */
395 1.3.10.2 yamt
396 1.3.10.2 yamt static daddr_t
397 1.3.10.2 yamt check_segsum(struct lfs *fs, daddr_t offset, u_int64_t nextserial,
398 1.3.10.2 yamt kauth_cred_t cred, int flags, int *pseg_flags, struct lwp *l)
399 1.3.10.2 yamt {
400 1.3.10.2 yamt struct vnode *devvp;
401 1.3.10.2 yamt struct buf *bp, *dbp;
402 1.3.10.2 yamt int error, nblocks = 0, ninos, i, j; /* XXX: gcc */
403 1.3.10.2 yamt SEGSUM *ssp;
404 1.3.10.2 yamt u_long *dp = NULL, *datap = NULL; /* XXX u_int32_t */
405 1.3.10.2 yamt daddr_t oldoffset;
406 1.3.10.2 yamt int32_t *iaddr; /* XXX ondisk32 */
407 1.3.10.2 yamt FINFO *fip;
408 1.3.10.2 yamt SEGUSE *sup;
409 1.3.10.2 yamt size_t size;
410 1.3.10.2 yamt
411 1.3.10.2 yamt devvp = VTOI(fs->lfs_ivnode)->i_devvp;
412 1.3.10.2 yamt /*
413 1.3.10.2 yamt * If the segment has a superblock and we're at the top
414 1.3.10.2 yamt * of the segment, skip the superblock.
415 1.3.10.2 yamt */
416 1.3.10.2 yamt if (sntod(fs, dtosn(fs, offset)) == offset) {
417 1.3.10.2 yamt LFS_SEGENTRY(sup, fs, dtosn(fs, offset), bp);
418 1.3.10.2 yamt if (sup->su_flags & SEGUSE_SUPERBLOCK)
419 1.3.10.2 yamt offset += btofsb(fs, LFS_SBPAD);
420 1.3.10.3 yamt brelse(bp, 0);
421 1.3.10.2 yamt }
422 1.3.10.2 yamt
423 1.3.10.2 yamt /* Read in the segment summary */
424 1.3.10.2 yamt error = bread(devvp, fsbtodb(fs, offset), fs->lfs_sumsize, cred, &bp);
425 1.3.10.2 yamt if (error)
426 1.3.10.2 yamt return -1;
427 1.3.10.2 yamt
428 1.3.10.2 yamt /* Check summary checksum */
429 1.3.10.2 yamt ssp = (SEGSUM *)bp->b_data;
430 1.3.10.2 yamt if (flags & CHECK_CKSUM) {
431 1.3.10.2 yamt if (ssp->ss_sumsum != cksum(&ssp->ss_datasum,
432 1.3.10.2 yamt fs->lfs_sumsize -
433 1.3.10.2 yamt sizeof(ssp->ss_sumsum))) {
434 1.3.10.2 yamt DLOG((DLOG_RF, "Sumsum error at 0x%" PRIx64 "\n", offset));
435 1.3.10.2 yamt offset = -1;
436 1.3.10.2 yamt goto err1;
437 1.3.10.2 yamt }
438 1.3.10.2 yamt if (ssp->ss_nfinfo == 0 && ssp->ss_ninos == 0) {
439 1.3.10.2 yamt DLOG((DLOG_RF, "Empty pseg at 0x%" PRIx64 "\n", offset));
440 1.3.10.2 yamt offset = -1;
441 1.3.10.2 yamt goto err1;
442 1.3.10.2 yamt }
443 1.3.10.2 yamt if (ssp->ss_create < fs->lfs_tstamp) {
444 1.3.10.2 yamt DLOG((DLOG_RF, "Old data at 0x%" PRIx64 "\n", offset));
445 1.3.10.2 yamt offset = -1;
446 1.3.10.2 yamt goto err1;
447 1.3.10.2 yamt }
448 1.3.10.2 yamt }
449 1.3.10.2 yamt if (fs->lfs_version > 1) {
450 1.3.10.2 yamt if (ssp->ss_serial != nextserial) {
451 1.3.10.2 yamt DLOG((DLOG_RF, "Unexpected serial number at 0x%" PRIx64
452 1.3.10.2 yamt "\n", offset));
453 1.3.10.2 yamt offset = -1;
454 1.3.10.2 yamt goto err1;
455 1.3.10.2 yamt }
456 1.3.10.2 yamt if (ssp->ss_ident != fs->lfs_ident) {
457 1.3.10.2 yamt DLOG((DLOG_RF, "Incorrect fsid (0x%x vs 0x%x) at 0x%"
458 1.3.10.2 yamt PRIx64 "\n", ssp->ss_ident, fs->lfs_ident, offset));
459 1.3.10.2 yamt offset = -1;
460 1.3.10.2 yamt goto err1;
461 1.3.10.2 yamt }
462 1.3.10.2 yamt }
463 1.3.10.2 yamt if (pseg_flags)
464 1.3.10.2 yamt *pseg_flags = ssp->ss_flags;
465 1.3.10.2 yamt oldoffset = offset;
466 1.3.10.2 yamt offset += btofsb(fs, fs->lfs_sumsize);
467 1.3.10.2 yamt
468 1.3.10.2 yamt ninos = howmany(ssp->ss_ninos, INOPB(fs));
469 1.3.10.2 yamt /* XXX ondisk32 */
470 1.3.10.4 yamt iaddr = (int32_t *)((char*)bp->b_data + fs->lfs_sumsize - sizeof(int32_t));
471 1.3.10.2 yamt if (flags & CHECK_CKSUM) {
472 1.3.10.2 yamt /* Count blocks */
473 1.3.10.2 yamt nblocks = 0;
474 1.3.10.4 yamt fip = (FINFO *)((char*)bp->b_data + SEGSUM_SIZE(fs));
475 1.3.10.2 yamt for (i = 0; i < ssp->ss_nfinfo; ++i) {
476 1.3.10.2 yamt nblocks += fip->fi_nblocks;
477 1.3.10.2 yamt if (fip->fi_nblocks <= 0)
478 1.3.10.2 yamt break;
479 1.3.10.2 yamt /* XXX ondisk32 */
480 1.3.10.2 yamt fip = (FINFO *)(((char *)fip) + FINFOSIZE +
481 1.3.10.2 yamt (fip->fi_nblocks * sizeof(int32_t)));
482 1.3.10.2 yamt }
483 1.3.10.2 yamt nblocks += ninos;
484 1.3.10.2 yamt /* Create the sum array */
485 1.3.10.2 yamt datap = dp = (u_long *)malloc(nblocks * sizeof(u_long),
486 1.3.10.2 yamt M_SEGMENT, M_WAITOK);
487 1.3.10.2 yamt }
488 1.3.10.2 yamt
489 1.3.10.2 yamt /* Handle individual blocks */
490 1.3.10.4 yamt fip = (FINFO *)((char*)bp->b_data + SEGSUM_SIZE(fs));
491 1.3.10.2 yamt for (i = 0; i < ssp->ss_nfinfo || ninos; ++i) {
492 1.3.10.2 yamt /* Inode block? */
493 1.3.10.2 yamt if (ninos && *iaddr == offset) {
494 1.3.10.2 yamt if (flags & CHECK_CKSUM) {
495 1.3.10.2 yamt /* Read in the head and add to the buffer */
496 1.3.10.2 yamt error = bread(devvp, fsbtodb(fs, offset), fs->lfs_bsize,
497 1.3.10.2 yamt cred, &dbp);
498 1.3.10.2 yamt if (error) {
499 1.3.10.2 yamt offset = -1;
500 1.3.10.2 yamt goto err2;
501 1.3.10.2 yamt }
502 1.3.10.2 yamt (*dp++) = ((u_long *)(dbp->b_data))[0];
503 1.3.10.3 yamt brelse(dbp, BC_AGE);
504 1.3.10.2 yamt }
505 1.3.10.2 yamt if (flags & CHECK_UPDATE) {
506 1.3.10.2 yamt if ((error = update_inoblk(fs, offset, cred, l))
507 1.3.10.2 yamt != 0) {
508 1.3.10.2 yamt offset = -1;
509 1.3.10.2 yamt goto err2;
510 1.3.10.2 yamt }
511 1.3.10.2 yamt }
512 1.3.10.2 yamt offset += btofsb(fs, fs->lfs_ibsize);
513 1.3.10.2 yamt --iaddr;
514 1.3.10.2 yamt --ninos;
515 1.3.10.2 yamt --i; /* compensate */
516 1.3.10.2 yamt continue;
517 1.3.10.2 yamt }
518 1.3.10.2 yamt size = fs->lfs_bsize;
519 1.3.10.2 yamt for (j = 0; j < fip->fi_nblocks; ++j) {
520 1.3.10.2 yamt if (j == fip->fi_nblocks - 1)
521 1.3.10.2 yamt size = fip->fi_lastlength;
522 1.3.10.2 yamt if (flags & CHECK_CKSUM) {
523 1.3.10.2 yamt error = bread(devvp, fsbtodb(fs, offset), size, cred, &dbp);
524 1.3.10.2 yamt if (error) {
525 1.3.10.2 yamt offset = -1;
526 1.3.10.2 yamt goto err2;
527 1.3.10.2 yamt }
528 1.3.10.2 yamt (*dp++) = ((u_long *)(dbp->b_data))[0];
529 1.3.10.3 yamt brelse(dbp, BC_AGE);
530 1.3.10.2 yamt }
531 1.3.10.2 yamt /* Account for and update any direct blocks */
532 1.3.10.2 yamt if ((flags & CHECK_UPDATE) &&
533 1.3.10.2 yamt fip->fi_ino > LFS_IFILE_INUM &&
534 1.3.10.2 yamt fip->fi_blocks[j] >= 0) {
535 1.3.10.2 yamt update_meta(fs, fip->fi_ino, fip->fi_version,
536 1.3.10.2 yamt fip->fi_blocks[j], offset, size, l);
537 1.3.10.2 yamt }
538 1.3.10.2 yamt offset += btofsb(fs, size);
539 1.3.10.2 yamt }
540 1.3.10.2 yamt /* XXX ondisk32 */
541 1.3.10.2 yamt fip = (FINFO *)(((char *)fip) + FINFOSIZE
542 1.3.10.2 yamt + fip->fi_nblocks * sizeof(int32_t));
543 1.3.10.2 yamt }
544 1.3.10.2 yamt /* Checksum the array, compare */
545 1.3.10.2 yamt if ((flags & CHECK_CKSUM) &&
546 1.3.10.2 yamt ssp->ss_datasum != cksum(datap, nblocks * sizeof(u_long)))
547 1.3.10.2 yamt {
548 1.3.10.2 yamt DLOG((DLOG_RF, "Datasum error at 0x%" PRIx64
549 1.3.10.2 yamt " (wanted %x got %x)\n",
550 1.3.10.2 yamt offset, ssp->ss_datasum, cksum(datap, nblocks *
551 1.3.10.2 yamt sizeof(u_long))));
552 1.3.10.2 yamt offset = -1;
553 1.3.10.2 yamt goto err2;
554 1.3.10.2 yamt }
555 1.3.10.2 yamt
556 1.3.10.2 yamt /* If we're at the end of the segment, move to the next */
557 1.3.10.2 yamt if (dtosn(fs, offset + btofsb(fs, fs->lfs_sumsize + fs->lfs_bsize)) !=
558 1.3.10.2 yamt dtosn(fs, offset)) {
559 1.3.10.2 yamt if (dtosn(fs, offset) == dtosn(fs, ssp->ss_next)) {
560 1.3.10.2 yamt offset = -1;
561 1.3.10.2 yamt goto err2;
562 1.3.10.2 yamt }
563 1.3.10.2 yamt offset = ssp->ss_next;
564 1.3.10.2 yamt DLOG((DLOG_RF, "LFS roll forward: moving to offset 0x%" PRIx64
565 1.3.10.2 yamt " -> segment %d\n", offset, dtosn(fs,offset)));
566 1.3.10.2 yamt }
567 1.3.10.2 yamt
568 1.3.10.2 yamt if (flags & CHECK_UPDATE) {
569 1.3.10.2 yamt fs->lfs_avail -= (offset - oldoffset);
570 1.3.10.2 yamt /* Don't clog the buffer queue */
571 1.3.10.4 yamt mutex_enter(&lfs_lock);
572 1.3.10.2 yamt if (locked_queue_count > LFS_MAX_BUFS ||
573 1.3.10.2 yamt locked_queue_bytes > LFS_MAX_BYTES) {
574 1.3.10.2 yamt lfs_flush(fs, SEGM_CKP, 0);
575 1.3.10.2 yamt }
576 1.3.10.4 yamt mutex_exit(&lfs_lock);
577 1.3.10.2 yamt }
578 1.3.10.2 yamt
579 1.3.10.2 yamt err2:
580 1.3.10.2 yamt if (flags & CHECK_CKSUM)
581 1.3.10.2 yamt free(datap, M_SEGMENT);
582 1.3.10.2 yamt err1:
583 1.3.10.4 yamt brelse(bp, BC_AGE);
584 1.3.10.2 yamt
585 1.3.10.2 yamt /* XXX should we update the serial number even for bad psegs? */
586 1.3.10.2 yamt if ((flags & CHECK_UPDATE) && offset > 0 && fs->lfs_version > 1)
587 1.3.10.2 yamt fs->lfs_serial = nextserial;
588 1.3.10.2 yamt return offset;
589 1.3.10.2 yamt }
590 1.3.10.2 yamt
591 1.3.10.2 yamt void
592 1.3.10.2 yamt lfs_roll_forward(struct lfs *fs, struct mount *mp, struct lwp *l)
593 1.3.10.2 yamt {
594 1.3.10.2 yamt int flags, dirty;
595 1.3.10.2 yamt daddr_t offset, oldoffset, lastgoodpseg;
596 1.3.10.2 yamt int sn, curseg, do_rollforward;
597 1.3.10.2 yamt struct proc *p;
598 1.3.10.2 yamt kauth_cred_t cred;
599 1.3.10.2 yamt SEGUSE *sup;
600 1.3.10.2 yamt struct buf *bp;
601 1.3.10.2 yamt
602 1.3.10.2 yamt p = l ? l->l_proc : NULL;
603 1.3.10.2 yamt cred = p ? p->p_cred : NOCRED;
604 1.3.10.2 yamt
605 1.3.10.2 yamt /*
606 1.3.10.2 yamt * Roll forward.
607 1.3.10.2 yamt *
608 1.3.10.2 yamt * We don't roll forward for v1 filesystems, because
609 1.3.10.2 yamt * of the danger that the clock was turned back between the last
610 1.3.10.2 yamt * checkpoint and crash. This would roll forward garbage.
611 1.3.10.2 yamt *
612 1.3.10.2 yamt * v2 filesystems don't have this problem because they use a
613 1.3.10.2 yamt * monotonically increasing serial number instead of a timestamp.
614 1.3.10.2 yamt */
615 1.3.10.2 yamt do_rollforward = (!(fs->lfs_pflags & LFS_PF_CLEAN) &&
616 1.3.10.2 yamt lfs_do_rfw && fs->lfs_version > 1 && p != NULL);
617 1.3.10.2 yamt if (do_rollforward) {
618 1.3.10.2 yamt u_int64_t nextserial;
619 1.3.10.2 yamt /*
620 1.3.10.2 yamt * Phase I: Find the address of the last good partial
621 1.3.10.2 yamt * segment that was written after the checkpoint. Mark
622 1.3.10.2 yamt * the segments in question dirty, so they won't be
623 1.3.10.2 yamt * reallocated.
624 1.3.10.2 yamt */
625 1.3.10.2 yamt lastgoodpseg = oldoffset = offset = fs->lfs_offset;
626 1.3.10.2 yamt flags = 0x0;
627 1.3.10.2 yamt DLOG((DLOG_RF, "LFS roll forward phase 1: start at offset 0x%"
628 1.3.10.2 yamt PRIx64 "\n", offset));
629 1.3.10.2 yamt LFS_SEGENTRY(sup, fs, dtosn(fs, offset), bp);
630 1.3.10.2 yamt if (!(sup->su_flags & SEGUSE_DIRTY))
631 1.3.10.2 yamt --fs->lfs_nclean;
632 1.3.10.2 yamt sup->su_flags |= SEGUSE_DIRTY;
633 1.3.10.2 yamt LFS_WRITESEGENTRY(sup, fs, dtosn(fs, offset), bp);
634 1.3.10.2 yamt nextserial = fs->lfs_serial + 1;
635 1.3.10.2 yamt while ((offset = check_segsum(fs, offset, nextserial,
636 1.3.10.2 yamt cred, CHECK_CKSUM, &flags, l)) > 0) {
637 1.3.10.2 yamt nextserial++;
638 1.3.10.2 yamt if (sntod(fs, oldoffset) != sntod(fs, offset)) {
639 1.3.10.2 yamt LFS_SEGENTRY(sup, fs, dtosn(fs, oldoffset),
640 1.3.10.2 yamt bp);
641 1.3.10.2 yamt if (!(sup->su_flags & SEGUSE_DIRTY))
642 1.3.10.2 yamt --fs->lfs_nclean;
643 1.3.10.2 yamt sup->su_flags |= SEGUSE_DIRTY;
644 1.3.10.2 yamt LFS_WRITESEGENTRY(sup, fs, dtosn(fs, oldoffset),
645 1.3.10.2 yamt bp);
646 1.3.10.2 yamt }
647 1.3.10.2 yamt
648 1.3.10.2 yamt DLOG((DLOG_RF, "LFS roll forward phase 1: offset=0x%"
649 1.3.10.2 yamt PRIx64 "\n", offset));
650 1.3.10.2 yamt if (flags & SS_DIROP) {
651 1.3.10.2 yamt DLOG((DLOG_RF, "lfs_mountfs: dirops at 0x%"
652 1.3.10.2 yamt PRIx64 "\n", oldoffset));
653 1.3.10.4 yamt if (!(flags & SS_CONT)) {
654 1.3.10.2 yamt DLOG((DLOG_RF, "lfs_mountfs: dirops end "
655 1.3.10.2 yamt "at 0x%" PRIx64 "\n", oldoffset));
656 1.3.10.4 yamt }
657 1.3.10.2 yamt }
658 1.3.10.2 yamt if (!(flags & SS_CONT))
659 1.3.10.2 yamt lastgoodpseg = offset;
660 1.3.10.2 yamt oldoffset = offset;
661 1.3.10.2 yamt }
662 1.3.10.2 yamt if (flags & SS_CONT) {
663 1.3.10.2 yamt DLOG((DLOG_RF, "LFS roll forward: warning: incomplete "
664 1.3.10.2 yamt "dirops discarded\n"));
665 1.3.10.2 yamt }
666 1.3.10.2 yamt DLOG((DLOG_RF, "LFS roll forward phase 1: completed: "
667 1.3.10.2 yamt "lastgoodpseg=0x%" PRIx64 "\n", lastgoodpseg));
668 1.3.10.2 yamt oldoffset = fs->lfs_offset;
669 1.3.10.2 yamt if (fs->lfs_offset != lastgoodpseg) {
670 1.3.10.2 yamt /* Don't overwrite what we're trying to preserve */
671 1.3.10.2 yamt offset = fs->lfs_offset;
672 1.3.10.2 yamt fs->lfs_offset = lastgoodpseg;
673 1.3.10.2 yamt fs->lfs_curseg = sntod(fs, dtosn(fs, fs->lfs_offset));
674 1.3.10.2 yamt for (sn = curseg = dtosn(fs, fs->lfs_curseg);;) {
675 1.3.10.2 yamt sn = (sn + 1) % fs->lfs_nseg;
676 1.3.10.2 yamt if (sn == curseg)
677 1.3.10.2 yamt panic("lfs_mountfs: no clean segments");
678 1.3.10.2 yamt LFS_SEGENTRY(sup, fs, sn, bp);
679 1.3.10.2 yamt dirty = (sup->su_flags & SEGUSE_DIRTY);
680 1.3.10.3 yamt brelse(bp, 0);
681 1.3.10.2 yamt if (!dirty)
682 1.3.10.2 yamt break;
683 1.3.10.2 yamt }
684 1.3.10.2 yamt fs->lfs_nextseg = sntod(fs, sn);
685 1.3.10.2 yamt
686 1.3.10.2 yamt /*
687 1.3.10.2 yamt * Phase II: Roll forward from the first superblock.
688 1.3.10.2 yamt */
689 1.3.10.2 yamt while (offset != lastgoodpseg) {
690 1.3.10.2 yamt DLOG((DLOG_RF, "LFS roll forward phase 2: 0x%"
691 1.3.10.2 yamt PRIx64 "\n", offset));
692 1.3.10.2 yamt offset = check_segsum(fs, offset,
693 1.3.10.2 yamt fs->lfs_serial + 1, cred, CHECK_UPDATE,
694 1.3.10.2 yamt NULL, l);
695 1.3.10.2 yamt }
696 1.3.10.2 yamt
697 1.3.10.2 yamt /*
698 1.3.10.2 yamt * Finish: flush our changes to disk.
699 1.3.10.2 yamt */
700 1.3.10.2 yamt lfs_segwrite(mp, SEGM_CKP | SEGM_SYNC);
701 1.3.10.2 yamt DLOG((DLOG_RF, "lfs_mountfs: roll forward ",
702 1.3.10.2 yamt "recovered %lld blocks\n",
703 1.3.10.2 yamt (long long)(lastgoodpseg - oldoffset)));
704 1.3.10.2 yamt }
705 1.3.10.2 yamt DLOG((DLOG_RF, "LFS roll forward complete\n"));
706 1.3.10.2 yamt }
707 1.3.10.2 yamt }
708