Home | History | Annotate | Line # | Download | only in prekern
elf.c revision 1.7
      1  1.7  maxv /*	$NetBSD: elf.c,v 1.7 2017/11/05 16:26:15 maxv Exp $	*/
      2  1.1  maxv 
      3  1.1  maxv /*
      4  1.1  maxv  * Copyright (c) 2017 The NetBSD Foundation, Inc. All rights reserved.
      5  1.1  maxv  *
      6  1.1  maxv  * This code is derived from software contributed to The NetBSD Foundation
      7  1.1  maxv  * by Maxime Villard.
      8  1.1  maxv  *
      9  1.1  maxv  * Redistribution and use in source and binary forms, with or without
     10  1.1  maxv  * modification, are permitted provided that the following conditions
     11  1.1  maxv  * are met:
     12  1.1  maxv  * 1. Redistributions of source code must retain the above copyright
     13  1.1  maxv  *    notice, this list of conditions and the following disclaimer.
     14  1.1  maxv  * 2. Redistributions in binary form must reproduce the above copyright
     15  1.1  maxv  *    notice, this list of conditions and the following disclaimer in the
     16  1.1  maxv  *    documentation and/or other materials provided with the distribution.
     17  1.1  maxv  *
     18  1.1  maxv  * THIS SOFTWARE IS PROVIDED BY THE NETBSD FOUNDATION, INC. AND CONTRIBUTORS
     19  1.1  maxv  * ``AS IS'' AND ANY EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED
     20  1.1  maxv  * TO, THE IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR
     21  1.1  maxv  * PURPOSE ARE DISCLAIMED.  IN NO EVENT SHALL THE FOUNDATION OR CONTRIBUTORS
     22  1.1  maxv  * BE LIABLE FOR ANY DIRECT, INDIRECT, INCIDENTAL, SPECIAL, EXEMPLARY, OR
     23  1.1  maxv  * CONSEQUENTIAL DAMAGES (INCLUDING, BUT NOT LIMITED TO, PROCUREMENT OF
     24  1.1  maxv  * SUBSTITUTE GOODS OR SERVICES; LOSS OF USE, DATA, OR PROFITS; OR BUSINESS
     25  1.1  maxv  * INTERRUPTION) HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER IN
     26  1.1  maxv  * CONTRACT, STRICT LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE)
     27  1.1  maxv  * ARISING IN ANY WAY OUT OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED OF THE
     28  1.1  maxv  * POSSIBILITY OF SUCH DAMAGE.
     29  1.1  maxv  */
     30  1.1  maxv 
     31  1.1  maxv #define	ELFSIZE	64
     32  1.1  maxv 
     33  1.1  maxv #include "prekern.h"
     34  1.1  maxv #include <sys/exec_elf.h>
     35  1.1  maxv 
     36  1.1  maxv struct elfinfo {
     37  1.1  maxv 	Elf_Ehdr *ehdr;
     38  1.1  maxv 	Elf_Shdr *shdr;
     39  1.1  maxv 	char *shstrtab;
     40  1.1  maxv 	size_t shstrsz;
     41  1.1  maxv 	Elf_Sym *symtab;
     42  1.1  maxv 	size_t symcnt;
     43  1.1  maxv 	char *strtab;
     44  1.1  maxv 	size_t strsz;
     45  1.1  maxv };
     46  1.1  maxv 
     47  1.4  maxv extern paddr_t kernpa_start, kernpa_end;
     48  1.4  maxv 
     49  1.1  maxv static struct elfinfo eif;
     50  1.1  maxv static const char entrypoint[] = "start_prekern";
     51  1.1  maxv 
     52  1.1  maxv /* XXX */
     53  1.1  maxv static int
     54  1.1  maxv memcmp(const char *a, const char *b, size_t c)
     55  1.1  maxv {
     56  1.1  maxv 	size_t i;
     57  1.1  maxv 	for (i = 0; i < c; i++) {
     58  1.1  maxv 		if (a[i] != b[i])
     59  1.1  maxv 			return 1;
     60  1.1  maxv 	}
     61  1.1  maxv 	return 0;
     62  1.1  maxv }
     63  1.1  maxv static int
     64  1.1  maxv strcmp(char *a, char *b)
     65  1.1  maxv {
     66  1.1  maxv 	size_t i;
     67  1.1  maxv 	for (i = 0; a[i] != '\0'; i++) {
     68  1.1  maxv 		if (a[i] != b[i])
     69  1.1  maxv 			return 1;
     70  1.1  maxv 	}
     71  1.1  maxv 	return 0;
     72  1.1  maxv }
     73  1.1  maxv 
     74  1.1  maxv 
     75  1.1  maxv static int
     76  1.1  maxv elf_check_header()
     77  1.1  maxv {
     78  1.1  maxv 	if (memcmp((char *)eif.ehdr->e_ident, ELFMAG, SELFMAG) != 0 ||
     79  1.2  maxv 	    eif.ehdr->e_ident[EI_CLASS] != ELFCLASS ||
     80  1.2  maxv 	    eif.ehdr->e_type != ET_REL) {
     81  1.1  maxv 		return -1;
     82  1.1  maxv 	}
     83  1.1  maxv 	return 0;
     84  1.1  maxv }
     85  1.1  maxv 
     86  1.1  maxv static vaddr_t
     87  1.1  maxv elf_get_entrypoint()
     88  1.1  maxv {
     89  1.1  maxv 	Elf_Sym *sym;
     90  1.1  maxv 	size_t i;
     91  1.1  maxv 	char *buf;
     92  1.1  maxv 
     93  1.1  maxv 	for (i = 0; i < eif.symcnt; i++) {
     94  1.1  maxv 		sym = &eif.symtab[i];
     95  1.1  maxv 
     96  1.1  maxv 		if (ELF_ST_TYPE(sym->st_info) != STT_FUNC)
     97  1.1  maxv 			continue;
     98  1.1  maxv 		if (sym->st_name == 0)
     99  1.1  maxv 			continue;
    100  1.1  maxv 		if (sym->st_shndx == SHN_UNDEF)
    101  1.1  maxv 			continue; /* Skip external references */
    102  1.1  maxv 		buf = eif.strtab + sym->st_name;
    103  1.1  maxv 
    104  1.1  maxv 		if (!memcmp(buf, entrypoint, sizeof(entrypoint))) {
    105  1.1  maxv 			return (vaddr_t)sym->st_value;
    106  1.1  maxv 		}
    107  1.1  maxv 	}
    108  1.1  maxv 
    109  1.1  maxv 	return 0;
    110  1.1  maxv }
    111  1.1  maxv 
    112  1.1  maxv static Elf_Shdr *
    113  1.1  maxv elf_find_section(char *name)
    114  1.1  maxv {
    115  1.1  maxv 	char *buf;
    116  1.1  maxv 	size_t i;
    117  1.1  maxv 
    118  1.1  maxv 	for (i = 0; i < eif.ehdr->e_shnum; i++) {
    119  1.1  maxv 		if (eif.shdr[i].sh_name == 0) {
    120  1.1  maxv 			continue;
    121  1.1  maxv 		}
    122  1.1  maxv 		buf = eif.shstrtab + eif.shdr[i].sh_name;
    123  1.1  maxv 		if (!strcmp(name, buf)) {
    124  1.1  maxv 			return &eif.shdr[i];
    125  1.1  maxv 		}
    126  1.1  maxv 	}
    127  1.1  maxv 
    128  1.1  maxv 	return NULL;
    129  1.1  maxv }
    130  1.1  maxv 
    131  1.1  maxv static uintptr_t
    132  1.1  maxv elf_sym_lookup(size_t symidx)
    133  1.1  maxv {
    134  1.1  maxv 	const Elf_Sym *sym;
    135  1.1  maxv 	char *buf, *secname;
    136  1.1  maxv 	Elf_Shdr *sec;
    137  1.1  maxv 
    138  1.6  maxv 	if (symidx == STN_UNDEF) {
    139  1.6  maxv 		return 0;
    140  1.6  maxv 	}
    141  1.6  maxv 
    142  1.1  maxv 	if (symidx >= eif.symcnt) {
    143  1.1  maxv 		fatal("elf_sym_lookup: symbol beyond table");
    144  1.1  maxv 	}
    145  1.1  maxv 	sym = &eif.symtab[symidx];
    146  1.1  maxv 	buf = eif.strtab + sym->st_name;
    147  1.1  maxv 
    148  1.1  maxv 	if (sym->st_shndx == SHN_UNDEF) {
    149  1.1  maxv 		if (!memcmp(buf, "__start_link_set", 16)) {
    150  1.1  maxv 			secname = buf + 8;
    151  1.1  maxv 			sec = elf_find_section(secname);
    152  1.1  maxv 			if (sec == NULL) {
    153  1.1  maxv 				fatal("elf_sym_lookup: unknown start link set");
    154  1.1  maxv 			}
    155  1.1  maxv 			return (uintptr_t)((uint8_t *)eif.ehdr +
    156  1.1  maxv 			    sec->sh_offset);
    157  1.1  maxv 		}
    158  1.1  maxv 		if (!memcmp(buf, "__stop_link_set", 15)) {
    159  1.1  maxv 			secname = buf + 7;
    160  1.1  maxv 			sec = elf_find_section(secname);
    161  1.1  maxv 			if (sec == NULL) {
    162  1.1  maxv 				fatal("elf_sym_lookup: unknown stop link set");
    163  1.1  maxv 			}
    164  1.1  maxv 			return (uintptr_t)((uint8_t *)eif.ehdr +
    165  1.1  maxv 			    sec->sh_offset + sec->sh_size);
    166  1.1  maxv 		}
    167  1.1  maxv 
    168  1.1  maxv 		fatal("elf_sym_lookup: external symbol");
    169  1.1  maxv 	}
    170  1.1  maxv 	if (sym->st_value == 0) {
    171  1.1  maxv 		fatal("elf_sym_lookup: zero value");
    172  1.1  maxv 	}
    173  1.1  maxv 	return (uintptr_t)sym->st_value;
    174  1.1  maxv }
    175  1.1  maxv 
    176  1.1  maxv static void
    177  1.1  maxv elf_apply_reloc(uintptr_t relocbase, const void *data, bool isrela)
    178  1.1  maxv {
    179  1.1  maxv 	Elf64_Addr *where, val;
    180  1.1  maxv 	Elf32_Addr *where32, val32;
    181  1.1  maxv 	Elf64_Addr addr;
    182  1.1  maxv 	Elf64_Addr addend;
    183  1.1  maxv 	uintptr_t rtype, symidx;
    184  1.1  maxv 	const Elf_Rel *rel;
    185  1.1  maxv 	const Elf_Rela *rela;
    186  1.1  maxv 
    187  1.1  maxv 	if (isrela) {
    188  1.1  maxv 		rela = (const Elf_Rela *)data;
    189  1.1  maxv 		where = (Elf64_Addr *)(relocbase + rela->r_offset);
    190  1.1  maxv 		addend = rela->r_addend;
    191  1.1  maxv 		rtype = ELF_R_TYPE(rela->r_info);
    192  1.1  maxv 		symidx = ELF_R_SYM(rela->r_info);
    193  1.1  maxv 	} else {
    194  1.1  maxv 		rel = (const Elf_Rel *)data;
    195  1.1  maxv 		where = (Elf64_Addr *)(relocbase + rel->r_offset);
    196  1.1  maxv 		rtype = ELF_R_TYPE(rel->r_info);
    197  1.1  maxv 		symidx = ELF_R_SYM(rel->r_info);
    198  1.1  maxv 		/* Addend is 32 bit on 32 bit relocs */
    199  1.1  maxv 		switch (rtype) {
    200  1.1  maxv 		case R_X86_64_PC32:
    201  1.1  maxv 		case R_X86_64_32:
    202  1.1  maxv 		case R_X86_64_32S:
    203  1.1  maxv 			addend = *(Elf32_Addr *)where;
    204  1.1  maxv 			break;
    205  1.1  maxv 		default:
    206  1.1  maxv 			addend = *where;
    207  1.1  maxv 			break;
    208  1.1  maxv 		}
    209  1.1  maxv 	}
    210  1.1  maxv 
    211  1.1  maxv 	switch (rtype) {
    212  1.1  maxv 	case R_X86_64_NONE:	/* none */
    213  1.1  maxv 		break;
    214  1.1  maxv 
    215  1.1  maxv 	case R_X86_64_64:		/* S + A */
    216  1.1  maxv 		addr = elf_sym_lookup(symidx);
    217  1.1  maxv 		val = addr + addend;
    218  1.1  maxv 		*where = val;
    219  1.1  maxv 		break;
    220  1.1  maxv 
    221  1.1  maxv 	case R_X86_64_PC32:	/* S + A - P */
    222  1.1  maxv 		addr = elf_sym_lookup(symidx);
    223  1.1  maxv 		where32 = (Elf32_Addr *)where;
    224  1.1  maxv 		val32 = (Elf32_Addr)(addr + addend - (Elf64_Addr)where);
    225  1.1  maxv 		*where32 = val32;
    226  1.1  maxv 		break;
    227  1.1  maxv 
    228  1.1  maxv 	case R_X86_64_32:	/* S + A */
    229  1.1  maxv 	case R_X86_64_32S:	/* S + A sign extend */
    230  1.1  maxv 		addr = elf_sym_lookup(symidx);
    231  1.1  maxv 		val32 = (Elf32_Addr)(addr + addend);
    232  1.1  maxv 		where32 = (Elf32_Addr *)where;
    233  1.1  maxv 		*where32 = val32;
    234  1.1  maxv 		break;
    235  1.1  maxv 
    236  1.1  maxv 	case R_X86_64_GLOB_DAT:	/* S */
    237  1.1  maxv 	case R_X86_64_JUMP_SLOT:/* XXX need addend + offset */
    238  1.1  maxv 		addr = elf_sym_lookup(symidx);
    239  1.1  maxv 		*where = addr;
    240  1.1  maxv 		break;
    241  1.1  maxv 
    242  1.1  maxv 	case R_X86_64_RELATIVE:	/* B + A */
    243  1.1  maxv 		addr = relocbase + addend;
    244  1.1  maxv 		val = addr;
    245  1.1  maxv 		*where = val;
    246  1.1  maxv 		break;
    247  1.1  maxv 
    248  1.1  maxv 	default:
    249  1.1  maxv 		fatal("elf_apply_reloc: unexpected relocation type");
    250  1.1  maxv 	}
    251  1.1  maxv }
    252  1.1  maxv 
    253  1.4  maxv /* -------------------------------------------------------------------------- */
    254  1.4  maxv 
    255  1.4  maxv size_t
    256  1.4  maxv elf_get_head_size(vaddr_t headva)
    257  1.4  maxv {
    258  1.4  maxv 	Elf_Ehdr *ehdr;
    259  1.4  maxv 	Elf_Shdr *shdr;
    260  1.4  maxv 	size_t size;
    261  1.4  maxv 
    262  1.4  maxv 	ehdr = (Elf_Ehdr *)headva;
    263  1.4  maxv 	shdr = (Elf_Shdr *)((uint8_t *)ehdr + ehdr->e_shoff);
    264  1.4  maxv 
    265  1.4  maxv 	size = (vaddr_t)shdr + (vaddr_t)(ehdr->e_shnum * sizeof(Elf_Shdr)) -
    266  1.4  maxv 	    (vaddr_t)ehdr;
    267  1.4  maxv 
    268  1.4  maxv 	return roundup(size, PAGE_SIZE);
    269  1.4  maxv }
    270  1.4  maxv 
    271  1.4  maxv void
    272  1.4  maxv elf_build_head(vaddr_t headva)
    273  1.4  maxv {
    274  1.4  maxv 	memset(&eif, 0, sizeof(struct elfinfo));
    275  1.4  maxv 
    276  1.4  maxv 	eif.ehdr = (Elf_Ehdr *)headva;
    277  1.4  maxv 	eif.shdr = (Elf_Shdr *)((uint8_t *)eif.ehdr + eif.ehdr->e_shoff);
    278  1.4  maxv 
    279  1.4  maxv 	if (elf_check_header() == -1) {
    280  1.5  maxv 		fatal("elf_build_head: wrong kernel ELF header");
    281  1.4  maxv 	}
    282  1.4  maxv }
    283  1.4  maxv 
    284  1.3  maxv static bool
    285  1.3  maxv elf_section_is_text(Elf_Shdr *shdr)
    286  1.3  maxv {
    287  1.3  maxv 	if (shdr->sh_type != SHT_NOBITS &&
    288  1.3  maxv 	    shdr->sh_type != SHT_PROGBITS) {
    289  1.3  maxv 		return false;
    290  1.3  maxv 	}
    291  1.3  maxv 	if (!(shdr->sh_flags & SHF_EXECINSTR)) {
    292  1.3  maxv 		return false;
    293  1.3  maxv 	}
    294  1.3  maxv 	return true;
    295  1.3  maxv }
    296  1.3  maxv 
    297  1.3  maxv static bool
    298  1.3  maxv elf_section_is_rodata(Elf_Shdr *shdr)
    299  1.3  maxv {
    300  1.3  maxv 	if (shdr->sh_type != SHT_NOBITS &&
    301  1.3  maxv 	    shdr->sh_type != SHT_PROGBITS) {
    302  1.3  maxv 		return false;
    303  1.3  maxv 	}
    304  1.3  maxv 	if (shdr->sh_flags & (SHF_EXECINSTR|SHF_WRITE)) {
    305  1.3  maxv 		return false;
    306  1.3  maxv 	}
    307  1.3  maxv 	return true;
    308  1.3  maxv }
    309  1.3  maxv 
    310  1.3  maxv static bool
    311  1.3  maxv elf_section_is_data(Elf_Shdr *shdr)
    312  1.3  maxv {
    313  1.3  maxv 	if (shdr->sh_type != SHT_NOBITS &&
    314  1.3  maxv 	    shdr->sh_type != SHT_PROGBITS) {
    315  1.3  maxv 		return false;
    316  1.3  maxv 	}
    317  1.3  maxv 	if (!(shdr->sh_flags & SHF_WRITE) ||
    318  1.3  maxv 	    (shdr->sh_flags & SHF_EXECINSTR)) {
    319  1.3  maxv 		return false;
    320  1.3  maxv 	}
    321  1.3  maxv 	return true;
    322  1.3  maxv }
    323  1.3  maxv 
    324  1.4  maxv void
    325  1.4  maxv elf_get_text(paddr_t *pa, size_t *sz)
    326  1.4  maxv {
    327  1.4  maxv 	const paddr_t basepa = kernpa_start;
    328  1.4  maxv 	paddr_t minpa, maxpa, secpa;
    329  1.4  maxv 	size_t i, secsz;
    330  1.4  maxv 
    331  1.4  maxv 	minpa = 0xFFFFFFFFFFFFFFFF, maxpa = 0;
    332  1.4  maxv 	for (i = 0; i < eif.ehdr->e_shnum; i++) {
    333  1.4  maxv 		if (!elf_section_is_text(&eif.shdr[i])) {
    334  1.4  maxv 			continue;
    335  1.4  maxv 		}
    336  1.4  maxv 		secpa = basepa + eif.shdr[i].sh_offset;
    337  1.4  maxv 		secsz = eif.shdr[i].sh_size;
    338  1.4  maxv 		if (secpa < minpa) {
    339  1.4  maxv 			minpa = secpa;
    340  1.4  maxv 		}
    341  1.4  maxv 		if (secpa + secsz > maxpa) {
    342  1.4  maxv 			maxpa = secpa + secsz;
    343  1.4  maxv 		}
    344  1.4  maxv 	}
    345  1.4  maxv 	ASSERT(minpa % PAGE_SIZE == 0);
    346  1.4  maxv 
    347  1.4  maxv 	*pa = minpa;
    348  1.4  maxv 	*sz = roundup(maxpa - minpa, PAGE_SIZE);
    349  1.4  maxv }
    350  1.4  maxv 
    351  1.4  maxv void
    352  1.7  maxv elf_build_text(vaddr_t textva, paddr_t textpa)
    353  1.4  maxv {
    354  1.4  maxv 	const paddr_t basepa = kernpa_start;
    355  1.4  maxv 	const vaddr_t headva = (vaddr_t)eif.ehdr;
    356  1.4  maxv 	size_t i, offtext;
    357  1.4  maxv 
    358  1.4  maxv 	for (i = 0; i < eif.ehdr->e_shnum; i++) {
    359  1.4  maxv 		if (!elf_section_is_text(&eif.shdr[i])) {
    360  1.4  maxv 			continue;
    361  1.4  maxv 		}
    362  1.4  maxv 
    363  1.4  maxv 		/* Offset of the section within the text segment. */
    364  1.4  maxv 		offtext = basepa + eif.shdr[i].sh_offset - textpa;
    365  1.4  maxv 
    366  1.4  maxv 		/* We want (headva + sh_offset) to be the VA of the section. */
    367  1.7  maxv 		eif.shdr[i].sh_offset = (textva + offtext - headva);
    368  1.4  maxv 	}
    369  1.4  maxv }
    370  1.4  maxv 
    371  1.4  maxv void
    372  1.4  maxv elf_get_rodata(paddr_t *pa, size_t *sz)
    373  1.4  maxv {
    374  1.4  maxv 	const paddr_t basepa = kernpa_start;
    375  1.4  maxv 	paddr_t minpa, maxpa, secpa;
    376  1.4  maxv 	size_t i, secsz;
    377  1.4  maxv 
    378  1.4  maxv 	minpa = 0xFFFFFFFFFFFFFFFF, maxpa = 0;
    379  1.4  maxv 	for (i = 0; i < eif.ehdr->e_shnum; i++) {
    380  1.4  maxv 		if (!elf_section_is_rodata(&eif.shdr[i])) {
    381  1.4  maxv 			continue;
    382  1.4  maxv 		}
    383  1.4  maxv 		secpa = basepa + eif.shdr[i].sh_offset;
    384  1.4  maxv 		secsz = eif.shdr[i].sh_size;
    385  1.4  maxv 		if (secpa < minpa) {
    386  1.4  maxv 			minpa = secpa;
    387  1.4  maxv 		}
    388  1.4  maxv 		if (secpa + secsz > maxpa) {
    389  1.4  maxv 			maxpa = secpa + secsz;
    390  1.4  maxv 		}
    391  1.4  maxv 	}
    392  1.4  maxv 	ASSERT(minpa % PAGE_SIZE == 0);
    393  1.4  maxv 
    394  1.4  maxv 	*pa = minpa;
    395  1.4  maxv 	*sz = roundup(maxpa - minpa, PAGE_SIZE);
    396  1.4  maxv }
    397  1.4  maxv 
    398  1.4  maxv void
    399  1.7  maxv elf_build_rodata(vaddr_t rodatava, paddr_t rodatapa)
    400  1.4  maxv {
    401  1.4  maxv 	const paddr_t basepa = kernpa_start;
    402  1.4  maxv 	const vaddr_t headva = (vaddr_t)eif.ehdr;
    403  1.4  maxv 	size_t i, offrodata;
    404  1.4  maxv 
    405  1.4  maxv 	for (i = 0; i < eif.ehdr->e_shnum; i++) {
    406  1.4  maxv 		if (!elf_section_is_rodata(&eif.shdr[i])) {
    407  1.4  maxv 			continue;
    408  1.4  maxv 		}
    409  1.4  maxv 
    410  1.4  maxv 		/* Offset of the section within the rodata segment. */
    411  1.4  maxv 		offrodata = basepa + eif.shdr[i].sh_offset - rodatapa;
    412  1.4  maxv 
    413  1.4  maxv 		/* We want (headva + sh_offset) to be the VA of the section. */
    414  1.7  maxv 		eif.shdr[i].sh_offset = (rodatava + offrodata - headva);
    415  1.4  maxv 	}
    416  1.4  maxv }
    417  1.4  maxv 
    418  1.4  maxv void
    419  1.4  maxv elf_get_data(paddr_t *pa, size_t *sz)
    420  1.4  maxv {
    421  1.4  maxv 	const paddr_t basepa = kernpa_start;
    422  1.4  maxv 	paddr_t minpa, maxpa, secpa;
    423  1.4  maxv 	size_t i, secsz;
    424  1.4  maxv 
    425  1.4  maxv 	minpa = 0xFFFFFFFFFFFFFFFF, maxpa = 0;
    426  1.4  maxv 	for (i = 0; i < eif.ehdr->e_shnum; i++) {
    427  1.4  maxv 		if (!elf_section_is_data(&eif.shdr[i])) {
    428  1.4  maxv 			continue;
    429  1.4  maxv 		}
    430  1.4  maxv 		secpa = basepa + eif.shdr[i].sh_offset;
    431  1.4  maxv 		secsz = eif.shdr[i].sh_size;
    432  1.4  maxv 		if (secpa < minpa) {
    433  1.4  maxv 			minpa = secpa;
    434  1.4  maxv 		}
    435  1.4  maxv 		if (secpa + secsz > maxpa) {
    436  1.4  maxv 			maxpa = secpa + secsz;
    437  1.4  maxv 		}
    438  1.4  maxv 	}
    439  1.4  maxv 	ASSERT(minpa % PAGE_SIZE == 0);
    440  1.4  maxv 
    441  1.4  maxv 	*pa = minpa;
    442  1.4  maxv 	*sz = roundup(maxpa - minpa, PAGE_SIZE);
    443  1.4  maxv }
    444  1.4  maxv 
    445  1.4  maxv void
    446  1.7  maxv elf_build_data(vaddr_t datava, paddr_t datapa)
    447  1.4  maxv {
    448  1.4  maxv 	const paddr_t basepa = kernpa_start;
    449  1.4  maxv 	const vaddr_t headva = (vaddr_t)eif.ehdr;
    450  1.4  maxv 	size_t i, offdata;
    451  1.4  maxv 
    452  1.4  maxv 	for (i = 0; i < eif.ehdr->e_shnum; i++) {
    453  1.4  maxv 		if (!elf_section_is_data(&eif.shdr[i])) {
    454  1.4  maxv 			continue;
    455  1.4  maxv 		}
    456  1.4  maxv 
    457  1.4  maxv 		/* Offset of the section within the data segment. */
    458  1.4  maxv 		offdata = basepa + eif.shdr[i].sh_offset - datapa;
    459  1.4  maxv 
    460  1.4  maxv 		/* We want (headva + sh_offset) to be the VA of the section. */
    461  1.7  maxv 		eif.shdr[i].sh_offset = (datava + offdata - headva);
    462  1.4  maxv 	}
    463  1.4  maxv }
    464  1.4  maxv 
    465  1.4  maxv void
    466  1.4  maxv elf_build_boot(vaddr_t bootva, paddr_t bootpa)
    467  1.1  maxv {
    468  1.4  maxv 	const paddr_t basepa = kernpa_start;
    469  1.4  maxv 	const vaddr_t headva = (vaddr_t)eif.ehdr;
    470  1.4  maxv 	size_t i, j, offboot;
    471  1.1  maxv 
    472  1.4  maxv 	for (i = 0; i < eif.ehdr->e_shnum; i++) {
    473  1.4  maxv 		if (eif.shdr[i].sh_type != SHT_STRTAB &&
    474  1.4  maxv 		    eif.shdr[i].sh_type != SHT_REL &&
    475  1.4  maxv 		    eif.shdr[i].sh_type != SHT_RELA &&
    476  1.4  maxv 		    eif.shdr[i].sh_type != SHT_SYMTAB) {
    477  1.4  maxv 			continue;
    478  1.4  maxv 		}
    479  1.4  maxv 		if (eif.shdr[i].sh_offset == 0) {
    480  1.4  maxv 			/* hasn't been loaded */
    481  1.4  maxv 			continue;
    482  1.4  maxv 		}
    483  1.1  maxv 
    484  1.4  maxv 		/* Offset of the section within the boot region. */
    485  1.4  maxv 		offboot = basepa + eif.shdr[i].sh_offset - bootpa;
    486  1.1  maxv 
    487  1.4  maxv 		/* We want (headva + sh_offset) to be the VA of the region. */
    488  1.4  maxv 		eif.shdr[i].sh_offset = (bootva + offboot - headva);
    489  1.1  maxv 	}
    490  1.1  maxv 
    491  1.1  maxv 	/* Locate the section names */
    492  1.1  maxv 	j = eif.ehdr->e_shstrndx;
    493  1.1  maxv 	if (j == SHN_UNDEF) {
    494  1.5  maxv 		fatal("elf_build_boot: shstrtab not found");
    495  1.1  maxv 	}
    496  1.1  maxv 	if (j >= eif.ehdr->e_shnum) {
    497  1.5  maxv 		fatal("elf_build_boot: wrong shstrtab index");
    498  1.1  maxv 	}
    499  1.1  maxv 	eif.shstrtab = (char *)((uint8_t *)eif.ehdr + eif.shdr[j].sh_offset);
    500  1.1  maxv 	eif.shstrsz = eif.shdr[j].sh_size;
    501  1.1  maxv 
    502  1.1  maxv 	/* Locate the symbol table */
    503  1.1  maxv 	for (i = 0; i < eif.ehdr->e_shnum; i++) {
    504  1.1  maxv 		if (eif.shdr[i].sh_type == SHT_SYMTAB)
    505  1.1  maxv 			break;
    506  1.1  maxv 	}
    507  1.1  maxv 	if (i == eif.ehdr->e_shnum) {
    508  1.5  maxv 		fatal("elf_build_boot: symtab not found");
    509  1.1  maxv 	}
    510  1.1  maxv 	eif.symtab = (Elf_Sym *)((uint8_t *)eif.ehdr + eif.shdr[i].sh_offset);
    511  1.1  maxv 	eif.symcnt = eif.shdr[i].sh_size / sizeof(Elf_Sym);
    512  1.1  maxv 
    513  1.1  maxv 	/* Also locate the string table */
    514  1.1  maxv 	j = eif.shdr[i].sh_link;
    515  1.1  maxv 	if (j == SHN_UNDEF || j >= eif.ehdr->e_shnum) {
    516  1.5  maxv 		fatal("elf_build_boot: wrong strtab index");
    517  1.1  maxv 	}
    518  1.1  maxv 	if (eif.shdr[j].sh_type != SHT_STRTAB) {
    519  1.5  maxv 		fatal("elf_build_boot: wrong strtab type");
    520  1.1  maxv 	}
    521  1.1  maxv 	eif.strtab = (char *)((uint8_t *)eif.ehdr + eif.shdr[j].sh_offset);
    522  1.1  maxv 	eif.strsz = eif.shdr[j].sh_size;
    523  1.1  maxv }
    524  1.1  maxv 
    525  1.1  maxv vaddr_t
    526  1.4  maxv elf_kernel_reloc()
    527  1.1  maxv {
    528  1.4  maxv 	const vaddr_t baseva = (vaddr_t)eif.ehdr;
    529  1.1  maxv 	vaddr_t secva, ent;
    530  1.1  maxv 	Elf_Sym *sym;
    531  1.1  maxv 	size_t i, j;
    532  1.1  maxv 
    533  1.1  maxv 	print_state(true, "ELF info created");
    534  1.1  maxv 
    535  1.1  maxv 	/*
    536  1.1  maxv 	 * The loaded sections are: SHT_PROGBITS, SHT_NOBITS, SHT_STRTAB,
    537  1.1  maxv 	 * SHT_SYMTAB.
    538  1.1  maxv 	 */
    539  1.1  maxv 
    540  1.1  maxv 	/*
    541  1.1  maxv 	 * Update all symbol values with the appropriate offset.
    542  1.1  maxv 	 */
    543  1.1  maxv 	for (i = 0; i < eif.ehdr->e_shnum; i++) {
    544  1.1  maxv 		if (eif.shdr[i].sh_type != SHT_NOBITS &&
    545  1.1  maxv 		    eif.shdr[i].sh_type != SHT_PROGBITS) {
    546  1.1  maxv 			continue;
    547  1.1  maxv 		}
    548  1.1  maxv 		secva = baseva + eif.shdr[i].sh_offset;
    549  1.1  maxv 		for (j = 0; j < eif.symcnt; j++) {
    550  1.1  maxv 			sym = &eif.symtab[j];
    551  1.1  maxv 			if (sym->st_shndx != i) {
    552  1.1  maxv 				continue;
    553  1.1  maxv 			}
    554  1.1  maxv 			sym->st_value += (Elf_Addr)secva;
    555  1.1  maxv 		}
    556  1.1  maxv 	}
    557  1.1  maxv 
    558  1.1  maxv 	print_state(true, "Symbol values updated");
    559  1.1  maxv 
    560  1.1  maxv 	/*
    561  1.1  maxv 	 * Perform relocations without addend if there are any.
    562  1.1  maxv 	 */
    563  1.1  maxv 	for (i = 0; i < eif.ehdr->e_shnum; i++) {
    564  1.1  maxv 		Elf_Rel *reltab, *rel;
    565  1.1  maxv 		size_t secidx, nrel;
    566  1.1  maxv 		uintptr_t base;
    567  1.1  maxv 
    568  1.1  maxv 		if (eif.shdr[i].sh_type != SHT_REL)
    569  1.1  maxv 			continue;
    570  1.1  maxv 
    571  1.1  maxv 		reltab = (Elf_Rel *)((uint8_t *)eif.ehdr + eif.shdr[i].sh_offset);
    572  1.1  maxv 		nrel = eif.shdr[i].sh_size / sizeof(Elf_Rel);
    573  1.1  maxv 
    574  1.1  maxv 		secidx = eif.shdr[i].sh_info;
    575  1.1  maxv 		if (secidx >= eif.ehdr->e_shnum) {
    576  1.1  maxv 			fatal("elf_kernel_reloc: wrong REL relocation");
    577  1.1  maxv 		}
    578  1.1  maxv 		base = (uintptr_t)eif.ehdr + eif.shdr[secidx].sh_offset;
    579  1.1  maxv 
    580  1.1  maxv 		for (j = 0; j < nrel; j++) {
    581  1.1  maxv 			rel = &reltab[j];
    582  1.1  maxv 			elf_apply_reloc(base, rel, false);
    583  1.1  maxv 		}
    584  1.1  maxv 	}
    585  1.1  maxv 
    586  1.1  maxv 	print_state(true, "REL relocations applied");
    587  1.1  maxv 
    588  1.1  maxv 	/*
    589  1.1  maxv 	 * Perform relocations with addend if there are any.
    590  1.1  maxv 	 */
    591  1.1  maxv 	for (i = 0; i < eif.ehdr->e_shnum; i++) {
    592  1.1  maxv 		Elf_Rela *relatab, *rela;
    593  1.1  maxv 		size_t secidx, nrela;
    594  1.1  maxv 		uintptr_t base;
    595  1.1  maxv 
    596  1.1  maxv 		if (eif.shdr[i].sh_type != SHT_RELA)
    597  1.1  maxv 			continue;
    598  1.1  maxv 
    599  1.1  maxv 		relatab = (Elf_Rela *)((uint8_t *)eif.ehdr + eif.shdr[i].sh_offset);
    600  1.1  maxv 		nrela = eif.shdr[i].sh_size / sizeof(Elf_Rela);
    601  1.1  maxv 
    602  1.1  maxv 		secidx = eif.shdr[i].sh_info;
    603  1.1  maxv 		if (secidx >= eif.ehdr->e_shnum) {
    604  1.1  maxv 			fatal("elf_kernel_reloc: wrong RELA relocation");
    605  1.1  maxv 		}
    606  1.1  maxv 		base = (uintptr_t)eif.ehdr + eif.shdr[secidx].sh_offset;
    607  1.1  maxv 
    608  1.1  maxv 		for (j = 0; j < nrela; j++) {
    609  1.1  maxv 			rela = &relatab[j];
    610  1.1  maxv 			elf_apply_reloc(base, rela, true);
    611  1.1  maxv 		}
    612  1.1  maxv 	}
    613  1.1  maxv 
    614  1.1  maxv 	print_state(true, "RELA relocations applied");
    615  1.1  maxv 
    616  1.1  maxv 	/*
    617  1.1  maxv 	 * Get the entry point.
    618  1.1  maxv 	 */
    619  1.1  maxv 	ent = elf_get_entrypoint(&eif);
    620  1.1  maxv 	if (ent == 0) {
    621  1.1  maxv 		fatal("elf_kernel_reloc: entry point not found");
    622  1.1  maxv 	}
    623  1.1  maxv 
    624  1.1  maxv 	print_state(true, "Entry point found");
    625  1.1  maxv 
    626  1.1  maxv 	return ent;
    627  1.1  maxv }
    628  1.1  maxv 
    629