Lines Matching defs:ptep
950 pmap_pte_sync_current(pmap_t pm, pt_entry_t *ptep)
953 PTE_SYNC(ptep);
957 # define PTE_SYNC_CURRENT(pm, ptep) pmap_pte_sync_current(pm, ptep)
959 # define PTE_SYNC_CURRENT(pm, ptep) __nothing
1525 pt_entry_t *ptep;
1531 if ((ptep = pmap_alloc_l2_ptp(&l2b->l2b_pa)) == NULL) {
1545 l2b->l2b_kva = ptep;
1608 pt_entry_t * const ptep = l2b->l2b_kva;
1636 pmap_free_l2_ptp(!pmap_is_cached(pm), ptep, l2b->l2b_pa);
1638 pmap_free_l2_ptp(ptep, l2b->l2b_pa);
1697 pt_entry_t * const ptep = &l2b->l2b_kva[l2pte_index(va)];
1698 const pt_entry_t opte = *ptep;
1706 l2pte_set(ptep, npte, opte);
1707 PTE_SYNC(ptep);
1976 pt_entry_t * const ptep
1978 const pt_entry_t opte = *ptep;
1989 l2pte_set(ptep, npte, opte);
1990 PTE_SYNC_CURRENT(pv->pv_pmap, ptep);
2008 pt_entry_t * const ptep
2010 const pt_entry_t opte = *ptep;
2019 l2pte_set(ptep, npte, opte);
2020 PTE_SYNC_CURRENT(pv->pv_pmap, ptep);
2296 pt_entry_t * const ptep = &l2b->l2b_kva[l2pte_index(pv->pv_va)];
2297 const pt_entry_t opte = *ptep;
2313 l2pte_set(ptep, npte, opte);
2314 PTE_SYNC_CURRENT(pv->pv_pmap, ptep);
2417 pt_entry_t * const ptep = &l2b->l2b_kva[l2pte_index(va)];
2418 const pt_entry_t opte = *ptep;
2524 l2pte_reset(ptep);
2525 PTE_SYNC(ptep);
2530 l2pte_set(ptep, npte, 0);
2531 PTE_SYNC(ptep);
2665 pt_entry_t * const ptep = cpu_cdst_pte(0);
2688 l2pte_reset(ptep + j);
2689 PTE_SYNC(ptep + j);
2695 l2pte_set(ptep + j, npte, 0);
2697 PTE_SYNC_RANGE(ptep, way_size / L2_S_SIZE);
2709 l2pte_reset(ptep + j);
2710 PTE_SYNC(ptep + j);
2781 pt_entry_t * const ptep = cpu_cdst_pte(va_offset);
2783 const pt_entry_t opte = *ptep;
2798 l2pte_set(ptep, npte, opte);
2799 PTE_SYNC(ptep);
2827 l2pte_set(ptep, opte, npte);
2829 l2pte_reset(ptep);
2831 PTE_SYNC(ptep);
2850 pt_entry_t *ptep;
2950 ptep = &l2b->l2b_kva[l2pte_index(pv->pv_va)];
2966 l2pte_reset(ptep);
2967 PTE_SYNC_CURRENT(pm, ptep);
3165 pt_entry_t *ptep = &l2b->l2b_kva[l2pte_index(va)];
3166 const pt_entry_t opte = *ptep;
3405 l2pte_reset(ptep);
3406 PTE_SYNC(ptep);
3410 l2pte_set(ptep, npte, 0);
3411 PTE_SYNC(ptep);
3522 pt_entry_t *ptep;
3548 pt_entry_t *ptep = &l2b->l2b_kva[l2pte_index(sva)];
3552 sva += PAGE_SIZE, ptep += PAGE_SIZE / L2_S_SIZE) {
3553 pt_entry_t opte = *ptep;
3592 l2pte_reset(ptep);
3593 PTE_SYNC_CURRENT(pm, ptep);
3598 l2pte_reset(ptep);
3599 PTE_SYNC(ptep);
3606 cleanlist[cleanlist_idx].ptep = ptep;
3621 l2pte_reset(cleanlist[cnt].ptep);
3622 PTE_SYNC(cleanlist[cnt].ptep);
3624 l2pte_reset(ptep);
3625 PTE_SYNC(ptep);
3629 l2pte_reset(ptep);
3630 PTE_SYNC(ptep);
3645 l2pte_reset(cleanlist[cnt].ptep);
3646 PTE_SYNC_CURRENT(pm, cleanlist[cnt].ptep);
3773 pt_entry_t * const ptep = &l2b->l2b_kva[l2pte_index(va)];
3774 const pt_entry_t opte = *ptep;
3796 l2pte_reset(ptep);
3797 PTE_SYNC(ptep);
3831 l2pte_set(ptep, npte, 0);
3832 PTE_SYNC(ptep);
3895 UVMHIST_LOG(maphist, " <-- done (ptep %#jx: %#jx -> %#jx)",
3896 (uintptr_t)ptep, opte, npte, 0);
3928 pt_entry_t *ptep = sptep;
3932 const pt_entry_t opte = *ptep;
3959 l2pte_reset(ptep);
3960 PTE_SYNC(ptep);
3969 ptep += PAGE_SIZE / L2_S_SIZE;
3974 //PTE_SYNC_RANGE(sptep, (u_int)(ptep - sptep));
3999 pt_entry_t *ptep, pte;
4035 (ptep = l2->l2_bucket[L2_BUCKET(l1slot)].l2b_kva) == NULL) {
4042 pte = ptep[l2pte_index(va)];
4143 pt_entry_t *ptep = &l2b->l2b_kva[l2pte_index(sva)];
4146 const pt_entry_t opte = *ptep;
4165 l2pte_reset(ptep);
4166 PTE_SYNC(ptep);
4170 l2pte_set(ptep, npte, 0);
4171 PTE_SYNC(ptep);
4199 ptep += PAGE_SIZE / L2_S_SIZE;
4221 pt_entry_t *ptep;
4242 for (ptep = &l2b->l2b_kva[l2pte_index(sva)];
4245 ptep += PAGE_SIZE / L2_S_SIZE,
4247 if (l2pte_valid_p(*ptep)) {
4395 pt_entry_t * const ptep = &l2b->l2b_kva[l2pte_index(va)];
4396 const pt_entry_t opte = *ptep;
4411 l2pte_reset(ptep);
4412 PTE_SYNC(ptep);
4418 l2pte_set(ptep, opte & ~L2_XS_XN, 0);
4419 PTE_SYNC(ptep);
4475 UVMHIST_LOG(maphist, " <-- done (no ptep for l1slot %#jx)",
4483 pt_entry_t * const ptep = &l2b->l2b_kva[l2pte_index(va)];
4484 pt_entry_t const opte = *ptep;
4572 l2pte_reset(ptep);
4573 PTE_SYNC(ptep);
4576 l2pte_set(ptep, npte, 0);
4577 PTE_SYNC(ptep);
4643 l2pte_reset(ptep);
4644 PTE_SYNC(ptep);
4647 l2pte_set(ptep, npte, 0);
4648 PTE_SYNC(ptep);
4685 l2pte_reset(ptep);
4686 PTE_SYNC(ptep);
4688 l2pte_set(ptep, opte & ~L2_XS_XN, 0);
4689 PTE_SYNC(ptep);
4725 "mapped - pte=%p *pte=%08x\n", ptep, opte);
4750 PTE_SYNC(ptep);
4799 printf("fixup: l2 %p, l2b %p, ptep %p, pte %#x\n",
4800 l2, l2b, ptep, opte);
4882 pt_entry_t *ptep, pte;
4895 ptep = &l2b->l2b_kva[l2pte_index(va)];
4896 pte = *ptep;
5522 pt_entry_t * const ptep = cpu_cdst_pte(va_offset);
5539 l2pte_set(ptep, npte, 0);
5540 PTE_SYNC(ptep);
5560 l2pte_reset(ptep);
5561 PTE_SYNC(ptep);
5650 pt_entry_t * const ptep = cpu_cdst_pte(va_offset);
5667 l2pte_set(ptep, npte, 0);
5668 PTE_SYNC(ptep);
5715 l2pte_reset(ptep);
5716 PTE_SYNC(ptep);
6000 pt_entry_t * const ptep __diagused = &l2b->l2b_kva[l2pte_index(va)];
6001 const pt_entry_t pte __diagused = *ptep;
6063 pt_entry_t *ptep;
6070 ptep = (pt_entry_t *)nva;
6077 PTE_SYNC_RANGE(ptep, PAGE_SIZE / sizeof(pt_entry_t));
6081 l2b->l2b_kva = ptep;
6184 pt_entry_t *ptep;
6200 ptep = &l2b->l2b_kva[l2pte_index(vector_page)];
6202 const pt_entry_t opte = *ptep;
6210 l2pte_set(ptep, npte, opte);
6211 PTE_SYNC(ptep);
6237 pt_entry_t *ptep;
6254 (ptep = l2->l2_bucket[L2_BUCKET(l1slot)].l2b_kva) == NULL) {
6258 *ptp = &ptep[l2pte_index(va)];
6333 pt_entry_t *ptep;
6415 ptep = (pt_entry_t *)kernel_pt_lookup(pa);
6416 if (ptep == NULL) {
6441 l2b->l2b_kva = ptep;
6451 if ((ptep[l2idx] & L2_TYPE_MASK) != L2_TYPE_INV) {
6462 if (pmap_set_pt_cache_mode(l1pt, (vaddr_t)ptep, 1)) {
6464 "L2 pte @ %p\n", ptep);
6641 pt_entry_t *ptep = (pt_entry_t *)kernel_pt_lookup(pa);
6642 if (ptep == NULL)
6645 ptep += l2pte_index(va);
6646 const pt_entry_t opte = *ptep;
6650 l2pte_set(ptep, npte, opte);
6651 PTE_SYNC(ptep);
6652 cpu_dcache_wbinv_range((vaddr_t)ptep, sizeof(*ptep));
6663 pmap_alloc_specials(vaddr_t *availp, int pages, vaddr_t *vap, pt_entry_t **ptep)
6668 if (ptep) {
6673 *ptep = &l2b->l2b_kva[l2pte_index(va)];
6985 pt_entry_t *ptep;
7010 ptep = (pt_entry_t *) kernel_pt_lookup(l1pte_pa(pdep[l1slot]));
7011 if (ptep == NULL)
7020 ptep += l2pte_index(va);
7021 l2pte_set(ptep, npte, 0);
7022 PTE_SYNC(ptep);
7149 pt_entry_t *ptep = (pt_entry_t *) kernel_pt_lookup(l1pte_pa(pdep[l1slot]));
7150 if (ptep == NULL)
7154 ptep += l2pte_index(va);
7165 l2pte_set(ptep, npte, 0);
7166 PTE_SYNC_RANGE(ptep, L2_L_SIZE / L2_S_SIZE);
7184 l2pte_set(ptep, npte, 0);
7185 PTE_SYNC(ptep);
7609 pt_entry_t *ptep = (pt_entry_t *) kernel_pt_lookup(l1pte_pa(pde[l1slot]));
7610 if (ptep == NULL)
7614 ptep += l2pte_index(va);
7615 pt_entry_t opte = *ptep;
7616 l2pte_set(ptep,
7665 pt_entry_t *ptep = sptep;
7668 const pt_entry_t opte = *ptep;
7672 l2pte_set(ptep, opte & ~L2_B, opte);
7674 ptep += PAGE_SIZE / L2_S_SIZE;
7677 PTE_SYNC_RANGE(sptep, (u_int)(ptep - sptep));
7932 pt_entry_t *ptep, pte;
7961 ptep = l2b->l2b_kva;
7963 for (k = 0; k < 256 && ptep[k] == 0; k++)
7980 pte = ptep[k];