frameasm.h revision 1.4.14.2 1 1.4.14.2 bouyer /* $NetBSD: frameasm.h,v 1.4.14.2 2007/10/18 21:53:11 bouyer Exp $ */
2 1.1 fvdl
3 1.1 fvdl #ifndef _AMD64_MACHINE_FRAMEASM_H
4 1.1 fvdl #define _AMD64_MACHINE_FRAMEASM_H
5 1.4.14.1 bouyer #include "opt_xen.h"
6 1.1 fvdl
7 1.1 fvdl /*
8 1.1 fvdl * Macros to define pushing/popping frames for interrupts, traps
9 1.1 fvdl * and system calls. Currently all the same; will diverge later.
10 1.1 fvdl */
11 1.1 fvdl
12 1.4.14.1 bouyer #ifdef XEN
13 1.4.14.1 bouyer #define HYPERVISOR_iret hypercall_page + (__HYPERVISOR_iret * 32)
14 1.4.14.1 bouyer /* Xen do not need swapgs, done by hypervisor */
15 1.4.14.1 bouyer #define swapgs
16 1.4.14.2 bouyer #define iretq pushq $0 ; jmp HYPERVISOR_iret
17 1.4.14.1 bouyer #endif
18 1.4.14.1 bouyer
19 1.1 fvdl /*
20 1.1 fvdl * These are used on interrupt or trap entry or exit.
21 1.1 fvdl */
22 1.1 fvdl #define INTR_SAVE_GPRS \
23 1.1 fvdl subq $120,%rsp ; \
24 1.1 fvdl movq %r15,TF_R15(%rsp) ; \
25 1.1 fvdl movq %r14,TF_R14(%rsp) ; \
26 1.1 fvdl movq %r13,TF_R13(%rsp) ; \
27 1.1 fvdl movq %r12,TF_R12(%rsp) ; \
28 1.1 fvdl movq %r11,TF_R11(%rsp) ; \
29 1.1 fvdl movq %r10,TF_R10(%rsp) ; \
30 1.1 fvdl movq %r9,TF_R9(%rsp) ; \
31 1.1 fvdl movq %r8,TF_R8(%rsp) ; \
32 1.1 fvdl movq %rdi,TF_RDI(%rsp) ; \
33 1.1 fvdl movq %rsi,TF_RSI(%rsp) ; \
34 1.1 fvdl movq %rbp,TF_RBP(%rsp) ; \
35 1.1 fvdl movq %rbx,TF_RBX(%rsp) ; \
36 1.1 fvdl movq %rdx,TF_RDX(%rsp) ; \
37 1.1 fvdl movq %rcx,TF_RCX(%rsp) ; \
38 1.1 fvdl movq %rax,TF_RAX(%rsp)
39 1.1 fvdl
40 1.1 fvdl #define INTR_RESTORE_GPRS \
41 1.1 fvdl movq TF_R15(%rsp),%r15 ; \
42 1.1 fvdl movq TF_R14(%rsp),%r14 ; \
43 1.1 fvdl movq TF_R13(%rsp),%r13 ; \
44 1.1 fvdl movq TF_R12(%rsp),%r12 ; \
45 1.1 fvdl movq TF_R11(%rsp),%r11 ; \
46 1.1 fvdl movq TF_R10(%rsp),%r10 ; \
47 1.1 fvdl movq TF_R9(%rsp),%r9 ; \
48 1.1 fvdl movq TF_R8(%rsp),%r8 ; \
49 1.1 fvdl movq TF_RDI(%rsp),%rdi ; \
50 1.1 fvdl movq TF_RSI(%rsp),%rsi ; \
51 1.1 fvdl movq TF_RBP(%rsp),%rbp ; \
52 1.1 fvdl movq TF_RBX(%rsp),%rbx ; \
53 1.1 fvdl movq TF_RDX(%rsp),%rdx ; \
54 1.1 fvdl movq TF_RCX(%rsp),%rcx ; \
55 1.1 fvdl movq TF_RAX(%rsp),%rax ; \
56 1.1 fvdl addq $120,%rsp
57 1.1 fvdl
58 1.1 fvdl #define INTRENTRY \
59 1.1 fvdl subq $32,%rsp ; \
60 1.1 fvdl testq $SEL_UPL,56(%rsp) ; \
61 1.1 fvdl je 98f ; \
62 1.1 fvdl swapgs ; \
63 1.4 fvdl movw %gs,0(%rsp) ; \
64 1.4 fvdl movw %fs,8(%rsp) ; \
65 1.1 fvdl movw %es,16(%rsp) ; \
66 1.1 fvdl movw %ds,24(%rsp) ; \
67 1.1 fvdl 98: INTR_SAVE_GPRS
68 1.1 fvdl
69 1.4.14.1 bouyer #ifndef XEN
70 1.1 fvdl #define INTRFASTEXIT \
71 1.1 fvdl INTR_RESTORE_GPRS ; \
72 1.1 fvdl testq $SEL_UPL,56(%rsp) ; \
73 1.1 fvdl je 99f ; \
74 1.1 fvdl cli ; \
75 1.1 fvdl swapgs ; \
76 1.4 fvdl movw 0(%rsp),%gs ; \
77 1.4 fvdl movw 8(%rsp),%fs ; \
78 1.1 fvdl movw 16(%rsp),%es ; \
79 1.1 fvdl movw 24(%rsp),%ds ; \
80 1.1 fvdl 99: addq $48,%rsp ; \
81 1.1 fvdl iretq
82 1.1 fvdl
83 1.1 fvdl #define INTR_RECURSE_HWFRAME \
84 1.1 fvdl movq %rsp,%r10 ; \
85 1.1 fvdl movl %ss,%r11d ; \
86 1.1 fvdl pushq %r11 ; \
87 1.1 fvdl pushq %r10 ; \
88 1.1 fvdl pushfq ; \
89 1.1 fvdl movl %cs,%r11d ; \
90 1.1 fvdl pushq %r11 ; \
91 1.1 fvdl pushq %r13 ;
92 1.1 fvdl
93 1.4.14.1 bouyer #else /* !XEN */
94 1.4.14.1 bouyer /*
95 1.4.14.1 bouyer * Disabling events before going to user mode sounds like a BAD idea
96 1.4.14.1 bouyer * do no restore gs either, HYPERVISOR_iret will do a swapgs
97 1.4.14.1 bouyer */
98 1.4.14.1 bouyer #define INTRFASTEXIT \
99 1.4.14.1 bouyer INTR_RESTORE_GPRS ; \
100 1.4.14.1 bouyer testq $SEL_UPL,56(%rsp) ; \
101 1.4.14.1 bouyer je 99f ; \
102 1.4.14.1 bouyer movw 8(%rsp),%fs ; \
103 1.4.14.1 bouyer movw 16(%rsp),%es ; \
104 1.4.14.1 bouyer movw 24(%rsp),%ds ; \
105 1.4.14.1 bouyer 99: addq $48,%rsp ; \
106 1.4.14.1 bouyer iretq
107 1.4.14.1 bouyer
108 1.4.14.1 bouyer /* We must fixup CS, as even kernel mode runs at CPL 3 */
109 1.4.14.1 bouyer #define INTR_RECURSE_HWFRAME \
110 1.4.14.1 bouyer movq %rsp,%r10 ; \
111 1.4.14.1 bouyer movl %ss,%r11d ; \
112 1.4.14.1 bouyer pushq %r11 ; \
113 1.4.14.1 bouyer pushq %r10 ; \
114 1.4.14.1 bouyer pushfq ; \
115 1.4.14.1 bouyer movl %cs,%r11d ; \
116 1.4.14.1 bouyer pushq %r11 ; \
117 1.4.14.1 bouyer andb $0xfc,(%rsp) ; \
118 1.4.14.1 bouyer pushq %r13 ;
119 1.4.14.1 bouyer
120 1.4.14.1 bouyer #endif /* !XEN */
121 1.4.14.1 bouyer
122 1.1 fvdl
123 1.2 ad #define CHECK_ASTPENDING(reg) cmpq $0, reg ; \
124 1.1 fvdl je 99f ; \
125 1.2 ad cmpl $0, L_MD_ASTPENDING(reg) ; \
126 1.1 fvdl 99:
127 1.1 fvdl
128 1.2 ad #define CLEAR_ASTPENDING(reg) movl $0, L_MD_ASTPENDING(reg)
129 1.1 fvdl
130 1.4.14.1 bouyer #ifdef XEN
131 1.4.14.1 bouyer #define CLI(reg1,reg2) \
132 1.4.14.1 bouyer movq CPUVAR(CPUID),reg1 ; \
133 1.4.14.1 bouyer shlq $6,reg1 ; \
134 1.4.14.1 bouyer movq _C_LABEL(HYPERVISOR_shared_info),reg2 ; \
135 1.4.14.1 bouyer addq reg1,reg2 ; \
136 1.4.14.1 bouyer movb $1,EVTCHN_UPCALL_MASK(reg2)
137 1.4.14.1 bouyer #define STI(reg1,reg2) \
138 1.4.14.1 bouyer movq CPUVAR(CPUID),reg1 ; \
139 1.4.14.1 bouyer shlq $6,reg1 ; \
140 1.4.14.1 bouyer movq _C_LABEL(HYPERVISOR_shared_info),reg2 ; \
141 1.4.14.1 bouyer addq reg1,reg2 ; \
142 1.4.14.1 bouyer movb $0,EVTCHN_UPCALL_MASK(reg2)
143 1.4.14.1 bouyer #else /* XEN */
144 1.4.14.1 bouyer #define CLI(reg1,reg2) cli
145 1.4.14.1 bouyer #define STI(reg1,reg2) sti
146 1.4.14.1 bouyer #endif /* XEN */
147 1.1 fvdl #endif /* _AMD64_MACHINE_FRAMEASM_H */
148