Home | History | Annotate | Line # | Download | only in include
frameasm.h revision 1.4.14.1
      1  1.4.14.1  bouyer /*	$NetBSD: frameasm.h,v 1.4.14.1 2007/10/17 21:38:17 bouyer Exp $	*/
      2       1.1    fvdl 
      3       1.1    fvdl #ifndef _AMD64_MACHINE_FRAMEASM_H
      4       1.1    fvdl #define _AMD64_MACHINE_FRAMEASM_H
      5  1.4.14.1  bouyer #include "opt_xen.h"
      6       1.1    fvdl 
      7       1.1    fvdl /*
      8       1.1    fvdl  * Macros to define pushing/popping frames for interrupts, traps
      9       1.1    fvdl  * and system calls. Currently all the same; will diverge later.
     10       1.1    fvdl  */
     11       1.1    fvdl 
     12  1.4.14.1  bouyer #ifdef XEN
     13  1.4.14.1  bouyer #define HYPERVISOR_iret hypercall_page + (__HYPERVISOR_iret * 32)
     14  1.4.14.1  bouyer /* Xen do not need swapgs, done by hypervisor */
     15  1.4.14.1  bouyer #define swapgs
     16  1.4.14.1  bouyer #define iretq	subq $8,%rsp ; jmp HYPERVISOR_iret
     17  1.4.14.1  bouyer #endif
     18  1.4.14.1  bouyer 
     19       1.1    fvdl /*
     20       1.1    fvdl  * These are used on interrupt or trap entry or exit.
     21       1.1    fvdl  */
     22       1.1    fvdl #define INTR_SAVE_GPRS \
     23       1.1    fvdl 	subq	$120,%rsp	; \
     24       1.1    fvdl 	movq	%r15,TF_R15(%rsp)	; \
     25       1.1    fvdl 	movq	%r14,TF_R14(%rsp)	; \
     26       1.1    fvdl 	movq	%r13,TF_R13(%rsp)	; \
     27       1.1    fvdl 	movq	%r12,TF_R12(%rsp)	; \
     28       1.1    fvdl 	movq	%r11,TF_R11(%rsp)	; \
     29       1.1    fvdl 	movq	%r10,TF_R10(%rsp)	; \
     30       1.1    fvdl 	movq	%r9,TF_R9(%rsp)		; \
     31       1.1    fvdl 	movq	%r8,TF_R8(%rsp)		; \
     32       1.1    fvdl 	movq	%rdi,TF_RDI(%rsp)	; \
     33       1.1    fvdl 	movq	%rsi,TF_RSI(%rsp)	; \
     34       1.1    fvdl 	movq	%rbp,TF_RBP(%rsp)	; \
     35       1.1    fvdl 	movq	%rbx,TF_RBX(%rsp)	; \
     36       1.1    fvdl 	movq	%rdx,TF_RDX(%rsp)	; \
     37       1.1    fvdl 	movq	%rcx,TF_RCX(%rsp)	; \
     38       1.1    fvdl 	movq	%rax,TF_RAX(%rsp)
     39       1.1    fvdl 
     40       1.1    fvdl #define	INTR_RESTORE_GPRS \
     41       1.1    fvdl 	movq	TF_R15(%rsp),%r15	; \
     42       1.1    fvdl 	movq	TF_R14(%rsp),%r14	; \
     43       1.1    fvdl 	movq	TF_R13(%rsp),%r13	; \
     44       1.1    fvdl 	movq	TF_R12(%rsp),%r12	; \
     45       1.1    fvdl 	movq	TF_R11(%rsp),%r11	; \
     46       1.1    fvdl 	movq	TF_R10(%rsp),%r10	; \
     47       1.1    fvdl 	movq	TF_R9(%rsp),%r9		; \
     48       1.1    fvdl 	movq	TF_R8(%rsp),%r8		; \
     49       1.1    fvdl 	movq	TF_RDI(%rsp),%rdi	; \
     50       1.1    fvdl 	movq	TF_RSI(%rsp),%rsi	; \
     51       1.1    fvdl 	movq	TF_RBP(%rsp),%rbp	; \
     52       1.1    fvdl 	movq	TF_RBX(%rsp),%rbx	; \
     53       1.1    fvdl 	movq	TF_RDX(%rsp),%rdx	; \
     54       1.1    fvdl 	movq	TF_RCX(%rsp),%rcx	; \
     55       1.1    fvdl 	movq	TF_RAX(%rsp),%rax	; \
     56       1.1    fvdl 	addq	$120,%rsp
     57       1.1    fvdl 
     58       1.1    fvdl #define	INTRENTRY \
     59       1.1    fvdl 	subq	$32,%rsp		; \
     60       1.1    fvdl 	testq	$SEL_UPL,56(%rsp)	; \
     61       1.1    fvdl 	je	98f			; \
     62       1.1    fvdl 	swapgs				; \
     63       1.4    fvdl 	movw	%gs,0(%rsp)		; \
     64       1.4    fvdl 	movw	%fs,8(%rsp)		; \
     65       1.1    fvdl 	movw	%es,16(%rsp)		; \
     66       1.1    fvdl 	movw	%ds,24(%rsp)		; \
     67       1.1    fvdl 98: 	INTR_SAVE_GPRS
     68       1.1    fvdl 
     69  1.4.14.1  bouyer #ifndef XEN
     70       1.1    fvdl #define INTRFASTEXIT \
     71       1.1    fvdl 	INTR_RESTORE_GPRS 		; \
     72       1.1    fvdl 	testq	$SEL_UPL,56(%rsp)	; \
     73       1.1    fvdl 	je	99f			; \
     74       1.1    fvdl 	cli				; \
     75       1.1    fvdl 	swapgs				; \
     76       1.4    fvdl 	movw	0(%rsp),%gs		; \
     77       1.4    fvdl 	movw	8(%rsp),%fs		; \
     78       1.1    fvdl 	movw	16(%rsp),%es		; \
     79       1.1    fvdl 	movw	24(%rsp),%ds		; \
     80       1.1    fvdl 99:	addq	$48,%rsp		; \
     81       1.1    fvdl 	iretq
     82       1.1    fvdl 
     83       1.1    fvdl #define INTR_RECURSE_HWFRAME \
     84       1.1    fvdl 	movq	%rsp,%r10		; \
     85       1.1    fvdl 	movl	%ss,%r11d		; \
     86       1.1    fvdl 	pushq	%r11			; \
     87       1.1    fvdl 	pushq	%r10			; \
     88       1.1    fvdl 	pushfq				; \
     89       1.1    fvdl 	movl	%cs,%r11d		; \
     90       1.1    fvdl 	pushq	%r11			; \
     91       1.1    fvdl 	pushq	%r13			;
     92       1.1    fvdl 
     93  1.4.14.1  bouyer #else	/* !XEN */
     94  1.4.14.1  bouyer /*
     95  1.4.14.1  bouyer  * Disabling events before going to user mode sounds like a BAD idea
     96  1.4.14.1  bouyer  * do no restore gs either, HYPERVISOR_iret will do a swapgs
     97  1.4.14.1  bouyer  */
     98  1.4.14.1  bouyer #define INTRFASTEXIT \
     99  1.4.14.1  bouyer  	INTR_RESTORE_GPRS 		; \
    100  1.4.14.1  bouyer  	testq	$SEL_UPL,56(%rsp)	; \
    101  1.4.14.1  bouyer  	je	99f			; \
    102  1.4.14.1  bouyer  	movw	8(%rsp),%fs		; \
    103  1.4.14.1  bouyer  	movw	16(%rsp),%es		; \
    104  1.4.14.1  bouyer  	movw	24(%rsp),%ds		; \
    105  1.4.14.1  bouyer 99:	addq	$48,%rsp		; \
    106  1.4.14.1  bouyer  	iretq
    107  1.4.14.1  bouyer 
    108  1.4.14.1  bouyer /* We must fixup CS, as even kernel mode runs at CPL 3 */
    109  1.4.14.1  bouyer #define INTR_RECURSE_HWFRAME \
    110  1.4.14.1  bouyer  	movq	%rsp,%r10		; \
    111  1.4.14.1  bouyer  	movl	%ss,%r11d		; \
    112  1.4.14.1  bouyer  	pushq	%r11			; \
    113  1.4.14.1  bouyer  	pushq	%r10			; \
    114  1.4.14.1  bouyer  	pushfq				; \
    115  1.4.14.1  bouyer  	movl	%cs,%r11d		; \
    116  1.4.14.1  bouyer  	pushq	%r11			; \
    117  1.4.14.1  bouyer  	andb	$0xfc,(%rsp)		; \
    118  1.4.14.1  bouyer  	pushq	%r13			;
    119  1.4.14.1  bouyer 
    120  1.4.14.1  bouyer #endif	/* !XEN */
    121  1.4.14.1  bouyer 
    122       1.1    fvdl 
    123       1.2      ad #define CHECK_ASTPENDING(reg)	cmpq	$0, reg				; \
    124       1.1    fvdl 				je	99f				; \
    125       1.2      ad 				cmpl	$0, L_MD_ASTPENDING(reg)	; \
    126       1.1    fvdl 				99:
    127       1.1    fvdl 
    128       1.2      ad #define CLEAR_ASTPENDING(reg)	movl	$0, L_MD_ASTPENDING(reg)
    129       1.1    fvdl 
    130  1.4.14.1  bouyer #ifdef XEN
    131  1.4.14.1  bouyer #define CLI(reg1,reg2) \
    132  1.4.14.1  bouyer  	movq CPUVAR(CPUID),reg1 ;		\
    133  1.4.14.1  bouyer  	shlq $6,reg1 ;					\
    134  1.4.14.1  bouyer  	movq _C_LABEL(HYPERVISOR_shared_info),reg2 ;	\
    135  1.4.14.1  bouyer  	addq reg1,reg2 ;				\
    136  1.4.14.1  bouyer  	movb $1,EVTCHN_UPCALL_MASK(reg2)
    137  1.4.14.1  bouyer #define STI(reg1,reg2) \
    138  1.4.14.1  bouyer  	movq CPUVAR(CPUID),reg1 ;		\
    139  1.4.14.1  bouyer  	shlq $6,reg1 ;					\
    140  1.4.14.1  bouyer  	movq _C_LABEL(HYPERVISOR_shared_info),reg2 ;	\
    141  1.4.14.1  bouyer  	addq reg1,reg2 ;				\
    142  1.4.14.1  bouyer  	movb $0,EVTCHN_UPCALL_MASK(reg2)
    143  1.4.14.1  bouyer #else /* XEN */
    144  1.4.14.1  bouyer #define CLI(reg1,reg2) cli
    145  1.4.14.1  bouyer #define STI(reg1,reg2) sti
    146  1.4.14.1  bouyer #endif	/* XEN */
    147       1.1    fvdl #endif /* _AMD64_MACHINE_FRAMEASM_H */
    148