Home | History | Annotate | Line # | Download | only in netinet
ip_encap.c revision 1.42
      1  1.42     ozaki /*	$NetBSD: ip_encap.c,v 1.42 2015/04/15 08:47:28 ozaki-r Exp $	*/
      2   1.7    itojun /*	$KAME: ip_encap.c,v 1.73 2001/10/02 08:30:58 itojun Exp $	*/
      3   1.1    itojun 
      4   1.1    itojun /*
      5   1.1    itojun  * Copyright (C) 1995, 1996, 1997, and 1998 WIDE Project.
      6   1.1    itojun  * All rights reserved.
      7   1.1    itojun  *
      8   1.1    itojun  * Redistribution and use in source and binary forms, with or without
      9   1.1    itojun  * modification, are permitted provided that the following conditions
     10   1.1    itojun  * are met:
     11   1.1    itojun  * 1. Redistributions of source code must retain the above copyright
     12   1.1    itojun  *    notice, this list of conditions and the following disclaimer.
     13   1.1    itojun  * 2. Redistributions in binary form must reproduce the above copyright
     14   1.1    itojun  *    notice, this list of conditions and the following disclaimer in the
     15   1.1    itojun  *    documentation and/or other materials provided with the distribution.
     16   1.1    itojun  * 3. Neither the name of the project nor the names of its contributors
     17   1.1    itojun  *    may be used to endorse or promote products derived from this software
     18   1.1    itojun  *    without specific prior written permission.
     19   1.1    itojun  *
     20   1.1    itojun  * THIS SOFTWARE IS PROVIDED BY THE PROJECT AND CONTRIBUTORS ``AS IS'' AND
     21   1.1    itojun  * ANY EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE
     22   1.1    itojun  * IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR PURPOSE
     23   1.1    itojun  * ARE DISCLAIMED.  IN NO EVENT SHALL THE PROJECT OR CONTRIBUTORS BE LIABLE
     24   1.1    itojun  * FOR ANY DIRECT, INDIRECT, INCIDENTAL, SPECIAL, EXEMPLARY, OR CONSEQUENTIAL
     25   1.1    itojun  * DAMAGES (INCLUDING, BUT NOT LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS
     26   1.1    itojun  * OR SERVICES; LOSS OF USE, DATA, OR PROFITS; OR BUSINESS INTERRUPTION)
     27   1.1    itojun  * HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER IN CONTRACT, STRICT
     28   1.1    itojun  * LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE) ARISING IN ANY WAY
     29   1.1    itojun  * OUT OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED OF THE POSSIBILITY OF
     30   1.1    itojun  * SUCH DAMAGE.
     31   1.1    itojun  */
     32   1.1    itojun /*
     33   1.1    itojun  * My grandfather said that there's a devil inside tunnelling technology...
     34   1.1    itojun  *
     35   1.1    itojun  * We have surprisingly many protocols that want packets with IP protocol
     36   1.1    itojun  * #4 or #41.  Here's a list of protocols that want protocol #41:
     37   1.1    itojun  *	RFC1933 configured tunnel
     38   1.1    itojun  *	RFC1933 automatic tunnel
     39   1.1    itojun  *	RFC2401 IPsec tunnel
     40   1.1    itojun  *	RFC2473 IPv6 generic packet tunnelling
     41   1.1    itojun  *	RFC2529 6over4 tunnel
     42   1.7    itojun  *	RFC3056 6to4 tunnel
     43   1.7    itojun  *	isatap tunnel
     44   1.1    itojun  *	mobile-ip6 (uses RFC2473)
     45   1.1    itojun  * Here's a list of protocol that want protocol #4:
     46   1.1    itojun  *	RFC1853 IPv4-in-IPv4 tunnelling
     47   1.1    itojun  *	RFC2003 IPv4 encapsulation within IPv4
     48   1.1    itojun  *	RFC2344 reverse tunnelling for mobile-ip4
     49   1.1    itojun  *	RFC2401 IPsec tunnel
     50   1.1    itojun  * Well, what can I say.  They impose different en/decapsulation mechanism
     51   1.1    itojun  * from each other, so they need separate protocol handler.  The only one
     52   1.1    itojun  * we can easily determine by protocol # is IPsec, which always has
     53   1.1    itojun  * AH/ESP/IPComp header right after outer IP header.
     54   1.1    itojun  *
     55   1.1    itojun  * So, clearly good old protosw does not work for protocol #4 and #41.
     56   1.1    itojun  * The code will let you match protocol via src/dst address pair.
     57   1.1    itojun  */
     58   1.1    itojun /* XXX is M_NETADDR correct? */
     59   1.6     lukem 
     60   1.7    itojun /*
     61   1.7    itojun  * With USE_RADIX the code will use radix table for tunnel lookup, for
     62   1.7    itojun  * tunnels registered with encap_attach() with a addr/mask pair.
     63   1.7    itojun  * Faster on machines with thousands of tunnel registerations (= interfaces).
     64   1.7    itojun  *
     65   1.7    itojun  * The code assumes that radix table code can handle non-continuous netmask,
     66   1.7    itojun  * as it will pass radix table memory region with (src + dst) sockaddr pair.
     67   1.7    itojun  *
     68   1.7    itojun  * FreeBSD is excluded here as they make max_keylen a static variable, and
     69   1.7    itojun  * thus forbid definition of radix table other than proper domains.
     70  1.33     pooka  *
     71  1.33     pooka  * !!!!!!!
     72  1.33     pooka  * !!NOTE: dom_maxrtkey assumes USE_RADIX is defined.
     73  1.33     pooka  * !!!!!!!
     74   1.7    itojun  */
     75   1.7    itojun #define USE_RADIX
     76   1.7    itojun 
     77   1.6     lukem #include <sys/cdefs.h>
     78  1.42     ozaki __KERNEL_RCSID(0, "$NetBSD: ip_encap.c,v 1.42 2015/04/15 08:47:28 ozaki-r Exp $");
     79   1.1    itojun 
     80   1.4    itojun #include "opt_mrouting.h"
     81   1.4    itojun #include "opt_inet.h"
     82   1.1    itojun 
     83   1.1    itojun #include <sys/param.h>
     84   1.1    itojun #include <sys/systm.h>
     85   1.1    itojun #include <sys/socket.h>
     86   1.1    itojun #include <sys/sockio.h>
     87   1.1    itojun #include <sys/mbuf.h>
     88   1.1    itojun #include <sys/errno.h>
     89   1.1    itojun #include <sys/protosw.h>
     90   1.4    itojun #include <sys/queue.h>
     91   1.1    itojun 
     92   1.1    itojun #include <net/if.h>
     93   1.1    itojun #include <net/route.h>
     94   1.1    itojun 
     95   1.1    itojun #include <netinet/in.h>
     96   1.1    itojun #include <netinet/in_systm.h>
     97   1.1    itojun #include <netinet/ip.h>
     98   1.1    itojun #include <netinet/ip_var.h>
     99   1.1    itojun #include <netinet/ip_encap.h>
    100   1.1    itojun #ifdef MROUTING
    101   1.1    itojun #include <netinet/ip_mroute.h>
    102   1.1    itojun #endif /* MROUTING */
    103   1.1    itojun 
    104   1.1    itojun #ifdef INET6
    105   1.1    itojun #include <netinet/ip6.h>
    106   1.1    itojun #include <netinet6/ip6_var.h>
    107   1.1    itojun #include <netinet6/ip6protosw.h>
    108   1.7    itojun #include <netinet6/in6_var.h>
    109   1.7    itojun #include <netinet6/in6_pcb.h>
    110   1.7    itojun #include <netinet/icmp6.h>
    111   1.1    itojun #endif
    112   1.1    itojun 
    113   1.1    itojun #include <net/net_osdep.h>
    114   1.1    itojun 
    115   1.7    itojun enum direction { INBOUND, OUTBOUND };
    116   1.7    itojun 
    117   1.7    itojun #ifdef INET
    118  1.22     perry static struct encaptab *encap4_lookup(struct mbuf *, int, int, enum direction);
    119   1.7    itojun #endif
    120   1.7    itojun #ifdef INET6
    121  1.22     perry static struct encaptab *encap6_lookup(struct mbuf *, int, int, enum direction);
    122   1.7    itojun #endif
    123  1.22     perry static int encap_add(struct encaptab *);
    124  1.22     perry static int encap_remove(struct encaptab *);
    125  1.22     perry static int encap_afcheck(int, const struct sockaddr *, const struct sockaddr *);
    126   1.7    itojun #ifdef USE_RADIX
    127  1.22     perry static struct radix_node_head *encap_rnh(int);
    128  1.22     perry static int mask_matchlen(const struct sockaddr *);
    129   1.7    itojun #endif
    130   1.7    itojun #ifndef USE_RADIX
    131  1.22     perry static int mask_match(const struct encaptab *, const struct sockaddr *,
    132  1.22     perry 		const struct sockaddr *);
    133   1.7    itojun #endif
    134  1.22     perry static void encap_fillarg(struct mbuf *, const struct encaptab *);
    135   1.1    itojun 
    136   1.2   thorpej LIST_HEAD(, encaptab) encaptab = LIST_HEAD_INITIALIZER(&encaptab);
    137   1.1    itojun 
    138   1.7    itojun #ifdef USE_RADIX
    139   1.7    itojun extern int max_keylen;	/* radix.c */
    140   1.7    itojun struct radix_node_head *encap_head[2];	/* 0 for AF_INET, 1 for AF_INET6 */
    141   1.7    itojun #endif
    142   1.7    itojun 
    143   1.1    itojun void
    144  1.23     perry encap_init(void)
    145   1.1    itojun {
    146   1.7    itojun 	static int initialized = 0;
    147   1.7    itojun 
    148   1.7    itojun 	if (initialized)
    149   1.7    itojun 		return;
    150   1.7    itojun 	initialized++;
    151   1.1    itojun #if 0
    152   1.1    itojun 	/*
    153   1.1    itojun 	 * we cannot use LIST_INIT() here, since drivers may want to call
    154   1.4    itojun 	 * encap_attach(), on driver attach.  encap_init() will be called
    155   1.1    itojun 	 * on AF_INET{,6} initialization, which happens after driver
    156   1.1    itojun 	 * initialization - using LIST_INIT() here can nuke encap_attach()
    157   1.1    itojun 	 * from drivers.
    158   1.1    itojun 	 */
    159   1.1    itojun 	LIST_INIT(&encaptab);
    160   1.1    itojun #endif
    161   1.7    itojun 
    162   1.7    itojun #ifdef USE_RADIX
    163   1.7    itojun 	/*
    164  1.38     pooka 	 * initialize radix lookup table when the radix subsystem is inited.
    165   1.7    itojun 	 */
    166  1.38     pooka 	rn_delayedinit((void *)&encap_head[0],
    167  1.38     pooka 	    sizeof(struct sockaddr_pack) << 3);
    168   1.7    itojun #ifdef INET6
    169  1.38     pooka 	rn_delayedinit((void *)&encap_head[1],
    170  1.38     pooka 	    sizeof(struct sockaddr_pack) << 3);
    171   1.7    itojun #endif
    172   1.7    itojun #endif
    173   1.1    itojun }
    174   1.1    itojun 
    175   1.4    itojun #ifdef INET
    176   1.7    itojun static struct encaptab *
    177  1.23     perry encap4_lookup(struct mbuf *m, int off, int proto, enum direction dir)
    178   1.1    itojun {
    179   1.1    itojun 	struct ip *ip;
    180  1.33     pooka 	struct ip_pack4 pack;
    181   1.1    itojun 	struct encaptab *ep, *match;
    182   1.1    itojun 	int prio, matchprio;
    183   1.7    itojun #ifdef USE_RADIX
    184   1.7    itojun 	struct radix_node_head *rnh = encap_rnh(AF_INET);
    185   1.7    itojun 	struct radix_node *rn;
    186   1.7    itojun #endif
    187   1.1    itojun 
    188  1.41     ozaki 	KASSERT(m->m_len >= sizeof(*ip));
    189  1.41     ozaki 
    190   1.1    itojun 	ip = mtod(m, struct ip *);
    191   1.1    itojun 
    192  1.35    cegger 	memset(&pack, 0, sizeof(pack));
    193   1.7    itojun 	pack.p.sp_len = sizeof(pack);
    194   1.7    itojun 	pack.mine.sin_family = pack.yours.sin_family = AF_INET;
    195   1.7    itojun 	pack.mine.sin_len = pack.yours.sin_len = sizeof(struct sockaddr_in);
    196   1.7    itojun 	if (dir == INBOUND) {
    197   1.7    itojun 		pack.mine.sin_addr = ip->ip_dst;
    198   1.7    itojun 		pack.yours.sin_addr = ip->ip_src;
    199   1.7    itojun 	} else {
    200   1.7    itojun 		pack.mine.sin_addr = ip->ip_src;
    201   1.7    itojun 		pack.yours.sin_addr = ip->ip_dst;
    202   1.7    itojun 	}
    203   1.1    itojun 
    204   1.1    itojun 	match = NULL;
    205   1.1    itojun 	matchprio = 0;
    206   1.7    itojun 
    207   1.7    itojun #ifdef USE_RADIX
    208  1.30  christos 	rn = rnh->rnh_matchaddr((void *)&pack, rnh);
    209   1.7    itojun 	if (rn && (rn->rn_flags & RNF_ROOT) == 0) {
    210   1.7    itojun 		match = (struct encaptab *)rn;
    211   1.7    itojun 		matchprio = mask_matchlen(match->srcmask) +
    212   1.7    itojun 		    mask_matchlen(match->dstmask);
    213   1.7    itojun 	}
    214   1.7    itojun #endif
    215   1.7    itojun 
    216  1.31    dyoung 	LIST_FOREACH(ep, &encaptab, chain) {
    217   1.1    itojun 		if (ep->af != AF_INET)
    218   1.1    itojun 			continue;
    219   1.1    itojun 		if (ep->proto >= 0 && ep->proto != proto)
    220   1.1    itojun 			continue;
    221   1.1    itojun 		if (ep->func)
    222   1.1    itojun 			prio = (*ep->func)(m, off, proto, ep->arg);
    223   1.1    itojun 		else {
    224   1.7    itojun #ifdef USE_RADIX
    225   1.7    itojun 			continue;
    226   1.7    itojun #else
    227   1.7    itojun 			prio = mask_match(ep, (struct sockaddr *)&pack.mine,
    228   1.7    itojun 			    (struct sockaddr *)&pack.yours);
    229   1.7    itojun #endif
    230   1.1    itojun 		}
    231   1.1    itojun 
    232   1.1    itojun 		/*
    233   1.1    itojun 		 * We prioritize the matches by using bit length of the
    234   1.1    itojun 		 * matches.  mask_match() and user-supplied matching function
    235   1.1    itojun 		 * should return the bit length of the matches (for example,
    236   1.1    itojun 		 * if both src/dst are matched for IPv4, 64 should be returned).
    237   1.1    itojun 		 * 0 or negative return value means "it did not match".
    238   1.1    itojun 		 *
    239   1.1    itojun 		 * The question is, since we have two "mask" portion, we
    240   1.1    itojun 		 * cannot really define total order between entries.
    241   1.1    itojun 		 * For example, which of these should be preferred?
    242   1.1    itojun 		 * mask_match() returns 48 (32 + 16) for both of them.
    243   1.1    itojun 		 *	src=3ffe::/16, dst=3ffe:501::/32
    244   1.1    itojun 		 *	src=3ffe:501::/32, dst=3ffe::/16
    245   1.1    itojun 		 *
    246   1.1    itojun 		 * We need to loop through all the possible candidates
    247   1.1    itojun 		 * to get the best match - the search takes O(n) for
    248   1.1    itojun 		 * n attachments (i.e. interfaces).
    249   1.7    itojun 		 *
    250   1.7    itojun 		 * For radix-based lookup, I guess source takes precedence.
    251   1.7    itojun 		 * See rn_{refines,lexobetter} for the correct answer.
    252   1.1    itojun 		 */
    253   1.1    itojun 		if (prio <= 0)
    254   1.1    itojun 			continue;
    255   1.1    itojun 		if (prio > matchprio) {
    256   1.1    itojun 			matchprio = prio;
    257   1.1    itojun 			match = ep;
    258   1.1    itojun 		}
    259   1.1    itojun 	}
    260   1.1    itojun 
    261   1.7    itojun 	return match;
    262   1.7    itojun #undef s
    263   1.7    itojun #undef d
    264   1.7    itojun }
    265   1.7    itojun 
    266   1.7    itojun void
    267   1.7    itojun encap4_input(struct mbuf *m, ...)
    268   1.7    itojun {
    269   1.7    itojun 	int off, proto;
    270   1.7    itojun 	va_list ap;
    271   1.7    itojun 	const struct protosw *psw;
    272   1.7    itojun 	struct encaptab *match;
    273   1.7    itojun 
    274   1.7    itojun 	va_start(ap, m);
    275   1.7    itojun 	off = va_arg(ap, int);
    276   1.7    itojun 	proto = va_arg(ap, int);
    277   1.7    itojun 	va_end(ap);
    278   1.7    itojun 
    279   1.7    itojun 	match = encap4_lookup(m, off, proto, INBOUND);
    280   1.7    itojun 
    281   1.1    itojun 	if (match) {
    282   1.1    itojun 		/* found a match, "match" has the best one */
    283   1.4    itojun 		psw = match->psw;
    284   1.4    itojun 		if (psw && psw->pr_input) {
    285   1.1    itojun 			encap_fillarg(m, match);
    286   1.4    itojun 			(*psw->pr_input)(m, off, proto);
    287   1.1    itojun 		} else
    288   1.1    itojun 			m_freem(m);
    289   1.1    itojun 		return;
    290   1.1    itojun 	}
    291   1.1    itojun 
    292   1.1    itojun 	/* last resort: inject to raw socket */
    293   1.1    itojun 	rip_input(m, off, proto);
    294   1.1    itojun }
    295   1.1    itojun #endif
    296   1.1    itojun 
    297   1.1    itojun #ifdef INET6
    298   1.7    itojun static struct encaptab *
    299  1.23     perry encap6_lookup(struct mbuf *m, int off, int proto, enum direction dir)
    300   1.1    itojun {
    301   1.1    itojun 	struct ip6_hdr *ip6;
    302  1.33     pooka 	struct ip_pack6 pack;
    303   1.7    itojun 	int prio, matchprio;
    304   1.1    itojun 	struct encaptab *ep, *match;
    305   1.7    itojun #ifdef USE_RADIX
    306   1.7    itojun 	struct radix_node_head *rnh = encap_rnh(AF_INET6);
    307   1.7    itojun 	struct radix_node *rn;
    308   1.7    itojun #endif
    309   1.1    itojun 
    310  1.41     ozaki 	KASSERT(m->m_len >= sizeof(*ip6));
    311  1.41     ozaki 
    312   1.1    itojun 	ip6 = mtod(m, struct ip6_hdr *);
    313   1.1    itojun 
    314  1.35    cegger 	memset(&pack, 0, sizeof(pack));
    315   1.7    itojun 	pack.p.sp_len = sizeof(pack);
    316   1.7    itojun 	pack.mine.sin6_family = pack.yours.sin6_family = AF_INET6;
    317   1.7    itojun 	pack.mine.sin6_len = pack.yours.sin6_len = sizeof(struct sockaddr_in6);
    318   1.7    itojun 	if (dir == INBOUND) {
    319   1.7    itojun 		pack.mine.sin6_addr = ip6->ip6_dst;
    320   1.7    itojun 		pack.yours.sin6_addr = ip6->ip6_src;
    321   1.7    itojun 	} else {
    322   1.7    itojun 		pack.mine.sin6_addr = ip6->ip6_src;
    323   1.7    itojun 		pack.yours.sin6_addr = ip6->ip6_dst;
    324   1.7    itojun 	}
    325   1.1    itojun 
    326   1.1    itojun 	match = NULL;
    327   1.1    itojun 	matchprio = 0;
    328   1.7    itojun 
    329   1.7    itojun #ifdef USE_RADIX
    330  1.30  christos 	rn = rnh->rnh_matchaddr((void *)&pack, rnh);
    331   1.7    itojun 	if (rn && (rn->rn_flags & RNF_ROOT) == 0) {
    332   1.7    itojun 		match = (struct encaptab *)rn;
    333   1.7    itojun 		matchprio = mask_matchlen(match->srcmask) +
    334   1.7    itojun 		    mask_matchlen(match->dstmask);
    335   1.7    itojun 	}
    336   1.7    itojun #endif
    337   1.7    itojun 
    338  1.31    dyoung 	LIST_FOREACH(ep, &encaptab, chain) {
    339   1.1    itojun 		if (ep->af != AF_INET6)
    340   1.1    itojun 			continue;
    341   1.1    itojun 		if (ep->proto >= 0 && ep->proto != proto)
    342   1.1    itojun 			continue;
    343   1.1    itojun 		if (ep->func)
    344   1.7    itojun 			prio = (*ep->func)(m, off, proto, ep->arg);
    345   1.1    itojun 		else {
    346   1.7    itojun #ifdef USE_RADIX
    347   1.7    itojun 			continue;
    348   1.7    itojun #else
    349   1.7    itojun 			prio = mask_match(ep, (struct sockaddr *)&pack.mine,
    350   1.7    itojun 			    (struct sockaddr *)&pack.yours);
    351   1.7    itojun #endif
    352   1.1    itojun 		}
    353   1.1    itojun 
    354   1.7    itojun 		/* see encap4_lookup() for issues here */
    355   1.1    itojun 		if (prio <= 0)
    356   1.1    itojun 			continue;
    357   1.1    itojun 		if (prio > matchprio) {
    358   1.1    itojun 			matchprio = prio;
    359   1.1    itojun 			match = ep;
    360   1.1    itojun 		}
    361   1.1    itojun 	}
    362   1.1    itojun 
    363   1.7    itojun 	return match;
    364   1.7    itojun #undef s
    365   1.7    itojun #undef d
    366   1.7    itojun }
    367   1.7    itojun 
    368   1.7    itojun int
    369  1.23     perry encap6_input(struct mbuf **mp, int *offp, int proto)
    370   1.7    itojun {
    371   1.7    itojun 	struct mbuf *m = *mp;
    372   1.7    itojun 	const struct ip6protosw *psw;
    373   1.7    itojun 	struct encaptab *match;
    374   1.7    itojun 
    375   1.7    itojun 	match = encap6_lookup(m, *offp, proto, INBOUND);
    376   1.7    itojun 
    377   1.1    itojun 	if (match) {
    378   1.1    itojun 		/* found a match */
    379   1.4    itojun 		psw = (const struct ip6protosw *)match->psw;
    380   1.1    itojun 		if (psw && psw->pr_input) {
    381   1.1    itojun 			encap_fillarg(m, match);
    382   1.1    itojun 			return (*psw->pr_input)(mp, offp, proto);
    383   1.1    itojun 		} else {
    384   1.1    itojun 			m_freem(m);
    385   1.1    itojun 			return IPPROTO_DONE;
    386   1.1    itojun 		}
    387   1.1    itojun 	}
    388   1.1    itojun 
    389   1.1    itojun 	/* last resort: inject to raw socket */
    390   1.1    itojun 	return rip6_input(mp, offp, proto);
    391   1.1    itojun }
    392   1.1    itojun #endif
    393   1.1    itojun 
    394   1.7    itojun static int
    395  1.23     perry encap_add(struct encaptab *ep)
    396   1.1    itojun {
    397   1.7    itojun #ifdef USE_RADIX
    398   1.7    itojun 	struct radix_node_head *rnh = encap_rnh(ep->af);
    399   1.7    itojun #endif
    400   1.7    itojun 	int error = 0;
    401   1.1    itojun 
    402   1.1    itojun 	LIST_INSERT_HEAD(&encaptab, ep, chain);
    403   1.7    itojun #ifdef USE_RADIX
    404   1.7    itojun 	if (!ep->func && rnh) {
    405  1.30  christos 		if (!rnh->rnh_addaddr((void *)ep->addrpack,
    406  1.30  christos 		    (void *)ep->maskpack, rnh, ep->nodes)) {
    407   1.7    itojun 			error = EEXIST;
    408   1.7    itojun 			goto fail;
    409   1.7    itojun 		}
    410   1.7    itojun 	}
    411   1.7    itojun #endif
    412   1.7    itojun 	return error;
    413   1.7    itojun 
    414   1.7    itojun  fail:
    415   1.7    itojun 	LIST_REMOVE(ep, chain);
    416   1.7    itojun 	return error;
    417   1.7    itojun }
    418   1.7    itojun 
    419   1.7    itojun static int
    420  1.23     perry encap_remove(struct encaptab *ep)
    421   1.7    itojun {
    422   1.7    itojun #ifdef USE_RADIX
    423   1.7    itojun 	struct radix_node_head *rnh = encap_rnh(ep->af);
    424   1.7    itojun #endif
    425   1.7    itojun 	int error = 0;
    426   1.7    itojun 
    427   1.7    itojun 	LIST_REMOVE(ep, chain);
    428   1.7    itojun #ifdef USE_RADIX
    429   1.7    itojun 	if (!ep->func && rnh) {
    430  1.30  christos 		if (!rnh->rnh_deladdr((void *)ep->addrpack,
    431  1.30  christos 		    (void *)ep->maskpack, rnh))
    432   1.7    itojun 			error = ESRCH;
    433   1.7    itojun 	}
    434   1.7    itojun #endif
    435   1.7    itojun 	return error;
    436   1.7    itojun }
    437   1.7    itojun 
    438   1.7    itojun static int
    439  1.23     perry encap_afcheck(int af, const struct sockaddr *sp, const struct sockaddr *dp)
    440   1.7    itojun {
    441   1.7    itojun 	if (sp && dp) {
    442   1.7    itojun 		if (sp->sa_len != dp->sa_len)
    443   1.7    itojun 			return EINVAL;
    444   1.7    itojun 		if (af != sp->sa_family || af != dp->sa_family)
    445   1.7    itojun 			return EINVAL;
    446   1.7    itojun 	} else if (!sp && !dp)
    447   1.7    itojun 		;
    448   1.7    itojun 	else
    449   1.7    itojun 		return EINVAL;
    450   1.7    itojun 
    451   1.7    itojun 	switch (af) {
    452   1.7    itojun 	case AF_INET:
    453   1.7    itojun 		if (sp && sp->sa_len != sizeof(struct sockaddr_in))
    454   1.7    itojun 			return EINVAL;
    455   1.7    itojun 		if (dp && dp->sa_len != sizeof(struct sockaddr_in))
    456   1.7    itojun 			return EINVAL;
    457   1.7    itojun 		break;
    458   1.7    itojun #ifdef INET6
    459   1.7    itojun 	case AF_INET6:
    460   1.7    itojun 		if (sp && sp->sa_len != sizeof(struct sockaddr_in6))
    461   1.7    itojun 			return EINVAL;
    462   1.7    itojun 		if (dp && dp->sa_len != sizeof(struct sockaddr_in6))
    463   1.7    itojun 			return EINVAL;
    464   1.7    itojun 		break;
    465   1.7    itojun #endif
    466   1.7    itojun 	default:
    467   1.7    itojun 		return EAFNOSUPPORT;
    468   1.7    itojun 	}
    469   1.7    itojun 
    470   1.7    itojun 	return 0;
    471   1.1    itojun }
    472   1.1    itojun 
    473   1.1    itojun /*
    474   1.1    itojun  * sp (src ptr) is always my side, and dp (dst ptr) is always remote side.
    475   1.1    itojun  * length of mask (sm and dm) is assumed to be same as sp/dp.
    476   1.1    itojun  * Return value will be necessary as input (cookie) for encap_detach().
    477   1.1    itojun  */
    478   1.1    itojun const struct encaptab *
    479  1.23     perry encap_attach(int af, int proto,
    480  1.23     perry     const struct sockaddr *sp, const struct sockaddr *sm,
    481  1.23     perry     const struct sockaddr *dp, const struct sockaddr *dm,
    482  1.23     perry     const struct protosw *psw, void *arg)
    483   1.1    itojun {
    484   1.1    itojun 	struct encaptab *ep;
    485   1.1    itojun 	int error;
    486   1.1    itojun 	int s;
    487   1.7    itojun 	size_t l;
    488  1.33     pooka 	struct ip_pack4 *pack4;
    489   1.7    itojun #ifdef INET6
    490  1.33     pooka 	struct ip_pack6 *pack6;
    491   1.7    itojun #endif
    492   1.1    itojun 
    493   1.1    itojun 	s = splsoftnet();
    494   1.1    itojun 	/* sanity check on args */
    495   1.7    itojun 	error = encap_afcheck(af, sp, dp);
    496   1.7    itojun 	if (error)
    497   1.1    itojun 		goto fail;
    498   1.1    itojun 
    499   1.1    itojun 	/* check if anyone have already attached with exactly same config */
    500  1.31    dyoung 	LIST_FOREACH(ep, &encaptab, chain) {
    501   1.1    itojun 		if (ep->af != af)
    502   1.1    itojun 			continue;
    503   1.1    itojun 		if (ep->proto != proto)
    504   1.1    itojun 			continue;
    505   1.7    itojun 		if (ep->func)
    506   1.7    itojun 			continue;
    507  1.41     ozaki 
    508  1.41     ozaki 		KASSERT(ep->src != NULL && ep->dst != NULL &&
    509  1.41     ozaki 		    ep->srcmask != NULL && ep->dstmask != NULL);
    510  1.41     ozaki 
    511   1.7    itojun 		if (ep->src->sa_len != sp->sa_len ||
    512  1.34    cegger 		    memcmp(ep->src, sp, sp->sa_len) != 0 ||
    513  1.34    cegger 		    memcmp(ep->srcmask, sm, sp->sa_len) != 0)
    514   1.7    itojun 			continue;
    515   1.7    itojun 		if (ep->dst->sa_len != dp->sa_len ||
    516  1.34    cegger 		    memcmp(ep->dst, dp, dp->sa_len) != 0 ||
    517  1.34    cegger 		    memcmp(ep->dstmask, dm, dp->sa_len) != 0)
    518   1.1    itojun 			continue;
    519   1.1    itojun 
    520   1.1    itojun 		error = EEXIST;
    521   1.1    itojun 		goto fail;
    522   1.1    itojun 	}
    523   1.3   thorpej 
    524   1.7    itojun 	switch (af) {
    525   1.7    itojun 	case AF_INET:
    526   1.7    itojun 		l = sizeof(*pack4);
    527   1.7    itojun 		break;
    528   1.7    itojun #ifdef INET6
    529   1.7    itojun 	case AF_INET6:
    530   1.7    itojun 		l = sizeof(*pack6);
    531   1.7    itojun 		break;
    532   1.7    itojun #endif
    533   1.7    itojun 	default:
    534   1.7    itojun 		goto fail;
    535   1.7    itojun 	}
    536   1.7    itojun 
    537  1.20    itojun 	/* M_NETADDR ok? */
    538  1.20    itojun 	ep = malloc(sizeof(*ep), M_NETADDR, M_NOWAIT|M_ZERO);
    539   1.1    itojun 	if (ep == NULL) {
    540   1.1    itojun 		error = ENOBUFS;
    541   1.1    itojun 		goto fail;
    542   1.1    itojun 	}
    543  1.20    itojun 	ep->addrpack = malloc(l, M_NETADDR, M_NOWAIT|M_ZERO);
    544   1.7    itojun 	if (ep->addrpack == NULL) {
    545   1.7    itojun 		error = ENOBUFS;
    546   1.7    itojun 		goto gc;
    547   1.7    itojun 	}
    548  1.20    itojun 	ep->maskpack = malloc(l, M_NETADDR, M_NOWAIT|M_ZERO);
    549   1.7    itojun 	if (ep->maskpack == NULL) {
    550   1.7    itojun 		error = ENOBUFS;
    551   1.7    itojun 		goto gc;
    552   1.7    itojun 	}
    553   1.1    itojun 
    554   1.1    itojun 	ep->af = af;
    555   1.1    itojun 	ep->proto = proto;
    556   1.7    itojun 	ep->addrpack->sa_len = l & 0xff;
    557   1.7    itojun 	ep->maskpack->sa_len = l & 0xff;
    558   1.7    itojun 	switch (af) {
    559   1.7    itojun 	case AF_INET:
    560  1.33     pooka 		pack4 = (struct ip_pack4 *)ep->addrpack;
    561   1.7    itojun 		ep->src = (struct sockaddr *)&pack4->mine;
    562   1.7    itojun 		ep->dst = (struct sockaddr *)&pack4->yours;
    563  1.33     pooka 		pack4 = (struct ip_pack4 *)ep->maskpack;
    564   1.7    itojun 		ep->srcmask = (struct sockaddr *)&pack4->mine;
    565   1.7    itojun 		ep->dstmask = (struct sockaddr *)&pack4->yours;
    566   1.7    itojun 		break;
    567   1.7    itojun #ifdef INET6
    568   1.7    itojun 	case AF_INET6:
    569  1.33     pooka 		pack6 = (struct ip_pack6 *)ep->addrpack;
    570   1.7    itojun 		ep->src = (struct sockaddr *)&pack6->mine;
    571   1.7    itojun 		ep->dst = (struct sockaddr *)&pack6->yours;
    572  1.33     pooka 		pack6 = (struct ip_pack6 *)ep->maskpack;
    573   1.7    itojun 		ep->srcmask = (struct sockaddr *)&pack6->mine;
    574   1.7    itojun 		ep->dstmask = (struct sockaddr *)&pack6->yours;
    575   1.7    itojun 		break;
    576   1.7    itojun #endif
    577   1.7    itojun 	}
    578   1.7    itojun 
    579  1.37   tsutsui 	memcpy(ep->src, sp, sp->sa_len);
    580  1.37   tsutsui 	memcpy(ep->srcmask, sm, sp->sa_len);
    581  1.37   tsutsui 	memcpy(ep->dst, dp, dp->sa_len);
    582  1.37   tsutsui 	memcpy(ep->dstmask, dm, dp->sa_len);
    583   1.1    itojun 	ep->psw = psw;
    584   1.1    itojun 	ep->arg = arg;
    585   1.1    itojun 
    586   1.7    itojun 	error = encap_add(ep);
    587   1.7    itojun 	if (error)
    588   1.7    itojun 		goto gc;
    589   1.1    itojun 
    590   1.1    itojun 	error = 0;
    591   1.1    itojun 	splx(s);
    592   1.1    itojun 	return ep;
    593   1.1    itojun 
    594   1.7    itojun gc:
    595   1.7    itojun 	if (ep->addrpack)
    596   1.7    itojun 		free(ep->addrpack, M_NETADDR);
    597   1.7    itojun 	if (ep->maskpack)
    598   1.7    itojun 		free(ep->maskpack, M_NETADDR);
    599   1.7    itojun 	if (ep)
    600   1.7    itojun 		free(ep, M_NETADDR);
    601   1.1    itojun fail:
    602   1.1    itojun 	splx(s);
    603   1.1    itojun 	return NULL;
    604   1.1    itojun }
    605   1.1    itojun 
    606   1.1    itojun const struct encaptab *
    607  1.23     perry encap_attach_func(int af, int proto,
    608  1.26    martin     int (*func)(struct mbuf *, int, int, void *),
    609  1.23     perry     const struct protosw *psw, void *arg)
    610   1.1    itojun {
    611   1.1    itojun 	struct encaptab *ep;
    612   1.1    itojun 	int error;
    613   1.1    itojun 	int s;
    614   1.1    itojun 
    615   1.1    itojun 	s = splsoftnet();
    616   1.1    itojun 	/* sanity check on args */
    617   1.1    itojun 	if (!func) {
    618   1.1    itojun 		error = EINVAL;
    619   1.1    itojun 		goto fail;
    620   1.1    itojun 	}
    621   1.1    itojun 
    622   1.7    itojun 	error = encap_afcheck(af, NULL, NULL);
    623   1.7    itojun 	if (error)
    624   1.7    itojun 		goto fail;
    625   1.7    itojun 
    626   1.1    itojun 	ep = malloc(sizeof(*ep), M_NETADDR, M_NOWAIT);	/*XXX*/
    627   1.1    itojun 	if (ep == NULL) {
    628   1.1    itojun 		error = ENOBUFS;
    629   1.1    itojun 		goto fail;
    630   1.1    itojun 	}
    631  1.35    cegger 	memset(ep, 0, sizeof(*ep));
    632   1.1    itojun 
    633   1.1    itojun 	ep->af = af;
    634   1.1    itojun 	ep->proto = proto;
    635   1.1    itojun 	ep->func = func;
    636   1.1    itojun 	ep->psw = psw;
    637   1.1    itojun 	ep->arg = arg;
    638   1.1    itojun 
    639   1.7    itojun 	error = encap_add(ep);
    640   1.7    itojun 	if (error)
    641   1.7    itojun 		goto fail;
    642   1.1    itojun 
    643   1.1    itojun 	error = 0;
    644   1.1    itojun 	splx(s);
    645   1.1    itojun 	return ep;
    646   1.1    itojun 
    647   1.1    itojun fail:
    648   1.1    itojun 	splx(s);
    649   1.1    itojun 	return NULL;
    650   1.1    itojun }
    651   1.1    itojun 
    652   1.7    itojun /* XXX encap4_ctlinput() is necessary if we set DF=1 on outer IPv4 header */
    653   1.7    itojun 
    654   1.7    itojun #ifdef INET6
    655  1.32        ad void *
    656  1.29    dyoung encap6_ctlinput(int cmd, const struct sockaddr *sa, void *d0)
    657   1.7    itojun {
    658   1.7    itojun 	void *d = d0;
    659   1.7    itojun 	struct ip6_hdr *ip6;
    660   1.7    itojun 	struct mbuf *m;
    661   1.7    itojun 	int off;
    662   1.7    itojun 	struct ip6ctlparam *ip6cp = NULL;
    663   1.7    itojun 	int nxt;
    664   1.7    itojun 	struct encaptab *ep;
    665   1.7    itojun 	const struct ip6protosw *psw;
    666   1.7    itojun 
    667   1.7    itojun 	if (sa->sa_family != AF_INET6 ||
    668   1.7    itojun 	    sa->sa_len != sizeof(struct sockaddr_in6))
    669  1.32        ad 		return NULL;
    670   1.7    itojun 
    671   1.7    itojun 	if ((unsigned)cmd >= PRC_NCMDS)
    672  1.32        ad 		return NULL;
    673   1.7    itojun 	if (cmd == PRC_HOSTDEAD)
    674   1.7    itojun 		d = NULL;
    675   1.7    itojun 	else if (cmd == PRC_MSGSIZE)
    676   1.7    itojun 		; /* special code is present, see below */
    677   1.7    itojun 	else if (inet6ctlerrmap[cmd] == 0)
    678  1.32        ad 		return NULL;
    679   1.7    itojun 
    680   1.7    itojun 	/* if the parameter is from icmp6, decode it. */
    681   1.7    itojun 	if (d != NULL) {
    682   1.7    itojun 		ip6cp = (struct ip6ctlparam *)d;
    683   1.7    itojun 		m = ip6cp->ip6c_m;
    684   1.7    itojun 		ip6 = ip6cp->ip6c_ip6;
    685   1.7    itojun 		off = ip6cp->ip6c_off;
    686   1.7    itojun 		nxt = ip6cp->ip6c_nxt;
    687  1.15   mycroft 
    688  1.15   mycroft 		if (ip6 && cmd == PRC_MSGSIZE) {
    689  1.15   mycroft 			int valid = 0;
    690  1.15   mycroft 			struct encaptab *match;
    691  1.15   mycroft 
    692  1.15   mycroft 			/*
    693  1.15   mycroft 		 	* Check to see if we have a valid encap configuration.
    694  1.15   mycroft 		 	*/
    695  1.15   mycroft 			match = encap6_lookup(m, off, nxt, OUTBOUND);
    696  1.15   mycroft 			if (match)
    697  1.15   mycroft 				valid++;
    698  1.15   mycroft 
    699  1.15   mycroft 			/*
    700  1.15   mycroft 		 	* Depending on the value of "valid" and routing table
    701  1.15   mycroft 		 	* size (mtudisc_{hi,lo}wat), we will:
    702  1.15   mycroft 		 	* - recalcurate the new MTU and create the
    703  1.15   mycroft 		 	*   corresponding routing entry, or
    704  1.15   mycroft 		 	* - ignore the MTU change notification.
    705  1.15   mycroft 		 	*/
    706  1.15   mycroft 			icmp6_mtudisc_update((struct ip6ctlparam *)d, valid);
    707  1.15   mycroft 		}
    708   1.7    itojun 	} else {
    709   1.7    itojun 		m = NULL;
    710   1.7    itojun 		ip6 = NULL;
    711   1.7    itojun 		nxt = -1;
    712   1.7    itojun 	}
    713   1.7    itojun 
    714   1.7    itojun 	/* inform all listeners */
    715  1.31    dyoung 	LIST_FOREACH(ep, &encaptab, chain) {
    716   1.7    itojun 		if (ep->af != AF_INET6)
    717   1.7    itojun 			continue;
    718   1.7    itojun 		if (ep->proto >= 0 && ep->proto != nxt)
    719   1.7    itojun 			continue;
    720   1.7    itojun 
    721   1.7    itojun 		/* should optimize by looking at address pairs */
    722   1.7    itojun 
    723   1.7    itojun 		/* XXX need to pass ep->arg or ep itself to listeners */
    724   1.7    itojun 		psw = (const struct ip6protosw *)ep->psw;
    725   1.7    itojun 		if (psw && psw->pr_ctlinput)
    726   1.7    itojun 			(*psw->pr_ctlinput)(cmd, sa, d);
    727   1.7    itojun 	}
    728   1.7    itojun 
    729   1.7    itojun 	rip6_ctlinput(cmd, sa, d0);
    730  1.32        ad 	return NULL;
    731   1.7    itojun }
    732   1.7    itojun #endif
    733   1.7    itojun 
    734   1.1    itojun int
    735  1.23     perry encap_detach(const struct encaptab *cookie)
    736   1.1    itojun {
    737   1.1    itojun 	const struct encaptab *ep = cookie;
    738  1.42     ozaki 	struct encaptab *p, *np;
    739   1.7    itojun 	int error;
    740   1.1    itojun 
    741  1.42     ozaki 	LIST_FOREACH_SAFE(p, &encaptab, chain, np) {
    742   1.1    itojun 		if (p == ep) {
    743   1.7    itojun 			error = encap_remove(p);
    744   1.7    itojun 			if (error)
    745   1.7    itojun 				return error;
    746   1.7    itojun 			if (!ep->func) {
    747   1.7    itojun 				free(p->addrpack, M_NETADDR);
    748   1.7    itojun 				free(p->maskpack, M_NETADDR);
    749   1.7    itojun 			}
    750   1.1    itojun 			free(p, M_NETADDR);	/*XXX*/
    751   1.1    itojun 			return 0;
    752   1.1    itojun 		}
    753   1.1    itojun 	}
    754   1.1    itojun 
    755   1.7    itojun 	return ENOENT;
    756   1.7    itojun }
    757   1.7    itojun 
    758   1.7    itojun #ifdef USE_RADIX
    759   1.7    itojun static struct radix_node_head *
    760  1.23     perry encap_rnh(int af)
    761   1.7    itojun {
    762   1.7    itojun 
    763   1.7    itojun 	switch (af) {
    764   1.7    itojun 	case AF_INET:
    765   1.7    itojun 		return encap_head[0];
    766   1.7    itojun #ifdef INET6
    767   1.7    itojun 	case AF_INET6:
    768   1.7    itojun 		return encap_head[1];
    769   1.7    itojun #endif
    770   1.7    itojun 	default:
    771   1.7    itojun 		return NULL;
    772   1.7    itojun 	}
    773   1.7    itojun }
    774   1.7    itojun 
    775   1.7    itojun static int
    776  1.23     perry mask_matchlen(const struct sockaddr *sa)
    777   1.7    itojun {
    778   1.7    itojun 	const char *p, *ep;
    779   1.7    itojun 	int l;
    780   1.7    itojun 
    781   1.7    itojun 	p = (const char *)sa;
    782   1.7    itojun 	ep = p + sa->sa_len;
    783   1.7    itojun 	p += 2;	/* sa_len + sa_family */
    784   1.7    itojun 
    785   1.7    itojun 	l = 0;
    786   1.7    itojun 	while (p < ep) {
    787   1.7    itojun 		l += (*p ? 8 : 0);	/* estimate */
    788   1.7    itojun 		p++;
    789   1.7    itojun 	}
    790   1.7    itojun 	return l;
    791   1.1    itojun }
    792   1.7    itojun #endif
    793   1.1    itojun 
    794   1.7    itojun #ifndef USE_RADIX
    795   1.1    itojun static int
    796  1.23     perry mask_match(const struct encaptab *ep,
    797  1.23     perry 	   const struct sockaddr *sp,
    798  1.23     perry 	   const struct sockaddr *dp)
    799   1.1    itojun {
    800   1.1    itojun 	struct sockaddr_storage s;
    801   1.1    itojun 	struct sockaddr_storage d;
    802   1.1    itojun 	int i;
    803   1.4    itojun 	const u_int8_t *p, *q;
    804   1.4    itojun 	u_int8_t *r;
    805   1.1    itojun 	int matchlen;
    806   1.1    itojun 
    807  1.41     ozaki 	KASSERTMSG(ep->func == NULL, "wrong encaptab passed to mask_match");
    808  1.41     ozaki 
    809   1.1    itojun 	if (sp->sa_len > sizeof(s) || dp->sa_len > sizeof(d))
    810   1.1    itojun 		return 0;
    811   1.1    itojun 	if (sp->sa_family != ep->af || dp->sa_family != ep->af)
    812   1.1    itojun 		return 0;
    813   1.7    itojun 	if (sp->sa_len != ep->src->sa_len || dp->sa_len != ep->dst->sa_len)
    814   1.1    itojun 		return 0;
    815   1.1    itojun 
    816   1.1    itojun 	matchlen = 0;
    817   1.1    itojun 
    818   1.4    itojun 	p = (const u_int8_t *)sp;
    819   1.7    itojun 	q = (const u_int8_t *)ep->srcmask;
    820   1.1    itojun 	r = (u_int8_t *)&s;
    821   1.1    itojun 	for (i = 0 ; i < sp->sa_len; i++) {
    822   1.1    itojun 		r[i] = p[i] & q[i];
    823   1.1    itojun 		/* XXX estimate */
    824   1.1    itojun 		matchlen += (q[i] ? 8 : 0);
    825   1.1    itojun 	}
    826   1.1    itojun 
    827   1.4    itojun 	p = (const u_int8_t *)dp;
    828   1.7    itojun 	q = (const u_int8_t *)ep->dstmask;
    829   1.1    itojun 	r = (u_int8_t *)&d;
    830   1.1    itojun 	for (i = 0 ; i < dp->sa_len; i++) {
    831   1.1    itojun 		r[i] = p[i] & q[i];
    832   1.1    itojun 		/* XXX rough estimate */
    833   1.1    itojun 		matchlen += (q[i] ? 8 : 0);
    834   1.1    itojun 	}
    835   1.1    itojun 
    836   1.1    itojun 	/* need to overwrite len/family portion as we don't compare them */
    837   1.1    itojun 	s.ss_len = sp->sa_len;
    838   1.1    itojun 	s.ss_family = sp->sa_family;
    839   1.1    itojun 	d.ss_len = dp->sa_len;
    840   1.1    itojun 	d.ss_family = dp->sa_family;
    841   1.1    itojun 
    842  1.34    cegger 	if (memcmp(&s, ep->src, ep->src->sa_len) == 0 &&
    843  1.34    cegger 	    memcmp(&d, ep->dst, ep->dst->sa_len) == 0) {
    844   1.1    itojun 		return matchlen;
    845   1.1    itojun 	} else
    846   1.1    itojun 		return 0;
    847   1.1    itojun }
    848   1.7    itojun #endif
    849   1.1    itojun 
    850   1.1    itojun static void
    851  1.23     perry encap_fillarg(struct mbuf *m, const struct encaptab *ep)
    852   1.1    itojun {
    853  1.12    itojun 	struct m_tag *mtag;
    854   1.1    itojun 
    855  1.12    itojun 	mtag = m_tag_get(PACKET_TAG_ENCAP, sizeof(void *), M_NOWAIT);
    856  1.12    itojun 	if (mtag) {
    857  1.12    itojun 		*(void **)(mtag + 1) = ep->arg;
    858  1.12    itojun 		m_tag_prepend(m, mtag);
    859   1.1    itojun 	}
    860   1.1    itojun }
    861   1.1    itojun 
    862   1.1    itojun void *
    863  1.23     perry encap_getarg(struct mbuf *m)
    864   1.1    itojun {
    865   1.1    itojun 	void *p;
    866  1.12    itojun 	struct m_tag *mtag;
    867   1.1    itojun 
    868   1.1    itojun 	p = NULL;
    869  1.12    itojun 	mtag = m_tag_find(m, PACKET_TAG_ENCAP, NULL);
    870  1.12    itojun 	if (mtag != NULL) {
    871  1.13    itojun 		p = *(void **)(mtag + 1);
    872  1.12    itojun 		m_tag_delete(m, mtag);
    873   1.1    itojun 	}
    874   1.1    itojun 	return p;
    875   1.1    itojun }
    876