Home | History | Annotate | Line # | Download | only in netinet
ip_encap.c revision 1.35
      1   1.7    itojun /*	$KAME: ip_encap.c,v 1.73 2001/10/02 08:30:58 itojun Exp $	*/
      2   1.1    itojun 
      3   1.1    itojun /*
      4   1.1    itojun  * Copyright (C) 1995, 1996, 1997, and 1998 WIDE Project.
      5   1.1    itojun  * All rights reserved.
      6   1.1    itojun  *
      7   1.1    itojun  * Redistribution and use in source and binary forms, with or without
      8   1.1    itojun  * modification, are permitted provided that the following conditions
      9   1.1    itojun  * are met:
     10   1.1    itojun  * 1. Redistributions of source code must retain the above copyright
     11   1.1    itojun  *    notice, this list of conditions and the following disclaimer.
     12   1.1    itojun  * 2. Redistributions in binary form must reproduce the above copyright
     13   1.1    itojun  *    notice, this list of conditions and the following disclaimer in the
     14   1.1    itojun  *    documentation and/or other materials provided with the distribution.
     15   1.1    itojun  * 3. Neither the name of the project nor the names of its contributors
     16   1.1    itojun  *    may be used to endorse or promote products derived from this software
     17   1.1    itojun  *    without specific prior written permission.
     18   1.1    itojun  *
     19   1.1    itojun  * THIS SOFTWARE IS PROVIDED BY THE PROJECT AND CONTRIBUTORS ``AS IS'' AND
     20   1.1    itojun  * ANY EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE
     21   1.1    itojun  * IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR PURPOSE
     22   1.1    itojun  * ARE DISCLAIMED.  IN NO EVENT SHALL THE PROJECT OR CONTRIBUTORS BE LIABLE
     23   1.1    itojun  * FOR ANY DIRECT, INDIRECT, INCIDENTAL, SPECIAL, EXEMPLARY, OR CONSEQUENTIAL
     24   1.1    itojun  * DAMAGES (INCLUDING, BUT NOT LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS
     25   1.1    itojun  * OR SERVICES; LOSS OF USE, DATA, OR PROFITS; OR BUSINESS INTERRUPTION)
     26   1.1    itojun  * HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER IN CONTRACT, STRICT
     27   1.1    itojun  * LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE) ARISING IN ANY WAY
     28   1.1    itojun  * OUT OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED OF THE POSSIBILITY OF
     29   1.1    itojun  * SUCH DAMAGE.
     30   1.1    itojun  */
     31   1.1    itojun /*
     32   1.1    itojun  * My grandfather said that there's a devil inside tunnelling technology...
     33   1.1    itojun  *
     34   1.1    itojun  * We have surprisingly many protocols that want packets with IP protocol
     35   1.1    itojun  * #4 or #41.  Here's a list of protocols that want protocol #41:
     36   1.1    itojun  *	RFC1933 configured tunnel
     37   1.1    itojun  *	RFC1933 automatic tunnel
     38   1.1    itojun  *	RFC2401 IPsec tunnel
     39   1.1    itojun  *	RFC2473 IPv6 generic packet tunnelling
     40   1.1    itojun  *	RFC2529 6over4 tunnel
     41   1.7    itojun  *	RFC3056 6to4 tunnel
     42   1.7    itojun  *	isatap tunnel
     43   1.1    itojun  *	mobile-ip6 (uses RFC2473)
     44   1.1    itojun  * Here's a list of protocol that want protocol #4:
     45   1.1    itojun  *	RFC1853 IPv4-in-IPv4 tunnelling
     46   1.1    itojun  *	RFC2003 IPv4 encapsulation within IPv4
     47   1.1    itojun  *	RFC2344 reverse tunnelling for mobile-ip4
     48   1.1    itojun  *	RFC2401 IPsec tunnel
     49   1.1    itojun  * Well, what can I say.  They impose different en/decapsulation mechanism
     50   1.1    itojun  * from each other, so they need separate protocol handler.  The only one
     51   1.1    itojun  * we can easily determine by protocol # is IPsec, which always has
     52   1.1    itojun  * AH/ESP/IPComp header right after outer IP header.
     53   1.1    itojun  *
     54   1.1    itojun  * So, clearly good old protosw does not work for protocol #4 and #41.
     55   1.1    itojun  * The code will let you match protocol via src/dst address pair.
     56   1.1    itojun  */
     57   1.1    itojun /* XXX is M_NETADDR correct? */
     58   1.6     lukem 
     59   1.7    itojun /*
     60   1.7    itojun  * With USE_RADIX the code will use radix table for tunnel lookup, for
     61   1.7    itojun  * tunnels registered with encap_attach() with a addr/mask pair.
     62   1.7    itojun  * Faster on machines with thousands of tunnel registerations (= interfaces).
     63   1.7    itojun  *
     64   1.7    itojun  * The code assumes that radix table code can handle non-continuous netmask,
     65   1.7    itojun  * as it will pass radix table memory region with (src + dst) sockaddr pair.
     66   1.7    itojun  *
     67   1.7    itojun  * FreeBSD is excluded here as they make max_keylen a static variable, and
     68   1.7    itojun  * thus forbid definition of radix table other than proper domains.
     69  1.33     pooka  *
     70  1.33     pooka  * !!!!!!!
     71  1.33     pooka  * !!NOTE: dom_maxrtkey assumes USE_RADIX is defined.
     72  1.33     pooka  * !!!!!!!
     73   1.7    itojun  */
     74   1.7    itojun #define USE_RADIX
     75   1.7    itojun 
     76   1.6     lukem #include <sys/cdefs.h>
     77  1.35    cegger __KERNEL_RCSID(0, "$NetBSD: ip_encap.c,v 1.35 2009/03/18 16:00:22 cegger Exp $");
     78   1.1    itojun 
     79   1.4    itojun #include "opt_mrouting.h"
     80   1.4    itojun #include "opt_inet.h"
     81   1.1    itojun 
     82   1.1    itojun #include <sys/param.h>
     83   1.1    itojun #include <sys/systm.h>
     84   1.1    itojun #include <sys/socket.h>
     85   1.1    itojun #include <sys/sockio.h>
     86   1.1    itojun #include <sys/mbuf.h>
     87   1.1    itojun #include <sys/errno.h>
     88   1.1    itojun #include <sys/protosw.h>
     89   1.4    itojun #include <sys/queue.h>
     90   1.1    itojun 
     91   1.1    itojun #include <net/if.h>
     92   1.1    itojun #include <net/route.h>
     93   1.1    itojun 
     94   1.1    itojun #include <netinet/in.h>
     95   1.1    itojun #include <netinet/in_systm.h>
     96   1.1    itojun #include <netinet/ip.h>
     97   1.1    itojun #include <netinet/ip_var.h>
     98   1.1    itojun #include <netinet/ip_encap.h>
     99   1.1    itojun #ifdef MROUTING
    100   1.1    itojun #include <netinet/ip_mroute.h>
    101   1.1    itojun #endif /* MROUTING */
    102   1.1    itojun 
    103   1.1    itojun #ifdef INET6
    104   1.1    itojun #include <netinet/ip6.h>
    105   1.1    itojun #include <netinet6/ip6_var.h>
    106   1.1    itojun #include <netinet6/ip6protosw.h>
    107   1.7    itojun #include <netinet6/in6_var.h>
    108   1.7    itojun #include <netinet6/in6_pcb.h>
    109   1.7    itojun #include <netinet/icmp6.h>
    110   1.1    itojun #endif
    111   1.1    itojun 
    112   1.1    itojun #include <machine/stdarg.h>
    113   1.1    itojun 
    114   1.1    itojun #include <net/net_osdep.h>
    115   1.1    itojun 
    116   1.7    itojun enum direction { INBOUND, OUTBOUND };
    117   1.7    itojun 
    118   1.7    itojun #ifdef INET
    119  1.22     perry static struct encaptab *encap4_lookup(struct mbuf *, int, int, enum direction);
    120   1.7    itojun #endif
    121   1.7    itojun #ifdef INET6
    122  1.22     perry static struct encaptab *encap6_lookup(struct mbuf *, int, int, enum direction);
    123   1.7    itojun #endif
    124  1.22     perry static int encap_add(struct encaptab *);
    125  1.22     perry static int encap_remove(struct encaptab *);
    126  1.22     perry static int encap_afcheck(int, const struct sockaddr *, const struct sockaddr *);
    127   1.7    itojun #ifdef USE_RADIX
    128  1.22     perry static struct radix_node_head *encap_rnh(int);
    129  1.22     perry static int mask_matchlen(const struct sockaddr *);
    130   1.7    itojun #endif
    131   1.7    itojun #ifndef USE_RADIX
    132  1.22     perry static int mask_match(const struct encaptab *, const struct sockaddr *,
    133  1.22     perry 		const struct sockaddr *);
    134   1.7    itojun #endif
    135  1.22     perry static void encap_fillarg(struct mbuf *, const struct encaptab *);
    136   1.1    itojun 
    137   1.2   thorpej LIST_HEAD(, encaptab) encaptab = LIST_HEAD_INITIALIZER(&encaptab);
    138   1.1    itojun 
    139   1.7    itojun #ifdef USE_RADIX
    140   1.7    itojun extern int max_keylen;	/* radix.c */
    141   1.7    itojun struct radix_node_head *encap_head[2];	/* 0 for AF_INET, 1 for AF_INET6 */
    142   1.7    itojun #endif
    143   1.7    itojun 
    144   1.1    itojun void
    145  1.23     perry encap_init(void)
    146   1.1    itojun {
    147   1.7    itojun 	static int initialized = 0;
    148   1.7    itojun 
    149   1.7    itojun 	if (initialized)
    150   1.7    itojun 		return;
    151   1.7    itojun 	initialized++;
    152   1.1    itojun #if 0
    153   1.1    itojun 	/*
    154   1.1    itojun 	 * we cannot use LIST_INIT() here, since drivers may want to call
    155   1.4    itojun 	 * encap_attach(), on driver attach.  encap_init() will be called
    156   1.1    itojun 	 * on AF_INET{,6} initialization, which happens after driver
    157   1.1    itojun 	 * initialization - using LIST_INIT() here can nuke encap_attach()
    158   1.1    itojun 	 * from drivers.
    159   1.1    itojun 	 */
    160   1.1    itojun 	LIST_INIT(&encaptab);
    161   1.1    itojun #endif
    162   1.7    itojun 
    163   1.7    itojun #ifdef USE_RADIX
    164   1.7    itojun 	/*
    165   1.9    itojun 	 * initialize radix lookup table.
    166  1.21     enami 	 * max_keylen initialization happen in the rn_init().
    167   1.7    itojun 	 */
    168  1.21     enami 	rn_init();
    169  1.11   thorpej 	rn_inithead((void *)&encap_head[0], sizeof(struct sockaddr_pack) << 3);
    170   1.7    itojun #ifdef INET6
    171  1.11   thorpej 	rn_inithead((void *)&encap_head[1], sizeof(struct sockaddr_pack) << 3);
    172   1.7    itojun #endif
    173   1.7    itojun #endif
    174   1.1    itojun }
    175   1.1    itojun 
    176   1.4    itojun #ifdef INET
    177   1.7    itojun static struct encaptab *
    178  1.23     perry encap4_lookup(struct mbuf *m, int off, int proto, enum direction dir)
    179   1.1    itojun {
    180   1.1    itojun 	struct ip *ip;
    181  1.33     pooka 	struct ip_pack4 pack;
    182   1.1    itojun 	struct encaptab *ep, *match;
    183   1.1    itojun 	int prio, matchprio;
    184   1.7    itojun #ifdef USE_RADIX
    185   1.7    itojun 	struct radix_node_head *rnh = encap_rnh(AF_INET);
    186   1.7    itojun 	struct radix_node *rn;
    187   1.7    itojun #endif
    188   1.1    itojun 
    189   1.7    itojun #ifdef DIAGNOSTIC
    190   1.7    itojun 	if (m->m_len < sizeof(*ip))
    191   1.7    itojun 		panic("encap4_lookup");
    192   1.7    itojun #endif
    193   1.1    itojun 	ip = mtod(m, struct ip *);
    194   1.1    itojun 
    195  1.35    cegger 	memset(&pack, 0, sizeof(pack));
    196   1.7    itojun 	pack.p.sp_len = sizeof(pack);
    197   1.7    itojun 	pack.mine.sin_family = pack.yours.sin_family = AF_INET;
    198   1.7    itojun 	pack.mine.sin_len = pack.yours.sin_len = sizeof(struct sockaddr_in);
    199   1.7    itojun 	if (dir == INBOUND) {
    200   1.7    itojun 		pack.mine.sin_addr = ip->ip_dst;
    201   1.7    itojun 		pack.yours.sin_addr = ip->ip_src;
    202   1.7    itojun 	} else {
    203   1.7    itojun 		pack.mine.sin_addr = ip->ip_src;
    204   1.7    itojun 		pack.yours.sin_addr = ip->ip_dst;
    205   1.7    itojun 	}
    206   1.1    itojun 
    207   1.1    itojun 	match = NULL;
    208   1.1    itojun 	matchprio = 0;
    209   1.7    itojun 
    210   1.7    itojun #ifdef USE_RADIX
    211  1.30  christos 	rn = rnh->rnh_matchaddr((void *)&pack, rnh);
    212   1.7    itojun 	if (rn && (rn->rn_flags & RNF_ROOT) == 0) {
    213   1.7    itojun 		match = (struct encaptab *)rn;
    214   1.7    itojun 		matchprio = mask_matchlen(match->srcmask) +
    215   1.7    itojun 		    mask_matchlen(match->dstmask);
    216   1.7    itojun 	}
    217   1.7    itojun #endif
    218   1.7    itojun 
    219  1.31    dyoung 	LIST_FOREACH(ep, &encaptab, chain) {
    220   1.1    itojun 		if (ep->af != AF_INET)
    221   1.1    itojun 			continue;
    222   1.1    itojun 		if (ep->proto >= 0 && ep->proto != proto)
    223   1.1    itojun 			continue;
    224   1.1    itojun 		if (ep->func)
    225   1.1    itojun 			prio = (*ep->func)(m, off, proto, ep->arg);
    226   1.1    itojun 		else {
    227   1.7    itojun #ifdef USE_RADIX
    228   1.7    itojun 			continue;
    229   1.7    itojun #else
    230   1.7    itojun 			prio = mask_match(ep, (struct sockaddr *)&pack.mine,
    231   1.7    itojun 			    (struct sockaddr *)&pack.yours);
    232   1.7    itojun #endif
    233   1.1    itojun 		}
    234   1.1    itojun 
    235   1.1    itojun 		/*
    236   1.1    itojun 		 * We prioritize the matches by using bit length of the
    237   1.1    itojun 		 * matches.  mask_match() and user-supplied matching function
    238   1.1    itojun 		 * should return the bit length of the matches (for example,
    239   1.1    itojun 		 * if both src/dst are matched for IPv4, 64 should be returned).
    240   1.1    itojun 		 * 0 or negative return value means "it did not match".
    241   1.1    itojun 		 *
    242   1.1    itojun 		 * The question is, since we have two "mask" portion, we
    243   1.1    itojun 		 * cannot really define total order between entries.
    244   1.1    itojun 		 * For example, which of these should be preferred?
    245   1.1    itojun 		 * mask_match() returns 48 (32 + 16) for both of them.
    246   1.1    itojun 		 *	src=3ffe::/16, dst=3ffe:501::/32
    247   1.1    itojun 		 *	src=3ffe:501::/32, dst=3ffe::/16
    248   1.1    itojun 		 *
    249   1.1    itojun 		 * We need to loop through all the possible candidates
    250   1.1    itojun 		 * to get the best match - the search takes O(n) for
    251   1.1    itojun 		 * n attachments (i.e. interfaces).
    252   1.7    itojun 		 *
    253   1.7    itojun 		 * For radix-based lookup, I guess source takes precedence.
    254   1.7    itojun 		 * See rn_{refines,lexobetter} for the correct answer.
    255   1.1    itojun 		 */
    256   1.1    itojun 		if (prio <= 0)
    257   1.1    itojun 			continue;
    258   1.1    itojun 		if (prio > matchprio) {
    259   1.1    itojun 			matchprio = prio;
    260   1.1    itojun 			match = ep;
    261   1.1    itojun 		}
    262   1.1    itojun 	}
    263   1.1    itojun 
    264   1.7    itojun 	return match;
    265   1.7    itojun #undef s
    266   1.7    itojun #undef d
    267   1.7    itojun }
    268   1.7    itojun 
    269   1.7    itojun void
    270   1.7    itojun encap4_input(struct mbuf *m, ...)
    271   1.7    itojun {
    272   1.7    itojun 	int off, proto;
    273   1.7    itojun 	va_list ap;
    274   1.7    itojun 	const struct protosw *psw;
    275   1.7    itojun 	struct encaptab *match;
    276   1.7    itojun 
    277   1.7    itojun 	va_start(ap, m);
    278   1.7    itojun 	off = va_arg(ap, int);
    279   1.7    itojun 	proto = va_arg(ap, int);
    280   1.7    itojun 	va_end(ap);
    281   1.7    itojun 
    282   1.7    itojun 	match = encap4_lookup(m, off, proto, INBOUND);
    283   1.7    itojun 
    284   1.1    itojun 	if (match) {
    285   1.1    itojun 		/* found a match, "match" has the best one */
    286   1.4    itojun 		psw = match->psw;
    287   1.4    itojun 		if (psw && psw->pr_input) {
    288   1.1    itojun 			encap_fillarg(m, match);
    289   1.4    itojun 			(*psw->pr_input)(m, off, proto);
    290   1.1    itojun 		} else
    291   1.1    itojun 			m_freem(m);
    292   1.1    itojun 		return;
    293   1.1    itojun 	}
    294   1.1    itojun 
    295   1.1    itojun 	/* last resort: inject to raw socket */
    296   1.1    itojun 	rip_input(m, off, proto);
    297   1.1    itojun }
    298   1.1    itojun #endif
    299   1.1    itojun 
    300   1.1    itojun #ifdef INET6
    301   1.7    itojun static struct encaptab *
    302  1.23     perry encap6_lookup(struct mbuf *m, int off, int proto, enum direction dir)
    303   1.1    itojun {
    304   1.1    itojun 	struct ip6_hdr *ip6;
    305  1.33     pooka 	struct ip_pack6 pack;
    306   1.7    itojun 	int prio, matchprio;
    307   1.1    itojun 	struct encaptab *ep, *match;
    308   1.7    itojun #ifdef USE_RADIX
    309   1.7    itojun 	struct radix_node_head *rnh = encap_rnh(AF_INET6);
    310   1.7    itojun 	struct radix_node *rn;
    311   1.7    itojun #endif
    312   1.1    itojun 
    313   1.7    itojun #ifdef DIAGNOSTIC
    314   1.7    itojun 	if (m->m_len < sizeof(*ip6))
    315   1.7    itojun 		panic("encap6_lookup");
    316   1.7    itojun #endif
    317   1.1    itojun 	ip6 = mtod(m, struct ip6_hdr *);
    318   1.1    itojun 
    319  1.35    cegger 	memset(&pack, 0, sizeof(pack));
    320   1.7    itojun 	pack.p.sp_len = sizeof(pack);
    321   1.7    itojun 	pack.mine.sin6_family = pack.yours.sin6_family = AF_INET6;
    322   1.7    itojun 	pack.mine.sin6_len = pack.yours.sin6_len = sizeof(struct sockaddr_in6);
    323   1.7    itojun 	if (dir == INBOUND) {
    324   1.7    itojun 		pack.mine.sin6_addr = ip6->ip6_dst;
    325   1.7    itojun 		pack.yours.sin6_addr = ip6->ip6_src;
    326   1.7    itojun 	} else {
    327   1.7    itojun 		pack.mine.sin6_addr = ip6->ip6_src;
    328   1.7    itojun 		pack.yours.sin6_addr = ip6->ip6_dst;
    329   1.7    itojun 	}
    330   1.1    itojun 
    331   1.1    itojun 	match = NULL;
    332   1.1    itojun 	matchprio = 0;
    333   1.7    itojun 
    334   1.7    itojun #ifdef USE_RADIX
    335  1.30  christos 	rn = rnh->rnh_matchaddr((void *)&pack, rnh);
    336   1.7    itojun 	if (rn && (rn->rn_flags & RNF_ROOT) == 0) {
    337   1.7    itojun 		match = (struct encaptab *)rn;
    338   1.7    itojun 		matchprio = mask_matchlen(match->srcmask) +
    339   1.7    itojun 		    mask_matchlen(match->dstmask);
    340   1.7    itojun 	}
    341   1.7    itojun #endif
    342   1.7    itojun 
    343  1.31    dyoung 	LIST_FOREACH(ep, &encaptab, chain) {
    344   1.1    itojun 		if (ep->af != AF_INET6)
    345   1.1    itojun 			continue;
    346   1.1    itojun 		if (ep->proto >= 0 && ep->proto != proto)
    347   1.1    itojun 			continue;
    348   1.1    itojun 		if (ep->func)
    349   1.7    itojun 			prio = (*ep->func)(m, off, proto, ep->arg);
    350   1.1    itojun 		else {
    351   1.7    itojun #ifdef USE_RADIX
    352   1.7    itojun 			continue;
    353   1.7    itojun #else
    354   1.7    itojun 			prio = mask_match(ep, (struct sockaddr *)&pack.mine,
    355   1.7    itojun 			    (struct sockaddr *)&pack.yours);
    356   1.7    itojun #endif
    357   1.1    itojun 		}
    358   1.1    itojun 
    359   1.7    itojun 		/* see encap4_lookup() for issues here */
    360   1.1    itojun 		if (prio <= 0)
    361   1.1    itojun 			continue;
    362   1.1    itojun 		if (prio > matchprio) {
    363   1.1    itojun 			matchprio = prio;
    364   1.1    itojun 			match = ep;
    365   1.1    itojun 		}
    366   1.1    itojun 	}
    367   1.1    itojun 
    368   1.7    itojun 	return match;
    369   1.7    itojun #undef s
    370   1.7    itojun #undef d
    371   1.7    itojun }
    372   1.7    itojun 
    373   1.7    itojun int
    374  1.23     perry encap6_input(struct mbuf **mp, int *offp, int proto)
    375   1.7    itojun {
    376   1.7    itojun 	struct mbuf *m = *mp;
    377   1.7    itojun 	const struct ip6protosw *psw;
    378   1.7    itojun 	struct encaptab *match;
    379   1.7    itojun 
    380   1.7    itojun 	match = encap6_lookup(m, *offp, proto, INBOUND);
    381   1.7    itojun 
    382   1.1    itojun 	if (match) {
    383   1.1    itojun 		/* found a match */
    384   1.4    itojun 		psw = (const struct ip6protosw *)match->psw;
    385   1.1    itojun 		if (psw && psw->pr_input) {
    386   1.1    itojun 			encap_fillarg(m, match);
    387   1.1    itojun 			return (*psw->pr_input)(mp, offp, proto);
    388   1.1    itojun 		} else {
    389   1.1    itojun 			m_freem(m);
    390   1.1    itojun 			return IPPROTO_DONE;
    391   1.1    itojun 		}
    392   1.1    itojun 	}
    393   1.1    itojun 
    394   1.1    itojun 	/* last resort: inject to raw socket */
    395   1.1    itojun 	return rip6_input(mp, offp, proto);
    396   1.1    itojun }
    397   1.1    itojun #endif
    398   1.1    itojun 
    399   1.7    itojun static int
    400  1.23     perry encap_add(struct encaptab *ep)
    401   1.1    itojun {
    402   1.7    itojun #ifdef USE_RADIX
    403   1.7    itojun 	struct radix_node_head *rnh = encap_rnh(ep->af);
    404   1.7    itojun #endif
    405   1.7    itojun 	int error = 0;
    406   1.1    itojun 
    407   1.1    itojun 	LIST_INSERT_HEAD(&encaptab, ep, chain);
    408   1.7    itojun #ifdef USE_RADIX
    409   1.7    itojun 	if (!ep->func && rnh) {
    410  1.30  christos 		if (!rnh->rnh_addaddr((void *)ep->addrpack,
    411  1.30  christos 		    (void *)ep->maskpack, rnh, ep->nodes)) {
    412   1.7    itojun 			error = EEXIST;
    413   1.7    itojun 			goto fail;
    414   1.7    itojun 		}
    415   1.7    itojun 	}
    416   1.7    itojun #endif
    417   1.7    itojun 	return error;
    418   1.7    itojun 
    419   1.7    itojun  fail:
    420   1.7    itojun 	LIST_REMOVE(ep, chain);
    421   1.7    itojun 	return error;
    422   1.7    itojun }
    423   1.7    itojun 
    424   1.7    itojun static int
    425  1.23     perry encap_remove(struct encaptab *ep)
    426   1.7    itojun {
    427   1.7    itojun #ifdef USE_RADIX
    428   1.7    itojun 	struct radix_node_head *rnh = encap_rnh(ep->af);
    429   1.7    itojun #endif
    430   1.7    itojun 	int error = 0;
    431   1.7    itojun 
    432   1.7    itojun 	LIST_REMOVE(ep, chain);
    433   1.7    itojun #ifdef USE_RADIX
    434   1.7    itojun 	if (!ep->func && rnh) {
    435  1.30  christos 		if (!rnh->rnh_deladdr((void *)ep->addrpack,
    436  1.30  christos 		    (void *)ep->maskpack, rnh))
    437   1.7    itojun 			error = ESRCH;
    438   1.7    itojun 	}
    439   1.7    itojun #endif
    440   1.7    itojun 	return error;
    441   1.7    itojun }
    442   1.7    itojun 
    443   1.7    itojun static int
    444  1.23     perry encap_afcheck(int af, const struct sockaddr *sp, const struct sockaddr *dp)
    445   1.7    itojun {
    446   1.7    itojun 	if (sp && dp) {
    447   1.7    itojun 		if (sp->sa_len != dp->sa_len)
    448   1.7    itojun 			return EINVAL;
    449   1.7    itojun 		if (af != sp->sa_family || af != dp->sa_family)
    450   1.7    itojun 			return EINVAL;
    451   1.7    itojun 	} else if (!sp && !dp)
    452   1.7    itojun 		;
    453   1.7    itojun 	else
    454   1.7    itojun 		return EINVAL;
    455   1.7    itojun 
    456   1.7    itojun 	switch (af) {
    457   1.7    itojun 	case AF_INET:
    458   1.7    itojun 		if (sp && sp->sa_len != sizeof(struct sockaddr_in))
    459   1.7    itojun 			return EINVAL;
    460   1.7    itojun 		if (dp && dp->sa_len != sizeof(struct sockaddr_in))
    461   1.7    itojun 			return EINVAL;
    462   1.7    itojun 		break;
    463   1.7    itojun #ifdef INET6
    464   1.7    itojun 	case AF_INET6:
    465   1.7    itojun 		if (sp && sp->sa_len != sizeof(struct sockaddr_in6))
    466   1.7    itojun 			return EINVAL;
    467   1.7    itojun 		if (dp && dp->sa_len != sizeof(struct sockaddr_in6))
    468   1.7    itojun 			return EINVAL;
    469   1.7    itojun 		break;
    470   1.7    itojun #endif
    471   1.7    itojun 	default:
    472   1.7    itojun 		return EAFNOSUPPORT;
    473   1.7    itojun 	}
    474   1.7    itojun 
    475   1.7    itojun 	return 0;
    476   1.1    itojun }
    477   1.1    itojun 
    478   1.1    itojun /*
    479   1.1    itojun  * sp (src ptr) is always my side, and dp (dst ptr) is always remote side.
    480   1.1    itojun  * length of mask (sm and dm) is assumed to be same as sp/dp.
    481   1.1    itojun  * Return value will be necessary as input (cookie) for encap_detach().
    482   1.1    itojun  */
    483   1.1    itojun const struct encaptab *
    484  1.23     perry encap_attach(int af, int proto,
    485  1.23     perry     const struct sockaddr *sp, const struct sockaddr *sm,
    486  1.23     perry     const struct sockaddr *dp, const struct sockaddr *dm,
    487  1.23     perry     const struct protosw *psw, void *arg)
    488   1.1    itojun {
    489   1.1    itojun 	struct encaptab *ep;
    490   1.1    itojun 	int error;
    491   1.1    itojun 	int s;
    492   1.7    itojun 	size_t l;
    493  1.33     pooka 	struct ip_pack4 *pack4;
    494   1.7    itojun #ifdef INET6
    495  1.33     pooka 	struct ip_pack6 *pack6;
    496   1.7    itojun #endif
    497   1.1    itojun 
    498   1.1    itojun 	s = splsoftnet();
    499   1.1    itojun 	/* sanity check on args */
    500   1.7    itojun 	error = encap_afcheck(af, sp, dp);
    501   1.7    itojun 	if (error)
    502   1.1    itojun 		goto fail;
    503   1.1    itojun 
    504   1.1    itojun 	/* check if anyone have already attached with exactly same config */
    505  1.31    dyoung 	LIST_FOREACH(ep, &encaptab, chain) {
    506   1.1    itojun 		if (ep->af != af)
    507   1.1    itojun 			continue;
    508   1.1    itojun 		if (ep->proto != proto)
    509   1.1    itojun 			continue;
    510   1.7    itojun 		if (ep->func)
    511   1.7    itojun 			continue;
    512   1.7    itojun #ifdef DIAGNOSTIC
    513   1.7    itojun 		if (!ep->src || !ep->dst || !ep->srcmask || !ep->dstmask)
    514   1.7    itojun 			panic("null pointers in encaptab");
    515   1.7    itojun #endif
    516   1.7    itojun 		if (ep->src->sa_len != sp->sa_len ||
    517  1.34    cegger 		    memcmp(ep->src, sp, sp->sa_len) != 0 ||
    518  1.34    cegger 		    memcmp(ep->srcmask, sm, sp->sa_len) != 0)
    519   1.7    itojun 			continue;
    520   1.7    itojun 		if (ep->dst->sa_len != dp->sa_len ||
    521  1.34    cegger 		    memcmp(ep->dst, dp, dp->sa_len) != 0 ||
    522  1.34    cegger 		    memcmp(ep->dstmask, dm, dp->sa_len) != 0)
    523   1.1    itojun 			continue;
    524   1.1    itojun 
    525   1.1    itojun 		error = EEXIST;
    526   1.1    itojun 		goto fail;
    527   1.1    itojun 	}
    528   1.3   thorpej 
    529   1.7    itojun 	switch (af) {
    530   1.7    itojun 	case AF_INET:
    531   1.7    itojun 		l = sizeof(*pack4);
    532   1.7    itojun 		break;
    533   1.7    itojun #ifdef INET6
    534   1.7    itojun 	case AF_INET6:
    535   1.7    itojun 		l = sizeof(*pack6);
    536   1.7    itojun 		break;
    537   1.7    itojun #endif
    538   1.7    itojun 	default:
    539   1.7    itojun 		goto fail;
    540   1.7    itojun 	}
    541   1.7    itojun 
    542  1.20    itojun 	/* M_NETADDR ok? */
    543  1.20    itojun 	ep = malloc(sizeof(*ep), M_NETADDR, M_NOWAIT|M_ZERO);
    544   1.1    itojun 	if (ep == NULL) {
    545   1.1    itojun 		error = ENOBUFS;
    546   1.1    itojun 		goto fail;
    547   1.1    itojun 	}
    548  1.20    itojun 	ep->addrpack = malloc(l, M_NETADDR, M_NOWAIT|M_ZERO);
    549   1.7    itojun 	if (ep->addrpack == NULL) {
    550   1.7    itojun 		error = ENOBUFS;
    551   1.7    itojun 		goto gc;
    552   1.7    itojun 	}
    553  1.20    itojun 	ep->maskpack = malloc(l, M_NETADDR, M_NOWAIT|M_ZERO);
    554   1.7    itojun 	if (ep->maskpack == NULL) {
    555   1.7    itojun 		error = ENOBUFS;
    556   1.7    itojun 		goto gc;
    557   1.7    itojun 	}
    558   1.1    itojun 
    559   1.1    itojun 	ep->af = af;
    560   1.1    itojun 	ep->proto = proto;
    561   1.7    itojun 	ep->addrpack->sa_len = l & 0xff;
    562   1.7    itojun 	ep->maskpack->sa_len = l & 0xff;
    563   1.7    itojun 	switch (af) {
    564   1.7    itojun 	case AF_INET:
    565  1.33     pooka 		pack4 = (struct ip_pack4 *)ep->addrpack;
    566   1.7    itojun 		ep->src = (struct sockaddr *)&pack4->mine;
    567   1.7    itojun 		ep->dst = (struct sockaddr *)&pack4->yours;
    568  1.33     pooka 		pack4 = (struct ip_pack4 *)ep->maskpack;
    569   1.7    itojun 		ep->srcmask = (struct sockaddr *)&pack4->mine;
    570   1.7    itojun 		ep->dstmask = (struct sockaddr *)&pack4->yours;
    571   1.7    itojun 		break;
    572   1.7    itojun #ifdef INET6
    573   1.7    itojun 	case AF_INET6:
    574  1.33     pooka 		pack6 = (struct ip_pack6 *)ep->addrpack;
    575   1.7    itojun 		ep->src = (struct sockaddr *)&pack6->mine;
    576   1.7    itojun 		ep->dst = (struct sockaddr *)&pack6->yours;
    577  1.33     pooka 		pack6 = (struct ip_pack6 *)ep->maskpack;
    578   1.7    itojun 		ep->srcmask = (struct sockaddr *)&pack6->mine;
    579   1.7    itojun 		ep->dstmask = (struct sockaddr *)&pack6->yours;
    580   1.7    itojun 		break;
    581   1.7    itojun #endif
    582   1.7    itojun 	}
    583   1.7    itojun 
    584   1.7    itojun 	bcopy(sp, ep->src, sp->sa_len);
    585   1.7    itojun 	bcopy(sm, ep->srcmask, sp->sa_len);
    586   1.7    itojun 	bcopy(dp, ep->dst, dp->sa_len);
    587   1.7    itojun 	bcopy(dm, ep->dstmask, dp->sa_len);
    588   1.1    itojun 	ep->psw = psw;
    589   1.1    itojun 	ep->arg = arg;
    590   1.1    itojun 
    591   1.7    itojun 	error = encap_add(ep);
    592   1.7    itojun 	if (error)
    593   1.7    itojun 		goto gc;
    594   1.1    itojun 
    595   1.1    itojun 	error = 0;
    596   1.1    itojun 	splx(s);
    597   1.1    itojun 	return ep;
    598   1.1    itojun 
    599   1.7    itojun gc:
    600   1.7    itojun 	if (ep->addrpack)
    601   1.7    itojun 		free(ep->addrpack, M_NETADDR);
    602   1.7    itojun 	if (ep->maskpack)
    603   1.7    itojun 		free(ep->maskpack, M_NETADDR);
    604   1.7    itojun 	if (ep)
    605   1.7    itojun 		free(ep, M_NETADDR);
    606   1.1    itojun fail:
    607   1.1    itojun 	splx(s);
    608   1.1    itojun 	return NULL;
    609   1.1    itojun }
    610   1.1    itojun 
    611   1.1    itojun const struct encaptab *
    612  1.23     perry encap_attach_func(int af, int proto,
    613  1.26    martin     int (*func)(struct mbuf *, int, int, void *),
    614  1.23     perry     const struct protosw *psw, void *arg)
    615   1.1    itojun {
    616   1.1    itojun 	struct encaptab *ep;
    617   1.1    itojun 	int error;
    618   1.1    itojun 	int s;
    619   1.1    itojun 
    620   1.1    itojun 	s = splsoftnet();
    621   1.1    itojun 	/* sanity check on args */
    622   1.1    itojun 	if (!func) {
    623   1.1    itojun 		error = EINVAL;
    624   1.1    itojun 		goto fail;
    625   1.1    itojun 	}
    626   1.1    itojun 
    627   1.7    itojun 	error = encap_afcheck(af, NULL, NULL);
    628   1.7    itojun 	if (error)
    629   1.7    itojun 		goto fail;
    630   1.7    itojun 
    631   1.1    itojun 	ep = malloc(sizeof(*ep), M_NETADDR, M_NOWAIT);	/*XXX*/
    632   1.1    itojun 	if (ep == NULL) {
    633   1.1    itojun 		error = ENOBUFS;
    634   1.1    itojun 		goto fail;
    635   1.1    itojun 	}
    636  1.35    cegger 	memset(ep, 0, sizeof(*ep));
    637   1.1    itojun 
    638   1.1    itojun 	ep->af = af;
    639   1.1    itojun 	ep->proto = proto;
    640   1.1    itojun 	ep->func = func;
    641   1.1    itojun 	ep->psw = psw;
    642   1.1    itojun 	ep->arg = arg;
    643   1.1    itojun 
    644   1.7    itojun 	error = encap_add(ep);
    645   1.7    itojun 	if (error)
    646   1.7    itojun 		goto fail;
    647   1.1    itojun 
    648   1.1    itojun 	error = 0;
    649   1.1    itojun 	splx(s);
    650   1.1    itojun 	return ep;
    651   1.1    itojun 
    652   1.1    itojun fail:
    653   1.1    itojun 	splx(s);
    654   1.1    itojun 	return NULL;
    655   1.1    itojun }
    656   1.1    itojun 
    657   1.7    itojun /* XXX encap4_ctlinput() is necessary if we set DF=1 on outer IPv4 header */
    658   1.7    itojun 
    659   1.7    itojun #ifdef INET6
    660  1.32        ad void *
    661  1.29    dyoung encap6_ctlinput(int cmd, const struct sockaddr *sa, void *d0)
    662   1.7    itojun {
    663   1.7    itojun 	void *d = d0;
    664   1.7    itojun 	struct ip6_hdr *ip6;
    665   1.7    itojun 	struct mbuf *m;
    666   1.7    itojun 	int off;
    667   1.7    itojun 	struct ip6ctlparam *ip6cp = NULL;
    668   1.7    itojun 	int nxt;
    669   1.7    itojun 	struct encaptab *ep;
    670   1.7    itojun 	const struct ip6protosw *psw;
    671   1.7    itojun 
    672   1.7    itojun 	if (sa->sa_family != AF_INET6 ||
    673   1.7    itojun 	    sa->sa_len != sizeof(struct sockaddr_in6))
    674  1.32        ad 		return NULL;
    675   1.7    itojun 
    676   1.7    itojun 	if ((unsigned)cmd >= PRC_NCMDS)
    677  1.32        ad 		return NULL;
    678   1.7    itojun 	if (cmd == PRC_HOSTDEAD)
    679   1.7    itojun 		d = NULL;
    680   1.7    itojun 	else if (cmd == PRC_MSGSIZE)
    681   1.7    itojun 		; /* special code is present, see below */
    682   1.7    itojun 	else if (inet6ctlerrmap[cmd] == 0)
    683  1.32        ad 		return NULL;
    684   1.7    itojun 
    685   1.7    itojun 	/* if the parameter is from icmp6, decode it. */
    686   1.7    itojun 	if (d != NULL) {
    687   1.7    itojun 		ip6cp = (struct ip6ctlparam *)d;
    688   1.7    itojun 		m = ip6cp->ip6c_m;
    689   1.7    itojun 		ip6 = ip6cp->ip6c_ip6;
    690   1.7    itojun 		off = ip6cp->ip6c_off;
    691   1.7    itojun 		nxt = ip6cp->ip6c_nxt;
    692  1.15   mycroft 
    693  1.15   mycroft 		if (ip6 && cmd == PRC_MSGSIZE) {
    694  1.15   mycroft 			int valid = 0;
    695  1.15   mycroft 			struct encaptab *match;
    696  1.15   mycroft 
    697  1.15   mycroft 			/*
    698  1.15   mycroft 		 	* Check to see if we have a valid encap configuration.
    699  1.15   mycroft 		 	*/
    700  1.15   mycroft 			match = encap6_lookup(m, off, nxt, OUTBOUND);
    701  1.15   mycroft 			if (match)
    702  1.15   mycroft 				valid++;
    703  1.15   mycroft 
    704  1.15   mycroft 			/*
    705  1.15   mycroft 		 	* Depending on the value of "valid" and routing table
    706  1.15   mycroft 		 	* size (mtudisc_{hi,lo}wat), we will:
    707  1.15   mycroft 		 	* - recalcurate the new MTU and create the
    708  1.15   mycroft 		 	*   corresponding routing entry, or
    709  1.15   mycroft 		 	* - ignore the MTU change notification.
    710  1.15   mycroft 		 	*/
    711  1.15   mycroft 			icmp6_mtudisc_update((struct ip6ctlparam *)d, valid);
    712  1.15   mycroft 		}
    713   1.7    itojun 	} else {
    714   1.7    itojun 		m = NULL;
    715   1.7    itojun 		ip6 = NULL;
    716   1.7    itojun 		nxt = -1;
    717   1.7    itojun 	}
    718   1.7    itojun 
    719   1.7    itojun 	/* inform all listeners */
    720  1.31    dyoung 	LIST_FOREACH(ep, &encaptab, chain) {
    721   1.7    itojun 		if (ep->af != AF_INET6)
    722   1.7    itojun 			continue;
    723   1.7    itojun 		if (ep->proto >= 0 && ep->proto != nxt)
    724   1.7    itojun 			continue;
    725   1.7    itojun 
    726   1.7    itojun 		/* should optimize by looking at address pairs */
    727   1.7    itojun 
    728   1.7    itojun 		/* XXX need to pass ep->arg or ep itself to listeners */
    729   1.7    itojun 		psw = (const struct ip6protosw *)ep->psw;
    730   1.7    itojun 		if (psw && psw->pr_ctlinput)
    731   1.7    itojun 			(*psw->pr_ctlinput)(cmd, sa, d);
    732   1.7    itojun 	}
    733   1.7    itojun 
    734   1.7    itojun 	rip6_ctlinput(cmd, sa, d0);
    735  1.32        ad 	return NULL;
    736   1.7    itojun }
    737   1.7    itojun #endif
    738   1.7    itojun 
    739   1.1    itojun int
    740  1.23     perry encap_detach(const struct encaptab *cookie)
    741   1.1    itojun {
    742   1.1    itojun 	const struct encaptab *ep = cookie;
    743   1.1    itojun 	struct encaptab *p;
    744   1.7    itojun 	int error;
    745   1.1    itojun 
    746  1.31    dyoung 	LIST_FOREACH(p, &encaptab, chain) {
    747   1.1    itojun 		if (p == ep) {
    748   1.7    itojun 			error = encap_remove(p);
    749   1.7    itojun 			if (error)
    750   1.7    itojun 				return error;
    751   1.7    itojun 			if (!ep->func) {
    752   1.7    itojun 				free(p->addrpack, M_NETADDR);
    753   1.7    itojun 				free(p->maskpack, M_NETADDR);
    754   1.7    itojun 			}
    755   1.1    itojun 			free(p, M_NETADDR);	/*XXX*/
    756   1.1    itojun 			return 0;
    757   1.1    itojun 		}
    758   1.1    itojun 	}
    759   1.1    itojun 
    760   1.7    itojun 	return ENOENT;
    761   1.7    itojun }
    762   1.7    itojun 
    763   1.7    itojun #ifdef USE_RADIX
    764   1.7    itojun static struct radix_node_head *
    765  1.23     perry encap_rnh(int af)
    766   1.7    itojun {
    767   1.7    itojun 
    768   1.7    itojun 	switch (af) {
    769   1.7    itojun 	case AF_INET:
    770   1.7    itojun 		return encap_head[0];
    771   1.7    itojun #ifdef INET6
    772   1.7    itojun 	case AF_INET6:
    773   1.7    itojun 		return encap_head[1];
    774   1.7    itojun #endif
    775   1.7    itojun 	default:
    776   1.7    itojun 		return NULL;
    777   1.7    itojun 	}
    778   1.7    itojun }
    779   1.7    itojun 
    780   1.7    itojun static int
    781  1.23     perry mask_matchlen(const struct sockaddr *sa)
    782   1.7    itojun {
    783   1.7    itojun 	const char *p, *ep;
    784   1.7    itojun 	int l;
    785   1.7    itojun 
    786   1.7    itojun 	p = (const char *)sa;
    787   1.7    itojun 	ep = p + sa->sa_len;
    788   1.7    itojun 	p += 2;	/* sa_len + sa_family */
    789   1.7    itojun 
    790   1.7    itojun 	l = 0;
    791   1.7    itojun 	while (p < ep) {
    792   1.7    itojun 		l += (*p ? 8 : 0);	/* estimate */
    793   1.7    itojun 		p++;
    794   1.7    itojun 	}
    795   1.7    itojun 	return l;
    796   1.1    itojun }
    797   1.7    itojun #endif
    798   1.1    itojun 
    799   1.7    itojun #ifndef USE_RADIX
    800   1.1    itojun static int
    801  1.23     perry mask_match(const struct encaptab *ep,
    802  1.23     perry 	   const struct sockaddr *sp,
    803  1.23     perry 	   const struct sockaddr *dp)
    804   1.1    itojun {
    805   1.1    itojun 	struct sockaddr_storage s;
    806   1.1    itojun 	struct sockaddr_storage d;
    807   1.1    itojun 	int i;
    808   1.4    itojun 	const u_int8_t *p, *q;
    809   1.4    itojun 	u_int8_t *r;
    810   1.1    itojun 	int matchlen;
    811   1.1    itojun 
    812   1.7    itojun #ifdef DIAGNOSTIC
    813   1.7    itojun 	if (ep->func)
    814   1.7    itojun 		panic("wrong encaptab passed to mask_match");
    815   1.7    itojun #endif
    816   1.1    itojun 	if (sp->sa_len > sizeof(s) || dp->sa_len > sizeof(d))
    817   1.1    itojun 		return 0;
    818   1.1    itojun 	if (sp->sa_family != ep->af || dp->sa_family != ep->af)
    819   1.1    itojun 		return 0;
    820   1.7    itojun 	if (sp->sa_len != ep->src->sa_len || dp->sa_len != ep->dst->sa_len)
    821   1.1    itojun 		return 0;
    822   1.1    itojun 
    823   1.1    itojun 	matchlen = 0;
    824   1.1    itojun 
    825   1.4    itojun 	p = (const u_int8_t *)sp;
    826   1.7    itojun 	q = (const u_int8_t *)ep->srcmask;
    827   1.1    itojun 	r = (u_int8_t *)&s;
    828   1.1    itojun 	for (i = 0 ; i < sp->sa_len; i++) {
    829   1.1    itojun 		r[i] = p[i] & q[i];
    830   1.1    itojun 		/* XXX estimate */
    831   1.1    itojun 		matchlen += (q[i] ? 8 : 0);
    832   1.1    itojun 	}
    833   1.1    itojun 
    834   1.4    itojun 	p = (const u_int8_t *)dp;
    835   1.7    itojun 	q = (const u_int8_t *)ep->dstmask;
    836   1.1    itojun 	r = (u_int8_t *)&d;
    837   1.1    itojun 	for (i = 0 ; i < dp->sa_len; i++) {
    838   1.1    itojun 		r[i] = p[i] & q[i];
    839   1.1    itojun 		/* XXX rough estimate */
    840   1.1    itojun 		matchlen += (q[i] ? 8 : 0);
    841   1.1    itojun 	}
    842   1.1    itojun 
    843   1.1    itojun 	/* need to overwrite len/family portion as we don't compare them */
    844   1.1    itojun 	s.ss_len = sp->sa_len;
    845   1.1    itojun 	s.ss_family = sp->sa_family;
    846   1.1    itojun 	d.ss_len = dp->sa_len;
    847   1.1    itojun 	d.ss_family = dp->sa_family;
    848   1.1    itojun 
    849  1.34    cegger 	if (memcmp(&s, ep->src, ep->src->sa_len) == 0 &&
    850  1.34    cegger 	    memcmp(&d, ep->dst, ep->dst->sa_len) == 0) {
    851   1.1    itojun 		return matchlen;
    852   1.1    itojun 	} else
    853   1.1    itojun 		return 0;
    854   1.1    itojun }
    855   1.7    itojun #endif
    856   1.1    itojun 
    857   1.1    itojun static void
    858  1.23     perry encap_fillarg(struct mbuf *m, const struct encaptab *ep)
    859   1.1    itojun {
    860  1.12    itojun 	struct m_tag *mtag;
    861   1.1    itojun 
    862  1.12    itojun 	mtag = m_tag_get(PACKET_TAG_ENCAP, sizeof(void *), M_NOWAIT);
    863  1.12    itojun 	if (mtag) {
    864  1.12    itojun 		*(void **)(mtag + 1) = ep->arg;
    865  1.12    itojun 		m_tag_prepend(m, mtag);
    866   1.1    itojun 	}
    867   1.1    itojun }
    868   1.1    itojun 
    869   1.1    itojun void *
    870  1.23     perry encap_getarg(struct mbuf *m)
    871   1.1    itojun {
    872   1.1    itojun 	void *p;
    873  1.12    itojun 	struct m_tag *mtag;
    874   1.1    itojun 
    875   1.1    itojun 	p = NULL;
    876  1.12    itojun 	mtag = m_tag_find(m, PACKET_TAG_ENCAP, NULL);
    877  1.12    itojun 	if (mtag != NULL) {
    878  1.13    itojun 		p = *(void **)(mtag + 1);
    879  1.12    itojun 		m_tag_delete(m, mtag);
    880   1.1    itojun 	}
    881   1.1    itojun 	return p;
    882   1.1    itojun }
    883