Home | History | Annotate | Line # | Download | only in netinet
ip_encap.c revision 1.39
      1   1.7    itojun /*	$KAME: ip_encap.c,v 1.73 2001/10/02 08:30:58 itojun Exp $	*/
      2   1.1    itojun 
      3   1.1    itojun /*
      4   1.1    itojun  * Copyright (C) 1995, 1996, 1997, and 1998 WIDE Project.
      5   1.1    itojun  * All rights reserved.
      6   1.1    itojun  *
      7   1.1    itojun  * Redistribution and use in source and binary forms, with or without
      8   1.1    itojun  * modification, are permitted provided that the following conditions
      9   1.1    itojun  * are met:
     10   1.1    itojun  * 1. Redistributions of source code must retain the above copyright
     11   1.1    itojun  *    notice, this list of conditions and the following disclaimer.
     12   1.1    itojun  * 2. Redistributions in binary form must reproduce the above copyright
     13   1.1    itojun  *    notice, this list of conditions and the following disclaimer in the
     14   1.1    itojun  *    documentation and/or other materials provided with the distribution.
     15   1.1    itojun  * 3. Neither the name of the project nor the names of its contributors
     16   1.1    itojun  *    may be used to endorse or promote products derived from this software
     17   1.1    itojun  *    without specific prior written permission.
     18   1.1    itojun  *
     19   1.1    itojun  * THIS SOFTWARE IS PROVIDED BY THE PROJECT AND CONTRIBUTORS ``AS IS'' AND
     20   1.1    itojun  * ANY EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE
     21   1.1    itojun  * IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR PURPOSE
     22   1.1    itojun  * ARE DISCLAIMED.  IN NO EVENT SHALL THE PROJECT OR CONTRIBUTORS BE LIABLE
     23   1.1    itojun  * FOR ANY DIRECT, INDIRECT, INCIDENTAL, SPECIAL, EXEMPLARY, OR CONSEQUENTIAL
     24   1.1    itojun  * DAMAGES (INCLUDING, BUT NOT LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS
     25   1.1    itojun  * OR SERVICES; LOSS OF USE, DATA, OR PROFITS; OR BUSINESS INTERRUPTION)
     26   1.1    itojun  * HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER IN CONTRACT, STRICT
     27   1.1    itojun  * LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE) ARISING IN ANY WAY
     28   1.1    itojun  * OUT OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED OF THE POSSIBILITY OF
     29   1.1    itojun  * SUCH DAMAGE.
     30   1.1    itojun  */
     31   1.1    itojun /*
     32   1.1    itojun  * My grandfather said that there's a devil inside tunnelling technology...
     33   1.1    itojun  *
     34   1.1    itojun  * We have surprisingly many protocols that want packets with IP protocol
     35   1.1    itojun  * #4 or #41.  Here's a list of protocols that want protocol #41:
     36   1.1    itojun  *	RFC1933 configured tunnel
     37   1.1    itojun  *	RFC1933 automatic tunnel
     38   1.1    itojun  *	RFC2401 IPsec tunnel
     39   1.1    itojun  *	RFC2473 IPv6 generic packet tunnelling
     40   1.1    itojun  *	RFC2529 6over4 tunnel
     41   1.7    itojun  *	RFC3056 6to4 tunnel
     42   1.7    itojun  *	isatap tunnel
     43   1.1    itojun  *	mobile-ip6 (uses RFC2473)
     44   1.1    itojun  * Here's a list of protocol that want protocol #4:
     45   1.1    itojun  *	RFC1853 IPv4-in-IPv4 tunnelling
     46   1.1    itojun  *	RFC2003 IPv4 encapsulation within IPv4
     47   1.1    itojun  *	RFC2344 reverse tunnelling for mobile-ip4
     48   1.1    itojun  *	RFC2401 IPsec tunnel
     49   1.1    itojun  * Well, what can I say.  They impose different en/decapsulation mechanism
     50   1.1    itojun  * from each other, so they need separate protocol handler.  The only one
     51   1.1    itojun  * we can easily determine by protocol # is IPsec, which always has
     52   1.1    itojun  * AH/ESP/IPComp header right after outer IP header.
     53   1.1    itojun  *
     54   1.1    itojun  * So, clearly good old protosw does not work for protocol #4 and #41.
     55   1.1    itojun  * The code will let you match protocol via src/dst address pair.
     56   1.1    itojun  */
     57   1.1    itojun /* XXX is M_NETADDR correct? */
     58   1.6     lukem 
     59   1.7    itojun /*
     60   1.7    itojun  * With USE_RADIX the code will use radix table for tunnel lookup, for
     61   1.7    itojun  * tunnels registered with encap_attach() with a addr/mask pair.
     62   1.7    itojun  * Faster on machines with thousands of tunnel registerations (= interfaces).
     63   1.7    itojun  *
     64   1.7    itojun  * The code assumes that radix table code can handle non-continuous netmask,
     65   1.7    itojun  * as it will pass radix table memory region with (src + dst) sockaddr pair.
     66   1.7    itojun  *
     67   1.7    itojun  * FreeBSD is excluded here as they make max_keylen a static variable, and
     68   1.7    itojun  * thus forbid definition of radix table other than proper domains.
     69  1.33     pooka  *
     70  1.33     pooka  * !!!!!!!
     71  1.33     pooka  * !!NOTE: dom_maxrtkey assumes USE_RADIX is defined.
     72  1.33     pooka  * !!!!!!!
     73   1.7    itojun  */
     74   1.7    itojun #define USE_RADIX
     75   1.7    itojun 
     76   1.6     lukem #include <sys/cdefs.h>
     77  1.39     joerg __KERNEL_RCSID(0, "$NetBSD: ip_encap.c,v 1.39 2011/07/17 20:54:53 joerg Exp $");
     78   1.1    itojun 
     79   1.4    itojun #include "opt_mrouting.h"
     80   1.4    itojun #include "opt_inet.h"
     81   1.1    itojun 
     82   1.1    itojun #include <sys/param.h>
     83   1.1    itojun #include <sys/systm.h>
     84   1.1    itojun #include <sys/socket.h>
     85   1.1    itojun #include <sys/sockio.h>
     86   1.1    itojun #include <sys/mbuf.h>
     87   1.1    itojun #include <sys/errno.h>
     88   1.1    itojun #include <sys/protosw.h>
     89   1.4    itojun #include <sys/queue.h>
     90   1.1    itojun 
     91   1.1    itojun #include <net/if.h>
     92   1.1    itojun #include <net/route.h>
     93   1.1    itojun 
     94   1.1    itojun #include <netinet/in.h>
     95   1.1    itojun #include <netinet/in_systm.h>
     96   1.1    itojun #include <netinet/ip.h>
     97   1.1    itojun #include <netinet/ip_var.h>
     98   1.1    itojun #include <netinet/ip_encap.h>
     99   1.1    itojun #ifdef MROUTING
    100   1.1    itojun #include <netinet/ip_mroute.h>
    101   1.1    itojun #endif /* MROUTING */
    102   1.1    itojun 
    103   1.1    itojun #ifdef INET6
    104   1.1    itojun #include <netinet/ip6.h>
    105   1.1    itojun #include <netinet6/ip6_var.h>
    106   1.1    itojun #include <netinet6/ip6protosw.h>
    107   1.7    itojun #include <netinet6/in6_var.h>
    108   1.7    itojun #include <netinet6/in6_pcb.h>
    109   1.7    itojun #include <netinet/icmp6.h>
    110   1.1    itojun #endif
    111   1.1    itojun 
    112   1.1    itojun #include <net/net_osdep.h>
    113   1.1    itojun 
    114   1.7    itojun enum direction { INBOUND, OUTBOUND };
    115   1.7    itojun 
    116   1.7    itojun #ifdef INET
    117  1.22     perry static struct encaptab *encap4_lookup(struct mbuf *, int, int, enum direction);
    118   1.7    itojun #endif
    119   1.7    itojun #ifdef INET6
    120  1.22     perry static struct encaptab *encap6_lookup(struct mbuf *, int, int, enum direction);
    121   1.7    itojun #endif
    122  1.22     perry static int encap_add(struct encaptab *);
    123  1.22     perry static int encap_remove(struct encaptab *);
    124  1.22     perry static int encap_afcheck(int, const struct sockaddr *, const struct sockaddr *);
    125   1.7    itojun #ifdef USE_RADIX
    126  1.22     perry static struct radix_node_head *encap_rnh(int);
    127  1.22     perry static int mask_matchlen(const struct sockaddr *);
    128   1.7    itojun #endif
    129   1.7    itojun #ifndef USE_RADIX
    130  1.22     perry static int mask_match(const struct encaptab *, const struct sockaddr *,
    131  1.22     perry 		const struct sockaddr *);
    132   1.7    itojun #endif
    133  1.22     perry static void encap_fillarg(struct mbuf *, const struct encaptab *);
    134   1.1    itojun 
    135   1.2   thorpej LIST_HEAD(, encaptab) encaptab = LIST_HEAD_INITIALIZER(&encaptab);
    136   1.1    itojun 
    137   1.7    itojun #ifdef USE_RADIX
    138   1.7    itojun extern int max_keylen;	/* radix.c */
    139   1.7    itojun struct radix_node_head *encap_head[2];	/* 0 for AF_INET, 1 for AF_INET6 */
    140   1.7    itojun #endif
    141   1.7    itojun 
    142   1.1    itojun void
    143  1.23     perry encap_init(void)
    144   1.1    itojun {
    145   1.7    itojun 	static int initialized = 0;
    146   1.7    itojun 
    147   1.7    itojun 	if (initialized)
    148   1.7    itojun 		return;
    149   1.7    itojun 	initialized++;
    150   1.1    itojun #if 0
    151   1.1    itojun 	/*
    152   1.1    itojun 	 * we cannot use LIST_INIT() here, since drivers may want to call
    153   1.4    itojun 	 * encap_attach(), on driver attach.  encap_init() will be called
    154   1.1    itojun 	 * on AF_INET{,6} initialization, which happens after driver
    155   1.1    itojun 	 * initialization - using LIST_INIT() here can nuke encap_attach()
    156   1.1    itojun 	 * from drivers.
    157   1.1    itojun 	 */
    158   1.1    itojun 	LIST_INIT(&encaptab);
    159   1.1    itojun #endif
    160   1.7    itojun 
    161   1.7    itojun #ifdef USE_RADIX
    162   1.7    itojun 	/*
    163  1.38     pooka 	 * initialize radix lookup table when the radix subsystem is inited.
    164   1.7    itojun 	 */
    165  1.38     pooka 	rn_delayedinit((void *)&encap_head[0],
    166  1.38     pooka 	    sizeof(struct sockaddr_pack) << 3);
    167   1.7    itojun #ifdef INET6
    168  1.38     pooka 	rn_delayedinit((void *)&encap_head[1],
    169  1.38     pooka 	    sizeof(struct sockaddr_pack) << 3);
    170   1.7    itojun #endif
    171   1.7    itojun #endif
    172   1.1    itojun }
    173   1.1    itojun 
    174   1.4    itojun #ifdef INET
    175   1.7    itojun static struct encaptab *
    176  1.23     perry encap4_lookup(struct mbuf *m, int off, int proto, enum direction dir)
    177   1.1    itojun {
    178   1.1    itojun 	struct ip *ip;
    179  1.33     pooka 	struct ip_pack4 pack;
    180   1.1    itojun 	struct encaptab *ep, *match;
    181   1.1    itojun 	int prio, matchprio;
    182   1.7    itojun #ifdef USE_RADIX
    183   1.7    itojun 	struct radix_node_head *rnh = encap_rnh(AF_INET);
    184   1.7    itojun 	struct radix_node *rn;
    185   1.7    itojun #endif
    186   1.1    itojun 
    187   1.7    itojun #ifdef DIAGNOSTIC
    188   1.7    itojun 	if (m->m_len < sizeof(*ip))
    189   1.7    itojun 		panic("encap4_lookup");
    190   1.7    itojun #endif
    191   1.1    itojun 	ip = mtod(m, struct ip *);
    192   1.1    itojun 
    193  1.35    cegger 	memset(&pack, 0, sizeof(pack));
    194   1.7    itojun 	pack.p.sp_len = sizeof(pack);
    195   1.7    itojun 	pack.mine.sin_family = pack.yours.sin_family = AF_INET;
    196   1.7    itojun 	pack.mine.sin_len = pack.yours.sin_len = sizeof(struct sockaddr_in);
    197   1.7    itojun 	if (dir == INBOUND) {
    198   1.7    itojun 		pack.mine.sin_addr = ip->ip_dst;
    199   1.7    itojun 		pack.yours.sin_addr = ip->ip_src;
    200   1.7    itojun 	} else {
    201   1.7    itojun 		pack.mine.sin_addr = ip->ip_src;
    202   1.7    itojun 		pack.yours.sin_addr = ip->ip_dst;
    203   1.7    itojun 	}
    204   1.1    itojun 
    205   1.1    itojun 	match = NULL;
    206   1.1    itojun 	matchprio = 0;
    207   1.7    itojun 
    208   1.7    itojun #ifdef USE_RADIX
    209  1.30  christos 	rn = rnh->rnh_matchaddr((void *)&pack, rnh);
    210   1.7    itojun 	if (rn && (rn->rn_flags & RNF_ROOT) == 0) {
    211   1.7    itojun 		match = (struct encaptab *)rn;
    212   1.7    itojun 		matchprio = mask_matchlen(match->srcmask) +
    213   1.7    itojun 		    mask_matchlen(match->dstmask);
    214   1.7    itojun 	}
    215   1.7    itojun #endif
    216   1.7    itojun 
    217  1.31    dyoung 	LIST_FOREACH(ep, &encaptab, chain) {
    218   1.1    itojun 		if (ep->af != AF_INET)
    219   1.1    itojun 			continue;
    220   1.1    itojun 		if (ep->proto >= 0 && ep->proto != proto)
    221   1.1    itojun 			continue;
    222   1.1    itojun 		if (ep->func)
    223   1.1    itojun 			prio = (*ep->func)(m, off, proto, ep->arg);
    224   1.1    itojun 		else {
    225   1.7    itojun #ifdef USE_RADIX
    226   1.7    itojun 			continue;
    227   1.7    itojun #else
    228   1.7    itojun 			prio = mask_match(ep, (struct sockaddr *)&pack.mine,
    229   1.7    itojun 			    (struct sockaddr *)&pack.yours);
    230   1.7    itojun #endif
    231   1.1    itojun 		}
    232   1.1    itojun 
    233   1.1    itojun 		/*
    234   1.1    itojun 		 * We prioritize the matches by using bit length of the
    235   1.1    itojun 		 * matches.  mask_match() and user-supplied matching function
    236   1.1    itojun 		 * should return the bit length of the matches (for example,
    237   1.1    itojun 		 * if both src/dst are matched for IPv4, 64 should be returned).
    238   1.1    itojun 		 * 0 or negative return value means "it did not match".
    239   1.1    itojun 		 *
    240   1.1    itojun 		 * The question is, since we have two "mask" portion, we
    241   1.1    itojun 		 * cannot really define total order between entries.
    242   1.1    itojun 		 * For example, which of these should be preferred?
    243   1.1    itojun 		 * mask_match() returns 48 (32 + 16) for both of them.
    244   1.1    itojun 		 *	src=3ffe::/16, dst=3ffe:501::/32
    245   1.1    itojun 		 *	src=3ffe:501::/32, dst=3ffe::/16
    246   1.1    itojun 		 *
    247   1.1    itojun 		 * We need to loop through all the possible candidates
    248   1.1    itojun 		 * to get the best match - the search takes O(n) for
    249   1.1    itojun 		 * n attachments (i.e. interfaces).
    250   1.7    itojun 		 *
    251   1.7    itojun 		 * For radix-based lookup, I guess source takes precedence.
    252   1.7    itojun 		 * See rn_{refines,lexobetter} for the correct answer.
    253   1.1    itojun 		 */
    254   1.1    itojun 		if (prio <= 0)
    255   1.1    itojun 			continue;
    256   1.1    itojun 		if (prio > matchprio) {
    257   1.1    itojun 			matchprio = prio;
    258   1.1    itojun 			match = ep;
    259   1.1    itojun 		}
    260   1.1    itojun 	}
    261   1.1    itojun 
    262   1.7    itojun 	return match;
    263   1.7    itojun #undef s
    264   1.7    itojun #undef d
    265   1.7    itojun }
    266   1.7    itojun 
    267   1.7    itojun void
    268   1.7    itojun encap4_input(struct mbuf *m, ...)
    269   1.7    itojun {
    270   1.7    itojun 	int off, proto;
    271   1.7    itojun 	va_list ap;
    272   1.7    itojun 	const struct protosw *psw;
    273   1.7    itojun 	struct encaptab *match;
    274   1.7    itojun 
    275   1.7    itojun 	va_start(ap, m);
    276   1.7    itojun 	off = va_arg(ap, int);
    277   1.7    itojun 	proto = va_arg(ap, int);
    278   1.7    itojun 	va_end(ap);
    279   1.7    itojun 
    280   1.7    itojun 	match = encap4_lookup(m, off, proto, INBOUND);
    281   1.7    itojun 
    282   1.1    itojun 	if (match) {
    283   1.1    itojun 		/* found a match, "match" has the best one */
    284   1.4    itojun 		psw = match->psw;
    285   1.4    itojun 		if (psw && psw->pr_input) {
    286   1.1    itojun 			encap_fillarg(m, match);
    287   1.4    itojun 			(*psw->pr_input)(m, off, proto);
    288   1.1    itojun 		} else
    289   1.1    itojun 			m_freem(m);
    290   1.1    itojun 		return;
    291   1.1    itojun 	}
    292   1.1    itojun 
    293   1.1    itojun 	/* last resort: inject to raw socket */
    294   1.1    itojun 	rip_input(m, off, proto);
    295   1.1    itojun }
    296   1.1    itojun #endif
    297   1.1    itojun 
    298   1.1    itojun #ifdef INET6
    299   1.7    itojun static struct encaptab *
    300  1.23     perry encap6_lookup(struct mbuf *m, int off, int proto, enum direction dir)
    301   1.1    itojun {
    302   1.1    itojun 	struct ip6_hdr *ip6;
    303  1.33     pooka 	struct ip_pack6 pack;
    304   1.7    itojun 	int prio, matchprio;
    305   1.1    itojun 	struct encaptab *ep, *match;
    306   1.7    itojun #ifdef USE_RADIX
    307   1.7    itojun 	struct radix_node_head *rnh = encap_rnh(AF_INET6);
    308   1.7    itojun 	struct radix_node *rn;
    309   1.7    itojun #endif
    310   1.1    itojun 
    311   1.7    itojun #ifdef DIAGNOSTIC
    312   1.7    itojun 	if (m->m_len < sizeof(*ip6))
    313   1.7    itojun 		panic("encap6_lookup");
    314   1.7    itojun #endif
    315   1.1    itojun 	ip6 = mtod(m, struct ip6_hdr *);
    316   1.1    itojun 
    317  1.35    cegger 	memset(&pack, 0, sizeof(pack));
    318   1.7    itojun 	pack.p.sp_len = sizeof(pack);
    319   1.7    itojun 	pack.mine.sin6_family = pack.yours.sin6_family = AF_INET6;
    320   1.7    itojun 	pack.mine.sin6_len = pack.yours.sin6_len = sizeof(struct sockaddr_in6);
    321   1.7    itojun 	if (dir == INBOUND) {
    322   1.7    itojun 		pack.mine.sin6_addr = ip6->ip6_dst;
    323   1.7    itojun 		pack.yours.sin6_addr = ip6->ip6_src;
    324   1.7    itojun 	} else {
    325   1.7    itojun 		pack.mine.sin6_addr = ip6->ip6_src;
    326   1.7    itojun 		pack.yours.sin6_addr = ip6->ip6_dst;
    327   1.7    itojun 	}
    328   1.1    itojun 
    329   1.1    itojun 	match = NULL;
    330   1.1    itojun 	matchprio = 0;
    331   1.7    itojun 
    332   1.7    itojun #ifdef USE_RADIX
    333  1.30  christos 	rn = rnh->rnh_matchaddr((void *)&pack, rnh);
    334   1.7    itojun 	if (rn && (rn->rn_flags & RNF_ROOT) == 0) {
    335   1.7    itojun 		match = (struct encaptab *)rn;
    336   1.7    itojun 		matchprio = mask_matchlen(match->srcmask) +
    337   1.7    itojun 		    mask_matchlen(match->dstmask);
    338   1.7    itojun 	}
    339   1.7    itojun #endif
    340   1.7    itojun 
    341  1.31    dyoung 	LIST_FOREACH(ep, &encaptab, chain) {
    342   1.1    itojun 		if (ep->af != AF_INET6)
    343   1.1    itojun 			continue;
    344   1.1    itojun 		if (ep->proto >= 0 && ep->proto != proto)
    345   1.1    itojun 			continue;
    346   1.1    itojun 		if (ep->func)
    347   1.7    itojun 			prio = (*ep->func)(m, off, proto, ep->arg);
    348   1.1    itojun 		else {
    349   1.7    itojun #ifdef USE_RADIX
    350   1.7    itojun 			continue;
    351   1.7    itojun #else
    352   1.7    itojun 			prio = mask_match(ep, (struct sockaddr *)&pack.mine,
    353   1.7    itojun 			    (struct sockaddr *)&pack.yours);
    354   1.7    itojun #endif
    355   1.1    itojun 		}
    356   1.1    itojun 
    357   1.7    itojun 		/* see encap4_lookup() for issues here */
    358   1.1    itojun 		if (prio <= 0)
    359   1.1    itojun 			continue;
    360   1.1    itojun 		if (prio > matchprio) {
    361   1.1    itojun 			matchprio = prio;
    362   1.1    itojun 			match = ep;
    363   1.1    itojun 		}
    364   1.1    itojun 	}
    365   1.1    itojun 
    366   1.7    itojun 	return match;
    367   1.7    itojun #undef s
    368   1.7    itojun #undef d
    369   1.7    itojun }
    370   1.7    itojun 
    371   1.7    itojun int
    372  1.23     perry encap6_input(struct mbuf **mp, int *offp, int proto)
    373   1.7    itojun {
    374   1.7    itojun 	struct mbuf *m = *mp;
    375   1.7    itojun 	const struct ip6protosw *psw;
    376   1.7    itojun 	struct encaptab *match;
    377   1.7    itojun 
    378   1.7    itojun 	match = encap6_lookup(m, *offp, proto, INBOUND);
    379   1.7    itojun 
    380   1.1    itojun 	if (match) {
    381   1.1    itojun 		/* found a match */
    382   1.4    itojun 		psw = (const struct ip6protosw *)match->psw;
    383   1.1    itojun 		if (psw && psw->pr_input) {
    384   1.1    itojun 			encap_fillarg(m, match);
    385   1.1    itojun 			return (*psw->pr_input)(mp, offp, proto);
    386   1.1    itojun 		} else {
    387   1.1    itojun 			m_freem(m);
    388   1.1    itojun 			return IPPROTO_DONE;
    389   1.1    itojun 		}
    390   1.1    itojun 	}
    391   1.1    itojun 
    392   1.1    itojun 	/* last resort: inject to raw socket */
    393   1.1    itojun 	return rip6_input(mp, offp, proto);
    394   1.1    itojun }
    395   1.1    itojun #endif
    396   1.1    itojun 
    397   1.7    itojun static int
    398  1.23     perry encap_add(struct encaptab *ep)
    399   1.1    itojun {
    400   1.7    itojun #ifdef USE_RADIX
    401   1.7    itojun 	struct radix_node_head *rnh = encap_rnh(ep->af);
    402   1.7    itojun #endif
    403   1.7    itojun 	int error = 0;
    404   1.1    itojun 
    405   1.1    itojun 	LIST_INSERT_HEAD(&encaptab, ep, chain);
    406   1.7    itojun #ifdef USE_RADIX
    407   1.7    itojun 	if (!ep->func && rnh) {
    408  1.30  christos 		if (!rnh->rnh_addaddr((void *)ep->addrpack,
    409  1.30  christos 		    (void *)ep->maskpack, rnh, ep->nodes)) {
    410   1.7    itojun 			error = EEXIST;
    411   1.7    itojun 			goto fail;
    412   1.7    itojun 		}
    413   1.7    itojun 	}
    414   1.7    itojun #endif
    415   1.7    itojun 	return error;
    416   1.7    itojun 
    417   1.7    itojun  fail:
    418   1.7    itojun 	LIST_REMOVE(ep, chain);
    419   1.7    itojun 	return error;
    420   1.7    itojun }
    421   1.7    itojun 
    422   1.7    itojun static int
    423  1.23     perry encap_remove(struct encaptab *ep)
    424   1.7    itojun {
    425   1.7    itojun #ifdef USE_RADIX
    426   1.7    itojun 	struct radix_node_head *rnh = encap_rnh(ep->af);
    427   1.7    itojun #endif
    428   1.7    itojun 	int error = 0;
    429   1.7    itojun 
    430   1.7    itojun 	LIST_REMOVE(ep, chain);
    431   1.7    itojun #ifdef USE_RADIX
    432   1.7    itojun 	if (!ep->func && rnh) {
    433  1.30  christos 		if (!rnh->rnh_deladdr((void *)ep->addrpack,
    434  1.30  christos 		    (void *)ep->maskpack, rnh))
    435   1.7    itojun 			error = ESRCH;
    436   1.7    itojun 	}
    437   1.7    itojun #endif
    438   1.7    itojun 	return error;
    439   1.7    itojun }
    440   1.7    itojun 
    441   1.7    itojun static int
    442  1.23     perry encap_afcheck(int af, const struct sockaddr *sp, const struct sockaddr *dp)
    443   1.7    itojun {
    444   1.7    itojun 	if (sp && dp) {
    445   1.7    itojun 		if (sp->sa_len != dp->sa_len)
    446   1.7    itojun 			return EINVAL;
    447   1.7    itojun 		if (af != sp->sa_family || af != dp->sa_family)
    448   1.7    itojun 			return EINVAL;
    449   1.7    itojun 	} else if (!sp && !dp)
    450   1.7    itojun 		;
    451   1.7    itojun 	else
    452   1.7    itojun 		return EINVAL;
    453   1.7    itojun 
    454   1.7    itojun 	switch (af) {
    455   1.7    itojun 	case AF_INET:
    456   1.7    itojun 		if (sp && sp->sa_len != sizeof(struct sockaddr_in))
    457   1.7    itojun 			return EINVAL;
    458   1.7    itojun 		if (dp && dp->sa_len != sizeof(struct sockaddr_in))
    459   1.7    itojun 			return EINVAL;
    460   1.7    itojun 		break;
    461   1.7    itojun #ifdef INET6
    462   1.7    itojun 	case AF_INET6:
    463   1.7    itojun 		if (sp && sp->sa_len != sizeof(struct sockaddr_in6))
    464   1.7    itojun 			return EINVAL;
    465   1.7    itojun 		if (dp && dp->sa_len != sizeof(struct sockaddr_in6))
    466   1.7    itojun 			return EINVAL;
    467   1.7    itojun 		break;
    468   1.7    itojun #endif
    469   1.7    itojun 	default:
    470   1.7    itojun 		return EAFNOSUPPORT;
    471   1.7    itojun 	}
    472   1.7    itojun 
    473   1.7    itojun 	return 0;
    474   1.1    itojun }
    475   1.1    itojun 
    476   1.1    itojun /*
    477   1.1    itojun  * sp (src ptr) is always my side, and dp (dst ptr) is always remote side.
    478   1.1    itojun  * length of mask (sm and dm) is assumed to be same as sp/dp.
    479   1.1    itojun  * Return value will be necessary as input (cookie) for encap_detach().
    480   1.1    itojun  */
    481   1.1    itojun const struct encaptab *
    482  1.23     perry encap_attach(int af, int proto,
    483  1.23     perry     const struct sockaddr *sp, const struct sockaddr *sm,
    484  1.23     perry     const struct sockaddr *dp, const struct sockaddr *dm,
    485  1.23     perry     const struct protosw *psw, void *arg)
    486   1.1    itojun {
    487   1.1    itojun 	struct encaptab *ep;
    488   1.1    itojun 	int error;
    489   1.1    itojun 	int s;
    490   1.7    itojun 	size_t l;
    491  1.33     pooka 	struct ip_pack4 *pack4;
    492   1.7    itojun #ifdef INET6
    493  1.33     pooka 	struct ip_pack6 *pack6;
    494   1.7    itojun #endif
    495   1.1    itojun 
    496   1.1    itojun 	s = splsoftnet();
    497   1.1    itojun 	/* sanity check on args */
    498   1.7    itojun 	error = encap_afcheck(af, sp, dp);
    499   1.7    itojun 	if (error)
    500   1.1    itojun 		goto fail;
    501   1.1    itojun 
    502   1.1    itojun 	/* check if anyone have already attached with exactly same config */
    503  1.31    dyoung 	LIST_FOREACH(ep, &encaptab, chain) {
    504   1.1    itojun 		if (ep->af != af)
    505   1.1    itojun 			continue;
    506   1.1    itojun 		if (ep->proto != proto)
    507   1.1    itojun 			continue;
    508   1.7    itojun 		if (ep->func)
    509   1.7    itojun 			continue;
    510   1.7    itojun #ifdef DIAGNOSTIC
    511   1.7    itojun 		if (!ep->src || !ep->dst || !ep->srcmask || !ep->dstmask)
    512   1.7    itojun 			panic("null pointers in encaptab");
    513   1.7    itojun #endif
    514   1.7    itojun 		if (ep->src->sa_len != sp->sa_len ||
    515  1.34    cegger 		    memcmp(ep->src, sp, sp->sa_len) != 0 ||
    516  1.34    cegger 		    memcmp(ep->srcmask, sm, sp->sa_len) != 0)
    517   1.7    itojun 			continue;
    518   1.7    itojun 		if (ep->dst->sa_len != dp->sa_len ||
    519  1.34    cegger 		    memcmp(ep->dst, dp, dp->sa_len) != 0 ||
    520  1.34    cegger 		    memcmp(ep->dstmask, dm, dp->sa_len) != 0)
    521   1.1    itojun 			continue;
    522   1.1    itojun 
    523   1.1    itojun 		error = EEXIST;
    524   1.1    itojun 		goto fail;
    525   1.1    itojun 	}
    526   1.3   thorpej 
    527   1.7    itojun 	switch (af) {
    528   1.7    itojun 	case AF_INET:
    529   1.7    itojun 		l = sizeof(*pack4);
    530   1.7    itojun 		break;
    531   1.7    itojun #ifdef INET6
    532   1.7    itojun 	case AF_INET6:
    533   1.7    itojun 		l = sizeof(*pack6);
    534   1.7    itojun 		break;
    535   1.7    itojun #endif
    536   1.7    itojun 	default:
    537   1.7    itojun 		goto fail;
    538   1.7    itojun 	}
    539   1.7    itojun 
    540  1.20    itojun 	/* M_NETADDR ok? */
    541  1.20    itojun 	ep = malloc(sizeof(*ep), M_NETADDR, M_NOWAIT|M_ZERO);
    542   1.1    itojun 	if (ep == NULL) {
    543   1.1    itojun 		error = ENOBUFS;
    544   1.1    itojun 		goto fail;
    545   1.1    itojun 	}
    546  1.20    itojun 	ep->addrpack = malloc(l, M_NETADDR, M_NOWAIT|M_ZERO);
    547   1.7    itojun 	if (ep->addrpack == NULL) {
    548   1.7    itojun 		error = ENOBUFS;
    549   1.7    itojun 		goto gc;
    550   1.7    itojun 	}
    551  1.20    itojun 	ep->maskpack = malloc(l, M_NETADDR, M_NOWAIT|M_ZERO);
    552   1.7    itojun 	if (ep->maskpack == NULL) {
    553   1.7    itojun 		error = ENOBUFS;
    554   1.7    itojun 		goto gc;
    555   1.7    itojun 	}
    556   1.1    itojun 
    557   1.1    itojun 	ep->af = af;
    558   1.1    itojun 	ep->proto = proto;
    559   1.7    itojun 	ep->addrpack->sa_len = l & 0xff;
    560   1.7    itojun 	ep->maskpack->sa_len = l & 0xff;
    561   1.7    itojun 	switch (af) {
    562   1.7    itojun 	case AF_INET:
    563  1.33     pooka 		pack4 = (struct ip_pack4 *)ep->addrpack;
    564   1.7    itojun 		ep->src = (struct sockaddr *)&pack4->mine;
    565   1.7    itojun 		ep->dst = (struct sockaddr *)&pack4->yours;
    566  1.33     pooka 		pack4 = (struct ip_pack4 *)ep->maskpack;
    567   1.7    itojun 		ep->srcmask = (struct sockaddr *)&pack4->mine;
    568   1.7    itojun 		ep->dstmask = (struct sockaddr *)&pack4->yours;
    569   1.7    itojun 		break;
    570   1.7    itojun #ifdef INET6
    571   1.7    itojun 	case AF_INET6:
    572  1.33     pooka 		pack6 = (struct ip_pack6 *)ep->addrpack;
    573   1.7    itojun 		ep->src = (struct sockaddr *)&pack6->mine;
    574   1.7    itojun 		ep->dst = (struct sockaddr *)&pack6->yours;
    575  1.33     pooka 		pack6 = (struct ip_pack6 *)ep->maskpack;
    576   1.7    itojun 		ep->srcmask = (struct sockaddr *)&pack6->mine;
    577   1.7    itojun 		ep->dstmask = (struct sockaddr *)&pack6->yours;
    578   1.7    itojun 		break;
    579   1.7    itojun #endif
    580   1.7    itojun 	}
    581   1.7    itojun 
    582  1.37   tsutsui 	memcpy(ep->src, sp, sp->sa_len);
    583  1.37   tsutsui 	memcpy(ep->srcmask, sm, sp->sa_len);
    584  1.37   tsutsui 	memcpy(ep->dst, dp, dp->sa_len);
    585  1.37   tsutsui 	memcpy(ep->dstmask, dm, dp->sa_len);
    586   1.1    itojun 	ep->psw = psw;
    587   1.1    itojun 	ep->arg = arg;
    588   1.1    itojun 
    589   1.7    itojun 	error = encap_add(ep);
    590   1.7    itojun 	if (error)
    591   1.7    itojun 		goto gc;
    592   1.1    itojun 
    593   1.1    itojun 	error = 0;
    594   1.1    itojun 	splx(s);
    595   1.1    itojun 	return ep;
    596   1.1    itojun 
    597   1.7    itojun gc:
    598   1.7    itojun 	if (ep->addrpack)
    599   1.7    itojun 		free(ep->addrpack, M_NETADDR);
    600   1.7    itojun 	if (ep->maskpack)
    601   1.7    itojun 		free(ep->maskpack, M_NETADDR);
    602   1.7    itojun 	if (ep)
    603   1.7    itojun 		free(ep, M_NETADDR);
    604   1.1    itojun fail:
    605   1.1    itojun 	splx(s);
    606   1.1    itojun 	return NULL;
    607   1.1    itojun }
    608   1.1    itojun 
    609   1.1    itojun const struct encaptab *
    610  1.23     perry encap_attach_func(int af, int proto,
    611  1.26    martin     int (*func)(struct mbuf *, int, int, void *),
    612  1.23     perry     const struct protosw *psw, void *arg)
    613   1.1    itojun {
    614   1.1    itojun 	struct encaptab *ep;
    615   1.1    itojun 	int error;
    616   1.1    itojun 	int s;
    617   1.1    itojun 
    618   1.1    itojun 	s = splsoftnet();
    619   1.1    itojun 	/* sanity check on args */
    620   1.1    itojun 	if (!func) {
    621   1.1    itojun 		error = EINVAL;
    622   1.1    itojun 		goto fail;
    623   1.1    itojun 	}
    624   1.1    itojun 
    625   1.7    itojun 	error = encap_afcheck(af, NULL, NULL);
    626   1.7    itojun 	if (error)
    627   1.7    itojun 		goto fail;
    628   1.7    itojun 
    629   1.1    itojun 	ep = malloc(sizeof(*ep), M_NETADDR, M_NOWAIT);	/*XXX*/
    630   1.1    itojun 	if (ep == NULL) {
    631   1.1    itojun 		error = ENOBUFS;
    632   1.1    itojun 		goto fail;
    633   1.1    itojun 	}
    634  1.35    cegger 	memset(ep, 0, sizeof(*ep));
    635   1.1    itojun 
    636   1.1    itojun 	ep->af = af;
    637   1.1    itojun 	ep->proto = proto;
    638   1.1    itojun 	ep->func = func;
    639   1.1    itojun 	ep->psw = psw;
    640   1.1    itojun 	ep->arg = arg;
    641   1.1    itojun 
    642   1.7    itojun 	error = encap_add(ep);
    643   1.7    itojun 	if (error)
    644   1.7    itojun 		goto fail;
    645   1.1    itojun 
    646   1.1    itojun 	error = 0;
    647   1.1    itojun 	splx(s);
    648   1.1    itojun 	return ep;
    649   1.1    itojun 
    650   1.1    itojun fail:
    651   1.1    itojun 	splx(s);
    652   1.1    itojun 	return NULL;
    653   1.1    itojun }
    654   1.1    itojun 
    655   1.7    itojun /* XXX encap4_ctlinput() is necessary if we set DF=1 on outer IPv4 header */
    656   1.7    itojun 
    657   1.7    itojun #ifdef INET6
    658  1.32        ad void *
    659  1.29    dyoung encap6_ctlinput(int cmd, const struct sockaddr *sa, void *d0)
    660   1.7    itojun {
    661   1.7    itojun 	void *d = d0;
    662   1.7    itojun 	struct ip6_hdr *ip6;
    663   1.7    itojun 	struct mbuf *m;
    664   1.7    itojun 	int off;
    665   1.7    itojun 	struct ip6ctlparam *ip6cp = NULL;
    666   1.7    itojun 	int nxt;
    667   1.7    itojun 	struct encaptab *ep;
    668   1.7    itojun 	const struct ip6protosw *psw;
    669   1.7    itojun 
    670   1.7    itojun 	if (sa->sa_family != AF_INET6 ||
    671   1.7    itojun 	    sa->sa_len != sizeof(struct sockaddr_in6))
    672  1.32        ad 		return NULL;
    673   1.7    itojun 
    674   1.7    itojun 	if ((unsigned)cmd >= PRC_NCMDS)
    675  1.32        ad 		return NULL;
    676   1.7    itojun 	if (cmd == PRC_HOSTDEAD)
    677   1.7    itojun 		d = NULL;
    678   1.7    itojun 	else if (cmd == PRC_MSGSIZE)
    679   1.7    itojun 		; /* special code is present, see below */
    680   1.7    itojun 	else if (inet6ctlerrmap[cmd] == 0)
    681  1.32        ad 		return NULL;
    682   1.7    itojun 
    683   1.7    itojun 	/* if the parameter is from icmp6, decode it. */
    684   1.7    itojun 	if (d != NULL) {
    685   1.7    itojun 		ip6cp = (struct ip6ctlparam *)d;
    686   1.7    itojun 		m = ip6cp->ip6c_m;
    687   1.7    itojun 		ip6 = ip6cp->ip6c_ip6;
    688   1.7    itojun 		off = ip6cp->ip6c_off;
    689   1.7    itojun 		nxt = ip6cp->ip6c_nxt;
    690  1.15   mycroft 
    691  1.15   mycroft 		if (ip6 && cmd == PRC_MSGSIZE) {
    692  1.15   mycroft 			int valid = 0;
    693  1.15   mycroft 			struct encaptab *match;
    694  1.15   mycroft 
    695  1.15   mycroft 			/*
    696  1.15   mycroft 		 	* Check to see if we have a valid encap configuration.
    697  1.15   mycroft 		 	*/
    698  1.15   mycroft 			match = encap6_lookup(m, off, nxt, OUTBOUND);
    699  1.15   mycroft 			if (match)
    700  1.15   mycroft 				valid++;
    701  1.15   mycroft 
    702  1.15   mycroft 			/*
    703  1.15   mycroft 		 	* Depending on the value of "valid" and routing table
    704  1.15   mycroft 		 	* size (mtudisc_{hi,lo}wat), we will:
    705  1.15   mycroft 		 	* - recalcurate the new MTU and create the
    706  1.15   mycroft 		 	*   corresponding routing entry, or
    707  1.15   mycroft 		 	* - ignore the MTU change notification.
    708  1.15   mycroft 		 	*/
    709  1.15   mycroft 			icmp6_mtudisc_update((struct ip6ctlparam *)d, valid);
    710  1.15   mycroft 		}
    711   1.7    itojun 	} else {
    712   1.7    itojun 		m = NULL;
    713   1.7    itojun 		ip6 = NULL;
    714   1.7    itojun 		nxt = -1;
    715   1.7    itojun 	}
    716   1.7    itojun 
    717   1.7    itojun 	/* inform all listeners */
    718  1.31    dyoung 	LIST_FOREACH(ep, &encaptab, chain) {
    719   1.7    itojun 		if (ep->af != AF_INET6)
    720   1.7    itojun 			continue;
    721   1.7    itojun 		if (ep->proto >= 0 && ep->proto != nxt)
    722   1.7    itojun 			continue;
    723   1.7    itojun 
    724   1.7    itojun 		/* should optimize by looking at address pairs */
    725   1.7    itojun 
    726   1.7    itojun 		/* XXX need to pass ep->arg or ep itself to listeners */
    727   1.7    itojun 		psw = (const struct ip6protosw *)ep->psw;
    728   1.7    itojun 		if (psw && psw->pr_ctlinput)
    729   1.7    itojun 			(*psw->pr_ctlinput)(cmd, sa, d);
    730   1.7    itojun 	}
    731   1.7    itojun 
    732   1.7    itojun 	rip6_ctlinput(cmd, sa, d0);
    733  1.32        ad 	return NULL;
    734   1.7    itojun }
    735   1.7    itojun #endif
    736   1.7    itojun 
    737   1.1    itojun int
    738  1.23     perry encap_detach(const struct encaptab *cookie)
    739   1.1    itojun {
    740   1.1    itojun 	const struct encaptab *ep = cookie;
    741   1.1    itojun 	struct encaptab *p;
    742   1.7    itojun 	int error;
    743   1.1    itojun 
    744  1.31    dyoung 	LIST_FOREACH(p, &encaptab, chain) {
    745   1.1    itojun 		if (p == ep) {
    746   1.7    itojun 			error = encap_remove(p);
    747   1.7    itojun 			if (error)
    748   1.7    itojun 				return error;
    749   1.7    itojun 			if (!ep->func) {
    750   1.7    itojun 				free(p->addrpack, M_NETADDR);
    751   1.7    itojun 				free(p->maskpack, M_NETADDR);
    752   1.7    itojun 			}
    753   1.1    itojun 			free(p, M_NETADDR);	/*XXX*/
    754   1.1    itojun 			return 0;
    755   1.1    itojun 		}
    756   1.1    itojun 	}
    757   1.1    itojun 
    758   1.7    itojun 	return ENOENT;
    759   1.7    itojun }
    760   1.7    itojun 
    761   1.7    itojun #ifdef USE_RADIX
    762   1.7    itojun static struct radix_node_head *
    763  1.23     perry encap_rnh(int af)
    764   1.7    itojun {
    765   1.7    itojun 
    766   1.7    itojun 	switch (af) {
    767   1.7    itojun 	case AF_INET:
    768   1.7    itojun 		return encap_head[0];
    769   1.7    itojun #ifdef INET6
    770   1.7    itojun 	case AF_INET6:
    771   1.7    itojun 		return encap_head[1];
    772   1.7    itojun #endif
    773   1.7    itojun 	default:
    774   1.7    itojun 		return NULL;
    775   1.7    itojun 	}
    776   1.7    itojun }
    777   1.7    itojun 
    778   1.7    itojun static int
    779  1.23     perry mask_matchlen(const struct sockaddr *sa)
    780   1.7    itojun {
    781   1.7    itojun 	const char *p, *ep;
    782   1.7    itojun 	int l;
    783   1.7    itojun 
    784   1.7    itojun 	p = (const char *)sa;
    785   1.7    itojun 	ep = p + sa->sa_len;
    786   1.7    itojun 	p += 2;	/* sa_len + sa_family */
    787   1.7    itojun 
    788   1.7    itojun 	l = 0;
    789   1.7    itojun 	while (p < ep) {
    790   1.7    itojun 		l += (*p ? 8 : 0);	/* estimate */
    791   1.7    itojun 		p++;
    792   1.7    itojun 	}
    793   1.7    itojun 	return l;
    794   1.1    itojun }
    795   1.7    itojun #endif
    796   1.1    itojun 
    797   1.7    itojun #ifndef USE_RADIX
    798   1.1    itojun static int
    799  1.23     perry mask_match(const struct encaptab *ep,
    800  1.23     perry 	   const struct sockaddr *sp,
    801  1.23     perry 	   const struct sockaddr *dp)
    802   1.1    itojun {
    803   1.1    itojun 	struct sockaddr_storage s;
    804   1.1    itojun 	struct sockaddr_storage d;
    805   1.1    itojun 	int i;
    806   1.4    itojun 	const u_int8_t *p, *q;
    807   1.4    itojun 	u_int8_t *r;
    808   1.1    itojun 	int matchlen;
    809   1.1    itojun 
    810   1.7    itojun #ifdef DIAGNOSTIC
    811   1.7    itojun 	if (ep->func)
    812   1.7    itojun 		panic("wrong encaptab passed to mask_match");
    813   1.7    itojun #endif
    814   1.1    itojun 	if (sp->sa_len > sizeof(s) || dp->sa_len > sizeof(d))
    815   1.1    itojun 		return 0;
    816   1.1    itojun 	if (sp->sa_family != ep->af || dp->sa_family != ep->af)
    817   1.1    itojun 		return 0;
    818   1.7    itojun 	if (sp->sa_len != ep->src->sa_len || dp->sa_len != ep->dst->sa_len)
    819   1.1    itojun 		return 0;
    820   1.1    itojun 
    821   1.1    itojun 	matchlen = 0;
    822   1.1    itojun 
    823   1.4    itojun 	p = (const u_int8_t *)sp;
    824   1.7    itojun 	q = (const u_int8_t *)ep->srcmask;
    825   1.1    itojun 	r = (u_int8_t *)&s;
    826   1.1    itojun 	for (i = 0 ; i < sp->sa_len; i++) {
    827   1.1    itojun 		r[i] = p[i] & q[i];
    828   1.1    itojun 		/* XXX estimate */
    829   1.1    itojun 		matchlen += (q[i] ? 8 : 0);
    830   1.1    itojun 	}
    831   1.1    itojun 
    832   1.4    itojun 	p = (const u_int8_t *)dp;
    833   1.7    itojun 	q = (const u_int8_t *)ep->dstmask;
    834   1.1    itojun 	r = (u_int8_t *)&d;
    835   1.1    itojun 	for (i = 0 ; i < dp->sa_len; i++) {
    836   1.1    itojun 		r[i] = p[i] & q[i];
    837   1.1    itojun 		/* XXX rough estimate */
    838   1.1    itojun 		matchlen += (q[i] ? 8 : 0);
    839   1.1    itojun 	}
    840   1.1    itojun 
    841   1.1    itojun 	/* need to overwrite len/family portion as we don't compare them */
    842   1.1    itojun 	s.ss_len = sp->sa_len;
    843   1.1    itojun 	s.ss_family = sp->sa_family;
    844   1.1    itojun 	d.ss_len = dp->sa_len;
    845   1.1    itojun 	d.ss_family = dp->sa_family;
    846   1.1    itojun 
    847  1.34    cegger 	if (memcmp(&s, ep->src, ep->src->sa_len) == 0 &&
    848  1.34    cegger 	    memcmp(&d, ep->dst, ep->dst->sa_len) == 0) {
    849   1.1    itojun 		return matchlen;
    850   1.1    itojun 	} else
    851   1.1    itojun 		return 0;
    852   1.1    itojun }
    853   1.7    itojun #endif
    854   1.1    itojun 
    855   1.1    itojun static void
    856  1.23     perry encap_fillarg(struct mbuf *m, const struct encaptab *ep)
    857   1.1    itojun {
    858  1.12    itojun 	struct m_tag *mtag;
    859   1.1    itojun 
    860  1.12    itojun 	mtag = m_tag_get(PACKET_TAG_ENCAP, sizeof(void *), M_NOWAIT);
    861  1.12    itojun 	if (mtag) {
    862  1.12    itojun 		*(void **)(mtag + 1) = ep->arg;
    863  1.12    itojun 		m_tag_prepend(m, mtag);
    864   1.1    itojun 	}
    865   1.1    itojun }
    866   1.1    itojun 
    867   1.1    itojun void *
    868  1.23     perry encap_getarg(struct mbuf *m)
    869   1.1    itojun {
    870   1.1    itojun 	void *p;
    871  1.12    itojun 	struct m_tag *mtag;
    872   1.1    itojun 
    873   1.1    itojun 	p = NULL;
    874  1.12    itojun 	mtag = m_tag_find(m, PACKET_TAG_ENCAP, NULL);
    875  1.12    itojun 	if (mtag != NULL) {
    876  1.13    itojun 		p = *(void **)(mtag + 1);
    877  1.12    itojun 		m_tag_delete(m, mtag);
    878   1.1    itojun 	}
    879   1.1    itojun 	return p;
    880   1.1    itojun }
    881