| /src/external/bsd/jemalloc.old/dist/include/jemalloc/internal/ |
| jemalloc_internal_inlines_b.h | 25 tcache_slow_t *tcache_slow = tsd_tcache_slowp_get(tsd); local
26 assert(tcache_slow->arena != NULL);
28 tsd_tsdn(tsd), tcache_slow, tcache, newarena); local
52 tcache_slow_t *tcache_slow = tsd_tcache_slowp_get(tsd); local
54 if (tcache_slow->arena != NULL) {
56 assert(tcache_slow->arena
58 if (tcache_slow->arena != ret) {
60 tcache_slow, tcache, ret); local
64 tsd_tsdn(tsd), tcache_slow, tcache, ret); local
|
| tcache_structs.h | 14 * of them varies in practice; tcache_slow lives in the TSD for the automatic
16 * a pointer to tcache_slow lets us treat these cases uniformly, rather than
63 tcache_slow_t *tcache_slow; member in struct:tcache_s
|
| /src/external/bsd/jemalloc.old/include/jemalloc/internal/ |
| jemalloc_internal_inlines_b.h | 25 tcache_slow_t *tcache_slow = tsd_tcache_slowp_get(tsd); local
26 assert(tcache_slow->arena != NULL);
28 tsd_tsdn(tsd), tcache_slow, tcache, newarena); local
52 tcache_slow_t *tcache_slow = tsd_tcache_slowp_get(tsd); local
54 if (tcache_slow->arena != NULL) {
56 assert(tcache_slow->arena
58 if (tcache_slow->arena != ret) {
60 tcache_slow, tcache, ret); local
64 tsd_tsdn(tsd), tcache_slow, tcache, ret); local
|
| tcache_structs.h | 14 * of them varies in practice; tcache_slow lives in the TSD for the automatic
16 * a pointer to tcache_slow lets us treat these cases uniformly, rather than
63 tcache_slow_t *tcache_slow; member in struct:tcache_s
|
| /src/external/bsd/jemalloc/dist/test/unit/ |
| ncached_max.c | 48 tcache_slow_t *tcache_slow = tcache->tcache_slow; local
77 unsigned nbins = tcache_nbins_get(tcache_slow);
146 for (szind_t i = tcache_nbins_get(tcache_slow); i < TCACHE_NBINS_MAX;
|
| tcache_max.c | 75 for (szind_t i = 0; i < tcache_nbins_get(tcache->tcache_slow); i++) {
77 if (tcache_bin_disabled(i, cache_bin, tcache->tcache_slow)) {
288 tcache_slow_t *tcache_slow = tcache->tcache_slow; local
297 old_tcache_max = tcache_max_get(tcache_slow);
300 tcache_nbins = tcache_nbins_get(tcache_slow);
321 old_tcache_max = tcache_max_get(tcache_slow);
324 tcache_nbins = tcache_nbins_get(tcache_slow);
340 expect_zu_eq(tcache_max_get(tcache_slow), min_tcache_max,
342 expect_zu_eq(tcache_nbins_get(tcache_slow),
[all...] |
| /src/external/bsd/jemalloc.old/dist/test/unit/ |
| ncached_max.c | 48 tcache_slow_t *tcache_slow = tcache->tcache_slow; local
77 unsigned nbins = tcache_nbins_get(tcache_slow);
146 for (szind_t i = tcache_nbins_get(tcache_slow); i < TCACHE_NBINS_MAX;
|
| tcache_max.c | 75 for (szind_t i = 0; i < tcache_nbins_get(tcache->tcache_slow); i++) {
77 if (tcache_bin_disabled(i, cache_bin, tcache->tcache_slow)) {
288 tcache_slow_t *tcache_slow = tcache->tcache_slow; local
297 old_tcache_max = tcache_max_get(tcache_slow);
300 tcache_nbins = tcache_nbins_get(tcache_slow);
321 old_tcache_max = tcache_max_get(tcache_slow);
324 tcache_nbins = tcache_nbins_get(tcache_slow);
340 expect_zu_eq(tcache_max_get(tcache_slow), min_tcache_max,
342 expect_zu_eq(tcache_nbins_get(tcache_slow),
[all...] |
| /src/external/bsd/jemalloc/dist/include/jemalloc/internal/ |
| tcache.h | 66 * of them varies in practice; tcache_slow lives in the TSD for the automatic
68 * a pointer to tcache_slow lets us treat these cases uniformly, rather than
108 tcache_slow_t *tcache_slow; member in struct:tcache_s
170 tsdn_t *tsdn, tcache_slow_t *tcache_slow, arena_t *arena);
179 tsdn_t *tsdn, tcache_slow_t *tcache_slow, arena_t *arena);
|
| arena_inlines.h | 107 tcache_slow_t *tcache_slow = tsd_tcache_slowp_get(tsd); local
108 if (tcache_slow->arena != NULL) {
110 assert(tcache_slow->arena
112 if (tcache_slow->arena != ret) {
114 tcache_slow, ret); local
118 tsd_tsdn(tsd), tcache_slow, ret); local
|
| /src/external/bsd/jemalloc.old/dist/src/ |
| tcache.c | 115 tcache_bin_fill_ctl_init(tcache_slow_t *tcache_slow, szind_t szind) {
118 &tcache_slow->bin_fill_ctl_do_not_access_directly[szind];
124 tcache_bin_fill_ctl_get(tcache_slow_t *tcache_slow, szind_t szind) {
127 &tcache_slow->bin_fill_ctl_do_not_access_directly[szind];
141 tcache_nfill_small_lg_div_get(tcache_slow_t *tcache_slow, szind_t szind) {
142 cache_bin_fill_ctl_t *ctl = tcache_bin_fill_ctl_get(tcache_slow, szind);
152 tcache_nfill_small_burst_prepare(tcache_slow_t *tcache_slow, szind_t szind) {
153 cache_bin_fill_ctl_t *ctl = tcache_bin_fill_ctl_get(tcache_slow, szind);
160 tcache_nfill_small_burst_reset(tcache_slow_t *tcache_slow, szind_t szind) {
161 cache_bin_fill_ctl_t *ctl = tcache_bin_fill_ctl_get(tcache_slow, szind)
519 tcache_slow_t *tcache_slow = tsd_tcache_slowp_get(tsd); local
589 tcache_slow_t *tcache_slow = tcache->tcache_slow; local
960 tcache_slow_t *tcache_slow = tsd_tcache_slowp_get_unsafe(tsd); local
988 tsd_tsdn(tsd), tcache_slow, tcache, arena); local
996 tsd_tsdn(tsd), tcache_slow, tcache, arena); local
1049 tcache_slow_t *tcache_slow = (void *)((byte_t *)mem + tcache_size local
1056 tsd_tsdn(tsd), tcache_slow, tcache, arena_ichoose(tsd, NULL)); local
1103 tcache_slow_t *tcache_slow = tcache->tcache_slow; local
1198 tcache_slow_t *tcache_slow = tcache->tcache_slow; local
1225 tcache_slow_t *tcache_slow = tcache->tcache_slow; local
1228 tcache_arena_dissociate(tsd_tsdn(tsd), tcache_slow, tcache); local
[all...] |
| arena.c | 648 bumped_ind, &tcache->bins[bumped_ind], tcache->tcache_slow)) {
2079 tcache_slow_t *tcache_slow = tcache_slow_get(tsdn_tsd(tsdn)); local
2080 if (tcache_slow != NULL && tcache_slow->arena == arena) {
2081 tcache_t *tcache = tcache_slow->tcache;
2082 ql_elm_new(tcache_slow, link);
2083 ql_tail_insert(&arena->tcache_ql, tcache_slow, link);
2085 &tcache_slow->cache_bin_array_descriptor,
2088 &tcache_slow->cache_bin_array_descriptor, link);
|
| jemalloc.c | 713 tcache_slow_t *tcache_slow; local
717 tcache_slow, &arena->tcache_ql, link) {
719 tsdn, tcache_slow->tcache, arena);
3218 && ind < tcache_nbins_get(tcache->tcache_slow)
3220 ind, &tcache->bins[ind], tcache->tcache_slow))
|
| /src/external/bsd/jemalloc/dist/src/ |
| tcache.c | 228 tsd_t *tsd, tcache_slow_t *tcache_slow, tcache_t *tcache, szind_t szind) {
236 assert(!tcache_bin_disabled(szind, cache_bin, tcache->tcache_slow));
243 tcache_slow->bin_nfill[szind] =
245 tcache_slow->bin_nfill[szind], ncached_max);
248 tcache_slow->bin_nretain[szind] = nretain;
260 void *addr = arena_locality_hint(tsd_tsdn(tsd), tcache_slow->arena,
314 tsd_t *tsd, tcache_slow_t *tcache_slow, tcache_t *tcache, szind_t szind) {
322 assert(!tcache_bin_disabled(szind, cache_bin, tcache->tcache_slow));
343 tsd_t *tsd, tcache_slow_t *tcache_slow, tcache_t *tcache, szind_t szind) {
346 if (tcache_bin_disabled(szind, cache_bin, tcache_slow)) {
365 tcache_slow_t *tcache_slow = tsd_tcache_slowp_get(tsd); local
424 tcache_slow_t *tcache_slow = tcache->tcache_slow; local
616 tcache_slow_t *tcache_slow = tcache_slow_get(tsdn_tsd(tsdn)); local
775 tcache_slow_t *tcache_slow = tsd_tcache_slowp_get_unsafe(tsd); local
802 tcache_arena_associate(tsd_tsdn(tsd), tcache_slow, arena); local
810 tsd_tsdn(tsd), tcache_slow, arena); local
863 tcache_slow_t *tcache_slow = (void *)((byte_t *)mem + tcache_size local
870 tsd_tsdn(tsd), tcache_slow, arena_ichoose(tsd, NULL)); local
924 tcache_slow_t *tcache_slow = tcache->tcache_slow; local
1019 tcache_slow_t *tcache_slow = tcache->tcache_slow; local
1046 tcache_slow_t *tcache_slow = tcache->tcache_slow; local
1049 tcache_arena_dissociate(tsd_tsdn(tsd), tcache_slow); local
[all...] |
