必威体育Betway必威体育官网
当前位置:首页 > IT技术

实时系统动态内存算法分析dsa(二)——TLSF代码分析

时间:2019-06-11 05:45:14来源:IT技术作者:seo实验室小编阅读:61次「手机版」
 

tlsf

上一篇我们看了dsa的分类和简单的内存管理算法实现,这篇文档我们来看TLSF的实现,一种更加高级的内存管理算法;

一、实现原理

基本的Segregated Fit算法是使用一组链表,每个链表只包含特定长度范围来的空闲块的方式来管理空闲块的,这样链表数组的长度可能会很大。TLSF为了简化查找定位过程,使用了两层链表。

第一层,将空闲内存块的大小根据2的幂进行分类,如(16、32、64...),第一级的索引值fli决定了这一级内存块的大小,范围为[2^i,2^(i+1)];第一级索引值一般是动态计算出来,其经验值为

第二层链表在第一层的基础上,按照一定的间隔,线性分段,其范围应该在1-32,对于32bit的处理器,第二级的索引值sli一般为4或者5(经验值)。

下面这个图很好的说明了fl和sl这两级索引的作用,FL_bitmap和SL_bitmaps[]的每个bit代表是否被使用,下图将fl分为8级,sl分为4级,这里说明下,下图sl分了8个小区,我们计算sl时会将8个小区合为4个小区;

比如2的6次方这一段,分为4个小区间[64,80),[80,96),[96,112),[112,128),每一级的链表都有一个bitmap用于标记对应的链表中是否有内存块。比如第一级的FL_bitmap为110...1..0,次高位为1,次高位对应着2的6次方这一段,说明这一段有空闲块,其对应的第二级链表的SL_bitmap位00000010,其对应着[80,96)这个区间有空闲块,即下面的89 Byte;

通过两级索引来查找或释放内存,malloc与free的所有操作花费是个时间常数,时间响应复杂度都为O(1);

二、代码分析

对于TLSF的分析,我们也同之前一样,分析init、malloc、free三个函数,完整代码等上传后会更新下载地址;

我们分析的是TLSF-2.4.6,其他TLSF-1.0和TLSF3.0版本等我都上传到svn,;

1、申请内存池:

/* 初始化内存池,*/
size_t init_memory_pool(size_t mem_pool_size, void *mem_pool)
{
    tlsf_t *tlsf;
    bhdr_t *b, *ib;
    /*  内存池指针非空,内存池大小非零*/
    if (!mem_pool || !mem_pool_size || mem_pool_size < sizeof(tlsf_t) + BHDR_OVERHEAD * 8) {
        ERROR_MSG("init_memory_pool (): memory_pool invalid\n");
        return -1;
    }
 
    if (((unsigned long) mem_pool & PTR_MASK)) {/*  PTR_MASK =0x03 即mem_pool低两位都为0,对齐到一个字(相对于32位的就是4个字节)*/
        ERROR_MSG("init_memory_pool (): mem_pool must be aligned to a word\n");
        return -1;
    }
    tlsf = (tlsf_t *) mem_pool;   /*此内存区,如果是上电初始化,则内存区为空*/
    /* Check if already initialised 此内存池已经初始化了*/
    if (tlsf->tlsf_signature == TLSF_SIGNATURE) {/* 销毁此内存区(内存池)时,tlsf_signature赋值0*/
        mp = mem_pool;
        b = GET_NEXT_BLOCK(mp, ROUNDUP_SIZE(sizeof(tlsf_t)));
        return b->size & BLOCK_SIZE;
    }
 
    mp = mem_pool;
 
    /* Zeroing the memory pool */
    memset(mem_pool, 0, sizeof(tlsf_t));  /* 内存池首sizeof(tlsf_t)字节清零,*/
 
    tlsf->tlsf_signature = TLSF_SIGNATURE;
 
    TLSF_CREATE_LOCK(&tlsf->lock);
    /*  对内存池中tlsf_t控制块之后的内存空间处理,返回bhdr_t类型指针ib*/
    ib = process_area(GET_NEXT_BLOCK
                      (mem_pool, ROUNDUP_SIZE(sizeof(tlsf_t))), ROUNDDOWN_SIZE(mem_pool_size - sizeof(tlsf_t)));
    b = GET_NEXT_BLOCK(ib->ptr.buffer, ib->size & BLOCK_SIZE);  /*  调整指针指向*/
    free_ex(b->ptr.buffer, tlsf); /*  删除b内存块,并根据情况合并内存块,更新相应信息*/
    tlsf->area_head = (area_info_t *) ib->ptr.buffer;  /* tlsf初始化为ib->ptr.buffer*/
 
#if TLSF_STATISTIC
    tlsf->used_size = mem_pool_size - (b->size & BLOCK_SIZE);
    tlsf->max_size = tlsf->used_size;
#endif
 
    return (b->size & BLOCK_SIZE);   /* 返回内存池中可用内存大小(总可分配动态内存大小)*/
}

分析函数前先看几个结构体:

typedef struct free_ptr_struct {
    struct bhdr_struct *prev;
    struct bhdr_struct *next;
} free_ptr_t;

typedef struct bhdr_struct {
    //prev_hdr指向前一内存块,只有当size的bit0为1(当前块被使用)时才有效
    struct bhdr_struct *prev_hdr;
 
         //size存储了剩余内存空间的大小,但最低两位用来做使用标识,其中最低位bit0表示当前块是否使用,bit1表示前一内存块是否被使用,置0表示使用,1表示未使用;    
    size_t size;
    union {
        struct free_ptr_struct free_ptr;
        u8_t buffer[1];         /*sizeof(struct free_ptr_struct)]; ,注意读取buffer的值等于读取其地址即此联合体的首地址,便于读取ptr的首地址。 */
    } ptr;
} bhdr_t;

/* This structure is embedded at the beginning of each area, giving us
 * enough information to cope with a set of areas */
 
/*由于连接多个内存区,*/
typedef struct area_info_struct {
    bhdr_t *end;         /*指向末内存块*/
    struct area_info_struct *next;  /*指向下一个内存区,新增的内存*/
} area_info_t;
 
typedef struct TLSF_struct {
    /* the TLSF's structure signature */
    u32_t tlsf_signature;
 
#if TLSF_USE_LOCKS
    TLSF_MLOCK_T lock;
#endif
 
#if TLSF_STATISTIC
    /* These can not be calculated outside tlsf because we
     * do not know the sizes when freeing/reallocing memory. */
    size_t used_size;
    size_t max_size;
#endif
 
    /* A linked list holding all the existing areas */
    area_info_t *area_head;
 
    /* the first-level bitmap */
    /* This array should have a size of REAL_FLI bits */
    u32_t fl_bitmap;
 
    /* the second-level bitmap */
    u32_t sl_bitmap[REAL_FLI];
 
    bhdr_t *matrix[REAL_FLI][MAX_SLI];
} tlsf_t;

这么多结构体是否有些眼花缭乱,我们重点看下TLSF_struct和bhdr_struct,TLSF内存管理区的开头都会有一个TLSF_struct结构体,它存储了有关TLSF操作的相关信息,其中matrix[REAL_FLI][MAX_SLI]存储了所有分区的使用情况,fl_bitmap和sl_bitmap就是上面图分析的一级和二级索引,用位来标明是否是否有空闲块;

在TLSF中,内存块单位是由bhdr_struct来管理的,它内部结构体并不复杂,笔者已经对每个成员做了注释,相信不难理解,因为这里是以字方式对其,所以成员变量size的低2bit都为0,所以可以来代表其他含义;

了解了这些结构体,我们就可以着手分析函数了,这里关键是process_area函数,它负责将新的内存块分区:

static __inline__ bhdr_t *process_area(void *area, size_t size)
{
    bhdr_t *b, *lb, *ib;
    area_info_t *ai;
 
    ib = (bhdr_t *) area;
    ib->size =
        (sizeof(area_info_t) <
         MIN_BLOCK_SIZE) ? MIN_BLOCK_SIZE : ROUNDUP_SIZE(sizeof(area_info_t)) | USED_BLOCK | PREV_USED;
    b = (bhdr_t *) GET_NEXT_BLOCK(ib->ptr.buffer, ib->size & BLOCK_SIZE);
    b->size = ROUNDDOWN_SIZE(size - 3 * BHDR_OVERHEAD - (ib->size & BLOCK_SIZE)) | USED_BLOCK | PREV_USED;
    b->ptr.free_ptr.prev = b->ptr.free_ptr.next = 0;
    lb = GET_NEXT_BLOCK(b->ptr.buffer, b->size & BLOCK_SIZE);
    lb->prev_hdr = b;
    lb->size = 0 | USED_BLOCK | PREV_FREE;
    ai = (area_info_t *) ib->ptr.buffer;
    ai->next = 0;
    ai->end = lb;
    return ib;
}

这个函数实现并不复杂,它初始化了我们的之前申请的内存区域,我们先看下他的输入参数:

ib = process_area(GET_NEXT_BLOCK(mem_pool, ROUNDUP_SIZE(sizeof(tlsf_t))), ROUNDDOWN_SIZE(mem_pool_size - sizeof(tlsf_t)));

这里有两个入参,一个是mem_pool+sizeof(tlsf_t)地址,即我们TLSF申请的整个内存地址加上tlsf_struct所占用的地址,得到未使用内存的首地址,第二个参数是这块地址的大小,process_area函数的功能我通过下面的图进行说明,它初始化了mem_pool的内存区域;

如上图所示,process_area函数在mem_pool的开始定义了三块block,分别是ib,b,lb,上图对每一块的内存做了说明,尤其是size的最低2bit,我们在下面的函数中还会用到,还要注意process_area返回的是ib的地址;

回到init_memory_pool函数,接下来执行free_ex(b->ptr.buffer, tlsf);

/* 函数功能:释放ftr所在的内存块,并根据情况合并前后内存块,更新相应bitmap标志位
   形参:   ptr  释放内存指针; men_pool  内存池的首地址
   返回:   viod *  (无符号指针)。分配成功后,返回内存块的指针ret;分配失败返回NULL。
*/
/* */
void free_ex(void *ptr, void *mem_pool)
{
    tlsf_t *tlsf = (tlsf_t *) mem_pool;
    bhdr_t *b, *tmp_b;
    int fl = 0, sl = 0;
 
    if (!ptr) {   /*ptr为NULL,直接返回*/
        return;
    }
    b = (bhdr_t *) ((char *) ptr - BHDR_OVERHEAD);
    b->size |= FREE_BLOCK; /* 所释放内存块状态更新(size后两位更新)*/
 
    TLSF_REMOVE_SIZE(tlsf, b);  /*  #if TLSF_STATISTIC */
 
    b->ptr.free_ptr.prev = NULL;
    b->ptr.free_ptr.next = NULL;
    tmp_b = GET_NEXT_BLOCK(b->ptr.buffer, b->size & BLOCK_SIZE); /* 得到b块后面的相邻物理块指针*/
    if (tmp_b->size & FREE_BLOCK) { /*  b块后面块是free的?其后内存块free则合并内存*/
        MAPPING_INSERT(tmp_b->size & BLOCK_SIZE, &fl, &sl); /* 根据tmp_b大小求出一级与二级索引值*/
        EXTRACT_BLOCK(tmp_b, tlsf, fl, sl); /*  提取内存块,并根据内存块在链表中的位置调整空闲链表与位图标志位*/
        b->size += (tmp_b->size & BLOCK_SIZE) + BHDR_OVERHEAD;  /* 把b(ptr)后面的内存块合并到b内存块中,size更新*/
    }
    if (b->size & PREV_FREE) {  /* b块前一块free?free则与前面的内存块合并*/
        tmp_b = b->prev_hdr;    /* 得到b块前1物理块 */
        MAPPING_INSERT(tmp_b->size & BLOCK_SIZE, &fl, &sl);
        EXTRACT_BLOCK(tmp_b, tlsf, fl, sl);
        tmp_b->size += (b->size & BLOCK_SIZE) + BHDR_OVERHEAD;
        b = tmp_b;   /* 更新b指针的值,即b指向合并后的内存块地址*/
    }
    MAPPING_INSERT(b->size & BLOCK_SIZE, &fl, &sl); /**/
    INSERT_BLOCK(b, tlsf, fl, sl);  /*  把释放的内存块插入相应链表的表头*/
 
    tmp_b = GET_NEXT_BLOCK(b->ptr.buffer, b->size & BLOCK_SIZE);
    tmp_b->size |= PREV_FREE;    /* 更新后一块的信息,以表示释放的内存块空闲的*/
    tmp_b->prev_hdr = b;         /*  更新后一块内存块的物理块prev_hdr*/ 
}

上面代码第15行的b指向的地址就是上面图示中的内存块b的首地址,如果能看懂这点,就可以继续往下;

代码中两个if执行的条件,都不会执行;

if (tmp_b->size & FREE_BLOCK),这里的tmp_b其实是在上面process_area函数中的b内存块,b内存块的size赋值为USED_BLOCK,即为0,所以这里不会执行;

if (b->size & PREV_FREE) ,这里的b为process_area函数中的ib内存块,ib赋值为PREV_USED,即为0,所以这里也不会执行;

然后是函数MAPPING_INSERT(b->size & BLOCK_SIZE, &fl, &sl);这个函数是用我们之前介绍的利用大小计算两级f1和s1的值,源码已经给出,感兴趣的可以仔细研究,这里我们只需要知道MAPPING_INSERT函数用我们前面列出的公式,通过size得到了f1和s1;

INSERT_BLOCK(b, tlsf, fl, sl);是将b内存块插入内存块双向链表;

/*  插入内存块,且总是查入表头*/
#define INSERT_BLOCK(_b, _tlsf, _fl, _sl) do { \
_b -> ptr.free_ptr.prev = NULL;  /* 插入表头,则前项指针为空*/ \
_b -> ptr.free_ptr.next = _tlsf -> matrix [_fl][_sl]; \
if (_tlsf -> matrix [_fl][_sl]) /*若原链表非空,原表头的前项指针指向_b内存块,以形成双向链表*/
_tlsf -> matrix [_fl][_sl] -> ptr.free_ptr.prev = _b; \
_tlsf -> matrix [_fl][_sl] = _b; \
set_bit (_sl, &_tlsf -> sl_bitmap [_fl]);/*更新位图标志位*/ \
set_bit (_fl, &_tlsf -> fl_bitmap); \
} while(0)

这里的while(0)是为了程序的健壮性,可自行百度,我们在pool_mem开头定义了tlsf_struct结构体,这个宏的主要作用就是将内存块b放到双向链表_tlsf -> matrix [_fl][_sl]中,插入时都是往表头插入;

这里想说明的一点是,这里是在初始化函数调用的INSERT_BLOCK宏,这里插入的位置是_fl=0,_sl=0,将上面内存图示的b块首地址赋给了_tlsf->matrix[0][0];

set_bit是置位操作,我们前面说过,如果为1,其对应位上的内存块就为空闲,当有使用时,需要调用clear_bit进行清零;

到这里内存初始化函数就分析完了,我们得到了一大块可用内存,并且通过bitmap(两级索引)来管理内存块;

2、malloc:

/* 函数功能:ex内存分配函数,实际内存分配函数
   形参:   size  所需内存的大小; men_pool  内存池的首地址
   返回:   viod *  (无符号指针)。分配成功后,返回内存块的指针ret;分配失败返回NULL。
*/
void *malloc_ex(size_t size, void *mem_pool)
{
    tlsf_t *tlsf = (tlsf_t *) mem_pool;
    bhdr_t *b, *b2, *next_b;
    int fl, sl;
    size_t tmp_size;
 
/*  调整size值,最小为MIN_BLOCK_SIZE,最小(sizeof(free_ptr_t))*/
    size = (size < MIN_BLOCK_SIZE) ? MIN_BLOCK_SIZE : ROUNDUP_SIZE(size);
 
    /* Rounding up the requested size and calculating fl and sl */
    MAPPING_SEARCH(&size, &fl, &sl);  /* 查找满足所需内存大小的一级与二级索引,size的值被调整为所需状态*/
 
    /* Searching a free block, recall that this function changes the values of fl and sl,
       so they are not longer valid when the function fails */
    b = FIND_SUITABLE_BLOCK(tlsf, &fl, &sl);  /* 根据fl与sl的值得到适合的内存块的链表的表头*/
/* 以下部分是用于当前内存池中,没有所需内存块时,从内存中得到新的内存区(使用sbrk or mmap函数)*/
#if USE_MMAP || USE_SBRK
    ......
#endif
 
 
    if (!b)    /* 如果b空闲链表表头为NULL,表示分配内存失败!*/
        return NULL;            /* Not found */
 
    EXTRACT_BLOCK_HDR(b, tlsf, fl, sl);  /* 根据一级与二级索引值,从相应链表中得到内存块,并调整bitmap位图*/
    /*-- found: */
    next_b = GET_NEXT_BLOCK(b->ptr.buffer, b->size & BLOCK_SIZE); /* 根据b->size得到next的物理相邻内存块*/
    /* Should the block be split? */
    tmp_size = (b->size & BLOCK_SIZE) - size;  /* 分割所需内存,得到剩余内存大小*/
    if (tmp_size >= sizeof(bhdr_t)) { /* 分割后的剩余内存值大于等于sizeof(bhdr_t)值,即大于等于一个块头*/
        tmp_size -= BHDR_OVERHEAD;    
        b2 = GET_NEXT_BLOCK(b->ptr.buffer, size); /* 得到剩余内存块的地址*/
        b2->size = tmp_size | FREE_BLOCK | PREV_USED;  /* 为分割下来的内存块的size赋值*/
        next_b->prev_hdr = b2;            /* next_b内存块链接相邻的前一个物理内存块*/
        MAPPING_INSERT(tmp_size, &fl, &sl); /* 查找剩余内存块的空闲链表的一级与二级索引值*/
        INSERT_BLOCK(b2, tlsf, fl, sl);    /*  插入内存块,且总是查入表头*/
       
/* 更新b2块的前一块的内存地址,*/
       /*add by vector,right?*/ b2->prev_hdr = b;
/*  size后两位更新,只把0bit改为USED_BLOCK*/
        b->size = size | (b->size & PREV_STATE); /* 参数size为所需内存大小,更新b块的状态*/ 
    } else {      /* 所得内存块不需要分割,只需更新size的后两位*/
        next_b->size &= (~PREV_FREE);   
        b->size &= (~FREE_BLOCK);       /* Now it's used */
    }
 
    TLSF_ADD_SIZE(tlsf, b);
 
    return (void *) b->ptr.buffer;
}

看懂了前面的初始化函数,这个malloc函数就比较好理解了,可以分三步看这个函数:

step1.函数MAPPING_SEARCH(&size, &fl, &sl);它根据malloc入参size计算出fl和sl的值,公式之前已经给出;

step2.函数EXTRACT_BLOCK_HDR(b, tlsf, fl, sl);这个函数根据fl和sl的值提取出需要的内存,并给相对应的bitmap清零,标明这块内存已经使用;

step3.if...else部分,这部分是处理切割内存的,如果申请的内存区域可以被切割,就将其割为更小的块,并做相应处理;

malloc函数还是比较简单的,这里不做赘述了;

3、free函数

我们在init函数中,其实已经分析了free函数;

好的,到这里我们已经将TLSF的主要思路介绍明白了,TLSF其实还要负责的多,代码中有许多优化处理,包括公式与c代码的转换;比如ffs和fls,分别表示find first set(返回最低位为1的位置)和find last set(返回最高位为1的位置),ffs可以在c中找到刚好大于size(申请大小)的内存块位置;fls可以用来计算下面函数:

其他细节可以下载TLSF代码学习,稍后笔者会把1.0-3.0三个版本代码都上传上去,希望大家多多支持;

相关阅读

【机器学习】几种相似度算法分析

最近开始研究推荐系统,其中常见的相似度算法有以下几种:1. 欧几里得距离欧几里得度量(euclidean metric)(也称欧氏距离)是一个通常采用

分享到:

栏目导航

推荐阅读

热门阅读