预分配内存fifo实现可变长度字节序列存储

预分配内存fifo实现可变长度字节序列存储

github链接https://github.com/gexin1023/utils/tree/master/fifo

fifo即先进先出队列,可以用链表来实现,在链表头部插入数据,尾部读数据,每次插入新的数据都动态分配一段内存用于数据存储,适用于变长数据的队列实现。也可以用数组实现,用一个数组buf[LEN]作为缓存,用两个整数分别记录写数据和读数据的位置,适用于每次读取相同长度数据的场景。

有的场景中,要避免频繁的malloc/free动态分配释放,与此同时数据长度不定。因此,需要预分配一段空间存储数据,也需要记录每一个数据的长度,方便存取。

fifo数据结构

typedef struct
{
    unsigned int pos;   // position index in buffer
    unsigned int len;   // the length of data
    list_node_t  node;
}pos_t;

typedef struct
{
    unsigned char   *buffer;
    unsigned int    size;
    unsigned int    in;
    unsigned int    out;
    list_node_t     pos_head;
} fifo_t;

设计以上的数据结构,buffer即为fifo的存储空间,开始时根据需要预分配,size表示buffer的长度。inout分别记录读写数据的位置,pos_t结构组成的链表用于记录每次写入数据的位置及长度。

fifo接口

fifo_t * fifo_init(unsigned char *buf, unsigned int size);

fifo_t *fifo_alloc(unsigned int size);

void fifo_free(fifo_t *fifo);


/* fifo_put, 向fifo加入数据
 * @fifo,   目标fifo
 * @buf,    数据
 * @len,    数据长度
 * 如果空间不够,就删除最旧的数据,新数据覆盖旧数据 
 */
unsigned int fifo_put(fifo_t *fifo, unsigned char *buf, unsigned int len);

/* fifo_put_tail
 * 有时会存在优先级比较高的数据需要放在最先出队的位置 
 * /
unsigned int fifo_put_tail(fifo_t *fifo, unsigned char *buf, unsigned int len);

/* fifo_get
 * 取数据
 */
int fifo_get(fifo_t *fifo, unsigned char *buf, unsigned int *p_len);

/* fifo_get_len
 * 获取数据长度
 */
int fifo_get_len(fifo_t *fifo);

fifo接口的实现如下:


/* fifo_init:   create a fifo using a preallocated memory
 *
 * buf:     preallocated memory
 * size:    the length of the preallocated memory, 取以2为底的整数
 */
fifo_t * fifo_init(unsigned char *buf, unsigned int size)
{
    fifo_t *fifo = (fifo_t *)malloc(sizeof(fifo_t));
    
    fifo->buffer = buf;
    fifo->size   = size;
    fifo->in = fifo->out = 0;
    fifo->pos_head.next = &(fifo->pos_head);
    fifo->pos_head.prev = &(fifo->pos_head);
    return fifo;
}

/* fifo_alloc:   create a fifo 
 *
 * size: the length of the allocated memory
 */
fifo_t *fifo_alloc(unsigned int size)
{
    unsigned char * buf = (unsigned char *)malloc(size);
    return fifo_init(buf, size);
}

/* fifo_free: 
 *
 */

void fifo_free(fifo_t *fifo)
{
    free(fifo->buffer);
    free(fifo);
}

/* fifo_put, 向fifo加入数据
 * @fifo,   目标fifo
 * @buf,    数据
 * @len,    数据长度
 * 如果空间不够,就删除最旧的数据,新数据覆盖旧数据 */
static unsigned int __fifo_put(fifo_t *fifo, unsigned char *buf, unsigned int len)
{
    unsigned int l;
    
    /* fifo 空间不足时,删除旧内容,直到可以容纳新的数据 */
    while(len>(fifo->size - fifo->in + fifo->out))
    {
        pos_t *pos = list_entry(fifo->pos_head.prev, pos_t, node);
        fifo->out += pos->len;
        list_del(fifo->pos_head.prev);
        free(pos);
    }
    

    /* 首先复制数据从( in % buf_size)位置到buffer结尾 */
    l = min(len , fifo->size - (fifo->in & (fifo->size-1)));
    memcpy(fifo->buffer + (fifo->in & (fifo->size-1)), buf ,l);

    /* 然后复制剩下的数据从buffer开头开始 */
    memcpy(fifo->buffer, buf+l, len-l);

    /* 加入新的位置节点 */
    pos_t *pos = (pos_t *)malloc(sizeof(pos_t));
    pos->len=len;
    pos->pos=fifo->in;
    list_add(&(fifo->pos_head), &(pos->node));

    /* 更改写入点索引 */
    fifo->in += len;
    
    return len;
}

unsigned int fifo_put(fifo_t *fifo, unsigned char *buf, unsigned int len)
{
    return __fifo_put(fifo, buf, len);
}

unsigned int fifo_put_tail(fifo_t *fifo, unsigned char *buf, unsigned int len)
{
    unsigned int l;
    
    /* fifo 空间不足时,删除旧内容,直到可以容纳新的数据 */
    while(len>(fifo->size - fifo->in + fifo->out))
    {
        pos_t *pos = list_entry(fifo->pos_head.prev, pos_t, node);
        fifo->out += pos->len;
        list_del(fifo->pos_head.prev);
        free(pos);
    }

    
    fifo->out -= len;

    /* 首先复制数据从( out % buf_size)位置到buffer结尾 */
    l = min(len , fifo->size - (fifo->out & (fifo->size-1)));
    memcpy(fifo->buffer + (fifo->out & (fifo->size-1)), buf ,l);

    /* 然后复制剩下的数据从buffer开头开始 */
    memcpy(fifo->buffer, buf+l, len-l);

    /* 加入新的位置节点 */
    pos_t *pos = (pos_t *)malloc(sizeof(pos_t));
    pos->len=len;
    pos->pos=fifo->out;
    list_add_tail(&(fifo->pos_head), &(pos->node));
    
    return len;
}

int fifo_get(fifo_t * fifo, unsigned char * buf, unsigned int * p_len)
{
    if(fifo->pos_head.next == &(fifo->pos_head))
    {
        // fifo is emperty
        return -1;
    }

    pos_t *pos = list_entry(fifo->pos_head.prev, pos_t, node);
    *p_len = pos->len;

    list_del(&(pos->node));

    free(pos);


    int l = min(*p_len, fifo->size - (fifo->out &(fifo->size-1)));
    memcpy(buf, fifo->buffer+(fifo->out & (fifo->size-1)), l);
    memcpy(buf+l, fifo->buffer, *p_len-l);
   

    fifo->out += *p_len;
    return *p_len;
}

int fifo_get_len(fifo_t * fifo)
{
    if(fifo->pos_head.next == &(fifo->pos_head))
    {
        // fifo is emperty
        return -1;
    }

    pos_t *pos = list_entry(fifo->pos_head.prev, pos_t, node);
   
    return (int)pos->len;
}

转载于:https://www.cnblogs.com/gexin/p/8950268.html

  • 1
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
### 回答1: 可变分区存储管理方式的内存分配和回收是指将内存分成若干个独立的分区,并且根据不同的程序和数据需求,将内存分配给不同的程序和数据,当程序结束或数据不再使用时,将内存释放,以便重新分配给其他程序或数据。 答:可变分区存储管理方式使用动态内存分配和回收算法来维持存储器的最佳效率。它能够根据当前需要,动态地分配和回收存储空间。可以变更分区存储的管理方式和存储策略,同时也可以进行内存分配和回收。 对于分区存储的管理方式,可以采用静态分区、动态分区和伙伴系统等不同的方式,根据具体情况选择最合适的一种方式。 静态分区管理方式是在系统启动时进行分配,分配固定大小的分区,分区大小不可变更。优点是管理简单,缺点是浪费空间。动态分区管理方式是在系统运行时动态地进行分配和回收,可以充分利用内存空间,但管理较为复杂。 伙伴系统是一种特殊的动态分区管理方式,将内存空间分成大小相等的块,每个块都是2的幂次方大小,每个块都有一个伙伴块,两个相邻的块大小相同,且一个块的大小是另一个块的两倍。当需要分配内存时,会找到大小相同的块进行分配,如果找不到则会向上找两倍大小的块,直到找到为止。当释放内存时,会将块和它的伙伴合并成一个更大的块。 对于存储策略,可以采用LRU、LFU、FIFO等不同的策略,根据具体场景选择最适合的一种策略。例如,如果需要优先保留最近被使用过的数据,可以采用LRU策略;如果需要优先保留使用频率较高的数据,可以采用LFU策略;如果需要按照先进先出的原则进行存储和回收,可以采用FIFO策略。 ### 回答2: 可变分区存储管理方式是一种内存管理方式,其中内存空间被划分为多个可变大小的区域,每个区域可被单独分配给进程使用。在这种管理方式中,内存的分配和回收都是非常关键的操作。 首先,内存分配是在进程请求时发生的。当一个进程需要内存时,内存管理器会为该进程分配一个适当大小的可用区域。这个可用区域被标记为已分配,并从可用表中移除。当进程结束时,该区域被释放并添加到可用表中。 回收内存时,需要注意一些问题。一种常见的方法是使用“合并”技术,即当一个进程释放它的内存时,内存管理器会检查是否有相邻的空闲区域,然后将它们合并为一个更大的空闲区域以便后续进程使用。这个过程被称为“内存碎片整理”。 另一个问题是“外部碎片”:虽然在已使用的区域周围可能有很多未使用的空间,但它们可能太小,不能被分配给一个大的进程。为了克服这个问题,可能需要定期使用“压缩”技术,即将已使用的区域移到存储器的一端,从而创建一个大的连续区域,这个区域可以被分配给大的进程。 总之,可变分区存储管理方式是一种流程式的内存管理方式,通过合理管理内存的分配和回收,可以充分利用内存资源,为多个进程提供良好的内存管理服务。开发者应该权衡其优缺点,然后选择适合他们应用的最佳内存管理方式。 ### 回答3: 可变分区存储管理方式是一种常见的内存管理方式,其与固定分区存储管理方式的不同点在于分配给进程的内存空间是不固定的。因此,在可变分区存储管理方式中,内存分配和回收是一个非常重要的问题。 一般来说,内存分配是将可用内存空间划分成若干个大小不同的分区,适当地分配给进程需要的内存空间。对于可变分区存储管理方式,将可用内存分为思想上的连续部分,每个被划分出的内存块都可以独立地被分配给不同的进程。内存分配需要考虑到进程的内存需求大小和分区的可用大小,选择合适的分区进行分配,需要进行动态的管理。由于分配的内存块大小不同,因此,需要采取合适的方法来进行管理,以避免内存浪费和碎片问题。 与内存分配类似地,内存回收也是一个重要的问题。当进程不再需要之前被分配的内存时,需要将内存空间返还给系统,供其他进程使用。在可变分区存储管理方式中,内存回收主要涉及到释放被回收内存块的管理和内存块的合并。为此,需要对已释放的内存空间进行回收管理,并且需要考虑内存块之间的空隙或者小碎片问题,合并内存。 在内存管理中,内存分配和回收都是经常发生的,其对系统性能影响很大。因此,我们需要注意内存分配和回收的算法设计和实现,以提高系统性能和稳定性。当然,由于不同算法间存在着不同的优缺点,应根据具体情况选择最适合的算法,如首次适应算法、最佳适应算法和最坏适应算法等。同时,还需要考虑进程间互相影响的情况,以提高可变分区存储管理方式的使用效果。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值