程序師世界是廣大編程愛好者互助、分享、學習的平台,程序師世界有你更精彩!
首頁
編程語言
C語言|JAVA編程
Python編程
網頁編程
ASP編程|PHP編程
JSP編程
數據庫知識
MYSQL數據庫|SqlServer數據庫
Oracle數據庫|DB2數據庫
 程式師世界 >> 編程語言 >> C語言 >> C >> C語言基礎知識 >> 解析bitmap處理海量數據及其實現方法分析

解析bitmap處理海量數據及其實現方法分析

編輯:C語言基礎知識
【什麼是Bit-map】
所謂的Bit-map就是用一個bit位來標記某個元素對應的Value, 而Key即是該元素。由於采用了Bit為單位來存儲數據,因此在存儲空間方面,可以大大節省。
如果說了這麼多還沒明白什麼是Bit-map,那麼我們來看一個具體的例子,假設我們要對0-7內的5個元素(4,7,2,5,3)排序(這裡假設這些元素沒有重復)。那麼我們就可以采用Bit-map的方法來達到排序的目的。要表示8個數,我們就只需要8個Bit(1Bytes),首先我們開辟1Byte的空間,將這些空間的所有Bit位都置為0(如下圖:)
 
然後遍歷這5個元素,首先第一個元素是4,那麼就把4對應的位置為1(可以這樣操作 p+(i/8)|(0x01<<(i%8)) 當然了這裡的操作涉及到Big-ending和Little-ending的情況,這裡默認為Big-ending),因為是從零開始的,所以要把第五位置為一(如下圖): 


然後再處理第二個元素7,將第八位置為1,,接著再處理第三個元素,一直到最後處理完所有的元素,將相應的位置為1,這時候的內存的Bit位的狀態如下: 


然後我們現在遍歷一遍Bit區域,將該位是一的位的編號輸出(2,3,4,5,7),這樣就達到了排序的目的。下面的代碼給出了一個BitMap的用法:排序。
代碼如下:

//定義每個Byte中有8個Bit位  
#include <memory.h> 
#define BYTESIZE 8 
void SetBit(char *p, int posi)  
{  
    for(int i=0; i < (posi/BYTESIZE); i++)  
    {  
        p++;  
    }  

    *p = *p|(0x01<<(posi%BYTESIZE));//將該Bit位賦值1 
    return;  
}  

void BitMapSortDemo()  
{  
    //為了簡單起見,我們不考慮負數 
    int num[] = {3,5,2,10,6,12,8,14,9};  

    //BufferLen這個值是根據待排序的數據中最大值確定的 
    //待排序中的最大值是14,因此只需要2個Bytes(16個Bit) 
    //就可以了。  
    const int BufferLen = 2;  
    char *pBuffer = new char[BufferLen];  

    //要將所有的Bit位置為0,否則結果不可預知。 
    memset(pBuffer,0,BufferLen);  
    for(int i=0;i<9;i++)  
    {  
        //首先將相應Bit位上置為1 
        SetBit(pBuffer,num[i]);  
    }  

    //輸出排序結果  
    for(int i=0;i<BufferLen;i++)//每次處理一個字節(Byte) 
    {  
        for(int j=0;j<BYTESIZE;j++)//處理該字節中的每個Bit位 
        {  
            //判斷該位上是否是1,進行輸出,這裡的判斷比較笨。 
            //首先得到該第j位的掩碼(0x01<<j),將內存區中的 
            //位和此掩碼作與操作。最後判斷掩碼是否和處理後的 
            //結果相同 
            if((*pBuffer&(0x01<<j)) == (0x01<<j))  
            {  
                printf("%d ",i*BYTESIZE + j);  
            }  
        }  
        pBuffer++;  
    }  
}  

int _tmain(int argc, _TCHAR* argv[])  
{  
    BitMapSortDemo();  
    return 0;  


【適用范圍】
可進行數據的快速查找,判重,刪除,一般來說數據范圍是int的10倍以下
【基本原理及要點】
使用bit數組來表示某些元素是否存在,比如8位電話號碼
【擴展】
Bloom filter可以看做是對bit-map的擴展
【問題實例】
1)已知某個文件內包含一些電話號碼,每個號碼為8位數字,統計不同號碼的個數。
8位最多99 999 999,大概需要99m個bit,大概10幾m字節的內存即可。 (可以理解為從0-99 999 999的數字,每個數字對應一個Bit位,所以只需要99M個Bit==1.2MBytes,這樣,就用了小小的1.2M左右的內存表示了所有的8位數的電話)
2)2.5億個整數中找出不重復的整數的個數,內存空間不足以容納這2.5億個整數。
將bit-map擴展一下,用2bit表示一個數即可,0表示未出現,1表示出現一次,2表示出現2次及以上,在遍歷這些數的時候,如果對應位置的值是0,則將其置為1;如果是1,將其置為2;如果是2,則保持不變。或者我們不用2bit來進行表示,我們用兩個bit-map即可模擬實現這個2bit-map,都是一樣的道理。
bitmap的C語言實現
代碼如下:

bitmap.h 

/*
 *bitmap的c語言實現 
*/ 
#ifndef _BITMAP_H_ 
#define _BITMAP_H_ 

/*
 *功能:初始化bitmap
 *參數:
 *size:bitmap的大小,即bit位的個數
 *start:起始值
 *返回值:0表示失敗,1表示成功
 */ 
int bitmap_init(int size, int start); 

/*
 *功能:將值index的對應位設為1
 *index:要設的值
 *返回值:0表示失敗,1表示成功
 */ 
int bitmap_set(int index); 

/*
 *功能:取bitmap第i位的值
 *i:待取位
 *返回值:-1表示失敗,否則返回對應位的值
 */ 
int bitmap_get(int i); 

/*
 *功能:返回index位對應的值
 */ 
int bitmap_data(int index); 

/*釋放內存*/ 
int bitmap_free(); 

#endif 

bitmap.c 

#include <stdio.h> 
#include <stdlib.h> 
#include <string.h> 
#include "bitmap.h" 

unsigned char *g_bitmap = NULL; 
int g_size = 0; 
int g_base = 0; 

int bitmap_init(int size, int start) 

    g_bitmap = (char *)malloc((size/8+1)*sizeof(char)); 
    if(g_bitmap == NULL) 
        return 0; 
    g_base = start; 
    g_size = size/8+1; 
    memset(g_bitmap, 0x0, g_size); 
    return 1; 


int bitmap_set(int index) 

    int quo = (index-g_base)/8 ; 
    int remainder = (index-g_base)%8; 
    unsigned char x = (0x1<<remainder); 
    if( quo > g_size) 
        return 0; 
    g_bitmap[quo] |= x; 
    return 1;  


int bitmap_get(int i) 

    int quo = (i)/8 ; 
    int remainder = (i)%8; 
    unsigned char x = (0x1<<remainder); 
    unsigned char res; 
    if( quo > g_size) 
        return -1; 
    res = g_bitmap[quo] & x; 
    return res > 0 ? 1 : 0;  


int bitmap_data(int index) 

    return (index + g_base); 


int bitmap_free() 

    free(g_bitmap); 


測試程序bitmap_test.c: 

#include <stdio.h> 
#include "bitmap.h" 

int main() 

    int a[] = {5,8,7,6,3,1,10,78,56,34,23,12,43,54,65,76,87,98,89,100}; 
    int i; 
    bitmap_init(100, 0); 
    for(i=0; i<20; i++) 
        bitmap_set(a[i]); 
    for(i=0; i<100; i++) 
    { 
        if(bitmap_get(i) > 0 ) 
            printf("%d ", bitmap_data(i)); 
    } 
    printf("/n"); 
    bitmap_free(); 
    return 0; 


  1. 上一頁:
  2. 下一頁:
Copyright © 程式師世界 All Rights Reserved