青青草原综合久久大伊人导航_色综合久久天天综合_日日噜噜夜夜狠狠久久丁香五月_热久久这里只有精品

大龍的博客

常用鏈接

統計

最新評論

VC++中使用內存映射文件處理大文件

摘要: 本文給出了一種方便實用的解決大文件的讀取、存儲等處理的方法,并結合相關程序代碼對具體的實現過程進行了介紹。

  引言

  文件操作是應用程序最為基本的功能之一,Win32 API和MFC均提供有支持文件處理的函數和類,常用的有Win32 API的CreateFile()、WriteFile()、ReadFile()和MFC提供的CFile類等。一般來說,以上這些函數可以滿足大多數場合的要求,但是對于某些特殊應用領域所需要的動輒幾十GB、幾百GB、乃至幾TB的海量存儲,再以通常的文件處理方法進行處理顯然是行不通的。目前,對于上述這種大文件的操作一般是以內存映射文件的方式來加以處理的,本文下面將針對這種Windows核心編程技術展開討論。

  內存映射文件

  內存映射文件與虛擬內存有些類似,通過內存映射文件可以保留一個地址空間的區域,同時將物理存儲器提交給此區域,只是內存文件映射的物理存儲器來自一個已經存在于磁盤上的文件,而非系統的頁文件,而且在對該文件進行操作之前必須首先對文件進行映射,就如同將整個文件從磁盤加載到內存。由此可以看出,使用內存映射文件處理存儲于磁盤上的文件時,將不必再對文件執行I/O操作,這意味著在對文件進行處理時將不必再為文件申請并分配緩存,所有的文件緩存操作均由系統直接管理,由于取消了將文件數據加載到內存、數據從內存到文件的回寫以及釋放內存塊等步驟,使得內存映射文件在處理大數據量的文件時能起到相當重要的作用。另外,實際工程中的系統往往需要在多個進程之間共享數據,如果數據量小,處理方法是靈活多變的,如果共享數據容量巨大,那么就需要借助于內存映射文件來進行。實際上,內存映射文件正是解決本地多個進程間數據共享的最有效方法。

  內存映射文件并不是簡單的文件I/O操作,實際用到了Windows的核心編程技術--內存管理。所以,如果想對內存映射文件有更深刻的認識,必須對Windows操作系統的內存管理機制有清楚的認識,內存管理的相關知識非常復雜,超出了本文的討論范疇,在此就不再贅述,感興趣的讀者可以參閱其他相關書籍。下面給出使用內存映射文件的一般方法:

  首先要通過CreateFile()函數來創建或打開一個文件內核對象,這個對象標識了磁盤上將要用作內存映射文件的文件。在用CreateFile()將文件映像在物理存儲器的位置通告給操作系統后,只指定了映像文件的路徑,映像的長度還沒有指定。為了指定文件映射對象需要多大的物理存儲空間還需要通過CreateFileMapping()函數來創建一個文件映射內核對象以告訴系統文件的尺寸以及訪問文件的方式。在創建了文件映射對象后,還必須為文件數據保留一個地址空間區域,并把文件數據作為映射到該區域的物理存儲器進行提交。由MapViewOfFile()函數負責通過系統的管理而將文件映射對象的全部或部分映射到進程地址空間。此時,對內存映射文件的使用和處理同通常加載到內存中的文件數據的處理方式基本一樣,在完成了對內存映射文件的使用時,還要通過一系列的操作完成對其的清除和使用過資源的釋放。這部分相對比較簡單,可以通過UnmapViewOfFile()完成從進程的地址空間撤消文件數據的映像、通過CloseHandle()關閉前面創建的文件映射對象和文件對象。

  內存映射文件相關函數

  在使用內存映射文件時,所使用的API函數主要就是前面提到過的那幾個函數,下面分別對其進行介紹:

HANDLE CreateFile(LPCTSTR lpFileName,
DWORD dwDesiredAccess,
DWORD dwShareMode,
LPSECURITY_ATTRIBUTES lpSecurityAttributes,
DWORD dwCreationDisposition,
DWORD dwFlagsAndAttributes,
HANDLE hTemplateFile);

  函數CreateFile()即使是在普通的文件操作時也經常用來創建、打開文件,在處理內存映射文件時,該函數來創建/打開一個文件內核對象,并將其句柄返回,在調用該函數時需要根據是否需要數據讀寫和文件的共享方式來設置參數dwDesiredAccess和dwShareMode,錯誤的參數設置將會導致相應操作時的失敗。

HANDLE CreateFileMapping(HANDLE hFile,
LPSECURITY_ATTRIBUTES lpFileMappingAttributes,
DWORD flProtect,
DWORD dwMaximumSizeHigh,
DWORD dwMaximumSizeLow,
LPCTSTR lpName);

  CreateFileMapping()函數創建一個文件映射內核對象,通過參數hFile指定待映射到進程地址空間的文件句柄(該句柄由CreateFile()函數的返回值獲取)。由于內存映射文件的物理存儲器實際是存儲于磁盤上的一個文件,而不是從系統的頁文件中分配的內存,所以系統不會主動為其保留地址空間區域,也不會自動將文件的存儲空間映射到該區域,為了讓系統能夠確定對頁面采取何種保護屬性,需要通過參數flProtect來設定,保護屬性PAGE_READONLY、PAGE_READWRITE和PAGE_WRITECOPY分別表示文件映射對象被映射后,可以讀取、讀寫文件數據。在使用PAGE_READONLY時,必須確保CreateFile()采用的是GENERIC_READ參數;PAGE_READWRITE則要求CreateFile()采用的是GENERIC_READ|GENERIC_WRITE參數;至于屬性PAGE_WRITECOPY則只需要確保CreateFile()采用了GENERIC_READ和GENERIC_WRITE其中之一即可。DWORD型的參數dwMaximumSizeHigh和dwMaximumSizeLow也是相當重要的,指定了文件的最大字節數,由于這兩個參數共64位,因此所支持的最大文件長度為16EB,幾乎可以滿足任何大數據量文件處理場合的要求。

LPVOID MapViewOfFile(HANDLE hFileMappingObject,
DWORD dwDesiredAccess,
DWORD dwFileOffsetHigh,
DWORD dwFileOffsetLow,
DWORD dwNumberOfBytesToMap);

  MapViewOfFile()函數負責把文件數據映射到進程的地址空間,參數hFileMappingObject為CreateFileMapping()返回的文件映像對象句柄。參數dwDesiredAccess則再次指定了對文件數據的訪問方式,而且同樣要與CreateFileMapping()函數所設置的保護屬性相匹配。雖然這里一再對保護屬性進行重復設置看似多余,但卻可以使應用程序能更多的對數據的保護屬性實行有效控制。MapViewOfFile()函數允許全部或部分映射文件,在映射時,需要指定數據文件的偏移地址以及待映射的長度。其中,文件的偏移地址由DWORD型的參數dwFileOffsetHigh和dwFileOffsetLow組成的64位值來指定,而且必須是操作系統的分配粒度的整數倍,對于Windows操作系統,分配粒度固定為64KB。當然,也可以通過如下代碼來動態獲取當前操作系統的分配粒度:

SYSTEM_INFO sinf;
GetSystemInfo(&sinf);
DWORD dwAllocationGranularity = sinf.dwAllocationGranularity;

  參數dwNumberOfBytesToMap指定了數據文件的映射長度,這里需要特別指出的是,對于Windows 9x操作系統,如果MapViewOfFile()無法找到足夠大的區域來存放整個文件映射對象,將返回空值(NULL);但是在Windows 2000下,MapViewOfFile()只需要為必要的視圖找到足夠大的一個區域即可,而無須考慮整個文件映射對象的大小。

  在完成對映射到進程地址空間區域的文件處理后,需要通過函數UnmapViewOfFile()完成對文件數據映像的釋放,該函數原型聲明如下:

BOOL UnmapViewOfFile(LPCVOID lpBaseAddress);


  唯一的參數lpBaseAddress指定了返回區域的基地址,必須將其設定為MapViewOfFile()的返回值。在使用了函數MapViewOfFile()之后,必須要有對應的UnmapViewOfFile()調用,否則在進程終止之前,保留的區域將無法釋放。除此之外,前面還曾由CreateFile()和CreateFileMapping()函數創建過文件內核對象和文件映射內核對象,在進程終止之前有必要通過CloseHandle()將其釋放,否則將會出現資源泄漏的問題。

  除了前面這些必須的API函數之外,在使用內存映射文件時還要根據情況來選用其他一些輔助函數。例如,在使用內存映射文件時,為了提高速度,系統將文件的數據頁面進行高速緩存,而且在處理文件映射視圖時不立即更新文件的磁盤映像。為解決這個問題可以考慮使用FlushViewOfFile()函數,該函數強制系統將修改過的數據部分或全部重新寫入磁盤映像,從而可以確保所有的數據更新能及時保存到磁盤。

posted on 2008-09-12 03:17 大龍 閱讀(496) 評論(0)  編輯 收藏 引用


只有注冊用戶登錄后才能發表評論。
網站導航: 博客園   IT新聞   BlogJava   博問   Chat2DB   管理


青青草原综合久久大伊人导航_色综合久久天天综合_日日噜噜夜夜狠狠久久丁香五月_热久久这里只有精品
  • <ins id="pjuwb"></ins>
    <blockquote id="pjuwb"><pre id="pjuwb"></pre></blockquote>
    <noscript id="pjuwb"></noscript>
          <sup id="pjuwb"><pre id="pjuwb"></pre></sup>
            <dd id="pjuwb"></dd>
            <abbr id="pjuwb"></abbr>
            久久精品视频免费播放| 欧美激情一区| 亚洲国产精品日韩| 欧美韩日高清| 牛牛精品成人免费视频| 久久久天天操| 久热精品视频在线免费观看| 美女露胸一区二区三区| 欧美~级网站不卡| 欧美激情一区二区三区四区| 欧美人成免费网站| 国产精品青草久久久久福利99| 国产精品久久久久一区| 国产精品第一区| 国产欧美日韩在线视频| 国外成人网址| 亚洲精品麻豆| 性18欧美另类| 久久婷婷国产综合精品青草| 欧美激情一二区| 一区二区三区不卡视频在线观看| 国产精品99久久不卡二区| 欧美一级久久久久久久大片| 久久久综合网| 欧美日韩精品综合在线| 国产女主播一区二区| 亚洲福利一区| 亚洲欧美日本日韩| 一区二区三区亚洲| 欧美日韩一区二区三区四区五区| 欧美日韩1区2区| 国产美女精品视频免费观看| 伊人伊人伊人久久| 亚洲午夜精品一区二区| 久久久久国产一区二区| 91久久久在线| 中国成人黄色视屏| 日韩一二三区视频| 小辣椒精品导航| 久久在线视频在线| 欧美午夜不卡在线观看免费| 国产一区在线视频| 亚洲一级黄色av| 米奇777在线欧美播放| 亚洲网站在线| 欧美激情精品久久久久久大尺度| 国产欧美一区二区三区沐欲| 日韩亚洲欧美中文三级| 老司机aⅴ在线精品导航| 亚洲精品美女| 久久久99免费视频| 国产精品一卡| 艳妇臀荡乳欲伦亚洲一区| 欧美成人免费视频| 新狼窝色av性久久久久久| 欧美色另类天堂2015| 在线成人av网站| 久久精品在线播放| 一本色道久久综合亚洲精品高清 | 亚洲一区免费在线观看| 最近看过的日韩成人| 久久九九国产精品| 一本色道久久综合狠狠躁的推荐| 免费永久网站黄欧美| 在线观看的日韩av| 久久精品99国产精品日本| 亚洲一区二区三区777| 欧美韩日高清| 久久成人综合网| 国产日本欧美一区二区三区在线| 亚洲视频欧洲视频| 99国产麻豆精品| 欧美大片免费观看在线观看网站推荐| 国产欧美精品在线观看| 亚洲综合色视频| 99精品福利视频| 欧美精品在线极品| 亚洲欧洲在线播放| 欧美大片一区二区三区| 亚洲视频碰碰| 欧美色播在线播放| 欧美一区二区精美| 午夜在线播放视频欧美| 一区二区三区久久网| 欧美日韩精品在线| aa级大片欧美三级| 99在线热播精品免费| 欧美午夜宅男影院在线观看| 亚洲一级黄色片| 亚洲欧美经典视频| 国模大胆一区二区三区| 久久综合给合久久狠狠色| 久久精品视频免费观看| 国产一区二区三区黄视频| 久久久久久久久综合| 欧美综合77777色婷婷| 国产亚洲精品久久久久久| 久久精品国产亚洲aⅴ| 久久精品国产99| 亚洲日本电影| 一区二区三区高清视频在线观看| 欧美午夜精品理论片a级大开眼界 欧美午夜精品理论片a级按摩 | 欧美一二三区在线观看| 午夜精品99久久免费| 国外成人网址| 欧美成年人网站| 欧美日韩国产综合视频在线观看中文| 日韩小视频在线观看| av不卡在线观看| 国产精品美女久久久久久2018| 久久久久国产精品人| 免费国产一区二区| 亚洲午夜一级| 欧美中文日韩| 亚洲另类黄色| 亚洲欧美日韩国产成人精品影院| 黄色精品一区| 日韩一区二区免费看| 国产精品亚发布| 男同欧美伦乱| 国产精品久久久久免费a∨大胸| 久久精品免费| 欧美日本中文| 麻豆freexxxx性91精品| 欧美日韩精品一区二区在线播放 | 亚洲欧美精品在线| 亚洲国产精品t66y| 国产精品丝袜久久久久久app| 米奇777在线欧美播放| 国产精品成人久久久久| 美日韩精品免费| 国产精品每日更新| 亚洲国产女人aaa毛片在线| 国产日韩精品一区二区浪潮av| 美女诱惑一区| 国产女精品视频网站免费 | 免费成人小视频| 国产精品成人观看视频免费| 欧美jizz19hd性欧美| 国产精品一区二区三区乱码| 欧美国产亚洲精品久久久8v| 国产亚洲欧美日韩在线一区| 亚洲精品三级| 亚洲国产天堂久久综合网| 亚洲影院一区| 亚洲视频网站在线观看| 欧美韩日一区二区| 久久亚洲私人国产精品va媚药 | 在线亚洲成人| 欧美韩日高清| 欧美二区乱c少妇| 国精品一区二区| 午夜欧美不卡精品aaaaa| 亚洲特级毛片| 欧美日韩一区二区视频在线观看 | 免费观看一级特黄欧美大片| 国产精品亚洲成人| 这里只有精品视频| av不卡在线看| 欧美精品在线一区| 亚洲国产欧美在线| 在线日韩视频| 久久久精品免费视频| 亚洲欧美日本国产专区一区| 欧美日一区二区三区在线观看国产免| 亚洲国产1区| 亚洲精品之草原avav久久| 久久伊人亚洲| 欧美成人中文字幕在线| 亚洲福利视频专区| 欧美激情视频一区二区三区免费| 亚洲国产婷婷香蕉久久久久久| 亚洲欧洲精品一区| 欧美福利一区二区| 亚洲精品一区在线观看| 一区二区三区蜜桃网| 国产精品www色诱视频| 99视频超级精品| 亚洲欧美一区二区精品久久久| 欧美午夜女人视频在线| 亚洲一区二区三区视频播放| 久久久久久69| 亚洲国产日韩一级| 欧美精品18+| 亚洲精品一区二区三区四区高清 | 亚洲欧美伊人| 国产午夜亚洲精品理论片色戒| 久久国产直播| 亚洲国产岛国毛片在线| 制服诱惑一区二区| 国产精品日韩一区| 亚洲精品久久久久久久久| 午夜精品偷拍| 一区二区三区在线不卡| 欧美黄在线观看| 亚洲尤物在线视频观看| 美女黄色成人网| 国产女主播一区二区三区| 久久久久久久一区二区三区| 日韩视频在线一区|