[go: up one dir, main page]
More Web Proxy on the site http://driver.im/

CN114564442B - 内存映射在超大文件中保存海量碎片文件的方法及介质 - Google Patents

内存映射在超大文件中保存海量碎片文件的方法及介质 Download PDF

Info

Publication number
CN114564442B
CN114564442B CN202111679208.7A CN202111679208A CN114564442B CN 114564442 B CN114564442 B CN 114564442B CN 202111679208 A CN202111679208 A CN 202111679208A CN 114564442 B CN114564442 B CN 114564442B
Authority
CN
China
Prior art keywords
data
file
memory
index
volume
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202111679208.7A
Other languages
English (en)
Other versions
CN114564442A (zh
Inventor
陶诗德
朱文佳
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Anhui Baicheng Huitong Technology Co ltd
Original Assignee
Anhui Baicheng Huitong Technology Co ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Anhui Baicheng Huitong Technology Co ltd filed Critical Anhui Baicheng Huitong Technology Co ltd
Priority to CN202111679208.7A priority Critical patent/CN114564442B/zh
Publication of CN114564442A publication Critical patent/CN114564442A/zh
Application granted granted Critical
Publication of CN114564442B publication Critical patent/CN114564442B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/10File systems; File servers
    • G06F16/17Details of further file system functions
    • G06F16/174Redundancy elimination performed by the file system
    • G06F16/1748De-duplication implemented within the file system, e.g. based on file segments
    • G06F16/1752De-duplication implemented within the file system, e.g. based on file segments based on file chunks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/10File systems; File servers
    • G06F16/11File system administration, e.g. details of archiving or snapshots
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/10File systems; File servers
    • G06F16/13File access structures, e.g. distributed indices
    • YGENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02DCLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
    • Y02D10/00Energy efficient computing, e.g. low power processors, power management or thermal management

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Data Mining & Analysis (AREA)
  • Databases & Information Systems (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Abstract

本发明的一种基于内存映射在超大文件中保存海量碎片文件的方法及介质,其方法包括S1创建与初始化数据卷;S2当有图片数据需要进行保存时,利用位图算法查找到空闲的数据块,使用内存映射文件技术将图片信息快速写入至数据块中;S3当有文件需要读取时,根据请求的路径解析出此文件保存的数据块索引,在数据块索引找到数据块位置;同时采用内存映射文件技术将数据块内容映射至内存中,程序读取内存文件数据发送至客户端;S4根据不同业务中文件的生命周期,当生命周期到达时,只修改数据块的使用状态。本发明可用于减少原来操作系统中对于每一张图片的INODE描述文件数量,以及在图片的生命周期到达时,快速删除图片,同时减少高并发的磁盘IO。

Description

内存映射在超大文件中保存海量碎片文件的方法及介质
技术领域
本发明涉及操作系统文件处理技术领域,具体涉及一种基于内存映射在超大文件中保存海量碎片文件的方法及介质。
背景技术
在交管业务管理平台中,需要对接前端设备(电警、卡口等) 产生的过车违法数据,每一条数据都需要保存当前过车、违法的图片数据,此类图片大小在(500kb至2M)左右,传统做法中采用Windows 或Linux操作系统挂载IPSAN网络硬件,利用操作系统自带的目录文件管理机制,实现大量的图片存储。而在实际运营中,因图片数量具大,文件数量太多,操作系统需要为每一个文件建立INODE数据信息,从而需要大量的INODE,导致浪费太多空间,此外因交警行业的特殊性,对于过车与违法数据都有一定的存储期限,对于到达存储期限的图片数据,因文件数量太大,大量的删除操作必然会引起磁盘的高IO操作从而影响磁盘性能以及寿命。因此如何高效地存储交警业务中的图片,提高性能瓶颈,降低存储成本成为交警行业中急需解决的问题。
发明内容
本发明提出的一种基于内存映射在超大文件中保存海量碎片文件的方法及介质,可至少解决背景技术中的技术问题之一。
为实现上述目的,本发明采用了以下技术方案:
一种基于内存映射在超大文件中保存海量碎片文件的方法,通过计算机设备执行以下步骤,
S1、创建与初始化数据卷(Volume),本部分以数据块形式保存具体文件内容、同时采用位图算法(Bit-Map)来记录每一个数据块的使用状态。
S2、数据保存,当有图片数据需要进行保存时,利用位图算法(Bit-Map)快速查找到空闲的数据块,使用内存映射文件技术 (Memory-mapped file)将图片信息快速写入至数据块中。因方案中采用内存映射文件技术,操作数据相当与操作内存,极大提高文件保存效率,实现文件数据零拷贝。
S3、文件读取,当有文件需要读取时,方案中根据请求的路径快速解析出此文件保存的数据块索引,在数据块索引找到数据块位置。同时采用内存映射文件技术(Memory-mapped file)将数据块内容映射至内存中,程序读取内存文件数据发送至客户端。同样在此模块中也因采用内存映射文件技术,操作数据如同操作内存,提高了文件下载速度。
S4、文件删除,因业务场景(交警业务)限制,系统不提供数据手动删除功能,文件删除会根据不同业务中文件的生命周期,当生命周期到达时,系统并不会去操作具体的文件数据,只修改数据块的使用状态,从而减少大量的磁盘IO。提高文件删除以及磁盘性能。
其中S1是基础,S2至S4是不同的业务触发。
又一方面,本发明还公开一种计算机可读存储介质,存储有计算机程序,所述计算机程序被处理器执行时,使得所述处理器执行如上述方法的步骤。
再一方面,本发明还公开一种计算机设备,包括存储器和处理器,所述存储器存储有计算机程序,所述计算机程序被所述处理器执行时,使得所述处理器执行如上方法的步骤。
由上述技术方案可知,本发明的基于内存映射在超大文件中保存海量碎片文件的方法,可解决如何减少原来操作系统中对于每一张图片的INODE描述文件数量,以及如何在图片的生命周期(过期)到达时,快速删除图片,同时减少高并发的磁盘IO;具体的说,本发明系统采用超大文件来进行图片的存储,每张图片保存时会记录在超大的起始位置与偏移量,从而减少文件系统的INODE;对于大量图片文件删除时引发的磁盘IO,在方案中采用标记法来进行标记图片删除操作,从而解决磁盘的并发删除操作。
附图说明
图1为本发明流程框图;
图2是本发明实施例的位图与volume的数据块映射示意图;
图3是本发明实施例的volume数据块结构示意图。
具体实施方式
为使本发明实施例的目的、技术方案和优点更加清楚,下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例是本发明一部分实施例,而不是全部的实施例。
如图1所示,本实施例所述的基于内存映射在超大文件中保存海量碎片文件的方法,包括以下步骤,
S1、创建与初始化数据卷(Volume),本部分以数据块形式保存具体文件内容、同时采用位图算法(Bit-Map)来记录每一个数据块的使用状态。
S2、数据保存,当有图片数据需要进行保存时,利用位图算法 (Bit-Map)快速查找到空闲的数据块,使用内存映射文件技术(Memory-mapped file)将图片信息快速写入至数据块中。因方案中采用内存映射文件技术,操作数据相当与操作内存,极大提高文件保存效率,实现文件数据零拷贝。
S3、文件读取,当有文件需要读取时,方案中根据请求的路径快速解析出此文件保存的数据块索引,在数据块索引找到数据块位置。同时采用内存映射文件技术(Memory-mapped file)将数据块内容映射至内存中,程序读取内存文件数据发送至客户端。同样在此模块中也因采用内存映射文件技术,操作数据如同操作内存,提高了文件下载速度。
S4、文件删除,因业务场景(交警业务)限制,系统不提供数据手动删除功能,文件删除会根据不同业务中文件的生命周期,当生命周期到达时,系统并不会去操作具体的文件数据,只修改数据块的使用状态,从而减少大量的磁盘IO。提高文件删除以及磁盘性能。
其中S1是基础,S2至S4是不同的业务触发。
本发明实施例整个具体操作过程包括如下步骤:
S1、初始化与数据卷(Volume)创建
a)初始化操作需要指定系统盘,数据盘(多个),数据块大小 (BLOCK_SIZE),数据卷(VOLUME),数据卷数据过期时间(EXP_TIME);
b)根据录入的参数信息,创建元数据位图(INODE_BITMAP)与数据卷,一个数据卷对应一个元数据位图,位图数据保存在系统盘中,位图大小为卷大小/块大小;同一卷中数据块大小相同。
c)Volume会进行格式化操作,格式化最终会根据数据块大小,生成对应的INODE_BITMAP信息,如图2所示。
S2、数据保存
如图3所示,说明metadata区域保存数据相关的属性,如文件名,存入时间,过期时间,文件在数据块中保存大小偏移量,整个metadata 区域大小(64byte),结构如下:
类型 说明 大小
fid 文件名,UUID 32byte
stime 文件存入时间,时间戳 8byte
offset 文件结束位置偏移量 8byte
null 预留位置 16byte
a)系统接收到需要保存的图片数据时,首先会去根据当前图片大小并获取符保存数据的Volume以及Volume所对应的;
b)查找Volume所对应的INODE_BITMAP中数据位为0的位索引I_INDEX,计算得出当前图片数据所需要保存的数据块索引 B_INDEX(B_INDEX=B_INDEX)、同时得出图片在Volume中的保存起始偏移量B_OFFSET=BLOCK_SIZE*B_INDEX。
c)填充DATA_BLOCK数据项的值以及图片具体数据;
d)使用内存映射(MMAP)技术映射出Volume的B_OFFSET至 B_OFFSET+BLOCK_SIZE文件内存至内存区域M_AREA;
e)通过系统接口(MEMCPY)将图片数据写入至映射的内存中;
f)成功写入内存M_AREA后,修改INODE_BITMAP中对应索引位置为1;返回此次文件保存路径,路径规则为:相对路径/卷编号 /数据块索引/文件编号.PNG
g)如果写入内存M_AREA失败,返回对应的错误信息结束。
S3、数据查看
a)请求者携带具体的文件相对路径R_PATH请求具体数据,服务通过相对路径解析出文件具体保存的信息:卷(Volume)、数据块索引(B_INDEX)、文件编号(FID);
b)根据B_INDEX查找INODE_BITMAP对应BIT位I_INDEX;
c)如果I_INDEX的值为0,返回文件不存在结束;
d)如果I_INDEX的值为1,则根据B_INDEX找到数据块位置,将数据块元数据内容映射至内存空间B_META;
e)解析B_META内容,取出fid、stime、offset,判断B_MATE中的文件编号与请求参数FID是否相等;
f)如果B_META中文件编号与参数FID不相等,返回文件不存在;
g)如果stime+EXP_TIME<当前时间戳,返回文件已过期;
h)如果B_META中文件编号与参数相等,则将 [(B_INDEX*BLOCK_SIZE)+64,B_INDEX*BLOCK_SIZE)+64+offset]区域内容映射取出,并返回真实的文件数据。
S4、数据删除
系统自动维护一个每日Volume卷操作的起始时间、结束时间的映射记录S_V_OPTIME,
具体结构如下表所示:
属性名 说明
volume_id 卷编号
day 数据存储日期,精确至天
s_offset 起始偏移
e_offset 结束偏移
因业务数据的特殊性,原则上不允许进行手动删除,系统只有在文件过期之后由系统自动进行删除操作,系统文件过期的时间最小粒度为日(Day)。系统自动删除的操作步骤如下:
a)获取DAY最早的一天S_V_OPTIME记录
b)取出当前Volume的EXP_TIME,计算 S_V_OPTIME.day+EXP_TIME,并记录在v1变量上。
c)如果v1>=now();则结束
d)如果v1<now(),则根据S_V_OPTIME.s_offset、 S_V_OPTIME.e_offset、BLOCK_SIZE计算范围内的数据块在INODE_BITMAP区域索引bit_index_array;
e)将bit_index_array所指定的位上数值全部置为0。
交管图片存储系统采用本是你方案后前后效果如下:
1、图片数量过大时(亿级图片),经常出现操作系统的文件INODE 与实际磁盘空间对应不上,从而导致磁盘还有大量空间而文件保存失败问题。采用本方案后,操作极大的减少系统的INODE数量,INODE数量与卷(Volume)相等,解决系统INODE过多问题。
2、当图片到达过期日期时,系统会对磁盘中的图片文件进行删除操作,大量的图片进行删除操作时,会产生大量的磁盘IO操作,极大影响磁盘性能,同时也减少磁盘寿命。采用本方案后只对需要删除的图片进地标记,并非真正的删除操作,从而解决磁盘因大量IO操作降低性能问题。
3、专统IO操作文件,数据需要经过多次拷贝,如:读文件数需要经过磁盘->内存缓充区->用户区,在此过程中数据需要进行2次拷贝,在本方案中因为采用内存映射文件,实现用户直接操作内存,实现数据零拷贝。极大提高了数据写入与读取性能。
又一方面,本发明还公开一种计算机可读存储介质,存储有计算机程序,所述计算机程序被处理器执行时,使得所述处理器执行如上述方法的步骤。
再一方面,本发明还公开一种计算机设备,包括存储器和处理器,所述存储器存储有计算机程序,所述计算机程序被所述处理器执行时,使得所述处理器执行如上方法的步骤。
在本申请提供的又一实施例中,还提供了一种包含指令的计算机程序产品,当其在计算机上运行时,使得计算机执行上述实施例中任一基于内存映射在超大文件中保存海量碎片文件的方法。
可理解的是,本发明实施例提供的系统与本发明实施例提供的方法相对应,相关内容的解释、举例和有益效果可以参考上述方法中的相应部分。
本申请实施例还提供了一种电子设备,包括处理器、通信接口、存储器和通信总线,其中,处理器,通信接口,存储器通过通信总线完成相互间的通信,
存储器,用于存放计算机程序;
处理器,用于执行存储器上所存放的程序时,实现上述基于内存映射在超大文件中保存海量碎片文件的方法;
上述电子设备提到的通信总线可以是外设部件互连标准(英文: PeripheralComponent Interconnect,简称:PCI)总线或扩展工业标准结构(英文:Extended IndustryStandard Architecture,简称:EISA)总线等。该通信总线可以分为地址总线、数据总线、控制总线等。
通信接口用于上述电子设备与其他设备之间的通信。
存储器可以包括随机存取存储器(英文:Random Access Memory,简称:RAM),也可以包括非易失性存储器(英文:Non-Volatile Memory,简称:NVM),例如至少一个磁盘存储器。可选的,存储器还可以是至少一个位于远离前述处理器的存储装置。
上述的处理器可以是通用处理器,包括中央处理器(英文:Central ProcessingUnit,简称:CPU)、网络处理器(英文:Network Processor,简称:NP)等;还可以是数字信号处理器(英文:Digital Signal Processing,简称:DSP)、专用集成电路(英文:ApplicationSpecific Integrated Circuit,简称:ASIC)、现场可编程门阵列(英文:Field-Programmable Gate Array,简称:FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件。
在上述实施例中,可以全部或部分地通过软件、硬件、固件或者其任意组合来实现。当使用软件实现时,可以全部或部分地以计算机程序产品的形式实现。所述计算机程序产品包括一个或多个计算机指令。在计算机上加载和执行所述计算机程序指令时,全部或部分地产生按照本申请实施例所述的流程或功能。所述计算机可以是通用计算机、专用计算机、计算机网络、或者其他可编程装置。所述计算机指令可以存储在计算机可读存储介质中,或者从一个计算机可读存储介质向另一个计算机可读存储介质传输,例如,所述计算机指令可以从一个网站站点、计算机、服务器或数据中心通过有线(例如同轴电缆、光纤、数字用户线(DSL))或无线(例如红外、无线、微波等)方式向另一个网站站点、计算机、服务器或数据中心进行传输。所述计算机可读存储介质可以是计算机能够存取的任何可用介质或者是包含一个或多个可用介质集成的服务器、数据中心等数据存储设备。所述可用介质可以是磁性介质,(例如,软盘、硬盘、磁带)、光介质(例如, DVD)、或者半导体介质(例如固态硬盘Solid State Disk(SSD))等。
需要说明的是,在本文中,诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来,而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。
本说明书中的各个实施例均采用相关的方式描述,各个实施例之间相同相似的部分互相参见即可,每个实施例重点说明的都是与其他实施例的不同之处。尤其,对于系统实施例而言,由于其基本相似于方法实施例,所以描述的比较简单,相关之处参见方法实施例的部分说明即可。
以上实施例仅用以说明本发明的技术方案,而非对其限制;尽管参照前述实施例对本发明进行了详细的说明,本领域的普通技术人员应当理解:其依然可以对前述各实施例所记载的技术方案进行修改,或者对其中部分技术特征进行等同替换;而这些修改或者替换,并不使相应技术方案的本质脱离本发明各实施例技术方案的精神和范围。

Claims (7)

1.一种基于内存映射在超大文件中保存海量碎片文件的方法,其特征在于,包括以下步骤,
S1、创建与初始化数据卷;
S2、数据保存,当有图片数据需要进行保存时,利用位图算法查找到空闲的数据块,使用内存映射文件技术将图片信息快速写入至数据块中;
S3、文件读取,当有文件需要读取时,根据请求的路径解析出此文件保存的数据块索引,在数据块索引找到数据块位置;同时采用内存映射文件技术将数据块内容映射至内存中,程序读取内存文件数据发送至客户端;
S4、文件删除,根据不同业务中文件的生命周期,当生命周期到达时,系统并不会去操作具体的文件数据,只修改数据块的使用状态;
所述步骤S2具体包括,
2a)系统接收到需要保存的图片数据时,首先会去根据当前图片大小并获取符保存数据的Volume以及Volume所对应的;
2b)查找Volume所对应的INODE_BITMAP中数据位为0的位索引I_INDEX,计算得出当前图片数据所需要保存的数据块索引B_INDEX,B_INDEX=B_INDEX,同时得出图片在Volume中的保存起始偏移量B_OFFSET=BLOCK_SIZE*B_INDEX;
2c)填充DATA_BLOCK数据项的值以及图片具体数据;
2d)使用内存映射技术映射出Volume的B_OFFSET至B_OFFSET+BLOCK_SIZE文件内存至内存区域M_AREA;
2e)通过系统接口将图片数据写入至映射的内存中;
2f)成功写入内存M_AREA后,修改INODE_BITMAP中对应索引位置为1;返回此次文件保存路径,路径规则为:相对路径/卷编号/数据块索引/文件编号.PNG;
2g)如果写入内存M_AREA失败,返回对应的错误信息结束。
2.根据权利要求1所述的基于内存映射在超大文件中保存海量碎片文件的方法,其特征在于:步骤S1中以数据块形式保存具体文件内容、同时采用位图算法来记录每一个数据块的使用状态。
3.根据权利要求1所述的基于内存映射在超大文件中保存海量碎片文件的方法,其特征在于:步骤S1具体包括,
1a)初始化操作需要指定系统盘,数据盘,数据块大小,数据卷,数据卷数据过期时间;
1b)根据录入的参数信息,创建元数据位图与数据卷,一个数据卷对应一个元数据位图,位图数据保存在系统盘中,位图大小为卷大小/块大小;同一卷中数据块大小相同;
1c)数据卷会进行格式化操作,格式化最终会根据数据块大小,生成对应的元数据位图信息。
4.根据权利要求1所述的基于内存映射在超大文件中保存海量碎片文件的方法,其特征在于:所述步骤S3包括,
3a)请求者携带具体的文件相对路径R_PATH请求具体数据,服务通过相对路径解析出文件具体保存的信息:卷、数据块索引、文件编号;
3b)根据B_INDEX查找INODE_BITMAP对应BIT位I_INDEX;
3c)如果I_INDEX的值为0,返回文件不存在结束;
3d)如果I_INDEX的值为1,则根据B_INDEX找到数据块位置,将数据块元数据内容映射至内存空间B_META;
3e)解析B_META内容,取出fid、stime、offset,判断B_MATE中的文件编号与请求参数FID是否相等;stime表示文件存入时间;
3f)如果B_META中文件编号与参数FID不相等,返回文件不存在;
3g)如果stime+EXP_TIME<当前时间戳,返回文件已过期;
3h)如果B_META中文件编号与参数相等,则将
[(B_INDEX*BLOCK_SIZE)+64,(B_INDEX*BLOCK_SIZE)+64+offset]区域内容映射取出,并返回真实的文件数据。
5.根据权利要求1所述的基于内存映射在超大文件中保存海量碎片文件的方法,其特征在于:所述S4具体包括,
4a)获取DAY最早的一天S_V_OPTIME记录;
4b)取出当前Volume的EXP_TIME,计算S_V_OPTIME.day+EXP_TIME,并记录在v1变量上;
4c)如果v1>=now();则结束;
4d)如果v1<now(),则根据S_V_OPTIME.s_offset、S_V_OPTIME.e_offset、BLOCK_SIZE计算范围内的数据块在INODE_BITMAP区域索引bit_index_array;
4e)将bit_index_array所指定的位上数值全部置为0。
6.一种计算机可读存储介质,存储有计算机程序,所述计算机程序被处理器执行时,使得所述处理器执行如权利要求1至5中任一项所述方法的步骤。
7.一种计算机设备,包括存储器和处理器,所述存储器存储有计算机程序,所述计算机程序被所述处理器执行时,使得所述处理器执行如权利要求1至5中任一项所述方法的步骤。
CN202111679208.7A 2021-12-31 2021-12-31 内存映射在超大文件中保存海量碎片文件的方法及介质 Active CN114564442B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202111679208.7A CN114564442B (zh) 2021-12-31 2021-12-31 内存映射在超大文件中保存海量碎片文件的方法及介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202111679208.7A CN114564442B (zh) 2021-12-31 2021-12-31 内存映射在超大文件中保存海量碎片文件的方法及介质

Publications (2)

Publication Number Publication Date
CN114564442A CN114564442A (zh) 2022-05-31
CN114564442B true CN114564442B (zh) 2024-10-15

Family

ID=81712235

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202111679208.7A Active CN114564442B (zh) 2021-12-31 2021-12-31 内存映射在超大文件中保存海量碎片文件的方法及介质

Country Status (1)

Country Link
CN (1) CN114564442B (zh)

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101414277A (zh) * 2008-11-06 2009-04-22 清华大学 一种基于虚拟机的按需增量恢复容灾系统及方法
CN113626256A (zh) * 2021-07-16 2021-11-09 济南浪潮数据技术有限公司 一种虚拟机磁盘数据备份方法、装置、终端及存储介质

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102153968B1 (ko) * 2017-03-17 2020-09-09 엘에스일렉트릭(주) 전자 장치가 제공하는 서비스와 관련된 서비스 모델 블록을 포함하는 메모리 맵의 구성 방법

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101414277A (zh) * 2008-11-06 2009-04-22 清华大学 一种基于虚拟机的按需增量恢复容灾系统及方法
CN113626256A (zh) * 2021-07-16 2021-11-09 济南浪潮数据技术有限公司 一种虚拟机磁盘数据备份方法、装置、终端及存储介质

Also Published As

Publication number Publication date
CN114564442A (zh) 2022-05-31

Similar Documents

Publication Publication Date Title
CN109885577B (zh) 数据处理方法、装置、终端及存储介质
CN110046133B (zh) 一种存储文件系统的元数据管理方法、装置及系统
US11625412B2 (en) Storing data items and identifying stored data items
CN111723056B (zh) 小文件的处理方法、装置、设备和存储介质
CN107483631B (zh) 一种控制缓存实现移动互联网络服务访问的方法
US20170286442A1 (en) File system support for file-level ghosting
CN111753141B (zh) 一种数据管理方法及相关设备
CN109804359A (zh) 用于将数据回写到存储设备的系统和方法
CN110008197B (zh) 一种数据处理方法、系统及电子设备和存储介质
CN114741453A (zh) 数据同步的方法、系统及计算机可读存储介质
CN111488377A (zh) 数据查询方法、装置、电子设备及存储介质
CN111966747A (zh) 数据同步方法、系统、终端设备及存储介质
CN111966867B (zh) 对象删除方法、数据处理方法及装置
CN114564442B (zh) 内存映射在超大文件中保存海量碎片文件的方法及介质
CN117493284B (zh) 文件存储方法、文件读取方法、文件存储和读取系统
CN117910955A (zh) 一种话单管理方法、装置、电子设备及存储介质
CN117033142A (zh) 用户存储空间的计算方法、装置、物联网平台及介质
CN111737223B (zh) 一种文件拷贝方法、装置、设备及存储介质
CN116049306A (zh) 数据同步方法、装置、电子设备以及可读存储介质
CN111459411B (zh) 数据迁移方法、装置、设备及存储介质
CN114416676A (zh) 数据处理方法、装置、设备和存储介质
CN115905115A (zh) 文件存储方法、读取方法及装置、电子设备与存储介质
CN112860628A (zh) 一种文件系统规模管理方法及系统
CN113204554B (zh) 一种对象存储系统实现稀疏写的方法、装置及电子设备
CN118689894B (zh) 一种系统变更数据捕获方法、设备及介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant