CN116860700A - 处理分布式文件系统中元数据的方法、装置、设备及介质 - Google Patents
处理分布式文件系统中元数据的方法、装置、设备及介质 Download PDFInfo
- Publication number
- CN116860700A CN116860700A CN202310788599.9A CN202310788599A CN116860700A CN 116860700 A CN116860700 A CN 116860700A CN 202310788599 A CN202310788599 A CN 202310788599A CN 116860700 A CN116860700 A CN 116860700A
- Authority
- CN
- China
- Prior art keywords
- processed
- directory
- processing
- metadata
- determining
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000012545 processing Methods 0.000 title claims abstract description 207
- 238000000034 method Methods 0.000 title claims abstract description 73
- 230000004044 response Effects 0.000 claims abstract description 22
- 239000012634 fragment Substances 0.000 claims description 18
- 230000004048 modification Effects 0.000 claims description 17
- 238000012986 modification Methods 0.000 claims description 17
- 238000004590 computer program Methods 0.000 claims description 14
- 238000012217 deletion Methods 0.000 claims description 8
- 230000037430 deletion Effects 0.000 claims description 8
- 238000013473 artificial intelligence Methods 0.000 abstract description 3
- 230000008569 process Effects 0.000 description 14
- 238000010586 diagram Methods 0.000 description 11
- 238000004891 communication Methods 0.000 description 10
- 238000005192 partition Methods 0.000 description 9
- 238000004458 analytical method Methods 0.000 description 5
- 230000008859 change Effects 0.000 description 3
- 230000006870 function Effects 0.000 description 3
- 238000004519 manufacturing process Methods 0.000 description 3
- 230000003287 optical effect Effects 0.000 description 3
- 230000003993 interaction Effects 0.000 description 2
- 230000007246 mechanism Effects 0.000 description 2
- 230000010076 replication Effects 0.000 description 2
- 238000000638 solvent extraction Methods 0.000 description 2
- 230000005856 abnormality Effects 0.000 description 1
- 238000003491 array Methods 0.000 description 1
- 238000013475 authorization Methods 0.000 description 1
- 230000001413 cellular effect Effects 0.000 description 1
- 238000010276 construction Methods 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 238000010801 machine learning Methods 0.000 description 1
- 239000013307 optical fiber Substances 0.000 description 1
- 230000002688 persistence Effects 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 230000001953 sensory effect Effects 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 238000012795 verification Methods 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/10—File systems; File servers
- G06F16/11—File system administration, e.g. details of archiving or snapshots
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/10—File systems; File servers
- G06F16/14—Details of searching files based on file metadata
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/10—File systems; File servers
- G06F16/18—File system types
- G06F16/182—Distributed file systems
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/10—File systems; File servers
- G06F16/18—File system types
- G06F16/1865—Transactional file systems
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Data Mining & Analysis (AREA)
- Databases & Information Systems (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Library & Information Science (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本公开提供了一种处理分布式文件系统中元数据的方法、装置、设备及存储介质,本公开涉及人工智能技术领域,尤其涉及云计算、云存储和云数据库技术领域,可应用在智能云场景下。具体实现方案为:获取针对文件系统的处理请求,处理请求包括待处理对象的对象信息、处理模式和初始路径,待处理对象为元数据;根据对象信息和初始路径,确定目标目录路径;根据目录存储区和目标目录路径,确定待处理对象是否满足预定处理条件;目录存储区包括文件系统中的目录元数据;以及响应于确定待处理对象满足预定处理条件,基于处理模式处理待处理对象。
Description
技术领域
本公开涉及人工智能技术领域,尤其涉及云计算、云存储和云数据库技术领域,可应用在智能云场景下。
背景技术
文件系统中的数据可以包括文件数据,该文件数据中可以包括文件内容。文件系统中的数据还包括元数据,元数据可以包括目录元数据和文件元数据,元数据可以包括目录或文件的名称、权限等信息。
在实际使用过程中,有时需要对文件系统中的元数据进行处理,但是元数据的路径解析开销大。
发明内容
本公开提供了一种处理文件系统中元数据的方法、装置、电子设备、存储介质、计算机程序产品以及文件管理设备。
根据本公开的一方面,提供了一种处理文件系统中元数据的方法,包括:获取针对文件系统的处理请求,处理请求包括待处理对象的对象信息、处理模式和初始路径,待处理对象为元数据;根据对象信息和初始路径,确定目标目录路径;根据目录存储区和目标目录路径,确定待处理对象是否满足预定处理条件;目录存储区包括文件系统中的目录元数据;以及响应于确定待处理对象满足预定处理条件,基于处理模式处理待处理对象。
根据本公开的另一方面,提供了一种处理文件系统中元数据的装置,包括:获取模块、路径确定模块、条件确定模块以及处理模块。获取模块用于获取针对文件系统的处理请求,处理请求包括待处理对象的对象信息、处理模式和初始路径,待处理对象为元数据。路径确定模块用于根据对象信息和初始路径,确定目标目录路径。条件确定模块用于根据目录存储区和目标目录路径,确定待处理对象是否满足预定处理条件;目录存储区包括文件系统中的目录元数据。处理模块用于响应于确定待处理对象满足预定处理条件,基于处理模式处理待处理对象。
根据本公开的另一个方面,提供了一种电子设备,包括:至少一个处理器;以及与至少一个处理器通信连接的存储器;其中,存储器存储有可被至少一个处理器执行的指令,指令被至少一个处理器执行,以使至少一个处理器能够执行本公开提供的方法。
根据本公开的另一个方面,提供了一种存储有计算机指令的非瞬时计算机可读存储介质,其中,计算机指令用于使计算机执行本公开提供的方法。
根据本公开的另一个方面,提供了一种计算机程序产品,包括计算机程序,计算机程序在被处理器执行时实现本公开提供的方法。
根据本公开的另一个方面,提供了一种文件管理设备,包括:上述电子设备和文件系统,文件系统包括目录存储区和数据库,目录存储区用于存储文件系统中的目录元数据,数据库用于存储文件系统中的文件元数据。
应当理解,本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征,也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。
附图说明
附图用于更好地理解本方案,不构成对本公开的限定。其中:
图1是根据本公开实施例的处理文件系统中元数据的方法和装置的应用场景示意图;
图2是根据本公开实施例的处理文件系统中元数据的方法的示意流程图;
图3是根据本公开实施例的处理文件系统中元数据的方法的示意原理图;
图4是根据本公开实施例的处理文件系统中元数据的装置的示意结构框图;以及
图5是用来实施本公开实施例的处理文件系统中元数据的方法的电子设备的结构框图。
具体实施方式
以下结合附图对本公开的示范性实施例做出说明,其中包括本公开实施例的各种细节以助于理解,应当将它们认为仅仅是示范性的。因此,本领域普通技术人员应当认识到,可以对这里描述的实施例做出各种改变和修改,而不会背离本公开的范围和精神。同样,为了清楚和简明,以下的描述中省略了对公知功能和结构的描述。
在一些实施例中,文件系统可以包括数据库(例如分布式事务数据库),文件数据和文件元数据均可以存储于数据库中。通过父目录与子目录的层级关系,可以构建出目录树,目录树中的每个inode节点对应数据库中的一行记录。
然而,采用上述技术方案,元数据访问的局部性差,路径解析网络延迟高。HDFS协议通过全路径(full path)访问,需要逐层解析,需要从根节点Root依次递归读取相关节点元数据直到目标节点,例如,对于路径MkDir/tmp/foo/bar.txt,有以下四次元数据网络访问:/、/tmp、/tmp/foo和/tmp/foo/bar.txt。
本公开旨在提供一种方法,该方法主要用于处理文件系统中的元数据,本公开对文件系统中文件数据的处理过程不做限定。该方法通过增加一个强一致性目录Cache(即目录存储区),在满足目录树存储扩展性需求的同时降低了路径解析的开销,解决基于目录的细粒度目录树划分机制中存在的路径解析开销大的问题。
此外,在实际应用中,针对目录元数据的变更操作占全部元数据变更操作的10%左右,两阶段提交协议(2PC)带来的性能开销较小,因此实际生产环境中单个文件系统的最大目录项的数量和针对目录的最大读写压力可以由单台机器承担,且持久化层基于分布式事务数据库可做到线性扩展,因此文件系统具备良好的扩展性,可以做到单集群文件数量规模无上限,不容易出现热点,容易实现负载均衡。
以下将结合附图和具体实施例详细阐述本公开提供的技术方案。
图1是根据本公开实施例的处理文件系统中元数据的方法和装置的应用场景示意图。
需要注意的是,图1所示仅为可以应用本公开实施例的系统架构的示例,以帮助本领域技术人员理解本公开的技术内容,但并不意味着本公开实施例不可以用于其他设备、系统、环境或场景。
如图1所示,根据该实施例的系统架构100可以包括终端设备101、102、103,网络104和服务器105。网络104用以在终端设备101、102、103和服务器105之间提供通信链路的介质。网络104可以包括各种连接类型,例如有线和/或无线通信链路等等。
用户可以使用终端设备101、102、103通过网络104与服务器105交互,以接收或发送消息等。终端设备101、102、103可以是具有显示屏并且支持网页浏览的各种电子设备,包括但不限于智能手机、平板电脑、膝上型便携计算机和台式计算机等等。
服务器105可以是提供各种服务的服务器,例如对用户利用终端设备101、102、103所浏览的网站提供支持的后台管理服务器(仅为示例)。服务器可以维护有文件系统,服务器可以对接收到的用户请求等数据进行分析等处理,并将处理结果(例如根据针对文件系统的处理请求确定的处理结果等)反馈给终端设备。
需要说明的是,本公开实施例所提供的处理文件系统中元数据的方法一般可以由服务器105执行。相应地,本公开实施例所提供的处理文件系统中元数据的装置一般可以设置于服务器105中。本公开实施例所提供的处理文件系统中元数据的方法也可以由不同于服务器105且能够与终端设备101、102、103和/或服务器105通信的服务器或服务器集群执行。相应地,本公开实施例所提供的处理文件系统中元数据的装置也可以设置于不同于服务器105且能够与终端设备101、102、103和/或服务器105通信的服务器或服务器集群中。
应该理解,图1中的终端设备、网络和服务器的数目仅仅是示意性的。根据实现需要,可以具有任意数目的终端设备、网络和服务器。
图2是根据本公开实施例的处理文件系统中元数据的方法的示意流程图。
如图2所示,该处理文件系统中元数据的方法200可以包括操作S210~操作S240。
在操作S210,获取针对文件系统的处理请求,处理请求包括待处理对象的对象信息、处理模式和初始路径,待处理对象为元数据。
例如,待处理对象可以包括文件元数据和目录元数据中的至少一种。对象信息可以包括元数据的标识、元数据的名称等。处理模式可以包括创建、删除、修改等。
例如,初始路径可以表示待处理对象所指示的文件或目录在文件系统中的存储路径。例如,处理请求包括create/dir2/file1,则表示需要在路径“/dir2”下创建一个文件file1,则初始路径可以为“/dir2/file1”。
在操作S220,根据对象信息和初始路径,确定目标目录路径。
例如,可以将初始路径确定为目标目录路径,或者将初始路径中除最后一层路径之外的其他路径,确定为目标目录路径。
在操作S230,根据目录存储区和目标目录路径,确定待处理对象是否满足预定处理条件。若是,则可以执行操作S240。若否,则可以执行操作S250。
例如,文件系统包括目录存储区,该目录存储区中可以记录文件系统中的目录元数据,可以不记录文件系统中的文件元数据,可以不记录文件系统中的文件数据。目录存储区可以采用目录树结构来记录多个目录元数据,也可以采用数据表的形式来记录多个目录元数据。
在实现上,可以将目录存储区配置在数据库的内部,例如将数据库中的一个分片作为目录存储区,也可以将目录存储区配置在数据库的外部,例如在数据库之外开辟一个存储区域作为目录存储区,可以使用缓存作为目录存储区。
例如,预定处理条件可以为:目录存储区包括目标目录元数据,该目标目录元数据与目标目录相对应,即该目标目录元数据是针对目标目录的元数据,目标目录是目标目录路径所指示的目录。本实施例可以校验目标目录是否存在,并在存在目标目录的情况下进行元数据的处理,从而避免由于目标目录不存在而无法正常处理。
又例如,预定处理条件包括:目录存储区包括目标目录元数据,且目标目录的存储路径与目标目录路径一致。本实施例可以校验目标目录的路径是否正确,并且路径正确的情况下进行元数据的处理,从而避免由于目标目录的路径错误而无法正常处理。
又例如,预定处理条件包括:基于处理请求中的身份标识和处理模式确定的权限信息与针对目标目录的权限信息一致。本实施例可以校验请求中身份标识所具有的权项是否能够按照处理模式来处理目标目录,并在权项校验通过的情况下进行元数据的处理,从而确保处理元数据的安全性。
需要说明的是,上述预定条件可以相互组合。
在操作S240,基于处理模式处理待处理对象。
例如,处理模式可以为创建、删除和修改,若待处理对象为文件元数据或目录元数据,可以在数据库对待处理对象进行创建、删除和修改,修改可以包括重命名、修改属性信息等。若待处理对象为目录元数据,可以在目录存储区对待处理对象进行创建、删除和修改。
在操作S250,可以结束处理流程,还可以进行异常提示。
根据本公开实施例提供的技术方案,通过增加强一致性目录存储区,在满足目录树存储扩展性需求的同时降低了路径解析的开销,解决基于目录的细粒度目录树划分机制中存在的路径解析开销大的问题。此外,文件系统具备良好的扩展性,不容易出现热点,容易实现负载均衡。
以下对根据对象信息和初始路径,确定目标目录路径的方法进行说明。
在一种实施例中,待处理对象为文件元数据,可以根据初始路径中除最后一个文件之外的其他目录,确定目标目录路径。
例如,在文件系统中创建一个新的文件,则需要指定该文件在文件系统中的存储路径,该存储路径为初始路径。并且初始路径中最后一个对象名称为文件名称,该文件之前的路径均为文件上层的目录路径,该些目录路径即为目标目录路径。例如,处理请求包括create/dir2/file1,可以将/dir2确定为目标目录路径。该种方式可以根据待处理对象的类型准确确定目标目录路径。
在另一种实施例中,待处理对象为目录元数据,且处理模式为创建,根据初始路径中除最后一个目录之外的其他目录,确定目标目录路径。
例如,在文件系统中创建一个新的目录,则需要指定该目录在文件系统中的存储路径,该存储路径为初始路径。并且初始路径中最后一个对象名称为需要创建的目录,该目录之前的路径均为上层的目录路径,该些目录路径即为目标目录路径。例如,处理请求包括mkdir0/dir1/dir3,可以将dir0/dir1确定为目标目录路径。该种方式可以根据待处理对象的类型和处理模式准确确定目标目录路径。
在另一种实施例中,待处理对象为目录元数据,且处理模式为非创建,将初始路径确定为目标目录路径。
例如,非创建可以包括修改和删除,在文件系统中修改或删除一个已有的目录,可以指定该目录在文件系统中的存储路径,该存储路径为初始路径。并且初始路径中最后一个对象名称为需要修改或删除的目录,该目录之前的路径均为上层的目录路径,该些目录路径即为目标目录路径。例如,处理请求包括rename dir0/dir1/dir3,可以将dir0/dir1/dir3确定为目标目录路径。该种方式可以根据待处理对象的类型和处理模式准确确定目标目录路径。
以下对基于处理模式处理待处理对象的方法进行说明。
对于待处理对象为文件元数据的情况,可以在数据库中,基于处理模式处理文件元数据。
示例性的,可以根据目录存储区,确定待处理对象的父对象的父对象标识,然后根据父对象标识、对象信息中的对象标识和处理模式,在数据库中处理待处理对象。
在数据库中,可以通过键值对的形式来存储元数据,键值对中的键名key可以包括父对象标识和对象标识,对象标识可以包括对象名称和ID中的至少一个,对象名称可以为目录名称或文件名称,可以将元数据作为键值对中的键值value。该种方式可以在数据库中快速准确地定位待处理对象,从而提高处理效率。
可以从目录存储区中查询父对象的父对象标识。例如,目录存储区可以采用目录树结构来记录目录元数据,因此基于该目录树结构可以查询待处理对象和父对象的相关信息,相关信息可以包括待处理对象和父对象标识、属性信息等。又例如,目录存储区可以采用数据表的形式来存储目录元数据,并且记录各个目录元数据的父子关系。
接下来,可以将父对象标识和对象标识作为键名,将待处理对象作为键值,并结合处理模式在数据库中处理待处理对象。
在一种示例中,处理模式包括创建,可以根据父对象标识和对象标识,在数据库中创建待处理对象。
在实际创建的过程中,可以随机确定一个具有空闲存储空间的分片,并将上述包含有待处理对象的键值对存储于该分片中。
在实际创建的过程中,可以将目录树或文件树中处于同一个层级的元数据记录在同一个分片中,此时可以根据父对象标识,在数据库中的多个分片中确定第一目标分片,然后将父对象标识和对象标识做为键名,将元数据作为键值,在第一目标分片中进行创建操作。该种方式可以对待处理对象进行有规划的分片存储。
在另一种示例中,处理模式包括非创建,非创建可以包括修改、删除等处理,可以根据父对象标识和对象信息中的对象标识,在数据库中查找待处理对象,然后根据处理模式,处理待处理对象。
例如,可以在数据库中读取待处理对象,然后根据处理模式处理待处理对象,处理过程可以为删除待处理对象。或者处理过程为修改待处理对象得到处理后对象,并利用处理后对象替代数据库中的待处理对象。
在实际处理的过程中,可以对数据库中记录的元数据进行遍历,然后确定待处理对象。
在实际处理的过程中,可以将目录树或文件树中处于同一个层级的元数据记录在同一个分片中,此时可以根据父对象标识,在数据库中的多个分片中确定第二目标分片,然后根据对象信息中的对象标识,在第二目标分片中查找待处理对象。该种方式可以基于父对象标识先定位待处理对象所处的第二目标分片,从而减少遍历次数,提高查找待处理对象的效率。
对于待处理对象为目录元数据的情况,可以在数据库中,基于处理模式处理目录元数据。该种处理方式可以参考上文中的待处理对象为文件元数据且在数据库中基于处理模式处理文件元数据的技术方案,本实施例在此不再赘述。
对于待处理对象为目录元数据的情况,可以在目录存储区中,基于处理模式处理目录元数据,从而更新目录存储区中的目录元数据。
例如,待处理对象为目录元数据,并且处理模式为创建,可以在目录存储区中创建待处理对象。
又例如,待处理对象为目录元数据,并且处理模式为删除,可以从目录存储区中删除待处理对象。
又例如,待处理对象为目录元数据,并且处理模式为修改,从目录存储区中读取待处理对象;修改待处理对象,例如对待处理对象进行重命名、修改属性信息等处理,从而得到修改后对象;然后利用修改后处理对象替换目录存储区中修改前的待处理对象。
需要说明的是,待处理对象为目录元数据时,可以在目录存储区和数据库中均更新目录元数据,在实际处理过程中,可以基于两阶段提交协议来保证目录存储区和数据库之间的强一致性。
图3是根据本公开实施例的处理文件系统中元数据的方法的示意原理图。
如图3所示,本实施例中,文件系统可以为分布式文件系统,也可以是非分布式文件系统,文件系统包括语义模块301、目录存储区302和数据库303。
语义模块301可以用于接收处理请求。
目录存储区302记录文件系统中的目录元数据,图3以在数据库303外部实现目录存储区302为例进行说明,在其他实施例中,目录存储区302可以配置在数据库303中。
数据库303可以记录目录元数据,数据库303可以为分布式事务数据库。
例如,数据库303中记录以下多个元数据:目录元数据root、目录元数据dir1、目录元数据dir2、目录元数据dir3和目录元数据dir4
在数据库303中的一个分片中,目录元数据root无父目录,因此目录元数据root的父目录标识parent id可以为空,或者配置为默认数值,默认数值可以为-1、0等。由于目录元数据dir1和目录元数据dir2的父目录为root,root的id为0,因此目录元数据dir1和目录元数据dir2的父目录标识parent id为0。在数据库303中的另一个分片中,目录元数据dir3和目录元数据dir4的父目录是dir1,dir1的id是1,因此目录元数据dir3和目录元数据dir4的父目录标识parent id是1。通过该种方式,可以在数据库303中构建多个目录元数据之间的父子关系。
数据库303还可以记录文件系统中的文件元数据,例如,在数据库的一个分片中记录文件file1的相关信息,该文件file1的id可以是5,文件file1的父对象是目录元数据dir2,目录元数据dir2的id是2,因此文件file1的父目录标识parent id是2。
例如,当文件系统收到create/dir2/file1处理请求,文件系统可以基于该处理请求,在目录存储区302中进行lookup路径前缀/dir2的检索,来确定目录存储区302中是否存在与该路径一致的目录。若存在,则目录存储区302可以输出/dir2的inode id,此处inodeid的值为2。接下来,可以将inode id的值作为父目录对象标识parent id,基于对象名称为file1,向数据库303发送创建操作,从而在数据库303中创建一个针对文件的文件元数据file1。
又例如,文件系统接收到mkdir/dir1/dir3处理请求,文件系统可以基于该处理请求,在目录存储区302中进行lookup路径前缀/dir1的检索,来确定目录存储区302是否存在与该路径一致的目录,若存在,则目录存储区302输出/dir1的inode id,此处inode id的值为1。接下来,文件系统调用数据库303的接口,通过两阶段提交向目录存储区302和数据库303中分别创建针对目录的目录元数据dir3,即,在目录存储区302中新增一条记录/dir1/dir3,并且在数据库303中新增一条目录元数据,该目录元数据的父目录标识parent为1,目录名称name为dir3,目标标识id为3。
以下对文件系统的性能进行估算。
例如,对于目录存储区内存容量,实际生产环境中目录元数据的记录数量在全部元数据中的占比不超过15%,按照百亿级别元数据存储规模,一条目录记录大小不超过100字节来估算,单个目录存储区使用存储空间不超过139G,可以使用单台机器可以实现该目录存储区。
例如,对于目录存储区的lookup QPS,单台机器实现的目录存储区可以支持每秒查询率(QPS)30万以上的检索操作(lookup)。此外,目录存储区可以有由3个复制组(raftgroup)来实现,从而保证高可用,一个复制组可以支持每秒查询率(QPS)30万以上的检索操作。
例如,对于目录项的写入QPS,目录变更在整个元数据写操作中的占比约10%,单个目录存储区仅需支持5K QPS左右的写入操作,单个目录存储区的写入过程不存在性能问题。
在实际应用中,可以将一个文件系统中的目录元数据存储于一台目录服务器中,从而降低目录树路径解析的延迟。由于目录元数据的记录数和写入每秒查询率在整个元数据中的占比较低,因此单个目录存储区可以满足实际生产环境需求。如果有更大规模的扩展性需求,可以基于目录树的子树结构,对目录存储区进行拆分。占据元数据操作中绝大部分比率的文件操作部分直接访问分布式事务数据库可以做到线性扩展。
图4是根据本公开实施例的处理文件系统中元数据的装置的示意结构框图。
如图4所示,该处理文件系统中元数据的装置400可以包括:获取模块410、路径确定模块420、条件确定模块430以及处理模块440。
获取模块410用于获取针对文件系统的处理请求,处理请求包括待处理对象的对象信息、处理模式和初始路径,待处理对象为元数据。
路径确定模块420用于根据对象信息和初始路径,确定目标目录路径。
条件确定模块430用于根据目录存储区和目标目录路径,确定待处理对象是否满足预定处理条件;目录存储区包括文件系统中的目录元数据。
处理模块440用于响应于确定待处理对象满足预定处理条件,基于处理模式处理待处理对象。
根据本公开的实施例,路径确定模块包括:第一路径确定子模块,用于响应于确定对象信息表征待处理对象为文件元数据,根据初始路径中除最后一个文件之外的其他目录,确定目标目录路径。
根据本公开的实施例,路径确定模块包括:第二路径确定子模块和第三路径确定子模块。第二路径确定子模块用于响应于确定对象信息表征待处理对象为目录元数据,且处理模式为创建,根据初始路径中除最后一个目录之外的其他目录,确定目标目录路径。第三路径确定子模块用于响应于确定对象信息表征待处理对象为目录元数据,且处理模式为非创建,将初始路径确定为目标目录路径。
根据本公开的实施例,对象信息表征待处理对象为目录元数据;处理模块包括:创建子模块、删除子模块以及修改子模块,创建子模块用于响应于确定处理模式为创建,在目录存储区中创建待处理对象;删除子模块用于响应于确定处理模式为删除,从目录存储区中删除待处理对象;修改子模块用于响应于确定处理模式为修改,从目录存储区中读取待处理对象;修改待处理对象,得到修改后对象;以及利用修改后处理对象替换目录存储区中修改前的待处理对象。
根据本公开的实施例,处理模块包括:标识确定子模块和处理子模块。标识确定子模块用于根据目录存储区,确定待处理对象的父对象的父对象标识;处理子模块用于根据父对象标识、对象信息中的对象标识和处理模式,在数据库中处理待处理对象。
根据本公开的实施例,处理模式包括创建;处理子模块包括:创建单元,用于根据父对象标识和对象信息中的对象标识,在数据库中创建待处理对象。
根据本公开的实施例,创建单元包括:第一确定子单元和创建子单元。第一确定子单元用于根据父对象标识,在数据库中的多个分片中确定第一目标分片;创建子单元用于根据父对象标识和对象信息中的对象标识,在第一目标分片中创建待处理对象。
根据本公开的实施例,处理模式包括非创建;处理子模块包括:查找单元和处理单元。查找单元用于根据父对象标识和对象信息中的对象标识,在数据库中查找待处理对象;处理单元用于根据处理模式,处理待处理对象。
根据本公开的实施例,查找单元包括:第二确定子单元和查找子单元。第二确定子单元用于根据父对象标识,在数据库中的多个分片中确定第二目标分片;查找子单元用于根据对象信息中的对象标识,在第二目标分片中查找待处理对象。
根据本公开的实施例,预定处理条件包括:目录存储区包括目标目录元数据,且目标目录的存储路径与目标目录路径一致,目标目录与目标目录元数据相对应。
根据本公开的实施例,预定处理条件还包括:基于处理请求中的身份标识和处理模式确定的权限信息与针对目标目录的权限信息一致。
根据本公开的实施例,目录存储区为缓存,或者目录存储区为文件系统中数据库中的一个分片。
本公开的技术方案中,所涉及的用户个人信息的收集、存储、使用、加工、传输、提供和公开等处理,均符合相关法律法规的规定,且不违背公序良俗。
在本公开的技术方案中,在获取或采集用户个人信息之前,均获取了用户的授权或同意。
根据本公开的实施例,本公开还提供了一种电子设备,包括至少一个处理器;以及与至少一个处理器通信连接的存储器;存储器存储有可被至少一个处理器执行的指令,指令被至少一个处理器执行,以使至少一个处理器能够执行上述处理文件系统中元数据的方法。
根据本公开的实施例,本公开还提供了一种存储有计算机指令的非瞬时计算机可读存储介质,其中,计算机指令用于使计算机执行上述处理文件系统中元数据的方法。
根据本公开的实施例,本公开还提供了一种计算机程序产品,包括计算机程序,计算机程序在被处理器执行时实现上述处理文件系统中元数据的方法。
根据本公开的实施例,本公开还提供了一种文件管理设备,包括:电子设备和文件系统,文件系统包括目录存储区和数据库。目录存储区用于存储文件系统中的目录元数据,数据库用于存储文件系统中的文件元数据。
图5是用来实施本公开实施例的处理文件系统中元数据的方法的电子设备的结构框图。电子设备旨在表示各种形式的数字计算机,诸如,膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置,诸如,个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例,并且不意在限制本文中描述的和/或者要求的本公开的实现。
如图5所示,设备500包括计算单元501,其可以根据存储在只读存储器(ROM)502中的计算机程序或者从存储单元508加载到随机访问存储器(RAM)503中的计算机程序,来执行各种适当的动作和处理。在RAM 503中,还可存储设备500操作所需的各种程序和数据。计算单元501、ROM 502以及RAM 503通过总线504彼此相连。输入/输出(I/O)接口505也连接至总线504。
设备500中的多个部件连接至I/O接口505,包括:输入单元506,例如键盘、鼠标等;输出单元507,例如各种类型的显示器、扬声器等;存储单元508,例如磁盘、光盘等;以及通信单元509,例如网卡、调制解调器、无线通信收发机等。通信单元509允许设备500通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据。
计算单元501可以是各种具有处理和计算能力的通用和/或专用处理组件。计算单元501的一些示例包括但不限于中央处理单元(CPU)、图形处理单元(GPU)、各种专用的人工智能(AI)计算芯片、各种运行机器学习模型算法的计算单元、数字信号处理器(DSP)、以及任何适当的处理器、控制器、微控制器等。计算单元501执行上文所描述的各个方法和处理,例如处理文件系统中元数据的方法。例如,在一些实施例中,处理文件系统中元数据的方法可被实现为计算机软件程序,其被有形地包含于机器可读介质,例如存储单元508。在一些实施例中,计算机程序的部分或者全部可以经由ROM 502和/或通信单元509而被载入和/或安装到设备500上。当计算机程序加载到RAM 503并由计算单元501执行时,可以执行上文描述的处理文件系统中元数据的方法的一个或多个步骤。备选地,在其他实施例中,计算单元501可以通过其他任何适当的方式(例如,借助于固件)而被配置为执行处理文件系统中元数据的方法。
本文中以上描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、芯片上系统的系统(SOC)、复杂可编程逻辑设备(CPLD)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括:实施在一个或者多个计算机程序中,该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释,该可编程处理器可以是专用或者通用可编程处理器,可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令,并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。
用于实施本公开的方法的程序代码可以采用一个或多个编程语言的任何组合来编写。这些程序代码可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器或控制器,使得程序代码当由处理器或控制器执行时使流程图和/或框图中所规定的功能/操作被实施。程序代码可以完全在机器上执行、部分地在机器上执行,作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。
在本公开的上下文中,机器可读介质可以是有形的介质,其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备,或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。
为了提供与用户的交互,可以在计算机上实施此处描述的系统和技术,该计算机具有:用于向用户显示信息的显示装置(例如,CRT(阴极射线管)或者LCD(液晶显示器)监视器);以及键盘和指向装置(例如,鼠标或者轨迹球),用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互;例如,提供给用户的反馈可以是任何形式的传感反馈(例如,视觉反馈、听觉反馈、或者触觉反馈);并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。
可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如,作为数据服务器)、或者包括中间件部件的计算系统(例如,应用服务器)、或者包括前端部件的计算系统(例如,具有图形用户界面或者网络浏览器的用户计算机,用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如,通信网络)来将系统的部件相互连接。通信网络的示例包括:局域网(LAN)、广域网(WAN)和互联网。
计算机系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。
应该理解,可以使用上面所示的各种形式的流程,重新排序、增加或删除步骤。例如,本发公开中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行,只要能够实现本公开公开的技术方案所期望的结果,本文在此不进行限制。
上述具体实施方式,并不构成对本公开保护范围的限制。本领域技术人员应该明白的是,根据设计要求和其他因素,可以进行各种修改、组合、子组合和替代。任何在本公开的精神和原则之内所作的修改、等同替换和改进等,均应包含在本公开保护范围之内。
Claims (28)
1.一种处理文件系统中元数据的方法,包括:
获取针对文件系统的处理请求,所述处理请求包括待处理对象的对象信息、处理模式和初始路径,所述待处理对象为元数据;
根据所述对象信息和所述初始路径,确定目标目录路径;
根据目录存储区和所述目标目录路径,确定所述待处理对象是否满足预定处理条件;所述目录存储区包括所述文件系统中的目录元数据;以及
响应于确定所述待处理对象满足所述预定处理条件,基于所述处理模式处理所述待处理对象。
2.根据权利要求1所述的方法,其中,所述根据所述对象信息和所述初始路径,确定目标目录路径包括:
响应于确定所述对象信息表征所述待处理对象为文件元数据,根据所述初始路径中除最后一个文件之外的其他目录,确定所述目标目录路径。
3.根据权利要求1所述的方法,其中,所述根据所述对象信息和所述初始路径,确定目标目录路径包括:
响应于确定所述对象信息表征所述待处理对象为目录元数据,且所述处理模式为创建,根据所述初始路径中除最后一个目录之外的其他目录,确定所述目标目录路径;以及
响应于确定所述对象信息表征所述待处理对象为目录元数据,且所述处理模式为非创建,将所述初始路径确定为所述目标目录路径。
4.根据权利要求1所述的方法,其中,所述对象信息表征所述待处理对象为目录元数据;基于所述处理模式处理所述待处理对象包括:
响应于确定所述处理模式为创建,在所述目录存储区中创建所述待处理对象;
响应于确定所述处理模式为删除,从所述目录存储区中删除所述待处理对象;
响应于确定所述处理模式为修改,从所述目录存储区中读取所述待处理对象;修改所述待处理对象,得到修改后对象;以及利用所述修改后处理对象替换所述目录存储区中修改前的所述待处理对象。
5.根据权利要求1所述的方法,其中,基于所述处理模式处理所述待处理对象包括:
根据所述目录存储区,确定所述待处理对象的父对象的父对象标识;以及
根据所述父对象标识、所述对象信息中的对象标识和所述处理模式,在数据库中处理所述待处理对象。
6.根据权利要求5所述的方法,其中,所述处理模式包括创建;所述根据所述父对象标识、所述对象信息中的对象标识和所述处理模式,在数据库中处理所述待处理对象包括:
根据所述父对象标识和所述对象信息中的对象标识,在所述数据库中创建所述待处理对象。
7.根据权利要求6所述的方法,其中,所述根据所述父对象标识和所述对象信息中的对象标识,在所述数据库中创建所述待处理对象包括:
根据所述父对象标识,在所述数据库中的多个分片中确定第一目标分片;以及
根据所述父对象标识和所述对象信息中的对象标识,在所述第一目标分片中创建所述待处理对象。
8.根据权利要求5所述的方法,其中,所述处理模式包括非创建;所述根据所述父对象标识、所述对象信息中的对象标识和所述处理模式,在数据库中处理所述待处理对象包括:
根据所述父对象标识和所述对象信息中的对象标识,在所述数据库中查找所述待处理对象;以及
根据所述处理模式,处理所述待处理对象。
9.根据权利要求8所述的方法,其中,所述根据所述父对象标识和所述对象信息中的对象标识,在所述数据库中查找所述待处理对象包括:
根据所述父对象标识,在所述数据库中的多个分片中确定第二目标分片;以及
根据所述对象信息中的对象标识,在所述第二目标分片中查找所述待处理对象。
10.根据权利要求1所述的方法,其中,所述预定处理条件包括:
所述目录存储区包括目标目录元数据,且目标目录的存储路径与所述目标目录路径一致,所述目标目录与所述目标目录元数据相对应。
11.根据权利要求10所述的方法,其中,所述预定处理条件还包括:
基于所述处理请求中的身份标识和所述处理模式确定的权限信息与针对所述目标目录的权限信息一致。
12.根据权利要求1所述的方法,其中,所述目录存储区为缓存,或者所述目录存储区为所述文件系统中数据库中的一个分片。
13.一种处理文件系统中元数据的装置,包括:
获取模块,用于获取针对文件系统的处理请求,所述处理请求包括待处理对象的对象信息、处理模式和初始路径,所述待处理对象为元数据;
路径确定模块,用于根据所述对象信息和所述初始路径,确定目标目录路径;
条件确定模块,用于根据目录存储区和所述目标目录路径,确定所述待处理对象是否满足预定处理条件;所述目录存储区包括所述文件系统中的目录元数据;以及
处理模块,用于响应于确定所述待处理对象满足所述预定处理条件,基于所述处理模式处理所述待处理对象。
14.根据权利要求13所述的装置,其中,所述路径确定模块包括:
第一路径确定子模块,用于响应于确定所述对象信息表征所述待处理对象为文件元数据,根据所述初始路径中除最后一个文件之外的其他目录,确定所述目标目录路径。
15.根据权利要求13所述的装置,其中,所述路径确定模块包括:
第二路径确定子模块,用于响应于确定所述对象信息表征所述待处理对象为目录元数据,且所述处理模式为创建,根据所述初始路径中除最后一个目录之外的其他目录,确定所述目标目录路径;以及
第三路径确定子模块,用于响应于确定所述对象信息表征所述待处理对象为目录元数据,且所述处理模式为非创建,将所述初始路径确定为所述目标目录路径。
16.根据权利要求13所述的装置,其中,所述对象信息表征所述待处理对象为目录元数据;所述处理模块包括:
创建子模块,用于响应于确定所述处理模式为创建,在所述目录存储区中创建所述待处理对象;
删除子模块,用于响应于确定所述处理模式为删除,从所述目录存储区中删除所述待处理对象;
修改子模块,用于响应于确定所述处理模式为修改,从所述目录存储区中读取所述待处理对象;修改所述待处理对象,得到修改后对象;以及利用所述修改后处理对象替换所述目录存储区中修改前的所述待处理对象。
17.根据权利要求13所述的装置,其中,所述处理模块包括:
标识确定子模块,用于根据所述目录存储区,确定所述待处理对象的父对象的父对象标识;以及
处理子模块,用于根据所述父对象标识、所述对象信息中的对象标识和所述处理模式,在数据库中处理所述待处理对象。
18.根据权利要求17所述的装置,其中,所述处理模式包括创建;所述处理子模块包括:
创建单元,用于根据所述父对象标识和所述对象信息中的对象标识,在所述数据库中创建所述待处理对象。
19.根据权利要求18所述的装置,其中,所述创建单元包括:
第一确定子单元,用于根据所述父对象标识,在所述数据库中的多个分片中确定第一目标分片;以及
创建子单元,用于根据所述父对象标识和所述对象信息中的对象标识,在所述第一目标分片中创建所述待处理对象。
20.根据权利要求17所述的装置,其中,所述处理模式包括非创建;所述处理子模块包括:
查找单元,用于根据所述父对象标识和所述对象信息中的对象标识,在所述数据库中查找所述待处理对象;以及
处理单元,用于根据所述处理模式,处理所述待处理对象。
21.根据权利要求20所述的装置,其中,所述查找单元包括:
第二确定子单元,用于根据所述父对象标识,在所述数据库中的多个分片中确定第二目标分片;以及
查找子单元,用于根据所述对象信息中的对象标识,在所述第二目标分片中查找所述待处理对象。
22.根据权利要求13所述的装置,其中,所述预定处理条件包括:
所述目录存储区包括目标目录元数据,且目标目录的存储路径与所述目标目录路径一致,所述目标目录与所述目标目录元数据相对应。
23.根据权利要求22所述的装置,其中,所述预定处理条件还包括:
基于所述处理请求中的身份标识和所述处理模式确定的权限信息与针对所述目标目录的权限信息一致。
24.根据权利要求13所述的装置,其中,所述目录存储区为缓存,或者所述目录存储区为所述文件系统中数据库中的一个分片。
25.一种电子设备,包括:
至少一个处理器;以及
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行权利要求1至12中任一项所述的方法。
26.一种存储有计算机指令的非瞬时计算机可读存储介质,其中,所述计算机指令用于使所述计算机执行根据权利要求1至12中任一项所述的方法。
27.一种计算机程序产品,包括计算机程序,所述计算机程序在被处理器执行时实现根据权利要求1至12中任一项所述的方法。
28.一种文件管理设备,包括:
权利要求28所述的电子设备;以及
文件系统,包括:
目录存储区,用于存储所述文件系统中的目录元数据;和
数据库,用于存储所述文件系统中的文件元数据。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310788599.9A CN116860700A (zh) | 2023-06-29 | 2023-06-29 | 处理分布式文件系统中元数据的方法、装置、设备及介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310788599.9A CN116860700A (zh) | 2023-06-29 | 2023-06-29 | 处理分布式文件系统中元数据的方法、装置、设备及介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN116860700A true CN116860700A (zh) | 2023-10-10 |
Family
ID=88224467
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202310788599.9A Pending CN116860700A (zh) | 2023-06-29 | 2023-06-29 | 处理分布式文件系统中元数据的方法、装置、设备及介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN116860700A (zh) |
-
2023
- 2023-06-29 CN CN202310788599.9A patent/CN116860700A/zh active Pending
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN108228817B (zh) | 数据处理方法、装置和系统 | |
US7890541B2 (en) | Partition by growth table space | |
US8645349B2 (en) | Indexing structures using synthetic document summaries | |
US7603366B1 (en) | Universal database schema and use | |
US11030242B1 (en) | Indexing and querying semi-structured documents using a key-value store | |
CN111046034A (zh) | 管理内存数据及在内存中维护数据的方法和系统 | |
CN113051268A (zh) | 数据查询方法、数据查询装置、电子设备及存储介质 | |
US11151081B1 (en) | Data tiering service with cold tier indexing | |
CN111241108A (zh) | 基于键值对kv系统的索引方法、装置、电子设备和介质 | |
CN112912870A (zh) | 租户标识符的转换 | |
US9390111B2 (en) | Database insert with deferred materialization | |
CN115599807A (zh) | 一种数据存取方法、装置、应用服务器及存储介质 | |
CN108256019A (zh) | 数据库主键生成方法、装置、设备及其存储介质 | |
US11188228B1 (en) | Graphing transaction operations for transaction compliance analysis | |
US10762139B1 (en) | Method and system for managing a document search index | |
CN116303267A (zh) | 数据访问方法、装置、设备以及存储介质 | |
CN113051244B (zh) | 数据访问方法和装置、数据获取方法和装置 | |
CN116860700A (zh) | 处理分布式文件系统中元数据的方法、装置、设备及介质 | |
CN115718571A (zh) | 一种基于多维度特征的数据管理方法和装置 | |
US11132401B1 (en) | Distributed hash table based logging service | |
CN113760600B (zh) | 一种数据库备份方法、数据库还原方法和相关装置 | |
US10114864B1 (en) | List element query support and processing | |
US20220365905A1 (en) | Metadata processing method and apparatus, and a computer-readable storage medium | |
CN113515504B (zh) | 数据管理方法、装置、电子设备以及存储介质 | |
CN114564449B (zh) | 数据查询方法、装置、设备以及存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |