云硬盘数据进行副本冗余管理的方法及系统与流程

    技术2026-05-17  7


    本发明涉及云计算存储,具体地说是云硬盘数据进行副本冗余管理的方法及系统。


    背景技术:

    1、随着云计算技术的快速发展与普及,现在越来越多的政府、企业及个人客户将数据存储于云端。数据存储量呈现出爆炸式增长,面对海量的用户数据,如何在保证数据安全性和可靠性的前提下,有效利用存储空间并降低用户使用成本成为云服务提供商重点关注的问题。云服务提供商通常通过多副本冗余策略来增强数据的安全性和可靠性,防止因单点故障导致数据丢失。云硬盘副本冗余管理主要包括多副本技术和纠删码技术。

    2、多副本技术:云硬盘服务商通常采用三副本或多副本技术,即每个数据块都会被复制到集群内的不同物理位置,确保即使部分硬件故障也不会造成数据丢失。对于高安全性和可靠性需求的用户,支持不同的多副本策略,包括跨物理机级别、跨机柜级别、跨机柜列级别、跨机房级等。多副本机制具有易于实施,数据安全性和可靠性高等优点,但存在存储空间利用率低下的问题,尤其是在大规模存储系统中,多副本会带来显著的存储成本增加。

    3、纠删码技术:通过对原始数据进行编码操作生成多个校验块,将这些校验块与原始数据块一起存储。当部分数据块失效时,仅需剩余的少数数据块和相应的校验块即可恢复原始数据,这大大降低了对于存储冗余的要求,有效降低存储成本。

    4、对于成本敏感的用户,云硬盘服务商通常采用k+2的纠删码存储技术,数据分片数k一般为2,冗余策略为跨物理机级别。

    5、对于上述两种副本冗余机制,云服务提供商一般提供一种冗余策略,用户无法自定义副本策略为2副本跨机房冗余策略,或者纠删码为6+2跨机柜冗余策略。

    6、如何提供不同的多副本策略、以满足用户对于存储成本和数据安全可靠性方面的不同需求以及运行时动态切换,是需要解决的技术问题。


    技术实现思路

    1、本发明的技术任务是针对以上不足,提供云硬盘数据进行副本冗余管理的方法及系统,来解决如何提供不同的多副本策略、以满足用户对于存储成本和数据安全可靠性方面的不同需求以及运行时动态切换的技术问题。

    2、第一方面,本发明一种云硬盘数据进行副本冗余管理的方法,包括如下步骤:

    3、云硬盘副本冗余方案管理:基于用户选择的冗余机制和冗余策略形成自定义副本冗余方案;

    4、云硬盘创建:读取本地自定义的卷类型,如果本地自定义的卷类型中匹配用户自定义副本冗余方案的卷类型,创建自定义副本冗余方案的云硬盘,如果本地自定义的卷类型中不匹配用户自定义副本冗余方案的卷类型、且ceph集群支持用户自定义副本冗余方案,创建用户自定义副本冗余方案对应的ceph集群存储池以及卷类型,并创建自定义副本冗余方案的云硬盘;

    5、云硬盘变更:读取本地自定义的卷类型,如果本地自定义的卷类型中匹配用户自定义副本冗余方案的卷类型,变更云硬盘的副本冗余方案,如果本地自定义的卷类型中不匹配用户自定义副本冗余方案的卷类型、且ceph集群支持用户自定义副本冗余方案,创建用户自定义副本冗余方案对应的ceph集群存储池以及卷类型,并变更云硬盘的副本冗余方案。

    6、作为优选,卷类型的属性包括介质类型、副本机制、副本数、最小副本数、数据分片数、校验块数、冗余策略以及存储池,介质类型用于选择数据存储的底层介质,副本机制包括副本技术和纠删码技术,冗余策略包括跨物理级别、跨机柜级别、跨机柜列级别以及跨机房级别,存储池属性包括具体的池名称。

    7、作为优选,存储池的创建由cinder volume服务触发、并由cephrbd进行创建,创建存储池包括如下步骤:

    8、对于副本技术,根据介质类型和冗余策略两个属性,创建一个crushrule用于指定数据存储的服务器,crush rule的名称为“selfrule”_“介质类型”_“replication”_“冗余策略”,基于crush rule和副本数以及最小副本数创建一个副本数据池,数据池名称为“selfpool”_“介质类型”_“replication”_“冗余策略”_“副本数”_“最小副本数”;

    9、对于纠删码技术,根据介质类型、冗余策略、数据分片数和校验块数四个属性,创建一个crushprofile用于指定数据存储的服务器,crushprofile的名称为“selfprofile”_“介质类型”_“kcont”_“mcont”_“冗余策略”,基于crushprofile创建一个纠删码数据池,数据池名称为“selfpool”_“介质类型”_“kcont”_“mcont”_“冗余策略”。

    10、作为优选,通过cinder volume创建卷接口执行自定义副本冗余方案的云硬盘创建。

    11、作为优选,通过cinder volume卷类型retype接口完成云硬盘的如副本冗余方案变更。

    12、第二方面,本发明一种云硬盘数据进行副本冗余管理的实现系统,用于通过如第一方面任一项所述的一种云硬盘数据进行副本冗余管理的实现方法进行副本冗余管理,所述系统包括云硬盘产品管理模块、cinder volume虚拟块存储管理以及底层cephrbd存储模块,

    13、所述云硬盘产品管理模块通过操作界面于用户交互,用于支持用户选择的冗余机制和冗余策略并形成自定义副本冗余方案配置自定义副本冗余方案,并用于调用cindervolume服务提供的判断接口确认自定义副本冗余方案是否可支持;

    14、所述cinder volume虚拟块存储管理模块提供cinder volume服务,通过cindervolume服务提供如下操作:判断自定义冗余副本方案是否可支持,对自定义副本冗余方案对应卷类型和ceph集群存储池进行管理,提供自定义副本冗余方案的卷创建接口以及自定义副本冗余方案的卷变更接口,其中,对自定义副本冗余方案对应卷类型和ceph集群存储池的管理包括查询和创建;

    15、所述cephrbd存储模块与cinder volume服务配合用于执行如下:存储rbd数据的底层数据,判断自定义副本冗余方案是否支持并创建存储池。

    16、作为优选,卷类型的属性包括介质类型、副本机制、副本数、最小副本数、数据分片数、校验块数、冗余策略以及存储池,介质类型用于选择数据存储的底层介质,副本机制包括副本技术和纠删码技术,冗余策略包括跨物理级别、跨机柜级别、跨机柜列级别以及跨机房级别,存储池属性包括具体的池名称。

    17、作为优选,所述cinder volume虚拟块存储管理模块通过cinder volume服务执行如下操作以创建存储池:

    18、对于副本技术,根据介质类型和冗余策略两个属性,创建一个crushrule用于指定数据存储的服务器,crush rule的名称为“selfrule”_“介质类型”_“replication”_“冗余策略”,基于crush rule和副本数以及最小副本数创建一个副本数据池,数据池名称为“selfpool”_“介质类型”_“replication”_“冗余策略”_“副本数”_“最小副本数”;

    19、对于纠删码技术,根据介质类型、冗余策略、数据分片数和校验块数四个属性,创建一个crushprofile用于指定数据存储的服务器,crushprofile的名称为“selfprofile”_“介质类型”_“kcont”_“mcont”_“冗余策略”,基于crushprofile创建一个纠删码数据池,数据池名称为“selfpool”_“介质类型”_“kcont”_“mcont”_“冗余策略”。

    20、作为优选,所述cephrbd存储模块与cinder volume服务配合用于创建自定义副本冗余方案对应的crush rule,并创建自定义副本冗余方案对应的存储池。

    21、本发明的云硬盘数据进行副本冗余管理的实现方法及系统具有以下优点:

    22、1、通过提供用户自定义数据副本冗余策略的技术,提升了数据冗余策略的灵活性,满足了用户对于存储成本和数据安全可靠性方面的不同需求;

    23、2、对于数据安全性和可靠性要求较高的用户,提供不同的多副本策略,包括跨物理机级别、跨机柜级别、跨机柜列级别、跨机房级等,有效提高数据安全性和可靠性;

    24、3、对于成本敏感的用户,提供基于k+m的纠删码冗余策略,支持用户自定义数据分片,有效降低使用成本。


    技术特征:

    1.一种云硬盘数据进行副本冗余管理的方法,其特征在于,包括如下步骤:

    2.根据权利要求1所述的云硬盘数据进行副本冗余管理的实现方法,其特征在于,卷类型的属性包括介质类型、副本机制、副本数、最小副本数、数据分片数、校验块数、冗余策略以及存储池,介质类型用于选择数据存储的底层介质,副本机制包括副本技术和纠删码技术,冗余策略包括跨物理级别、跨机柜级别、跨机柜列级别以及跨机房级别,存储池属性包括具体的池名称。

    3.根据权利要求2所述的云硬盘数据进行副本冗余管理的实现方法,其特征在于,存储池的创建由cinder volume服务触发、并由cephrbd进行创建,创建存储池包括如下步骤:

    4.根据权利要求1-3任一项所述的云硬盘数据进行副本冗余管理的实现方法,其特征在于,通过cinder volume创建卷接口执行自定义副本冗余方案的云硬盘创建。

    5.根据权利要求1-3任一项所述的云硬盘数据进行副本冗余管理的实现方法,其特征在于,通过cinder volume卷类型retype接口完成云硬盘的如副本冗余方案变更。

    6.一种云硬盘数据进行副本冗余管理的实现系统,其特征在于,用于通过如权利要求1-5任一项所述的一种云硬盘数据进行副本冗余管理的实现方法进行副本冗余管理,所述系统包括云硬盘产品管理模块、cinder volume虚拟块存储管理以及底层cephrbd存储模块;

    7.根据权利要求6所述的云硬盘数据进行副本冗余管理的实现系统,其特征在于,卷类型的属性包括介质类型、副本机制、副本数、最小副本数、数据分片数、校验块数、冗余策略以及存储池,介质类型用于选择数据存储的底层介质,副本机制包括副本技术和纠删码技术,冗余策略包括跨物理级别、跨机柜级别、跨机柜列级别以及跨机房级别,存储池属性包括具体的池名称。

    8.根据权利要求6或7所述的云硬盘数据进行副本冗余管理的实现系统,其特征在于,所述cinder volume虚拟块存储管理模块通过cinder volume服务执行如下操作以创建存储池:

    9.根据权利要求8所述的云硬盘数据进行副本冗余管理的实现系统,其特征在于,所述cephrbd存储模块与cinder volume服务配合用于创建自定义副本冗余方案对应的crushrule,并创建自定义副本冗余方案对应的存储池。


    技术总结
    本发明公开了云硬盘数据进行副本冗余管理的方法及系统,属于云计算存储技术领域,要解决的技术问题为如何提供不同的多副本策略、以满足用户对于存储成本和数据安全可靠性方面的不同需求以及运行时动态切换。包括如下步骤:基于用户选择的冗余机制和冗余策略形成自定义副本冗余方案;云硬盘创建:如果本地自定义的卷类型中匹配用户自定义副本冗余方案的卷类型,创建云硬盘,如果不匹配,创建Ceph集群存储池以及卷类型,并创建自定义副本冗余方案的云硬盘;云硬盘变更:如果本地自定义的卷类型中匹配用户自定义副本冗余方案的卷类型,变更云硬盘的副本冗余方案,如果不匹配,创建Ceph集群存储池以及卷类型,并变更云硬盘的副本冗余方案。

    技术研发人员:蒋方文,李超,陈孝委
    受保护的技术使用者:浪潮云信息技术股份公司
    技术研发日:
    技术公布日:2024/10/24
    转载请注明原文地址:https://symbian.8miu.com/read-43036.html

    最新回复(0)