本发明涉及图像超分辨率领域,尤其是一种提升图像超分辨率的方法。
背景技术:
1、近年来,随着科学技术的不断进步与发展,信息传递的形式正在经历革命性的变化。传统的文字信息已经逐渐显得不够灵活和生动,而图像与视频作为新兴的传播方式,正逐渐成为主流。尤其是高分辨率图像和视频,以其更加清晰逼真的画质和丰富的细节,已经成为信息传递和人工智能发展的重要支撑。科技的不断发展将进一步推动各行业对图像分辨率的需求不断提高,从而进一步提升图像的成像质量。图像分辨率的提高不仅能够带来更加优质的视觉体验,而且具有更加丰富的新街信息。然而由于硬件设备的限制和以及信息传递过程的损耗,实际得到的图像往往为低分辨率图像,而改善硬件设备和优化信息传递会有大量的成本损耗,因此,通过软件算法来提升图像分辨率已经成为一种备受关注的解决途径。这种方法不仅能够弥补硬件成像的不足,还能够在一定程度上降低成本,因而备受瞩目。
技术实现思路
1、本发明需要解决的技术问题是提供一种提升图像超分辨率的方法,以解决所得图像的分辨率过低以致无法充分利用的问题。
2、为解决上述技术问题,本发明所采用的技术方案是:
3、一种提升图像超分辨率的方法,包括以下步骤:
4、s1、选取合适的图像数据集;按合适比例对数据集进行划分,划分为训练集、验证集和测试集;
5、s2、对浅层特征提取模块进行改进,将原有的9×9的卷积层替换为两个5×5的卷积层,得到改进后的srgan;
6、s3、对深层特征提取模块进行相应的改进,采用多尺度特征提取模块对特征图进行特征提取,增强网络的特征提取能力;采用改进的高效通道注意力网络用于计算特征图各个通道的重要性,提升算法的特征表达能力;采用多层次特征融合机制来加强网络对中间层特征信息的利用,增强算法的重建能力;
7、s4、设置训练相关参数,训练模型,保存权重;
8、s5、加载验证集损失函数最小的训练权重,测试模型重建性能。
9、本发明技术方案的进一步改进在于:s1中,选取voc2012作为网络的数据集,按照训练集与验证集比例为9:1对数据集进行划分;选取set5,set14,bsds100,urban100作为测试集。
10、本发明技术方案的进一步改进在于:s3具体包括以下步骤:
11、s31采用多尺度特征提取模块对特征图进行特征提取,增强网络的特征提取能力;
12、s32采用改进的高效通道注意力网络用于计算特征图各个通道的重要性,提升算法的特征表达能力;
13、s33采用多层次特征融合机制来加强网络对中间层特征信息的利用,增强算法的重建能力。
14、本发明技术方案的进一步改进在于:s31中,采用多尺度特征提取残差模块替换原有模块,采用不同大小的卷积核从多个尺度进行特征提取;所述多尺度特征提取残差模块由两个多尺度特征提取模块串联组成,在外部添加一个残差网络,多尺度特征提取模块由一个3×3与5×5的卷积并联组成,激活函数选用relu函数,然后将两个卷积核提取的特征信息进行拼接操作,最后经过一个1×1的卷积;
15、与原网络特征提取模块相比,多尺度特征提取残差模块将3×3的卷积变为将3×3卷积与5×5的进行并联操作,同时,去除原网络中的bn层。
16、本发明技术方案的进一步改进在于:s32中,改进的高效通道注意力网络为:假定输入特征图为f1,将f1按照通道维度,进行全局平均池化和全局最大池化的操作,然后输出结果进行拼接操作,此时特征图的大小为1×1×2c,然后利用1×1大小的卷积核对其进行通道数的修改,将特征图大小变为1×1×c,通过卷积核大小为k的一维卷积核,利用sigmoid函数对其进行计算得到通道权重wc,然后将f1与通道权重wc按通道相乘得到加权特征图最后利用残差原理得到最终的特征图f,即其中,故也可表示为f=f1(1+wc);
17、将多尺度特征提取残差模块与改进的高效通道注意力网络进行串联操作,共同组成深层特征提取模块,用来提取深层特征信息并应用于最后的图像重建中。
18、本发明技术方案的进一步改进在于:s33中,多层次特征融合机制得到全局特征的原理是将中间层的特征信息充分融合起来,其具体表示如下:
19、fgf=wef([f1,f2,…fn])
20、fgf表示最终得到的特征图,[f1,f2,…fn]表示对中间层特征图进行拼接操作,wef表示1×1的卷积操作,多层次特征融合机制的原理是拼接操作,对不同层次的特征进行融合,充分利用网络中不同深度的特征信息,以增强网络的重建能力,为了避免通道数过多造成不必要的计算损耗,使用1×1的卷积来降低通道数,将最终得到的特征图用于最后的超分辨率图像的重建工作。
21、本发明技术方案的进一步改进在于:s4中,在训练过程中,对原始图像进行裁剪,统一裁剪为128×128,并双三次插值方法对待处理图像块进行了4倍降采样操作得到了用于作为生成器输入的低分辨率图像,使用adam优化器对模型进行优化参数β1=0.9和β2=0.999,训练集迭代次数设为200次,初始学习率设置为0.0001,批量设置为16。
22、本发明技术方案的进一步改进在于:在s5中,选取损失函数最小的模型权重载入网络,测试其重建效果。
23、由于采用了上述技术方案,本发明取得的技术进步是:
24、1、本发明与原网络srgan中的深层特征提取网络只采用3×3卷积相比,提出了一个多尺度特征提取模块,将3×3卷积与5×5卷积进行并联操作,用来获取不同尺度的图像特征(局部多尺度特征),同时,去除原网络中的bn(batch norm)层,从而提高了模型的泛化能力。
25、2、本发明通过引入ecanet通道注意力机制,并对原有的ecanet注意力机制做了适当的改进,使得注意力机制保留更多的细节信息,从而达到更好的重建效果,而原srgan网络没有引入注意力机制。
26、3、本发明引入了多层次特征融合机制,以此实现充分利用所有中间层的特征信息,并将融合之后的特征图用于最后超分辨率图像的重建,从而实现更好的重建效果。
1.一种提升图像超分辨率的方法,其特征在于:包括以下步骤:
2.根据权利要求1所述的提升图像超分辨率的方法,其特征在于:s1中,选取voc2012作为网络的数据集,按照训练集与验证集比例为9:1对数据集进行划分;选取set5,set14,bsds100,urban100作为测试集。
3.根据权利要求1所述的提升图像超分辨率的方法,其特征在于:s3具体包括以下步骤:
4.根据权利要求3所述的提升图像超分辨率的方法,其特征在于:s31中,采用多尺度特征提取残差模块替换原有模块,采用不同大小的卷积核从多个尺度进行特征提取;所述多尺度特征提取残差模块由两个多尺度特征提取模块串联组成,在外部添加一个残差网络,多尺度特征提取模块由一个3×3与5×5的卷积并联组成,激活函数选用relu函数,然后将两个卷积核提取的特征信息进行拼接操作,最后经过一个1×1的卷积;
5.根据权利要求3所述的提升图像超分辨率的方法,其特征在于:s32中,改进的高效通道注意力网络为:假定输入特征图为f1,将f1按照通道维度,进行全局平均池化和全局最大池化的操作,然后输出结果进行拼接操作,此时特征图的大小为1×1×2c,然后利用1×1大小的卷积核对其进行通道数的修改,将特征图大小变为1×1×c,通过卷积核大小为k的一维卷积核,利用sigmoid函数对其进行计算得到通道权重wc,然后将f1与通道权重wc按通道相乘得到加权特征图最后利用残差原理得到最终的特征图f,即其中,故也可表示为f=f1(1+wc);
6.根据权利要求3所述的提升图像超分辨率的方法,其特征在于:s33中,多层次特征融合机制得到全局特征的原理是将中间层的特征信息充分融合起来,其具体表示如下:
7.根据权利要求1所述的提升图像超分辨率的方法,其特征在于:s4中,在训练过程中,对原始图像进行裁剪,统一裁剪为128×128,并双三次插值方法对待处理图像块进行了4倍降采样操作得到了用于作为生成器输入的低分辨率图像,使用adam优化器对模型进行优化参数β1=0.9和β2=0.999,训练集迭代次数设为200次,初始学习率设置为0.0001,批量设置为16。
8.根据权利要求1所述的提升图像超分辨率的方法,其特征在于:在s5中,选取损失函数最小的模型权重载入网络,测试其重建效果。