本申请涉及计算机,具体而言,涉及一种血管介入手术目标定位方法、装置、介质及设备。
背景技术:
1、血管介入手术作为一种高精度的医疗程序,依赖于精确的图像指导来执行各种操作,如导管插入、支架放置,球囊定位。手术图像提供了关于血管、病变区域和使用器械的重要信息。例如数字减影血管造影(digital subtraction angiography,dsa)图像为介入手术中常用的成像技术,在手术中,医生需要参考dsa图像进行手术。因此,给医生提供dsa图像中清晰地病变和器械位置信息将会提高手术的安全性和有效性。当前的技术主要依赖于医生的经验进行图像解析,这不仅耗时而且容易受到主观判断的影响。
2、因此,如何准确定位病变位置和器械位置成为业界亟待解决的技术问题。
技术实现思路
1、本申请提供一种血管介入手术目标定位方法、装置、介质及设备,用以解决现有技术中如何准确定位病变位置和器械位置的技术问题。
2、第一方面,本申请提供了一种血管介入手术目标定位方法,包括:
3、获取初始定位模型,所述初始定位模型包括文本编码器、图像编码器、初始场景理解层、初始器械分割层和初始病变分割层;
4、基于所述图像编码器提取样本手术图像的图像特征向量;
5、基于所述图像特征向量对所述初始场景理解层和所述初始病变分割层进行训练;
6、基于所述文本编码器对场景理解层输出的结果进行编码,得到所述结果的文本特征向量;所述场景理解层为训练结束的初始场景理解层;
7、基于所述图像特征向量和所述文本特征向量对所述初始器械分割层进行训练,得到定位模型;
8、其中,所述初始场景理解层用于预测所述样本手术图像的手术状态,所述手术状态包括手术器械的器械类型和当前手术执行的步骤;所述初始器械分割层用于预测所述手术器械的位置;所述初始病变分割层用于预测所述样本手术图像中患者的病变位置。
9、在一些实施例中,所述基于所述图像特征向量对所述初始场景理解层进行训练,包括:
10、基于所述初始定位模型的适配器层将所述图像特征向量的纬度映射扩展到符合所述初始场景理解层输入要求的维度;
11、将映射扩展后的图像特征向量输入至所述初始场景理解层;
12、基于所述映射扩展后的图像特征向量和交叉熵损失函数对所述初始场景理解层进行训练。
13、在一些实施例中,所述基于所述图像特征向量和所述文本特征向量对所述初始器械分割层进行训练,包括:
14、在所述初始场景理解层训练结束后,得到所述场景理解层;
15、基于多模态模型和所述文本编码器将所述场景理解层输出的手术状态进行特征提取,得到所述文本特征向量;
16、基于所述图像特征向量和所述文本特征向量调整所述初始器械分割层中的跨模态注意力机制。
17、在一些实施例中,所述基于所述图像特征向量和所述文本特征向量调整所述初始器械分割层中的跨模态注意力机制,包括:
18、基于所述图像特征向量与所述文本特征向量之间的相似度动态分配各个特征的权重;
19、基于多层感知机和各个特征的权重将所述图像特征向量和所述文本特征向量进行特征融合;
20、基于特征融合结果调整所述跨模态注意力机制。
21、在一些实施例中,所述基于所述图像特征向量对所述初始病变分割层进行训练,包括:
22、基于所述初始定位模型的适配器层将所述图像特征向量的纬度映射扩展到符合所述初始病变分割层输入要求的维度;
23、将映射扩展后的图像特征向量输入至所述初始病变分割层;
24、基于所述映射扩展后的图像特征向量和损失函数对所述初始病变分割层进行训练。
25、在一些实施例中,所述初始病变分割层中包括轻量级自注意力机制模块;所述轻量级自注意力机制模块用于增强所述初始病变分割层对所述图像特征向量的注意力。
26、在一些实施例中,所述损失函数包括交叉熵损失函数和戴氏损失函数;
27、所述交叉熵损失函数用于进行像素级的分类;所述戴氏损失用于衡量预测的位置和真实的位置之间的相似度。
28、第二方面,本申请提供了一种血管介入手术目标定位装置,包括:
29、获取模块,用于获取初始定位模型,所述初始定位模型包括文本编码器、图像编码器、初始场景理解层、初始器械分割层和初始病变分割层;
30、提取模块,用于基于所述图像编码器提取样本手术图像的图像特征向量;
31、第一训练模块,用于基于所述图像特征向量对所述初始场景理解层和所述初始病变分割层进行训练;
32、编码模块,用于基于所述文本编码器对场景理解层输出的结果进行编码,得到所述结果的文本特征向量;所述场景理解层为训练结束的初始场景理解层;
33、第二训练模块,用于基于所述图像特征向量和所述文本特征向量对所述初始器械分割层进行训练,得到定位模型;
34、其中,所述初始场景理解层用于预测所述样本手术图像的手术状态,所述手术状态包括手术器械的器械类型和当前手术执行的步骤;所述初始器械分割层用于预测所述手术器械的位置;所述初始病变分割层用于预测所述样本手术图像中患者的病变位置。第三方面,本申请提供了一种非暂态计算机可读存储介质,其上存储有计算机程序,该计算机程序被处理器执行时实现上述的方法。
35、第四方面,本申请提供了一种电子设备,包括存储器和处理器,所述存储器中存储有计算机程序,所述处理器被设置为通过所述计算机程序执行所述程序时实现上述的方法。
36、本申请提供的血管介入手术目标定位方法、装置、介质及设备,通过文本编码器、图像编码器、初始场景理解层、初始器械分割层和初始病变分割层构建初始定位模型,通过图像编码器提取样本手术图像的图像特征向量,通过文本编码器对场景理解层输出的结果进行编码,提取文本特征向量,从而对初始场景理解层、初始器械分割层和初始病变分割层进行训练,得到定位模型,可以获取准确的病变区域和器械位置,为介入手术提供更为精确和高效的辅助支持;通过场景理解层可以预测手术图像对应的手术状态,通过文本编码器可以得到文本特征向量,从而将手术过程中的文本描述融合到图像分析中,提升了定位模型对手术场景理解和目标分割定位的准确性和鲁棒性。
1.一种血管介入手术目标定位方法,其特征在于,包括:
2.根据权利要求1所述的血管介入手术目标定位方法,其特征在于,所述基于所述图像特征向量对所述初始场景理解层进行训练,包括:
3.根据权利要求1所述的血管介入手术目标定位方法,其特征在于,所述基于所述图像特征向量和所述文本特征向量对所述初始器械分割层进行训练,包括:
4.根据权利要求3所述的血管介入手术目标定位方法,其特征在于,所述基于所述图像特征向量和所述文本特征向量调整所述初始器械分割层中的跨模态注意力机制,包括:
5.根据权利要求1所述的血管介入手术目标定位方法,其特征在于,所述基于所述图像特征向量对所述初始病变分割层进行训练,包括:
6.根据权利要求1所述的血管介入手术目标定位方法,其特征在于,所述初始病变分割层中包括轻量级自注意力机制模块;所述轻量级自注意力机制模块用于增强所述初始病变分割层对所述图像特征向量的注意力。
7.根据权利要求5所述的血管介入手术目标定位方法,其特征在于,所述损失函数包括交叉熵损失函数和戴氏损失函数;
8.一种血管介入手术目标定位装置,其特征在于,包括:
9.一种非暂态计算机可读存储介质,其上存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现如权利要求1至6任一项所述的血管介入手术目标定位方法。
10.一种电子设备,包括存储器和处理器,其特征在于,所述存储器中存储有计算机程序,所述处理器被设置为通过所述计算机程序执行权利要求1至6任一项所述的血管介入手术目标定位方法。