首页 > 专利 > 杭州电子科技大学 > 一种基于多视角协同关系的先天性心脏病辅助诊断方法专利详情

一种基于多视角协同关系的先天性心脏病辅助诊断方法   0    0

有效专利 查看PDF
专利申请流程有哪些步骤?
专利申请流程图
申请
申请号:指国家知识产权局受理一件专利申请时给予该专利申请的一个标示号码。唯一性原则。
申请日:提出专利申请之日。
2019-05-22
申请公布
申请公布指发明专利申请经初步审查合格后,自申请日(或优先权日)起18个月期满时的公布或根据申请人的请求提前进行的公布。
申请公布号:专利申请过程中,在尚未取得专利授权之前,国家专利局《专利公报》公开专利时的编号。
申请公布日:申请公开的日期,即在专利公报上予以公开的日期。
2019-09-17
授权
授权指对发明专利申请经实质审查没有发现驳回理由,授予发明专利权;或对实用新型或外观设计专利申请经初步审查没有发现驳回理由,授予实用新型专利权或外观设计专利权。
2021-07-09
预估到期
发明专利权的期限为二十年,实用新型专利权期限为十年,外观设计专利权期限为十五年,均自申请日起计算。专利届满后法律终止保护。
2039-05-22
基本信息
有效性 有效专利 专利类型 发明专利
申请号 CN201910430512.4 申请日 2019-05-22
公开/公告号 CN110164550B 公开/公告日 2021-07-09
授权日 2021-07-09 预估到期日 2039-05-22
申请年 2019年 公开/公告年 2021年
缴费截止日
分类号 G16H50/20G06K9/62A61B8/08 主分类号 G16H50/20
是否联合申请 独立申请 文献类型号 B
独权数量 1 从权数量 0
权利要求数量 1 非专利引证数量 0
引用专利数量 6 被引证专利数量 0
非专利引证
引用专利 CN103646135A、CN107680678A、CN107292875A、CN109712707A、CN108764072A、US2017116497A1 被引证专利
专利权维持 3 专利申请国编码 CN
专利事件 事务标签 公开、实质审查、授权
申请人信息
申请人 第一申请人
专利权人 杭州电子科技大学 当前专利权人 杭州电子科技大学
发明人 颜成钢、林翊、孙垚棋、张继勇、张勇东 第一发明人 颜成钢
地址 浙江省杭州市下沙高教园区2号大街 邮编 310018
申请人数量 1 发明人数量 5
申请人所在省 浙江省 申请人所在市 浙江省杭州市
代理人信息
代理机构
专利代理机构是经省专利管理局审核,国家知识产权局批准设立,可以接受委托人的委托,在委托权限范围内以委托人的名义办理专利申请或其他专利事务的服务机构。
杭州君度专利代理事务所 代理人
专利代理师是代理他人进行专利申请和办理其他专利事务,取得一定资格的人。
朱月芬
摘要
本发明公开了一种基于多视角协同关系的先天性心脏病辅助诊断方法。本发明步骤如下:1.医疗超声数据增强和数据预处理,获得待检测医疗图像;2.将所述的不同视角多帧超声图像分别输入至利用卷积神经网络训练的SSD检测器,进行精准定位,获得Top1的精准定位结果;3:将上述多视角的病灶图像帧Ci及彩色超声原图帧Oi进行组合构建数据组{Ci,Oi},其中i代表第i个样本组。4:将数据组送入MUVDN网络进行训练并获得训练后的MUVDN二分类网络。本发明且具有较高的鲁棒性。减少了单一视角下伪影及噪声对诊断的影响,有效地提升了网络分类的准确率。
  • 摘要附图
    一种基于多视角协同关系的先天性心脏病辅助诊断方法
  • 说明书附图:图1
    一种基于多视角协同关系的先天性心脏病辅助诊断方法
  • 说明书附图:图2
    一种基于多视角协同关系的先天性心脏病辅助诊断方法
  • 说明书附图:图3
    一种基于多视角协同关系的先天性心脏病辅助诊断方法
法律状态
序号 法律状态公告日 法律状态 法律状态信息
1 2021-07-09 授权
2 2019-09-17 实质审查的生效 IPC(主分类): G16H 50/20 专利申请号: 201910430512.4 申请日: 2019.05.22
3 2019-08-23 公开
权利要求
权利要求书是申请文件最核心的部分,是申请人向国家申请保护他的发明创造及划定保护范围的文件。
1.一种基于多视角协同关系的先天性心脏病辅助诊断方法,其特征在于包括以下步骤:
步骤1:医疗超声数据增强和数据预处理,获得待检测医疗图像;具体子步骤包括:
1‑
1.获取受试者的心脏多视角彩色多普勒超声图像并由专业超声科医生进行病灶区域的手工标记;
1‑
2.对待标记的数据进行数据增强操作,包括翻转、平移技术;
步骤2:将不同视角多帧超声图像分别输入至利用卷积神经网络训练的SSD检测器,对心脏病灶区域进行精准定位,并利用非极大值抑制算法获得Top1的精准定位结果;
2‑
1.在多视角多帧的彩色多普勒超声图像上进行感兴趣区域的定位;
2‑
2.基于感兴趣区域的坐标信息,通过裁剪操作从原图中提取病灶特征,得到多视角的局部病灶图像;
步骤3:将上述多视角的局部病灶图像帧Ci及彩色多普勒超声图像帧Oi进行组合构建数据组{Ci,Oi},其中i代表第i个样本组;并将所有数据组划分为训练集、测试集;
步骤4:将上述数据组送入MUVDN网络进行训练并获得训练后的MUVDN二分类网络,其中MUVDN二分类网络由MUVDN中的特征提取模块及全连接层构成;具体网络子步骤包括:
4‑
1.在上述多视角的局部病灶图像及彩色多普勒超声图像中利用浅层全卷积神经网络,提取浅层局部视图特征描述子和浅层全局视图特征描述子;
4‑
2.在浅层局部描述子上利用全连接层,生成同一视角下不同帧图像之间的权重值S;
4‑
3.将浅层局部视图特征、浅层全局视图特征送入深层全卷积神经网络分别提取深层l g
局部视图特征F、深层全局视图特征F ,并分别将所得特征与权重系数S作乘积,得到精细化l_ref g_ref
局部视图特征F 和精细化全局视图特征F ;
式中i,j表示第i个视角的第j帧图像;
4‑
4.对上述浅层全局视图特征描述子和浅层局部视图特征描述子进行视图‑最大池化操作以获取全局、局部的显著性特征表示;
4‑
5.将全局、局部的显著性特征进行融合操作,并将融合后的特征输入全连接层;最终采用随机梯度下降算法优化损失函数,得到训练后的二分类MUVDN网络;
步骤5:测试阶段,将步骤3中获得的测试集输入训练后得到的二分类MUVDN网络,输出病灶区域类别分类。
说明书

技术领域

[0001] 本发明涉及医学图像处理及模式识别领域,尤其涉及一种基于多视角协同关系的先天性心脏病辅助诊断方法。技术背景
[0002] 先天性心脏病是一种先天性畸形疾病,包括房间隔缺失、室间隔缺失等。根据资料统计,先天性心脏病的发病率占出生活婴的0.4%~1%,导致中国每年新增先天性心脏病患者15~20万。特别是在医疗技术匮乏的区域,70%的先心病患者在2岁后由于未进行手术介入而死于并发症。目前利用超声心动图进行早期检查及诊断是减少死亡率的主要诊断方法,然而利用超声心动图检测存在超声设备限制及噪声影响等多种问题,这极大地降低了医生观察病灶区域情况的准确度及有效性,同时导致了超声科医生工作效率低下、诊断准确率下降。
[0003] 近年来随着计算机技术以及深度神经网络的发展,利用计算机辅助检测(ComputerAidedDiagnosis)辅助影像科医生定位分类病灶区域的研究方向成为了主流的研究热点,特别是利用深度卷积神经网络的自学习性、记忆性等能力来起到辅助诊断的作用。
[0004] 目前国内外在基于计算机辅助检测的病灶检测研究方向上也开展了许多探索和研究工作,现有技术主要利用单一视角的超声图像进行病灶区域的定位以及分类研究,并且也没有专门针对先天性心脏病病灶检测的研究方法。在先天性心脏病的检测当中,伪影和大量噪声是影响病灶检测精度的首要问题。基于上述情况,直接利用现有的图像检测方法存在定位不准确、分类效果不佳以及误诊率高等问题。

发明内容

[0005] 为了解决上述问题,本发明提供了一种基于多视角协同关系的先天性心脏病辅助诊断方法,所述方法提出了一种基于超声多视图的检测网络模型MUVDN,MUVDN模型融合了局部特征与全局特征和多视图学习有效地提高了病灶检测的准确率和召回率。
[0006] 该诊断方法能够从不同视角上定位病灶区域,并且基于病灶区域利用多视角内在关系综合检测病灶区域的患病情况。
[0007] 为了实现上述目的,本发明采用以下技术方案
[0008] 一种基于多视角协同关系的先天性心脏病辅助诊断方法,包括以下步骤:
[0009] 步骤1:医疗超声数据增强和数据预处理,获得待检测医疗图像。具体子步骤包括:
[0010] 1‑1.获取受试者的心脏多视角彩色多普勒超声图像并由专业超声科医生进行病灶区域的手工标记;
[0011] 1‑2.对待标记的数据进行数据增强操作,包括翻转、平移等技术;
[0012] 步骤2:将所述的不同视角多帧超声图像分别输入至利用卷积神经网络训练的SSD检测器,对心脏病灶区域进行精准定位,并利用非极大值抑制算法获得Top1的精准定位结果;
[0013] 2‑1.在多视角多帧的彩色多普勒超声图像上进行感兴趣区域的定位;
[0014] 2‑2.基于感兴趣区域的坐标信息,通过裁剪操作从原图中提取病灶特征,得到多视角的局部病灶图像;
[0015] 步骤3:将上述多视角的病灶图像帧Ci及彩色超声原图帧Oi进行组合构建数据组{Ci,Oi},其中i代表第i个样本组。并将所有数据组划分为训练集、测试集;
[0016] 步骤4:将上述数据组送入MUVDN网络进行训练并获得训练后的MUVDN二分类网络,其中MUVDN二分类网络由MUVDN中的特征提取模块及全连接层构成。具体网络子步骤包括:
[0017] 4‑1.在上述多视角的病灶图像及彩色超声原图中利用浅层全卷积神经网络,提取浅层局部、浅层全局视图特征描述子;
[0018] 4‑2.在浅层局部描述子上利用全连接层,生成同一视角下不同帧图像之间的权重值S;
[0019] 4‑3.将浅层局部、全局视图特征送入深层全卷积神经网络提取深层局部Fl、全局g g_ref l_ref视图特征F,并所得特征与权重系数S作乘积,得到精细化全局F 局部视图特征F ;
[0020]
[0021] 式中i,j表示第i个视角的第j帧图像;
[0022] 4‑4.对上述全局、局部描述子进行视图‑最大池化操作以获取全局、局部的显著性特征表示;
[0023] 4‑5.将全局、局部显著性特征进行融合操作,并将融合后的特征输入全连接层。最终采用随机梯度下降算法优化损失函数,得到训练后的二分类MUVDN网络。
[0024] 步骤5:测试阶段,将步骤3中获得的测试集输入训练后得到的二分类MUVDN网络,输出病灶区域类别分类;
[0025] 本发明具有以下优点及有益效果:
[0026] 1.所述方法能够提供更好的特征表示,且具有较高的鲁棒性。MUVDN网络考虑了多超声视角之间的内在关系,并且能进一步地还原病灶区域的立体性质。减少了单一视角下伪影及噪声对诊断的影响,保障了先天性心脏病的诊断精度要求。
[0027] 2.所述方法在病灶分类时,协同地将彩色超声原图送入网络进行特征学习;最终的全局‑局部描述子融合有效地提升了网络分类的准确率。

实施方案

[0031] 下面结合具体实施方式及附图对本发明进行详细的说明。
[0032] 按照发明内容所述的方法步骤,一种本发明的对超声图像进行先天性心脏病病灶区域检测的实施例对应的MUVDN网络模型结构如图1所示。
[0033] 步骤1:数据预处理。
[0034] 1‑1.获取先天性心脏病中房间隔缺失中3个主要超声切面图片并标记,包括胸骨旁大动脉断轴切面、心尖部四腔心切面以及剑突下双心房切面。获取室间隔缺失中3个主要切面图片包括胸骨旁左心长轴、室缺最大切面以及心尖部五腔心切面;
[0035] 1‑2.对原始DICOM格式超声数据做JPG格式转化,并对数据尺寸做归一化处理,图片尺寸大小统一为160*160。
[0036] 1‑3.将数据样本通过两种增强技术进行数据集扩展。第一是将图像做一种类似于镜面的翻折。第二是将图像沿着x或者y方向(或两个方向)移动,移动后将图片横向拉伸回归一化后的160*160大小。通过这种方式可以防止模型训练的过拟合并能够有效增加网络的泛化能力。
[0037] 步骤2:将所述的不同视角多帧超声图像分别输入至利用卷积神经网络训练的SSD检测器,对心脏病灶区域进行精准定位,并利用非极大值抑制算法获得Top1的精准定位结果;
[0038] 2‑1.在多视角多帧的彩色多普勒超声图像上进行感兴趣区域的定位;
[0039] 2‑2.基于感兴趣区域的坐标信息,通过裁剪操作从原图中提取病灶特征,得到多视角的局部病灶图像;
[0040] 步骤3:将上述多视角的病灶图像帧Ci及彩色超声原图帧Oi进行组合构建数据组{Ci,Oi},其中i代表第i个样本组。并将所有数据组划分为训练集、测试集;
[0041] 步骤4:将上述数据组送入MUVDN网络进行训练并获得训练后的MUVDN二分类网络,其中MUVDN二分类网络由MUVDN中的特征提取模块及全连接层构成。具体网络子步骤包括:
[0042] 4‑1.在上述多视角的病灶图像及彩色超声原图中利用浅层全卷积神经网络,提取浅层局部、浅层全局视图特征描述子;
[0043] 4‑2.在浅层局部描述子上利用全连接层,再利用softmax函数生成同一视角下不同帧图像之间的权重值S,帧图像权重获取的结构图如图2所示;
[0044] 4‑3.将浅层局部、全局视图特征送入深层全卷积神经网络提取深层局部Fl、全局g g_ref l_ref视图特征F,并所得特征与权重系数S作乘积,得到精细化全局F 局部视图特征F ;
[0045]
[0046] 4‑4.对上述全局、局部描述子进行视图‑最大池化操作以获取全局、局部的显著性特征表示;
[0047] 4‑5.将全局、局部显著性特征进行融合操作,并将融合后的特征输入全连接层。最终采用随机梯度下降算法优化损失函数,得到训练后的二分类MUVDN网络。
[0048] 步骤5:测试阶段,将步骤3中获得的测试集输入训练后得到的二分类MUVDN网络,输出病灶区域类别分类;如果疑似病灶区域存在疾病,则利用精确的定位信息在原图中画出框,反之亦然。图3展示了房间隔缺失和室间隔缺失的检测结果示例。

附图说明

[0028] 图1是本发明MUVDN网络框架图;
[0029] 图2是本发明的帧权重模块结构图;
[0030] 图3是本发明的MUVDN网络检测结果示例;
版权所有:盲专网 ©2023 zlpt.xyz  蜀ICP备2023003576号