基于改进型多模态信息融合深度强化学习的自主超声扫描方法

来源：计算机应用研究杂志2025年第6期北京时间：

作者：徐加开,陆奇,李祥云,李康,

单位：四川大学a.电气工程学院;b.四川大学匹兹堡学院;c.华西医院生物医学大数据中心,成都610065；

摘要：针对基于深度强化学习的自主超声扫描方法存在训练扫描精度低、训练时间长、扫描任务成功率较低的问题，提出了一种基于改进型多模态信息融合深度强化学习的自主超声扫描方法。首先，该方法融合了超声图像、双视角探头操作图像和6D触觉反馈提供全面的多模态感知信息。为精准捕捉多模态中的时空信息和实现多模态特征的高效融合，设计了一个基于自注意力机制（self-attention mechanism，SA）的多模态特征提取与融合模块。其次，将机器人的6D位姿动作决策任务建模为深度强化学习问题。为贴近专业超声从业医生的操作，设计了混合奖励函数。最后，为解决深度强化学习训练中出现的局部最优和收敛速度慢的问题，提出了DSAC-PERDP （discrete soft actor-critic with prioritized experience replay based on dynamic priority）算法。在真实环境中的测试表明，该方法在扫描精度、任务成功率和训练速度方面较基线模型分别提升了49.8%、13.4%和260.0%，在干扰条件下仍保持良好性能。实验证明，该方法显著提升了扫描精度、任务成功率和训练速度，并具有一定的抗干扰能力。

关键词：自主超声扫描,深度强化学习,多模态,自注意力机制,DSAC-PERDP算法,

基金资助：国家自然科学基金资助项目(51805449,62103291)；四川省科技计划资助项目(2024YFFK0033,2023YFH0037,2023ZHCG0075,2023YFG0057,2022YFS0021,2022YFH0073)；四川大学华西医院医工交叉融合人才培养基金资助项目；四川大学华西医院1·3·5卓越学科项目(ZYYC21004,ZYJC21081)；；