基于Transformer与距离图谱的泛癌细胞核图像分割

来源：南京信息工程大学学报·自然科学版杂志2024年第1期北京时间：

作者：鲁浩达，梁实，顾松，王向学，徐军

单位：鲁浩达,南京信息工程大学 自动化学院/智慧医疗研究院, 南京, 210044,梁实,南京信息工程大学 自动化学院/智慧医疗研究院, 南京, 210044,顾松,南京信息工程大学 自动化学院/智慧医疗研究院, 南京, 210044,王向学,南京信息工程大学 自动化学院/智慧医疗研究院, 南京, 210044,徐军,南京信息工程大学 自动化学院/智慧医疗研究院, 南京, 210044

摘要：肿瘤细胞的密度、核质比和平均尺寸等指标对癌症的分级和预后有重要的意义.在计算病理学中,细胞核分割是肿瘤微环境分析的基础.通过对分割结果进行统计分析,对新的肿瘤标记物的探索有重大的意义.病理图像背景下的细胞核形态不规则,细胞核染色不均匀,且细胞核边缘之间存在黏连的问题,而现有的深度学习算法在细胞核主体分割正确的情况下,边缘的分割错误不会对总体的损失造成太大的影响,黏连的细胞核很容易被当作同一个分割目标.为了解决细胞核重叠问题,本文提出一种基于Transformer与距离图谱的分割模型,将Transformer中的核心多头自注意力机制与距离图谱引导算法相结合,重视细胞核内部,弱化细胞核边界,提升对图像局部和全局上下文信息的学习能力.本文方法在两个公开数据集上的平均Dice系数为0.797 9、精度为0.756 1、AJI系数为0.667 2、Hausdorff距离为10.11.实验结果表明,相较其他分割算法,本文方法的性能更好,能够有效提高细胞核的分割精度,同时较好地解决了细胞核之间的黏连问题.

关键词：深度学习;病理图像;细胞核分割;Transformer;多头自注意力;距离图谱

基金资助：国家自然科学基金(U1809205,62171230,92159301,62101365,61771249,91959207,81871352)