空间解析单细胞转录组的优化算法研究

来源：上海理工大学学报杂志2024年第6期北京时间：

作者：皇站飞，赵桂华

单位：上海理工大学 理学院，上海 200093,上海理工大学 理学院，上海 200093

摘要：由于单细胞和空间转录组技术都存在一定的不足，整合单细胞转录组和空间转录组技术应运而生。为提高单细胞矩阵到空间矩阵映射的相似度，降低损失函数值，通过改进深度学习Tangram算法的目标函数，同时受龙格库塔方法的启发对优化算法Adam的梯度值进行修正，开发了RK-Tangram算法。将其应用到3组模拟数据与真实的小鼠大脑皮质、运动和视觉区域的数据上，与原始Tangram算法相比，结果表明，RK-Tangram算法不仅提高了映射的相似度，降低了损失函数值，而且扩展了空间转录组的全基因组图谱，并纠正了低质量的空间测量。另外，通过解卷积将空间转录组数据转化为单细胞数据，提供了一个更高分辨率的组织类型图谱。

关键词：深度学习;梯度下降;解卷积;转录组

基金资助：国家自然科学基金资助项目 (61807017)