《计算机科学与探索杂志》发表论文赏析
作者:袁立宁, 冯文刚, 刘钊
单位:1. 中国人民公安大学 国家安全学院,北京 1000382. 广西警察学院 信息技术学院,南宁 5300283. 广西警察学院 公安大数据现代产业学院,南宁 5300284. 中国人民公安大学 研究生院,北京 100038
摘要:多数图深度学习模型通过可学习权重加固定激活函数的方式提取图数据的特征信息,采用不同激活函数时对模型性能有较为显著的影响。针对上述问题,提出了一种基于Kolmogorov-Arnold网络(KAN)的全连接神经网络模型G-KAN,无需特定的激活函数和显式的节点信息传递策略,通过KAN动态学习激活函数,并引入节点相似度引导的对比损失隐式提取原始图特征信息。G-KAN通过线性层将图数据映射到特征空间,通过KAN层提取输入数据中的潜在特征,通过线性层和Softmax函数将KAN层的输出映射为节点标签的概率分布,并引入对比损失对KAN层的输出进行优化,推动高相似度节点彼此接近、低相似度节点彼此远离。在节点分类任务中,G-KAN优于当前较为先进的基线模型,特别是在BlogCatalog数据集上,G-KAN的Micro-F1和Macro-F1相较图卷积网络(GCN)提高了50.42和52.84个百分点。在激活函数对比实验中,引入KAN的方法不仅优于采用不同激活函数的变体,对不同数据集的泛化能力也更强。上述实验结果表明,G-KAN采用的可学习激活函数策略能够提高全连接神经网络的表征能力,使生成的低维节点表示具有更高的区分性。
关键词:图卷积网络,多层感知机,Kolmogorov-Arnold网络,对比学习,节点分类
基金资助:国家重点研发计划(2023YFC3321604);广西哲学社会科学研究课题(23FTQ005);广西自治区级“四新”研究与实践项目(XGK202410);中央高校基本科研业务费专项资金(2022JKF02002)。