《计算机工程与科学杂志》发表论文赏析

基于图结构提示实现低资源场景下的节点分类

来源:计算机工程与科学杂志2025年第3期北京时间:

作者:陈宇灵, 李翔

单位:华东师范大学数据科学与工程学院,上海 200062

摘要:文本属性图时下逐渐成为图研究领域的一个热点。在传统的图神经网络研究中,所使用到的节点特征通常是由文本信息转化来的浅层特征或者是人为手动设计的特征,如跳字模型和连续词袋模型。近年来,随着大型语言模型的出现,自然语言处理方向的研究发生了深刻的变革。这种变革不仅影响了自然语言处理的相关任务,还开始渗透到图神经网络。因此,最近的图工作中也开始引入语言表征模型和大语言模型用于生成新的节点表征,旨在进一步挖掘更加丰富的语义信息。在现有的工作中,大多数模型还是采用传统GNN架构或对比学习的方式。在对比学习一类的方法中,由于传统节点特征和语言模型生成的节点表征并不是由统一的模型生成的,因此这类方法面临着处理2个位于不同向量空间的向量的挑战。基于以上的挑战和考量,提出一个名为GRASS的模型。具体来说,模型在预训练任务中引入了通过大语言模型扩充得到的文本信息,对其与经过图卷积的文本信息进行对比学习;在下游任务中,为了减少微调的成本,GRASS对齐了下游任务和预训练任务的形式。通过这个模型,使得GRASS在不需要微调的情况下,能够在节点分类任务上表现良好,尤其是在小样本场景下。例如,在1-shot场景下,比起最优基准模型,GRASS在Cora,Pubmed和ogbn-arxiv数据集上的准确度分别提升了6.10%,6.22%和5.21%。

关键词:图神经网络,文本属性图,大语言模型,对比学习,预训练,提示学习,

2025年3期其他文献查阅:

基于监督学习的稀疏矩阵乘算法优选

基于天河互连的并行文件系统网络驱动

基于“天河二号”聚合通信卸载特性的 MPI_Barrier优化

QTorch:基于独立的量子程序设计语言的量子-经典混合机器学习框架

数据中心制冷系统强化学习控制

RCGNN:图注入攻击下的图神经网络鲁棒性认证方法

基于Transformer和Text-CNN的日志异常检测

一种基于图热核扩散卷积的网络入侵检测方法

基于切比雪夫混沌映射的V2G跨域双向认证方案

基于迭代收缩阈值与深度学习的压缩感知图像重构网络

基于脉冲注意力机制的轻量化面部超分重建方法

基于改进实例分割的室内动态视觉SLAM方法

结合图像分解和自稀疏模糊聚类的情感颜色迁移

基于失匹配负波潜伏期优化的语音增强研究

基于图结构提示实现低资源场景下的节点分类

基于驾驶上下文感知的驾驶员识别模型

基于多源异构融合与时空图卷积网络的集卡到港量预测模型

填文献完整题目 获取完整文献

填写需求
联系方式
注:学术顾问会在1小时内联系您,请留意!