基于奇异值分解的径向基函数神经网络的改进算法研究

来源：计算数学杂志2024年第4期北京时间：

作者：尤国桥, 刘曼茜, 柯宜龙

单位：1 南京审计大学数学学院, 南京 211815;2 南京审计大学统计与数据科学学院, 南京 211815

摘要：径向基函数神经网络 (RBFNN) 可用于插值和分类预测, 本文提出基于奇异值分解 (SVD) 技术来改进传统的RBFNN, 从而极大地简化网络结构. 具体来说, 本文提出的方法能够实现隐藏层神经元的自动选取和优化, 删除冗余的神经元, 进而节省内存和计算成本. 同时, 我们将使用 K 折交叉验证法来确定径向基函数 (RBF) 中的径向参数 ε, 以保证算法精度. 更重要的是, 我们基于Halko等提出的近似SVD算法 { }^{[2]}, 逐行读取样本数据并实时处理, 避免将所有样本数据一次性导入内存. 所有的数值实验都表明, 相比于传统的RBFNN, 本文提出的算法在不损失计算精度的前提下, 极大地提高了计算效率, 并简化了RBFNN结构.

关键词：径向基函数神经网络,奇异值分解,K折交叉验证,插值

基金资助：国家自然科学基金(12371433);江苏省自然科学基金(BK20211293);江苏高校“青蓝工程”和江苏省研究生科研与实践创新计划(KYCX23_2270)资助.