《计算机工程与科学杂志》发表论文赏析

基于异步分层联邦学习的数据异质性处理方法研究

来源:计算机工程与科学杂志2024年第7期北京时间:

作者:郭昌昊, 唐湘云, 翁彧

单位:中央民族大学信息工程学院,北京 100081

摘要:在物联网设备遍布的时代,时刻都在产生大量数据,数据分布和数据量各不相同,因此数据异质性普遍存在。针对物联网环境中智能设备的联邦学习挑战,传统联邦学习的同步机制解决数据异质性(NON-IID)问题并不理想,且面临着单点故障和维护全局时钟的复杂性问题,而异步机制则可能带来额外的通信开销和NON-IID数据分布导致的过时性问题。分层联邦学习结合异步机制在应对数据异质性的问题时更加灵活,为此,提出了一种基于分层联邦学习的异步分层联邦学习方法。首先,使用BIRCH算法分析物联网中各节点的数据分布并进行簇的划分;然后,对簇中的数据进行拆分与验证,目的是找到数据质量高的节点,然后将数据质量高的簇中的节点打散,重组到其他数据质量低的簇中,形成新的簇;最后,进行簇内聚合和全局聚合的两阶段模型训练。此外,基于MNIST数据集,对提出的方法进行了评估。结果表明,与经典方法相比,所提方法在NON-IID数据集上收敛速度提高,而且在模型精度上提高了15%以上。

关键词:物联网,联邦学习,异步联邦学习,分层联邦学习,数据异质性,数据分布,

基金资助:国家自然科学基金青年基金(62302539);中央民族大学国家安全研究院边疆少数民族地区国家安全研究项目(2023GJAQ08)

2024年7期其他文献查阅:

NM-SpMM:面向国产异构向量处理器的半结构化稀疏矩阵乘算法

基于MLIR的数据流模型

MiniBranRAP:极小化分支判断数的AMG粗网格矩阵计算并行算法

面向高密度闪存的内存页大小探索

一种不规则稀疏矩阵的SpMV方法

基于RISC-V的超标量处理器的ROB压缩方法

基于分区层次图的海量高维数据学习索引构建方法

面向56 Gb/s高速SerDes接收机DSP设计

面向服务器无感计算的模型推理服务切换方法研究

一种基于随机森林分类器构建高性能应用程序性能分析模型的方法

基于因果关系的反取证擦除技术检测模型

基于异步分层联邦学习的数据异质性处理方法研究

基于改进北方苍鹰优化随机配置网络的网络流量预测模型

基于度量学习的跨摄像头运动目标重定位方法研究

改进YOLOv7网络在低空遥感图像目标检测中的应用

基于多尺度特征与互监督的拥挤行人检测

一次性条件下的三支序列模式挖掘

命名实体识别研究综述

RIB-NER:基于跨度的中文命名实体识别模型

基于BERT字句向量与差异注意力的短文本语义匹配策略

填文献完整题目 获取完整文献

填写需求
联系方式
注:学术顾问会在1小时内联系您,请留意!