《计算机技术与发展杂志》发表论文赏析
作者:喻瑛;杨峥;王伟杰
摘要:粗糙集是一种处理不确定、不完全理论的经典理论,属性约简是粗糙集理论的核心知识之一。 为适应大数据的发展,对广泛应用于数据不确定性、不完备性处理的属性约简算法相应改进,提出两种适应分布式处理的属性约简算法。首先提出基于 MapReduce 框架和正域的属性约简算法;并借鉴 Hadoop 分布式处理机制,针对差别矩阵 all-to-all 比较特性,提出一种新型分布式处理机制,基于该机制提出了一种适应分布式数据处理机制的新型数据分割及分布规则,基于该规则探讨了基于差别矩阵的属性约简算法在新型分布式处理机制下的具体实现方法。 仿真算例表明了这两种算法处理大数据集的有效性。
关键词:属性约简;分布式;大数据;正域;all-to-all 比较