一种基于预训练语言模型XLNet的测井曲线重构方法

来源：计算机技术与发展杂志2025年第02期北京时间：

作者：曹茂俊;赵宇杰

摘要：在油田勘探开发过程中,测井曲线作为地球物理测井的第一手资料,能够真实反映地下空间的分布与特性。 然而,在实际工作中,由于井壁垮塌和仪器故障等原因,部分测井数据常常出现失真或缺失。 为解决这一问题,该文提出了一种基于预训练语言模型 XLNet 的测井曲线重构方法。 该方法通过筛选地层地质岩性特征指数,获取高质量的训练样本,并将其作为预训练模型重构测井曲线的依据。 构建并训练带有预训练权重信息的 XLNet 模型,使模型具备对复杂地层特性的理解和数据重构能力。 在模型的构建与训练过程中,引入了预训练权重,并进一步结合了 LoRA( Low-Rank Adaptation)模块,以充分利用测井曲线之间的高度依赖关系,进而辅助 XLNet 生成和补全失真或缺失的测井数据。 与已知曲线重构模型:基于注意力表征的长短期记忆神经网络(LSTM-Attent)、双向门控神经网络(BiGRU)、TimesNet 及 XLNet 相比,基于预训练语言模型 XLNet-LoRA 的测井曲线重构模型具有更高的预测准确性。

关键词：测井曲线重构;深度学习;预训练语言模型;XLNet网络;LoRA机制