安全的混成系统神经网络控制器生成与验证

来源：软件学报杂志2023年第7期北京时间：

作者：赵庆晔，王豫，李宣东

单位：赵庆晔，计算机软件新技术国家重点实验室(南京大学), 江苏 南京 21002311,王豫，计算机软件新技术国家重点实验室(南京大学), 江苏 南京 21002302,李宣东，计算机软件新技术国家重点实验室(南京大学), 江苏 南京 21002303

摘要：控制器生成是混成系统控制中的重要问题.生成具有安全保证的控制器，关系着混成系统在安全攸关领域的使用.提出了一种为混成系统生成具有安全保证的神经网络控制器的方法.神经网络控制器的安全性由与其同时生成的障碍证书保证.为了生成安全的神经网络控制器，首先确定控制器的网络结构，并基于混成系统构造训练数据集；然后，根据保证控制器安全的障碍证书条件编码神经网络训练时的损失函数.当训练完成后，学习到的神经网络控制器对于训练数据集中的数据是安全的，但对于整个混成系统可能并不安全.为了检验学习到的控制器在整个系统上的安全性，将其安全验证问题转化为一组混合整数规划问题，并使用数值优化器求解，以得到形式化保证的结果.工作实现了安全神经网络控制器生成工具SafeNC，并评估了它在8个基准系统上的性能.实验结果表明：SafeNC可以生成包含6个隐藏层的具有1 804个神经元的安全神经网络控制器；同时，与现有方法相比，SafeNC可为更复杂的系统生成安全的神经网络控制器，更有效且更具扩展性.

关键词：混成系统;安全控制;神经网络控制器;障碍证书;混合整数规划

基金资助：国家自然科学基金（62172211，62172210，62172200）；江苏省自然科学基金（BK20202001）