Introducing ChatGPT ［EB/OL］. ［ 2023-03-29 ］. https：//openai.com/blog/chatgpt https://openai.com/blog/chatgpt .

韩笑 ， 郭剑波 ， 蒲天骄 ， 等 . 电力人工智能技术理论基础与发展展望（一）：假设分析与应用范式 ［J］. 中国电机工程学报 ， 2023 ， 43 （ 8 ）： 2877 - 2891 .

HAN Xiao ， GUO Jianbo ， PU Tianjiao ， et al . Theoretical foundation and directions of electric power artificial intelligence（Ⅰ）： hypothesis analysis and application paradigm ［J］. Proceedings of the CSEE ， 2023 ， 43 （ 8 ）： 2877 - 2891 .

郭剑波 . 对新型电力系统演进趋势和关系的认识 ［C］// 2022年中国电机工程学会年会 ， 2023年2 月9日，武汉，中国.

GUO Jianbo . Insights into the evolutionary trends and relationships of new power systems ［C］// 2022 Annual Meeting of the Chinese Society for Electrical Engineering ， February 9 ， 2023， Wuhan ， China .

GUNNING D ， STEFIK M ， CHOI J ， et al . XAI—explainable artificial intelligence ［J］. Science Robotics ， 2019 ， 4 （ 37 ）： eaay7120 .

国家自然科学基金委 . 关于发布可解释、可通用的下一代人工智能方法重大研究计划2023年度项目指南的通告 ［EB/OL］. ［ 2023-11-06 ］. https：//www.nsfc.gov.cn/publish/portal0/tab434/info89087.htm https://www.nsfc.gov.cn/publish/portal0/tab434/info89087.htm .

National Natural Science Foundation of China . Notice on the publication of the 2023 project guidelines of the major research program on interpretable and generalizable next-generation artificial intelligence methods ［EB/OL］. ［ 2023-11-06 ］. https：//www.nsfc.gov.cn/publish/portal0/tab434/info89087.htm https://www.nsfc.gov.cn/publish/portal0/tab434/info89087.htm .

MILLER T . Explanation in artificial intelligence： insights from the social sciences ［J］. Artificial Intelligence ， 2019 ， 267 ： 1 - 38 .

MONTAVON G ， SAMEK W ， MÜLLER K R . Methods for interpreting and understanding deep neural networks ［J］. Digital Signal Processing ， 2018 ， 73 ： 1 - 15 .

CARVALHO D V ， PEREIRA E M ， CARDOSO J S . Machine learning interpretability： a survey on methods and metrics ［J］. Electronics ， 2019 ， 8 （ 8 ）： 832 .

TJOA E ， GUAN C T . A survey on explainable artificial intelligence （XAI）： toward medical XAI ［J］. IEEE Transactions on Neural Networks and Learning Systems ， 2021 ， 32 （ 11 ）： 4793 - 4813 .

GUO W S . Explainable artificial intelligence for 6G： improving trust between human and machine ［J］. IEEE Communications Magazine ， 2020 ， 58 （ 6 ）： 39 - 45 .

蒲天骄 ， 乔骥 ， 赵紫璇 ， 等 . 面向电力系统智能分析的机器学习可解释性方法研究（一）：基本概念与框架 ［J］. 中国电机工程学报 ， 2023 ， 43 （ 18 ）： 7010 - 7030 .

PU Tianjiao ， QIAO Ji ， ZHAO Zixuan ， et al . Research on interpretable methods of machine learning applied in intelligent analysis of power system （part Ⅰ）： basic concept and framework ［J］. Proceedings of the CSEE ， 2023 ， 43 （ 18 ）： 7010 - 7030 .

ALSAIGH R ， MEHMOOD R ， KATIB I . AI explainability and governance in smart energy systems： a review ［J］. Frontiers in Energy Research ， 2023 ， 11 ： 1071291 .

ERSOZ B ， SAGIROGLU S ， BULBUL H I . A short review on explainable artificial intelligence in renewable energy and resources ［C］// 2022 11th International Conference on Renewable Energy Research and Application （ICRERA） ， September 18-21 ， 2022 ， Istanbul， Turkey ： 247 - 252 .

MACHLEV R ， HEISTRENE L ， PERL M ， et al . Explainable artificial intelligence （XAI） techniques for energy and power systems： review， challenges and opportunities ［J］. Energy and AI ， 2022 ， 9 ： 100169 .

CHEN Z ， XIAO F ， GUO F Z ， et al . Interpretable machine learning for building energy management： a state-of-the-art review ［J］. Advances in Applied Energy ， 2023 ， 9 ： 100123 .

刘觉 ， 谢汉中 . 人工智能，专家系统（三） ［J］. 电力系统自动化 ， 1988 ， 12 （ 2 ）： 58 - 61 .

LIU Jue ， XIE Hanzhong . Introduction to artificial intelligence & expert system （part Ⅲ） ［J］. Automation of Electric Power Systems ， 1988 ， 12 （ 2 ）： 58 - 61 .

VAN LENT M ， FISHER W ， MANCUSO M . An explainable artificial intelligence system for small-unit tactical behavior ［C］// Proceedings of the 16th Conference on Innovative Applications of Artifical Intelligence ， July 25-29 ， 2004 ， San Jose， USA ： 900 - 907 .

郭创新 ， 朱传柏 ， 曹一家 ， 等 . 电力系统故障诊断的研究现状与发展趋势 ［J］. 电力系统自动化 ， 2006 ， 30 （ 8 ）： 98 - 103 .

GUO Chuangxin ， ZHU Chuanbai ， CAO Yijia ， et al . State of arts of fault diagnosis of power systems ［J］. Automation of Electric Power Systems ， 2006 ， 30 （ 8 ）： 98 - 103 .

HINTON G E ， OSINDERO S ， TEH Y W . A fast learning algorithm for deep belief nets ［J］. Neural Computation ， 2006 ， 18 （ 7 ）： 1527 - 1554 .

GUNNING D ， AHA D W . DARPA’s explainable artificial intelligence program ［J］. AI Magazine ， 2019 ， 40 （ 2 ）： 44 - 58 .

张成洪 ， 陈刚 ， 陆天 ， 等 . 可解释人工智能及其对管理的影响：研究现状和展望 ［J］. 管理科学 ， 2021 ， 34 （ 3 ）： 63 - 79 .

ZHANG Chenghong ， CHEN Gang ， LU Tian ， et al . Explainable artificial intelligence and its impact on management： research status and prospects ［J］. Journal of Management Science ， 2021 ， 34 （ 3 ）： 63 - 79 .

国务院 . 关于印发新一代人工智能发展规划的通知 ［EB/OL］.［ 2023-01-02 ］. https：//www.gov.cn/zhengce/content/2017-07/20/content_5211996.htm https://www.gov.cn/zhengce/content/2017-07/20/content_5211996.htm .

The State Council of the People’s Republic of China . Circular on the issuance of the development plan for a new generation of artificial intelligence ［EB/OL］. ［ 2023-01-02 ］. https：//www.gov.cn/zhengce/content/2017-07/20/content_5211996.htm https://www.gov.cn/zhengce/content/2017-07/20/content_5211996.htm .

国家新一代人工智能治理专业委员会 . 《新一代人工智能伦理规范》发布 ［EB/OL］.［ 2023-01-02 ］. https：//www.safea.gov.cn/kjbgz/202109/t20210926_177063.html https://www.safea.gov.cn/kjbgz/202109/t20210926_177063.html .

National Professional Committee on the Governance of Next Generation Artificial Intelligence . Code of ethics for the new generation of artificial intelligence released ［EB/OL］. ［ 2023-01-02 ］. https：//www.safea.gov.cn/kjbgz/202109/t20210926_177063.html https://www.safea.gov.cn/kjbgz/202109/t20210926_177063.html .

阿里巴巴集团 ， 中国信息通信研究院 . 人工智能治理与可持续发展实践白皮书 ［EB/OL］.［ 2023-11-06 ］. https：//s.alibaba.com/cn/aaigWhitePaperDetails https://s.alibaba.com/cn/aaigWhitePaperDetails .

Alibaba Group ， China Academy of Information and Communication Research . White paper on artificial intelligence governance and sustainable development practices ［EB/OL］. ［ 2023-11-06 ］. https：//s.alibaba.com/cn/aaigWhitePaperDetails https://s.alibaba.com/cn/aaigWhitePaperDetails .

中国信息通信研究院 ， 京东探索研究院 . 可信人工智能白皮书 ［EB/OL］.［ 2023-01-02 ］. http：//www.caict.ac.cn/kxyj/qwfb/bps/202107/P020210709319866413974.pdf http://www.caict.ac.cn/kxyj/qwfb/bps/202107/P020210709319866413974.pdf .

China Academy of Information and Communication Research ， Jingdong Discovery Institute . Trusted artificial intelligence white paper ［EB/OL］. ［ 2023-01-02 ］. http：//www.caict.ac.cn/kxyj/qwfb/bps/202107/P020210709319866413974.pdf http://www.caict.ac.cn/kxyj/qwfb/bps/202107/P020210709319866413974.pdf .

助力“新型电力系统”落地！国网山东电力打造可信AI负荷预测 ［EB/OL］.［ 2023-03-28 ］. http：//www.xinhuanet.com/tech/20221215/9046d1e1fb3945a88164a3ec1676597b/c.html http://www.xinhuanet.com/tech/20221215/9046d1e1fb3945a88164a3ec1676597b/c.html .

Helping the “new type of power system” come to fruition！ State Grid Shandong Power builds credible AI load forecasting ［EB/OL］. ［ 2023-03-28 ］. http：//www.xinhuanet.com/tech/20221215/9046d1e1fb3945a88164a3ec1676597b/c.html http://www.xinhuanet.com/tech/20221215/9046d1e1fb3945a88164a3ec1676597b/c.html .

VOSviewer . Visualizing scientific landscapes ［EB/OL］. ［ 2023-03-28 ］. https：//www.vosviewer.com https://www.vosviewer.com .

LUNDBERG S M ， LEE S I . A unified approach to interpreting model predictions ［C］// Proceedings of the 31st International Conference on Neural Information Processing Systems ， December 4-9 ， 2017 ， Long Beach， USA ： 4768 - 4777 .

RIBEIRO M T ， SINGH S ， GUESTRIN C . “Why should I trust you？”： explaining the predictions of any classifier ［C］// Proceedings of the 22nd ACM SIGKDD International Conference on Knowledge Discovery and Data Mining ， August 13-17 ， 2016 ， San Francisco， USA ： 1135 - 1144 .

SELVARAJU R R ， COGSWELL M ， DAS A ， et al . Grad-CAM： visual explanations from deep networks via gradient-based localization ［C］// 2017 IEEE International Conference on Computer Vision （ICCV） ， October 22-29 ， 2017 ， Venice， Italy ： 618 - 626 .

QUINLAN J R . C4 . 5 ： programs for machine learning ［M］. San Mateo， USA ： Morgan Kaufmann Publishers ， 1993.

BREIMAN L . Random forests ［J］. Machine Learning ， 2001 ， 45 （ 1 ）： 5 - 32 .

Xgboost developers . Python API reference—xgboost 2 . 0 . 1 documentation［EB/OL］. ［ 2023-11-06 ］. https：//xgboost.readthedocs.io/en/stable/python/python_api.html https://xgboost.readthedocs.io/en/stable/python/python_api.html .

刘雁文 ， 胡炎 ， 邰能灵 . 基于决策树的智能变电站运维专家系统规则提取方法 ［J］. 电力科学与技术学报 ， 2019 ， 34 （ 1 ）： 123 - 128 .

LIU Yanwen ， HU Yan ， TAI Nengling . Rule extraction method of operation and maintenance expert system for an intelligent substation based on the decision tree ［J］. Journal of Electric Power Science and Technology ， 2019 ， 34 （ 1 ）： 123 - 128 .

BAHDANAU D ， CHO K ， BENGIO Y . Neural machine translation by jointly learning to align and translate ［EB/OL］. ［ 2014-09-01 ］. https：//arxiv.org/abs/1409.0473.pdf https://arxiv.org/abs/1409.0473.pdf .

刘畅宇 ， 王小君 ， 尚博阳 ， 等 . 基于域自适应迁移学习的有源配电网故障选线方法 ［J/OL］. 高电压技术 ： 1 - 11 ［ 2023-11-05 ］. https：//doi.org/10.13336/j.1003-6520.hve.20230521 https://doi.org/10.13336/j.1003-6520.hve.20230521 .

LIU Changyu ， WANG Xiaojun ， SHANG Boyang ， et al . Fault line selection for active distribution network based on domain adaptive transfer learning ［J/OL］. High Voltage Engineering ： 1 - 11 ［ 2023-11-05 ］. https：//doi.org/10.13336/j.1003-6520.hve.20230521 https://doi.org/10.13336/j.1003-6520.hve.20230521 .

李佳玮 . 基于图神经网络的配电网故障定位方法 ［D］. 北京 ： 北京交通大学 ， 2023 .

LI Jiawei . Distribution network fault location based on graph neural network ［D］. Beijing ： Beijing Jiaotong University ， 2023 .

房佳姝 ， 刘崇茹 ， 苏晨博 ， 等 . 基于自注意力Transformer编码器的多阶段电力系统暂态稳定评估方法 ［J］. 中国电机工程学报 ， 2023 ， 43 （ 15 ）： 5745 - 5759 .

FANG Jiashu ， LIU Chongru ， SU Chenbo ， et al . Multi-stage transient stability assessment of power system based on self-attention Transformer encoder ［J］. Proceedings of the CSEE ， 2023 ， 43 （ 15 ）： 5745 - 5759 .

山衍浩 . 基于数据驱动的海上风机状态监测与故障诊断研究 ［D］. 上海 ： 上海电力大学 ， 2021 .

SHAN Yanhao . Data-driven research on condition monitoring and fault diagnosis of offshore wind turbine ［D］. Shanghai ： Shanghai Electric Power University ， 2021 .

苏向敬 ， 周汶鑫 ， 李超杰 ， 等 . 基于双重注意力LSTM神经网络的可解释海上风电出力预测 ［J］. 电力系统自动化 ， 2022 ， 46 （ 7 ）： 141 - 151 .

SU Xiangjing ， ZHOU Wenxin ， LI Chaojie ， et al . Interpretable offshore wind power output forecasting based on long short-term memory neural network with dual-stage attention ［J］. Automation of Electric Power Systems ， 2022 ， 46 （ 7 ）： 141 - 151 .

KUHN H W . Classics in game theory ［M］. Princeton， USA ： Princeton University Press ， 1997 .

孙庆凯 ， 王小君 ， 张义志 ， 等 . 基于LSTM和多任务学习的综合能源系统多元负荷预测 ［J］. 电力系统自动化 ， 2021 ， 45 （ 5 ）： 63 - 70 .

SUN Qingkai ， WANG Xiaojun ， ZHANG Yizhi ， et al . Multiple load prediction of integrated energy system based on long short-term memory and multi-task learning ［J］. Automation of Electric Power Systems ， 2021 ， 45 （ 5 ）： 63 - 70 .

周挺 ， 杨军 ， 詹祥澎 ， 等 . 一种数据驱动的暂态电压稳定评估方法及其可解释性研究 ［J］. 电网技术 ， 2021 ， 45 （ 11 ）： 4416 - 4425 .

ZHOU Ting ， YANG Jun ， ZHAN Xiangpeng ， et al . Data-driven method and interpretability analysis for transient voltage stability assessment ［J］. Power System Technology ， 2021 ， 45 （ 11 ）： 4416 - 4425 .

AN J ， YU J C ， LI Z H ， et al . A data-driven method for transient stability margin prediction based on security region ［J］. Journal of Modern Power Systems and Clean Energy ， 2020 ， 8 （ 6 ）： 1060 - 1069 .

KIM M ， JUN J A ， SONG Y J ， et al . Explanation for building energy prediction ［C］// 2020 International Conference on Information and Communication Technology Convergence （ICTC） ， October 21-23 ， 2020 ， Jeju， South Korea .

付磊 . 基于级联式深度学习的电力线路安全性检测算法研究 ［D］. 成都 ： 四川大学 ， 2021 .

FU Lei . Research on power line safety detection algorithm based on cascade deep learning ［D］. Chengdu ： Sichuan University ， 2021 .

何颖宣 . 基于多标签学习的螺栓多属性分类方法研究 ［D］. 北京 ： 华北电力大学 ， 2021 .

HE Yingxuan . Research on multi-attribute classification method of bolts based on multi-label learning ［D］. Beijing ： North China Electric Power University ， 2021 .

黄杰 . 基于深度学习的绝缘子憎水性识别与故障检测方法研究 ［D］. 长沙 ： 湖南大学 ， 2021 .

HUANG Jie . Research on insulator hydrophobic identification and fault detection method based on deep learning ［D］. Changsha ： Hunan University ， 2021 .

白玉莹 . 计及风资源时空特征的风电功率超短期预测研究 ［D］. 吉林 ： 东北电力大学 ， 2021 .

BAI Yuying . Research on ultra-short-term wind power forecasting considering the temporal and spatial characteristics of wind resources ［D］. Jilin ： Northeast Electric Power University ， 2021 .

荆凯 . 基于权重无关神经网络的风机功率超短期预测算法研究 ［D］. 银川 ： 宁夏大学 ， 2020 .

JING Kai . Research on ultra-short-term prediction algorithm of fan power based on weight-independent neural network ［D］. Yinchuan ： Ningxia University ， 2020 .

崔杨 ， 王议坚 ， 黄彦浩 ， 等 . 基于多元注意力框架与引导式监督学习的闭环风电功率超短期预测策略 ［J］. 中国电机工程学报 ， 2023 ， 43 （ 4 ）： 1334 - 1347 .

CUI Yang ， WANG Yijian ， HUANG Yanhao ， et al . Ultra-short-term forecasting strategy of closed-loop wind power based on multi-attention framework and guided supervised learning ［J］. Proceedings of the CSEE ， 2023 ， 43 （ 4 ）： 1334 - 1347 .

余长青 . 基于人工智能方法的风电消纳能力预测及消纳措施优化 ［D］. 重庆 ： 重庆大学 ， 2020 .

YU Changqing . Prediction of wind power absorptive capacity and optimization of absorptive measures based on artificial intelligence method ［D］. Chongqing ： Chongqing University ， 2020 .

HEO S ， KO J ， KIM S ， et al . Explainable AI-driven net-zero carbon roadmap for petrochemical industry considering stochastic scenarios of remotely sensed offshore wind energy ［J］. Journal of Cleaner Production ， 2022 ， 379 ： 134793 .

KUZLU M ， CALI U ， SHARMA V ， et al . Gaining insight into solar photovoltaic power generation forecasting utilizing explainable artificial intelligence tools ［J］. IEEE Access ， 2020 ， 8 ： 187814 - 187823 .

CHANG X M ， LI W ， MA J ， et al . Interpretable machine learning in sustainable edge computing： a case study of short-term photovoltaic power output prediction ［C］// 2020 IEEE International Conference on Acoustics， Speech and Signal Processing （ICASSP） ， May 4-8 ， 2020 ， Barcelona， Spain .

SARP S ， KUZLU M ， CALI U ， et al . An interpretable solar photovoltaic power generation forecasting approach using an explainable artificial intelligence tool ［C］// 2021 IEEE Power & Energy Society Innovative Smart Grid Technologies Conference （ISGT） ， February 16-18 ， 2021 ， Washington， USA .

BAHANI K ， ALI-OU-SALAH H ， MOUJABBIR M ， et al . A novel interpretable model for solar radiation prediction based on adaptive fuzzy clustering and linguistic hedges ［C］// Proceedings of the 13th International Conference on Intelligent Systems： Theories and Applications ， September 23-24 ， 2020 ， Rabat， Morocco ： 1 - 6 .

GAIER A ， HA D . Weight agnostic neural networks ［EB/OL］. ［ 2019-06-11 ］. https：//arxiv.org/abs/1906.04358.pdf https://arxiv.org/abs/1906.04358.pdf .

苏向敬 ， 聂良钊 ， 李超杰 ， 等 . 基于MSTAGNN模型的可解释海上风电场多风机出力预测 ［J］. 电力系统自动化 ， 2023 ， 47 （ 9 ）： 88 - 98 .

SU Xiangjing ， NIE Liangzhao ， LI Chaojie ， et al . Interpretable power output prediction of multiple wind turbines for offshore wind farm based on multiple spatio-temporal attention graph neural network model ［J］. Automation of Electric Power Systems ， 2023 ， 47 （ 9 ）： 88 - 98 .

ELI 5 . A library for debugging_inspecting machine learning classifiers and explaining their predictions ［EB/OL］. ［ 2023-11-06 ］. https：//github.com/eli5-org/eli5 https://github.com/eli5-org/eli5 .

AZEMENA H J ， AYADI A ， SAMET A . Explainable artificial intelligent as a solution approach to the duck curve problem ［J］. Procedia Computer Science ， 2022 ， 207 ： 2747 - 2756 .

武宇翔 ， 韩肖清 ， 牛哲文 ， 等 . 融合多注意力深度神经网络的可解释光伏功率区间预测 ［J/OL］. 电网技术 ： 1 - 19 ［ 2023-10-09 ］. https：//doi.org/10.13335/j.1000-3673.pst.2023.0978 https://doi.org/10.13335/j.1000-3673.pst.2023.0978 .

WU Yuxiang ， HAN Xiaoqing ， NIU Zhewen ， et al . Interpretable photovoltaic power interval prediction using multi-attention deep neural networks ［J/OL］. Power System Technology ： 1 - 19 ［ 2023-10-09 ］. https：//doi.org/10.13335/j.1000-3673.pst.2023.0978 https://doi.org/10.13335/j.1000-3673.pst.2023.0978 .

谷云东 ， 刘浩 . 基于最优特征组合改进极限梯度提升的负荷预测 ［J］. 计算机应用研究 ， 2021 ， 38 （ 9 ）： 2767 - 2772 .

GU Yundong ， LIU Hao . Load forecasting based on optimal feature combination improved XGBoost ［J］. Application Research of Computers ， 2021 ， 38 （ 9 ）： 2767 - 2772 .

GAO Y ， RUAN Y J . Interpretable deep learning model for building energy consumption prediction based on attention mechanism ［J］. Energy and Buildings ， 2021 ， 252 ： 111379 .

遆宝中 ， 李庚银 ， 武昭原 ， 等 . 基于循环扩张机制的ConvGRU-Transformer短期电力负荷预测方法 ［J］. 华北电力大学学报（自然科学版） ， 2022 ， 49 （ 3 ）： 34 - 43 .

TI Baozhong ， LI Gengyin ， WU Zhaoyuan ， et al . A short-term load forecasting method based on recurrent and dilated mechanism of ConvGRU-Transformer ［J］. Journal of North China Electric Power University （Natural Science Edition） ， 2022 ， 49 （ 3 ）： 34 - 43 .

吕忠麟 ， 顾洁 ， 孟璐 . 基于耦合特征与多任务学习的综合能源系统短期负荷预测 ［J］. 电力系统自动化 ， 2022 ， 46 （ 11 ）： 58 - 66 .

LYU Zhonglin ， GU Jie ， MENG Lu . Short-term load forecasting for integrated energy system based on coupling features and multi-task learning ［J］. Automation of Electric Power Systems ， 2022 ， 46 （ 11 ）： 58 - 66 .

CHUNG W J ， LIU C D . Analysis of input parameters for deep learning-based load prediction for office buildings in different climate zones using explainable artificial intelligence ［J］. Energy and Buildings ， 2022 ， 276 ： 112521 .

章超波 ， 刘永政 ， 李宏波 ， 等 . 基于加权残差聚类的建筑负荷预测区间估计 ［J］. 浙江大学学报（工学版） ， 2022 ， 56 （ 5 ）： 930 - 937 .

ZHANG Chaobo ， LIU Yongzheng ， LI Hongbo ， et al . Weighted residual clustering-based building load prediction interval estimation ［J］. Journal of Zhejiang University （Engineering Science） ， 2022 ， 56 （ 5 ）： 930 - 937 .

CHAKRABORTY D ， ALAM A ， CHAUDHURI S ， et al . Scenario-based prediction of climate change impacts on building cooling energy consumption with explainable artificial intelligence ［J］. Applied Energy ， 2021 ， 291 ： 116807 .

LI A ， XIAO F ， ZHANG C ， et al . Attention-based interpretable neural network for building cooling load prediction ［J］. Applied Energy ， 2021 ， 299 ： 117238 .

MOON J ， RHO S ， BAIK S W . Toward explainable electrical load forecasting of buildings： a comparative study of tree-based ensemble methods with Shapley values ［J］. Sustainable Energy Technologies and Assessments ， 2022 ， 54 ： 102888 .

张桢豪 . 新冠肺炎疫情下电力系统短期负荷预测模型及方法研究 ［D］. 南宁 ： 广西大学 ， 2022 .

ZHANG Zhenhao . Study on short-term load forecasting model and method of power system under COVID-19 epidemic situation ［D］. Nanning ： Guangxi University ， 2022 .

BOLSTAD D A ， CALI U ， KUZLU M ， et al . Day-ahead load forecasting using explainable artificial intelligence ［C］// 2022 IEEE Power & Energy Society Innovative Smart Grid Technologies Conference （ISGT） ， April 24-28 ， 2022 ， New Orleans， USA .

TIAN W . A review of sensitivity analysis methods in building energy analysis ［J］. Renewable and Sustainable Energy Reviews ， 2013 ， 20 ： 411 - 419 .

SHAMS AMIRI S ， MOTTAHEDI S ， LEE E R ， et al . Peeking inside the black-box： explainable machine learning applied to household transportation energy consumption ［J］. Computers， Environment and Urban Systems ， 2021 ， 88 ： 101647 .

GHAHRAMANI Z . An introduction to hidden Markov models and Bayesian networks ［J］. International Journal of Pattern Recognition and Artificial Intelligence ， 2001 ， 15 （ 1 ）： 9 - 42 .

WOOD-DOUGHTY Z ， CACHOLA I ， DREDZE M . Proxy model explanations for time series RNNs ［C］// 2021 20th IEEE International Conference on Machine Learning and Applications （ICMLA） ， December 13-16 ， 2021 ， Pasadena， USA .

ALOVA G ， TROTTER P A ， MONEY A . A machine-learning approach to predicting Africa’s electricity mix based on planned power plants and their chances of success ［J］. Nature Energy ， 2021 ， 6 （ 2 ）： 158 - 166 .

SACHIT M S ， SHAFRI H Z M ， ABDULLAH A F ， et al . Global spatial suitability mapping of wind and solar systems using an explainable AI-based approach ［J］. ISPRS International Journal of Geo-Information ， 2022 ， 11 （ 8 ）： 422 .

UTAMA C ， MESKE C ， SCHNEIDER J ， et al . Reactive power control in photovoltaic systems through （explainable） artificial intelligence ［J］. Applied Energy ， 2022 ， 328 ： 120004 .

MACHLEV R ， PERL M ， BELIKOV J ， et al . Measuring explainability and trustworthiness of power quality disturbances classifiers using XAI—explainable artificial intelligence ［J］. IEEE Transactions on Industrial Informatics ， 2022 ， 18 （ 8 ）： 5127 - 5137 .

ZHANG K ， ZHANG J ， XU P D ， et al . Explainable AI in deep reinforcement learning models for power system emergency control ［J］. IEEE Transactions on Computational Social Systems ， 2022 ， 9 （ 2 ）： 419 - 427 .

DAI X L ， CHENG S Y ， CHONG A . Deciphering optimal mixed-mode ventilation in the tropics using reinforcement learning with explainable artificial intelligence ［J］. Energy and Buildings ， 2023 ， 278 ： 112629 .

ZHANG K ， ZHANG J ， XU P D ， et al . A multi-hierarchical interpretable method for DRL-based dispatching control in power systems ［J］. International Journal of Electrical Power & Energy Systems ， 2023 ， 152 ： 109240 .

MILANI S ， TOPIN N ， VELOSO M ， et al . A survey of explainable reinforcement learning ［EB/OL］. ［ 2022-02-17 ］. https：//arxiv.org/abs/2202.08434.pdf https://arxiv.org/abs/2202.08434.pdf .

王甜婧 ， 汤涌 ， 郭强 ， 等 . 基于知识经验和深度强化学习的大电网潮流计算收敛自动调整方法 ［J］. 中国电机工程学报 ， 2020 ， 40 （ 8 ）： 2396 - 2406 .

WANG Tianjing ， TANG Yong ， GUO Qiang ， et al . Automatic adjustment method of power flow calculation convergence for large-scale power grid based on knowledge experience and deep reinforcement learning ［J］. Proceedings of the CSEE ， 2020 ， 40 （ 8 ）： 2396 - 2406 .

李鹏 ， 黄文琦 ， 王鑫 ， 等 . 数据与知识联合驱动的人工智能方法在电力调度中的应用综述 ［J/OL］. 电力系统自动化 ： 1 - 16 ［ 2023-06-30 ］. http：//kns.cnki.net/kcms/detail/32.1180.TP.20230608.1043.002.html http://kns.cnki.net/kcms/detail/32.1180.TP.20230608.1043.002.html .

LI Peng ， HUANG Wenqi ， WANG Xin ， et al . Review on application of combined data-knowledge-driven artificial intelligence methods in power dispatching ［J/OL］. Automation of Electric Power Systems ： 1 - 16 ［ 2023-06-30 ］. http：//kns.cnki.net/kcms/detail/32.1180.TP.20230608.1043.002.html http://kns.cnki.net/kcms/detail/32.1180.TP.20230608.1043.002.html .

刘潇 ， 刘书洋 ， 庄韫恺 ， 等 . 强化学习可解释性基础问题探索和方法综述 ［J］. 软件学报 ， 2023 ， 34 （ 5 ）： 2300 - 2316 .

LIU Xiao ， LIU Shuyang ， ZHUANG Yunkai ， et al . Explainable reinforcement learning： basic problems exploration and method survey ［J］. Journal of Software ， 2023 ， 34 （ 5 ）： 2300 - 2316 .

VOUROS G A . Explainable deep reinforcement learning： state of the art and challenges ［J］. ACM Computing Surveys ， 2022 ， 55 （ 5 ）： 92 .

HEUILLET A ， COUTHOUIS F ， DÍAZ-RODRÍGUEZ N . Explainability in deep reinforcement learning ［J］. Knowledge-Based Systems ， 2021 ， 214 ： 106685 .

MOTT A ， ZORAN D ， CHRZANOWSKI M ， et al . Towards interpretable reinforcement learning using attention augmented agents ［C］// Thirty-third Annual Conference on Neural Information Processing Systems ， December 8-14 ， 2019 ， Vancouver， Canada .

WU J D ， HUANG Z Y ， HU Z X ， et al . Toward human-in-the-loop AI： enhancing deep reinforcement learning via real-time human guidance for autonomous driving ［J］. Engineering ， 2023 ， 21 ： 75 - 91 .

杨博 ， 陈义军 ， 姚伟 ， 等 . 基于新一代人工智能技术的电力系统稳定评估与决策综述 ［J］. 电力系统自动化 ， 2022 ， 46 （ 22 ）： 200 - 223 .

YANG Bo ， CHEN Yijun ， YAO Wei ， et al . Review on stability assessment and decision for power systems based on new-generation artificial intelligence technology ［J］. Automation of Electric Power Systems ， 2022 ， 46 （ 22 ）： 200 - 223 .

高晗 ， 蔡国伟 ， 杨德友 ， 等 . 基于累积贡献率和可解释人工智能的静态电压稳定裕度估计特征量筛选方法 ［J］. 电力自动化设备 ， 2023 ， 43 （ 4 ）： 168 - 176 .

GAO Han ， CAI Guowei ， YANG Deyou ， et al . Feature selection approach based on FCC-eAI in static voltage stability margin estimation ［J］. Electric Power Automation Equipment ， 2023 ， 43 （ 4 ）： 168 - 176 .

KRUSE J ， SCHÄFER B ， WITTHAUT D . Revealing drivers and risks for power grid frequency stability with explainable AI ［J］. Patterns ， 2021 ， 2 （ 11 ）： 100365 .

HAN T S ， CHEN J F ， WANG L ， et al . Interpretation of stability assessment machine learning models based on shapley value ［C］// 2019 IEEE 3rd Conference on Energy Internet and Energy System Integration （EI2 ）， November 8-10 ， 2019 ， Changsha， China .

韩天森 ， 陈金富 ， 李银红 ， 等 . 电力系统稳定评估机器学习可解释代理模型研究 ［J］. 中国电机工程学报 ， 2020 ， 40 （ 13 ）： 4122 - 4131 .

HAN Tiansen ， CHEN Jinfu ， LI Yinhong ， et al . Study on interpretable surrogate model for power system stability evaluation machine learning ［J］. Proceedings of the CSEE ， 2020 ， 40 （ 13 ）： 4122 - 4131 .

WU S A ， ZHENG L ， HU W ， et al . Improved deep belief network and model interpretation method for power system transient stability assessment ［J］. Journal of Modern Power Systems and Clean Energy ， 2020 ， 8 （ 1 ）： 27 - 37 .

CHEN M H ， LIU Q Y ， CHEN S H ， et al . XGBoost-based algorithm interpretation and application on post-fault transient stability status prediction of power system ［J］. IEEE Access ， 2019 ， 7 ： 13149 - 13158 .

HAN X X ， JIN Y L ， WU G ， et al . A self-attention-embedded deep learning model for phasor measurement unit-based post-fault transient stability prediction ［C］// 2022 Asian Conference on Frontiers of Power and Energy （ACFPE） ， October 21-23 ， 2022 ， Chengdu， China .

贾宏阳 ， 侯庆春 ， 刘羽霄 ， 等 . 基于斜回归树及其集成算法的静态电压稳定规则提取 ［J］. 电力系统自动化 ， 2022 ， 46 （ 1 ）： 51 - 59 .

JIA Hongyang ， HOU Qingchun ， LIU Yuxiao ， et al . Extraction of static voltage stability rule based on oblique regression tree and its ensemble algorithm ［J］. Automation of Electric Power Systems ， 2022 ， 46 （ 1 ）： 51 - 59 .

CREMER J L ， KONSTANTELOS I ， STRBAC G . From optimization-based machine learning to interpretable security rules for operation ［J］. IEEE Transactions on Power Systems ， 2019 ， 34 （ 5 ）： 3826 - 3836 .

REN C ， XU Y ， ZHANG R . An interpretable deep learning method for power system transient stability assessment via tree regularization ［J］. IEEE Transactions on Power Systems ， 2022 ， 37 （ 5 ）： 3359 - 3369 .

赵恺 ， 石立宝 . 基于改进一维卷积神经网络的电力系统暂态稳定评估 ［J］. 电网技术 ， 2021 ， 45 （ 8 ）： 2945 - 2957 .

ZHAO Kai ， SHI Libao . Transient stability assessment of power system based on improved one-dimensional convolutional neural network ［J］. Power System Technology ， 2021 ， 45 （ 8 ）： 2945 - 2957 .

陈明华 ， 刘群英 ， 张家枢 ， 等 . 基于XGBoost的电力系统暂态稳定预测方法 ［J］. 电网技术 ， 2020 ， 44 （ 3 ）： 1026 - 1034 .

CHEN Minghua ， LIU Qunying ， ZHANG Jiashu ， et al . XGBoost-based algorithm for post-fault transient stability status prediction ［J］. Power System Technology ， 2020 ， 44 （ 3 ）： 1026 - 1034 .

陈明华 . 电力系统暂态稳定性智能评估方法研究 ［D］. 成都 ： 电子科技大学 ， 2019 .

CHEN Minghua . Research on intelligent evaluation method of power system transient stability ［D］. Chengdu ： University of Electronic Science and Technology of China ， 2019 .

胡润滋 ， 马晓忱 ， 孙博 ， 等 . 基于特征选择的暂态安全评估方法及其可解释性研究 ［J］. 电网技术 ， 2023 ， 47 （ 2 ）： 755 - 763 .

HU Runzi ， MA Xiaochen ， SUN Bo ， et al . Transient security assessment method based on feature selection and its interpretive approach ［J］. Power System Technology ， 2023 ， 47 （ 2 ）： 755 - 763 .

王强 ， 陈浩 ， 刘炼 . 基于自然梯度提升的静态电压稳定裕度预测及其影响因素分析 ［J］. 电力系统及其自动化学报 ， 2022 ， 34 （ 9 ）： 130 - 137 .

WANG Qiang ， CHEN Hao ， LIU Lian . Prediction of static voltage stability margin based on natural gradient lifting and analysis of its influencing factors ［J］. Proceedings of the CSU-EPSA ， 2022 ， 34 （ 9 ）： 130 - 137 .

朱春霖 ， 余成波 . 基于LightGBM算法的光伏并网系统孤岛检测及其集成的可解释研究 ［J］. 电力自动化设备 ， 2023 ， 43 （ 7 ）： 80 - 86 .

ZHU Chunlin ， YU Chengbo . Islanding detection of grid-connected photovoltaic system based on LightGBM algorithm and its integrated interpretability analysis ［J］. Electric Power Automation Equipment ， 2023 ， 43 （ 7 ）： 80 - 86 .

APLEY D W ， ZHU J Y . Visualizing the effects of predictor variables in black box supervised learning models ［J］. Journal of the Royal Statistical Society Series B： Statistical Methodology ， 2020 ， 82 （ 4 ）： 1059 - 1086 .

向玮华 ， 班连庚 ， 周佩朋 . 基于机器学习可解释代理模型的风电次同步振荡在线预测及优化控制方法 ［J］. 电力系统保护与控制 ， 2021 ， 49 （ 16 ）： 67 - 75 .

XIANG Weihua ， BAN Liangeng ， ZHOU Peipeng . Online prediction and optimal control method for subsynchronous oscillation of wind power based on an interpretable surrogate model for machine learning ［J］. Power System Protection and Control ， 2021 ， 49 （ 16 ）： 67 - 75 .

YUAN H ， YU H Y ， GUI S R ， et al . Explainability in graph neural networks： a taxonomic survey ［J］. IEEE Transactions on Pattern Analysis and Machine Intelligence ， 2022 ： 1 - 19 .

AGARWAL C ， QUEEN O ， LAKKARAJU H ， et al . Evaluating explainability for graph neural networks ［J］. Scientific Data ， 2023 ， 10 ： 144 .

LI T ， DENG J L ， SHEN Y Y ， et al . Towards fine-grained explainability for heterogeneous graph neural network ［J］. Proceedings of the AAAI Conference on Artificial Intelligence ， 2023 ， 37 （ 7 ）： 8640 - 8647 .

MIKA G P ， BOUZEGHOUB A ， WEGRZYN-WOLSKA K ， et al . HGExplainer： explainable heterogeneous graph neural network ［EB/OL］. ［ 2023-11-06 ］. https：//hal.science/hal-04220962 https://hal.science/hal-04220962 .

CHANG S Y ， HAN W ， TANG J L ， et al . Heterogeneous network embedding via deep architectures ［C］// Proceedings of the 21st ACM SIGKDD International Conference on Knowledge Discovery and Data Mining ， August 10-13 ， 2015 ， Sydney， Australia ： 119 - 128 .

ZHAO Y ， LIU Z ， SUN M . Representation learning for measuring entity relatedness with rich information ［C］// Proceedings of the Twenty-Fourth International Joint Conference on Artificial Intelligence ， July 25-31 ， 2015 ， Buenos Aires， Argentina .

刘志远 ， 于晓军 ， 罗美玲 ， 等 . 基于CBAM-FCN的高压输电线路发展性故障识别方法 ［J］. 电网与清洁能源 ， 2022 ， 38 （ 9 ）： 25 - 33 .

LIU Zhiyuan ， YU Xiaojun ， LUO Meiling ， et al . Developmental fault identification method of high voltage transmission line based on CBAM-FCN ［J］. Power System and Clean Energy ， 2022 ， 38 （ 9 ）： 25 - 33 .

WOO S ， PARK J ， LEE J Y ， et al . CBAM： convolutional block attention module ［M］// Computer Vision-ECCV 2018 . Cham ： Springer International Publishing ， 2018 ： 3 - 19 .

SANTOS O L D ， DOTTA D ， WANG M ， et al . Performance analysis of a DNN classifier for power system events using an interpretability method ［J］. International Journal of Electrical Power & Energy Systems ， 2022 ， 136 ： 107594 .

RAISSI M ， PERDIKARIS P ， KARNIADAKIS G E . Physics-informed neural networks： a deep learning framework for solving forward and inverse problems involving nonlinear partial differential equations ［J］. Journal of Computational Physics ， 2019 ， 378 ： 686 - 707 .

SAIRAM S ， SESHADHRI S ， MARAFIOTI G ， et al . Edge-based explainable fault detection systems for photovoltaic panels on edge nodes ［J］. Renewable Energy ， 2022 ， 185 ： 1425 - 1440 .

UTAMA C ， MESKE C ， SCHNEIDER J ， et al . Explainable artificial intelligence for photovoltaic fault detection： a comparison of instruments ［J］. Solar Energy ， 2023 ， 249 ： 139 - 151 .

RIBEIRO M T ， SINGH S ， GUESTRIN C . Anchors： high-precision model-agnostic explanations ［J］. Proceedings of the AAAI Conference on Artificial Intelligence ， 2018 ， 32 （ 1 ）： 1527 - 1535 .

MOTHILAL R K ， SHARMA A ， TAN C H . Explaining machine learning classifiers through diverse counterfactual explanations ［C］// Proceedings of the 2020 Conference on Fairness， Accountability， and Transparency ， January 27-30 ， 2020 ， Barcelona， Spain ： 607 - 617 .

苏向敬 ， 山衍浩 ， 周汶鑫 ， 等 . 基于GRU和注意力机制的海上风机齿轮箱状态监测 ［J］. 电力系统保护与控制 ， 2021 ， 49 （ 24 ）： 141 - 149 .

SU Xiangjing ， SHAN Yanhao ， ZHOU Wenxin ， et al . GRU and attention mechanism-based condition monitoring of an offshore wind turbine gearbox ［J］. Power System Protection and Control ， 2021 ， 49 （ 24 ）： 141 - 149 .

GOLIZADEH AKHLAGHI Y ， ASLANSEFAT K ， ZHAO X D ， et al . Hourly performance forecast of a dew point cooler using explainable artificial intelligence and evolutionary optimisations by 2050 ［J］. Applied Energy ， 2021 ， 281 ： 116062 .

ZAHHARI S ， LE J P ， GROSSIN B ， et al . DataPoste： a mobile application based on Understandable Deep Learning to characterise electrical equipment in secondary distribution substation ［C］// CIRED 2021-The 26th International Conference and Exhibition on Electricity Distribution ， September 20-23 ， 2021 .

WANG H F ， WANG Z F ， DU M N ， et al . Score-CAM： score-weighted visual explanations for convolutional neural networks ［C］// 2020 IEEE/CVF Conference on Computer Vision and Pattern Recognition Workshops （CVPRW） ， June 14-19 ， 2020 ， Seattle， USA .

许格健 . 电池储能系统典型单元运行状态参数预测方法研究 ［D］. 吉林 ： 东北电力大学 ， 2020 .

XU Gejian . Study on prediction method of operating state parameters of typical cells in battery energy storage system ［D］. Jilin ： Northeast Electric Power University ， 2020 .

滕曦 . 基于Stacking融合模型的新能源汽车动力电池SOC预测研究 ［D］. 重庆 ： 重庆工商大学 ， 2022 .

TENG Xi . Research on SOC prediction of power battery of new energy vehicle based on Stacking fusion model ［D］. Chongqing ： Chongqing Technology and Business University ， 2022 .

JOSHI G ， WALAMBE R ， KOTECHA K . A review on explainability in multimodal deep neural nets ［J］. IEEE Access ， 2021 ， 9 ： 59800 - 59821 .

PEARL J . Causality ［M］. Cambridge， UK ： Cambridge University Press ， 2009 .

PEARL J ， MACKENZIE D . The book of why： the new science of cause and effect ［M］. New York， USA ： Basic Books ， 2018 .

SCHWARZ G . Estimating the dimension of a model ［J］. The Annals of Statistics ， 1978 ， 6 （ 2 ）： 461 - 464 .

BELTRÁN S ， CASTRO A ， IRIZAR I ， et al . Framework for collaborative intelligence in forecasting day-ahead electricity price ［J］. Applied Energy ， 2022 ， 306 ： 118049 .

刘慧鑫 ， 沈晓东 ， 魏泽涛 ， 等 . 基于校准窗口集成与耦合市场特征的可解释双层日前电价预测 ［J/OL］. 中国电机工程学报 ： 1 - 14 ［ 2023-04-18 ］. http：//kns.cnki.net/kcms/detail/11.2107.TM.20221107.1537.010.html http://kns.cnki.net/kcms/detail/11.2107.TM.20221107.1537.010.html .

LIU Huixin ， SHEN Xiaodong ， WEI Zetao ， et al . Interpretable two-layer day-ahead electricity price forecast based on calibration window combination and coupled market characteristics ［J］. Proceedings of the CSEE： 1 - 14 ［ 2023-04-18 ］. http：//kns.cnki.net/kcms/detail/11.2107.TM.20221107.1537.010.html http://kns.cnki.net/kcms/detail/11.2107.TM.20221107.1537.010.html .

MA H N ， MCAREAVEY K ， MCCONVILLE R ， et al . Explainable AI for non-experts： energy tariff forecasting ［C］// 2022 27th International Conference on Automation and Computing （ICAC） ， September 1-3 ， 2022 ， Bristol， UK .

吴洋 ， 辛茹 ， 邹文滔 ， 等 . 提升电力现货市场出清结果可解释性的综合分析方法 ［J］. 南方电网技术 ， 2022 ， 16 （ 6 ）： 113 - 123 .

WU Yang ， XIN Ru ， ZOU Wentao ， et al . Comprehensive analysis method for enhancing the explainability of electricity spot market clearing results ［J］. Southern Power System Technology ， 2022 ， 16 （ 6 ）： 113 - 123 .

LIU Z C ， ZHU Y Y ， WANG Z ， et al . MIXRTs： toward interpretable multi-agent reinforcement learning via mixing recurrent soft decision trees ［EB/OL］. ［ 2022-09-15 ］. https：//arxiv.org/abs/2209.07225.pdf https://arxiv.org/abs/2209.07225.pdf .

MILANI S ， ZHANG Z C ， TOPIN N ， et al . MAVIPER： learning decision tree policies for Interpretable multi-agent reinforcement learning ［M］// Machine Learning and Knowledge Discovery in Databases . Cham ： Springer Nature Switzerland ， 2023 ： 251 - 266 .

MOTOKAWA Y ， SUGAWARA T . MAT-DQN： toward interpretable multi-agent deep reinforcement learning for coordinated activities ［C］// Proceedings of Artificial Neural Networks and Machine Learning-ICANN 2021： 30th International Conference on Artificial Neural Networks ， September 14-17 ， 2021 ， Bratislava， Slovakia ： 556 - 567 .

WANG G . Interpret federated learning with Shapley values ［EB/OL］. ［ 2023-05-11 ］. https：//arxiv.org/abs/1905.04519.pdf https://arxiv.org/abs/1905.04519.pdf .

纪守领 ， 李进锋 ， 杜天宇 ， 等 . 机器学习模型可解释性方法、应用与安全研究综述 ［J］. 计算机研究与发展 ， 2019 ， 56 （ 10 ）： 2071 - 2096 .

JI Shouling ， LI Jinfeng ， DU Tianyu ， et al . Survey on techniques， applications and security of machine learning interpretability ［J］. Journal of Computer Research and Development ， 2019 ， 56 （ 10 ）： 2071 - 2096 .

RUDIN C . Stop explaining black box machine learning models for high stakes decisions and use interpretable models instead ［J］. Nature Machine Intelligence ， 2019 ， 1 （ 5 ）： 206 - 215 .

ZHA D C ， BHAT Z P ， LAI K H ， et al . Data-centric artificial intelligence： a survey ［EB/OL］. ［ 2023-03-17 ］. https：//arxiv.org/abs/2303.10158.pdf https://arxiv.org/abs/2303.10158.pdf .

薛禹胜 ， 赖业宁 . 大能源思维与大数据思维的融合：（一）大数据与电力大数据 ［J］. 电力系统自动化 ， 2016 ， 40 （ 1 ）： 1 - 8 .

XUE Yusheng ， LAI Yening . Integration of macro energy thinking and big data thinking： Part one big data and power big data ［J］. Automation of Electric Power Systems ， 2016 ， 40 （ 1 ）： 1 - 8 .

李峰 ， 王琦 ， 胡健雄 ， 等 . 数据与知识联合驱动方法研究进展及其在电力系统中应用展望 ［J］. 中国电机工程学报 ， 2021 ， 41 （ 13 ）： 4377 - 4390 .

LI Feng ， WANG Qi ， HU Jianxiong ， et al . Combined data-driven and knowledge-driven methodology research advances and its applied prospect in power systems ［J］. Proceedings of the CSEE ， 2021 ， 41 （ 13 ）： 4377 - 4390 .

王琦 ， 李峰 ， 汤奕 ， 等 . 基于物理-数据融合模型的电网暂态频率特征在线预测方法 ［J］. 电力系统自动化 ， 2018 ， 42 （ 19 ）： 1 - 9 .

WANG Qi ， LI Feng ， TANG Yi ， et al . On-line prediction method of transient frequency characteristics for power grid based on physical-statistical model ［J］. Automation of Electric Power Systems ， 2018 ， 42 （ 19 ）： 1 - 9 .