Multi-label Text Classification for Power ICT Custom Service System Based on Binary Relevance and Gradient Boosting Decision Tree

Xuehao YU; Ziyan ZHAO; Yinglong MA; Rongrong ZHENG; Ziyue XI; Chao MA

doi:10.7500/AEPS20200511001

您当前的位置：

首页 >

文章列表页 >

Multi-label Text Classification for Power ICT Custom Service System Based on Binary Relevance and Gradient Boosting Decision Tree

Application Research | 更新时间：2025-06-16

- Multi-label Text Classification for Power ICT Custom Service System Based on Binary Relevance and Gradient Boosting Decision Tree
- Automation of Electric Power Systems Vol. 45, Issue 11, Pages: 144-151(2021)
- 作者机构：
  
  1.国家电网有限公司信息通信分公司，北京市 100761
  2.华北电力大学控制与计算机工程学院，北京市 102206
  3.国网山东省电力公司信息通信公司，山东省济南市 250001
- 作者简介：
- 基金信息：
  
  State Grid Corporation of China;National Key R&D Program of China
- DOI：10.7500/AEPS20200511001
  CLC：
- Received：11 May 2020，
  
  Revised：2020-11-17，
  
  Published Online：31 January 2021，
  
  Published：10 June 2021
- 稿件说明：
移动端阅览
俞学豪,赵子岩,马应龙等.基于BR和GBDT的电力信息通信客服系统多标签文本分类[J].电力系统自动化,2021,45(11):144-151.

YU Xuehao,ZHAO Ziyan,MA Yinglong,et al.Multi-label Text Classification for Power ICT Custom Service System Based on Binary Relevance and Gradient Boosting Decision Tree[J].Automation of Electric Power Systems,2021,45(11):144-151.
俞学豪,赵子岩,马应龙等.基于BR和GBDT的电力信息通信客服系统多标签文本分类[J].电力系统自动化,2021,45(11):144-151. DOI： 10.7500/AEPS20200511001.

YU Xuehao,ZHAO Ziyan,MA Yinglong,et al.Multi-label Text Classification for Power ICT Custom Service System Based on Binary Relevance and Gradient Boosting Decision Tree[J].Automation of Electric Power Systems,2021,45(11):144-151. DOI： 10.7500/AEPS20200511001.

摘要

现有电力信息通信（ICT）客服系统主要依靠客服坐席员经验，根据电力ICT系统用户报修信息进行故障类型分类判别，存在在线处理及时性较差、准确性不足的问题。针对上述问题，提出了一种基于集成学习的电力ICT客服系统文本数据的多标签文本分类方法，实现对电力ICT系统的复杂故障类型进行自动化、高准确率分类识别。首先，针对电力ICT系统故障类型识别准确率偏低且低效的问题，提出了基于二元相关性(BR)和梯度提升决策树(GBDT)集成学习的多标签分类方法，将BR和GBDT有机结合实现自动化、高准确率的故障多标签分类。其次，针对电力ICT客服文本数据的多标签分类训练集难以获取的问题，提出一种面向电力ICT客服文本数据的多标签训练集自动化构建方法，实现了高效的电力ICT客服文本多标签分类。实验表明，BR-GBDT方法可以高效处理电力ICT系统复杂故障类型的多标签分类任务，分类性能也优于BR+逻辑回归(LR)和多标签k最近邻(ML-kNN)等典型的集成学习多标签分类方法。

Abstract

The current power information and communication technology (ICT) custom service system mainly relies on the personal experience of custom service staff to judge fault types according to faults reported by ICT system users. It has the problems of processing untimeliness and inaccuracy. To solve these problems

an multi-label text classification method based on ensemble learning for the power ICT custom service system is proposed which can automatically and accurately identifies the complex fault types of power ICT systems. First

for the problem of low accuracy and efficiency when identifying ICT fault types

an ensemble method based on binary relevance-gradient boosting decision tree (BR-GBDT) is proposed for multi-label text classification

which combines binary relevance and gradient boosting decision tree to improve the classification accuracy. Second

to solve the difficulty in the construction of the multi-label classification training set of power ICT custom service data

an automatic approach is presented to construct the training set of power ICT custom service text

so that efficient classification is realized for power ICT custom service text. Experiment results show that the BR-GBDT method can not only efficiently handle the multi-label classification of power ICT custom service system faults

but also has a better performance than other typical multi-label classification methods

such as BR+logistic regression (LR) and multi-label k-nearest neighbor (ML-kNN).

关键词

Keywords

references

邵冠宇，王慧芳，吴向宏，等 . 基于依存句法分析的电力设备缺陷文本信息精确辨识方法［J］. 电力系统自动化， 2020 ， 44 （ 12 ）： 178 - 189 .

SHAO Guanyu ， WANG Huifang ， WU Xianghong ， et al . Precise information identification method of power equipment defect text based on dependency parsing ［J］. Automation of Electric Power Systems ， 2020 ， 44 （ 12 ）： 178 - 189 .

张逸，李渴，邵振国，等 . 基于标准文件的电能质量领域本体构建方法［J］. 电力系统自动化， 2020 ， 44 （ 17 ）： 102 - 111 .

ZHANG Yi ， LI Ke ， SHAO Zhenguo ， et al . Standard files based ontology construction method in power quality domain ［J］. Automation of Electric Power Systems ， 2020 ， 44 （ 17 ）： 102 - 111 .

汪崔洋，江全元，唐雅洁，等 . 基于告警信号文本挖掘的电力调度故障诊断［J］. 电力自动化设备， 2019 ， 39 （ 4 ）： 126 - 132 .

WANG Cuiyang ， JIANG Quanyuan ， TANG Yajie ， et al . Fault diagnosis of power dispatching based on alarm signal text mining ［J］. Electric Power Automation Equipment ， 2019 ， 39 （ 4 ）： 126 - 132 .

王浩，杨东升，周博文，等 . 基于并联卷积神经网络的多端直流输电线路故障诊断［J］. 电力系统自动化， 2020 ， 44 （ 12 ）： 84 - 95 .

WANG Hao ， YANG Dongsheng ， ZHOU Bowen ， et al . Fault diagnosis of multi-terminal HVDC transmission line based on parallel convolutional neural network ［J］. Automation of Electric Power Systems ， 2020 ， 44 （ 12 ）： 84 - 95 .

杜修明，秦佳峰，郭诗瑶，等 . 电力设备典型故障案例的文本挖掘［J］. 高电压技术， 2018 ， 44 （ 4 ）： 1078 - 1084 .

DU Xiuming ， QIN Jiafeng ， GUO Shiyao ， et al . Text mining of typical defects in power equipment ［J］. High Voltage Engineering ， 2018 ， 44 （ 4 ）： 1078 - 1084 .

LECUN Y ， BOTTOU L ， BENGIO Y ， et al . Gradient-based learning applied to document recognition ［J］. Proceedings of the IEEE ， 1998 ， 86 （ 11 ）： 2278 - 2324 .

邱剑，王慧芳，应高亮，等 . 文本信息挖掘技术及其在断路器全寿命状态评价中的应用［J］. 电力系统自动化， 2016 ， 40 （ 6 ）： 107 - 112 .

QIU Jian ， WANG Huifang ， YING Gaoliang ， et al . Text mining technique and application of lifecycle condition assessment for circuit breaker ［J］. Automation of Electric Power Systems ， 2016 ， 40 （ 6 ）： 107 - 112 .

RUDIN C ， WALTZ D ， ANDERSON R N ， et al . Machine learning for the New York City power grid ［J］. IEEE Transactions on Pattern Analysis and Machine Intelligence ， 2012 ， 34 （ 2 ）： 328 - 345 .

SUN Haifeng ， WANG Zhaoyu ， WANG Jianhui ， et al . Data-driven power outage detection by social sensors ［J］. IEEE Transactions on Smart Grid ， 2016 ， 7 （ 5 ）： 2516 - 2524 .

EVA G ， SEBASTIAN V . A tutorial on multi-label learning ［J］. ACM Computing Surveys ， 2015 ， 47 （ 3 ）： 497 - 534 .

ALAN S R J P ， VALIATI J F . An analysis of hierarchical text classification using word embeddings ［J］. Information Sciences ， 2019 ， 471 （ 2 ）： 216 - 232 .

PANE R A ， MUBAAOK M S ， HUDA N ， et al . A multi-lable classification on topics of quranic verses in English translation using multinomial naive bayes ［C］// 2018 6th International Conference on Information and Communication Technology （ICoICT）， May 3 ， 2018 ， Bandung ， Indonesia： 481 - 484 .

ZHANG Minling ， ZHOU Zhihua . A review on multi-label learning algorithms ［J］. IEEE Transactions on Knowledge and Data Engineering ， 2014 ， 26 （ 8 ）： 1819 - 1837 .

ZHANG Minling ， LI Yukun ， LIU Xuying ， et al . Binary relevance for multi-label learning： an overview ［J］. Frontiers of Computer Science ， 2018 ， 12 （ 2 ）： 191 - 202 .

KE G ， MENG Q ， FINLEY T ， et al . LightGBM： a highly efficient gradient boosting decision tree ［C］// 2017 Advances in Neural Information Processing Systems （NIPS 2017 ）， December 8 ， 2017 ， Long Beach ， USA： 3147 - 3155 .

Python Software Foundation . Jeiba word segmentation ［EB/OL］. （ 2020-01-20 ）［ 2020-05-01 ］. https：//pypi.org/project/jieba/ https://pypi.org/project/jieba/ .

王景中，邱铜相 . 基于TF-IDF改进算法的聚焦主题网络爬虫［J］. 计算机应用， 2015 ， 35 （ 10 ）： 2901 - 2904 .

WANG Jingzhong ， QIU Tongxiang . Focused topic web crawler based on improved TF-IDF algorithm ［J］. Journal of Computer Applications ， 2015 ， 35 （ 10 ）： 2901 - 2904 .

MIKOLOV T ， CHEN K ， CORRADO G ， DEAN J . Efficient estimation of word representations in vector space ［EB/OL］. （ 2013-09-07 ）［ 2020-05-01 ］. https：//arxiv.org/abs/1301.3781 https://arxiv.org/abs/1301.3781 .

ZHANG M ， ZHOU Z . ML-KNN： a lazy learning approach to multi-label learning pattern recognition ［J］. Pattern Recognition ， 2007 ， 40 （ 7 ）： 2038 - 2048 .

ELISSEEFF A ， WEATON J . A kernel method for multi-labelled classification ［C］// 15th Annual Conference on Neural Information Processing Systems （NIPS 2001 ）， December 3 ， 2001 ， Vancouver ， Canada： 681 - 687 .

WU G ， ZHENG R ， TIAN Y ， et al . Joint ranking SVM and binary relevance with robust low-rank learning for multi-label classification ［J］. Neural Networks ， 2020 ， 122 （ 5 ）： 24 - 39 .

READ J ， PFAHRINGER B ， HOLMES G ， et al . Classifier chains for multi-label classification ［J］. Machine Learning ， 2011 ， 85 （ 3 ）： 333 - 359 .

KONG X ， PHILIPS S Y . An ensemble-based approach to fast classification of multi-label data streams ［C］// 7th International Conference on Collaborative Computing： Networking ， Applications and Worksharing （CollaborateCom）， October 14 ， 2012 ， Pittsburgh ， USA： 95 - 104 .

Views

下载量

CSCD

Alert me when the article has been cited

提交

Tools

Publicity Resources

Precise Information Identification Method of Power Equipment Defect Text Based on Dependency Parsing

文本信息挖掘技术及其在断路器全寿命状态评价中的应用

Related Author

Chao MA

Huifang WANG

Benteng HE

Jianhong LI

Jinlong LU

Xianghong WU

Guanyu SHAO

QIU Jian

Related Institution

Information Telecommunication Company, Shandong Electric Power Corporation

College of Electrical Engineering, Zhejiang University

Zhejiang Huayun Information Technology Co., Ltd.

⁰