电子学报 ›› 2019, Vol. 47 ›› Issue (6): 1331-1336.DOI: 10.3969/j.issn.0372-2112.2019.06.021

• 学术论文 • 上一篇    下一篇

融合耦合距离区分度和强类别特征的短文本相似度计算方法

马慧芳1,2,3, 刘文1, 李志欣3, 蔺想红1   

  1. 1. 西北师范大学计算机科学与工程学院, 甘肃兰州 730000;
    2. 桂林电子科技大学广西可信软件重点 实验室, 广西桂林 541004;
    3. 广西师范大学广西多源信息挖掘与安全重点实验室, 广西桂林 541004
  • 收稿日期:2018-01-30 修回日期:2019-03-11 出版日期:2019-06-25 发布日期:2019-06-25
  • 通讯作者: 马慧芳
  • 作者简介:刘文 男,1994年8月出生,甘肃定西人.西北师范大学计算机科学与工程学院硕士研究生.研究方向为机器学习.E-mail:nwnuliuw@yeah.net;李志欣 男,1971年10月出生,广西桂林人.博士,博士生导师,现为广西师范大学计算机科学与信息工程学院教授.研究方向为图像理解、机器学习.E-mail:lizx@gxnu.edu.cn;蔺想红 男,1976年1月出生,甘肃天水人.2009年获哈尔滨工业大学计算机应用技术专业博士学位,现任西北师范大学计算机科学与工程学院教授,硕士生导师.研究方向为神经网络与深度学习、大数据分析.E-mail:linxh@nwnu.edu.cn
  • 基金资助:
    国家自然科学基金(No.61762078,No.61363058,No.61663004);广西多源信息挖掘与安全重点实验室开放基金项目(No.MIMS18-08);广西可信软件重点实验室研究课题(No.KX201705)

Combining Coupled Distance Discrimination and Strong Classifica-tion Features for Short Text Similarity Calculation

MA Hui-fang1,2,3, LIU Wen1, LI Zhi-xin3, LIN Xiang-hong1   

  1. 1. College of Computer Science and Engineering, Northwest Normal University, Lanzhou, Gansu 730000, China;
    2. Guangxi Key Laboratory of Trusted Software, Guilin University of Electronic Technology, Guilin, Guangxi 541004, China;
    3. Guangxi Key Lab of Multi-source Information Mining and Security, Guangxi Normal University, Guilin, Guangxi 541004, China
  • Received:2018-01-30 Revised:2019-03-11 Online:2019-06-25 Published:2019-06-25

摘要: 短文本相似度计算在社会网络、文本挖掘和自然语言处理等领域中起着至关重要的作用.针对短文本内容简短、特征稀疏等特点,以及传统的短文本相似度计算忽略类别信息等问题,提出一种融合耦合距离区分度和强类别特征的短文本相似度计算方法.一方面,在整个短文本语料库中利用两个共现词之间的距离计算词项共现距离相关度,并以此来对词项加权从而捕获词项间内联和外联关系,得到短文本的耦合距离区分度相似度;另一方面,基于少量带类别标签的监督数据提取每类中强类别区分能力的特征项作为强类别特征集合,并利用词项的上下文来对强类别特征语义消歧,然后基于文本间包含相同类别的强类别特征数量来衡量文本间的相似度.最后,本文结合耦合距离区分度和强类别特征来衡量短文本的相似度.经实验证明本文提出的方法能够提高短文本相似度计算的准确率.

关键词: 文本挖掘, 自然语言处理, 文本聚类, 社会网络, 耦合关系, 特征提取, 语义消歧, 相似度计算

Abstract: Text similarity measures play a vital role in text related applications in tasks such as social networks,text mining,natural language processing,and others.The typical characteristics of short texts demonstrate severe sparseness and high dimension while the traditional short texts similarity calculation always ignores category information.A coupled distance discrimination and strong classification features based approach for short text similarity calculation,CDDCF,is presented.On the one hand,co-occurrence distance between terms are considered in each text to determine the co-occurrence distance correlation,based on which the weight for each term can be determined and the intra and inter relations between words are established.The similarity of coupling distance discrimination on short text can be captured.On the other hand,strong classification features are extracted via labeled texts.The similarity between two short texts is measured by using the common number of strong discrimination features with the same context.Finally,the distance discrimination and strong classification features are unified into a joint framework to measure the similarity of short texts.Experimental results show that CDDCF performs better compared to baseline algorithms in term of its performance and efficiency of similarity computation.

Key words: text mining, natural language processing, text clustering, social network, coupling relation, feature extraction, word sense disambiguation, similarity computation

中图分类号: