大规模主题词自动标引方法 |
| |
引用本文: | 韩红旗,桂婕,张运良,翁梦娟,薛陕,悦林东.大规模主题词自动标引方法[J].情报学报,2022(5):475-485. |
| |
作者姓名: | 韩红旗 桂婕 张运良 翁梦娟 薛陕 悦林东 |
| |
作者单位: | 1. 中国科学技术信息研究所;2. 富媒体数字出版内容组织与知识服务重点实验室(国家新闻出版署) |
| |
摘 要: | 现有的主题标引方法一般只能抽取文本中出现的词汇,无法从几万或数十万主题词中选择语义关联强且未出现的词汇;基于机器学习的多标签分类算法则需要每一个标签下有训练数据,限制了它们在主题标引上的应用。面向大规模主题词在海量文献上的标引需求,提出一个基于分布式词向量的混合型自动标引方法,利用大规模语料训练的词向量生成同维度的主题词表示向量和文本表示向量,实现主题词与文本语义相似度的计算。基于大规模语料构建主题词与普通词的映射表,使文本向量只和少量的语义强相关主题词向量比较,大大减少了计算量,提高了标引效率。开发的自动标引工具对近亿篇文献进行了主题标引,达到了较高的速度。与结巴关键词的实验对比结果显示,本文方法抽取的主题词与作者关键词重合度较低,且在去除结巴关键词中的非主题词后,取得了比结巴关键词更高的标引准确率;与人工标引的实验对比结果显示,随着人工标引词数量的增加,本文方法的效果、结果与人工标引结果的一致性在不断增加。
|
关 键 词: | 主题标引 分布式词向量 多标签文本分类 关键词抽取 语义标签 |
|
|