音乐命名实体识别方法
收稿日期:2010-04-30;修回日期:2010-07-16"
基金项目:国家自然科学基金资助项目(60973069);华为高校技术合作基金资助项目(2008126)"
作者简介:佘俊(1973-),男,四川彭州人,高级工程师,主要研究方向:商业智能!知识管理; 张学清(1984-),女,硕士研究生,主要研究
方向:文本挖掘!命名实体识别"
文章编号:1001-9081(2010)11-2928-04
音乐命名实体识别方法
佘 俊1,张学清2
(1.中国南方电网调峰调频发电公司信息通信中心,广州510630; 2.电子科技大学计算机科学与工程学院,成都611731)
(@163.)
摘 要:为了能快速!准确地将分散在网页中的音乐实体抽取出来,在全方位了解音乐领域中命名实体的特
征的基础上,提出了一种规则与统计相结合的中文音乐实体识别方法,并实现了音乐命名实体识别系统"通过测试
发现,该系统具有较高的准确率和召回率"
关键词:命名实体识别;音乐命名实体;隐马尔可夫模型
中图分类号:18;311.13 文献标志码:
Musicalnamedentityrecognitionmethod
1,22
(1.InformationandCommunicationCentre,ChinaSouthernPowerGridPowerGenerationCompany,GuangzhouGuangdong510630,China;
2.SchoolofComputerScienceandEngineering,UniversityofElectronicScienceandTechnologyofChina,ChengduSichuan611731,China)
Abstract:,
,.
.
Keywords:;;()
0 引言
命名实体识别(,)是目前
文本信息自动化处理中一个基础而关键的技术"命名实体
(,)是文本中基本的信息元素,是文本中的
固有名称!缩写及其他唯一标识,它往往指示了文章的主要内
容"命名实体识别目前已经发展成一个独立的研究分支,
2002就有专门的命名实体识别专题[1]"
国外对于英文命名实体识别的研究开始较早,英文命名
实体的识别已经达到了较高的水平,(
)会议测试的准确率和召回率可以达
到97%左右[2]"英文命名实体的识别主要采用基于统计模
型和机器学习的方法,如基于隐马尔可夫模型(
,)[3-4]!最大熵模型[5-6]和支持向量机[7]
等"这些方法利用英文命名实体的词频!词缀等统计信息,并
结合一定的句法信息和语义特征来识别命名实体及确定其类
别"
中文命名实体识别的研究起步比较晚,国内外关于中文
命名实体识别的准确率和召回率的报告一般在90%左右"
近年来,基于统计的中文命名实体识别方法是研究的主流"
已有的中文命名实体研究方案,可以根据研究范围的不同,分
为两种:
一种是个别解决方案,只识别某一类命名实体"这种方
案针对某一类命名实体的特点,提出了有效的识别方法,如中
文人名识别[8-9]!地名识别[10-11]!机构名识别[12]"但是这种
方案忽视了不同种类命名实体间的歧义问题"
另一种是一体化解决方案,可以同时识别多种命名实体"
大多数的方案采用机器学习的方法,如基于层叠隐
马尔可夫
模型的词法分析方法[13-14]!基于决策树[15]和基于组块[16]的
方法等"但是它不能充分分析不同命名实体间的差异性,制
约了整体的识别性能"
1 音乐命名实体识别的难点
本文主要研究中文文本中音乐命名实体的识别问题,音
乐命名实体包括:
歌手名 是人名中特殊的一类,指特定歌手的固有名称!
别名!英文名和译名,如/刘德华0!/华仔0!/周渝民0!/仔
仔0!/布兰妮0!/小甜甜0等"
音乐组合名 指特定乐队!乐团和歌唱组合的固有名称,
如/小虎队0和/0等"
歌曲名 指特定歌曲的固有名称,如:/梦醒时分0和/月
亮代表我的心0等"
专辑名 指特定专辑的固有名称,如/永远的邓丽君0和
/旷世情歌全记录0等"
目前,无论是中文还是英文命名实体识别都会遇到以下
难题:首先,命名实体是一个开放的类,数量庞大,难以以列表
或词典形式完全列举"以歌曲名为例,世界上有不计其数的
歌曲,一一列举出来并不现实"其次,命名实体并非一个稳定
的类,随着时间的推移,不断会有新的命名实体产生"例如一
个新歌手的出道!一个新专辑的发布都会影响到音乐命名实
体的内容和数量"
音乐命名实体的特殊性以及各类音乐命名实体的自身特
第30卷第11期
2010年11月 计算机应用 .30.11.2010点,给识别带来了一定的难度"
1)歌手名和音乐组合名识别的难点"
歌手名和音乐组合名与上下文成词或自身成词的现象严
重,容易产生歧义"例如:/天娱旗下艺人组合/至上励合/作
客湖南卫视0可能被误分为/天娱旗下艺人组合/至上励/合
作客湖南卫视0"如果不对这些情况进行特别的处理,许多
歌手名和组合名就会被切开,降低识别的准确率和召回率"
歌手名和音乐组合名的长短不一,而且构成形式多样"
歌手名的常见形式如下:姓和名组成,如张学友!任贤齐等;前
缀和姓组成,如阿杜,小柯等;姓或名和后缀组成,如华仔!周
董等;别名或艺名,如老狼!刀郎等"而音乐组合名,不像歌手
名有规律,不仅用词比较随意,而且长度从一到十几个不等,
如羽泉!南拳妈妈!凤凰传奇等"
区分歌手名和普通人名比较困难"在一个文本中,并非
所有的人名都是歌手名"歌手名是人名的一个种类,具有相
同的特性,因此,如何从人名中正确识别出歌手名是一个难
题"
2)歌曲名和专辑名识别的难点"
歌曲名和专辑名的组成方式非常随意"许多歌曲名和专
辑名都是很常见的词!短语或句子,如周华健的5朋友6!满文
军的5懂你6!宋祖英的5长大后我就成了你6等"而且近来流
行歌曲名中还出现了标点符号,如张韶涵的5亲爱的,那不是
爱情6,这给区分歌曲和普通句子带来了很大难度"歌曲名!
专辑名中含有歌手名,如安又琪的5你好,周杰伦6"这很可
能会导致歌曲名!专辑名的漏选,以及歌手名的错选"歌曲名
和专辑名的长度极其不固定"这导致歌曲名和专辑名的边界
很难确定"
很多情况下,一首歌曲和一个专辑使用相同的名称,如齐
秦的专辑5又见溜溜的她6,其主打曲为5又见溜溜的她6"这
将导致很难辨别一个实体到底是歌曲名还是专辑名"
经过对大量音乐领域文本的分析发现,在音乐命名实体
自身及其上下文中,存在着许多规则和统计信息"
2 规则与统计相结合的音乐实体识别方法
该方法的核心思想为:首先,利用各种启发式规则信息,
在原始音乐文本(即未进行分词)上,采用基于规则的音乐实
体识别算法来识别部分明显的音乐命名实体"然后,对含有
音乐实体的音乐文本进行分词"在分词之后,引入识
别音乐命名实体"最后,利用音乐实体库和修正规则,去除部
分错误识别的歌手名和组合名,并修正歌曲名和专辑名的类
型"该方法的实现框架如图1所示"
2.1 基于规则的识别
在音乐文本中,音乐命名实体的前后位置常常会出现一
些特定的符号或词"这些符号和词可能指示一个实体的开
始,或一个实体的结束"比如,/歌手0这个词的后面很可能
是一个歌手名,而/组合0的后面则可能是一个组合名;同样
的/演唱0的后面可能是歌曲名,其前面则可能是歌手名或组
合名,如此等等"基于上述原因,本文提出一种基于规则的
识别算法,即在分词和基于的识别之前,利用音乐
实体的出现规则来识别部分明显的音乐实体"
2.1.1 边界规则
规则的构建是基于规则的识别算法的关键,规则越
完善,识别的效果越好"由于音乐实体构成形式多样,且长度
不一,很难在音乐的内部组成结构中提出通用性的规则"而
在音乐实体的上下文中存在着大量的边界规则"虽然人工构
造的规则准确率比较高,但比较耗时费力,且很难全面覆盖"
因此,先由机器自动提取规则,再由人工进行筛选"
本文定义8种边界规则(,
)来表示和存储音乐实体的边界,如表1所示"
图1 规则和统计相结合的音乐实体识别方法框架
表1 音乐实体边界规则表
规则类型缩写组成部分
歌手名左边界_经常出现在歌手名左边的词或短语
歌手名右边界_经常出现在歌手名右边的词或短语
组合名左边界_经常出现在组合名左边的词或短语
组合名右边界_经常出现在组合名右边的词或短语
歌曲名左边界_经常出现在歌曲名左边的词或短语
歌曲名右边界_经常出现在歌曲名右边的词或短语
专辑名左边界_经常出现在专辑名左边的词或短语
专辑名右边界_经常出现在专辑名右边的词或短语
2.1.2 自动提取规则
以歌手名边界规则为例,规则提取的具体步骤:
1)遍历分词序列,收集出现在歌手
名前后的词或短语,
认为它们可能是歌手名的边界规则:
)左边界规则"如果歌手名的前一个词为单字,则收集
由其前两个词合并而成的短语;否则,收集该词"
)右边界规则"如果歌手名的后一个词为单字,则收集
由其后两个词合并而成的短语;否则,收集该词"
2)统计可能为歌手名左(右)边界规则的各词或短语出
现在歌手名前(后)面的次数,并计算其作为左(右)边界规则
的概率,其值为该词或短语出现在歌手名前(后)面的次数与
该词或短语的出现总次数的比值"
3)将可能为歌手名左(右)边界规则的所有词或短语按
上述概率从大到小排序,然后选取前50%个词或短语作为歌
手名的候选左(右)边界规则,并将其保存至歌手名左(右)边
界规则中"
2.1.3 识别
基于规则的识别就是利用音乐实体的边界规则来
识别音乐实体"在实现该算法时,将除了引号!书名号之外的
标点符号作为所有实体的左边界规则和右边界规则"由于各
类音乐实体的识别过程是类似的,因此,以歌手名为例来介绍
2929第11期佘俊等:音乐命名实体识别方法 基于规则的识别算法:
1)读入未分词的音乐文本"
2)通过匹配的方式,从文本中提取出所有位于歌手名左
边界和歌手名右边界之间的文本作为候选歌手名"
3)判断候选歌手名是否符合歌手名的要求,如长度等"
若不符合,则丢弃"剩下的就是识别出来的歌手名"
2.2 基于统计的音乐实体识别
本文采用作为统计模型,其主要原因是该模型能
较好地捕获命名实体的特征现象和位置信息,具有高效的基
于动态规划思想的解码算法,并且易于训练"
2.2.1 定义参数
通过对音乐命名实体的分析,本文采用二元隐马尔可夫
模型来识别各种音乐命名实体,即每个词的出现概率仅依赖
于它前面一个词的出现概率"的输入文本是含有音乐
实体的分词序列"那么,的观察值应该包括词和SIN!
BAN!SON!ALB标识串,则定义模型的观察值集合
O={Wi,SIN,BAN,SON,ALB},1[i[m,其中,Wi表示词
库中的一个词,m为词库中词的数目,SIN表示已识别的歌手
名,BAN表示已识别的组合名,SON表示已识别的歌曲名,
ALB表示已识别的专辑名"若用M表示所有可能观察值的数
目,则M=m+4"
应用于命名实体识别的的状态集合是那些能够反
映命名实体组成的属性集合,即每一个状态都能代表某一类
命名实体的内部组成成分!上下文或无关成分"分析歌手名!
音乐组合名!歌曲名和专辑名的内部组成结构,发现以下主要
特点:歌手名的首部一般是姓氏;歌曲名和专辑名的中部可能
由多个词组成;歌手名和组合名常被嵌套到歌曲名和专辑名
中"另外,歌曲名和组合名通常具有相同的上下文,与歌曲
名!专辑名的上下文不同,且歌曲名和专辑
名的上下文也不一
样"因此,本文的的状态集合S包含N=29个状态,S
集合的具体定义在表2中"
那么,的状态转移矩阵A=(aij)29@29,aij=P(sj|
si)表示从状态si转移到状态sj的概率;发射矩阵B=
(bij)29@M,bij=P(oj|si)表示状态si对应观察值oj的概率;初
始状态概率为P={P1,P2,,,P29},Pi=P(si)表示初始状
态是si的概率"
表2 的状态集合
状态si含义例子状态si含义例子
歌手名的首部词[郭]富城歌曲名的尾部词月亮代表我的[心]
歌手名的中部词郭[富]城歌曲名自身成词[烟火]
歌手名的尾部词郭富[城]专辑名的首部词[星光]依旧灿烂
歌手名自身成词[高锋]专辑名的中部词星光[依旧]灿烂
上文与歌手名的首部成词[为何]润东专辑名的尾部词星光依旧[灿烂]
歌手名的尾部与下文成词张学[友好]帅专辑名自身成词[寓言]
被嵌套的歌手名!组合名你好[周][杰][伦]歌手名和组合名的上文艺人
组合名的首部词[至上]励合歌手名和组合名的下文演唱
组合名的中部词至上[励]合歌曲名的上文插曲
组合名的尾部词至上励[合]歌曲名的下文这首
组合名自身成词[零点]专辑名的上文发行
上文与组合名的首部成词[做梦]之旅的专访专辑名的下文收录
组合名的尾部与下文成词飞轮[海边]唱音乐实体间联结词和!与
歌曲名的首部词[月亮]代表我的心与实体组成及上下文无关的词
歌曲名的中部词月亮[代表][我][的]心
2.2.2 训练得到状态转移矩阵和发射矩阵
在使用识别实体之前,必须进行训练,即获
得初始状态概率!状态转移概率矩阵和发射概率矩阵这3个
关键参数"自动训练过程的基本流程如图2所示"
图2 训练过程的基本流程
从图2可以看出,自动训练过程主要包括两个部分:状态
标注过程和模型参数计算过程"其中,状态标注过程就是将
训练语料中包含实体标注的切分序列的词性标注转换为状态
标注;模型参数计算过程就是通过遍历带有状态标注的切分
序列,计算出初始状态概率P!状态转移概率矩阵A和发射
概率矩阵B的取值"
2.2.3 基于动态规划思想的过滤解码算法识别
通过训练得到之后,便可以进行音乐命名实体的
识别工作"识别过程就是从输入分词序列的所有可能状态序
列中寻找最佳状态序列,然后将最佳状态序列中与音乐实体
组成相关的状态进行组合,便得到各种音乐实体"假定有一
个分词序列O=(o1,o2,,,om),音乐实体识别问题就相当
于求解下式:
S*=
S
P(S|O)(1)
其中:S表示隐藏在O之后的状态序列,S*表示最佳状态序
列"
S*=
SF
m
i=1
P(oi|si)P(si|si-1)(2)
通常对式(2)取负对数,则:
S*=
S[-Emi=1(P(oi|si)+P(si|si-1))]
(3)
2930 计算机应用第30卷在获得最佳状态序列之后,需要根据状态组合模板来查
找音乐实体"根据
各种状态的含义,本文定义了以下4种类
型的状态组合模板"
歌手名:+*+,+,+,+*+
,+*+,"
组合名:+*+,^+,^+,+*+
,+*+,"
歌曲名:+*+*+,+*+^,^+
*+,^,^+,^+,"
专辑名:+*+*+,+*+^,^+*+
,^+,^+,"
例如有一状态序列:/老牌/歌手/林/忆/
莲/首/唱/新/歌/5/柿子/6/0,
通过匹配模板/++0和/0,可以识别出歌手名
/林忆莲0,歌曲/柿子0"
2.3 修正
经过基于规则的和基于的音乐实体识别过程,已
经识别出大部分音乐实体,但其中仍存在一些错误识别的实
体,如非音乐实体!实体类型错误等"通过分析,总结出引起
这些错误的主要原因有:
1)歌手名和普通人名的区分比较困难,可能会将普通人
名误识别为歌手名;
2)歌手名和音乐组合名具有相似的上下文,歌曲名和专
辑名常相同,可能会导致实体类型错误"
为此,针对歌手名和音乐组合名:由于歌手名和音乐组合
名的数量比较少且容易收集,所以采用通过音乐实体库(包
含歌手名库!组合名库)来过滤各种错误实体的方法"对于
歌曲名和专辑名:由于歌曲名和专辑名的数量非常多,若采用
同样的方法,则效率比较低"而且,通过分析发现已识别的歌
曲名和专辑名的边界比较准确,只是还存在一些实体类型上
的错误,如把歌曲名识别成专辑名等"因此,利用实体上下文
的启发式规则来更正实体类型"
3 实验
实验所使用的语料有两个:一个是训练语料,另一个测试
语料"从新浪!网易!搜狐等几大网站上收集的大量音乐领域
文本,从中挑选了1046的包含音乐实体的文本,其中包含
了156的歌手名!110的组合名!285的歌曲名和
207的专辑名,对这些文本进行标注,得到最终的训练语
料"测试语料是从人民网!音乐在线!一听等网站上收集的音
乐领域文本,大约为572,其中包括80的歌手名!62
的组合名!154的歌曲名和105的专辑名"
实验1 测试基于的音乐实体识别方法的识别性
能"
实验2 测试基于规则的前处理和基于相结合的
音乐实体识别方法的识别性能"
实验3 测试本文提出的规则和统计相结合的音乐实体
识别方法的识别性能"该方法先使用基于规则的方法识别部
分音乐实体,再使用基于的方法来识别,最后对前两步
识别出进行修正处理"
在实验中,采用了3个评测指标:召回率!准确率和F指
数"各实验的结果如图3~5所示"
从结果数据以及曲线图可以看出,本文研究的规则和统
计相结合的音乐实体识别方法具有良好的性能,无论在召回
率!准确率还是F指数上,都高于其他两种方法"
4 结果分析
从实验结果中,可以看出仅用的方法进行音乐实
体识别的准确率和召回率都不太理想"首先,这是因为音乐
实体识别自身存在的难点,如歌曲名和专辑名的组成方式非
常随意,都是很常见的词!短语甚至
句子;其次,该方法依赖于
分词的结果,但分词仍然是个难题,其准确率不高;最后,二元
隐马尔可夫模型只考虑词本身的发生概率而忽视了上下文对
当前词的影响和词之间的联系,很容易因为词的错误切分而
造成错误识别"
图3 不同方法召回率的比较
图4 不同方法准确率的比较
图5 不同方法F指数的比较
因此,需要在基于的方法之前,引入基于规则的前
处理过程,来弥补的不足"基于规则的识别是在
分词前进行的,它能够识别出一些基于的方法无法识
别出的实体"例如,句子/在演唱会上,至上励合演唱了0,若
/至上励合0在训练语料中很少出现,则基于的方法很
难将该组合名识别出来,但可以通过基于规则的方法将其识
别出来"从实验结果中也可以看出,基于规则的前处理过程
提高了音乐实体识别的召回率"
但是,召回率的提高同时,却带来准确率降低的问题"主
要原因有:歌手名和普通人名的区分比较困难;歌手名和音乐
组合名具有相似的上下文,歌曲名和专辑名常相同,可能会导
致实体类型错误"而基于规则的后处理过程,即音乐实体修
正过程刚好是用来解决这类问题"这使得识别的召回率和准
确率都有一定的提高"
可见,基于规则的识别!基于的识别和
修正3种方法相结合,使得识别的准确率!召回率和F
指数都比较理想,证明本文所提出的规则和统计相结合的方
案具有实用价值"(下转第2948页)
2931第11期佘俊等:音乐命名实体识别方法 的基础上提出相关实体子树集和语义相关实体子树集的概
念,并在算法基础上进行改进,实现了求解语义相关实
体子树集的算法"最后将几种查询方式在3种数据集上进行
查询,并以方式查询结果为标准,对几种查询方式的
查准率进行了比较,实验结果验证了本文方法能够有效地提
高查询结果的质量"未来的工作主要在于研究既能使用户表
达出对目标片段所应有的结构信息,又能避免用户必须
了解实际的数据组织结构的查询方式以及实现的方法"
图2 上查准率
参考文献:
[1] 李颖.关于检索和索引技术的研究[].济南:山东大学,
2009.
[2] ,,.
:[]//
17.,
:,2001:321-329.
[3] ,.
[]//
.
:,2005:537-538.
[4] ,,.2[]//2
30
.,:,2004:72-83.
[5] ,,,etal.
[]//16
.2
,:,2007:31-40.
[6] ,.
[]//2
.:
,2007:329-340.
[7] ,,.:
[]//33
.:,
2007:1330-1333.
[8] ,,,etal.2
[]//2
20022
.:,2002:204-215.
[9] 李辛.基于语义相关性的关键字查询的研究与实现[].
北京:北京交通大学,2009.
[10]孔令波,唐世渭,杨冬青,等.信息检索中最小子树根节点
问题的分层算法[].软件学报,2007,18(4):919-932.
(上接第2931页)
5 结语
经过实验证明,中文音乐实体识别系统已经表现出良好
的性能,但仍存在一些不足,需要进
一步的完善,主要包括以
下方面:
1)本文提出的基于规则的音乐实体识别算法对规则冲
突问题的考虑不够全面,即不同实体的边界库中可能存在相
同的词或短语"可以结合词或短语作为某类边界规则的概率
来解决冲突问题"
2)基于模型的音乐实体识别算法未考虑各词的词
性信息,这些信息对音乐实体的识别起重要作用"因此,下一
步要融合词性信息到模型中"
3)本文对歌曲名和专辑名的准确率还有待进一步提高,
今后需要进一步讨论它们的识别方法"
总的来看,音乐命名实体识别技术已经取得了一定的成
果,但对其研究还远没有结束"今后除了更一步改善音乐实
体识别的效果外,还要结合应用来进行音乐命名实体识别,例
如音乐搜索!音乐个性化推荐!音乐趋势分析等"
参考文献:
[1] 张晓艳,王挺,陈火旺.命名实体识别研究[].计算机科学,
2005,32(4):44-48.
[2] 愈鸿魁,张华平.基于层叠隐马尔可夫模型的中文命名实体识
别[].通信学报,2006,27(2):87-95.
[3] ,.2
,208[/].[2009-12-
12].://./2//08/0821001..
[4] ,2.2
[].,
2005,7(1):19-25.
[5] ,.
[].,2007,30(1):3-
26.
[6] ,,.
[]//
21
442
.,:2
,2006:521-528.
[7] ,,,etal.2
:2[/].[2009-12-12].
://...//2/6/131..
[8] 张腾飞,王晓磊,王保云.基于场景信息融合的中文姓名识别方
法研究[].计算机工程与应用,2009,45(34):147-151.
[9] 贾宁,张全.基于最大熵模型的中文姓名识别[].计算机工程,
2007,33(5):31-33.
[10] 唐旭日,陈小荷,许超,等.基于篇章的中文地名识别研究[].
中文信息学报,2010,12(2):36-41.
[11] 李丽双,黄德根,岳广玲,等.与规则相结合的中文地名自
动识别[].中文信息学报,2006,20(5):77-82.
[12] 周俊生,戴新宇,尹存燕,等.基于层叠条件随机场模型的中文
机构名自动识别[].电子学报,2006,(5):16-21.
[13] 张华平,刘群.基于角色标注的中国人名自动识别研究[].计
算机学报,2004,27(1):85-91.
[14] 张铭,银平,邓志鸿,等.+:基于统计方法的元数
据抽取混合模型[].软件学报,2008,19(2):358-368.
[15] 秦文,苑春法.基于决策树的汉语未登录词识别[].中文信息
学报,2004,18(1):14-19.
[16] 2,2,,etal.2
[].,2008,4
(3):1169-1180.
2948 计算机应用第30卷