浅层句法分析方法概述

作 者:

作者简介:
孙宏林 北京语言文化大学语言信息处理研究所 邮编 100083 北京大学计算语言学研究所 俞士汶 北京大学计算语言学研究所 邮编 100871 北京大学计算语言学研究所

原文出处:
当代语言学

内容提要:

浅层句法分析是近年来自然语言处理领域出现的一个新的语言处理策略。它不要求得到完全的句法分析树,只要求识别其中的某些结构相对简单的成分。它将句法分析分解为两个子任务:(1 )语块的识别和分析;(2)语块之间的依附关系分析。 浅层句法分析的主要任务是语块的识别和分析。90年代以来,国外在英语的浅层句法方面做了不少工作,国内也有一些学者采用英语中的方法探索汉语的浅层句法分析问题。本文着重介绍英语浅层句法分析中所应用的一些技术,包括基于统计的方法和基于规则的方法。


期刊代号:H1
分类名称:语言文字学
复印期号:2000 年 11 期

字号:

      1.引言

      浅层句法分析(shallow parsing ), 也叫部分句法分析(partial parsing)或语块分析(chunk parsing),是近年来自然语言处理领域出现的一个新的语言处理策略。它是跟完全句法分析相对的。传统的句法分析要求通过一系列分析过程,最终得到句子的完整的句法树。而浅层句法分析则不要求得到完全的句法分析树,它只要求识别其中的某些结构相对简单的成分,如非递归的名词短语、动词短语等。这些识别出来的结构通常被称作语块(chunk), 语块和短语这两个概念可以换用。

      浅层句法分析的结果并不是一棵完整的句法树,但各个语块是完整句法树的一个子图(subgraph ),

      只要加上语块之间的依附关系(attachment),就可以构成完整的句法树。所以浅层句法分析将句法分析分解为两个子任务:(1)语块的识别和分析;(2)语块之间的依附关系分析。浅层句法分析的主要任务是语块的识别和分析。这样就使句法分析的任务在某种程度上得到简化,同时也有利于句法分析技术在大规模真实文本处理系统中迅速得到应用。

      90年代以来,国外在英语的浅层句法分析方面做了不少工作,国内也有一些学者采用英语中的方法探索汉语的浅层句法分析。本文主要就在英语浅层句法分析中所应用的一些技术进行简要的介绍,并简单介绍汉语的相关研究。其中有些方法虽然是面向完全句法分析的,但由于其对完全句法分析的任务进行了分解,所以其技术也可以归入浅层分析的范畴。概括起来,句法分析的方法基本上可以分成两类:基于统计的方法和基于规则的方法。当然也可以采用规则和统计相结合的混合方法。下面第2节介绍基于统计的方法,第3节介绍基于规则的方法,第4 节简要介绍汉语的有关研究,最后是结束语。

      2.基于统计的方法

      近10年来,随着语料库技术的发展,许多统计方法被用在短语识别和分析上。这些方法主要来自概率统计和信息论,以下介绍其中影响较大的几种方法:(1)基于隐马尔科夫模型的方法;(2)互信息方法;(3)ф[2]统计方法;(4)基于中心词依存概率的方法。

      2.1基于隐马尔科夫模型(HMM)的方法隐马尔科夫模型(Hidden Markov Models,HMMs)是从语音识别中发展出来的一种统计技术(Rabiner 1989),它提供了一种基于训练数据提供的概率来自动构造识别系统的技术。一个隐马尔科夫模型包含两层:一个可观察层和一个隐藏层,这个隐藏层是一个马尔科夫过程,即是一个有限状态机,其中每个状态转移都带有转移概率。在语音识别中,可观察层是声音片段的序列,隐藏层是用音素序列表示的词的发音的有限状态模型。用口语录音片段及其转写(transcription )作为训练数据训练HMM,它就可以用作识别器,用于识别未训练过的声音片段, 从而生成口语的转写形式。

      计算语言学家最早把HMM技术应用于英语的词性标注, 并取得了极大的成功,仅依靠简单的统计方法就可以达到95%左右的正确率。在词性标注中,可观察层是词的序列,隐藏层是词类标记的序列,训练数据是标注好词性的文本语料,经过训练的HMM就成为自动标注器, 它可以给只包含词序列的文本中的每个词标注上词类标记。

      Church(1988)进一步把HMM 用于识别英语中简单的非递归的名词短语,他把短语边界识别化为一个在词类标记对之间插入NP的左边界(“[”)和NP的右边界(“]”)的问题。如果不考虑空短语(即“[]”)和短语的嵌套(如“[[“,”]]“,”][[”等),那么在一对词类标记之间只有四种情况:(1)[;(2)];(3)][; (4)空(即无NP边界)。最后一种还可以进一步分为两种情况:(a)无NP边界但在NP之内(I);(b)无NP边界但在NP之外(O)。 这样任意一对词类标记之间就存在5种可能的状态:(1)[;(2)];(3)][;(4)I;(5)O。Church的方法是,首先在有词性标注的语料中人工或半自动标注NP边界,以此作为训练数据,然后统计出任意一对词类标记之间出现以上5种状态的概率。 统计得到的概率就成为短语边界标注的根据。这实际上把短语边界的识别变成了一个与词性标注类似的问题。如:

      输入:$ the procecutor said in

      closing that (词序列)

      DT

      NN VB

      IN NN CS(词性序列)

      输出:〈$,DT〉〈DT,NN〉〈NN,VB〉〈VB,IN〉〈IN,NN〉〈NN,CS〉

      (词性标记对)

      ││ ││ │ │

      [I

      ]O

      [ ](NP边界)

      2.2 互信息方法

       互信息(mutual information )是信息论中的一个概念(Fano1961),它用来度量一个消息中两个信号之间的相互依赖程度。二元互信息是两个事件的概率的函数:

       P(X,Y)

       (1) MI(X,Y)=log[,2]────────

      P(X)×P(Y)

      我们可以把词类序列看成随机事件,这样就可以计算一对词类标记之间的互信息。如果X和Y在一起出现的机会多于它们随机出现的机会,则P(X,Y)>>P(X)×P(Y),即MI(X,Y)>>0;如果X和Y是随机分布的,则P(X,Y)≈P(X)×P(Y),即MI(X,Y)≈0;如果X和Y是互补分布的,则P(X,Y)<<P(X)×P(Y),即MI(X,Y)<<0。互信息值越高,X和Y组成短语的可能性越大,互信息值越低,X和Y之间存在短语边界的可能性越大。

相关文章: