意味ラベル付与モデル学習装置、意味ラベル付与装置、意味ラベル付与モデル学習方法、及びプログラム
【課題】会話の流れによって疑問表現になったり、断定表現になったりする述部の機能表現に対しても、適切な意味ラベルを付与する。
【解決手段】学習用発話対作成部２２で、形態素解析結果に対して、機能表現及び応対表現の正解ラベルが付与された正解コーパスに基づいて、学習用発話対を作成する。パラメータテーブルに、素性として、発話対の前の発話の終わりに表れる機能表現の意味ラベルと、それに対する後の発話の初めに表れる応対表現の意味ラベルとの並びの素性を用い、複数種類の素性各々について、重みの初期値を設定する。パラメータテーブル作成部２４で、発話対の形態素情報と機能表現辞書３０とを用いて、各形態素について候補となる意味ラベルを全て含んだラティスを構築し、ラティス構造からパラメータテーブルの素性毎の重みに基づいて最尤パスとして探索する。最尤パスが正解の意味ラベル列となるようにパラメータテーブルの重みを学習する。
【解決手段】学習用発話対作成部２２で、形態素解析結果に対して、機能表現及び応対表現の正解ラベルが付与された正解コーパスに基づいて、学習用発話対を作成する。パラメータテーブルに、素性として、発話対の前の発話の終わりに表れる機能表現の意味ラベルと、それに対する後の発話の初めに表れる応対表現の意味ラベルとの並びの素性を用い、複数種類の素性各々について、重みの初期値を設定する。パラメータテーブル作成部２４で、発話対の形態素情報と機能表現辞書３０とを用いて、各形態素について候補となる意味ラベルを全て含んだラティスを構築し、ラティス構造からパラメータテーブルの素性毎の重みに基づいて最尤パスとして探索する。最尤パスが正解の意味ラベル列となるようにパラメータテーブルの重みを学習する。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、意味ラベル付与モデル学習装置、意味ラベル付与装置、意味ラベル付与モデル学習方法、及びプログラムに係り、特に、対話文の機能表現に意味ラベルを付与するための意味ラベル付与モデルを学習する意味ラベル付与モデル学習装置、方法、及びプログラム、並びにその意味ラベル付与モデルを用いて、対話文の機能表現に意味ラベルを付与する意味ラベル付与装置に関する。
【背景技術】
【０００２】
現在、Ｗｅｂ上のブログや音声対話ログなど大量のテキストデータから、書き手（もしくは話し手）の「願望」や「疑問」、「苦情」などといった有益な情報を抽出、集計、及び分析することが求められている。このような、大量のテキストデータから有益な情報を抽出、集計、及び分析する技術をテキストマイニング技術と呼ぶ。
【０００３】
このようなテキストマイニング技術において、重要となってくるのが、「誰が／何を／どうした」という文の核情報である。例えば、コンタクトセンタにおけるオペレータとカスタマーとの音声対話で、カスタマーが以下の発話を行ったとする。
【０００４】
・あの〜料金プランを変更したいんですけども・・・
→「料金プラン／変更したい」 （１）
・えっと、学割って使えますか？・・・
→「学割／使えるか」 （２）
【０００５】
（１）は「料金プランを変更したい」という願望を、（２）は「学割は使えるか」という疑問を表している。特に、「変更したい」「使えるか」などを表す述部は、文の核情報を表しており、「疑問」や「願望」等もこれら述部によって表現される。そのため、述部から必要な情報を抽出することが、テキストマイニングでは重要になる。
【０００６】
例えば、述部の機能表現と呼ばれる助詞・助動詞など機能語の集合に意味ラベルを付与することで、必要な情報をまとめ上げるという方法が提案されている（例えば、非特許文献１参照）。非特許文献１の方法では、例えば、下記に示すように、「変更したいんですけども」の「たい」に「願望」という意味ラベルを、「使えますか」の「か」に「疑問」という意味ラベルを自動で付与している。（以下、［ ］を用いて意味ラベルを表す）。
【０００７】
・変更し たい［願望］ん［判断］です［判断］けども［逆接確定］
・使え ます［丁寧］か［疑問］
【０００８】
非特許文献１の方法では、平均化パーセプトロンという手法で学習した識別モデルと、機能表現辞書及びフレーズテーブルとを用いて、１文内に出現する機能表現に対して、最適な機能表現の意味ラベルを出力している。
【先行技術文献】
【非特許文献】
【０００９】
【非特許文献１】今村賢治、泉朋子、菊井玄一郎、佐藤理史、「述部機能表現の意味ラベルタガー」、言語処理学会第１７回年次大会、ｐｐ．５１８−５２１、２０１１．
【発明の概要】
【発明が解決しようとする課題】
【００１０】
しかし、非特許文献１が対象としている入力は一文単位である。そのため、音声対話に出てくるような、「会話の流れによっては疑問を表す表現」に対しても一意のラベルを出力してしまう。例えば、以下の対話文を例に説明する。
【００１１】
カスタマー：機種変更は、出来ないってことなんですよね。 （３）
オペレータ：はい、申し訳ございません。
【００１２】
上記の対話文について、非特許文献１の方法を適用すると、（３）の場合、下記のように意味ラベルが付与され、「疑問」の情報を得ることができない。
【００１３】
・出来ない［否定］って［同格］こと［名詞化］
な［判断］ん［判断］です［判断］よね［感嘆］
【００１４】
仮に、「よね」という機能表現に対して「疑問」という意味ラベルを追加したとすると、次のような疑問表現ではないものにまで誤って「疑問」の意味ラベルが付与されてしまう。
【００１５】
カスタマー：昨日から、携帯が動かないんですよね。 （４）
オペレータ：どのような症状でしょうか？
【００１６】
（４）の場合、「動かない」という否定表現（トラブル表現）を表している。仮に「よね」という終助詞に対して「疑問」という意味ラベルを追加すると、非特許文献１の手法では、「疑問」の意味ラベルを出力してしまう。これは、非特許文献１の方法では、１文内の処理に閉じているためである。１文内では、（３）も（４）も前後の文字列（すなわち、「ん」、「です」及び「。」）は同じであり、１文内の単語の前後情報をもとに最適な意味ラベル列を付与する非特許文献１の方法の場合、両者の区別ができず、同じ意味ラベルを出力結果として出力してしまう。
【００１７】
以上のように従来法では、１文内に閉じた処理を行っているため、音声対話に見られるような「会話の流れによっては疑問を表す表現」に対して最適な意味ラベルを付与することができない、という問題がある。
【００１８】
本発明は上記問題点に鑑みてなされたものであり、会話の流れによって疑問表現になったり、断定表現になったりする述部の機能表現に対しても、適切な意味ラベルを付与することができる意味ラベル付与モデル学習装置、意味ラベル付与装置、意味ラベル付与モデル学習方法、及びプログラムを提供することを目的とする。
【課題を解決するための手段】
【００１９】
上記目的を達成するために、本発明の意味ラベル付与モデル学習装置は、複数の発話を示すテキストデータ各々を形態素解析した解析結果に含まれる機能表現及び応対表現に該機能表現及び該応対表現の意味を示す正解の意味ラベルが付与された複数の学習用データに基づいて、連続する２つの発話を示す学習用データを結合して、学習用発話対を作成する学習用発話対作成手段と、少なくとも機能表現の意味ラベルと応対表現の意味ラベルとの並びの素性を含む複数種類の素性各々について、値が大きいほど意味ラベル付与の判定に有効であることを示す重みを定めた意味ラベル付与モデルを、前記学習用発話対作成手段により作成された学習用発話対から抽出された素性と前記重みとに基づいて、前記学習用発話対の機能表現及び応対表現各々に正解の意味ラベルが付与されるように学習する学習手段と、を含んで構成されている。
【００２０】
本発明の意味ラベル付与モデル学習装置によれば、学習用発話対作成手段が、複数の発話を示すテキストデータ各々を形態素解析した解析結果に含まれる機能表現及び応対表現に機能表現及び応対表現の意味を示す正解の意味ラベルが付与された複数の学習用データに基づいて、連続する２つの発話を示す学習用データを結合して、学習用発話対を作成する。そして、学習手段が、少なくとも機能表現の意味ラベルと応対表現の意味ラベルとの並びの素性を含む複数種類の素性各々について、値が大きいほど意味ラベル付与の判定に有効であることを示す重みを定めた意味ラベル付与モデルを、学習用発話対作成手段により作成された学習用発話対から抽出された素性と重みとに基づいて、学習用発話対の機能表現及び応対表現各々に正解の意味ラベルが付与されるように学習する。
【００２１】
このように、連続する２つの発話を示す学習用データを結合して、学習用発話対を作成してから、少なくとも機能表現の意味ラベルと応対表現の意味ラベルとの並びの素性を含む複数種類の素性各々について、その重みを定めた意味ラベル付与モデルを学習する。このため、述部の機能表現の意味ラベルを、その発話に対する応対表現の意味ラベルに基づいて判断することができ、会話の流れによって疑問表現になったり、断定表現になったりする述部の機能表現に対しても、適切な意味ラベルを付与することができる意味ラベル付与モデルを学習することができる。
【００２２】
また、前記学習手段は、前記学習用発話対の機能表現及び応対表現各々に付与される意味ラベルの候補から、該機能表現及び応対表現毎にいずれかの候補を選択して並べた意味ラベル候補列の全ての組み合わせについて、該意味ラベル候補列各々から抽出された素性について前記意味ラベル付与モデルで定められた重みを用いたスコアを算出し、正解の意味ラベルの列と一致する意味ラベル候補列のスコアが最大となるように、前記意味ラベル付与モデルを学習することができる。
【００２３】
また、前記応対表現は、発話者の問いかけに対する応対を表す表現であり、該応対表現の意味ラベルは、肯定及び否定を含むことができる。このような応対表現を用いることにより、結合された前の発話の述部の機能表現の意味ラベルを適切に判定することができる。
【００２４】
また、本発明の意味ラベル付与装置は、連続する２つの発話を示す処理対象の形態素解析済みのテキストデータを結合して、付与用発話対を作成する付与用発話対作成手段と、前記付与用発話対作成手段により作成された付与用発話対から抽出された素性と、上記の意味ラベル付与モデル学習装置により学習された意味ラベル付与モデルとに基づいて、前記付与用発話対の機能表現及び応対表現各々に意味ラベルを付与する付与手段と、を含んで構成されている。これにより、述部の機能表現の意味ラベルを、その発話に対する応対表現の意味ラベルに基づいて判断することができ、会話の流れによって疑問表現になったり、断定表現になったりする述部の機能表現に対しても、適切な意味ラベルを付与することができる。
【００２５】
また、本発明の意味ラベル付与モデル学習方法は、学習用発話対作成手段と、学習手段とを含む意味ラベル付与モデル学習装置における意味ラベル付与モデル学習方法であって、前記学習用発話対作成手段は、複数の発話を示すテキストデータ各々を形態素解析した解析結果に含まれる機能表現及び応対表現に該機能表現及び該応対表現の意味を示す正解の意味ラベルが付与された複数の学習用データに基づいて、連続する２つの発話を示す学習用データを結合して、学習用発話対を作成し、前記学習手段は、少なくとも機能表現の意味ラベルと応対表現の意味ラベルとの並びの素性を含む複数種類の素性各々について、値が大きいほど意味ラベル付与の判定に有効であることを示す重みを定めた意味ラベル付与モデルを、前記学習用発話対作成手段により作成された学習用発話対から抽出された素性と前記重みとに基づいて、前記学習用発話対の機能表現及び応対表現各々に正解の意味ラベルが付与されるように学習する方法である。
【００２６】
また、本発明の意味ラベル付与モデル学習プログラムは、コンピュータを、上記の意味ラベル付与モデル学習装置を構成する各手段として機能させるためのプログラムである。
【発明の効果】
【００２７】
以上説明したように、本発明の意味ラベル付与モデル学習装置、方法、及びプログラムによれば、連続する２つの発話を示す学習用データを結合して、学習用発話対を作成してから、少なくとも機能表現の意味ラベルと応対表現の意味ラベルとの並びの素性を含む複数種類の素性各々について、その重みを定めた意味ラベル付与モデルを学習する。このため、述部の機能表現の意味ラベルを、その発話に対する応対表現の意味ラベルに基づいて判断することができ、会話の流れによって疑問表現になったり、断定表現になったりする述部の機能表現に対しても、適切な意味ラベルを付与することができる意味ラベル付与モデルを学習することができる、という効果が得られる。
【００２８】
また、本発明の意味ラベル付与装置によれば、処理対象のテキストデータから付与用発話対を作成してから、上記のように学習された意味ラベル付与モデルを用いることにより、会話の流れによって疑問表現になったり、断定表現になったりする述部の機能表現に対しても、適切な意味ラベルを付与することができる意味ラベル付与モデルを学習することができる、という効果が得られる。
【図面の簡単な説明】
【００２９】
【図１】本実施の形態の意味ラベル付与装置の機能的構成を示すブロック図である。
【図２】応対ラベルを含んだ機能表現辞書の一例を示す図である。
【図３】正解コーパスの一例を示す図である。
【図４】発話対の作成を説明するための図である。
【図５】発話の終わりとそれに対応する応対の並びが素性として抽出されることを説明するための図である。
【図６】素性ＩＤの一例を示す図である。
【図７】パラメータテーブルの一例を示す図である。
【図８】候補となる意味ラベルにより構築されたラティスの一例を示す図である。
【図９】ラティスから選択された意味ラベル列の一例を示す図である。
【図１０】ラティスから選択された意味ラベル列の他の例を示す図である。
【図１１】本実施の形態におけるモデル学習処理ルーチンの内容を示すフローチャートである。
【図１２】本実施の形態における意味ラベル付与処理ルーチンの内容を示すフローチャートである。
【発明を実施するための形態】
【００３０】
以下、図面を参照して本発明の実施の形態を詳細に説明する。
【００３１】
本実施の形態に係る意味ラベル付与装置１０は、ＣＰＵと、ＲＡＭと、後述するモデル学習処理ルーチン及び意味ラベル付与処理ルーチンを実行するためのプログラム及び各種データを記憶したＲＯＭとを備えたコンピュータで構成されている。このコンピュータは、機能的には、図１に示すように、学習部２０と付与部４０とを含んだ構成で表すことができる。学習部２０は更に、学習用発話対作成部２２と、パラメータテーブル作成部２４とを含んだ構成で表すことができ、付与部４０は更に、付与用発話対作成部４２と、意味ラベル付与部４４とを含んだ構成で表すことができる。なお、パラメータテーブル作成部２４が本発明の学習手段の一例である。
【００３２】
また、後述するパラメータテーブル作成部２４及び意味ラベル付与部４４では、応対ラベルを含んだ機能表現辞書３０が用いられる。機能表現辞書３０は、機能表現の表層形とその機能表現の意味を示す意味ラベルとを格納した辞書である。機能表現辞書３０は、非特許文献２（松吉俊、佐藤理史、宇津呂武仁、「日本語機能表現辞書の編纂」、自然言語処理、ｖｏｌ．１４、Ｎｏ．５、ｐｐ１２３−１４６、２００７）のような既存のものを用いてもよい。また、ＩＤ情報など他の情報が含まれていてもよい。更に、本実施の形態で用いる機能表現辞書３０には、応対ラベルが含まれる。応対ラベルとは、応対表現に付与された意味ラベルである。応対表現とは、「はい」や「いいえ」など、発話者の問いかけに対する応対を表す表現である。この応対表現を用いて、機能表現に最適な意味ラベルを付与するため、機能表現辞書３０に応対ラベルを追加する。例えば、「はい」、「そうですね」などの肯定を表す応対表現には［応対−肯定］という意味ラベルを与え、「いいえ」などの否定を表す応対表現には［応対−否定］という意味ラベルを与える。これらもまた、既存の応対表現辞書を用いてもよい。機能表現辞書３０の一例を図２に示す。
【００３３】
学習用発話対作成部２２は、入力された正解コーパスから発話対を作成する。ここで、正解コーパスとは、テキストデータ（音声データの場合は、音声認識結果）を形態素解析し、解析結果である形態素列に対して、応対ラベルを含んだ機能表現辞書３０に基づいて、適切な意味ラベル（正解ラベル）を予め人手で付与したコーパスである。正解コーパスの一例（上記（３）の対話文の例）を図３に示す。図３の例では、２段目が形態素解析後のテキストデータの表層形、３段目が形態素解析により形態素毎に付与された品詞等の形態素情報、及び３段目が機能表現辞書３０に基づいて機能表現及び応対表現に付与された正解ラベルである。また、１段目は、テキストデータの発話者を識別するための発話者情報が付与されている。
【００３４】
学習用発話対作成部２２は、入力された正解コーパスに付与された発話者情報に基づいて、発話者が交代した箇所を検出して、発話者が交代する前の発話と後の発話とを結合した発話対を作成する。以下では、学習用発話対作成部２２で作成される発話対を、後述する付与用発話対作成部４２で作成される発話対と区別するため、「学習用発話対」という。付与用発話対作成部４２で作成される発話対は「付与用発話対」という。両者の区別なく説明する場合には、単に「発話対」ともいう。本実施の形態では、入力文に対して発話対を処理の単位とすることで、応対パターンをもとに疑問表現か否かを認定する点に特徴がある。そこで、学習用発話対作成部２２により、処理単位となる学習用発話対を作成するものである。
【００３５】
例えば、下記のような対話の場合、「Ａ−Ｂ」、「Ｃ−Ｄ」、及び「Ｅ−Ｆ」が発話対として作成される。なお、発話対とならない文に対しては、通常の意味ラベル付与処理を行う（すなわち、一文を処理単位とする）。
【００３６】
オペレータ：お電話ありがとうございます、担当の鈴木です。 Ａ
カスタマー：あの、すみません。 Ｂ
昨日からずっとパソコンがつながらないんですよね。 Ｃ
オペレータ：パソコンがつながらないということですね。 Ｄ
具体的にどのような症状が出ておりますか？ Ｅ
カスタマー：えっと、・・・ Ｆ
【００３７】
より具体的には、学習用発話対作成部２２は、発話対となる連続する発話と発話とを結合した一文を作成する。例えば、図４に示すように、形態素解析結果として付与されている発話の文末記号（ここでは＜ＥＯＳ＞）を削除し、発話対となる発話同士を発話順に結合させることで発話対を作成する。このように発話対を作成して、この発話対を処理単位とすることにより、前の発話における述部の機能表現に対する最適な意味ラベルを推定するために、その発話に対する応対を素性として用いることができる。
【００３８】
パラメータテーブル作成部２４は、形態素毎に付与された「意味ラベル」及び「形態素情報」を素性として、非特許文献１と同様の方法により、意味ラベル付与モデルとして、形態素列及び意味ラベル列のパラメータテーブルを学習する。パラメータテーブルは、テキストデータから抽出される素性に対する重み（値が大きいほど意味ラベル付与の判定にその素性が有効であることを示す）を格納したテーブルである。本実施の形態で用いられる素性には、図５に示すように、発話対を処理単位として抽出される素性を用いる。すなわち、発話対の前の発話の終わりに表れる機能表現の意味ラベルと、それに対する後の発話の初めに表れる応対表現の意味ラベルとの並びの２−ｇｒａｍを素性として用いることができる。このように、意味ラベル付与モデルを学習するための処理単位を発話対とし、また対象の形態素に対して前後の形態素に付与された意味ラベルを素性として加えることが必須である（２−ｇｒａｍ以上を素性として含めることが必須）。その他の素性として、１−ｇｒａｍ素性や、非特許文献１のようにマッピング素性（形態素情報から意味ラベルの出現し易さ）を使用してもよい。図６に素性ＩＤの一例を示す。例えば、素性ＩＤ「ＬＰ２」は、「意味ラベルの２−ｇｒａｍ（２つの意味ラベルの並び）」の素性を表している。また、素性ＩＤ「ＬＷ３」は、表層文字列と意味ラベルの３−ｇｒａｍ（３つの「表層文字，意味ラベル」の並び）」の素性を表している。
【００３９】
これらの各素性に対する重みを、例えば、図７に示すようなパラメータテーブルとして定める。図７では、例えば、「［疑問］，［応対−肯定］」という２つの意味ラベルの並びの素性に“３．２”の重みが振られている。素性に対する重みの学習前の段階では、各素性に対する重みは、適当な初期値を設定しておく。パラメータテーブル作成部２４は、このパラメータテーブルを、正解コーパスから作成された学習用発話対を用いて学習する。
【００４０】
より具体的には、学習用発話対作成部２２で作成された学習用発話対の形態素情報と機能表現辞書３０とを用いて、各形態素について候補となる意味ラベルを全て含んだラティスを構築する。なお、機能表現辞書３０に含まれておらず、かつ機能語相当の品詞（助詞・助動詞・動詞−非自立・名詞−非自立）の形態素には［ＮＵＬＬ］の意味ラベルを振る。機能表現辞書３０にも含まれず、機能語相当の品詞の形態素でもない場合には、［＊］の意味ラベルを振る。構築されたラティスの一例を図８に示す。
【００４１】
ラティスが構築されたら、ラティス構造から最尤パスを探索する。具体的には、まず、発話対の解析結果である形態素列について、各形態素について出力された意味ラベルの候補からいずれかの候補を選択した意味ラベル候補の組み合わせをフレーズ列として、想定される全ての組み合わせのフレーズ列を作成する。そして、フレーズ列の中で、最も尤もらしいフレーズ列を、パラメータテーブルをもとに計算する。本実施の形態では、非特許文献１に沿って下記の式を満たすフレーズ列を探索し、最尤パスとして出力する。
【００４２】
【数１】
【００４３】
ここで、Ｐはフレーズ列、ｆｋ（Ｐ）はフレーズ列Ｐが与えられたときのｋ番目の素性、ｗｋは素性ｆｋ（Ｐ）に対応する重みであり、上記のように初期値を設定して作成したパラメータテーブルを検索することで得られる。すなわち、ｗｋｆｋ（Ｐ）は、各フレーズ列のスコアであり、各フレーズ列についてこのスコアを計算し、スコアが最大となるフレーズ列を最尤パスとする。探索された最尤パスが、正解のフレーズ列となるようにパラメータテーブルの重みを学習する。最尤パスと正解のフレーズ列とが一致した場合に、学習の処理を終了する。スコアの計算には動的計画法を用いることができる。図８において、図中太枠で示される意味ラベルの列が最尤パスである。このように学習されたパラメータテーブルを学習モデル３２として記憶する。
【００４４】
付与用発話対作成部４２は、入力された意味ラベル付与対象のテキストデータに基づいて、付与用発話対を作成する。ここで入力されるテキストデータは、形態素解析済みの対話文である。付与用発話対の作成方法は、学習用発話対作成部２２と同様である。
【００４５】
意味ラベル付与部４４は、付与用発話対作成部４２で作成された付与用発話対の形態素情報と応対ラベルを含んだ機能表現辞書３０とを用いて、各形態素について候補となる意味ラベルを全て含んだラティスを構築する。ラティスの構築方法の詳細は、パラメータテーブル作成部２４におけるラティス構築方法と同様である。
【００４６】
また、意味ラベル付与部４４は、パラメータテーブル作成部２４により学習されたパラメータテーブル（学習モデル３２）に基づいて、構築されたラティス構造から最尤パスを探索することで、最も尤もらしい意味ラベルを計算し、出力する。最尤パスの探索方法の詳細は、パラメータテーブル作成部２４における最尤パスの探索方法と同様である。
【００４７】
入力されたテキストデータに対するラティス、及び最尤パス計算によって出力された意味ラベル（図中太枠）の列の一例を、図９に示す。本実施の形態では、モデル学習の際に、発話対を素性の単位としており、そのため、「よね」の意味ラベル候補［疑問］と「はい」の意味ラベル候補［応対‐肯定］との並びが素性として抽出される。パラメータテーブル内を参照すると、その素性に対して高い重みが定められている。これは、ある機能表現に対して、［応対‐肯定］の意味ラベルを有する応対表現が続いている場合には、その機能表現の意味ラベルとしては［疑問］が適切であることを示している。また、意味ラベル付与の際にも発話対を処理単位としているため、前の発話の終わりに表れる機能表現と、それに対する後の発話の初めに表れる応対表現との並びの素性を抽出することができる。これにより、「よね」に対して正しく［疑問］の意味ラベルを付与することができる。
【００４８】
ここで、他の例として、上記（４）のテキストデータが意味ラベル付与の対象として入力された場合について説明する。まず、付与用発話対作成部４２で、付与用発話対を作成する。そして、意味ラベル付与部４４で、ラティスを構築し、パラメータテーブル作成部２４で学習されたパラメータテーブルの素性に対する重みに基づいて、最適な意味ラベル列を出力する（図１０、出力された意味ラベル列を太枠で示す）。モデル学習時に発話対を処理単位としているため、パラメータテーブルにおいて、「よね」かつ［感嘆］と「どの（意味ラベルはなし）」との並びの素性の方が、「よね」かつ［疑問］と「どの（意味ラベルはなし）」との並びの素性より大きい重みが振られている。また、意味ラベル付与の処理単位も発話対となっている。結果、図１０に示すパターンでは、「よね」に対する意味ラベルは「感嘆」が尤もらしいと正しく認定することができ、誤って「疑問」の意味ラベルが付与されることを防ぐことができる。
【００４９】
次に、図１１を参照して、本実施の形態の意味ラベル付与装置１０において実行されるモデル学習処理ルーチンについて説明する。
【００５０】
ステップ１００で、形態素解析結果（表層形及び形態素）に対して、機能表現及び応対表現の正解ラベル、並びに発話者情報が付与された正解コーパスを取得する。
【００５１】
次に、ステップ１０２で、上記ステップ１００で取得した正解コーパスに付与された発話者情報に基づいて、発話者が交代した箇所を検出して、発話者が交代する前の発話と後の発話とを結合した学習用発話対を作成する。
【００５２】
次に、ステップ１０４で、形態素毎に付与された「意味ラベル」及び「形態素情報」を素性として、各素性に対する重みを格納したパラメータテーブルを作成する。ここでは、各素性に対する重みは、適当な初期値を設定する。また、素性には、発話対の前の発話の終わりに表れる機能表現の意味ラベルと、それに対する後の発話の初めに表れる応対表現の意味ラベルとの並びの２−ｇｒａｍの素性を用いることを必須とする。
【００５３】
次に、ステップ１０６で、上記ステップ１０２で作成された発話対の形態素情報と機能表現辞書３０とを用いて、各形態素について候補となる意味ラベルを全て含んだラティスを構築する。そして、ラティス構造から、意味ラベルの候補からいずれかの候補を選択した意味ラベル候補の組み合わせのフレーズ列を作成する。そして、フレーズ列の中で、最も尤もらしいフレーズ列を、パラメータテーブルをもとに計算して、最尤パスとして探索する。
【００５４】
次に、ステップ１０８で、上記ステップ１０６で探索された最尤パスと正解のフレーズ列とが一致したか否かを判定する。一致していない場合には、ステップ１１０へ移行して、探索される最尤パスが正解のフレーズとなるようにパラメータテーブルの重みを学習して、ステップ１０６へ戻る。最尤パスと正解のフレーズ列とが一致した場合には、ステップ１１２へ移行して、学習されたパラメータテーブルを学習モデル３２として記憶して、モデル学習処理を終了する。
【００５５】
次に、図１２を参照して、本実施の形態の意味ラベル付与装置１０において実行される意味ラベル付与処理ルーチンについて説明する。
【００５６】
ステップ１４０で、意味ラベル付与対象のテキストデータ（形態素解析済みの対話文）を取得する。次に、ステップ１４２で、モデル学習処理のステップ１０２と同様の処理により、上記ステップ１４０で取得したテキストデータに基づいて、付与用発話対を作成する。
【００５７】
次に、ステップ１４４で、モデル学習処理のステップ１０６と同様の処理により、上記ステップ１４２で作成された付与用発話対の形態素情報と機能表現辞書３０とを用いてラティスを構築し、最尤パスを探索する。この際、モデル学習処理により学習されたパラメータテーブルを参照する。
【００５８】
次に、ステップ１４６で、最尤パスとして選択された意味ラベル列を、各形態素に付与された意味ラベル列として出力し、意味ラベル付与処理を終了する。
【００５９】
以上説明したように、本実施の形態の意味ラベル付与装置によれば、正解コーパスから作成された発話対を処理単位とし、機能表現の意味ラベルと応対表現の意味ラベルとの並びの素性を加えて、意味ラベル付与モデル（パラメータテーブル）を学習することができる。これにより、相手の受け答えの仕方によって疑問となったり断定となったりする述部の表現を正しく区別する意味ラベル付与モデルを作成することができる。また、意味ラベル付与時にも、対象のテキストデータから作成された付与用発話対を処理単位とするため、前の発話の終わりの機能表現の意味ラベルと、それに対する応対表現の意味ラベルの並びの素性を抽出することができる。これにより、上記のように発話対単位で学習したパラメータテーブルを参照することで、会話の流れによって疑問表現になったり、断定表現になったりする述部に対しても、適切な意味ラベルを付与することができる。
【００６０】
また、このように適切に意味ラベルを付与することができるため、お客様の疑問や要望などを抽出、集計、及び分析するテキストマイニング技術の精度を向上させることができる。
【００６１】
なお、上記の実施の形態では、学習部と付与部とを同一のコンピュータで構成する場合について説明したが、別々のコンピュータで構成するようにしてもよい。
【００６２】
また、本発明は、上記実施の形態に限定されるものではなく、この発明の要旨を逸脱しない範囲内で様々な変形や応用が可能である。
【００６３】
また、本願明細書中において、プログラムが予めインストールされている実施の形態として説明したが、当該プログラムを、コンピュータ読み取り可能な記録媒体に格納して提供することも可能である。
【符号の説明】
【００６４】
１０ 意味ラベル付与装置
２０ 学習部
２２ 学習用発話対作成部
２４ パラメータテーブル作成部
３０ 応対ラベルを含む機能表現辞書
３２ 学習モデル
４０ 付与部
４２ 付与用発話対作成部
４４ 意味ラベル付与部
【技術分野】
【０００１】
本発明は、意味ラベル付与モデル学習装置、意味ラベル付与装置、意味ラベル付与モデル学習方法、及びプログラムに係り、特に、対話文の機能表現に意味ラベルを付与するための意味ラベル付与モデルを学習する意味ラベル付与モデル学習装置、方法、及びプログラム、並びにその意味ラベル付与モデルを用いて、対話文の機能表現に意味ラベルを付与する意味ラベル付与装置に関する。
【背景技術】
【０００２】
現在、Ｗｅｂ上のブログや音声対話ログなど大量のテキストデータから、書き手（もしくは話し手）の「願望」や「疑問」、「苦情」などといった有益な情報を抽出、集計、及び分析することが求められている。このような、大量のテキストデータから有益な情報を抽出、集計、及び分析する技術をテキストマイニング技術と呼ぶ。
【０００３】
このようなテキストマイニング技術において、重要となってくるのが、「誰が／何を／どうした」という文の核情報である。例えば、コンタクトセンタにおけるオペレータとカスタマーとの音声対話で、カスタマーが以下の発話を行ったとする。
【０００４】
・あの〜料金プランを変更したいんですけども・・・
→「料金プラン／変更したい」 （１）
・えっと、学割って使えますか？・・・
→「学割／使えるか」 （２）
【０００５】
（１）は「料金プランを変更したい」という願望を、（２）は「学割は使えるか」という疑問を表している。特に、「変更したい」「使えるか」などを表す述部は、文の核情報を表しており、「疑問」や「願望」等もこれら述部によって表現される。そのため、述部から必要な情報を抽出することが、テキストマイニングでは重要になる。
【０００６】
例えば、述部の機能表現と呼ばれる助詞・助動詞など機能語の集合に意味ラベルを付与することで、必要な情報をまとめ上げるという方法が提案されている（例えば、非特許文献１参照）。非特許文献１の方法では、例えば、下記に示すように、「変更したいんですけども」の「たい」に「願望」という意味ラベルを、「使えますか」の「か」に「疑問」という意味ラベルを自動で付与している。（以下、［ ］を用いて意味ラベルを表す）。
【０００７】
・変更し たい［願望］ん［判断］です［判断］けども［逆接確定］
・使え ます［丁寧］か［疑問］
【０００８】
非特許文献１の方法では、平均化パーセプトロンという手法で学習した識別モデルと、機能表現辞書及びフレーズテーブルとを用いて、１文内に出現する機能表現に対して、最適な機能表現の意味ラベルを出力している。
【先行技術文献】
【非特許文献】
【０００９】
【非特許文献１】今村賢治、泉朋子、菊井玄一郎、佐藤理史、「述部機能表現の意味ラベルタガー」、言語処理学会第１７回年次大会、ｐｐ．５１８−５２１、２０１１．
【発明の概要】
【発明が解決しようとする課題】
【００１０】
しかし、非特許文献１が対象としている入力は一文単位である。そのため、音声対話に出てくるような、「会話の流れによっては疑問を表す表現」に対しても一意のラベルを出力してしまう。例えば、以下の対話文を例に説明する。
【００１１】
カスタマー：機種変更は、出来ないってことなんですよね。 （３）
オペレータ：はい、申し訳ございません。
【００１２】
上記の対話文について、非特許文献１の方法を適用すると、（３）の場合、下記のように意味ラベルが付与され、「疑問」の情報を得ることができない。
【００１３】
・出来ない［否定］って［同格］こと［名詞化］
な［判断］ん［判断］です［判断］よね［感嘆］
【００１４】
仮に、「よね」という機能表現に対して「疑問」という意味ラベルを追加したとすると、次のような疑問表現ではないものにまで誤って「疑問」の意味ラベルが付与されてしまう。
【００１５】
カスタマー：昨日から、携帯が動かないんですよね。 （４）
オペレータ：どのような症状でしょうか？
【００１６】
（４）の場合、「動かない」という否定表現（トラブル表現）を表している。仮に「よね」という終助詞に対して「疑問」という意味ラベルを追加すると、非特許文献１の手法では、「疑問」の意味ラベルを出力してしまう。これは、非特許文献１の方法では、１文内の処理に閉じているためである。１文内では、（３）も（４）も前後の文字列（すなわち、「ん」、「です」及び「。」）は同じであり、１文内の単語の前後情報をもとに最適な意味ラベル列を付与する非特許文献１の方法の場合、両者の区別ができず、同じ意味ラベルを出力結果として出力してしまう。
【００１７】
以上のように従来法では、１文内に閉じた処理を行っているため、音声対話に見られるような「会話の流れによっては疑問を表す表現」に対して最適な意味ラベルを付与することができない、という問題がある。
【００１８】
本発明は上記問題点に鑑みてなされたものであり、会話の流れによって疑問表現になったり、断定表現になったりする述部の機能表現に対しても、適切な意味ラベルを付与することができる意味ラベル付与モデル学習装置、意味ラベル付与装置、意味ラベル付与モデル学習方法、及びプログラムを提供することを目的とする。
【課題を解決するための手段】
【００１９】
上記目的を達成するために、本発明の意味ラベル付与モデル学習装置は、複数の発話を示すテキストデータ各々を形態素解析した解析結果に含まれる機能表現及び応対表現に該機能表現及び該応対表現の意味を示す正解の意味ラベルが付与された複数の学習用データに基づいて、連続する２つの発話を示す学習用データを結合して、学習用発話対を作成する学習用発話対作成手段と、少なくとも機能表現の意味ラベルと応対表現の意味ラベルとの並びの素性を含む複数種類の素性各々について、値が大きいほど意味ラベル付与の判定に有効であることを示す重みを定めた意味ラベル付与モデルを、前記学習用発話対作成手段により作成された学習用発話対から抽出された素性と前記重みとに基づいて、前記学習用発話対の機能表現及び応対表現各々に正解の意味ラベルが付与されるように学習する学習手段と、を含んで構成されている。
【００２０】
本発明の意味ラベル付与モデル学習装置によれば、学習用発話対作成手段が、複数の発話を示すテキストデータ各々を形態素解析した解析結果に含まれる機能表現及び応対表現に機能表現及び応対表現の意味を示す正解の意味ラベルが付与された複数の学習用データに基づいて、連続する２つの発話を示す学習用データを結合して、学習用発話対を作成する。そして、学習手段が、少なくとも機能表現の意味ラベルと応対表現の意味ラベルとの並びの素性を含む複数種類の素性各々について、値が大きいほど意味ラベル付与の判定に有効であることを示す重みを定めた意味ラベル付与モデルを、学習用発話対作成手段により作成された学習用発話対から抽出された素性と重みとに基づいて、学習用発話対の機能表現及び応対表現各々に正解の意味ラベルが付与されるように学習する。
【００２１】
このように、連続する２つの発話を示す学習用データを結合して、学習用発話対を作成してから、少なくとも機能表現の意味ラベルと応対表現の意味ラベルとの並びの素性を含む複数種類の素性各々について、その重みを定めた意味ラベル付与モデルを学習する。このため、述部の機能表現の意味ラベルを、その発話に対する応対表現の意味ラベルに基づいて判断することができ、会話の流れによって疑問表現になったり、断定表現になったりする述部の機能表現に対しても、適切な意味ラベルを付与することができる意味ラベル付与モデルを学習することができる。
【００２２】
また、前記学習手段は、前記学習用発話対の機能表現及び応対表現各々に付与される意味ラベルの候補から、該機能表現及び応対表現毎にいずれかの候補を選択して並べた意味ラベル候補列の全ての組み合わせについて、該意味ラベル候補列各々から抽出された素性について前記意味ラベル付与モデルで定められた重みを用いたスコアを算出し、正解の意味ラベルの列と一致する意味ラベル候補列のスコアが最大となるように、前記意味ラベル付与モデルを学習することができる。
【００２３】
また、前記応対表現は、発話者の問いかけに対する応対を表す表現であり、該応対表現の意味ラベルは、肯定及び否定を含むことができる。このような応対表現を用いることにより、結合された前の発話の述部の機能表現の意味ラベルを適切に判定することができる。
【００２４】
また、本発明の意味ラベル付与装置は、連続する２つの発話を示す処理対象の形態素解析済みのテキストデータを結合して、付与用発話対を作成する付与用発話対作成手段と、前記付与用発話対作成手段により作成された付与用発話対から抽出された素性と、上記の意味ラベル付与モデル学習装置により学習された意味ラベル付与モデルとに基づいて、前記付与用発話対の機能表現及び応対表現各々に意味ラベルを付与する付与手段と、を含んで構成されている。これにより、述部の機能表現の意味ラベルを、その発話に対する応対表現の意味ラベルに基づいて判断することができ、会話の流れによって疑問表現になったり、断定表現になったりする述部の機能表現に対しても、適切な意味ラベルを付与することができる。
【００２５】
また、本発明の意味ラベル付与モデル学習方法は、学習用発話対作成手段と、学習手段とを含む意味ラベル付与モデル学習装置における意味ラベル付与モデル学習方法であって、前記学習用発話対作成手段は、複数の発話を示すテキストデータ各々を形態素解析した解析結果に含まれる機能表現及び応対表現に該機能表現及び該応対表現の意味を示す正解の意味ラベルが付与された複数の学習用データに基づいて、連続する２つの発話を示す学習用データを結合して、学習用発話対を作成し、前記学習手段は、少なくとも機能表現の意味ラベルと応対表現の意味ラベルとの並びの素性を含む複数種類の素性各々について、値が大きいほど意味ラベル付与の判定に有効であることを示す重みを定めた意味ラベル付与モデルを、前記学習用発話対作成手段により作成された学習用発話対から抽出された素性と前記重みとに基づいて、前記学習用発話対の機能表現及び応対表現各々に正解の意味ラベルが付与されるように学習する方法である。
【００２６】
また、本発明の意味ラベル付与モデル学習プログラムは、コンピュータを、上記の意味ラベル付与モデル学習装置を構成する各手段として機能させるためのプログラムである。
【発明の効果】
【００２７】
以上説明したように、本発明の意味ラベル付与モデル学習装置、方法、及びプログラムによれば、連続する２つの発話を示す学習用データを結合して、学習用発話対を作成してから、少なくとも機能表現の意味ラベルと応対表現の意味ラベルとの並びの素性を含む複数種類の素性各々について、その重みを定めた意味ラベル付与モデルを学習する。このため、述部の機能表現の意味ラベルを、その発話に対する応対表現の意味ラベルに基づいて判断することができ、会話の流れによって疑問表現になったり、断定表現になったりする述部の機能表現に対しても、適切な意味ラベルを付与することができる意味ラベル付与モデルを学習することができる、という効果が得られる。
【００２８】
また、本発明の意味ラベル付与装置によれば、処理対象のテキストデータから付与用発話対を作成してから、上記のように学習された意味ラベル付与モデルを用いることにより、会話の流れによって疑問表現になったり、断定表現になったりする述部の機能表現に対しても、適切な意味ラベルを付与することができる意味ラベル付与モデルを学習することができる、という効果が得られる。
【図面の簡単な説明】
【００２９】
【図１】本実施の形態の意味ラベル付与装置の機能的構成を示すブロック図である。
【図２】応対ラベルを含んだ機能表現辞書の一例を示す図である。
【図３】正解コーパスの一例を示す図である。
【図４】発話対の作成を説明するための図である。
【図５】発話の終わりとそれに対応する応対の並びが素性として抽出されることを説明するための図である。
【図６】素性ＩＤの一例を示す図である。
【図７】パラメータテーブルの一例を示す図である。
【図８】候補となる意味ラベルにより構築されたラティスの一例を示す図である。
【図９】ラティスから選択された意味ラベル列の一例を示す図である。
【図１０】ラティスから選択された意味ラベル列の他の例を示す図である。
【図１１】本実施の形態におけるモデル学習処理ルーチンの内容を示すフローチャートである。
【図１２】本実施の形態における意味ラベル付与処理ルーチンの内容を示すフローチャートである。
【発明を実施するための形態】
【００３０】
以下、図面を参照して本発明の実施の形態を詳細に説明する。
【００３１】
本実施の形態に係る意味ラベル付与装置１０は、ＣＰＵと、ＲＡＭと、後述するモデル学習処理ルーチン及び意味ラベル付与処理ルーチンを実行するためのプログラム及び各種データを記憶したＲＯＭとを備えたコンピュータで構成されている。このコンピュータは、機能的には、図１に示すように、学習部２０と付与部４０とを含んだ構成で表すことができる。学習部２０は更に、学習用発話対作成部２２と、パラメータテーブル作成部２４とを含んだ構成で表すことができ、付与部４０は更に、付与用発話対作成部４２と、意味ラベル付与部４４とを含んだ構成で表すことができる。なお、パラメータテーブル作成部２４が本発明の学習手段の一例である。
【００３２】
また、後述するパラメータテーブル作成部２４及び意味ラベル付与部４４では、応対ラベルを含んだ機能表現辞書３０が用いられる。機能表現辞書３０は、機能表現の表層形とその機能表現の意味を示す意味ラベルとを格納した辞書である。機能表現辞書３０は、非特許文献２（松吉俊、佐藤理史、宇津呂武仁、「日本語機能表現辞書の編纂」、自然言語処理、ｖｏｌ．１４、Ｎｏ．５、ｐｐ１２３−１４６、２００７）のような既存のものを用いてもよい。また、ＩＤ情報など他の情報が含まれていてもよい。更に、本実施の形態で用いる機能表現辞書３０には、応対ラベルが含まれる。応対ラベルとは、応対表現に付与された意味ラベルである。応対表現とは、「はい」や「いいえ」など、発話者の問いかけに対する応対を表す表現である。この応対表現を用いて、機能表現に最適な意味ラベルを付与するため、機能表現辞書３０に応対ラベルを追加する。例えば、「はい」、「そうですね」などの肯定を表す応対表現には［応対−肯定］という意味ラベルを与え、「いいえ」などの否定を表す応対表現には［応対−否定］という意味ラベルを与える。これらもまた、既存の応対表現辞書を用いてもよい。機能表現辞書３０の一例を図２に示す。
【００３３】
学習用発話対作成部２２は、入力された正解コーパスから発話対を作成する。ここで、正解コーパスとは、テキストデータ（音声データの場合は、音声認識結果）を形態素解析し、解析結果である形態素列に対して、応対ラベルを含んだ機能表現辞書３０に基づいて、適切な意味ラベル（正解ラベル）を予め人手で付与したコーパスである。正解コーパスの一例（上記（３）の対話文の例）を図３に示す。図３の例では、２段目が形態素解析後のテキストデータの表層形、３段目が形態素解析により形態素毎に付与された品詞等の形態素情報、及び３段目が機能表現辞書３０に基づいて機能表現及び応対表現に付与された正解ラベルである。また、１段目は、テキストデータの発話者を識別するための発話者情報が付与されている。
【００３４】
学習用発話対作成部２２は、入力された正解コーパスに付与された発話者情報に基づいて、発話者が交代した箇所を検出して、発話者が交代する前の発話と後の発話とを結合した発話対を作成する。以下では、学習用発話対作成部２２で作成される発話対を、後述する付与用発話対作成部４２で作成される発話対と区別するため、「学習用発話対」という。付与用発話対作成部４２で作成される発話対は「付与用発話対」という。両者の区別なく説明する場合には、単に「発話対」ともいう。本実施の形態では、入力文に対して発話対を処理の単位とすることで、応対パターンをもとに疑問表現か否かを認定する点に特徴がある。そこで、学習用発話対作成部２２により、処理単位となる学習用発話対を作成するものである。
【００３５】
例えば、下記のような対話の場合、「Ａ−Ｂ」、「Ｃ−Ｄ」、及び「Ｅ−Ｆ」が発話対として作成される。なお、発話対とならない文に対しては、通常の意味ラベル付与処理を行う（すなわち、一文を処理単位とする）。
【００３６】
オペレータ：お電話ありがとうございます、担当の鈴木です。 Ａ
カスタマー：あの、すみません。 Ｂ
昨日からずっとパソコンがつながらないんですよね。 Ｃ
オペレータ：パソコンがつながらないということですね。 Ｄ
具体的にどのような症状が出ておりますか？ Ｅ
カスタマー：えっと、・・・ Ｆ
【００３７】
より具体的には、学習用発話対作成部２２は、発話対となる連続する発話と発話とを結合した一文を作成する。例えば、図４に示すように、形態素解析結果として付与されている発話の文末記号（ここでは＜ＥＯＳ＞）を削除し、発話対となる発話同士を発話順に結合させることで発話対を作成する。このように発話対を作成して、この発話対を処理単位とすることにより、前の発話における述部の機能表現に対する最適な意味ラベルを推定するために、その発話に対する応対を素性として用いることができる。
【００３８】
パラメータテーブル作成部２４は、形態素毎に付与された「意味ラベル」及び「形態素情報」を素性として、非特許文献１と同様の方法により、意味ラベル付与モデルとして、形態素列及び意味ラベル列のパラメータテーブルを学習する。パラメータテーブルは、テキストデータから抽出される素性に対する重み（値が大きいほど意味ラベル付与の判定にその素性が有効であることを示す）を格納したテーブルである。本実施の形態で用いられる素性には、図５に示すように、発話対を処理単位として抽出される素性を用いる。すなわち、発話対の前の発話の終わりに表れる機能表現の意味ラベルと、それに対する後の発話の初めに表れる応対表現の意味ラベルとの並びの２−ｇｒａｍを素性として用いることができる。このように、意味ラベル付与モデルを学習するための処理単位を発話対とし、また対象の形態素に対して前後の形態素に付与された意味ラベルを素性として加えることが必須である（２−ｇｒａｍ以上を素性として含めることが必須）。その他の素性として、１−ｇｒａｍ素性や、非特許文献１のようにマッピング素性（形態素情報から意味ラベルの出現し易さ）を使用してもよい。図６に素性ＩＤの一例を示す。例えば、素性ＩＤ「ＬＰ２」は、「意味ラベルの２−ｇｒａｍ（２つの意味ラベルの並び）」の素性を表している。また、素性ＩＤ「ＬＷ３」は、表層文字列と意味ラベルの３−ｇｒａｍ（３つの「表層文字，意味ラベル」の並び）」の素性を表している。
【００３９】
これらの各素性に対する重みを、例えば、図７に示すようなパラメータテーブルとして定める。図７では、例えば、「［疑問］，［応対−肯定］」という２つの意味ラベルの並びの素性に“３．２”の重みが振られている。素性に対する重みの学習前の段階では、各素性に対する重みは、適当な初期値を設定しておく。パラメータテーブル作成部２４は、このパラメータテーブルを、正解コーパスから作成された学習用発話対を用いて学習する。
【００４０】
より具体的には、学習用発話対作成部２２で作成された学習用発話対の形態素情報と機能表現辞書３０とを用いて、各形態素について候補となる意味ラベルを全て含んだラティスを構築する。なお、機能表現辞書３０に含まれておらず、かつ機能語相当の品詞（助詞・助動詞・動詞−非自立・名詞−非自立）の形態素には［ＮＵＬＬ］の意味ラベルを振る。機能表現辞書３０にも含まれず、機能語相当の品詞の形態素でもない場合には、［＊］の意味ラベルを振る。構築されたラティスの一例を図８に示す。
【００４１】
ラティスが構築されたら、ラティス構造から最尤パスを探索する。具体的には、まず、発話対の解析結果である形態素列について、各形態素について出力された意味ラベルの候補からいずれかの候補を選択した意味ラベル候補の組み合わせをフレーズ列として、想定される全ての組み合わせのフレーズ列を作成する。そして、フレーズ列の中で、最も尤もらしいフレーズ列を、パラメータテーブルをもとに計算する。本実施の形態では、非特許文献１に沿って下記の式を満たすフレーズ列を探索し、最尤パスとして出力する。
【００４２】
【数１】
【００４３】
ここで、Ｐはフレーズ列、ｆｋ（Ｐ）はフレーズ列Ｐが与えられたときのｋ番目の素性、ｗｋは素性ｆｋ（Ｐ）に対応する重みであり、上記のように初期値を設定して作成したパラメータテーブルを検索することで得られる。すなわち、ｗｋｆｋ（Ｐ）は、各フレーズ列のスコアであり、各フレーズ列についてこのスコアを計算し、スコアが最大となるフレーズ列を最尤パスとする。探索された最尤パスが、正解のフレーズ列となるようにパラメータテーブルの重みを学習する。最尤パスと正解のフレーズ列とが一致した場合に、学習の処理を終了する。スコアの計算には動的計画法を用いることができる。図８において、図中太枠で示される意味ラベルの列が最尤パスである。このように学習されたパラメータテーブルを学習モデル３２として記憶する。
【００４４】
付与用発話対作成部４２は、入力された意味ラベル付与対象のテキストデータに基づいて、付与用発話対を作成する。ここで入力されるテキストデータは、形態素解析済みの対話文である。付与用発話対の作成方法は、学習用発話対作成部２２と同様である。
【００４５】
意味ラベル付与部４４は、付与用発話対作成部４２で作成された付与用発話対の形態素情報と応対ラベルを含んだ機能表現辞書３０とを用いて、各形態素について候補となる意味ラベルを全て含んだラティスを構築する。ラティスの構築方法の詳細は、パラメータテーブル作成部２４におけるラティス構築方法と同様である。
【００４６】
また、意味ラベル付与部４４は、パラメータテーブル作成部２４により学習されたパラメータテーブル（学習モデル３２）に基づいて、構築されたラティス構造から最尤パスを探索することで、最も尤もらしい意味ラベルを計算し、出力する。最尤パスの探索方法の詳細は、パラメータテーブル作成部２４における最尤パスの探索方法と同様である。
【００４７】
入力されたテキストデータに対するラティス、及び最尤パス計算によって出力された意味ラベル（図中太枠）の列の一例を、図９に示す。本実施の形態では、モデル学習の際に、発話対を素性の単位としており、そのため、「よね」の意味ラベル候補［疑問］と「はい」の意味ラベル候補［応対‐肯定］との並びが素性として抽出される。パラメータテーブル内を参照すると、その素性に対して高い重みが定められている。これは、ある機能表現に対して、［応対‐肯定］の意味ラベルを有する応対表現が続いている場合には、その機能表現の意味ラベルとしては［疑問］が適切であることを示している。また、意味ラベル付与の際にも発話対を処理単位としているため、前の発話の終わりに表れる機能表現と、それに対する後の発話の初めに表れる応対表現との並びの素性を抽出することができる。これにより、「よね」に対して正しく［疑問］の意味ラベルを付与することができる。
【００４８】
ここで、他の例として、上記（４）のテキストデータが意味ラベル付与の対象として入力された場合について説明する。まず、付与用発話対作成部４２で、付与用発話対を作成する。そして、意味ラベル付与部４４で、ラティスを構築し、パラメータテーブル作成部２４で学習されたパラメータテーブルの素性に対する重みに基づいて、最適な意味ラベル列を出力する（図１０、出力された意味ラベル列を太枠で示す）。モデル学習時に発話対を処理単位としているため、パラメータテーブルにおいて、「よね」かつ［感嘆］と「どの（意味ラベルはなし）」との並びの素性の方が、「よね」かつ［疑問］と「どの（意味ラベルはなし）」との並びの素性より大きい重みが振られている。また、意味ラベル付与の処理単位も発話対となっている。結果、図１０に示すパターンでは、「よね」に対する意味ラベルは「感嘆」が尤もらしいと正しく認定することができ、誤って「疑問」の意味ラベルが付与されることを防ぐことができる。
【００４９】
次に、図１１を参照して、本実施の形態の意味ラベル付与装置１０において実行されるモデル学習処理ルーチンについて説明する。
【００５０】
ステップ１００で、形態素解析結果（表層形及び形態素）に対して、機能表現及び応対表現の正解ラベル、並びに発話者情報が付与された正解コーパスを取得する。
【００５１】
次に、ステップ１０２で、上記ステップ１００で取得した正解コーパスに付与された発話者情報に基づいて、発話者が交代した箇所を検出して、発話者が交代する前の発話と後の発話とを結合した学習用発話対を作成する。
【００５２】
次に、ステップ１０４で、形態素毎に付与された「意味ラベル」及び「形態素情報」を素性として、各素性に対する重みを格納したパラメータテーブルを作成する。ここでは、各素性に対する重みは、適当な初期値を設定する。また、素性には、発話対の前の発話の終わりに表れる機能表現の意味ラベルと、それに対する後の発話の初めに表れる応対表現の意味ラベルとの並びの２−ｇｒａｍの素性を用いることを必須とする。
【００５３】
次に、ステップ１０６で、上記ステップ１０２で作成された発話対の形態素情報と機能表現辞書３０とを用いて、各形態素について候補となる意味ラベルを全て含んだラティスを構築する。そして、ラティス構造から、意味ラベルの候補からいずれかの候補を選択した意味ラベル候補の組み合わせのフレーズ列を作成する。そして、フレーズ列の中で、最も尤もらしいフレーズ列を、パラメータテーブルをもとに計算して、最尤パスとして探索する。
【００５４】
次に、ステップ１０８で、上記ステップ１０６で探索された最尤パスと正解のフレーズ列とが一致したか否かを判定する。一致していない場合には、ステップ１１０へ移行して、探索される最尤パスが正解のフレーズとなるようにパラメータテーブルの重みを学習して、ステップ１０６へ戻る。最尤パスと正解のフレーズ列とが一致した場合には、ステップ１１２へ移行して、学習されたパラメータテーブルを学習モデル３２として記憶して、モデル学習処理を終了する。
【００５５】
次に、図１２を参照して、本実施の形態の意味ラベル付与装置１０において実行される意味ラベル付与処理ルーチンについて説明する。
【００５６】
ステップ１４０で、意味ラベル付与対象のテキストデータ（形態素解析済みの対話文）を取得する。次に、ステップ１４２で、モデル学習処理のステップ１０２と同様の処理により、上記ステップ１４０で取得したテキストデータに基づいて、付与用発話対を作成する。
【００５７】
次に、ステップ１４４で、モデル学習処理のステップ１０６と同様の処理により、上記ステップ１４２で作成された付与用発話対の形態素情報と機能表現辞書３０とを用いてラティスを構築し、最尤パスを探索する。この際、モデル学習処理により学習されたパラメータテーブルを参照する。
【００５８】
次に、ステップ１４６で、最尤パスとして選択された意味ラベル列を、各形態素に付与された意味ラベル列として出力し、意味ラベル付与処理を終了する。
【００５９】
以上説明したように、本実施の形態の意味ラベル付与装置によれば、正解コーパスから作成された発話対を処理単位とし、機能表現の意味ラベルと応対表現の意味ラベルとの並びの素性を加えて、意味ラベル付与モデル（パラメータテーブル）を学習することができる。これにより、相手の受け答えの仕方によって疑問となったり断定となったりする述部の表現を正しく区別する意味ラベル付与モデルを作成することができる。また、意味ラベル付与時にも、対象のテキストデータから作成された付与用発話対を処理単位とするため、前の発話の終わりの機能表現の意味ラベルと、それに対する応対表現の意味ラベルの並びの素性を抽出することができる。これにより、上記のように発話対単位で学習したパラメータテーブルを参照することで、会話の流れによって疑問表現になったり、断定表現になったりする述部に対しても、適切な意味ラベルを付与することができる。
【００６０】
また、このように適切に意味ラベルを付与することができるため、お客様の疑問や要望などを抽出、集計、及び分析するテキストマイニング技術の精度を向上させることができる。
【００６１】
なお、上記の実施の形態では、学習部と付与部とを同一のコンピュータで構成する場合について説明したが、別々のコンピュータで構成するようにしてもよい。
【００６２】
また、本発明は、上記実施の形態に限定されるものではなく、この発明の要旨を逸脱しない範囲内で様々な変形や応用が可能である。
【００６３】
また、本願明細書中において、プログラムが予めインストールされている実施の形態として説明したが、当該プログラムを、コンピュータ読み取り可能な記録媒体に格納して提供することも可能である。
【符号の説明】
【００６４】
１０ 意味ラベル付与装置
２０ 学習部
２２ 学習用発話対作成部
２４ パラメータテーブル作成部
３０ 応対ラベルを含む機能表現辞書
３２ 学習モデル
４０ 付与部
４２ 付与用発話対作成部
４４ 意味ラベル付与部
【特許請求の範囲】
【請求項１】
複数の発話を示すテキストデータ各々を形態素解析した解析結果に含まれる機能表現及び応対表現に該機能表現及び該応対表現の意味を示す正解の意味ラベルが付与された複数の学習用データに基づいて、連続する２つの発話を示す学習用データを結合して、学習用発話対を作成する学習用発話対作成手段と、
少なくとも機能表現の意味ラベルと応対表現の意味ラベルとの並びの素性を含む複数種類の素性各々について、値が大きいほど意味ラベル付与の判定に有効であることを示す重みを定めた意味ラベル付与モデルを、前記学習用発話対作成手段により作成された学習用発話対から抽出された素性と前記重みとに基づいて、前記学習用発話対の機能表現及び応対表現各々に正解の意味ラベルが付与されるように学習する学習手段と、
を含む意味ラベル付与モデル学習装置。
【請求項２】
前記学習手段は、前記学習用発話対の機能表現及び応対表現各々に付与される意味ラベルの候補から、該機能表現及び応対表現毎にいずれかの候補を選択して並べた意味ラベル候補列の全ての組み合わせについて、該意味ラベル候補列各々から抽出された素性について前記意味ラベル付与モデルで定められた重みを用いたスコアを算出し、正解の意味ラベルの列と一致する意味ラベル候補列のスコアが最大となるように、前記意味ラベル付与モデルを学習する請求項１記載の意味ラベル付与モデル学習装置。
【請求項３】
前記応対表現は、発話者の問いかけに対する応対を表す表現であり、該応対表現の意味ラベルは、肯定及び否定を含む請求項１または請求項２記載の意味ラベル付与モデル学習装置。
【請求項４】
連続する２つの発話を示す処理対象の形態素解析済みのテキストデータを結合して、付与用発話対を作成する付与用発話対作成手段と、
前記付与用発話対作成手段により作成された付与用発話対から抽出された素性と、請求項１〜請求項３のいずれか１項記載の意味ラベル付与モデル学習装置により学習された意味ラベル付与モデルとに基づいて、前記付与用発話対の機能表現及び応対表現各々に意味ラベルを付与する付与手段と、
を含む意味ラベル付与装置。
【請求項５】
学習用発話対作成手段と、学習手段とを含む意味ラベル付与モデル学習装置における意味ラベル付与モデル学習方法であって、
前記学習用発話対作成手段は、複数の発話を示すテキストデータ各々を形態素解析した解析結果に含まれる機能表現及び応対表現に該機能表現及び該応対表現の意味を示す正解の意味ラベルが付与された複数の学習用データに基づいて、連続する２つの発話を示す学習用データを結合して、学習用発話対を作成し、
前記学習手段は、少なくとも機能表現の意味ラベルと応対表現の意味ラベルとの並びの素性を含む複数種類の素性各々について、値が大きいほど意味ラベル付与の判定に有効であることを示す重みを定めた意味ラベル付与モデルを、前記学習用発話対作成手段により作成された学習用発話対から抽出された素性と前記重みとに基づいて、前記学習用発話対の機能表現及び応対表現各々に正解の意味ラベルが付与されるように学習する
意味ラベル付与モデル学習方法。
【請求項６】
コンピュータを、請求項１〜請求項３のいずれか１項記載の意味ラベル付与モデル学習装置を構成する各手段として機能させるための意味ラベル付与モデル学習プログラム。
【請求項１】
複数の発話を示すテキストデータ各々を形態素解析した解析結果に含まれる機能表現及び応対表現に該機能表現及び該応対表現の意味を示す正解の意味ラベルが付与された複数の学習用データに基づいて、連続する２つの発話を示す学習用データを結合して、学習用発話対を作成する学習用発話対作成手段と、
少なくとも機能表現の意味ラベルと応対表現の意味ラベルとの並びの素性を含む複数種類の素性各々について、値が大きいほど意味ラベル付与の判定に有効であることを示す重みを定めた意味ラベル付与モデルを、前記学習用発話対作成手段により作成された学習用発話対から抽出された素性と前記重みとに基づいて、前記学習用発話対の機能表現及び応対表現各々に正解の意味ラベルが付与されるように学習する学習手段と、
を含む意味ラベル付与モデル学習装置。
【請求項２】
前記学習手段は、前記学習用発話対の機能表現及び応対表現各々に付与される意味ラベルの候補から、該機能表現及び応対表現毎にいずれかの候補を選択して並べた意味ラベル候補列の全ての組み合わせについて、該意味ラベル候補列各々から抽出された素性について前記意味ラベル付与モデルで定められた重みを用いたスコアを算出し、正解の意味ラベルの列と一致する意味ラベル候補列のスコアが最大となるように、前記意味ラベル付与モデルを学習する請求項１記載の意味ラベル付与モデル学習装置。
【請求項３】
前記応対表現は、発話者の問いかけに対する応対を表す表現であり、該応対表現の意味ラベルは、肯定及び否定を含む請求項１または請求項２記載の意味ラベル付与モデル学習装置。
【請求項４】
連続する２つの発話を示す処理対象の形態素解析済みのテキストデータを結合して、付与用発話対を作成する付与用発話対作成手段と、
前記付与用発話対作成手段により作成された付与用発話対から抽出された素性と、請求項１〜請求項３のいずれか１項記載の意味ラベル付与モデル学習装置により学習された意味ラベル付与モデルとに基づいて、前記付与用発話対の機能表現及び応対表現各々に意味ラベルを付与する付与手段と、
を含む意味ラベル付与装置。
【請求項５】
学習用発話対作成手段と、学習手段とを含む意味ラベル付与モデル学習装置における意味ラベル付与モデル学習方法であって、
前記学習用発話対作成手段は、複数の発話を示すテキストデータ各々を形態素解析した解析結果に含まれる機能表現及び応対表現に該機能表現及び該応対表現の意味を示す正解の意味ラベルが付与された複数の学習用データに基づいて、連続する２つの発話を示す学習用データを結合して、学習用発話対を作成し、
前記学習手段は、少なくとも機能表現の意味ラベルと応対表現の意味ラベルとの並びの素性を含む複数種類の素性各々について、値が大きいほど意味ラベル付与の判定に有効であることを示す重みを定めた意味ラベル付与モデルを、前記学習用発話対作成手段により作成された学習用発話対から抽出された素性と前記重みとに基づいて、前記学習用発話対の機能表現及び応対表現各々に正解の意味ラベルが付与されるように学習する
意味ラベル付与モデル学習方法。
【請求項６】
コンピュータを、請求項１〜請求項３のいずれか１項記載の意味ラベル付与モデル学習装置を構成する各手段として機能させるための意味ラベル付与モデル学習プログラム。
【図１】
【図２】
【図４】
【図６】
【図７】
【図８】
【図９】
【図１０】
【図１１】
【図１２】
【図３】
【図５】
【図２】
【図４】
【図６】
【図７】
【図８】
【図９】
【図１０】
【図１１】
【図１２】
【図３】
【図５】
【公開番号】特開２０１３−１０９７３８（Ｐ２０１３−１０９７３８Ａ）
【公開日】平成２５年６月６日（２０１３．６．６）
【国際特許分類】
【出願番号】特願２０１１−２５６６７７（Ｐ２０１１−２５６６７７）
【出願日】平成２３年１１月２４日（２０１１．１１．２４）
【出願人】（０００００４２２６）日本電信電話株式会社 (13,992)
【Ｆターム（参考）】
【公開日】平成２５年６月６日（２０１３．６．６）
【国際特許分類】
【出願日】平成２３年１１月２４日（２０１１．１１．２４）
【出願人】（０００００４２２６）日本電信電話株式会社 (13,992)
【Ｆターム（参考）】
[ Back to top ]