時系列データ認識方法、時系列データ認識装置及びプログラム
【課題】時系列データの推移をデータ認識に反映させて、認識精度を向上させることができる時系列データ認識方法、時系列データ認識装置及びプログラムを提供すること。
【解決手段】時系列データを構成する各入力ベクトルｘ（ｔ）と結合重みベクトルＷｊとの類似度、及び勝者余韻ベクトルＹ（ｔ）と経験重みベクトルＵｊとの類似度、に基づいて勝者ユニットを選出する。そして、選出された勝者ユニットに従って勝者余韻ベクトルＹ（ｔ）を更新する。また、選出された勝者ユニットのうち一部又は全部により、認識用の時系列データを認識する。
【解決手段】時系列データを構成する各入力ベクトルｘ（ｔ）と結合重みベクトルＷｊとの類似度、及び勝者余韻ベクトルＹ（ｔ）と経験重みベクトルＵｊとの類似度、に基づいて勝者ユニットを選出する。そして、選出された勝者ユニットに従って勝者余韻ベクトルＹ（ｔ）を更新する。また、選出された勝者ユニットのうち一部又は全部により、認識用の時系列データを認識する。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は時系列データ認識方法、時系列データ認識装置及びプログラムに関し、特に時間経過に従って内容が変化する時系列データの認識に関する。
【背景技術】
【０００２】
ニューラルネットワークの一種である自己組織化マップ（Self-Organizing Map；ＳＯＭ）は、T.Kohonenによって提案された教師なし競合学習モデルである。自己組織化とは、外部からの信号に自己を変化させ、適応することであり、自己組織化過程を簡略化したモデルが自己組織化マップである。かかる自己組織化マップによれば、外部から与えられたデータを、その内容に従って分類することが可能であり、データ認識技術への適用が広く検討されている。
【発明の開示】
【発明が解決しようとする課題】
【０００３】
ところで、データ認識技術が対象とすべきデータは、例えば時系列の音圧データ群を特定する音声データ、時系列の静止画像群を特定する動画像データ、時系列の筆記位置群を特定する手書き文字のデータ等、その多くが時間経過に従って内容が変化する時系列データである。ところが、従来の自己組織化マップを用いた時系列データの認識技術では、データの内容とその時間情報を同列に扱って、自己組織化マップに入力するものが多かった。このため、時系列データの推移をデータ認識に反映させることが困難であり、データ認識の精度向上に限界があった。
【０００４】
本発明は上記課題に鑑みてなされたものであって、その目的は、時系列データの推移をデータ認識に反映させて、認識精度を向上させることができる時系列データ認識方法、時系列データ認識装置及びプログラムを提供することにある。
【課題を解決するための手段】
【０００５】
上記課題を解決するために、本発明に係る時系列データ認識方法は、複数のユニットが配置された競合層を備えるとともに、前記各ユニットに第１及び第２の重みベクトルが関連づけられた自己組織化マップの学習を学習用の時系列データを用いて行う学習ステップと、前記自己組織化マップを用いて認識用の時系列データを認識する認識ステップと、を含む。
【０００６】
そして、前記学習ステップは、前記学習用の時系列データに対応する学習入力ベクトルを順次受け付けるステップと、順次受け付けられた前記学習入力ベクトルと、前記各ユニットに関連づけられた前記第１の重みベクトルと、の類似度に基づいて、前記複数のユニットの中から一部を選出するステップと、選出された前記ユニットに関連づけられた前記第１の重みベクトルを、受け付けられた前記学習入力ベクトルに近づけるステップと、前記学習用の時系列データに対応する学習入力ベクトルを時間順に受け付けるステップと、順次受け付けられた前記学習入力ベクトルと、前記各ユニットに関連づけられた前記第１の重みベクトルと、の類似度に基づいて、前記複数のユニットの中から一部を選出するとともに、選出された前記ユニットに関連づけられた前記第２の重みベクトルと、以前に受け付けられた前記学習入力ベクトルに対する勝者ユニットの履歴を示す勝者余韻ベクトルと、の類似度に基づいて、選出された前記一部のユニットの中から１の勝者ユニットを選出するステップと、選出された前記勝者ユニットに関連づけられた前記第２の重みベクトルを前記勝者余韻ベクトルに近づけるステップと、選出された前記勝者ユニットに従って前記勝者余韻ベクトルを更新するステップと、を含む。
【０００７】
一方、前記認識ステップは、前記認識用の時系列データに対応する認識入力ベクトルを時間順に受け付けるステップと、順次受け付けられた前記認識入力ベクトルと、前記各ユニットに関連づけられた前記第１の重みベクトルと、の類似度に基づいて、前記複数のユニットの中から一部を選出するとともに、選出された前記一部のユニットに関連づけられた前記第２の重みベクトルと、以前に受け付けられた前記認識入力ベクトルに対する勝者ユニットの履歴を示す勝者余韻ベクトルと、の類似度に基づいて、選出された前記一部のユニットの中から１の勝者ユニットを選出するステップと、選出された前記勝者ユニットに従って前記勝者余韻ベクトルを更新するステップと、選出された勝者ユニットのうち一部又は全部により、前記認識用の時系列データを認識するステップと、を含む。
【０００８】
また、本発明に係る時系列データ認識装置は、複数のユニットが配置された競合層を備える自己組織化マップを用いて、時系列データを認識する時系列データ認識装置であって、前記各ユニットに関連づけて、第１及び第２の重みベクトルを記憶する重みベクトル記憶手段と、認識用の時系列データに対応する認識入力ベクトルを時間順に受け付ける認識入力ベクトル受付手段と、順次受け付けられた前記認識入力ベクトルと前記第１の重みベクトルとの類似度、及び前記第２の重みベクトルと以前に前記認識入力ベクトル受付手段により受け付けられた前記認識入力ベクトルに対する勝者ユニットの履歴を示す勝者余韻ベクトルとの類似度に基づいて、前記複数のユニットの中から１の勝者ユニットを選出する勝者ユニット選出手段と、選出された前記勝者ユニットに従って前記勝者余韻ベクトルを更新する勝者余韻ベクトル更新手段と、選出された勝者ユニットのうち一部又は全部により、前記認識用の時系列データを認識する認識手段と、を含むことを特徴とする。
【０００９】
また、本発明に係るプログラムは、複数のユニットが配置された競合層を備える自己組織化マップを用いて、時系列データを認識するプログラムであって、前記各ユニットに関連づけて、第１及び第２の重みベクトルを記憶する重みベクトル記憶手段、認識用の時系列データに対応する認識入力ベクトルを時間順に受け付ける認識入力ベクトル受付手段、順次受け付けられた前記認識入力ベクトルと、順次受け付けられた前記認識入力ベクトルと前記第１の重みベクトルとの類似度、及び前記第２の重みベクトルと以前に前記認識入力ベクトル受付手段により受け付けられた前記認識入力ベクトルに対する勝者ユニットの履歴を示す勝者余韻ベクトルとの類似度に基づいて、前記複数のユニットの中から１の勝者ユニットを選出する勝者ユニット選出手段と、選出された前記勝者ユニットに従って前記勝者余韻ベクトルを更新する勝者余韻ベクトル更新手段、及び選出された勝者ユニットのうち一部又は全部により、前記認識用の時系列データを認識する認識手段としてコンピュータを機能させるためのプログラムである。
【００１０】
本発明では、データ認識の際、認識用の時系列データが入力される。この時系列データは認識入力ベクトルの時間順の列からなっており、各認識入力ベクトルが時間順に入力される。自己組織化マップの競合層に配置された各ユニットには、２つの重みベクトル、すなわち第１及び第２の重みベクトルが関連づけられる。第１の重みベクトルは認識入力ベクトルとの類似度（第１の類似度）が算出されるものであり、第２の重みベクトルは勝者ユニットの履歴を示す勝者余韻ベクトルとの類似度（第２の類似度）が算出されるものである。本発明によれば、競合層のユニットのうちどれが勝者ユニットであるかを、上記第１の類似度、すなわち認識入力ベクトルの内容に関する評価と、上記第２の類似度、すなわち勝者ユニットの履歴に関する評価と、を考慮して決定することができる。換言すれば、本発明では、認識入力ベクトルの内容及びその内容に至るまでの認識入力ベクトルの変化を考慮して勝者ユニットを決定することができる。このため、認識用の時系列データの推移をデータ認識に反映させて、認識精度を向上させることができる。
【００１１】
なお、前記勝者余韻ベクトルは、前記各ユニットに関連づけられた、該ユニットが勝者ユニットとして選出されるのに応じて更新される勝者余韻値を含んでもよい。また、前記勝者余韻値は、前記学習入力ベクトル又は前記認識入力ベクトルが受け付けられるのに従って減少するようにしてもよい。
【発明を実施するための最良の形態】
【００１２】
以下、本発明の一実施形態について図面に基づき詳細に説明する。
【００１３】
本実施形態に係る時系列データ認識方法では自己組織化マップが用いられる。図１は、この自己組織化マップのネットワーク構造を示す図である。本実施形態では、同図に示す構造の自己組織化マップがコンピュータ上で管理され、これを用いてコンピュータにより時系列データの認識が行われる。同図に示すように、本実施形態に係る時系列データ認識方法で用いる自己組織化マップは、入力層、競合層、勝者余韻層の３層から構成されている点が特徴的である。
【００１４】
入力層は、時系列データを構成する入力ベクトルの各成分が入力されるユニットが配置されている。本実施形態では、手書き数字の筆跡を示す座標の系列から生成された速度ベクトルの系列が、認識対象の時系列データとして用いられる。図２は、本実施形態において認識対象となる時系列データの生成手順を示している。同図に示すように、まずタブレット等にユーザが数字を筆記することにより、所定時間毎の筆記位置の座標が取得される。そして、時間的に前後する筆記位置の座標の差分を演算することにより、各手書き数字について、筆記位置の速度ベクトルの系列が得られる。同図において、各手書き数字の上に描かれた丸印はタブレット等により取得される所定時間毎の筆記位置を示している。また、各手書き数字の右側に示されたグラフは、筆記位置の速度ベクトルの垂直方向及び水平方向の各成分の値の推移を示している。次式（１）に示すように、各手書き数字は、有限（例えばＴ個）の速度ベクトル（入力ベクトル）の系列（時系列データ）により表現され、各速度ベクトルは、次式（２）に示すように、垂直方向の成分ｘ１（ｔ）及び水平方向の成分ｘ２（ｔ）を有している。ここでは、入力層に２つのユニットが配置され、一方にｘ１（ｔ）が入力され、他方にｘ２（ｔ）が入力される。
【００１５】
【数１】
【００１６】
競合層にはＮ個のユニット（ここではＮ＝６×６）が正方配置されており、各ユニットには結合重みベクトル（第１の重みベクトル）Ｗｊ及び経験重みベクトル（第２の重みベクトル）Ｕｊが関連づけられている。入力層に時系列データを構成する各入力ベクトルが入力されると、各ユニットの結合重みベクトルＷｊ及び経験重みベクトルＵｊに基づいて、競合層に配置されたユニットの中から１つの勝者ユニットが選出される。結合重みベクトルＷｊは、次式（３）に示すように入力ベクトルと同次元のベクトルであり、経験重みベクトルＵｊは、次式（４）に示すように競合層に配置されたユニットと同数の次元数を有するベクトルである。
【００１７】
【数２】
【００１８】
勝者余韻層にも、競合層に配置されたユニットと同数のＮ個のユニットが正方配置されている。勝者余韻層の各ユニットＡｊは、競合層のユニットＢｊに対応している。そして、勝者余韻層の各ユニットＡｊには勝者余韻値Ｙｊ（ｔ）が関連づけられている。この勝者余韻値Ｙｊ（ｔ）は、競合層のユニットＢｊが勝者ユニットに選出された場合に増加し、また時間経過に従って減少するものである。従って、次式（５）に示す、勝者余韻値Ｙ１（ｔ）〜ＹＮ（ｔ）を成分とする勝者余韻ベクトルＹ（ｔ）は、競合層に配置されたユニットにおける勝者ユニットの履歴を示す。
【００１９】
【数３】
【００２０】
図３は、勝者余韻ベクトルの更新を説明する図である。同図において、勝者余韻層のユニット上に描かれた棒は同ユニットに関連づけられた勝者余韻値の大きさを示している。同図に示すように、時刻１で競合層のあるユニットが勝者ユニットに選出されると、時刻２でそのユニットに関連づけられた勝者余韻値が急増する。また、時刻２では競合層の別のユニットが勝者ユニットに選出されると、時刻３でそのユニットに関連づけられた勝者余韻値が急増する。このとき、時刻２で急増した勝者余韻値は時刻３になると、時間経過により減少する。同様に、時刻３で競合層のさらに別のユニットが勝者ユニットに選出されると、時刻４でそのユニットに関連づけられた勝者余韻値が急増する。このとき、時刻３で急増した勝者余韻値は時刻４になると、時間経過により減少する。また、時刻２で急増した勝者余韻値は、時間経過によりさらに減少する。このように、勝者余韻ベクトルＹ（ｔ）は、時刻ｔ−１以前における勝者ユニット及びそれらが勝者ユニットに選出された順序の情報を含んでいる。
【００２１】
具体的には、勝者余韻ベクトルの更新は、次式（６）に従って行われる。同式によりＹｊの値域は次式（７）のようになる。また、式（６）の右辺第一項に含まれるＺｊ（ｔ）は、次式（８）に示すように、時刻ｔにおいて競合層のユニットＢｊが勝者ユニットに選出された場合に１の値をとり、選出されなかった場合に０の値をとる関数である。また、式（６）の右辺に含まれるγは次式（９）の値域をとる忘却関数であり、あるユニットが勝者ユニットに選出された場合に、それに対応する勝者余韻値が急増する程度、及び時間経過とともに勝者余韻値が減少する程度を示すパラメータである。
【００２２】
【数４】
【００２３】
ここで、時系列データの認識にあたって必要となる、事前準備の処理について説明する。図４は、この事前準備の処理を示すフロー図である。事前準備としては、まず学習用の時系列データを用いて、自己組織化マップの競合層の各ユニットＢｊに関連づけられた結合重みベクトルＷｊの学習を行う（Ｓ１０１）。さらに、同じく学習用の時系列データを用いて、各ユニットＢｊに関連づけられた経験重みベクトルＵｊの学習を行う（Ｓ１０２）。その後、既知の時系列データを学習済みの自己組織化マップに入力して、その時系列データを構成する入力ベクトルのうち最後のものに対応する勝者ユニットの識別番号を出力する（Ｓ１０３）。そして、その値をＳ１０３で自己組織化マップに入力した時系列データが表す手書き数字の内容に関連づけて、判定データとして記録しておく（Ｓ１０４）。
【００２４】
次に、時系列データの内容を判定する処理について説明する。図５は、時系列データの内容判定処理を示すフロー図である。この処理では、まず認識用の時系列データを学習済みの自己組織化マップに入力して、その時系列データを構成する入力ベクトルのうち最後のものに対応する勝者ユニットの識別番号を出力する（Ｓ５０１）。そして、この識別番号を上記判定データに照らして、認識用の時系列データが表す手書き数字の内容を判定し、判定結果を出力する（Ｓ５０２）。
【００２５】
図６は、結合重みベクトルの学習処理を示すフロー図である。同図に示す処理は、図４のＳ１０１の処理を詳細に示すものである。この処理では、まず結合重みベクトルＷｊ（ｊ＝１〜Ｎ）を例えば乱数により初期化する（Ｓ２０１）。次に、事前に用意された、多数の学習用の時系列データのそれぞれを構成する入力ベクトルｘ（１）〜ｘ（Ｔ）の中から、ランダムに選択された１つ（ここではｘ（ｔ）と記す）を取得する（Ｓ２０２）。そして、この入力ベクトルｘ（ｔ）と結合重みベクトルＷｊ（ｊ＝１〜Ｎ）の類似度を次式（１０）により算出するとともに、その値を用いて次式（１１）により勝者ユニットｃを選出する。すなわち、勝者ユニットｃは、競合層に配置されたユニットＢｊ（ｊ＝１〜Ｎ）のうち、それに対応する結合重みベクトルＷｊと入力ベクトルｘ（ｔ）との類似度が最も大きなものである。さらに、競合層において、勝者ユニットｃの近傍（所定の近傍範囲内）に配置されたユニットも選出する（Ｓ２０３）。
【００２６】
【数５】
【００２７】
そして、勝者ユニットｃ及びその近傍のユニットに関連づけられた結合重みベクトルＷｊを次式（１２）に従って更新する。ここで、Ｗｊｎｅｗは更新後の重みベクトルＷｊであり、Ｗｊｏｌｄは更新前の重みベクトルＷｊである。また、αは学習係数である。
【００２８】
【数６】
【００２９】
その後、事前に用意された入力ベクトルの中に、Ｓ２０２で未だ選択されていないものがないかを判断する（Ｓ２０５）。そして、そのようなものがあれば、それらの入力ベクトルについてＳ２０２〜Ｓ２０４の処理を実行する。また、以上のＳ２０２〜Ｓ２０５の処理は既定回数繰り返される（Ｓ２０６）。この際、上記の学習係数αを徐々に小さくし、また上記の所定の近傍範囲を徐々に狭くする。以上の学習処理により、競合層の各ユニットＢｊに関連づけられた結合重みベクトルＷｊは、手書き文字で頻出する速度ベクトルに相当するものとなる。
【００３０】
次に、図７は、経験重みベクトルＵｊの学習処理を示すフロー図である。同図に示す処理は、図４のＳ１０２の処理を詳細に示すものである。この処理では、まず経験重みベクトルＵｊ（ｊ＝１〜Ｎ）を例えば乱数により初期化する（Ｓ３０１）。次に、時間の変数ｔを１に設定して（Ｓ３０２）、学習用の時系列データを構成する入力ベクトルｘ（ｔ）を取得する（Ｓ３０３）。そして、次式（１３）により仮勝者ユニットｋを決定する（Ｓ３０４）。ここで、次式（１３）において、右辺の括弧内の式は入力ベクトルｘ（ｔ）と結合重みベクトルＷｊの類似度を示す。さらに、次式（１４）を満足する、複数の勝者候補ユニットｈを決定する（Ｓ３０５）。ここで、Φは所与の定数である。
【００３１】
【数７】
【００３２】
その後、勝者候補ユニットｈの中から、次式（１５）により勝者ユニットｓを選出する（Ｓ３０６）。すなわち、すべての勝者候補ユニットｈについて、次式（１６）により、勝者余韻ベクトルＹ（ｔ）と経験重みベクトルＵｊ（ｊ∈ｈ）との類似度を算出し、類似度が最大となる（つまり、式（１６）の値が最小となる）ものを、勝者ユニットｓとして選出する。そして、次式（１７）により、勝者ユニットｓの経験重みベクトルＵｓを更新する。ここで、Ｕｓｎｅｗは更新後の経験重みベクトルＵｓであり、Ｕｓｏｌｄは更新前の経験重みベクトルＵｓである。
【００３３】
【数８】
【００３４】
その後、上記の式（６）及び式（８）により、勝者余韻ベクトルＹ（ｔ）を更新して、時刻ｔ＋１における勝者余韻ベクトルＹ（ｔ＋１）を算出する（Ｓ３０８）。そして、ｔの値がＴ（学習用の時系列データを構成する入力ベクトルの個数）以上となるまで、ｔを１ずつインクリメントして（Ｓ３１０）、Ｓ３０３〜Ｓ３０８を繰り返す。こうして、学習用の時系列データを構成する入力ベクトルｘ（１）〜ｘ（Ｔ）を順に用いて、経験重みベクトルＵｊ（ｊ＝１〜Ｎ）の学習を行う。以上の処理は他の手書き数字に対応する時系列データについても同様に行われ（Ｓ３１１）、さらにいずれも既定回数繰り返される（Ｓ３１２）。以上の学習処理により、競合層の各ユニットＢｊに関連づけられた経験重みベクトルＵｊは、ユニットＢｊが勝者ユニットに選出される際の勝者余韻ベクトルＹ（ｔ）に相当するものとなる。
【００３５】
ここで、以上のようにして結合重みベクトルＷｊ及び経験重みベクトルＵｊの学習を終えた自己組織化マップを用いて、時系列データを認識する処理について説明する。図８は、時系列データの認識処理を示すフロー図であり、図４のＳ１０３及び図５のＳ５０１の処理を詳細に示すものである。この処理では、まず時間の変数ｔを１に設定して（Ｓ４０１）、認識用の時系列データを構成する入力ベクトルｘ（ｔ）を取得する（Ｓ４０２）。そして、上式（１３）により仮勝者ユニットｋを決定する（Ｓ４０３）。さらに、上式（１４）を満足する、複数の勝者候補ユニットｈを決定する（Ｓ４０４）。
【００３６】
その後、勝者候補ユニットｈの中から、上式（１５）により勝者ユニットｓを選出する（Ｓ４０５）。すなわち、すべての勝者候補ユニットｈについて、上式（１６）により、勝者余韻ベクトルＹ（ｔ）と経験重みベクトルＵｊ（ｊ∈ｈ）との類似度を算出し、類似度が最大となる（つまり、式（１６）の値が最小となる）ものを、勝者ユニットｓとして選出する。
【００３７】
次に、上記の式（６）及び式（８）により、勝者余韻ベクトルＹ（ｔ）を更新して、時刻ｔ＋１における勝者余韻ベクトルＹ（ｔ＋１）を算出する（Ｓ４０６）。そして、ｔの値がＴ（認識用の時系列データを構成する入力ベクトルの個数）以上となるまで、ｔを１ずつインクリメントして（Ｓ４０８）、Ｓ４０２〜Ｓ４０６を繰り返す。こうして、認識用の時系列データを構成する入力ベクトルｘ（１）〜ｘ（Ｔ）を順に自己組織化マップに入力して、勝者ユニットｓを順次決定する。そして、最終の入力ベクトル、すなわち入力ベクトルｘ（Ｔ）に対して得られた勝者ユニットｓの識別番号ｓを出力する（Ｓ４０９）。
【００３８】
図１に示す自己組織化マップにおいて、競合層の各ユニットＢｊに関連づけられた結合重みベクトルＷｊは、事前の学習により、手書き文字で頻出する速度ベクトルに相当するものとなっている。また、競合層の各ユニットＢｊに関連づけられた経験重みベクトルＵｊは、事前の学習により、ユニットＢｊが勝者ユニットに選出される際の勝者余韻ベクトルＹ（ｔ）に相当するものとなっている。従って、認識用の時系列データを構成する入力ベクトルｘ（ｔ）を自己組織化マップに時間順に入力して、入力ベクトルｘ（ｔ）と結合重みベクトルＷｊとの類似度が高く、且つ勝者余韻ベクトルＹ（ｔ）と経験重みベクトルＵｊとの類似度が高い競合層のユニットＢｊを勝者ユニットｓとして順次決定することにより、最終の入力ベクトルｘ（Ｔ）に対応する勝者ユニットｓは、認識用に入力した時系列データが示す手書き数字の内容に対応するものとなる。そして、本実施形態では、この勝者ユニットｓの識別番号ｓを、判定データに照査することにより認識用に入力した時系列データが示す手書き数字の内容を判定するようにしている。このように、本実施形態によれば、認識用の時系列データの推移をデータ認識に反映させることができるので、認識精度を向上させることができる。
【００３９】
図９は、上記の時系列データ認識方法を適用した時系列データ認識装置の構成を示す図である。同図に示すように、この時系列データ認識装置１０は、入力ベクトル受付部１２、勝者候補決定部１４、結合重みベクトル記憶部１６、経験重みベクトル記憶部１８、勝者決定部２０、勝者余韻ベクトル記憶部２２、勝者余韻ベクトル更新部２４、判定部２６及び判定データ記憶部２８を含んでいる。これらの要素は各種のコンピュータに本実施形態に係る認識プログラムを実行させることにより実現されるものである。プログラムは、ＣＤ−ＲＯＭやＤＶＤ−ＲＯＭ等のコンピュータ読み取り可能な情報記憶媒体に格納されてよい。
【００４０】
まず、結合重みベクトル記憶部１６は、競合層の各ユニットＢｊに関連づけて結合重みベクトルＷｊを記憶し、経験重みベクトル記憶部１８は、競合層の各ユニットＢｊに関連づけて経験重みベクトルＵｊを記憶する。これら結合重みベクトルＷｊ及び経験重みベクトルＵｊの値は、図６及び図７の処理により事前に得られたものである。また、勝者余韻ベクトル記憶部２２は、現時刻ｔにおける勝者余韻ベクトルＹ（ｔ）を記憶する。
【００４１】
入力ベクトル受付部１２は、認識用の時系列データを構成する入力ベクトルｘ（１）〜ｘ（Ｔ）を時間順に受け付ける。そして、勝者候補決定部１４及び勝者決定部２０は、順次受け付けられた入力ベクトルｘ（ｔ）と結合重みベクトルＷｊとの類似度、及び経験重みベクトルＵｊと勝者余韻ベクトルＹ（ｔ）との類似度に基づいて、競合層のユニットの中から１の勝者ユニットを選出する。すなわち、順次受け付けられた入力ベクトルｘ（ｔ）と、競合層の各ユニットＢｊに関連づけられた結合重みベクトルＷｊと、の類似度に基づいて、競合層のユニットの中から一部を選出するとともに、選出されたユニットに関連づけられた経験重みベクトルＵｊと、勝者余韻ベクトルＹ（ｔ）と、の類似度に基づいて、選出された前記一部のユニットの中から１の勝者ユニットを選出する。
【００４２】
具体的には、勝者候補決定部１４は、入力ベクトル受付部１２により受け付けられる入力ベクトルｘ（ｔ）及び結合重みベクトル記憶部１６から読み出される結合重みベクトルＷｊを上式（１３）に代入し、それにより仮勝者ユニットｋを決定する。さらに、上式（１４）を満足する、複数の勝者候補ユニットｈを決定する。そして、勝者決定部２０は、勝者候補ユニットｈに関する経験重みベクトルＵｊを経験重みベクトル記憶部１８から読み出し、また勝者余韻ベクトル記憶部２２から勝者余韻ベクトルＹ（ｔ）を読み出し、それらを上式（１５）に代入して、勝者候補ユニットｈの中から勝者ユニットｓを選出する。
【００４３】
勝者余韻ベクトル更新部２４は、勝者決定部２０により選出された勝者ユニットｓに従って勝者余韻ベクトルＹ（ｔ）を更新する。すなわち、上記の式（６）及び式（８）により、勝者余韻ベクトルＹ（ｔ）を更新して、時刻ｔ＋１における勝者余韻ベクトルＹ（ｔ＋１）を算出する。
【００４４】
判定データ記憶部２８は、既知の内容の時系列データを自己組織化マップに入力して、その最後の入力ベクトルに対して選出された勝者ユニットｓの識別番号ｓと、既知の内容を示す内容データ（例えば手書き数字の内容を示す数字データ）と、を関連づけて記憶するものである。判定部２６は、認識用の時系列データを構成する入力ベクトルのうち最後のもの（ｘ（Ｔ））に対して選出された勝者ベクトルｓの識別番号ｓを取得して、その識別番号ｓに関連づけて判定データ記憶部２８に記憶された内容データを読み出し、それを判定結果として出力する。
【００４５】
かかる時系列データ認識装置１０によれば、比較的軽い情報処理により、認識用の時系列データの推移をデータ認識に反映させ、認識精度を向上させることができる。従って、携帯電話機や携帯情報端末等の小型のコンピュータに適用しても、手書き文字の認識を高速且つ高精度に行うことができるようになる。
【図面の簡単な説明】
【００４６】
【図１】本実施形態に係る時系列データの認識処理において用いられる自己組織化マップのネットワーク構成図である。
【図２】学習用又は認識用に自己組織化マップに入力される時系列データの生成手順を示す図である。
【図３】勝者余韻ベクトルの更新の様子を示す図である。
【図４】時系列データの認識のための事前準備の処理を示すフロー図である。
【図５】時系列データの内容判定処理を示すフロー図である。
【図６】結合重みベクトルの学習処理を示すフロー図である。
【図７】経験重みベクトルの学習処理を示すフロー図である。
【図８】時系列データの認識処理を示すフロー図である。
【図９】本実施形態に係る時系列データ認識装置の構成図である。
【符号の説明】
【００４７】
１０ 時系列データ認識装置、１２ 入力ベクトル受付部、１４ 勝者候補決定部、１６ 結合重みベクトル記憶部、１８ 経験重みベクトル記憶部、２０ 勝者決定部、２２ 勝者余韻ベクトル記憶部、２４ 勝者余韻ベクトル更新部、２６ 判定部、２８ 判定データ記憶部。
【技術分野】
【０００１】
本発明は時系列データ認識方法、時系列データ認識装置及びプログラムに関し、特に時間経過に従って内容が変化する時系列データの認識に関する。
【背景技術】
【０００２】
ニューラルネットワークの一種である自己組織化マップ（Self-Organizing Map；ＳＯＭ）は、T.Kohonenによって提案された教師なし競合学習モデルである。自己組織化とは、外部からの信号に自己を変化させ、適応することであり、自己組織化過程を簡略化したモデルが自己組織化マップである。かかる自己組織化マップによれば、外部から与えられたデータを、その内容に従って分類することが可能であり、データ認識技術への適用が広く検討されている。
【発明の開示】
【発明が解決しようとする課題】
【０００３】
ところで、データ認識技術が対象とすべきデータは、例えば時系列の音圧データ群を特定する音声データ、時系列の静止画像群を特定する動画像データ、時系列の筆記位置群を特定する手書き文字のデータ等、その多くが時間経過に従って内容が変化する時系列データである。ところが、従来の自己組織化マップを用いた時系列データの認識技術では、データの内容とその時間情報を同列に扱って、自己組織化マップに入力するものが多かった。このため、時系列データの推移をデータ認識に反映させることが困難であり、データ認識の精度向上に限界があった。
【０００４】
本発明は上記課題に鑑みてなされたものであって、その目的は、時系列データの推移をデータ認識に反映させて、認識精度を向上させることができる時系列データ認識方法、時系列データ認識装置及びプログラムを提供することにある。
【課題を解決するための手段】
【０００５】
上記課題を解決するために、本発明に係る時系列データ認識方法は、複数のユニットが配置された競合層を備えるとともに、前記各ユニットに第１及び第２の重みベクトルが関連づけられた自己組織化マップの学習を学習用の時系列データを用いて行う学習ステップと、前記自己組織化マップを用いて認識用の時系列データを認識する認識ステップと、を含む。
【０００６】
そして、前記学習ステップは、前記学習用の時系列データに対応する学習入力ベクトルを順次受け付けるステップと、順次受け付けられた前記学習入力ベクトルと、前記各ユニットに関連づけられた前記第１の重みベクトルと、の類似度に基づいて、前記複数のユニットの中から一部を選出するステップと、選出された前記ユニットに関連づけられた前記第１の重みベクトルを、受け付けられた前記学習入力ベクトルに近づけるステップと、前記学習用の時系列データに対応する学習入力ベクトルを時間順に受け付けるステップと、順次受け付けられた前記学習入力ベクトルと、前記各ユニットに関連づけられた前記第１の重みベクトルと、の類似度に基づいて、前記複数のユニットの中から一部を選出するとともに、選出された前記ユニットに関連づけられた前記第２の重みベクトルと、以前に受け付けられた前記学習入力ベクトルに対する勝者ユニットの履歴を示す勝者余韻ベクトルと、の類似度に基づいて、選出された前記一部のユニットの中から１の勝者ユニットを選出するステップと、選出された前記勝者ユニットに関連づけられた前記第２の重みベクトルを前記勝者余韻ベクトルに近づけるステップと、選出された前記勝者ユニットに従って前記勝者余韻ベクトルを更新するステップと、を含む。
【０００７】
一方、前記認識ステップは、前記認識用の時系列データに対応する認識入力ベクトルを時間順に受け付けるステップと、順次受け付けられた前記認識入力ベクトルと、前記各ユニットに関連づけられた前記第１の重みベクトルと、の類似度に基づいて、前記複数のユニットの中から一部を選出するとともに、選出された前記一部のユニットに関連づけられた前記第２の重みベクトルと、以前に受け付けられた前記認識入力ベクトルに対する勝者ユニットの履歴を示す勝者余韻ベクトルと、の類似度に基づいて、選出された前記一部のユニットの中から１の勝者ユニットを選出するステップと、選出された前記勝者ユニットに従って前記勝者余韻ベクトルを更新するステップと、選出された勝者ユニットのうち一部又は全部により、前記認識用の時系列データを認識するステップと、を含む。
【０００８】
また、本発明に係る時系列データ認識装置は、複数のユニットが配置された競合層を備える自己組織化マップを用いて、時系列データを認識する時系列データ認識装置であって、前記各ユニットに関連づけて、第１及び第２の重みベクトルを記憶する重みベクトル記憶手段と、認識用の時系列データに対応する認識入力ベクトルを時間順に受け付ける認識入力ベクトル受付手段と、順次受け付けられた前記認識入力ベクトルと前記第１の重みベクトルとの類似度、及び前記第２の重みベクトルと以前に前記認識入力ベクトル受付手段により受け付けられた前記認識入力ベクトルに対する勝者ユニットの履歴を示す勝者余韻ベクトルとの類似度に基づいて、前記複数のユニットの中から１の勝者ユニットを選出する勝者ユニット選出手段と、選出された前記勝者ユニットに従って前記勝者余韻ベクトルを更新する勝者余韻ベクトル更新手段と、選出された勝者ユニットのうち一部又は全部により、前記認識用の時系列データを認識する認識手段と、を含むことを特徴とする。
【０００９】
また、本発明に係るプログラムは、複数のユニットが配置された競合層を備える自己組織化マップを用いて、時系列データを認識するプログラムであって、前記各ユニットに関連づけて、第１及び第２の重みベクトルを記憶する重みベクトル記憶手段、認識用の時系列データに対応する認識入力ベクトルを時間順に受け付ける認識入力ベクトル受付手段、順次受け付けられた前記認識入力ベクトルと、順次受け付けられた前記認識入力ベクトルと前記第１の重みベクトルとの類似度、及び前記第２の重みベクトルと以前に前記認識入力ベクトル受付手段により受け付けられた前記認識入力ベクトルに対する勝者ユニットの履歴を示す勝者余韻ベクトルとの類似度に基づいて、前記複数のユニットの中から１の勝者ユニットを選出する勝者ユニット選出手段と、選出された前記勝者ユニットに従って前記勝者余韻ベクトルを更新する勝者余韻ベクトル更新手段、及び選出された勝者ユニットのうち一部又は全部により、前記認識用の時系列データを認識する認識手段としてコンピュータを機能させるためのプログラムである。
【００１０】
本発明では、データ認識の際、認識用の時系列データが入力される。この時系列データは認識入力ベクトルの時間順の列からなっており、各認識入力ベクトルが時間順に入力される。自己組織化マップの競合層に配置された各ユニットには、２つの重みベクトル、すなわち第１及び第２の重みベクトルが関連づけられる。第１の重みベクトルは認識入力ベクトルとの類似度（第１の類似度）が算出されるものであり、第２の重みベクトルは勝者ユニットの履歴を示す勝者余韻ベクトルとの類似度（第２の類似度）が算出されるものである。本発明によれば、競合層のユニットのうちどれが勝者ユニットであるかを、上記第１の類似度、すなわち認識入力ベクトルの内容に関する評価と、上記第２の類似度、すなわち勝者ユニットの履歴に関する評価と、を考慮して決定することができる。換言すれば、本発明では、認識入力ベクトルの内容及びその内容に至るまでの認識入力ベクトルの変化を考慮して勝者ユニットを決定することができる。このため、認識用の時系列データの推移をデータ認識に反映させて、認識精度を向上させることができる。
【００１１】
なお、前記勝者余韻ベクトルは、前記各ユニットに関連づけられた、該ユニットが勝者ユニットとして選出されるのに応じて更新される勝者余韻値を含んでもよい。また、前記勝者余韻値は、前記学習入力ベクトル又は前記認識入力ベクトルが受け付けられるのに従って減少するようにしてもよい。
【発明を実施するための最良の形態】
【００１２】
以下、本発明の一実施形態について図面に基づき詳細に説明する。
【００１３】
本実施形態に係る時系列データ認識方法では自己組織化マップが用いられる。図１は、この自己組織化マップのネットワーク構造を示す図である。本実施形態では、同図に示す構造の自己組織化マップがコンピュータ上で管理され、これを用いてコンピュータにより時系列データの認識が行われる。同図に示すように、本実施形態に係る時系列データ認識方法で用いる自己組織化マップは、入力層、競合層、勝者余韻層の３層から構成されている点が特徴的である。
【００１４】
入力層は、時系列データを構成する入力ベクトルの各成分が入力されるユニットが配置されている。本実施形態では、手書き数字の筆跡を示す座標の系列から生成された速度ベクトルの系列が、認識対象の時系列データとして用いられる。図２は、本実施形態において認識対象となる時系列データの生成手順を示している。同図に示すように、まずタブレット等にユーザが数字を筆記することにより、所定時間毎の筆記位置の座標が取得される。そして、時間的に前後する筆記位置の座標の差分を演算することにより、各手書き数字について、筆記位置の速度ベクトルの系列が得られる。同図において、各手書き数字の上に描かれた丸印はタブレット等により取得される所定時間毎の筆記位置を示している。また、各手書き数字の右側に示されたグラフは、筆記位置の速度ベクトルの垂直方向及び水平方向の各成分の値の推移を示している。次式（１）に示すように、各手書き数字は、有限（例えばＴ個）の速度ベクトル（入力ベクトル）の系列（時系列データ）により表現され、各速度ベクトルは、次式（２）に示すように、垂直方向の成分ｘ１（ｔ）及び水平方向の成分ｘ２（ｔ）を有している。ここでは、入力層に２つのユニットが配置され、一方にｘ１（ｔ）が入力され、他方にｘ２（ｔ）が入力される。
【００１５】
【数１】
【００１６】
競合層にはＮ個のユニット（ここではＮ＝６×６）が正方配置されており、各ユニットには結合重みベクトル（第１の重みベクトル）Ｗｊ及び経験重みベクトル（第２の重みベクトル）Ｕｊが関連づけられている。入力層に時系列データを構成する各入力ベクトルが入力されると、各ユニットの結合重みベクトルＷｊ及び経験重みベクトルＵｊに基づいて、競合層に配置されたユニットの中から１つの勝者ユニットが選出される。結合重みベクトルＷｊは、次式（３）に示すように入力ベクトルと同次元のベクトルであり、経験重みベクトルＵｊは、次式（４）に示すように競合層に配置されたユニットと同数の次元数を有するベクトルである。
【００１７】
【数２】
【００１８】
勝者余韻層にも、競合層に配置されたユニットと同数のＮ個のユニットが正方配置されている。勝者余韻層の各ユニットＡｊは、競合層のユニットＢｊに対応している。そして、勝者余韻層の各ユニットＡｊには勝者余韻値Ｙｊ（ｔ）が関連づけられている。この勝者余韻値Ｙｊ（ｔ）は、競合層のユニットＢｊが勝者ユニットに選出された場合に増加し、また時間経過に従って減少するものである。従って、次式（５）に示す、勝者余韻値Ｙ１（ｔ）〜ＹＮ（ｔ）を成分とする勝者余韻ベクトルＹ（ｔ）は、競合層に配置されたユニットにおける勝者ユニットの履歴を示す。
【００１９】
【数３】
【００２０】
図３は、勝者余韻ベクトルの更新を説明する図である。同図において、勝者余韻層のユニット上に描かれた棒は同ユニットに関連づけられた勝者余韻値の大きさを示している。同図に示すように、時刻１で競合層のあるユニットが勝者ユニットに選出されると、時刻２でそのユニットに関連づけられた勝者余韻値が急増する。また、時刻２では競合層の別のユニットが勝者ユニットに選出されると、時刻３でそのユニットに関連づけられた勝者余韻値が急増する。このとき、時刻２で急増した勝者余韻値は時刻３になると、時間経過により減少する。同様に、時刻３で競合層のさらに別のユニットが勝者ユニットに選出されると、時刻４でそのユニットに関連づけられた勝者余韻値が急増する。このとき、時刻３で急増した勝者余韻値は時刻４になると、時間経過により減少する。また、時刻２で急増した勝者余韻値は、時間経過によりさらに減少する。このように、勝者余韻ベクトルＹ（ｔ）は、時刻ｔ−１以前における勝者ユニット及びそれらが勝者ユニットに選出された順序の情報を含んでいる。
【００２１】
具体的には、勝者余韻ベクトルの更新は、次式（６）に従って行われる。同式によりＹｊの値域は次式（７）のようになる。また、式（６）の右辺第一項に含まれるＺｊ（ｔ）は、次式（８）に示すように、時刻ｔにおいて競合層のユニットＢｊが勝者ユニットに選出された場合に１の値をとり、選出されなかった場合に０の値をとる関数である。また、式（６）の右辺に含まれるγは次式（９）の値域をとる忘却関数であり、あるユニットが勝者ユニットに選出された場合に、それに対応する勝者余韻値が急増する程度、及び時間経過とともに勝者余韻値が減少する程度を示すパラメータである。
【００２２】
【数４】
【００２３】
ここで、時系列データの認識にあたって必要となる、事前準備の処理について説明する。図４は、この事前準備の処理を示すフロー図である。事前準備としては、まず学習用の時系列データを用いて、自己組織化マップの競合層の各ユニットＢｊに関連づけられた結合重みベクトルＷｊの学習を行う（Ｓ１０１）。さらに、同じく学習用の時系列データを用いて、各ユニットＢｊに関連づけられた経験重みベクトルＵｊの学習を行う（Ｓ１０２）。その後、既知の時系列データを学習済みの自己組織化マップに入力して、その時系列データを構成する入力ベクトルのうち最後のものに対応する勝者ユニットの識別番号を出力する（Ｓ１０３）。そして、その値をＳ１０３で自己組織化マップに入力した時系列データが表す手書き数字の内容に関連づけて、判定データとして記録しておく（Ｓ１０４）。
【００２４】
次に、時系列データの内容を判定する処理について説明する。図５は、時系列データの内容判定処理を示すフロー図である。この処理では、まず認識用の時系列データを学習済みの自己組織化マップに入力して、その時系列データを構成する入力ベクトルのうち最後のものに対応する勝者ユニットの識別番号を出力する（Ｓ５０１）。そして、この識別番号を上記判定データに照らして、認識用の時系列データが表す手書き数字の内容を判定し、判定結果を出力する（Ｓ５０２）。
【００２５】
図６は、結合重みベクトルの学習処理を示すフロー図である。同図に示す処理は、図４のＳ１０１の処理を詳細に示すものである。この処理では、まず結合重みベクトルＷｊ（ｊ＝１〜Ｎ）を例えば乱数により初期化する（Ｓ２０１）。次に、事前に用意された、多数の学習用の時系列データのそれぞれを構成する入力ベクトルｘ（１）〜ｘ（Ｔ）の中から、ランダムに選択された１つ（ここではｘ（ｔ）と記す）を取得する（Ｓ２０２）。そして、この入力ベクトルｘ（ｔ）と結合重みベクトルＷｊ（ｊ＝１〜Ｎ）の類似度を次式（１０）により算出するとともに、その値を用いて次式（１１）により勝者ユニットｃを選出する。すなわち、勝者ユニットｃは、競合層に配置されたユニットＢｊ（ｊ＝１〜Ｎ）のうち、それに対応する結合重みベクトルＷｊと入力ベクトルｘ（ｔ）との類似度が最も大きなものである。さらに、競合層において、勝者ユニットｃの近傍（所定の近傍範囲内）に配置されたユニットも選出する（Ｓ２０３）。
【００２６】
【数５】
【００２７】
そして、勝者ユニットｃ及びその近傍のユニットに関連づけられた結合重みベクトルＷｊを次式（１２）に従って更新する。ここで、Ｗｊｎｅｗは更新後の重みベクトルＷｊであり、Ｗｊｏｌｄは更新前の重みベクトルＷｊである。また、αは学習係数である。
【００２８】
【数６】
【００２９】
その後、事前に用意された入力ベクトルの中に、Ｓ２０２で未だ選択されていないものがないかを判断する（Ｓ２０５）。そして、そのようなものがあれば、それらの入力ベクトルについてＳ２０２〜Ｓ２０４の処理を実行する。また、以上のＳ２０２〜Ｓ２０５の処理は既定回数繰り返される（Ｓ２０６）。この際、上記の学習係数αを徐々に小さくし、また上記の所定の近傍範囲を徐々に狭くする。以上の学習処理により、競合層の各ユニットＢｊに関連づけられた結合重みベクトルＷｊは、手書き文字で頻出する速度ベクトルに相当するものとなる。
【００３０】
次に、図７は、経験重みベクトルＵｊの学習処理を示すフロー図である。同図に示す処理は、図４のＳ１０２の処理を詳細に示すものである。この処理では、まず経験重みベクトルＵｊ（ｊ＝１〜Ｎ）を例えば乱数により初期化する（Ｓ３０１）。次に、時間の変数ｔを１に設定して（Ｓ３０２）、学習用の時系列データを構成する入力ベクトルｘ（ｔ）を取得する（Ｓ３０３）。そして、次式（１３）により仮勝者ユニットｋを決定する（Ｓ３０４）。ここで、次式（１３）において、右辺の括弧内の式は入力ベクトルｘ（ｔ）と結合重みベクトルＷｊの類似度を示す。さらに、次式（１４）を満足する、複数の勝者候補ユニットｈを決定する（Ｓ３０５）。ここで、Φは所与の定数である。
【００３１】
【数７】
【００３２】
その後、勝者候補ユニットｈの中から、次式（１５）により勝者ユニットｓを選出する（Ｓ３０６）。すなわち、すべての勝者候補ユニットｈについて、次式（１６）により、勝者余韻ベクトルＹ（ｔ）と経験重みベクトルＵｊ（ｊ∈ｈ）との類似度を算出し、類似度が最大となる（つまり、式（１６）の値が最小となる）ものを、勝者ユニットｓとして選出する。そして、次式（１７）により、勝者ユニットｓの経験重みベクトルＵｓを更新する。ここで、Ｕｓｎｅｗは更新後の経験重みベクトルＵｓであり、Ｕｓｏｌｄは更新前の経験重みベクトルＵｓである。
【００３３】
【数８】
【００３４】
その後、上記の式（６）及び式（８）により、勝者余韻ベクトルＹ（ｔ）を更新して、時刻ｔ＋１における勝者余韻ベクトルＹ（ｔ＋１）を算出する（Ｓ３０８）。そして、ｔの値がＴ（学習用の時系列データを構成する入力ベクトルの個数）以上となるまで、ｔを１ずつインクリメントして（Ｓ３１０）、Ｓ３０３〜Ｓ３０８を繰り返す。こうして、学習用の時系列データを構成する入力ベクトルｘ（１）〜ｘ（Ｔ）を順に用いて、経験重みベクトルＵｊ（ｊ＝１〜Ｎ）の学習を行う。以上の処理は他の手書き数字に対応する時系列データについても同様に行われ（Ｓ３１１）、さらにいずれも既定回数繰り返される（Ｓ３１２）。以上の学習処理により、競合層の各ユニットＢｊに関連づけられた経験重みベクトルＵｊは、ユニットＢｊが勝者ユニットに選出される際の勝者余韻ベクトルＹ（ｔ）に相当するものとなる。
【００３５】
ここで、以上のようにして結合重みベクトルＷｊ及び経験重みベクトルＵｊの学習を終えた自己組織化マップを用いて、時系列データを認識する処理について説明する。図８は、時系列データの認識処理を示すフロー図であり、図４のＳ１０３及び図５のＳ５０１の処理を詳細に示すものである。この処理では、まず時間の変数ｔを１に設定して（Ｓ４０１）、認識用の時系列データを構成する入力ベクトルｘ（ｔ）を取得する（Ｓ４０２）。そして、上式（１３）により仮勝者ユニットｋを決定する（Ｓ４０３）。さらに、上式（１４）を満足する、複数の勝者候補ユニットｈを決定する（Ｓ４０４）。
【００３６】
その後、勝者候補ユニットｈの中から、上式（１５）により勝者ユニットｓを選出する（Ｓ４０５）。すなわち、すべての勝者候補ユニットｈについて、上式（１６）により、勝者余韻ベクトルＹ（ｔ）と経験重みベクトルＵｊ（ｊ∈ｈ）との類似度を算出し、類似度が最大となる（つまり、式（１６）の値が最小となる）ものを、勝者ユニットｓとして選出する。
【００３７】
次に、上記の式（６）及び式（８）により、勝者余韻ベクトルＹ（ｔ）を更新して、時刻ｔ＋１における勝者余韻ベクトルＹ（ｔ＋１）を算出する（Ｓ４０６）。そして、ｔの値がＴ（認識用の時系列データを構成する入力ベクトルの個数）以上となるまで、ｔを１ずつインクリメントして（Ｓ４０８）、Ｓ４０２〜Ｓ４０６を繰り返す。こうして、認識用の時系列データを構成する入力ベクトルｘ（１）〜ｘ（Ｔ）を順に自己組織化マップに入力して、勝者ユニットｓを順次決定する。そして、最終の入力ベクトル、すなわち入力ベクトルｘ（Ｔ）に対して得られた勝者ユニットｓの識別番号ｓを出力する（Ｓ４０９）。
【００３８】
図１に示す自己組織化マップにおいて、競合層の各ユニットＢｊに関連づけられた結合重みベクトルＷｊは、事前の学習により、手書き文字で頻出する速度ベクトルに相当するものとなっている。また、競合層の各ユニットＢｊに関連づけられた経験重みベクトルＵｊは、事前の学習により、ユニットＢｊが勝者ユニットに選出される際の勝者余韻ベクトルＹ（ｔ）に相当するものとなっている。従って、認識用の時系列データを構成する入力ベクトルｘ（ｔ）を自己組織化マップに時間順に入力して、入力ベクトルｘ（ｔ）と結合重みベクトルＷｊとの類似度が高く、且つ勝者余韻ベクトルＹ（ｔ）と経験重みベクトルＵｊとの類似度が高い競合層のユニットＢｊを勝者ユニットｓとして順次決定することにより、最終の入力ベクトルｘ（Ｔ）に対応する勝者ユニットｓは、認識用に入力した時系列データが示す手書き数字の内容に対応するものとなる。そして、本実施形態では、この勝者ユニットｓの識別番号ｓを、判定データに照査することにより認識用に入力した時系列データが示す手書き数字の内容を判定するようにしている。このように、本実施形態によれば、認識用の時系列データの推移をデータ認識に反映させることができるので、認識精度を向上させることができる。
【００３９】
図９は、上記の時系列データ認識方法を適用した時系列データ認識装置の構成を示す図である。同図に示すように、この時系列データ認識装置１０は、入力ベクトル受付部１２、勝者候補決定部１４、結合重みベクトル記憶部１６、経験重みベクトル記憶部１８、勝者決定部２０、勝者余韻ベクトル記憶部２２、勝者余韻ベクトル更新部２４、判定部２６及び判定データ記憶部２８を含んでいる。これらの要素は各種のコンピュータに本実施形態に係る認識プログラムを実行させることにより実現されるものである。プログラムは、ＣＤ−ＲＯＭやＤＶＤ−ＲＯＭ等のコンピュータ読み取り可能な情報記憶媒体に格納されてよい。
【００４０】
まず、結合重みベクトル記憶部１６は、競合層の各ユニットＢｊに関連づけて結合重みベクトルＷｊを記憶し、経験重みベクトル記憶部１８は、競合層の各ユニットＢｊに関連づけて経験重みベクトルＵｊを記憶する。これら結合重みベクトルＷｊ及び経験重みベクトルＵｊの値は、図６及び図７の処理により事前に得られたものである。また、勝者余韻ベクトル記憶部２２は、現時刻ｔにおける勝者余韻ベクトルＹ（ｔ）を記憶する。
【００４１】
入力ベクトル受付部１２は、認識用の時系列データを構成する入力ベクトルｘ（１）〜ｘ（Ｔ）を時間順に受け付ける。そして、勝者候補決定部１４及び勝者決定部２０は、順次受け付けられた入力ベクトルｘ（ｔ）と結合重みベクトルＷｊとの類似度、及び経験重みベクトルＵｊと勝者余韻ベクトルＹ（ｔ）との類似度に基づいて、競合層のユニットの中から１の勝者ユニットを選出する。すなわち、順次受け付けられた入力ベクトルｘ（ｔ）と、競合層の各ユニットＢｊに関連づけられた結合重みベクトルＷｊと、の類似度に基づいて、競合層のユニットの中から一部を選出するとともに、選出されたユニットに関連づけられた経験重みベクトルＵｊと、勝者余韻ベクトルＹ（ｔ）と、の類似度に基づいて、選出された前記一部のユニットの中から１の勝者ユニットを選出する。
【００４２】
具体的には、勝者候補決定部１４は、入力ベクトル受付部１２により受け付けられる入力ベクトルｘ（ｔ）及び結合重みベクトル記憶部１６から読み出される結合重みベクトルＷｊを上式（１３）に代入し、それにより仮勝者ユニットｋを決定する。さらに、上式（１４）を満足する、複数の勝者候補ユニットｈを決定する。そして、勝者決定部２０は、勝者候補ユニットｈに関する経験重みベクトルＵｊを経験重みベクトル記憶部１８から読み出し、また勝者余韻ベクトル記憶部２２から勝者余韻ベクトルＹ（ｔ）を読み出し、それらを上式（１５）に代入して、勝者候補ユニットｈの中から勝者ユニットｓを選出する。
【００４３】
勝者余韻ベクトル更新部２４は、勝者決定部２０により選出された勝者ユニットｓに従って勝者余韻ベクトルＹ（ｔ）を更新する。すなわち、上記の式（６）及び式（８）により、勝者余韻ベクトルＹ（ｔ）を更新して、時刻ｔ＋１における勝者余韻ベクトルＹ（ｔ＋１）を算出する。
【００４４】
判定データ記憶部２８は、既知の内容の時系列データを自己組織化マップに入力して、その最後の入力ベクトルに対して選出された勝者ユニットｓの識別番号ｓと、既知の内容を示す内容データ（例えば手書き数字の内容を示す数字データ）と、を関連づけて記憶するものである。判定部２６は、認識用の時系列データを構成する入力ベクトルのうち最後のもの（ｘ（Ｔ））に対して選出された勝者ベクトルｓの識別番号ｓを取得して、その識別番号ｓに関連づけて判定データ記憶部２８に記憶された内容データを読み出し、それを判定結果として出力する。
【００４５】
かかる時系列データ認識装置１０によれば、比較的軽い情報処理により、認識用の時系列データの推移をデータ認識に反映させ、認識精度を向上させることができる。従って、携帯電話機や携帯情報端末等の小型のコンピュータに適用しても、手書き文字の認識を高速且つ高精度に行うことができるようになる。
【図面の簡単な説明】
【００４６】
【図１】本実施形態に係る時系列データの認識処理において用いられる自己組織化マップのネットワーク構成図である。
【図２】学習用又は認識用に自己組織化マップに入力される時系列データの生成手順を示す図である。
【図３】勝者余韻ベクトルの更新の様子を示す図である。
【図４】時系列データの認識のための事前準備の処理を示すフロー図である。
【図５】時系列データの内容判定処理を示すフロー図である。
【図６】結合重みベクトルの学習処理を示すフロー図である。
【図７】経験重みベクトルの学習処理を示すフロー図である。
【図８】時系列データの認識処理を示すフロー図である。
【図９】本実施形態に係る時系列データ認識装置の構成図である。
【符号の説明】
【００４７】
１０ 時系列データ認識装置、１２ 入力ベクトル受付部、１４ 勝者候補決定部、１６ 結合重みベクトル記憶部、１８ 経験重みベクトル記憶部、２０ 勝者決定部、２２ 勝者余韻ベクトル記憶部、２４ 勝者余韻ベクトル更新部、２６ 判定部、２８ 判定データ記憶部。
【特許請求の範囲】
【請求項１】
複数のユニットが配置された競合層を備えるとともに、前記各ユニットに第１及び第２の重みベクトルが関連づけられた自己組織化マップの学習を学習用の時系列データを用いて行う学習ステップと、
前記自己組織化マップを用いて認識用の時系列データを認識する認識ステップと、を含み、
前記学習ステップは、
前記学習用の時系列データに対応する学習入力ベクトルを順次受け付けるステップと、
順次受け付けられた前記学習入力ベクトルと、前記各ユニットに関連づけられた前記第１の重みベクトルと、の類似度に基づいて、前記複数のユニットの中から一部を選出するステップと、
選出された前記ユニットに関連づけられた前記第１の重みベクトルを、受け付けられた前記学習入力ベクトルに近づけるステップと、
前記学習用の時系列データに対応する学習入力ベクトルを時間順に受け付けるステップと、
順次受け付けられた前記学習入力ベクトルと、前記各ユニットに関連づけられた前記第１の重みベクトルと、の類似度に基づいて、前記複数のユニットの中から一部を選出するとともに、選出された前記ユニットに関連づけられた前記第２の重みベクトルと、以前に受け付けられた前記学習入力ベクトルに対する勝者ユニットの履歴を示す勝者余韻ベクトルと、の類似度に基づいて、選出された前記一部のユニットの中から１の勝者ユニットを選出するステップと、
選出された前記勝者ユニットに関連づけられた前記第２の重みベクトルを前記勝者余韻ベクトルに近づけるステップと、
選出された前記勝者ユニットに従って前記勝者余韻ベクトルを更新するステップと、を含み、
前記認識ステップは、
前記認識用の時系列データに対応する認識入力ベクトルを時間順に受け付けるステップと、
順次受け付けられた前記認識入力ベクトルと、前記各ユニットに関連づけられた前記第１の重みベクトルと、の類似度に基づいて、前記複数のユニットの中から一部を選出するとともに、選出された前記一部のユニットに関連づけられた前記第２の重みベクトルと、以前に受け付けられた前記認識入力ベクトルに対する勝者ユニットの履歴を示す勝者余韻ベクトルと、の類似度に基づいて、選出された前記一部のユニットの中から１の勝者ユニットを選出するステップと、
選出された前記勝者ユニットに従って前記勝者余韻ベクトルを更新するステップと、
選出された勝者ユニットのうち一部又は全部により、前記認識用の時系列データを認識するステップと、を含む、
ことを特徴とする時系列データ認識方法。
【請求項２】
請求項１に記載の時系列データ認識方法において、
前記勝者余韻ベクトルは、前記各ユニットに関連づけられた、該ユニットが勝者ユニットとして選出されるのに応じて更新される勝者余韻値を含む、
ことを特徴とする時系列データ認識方法。
【請求項３】
請求項２に記載の時系列データ認識方法において、
前記勝者余韻値は、前記学習入力ベクトル又は前記認識入力ベクトルが受け付けられるのに従って減少する、
ことを特徴とする時系列データ認識方法。
【請求項４】
複数のユニットが配置された競合層を備える自己組織化マップを用いて、時系列データを認識する時系列データ認識装置であって、
前記各ユニットに関連づけて、第１及び第２の重みベクトルを記憶する重みベクトル記憶手段と、
認識用の時系列データに対応する認識入力ベクトルを時間順に受け付ける認識入力ベクトル受付手段と、
順次受け付けられた前記認識入力ベクトルと前記第１の重みベクトルとの類似度、及び前記第２の重みベクトルと以前に前記認識入力ベクトル受付手段により受け付けられた前記認識入力ベクトルに対する勝者ユニットの履歴を示す勝者余韻ベクトルとの類似度に基づいて、前記複数のユニットの中から１の勝者ユニットを選出する勝者ユニット選出手段と、
選出された前記勝者ユニットに従って前記勝者余韻ベクトルを更新する勝者余韻ベクトル更新手段と、
選出された勝者ユニットのうち一部又は全部により、前記認識用の時系列データを認識する認識手段と、
を含むことを特徴とする時系列データ認識装置。
【請求項５】
複数のユニットが配置された競合層を備える自己組織化マップを用いて、時系列データを認識するプログラムであって、
前記各ユニットに関連づけて、第１及び第２の重みベクトルを記憶する重みベクトル記憶手段、
認識用の時系列データに対応する認識入力ベクトルを時間順に受け付ける認識入力ベクトル受付手段、
順次受け付けられた前記認識入力ベクトルと前記第１の重みベクトルとの類似度、及び前記第２の重みベクトルと以前に前記認識入力ベクトル受付手段により受け付けられた前記認識入力ベクトルに対する勝者ユニットの履歴を示す勝者余韻ベクトルとの類似度に基づいて、前記複数のユニットの中から１の勝者ユニットを選出する勝者ユニット選出手段、
選出された前記勝者ユニットに従って前記勝者余韻ベクトルを更新する勝者余韻ベクトル更新手段、及び
選出された勝者ユニットのうち一部又は全部により、前記認識用の時系列データを認識する認識手段
としてコンピュータを機能させるためのプログラム。
【請求項１】
複数のユニットが配置された競合層を備えるとともに、前記各ユニットに第１及び第２の重みベクトルが関連づけられた自己組織化マップの学習を学習用の時系列データを用いて行う学習ステップと、
前記自己組織化マップを用いて認識用の時系列データを認識する認識ステップと、を含み、
前記学習ステップは、
前記学習用の時系列データに対応する学習入力ベクトルを順次受け付けるステップと、
順次受け付けられた前記学習入力ベクトルと、前記各ユニットに関連づけられた前記第１の重みベクトルと、の類似度に基づいて、前記複数のユニットの中から一部を選出するステップと、
選出された前記ユニットに関連づけられた前記第１の重みベクトルを、受け付けられた前記学習入力ベクトルに近づけるステップと、
前記学習用の時系列データに対応する学習入力ベクトルを時間順に受け付けるステップと、
順次受け付けられた前記学習入力ベクトルと、前記各ユニットに関連づけられた前記第１の重みベクトルと、の類似度に基づいて、前記複数のユニットの中から一部を選出するとともに、選出された前記ユニットに関連づけられた前記第２の重みベクトルと、以前に受け付けられた前記学習入力ベクトルに対する勝者ユニットの履歴を示す勝者余韻ベクトルと、の類似度に基づいて、選出された前記一部のユニットの中から１の勝者ユニットを選出するステップと、
選出された前記勝者ユニットに関連づけられた前記第２の重みベクトルを前記勝者余韻ベクトルに近づけるステップと、
選出された前記勝者ユニットに従って前記勝者余韻ベクトルを更新するステップと、を含み、
前記認識ステップは、
前記認識用の時系列データに対応する認識入力ベクトルを時間順に受け付けるステップと、
順次受け付けられた前記認識入力ベクトルと、前記各ユニットに関連づけられた前記第１の重みベクトルと、の類似度に基づいて、前記複数のユニットの中から一部を選出するとともに、選出された前記一部のユニットに関連づけられた前記第２の重みベクトルと、以前に受け付けられた前記認識入力ベクトルに対する勝者ユニットの履歴を示す勝者余韻ベクトルと、の類似度に基づいて、選出された前記一部のユニットの中から１の勝者ユニットを選出するステップと、
選出された前記勝者ユニットに従って前記勝者余韻ベクトルを更新するステップと、
選出された勝者ユニットのうち一部又は全部により、前記認識用の時系列データを認識するステップと、を含む、
ことを特徴とする時系列データ認識方法。
【請求項２】
請求項１に記載の時系列データ認識方法において、
前記勝者余韻ベクトルは、前記各ユニットに関連づけられた、該ユニットが勝者ユニットとして選出されるのに応じて更新される勝者余韻値を含む、
ことを特徴とする時系列データ認識方法。
【請求項３】
請求項２に記載の時系列データ認識方法において、
前記勝者余韻値は、前記学習入力ベクトル又は前記認識入力ベクトルが受け付けられるのに従って減少する、
ことを特徴とする時系列データ認識方法。
【請求項４】
複数のユニットが配置された競合層を備える自己組織化マップを用いて、時系列データを認識する時系列データ認識装置であって、
前記各ユニットに関連づけて、第１及び第２の重みベクトルを記憶する重みベクトル記憶手段と、
認識用の時系列データに対応する認識入力ベクトルを時間順に受け付ける認識入力ベクトル受付手段と、
順次受け付けられた前記認識入力ベクトルと前記第１の重みベクトルとの類似度、及び前記第２の重みベクトルと以前に前記認識入力ベクトル受付手段により受け付けられた前記認識入力ベクトルに対する勝者ユニットの履歴を示す勝者余韻ベクトルとの類似度に基づいて、前記複数のユニットの中から１の勝者ユニットを選出する勝者ユニット選出手段と、
選出された前記勝者ユニットに従って前記勝者余韻ベクトルを更新する勝者余韻ベクトル更新手段と、
選出された勝者ユニットのうち一部又は全部により、前記認識用の時系列データを認識する認識手段と、
を含むことを特徴とする時系列データ認識装置。
【請求項５】
複数のユニットが配置された競合層を備える自己組織化マップを用いて、時系列データを認識するプログラムであって、
前記各ユニットに関連づけて、第１及び第２の重みベクトルを記憶する重みベクトル記憶手段、
認識用の時系列データに対応する認識入力ベクトルを時間順に受け付ける認識入力ベクトル受付手段、
順次受け付けられた前記認識入力ベクトルと前記第１の重みベクトルとの類似度、及び前記第２の重みベクトルと以前に前記認識入力ベクトル受付手段により受け付けられた前記認識入力ベクトルに対する勝者ユニットの履歴を示す勝者余韻ベクトルとの類似度に基づいて、前記複数のユニットの中から１の勝者ユニットを選出する勝者ユニット選出手段、
選出された前記勝者ユニットに従って前記勝者余韻ベクトルを更新する勝者余韻ベクトル更新手段、及び
選出された勝者ユニットのうち一部又は全部により、前記認識用の時系列データを認識する認識手段
としてコンピュータを機能させるためのプログラム。
【図１】
【図２】
【図３】
【図４】
【図５】
【図６】
【図７】
【図８】
【図９】
【図２】
【図３】
【図４】
【図５】
【図６】
【図７】
【図８】
【図９】
【公開番号】特開２００７−２２００３２（Ｐ２００７−２２００３２Ａ）
【公開日】平成１９年８月３０日（２００７．８．３０）
【国際特許分類】
【出願番号】特願２００６−４３００９（Ｐ２００６−４３００９）
【出願日】平成１８年２月２０日（２００６．２．２０）
【出願人】（５０４１７４１３５）国立大学法人九州工業大学 (489)
【Ｆターム（参考）】
【公開日】平成１９年８月３０日（２００７．８．３０）
【国際特許分類】
【出願日】平成１８年２月２０日（２００６．２．２０）
【出願人】（５０４１７４１３５）国立大学法人九州工業大学 (489)
【Ｆターム（参考）】
[ Back to top ]