パターン識別装置およびパターン識別方法
【課題】より少ない演算負荷で、高精度にパターンのクラスを識別することができるパターン識別装置およびパターン識別方法を提供すること。
【解決手段】次元拡張部２２０は、学習サンプルの特徴ベクトルを、成分の線形結合により次元を拡張する。識別ベクトル学習部２３０は、高次元の特徴ベクトルから、特徴ベクトルを線形分離可能な高次元の識別ベクトルを生成する。次元縮退部２４０は、高次元の識別ベクトルの次元を縮退した低次元の識別ベクトルを参照テーブルに記述するとともに低次元の特徴ベクトルと対応付けたインデックス値を設定する。インデックス算出部４２０は、入力画像の特徴ベクトルに基づいてインデックス値を算出する。線形識別器４３０は、参照テーブルでインデックス値を検索し、該当する低次元の識別ベクトルを取得して入力画像の特徴ベクトルとの内積演算を実行して識別結果を出力する。
【解決手段】次元拡張部２２０は、学習サンプルの特徴ベクトルを、成分の線形結合により次元を拡張する。識別ベクトル学習部２３０は、高次元の特徴ベクトルから、特徴ベクトルを線形分離可能な高次元の識別ベクトルを生成する。次元縮退部２４０は、高次元の識別ベクトルの次元を縮退した低次元の識別ベクトルを参照テーブルに記述するとともに低次元の特徴ベクトルと対応付けたインデックス値を設定する。インデックス算出部４２０は、入力画像の特徴ベクトルに基づいてインデックス値を算出する。線形識別器４３０は、参照テーブルでインデックス値を検索し、該当する低次元の識別ベクトルを取得して入力画像の特徴ベクトルとの内積演算を実行して識別結果を出力する。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、入力パターンの種類を識別するパターン識別装置およびパターン識別方法に係り、特に、学習サンプルの特徴量に基づいて生成された識別ベクトルを用いるパターン識別装置およびパターン識別方法に関する。
【背景技術】
【０００２】
パターン識別の技術は、画像解析や音声解析など、様々な分野で利用されている。多くのパターン識別では、まず、区分けしようとするパターンの種類（以下「クラス」という）ごとにパターンの学習サンプルを用意し、学習サンプルから特徴量を抽出して、抽出した特徴量に基づいて識別ベクトルを生成する（たとえば非特許文献１参照）。以下、この処理を「学習」という。そして、パターン識別の対象となる入力パターンから特徴量を抽出し、学習段階で生成した識別ベクトルを用いて、入力パターンがいずれのクラスに属するかを判定する。以下、この処理を「識別」という。
【０００３】
従来のパターン識別では、学習段階と識別段階とで、同じ次元空間を用いる。高次元空間を用いる場合、高い精度で学習を行うことができるというメリットがある。また、低次元空間を用いる場合、識別段階で行われる内積演算を高速化することができるというメリットがある。
【非特許文献１】Ｂｅｒｎｈａｒｄ Ｓｃｈｏｌｋｏｐｆ， Ａｌｅｘａｎｄｅｒ Ｓｍｏｌａ， ａｎｄ Ｋｌａｕｓ‐Ｒｏｂｅｒｔ Ｍｕｌｌｅｒ， “Ｎｏｎｌｉｎｅａｒ ｃｏｍｐｏｎｅｎｔ ａｎａｌｙｓｉｓ ａｓ ａ ｋｅｒｎｅｌ ｅｉｇｅｎｖａｌｕｅ ｐｒｏｂｌｅｍ”， Ｎｅｕｒａｌ Ｃｏｍｐｕｔａｔｉｏｎ， １９９８
【発明の開示】
【発明が解決しようとする課題】
【０００４】
しかしながら、一方では、高次元空間を用いる場合、識別段階で行われる内積演算に時間が掛かり、識別処理速度が低下するという問題がある。また、低次元空間を用いる場合、学習サンプルのパターンの学習が困難となり、高次元空間を用いた場合と同等の識別精度を得るためには識別ベクトルの複雑なセットが必要となり、やはり識別処理速度が低下するという問題がある。
【０００５】
リアルタイムアプリケーションや、リソースの限られたアプリケーションにおいては、演算負荷の高い処理や、多くのメモリを必要とする処理を実行することは難しい。したがって、できるだけ演算負荷を抑えた状態でより高精度なパターン識別を実現できることが望ましい。
【０００６】
本発明は、かかる点に鑑みてなされたものであり、より少ない演算負荷で、高精度にパターンのクラスを識別することができるパターン識別装置およびパターン識別方法を提供する。
【課題を解決するための手段】
【０００７】
本発明のパターン識別装置は、入力パターンから特徴ベクトルを抽出する特徴抽出部と、入力パターンの種類を識別するための識別ベクトルと、特徴空間を分割した分割領域と、を対応付けて記述した参照テーブルから、前記特徴抽出部により抽出される特徴ベクトルが属する分割領域に対応する識別ベクトルを取得し、取得した識別ベクトルと前記入力パターンの特徴ベクトルとの内積演算を実行して前記入力パターンの種類を識別する識別部とを具備する構成を採る。
【０００８】
また、本発明のパターン識別装置は、学習サンプルから所定の次元の特徴ベクトルを抽出するサンプル特徴抽出部と、前記学習サンプルの特徴ベクトルの成分を線形結合して次元を拡張した高次元特徴ベクトルを生成する次元拡張部と、高次元特徴ベクトルに基づいてパターンの種類を識別するための高次元識別ベクトルを生成する識別ベクトル学習部と、高次元識別ベクトルの次元を縮退して前記所定の次元の識別ベクトルを生成し、特徴空間を分割した複数の分割領域のうち、基となる特徴ベクトルが属する分割領域と対応付けて前記識別ベクトルを記述した参照テーブルを作成する次元縮退部と、を有する学習部と、入力パターンから前記所定の次元の特徴ベクトルを抽出する特徴抽出部と、前記学習装置が作成した参照テーブルから前記入力パターンの特徴ベクトルが属する分割領域に対応する識別ベクトルを取得し、取得した識別ベクトルと前記入力パターンの特徴ベクトルとの内積演算を実行して前記入力パターンの種類を識別する線形識別部と、を有するパターン識別部とを具備する構成を採る。
【０００９】
本発明のパターン識別方法は、入力パターンから特徴ベクトルを抽出する特徴抽出ステップと、入力パターンの種類を識別するための識別ベクトルと、特徴空間を分割した分割領域と、を対応付けて記述した参照テーブルから、前記特徴抽出ステップで抽出した特徴ベクトルが属する分割領域に対応する識別ベクトルを取得する識別ベクトル取得ステップと、前記識別ベクトル取得ステップで取得した識別ベクトルと前記特徴抽出ステップで抽出した特徴ベクトルとの内積演算を実行して、前記入力パターンの種類を識別するパターン識別ステップとを有するようにした。
【００１０】
また、本発明のパターン識別方法は、学習サンプルから所定の次元の特徴ベクトルを抽出するサンプル特徴抽出ステップと、特徴ベクトルの成分を線形結合して次元を拡張した高次元特徴ベクトルを生成する次元拡張ステップと、高次元特徴ベクトルに基づいてパターンの種類を識別するための高次元識別ベクトルを生成する識別ベクトル学習ステップと、高次元識別ベクトルの次元を縮退して前記所定の次元の識別ベクトルを生成し、特徴空間を分割した複数の分割領域のうち、基となる特徴ベクトルが属する分割領域と対応付けて前記識別ベクトルを記述した参照テーブルを作成する次元縮退ステップと、入力パターンから前記所定の次元の特徴ベクトルを抽出する特徴抽出ステップと、参照テーブルから前記特徴抽出ステップで抽出した特徴ベクトルが属する分割領域に対応する識別ベクトルを取得する識別ベクトル取得ステップと、前記識別ベクトル取得ステップで取得した識別ベクトルと前記特徴抽出ステップで抽出した特徴ベクトルとの内積演算を実行して前記入力パターンの種類を識別するパターン識別ステップとを有するようにした。
【発明の効果】
【００１１】
本発明によれば、より少ない演算負荷で、高精度にパターンの種類を識別することができる。すなわち、特徴空間における特徴ベクトルが属する領域ごとに識別ベクトルを使い分けることができるため、たとえば、学習段階で得た高次元の識別ベクトルを、特徴ベクトルが属する領域ごとに識別精度を保った状態で低次元化し、低次元化された識別ベクトルのうち適切なものを用いてパターン識別を実施することが可能となる。
【発明を実施するための最良の形態】
【００１２】
以下、本発明の一実施の形態について、図面を参照して詳細に説明する。
【００１３】
図１は、本発明の一実施の形態に係るパターン識別システムの構成を示すブロック図である。
【００１４】
図１において、パターン識別システム１００は、学習装置２００、情報格納装置３００、および識別装置４００を有する。このパターン識別システム１００は、入力画像のパターンを識別することによって入力画像からオブジェクトを検出する装置であり、たとえば、車の後方に人がいないかどうかをカメラ画像から判別する事故防止システムに用いられるものである。以下、オブジェクト検出のためにあらかじめ定められたパターンの種類をクラスという。
【００１５】
学習装置２００は、入力画像のクラスを識別するための識別ベクトルの学習を行う。学習装置２００は、サンプル特徴抽出部２１０、次元拡張部２２０、識別ベクトル学習部２３０、および次元縮退部２４０を有する。
【００１６】
サンプル特徴抽出部２１０は、クラスごとに用意された画像の学習サンプルから特徴を抽出して低次元の特徴ベクトル（以下「低次元特徴ベクトル」という）を生成し、次元拡張部２２０へ出力する。
【００１７】
次元拡張部２２０は、低次元特徴ベクトルの次元を拡張させて高次元の特徴ベクトル（以下「高次元特徴ベクトル」）を生成し、識別ベクトル学習部２３０へ出力する。
【００１８】
識別ベクトル学習部２３０は、高次元特徴ベクトルに基づいて高次元の識別ベクトル（以下「高次元識別ベクトル」という）を生成し、次元縮退部２４０へ出力する。
【００１９】
次元縮退部２４０は、高次元識別ベクトルの次元を縮退させて低次元の識別ベクトル（以下「低次元識別ベクトル」）を複数生成し、生成した低次元識別ベクトルを記述した参照テーブルを生成する。そして、次元縮退部２４０は、生成した参照テーブルを、情報格納装置３００に格納する。
【００２０】
情報格納装置３００は、フラッシュメモリなどの情報記録媒体を備えており、学習装置２００によって格納された参照テーブルを保持する。
【００２１】
識別装置４００は、学習装置２００による学習結果である参照テーブルを用いて、入力画像のクラスを識別する。識別装置４００は、画像特徴抽出部４１０、インデックス算出部４２０、および線形識別器４３０を有する。
【００２２】
画像特徴抽出部４１０は、入力画像の特徴を抽出して低次元特徴ベクトルを生成し、インデックス算出部４２０および線形識別器４３０のそれぞれへ出力する。
【００２３】
インデックス算出部４２０は、低次元特徴ベクトルに基づいて、情報格納装置３００に格納されている参照テーブルを検索するための数値である参照テーブルインデックス（以下単に「インデックス値」という）を算出し、算出したインデックス値を線形識別器４３０へ出力する。
【００２４】
線形識別器４３０は、インデックス値を用いて参照テーブルから適切な低次元識別ベクトルを検索し、検索した低次元識別ベクトルを用いて低次元特徴ベクトルのクラスを識別して、入力画像の識別結果として出力する。
【００２５】
図１に示す学習装置２００および識別装置４００は、図示しないが、それぞれＣＰＵ（central processing unit）、制御プログラムを格納したＲＯＭ（read only memory）などの記憶媒体、ＲＡＭ（random access memory）などの作業用メモリを有する。すなわち、それぞれのＣＰＵが制御プログラムを実行することで、上記した各部の機能は実現される。
【００２６】
たとえば、上記した車の事故防止システムに本実施の形態のパターン識別システム１００を適用する場合、学習結果は同タイプの車に共通で使用することができる。このため、学習装置２００は車の生産者側に配置され、参照テーブルを格納済みの情報格納装置３００および識別装置４００は個々の車本体に配置される。
【００２７】
まず、学習装置２００の各部の動作について、詳細に説明を行う。
【００２８】
学習段階において、学習サンプルが、学習装置２００のサンプル特徴抽出部２１０へ入力される。学習サンプルは、複数のピクセルにより構成されるディジタル画像データであり、クラスごとに用意される。たとえば、上記した監視カメラの例では、人物が映っている画像の画像サンプル群と、人物が映っていない画像サンプル群とが用意され、それぞれを別のクラスに属する画像としてサンプル特徴抽出部２１０へ入力される。
【００２９】
ここでは、画像に存在するエッジを検出し、画像全体におけるエッジ方向の分布情報を用いて、画像に人物が映っているか否かを判別する場合を例として説明を行う。したがって、サンプル特徴抽出部２１０は、エッジ方向の分布情報に対応する特徴量を、学習サンプルから抽出する。
【００３０】
ここでは、水平方向または垂直方向においてピクセル値の変化の度合い（勾配）が大きい部分を、画像のエッジ部分として扱う。サンプル特徴抽出部２１０は、学習サンプルの各ピクセル位置に対して、水平方向におけるピクセル値の差（以下単に「水平勾配」という）、および垂直方向におけるピクセル値の差（以下単に「垂直勾配」という）を求める。水平勾配Ｄｘおよび垂直勾配Ｄｙは、ピクセル位置（ｘ，ｙ）におけるピクセル値をＰｘ，ｙとすると、たとえば、それぞれ以下の式（１）、（２）に従って算出することができる。
Ｄｘ ＝ Ｐｘ＋１，ｙ − Ｐｘ−１，ｙ ・・・・・・（１）
Ｄｙ ＝ Ｐｘ，ｙ＋１− Ｐｘ，ｙ−１ ・・・・・・（２）
【００３１】
これら水平勾配Ｄｘおよび垂直勾配Ｄｙは、正と負のいずれであるかによって、ピクセル値の変化の向きをも示す値となる。サンプル特徴抽出部２１０は、エッジの方向を示す情報を保持した状態で、ピクセル値の変化の向きを示す情報を除去するために、水平勾配Ｄｘおよび垂直勾配Ｄｙを、以下に示すアルゴリズム（３）を用いて、Ｇｘ＋‐Ｇｘ−‐Ｇｙ空間へ写像する。
ｉｆ （Ｄｙ ＝ ０）
Ｇｘ ＝ ａｂｓ（Ｄｘ）;
ｅｌｓｅ ｉｆ （Ｄｙ ＜ ０）
Ｇｘ ＝ −Ｄｘ;
ｅｌｓｅ
Ｇｘ ＝ Ｄｘ;
Ｇｙ ＝ ａｂｓ（Ｄｙ）;
ｉｆ （Ｇｘ ＞ ０）
Ｇｘ＋ ＝ Ｇｘ；
Ｇｘ− ＝ ０；
ｅｌｓｅ
Ｇｘ＋ ＝ ０；
Ｇｘ− ＝ −Ｇｘ； ……（３）
【００３２】
図２は、サンプル特徴抽出部２１０による特徴量の写像の様子を示す説明図である。サンプル特徴抽出部２１０は、Ｄｘ‐Ｄｙ空間２１１に特徴量として一連の点を得たとき、まずＧｙ‐Ｇｘ空間２１２へ変換し、最終的にＧｘ＋‐Ｇｘ−‐Ｇｙ空間２１３へと変換する。
【００３３】
サンプル特徴抽出部２１０は、Ｄｘ‐Ｄｙ空間２１１におけるβ（β＜１８０）度の勾配と、（１８０−β）度の勾配とを区別するため、Ｇｘを、Ｇｘ＋とＧｘ-とに分けるようにしている。たとえば、Ｄｘ‐Ｄｙ空間２１１における４５度の勾配と１３５度の勾配は、Ｇｘ＋‐Ｇｘ−‐Ｇｙ空間２１３では、区別して扱われる。これにより、画像のエッジの方向を右上がりと左上がりとで区別することができる。
【００３４】
一方、サンプル特徴抽出部２１０は、Ｇｘ＋の値をとるかＧｘ-の値をとるかによって、エッジの方向が右上がりか左上がりかを区別できるため、ＧｙについてはＧｘのように分けない。すなわち、サンプル特徴抽出部２１０は、β度の勾配と（１８０＋β）度の勾配とを区別しない。たとえば、Ｇｘ＋‐Ｇｘ−‐Ｇｙ空間２１３では、Ｄｘ‐Ｄｙ空間２１１における４５度の勾配と２２５度の勾配は同様に扱われる。
【００３５】
このように、サンプル特徴抽出部２１０は、学習サンプルのそれぞれのピクセル位置に対して、Ｇｘ＋‐Ｇｘ−‐Ｇｙ空間２１３での座標を、調整勾配Ｇｘ＋、Ｇｘ-、およびＧｙとして算出する。調整勾配Ｇｘ＋、Ｇｘ-、およびＧｙは、学習サンプルの各ピクセル位置におけるエッジの有無およびエッジの方向に対応した値となる。
【００３６】
サンプル特徴抽出部２１０は、算出した調整勾配Ｇｘ＋、Ｇｘ-、およびＧｙから、３つの学習サンプルの特徴量ｘ０、ｘ１、ｘ２を決定する。ここでは、サンプル特徴抽出部２１０は、たとえば、学習サンプルの画像全体についてのエッジ方向の分布情報を特徴量として抽出する関数Ｆを用いて、以下の式（４）〜（６）に従って学習サンプルの特徴量ｘ０、ｘ１、ｘ２を算出する。
ｘ０ ＝ Ｆ（Ｇｘ＋） ……（４）
ｘ１ ＝ Ｆ（Ｇｘ−） ……（５）
ｘ２ ＝ Ｆ（Ｇｙ） ……（６）
【００３７】
さらに、サンプル特徴抽出部２１０は、特徴量ｘ０〜ｘ２を用いて、以下の式（７）に従って低次元特徴ベクトルｘを生成する。
ｘ＝［ｘ０ ｘ１ ｘ２］Ｔ ……（７）
【００３８】
各ピクセル位置のＧｘ＋‐Ｇｘ−‐Ｇｙ空間２１３における勾配は、そのピクセル位置におけるエッジの方向に対応し、その値はエッジの強さに対応している。したがって、低次元特徴ベクトルｘは、学習サンプルの画像全体におけるエッジ方向の分布情報を示す特徴ベクトルとなる。
【００３９】
サンプル特徴抽出部２１０は、生成した低次元特徴ベクトルｘを、図１に示す次元拡張部２２０へ出力する。
【００４０】
次元拡張部２２０は、低次元特徴ベクトルｘの成分である特徴量ｘ０〜ｘ２を線形結合することにより、低次元特徴ベクトルｘよりも次元を拡張した高次元特徴ベクトルを、拡張部分が対象対かつスパースベクトルとなるように生成する。具体的には、次元拡張部２２０は、以下の式（８）を用いて、拡張された特徴量（以下「拡張特徴量」という）を生成する。
ｚ０ ＝ ｘ０
ｚ１ ＝ ｘ１
ｚ２ ＝ ｘ２
ｚ３ ＝ ｆ（ｚ０−ｚ２)
ｚ４ ＝ ｆ（−ｚ０＋ｚ２)
ｚ５ ＝ ｆ（ｚ１−ｚ２)
ｚ６ ＝ ｆ（−ｚ１＋ｚ２)
ｚ７ ＝ ｆ（2ｚ０−ｚ２)
ｚ８ ＝ ｆ（-2ｚ０＋ｚ２)
ｚ９ ＝ ｆ（2ｚ１−ｚ２)
ｚ１０ ＝ ｆ（−2ｚ１＋ｚ２)
ｚ１１ ＝ ｆ（ｚ０−2ｚ２)
ｚ１２ ＝ ｆ（−ｚ０＋2ｚ２)
ｚ１３ ＝ ｆ（ｚ１−2ｚ２)
ｚ１４ ＝ ｆ（−ｚ１＋2ｚ２) ……（８）
【００４１】
ただし、関数ｆ（α）は、数学的に、以下の式（９）で表されるものとする。
ｆ（α) ＝ α （α＞０）
ｆ（α) ＝ ０ （α≦０） ……（９）
【００４２】
そして、次元拡張部２２０は、生成した拡張特徴量ｚ０〜ｚ１４を用いて、以下の式（１０）に従って高次元特徴ベクトルｚを生成する。
ｚ ＝ ［ｚ０ ｚ１ ｚ２ … ｚ１２ ｚ１３ ｚ１４］Ｔ ……（１０）
【００４３】
このようにして生成される１５次元の高次元特徴ベクトルｚは、関数ｆ（α）により、その成分の約半分が値「０」であるスパースベクトルとなる。また、高次元特徴ベクトルｚの各成分は、いずれも負の値ではなく、ほとんどが、一方が値「０」のときに他方が「０」以上となる対象対となる。たとえば、ｚ０＞ｚ２の場合には、ｚ３ ＝ ｚ０−ｚ２＞０、ｚ４ ＝ ０であり、逆にｚ０≦ｚ２の場合には、ｚ３ ＝ ０、ｚ４ ＝ ｚ２−ｚ０＞０である。
【００４４】
なお、次元拡張部２２０は、式（８）〜（１０）を用いて生成したベクトルを正規化し、正規化されたベクトルを高次元特徴ベクトルｚとして出力するようにしてもよい。この正規化は、具体的には、式（８）〜（１０）を用いて生成したベクトルの各成分を、ベクトルの成分の合計で除することによって実現される。
【００４５】
式（８）から明らかなように、特徴空間であるＧｘ＋‐Ｇｘ−‐Ｇｙ空間２１３における低次元特徴ベクトルｘの勾配に応じて、つまり特徴空間を分割した複数の分割領域のうちいずれの分割領域に低次元特徴ベクトルｘが属するかによって、拡張特徴量ｚ０〜ｚ１４の値は変化する。また、上記したように、低次元特徴ベクトルｘの特徴空間における勾配は、学習サンプルの画像全体におけるエッジ方向の分布情報に対応している。すなわち、高次元特徴ベクトルｚは、学習サンプルの画像全体におけるエッジ方向の分布を示す情報となる。
【００４６】
次に、識別ベクトル学習部２３０は、学習サンプルから得られた高次元特徴ベクトルｚに基づいて、入力画像のクラスを識別するための高次元識別ベクトルを学習する。ここで、高次元識別ベクトルの学習とは、クラスごとに、そのクラスに属する画像から抽出された高次元特徴ベクトルｚを識別するための線形識別関数を学習し、その重みパラメータを高次元識別ベクトルの成分として決定することである。このような線形識別関数の決定手法としては、各種の既知の技術を適用することが可能である。
【００４７】
具体的には、識別ベクトル学習部２３０は、たとえば、アダブースト（AdaBoost）アルゴリズムを実行すればよい。アダブーストアルゴリズムの詳細については、たとえば、Ｐａｕｌ Ｖｉｏｌａ ａｎｄ ＭＩＣＨＡＥＬ ＪＯＮＥＳ， “Ｒｏｂｕｓｔ Ｒｅａｌ‐ｔｉｍｅ Ｏｂｊｅｃｔ Ｄｅｔｅｃｔｉｏｎ”, Ｉｎｔｅｒｎａｔｉｏｎａｌ Ｊｏｕｒｎａｌ ｏｆ Ｃｏｍｐｕｔｅｒ Ｖｉｓｉｏｎ， ２００２ に記載されているため、ここでの説明を省略する。
【００４８】
識別ベクトル学習部２３０で生成される高次元識別ベクトルｂは、以下の式（１１）で示すことができる。
ｂ ＝ ［ｂ０ ｂ１ ｂ２ … ｂ１２ ｂ１３ ｂ１４］Ｔ ……（１１）
【００４９】
ここで、従来のパターン識別で実行されるパターン識別について説明する。従来のパターン識別では、学習段階で仮に上記した高次元識別ベクトルｂが生成されたとすると、識別結果ｙを得るために、識別段階において以下の式（１２）に示す内積演算が実行される。
ｙ ＝ ｚ・ｂ
＝ ［ｚ０ ｚ１ ｚ２ … ｚ１２ ｚ１３ ｚ１４］Ｔ
・［ｂ０ ｂ１ ｂ２ … ｂ１２ ｂ１３ ｂ１４］Ｔ
＝ ｚ０ｂ０＋ｚ１ｂ１＋ … ＋ｚ１４ｂ１４ ……（１２）
【００５０】
すなわち、従来のパターン識別では、１５次元の内積演算が実行される。ところが、上記したように、このような高次元の内積演算を行うと、識別処理に時間が掛かるという問題がある。一方で、たとえば低次元特徴ベクトルｘから生成した低次元識別ベクトルを用いて同等の識別性能を得ようとしても、上記したように、やはり識別処理に時間が掛かってしまう。
【００５１】
そこで、本実施の形態のパターン識別システム１００では、高次元特徴ベクトルｚの各成分が特徴量ｘ０、ｘ１、およびｘ２の線形結合であることを利用して、高次元識別ベクトルｂの次元を縮退させ、識別性能を維持した状態で識別処理の高速化を実現する。
【００５２】
たとえば、低次元特徴ベクトルｘにおいて、ｘ０＞ ２ｘ２、ｘ１ ＞ ２ｘ２のとき、拡張特徴量ｚ０〜ｚ１４のうち、ｚ４、ｚ６、ｚ８、ｚ１０、ｚ１２、およびｚ１４は、関数ｆ（α）により、それぞれ値「０」となる。したがって、識別結果ｙを算出するための式（１２）は、以下に示す式（１３）のように変形が可能である。
ｙ ＝ ｚ・ｂ
＝ ｚ０ｂ０＋ｚ１ｂ１＋ｚ２ｂ２＋ｚ３ｂ３＋ｚ５ｂ５＋ｚ７ｂ７＋ｚ９ｂ９＋ｚ１１ｂ１１
＋ｚ１３ｂ１３
＝ ｘ０（ｂ０＋ｂ３＋ｂ７＋ｂ１１）＋ｘ１（ｂ１＋ｂ５＋ｂ９＋ｂ１３）＋ｘ２（ｂ２−ｂ３−ｂ５−ｂ７−ｂ９−ｂ１１−ｂ１３）
＝ ｘ０ｐ０＋ｘ１ｐ１＋ｘ２ｐ２
＝ ［ｘ０ ｘ１ ｘ２］Ｔ・［ｐ０ ｐ１ ｐ２］Ｔ
＝ ｘ・ｐ ……（１３）
【００５３】
ただし、このとき、ベクトルｐの各成分ｐ０、ｐ１、およびｐ２は、それぞれ以下の式（１４）で示される値となる。
ｐ０ ＝ ｂ０＋ｂ３＋ｂ７＋ｂ１１
ｐ１ ＝ ｂ１＋ｂ５＋ｂ９＋ｂ１３
ｐ２ ＝ ｂ２−ｂ３−ｂ５−ｂ７−ｂ９−ｂ１１−ｂ１３ ……（１４）
【００５４】
すなわち、元の低次元特徴ベクトルｘとベクトルｐとの３次元の内積演算により、高次元特徴ベクトルｚと高次元識別ベクトルｂとの１５次元の内積演算と同一の識別結果を得ることができる。低次元特徴ベクトルｘとベクトルｐとの内積演算を、従来の内積演算に置き換えることにより、識別性能を維持した状態で、識別段階における識別処理を格段に高速化できることは明らかである。
【００５５】
しかしながら、ベクトルｐをその都度算出すると、識別処理を効果的に高速化することができない。一方で、ベクトルｐは、上記したように、特徴空間における低次元特徴ベクトルｘの属する分割領域（以下、単に「領域」という）に応じて異なる値をとる。そこで、本実施の形態のパターン識別システム１００は、学習段階において、ベクトルｐが異なる値をとる領域のすべてについてベクトルｐの値をあらかじめ算出しておき、識別段階において、入力画像ごとに適切なベクトルｐの値を用いる。高次元識別ベクトルｂを基に構築した３次元のベクトルｐを、以下、低次元識別ベクトルｐという。
【００５６】
学習装置２００の次元縮退部２４０は、すべての低次元識別ベクトルｐの値を特徴空間の領域に対応付けて記述した参照テーブルを生成する。
【００５７】
図３は、次元縮退部２４０によって生成される参照テーブルの内容を示す説明図である。
【００５８】
図３に示すように、参照テーブル３５０は、参照テーブルインデックス、低次元識別ベクトルｐの成分ｐ０、ｐ１、およびｐ２のフィールドを持つ複数のレコードから構成されている。参照テーブルインデックスには、６ビットの値が記述される。低次元識別ベクトルｐの成分ｐ０、ｐ１、およびｐ２のフィールドには、図３に示す式を用いて算出される値がそれぞれ記述される。
【００５９】
参照テーブル３５０の各レコードは、それぞれ特徴空間における異なる領域に対応し、それぞれ異なる値の低次元識別ベクトルｐに対応している。なお、図３では、各レコードの低次元識別ベクトルｐの成分ｐ０〜ｐ２には、算出に用いられる式を記載しているが、高次元識別ベクトルｂの成分ｂ０〜ｂ１４の値は既知であることから、実際には数値が記述されることはいうまでもない。
【００６０】
参照テーブルインデックスは、識別装置４００側で低次元識別ベクトルｐを検索するためのキーとなる情報である。参照テーブルインデックスの値は、低次元識別ベクトルｐの成分ｐ０〜ｐ２の算出に用いられる式に対応して設定されているが、これについては後に詳しく説明する。
【００６１】
次元縮退部２４０は、各レコードに数値を記述して参照テーブル３５０を生成すると、図１に示す情報格納装置３００に格納する。
【００６２】
次に、識別装置４００の各部の動作について、詳細に説明を行う。
【００６３】
識別段階では、クラス分類の対象となる画像が、サンプル特徴抽出部２１０へ入力される。この入力画像も、学習パターンと同様に、複数のピクセルにより構成されるディジタル画像データでる。
【００６４】
サンプル特徴抽出部２１０は、入力画像から特徴を抽出して低次元特徴ベクトルｘを生成し、インデックス算出部４２０および線形識別器４３０へ出力する。この低次元特徴ベクトルｘの生成処理は、上記したサンプル特徴抽出部２１０と同様であり、たとえば、上記した式（１）、（２）、アルゴリズム（３）〜（７）が用いられる。サンプル特徴抽出部２１０で生成される低次元特徴ベクトルｘは、たとえば以下の式（１５）で表される。
ｘ＝［ｘ０ ｘ１ ｘ２］Ｔ ……（１５）
【００６５】
インデックス算出部４２０は、低次元特徴ベクトルｘを入力するごとに、線形識別器４３０が適切な低次元識別ベクトルｐを検索するためのインデックス値を算出するインデックス算出処理を実行する。
【００６６】
図４は、インデックス算出部４２０によるインデックス算出処理の流れを示すフローチャートである。
【００６７】
ステップＳ１０００において、インデックス算出部４２０は、インデックス値として６ビットを用意し、すべてのビットを値「０」に設定する。これにより、インデックス値は、初期状態として「００００００」に設定される。また、インデックス算出部４２０は、低次元特徴ベクトルｘから、特徴量ｘ０〜ｘ２を抽出する。
【００６８】
次に、ステップＳ１０５０において、インデックス算出部４２０は、特徴量ｘ０が特徴量ｘ２よりも大きいか否かを判断する。これは、特徴量ｘ３と特徴量ｘ４のどちらが値「０」であるかの判断と等価である。インデックス算出部４２０は、特徴量ｘ０が特徴量ｘ２よりも大きい場合には（Ｓ１０５０：ＹＥＳ）、ステップＳ１１００へ進み、特徴量ｘ０が特徴量ｘ２以下の場合には（Ｓ１０５０：ＮＯ）、ステップＳ１１００を経ずにそのままステップＳ１１５０へ進む。
【００６９】
ステップＳ１１００において、インデックス算出部４２０は、インデックス値の最初のビット（たとえば最下位ビット）を値「１」に設定し、ステップＳ１１５０へ進む。
【００７０】
ステップＳ１１５０において、インデックス算出部４２０は、特徴量ｘ１が特徴量ｘ２よりも大きいか否かを判断する。これは、特徴量ｘ５と特徴量ｘ６のどちらが値「０」であるかの判断と等価である。インデックス算出部４２０は、特徴量ｘ１が特徴量ｘ２よりも大きい場合には（Ｓ１１５０：ＹＥＳ）、ステップＳ１２００へ進み、特徴量ｘ１が特徴量ｘ２以下の場合には（Ｓ１１５０：ＮＯ）、ステップＳ１２００を経ずにそのままステップＳ１２５０へ進む。
【００７１】
ステップＳ１２００において、インデックス算出部４２０は、インデックス値の２番目のビット（たとえば最下位から２番目のビット）を値「１」に設定し、ステップＳ１２５０へ進む。
【００７２】
ステップＳ１２５０において、インデックス算出部４２０は、特徴量ｘ０の２倍が特徴量ｘ２よりも大きいか否かを判断する。これは、特徴量ｘ７と特徴量ｘ８のどちらが値「０」であるかの判断と等価である。インデックス算出部４２０は、特徴量ｘ０の２倍が特徴量ｘ２よりも大きい場合には（Ｓ１２５０：ＹＥＳ）、ステップＳ１３００へ進み、特徴量ｘ０の２倍が特徴量ｘ２以下の場合には（Ｓ１２５０：ＮＯ）、ステップＳ１３００を経ずにそのままステップＳ１３５０へ進む。
【００７３】
ステップＳ１３００において、インデックス算出部４２０は、インデックス値の３番目のビット（たとえば最下位から３番目のビット）を値「１」に設定し、ステップＳ１３５０へ進む。
【００７４】
ステップＳ１３５０において、インデックス算出部４２０は、特徴量ｘ１の２倍が特徴量ｘ２よりも大きいか否かを判断する。これは、特徴量ｘ９と特徴量ｘ１０のどちらが値「０」であるかの判断と等価である。インデックス算出部４２０は、特徴量ｘ１の２倍が特徴量ｘ２よりも大きい場合には（Ｓ１３５０：ＹＥＳ）、ステップＳ１４００へ進み、特徴量ｘ１の２倍が特徴量ｘ２以下の場合には（Ｓ１３５０：ＮＯ）、ステップＳ１４００を経ずにそのままステップＳ１４５０へ進む。
【００７５】
ステップＳ１４００において、インデックス算出部４２０は、インデックス値の４番目のビット（たとえば最下位から４番目のビット）を値「１」に設定し、ステップＳ１４５０へ進む。
【００７６】
ステップＳ１４５０において、インデックス算出部４２０は、特徴量ｘ０が特徴量ｘ２の２倍よりも大きいか否かを判断する。これは、特徴量ｘ１１と特徴量ｘ１２のどちらが値「０」であるかの判断と等価である。インデックス算出部４２０は、特徴量ｘ０が特徴量ｘ２の２倍よりも大きい場合には（Ｓ１４５０：ＹＥＳ）、ステップＳ１５００へ進み、特徴量ｘ０が特徴量ｘ２の２倍以下の場合には（Ｓ１４５０：ＮＯ）、ステップＳ１５００を経ずにそのままステップＳ１５５０へ進む。
【００７７】
ステップＳ１５００において、インデックス算出部４２０は、インデックス値の５番目のビット（たとえば最下位から５番目のビット）を値「１」に設定し、ステップＳ１５５０へ進む。
【００７８】
ステップＳ１５５０において、インデックス算出部４２０は、特徴量ｘ１が特徴量ｘ２の２倍よりも大きいか否かを判断する。これは、特徴量ｘ１３と特徴量ｘ１４のどちらが値「０」であるかの判断と等価である。インデックス算出部４２０は、特徴量ｘ１が特徴量ｘ２の２倍よりも大きい場合には（Ｓ１５５０：ＹＥＳ）、ステップＳ１６００へ進み、特徴量ｘ１が特徴量ｘ２の２倍以下の場合には（Ｓ１５５０：ＮＯ）、ステップＳ１６００を経ずにそのまま一連の処理を終了する。
【００７９】
ステップＳ１６００において、インデックス算出部４２０は、インデックス値の６番目のビット（たとえば最上位ビット）を値「１」に設定し、一連の処理を終了する。
【００８０】
このようなインデックス算出処理によって算出されるインデックス値は、低次元特徴ベクトルｘにおける値「０」の配置パターンに対応したものとなる。学習装置２００の次元縮退部２４０は、図３に示す参照テーブル３５０を生成する際に、上記インデックス算出処理の結果と対応するように、あらかじめ参照テーブルインデックスの値と低次元識別ベクトルｐの算出に用いる式とを対応付けている。したがって、ある低次元特徴ベクトルｘから算出されたインデックス値に一致する参照テーブルインデックスに対応付けて記述された低次元識別ベクトルｐは、その低次元特徴ベクトルｘに適切なものとなっている。
【００８１】
たとえば、低次元特徴ベクトルｘにおいて、ｘ０ ＞ ２ｘ２、ｘ１＞ ２ｘ２のとき、インデックス算出部４２０は、「１１１１１１」を設定する。また、既に説明したように、ｘ０ ＞ ２ｘ２、ｘ１ ＞ ２ｘ２のときには、識別結果ｙは、式（１３）を用いて演算することができる。したがって、図３に示すように、参照テーブル３５０のうち、式（１４）に示すベクトルｐの各成分ｐ０〜ｐ２が記述された最下行のレコードには、参照テーブルインデックス「１１１１１１」が設定されている。
【００８２】
線形識別器４３０は、低次元インデックス算出部４２０からインデックス値を入力すると、情報格納装置３００に格納された参照テーブル３５０の参照テーブルインデックスで、そのインデックス値を検索する。そして、該当するレコードの低次元識別ベクトルｐを取得し、画像特徴抽出部４１０から入力された低次元特徴ベクトルｘとの内積演算を実行し、識別結果を出力する。この識別結果は、上記したように、高次元特徴ベクトルｚと高次元識別ベクトルｂとの内積演算による識別結果と同一となる。
【００８３】
このような参照テーブル３５０を用いる手法により、本実施の形態のパターン識別システム１００では、１５次元の特徴ベクトルを用いて学習を行うにもかかわらず、識別処理の際に必要な乗算演算および加算演算は、それぞれわずか３回ずつに抑えられている。これは、従来の手法では必要とされる乗算演算および加算演算の回数がそれぞれ１５回であるのと比較して、大幅に演算付加を低減するものである。すなわち、本実施の形態のパターン識別システム１００は、識別性能を維持した状態で、識別段階における識別処理を従来よりも格段に高速化することができる。
【００８４】
なお、以上説明したパターン識別システム１００では、画像全体から特徴を抽出するとしたが、これに限るものではない。たとえば、サンプル特徴抽出部２１０は、入力された学習サンプルの画像を、特徴の抽出の単位となる領域に分割し、分割領域ごとに特徴を抽出して低次元特徴ベクトルｘを生成するようにしてもよい。
【００８５】
以下、学習サンプルの画像を複数領域に分割して学習を行う場合について説明する。
【００８６】
図５は、学習サンプルの分割の様子の一例を示す説明図である。図５に示すように、サンプル特徴抽出部２１０は、学習サンプル５００を、複数のサブブロック５１０により構成されるブロック５２０に分割する。ブロック５２０の個数および１つのブロック５２０を構成するサブブロック５１０の個数は、任意とすることができる。
【００８７】
たとえば、ブロック５２０を３２×３２のピクセルサイズとし、各ブロック５２０を構成するサブブロック５１０の個数を２×２とすることができる。この場合、各サブブロック５１０は、１６×１６のピクセルサイズとなる。
【００８８】
また、隣り合うブロック５２０で、それぞれのブロック５２０を構成する一部のサブブロック５２０が重なるように、学習サンプル５００を分割してもよい。この場合、ブロック５２０が重なり合う部分に位置するサブブロック５２０は、複数のブロック５２０に属することになる。
【００８９】
サンプル特徴抽出部２１０は、各ピクセル位置の調整勾配Ｇｘ＋、Ｇｘ-、およびＧｙを算出した後、サブブロック５１０全体についてのエッジ方向の分布情報を示す低次元特徴ベクトルｘを、たとえば上記した式（４）〜（７）を用いて生成する。
【００９０】
サンプル特徴抽出部２１０は、ブロック５２０レベルにおいて、同一ブロック５２０に属する各サブブロック５１０の高次元特徴ベクトルｚを連結する。すなわち、図５に示すようにブロック５２０が２×２のサブブロック５１０により構成される場合には、高次元特徴ベクトルｚは６０次元となる。また、上記した式（８）に示す線形結合よりもさらに多くの線形結合を行うことによって、より多くの成分を有する高次元特徴ベクトルｚを生成することも可能である。このように、複数のピクセルを含む領域単位で特徴量を抽出することにより、領域単位での識別処理が可能となる。ブロック５２０およびサブブロック５１０のサイズは、パターン識別の内容に応じて、適切な値を適用すればよい。
【００９１】
以上説明したように、本実施の形態によれば、学習段階において、特徴ベクトルを、成分の線形結合により次元を拡張し、高次元の特徴ベクトルから、クラスごとに特徴ベクトルを線形分離可能な高次元の識別ベクトルを生成する。そして、高次元の識別ベクトルの次元を縮退して低次元の識別ベクトルを生成するとともに、特徴空間における低次元の特徴ベクトルが属する領域と対応付けて設定したインデックス値を付して低次元の識別ベクトルを記述した参照テーブルを生成する。一方、識別段階において、入力画像から抽出した低次元の特徴ベクトルに基づいてインデックス値を算出し、参照テーブルでインデックス値を検索する。そして、該当する低次元の識別ベクトルを取得し、入力画像から抽出した低次元の特徴ベクトルとの内積演算を実行して識別結果を出力する。これにより、高次元空間で学習を行い、低次元空間で識別を行うことが可能となる。すなわち、より少ない演算負荷で、高精度にパターンのクラスを識別することができる。また、スパースなベクトルである高次元の特徴ベクトルを生成することにより、特徴ベクトルのある要素が「０」以上の値を持つかどうかを判別するだけでクラスの識別が可能となるため、識別性能を向上させることができる。さらに、ほとんどの成分が対称対である高次元の特徴ベクトルを生成することにより、インデックス値のビット数を最小限とすることができ、インデックス値を簡単に算出することができる。すなわち、識別処理のさらなる高速化を図ることができる。
【００９２】
なお、以上説明した実施の形態を、パターン識別システムを、車の前方の歩行者や他車をカメラ画像から検出するシステムや、運転者の顔の方向を検出するシステムに適用してもよい。
【００９３】
また、以上説明した実施の形態では、画像データのピクセル値から特徴ベクトルを抽出する画像レベルのパターン認識について説明したが、音声データ、テキストデータ、その他のデータに対する各種のパターン認識に本発明を適用できることはいうまでもない。
【００９４】
さらに、参照テーブルを格納した情報格納部をインターネットなどのネットワーク上に配置し、ネットワークを介して識別装置を情報格納部にアクセスさせ、参照テーブルを取得して保持させるようにしてもよい。また、学習装置、情報格納部、および識別装置を１つの装置に組み込むことにより、パターン識別装置を構成することも可能である。
【産業上の利用可能性】
【００９５】
本発明に係るパターン識別装置およびパターン識別方法は、より少ない演算負荷で、高精度にパターンのクラスを識別することができるパターン識別装置およびパターン識別方法として有用である。
【図面の簡単な説明】
【００９６】
【図１】本発明の一実施の形態に係るパターン識別システムの構成を示すブロック図
【図２】本実施の形態における特徴量の写像の様子を示す説明図
【図３】本実施の形態における参照テーブルの内容を示す説明図
【図４】本実施の形態におけるインデックス算出処理の流れを示すフローチャート
【図５】本実施の形態における学習サンプルの分割の様子の一例を示す説明図
【符号の説明】
【００９７】
１００ パターン識別システム
２００ 学習装置
２１０ サンプル特徴抽出部
２２０ 次元拡張部
２３０ 識別ベクトル学習部
２４０ 次元縮退部
３００ 情報格納装置
４００ 識別装置
４１０ 画像特徴抽出部
４２０ インデックス算出部
４３０ 線形識別器
【技術分野】
【０００１】
本発明は、入力パターンの種類を識別するパターン識別装置およびパターン識別方法に係り、特に、学習サンプルの特徴量に基づいて生成された識別ベクトルを用いるパターン識別装置およびパターン識別方法に関する。
【背景技術】
【０００２】
パターン識別の技術は、画像解析や音声解析など、様々な分野で利用されている。多くのパターン識別では、まず、区分けしようとするパターンの種類（以下「クラス」という）ごとにパターンの学習サンプルを用意し、学習サンプルから特徴量を抽出して、抽出した特徴量に基づいて識別ベクトルを生成する（たとえば非特許文献１参照）。以下、この処理を「学習」という。そして、パターン識別の対象となる入力パターンから特徴量を抽出し、学習段階で生成した識別ベクトルを用いて、入力パターンがいずれのクラスに属するかを判定する。以下、この処理を「識別」という。
【０００３】
従来のパターン識別では、学習段階と識別段階とで、同じ次元空間を用いる。高次元空間を用いる場合、高い精度で学習を行うことができるというメリットがある。また、低次元空間を用いる場合、識別段階で行われる内積演算を高速化することができるというメリットがある。
【非特許文献１】Ｂｅｒｎｈａｒｄ Ｓｃｈｏｌｋｏｐｆ， Ａｌｅｘａｎｄｅｒ Ｓｍｏｌａ， ａｎｄ Ｋｌａｕｓ‐Ｒｏｂｅｒｔ Ｍｕｌｌｅｒ， “Ｎｏｎｌｉｎｅａｒ ｃｏｍｐｏｎｅｎｔ ａｎａｌｙｓｉｓ ａｓ ａ ｋｅｒｎｅｌ ｅｉｇｅｎｖａｌｕｅ ｐｒｏｂｌｅｍ”， Ｎｅｕｒａｌ Ｃｏｍｐｕｔａｔｉｏｎ， １９９８
【発明の開示】
【発明が解決しようとする課題】
【０００４】
しかしながら、一方では、高次元空間を用いる場合、識別段階で行われる内積演算に時間が掛かり、識別処理速度が低下するという問題がある。また、低次元空間を用いる場合、学習サンプルのパターンの学習が困難となり、高次元空間を用いた場合と同等の識別精度を得るためには識別ベクトルの複雑なセットが必要となり、やはり識別処理速度が低下するという問題がある。
【０００５】
リアルタイムアプリケーションや、リソースの限られたアプリケーションにおいては、演算負荷の高い処理や、多くのメモリを必要とする処理を実行することは難しい。したがって、できるだけ演算負荷を抑えた状態でより高精度なパターン識別を実現できることが望ましい。
【０００６】
本発明は、かかる点に鑑みてなされたものであり、より少ない演算負荷で、高精度にパターンのクラスを識別することができるパターン識別装置およびパターン識別方法を提供する。
【課題を解決するための手段】
【０００７】
本発明のパターン識別装置は、入力パターンから特徴ベクトルを抽出する特徴抽出部と、入力パターンの種類を識別するための識別ベクトルと、特徴空間を分割した分割領域と、を対応付けて記述した参照テーブルから、前記特徴抽出部により抽出される特徴ベクトルが属する分割領域に対応する識別ベクトルを取得し、取得した識別ベクトルと前記入力パターンの特徴ベクトルとの内積演算を実行して前記入力パターンの種類を識別する識別部とを具備する構成を採る。
【０００８】
また、本発明のパターン識別装置は、学習サンプルから所定の次元の特徴ベクトルを抽出するサンプル特徴抽出部と、前記学習サンプルの特徴ベクトルの成分を線形結合して次元を拡張した高次元特徴ベクトルを生成する次元拡張部と、高次元特徴ベクトルに基づいてパターンの種類を識別するための高次元識別ベクトルを生成する識別ベクトル学習部と、高次元識別ベクトルの次元を縮退して前記所定の次元の識別ベクトルを生成し、特徴空間を分割した複数の分割領域のうち、基となる特徴ベクトルが属する分割領域と対応付けて前記識別ベクトルを記述した参照テーブルを作成する次元縮退部と、を有する学習部と、入力パターンから前記所定の次元の特徴ベクトルを抽出する特徴抽出部と、前記学習装置が作成した参照テーブルから前記入力パターンの特徴ベクトルが属する分割領域に対応する識別ベクトルを取得し、取得した識別ベクトルと前記入力パターンの特徴ベクトルとの内積演算を実行して前記入力パターンの種類を識別する線形識別部と、を有するパターン識別部とを具備する構成を採る。
【０００９】
本発明のパターン識別方法は、入力パターンから特徴ベクトルを抽出する特徴抽出ステップと、入力パターンの種類を識別するための識別ベクトルと、特徴空間を分割した分割領域と、を対応付けて記述した参照テーブルから、前記特徴抽出ステップで抽出した特徴ベクトルが属する分割領域に対応する識別ベクトルを取得する識別ベクトル取得ステップと、前記識別ベクトル取得ステップで取得した識別ベクトルと前記特徴抽出ステップで抽出した特徴ベクトルとの内積演算を実行して、前記入力パターンの種類を識別するパターン識別ステップとを有するようにした。
【００１０】
また、本発明のパターン識別方法は、学習サンプルから所定の次元の特徴ベクトルを抽出するサンプル特徴抽出ステップと、特徴ベクトルの成分を線形結合して次元を拡張した高次元特徴ベクトルを生成する次元拡張ステップと、高次元特徴ベクトルに基づいてパターンの種類を識別するための高次元識別ベクトルを生成する識別ベクトル学習ステップと、高次元識別ベクトルの次元を縮退して前記所定の次元の識別ベクトルを生成し、特徴空間を分割した複数の分割領域のうち、基となる特徴ベクトルが属する分割領域と対応付けて前記識別ベクトルを記述した参照テーブルを作成する次元縮退ステップと、入力パターンから前記所定の次元の特徴ベクトルを抽出する特徴抽出ステップと、参照テーブルから前記特徴抽出ステップで抽出した特徴ベクトルが属する分割領域に対応する識別ベクトルを取得する識別ベクトル取得ステップと、前記識別ベクトル取得ステップで取得した識別ベクトルと前記特徴抽出ステップで抽出した特徴ベクトルとの内積演算を実行して前記入力パターンの種類を識別するパターン識別ステップとを有するようにした。
【発明の効果】
【００１１】
本発明によれば、より少ない演算負荷で、高精度にパターンの種類を識別することができる。すなわち、特徴空間における特徴ベクトルが属する領域ごとに識別ベクトルを使い分けることができるため、たとえば、学習段階で得た高次元の識別ベクトルを、特徴ベクトルが属する領域ごとに識別精度を保った状態で低次元化し、低次元化された識別ベクトルのうち適切なものを用いてパターン識別を実施することが可能となる。
【発明を実施するための最良の形態】
【００１２】
以下、本発明の一実施の形態について、図面を参照して詳細に説明する。
【００１３】
図１は、本発明の一実施の形態に係るパターン識別システムの構成を示すブロック図である。
【００１４】
図１において、パターン識別システム１００は、学習装置２００、情報格納装置３００、および識別装置４００を有する。このパターン識別システム１００は、入力画像のパターンを識別することによって入力画像からオブジェクトを検出する装置であり、たとえば、車の後方に人がいないかどうかをカメラ画像から判別する事故防止システムに用いられるものである。以下、オブジェクト検出のためにあらかじめ定められたパターンの種類をクラスという。
【００１５】
学習装置２００は、入力画像のクラスを識別するための識別ベクトルの学習を行う。学習装置２００は、サンプル特徴抽出部２１０、次元拡張部２２０、識別ベクトル学習部２３０、および次元縮退部２４０を有する。
【００１６】
サンプル特徴抽出部２１０は、クラスごとに用意された画像の学習サンプルから特徴を抽出して低次元の特徴ベクトル（以下「低次元特徴ベクトル」という）を生成し、次元拡張部２２０へ出力する。
【００１７】
次元拡張部２２０は、低次元特徴ベクトルの次元を拡張させて高次元の特徴ベクトル（以下「高次元特徴ベクトル」）を生成し、識別ベクトル学習部２３０へ出力する。
【００１８】
識別ベクトル学習部２３０は、高次元特徴ベクトルに基づいて高次元の識別ベクトル（以下「高次元識別ベクトル」という）を生成し、次元縮退部２４０へ出力する。
【００１９】
次元縮退部２４０は、高次元識別ベクトルの次元を縮退させて低次元の識別ベクトル（以下「低次元識別ベクトル」）を複数生成し、生成した低次元識別ベクトルを記述した参照テーブルを生成する。そして、次元縮退部２４０は、生成した参照テーブルを、情報格納装置３００に格納する。
【００２０】
情報格納装置３００は、フラッシュメモリなどの情報記録媒体を備えており、学習装置２００によって格納された参照テーブルを保持する。
【００２１】
識別装置４００は、学習装置２００による学習結果である参照テーブルを用いて、入力画像のクラスを識別する。識別装置４００は、画像特徴抽出部４１０、インデックス算出部４２０、および線形識別器４３０を有する。
【００２２】
画像特徴抽出部４１０は、入力画像の特徴を抽出して低次元特徴ベクトルを生成し、インデックス算出部４２０および線形識別器４３０のそれぞれへ出力する。
【００２３】
インデックス算出部４２０は、低次元特徴ベクトルに基づいて、情報格納装置３００に格納されている参照テーブルを検索するための数値である参照テーブルインデックス（以下単に「インデックス値」という）を算出し、算出したインデックス値を線形識別器４３０へ出力する。
【００２４】
線形識別器４３０は、インデックス値を用いて参照テーブルから適切な低次元識別ベクトルを検索し、検索した低次元識別ベクトルを用いて低次元特徴ベクトルのクラスを識別して、入力画像の識別結果として出力する。
【００２５】
図１に示す学習装置２００および識別装置４００は、図示しないが、それぞれＣＰＵ（central processing unit）、制御プログラムを格納したＲＯＭ（read only memory）などの記憶媒体、ＲＡＭ（random access memory）などの作業用メモリを有する。すなわち、それぞれのＣＰＵが制御プログラムを実行することで、上記した各部の機能は実現される。
【００２６】
たとえば、上記した車の事故防止システムに本実施の形態のパターン識別システム１００を適用する場合、学習結果は同タイプの車に共通で使用することができる。このため、学習装置２００は車の生産者側に配置され、参照テーブルを格納済みの情報格納装置３００および識別装置４００は個々の車本体に配置される。
【００２７】
まず、学習装置２００の各部の動作について、詳細に説明を行う。
【００２８】
学習段階において、学習サンプルが、学習装置２００のサンプル特徴抽出部２１０へ入力される。学習サンプルは、複数のピクセルにより構成されるディジタル画像データであり、クラスごとに用意される。たとえば、上記した監視カメラの例では、人物が映っている画像の画像サンプル群と、人物が映っていない画像サンプル群とが用意され、それぞれを別のクラスに属する画像としてサンプル特徴抽出部２１０へ入力される。
【００２９】
ここでは、画像に存在するエッジを検出し、画像全体におけるエッジ方向の分布情報を用いて、画像に人物が映っているか否かを判別する場合を例として説明を行う。したがって、サンプル特徴抽出部２１０は、エッジ方向の分布情報に対応する特徴量を、学習サンプルから抽出する。
【００３０】
ここでは、水平方向または垂直方向においてピクセル値の変化の度合い（勾配）が大きい部分を、画像のエッジ部分として扱う。サンプル特徴抽出部２１０は、学習サンプルの各ピクセル位置に対して、水平方向におけるピクセル値の差（以下単に「水平勾配」という）、および垂直方向におけるピクセル値の差（以下単に「垂直勾配」という）を求める。水平勾配Ｄｘおよび垂直勾配Ｄｙは、ピクセル位置（ｘ，ｙ）におけるピクセル値をＰｘ，ｙとすると、たとえば、それぞれ以下の式（１）、（２）に従って算出することができる。
Ｄｘ ＝ Ｐｘ＋１，ｙ − Ｐｘ−１，ｙ ・・・・・・（１）
Ｄｙ ＝ Ｐｘ，ｙ＋１− Ｐｘ，ｙ−１ ・・・・・・（２）
【００３１】
これら水平勾配Ｄｘおよび垂直勾配Ｄｙは、正と負のいずれであるかによって、ピクセル値の変化の向きをも示す値となる。サンプル特徴抽出部２１０は、エッジの方向を示す情報を保持した状態で、ピクセル値の変化の向きを示す情報を除去するために、水平勾配Ｄｘおよび垂直勾配Ｄｙを、以下に示すアルゴリズム（３）を用いて、Ｇｘ＋‐Ｇｘ−‐Ｇｙ空間へ写像する。
ｉｆ （Ｄｙ ＝ ０）
Ｇｘ ＝ ａｂｓ（Ｄｘ）;
ｅｌｓｅ ｉｆ （Ｄｙ ＜ ０）
Ｇｘ ＝ −Ｄｘ;
ｅｌｓｅ
Ｇｘ ＝ Ｄｘ;
Ｇｙ ＝ ａｂｓ（Ｄｙ）;
ｉｆ （Ｇｘ ＞ ０）
Ｇｘ＋ ＝ Ｇｘ；
Ｇｘ− ＝ ０；
ｅｌｓｅ
Ｇｘ＋ ＝ ０；
Ｇｘ− ＝ −Ｇｘ； ……（３）
【００３２】
図２は、サンプル特徴抽出部２１０による特徴量の写像の様子を示す説明図である。サンプル特徴抽出部２１０は、Ｄｘ‐Ｄｙ空間２１１に特徴量として一連の点を得たとき、まずＧｙ‐Ｇｘ空間２１２へ変換し、最終的にＧｘ＋‐Ｇｘ−‐Ｇｙ空間２１３へと変換する。
【００３３】
サンプル特徴抽出部２１０は、Ｄｘ‐Ｄｙ空間２１１におけるβ（β＜１８０）度の勾配と、（１８０−β）度の勾配とを区別するため、Ｇｘを、Ｇｘ＋とＧｘ-とに分けるようにしている。たとえば、Ｄｘ‐Ｄｙ空間２１１における４５度の勾配と１３５度の勾配は、Ｇｘ＋‐Ｇｘ−‐Ｇｙ空間２１３では、区別して扱われる。これにより、画像のエッジの方向を右上がりと左上がりとで区別することができる。
【００３４】
一方、サンプル特徴抽出部２１０は、Ｇｘ＋の値をとるかＧｘ-の値をとるかによって、エッジの方向が右上がりか左上がりかを区別できるため、ＧｙについてはＧｘのように分けない。すなわち、サンプル特徴抽出部２１０は、β度の勾配と（１８０＋β）度の勾配とを区別しない。たとえば、Ｇｘ＋‐Ｇｘ−‐Ｇｙ空間２１３では、Ｄｘ‐Ｄｙ空間２１１における４５度の勾配と２２５度の勾配は同様に扱われる。
【００３５】
このように、サンプル特徴抽出部２１０は、学習サンプルのそれぞれのピクセル位置に対して、Ｇｘ＋‐Ｇｘ−‐Ｇｙ空間２１３での座標を、調整勾配Ｇｘ＋、Ｇｘ-、およびＧｙとして算出する。調整勾配Ｇｘ＋、Ｇｘ-、およびＧｙは、学習サンプルの各ピクセル位置におけるエッジの有無およびエッジの方向に対応した値となる。
【００３６】
サンプル特徴抽出部２１０は、算出した調整勾配Ｇｘ＋、Ｇｘ-、およびＧｙから、３つの学習サンプルの特徴量ｘ０、ｘ１、ｘ２を決定する。ここでは、サンプル特徴抽出部２１０は、たとえば、学習サンプルの画像全体についてのエッジ方向の分布情報を特徴量として抽出する関数Ｆを用いて、以下の式（４）〜（６）に従って学習サンプルの特徴量ｘ０、ｘ１、ｘ２を算出する。
ｘ０ ＝ Ｆ（Ｇｘ＋） ……（４）
ｘ１ ＝ Ｆ（Ｇｘ−） ……（５）
ｘ２ ＝ Ｆ（Ｇｙ） ……（６）
【００３７】
さらに、サンプル特徴抽出部２１０は、特徴量ｘ０〜ｘ２を用いて、以下の式（７）に従って低次元特徴ベクトルｘを生成する。
ｘ＝［ｘ０ ｘ１ ｘ２］Ｔ ……（７）
【００３８】
各ピクセル位置のＧｘ＋‐Ｇｘ−‐Ｇｙ空間２１３における勾配は、そのピクセル位置におけるエッジの方向に対応し、その値はエッジの強さに対応している。したがって、低次元特徴ベクトルｘは、学習サンプルの画像全体におけるエッジ方向の分布情報を示す特徴ベクトルとなる。
【００３９】
サンプル特徴抽出部２１０は、生成した低次元特徴ベクトルｘを、図１に示す次元拡張部２２０へ出力する。
【００４０】
次元拡張部２２０は、低次元特徴ベクトルｘの成分である特徴量ｘ０〜ｘ２を線形結合することにより、低次元特徴ベクトルｘよりも次元を拡張した高次元特徴ベクトルを、拡張部分が対象対かつスパースベクトルとなるように生成する。具体的には、次元拡張部２２０は、以下の式（８）を用いて、拡張された特徴量（以下「拡張特徴量」という）を生成する。
ｚ０ ＝ ｘ０
ｚ１ ＝ ｘ１
ｚ２ ＝ ｘ２
ｚ３ ＝ ｆ（ｚ０−ｚ２)
ｚ４ ＝ ｆ（−ｚ０＋ｚ２)
ｚ５ ＝ ｆ（ｚ１−ｚ２)
ｚ６ ＝ ｆ（−ｚ１＋ｚ２)
ｚ７ ＝ ｆ（2ｚ０−ｚ２)
ｚ８ ＝ ｆ（-2ｚ０＋ｚ２)
ｚ９ ＝ ｆ（2ｚ１−ｚ２)
ｚ１０ ＝ ｆ（−2ｚ１＋ｚ２)
ｚ１１ ＝ ｆ（ｚ０−2ｚ２)
ｚ１２ ＝ ｆ（−ｚ０＋2ｚ２)
ｚ１３ ＝ ｆ（ｚ１−2ｚ２)
ｚ１４ ＝ ｆ（−ｚ１＋2ｚ２) ……（８）
【００４１】
ただし、関数ｆ（α）は、数学的に、以下の式（９）で表されるものとする。
ｆ（α) ＝ α （α＞０）
ｆ（α) ＝ ０ （α≦０） ……（９）
【００４２】
そして、次元拡張部２２０は、生成した拡張特徴量ｚ０〜ｚ１４を用いて、以下の式（１０）に従って高次元特徴ベクトルｚを生成する。
ｚ ＝ ［ｚ０ ｚ１ ｚ２ … ｚ１２ ｚ１３ ｚ１４］Ｔ ……（１０）
【００４３】
このようにして生成される１５次元の高次元特徴ベクトルｚは、関数ｆ（α）により、その成分の約半分が値「０」であるスパースベクトルとなる。また、高次元特徴ベクトルｚの各成分は、いずれも負の値ではなく、ほとんどが、一方が値「０」のときに他方が「０」以上となる対象対となる。たとえば、ｚ０＞ｚ２の場合には、ｚ３ ＝ ｚ０−ｚ２＞０、ｚ４ ＝ ０であり、逆にｚ０≦ｚ２の場合には、ｚ３ ＝ ０、ｚ４ ＝ ｚ２−ｚ０＞０である。
【００４４】
なお、次元拡張部２２０は、式（８）〜（１０）を用いて生成したベクトルを正規化し、正規化されたベクトルを高次元特徴ベクトルｚとして出力するようにしてもよい。この正規化は、具体的には、式（８）〜（１０）を用いて生成したベクトルの各成分を、ベクトルの成分の合計で除することによって実現される。
【００４５】
式（８）から明らかなように、特徴空間であるＧｘ＋‐Ｇｘ−‐Ｇｙ空間２１３における低次元特徴ベクトルｘの勾配に応じて、つまり特徴空間を分割した複数の分割領域のうちいずれの分割領域に低次元特徴ベクトルｘが属するかによって、拡張特徴量ｚ０〜ｚ１４の値は変化する。また、上記したように、低次元特徴ベクトルｘの特徴空間における勾配は、学習サンプルの画像全体におけるエッジ方向の分布情報に対応している。すなわち、高次元特徴ベクトルｚは、学習サンプルの画像全体におけるエッジ方向の分布を示す情報となる。
【００４６】
次に、識別ベクトル学習部２３０は、学習サンプルから得られた高次元特徴ベクトルｚに基づいて、入力画像のクラスを識別するための高次元識別ベクトルを学習する。ここで、高次元識別ベクトルの学習とは、クラスごとに、そのクラスに属する画像から抽出された高次元特徴ベクトルｚを識別するための線形識別関数を学習し、その重みパラメータを高次元識別ベクトルの成分として決定することである。このような線形識別関数の決定手法としては、各種の既知の技術を適用することが可能である。
【００４７】
具体的には、識別ベクトル学習部２３０は、たとえば、アダブースト（AdaBoost）アルゴリズムを実行すればよい。アダブーストアルゴリズムの詳細については、たとえば、Ｐａｕｌ Ｖｉｏｌａ ａｎｄ ＭＩＣＨＡＥＬ ＪＯＮＥＳ， “Ｒｏｂｕｓｔ Ｒｅａｌ‐ｔｉｍｅ Ｏｂｊｅｃｔ Ｄｅｔｅｃｔｉｏｎ”, Ｉｎｔｅｒｎａｔｉｏｎａｌ Ｊｏｕｒｎａｌ ｏｆ Ｃｏｍｐｕｔｅｒ Ｖｉｓｉｏｎ， ２００２ に記載されているため、ここでの説明を省略する。
【００４８】
識別ベクトル学習部２３０で生成される高次元識別ベクトルｂは、以下の式（１１）で示すことができる。
ｂ ＝ ［ｂ０ ｂ１ ｂ２ … ｂ１２ ｂ１３ ｂ１４］Ｔ ……（１１）
【００４９】
ここで、従来のパターン識別で実行されるパターン識別について説明する。従来のパターン識別では、学習段階で仮に上記した高次元識別ベクトルｂが生成されたとすると、識別結果ｙを得るために、識別段階において以下の式（１２）に示す内積演算が実行される。
ｙ ＝ ｚ・ｂ
＝ ［ｚ０ ｚ１ ｚ２ … ｚ１２ ｚ１３ ｚ１４］Ｔ
・［ｂ０ ｂ１ ｂ２ … ｂ１２ ｂ１３ ｂ１４］Ｔ
＝ ｚ０ｂ０＋ｚ１ｂ１＋ … ＋ｚ１４ｂ１４ ……（１２）
【００５０】
すなわち、従来のパターン識別では、１５次元の内積演算が実行される。ところが、上記したように、このような高次元の内積演算を行うと、識別処理に時間が掛かるという問題がある。一方で、たとえば低次元特徴ベクトルｘから生成した低次元識別ベクトルを用いて同等の識別性能を得ようとしても、上記したように、やはり識別処理に時間が掛かってしまう。
【００５１】
そこで、本実施の形態のパターン識別システム１００では、高次元特徴ベクトルｚの各成分が特徴量ｘ０、ｘ１、およびｘ２の線形結合であることを利用して、高次元識別ベクトルｂの次元を縮退させ、識別性能を維持した状態で識別処理の高速化を実現する。
【００５２】
たとえば、低次元特徴ベクトルｘにおいて、ｘ０＞ ２ｘ２、ｘ１ ＞ ２ｘ２のとき、拡張特徴量ｚ０〜ｚ１４のうち、ｚ４、ｚ６、ｚ８、ｚ１０、ｚ１２、およびｚ１４は、関数ｆ（α）により、それぞれ値「０」となる。したがって、識別結果ｙを算出するための式（１２）は、以下に示す式（１３）のように変形が可能である。
ｙ ＝ ｚ・ｂ
＝ ｚ０ｂ０＋ｚ１ｂ１＋ｚ２ｂ２＋ｚ３ｂ３＋ｚ５ｂ５＋ｚ７ｂ７＋ｚ９ｂ９＋ｚ１１ｂ１１
＋ｚ１３ｂ１３
＝ ｘ０（ｂ０＋ｂ３＋ｂ７＋ｂ１１）＋ｘ１（ｂ１＋ｂ５＋ｂ９＋ｂ１３）＋ｘ２（ｂ２−ｂ３−ｂ５−ｂ７−ｂ９−ｂ１１−ｂ１３）
＝ ｘ０ｐ０＋ｘ１ｐ１＋ｘ２ｐ２
＝ ［ｘ０ ｘ１ ｘ２］Ｔ・［ｐ０ ｐ１ ｐ２］Ｔ
＝ ｘ・ｐ ……（１３）
【００５３】
ただし、このとき、ベクトルｐの各成分ｐ０、ｐ１、およびｐ２は、それぞれ以下の式（１４）で示される値となる。
ｐ０ ＝ ｂ０＋ｂ３＋ｂ７＋ｂ１１
ｐ１ ＝ ｂ１＋ｂ５＋ｂ９＋ｂ１３
ｐ２ ＝ ｂ２−ｂ３−ｂ５−ｂ７−ｂ９−ｂ１１−ｂ１３ ……（１４）
【００５４】
すなわち、元の低次元特徴ベクトルｘとベクトルｐとの３次元の内積演算により、高次元特徴ベクトルｚと高次元識別ベクトルｂとの１５次元の内積演算と同一の識別結果を得ることができる。低次元特徴ベクトルｘとベクトルｐとの内積演算を、従来の内積演算に置き換えることにより、識別性能を維持した状態で、識別段階における識別処理を格段に高速化できることは明らかである。
【００５５】
しかしながら、ベクトルｐをその都度算出すると、識別処理を効果的に高速化することができない。一方で、ベクトルｐは、上記したように、特徴空間における低次元特徴ベクトルｘの属する分割領域（以下、単に「領域」という）に応じて異なる値をとる。そこで、本実施の形態のパターン識別システム１００は、学習段階において、ベクトルｐが異なる値をとる領域のすべてについてベクトルｐの値をあらかじめ算出しておき、識別段階において、入力画像ごとに適切なベクトルｐの値を用いる。高次元識別ベクトルｂを基に構築した３次元のベクトルｐを、以下、低次元識別ベクトルｐという。
【００５６】
学習装置２００の次元縮退部２４０は、すべての低次元識別ベクトルｐの値を特徴空間の領域に対応付けて記述した参照テーブルを生成する。
【００５７】
図３は、次元縮退部２４０によって生成される参照テーブルの内容を示す説明図である。
【００５８】
図３に示すように、参照テーブル３５０は、参照テーブルインデックス、低次元識別ベクトルｐの成分ｐ０、ｐ１、およびｐ２のフィールドを持つ複数のレコードから構成されている。参照テーブルインデックスには、６ビットの値が記述される。低次元識別ベクトルｐの成分ｐ０、ｐ１、およびｐ２のフィールドには、図３に示す式を用いて算出される値がそれぞれ記述される。
【００５９】
参照テーブル３５０の各レコードは、それぞれ特徴空間における異なる領域に対応し、それぞれ異なる値の低次元識別ベクトルｐに対応している。なお、図３では、各レコードの低次元識別ベクトルｐの成分ｐ０〜ｐ２には、算出に用いられる式を記載しているが、高次元識別ベクトルｂの成分ｂ０〜ｂ１４の値は既知であることから、実際には数値が記述されることはいうまでもない。
【００６０】
参照テーブルインデックスは、識別装置４００側で低次元識別ベクトルｐを検索するためのキーとなる情報である。参照テーブルインデックスの値は、低次元識別ベクトルｐの成分ｐ０〜ｐ２の算出に用いられる式に対応して設定されているが、これについては後に詳しく説明する。
【００６１】
次元縮退部２４０は、各レコードに数値を記述して参照テーブル３５０を生成すると、図１に示す情報格納装置３００に格納する。
【００６２】
次に、識別装置４００の各部の動作について、詳細に説明を行う。
【００６３】
識別段階では、クラス分類の対象となる画像が、サンプル特徴抽出部２１０へ入力される。この入力画像も、学習パターンと同様に、複数のピクセルにより構成されるディジタル画像データでる。
【００６４】
サンプル特徴抽出部２１０は、入力画像から特徴を抽出して低次元特徴ベクトルｘを生成し、インデックス算出部４２０および線形識別器４３０へ出力する。この低次元特徴ベクトルｘの生成処理は、上記したサンプル特徴抽出部２１０と同様であり、たとえば、上記した式（１）、（２）、アルゴリズム（３）〜（７）が用いられる。サンプル特徴抽出部２１０で生成される低次元特徴ベクトルｘは、たとえば以下の式（１５）で表される。
ｘ＝［ｘ０ ｘ１ ｘ２］Ｔ ……（１５）
【００６５】
インデックス算出部４２０は、低次元特徴ベクトルｘを入力するごとに、線形識別器４３０が適切な低次元識別ベクトルｐを検索するためのインデックス値を算出するインデックス算出処理を実行する。
【００６６】
図４は、インデックス算出部４２０によるインデックス算出処理の流れを示すフローチャートである。
【００６７】
ステップＳ１０００において、インデックス算出部４２０は、インデックス値として６ビットを用意し、すべてのビットを値「０」に設定する。これにより、インデックス値は、初期状態として「００００００」に設定される。また、インデックス算出部４２０は、低次元特徴ベクトルｘから、特徴量ｘ０〜ｘ２を抽出する。
【００６８】
次に、ステップＳ１０５０において、インデックス算出部４２０は、特徴量ｘ０が特徴量ｘ２よりも大きいか否かを判断する。これは、特徴量ｘ３と特徴量ｘ４のどちらが値「０」であるかの判断と等価である。インデックス算出部４２０は、特徴量ｘ０が特徴量ｘ２よりも大きい場合には（Ｓ１０５０：ＹＥＳ）、ステップＳ１１００へ進み、特徴量ｘ０が特徴量ｘ２以下の場合には（Ｓ１０５０：ＮＯ）、ステップＳ１１００を経ずにそのままステップＳ１１５０へ進む。
【００６９】
ステップＳ１１００において、インデックス算出部４２０は、インデックス値の最初のビット（たとえば最下位ビット）を値「１」に設定し、ステップＳ１１５０へ進む。
【００７０】
ステップＳ１１５０において、インデックス算出部４２０は、特徴量ｘ１が特徴量ｘ２よりも大きいか否かを判断する。これは、特徴量ｘ５と特徴量ｘ６のどちらが値「０」であるかの判断と等価である。インデックス算出部４２０は、特徴量ｘ１が特徴量ｘ２よりも大きい場合には（Ｓ１１５０：ＹＥＳ）、ステップＳ１２００へ進み、特徴量ｘ１が特徴量ｘ２以下の場合には（Ｓ１１５０：ＮＯ）、ステップＳ１２００を経ずにそのままステップＳ１２５０へ進む。
【００７１】
ステップＳ１２００において、インデックス算出部４２０は、インデックス値の２番目のビット（たとえば最下位から２番目のビット）を値「１」に設定し、ステップＳ１２５０へ進む。
【００７２】
ステップＳ１２５０において、インデックス算出部４２０は、特徴量ｘ０の２倍が特徴量ｘ２よりも大きいか否かを判断する。これは、特徴量ｘ７と特徴量ｘ８のどちらが値「０」であるかの判断と等価である。インデックス算出部４２０は、特徴量ｘ０の２倍が特徴量ｘ２よりも大きい場合には（Ｓ１２５０：ＹＥＳ）、ステップＳ１３００へ進み、特徴量ｘ０の２倍が特徴量ｘ２以下の場合には（Ｓ１２５０：ＮＯ）、ステップＳ１３００を経ずにそのままステップＳ１３５０へ進む。
【００７３】
ステップＳ１３００において、インデックス算出部４２０は、インデックス値の３番目のビット（たとえば最下位から３番目のビット）を値「１」に設定し、ステップＳ１３５０へ進む。
【００７４】
ステップＳ１３５０において、インデックス算出部４２０は、特徴量ｘ１の２倍が特徴量ｘ２よりも大きいか否かを判断する。これは、特徴量ｘ９と特徴量ｘ１０のどちらが値「０」であるかの判断と等価である。インデックス算出部４２０は、特徴量ｘ１の２倍が特徴量ｘ２よりも大きい場合には（Ｓ１３５０：ＹＥＳ）、ステップＳ１４００へ進み、特徴量ｘ１の２倍が特徴量ｘ２以下の場合には（Ｓ１３５０：ＮＯ）、ステップＳ１４００を経ずにそのままステップＳ１４５０へ進む。
【００７５】
ステップＳ１４００において、インデックス算出部４２０は、インデックス値の４番目のビット（たとえば最下位から４番目のビット）を値「１」に設定し、ステップＳ１４５０へ進む。
【００７６】
ステップＳ１４５０において、インデックス算出部４２０は、特徴量ｘ０が特徴量ｘ２の２倍よりも大きいか否かを判断する。これは、特徴量ｘ１１と特徴量ｘ１２のどちらが値「０」であるかの判断と等価である。インデックス算出部４２０は、特徴量ｘ０が特徴量ｘ２の２倍よりも大きい場合には（Ｓ１４５０：ＹＥＳ）、ステップＳ１５００へ進み、特徴量ｘ０が特徴量ｘ２の２倍以下の場合には（Ｓ１４５０：ＮＯ）、ステップＳ１５００を経ずにそのままステップＳ１５５０へ進む。
【００７７】
ステップＳ１５００において、インデックス算出部４２０は、インデックス値の５番目のビット（たとえば最下位から５番目のビット）を値「１」に設定し、ステップＳ１５５０へ進む。
【００７８】
ステップＳ１５５０において、インデックス算出部４２０は、特徴量ｘ１が特徴量ｘ２の２倍よりも大きいか否かを判断する。これは、特徴量ｘ１３と特徴量ｘ１４のどちらが値「０」であるかの判断と等価である。インデックス算出部４２０は、特徴量ｘ１が特徴量ｘ２の２倍よりも大きい場合には（Ｓ１５５０：ＹＥＳ）、ステップＳ１６００へ進み、特徴量ｘ１が特徴量ｘ２の２倍以下の場合には（Ｓ１５５０：ＮＯ）、ステップＳ１６００を経ずにそのまま一連の処理を終了する。
【００７９】
ステップＳ１６００において、インデックス算出部４２０は、インデックス値の６番目のビット（たとえば最上位ビット）を値「１」に設定し、一連の処理を終了する。
【００８０】
このようなインデックス算出処理によって算出されるインデックス値は、低次元特徴ベクトルｘにおける値「０」の配置パターンに対応したものとなる。学習装置２００の次元縮退部２４０は、図３に示す参照テーブル３５０を生成する際に、上記インデックス算出処理の結果と対応するように、あらかじめ参照テーブルインデックスの値と低次元識別ベクトルｐの算出に用いる式とを対応付けている。したがって、ある低次元特徴ベクトルｘから算出されたインデックス値に一致する参照テーブルインデックスに対応付けて記述された低次元識別ベクトルｐは、その低次元特徴ベクトルｘに適切なものとなっている。
【００８１】
たとえば、低次元特徴ベクトルｘにおいて、ｘ０ ＞ ２ｘ２、ｘ１＞ ２ｘ２のとき、インデックス算出部４２０は、「１１１１１１」を設定する。また、既に説明したように、ｘ０ ＞ ２ｘ２、ｘ１ ＞ ２ｘ２のときには、識別結果ｙは、式（１３）を用いて演算することができる。したがって、図３に示すように、参照テーブル３５０のうち、式（１４）に示すベクトルｐの各成分ｐ０〜ｐ２が記述された最下行のレコードには、参照テーブルインデックス「１１１１１１」が設定されている。
【００８２】
線形識別器４３０は、低次元インデックス算出部４２０からインデックス値を入力すると、情報格納装置３００に格納された参照テーブル３５０の参照テーブルインデックスで、そのインデックス値を検索する。そして、該当するレコードの低次元識別ベクトルｐを取得し、画像特徴抽出部４１０から入力された低次元特徴ベクトルｘとの内積演算を実行し、識別結果を出力する。この識別結果は、上記したように、高次元特徴ベクトルｚと高次元識別ベクトルｂとの内積演算による識別結果と同一となる。
【００８３】
このような参照テーブル３５０を用いる手法により、本実施の形態のパターン識別システム１００では、１５次元の特徴ベクトルを用いて学習を行うにもかかわらず、識別処理の際に必要な乗算演算および加算演算は、それぞれわずか３回ずつに抑えられている。これは、従来の手法では必要とされる乗算演算および加算演算の回数がそれぞれ１５回であるのと比較して、大幅に演算付加を低減するものである。すなわち、本実施の形態のパターン識別システム１００は、識別性能を維持した状態で、識別段階における識別処理を従来よりも格段に高速化することができる。
【００８４】
なお、以上説明したパターン識別システム１００では、画像全体から特徴を抽出するとしたが、これに限るものではない。たとえば、サンプル特徴抽出部２１０は、入力された学習サンプルの画像を、特徴の抽出の単位となる領域に分割し、分割領域ごとに特徴を抽出して低次元特徴ベクトルｘを生成するようにしてもよい。
【００８５】
以下、学習サンプルの画像を複数領域に分割して学習を行う場合について説明する。
【００８６】
図５は、学習サンプルの分割の様子の一例を示す説明図である。図５に示すように、サンプル特徴抽出部２１０は、学習サンプル５００を、複数のサブブロック５１０により構成されるブロック５２０に分割する。ブロック５２０の個数および１つのブロック５２０を構成するサブブロック５１０の個数は、任意とすることができる。
【００８７】
たとえば、ブロック５２０を３２×３２のピクセルサイズとし、各ブロック５２０を構成するサブブロック５１０の個数を２×２とすることができる。この場合、各サブブロック５１０は、１６×１６のピクセルサイズとなる。
【００８８】
また、隣り合うブロック５２０で、それぞれのブロック５２０を構成する一部のサブブロック５２０が重なるように、学習サンプル５００を分割してもよい。この場合、ブロック５２０が重なり合う部分に位置するサブブロック５２０は、複数のブロック５２０に属することになる。
【００８９】
サンプル特徴抽出部２１０は、各ピクセル位置の調整勾配Ｇｘ＋、Ｇｘ-、およびＧｙを算出した後、サブブロック５１０全体についてのエッジ方向の分布情報を示す低次元特徴ベクトルｘを、たとえば上記した式（４）〜（７）を用いて生成する。
【００９０】
サンプル特徴抽出部２１０は、ブロック５２０レベルにおいて、同一ブロック５２０に属する各サブブロック５１０の高次元特徴ベクトルｚを連結する。すなわち、図５に示すようにブロック５２０が２×２のサブブロック５１０により構成される場合には、高次元特徴ベクトルｚは６０次元となる。また、上記した式（８）に示す線形結合よりもさらに多くの線形結合を行うことによって、より多くの成分を有する高次元特徴ベクトルｚを生成することも可能である。このように、複数のピクセルを含む領域単位で特徴量を抽出することにより、領域単位での識別処理が可能となる。ブロック５２０およびサブブロック５１０のサイズは、パターン識別の内容に応じて、適切な値を適用すればよい。
【００９１】
以上説明したように、本実施の形態によれば、学習段階において、特徴ベクトルを、成分の線形結合により次元を拡張し、高次元の特徴ベクトルから、クラスごとに特徴ベクトルを線形分離可能な高次元の識別ベクトルを生成する。そして、高次元の識別ベクトルの次元を縮退して低次元の識別ベクトルを生成するとともに、特徴空間における低次元の特徴ベクトルが属する領域と対応付けて設定したインデックス値を付して低次元の識別ベクトルを記述した参照テーブルを生成する。一方、識別段階において、入力画像から抽出した低次元の特徴ベクトルに基づいてインデックス値を算出し、参照テーブルでインデックス値を検索する。そして、該当する低次元の識別ベクトルを取得し、入力画像から抽出した低次元の特徴ベクトルとの内積演算を実行して識別結果を出力する。これにより、高次元空間で学習を行い、低次元空間で識別を行うことが可能となる。すなわち、より少ない演算負荷で、高精度にパターンのクラスを識別することができる。また、スパースなベクトルである高次元の特徴ベクトルを生成することにより、特徴ベクトルのある要素が「０」以上の値を持つかどうかを判別するだけでクラスの識別が可能となるため、識別性能を向上させることができる。さらに、ほとんどの成分が対称対である高次元の特徴ベクトルを生成することにより、インデックス値のビット数を最小限とすることができ、インデックス値を簡単に算出することができる。すなわち、識別処理のさらなる高速化を図ることができる。
【００９２】
なお、以上説明した実施の形態を、パターン識別システムを、車の前方の歩行者や他車をカメラ画像から検出するシステムや、運転者の顔の方向を検出するシステムに適用してもよい。
【００９３】
また、以上説明した実施の形態では、画像データのピクセル値から特徴ベクトルを抽出する画像レベルのパターン認識について説明したが、音声データ、テキストデータ、その他のデータに対する各種のパターン認識に本発明を適用できることはいうまでもない。
【００９４】
さらに、参照テーブルを格納した情報格納部をインターネットなどのネットワーク上に配置し、ネットワークを介して識別装置を情報格納部にアクセスさせ、参照テーブルを取得して保持させるようにしてもよい。また、学習装置、情報格納部、および識別装置を１つの装置に組み込むことにより、パターン識別装置を構成することも可能である。
【産業上の利用可能性】
【００９５】
本発明に係るパターン識別装置およびパターン識別方法は、より少ない演算負荷で、高精度にパターンのクラスを識別することができるパターン識別装置およびパターン識別方法として有用である。
【図面の簡単な説明】
【００９６】
【図１】本発明の一実施の形態に係るパターン識別システムの構成を示すブロック図
【図２】本実施の形態における特徴量の写像の様子を示す説明図
【図３】本実施の形態における参照テーブルの内容を示す説明図
【図４】本実施の形態におけるインデックス算出処理の流れを示すフローチャート
【図５】本実施の形態における学習サンプルの分割の様子の一例を示す説明図
【符号の説明】
【００９７】
１００ パターン識別システム
２００ 学習装置
２１０ サンプル特徴抽出部
２２０ 次元拡張部
２３０ 識別ベクトル学習部
２４０ 次元縮退部
３００ 情報格納装置
４００ 識別装置
４１０ 画像特徴抽出部
４２０ インデックス算出部
４３０ 線形識別器
【特許請求の範囲】
【請求項１】
入力パターンから特徴ベクトルを抽出する特徴抽出部と、
入力パターンの種類を識別するための識別ベクトルと、特徴空間を分割した分割領域と、を対応付けて記述した参照テーブルから、前記入力パターンの特徴ベクトルが属する分割領域に対応する識別ベクトルを取得し、取得した識別ベクトルと前記入力パターンの特徴ベクトルとの内積演算を実行して前記入力パターンの種類を識別する識別部と、
を有するパターン識別装置。
【請求項２】
前記参照テーブルを格納した情報格納部、をさらに有する、
請求項１記載のパターン識別装置。
【請求項３】
前記識別部は、
前記参照テーブルを格納した情報格納装置にアクセスし、情報格納装置から参照テーブルを取得して保持する、
請求項１記載のパターン識別装置。
【請求項４】
前記特徴ベクトルは、所定の次元のベクトルであり、
前記参照テーブルに記述された識別ベクトルは、学習サンプルの特徴ベクトルの成分を線形結合することにより次元を拡張した高次元特徴ベクトルを生成し、高次元特徴ベクトルに基づいて生成された高次元識別ベクトルを前記所定の次元に縮退することによって得られたベクトルである、
請求項１記載のパターン識別装置。
【請求項５】
前記参照テーブルは、前記識別ベクトルの基となる前記高次元特徴ベクトルの各成分の値に対応し、前記特徴空間における同一の分割領域に属する特徴ベクトルから生成された高次元特徴ベクトルで同一の値をとるインデックス値を、識別ベクトルのインデックスとして記述し、
前記識別部は、
前記高次元特徴ベクトルと同様の次元拡張を前記入力パターンの特徴ベクトルに対して行った場合の前記インデックス値を算出するインデックス算出部と、
前記インデックス算出部が算出したインデックス値を前記参照テーブルで検索し、該当する識別ベクトルと前記入力パターンの特徴ベクトルとの内積演算を実行して前記入力パターンの種類を識別する線形識別器と、
を有する請求項４記載のパターン識別装置。
【請求項６】
前記特徴空間は、画像に存在するエッジの方向に対応する３次元空間であり、
前記特徴ベクトルは、入力画像に存在するエッジの方向に応じた成分を有する３次元のベクトルである、
請求項１記載のパターン識別装置。
【請求項７】
請求項１記載のパターン識別装置で用いられる参照テーブルを作成する識別ベクトル学習装置であって、
学習サンプルから特徴ベクトルを抽出するサンプル特徴抽出部と、
前記学習サンプルの特徴ベクトルの成分を線形結合して次元を拡張した高次元特徴ベクトルを生成する次元拡張部と、
高次元特徴ベクトルに基づいて、パターンの種類を識別するための高次元識別ベクトルを生成する識別ベクトル学習部と、
高次元識別ベクトルを前記所定の次元に縮退して識別ベクトルを生成し、特徴空間を分割した複数の分割領域のうち、基となる特徴ベクトルが属する分割領域と対応付けて識別ベクトルを記述した参照テーブルを作成する次元縮退部と、
を有する識別ベクトル学習装置。
【請求項８】
学習サンプルから所定の次元の特徴ベクトルを抽出するサンプル特徴抽出部と、前記学習サンプルの特徴ベクトルの成分を線形結合して次元を拡張した高次元特徴ベクトルを生成する次元拡張部と、高次元特徴ベクトルに基づいてパターンの種類を識別するための高次元識別ベクトルを生成する識別ベクトル学習部と、高次元識別ベクトルの次元を縮退して前記所定の次元の識別ベクトルを生成し、特徴空間を分割した複数の分割領域のうち、基となる特徴ベクトルが属する分割領域と対応付けて前記識別ベクトルを記述した参照テーブルを作成する次元縮退部と、を有する学習部と、
入力パターンから前記所定の次元の特徴ベクトルを抽出する特徴抽出部と、前記学習装置が作成した参照テーブルから前記入力パターンの特徴ベクトルが属する分割領域に対応する識別ベクトルを取得し、取得した識別ベクトルと前記入力パターンの特徴ベクトルとの内積演算を実行して前記入力パターンの種類を識別する線形識別部と、を有するパターン識別部と、
を具備するパターン識別装置。
【請求項９】
前記次元縮退部は、
前記識別ベクトルの基となる前記高次元特徴ベクトルの各成分の値に対応し、前記特徴空間における同一の分割領域に属する特徴ベクトルから生成された高次元特徴ベクトルで同一の値をとるインデックス値を、識別ベクトルのインデックスとして記述し、
前記線形識別部は、
前記高次元特徴ベクトルと同様の次元拡張を前記入力パターンの特徴ベクトルに対して行った場合の前記インデックス値を算出するインデックス算出部と、前記インデックス算出部が算出したインデックス値を前記参照テーブルで検索し、該当する識別ベクトルと前記入力パターンの特徴ベクトルとの内積演算を実行して前記入力パターンの種類を識別する線形識別器と、を有する、
請求項８記載のパターン識別装置。
【請求項１０】
前記特徴空間は、画像に存在するエッジの方向に対応する３次元空間であり、
前記特徴ベクトルは、画像に存在するエッジの方向に応じた成分を有する３次元のベクトルである、
請求項８記載のパターン識別装置。
【請求項１１】
学習サンプルから抽出された所定の次元の特徴ベクトルの成分を線形結合することにより次元を拡張した高次元特徴ベクトルを生成し、高次元特徴ベクトルに基づいて生成された入力パターンの種類を識別するための高次元識別ベクトルの次元を縮退して得られた前記所定の次元の識別ベクトルを記述するとともに、識別ベクトルの基となる高次元特徴ベクトルの各成分の値に対応し、特徴空間を分割した分割領域のうち同一の分割領域に属する特徴ベクトルから生成された高次元特徴ベクトルで同一の値をとるインデックス値を、識別ベクトルのインデックスとして記述した参照テーブルを格納する、情報格納装置。
【請求項１２】
入力パターンから特徴ベクトルを抽出する特徴抽出ステップと、
入力パターンの種類を識別するための識別ベクトルと、特徴空間を分割した分割領域と、を対応付けて記述した参照テーブルから、前記特徴抽出ステップで抽出した特徴ベクトルが属する分割領域に対応する識別ベクトルを取得する識別ベクトル取得ステップと、
前記識別ベクトル取得ステップで取得した識別ベクトルと前記特徴抽出ステップで抽出した特徴ベクトルとの内積演算を実行して、前記入力パターンの種類を識別するパターン識別ステップと、
を有するパターン識別方法。
【請求項１３】
前記参照テーブルが、前記識別ベクトルの基となる前記高次元特徴ベクトルの各成分の値に対応し、前記特徴空間における同一の分割領域に属する特徴ベクトルから生成された高次元特徴ベクトルで同一の値をとるインデックス値を、識別ベクトルのインデックスとして記述したものであるとき、
前記識別ベクトル取得ステップは、
前記高次元特徴ベクトルと同様の次元拡張を前記特徴抽出ステップで抽出した特徴ベクトルに対して行った場合の前記インデックス値を算出するインデックス算出ステップと、
前記インデックス算出ステップで算出したインデックス値を前記参照テーブルで検索するインデックス検索ステップと、
を有する請求項１２記載のパターン識別方法。
【請求項１４】
学習サンプルから所定の次元の特徴ベクトルを抽出するサンプル特徴抽出ステップと、
特徴ベクトルの成分を線形結合して次元を拡張した高次元特徴ベクトルを生成する次元拡張ステップと、
高次元特徴ベクトルに基づいてパターンの種類を識別するための高次元識別ベクトルを生成する識別ベクトル学習ステップと、
高次元識別ベクトルの次元を縮退して前記所定の次元の識別ベクトルを生成し、特徴空間を分割した複数の分割領域のうち、基となる特徴ベクトルが属する分割領域と対応付けて前記識別ベクトルを記述した参照テーブルを作成する次元縮退ステップと、
入力パターンから前記所定の次元の特徴ベクトルを抽出する特徴抽出ステップと、
参照テーブルから前記特徴抽出ステップで抽出した特徴ベクトルが属する分割領域に対応する識別ベクトルを取得する識別ベクトル取得ステップと、
前記識別ベクトル取得ステップで取得した識別ベクトルと前記特徴抽出ステップで抽出した特徴ベクトルとの内積演算を実行して前記入力パターンの種類を識別するパターン識別ステップと、
を有するパターン識別方法。
【請求項１】
入力パターンから特徴ベクトルを抽出する特徴抽出部と、
入力パターンの種類を識別するための識別ベクトルと、特徴空間を分割した分割領域と、を対応付けて記述した参照テーブルから、前記入力パターンの特徴ベクトルが属する分割領域に対応する識別ベクトルを取得し、取得した識別ベクトルと前記入力パターンの特徴ベクトルとの内積演算を実行して前記入力パターンの種類を識別する識別部と、
を有するパターン識別装置。
【請求項２】
前記参照テーブルを格納した情報格納部、をさらに有する、
請求項１記載のパターン識別装置。
【請求項３】
前記識別部は、
前記参照テーブルを格納した情報格納装置にアクセスし、情報格納装置から参照テーブルを取得して保持する、
請求項１記載のパターン識別装置。
【請求項４】
前記特徴ベクトルは、所定の次元のベクトルであり、
前記参照テーブルに記述された識別ベクトルは、学習サンプルの特徴ベクトルの成分を線形結合することにより次元を拡張した高次元特徴ベクトルを生成し、高次元特徴ベクトルに基づいて生成された高次元識別ベクトルを前記所定の次元に縮退することによって得られたベクトルである、
請求項１記載のパターン識別装置。
【請求項５】
前記参照テーブルは、前記識別ベクトルの基となる前記高次元特徴ベクトルの各成分の値に対応し、前記特徴空間における同一の分割領域に属する特徴ベクトルから生成された高次元特徴ベクトルで同一の値をとるインデックス値を、識別ベクトルのインデックスとして記述し、
前記識別部は、
前記高次元特徴ベクトルと同様の次元拡張を前記入力パターンの特徴ベクトルに対して行った場合の前記インデックス値を算出するインデックス算出部と、
前記インデックス算出部が算出したインデックス値を前記参照テーブルで検索し、該当する識別ベクトルと前記入力パターンの特徴ベクトルとの内積演算を実行して前記入力パターンの種類を識別する線形識別器と、
を有する請求項４記載のパターン識別装置。
【請求項６】
前記特徴空間は、画像に存在するエッジの方向に対応する３次元空間であり、
前記特徴ベクトルは、入力画像に存在するエッジの方向に応じた成分を有する３次元のベクトルである、
請求項１記載のパターン識別装置。
【請求項７】
請求項１記載のパターン識別装置で用いられる参照テーブルを作成する識別ベクトル学習装置であって、
学習サンプルから特徴ベクトルを抽出するサンプル特徴抽出部と、
前記学習サンプルの特徴ベクトルの成分を線形結合して次元を拡張した高次元特徴ベクトルを生成する次元拡張部と、
高次元特徴ベクトルに基づいて、パターンの種類を識別するための高次元識別ベクトルを生成する識別ベクトル学習部と、
高次元識別ベクトルを前記所定の次元に縮退して識別ベクトルを生成し、特徴空間を分割した複数の分割領域のうち、基となる特徴ベクトルが属する分割領域と対応付けて識別ベクトルを記述した参照テーブルを作成する次元縮退部と、
を有する識別ベクトル学習装置。
【請求項８】
学習サンプルから所定の次元の特徴ベクトルを抽出するサンプル特徴抽出部と、前記学習サンプルの特徴ベクトルの成分を線形結合して次元を拡張した高次元特徴ベクトルを生成する次元拡張部と、高次元特徴ベクトルに基づいてパターンの種類を識別するための高次元識別ベクトルを生成する識別ベクトル学習部と、高次元識別ベクトルの次元を縮退して前記所定の次元の識別ベクトルを生成し、特徴空間を分割した複数の分割領域のうち、基となる特徴ベクトルが属する分割領域と対応付けて前記識別ベクトルを記述した参照テーブルを作成する次元縮退部と、を有する学習部と、
入力パターンから前記所定の次元の特徴ベクトルを抽出する特徴抽出部と、前記学習装置が作成した参照テーブルから前記入力パターンの特徴ベクトルが属する分割領域に対応する識別ベクトルを取得し、取得した識別ベクトルと前記入力パターンの特徴ベクトルとの内積演算を実行して前記入力パターンの種類を識別する線形識別部と、を有するパターン識別部と、
を具備するパターン識別装置。
【請求項９】
前記次元縮退部は、
前記識別ベクトルの基となる前記高次元特徴ベクトルの各成分の値に対応し、前記特徴空間における同一の分割領域に属する特徴ベクトルから生成された高次元特徴ベクトルで同一の値をとるインデックス値を、識別ベクトルのインデックスとして記述し、
前記線形識別部は、
前記高次元特徴ベクトルと同様の次元拡張を前記入力パターンの特徴ベクトルに対して行った場合の前記インデックス値を算出するインデックス算出部と、前記インデックス算出部が算出したインデックス値を前記参照テーブルで検索し、該当する識別ベクトルと前記入力パターンの特徴ベクトルとの内積演算を実行して前記入力パターンの種類を識別する線形識別器と、を有する、
請求項８記載のパターン識別装置。
【請求項１０】
前記特徴空間は、画像に存在するエッジの方向に対応する３次元空間であり、
前記特徴ベクトルは、画像に存在するエッジの方向に応じた成分を有する３次元のベクトルである、
請求項８記載のパターン識別装置。
【請求項１１】
学習サンプルから抽出された所定の次元の特徴ベクトルの成分を線形結合することにより次元を拡張した高次元特徴ベクトルを生成し、高次元特徴ベクトルに基づいて生成された入力パターンの種類を識別するための高次元識別ベクトルの次元を縮退して得られた前記所定の次元の識別ベクトルを記述するとともに、識別ベクトルの基となる高次元特徴ベクトルの各成分の値に対応し、特徴空間を分割した分割領域のうち同一の分割領域に属する特徴ベクトルから生成された高次元特徴ベクトルで同一の値をとるインデックス値を、識別ベクトルのインデックスとして記述した参照テーブルを格納する、情報格納装置。
【請求項１２】
入力パターンから特徴ベクトルを抽出する特徴抽出ステップと、
入力パターンの種類を識別するための識別ベクトルと、特徴空間を分割した分割領域と、を対応付けて記述した参照テーブルから、前記特徴抽出ステップで抽出した特徴ベクトルが属する分割領域に対応する識別ベクトルを取得する識別ベクトル取得ステップと、
前記識別ベクトル取得ステップで取得した識別ベクトルと前記特徴抽出ステップで抽出した特徴ベクトルとの内積演算を実行して、前記入力パターンの種類を識別するパターン識別ステップと、
を有するパターン識別方法。
【請求項１３】
前記参照テーブルが、前記識別ベクトルの基となる前記高次元特徴ベクトルの各成分の値に対応し、前記特徴空間における同一の分割領域に属する特徴ベクトルから生成された高次元特徴ベクトルで同一の値をとるインデックス値を、識別ベクトルのインデックスとして記述したものであるとき、
前記識別ベクトル取得ステップは、
前記高次元特徴ベクトルと同様の次元拡張を前記特徴抽出ステップで抽出した特徴ベクトルに対して行った場合の前記インデックス値を算出するインデックス算出ステップと、
前記インデックス算出ステップで算出したインデックス値を前記参照テーブルで検索するインデックス検索ステップと、
を有する請求項１２記載のパターン識別方法。
【請求項１４】
学習サンプルから所定の次元の特徴ベクトルを抽出するサンプル特徴抽出ステップと、
特徴ベクトルの成分を線形結合して次元を拡張した高次元特徴ベクトルを生成する次元拡張ステップと、
高次元特徴ベクトルに基づいてパターンの種類を識別するための高次元識別ベクトルを生成する識別ベクトル学習ステップと、
高次元識別ベクトルの次元を縮退して前記所定の次元の識別ベクトルを生成し、特徴空間を分割した複数の分割領域のうち、基となる特徴ベクトルが属する分割領域と対応付けて前記識別ベクトルを記述した参照テーブルを作成する次元縮退ステップと、
入力パターンから前記所定の次元の特徴ベクトルを抽出する特徴抽出ステップと、
参照テーブルから前記特徴抽出ステップで抽出した特徴ベクトルが属する分割領域に対応する識別ベクトルを取得する識別ベクトル取得ステップと、
前記識別ベクトル取得ステップで取得した識別ベクトルと前記特徴抽出ステップで抽出した特徴ベクトルとの内積演算を実行して前記入力パターンの種類を識別するパターン識別ステップと、
を有するパターン識別方法。
【図１】
【図２】
【図３】
【図４】
【図５】
【図２】
【図３】
【図４】
【図５】
【公開番号】特開２００８−１０２８５６（Ｐ２００８−１０２８５６Ａ）
【公開日】平成２０年５月１日（２００８．５．１）
【国際特許分類】
【出願番号】特願２００６−２８６６５３（Ｐ２００６−２８６６５３）
【出願日】平成１８年１０月２０日（２００６．１０．２０）
【出願人】（０００００５８２１）松下電器産業株式会社 (73,050)
【Ｆターム（参考）】
【公開日】平成２０年５月１日（２００８．５．１）
【国際特許分類】
【出願日】平成１８年１０月２０日（２００６．１０．２０）
【出願人】（０００００５８２１）松下電器産業株式会社 (73,050)
【Ｆターム（参考）】
[ Back to top ]