演算装置及びプログラム
【課題】パターン認識装置に好適な次元削減行列Ａを算出することのできる演算装置を提供する。
【解決手段】情報処理装置は、パターン認識装置にて認識するクラス毎に、当該クラスに属するパターンの特徴ベクトルのサンプルを取得すると共に、クラス内分散を定義付ける値ｍとして、実数値の入力を受け付けるための入力画面を表示装置に表示し、ユーザインタフェースから、値ｍを取得する（Ｓ１３０）。そして、取得したサンプルの一群に基づいて、各クラスの平均ベクトルμi及び全クラスの平均ベクトルμ0を算出する（Ｓ１４０，Ｓ１５０）と共に、クラス間共分散行列Ｂ及び各クラスの共分散行列Ｗｉを算出し（Ｓ１６０，Ｓ１７０）、これらの値に基づき、クラスの総数をＬ、第ｉクラスの事前確率をＰiとする評価関数Ｊ（Ａ，ｍ）が最大となる次元削減行列Ａを求める。
【解決手段】情報処理装置は、パターン認識装置にて認識するクラス毎に、当該クラスに属するパターンの特徴ベクトルのサンプルを取得すると共に、クラス内分散を定義付ける値ｍとして、実数値の入力を受け付けるための入力画面を表示装置に表示し、ユーザインタフェースから、値ｍを取得する（Ｓ１３０）。そして、取得したサンプルの一群に基づいて、各クラスの平均ベクトルμi及び全クラスの平均ベクトルμ0を算出する（Ｓ１４０，Ｓ１５０）と共に、クラス間共分散行列Ｂ及び各クラスの共分散行列Ｗｉを算出し（Ｓ１６０，Ｓ１７０）、これらの値に基づき、クラスの総数をＬ、第ｉクラスの事前確率をＰiとする評価関数Ｊ（Ａ，ｍ）が最大となる次元削減行列Ａを求める。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、パターン認識装置に用いる次元削減行列を算出する演算装置及びプログラムに関する。
【背景技術】
【０００２】
従来より、パターン認識装置としては、入力されたパターンの特徴を抽出して、特徴ベクトルを生成し、更に、この特徴ベクトルを低次元化して、パターン認識に有効な特徴ベクトル（又はスカラー量）を求め、当該低次元化後の値を、予めデータベースに登録された各クラスの基準値（プロトタイプ）と照合して一致度を評価することにより、入力されたパターンを複数のクラスのいずれかに分類し、パターン認識を実現するものが知られている。
【０００３】
入力されたパターンを装置により認識する際には、上述したように、パターンから様々な特徴量を抽出し、これらを要素として特徴ベクトルを生成するのであるが、高次元の特徴ベクトルで、パターン認識を行う場合には、情報量が多すぎて、パターン認識に、非常に長い時間を要する。また、認識に不要な情報が含まれている特徴ベクトルを用いて、パターン認識を行う場合には、パターンの認識精度が劣化する可能性がある。一方、認識に必要な情報が含まれていない特徴ベクトルを用いて、パターン認識を行っても、当然のことながら、良好なパターン認識結果を得ることができない。
【０００４】
このため、従来では、まず、高次元の特徴ベクトルを生成し、この特徴ベクトルを低次元空間に写像したときに、特徴ベクトルが低次元空間上でクラス毎に分離し、同クラスの特徴ベクトルが特定領域に集中するような次元削減行列を求め、求めた次元削減行列を特徴ベクトルを作用させることにより、特徴ベクトルを低次元化して、低次元化後の値がパターンの特徴を良好に表すようにしている。
【０００５】
このような次元削減法によって、特徴ベクトルを低次元化すれば、低次元空間において、各クラスの特徴ベクトルが分離し、同一クラスの特徴ベクトルが類似する値を示すので、特徴ベクトルがいずれのクラスに属するものであるのかを、効率的且つ精度よく判定することができる。
【０００６】
具体的に、次元削減法としては、従来、線形判別分析法や不等分散判別分析法を用いたものが知られている。
線形判別分析法による次元削減では、まず、クラス毎に、クラスに属するパターンの特徴ベクトルを、サンプルとして複数個用意する。そして、これらのサンプル群から、各クラスの平均ベクトルμiを求めると共に、全クラスの平均ベクトルμ0を求める。
【０００７】
【数１】
但し、μiは、第ｉクラスの平均ベクトルを表し、ｉは、クラスの総数をＬとして、値１から値Ｌまでの整数値を採るものとする。また、Ｎは、全クラスのサンプル数、Ｎiは、第ｉクラスのサンプル数、Ｘijは、第ｉクラスの第ｊ（ｊ＝１，２，…，Ｎi）サンプルのベクトル値を表すものとする。
【０００８】
【数２】
尚、ｘ1，…，ｘdは、ｄ次元の特徴ベクトルの各要素の値を表し、上付き文字Ｔは、転置を表す。
【０００９】
そして、これら平均ベクトルμ0及びクラス毎の平均ベクトルμiを用いて、クラス間共分散行列Ｂを求めると共に、各クラスの共分散行列Ｗiを求める。
【００１０】
【数３】
但し、Ｐiは、第ｉクラスの事前確率であり、Ｐi＝Ｎi／Ｎとすることができる。また、Ｗiは、第ｉクラスの共分散行列を表すものとする。
【００１１】
上述したようにして、クラス間共分散行列Ｂ及び各クラスの共分散行列Ｗiを求めた後には、クラス内共分散行列Ｗを、各クラスの共分散行列Ｗiの算術平均とし、評価空間（低次元空間）でのクラス間分散とクラス内分散との比｜Ｂ｜／｜Ｗ｜が最大となる次元削減行列Ａを求める。具体的には、評価関数Ｊ（Ａ）を次のように定義し、評価関数Ｊ（Ａ）が最大となる次元削減行列Ａを求める。
【００１２】
【数４】
例えば、ｄ次元の特徴ベクトルＸijを、ｄ’次元の空間に写像して低次元化する場合には、次元削減行列Ａとして、評価関数Ｊ（Ａ）が最大となるｄ行ｄ’列の行列を求める（例えば、非特許文献１参照）。
【００１３】
クラス間分散は、クラス間のばらつきの程度を表し、クラス内分散は、クラス内のサンプルのばらつきの程度を表すものである。このため、上述のようにして行列Ａを求めれば、特徴ベクトルが低次元空間上でクラス毎に分離し、同クラスの特徴ベクトルが低次元空間上で特定領域に集中するような次元削減行列Ａを求めることができる。従来の線形判別分析法による次元削減では、このようにして、パターン認識に最適な次元削減行列Ａを求めている。
【００１４】
一方、不等分散判別分析法による次元削減では、クラス内共分散行列Ｗを、各クラスの共分散行列Ｗiの幾何平均として、評価空間（低次元空間）でのクラス間分散とクラス内分散との比｜Ｂ｜／｜Ｗ｜が最大となる次元削減行列Ａを求める。具体的には、評価関数Ｊ（Ａ）を次のように定義して、評価関数Ｊ（Ａ）が最大となる次元削減行列Ａを求める（例えば、非特許文献２参照）。
【００１５】
【数５】
このようにして、従来の不等分散判別分析法を用いた次元削減では、パターン認識に最適な次元削減行列Ａを求めている。
【非特許文献１】フクナガケイノスケ（Keinosuke Fukunaga）著，「統計パターン認識（Introduction to Statistical Pattern Recognition）」，第２版，（米国），アカデミックプレス（Academic Press），１９９０年，ｐ．４４１−ｐ．４５９
【非特許文献２】サオン（Saon）外３名，「最尤識別特徴空間（Maximum likelihood discriminant feature space）」，音響・音声・信号処理国際会議（International Conference on Acoustics, Speech, and Signal Processing），２０００年，ｐ．１２９−ｐ．１３２
【発明の開示】
【発明が解決しようとする課題】
【００１６】
しかしながら、従来の次元削減法では、パターン認識を精度よく実現するのに十分に、適切な次元削減行列Ａを求めることができない場合があった。即ち、従来の手法では、パターン認識を精度よく実現するのに十分に、特徴ベクトルが低次元空間上でクラス毎に分離し、同クラスの特徴ベクトルが低次元空間上で特定領域に集中するような次元削減行列Ａを求めることができない場合があった。
【００１７】
例えば、２次元の特徴ベクトルを１次元に削減する場合であって、パターンのクラスが３種類ある場合には、図５（ａ）下段に示すように、３種類の各クラスの特徴ベクトルが、１次元空間上で、クラス毎に、重複しない領域に集中するのが好ましいが、線形判別分析法による次元削減では、特徴ベクトルの１次元空間上の分布が、図５（ｂ）に示すように、異なるクラス間で重複する領域の多い分布となってしまう場合があった。
【００１８】
また、このような性質を有する特徴ベクトルの集合に対しては、不等分散判別分析法によって次元削減行列Ａを求めても、特徴ベクトルの１次元空間上の分布が、線形判別分析法と同様に、異なるクラス間で重複する領域の多い分布になってしまう場合があった（図５（ｃ）参照）。このように、従来手法では、特徴ベクトルを適切に次元削減できずに、パターン認識の精度が十分に得られない場合があった。
【００１９】
本発明は、こうした問題に鑑みなされたものであり、パターン認識に適切な次元削減行列Ａを算出することのできる演算装置及びプログラムを提供することを目的とする。
【課題を解決するための手段】
【００２０】
かかる目的を達成するためになされた本発明は、外部から入力された認識対象パターンの特徴ベクトルに、予め定められた次元削減行列を作用させて、特徴ベクトルを低次元空間に写像し、当該特徴ベクトルの次元削減後の値に基づき、入力されたパターンを、予め定められた複数のクラスのいずれかに分類するパターン認識装置に用いる上記次元削減行列を算出するに当たって、クラス内分散を、一般化平均により定義し、次の評価関数Ｊ1（Ａ，ｍ）又は評価関数Ｊ2（Ａ，ｍ）により、次元削減行列Ａを求めるようにしたものである。
【００２１】
【数６】
具体的に、本発明の演算装置は、パターン認識装置にて分類する上記複数のクラスについて、各クラス毎に、クラスに属するパターンの特徴ベクトルを、複数個、サンプルとして取得するサンプル取得手段を備える。そして、演算装置は、サンプル取得手段が取得した各クラスのサンプル群に基づき、クラス間分散算出手段にて、クラス間共分散行列Ｂを求める。尚、クラス間分散算出手段は、次式に従って、クラス間共分散行列Ｂを求める構成にすることができる。
【００２２】
【数７】
ここで、μiは、第ｉクラスの平均ベクトル、μ0は、全クラスの平均ベクトルである。また、ｉは、クラスの総数をＬとして、値１から値Ｌまでの整数値を採る。その他、Ｎは、全クラスのサンプル数、Ｎiは、第ｉクラスのサンプル数、Ｘijは、第ｉクラスの第ｊ（ｊ＝１，２，…，Ｎi）サンプルのベクトル値を表す。また、ｘ1，…，ｘdは、ｄ次元の特徴ベクトルの各要素の値を表し、上付き文字Ｔは、転置である。
【００２３】
【数８】
また、本発明の演算装置は、サンプル取得手段が取得した各クラスのサンプル群に基づき、クラス分散算出手段により、各クラスの共分散行列Ｗiを算出する。但し、Ｗiは、第ｉクラスの共分散行列を表す。
【００２４】
【数９】
この他、本発明の演算装置は、クラス内分散を定義付ける値ｍとして、実数値の入力を受け付ける入力受付手段を備え、この入力受付手段により、当該演算装置のユーザが所望するクラス内分散の定義情報（値ｍ）を取得する。
【００２５】
そして、演算装置は、入力受付手段を通じて入力された値ｍと、クラス間分散算出手段により算出されたクラス間共分散行列Ｂと、クラス分散算出手段により算出された各クラスの共分散行列Ｗiとに基づき、式（１）で定義される評価関数Ｊ1（Ａ，ｍ）又は式（２）で定義される評価関数Ｊ2（Ａ，ｍ）が最大になる次元削減行列Ａを、行列算出手段により算出する。尚、Ｐiは、第ｉクラスの事前確率であり、Ｐi＝Ｎi／Ｎとすることができる。
【００２６】
本発明の演算装置は、このようにして、次元削減行列Ａを求め、求めた次元削減行列Ａを、出力手段により、外部に出力する。
このように構成された演算装置では、ｍ＝１が入力された場合、クラス内分散を、算術平均により定義することになるため、線形判別分析法と同手法で、次元削減行列Ａを求めることとなり、ｍ＝０が入力された場合には、クラス内分散を、幾何平均により定義することになるため、周知の不等分散判別分析法と同手法で次元削減行列Ａを求めることとなる。一方、ｍが０，１以外の値で入力された場合には、新規な手法で次元削減行列Ａを求めることになる。
【００２７】
本発明者は、線形判別分析法及び不等分散判別分析法によっては適切な次元削減行列Ａが求められない問題について考察したところ、クラス内分散を一般化平均により定義することにより、線形判別分析法及び不等分散判別分析法によっては適切な次元削減行列Ａが求められない問題を解消することができることに気がついた。例えば、線形判別分析法や不等分散判別分析法によっては、適切な次元削減行列Ａを求めることができない図５（ｂ）（ｃ）のような場合であっても、パラメータｍを、例えば、ｍ＝１０などのｍ＝０，１以外の値に設定して、式（１）の評価関数Ｊ1（Ａ，ｍ）又は式（２）の評価関数Ｊ2（Ａ，ｍ）に従い、評価関数が最大となる次元削減行列Ａを求めれば、図５（ａ）下段のようなパターン認識に適切な分布を得ることができるのである。
【００２８】
本発明者は、このような事実から、演算装置を、外部からパラメータｍの値を取得し、式（１）の評価関数Ｊ1（Ａ，ｍ）又は式（２）の評価関数Ｊ2（Ａ，ｍ）に従って次元削減行列Ａを算出し、この次元削減行列Ａを出力する構成にしたのである。このような演算装置を用いれば、パターン認識装置の設計者は、パラメータｍの値として複数の値を演算装置に入力し、これにより複数の次元削減行列Ａを演算装置から得て、これらの次元削減行列Ａをサンプルに作用させたときのサンプルの低次元空間での分布を、評価することにより、パターン認識に最適な次元削減行列Ａを求めることができる。
【００２９】
従って、本発明の演算装置を用いれば、従来よりも好適なパターン認識装置を構成することができる。
尚、上記演算装置は、行列算出手段により算出された次元削減行列Ａを、サンプル取得手段が取得した各サンプルに作用させて、各サンプルの次元削減後の値を算出する低次元化手段を備え、出力手段にて、上記算出された次元削減行列Ａ及び低次元化手段の算出結果を表す情報を、出力する構成にされるとよい（請求項２）。ここで「低次元化手段の算出結果を表す情報」としては、低次元化手段により求められた各サンプルの次元削減後の値そのものや、その統計情報（低次元空間での各サンプルの分布を表す情報等）を挙げることができる。
【００３０】
このように演算装置を構成すれば、パターン認識装置の設計者は、別途、次元削減行列Ａをサンプルに作用させて、各サンプルを次元削減する作業をしなくても、パターン認識に最適な次元削減行列を設定するのに必要な情報を、演算装置から得ることができる。従って、本発明によれば、パターン認識装置を設計する際の次元削減行列Ａの決定を、効率的に行うことができる。
【００３１】
また、具体的に、出力手段は、低次元化手段により求められた各サンプルの次元削減後の値を、次元削減行列Ａと共に記述したデータファイルを出力する構成にされてもよいし、低次元空間での各サンプルの分布をグラフ化してなる画像を、表示装置を通じて画面に出力する構成にされてもよい。
【００３２】
この他、演算装置には、各サンプルの次元削減後の値に基づき、行列算出手段が算出した次元削減行列Ａの良否を評価する評価手段を設けると好ましい（請求項３）。例えば、出力手段を通じ、評価手段の評価結果をユーザに向けて出力するように演算装置を構成すれば、ユーザに、適切な次元削減行列Ａを用いて、パターン認識装置を構築させることができる。
【００３３】
また、評価手段は、低次元化手段により算出された各サンプルの次元削減後の値から求められる各クラスの共分散行列Ｗi’（但し、Ｗi’は、次元削減後の第ｉクラスの共分散行列を表す。）及び平均ベクトルμi’（但し、μi’は、次元削減後の第ｉクラスに属するサンプルの平均ベクトルを表す。）に基づき、重み付け係数をｓ、第ｉクラスの事前確率をＰiとした式
【００３４】
【数１０】
に従って、行列算出手段が算出した次元削減行列Ａによる次元削減後の第ｉクラス及び第ｋクラスのサンプル群の重なり具合を表すチェルノフ上限ＣＢikを、クラスの組合せ毎に算出し、算出したチェルノフ上限ＣＢikに基づき、行列算出手段が算出した次元削減行列Ａの良否を評価する構成にすることができる（請求項４）。尚、チェルノフ上限は、一般に「チェルノフ限界」とも呼ばれる。
【００３５】
上記チェルノフ上限ＣＢikは、値が小さい程、第ｉクラス及び第ｋクラスのサンプル群の重なり具合が小さいことを表す。従って、チェルノフ上限ＣＢikが小さい次元削減行列Ａほど高く評価すれば、次元削減行列Ａの良否を適切に評価することができる。
【００３６】
この他、評価手段は、チェルノフ上限ＣＢikの総和ＣＢ
【００３７】
【数１１】
を行列算出手段が算出した次元削減行列Ａの良否を表す評価値ＣＢとして算出する構成にすることができる（請求項５）。このように評価手段を構成した場合には、評価値ＣＢが小さい程、その次元削減行列Ａが、パターン認識装置に適切であることを表す。従って、次元削減行列Ａと共に評価値ＣＢをユーザに報知したりすることで、ユーザに、適切な次元削減行列Ａを用いて、パターン認識装置を構築させることができる。
【００３８】
尚、具体的に、入力受付手段は、クラス内分散を定義付ける値ｍとして、複数の値を取得可能な構成にされ、行列算出手段は、入力受付手段が取得した値ｍ毎に、評価関数Ｊ1（Ａ，ｍ）又は前記評価関数Ｊ2（Ａ，ｍ）が最大になる次元削減行列Ａを、算出する構成にされ、評価手段は、入力受付手段が取得した値ｍ毎に、行列算出手段が算出した次元削減行列Ａの良否を評価する構成にされるとよい。また、出力手段は、評価手段の評価結果に従って、行列算出手段が算出した複数の次元削減行列Ａの内、評価が最良の次元削減行列Ａを選択的に、出力する構成にされるとよい（請求項６）。
【００３９】
このような構成の演算装置によれば、ユーザから入力された複数の値ｍの内、最良な値ｍに対応する次元削減行列Ａを選択的に、ユーザに報知することができて、ユーザに、認識精度の高いパターン認識装置を構築させることができる。
【００４０】
この他、本発明の演算装置が有する各手段としての機能は、プログラムによりコンピュータに実現させることができる。また、本発明の演算装置としての機能を、コンピュータに実現させるためのプログラムは、例えば、ＣＤ−ＲＯＭ等のコンピュータ読取可能な記録媒体に記録して提供することができる。
【発明を実施するための最良の形態】
【００４１】
以下に本発明の実施例について、図面と共に説明する。但し、本発明は、以下に説明する実施例に限定されるものではなく、種々の態様を採りうる。
［第一実施例］
図１は、第一実施例の情報処理装置１の構成を表すブロック図である。図１に示すように、本実施例の情報処理装置１は、各種演算処理を行うＣＰＵ１１と、ブートプログラム等を記憶するＲＯＭ１３と、プログラム実行時に作業領域として使用されるＲＡＭ１５と、ハードディスク装置（ＨＤＤ）１７と、キーボードやポインティングデバイス等で構成されるユーザインタフェース１９と、液晶ディスプレイ等で構成される表示装置２１と、記録メディア（磁気ディスクや光ディスク等）に記録されたデータを読み取るためのドライブ装置２３と、を備える。
【００４２】
ハードディスク装置１７には、オペレーティングシステムや各種アプリケーションソフトウェアが記憶されており、本実施例の情報処理装置１は、起動すると、ハードディスク装置１７にインストールされた上記オペレーティングシステムに従って動作し、ユーザインタフェース１９から入力される指令信号に従って、各種アプリケーションソフトウェアを実行する。
【００４３】
具体的に、本実施例の情報処理装置１には、次元削減行列Ａを設計するためのツールが、ハードディスク装置１７に、アプリケーションソフトウェアとしてインストールされており、ＣＰＵ１１は、ユーザインタフェース１９を通じて、上記ツールの実行指令が入力されると、ハードディスク装置１７にインストールされた上記ツールに従って、次元削減行列演算処理を実行する（図３参照）。
【００４４】
尚、上記ツールは、外部から入力された認識対象パターンの特徴ベクトルＸに、予め設定された次元削減行列Ａを作用させて、特徴ベクトルＸを低次元空間Ｓyに写像し、特徴ベクトルＸの次元削減後の値Ｙに基づき、パターンを、予め定められた複数のクラスのいずれかに分類するパターン認識装置に設定する次元削減行列Ａを算出するためのものである。
【００４５】
この種のパターン認識装置としては、マイクロフォンから入力されたユーザの発声音のパターンを認識対象パターンとして、その発声音パターンから、音声の特徴を抽出し、特徴ベクトルＸを生成するパターン認識装置や、カメラから入力された被写体の画像パターンを認識対象パターンとして、その画像パターンから、画像の特徴を抽出し、特徴ベクトルＸを生成するパターン認識装置が知られている。図２は、この種のパターン認識装置５０の基本構成を表すブロック図である。
【００４６】
図２に示すように、パターン認識装置５０は、ベクトル生成部５１と、次元削減部５３と、パターン認識部５５と、を備え、ベクトル生成部５１にて、認識対象パターンから、所定次元（ここではｄ次元とする）の特徴ベクトルＸ＝（ｘ1，ｘ2，…，ｘd）Tを生成する。そして、この特徴ベクトルＸを、次元削減部５３にて、予め設定された次元削減行列Ａに従い次元削減する。
【００４７】
そして、この次元削減後の値Ｙ＝ＡT・Ｘに基づき、パターン認識部５５にて、認識対象パターンを、予め定められた複数のクラスのいずれかに分類する。例えば、パターン認識部５５は、次元削減後の値Ｙが、第ｉクラスの領域にある場合、入力された認識対象パターンを、第ｉクラスのパターンであると認識する。
【００４８】
本実施例は、このような構成のパターン認識装置５０に設定する次元削減行列Ａを算出するためのものであり、具体的に、図３に示すようにして、次元削減行列演算処理を実行する。図３は、ＣＰＵ１１が実行する次元削減行列演算処理を表すフローチャートである。その他、図４（ａ）は、次元削減行列演算処理の実行時に、ハードディスク装置１７から読み出される特徴ベクトルＸのサンプルが記述されたデータファイル（以下、「サンプルデータファイル」という。）の構成を表す説明図である。
【００４９】
次元削減行列処理を実行すると、ＣＰＵ１１は、まず、表示装置２１に、ファイル選択画面を表示し、ユーザに、読出対象とするサンプルデータファイルを指定させる（Ｓ１１０）。そして、ユーザインタフェース１９を通じ、サンプルデータファイルが指定されると、ハードディスク装置１７から、指定されたデータファイルを読み出す（Ｓ１２０）。
【００５０】
図４（ａ）に示すように、サンプルデータファイルは、パターン認識装置５０が分類するクラスの総数Ｌ、特徴ベクトルＸの次元ｄ、写像先の次元ｄ’の情報が記述された構成にされ、更に、各クラス毎に、クラスに属するパターンの特徴ベクトルＸ＝（ｘ1，ｘ2，…，ｘd）Tのサンプルが、クラスの識別番号ｃ（ｃ＝１，２，…，Ｌ）に関連付けられて、複数個記述された構成にされている。以下、第ｉクラスの第ｊサンプルの特徴ベクトルＸを、特に、Ｘijと表現する。
【００５１】
即ち、Ｓ１２０において、ＣＰＵ１１は、サンプルデータファイルに記録された、これらの値Ｌ，ｄ，ｄ’，Ｘijを全て読み出す処理を行う。尚、このようなサンプルデータファイルは、予め、文書作成ソフト等を通じてユーザの操作により生成され、ハードディスク装置１７に記録される。
【００５２】
また、Ｓ１２０での処理を終えると、ＣＰＵ１１は、クラス内分散を定義付ける値ｍとして、実数値の入力を受け付けるための入力画面を表示装置２１に表示し、ユーザインタフェース１９を通じて、値ｍの情報を取得する（Ｓ１３０）。
【００５３】
そして、この処理を終えると、ＣＰＵ１１は、サンプルデータファイルから読み出した値Ｌ，ｄ，Ｘijに従って、各クラスの平均ベクトルμiを算出する（Ｓ１４０）。尚、μiは、第ｉクラスの平均ベクトルを表し、ｉは、値１から値Ｌまでの整数値を採る。また、Ｎiは、サンプルデータファイルに記述された第ｉクラスのサンプルの総数を表す。
【００５４】
【数１２】
また、この処理を終えると、ＣＰＵ１１は、Ｓ１４０で算出された各クラスの平均ベクトルμ1，μ2，…，μLに基づいて、全クラスの平均ベクトルμ0を算出する（Ｓ１５０）。尚、Ｎは、全クラスのサンプル数であり、Ｎi（ｉ＝１，２，…，Ｌ）の総和である。
【００５５】
【数１３】
その後、ＣＰＵ１１は、次式に従って、クラス間共分散行列Ｂを算出する（Ｓ１６０）。但し、Ｐiは、第ｉクラスの事前確率であり、Ｐi＝Ｎi／Ｎである。
【００５６】
【数１４】
また、このようにしてＳ１６０での処理を終えると、ＣＰＵ１１は、Ｓ１７０に移行し、各クラスの共分散行列Ｗiを算出する。但し、Ｗiは、第ｉクラスの共分散行列を表す。
【００５７】
【数１５】
また、Ｓ１７０での処理を終えると、ＣＰＵ１１は、Ｓ１８０に移行し、次式に示す評価関数Ｊ（Ａ，ｍ）が最大となるｄ行ｄ’列の次元削減行列Ａを求める。
【００５８】
【数１６】
例えば、Ｓ１８０では、行列Ａの要素の値を走査して、評価関数Ｊ（Ａ，ｍ）が極大値を採る行列Ａを求める。尚、ｍ＝０である場合には、具体的に、次の評価関数Ｊ（Ａ，０）に従って、評価関数Ｊ（Ａ，０）が最大となるｄ行ｄ’列の次元削減行列Ａを求める。
【００５９】
【数１７】
また、Ｓ１８０での処理を終えると、ＣＰＵ１１は、求めた次元削減行列Ａを、各サンプルＸijに作用させて、各サンプル毎に、サンプルを低次元空間Ｓyに写像したときの値Ｙijを求める（Ｓ１９０）。
【００６０】
【数１８】
その後、ＣＰＵ１１は、上記算出した次元削減行列Ａ、この次元削減行列Ａの算出時に用いたパラメータｍの値、及び、次元削減後の値Ｙijを、記述してなるデータファイルを生成し、これをハードディスク装置１７における上記サンプルデータファイルの読出先ディレクトリに書き込む（Ｓ２００）。尚、図４（ｂ）は、Ｓ２００においてハードディスク装置１７に出力するデータファイルの構成を表す説明図である。このデータファイルには、ＣＰＵ１１の動作により、値Ｙijに関連付けて、次元削減前のオリジナルの特徴ベクトルＸij及び当該特徴ベクトルＸijが属するクラスの値ｃも記述される。
【００６１】
また、Ｓ２００での処理を終えると、ＣＰＵ１１は、上記算出した次元削減行列Ａを表示装置２１の画面上に表示すると共に、各サンプルＸijを低次元空間Ｓyに写像したときの値Ｙijの分布を表すグラフを、表示装置２１の画面上に表示する（Ｓ２０５）。
【００６２】
具体的に、ｄ’＝１である場合には、値Ｙijがスカラー量であるので、横軸に、１次元空間Ｓyの座標を採り、縦軸に、その座標に写像されたサンプルの個数を採って、１次元空間Ｓyの各座標に写像されるサンプルの個数をクラス毎にグラフ表示する。例えば、図５（ａ）下段に示す構成のグラフを表示する。また、ｄ’＝２である場合には、値Ｙijが２次元のベクトルであるので、ｘｙ平面に、２次元空間Ｓyの座標を取り、ｚ軸に、その座標（ｘ，ｙ）に写像されたサンプルの個数を採って、２次元空間Ｓyの各座標に写像されるサンプルの個数をグラフ表示する。
【００６３】
その後、ＣＰＵ１１は、再演算の実行指令がユーザインタフェース１９を通じて入力されているか否かを判断し（Ｓ２１０）、再演算の実行指令が入力されている場合には（Ｓ２１０でＹｅｓ）、Ｓ１３０に移行し、改めて値ｍの入力を受け付ける。また、ユーザインタフェース１９を通じて値ｍが入力された後には、Ｓ１４０に移行し、この新規な値ｍを用いて、Ｓ１４０以降の処理を実行する。
【００６４】
一方、再演算の実行指令が入力されていないと判断すると（Ｓ２１０でＮｏ）、ＣＰＵ１１は、当該ツールの終了指令が入力されるか、再演算の実行指令が入力されるまで待機し、当該ツールの終了指令が入力されると（Ｓ２２０でＹｅｓ）、当該次元削減行列演算処理を終了する。
【００６５】
以上に説明した本実施例の情報処理装置１では、ｍ＝１が入力された場合、クラス内分散を、算術平均により定義することになるため、線形判別分析法と同手法で、次元削減行列Ａを求めることになる。また、ｍ＝０が入力された場合には、クラス内分散を、幾何平均により定義することになるため、周知の不等分散判別分析法と同手法で次元削減行列Ａを求めることになる。一方、ｍが０，１以外の値で入力された場合には、新規な手法で次元削減行列Ａを求めることになる。
【００６６】
上述したように、クラス内分散を一般化平均で定義すれば、線形判別分析法や不等分散判別分析法によっては、適切な次元削減行列Ａを求めることができない場合であっても、適切な次元削減行列Ａを求めることができる（図５参照）。即ち、特徴ベクトル（サンプル）Ｘijを低次元空間Ｓyに写像したときに、特徴ベクトルＸijが低次元空間Ｓy上でクラス毎に分離し、同クラスの特徴ベクトルが特定領域に集中する図５（ａ）に示すような適切な次元削減行列Ａを求めることができる。
【００６７】
従って、本実施例のツールを用いれば、従来よりもパターン認識性能に優れた好適なパターン認識装置を構成することができる。
具体的に、パターン認識装置５０に設定する次元削減行列Ａの決定に当たっては、当該ツールを用いて、パラメータｍの値を走査しながら、当該値ｍで求めた次元削減行列Ａにより各サンプルＸijを低次元空間Ｓyに写像したときの分布を、出力されたデータファイルの内容や表示装置２１に表示されたグラフに基づいて、評価する作業を行えばよい。このような作業を経て、本実施例では、最適な次元削減行列Ａを求めることができる。
【００６８】
また、本実施例では、演算結果をデータファイルとして出力するだけでなく、各サンプルＸijを低次元空間Ｓyに写像したときの値Ｙijの分布を表すグラフを、表示装置２１の画面上に表示出力するので、ユーザは、最適な次元削減行列Ａを求める作業を、効率的に行うことができる。
【００６９】
ところで、上記実施例では、分子をクラス間共分散行列Ｂで定義した評価関数Ｊ（Ａ，ｍ）に従って次元削減行列Ａを求めたが、Ｓ１８０では、分子を全共分散行列で定義してなる次の評価関数Ｊ（Ａ，ｍ）に従って、次元削減行列Ａを求めても良い。
【００７０】
【数１９】
評価関数Ｊ（Ａ，ｍ）を、上式で定義して次元削減行列Ａを求めても、上記実施例と同様の効果を得ることができる。
【００７１】
この他、上述した情報処理装置１は、図６に示す内容の次元削減行列演算処理を実行する構成にされてもよい（第二実施例）。
［第二実施例］
続いて、第二実施例について説明する。図６は、第二実施例の情報処理装置１が、ＣＰＵ１１にて実行する次元削減行列演算処理を表すフローチャートである。但し、第二実施例の情報処理装置１は、ＣＰＵ１１にて実行する次元削減行列演算処理の内容が異なる程度であり、その他の構成については、基本的に第一実施例と同一構成であるので、以下では、第一実施例の情報処理装置１と同一構成の説明を、適宜省略する。
【００７２】
図６に示す次元削減行列演算処理を実行すると、ＣＰＵ１１は、まず、表示装置２１に、ファイル選択画面を表示し、ユーザに、読出対象とするサンプルデータファイルを指定させる（Ｓ３１０）。そして、ユーザインタフェース１９を通じ、サンプルデータファイルが指定されると、ハードディスク装置１７から、指定されたデータファイルを読み出す（Ｓ３２０）。尚、本実施例のサンプルデータファイルも、第一実施例と同一構成であり、予め、文書作成ソフト等を通じてユーザの操作により生成され、ハードディスク装置１７に記録されるものとする。
【００７３】
即ち、Ｓ３２０において、ＣＰＵ１１は、サンプルデータファイルに記録された値Ｌ，ｄ，ｄ’，Ｘijを読み出す処理を行う。
また、Ｓ３２０での処理を終えると、ＣＰＵ１１は、クラス内分散を定義付ける値として、実数値の入力を受け付けるための入力画面を表示装置２１に表示し、ユーザインタフェース１９を通じて、その値を取得する（Ｓ３３０）。但し、ここで表示する入力画面は、第一実施例とは異なり、クラス内分散を定義付ける値として、複数の値ｍ［１］，ｍ［２］，…，ｍ［Ｍ］を入力可能な構成にされている。
【００７４】
即ち、Ｓ３３０では、ユーザから指定された複数の値ｍ［１］，ｍ［２］，…を、ユーザインタフェース１９を通じて取得する。尚、Ｓ３３０では、予め定めたＭ個の値をユーザに入力させてもよいし、最大個数をＭ個として、任意の個数の値をユーザに入力させてもよい。ここでは、ユーザから取得した値ｍの数を、ＭE個とする。
【００７５】
また、この処理を終えると、ＣＰＵ１１は、Ｓ１４０での処理と同様に、サンプルデータファイルから読み出した値Ｌ，ｄ，Ｘijに従って、各クラスの平均ベクトルμiを算出すると共に（Ｓ３４０）、Ｓ１５０での処理と同様に、Ｓ３４０で算出した各クラスの平均ベクトルμ1，μ2，…，μLに基づき、全クラスの平均ベクトルμ0を算出する（Ｓ３５０）。その後、Ｓ１６０での処理と同様に、クラス間共分散行列Ｂを算出し（Ｓ３６０）、Ｓ１７０での処理と同様に、各クラスの共分散行列Ｗiを算出する（Ｓ３７０）。
【００７６】
また、Ｓ３７０での処理を終えると、ＣＰＵ１１は、パラメータｒ＝１に設定する（Ｓ３７３）と共に、Ｓ３７７に移行し、パラメータｍ（クラス内分散を定義付ける値ｍ）を、ユーザから指定された値ｍ［ｒ］に設定する（ｍ←ｍ［ｒ］）。
【００７７】
また、Ｓ３７７での処理を終えると、ＣＰＵ１１は、Ｓ３８０に移行し、Ｓ１８０での処理と同様に、評価関数Ｊ（Ａ，ｍ）が最大となるｄ行ｄ’列の次元削減行列Ａを求める（Ｓ３８０）。特に、ここでは、評価関数Ｊ（Ａ，ｍ［ｒ］）が最大となるｄ行ｄ’列の次元削減行列をＡrと表記する。
【００７８】
そして、求めた次元削減行列Ａrを、Ｓ１９０での処理と同様に、各サンプルＸijに作用させて、サンプル毎に、サンプルを低次元空間Ｓyに写像したときの値Ｙij［ｒ］を求める（Ｓ３９０）。尚、ここで用いる記号［ｒ］は、値ｍ［ｒ］を用いて算出した値であることを明確にするためのサフィックスである。
【００７９】
また、この処理を終えると、ＣＰＵ１１は、Ｓ４００に移行し、図７に示す行列評価処理を実行する。図７は、ＣＰＵ１１がＳ４００で実行する行列評価処理を表すフローチャートである。
【００８０】
行列評価処理を開始すると、ＣＰＵ１１は、まず、各サンプルの次元削減後の値Ｙij［ｒ］から、次元削減後の各クラスの平均ベクトルμi［ｒ］（ｉ＝１，２，…，Ｌ）を算出する（Ｓ５１０）。
【００８１】
【数２０】
また、この処理を終えると、Ｓ５２０に移行して、次元削減後の各クラスの共分散行列Ｗi［ｒ］（ｉ＝１，２，…，Ｌ）を算出する。
【００８２】
【数２１】
その後、ＣＰＵ１１は、Ｓ５２５に移行して、パラメータｉを値１に設定し（ｉ＝１）、ｋ＝ｉ＋１，ｉ＋２，…，Ｌについて、次式に従い値Ｗik［ｒ］を算出する（Ｓ５３０）。
【００８３】
【数２２】
但し、ここで用いるパラメータｓは、０＜ｓ＜１の範囲で値を採る重み付け係数であり、例えば，ｓ＝０．５に設定される。
【００８４】
また、この処理を終えると、ＣＰＵ１１は、Ｓ５４０に移行し、ｋ＝ｉ＋１，ｉ＋２，…，Ｌについて、次式に従い、次元削減後の第ｉクラスのサンプル群と第ｋクラスのサンプル群との間の乖離度ηik［ｒ］を算出する（Ｓ５４０）。
【００８５】
【数２３】
その後、次式に従い、次元削減後の第ｉクラスのサンプル群と第ｋクラスのサンプル群との間の重なり具合を表すチェルノフ上限ＣＢik［ｒ］を、ｋ＝ｉ＋１，ｉ＋２，…，Ｌについて算出する（Ｓ５５０）。尚、Ｐiは、第ｉクラスの事前確率である。
【００８６】
【数２４】
即ち、本実施例では、クラス間の重なりを測る指標として、チェルノフ上限を用いる。チェルノフ上限は、ベイズ誤差の上限であることが知られている。ユーザにより指定された値ｍ［１］，…,ｍ［ＭE］から、次元削減行列Ａに採用するのに最適な定義（値ｍ）を選択するには、このチェルノフ上限ＣＢikが小さくなる値ｍ［１］，…,ｍ［ＭE］を選択すればよいことになる。本実施例では、ユーザにより指定された値ｍ［１］，…,ｍ［ＭE］の中から、次元削減行列Ａに採用するのに最適な定義（値ｍ）を選択するために、ここで、チェルノフ上限ＣＢik［ｒ］を上述のようにして算出する。尚、ｓ＝０．５のとき、チェルノフ上限は、バタチャリヤ上限と呼ばれる。
【００８７】
Ｓ５５０での処理を終えると、ＣＰＵ１１は、不等式ｉ＜Ｌ−１が成立しているか否かを判断し、パラメータｉが値（Ｌ−１）より小さく上記不等式が成立している場合には（Ｓ５６０でＹｅｓ）、Ｓ５６５に移行して、パラメータｉを１加算した値に更新し（ｉ←ｉ＋１）、Ｓ５３０に移行する。その後、更新後のパラメータｉの値を用いて、Ｓ５３０〜Ｓ５６０の処理を実行する。
【００８８】
そして、パラメータｉの値が（Ｌ−１）となり、不等式ｉ＜Ｌ−１が成立しなくなると（Ｓ５６０でＮｏ）、Ｓ５７０に移行し、次式に従って、各クラスの組合せ毎のチェルノフ上限ＣＢik［ｒ］の総和ＣＢ［ｒ］を算出する。
【００８９】
【数２５】
周知のようにチェルノフ上限は、２クラス間の問題しか取り扱うことができないため、本実施例では、上述のように総和ＣＢ［ｒ］を算出し、第１クラスから第Ｌクラスまでの各クラス間の重なり具合を数値化する。そして、本実施例では、この総和ＣＢ［ｒ］を、次元削減行列Ａrの良否に関する評価値として取り扱う。具体的には、総和ＣＢ［ｒ］が小さい程、次元削減行列Ａrが良であると取り扱う。
【００９０】
なぜなら、総和ＣＢ［ｒ］が小さい程、各クラスのサンプル群の重なりが小さく、特徴ベクトルＸijが低次元空間Ｓy上でクラス毎に適切に分離し、同クラスの特徴ベクトルが特定領域に集中していることになるためである。ＣＰＵ１１は、このような特徴を有する総和ＣＢ［ｒ］（以下、評価値ＣＢ［ｒ］とも言う。）を算出すると、当該行列評価処理を終了する。
【００９１】
また、Ｓ４００で行列評価処理を終えると、ＣＰＵ１１は、ユーザから指定された複数の値ｍ［１］,…,ｍ［ＭE］の全てについて次元削減行列Ａrを算出し行列評価処理を実行したか否かを判断する（Ｓ４１０）。即ち、ｒ≧ＭEであるか否かを判断する。そして、値ｍ［１］,…,ｍ［ＭE］の全てについて次元削減行列Ａrを算出し行列評価処理を実行していないと判断すると（Ｓ４１０でＮｏ）、Ｓ４１５に移行し、パラメータｒを、１加算した値に更新する（ｒ←ｒ＋１）。その後、Ｓ３７７に移行し、値ｍをｍ［ｒ］に更新し、ｍ［ｒ］について、Ｓ３８０以降の処理を実行する。
【００９２】
そして、ユーザから指定された複数の値ｍ［１］,…,ｍ［ＭE］の全てについて次元削減行列Ａrを算出し行列評価処理を実行したと判断すると（Ｓ４１０でＹｅｓ）、ＣＰＵ１１は、Ｓ４２０に移行し、ｒ＝１，２，…，ＭEの夫々に対応する評価値ＣＢ［ｒ］の中から、最小値をとる評価値ＣＢ［ｒ］を検出し、最小の評価値ＣＢ［ｒ］をとるパラメータｒの値を特定する。ここでは、特定した最小の評価値ＣＢ［ｒ］をとるパラメータｒの値を特に、ｒminと表記する。
【００９３】
また、Ｓ４２０での処理を終えると、ＣＰＵ１１は、Ｓ４３０に移行し、最小の評価値ＣＢ［ｒmin］をとる次元削減行列Ａr、及び、この次元削減行列Ａrの算出時に用いたパラメータｍの値ｍ［ｒmin］、及び、次元削減後の値Ｙij［ｒmin］、及び、評価値ＣＢ［ｒmin］を、記述してなるデータファイルを生成し、これをハードディスク装置１７における上記サンプルデータファイルの読出先ディレクトリに書き込む。尚、ここで、書き込むデータファイルの様式は、Ｓ２００で書き込むデータファイルの様式と概ね同様であり（図４（ｂ）参照）、高々、評価値ＣＢ［ｒmin］が付加される程度のものである。
【００９４】
また、Ｓ４３０での処理を終えると、ＣＰＵ１１は、Ｓ４３５に移行し、上記データファイルに記述した最小の評価値ＣＢ［ｒmin］をとる次元削減行列Ａrを、表示装置２１の画面上に表示すると共に、この次元削減行列Ａrを用いて各サンプルＸijを低次元空間Ｓyに写像したときの値Ｙij［ｒmin］の分布を表すグラフを、Ｓ２０５での処理と同様に、表示装置２１の画面上に表示する。
【００９５】
その後、ＣＰＵ１１は、再演算の実行指令がユーザインタフェース１９を通じて入力されているか否かを判断し（Ｓ４４０）、再演算の実行指令が入力されている場合には（Ｓ４４０でＹｅｓ）、Ｓ３３０に移行する。一方、再演算の実行指令が入力されていないと判断すると（Ｓ４４０でＮｏ）、当該ツールの終了指令が入力されるか、再演算の実行指令が入力されるまで待機し、当該ツールの終了指令が入力されると（Ｓ４５０でＹｅｓ）、当該次元削減行列演算処理を終了する。
【００９６】
以上、第二実施例の情報処理装置１の構成について説明したが、本実施例によれば、チェルノフ上限により、次元削減後の各クラスのサンプル群の重なり具合を数値化して、ユーザから指定された複数の値ｍ［１］，…，ｍ［ＭE］の内、次元削減後の各クラスのサンプル群の重なり具合が最も小さい値ｍ［ｒmin］を、クラス内分散を定義付ける最適値として採用し、その値ｍ［ｒmin］を用いて評価関数Ｊ［Ａ，ｍ［ｒmin］］で算出された次元削減行列Ａを、選択的に、データファイル及び表示装置２１に出力する。
【００９７】
従って、本実施例によれば、第一実施例とは異なりＳ２０５で表示されるグラフを目視して、最適な次元削減行列Ａを探し出す必要がなく、ユーザは、簡単に、最適な次元削減行列Ａを求めることができる。
【００９８】
よって、本実施例によれば、ユーザは、簡単に高性能なパターン認識装置を構成することができる。
［特許請求の範囲との対応関係］
尚、本発明のサンプル取得手段は、ＣＰＵ１１が実行するＳ１２０，Ｓ３２０の処理により実現され、クラス間分散算出手段は、Ｓ１６０，Ｓ３６０の処理により実現されている。また、クラス分散算出手段は、Ｓ１７０，Ｓ３７０の処理により実現され、入力受付手段は、Ｓ１３０，Ｓ３３０の処理により実現されている。この他、行列算出手段は、Ｓ１８０，Ｓ３８０の処理により実現され、低次元化手段は、Ｓ１９０，Ｓ３９０の処理により実現され、評価手段は、Ｓ４００の処理により実現され、出力手段は、Ｓ２００，Ｓ２０５，Ｓ４３０，Ｓ４３５の処理により実現されている。
【図面の簡単な説明】
【００９９】
【図１】情報処理装置１の構成を表すブロック図である。
【図２】パターン認識装置５０の基本構成を表すブロック図である。
【図３】ＣＰＵ１１が実行する次元削減行列演算処理を表すフローチャートである。
【図４】サンプルデータファイルの構成（ａ）及び出力データファイルの構成（ｂ）を表す説明図である。
【図５】次元削減後の特徴ベクトルの分布を説明した説明図である。
【図６】ＣＰＵ１１が実行する第二実施例の次元削減行列演算処理を表すフローチャートである。
【図７】ＣＰＵ１１が実行する行列評価処理を表すフローチャートである。
【符号の説明】
【０１００】
１…情報処理装置、１１…ＣＰＵ、１３…ＲＯＭ、１５…ＲＡＭ、１７…ハードディスク装置、１９…ユーザインタフェース、２１…表示装置、２３…ドライブ装置、５０…パターン認識装置、５１…ベクトル生成部、５３…次元削減部、５５…パターン認識部
【技術分野】
【０００１】
本発明は、パターン認識装置に用いる次元削減行列を算出する演算装置及びプログラムに関する。
【背景技術】
【０００２】
従来より、パターン認識装置としては、入力されたパターンの特徴を抽出して、特徴ベクトルを生成し、更に、この特徴ベクトルを低次元化して、パターン認識に有効な特徴ベクトル（又はスカラー量）を求め、当該低次元化後の値を、予めデータベースに登録された各クラスの基準値（プロトタイプ）と照合して一致度を評価することにより、入力されたパターンを複数のクラスのいずれかに分類し、パターン認識を実現するものが知られている。
【０００３】
入力されたパターンを装置により認識する際には、上述したように、パターンから様々な特徴量を抽出し、これらを要素として特徴ベクトルを生成するのであるが、高次元の特徴ベクトルで、パターン認識を行う場合には、情報量が多すぎて、パターン認識に、非常に長い時間を要する。また、認識に不要な情報が含まれている特徴ベクトルを用いて、パターン認識を行う場合には、パターンの認識精度が劣化する可能性がある。一方、認識に必要な情報が含まれていない特徴ベクトルを用いて、パターン認識を行っても、当然のことながら、良好なパターン認識結果を得ることができない。
【０００４】
このため、従来では、まず、高次元の特徴ベクトルを生成し、この特徴ベクトルを低次元空間に写像したときに、特徴ベクトルが低次元空間上でクラス毎に分離し、同クラスの特徴ベクトルが特定領域に集中するような次元削減行列を求め、求めた次元削減行列を特徴ベクトルを作用させることにより、特徴ベクトルを低次元化して、低次元化後の値がパターンの特徴を良好に表すようにしている。
【０００５】
このような次元削減法によって、特徴ベクトルを低次元化すれば、低次元空間において、各クラスの特徴ベクトルが分離し、同一クラスの特徴ベクトルが類似する値を示すので、特徴ベクトルがいずれのクラスに属するものであるのかを、効率的且つ精度よく判定することができる。
【０００６】
具体的に、次元削減法としては、従来、線形判別分析法や不等分散判別分析法を用いたものが知られている。
線形判別分析法による次元削減では、まず、クラス毎に、クラスに属するパターンの特徴ベクトルを、サンプルとして複数個用意する。そして、これらのサンプル群から、各クラスの平均ベクトルμiを求めると共に、全クラスの平均ベクトルμ0を求める。
【０００７】
【数１】
但し、μiは、第ｉクラスの平均ベクトルを表し、ｉは、クラスの総数をＬとして、値１から値Ｌまでの整数値を採るものとする。また、Ｎは、全クラスのサンプル数、Ｎiは、第ｉクラスのサンプル数、Ｘijは、第ｉクラスの第ｊ（ｊ＝１，２，…，Ｎi）サンプルのベクトル値を表すものとする。
【０００８】
【数２】
尚、ｘ1，…，ｘdは、ｄ次元の特徴ベクトルの各要素の値を表し、上付き文字Ｔは、転置を表す。
【０００９】
そして、これら平均ベクトルμ0及びクラス毎の平均ベクトルμiを用いて、クラス間共分散行列Ｂを求めると共に、各クラスの共分散行列Ｗiを求める。
【００１０】
【数３】
但し、Ｐiは、第ｉクラスの事前確率であり、Ｐi＝Ｎi／Ｎとすることができる。また、Ｗiは、第ｉクラスの共分散行列を表すものとする。
【００１１】
上述したようにして、クラス間共分散行列Ｂ及び各クラスの共分散行列Ｗiを求めた後には、クラス内共分散行列Ｗを、各クラスの共分散行列Ｗiの算術平均とし、評価空間（低次元空間）でのクラス間分散とクラス内分散との比｜Ｂ｜／｜Ｗ｜が最大となる次元削減行列Ａを求める。具体的には、評価関数Ｊ（Ａ）を次のように定義し、評価関数Ｊ（Ａ）が最大となる次元削減行列Ａを求める。
【００１２】
【数４】
例えば、ｄ次元の特徴ベクトルＸijを、ｄ’次元の空間に写像して低次元化する場合には、次元削減行列Ａとして、評価関数Ｊ（Ａ）が最大となるｄ行ｄ’列の行列を求める（例えば、非特許文献１参照）。
【００１３】
クラス間分散は、クラス間のばらつきの程度を表し、クラス内分散は、クラス内のサンプルのばらつきの程度を表すものである。このため、上述のようにして行列Ａを求めれば、特徴ベクトルが低次元空間上でクラス毎に分離し、同クラスの特徴ベクトルが低次元空間上で特定領域に集中するような次元削減行列Ａを求めることができる。従来の線形判別分析法による次元削減では、このようにして、パターン認識に最適な次元削減行列Ａを求めている。
【００１４】
一方、不等分散判別分析法による次元削減では、クラス内共分散行列Ｗを、各クラスの共分散行列Ｗiの幾何平均として、評価空間（低次元空間）でのクラス間分散とクラス内分散との比｜Ｂ｜／｜Ｗ｜が最大となる次元削減行列Ａを求める。具体的には、評価関数Ｊ（Ａ）を次のように定義して、評価関数Ｊ（Ａ）が最大となる次元削減行列Ａを求める（例えば、非特許文献２参照）。
【００１５】
【数５】
このようにして、従来の不等分散判別分析法を用いた次元削減では、パターン認識に最適な次元削減行列Ａを求めている。
【非特許文献１】フクナガケイノスケ（Keinosuke Fukunaga）著，「統計パターン認識（Introduction to Statistical Pattern Recognition）」，第２版，（米国），アカデミックプレス（Academic Press），１９９０年，ｐ．４４１−ｐ．４５９
【非特許文献２】サオン（Saon）外３名，「最尤識別特徴空間（Maximum likelihood discriminant feature space）」，音響・音声・信号処理国際会議（International Conference on Acoustics, Speech, and Signal Processing），２０００年，ｐ．１２９−ｐ．１３２
【発明の開示】
【発明が解決しようとする課題】
【００１６】
しかしながら、従来の次元削減法では、パターン認識を精度よく実現するのに十分に、適切な次元削減行列Ａを求めることができない場合があった。即ち、従来の手法では、パターン認識を精度よく実現するのに十分に、特徴ベクトルが低次元空間上でクラス毎に分離し、同クラスの特徴ベクトルが低次元空間上で特定領域に集中するような次元削減行列Ａを求めることができない場合があった。
【００１７】
例えば、２次元の特徴ベクトルを１次元に削減する場合であって、パターンのクラスが３種類ある場合には、図５（ａ）下段に示すように、３種類の各クラスの特徴ベクトルが、１次元空間上で、クラス毎に、重複しない領域に集中するのが好ましいが、線形判別分析法による次元削減では、特徴ベクトルの１次元空間上の分布が、図５（ｂ）に示すように、異なるクラス間で重複する領域の多い分布となってしまう場合があった。
【００１８】
また、このような性質を有する特徴ベクトルの集合に対しては、不等分散判別分析法によって次元削減行列Ａを求めても、特徴ベクトルの１次元空間上の分布が、線形判別分析法と同様に、異なるクラス間で重複する領域の多い分布になってしまう場合があった（図５（ｃ）参照）。このように、従来手法では、特徴ベクトルを適切に次元削減できずに、パターン認識の精度が十分に得られない場合があった。
【００１９】
本発明は、こうした問題に鑑みなされたものであり、パターン認識に適切な次元削減行列Ａを算出することのできる演算装置及びプログラムを提供することを目的とする。
【課題を解決するための手段】
【００２０】
かかる目的を達成するためになされた本発明は、外部から入力された認識対象パターンの特徴ベクトルに、予め定められた次元削減行列を作用させて、特徴ベクトルを低次元空間に写像し、当該特徴ベクトルの次元削減後の値に基づき、入力されたパターンを、予め定められた複数のクラスのいずれかに分類するパターン認識装置に用いる上記次元削減行列を算出するに当たって、クラス内分散を、一般化平均により定義し、次の評価関数Ｊ1（Ａ，ｍ）又は評価関数Ｊ2（Ａ，ｍ）により、次元削減行列Ａを求めるようにしたものである。
【００２１】
【数６】
具体的に、本発明の演算装置は、パターン認識装置にて分類する上記複数のクラスについて、各クラス毎に、クラスに属するパターンの特徴ベクトルを、複数個、サンプルとして取得するサンプル取得手段を備える。そして、演算装置は、サンプル取得手段が取得した各クラスのサンプル群に基づき、クラス間分散算出手段にて、クラス間共分散行列Ｂを求める。尚、クラス間分散算出手段は、次式に従って、クラス間共分散行列Ｂを求める構成にすることができる。
【００２２】
【数７】
ここで、μiは、第ｉクラスの平均ベクトル、μ0は、全クラスの平均ベクトルである。また、ｉは、クラスの総数をＬとして、値１から値Ｌまでの整数値を採る。その他、Ｎは、全クラスのサンプル数、Ｎiは、第ｉクラスのサンプル数、Ｘijは、第ｉクラスの第ｊ（ｊ＝１，２，…，Ｎi）サンプルのベクトル値を表す。また、ｘ1，…，ｘdは、ｄ次元の特徴ベクトルの各要素の値を表し、上付き文字Ｔは、転置である。
【００２３】
【数８】
また、本発明の演算装置は、サンプル取得手段が取得した各クラスのサンプル群に基づき、クラス分散算出手段により、各クラスの共分散行列Ｗiを算出する。但し、Ｗiは、第ｉクラスの共分散行列を表す。
【００２４】
【数９】
この他、本発明の演算装置は、クラス内分散を定義付ける値ｍとして、実数値の入力を受け付ける入力受付手段を備え、この入力受付手段により、当該演算装置のユーザが所望するクラス内分散の定義情報（値ｍ）を取得する。
【００２５】
そして、演算装置は、入力受付手段を通じて入力された値ｍと、クラス間分散算出手段により算出されたクラス間共分散行列Ｂと、クラス分散算出手段により算出された各クラスの共分散行列Ｗiとに基づき、式（１）で定義される評価関数Ｊ1（Ａ，ｍ）又は式（２）で定義される評価関数Ｊ2（Ａ，ｍ）が最大になる次元削減行列Ａを、行列算出手段により算出する。尚、Ｐiは、第ｉクラスの事前確率であり、Ｐi＝Ｎi／Ｎとすることができる。
【００２６】
本発明の演算装置は、このようにして、次元削減行列Ａを求め、求めた次元削減行列Ａを、出力手段により、外部に出力する。
このように構成された演算装置では、ｍ＝１が入力された場合、クラス内分散を、算術平均により定義することになるため、線形判別分析法と同手法で、次元削減行列Ａを求めることとなり、ｍ＝０が入力された場合には、クラス内分散を、幾何平均により定義することになるため、周知の不等分散判別分析法と同手法で次元削減行列Ａを求めることとなる。一方、ｍが０，１以外の値で入力された場合には、新規な手法で次元削減行列Ａを求めることになる。
【００２７】
本発明者は、線形判別分析法及び不等分散判別分析法によっては適切な次元削減行列Ａが求められない問題について考察したところ、クラス内分散を一般化平均により定義することにより、線形判別分析法及び不等分散判別分析法によっては適切な次元削減行列Ａが求められない問題を解消することができることに気がついた。例えば、線形判別分析法や不等分散判別分析法によっては、適切な次元削減行列Ａを求めることができない図５（ｂ）（ｃ）のような場合であっても、パラメータｍを、例えば、ｍ＝１０などのｍ＝０，１以外の値に設定して、式（１）の評価関数Ｊ1（Ａ，ｍ）又は式（２）の評価関数Ｊ2（Ａ，ｍ）に従い、評価関数が最大となる次元削減行列Ａを求めれば、図５（ａ）下段のようなパターン認識に適切な分布を得ることができるのである。
【００２８】
本発明者は、このような事実から、演算装置を、外部からパラメータｍの値を取得し、式（１）の評価関数Ｊ1（Ａ，ｍ）又は式（２）の評価関数Ｊ2（Ａ，ｍ）に従って次元削減行列Ａを算出し、この次元削減行列Ａを出力する構成にしたのである。このような演算装置を用いれば、パターン認識装置の設計者は、パラメータｍの値として複数の値を演算装置に入力し、これにより複数の次元削減行列Ａを演算装置から得て、これらの次元削減行列Ａをサンプルに作用させたときのサンプルの低次元空間での分布を、評価することにより、パターン認識に最適な次元削減行列Ａを求めることができる。
【００２９】
従って、本発明の演算装置を用いれば、従来よりも好適なパターン認識装置を構成することができる。
尚、上記演算装置は、行列算出手段により算出された次元削減行列Ａを、サンプル取得手段が取得した各サンプルに作用させて、各サンプルの次元削減後の値を算出する低次元化手段を備え、出力手段にて、上記算出された次元削減行列Ａ及び低次元化手段の算出結果を表す情報を、出力する構成にされるとよい（請求項２）。ここで「低次元化手段の算出結果を表す情報」としては、低次元化手段により求められた各サンプルの次元削減後の値そのものや、その統計情報（低次元空間での各サンプルの分布を表す情報等）を挙げることができる。
【００３０】
このように演算装置を構成すれば、パターン認識装置の設計者は、別途、次元削減行列Ａをサンプルに作用させて、各サンプルを次元削減する作業をしなくても、パターン認識に最適な次元削減行列を設定するのに必要な情報を、演算装置から得ることができる。従って、本発明によれば、パターン認識装置を設計する際の次元削減行列Ａの決定を、効率的に行うことができる。
【００３１】
また、具体的に、出力手段は、低次元化手段により求められた各サンプルの次元削減後の値を、次元削減行列Ａと共に記述したデータファイルを出力する構成にされてもよいし、低次元空間での各サンプルの分布をグラフ化してなる画像を、表示装置を通じて画面に出力する構成にされてもよい。
【００３２】
この他、演算装置には、各サンプルの次元削減後の値に基づき、行列算出手段が算出した次元削減行列Ａの良否を評価する評価手段を設けると好ましい（請求項３）。例えば、出力手段を通じ、評価手段の評価結果をユーザに向けて出力するように演算装置を構成すれば、ユーザに、適切な次元削減行列Ａを用いて、パターン認識装置を構築させることができる。
【００３３】
また、評価手段は、低次元化手段により算出された各サンプルの次元削減後の値から求められる各クラスの共分散行列Ｗi’（但し、Ｗi’は、次元削減後の第ｉクラスの共分散行列を表す。）及び平均ベクトルμi’（但し、μi’は、次元削減後の第ｉクラスに属するサンプルの平均ベクトルを表す。）に基づき、重み付け係数をｓ、第ｉクラスの事前確率をＰiとした式
【００３４】
【数１０】
に従って、行列算出手段が算出した次元削減行列Ａによる次元削減後の第ｉクラス及び第ｋクラスのサンプル群の重なり具合を表すチェルノフ上限ＣＢikを、クラスの組合せ毎に算出し、算出したチェルノフ上限ＣＢikに基づき、行列算出手段が算出した次元削減行列Ａの良否を評価する構成にすることができる（請求項４）。尚、チェルノフ上限は、一般に「チェルノフ限界」とも呼ばれる。
【００３５】
上記チェルノフ上限ＣＢikは、値が小さい程、第ｉクラス及び第ｋクラスのサンプル群の重なり具合が小さいことを表す。従って、チェルノフ上限ＣＢikが小さい次元削減行列Ａほど高く評価すれば、次元削減行列Ａの良否を適切に評価することができる。
【００３６】
この他、評価手段は、チェルノフ上限ＣＢikの総和ＣＢ
【００３７】
【数１１】
を行列算出手段が算出した次元削減行列Ａの良否を表す評価値ＣＢとして算出する構成にすることができる（請求項５）。このように評価手段を構成した場合には、評価値ＣＢが小さい程、その次元削減行列Ａが、パターン認識装置に適切であることを表す。従って、次元削減行列Ａと共に評価値ＣＢをユーザに報知したりすることで、ユーザに、適切な次元削減行列Ａを用いて、パターン認識装置を構築させることができる。
【００３８】
尚、具体的に、入力受付手段は、クラス内分散を定義付ける値ｍとして、複数の値を取得可能な構成にされ、行列算出手段は、入力受付手段が取得した値ｍ毎に、評価関数Ｊ1（Ａ，ｍ）又は前記評価関数Ｊ2（Ａ，ｍ）が最大になる次元削減行列Ａを、算出する構成にされ、評価手段は、入力受付手段が取得した値ｍ毎に、行列算出手段が算出した次元削減行列Ａの良否を評価する構成にされるとよい。また、出力手段は、評価手段の評価結果に従って、行列算出手段が算出した複数の次元削減行列Ａの内、評価が最良の次元削減行列Ａを選択的に、出力する構成にされるとよい（請求項６）。
【００３９】
このような構成の演算装置によれば、ユーザから入力された複数の値ｍの内、最良な値ｍに対応する次元削減行列Ａを選択的に、ユーザに報知することができて、ユーザに、認識精度の高いパターン認識装置を構築させることができる。
【００４０】
この他、本発明の演算装置が有する各手段としての機能は、プログラムによりコンピュータに実現させることができる。また、本発明の演算装置としての機能を、コンピュータに実現させるためのプログラムは、例えば、ＣＤ−ＲＯＭ等のコンピュータ読取可能な記録媒体に記録して提供することができる。
【発明を実施するための最良の形態】
【００４１】
以下に本発明の実施例について、図面と共に説明する。但し、本発明は、以下に説明する実施例に限定されるものではなく、種々の態様を採りうる。
［第一実施例］
図１は、第一実施例の情報処理装置１の構成を表すブロック図である。図１に示すように、本実施例の情報処理装置１は、各種演算処理を行うＣＰＵ１１と、ブートプログラム等を記憶するＲＯＭ１３と、プログラム実行時に作業領域として使用されるＲＡＭ１５と、ハードディスク装置（ＨＤＤ）１７と、キーボードやポインティングデバイス等で構成されるユーザインタフェース１９と、液晶ディスプレイ等で構成される表示装置２１と、記録メディア（磁気ディスクや光ディスク等）に記録されたデータを読み取るためのドライブ装置２３と、を備える。
【００４２】
ハードディスク装置１７には、オペレーティングシステムや各種アプリケーションソフトウェアが記憶されており、本実施例の情報処理装置１は、起動すると、ハードディスク装置１７にインストールされた上記オペレーティングシステムに従って動作し、ユーザインタフェース１９から入力される指令信号に従って、各種アプリケーションソフトウェアを実行する。
【００４３】
具体的に、本実施例の情報処理装置１には、次元削減行列Ａを設計するためのツールが、ハードディスク装置１７に、アプリケーションソフトウェアとしてインストールされており、ＣＰＵ１１は、ユーザインタフェース１９を通じて、上記ツールの実行指令が入力されると、ハードディスク装置１７にインストールされた上記ツールに従って、次元削減行列演算処理を実行する（図３参照）。
【００４４】
尚、上記ツールは、外部から入力された認識対象パターンの特徴ベクトルＸに、予め設定された次元削減行列Ａを作用させて、特徴ベクトルＸを低次元空間Ｓyに写像し、特徴ベクトルＸの次元削減後の値Ｙに基づき、パターンを、予め定められた複数のクラスのいずれかに分類するパターン認識装置に設定する次元削減行列Ａを算出するためのものである。
【００４５】
この種のパターン認識装置としては、マイクロフォンから入力されたユーザの発声音のパターンを認識対象パターンとして、その発声音パターンから、音声の特徴を抽出し、特徴ベクトルＸを生成するパターン認識装置や、カメラから入力された被写体の画像パターンを認識対象パターンとして、その画像パターンから、画像の特徴を抽出し、特徴ベクトルＸを生成するパターン認識装置が知られている。図２は、この種のパターン認識装置５０の基本構成を表すブロック図である。
【００４６】
図２に示すように、パターン認識装置５０は、ベクトル生成部５１と、次元削減部５３と、パターン認識部５５と、を備え、ベクトル生成部５１にて、認識対象パターンから、所定次元（ここではｄ次元とする）の特徴ベクトルＸ＝（ｘ1，ｘ2，…，ｘd）Tを生成する。そして、この特徴ベクトルＸを、次元削減部５３にて、予め設定された次元削減行列Ａに従い次元削減する。
【００４７】
そして、この次元削減後の値Ｙ＝ＡT・Ｘに基づき、パターン認識部５５にて、認識対象パターンを、予め定められた複数のクラスのいずれかに分類する。例えば、パターン認識部５５は、次元削減後の値Ｙが、第ｉクラスの領域にある場合、入力された認識対象パターンを、第ｉクラスのパターンであると認識する。
【００４８】
本実施例は、このような構成のパターン認識装置５０に設定する次元削減行列Ａを算出するためのものであり、具体的に、図３に示すようにして、次元削減行列演算処理を実行する。図３は、ＣＰＵ１１が実行する次元削減行列演算処理を表すフローチャートである。その他、図４（ａ）は、次元削減行列演算処理の実行時に、ハードディスク装置１７から読み出される特徴ベクトルＸのサンプルが記述されたデータファイル（以下、「サンプルデータファイル」という。）の構成を表す説明図である。
【００４９】
次元削減行列処理を実行すると、ＣＰＵ１１は、まず、表示装置２１に、ファイル選択画面を表示し、ユーザに、読出対象とするサンプルデータファイルを指定させる（Ｓ１１０）。そして、ユーザインタフェース１９を通じ、サンプルデータファイルが指定されると、ハードディスク装置１７から、指定されたデータファイルを読み出す（Ｓ１２０）。
【００５０】
図４（ａ）に示すように、サンプルデータファイルは、パターン認識装置５０が分類するクラスの総数Ｌ、特徴ベクトルＸの次元ｄ、写像先の次元ｄ’の情報が記述された構成にされ、更に、各クラス毎に、クラスに属するパターンの特徴ベクトルＸ＝（ｘ1，ｘ2，…，ｘd）Tのサンプルが、クラスの識別番号ｃ（ｃ＝１，２，…，Ｌ）に関連付けられて、複数個記述された構成にされている。以下、第ｉクラスの第ｊサンプルの特徴ベクトルＸを、特に、Ｘijと表現する。
【００５１】
即ち、Ｓ１２０において、ＣＰＵ１１は、サンプルデータファイルに記録された、これらの値Ｌ，ｄ，ｄ’，Ｘijを全て読み出す処理を行う。尚、このようなサンプルデータファイルは、予め、文書作成ソフト等を通じてユーザの操作により生成され、ハードディスク装置１７に記録される。
【００５２】
また、Ｓ１２０での処理を終えると、ＣＰＵ１１は、クラス内分散を定義付ける値ｍとして、実数値の入力を受け付けるための入力画面を表示装置２１に表示し、ユーザインタフェース１９を通じて、値ｍの情報を取得する（Ｓ１３０）。
【００５３】
そして、この処理を終えると、ＣＰＵ１１は、サンプルデータファイルから読み出した値Ｌ，ｄ，Ｘijに従って、各クラスの平均ベクトルμiを算出する（Ｓ１４０）。尚、μiは、第ｉクラスの平均ベクトルを表し、ｉは、値１から値Ｌまでの整数値を採る。また、Ｎiは、サンプルデータファイルに記述された第ｉクラスのサンプルの総数を表す。
【００５４】
【数１２】
また、この処理を終えると、ＣＰＵ１１は、Ｓ１４０で算出された各クラスの平均ベクトルμ1，μ2，…，μLに基づいて、全クラスの平均ベクトルμ0を算出する（Ｓ１５０）。尚、Ｎは、全クラスのサンプル数であり、Ｎi（ｉ＝１，２，…，Ｌ）の総和である。
【００５５】
【数１３】
その後、ＣＰＵ１１は、次式に従って、クラス間共分散行列Ｂを算出する（Ｓ１６０）。但し、Ｐiは、第ｉクラスの事前確率であり、Ｐi＝Ｎi／Ｎである。
【００５６】
【数１４】
また、このようにしてＳ１６０での処理を終えると、ＣＰＵ１１は、Ｓ１７０に移行し、各クラスの共分散行列Ｗiを算出する。但し、Ｗiは、第ｉクラスの共分散行列を表す。
【００５７】
【数１５】
また、Ｓ１７０での処理を終えると、ＣＰＵ１１は、Ｓ１８０に移行し、次式に示す評価関数Ｊ（Ａ，ｍ）が最大となるｄ行ｄ’列の次元削減行列Ａを求める。
【００５８】
【数１６】
例えば、Ｓ１８０では、行列Ａの要素の値を走査して、評価関数Ｊ（Ａ，ｍ）が極大値を採る行列Ａを求める。尚、ｍ＝０である場合には、具体的に、次の評価関数Ｊ（Ａ，０）に従って、評価関数Ｊ（Ａ，０）が最大となるｄ行ｄ’列の次元削減行列Ａを求める。
【００５９】
【数１７】
また、Ｓ１８０での処理を終えると、ＣＰＵ１１は、求めた次元削減行列Ａを、各サンプルＸijに作用させて、各サンプル毎に、サンプルを低次元空間Ｓyに写像したときの値Ｙijを求める（Ｓ１９０）。
【００６０】
【数１８】
その後、ＣＰＵ１１は、上記算出した次元削減行列Ａ、この次元削減行列Ａの算出時に用いたパラメータｍの値、及び、次元削減後の値Ｙijを、記述してなるデータファイルを生成し、これをハードディスク装置１７における上記サンプルデータファイルの読出先ディレクトリに書き込む（Ｓ２００）。尚、図４（ｂ）は、Ｓ２００においてハードディスク装置１７に出力するデータファイルの構成を表す説明図である。このデータファイルには、ＣＰＵ１１の動作により、値Ｙijに関連付けて、次元削減前のオリジナルの特徴ベクトルＸij及び当該特徴ベクトルＸijが属するクラスの値ｃも記述される。
【００６１】
また、Ｓ２００での処理を終えると、ＣＰＵ１１は、上記算出した次元削減行列Ａを表示装置２１の画面上に表示すると共に、各サンプルＸijを低次元空間Ｓyに写像したときの値Ｙijの分布を表すグラフを、表示装置２１の画面上に表示する（Ｓ２０５）。
【００６２】
具体的に、ｄ’＝１である場合には、値Ｙijがスカラー量であるので、横軸に、１次元空間Ｓyの座標を採り、縦軸に、その座標に写像されたサンプルの個数を採って、１次元空間Ｓyの各座標に写像されるサンプルの個数をクラス毎にグラフ表示する。例えば、図５（ａ）下段に示す構成のグラフを表示する。また、ｄ’＝２である場合には、値Ｙijが２次元のベクトルであるので、ｘｙ平面に、２次元空間Ｓyの座標を取り、ｚ軸に、その座標（ｘ，ｙ）に写像されたサンプルの個数を採って、２次元空間Ｓyの各座標に写像されるサンプルの個数をグラフ表示する。
【００６３】
その後、ＣＰＵ１１は、再演算の実行指令がユーザインタフェース１９を通じて入力されているか否かを判断し（Ｓ２１０）、再演算の実行指令が入力されている場合には（Ｓ２１０でＹｅｓ）、Ｓ１３０に移行し、改めて値ｍの入力を受け付ける。また、ユーザインタフェース１９を通じて値ｍが入力された後には、Ｓ１４０に移行し、この新規な値ｍを用いて、Ｓ１４０以降の処理を実行する。
【００６４】
一方、再演算の実行指令が入力されていないと判断すると（Ｓ２１０でＮｏ）、ＣＰＵ１１は、当該ツールの終了指令が入力されるか、再演算の実行指令が入力されるまで待機し、当該ツールの終了指令が入力されると（Ｓ２２０でＹｅｓ）、当該次元削減行列演算処理を終了する。
【００６５】
以上に説明した本実施例の情報処理装置１では、ｍ＝１が入力された場合、クラス内分散を、算術平均により定義することになるため、線形判別分析法と同手法で、次元削減行列Ａを求めることになる。また、ｍ＝０が入力された場合には、クラス内分散を、幾何平均により定義することになるため、周知の不等分散判別分析法と同手法で次元削減行列Ａを求めることになる。一方、ｍが０，１以外の値で入力された場合には、新規な手法で次元削減行列Ａを求めることになる。
【００６６】
上述したように、クラス内分散を一般化平均で定義すれば、線形判別分析法や不等分散判別分析法によっては、適切な次元削減行列Ａを求めることができない場合であっても、適切な次元削減行列Ａを求めることができる（図５参照）。即ち、特徴ベクトル（サンプル）Ｘijを低次元空間Ｓyに写像したときに、特徴ベクトルＸijが低次元空間Ｓy上でクラス毎に分離し、同クラスの特徴ベクトルが特定領域に集中する図５（ａ）に示すような適切な次元削減行列Ａを求めることができる。
【００６７】
従って、本実施例のツールを用いれば、従来よりもパターン認識性能に優れた好適なパターン認識装置を構成することができる。
具体的に、パターン認識装置５０に設定する次元削減行列Ａの決定に当たっては、当該ツールを用いて、パラメータｍの値を走査しながら、当該値ｍで求めた次元削減行列Ａにより各サンプルＸijを低次元空間Ｓyに写像したときの分布を、出力されたデータファイルの内容や表示装置２１に表示されたグラフに基づいて、評価する作業を行えばよい。このような作業を経て、本実施例では、最適な次元削減行列Ａを求めることができる。
【００６８】
また、本実施例では、演算結果をデータファイルとして出力するだけでなく、各サンプルＸijを低次元空間Ｓyに写像したときの値Ｙijの分布を表すグラフを、表示装置２１の画面上に表示出力するので、ユーザは、最適な次元削減行列Ａを求める作業を、効率的に行うことができる。
【００６９】
ところで、上記実施例では、分子をクラス間共分散行列Ｂで定義した評価関数Ｊ（Ａ，ｍ）に従って次元削減行列Ａを求めたが、Ｓ１８０では、分子を全共分散行列で定義してなる次の評価関数Ｊ（Ａ，ｍ）に従って、次元削減行列Ａを求めても良い。
【００７０】
【数１９】
評価関数Ｊ（Ａ，ｍ）を、上式で定義して次元削減行列Ａを求めても、上記実施例と同様の効果を得ることができる。
【００７１】
この他、上述した情報処理装置１は、図６に示す内容の次元削減行列演算処理を実行する構成にされてもよい（第二実施例）。
［第二実施例］
続いて、第二実施例について説明する。図６は、第二実施例の情報処理装置１が、ＣＰＵ１１にて実行する次元削減行列演算処理を表すフローチャートである。但し、第二実施例の情報処理装置１は、ＣＰＵ１１にて実行する次元削減行列演算処理の内容が異なる程度であり、その他の構成については、基本的に第一実施例と同一構成であるので、以下では、第一実施例の情報処理装置１と同一構成の説明を、適宜省略する。
【００７２】
図６に示す次元削減行列演算処理を実行すると、ＣＰＵ１１は、まず、表示装置２１に、ファイル選択画面を表示し、ユーザに、読出対象とするサンプルデータファイルを指定させる（Ｓ３１０）。そして、ユーザインタフェース１９を通じ、サンプルデータファイルが指定されると、ハードディスク装置１７から、指定されたデータファイルを読み出す（Ｓ３２０）。尚、本実施例のサンプルデータファイルも、第一実施例と同一構成であり、予め、文書作成ソフト等を通じてユーザの操作により生成され、ハードディスク装置１７に記録されるものとする。
【００７３】
即ち、Ｓ３２０において、ＣＰＵ１１は、サンプルデータファイルに記録された値Ｌ，ｄ，ｄ’，Ｘijを読み出す処理を行う。
また、Ｓ３２０での処理を終えると、ＣＰＵ１１は、クラス内分散を定義付ける値として、実数値の入力を受け付けるための入力画面を表示装置２１に表示し、ユーザインタフェース１９を通じて、その値を取得する（Ｓ３３０）。但し、ここで表示する入力画面は、第一実施例とは異なり、クラス内分散を定義付ける値として、複数の値ｍ［１］，ｍ［２］，…，ｍ［Ｍ］を入力可能な構成にされている。
【００７４】
即ち、Ｓ３３０では、ユーザから指定された複数の値ｍ［１］，ｍ［２］，…を、ユーザインタフェース１９を通じて取得する。尚、Ｓ３３０では、予め定めたＭ個の値をユーザに入力させてもよいし、最大個数をＭ個として、任意の個数の値をユーザに入力させてもよい。ここでは、ユーザから取得した値ｍの数を、ＭE個とする。
【００７５】
また、この処理を終えると、ＣＰＵ１１は、Ｓ１４０での処理と同様に、サンプルデータファイルから読み出した値Ｌ，ｄ，Ｘijに従って、各クラスの平均ベクトルμiを算出すると共に（Ｓ３４０）、Ｓ１５０での処理と同様に、Ｓ３４０で算出した各クラスの平均ベクトルμ1，μ2，…，μLに基づき、全クラスの平均ベクトルμ0を算出する（Ｓ３５０）。その後、Ｓ１６０での処理と同様に、クラス間共分散行列Ｂを算出し（Ｓ３６０）、Ｓ１７０での処理と同様に、各クラスの共分散行列Ｗiを算出する（Ｓ３７０）。
【００７６】
また、Ｓ３７０での処理を終えると、ＣＰＵ１１は、パラメータｒ＝１に設定する（Ｓ３７３）と共に、Ｓ３７７に移行し、パラメータｍ（クラス内分散を定義付ける値ｍ）を、ユーザから指定された値ｍ［ｒ］に設定する（ｍ←ｍ［ｒ］）。
【００７７】
また、Ｓ３７７での処理を終えると、ＣＰＵ１１は、Ｓ３８０に移行し、Ｓ１８０での処理と同様に、評価関数Ｊ（Ａ，ｍ）が最大となるｄ行ｄ’列の次元削減行列Ａを求める（Ｓ３８０）。特に、ここでは、評価関数Ｊ（Ａ，ｍ［ｒ］）が最大となるｄ行ｄ’列の次元削減行列をＡrと表記する。
【００７８】
そして、求めた次元削減行列Ａrを、Ｓ１９０での処理と同様に、各サンプルＸijに作用させて、サンプル毎に、サンプルを低次元空間Ｓyに写像したときの値Ｙij［ｒ］を求める（Ｓ３９０）。尚、ここで用いる記号［ｒ］は、値ｍ［ｒ］を用いて算出した値であることを明確にするためのサフィックスである。
【００７９】
また、この処理を終えると、ＣＰＵ１１は、Ｓ４００に移行し、図７に示す行列評価処理を実行する。図７は、ＣＰＵ１１がＳ４００で実行する行列評価処理を表すフローチャートである。
【００８０】
行列評価処理を開始すると、ＣＰＵ１１は、まず、各サンプルの次元削減後の値Ｙij［ｒ］から、次元削減後の各クラスの平均ベクトルμi［ｒ］（ｉ＝１，２，…，Ｌ）を算出する（Ｓ５１０）。
【００８１】
【数２０】
また、この処理を終えると、Ｓ５２０に移行して、次元削減後の各クラスの共分散行列Ｗi［ｒ］（ｉ＝１，２，…，Ｌ）を算出する。
【００８２】
【数２１】
その後、ＣＰＵ１１は、Ｓ５２５に移行して、パラメータｉを値１に設定し（ｉ＝１）、ｋ＝ｉ＋１，ｉ＋２，…，Ｌについて、次式に従い値Ｗik［ｒ］を算出する（Ｓ５３０）。
【００８３】
【数２２】
但し、ここで用いるパラメータｓは、０＜ｓ＜１の範囲で値を採る重み付け係数であり、例えば，ｓ＝０．５に設定される。
【００８４】
また、この処理を終えると、ＣＰＵ１１は、Ｓ５４０に移行し、ｋ＝ｉ＋１，ｉ＋２，…，Ｌについて、次式に従い、次元削減後の第ｉクラスのサンプル群と第ｋクラスのサンプル群との間の乖離度ηik［ｒ］を算出する（Ｓ５４０）。
【００８５】
【数２３】
その後、次式に従い、次元削減後の第ｉクラスのサンプル群と第ｋクラスのサンプル群との間の重なり具合を表すチェルノフ上限ＣＢik［ｒ］を、ｋ＝ｉ＋１，ｉ＋２，…，Ｌについて算出する（Ｓ５５０）。尚、Ｐiは、第ｉクラスの事前確率である。
【００８６】
【数２４】
即ち、本実施例では、クラス間の重なりを測る指標として、チェルノフ上限を用いる。チェルノフ上限は、ベイズ誤差の上限であることが知られている。ユーザにより指定された値ｍ［１］，…,ｍ［ＭE］から、次元削減行列Ａに採用するのに最適な定義（値ｍ）を選択するには、このチェルノフ上限ＣＢikが小さくなる値ｍ［１］，…,ｍ［ＭE］を選択すればよいことになる。本実施例では、ユーザにより指定された値ｍ［１］，…,ｍ［ＭE］の中から、次元削減行列Ａに採用するのに最適な定義（値ｍ）を選択するために、ここで、チェルノフ上限ＣＢik［ｒ］を上述のようにして算出する。尚、ｓ＝０．５のとき、チェルノフ上限は、バタチャリヤ上限と呼ばれる。
【００８７】
Ｓ５５０での処理を終えると、ＣＰＵ１１は、不等式ｉ＜Ｌ−１が成立しているか否かを判断し、パラメータｉが値（Ｌ−１）より小さく上記不等式が成立している場合には（Ｓ５６０でＹｅｓ）、Ｓ５６５に移行して、パラメータｉを１加算した値に更新し（ｉ←ｉ＋１）、Ｓ５３０に移行する。その後、更新後のパラメータｉの値を用いて、Ｓ５３０〜Ｓ５６０の処理を実行する。
【００８８】
そして、パラメータｉの値が（Ｌ−１）となり、不等式ｉ＜Ｌ−１が成立しなくなると（Ｓ５６０でＮｏ）、Ｓ５７０に移行し、次式に従って、各クラスの組合せ毎のチェルノフ上限ＣＢik［ｒ］の総和ＣＢ［ｒ］を算出する。
【００８９】
【数２５】
周知のようにチェルノフ上限は、２クラス間の問題しか取り扱うことができないため、本実施例では、上述のように総和ＣＢ［ｒ］を算出し、第１クラスから第Ｌクラスまでの各クラス間の重なり具合を数値化する。そして、本実施例では、この総和ＣＢ［ｒ］を、次元削減行列Ａrの良否に関する評価値として取り扱う。具体的には、総和ＣＢ［ｒ］が小さい程、次元削減行列Ａrが良であると取り扱う。
【００９０】
なぜなら、総和ＣＢ［ｒ］が小さい程、各クラスのサンプル群の重なりが小さく、特徴ベクトルＸijが低次元空間Ｓy上でクラス毎に適切に分離し、同クラスの特徴ベクトルが特定領域に集中していることになるためである。ＣＰＵ１１は、このような特徴を有する総和ＣＢ［ｒ］（以下、評価値ＣＢ［ｒ］とも言う。）を算出すると、当該行列評価処理を終了する。
【００９１】
また、Ｓ４００で行列評価処理を終えると、ＣＰＵ１１は、ユーザから指定された複数の値ｍ［１］,…,ｍ［ＭE］の全てについて次元削減行列Ａrを算出し行列評価処理を実行したか否かを判断する（Ｓ４１０）。即ち、ｒ≧ＭEであるか否かを判断する。そして、値ｍ［１］,…,ｍ［ＭE］の全てについて次元削減行列Ａrを算出し行列評価処理を実行していないと判断すると（Ｓ４１０でＮｏ）、Ｓ４１５に移行し、パラメータｒを、１加算した値に更新する（ｒ←ｒ＋１）。その後、Ｓ３７７に移行し、値ｍをｍ［ｒ］に更新し、ｍ［ｒ］について、Ｓ３８０以降の処理を実行する。
【００９２】
そして、ユーザから指定された複数の値ｍ［１］,…,ｍ［ＭE］の全てについて次元削減行列Ａrを算出し行列評価処理を実行したと判断すると（Ｓ４１０でＹｅｓ）、ＣＰＵ１１は、Ｓ４２０に移行し、ｒ＝１，２，…，ＭEの夫々に対応する評価値ＣＢ［ｒ］の中から、最小値をとる評価値ＣＢ［ｒ］を検出し、最小の評価値ＣＢ［ｒ］をとるパラメータｒの値を特定する。ここでは、特定した最小の評価値ＣＢ［ｒ］をとるパラメータｒの値を特に、ｒminと表記する。
【００９３】
また、Ｓ４２０での処理を終えると、ＣＰＵ１１は、Ｓ４３０に移行し、最小の評価値ＣＢ［ｒmin］をとる次元削減行列Ａr、及び、この次元削減行列Ａrの算出時に用いたパラメータｍの値ｍ［ｒmin］、及び、次元削減後の値Ｙij［ｒmin］、及び、評価値ＣＢ［ｒmin］を、記述してなるデータファイルを生成し、これをハードディスク装置１７における上記サンプルデータファイルの読出先ディレクトリに書き込む。尚、ここで、書き込むデータファイルの様式は、Ｓ２００で書き込むデータファイルの様式と概ね同様であり（図４（ｂ）参照）、高々、評価値ＣＢ［ｒmin］が付加される程度のものである。
【００９４】
また、Ｓ４３０での処理を終えると、ＣＰＵ１１は、Ｓ４３５に移行し、上記データファイルに記述した最小の評価値ＣＢ［ｒmin］をとる次元削減行列Ａrを、表示装置２１の画面上に表示すると共に、この次元削減行列Ａrを用いて各サンプルＸijを低次元空間Ｓyに写像したときの値Ｙij［ｒmin］の分布を表すグラフを、Ｓ２０５での処理と同様に、表示装置２１の画面上に表示する。
【００９５】
その後、ＣＰＵ１１は、再演算の実行指令がユーザインタフェース１９を通じて入力されているか否かを判断し（Ｓ４４０）、再演算の実行指令が入力されている場合には（Ｓ４４０でＹｅｓ）、Ｓ３３０に移行する。一方、再演算の実行指令が入力されていないと判断すると（Ｓ４４０でＮｏ）、当該ツールの終了指令が入力されるか、再演算の実行指令が入力されるまで待機し、当該ツールの終了指令が入力されると（Ｓ４５０でＹｅｓ）、当該次元削減行列演算処理を終了する。
【００９６】
以上、第二実施例の情報処理装置１の構成について説明したが、本実施例によれば、チェルノフ上限により、次元削減後の各クラスのサンプル群の重なり具合を数値化して、ユーザから指定された複数の値ｍ［１］，…，ｍ［ＭE］の内、次元削減後の各クラスのサンプル群の重なり具合が最も小さい値ｍ［ｒmin］を、クラス内分散を定義付ける最適値として採用し、その値ｍ［ｒmin］を用いて評価関数Ｊ［Ａ，ｍ［ｒmin］］で算出された次元削減行列Ａを、選択的に、データファイル及び表示装置２１に出力する。
【００９７】
従って、本実施例によれば、第一実施例とは異なりＳ２０５で表示されるグラフを目視して、最適な次元削減行列Ａを探し出す必要がなく、ユーザは、簡単に、最適な次元削減行列Ａを求めることができる。
【００９８】
よって、本実施例によれば、ユーザは、簡単に高性能なパターン認識装置を構成することができる。
［特許請求の範囲との対応関係］
尚、本発明のサンプル取得手段は、ＣＰＵ１１が実行するＳ１２０，Ｓ３２０の処理により実現され、クラス間分散算出手段は、Ｓ１６０，Ｓ３６０の処理により実現されている。また、クラス分散算出手段は、Ｓ１７０，Ｓ３７０の処理により実現され、入力受付手段は、Ｓ１３０，Ｓ３３０の処理により実現されている。この他、行列算出手段は、Ｓ１８０，Ｓ３８０の処理により実現され、低次元化手段は、Ｓ１９０，Ｓ３９０の処理により実現され、評価手段は、Ｓ４００の処理により実現され、出力手段は、Ｓ２００，Ｓ２０５，Ｓ４３０，Ｓ４３５の処理により実現されている。
【図面の簡単な説明】
【００９９】
【図１】情報処理装置１の構成を表すブロック図である。
【図２】パターン認識装置５０の基本構成を表すブロック図である。
【図３】ＣＰＵ１１が実行する次元削減行列演算処理を表すフローチャートである。
【図４】サンプルデータファイルの構成（ａ）及び出力データファイルの構成（ｂ）を表す説明図である。
【図５】次元削減後の特徴ベクトルの分布を説明した説明図である。
【図６】ＣＰＵ１１が実行する第二実施例の次元削減行列演算処理を表すフローチャートである。
【図７】ＣＰＵ１１が実行する行列評価処理を表すフローチャートである。
【符号の説明】
【０１００】
１…情報処理装置、１１…ＣＰＵ、１３…ＲＯＭ、１５…ＲＡＭ、１７…ハードディスク装置、１９…ユーザインタフェース、２１…表示装置、２３…ドライブ装置、５０…パターン認識装置、５１…ベクトル生成部、５３…次元削減部、５５…パターン認識部
【特許請求の範囲】
【請求項１】
外部から入力された認識対象パターンの特徴ベクトルに、予め定められた次元削減行列を作用させて、前記特徴ベクトルを低次元空間に写像し、前記特徴ベクトルの次元削減後の値に基づき、前記パターンを、予め定められた複数のクラスのいずれかに分類するパターン認識装置
に用いる前記次元削減行列を算出するための演算装置であって、
前記複数のクラスについて、各クラス毎に、クラスに属するパターンの特徴ベクトルを、複数個、サンプルとして取得するサンプル取得手段と、
前記サンプル取得手段が取得した各クラスのサンプル群に基づき、クラス間共分散行列Ｂを算出するクラス間分散算出手段と、
前記サンプル取得手段が取得した各クラスのサンプル群に基づき、前記各クラスの共分散行列Ｗi（但し、Ｗiは、第ｉクラスの共分散行列を表し、ｉは、クラスの総数をＬとして、値１から値Ｌまでの整数値を採るものとする。）を算出するクラス分散算出手段と、
クラス内分散を定義付ける値ｍとして、実数値の入力を受け付ける入力受付手段と、
前記入力受付手段を通じて入力された値ｍと、前記クラス間分散算出手段により算出されたクラス間共分散行列Ｂと、前記クラス分散算出手段により算出された各クラスの共分散行列Ｗiとに基づき、第ｉクラスの事前確率をＰiとした評価関数Ｊ1（Ａ，ｍ）又は評価関数Ｊ2（Ａ，ｍ）
【数１】
が最大になる次元削減行列Ａを、算出する行列算出手段と、
前記行列算出手段により算出された次元削減行列Ａを、出力する出力手段と、
を備えることを特徴とする演算装置。
【請求項２】
前記行列算出手段により算出された次元削減行列Ａを、前記サンプル取得手段が取得した各サンプルに作用させて、前記各サンプルの次元削減後の値を算出する低次元化手段
を備え、
前記出力手段は、前記行列算出手段により算出された次元削減行列Ａ及び前記低次元化手段の算出結果を表す情報を、出力する構成にされていることを特徴とする請求項１記載の演算装置。
【請求項３】
前記行列算出手段により算出された次元削減行列Ａを、前記サンプル取得手段が取得した各サンプルに作用させて、前記各サンプルの次元削減後の値を算出する低次元化手段と、
前記低次元化手段により算出された前記各サンプルの次元削減後の値に基づき、前記行列算出手段が算出した次元削減行列Ａの良否を評価する評価手段と、
を備えることを特徴とする請求項１記載の演算装置。
【請求項４】
前記評価手段は、前記低次元化手段により算出された各サンプルの次元削減後の値から求められる各クラスの共分散行列Ｗi’（但し、Ｗi’は、次元削減後の第ｉクラスの共分散行列を表す。）及び平均ベクトルμi’（但し、μi’は、次元削減後の第ｉクラスに属するサンプルの平均ベクトルを表す。）に基づき、重み付け係数をｓ、第ｉクラスの事前確率をＰiとした次式
【数２】
に従って、前記行列算出手段が算出した次元削減行列Ａによる次元削減後の第ｉクラス及び第ｋクラスのサンプル群の重なり具合を表すチェルノフ上限ＣＢikを、クラスの組合せ毎に算出し、
算出したチェルノフ上限ＣＢikに基づき、前記行列算出手段が算出した次元削減行列Ａの良否を評価する構成にされていること
を特徴とする請求項３記載の演算装置。
【請求項５】
前記評価手段は、前記各クラスの組合せ毎のチェルノフ上限ＣＢikの総和ＣＢ
【数３】
を前記行列算出手段が算出した次元削減行列Ａの良否を表す評価値ＣＢとして算出する構成にされていること
を特徴とする請求項４記載の演算装置。
【請求項６】
前記入力受付手段は、前記クラス内分散を定義付ける値ｍとして、複数の値を取得可能な構成にされ、
前記行列算出手段は、前記入力受付手段が取得した値ｍ毎に、前記評価関数Ｊ1（Ａ，ｍ）又は前記評価関数Ｊ2（Ａ，ｍ）が最大になる次元削減行列Ａを、算出する構成にされ、
前記評価手段は、前記入力受付手段が取得した値ｍ毎に、前記行列算出手段が算出した次元削減行列Ａの良否を評価する構成にされ、
更に、
前記出力手段は、前記評価手段の評価結果に従って、前記行列算出手段が算出した複数の次元削減行列Ａの内、評価が最良の次元削減行列Ａを選択的に、出力する構成にされていること
を特徴とする請求項３〜請求項５のいずれかに記載の演算装置。
【請求項７】
請求項１〜請求項６のいずれかに記載の演算装置としての機能を、コンピュータに実現させるためのプログラム。
【請求項１】
外部から入力された認識対象パターンの特徴ベクトルに、予め定められた次元削減行列を作用させて、前記特徴ベクトルを低次元空間に写像し、前記特徴ベクトルの次元削減後の値に基づき、前記パターンを、予め定められた複数のクラスのいずれかに分類するパターン認識装置
に用いる前記次元削減行列を算出するための演算装置であって、
前記複数のクラスについて、各クラス毎に、クラスに属するパターンの特徴ベクトルを、複数個、サンプルとして取得するサンプル取得手段と、
前記サンプル取得手段が取得した各クラスのサンプル群に基づき、クラス間共分散行列Ｂを算出するクラス間分散算出手段と、
前記サンプル取得手段が取得した各クラスのサンプル群に基づき、前記各クラスの共分散行列Ｗi（但し、Ｗiは、第ｉクラスの共分散行列を表し、ｉは、クラスの総数をＬとして、値１から値Ｌまでの整数値を採るものとする。）を算出するクラス分散算出手段と、
クラス内分散を定義付ける値ｍとして、実数値の入力を受け付ける入力受付手段と、
前記入力受付手段を通じて入力された値ｍと、前記クラス間分散算出手段により算出されたクラス間共分散行列Ｂと、前記クラス分散算出手段により算出された各クラスの共分散行列Ｗiとに基づき、第ｉクラスの事前確率をＰiとした評価関数Ｊ1（Ａ，ｍ）又は評価関数Ｊ2（Ａ，ｍ）
【数１】
が最大になる次元削減行列Ａを、算出する行列算出手段と、
前記行列算出手段により算出された次元削減行列Ａを、出力する出力手段と、
を備えることを特徴とする演算装置。
【請求項２】
前記行列算出手段により算出された次元削減行列Ａを、前記サンプル取得手段が取得した各サンプルに作用させて、前記各サンプルの次元削減後の値を算出する低次元化手段
を備え、
前記出力手段は、前記行列算出手段により算出された次元削減行列Ａ及び前記低次元化手段の算出結果を表す情報を、出力する構成にされていることを特徴とする請求項１記載の演算装置。
【請求項３】
前記行列算出手段により算出された次元削減行列Ａを、前記サンプル取得手段が取得した各サンプルに作用させて、前記各サンプルの次元削減後の値を算出する低次元化手段と、
前記低次元化手段により算出された前記各サンプルの次元削減後の値に基づき、前記行列算出手段が算出した次元削減行列Ａの良否を評価する評価手段と、
を備えることを特徴とする請求項１記載の演算装置。
【請求項４】
前記評価手段は、前記低次元化手段により算出された各サンプルの次元削減後の値から求められる各クラスの共分散行列Ｗi’（但し、Ｗi’は、次元削減後の第ｉクラスの共分散行列を表す。）及び平均ベクトルμi’（但し、μi’は、次元削減後の第ｉクラスに属するサンプルの平均ベクトルを表す。）に基づき、重み付け係数をｓ、第ｉクラスの事前確率をＰiとした次式
【数２】
に従って、前記行列算出手段が算出した次元削減行列Ａによる次元削減後の第ｉクラス及び第ｋクラスのサンプル群の重なり具合を表すチェルノフ上限ＣＢikを、クラスの組合せ毎に算出し、
算出したチェルノフ上限ＣＢikに基づき、前記行列算出手段が算出した次元削減行列Ａの良否を評価する構成にされていること
を特徴とする請求項３記載の演算装置。
【請求項５】
前記評価手段は、前記各クラスの組合せ毎のチェルノフ上限ＣＢikの総和ＣＢ
【数３】
を前記行列算出手段が算出した次元削減行列Ａの良否を表す評価値ＣＢとして算出する構成にされていること
を特徴とする請求項４記載の演算装置。
【請求項６】
前記入力受付手段は、前記クラス内分散を定義付ける値ｍとして、複数の値を取得可能な構成にされ、
前記行列算出手段は、前記入力受付手段が取得した値ｍ毎に、前記評価関数Ｊ1（Ａ，ｍ）又は前記評価関数Ｊ2（Ａ，ｍ）が最大になる次元削減行列Ａを、算出する構成にされ、
前記評価手段は、前記入力受付手段が取得した値ｍ毎に、前記行列算出手段が算出した次元削減行列Ａの良否を評価する構成にされ、
更に、
前記出力手段は、前記評価手段の評価結果に従って、前記行列算出手段が算出した複数の次元削減行列Ａの内、評価が最良の次元削減行列Ａを選択的に、出力する構成にされていること
を特徴とする請求項３〜請求項５のいずれかに記載の演算装置。
【請求項７】
請求項１〜請求項６のいずれかに記載の演算装置としての機能を、コンピュータに実現させるためのプログラム。
【図１】
【図２】
【図３】
【図４】
【図５】
【図６】
【図７】
【図２】
【図３】
【図４】
【図５】
【図６】
【図７】
【公開番号】特開２００８−２６９５７３（Ｐ２００８−２６９５７３Ａ）
【公開日】平成２０年１１月６日（２００８．１１．６）
【国際特許分類】
【出願番号】特願２００８−２９０７３（Ｐ２００８−２９０７３）
【出願日】平成２０年２月８日（２００８．２．８）
【出願人】（０００００４２６０）株式会社デンソー (27,639)
【Ｆターム（参考）】
【公開日】平成２０年１１月６日（２００８．１１．６）
【国際特許分類】
【出願日】平成２０年２月８日（２００８．２．８）
【出願人】（０００００４２６０）株式会社デンソー (27,639)
【Ｆターム（参考）】
[ Back to top ]