説明

グループ判別装置及びグループ判別方法

【課題】ある一部の特徴量だけでなく、スペクトル全体の形状をSVM(サポートベクトルマシーン)に学習させることにより、新規なグループ判別装置を提供する。
【解決手段】本発明のグループ判別装置1は、時空間系列データから離散パワースペクトルを推定するスペクトル推定手段2と、スペクトルを正規化して正規化ヒストグラムを形成する正規化手段3と、正規化ヒストグラムの特徴ベクトルをグループに対応付けて記憶可能なヒストグラム記憶手段4と、カーネル関数を用いて特徴空間において特徴ベクトルを分類する判別超平面を形成するSVM6を用いて学習用時空間系列データを複数のグループに分類する判別超平面生成手段5と、判別超平面を用いて所属グループが未定の計測対象時空間系列データについて、いずれのグループに属するかを判別する判別手段7とを備える。

【発明の詳細な説明】
【技術分野】
【0001】
本発明はグループ判別装置及びグループ判別方法に関する。詳しくはサポートベクトルマシーンを用いる統計的解析により時空間系列データの所属グループを判別するグループ判別装置及びグループ判別方法に関する。
【背景技術】
【0002】
与えられたデータを判別するための方法論は数多く存在するが、SVM(Support Vector Machine、サポートベクトルマシーン)に代表されるカーネル(kernel)法を用いた判別学習機械の発展は多様な分野に影響を与えている。カーネル法と機械学習が導入される以前の判別機械は、与えられた高次元データをその特徴をよく反映した低次元空間に射影し、その後、判別のために有益な少数のパラメータを抽出するものであった。例えば、対象物体の名前及び特徴データを取得し、これらの関連付け情報を記憶して、物体の名前を学習し、物体が新規な物体であるか否かを判断するロボットが提案されている。これは、人の声の音響的特徴と顔の一部分の形態的特徴を用いるものである。(特許文献1参照)
【0003】
また、時空間系列データのグループ判別の応用として、故障診断法があるが、これについては時系列解析、周波数スペクトル解析、空間領域解析、またはこれらの組み合わせによる解析が主であり、そのなかでも周波数スペクトル解析は、回転・振動機構の故障診断に多く使用されている。周波数スペクトル解析法では、半値幅法などの注目するモードの周波数ピークから少数の特徴量を抽出し、それらの特徴量からそのモードの性質を調べている。
【0004】
高圧ガス圧力調整器の故障診断について考えると、消費者数の多さ、高圧ガスの危険性等から、ガス供給機器の定常的保安は必須である。高圧ガス圧力調整器はガス供給機器の一つであり、その内部に設置されたゴム膜の上下運動のよるフィードバック系により、高圧ガスタンク内の圧力を家庭内ガス機器において安全に使用できる圧力まで減圧調整する。しかし、ごく稀に使用期限内の調整器であるにも関わらずその内部で異常な振動を起こすことが報告されている。ただし、強い防爆性のため調整器内部のゴム膜を直接観測することはできない。調整器の故障検知にはレーザードップラー振動計を用いた方法があるが、この計器は高価で重く使用法が煩雑である。そこで発明者達は安価・小型・軽量で、かつ簡易に使用できるゴム振動膜の計測システムを開発した。(特許文献2参照)
【0005】
【特許文献1】特開2003−255989号公報(段落0014〜0285、図1〜図25)
【特許文献2】特開2006−39626号公報(段落0018〜0049、図1〜図7)
【発明の開示】
【発明が解決しようとする課題】
【0006】
しかし、振動スペクトルから少数の特徴量を抽出する従来のスペクトル解析法では判別が難しい場合がある。例えば、上記システムを用いて計測したゴム膜振動データは、ガスの乱流による強いノイズや振動計測方式の非線形性の影響のため従来のスペクトル解析法では診断を行なうことは難しい。加えて、ガス流量の変化による振動レベルの変化は、ゴム膜の劣化により引き起こされる振動の変化よりも計測データに対して影響を与える。さらに、正常な調整器と劣化した調整器の周波数スペクトルの違いは微妙である。結果として、従来の半値幅法や線形判別などの手法ではゴム膜の劣化を早期に発見し、圧力調整器の安全予防の監視に役立つような診断性能を得ることは難しい。
【0007】
一方、カーネル法による判別方法は与えられた高次元データをさらに次元の高い空間に射影し、その空間の中で線形判別器を構成するものである。カーネル法は、画像、文書、音声分類、データマイニング、バイオインフォマティクスなどの多様な分野で成功を収めている。そこで、振動スペクトルから少数の特徴量を抽出するのではなく、スペクトル全体の形状をSVMに学習させることにより、従来見過ごされてきた周波数スペクトルの微妙な差異を抽出でき、ゴム膜の劣化等の診断に役立つのではないかと考えられる。
【0008】
本発明は、パワースペクトルから少数の特徴量を抽出するのではなく、スペクトル全体の形状をSVMに学習させ、スペクトル全体から差異を見出すことにより、新たなグループ判別装置及びグループ判別方法を提供することを目的とする。また、その応用として、ゴム膜の劣化を早期に発見でき、圧力調整器の安全予防の監視に役立つような、新規なグループ判別装置及びグループ判別方法を提供することを目的とする。
【課題を解決するための手段】
【0009】
上記問題を解決するため、振動スペクトルから少数の特徴量を抽出するのではなく、スペクトル全体の形状をSVMに学習させる。また、カーネル関数としてKullback−Leibler(KL)情報量に基づき設計されたKLカーネルに注目する。KL情報量は2つの確率分布間の距離を表すために頻繁に用いられる指標であるが、本発明ではこれをスペクトル間の類似度を測るカーネルとして用い、グループ判別装置及びグループ判別方法に適用するものである。グループ判別においてはカーネルトリックと呼ばれる計算技法を用いて計算時間の短縮を達成している。
【0010】
請求項1に記載のグループ判別装置は、例えば図1に示すように、時空間系列データを入力データとして、時空間系列データから離散パワースペクトルを推定するスペクトル推定手段2と、離散パワースペクトルを正規化して正規化ヒストグラムを形成する正規化手段3と、正規化ヒストグラムにおける特徴ベクトルをグループに対応付けて記憶可能なヒストグラム記憶手段4と、特徴ベクトルを高次元の特徴空間に線形写像又は非線形写像するカーネル関数を用いて特徴空間において特徴ベクトルを分類する判別超平面を形成するサポートベクトルマシーン6を有し、サポートベクトルマシーン6を用いてヒストグラム記憶手段4に記憶された学習用時空間系列データの特徴ベクトルと当該特徴ベクトルに係る既知の所属グループで前記判別超平面を形成する判別超平面生成手段5と、判別超平面生成手段5により形成された判別超平面を用いて、所属グループが未定の計測対象時空間系列データについて、いずれのグループに属するかを判別する判別手段7とを備える。
【0011】
ここにおいて、時空間系列データは時系列データ及び空間系列データを含む。時系列データは音、光、電気信号などの周波数成分を有するものが含まれ、空間系列データは画像、模様などの空間周波数成分を有するものが含まれる。また、入力データには、学習用データと未定データの両者が含まれる。また、離散パワースペクトルには対数変換やアフィン変換等の変数変換したものを含むものとする。また、スペクトル推定手段として、AR法(自己回帰法)、ピリオドグラム法等の統計的スペクトル推定法を使用可能である。また、離散パワースペクトルの周波数値の離散の程度は通常ピリオドグラム法で使用される程度で良く、さらに細かくても良い。また、ヒストグラム記憶手段はグループに対応付けて記憶可能なので、対応付けずに記憶する場合もある。このように構成すると、抽出されたスペクトルのある一部の特徴量に限られず、スペクトル全体の形状をSVMに学習させ、スペクトル全体から差異を見出すことにより、新たなグループの判別が可能となる。また、これを対象製品の劣化の判別に適用すれば、差異を早期に発見でき、安全予防の監視に役立つ、新規なグループ判別装置を提供できる。
【0012】
また、請求項2に記載の発明は、請求項1に記載のグループ判別装置において、カーネル関数がKLカーネル関数、χ2乗カーネル関数、ガウシアンカーネル関数、ポジティブデファインカーネル関数、多項式カーネル関数のいずれかである。このように構成すると、特にKLカーネル関数では、スペクトルピークの減衰率、半値幅、対称性、スペクトルピーク間のスペクトルの形状などのスペクトル間の微小な差異を検出する能力が他のカーネルに比べ、KLカーネルが長けているためであると考えられるため判別の確率が高い。ここに列挙した他のカーネル関数についても、従来法に比して判別の確率が高い。
【0013】
また、請求項3に記載の発明は、請求項1又は請求項2に記載のグループ判別装置において、スペクトル推定手段2は、AR法(自己回帰法)、移動平均ピリオドグラム法のいずれかを用いて時空間系列データから離散パワースペクトルを推定する。このように構成すると、判別の確率が高い。
【0014】
また、請求項4に記載の発明は、請求項1乃至請求項3のいずれか1項に記載のグループ判別装置において、サポートベクトルマシーン6は、判別超平面を複数回形成することにより、時空間系列データを3以上のグループに分類する。このように構成すると、例えば製品を正常、中間、異常の複数のグループへの分類が可能となり、中間のものを要注意製品として監視可能である。また、異常の原因が複数種ある場合に、原因別に分類可能である。
【0015】
また、請求項5に記載のグループ判別方法は、例えば図4に示すように、学習用時空間系列データと当該特徴ベクトルに係る既知の所属グループを入力データとして、学習用時空間系列データから第1の離散パワースペクトルを推定する第1のスペクトル推定工程(S003)と、第1の離散パワースペクトルを正規化して第1の正規化ヒストグラムを形成する第1の正規化工程(S004)と、第1の正規化ヒストグラムにおける第1の特徴ベクトルをグループに対応付けて記憶する第1のヒストグラム記憶工程(S005)と、特徴ベクトルを高次元の特徴空間に線形写像又は非線形写像するカーネル関数を用いて前記特徴空間において特徴ベクトルを分類する判別超平面を形成するサポートベクトルマシーンを用いて、第1のヒストグラム記憶工程において記憶された特徴ベクトルと当該特徴ベクトルに係る既知の所属グループで判別超平面を形成する判別超平面生成工程(S006)と、所属グループが未定の計測対象時空間系列データを入力データとして、計測対象時空間系列データから第2の離散パワースペクトルを推定する第2のスペクトル推定工程(S013)と、第2の離散パワースペクトルを正規化して第2の正規化ヒストグラムを形成する第2の正規化工程(S014)と、第2の正規化ヒストグラムにおける第2の特徴ベクトルを記憶する第2のヒストグラム記憶工程(S015)と、第2のヒストグラム記憶工程において記憶された第2の特徴ベクトルと判別超平面生成工程において形成された判別超平面を用いて、計測対象時空間系列データについて、いずれのグループに属するかを判別する判別工程(S016)とを備える。
【0016】
ここにおいて、判別超平面生成工程(S006)及び判別工程(S016)においてはカーネルトリックと呼ばれる計算技法を用いて計算を効率よく行う。このように構成すると、抽出されたスペクトルのある一部の特徴量に限られず、スペクトル全体の形状をSVMに学習させ、スペクトル全体から差異を見出すことにより、新たなグループの判別が可能となる。これを対象製品の劣化の判別に適用すれば、差異を早期に発見でき、安全予防の監視に役立つ、新規なグループ判別方法を提供できる。
【発明の効果】
【0017】
本発明によれば、パワースペクトルから少数の特徴量を抽出するのではなく、スペクトル全体の形状をSVMに学習させ、スペクトル全体から差異を見出すことにより、新たなグループ判別装置及びグループ判別方法を提供できる。また、これをゴム膜の劣化の判別に適用すれば、劣化を早期に発見でき、圧力調整器の安全予防の監視に役立つような、新規なグループ判別装置及びグループ判別方法を提供できる。
【発明を実施するための最良の形態】
【0018】
以下に図面に基づき本発明の実施の形態について説明する。
【0019】
[第1の実施の形態]
図1に第1の実施の形態におけるグループ判別装置の構成例を示す。図1において、グループ判別装置1は、パーソナルコンピュータで構成可能であり、解析及び演算を行なう解析演算部21、メモリーを有し記憶を行なう記憶部22、外部の計測システム8、センサーなどからデータを入力する或いは利用者がキーボード等からデータを入力するデータ入力部23、ディスプレイ等を有し表示を行なう表示部24、プリンター等を有し印刷等の出力を行なう出力部25、グループ判別装置1全体の制御を行ないグループ判別装置としての機能を発揮させる制御部26とを有する。また、解析演算部21はスペクトル推定手段2、正規化手段3、判別超平面生成手段5、判別手段7を有し、記憶部22はヒストグラム記憶手段4を有する。また、本実施の形態では、データ入力部23は、高圧ガス圧力調整器のダイヤフラム(ゴム膜)の振動を計測システム8としてのゴム膜振動計測システムで計測したデータを入力する。
【0020】
スペクトル推定手段2は、入力データとしての時空間系列データから離散パワースペクトルを推定する。ここでは、センサーとしてのマイクロフォン40により検出された時系列データからパワースペクトルを推定する。正規化手段3は離散パワースペクトルから正規化されたヒストグラムを生成する。ヒストグラム記憶手段4は正規化ヒストグラムにおける特徴ベクトルをグループに対応付けて記憶可能である。判別超平面生成手段5はサポートベクトルマシーン6を有する。このサポートベクトルマシーン6は、特徴ベクトルを高次元の特徴空間に線形写像又は非線形写像するカーネル関数を用いて、特徴空間において特徴ベクトルを分類するための判別超平面を形成するもので、ここでは、ヒストグラム記憶手段4に記憶された学習用時空間系列データの特徴ベクトルと当該特徴ベクトルに係る既知の所属グループで判別超平面を形成して複数のグループに分類する。判別手段7は、判別超平面生成手段5により形成された判別超平面を用いて、所属グループが未定の時空間系列データについて、いずれのグループに属するかを判別する。本実施の形態では簡単のためグループ数は2とする。
【0021】
図2に本実施の形態における計測対象製品としての高圧ガス圧力調整器30の構成例を断面図で示す。高圧ガス圧力調整器には様々な型があるが、その原理と基本機構は同じである。ここでは単段式圧力調整器の例を説明する。例えば、高圧ガス容器内の圧力は許容最大値で1.56MPa、許容最小値で0.07MPaで高圧であり、圧力調整器30はこれらの高圧ガスを給湯器やコンロなどの家庭用ガス燃焼器で使用できる2.8±0.5kPaまで減圧調整する。その機構はダイヤフラム(ゴム膜)31で隔てられた大気圧側の空気室32と減圧室33間の差圧とバネ34により、復元力をバランスさせることによりゴム弁35の開度を調整するものである。減圧室33内の圧力が目標値より高くなると、ダイヤフラム31が押し上げられ、その変位がリンク36を介してゴム弁35とノズル37の間隔を狭めガス流量を絞る。他方、減圧室33内の圧力が目標値より低くなると、ダイヤフラム31が下がり、ゴム弁35とノズル37の間隔が広がり、ガス流量が増加する。圧力調整器はこのようなフィードバック系として構成されている。なお、38は空気室32と大気の連通を維持する通気口であり、39Aは高圧ガスの圧力調整器への入口、39Bは減圧されたガスの出口である。
【0022】
高圧ガス圧力調整器の故障原因と故障モードは多様である。例えば寒冷地においては、圧力調整器30の空気室32に結露した水が凍結し、ダイヤフラム31の動きを阻害しフィードバック系の機能不全を起こすことがある。また、例えば高圧ガスが減圧室33内で再液化し、フィードバック系を乱したり、高圧ガスの侵食によりダイヤフラム31の劣化を早めたりする。ただし、これらの故障は人間の聴覚で検知できる。本実施の形態では、従来の検査方法で検知できなかったダイヤフラム31の劣化に伴う異常振動を早期に発見する診断方法を説明する。
【0023】
圧力調整器30内のゴム材は温度変化や振動などの環境・動作ストレスにより劣化する。ゴムの劣化プロセスは二つあり、一つはゴムを構成する物質の温度変化をストレスとする昇華に伴う硬化、もう一つは振動などの力学的ストレスによるゴム高分子の破断による軟化であり、両者共ゴムの防振特性を表す損失係数の減少を導く。ダイヤフラム31は高圧ガスのシーリングだけでなく、圧力調整フィードバック系のダンパの役割も果たし、ゴムの劣化はこのダンピングを小さくする。このダンピングの減少はフィードバック系における不安定現象を引き起こし振動を誘発する。この兆候は劣化の早期状態では軽微であり、人の聴覚では検知できない。
【0024】
図3に本実施の形態における計測システムとしてのゴム膜振動計測システム8の構成例を示す。ここに、ゴム膜振動計測システム8はマイクロフォン40、半密閉容器41、バンドパスフィルタ42、ノッチフィルタ43、増幅器44で構成される。現場で容易に使えるように、また、圧力調整器30を分解できないことから、空気室32に設けられている通気口38からの空気流の変化に伴う圧力変動を検出する方式を採用した。空気室32全体を被う半密閉容器41を圧力調整器30の上部に置き、空気流により変化する容器内の圧力を容器内に設置された安価で小型な低周波広帯域マイクロフォン40で検出する。容器を密閉しない理由は空気室32と大気の連通を維持するためである。振動空気成分は圧力調整器30の非線形性のために波形が歪む。この信号を例えば5Hz〜500Hzのバンドパスフィルタ42を通し、ノッチフィルタ43を通して商用電源ノイズ(例えば50Hz)を除去した後、増幅器44で増幅して、グループ判別装置1に入力する。なお、45はガスの流路となるゴムホースである。これにより、安価、軽量かつ簡易に使用可能な可搬型の計測手段が構成される。
【0025】
次に本実施の形態におけるグループ判別装置を用いたグループ判別方法について説明する。なお、本実施の形態では、グループは正常グループと異常グループの2グループとし、入力データは時系列データとした。
【0026】
図4に本実施の形態におけるグループ判別方法の処理フロー例を示す。処理フローは左側の学習工程と右側の判別工程とに大別される。学習工程とは所属グループが既知である学習用時空間系列データを用いてグループ判別装置にデータとグループの対応関係を学習させ、学習した対応関係が成立するようにグループ分けする判別超平面を生成する工程である。判別工程はグループ判別装置が生成した判別超平面を用いて、グループが未定の計測対象時空間系列データの所属グループを判別する工程である。
【0027】
まず、学習工程か判別工程かを選択する(選択工程:S001)。学習工程であれば、所属グループが既知の学習用時空間系列データをグループに対応付けて入力する(学習用データ取得工程:S002。本実施の形態では、4台の未使用の調整器(以下、正常品といい、正常グループに所属する)、3台の使用期限を3年以上過ぎた調整器、1台のJIS規格に定められたゴム加熱加速加齢試験法により30日間の加熱試験をしたゴム膜をダイヤフラム31に使用した調整器(合わせて劣化品といい異常グループに所属する)、合計8台の圧力調整器30を用いてゴム膜振動計測システム8にて計測を行ない、そのデータをグループ判別装置1のデータ入力部23に入力した。この際、各圧力調整器において、200L/h,400L/h,600L/h,800L/h,1000L/hの流量で各4回の計測データをサンプリングタイム1msで取得した。すなわち、正常品の80データと劣化品の80データを含む計160データを得た。取得データはグループに対応付けて記憶部22に記憶した。
【0028】
次に、スペクトル推定手段2において、学習用データ取得工程において取得された学習用時空間系列データから第1の離散パワースペクトルを推定し(第1のスペクトル推定工程:S003)、正規化手段3において、第1の離散パワースペクトルを正規化して第1の正規化ヒストグラムを形成する(第1の正規化工程:S004)。離散パワースペクトルを推定し、正規化ヒストグラムを形成するために、6つの方法を比較検討した。1つ目の推定方法により得られた特徴ベクトルは、Yule−Walker法により推定された1次から30次までのAR係数を使用し(表1ではARcと表示)、それぞれの係数をx=[x(1),…,x(30)](Tは転置ベクトルを示す)として構成した。AR係数はスペクトルではないが、時系列の分類に頻繁に用いられることから、比較のために使用した。2つ目の推定方法により得られた特徴ベクトルは、離散フーリエ変換により推定し正規化されたピリオドグラムを使用し(表1ではPGと表示)、1Hzから500Hzまで1Hz毎にx=[x(1),…,x(500)]として構成した。3つ目の推定方法により得られた特徴ベクトルは、AR法により推定し、正規化されたスペクトルを使用して構成した(表1ではARと表示)。ここでのAR次数はAIC(赤池情報量規準)の意味で最適なものを選択した(算出法については、赤池弘次、中川東一著、「ダイナミックシステムの統計的解析と制御」、株式会社サイエンス社発行、参照)。特徴ベクトルの構成はピリオドグラムの場合と同様である。4〜6番目の推定方法により得られた特徴ベクトルはそれぞれ、5点、30点、60点移動平均により平滑化した後に正規化されたピリオドグラムを使用して構成した(表1ではMA1〜3と表示)。
【0029】
正規化は全データを統一した基準で扱えるようにするためである。例えば、ガス流量の違いはスペクトルのパワーレベルに大きな影響を与えるので、その流量による振幅変化の影響を無くすために、全パワーで正規化したスペクトルを用いる。
【0030】
図5に正常品と劣化品から計測された振動をもとに算出した正規化したパワースペクトルをそれぞれ示す。図5(a)に正常品の周波数スペクトルを、図5(b)に劣化品の周波数スペクトルを示す。有効周波数範囲は5〜500Hzである。図には正常品と劣化品それぞれ80データのスペクトルを重ねて表示してある。また、これらのスペクトルはAICで最適な次数のAR法により推定した。これらのスペクトルは複数のピークを持つため、どのピークが診断に大きな影響を与えるのかを調べるのは難しい。また、正常品と劣化品のスペクトルの差異は一見して解りにくい。このため、従来の注目するモードの周波数ピークから少数の特徴量を抽出して調査する半値幅法などの適用は容易ではない。
【0031】
図6に正規化ヒストグラムから得られる特徴ベクトルの例を模式的に示す。横軸は周波数、縦軸は正規化されたパワースペクトルを示す。ここで、x(k)はある離散正規化スペクトルiのk番目の周波数成分であり、それらの要素により構成される特徴ベクトルはx=|x(1),…x(k)…x(M)|となる。x(k)はある離散正規化スペクトルjのk番目の周波数成分であり、それらの要素により構成される特徴ベクトルはx=|x(1),…x(k)…x(M)|となる。また、図5中のΔtはサンプリングタイム、Mは特徴ベクトルの要素数である。特徴ベクトルxと特徴ベクトルxのスペクトルが似ている場合は類似性が高く、似ていないときは類似性が低い。すなわち、正常製品同士、劣化製品同士は類似のスペクトルとなり、正常製品と劣化製品とはスペクトルのいずれかの部分で差異が生じるものと期待される。
【0032】
次に、ヒストグラム記憶手段4において、第1の正規化ヒストグラムにおける第1の特徴ベクトルをグループに対応付けて記憶する(第1のヒストグラム記憶工程:S005)。本実施の形態では、それぞれの製品について第1の正規化ヒストグラムから得られる特徴ベクトルを、正常品の80データと劣化品の80データを含む計160データについて、正常グループと異常グループに分けて記憶した。
【0033】
次に、判別超平面生成手段5は、サポートベクトルマシーン6を用いて、第1のヒストグラム記憶工程において記憶された特徴ベクトルと当該特徴ベクトルに係る既知の所属グループで判別超平面を形成する(判別超平面生成工程:S006)。ここで、サポートベクトルマシーン6は、特徴ベクトルを高次元の特徴空間に線形写像又は非線形写像するカーネル関数を用いて前記特徴空間において特徴ベクトルを分類する判別超平面を形成する学習機械である。実際の判別超平面形成に必要な計算にはカーネルトリックと呼ばれる計算技法を用いて計算を効率よく行う。
【0034】
ここでサポートベクトルマシーン(SVM)とカーネル関数について簡単に説明する。SVMは2値クラス判別のための線形判別学習機(コンピュータ内に主としてソフトウエアで実現される)である。一般に与えられたデータセットが線形分離可能であればその判別超平面は無限個存在するが、SVMはマージン(判別超平面に一番近い学習用データと超平面との距離)が最大になる超平面を一意に決定できる。(「パターン認識と学習の統計学、2 カーネル法の理論と実際」、津田宏治、株式会社岩波書店発行、2003年4月11日初版発行 参照)
【0035】
今、N個の入出力データのペア
【数1】

を考える。このとき判別超平面は重み係数をw,定数をβとすると、
【数2】

で表わすことができる。上式はその双対空間での最適化問題として(2)式として定式化できる。
【数3】


ただし、αはラグランジェ乗数、Cは正規化パラメータ、<・>は内積とする。Cは判別超平面の複雑さと学習用データにおけるSVMの誤差のトレードオフを制御するパラメータである。ここで、SVMの非線形判別器への拡張のために入力ベクトル空間Xから特徴空間Zへの非線形写像Φ:X→Zを導入し、入力xとxの類似度をその空間内で<Φ(x)・Φ(x)>として定義できる。この内積を入力空間の関数として
【数4】

表わすことができ、その関数K(x,x)をカーネル関数と呼ぶ。ここで、カーネル関数として陽に高次元超空間での内積の計算する必要がない関数を選ぶことで、類似度の計算量を大幅に削減できる。これがカーネルトリックと呼ばれる計算技法である。また(2)式を
【数5】

と変更することでSVMは非線形判別器となる。つまり、カーネル関数を導入することはその非線形関数Φにより射影された高次元空間内で最大マージンをとる線形判別超平面を構築することと等しい。それゆえに、非線形SVMの判別能力はカーネル関数の選択に大きく依存する。
【0036】
次に、Kullback−Leiblerカーネル(KLカーネル)について簡単に説明する。KL情報量は2つの確率分布間の近さを測る指標として使用され、確率変数xと2つの確率分布p(x),q(x)の距離を
【数6】

として定義する。この量は、2つの分布が同一であるときに0の値をとり、値が大きくなるほど2つの分布は遠くなると考えられる。ここで、カーネル関数は対称関数である必要があるため、以下の対称化KL情報量SDを考える。
【数7】

aとbを定数とすると、KLカーネルは
【数8】

として定義される。
【0037】
KLカーネルは2つの確率分布間の類似度を測るカーネルとして提案されている。画像の判別において離散コサイン変換により分解された画像成分に対して混合ガウスモデル(GMM)を当てはめた確率モデルを求め、その確率分布や統計量をKLカーネルへの入力としている。しかしながら、ここでは確率モデルでなく周波数スペクトルを取り扱っているため、この操作を行なう必然性はない。そこで、KLカーネルを本問題に適した形式に修正するため、以下のように再定義する。
【数9】


ここで、x(k)は図6に示すように、ある離散正規化スペクトルiのk番目の周波数成分である。
【0038】
サポートベクトルマシーン6は、KLカーネルを使用することにより、入力データを高次元の特徴空間に非線形写像し、特徴空間において入力データを分類する判別超平面を形成できる。したがって、判別超平面生成手段5はサポートベクトルマシーン6を用いて、ヒストグラム記憶手段4に記憶された学習用時空間系列データから生成された特徴ベクトルと当該特徴ベクトルに係る既知の所属グループで判別超平面を形成して正常グループと異常グループに分類することができる。KLカーネルの他に、ガウシアン、ラプラシアン、サブリニア、χ2乗カーネルを使用しても同様に判別超平面を作成でき、製品を正常グループと異常グループに分類することが可能である。ただし、KLカーネルが他のカーネルに比して高い判別能力を有するのは、スペクトルピークの減衰率、半値幅、対称性などのスペクトル間の微小な差異を検出する能力が長けているためと考えられる。
【0039】
次に、学習用時空間系列データが全て処理されているか否かが判断される(S007)。もし、未処理データがあれば選択工程(S001)に戻って、残りのデータについて入力及び処理が繰り返される。もし、未処理データがなければ処理を終了する。
【0040】
選択工程(S001)で、判別工程であれば、所属グループが未定の計測対象時空間系列データを入力する(計測対象データ取得工程:S012)。本実施の工程では、新たな圧力調整器30についてゴム膜振動計測システム8にて計測を行ない、そのデータをグループ判別装置1のデータ入力部23に入力する。次に、スペクトル推定手段2において、計測対象時空間系列データから第2の離散パワースペクトルを推定する(第2のスペクトル推定工程:S013)。次に、正規化手段3において、第2の離散パワースペクトルを正規化して第2の正規化ヒストグラムを形成する(第2の正規化工程:S014)。次に、第2の正規化ヒストグラムにおける第2の特徴ベクトルをヒストグラム記憶手段4に記憶する(第2のヒストグラム記憶工程;S015)。これら工程S013〜S015はグループへの対応付けを行なわないことを除いてそれぞれ、工程S003〜S005と同様である。
【0041】
次に、判別手段7において、第2のヒストグラム記憶工程(S015)において記憶された第2の特徴ベクトルと分類工程(S006)において形成された判別超平面を用いて、計測対象時空間系列データについて、いずれのグループに属するかを判別する(判別工程:S016)。本実施の形態では、正常か異常か未定の製品について計測した振動の時系列データから生成された特徴ベクトルが、特徴空間において判別超平面のどちらに位置するかによって、当該製品が正常グループに属するか異常グループに属するかを判別することができる。
【0042】
次に、計測対象時空間系列データが全て処理されているか否かが判断される(S007)。もし、未処理データがあれば選択工程(S001)に戻って、残りのデータについて入力及び処理が繰り返される。もし、未処理データがなければ処理を終了する。
【0043】
次に、スペクトル推定手段とカーネル関数との組み合わせを変えて判別能力を評価する実験を行ったので、説明する。本実施の形態におけるグループ判別装置は、いずれか1つのスペクトル推定手段といずれか1つのカーネル関数を使用可能に構成されていれば良いのであるが、ここでは、全てのスペクトル推定手段(6種)と全てのカーネル関数(8種)を使用可能に構成されているものとする。
【0044】
まず、正常調整器から得た振動データ80セットと劣化調整器から得た振動データ80セットの計160データセットから特徴を抽出し、特徴ベクトルxを構成した。
本実験では6種類のスペクトル推定手段(AR係、ピリオドグラム、AR法により推定されたスペクトル、5点、30点、60点移動平均により平滑化されたピリオドグラム)と8種類のカーネル関数(1,2,3次の多項式、ガウシアン、ラプラシアン、サブリニア、χ2乗、KLカーネル)の組み合わせにより構成されたSVMについてそれぞれの判別能力を調べた。
正常と劣化調整器データセットからそれぞれランダムに取り出した40データセット(計80データセット)を学習用データセットとしてSVMに学習させ、残りの80データセットを判別させる試行をそれぞれ100回繰り返した。
【0045】
表1にその平均誤判別率を示す。また、70Hz付近、120Hz付近、180Hz付近のピークに注目した半値幅法による診断での、一番小さかった誤判別率も表1に示す。ここで、ガウシアン、ラプラシアン、サブリニア、χ2乗、KLカーネルの係数に関しては、b=0と固定し、a=「0.01,0.02,0.03,0.04,0.05,0.06,0.07,0.08,0.09,0.1,0.2,0.3,0.4,0.5,0.6,0.7,0.8,0.9,1,2,3,4,5,6,7,8,9,10,20,30,40,50,60,70,80,90,100」として実験を行い、最も平均誤判別率が小さかったものを示している。表中の記号ARc,PG,AR,MA1,MA2MA3はそれぞれ判別に使用したスペクトル推定手段、AR係数、ピリオドグラム、AR法により推定されたスペクトル、5点、30点、60点移動平均により平滑化されたピリオドグラムを、P1,P2,P3,GA,SL,LA,χ,KLはそれぞれ1次、2次、3次の多項式、ガウシアン、ラプラシアン、サブリニア、χ2乗、KLカーネルを、HPは半値幅法を意味する。また、「×」はそのスペクトル推定手段とカーネル関数では計算不可能な組み合わせである。実験の結果、AR法により推定されたスペクトルとKLカーネルの組合せが最も高い判別性能を示した。正解率92%以上の高い判別性能が安価なセンサーとSVMを用いることにより達成された。
【0046】

【表1】

【0047】
表2に、スペクトルにガウシアン混合モデル(GMM)を当てはめた確率分布を推定し、その確率分布をKLカーネルへの入力とする方法により判別実験を行った結果を示す。表中のGM3,GM4,GM5はそれぞれ3,4,5個の正規分布を使用したGMMを意味する。また、GMMの推定にはEMアルゴリズム(期待最大アルゴリズム)を用いた。この実験においても、AR法により推定されたスペクトルとKLカーネルを組み合わせたSVMが、GMMを当てはめた確率分布を入力とするSVMよりも高い判別能力を示している。
【表2】

【0048】
本スペクトル判別問題に対してKLカーネルが高い判別能力を示したのは、スペクトルピークの減衰率、半値幅、対称性などのスペクトル間の微小な差異を検出する能力が他のカーネルに比べ、KLカーネルが長けているためであると考えられる。また、特徴ベクトルに関してはAR法や30点移動平均平滑化の程よく平滑化されているスペクトルが高い判別率を示している。5点移動平均平滑化ではスペクトルの滑らかさが不足し、60点移動平均平滑化ではスペクトルが滑らか過ぎ、個々のスペクトルの特徴を消してしまっているためであると考えられる。また、同様にGMMによる確率密度は正規分布の重み付き和であるため、スペクトルの微小な変化に対応しきれない。AR法によるスペクトル推定はAICにより自動的に最適なスペクトルを決定できるので実用上便利である。
【0049】
[第2の実施の形態]
第1の実施の形態ではカーネル関数としてKLカーネルを用いる例を説明したが、第2の実施の形態ではガウシアンカーネルなど他のカーネルを使用する例を説明する。ガウシアンカーネルは、入力データ間の類似度が、各特徴ベクトル間の差の2乗にマイナスをかけ指数関数をとったものにより測られる。よって、各特徴ベクトルの類似度が高いときには特徴ベクトルの僅かな変化には比較的反応が鈍いが、各特徴ベクトルの類似度が低いときには特徴ベクトルの僅かな変化に比較的敏感に反応する。KLカーネルの場合にはパワースペクトルピークの減衰率、半値幅、対称性などのスペクトル間の微小な差異を検出する能力が他のカーネルに比べ、KLカーネルが長けていると考えられるのに対して、このように非類似パターン間の差異を検出するのに適していると考えられる。
【0050】
また、ラプラシアンカーネルは、入力データ間の類似度が、各特徴ベクトル間の差の絶対値にマイナスをかけ指数関数をとったものにより測られる。よって、ガウシアンカーネルと比べ、各特徴ベクトルの類似度が高いときには入力データ間の類似度の減衰は大きいが、各特徴ベクトルの類似度が低いときには入力データ間の類似度の減衰は小さい。よってガウシアンカーネルよりは類似パターン間の差異を検出し易いと考えられる。
また、サブリニアカーネルは、入力データ間の類似度が、各特徴ベクトル間の差の2分の1乗にマイナスをかけ指数関数をとったものにより測られる。よって、ラプラシアンカーネルと比べ、ラプラシアンカーネルの特徴をさらに顕著にしたものと考えられる。よってガウシアンカーネルよりさらに類似パターン間の差異を検出し易いと考えられる。
また、d次の多項式カーネルは判別超平面がd次の多項式の重ね合わせで構成される。
また、χ2乗カーネルは、入力データ間の類似度が、各特徴ベクトル間の差の2乗を各特徴ベクトルの足し合わせでスケーリングしたものにマイナスをかけ指数関数をとったものにより測られる。
これらKLカーネル以外のカーネルも本実施の形態におけるグループ判別方法ではスペクトル全体の差異を比較するものであり、ある一部の特徴量のみを注目する従来の検出方法に比して、それ以外の差異から異常を検出可能である。
【0051】
[第3の実施の形態]
第1の実施の形態では時系列データを取り扱う例を説明したが、第3の実施の形態では空間系列データを取り扱う場合について説明する。すなわち、第1の実施の形態における時間周波数スペクトルの代わりに空間周波数スペクトルが用いられる。例えばレーザー測位形などを用いてある製品の表面形状の凹凸を計測し、計測された空間データに対して正規化ヒストグラムを生成し、カーネル関数を用いてサポートベクトルマシーンで判別超平面を形成することにより、表面形状に傷などの欠陥が生じた製品を分類可能である。また、一次元データに限られず、二次元以上の空間データに対しても適用可能である。例えば塗料の塗布の均一性を反射光量の変化により判別する。二次元画像データに対し、また、例えばウェーブレット変換や二次元フーリエ変換などの手法で空間周波数スペクトルを推定可能である。なお、二次元画像についても、走査線上を辿ることにより、一次元空間で取り扱うことも可能である。その他の構成や工程は第1の実施の形態と同様である。
【0052】
[第4の実施の形態]
第1の実施の形態ではグループ数が2グループの場合について説明したが、本実施の形態では3以上のグループに分類する場合を説明する。サポートベクトルマシーンは本質的に2グループの判別を行なうが、3以上のグループの場合にも、複数のサポートベクトルマシーンを組み合せることにより対処することができる。主な方法は2通りある。第1の方法は、一対他(それ以外)のクラス分けを基礎とするものである。まず、任意の1つのグループを抽出して、当該グループとそれ以外のものをまとめたグループに分類する。次に、それ以外のものをまとめたグループから、別の任意の1つのグループを抽出して、当該グループとそれ以外のものをまとめたグループに分類し、以下同様の手順でグループ数−1回判別を行なう方法である。例えば、最初にデータを「Aグループとそれ以外のBCDグループ」に分け、A対BCDのデータに対して判別超平面を形成する。同様に、「B対ACD」、「C対ABD」、「D対ABC」と4つ(グループ数n)の判別超平面を形成し、判別対象のデータをそれぞれの超平面で判別する。そして、いずれか単独のグループに分類された場合、その判別対象データをそのグループに分類する。すなわち、「A対BCD」ではAのグループに分類された場合グループAに分類し、もしもBCDグループに分類された場合は、他の3つの判別超平面で判別しなおす。これを単独グループに分類されるまで続ける。(O.Chapell,P.Haffner and V.Vanik,”SVM for Histogram−Based Image Classification”,IEEE Transactions on Neural Networks,1999 参照)
【0053】
第2の方法は、一対一のクラス分けを基礎としているもので、多数決法と消去法がある。多数決法は、グループ数がnである場合、任意の2つのグループの組合せ数n(n−1)/2回の判別を行ない、多数決すなわち、その点が入るグループの回数を加算し最も回数が多いグループに所属すると判別する方法である。例えば、「A対B」、「A対C」、「A対D」、「B対C」、「B対D」、「C対D」と6つ(グループ数=n(n−1)/2)の判別超平面を用意する。ここで、多数決による方法は、この6つの超平面すべてで判別対象データを判別し、その結果の多数決をとる。この方法では6回=n(n−1)/2回の判別で判別が終わる。消去法は、任意の2つのグループの判別を行い、その判別において分類されなかったグループに分類される可能性を消去していき、その分類される可能性を消去されたグループ以外の任意の2つのグループにより判別を行う。この処理をn−1回繰り返し、最終的に消去されなかったグループに分類する方法である。例えば、「A対B」で判別を行ってBに分類されたとき、Aに分類される可能性は無いとしてAの可能性を捨て、次にAグループ以外の「B対C」、「B対D」、「C対D」のいずれかを行なう。ここでは、「B対C」を行うとし、Cに分類されたとする。ここでBの可能性が消え、最後に残った「C対D」の判別をする。ここで最終的に判別された結果にその判別対象データを分類する。この方法では3回=n−1回の判別で判別が終わる。(J.C.Platt,N.Cristianini and J.S−Taylor,”Large margin dags for multi−class classification”,Advances in Neural Information Processing Systems,pp.547−553,2000 参照)
【0054】
これらの方法により、例えば、圧力調整器を「正常」、「中間」、「異常」に分類することも可能であり、また、例えばダイヤフラムの硬化による劣化と軟化による劣化のように劣化の原因が2態様ある場合に、「正常」、「硬化による劣化」、「軟化による劣化」に分類することも可能である。
【0055】
また、本発明は、以上の実施の形態に記載のグループ判別方法をコンピュータに実行させるためのプログラムとしても実現可能である。プログラムはグループ判別装置1の制御部26の内蔵メモリに蓄積して使用してもよく、システム内外の記憶装置に蓄積して使用してもよく、インターネットから制御部26にダウンロードして使用しても良い。また、当該プログラムを記録した記録媒体としても実現可能である。
【0056】
以上、本発明の実施の形態について説明したが、本発明は上記の実施の形態に限定されるものではなく、実施の形態に種々変更を加えられることは明白である。
【0057】
例えば以上の実施の形態では、適応対象が高圧ガス調整器の例を説明したが、本発明は他の振動機構又は回転機構を有する製品、例えば水道のバルブや配管、モータ、音響機器などにも適用可能である。また、音、光、電気信号などの周波数成分を有するデータや画像、模様などの空間周波数成分を有するデータにも適用可能である。また、制限なしに一般的に他のスペクトラム分類問題に適用可能である。また、以上の実施の形態におけるグループ判別装置は、いずれか1つのスペクトル推定手段といずれか1つのカーネル関数を使用可能に構成されていれば良いのであるが、複数のスペクトル推定手段や複数のカーネル関数を使用可能に構成されていても良い。また、スペクトル推定手段としてFFT(高速フーリエ変換)、DCT(離散コサイン変換)又はDFT(離散フーリエ変換)も使用可能である。また、正常製品及び劣化製品のサンプル数、特徴ベクトルの数、移動平均数なども種々変更可能である。
【産業上の利用可能性】
【0058】
本発明は、時空間系列データのグループ判別に利用できる。応用として例えば製品の早期異常発見に利用できる。
【図面の簡単な説明】
【0059】
【図1】第1の実施の形態におけるグループ判別装置の構成例を示す図である。
【図2】高圧ガス圧力調整器の構成例を示す断面図である。
【図3】ゴム膜振動計測システムの構成例を示す図である。
【図4】第1の実施の形態におけるグループ判別方法の処理フロー例を示す図である。
【図5】正常品と劣化品から計測された振動の正規化周波数スペクトルを示す図である。
【図6】特徴ベクトルの例を模式的に示す図である。
【符号の説明】
【0060】
1 グループ判別装置
2 スペクトル推定手段
3 正規化手段
4 ヒストグラム記憶手段
5 判別超平面生成手段
6 サポートベクトルマシーン
7 判別手段
8 計測システム
21 解析演算部
22 記憶部
23 データ入力部
24 表示部
25 出力部
26 制御部
30 高圧ガス圧力調整器
31 ダイヤフラム
32 空気室
33 減圧室
34 バネ
35 ゴム弁
36 リンク
37 ノズル
38 通気口
39A 入口
39B 出口
40 マイクロフォン
41 半密閉容器
42 バンドパスフィルタ
43 ノッチフィルタ
44 増幅器
45 ゴムホース

【特許請求の範囲】
【請求項1】
時空間系列データを入力データとして、前記時空間系列データから離散パワースペクトルを推定するスペクトル推定手段と;
前記離散パワースペクトルを正規化して正規化ヒストグラムを形成する正規化手段と;
前記正規化ヒストグラムにおける特徴ベクトルをグループに対応付けて記憶可能なヒストグラム記憶手段と;
特徴ベクトルを高次元の特徴空間に線形写像又は非線形写像するカーネル関数を用いて前記特徴空間において特徴ベクトルを分類する判別超平面を形成するサポートベクトルマシーンを有し、前記サポートベクトルマシーンを用いて前記ヒストグラム記憶手段に記憶された学習用時空間系列データの特徴ベクトルと当該特徴ベクトルに係る既知の所属グループで前記判別超平面を形成する判別超平面生成手段と;
前記判別超平面生成手段により形成された判別超平面を用いて、所属グループが未定の計測対象時空間系列データについて、いずれのグループに属するかを判別する判別手段とを備える;
グループ判別装置。
【請求項2】
前記カーネル関数がKLカーネル関数、χ2乗カーネル関数、ガウシアンカーネル関数、ポジティブデファインカーネル関数、多項式カーネル関数のいずれかである;
請求項1に記載のグループ判別装置。
【請求項3】
前記スペクトル推定手段は、AR法(自己回帰法)、移動平均ピリオドグラム法のいずれかを用いて前記時空間系列データから前記離散パワースペクトルを推定する;
請求項1又は請求項2に記載のグループ判別装置。
【請求項4】
前記サポートベクトルマシーンは、判別超平面を複数回形成することにより、前記時空間系列データを3以上のグループに分類する;
請求項1乃至請求項3のいずれか1項に記載のグループ判別装置。
【請求項5】
学習用時空間系列データと当該特徴ベクトルに係る既知の所属グループを入力データとして、前記学習用時空間系列データから第1の離散パワースペクトルを推定する第1のスペクトル推定工程と;
前記第1の離散パワースペクトルを正規化して第1の正規化ヒストグラムを形成する第1の正規化工程と;
前記第1の正規化ヒストグラムにおける第1の特徴ベクトルを前記所属グループに対応付けて記憶する第1のヒストグラム記憶工程と;
特徴ベクトルを高次元の特徴空間に線形写像又は非線形写像するカーネル関数を用いて前記特徴空間において特徴ベクトルを分類する判別超平面を形成するサポートベクトルマシーンを用いて、前記第1のヒストグラム記憶工程において記憶された特徴ベクトルと当該特徴ベクトルに係る既知の所属グループで前記判別超平面を形成する判別超平面生成工程と;
所属グループが未定の計測対象時空間系列データを入力データとして、前記計測対象時空間系列データから第2の離散パワースペクトルを推定する第2のスペクトル推定工程と;
前記第2の離散パワースペクトルを正規化して第2の正規化ヒストグラムを形成する第2の正規化工程と;
前記第2の正規化ヒストグラムにおける第2の特徴ベクトルを記憶する第2のヒストグラム記憶工程と;
前記第2のヒストグラム記憶工程において記憶された第2の特徴ベクトルと前記判別超平面生成工程において形成された判別超平面を用いて、前記計測対象時空間系列データについて、いずれのグループに属するかを判別する判別工程とを備える;
グループ判別方法。



【図1】
image rotate

【図4】
image rotate

【図2】
image rotate

【図3】
image rotate

【図5】
image rotate

【図6】
image rotate


【公開番号】特開2008−65393(P2008−65393A)
【公開日】平成20年3月21日(2008.3.21)
【国際特許分類】
【出願番号】特願2006−239594(P2006−239594)
【出願日】平成18年9月4日(2006.9.4)
【出願人】(504202472)大学共同利用機関法人情報・システム研究機構 (119)
【Fターム(参考)】