説明

官能検査装置及び官能検査方法

【課題】少ない学習用のサンプルで最適な良否判定基準を定めることを可能とした官能検査装置及び方法を提供することを目的とする。
【解決手段】特徴量空間の原点からマハラノビス距離に分布する初期サンプルを用いて、良否判定基準となる良否判定の境界線を学習することにより、境界付近の初期サンプルのみを用いて学習することができるため、少ない学習用のサンプルで最適な良否判定基準を定めることができる。また、擬似サンプルを用いて学習する際に、誤判定をした擬似サンプルに重み付けを付加することにより、新たに擬似サンプルを追加することなく、機械的な判定工程において、誤判定をした擬似サンプルの判定を再度行うことができるため、少ない学習用のサンプルで最適な良否判定基準を定めることができる。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、ディスプレイの目視検査や各種機械の異音検査などを自動で検査する官能検査装置及び官能検査方法に関するものである。
【背景技術】
【0002】
近年、様々な工業製品の製造工程で自動化が進んでおり、検査工程も例外ではない。しかし、一方でディスプレイのムラや機構部品の異音など、官能的な判断が必要とされる検査については、依然として作業者による目視や聴覚等の主観による検査に頼っている。しかし、作業者の主観による検査では、長時間の官能検査は作業者に負担がかかる、個人差や体調・時間帯などによるばらつきが大きい、正確な検査には熟練が必要で、熟練検査員を育てるには時間がかかる、処理能力が低い、などにより検査結果の一様性を維持することが困難である。そのため、官能検査においても作業者の主観によらない自動化が求められている。
【0003】
このような官能検査を自動化する手法としてパターン認識を用いたものがある。
ここで、図13を用いてパターン認識による検査について説明する。
図13は従来のパターン認識を用いた検査における特徴量空間を示す図である。
【0004】
パターン認識を用いた検査では、まず、検査対象を検出器で検出した情報からいくつかの特徴量を抽出し、図13に示すように、各特徴量を座標軸とした特徴量空間にプロットする。そして、プロットしたときにどの領域に属するかにより検査対象の良品、不良品、あるいは、グレー品(良品、不良品の判断がつかない品)に分類するものである。図13では簡単のため、特徴量を2つにしているが、1つもしくは、3つ以上でも構わない。このとき、どの領域が良品、不良品、あるいは、グレー品かの決定は、あらかじめ良否が分かっているサンプルを事前に用意し、それらを特徴量空間にプロットしたときの分布から学習し、領域分けを行う。
【0005】
この学習、分類する手法としては、ニューラルネットワークやSVM(support−vector−machine、以下、SVMと略す)、自己組織化マップ、MT(Mahalanobis Taguchi、以下、MTと略す)法などを用いたものがある。また、ニューラルネットワークを用いた手法で、良品、不良品のサンプルを基に擬似不良を発生させ、それらを学習用のサンプルとして利用することで、少ない学習用のサンプルで判定の精度を高める方法があった(例えば、特許文献1参照)。
【0006】
以下、図14,図15を用いて、従来の官能検査装置における特徴量空間の良否領域学習について説明する。
図14は従来の官能検査装置における特徴量空間の良否領域の学習装置の構成を示す図であり、特許文献1に記載された従来のブロック図を示すものである。図15は従来の官能検査装置における特徴量空間において良品から不良品を合成する様子を示す図である。
【0007】
図14において、ニューラルネットワーク101を用いて製品の良否を検査することが可能である。良品の学習は、良品画像入力部102にて、あらかじめ保存してある良品画像を読み込み、フィルタ処理や特徴量の抽出を行う前処理部107を経由してニューラルネットワーク101に入力し、良品データとして学習を行わせる。
【0008】
不良品の学習は、不良品の画像の数が必要とする学習数以上の時に、予め保存してある不良品画像を読み込み、前処理部107を経由してニューラルネットワーク101に入力することで、不良品データとして学習を行わせる。
【0009】
しかしながら、通常はオリジナルの不良データを必要とする学習数だけ入手することは困難であるため、不良画像から良品との差分データ108を抽出する不良画像抽出部104と、良品画像入力部102から良品画像を読み込み、差分データ108を合成して擬似不良画像を生成する擬似不良画像作成部106と、差分データ108を合成位置等とどのように合成するかの条件を、乱数発生部109の乱数値を組み合わせて擬似不良画像作成部106に指示する擬似データ条件設定部105を備えている。
【0010】
これにより、従来の構成では、図15に示すように、実際の不良画像を基に、その付近に擬似不良画像を多数作成し、学習用のサンプルを増加させることで図16のようにして、良否判定の精度を上げようとするものであった。
【先行技術文献】
【特許文献】
【0011】
【特許文献1】特開2005−156334号公報
【発明の概要】
【発明が解決しようとする課題】
【0012】
しかしながら、前記従来の構成においても、パターン認識を用いた検査の自動化における課題を十分解決できていない。
パターン認識を用いた検査の自動化における課題は、良品と不良品の境界を決めるために有効なサンプルが少ないため、人と同じ判定を行うための境界を学習することが難しいということである。
【0013】
図16の従来の特徴量空間における良品と不良品の分布を示す図を用いて詳しく説明する。一般に、良品のばらつきは正規分布をしているため、サンプルは平均値付近に多く存在することになり、境界付近の良品は少ない。また、不良品が発生する頻度は一般的に少なく、不良が発生しても境界から大きく外れたサンプルになりやすい。これを特徴量空間にプロットすると、図16のようになる。図16においては、良品と不良品との間隔が大きいため、良品と不良品を判別する境界線は数多く形成可能で一義的に定めることが困難となり、人間の感覚に近い境界線を学習することはできない。
【0014】
また、特許文献1に示す擬似不良画像自動作成装置及び画像検査装置に関する発明は、少ない不良品の数を補うものであり、特徴量空間で説明すると、図15に示すように、発生した不良品データを基に、その付近の不良品データを合成により増やす方法であるが、増やせるサンプルは基の不良品データの周辺に限定される。このため、検査精度が大きく向上することは見込めない。
【0015】
本発明は、前記従来の課題を解決するもので、少ない学習用のサンプルで人の判断に近い良否判定基準を定めることを可能とした官能検査を実現することを目的とする。
【課題を解決するための手段】
【0016】
上記目的を達成するために、本発明の官能検査装置は、擬似サンプルを作成する擬似サンプル作成部と、前記擬似サンプルに対して人が判定した良否結果を入力する判定入力部と、前記判定入力部で入力された良否結果から良品と不良品との境界付近の特徴量を生成して前記擬似サンプルの特徴量とする擬似サンプル特徴量生成部と、前記擬似サンプル作成部で作成した擬似サンプルの特徴量から良品と不良品の境界線を作成してSVM解析による良否判定を行うSVM判定部と、前記判定入力部での良否結果と前記SVM判定部での良否結果とを比較する判定比較部と、前記判定比較部で良否結果が異なる擬似サンプルに対して人が再判定した良否結果を入力する再判定入力部と、前記再判定入力部で入力された良否結果に対して、前記SVM判定部で作成した境界線からの距離に応じた重み付けを付加してサンプルを追加する重み付け処理部と、前記重み付け処理部で追加されたサンプルを加えて良否判定を行う官能検査部とを有することを特徴とする。
【0017】
また、上記目的を達成するために、本発明の官能検査方法は、擬似サンプルを作成する擬似サンプル作成工程と、前記擬似サンプルに対して人が判定したときの良否結果を入力する判定入力工程と、前記判定入力工程で入力された良否結果から良品と不良品との境界付近の特徴量を生成して前記擬似サンプルの特徴量とする擬似サンプル特徴量生成工程と、前記擬似サンプルの特徴量から良品と不良品の境界線を作成するSVM解析により良否判定をするSVM判定工程と、前記判定入力工程と前記SVM判定工程の結果を比較する判定比較工程と、前記判定比較工程で良否判定が異なる擬似サンプルに対して人が再判定した良否結果を入力する再判定入力工程と、前記再判定入力工程で入力された結果に対して、前記SVM判定工程で作成した境界線からの距離に応じた重み付けを付加して擬似サンプルを追加する重み付け処理工程と、前記重み付け処理部で追加されたサンプルを加えて良否判定を行う官能検査工程とを有することを特徴とする。
【発明の効果】
【0018】
以上のように、本発明によれば、少ない学習用のサンプルで人の判断に近い良否判定基準を定めることができる。
【図面の簡単な説明】
【0019】
【図1】(a)本発明の実施の形態1における官能検査装置の擬似サンプル発生システムを示すブロック図、(b)本実施の形態1における官能検査装置のパターン認識学習装置を示すブロック図
【図2】本実施の形態1における擬似サンプル作成処理の流れを示すフローチャート
【図3】(a)本実施の形態1におけるLCDをカメラで撮像した画像のうち良品画像の例を示した図、(b)本実施の形態1におけるLCDをカメラで撮像した画像のうち不良品画像の例を示した図
【図4】本実施の形態1における特徴量抽出の流れを示すフローチャート
【図5】(a)本実施の形態1における特徴量空間における初期サンプルの特徴量を説明する図、(b)本実施の形態1における特徴量空間における初期サンプルの良否結果を説明する図、(c)本実施の形態1における擬似サンプルの増加方法を示す図、(d)本実施の形態1における特徴量空間における擬似サンプル増加後の良否結果を示す図
【図6】本実施の形態1における擬似サンプル作成部の構成を示すブロック図
【図7】本実施の形態1におけるパターン認識学習方法の流れを示すフローチャート
【図8】本実施の形態1における特徴量空間マッピングを例示する図
【図9】本実施の形態1における特徴量空間上の擬似サンプルを人が判定した結果を例示する図
【図10】本実施の形態1における特徴量空間上のSVMの判定結果を例示する図
【図11】本実施の形態1における特徴量空間上の重み付け処理方法を説明する図
【図12】(a)本発明の実施の形態2における特徴量空間における初期サンプルの特徴量を説明する図、(b)本実施の形態2における特徴量空間における初期サンプルの良否結果を説明する図、(c)本実施の形態2における擬似サンプルの増加方法を示す図、(d)本実施の形態2における特徴量空間における擬似サンプル増加後の良否結果を示す図
【図13】パターン認識を用いた検査における特徴量空間を示す図
【図14】従来の官能検査装置における特徴量空間の良否領域学習装置の構成を示す図
【図15】従来の官能検査装置における特徴量空間において良品から不良品を合成する様子を示す図
【図16】従来の特徴量空間における良品と不良品の分布を示す図
【発明を実施するための形態】
【0020】
以下、本発明の実施の形態について、図面を参照しながら説明する。なお、以下の説明では、同じ構成には同じ符号を付けて、適宜、説明を省略している。
(実施の形態1)
まず、図1〜図11を用いて、実施の形態1における官能検査装置及び官能検査方法について説明する。
【0021】
図1(a)は、本発明の実施の形態1における官能検査装置の擬似サンプル発生システムを示すブロック図である。図1(b)は、本発明の実施の形態1における官能検査装置のパターン認識学習装置を示すブロック図である。本実施の形態1では、擬似サンプル発生システムは、擬似サンプル発生装置である。
【0022】
図1(a)において、良品データ入力部1にて、あらかじめ保存された良品の画像や音声等のデータを読み込み、フィルタ処理や特徴量の抽出を行う特徴量抽出部2を経由し、抽出した特徴量を特徴量空間作成部3に入力する。特徴量空間作成部3は特徴量の分布を基に正規化や座標変換を行い、特徴量空間を作成し、特徴量空間記憶部4でその座標系を記憶する。また、サンプル特徴量生成部5では特徴量空間作成部3で作成された特徴量空間を基に初期サンプルの特徴量を生成し、特徴量空間記憶部4と擬似サンプル作成部6へ出力する。
【0023】
擬似サンプル作成部6では、良品データ入力部1から入力された良品データにサンプル特徴量生成部5で生成された初期サンプルの特徴量を合成して擬似サンプルを作成する。このとき、特徴量に自由度がある場合は、乱数発生部7によりその自由度の範囲内の特徴量を決定して擬似サンプル作成に用いても良い。そして、擬似サンプル表示部8では、擬似サンプル作成部6で作成された擬似サンプルを表示する。判定入力部9では、表示された擬似サンプルの良否を検査員が入力することができ、その結果は特徴量空間記憶部4へ送られる。特徴量空間記憶部4では、サンプル特徴量生成部5から入力された擬似サンプルの特徴量と、それに対応する判定入力部9から入力された判定結果とをセットで記憶する。
【0024】
擬似サンプル特徴量生成部10は、特徴量空間記憶部4に記憶された特徴量空間と擬似サンプルの判定結果が入力され、パターン認識で境界線(良品と不良品の境界を表す線)をひくのに有効なサンプルの特徴量を新たに生成し、擬似サンプル作成部6と特徴量空間記憶部4へ入力する。この特徴量は擬似サンプルの特徴量と同様に判定結果とセットで特徴量空間記憶部4に記憶される。
【0025】
図2は、本発明の実施の形態1における擬似サンプル作成処理の流れを示すフローチャートである。
図2に示すように、擬似サンプルを作成する場合には、はじめに、良品データ入力部1において、あらかじめ保存してある検出部で検出した良品のデータを複数個読み出す(ステップS001)。次に、特徴量抽出部2において各良品データから特徴量を抽出する(ステップS002)。そして、特徴量空間作成部3において各良品データの平均値とばらつきを基にマハラノビス距離を算出し、それにより各特徴量の正規化を行い、正規化された各特徴量の分布を示す特徴量空間を作成し、特徴量空間記憶部4で特徴量空間を記憶する(ステップS003)。次に、サンプル特徴量生成部5において、原点からのマハラノビス距離が一定値であるサンプルを初期サンプルとして複数作成する(ステップS004)。この時、マハラノビス距離がある程度の範囲内にある初期サンプルを作成しても良く、ある程度の範囲としては、一定値から±10%以内を範囲とすることが好ましい。具体的には、原点からのマハラノビス距離が2〜5であることが好ましい。また、初期サンプルが複数ある場合は、特徴量空間の原点を中心とする超球面上で均等に配置されることが好ましい。続いて、擬似サンプル作成部において、ステップS001で読み出した良品データの平均値から標準良品データを作成し、作成した初期サンプルの特徴量を標準良品データの特徴量と合成して、擬似サンプルを作成する(ステップS005)。次に、作成された擬似サンプルを擬似サンプル表示部8で表示し、熟練した検査員や品質保証の責任者が表示された擬似サンプルの良否判定を行い、判定入力部9にその結果を入力する(ステップS006)。次に、入力された判定結果とそれに対応する擬似サンプルの特徴量を特徴量空間上に追加する(ステップS007)。
【0026】
ここで、特徴量空間上のサンプル数が一定値N未満の場合は、記憶されているサンプルの特徴量から、新たに追加サンプルの特徴量を生成する。サンプル数の一定値Nとしては、検査員の経験に基づく数字や、設計上要求される数字を、適宜設定する(ステップS008)。ステップS008の後はステップS005に戻り、新たに生成された追加サンプルの特徴量に基づいて、再び擬似サンプルが作成される。サンプル数が一定値N以上の場合は、擬似サンプルの作成は完了する。以上で、擬似サンプル作成が終了し、パターン認識の学習を行える状態になる(ステップS009)。
【0027】
次に、図3,図4を用いて本実施の形態の学習動作を具体的に説明する。
図3は、LCD(液晶ディスプレイ)をカメラで撮像した画像の例であり、その一部をX方向とY方向の両方でみたライン輝度ファイルを示した図である。図3(a)は良品画像、図3(b)はムラがある場合の不良品画像である。図3(a)の良品画像の場合は、大きく滑らかなシェーディングはあるが、局所的な変動は小さい。一方で、図3(b)の不良品画像は、良品画像と同様なシェーディングに加え、局所的な変動があり、これがムラとして不良になる。ここでいうシェーディングとは、画像の中心付近が端部に比べて明るく、画像全体のライン輝度ファイルをみると山のようになっている現状である。また、その全体的に発生したシェーディングに対して、局所的に発生した部分的に隣接する輝度の流れに合わない輝度分布の箇所をムラとする。
【0028】
はじめに、標準的な良品の平均値とばらつきを求めるため、n個の良品から取得した画像を読み込む。平均値とばらつきを求めるためには良品の個数は多いほど良いが、立ち上げ当初はサンプルを準備するのが難しく、また、時間もかかるため、ここでの良品は20個程度あればよい(図2のステップS001参照)。
【0029】
次に、良品のムラの特徴量を抽出する。この工程について図4を用いて説明する。図4は、本発明の実施の形態1における特徴量抽出の流れを示すフローチャートである。良品のムラの特徴量を抽出する際に、まず良品データ入力部1において、良品の画像を入力する(ステップS021)。次に、ローパスフィルタを通すことによって良品画像から局所的な変動を除いた画像を得る(ステップS022)。これを元の良品画像から差し引くことで、シェーディングの影響を取り除き、局所的な変動のみの画像を得ることができる(ステップS023)。そして、この画像を一定の閾値で2値化処理する(ステップS024)。2値化処理を行った後に、複数のムラがある部分をラベリングする(ステップS025)。次にラベリングした各部分で面積と体積を算出する(ステップS026)。このうち最も輝度が高い最大輝度を最大のムラとして検索する(ステップS027)。最後に、最大のムラの面積Si(i=1,2,…,n)と体積Vi(i=1,2,…,n)を特徴量として出力する(ステップS028)。ここで、最大のムラだけにしたのは、それが良品レベルであれば、他の小さいムラでも良品であるし、それが不良品レベルであれば少なくともそれより大きいムラは不良と判定できるからである(図2のステップS002参照)。
【0030】
このように、良品のムラの特徴量を抽出すると、次に、特徴長空間作成部3にてマハラノビス距離を元に特徴量空間を作成する。ステップS002で求めた面積Siと体積Viの平均値をそれぞれms、mvとし、標準偏差をそれぞれσs、σvとし、面積Siと体積Viを正規化した特徴量をそれぞれsi、viとすると、si、viは次式(式1)で求める。
【0031】
【数1】



次に、正規化した特徴量の相関行列Rを次式(式2)で求める。
【0032】
【数2】



ここで、r12、r21は次式(式3)で表される。
【0033】
【数3】



そして、相関行列Rの逆行列Aを求める。
【0034】
【数4】



このとき、相関行列Rは対称行列のため、逆行列Aも対称行列である。そのため、行列Aを固有値分解すると、次式(式5)で表すことができる。
【0035】
【数5】



ここで、Λは固有値を対角上に並べた対角行列であり、X’はXの転置行列である。次に、Λ1/2をΛの各要素を1/2乗したものとして、特徴量si、viを次式(式6)で変換する。
【0036】
【数6】



そして、この変換した特徴量si’、vi’を特徴量空間とする。このとき、特徴量空間の原点からの距離||x’||がマハラノビス距離となっている(図2のステップS003参照)。
【0037】
次に、特徴量空間を基に初期サンプルの特徴量を生成する。このとき、図5(a)に示すように特徴量空間の原点からの距離が定数aとなるようなサンプルを複数生成する。ここで、工程の不良率が既知である場合は、aはその不良率となる特徴量の標準偏差の倍数とする。例えば、不良率が0.3%であれば、a=3、不良率が4.6%であれば、a=2である。工程の不良率が未知である場合は、推定される不良率を用いるか、標準的な工程能力として経験的に求められる値を用い、例えばa=3とする。これにより、特徴量空間の原点からの距離がマハラノビス距離となっており、不良率に対応した距離に初期サンプルを生成するため、初期サンプルは良品と不良品の境界付近のサンプルに近いものとなる。そのため、必要なサンプルを確保すると共に、学習に必要なサンプル数を低減することができる(図2のステップS004参照)。
【0038】
次に、生成した初期サンプルの特徴量を基に擬似サンプルを作成する。図6に本発明の実施の形態1における擬似サンプル作成部の構成を示すブロック図を示す。図6において、良品画像入力部21は、n枚の良品画像を入力し、平均画像作成部22でn枚の良品画像の特徴量を平均化し、良品の平均画像を作成する。特徴量入力部23は初期サンプル特徴量生成部5や擬似サンプル特徴量生成部10で生成された特徴量si’、vi’を入力する。特徴量si’、vi’は特徴量変換部24において、次式(式7)、(式8)で面積Si、体積Viに変換される。
【0039】
【数7】



【0040】
【数8】



特徴量は面積Siと体積Viのみしか決まっていないため、ムラの位置や形状には自由度がある。そこで、乱数発生部7で発生した乱数が乱数入力部25に入力され、パラメータ決定部26でムラの位置、形状を決定する。最後に、画像合成部27で、良品の平均画像にムラを合成して擬似サンプルを作成する(図2のステップS005参照)。
【0041】
次に、作成した擬似サンプルを擬似サンプル表示部8で表示し、それを検査員が良品、境界付近の良品、境界付近の不良品、不良品の4段階に分けて評価を行い、判定入力部9へその結果を出力する(図2のステップS006参照)。
【0042】
続いて、生成した特徴量si’、vi’とステップS006で判定した判定結果をセットにして特徴量空間記憶部4に保存する。このときの結果は、図5(b)の特徴量空間における初期サンプルの良否結果を説明する図のように、特徴量空間の原点からの距離が一定であるサンプルに対して、良品、境界付近の良品、境界付近の不良品、不良品の4段階の評価結果を示す結果となる(図2のステップS007参照)。
【0043】
そして、良否判定の境界を精度良く決定するためには最低N個のサンプルが必要であるため、生成した擬似サンプルの数がN個未満の場合は、新たな擬似サンプルを生成する。新たな擬似サンプルは、まず擬似サンプル特徴量生成部10でその特徴量を生成するが、特徴量の生成方法は3つある。この方法を図5(c)の擬似サンプルの増加方法を示す図を用いて説明する。1つ目は良品と判定されたサンプルの特徴量から所定量だけ原点方向へ変化させた(マハラノビス距離を小さくした)特徴量、2つ目は不良品と判定されたサンプルの特徴量から所定量だけ原点と逆方向へ変化させた(マハラノビス距離を大きくした)特徴量、3つ目は境界付近の良品、境界付近の不良品と判定されたサンプルの特徴量のうち2つを選択し、そのベクトルの大きさと方向をそれぞれ平均して特徴量を算出する方法である。平均化する方法として、特徴量の原点からの距離と方向を同じ比率で合成することが挙げられ、例えば、1/2の比率で合成する。このような特徴量を有する擬似サンプルを生成することにより、良品と不良品の境界付近の擬似サンプルを重点的に増やすことができる(図2のステップS008参照)。
【0044】
以上のサイクルを擬似サンプルの数がN個以上になるまで繰返す。その結果、図5(d)の特徴量空間における擬似サンプル増加後の良否結果を示す図に示すように、良品と不良品の境界付近のサンプルが多くなる。そして、擬似サンプルの生成に用いた良品、不良品の判定結果は人が判定した結果であるため、生成後の擬似サンプルの良品、不良品の判定結果も人が判定した結果に近くなり、人の判断に近い境界線として破線で示すような良品、不良品の境界線を精度よく決めることができる。
【0045】
最後に、発生した擬似サンプルを全て再度表示し、パターン認識学習システムでそれを検出する(図2のステップS009参照)。
パターン認識学習システムでは、このように作成した擬似サンプルを用いて学習を行う。
【0046】
なお、本実施の形態において、特徴量を面積と体積の2次元で説明したが、特に2次元に限定するものではなく、m次元としてもよい。このとき、m個の正規化した特徴量をyji(j=1,2,…,m、i=1,2,…,n)として数2、数3は次式(式9)、(式10)で表される。
【0047】
【数9】



【0048】
【数10】



なお、本実施の形態において、初期サンプルの特徴量を生成時の原点からの距離を一定値aとして生成したが、定める距離にある程度の範囲のばらつきを持たせても良い。そうすることで、擬似サンプル生成時に異なるマハラノビス距離のサンプルを発生させやすくなる。
【0049】
以下、図1(b),図7を用いて学習装置及び学習方法について説明する。
図1(b)において、検出部11は実サンプルや擬似サンプル発生装置または擬似サンプル発生方法で生成した画像や音声を取得するもので、CCDカメラやマイクロフォンなどが用いられる。特徴量抽出部12は検出部11で取得した画像や音声から特徴量を抽出して、特徴量空間作成部13に出力する。特徴量空間作成部13は特徴量の分布を基に正規化や座標変換を行い、特徴量空間を作成し、特徴量空間記憶部15で特徴量空間の座標系を記憶する。また、特徴量空間作成部13で抽出した擬似サンプルの特徴量をSVM(support−vector−machine)判定部16に出力する。また、判定入力部14は、作成した擬似サンプルを人が良否判定した結果を入力する。特徴量空間記憶部15は、特徴量空間作成部13から入力された特徴量の値と、それに対応する判定入力部14から入力された判定結果をセットで記憶する。SVM判定部16に入力された擬似サンプルの特徴量空間からSVM解析を実施し、作成された擬似サンプルを機械的に良否判定する。判定比較部17は、判定入力部14での人が行った判定結果とSVM判定部16の機械的な判定結果を判定比較部17で比較し、良否判定が異なる擬似サンプルのみを再判定入力部18に読み出し、再度、人が良否判定を行う。
【0050】
ここで、再度、人が良否判定を行った結果が良品だった場合について考える。重み付け処理部19において、再判定した良品の擬似サンプルの特徴量空間上の点Pと、不良品(再判定した良否と反対の良否結果)の判定空間群の重心点Oとを直線で結び、その直線とSVM解析の良否判定空間の境界線との交点をQとして、線分OQの長さをL1とし、線分QPの長さをL2とした場合、その2つの線分の長さに応じてM×L2/L1(Mは重み係数)の点数だけ、再判定した良品の擬似サンプルの特徴量に重み付けをする。そして、再度SVM判定部16に良否判定結果が入力され、SVM解析が実施され、判定比較部17でSVM判定部16の判定結果と再判定入力部18の判定結果が相違無いかを確認する。もし不一致があれば、一致するまで繰り返し同様の処理をする。学習した擬似サンプルの判定結果が、SVM判定部16と再判定入力部18で同じになれば、良否空間出力部20に学習された良否空間が出力される。実際の検査は、この作成された良否空間を用いて行われ、実サンプルの特徴量からその良否を判定し、検査結果を教示する。
【0051】
図7は、本発明の実施の形態1におけるパターン認識学習方法の流れを示すフローチャートである。
図7に示すように、はじめに、検出部11に擬似サンプル作成部6で作成された擬似サンプルを読み出す(ステップS011)。次に、特徴量抽出部12において各サンプルから特徴量を抽出する(ステップS012)。そして、特徴量空間作成部13において各サンプルの特徴量を特徴量空間上にマッピングして、特徴量空間記憶部15でそれを記憶する(ステップS013)。次に、読み込んだ擬似サンプルを熟練した検査員や品質保証の責任者等が良否判定を行い、判定入力部14にその結果を入力する(ステップS014)。続いて、擬似サンプルから抽出した特徴量をSVM判定部16に入力してSVM解析する(ステップS015)。判定比較部17で擬似サンプル毎にステップS014で行った人の判定結果とSVMの判定結果とを比較する(ステップS016)。その判定結果が異なる場合(誤判定が含まれた場合)、誤判定された擬似サンプルを再度判定し見直す。ここで、誤判定の場合とは、人が良品と判断したものが、SVM解析の結果、不良品と判断される「過検出」の場合と、人が不良品と判断したものが、SVM解析の結果、良品と判断される「見逃し」の場合との2通りの場合である。その際、判定結果に対して重み付け処理部において特徴量空間に再判定結果の重み付けを持たせる(ステップS017)。さらに同様の処理を繰り返し、誤判定が無くなれば、人の判断と同じ良否空間ができ上がることによって検査に用いる境界線が明確となり、実サンプルの検査に移行することが可能となる(ステップS018)。
【0052】
以上の説明では、SVM判定を行う場合を例に説明したが、判定方法は特定されるものではなく、機械的な良否判定を行うその他の判定手段を用いることができる。
次に、図3に示したLCDの例を用いて本実施の形態の動作を説明する。
【0053】
はじめに、LCD画面の擬似サンプルを作成し、その画像を読み込む(図7のステップS011参照)。
次に、図4を用いて説明した画像処理を施し、特徴量を抽出する。この場合は、LCD画面上のシミを検出する。シミの最大輝度値と面積を特徴として抽出する(図7のステップS012参照)。次に、図8に示すように、特徴量空間上に作成した擬似サンプルをマッピングする(図7のステップS013参照)。図8は本発明の実施の形態1における特徴量空間マッピングを例示する図である。
【0054】
次に、熟練した検査員や品質保証の責任者等がマッピングされた擬似サンプルの良否判定を行う(図7のステップS014参照)。図9は本発明の実施の形態1における特徴量空間上の擬似サンプルを人が判定した結果を例示する図であり、人が良否判定した結果を示す。次に、同じくマッピングされた擬似サンプルに対してSVM解析により判定をする(図7のステップS015参照)。図10の本発明の実施の形態1における特徴量空間上のSVMの判定結果を例示する図に示すように、SVM解析結果より、良否判定の境界線を設定できる。次に、人の良否判定結果とSVMの良否判定結果とを比較し、誤判定サンプルを出力する(図7のステップS016参照)。次に、図11に示すように、再判定した見逃しの擬似サンプルの点Pと、不良品(再判定した点Pと反対の良否内容)の判定空間群の重心点Oとを直線で結び、その直線とSVM解析の良否判定空間の境界線との交点をQとして、線分OQの長さをL1とし、線分QPの長さをL2とした場合の誤判定点Pが良否境界からどれだけ離れているかを定量化すると、定量化した距離変数Xは、次式(式11)となる。
【0055】
【数11】



ここで、重み付けする点数Yは、次式(式12)となる。
【0056】
【数12】



ここで、Mは重み係数で、任意の定数とする。つまり、誤判定された擬似サンプルの特徴量に重み付けYを付加することにより、再判定した結果の内容を同じ特徴量空間上にY点の数分追加して、擬似サンプルを特徴量空間上で増加させる。すなわち、再判定された擬似サンプルが1つ存在し、この擬似サンプルに重み付けする点数Yが3となった場合、合計で4つの擬似サンプルが生成されることになる。そのため、重み付けを行うことにより、特徴量空間上での擬似サンプルが3つ増加することになる。
【0057】
このように、機械的に擬似サンプルを追加してもSVMの判定が正しく行え、人の手で故意に学習するための擬似サンプルを新たに追加することなく、良否の境界線を算出することができる(図7のステップS017参照)。図11の場合(見逃しの誤判定が存在する場合)は、再度、SVM解析を行い、人とSVMの判定が完全に一致するまで繰り返し、誤判定が無くなれば、そこで人の判断が反映された境界線を有する良否空間が完成する。そして、その特徴量空間を用いて、実サンプルのパターン認識を行って良否判定検査を実施する。
【0058】
このように、特徴量空間の原点からマハラノビス距離に分布する初期サンプルを用いて、良否判定基準となる良否判定の境界線を学習することにより、境界付近の初期サンプルのみを用いて学習することができるため、少ない学習用のサンプルで最適な良否判定基準を定めることができる。
【0059】
また、擬似サンプルを用いて学習する際に、誤判定をした擬似サンプルに重み付けを付加することにより、新たに人の手で擬似サンプルを追加することなく、機械的な判定工程において、誤判定をした擬似サンプルの判定を再度行うことができるため、少ない学習用のサンプルで最適な良否判定基準を定めることができる。
【0060】
また、以上の説明では、以上の処理を両方行う場合を例に説明したが、いずれか一方のみを行うだけでも、少ない学習用のサンプルで最適な良否判定基準を定めることができる。
(実施の形態2)
次に、図12を用いて実施の形態2における官能検査装置及び官能検査方法の実施の形態1に対して異なる特徴を説明する。
【0061】
図12は、本発明の実施の形態2の特徴量空間を示す図である。図12において、図5と同じ構成要素については同じ符号を用い、説明を省略する。
図12(a)は初期サンプルの特徴量である。初期サンプルを選択する際に、実施の形態1においては、原点からの距離がaとなる初期サンプルを選択し、方向はランダムとしたが、本発明の実施の形態2では、原点からの距離がaで、互いの間隔が等間隔となる初期サンプルを選択する。
【0062】
図12(b)において、初期サンプルの判定結果を示す。
図12(c)は、擬似サンプル特徴量生成部10で特徴量を生成する方法を示す図である。ここで、実施の形態2では原点からの直線に沿って新たな擬似サンプルを生成するが、判定結果が良品であれば原点に遠い位置に、不良品であれば原点に近い位置に新たな擬似サンプルを生成する。
【0063】
そして、完了条件として、実施の形態1では擬似サンプルの個数を超えるまで繰り返したが、実施の形態2では、境界付近の良品、境界付近の不良品を検出するまで繰返すことを特徴とする。この時の擬似サンプルの分布を図12(d)の特徴量空間における擬似サンプル増加後の良否結果を示す図に例示する。
【0064】
ここで説明した以外の処理は、実施の形態1と同様であるので説明を省略する。
本発明の実施の形態2における官能検査装置及び方法では、乱数を使用せず、個数ではなく実際に境界付近の良否結果を検出するまで擬似サンプルを生成するため、無駄なサンプルを減らしながら、より正確に少ない学習用のサンプルで最適な良否判定基準を定めることができる。
【産業上の利用可能性】
【0065】
本発明は、正確に少ない学習用のサンプルで最適な良否判定基準を定めることができ、ディスプレイの目視検査や各種機械の異音検査などを自動で検査する官能検査装置及び官能検査方法等に有用である。
【符号の説明】
【0066】
1 良品データ入力部
2 特徴量抽出部
3 特徴量空間作成部
4 特徴量空間記憶部
5 初期サンプル特徴量生成部
6 擬似サンプル作成部
7 乱数発生部
8 擬似サンプル表示部
9 判定入力部
10 擬似サンプル特徴量生成部
11 検出部
12 特徴量抽出部
13 特徴量空間作成部
14 判定入力部
15 特徴量空間記憶部
16 SVM判定部
17 判定比較部
18 再判定入力部
19 重み付け処理部
20 良否空間出力部
21 良品画像入力部
22 平均画像作成部
23 特徴量入力部
24 特徴量変換部
25 乱数入力部
26 パラメータ決定部
27 画像合成部
101 ニューラルネットワーク
102 良品画像入力部
104 不良画像抽出部
105 擬似データ条件設定部
106 擬似不良画像作成部
107 前処理部
108 差分データ
109 乱数発生部

【特許請求の範囲】
【請求項1】
擬似サンプルを作成する擬似サンプル作成部と、
前記擬似サンプルに対して人が判定した良否結果を入力する判定入力部と、
前記判定入力部で入力された良否結果から良品と不良品との境界付近の特徴量を生成して前記擬似サンプルの特徴量とする擬似サンプル特徴量生成部と、
前記擬似サンプル作成部で作成した擬似サンプルの特徴量から良品と不良品の境界線を作成してSVM解析による良否判定を行うSVM判定部と、
前記判定入力部での良否結果と前記SVM判定部での良否結果とを比較する判定比較部と、
前記判定比較部で良否結果が異なる擬似サンプルに対して人が再判定した良否結果を入力する再判定入力部と、
前記再判定入力部で入力された良否結果に対して、前記SVM判定部で作成した境界線からの距離に応じた重み付けを付加してサンプルを追加する重み付け処理部と、
前記重み付け処理部で追加されたサンプルを加えて良否判定を行う官能検査部と
を有することを特徴とする官能検査装置。
【請求項2】
良品サンプルの良品データを入力する良品データ入力部と、
前記良品データから抽出された特徴量を、特徴量空間の原点からの距離がマハラノビス距離となるように変換した特徴量に変換する特徴量空間作成部と、
特徴量空間の原点からの距離が一定値となるような初期サンプルを生成し、前記初期サンプルから擬似サンプルを作成する初期サンプル生成部と
を有することを特徴とする請求項1記載の官能検査装置。
【請求項3】
前記初期サンプルは、特徴量空間の原点からの距離が一定値±10%以内であること
を特徴とする請求項2記載の官能検査装置。
【請求項4】
前記初期サンプルは、特徴量空間の原点からの距離が2〜5の間であること
を特徴とする請求項3記載の官能検査装置。
【請求項5】
前記判定入力部で入力される良否結果が、良品、境界線付近の良品、境界線付近の不良品、不良品の4段階に分かれていること
を特徴とする請求項1〜請求項4のいずれかに記載の官能検査装置。
【請求項6】
前記擬似サンプルは、前記判定入力部で良否判定したサンプルの結果に基づいて、良品サンプルの特徴量のマハラノビス距離を小さくする方法、不良品サンプルの特徴量のマハラノビス距離を大きくする方法、境界線付近の良品サンプルまたは境界線付近の不良品サンプルのうち2つのサンプルの特徴量の原点からの距離と方向を同じ比率で合成する方法、のいずれかで作成されること
を特徴とする請求項5記載の官能検査装置。
【請求項7】
境界線付近の良品サンプルまたは境界線付近の不良品サンプルのうち2つのサンプルの特徴量の特徴量空間の原点からの距離と方向を合成する比率が1/2ずつであること
を特徴とする請求項6記載の官能検査装置。
【請求項8】
前記初期サンプルは、特徴量空間の原点を中心とした超球面上に均等に配置され、
前記擬似サンプルは、前記判定入力部で判定したサンプルの結果から、良品サンプルの特徴量のマハラノビス距離を小さくする方法、不良品サンプルの特徴量のマハラノビス距離を大きくする方法、のいずれかで作成されること
を特徴とする請求項5記載の官能検査装置。
【請求項9】
前記判定入力部と前記SVM判定部の良否判定結果が異なる擬似サンプルを人が再判定した結果に対して、再度SVM解析を実施し、
前記判定入力部と前記SVM判定部の良否結果が一致するまで再判定を続けること
を特徴とする請求項8記載の官能検査装置。
【請求項10】
再判定した擬似サンプルに対し、重み付けを付加して複製して擬似サンプルを増加させるに際し、
前記再判定入力部において、再判定した擬似サンプルの点Pと、再判定した擬似サンプルと良否が反対の判定空間群の重心点Oとを直線で結び、
その直線とSVM解析の良否判定空間の境界線との交点Qに対し、線分OQをL1とし、線分QPをL2とし、重み付けの係数をMとした場合、M×L2/L1の数だけ重み付けをすること
を特徴とする請求項9記載の官能検査装置。
【請求項11】
擬似サンプルを作成する擬似サンプル作成工程と、
前記擬似サンプルに対して人が判定したときの良否結果を入力する判定入力工程と、
前記判定入力工程で入力された良否結果から良品と不良品との境界付近の特徴量を生成して前記擬似サンプルの特徴量とする擬似サンプル特徴量生成工程と、
前記擬似サンプルの特徴量から良品と不良品の境界線を作成するSVM解析により良否判定をするSVM判定工程と、
前記判定入力工程と前記SVM判定工程の結果を比較する判定比較工程と、
前記判定比較工程で良否判定が異なる擬似サンプルに対して人が再判定した良否結果を入力する再判定入力工程と、
前記再判定入力工程で入力された結果に対して、前記SVM判定工程で作成した境界線からの距離に応じた重み付けを付加して擬似サンプルを追加する重み付け処理工程と、
前記重み付け処理部で追加されたサンプルを加えて良否判定を行う官能検査工程と
を有することを特徴とする官能検査方法。
【請求項12】
良品サンプルの良品データを入力する良品データ入力工程と、
前記良品データから抽出された特徴量を、特徴量空間の原点からの距離がマハラノビス距離となるように変換した特徴量に変換する特徴量空間作成工程と、
特徴量空間の原点からの距離が一定値となるような初期サンプルを生成し、前記初期サンプルから擬似サンプルを作成する初期サンプル生成工程と
を有することを特徴とする請求項11記載の官能検査方法。
【請求項13】
前記初期サンプルは、特徴量空間の原点からの距離が一定値±10%以内であること
を特徴とする請求項12記載の官能検査方法。
【請求項14】
前記初期サンプルは、特徴量空間の原点からの距離が2〜5の間であること
を特徴とする請求項13記載の官能検査方法。
【請求項15】
前記判定入力工程で入力される良否結果がが、良品、境界線付近の良品、境界線付近の不良品、不良品の4段階に分かれていること
を特徴とする請求項11〜請求項14のいずれかに記載の官能検査方法。
【請求項16】
前記擬似サンプルは、前記判定入力工程で判定したサンプルの結果に基づいて、良品サンプルの特徴量のマハラノビス距離を小さくする方法、不良品サンプルの特徴量のマハラノビス距離を大きくする方法、境界線付近の良品または境界線付近の不良品サンプルのうち2つのサンプルの特徴量の原点からの距離と方向を同じ比率で合成する方法、のいずれかで作成されること
を特徴とする請求項15記載の官能検査方法。
【請求項17】
境界線付近の良品または境界線付近の不良品サンプルのうち2つのサンプルの特徴量の原点からの距離と方向を合成する比率が1/2ずつであること
を特徴とする請求項16記載の官能検査方法。
【請求項18】
前記初期サンプルは、特徴量空間の原点を中心とした超球面上に均等に配置され、
前記擬似サンプルは、前記判定入力工程で判定したサンプルの結果から、良品サンプルの特徴量のマハラノビス距離を小さくする方法、不良品サンプルの特徴量のマハラノビス距離を大きくする方法、のいずれかで作成されること
を特徴とする請求項16記載の官能検査方法。
【請求項19】
前記判定入力工程と前記SVM判定工程の良否判定結果が異なる擬似サンプルを人が再判定した結果に対して再度SVM解析を実施し、
前記判定入力部と前記SVM判定部の良否結果が一致するまで再判定を続けること
を特徴とする請求項18記載の官能検査方法。
【請求項20】
再判定した擬似サンプルに対し、重み付けを付加して複製して擬似サンプルを増加させるに際し、
前記再判定入力工程において、再判定した擬似サンプルの点Pと、再判定した擬似サンプルと良否が反対の判定空間群の重心点Oとを直線で結び、
その直線とSVM解析の良否判定空間の境界線との交点Qに対し、線分OQをL1とし、線分QPをL2とし、重み付けの係数をMとした場合、M×L2/L1の数だけ重み付けをすること
を特徴とする請求項19記載の官能検査方法。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7】
image rotate

【図8】
image rotate

【図9】
image rotate

【図10】
image rotate

【図11】
image rotate

【図12】
image rotate

【図13】
image rotate

【図14】
image rotate

【図15】
image rotate

【図16】
image rotate


【公開番号】特開2011−145179(P2011−145179A)
【公開日】平成23年7月28日(2011.7.28)
【国際特許分類】
【出願番号】特願2010−6340(P2010−6340)
【出願日】平成22年1月15日(2010.1.15)
【出願人】(000005821)パナソニック株式会社 (73,050)
【Fターム(参考)】