マハラノビス基準空間の生成方法及び検査装置
【課題】検査品の画像のマハラノビス距離に基づいてその検査品の良否判定を行う技術において、良否判定をするための処理時間を短縮し、なおかつ画像の写り具合に関わらず精度良くその判定を行うこと。
【解決手段】マハラノビス距離を算出するためのマハラノビス基準空間の生成にあたり、先ず、良品か否かの区別が付きにくい良品グレー領域を含む良品サンプルの良品画像を取得する(S1)。次いで、その良品画像に対して、2値化処理→平滑処理→差分処理の画像処理を施して、良品画像に含まれる良品グレー領域を検出する(S2)。次いで、検出した良品グレー領域の周辺領域の輝度情報を基準として、その良品グレー領域の輝度情報の特徴量を算出する(S3)。次いで、その特徴量に基づいて、マハラノビス基準空間を生成する(S4)。
【解決手段】マハラノビス距離を算出するためのマハラノビス基準空間の生成にあたり、先ず、良品か否かの区別が付きにくい良品グレー領域を含む良品サンプルの良品画像を取得する(S1)。次いで、その良品画像に対して、2値化処理→平滑処理→差分処理の画像処理を施して、良品画像に含まれる良品グレー領域を検出する(S2)。次いで、検出した良品グレー領域の周辺領域の輝度情報を基準として、その良品グレー領域の輝度情報の特徴量を算出する(S3)。次いで、その特徴量に基づいて、マハラノビス基準空間を生成する(S4)。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、マハラノビス・タグチ法(MT法)を利用して、製品の外観検査を行う技術に関する。
【背景技術】
【0002】
従来、製品の外観検査は人手に頼る部分が大きく、この場合、検査員が目視でその検査を実施する。しかし、最終ユーザからの検査品質向上要求、人海戦術検査による人件費増大対策から、近年、市場では画像認識技術を利用した製品の外観検査の自動化が求められている。外観検査を自動的に行う検査装置は、先ずカメラや照明などの撮像機器によって検査品の外観を撮像する。そして、その撮像した検査画像に対して所定の画像処理を行うアルゴリズムにより検査品の良否判定を行う。ここで、そのアルゴリズムの一つに、MT法を利用した方法が従来知られている(例えば特許文献1参照)。
【0003】
このMT法は、多数の情報をマハラノビス距離という一つの尺度に集約し、このマハラノビス距離の大小によって、良否を判定する方法である。具体的には、良品の外観を撮像した良品画像から特徴量を抽出して、マハラノビス距離を算出するための基準空間(以下、マハラノビス基準空間とも言う)を生成する。次いで、検査品の外観を撮像した検査画像の特徴量と基準空間とに基づいて、マハラノビス距離を算出する。そして、そのマハラノビス距離の大小に基づいて検査品の良否判定を行うというものである。
【0004】
ここで、従来のマハラノビス基準空間の生成方法について説明する。図16は、従来のマハラノビス基準空間の生成手順を示したフローチャートである。先ず、マハラノビス基準空間を生成するために、評価の基準となる正常な画像サンプル(良品画像)を取得する(S101)。次いで、S101で取得したサンプル画像を所定の大きさごとに(例えば640×480)に切り取っていく(S102)。次いで、切り取った画像について、そのR、G、Bの輝度(8bit:0〜255)データから、それぞれ0〜15、16〜31、32〜47、・・・、240〜255の16段階(R、G、Bでは48段階)の輝度範囲にある画素数をカウントし、R、G、Bの輝度分布データを計算する(S103)。次いで、S103で計算した輝度分布データを良品画像の特徴量とし、その特徴量に基づいてマハラノビス基準空間を生成する(S104)。
【先行技術文献】
【特許文献】
【0005】
【特許文献1】特開2005−252451号公報
【発明の概要】
【発明が解決しようとする課題】
【0006】
ところで、上記のようにして生成した基準空間を検査時に利用する場合には、被検査対象となる検査画像に対しても、上述のS102のように切り取る処理を行って、切り取った画像ごとに輝度分布データを求める必要がある。しかし、その切り取った画像の範囲が例えば640×480のような大きな範囲になると、640×480=307200の画素に対して演算が必要になる。さらに、この方法を検査画像のサイズ(フレームサイズ)で行う必要があるので、切り取る画像の枚数も多くなり、演算時間がさらに増加する。MT法では数値計算をする必要があるが、製品の外観を撮像する近年のCCDカメラでは分解能UPの要求から数百万画素単位で取り込めるものが汎用的になってきつつあり、数百万からなる画素を処理するためには、上記の従来方法では計算量が多くなってしまい、その結果、検査時間が長くなってしまうという問題がある。
【0007】
また、従来の方法では、検査の際、画像が予期せぬ写り方をする場合がある。具体的には、例えば、画像全体が暗くまたは明るく写った場合や、画像処理で切り取った画像の一部が暗く、一部が明るかったりする場合がある。なお、画像が暗く写ったり明るく写ったりする原因としては例えば以下の(1)〜(3)の場合が考えられる。
(1)外乱などの影響で偶発する場合
(2)照明を長い期間にわたり使用し続ける(照明の劣化による)場合
(3)検査品の表面形状や材質の影響で、検査品の表面に均一な光を照射することが難しい場合
【0008】
このように画像が予期せぬ写り方をした場合、その画像に不良とされる領域が写っている、写っていないに関わらず、画像全体の輝度のシフトが起こる。その輝度のシフトに伴って、輝度分布データもシフトするために、その画像が良品、不良品に関わらずマハラノビス距離(MD値)の増大を招く。この場合、検査装置の過検出(良品を不良と判断すること)に繋がるという問題がある。
【0009】
本発明は上記問題に鑑みてなされたものであり、MT法を利用して検査品の良否判定を行う技術に関して、画像の暗い、明るいといった写り具合に関わらず精度良く良否判定を行うことを第一の課題とする。また、良否判定をするための処理時間を短縮することを第二の課題とする。
【課題を解決するための手段】
【0010】
上記課題を解決するために、本発明に係るマハラノビス基準空間の生成方法は、良品か否かの区別が付きにくい領域である良品グレー領域を含む良品画像を取得する良品画像取得ステップと、
その良品画像取得ステップで取得した前記良品画像に含まれる前記良品グレー領域を認識する認識ステップと、
前記良品画像の領域のうち前記認識ステップで認識した前記良品グレー領域の周辺領域の輝度情報を取得する輝度取得ステップと、
その輝度取得ステップで取得した前記周辺領域の輝度情報を基準とした前記良品グレー領域の輝度情報の特徴量を算出する特徴量算出ステップと、
その特徴量算出ステップで算出した前記特徴量に基づいて、マハラノビス距離を算出するための基準空間を生成する生成ステップと、を含むことを特徴とする。
【0011】
これによれば、良品画像に含まれる良品グレー領域に着目して基準空間を生成する。ここで、現状、目視検査員による検査は、不良領域だけを見て不良と判定しているわけではなく、不良領域と、不良の周りの領域を相対的に比較することによって区別している。つまり、対象が確かに不良だと判定するためには、対象の周りの情報が必要になる。この点、本発明では、良品グレー領域の周辺領域の輝度情報を基準とした良品グレー領域の輝度情報の特徴量を算出しているので、良品画像の写り具合の影響が考慮された特徴量を得ることができる。そして、その特徴量に基づいて基準空間を生成しているので、良品画像の写り具合の影響が考慮された精度の良い基準空間を得ることができる。よって、検査品の良否判定をする際にこの基準空間を利用することで、画像の写り具合に関わらず精度良くその良否判定を行うことができる。また、良品画像全体ではなく良品グレー領域から基準空間を生成しているので、その基準空間を生成するための処理時間や、その基準空間を利用して検査品の良否判定をするための処理時間を短縮することができる。
【0012】
また、本発明における前記特徴量算出ステップは、前記周辺領域の輝度情報を代表する代表値を設定する代表値設定ステップと、
その代表値設定ステップで設定した前記代表値を基準とした前記良品グレー領域の輝度情報の分布を示した輝度分布データを前記特徴量として算出する輝度分布算出ステップと、を含むことを特徴とする。
【0013】
これによれば、代表値設定ステップで、周辺領域の輝度情報の代表値を設定しているので、周辺領域の輝度情報が分布している場合であってもその周辺領域の輝度情報が反映された値(代表値)を得ることができる。そして、輝度分布算出ステップで、代表値を基準とした輝度分布データを算出しているので、周辺領域の輝度情報を基準とした良品グレー領域の特徴量を得ることができる。
【0014】
ここで、その輝度分布算出ステップは、前記良品グレー領域の各画素の輝度値のうち前記代表値より大きい各輝度値と前記代表値との差分値をそれぞれ算出し、それら差分値の合計値と、前記良品グレー領域の各画素の輝度値のうち前記代表値より小さい各輝度値と前記代表値との差分値をそれぞれ算出し、それら差分値の合計値の少なくとも一方を前記輝度分布データとして算出するステップとすることができる。
【0015】
これによれば、輝度分布算出ステップで、良品グレー領域の各画素の輝度値のうち代表値より大きい各輝度値と代表値との差分値の合計値を算出するので、周辺領域に対してグレー領域がどの程度明るくされているのかを示した特徴量を得ることができる。また、その輝度分布算出ステップでは、上記の合計値に代えて、又は上記の合計値と共に、良品グレー領域の各画素の輝度値のうち代表値より小さい各輝度値と代表値との差分値の合計値を算出するので、周辺領域に対してグレー領域がどの程度暗くされているのかを示した特徴量を得ることができる。
【0016】
また、輝度分布算出ステップは、前記良品グレー領域の各画素のうち前記代表値より大きい輝度値の画素の数と前記代表値より小さい輝度値の画素の数の少なくとも一方を前記輝度分布データとして算出するステップとすることもできる。
【0017】
これによれば、グレー領域のうち、周辺領域より明るくされている領域がどの程度含まれているかを示した特徴量と周辺領域より暗くされている領域がどの程度含まれているかを示した特徴量の一方又は両方を得ることができる。
【0018】
また、輝度分布算出ステップは、前記良品グレー領域の各画素の輝度値のうち前記代表値より大きい各輝度値と前記代表値との各差分値の合計値、前記良品グレー領域の各画素の輝度値のうち前記代表値より小さい各輝度値と前記代表値との各差分値の合計値、前記良品グレー領域の各画素のうち前記代表値より大きい輝度値の画素の数、及び前記良品グレー領域の各画素のうち前記代表値より小さい輝度値の画素の数の少なくともいずれか一つを前記輝度分布データとして算出するステップであるとしてもよい。これにより、上記の4つの特徴量の中から選択される1又は複数の特徴量を得ることができる。
【0019】
また、本発明における前記特徴量算出ステップは、
前記良品グレー領域の各画素の輝度値を輝度値の大きさの順に並び替える並替ステップと、
その並替ステップで並び替えた輝度値間の変化特性を示した変化特性値を前記特徴量として算出する変化特性値算出ステップと、をさらに含むことを特徴とする。
【0020】
これによれば、並替ステップで、良品グレー領域の各画素の輝度値を輝度値の大きさの順に並び替え、変化特性値算出ステップで、その並び替えた輝度値間の変化特性を示した変化特性値を算出しているので、良品グレー領域の輝度がどのように変化しているかを示した特徴量を得ることができる。これにより、良品グレー領域の特徴をより一層反映した基準空間を得ることができる。
【0021】
ここで、その変化特性値算出ステップは、前記並替ステップで並び替えた輝度値から、大きさが隣り合う二つの輝度値の差分値である隣接変化値を算出し、その隣接変化値の特性を示した隣接変化特性値を前記変化特性値として算出するステップとすることができる。
【0022】
これにより、隣り合う二つの輝度値が、どの程度輝度変化しているかを示した特徴量を得ることができる。
【0023】
また、変化特性値算出ステップは、前記並替ステップで並び替えた輝度値間の変化を近似した近似式を算出し、その近似式の特性を示した近似式特性値を前記変化特性値として算出するステップとしてもよい。
【0024】
これによれば、変化特性値算出ステップで算出される近似式特性値は、輝度値間の変化を近似した近似式の特性を示しているので、グレー領域の輝度が各画素間でどのように変化しているかを示した特徴量を得ることができる。
【0025】
また、本発明における前記代表値設定ステップは、良品グレー領域ごとに互いに値が異なる複数の前記代表値を設定するステップであり、
前記輝度分布算出ステップは、前記複数の代表値のそれぞれごとに、各代表値を基準とした前記輝度分布データを算出するステップであることを特徴とする。
【0026】
これによれば、代表値設定ステップで、互いに値が異なる複数の代表値を設定するので、良品グレー領域ごとの、周辺領域の輝度情報がより一層反映された値(代表値)を得ることができる。そして、輝度分布算出ステップでは、複数の代表値のそれぞれごとに、各代表値を基準とした輝度分布データを算出しているので、良品グレー領域ごとの、周辺領域の輝度情報がより一層反映された輝度分布データを得ることができる。これにより、より一層精度の良い基準空間を得ることができる。
【0027】
また、本発明における代表値設定ステップは、前記周辺領域の輝度値の平均値、最小値、最大値、中央値又は偏差に基づいて前記代表値を設定するステップとすることができる。
【0028】
これによれば、平均値、最小値、最大値、中央値又は偏差は、複数の輝度値を考慮して初めて決定できるものであるので、それらに基づいて代表値を設定することで、精度の良い代表値を得ることができる。
【0029】
本発明に係る検査装置は、請求項1〜10のいずれか1項に記載のマハラノビス基準空間の生成方法で生成された前記基準空間が記憶された記憶手段と、
検査品の画像である検査画像を取得する検査画像取得手段と、
その検査画像取得手段が取得した前記検査画像に、良品か否かの区別が付きにくい領域である検査品グレー領域が含まれているか否かを判断するグレー領域判断手段と、
そのグレー領域判断手段が前記検査品グレー領域が含まれていると判断した場合に、前記検査画像の領域のうち前記検査品グレー領域の周辺領域の輝度情報を取得する検査品輝度取得手段と、
その検査品輝度取得手段が取得した前記周辺領域の輝度情報を基準とした前記検査品グレー領域の輝度情報の特徴量である検査品特徴量を算出する検査品特徴量算出手段と、
その検査品特徴量算出手段が算出した前記検査品特徴量と前記記憶手段に記憶された前記基準空間とに基づいて、マハラノビス距離を算出するマハラノビス距離算出手段と、
そのマハラノビス距離算出手段が算出した前記マハラノビス距離に基づいて前記検査品の良否判断を行う良否判断手段と、を備えることを特徴とする。
【0030】
これによれば、検査品の良品判断を行うために、良品か否かの区別が付きにくい検査品グレー領域のマハラノビス距離を算出するので、検査画像全体のマハラノビス距離を算出する場合に比べて、処理時間を短縮することができる。また、検査品グレー領域の周辺領域の輝度情報を基準とした検査品グレー領域の輝度情報の特徴量を算出しているので、検査画像の写り具合の影響が考慮された精度の良い特徴量を得ることができる。そして、良品画像の写り具合の影響が考慮された上記基準空間と、検査画像の写り具合の影響が考慮されたその特徴量とに基づいてマハラノビス距離を算出しているので、画像の写り具合に影響されない精度の良いマハラノビス距離を得ることができる。これにより、画像の写り具合に関わらず、検査品の良否判定を精度良く行うことができる。
【0031】
また、本発明におけるマハラノビス距離算出手段は、前記検査品特徴量を正規化する正規化手段を含み、その正規化手段が正規化した前記検査品特徴量と前記基準空間とに基づいて、前記マハラノビス距離を算出するものであることを特徴とする。
【0032】
これによれば、正規化手段が検査品特徴量を正規化し、マハラノビス距離算出手段は、その正規化された検査品特徴量を使用してマハラノビス距離を算出するので、精度の良いマハラノビス距離を得ることができる。
【0033】
また、本発明の検査装置は、前記グレー領域判断手段が前記検査品グレー領域が含まれていないと判断した場合に、前記検査品を良品と判断する良品判断手段を備えることを特徴とする。
【0034】
これによれば、検査画像に検査品グレー領域が含まれていない場合には、良品判断手段によってその検査品が良品と判断されるので、その検査画像に対してマハラノビス距離を算出する処理を省略することができる。よって、検査品の良否判定の処理時間を短縮することができる。
【図面の簡単な説明】
【0035】
【図1】検査装置1の全体構成を示した図である。
【図2】マハラノビス基準空間の生成手順を示したフローチャートである。
【図3】図2のS2の詳細手順を示したフローチャートである。
【図4】図3の画像処理の出力結果を例示した図である。
【図5】図2のS3の詳細手順を示したフローチャートである。
【図6】図5のS31の詳細手順を示したフローチャートである。
【図7】図6の各処理ステップの過程における良品画像62を示した図である。
【図8】図5のS32の詳細手順を示したフローチャートである。
【図9】良品グレー領域621を示した図である。
【図10】図8のS322の積分特性、S323の画素数特性の算出方法を説明する図である。
【図11】図8のS325の詳細手順を示したフローチャートである。
【図12】図8のS326の詳細手順を示したフローチャートである。
【図13】図2のS4の詳細手順を示したフローチャートである。
【図14】検査品の良否判定手順を示したフローチャートである。
【図15】検査品の複数のサンプルA〜Iの画像71〜79を示した図である。
【図16】従来のマハラノビス基準空間の生成手順を示したフローチャートである。
【発明を実施するための形態】
【0036】
以下、本発明に係るマハラノビス基準空間の生成方法及び検査装置の実施形態を図面を参照しながら説明する。図1は、本実施形態の検査装置1の全体構成を示した図である。その検査装置1は、例えば切削加工した金属部品等の製品の表面にあるムラ、埃、傷、バリ等の有無を検査することで、その製品の外観の良否判定をする装置である。図1に示すように、検査装置1は、画像処理用PC10、報知器20、カメラ30、及び検査台50を備えている。検査台50は、マハラノビス基準空間を生成するための良品サンプル60(図1参照)や、被検査対象となる検査品70(図1参照)が載置される台である。カメラ30は、レンズ31を有し、そのレンズ31を介して検査台50に載置された良品サンプル60や検査品70を撮像するものである。そのカメラ30として、例えばCCDイメージセンサやデジタルスチルカメラを用いることができる。なお、良品サンプル60や検査品70をカメラ30で良好に撮像できるようにするために、良品サンプル60や検査品70に光を照射する照明(図示外)が適宜設けられる。
【0037】
カメラ30で撮像された画像はケーブル40(図1参照)を介して、画像処理用PC10に送信される。画像処理用PC10は、検査品70の画像である検査画像に対して所定の画像処理を施しつつ、MT法を利用してその検査画像の良品判定、すなわち検査品70の良否判定を行うコンピュータである。また、画像処理用PC10は、検査画像の良否判定を行うのに先だって、良品サンプル60の画像である良品画像に基づいて、MT法で使用するマハラノビス基準空間を生成するコンピュータでもある。なお、検査品70を検査するコンピュータとマハラノビス基準空間を生成するコンピュータとを別々にしてもよい。
【0038】
画像処理用PC10は、より詳細には、CPU11及びメモリ12を有しており、CPU11がメモリ12に記憶された制御プログラムにしたがった処理を実行することで、マハラノビス基準空間を生成したり、検査品70の良否判定を行ったりする。なお、それらの詳細は後述する。メモリ12は、CPU11が実行する制御プログラムが記憶されたROMやフラッシュメモリ等の記憶装置である。また、本実施形態では、メモリ12には、画像処理用PC10が生成したマハラノビス基準空間も記憶される。
【0039】
報知器20は、画像処理用PC10によって行われた検査結果(検査品70の良否判定結果)を報知するものである。その報知器20として、例えば音で報知するスピーカや表示で報知するディスプレイを用いることができる。
【0040】
次に、画像処理用PC10が実行するマハラノビス基準空間の生成方法について詳細に説明する。なお、画像処理用PC10がマハラノビス基準空間を生成するタイミングとしては、検査品70を検査する前であればどのタイミングでもよい。ここで、図2は、マハラノビス基準空間の生成手順を示したフローチャートである。先ず、図2を参照してマハラノビス基準空間の生成手順を大まかに説明し、その後、図2の各手順の詳細を説明する。なお、この図2の処理は、例えば、所定の開始スイッチ(図示外)がユーザに操作された場合に開始される。
【0041】
図2において、先ず、良品と予め解っている良品サンプル、すなわち、目視検査員が良品と判断した良品サンプルが検査台50(図1参照)に載置されて、その良品サンプルをカメラ30で撮像してその画像(良品画像)を取得(収集)する(S1)。この際、複数の良品サンプルの良品画像を取得するようにする。次いで、S1で取得した各良品画像に対して、所定の画像処理が施されて、各良品画像に含まれた、良品か否かの区別が付きにくい領域である良品グレー領域を検出する(S2)。次いで、検出された良品グレー領域の輝度情報の特徴量を算出する(S3)。次いで、S3で算出された特徴量に基づいて、マハラノビス基準空間を生成する(S4)。その後、図2のフローチャートの処理を終了する。
【0042】
このように、本発明では、良品画像の全体からマハラノビス基準空間を生成するのではなく、良品画像のうちの良品グレー領域からそれを生成している。ただし、良品グレー領域だけを考慮してマハラノビス基準空間を生成しているわけではなく、その良品グレー領域の周辺領域も考慮してマハラノビス基準空間を生成している。以下、図2の各手順を詳細に説明する。
【0043】
図3は、図2の良品グレー領域を検出する画像処理(S2)の詳細手順を示したフローチャートである。具体的には、図2のS1で取得された良品画像に対して2値化処理(S21)、平滑処理(S22)、差分処理(S23)の順に画像処理を施す。なお、2値化処理、平滑処理、差分処理は当業者であれば説明の必要がないほど汎用的なので、各処理の詳細の説明は省略する。S21〜S23の画像処理によって検出された領域を良品か否かの区別が付きにくい良品グレー領域とする。次いで、その良品グレー領域とS21〜S23の画像処理が施される前の元の良品画像との両方を出力する(S24)。その後、図3のフローチャートの処理を終了する。
【0044】
この図3での画像処理の目的は、不良をほぼ全て検出できるように処理することであり、良品の過検出については問わない。すなわち、一般的に、過検出率と不良流出率はトレードオフの関係であるが、ここでの画像処理は、過検出を行ってもよいので、不良の可能性が少しでもあるものは、全て検出するように画像処理をしている。つまり、その不良の可能性が少しでもあるものを、ここでの良品グレー領域としている。なお、不良をほぼ全て検出できるようにするために、あらかじめ目視検査員が判断した、不良とわかっているサンプルを収集し、それらが全て検出できるように画像処理、つまりS21〜S23の各画像処理の条件(例えば2値化処理をする際の閾値)を決定している。
【0045】
なお、良品グレー領域を検出するための画像処理は、図3の処理手順(2値化処理→平滑処理→差分処理)のアルゴリズムに関わらず、既存として存在するアルゴリズムの中で、不良流出を極力防ぐように構成されたアルゴリズムであれば、当業者で利用しているものでも、それを利用することができる。
【0046】
ここで、図4は、図3の画像処理の出力結果を例示した図であり、より厳密には、複数の良品サンプルA〜Eの入力画像61〜65と、それら入力画像61〜65に対する出力とを示している。なお、2値化処理、平滑処理及び差分処理は当業者であれば説明の必要がないほど汎用的なので、図4では、上記処理の途中経過については省略している。図4に示すように、ここでは、5つの良品サンプルA〜Eを用意し、図2のS1において、それら良品サンプルA〜Eの良品画像61〜65が取得される。そして、各良品画像61〜65が、図3の画像処理をするための入力画像とされる。良品サンプルAの良品画像61と良品サンプルDの良品画像64は汚れやムラの無いきれいな画像であることを想定している、また、良品サンプルBはその表面にムラがあることを想定しており、そのためにその良品画像62にはムラを示した良品グレー領域621が含まれている。同様に、良品サンプルEはその表面にムラがあることを想定しており、そのためにその良品画像65にはムラを示した良品グレー領域651が含まれている。また、良品サンプルCはその表面に埃が載っていることを想定しており、そのためにその良品画像63には埃を示した良品グレー領域631が含まれている。
【0047】
これら良品画像61〜65に対して、図3のS21〜S23の画像処理を施すことで、S24において、図4の下欄の出力画像が出力される。具体的には、良品サンプルBの良品画像62に対しては、その良品画像62に含まれる良品グレー領域621及び良品画像62が出力される。また、良品サンプルCの良品画像63に対しては、その良品画像63に含まれる良品グレー領域631及び良品画像63が出力される。また、良品サンプルEの良品画像65に対しては、その良品画像65に含まれる良品グレー領域651及び良品画像65が出力される。なお、良品サンプルA及び良品サンプルDは良品グレー領域が含まれていない良品であるので、図3のS24においては何も出力されない。なお、ムラや埃を良品とするか、不良とするかどうかは、検出要件によって異なるが、図4の例では、ムラや埃はただのノイズとして、良品と扱う事を前提にしている。そのため、図3のS21〜S23の画像処理においては、良品画像62、63、65に対して過検出をしている状況とされる。
【0048】
次に、図2のS3の特徴量算出処理の詳細を説明する。ここで、図5はその特徴量算出処理の詳細手順を示したフローチャートである。本発明では、良品グレー領域の特徴量として、良品グレー領域の周辺領域の輝度情報を基準とした良品グレー領域の輝度分布データを算出する。具体的には、先ず、良品グレー領域の周辺領域の輝度情報を基準とするために、その周辺領域の輝度情報を代表する閾値THを設定する(S31)。なお、その閾値THが本発明の「代表値」に相当する。図6は、その閾値設定の詳細手順を示したフローチャートである。なお、ここでは、図4のサンプルBの良品画像62及びその良品グレー領域621を図6の処理の対象として説明する。また、図7は、図6の各処理ステップの過程における良品画像62を示した図である。
【0049】
先のS2で検出した良品グレー領域621及びそれが含まれた良品画像62(図7(a)参照)が入力されて、先ず、良品画像62に含まれた良品グレー領域621の領域を拡大する領域拡大処理を実行する(S311)。具体的には、図7(b)に示すように、先のS2で検出した良品グレー領域621について、良品グレー領域621のエッジ621b全周に渡ってその良品グレー領域621を特定範囲大きくした領域622を、原画像である良品画像62から取得する(S311)。本実施形態では、良品グレー領域621の拡大率を、そのエッジ621b+1pixcel(図7(b)参照)に設定している。
【0050】
次いで、差分処理を施して、良品グレー領域621と拡大領域622との差分領域623を抽出する(S312、図7(c)参照)。この差分領域623は、(拡大領域622)−(良品グレー領域621)を行うことで抽出できる。なお、この差分領域623が、良品グレー領域621の周辺領域とされる。以下、差分領域623を周辺領域と言う。
【0051】
次いで、周辺領域623の各画素の輝度値を取得する(S313)。ここで、説明簡略のために、図7(d)に示すように、周辺領域623の画素数を15画素としてS313の処理の具体例を説明する。S313では、周辺領域623の各画素623aに順番に番号を割り振っていく。ここでは、図7(d)に示すように、図7(d)の紙面左上にいくほど小さい番号になるよう、言い換えると紙面右下にいくほど大きい番号になるように、各画素623aに対して1番から順番に番号を割り振っていく。この場合、15番まで番号が割り振られることになる。また、各画素623aに番号を割り振るのと並行して、各画素623aの輝度値を取得していく。これによって得られた輝度データを次の表1に示す。なお、表1では、割り振られた番号順に輝度値を示している。
【0052】
【表1】
【0053】
次いで、表1の各輝度値の最小値(本実施形態の場合は1番:輝度値35)と、各輝度値の平均値を取得する(S314)。ただし、輝度値は整数で表されるものであるので、求めた平均値(41.067)の小数点以下は切り捨てて、平均輝度値は41として取得する。
【0054】
次いで、それら輝度値の最小値、平均値に基づいて、周辺領域623の輝度情報を代表する閾値THを設定する(S315)。具体的には、求めた最小値と平均値の間の範囲で複数の閾値THを設定するようにする。ここでは、良品グレー領域621の特徴量を算出するための閾値THとして、35(最小値)〜41(平均値)の範囲で、35、37、39、41というように設定している。最小値と平均値の間の範囲でどのように閾値THを設定するかは、例えば、設定する閾値THの数が予め定められており、その閾値THの数で最小値と平均値の間の範囲を等分したときにおける各等分点の値を閾値THとして設定する。なお、良品グレー領域621以外の良品グレー領域631、651(図4参照)についても、前述と同様の処理を行って、それぞれの領域631、651について閾値THを設定する。
【0055】
なお、本実施形態では、輝度の最小値、平均値に基づいて閾値THを設定しているが、例えば輝度値の偏差、中央値、最大値などを利用することもできる。例えば最小値と偏差を利用する場合には、最小値±3σ(σ=標準偏差)の範囲で、任意に閾値THを設定することや、最大値±3σの範囲で閾値THを設定することもできる。このように、閾値THを設定する方法はいくらでも存在するが、本発明の特徴は、この閾値THを、良品グレー領域の周辺領域の輝度情報から決めていることにある。
【0056】
S315で閾値THを設定した後、図6のフローチャートの処理を終了して、図5の処理に戻る。次いで、S31で設定した閾値THに基づいて、良品グレー領域の輝度分布データを算出する(S32)。ここで、図8は、その輝度分布データの算出の詳細手順を示したフローチャートである。なお、ここでも、図4のサンプルBの良品画像62を図8の処理の対象として説明する。また、良品画像62に含まれる良品グレー領域621の画素数が11画素として説明する。先ず、良品画像62に含まれる良品グレー領域621の各画素の輝度値を取得する(S321)。ここで、図9は、良品グレー領域621を示した図である。S321では、良品グレー領域621の各画素621a(図9参照)に順番に番号を割り振っていく。ここでは、先に説明した周辺領域の場合と同様に、図9の紙面左上にいくほど、言い換えると紙面右下にいくほど大きい番号になるように、各画素621aに対して1番から11番まで順番に番号を割り振っていく。また、各画素621aに番号を割り振るのと並行して、各画素621aの輝度値を取得していく。これによって得られた輝度データを次の表2に示す。なお、表2では、割り振られた番号順に輝度値を示している。
【0057】
【表2】
【0058】
次いで、表2の各輝度値及び先の図5のS31で設定した閾値THに基づいて、その閾値THを基準とした良品グレー領域621の輝度分布データを算出する(S322、S323)。具体的には、先ず、良品グレー領域621の輝度分布データとして、良品グレー領域621がその周辺領域623(図7参照)に対してどの程度明るくされているかを示した積分特性を算出する(S322)。ここで、図10(a)は、その積分特性の算出方法を説明する図であり、具体的には、横軸が画素番号、縦軸が輝度値のグラフを示している。また、図10(a)のグラフは、表2の各輝度値が点でプロットされている。なお、それら各輝度値の点をP1〜P11で示している。また、図10(a)では、先で設定した閾値THのラインL1(図10(a)では、閾値TH=35のラインL1)が引かれている。
【0059】
積分特性の算出をするために、輝度値P1〜P11のうち閾値THのラインL1より高い輝度値P3、P5、P6、P9、P10、P11から閾値THを引いたときの値を、各輝度値P3、P5、P6、P9、P10、P11ごとに算出する。輝度値Pと閾値THの差分値をΔPとすると、図10(a)では、画素番号3の差分値ΔP3、画素番号5の差分値ΔP5、画素番号6の差分値ΔP6、画素番号9の差分値ΔP9、画素番号10の差分値ΔP10及び画素番号11の差分値ΔP11を示している。なお、閾値THより小さい輝度値に対する差分値ΔPに関しては、ΔP=0として計算する。そして、各差分値ΔPの合計値(=Σ(輝度値−閾値TH))を積分特性として算出する。図10(a)では、閾値TH=35の例を示しているが、S322では、他の閾値TH(=37、39、41)に対しても、それぞれ積分特性を算出する。
【0060】
なお、今回の説明では、閾値THより上側(大きい)にある輝度値を対象としているが、逆に、閾値THより下側(小さい)部分の輝度値の面積に相当する積分特性(=Σ(閾値TH−輝度値))を算出してもよい。この場合には、良品グレー領域がその周辺領域に対してどの程度暗くされているかを示した特徴量を得ることができる。また、複数設定した閾値THの一部を上側にある輝度値を対象とし、別の閾値THは下側にある輝度値を対象にしてもよい。
【0061】
図8の説明に戻り、S322で積分特性を算出した後、次いで、良品グレー領域621の輝度分布データとして、良品グレー領域621のうち、その周辺領域623(図7参照)より明るくされている領域がどの程度含まれているかを示した画素数特性を算出する(S323)。ここで、図10(b)は、その画素数特性の算出方法を説明する図であり、具体的には、図10(a)と同様に、横軸が画素番号、縦軸が輝度値のグラフに、各輝度値をプロットした点P1〜P11、閾値THのラインL1を示した図である。画素数特性として、閾値TH以上の輝度値Pを持つ画素の数をカウントしていく。図10(b)に示すように、閾値TH以上の輝度値Pは、輝度値P3、P4、P5、P6、P9、P10、P11とされる。よって、閾値TH=35の場合、画素数特性=7(画素)となる。図10(b)では、閾値TH=35の例を示しているが、S323では、他の閾値TH(=37、39、41)に対しても、それぞれ画素数特性を算出する。
【0062】
なお、画素数特性の算出に関しても、閾値TH以上の輝度値を持つ画素の数をカウントするのとは逆に、閾値THより小さい輝度値を持つ画素の数をカウントするようにしてもよい。この場合には、グレー領域のうち、その周辺領域より暗くされている領域がどの程度含まれているかを示した特徴量を得ることができる。また、複数設定した閾値THの一部を閾値TH以上の輝度値を持つ画素を対象とし、別の閾値THは閾値THより小さい輝度値を持つ画素を対象にしてもよい。なお、S322の処理とS323の処理は、どちらの処理を先に実行もよく、また並列して同時に実行してもよい。
【0063】
S322及びS323によって得られた輝度分布データを次の表3に示す。なお、表3では、説明の対象とした良品グレー領域621の輝度分布データを示している。また、表3に示す閾値THは、良品グレー領域621に限った値であり、良品グレー領域の情報が変われば、それに伴って、周辺領域の輝度情報が変わるため、閾値THは変わる。つまり、良品グレー領域ごとに、閾値THが設定される。
【0064】
【表3】
【0065】
S322及びS323にて算出した良品グレー領域の輝度分布データだけでもマハラノビス基準空間を生成するための十分条件であるが、さらに精度の良いマハラノビス基準空間を生成するために、他の特徴量を算出するようにしてもよい。そこで、図8のS323の処理の後、マハラノビス基準空間の良否判別精度を向上させるか否かを判断する(S324)。この判断は、例えば、マハラノビス基準空間の良否判別精度を向上させるか否かをユーザに確認し、そのユーザからの確認結果に基づいて、行う。ここで、マハラノビス基準空間の良否判別精度を向上させないと判断した場合には(S324:No)、図8のフローチャートの処理を終了する。この場合には、他の特徴量の算出が行われないので、基準空間を生成するための処理時間を短縮することができる。これに対し、マハラノビス基準空間の良否判別精度を向上させると判断した場合には(S324:Yes)、処理をS325に進める。
【0066】
S325では、先のS321にて取得した良品グレー領域の各画素の輝度値を、輝度値の大きさの順に並び替える並替処理を実行する。ここで、図11は、S325の並替処理の詳細手順を示したフローチャートである。なお、ここでは、上記表2の良品グレー領域621の輝度値に対して、図11の処理を適用した場合について説明する。先ず、表2の輝度値に対して昇順ソートを施して昇順に並び替える(S331)。このときの結果を次の表4に示す。
【0067】
【表4】
【0068】
次いで、表4の各画素の画素番号が順番になるように画素番号の再セットを行う(S332)。このときの結果を次の表5に示す。その後、図11のフローチャートの処理を終了する。
【0069】
【表5】
【0070】
図8の説明に戻り、次いで、S326〜S328にて、S325で並び替えた輝度値間の変化特性を示した変化特性値を算出する。具体的には、先ず、並び替えた輝度値に対して、大きさが隣り合う二つの輝度値間の変化特性を示した隣接変化特性値を算出する(S326)。ここで、図12は、そのS326の処理の詳細手順を示したフローチャートである。このフローチャートの処理では、iを1、2、3として、3回のループ処理が行われるようになっている。先ず、変数を初期化するために、nを1に、counterを0に設定する(S341、S342)。次いで、S325で並び替えたデータ(表5参照)から、n番目の画素の輝度値X(n)を取得し(S343)、n+1番目の画素の輝度値X(n+1)を取得する(S344)。ただし、nは、1、2、3、4・・・、Nmax(=良品グレー領域の画素数−1)とされる。表5の場合では11画素なので、nは1〜10までとされる。
【0071】
次いで、それら輝度値X(n)、X(n+1)の差分値ΔX(=X(n+1)−X(n))を算出する(S345)。次いで、その差分値ΔXが変数i以上とされているか否かを判断する(S346)。差分値ΔXが変数i以上の場合は(S346:Yes)、変数counterに1を加える(S347)。これに対して、差分値ΔXが変数i未満の場合には(S346:No)、現状の変数counterに保持する。次いで、変数nがNmax(=良品グレー領域の画素数−1)に達したか否かを判断する(S348)。未だ達していなければ(S348:No)、nに1を加えて(S349)、S343の処理に戻る。この場合、画素番号が前回から1大きくした隣り合う輝度値X(n)、X(n+1)に対して、上記と同じ処理が繰り返される(S343〜S348)。このように、変数nがNmaxに達するまでは、変数i以上とされる差分値ΔXの個数が変数counterとしてカウントされることになる。
【0072】
S348において、変数nがNmaxに達した場合には(S348:Yes)、counterの現在の値を取得するとともに(S350)、変数iに1を加えて、その新しい変数iに対して上記の処理(S341〜S349)が繰り返される。そして、変数i=3のときに、変数nがNmaxに達した場合に(S348:Yes、S350)、図12のフローチャートの処理を終了する。
【0073】
なお、本実施形態では、ループ数を3回としたが、特にループ数は限定するものではない。また、差分値ΔXが変数i以上の場合にcounterを1加算するとしていたが(S346、S347)、S346の閾値についても変数i以上に限定されるものではない。例えば、変数i×2を閾値としたり、変数iに拘ることなく単に1、3、5、7というように数値を閾値としたりしてもよい。
【0074】
ここで、変数i=1の場合について具体的な数値を用いて、図12の処理を説明する。なお、ここでは上記の表5の数値を用いて説明する。表5において、変数n=1の場合、1番目の輝度値X(n)=30、2番目の輝度値X(n+1)=31であるので、それら差分値ΔXは31−30=1と算出される。この差分値ΔX=1は、変数iの値である1以上であるので、counterに1が加算される。その後、変数nが2になって、2番目の輝度値X(n)=31、3番目の輝度値X(n+1)=31であるので、それら差分値ΔX=0と算出される。よって、counterの値は保持されて、変数nに1が加算される。これを繰り返していき、最終的に変数nが10になった段階で、変数i=1の場合の処理が完了する。良品グレー領域621について、変数iが1、2、3の場合のそれぞれのcounterの値を次の表6に示す。
【0075】
【表6】
【0076】
このように、S326の処理では、隣接変化特性値としてcounterの値が算出される。この隣接変化特性値は、不良の比較的急峻に変化する輝度(輝度の最小値と最大値の差が大きい)と、不良でないノイズの比較的なだらかな輝度変化(輝度の最小値と最大値の差が小さい)の差を抽出する役割を果たしている。
【0077】
図8の説明に戻り、S326の処理の後、S325で並び替えられた輝度値を近似式で表した場合におけるその近似式の特性を示した近似式特性値を算出する(S327、S328)。本実施形態では、各輝度値を最小二乗法にてy=ax+bの直線で近似をする場合におけるその直線の傾きaと切片bを、近似式特性値として算出する。n個(表5の場合はn=11)の輝度値(x1、y1)、(x2、y2)、・・・、(xn、yn)の場合、先ず、次の式1によって、傾きaを算出する(S327)。なお、nは画素数、xは画素番号、yは輝度値である。
【0078】
【数1】
【0079】
次いで、次の式2によって、切片bを算出する(S328)。その後、図8のフローチャートの処理を終了する。
【0080】
【数2】
【0081】
良品グレー領域621の場合(表5の場合)における傾きa及び切片bを次の表7に示す。
【0082】
【表7】
【0083】
このように、傾きa及び切片bは、各画素の輝度値を近似した近似式の特性を示したものであるので、良品グレー領域の輝度が各画素間でどのように変化しているかの特徴量を得ることができる。なお、S327、S328における近似式は直線近似でなくてもよく、例えば、y=ax+bにおけるxを対数にすることで、対数関数としての傾きaや切片bを、特徴量として求めてもよい。
【0084】
以上説明した図8の処理によって算出された、良品グレー領域621の輝度分布データの結果を次の表8に示す。
【0085】
【表8】
【0086】
以降、本明細書では、積分特性や画素数特性、輝度変化などを「項目」と記載し、それぞれの項目から得られた輝度分布データを総括して「特徴量」と記載する。なお、表8において、積分特性と画素数特性の項目で設定している閾値THは、良品グレー領域621に対するものなので、他の良品グレー領域631、651(図4参照)の特徴量を算出する場合には、各良品グレー領域ごとの閾値THが設定される。
【0087】
説明を図5に戻り、S32によって輝度分布データを算出した後、図5のフローチャートの処理を終了して、図2のフローチャートの処理に戻る。図2において、次いで、S3で算出した特徴量に基づいて、マハラノビス基準空間を生成する(S4)。ここで、図13は、S4の処理の詳細手順を示したフローチャートである。以下、説明を簡略化するために、S3で算出した特徴量を次の表9の記号に置き換えて、マハラノビス基準空間の生成方法について説明する。なお、表9では、図4の良品グレー領域621、631、651のそれぞれについて、各項目に対する特徴量を記号Xで示している。また、各特徴量Xの添え字nは良品グレー領域のサンプル数を示しており、添え字kは項目数を示している。
【0088】
【表9】
【0089】
マハラノビス基準空間の生成方法としては幾つか手法が確立されているが、本実施形態では、その中でも頻繁に利用される計算方法で生成を行っている。なお、生成の過程で、上記表9のnとkの関係は少なくともn>=kである必要がある。表9では、良品グレー領域621、631、651のみ特徴量Xを示しているが、実際は、その他にも沢山のサンプル数nが確保されている。なお、表9の場合には、積分特性と画素数特性の計算において、良品グレー領域621、631、651ごとに閾値THが決まるが、以降は簡略化のために、閾値THと、輝度変化、傾き、切片を省略して説明していく。
【0090】
図13において、先ず、次の式3によって特徴量Xの正規化を行う(S41)。なお、式3において、Xj(式3ではオーバーバー付)はj番目の項目の平均値であり、σjはj番目の項目の標準偏差である。
【0091】
【数3】
【0092】
式3で正規化した後のデータxを次の表10に示す。
【0093】
【表10】
【0094】
次いで、次の式4によって相関係数rpqを算出する(S42)。その後、各相関係数r11〜rkkから構成された相関行列Rを生成する(S42)。
【0095】
【数4】
【0096】
次いで、次の式5で示すように、相関行列Rの逆行列Aを算出する(S43)。その逆行列Aをマハラノビス基準空間とする。
【0097】
【数5】
【0098】
その後、図13のフローチャートの処理を終了して、図2のフローチャートの処理に戻る。そして、S4の処理の後、図2のフローチャートの処理を終了する。以上のようにして、本発明におけるマハラノビス基準空間が生成される。その生成したマハラノビス基準空間は、検査品の良否判定を行う際に使用するために、メモリ12(図1参照)に記憶される。
【0099】
次に、画像処理用PC10が実行する検査品の良否判定の方法について詳細に説明する。ここで、図14は、その方法の手順を示したフローチャートである。なお、図14のフローチャートの処理は、例えば、所定の開始スイッチ(図示外)がユーザに操作された場合に開始される。
【0100】
先ず、検査台50(図1参照)に載置された検査品をカメラ30で撮像して、その撮像画像である検査画像を取得する(S51)。次いで、その検査画像に対して所定の画像処理を施して、その検査画像に含まれるグレー領域(検査品グレー領域)を検出する(S52)。このS52の処理の詳細は、先に説明した基準空間を生成するときの処理(図3の処理)と同じである。また、このときの画像処理(図3の2値化処理、平滑処理、差分処理)の条件は、良品画像の良品グレー領域を検出したときの条件と同じに設定する。つまり、検査品グレー領域は、良品グレー領域と同様に、良品か否かの区別が付きにくい領域とされ、換言すると不良の可能性のある領域とされる。
【0101】
次いで、S52の処理によって検査品グレー領域が検出されたか否かを判断する(S53)。これは、S52の処理によって検査品グレー領域が検出された場合にはその検査品グレー領域が出力されるので、検査品グレー領域の出力の有無によってS53の判断を行う。検査品グレー領域が検出されなかった場合には(S53:No)、その検査品は良品であると判断し(S61)、図14のフローチャートを終了する。これに対し、検査品グレー領域が検出された場合には(S53:Yes)、処理をS54に進める。
【0102】
S54では、その検査品グレー領域の輝度分布データ(特徴量)を算出する(S54)。このS54の処理の詳細は、先に説明した基準空間を生成するときの処理(図2のS3の処理)と同じである。すなわち、検査品グレー領域の周辺領域を基準とした輝度分布データを算出する。次いで、上記の式3と同様の式によって、その輝度分布データである特徴量を正規化する(S55)。なお、正規化の際に用いる平均値と標準偏差は、上記式3の良品画像の平均値Xj(式3ではオーバーバー付き)及び標準偏差σjを用いる。次いで、メモリ12(図1参照)に記憶されたマハラノビス基準空間を読み出す(S56)。
【0103】
次いで、そのマハラノビス基準空間に基づいて、検査画像、厳密には検査画像に含まれた検査品グレー領域のマハラノビス距離(MD値)を算出する(S57)。具体的には、マハラノビス基準空間(上記式5参照)と、S55で正規化した特徴量のデータ(x11〜xik、ただしkは項目数、iはi=1、2、3、・・・、識別したい検査品グレー領域の数)とを、次の式6、式7に代入することにより、MD値を算出する。
【0104】
【数6】
【0105】
【数7】
【0106】
例えば、検査品グレー領域が5箇所検出された場合には、各検査品グレー領域にi=1番から5番までの番号を振ったときに、上記式6、式7によって、1番(i=1)におけるMD値〜5番(i=5)におけるMD値の全部で5つのMD値が算出される。
【0107】
次いで、そのMD値が予め設定された閾値以上であるか否かを判断する(S58)。MD値が閾値より小さい場合には(S58:No)、その検査品は良品であると判断する(S60)。これに対し、MD値が閾値以上の場合には(S58:Yes)、その検査品は不良品であると判断する(S59)。なお、閾値の設定方法についてはいくつかの方法が考えられるが、以下にその1例をあげる。すなわち、予め良品か不良か解っている被検査対象のMD値をそれぞれ求め、テスト用閾値を設定し、誤判定した場合の損失を求める。テスト用閾値を複数変更した場合に、一番損失が少なくなる閾値を、S58で使用する閾値に設定する。なお、不良流出を可能な限り防ぐ場合には、予め不良と解っている被検査対象のMD値を複数求め、求めたMD値の最小値よりも小さい値で閾値を設定する。
【0108】
その後、良品(S60)、不良(S59)に関わらず報知器20(ディスプレイなど)で報知する(S62)。特に不良判定の場合には、検査員などがそれを認識できるように、ディスプレイ上で強調したり、音を出したりするなどして、報知の度合いを強くする(S62)。その後、図14のフローチャートの処理を終了する。
【0109】
次に、具体的な検査品のサンプルを挙げて、本実施形態の検査装置1(図1参照)による良否判定を行った場合について説明する。ここで、図15は、検査品の複数のサンプルA〜Iの画像71〜79を示している。図15の上段に示したサンプルA〜Fは、目視検査員が良品と判断した良品サンプルとされる。ただし、良品サンプルA、B、Dにはそれぞれムラが存在し、それら画像71、72、74にはムラを示した領域(検査品グレー領域)711、721、741が含まれている。また、良品サンプルCには埃が存在し、そのためにその画像73には埃を示した領域(検査品グレー領域)731が含まれている。また、良品サンプルE、Fはきれいな良品であり、そのためにそれら画像75、76には検査品グレー領域が含まれていない。一方、図15の下段に示したサンプルG〜Iは、目視検査員が不良と判断した不良サンプルである。各不良サンプルG〜Iには不良の原因とされる欠陥が存在し、そのためにそれら画像77〜79には欠陥を示した領域(検査品グレー領域)771〜791が含まれている。
【0110】
また、これらの画像71〜79を得る際には撮像する時間帯を変更している。具体的には、サンプルB、E、Iの画像72、75、79は夜の時間帯に撮像したものであり、そのためにそれら画像72、75、79は全体的に暗くされている。また、サンプルD、F、Gの画像74、76、77は朝の時間帯に撮像したものであり、そのためにそれら画像74、76、77は全体的に明るくされている。また、サンプルA、C、Hの画像71、73、78は昼の時間帯に撮像したものであり、そのためにそれら画像71、73、78は通常の明るさ(朝の撮像時の明るさと夜の撮像時の明るさの中間)とされている。
【0111】
これらの画像71〜79に対して、検査装置1で良否判定を実施した結果例を次の表11に示す。
【0112】
【表11】
【0113】
表11に示すように、画像75、76(良品サンプルE、F)には検査品グレー領域が含まれていないので、それら画像75、76に対してはMD値は算出されない。また、検査品グレー領域を含む良品サンプルA、B、C、Dに対しては、1.2〜1.8のMD値が算出されている。また、不良サンプルG〜Iの画像77〜79に対しては、14.4〜23.5のMD値が算出されている。このように、検査装置1では、画像の写り方(明暗)によって変化する周辺領域の輝度情報を取得して、画像処理で検出したグレー領域の特徴量を得るための閾値を設定しているため、画像の写り方に影響されずに、特徴量を計算することができる。よって、良品と不良のMD値について、充分なMD値の差を得ることができる。
【0114】
以上説明したように、本実施形態では、画像全体ではなく、良品か否かの区別が付きにくい検査品グレー領域のMD値に基づいて、検査品の良否判定を行っているので、その判定を行うための処理時間を短縮することができる。また、検査品に検査品グレー領域が含まれていない場合には、MD値を算出しないで良品と判定しているので、迅速にその判定をすることができる。また、グレー領域(良品グレー領域、検査品グレー領域)の周辺領域の輝度情報を基準として、そのグレー領域の特徴量を得ているので、画像の写り方に影響されないマハラノビス基準空間やMD値を算出することができる。よって、画像の写り方に関わらず良否判定を精度良く行うことができる。
【0115】
なお、上記実施形態において、図2のS1の処理が本発明の「良品画像取得ステップ」に相当する。図2のS2の処理が本発明の「認識ステップ」に相当する。図6のS311〜S313の処理が本発明の「輝度取得ステップ」に相当する。図2のS3の処理が本発明の「特徴量算出ステップ」に相当する。図2のS4の処理が本発明の「生成ステップ」に相当する。図6のS314及びS315の処理が本発明の「代表値設定ステップ」に相当する。図8のS321〜S323の処理が本発明の「輝度分布算出ステップ」に相当する。図8のS325の処理が本発明の「並替ステップ」に相当する。図8のS326〜S328の処理が本発明の「変化特性値算出ステップ」に相当する。メモリ12が本発明の「記憶手段」に相当する。図14のS51の処理を実行する画像処理用PC10が本発明の「検査画像取得手段」に相当する。図14のS52及びS53の処理を実行する画像処理用PC10が本発明の「グレー領域判断手段」に相当する。図14のS54の処理を実行する画像処理用PC10が本発明の「検査品輝度取得手段」及び「検査品特徴量算出手段」に相当する。図14のS55〜S57の処理を実行する画像処理用PC10が本発明の「マハラノビス距離算出手段」に相当する。図14のS55の処理を実行する画像処理用PC10が本発明の「正規化手段」に相当する。図14のS58〜S60の処理を実行する画像処理用PC10が本発明の「良否判断手段」に相当する。図14のS61の処理を実行する画像処理用PC10が本発明の「良品判断手段」に相当する。
【符号の説明】
【0116】
1 検査装置
10 画像処理用PC
11 CPU
12 メモリ
20 報知器
30 カメラ
61〜65 良品画像
621、631、651 良品グレー領域
623 周辺領域
71〜79 検査画像
711、721、731、741、771、781、791 検査品グレー領域
【技術分野】
【0001】
本発明は、マハラノビス・タグチ法(MT法)を利用して、製品の外観検査を行う技術に関する。
【背景技術】
【0002】
従来、製品の外観検査は人手に頼る部分が大きく、この場合、検査員が目視でその検査を実施する。しかし、最終ユーザからの検査品質向上要求、人海戦術検査による人件費増大対策から、近年、市場では画像認識技術を利用した製品の外観検査の自動化が求められている。外観検査を自動的に行う検査装置は、先ずカメラや照明などの撮像機器によって検査品の外観を撮像する。そして、その撮像した検査画像に対して所定の画像処理を行うアルゴリズムにより検査品の良否判定を行う。ここで、そのアルゴリズムの一つに、MT法を利用した方法が従来知られている(例えば特許文献1参照)。
【0003】
このMT法は、多数の情報をマハラノビス距離という一つの尺度に集約し、このマハラノビス距離の大小によって、良否を判定する方法である。具体的には、良品の外観を撮像した良品画像から特徴量を抽出して、マハラノビス距離を算出するための基準空間(以下、マハラノビス基準空間とも言う)を生成する。次いで、検査品の外観を撮像した検査画像の特徴量と基準空間とに基づいて、マハラノビス距離を算出する。そして、そのマハラノビス距離の大小に基づいて検査品の良否判定を行うというものである。
【0004】
ここで、従来のマハラノビス基準空間の生成方法について説明する。図16は、従来のマハラノビス基準空間の生成手順を示したフローチャートである。先ず、マハラノビス基準空間を生成するために、評価の基準となる正常な画像サンプル(良品画像)を取得する(S101)。次いで、S101で取得したサンプル画像を所定の大きさごとに(例えば640×480)に切り取っていく(S102)。次いで、切り取った画像について、そのR、G、Bの輝度(8bit:0〜255)データから、それぞれ0〜15、16〜31、32〜47、・・・、240〜255の16段階(R、G、Bでは48段階)の輝度範囲にある画素数をカウントし、R、G、Bの輝度分布データを計算する(S103)。次いで、S103で計算した輝度分布データを良品画像の特徴量とし、その特徴量に基づいてマハラノビス基準空間を生成する(S104)。
【先行技術文献】
【特許文献】
【0005】
【特許文献1】特開2005−252451号公報
【発明の概要】
【発明が解決しようとする課題】
【0006】
ところで、上記のようにして生成した基準空間を検査時に利用する場合には、被検査対象となる検査画像に対しても、上述のS102のように切り取る処理を行って、切り取った画像ごとに輝度分布データを求める必要がある。しかし、その切り取った画像の範囲が例えば640×480のような大きな範囲になると、640×480=307200の画素に対して演算が必要になる。さらに、この方法を検査画像のサイズ(フレームサイズ)で行う必要があるので、切り取る画像の枚数も多くなり、演算時間がさらに増加する。MT法では数値計算をする必要があるが、製品の外観を撮像する近年のCCDカメラでは分解能UPの要求から数百万画素単位で取り込めるものが汎用的になってきつつあり、数百万からなる画素を処理するためには、上記の従来方法では計算量が多くなってしまい、その結果、検査時間が長くなってしまうという問題がある。
【0007】
また、従来の方法では、検査の際、画像が予期せぬ写り方をする場合がある。具体的には、例えば、画像全体が暗くまたは明るく写った場合や、画像処理で切り取った画像の一部が暗く、一部が明るかったりする場合がある。なお、画像が暗く写ったり明るく写ったりする原因としては例えば以下の(1)〜(3)の場合が考えられる。
(1)外乱などの影響で偶発する場合
(2)照明を長い期間にわたり使用し続ける(照明の劣化による)場合
(3)検査品の表面形状や材質の影響で、検査品の表面に均一な光を照射することが難しい場合
【0008】
このように画像が予期せぬ写り方をした場合、その画像に不良とされる領域が写っている、写っていないに関わらず、画像全体の輝度のシフトが起こる。その輝度のシフトに伴って、輝度分布データもシフトするために、その画像が良品、不良品に関わらずマハラノビス距離(MD値)の増大を招く。この場合、検査装置の過検出(良品を不良と判断すること)に繋がるという問題がある。
【0009】
本発明は上記問題に鑑みてなされたものであり、MT法を利用して検査品の良否判定を行う技術に関して、画像の暗い、明るいといった写り具合に関わらず精度良く良否判定を行うことを第一の課題とする。また、良否判定をするための処理時間を短縮することを第二の課題とする。
【課題を解決するための手段】
【0010】
上記課題を解決するために、本発明に係るマハラノビス基準空間の生成方法は、良品か否かの区別が付きにくい領域である良品グレー領域を含む良品画像を取得する良品画像取得ステップと、
その良品画像取得ステップで取得した前記良品画像に含まれる前記良品グレー領域を認識する認識ステップと、
前記良品画像の領域のうち前記認識ステップで認識した前記良品グレー領域の周辺領域の輝度情報を取得する輝度取得ステップと、
その輝度取得ステップで取得した前記周辺領域の輝度情報を基準とした前記良品グレー領域の輝度情報の特徴量を算出する特徴量算出ステップと、
その特徴量算出ステップで算出した前記特徴量に基づいて、マハラノビス距離を算出するための基準空間を生成する生成ステップと、を含むことを特徴とする。
【0011】
これによれば、良品画像に含まれる良品グレー領域に着目して基準空間を生成する。ここで、現状、目視検査員による検査は、不良領域だけを見て不良と判定しているわけではなく、不良領域と、不良の周りの領域を相対的に比較することによって区別している。つまり、対象が確かに不良だと判定するためには、対象の周りの情報が必要になる。この点、本発明では、良品グレー領域の周辺領域の輝度情報を基準とした良品グレー領域の輝度情報の特徴量を算出しているので、良品画像の写り具合の影響が考慮された特徴量を得ることができる。そして、その特徴量に基づいて基準空間を生成しているので、良品画像の写り具合の影響が考慮された精度の良い基準空間を得ることができる。よって、検査品の良否判定をする際にこの基準空間を利用することで、画像の写り具合に関わらず精度良くその良否判定を行うことができる。また、良品画像全体ではなく良品グレー領域から基準空間を生成しているので、その基準空間を生成するための処理時間や、その基準空間を利用して検査品の良否判定をするための処理時間を短縮することができる。
【0012】
また、本発明における前記特徴量算出ステップは、前記周辺領域の輝度情報を代表する代表値を設定する代表値設定ステップと、
その代表値設定ステップで設定した前記代表値を基準とした前記良品グレー領域の輝度情報の分布を示した輝度分布データを前記特徴量として算出する輝度分布算出ステップと、を含むことを特徴とする。
【0013】
これによれば、代表値設定ステップで、周辺領域の輝度情報の代表値を設定しているので、周辺領域の輝度情報が分布している場合であってもその周辺領域の輝度情報が反映された値(代表値)を得ることができる。そして、輝度分布算出ステップで、代表値を基準とした輝度分布データを算出しているので、周辺領域の輝度情報を基準とした良品グレー領域の特徴量を得ることができる。
【0014】
ここで、その輝度分布算出ステップは、前記良品グレー領域の各画素の輝度値のうち前記代表値より大きい各輝度値と前記代表値との差分値をそれぞれ算出し、それら差分値の合計値と、前記良品グレー領域の各画素の輝度値のうち前記代表値より小さい各輝度値と前記代表値との差分値をそれぞれ算出し、それら差分値の合計値の少なくとも一方を前記輝度分布データとして算出するステップとすることができる。
【0015】
これによれば、輝度分布算出ステップで、良品グレー領域の各画素の輝度値のうち代表値より大きい各輝度値と代表値との差分値の合計値を算出するので、周辺領域に対してグレー領域がどの程度明るくされているのかを示した特徴量を得ることができる。また、その輝度分布算出ステップでは、上記の合計値に代えて、又は上記の合計値と共に、良品グレー領域の各画素の輝度値のうち代表値より小さい各輝度値と代表値との差分値の合計値を算出するので、周辺領域に対してグレー領域がどの程度暗くされているのかを示した特徴量を得ることができる。
【0016】
また、輝度分布算出ステップは、前記良品グレー領域の各画素のうち前記代表値より大きい輝度値の画素の数と前記代表値より小さい輝度値の画素の数の少なくとも一方を前記輝度分布データとして算出するステップとすることもできる。
【0017】
これによれば、グレー領域のうち、周辺領域より明るくされている領域がどの程度含まれているかを示した特徴量と周辺領域より暗くされている領域がどの程度含まれているかを示した特徴量の一方又は両方を得ることができる。
【0018】
また、輝度分布算出ステップは、前記良品グレー領域の各画素の輝度値のうち前記代表値より大きい各輝度値と前記代表値との各差分値の合計値、前記良品グレー領域の各画素の輝度値のうち前記代表値より小さい各輝度値と前記代表値との各差分値の合計値、前記良品グレー領域の各画素のうち前記代表値より大きい輝度値の画素の数、及び前記良品グレー領域の各画素のうち前記代表値より小さい輝度値の画素の数の少なくともいずれか一つを前記輝度分布データとして算出するステップであるとしてもよい。これにより、上記の4つの特徴量の中から選択される1又は複数の特徴量を得ることができる。
【0019】
また、本発明における前記特徴量算出ステップは、
前記良品グレー領域の各画素の輝度値を輝度値の大きさの順に並び替える並替ステップと、
その並替ステップで並び替えた輝度値間の変化特性を示した変化特性値を前記特徴量として算出する変化特性値算出ステップと、をさらに含むことを特徴とする。
【0020】
これによれば、並替ステップで、良品グレー領域の各画素の輝度値を輝度値の大きさの順に並び替え、変化特性値算出ステップで、その並び替えた輝度値間の変化特性を示した変化特性値を算出しているので、良品グレー領域の輝度がどのように変化しているかを示した特徴量を得ることができる。これにより、良品グレー領域の特徴をより一層反映した基準空間を得ることができる。
【0021】
ここで、その変化特性値算出ステップは、前記並替ステップで並び替えた輝度値から、大きさが隣り合う二つの輝度値の差分値である隣接変化値を算出し、その隣接変化値の特性を示した隣接変化特性値を前記変化特性値として算出するステップとすることができる。
【0022】
これにより、隣り合う二つの輝度値が、どの程度輝度変化しているかを示した特徴量を得ることができる。
【0023】
また、変化特性値算出ステップは、前記並替ステップで並び替えた輝度値間の変化を近似した近似式を算出し、その近似式の特性を示した近似式特性値を前記変化特性値として算出するステップとしてもよい。
【0024】
これによれば、変化特性値算出ステップで算出される近似式特性値は、輝度値間の変化を近似した近似式の特性を示しているので、グレー領域の輝度が各画素間でどのように変化しているかを示した特徴量を得ることができる。
【0025】
また、本発明における前記代表値設定ステップは、良品グレー領域ごとに互いに値が異なる複数の前記代表値を設定するステップであり、
前記輝度分布算出ステップは、前記複数の代表値のそれぞれごとに、各代表値を基準とした前記輝度分布データを算出するステップであることを特徴とする。
【0026】
これによれば、代表値設定ステップで、互いに値が異なる複数の代表値を設定するので、良品グレー領域ごとの、周辺領域の輝度情報がより一層反映された値(代表値)を得ることができる。そして、輝度分布算出ステップでは、複数の代表値のそれぞれごとに、各代表値を基準とした輝度分布データを算出しているので、良品グレー領域ごとの、周辺領域の輝度情報がより一層反映された輝度分布データを得ることができる。これにより、より一層精度の良い基準空間を得ることができる。
【0027】
また、本発明における代表値設定ステップは、前記周辺領域の輝度値の平均値、最小値、最大値、中央値又は偏差に基づいて前記代表値を設定するステップとすることができる。
【0028】
これによれば、平均値、最小値、最大値、中央値又は偏差は、複数の輝度値を考慮して初めて決定できるものであるので、それらに基づいて代表値を設定することで、精度の良い代表値を得ることができる。
【0029】
本発明に係る検査装置は、請求項1〜10のいずれか1項に記載のマハラノビス基準空間の生成方法で生成された前記基準空間が記憶された記憶手段と、
検査品の画像である検査画像を取得する検査画像取得手段と、
その検査画像取得手段が取得した前記検査画像に、良品か否かの区別が付きにくい領域である検査品グレー領域が含まれているか否かを判断するグレー領域判断手段と、
そのグレー領域判断手段が前記検査品グレー領域が含まれていると判断した場合に、前記検査画像の領域のうち前記検査品グレー領域の周辺領域の輝度情報を取得する検査品輝度取得手段と、
その検査品輝度取得手段が取得した前記周辺領域の輝度情報を基準とした前記検査品グレー領域の輝度情報の特徴量である検査品特徴量を算出する検査品特徴量算出手段と、
その検査品特徴量算出手段が算出した前記検査品特徴量と前記記憶手段に記憶された前記基準空間とに基づいて、マハラノビス距離を算出するマハラノビス距離算出手段と、
そのマハラノビス距離算出手段が算出した前記マハラノビス距離に基づいて前記検査品の良否判断を行う良否判断手段と、を備えることを特徴とする。
【0030】
これによれば、検査品の良品判断を行うために、良品か否かの区別が付きにくい検査品グレー領域のマハラノビス距離を算出するので、検査画像全体のマハラノビス距離を算出する場合に比べて、処理時間を短縮することができる。また、検査品グレー領域の周辺領域の輝度情報を基準とした検査品グレー領域の輝度情報の特徴量を算出しているので、検査画像の写り具合の影響が考慮された精度の良い特徴量を得ることができる。そして、良品画像の写り具合の影響が考慮された上記基準空間と、検査画像の写り具合の影響が考慮されたその特徴量とに基づいてマハラノビス距離を算出しているので、画像の写り具合に影響されない精度の良いマハラノビス距離を得ることができる。これにより、画像の写り具合に関わらず、検査品の良否判定を精度良く行うことができる。
【0031】
また、本発明におけるマハラノビス距離算出手段は、前記検査品特徴量を正規化する正規化手段を含み、その正規化手段が正規化した前記検査品特徴量と前記基準空間とに基づいて、前記マハラノビス距離を算出するものであることを特徴とする。
【0032】
これによれば、正規化手段が検査品特徴量を正規化し、マハラノビス距離算出手段は、その正規化された検査品特徴量を使用してマハラノビス距離を算出するので、精度の良いマハラノビス距離を得ることができる。
【0033】
また、本発明の検査装置は、前記グレー領域判断手段が前記検査品グレー領域が含まれていないと判断した場合に、前記検査品を良品と判断する良品判断手段を備えることを特徴とする。
【0034】
これによれば、検査画像に検査品グレー領域が含まれていない場合には、良品判断手段によってその検査品が良品と判断されるので、その検査画像に対してマハラノビス距離を算出する処理を省略することができる。よって、検査品の良否判定の処理時間を短縮することができる。
【図面の簡単な説明】
【0035】
【図1】検査装置1の全体構成を示した図である。
【図2】マハラノビス基準空間の生成手順を示したフローチャートである。
【図3】図2のS2の詳細手順を示したフローチャートである。
【図4】図3の画像処理の出力結果を例示した図である。
【図5】図2のS3の詳細手順を示したフローチャートである。
【図6】図5のS31の詳細手順を示したフローチャートである。
【図7】図6の各処理ステップの過程における良品画像62を示した図である。
【図8】図5のS32の詳細手順を示したフローチャートである。
【図9】良品グレー領域621を示した図である。
【図10】図8のS322の積分特性、S323の画素数特性の算出方法を説明する図である。
【図11】図8のS325の詳細手順を示したフローチャートである。
【図12】図8のS326の詳細手順を示したフローチャートである。
【図13】図2のS4の詳細手順を示したフローチャートである。
【図14】検査品の良否判定手順を示したフローチャートである。
【図15】検査品の複数のサンプルA〜Iの画像71〜79を示した図である。
【図16】従来のマハラノビス基準空間の生成手順を示したフローチャートである。
【発明を実施するための形態】
【0036】
以下、本発明に係るマハラノビス基準空間の生成方法及び検査装置の実施形態を図面を参照しながら説明する。図1は、本実施形態の検査装置1の全体構成を示した図である。その検査装置1は、例えば切削加工した金属部品等の製品の表面にあるムラ、埃、傷、バリ等の有無を検査することで、その製品の外観の良否判定をする装置である。図1に示すように、検査装置1は、画像処理用PC10、報知器20、カメラ30、及び検査台50を備えている。検査台50は、マハラノビス基準空間を生成するための良品サンプル60(図1参照)や、被検査対象となる検査品70(図1参照)が載置される台である。カメラ30は、レンズ31を有し、そのレンズ31を介して検査台50に載置された良品サンプル60や検査品70を撮像するものである。そのカメラ30として、例えばCCDイメージセンサやデジタルスチルカメラを用いることができる。なお、良品サンプル60や検査品70をカメラ30で良好に撮像できるようにするために、良品サンプル60や検査品70に光を照射する照明(図示外)が適宜設けられる。
【0037】
カメラ30で撮像された画像はケーブル40(図1参照)を介して、画像処理用PC10に送信される。画像処理用PC10は、検査品70の画像である検査画像に対して所定の画像処理を施しつつ、MT法を利用してその検査画像の良品判定、すなわち検査品70の良否判定を行うコンピュータである。また、画像処理用PC10は、検査画像の良否判定を行うのに先だって、良品サンプル60の画像である良品画像に基づいて、MT法で使用するマハラノビス基準空間を生成するコンピュータでもある。なお、検査品70を検査するコンピュータとマハラノビス基準空間を生成するコンピュータとを別々にしてもよい。
【0038】
画像処理用PC10は、より詳細には、CPU11及びメモリ12を有しており、CPU11がメモリ12に記憶された制御プログラムにしたがった処理を実行することで、マハラノビス基準空間を生成したり、検査品70の良否判定を行ったりする。なお、それらの詳細は後述する。メモリ12は、CPU11が実行する制御プログラムが記憶されたROMやフラッシュメモリ等の記憶装置である。また、本実施形態では、メモリ12には、画像処理用PC10が生成したマハラノビス基準空間も記憶される。
【0039】
報知器20は、画像処理用PC10によって行われた検査結果(検査品70の良否判定結果)を報知するものである。その報知器20として、例えば音で報知するスピーカや表示で報知するディスプレイを用いることができる。
【0040】
次に、画像処理用PC10が実行するマハラノビス基準空間の生成方法について詳細に説明する。なお、画像処理用PC10がマハラノビス基準空間を生成するタイミングとしては、検査品70を検査する前であればどのタイミングでもよい。ここで、図2は、マハラノビス基準空間の生成手順を示したフローチャートである。先ず、図2を参照してマハラノビス基準空間の生成手順を大まかに説明し、その後、図2の各手順の詳細を説明する。なお、この図2の処理は、例えば、所定の開始スイッチ(図示外)がユーザに操作された場合に開始される。
【0041】
図2において、先ず、良品と予め解っている良品サンプル、すなわち、目視検査員が良品と判断した良品サンプルが検査台50(図1参照)に載置されて、その良品サンプルをカメラ30で撮像してその画像(良品画像)を取得(収集)する(S1)。この際、複数の良品サンプルの良品画像を取得するようにする。次いで、S1で取得した各良品画像に対して、所定の画像処理が施されて、各良品画像に含まれた、良品か否かの区別が付きにくい領域である良品グレー領域を検出する(S2)。次いで、検出された良品グレー領域の輝度情報の特徴量を算出する(S3)。次いで、S3で算出された特徴量に基づいて、マハラノビス基準空間を生成する(S4)。その後、図2のフローチャートの処理を終了する。
【0042】
このように、本発明では、良品画像の全体からマハラノビス基準空間を生成するのではなく、良品画像のうちの良品グレー領域からそれを生成している。ただし、良品グレー領域だけを考慮してマハラノビス基準空間を生成しているわけではなく、その良品グレー領域の周辺領域も考慮してマハラノビス基準空間を生成している。以下、図2の各手順を詳細に説明する。
【0043】
図3は、図2の良品グレー領域を検出する画像処理(S2)の詳細手順を示したフローチャートである。具体的には、図2のS1で取得された良品画像に対して2値化処理(S21)、平滑処理(S22)、差分処理(S23)の順に画像処理を施す。なお、2値化処理、平滑処理、差分処理は当業者であれば説明の必要がないほど汎用的なので、各処理の詳細の説明は省略する。S21〜S23の画像処理によって検出された領域を良品か否かの区別が付きにくい良品グレー領域とする。次いで、その良品グレー領域とS21〜S23の画像処理が施される前の元の良品画像との両方を出力する(S24)。その後、図3のフローチャートの処理を終了する。
【0044】
この図3での画像処理の目的は、不良をほぼ全て検出できるように処理することであり、良品の過検出については問わない。すなわち、一般的に、過検出率と不良流出率はトレードオフの関係であるが、ここでの画像処理は、過検出を行ってもよいので、不良の可能性が少しでもあるものは、全て検出するように画像処理をしている。つまり、その不良の可能性が少しでもあるものを、ここでの良品グレー領域としている。なお、不良をほぼ全て検出できるようにするために、あらかじめ目視検査員が判断した、不良とわかっているサンプルを収集し、それらが全て検出できるように画像処理、つまりS21〜S23の各画像処理の条件(例えば2値化処理をする際の閾値)を決定している。
【0045】
なお、良品グレー領域を検出するための画像処理は、図3の処理手順(2値化処理→平滑処理→差分処理)のアルゴリズムに関わらず、既存として存在するアルゴリズムの中で、不良流出を極力防ぐように構成されたアルゴリズムであれば、当業者で利用しているものでも、それを利用することができる。
【0046】
ここで、図4は、図3の画像処理の出力結果を例示した図であり、より厳密には、複数の良品サンプルA〜Eの入力画像61〜65と、それら入力画像61〜65に対する出力とを示している。なお、2値化処理、平滑処理及び差分処理は当業者であれば説明の必要がないほど汎用的なので、図4では、上記処理の途中経過については省略している。図4に示すように、ここでは、5つの良品サンプルA〜Eを用意し、図2のS1において、それら良品サンプルA〜Eの良品画像61〜65が取得される。そして、各良品画像61〜65が、図3の画像処理をするための入力画像とされる。良品サンプルAの良品画像61と良品サンプルDの良品画像64は汚れやムラの無いきれいな画像であることを想定している、また、良品サンプルBはその表面にムラがあることを想定しており、そのためにその良品画像62にはムラを示した良品グレー領域621が含まれている。同様に、良品サンプルEはその表面にムラがあることを想定しており、そのためにその良品画像65にはムラを示した良品グレー領域651が含まれている。また、良品サンプルCはその表面に埃が載っていることを想定しており、そのためにその良品画像63には埃を示した良品グレー領域631が含まれている。
【0047】
これら良品画像61〜65に対して、図3のS21〜S23の画像処理を施すことで、S24において、図4の下欄の出力画像が出力される。具体的には、良品サンプルBの良品画像62に対しては、その良品画像62に含まれる良品グレー領域621及び良品画像62が出力される。また、良品サンプルCの良品画像63に対しては、その良品画像63に含まれる良品グレー領域631及び良品画像63が出力される。また、良品サンプルEの良品画像65に対しては、その良品画像65に含まれる良品グレー領域651及び良品画像65が出力される。なお、良品サンプルA及び良品サンプルDは良品グレー領域が含まれていない良品であるので、図3のS24においては何も出力されない。なお、ムラや埃を良品とするか、不良とするかどうかは、検出要件によって異なるが、図4の例では、ムラや埃はただのノイズとして、良品と扱う事を前提にしている。そのため、図3のS21〜S23の画像処理においては、良品画像62、63、65に対して過検出をしている状況とされる。
【0048】
次に、図2のS3の特徴量算出処理の詳細を説明する。ここで、図5はその特徴量算出処理の詳細手順を示したフローチャートである。本発明では、良品グレー領域の特徴量として、良品グレー領域の周辺領域の輝度情報を基準とした良品グレー領域の輝度分布データを算出する。具体的には、先ず、良品グレー領域の周辺領域の輝度情報を基準とするために、その周辺領域の輝度情報を代表する閾値THを設定する(S31)。なお、その閾値THが本発明の「代表値」に相当する。図6は、その閾値設定の詳細手順を示したフローチャートである。なお、ここでは、図4のサンプルBの良品画像62及びその良品グレー領域621を図6の処理の対象として説明する。また、図7は、図6の各処理ステップの過程における良品画像62を示した図である。
【0049】
先のS2で検出した良品グレー領域621及びそれが含まれた良品画像62(図7(a)参照)が入力されて、先ず、良品画像62に含まれた良品グレー領域621の領域を拡大する領域拡大処理を実行する(S311)。具体的には、図7(b)に示すように、先のS2で検出した良品グレー領域621について、良品グレー領域621のエッジ621b全周に渡ってその良品グレー領域621を特定範囲大きくした領域622を、原画像である良品画像62から取得する(S311)。本実施形態では、良品グレー領域621の拡大率を、そのエッジ621b+1pixcel(図7(b)参照)に設定している。
【0050】
次いで、差分処理を施して、良品グレー領域621と拡大領域622との差分領域623を抽出する(S312、図7(c)参照)。この差分領域623は、(拡大領域622)−(良品グレー領域621)を行うことで抽出できる。なお、この差分領域623が、良品グレー領域621の周辺領域とされる。以下、差分領域623を周辺領域と言う。
【0051】
次いで、周辺領域623の各画素の輝度値を取得する(S313)。ここで、説明簡略のために、図7(d)に示すように、周辺領域623の画素数を15画素としてS313の処理の具体例を説明する。S313では、周辺領域623の各画素623aに順番に番号を割り振っていく。ここでは、図7(d)に示すように、図7(d)の紙面左上にいくほど小さい番号になるよう、言い換えると紙面右下にいくほど大きい番号になるように、各画素623aに対して1番から順番に番号を割り振っていく。この場合、15番まで番号が割り振られることになる。また、各画素623aに番号を割り振るのと並行して、各画素623aの輝度値を取得していく。これによって得られた輝度データを次の表1に示す。なお、表1では、割り振られた番号順に輝度値を示している。
【0052】
【表1】
【0053】
次いで、表1の各輝度値の最小値(本実施形態の場合は1番:輝度値35)と、各輝度値の平均値を取得する(S314)。ただし、輝度値は整数で表されるものであるので、求めた平均値(41.067)の小数点以下は切り捨てて、平均輝度値は41として取得する。
【0054】
次いで、それら輝度値の最小値、平均値に基づいて、周辺領域623の輝度情報を代表する閾値THを設定する(S315)。具体的には、求めた最小値と平均値の間の範囲で複数の閾値THを設定するようにする。ここでは、良品グレー領域621の特徴量を算出するための閾値THとして、35(最小値)〜41(平均値)の範囲で、35、37、39、41というように設定している。最小値と平均値の間の範囲でどのように閾値THを設定するかは、例えば、設定する閾値THの数が予め定められており、その閾値THの数で最小値と平均値の間の範囲を等分したときにおける各等分点の値を閾値THとして設定する。なお、良品グレー領域621以外の良品グレー領域631、651(図4参照)についても、前述と同様の処理を行って、それぞれの領域631、651について閾値THを設定する。
【0055】
なお、本実施形態では、輝度の最小値、平均値に基づいて閾値THを設定しているが、例えば輝度値の偏差、中央値、最大値などを利用することもできる。例えば最小値と偏差を利用する場合には、最小値±3σ(σ=標準偏差)の範囲で、任意に閾値THを設定することや、最大値±3σの範囲で閾値THを設定することもできる。このように、閾値THを設定する方法はいくらでも存在するが、本発明の特徴は、この閾値THを、良品グレー領域の周辺領域の輝度情報から決めていることにある。
【0056】
S315で閾値THを設定した後、図6のフローチャートの処理を終了して、図5の処理に戻る。次いで、S31で設定した閾値THに基づいて、良品グレー領域の輝度分布データを算出する(S32)。ここで、図8は、その輝度分布データの算出の詳細手順を示したフローチャートである。なお、ここでも、図4のサンプルBの良品画像62を図8の処理の対象として説明する。また、良品画像62に含まれる良品グレー領域621の画素数が11画素として説明する。先ず、良品画像62に含まれる良品グレー領域621の各画素の輝度値を取得する(S321)。ここで、図9は、良品グレー領域621を示した図である。S321では、良品グレー領域621の各画素621a(図9参照)に順番に番号を割り振っていく。ここでは、先に説明した周辺領域の場合と同様に、図9の紙面左上にいくほど、言い換えると紙面右下にいくほど大きい番号になるように、各画素621aに対して1番から11番まで順番に番号を割り振っていく。また、各画素621aに番号を割り振るのと並行して、各画素621aの輝度値を取得していく。これによって得られた輝度データを次の表2に示す。なお、表2では、割り振られた番号順に輝度値を示している。
【0057】
【表2】
【0058】
次いで、表2の各輝度値及び先の図5のS31で設定した閾値THに基づいて、その閾値THを基準とした良品グレー領域621の輝度分布データを算出する(S322、S323)。具体的には、先ず、良品グレー領域621の輝度分布データとして、良品グレー領域621がその周辺領域623(図7参照)に対してどの程度明るくされているかを示した積分特性を算出する(S322)。ここで、図10(a)は、その積分特性の算出方法を説明する図であり、具体的には、横軸が画素番号、縦軸が輝度値のグラフを示している。また、図10(a)のグラフは、表2の各輝度値が点でプロットされている。なお、それら各輝度値の点をP1〜P11で示している。また、図10(a)では、先で設定した閾値THのラインL1(図10(a)では、閾値TH=35のラインL1)が引かれている。
【0059】
積分特性の算出をするために、輝度値P1〜P11のうち閾値THのラインL1より高い輝度値P3、P5、P6、P9、P10、P11から閾値THを引いたときの値を、各輝度値P3、P5、P6、P9、P10、P11ごとに算出する。輝度値Pと閾値THの差分値をΔPとすると、図10(a)では、画素番号3の差分値ΔP3、画素番号5の差分値ΔP5、画素番号6の差分値ΔP6、画素番号9の差分値ΔP9、画素番号10の差分値ΔP10及び画素番号11の差分値ΔP11を示している。なお、閾値THより小さい輝度値に対する差分値ΔPに関しては、ΔP=0として計算する。そして、各差分値ΔPの合計値(=Σ(輝度値−閾値TH))を積分特性として算出する。図10(a)では、閾値TH=35の例を示しているが、S322では、他の閾値TH(=37、39、41)に対しても、それぞれ積分特性を算出する。
【0060】
なお、今回の説明では、閾値THより上側(大きい)にある輝度値を対象としているが、逆に、閾値THより下側(小さい)部分の輝度値の面積に相当する積分特性(=Σ(閾値TH−輝度値))を算出してもよい。この場合には、良品グレー領域がその周辺領域に対してどの程度暗くされているかを示した特徴量を得ることができる。また、複数設定した閾値THの一部を上側にある輝度値を対象とし、別の閾値THは下側にある輝度値を対象にしてもよい。
【0061】
図8の説明に戻り、S322で積分特性を算出した後、次いで、良品グレー領域621の輝度分布データとして、良品グレー領域621のうち、その周辺領域623(図7参照)より明るくされている領域がどの程度含まれているかを示した画素数特性を算出する(S323)。ここで、図10(b)は、その画素数特性の算出方法を説明する図であり、具体的には、図10(a)と同様に、横軸が画素番号、縦軸が輝度値のグラフに、各輝度値をプロットした点P1〜P11、閾値THのラインL1を示した図である。画素数特性として、閾値TH以上の輝度値Pを持つ画素の数をカウントしていく。図10(b)に示すように、閾値TH以上の輝度値Pは、輝度値P3、P4、P5、P6、P9、P10、P11とされる。よって、閾値TH=35の場合、画素数特性=7(画素)となる。図10(b)では、閾値TH=35の例を示しているが、S323では、他の閾値TH(=37、39、41)に対しても、それぞれ画素数特性を算出する。
【0062】
なお、画素数特性の算出に関しても、閾値TH以上の輝度値を持つ画素の数をカウントするのとは逆に、閾値THより小さい輝度値を持つ画素の数をカウントするようにしてもよい。この場合には、グレー領域のうち、その周辺領域より暗くされている領域がどの程度含まれているかを示した特徴量を得ることができる。また、複数設定した閾値THの一部を閾値TH以上の輝度値を持つ画素を対象とし、別の閾値THは閾値THより小さい輝度値を持つ画素を対象にしてもよい。なお、S322の処理とS323の処理は、どちらの処理を先に実行もよく、また並列して同時に実行してもよい。
【0063】
S322及びS323によって得られた輝度分布データを次の表3に示す。なお、表3では、説明の対象とした良品グレー領域621の輝度分布データを示している。また、表3に示す閾値THは、良品グレー領域621に限った値であり、良品グレー領域の情報が変われば、それに伴って、周辺領域の輝度情報が変わるため、閾値THは変わる。つまり、良品グレー領域ごとに、閾値THが設定される。
【0064】
【表3】
【0065】
S322及びS323にて算出した良品グレー領域の輝度分布データだけでもマハラノビス基準空間を生成するための十分条件であるが、さらに精度の良いマハラノビス基準空間を生成するために、他の特徴量を算出するようにしてもよい。そこで、図8のS323の処理の後、マハラノビス基準空間の良否判別精度を向上させるか否かを判断する(S324)。この判断は、例えば、マハラノビス基準空間の良否判別精度を向上させるか否かをユーザに確認し、そのユーザからの確認結果に基づいて、行う。ここで、マハラノビス基準空間の良否判別精度を向上させないと判断した場合には(S324:No)、図8のフローチャートの処理を終了する。この場合には、他の特徴量の算出が行われないので、基準空間を生成するための処理時間を短縮することができる。これに対し、マハラノビス基準空間の良否判別精度を向上させると判断した場合には(S324:Yes)、処理をS325に進める。
【0066】
S325では、先のS321にて取得した良品グレー領域の各画素の輝度値を、輝度値の大きさの順に並び替える並替処理を実行する。ここで、図11は、S325の並替処理の詳細手順を示したフローチャートである。なお、ここでは、上記表2の良品グレー領域621の輝度値に対して、図11の処理を適用した場合について説明する。先ず、表2の輝度値に対して昇順ソートを施して昇順に並び替える(S331)。このときの結果を次の表4に示す。
【0067】
【表4】
【0068】
次いで、表4の各画素の画素番号が順番になるように画素番号の再セットを行う(S332)。このときの結果を次の表5に示す。その後、図11のフローチャートの処理を終了する。
【0069】
【表5】
【0070】
図8の説明に戻り、次いで、S326〜S328にて、S325で並び替えた輝度値間の変化特性を示した変化特性値を算出する。具体的には、先ず、並び替えた輝度値に対して、大きさが隣り合う二つの輝度値間の変化特性を示した隣接変化特性値を算出する(S326)。ここで、図12は、そのS326の処理の詳細手順を示したフローチャートである。このフローチャートの処理では、iを1、2、3として、3回のループ処理が行われるようになっている。先ず、変数を初期化するために、nを1に、counterを0に設定する(S341、S342)。次いで、S325で並び替えたデータ(表5参照)から、n番目の画素の輝度値X(n)を取得し(S343)、n+1番目の画素の輝度値X(n+1)を取得する(S344)。ただし、nは、1、2、3、4・・・、Nmax(=良品グレー領域の画素数−1)とされる。表5の場合では11画素なので、nは1〜10までとされる。
【0071】
次いで、それら輝度値X(n)、X(n+1)の差分値ΔX(=X(n+1)−X(n))を算出する(S345)。次いで、その差分値ΔXが変数i以上とされているか否かを判断する(S346)。差分値ΔXが変数i以上の場合は(S346:Yes)、変数counterに1を加える(S347)。これに対して、差分値ΔXが変数i未満の場合には(S346:No)、現状の変数counterに保持する。次いで、変数nがNmax(=良品グレー領域の画素数−1)に達したか否かを判断する(S348)。未だ達していなければ(S348:No)、nに1を加えて(S349)、S343の処理に戻る。この場合、画素番号が前回から1大きくした隣り合う輝度値X(n)、X(n+1)に対して、上記と同じ処理が繰り返される(S343〜S348)。このように、変数nがNmaxに達するまでは、変数i以上とされる差分値ΔXの個数が変数counterとしてカウントされることになる。
【0072】
S348において、変数nがNmaxに達した場合には(S348:Yes)、counterの現在の値を取得するとともに(S350)、変数iに1を加えて、その新しい変数iに対して上記の処理(S341〜S349)が繰り返される。そして、変数i=3のときに、変数nがNmaxに達した場合に(S348:Yes、S350)、図12のフローチャートの処理を終了する。
【0073】
なお、本実施形態では、ループ数を3回としたが、特にループ数は限定するものではない。また、差分値ΔXが変数i以上の場合にcounterを1加算するとしていたが(S346、S347)、S346の閾値についても変数i以上に限定されるものではない。例えば、変数i×2を閾値としたり、変数iに拘ることなく単に1、3、5、7というように数値を閾値としたりしてもよい。
【0074】
ここで、変数i=1の場合について具体的な数値を用いて、図12の処理を説明する。なお、ここでは上記の表5の数値を用いて説明する。表5において、変数n=1の場合、1番目の輝度値X(n)=30、2番目の輝度値X(n+1)=31であるので、それら差分値ΔXは31−30=1と算出される。この差分値ΔX=1は、変数iの値である1以上であるので、counterに1が加算される。その後、変数nが2になって、2番目の輝度値X(n)=31、3番目の輝度値X(n+1)=31であるので、それら差分値ΔX=0と算出される。よって、counterの値は保持されて、変数nに1が加算される。これを繰り返していき、最終的に変数nが10になった段階で、変数i=1の場合の処理が完了する。良品グレー領域621について、変数iが1、2、3の場合のそれぞれのcounterの値を次の表6に示す。
【0075】
【表6】
【0076】
このように、S326の処理では、隣接変化特性値としてcounterの値が算出される。この隣接変化特性値は、不良の比較的急峻に変化する輝度(輝度の最小値と最大値の差が大きい)と、不良でないノイズの比較的なだらかな輝度変化(輝度の最小値と最大値の差が小さい)の差を抽出する役割を果たしている。
【0077】
図8の説明に戻り、S326の処理の後、S325で並び替えられた輝度値を近似式で表した場合におけるその近似式の特性を示した近似式特性値を算出する(S327、S328)。本実施形態では、各輝度値を最小二乗法にてy=ax+bの直線で近似をする場合におけるその直線の傾きaと切片bを、近似式特性値として算出する。n個(表5の場合はn=11)の輝度値(x1、y1)、(x2、y2)、・・・、(xn、yn)の場合、先ず、次の式1によって、傾きaを算出する(S327)。なお、nは画素数、xは画素番号、yは輝度値である。
【0078】
【数1】
【0079】
次いで、次の式2によって、切片bを算出する(S328)。その後、図8のフローチャートの処理を終了する。
【0080】
【数2】
【0081】
良品グレー領域621の場合(表5の場合)における傾きa及び切片bを次の表7に示す。
【0082】
【表7】
【0083】
このように、傾きa及び切片bは、各画素の輝度値を近似した近似式の特性を示したものであるので、良品グレー領域の輝度が各画素間でどのように変化しているかの特徴量を得ることができる。なお、S327、S328における近似式は直線近似でなくてもよく、例えば、y=ax+bにおけるxを対数にすることで、対数関数としての傾きaや切片bを、特徴量として求めてもよい。
【0084】
以上説明した図8の処理によって算出された、良品グレー領域621の輝度分布データの結果を次の表8に示す。
【0085】
【表8】
【0086】
以降、本明細書では、積分特性や画素数特性、輝度変化などを「項目」と記載し、それぞれの項目から得られた輝度分布データを総括して「特徴量」と記載する。なお、表8において、積分特性と画素数特性の項目で設定している閾値THは、良品グレー領域621に対するものなので、他の良品グレー領域631、651(図4参照)の特徴量を算出する場合には、各良品グレー領域ごとの閾値THが設定される。
【0087】
説明を図5に戻り、S32によって輝度分布データを算出した後、図5のフローチャートの処理を終了して、図2のフローチャートの処理に戻る。図2において、次いで、S3で算出した特徴量に基づいて、マハラノビス基準空間を生成する(S4)。ここで、図13は、S4の処理の詳細手順を示したフローチャートである。以下、説明を簡略化するために、S3で算出した特徴量を次の表9の記号に置き換えて、マハラノビス基準空間の生成方法について説明する。なお、表9では、図4の良品グレー領域621、631、651のそれぞれについて、各項目に対する特徴量を記号Xで示している。また、各特徴量Xの添え字nは良品グレー領域のサンプル数を示しており、添え字kは項目数を示している。
【0088】
【表9】
【0089】
マハラノビス基準空間の生成方法としては幾つか手法が確立されているが、本実施形態では、その中でも頻繁に利用される計算方法で生成を行っている。なお、生成の過程で、上記表9のnとkの関係は少なくともn>=kである必要がある。表9では、良品グレー領域621、631、651のみ特徴量Xを示しているが、実際は、その他にも沢山のサンプル数nが確保されている。なお、表9の場合には、積分特性と画素数特性の計算において、良品グレー領域621、631、651ごとに閾値THが決まるが、以降は簡略化のために、閾値THと、輝度変化、傾き、切片を省略して説明していく。
【0090】
図13において、先ず、次の式3によって特徴量Xの正規化を行う(S41)。なお、式3において、Xj(式3ではオーバーバー付)はj番目の項目の平均値であり、σjはj番目の項目の標準偏差である。
【0091】
【数3】
【0092】
式3で正規化した後のデータxを次の表10に示す。
【0093】
【表10】
【0094】
次いで、次の式4によって相関係数rpqを算出する(S42)。その後、各相関係数r11〜rkkから構成された相関行列Rを生成する(S42)。
【0095】
【数4】
【0096】
次いで、次の式5で示すように、相関行列Rの逆行列Aを算出する(S43)。その逆行列Aをマハラノビス基準空間とする。
【0097】
【数5】
【0098】
その後、図13のフローチャートの処理を終了して、図2のフローチャートの処理に戻る。そして、S4の処理の後、図2のフローチャートの処理を終了する。以上のようにして、本発明におけるマハラノビス基準空間が生成される。その生成したマハラノビス基準空間は、検査品の良否判定を行う際に使用するために、メモリ12(図1参照)に記憶される。
【0099】
次に、画像処理用PC10が実行する検査品の良否判定の方法について詳細に説明する。ここで、図14は、その方法の手順を示したフローチャートである。なお、図14のフローチャートの処理は、例えば、所定の開始スイッチ(図示外)がユーザに操作された場合に開始される。
【0100】
先ず、検査台50(図1参照)に載置された検査品をカメラ30で撮像して、その撮像画像である検査画像を取得する(S51)。次いで、その検査画像に対して所定の画像処理を施して、その検査画像に含まれるグレー領域(検査品グレー領域)を検出する(S52)。このS52の処理の詳細は、先に説明した基準空間を生成するときの処理(図3の処理)と同じである。また、このときの画像処理(図3の2値化処理、平滑処理、差分処理)の条件は、良品画像の良品グレー領域を検出したときの条件と同じに設定する。つまり、検査品グレー領域は、良品グレー領域と同様に、良品か否かの区別が付きにくい領域とされ、換言すると不良の可能性のある領域とされる。
【0101】
次いで、S52の処理によって検査品グレー領域が検出されたか否かを判断する(S53)。これは、S52の処理によって検査品グレー領域が検出された場合にはその検査品グレー領域が出力されるので、検査品グレー領域の出力の有無によってS53の判断を行う。検査品グレー領域が検出されなかった場合には(S53:No)、その検査品は良品であると判断し(S61)、図14のフローチャートを終了する。これに対し、検査品グレー領域が検出された場合には(S53:Yes)、処理をS54に進める。
【0102】
S54では、その検査品グレー領域の輝度分布データ(特徴量)を算出する(S54)。このS54の処理の詳細は、先に説明した基準空間を生成するときの処理(図2のS3の処理)と同じである。すなわち、検査品グレー領域の周辺領域を基準とした輝度分布データを算出する。次いで、上記の式3と同様の式によって、その輝度分布データである特徴量を正規化する(S55)。なお、正規化の際に用いる平均値と標準偏差は、上記式3の良品画像の平均値Xj(式3ではオーバーバー付き)及び標準偏差σjを用いる。次いで、メモリ12(図1参照)に記憶されたマハラノビス基準空間を読み出す(S56)。
【0103】
次いで、そのマハラノビス基準空間に基づいて、検査画像、厳密には検査画像に含まれた検査品グレー領域のマハラノビス距離(MD値)を算出する(S57)。具体的には、マハラノビス基準空間(上記式5参照)と、S55で正規化した特徴量のデータ(x11〜xik、ただしkは項目数、iはi=1、2、3、・・・、識別したい検査品グレー領域の数)とを、次の式6、式7に代入することにより、MD値を算出する。
【0104】
【数6】
【0105】
【数7】
【0106】
例えば、検査品グレー領域が5箇所検出された場合には、各検査品グレー領域にi=1番から5番までの番号を振ったときに、上記式6、式7によって、1番(i=1)におけるMD値〜5番(i=5)におけるMD値の全部で5つのMD値が算出される。
【0107】
次いで、そのMD値が予め設定された閾値以上であるか否かを判断する(S58)。MD値が閾値より小さい場合には(S58:No)、その検査品は良品であると判断する(S60)。これに対し、MD値が閾値以上の場合には(S58:Yes)、その検査品は不良品であると判断する(S59)。なお、閾値の設定方法についてはいくつかの方法が考えられるが、以下にその1例をあげる。すなわち、予め良品か不良か解っている被検査対象のMD値をそれぞれ求め、テスト用閾値を設定し、誤判定した場合の損失を求める。テスト用閾値を複数変更した場合に、一番損失が少なくなる閾値を、S58で使用する閾値に設定する。なお、不良流出を可能な限り防ぐ場合には、予め不良と解っている被検査対象のMD値を複数求め、求めたMD値の最小値よりも小さい値で閾値を設定する。
【0108】
その後、良品(S60)、不良(S59)に関わらず報知器20(ディスプレイなど)で報知する(S62)。特に不良判定の場合には、検査員などがそれを認識できるように、ディスプレイ上で強調したり、音を出したりするなどして、報知の度合いを強くする(S62)。その後、図14のフローチャートの処理を終了する。
【0109】
次に、具体的な検査品のサンプルを挙げて、本実施形態の検査装置1(図1参照)による良否判定を行った場合について説明する。ここで、図15は、検査品の複数のサンプルA〜Iの画像71〜79を示している。図15の上段に示したサンプルA〜Fは、目視検査員が良品と判断した良品サンプルとされる。ただし、良品サンプルA、B、Dにはそれぞれムラが存在し、それら画像71、72、74にはムラを示した領域(検査品グレー領域)711、721、741が含まれている。また、良品サンプルCには埃が存在し、そのためにその画像73には埃を示した領域(検査品グレー領域)731が含まれている。また、良品サンプルE、Fはきれいな良品であり、そのためにそれら画像75、76には検査品グレー領域が含まれていない。一方、図15の下段に示したサンプルG〜Iは、目視検査員が不良と判断した不良サンプルである。各不良サンプルG〜Iには不良の原因とされる欠陥が存在し、そのためにそれら画像77〜79には欠陥を示した領域(検査品グレー領域)771〜791が含まれている。
【0110】
また、これらの画像71〜79を得る際には撮像する時間帯を変更している。具体的には、サンプルB、E、Iの画像72、75、79は夜の時間帯に撮像したものであり、そのためにそれら画像72、75、79は全体的に暗くされている。また、サンプルD、F、Gの画像74、76、77は朝の時間帯に撮像したものであり、そのためにそれら画像74、76、77は全体的に明るくされている。また、サンプルA、C、Hの画像71、73、78は昼の時間帯に撮像したものであり、そのためにそれら画像71、73、78は通常の明るさ(朝の撮像時の明るさと夜の撮像時の明るさの中間)とされている。
【0111】
これらの画像71〜79に対して、検査装置1で良否判定を実施した結果例を次の表11に示す。
【0112】
【表11】
【0113】
表11に示すように、画像75、76(良品サンプルE、F)には検査品グレー領域が含まれていないので、それら画像75、76に対してはMD値は算出されない。また、検査品グレー領域を含む良品サンプルA、B、C、Dに対しては、1.2〜1.8のMD値が算出されている。また、不良サンプルG〜Iの画像77〜79に対しては、14.4〜23.5のMD値が算出されている。このように、検査装置1では、画像の写り方(明暗)によって変化する周辺領域の輝度情報を取得して、画像処理で検出したグレー領域の特徴量を得るための閾値を設定しているため、画像の写り方に影響されずに、特徴量を計算することができる。よって、良品と不良のMD値について、充分なMD値の差を得ることができる。
【0114】
以上説明したように、本実施形態では、画像全体ではなく、良品か否かの区別が付きにくい検査品グレー領域のMD値に基づいて、検査品の良否判定を行っているので、その判定を行うための処理時間を短縮することができる。また、検査品に検査品グレー領域が含まれていない場合には、MD値を算出しないで良品と判定しているので、迅速にその判定をすることができる。また、グレー領域(良品グレー領域、検査品グレー領域)の周辺領域の輝度情報を基準として、そのグレー領域の特徴量を得ているので、画像の写り方に影響されないマハラノビス基準空間やMD値を算出することができる。よって、画像の写り方に関わらず良否判定を精度良く行うことができる。
【0115】
なお、上記実施形態において、図2のS1の処理が本発明の「良品画像取得ステップ」に相当する。図2のS2の処理が本発明の「認識ステップ」に相当する。図6のS311〜S313の処理が本発明の「輝度取得ステップ」に相当する。図2のS3の処理が本発明の「特徴量算出ステップ」に相当する。図2のS4の処理が本発明の「生成ステップ」に相当する。図6のS314及びS315の処理が本発明の「代表値設定ステップ」に相当する。図8のS321〜S323の処理が本発明の「輝度分布算出ステップ」に相当する。図8のS325の処理が本発明の「並替ステップ」に相当する。図8のS326〜S328の処理が本発明の「変化特性値算出ステップ」に相当する。メモリ12が本発明の「記憶手段」に相当する。図14のS51の処理を実行する画像処理用PC10が本発明の「検査画像取得手段」に相当する。図14のS52及びS53の処理を実行する画像処理用PC10が本発明の「グレー領域判断手段」に相当する。図14のS54の処理を実行する画像処理用PC10が本発明の「検査品輝度取得手段」及び「検査品特徴量算出手段」に相当する。図14のS55〜S57の処理を実行する画像処理用PC10が本発明の「マハラノビス距離算出手段」に相当する。図14のS55の処理を実行する画像処理用PC10が本発明の「正規化手段」に相当する。図14のS58〜S60の処理を実行する画像処理用PC10が本発明の「良否判断手段」に相当する。図14のS61の処理を実行する画像処理用PC10が本発明の「良品判断手段」に相当する。
【符号の説明】
【0116】
1 検査装置
10 画像処理用PC
11 CPU
12 メモリ
20 報知器
30 カメラ
61〜65 良品画像
621、631、651 良品グレー領域
623 周辺領域
71〜79 検査画像
711、721、731、741、771、781、791 検査品グレー領域
【特許請求の範囲】
【請求項1】
良品か否かの区別が付きにくい領域である良品グレー領域を含む良品画像を取得する良品画像取得ステップと、
その良品画像取得ステップで取得した前記良品画像に含まれる前記良品グレー領域を認識する認識ステップと、
前記良品画像の領域のうち前記認識ステップで認識した前記良品グレー領域の周辺領域の輝度情報を取得する輝度取得ステップと、
その輝度取得ステップで取得した前記周辺領域の輝度情報を基準とした前記良品グレー領域の輝度情報の特徴量を算出する特徴量算出ステップと、
その特徴量算出ステップで算出した前記特徴量に基づいて、マハラノビス距離を算出するための基準空間を生成する生成ステップと、を含むことを特徴とするマハラノビス基準空間の生成方法。
【請求項2】
前記特徴量算出ステップは、前記周辺領域の輝度情報を代表する代表値を設定する代表値設定ステップと、
その代表値設定ステップで設定した前記代表値を基準とした前記良品グレー領域の輝度情報の分布を示した輝度分布データを前記特徴量として算出する輝度分布算出ステップと、を含むことを特徴とする請求項1に記載のマハラノビス基準空間の生成方法。
【請求項3】
前記輝度分布算出ステップは、前記良品グレー領域の各画素の輝度値のうち前記代表値より大きい各輝度値と前記代表値との差分値をそれぞれ算出し、それら差分値の合計値と、前記良品グレー領域の各画素の輝度値のうち前記代表値より小さい各輝度値と前記代表値との差分値をそれぞれ算出し、それら差分値の合計値の少なくとも一方を前記輝度分布データとして算出するステップであることを特徴とする請求項2に記載のマハラノビス基準空間の生成方法。
【請求項4】
前記輝度分布算出ステップは、前記良品グレー領域の各画素のうち前記代表値より大きい輝度値の画素の数と前記代表値より小さい輝度値の画素の数の少なくとも一方を前記輝度分布データとして算出するステップであることを特徴とする請求項2に記載のマハラノビス基準空間の生成方法。
【請求項5】
前記輝度分布算出ステップは、前記良品グレー領域の各画素の輝度値のうち前記代表値より大きい各輝度値と前記代表値との各差分値の合計値、前記良品グレー領域の各画素の輝度値のうち前記代表値より小さい各輝度値と前記代表値との各差分値の合計値、前記良品グレー領域の各画素のうち前記代表値より大きい輝度値の画素の数、及び前記良品グレー領域の各画素のうち前記代表値より小さい輝度値の画素の数の少なくともいずれか一つを前記輝度分布データとして算出するステップであることを特徴とする請求項2に記載のマハラノビス基準空間の生成方法。
【請求項6】
前記特徴量算出ステップは、
前記良品グレー領域の各画素の輝度値を輝度値の大きさの順に並び替える並替ステップと、
その並替ステップで並び替えた輝度値間の変化特性を示した変化特性値を前記特徴量として算出する変化特性値算出ステップと、をさらに含むことを特徴とする請求項2〜5のいずれか1項に記載のマハラノビス基準空間の生成方法。
【請求項7】
前記変化特性値算出ステップは、前記並替ステップで並び替えた輝度値から、大きさが隣り合う二つの輝度値の差分値である隣接変化値を算出し、その隣接変化値の特性を示した隣接変化特性値を前記変化特性値として算出するステップであることを特徴とする請求項6に記載のマハラノビス基準空間の生成方法。
【請求項8】
前記変化特性値算出ステップは、前記並替ステップで並び替えた輝度値間の変化を近似した近似式を算出し、その近似式の特性を示した近似式特性値を前記変化特性値として算出するステップであることを特徴とする請求項6又は7に記載のマハラノビス基準空間の生成方法。
【請求項9】
前記代表値設定ステップは、互いに値が異なる複数の前記代表値を設定するステップであり、
前記輝度分布算出ステップは、前記複数の代表値のそれぞれごとに、各代表値を基準とした前記輝度分布データを算出するステップであることを特徴とする請求項2〜8のいずれか1項に記載のマハラノビス基準空間の生成方法。
【請求項10】
前記代表値設定ステップは、前記周辺領域の輝度値の平均値、最小値、最大値、中央値又は偏差に基づいて前記代表値を設定するステップであることを特徴とする請求項2〜9のいずれか1項に記載のマハラノビス基準空間の生成方法。
【請求項11】
請求項1〜10のいずれか1項に記載のマハラノビス基準空間の生成方法で生成された前記基準空間が記憶された記憶手段と、
検査品の画像である検査画像を取得する検査画像取得手段と、
その検査画像取得手段が取得した前記検査画像に、良品か否かの区別が付きにくい領域である検査品グレー領域が含まれているか否かを判断するグレー領域判断手段と、
そのグレー領域判断手段が前記検査品グレー領域が含まれていると判断した場合に、前記検査画像の領域のうち前記検査品グレー領域の周辺領域の輝度情報を取得する検査品輝度取得手段と、
その検査品輝度取得手段が取得した前記周辺領域の輝度情報を基準とした前記検査品グレー領域の輝度情報の特徴量である検査品特徴量を算出する検査品特徴量算出手段と、
その検査品特徴量算出手段が算出した前記検査品特徴量と前記記憶手段に記憶された前記基準空間とに基づいて、マハラノビス距離を算出するマハラノビス距離算出手段と、
そのマハラノビス距離算出手段が算出した前記マハラノビス距離に基づいて前記検査品の良否判断を行う良否判断手段と、を備えることを特徴とする検査装置。
【請求項12】
前記マハラノビス距離算出手段は、前記検査品特徴量を正規化する正規化手段を含み、その正規化手段が正規化した前記検査品特徴量と前記基準空間とに基づいて、前記マハラノビス距離を算出するものであることを特徴とする請求項11に記載の検査装置。
【請求項13】
前記グレー領域判断手段が前記検査品グレー領域が含まれていないと判断した場合に、前記検査品を良品と判断する良品判断手段を備えることを特徴とする請求項11又は12に記載の検査装置。
【請求項1】
良品か否かの区別が付きにくい領域である良品グレー領域を含む良品画像を取得する良品画像取得ステップと、
その良品画像取得ステップで取得した前記良品画像に含まれる前記良品グレー領域を認識する認識ステップと、
前記良品画像の領域のうち前記認識ステップで認識した前記良品グレー領域の周辺領域の輝度情報を取得する輝度取得ステップと、
その輝度取得ステップで取得した前記周辺領域の輝度情報を基準とした前記良品グレー領域の輝度情報の特徴量を算出する特徴量算出ステップと、
その特徴量算出ステップで算出した前記特徴量に基づいて、マハラノビス距離を算出するための基準空間を生成する生成ステップと、を含むことを特徴とするマハラノビス基準空間の生成方法。
【請求項2】
前記特徴量算出ステップは、前記周辺領域の輝度情報を代表する代表値を設定する代表値設定ステップと、
その代表値設定ステップで設定した前記代表値を基準とした前記良品グレー領域の輝度情報の分布を示した輝度分布データを前記特徴量として算出する輝度分布算出ステップと、を含むことを特徴とする請求項1に記載のマハラノビス基準空間の生成方法。
【請求項3】
前記輝度分布算出ステップは、前記良品グレー領域の各画素の輝度値のうち前記代表値より大きい各輝度値と前記代表値との差分値をそれぞれ算出し、それら差分値の合計値と、前記良品グレー領域の各画素の輝度値のうち前記代表値より小さい各輝度値と前記代表値との差分値をそれぞれ算出し、それら差分値の合計値の少なくとも一方を前記輝度分布データとして算出するステップであることを特徴とする請求項2に記載のマハラノビス基準空間の生成方法。
【請求項4】
前記輝度分布算出ステップは、前記良品グレー領域の各画素のうち前記代表値より大きい輝度値の画素の数と前記代表値より小さい輝度値の画素の数の少なくとも一方を前記輝度分布データとして算出するステップであることを特徴とする請求項2に記載のマハラノビス基準空間の生成方法。
【請求項5】
前記輝度分布算出ステップは、前記良品グレー領域の各画素の輝度値のうち前記代表値より大きい各輝度値と前記代表値との各差分値の合計値、前記良品グレー領域の各画素の輝度値のうち前記代表値より小さい各輝度値と前記代表値との各差分値の合計値、前記良品グレー領域の各画素のうち前記代表値より大きい輝度値の画素の数、及び前記良品グレー領域の各画素のうち前記代表値より小さい輝度値の画素の数の少なくともいずれか一つを前記輝度分布データとして算出するステップであることを特徴とする請求項2に記載のマハラノビス基準空間の生成方法。
【請求項6】
前記特徴量算出ステップは、
前記良品グレー領域の各画素の輝度値を輝度値の大きさの順に並び替える並替ステップと、
その並替ステップで並び替えた輝度値間の変化特性を示した変化特性値を前記特徴量として算出する変化特性値算出ステップと、をさらに含むことを特徴とする請求項2〜5のいずれか1項に記載のマハラノビス基準空間の生成方法。
【請求項7】
前記変化特性値算出ステップは、前記並替ステップで並び替えた輝度値から、大きさが隣り合う二つの輝度値の差分値である隣接変化値を算出し、その隣接変化値の特性を示した隣接変化特性値を前記変化特性値として算出するステップであることを特徴とする請求項6に記載のマハラノビス基準空間の生成方法。
【請求項8】
前記変化特性値算出ステップは、前記並替ステップで並び替えた輝度値間の変化を近似した近似式を算出し、その近似式の特性を示した近似式特性値を前記変化特性値として算出するステップであることを特徴とする請求項6又は7に記載のマハラノビス基準空間の生成方法。
【請求項9】
前記代表値設定ステップは、互いに値が異なる複数の前記代表値を設定するステップであり、
前記輝度分布算出ステップは、前記複数の代表値のそれぞれごとに、各代表値を基準とした前記輝度分布データを算出するステップであることを特徴とする請求項2〜8のいずれか1項に記載のマハラノビス基準空間の生成方法。
【請求項10】
前記代表値設定ステップは、前記周辺領域の輝度値の平均値、最小値、最大値、中央値又は偏差に基づいて前記代表値を設定するステップであることを特徴とする請求項2〜9のいずれか1項に記載のマハラノビス基準空間の生成方法。
【請求項11】
請求項1〜10のいずれか1項に記載のマハラノビス基準空間の生成方法で生成された前記基準空間が記憶された記憶手段と、
検査品の画像である検査画像を取得する検査画像取得手段と、
その検査画像取得手段が取得した前記検査画像に、良品か否かの区別が付きにくい領域である検査品グレー領域が含まれているか否かを判断するグレー領域判断手段と、
そのグレー領域判断手段が前記検査品グレー領域が含まれていると判断した場合に、前記検査画像の領域のうち前記検査品グレー領域の周辺領域の輝度情報を取得する検査品輝度取得手段と、
その検査品輝度取得手段が取得した前記周辺領域の輝度情報を基準とした前記検査品グレー領域の輝度情報の特徴量である検査品特徴量を算出する検査品特徴量算出手段と、
その検査品特徴量算出手段が算出した前記検査品特徴量と前記記憶手段に記憶された前記基準空間とに基づいて、マハラノビス距離を算出するマハラノビス距離算出手段と、
そのマハラノビス距離算出手段が算出した前記マハラノビス距離に基づいて前記検査品の良否判断を行う良否判断手段と、を備えることを特徴とする検査装置。
【請求項12】
前記マハラノビス距離算出手段は、前記検査品特徴量を正規化する正規化手段を含み、その正規化手段が正規化した前記検査品特徴量と前記基準空間とに基づいて、前記マハラノビス距離を算出するものであることを特徴とする請求項11に記載の検査装置。
【請求項13】
前記グレー領域判断手段が前記検査品グレー領域が含まれていないと判断した場合に、前記検査品を良品と判断する良品判断手段を備えることを特徴とする請求項11又は12に記載の検査装置。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図11】
【図12】
【図13】
【図14】
【図16】
【図10】
【図15】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図11】
【図12】
【図13】
【図14】
【図16】
【図10】
【図15】
【公開番号】特開2012−117907(P2012−117907A)
【公開日】平成24年6月21日(2012.6.21)
【国際特許分類】
【出願番号】特願2010−267768(P2010−267768)
【出願日】平成22年11月30日(2010.11.30)
【出願人】(000006932)リコーエレメックス株式会社 (708)
【Fターム(参考)】
【公開日】平成24年6月21日(2012.6.21)
【国際特許分類】
【出願日】平成22年11月30日(2010.11.30)
【出願人】(000006932)リコーエレメックス株式会社 (708)
【Fターム(参考)】
[ Back to top ]