説明

パターン検出装置、その処理方法及びプログラム

【課題】
繰り返しパターンの周期に揺らぎを含む物体や、繰り返しパターンに無関係な外乱を含む物体の画像であっても、当該繰り返しパターンにおける個々のパターンの位置を正確に検出できるようにした技術を提供する。
【解決手段】
パターン検出装置は、繰り返しパターンを含む物体の画像を入力し、当該入力された物体における繰り返しパターンの周期を推定し、当該推定された周期で分割された画像に基づいて参照画像を生成する。そして、参照画像と、物体の画像とを比較し、比較の結果に基づいて繰り返しパターンにおける個々のパターンの位置を検出する。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、パターン検出装置、その処理方法及びプログラムに関する。
【背景技術】
【0002】
製品の組み立てや梱包に際しては、例えば、敷居で区切られたトレーの小区画(又はスロット)に部品や製品を収める工程、又はそこから部品をピックアップする工程がある。このような工程は、例えば、視覚センサー及びマニピュレーターを用いた画像認識により自動化できる。画像認識により工程を自動化をした場合、予め登録された区画やスロットの形状を用いて正規化相関法などのテンプレートマッチングが実行され、個々の区画の位置決めがなされる。これにより、当該区画に製品が収められたり、当該規格から製品がピックアップされたりする。
【0003】
また、これに類する画像認識の課題として、例えば、周期的な構造を持った物体(例えば、基板部品やディスプレイパネル等)に対する欠陥検査が挙げられる。このような欠陥検査における画像認識においては、一般に、パターンの周期性を利用してパターンの一単位を切り出し基準画像と比較する方法や、切り出したパターンを相互に比較することによって欠陥を検出する方法等が用いられる。
【0004】
繰り返しパターンの周期成分が未知である場合には、フーリエ変換して得られる周波数成分、又は自己相関関数等に基づき周期を推定する手法が採られる。特許文献1の技術では、自己相関関数を利用して周期を推定している。そして、自己相関関数のピークが周期成分の整数倍の間隔で複数個生じることを利用して繰り返しパターンを相互に比較し、欠陥を検出している。
【先行技術文献】
【特許文献】
【0005】
【特許文献1】特許平07−159344号公報
【発明の概要】
【発明が解決しようとする課題】
【0006】
これら手法においては、パネルやトレー等の対象となる物体の繰り返しパターンがある程度一定の周期で繰り返され、その周期から大きく外れないことを前提としている。その他、繰り返しパターンに無関係な構造物が存在したとしてもその影響が無視できる程度に小さいこと、外乱の数に対してパターンの繰り返しの個数が十分に多いこと、といった点も前提としている。
【0007】
しかし、実際の製造現場においては、このような前提を満たさない場合が多々生じる。例えば、製造部品をトレーのスロットに収めていく手作業をマニピュレーターに置き換えた場合、
(1)人の手によってトレーが工作されているため、個々のスロットの形状や間隔が正確でない、
(2)トレー等の規格が定まっていないため、トレー毎スロットの数や形状が異なる、
(3)生産調整に合わせてスロットの大きさや個数をネジ留めで調節している、
(4)経年変化、組み立て精度の低さや素材の剛性不足などによりトレーに歪みが存在する、
(5)トレーを補強する梁など、繰り返しパターンに無関係な構造物が混在する、
(6)無関係な構造物に対してパターンの繰り返しの数が十分にない、
といった外乱要因が生じることがあり、繰り返しパターンの周期の推定やパターン検出が困難になってしまう。
【0008】
このような外乱要因を排除するため、トレーを高精度の専用治具に変更し、バーコードやRFIDタグなどで管理することも考えられるが、この場合、収納や管理に要するコストがかさんでしまう。また、専用治具は、生産調整や規格の変更に対して柔軟性を欠くため、例えば、少量多品種の生産に不向きである。また、例えば、梱包用の段ボールの間仕切りの中に製品を収納する場合等には、収納用品を別のものに置き換えることが現実的でない場合もある。
【0009】
この他、経年変化による歪みなどを軽減するため、高剛性のトレー(例えば、金属製)を用いる場合もある。しかし、部品のハンドリング中に部品やマニピュレーターがトレーに接触した時には、部品やマニピュレーターに傷や故障が生じ易くなってしまう。
【0010】
そこで、本発明は、繰り返しパターンの周期に揺らぎを含む物体や、繰り返しパターンに無関係な外乱を含む物体の画像であっても、当該繰り返しパターンにおける個々のパターンの位置を正確に検出できるようにした技術を提供することを目的とする。
【課題を解決するための手段】
【0011】
上記課題を解決するため、本発明の一態様によるパターン検出装置は、繰り返しパターンを含む物体の画像を入力する入力手段と、前記入力手段により入力された前記物体における前記繰り返しパターンの周期を推定する推定手段と、前記推定手段により推定された周期で分割された画像に基づいて参照画像を生成する生成手段と、前記生成手段により生成された参照画像と、前記入力手段により入力された前記物体の画像とを比較する比較手段と、前記比較手段による比較の結果に基づいて前記繰り返しパターンにおける個々のパターンの位置を検出するパターン検出手段とを具備することを特徴とする。
【発明の効果】
【0012】
本発明によれば、繰り返しパターンの周期に揺らぎを含む物体や、繰り返しパターンに無関係な外乱を含む物体の画像であっても、当該繰り返しパターンにおける個々のパターンの位置を正確に検出できる。
【図面の簡単な説明】
【0013】
【図1】本発明の一実施の形態に係わるパターン検出装置の機能的な構成の一例を示す図。
【図2】パターン検出装置10における処理の流れの一例を示すフローチャート。
【図3】パターン検出の概要の一例を示す図。
【図4】パターン検出装置10における処理の流れの一例を示すフローチャート。
【図5】パターン検出装置10における処理の流れの一例を示すフローチャート。
【図6】周期の推定方法の概要の一例を示す図。
【図7】周期の推定を2段階に行なう場合の処理の流れの一例を示すフローチャート。
【図8】周期の推定を2段階に行なう場合の概要の一例を示す図。
【図9】周期の推定方法の変形例の処理の流れの一例を示すフローチャート。
【図10】実施形態2に係わるパターン検出装置10の機能的な構成の一例を示す図。
【図11】非周期パターンを検出する場合の処理の流れの一例を示すフローチャート。
【図12】非周期パターンを検出する場合の処理の流れの一例を示すフローチャート。
【図13】実施形態3に係わるパターン検出装置10の機能的な構成の一例を示す図。
【図14】変形実施形態の概要の一例を示す図。
【図15】変形実施形態の処理の流れの一例を示すフローチャート。
【図16】変形実施形態の概要の一例を示す図。
【発明を実施するための形態】
【0014】
以下、本発明に係わるパターン検出装置、その処理方法及びプログラムの一実施の形態について添付図面を参照して詳細に説明する。
【0015】
(実施形態1)
図1は、本発明の一実施の形態に係わるパターン検出装置の機能的な構成の一例を示す。
【0016】
パターン検出装置10には、コンピュータが組み込まれている。コンピュータには、CPU等の主制御手段、ROM(Read Only Memory)、RAM(Random Access Memory)、HDD(Hard Disk Drive)等の記憶手段が具備される。また、コンピュータにはその他、キーボード、マウス、ディスプレイ、ボタン又はタッチパネル等の入出力手段、等も具備される。これら各構成手段は、バス等により接続され、主制御手段が記憶手段に記憶されたプログラムを実行することで制御される。
【0017】
ここで、パターン検出装置10は、画像入力部11と、周期推定部12と、参照画像生成部13と、比較部14と、パターン検出部15とを具備して構成される。
【0018】
画像入力部11は、繰り返しパターンを持つ物体を含む画像を入力する。ここで、物体の画像(物体画像)には、繰り返しパターンの繰り返し周期に揺らぎ、又は繰り返しパターンと無関係な外乱、の少なくともいずれかが生じている。なお、繰り返しパターンの個数やパターンの形状は未知である。
【0019】
周期推定部12は、当該入力された物体画像から繰り返しパターンの周期を推定する。参照画像生成部13は、当該推定された周期に基づいて参照画像を生成する。参照画像は、パターンを検出するためのテンプレートとなる画像である。
【0020】
比較部14は、参照画像と、画像入力部11により入力された物体画像とを比較し、繰り返しパターン内のパターン個々について参照画像との適合度の空間分布を取得する。パターン検出部15は、当該適合度の空間分布に基づいて個々のパターンの位置を検出する。以上が、パターン検出装置10の機能的な構成の一例についての説明である。
【0021】
次に、図2を用いて、図1に示すパターン検出装置10における処理の流れの一例について説明する。ここでは、図3(a)に示す物体画像51aから画像認識(パターン検出)を行なう場合を例に挙げて説明する。物体画像51aには、繰り返しパターンが平面上に配列されている。この繰り返しパターンは、行方向及び列方向にある程度の揺らぎを持って配列されている。また、繰り返しパターンには、繰り返しパターンと無関係な外乱(例えば、梁状の構造物53、刻印54)も含まれる。
【0022】
この処理が開始すると、パターン検出装置10は、画像入力部11において、画像を入力するとともに、当該入力した画像に対して前処理を行なう(S1)。前処理では、例えば、輝度値の正規化、ガンマ補正やシェーディング補正などの一般的な画像処理が行なわれる。また、この前処理においては、物体画像に傾きがあるか否かが判断され、傾きがあれば、水平補正が実施される。すなわち、画像に傾きがあれば、以降の処理に影響を与えてしまうため、ここで補正する。傾き補正には、どのような技術を用いてもよく、その手法は特に問わない。例えば、二次元フーリエ変換を実施し、画像f(x,y)から二次元フーリエ像F(u,v)を取得し、周波数空間上の最大ピーク(u,v)を求める。そして、θ=arctan(u/v)を求め、その値を画像の傾きとすればよい。また、これ以外の手法としては、例えば、二次元フーリエ像F(u,v)を極座標変換し、FPol(r,θ)を求める。そして、「数式1」に示すように、FPolの対数値をrについて加算し、そのときに最大となるθを求め、その値を画像の傾きとしてもよい。

【0023】
ここで、図3(b)には、水平補正後の物体画像51bが示される。なお、上述した前処理においては、水平補正のみならず、その他の処理を実施してもよい。例えば、平行四辺形状のパターン配列の歪み(シアー変形)を補正してもよい。具体的には、第1のピークθH*を求めるとともに、当該第1のピークθH*+0.5πの周辺に第2のピークθV*が存在するか否かを探索する。所定の閾値以上のピークθv*が存在すれば、第1のピークθH*が0度、第2のピークθV*が90度になるべく変形を与えるアフィン行列Aを求め、水平補正とシアー変形の補正を行なう。例えば、碁盤目状の構造を持ったトレーが経年変化により平行四辺形状に変形している場合等に、当該平行四辺形における水平線分及び斜行線分の方向を第1のピークθH*及び第2のピークθv*としてそれぞれ検出できる。そして、この検出結果に基づいてアフィン行列Aを求め、補正をかけることにより、平行四辺形状を長方形状に補正する。なお、いずれの様態を用いる場合においても、マニピュレータに指令を行なうときには、逆アフィン行列A−1を用いるなどして補正前の値を渡して指令する。
【0024】
次に、パターン検出装置10は、周期推定部12において、繰り返しパターンの周期を推定する(S2)。この処理では、繰り返しパターンの検出対象となるx方向の走査範囲(範囲)を決め、当該範囲内においてx方向の周期を推定する。なお、x方向の範囲は、予め決められていてもよいし、背景と物体との境界を検出し、当該検出結果に基づいて走査範囲を決めてもよい。後者の手法においては、例えば、画像内におけるx方向に沿った輝度の差分値(絶対値)を参照し、当該差分値が所定の閾値を越えた場合、その位置を境界として検出する。そして、その境界間をx方向における走査範囲とする。なお、周期の推定方法の詳細については後述する。
【0025】
周期の推定が済むと、パターン検出装置10は、参照画像生成部13において、当該推定した周期に基づいて繰り返しパターンを個々のパターン単位に分割する(S3)。ここで、図4を用いて、当該パターン単位への分割処理の詳細について説明する。
【0026】
この処理が開始すると、参照画像生成部13は、図2で説明したS2の処理で推定された周期に対応する波長を求め、当該波長で走査範囲をx方向に分割する。これにより、図3(b)の符号55a〜cに示すように、物体画像51bが列方向に分割される(S31)。以降、この画像の列をパターン列と呼ぶ。
【0027】
次に、参照画像生成部13は、繰り返しパターンと無関係な背景や構造物のみを含むパターン列を削除する(S32)。これは、背景や構造物のみを含むパターン列は、繰り返しパターンの検出に不要なためである。削除には、どのような技術を用いてもよく、その手法は特に問わない。例えば、複数のパターン列を加算してパターン列の平均画像を生成し、平均画像と各パターン列とをテンプレートマッチングする。そして、類似度が所定の閾値よりも低いパターン列を削除すればよい。なお、テンプレートマッチングの方法としては、例えば、一般的な正規化相関法を用いればよい。また、例えば、各パターン列の輝度分布のヒストグラムを作成し、当該ヒストグラム間の距離に基づいて類似度を求め、その結果に従ってパターン列を削除してもよい。このようにして不要なパターン列が削除されると、図3(c)に示す画像が得られる。
【0028】
次に、参照画像生成部13は、パターン列の中心の位置を補正する(S33)。この補正では、例えば、(1)全パターン列を一斉に左右にずらし、全パターン列の画像の相互の類似度が最大になる位置を探す。具体的には、正規化相関法で比較し、類似度の総和が最大になる位置を探す。その際、各パターン列に所定の幅のガウス窓をかけてマスクする。これにより、パターン列の中心のみを比較するようにする。また、このときのパターン列の中心を仮の中心位置とする。(2)仮の中心位置が決まると、次に、平均画像を再作成する。(3)平均画像とパターン列とのテンプレートマッチングを各パターン列について個別に行なう。そして、最も適合度の高い位置を各パターン列の中心とする(S34)。この結果、図3(d)に示す画像が得られる。
【0029】
次に、参照画像生成部13は、x方向への分割時と同様の手順により、y方向への分割を実施し、物体画像51bを行方向に分割する。これにより、図3(e)に示すように、物体画像51bが複数のパターン行に分割される(S35〜S38)。以上の処理により、行及び列の位置が決定し、行及び列が交差する区画(セル)が得られる。そして、当該セルで画像を分割し、例えば、RAM等にそれを記憶する(S39)。
【0030】
図2に戻り、パターン検出装置10は、参照画像生成部13において、当該分割した画像に基づいて参照画像を生成する(S4)。本実施形態においては、参照画像として図3(f)に示す画像57を生成する場合を例に挙げて説明するが、参照画像は、例えば、S3の処理で分割されたセル画像全てを含む画像であってもよい。また、当該分割されたセル画像を単純加算平均した1枚の画像であってもよい。平均画像は、図5に示す手順で生成してもよい。具体的には、サブピクセル(画素サイズ以下)の精度で個々のセル画像における位置の相対的なずれを検出し(S41〜S43)、バイキュービック法などの補間法を用いて各セルに対してサブピクセル単位のずれを補間した補間画像を生成する(S44)。そして、これら補間画像を重ね合わせて(S45)、精度の高い平均画像を得るようにしてもよい。ここで、サブピクセル精度の位置合わせを行なうには、例えば、テンプレートマッチングによって得られる適合値を放物線フィッティングすればよい。なお、所定の規則(例えば、近傍のパターンに強く重み付け)に基づいて重み付けした平均画像を参照画像として用いてもよい。
【0031】
図2に戻り、パターン検出装置10は、比較部14において、参照画像と、画像入力部11により入力された物体画像とを相互に照らし合わせて比較(テンプレートマッチング)する。これにより、繰り返しパターン内のパターン個々について参照画像との適合度の空間分布を取得する(S5)。テンプレートマッチングには、一般的な、正規化相関法を用いればよい。この処理により、図3(g)に示す適合度の空間分布が得られる。
【0032】
次に、パターン検出装置10は、パターン検出部15において、S5の処理で得られた適合度の空間分布に基づいて、パターン個々の位置を検出する(S6)。具体的には、適合度の空間分布の中で各セル毎に最も大きいピークを選択する。これが、繰り返しパターン内における個々のパターンの位置となる。このとき、所定の閾値よりも小さいピークしか得られなかったセルは、選択せずに不適合なセルとして削除する。これにより、図3(h)に示すように、全ての個別パターンが検出される。
【0033】
次に、図6を用いて、周期推定部12における周期の推定方法について説明する。なお、ここでは、画像の自己相関関数を用いて周期の推定を行なう場合を例に挙げて説明する。
【0034】
まず、画像I(x,y)のx方向の自己相関関数及びy方向の自己相関関数を以下のように定義する。

【0035】
図6(a)は、物体画像61を示しており、図6(b)は、当該物体画像61の自己相関関数である。ここで、周期推定部12においては、自己相関関数の中心ピーク63と2番目に高いピーク64との間隔65を基本周期として出力する。なお、物体画像に外乱が多い場合には、自己相関関数に余計なピークが生じてしまい、周期の推定に誤りが生じてしまう可能性がある。この場合、図6(c)に示すように、真の周期よりも短く周期を推定してしまう。このような事態を避けるため、例えば、所定閾値以下の大きさの自己相関関数の谷と山とを埋めてから周期を推定するようにしてもよい。また、一般に、画像の自己相関関数は、輝度値について算出されることが多いが、複数の自己相関関数を相補的に用いて周期を推定してもよい。複数のそれぞれ異なる画像処理により得られる画像(例えば、輝度値、ラプラシアンによる輪郭画像、ヘシアン行列によるコーナー点検出画像)それぞれについて個別に自己相関関数を計算し、所定の値で自己相関関数を重み付けして平均する。これにより、得られた自己相関関数を検出対象となる画像の特性に応じて用いれば、周期の推定の精度が向上する。
【0036】
また、周期の推定は、2段階に行なうようにしてもよい。ここで、図7及び図8を用いて、2段階に周期推定を行なう場合の処理について説明する。この処理では、例えば、図8(a)に示すように、推定したx方向の第1の周期fの周波数成分から当該周波数成分のy方向のパワーの分布A(y)66を生成する。ここで、A(y)は、以下の数式で算出される。

【0037】
fxは、画像Iの周期fの周波数成分である。「数式5」の右辺は、Ifxとその複素共役との積によってy方向のパワーを求めている。なお、ここでは、f単一のパワーを求めているが、これに限られない。例えば、中心周波数がfで幅デルタfを持つ帯域通過フィルタを用いてパワーの分布A(y)を得るようにしてもよい。
【0038】
次に、周期推定部12においては、図8(a)に示すように、A(y)から所定の閾値よりも大きなピーク67(67a〜67c)を検出する。そして、当該検出した各ピークが存在する近傍の画像を切り出す。これにより、図8(d)に示すように、行方向に分割された複数の画像610(610a〜610c等)が得られる。
【0039】
その後、周期推定部12は、複数の画像610を再び連結し、図8(e)に示す再構成画像611を生成する(S11〜S13)。再構成画像611は、第1の推定周波数を多く含む領域のみで構成される。再構成画像611について再び自己相関関数を計算すると、図8(f)に示すように、雑音の少ない自己相関関数612が得られる。ここで、周期推定部12においては、自己相関関数612の中心ピーク613と2番目に高いピーク614との間隔615を基本周期として出力する(S14〜S15)。なお、ある程度大まかな値としてパターンの周期が既知であれば、それを第1の周期として上述した手順で再構成画像を生成し、2段階目の処理で正確な周期を検出するようにしてもよい。
【0040】
ここで、図9を用いて、更に確実性を向上させる周期の推定方法について簡単に説明する。この処理では、まず、画像Iの自己相関関数を求め(S21)、自己相関のピークを高い順にk個抽出する(S22及びS23)。なお、自己相関関数は、偶関数なので対象とするピークは正の象限のピークに限定する。そして、それぞれのピークが対応する周期を用いて上記同様に画像を再構成し(S24)、再度、周期を推定する(S25、S26)。このようにして得られるk個のピークのうち高さが最大のピークを選び、それを推定周期とする(S27〜S29)。
【0041】
なお、フーリエ変換を行なってパワースペクトルから基本周波数を求めるようにしてもよいが、離散フーリエ変換で求められるスペクトルの周期に対応する波長は、画像長を整数で割った飛び飛びの値(N/2,N/3,N/4,・・・,2)となる。そのため、例えば、パターンの繰り返しが十分にない場合には、パターンの周期を精度よく求められない可能性がある。連続フーリエ変換を用いれば、この問題はないが、計算量がかかる。これに対して自己相関関数のピークに基づいて周期を推定する手法では、波長が取りうる値は連続した整数(2,3,4,…N)である。このような理由から、本実施形態においては、自己相関関数を用いる手法が有効であるといえる。
【0042】
以上説明したように実施形態1によれば、物体の画像から繰り返しパターンの周期を推定し、当該推定した周期に基づいて参照画像を生成する。そして、参照画像と物体の画像とを比較し、その比較結果に基づいて繰り返しパターンを構成する個々のパターンの位置を検出する。これにより、繰り返しパターンの周期に揺らぎを含む物体や、繰り返しパターンに無関係な外乱を含む物体の画像であっても、当該繰り返しパターンにおける個々のパターンの位置を正確に検出できる。
【0043】
(実施形態2)
次に、実施形態2について説明する。実施形態2においては、実施形態1に加えて更に、非周期パターンを検出する場合を例に挙げて説明する。図10は、実施形態2に係わるパターン検出装置10の機能的な構成の一例を示す。
【0044】
パターン検出装置10には、実施形態1の構成に加えて、非周期パターン検出部16が設けられる。なお、実施形態1を説明した図1と同じ符号のものは、同様の機能を果たすため、ここではその説明については省略する。
【0045】
非周期パターン検出部16は、物体画像から繰り返しパターン取り除き、非周期パターンを抽出する。繰り返しパターンの取り除き方としては、例えば、(1)位相限定相関法を用いて参照画像と物体画像とを位置合わせして、その画像間差分を計算する。(2)そして、閾値以上の差分値を持つ画素を非周期成分として検出する。
【0046】
ここで、上述した図2のS6の処理において、パターン検出部15により個々のパターンが検出されると、非周期パターン検出部16は、図11に示す処理を実施する。すなわち、各セルについて参照画像と物体画像との差分画像を求める(S101)。そして、当該求めた差分画像を統合し、それを非同期パターンとして検出する(S102)。
【0047】
なお、非同期パターンの検出方法は、これに限られず、例えば、繰り返しパターンが検出された領域を画像平均の値で充填し、その残りの画像を非周期成分(非同期パターン)として検出してもよい。
【0048】
また、上述した図11に示す処理の場合、個々のパターンに局所的な変形や傾き等があると、単純な差分操作では、参照画像と一致しない部分が非周期成分として検出されてしまう可能性がある。これを防ぐには、図12に示すように、参照画像と個々のパターンとを位置合わせする際に、参照画像を変形させながら個々のパターンにフィッティングさせてもよい(S111)。具体的には、勾配法等の繰り返し計算によって徐々にアフィン変形させていき、回転やシアー変形に対しても適応的にマッチングさせる。これにより、各セルについて、アフィン変形した参照画像と物体画像との差分画像を求め(S112)、当該差分画像を統合し、それを非同期パターンとして検出する(S113)。
【0049】
以上説明したように実施形態2によれば、実施形態1に加えて更に、物体画像内における繰り返しパターンと、非周期成分とを外乱に対してより頑健に分離して抽出できる。
【0050】
(実施形態3)
次に、実施形態3について説明する。実施形態3においては、実施形態1に加えて更に、パターン検査を行なう場合を例に挙げて説明する。図13は、実施形態3に係わるパターン検出装置10の機能的な構成の一例を示す。
【0051】
パターン検出装置10には、実施形態1の構成に加えて、パターン検査部17が設けられる。なお、実施形態1を説明した図1と同じ符号のものは、同様の機能を果たすため、ここでは説明を省略する。
【0052】
パターン検査部17は、物体画像から検出された繰り返しパターンの欠陥を検査する。具体的には、上述した図2のS6の処理において、パターン検出部15は、パターン各々の位置を検出するため、参照画像との適合度の空間分布の中で各セル毎に最も大きいピークを選択する。このとき、パターン検査部17は、所定の閾値よりも小さいピークしか得られなかったセル(パターン)に外観的な欠陥が存在する旨検出する。
【0053】
なお、パターン検査の方法は、これに限られない。例えば、パターン検出部15により検出された個々のパターンの領域と、参照画像との差分の絶対値が所定の閾値よりも大きい画素をカウントする。そして、当該カウントされた画素の割合が所定の閾値以上あれば、当該パターン領域は欠陥が生じていると検出するようにしてもよい。
【0054】
また、例えば、パターン検出部15により検出された個々のパターンの位置と各セルの中心の位置(所定の基準位置)との比較に基づいて欠陥の有無を検出するようにしてもよい。すなわち、当該比較により得られた値が、所定の値よりも大きくずれている場合に、当該パターンについては欠陥(位置ずれ)がある旨検出する。
【0055】
以上説明したように実施形態3によれば、実施形態1に加えて更に、繰り返しパターン内における欠陥を外乱に対してより頑健に検査できる。
【0056】
以上が本発明の代表的な実施形態の一例であるが、本発明は、上記及び図面に示す実施形態に限定することなく、その要旨を変更しない範囲内で適宜変形して実施できるものである。例えば、上述した実施形態1〜3を組み合わせて実施してもよい。
【0057】
なお、本発明は、例えば、システム、装置、方法、プログラム若しくは記憶媒体等としての実施態様を採ることもできる。具体的には、複数の機器から構成されるシステムに適用してもよいし、また、一つの機器からなる装置に適用してもよい。
【0058】
(変形実施形態1)
上述した説明では、比較部14において、テンプレートマッチングを行なうことでパターン個々についての適合度の空間分布を取得していたが、テンプレートマッチング以外の方法でこの処理を行なってもよい。例えば、位相限定相関法を用いてマッチングを行なってもよい。位相限定相関法は、信号の周波数成分の位相成分のみに限定した比較手法である。
【0059】
ここで、位相限定相関法の数理的詳細について説明する。本実施形態で用いる位相限定相関法は、テンプレートマッチング手法として一般的な正規化相関法に関連する手法である。位相限定相関法では、画像信号の周波数成分のうちエネルギー成分を除いて位相成分のみで画像間の適合度の比較や位置合わせを行なう。位相限定相関法は、正規化相関法に比べて、信号の急激な立ち上がりや立ち下がりに敏感に反応し適合度を評価するため、輪郭によってパターンが形成されるようなパターン同志の正確な位置合わせに適している。
【0060】
画像g(x,y)と画像h(x,y)の離散フーリエ変換G(u,v)とH(u,v)を次式で表わす。

【0061】
更に、画像g及びhの位相に限定した適合度の空間の空間分布r(x,y)をG(u,v)とH(u,v)の複素共役及びr(x,y)のフーリエ変換R(u,v)及び離散逆フーリエ変換を用いて以下のように定義する。

【0062】
ここで、「数式8」の右辺の分母は、信号のパワースペクトルを表し、信号の各周波数成分の強度を全て1に正規化している。適合度の空間分布r(x,y)の最大ピークの位置(x,y)は、画像g及びhが最も良く適合する空間上の位置を示している。ピークの大きさr=r(x,y)は、g及びhの適合度の大きさを表す。
【0063】
(変形実施形態2)
上述した説明では、検出対象となる繰り返しパターンが行方向及び列方向の二次元に配列された画像を例に挙げて説明したが、これに限られない。例えば、行方向や列方向のいずれかのみにパターンが配列されている画像や、行方向や列方向のいずれかのパターンに周期性のない画像であってもよい。また、例えば、図14(a)に示すように、複数の異なる周期の繰り返しパターンが混在していてもよい。この場合、図15に示すように、まず、1段階目のパターン検出処理を行なう(S61〜S63)。そして、検出したパターンを記憶した後、図14(c)に示すように、検出したパターンの領域73aを物体画像の平均輝度で充填して取り除く(S64)。残りの領域が閾値以上であれば、再度繰り返しパターンの検出を行ない(S65)、パターンの検出された画像領域73bを同様にして取り除く(S61〜S64)。このようなパターン検出処理を再帰的に繰り返した結果、有効な繰り返し周期が検出されなくなると(S62でNO)、この処理は終了する。なお、有効な繰り返し周期が検出されない状態とは、例えば、自己相関関数の2番目に高いピークの高さが所定の閾値以下になった場合や、推定した周期が所定の適正な範囲にない場合、又は残余の画像領域の面積が所定の割合以下になった場合、等が挙げられる。
【0064】
また、上述した説明では、参照画像として平均画像を用いる場合を重点的に説明したが、例えば、隣接するセルの画像を参照画像に用いてもよい。具体的には、図16(a)に示すように、分割された個々のセル81a〜81dをテンプレートとし、それぞれに隣接するセル81a〜81dとテンプレートマッチングを行なう。これにより、隣接セルとの適合度の空間分布83a〜83dが得られる。これらは断片的なパターン配置の集合である。次に、基準となるセル(この場合、81a)を決め、局所的な空間分布を連結していくことにより、画像全体で定義されたパターンの適合度の空間分布84を得る(図16(b))。具体的には、テンプレート82aを81bと比較し、その結果得られる適合度分布83a内における最大ピークを求める(83aの白丸)。最大ピークの83aの中心からのズレ量を記憶し、82bと81dとを比較し、その結果得られる適合度の空間分布83cを上記ズレ量分ずらして83aと連結する。これを全隣接セル間で繰り返し行なう。これにより、画像の全領域で連結された適合度分布84が得られる(図16(c))。このように平均画像を用いずに局所的な比較のみから全パターンの空間分布を推定することもできる。本手法には、シェーディングやパターンの形状変化などの画像全体に現れるゆっくりとした変化に影響されずにパターンの検出や検査ができるという利点がある。
【0065】
(その他の実施形態)
本発明は、以下の処理を実行することによっても実現される。即ち、上述した実施形態の機能を実現するソフトウェア(プログラム)を、ネットワーク又は各種記憶媒体を介してシステム或いは装置に供給し、そのシステム或いは装置のコンピュータ(又はCPUやMPU等)がプログラムを読み出して実行する処理である。

【特許請求の範囲】
【請求項1】
繰り返しパターンを含む物体の画像を入力する入力手段と、
前記入力手段により入力された前記物体における前記繰り返しパターンの周期を推定する推定手段と、
前記推定手段により推定された周期で分割された画像に基づいて参照画像を生成する生成手段と、
前記生成手段により生成された参照画像と、前記入力手段により入力された前記物体の画像とを比較する比較手段と、
前記比較手段による比較の結果に基づいて前記繰り返しパターンにおける個々のパターンの位置を検出するパターン検出手段と
を具備することを特徴とするパターン検出装置。
【請求項2】
前記パターン検出手段により検出された前記個々のパターンを前記物体の画像から除き、前記物体における非周期パターンを検出する非周期パターン検出手段
を更に具備することを特徴とする請求項1記載のパターン検出装置。
【請求項3】
前記パターン検出手段により検出された前記個々のパターンについて欠陥の有無を検査するパターン検査手段
を更に具備することを特徴とする請求項1又は2記載のパターン検出装置。
【請求項4】
前記パターン検査手段は、
前記参照画像と、前記パターン検出手段により検出された前記個々のパターンとの比較に基づいて当該パターンの外観的な欠陥の有無を検査する
ことを特徴とする請求項3記載のパターン検出装置。
【請求項5】
前記パターン検査手段は、
前記パターン検出手段により検出された前記個々のパターンの位置と、所定の基準位置との比較に基づいて当該パターンの位置ずれの欠陥の有無を検査する
ことを特徴とする請求項3又は4記載のパターン検出装置。
【請求項6】
前記推定手段は、
前記繰り返しパターンの周期を推定するとともに、該推定した周期に基づいて検出した前記繰り返しパターンを含む領域を用いて前記物体の画像を再構成し、該再構成した物体の画像から再度、周期を推定する
ことを特徴とする請求項1から5いずれか1項に記載のパターン検出装置。
【請求項7】
前記推定手段は、
前記物体の画像について自己相関関数を求め、該自己相関関数に基づいて前記周期の推定を行なう
ことを特徴とする請求項1から6いずれか1項に記載のパターン検出装置。
【請求項8】
前記推定手段は、
前記物体の画像に対して複数の異なる画像処理を行なって得られる複数の画像それぞれについて複数の自己相関関数を求め、該複数の自己相関関数に基づいて前記周期の推定を行なう
ことを特徴とする請求項1から6いずれか1項に記載のパターン検出装置。
【請求項9】
前記生成手段は、
前記推定手段により推定された周期に基づいて前記画像を行及び列に分割するとともに、該分割により得られる複数の区画の画像を前記参照画像として生成し、
前記比較手段は、
前記生成手段により生成された参照画像と、前記複数の区画の画像とを相互に照らし合わせることで前記比較を行なう
ことを特徴とする請求項1から8いずれか1項に記載のパターン検出装置。
【請求項10】
前記生成手段は、
前記推定手段により推定された周期に基づいて前記画像を行及び列に分割するとともに、該分割により得られる複数の区画の画像を平均した画像を前記参照画像として生成し、
前記比較手段は、
前記生成手段により生成された参照画像と、前記複数の区画の画像とを相互に照らし合わせることで前記比較を行なう
ことを特徴とする請求項1から8いずれか1項に記載のパターン検出装置。
【請求項11】
前記生成手段は、
前記推定手段により推定された周期に基づいて前記画像を行及び列に分割するとともに、該分割により得られる複数の区画の画像を所定の規則に基づいて重み付けした後、平均した画像を前記参照画像として生成し、
前記比較手段は、
前記生成手段により生成された参照画像と、前記複数の区画の画像とを相互に照らし合わせることで前記比較を行なう
ことを特徴とする請求項1から8いずれか1項に記載のパターン検出装置。
【請求項12】
前記生成手段は、
前記推定手段により推定された周期に基づいて前記画像を行及び列に分割するとともに、該分割により得られる複数の区画の画像を位置合わせした後、平均した画像を前記参照画像として生成し、
前記比較手段は、
前記生成手段により生成された参照画像と、前記複数の区画の画像とを相互に照らし合わせることで前記比較を行なう
ことを特徴とする請求項1から8いずれか1項に記載のパターン検出装置。
【請求項13】
前記生成手段は、
画素サイズ以下の精度で前記位置合わせを行なう
ことを特徴とする請求項12に記載のパターン検出装置。
【請求項14】
前記比較手段は、
前記比較に際して前記物体の画像の周波数成分のうち位相成分のみを用いる
ことを特徴とする請求項1から13いずれか1項に記載のパターン検出装置。
【請求項15】
前記パターン検出手段は、
前記検出した個々のパターンが位置する領域を前記画像から取り除いた後、残余の画像から再帰的に前記パターンの検出を行なう
ことを特徴とする請求項1から14いずれか1項に記載のパターン検出装置。
【請求項16】
前記繰り返しパターンは、
繰り返し周期に揺らぎ、又は該繰り返しパターンと無関係な外乱の少なくともいずれかを含み、該繰り返しパターンの個数やパターンの形状は未知である
ことを特徴とする請求項1から15いずれか1項に記載のパターン検出装置。
【請求項17】
パターン検出装置の処理方法であって、
入力手段が、繰り返しパターンを含む物体の画像を入力する工程と、
推定手段が、前記入力手段により入力された前記物体における前記繰り返しパターンの周期を推定する工程と、
生成手段が、前記推定手段により推定された周期で分割された画像に基づいて参照画像を生成する工程と、
比較手段が、前記生成手段により生成された参照画像と、前記入力手段により入力された前記物体の画像とを比較する工程と、
パターン検出手段が、前記比較手段による比較の結果に基づいて前記繰り返しパターンにおける個々のパターンの位置を検出する工程と
を含むことを特徴とする処理方法。
【請求項18】
コンピュータを、
繰り返しパターンを含む物体の画像を入力する入力手段、
前記入力手段により入力された前記物体における前記繰り返しパターンの周期を推定する推定手段、
前記推定手段により推定された周期で分割された画像に基づいて参照画像を生成する生成手段、
前記生成手段により生成された参照画像と、前記入力手段により入力された前記物体の画像とを比較する比較手段、
前記比較手段による比較の結果に基づいて前記繰り返しパターンにおける個々のパターンの位置を検出するパターン検出手段
として機能させるためのプログラム。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7】
image rotate

【図8】
image rotate

【図9】
image rotate

【図10】
image rotate

【図11】
image rotate

【図12】
image rotate

【図13】
image rotate

【図14】
image rotate

【図15】
image rotate

【図16】
image rotate


【公開番号】特開2011−70602(P2011−70602A)
【公開日】平成23年4月7日(2011.4.7)
【国際特許分類】
【出願番号】特願2009−223461(P2009−223461)
【出願日】平成21年9月28日(2009.9.28)
【出願人】(000001007)キヤノン株式会社 (59,756)
【Fターム(参考)】