目標物検出システム
【課題】 探索範囲を的確に設定し、目標物探索の処理負荷を軽減することが可能な目標物検出システムを提供する。
【解決手段】 探索対象画像上の各画素を、目標物が見つかる可能性が高い領域である探索対象領域か、目標物が見つかる可能性が低い領域である探索非対象領域のいずれかに事前に設定する。同一テンプレート画像について、角度が異なる8つのパターンを用意しておき、まず、テンプレート画像の1つを用いて、探索対象画像上の探索対象領域に対して、角度に依存しないパターンマッチングを行う。角度に依存しないパターンマッチングで適合となった場合は、さらに、角度が異なる8つのパターンそれぞれを用いて、探索対象画像上の探索対象領域に対して、角度に依存したパターンマッチングを行う。角度に依存したパターンマッチングで適合となった場合は、目標物を検出したとして結果を出力する。
【解決手段】 探索対象画像上の各画素を、目標物が見つかる可能性が高い領域である探索対象領域か、目標物が見つかる可能性が低い領域である探索非対象領域のいずれかに事前に設定する。同一テンプレート画像について、角度が異なる8つのパターンを用意しておき、まず、テンプレート画像の1つを用いて、探索対象画像上の探索対象領域に対して、角度に依存しないパターンマッチングを行う。角度に依存しないパターンマッチングで適合となった場合は、さらに、角度が異なる8つのパターンそれぞれを用いて、探索対象画像上の探索対象領域に対して、角度に依存したパターンマッチングを行う。角度に依存したパターンマッチングで適合となった場合は、目標物を検出したとして結果を出力する。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、画像中から目的とするパターンを検出するための技術に関し、特にパンクロマチック衛星画像に対して好適なパターン検出技術に関する。
【背景技術】
【0002】
QuickBird(米国DigitalGlobe)、ALOS“だいち”(日本JAXA)、TERRA/ASTER(日本ERSDAC)など陸域観測・地球観測衛星は高度約450km上空で地球を極軌道で周回しており、高分解能な光学センサや合成開口レーダ(SAR)を搭載し、地上を連続的にスキャニングし、定時的に地球局に画像データを伝送している。主として3種類の画像が活用され、光学センサのマルチスペクトラル・モード(カラー写真)は、可視光のRGBバンドに近赤外を加えた4バンド構成で夜間も撮影でき、地上の資源探索や大規模災害などの状況を収集するのに有効である。SAR画像は電波によるレーダ画像で、雲がかかっていても透過するため、天候が悪いときでも画像を収集でき、ドップラー効果を用いて航行中の船舶を計測することもできる(特許文献1参照)。中でも、光学センサのパンクロマチック・モード(モノクロ写真)は地上の乗用車を識別できる1m弱(世界最高分解能QuickBird 0.6m)の分解能をもち、交通状況の監視などに有益である。交通状況の監視については、地上に設置された監視カメラやヘリコプター・航空機による航空写真の方が鮮明な画像が得られるが、広域を同時観測することが難しいのと、建築物などの陰に隠れた死角が必ず発生するという問題から、近年衛星画像が注目されている。
【0003】
また、目標物を航空機と船舶に特化したテンプレートマッチングによる検出方法(特許文献2参照)、テンプレートをあらかじめ準備し、画像データの先頭画素から順次スキャンしながらテンプレートと同サイズの画素ブロックを抽出し、テンプレートと照合する手法(特許文献3参照)なども提案されている。
【0004】
しかし、特許文献2、特許文献3の手法では、目標物を的確に検出するのに十分でなかった。そこで、出願人は、衛星画像等の探索対象とする画像から、目標物を高速、高精度で自動抽出することが可能な目標物検出システムを提案している(特許文献4参照)。
【特許文献1】特許第3863014号
【特許文献2】特許第3978979号
【特許文献3】特開2001−67470号公報
【特許文献4】特願2008−56731号
【発明の開示】
【発明が解決しようとする課題】
【0005】
しかしながら、上記特許文献4の手法では、衛星画像全体を探索するため、探索範囲が広く、処理負荷が高いという問題がある。
【0006】
そこで、本発明は、探索範囲を的確に設定し、目標物探索の処理負荷を軽減することが可能な目標物検出システムを提供することを課題とする。
【課題を解決するための手段】
【0007】
上記課題を解決するため、本発明第1の態様では、目標物を含むテンプレート画像を用いて、探索対象である探索対象画像から、目標物を検出するシステムであって、前記テンプレート画像を記憶したテンプレート記憶手段と、前記探索対象画像に対して、各画素の値を用いて所定の処理を行い、探索対象領域と探索非対象領域を設定する探索領域設定手段と、前記設定された探索対象領域に対して、先頭画素位置から最終画素位置まで抽出位置を順次移動させながら、前記各テンプレート画像と同一サイズの画素ブロックを前記探索対象画像から抽出し、前記テンプレート画像と前記画素ブロックの類似性評価値を算出し、当該類似性評価値と前記設定された判定基準値と比較することにより類似性を判断する類似性判断手段と、前記類似性判断手段により類似性ありと判断された場合に、その際のテンプレート画像のID、前記探索対象画像上における画素ブロックの位置を特定する画素位置、前記テンプレート画像の回転角度を出力する探索結果出力手段を有する目標物検出システムを提供する。
【0008】
本発明第1の態様によれば、目標物を含むテンプレート画像と探索対象画像中の画素ブロックとの比較により探索対象画像から目標物を検出するにあたり、事前に、探索対象画像において、目標物の検出可能性の高い領域を探索対象領域として設定し、この探索対象領域のみに対して、テンプレート画像との比較を行うようにしたので、目標物探索の処理負荷を軽減し、目標物が存在する可能性の無い領域からの誤探索を防止し探索精度を向上することが可能となる。
【0009】
本発明第2の態様では、本発明第1の態様における順次類似性判断手段において、前記類似性評価値は複数算出され、1つの類似性評価値で類似性なしと判断された場合に、他の類似性評価値に関する判断を行うことなく類似性なしと判断することを特徴とする。本発明第2の態様によれば、類似性評価値を複数算出し、1つの類似性評価値で類似性なしと判断された場合に、全体としても類似性なしと判断するようにし、他の類似性評価値に関する判断を行わないようにしたため、全体として処理が高速化される。
【発明の効果】
【0010】
本発明によれば、探索範囲を的確に設定し、目標物探索の処理負荷を軽減するとともに、探索範囲外からの目的物の誤探索を抑止し目的物探索精度を向上させることが可能となる。
【発明を実施するための最良の形態】
【0011】
以下、本発明の実施形態について図面を参照して詳細に説明する。
(1.システム構成)
まず、本発明に係る目標物検出システムの構成について説明する。図1は本発明に係る目標物検出システムの構成図である。図1において、10は探索対象画像記憶部、20はテンプレート準備部、30はテンプレート記憶部、40は目標物探索部、50は探索結果記憶部、60は探索領域設定部である。
【0012】
探索対象画像記憶部10は、探索対象となる画像である探索対象画像、および目標物のサンプルを記憶したサンプル画像を記憶したものである。探索対象画像上に探索対象とする目標物が多数存在していれば、その内の1つをサンプルとして用いることも可能である。この場合、探索対象画像はサンプル画像としての役割も果たすことになる。また、本実施形態では、人工衛星により撮影された画像である衛星画像を探索対象画像として記憶している。テンプレート準備部20は、サンプル画像に対して対話的に設定を行い、テンプレート画像を準備するものであり、テンプレート作成手段21、判定基準値設定手段22、テンプレート更新手段23を有している。テンプレート記憶部30は、テンプレート準備部20により準備されたテンプレート画像を記憶するものである。目標物探索部40は、探索対象画像中の所定の領域とテンプレート画像を比較することにより、目標物を探索するものであり、角度非依存類似性判断手段41、角度依存類似性判断手段42、探索結果出力手段43、検出目標物消去手段44、第2のテンプレート更新手段45を有している。探索結果記憶部50は、目標物探索部40により探索された結果を記憶するものである。探索領域設定部60は、探索対象画像中において実際に探索を行う範囲である探索対象領域を設定する。図1に示した目標物検出システムは、現実には汎用のコンピュータに専用のプログラムを組み込むことにより実現される。また、各記憶部は、コンピュータに内蔵または接続されたハードディスク等の記憶装置で実現される。
【0013】
(2.探索対象領域の設定)
次に、図1に示した目標物検出システムの処理動作について説明する。目標物検出システムにおいては、まず、探索領域設定部60が、探索対象画像記憶部10から探索対象画像を読み込み、この探索対象画像上において、目標物が検出される可能性が高い領域を探索対象領域として設定する。本システムでは、後述するように、テンプレート画像上の画素ブロックと探索対象画像上の画素ブロックを比較することにより、目標物の検出を行うが、この比較処理にかかる演算負荷が高いため、全体としての処理効率を上げるためには、探索対象画像上において実際に探索を行う範囲をできるだけ小さくすることが望ましい。そこで、本システムでは、実際の探索処理に入る前に、目標物が検出される可能性が高い領域を探索対象領域として設定する処理を行う。
【0014】
探索対象領域の設定は、探索対象画像上の各画素を、探索対象領域とするか、探索非対称領域とするかを決定することにより行うが、具体的な決定の手法としては、様々な手法を用いることができる。本システムでは、2つの手法を用いることが可能である。第1の手法は、平滑フィルタを用いる手法である。平滑フィルタを用いる場合、探索領域設定部60は、探索対象画像上の各画素に対して平滑フィルタ処理を実行する。フィルタのサイズは適宜設定することができるが、本実施形態では、各画素の周辺の3×3画素としている。したがって、平滑フィルタ処理を実行することにより、各画素の値は周辺3×3画素の加算平均に変更される。
【0015】
続いて、探索領域設定部60は、平滑フィルタ処理後の各画素の値と事前に設定された閾値と比較し、各画素の値が閾値より大きいか小さいかにより、各画素を探索対象領域とするか、探索非対称領域とするかを決定する。閾値と画素値が同じである場合に、どちらにするかは適宜設定しておくことができる。例えば、目標物が自動車である場合、探索対象画像に水域と陸域が写っていたとしても、通常は陸域だけ探索すれば良いはずである。この場合、陸域だけを探索対象領域として設定するためには、水域の平均画素値と陸域の平均画素値の間の適当な値を閾値として設定しておけば、陸域だけが探索対象領域として設定される。さらに、探索領域設定部60は、モルフォロジー演算を実行して、異なる領域に囲まれた画素の属性を、他方の領域の属性に変更する処理を行う。
【0016】
探索対象領域設定の第2の手法は、ニューラルネットを用いる手法である。ニューラルネットを用いる場合、事前に4×4画素の入力層16ノード、隠れ層31ノード、出力層1ノードを設定しておく。この際、入出力ノードは画素値に対応した0〜1の実数値をもち、隠れ層ノードおよび2つの層のノード間のリンクの重みは正負実数で設定する。このように設定すると、入力層と隠れ層のノード間には16×31のリンクが、隠れ層と出力層のノード間には31のリンクが存在する。探索対象画像上から対象領域(例えば陸域)と非対象領域(例えば水域)を教師データとして順次複数セット抽出し、バックプロパゲーション法により重みを設定しておく。
【0017】
事前に重みが設定された状態で、探索領域設定部60は、探索対象画像から4×4の画素ブロックを順次抽出し、設定済みの上記ニューラルネットワークの入力層に取り込む。続いて、探索領域設定部60は、ニューラルネットを実行し、出力層のノード値が0と1のどちらに近いかにより、4×4の画素ブロックを対象領域と非対象領域のいずれかに設定する。
【0018】
上記第1、第2いずれの手法においても、探索領域として設定された画素には、それを示す情報が記録されることになる。探索対象画像の各画素が探索領域であるか否かの具体的な記録手法については、様々なものがあるが、本実施形態では、1画素の値を表現する8ビット中の1ビットを用いる。したがって、探索領域設定部60は、1画素256階調で表現された元の探索対象画像を読み込み、各画素の0〜255の値を0〜127の値に変換し、2〜8ビット目までに格納する。そして、探索領域設定部60は、1ビット目には、階調とは関係なく、探索対象領域であるか探索非対象領域であるかを示す値を設定する。したがって、本実施形態では、探索領域の設定と同時に、探索対象画像が256階調から128階調に変換されることになる。
【0019】
(3.テンプレート画像の準備)
次に、テンプレート画像の準備について説明する。まず、探索対象画像記憶部10には、人工衛星により撮影された衛星画像が探索対象画像として記憶され、さらに上述のように、探索対象領域と探索非対象領域が設定される。本実施形態では、衛星画像として、Adobe社TIFF規格準拠のGeo−TIFF形式であり、画像データに地理情報(緯度経度情報など)が付加されたものを採用する。衛星画像には、輸送機関(航空機、船舶、自動車、電車など)、建築物、交通路(道路、線路など)などの目標物になり得るものが写っている。
【0020】
この状態で、テンプレート準備部20は探索対象画像記憶部10に記憶された探索対象画像をソース画像の形式からワーク画像の形式に変換する。これは、探索の効率を上げるために行われるものである。具体的には、公知のヒストグラム平坦化技術を用いてワーク画像の形式に変換する。本実施形態では、ワーク画像をRXY形式(縦横の画素数と各画素のビット数という最小限のヘッダ情報と画素配列だけで構成されるTIFF形式等に比べ極めてシンプルな画像ファイル形式で、RAW形式とも呼ばれる)で作成する。テンプレート準備部20は、この探索対象画像をサンプル画像として用いる。
【0021】
続いて、テンプレート準備部20は、ワーク画像形式に変換したサンプル画像としての探索対象画像を画面に表示し、テンプレート画像作成のための画像領域の指定を利用者に促す。これに対して、利用者は、画面に表示された探索対象画像において、多角形形状(本実施形態では4頂点で構成される自由な四角形形状)の画像領域の輪郭を指定する。これは、マウス操作により、四角形形状の4つの頂点を指定することにより行われる。例えば、自動車を目的物とする場合、利用者は、衛星画像に写っている自動車を見つけ、その自動車を含む有効画像領域を指定することになる。具体的にはテンプレート作成手段21が、画面上に初期状態として正方形形状の四角形を表示し、利用者はいずれかの頂点を画面上で選択し、前記頂点を所望の位置までドラッギングさせることにより頂点を指示し、4つの頂点に対して順次同様な操作を行なう。
【0022】
テンプレート作成手段21が、画面上に発生させる四角形は二重の四角形であり、外側四角形を構成する各辺と内側四角形を構成する各辺の幅は所定の値に設定されている。したがって、利用者が、外側四角形か内側四角形のいずれかの頂点をドラッギングにより移動させると、テンプレート作成手段21は、それに応じて他方の四角形の頂点も両四角形の各片の距離を保つように移動させる。指定が行われると、テンプレート作成手段21は、図2(a)に示されるように、外側四角形の外側に外側四角形を360度回転させても、はみ出さないように外接する正方形形状(図2(a)の外側正方形形状)を同時に生成する。従って、初期状態では画面上に3重の正方形が表示されており、利用者が内側の2重正方形形状を所望の四角形に変形させると、それに連動して最外側正方形形状が正方形を維持しながら変化する。更に、利用者の負担を軽減するため、利用者が内側の四角形形状を変形させると、テンプレート作成手段21は、それに連動して外側の四角形形状を、内側の四角形形状を所定の幅だけ外側にオフセットさせた形状に自動的に定義するようにしている。即ち、利用者は内側の四角形形状のみを主に定義すればよく、外側の四角形形状については自動設定される形状に対して補正を施す程度で良い。
【0023】
利用者が、表示された探索対象画像内において、所定の四角形形状の指定を完了すると、テンプレート作成手段21は、探索対象画像内から指定された四角形形状の外側に定義された正方形形状に基づいてトリミングする。さらに、テンプレート作成手段21は、テンプレート画像内で利用者が指定した外側四角形形状の外側部分である外側マスク領域(マスク階調値0)と、外側四角形形状と内側四角形形状の間である内側マスク領域(マスク階調値1)および有効画像領域(マスク階調値2)にそれぞれマスク値を設定する。この際、内側マスク領域および有効画像領域の画素階調値に対しては、変更を行わず、外側マスク領域の画素階調値は一律0に変更する。この結果、正方形サイズのテンプレート画像が得られ、その内部は、有効画像領域、内側マスク領域、外側マスク領域で構成される。具体的には、図2(b)に示されるように、有効画像領域にはマスク値“2”、内側マスク領域にはマスク値“1”、外側マスク領域にはマスク値“0”が設定される。また、有効画像領域および内側マスク領域には画素値“0”〜“127”が設定されるが、外側マスク領域には画素値は設定されない(全ての画素値が“0”にクリアされる)。有効画像領域および内側マスク領域の画素値が“0”〜“127”に設定されるのは、探索対象領域設定後の探索対象画像の階調に合わせたためである。
【0024】
さらに、テンプレート準備部20は、多角形形状およびその内部だけを所定の角度で回転させたパターンもテンプレート記憶部30に登録する。本実施形態では、角度を45度単位で回転させ、8つの異なる傾き角度に従ったテンプレート画像を作成する。角度が異なる8つのテンプレート画像を図3に示す。このとき、外側の正方形形状は利用者が指定した多角形を360度回転させても、はみ出さないように定義しているため、前記8種類の角度の多角形は同一サイズのテンプレート画像で表現することができる。本実施形態では、角度を異ならせたパターンは同一のテンプレート画像として同一のテンプレートIDで登録する。したがって、図3に示したテンプレート画像は、全て同一のテンプレートIDを持ち、各パターンは、その角度で特定する。本実施形態では、テンプレートIDを8個登録可能となっている。この場合、8個のテンプレート画像について、それぞれ8つの角度で登録されるので、全部で64パターンが登録されることになる。
【0025】
本実施形態では、テンプレート画像と探索対象画像とのマッチング処理を行う際、テンプレート画像の各角度パターンに依存しない処理と、各角度パターンに依存する処理を行う。このうち、各角度パターンに依存しない処理は、全角度パターンに共通の有効画像領域である共通有効画像領域に対して実行する。共通有効画像領域は、例えば、図4(a)に示すような角度パターンのテンプレート画像の場合、図4(b)に示すような全ての角度パターンにおける内側四角形に囲まれた領域となる。すなわち、共通有効画像領域は、図4(c)に示したような領域となる。実際には、テンプレート作成手段21が各角度パターンにおける有効画像領域に属する画素(マスク値が“2”である画素)を認識し、全ての角度パターンで有効画像領域に属する画素にマスク値“3”を付与することにより、共通有効画像領域を設定する。
【0026】
テンプレート画像が登録されたら、テンプレート準備部20は、探索対象画像上の適合とすべき対象物を指定するように促す。利用者が、適合とすべき対象物を指定すると、指定された位置付近の画素値を利用して、判定基準値の算出およびテンプレート画像の更新を行う。この判定基準値の算出およびテンプレート画像の更新について図5のフローチャートを用いて説明する。
【0027】
まず、利用者は、画面に表示された探索対象画像の内容を見て、探索対象に含めたいと考える対象物を見つけ、その対象物上の点を指定する(S101)。図6(a)は、対象物を指定する際の探索対象画像の様子を示す図である。探索対象画像中で、利用者が探索対象に含めたい対象物上の点を指定すると、図6(a)に示すように、テンプレート画像の正方形形状の外枠および二重の多角形形状が表示される。例えば、衛星画像の中から船舶を検出したい場合、衛星画像中の1つの船舶の上の点を指定する。
【0028】
続いて、テンプレート準備部20は、指定された位置を基点にしてテンプレート画像とのマッチング処理を行う(S102)。この処理を行う理由は、図6(a)のように、利用者が画面上で指定した点は視覚的な判断によるもので曖昧性に富むため、この点を基にそのまま判定基準値を算出すると、不適切な探索が行なわれる可能性が高いためである。そこで、本処理では利用者が指示した点を最適な位置に補正するものである。具体的には、図6(b)に示すように、指定された探索対象画像上の基点(Xc、Yc)とテンプレート画像の中心位置を合わせ、そこからテンプレート画像をx方向,y方向に1画素単位で、設定された範囲内において移動させながら、マッチング処理を行う。このマッチング処理の詳細については後述する。同一位置において、角度を変えた8通りのテンプレート画像に対してマッチング処理を行い、最も類似度の高い角度のテンプレート画像を選出するとともにその探索対象画像の画素位置を最適位置として特定する。
【0029】
次に、判定基準値設定手段22が、探索対象画像上の対象物が適合判定されるように判定基準値の設定を行う(S103)。判定基準値の設定が終わったら、テンプレート更新手段23が、最適位置における探索対象画像の画素ブロックとテンプレート画像を合成し、その合成画像でテンプレート画像を更新する(S104)。
【0030】
次に、上記S102におけるマッチング処理の詳細について、図7のフローチャートを用いて説明する。図7に示したS201〜S206の処理のうち、S201、S202はテンプレート画像内の多角形の角度に依存しない処理であり、S203〜S206はテンプレート画像内の多角形の角度に依存する処理である。角度に依存しないS201、S202の処理は、1つのテンプレート画像について1回だけ、共通有効画像領域に対して実行されるが、角度に依存するS203〜S206の処理は、各角度のパターンの有効画像領域に対して実行されるため、1つのテンプレート画像について8回実行されることになる。マッチング処理を行う際は、まず、類似性評価値となる各変数の初期化を行う。具体的には、角度に依存しない輝度ヒストグラム(階調ヒストグラム)の差分の最小値、角度に依存しない輝度分散(階調分散)の差分の最小値、角度に依存する輝度ヒストグラムの差分の最小値、角度に依存する輝度分散の差分の最小値、グレー階調画素差分の最小値、正規化相関係数の最大値の6つの変数(類似性評価値)を初期化する。本実施形態では、これら6つの変数は全て0〜1000の値をとり、正規化相関係数については、初期値を最小値0とし、他の5つの変数については、初期値を最大値1000とする。
【0031】
各変数の初期化が終わったら、角度に依存しない輝度ヒストグラムの照合を行う(S201)。具体的には、まず、テンプレート画像のサイズをS×Sとし、テンプレート画像の画素(x,y) (0≦x≦S-1, 0≦y≦S-1)における階調値をVt(x,y)(0〜127)、マスク値をMt(x,y) (0,1,2,3)、探索対象画像の位置(Xc+dx,Yc+dy) を起点とする領域内のテンプレート位置(x,y)に対応する画像階調値をV(x+Xc+dx,y+Yc+dy)(1〜127)とする。S×S 画素の範囲内で、Mt(x,y)=3となる画素(x,y)において、V(x,y)/8の値に基づく探索対象画像の16階調の輝度ヒストグラムH(v) (0≦v≦15)、およびVt(x,y)/8の値に基づくテンプレート画像の16階調の輝度ヒストグラムHt(v) (0≦v≦15)を算出する。さらに、以下の〔数式1〕に従った処理を実行して輝度ヒストグラム差分、すなわち輝度ヒストグラム同士のユークリッド距離を算出する。
【0032】
〔数式1〕
(輝度ヒストグラム差分)=1000・Σ v=0,15|H(v)−Ht(v)|/ Σ v=0,15(H(v)+Ht(v))
【0033】
続いて、輝度分散の照合を行う(S202)。具体的には、S201と同様、テンプレート画像のサイズをS×Sとし、S×S 画素の範囲内で、Mt(x,y)=3となるC個の画素(x,y)を用いて、探索対象画像の平均階調値Vaとテンプレート画像の平均階調値Vatを以下の〔数式2〕に従った処理を実行して算出する。
【0034】
〔数式2〕
Va= Σ y=0,S-1 Σ x=0,S-1 | Mt(x,y) =3 V(x+Xc+dx,y+Yc+dy)/ C
Vat= Σ y=0,S-1 Σ x=0,S-1 | Mt(x,y) =3 Vt(x,y)/ C
C= Σ y=0,S-1 Σ x=0,S-1 | Mt(x,y) =3 1
【0035】
そして、S×S 画素の範囲内で、Mt(x,y)=3となる画素(x,y)を用いて、探索対象画像の輝度分散値Dとテンプレート画像の輝度分散値Dtを以下の〔数式3〕に従った処理を実行して算出する。
【0036】
〔数式3〕
D= Σ y=0,S-1 Σ x=0,S-1 | Mt(x,y) =3 |V(x+Xc+dx,y+Yc+dy) -Va|/C
Dt= Σ y=0,S-1 Σ x=0,S-1 | Mt(x,y) =3 | Vt(x,y) -Vat|/C
【0037】
そして、S×S 画素の範囲内で、Mt(x,y)=3となる画素(x,y)を用いて、周知の計算式である以下の〔数式4〕に従った処理を実行して輝度分散差分を算出する。
【0038】
〔数式4〕
(輝度分散差分)=1000・|D-Dt|/(D+Dt)
【0039】
上述のようにS201、S202は、角度に依存しない処理である。したがって、各テンプレート画像について1回だけ行えばよい。共通有効画像領域に対するS201、S202の処理は、いずれの角度パターンの画素値を用いても良いが、本実施形態では、代表して0度のパターンの画素値を用いている。ここからのS203〜S206は、角度に依存する処理であるため、同一IDをもつテンプレート画像についても、角度別に処理を行う。S203〜S206の処理において、各角度パターンのテンプレート画像上で処理対象となるのは、有効画像領域と内側マスク領域の画素である。
【0040】
次に、角度に依存する輝度ヒストグラムの照合を行う(S203)。具体的には、S×S 画素の範囲内で、Mt(x,y) >0となる画素(x,y)において、V(x,y)/8の値に基づく探索対象画像の16階調の輝度ヒストグラムH(v) (0≦v≦15)、およびVt(x,y)/8の値に基づくテンプレート画像の16階調の輝度ヒストグラムHt(v) (0≦v≦15)を算出する。さらに、上記〔数式1〕に従った処理を実行して輝度ヒストグラム差分、すなわち輝度ヒストグラム同士のユークリッド距離を算出する。
【0041】
次に、角度に依存する輝度分散の照合を行う(S204)。具体的には、S×S 画素の範囲内で、Mt(x,y) >0となるC個の画素(x,y)を用いて、探索対象画像の平均階調値Vaとテンプレート画像の平均階調値Vatを上記〔数式2〕に従った処理を実行して算出する。そして、S×S 画素の範囲内で、Mt(x,y) >0となる画素(x,y)を用いて、上記〔数式4〕に従った処理を実行して輝度分散差分を算出する。
【0042】
次に、グレー階調画素差分の算出を行う(S205)。具体的には、上記と同様に、テンプレート画像のサイズをS×Sとし、テンプレート画像の画素(x,y) (0≦x≦S-1, 0≦y≦S-1)における階調値をVt(x,y) (0〜127)、マスク値をMt(x,y)(0,1,2,3)、探索対象画像の位置(Xc+dx,Yc+dy) を起点とする領域内のテンプレート位置(x,y)に対応する画像階調値をV(x+Xc+dx,y+Yc+dy) (0〜127)とする。ここで、シャドウ側をハイライト側に上げ、中間調部をシャドウ側に落とすような以下の階調変換を施す。Vt(x,y)≧64のとき、Vt'(x,y)=Vt(x,y)-64、 Vt(x,y)<64のとき、Vt'(x,y)=63-Vt(x,y) 。V(x,y) ≧64のとき、V'(x,y)=V(x,y)-64、 V(x,y)<64のとき、V'(x,y)=63-V(x,y)。 さらに、S×S 画素の範囲内で、Mt(x,y) >0となるC個の画素(x,y)を用いて、以下の〔数式5〕に従った処理を実行して探索対象画像とテンプレート画像の画素差分であるグレー階調画素差分を算出する。
【0043】
〔数式5〕
(グレー階調画素差分)= 1000・Σ y=0,S-1 Σ x=0,S-1 | Mt(x,y)≠0 |V'(x+Xc+dx,y+Yc+dy)−Vt'(x,y)| / ( V'(x+Xc+dx,y+Yc+dy)+Vt'(x,y) )
【0044】
次に、正規化相関係数の算出を行う(S206)。具体的には、上記と同様に、テンプレート画像のサイズをS×Sとし、テンプレート画像の画素(x,y) (0≦x≦S-1, 0≦y≦S-1)における階調値をVt(x,y)(0〜127)、マスク値をMt(x,y)(0,1,2,3)、探索対象画像の位置(Xc+dx,Yc+dy) を起点とする領域内のテンプレート位置(x,y)に対応する画像階調値をV(x+Xc+dx,y+Yc+dy) (1〜127)とする。S×S画素の範囲内で、Mt(x,y) >0となるC個の画素(x,y)を用いて、探索対象画像の平均階調値Vaとテンプレート画像の平均階調値Vatを上記〔数式2〕(ただし、Mt(x,y) >0)に従った処理を実行して算出する。
【0045】
そして、S×S 画素の範囲内で、Mt(x,y) >0となる画素(x,y)を用いて、周知の計算式である以下の〔数式6〕に従った処理を実行して正規化相関係数を算出する。ただし、正規化相関係数が負値(負の相関)となる場合は0(相関無し)として扱う。
【0046】
〔数式6〕
(正規化相関係数)= 1000・Σ y=0,S-1 Σ x=0,S-1 | Mt(x,y) ≠0 (V(x+Xc+dx,y+Yc+dy)-Va)・(Vt(x,y)-Vat) / [Σ y=0,S-1 Σ x=0,S-1 | Mt(x,y) ≠0 (V(x+Xc+dx,y+Yc+dy)-Va)2・ Σ y=0,S-1 Σ x=0,S-1 | Mt(x,y) ≠0 (Vt(x,y)-Vat)2]1/2
【0047】
続いて、各変数の更新を行う(S207)。具体的には、S201において算出した輝度ヒストグラム差分が、現在設定されている輝度ヒストグラム差分の最小値より小さく、かつS206において算出した正規化相関係数が現在設定されている正規化相関係数の最大値より大きい場合、角度に依存しない輝度ヒストグラムの差分の最小値、角度に依存しない輝度差分の最小値、角度に依存する輝度ヒストグラムの差分の最小値、角度に依存する輝度差分の最小値、グレー階調画素差分の最小値、正規化相関係数の最大値の6つの変数(類似性評価値)を今回算出した値に置き換える。そして、位置、テンプレートID、角度の値を、このときの位置、テンプレートID、角度の値で更新する。
【0048】
各変数の更新が終わったら、1つのテンプレート画像について、全ての角度のパターンの処理が終わったかどうかを判断する(S208)。全ての角度のパターンについて処理が終わっていない場合は、S203に戻って、角度に依存する輝度ヒストグラムの差分、角度に依存する輝度差分、グレー階調画素差分、正規化相関係数の算出を行う。全ての角度のパターンについて処理が終わった場合は、S209に進む。したがって、本実施形態では、1つのテンプレート画像につき、8通りの角度について、S203〜S207の処理が繰り返される。
【0049】
1つのテンプレート画像の全角度について処理が終わったら、全てのテンプレート画像について処理が終わったかどうかを判断する(S209)。全てのテンプレート画像について処理が終わっていない場合は、S201〜S208の処理を繰り返す。全てのテンプレート画像について処理が終わった場合は、S210に進む。したがって、本実施形態では、1つの画素位置につき、8個のテンプレート画像について、S201〜S208の処理が繰り返される。
【0050】
全てのテンプレート画像について処理が終わったら、全ての画素位置について処理が終わったかどうかを判断する(S210)。全ての画素位置とは、指定された基点(Xc、Yc)からx軸、y軸方向にそれぞれ所定画素の範囲に含まれる画素の位置を意味する。所定画素の範囲としては、テンプレート画像のx軸、y軸方向のそれぞれ5%程度が設定されている。例えば、テンプレート画像が100×100画素である場合、5×5の計25画素の位置について、図6に示した処理が繰り返される。全ての画素位置について処理が終わっていない場合は、S201〜S209の処理を繰り返す。全ての画素位置について処理が終わった場合は、各変数を出力して、マッチング処理を終了する。各変数は、各テンプレート画像単位で出力される。
【0051】
次に、S103の判定基準値の設定の詳細について説明する。判定基準値は、判定基準値設定手段22により、マッチング処理において出力された各変数に所定の値を乗じることにより設定される。本実施形態では、正規化相関係数については、出力された正規化相関係数の最大値に0.9を乗じた値を判定基準値とし、他の5つの変数については、出力された値に1.1を乗じた値を判定基準値としている。具体的には、以下の〔数式7〕に従った処理を実行して算出する。
【0052】
〔数式7〕
(角度非依存の輝度ヒストグラム差分の判定基準値)=(角度非依存の輝度ヒストグラム差分の最小値)×1.1
(角度非依存の輝度分散差分の判定基準値)=(角度非依存の輝度分散差分の最小値)×1.1
(角度依存の輝度ヒストグラム差分の判定基準値)=(角度依存の輝度ヒストグラム差分の最小値)×1.1
(角度依存の輝度分散差分の判定基準値)=(角度依存の輝度分散差分の最小値)×1.1
(グレー階調画素差分の判定基準値)=(グレー階調画素差分の最小値)×1.1
(正規化相関係数の判定基準値)=(正規化相関係数の最大値)×0.9
【0053】
続いて、S104のテンプレートの更新の詳細について説明する。S104では、テンプレート更新手段23が、各テンプレート画像を更新する。具体的には、各テンプレート画像の最適位置における探索対象画像上の画素ブロックを用いて、各テンプレート画像の各角度の画像を更新する。まず、各テンプレート画像のうち、最適角度のものと探索対象画像上の画素ブロックの合成を行う。テンプレート画像において外側マスク領域は合成を行わないので、テンプレート画像中の内側マスク領域および有効画像領域内部についてのみ合成を行う。
【0054】
合成の具体的な手法としては、内側マスク領域および有効画像領域内部の各画素単位で整数の擬似乱数を順次発生させ、所定の数が出たら、探索対象画像上の画素ブロックの対応する画素の値に置き換える。例えば、奇数が出たら、探索対象画像上の画素ブロックの対応する画素に置き換えるように設定しておけば、約半分の確率で内側マスク領域および有効画像領域内部の画素が探索対象画像の画素に置き換えられる。図8は、探索対象画像とテンプレート画像の合成によりテンプレート画像を更新する例を示す図である。図8の例では、説明の便宜のため、画像サイズを5×5画素に簡略化している。図8(b)はテンプレート画像であり、Tは外側多角形内部(有効画像領域および内側マスク領域)の画素を示し、空白は外側マスク領域の画素を示している。図8(a)はテンプレート画像に対して最適位置と判断された探索対象画像上の画素ブロックであり、Wは探索対象画像上の画素を示している。この2つの画像に上述のような合成処理を施した結果、図8(c)に示すように、テンプレート画像の内側マスク領域および有効画像領域の画素Tのうち約半数が探索対象画像の画素Wに置き換えられた合成画像が得られる。この合成画像が、更新されたテンプレート画像として登録される。なお、乱数の発生方式は処理を行う度に異なる系列になるように、シーズを毎回変更する。
【0055】
最適角度のパターンについて、更新処理が終わったら、他の角度のパターンについても更新を行う。他の角度のパターンについては、最適角度との角度の差を求め、その角度だけ探索対象画像上の画素ブロックを回転し、有効画像領域内部の各画素単位を回転した探索対象画像上の画素ブロックの対応する画素に置き換える。このようにして、全ての角度についてテンプレート画像が更新される。あらかじめ用意した全てのテンプレート画像に対して同様の処理を行うことにより、全てのテンプレート画像を更新する。図9はテンプレート画像の更新の様子を示す図である。図9に示すように、探索対象画像上における最適位置の画素ブロックを用いて、全ての角度の画像を更新する。
【0056】
(4.探索処理)
以上のようにして、テンプレート画像の準備が完了したら、準備されたテンプレート画像を用いて、目標物探索部40が目標物の探索を行う。この目標物の探索処理について図10のフローチャートを用いて説明する。利用者が目標物探索処理を指示すると、目標物探索部40の角度非依存類似性判断手段41、角度依存類似性判断手段42が連携して、順次マッチング処理を行う(S301)。具体的には、探索対象画像中の始点画素位置から順次パターンマッチング処理を実行し、類似判定する位置を見つける。
【0057】
図11は、順次マッチング処理の概略を示す図である。順次マッチング処理は、最初に、探索対象画像中の始点画素位置(0,0)を起点として(S−1,S−1)までのS×S個の正方形状の画素ブロックと、テンプレート画像との比較を行い、(1,0)を起点とする正方形領域、(2,0)を起点とする正方形領域…というように、X方向スキャン範囲に1画素づつ移動させて比較を行っていき、x軸方向について終了したら、Y方向スキャン範囲に1画素分移動し、(0,1)を起点とする正方形領域、(1,1)を起点とする正方形領域…というように順次探索対象画像全体についてテンプレート画像との比較を行っていく。
【0058】
各画素位置におけるマッチング処理は、同一IDのテンプレート画像の全8個の角度パターンのうちいずれか1つの角度パターンとのマッチングを行う角度非依存テンプレートマッチングと、同一IDのテンプレート画像のうちの全8個の角度パターンとのマッチングを行う角度依存テンプレートマッチングとに分けて行われる。角度非依存テンプレートマッチングで不適合と判断された場合は、角度依存テンプレートマッチングを行うことなく、次の画素位置に移動する。
【0059】
画素位置を特定した場合の順次マッチング処理の詳細を図12のフローチャートに示す。まず、S102のマッチング処理と同様、類似性評価値となる各変数の初期化を行う。具体的には、角度に依存しない輝度ヒストグラムの差分の最小値、角度に依存しない輝度差分の最小値、角度に依存する輝度ヒストグラムの差分の最小値、角度に依存する輝度差分の最小値、グレー階調画素差分の最小値、正規化相関係数の最大値の6つの変数(類似性評価値)を初期化する。探索処理で用いる6つの類似性評価値も全て0〜1000の値をとり、正規化相関係数については、初期値を最小値0とし、他の5つの変数については、初期値を最大値1000とする。
【0060】
類似性評価値の初期化が行われたら、まず、その画素位置における探索対象領域の確認を行う(S400)。最初の画素位置は(0,0)であるので、ここから(S−1、S−1)の範囲におけるS×S個の各画素について、探索対象領域として設定されているかどうかを確認する。本実施形態では、各画素の1ビット目の値により探索領域を設定しているため、この値を確認することにより、探索領域であるか非探索領域であるかを判断する。(0,0)を起点とするS×S画素の過半数が探索非対象領域である場合には(1ビット目が0である画素の個数>S×S/2)、次の画素位置(1,0)に移動し(不適合終了)、S400の探索対象領域の確認を行う。このS400における処理により、探索非対象領域に対しては、S401以降の処理を行わないことになり、全体としての探索処理の効率化が図られる。
【0061】
S400において、1画素でも探索対象領域として設定された画素が存在する場合は、輝度ヒストグラムの照合を行う(S401)。具体的には、上記S201と同様に、〔数式1〕に従った処理を実行して輝度ヒストグラム差分を算出する。そして、この輝度ヒストグラム差分と、S103で設定した判定基準値の比較を行い、判定基準値より大きい場合は、不適合となる。判定基準値と等しい場合は、どちらになるように設定しておいても良いが、本実施形態では、不適合と判断するよう設定している。これは、他の類似性評価値についても同様である。なお、不適合とは、類似性がないことを意味する。不適合となった場合は、現在利用しているテンプレート画像では適合しないと判断し、全てのテンプレート画像との処理を終えたかどうかを判断する(S411)。全てのテンプレート画像との処理が終了していない場合は、別のテンプレート画像に変更して(S412)、S400に戻る。
【0062】
S401において、輝度ヒストグラム差分が判定基準値より小さい場合は、輝度分散の照合を行う(S402)。具体的には、上記S202と同様に、〔数式4〕に従った処理を実行して輝度分散差分を算出する。そして、この輝度分散差分と、S103で設定した判定基準値の比較を行い、判定基準値以上の場合は、不適合となる。不適合となった場合の処理は、S401で不適合となった場合と同様である。S401、S402の処理は、上記S201、S202の処理と同様、共通有効画像領域に対して行われる。S401、S402の処理は、角度に依存しない処理であるため、それぞれテンプレート画像と照合して1回でも不適合であれば、別のテンプレート画像との処理に移行することになる。
【0063】
S402において、輝度分散差分が判定基準値より小さい場合は、角度に依存する輝度ヒストグラムの照合を行う(S403)。具体的には、上記S401と同様に、〔数式1〕に従った処理を実行して輝度ヒストグラム差分を算出する。ただし、S401、S402の処理とは異なり、同一のテンプレート画像について全ての角度に対して処理を行う。角度に依存する輝度ヒストグラムは、最小のものに更新され、そのときの角度が記録される。そして、全ての角度に対して輝度ヒストグラム差分の算出が終わったら(S404)、最小となった輝度ヒストグラム差分と、S103で設定した判定基準値の比較を行い、輝度ヒストグラム差分が判定基準値以上の場合は、不適合となる。不適合となった場合の処理は、S401で不適合となった場合と同様である。
【0064】
角度に依存する輝度ヒストグラムで適合となった場合は、角度に依存する輝度分散の照合を行う(S405)。具体的には、上記S402と同様に、〔数式4〕に従った処理を実行して輝度分散差分を算出する。ただし、S401、S402の処理とは異なり、同一のテンプレート画像について全ての角度に対して処理を行う。角度に依存する輝度分散差分は、最小のものに更新され、そのときの角度が記録される。そして、全ての角度に対して輝度分散差分の算出が終わったら(S406)、最小となった輝度分散差分と、S103で設定した判定基準値の比較を行い、輝度分散差分が判定基準値以上の場合は、不適合となる。不適合となった場合の処理は、S401で不適合となった場合と同様である。
【0065】
角度に依存する輝度ヒストグラムで適合となった場合は、グレー階調画素差分の算出を行う(S407)。具体的には、上記S205と同様に、〔数式5〕に従った処理を実行してグレー階調画素差分を算出する。グレー階調画素差分の算出処理においても、同一のテンプレート画像について全ての角度に対して処理を行う。グレー階調画素差分は、最小のものに更新され、そのときの角度が記録される。そして、全ての角度に対してグレー階調画素差分の算出が終わったら(S408)、最小となったグレー階調画素差分と、S103で設定した判定基準値の比較を行い、グレー階調画素差分が判定基準値以上の場合は、不適合となる。不適合となった場合の処理は、S401で不適合となった場合と同様である。
【0066】
グレー階調画素差分で適合となった場合は、正規化相関係数の算出を行う(S409)。具体的には、上記S206と同様に、〔数式2〕〔数式6〕に従った処理を実行して正規化相関係数を算出する。正規化相関係数の算出処理においても、同一のテンプレート画像について全ての角度に対して処理を行う。正規化相関係数は、最大のものに更新され、そのときの角度が記録される。そして、全ての角度に対して正規化相関係数の算出が終わったら(S410)、最大となった正規化相関係数と、S103で設定した判定基準値の比較を行い、正規化相関係数が判定基準値より大きい場合は適合となり、正規化相関係数が判定基準値以下の場合は不適合となる。
【0067】
全テンプレート画像について処理が終わったら(S411)、全項目すなわち6つの類似性評価値全てが適合であるテンプレートがあるかどうかを判断する(S413)。全項目が適合であるテンプレートがある場合は、グレー階調画素差分が最小の場合と、正規化相関係数が最大の場合のテンプレートIDと、その角度が一致するかどうかを判断する(S414)。すなわち、S407およびS408におけるグレー階調画素差分の算出処理において最小値を与えるテンプレートおよび角度と、S409およびS410における正規化相関係数の算出処理において最大値を与えるテンプレートおよび角度とが各々一致し、前記一致するテンプレートがS401、S402、S403、S405、S407およびS409において全て適合すると判断された場合は、適合終了となり、各変数、すなわちテンプレートID、画素位置(Xc、Yc)、角度、6つの類似性評価値を出力する。いずれかにおいて、不適合となる場合は、不適合終了となり、次の画素位置に対して、順次マッチング処理を行う。
【0068】
図12に示した順次マッチング処理においては、探索領域設定部60により、S400の探索対象領域の確認、角度非依存類似性判断手段41により、S401の角度に依存しない輝度ヒストグラムの照合、S402の角度に依存しない輝度分散の照合、角度依存類似性判断手段42により、S403の角度に依存する輝度ヒストグラムの照合、S405の角度に依存する輝度分散の照合、S407のグレー階調画素差分の算出、S409の正規化相関係数の算出の計7つの適合性判定処理が行われるが、これらの適合性判定処理は、処理負荷が小さいものから順に行われるように設定されている。すなわち、本実施形態では、S400の探索対象領域の確認が最も処理負荷が小さく、続いて角度に依存しない輝度ヒストグラムの照合が処理負荷が2番目に小さく、正規化相関係数の算出が最も処理負荷が大きい。これは、1つの処理で不適合と判定された場合に、全体として非類似と判断するという条件とすると、処理負荷が小さいものから先に行った方が効率が良いからである。特に、S400の探索対象領域の確認はテンプレートと照合を行う必要がなく、順次マッチング処理の対象となる領域内で探索領域設定部60により設定された画素をカウントするだけでよいため、これ以降の順次マッチング処理のいずれよりも処理負荷が小さくなり、探索領域設定部60により設定される画素の割合は一般に10%以下であるため、90%強の領域においてこれ以降の順次マッチング処理を実行せずに不適合と判断できる。続いて順次マッチング処理の中で、角度に依存する輝度ヒストグラムの照合、角度に依存する輝度分散の照合、グレー階調画素差分の算出、正規化相関係数の算出については、各角度について実行するため、1つの角度についてのみ実行する角度に依存しない輝度ヒストグラムの照合、角度に依存しない輝度分散の照合に比べて処理負荷は格段に大きくなる。また、角度に依存する処理の中でも、輝度ヒストグラム、輝度分散のように画像全体で1つの値を算出し、照合する処理は、グレー階調画素差分、正規化相関係数のように、画素単位で照合する処理に比べて処理負荷が小さいため、先に行うようにし、全体としての処理負荷を軽減している。
【0069】
S301の順次マッチング処理が適合終了となったら、次に、局所類似性判断手段42が、局所マッチング処理を行う(S302)。S301の順次マッチング処理は、探索対象画像全体における目標物の大まかな位置を探索するのに対し、S302の局所マッチング処理は、目標物の詳細な位置を探索する。具体的には、順次マッチング処理で最適と判断された位置(Xc、Yc)を起点に、画素スキャン進行方向(右方向、下方向)に所定の微小幅(ΔX、ΔY)だけ動かしながらテンプレートマッチングを実行し、6つの類似性評価値を最小値、最大値に更新し、そのときのテンプレートID、画素位置(Xm、Ym)、角度Amを出力する。マッチング処理の詳細は、図12に示した順次マッチング処理とは異なり図5のS102のマッチング処理、具体的には図7に示される処理と同じである。順次マッチング処理はある位置(Xc,Yc)で適合するか否かだけを判定すれば良かったが、局所マッチング処理は適合判定される微小範囲内で、更に最良の条件で適合する位置を探索する必要があるためである。
【0070】
局所マッチング処理が終了したら、目標物探索部40の探索結果出力手段43が、探索結果の出力を行う(S303)。具体的には、テンプレートID、位置(Xm、Ym)、角度Am、および6つの類似性評価値をリスト出力する。
【0071】
続いて、検出目標物消去手段44が、検出領域の消去を行う(S304)。具体的には、探索対象画像において、最適位置におけるテンプレート画像の図2で示した有効画像領域内部(内側多角形内部)に相当する部分を消去する。すなわち、有効画像領域内部に位置する探索対象画像上の画素の値を全て0にセットする。図13は、探索対象画像上における探索の結果の最適位置と、消去された領域を示す図である。探索の結果、探索対象画像上の目標物に対して、図13(a)に示すような位置がテンプレート画像の内側多角形と外側多角形の最適位置となった場合、図13(b)に示すように、探索対象画像上における有効画像領域(内側多角形内部)に相当する部分が消去される。図13(b)においては、外側多角形を点線で示しているが、仮に外側多角形の内部、すなわち有効画像領域内部に加えて内側マスク領域を消去すると、隣接する目標物の一部を消去してしまうことになり、隣接する目標物の検出が困難となる。このように、テンプレート画像の内側多角形内部に対応する領域を消去した場合でも、本探索処理終了後に探索位置を探索対象画像上でグラフィカルに表示する要求に応えるため、目標物探索部40は、消去前のオリジナルの探索対象画像をバックアップ保存する。
【0072】
S301〜S304の処理は、探索対象領域上の全画素に対して行われる。その際、S304において、有効画像領域の内部に対応する領域が消去されるため、その付近の画素に対して順次マッチング処理を行っても類似判定されることはなく、1つの目標物を重複して見つけてしまうことを防ぐことができる。一方、角度依存テンプレートマッチングで利用される内側マスク領域に対応する探索対象画像上の領域は消去されないため、隣接する目標物を消去するのを防ぐことができる。
【0073】
S303において出力された結果は、上述のように、探索結果出力手段43により探索結果として出力される。具体的には、検出された目的物の位置・方角をリスト出力する。この場合、位置については、画素位置を衛星画像が保有する緯度経度の情報に変換して出力する。また、探索画像上に検出した目的物の位置をグラフィカルに示すことも可能である。この場合、探索された箇所が全て消去されているため、バックアップ保存されたオリジナルの探索対象画像を再ロードする必要がある。その上に、指定の位置に内側多角形形状の輪郭線を指定の角度で回転させてオーバーレイ表示させ、検出された目的物の位置・方角を明示するようにする。S304の検出領域消去処理を行っても、重複する結果が存在する場合には、人手により1つを残して他は削除するような操作が行なわれる。
【0074】
上記実施形態では、探索時には、テンプレート画像については、その内容が更新されることなく利用される場合について説明したが、探索時においても、探索準備段階と同様、テンプレート画像の更新を行うようにしても良い。この場合、S302の局所マッチング処理の後、第2のテンプレート更新手段45が、S104と同様の処理を実行する。具体的には、S302で決定された画素位置(Xm、Ym)の画素ブロックを用いて、S302で決定されたテンプレートIDで特定されるテンプレート画像の各角度の画像を更新する。ここでも、S104と同様、まず、各テンプレート画像のうち、S302で決定された最適角度のものと探索対象画像上の画素ブロックの合成を行う。テンプレート画像においてマスク領域は合成を行わないので、テンプレート画像中の有効画像領域と内側マスク領域についてのみ合成を行う。
【0075】
合成の具体的な手法としては、図8を用いて説明したように、S104と同様、外側多角形形状内部の各画素単位で整数の擬似乱数を順次発生させ、所定の数が出たら、探索対象画像上の画素ブロックの対応する画素の値に置き換える。最適角度のパターンについて更新処理が終わったら、第2のテンプレート更新手段45が、他の角度のパターンについても更新を行うのもS104と同様である。なお、本実施形態では、第2のテンプレート更新手段45は、目標物探索部40の一部として機能するが、その具体的な機能は、テンプレート準備部20内のテンプレート更新手段23と同一であり、実際にはソフトウェアモジュールとして提供される。そのため、局所類似性判断手段42による処理の後、目標物探索部40からの指示により、テンプレート更新手段23がテンプレート画像の更新処理を実行するようにしても良い。この場合は、テンプレート更新手段23が第2のテンプレート更新手段として機能することになる。
【図面の簡単な説明】
【0076】
【図1】本発明に係る目標物検出システムの構成図である。
【図2】テンプレート画像領域と二重多角形形状の関係を示す図である。
【図3】8つの角度パターンを有するテンプレート画像を示す図である。
【図4】テンプレート画像、各角度の有効画像領域、共通有効画像領域の関係を示す図である。
【図5】判定基準値の算出およびテンプレート画像の更新の処理概要を示すフローチャートである。
【図6】探索対象(サンプル)画像上における処理の様子を示す図である。
【図7】マッチング処理の詳細を示すフローチャートである。
【図8】探索対象(サンプル)画像とテンプレート画像の合成によりテンプレート画像を更新する例を示す図である。
【図9】テンプレート画像の更新の様子を示す図である。
【図10】探索処理の概要を示すフローチャートである。
【図11】順次マッチング処理の概略を示す図である。
【図12】順次マッチング処理の詳細を示すフローチャートである。
【図13】探索対象画像上における探索の結果の最適位置と、消去された領域を示す図である。
【符号の説明】
【0077】
10・・・探索対象画像記憶部
20・・・テンプレート準備部
21・・・テンプレート作成手段
22・・・判定基準値設定手段
23・・・テンプレート更新手段
30・・・テンプレート記憶部
40・・・目標物探索部
41・・・角度非依存類似性判断手段
42・・・角度依存類似性判断手段
43・・・探索結果出力手段
44・・・検出目標物消去手段
45・・・第2のテンプレート更新手段
50・・・探索結果記憶部
60・・・探索領域設定部
【技術分野】
【0001】
本発明は、画像中から目的とするパターンを検出するための技術に関し、特にパンクロマチック衛星画像に対して好適なパターン検出技術に関する。
【背景技術】
【0002】
QuickBird(米国DigitalGlobe)、ALOS“だいち”(日本JAXA)、TERRA/ASTER(日本ERSDAC)など陸域観測・地球観測衛星は高度約450km上空で地球を極軌道で周回しており、高分解能な光学センサや合成開口レーダ(SAR)を搭載し、地上を連続的にスキャニングし、定時的に地球局に画像データを伝送している。主として3種類の画像が活用され、光学センサのマルチスペクトラル・モード(カラー写真)は、可視光のRGBバンドに近赤外を加えた4バンド構成で夜間も撮影でき、地上の資源探索や大規模災害などの状況を収集するのに有効である。SAR画像は電波によるレーダ画像で、雲がかかっていても透過するため、天候が悪いときでも画像を収集でき、ドップラー効果を用いて航行中の船舶を計測することもできる(特許文献1参照)。中でも、光学センサのパンクロマチック・モード(モノクロ写真)は地上の乗用車を識別できる1m弱(世界最高分解能QuickBird 0.6m)の分解能をもち、交通状況の監視などに有益である。交通状況の監視については、地上に設置された監視カメラやヘリコプター・航空機による航空写真の方が鮮明な画像が得られるが、広域を同時観測することが難しいのと、建築物などの陰に隠れた死角が必ず発生するという問題から、近年衛星画像が注目されている。
【0003】
また、目標物を航空機と船舶に特化したテンプレートマッチングによる検出方法(特許文献2参照)、テンプレートをあらかじめ準備し、画像データの先頭画素から順次スキャンしながらテンプレートと同サイズの画素ブロックを抽出し、テンプレートと照合する手法(特許文献3参照)なども提案されている。
【0004】
しかし、特許文献2、特許文献3の手法では、目標物を的確に検出するのに十分でなかった。そこで、出願人は、衛星画像等の探索対象とする画像から、目標物を高速、高精度で自動抽出することが可能な目標物検出システムを提案している(特許文献4参照)。
【特許文献1】特許第3863014号
【特許文献2】特許第3978979号
【特許文献3】特開2001−67470号公報
【特許文献4】特願2008−56731号
【発明の開示】
【発明が解決しようとする課題】
【0005】
しかしながら、上記特許文献4の手法では、衛星画像全体を探索するため、探索範囲が広く、処理負荷が高いという問題がある。
【0006】
そこで、本発明は、探索範囲を的確に設定し、目標物探索の処理負荷を軽減することが可能な目標物検出システムを提供することを課題とする。
【課題を解決するための手段】
【0007】
上記課題を解決するため、本発明第1の態様では、目標物を含むテンプレート画像を用いて、探索対象である探索対象画像から、目標物を検出するシステムであって、前記テンプレート画像を記憶したテンプレート記憶手段と、前記探索対象画像に対して、各画素の値を用いて所定の処理を行い、探索対象領域と探索非対象領域を設定する探索領域設定手段と、前記設定された探索対象領域に対して、先頭画素位置から最終画素位置まで抽出位置を順次移動させながら、前記各テンプレート画像と同一サイズの画素ブロックを前記探索対象画像から抽出し、前記テンプレート画像と前記画素ブロックの類似性評価値を算出し、当該類似性評価値と前記設定された判定基準値と比較することにより類似性を判断する類似性判断手段と、前記類似性判断手段により類似性ありと判断された場合に、その際のテンプレート画像のID、前記探索対象画像上における画素ブロックの位置を特定する画素位置、前記テンプレート画像の回転角度を出力する探索結果出力手段を有する目標物検出システムを提供する。
【0008】
本発明第1の態様によれば、目標物を含むテンプレート画像と探索対象画像中の画素ブロックとの比較により探索対象画像から目標物を検出するにあたり、事前に、探索対象画像において、目標物の検出可能性の高い領域を探索対象領域として設定し、この探索対象領域のみに対して、テンプレート画像との比較を行うようにしたので、目標物探索の処理負荷を軽減し、目標物が存在する可能性の無い領域からの誤探索を防止し探索精度を向上することが可能となる。
【0009】
本発明第2の態様では、本発明第1の態様における順次類似性判断手段において、前記類似性評価値は複数算出され、1つの類似性評価値で類似性なしと判断された場合に、他の類似性評価値に関する判断を行うことなく類似性なしと判断することを特徴とする。本発明第2の態様によれば、類似性評価値を複数算出し、1つの類似性評価値で類似性なしと判断された場合に、全体としても類似性なしと判断するようにし、他の類似性評価値に関する判断を行わないようにしたため、全体として処理が高速化される。
【発明の効果】
【0010】
本発明によれば、探索範囲を的確に設定し、目標物探索の処理負荷を軽減するとともに、探索範囲外からの目的物の誤探索を抑止し目的物探索精度を向上させることが可能となる。
【発明を実施するための最良の形態】
【0011】
以下、本発明の実施形態について図面を参照して詳細に説明する。
(1.システム構成)
まず、本発明に係る目標物検出システムの構成について説明する。図1は本発明に係る目標物検出システムの構成図である。図1において、10は探索対象画像記憶部、20はテンプレート準備部、30はテンプレート記憶部、40は目標物探索部、50は探索結果記憶部、60は探索領域設定部である。
【0012】
探索対象画像記憶部10は、探索対象となる画像である探索対象画像、および目標物のサンプルを記憶したサンプル画像を記憶したものである。探索対象画像上に探索対象とする目標物が多数存在していれば、その内の1つをサンプルとして用いることも可能である。この場合、探索対象画像はサンプル画像としての役割も果たすことになる。また、本実施形態では、人工衛星により撮影された画像である衛星画像を探索対象画像として記憶している。テンプレート準備部20は、サンプル画像に対して対話的に設定を行い、テンプレート画像を準備するものであり、テンプレート作成手段21、判定基準値設定手段22、テンプレート更新手段23を有している。テンプレート記憶部30は、テンプレート準備部20により準備されたテンプレート画像を記憶するものである。目標物探索部40は、探索対象画像中の所定の領域とテンプレート画像を比較することにより、目標物を探索するものであり、角度非依存類似性判断手段41、角度依存類似性判断手段42、探索結果出力手段43、検出目標物消去手段44、第2のテンプレート更新手段45を有している。探索結果記憶部50は、目標物探索部40により探索された結果を記憶するものである。探索領域設定部60は、探索対象画像中において実際に探索を行う範囲である探索対象領域を設定する。図1に示した目標物検出システムは、現実には汎用のコンピュータに専用のプログラムを組み込むことにより実現される。また、各記憶部は、コンピュータに内蔵または接続されたハードディスク等の記憶装置で実現される。
【0013】
(2.探索対象領域の設定)
次に、図1に示した目標物検出システムの処理動作について説明する。目標物検出システムにおいては、まず、探索領域設定部60が、探索対象画像記憶部10から探索対象画像を読み込み、この探索対象画像上において、目標物が検出される可能性が高い領域を探索対象領域として設定する。本システムでは、後述するように、テンプレート画像上の画素ブロックと探索対象画像上の画素ブロックを比較することにより、目標物の検出を行うが、この比較処理にかかる演算負荷が高いため、全体としての処理効率を上げるためには、探索対象画像上において実際に探索を行う範囲をできるだけ小さくすることが望ましい。そこで、本システムでは、実際の探索処理に入る前に、目標物が検出される可能性が高い領域を探索対象領域として設定する処理を行う。
【0014】
探索対象領域の設定は、探索対象画像上の各画素を、探索対象領域とするか、探索非対称領域とするかを決定することにより行うが、具体的な決定の手法としては、様々な手法を用いることができる。本システムでは、2つの手法を用いることが可能である。第1の手法は、平滑フィルタを用いる手法である。平滑フィルタを用いる場合、探索領域設定部60は、探索対象画像上の各画素に対して平滑フィルタ処理を実行する。フィルタのサイズは適宜設定することができるが、本実施形態では、各画素の周辺の3×3画素としている。したがって、平滑フィルタ処理を実行することにより、各画素の値は周辺3×3画素の加算平均に変更される。
【0015】
続いて、探索領域設定部60は、平滑フィルタ処理後の各画素の値と事前に設定された閾値と比較し、各画素の値が閾値より大きいか小さいかにより、各画素を探索対象領域とするか、探索非対称領域とするかを決定する。閾値と画素値が同じである場合に、どちらにするかは適宜設定しておくことができる。例えば、目標物が自動車である場合、探索対象画像に水域と陸域が写っていたとしても、通常は陸域だけ探索すれば良いはずである。この場合、陸域だけを探索対象領域として設定するためには、水域の平均画素値と陸域の平均画素値の間の適当な値を閾値として設定しておけば、陸域だけが探索対象領域として設定される。さらに、探索領域設定部60は、モルフォロジー演算を実行して、異なる領域に囲まれた画素の属性を、他方の領域の属性に変更する処理を行う。
【0016】
探索対象領域設定の第2の手法は、ニューラルネットを用いる手法である。ニューラルネットを用いる場合、事前に4×4画素の入力層16ノード、隠れ層31ノード、出力層1ノードを設定しておく。この際、入出力ノードは画素値に対応した0〜1の実数値をもち、隠れ層ノードおよび2つの層のノード間のリンクの重みは正負実数で設定する。このように設定すると、入力層と隠れ層のノード間には16×31のリンクが、隠れ層と出力層のノード間には31のリンクが存在する。探索対象画像上から対象領域(例えば陸域)と非対象領域(例えば水域)を教師データとして順次複数セット抽出し、バックプロパゲーション法により重みを設定しておく。
【0017】
事前に重みが設定された状態で、探索領域設定部60は、探索対象画像から4×4の画素ブロックを順次抽出し、設定済みの上記ニューラルネットワークの入力層に取り込む。続いて、探索領域設定部60は、ニューラルネットを実行し、出力層のノード値が0と1のどちらに近いかにより、4×4の画素ブロックを対象領域と非対象領域のいずれかに設定する。
【0018】
上記第1、第2いずれの手法においても、探索領域として設定された画素には、それを示す情報が記録されることになる。探索対象画像の各画素が探索領域であるか否かの具体的な記録手法については、様々なものがあるが、本実施形態では、1画素の値を表現する8ビット中の1ビットを用いる。したがって、探索領域設定部60は、1画素256階調で表現された元の探索対象画像を読み込み、各画素の0〜255の値を0〜127の値に変換し、2〜8ビット目までに格納する。そして、探索領域設定部60は、1ビット目には、階調とは関係なく、探索対象領域であるか探索非対象領域であるかを示す値を設定する。したがって、本実施形態では、探索領域の設定と同時に、探索対象画像が256階調から128階調に変換されることになる。
【0019】
(3.テンプレート画像の準備)
次に、テンプレート画像の準備について説明する。まず、探索対象画像記憶部10には、人工衛星により撮影された衛星画像が探索対象画像として記憶され、さらに上述のように、探索対象領域と探索非対象領域が設定される。本実施形態では、衛星画像として、Adobe社TIFF規格準拠のGeo−TIFF形式であり、画像データに地理情報(緯度経度情報など)が付加されたものを採用する。衛星画像には、輸送機関(航空機、船舶、自動車、電車など)、建築物、交通路(道路、線路など)などの目標物になり得るものが写っている。
【0020】
この状態で、テンプレート準備部20は探索対象画像記憶部10に記憶された探索対象画像をソース画像の形式からワーク画像の形式に変換する。これは、探索の効率を上げるために行われるものである。具体的には、公知のヒストグラム平坦化技術を用いてワーク画像の形式に変換する。本実施形態では、ワーク画像をRXY形式(縦横の画素数と各画素のビット数という最小限のヘッダ情報と画素配列だけで構成されるTIFF形式等に比べ極めてシンプルな画像ファイル形式で、RAW形式とも呼ばれる)で作成する。テンプレート準備部20は、この探索対象画像をサンプル画像として用いる。
【0021】
続いて、テンプレート準備部20は、ワーク画像形式に変換したサンプル画像としての探索対象画像を画面に表示し、テンプレート画像作成のための画像領域の指定を利用者に促す。これに対して、利用者は、画面に表示された探索対象画像において、多角形形状(本実施形態では4頂点で構成される自由な四角形形状)の画像領域の輪郭を指定する。これは、マウス操作により、四角形形状の4つの頂点を指定することにより行われる。例えば、自動車を目的物とする場合、利用者は、衛星画像に写っている自動車を見つけ、その自動車を含む有効画像領域を指定することになる。具体的にはテンプレート作成手段21が、画面上に初期状態として正方形形状の四角形を表示し、利用者はいずれかの頂点を画面上で選択し、前記頂点を所望の位置までドラッギングさせることにより頂点を指示し、4つの頂点に対して順次同様な操作を行なう。
【0022】
テンプレート作成手段21が、画面上に発生させる四角形は二重の四角形であり、外側四角形を構成する各辺と内側四角形を構成する各辺の幅は所定の値に設定されている。したがって、利用者が、外側四角形か内側四角形のいずれかの頂点をドラッギングにより移動させると、テンプレート作成手段21は、それに応じて他方の四角形の頂点も両四角形の各片の距離を保つように移動させる。指定が行われると、テンプレート作成手段21は、図2(a)に示されるように、外側四角形の外側に外側四角形を360度回転させても、はみ出さないように外接する正方形形状(図2(a)の外側正方形形状)を同時に生成する。従って、初期状態では画面上に3重の正方形が表示されており、利用者が内側の2重正方形形状を所望の四角形に変形させると、それに連動して最外側正方形形状が正方形を維持しながら変化する。更に、利用者の負担を軽減するため、利用者が内側の四角形形状を変形させると、テンプレート作成手段21は、それに連動して外側の四角形形状を、内側の四角形形状を所定の幅だけ外側にオフセットさせた形状に自動的に定義するようにしている。即ち、利用者は内側の四角形形状のみを主に定義すればよく、外側の四角形形状については自動設定される形状に対して補正を施す程度で良い。
【0023】
利用者が、表示された探索対象画像内において、所定の四角形形状の指定を完了すると、テンプレート作成手段21は、探索対象画像内から指定された四角形形状の外側に定義された正方形形状に基づいてトリミングする。さらに、テンプレート作成手段21は、テンプレート画像内で利用者が指定した外側四角形形状の外側部分である外側マスク領域(マスク階調値0)と、外側四角形形状と内側四角形形状の間である内側マスク領域(マスク階調値1)および有効画像領域(マスク階調値2)にそれぞれマスク値を設定する。この際、内側マスク領域および有効画像領域の画素階調値に対しては、変更を行わず、外側マスク領域の画素階調値は一律0に変更する。この結果、正方形サイズのテンプレート画像が得られ、その内部は、有効画像領域、内側マスク領域、外側マスク領域で構成される。具体的には、図2(b)に示されるように、有効画像領域にはマスク値“2”、内側マスク領域にはマスク値“1”、外側マスク領域にはマスク値“0”が設定される。また、有効画像領域および内側マスク領域には画素値“0”〜“127”が設定されるが、外側マスク領域には画素値は設定されない(全ての画素値が“0”にクリアされる)。有効画像領域および内側マスク領域の画素値が“0”〜“127”に設定されるのは、探索対象領域設定後の探索対象画像の階調に合わせたためである。
【0024】
さらに、テンプレート準備部20は、多角形形状およびその内部だけを所定の角度で回転させたパターンもテンプレート記憶部30に登録する。本実施形態では、角度を45度単位で回転させ、8つの異なる傾き角度に従ったテンプレート画像を作成する。角度が異なる8つのテンプレート画像を図3に示す。このとき、外側の正方形形状は利用者が指定した多角形を360度回転させても、はみ出さないように定義しているため、前記8種類の角度の多角形は同一サイズのテンプレート画像で表現することができる。本実施形態では、角度を異ならせたパターンは同一のテンプレート画像として同一のテンプレートIDで登録する。したがって、図3に示したテンプレート画像は、全て同一のテンプレートIDを持ち、各パターンは、その角度で特定する。本実施形態では、テンプレートIDを8個登録可能となっている。この場合、8個のテンプレート画像について、それぞれ8つの角度で登録されるので、全部で64パターンが登録されることになる。
【0025】
本実施形態では、テンプレート画像と探索対象画像とのマッチング処理を行う際、テンプレート画像の各角度パターンに依存しない処理と、各角度パターンに依存する処理を行う。このうち、各角度パターンに依存しない処理は、全角度パターンに共通の有効画像領域である共通有効画像領域に対して実行する。共通有効画像領域は、例えば、図4(a)に示すような角度パターンのテンプレート画像の場合、図4(b)に示すような全ての角度パターンにおける内側四角形に囲まれた領域となる。すなわち、共通有効画像領域は、図4(c)に示したような領域となる。実際には、テンプレート作成手段21が各角度パターンにおける有効画像領域に属する画素(マスク値が“2”である画素)を認識し、全ての角度パターンで有効画像領域に属する画素にマスク値“3”を付与することにより、共通有効画像領域を設定する。
【0026】
テンプレート画像が登録されたら、テンプレート準備部20は、探索対象画像上の適合とすべき対象物を指定するように促す。利用者が、適合とすべき対象物を指定すると、指定された位置付近の画素値を利用して、判定基準値の算出およびテンプレート画像の更新を行う。この判定基準値の算出およびテンプレート画像の更新について図5のフローチャートを用いて説明する。
【0027】
まず、利用者は、画面に表示された探索対象画像の内容を見て、探索対象に含めたいと考える対象物を見つけ、その対象物上の点を指定する(S101)。図6(a)は、対象物を指定する際の探索対象画像の様子を示す図である。探索対象画像中で、利用者が探索対象に含めたい対象物上の点を指定すると、図6(a)に示すように、テンプレート画像の正方形形状の外枠および二重の多角形形状が表示される。例えば、衛星画像の中から船舶を検出したい場合、衛星画像中の1つの船舶の上の点を指定する。
【0028】
続いて、テンプレート準備部20は、指定された位置を基点にしてテンプレート画像とのマッチング処理を行う(S102)。この処理を行う理由は、図6(a)のように、利用者が画面上で指定した点は視覚的な判断によるもので曖昧性に富むため、この点を基にそのまま判定基準値を算出すると、不適切な探索が行なわれる可能性が高いためである。そこで、本処理では利用者が指示した点を最適な位置に補正するものである。具体的には、図6(b)に示すように、指定された探索対象画像上の基点(Xc、Yc)とテンプレート画像の中心位置を合わせ、そこからテンプレート画像をx方向,y方向に1画素単位で、設定された範囲内において移動させながら、マッチング処理を行う。このマッチング処理の詳細については後述する。同一位置において、角度を変えた8通りのテンプレート画像に対してマッチング処理を行い、最も類似度の高い角度のテンプレート画像を選出するとともにその探索対象画像の画素位置を最適位置として特定する。
【0029】
次に、判定基準値設定手段22が、探索対象画像上の対象物が適合判定されるように判定基準値の設定を行う(S103)。判定基準値の設定が終わったら、テンプレート更新手段23が、最適位置における探索対象画像の画素ブロックとテンプレート画像を合成し、その合成画像でテンプレート画像を更新する(S104)。
【0030】
次に、上記S102におけるマッチング処理の詳細について、図7のフローチャートを用いて説明する。図7に示したS201〜S206の処理のうち、S201、S202はテンプレート画像内の多角形の角度に依存しない処理であり、S203〜S206はテンプレート画像内の多角形の角度に依存する処理である。角度に依存しないS201、S202の処理は、1つのテンプレート画像について1回だけ、共通有効画像領域に対して実行されるが、角度に依存するS203〜S206の処理は、各角度のパターンの有効画像領域に対して実行されるため、1つのテンプレート画像について8回実行されることになる。マッチング処理を行う際は、まず、類似性評価値となる各変数の初期化を行う。具体的には、角度に依存しない輝度ヒストグラム(階調ヒストグラム)の差分の最小値、角度に依存しない輝度分散(階調分散)の差分の最小値、角度に依存する輝度ヒストグラムの差分の最小値、角度に依存する輝度分散の差分の最小値、グレー階調画素差分の最小値、正規化相関係数の最大値の6つの変数(類似性評価値)を初期化する。本実施形態では、これら6つの変数は全て0〜1000の値をとり、正規化相関係数については、初期値を最小値0とし、他の5つの変数については、初期値を最大値1000とする。
【0031】
各変数の初期化が終わったら、角度に依存しない輝度ヒストグラムの照合を行う(S201)。具体的には、まず、テンプレート画像のサイズをS×Sとし、テンプレート画像の画素(x,y) (0≦x≦S-1, 0≦y≦S-1)における階調値をVt(x,y)(0〜127)、マスク値をMt(x,y) (0,1,2,3)、探索対象画像の位置(Xc+dx,Yc+dy) を起点とする領域内のテンプレート位置(x,y)に対応する画像階調値をV(x+Xc+dx,y+Yc+dy)(1〜127)とする。S×S 画素の範囲内で、Mt(x,y)=3となる画素(x,y)において、V(x,y)/8の値に基づく探索対象画像の16階調の輝度ヒストグラムH(v) (0≦v≦15)、およびVt(x,y)/8の値に基づくテンプレート画像の16階調の輝度ヒストグラムHt(v) (0≦v≦15)を算出する。さらに、以下の〔数式1〕に従った処理を実行して輝度ヒストグラム差分、すなわち輝度ヒストグラム同士のユークリッド距離を算出する。
【0032】
〔数式1〕
(輝度ヒストグラム差分)=1000・Σ v=0,15|H(v)−Ht(v)|/ Σ v=0,15(H(v)+Ht(v))
【0033】
続いて、輝度分散の照合を行う(S202)。具体的には、S201と同様、テンプレート画像のサイズをS×Sとし、S×S 画素の範囲内で、Mt(x,y)=3となるC個の画素(x,y)を用いて、探索対象画像の平均階調値Vaとテンプレート画像の平均階調値Vatを以下の〔数式2〕に従った処理を実行して算出する。
【0034】
〔数式2〕
Va= Σ y=0,S-1 Σ x=0,S-1 | Mt(x,y) =3 V(x+Xc+dx,y+Yc+dy)/ C
Vat= Σ y=0,S-1 Σ x=0,S-1 | Mt(x,y) =3 Vt(x,y)/ C
C= Σ y=0,S-1 Σ x=0,S-1 | Mt(x,y) =3 1
【0035】
そして、S×S 画素の範囲内で、Mt(x,y)=3となる画素(x,y)を用いて、探索対象画像の輝度分散値Dとテンプレート画像の輝度分散値Dtを以下の〔数式3〕に従った処理を実行して算出する。
【0036】
〔数式3〕
D= Σ y=0,S-1 Σ x=0,S-1 | Mt(x,y) =3 |V(x+Xc+dx,y+Yc+dy) -Va|/C
Dt= Σ y=0,S-1 Σ x=0,S-1 | Mt(x,y) =3 | Vt(x,y) -Vat|/C
【0037】
そして、S×S 画素の範囲内で、Mt(x,y)=3となる画素(x,y)を用いて、周知の計算式である以下の〔数式4〕に従った処理を実行して輝度分散差分を算出する。
【0038】
〔数式4〕
(輝度分散差分)=1000・|D-Dt|/(D+Dt)
【0039】
上述のようにS201、S202は、角度に依存しない処理である。したがって、各テンプレート画像について1回だけ行えばよい。共通有効画像領域に対するS201、S202の処理は、いずれの角度パターンの画素値を用いても良いが、本実施形態では、代表して0度のパターンの画素値を用いている。ここからのS203〜S206は、角度に依存する処理であるため、同一IDをもつテンプレート画像についても、角度別に処理を行う。S203〜S206の処理において、各角度パターンのテンプレート画像上で処理対象となるのは、有効画像領域と内側マスク領域の画素である。
【0040】
次に、角度に依存する輝度ヒストグラムの照合を行う(S203)。具体的には、S×S 画素の範囲内で、Mt(x,y) >0となる画素(x,y)において、V(x,y)/8の値に基づく探索対象画像の16階調の輝度ヒストグラムH(v) (0≦v≦15)、およびVt(x,y)/8の値に基づくテンプレート画像の16階調の輝度ヒストグラムHt(v) (0≦v≦15)を算出する。さらに、上記〔数式1〕に従った処理を実行して輝度ヒストグラム差分、すなわち輝度ヒストグラム同士のユークリッド距離を算出する。
【0041】
次に、角度に依存する輝度分散の照合を行う(S204)。具体的には、S×S 画素の範囲内で、Mt(x,y) >0となるC個の画素(x,y)を用いて、探索対象画像の平均階調値Vaとテンプレート画像の平均階調値Vatを上記〔数式2〕に従った処理を実行して算出する。そして、S×S 画素の範囲内で、Mt(x,y) >0となる画素(x,y)を用いて、上記〔数式4〕に従った処理を実行して輝度分散差分を算出する。
【0042】
次に、グレー階調画素差分の算出を行う(S205)。具体的には、上記と同様に、テンプレート画像のサイズをS×Sとし、テンプレート画像の画素(x,y) (0≦x≦S-1, 0≦y≦S-1)における階調値をVt(x,y) (0〜127)、マスク値をMt(x,y)(0,1,2,3)、探索対象画像の位置(Xc+dx,Yc+dy) を起点とする領域内のテンプレート位置(x,y)に対応する画像階調値をV(x+Xc+dx,y+Yc+dy) (0〜127)とする。ここで、シャドウ側をハイライト側に上げ、中間調部をシャドウ側に落とすような以下の階調変換を施す。Vt(x,y)≧64のとき、Vt'(x,y)=Vt(x,y)-64、 Vt(x,y)<64のとき、Vt'(x,y)=63-Vt(x,y) 。V(x,y) ≧64のとき、V'(x,y)=V(x,y)-64、 V(x,y)<64のとき、V'(x,y)=63-V(x,y)。 さらに、S×S 画素の範囲内で、Mt(x,y) >0となるC個の画素(x,y)を用いて、以下の〔数式5〕に従った処理を実行して探索対象画像とテンプレート画像の画素差分であるグレー階調画素差分を算出する。
【0043】
〔数式5〕
(グレー階調画素差分)= 1000・Σ y=0,S-1 Σ x=0,S-1 | Mt(x,y)≠0 |V'(x+Xc+dx,y+Yc+dy)−Vt'(x,y)| / ( V'(x+Xc+dx,y+Yc+dy)+Vt'(x,y) )
【0044】
次に、正規化相関係数の算出を行う(S206)。具体的には、上記と同様に、テンプレート画像のサイズをS×Sとし、テンプレート画像の画素(x,y) (0≦x≦S-1, 0≦y≦S-1)における階調値をVt(x,y)(0〜127)、マスク値をMt(x,y)(0,1,2,3)、探索対象画像の位置(Xc+dx,Yc+dy) を起点とする領域内のテンプレート位置(x,y)に対応する画像階調値をV(x+Xc+dx,y+Yc+dy) (1〜127)とする。S×S画素の範囲内で、Mt(x,y) >0となるC個の画素(x,y)を用いて、探索対象画像の平均階調値Vaとテンプレート画像の平均階調値Vatを上記〔数式2〕(ただし、Mt(x,y) >0)に従った処理を実行して算出する。
【0045】
そして、S×S 画素の範囲内で、Mt(x,y) >0となる画素(x,y)を用いて、周知の計算式である以下の〔数式6〕に従った処理を実行して正規化相関係数を算出する。ただし、正規化相関係数が負値(負の相関)となる場合は0(相関無し)として扱う。
【0046】
〔数式6〕
(正規化相関係数)= 1000・Σ y=0,S-1 Σ x=0,S-1 | Mt(x,y) ≠0 (V(x+Xc+dx,y+Yc+dy)-Va)・(Vt(x,y)-Vat) / [Σ y=0,S-1 Σ x=0,S-1 | Mt(x,y) ≠0 (V(x+Xc+dx,y+Yc+dy)-Va)2・ Σ y=0,S-1 Σ x=0,S-1 | Mt(x,y) ≠0 (Vt(x,y)-Vat)2]1/2
【0047】
続いて、各変数の更新を行う(S207)。具体的には、S201において算出した輝度ヒストグラム差分が、現在設定されている輝度ヒストグラム差分の最小値より小さく、かつS206において算出した正規化相関係数が現在設定されている正規化相関係数の最大値より大きい場合、角度に依存しない輝度ヒストグラムの差分の最小値、角度に依存しない輝度差分の最小値、角度に依存する輝度ヒストグラムの差分の最小値、角度に依存する輝度差分の最小値、グレー階調画素差分の最小値、正規化相関係数の最大値の6つの変数(類似性評価値)を今回算出した値に置き換える。そして、位置、テンプレートID、角度の値を、このときの位置、テンプレートID、角度の値で更新する。
【0048】
各変数の更新が終わったら、1つのテンプレート画像について、全ての角度のパターンの処理が終わったかどうかを判断する(S208)。全ての角度のパターンについて処理が終わっていない場合は、S203に戻って、角度に依存する輝度ヒストグラムの差分、角度に依存する輝度差分、グレー階調画素差分、正規化相関係数の算出を行う。全ての角度のパターンについて処理が終わった場合は、S209に進む。したがって、本実施形態では、1つのテンプレート画像につき、8通りの角度について、S203〜S207の処理が繰り返される。
【0049】
1つのテンプレート画像の全角度について処理が終わったら、全てのテンプレート画像について処理が終わったかどうかを判断する(S209)。全てのテンプレート画像について処理が終わっていない場合は、S201〜S208の処理を繰り返す。全てのテンプレート画像について処理が終わった場合は、S210に進む。したがって、本実施形態では、1つの画素位置につき、8個のテンプレート画像について、S201〜S208の処理が繰り返される。
【0050】
全てのテンプレート画像について処理が終わったら、全ての画素位置について処理が終わったかどうかを判断する(S210)。全ての画素位置とは、指定された基点(Xc、Yc)からx軸、y軸方向にそれぞれ所定画素の範囲に含まれる画素の位置を意味する。所定画素の範囲としては、テンプレート画像のx軸、y軸方向のそれぞれ5%程度が設定されている。例えば、テンプレート画像が100×100画素である場合、5×5の計25画素の位置について、図6に示した処理が繰り返される。全ての画素位置について処理が終わっていない場合は、S201〜S209の処理を繰り返す。全ての画素位置について処理が終わった場合は、各変数を出力して、マッチング処理を終了する。各変数は、各テンプレート画像単位で出力される。
【0051】
次に、S103の判定基準値の設定の詳細について説明する。判定基準値は、判定基準値設定手段22により、マッチング処理において出力された各変数に所定の値を乗じることにより設定される。本実施形態では、正規化相関係数については、出力された正規化相関係数の最大値に0.9を乗じた値を判定基準値とし、他の5つの変数については、出力された値に1.1を乗じた値を判定基準値としている。具体的には、以下の〔数式7〕に従った処理を実行して算出する。
【0052】
〔数式7〕
(角度非依存の輝度ヒストグラム差分の判定基準値)=(角度非依存の輝度ヒストグラム差分の最小値)×1.1
(角度非依存の輝度分散差分の判定基準値)=(角度非依存の輝度分散差分の最小値)×1.1
(角度依存の輝度ヒストグラム差分の判定基準値)=(角度依存の輝度ヒストグラム差分の最小値)×1.1
(角度依存の輝度分散差分の判定基準値)=(角度依存の輝度分散差分の最小値)×1.1
(グレー階調画素差分の判定基準値)=(グレー階調画素差分の最小値)×1.1
(正規化相関係数の判定基準値)=(正規化相関係数の最大値)×0.9
【0053】
続いて、S104のテンプレートの更新の詳細について説明する。S104では、テンプレート更新手段23が、各テンプレート画像を更新する。具体的には、各テンプレート画像の最適位置における探索対象画像上の画素ブロックを用いて、各テンプレート画像の各角度の画像を更新する。まず、各テンプレート画像のうち、最適角度のものと探索対象画像上の画素ブロックの合成を行う。テンプレート画像において外側マスク領域は合成を行わないので、テンプレート画像中の内側マスク領域および有効画像領域内部についてのみ合成を行う。
【0054】
合成の具体的な手法としては、内側マスク領域および有効画像領域内部の各画素単位で整数の擬似乱数を順次発生させ、所定の数が出たら、探索対象画像上の画素ブロックの対応する画素の値に置き換える。例えば、奇数が出たら、探索対象画像上の画素ブロックの対応する画素に置き換えるように設定しておけば、約半分の確率で内側マスク領域および有効画像領域内部の画素が探索対象画像の画素に置き換えられる。図8は、探索対象画像とテンプレート画像の合成によりテンプレート画像を更新する例を示す図である。図8の例では、説明の便宜のため、画像サイズを5×5画素に簡略化している。図8(b)はテンプレート画像であり、Tは外側多角形内部(有効画像領域および内側マスク領域)の画素を示し、空白は外側マスク領域の画素を示している。図8(a)はテンプレート画像に対して最適位置と判断された探索対象画像上の画素ブロックであり、Wは探索対象画像上の画素を示している。この2つの画像に上述のような合成処理を施した結果、図8(c)に示すように、テンプレート画像の内側マスク領域および有効画像領域の画素Tのうち約半数が探索対象画像の画素Wに置き換えられた合成画像が得られる。この合成画像が、更新されたテンプレート画像として登録される。なお、乱数の発生方式は処理を行う度に異なる系列になるように、シーズを毎回変更する。
【0055】
最適角度のパターンについて、更新処理が終わったら、他の角度のパターンについても更新を行う。他の角度のパターンについては、最適角度との角度の差を求め、その角度だけ探索対象画像上の画素ブロックを回転し、有効画像領域内部の各画素単位を回転した探索対象画像上の画素ブロックの対応する画素に置き換える。このようにして、全ての角度についてテンプレート画像が更新される。あらかじめ用意した全てのテンプレート画像に対して同様の処理を行うことにより、全てのテンプレート画像を更新する。図9はテンプレート画像の更新の様子を示す図である。図9に示すように、探索対象画像上における最適位置の画素ブロックを用いて、全ての角度の画像を更新する。
【0056】
(4.探索処理)
以上のようにして、テンプレート画像の準備が完了したら、準備されたテンプレート画像を用いて、目標物探索部40が目標物の探索を行う。この目標物の探索処理について図10のフローチャートを用いて説明する。利用者が目標物探索処理を指示すると、目標物探索部40の角度非依存類似性判断手段41、角度依存類似性判断手段42が連携して、順次マッチング処理を行う(S301)。具体的には、探索対象画像中の始点画素位置から順次パターンマッチング処理を実行し、類似判定する位置を見つける。
【0057】
図11は、順次マッチング処理の概略を示す図である。順次マッチング処理は、最初に、探索対象画像中の始点画素位置(0,0)を起点として(S−1,S−1)までのS×S個の正方形状の画素ブロックと、テンプレート画像との比較を行い、(1,0)を起点とする正方形領域、(2,0)を起点とする正方形領域…というように、X方向スキャン範囲に1画素づつ移動させて比較を行っていき、x軸方向について終了したら、Y方向スキャン範囲に1画素分移動し、(0,1)を起点とする正方形領域、(1,1)を起点とする正方形領域…というように順次探索対象画像全体についてテンプレート画像との比較を行っていく。
【0058】
各画素位置におけるマッチング処理は、同一IDのテンプレート画像の全8個の角度パターンのうちいずれか1つの角度パターンとのマッチングを行う角度非依存テンプレートマッチングと、同一IDのテンプレート画像のうちの全8個の角度パターンとのマッチングを行う角度依存テンプレートマッチングとに分けて行われる。角度非依存テンプレートマッチングで不適合と判断された場合は、角度依存テンプレートマッチングを行うことなく、次の画素位置に移動する。
【0059】
画素位置を特定した場合の順次マッチング処理の詳細を図12のフローチャートに示す。まず、S102のマッチング処理と同様、類似性評価値となる各変数の初期化を行う。具体的には、角度に依存しない輝度ヒストグラムの差分の最小値、角度に依存しない輝度差分の最小値、角度に依存する輝度ヒストグラムの差分の最小値、角度に依存する輝度差分の最小値、グレー階調画素差分の最小値、正規化相関係数の最大値の6つの変数(類似性評価値)を初期化する。探索処理で用いる6つの類似性評価値も全て0〜1000の値をとり、正規化相関係数については、初期値を最小値0とし、他の5つの変数については、初期値を最大値1000とする。
【0060】
類似性評価値の初期化が行われたら、まず、その画素位置における探索対象領域の確認を行う(S400)。最初の画素位置は(0,0)であるので、ここから(S−1、S−1)の範囲におけるS×S個の各画素について、探索対象領域として設定されているかどうかを確認する。本実施形態では、各画素の1ビット目の値により探索領域を設定しているため、この値を確認することにより、探索領域であるか非探索領域であるかを判断する。(0,0)を起点とするS×S画素の過半数が探索非対象領域である場合には(1ビット目が0である画素の個数>S×S/2)、次の画素位置(1,0)に移動し(不適合終了)、S400の探索対象領域の確認を行う。このS400における処理により、探索非対象領域に対しては、S401以降の処理を行わないことになり、全体としての探索処理の効率化が図られる。
【0061】
S400において、1画素でも探索対象領域として設定された画素が存在する場合は、輝度ヒストグラムの照合を行う(S401)。具体的には、上記S201と同様に、〔数式1〕に従った処理を実行して輝度ヒストグラム差分を算出する。そして、この輝度ヒストグラム差分と、S103で設定した判定基準値の比較を行い、判定基準値より大きい場合は、不適合となる。判定基準値と等しい場合は、どちらになるように設定しておいても良いが、本実施形態では、不適合と判断するよう設定している。これは、他の類似性評価値についても同様である。なお、不適合とは、類似性がないことを意味する。不適合となった場合は、現在利用しているテンプレート画像では適合しないと判断し、全てのテンプレート画像との処理を終えたかどうかを判断する(S411)。全てのテンプレート画像との処理が終了していない場合は、別のテンプレート画像に変更して(S412)、S400に戻る。
【0062】
S401において、輝度ヒストグラム差分が判定基準値より小さい場合は、輝度分散の照合を行う(S402)。具体的には、上記S202と同様に、〔数式4〕に従った処理を実行して輝度分散差分を算出する。そして、この輝度分散差分と、S103で設定した判定基準値の比較を行い、判定基準値以上の場合は、不適合となる。不適合となった場合の処理は、S401で不適合となった場合と同様である。S401、S402の処理は、上記S201、S202の処理と同様、共通有効画像領域に対して行われる。S401、S402の処理は、角度に依存しない処理であるため、それぞれテンプレート画像と照合して1回でも不適合であれば、別のテンプレート画像との処理に移行することになる。
【0063】
S402において、輝度分散差分が判定基準値より小さい場合は、角度に依存する輝度ヒストグラムの照合を行う(S403)。具体的には、上記S401と同様に、〔数式1〕に従った処理を実行して輝度ヒストグラム差分を算出する。ただし、S401、S402の処理とは異なり、同一のテンプレート画像について全ての角度に対して処理を行う。角度に依存する輝度ヒストグラムは、最小のものに更新され、そのときの角度が記録される。そして、全ての角度に対して輝度ヒストグラム差分の算出が終わったら(S404)、最小となった輝度ヒストグラム差分と、S103で設定した判定基準値の比較を行い、輝度ヒストグラム差分が判定基準値以上の場合は、不適合となる。不適合となった場合の処理は、S401で不適合となった場合と同様である。
【0064】
角度に依存する輝度ヒストグラムで適合となった場合は、角度に依存する輝度分散の照合を行う(S405)。具体的には、上記S402と同様に、〔数式4〕に従った処理を実行して輝度分散差分を算出する。ただし、S401、S402の処理とは異なり、同一のテンプレート画像について全ての角度に対して処理を行う。角度に依存する輝度分散差分は、最小のものに更新され、そのときの角度が記録される。そして、全ての角度に対して輝度分散差分の算出が終わったら(S406)、最小となった輝度分散差分と、S103で設定した判定基準値の比較を行い、輝度分散差分が判定基準値以上の場合は、不適合となる。不適合となった場合の処理は、S401で不適合となった場合と同様である。
【0065】
角度に依存する輝度ヒストグラムで適合となった場合は、グレー階調画素差分の算出を行う(S407)。具体的には、上記S205と同様に、〔数式5〕に従った処理を実行してグレー階調画素差分を算出する。グレー階調画素差分の算出処理においても、同一のテンプレート画像について全ての角度に対して処理を行う。グレー階調画素差分は、最小のものに更新され、そのときの角度が記録される。そして、全ての角度に対してグレー階調画素差分の算出が終わったら(S408)、最小となったグレー階調画素差分と、S103で設定した判定基準値の比較を行い、グレー階調画素差分が判定基準値以上の場合は、不適合となる。不適合となった場合の処理は、S401で不適合となった場合と同様である。
【0066】
グレー階調画素差分で適合となった場合は、正規化相関係数の算出を行う(S409)。具体的には、上記S206と同様に、〔数式2〕〔数式6〕に従った処理を実行して正規化相関係数を算出する。正規化相関係数の算出処理においても、同一のテンプレート画像について全ての角度に対して処理を行う。正規化相関係数は、最大のものに更新され、そのときの角度が記録される。そして、全ての角度に対して正規化相関係数の算出が終わったら(S410)、最大となった正規化相関係数と、S103で設定した判定基準値の比較を行い、正規化相関係数が判定基準値より大きい場合は適合となり、正規化相関係数が判定基準値以下の場合は不適合となる。
【0067】
全テンプレート画像について処理が終わったら(S411)、全項目すなわち6つの類似性評価値全てが適合であるテンプレートがあるかどうかを判断する(S413)。全項目が適合であるテンプレートがある場合は、グレー階調画素差分が最小の場合と、正規化相関係数が最大の場合のテンプレートIDと、その角度が一致するかどうかを判断する(S414)。すなわち、S407およびS408におけるグレー階調画素差分の算出処理において最小値を与えるテンプレートおよび角度と、S409およびS410における正規化相関係数の算出処理において最大値を与えるテンプレートおよび角度とが各々一致し、前記一致するテンプレートがS401、S402、S403、S405、S407およびS409において全て適合すると判断された場合は、適合終了となり、各変数、すなわちテンプレートID、画素位置(Xc、Yc)、角度、6つの類似性評価値を出力する。いずれかにおいて、不適合となる場合は、不適合終了となり、次の画素位置に対して、順次マッチング処理を行う。
【0068】
図12に示した順次マッチング処理においては、探索領域設定部60により、S400の探索対象領域の確認、角度非依存類似性判断手段41により、S401の角度に依存しない輝度ヒストグラムの照合、S402の角度に依存しない輝度分散の照合、角度依存類似性判断手段42により、S403の角度に依存する輝度ヒストグラムの照合、S405の角度に依存する輝度分散の照合、S407のグレー階調画素差分の算出、S409の正規化相関係数の算出の計7つの適合性判定処理が行われるが、これらの適合性判定処理は、処理負荷が小さいものから順に行われるように設定されている。すなわち、本実施形態では、S400の探索対象領域の確認が最も処理負荷が小さく、続いて角度に依存しない輝度ヒストグラムの照合が処理負荷が2番目に小さく、正規化相関係数の算出が最も処理負荷が大きい。これは、1つの処理で不適合と判定された場合に、全体として非類似と判断するという条件とすると、処理負荷が小さいものから先に行った方が効率が良いからである。特に、S400の探索対象領域の確認はテンプレートと照合を行う必要がなく、順次マッチング処理の対象となる領域内で探索領域設定部60により設定された画素をカウントするだけでよいため、これ以降の順次マッチング処理のいずれよりも処理負荷が小さくなり、探索領域設定部60により設定される画素の割合は一般に10%以下であるため、90%強の領域においてこれ以降の順次マッチング処理を実行せずに不適合と判断できる。続いて順次マッチング処理の中で、角度に依存する輝度ヒストグラムの照合、角度に依存する輝度分散の照合、グレー階調画素差分の算出、正規化相関係数の算出については、各角度について実行するため、1つの角度についてのみ実行する角度に依存しない輝度ヒストグラムの照合、角度に依存しない輝度分散の照合に比べて処理負荷は格段に大きくなる。また、角度に依存する処理の中でも、輝度ヒストグラム、輝度分散のように画像全体で1つの値を算出し、照合する処理は、グレー階調画素差分、正規化相関係数のように、画素単位で照合する処理に比べて処理負荷が小さいため、先に行うようにし、全体としての処理負荷を軽減している。
【0069】
S301の順次マッチング処理が適合終了となったら、次に、局所類似性判断手段42が、局所マッチング処理を行う(S302)。S301の順次マッチング処理は、探索対象画像全体における目標物の大まかな位置を探索するのに対し、S302の局所マッチング処理は、目標物の詳細な位置を探索する。具体的には、順次マッチング処理で最適と判断された位置(Xc、Yc)を起点に、画素スキャン進行方向(右方向、下方向)に所定の微小幅(ΔX、ΔY)だけ動かしながらテンプレートマッチングを実行し、6つの類似性評価値を最小値、最大値に更新し、そのときのテンプレートID、画素位置(Xm、Ym)、角度Amを出力する。マッチング処理の詳細は、図12に示した順次マッチング処理とは異なり図5のS102のマッチング処理、具体的には図7に示される処理と同じである。順次マッチング処理はある位置(Xc,Yc)で適合するか否かだけを判定すれば良かったが、局所マッチング処理は適合判定される微小範囲内で、更に最良の条件で適合する位置を探索する必要があるためである。
【0070】
局所マッチング処理が終了したら、目標物探索部40の探索結果出力手段43が、探索結果の出力を行う(S303)。具体的には、テンプレートID、位置(Xm、Ym)、角度Am、および6つの類似性評価値をリスト出力する。
【0071】
続いて、検出目標物消去手段44が、検出領域の消去を行う(S304)。具体的には、探索対象画像において、最適位置におけるテンプレート画像の図2で示した有効画像領域内部(内側多角形内部)に相当する部分を消去する。すなわち、有効画像領域内部に位置する探索対象画像上の画素の値を全て0にセットする。図13は、探索対象画像上における探索の結果の最適位置と、消去された領域を示す図である。探索の結果、探索対象画像上の目標物に対して、図13(a)に示すような位置がテンプレート画像の内側多角形と外側多角形の最適位置となった場合、図13(b)に示すように、探索対象画像上における有効画像領域(内側多角形内部)に相当する部分が消去される。図13(b)においては、外側多角形を点線で示しているが、仮に外側多角形の内部、すなわち有効画像領域内部に加えて内側マスク領域を消去すると、隣接する目標物の一部を消去してしまうことになり、隣接する目標物の検出が困難となる。このように、テンプレート画像の内側多角形内部に対応する領域を消去した場合でも、本探索処理終了後に探索位置を探索対象画像上でグラフィカルに表示する要求に応えるため、目標物探索部40は、消去前のオリジナルの探索対象画像をバックアップ保存する。
【0072】
S301〜S304の処理は、探索対象領域上の全画素に対して行われる。その際、S304において、有効画像領域の内部に対応する領域が消去されるため、その付近の画素に対して順次マッチング処理を行っても類似判定されることはなく、1つの目標物を重複して見つけてしまうことを防ぐことができる。一方、角度依存テンプレートマッチングで利用される内側マスク領域に対応する探索対象画像上の領域は消去されないため、隣接する目標物を消去するのを防ぐことができる。
【0073】
S303において出力された結果は、上述のように、探索結果出力手段43により探索結果として出力される。具体的には、検出された目的物の位置・方角をリスト出力する。この場合、位置については、画素位置を衛星画像が保有する緯度経度の情報に変換して出力する。また、探索画像上に検出した目的物の位置をグラフィカルに示すことも可能である。この場合、探索された箇所が全て消去されているため、バックアップ保存されたオリジナルの探索対象画像を再ロードする必要がある。その上に、指定の位置に内側多角形形状の輪郭線を指定の角度で回転させてオーバーレイ表示させ、検出された目的物の位置・方角を明示するようにする。S304の検出領域消去処理を行っても、重複する結果が存在する場合には、人手により1つを残して他は削除するような操作が行なわれる。
【0074】
上記実施形態では、探索時には、テンプレート画像については、その内容が更新されることなく利用される場合について説明したが、探索時においても、探索準備段階と同様、テンプレート画像の更新を行うようにしても良い。この場合、S302の局所マッチング処理の後、第2のテンプレート更新手段45が、S104と同様の処理を実行する。具体的には、S302で決定された画素位置(Xm、Ym)の画素ブロックを用いて、S302で決定されたテンプレートIDで特定されるテンプレート画像の各角度の画像を更新する。ここでも、S104と同様、まず、各テンプレート画像のうち、S302で決定された最適角度のものと探索対象画像上の画素ブロックの合成を行う。テンプレート画像においてマスク領域は合成を行わないので、テンプレート画像中の有効画像領域と内側マスク領域についてのみ合成を行う。
【0075】
合成の具体的な手法としては、図8を用いて説明したように、S104と同様、外側多角形形状内部の各画素単位で整数の擬似乱数を順次発生させ、所定の数が出たら、探索対象画像上の画素ブロックの対応する画素の値に置き換える。最適角度のパターンについて更新処理が終わったら、第2のテンプレート更新手段45が、他の角度のパターンについても更新を行うのもS104と同様である。なお、本実施形態では、第2のテンプレート更新手段45は、目標物探索部40の一部として機能するが、その具体的な機能は、テンプレート準備部20内のテンプレート更新手段23と同一であり、実際にはソフトウェアモジュールとして提供される。そのため、局所類似性判断手段42による処理の後、目標物探索部40からの指示により、テンプレート更新手段23がテンプレート画像の更新処理を実行するようにしても良い。この場合は、テンプレート更新手段23が第2のテンプレート更新手段として機能することになる。
【図面の簡単な説明】
【0076】
【図1】本発明に係る目標物検出システムの構成図である。
【図2】テンプレート画像領域と二重多角形形状の関係を示す図である。
【図3】8つの角度パターンを有するテンプレート画像を示す図である。
【図4】テンプレート画像、各角度の有効画像領域、共通有効画像領域の関係を示す図である。
【図5】判定基準値の算出およびテンプレート画像の更新の処理概要を示すフローチャートである。
【図6】探索対象(サンプル)画像上における処理の様子を示す図である。
【図7】マッチング処理の詳細を示すフローチャートである。
【図8】探索対象(サンプル)画像とテンプレート画像の合成によりテンプレート画像を更新する例を示す図である。
【図9】テンプレート画像の更新の様子を示す図である。
【図10】探索処理の概要を示すフローチャートである。
【図11】順次マッチング処理の概略を示す図である。
【図12】順次マッチング処理の詳細を示すフローチャートである。
【図13】探索対象画像上における探索の結果の最適位置と、消去された領域を示す図である。
【符号の説明】
【0077】
10・・・探索対象画像記憶部
20・・・テンプレート準備部
21・・・テンプレート作成手段
22・・・判定基準値設定手段
23・・・テンプレート更新手段
30・・・テンプレート記憶部
40・・・目標物探索部
41・・・角度非依存類似性判断手段
42・・・角度依存類似性判断手段
43・・・探索結果出力手段
44・・・検出目標物消去手段
45・・・第2のテンプレート更新手段
50・・・探索結果記憶部
60・・・探索領域設定部
【特許請求の範囲】
【請求項1】
目標物を含むテンプレート画像を用いて、探索対象である探索対象画像から、目標物を検出するシステムであって、
前記テンプレート画像を記憶したテンプレート記憶手段と、
前記探索対象画像に対して、各画素の値を用いて所定の処理を行い、探索対象領域と探索非対象領域を設定する探索領域設定手段と、
前記設定された探索対象領域に対して、先頭画素位置から最終画素位置まで抽出位置を順次移動させながら、前記各テンプレート画像と同一サイズの画素ブロックを前記探索対象画像から抽出し、前記テンプレート画像と前記画素ブロックの類似性評価値を算出し、当該類似性評価値と前記設定された判定基準値と比較することにより類似性を判断する類似性判断手段と、
前記類似性判断手段により類似性ありと判断された場合に、その際のテンプレート画像のID、前記探索対象画像上における画素ブロックの位置を特定する画素位置、前記テンプレート画像の回転角度を出力する探索結果出力手段と、
を有することを特徴とする目標物検出システム。
【請求項2】
請求項1において、
前記探索領域設定手段は、前記探索対象画像に対して、所定のサイズで平滑フィルタ処理を行い、平滑フィルタ処理後の画素値と所定の閾値との比較により、各画素を探索対象領域と探索非対象領域のいずれかに設定し、さらにモルフォロジー演算を施すことにより、探索対象領域と探索非対象領域を補正するものであることを特徴とする目標物検出システム。
【請求項3】
請求項1において、
前記探索領域設定手段は、バックプロパゲーション法により学習が行われている三階層のニューラルネットを用いて、前記探索対象画像から所定数の画素を抽出し、当該画素に一律の値を与える処理を行い、当該処理後の画素値と所定の閾値との比較により、各画素を探索対象領域と探索非対象領域のいずれかに設定するものであることを特徴とする目標物検出システム。
【請求項4】
請求項1から請求項3のいずれかにおいて、
前記類似性判断手段は、
前記探索対象画像に対して、先頭画素位置から最終画素位置まで抽出位置を順次移動させながら、前記各テンプレート画像と同一サイズの画素ブロックを前記探索対象画像から抽出し、前記テンプレート画像の角度を回転させず、前記テンプレート画像に含まれる画素とそれに対応する前記画素ブロック内の画素とを所定の照合方法で照合して、角度に依存しない類似性評価値を算出し、当該類似性評価値と事前に設定された判定基準値と比較することにより類似性を判断する角度非依存類似性判断手段と、
前記角度非依存類似性判断手段で類似性ありと判断された場合に、前記テンプレート画像を所定の角度で回転させながら、前記テンプレート画像に含まれる画素とそれに対応する前記画素ブロック内の画素とを所定の照合方法で照合して類似性評価値を算出し、事前に設定された判定基準値と比較することにより類似性を判断する角度依存類似性判断手段と、
を有することを特徴とする目標物検出システム。
【請求項5】
請求項4において、
前記角度非依存類似性判断手段は、複数の類似性評価値を算出し、各類似性評価値と対応する判定基準値と比較することにより、各類似性評価値に対応した類似性を判断し、いずれか1つの類似性評価値で類似性がない場合には、類似性なしと判断するものであることを特徴とする目標物検出システム。
【請求項6】
請求項4または請求項5において、
前記角度依存類似性判断手段は、複数の類似性評価値を算出し、各類似性評価値と対応する判定基準値と比較することにより、各類似性評価値に対応した類似性を判断し、いずれか1つの類似性評価値で類似性がない場合には、類似性なしと判断するものであることを特徴とする目標物検出システム。
【請求項7】
請求項4から請求項6のいずれかにおいて、
前記角度非依存類似性判断手段は、前記テンプレート画像に含まれる画素とそれに対応する前記画素ブロック内の画素の各々に対する輝度ヒストグラムを算出し、双方の輝度ヒストグラム同士のユークリッド距離を、前記類似性評価値として用いるものであることを特徴とする目標物検出システム。
【請求項8】
請求項4から請求項7のいずれかにおいて、
前記角度非依存類似性判断手段は、前記テンプレート画像に含まれる画素とそれに対応する前記画素ブロック内の画素の各々に対する輝度分散を算出し、双方の輝度分散同士の差を、前記類似性評価値として用いるものであることを特徴とする目標物検出システム。
【請求項9】
請求項4から請求項8のいずれかにおいて、
前記角度依存類似性判断手段は、前記テンプレート画像に含まれる画素とそれに対応する前記画素ブロック内の画素の各々に対する輝度ヒストグラムを算出し、双方の輝度ヒストグラム同士のユークリッド距離を、前記類似性評価値として用いるものであることを特徴とする目標物検出システム。
【請求項10】
請求項4から請求項9のいずれかにおいて、
前記角度依存類似性判断手段は、前記テンプレート画像に含まれる画素とそれに対応する前記画素ブロック内の画素の各々に対する輝度分散を算出し、双方の輝度分散同士の差を、前記類似性評価値として用いるものであることを特徴とする目標物検出システム。
【請求項11】
請求項4から請求項10のいずれかにおいて、
前記角度依存類似性判断手段は、前記テンプレート画像に含まれる画素とそれに対応する前記画素ブロック内の画素のグレー階調値の差分値を、前記類似性評価値として用いるものであることを特徴とする目標物検出システム。
【請求項12】
請求項4から請求項11のいずれかにおいて、
前記角度依存類似性判断手段は、前記テンプレート画像に含まれる画素とそれに対応する前記画素ブロック内の画素の階調値に基づく正規化相関係数を、前記類似性評価値として用いるものであることを特徴とする目標物検出システム。
【請求項13】
請求項1から請求項12のいずれかにおいて、
前記探索結果出力手段は、前記探索対象画像上に、前記探索対象領域と前記探索非対象領域を区別して表示するとともに、前記類似性判断手段により検出された目標物について、前記テンプレート画像の回転角度に対応したテンプレート画像の内側に定義されている多角形形状を、前記探索対象画像上に重ねて出力することを特徴とする目標物検出システム。
【請求項14】
コンピュータを、請求項1から請求項13のいずれかに記載の目標物検出システムとして機能させるためのプログラム。
【請求項1】
目標物を含むテンプレート画像を用いて、探索対象である探索対象画像から、目標物を検出するシステムであって、
前記テンプレート画像を記憶したテンプレート記憶手段と、
前記探索対象画像に対して、各画素の値を用いて所定の処理を行い、探索対象領域と探索非対象領域を設定する探索領域設定手段と、
前記設定された探索対象領域に対して、先頭画素位置から最終画素位置まで抽出位置を順次移動させながら、前記各テンプレート画像と同一サイズの画素ブロックを前記探索対象画像から抽出し、前記テンプレート画像と前記画素ブロックの類似性評価値を算出し、当該類似性評価値と前記設定された判定基準値と比較することにより類似性を判断する類似性判断手段と、
前記類似性判断手段により類似性ありと判断された場合に、その際のテンプレート画像のID、前記探索対象画像上における画素ブロックの位置を特定する画素位置、前記テンプレート画像の回転角度を出力する探索結果出力手段と、
を有することを特徴とする目標物検出システム。
【請求項2】
請求項1において、
前記探索領域設定手段は、前記探索対象画像に対して、所定のサイズで平滑フィルタ処理を行い、平滑フィルタ処理後の画素値と所定の閾値との比較により、各画素を探索対象領域と探索非対象領域のいずれかに設定し、さらにモルフォロジー演算を施すことにより、探索対象領域と探索非対象領域を補正するものであることを特徴とする目標物検出システム。
【請求項3】
請求項1において、
前記探索領域設定手段は、バックプロパゲーション法により学習が行われている三階層のニューラルネットを用いて、前記探索対象画像から所定数の画素を抽出し、当該画素に一律の値を与える処理を行い、当該処理後の画素値と所定の閾値との比較により、各画素を探索対象領域と探索非対象領域のいずれかに設定するものであることを特徴とする目標物検出システム。
【請求項4】
請求項1から請求項3のいずれかにおいて、
前記類似性判断手段は、
前記探索対象画像に対して、先頭画素位置から最終画素位置まで抽出位置を順次移動させながら、前記各テンプレート画像と同一サイズの画素ブロックを前記探索対象画像から抽出し、前記テンプレート画像の角度を回転させず、前記テンプレート画像に含まれる画素とそれに対応する前記画素ブロック内の画素とを所定の照合方法で照合して、角度に依存しない類似性評価値を算出し、当該類似性評価値と事前に設定された判定基準値と比較することにより類似性を判断する角度非依存類似性判断手段と、
前記角度非依存類似性判断手段で類似性ありと判断された場合に、前記テンプレート画像を所定の角度で回転させながら、前記テンプレート画像に含まれる画素とそれに対応する前記画素ブロック内の画素とを所定の照合方法で照合して類似性評価値を算出し、事前に設定された判定基準値と比較することにより類似性を判断する角度依存類似性判断手段と、
を有することを特徴とする目標物検出システム。
【請求項5】
請求項4において、
前記角度非依存類似性判断手段は、複数の類似性評価値を算出し、各類似性評価値と対応する判定基準値と比較することにより、各類似性評価値に対応した類似性を判断し、いずれか1つの類似性評価値で類似性がない場合には、類似性なしと判断するものであることを特徴とする目標物検出システム。
【請求項6】
請求項4または請求項5において、
前記角度依存類似性判断手段は、複数の類似性評価値を算出し、各類似性評価値と対応する判定基準値と比較することにより、各類似性評価値に対応した類似性を判断し、いずれか1つの類似性評価値で類似性がない場合には、類似性なしと判断するものであることを特徴とする目標物検出システム。
【請求項7】
請求項4から請求項6のいずれかにおいて、
前記角度非依存類似性判断手段は、前記テンプレート画像に含まれる画素とそれに対応する前記画素ブロック内の画素の各々に対する輝度ヒストグラムを算出し、双方の輝度ヒストグラム同士のユークリッド距離を、前記類似性評価値として用いるものであることを特徴とする目標物検出システム。
【請求項8】
請求項4から請求項7のいずれかにおいて、
前記角度非依存類似性判断手段は、前記テンプレート画像に含まれる画素とそれに対応する前記画素ブロック内の画素の各々に対する輝度分散を算出し、双方の輝度分散同士の差を、前記類似性評価値として用いるものであることを特徴とする目標物検出システム。
【請求項9】
請求項4から請求項8のいずれかにおいて、
前記角度依存類似性判断手段は、前記テンプレート画像に含まれる画素とそれに対応する前記画素ブロック内の画素の各々に対する輝度ヒストグラムを算出し、双方の輝度ヒストグラム同士のユークリッド距離を、前記類似性評価値として用いるものであることを特徴とする目標物検出システム。
【請求項10】
請求項4から請求項9のいずれかにおいて、
前記角度依存類似性判断手段は、前記テンプレート画像に含まれる画素とそれに対応する前記画素ブロック内の画素の各々に対する輝度分散を算出し、双方の輝度分散同士の差を、前記類似性評価値として用いるものであることを特徴とする目標物検出システム。
【請求項11】
請求項4から請求項10のいずれかにおいて、
前記角度依存類似性判断手段は、前記テンプレート画像に含まれる画素とそれに対応する前記画素ブロック内の画素のグレー階調値の差分値を、前記類似性評価値として用いるものであることを特徴とする目標物検出システム。
【請求項12】
請求項4から請求項11のいずれかにおいて、
前記角度依存類似性判断手段は、前記テンプレート画像に含まれる画素とそれに対応する前記画素ブロック内の画素の階調値に基づく正規化相関係数を、前記類似性評価値として用いるものであることを特徴とする目標物検出システム。
【請求項13】
請求項1から請求項12のいずれかにおいて、
前記探索結果出力手段は、前記探索対象画像上に、前記探索対象領域と前記探索非対象領域を区別して表示するとともに、前記類似性判断手段により検出された目標物について、前記テンプレート画像の回転角度に対応したテンプレート画像の内側に定義されている多角形形状を、前記探索対象画像上に重ねて出力することを特徴とする目標物検出システム。
【請求項14】
コンピュータを、請求項1から請求項13のいずれかに記載の目標物検出システムとして機能させるためのプログラム。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【公開番号】特開2009−289078(P2009−289078A)
【公開日】平成21年12月10日(2009.12.10)
【国際特許分類】
【出願番号】特願2008−141617(P2008−141617)
【出願日】平成20年5月29日(2008.5.29)
【出願人】(000002897)大日本印刷株式会社 (14,506)
【Fターム(参考)】
【公開日】平成21年12月10日(2009.12.10)
【国際特許分類】
【出願日】平成20年5月29日(2008.5.29)
【出願人】(000002897)大日本印刷株式会社 (14,506)
【Fターム(参考)】
[ Back to top ]