画像相関処理装置、画像相関処理方法及び画像相関処理プログラム並びに対象物位置情報取得装置
【課題】撮像系の歪み補正などを行うことなく、複数の画像の相関処理を適切に行う。
【解決手段】複数の画像の相関処理を行う画像相関処理装置であって、前記複数の画像の各画像から部分画像を前記各画像上で位置をずらしながら順次選択する部分画像選択部121,122と、前記各画像から選択された前記各画像の部分画像に対してハフ変換を行うハフ変換部131,132と、前記ハフ変換された前記各画像の部分画像の相関値を算出する相関処理部150とを有する。
【解決手段】複数の画像の相関処理を行う画像相関処理装置であって、前記複数の画像の各画像から部分画像を前記各画像上で位置をずらしながら順次選択する部分画像選択部121,122と、前記各画像から選択された前記各画像の部分画像に対してハフ変換を行うハフ変換部131,132と、前記ハフ変換された前記各画像の部分画像の相関値を算出する相関処理部150とを有する。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、画像相関処理装置、画像相関処理方法及び画像相関処理プログラム並びに求められた相関情報を用いて画像位置情報を取得可能な対象物位置情報取得装置に関する。
【背景技術】
【0002】
ある1つの画像または複数の画像において、それらの画像の部分画像間の相関の大きさ(相関値という)を求める処理は、様々な画像処理や画像符号化において多用される技術である。
例えば、MPEGなどの画像符号化方法においては、1つの画像、または時間的に前後する複数の画像の部分画像間の相関値を求め、求められた相関値を用いて高効率な画像符号化を実現している。
【0003】
また、異なる位置に設置された複数の撮像装置を用いて、ある対象物を同時に撮像して得られた複数の画像を用い、その部分画像間の相関値を求めれば、その画像の3次元的な構造や対象物の位置情報を取得することができる。対象物の位置情報を取得することにより、撮像装置から物体までの距離を取得することもできる。これは視差を利用したものであり、取得された位置情報を用いれば、撮像装置が実際に存在しなかった視点からの画像を合成することも可能となる。また、撮像装置から物体までの距離は、ロボット制御や自動車の運転支援システムなどにも用いることができ、例えば、進行方向における障害物の回避などにも用いることができる。
【0004】
図12は視差を用いて対象物の距離情報を取得する方法について簡単に説明する図である。図12(a)に示すように、2台の撮像手段(カメラという)10L,10Rにより対象物αと対象物βとを撮像するものとする。このとき、左側のカメラ10Lからの画像を左目画像とし、右側のカメラ10Rからの画像を右目画像として画像処理するものとする。図12(b)は左側のカメラ10Lから得られた左目画像であり、図12(c)は右側のカメラ10Rから得られた右目画像である。
【0005】
図12(b),(c)に示すような左目画像として取得された対象物αと右目画像として取得された対象物αとの視差及び左目画像に写った対象物βと右目画像に写った対象物βとの視差をそれぞれ求める。このとき、カメラ10L,10Rの位置関係が既知であるならば、求められた視差とカメラ10L,10Rの位置関係とを用いれば、三角測量の原理により、対象物α,βまでの距離を知ることができる。
【0006】
図13は図12によって得られた左目画像と右目画像との相関処理を簡単に説明する図である。図13においては、左目画像を基準画像とする。また、相関値を算出する処理を相関処理と呼ぶことにする。
【0007】
まず、左目画像から部分画像を左目画像上で位置をずらしながら順次選択する。ここで、選択した部分画像を構成する画像データをLiとする(図13(a)参照)。なお、Lの添え字iは、0≦i<Nであるとする(Nは左目画像から選択された部分画像の総画素数とする)。
【0008】
同様に、右目画像からも部分画像を右目画像上で位置をずらしながら順次選択する。ここで、選択した部分画像を構成するデータをRiとする(図13(c)参照)。なお、Rの添え字iは、0≦i<Nであるとする(Nは右目画像から選択された部分画像の総画素
数とする)。
【0009】
続いて、左目画像から切り出された部分画像と右目画像から切り出された部分画像との相関値を求める相関処理を行う(図13(b)参照)。ここで、相関値は下記(1)式によって求めることができる。
Σabs(Li−Ri)・・・・・・(1)
上記(1)式において、Σは添え字iの0≦i<Nの範囲での総和を示すものとし、関数absは、その引数の絶対値を与えるものとする。
【0010】
また、相関値は、下記(2)式で求められる正規化された内積値であっても良い。
Σ(Li×Ri)/〔sqrt{Σ(Li×Li)}×sqrt{Σ(Ri×Ri)}〕・・・(2)
【0011】
(2)式において、Σは、(1)式と同様に、添え字iの0≦i<Nの範囲での総和を示すものとする。また、(2)式おいては、関数sqrtは、その引数の平方根を与えるものとする。
【0012】
上記(1)式または(2)式で求められる相関値を、右目画像から順次選択される部分画像と基準画像(左目画像)において選択された部分画像との間で求め、相関値が最大となる部分画像を探索する。そして、相関値が最大となる部分画像の位置の差が、右目画像と左目画像との視差ということになる。
【0013】
ところで、このような画像の相関処理は、原理的には非常に簡単なものであるが、実際的にはそれほど単純なものではない。図13の説明は、検出した対象物が右目画像、左目画像においては、単純に並行移動した状態であるという仮定のもとに成り立つものである。しかし、実際的にはそのような仮定は成り立ち難い。例えば、実際の撮像系においては、撮像系間において倍率の誤差や設置時の軸の回転などの誤差が存在する。それにより、撮像手段により得られた画像の大きさが異なったり、あるいは回転していたりする場合もある。また個々の撮像系においても、レンズ歪などにより、撮像された画像が非線形に歪んで変形してしまう場合もある。
【0014】
図14はレンズ歪みによって画像が変形する例を説明する図である。ここでは、糸巻き型の歪みを仮定している。例えば、図14(a)のように、歪みの無い撮像系においては、その撮像系によって撮像された画像の中心部における四辺形11も、周辺部における四辺形12も同じ形で撮像される。一方、図14(b)のような歪みのある撮像系においては、中心部における四辺形11には歪みが生じなくても、周辺部の四辺形12には菱形状に変形するような歪みが生じることがある。このような状態では、図13で説明したような単純な相関処理方法では期待する結果は得られない。
【0015】
そのため、従来技術においては、まず、カメラ補正と呼ばれる処理が行われる。カメラ補正処理は、カメラ固有の歪を求め、それを逆変換処理することにより、歪みの無い画像を得ようとするものである。それにより、図13で説明したような状態を実現することが原理的には可能である。
【0016】
しかし、このカメラ補正処理においても多くの課題が残る。1つは、複数のカメラの各カメラごとに歪を測定しなければならないということである。さらに、歪はカメラのズームなどの状態によっても変化する。あるいは、経時変化や温度変化、撮像姿勢によっても変化してしまう。これら全てを考慮してカメラ補正を行うのは、非常に困難なことである。
【0017】
これらの問題点を解決する方法として、例えば、特許文献1に開示された技術(以下で
は、従来技術という)がある。この従来技術は、実際に画像を撮像しながら、それと同時に歪などの補正も行って行くものである。具体的には、撮像された画像中から、予め設定された条件を満たすような領域(マッチングが取りやすいような領域)を基準領域として選択し、各々の画像の中の基準領域同士の対応関係からカメラ補正処理を行うアフィン変換係数を求めるものである。アフィン変換は、対象の拡大縮小、回転などを表現するものであり、撮像時の歪みがアフィン変換として表現され、かつその逆アフィン変換を求めることができるならば、この方法により、経時変化、姿勢変化などにも対応し、良好な特性を得ることが可能となる。
【0018】
【特許文献1】特開2003−256875号公報
【発明の開示】
【発明が解決しようとする課題】
【0019】
しかし、上記従来技術にも課題が残る。つまり、従来技術においては、基準領域の正確な検出が必要であるということであり、基準領域が高精度に検出できることが前提条件となっている。しかしながら、このような基準領域を高精度に取得することは一般的には容易ではない。そして、この基準領域の検出を誤ると、適切な逆アフィン変換係数が得られず、処理全体が破綻してしまう。特に、撮像画像のコントラストが低い場合、あるいは、撮像時のノイズが多い場合には、問題が起こる可能性が高い。
【0020】
本発明は、撮像系の歪み補正などを行うことなく、画像間の相関処理を適切に行うことができる画像相関処理装置、画像相関処理方法及び画像相関処理プログラムを提供することを目的とするとともに、求められた相関値を用いて対象物の位置情報を取得可能な対象物位置情報取得装置を提供することを目的とする。
【課題を解決するための手段】
【0021】
本発明の画像相関処理装置は、複数の画像の相関処理を行う画像相関処理装置であって、前記複数の画像の各画像から部分画像を前記各画像上で位置をずらしながら順次選択する部分画像選択部と、前記各画像から選択された前記各画像の部分画像に対してハフ変換を行うハフ変換部と、前記ハフ変換された前記各画像の部分画像の相関値を算出する相関処理部とを有することを特徴とする。
【0022】
このように、本発明の画像相関処理装置によれば、選択された各部分画像に対してハフ変換を行い、ハフ変換後の各部分画像について相関値を算出するようにしている。ハフ変換は、その原理から理解できるように、(r,θ)座標でのr方向の変位は、(X,Y)座標での原点からの距離の変位を表し、(r,θ)座標でのθ方向の変位は、(X,Y)座標での回転を示す。このようなハフ変換の性質により、撮像系のレンズ歪みなどによる画像の変形は、(r,θ)座標において、極大値を与える点の移動として表現されることになる。
【0023】
これにより、例えば、複数の撮像手段で同じ対象物を撮像して得られた画像の一方に歪が生じた場合、(X,Y)座標系においては適切な補正処理により処理を行わないと、期待する相関を求めることが出来ない可能性があるが、ハフ変換された(r,θ)座標系においては、その変形は単にr方向及び/又はθ方向の変位として表現されるので、ハフ変換後の画像を用いて相関値を求めた場合、高い相関値を得ることができる。したがって、撮像系などの歪み補正などを行うことなく、画像間の相関処理を適切に行うことができる。
【0024】
本発明の画像相関処理装置において、前記ハフ変換された各画像の部分画像に対してマスク処理を行うマスク処理部をさらに有することが好ましい。
本発明の画像相関処理装置で用いるマスク処理は、選択された各画像の部分画像の相関値を算出する際に、相関の許容範囲を設定するものであり、このようなマスク処理を行うことにより、許容できる変形の範囲(回転や拡大縮小などの範囲)を考慮した相関処理を行うことができる。
【0025】
本発明の画像相関処理装置において、前記マスク処理部は、前記ハフ変換された各画像の画素値を拡散するように設定されたマスク係数によってマスク処理を行うことが好ましい。
ハフ変換された画像の画素値を拡散するということは、相関の許容範囲を広くすることを意味している。例えば、ハフ変換された各画像の画素値をr軸方向に拡散させたとすれば、(X、Y)座標系における原点からの距離dの変位に対する許容範囲、つまり、拡大縮小の変形に対する許容範囲を広くすることを意味し、θ軸方向に拡散させたとすれば、(X、Y)座標系における回転による変形に対する許容範囲を広くすることを意味する。このように、相関の許容範囲を広くするようなマスク係数によるマスク処理を行うことにより、撮像系の歪などが大きい場合であっても、同じ対象物に対して、より高い相関値を得ることができ、相関処理を効率的に行うことができる。
【0026】
本発明の画像相関処理装置において、前記マスク処理部は、前記ハフ変換された各画像の画素値を強調するように設定されたマスク係数によってマスク処理を行うこともまた好ましい。
ハフ変換された画像の画素値を強調するということは、相関の許容範囲を狭くすることを意味している。これは、上記の場合と逆に、許容範囲を狭めるようなマスク係数によるマスク処理を行うものであり、より高精度な相関処理を行う場合に好適なものとなる。
【0027】
本発明の画像相関処理装置において、前記複数の画像は、複数の撮像手段が同じ対象物を撮像することによって前記複数の撮像手段の各撮像手段から出力された画像とすることが可能である。
【0028】
これは、複数(例えば2つ)の撮像手段によって同じ対象物を撮像したときの各撮像手段から出力された各画像の部分画像について相関値を算出するというものである。これにより、例えば、2つの撮像手段から得られた画像の一方を左目画像、他方を右目画像として、左目画像から選択された部分画像と右目画像から選択された部分画像との相関値を算出し、最大の相関値が得られたときの各部分画像の位置の差を視差値として取得することができる。求められた視差値を用いることにより対象物までの距離などを求めることも可能となる。
【0029】
本発明の画像相関処理装置において、前記複数の画像は、撮像手段によって撮像された画像において時間的に前後する画像であってもよい。
これは、例えば、MPEGなどの画像符号化のように、時間的に前後する画像の相関を求める場合への適用を想定したものであり、本発明の画像相関処理装置をこのような画像符号化技術などに適用することにより、効率的な画像符号化が可能となる。
【0030】
本発明の画像相関処理方法は、複数の画像の相関処理を行う画像相関処理方法であって、前記複数の画像の各画像から部分画像を前記各画像上で位置をずらしながら順次選択する部分画像選択ステップと、前記各画像から選択された前記各画像の部分画像に対してハフ変換を行うハフ変換ステップと、前記ハフ変換された前記各画像の部分画像の相関値を算出する相関処理ステップとを有することを特徴とする。
本発明の画像相関処理方法を用いて各画像において選択された部分画像の相関処理を行うことにより、前記本発明の画像相関処理装置と同様の効果が得られる。なお、本発明の画像相関処理方法においても、前記本発明の画像相関処理装置のそれぞれの特徴を有する
ことが好ましい。
【0031】
本発明の画像相関処理プログラムは、複数の画像の相関処理をコンピュータに実行させるための画像相関処理プログラムであって、前記複数の画像の各画像から部分画像を前記各画像上で位置をずらしながら順次選択する部分画像選択ステップと、前記各画像から選択された前記各画像の部分画像に対してハフ変換を行うハフ変換ステップと、前記ハフ変換された前記各画像の部分画像の相関値を算出する相関処理ステップとを有することを特徴とする。
【0032】
本発明の画像相関処理プログラムをコンピュータに実行させることによって各画像において選択された部分画像の相関処理を行うことにより、前記本発明の画像相関処理装置と同様の効果が得られる。なお、本発明の画像相関処理プログラムにおいても、前記本発明の画像相関処理装置のそれぞれの特徴を有することが好ましい。
【0033】
本発明の対象物位置情報取得装置は、複数の撮像手段が同じ対象物を撮像することによって得られた複数の画像に基づいて前記対象物の位置情報を求める対象物位置情報取得装置であって、前記複数の画像の各画像から部分画像を前記各画像上で位置をずらしながら順次選択する部分画像選択部と、前記各画像から選択された前記各画像の部分画像に対してハフ変換を行うハフ変換部と、前記ハフ変換された前記各画像の部分画像の相関値を算出する相関処理部と、前記相関処理部によって求められた相関値のうち最大の相関値が得られたときの前記各画像の部分画像の位置に基づいて視差値を求める視差処理部とを有することを特徴とする。
【0034】
本発明の対象物位置情報取得装置によれば、複数(例えば2つ)の撮像手段から得られた画像の一方を左目画像、他方を右目画像として、左目画像から選択された部分画像と右目画像から選択された部分画像との相関値を算出し、最大の相関値が得られたときの各部分画像の位置の差を視差値として取得することができる。そして、求められた視差値を用いて対象物までの距離などを求めることも可能となる。撮像手段から対象物までの距離は、ロボット制御や自動車の運転支援システムなどにも用いることができ、例えば、進行方向における障害物の回避などにも用いることができる。また、これらの技術以外にも様々な分野に適用することができる。
【0035】
なお、本発明の対象物位置情報取得装置において相関を求める処理は、前記本発明の画像相関処理装置を用いているので、相関処理に関しては、前記本発明の画像相関処理装置と同様の効果を得ることができる。なお、本発明の対象物位置情報取得装置においても、前記本発明の画像相関処理装置のそれぞれの特徴を有することが好ましい。
【発明を実施するための最良の形態】
【0036】
以下、本発明の実施形態について説明する。なお、以下に示す実施形態では、図12で説明したように、2台のカメラによってある対象物を同時に撮像することによって、2台のカメラから出力された画像の相関値を算出する場合について説明する。
【0037】
[実施形態1]
図1は実施形態1に係る画像相関処理装置のブロック図である。実施形態1に係る画像の相関処理装置100は、図1に示すように、2台のカメラ(図1では図示せず)がある対象物を同時に撮像した画像を入力する画像入力部111,112と、画像入力部111,112に入力された各画像から部分画像を各画像上で位置をずらしながら順次選択する部分画像選択部121,122と、選択された部分画像に対してハフ変換を施すハフ変換処理部131,132と、ハフ変換処理部131,132でハフ変換された各画像(ハフ変換画像という)について相関値を算出する相関処理部150とを有している。
【0038】
なお、実施形態1においても、2台のカメラの一方から出力される画像を右目画像、他方から出力される画像を左目画像として説明する。また、左目画像は画像入力部111に入力され、右目画像は画像入力部112に入力されるものとする。
【0039】
図2は実施形態1に係る画像相関処理装置100が行う相関処理の基本的な概念を説明する図である。図2は従来技術の説明で用いた図13に対応するものであり、実施形態1に係る画像相関処理装置100が行う相関処理が図13と異なるのは、選択されたそれぞれの部分画像をハフ変換し、ハフ変換後のハフ変換画像について相関値を算出することにある。図2(a)は左目画像、図2(d)は右目画像であり、図2においても図13と同様、左目画像を基準画像とする。そして、左目画像から部分画像を順次選択し、選択されたある1つの部分画像L1のハフ変換画像L1’が図2(b)であるとする。なお、基準画像から選択された部分画像を基準部分画像という。
【0040】
また、右目画像(相関対象画像という)においても部分画像を順次選択し、選択された部分画像R1,R2,R3,・・・をそれぞれハフ変換する。図2(c)は右目画像から選択された各部分画像R1,R2,R3,・・・をハフ変換したハフ変換画像R1’,R2’,R3’,・・・であるとする。なお、相関対象画像(右目画像)から選択された部分画像を相関対象部分画像という。
【0041】
ここで、相関対象部分画像の各ハフ変換画像R1’,R2’,R3’,・・・と、基準部分画像L1のハフ変換画像L1’との相関値を算出する。なお、相関値は前述の(1)式または(2)式によって算出することができる。
【0042】
図3は実施形態1に係る画像相関処理装置の処理手順を説明するフローチャートである。図3において、まず、基準画像(左目画像)の全面について処理したか否かを処理したかを判定し(ステップS1)、全面について処理が終了していなければ、基準画像から部分画像を選択し(ステップS2)、選択した部分画像(基準部分画像)をハフ変換する(ステップS3)。また、最大相関値及び最大相関位置を初期化する(ステップS4)。この初期化は、例えば、図示しない記憶装置に保持されている最大相関値及び最大相関位置をゼロとする処理である。なお、最大相関位置は、最大相関値が得られた各部分画像の撮像画像上の位置である。
【0043】
続いて、相関対象画像(右目画像)の全面について処理したか否かを判定し(ステップS5)、全面について処理が終了していなければ、相関対象画像から部分画像を選択し(ステップS6)、選択した部分画像(相関対象部分画像)をハフ変換処理する(ステップS7)。そして、基準部分画像のハフ変換画像と相関対象部分画像のハフ変換画像との相関値を算出し(ステップS8)、算出された相関値と記憶装置に保持されているその時点の最大相関値とを比較する(ステップS9)。
【0044】
この比較の結果、ステップS8で求められた相関値の方が記憶装置に保持されているその時点の最大相関値よりも小さければ、ステップS5に戻り、再び、ステップS5以降の処理を行う。また、ステップS8で求められた相関値の方が記憶装置に保持されているその時点の最大相関値よりも大きければ、記憶装置に保持されている最大相関値をステップS8で求められた値に更新するとともに、最大相関位置をその時点の基準部分画像の位置及び相関対象部分画像の位置に更新(ステップS10)したのち、ステップS5に戻る。
【0045】
そして、ステップS5において、相関対象画像(右目画像)の全面について処理が終了したと判定された場合には、その時点における相関処理結果(最大相関値及び必要に応じて最大相関位置)を出力したのち、ステップS1に戻り、基準画像(左目画像)の全面に
ついて処理が終了したか否かを判定し、基準画像の全面について処理が終了していなければ、ステップS2以降の処理を行い、基準画像の全面について処理が終了していれば処理を終了する。
【0046】
以上説明したように、本発明においては、相関処理を行う際、基準部分画像をハフ変換するとともに、相関対象部分画像をハフ変換し、ハフ変換した各ハフ変換画像の相関値を算出することが大きな特徴である。ここで、ハフ変換について簡単に説明する。
【0047】
図4はハフ変換について説明する図である。ハフ変換は(X,Y)座標系で表現される画像を(r,θ)座標系に写像するものである。例えば、(X,Y)座標系におけるある座標(x,y)の点を考える。これは、(d×cos(φ),d×sin(φ))と書き換えることも可能である。そうすると、この点はハフ変換によって、下記(3)式に示す(r,θ)座標系の曲線に写像される。なお、ハフ変換を行う際の座標の原点は、選択された基準部分画像または選択された相関対象部分画像の中心に置くものとする。
r=d×cos(φ+θ)・・・・・(3)
【0048】
上記(3)式で表される曲線に、点(x,y)の値(画素値とする)を重みとして乗算し、変換対象領域内の全ての点について積算する処理がハフ変換である。具体例として、例えば、図4(a)に示すような原点からの距離がdで、かつ、角度φに直交する直線Lは、ハフ変換の結果、図4(b)に示すように、(r,θ)座標上で(d,φ)の点Pに画素値の極大値を持つ曲線群に写像される。極大値を与える点Pは直線Lを表すものであるといえる。
【0049】
なお、図4(b)は(r,θ)の2次元座標として表されているが、実際には、(r,θ)平面に直交する軸方向に画素値の大きさを有している。図4(b)においては、画素値の大きさをグレースケールのグラデーションで表している。すなわち、図4(b)におけるグレースケールで描かれた部分は、極大値を与える点Pを通る曲線群が表す画素値の大きさを模式的に表現したものである。
【0050】
また、ハフ変換の原理から容易に理解できるように、(r,θ)座標でのr方向の変位は、(X,Y)座標での原点からの距離の変位を表し、(r,θ)座標でのθ方向の変位は、(X,Y)座標での回転を示す。例えば、図4(b)に示す(r,θ)座標でのr方向の変位は、図4(a)に示す(X,Y)座標での直線Lの原点からの距離dの変位を表し、図4(b)に示す(r,θ)座標でのθ方向の変形は、図4(a)に示す(X,Y)座標での直線Lの回転を表している。言い換えれば、図4(a)のような(X,Y)座標における直線Lの原点からの距離dの変位は、(r,θ)座標においては、極大値を与える点Pのr方向の変位として表現され、図4(a)のような(X,Y)座標における直線Lの回転は、(r,θ)座標においては、極大値を与える点Pのθ方向の変位として表現されることになる。
【0051】
図5はハフ変換画像の相関処理につて模式的に説明する図である。ここでは、説明を簡単にするために、ある四辺形を考え、それがどのようにハフ変換されるかについて説明する。図5(a)に示すような辺A,B,C,Dからなる四辺形(正方形とする)は、ハフ変換においては、図5(c)に示すような4つの極大値P11〜P14を有する曲線に変換される。ここで、極大値を与える点P11は図5(a)に示す四辺形を構成する辺Aを表し、極大値を与える点P12は図5(a)に示す四辺形を構成する辺Bを表し、極大値を与える点P13は図5(a)に示す四辺形を構成する辺Cを表し、極大値を与える点P14は図5(a)に示す四辺形を構成する辺Dを表している。
【0052】
同様に、図5(b)に示すような少し歪んだ四辺形(図5(a)に示す四辺形が歪んだ
ものであるとする)は、図5(d)に示すような4つの極大値を与える点P21,P22,P23,P24を持つ曲線群に変換される。ここで、極大値を与える点P21は図5(b)に示す四辺形を構成する辺Aを表し、極大値を与える点P22は図5(b)に示す四辺形を構成する辺Bを表し、極大値を与える点P23は図5(b)に示す四辺形を構成する辺Cを表し、極大値を与える点P24は図5(b)に示す四辺形を構成する辺Dを表している。
【0053】
図4において説明したように、(r,θ)座標でのr方向の変位は、(X,Y)座標での原点からの距離の変位を表し、(r,θ)座標でのθ方向の変位は、(X,Y)座標での回転を示す。よって、図5(a)に示すような四辺形の拡大縮小は、(r,θ)座標においては、極大値を与える点P11〜P14のr方向の変位として表現されることになる。したがって、図5(a)に示すような四辺形が図5(b)のように回転を伴って変形すると、その回転は、(r,θ)座標においては、極大値を与える点P21〜P24のθ方向の変位として表現されることになる。
【0054】
このようなハフ変換の性質により、レンズ歪みによる変形や、複数撮像装置の相対的な回転は、単に極大値を与える点のr方向またはθ方向の変位として表現されることになる。
つまり、図5(a),(b)に示したような四辺形の変形は、(X,Y)座標系においては適切な補正処理により処理を行わないと、期待する相関を求めることが出来ない。このため、本来、同じ四辺形が左目画像(図5(a)とする)及び右目画像(図5(b)とする)として取得された場合、同じ対象物であっても、高い相関値を得ることができない可能性があるが、ハフ変換された(r,θ)座標系においては、その変形は単にr方向及び/又はθ方向の変位として表現されるので、図5(c),(d)に示すハフ変換画像の相関値を求めた場合、高い相関値を得ることができる。
【0055】
このように、ハフ変換を行うことによって、(X、Y)座標での画像歪みは、(r、θ)座標での変位に変換されるため、多少の歪みを残したままの画像で歪み補正処理せずに相関処理を行うことが可能となる。さらに、カメラの撮像素子に起因するノイズにおいても、ハフ変換処理が積分操作であるために、それが相殺されるという効果がある。例えば、複数の画像のうちの1枚に何らかの原因により輝点、あるいは暗点が発生したとする。単純な(X、Y)平面上の相関処理においては、仮に画像歪みが完全に補正されていたとしても、この異常は結果に大きな影響を与える。しかし、ハフ変換を行うことにより、輝点、暗点の影響は曲線上に分散されるため、相対的にその影響を小さくすることが可能となる。またノイズがランダムノイズであるとし、ハフ変換の対象領域の点の総数がN点であるとすれば、変換後のSN比は、単純にいえば、Nの平方根倍に改善されることになる。
【0056】
また、相関処理を行う際はそれぞれの画像についてエッジ強調を行ったほうが好ましい場合もあるが、ハフ変換はエッジ強調の働きもあるので、相関処理を行う際の前段階の処理としてのエッジ強調処理などを軽減することもできる。
【0057】
[実施形態2]
図6は実施形態2に係る画像相関処理装置のブロック図である。実施形態1に係る画像相関処理装置が図1に示した実施形態1に係る画像相関処理装置と異なるのは、ハフ変換部131,132によりハフ変換されたハフ変換画像に対しマスク処理を行うマスク処理部141,142を有する点である。
【0058】
図7は実施形態1に係る画像相関処理装置の処理手順を説明するフローチャートである。図7において、ステップS21〜S23は、図2におけるステップS1〜S3と同様の
処理であり、また、ステップS25〜S28は、図2におけるステップS4〜S7と同様の処理である。
【0059】
実施形態2に係る画像相関処理装置においては、基準画像(左目画像)から選択した基準部分画像のハフ変換処理(ステップS23)の後にマスク処理を行うステップS24を有している。また、相関対象画像(右目画像)から選択した相関対象部分画像のハフ変換処理(ステップS28)の後にマスク処理を行うステップS29を有する。また、ステップS29のマスク処理以降のステップS30〜S33の処理は、図2のステップS8〜S11と同様である。
【0060】
図8はマスク処理を付加した場合の相関処理を模式的に示す図である。図8(a)〜(d)は図5(a)〜(d)と同じものであり、それぞれの四辺形をハフ変換した場合のハフ変換画像を示すものである。図8(e),(f)は図8(c),(d)に示すハフ変換画像についてマスク処理を施した後の画像(マスク処理画像という)であり、ハフ変換画像の画素値を拡散させるようなマスク処理を施した例が示されている。
【0061】
ハフ変換画像の画素値を拡散させるということは、相関の許容範囲を広くすることを意味している。例えば、ハフ変換画像の画素値をr軸方向に拡散させたとすれば、(X、Y)座標系における原点からの距離dの変位に対する許容範囲、つまり、拡大縮小の変形に対する許容範囲を広くすることを意味し、θ軸方向に拡散させたとすれば、(X、Y)座標系における回転による変形に対する許容範囲を広くすることを意味することになる。
【0062】
図9はマスク処理に用いるマスクパターンの例を示す図である。図9では5×5のマスクパターンを例示している。図9(a)は、(r,θ)座標におけるr方向及びθ方向それぞれに等方的に画素値を拡散させるようなマスク係数を有するマスクパターンの一例であり、このようなマスク係数を有するマスクパターンを用いてマスク処理を行うことにより、ハフ変換画像の画素値をr軸方向及びθ方向にそれぞれに拡散させることができる。これにより、(X、Y)座標系における原点からの距離dの変位及び(X、Y)座標系における回転による変形に対する許容範囲をそれぞれ広くすることができる。
【0063】
図9(b)は、(r,θ)座標におけるθ方向に画素値をより大きく拡散させるようなマスク係数を有するマスクパターンの一例であり、このようなマスク係数を有するマスクパターンを用いてマスク処理を行うことにより、(X、Y)座標系における回転による変形に対する許容範囲をより広くすることができる。
【0064】
なお、ここでは、図示していないが、(r,θ)座標におけるr方向に画素値をより大きく拡散させるようなマスク係数を有するマスクパターンを用いてマスク処理を行えば、(X、Y)座標系における原点からの距離dの変位に対する許容範囲をより広くすることができる。
【0065】
また、図9(c)は、図9(a),(b)とは異なり、ハフ変換画像の画素値を強調するようなマスク係数を有するマスクパターンの一例であり、これは、相関の許容範囲をより狭くするように作用する。図9(c)に示すマスクパターンは、エッジ強調を行うようなマスク係数を有するマスクパターンであり、より厳密な相関処理を行う場合に好適である。
【0066】
図9で例示したようなマスク係数を有するマスクパターンを用いて、ハフ変換画像に対してマスク処理を行うことにより、許容できる変形の範囲、つまり、原点からの距離dの変位や回転による変形などに対する許容範囲をより積極的に制御することが可能となる。なお、マスク係数は、要求される相関の精度に応じて設定することができる。
【0067】
[実施形態3]
図10は実施形態3に係る対象物位置情報取得装置の構成を示す図である。実施形態3に係る対象物位置情報取得装置は、図10に示すように、画像相関処理装置100と、画像相関処理装置100からの相関処理結果に基づいて各部分画像の視差値を求める視差処理部200を有している。
【0068】
画像相関処理装置100は、実施形態1または実施形態2において説明した画像相関処理装置100のいずれであってもよいが、図10においては、実施形態1に係る画像相関処理装置100(図1参照)を用いた例を示している。
【0069】
図11は実施形態3に係る対象物位置情報取得装置の処理手順を説明するフローチャートである。図11において、ステップS41〜S51は、図3に示したフローチャートのS1〜S11と同じ処理である。実施形態3に係る対象物位置情報取得装置においては、図11に示すように、相関対象画像(右目画像)の全面について処理が終了(ステップS45)した段階で得られている最大相関値と最大相関位置を視差処理部200が受け取って、相関対象部分画像と基準部分画像との視差値を求める(ステップS52)。視差値は、図12で説明したように、最大相関値が得られたときの基準部分画像の位置と相関対象部分画像の位置との差として求めることができる。
【0070】
このようにして求められた視差値は、対象物の位置情報として用いることができる。例えば、前述したように、カメラの位置関係が既知であるならば、求められた視差値とカメラの位置関係とを用いれば、三角測量の原理により、対象物までの距離を知ることができる。このような位置情報は、例えば、ロボット制御や自動車の運転支援システムなどにも用いることができ、例えば、進行方向における障害物の回避などにも用いることができる。また、これらの技術以外にも様々な分野に適用することができる。
【0071】
なお、本発明は上述の実施形態に限られるものではなく、本発明の要旨を逸脱しない範囲で種々変形実施可能となるものである。実施形態1及び実施形態2では、2台のカメラにより同じ対象物を撮像することによって得られた画像の相関値を算出する場合について説明したが、異なる複数の対象物を1台または複数台のカメラによって撮像して得られたそれぞれの対象物の画像の相関値を算出する場合にも適用することができる。
【0072】
また、相関処理の対象となる複数の画像は、撮像手段によって撮像された画像において時間的に前後する画像であってもよい。これは、例えば、MPEGなどの画像符号化のように、時間的に前後する画像に対して相関処理を行う場合などへの適用を想定したものであり、本発明の画像相関処理装置及び方法をこのような画像符号化技術などに適用することにより、高精度でかつ効率的な画像符号化が可能となる。
【0073】
また、前述の各実施形態において説明した画像相関処理をコンピュータに実行させるためのプログラとしての画像相関処理プログラムを作成することが可能であり、また、作成した画像相関処理プログラムを各種の記録媒体に記録させておくことも可能である。
【0074】
したがって、本発明は、これら画像相関処理プログラムとその画像相関処理プログラムを記録した記録媒体をも含むものである。また、画像相関処理プログラムはネットワークから取得するようにしてもよい。
【図面の簡単な説明】
【0075】
【図1】実施形態1に係る画像相関処理装置のブロック図。
【図2】実施形態1に係る画像相関処理装置が行う相関処理の基本的な概念を説明する図。
【図3】実施形態1に係る画像処理装置の処理手順を説明するフローチャート。
【図4】ハフ変換について説明する図。
【図5】ハフ変換画像の相関処理について模式的に説明する図。
【図6】実施形態2に係る画像相関処理装置のブロック図。
【図7】実施形態1に係る画像処理装置の処理手順を説明するフローチャート。
【図8】マスク処理を付加した場合の相関処理を模式的に示す図。
【図9】マスク処理に用いるマスクパターンの例を示す図。
【図10】実施形態3に係る対象物位置情報取得装置の構成を示す図。
【図11】実施形態3に係る対象物位置情報取得装置の処理手順を説明するフローチャート。
【図12】視差を用いて対象物の距離情報を取得する方法について簡単に説明する図。
【図13】図12によって得られた左目画像と右目画像との相関処理を簡単に説明する図。
【図14】レンズ歪みによって画像が変形する例を説明する図。
【符号の説明】
【0076】
100・・・画像相関処理装置、111,112・・・画像入力部、121,122・・・部分画像選択部、131,132・・・ハフ変換処理部、141,142・・マスク処理部、150・・・相関処理部、200視差処理部
【技術分野】
【0001】
本発明は、画像相関処理装置、画像相関処理方法及び画像相関処理プログラム並びに求められた相関情報を用いて画像位置情報を取得可能な対象物位置情報取得装置に関する。
【背景技術】
【0002】
ある1つの画像または複数の画像において、それらの画像の部分画像間の相関の大きさ(相関値という)を求める処理は、様々な画像処理や画像符号化において多用される技術である。
例えば、MPEGなどの画像符号化方法においては、1つの画像、または時間的に前後する複数の画像の部分画像間の相関値を求め、求められた相関値を用いて高効率な画像符号化を実現している。
【0003】
また、異なる位置に設置された複数の撮像装置を用いて、ある対象物を同時に撮像して得られた複数の画像を用い、その部分画像間の相関値を求めれば、その画像の3次元的な構造や対象物の位置情報を取得することができる。対象物の位置情報を取得することにより、撮像装置から物体までの距離を取得することもできる。これは視差を利用したものであり、取得された位置情報を用いれば、撮像装置が実際に存在しなかった視点からの画像を合成することも可能となる。また、撮像装置から物体までの距離は、ロボット制御や自動車の運転支援システムなどにも用いることができ、例えば、進行方向における障害物の回避などにも用いることができる。
【0004】
図12は視差を用いて対象物の距離情報を取得する方法について簡単に説明する図である。図12(a)に示すように、2台の撮像手段(カメラという)10L,10Rにより対象物αと対象物βとを撮像するものとする。このとき、左側のカメラ10Lからの画像を左目画像とし、右側のカメラ10Rからの画像を右目画像として画像処理するものとする。図12(b)は左側のカメラ10Lから得られた左目画像であり、図12(c)は右側のカメラ10Rから得られた右目画像である。
【0005】
図12(b),(c)に示すような左目画像として取得された対象物αと右目画像として取得された対象物αとの視差及び左目画像に写った対象物βと右目画像に写った対象物βとの視差をそれぞれ求める。このとき、カメラ10L,10Rの位置関係が既知であるならば、求められた視差とカメラ10L,10Rの位置関係とを用いれば、三角測量の原理により、対象物α,βまでの距離を知ることができる。
【0006】
図13は図12によって得られた左目画像と右目画像との相関処理を簡単に説明する図である。図13においては、左目画像を基準画像とする。また、相関値を算出する処理を相関処理と呼ぶことにする。
【0007】
まず、左目画像から部分画像を左目画像上で位置をずらしながら順次選択する。ここで、選択した部分画像を構成する画像データをLiとする(図13(a)参照)。なお、Lの添え字iは、0≦i<Nであるとする(Nは左目画像から選択された部分画像の総画素数とする)。
【0008】
同様に、右目画像からも部分画像を右目画像上で位置をずらしながら順次選択する。ここで、選択した部分画像を構成するデータをRiとする(図13(c)参照)。なお、Rの添え字iは、0≦i<Nであるとする(Nは右目画像から選択された部分画像の総画素
数とする)。
【0009】
続いて、左目画像から切り出された部分画像と右目画像から切り出された部分画像との相関値を求める相関処理を行う(図13(b)参照)。ここで、相関値は下記(1)式によって求めることができる。
Σabs(Li−Ri)・・・・・・(1)
上記(1)式において、Σは添え字iの0≦i<Nの範囲での総和を示すものとし、関数absは、その引数の絶対値を与えるものとする。
【0010】
また、相関値は、下記(2)式で求められる正規化された内積値であっても良い。
Σ(Li×Ri)/〔sqrt{Σ(Li×Li)}×sqrt{Σ(Ri×Ri)}〕・・・(2)
【0011】
(2)式において、Σは、(1)式と同様に、添え字iの0≦i<Nの範囲での総和を示すものとする。また、(2)式おいては、関数sqrtは、その引数の平方根を与えるものとする。
【0012】
上記(1)式または(2)式で求められる相関値を、右目画像から順次選択される部分画像と基準画像(左目画像)において選択された部分画像との間で求め、相関値が最大となる部分画像を探索する。そして、相関値が最大となる部分画像の位置の差が、右目画像と左目画像との視差ということになる。
【0013】
ところで、このような画像の相関処理は、原理的には非常に簡単なものであるが、実際的にはそれほど単純なものではない。図13の説明は、検出した対象物が右目画像、左目画像においては、単純に並行移動した状態であるという仮定のもとに成り立つものである。しかし、実際的にはそのような仮定は成り立ち難い。例えば、実際の撮像系においては、撮像系間において倍率の誤差や設置時の軸の回転などの誤差が存在する。それにより、撮像手段により得られた画像の大きさが異なったり、あるいは回転していたりする場合もある。また個々の撮像系においても、レンズ歪などにより、撮像された画像が非線形に歪んで変形してしまう場合もある。
【0014】
図14はレンズ歪みによって画像が変形する例を説明する図である。ここでは、糸巻き型の歪みを仮定している。例えば、図14(a)のように、歪みの無い撮像系においては、その撮像系によって撮像された画像の中心部における四辺形11も、周辺部における四辺形12も同じ形で撮像される。一方、図14(b)のような歪みのある撮像系においては、中心部における四辺形11には歪みが生じなくても、周辺部の四辺形12には菱形状に変形するような歪みが生じることがある。このような状態では、図13で説明したような単純な相関処理方法では期待する結果は得られない。
【0015】
そのため、従来技術においては、まず、カメラ補正と呼ばれる処理が行われる。カメラ補正処理は、カメラ固有の歪を求め、それを逆変換処理することにより、歪みの無い画像を得ようとするものである。それにより、図13で説明したような状態を実現することが原理的には可能である。
【0016】
しかし、このカメラ補正処理においても多くの課題が残る。1つは、複数のカメラの各カメラごとに歪を測定しなければならないということである。さらに、歪はカメラのズームなどの状態によっても変化する。あるいは、経時変化や温度変化、撮像姿勢によっても変化してしまう。これら全てを考慮してカメラ補正を行うのは、非常に困難なことである。
【0017】
これらの問題点を解決する方法として、例えば、特許文献1に開示された技術(以下で
は、従来技術という)がある。この従来技術は、実際に画像を撮像しながら、それと同時に歪などの補正も行って行くものである。具体的には、撮像された画像中から、予め設定された条件を満たすような領域(マッチングが取りやすいような領域)を基準領域として選択し、各々の画像の中の基準領域同士の対応関係からカメラ補正処理を行うアフィン変換係数を求めるものである。アフィン変換は、対象の拡大縮小、回転などを表現するものであり、撮像時の歪みがアフィン変換として表現され、かつその逆アフィン変換を求めることができるならば、この方法により、経時変化、姿勢変化などにも対応し、良好な特性を得ることが可能となる。
【0018】
【特許文献1】特開2003−256875号公報
【発明の開示】
【発明が解決しようとする課題】
【0019】
しかし、上記従来技術にも課題が残る。つまり、従来技術においては、基準領域の正確な検出が必要であるということであり、基準領域が高精度に検出できることが前提条件となっている。しかしながら、このような基準領域を高精度に取得することは一般的には容易ではない。そして、この基準領域の検出を誤ると、適切な逆アフィン変換係数が得られず、処理全体が破綻してしまう。特に、撮像画像のコントラストが低い場合、あるいは、撮像時のノイズが多い場合には、問題が起こる可能性が高い。
【0020】
本発明は、撮像系の歪み補正などを行うことなく、画像間の相関処理を適切に行うことができる画像相関処理装置、画像相関処理方法及び画像相関処理プログラムを提供することを目的とするとともに、求められた相関値を用いて対象物の位置情報を取得可能な対象物位置情報取得装置を提供することを目的とする。
【課題を解決するための手段】
【0021】
本発明の画像相関処理装置は、複数の画像の相関処理を行う画像相関処理装置であって、前記複数の画像の各画像から部分画像を前記各画像上で位置をずらしながら順次選択する部分画像選択部と、前記各画像から選択された前記各画像の部分画像に対してハフ変換を行うハフ変換部と、前記ハフ変換された前記各画像の部分画像の相関値を算出する相関処理部とを有することを特徴とする。
【0022】
このように、本発明の画像相関処理装置によれば、選択された各部分画像に対してハフ変換を行い、ハフ変換後の各部分画像について相関値を算出するようにしている。ハフ変換は、その原理から理解できるように、(r,θ)座標でのr方向の変位は、(X,Y)座標での原点からの距離の変位を表し、(r,θ)座標でのθ方向の変位は、(X,Y)座標での回転を示す。このようなハフ変換の性質により、撮像系のレンズ歪みなどによる画像の変形は、(r,θ)座標において、極大値を与える点の移動として表現されることになる。
【0023】
これにより、例えば、複数の撮像手段で同じ対象物を撮像して得られた画像の一方に歪が生じた場合、(X,Y)座標系においては適切な補正処理により処理を行わないと、期待する相関を求めることが出来ない可能性があるが、ハフ変換された(r,θ)座標系においては、その変形は単にr方向及び/又はθ方向の変位として表現されるので、ハフ変換後の画像を用いて相関値を求めた場合、高い相関値を得ることができる。したがって、撮像系などの歪み補正などを行うことなく、画像間の相関処理を適切に行うことができる。
【0024】
本発明の画像相関処理装置において、前記ハフ変換された各画像の部分画像に対してマスク処理を行うマスク処理部をさらに有することが好ましい。
本発明の画像相関処理装置で用いるマスク処理は、選択された各画像の部分画像の相関値を算出する際に、相関の許容範囲を設定するものであり、このようなマスク処理を行うことにより、許容できる変形の範囲(回転や拡大縮小などの範囲)を考慮した相関処理を行うことができる。
【0025】
本発明の画像相関処理装置において、前記マスク処理部は、前記ハフ変換された各画像の画素値を拡散するように設定されたマスク係数によってマスク処理を行うことが好ましい。
ハフ変換された画像の画素値を拡散するということは、相関の許容範囲を広くすることを意味している。例えば、ハフ変換された各画像の画素値をr軸方向に拡散させたとすれば、(X、Y)座標系における原点からの距離dの変位に対する許容範囲、つまり、拡大縮小の変形に対する許容範囲を広くすることを意味し、θ軸方向に拡散させたとすれば、(X、Y)座標系における回転による変形に対する許容範囲を広くすることを意味する。このように、相関の許容範囲を広くするようなマスク係数によるマスク処理を行うことにより、撮像系の歪などが大きい場合であっても、同じ対象物に対して、より高い相関値を得ることができ、相関処理を効率的に行うことができる。
【0026】
本発明の画像相関処理装置において、前記マスク処理部は、前記ハフ変換された各画像の画素値を強調するように設定されたマスク係数によってマスク処理を行うこともまた好ましい。
ハフ変換された画像の画素値を強調するということは、相関の許容範囲を狭くすることを意味している。これは、上記の場合と逆に、許容範囲を狭めるようなマスク係数によるマスク処理を行うものであり、より高精度な相関処理を行う場合に好適なものとなる。
【0027】
本発明の画像相関処理装置において、前記複数の画像は、複数の撮像手段が同じ対象物を撮像することによって前記複数の撮像手段の各撮像手段から出力された画像とすることが可能である。
【0028】
これは、複数(例えば2つ)の撮像手段によって同じ対象物を撮像したときの各撮像手段から出力された各画像の部分画像について相関値を算出するというものである。これにより、例えば、2つの撮像手段から得られた画像の一方を左目画像、他方を右目画像として、左目画像から選択された部分画像と右目画像から選択された部分画像との相関値を算出し、最大の相関値が得られたときの各部分画像の位置の差を視差値として取得することができる。求められた視差値を用いることにより対象物までの距離などを求めることも可能となる。
【0029】
本発明の画像相関処理装置において、前記複数の画像は、撮像手段によって撮像された画像において時間的に前後する画像であってもよい。
これは、例えば、MPEGなどの画像符号化のように、時間的に前後する画像の相関を求める場合への適用を想定したものであり、本発明の画像相関処理装置をこのような画像符号化技術などに適用することにより、効率的な画像符号化が可能となる。
【0030】
本発明の画像相関処理方法は、複数の画像の相関処理を行う画像相関処理方法であって、前記複数の画像の各画像から部分画像を前記各画像上で位置をずらしながら順次選択する部分画像選択ステップと、前記各画像から選択された前記各画像の部分画像に対してハフ変換を行うハフ変換ステップと、前記ハフ変換された前記各画像の部分画像の相関値を算出する相関処理ステップとを有することを特徴とする。
本発明の画像相関処理方法を用いて各画像において選択された部分画像の相関処理を行うことにより、前記本発明の画像相関処理装置と同様の効果が得られる。なお、本発明の画像相関処理方法においても、前記本発明の画像相関処理装置のそれぞれの特徴を有する
ことが好ましい。
【0031】
本発明の画像相関処理プログラムは、複数の画像の相関処理をコンピュータに実行させるための画像相関処理プログラムであって、前記複数の画像の各画像から部分画像を前記各画像上で位置をずらしながら順次選択する部分画像選択ステップと、前記各画像から選択された前記各画像の部分画像に対してハフ変換を行うハフ変換ステップと、前記ハフ変換された前記各画像の部分画像の相関値を算出する相関処理ステップとを有することを特徴とする。
【0032】
本発明の画像相関処理プログラムをコンピュータに実行させることによって各画像において選択された部分画像の相関処理を行うことにより、前記本発明の画像相関処理装置と同様の効果が得られる。なお、本発明の画像相関処理プログラムにおいても、前記本発明の画像相関処理装置のそれぞれの特徴を有することが好ましい。
【0033】
本発明の対象物位置情報取得装置は、複数の撮像手段が同じ対象物を撮像することによって得られた複数の画像に基づいて前記対象物の位置情報を求める対象物位置情報取得装置であって、前記複数の画像の各画像から部分画像を前記各画像上で位置をずらしながら順次選択する部分画像選択部と、前記各画像から選択された前記各画像の部分画像に対してハフ変換を行うハフ変換部と、前記ハフ変換された前記各画像の部分画像の相関値を算出する相関処理部と、前記相関処理部によって求められた相関値のうち最大の相関値が得られたときの前記各画像の部分画像の位置に基づいて視差値を求める視差処理部とを有することを特徴とする。
【0034】
本発明の対象物位置情報取得装置によれば、複数(例えば2つ)の撮像手段から得られた画像の一方を左目画像、他方を右目画像として、左目画像から選択された部分画像と右目画像から選択された部分画像との相関値を算出し、最大の相関値が得られたときの各部分画像の位置の差を視差値として取得することができる。そして、求められた視差値を用いて対象物までの距離などを求めることも可能となる。撮像手段から対象物までの距離は、ロボット制御や自動車の運転支援システムなどにも用いることができ、例えば、進行方向における障害物の回避などにも用いることができる。また、これらの技術以外にも様々な分野に適用することができる。
【0035】
なお、本発明の対象物位置情報取得装置において相関を求める処理は、前記本発明の画像相関処理装置を用いているので、相関処理に関しては、前記本発明の画像相関処理装置と同様の効果を得ることができる。なお、本発明の対象物位置情報取得装置においても、前記本発明の画像相関処理装置のそれぞれの特徴を有することが好ましい。
【発明を実施するための最良の形態】
【0036】
以下、本発明の実施形態について説明する。なお、以下に示す実施形態では、図12で説明したように、2台のカメラによってある対象物を同時に撮像することによって、2台のカメラから出力された画像の相関値を算出する場合について説明する。
【0037】
[実施形態1]
図1は実施形態1に係る画像相関処理装置のブロック図である。実施形態1に係る画像の相関処理装置100は、図1に示すように、2台のカメラ(図1では図示せず)がある対象物を同時に撮像した画像を入力する画像入力部111,112と、画像入力部111,112に入力された各画像から部分画像を各画像上で位置をずらしながら順次選択する部分画像選択部121,122と、選択された部分画像に対してハフ変換を施すハフ変換処理部131,132と、ハフ変換処理部131,132でハフ変換された各画像(ハフ変換画像という)について相関値を算出する相関処理部150とを有している。
【0038】
なお、実施形態1においても、2台のカメラの一方から出力される画像を右目画像、他方から出力される画像を左目画像として説明する。また、左目画像は画像入力部111に入力され、右目画像は画像入力部112に入力されるものとする。
【0039】
図2は実施形態1に係る画像相関処理装置100が行う相関処理の基本的な概念を説明する図である。図2は従来技術の説明で用いた図13に対応するものであり、実施形態1に係る画像相関処理装置100が行う相関処理が図13と異なるのは、選択されたそれぞれの部分画像をハフ変換し、ハフ変換後のハフ変換画像について相関値を算出することにある。図2(a)は左目画像、図2(d)は右目画像であり、図2においても図13と同様、左目画像を基準画像とする。そして、左目画像から部分画像を順次選択し、選択されたある1つの部分画像L1のハフ変換画像L1’が図2(b)であるとする。なお、基準画像から選択された部分画像を基準部分画像という。
【0040】
また、右目画像(相関対象画像という)においても部分画像を順次選択し、選択された部分画像R1,R2,R3,・・・をそれぞれハフ変換する。図2(c)は右目画像から選択された各部分画像R1,R2,R3,・・・をハフ変換したハフ変換画像R1’,R2’,R3’,・・・であるとする。なお、相関対象画像(右目画像)から選択された部分画像を相関対象部分画像という。
【0041】
ここで、相関対象部分画像の各ハフ変換画像R1’,R2’,R3’,・・・と、基準部分画像L1のハフ変換画像L1’との相関値を算出する。なお、相関値は前述の(1)式または(2)式によって算出することができる。
【0042】
図3は実施形態1に係る画像相関処理装置の処理手順を説明するフローチャートである。図3において、まず、基準画像(左目画像)の全面について処理したか否かを処理したかを判定し(ステップS1)、全面について処理が終了していなければ、基準画像から部分画像を選択し(ステップS2)、選択した部分画像(基準部分画像)をハフ変換する(ステップS3)。また、最大相関値及び最大相関位置を初期化する(ステップS4)。この初期化は、例えば、図示しない記憶装置に保持されている最大相関値及び最大相関位置をゼロとする処理である。なお、最大相関位置は、最大相関値が得られた各部分画像の撮像画像上の位置である。
【0043】
続いて、相関対象画像(右目画像)の全面について処理したか否かを判定し(ステップS5)、全面について処理が終了していなければ、相関対象画像から部分画像を選択し(ステップS6)、選択した部分画像(相関対象部分画像)をハフ変換処理する(ステップS7)。そして、基準部分画像のハフ変換画像と相関対象部分画像のハフ変換画像との相関値を算出し(ステップS8)、算出された相関値と記憶装置に保持されているその時点の最大相関値とを比較する(ステップS9)。
【0044】
この比較の結果、ステップS8で求められた相関値の方が記憶装置に保持されているその時点の最大相関値よりも小さければ、ステップS5に戻り、再び、ステップS5以降の処理を行う。また、ステップS8で求められた相関値の方が記憶装置に保持されているその時点の最大相関値よりも大きければ、記憶装置に保持されている最大相関値をステップS8で求められた値に更新するとともに、最大相関位置をその時点の基準部分画像の位置及び相関対象部分画像の位置に更新(ステップS10)したのち、ステップS5に戻る。
【0045】
そして、ステップS5において、相関対象画像(右目画像)の全面について処理が終了したと判定された場合には、その時点における相関処理結果(最大相関値及び必要に応じて最大相関位置)を出力したのち、ステップS1に戻り、基準画像(左目画像)の全面に
ついて処理が終了したか否かを判定し、基準画像の全面について処理が終了していなければ、ステップS2以降の処理を行い、基準画像の全面について処理が終了していれば処理を終了する。
【0046】
以上説明したように、本発明においては、相関処理を行う際、基準部分画像をハフ変換するとともに、相関対象部分画像をハフ変換し、ハフ変換した各ハフ変換画像の相関値を算出することが大きな特徴である。ここで、ハフ変換について簡単に説明する。
【0047】
図4はハフ変換について説明する図である。ハフ変換は(X,Y)座標系で表現される画像を(r,θ)座標系に写像するものである。例えば、(X,Y)座標系におけるある座標(x,y)の点を考える。これは、(d×cos(φ),d×sin(φ))と書き換えることも可能である。そうすると、この点はハフ変換によって、下記(3)式に示す(r,θ)座標系の曲線に写像される。なお、ハフ変換を行う際の座標の原点は、選択された基準部分画像または選択された相関対象部分画像の中心に置くものとする。
r=d×cos(φ+θ)・・・・・(3)
【0048】
上記(3)式で表される曲線に、点(x,y)の値(画素値とする)を重みとして乗算し、変換対象領域内の全ての点について積算する処理がハフ変換である。具体例として、例えば、図4(a)に示すような原点からの距離がdで、かつ、角度φに直交する直線Lは、ハフ変換の結果、図4(b)に示すように、(r,θ)座標上で(d,φ)の点Pに画素値の極大値を持つ曲線群に写像される。極大値を与える点Pは直線Lを表すものであるといえる。
【0049】
なお、図4(b)は(r,θ)の2次元座標として表されているが、実際には、(r,θ)平面に直交する軸方向に画素値の大きさを有している。図4(b)においては、画素値の大きさをグレースケールのグラデーションで表している。すなわち、図4(b)におけるグレースケールで描かれた部分は、極大値を与える点Pを通る曲線群が表す画素値の大きさを模式的に表現したものである。
【0050】
また、ハフ変換の原理から容易に理解できるように、(r,θ)座標でのr方向の変位は、(X,Y)座標での原点からの距離の変位を表し、(r,θ)座標でのθ方向の変位は、(X,Y)座標での回転を示す。例えば、図4(b)に示す(r,θ)座標でのr方向の変位は、図4(a)に示す(X,Y)座標での直線Lの原点からの距離dの変位を表し、図4(b)に示す(r,θ)座標でのθ方向の変形は、図4(a)に示す(X,Y)座標での直線Lの回転を表している。言い換えれば、図4(a)のような(X,Y)座標における直線Lの原点からの距離dの変位は、(r,θ)座標においては、極大値を与える点Pのr方向の変位として表現され、図4(a)のような(X,Y)座標における直線Lの回転は、(r,θ)座標においては、極大値を与える点Pのθ方向の変位として表現されることになる。
【0051】
図5はハフ変換画像の相関処理につて模式的に説明する図である。ここでは、説明を簡単にするために、ある四辺形を考え、それがどのようにハフ変換されるかについて説明する。図5(a)に示すような辺A,B,C,Dからなる四辺形(正方形とする)は、ハフ変換においては、図5(c)に示すような4つの極大値P11〜P14を有する曲線に変換される。ここで、極大値を与える点P11は図5(a)に示す四辺形を構成する辺Aを表し、極大値を与える点P12は図5(a)に示す四辺形を構成する辺Bを表し、極大値を与える点P13は図5(a)に示す四辺形を構成する辺Cを表し、極大値を与える点P14は図5(a)に示す四辺形を構成する辺Dを表している。
【0052】
同様に、図5(b)に示すような少し歪んだ四辺形(図5(a)に示す四辺形が歪んだ
ものであるとする)は、図5(d)に示すような4つの極大値を与える点P21,P22,P23,P24を持つ曲線群に変換される。ここで、極大値を与える点P21は図5(b)に示す四辺形を構成する辺Aを表し、極大値を与える点P22は図5(b)に示す四辺形を構成する辺Bを表し、極大値を与える点P23は図5(b)に示す四辺形を構成する辺Cを表し、極大値を与える点P24は図5(b)に示す四辺形を構成する辺Dを表している。
【0053】
図4において説明したように、(r,θ)座標でのr方向の変位は、(X,Y)座標での原点からの距離の変位を表し、(r,θ)座標でのθ方向の変位は、(X,Y)座標での回転を示す。よって、図5(a)に示すような四辺形の拡大縮小は、(r,θ)座標においては、極大値を与える点P11〜P14のr方向の変位として表現されることになる。したがって、図5(a)に示すような四辺形が図5(b)のように回転を伴って変形すると、その回転は、(r,θ)座標においては、極大値を与える点P21〜P24のθ方向の変位として表現されることになる。
【0054】
このようなハフ変換の性質により、レンズ歪みによる変形や、複数撮像装置の相対的な回転は、単に極大値を与える点のr方向またはθ方向の変位として表現されることになる。
つまり、図5(a),(b)に示したような四辺形の変形は、(X,Y)座標系においては適切な補正処理により処理を行わないと、期待する相関を求めることが出来ない。このため、本来、同じ四辺形が左目画像(図5(a)とする)及び右目画像(図5(b)とする)として取得された場合、同じ対象物であっても、高い相関値を得ることができない可能性があるが、ハフ変換された(r,θ)座標系においては、その変形は単にr方向及び/又はθ方向の変位として表現されるので、図5(c),(d)に示すハフ変換画像の相関値を求めた場合、高い相関値を得ることができる。
【0055】
このように、ハフ変換を行うことによって、(X、Y)座標での画像歪みは、(r、θ)座標での変位に変換されるため、多少の歪みを残したままの画像で歪み補正処理せずに相関処理を行うことが可能となる。さらに、カメラの撮像素子に起因するノイズにおいても、ハフ変換処理が積分操作であるために、それが相殺されるという効果がある。例えば、複数の画像のうちの1枚に何らかの原因により輝点、あるいは暗点が発生したとする。単純な(X、Y)平面上の相関処理においては、仮に画像歪みが完全に補正されていたとしても、この異常は結果に大きな影響を与える。しかし、ハフ変換を行うことにより、輝点、暗点の影響は曲線上に分散されるため、相対的にその影響を小さくすることが可能となる。またノイズがランダムノイズであるとし、ハフ変換の対象領域の点の総数がN点であるとすれば、変換後のSN比は、単純にいえば、Nの平方根倍に改善されることになる。
【0056】
また、相関処理を行う際はそれぞれの画像についてエッジ強調を行ったほうが好ましい場合もあるが、ハフ変換はエッジ強調の働きもあるので、相関処理を行う際の前段階の処理としてのエッジ強調処理などを軽減することもできる。
【0057】
[実施形態2]
図6は実施形態2に係る画像相関処理装置のブロック図である。実施形態1に係る画像相関処理装置が図1に示した実施形態1に係る画像相関処理装置と異なるのは、ハフ変換部131,132によりハフ変換されたハフ変換画像に対しマスク処理を行うマスク処理部141,142を有する点である。
【0058】
図7は実施形態1に係る画像相関処理装置の処理手順を説明するフローチャートである。図7において、ステップS21〜S23は、図2におけるステップS1〜S3と同様の
処理であり、また、ステップS25〜S28は、図2におけるステップS4〜S7と同様の処理である。
【0059】
実施形態2に係る画像相関処理装置においては、基準画像(左目画像)から選択した基準部分画像のハフ変換処理(ステップS23)の後にマスク処理を行うステップS24を有している。また、相関対象画像(右目画像)から選択した相関対象部分画像のハフ変換処理(ステップS28)の後にマスク処理を行うステップS29を有する。また、ステップS29のマスク処理以降のステップS30〜S33の処理は、図2のステップS8〜S11と同様である。
【0060】
図8はマスク処理を付加した場合の相関処理を模式的に示す図である。図8(a)〜(d)は図5(a)〜(d)と同じものであり、それぞれの四辺形をハフ変換した場合のハフ変換画像を示すものである。図8(e),(f)は図8(c),(d)に示すハフ変換画像についてマスク処理を施した後の画像(マスク処理画像という)であり、ハフ変換画像の画素値を拡散させるようなマスク処理を施した例が示されている。
【0061】
ハフ変換画像の画素値を拡散させるということは、相関の許容範囲を広くすることを意味している。例えば、ハフ変換画像の画素値をr軸方向に拡散させたとすれば、(X、Y)座標系における原点からの距離dの変位に対する許容範囲、つまり、拡大縮小の変形に対する許容範囲を広くすることを意味し、θ軸方向に拡散させたとすれば、(X、Y)座標系における回転による変形に対する許容範囲を広くすることを意味することになる。
【0062】
図9はマスク処理に用いるマスクパターンの例を示す図である。図9では5×5のマスクパターンを例示している。図9(a)は、(r,θ)座標におけるr方向及びθ方向それぞれに等方的に画素値を拡散させるようなマスク係数を有するマスクパターンの一例であり、このようなマスク係数を有するマスクパターンを用いてマスク処理を行うことにより、ハフ変換画像の画素値をr軸方向及びθ方向にそれぞれに拡散させることができる。これにより、(X、Y)座標系における原点からの距離dの変位及び(X、Y)座標系における回転による変形に対する許容範囲をそれぞれ広くすることができる。
【0063】
図9(b)は、(r,θ)座標におけるθ方向に画素値をより大きく拡散させるようなマスク係数を有するマスクパターンの一例であり、このようなマスク係数を有するマスクパターンを用いてマスク処理を行うことにより、(X、Y)座標系における回転による変形に対する許容範囲をより広くすることができる。
【0064】
なお、ここでは、図示していないが、(r,θ)座標におけるr方向に画素値をより大きく拡散させるようなマスク係数を有するマスクパターンを用いてマスク処理を行えば、(X、Y)座標系における原点からの距離dの変位に対する許容範囲をより広くすることができる。
【0065】
また、図9(c)は、図9(a),(b)とは異なり、ハフ変換画像の画素値を強調するようなマスク係数を有するマスクパターンの一例であり、これは、相関の許容範囲をより狭くするように作用する。図9(c)に示すマスクパターンは、エッジ強調を行うようなマスク係数を有するマスクパターンであり、より厳密な相関処理を行う場合に好適である。
【0066】
図9で例示したようなマスク係数を有するマスクパターンを用いて、ハフ変換画像に対してマスク処理を行うことにより、許容できる変形の範囲、つまり、原点からの距離dの変位や回転による変形などに対する許容範囲をより積極的に制御することが可能となる。なお、マスク係数は、要求される相関の精度に応じて設定することができる。
【0067】
[実施形態3]
図10は実施形態3に係る対象物位置情報取得装置の構成を示す図である。実施形態3に係る対象物位置情報取得装置は、図10に示すように、画像相関処理装置100と、画像相関処理装置100からの相関処理結果に基づいて各部分画像の視差値を求める視差処理部200を有している。
【0068】
画像相関処理装置100は、実施形態1または実施形態2において説明した画像相関処理装置100のいずれであってもよいが、図10においては、実施形態1に係る画像相関処理装置100(図1参照)を用いた例を示している。
【0069】
図11は実施形態3に係る対象物位置情報取得装置の処理手順を説明するフローチャートである。図11において、ステップS41〜S51は、図3に示したフローチャートのS1〜S11と同じ処理である。実施形態3に係る対象物位置情報取得装置においては、図11に示すように、相関対象画像(右目画像)の全面について処理が終了(ステップS45)した段階で得られている最大相関値と最大相関位置を視差処理部200が受け取って、相関対象部分画像と基準部分画像との視差値を求める(ステップS52)。視差値は、図12で説明したように、最大相関値が得られたときの基準部分画像の位置と相関対象部分画像の位置との差として求めることができる。
【0070】
このようにして求められた視差値は、対象物の位置情報として用いることができる。例えば、前述したように、カメラの位置関係が既知であるならば、求められた視差値とカメラの位置関係とを用いれば、三角測量の原理により、対象物までの距離を知ることができる。このような位置情報は、例えば、ロボット制御や自動車の運転支援システムなどにも用いることができ、例えば、進行方向における障害物の回避などにも用いることができる。また、これらの技術以外にも様々な分野に適用することができる。
【0071】
なお、本発明は上述の実施形態に限られるものではなく、本発明の要旨を逸脱しない範囲で種々変形実施可能となるものである。実施形態1及び実施形態2では、2台のカメラにより同じ対象物を撮像することによって得られた画像の相関値を算出する場合について説明したが、異なる複数の対象物を1台または複数台のカメラによって撮像して得られたそれぞれの対象物の画像の相関値を算出する場合にも適用することができる。
【0072】
また、相関処理の対象となる複数の画像は、撮像手段によって撮像された画像において時間的に前後する画像であってもよい。これは、例えば、MPEGなどの画像符号化のように、時間的に前後する画像に対して相関処理を行う場合などへの適用を想定したものであり、本発明の画像相関処理装置及び方法をこのような画像符号化技術などに適用することにより、高精度でかつ効率的な画像符号化が可能となる。
【0073】
また、前述の各実施形態において説明した画像相関処理をコンピュータに実行させるためのプログラとしての画像相関処理プログラムを作成することが可能であり、また、作成した画像相関処理プログラムを各種の記録媒体に記録させておくことも可能である。
【0074】
したがって、本発明は、これら画像相関処理プログラムとその画像相関処理プログラムを記録した記録媒体をも含むものである。また、画像相関処理プログラムはネットワークから取得するようにしてもよい。
【図面の簡単な説明】
【0075】
【図1】実施形態1に係る画像相関処理装置のブロック図。
【図2】実施形態1に係る画像相関処理装置が行う相関処理の基本的な概念を説明する図。
【図3】実施形態1に係る画像処理装置の処理手順を説明するフローチャート。
【図4】ハフ変換について説明する図。
【図5】ハフ変換画像の相関処理について模式的に説明する図。
【図6】実施形態2に係る画像相関処理装置のブロック図。
【図7】実施形態1に係る画像処理装置の処理手順を説明するフローチャート。
【図8】マスク処理を付加した場合の相関処理を模式的に示す図。
【図9】マスク処理に用いるマスクパターンの例を示す図。
【図10】実施形態3に係る対象物位置情報取得装置の構成を示す図。
【図11】実施形態3に係る対象物位置情報取得装置の処理手順を説明するフローチャート。
【図12】視差を用いて対象物の距離情報を取得する方法について簡単に説明する図。
【図13】図12によって得られた左目画像と右目画像との相関処理を簡単に説明する図。
【図14】レンズ歪みによって画像が変形する例を説明する図。
【符号の説明】
【0076】
100・・・画像相関処理装置、111,112・・・画像入力部、121,122・・・部分画像選択部、131,132・・・ハフ変換処理部、141,142・・マスク処理部、150・・・相関処理部、200視差処理部
【特許請求の範囲】
【請求項1】
複数の画像の相関処理を行う画像相関処理装置であって、
前記複数の画像の各画像から部分画像を前記各画像上で位置をずらしながら順次選択する部分画像選択部と、
前記各画像から選択された前記各画像の部分画像に対してハフ変換を行うハフ変換部と、
前記ハフ変換された前記各画像の部分画像の相関値を算出する相関処理部と、
を有することを特徴とする画像相関処理装置。
【請求項2】
請求項1に記載の画像相関処理装置において、
前記ハフ変換された各画像の部分画像に対してマスク処理を行うマスク処理部をさらに有することを特徴とする画像相関処理装置。
【請求項3】
請求項2に記載の画像相関処理装置において、
前記マスク処理部は、前記ハフ変換された各画像の画素値を拡散するように設定されたマスク係数によってマスク処理を行うことを特徴とする画像相関処理装置。
【請求項4】
請求項2に記載の画像相関処理装置において、
前記マスク処理部は、前記ハフ変換された各画像の画素値を強調するように設定されたマスク係数によってマスク処理を行うことを特徴とする画像相関処理装置。
【請求項5】
請求項1〜4のいずれかに記載の画像相関処理装置において、
前記複数の画像は、複数の撮像手段が同じ対象物を撮像することによって前記複数の撮像手段の各撮像手段から出力された画像であることを特徴とする画像相関処理装置。
【請求項6】
請求項1〜4のいずれかに記載の画像相関処理装置において、
前記複数の画像は、撮像手段によって撮像された画像において時間的に前後する画像であることを特徴とする画像相関処理装置。
【請求項7】
複数の画像の相関処理を行う画像相関処理方法であって、
前記複数の画像の各画像から部分画像を前記各画像上で位置をずらしながら順次選択する部分画像選択ステップと、
前記各画像から選択された前記各画像の部分画像に対してハフ変換を行うハフ変換ステップと、
前記ハフ変換された前記各画像の部分画像の相関値を算出する相関処理ステップと、
を有することを特徴とする画像相関処理方法。
【請求項8】
複数の画像の相関処理をコンピュータに実行させるための画像相関処理プログラムであって、
前記複数の画像の各画像から部分画像を前記各画像上で位置をずらしながら順次選択する部分画像選択ステップと、
前記各画像から選択された前記各画像の部分画像に対してハフ変換を行うハフ変換ステップと、
前記ハフ変換された前記各画像の部分画像の相関値を算出する相関処理ステップと、
を有することを特徴とする画像相関処理プログラム。
【請求項9】
複数の撮像手段が同じ対象物を撮像することによって得られた複数の画像に基づいて前記対象物の位置情報を求める対象物位置情報取得装置であって、
前記複数の画像の各画像から部分画像を前記各画像上で位置をずらしながら順次選択す
る部分画像選択部と、
前記各画像から選択された前記各画像の部分画像に対してハフ変換を行うハフ変換部と、
前記ハフ変換された前記各画像の部分画像の相関値を算出する相関処理部と、
前記相関処理部によって求められた相関値のうち最大の相関値が得られたときの前記各画像の部分画像の位置に基づいて視差値を求める視差処理部と、
を有することを特徴とする対象物位置情報取得装置。
【請求項1】
複数の画像の相関処理を行う画像相関処理装置であって、
前記複数の画像の各画像から部分画像を前記各画像上で位置をずらしながら順次選択する部分画像選択部と、
前記各画像から選択された前記各画像の部分画像に対してハフ変換を行うハフ変換部と、
前記ハフ変換された前記各画像の部分画像の相関値を算出する相関処理部と、
を有することを特徴とする画像相関処理装置。
【請求項2】
請求項1に記載の画像相関処理装置において、
前記ハフ変換された各画像の部分画像に対してマスク処理を行うマスク処理部をさらに有することを特徴とする画像相関処理装置。
【請求項3】
請求項2に記載の画像相関処理装置において、
前記マスク処理部は、前記ハフ変換された各画像の画素値を拡散するように設定されたマスク係数によってマスク処理を行うことを特徴とする画像相関処理装置。
【請求項4】
請求項2に記載の画像相関処理装置において、
前記マスク処理部は、前記ハフ変換された各画像の画素値を強調するように設定されたマスク係数によってマスク処理を行うことを特徴とする画像相関処理装置。
【請求項5】
請求項1〜4のいずれかに記載の画像相関処理装置において、
前記複数の画像は、複数の撮像手段が同じ対象物を撮像することによって前記複数の撮像手段の各撮像手段から出力された画像であることを特徴とする画像相関処理装置。
【請求項6】
請求項1〜4のいずれかに記載の画像相関処理装置において、
前記複数の画像は、撮像手段によって撮像された画像において時間的に前後する画像であることを特徴とする画像相関処理装置。
【請求項7】
複数の画像の相関処理を行う画像相関処理方法であって、
前記複数の画像の各画像から部分画像を前記各画像上で位置をずらしながら順次選択する部分画像選択ステップと、
前記各画像から選択された前記各画像の部分画像に対してハフ変換を行うハフ変換ステップと、
前記ハフ変換された前記各画像の部分画像の相関値を算出する相関処理ステップと、
を有することを特徴とする画像相関処理方法。
【請求項8】
複数の画像の相関処理をコンピュータに実行させるための画像相関処理プログラムであって、
前記複数の画像の各画像から部分画像を前記各画像上で位置をずらしながら順次選択する部分画像選択ステップと、
前記各画像から選択された前記各画像の部分画像に対してハフ変換を行うハフ変換ステップと、
前記ハフ変換された前記各画像の部分画像の相関値を算出する相関処理ステップと、
を有することを特徴とする画像相関処理プログラム。
【請求項9】
複数の撮像手段が同じ対象物を撮像することによって得られた複数の画像に基づいて前記対象物の位置情報を求める対象物位置情報取得装置であって、
前記複数の画像の各画像から部分画像を前記各画像上で位置をずらしながら順次選択す
る部分画像選択部と、
前記各画像から選択された前記各画像の部分画像に対してハフ変換を行うハフ変換部と、
前記ハフ変換された前記各画像の部分画像の相関値を算出する相関処理部と、
前記相関処理部によって求められた相関値のうち最大の相関値が得られたときの前記各画像の部分画像の位置に基づいて視差値を求める視差処理部と、
を有することを特徴とする対象物位置情報取得装置。
【図1】
【図2】
【図3】
【図6】
【図7】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図4】
【図5】
【図8】
【図2】
【図3】
【図6】
【図7】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図4】
【図5】
【図8】
【公開番号】特開2009−43048(P2009−43048A)
【公開日】平成21年2月26日(2009.2.26)
【国際特許分類】
【出願番号】特願2007−207518(P2007−207518)
【出願日】平成19年8月9日(2007.8.9)
【出願人】(000002369)セイコーエプソン株式会社 (51,324)
【Fターム(参考)】
【公開日】平成21年2月26日(2009.2.26)
【国際特許分類】
【出願日】平成19年8月9日(2007.8.9)
【出願人】(000002369)セイコーエプソン株式会社 (51,324)
【Fターム(参考)】
[ Back to top ]