対応ブロック探索装置
【課題】簡易な構成且つ少ない演算量で、撮像装置が車両に設けられている場合に特化した対応ブロックの探索を行うことのできる技術を提供する。
【解決手段】対応ブロック探索装置100は、自車両に設けられた、自車両の前方または後方を撮影する撮像装置101と、撮像装置101で撮影された動画像中のフレームの1つである基準フレームとは異なる探索フレームから、基準フレーム内の一部の領域である基準ブロックに対応する対応ブロックを探索する対応ブロック探索部102と、を有する。対応ブロック探索部102は、予め求められた基準点と、基準ブロックとを結ぶ直線に近い位置で、直線から遠い位置に比べ、より細かく対応ブロックを探索する。基準点は、自車両が直線道路上を走行する際に撮影される画像の消失点である。
【解決手段】対応ブロック探索装置100は、自車両に設けられた、自車両の前方または後方を撮影する撮像装置101と、撮像装置101で撮影された動画像中のフレームの1つである基準フレームとは異なる探索フレームから、基準フレーム内の一部の領域である基準ブロックに対応する対応ブロックを探索する対応ブロック探索部102と、を有する。対応ブロック探索部102は、予め求められた基準点と、基準ブロックとを結ぶ直線に近い位置で、直線から遠い位置に比べ、より細かく対応ブロックを探索する。基準点は、自車両が直線道路上を走行する際に撮影される画像の消失点である。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、対応ブロック探索装置に関する。
【背景技術】
【0002】
従来、2つの画像を比較する手法の1つとして、ブロックマッチング法がある。ブロックマッチング法では、例えば、撮像装置で撮影された動画像中のフレームの1つである基準フレームとは異なる探索フレームから、基準フレーム内の一部の領域である基準ブロックに対応する対応ブロックを探索する。対応ブロックは、探索フレームの全領域、または、探索フレーム内に定められた探索領域の中から探索される。このような探索により、ある時刻のフレーム内に映っていた物体や風景が、他の時刻のフレームでは何処に位置するのかなどを把握することができる。それにより、撮像装置と被写体の相対的な移動(移動ベクトル;基準ブロックの位置と対応ブロックの位置との差分)を把握することができる。
【0003】
また、基準ブロックの位置と対応ブロックの位置との差分の情報でフレームを構成することにより、少ない情報量で動画像を構成することができる(例えば、MPEG形式などのデータは1枚の画像データとフレーム間の差分の情報で構成されている)。
【0004】
このような基準ブロックの探索は演算量が多いため、演算量を軽減することが望まれている。
【0005】
基準ブロックの探索の演算量を軽減するための従来技術として、段階探索法などがある。段階探索法は、探索領域全体を粗く探索し、基準ブロックに最も類似するブロック周辺で対応ブロックを細かく探索する手法である。しかしながら、段階探索法は様々な動画像に対応した汎用的な手法であるため、撮像装置が車両に設けられることを前提とする場合には、その場合に特化した方法で対応ブロックを探索することが好ましい。
【0006】
撮像装置が車両に設けられていることを前提とした従来技術は、例えば、特許文献1に開示されている。具体的には、特許文献1に開示されている車載画像処理装置では、自車両の速度、加速度、旋回状態に基づいて、対応ブロックの探索開始位置を決める。しかしながら、特許文献1に開示されている方法では、自車両の速度、加速度、旋回状態などの車両の走行情報を取得する構成が必要となるため、構成が複雑になってしまう。
【0007】
【特許文献1】特開2005−301356号公報
【発明の開示】
【発明が解決しようとする課題】
【0008】
本発明は上記実情に鑑みてなされたものであって、その目的とするところは、簡易な構成且つ少ない演算量で、撮像装置が車両に設けられている場合に特化した対応ブロックの探索を行うことのできる技術を提供することにある。
【課題を解決するための手段】
【0009】
上記目的を達成するために、本発明は以下の構成を採用する。
【0010】
本発明に係る対応ブロック探索装置は、
車両に設けられた、前記車両の前方または後方を撮影する撮像装置と、
前記撮像装置で撮影された動画像中のフレームの1つである基準フレームとは異なる探
索フレームから、基準フレーム内の一部の領域である基準ブロックに対応する対応ブロックを探索する対応ブロック探索手段と、
を有する対応ブロック探索装置であって、
前記対応ブロック探索手段は、予め求められた基準点と、前記基準ブロックとを結ぶ直線に近い位置で、前記直線から遠い位置に比べ、より細かく前記対応ブロックを探索し、
前記基準点は、前記車両が直線道路上を走行する際に撮影される画像の消失点である
ことを特徴とする。
【0011】
本発明に係る対応ブロック探索装置では、予め求められた基準点と基準ブロックとを結ぶ直線に近い位置で、該直線から遠い位置に比べ、より細かく対応ブロックを探索する。即ち、基準点と基準ブロックとを結ぶ直線から遠い位置で、該直線から近い位置に比べ、より粗く対応ブロックを探索する。それにより、探索領域全体について細かく対応ブロックを探索するのに比べ、少ない演算量で対応ブロックの探索を行うことができる。また、撮像装置が車両の前方または後方を撮影する場合には、車両が直線道路上を走行する際に撮影される動画像において、周囲の車両、路側機、建物などの被写体は、撮影画像の消失点と被写体とを結ぶ直線上を移動することが多い。そのため、対応ブロックは基準ブロックと消失点とを結ぶ直線付近に存在する可能性が高い。そこで、このような方法で基準ブロックを探索することにより、撮像装置が車両に設けられている場合に特化した対応ブロックの探索を行うことができる。また、本発明に係る対応ブロック探索装置では、基準点を予め求めておけばよいため、簡易な構成で対応ブロックの探索を行うことが可能となる。
【0012】
前記対応ブロック探索手段は、
前記直線に近い位置から順に前記対応ブロックを探索し、
前記基準ブロックの画素値との差が所定値未満の画素値であるブロックが探索された場合に、当該ブロックを対応ブロックとし、探索処理を停止する
ことが好ましい。
上述したように、対応ブロックは基準ブロックと消失点とを結ぶ直線付近に存在する可能性が高い。そのため、このような構成にすることにより、より少ない処理量で対応ブロックを探索することが可能となる。
【0013】
前記直線は、前記基準点と前記基準ブロックの中心とを結ぶ直線であることが好ましい。
撮像装置が車両の前方または後方を撮影する場合には、対応ブロックは基準ブロックの中心と消失点とを結ぶ直線付近に存在する可能性が高い。そのため、このような構成にすることにより、より適切な位置で細かく対応ブロックを探索することが可能となる。
【0014】
前記基準点は、前記撮像装置を設置した際に求められることが好ましい。
車両が直線道路上を走行する際に撮影される画像の消失点は、撮像装置を設置した時点で略定まるため、撮像装置を設置した際に基準点を求めることにより、撮像装置の設置前に基準点を求める場合よりも正確に基準点を求めることが可能となる。
【0015】
前記基準ブロックと前記対応ブロックの位置座標に基づいて、前記基準ブロックの動きベクトルを算出する動きベクトル算出手段を有することが好ましい。
それにより、簡易な構成且つ少ない演算量で、撮像装置が車両に設けられている場合に特化した動きベクトルの算出が可能となる。
【0016】
前記対応ブロック探索手段は、
過去に算出された動きベクトルに基づいて、対応ブロックの位置を予測し、
前記予測された位置に近い位置で、前記予測された位置から遠い位置に比べ、より細か
く前記対応ブロックを探索する
ことが好ましい。
以前に動きベクトルが算出されている場合には、その動きベクトルに基づいて対応ブロックの位置を予測することができる。例えば、動きのある物体や風景は、ある程度継続して同じ方向に動くことが多い。具体的には、或る時刻のフレームにおいて左へ走行する車両が写っていた場合には、当該車両はその直前のフレームにおいても左へ走行していることが多い(瞬間的に車両の走行方向が変化することは少ない)。そのため、過去に算出された動きベクトルに基づいて、対応ブロックの位置を予測することができる。そして、予測された位置に近い位置で、予測された位置から遠い位置に比べ、より細かく対応ブロックを探索することで、より正確な対応ブロックを探索することが可能となる。
【0017】
また、本発明は、上記手段の少なくとも一部を有する対応ブロック探索装置として捉えてもよいし、上記処理の少なくとも一部を含む対応ブロック探索方法、または、かかる方法を実現するための対応ブロック探索プログラムやそのプログラムを記憶した記憶媒体として捉えることもできる。また、本発明は、上記手段の少なくとも一部を有する車両として捉えてもよい。なお、上記手段及び処理の各々は可能な限り互いに組み合わせて本発明を構成することができる。
【発明の効果】
【0018】
本発明によれば、簡易な構成且つ少ない演算量で、撮像装置が車両に設けられている場合に特化した対応ブロックの探索を行うことのできる技術を提供することができる。
【発明を実施するための最良の形態】
【0019】
以下に図面を参照して、この発明の好適な実施の形態を例示的に詳しく説明する。本実施形態に係る対応ブロック探索装置は、ブロックマッチング法を用いて2つの画像を比較する装置に好ましく適用できる。例えば、動画像の形式をMPEG形式などに変換する画像処理装置や、動画像中の物体を認証するための物体認証装置などに好ましく適用できる。
【0020】
<装置構成>
図1は、本実施形態に係る対応ブロック探索装置の機能・構成を示すブロック図である。図1に示すように、本実施形態に係る対応ブロック探索装置100は、撮像装置101、対応ブロック探索部102、動きベクトル算出部103を備える。
【0021】
撮像装置101は、車両に設けられており、当該車両の前方または後方を撮影する。撮像装置101としては、光学系と撮像素子(CCD、CMOSセンサなど)を備えるデジタルカメラを好ましく適用できる。
【0022】
対応ブロック探索部102は、撮像装置101で撮影された動画像中のフレームの1つである基準フレームとは異なる探索フレームから、基準フレーム内の一部の領域である基準ブロックに対応する対応ブロックを探索する。なお、探索フレームは基準フレームより前のフレームであっても、後ろのフレームであってもよい。本実施形態では、撮影中の最も新しいフレームを基準フレームとし、その直前のフレームを探索フレームとする。
【0023】
動きベクトル算出部103は、基準ブロックと対応ブロックの位置座標に基づいて、基準ブロックの動きベクトルを算出する。
【0024】
<対応ブロック探索部>
以下に、本実施形態に係る対応ブロック探索部102の機能について図面を用いて例示的に詳しく説明する。
【0025】
まず、撮像装置101が設けられている車両(自車両)が、直線状の道路(直線道路)を走行する場合を考える。このような場合に撮影される動画像において、周囲の車両(他車両)、路側機、建物などの被写体は、撮影画像の消失点と被写体とを結ぶ直線上を移動することが多い(図2(B))。具体的には、被写体が或る直線と平行な方向に離れていく場合には、撮影画像上では、被写体は消失点に向かって直線的に移動し、消失点に到達した後、消失する。複数の被写体が互いに平行な方向に離れていく場合には、撮影画像上では、それら複数の被写体は全て同じ消失点へ向かって直線的に移動する。直線道路上では、自車両や他車両は、直線道路と略平行な方向に移動することが多いため(図2(A))、直線道路上を走行する際に撮影される動画像において、多くの被写体は1つの消失点と被写体とを結ぶ直線上を移動する(図2(B))。
【0026】
そのため、自車両が直線道路を走行する場合には、対応ブロックは基準ブロックと消失点とを結ぶ直線付近に存在する可能性が高い。
【0027】
そこで、本実施形態では、基準点として、自車両が直線道路上を走行する際に撮影される画像の消失点を予め求める。消失点の求め方としては、例えば、傾きを有する直線成分(水平及び垂直方向の直線成分以外)を検出し、それら直線成分を延長した際の交点を消失点としてもよいし、道路上の白線(傾きを有する白線)を検出し、それらの白線を延長した際の交点を消失点としてもよい。また、撮像装置の取り付け高さや向きに応じて求めてもよい。
【0028】
基準点は、撮像装置を設置した際に求めてもよいし、撮像装置を設置する前の設計段階等で求めてもよい。但し、車両が直線道路上を走行する際に撮影される画像の消失点は、撮像装置を設置した時点で略定まるため、撮像装置を設置した際に基準点を求めることにより、撮像装置の設置前に基準点を求める場合よりも正確に基準点を求めることができる。基準点は、例えば、撮像装置を車両に取り付けた後、対応ブロック探索装置の起動時などに自動的に求まるようにしてもよいし、撮像装置を車両に取り付けた直後に、その取り付け高さや向きに応じて求めてもよい。なお、基準点は、対応ブロック探索装置の初回起動時のみに求めてもよいし、定期的に求めてもよい。例えば、対応ブロック探索装置の起動の度に基準点を求めてもよいし、自車両が直線道路に入る度に基準点を求めてもよい。
【0029】
そして、対応ブロック探索部102は、予め求められた基準点と、基準ブロックとを結ぶ直線に近い位置で、直線から遠い位置に比べ、より細かく対応ブロックを探索する。即ち、基準点と基準ブロックとを結ぶ直線から遠い位置で、該直線から近い位置に比べ、より粗く対応ブロックを探索する。
【0030】
例えば、対応ブロック探索部102は、図3に示すように、基準ブロックと基準点とを結ぶ直線(基準直線)を中心として、探索領域を複数の領域(領域31a〜31d)に区分し、領域毎に探索の粗さを異ならせる。基準直線に対し線対称の領域(例えば、同じ符号を付した2つの領域)では、探索の粗さは互いに同じであってもよいし異なっていてもよい。なお、探索の粗さは、基準ブロックと基準点とを結ぶ直線からの距離に応じて連続的に変化させてもよい。基準ブロックとを結ぶ直線に近い位置で、直線から遠い位置よりも細かく対応ブロックが探索されればよい。
【0031】
それにより、探索領域全体について細かく対応ブロックを探索するのに比べ、少ない演算量で撮像装置が車両に設けられている場合に特化した対応ブロックの探索を行うことができる。また、本実施形態に係る対応ブロック探索装置では、基準点を予め求めておけばよい(従来技術のように、自車両の速度、加速度、旋回状態などの情報が不要)ため、簡易な構成で対応ブロックの探索を行うことができる。
【0032】
また、対応ブロック探索部102は、対応ブロックを探索する際に探索領域内をどのように走査してもよい。但し、上述したように、対応ブロックは基準ブロックと消失点とを結ぶ直線(基準直線)付近に存在する可能性が高いため、基準直線に近い位置から順に対応ブロックを探索することが好ましい。そして、基準ブロックの画素値との差が所定値未満の画素値であるブロックが探索された場合に、当該ブロックを対応ブロックとし、探索処理を停止するような構成にすれば、より少ない処理量で対応ブロックを探索することができる。
【0033】
なお、基準直線は、図4(A)に示すように、基準ブロックの中心と基準点とを結ぶ直線であってもよいし、図4(B)に示すように、基準ブロックの角と基準点とを結ぶ直線であってもよい。基準直線は、基準ブロックと基準点とを通過するような直線であればどのように定義されてもよい。但し、撮像装置が車両の前方または後方を撮影する場合には、対応ブロックは基準ブロックの中心と消失点とを結ぶ直線付近に存在する可能性が高い。そのため、図4(A)のように基準直線を定義することにより、より適切な位置で細かく対応ブロックを探索することが可能となる。
【0034】
また、本実施形態では、対応ブロック探索部102は、過去に算出された動きベクトルに基づいて、対応ブロックの位置を予測する。そして、予測された位置(予測位置)に近い位置で、予測された位置から遠い位置に比べ、より細かく対応ブロックを探索する。
【0035】
以前に動きベクトルが算出されている場合には、その動きベクトルに基づいて対応ブロックの位置を予測することができる。例えば、動きのある物体や風景は、ある程度継続して同じ方向に動くことが多い。具体的には、図5に示すように、或る時刻のフレームにおいて左へ走行する車両が写っていた場合には、当該車両はその直前のフレームにおいても左へ走行していることが多い(瞬間的に車両の走行方向が変化することは少ない)。そのため、過去に算出された動きベクトルに基づいて、対応ブロックの位置を予測することができる。そして、予測された位置に近い位置で、予測された位置から遠い位置に比べ、より細かく対応ブロックを探索することで、より正確な対応ブロックを探索することが可能となる(対応ブロックの誤検出を低減することができる)。
【0036】
具体的には、図6に示すように、探索フレームが基準フレームよりも前のフレームであり、探索フレームとその前のフレーム間で、基準ブロックの位置でベクトル(ブロックA1の動き)が算出されていたとする。その場合には、ブロックA1とA2が共に同じ車両の一部であること、自車両が略一定の旋回量で旋回していることなどが予想されるため、基準ブロック(ブロックA2)も、ブロックA1と同じ動きをすることが予想される。そこで、そのような場合には、位置601に近い位置で、予測された位置から遠い位置に比べ、より細かく対応ブロックを探索すればよい。
【0037】
一方、図7に示すように、探索フレームが基準フレームよりも後のフレームであり、基準フレームとその前のフレーム間で、基準ブロックの位置で動きベクトル(ブロックB1の動き)が算出されていたとする。その場合には、ブロックB1は、基準フレームと探索フレームとの間においても略同様に動くことが予想される(上述したように、動きのある物体や風景は、ある程度継続して同じ方向に動くことが多いため)。そこで、そのような場合には、位置701に近い位置で、予測された位置から遠い位置に比べ、より細かく対応ブロックを探索すればよい。
【0038】
なお、このような場合においても、対応ブロックを探索する際の探索領域内の走査は、どのように行われてもよい。基準ブロックの画素値との差が所定値未満の画素値であるブロックを対応ブロックとし、探索処理を停止する場合には、予測位置に近い位置から走査
することが効率的であることは言うまでも無い。
【0039】
<対応ブロック探索処理>
次に、対応ブロック探索部102による対応ブロック探索処理の流れの一例について図8、9を用いて説明する。図8、9は、対応ブロック探索処理の流れの一例を示すフローチャートである。なお、図8、9では、基準点が既に求められているものとして説明する。また、基準フレーム内の走査(基準ブロックの位置の切り換え)については、本実施形態に係る対応ブロック探索装置の特徴部分ではないため、説明を省略する。
【0040】
まず、対応ブロック探索部102は、基準フレームの直前のフレームである探索フレームとその前のフレームとの間で、基準ブロックの位置で動きベクトルが算出されているか否かを判定する(ステップS801)。探索フレームとその前のフレームとの間で動きベクトルが算出されている場合には(ステップS801:YES)、ステップS808へ進み、探索フレームとその前のフレームとの間で動きベクトルが算出されていない場合には(ステップS801:NO)、ステップS802へ進む。
【0041】
ステップS802では、対応ブロック探索部102が、探索フレーム内の探索領域の一部であって、基準直線に最も近い領域を候補ブロック(対応ブロックの候補)とする。なお、基準直線からの距離が互いに等しい領域が複数存在する場合には、それらの中で基準ブロックの中心位置からの距離が最も近い領域を候補ブロックとしてもよいし、それらの中のいずれかの領域を候補ブロックとしてもよい。
【0042】
次に、基準ブロックの画素値と候補ブロックの画素値とを比較する(ステップS803)。基準ブロックの画素値と候補ブロックの画素値との差が所定の閾値以下の場合には(ステップS803:YES)、当該候補ブロックを対応ブロックとし(ステップS804)、対応ブロック探索処理を終了する。
【0043】
基準ブロックの画素値と候補ブロックの画素値との差が所定の閾値より大きい場合には(ステップS803:NO)、探索領域全体について探索を行ったか否かを判定する(ステップS805)。探索領域全体について探索を行った場合には(ステップS805:YES)、対応ブロックは無いものとし(ステップS807)、対応ブロック探索処理を終了する。
【0044】
探索領域全体について探索を行っていない場合には(ステップS805:NO)、候補ブロックの位置を、基準直線からの距離に応じた分だけ移動させる(ステップS806)。例えば、基準直線から候補ブロックまでの距離L<αの場合に、候補ブロックを1ピクセル分ずらし、α≦距離L<βの場合に3ピクセル分ずらし、β≦距離L<γの場合に5ピクセル分ずらす(α<β<γ)。その後、ステップS803へ戻る。
【0045】
ステップS808では、対応ブロック探索部が、探索フレーム内の探索領域の一部であって、探索フレームとその前のフレームとの間で算出された動きベクトルに最も近い領域を候補ブロック(対応ブロックの候補)とする。
【0046】
次に、基準ブロックの画素値と候補ブロックの画素値とを比較する(ステップS809)。基準ブロックの画素値と候補ブロックの画素値との差が所定の閾値以下の場合には(ステップS809:YES)、当該候補ブロックを対応ブロックとし(ステップS810)、対応ブロック探索処理を終了する。
【0047】
基準ブロックの画素値と候補ブロックの画素値との差が所定の閾値より大きい場合には(ステップS809:NO)、探索領域全体について探索を行ったか否かを判定する(ス
テップS811)。探索領域全体について探索を行った場合には(ステップS811:YES)、対応ブロックは無いものとし(ステップS813)、対応ブロック探索処理を終了する。
【0048】
探索領域全体について探索を行っていない場合には(ステップS811:NO)、候補ブロックの位置を、探索フレームとその前のフレームとの間で算出された動きベクトルからの距離に応じた分だけ移動させる(ステップS812)。例えば、探索フレームとその前のフレームとの間で算出された動きベクトルから候補ブロックまでの距離L’<α’の場合に、候補ブロックを1ピクセル分ずらし、α’≦距離L’<β’の場合に3ピクセル分ずらし、β’≦距離L’<γ’の場合に5ピクセル分ずらす(α’<β’<γ’)。その後、ステップS809へ戻る。
【0049】
次に、ステップS806の処理の一例について図10のフローチャートを用いて詳しく説明する。なお、ステップS812の処理はステップS806と同様のため説明を省略する。また、以下の説明ではα<β<γとする。
【0050】
まず、対応ブロック探索部は、基準直線から候補ブロックまでの距離Lがαより小さいか否かを判定する(ステップS1001)。距離Lがαより小さい場合には(ステップS1001:YES)、候補ブロックの位置を1ピクセル分ずらし(ステップS1002)、ステップS803へ進む。
【0051】
距離Lがα以上の場合には(ステップS1001:NO)、距離Lがβより小さいか否かを判定する(ステップS1003)。距離Lがβより小さい場合には(ステップS1003:YES)、候補ブロックの位置を3ピクセル分ずらし(ステップS1004)、ステップS803へ進む。
【0052】
距離Lがβ以上の場合には(ステップS1003:NO)、距離Lがγより小さいか否かを判定する(ステップS1005)。距離Lがγより小さい場合には(ステップS1005:YES)、候補ブロックの位置を5ピクセル分ずらし(ステップS1006)、ステップS803へ進む。
【0053】
距離Lがγ以上の場合には(ステップS1005:NO)、候補ブロックの位置を10ピクセル分ずらし(ステップS1007)、ステップS803へ進む。
【0054】
<従来技術との比較>
次に、対応ブロック探索処理を途中で停止せずに探索領域全体を走査した場合の対応ブロックの候補数について、本実施形態に係る方法と探索領域全体について同じ粗さで探索する従来の方法とを比較する。
【0055】
具体的には、図11に示すように、ブロックの大きさをB×B=16ピクセル×16ピクセルとする。そして、ブロックが中心にあるときに、ブロックと探索領域の輪郭までの距離が上下左右W=32ピクセル(即ち、探索領域が80ピクセル×80ピクセル)である場合について比較する。
【0056】
まず、探索領域全体について同じ粗さで探索する従来の方法では、1ピクセル間隔で探索する場合に、対応ブロックの候補数は、(2W+1)2=4225となる。
【0057】
本実施形態に係る方法では、図11に示すように、基準ブロックの中心と基準点を結ぶ直線からの距離に応じて、探索領域を5つの領域(領域111a〜111e)に区分するものとした。具体的には、直線に近い領域から順に、1ピクセル間隔で探索する領域11
1a、2ピクセル間隔で探索する領域111b、4ピクセル間隔で探索する領域111c、8ピクセル間隔で探索する領域111d、16ピクセル間隔で探索する領域111eの5つの領域に区分したときの対応ブロックの候補数について求めた。
【0058】
また、基準ブロックの中心と基準点を結ぶ直線の傾きは、基準ブロックの位置によって異なるため、直線が水平の場合を傾き0[rad]とし、水平方向からの傾きθ[rad]=0、π/8、2π/8、3π/8、4π/8である場合について、それぞれ対応ブロックの候補数を求めた。
【0059】
図12に本実施形態に係る方法での対応ブロックの候補数及び従来の方法との比較結果を示す。図12に示すように、本実施形態に係る方法での対応ブロックの候補数は、θ[rad]=0で2195、π/8で2183、2π/8で2245、3π/8で2330、4π/8で2359であった。そして、従来の方法での対応ブロックの候補数に対する本実施形態に係る方法での対応ブロックの候補数は、θ[rad]=0で51%、π/8で51%、2π/8で53%、3π/8で55%、4π/8で55%であった。
【0060】
以上の結果から、本実施形態の方法を用いれば、探索領域内全体を探索した場合において、従来の方法に比べ約半分の計算量で探索できることが確認された。
【0061】
以上述べたように、本実施形態に係る対応ブロック探索装置では、予め求められた基準点を用いるという簡易な構成、且つ、少ない演算量で、撮像装置が車両に設けられている場合に特化した対応ブロックの探索を行うことができる。
【0062】
また、本実施形態では、対応ブロック探索装置が動きベクトル算出部を備えているため、簡易な構成且つ少ない演算量で、撮像装置が車両に設けられている場合に特化した動きベクトルの算出が可能となる。
【0063】
なお、探索領域は基準ブロックの位置によらない一定の領域(例えば、道路上など、動きがあると予想される領域)であってもよいし、基準ブロック毎に基準ブロックの位置を基準に定められていてもよい。
【0064】
なお、本実施形態では、候補ブロックの位置の切り換えを図10のフローチャートに従って行う構成としたが、基準直線の傾きに対して、候補ブロックのとりうる位置を予め記憶していてもよい。基準直線の傾きに応じて、記憶された位置間で候補ブロックの位置を切り換えることにより、処理量を低減することができる。
【図面の簡単な説明】
【0065】
【図1】図1は、本実施形態に係る対応ブロック探索装置の機能・構成を示すブロック図である。
【図2】図2(A)は、直線状の道路における自車両と他車両の動きを示す図であり、図2(B)は図2(A)のような状況で撮影された動画像の一例を示す図である。
【図3】図3は、本実施形態に係る対応ブロック探索部の機能を示す図である。
【図4】図4(A)及び図4(B)は、基準直線の定義の一例を示す図である。
【図5】図5は、撮像装置で撮影される動画像の一例を示す図である。
【図6】図6は、対応ブロックの位置の予測方法の一例を示す図である。
【図7】図7は、対応ブロックの位置の予測方法の一例を示す図である。
【図8】図8は、対応ブロック探索処理の流れの一例を示すフローチャートである。
【図9】図9は、対応ブロック探索処理の流れの一例を示すフローチャートである。
【図10】図10は、ステップS806の処理の一例を示すフローチャートである。
【図11】図11は、ブロック及び探索領域の一例、及び、本実施形態に係る対応ブロックの探索方法の一例を示す図である。
【図12】図12は、本実施形態に係る方法での対応ブロックの候補数及び従来の方法との比較結果を示す図である。
【符号の説明】
【0066】
100 対応ブロック探索装置
101 撮像装置
102 対応ブロック探索部
103 ベクトル算出部
31a〜31d,111a〜111e 領域
【技術分野】
【0001】
本発明は、対応ブロック探索装置に関する。
【背景技術】
【0002】
従来、2つの画像を比較する手法の1つとして、ブロックマッチング法がある。ブロックマッチング法では、例えば、撮像装置で撮影された動画像中のフレームの1つである基準フレームとは異なる探索フレームから、基準フレーム内の一部の領域である基準ブロックに対応する対応ブロックを探索する。対応ブロックは、探索フレームの全領域、または、探索フレーム内に定められた探索領域の中から探索される。このような探索により、ある時刻のフレーム内に映っていた物体や風景が、他の時刻のフレームでは何処に位置するのかなどを把握することができる。それにより、撮像装置と被写体の相対的な移動(移動ベクトル;基準ブロックの位置と対応ブロックの位置との差分)を把握することができる。
【0003】
また、基準ブロックの位置と対応ブロックの位置との差分の情報でフレームを構成することにより、少ない情報量で動画像を構成することができる(例えば、MPEG形式などのデータは1枚の画像データとフレーム間の差分の情報で構成されている)。
【0004】
このような基準ブロックの探索は演算量が多いため、演算量を軽減することが望まれている。
【0005】
基準ブロックの探索の演算量を軽減するための従来技術として、段階探索法などがある。段階探索法は、探索領域全体を粗く探索し、基準ブロックに最も類似するブロック周辺で対応ブロックを細かく探索する手法である。しかしながら、段階探索法は様々な動画像に対応した汎用的な手法であるため、撮像装置が車両に設けられることを前提とする場合には、その場合に特化した方法で対応ブロックを探索することが好ましい。
【0006】
撮像装置が車両に設けられていることを前提とした従来技術は、例えば、特許文献1に開示されている。具体的には、特許文献1に開示されている車載画像処理装置では、自車両の速度、加速度、旋回状態に基づいて、対応ブロックの探索開始位置を決める。しかしながら、特許文献1に開示されている方法では、自車両の速度、加速度、旋回状態などの車両の走行情報を取得する構成が必要となるため、構成が複雑になってしまう。
【0007】
【特許文献1】特開2005−301356号公報
【発明の開示】
【発明が解決しようとする課題】
【0008】
本発明は上記実情に鑑みてなされたものであって、その目的とするところは、簡易な構成且つ少ない演算量で、撮像装置が車両に設けられている場合に特化した対応ブロックの探索を行うことのできる技術を提供することにある。
【課題を解決するための手段】
【0009】
上記目的を達成するために、本発明は以下の構成を採用する。
【0010】
本発明に係る対応ブロック探索装置は、
車両に設けられた、前記車両の前方または後方を撮影する撮像装置と、
前記撮像装置で撮影された動画像中のフレームの1つである基準フレームとは異なる探
索フレームから、基準フレーム内の一部の領域である基準ブロックに対応する対応ブロックを探索する対応ブロック探索手段と、
を有する対応ブロック探索装置であって、
前記対応ブロック探索手段は、予め求められた基準点と、前記基準ブロックとを結ぶ直線に近い位置で、前記直線から遠い位置に比べ、より細かく前記対応ブロックを探索し、
前記基準点は、前記車両が直線道路上を走行する際に撮影される画像の消失点である
ことを特徴とする。
【0011】
本発明に係る対応ブロック探索装置では、予め求められた基準点と基準ブロックとを結ぶ直線に近い位置で、該直線から遠い位置に比べ、より細かく対応ブロックを探索する。即ち、基準点と基準ブロックとを結ぶ直線から遠い位置で、該直線から近い位置に比べ、より粗く対応ブロックを探索する。それにより、探索領域全体について細かく対応ブロックを探索するのに比べ、少ない演算量で対応ブロックの探索を行うことができる。また、撮像装置が車両の前方または後方を撮影する場合には、車両が直線道路上を走行する際に撮影される動画像において、周囲の車両、路側機、建物などの被写体は、撮影画像の消失点と被写体とを結ぶ直線上を移動することが多い。そのため、対応ブロックは基準ブロックと消失点とを結ぶ直線付近に存在する可能性が高い。そこで、このような方法で基準ブロックを探索することにより、撮像装置が車両に設けられている場合に特化した対応ブロックの探索を行うことができる。また、本発明に係る対応ブロック探索装置では、基準点を予め求めておけばよいため、簡易な構成で対応ブロックの探索を行うことが可能となる。
【0012】
前記対応ブロック探索手段は、
前記直線に近い位置から順に前記対応ブロックを探索し、
前記基準ブロックの画素値との差が所定値未満の画素値であるブロックが探索された場合に、当該ブロックを対応ブロックとし、探索処理を停止する
ことが好ましい。
上述したように、対応ブロックは基準ブロックと消失点とを結ぶ直線付近に存在する可能性が高い。そのため、このような構成にすることにより、より少ない処理量で対応ブロックを探索することが可能となる。
【0013】
前記直線は、前記基準点と前記基準ブロックの中心とを結ぶ直線であることが好ましい。
撮像装置が車両の前方または後方を撮影する場合には、対応ブロックは基準ブロックの中心と消失点とを結ぶ直線付近に存在する可能性が高い。そのため、このような構成にすることにより、より適切な位置で細かく対応ブロックを探索することが可能となる。
【0014】
前記基準点は、前記撮像装置を設置した際に求められることが好ましい。
車両が直線道路上を走行する際に撮影される画像の消失点は、撮像装置を設置した時点で略定まるため、撮像装置を設置した際に基準点を求めることにより、撮像装置の設置前に基準点を求める場合よりも正確に基準点を求めることが可能となる。
【0015】
前記基準ブロックと前記対応ブロックの位置座標に基づいて、前記基準ブロックの動きベクトルを算出する動きベクトル算出手段を有することが好ましい。
それにより、簡易な構成且つ少ない演算量で、撮像装置が車両に設けられている場合に特化した動きベクトルの算出が可能となる。
【0016】
前記対応ブロック探索手段は、
過去に算出された動きベクトルに基づいて、対応ブロックの位置を予測し、
前記予測された位置に近い位置で、前記予測された位置から遠い位置に比べ、より細か
く前記対応ブロックを探索する
ことが好ましい。
以前に動きベクトルが算出されている場合には、その動きベクトルに基づいて対応ブロックの位置を予測することができる。例えば、動きのある物体や風景は、ある程度継続して同じ方向に動くことが多い。具体的には、或る時刻のフレームにおいて左へ走行する車両が写っていた場合には、当該車両はその直前のフレームにおいても左へ走行していることが多い(瞬間的に車両の走行方向が変化することは少ない)。そのため、過去に算出された動きベクトルに基づいて、対応ブロックの位置を予測することができる。そして、予測された位置に近い位置で、予測された位置から遠い位置に比べ、より細かく対応ブロックを探索することで、より正確な対応ブロックを探索することが可能となる。
【0017】
また、本発明は、上記手段の少なくとも一部を有する対応ブロック探索装置として捉えてもよいし、上記処理の少なくとも一部を含む対応ブロック探索方法、または、かかる方法を実現するための対応ブロック探索プログラムやそのプログラムを記憶した記憶媒体として捉えることもできる。また、本発明は、上記手段の少なくとも一部を有する車両として捉えてもよい。なお、上記手段及び処理の各々は可能な限り互いに組み合わせて本発明を構成することができる。
【発明の効果】
【0018】
本発明によれば、簡易な構成且つ少ない演算量で、撮像装置が車両に設けられている場合に特化した対応ブロックの探索を行うことのできる技術を提供することができる。
【発明を実施するための最良の形態】
【0019】
以下に図面を参照して、この発明の好適な実施の形態を例示的に詳しく説明する。本実施形態に係る対応ブロック探索装置は、ブロックマッチング法を用いて2つの画像を比較する装置に好ましく適用できる。例えば、動画像の形式をMPEG形式などに変換する画像処理装置や、動画像中の物体を認証するための物体認証装置などに好ましく適用できる。
【0020】
<装置構成>
図1は、本実施形態に係る対応ブロック探索装置の機能・構成を示すブロック図である。図1に示すように、本実施形態に係る対応ブロック探索装置100は、撮像装置101、対応ブロック探索部102、動きベクトル算出部103を備える。
【0021】
撮像装置101は、車両に設けられており、当該車両の前方または後方を撮影する。撮像装置101としては、光学系と撮像素子(CCD、CMOSセンサなど)を備えるデジタルカメラを好ましく適用できる。
【0022】
対応ブロック探索部102は、撮像装置101で撮影された動画像中のフレームの1つである基準フレームとは異なる探索フレームから、基準フレーム内の一部の領域である基準ブロックに対応する対応ブロックを探索する。なお、探索フレームは基準フレームより前のフレームであっても、後ろのフレームであってもよい。本実施形態では、撮影中の最も新しいフレームを基準フレームとし、その直前のフレームを探索フレームとする。
【0023】
動きベクトル算出部103は、基準ブロックと対応ブロックの位置座標に基づいて、基準ブロックの動きベクトルを算出する。
【0024】
<対応ブロック探索部>
以下に、本実施形態に係る対応ブロック探索部102の機能について図面を用いて例示的に詳しく説明する。
【0025】
まず、撮像装置101が設けられている車両(自車両)が、直線状の道路(直線道路)を走行する場合を考える。このような場合に撮影される動画像において、周囲の車両(他車両)、路側機、建物などの被写体は、撮影画像の消失点と被写体とを結ぶ直線上を移動することが多い(図2(B))。具体的には、被写体が或る直線と平行な方向に離れていく場合には、撮影画像上では、被写体は消失点に向かって直線的に移動し、消失点に到達した後、消失する。複数の被写体が互いに平行な方向に離れていく場合には、撮影画像上では、それら複数の被写体は全て同じ消失点へ向かって直線的に移動する。直線道路上では、自車両や他車両は、直線道路と略平行な方向に移動することが多いため(図2(A))、直線道路上を走行する際に撮影される動画像において、多くの被写体は1つの消失点と被写体とを結ぶ直線上を移動する(図2(B))。
【0026】
そのため、自車両が直線道路を走行する場合には、対応ブロックは基準ブロックと消失点とを結ぶ直線付近に存在する可能性が高い。
【0027】
そこで、本実施形態では、基準点として、自車両が直線道路上を走行する際に撮影される画像の消失点を予め求める。消失点の求め方としては、例えば、傾きを有する直線成分(水平及び垂直方向の直線成分以外)を検出し、それら直線成分を延長した際の交点を消失点としてもよいし、道路上の白線(傾きを有する白線)を検出し、それらの白線を延長した際の交点を消失点としてもよい。また、撮像装置の取り付け高さや向きに応じて求めてもよい。
【0028】
基準点は、撮像装置を設置した際に求めてもよいし、撮像装置を設置する前の設計段階等で求めてもよい。但し、車両が直線道路上を走行する際に撮影される画像の消失点は、撮像装置を設置した時点で略定まるため、撮像装置を設置した際に基準点を求めることにより、撮像装置の設置前に基準点を求める場合よりも正確に基準点を求めることができる。基準点は、例えば、撮像装置を車両に取り付けた後、対応ブロック探索装置の起動時などに自動的に求まるようにしてもよいし、撮像装置を車両に取り付けた直後に、その取り付け高さや向きに応じて求めてもよい。なお、基準点は、対応ブロック探索装置の初回起動時のみに求めてもよいし、定期的に求めてもよい。例えば、対応ブロック探索装置の起動の度に基準点を求めてもよいし、自車両が直線道路に入る度に基準点を求めてもよい。
【0029】
そして、対応ブロック探索部102は、予め求められた基準点と、基準ブロックとを結ぶ直線に近い位置で、直線から遠い位置に比べ、より細かく対応ブロックを探索する。即ち、基準点と基準ブロックとを結ぶ直線から遠い位置で、該直線から近い位置に比べ、より粗く対応ブロックを探索する。
【0030】
例えば、対応ブロック探索部102は、図3に示すように、基準ブロックと基準点とを結ぶ直線(基準直線)を中心として、探索領域を複数の領域(領域31a〜31d)に区分し、領域毎に探索の粗さを異ならせる。基準直線に対し線対称の領域(例えば、同じ符号を付した2つの領域)では、探索の粗さは互いに同じであってもよいし異なっていてもよい。なお、探索の粗さは、基準ブロックと基準点とを結ぶ直線からの距離に応じて連続的に変化させてもよい。基準ブロックとを結ぶ直線に近い位置で、直線から遠い位置よりも細かく対応ブロックが探索されればよい。
【0031】
それにより、探索領域全体について細かく対応ブロックを探索するのに比べ、少ない演算量で撮像装置が車両に設けられている場合に特化した対応ブロックの探索を行うことができる。また、本実施形態に係る対応ブロック探索装置では、基準点を予め求めておけばよい(従来技術のように、自車両の速度、加速度、旋回状態などの情報が不要)ため、簡易な構成で対応ブロックの探索を行うことができる。
【0032】
また、対応ブロック探索部102は、対応ブロックを探索する際に探索領域内をどのように走査してもよい。但し、上述したように、対応ブロックは基準ブロックと消失点とを結ぶ直線(基準直線)付近に存在する可能性が高いため、基準直線に近い位置から順に対応ブロックを探索することが好ましい。そして、基準ブロックの画素値との差が所定値未満の画素値であるブロックが探索された場合に、当該ブロックを対応ブロックとし、探索処理を停止するような構成にすれば、より少ない処理量で対応ブロックを探索することができる。
【0033】
なお、基準直線は、図4(A)に示すように、基準ブロックの中心と基準点とを結ぶ直線であってもよいし、図4(B)に示すように、基準ブロックの角と基準点とを結ぶ直線であってもよい。基準直線は、基準ブロックと基準点とを通過するような直線であればどのように定義されてもよい。但し、撮像装置が車両の前方または後方を撮影する場合には、対応ブロックは基準ブロックの中心と消失点とを結ぶ直線付近に存在する可能性が高い。そのため、図4(A)のように基準直線を定義することにより、より適切な位置で細かく対応ブロックを探索することが可能となる。
【0034】
また、本実施形態では、対応ブロック探索部102は、過去に算出された動きベクトルに基づいて、対応ブロックの位置を予測する。そして、予測された位置(予測位置)に近い位置で、予測された位置から遠い位置に比べ、より細かく対応ブロックを探索する。
【0035】
以前に動きベクトルが算出されている場合には、その動きベクトルに基づいて対応ブロックの位置を予測することができる。例えば、動きのある物体や風景は、ある程度継続して同じ方向に動くことが多い。具体的には、図5に示すように、或る時刻のフレームにおいて左へ走行する車両が写っていた場合には、当該車両はその直前のフレームにおいても左へ走行していることが多い(瞬間的に車両の走行方向が変化することは少ない)。そのため、過去に算出された動きベクトルに基づいて、対応ブロックの位置を予測することができる。そして、予測された位置に近い位置で、予測された位置から遠い位置に比べ、より細かく対応ブロックを探索することで、より正確な対応ブロックを探索することが可能となる(対応ブロックの誤検出を低減することができる)。
【0036】
具体的には、図6に示すように、探索フレームが基準フレームよりも前のフレームであり、探索フレームとその前のフレーム間で、基準ブロックの位置でベクトル(ブロックA1の動き)が算出されていたとする。その場合には、ブロックA1とA2が共に同じ車両の一部であること、自車両が略一定の旋回量で旋回していることなどが予想されるため、基準ブロック(ブロックA2)も、ブロックA1と同じ動きをすることが予想される。そこで、そのような場合には、位置601に近い位置で、予測された位置から遠い位置に比べ、より細かく対応ブロックを探索すればよい。
【0037】
一方、図7に示すように、探索フレームが基準フレームよりも後のフレームであり、基準フレームとその前のフレーム間で、基準ブロックの位置で動きベクトル(ブロックB1の動き)が算出されていたとする。その場合には、ブロックB1は、基準フレームと探索フレームとの間においても略同様に動くことが予想される(上述したように、動きのある物体や風景は、ある程度継続して同じ方向に動くことが多いため)。そこで、そのような場合には、位置701に近い位置で、予測された位置から遠い位置に比べ、より細かく対応ブロックを探索すればよい。
【0038】
なお、このような場合においても、対応ブロックを探索する際の探索領域内の走査は、どのように行われてもよい。基準ブロックの画素値との差が所定値未満の画素値であるブロックを対応ブロックとし、探索処理を停止する場合には、予測位置に近い位置から走査
することが効率的であることは言うまでも無い。
【0039】
<対応ブロック探索処理>
次に、対応ブロック探索部102による対応ブロック探索処理の流れの一例について図8、9を用いて説明する。図8、9は、対応ブロック探索処理の流れの一例を示すフローチャートである。なお、図8、9では、基準点が既に求められているものとして説明する。また、基準フレーム内の走査(基準ブロックの位置の切り換え)については、本実施形態に係る対応ブロック探索装置の特徴部分ではないため、説明を省略する。
【0040】
まず、対応ブロック探索部102は、基準フレームの直前のフレームである探索フレームとその前のフレームとの間で、基準ブロックの位置で動きベクトルが算出されているか否かを判定する(ステップS801)。探索フレームとその前のフレームとの間で動きベクトルが算出されている場合には(ステップS801:YES)、ステップS808へ進み、探索フレームとその前のフレームとの間で動きベクトルが算出されていない場合には(ステップS801:NO)、ステップS802へ進む。
【0041】
ステップS802では、対応ブロック探索部102が、探索フレーム内の探索領域の一部であって、基準直線に最も近い領域を候補ブロック(対応ブロックの候補)とする。なお、基準直線からの距離が互いに等しい領域が複数存在する場合には、それらの中で基準ブロックの中心位置からの距離が最も近い領域を候補ブロックとしてもよいし、それらの中のいずれかの領域を候補ブロックとしてもよい。
【0042】
次に、基準ブロックの画素値と候補ブロックの画素値とを比較する(ステップS803)。基準ブロックの画素値と候補ブロックの画素値との差が所定の閾値以下の場合には(ステップS803:YES)、当該候補ブロックを対応ブロックとし(ステップS804)、対応ブロック探索処理を終了する。
【0043】
基準ブロックの画素値と候補ブロックの画素値との差が所定の閾値より大きい場合には(ステップS803:NO)、探索領域全体について探索を行ったか否かを判定する(ステップS805)。探索領域全体について探索を行った場合には(ステップS805:YES)、対応ブロックは無いものとし(ステップS807)、対応ブロック探索処理を終了する。
【0044】
探索領域全体について探索を行っていない場合には(ステップS805:NO)、候補ブロックの位置を、基準直線からの距離に応じた分だけ移動させる(ステップS806)。例えば、基準直線から候補ブロックまでの距離L<αの場合に、候補ブロックを1ピクセル分ずらし、α≦距離L<βの場合に3ピクセル分ずらし、β≦距離L<γの場合に5ピクセル分ずらす(α<β<γ)。その後、ステップS803へ戻る。
【0045】
ステップS808では、対応ブロック探索部が、探索フレーム内の探索領域の一部であって、探索フレームとその前のフレームとの間で算出された動きベクトルに最も近い領域を候補ブロック(対応ブロックの候補)とする。
【0046】
次に、基準ブロックの画素値と候補ブロックの画素値とを比較する(ステップS809)。基準ブロックの画素値と候補ブロックの画素値との差が所定の閾値以下の場合には(ステップS809:YES)、当該候補ブロックを対応ブロックとし(ステップS810)、対応ブロック探索処理を終了する。
【0047】
基準ブロックの画素値と候補ブロックの画素値との差が所定の閾値より大きい場合には(ステップS809:NO)、探索領域全体について探索を行ったか否かを判定する(ス
テップS811)。探索領域全体について探索を行った場合には(ステップS811:YES)、対応ブロックは無いものとし(ステップS813)、対応ブロック探索処理を終了する。
【0048】
探索領域全体について探索を行っていない場合には(ステップS811:NO)、候補ブロックの位置を、探索フレームとその前のフレームとの間で算出された動きベクトルからの距離に応じた分だけ移動させる(ステップS812)。例えば、探索フレームとその前のフレームとの間で算出された動きベクトルから候補ブロックまでの距離L’<α’の場合に、候補ブロックを1ピクセル分ずらし、α’≦距離L’<β’の場合に3ピクセル分ずらし、β’≦距離L’<γ’の場合に5ピクセル分ずらす(α’<β’<γ’)。その後、ステップS809へ戻る。
【0049】
次に、ステップS806の処理の一例について図10のフローチャートを用いて詳しく説明する。なお、ステップS812の処理はステップS806と同様のため説明を省略する。また、以下の説明ではα<β<γとする。
【0050】
まず、対応ブロック探索部は、基準直線から候補ブロックまでの距離Lがαより小さいか否かを判定する(ステップS1001)。距離Lがαより小さい場合には(ステップS1001:YES)、候補ブロックの位置を1ピクセル分ずらし(ステップS1002)、ステップS803へ進む。
【0051】
距離Lがα以上の場合には(ステップS1001:NO)、距離Lがβより小さいか否かを判定する(ステップS1003)。距離Lがβより小さい場合には(ステップS1003:YES)、候補ブロックの位置を3ピクセル分ずらし(ステップS1004)、ステップS803へ進む。
【0052】
距離Lがβ以上の場合には(ステップS1003:NO)、距離Lがγより小さいか否かを判定する(ステップS1005)。距離Lがγより小さい場合には(ステップS1005:YES)、候補ブロックの位置を5ピクセル分ずらし(ステップS1006)、ステップS803へ進む。
【0053】
距離Lがγ以上の場合には(ステップS1005:NO)、候補ブロックの位置を10ピクセル分ずらし(ステップS1007)、ステップS803へ進む。
【0054】
<従来技術との比較>
次に、対応ブロック探索処理を途中で停止せずに探索領域全体を走査した場合の対応ブロックの候補数について、本実施形態に係る方法と探索領域全体について同じ粗さで探索する従来の方法とを比較する。
【0055】
具体的には、図11に示すように、ブロックの大きさをB×B=16ピクセル×16ピクセルとする。そして、ブロックが中心にあるときに、ブロックと探索領域の輪郭までの距離が上下左右W=32ピクセル(即ち、探索領域が80ピクセル×80ピクセル)である場合について比較する。
【0056】
まず、探索領域全体について同じ粗さで探索する従来の方法では、1ピクセル間隔で探索する場合に、対応ブロックの候補数は、(2W+1)2=4225となる。
【0057】
本実施形態に係る方法では、図11に示すように、基準ブロックの中心と基準点を結ぶ直線からの距離に応じて、探索領域を5つの領域(領域111a〜111e)に区分するものとした。具体的には、直線に近い領域から順に、1ピクセル間隔で探索する領域11
1a、2ピクセル間隔で探索する領域111b、4ピクセル間隔で探索する領域111c、8ピクセル間隔で探索する領域111d、16ピクセル間隔で探索する領域111eの5つの領域に区分したときの対応ブロックの候補数について求めた。
【0058】
また、基準ブロックの中心と基準点を結ぶ直線の傾きは、基準ブロックの位置によって異なるため、直線が水平の場合を傾き0[rad]とし、水平方向からの傾きθ[rad]=0、π/8、2π/8、3π/8、4π/8である場合について、それぞれ対応ブロックの候補数を求めた。
【0059】
図12に本実施形態に係る方法での対応ブロックの候補数及び従来の方法との比較結果を示す。図12に示すように、本実施形態に係る方法での対応ブロックの候補数は、θ[rad]=0で2195、π/8で2183、2π/8で2245、3π/8で2330、4π/8で2359であった。そして、従来の方法での対応ブロックの候補数に対する本実施形態に係る方法での対応ブロックの候補数は、θ[rad]=0で51%、π/8で51%、2π/8で53%、3π/8で55%、4π/8で55%であった。
【0060】
以上の結果から、本実施形態の方法を用いれば、探索領域内全体を探索した場合において、従来の方法に比べ約半分の計算量で探索できることが確認された。
【0061】
以上述べたように、本実施形態に係る対応ブロック探索装置では、予め求められた基準点を用いるという簡易な構成、且つ、少ない演算量で、撮像装置が車両に設けられている場合に特化した対応ブロックの探索を行うことができる。
【0062】
また、本実施形態では、対応ブロック探索装置が動きベクトル算出部を備えているため、簡易な構成且つ少ない演算量で、撮像装置が車両に設けられている場合に特化した動きベクトルの算出が可能となる。
【0063】
なお、探索領域は基準ブロックの位置によらない一定の領域(例えば、道路上など、動きがあると予想される領域)であってもよいし、基準ブロック毎に基準ブロックの位置を基準に定められていてもよい。
【0064】
なお、本実施形態では、候補ブロックの位置の切り換えを図10のフローチャートに従って行う構成としたが、基準直線の傾きに対して、候補ブロックのとりうる位置を予め記憶していてもよい。基準直線の傾きに応じて、記憶された位置間で候補ブロックの位置を切り換えることにより、処理量を低減することができる。
【図面の簡単な説明】
【0065】
【図1】図1は、本実施形態に係る対応ブロック探索装置の機能・構成を示すブロック図である。
【図2】図2(A)は、直線状の道路における自車両と他車両の動きを示す図であり、図2(B)は図2(A)のような状況で撮影された動画像の一例を示す図である。
【図3】図3は、本実施形態に係る対応ブロック探索部の機能を示す図である。
【図4】図4(A)及び図4(B)は、基準直線の定義の一例を示す図である。
【図5】図5は、撮像装置で撮影される動画像の一例を示す図である。
【図6】図6は、対応ブロックの位置の予測方法の一例を示す図である。
【図7】図7は、対応ブロックの位置の予測方法の一例を示す図である。
【図8】図8は、対応ブロック探索処理の流れの一例を示すフローチャートである。
【図9】図9は、対応ブロック探索処理の流れの一例を示すフローチャートである。
【図10】図10は、ステップS806の処理の一例を示すフローチャートである。
【図11】図11は、ブロック及び探索領域の一例、及び、本実施形態に係る対応ブロックの探索方法の一例を示す図である。
【図12】図12は、本実施形態に係る方法での対応ブロックの候補数及び従来の方法との比較結果を示す図である。
【符号の説明】
【0066】
100 対応ブロック探索装置
101 撮像装置
102 対応ブロック探索部
103 ベクトル算出部
31a〜31d,111a〜111e 領域
【特許請求の範囲】
【請求項1】
車両に設けられた、前記車両の前方または後方を撮影する撮像装置と、
前記撮像装置で撮影された動画像中のフレームの1つである基準フレームとは異なる探索フレームから、基準フレーム内の一部の領域である基準ブロックに対応する対応ブロックを探索する対応ブロック探索手段と、
を有する対応ブロック探索装置であって、
前記対応ブロック探索手段は、予め求められた基準点と、前記基準ブロックとを結ぶ直線に近い位置で、前記直線から遠い位置に比べ、より細かく前記対応ブロックを探索し、
前記基準点は、前記車両が直線道路上を走行する際に撮影される画像の消失点である
ことを特徴とする対応ブロック探索装置。
【請求項2】
前記対応ブロック探索手段は、
前記直線に近い位置から順に前記対応ブロックを探索し、
前記基準ブロックの画素値との差が所定値未満の画素値であるブロックが探索された場合に、当該ブロックを対応ブロックとし、探索処理を停止する
ことを特徴とする請求項1に記載の対応ブロック探索装置。
【請求項3】
前記直線は、前記基準点と前記基準ブロックの中心とを結ぶ直線である
ことを特徴とする請求項1または2に記載の対応ブロック探索装置。
【請求項4】
前記基準点は、前記撮像装置を設置した際に求められる
ことを特徴とする請求項1〜3のいずれか1項に記載の対応ブロック探索装置。
【請求項5】
前記基準ブロックと前記対応ブロックの位置座標に基づいて、前記基準ブロックの動きベクトルを算出する動きベクトル算出手段を有する
ことを特徴とする請求項1〜4のいずれか1項に記載の対応ブロック探索装置。
【請求項6】
前記対応ブロック探索手段は、
過去に算出された動きベクトルに基づいて、対応ブロックの位置を予測し、
前記予測された位置に近い位置で、前記予測された位置から遠い位置に比べ、より細かく前記対応ブロックを探索する
ことを特徴とする請求項5に記載の対応ブロック探索装置。
【請求項7】
コンピュータが、
基準点を予め求めるステップと、
車両に設けられた撮像装置で、前記車両の前方または後方を撮影するステップと、
前記撮像装置で撮影された動画像中のフレームの1つである基準フレームとは異なる探索フレームから、基準フレーム内の一部の領域である基準ブロックに対応する対応ブロックを探索するステップと、
を実行する対応ブロック探索方法であって、
前記対応ブロックを探索するステップでは、前記基準点と前記基準ブロックとを結ぶ直線に近い位置で、前記直線から遠い位置に比べ、より細かく前記対応ブロックを探索し、
前記基準点は、前記車両が直線道路上を走行する際に撮影される画像の消失点である
ことを特徴とする対応ブロック探索方法。
【請求項8】
コンピュータに、
基準点を予め求めるステップと、
車両に設けられた撮像装置で、前記車両の前方または後方を撮影するステップと、
前記撮像装置で撮影された動画像中のフレームの1つである基準フレームとは異なる探
索フレームから、基準フレーム内の一部の領域である基準ブロックに対応する対応ブロックを探索するステップと、
を実行させるための対応ブロック探索プログラムであって、
前記対応ブロックを探索するステップでは、前記基準点と前記基準ブロックとを結ぶ直線に近い位置で、前記直線から遠い位置に比べ、より細かく前記対応ブロックを探索し、
前記基準点は、前記車両が直線道路上を走行する際に撮影される画像の消失点である
ことを特徴とする対応ブロック探索プログラム。
【請求項9】
車両の前方または後方を撮影する撮像装置と、
前記撮像装置で撮影された動画像中のフレームの1つである基準フレームとは異なる探索フレームから、基準フレーム内の一部の領域である基準ブロックに対応する対応ブロックを探索する対応ブロック探索手段と、
を有する車両であって、
前記対応ブロック探索手段は、予め求められた基準点と、前記基準ブロックとを結ぶ直線に近い位置で、前記直線から遠い位置に比べ、より細かく前記対応ブロックを探索し、
前記基準点は、前記車両が直線道路上を走行する際に撮影される画像の消失点である
ことを特徴とする車両。
【請求項1】
車両に設けられた、前記車両の前方または後方を撮影する撮像装置と、
前記撮像装置で撮影された動画像中のフレームの1つである基準フレームとは異なる探索フレームから、基準フレーム内の一部の領域である基準ブロックに対応する対応ブロックを探索する対応ブロック探索手段と、
を有する対応ブロック探索装置であって、
前記対応ブロック探索手段は、予め求められた基準点と、前記基準ブロックとを結ぶ直線に近い位置で、前記直線から遠い位置に比べ、より細かく前記対応ブロックを探索し、
前記基準点は、前記車両が直線道路上を走行する際に撮影される画像の消失点である
ことを特徴とする対応ブロック探索装置。
【請求項2】
前記対応ブロック探索手段は、
前記直線に近い位置から順に前記対応ブロックを探索し、
前記基準ブロックの画素値との差が所定値未満の画素値であるブロックが探索された場合に、当該ブロックを対応ブロックとし、探索処理を停止する
ことを特徴とする請求項1に記載の対応ブロック探索装置。
【請求項3】
前記直線は、前記基準点と前記基準ブロックの中心とを結ぶ直線である
ことを特徴とする請求項1または2に記載の対応ブロック探索装置。
【請求項4】
前記基準点は、前記撮像装置を設置した際に求められる
ことを特徴とする請求項1〜3のいずれか1項に記載の対応ブロック探索装置。
【請求項5】
前記基準ブロックと前記対応ブロックの位置座標に基づいて、前記基準ブロックの動きベクトルを算出する動きベクトル算出手段を有する
ことを特徴とする請求項1〜4のいずれか1項に記載の対応ブロック探索装置。
【請求項6】
前記対応ブロック探索手段は、
過去に算出された動きベクトルに基づいて、対応ブロックの位置を予測し、
前記予測された位置に近い位置で、前記予測された位置から遠い位置に比べ、より細かく前記対応ブロックを探索する
ことを特徴とする請求項5に記載の対応ブロック探索装置。
【請求項7】
コンピュータが、
基準点を予め求めるステップと、
車両に設けられた撮像装置で、前記車両の前方または後方を撮影するステップと、
前記撮像装置で撮影された動画像中のフレームの1つである基準フレームとは異なる探索フレームから、基準フレーム内の一部の領域である基準ブロックに対応する対応ブロックを探索するステップと、
を実行する対応ブロック探索方法であって、
前記対応ブロックを探索するステップでは、前記基準点と前記基準ブロックとを結ぶ直線に近い位置で、前記直線から遠い位置に比べ、より細かく前記対応ブロックを探索し、
前記基準点は、前記車両が直線道路上を走行する際に撮影される画像の消失点である
ことを特徴とする対応ブロック探索方法。
【請求項8】
コンピュータに、
基準点を予め求めるステップと、
車両に設けられた撮像装置で、前記車両の前方または後方を撮影するステップと、
前記撮像装置で撮影された動画像中のフレームの1つである基準フレームとは異なる探
索フレームから、基準フレーム内の一部の領域である基準ブロックに対応する対応ブロックを探索するステップと、
を実行させるための対応ブロック探索プログラムであって、
前記対応ブロックを探索するステップでは、前記基準点と前記基準ブロックとを結ぶ直線に近い位置で、前記直線から遠い位置に比べ、より細かく前記対応ブロックを探索し、
前記基準点は、前記車両が直線道路上を走行する際に撮影される画像の消失点である
ことを特徴とする対応ブロック探索プログラム。
【請求項9】
車両の前方または後方を撮影する撮像装置と、
前記撮像装置で撮影された動画像中のフレームの1つである基準フレームとは異なる探索フレームから、基準フレーム内の一部の領域である基準ブロックに対応する対応ブロックを探索する対応ブロック探索手段と、
を有する車両であって、
前記対応ブロック探索手段は、予め求められた基準点と、前記基準ブロックとを結ぶ直線に近い位置で、前記直線から遠い位置に比べ、より細かく前記対応ブロックを探索し、
前記基準点は、前記車両が直線道路上を走行する際に撮影される画像の消失点である
ことを特徴とする車両。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【公開番号】特開2010−128744(P2010−128744A)
【公開日】平成22年6月10日(2010.6.10)
【国際特許分類】
【出願番号】特願2008−302150(P2008−302150)
【出願日】平成20年11月27日(2008.11.27)
【出願人】(502087460)株式会社トヨタIT開発センター (232)
【出願人】(000003207)トヨタ自動車株式会社 (59,920)
【Fターム(参考)】
【公開日】平成22年6月10日(2010.6.10)
【国際特許分類】
【出願日】平成20年11月27日(2008.11.27)
【出願人】(502087460)株式会社トヨタIT開発センター (232)
【出願人】(000003207)トヨタ自動車株式会社 (59,920)
【Fターム(参考)】
[ Back to top ]