説明

移動体検出装置及び移動体検出方法

【課題】あらゆる方向に移動する移動体をより確実に検出することができる移動体検出装置を提供する。
【解決手段】車両に搭載したカメラによって撮影されたカメラ画像を取りみ、画像の複数点Pの動きベクトルを生成する動きベクトル生成部と、点Pの動きベクトルの傾きを自車移動パラメータの回転成分で補正したとき、点Pから消失点への傾きと等しいとして自車移動パラメータの回転成分(Rx,Ry,Rz)を推定する自車移動パラメータ推定部と、画像内の任意の点Qの動きベクトルの傾きを自車移動パラメータの回転成分を用いて補正し、補正後の動きベクトルの傾きと、任意の点Qと消失点を結ぶ線との傾きを比較し、一致度が低いときに自車移動方向と異なる方向を持つ移動体として検出する移動体判定部と、を具備する。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、車両に搭載したカメラで車両周辺の映像を撮影し、動きベクトルの解析によって移動体を検出する移動体検出装置及び移動体検出方法に関する。
【背景技術】
【0002】
従来、車両に複数のカメラを搭載し、自車両の前方や後方、或いは側方を撮影し、撮影した画像のオプティカルフロー或いは動きベクトルを利用して移動体を検出する移動体検出装置が知られている。
【0003】
例えば特許文献1には、車載カメラのようにカメラ位置が移動する場合においても、静止物と移動する被写体を判定できるようにした移動体検知装置が開示されている。特許文献1では、観測された画像中の観測対象の動きベクトルを抽出し、動きベクトルの延長線上の交点を計算し、その交点(FOE:Focus of Expansion)を求め、FOEの時間的位置変化から移動体を判定するようにしている。
【0004】
特許文献2には、車載カメラで前後方を観測し障害物を検出する際に、路面の凹凸や操舵による揺れの影響を除去する画像処理装置が開示されている。特許文献2では、FOE近傍は距離が無限大とみなせるので、この領域にある動きベクトルはカメラ移動の並進成分が0となり回転成分だけが残ること、つまりFOE近傍の静止物体の動ベクトルからカメラの揺れ量(回転成分)を求め、揺れを補正するようにしている。
【0005】
特許文献3には、画像内において静止物被写体が支配的であるという暗黙の前提において、自車移動パラメータから予測される動きベクトルと観測動きベクトルとを比較し、一致するように繰り返し合わせ込みして自車運動パラメータを求め、自車運動パラメータから予測される動きベクトルと実測動きベクトルとの差異が大きい被写体を移動体と判定する動画像解析方法が開示されている。
【0006】
特許文献4には、移動するカメラから撮られた動画像のオプティカルフローを算出し、オプティカルフローを解析して自車移動パラメータ(回転成分R、並進成分T)を推定する移動体検出方法および装置が開示されている。特許文献4の例では、解析結果から逆距離なる指標(並進成分Tz/距離z)を定義し、想定される範囲を予め遠方に設定して指標値を与え、実測指標値が設定外のとき移動体と判定するようにしている。
【0007】
特許文献5には、外部センサから自車移動情報をもらい、空間モデルを用いて背景フローを推定し、実測のオプティカルフローと比較し、一致しない領域を移動体と判定する監視装置が開示されている。
【0008】
しかしながら、車載用途ではカメラ自体が移動するため、静止物被写体であっても画面上は動きのある画像となる。このため、静止物であるか移動体であるかの判定を信頼性高く行うことが難しい。また特許文献1〜5では、シーン依存性があり、特定のシーンでは移動体を検出できても、別のシーンでは移動体を検出できない場合がある。
【0009】
例えば特許文献1では、FOEへ向かう放射状の線上を移動体が動いた場合、FOEは一定となり、時間的変化が発生しないため移動体として検出できない。また自車回転が大きい場合は、FOEそのものが定義できなくなり、移動体を検出できない。特許文献2では、画像内のFOE近傍に適当な被写体が無い場合には揺れの補正ができない。
【0010】
また特許文献3では、画像の被写体は静止物が支配的であることを前提として、画面全体の動きベクトルから自車(カメラ)の移動パラメータを推定するため、大部分の領域が移動体となるシーンでは、自車移動パラメータが正しく得られない。また特許文献4では、FOEへ向かう方向の移動体を検出できるものの、ある距離以内には被写体は存在しないという前提条件があるため、カメラ近傍の短距離範囲を監視するカメラシステムには適用できない。さらに、特許文献5では、カメラ以外に、車輪速、舵角、或いはジャイロセンサ、ヨーセンサ等が必要になる。
【先行技術文献】
【特許文献】
【0011】
【特許文献1】特開平8−194822号公報
【特許文献2】特開2002−112252号公報
【特許文献3】特開平5−233813号公報
【特許文献4】特開平6−203163号公報
【特許文献5】特開2004−56763号公報
【発明の概要】
【発明が解決しようとする課題】
【0012】
従来の車載用途の移動体検出装置では、カメラ自体が移動するため、静止物被写体であっても画面上は動きのある画像となり、静止物であるか移動体であるかの判定を信頼性高く行うことが難しい。また特許文献1〜5では、シーン依存性があり、特定のシーンでは移動体を検出できても、別のシーンでは移動体を検出できないという課題がある。
【0013】
本発明はこのような事情に鑑み、あらゆる方向に移動する移動体をより確実に検出することができる移動体検出装置及び移動体検出方法を提供することを目的とする。
【課題を解決するための手段】
【0014】
請求項1記載の実施形態による移動体検出装置は、車両に搭載したカメラによって撮影されたカメラ画像を取り込む画像入力部と、前記画像入力部からの画像を処理して、前記画像の複数点Pの動きベクトルを生成する動きベクトル生成部と、前記点Pの動きベクトルの傾きを自車移動パラメータの回転成分(Rx,Ry,Rz)で補正したとき、点Pから消失点への傾きと等しいとして自車移動パラメータの回転成分(Rx,Ry,Rz)を推定する自車移動パラメータ推定部と、前記画像内の任意の点Qの動きベクトルの傾きを前記自車移動パラメータの回転成分(Rx,Ry,Rz)を用いて補正し、補正後の動きベクトルの傾きと、前記任意の点Qと前記消失点を結ぶ線との傾きを比較し、一致度が低いときに自車移動方向と異なる方向を持つ移動体として検出し、一致度が高いときに静止物あるいは消失点へ向かう放射状に移動する移動体と判定する移動体判定部と、を具備することを特徴とする。
【0015】
請求項8に記載の実施形態による移動体検出装置は、車両に搭載したカメラによって撮影されたカメラ画像を取り込む画像入力部と、前記画像入力部からの画像を処理して、前記画像の動きベクトルを生成する動きベクトル生成部と、前記画像の複数点Pの動きベクトルと、この動きベクトルを延長した延長動きベクトルが集中する消失点を求め、前記複数点Pの動きベクトルと前記消失点をもとに自車移動パラメータの回転成分(Rx,Ry,Rz)及び並進成分を推定する自車移動パラメータ推定部と、路面とのカメラ視角を関連付けた推定距離重みづけ係数z0を設定し、前記係数z0を乗算した並進成分の平均から推定自車並進成分を算出し、前記画像内の任意の点Qの動きベクトルを前記回転成分(Rx,Ry,Rz)、前記並進成分及び前記係数z0から予測し、実測動きベクトルと比較して一致度が低い場合に移動体と判定する移動体判定部と、を具備したことを特徴とする。
【0016】
また請求項10記載の実施形態による移動体検出方法は、車両に搭載したカメラによって撮影されたカメラ画像を取り込み、前記画像入力部からの画像を処理して、前記画像の複数点Pの動きベクトルを生成し、前記点Pの動きベクトルの傾きを自車移動パラメータの回転成分(Rx,Ry,Rz)で補正したとき、点Pから消失点への傾きと等しいとして自車移動パラメータの回転成分(Rx,Ry,Rz)を推定し、前記画像内の任意の点Qの動きベクトルの傾きを前記自車移動パラメータの回転成分(Rx,Ry,Rz)を用いて補正し、補正後の動きベクトルの傾きと、前記任意の点Qと前記消失点を結ぶ線との傾きを比較し、一致度が低いときに自車移動方向と異なる方向を持つ移動体として検出し、一致度が高いときに静止物あるいは消失点へ向かう放射状に移動する移動体と判定することを特徴とする。
【0017】
請求項15に記載の実施形態による移動体検出方法は、車両に搭載したカメラによって撮影されたカメラ画像を取り込み、前記画像入力部からの画像を処理して、前記画像の複数点Pの動きベクトルを生成するとともに、この動きベクトルを延長した延長動きベクトルが集中する消失点を求め、前記動きベクトルと前記消失点をもとに自車移動パラメータの回転成分(Rx,Ry,Rz)及び並進成分を推定し、路面とのカメラ視角を関連付けた推定距離重みづけ係数z0を設定し、前記係数z0を乗算した並進成分の平均から推定自車並進成分を算出し、前記画像内の任意の点Qの動きベクトルを前記回転成分(Rx,Ry,Rz)、前記並進成分及び前記係数z0から予測し、実測動きベクトルと比較して一致度が低い場合に移動体と判定することを特徴とする。
【発明の効果】
【0018】
本発明の実施形態による移動体検出装置によれば、あらゆる方向に移動する移動体をより確実に検出することができる。
【図面の簡単な説明】
【0019】
【図1】第1の実施形態に係る移動体検出装置の構成を示すブロック図。
【図2】第1の実施形態における移動体検出部の詳細な構成を示すブロック図。
【図3】第1の実施形態に係る移動体検出装置の動作を説明するフローチャート。
【図4】画像領域選定部による画像領域の選定例を示す説明図。
【図5】動きベクトルの生成処理に関連する座標系を示す説明図。
【図6】回転成分Ry選択のためのヒストグラム図。
【図7】z0設定部の動作を示す説明図。
【図8】回転成分を補正した動きベクトルの一例を示す説明図。
【図9】回転成分を補正した動きベクトルの他の例を示す説明図。
【図10】第2の実施形態にかかる移動体検出装置を示すブロック図。
【発明を実施するための形態】
【0020】
以下、この発明の一実施形態に係る移動体検出装置について図面を参照して説明する。
【実施例1】
【0021】
図1は、本発明の一実施形態に係る移動体検出装置100の構成を示すブロック図である。図1において、移動体検出部10は、車両1に搭載したカメラ30で撮影した画像を処理して移動体を検出し、表示部40に検出結果を表示する。カメラ30は、車両1に搭載され車両周辺の映像を撮影する。図1では、車両1の前方及び後方等にカメラ30…を搭載した例を示している。
【0022】
図2は、移動体検出部10の詳細な構成を示すブロック図である。移動体検出部10は、移動体検出部10の動作を制御する制御部11と、カメラ画像を取り込む画像入力部12と、移動体の検出処理に有効な画像情報をもつ画像領域を選定する画像領域選定部13と、画像領域選定部13で選定した画像領域の動きベクトルを生成する動きベクトル生成部14を有する。
【0023】
また画像選定領域部13で選定した画像(静止物と移動体が混在した画像)から静止物領域候補を推定する静止物領域候補推定部15と、静止領域候補が見出せない場合に全画面動き或いは全画面静止とみなし、動きの発生した領域を移動体と判定する動きスカラ判定部16と、自車が回転せずに移動する場合にFOE(Focus of Expansion)を求めて更新を行うFOE更新部17を有する。
【0024】
また静止領域候補推定部15で選定された領域内の画像をもとに自車移動パラメータ(回転成分Ωu、Ωvおよび並進成分Tx,Ty,Tzを含む)を推定する自車移動パラメータ推定部18と、並進成分(Tz,Tx,Ty)を推定するために近似的な距離として推定距離重みづけ係数z0を設定するz0設定部19を有する。
【0025】
さらにFOEに着目した移動体判定部20と、FOEへ放射状に向かう方向の移動体の検出を行う並進方向移動体検出部21と、動きスカラ判定部16で判定された移動体と、移動体判定部20で判定された移動体と、並進方向移動体検出部21で判定された移動体の情報がそれぞれ入力され、夫々の論理和(OR)をもとに移動体を判定する接近判定部22とを有する。
【0026】
図3は、本発明の第1の実施形態に係る移動体検出装置の動作を説明するフローチャートであり、以下、関連する図を参照しながら動作を説明する。尚、移動体検出部10は、制御部11の制御のもとに動作し、制御部11はCPU,ROM、RAM等を含むマイクロプロセッサで構成されている。制御部11は、以下に説明する動作を行うように、各ブロックに制御信号を発生する(図2では制御信号線路を点線で示している)。
【0027】
先ず、ステップS1では画像入力部12によってカメラ30で撮像したカメラ画像を取得する。ステップS2では、画像領域選定部13により以降の処理に有効な画像情報をもつ画像領域を選定する。有効な画像情報の判断法としては、特徴点抽出法を用いることができる。例えば図4に示すように画像中で無限に広がる地面はある点に収束し、この点は消失線と呼ばれ、この消失線を含む領域を選択する。尚、自車が回転せずに移動(例えば矢印A方向に移動)する場合に、画像中の複数の動きベクトルを延長し、延長動きベクトルが集中する点は消失点(FOE)となる。
【0028】
次のステップS3では動きベクトル生成部14において、画像領域選定部13で選定した領域の動きベクトルを生成する。動きベクトルの生成処理としては、勾配法、ブロックマッチング法等を使用することができる。
【0029】
例えば、図5に示すように、カメラ座標系として、カメラ30の光軸をz軸、路面に水平の軸をx軸とし、路面に垂直の軸をy軸としたときのxyz座標系を考える。Oc(0,0,0)をカメラ中心とし焦点距離をfとしたとき、z=f(fは焦点距離)の投影平面を200で示し、世界座標の点P’がこの投影平面200の点Pに投影される。また、世界座標系の地面に固定な座標系をOwで示している。
【0030】
自車移動に伴う画面上P(x,y)の動きベクトルV(u,v)は、周知の下記(1)(2)式で表わすことができる。
【数1】

【0031】
ここでは、自車移動パラメータを回転成分Ωu、Ωv及び並進成分Tx,Ty,Tzとする。Tx,Ty,Tzは、夫々x軸、y軸、z軸方向の並進速度を表す。さらに、Ωu、Ωvは下記(3),(4)式によりRx,Ry,Rzで表わされる。Rx,Ry,Rzはx軸、y軸、z軸を中心とした回転成分を表す。
【数2】

【0032】
周知のように、点P(x,y)における動きベクトルV(u,v)に回転成分の補正を行って傾きを求めると、P(x,y)からFOEへ向かう傾きと同じになる。即ち、次の(5)式が成り立つ。
【数3】

【0033】
静止物領域候補推定部15には、画像選定領域部13で選定した画像(静止物と移動体が混在した画像)が入力され、ステップS4では、静止物領域の推定を行う。つまり車載カメラでは、Rx,Rzは微小な場合が多いので、
Rx=Rz=0
という近似を行うと、(6),(7)式が得られる。
【数4】

【0034】
(5),(6),(7)式から、点P(x,y)と動きベクトルV(v,u)と、FOE(x0,y0)から画素P…毎にRyが求められる。静止物に対しては共通のRyとなる。複数の画像点に対して上記複数のRyを求め、図6に示すようなRyのヒストグラムを生成し、ヒストグラムのピークの近傍の共通のRyを持つ領域を静止物領域候補として選定する。
【0035】
しかしながら、自車速度が高い場合には、Rzが発生するので考慮した方が好ましい。このとき、
Rx=0
という近似を行うと、(8),(9)式が得られ、
【数5】

【0036】
近傍の複数の動きベクトルからRy,Rzを求めることができる。このときRy、Rzのヒストグラムを生成し、ヒストグラムのピークの近傍の共通のRy、Rzを持つ領域を静止物領域候補として選定する。
【0037】
静止領域候補が見いだせない場合(ステップS5でNOの場合)には、全画面動き或いは全画面静止とみなし、動きスカラ判定部16で動きの発生した領域を移動体と判定する。つまり、動きスカラ判定部16は、ステップS6において、動きの大きさ(スカラ量を)判定し、ステップS7でスカラ量が予め設定した閾値を越えたとき(YESのとき)に動き領域と判定する。尚、ベクトル量は方向と大きさで表わされ、大きさだけをスカラ(scalar)またはスカラ量と呼ぶ。また画面上において静止物の領域が少ない場合においても、静止物領域部分のRyヒストグラムのピークが見出されればその領域を静止物領域と判定できる。
【0038】
FOE更新部17は、ステップS8において、自車が回転せずに移動する場合、動きベクトルの延長線交点としてFOEを求めて更新を行う。車載カメラでは並進運動は車両中心軸方向だけに発生するので、消失点(FOE)は不変と思われるが、乗車人員や積載量が多い場合、或いはカメラ30の取り付け位置の経年変化等による光軸のズレが想定され、カメラ30の光軸のズレは、消失点(FOE)のズレとなって現れる。したがって、ステップS8において、FOEの更新を行う。
【0039】
即ち、静止物領域候補内において、回転成分=0のとき、点P(x,y)の動きベクトルが(un,vn)であったとしたとき、Pを始点とする動きベクトルの延長線上の点を(x0,y0)とすると、(10)式が得られる。
【数6】

【0040】
またn個の点Pについて行列表現すると、(11)式が得られる。
【数7】

【0041】
そして複数の点Pから最小2乗法を用いて消失点(x0,y0)を求め、新たな消失点として更新する。したがって、消失点更新は車両が並進運動を行っているときに限定されるが、消失点変動は頻繁には発生しないので実用上問題ない。また消失点からカメラ30の取り付け角を求めることができるので、後述するz0設定部19に消失点更新データが送られ校正データとして用いる。
【0042】
カメラ30の光軸が路面に対して下向きに俯角θで設置されていれば、自車並進速度Tのとき、z軸、y軸方向の並進速度Tz,Tyは、
Tz=Tcosθ、Ty=Tsinθ
となる。消失点(x0,y0)は、
x0=fTx/Tz、y0=fTy/Tz
で表わすことができるので、
y0=f・tanθ
となり、消失点からカメラ俯角を求めることができる。同様にx軸方向で考えれば自車中心線と光軸のなす角φに関しては、
x0=f・tanφ
で求めることができる。
【0043】
自車移動パラメータ推定部18は、ステップS9において、静止領域候補推定部15で選定された静止物領域内のn個のP(xn,yn)の動きベクトルV(un,vn)を用いて自車移動パラメータRx,Ry,Rzを推定する。即ち、(1),(2),(3),(4)式からn個のP(xn,yn)に対して次式が得られる。
【数8】

【0044】
(12)式から特異値分解等を用いた最小2乗法で自車移動パラメータの回転成分Rx,Ry,Rzを推定する。推定回転成分を用いて式(1)〜(4)から得られる並進成分は、被写体までの距離zの逆数を乗じた値Tx/z,Ty/z, Tx/zの形式でのみ得られる。z0設定部19では、ステップS10において、x軸、y軸、z軸方向の並進速度Tz,Tx,Tyを推定するために、近似的な距離として推定距離重みづけ係数z0を設定する。
【0045】
つまり図7に示すように、カメラ30からの路面距離に対応したカメラ視角(下向き俯角θ)に関連付けて係数z0を設定する。図7の例では、路面距離1〜1.5mに相当する視角の画像に対してz0=1とする。同様に、路面距離1.5〜2mに相当する視角の画像に対してz0=1.5、路面距離2〜3mに相当する視角の画像に対してz0=2、路面距離3〜4mに相当する視角の画像に対してz0=3、路面距離4m〜無限大mに相当する視角の画像に対してz0=4とする。角度θが分かれば自車から被写体Mまでの距離が分かる。
【0046】
また、カメラ視角とカメラ画像上の各画素は1:1に対応している。したがって、路面とのカメラ視角を関連付けた推定距離重みづけ係数z0は、画素毎に予め求めておいてLUT(ルックアップテーブル)等に設定しておけばよい。
【0047】
図7ではz0を離散的に予め設定する手順を説明したが、z0=1/zとして連続的にカメラ視角と関連付けて設定してもよい。この場合には、カメラ分解能に限界があるので一定のz以上ではz0=固定値とする。
【0048】
自車移動パラメータ推定部18は、このようにカメラからの路面距離に対応したカメラ視角に関連付けて距離z0を設定することで、
Tz=z0(.Tz/z)、Tx=z0(.Tx/z)、Ty=z0(.Ty/z)
を求め、複数点の平均をとり推定並進成分Tzm,Tym,Txmを算出する。
【0049】
一方、FOEに着目した移動検出部20はステップS11で以下の処理を行う。即ち、画像内の任意の点Q(x,y)に関して、(1)〜(4)式に自車移動パラメータRx,Ry,Rzを代入し、動き補正後の傾き、(13)式を求める。
【数9】

【0050】
Q(x,y)からFOE(x0,y0)への直線の傾きは(14)式で表わされる。
【数10】

【0051】
ステップS11で傾き(13),(14)式を比較した結果、一致度が低い場合(ステップS12でNOのとき)は、図8に示すように回転量を補正した(回転成分Ωu、Ωvで補正した)動きベクトルの延長線はFOEを通らないため、移動方向が自車移動方向と異なる移動体と判定する。
【0052】
カメラ揺れ成分は自車回転成分Rx,Rzとして現れるので、(13)式に示されるように、回転量を補正した後に判定することで、砂利道や段差等での自車移動に伴う揺れは自車回転成分(主にRx,Rz)が発生しても補正されるので、自車揺れの影響を受けない。
【0053】
また、傾き(13),(14)式を比較して一致度が高い場合(ステップS12でYESのとき)は、図9のように回転量を補正した動きベクトルの延長線がFOEを通る。この場合は静止物だけではなく、FOEから放射状に移動する移動体も含まれている可能性がある。そこで並進方向移動体検出部21は、以下の動作を行う。
【0054】
並進方向移動体検出部21には、FOEに着目した移動体判定部20で移動体と検出されなかった情報と、自車移動パラメータ推定部18で得られる推定自車並進成分Tzmが入力される。並進方向移動体検出部21は、ステップS13で(1)〜(4)式と回転成分Rx,Ry,Rzから点Q(x,y)のTz/zを求め、z0(Tz/z)と平均の推定並進成分Tzmとを比較し、ステップS14で一致度が予め設定した閾値を越える場合は、移動体と判定する。つまり、周りよりも早く動くものがあれば自車に向かってくる移動体と判断する。
【0055】
また(1)〜(4)式から判るように、遠距離(zが大)のときに、並進成分Tz/zは小となるので、動きベクトルは小となり、近距離(zが小)のときに並進成分Tz/zは大となるので、動きベクトルは大となる。したがって、そのままでは遠距離の移動体は検出し難く、近距離の静止物を誤検出し易い。しかし、推定距離重みづけ係数z0を導入することで遠距離の移動体を検出し易くなり、近距離の静止物を誤検出し難くなる。
【0056】
接近判定部22は、ステップS15において、動きスカラ判定部16で判定された移動体(ステップS7の判定結果)と、FOEに着目した移動体判定部20で判定された移動体(ステップS12の判定結果)と、並進方向移動体検出部21で判定された移動体(ステップS14の判定結果)の情報を入力し、夫々の論理和(OR)をとって移動体の判定を行う。また移動体と判定されたものは、動きベクトル方向が判明しているので、移動体の接近方向を判断し、自車に接近する方向をもつ移動体を危険度の高いものとして優先的に出力し、自車に接近する移動体があれば表示部40に警告表示する。
【0057】
以上述べたように、第1の実施形態では、FOEへ向かう方向の移動体を検出することができ、あらゆる方向に移動する移動体を検出できる。また乗車人員や積載量が多い場合でも安定な移動体検出ができ、砂利道等の自車振動(カメラ揺れ)の影響を受けずに安定した移動体検出ができる。
【実施例2】
【0058】
次に第2の実施形態にかかる移動体検出装置について図10を参照して説明する。第2の実施形態では、FOEに着目した移動体判定部20を動きベクトル予測部23に置き換え、並進方向移動体検出部21を移動体判定部24に置き換えたものである。
【0059】
第1の実施形態と同様に、自車移動パラメータ推定部18は、回転成分Rx,Ry,Rzと、平均の並進成分Tzm,Txm,Tymを出力する。動きベクトル予測部23は、点Q(x,y)の動きベクトルをTz/z、Tx/z、Ty/zの代わりにTzm/z0、Txm/z0、Tym/z0を用い、(1)〜(4)式に基づいて予測ベクトルu’,v’を算出する。
【0060】
移動検出部24は実測動きベクトルu,vと予測動きベクトルu’,v’とを比較し、一致度の低い場合、移動体と判定する。車載カメラの場合、Tx,Tyは微小な場合が多いので、Tx/z,Ty/zおよびTxm,Tymは省略してもよい。
【0061】
尚、以上説明した実施形態の限らず、特許請求の範囲を逸脱しない範囲内で種々の変形が可能である。
【符号の説明】
【0062】
100…移動体検出装置
10…移動体検出部
11…制御部
12…画像入力部
13…画像領域選定部
14…動きベクトル生成部
15…静止領域候補推定部
16…動きスカラ判定部
17…FOE更新部
18…自車移動パラメータ推定部
19…z0設定部
20…移動体判定部(FOEに着目)
21…並進方向移動体検出部
22…接近判定部
23…動きベクトル予測部
24…移動体判定部
30…カメラ
40…表示部

【特許請求の範囲】
【請求項1】
車両に搭載したカメラによって撮影されたカメラ画像を取り込む画像入力部と、
前記画像入力部からの画像を処理して、前記画像の複数点Pの動きベクトルを生成する動きベクトル生成部と、
前記点Pの動きベクトルの傾きを自車移動パラメータの回転成分(Rx,Ry,Rz)で補正したとき、点Pから消失点への傾きと等しいとして自車移動パラメータの回転成分(Rx,Ry,Rz)を推定する自車移動パラメータ推定部と、
前記画像内の任意の点Qの動きベクトルの傾きを前記自車移動パラメータの回転成分(Rx,Ry,Rz)を用いて補正し、補正後の動きベクトルの傾きと、前記任意の点Qと前記消失点を結ぶ線との傾きを比較し、一致度が低いときに自車移動方向と異なる方向を持つ移動体として検出し、一致度が高いときに静止物あるいは消失点へ向かう放射状に移動する移動体と判定する移動体判定部と、
を具備することを特徴とする移動体検出装置。
【請求項2】
前記自車移動パラメータ推定部は、前記回転成分が0のとき、前記複数点Pの動きベクトルの延長線の交点を前記消失点として更新することを特徴とする請求項1記載の移動体検出装置。
【請求項3】
前記画像の複数点Pの動きベクトルをもとに静止物領域を推定する静止領域候補推定部を有し、
前記自車移動パラメータ推定部は、前記推定した静止物領域画像の複数点Pの動きベクトルと前記消失点をもとに前記自車移動パラメータの回転成分(Rx,Ry,Rz)を推定することを特徴とする請求項1記載の移動体検出装置。
【請求項4】
前記静止領域候補推定部は、前記推定した静止物領域画像の複数点Pの動きベクトルと前記消失点から、自車の舵角による回転成分Ry,Rzの少なくともRyを求め、各点の前記回転成分Ry(あるいはRyとRz)に関するヒストグラムのピーク近傍を静止物領域の候補として選定することを特徴とする請求項3記載の移動体検出装置。
【請求項5】
前記移動体検出部により移動体として検出されなかった画像情報を入力し、前記静止物領域候補内の任意の点Qの動きベクトルと回転成分(Rx,Ry,Rz)から自車移動パラメータの並進成分Tz/zを求め、路面とのカメラ視角を関連付けた推定距離重みづけ係数z0を設定して、前記係数z0を乗算した並進成分z0(Tz/z)と推定自車並進成分Tzmとを比較し、一致度が低いときに移動体として検出する並進方向移動体検出部を備えたことを特徴とする請求項3記載の移動体検出装置。
【請求項6】
前記並進方向移動体検出部は、前記静止物領域候補内の複数点Pの動きベクトルと回転成分(Rx,Ry,Rz)から自車移動パラメータの並進成分Tz/zを求め、前記係数z0を乗じた並進成分z0(Tz/z)の平均を前記推定自車並進成分Tzmとすることを特徴とする請求項5記載の移動体検出装置。
【請求項7】
前記並進方向移動体検出部は、前記カメラ画像の画素位置毎に路面上の距離を関連付けた対応関係を、前記推定距離重みづけ係数z0として予め設定することを特徴とする請求項5又は6記載の移動体検出装置。
【請求項8】
車両に搭載したカメラによって撮影されたカメラ画像を取り込む画像入力部と、
前記画像入力部からの画像を処理して、前記画像の動きベクトルを生成する動きベクトル生成部と、
前記画像の複数点Pの動きベクトルと、この動きベクトルを延長した延長動きベクトルが集中する消失点を求め、前記複数点Pの動きベクトルと前記消失点をもとに自車移動パラメータの回転成分(Rx,Ry,Rz)及び並進成分を推定する自車移動パラメータ推定部と、
路面とのカメラ視角を関連付けた推定距離重みづけ係数z0を設定し、前記係数z0を乗算した並進成分の平均から推定自車並進成分を算出し、前記画像内の任意の点Qの動きベクトルを前記回転成分(Rx,Ry,Rz)、前記並進成分及び前記係数z0から予測し、実測動きベクトルと比較して一致度が低い場合に移動体と判定する移動体判定部と、
を具備したことを特徴とする移動体検出装置。
【請求項9】
前記カメラ画像の画素位置毎に路面上の距離を関連付けた対応関係を、前記推定距離重みづけ係数z0として予め設定することを特徴とする請求項8記載の移動体検出装置。
【請求項10】
車両に搭載したカメラによって撮影されたカメラ画像を取り込み、
前記画像入力部からの画像を処理して、前記画像の複数点Pの動きベクトルを生成し、
前記点Pの動きベクトルの傾きを自車移動パラメータの回転成分(Rx,Ry,Rz)で補正したとき、点Pから消失点への傾きと等しいとして自車移動パラメータの回転成分(Rx,Ry,Rz)を推定し、
前記画像内の任意の点Qの動きベクトルの傾きを前記自車移動パラメータの回転成分(Rx,Ry,Rz)を用いて補正し、補正後の動きベクトルの傾きと、前記任意の点Qと前記消失点を結ぶ線との傾きを比較し、一致度が低いときに自車移動方向と異なる方向を持つ移動体として検出し、一致度が高いときに静止物あるいは消失点へ向かう放射状に移動する移動体と判定することを特徴とする移動体検出方法。
【請求項11】
前記回転成分が0のとき、前記複数点Pの動きベクトルの延長線の交点を前記消失点として更新することを特徴とする請求項10記載の移動体検出方法。
【請求項12】
前記画像の複数点Pの動きベクトルをもとに静止物領域を推定し、
前記推定した静止物領域画像の複数点Pの動きベクトルと前記消失点から、自車の舵角による回転成分Ry,Rzの少なくともRyを求め、
各点の前記回転成分Ry(あるいはRyとRz)に関するヒストグラムのピーク近傍を前記静止物領域の候補として選定することを特徴とする請求項10記載の移動体検出方法。
【請求項13】
前記移動体として検出されなかった画像情報を入力し、
前記静止物領域候補内の任意の点Qの動きベクトルと前記回転成分(Rx,Ry,Rz)から自車移動パラメータの並進成分Tz/zを求め、
路面とのカメラ視角を関連付けた推定距離重みづけ係数z0を設定して、前記係数z0を乗算した並進成分z0(Tz/z)と推定自車並進成分Tzmとを比較し、一致度が低いときに移動体として検出することを特徴とする請求項12記載の移動体検出方法。
【請求項14】
前記静止物領域候補内の複数点Pの動きベクトルと前記回転成分RX,Ry,Rzから自車移動パラメータの並進成分Tz/zを求め、前記係数z0を乗じた並進成分z0(Tz/z)の平均を前記推定自車並進成分Tzmとすることを特徴とする請求項13記載の移動体検出方法。
【請求項15】
車両に搭載したカメラによって撮影されたカメラ画像を取り込み、
前記画像入力部からの画像を処理して、前記画像の複数点Pの動きベクトルを生成するとともに、この動きベクトルを延長した延長動きベクトルが集中する消失点を求め、前記動きベクトルと前記消失点をもとに自車移動パラメータの回転成分(Rx,Ry,Rz)及び並進成分を推定し、
路面とのカメラ視角を関連付けた推定距離重みづけ係数z0を設定し、前記係数z0を乗算した並進成分の平均から推定自車並進成分を算出し、前記画像内の任意の点Qの動きベクトルを前記回転成分(Rx,Ry,Rz)、前記並進成分及び前記係数z0から予測し、実測動きベクトルと比較して一致度が低い場合に移動体と判定することを特徴とする移動体検出方法。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7】
image rotate

【図8】
image rotate

【図9】
image rotate

【図10】
image rotate


【公開番号】特開2012−3604(P2012−3604A)
【公開日】平成24年1月5日(2012.1.5)
【国際特許分類】
【出願番号】特願2010−139543(P2010−139543)
【出願日】平成22年6月18日(2010.6.18)
【出願人】(504113008)東芝アルパイン・オートモティブテクノロジー株式会社 (110)
【Fターム(参考)】