物体検出装置および物体検出方法
【課題】撮像手段で撮像した自車両前方の画像を画像処理し、抽出した特徴点を表す各画素の画像上における速度情報を算出するとともに、各画素の位置座標を3次元における位置座標に変換し、変換後の各画素の位置座標と速度情報に基づいて移動体を検出する物体検出装置および物体検出方法を提供する。
【解決手段】自車両前方の映像を撮像する撮像部101で撮像した画像から特徴点を抽出する特徴点抽出部103と、特徴点を表す画素の速度情報を算出する移動情報算出部105と、特徴点を表す画素の位置座標を所定の範囲の3次元座標における位置座標に変換する座標変換部104と、3次元座標における画素の位置座標および移動情報算出部105で算出した画素の速度情報に基づいて、特徴点が移動体であることを判定する物体属性判定部107とを備える。
【解決手段】自車両前方の映像を撮像する撮像部101で撮像した画像から特徴点を抽出する特徴点抽出部103と、特徴点を表す画素の速度情報を算出する移動情報算出部105と、特徴点を表す画素の位置座標を所定の範囲の3次元座標における位置座標に変換する座標変換部104と、3次元座標における画素の位置座標および移動情報算出部105で算出した画素の速度情報に基づいて、特徴点が移動体であることを判定する物体属性判定部107とを備える。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、物体検出装置および物体検出方法に関するものである。
【背景技術】
【0002】
従来の物体検出装置は例えば下記特許文献1に記載されている。
下記従来技術では、移動体を検出するために、車載カメラの撮像画像からオプティカルフロー(画像上における動きを示すベクトル)を算出する。また車両の車輪の回転速度とハンドルの舵角から車両の動きを推定する。さらに、自車両前方に存在する物体までの距離を算出して自車両前方の空間をモデル化した空間モデルを生成する。そして、算出したオプティカルフローと車両の動き、空間モデルとに基づいて、撮像画像から移動体を検出している。
【特許文献1】特開2004−56763号
【発明の開示】
【発明が解決しようとする課題】
【0003】
上記従来技術では、自車両前方の空間モデルを生成し、この空間モデルと自車両の動きに基づいて撮像画像から移動体を検出している。このため自車両の動き推定や物体までの距離を算出するための処理時間を要するため、移動体を高速に検出することが難しいという問題が生じていた。
【課題を解決するための手段】
【0004】
本発明は、撮像手段で撮像した自車両前方の画像から特徴点を抽出し、抽出した特徴点を表す各画素の速度情報を算出するとともに、算出した各画素の位置座標を3次元位置における位置座標に変換し、変換後の各画素の位置座標と速度情報に基づいて移動体であることを判定する。
【発明の効果】
【0005】
本発明によれば、撮像した画像の特徴点を表す画素の速度情報と、各画素の3次元位置に変換した位置座標から移動体を判定するようにしたので、自車両の動き推定や物体までの距離を算出することなく移動体を高速に検出することができる。
【発明を実施するための最良の形態】
【0006】
以下、この発明の実施の形態を図面に基づいて説明する。
【実施例1】
【0007】
図1は、第1の実施例における物体検出装置の構成例を示すブロック図である。
【0008】
物体検出装置10は車両に搭載され、車両前方を撮像する撮像部であるカメラ101および、カメラ101で撮像した画像を一時的に記録する画像一時記録部102と、画像一時記録部102に記憶された画像を画像処理することで特徴点を抽出する特徴点抽出部103と、特徴点抽出部103により抽出された特徴点の位置座標を3次元画像上の位置座標に変換する座標変換部104と、特徴点抽出部103により抽出された特徴点の画像上における速度および方向を移動情報として算出する移動情報算出部105と、移動情報算出部105により算出された特徴点の速度値に基づいて特徴点のグループ化を行うグループ化部106と、座標変換部104により変換された3次元座標の情報および移動情報算出部105により算出された特徴点の移動情報およびグループ化部106によりグループ化された特徴点のグループ化情報に基づいて特徴点が平面物であるか立体物であるかを判定するとともに、特徴点が立体物である場合には移動体であるかどうかを判定する物体属性判定部107とを有する制御部100を備えている。
【0009】
カメラ101は、例えばCCDやCMOSなどの撮像素子を有したカメラであり、連続的に車両前方を撮像してフレーム毎に撮像した画像を画像一時記録部102に出力する。カメラ101で撮像された画像は、画像一時記録部102に一時的に記録される。ここで、図2に示すように、カメラ101は車両の室内上部前方に設置され、その光軸LSは車両前方正面方向(Z方向)に向き、撮像面の水平軸X(図示省略)は路面と平行となるように、また撮像面の垂直軸Y(図示省略)は路面と垂直になるように設定されている。
【0010】
カメラ101で撮像した画像(自車両前方の画像)の例を図3に示す。カメラ101による撮像画像は、画像左上を原点として左から右へx軸、上から下へy軸とするxy座標系によって表される。なお、図3においては、左右の走路脇に設置された縁石、白線、外壁などの走路の境界線と、左から右へ移動する歩行者が撮像画像に含まれている。
【0011】
特徴点抽出部103は、カメラ101で撮像された画像を画像一時記録部102から読み込み、読み込んだ撮像画像を所定の閾値を用いて2値化することによって、画像内に存在する物体のエッジを抽出する。図4(a)に、抽出した垂直方向のエッジ例を示す。次に、抽出した各エッジに対して、細線化処理を行ってエッジ幅を絞り、エッジの中心を正確に設定する(図4(b)参照)。さらに、細線化されたエッジのエッジ幅が一定の幅となるように、例えば3画素分の幅となるように、エッジを水平方向に拡張する(図4(c)参照)。この操作により、抽出したエッジが正規化され、各エッジが均一の幅を持つエッジ画像を得ることができる。
【0012】
移動情報算出部105は、エッジに該当する画素の画素カウンタのカウンタ値を更新する。ここで、画素カウンタとは、各画素毎に設定されたカウンタであり、画素がエッジに該当する場合に画素カウンタのカウンタ値が+1加算され、画素がエッジに該当しない場合は画素カウンタのカウンタ値が0となって初期化されるカウンタである。このカウンタ値の更新処理を、カメラ101で連続的に撮像されるフレーム毎に行う。この操作により、エッジに該当する時間が長い画素は画素カウンタのカウンタ値が大きくなり、エッジに該当する時間が短い画素は画素カウンタのカウンタ値が小さくなる。
【0013】
この画素カウンタのカウンタ値の変化は、エッジの移動方向と移動量を表していることになるため、このカウンタ値から、撮像画像上におけるエッジの移動方向と移動速度とを算出することができる。以下、詳細に説明する。
【0014】
図4は、上述した抽出したエッジを正規化して、エッジ画像を得るために行う処理の具体例を示す図である。
【0015】
まず、エッジ画像に対して2値化処理を行う。2値化処理とはエッジの検出された位置の画素を1とし、エッジの検出されなかった位置の画素を0とする処理である。2値化処理によって図4(a)に示すような2値化画像を生成する。
【0016】
次に、生成された2値化画像に対して、細線化処理を行う。細線化処理とは、検出されたエッジのエッジ幅を所定画素幅になるまで縮小する処理である。図4(b)では所定画素幅として1画素になるまでエッジのエッジ幅を細線化している。そして、このようにエッジを所定の画素幅になるまで細線化することによって、エッジの中心となる中心位置を設定している。ここでは一例として1画素に細線化する場合について説明しているが、その他の画素数に細線化してもよい。
【0017】
次に、細線化されたエッジのエッジ幅を膨張させる膨張処理を行う。膨張処理とは、細線化によって設定された中心位置からエッジの移動方向に向かってエッジ幅を膨張させるとともに、中心位置からエッジの移動方向と反対方向にもエッジ幅を膨張させる処理である。例えば、図4(c)では、エッジの中心位置x0からエッジの移動方向(x軸の正方向)に1画素膨張させるとともに、エッジの中心位置x0からエッジの移動方向と反対方向(x軸の負方向)に1画素膨張させて、エッジ幅を3画素に膨張させている。
【0018】
このように細線化処理と膨張処理とを行うことによって、抽出したエッジ画像のエッジ幅を、エッジの移動方向に向かって所定の幅に統一して規格化している。
【0019】
次に、エッジ幅の規格化されたエッジに対してカウントアップ処理を行う。カウントアップ処理とは、エッジが検出された位置のメモリアドレスの値をカウントアップし、エッジが検出されなかった位置のメモリアドレスの値を初期化する処理である。
【0020】
以下、図4(c)〜(f)に基づいてエッジのカウントアップ処理について説明する。ここでは簡単のためにエッジはx軸の正方向に移動するものとして説明する。なお、エッジはx軸の負方向やy軸方向、あるいは2次元的に移動する場合も同様に説明することができる。
【0021】
図4(c)に示すように、エッジはあるフレームにおいて位置x0にエッジの中心位置があり、その中心位置からエッジの移動方向に1画素の位置x0+1と、中心位置からエッジの移動方向と反対方向に1画素の位置x0−1に膨張されている。
【0022】
このような場合にエッジが検出された位置x0−1、x0、x0+1のカウント値が1ずつカウントアップされ、エッジが検出されなかった位置のカウント値がリセットされる。 例えば、図4(d)では、時刻tにおいて位置x0−1、x0、x0+1にエッジが検出されているので、それぞれの位置で1ずつカウントアップされて、位置x0+1のカウント値が1、位置x0のカウント値が3、位置x0−1のカウント値が5になっている。
【0023】
そして、図4(e)に示すように時刻t+1でもエッジが移動していないので、位置x0−1、x0、x0+1の各位置でエッジが検出され、位置x0−1、x0、x0+1のカウント値をさらに1ずつカウントアップして、位置x0−1のカウント値を2、位置x0のカウント値を4、位置x0+1のカウント値を6としている。
【0024】
さらに、図4(f)に示すように時刻t+2では、エッジがx軸の正方向に1画素シフトして位置x0、x0+1、x0+2の位置でエッジが検出されている。
したがって、エッジが検出された位置x0、x0+1、x0+2のカウント値がカウントアップされ、エッジが検出されなかった位置x0−1のカウント値がリセットされる。
【0025】
この結果、図4(f)に示すように位置x0+2のカウント値が1、位置x0+1のカウント値が3、位置x0のカウント値が5となっている。さらに、エッジが検出されなかった位置x0−1のカウント値はリセットされて0になっている。
【0026】
このようにして、エッジが検出された位置のカウント値をカウントアップし、エッジの検出されなかった位置のカウント値をリセットしている。
【0027】
図4では、カウント値を検出する位置として、エッジの中心位置(x0)と、この中心位置からエッジの移動方向へ1画素の位置(x0+1)と、中心位置からエッジの移動方向と反対方向に1画素の位置(x0−1)の3箇所でカウント値を検出していたが、後述するカウント値の傾きが求められれば、エッジの移動方向に対して2箇所以上であれば何箇所のカウント値を検出してもよい。
【0028】
また、エッジが移動する速度に比べて、フレームレートが十分に高く設定されていれば、連続するフレーム間において、エッジは同じ位置で複数回検出される。
【0029】
例えば、図4の例では、位置x0において時刻tと時刻t+1の2回エッジが検出されている。したがって、エッジが検出された位置のカウント値をカウントアップしていくと、そのカウント値はその位置においてエッジが検出されている時間(フレーム数)と等しくなる。特にエッジのカウント値の中で最小のカウント値hは、エッジが移動してから何フレームの間、同じ位置にあるかということを表している。
【0030】
次に、エッジの移動速度、移動方向および位置を算出する。
【0031】
まずカウント値の移動方向への傾きを算出し、この傾きに基づいて、エッジの移動方向、移動速度および位置を算出する。
【0032】
例えば、図4(e)の場合では、位置x0−1、x0、x0+1のカウント値がそれぞれ6、4、2となっている。
【0033】
したがって、位置x0−1のカウント値6からx0+1のカウント値2を引くことによって、カウント値の傾きをH=(6−2)/2=2として算出することができる。
【0034】
これは、
H={(エッジが位置x0−1に移動してから現在までの時間)−(エッジが位置x0+1に移動してしまった後の時間)}/(2画素)
を意味するので、これによりエッジが位置x0のある1画素を通過するのに要した時間(フレーム数)を算出したことになる。
【0035】
したがって、カウント値の傾きHはエッジが1画素移動するために何フレームを要したかを求めることになり、このカウント値の傾きHに基づいてエッジの移動速度1/Hを算出することができる。
【0036】
図4(e)では1画素移動するのに2フレームを要したことになるので、エッジの移動速度は1/2(画素/フレーム)と算出することができる。
【0037】
同様に、図11(f)でもH=(5−1)/2=2となるので、エッジの移動速度は1/2(画素/フレーム)になる。
【0038】
また、エッジの移動方向は、カウント値の大小によって判断することができる。エッジが移動して新たにエッジが検出された位置のカウント値は1であり、各位置のカウント値の中では最も小さな値となる。
【0039】
したがって、エッジが移動する方向のカウント値は小さく、エッジが移動する方向と反対方向のカウント値は大きくなるので、これによってエッジの移動方向を判断することができる。
【0040】
さらに、エッジが移動する速度に比べてフレームレートが十分に高く設定されていれば、検出対象物は等速移動をしていると仮定することができる。また、現在の位置におけるカウント値の中で最小のカウント値hは、エッジがその位置で検出されている時間、すなわちエッジが移動してから何フレームの間、同じ位置にあるかということを表している。
これらのことにより、エッジの位置は、エッジの中心位置をx0とすると
エッジの位置=x0+h/H
により求めることができる。
【0041】
例えば図4(f)では、エッジの速度は1/2(画素/フレーム)で、時刻t+2の時点では1フレーム連続して同じ位置でエッジが検出されているので、時刻t+2のエッジの位置は
1(フレーム)×{1/2(画素/フレーム)}=0.5画素
だけ位置x0から移動していると算出することができる。
【0042】
以上から、エッジが検出された位置のカウント値をカウントアップし、カウントアップされたカウント値の傾きに基づいてエッジの移動速度及び移動方向を算出するができる。
【0043】
次に、撮像画像上に存在するエッジの速度成分を所定の階級値に分類して表した速度画像を生成する。本実施例における速度画像は、図5に示すように、速度が検出されたエッジの画素を丸型の点で表し、移動速度が速い画素ほど点を大きく示す。また、右へ向かう速度を黒点で表し、左へ向かう速度を白点で表すことによって移動方向を表している。図5においては、自車両の走行路右側の縁石および白線からは画像の右側へ向かう速度が検出されており、走行路左側の外壁からは画像の左側へ向かう速度が検出されている。また、走行路左側から右へ移動する歩行者では、画像の右側へ向かう速度が検出されている。
【0044】
グループ化部106は、算出した速度画像から立体物を抽出するために、速度画像を分割する領域を設定する。すなわち、図6に示すように、速度画像上に短冊状の複数の領域を設定し、速度画像を複数の領域で分割する。
【0045】
次に、各領域毎に、画像の縦方向において同じ速度で連続する画素をグループ化することにより、立体物を検出する。すなわち、画像の下部から上部に向かって各領域を走査し、領域内に速度を持った画素が存在する場合、その画素の上方に隣接する速度を持った画素との速度差を比較し、速度差が閾値T1以下である場合には、車両に対して同じ速度で移動する物体であると推定できることから、同じ物体であると判定してグループ化を行う。そして、同じ速度でグループ化された画素の上端位置(請求項における最上部)と下端位置(請求項における最下部)を検出する。この処理により、図6における下端BL1〜BL11及び上端TL1〜TL11が検出される。
【0046】
座標変換部104は、xy平面上で抽出した下端BL1〜BL11および上端TL1〜TL11の中心位置を座標とする下端点BP1〜BP11(図示省略)および上端点TP1〜TP11(図示省略)の位置座標を、規定の面積を備えたZX平面(以下、規定のZX平面と呼ぶ)上の点として3次元の位置座標(実空間上の3次元における位置座標)に変換する。
【0047】
ここで、各点の座標を(x、y)とし、カメラの路面からの高さをCh(m)、カメラの俯角をTr(rad)、画像の縦サイズをIh、画像の横サイズをIw、高さ方向の1画素あたりの角度分解能をPYr(rad)、横方向の1画素あたりの角度分解能をPXr(rad)とすると、xy平面上の点TP1〜TP11及びBP1〜BP11は、次式に従ってZX平面の座標(Z、X)に変換される。
【0048】
(式1)Z=(Ch)/(TAN(Tr+(y−Ih/2)×PYr))
(式2)X=x×TAN((Z-Iw/2)×PXr)
上端点TP1〜TP11、下端点BP1〜BP11の変換後の点を、上端点の座標変換点RT1〜RT11、下端点の座標変換点RB1〜RB11とする。
【0049】
物体属性判定部107は、上端点の座標変換点RT1〜RT11、下端点の座標変換点RB1〜RB11が、規定のZX平面を分割して設定した領域のうちどの領域に位置するかの判定を行う(図7参照)。ここで、車両の上下動に伴いカメラ101の撮像映像も上下に動き、座標変換点が位置する領域も変動してしまう可能性がある。この影響を避けるため、ZX平面を分割して設定する領域はメーターオーダーで設定することが望ましい。本実施例では、x軸方向は、−5.25m>x、−5.25≦x<−3.5m、−3.5m≦x<−1.75m、−1.75m≦x<0m、0m≦x<1.75m、1.75m≦x<3.5m、3.5m≦x<5.25m、5.25m≦x、として8分割し、z軸方向は、0≦z<10m、10m≦z<20m、20m≦z<30m、30m≦z<40m、40m≦z<50mとして5分割して、領域11〜領域15、領域21〜領域25、領域31〜領域35、領域41〜領域45、領域51〜領域55、領域61〜領域65、領域71〜領域75、領域81〜領域85を設定している。また、領域11〜領域15を領域10とし、領域21〜領域25を領域20とし、領域31〜領域35を領域30とし、領域41〜領域45を領域40とし、領域51〜領域55を領域50とし、領域61〜領域65を領域60とし、領域71〜領域75を領域70とし、領域81〜領域85を領域80としている。
【0050】
そして、xy平面の同一の縦方向領域における上端点の座標変換点と上端点と同一のグループの下端点の座標変換点が規定のZX平面の同一の領域に位置すれば、上端点と下端点が路面上にある、すなわち路面上の平面物であると判定する。また、上端点の座標変換点が規定のZX平面外に位置し、上端点と同一のグループの下端点の座標変換点が規定のZX平面の領域に位置すれば、下端点のみ路面上にある、すなわち立体物であると判定する。ここで、走路境界を検出するために、各領域に設定したカウンタのうち下端点の座標変換点が位置する領域のカウンタのカウンタ値を+1加算し、下端点の位置情報分布を算出する。
【0051】
例えば、本実施例では、上端点TP1〜TP5の座標変換点RT1〜RT5は図7に示す規定のZX平面外に投影されるため、上端点TP1〜TP5を含むグループは立体物であると判定され、上端点TP1〜TP5を含むエッジはxy平面上で立体物OB1〜OB5として判定される。また上端点TP6〜TP11の座標変換点RT6〜RT11は下端点BP6〜BP11の座標変換点RB6〜RB11と同じ領域に位置するため、上端点TP6〜TP11を含むグループは路面上に位置する物であると判定される。ここで、走路境界を検出するために、下端点の座標変換点RB1〜RB11が位置する領域のカウンタのカウンタ値を+1加算する。
【0052】
そして、図8に示すように、得られた下端点の座標変換点の位置分布から、走路境界線が存在する可能性が高い領域を抽出する。すなわち、得られた下端点の座標変換点の位置分布において、同じx軸領域で複数のz軸領域にカウンタ値が存在すれば、自車両前方に走路境界が車両に沿って直線状に存在すると推定できるため、カウンタ値がある領域を走路境界領域として抽出する。例えば、図8では、x軸が同じ範囲の領域30において、複数のz軸領域(下端点RB1、RB4、RB5が位置する領域)にカウンタ値が存在するため、これらの領域を走路境界領域として抽出する。領域50、領域80についても同様である。
【0053】
そして、抽出した領域に走路境界を示す直線が存在するかどうかの判定を行う(図8参照)。すなわち、抽出した領域に存在する下端点の座標変換点に基づいて、xy座標系での回帰分析を行い、下端点を通る直線の傾きを算出する。例えば、本実施例の領域30では、領域30に存在する下端点の座標変換点RB1、RB4、RB5に対応するxy座標における下端点BP1、BP4、BP5の座標位置からxy座標系での回帰分析を行い、下端点BP1、BP4、BP5を通る直線の傾きa3を算出する。同様に、領域50、領域80に位置する下端点の座標変換点に対応した直線の傾きa5、a8を算出する。そして、算出した直線の傾きが所定の範囲内に入っていれば、抽出した領域内に走路境界を示す直線が存在すると判定する。すなわち、下端点の座標変換点が位置するx軸領域の左端座標と各Z軸領域の代表座標(例えば中心座標)を座標とする点(例えば図8のPL1〜PL5)をxy座標系に変換して回帰分析して算出した直線の傾きTn0a1と、下端点の座標変換点が位置するx軸領域の右端座標と各Z軸領域の代表座標(例えば中心座標)を座標とする点(例えば図8のPR1〜PR5)をxy座標系に変換して回帰分析して算出した直線の傾きTn0a2とで規定される傾きの範囲内に、下端点に基づき算出された直線の傾きanが入っている場合には、抽出した領域内に走路境界を示す直線Lnが存在するとの判定を行う。
【0054】
例えば、本実施例の領域30においては、座標(x、z)=(−3.5、5)の点PL1、座標(x、z)=(−3.5、15)の点PL2、座標(x、z)=(−3.5、25)の点PL3、座標(x、z)=(−3.5、35)の点PL4、座標(x、z)=(−3.5、45)の点PL5をxy座標に変換して回帰分析を行い算出した各点を結ぶ直線の傾きT30a1と、座標(x、z)=(−1.75、5)の点PR1、座標(x、z)=(−1.75、15)の点PR2、座標(x、z)=(−1.75、25)の点PR3、座標(x、z)=(−1.75、35)の点PR4、座標(x、z)=(−1.75、45)の点PR5をxy座標に変換して回帰分析を行い算出した各点を結ぶ直線の傾きT30a2に対し、下端点の座標変換点RB1、RB4、RB5に対応するxy平面上の下端点BP1、BP4、BP5を結ぶ直線の傾きa3が、T30a1とT30a2で規定される範囲内に存在するため、下端点BP1、BP4、BP5を結ぶ直線は走路境界を示す直線L3であると判定される(図9参照)。同様にして、領域50では、下端点の座標変換点RB6、RB7に対応するxy平面上の下端点BP6とBP7を結ぶ直線は走路境界を示す直線L5であると判定され、領域80では、下端点の座標変換点RB8〜RB11に対応するxy平面上の下端点BP8〜BP11を結ぶ直線は走路境界を示す直線L8であると判定される。
【0055】
そして、図9に示すように、走路境界で区切られた各領域において、検出された立体物の画像の水平方向位置と速度の関係を示すグラフを算出する。このグラフでは、画像中央より左側に位置する立体物、例えば外壁のような背景は、画像の右側に位置するほど自車よりも遠い位置にあるため、画素の速度は遅くなる。つまり、縦軸に速度(左に移動する速度をプラス、右に移動する速度をマイナス)、横軸に画像のx座標(画像左端を原点)に設定すると、背景のような静止物であれば、画像の左半分においては、速度とx座標の関係は、右下がりの直線となる。一方、右下がりの直線関係とならない座標がある場合は、領域内に静止物でないもの、すなわち移動体が存在する可能性がある。この場合、図9に示すように、背景の速度(左向きの速度)とは逆向きの速度(右向きの速度)を有する座標が検出された場合は、背景とは逆方向に移動する移動体が存在すると判定する。また、背景よりも速い速度を有する座標が検出されれば、移動体が存在すると判定する。
【0056】
例えば、本実施例では、領域30、領域50、領域80で検出された走路境界に基づいて、走路境界L3の左側、すなわち、領域10、領域20、領域30の左側の一部を区画aと設定し、走路境界L3と走路境界L5との間、すなわち、領域30の右側の一部、領域40、領域50の左側の一部を区画bと設定し、走路境界L5と走路境界L8との間、すなわち、領域50の右側の一部、領域60、領域70、領域80の左側の一部を区画cと設定し、走路境界L8の右側、すなわち、領域80の右側の一部を区画dと設定し、区画bに存在する立体物OB1〜OB5の水平方向位置と速度の関係から、OB1、OB4、OB5を静止している立体物(ここでは外壁)と判定し、右へ移動するOB2、OB3を移動体(ここでは歩行者)と判定する。
【0057】
また、画像右側に存在する立体物においても、左側と同様な方法で、速度(左に移動する速度をプラス、右に移動する速度をマイナス)と画像のx座標(画像右端を原点)の関係を求め、右上がりの直線関係とならない場合には、領域内に立体物が存在する可能性が高いと判断し、背景の速度と逆向きの速度が検出されれば、背景とは逆方向に移動する移動体、例えば、画像右側から左側に移動する歩行者の検出を行うことができる。
【0058】
さらに、車両挙動(車両の進行方向)を利用することにより、上述したように撮像画像の左右において別々に移動体の検出が必要か、あるいは撮像画像全体で移動体の検出が可能かを判断することも可能となる。例えば、車両を右へ操舵している場合には、前方画像の背景に該当する領域は、左側へ移動する速度のみが検出されるため、上述したように撮影画像左右でそれぞれ移動体の検出を行わずに撮像画像全体で一括して移動体の検出を行うことができる。車両を左へ操舵している場合も同様である。
【0059】
ここで、前述したように移動体の判定は、背景に該当する立体物と移動体の水平方向位置と速度を比較して行うため、例えば歩行者に該当する立体物しか検出できず、背景に該当する外壁等の立体物が抽出できない場合は、移動体の判定を行うことができない。この場合は、次回の検出で再度立体物と判定された際に、その速度変化から移動体であるか否かの判定を行う(後述)。
【0060】
図10は、本実施例における物体検出装置10の処理を示すフローチャートである。
この処理はイグニションスイッチ(図示省略)がオンされると起動されるプログラムとして実行される。
【0061】
ステップS101では、カメラ101で撮像され画像一時記録部102に記録された自車両前方の画像が所定の周期で特徴点抽出部103に出力される。この後に、フローはステップS102へ移行する。
【0062】
ステップS102では、特徴点抽出部103が画像に対してエッジ抽出処理を行い、撮像画像内に存在する物体の輪郭をエッジ画像として抽出するとともにエッジ画像の正規化を行う。この後に、フローはステップS103へ移行する。
【0063】
ステップS103では、移動情報算出部105がエッジの速度を算出し、算出した速度を所定の階調で表した速度画像を算出する。この後に、フローはステップS104へ移行する。
【0064】
ステップS104では、グループ化部106が算出した速度画像上に物体検出用の短冊領域を設定する。この後に、フローはステップS105へ移行する。
【0065】
ステップS105では、グループ化部106が各短冊領域内に速度を持った画素があるかどうかを下から上に向かって調べる。速度を持った画素がある場合、グループ化部106がそれらの画素は同一の物体を表しているものとしてグループ化を行う。この後に、フローはステップS106へ移行する。
【0066】
ステップS106では、各短冊領域内におけるグループ毎において、最も上に位置する画素の中心座標を上端点に、最も下に位置する画素の中心座標を下端点に設定する。この後に、フローはステップS107へ移行する。
【0067】
ステップS107では、座標変換部104が、(式1)、(式2)を用いて、検出した上端点と下端点の座標をZX平面へ座標変換する。この後に、フローはステップS108へ移行する。
【0068】
ステップS108では、物体属性判定部107が、上端点の座標変換点と上端点と同じグループの下端点の座標変換点の位置がx軸範囲とz軸範囲を規定した規定のZX平面のどの領域に該当するかを判断し、上端点の座標変換点と上端点と同じグループの下端点の座標変換点の双方が規定のZX平面の同一の領域に位置する場合は、上端点、下端点を含む物体を平面物であると判定し、上端点と同じグループの下端点の座標変換点のみが規定のZX平面に位置する場合は、上端点、下端点を含む物体を立体物であると判定する。また、下端点が位置する領域のカウンタのカウンタ値を+1加算する。この後に、フローはステップS109に進む。
【0069】
ステップS109では、物体属性判定部107により、検出した全ての上端点、下端点について、上端点、下端点を含む物体が平面物であるか立体物であるかの判定(以下、物体の属性判定と呼ぶ)が行われたかどうかの判定が行われる。検出した全ての上端点、下端点について物体の属性判定が行われた場合は、ステップS110に進む。一方、検出した全ての上端点、下端点について物体の属性判定が行われていない場合は、ステップS105に戻る。
【0070】
ステップS110では、物体属性判定部107により、ZX平面における下端点の座標変換点の位置分布から、同じx軸領域において、複数のz軸領域にカウンタ値が存在する領域が、走路境界線が存在する可能性が高い領域として抽出される。この後に、フローはステップS111へ進む。
【0071】
ステップS111では、物体属性判定部107により、抽出された領域内に存在する下端点の座標変換点に対応するxy平面の下端点についてxy座標系での回帰分析が行われ、下端点を結ぶ直線の傾きが算出される。この後に、フローはステップS112へ進む。
【0072】
ステップS112では、物体属性判定部107により、ステップS111で算出した直線の傾きが、下端点が位置する領域において、x軸領域の左端座標と各z軸領域の代表座標を座標とする点(図8のPL1〜PL5)を結ぶ直線およびx軸領域の右端座標と各z軸領域の代表座標を座標とする点(図8のPR1〜PR5)を結ぶ直線のxy座標系における傾きの範囲にあれば、抽出した領域に走路境界を示す直線が存在すると判定され、ステップS111で算出した直線は走路境界を示す直線として検出される。この後に、フローはステップS113へ進む。
【0073】
ステップS113では、物体属性判定部107において、抽出された領域において、全ての走路境界を示す直線が検出されたか否かの判定を行う。全ての走路境界を示す直線が検出された場合は、ステップS114へ進む。一方、全ての走路境界を示す直線が検出されていない場合は、ステップS110に戻る。
【0074】
ステップS114では、物体属性判定部107において、走路境界で区切られた各区画に対し、各区画内に存在する立体物(外壁、歩行者)間の速度とx座標の関係を算出し、背景と逆方向の速度が検出された立体物がある場合には、自車両に近づく移動体が存在すると判定し、フローはステップS116に進む。一方、背景と逆方向の速度が検出された物体がない場合には、移動体候補が存在する可能性があると判定し、ステップS115に進む。
【0075】
ステップS115では、物体属性判定部107において、移動体候補が移動体であるかどうかの判定を行う。移動体候補が存在すると判断された区画に、前回も移動体候補が存在すれば、前回と今回の速度を比較する。移動体候補が静止物である場合は、自車両の前進に従い移動体候補が自車両に接近し、移動体候補に対応する画素の移動速度が速くなる。このため、前回よりも下端点の座標変換点の速度が速くなっている場合には、移動体は存在しないと判定し、前回よりも下端点の座標変換点の速度が速くなっていない場合には、移動体が存在すると判定する。この後に、フローはステップS116に進む。
【0076】
ステップS116では、走路境界で区切られたすべての区画において、移動体が検出されたか否かの判断を行う。全ての移動体が検出された場合には、フローはステップS117へ進む。一方、全ての移動体が検出されていない場合は、フローはステップS114に戻る。
【0077】
ステップS117では、自車両のイグニションスイッチがオフされたか否かの判定が行われる。イグニションスイッチがオフされていない場合には、ステップS101へ戻って処理を繰り返す。一方、イグニションスイッチがオフされた場合には、フローはステップS118へ移行して処理を終了する。
【0078】
以上説明した本発明の実施の形態の物体検出装置によれば、以下のような作用効果を得ることができる。
【0079】
自車両前方の画像を撮像するカメラ101(撮像部)および、前記カメラ101で撮像した画像から特徴点を抽出する特徴点抽出部103と、前記特徴点を表す画素の速度情報を算出する移動情報算出部105と、前記画素の位置座標を実空間上の3次元における位置座標に変換する座標変換部104と、前記画素の前記3次元における前記位置座標および前記画素の前記速度情報に基づいて前記特徴点が移動体であることを判定する物体属性判定部107とを備えることとした。
【0080】
この構成によれば、カメラ101で撮像した画像から抽出した特徴点の画像上の移動速度および位置座標に基づいて、特徴点が移動体であることを判定することができる。
【0081】
また、本発明の実施の形態の物体検出装置によれば、前記物体属性判定部107は、前記画素の前記3次元における水平方向の位置座標と前記画素の速度情報との関係において前記画素の速度情報とは異なる速度情報を有する座標がある場合に、前記特徴点が移動体であると判定することとした。
【0082】
この構成によれば、検出した立体物の画像上の水平方向位置と速度の関係から、移動体の識別を行う。背景となる立体物は自車両から遠ざかるにつれて画像上では横方向に移動し、また画像上の速度は遅くなることから、画像上の水平方向位置と速度は比例(直線)関係にある。一方、背景となる立体物の前に存在する物体では、画像上の水平方向位置と速度に比例関係はない。したがって、自車両の動きの推定や物体までの距離を算出することなく背景の動きを推定し、背景と異なる動きをするものを移動体として背景から分離することができるため、簡単な処理により移動体の検出を高速で行うことができる。
【0083】
また、本発明の実施の形態の物体検出装置によれば、前記画像の垂直方向に隣接するとともに速度情報が所定の範囲にある前記画素をグループ化するグループ化部106を備え、前記物体属性判定部107は、前記グループ化部106によりグループ化した前記画素のうち最上部に位置する前記画素と最下部に位置する前記画素の前記3次元における位置座標に基づいて前記判定を行うこととした。
【0084】
この構成によれば、カメラ101で撮像した画像に基づいて算出した速度画像上に物体検出領域を設定し、各領域において、画像の垂直方向に隣接するとともに移動速度が所定範囲にある点をグループ化し、その最上部(上端)および最下部(下端)を検出する。この最上部および最下部に位置する画素をZX平面に座標変換し、その位置座標に基づいて移動体の判定を行うことで、該判定を効率的に行うことができる。
【0085】
また、本発明の実施の形態の物体検出装置によれば、前記物体属性判定部107は、前記最上部に位置する前記画素と前記最下部に位置する前記画素が前記3次元の所定の範囲を所定の数に分割して設定した複数の領域のうち同一の領域に位置する場合には前記移動体を平面物と判定し、前記最上部に位置する前記画素が前記3次元の前記複数の領域外に位置するとともに前記最下部に位置する前記画素が前記3次元の前記複数の領域のうちいずれかの領域に位置する場合に前記移動体を立体物と判定することとした。
【0086】
この構成によれば、最上部に位置する画素(上端点)と最下部に位置する画素(下端点)の位置を、カメラパラメータを用いてZX平面へ座標変換する。路面上に存在する白線や路面マーカーのような平面物は、上端点と下端点ともに路面上に存在するため、ZX平面上へ座標変換された場合、上端点と下端点は規定のZX平面に投影される。これに対して、立体物の下端点は路面上に存在し、上端点は路面上に存在しないため、下端点のみ規定のZX平面に投影され、上端点は規定のZX平面から大きく外れることになる。したがって、単眼カメラの構成であっても、グループ化した領域の上端点と下端点の座標変換結果から、平面物と立体物の判定を行うことができる。
【0087】
また、本発明の実施の形態の物体検出装置によれば、前記物体属性判定部107は、前記画素のうち前記画像の垂直方向において最下部に位置する前記画素の前記3次元における前記位置座標に基づいて前記自車両の走路の境界を表す走路境界を検出し、該走路境界で区切られた区画毎に前記移動体判定を行うこととした。
【0088】
この構成によれば、下端点の座標変換点の位置から走路境界の検出が可能であり、検出した走路境界で区切られた区画毎に移動体の検出を行うため、複雑な背景下においても、効率的に移動体の検出を行うことができる。
【0089】
さらに、本発明の実施の形態の物体検出装置によれば、前記特徴点が物体のエッジであることとした。
【0090】
この構成によれば、カメラ101で撮像した画像から特徴点抽出部103により物体のエッジを検出すれば良く、簡単な画像処理で上記判定を行うことができる。
【0091】
また、以上説明した本発明の実施の形態の物体検出方法によれば、以下のような作用効果を得ることができる。
【0092】
自車両前方の画像を撮像し、撮像した画像から特徴点を抽出し、抽出した特徴点を表す画素の速度情報を算出し、前記画素の位置座標を実空間上の3次元における位置座標に変換し、前記画素の前記3次元における前記位置座標および前記画素の前記速度情報に基づいて、前記特徴点が移動体であることを判定することとした。
【0093】
この方法によれば、撮像した画像から抽出した特徴点の画像上の速度情報および位置座標に基づいて、特徴点が移動体であることを判定することができる。
【0094】
また、本発明の実施の形態の物体検出方法によれば、前記移動体であることの判定は、前記画素の前記3次元における水平方向の位置座標と前記画素の速度情報との関係において前記画素の速度情報とは異なる速度情報を有する座標がある場合に、前記特徴点が移動体であると判定することとした。
【0095】
この方法によれば、検出した立体物の画像上の水平方向位置と速度の関係から、移動体の識別を行う。背景となる立体物は自車両から遠ざかるにつれて画像上では横方向に移動し、また画像上の速度は遅くなることから、画像上の水平方向位置と速度は比例(直線)関係にある。一方、背景となる立体物の前に存在する物体では、画像上の水平方向位置と速度に比例関係はない。したがって、自車両の動きの推定や物体までの距離を算出することなく背景の動きを推定し、背景と異なる動きをするものを移動体として背景から分離することができるため、簡単な処理により移動体の検出を高速で行うことができる。
【0096】
また、本発明の実施の形態の物体検出方法によれば、前記画像の垂直方向に隣接するとともに速度情報が所定の範囲にある前記画素をグループ化し、前記移動体であることの判定は、グループ化した前記画素のうち最上部に位置する前記画素と最下部に位置する前記画素の前記3次元における位置座標に基づいて行うこととした。
【0097】
この方法によれば、撮像した画像に基づいて算出した速度画像上に物体検出領域を設定し、各領域において、画像の垂直方向に隣接するとともに移動速度が所定範囲にある点をグループ化し、その最上部(上端)および最下部(下端)を検出する。この最上部および最下部に位置する画素をZX平面に座標変換し、その位置座標に基づいて移動体の判定を行うことで、該判定を効率的に行うことができる。
【0098】
また、本発明の実施の形態の物体検出方法によれば、前記移動体であることの判定は、前記最上部に位置する前記画素と前記最下部に位置する前記画素が前記3次元の所定の範囲を所定の数に分割して設定した複数の領域のうち同一の領域に位置する場合には前記移動体を平面物と判定し、前記最上部に位置する前記画素が前記3次元の前記複数の領域外に位置するとともに前記最下部に位置する前記画素が前記3次元の前記複数の領域のうちいずれかの領域に位置する場合に前記移動体を立体物と判定することを含むこととした。
【0099】
この方法によれば、最上部に位置する画素(上端点)と最下部に位置する画素(下端点)の位置を、カメラパラメータを用いてZX平面へ座標変換する。路面上に存在する白線や路面マーカーのような平面物は、上端点と下端点ともに路面上に存在するため、ZX平面上へ座標変換された場合、上端点と下端点は規定のZX平面に投影される。これに対して、立体物の下端点は路面上に存在し、上端点は路面上に存在しないため、下端点のみ規定のZX平面に投影され、上端点は規定のZX平面から大きく外れることになる。したがって、単眼カメラの構成であっても、グループ化した領域の上端点と下端点の座標変換結果から、平面物と立体物の判定を行うことができる。
【0100】
また、本発明の実施の形態の物体検出方法によれば、前記移動体であることの判定は、前記画素のうち前記画像の垂直方向において最下部に位置する画素の前記3次元における位置座標に基づいて前記車両の走路の境界を表す走路境界を検出し、該走路境界で区切られた区画毎に行うこととした。
【0101】
この方法によれば、下端点の座標変換点の位置から走路境界の検出が可能であり、検出した走路境界で区切られた区画毎に移動体の検出を行うため、複雑な背景下においても、効率的に移動体の検出を行うことができる。
【0102】
さらに、本発明の実施の形態の物体検出方法によれば、前記特徴点が物体のエッジであることとした。
【0103】
この方法によれば、撮像した画像から物体のエッジを検出すれば良く、簡単な画像処理で上記判定を行うことができる。
【実施例2】
【0104】
本実施例では、例えばエッジ検出の結果に起因して同じ立体物や移動体が速度情報を基に同じ速度でグループ化できない場合でも、平面物と立体物の検出を行う。
【0105】
ここでは、図11に示すように、外壁上に検出されたP11〜P113の内、P11〜P13とP14〜P113が別々にグループ化され、P21〜P213の内、P21〜P23とP24〜P213が別々にグループ化され、P31〜P313の内、P31〜P33とP34〜P313が別々にグループ化され、P41〜P412の内、P41、P42とP43〜P412が別々にグループ化され、P51〜P510の内、P51、P52とP53〜P510が別々にグループ化された場合について、説明を行う。
【0106】
なお、図1に示したブロック図、図2に示した車両へのカメラ101の設置例を示す図、図3に示したカメラ101による前方の撮像画像を説明する図、図4に示したエッジの正規化の例を示す図、および図5に示した速度画像を説明する図については、第1の実施例と同様のため説明を省略する。また、図8〜図9で説明した、下端点を基に走路境界を検出し、検出した走路境界で区切られた各領域毎に立体物の水平方向位置と速度の関係から、移動体を検出する方法については、第1の実施例における処理と同様のため説明を省略する。
【0107】
まず、算出した速度画像に物体を検出するための領域を設定する。すなわち、図11に示すように、速度画像上に短冊状の複数の領域を設定し、速度画像を分割する。本実施例では、各領域毎に画像下端から上端に速度を持った画素を順に走査して検出し、検出した画素を前述の(式1)、(式2)に基づいてZX平面へ座標変換し、座標変換の結果が図7に示す規定のZX平面内に位置するか否かを判定する。座標変換の結果が規定のZX平面内に位置すれば、平面物の候補点と判定する。一方、規定のZX平面内に位置しなければ、立体物の候補点として判定する。なお、規定のZX平面は第1の実施例で説明した領域と同じ領域とし、領域の設定方法については説明を省略する。例えば本実施例では、P11〜P13は規定のZX平面内の同一の領域に位置して平面物の候補点と判定され、P14〜P113は規定のZX平面内に位置しないため、立体物候補点と判定される。同様に、P21〜P23、P31〜P33、P41、P42、P51、P52、P61〜P64、P71〜P74、P81、P82、P91〜P93、P101、P102、P111〜P113は平面物候補点と判定され、P24〜P213、P34〜P313、P43〜P412、P53〜P510は立体物候補点と判定される。
【0108】
次に平面物候補点と立体物候補点の判定結果に基づき、立体物の判定を行う。すなわち、平面物候補点であると判定された点と立体物候補点であると判定された点が、縦方向に連続して存在する場合は、立体物の内、路面近くに存在する部分が誤って平面物候補点であると判定されたものと推定できるため、図12に示すように、平面物候補点と立体物候補点が縦方向に連続して存在する物体を立体物として判定する。例えば、本実施例では、平面物候補点P11〜P13と立体物候補点P14〜P113が縦方向に連続しているため、P11〜P113を立体物OB1として判定する。同様に、P21〜P213を立体物OB2、P31〜P313を立体物OB3、P41〜P412を立体物OB4、P51〜P510を立体物OB5として判定する。
【0109】
さらに、図12に示すように、平面物および立体物と判定された点のうち、下端点を抽出し、第1の実施例と同様に下端点のZX平面への座標変換点が位置するZX平面の領域のカウンタのカウンタ値を+1加算して、下端点の位置分布を算出する。例えば、本実施例では、P11、P21、P31、P41、P51、P61、P71、P81、P91、P101、P111を下端点として検出し、図8に示す各下端点の座標変換点RB1〜RB11が位置する領域のカウンタのカウンタ値を+1加算する。以下、第1の実施例と同様の操作を行うことで、走路境界と立体物、立体物中の移動体の検出を行うことができる。
【0110】
図13は、本実施例における物体検出装置10の処理を示すフローチャートである。図13に示す処理はイグニションスイッチがオンされると、起動されるプログラムとして実行される。図13においては、図10に示す第1の実施例における処理と同一の処理内容については、同じステップ番号を付与し、以下相違点を中心に説明する。
【0111】
ステップS118では、ステップS104にて設定した物体検出用の短冊領域内において画像下端から上端に向かって走査を行い、速度を持つ画素の座標を(式1)、(式2)を用いてZX平面上へ座標変換する。この後に、フローはステップS119へ移行する。
【0112】
ステップS119では、画素の座標変換点が規定のZX平面内に位置すれば、平面物候補点と判定し、画素の座標変換点が規定のZX平面内に位置しなければ、立体物候補点と判定する。この後に、フローはステップS120に進む。
【0113】
ステップS120では、速度が算出された画素の全てがZX平面上へ座標変換されて、平面物候補点および立体物候補点の検出が終了したかどうかが判定される。平面物候補点および立体物候補点の検出が終了した場合には、フローはステップS121に進む。一方、平面物候補点および立体物候補点の検出が終了していない場合は、フローはステップS118に戻る。
【0114】
ステップS121では、各領域内において、平面物候補点および立体物候補点が縦方向に連続して存在する場合には、平面物候補点および立体物候補点を含む物体を一つの立体物として判定する。この後に、フローはステップS122に進む。
【0115】
ステップS122では、各領域において、平面物および立体物と判定された点のうち、一番下にある点を下端点として検出し、検出した下端点のZX平面上の座標変換点が位置する領域のカウンタのカウンタ値を+1加算する。この後に、フローはステップS123に進む。
【0116】
ステップS123では、各領域において、カウンタ値に基づき各領域の下端点の位置分布情報の算出が終了したかどうかの判定が行われる。各領域の下端点の位置分布情報の算出が終了した場合には、フローはステップS110へ進む。一方、各領域の下端点の位置分布情報の算出が終了していない場合には、フローはステップS121へ戻る。
【0117】
以降、第1の実施例と同様の処理により、走路境界、立体物、移動体を検出する。
【0118】
以上説明した本発明の実施の形態の物体検出装置によれば、第1の実施例の作用効果に加え、以下のような作用効果を得ることができる。
【0119】
前記物体属性判定部107は、前記画素が前記3次元の前記複数の領域のうちいずれかの領域に位置する場合に前記画素を平面物候補点と判定する一方、前記画素が前記3次元の前記複数の領域外に位置する場合に前記画素を立体物候補点と判定し、前記平面物候補点と前記立体物候補点が前記画像において垂直方向に連続して位置する場合に前記平面物候補点と前記立体物候補点を一つの立体物として判定することとした。
【0120】
この構成によれば、カメラ101で撮像した画像に基づいて算出した速度画像上に物体検出領域を設定し、速度を有する各画素をZX平面へ座標変換した後に、ZX平面における座標変換点の位置座標に基づいて、各画素が平面物候補点か立体物候補点かの判定を行う。ここで、平面物候補点と立体物候補点が画像上の垂直方向に連続して存在する場合には、平面物候補点と立体物候補点を持つ物体を一つの立体物と判定する。この操作により、同じ物体を構成する画素でありながら何らかの影響で同じ速度が算出されない場合でも正確に立体物の判定が可能となる。
【0121】
また、以上説明した本発明の実施の形態の物体検出方法によれば、第1の実施例の作用効果に加え、以下のような作用効果を得ることができる。
【0122】
前記特徴点が移動体であることの判定は、前記画素が前記3次元の前記複数の領域のうちいずれかの領域に位置する場合に前記画素を平面物候補点と判定する一方、前記画素が前記3次元の前記複数の領域外に位置する場合に前記画素を立体物候補点と判定し、前記平面物候補点と前記立体物候補点が前記画像において垂直方向に連続して位置する場合に前記平面物候補点と前記立体物候補点を一つの立体物として判定することを含むこととした。
【0123】
この方法によれば、撮像した画像に基づいて算出した速度画像上に物体検出領域を設定し、速度を有する各画素をZX平面へ座標変換した後に、ZX平面における座標変換点の位置座標に基づいて、各画素が平面物候補点か立体物候補点かの判定を行う。ここで、平面物候補点と立体物候補点が画像上の垂直方向に連続して存在する場合には、平面物候補点と立体物候補点を持つ物体を一つの立体物と判定する。この操作により、同じ物体を構成する画素でありながら何らかの影響で同じ速度が算出されない場合でも、正確に立体物の判定が可能となる。
【実施例3】
【0124】
本実施例では、走路境界で区切られた区画おいて、立体物の水平方向位置と速度の関係が算出されない場合においても、移動体の検出を行う。
【0125】
ここでは、図14に示すように、外壁と歩行者との間に白線及び駐車車両が存在する場合について、説明を行う。
【0126】
なお、図1に示したブロック図、図2に示した車両へのカメラ101の設置例を示す図、図4に示したエッジの正規化の例を示す図については、第1の実施例と同様のため説明を省略する。
【0127】
まず、撮像画像上に存在するエッジの速度成分を所定の階級値に分類して表した速度画像を生成する。本実施例における速度画像は、図15に示すように、速度が検出されたエッジの画素を丸型の点で表し、移動速度が速い画素ほど点を大きく示す。また、右へ向かう速度を黒点で表し、左へ向かう速度を白点で表すことによって移動方向を表している。
【0128】
図15においては、自車両の走行路右側の外壁からは画像の右側へ向かう速度が検出され、走行路左側の外壁からは画像の左側へ向かう速度が検出されている。また、走行路左側から右へ移動する歩行者では、画像の右側へ向かう速度が検出され、走行路左側に駐車中の車両からは左側へ向かう速度が検出されている。さらに、自車両の挙動により、走行走路右側の白線からは画像の左側へ向かう速度が検出され、走行走路左側の白線からは画像の右側へ向かう速度が検出されているものとする。
【0129】
次に、速度画像に基づき、物体検出を行う。物体を検出するための領域の設定および同一物体と判定するための画素のグループ化方法については実施例1と同様のため、説明は省略する。本実施例では、図16に示すように、図15に示す撮像画像において、上端TL1〜TL15および下端BL1〜BL15が検出される。
【0130】
次に、xy平面上で抽出した下端BL1〜BL15および上端TL1〜TL15の中心位置を座標とする下端点BP1〜BP15(図示省略)および上端点TP1〜TP15(図示省略)の位置座標を、規定の面積を備えたZX平面(以下、規定のZX平面と呼ぶ)上の点として3次元の位置座標(実空間上の3次元における位置座標)に変換する。この変換方法は、実施例1と同様のため、説明を省略する。本実施例では、上端点TP1〜TP15、下端点BP1〜BP15の変換後の点を、上端点の座標変換点RT1〜RT15、下端点の座標変換点RB1〜RB15とする。
【0131】
次に、上端点及び下端点の座標変換点が規定のZX平面を分割して設定した領域のどの領域に位置するかに基づいて、平面物、立体物の判定を行う。また、走路境界を検出するために、各領域に設定したカウンタのうち、下端点の座標変換点が位置する領域のカウンタ値を加算し、下端点の位置情報分布を算出する。このZX平面の分割方法、平面物と立体部の判定方法、下端点の位置情報分布の算出方法は、実施例1と同様のため、説明は省略する。
【0132】
本実施例では、図17に示すように、上端点TP1、TP4、TP6〜TP9、T13〜TP15の座標変換点RT1、RT4、RT6〜RT9、RT13〜RT15は、図17に示す規定のZX平面外に投影されるため、上端点TP1、TP4、TP6〜TP9、T13〜TP15を含むグループは立体物であると判定され、上端点TP1、TP4、TP6〜TP9、T13〜TP15を含むエッジはxy平面上で立体物OB1〜OB9として判定される。また上端点TP2、TP3、TP5、TP10〜TP12の座標変換点RT2、RT3、RT5、RT10〜RT12は、下端点BP2、BP3、BP5、BP10〜BP12の座標変換点RB2、RB3、RB5、RB10〜RB12と同じ領域に位置するため、上端点TP2、TP3、TP5、TP10〜TP12を含むグループは路面上に位置する物体であると判定される。ここで、走路境界を検出するために、下端点の座標変換点RB1〜RB15が位置する領域のカウンタのカウンタ値を+1加算する。
【0133】
そして、図18に示すように、得られた下端点の座標変換点の位置分布から、走路境界線が存在する可能性が高い領域を抽出し、抽出した走路境界を示す直線が存在するかどうかの判定を行う。抽出方法及び直線の存在判定方法は実施例1と同様のため、説明は省略する。本実施例では、領域10では、下端点の座標変換点RB1、RB4、RB8に対応するxy平面上の下端点BP1、BP4、BP8を結ぶ直線は走路境界を示す直線L1であると判定され、領域30では、下端点の座標変換点RB2、RB3、RB5に対応するxy平面上の下端点BP2、BP3、BP5を結ぶ直線は走路境界を示す直線L3であると判定され、領域60では、下端点の座標変換点RB10、RB11、RB12に対応するxy平面上の下端点BP10、BP11、BP12を結ぶ直線は走路境界を示す直線L6であると判定され、領域80では、下端点n座標変換点RB13、RB14、RB15に対応するxy平面上の下端点BP13、BP14、BP15を結ぶ直線は走路境界を示す直線L8であると判定される。
【0134】
次に、図19に示すように、走路境界を示す直線のうち、自車両の近傍から遠方に連続して存在する立体物で構成される直線を背景として検出する。一般に、背景は、静止した立体物が自車両近傍から遠方に直線的に並んでおり、近傍の速度が速く、遠方に行くに従い速度が遅くなる、という特徴を備える。したがって、このような特徴を示す走路境界を背景として抽出する。ここで、立体物で構成される走路境界が複数存在する場合には、自車両からより遠方に位置する走路境界を選択する。本実施例では、外壁と路面の交点である走路境界線L1とL8を背景として検出する。
【0135】
次に、図19に示すように、検出した背景の画像位置と速度の関係から、画像上の任意の位置における静止物体の速度を算出する予測式を算出する。背景となる立体物は静止物であるため、背景となる立体物の速度は、画像の各位置における静止物の速度を表している。例えば、立体物OB1、OB2、OB5の速度は、それぞれの画像位置における静止物の速度を表している。したがって、複数の立体物間の画像位置と速度の関係を示す予測式を算出することで、画像上の任意の位置の静止物の速度を求めることができる。本実施例では、画像左側の物体に対しては、立体物OB1、OB2、OB5の画像上のxy座標を説明変数、速度を目的変数として、回帰分析を行い、静止物体の速度の予測式を算出する。同様に、画像右側の物体に対しては、立体物OB7、OB8、OB9の画像上のxy座標を説明変数、速度を目的変数として、回帰分析を行い、静止物体の速度の予測式を算出する。
【0136】
次に、図19に示すように、画像処理により検出された立体物の下端位置での速度情報(速度の値、方向)と、算出した予測式から得られる立体物の下端位置における静止物の速度情報とを比較して速度情報が異なる場合に立体物を移動体として検出する。
【0137】
本発明の場合、自車両に向かって来る移動体が移動体としての検出対象となるため、立体物の速度の方向が予測式から算出した静止物体の速度と同じ方向であり、立体物の速度の値と予測式から算出した静止物の速度の値との差が所定値以下であれば、その立体物は自車両に向かって来る移動体ではない静止物であると判定する。
【0138】
また、移動体であれば、路面上に存在する可能性が高く背景よりも手前に存在するため、画像上では、立体物の下端は背景の下端よりも下方に存在し、立体物の上端は一般に背景の下端よりも高い位置に存在する。さらに、自車両の方向に向かって来る移動体のうち、立体物の下端位置での速度成分が予測式から算出した静止物と反対方向の速度成分を持つ場合には、確実に自車両の進路方向に向かって来る移動体であるといえる。
【0139】
したがって、予測式から算出した速度とは反対向きの速度を持ち、背景の下端位置よりも上端位置が高い立体物という判定条件を加えることによって、移動体であるかどうかの判定だけでなく自車の進路路方向に進む移動体であることを簡易的に判定することができる。
【0140】
本実施例では、立体物OB3、OB4は、予測式から算出した静止物の速度情報と同等の速度情報を有するため、静止物であると判定する。また、立体物OB6は、予測式から算出した静止物とは反対向きの速度の方向を持ち、その上端位置が背景(走路境界L1)の下端位置よりも高い位置にあるため、自車両の進路方向に進む移動体であると判定する。
【0141】
図20は、本実施例における物体検出装置10の処理を示すフローチャートであり、前述の移動体判定方法のうち、自車両の方向に確実に向かってくる移動体を簡易的に判定するためのものである。図20に示す処理はイグニションスイッチがオンされると、起動されるプログラムとして実行される。図20においては、図10に示す第1の実施例における処理と同一の処理内容については、同じステップ番号を付与し、以下相違点を中心に説明する。
【0142】
ステップS131では、ステップS112で検出した走路境界直線のうち、車両の近傍から遠方に連続して存在する立体物で構成される直線を背景となる走路境界として検出する。この後に,フローはステップS132へ移行する。
【0143】
ステップS132では、ステップS131で検出した背景となる走路境界を構成する立体物の速度情報を目的変数とし、下端点における画像xy座標を説明変数として、重回帰分析を行うことで、画像上の任意の位置での静止物の速度の予測式を算出する。この後に、フローはステップ133に移行する。
【0144】
ステップS133では、ステップS131で検出した背景となる走路境界の位置と立体物の上端位置とを比較し、画像上において、走路境界の位置よりも立体物の上端位置が上方に存在する場合には、その立体物を移動体候補として検出する。この後に、フローはステップS134に移行する。
【0145】
ステップS134では、ステップS133で検出した移動体候補の速度情報と移動体候補位置において予測式から得られる静止物の速度情報とを比較し、速度差の絶対値が所定の範囲内にある場合は、その移動体候補を静止物と判定し、フローはステップS116に移行する。一方、速度差の絶対値が所定の範囲外である場合ば、その移動体候補を移動体と判定し、フローはステップS135に移行する。
【0146】
ステップS135では、移動体と判定された立体物の速度の向きと予測式から得られた静止物体の速度の向きが反対であれば、その移動体を自車の進路中心に向かう移動体と判定する。この後に、フローはステップS116に移行する。
【0147】
以降、第1の実施例と同様の処理により、全ての移動体の検出処理を行い、処理を終了する。
【0148】
以上説明した本実施の形態の物体検出装置によれば、以下のような作用効果を得ることができる。
【0149】
前記物体属性判定部107は、前記3次元における前記位置座標と前記画素の速度情報とに基づいて、基準となる静止物および移動体としての判定対象となる立体物を検出し、前記基準となる静止物を構成する前記画素の前記速度情報と、前記移動体としての判定対象となる立体物を構成する前記速度情報とに基づいて、前記移動体としての判定対象となる立体物が移動体であることを判定することとした。
【0150】
また、本実施の形態の物体検出装置によれば、前記基準となる静止物は、背景となる立体物であることとした。
【0151】
また、本実施の形態の物体検出装置によれば、前記画像の垂直方向に隣接するとともに速度情報が所定の範囲にある前記画素をグループ化するグループ化部106を備え、前記物体属性判定部107は、前記グループ化部106によりグループ化した前記画素のうち最上部に位置する前記画素と最下部に位置する前記画素の前記3次元における位置座標を検出し、検出した前記最上部に位置する前記画素が前記3次元の所定の範囲を所定の数に分割して設定した複数の領域外に位置するとともに検出した前記最下部に位置する前記画素が前記3次元の前記複数の領域のうちいずれかの領域に位置する場合にはグループ化した前記画素を立体物と判定し、検出した複数の前記立体物の最下部に位置する前記画素が前記実空間上の3次元における位置座標において直線上に並ぶとともに、複数の前記立体物の前記最下部に位置する前記画素の速度情報が前記直線方向において一定の割合で変化する場合に、前記立体物を背景となる静止物と判定することとした。
【0152】
また、本実施の形態の物体検出装置によれば、前記物体属性判定部107は、前記背景となる静止物である複数の前記立体物の前記最下部に位置する前記画素の位置座標と速度とに基づいて、前記移動体としての判定対象となる立体物の位置座標における静止物の速度を算出し、算出した該静止物と前記移動体としての判定対象となる立体物との速度情報が異なる場合に、前記移動体としての判定対象となる立体物を移動体と判定することとした。
【0153】
この構成によれば、自車の近傍から遠方に連続して存在する静止している立体物は背景であることから、検出した立体物の中から容易に背景を検出することができる。また、静止物である背景は、自車の近傍における速度は大きく、遠方になるに従い速度が小さくなるという特徴を備えるため、検出した背景の画像位置と速度の関係を表す予測式を算出することにより、画像上の任意の位置での静止物の速度情報を予測することができる。したがって、検出した立体物の速度情報と、その立体物の位置で予測式により算出した背景(静止物)の速度情報とを比較することで、立体物が移動体であるか否かを簡単に判定することができる。
【0154】
また、この構成によれば、背景と立体物との速度情報の比較に基づいて移動体の検出を行うため、複数の立体物が存在しなくても移動物体の検出が可能になり、より複雑な背景下においても画像を分割することなく一括して移動体の検出を行うことができる。
【0155】
また、本実施の形態の物体検出装置によれば、前記物体属性判定部107は、前記背景となる静止物である前記立体物とは反対方向の速度を持つとともに、前記背景となる静止物である前記立体物の下端位置よりも高い位置に上端位置がある立体物を移動体と判定することとした。
【0156】
この構成によれば、立体物の速度の方向と上端の位置とに基づいて、移動体の検出を簡単に行うことができる。
【0157】
また、以上説明した本実施の形態の物体検出方法によれば、以下のような作用効果を得ることができる。
【0158】
前記3次元における前記位置座標と前記画素の速度情報とに基づいて、基準となる静止物および移動体としての判定対象となる立体物を検出し、前記基準となる静止物を構成する前記画素の前記速度情報と、前記移動体としての判定対象となる立体物を構成する前記速度情報とに基づいて、前記移動体としての判定対象となる立体物が移動体であることを判定することとした。
【0159】
また、本実施の形態の物体検出方法によれば、前記基準となる静止物は、背景となる立体物であることとした。
【0160】
また、本実施の形態の物体検出方法によれば、前記画像の垂直方向に隣接するとともに速度情報が所定の範囲にある前記画素をグループ化し、グループ化した前記画素のうち最上部に位置する前記画素と最下部に位置する前記画素の前記3次元における位置座標を検出し、検出した前記最上部に位置する前記画素が前記3次元の所定の範囲を所定の数に分割して設定した複数の領域外に位置するとともに検出した前記最下部に位置する前記画素が前記3次元の前記複数の領域のうちいずれかの領域に位置する場合にはグループ化した前記画素を立体物と判定し、検出した複数の前記立体物の最下部に位置する前記画素が前記実空間上の3次元における位置座標において直線上に並ぶとともに、複数の前記立体物の前記最下部に位置する前記画素の速度情報が前記直線方向において一定の割合で変化する場合に、前記立体物を背景となる静止物と判定することとした。
【0161】
また、本実施の形態の物体検出方法によれば、前記背景となる静止物である複数の前記立体物の前記最下部に位置する前記画素の位置座標と速度とに基づいて、前記移動体としての判定対象となる立体物の位置座標における静止物の速度を算出し、算出した該静止物と前記移動体としての判定対象となる立体物との速度情報が異なる場合に、前記移動体としての判定対象となる立体物を移動体と判定することとした。
【0162】
この方法によれば、自車の近傍から遠方に連続して存在する静止している立体物は背景であることから、検出した立体物の中から容易に背景を検出することができる。また、静止物である背景は、自車の近傍における速度は大きく、遠方になるに従い速度が小さくなるという特徴を備えるため、検出した背景の画像位置と速度の関係を表す予測式を算出することにより、画像上の任意の位置での静止物の速度情報を予測することができる。したがって、検出した立体物の速度情報と、その立体物の位置で予測式により算出した背景(静止物)の速度情報とを比較することで、立体物が移動体であるか否かを簡単に判定することができる。
【0163】
また、この方法によれば、背景と立体物との速度情報の比較に基づいて移動体の検出を行うため、複数の立体物が存在しなくても移動物体の検出が可能になり、より複雑な背景下においても画像を分割することなく一括して移動体の検出を行うことができる。
【0164】
また、本実施の形態の物体検出方法によれば、前記背景となる静止物である前記立体物とは反対方向の速度を持つとともに、前記背景となる静止物である前記立体物の下端位置よりも高い位置に上端位置がある立体物を移動体と判定することとした。
【0165】
この方法によれば、立体物の速度の方向と上端の位置とに基づいて、移動体の検出を簡単に行うことができる。
【実施例4】
【0166】
本実施例では、走路境界で区切られた区画おいて、立体物の水平方向位置と速度の関係が算出されない場合においても、移動体の検出を行い、移動物体の進路の方向を判定する。
【0167】
ここでは、図21に示すように、外壁と歩行者との間に白線及び駐車車両が存在する場合について、説明を行う。ここで、走行路左側から右へ移動する歩行者の移動速度が自車両の走行に伴う画面の移動速度より遅く、画面上では左側へ向かう速度が検出されているものとして説明を行う。
【0168】
なお、図1に示したブロック図、図2に示した車両へのカメラ101の設置例を示す図、図4に示したエッジの正規化の例を示す図については、第1の実施例と同様のため説明を省略する。また、図16〜図19の各説明図については、実施例3と同様のため、説明を省略する。
【0169】
本実施例では、予測式から得られる静止物の速度情報と検出した立体物の速度情報とを比較することにより移動物体を検出し、移動物体の移動方向を判定する。ここで、予測式からから得られる静止物の速度情報と検出した立体物の速度情報が異なり、立体物が反対向きの速度情報を持つ場合については、実施例3で説明したため、説明は省略する。
【0170】
図22に、自車両と自車両周囲の移動体の移動方向の関係を、図23に、移動体の実空間上での移動方向と画面上での移動方向の関係を示す。ここで、自車両が時刻tから時刻t+1走行する間に画面上の背景が左方向に移動する速度をVbとする。
【0171】
自車両が走行中に、自車両の進路に直角に速度Vpで近づく移動体P1の画面上の動きを考える。速度Vpの画面上における速度をVmとすると、移動体P1は、Vm>Vbで自車両の進路に近づけば、画面上では右方向に移動するように見え、Vm=Vbで自車両の進路に近づけば、画面上では静止しているように見え、Vm<Vbで自車両の進路に近づけば、実空間上では右方向に移動しているにもかかわらず画面上では左方向に移動するように見える(図23の区間D1)。
【0172】
次に、自車両が走行中に、自車両の進行方向に速度Vpで遠ざかる(図23、24では背面移動と記載)移動体P21の画面上の動きを考える。時刻tにおける移動体P21の画面上の水平方向位置をx(t)、時刻t+1における移動体P21の画面上の水平方向位置をx(t+1)とすると、x(t+1)−x(t)>0となる場合は、画面上では右方向に移動するように見え、x(t+1)−x(t)=0となる場合は、画面上では静止しているように見え、x(t+1)−x(t)<0となる場合は、画面上では左方向に移動するように見える。ここで、移動体P21は自車両の進行方向に遠ざかるように移動しているので、画面上の位置変化は通常背景の位置変化より小さくなり、自車両の進行方向に遠ざかる移動体P21は、画面上では左方向に移動するように見える(図23の区間D21)。
【0173】
次に、自車両が走行中に、停止している立体物P2の画面上の動きを考える。立体物P2は、背景と同等の速度を有する。したがって、停止している立体物P2は画面上では速度Vbで左方向に移動するように見える(図23の区間D2)。なお、ここでは実空間上で速度が±Vs以下である移動体を停止しているものと仮定している。
【0174】
次に、自車両が走行中に、自車両の進行方向に速度Vpで近づく移動体P22の画面上の動きを考える。時刻tにおける移動体P22の画面上の水平方向位置をx(t)、時刻t+1における移動体P22の画面上の水平方向位置をx(t+1)とすると、x(t+1)−x(t)>0となる場合は、画面上では右方向に移動するように見え、x(t+1)−x(t)=0となる場合は、画面上では静止しているように見え、x(t+1)−x(t)<0となる場合は、画面上では左方向に移動するように見える。ここで、移動体P11は自車両の進行方向に近づくように移動しているので、画面上の位置変化は通常背景の位置変化より大きくなり、自車両の進行方向に遠ざかる移動体P22は、画面上では左方向に移動するように見える(図23の区間D22)。
【0175】
次に、自車両が走行中に、自車両の進路に直角に速度Vpで遠ざかる移動体P3の画面上の動きを考える。速度Vpの画面上における速度をVmとすると、移動体P3は、画面上では速度Vm+Vbで左方向に移動するように見える(図23の区間D3)。
【0176】
図24は、本実施例における物体検出装置10の処理を示すフローチャートである。図24に示す処理はイグニションスイッチがオンされると、起動されるプログラムとして実行される。図24においては、図23に示す実施例1および実施例3における処理と同一の処理内容については、同じステップ番号を付与し、以下相違点を中心に説明する。
【0177】
ステップS141では、ステップS134で検出した移動体に対して、移動体と判定された立体物の速度情報と予測式から得られた静止物の速度情報とを比較することにより、前述した移動体の移動方向の判定が行われる。
【0178】
ステップS141の詳細を示すフローチャートを図25に示す。
【0179】
ステップS1411では、検出した移動体の速度Vmの絶対値と予測式から得られた静止物の速度Vbの絶対値との差dV=|Vm|−|Vb|に基づいて、フローの分岐が行われる。dV>0の場合は、フローはステップS1412へ移行する。一方、dV≦0の場合は、フローはステップS1415へ移行する。
【0180】
ステップS1412では、|dV|が所定値以上であるか否かの判定が行われる。|dV|が所定値以上である場合は、フローはステップS1413へ移行する。一方、|dV|が所定値未満の場合は、フローはステップS1414へ移行する。
【0181】
ステップS1413では、移動体は図23の区間D3の条件に該当し、移動体は自車両の進路中心から遠ざかると判定される。
【0182】
ステップS1414では、移動体は図23の区間D22の条件に該当し、移動体は自車両の進行方向に近づくと判定される。
【0183】
ステップS1415では、|dV|が所定値以上であるか否かの判定が行われる。|dV|が所定値以上である場合は、フローはステップS1416へ移行する。一方、|dV|が所定値未満の場合は、フローはステップS1416へ移行する。
【0184】
ステップS1416では、移動体は図23の区間D1の条件に該当し、移動体は自車両の進路中心に徐々に近づくと判定される。
【0185】
ステップS1417では、移動体は図23の区間D21の条件に該当し、移動体は自車両の進行方向に遠ざかると判定される。
【0186】
以降,第1の実施例と同様の処理により、全ての移動物体検出処理を行い処理を終了する。
【0187】
以上説明した本実施の形態の物体検出装置によれば、以下のような作用効果を得ることができる。
【0188】
前記物体属性判定部107は、前記背景となる静止物である前記立体物と同じ方向の速度を持つ立体物の実空間上における移動方向を判定することとした。
【0189】
この構成によれば、予測式で算出された静止物の速度と検出した移動体の速度差とに基づいて、自車両の進路中心に近づく移動体以外の移動体の移動方向の判定が可能となる。
【0190】
また、以上説明した本実施の形態の物体検出方法によれば、以下のような作用効果を得ることができる。
【0191】
前記背景となる静止物である前記立体物と同じ方向の速度を持つ立体物の実空間上における移動方向を判定することとした。
【0192】
この方法によれば、予測式で算出された静止物の速度と検出した移動体の速度差とに基づいて、自車両の進路中心に近づく移動体以外の移動体の移動方向の判定が可能となる。
【0193】
以上のように、本発明によれば、撮像面の水平軸と垂直軸をそれぞれ地表面と平行および垂直に設定したカメラで撮像した画像から平面物と立体物を識別するとともに立体物が移動体であるかどうかの識別も可能であり、簡単なセンサ構成で移動体を検出することができる。
【0194】
また、画像の特徴点(エッジ)の画像上における速度と位置座表とに基づいて平面物と立体物の識別を行うため、簡単なアルゴリズムで高速に移動体の検出ができる。
【0195】
また、検出した複数の立体物の水平方向位置と速度の関係から移動体を検出するため、車両の動きの推定や物体までの距離を算出する必要がなく、簡単なアルゴリズムで高速に移動体の検出ができる。
【0196】
また、座標変換点の位置座標から走路境界を検出し、走路境界で区切られた各区画毎において複数の立体物の水平方向位置と速度の関係を求めることにより、複雑な背景下においても効率的に移動体の検出ができる。
【0197】
また、速度の検出精度が不足し、同じ物体を表す特徴点の画素の速度にばらつきがある場合でも、平面物と立体物の検出を精度よく行うことができる。
【0198】
また、検出した立体物の速度情報と、その立体物の位置で予測式により算出した背景(静止物)の速度情報とを比較することで、立体物が移動体であるか否かを簡単に判定することができる。
【0199】
また、検出した立体物の速度の方向と上端の位置に基づいて、移動体の検出を簡単に行うことができる。
【0200】
さらに、予測式で算出された静止物の速度と検出した移動体の速度差に基づいて、自車両の進路中心に近づく移動体以外の移動体の移動方向の判定が可能となる。
【0201】
以上、本発明の実施例を図面により詳述したが、実施例は本発明の例示にしか過ぎず、本発明は実施例の構成にのみ限定されるものではない。したがって本発明の要旨を逸脱しない範囲の設計の変更等があっても本発明に含まれることはもちろんである。
【0202】
例えば、ブロック図は上記実施例に示すものに限定されるものではなく、同等の機能を備えた構成であれば良い。
【0203】
また、カメラの取り付け位置は実施例で述べた位置に限定されるものではなく、カメラの光軸が車両前方正面方向(Z方向)に向き、撮像面の水平軸および垂直軸がそれぞれ路面と平行および垂直となるように設定されていれば良い。
【0204】
また、検出したエッジの幅の正規化を行うにあたっては、エッジ幅は3画素に限定されるものではなく、任意の画素数を設定することができる。この場合、その後の処理でエッジの中央部の画素を利用するため、エッジ幅の画素数は奇数個であることが望ましい。
【0205】
また、ZX平面を分割して設定する領域の数は上記実施例に示すものに限定されるものではなく、任意の数に分割して設定することができる。
【0206】
また、ZX平面の縦方向および横方向の範囲は、任意の値に設定することができる。
【0207】
また、上記実施例では道路を走行する車両に物体検出装置10を搭載する例について説明したが、他の移動体に搭載してもよい。
【0208】
さらに、上記実施例では、走路境界として、縁石、白線、外壁と路面との接点の例について説明したが、これに限定されず、例えば、ガードレール、駐車車両と路面との境界、路面と路面以外の領域(田、畑など)との境界を検出してもよい。
【図面の簡単な説明】
【0209】
【図1】物体検出装置の一実施の形態の構成例を示すブロック図である。
【図2】カメラ101の車両への設置例を示す図である。
【図3】カメラ101で撮像した画像の例を示す図である。
【図4】抽出したエッジを正規化して、エッジ画像を得るために行う各処理の例を示す図である。
【図5】速度画像の例を示す図である。
【図6】速度画像上に物体検出用領域を設定し、各物体検出用領域において下端点と同じ速度を持つ画素をグループ化し、グループ化した領域の上端点の位置を検出した例を示す図である。
【図7】速度画像上で検出した上端点と下端点をZX平面上に座標変換し、物体が平面物か立体物かの判定を行う例を示す図である。
【図8】下端点の座標変換点のZX平面上の位置分布より走路境界線を検出する例を示す図である。
【図9】検出した走路境界で区切られた領域内で検出した立体物の画像の水平方向位置と速度の関係から移動体を検出する場合の具体例を示す図である。
【図10】物体検出装置10の第1の実施例の処理を示すフローチャートである。
【図11】速度画像上に物体検出用領域を設定し、各物体検出用領域において速度を持った画素をZX平面上へ座標変換することで、平面物候補点か立体物候補点かを判定する例を示す図である。
【図12】検出した平面物候補点と立体物候補点の並び方から立体物の判定を行う例を示す図である。
【図13】物体検出装置10の第2の実施例の処理を示すフローチャートである。
【図14】実施例3において、カメラ101で撮像した画像の例を示す図である。
【図15】速度画像の例を示す図である。
【図16】速度画像上に物体検出用領域を設定し、各物体検出用領域において下端点と同じ速度を持つ画素をグループ化し、グループ化した領域の上端点の位置を検出した例を示す図である。
【図17】速度画像上で検出した上端点と下端点をZX平面上に座標変換し、物体が平面物か立体物かの判定を行う例を示す図である。
【図18】下端点の座標変換点のZX平面上の位置分布より走路境界線を検出する例を示す図である。
【図19】検出した走路境界から背景を検出し、背景となる立体物の位置座標と速度との関係から画像上の任意の位置における静止物の速度を算出する予測式を決定し、この予測式による速度情報と検出した立体物の速度情報とを比較することにより移動体の検出を行う説明図である。
【図20】実施例3の処理のフローチャートである。
【図21】速度画像の例を示す図である。
【図22】自車両と自車両周囲の移動体の移動方向の関係を示す図である。
【図23】移動体の実空間上での移動方向と画面上での移動方向の関係を示す図である.
【図24】実施例4における処理のフローチャートである。
【図25】実施例4における移動体の移動方向の判定の処理のフローチャートである。
【符号の説明】
【0210】
10 物体検出装置
100 制御部
101 カメラ(撮像部)
102 画像一時記録部
103 特徴点抽出部
104 座標変換部
105 移動情報算出部
106 グループ化部
107 物体属性判定部
【技術分野】
【0001】
本発明は、物体検出装置および物体検出方法に関するものである。
【背景技術】
【0002】
従来の物体検出装置は例えば下記特許文献1に記載されている。
下記従来技術では、移動体を検出するために、車載カメラの撮像画像からオプティカルフロー(画像上における動きを示すベクトル)を算出する。また車両の車輪の回転速度とハンドルの舵角から車両の動きを推定する。さらに、自車両前方に存在する物体までの距離を算出して自車両前方の空間をモデル化した空間モデルを生成する。そして、算出したオプティカルフローと車両の動き、空間モデルとに基づいて、撮像画像から移動体を検出している。
【特許文献1】特開2004−56763号
【発明の開示】
【発明が解決しようとする課題】
【0003】
上記従来技術では、自車両前方の空間モデルを生成し、この空間モデルと自車両の動きに基づいて撮像画像から移動体を検出している。このため自車両の動き推定や物体までの距離を算出するための処理時間を要するため、移動体を高速に検出することが難しいという問題が生じていた。
【課題を解決するための手段】
【0004】
本発明は、撮像手段で撮像した自車両前方の画像から特徴点を抽出し、抽出した特徴点を表す各画素の速度情報を算出するとともに、算出した各画素の位置座標を3次元位置における位置座標に変換し、変換後の各画素の位置座標と速度情報に基づいて移動体であることを判定する。
【発明の効果】
【0005】
本発明によれば、撮像した画像の特徴点を表す画素の速度情報と、各画素の3次元位置に変換した位置座標から移動体を判定するようにしたので、自車両の動き推定や物体までの距離を算出することなく移動体を高速に検出することができる。
【発明を実施するための最良の形態】
【0006】
以下、この発明の実施の形態を図面に基づいて説明する。
【実施例1】
【0007】
図1は、第1の実施例における物体検出装置の構成例を示すブロック図である。
【0008】
物体検出装置10は車両に搭載され、車両前方を撮像する撮像部であるカメラ101および、カメラ101で撮像した画像を一時的に記録する画像一時記録部102と、画像一時記録部102に記憶された画像を画像処理することで特徴点を抽出する特徴点抽出部103と、特徴点抽出部103により抽出された特徴点の位置座標を3次元画像上の位置座標に変換する座標変換部104と、特徴点抽出部103により抽出された特徴点の画像上における速度および方向を移動情報として算出する移動情報算出部105と、移動情報算出部105により算出された特徴点の速度値に基づいて特徴点のグループ化を行うグループ化部106と、座標変換部104により変換された3次元座標の情報および移動情報算出部105により算出された特徴点の移動情報およびグループ化部106によりグループ化された特徴点のグループ化情報に基づいて特徴点が平面物であるか立体物であるかを判定するとともに、特徴点が立体物である場合には移動体であるかどうかを判定する物体属性判定部107とを有する制御部100を備えている。
【0009】
カメラ101は、例えばCCDやCMOSなどの撮像素子を有したカメラであり、連続的に車両前方を撮像してフレーム毎に撮像した画像を画像一時記録部102に出力する。カメラ101で撮像された画像は、画像一時記録部102に一時的に記録される。ここで、図2に示すように、カメラ101は車両の室内上部前方に設置され、その光軸LSは車両前方正面方向(Z方向)に向き、撮像面の水平軸X(図示省略)は路面と平行となるように、また撮像面の垂直軸Y(図示省略)は路面と垂直になるように設定されている。
【0010】
カメラ101で撮像した画像(自車両前方の画像)の例を図3に示す。カメラ101による撮像画像は、画像左上を原点として左から右へx軸、上から下へy軸とするxy座標系によって表される。なお、図3においては、左右の走路脇に設置された縁石、白線、外壁などの走路の境界線と、左から右へ移動する歩行者が撮像画像に含まれている。
【0011】
特徴点抽出部103は、カメラ101で撮像された画像を画像一時記録部102から読み込み、読み込んだ撮像画像を所定の閾値を用いて2値化することによって、画像内に存在する物体のエッジを抽出する。図4(a)に、抽出した垂直方向のエッジ例を示す。次に、抽出した各エッジに対して、細線化処理を行ってエッジ幅を絞り、エッジの中心を正確に設定する(図4(b)参照)。さらに、細線化されたエッジのエッジ幅が一定の幅となるように、例えば3画素分の幅となるように、エッジを水平方向に拡張する(図4(c)参照)。この操作により、抽出したエッジが正規化され、各エッジが均一の幅を持つエッジ画像を得ることができる。
【0012】
移動情報算出部105は、エッジに該当する画素の画素カウンタのカウンタ値を更新する。ここで、画素カウンタとは、各画素毎に設定されたカウンタであり、画素がエッジに該当する場合に画素カウンタのカウンタ値が+1加算され、画素がエッジに該当しない場合は画素カウンタのカウンタ値が0となって初期化されるカウンタである。このカウンタ値の更新処理を、カメラ101で連続的に撮像されるフレーム毎に行う。この操作により、エッジに該当する時間が長い画素は画素カウンタのカウンタ値が大きくなり、エッジに該当する時間が短い画素は画素カウンタのカウンタ値が小さくなる。
【0013】
この画素カウンタのカウンタ値の変化は、エッジの移動方向と移動量を表していることになるため、このカウンタ値から、撮像画像上におけるエッジの移動方向と移動速度とを算出することができる。以下、詳細に説明する。
【0014】
図4は、上述した抽出したエッジを正規化して、エッジ画像を得るために行う処理の具体例を示す図である。
【0015】
まず、エッジ画像に対して2値化処理を行う。2値化処理とはエッジの検出された位置の画素を1とし、エッジの検出されなかった位置の画素を0とする処理である。2値化処理によって図4(a)に示すような2値化画像を生成する。
【0016】
次に、生成された2値化画像に対して、細線化処理を行う。細線化処理とは、検出されたエッジのエッジ幅を所定画素幅になるまで縮小する処理である。図4(b)では所定画素幅として1画素になるまでエッジのエッジ幅を細線化している。そして、このようにエッジを所定の画素幅になるまで細線化することによって、エッジの中心となる中心位置を設定している。ここでは一例として1画素に細線化する場合について説明しているが、その他の画素数に細線化してもよい。
【0017】
次に、細線化されたエッジのエッジ幅を膨張させる膨張処理を行う。膨張処理とは、細線化によって設定された中心位置からエッジの移動方向に向かってエッジ幅を膨張させるとともに、中心位置からエッジの移動方向と反対方向にもエッジ幅を膨張させる処理である。例えば、図4(c)では、エッジの中心位置x0からエッジの移動方向(x軸の正方向)に1画素膨張させるとともに、エッジの中心位置x0からエッジの移動方向と反対方向(x軸の負方向)に1画素膨張させて、エッジ幅を3画素に膨張させている。
【0018】
このように細線化処理と膨張処理とを行うことによって、抽出したエッジ画像のエッジ幅を、エッジの移動方向に向かって所定の幅に統一して規格化している。
【0019】
次に、エッジ幅の規格化されたエッジに対してカウントアップ処理を行う。カウントアップ処理とは、エッジが検出された位置のメモリアドレスの値をカウントアップし、エッジが検出されなかった位置のメモリアドレスの値を初期化する処理である。
【0020】
以下、図4(c)〜(f)に基づいてエッジのカウントアップ処理について説明する。ここでは簡単のためにエッジはx軸の正方向に移動するものとして説明する。なお、エッジはx軸の負方向やy軸方向、あるいは2次元的に移動する場合も同様に説明することができる。
【0021】
図4(c)に示すように、エッジはあるフレームにおいて位置x0にエッジの中心位置があり、その中心位置からエッジの移動方向に1画素の位置x0+1と、中心位置からエッジの移動方向と反対方向に1画素の位置x0−1に膨張されている。
【0022】
このような場合にエッジが検出された位置x0−1、x0、x0+1のカウント値が1ずつカウントアップされ、エッジが検出されなかった位置のカウント値がリセットされる。 例えば、図4(d)では、時刻tにおいて位置x0−1、x0、x0+1にエッジが検出されているので、それぞれの位置で1ずつカウントアップされて、位置x0+1のカウント値が1、位置x0のカウント値が3、位置x0−1のカウント値が5になっている。
【0023】
そして、図4(e)に示すように時刻t+1でもエッジが移動していないので、位置x0−1、x0、x0+1の各位置でエッジが検出され、位置x0−1、x0、x0+1のカウント値をさらに1ずつカウントアップして、位置x0−1のカウント値を2、位置x0のカウント値を4、位置x0+1のカウント値を6としている。
【0024】
さらに、図4(f)に示すように時刻t+2では、エッジがx軸の正方向に1画素シフトして位置x0、x0+1、x0+2の位置でエッジが検出されている。
したがって、エッジが検出された位置x0、x0+1、x0+2のカウント値がカウントアップされ、エッジが検出されなかった位置x0−1のカウント値がリセットされる。
【0025】
この結果、図4(f)に示すように位置x0+2のカウント値が1、位置x0+1のカウント値が3、位置x0のカウント値が5となっている。さらに、エッジが検出されなかった位置x0−1のカウント値はリセットされて0になっている。
【0026】
このようにして、エッジが検出された位置のカウント値をカウントアップし、エッジの検出されなかった位置のカウント値をリセットしている。
【0027】
図4では、カウント値を検出する位置として、エッジの中心位置(x0)と、この中心位置からエッジの移動方向へ1画素の位置(x0+1)と、中心位置からエッジの移動方向と反対方向に1画素の位置(x0−1)の3箇所でカウント値を検出していたが、後述するカウント値の傾きが求められれば、エッジの移動方向に対して2箇所以上であれば何箇所のカウント値を検出してもよい。
【0028】
また、エッジが移動する速度に比べて、フレームレートが十分に高く設定されていれば、連続するフレーム間において、エッジは同じ位置で複数回検出される。
【0029】
例えば、図4の例では、位置x0において時刻tと時刻t+1の2回エッジが検出されている。したがって、エッジが検出された位置のカウント値をカウントアップしていくと、そのカウント値はその位置においてエッジが検出されている時間(フレーム数)と等しくなる。特にエッジのカウント値の中で最小のカウント値hは、エッジが移動してから何フレームの間、同じ位置にあるかということを表している。
【0030】
次に、エッジの移動速度、移動方向および位置を算出する。
【0031】
まずカウント値の移動方向への傾きを算出し、この傾きに基づいて、エッジの移動方向、移動速度および位置を算出する。
【0032】
例えば、図4(e)の場合では、位置x0−1、x0、x0+1のカウント値がそれぞれ6、4、2となっている。
【0033】
したがって、位置x0−1のカウント値6からx0+1のカウント値2を引くことによって、カウント値の傾きをH=(6−2)/2=2として算出することができる。
【0034】
これは、
H={(エッジが位置x0−1に移動してから現在までの時間)−(エッジが位置x0+1に移動してしまった後の時間)}/(2画素)
を意味するので、これによりエッジが位置x0のある1画素を通過するのに要した時間(フレーム数)を算出したことになる。
【0035】
したがって、カウント値の傾きHはエッジが1画素移動するために何フレームを要したかを求めることになり、このカウント値の傾きHに基づいてエッジの移動速度1/Hを算出することができる。
【0036】
図4(e)では1画素移動するのに2フレームを要したことになるので、エッジの移動速度は1/2(画素/フレーム)と算出することができる。
【0037】
同様に、図11(f)でもH=(5−1)/2=2となるので、エッジの移動速度は1/2(画素/フレーム)になる。
【0038】
また、エッジの移動方向は、カウント値の大小によって判断することができる。エッジが移動して新たにエッジが検出された位置のカウント値は1であり、各位置のカウント値の中では最も小さな値となる。
【0039】
したがって、エッジが移動する方向のカウント値は小さく、エッジが移動する方向と反対方向のカウント値は大きくなるので、これによってエッジの移動方向を判断することができる。
【0040】
さらに、エッジが移動する速度に比べてフレームレートが十分に高く設定されていれば、検出対象物は等速移動をしていると仮定することができる。また、現在の位置におけるカウント値の中で最小のカウント値hは、エッジがその位置で検出されている時間、すなわちエッジが移動してから何フレームの間、同じ位置にあるかということを表している。
これらのことにより、エッジの位置は、エッジの中心位置をx0とすると
エッジの位置=x0+h/H
により求めることができる。
【0041】
例えば図4(f)では、エッジの速度は1/2(画素/フレーム)で、時刻t+2の時点では1フレーム連続して同じ位置でエッジが検出されているので、時刻t+2のエッジの位置は
1(フレーム)×{1/2(画素/フレーム)}=0.5画素
だけ位置x0から移動していると算出することができる。
【0042】
以上から、エッジが検出された位置のカウント値をカウントアップし、カウントアップされたカウント値の傾きに基づいてエッジの移動速度及び移動方向を算出するができる。
【0043】
次に、撮像画像上に存在するエッジの速度成分を所定の階級値に分類して表した速度画像を生成する。本実施例における速度画像は、図5に示すように、速度が検出されたエッジの画素を丸型の点で表し、移動速度が速い画素ほど点を大きく示す。また、右へ向かう速度を黒点で表し、左へ向かう速度を白点で表すことによって移動方向を表している。図5においては、自車両の走行路右側の縁石および白線からは画像の右側へ向かう速度が検出されており、走行路左側の外壁からは画像の左側へ向かう速度が検出されている。また、走行路左側から右へ移動する歩行者では、画像の右側へ向かう速度が検出されている。
【0044】
グループ化部106は、算出した速度画像から立体物を抽出するために、速度画像を分割する領域を設定する。すなわち、図6に示すように、速度画像上に短冊状の複数の領域を設定し、速度画像を複数の領域で分割する。
【0045】
次に、各領域毎に、画像の縦方向において同じ速度で連続する画素をグループ化することにより、立体物を検出する。すなわち、画像の下部から上部に向かって各領域を走査し、領域内に速度を持った画素が存在する場合、その画素の上方に隣接する速度を持った画素との速度差を比較し、速度差が閾値T1以下である場合には、車両に対して同じ速度で移動する物体であると推定できることから、同じ物体であると判定してグループ化を行う。そして、同じ速度でグループ化された画素の上端位置(請求項における最上部)と下端位置(請求項における最下部)を検出する。この処理により、図6における下端BL1〜BL11及び上端TL1〜TL11が検出される。
【0046】
座標変換部104は、xy平面上で抽出した下端BL1〜BL11および上端TL1〜TL11の中心位置を座標とする下端点BP1〜BP11(図示省略)および上端点TP1〜TP11(図示省略)の位置座標を、規定の面積を備えたZX平面(以下、規定のZX平面と呼ぶ)上の点として3次元の位置座標(実空間上の3次元における位置座標)に変換する。
【0047】
ここで、各点の座標を(x、y)とし、カメラの路面からの高さをCh(m)、カメラの俯角をTr(rad)、画像の縦サイズをIh、画像の横サイズをIw、高さ方向の1画素あたりの角度分解能をPYr(rad)、横方向の1画素あたりの角度分解能をPXr(rad)とすると、xy平面上の点TP1〜TP11及びBP1〜BP11は、次式に従ってZX平面の座標(Z、X)に変換される。
【0048】
(式1)Z=(Ch)/(TAN(Tr+(y−Ih/2)×PYr))
(式2)X=x×TAN((Z-Iw/2)×PXr)
上端点TP1〜TP11、下端点BP1〜BP11の変換後の点を、上端点の座標変換点RT1〜RT11、下端点の座標変換点RB1〜RB11とする。
【0049】
物体属性判定部107は、上端点の座標変換点RT1〜RT11、下端点の座標変換点RB1〜RB11が、規定のZX平面を分割して設定した領域のうちどの領域に位置するかの判定を行う(図7参照)。ここで、車両の上下動に伴いカメラ101の撮像映像も上下に動き、座標変換点が位置する領域も変動してしまう可能性がある。この影響を避けるため、ZX平面を分割して設定する領域はメーターオーダーで設定することが望ましい。本実施例では、x軸方向は、−5.25m>x、−5.25≦x<−3.5m、−3.5m≦x<−1.75m、−1.75m≦x<0m、0m≦x<1.75m、1.75m≦x<3.5m、3.5m≦x<5.25m、5.25m≦x、として8分割し、z軸方向は、0≦z<10m、10m≦z<20m、20m≦z<30m、30m≦z<40m、40m≦z<50mとして5分割して、領域11〜領域15、領域21〜領域25、領域31〜領域35、領域41〜領域45、領域51〜領域55、領域61〜領域65、領域71〜領域75、領域81〜領域85を設定している。また、領域11〜領域15を領域10とし、領域21〜領域25を領域20とし、領域31〜領域35を領域30とし、領域41〜領域45を領域40とし、領域51〜領域55を領域50とし、領域61〜領域65を領域60とし、領域71〜領域75を領域70とし、領域81〜領域85を領域80としている。
【0050】
そして、xy平面の同一の縦方向領域における上端点の座標変換点と上端点と同一のグループの下端点の座標変換点が規定のZX平面の同一の領域に位置すれば、上端点と下端点が路面上にある、すなわち路面上の平面物であると判定する。また、上端点の座標変換点が規定のZX平面外に位置し、上端点と同一のグループの下端点の座標変換点が規定のZX平面の領域に位置すれば、下端点のみ路面上にある、すなわち立体物であると判定する。ここで、走路境界を検出するために、各領域に設定したカウンタのうち下端点の座標変換点が位置する領域のカウンタのカウンタ値を+1加算し、下端点の位置情報分布を算出する。
【0051】
例えば、本実施例では、上端点TP1〜TP5の座標変換点RT1〜RT5は図7に示す規定のZX平面外に投影されるため、上端点TP1〜TP5を含むグループは立体物であると判定され、上端点TP1〜TP5を含むエッジはxy平面上で立体物OB1〜OB5として判定される。また上端点TP6〜TP11の座標変換点RT6〜RT11は下端点BP6〜BP11の座標変換点RB6〜RB11と同じ領域に位置するため、上端点TP6〜TP11を含むグループは路面上に位置する物であると判定される。ここで、走路境界を検出するために、下端点の座標変換点RB1〜RB11が位置する領域のカウンタのカウンタ値を+1加算する。
【0052】
そして、図8に示すように、得られた下端点の座標変換点の位置分布から、走路境界線が存在する可能性が高い領域を抽出する。すなわち、得られた下端点の座標変換点の位置分布において、同じx軸領域で複数のz軸領域にカウンタ値が存在すれば、自車両前方に走路境界が車両に沿って直線状に存在すると推定できるため、カウンタ値がある領域を走路境界領域として抽出する。例えば、図8では、x軸が同じ範囲の領域30において、複数のz軸領域(下端点RB1、RB4、RB5が位置する領域)にカウンタ値が存在するため、これらの領域を走路境界領域として抽出する。領域50、領域80についても同様である。
【0053】
そして、抽出した領域に走路境界を示す直線が存在するかどうかの判定を行う(図8参照)。すなわち、抽出した領域に存在する下端点の座標変換点に基づいて、xy座標系での回帰分析を行い、下端点を通る直線の傾きを算出する。例えば、本実施例の領域30では、領域30に存在する下端点の座標変換点RB1、RB4、RB5に対応するxy座標における下端点BP1、BP4、BP5の座標位置からxy座標系での回帰分析を行い、下端点BP1、BP4、BP5を通る直線の傾きa3を算出する。同様に、領域50、領域80に位置する下端点の座標変換点に対応した直線の傾きa5、a8を算出する。そして、算出した直線の傾きが所定の範囲内に入っていれば、抽出した領域内に走路境界を示す直線が存在すると判定する。すなわち、下端点の座標変換点が位置するx軸領域の左端座標と各Z軸領域の代表座標(例えば中心座標)を座標とする点(例えば図8のPL1〜PL5)をxy座標系に変換して回帰分析して算出した直線の傾きTn0a1と、下端点の座標変換点が位置するx軸領域の右端座標と各Z軸領域の代表座標(例えば中心座標)を座標とする点(例えば図8のPR1〜PR5)をxy座標系に変換して回帰分析して算出した直線の傾きTn0a2とで規定される傾きの範囲内に、下端点に基づき算出された直線の傾きanが入っている場合には、抽出した領域内に走路境界を示す直線Lnが存在するとの判定を行う。
【0054】
例えば、本実施例の領域30においては、座標(x、z)=(−3.5、5)の点PL1、座標(x、z)=(−3.5、15)の点PL2、座標(x、z)=(−3.5、25)の点PL3、座標(x、z)=(−3.5、35)の点PL4、座標(x、z)=(−3.5、45)の点PL5をxy座標に変換して回帰分析を行い算出した各点を結ぶ直線の傾きT30a1と、座標(x、z)=(−1.75、5)の点PR1、座標(x、z)=(−1.75、15)の点PR2、座標(x、z)=(−1.75、25)の点PR3、座標(x、z)=(−1.75、35)の点PR4、座標(x、z)=(−1.75、45)の点PR5をxy座標に変換して回帰分析を行い算出した各点を結ぶ直線の傾きT30a2に対し、下端点の座標変換点RB1、RB4、RB5に対応するxy平面上の下端点BP1、BP4、BP5を結ぶ直線の傾きa3が、T30a1とT30a2で規定される範囲内に存在するため、下端点BP1、BP4、BP5を結ぶ直線は走路境界を示す直線L3であると判定される(図9参照)。同様にして、領域50では、下端点の座標変換点RB6、RB7に対応するxy平面上の下端点BP6とBP7を結ぶ直線は走路境界を示す直線L5であると判定され、領域80では、下端点の座標変換点RB8〜RB11に対応するxy平面上の下端点BP8〜BP11を結ぶ直線は走路境界を示す直線L8であると判定される。
【0055】
そして、図9に示すように、走路境界で区切られた各領域において、検出された立体物の画像の水平方向位置と速度の関係を示すグラフを算出する。このグラフでは、画像中央より左側に位置する立体物、例えば外壁のような背景は、画像の右側に位置するほど自車よりも遠い位置にあるため、画素の速度は遅くなる。つまり、縦軸に速度(左に移動する速度をプラス、右に移動する速度をマイナス)、横軸に画像のx座標(画像左端を原点)に設定すると、背景のような静止物であれば、画像の左半分においては、速度とx座標の関係は、右下がりの直線となる。一方、右下がりの直線関係とならない座標がある場合は、領域内に静止物でないもの、すなわち移動体が存在する可能性がある。この場合、図9に示すように、背景の速度(左向きの速度)とは逆向きの速度(右向きの速度)を有する座標が検出された場合は、背景とは逆方向に移動する移動体が存在すると判定する。また、背景よりも速い速度を有する座標が検出されれば、移動体が存在すると判定する。
【0056】
例えば、本実施例では、領域30、領域50、領域80で検出された走路境界に基づいて、走路境界L3の左側、すなわち、領域10、領域20、領域30の左側の一部を区画aと設定し、走路境界L3と走路境界L5との間、すなわち、領域30の右側の一部、領域40、領域50の左側の一部を区画bと設定し、走路境界L5と走路境界L8との間、すなわち、領域50の右側の一部、領域60、領域70、領域80の左側の一部を区画cと設定し、走路境界L8の右側、すなわち、領域80の右側の一部を区画dと設定し、区画bに存在する立体物OB1〜OB5の水平方向位置と速度の関係から、OB1、OB4、OB5を静止している立体物(ここでは外壁)と判定し、右へ移動するOB2、OB3を移動体(ここでは歩行者)と判定する。
【0057】
また、画像右側に存在する立体物においても、左側と同様な方法で、速度(左に移動する速度をプラス、右に移動する速度をマイナス)と画像のx座標(画像右端を原点)の関係を求め、右上がりの直線関係とならない場合には、領域内に立体物が存在する可能性が高いと判断し、背景の速度と逆向きの速度が検出されれば、背景とは逆方向に移動する移動体、例えば、画像右側から左側に移動する歩行者の検出を行うことができる。
【0058】
さらに、車両挙動(車両の進行方向)を利用することにより、上述したように撮像画像の左右において別々に移動体の検出が必要か、あるいは撮像画像全体で移動体の検出が可能かを判断することも可能となる。例えば、車両を右へ操舵している場合には、前方画像の背景に該当する領域は、左側へ移動する速度のみが検出されるため、上述したように撮影画像左右でそれぞれ移動体の検出を行わずに撮像画像全体で一括して移動体の検出を行うことができる。車両を左へ操舵している場合も同様である。
【0059】
ここで、前述したように移動体の判定は、背景に該当する立体物と移動体の水平方向位置と速度を比較して行うため、例えば歩行者に該当する立体物しか検出できず、背景に該当する外壁等の立体物が抽出できない場合は、移動体の判定を行うことができない。この場合は、次回の検出で再度立体物と判定された際に、その速度変化から移動体であるか否かの判定を行う(後述)。
【0060】
図10は、本実施例における物体検出装置10の処理を示すフローチャートである。
この処理はイグニションスイッチ(図示省略)がオンされると起動されるプログラムとして実行される。
【0061】
ステップS101では、カメラ101で撮像され画像一時記録部102に記録された自車両前方の画像が所定の周期で特徴点抽出部103に出力される。この後に、フローはステップS102へ移行する。
【0062】
ステップS102では、特徴点抽出部103が画像に対してエッジ抽出処理を行い、撮像画像内に存在する物体の輪郭をエッジ画像として抽出するとともにエッジ画像の正規化を行う。この後に、フローはステップS103へ移行する。
【0063】
ステップS103では、移動情報算出部105がエッジの速度を算出し、算出した速度を所定の階調で表した速度画像を算出する。この後に、フローはステップS104へ移行する。
【0064】
ステップS104では、グループ化部106が算出した速度画像上に物体検出用の短冊領域を設定する。この後に、フローはステップS105へ移行する。
【0065】
ステップS105では、グループ化部106が各短冊領域内に速度を持った画素があるかどうかを下から上に向かって調べる。速度を持った画素がある場合、グループ化部106がそれらの画素は同一の物体を表しているものとしてグループ化を行う。この後に、フローはステップS106へ移行する。
【0066】
ステップS106では、各短冊領域内におけるグループ毎において、最も上に位置する画素の中心座標を上端点に、最も下に位置する画素の中心座標を下端点に設定する。この後に、フローはステップS107へ移行する。
【0067】
ステップS107では、座標変換部104が、(式1)、(式2)を用いて、検出した上端点と下端点の座標をZX平面へ座標変換する。この後に、フローはステップS108へ移行する。
【0068】
ステップS108では、物体属性判定部107が、上端点の座標変換点と上端点と同じグループの下端点の座標変換点の位置がx軸範囲とz軸範囲を規定した規定のZX平面のどの領域に該当するかを判断し、上端点の座標変換点と上端点と同じグループの下端点の座標変換点の双方が規定のZX平面の同一の領域に位置する場合は、上端点、下端点を含む物体を平面物であると判定し、上端点と同じグループの下端点の座標変換点のみが規定のZX平面に位置する場合は、上端点、下端点を含む物体を立体物であると判定する。また、下端点が位置する領域のカウンタのカウンタ値を+1加算する。この後に、フローはステップS109に進む。
【0069】
ステップS109では、物体属性判定部107により、検出した全ての上端点、下端点について、上端点、下端点を含む物体が平面物であるか立体物であるかの判定(以下、物体の属性判定と呼ぶ)が行われたかどうかの判定が行われる。検出した全ての上端点、下端点について物体の属性判定が行われた場合は、ステップS110に進む。一方、検出した全ての上端点、下端点について物体の属性判定が行われていない場合は、ステップS105に戻る。
【0070】
ステップS110では、物体属性判定部107により、ZX平面における下端点の座標変換点の位置分布から、同じx軸領域において、複数のz軸領域にカウンタ値が存在する領域が、走路境界線が存在する可能性が高い領域として抽出される。この後に、フローはステップS111へ進む。
【0071】
ステップS111では、物体属性判定部107により、抽出された領域内に存在する下端点の座標変換点に対応するxy平面の下端点についてxy座標系での回帰分析が行われ、下端点を結ぶ直線の傾きが算出される。この後に、フローはステップS112へ進む。
【0072】
ステップS112では、物体属性判定部107により、ステップS111で算出した直線の傾きが、下端点が位置する領域において、x軸領域の左端座標と各z軸領域の代表座標を座標とする点(図8のPL1〜PL5)を結ぶ直線およびx軸領域の右端座標と各z軸領域の代表座標を座標とする点(図8のPR1〜PR5)を結ぶ直線のxy座標系における傾きの範囲にあれば、抽出した領域に走路境界を示す直線が存在すると判定され、ステップS111で算出した直線は走路境界を示す直線として検出される。この後に、フローはステップS113へ進む。
【0073】
ステップS113では、物体属性判定部107において、抽出された領域において、全ての走路境界を示す直線が検出されたか否かの判定を行う。全ての走路境界を示す直線が検出された場合は、ステップS114へ進む。一方、全ての走路境界を示す直線が検出されていない場合は、ステップS110に戻る。
【0074】
ステップS114では、物体属性判定部107において、走路境界で区切られた各区画に対し、各区画内に存在する立体物(外壁、歩行者)間の速度とx座標の関係を算出し、背景と逆方向の速度が検出された立体物がある場合には、自車両に近づく移動体が存在すると判定し、フローはステップS116に進む。一方、背景と逆方向の速度が検出された物体がない場合には、移動体候補が存在する可能性があると判定し、ステップS115に進む。
【0075】
ステップS115では、物体属性判定部107において、移動体候補が移動体であるかどうかの判定を行う。移動体候補が存在すると判断された区画に、前回も移動体候補が存在すれば、前回と今回の速度を比較する。移動体候補が静止物である場合は、自車両の前進に従い移動体候補が自車両に接近し、移動体候補に対応する画素の移動速度が速くなる。このため、前回よりも下端点の座標変換点の速度が速くなっている場合には、移動体は存在しないと判定し、前回よりも下端点の座標変換点の速度が速くなっていない場合には、移動体が存在すると判定する。この後に、フローはステップS116に進む。
【0076】
ステップS116では、走路境界で区切られたすべての区画において、移動体が検出されたか否かの判断を行う。全ての移動体が検出された場合には、フローはステップS117へ進む。一方、全ての移動体が検出されていない場合は、フローはステップS114に戻る。
【0077】
ステップS117では、自車両のイグニションスイッチがオフされたか否かの判定が行われる。イグニションスイッチがオフされていない場合には、ステップS101へ戻って処理を繰り返す。一方、イグニションスイッチがオフされた場合には、フローはステップS118へ移行して処理を終了する。
【0078】
以上説明した本発明の実施の形態の物体検出装置によれば、以下のような作用効果を得ることができる。
【0079】
自車両前方の画像を撮像するカメラ101(撮像部)および、前記カメラ101で撮像した画像から特徴点を抽出する特徴点抽出部103と、前記特徴点を表す画素の速度情報を算出する移動情報算出部105と、前記画素の位置座標を実空間上の3次元における位置座標に変換する座標変換部104と、前記画素の前記3次元における前記位置座標および前記画素の前記速度情報に基づいて前記特徴点が移動体であることを判定する物体属性判定部107とを備えることとした。
【0080】
この構成によれば、カメラ101で撮像した画像から抽出した特徴点の画像上の移動速度および位置座標に基づいて、特徴点が移動体であることを判定することができる。
【0081】
また、本発明の実施の形態の物体検出装置によれば、前記物体属性判定部107は、前記画素の前記3次元における水平方向の位置座標と前記画素の速度情報との関係において前記画素の速度情報とは異なる速度情報を有する座標がある場合に、前記特徴点が移動体であると判定することとした。
【0082】
この構成によれば、検出した立体物の画像上の水平方向位置と速度の関係から、移動体の識別を行う。背景となる立体物は自車両から遠ざかるにつれて画像上では横方向に移動し、また画像上の速度は遅くなることから、画像上の水平方向位置と速度は比例(直線)関係にある。一方、背景となる立体物の前に存在する物体では、画像上の水平方向位置と速度に比例関係はない。したがって、自車両の動きの推定や物体までの距離を算出することなく背景の動きを推定し、背景と異なる動きをするものを移動体として背景から分離することができるため、簡単な処理により移動体の検出を高速で行うことができる。
【0083】
また、本発明の実施の形態の物体検出装置によれば、前記画像の垂直方向に隣接するとともに速度情報が所定の範囲にある前記画素をグループ化するグループ化部106を備え、前記物体属性判定部107は、前記グループ化部106によりグループ化した前記画素のうち最上部に位置する前記画素と最下部に位置する前記画素の前記3次元における位置座標に基づいて前記判定を行うこととした。
【0084】
この構成によれば、カメラ101で撮像した画像に基づいて算出した速度画像上に物体検出領域を設定し、各領域において、画像の垂直方向に隣接するとともに移動速度が所定範囲にある点をグループ化し、その最上部(上端)および最下部(下端)を検出する。この最上部および最下部に位置する画素をZX平面に座標変換し、その位置座標に基づいて移動体の判定を行うことで、該判定を効率的に行うことができる。
【0085】
また、本発明の実施の形態の物体検出装置によれば、前記物体属性判定部107は、前記最上部に位置する前記画素と前記最下部に位置する前記画素が前記3次元の所定の範囲を所定の数に分割して設定した複数の領域のうち同一の領域に位置する場合には前記移動体を平面物と判定し、前記最上部に位置する前記画素が前記3次元の前記複数の領域外に位置するとともに前記最下部に位置する前記画素が前記3次元の前記複数の領域のうちいずれかの領域に位置する場合に前記移動体を立体物と判定することとした。
【0086】
この構成によれば、最上部に位置する画素(上端点)と最下部に位置する画素(下端点)の位置を、カメラパラメータを用いてZX平面へ座標変換する。路面上に存在する白線や路面マーカーのような平面物は、上端点と下端点ともに路面上に存在するため、ZX平面上へ座標変換された場合、上端点と下端点は規定のZX平面に投影される。これに対して、立体物の下端点は路面上に存在し、上端点は路面上に存在しないため、下端点のみ規定のZX平面に投影され、上端点は規定のZX平面から大きく外れることになる。したがって、単眼カメラの構成であっても、グループ化した領域の上端点と下端点の座標変換結果から、平面物と立体物の判定を行うことができる。
【0087】
また、本発明の実施の形態の物体検出装置によれば、前記物体属性判定部107は、前記画素のうち前記画像の垂直方向において最下部に位置する前記画素の前記3次元における前記位置座標に基づいて前記自車両の走路の境界を表す走路境界を検出し、該走路境界で区切られた区画毎に前記移動体判定を行うこととした。
【0088】
この構成によれば、下端点の座標変換点の位置から走路境界の検出が可能であり、検出した走路境界で区切られた区画毎に移動体の検出を行うため、複雑な背景下においても、効率的に移動体の検出を行うことができる。
【0089】
さらに、本発明の実施の形態の物体検出装置によれば、前記特徴点が物体のエッジであることとした。
【0090】
この構成によれば、カメラ101で撮像した画像から特徴点抽出部103により物体のエッジを検出すれば良く、簡単な画像処理で上記判定を行うことができる。
【0091】
また、以上説明した本発明の実施の形態の物体検出方法によれば、以下のような作用効果を得ることができる。
【0092】
自車両前方の画像を撮像し、撮像した画像から特徴点を抽出し、抽出した特徴点を表す画素の速度情報を算出し、前記画素の位置座標を実空間上の3次元における位置座標に変換し、前記画素の前記3次元における前記位置座標および前記画素の前記速度情報に基づいて、前記特徴点が移動体であることを判定することとした。
【0093】
この方法によれば、撮像した画像から抽出した特徴点の画像上の速度情報および位置座標に基づいて、特徴点が移動体であることを判定することができる。
【0094】
また、本発明の実施の形態の物体検出方法によれば、前記移動体であることの判定は、前記画素の前記3次元における水平方向の位置座標と前記画素の速度情報との関係において前記画素の速度情報とは異なる速度情報を有する座標がある場合に、前記特徴点が移動体であると判定することとした。
【0095】
この方法によれば、検出した立体物の画像上の水平方向位置と速度の関係から、移動体の識別を行う。背景となる立体物は自車両から遠ざかるにつれて画像上では横方向に移動し、また画像上の速度は遅くなることから、画像上の水平方向位置と速度は比例(直線)関係にある。一方、背景となる立体物の前に存在する物体では、画像上の水平方向位置と速度に比例関係はない。したがって、自車両の動きの推定や物体までの距離を算出することなく背景の動きを推定し、背景と異なる動きをするものを移動体として背景から分離することができるため、簡単な処理により移動体の検出を高速で行うことができる。
【0096】
また、本発明の実施の形態の物体検出方法によれば、前記画像の垂直方向に隣接するとともに速度情報が所定の範囲にある前記画素をグループ化し、前記移動体であることの判定は、グループ化した前記画素のうち最上部に位置する前記画素と最下部に位置する前記画素の前記3次元における位置座標に基づいて行うこととした。
【0097】
この方法によれば、撮像した画像に基づいて算出した速度画像上に物体検出領域を設定し、各領域において、画像の垂直方向に隣接するとともに移動速度が所定範囲にある点をグループ化し、その最上部(上端)および最下部(下端)を検出する。この最上部および最下部に位置する画素をZX平面に座標変換し、その位置座標に基づいて移動体の判定を行うことで、該判定を効率的に行うことができる。
【0098】
また、本発明の実施の形態の物体検出方法によれば、前記移動体であることの判定は、前記最上部に位置する前記画素と前記最下部に位置する前記画素が前記3次元の所定の範囲を所定の数に分割して設定した複数の領域のうち同一の領域に位置する場合には前記移動体を平面物と判定し、前記最上部に位置する前記画素が前記3次元の前記複数の領域外に位置するとともに前記最下部に位置する前記画素が前記3次元の前記複数の領域のうちいずれかの領域に位置する場合に前記移動体を立体物と判定することを含むこととした。
【0099】
この方法によれば、最上部に位置する画素(上端点)と最下部に位置する画素(下端点)の位置を、カメラパラメータを用いてZX平面へ座標変換する。路面上に存在する白線や路面マーカーのような平面物は、上端点と下端点ともに路面上に存在するため、ZX平面上へ座標変換された場合、上端点と下端点は規定のZX平面に投影される。これに対して、立体物の下端点は路面上に存在し、上端点は路面上に存在しないため、下端点のみ規定のZX平面に投影され、上端点は規定のZX平面から大きく外れることになる。したがって、単眼カメラの構成であっても、グループ化した領域の上端点と下端点の座標変換結果から、平面物と立体物の判定を行うことができる。
【0100】
また、本発明の実施の形態の物体検出方法によれば、前記移動体であることの判定は、前記画素のうち前記画像の垂直方向において最下部に位置する画素の前記3次元における位置座標に基づいて前記車両の走路の境界を表す走路境界を検出し、該走路境界で区切られた区画毎に行うこととした。
【0101】
この方法によれば、下端点の座標変換点の位置から走路境界の検出が可能であり、検出した走路境界で区切られた区画毎に移動体の検出を行うため、複雑な背景下においても、効率的に移動体の検出を行うことができる。
【0102】
さらに、本発明の実施の形態の物体検出方法によれば、前記特徴点が物体のエッジであることとした。
【0103】
この方法によれば、撮像した画像から物体のエッジを検出すれば良く、簡単な画像処理で上記判定を行うことができる。
【実施例2】
【0104】
本実施例では、例えばエッジ検出の結果に起因して同じ立体物や移動体が速度情報を基に同じ速度でグループ化できない場合でも、平面物と立体物の検出を行う。
【0105】
ここでは、図11に示すように、外壁上に検出されたP11〜P113の内、P11〜P13とP14〜P113が別々にグループ化され、P21〜P213の内、P21〜P23とP24〜P213が別々にグループ化され、P31〜P313の内、P31〜P33とP34〜P313が別々にグループ化され、P41〜P412の内、P41、P42とP43〜P412が別々にグループ化され、P51〜P510の内、P51、P52とP53〜P510が別々にグループ化された場合について、説明を行う。
【0106】
なお、図1に示したブロック図、図2に示した車両へのカメラ101の設置例を示す図、図3に示したカメラ101による前方の撮像画像を説明する図、図4に示したエッジの正規化の例を示す図、および図5に示した速度画像を説明する図については、第1の実施例と同様のため説明を省略する。また、図8〜図9で説明した、下端点を基に走路境界を検出し、検出した走路境界で区切られた各領域毎に立体物の水平方向位置と速度の関係から、移動体を検出する方法については、第1の実施例における処理と同様のため説明を省略する。
【0107】
まず、算出した速度画像に物体を検出するための領域を設定する。すなわち、図11に示すように、速度画像上に短冊状の複数の領域を設定し、速度画像を分割する。本実施例では、各領域毎に画像下端から上端に速度を持った画素を順に走査して検出し、検出した画素を前述の(式1)、(式2)に基づいてZX平面へ座標変換し、座標変換の結果が図7に示す規定のZX平面内に位置するか否かを判定する。座標変換の結果が規定のZX平面内に位置すれば、平面物の候補点と判定する。一方、規定のZX平面内に位置しなければ、立体物の候補点として判定する。なお、規定のZX平面は第1の実施例で説明した領域と同じ領域とし、領域の設定方法については説明を省略する。例えば本実施例では、P11〜P13は規定のZX平面内の同一の領域に位置して平面物の候補点と判定され、P14〜P113は規定のZX平面内に位置しないため、立体物候補点と判定される。同様に、P21〜P23、P31〜P33、P41、P42、P51、P52、P61〜P64、P71〜P74、P81、P82、P91〜P93、P101、P102、P111〜P113は平面物候補点と判定され、P24〜P213、P34〜P313、P43〜P412、P53〜P510は立体物候補点と判定される。
【0108】
次に平面物候補点と立体物候補点の判定結果に基づき、立体物の判定を行う。すなわち、平面物候補点であると判定された点と立体物候補点であると判定された点が、縦方向に連続して存在する場合は、立体物の内、路面近くに存在する部分が誤って平面物候補点であると判定されたものと推定できるため、図12に示すように、平面物候補点と立体物候補点が縦方向に連続して存在する物体を立体物として判定する。例えば、本実施例では、平面物候補点P11〜P13と立体物候補点P14〜P113が縦方向に連続しているため、P11〜P113を立体物OB1として判定する。同様に、P21〜P213を立体物OB2、P31〜P313を立体物OB3、P41〜P412を立体物OB4、P51〜P510を立体物OB5として判定する。
【0109】
さらに、図12に示すように、平面物および立体物と判定された点のうち、下端点を抽出し、第1の実施例と同様に下端点のZX平面への座標変換点が位置するZX平面の領域のカウンタのカウンタ値を+1加算して、下端点の位置分布を算出する。例えば、本実施例では、P11、P21、P31、P41、P51、P61、P71、P81、P91、P101、P111を下端点として検出し、図8に示す各下端点の座標変換点RB1〜RB11が位置する領域のカウンタのカウンタ値を+1加算する。以下、第1の実施例と同様の操作を行うことで、走路境界と立体物、立体物中の移動体の検出を行うことができる。
【0110】
図13は、本実施例における物体検出装置10の処理を示すフローチャートである。図13に示す処理はイグニションスイッチがオンされると、起動されるプログラムとして実行される。図13においては、図10に示す第1の実施例における処理と同一の処理内容については、同じステップ番号を付与し、以下相違点を中心に説明する。
【0111】
ステップS118では、ステップS104にて設定した物体検出用の短冊領域内において画像下端から上端に向かって走査を行い、速度を持つ画素の座標を(式1)、(式2)を用いてZX平面上へ座標変換する。この後に、フローはステップS119へ移行する。
【0112】
ステップS119では、画素の座標変換点が規定のZX平面内に位置すれば、平面物候補点と判定し、画素の座標変換点が規定のZX平面内に位置しなければ、立体物候補点と判定する。この後に、フローはステップS120に進む。
【0113】
ステップS120では、速度が算出された画素の全てがZX平面上へ座標変換されて、平面物候補点および立体物候補点の検出が終了したかどうかが判定される。平面物候補点および立体物候補点の検出が終了した場合には、フローはステップS121に進む。一方、平面物候補点および立体物候補点の検出が終了していない場合は、フローはステップS118に戻る。
【0114】
ステップS121では、各領域内において、平面物候補点および立体物候補点が縦方向に連続して存在する場合には、平面物候補点および立体物候補点を含む物体を一つの立体物として判定する。この後に、フローはステップS122に進む。
【0115】
ステップS122では、各領域において、平面物および立体物と判定された点のうち、一番下にある点を下端点として検出し、検出した下端点のZX平面上の座標変換点が位置する領域のカウンタのカウンタ値を+1加算する。この後に、フローはステップS123に進む。
【0116】
ステップS123では、各領域において、カウンタ値に基づき各領域の下端点の位置分布情報の算出が終了したかどうかの判定が行われる。各領域の下端点の位置分布情報の算出が終了した場合には、フローはステップS110へ進む。一方、各領域の下端点の位置分布情報の算出が終了していない場合には、フローはステップS121へ戻る。
【0117】
以降、第1の実施例と同様の処理により、走路境界、立体物、移動体を検出する。
【0118】
以上説明した本発明の実施の形態の物体検出装置によれば、第1の実施例の作用効果に加え、以下のような作用効果を得ることができる。
【0119】
前記物体属性判定部107は、前記画素が前記3次元の前記複数の領域のうちいずれかの領域に位置する場合に前記画素を平面物候補点と判定する一方、前記画素が前記3次元の前記複数の領域外に位置する場合に前記画素を立体物候補点と判定し、前記平面物候補点と前記立体物候補点が前記画像において垂直方向に連続して位置する場合に前記平面物候補点と前記立体物候補点を一つの立体物として判定することとした。
【0120】
この構成によれば、カメラ101で撮像した画像に基づいて算出した速度画像上に物体検出領域を設定し、速度を有する各画素をZX平面へ座標変換した後に、ZX平面における座標変換点の位置座標に基づいて、各画素が平面物候補点か立体物候補点かの判定を行う。ここで、平面物候補点と立体物候補点が画像上の垂直方向に連続して存在する場合には、平面物候補点と立体物候補点を持つ物体を一つの立体物と判定する。この操作により、同じ物体を構成する画素でありながら何らかの影響で同じ速度が算出されない場合でも正確に立体物の判定が可能となる。
【0121】
また、以上説明した本発明の実施の形態の物体検出方法によれば、第1の実施例の作用効果に加え、以下のような作用効果を得ることができる。
【0122】
前記特徴点が移動体であることの判定は、前記画素が前記3次元の前記複数の領域のうちいずれかの領域に位置する場合に前記画素を平面物候補点と判定する一方、前記画素が前記3次元の前記複数の領域外に位置する場合に前記画素を立体物候補点と判定し、前記平面物候補点と前記立体物候補点が前記画像において垂直方向に連続して位置する場合に前記平面物候補点と前記立体物候補点を一つの立体物として判定することを含むこととした。
【0123】
この方法によれば、撮像した画像に基づいて算出した速度画像上に物体検出領域を設定し、速度を有する各画素をZX平面へ座標変換した後に、ZX平面における座標変換点の位置座標に基づいて、各画素が平面物候補点か立体物候補点かの判定を行う。ここで、平面物候補点と立体物候補点が画像上の垂直方向に連続して存在する場合には、平面物候補点と立体物候補点を持つ物体を一つの立体物と判定する。この操作により、同じ物体を構成する画素でありながら何らかの影響で同じ速度が算出されない場合でも、正確に立体物の判定が可能となる。
【実施例3】
【0124】
本実施例では、走路境界で区切られた区画おいて、立体物の水平方向位置と速度の関係が算出されない場合においても、移動体の検出を行う。
【0125】
ここでは、図14に示すように、外壁と歩行者との間に白線及び駐車車両が存在する場合について、説明を行う。
【0126】
なお、図1に示したブロック図、図2に示した車両へのカメラ101の設置例を示す図、図4に示したエッジの正規化の例を示す図については、第1の実施例と同様のため説明を省略する。
【0127】
まず、撮像画像上に存在するエッジの速度成分を所定の階級値に分類して表した速度画像を生成する。本実施例における速度画像は、図15に示すように、速度が検出されたエッジの画素を丸型の点で表し、移動速度が速い画素ほど点を大きく示す。また、右へ向かう速度を黒点で表し、左へ向かう速度を白点で表すことによって移動方向を表している。
【0128】
図15においては、自車両の走行路右側の外壁からは画像の右側へ向かう速度が検出され、走行路左側の外壁からは画像の左側へ向かう速度が検出されている。また、走行路左側から右へ移動する歩行者では、画像の右側へ向かう速度が検出され、走行路左側に駐車中の車両からは左側へ向かう速度が検出されている。さらに、自車両の挙動により、走行走路右側の白線からは画像の左側へ向かう速度が検出され、走行走路左側の白線からは画像の右側へ向かう速度が検出されているものとする。
【0129】
次に、速度画像に基づき、物体検出を行う。物体を検出するための領域の設定および同一物体と判定するための画素のグループ化方法については実施例1と同様のため、説明は省略する。本実施例では、図16に示すように、図15に示す撮像画像において、上端TL1〜TL15および下端BL1〜BL15が検出される。
【0130】
次に、xy平面上で抽出した下端BL1〜BL15および上端TL1〜TL15の中心位置を座標とする下端点BP1〜BP15(図示省略)および上端点TP1〜TP15(図示省略)の位置座標を、規定の面積を備えたZX平面(以下、規定のZX平面と呼ぶ)上の点として3次元の位置座標(実空間上の3次元における位置座標)に変換する。この変換方法は、実施例1と同様のため、説明を省略する。本実施例では、上端点TP1〜TP15、下端点BP1〜BP15の変換後の点を、上端点の座標変換点RT1〜RT15、下端点の座標変換点RB1〜RB15とする。
【0131】
次に、上端点及び下端点の座標変換点が規定のZX平面を分割して設定した領域のどの領域に位置するかに基づいて、平面物、立体物の判定を行う。また、走路境界を検出するために、各領域に設定したカウンタのうち、下端点の座標変換点が位置する領域のカウンタ値を加算し、下端点の位置情報分布を算出する。このZX平面の分割方法、平面物と立体部の判定方法、下端点の位置情報分布の算出方法は、実施例1と同様のため、説明は省略する。
【0132】
本実施例では、図17に示すように、上端点TP1、TP4、TP6〜TP9、T13〜TP15の座標変換点RT1、RT4、RT6〜RT9、RT13〜RT15は、図17に示す規定のZX平面外に投影されるため、上端点TP1、TP4、TP6〜TP9、T13〜TP15を含むグループは立体物であると判定され、上端点TP1、TP4、TP6〜TP9、T13〜TP15を含むエッジはxy平面上で立体物OB1〜OB9として判定される。また上端点TP2、TP3、TP5、TP10〜TP12の座標変換点RT2、RT3、RT5、RT10〜RT12は、下端点BP2、BP3、BP5、BP10〜BP12の座標変換点RB2、RB3、RB5、RB10〜RB12と同じ領域に位置するため、上端点TP2、TP3、TP5、TP10〜TP12を含むグループは路面上に位置する物体であると判定される。ここで、走路境界を検出するために、下端点の座標変換点RB1〜RB15が位置する領域のカウンタのカウンタ値を+1加算する。
【0133】
そして、図18に示すように、得られた下端点の座標変換点の位置分布から、走路境界線が存在する可能性が高い領域を抽出し、抽出した走路境界を示す直線が存在するかどうかの判定を行う。抽出方法及び直線の存在判定方法は実施例1と同様のため、説明は省略する。本実施例では、領域10では、下端点の座標変換点RB1、RB4、RB8に対応するxy平面上の下端点BP1、BP4、BP8を結ぶ直線は走路境界を示す直線L1であると判定され、領域30では、下端点の座標変換点RB2、RB3、RB5に対応するxy平面上の下端点BP2、BP3、BP5を結ぶ直線は走路境界を示す直線L3であると判定され、領域60では、下端点の座標変換点RB10、RB11、RB12に対応するxy平面上の下端点BP10、BP11、BP12を結ぶ直線は走路境界を示す直線L6であると判定され、領域80では、下端点n座標変換点RB13、RB14、RB15に対応するxy平面上の下端点BP13、BP14、BP15を結ぶ直線は走路境界を示す直線L8であると判定される。
【0134】
次に、図19に示すように、走路境界を示す直線のうち、自車両の近傍から遠方に連続して存在する立体物で構成される直線を背景として検出する。一般に、背景は、静止した立体物が自車両近傍から遠方に直線的に並んでおり、近傍の速度が速く、遠方に行くに従い速度が遅くなる、という特徴を備える。したがって、このような特徴を示す走路境界を背景として抽出する。ここで、立体物で構成される走路境界が複数存在する場合には、自車両からより遠方に位置する走路境界を選択する。本実施例では、外壁と路面の交点である走路境界線L1とL8を背景として検出する。
【0135】
次に、図19に示すように、検出した背景の画像位置と速度の関係から、画像上の任意の位置における静止物体の速度を算出する予測式を算出する。背景となる立体物は静止物であるため、背景となる立体物の速度は、画像の各位置における静止物の速度を表している。例えば、立体物OB1、OB2、OB5の速度は、それぞれの画像位置における静止物の速度を表している。したがって、複数の立体物間の画像位置と速度の関係を示す予測式を算出することで、画像上の任意の位置の静止物の速度を求めることができる。本実施例では、画像左側の物体に対しては、立体物OB1、OB2、OB5の画像上のxy座標を説明変数、速度を目的変数として、回帰分析を行い、静止物体の速度の予測式を算出する。同様に、画像右側の物体に対しては、立体物OB7、OB8、OB9の画像上のxy座標を説明変数、速度を目的変数として、回帰分析を行い、静止物体の速度の予測式を算出する。
【0136】
次に、図19に示すように、画像処理により検出された立体物の下端位置での速度情報(速度の値、方向)と、算出した予測式から得られる立体物の下端位置における静止物の速度情報とを比較して速度情報が異なる場合に立体物を移動体として検出する。
【0137】
本発明の場合、自車両に向かって来る移動体が移動体としての検出対象となるため、立体物の速度の方向が予測式から算出した静止物体の速度と同じ方向であり、立体物の速度の値と予測式から算出した静止物の速度の値との差が所定値以下であれば、その立体物は自車両に向かって来る移動体ではない静止物であると判定する。
【0138】
また、移動体であれば、路面上に存在する可能性が高く背景よりも手前に存在するため、画像上では、立体物の下端は背景の下端よりも下方に存在し、立体物の上端は一般に背景の下端よりも高い位置に存在する。さらに、自車両の方向に向かって来る移動体のうち、立体物の下端位置での速度成分が予測式から算出した静止物と反対方向の速度成分を持つ場合には、確実に自車両の進路方向に向かって来る移動体であるといえる。
【0139】
したがって、予測式から算出した速度とは反対向きの速度を持ち、背景の下端位置よりも上端位置が高い立体物という判定条件を加えることによって、移動体であるかどうかの判定だけでなく自車の進路路方向に進む移動体であることを簡易的に判定することができる。
【0140】
本実施例では、立体物OB3、OB4は、予測式から算出した静止物の速度情報と同等の速度情報を有するため、静止物であると判定する。また、立体物OB6は、予測式から算出した静止物とは反対向きの速度の方向を持ち、その上端位置が背景(走路境界L1)の下端位置よりも高い位置にあるため、自車両の進路方向に進む移動体であると判定する。
【0141】
図20は、本実施例における物体検出装置10の処理を示すフローチャートであり、前述の移動体判定方法のうち、自車両の方向に確実に向かってくる移動体を簡易的に判定するためのものである。図20に示す処理はイグニションスイッチがオンされると、起動されるプログラムとして実行される。図20においては、図10に示す第1の実施例における処理と同一の処理内容については、同じステップ番号を付与し、以下相違点を中心に説明する。
【0142】
ステップS131では、ステップS112で検出した走路境界直線のうち、車両の近傍から遠方に連続して存在する立体物で構成される直線を背景となる走路境界として検出する。この後に,フローはステップS132へ移行する。
【0143】
ステップS132では、ステップS131で検出した背景となる走路境界を構成する立体物の速度情報を目的変数とし、下端点における画像xy座標を説明変数として、重回帰分析を行うことで、画像上の任意の位置での静止物の速度の予測式を算出する。この後に、フローはステップ133に移行する。
【0144】
ステップS133では、ステップS131で検出した背景となる走路境界の位置と立体物の上端位置とを比較し、画像上において、走路境界の位置よりも立体物の上端位置が上方に存在する場合には、その立体物を移動体候補として検出する。この後に、フローはステップS134に移行する。
【0145】
ステップS134では、ステップS133で検出した移動体候補の速度情報と移動体候補位置において予測式から得られる静止物の速度情報とを比較し、速度差の絶対値が所定の範囲内にある場合は、その移動体候補を静止物と判定し、フローはステップS116に移行する。一方、速度差の絶対値が所定の範囲外である場合ば、その移動体候補を移動体と判定し、フローはステップS135に移行する。
【0146】
ステップS135では、移動体と判定された立体物の速度の向きと予測式から得られた静止物体の速度の向きが反対であれば、その移動体を自車の進路中心に向かう移動体と判定する。この後に、フローはステップS116に移行する。
【0147】
以降、第1の実施例と同様の処理により、全ての移動体の検出処理を行い、処理を終了する。
【0148】
以上説明した本実施の形態の物体検出装置によれば、以下のような作用効果を得ることができる。
【0149】
前記物体属性判定部107は、前記3次元における前記位置座標と前記画素の速度情報とに基づいて、基準となる静止物および移動体としての判定対象となる立体物を検出し、前記基準となる静止物を構成する前記画素の前記速度情報と、前記移動体としての判定対象となる立体物を構成する前記速度情報とに基づいて、前記移動体としての判定対象となる立体物が移動体であることを判定することとした。
【0150】
また、本実施の形態の物体検出装置によれば、前記基準となる静止物は、背景となる立体物であることとした。
【0151】
また、本実施の形態の物体検出装置によれば、前記画像の垂直方向に隣接するとともに速度情報が所定の範囲にある前記画素をグループ化するグループ化部106を備え、前記物体属性判定部107は、前記グループ化部106によりグループ化した前記画素のうち最上部に位置する前記画素と最下部に位置する前記画素の前記3次元における位置座標を検出し、検出した前記最上部に位置する前記画素が前記3次元の所定の範囲を所定の数に分割して設定した複数の領域外に位置するとともに検出した前記最下部に位置する前記画素が前記3次元の前記複数の領域のうちいずれかの領域に位置する場合にはグループ化した前記画素を立体物と判定し、検出した複数の前記立体物の最下部に位置する前記画素が前記実空間上の3次元における位置座標において直線上に並ぶとともに、複数の前記立体物の前記最下部に位置する前記画素の速度情報が前記直線方向において一定の割合で変化する場合に、前記立体物を背景となる静止物と判定することとした。
【0152】
また、本実施の形態の物体検出装置によれば、前記物体属性判定部107は、前記背景となる静止物である複数の前記立体物の前記最下部に位置する前記画素の位置座標と速度とに基づいて、前記移動体としての判定対象となる立体物の位置座標における静止物の速度を算出し、算出した該静止物と前記移動体としての判定対象となる立体物との速度情報が異なる場合に、前記移動体としての判定対象となる立体物を移動体と判定することとした。
【0153】
この構成によれば、自車の近傍から遠方に連続して存在する静止している立体物は背景であることから、検出した立体物の中から容易に背景を検出することができる。また、静止物である背景は、自車の近傍における速度は大きく、遠方になるに従い速度が小さくなるという特徴を備えるため、検出した背景の画像位置と速度の関係を表す予測式を算出することにより、画像上の任意の位置での静止物の速度情報を予測することができる。したがって、検出した立体物の速度情報と、その立体物の位置で予測式により算出した背景(静止物)の速度情報とを比較することで、立体物が移動体であるか否かを簡単に判定することができる。
【0154】
また、この構成によれば、背景と立体物との速度情報の比較に基づいて移動体の検出を行うため、複数の立体物が存在しなくても移動物体の検出が可能になり、より複雑な背景下においても画像を分割することなく一括して移動体の検出を行うことができる。
【0155】
また、本実施の形態の物体検出装置によれば、前記物体属性判定部107は、前記背景となる静止物である前記立体物とは反対方向の速度を持つとともに、前記背景となる静止物である前記立体物の下端位置よりも高い位置に上端位置がある立体物を移動体と判定することとした。
【0156】
この構成によれば、立体物の速度の方向と上端の位置とに基づいて、移動体の検出を簡単に行うことができる。
【0157】
また、以上説明した本実施の形態の物体検出方法によれば、以下のような作用効果を得ることができる。
【0158】
前記3次元における前記位置座標と前記画素の速度情報とに基づいて、基準となる静止物および移動体としての判定対象となる立体物を検出し、前記基準となる静止物を構成する前記画素の前記速度情報と、前記移動体としての判定対象となる立体物を構成する前記速度情報とに基づいて、前記移動体としての判定対象となる立体物が移動体であることを判定することとした。
【0159】
また、本実施の形態の物体検出方法によれば、前記基準となる静止物は、背景となる立体物であることとした。
【0160】
また、本実施の形態の物体検出方法によれば、前記画像の垂直方向に隣接するとともに速度情報が所定の範囲にある前記画素をグループ化し、グループ化した前記画素のうち最上部に位置する前記画素と最下部に位置する前記画素の前記3次元における位置座標を検出し、検出した前記最上部に位置する前記画素が前記3次元の所定の範囲を所定の数に分割して設定した複数の領域外に位置するとともに検出した前記最下部に位置する前記画素が前記3次元の前記複数の領域のうちいずれかの領域に位置する場合にはグループ化した前記画素を立体物と判定し、検出した複数の前記立体物の最下部に位置する前記画素が前記実空間上の3次元における位置座標において直線上に並ぶとともに、複数の前記立体物の前記最下部に位置する前記画素の速度情報が前記直線方向において一定の割合で変化する場合に、前記立体物を背景となる静止物と判定することとした。
【0161】
また、本実施の形態の物体検出方法によれば、前記背景となる静止物である複数の前記立体物の前記最下部に位置する前記画素の位置座標と速度とに基づいて、前記移動体としての判定対象となる立体物の位置座標における静止物の速度を算出し、算出した該静止物と前記移動体としての判定対象となる立体物との速度情報が異なる場合に、前記移動体としての判定対象となる立体物を移動体と判定することとした。
【0162】
この方法によれば、自車の近傍から遠方に連続して存在する静止している立体物は背景であることから、検出した立体物の中から容易に背景を検出することができる。また、静止物である背景は、自車の近傍における速度は大きく、遠方になるに従い速度が小さくなるという特徴を備えるため、検出した背景の画像位置と速度の関係を表す予測式を算出することにより、画像上の任意の位置での静止物の速度情報を予測することができる。したがって、検出した立体物の速度情報と、その立体物の位置で予測式により算出した背景(静止物)の速度情報とを比較することで、立体物が移動体であるか否かを簡単に判定することができる。
【0163】
また、この方法によれば、背景と立体物との速度情報の比較に基づいて移動体の検出を行うため、複数の立体物が存在しなくても移動物体の検出が可能になり、より複雑な背景下においても画像を分割することなく一括して移動体の検出を行うことができる。
【0164】
また、本実施の形態の物体検出方法によれば、前記背景となる静止物である前記立体物とは反対方向の速度を持つとともに、前記背景となる静止物である前記立体物の下端位置よりも高い位置に上端位置がある立体物を移動体と判定することとした。
【0165】
この方法によれば、立体物の速度の方向と上端の位置とに基づいて、移動体の検出を簡単に行うことができる。
【実施例4】
【0166】
本実施例では、走路境界で区切られた区画おいて、立体物の水平方向位置と速度の関係が算出されない場合においても、移動体の検出を行い、移動物体の進路の方向を判定する。
【0167】
ここでは、図21に示すように、外壁と歩行者との間に白線及び駐車車両が存在する場合について、説明を行う。ここで、走行路左側から右へ移動する歩行者の移動速度が自車両の走行に伴う画面の移動速度より遅く、画面上では左側へ向かう速度が検出されているものとして説明を行う。
【0168】
なお、図1に示したブロック図、図2に示した車両へのカメラ101の設置例を示す図、図4に示したエッジの正規化の例を示す図については、第1の実施例と同様のため説明を省略する。また、図16〜図19の各説明図については、実施例3と同様のため、説明を省略する。
【0169】
本実施例では、予測式から得られる静止物の速度情報と検出した立体物の速度情報とを比較することにより移動物体を検出し、移動物体の移動方向を判定する。ここで、予測式からから得られる静止物の速度情報と検出した立体物の速度情報が異なり、立体物が反対向きの速度情報を持つ場合については、実施例3で説明したため、説明は省略する。
【0170】
図22に、自車両と自車両周囲の移動体の移動方向の関係を、図23に、移動体の実空間上での移動方向と画面上での移動方向の関係を示す。ここで、自車両が時刻tから時刻t+1走行する間に画面上の背景が左方向に移動する速度をVbとする。
【0171】
自車両が走行中に、自車両の進路に直角に速度Vpで近づく移動体P1の画面上の動きを考える。速度Vpの画面上における速度をVmとすると、移動体P1は、Vm>Vbで自車両の進路に近づけば、画面上では右方向に移動するように見え、Vm=Vbで自車両の進路に近づけば、画面上では静止しているように見え、Vm<Vbで自車両の進路に近づけば、実空間上では右方向に移動しているにもかかわらず画面上では左方向に移動するように見える(図23の区間D1)。
【0172】
次に、自車両が走行中に、自車両の進行方向に速度Vpで遠ざかる(図23、24では背面移動と記載)移動体P21の画面上の動きを考える。時刻tにおける移動体P21の画面上の水平方向位置をx(t)、時刻t+1における移動体P21の画面上の水平方向位置をx(t+1)とすると、x(t+1)−x(t)>0となる場合は、画面上では右方向に移動するように見え、x(t+1)−x(t)=0となる場合は、画面上では静止しているように見え、x(t+1)−x(t)<0となる場合は、画面上では左方向に移動するように見える。ここで、移動体P21は自車両の進行方向に遠ざかるように移動しているので、画面上の位置変化は通常背景の位置変化より小さくなり、自車両の進行方向に遠ざかる移動体P21は、画面上では左方向に移動するように見える(図23の区間D21)。
【0173】
次に、自車両が走行中に、停止している立体物P2の画面上の動きを考える。立体物P2は、背景と同等の速度を有する。したがって、停止している立体物P2は画面上では速度Vbで左方向に移動するように見える(図23の区間D2)。なお、ここでは実空間上で速度が±Vs以下である移動体を停止しているものと仮定している。
【0174】
次に、自車両が走行中に、自車両の進行方向に速度Vpで近づく移動体P22の画面上の動きを考える。時刻tにおける移動体P22の画面上の水平方向位置をx(t)、時刻t+1における移動体P22の画面上の水平方向位置をx(t+1)とすると、x(t+1)−x(t)>0となる場合は、画面上では右方向に移動するように見え、x(t+1)−x(t)=0となる場合は、画面上では静止しているように見え、x(t+1)−x(t)<0となる場合は、画面上では左方向に移動するように見える。ここで、移動体P11は自車両の進行方向に近づくように移動しているので、画面上の位置変化は通常背景の位置変化より大きくなり、自車両の進行方向に遠ざかる移動体P22は、画面上では左方向に移動するように見える(図23の区間D22)。
【0175】
次に、自車両が走行中に、自車両の進路に直角に速度Vpで遠ざかる移動体P3の画面上の動きを考える。速度Vpの画面上における速度をVmとすると、移動体P3は、画面上では速度Vm+Vbで左方向に移動するように見える(図23の区間D3)。
【0176】
図24は、本実施例における物体検出装置10の処理を示すフローチャートである。図24に示す処理はイグニションスイッチがオンされると、起動されるプログラムとして実行される。図24においては、図23に示す実施例1および実施例3における処理と同一の処理内容については、同じステップ番号を付与し、以下相違点を中心に説明する。
【0177】
ステップS141では、ステップS134で検出した移動体に対して、移動体と判定された立体物の速度情報と予測式から得られた静止物の速度情報とを比較することにより、前述した移動体の移動方向の判定が行われる。
【0178】
ステップS141の詳細を示すフローチャートを図25に示す。
【0179】
ステップS1411では、検出した移動体の速度Vmの絶対値と予測式から得られた静止物の速度Vbの絶対値との差dV=|Vm|−|Vb|に基づいて、フローの分岐が行われる。dV>0の場合は、フローはステップS1412へ移行する。一方、dV≦0の場合は、フローはステップS1415へ移行する。
【0180】
ステップS1412では、|dV|が所定値以上であるか否かの判定が行われる。|dV|が所定値以上である場合は、フローはステップS1413へ移行する。一方、|dV|が所定値未満の場合は、フローはステップS1414へ移行する。
【0181】
ステップS1413では、移動体は図23の区間D3の条件に該当し、移動体は自車両の進路中心から遠ざかると判定される。
【0182】
ステップS1414では、移動体は図23の区間D22の条件に該当し、移動体は自車両の進行方向に近づくと判定される。
【0183】
ステップS1415では、|dV|が所定値以上であるか否かの判定が行われる。|dV|が所定値以上である場合は、フローはステップS1416へ移行する。一方、|dV|が所定値未満の場合は、フローはステップS1416へ移行する。
【0184】
ステップS1416では、移動体は図23の区間D1の条件に該当し、移動体は自車両の進路中心に徐々に近づくと判定される。
【0185】
ステップS1417では、移動体は図23の区間D21の条件に該当し、移動体は自車両の進行方向に遠ざかると判定される。
【0186】
以降,第1の実施例と同様の処理により、全ての移動物体検出処理を行い処理を終了する。
【0187】
以上説明した本実施の形態の物体検出装置によれば、以下のような作用効果を得ることができる。
【0188】
前記物体属性判定部107は、前記背景となる静止物である前記立体物と同じ方向の速度を持つ立体物の実空間上における移動方向を判定することとした。
【0189】
この構成によれば、予測式で算出された静止物の速度と検出した移動体の速度差とに基づいて、自車両の進路中心に近づく移動体以外の移動体の移動方向の判定が可能となる。
【0190】
また、以上説明した本実施の形態の物体検出方法によれば、以下のような作用効果を得ることができる。
【0191】
前記背景となる静止物である前記立体物と同じ方向の速度を持つ立体物の実空間上における移動方向を判定することとした。
【0192】
この方法によれば、予測式で算出された静止物の速度と検出した移動体の速度差とに基づいて、自車両の進路中心に近づく移動体以外の移動体の移動方向の判定が可能となる。
【0193】
以上のように、本発明によれば、撮像面の水平軸と垂直軸をそれぞれ地表面と平行および垂直に設定したカメラで撮像した画像から平面物と立体物を識別するとともに立体物が移動体であるかどうかの識別も可能であり、簡単なセンサ構成で移動体を検出することができる。
【0194】
また、画像の特徴点(エッジ)の画像上における速度と位置座表とに基づいて平面物と立体物の識別を行うため、簡単なアルゴリズムで高速に移動体の検出ができる。
【0195】
また、検出した複数の立体物の水平方向位置と速度の関係から移動体を検出するため、車両の動きの推定や物体までの距離を算出する必要がなく、簡単なアルゴリズムで高速に移動体の検出ができる。
【0196】
また、座標変換点の位置座標から走路境界を検出し、走路境界で区切られた各区画毎において複数の立体物の水平方向位置と速度の関係を求めることにより、複雑な背景下においても効率的に移動体の検出ができる。
【0197】
また、速度の検出精度が不足し、同じ物体を表す特徴点の画素の速度にばらつきがある場合でも、平面物と立体物の検出を精度よく行うことができる。
【0198】
また、検出した立体物の速度情報と、その立体物の位置で予測式により算出した背景(静止物)の速度情報とを比較することで、立体物が移動体であるか否かを簡単に判定することができる。
【0199】
また、検出した立体物の速度の方向と上端の位置に基づいて、移動体の検出を簡単に行うことができる。
【0200】
さらに、予測式で算出された静止物の速度と検出した移動体の速度差に基づいて、自車両の進路中心に近づく移動体以外の移動体の移動方向の判定が可能となる。
【0201】
以上、本発明の実施例を図面により詳述したが、実施例は本発明の例示にしか過ぎず、本発明は実施例の構成にのみ限定されるものではない。したがって本発明の要旨を逸脱しない範囲の設計の変更等があっても本発明に含まれることはもちろんである。
【0202】
例えば、ブロック図は上記実施例に示すものに限定されるものではなく、同等の機能を備えた構成であれば良い。
【0203】
また、カメラの取り付け位置は実施例で述べた位置に限定されるものではなく、カメラの光軸が車両前方正面方向(Z方向)に向き、撮像面の水平軸および垂直軸がそれぞれ路面と平行および垂直となるように設定されていれば良い。
【0204】
また、検出したエッジの幅の正規化を行うにあたっては、エッジ幅は3画素に限定されるものではなく、任意の画素数を設定することができる。この場合、その後の処理でエッジの中央部の画素を利用するため、エッジ幅の画素数は奇数個であることが望ましい。
【0205】
また、ZX平面を分割して設定する領域の数は上記実施例に示すものに限定されるものではなく、任意の数に分割して設定することができる。
【0206】
また、ZX平面の縦方向および横方向の範囲は、任意の値に設定することができる。
【0207】
また、上記実施例では道路を走行する車両に物体検出装置10を搭載する例について説明したが、他の移動体に搭載してもよい。
【0208】
さらに、上記実施例では、走路境界として、縁石、白線、外壁と路面との接点の例について説明したが、これに限定されず、例えば、ガードレール、駐車車両と路面との境界、路面と路面以外の領域(田、畑など)との境界を検出してもよい。
【図面の簡単な説明】
【0209】
【図1】物体検出装置の一実施の形態の構成例を示すブロック図である。
【図2】カメラ101の車両への設置例を示す図である。
【図3】カメラ101で撮像した画像の例を示す図である。
【図4】抽出したエッジを正規化して、エッジ画像を得るために行う各処理の例を示す図である。
【図5】速度画像の例を示す図である。
【図6】速度画像上に物体検出用領域を設定し、各物体検出用領域において下端点と同じ速度を持つ画素をグループ化し、グループ化した領域の上端点の位置を検出した例を示す図である。
【図7】速度画像上で検出した上端点と下端点をZX平面上に座標変換し、物体が平面物か立体物かの判定を行う例を示す図である。
【図8】下端点の座標変換点のZX平面上の位置分布より走路境界線を検出する例を示す図である。
【図9】検出した走路境界で区切られた領域内で検出した立体物の画像の水平方向位置と速度の関係から移動体を検出する場合の具体例を示す図である。
【図10】物体検出装置10の第1の実施例の処理を示すフローチャートである。
【図11】速度画像上に物体検出用領域を設定し、各物体検出用領域において速度を持った画素をZX平面上へ座標変換することで、平面物候補点か立体物候補点かを判定する例を示す図である。
【図12】検出した平面物候補点と立体物候補点の並び方から立体物の判定を行う例を示す図である。
【図13】物体検出装置10の第2の実施例の処理を示すフローチャートである。
【図14】実施例3において、カメラ101で撮像した画像の例を示す図である。
【図15】速度画像の例を示す図である。
【図16】速度画像上に物体検出用領域を設定し、各物体検出用領域において下端点と同じ速度を持つ画素をグループ化し、グループ化した領域の上端点の位置を検出した例を示す図である。
【図17】速度画像上で検出した上端点と下端点をZX平面上に座標変換し、物体が平面物か立体物かの判定を行う例を示す図である。
【図18】下端点の座標変換点のZX平面上の位置分布より走路境界線を検出する例を示す図である。
【図19】検出した走路境界から背景を検出し、背景となる立体物の位置座標と速度との関係から画像上の任意の位置における静止物の速度を算出する予測式を決定し、この予測式による速度情報と検出した立体物の速度情報とを比較することにより移動体の検出を行う説明図である。
【図20】実施例3の処理のフローチャートである。
【図21】速度画像の例を示す図である。
【図22】自車両と自車両周囲の移動体の移動方向の関係を示す図である。
【図23】移動体の実空間上での移動方向と画面上での移動方向の関係を示す図である.
【図24】実施例4における処理のフローチャートである。
【図25】実施例4における移動体の移動方向の判定の処理のフローチャートである。
【符号の説明】
【0210】
10 物体検出装置
100 制御部
101 カメラ(撮像部)
102 画像一時記録部
103 特徴点抽出部
104 座標変換部
105 移動情報算出部
106 グループ化部
107 物体属性判定部
【特許請求の範囲】
【請求項1】
自車両前方の画像を撮像する撮像部と、
前記撮像部で撮像した画像から特徴点を抽出する特徴点抽出部と、前記特徴点を表す画素の速度情報を算出する移動情報算出部と、前記画素の位置座標を実空間上の3次元における位置座標に変換する座標変換部と、前記画素の前記3次元における前記位置座標および前記画素の前記速度情報に基づいて前記特徴点が移動体であることを判定する物体属性判定部とを備えることを特徴とする物体検出装置。
【請求項2】
前記物体属性判定部は、前記画素の前記3次元における水平方向の位置座標と前記画素の速度情報との関係において前記画素の速度情報とは異なる速度情報を有する座標がある場合に、前記特徴点が移動体であると判定することを特徴とする請求項1に記載の物体検出装置。
【請求項3】
前記画像の垂直方向に隣接するとともに速度情報が所定の範囲にある前記画素をグループ化するグループ化部を備え、
前記物体属性判定部は、前記グループ化部によりグループ化した前記画素のうち最上部に位置する前記画素と最下部に位置する前記画素の前記3次元における位置座標に基づいて前記判定を行うことを特徴とする請求項1または2に記載の物体検出装置。
【請求項4】
前記物体属性判定部は、前記最上部に位置する前記画素と前記最下部に位置する前記画素が前記3次元の所定の範囲を所定の数に分割して設定した複数の領域のうち同一の領域に位置する場合には前記移動体を平面物と判定し、前記最上部に位置する前記画素が前記3次元の前記複数の領域外に位置するとともに前記最下部に位置する前記画素が前記3次元の前記複数の領域のうちいずれかの領域に位置する場合には前記移動体を立体物と判定することを特徴とする請求項1から3のいずれか1項に記載の物体検出装置。
【請求項5】
前記物体属性判定部は、前記画素が前記3次元の前記複数の領域のうちいずれかの領域に位置する場合に前記画素を平面物候補点と判定する一方、前記画素が前記3次元の前記複数の領域外に位置する場合に前記画素を立体物候補点と判定し、前記平面物候補点と前記立体物候補点が前記画像において垂直方向に連続して位置する場合に前記平面物候補点と前記立体物候補点を一つの立体物として判定することを特徴とする請求項1から4のいずれか1項に記載の物体検出装置。
【請求項6】
前記物体属性判定部は、前記画素のうち前記画像の垂直方向において最下部に位置する前記画素の前記3次元における前記位置座標に基づいて前記自車両の走路の境界を表す走路境界を検出し、該走路境界で区切られた区画毎に前記移動体判定を行うことを特長とする請求項1から5のいずれか1項に記載の物体検出装置。
【請求項7】
前記特徴点が物体のエッジであることを特徴とする請求項1から6のいずれか1項に記載の物体検出装置。
【請求項8】
自車両前方の画像を撮像し、
撮像した画像から特徴点を抽出し、
抽出した特徴点を表す画素の速度情報を算出し、
前記画素の位置座標を実空間上の3次元における位置座標に変換し、
前記画素の前記3次元における前記位置座標および前記画素の前記速度情報に基づいて、
前記特徴点が移動体であることを判定することを特徴とする物体検出方法。
【請求項9】
前記移動体であることの判定は、前記画素の前記3次元における水平方向の位置座標と前記画素の速度情報との関係において前記画素の速度情報とは異なる速度情報を有する座標がある場合に、前記特徴点が移動体であると判定することを特徴とする請求項8に記載の物体検出方法。
【請求項10】
前記画像の垂直方向に隣接するとともに速度情報が所定の範囲にある前記画素をグループ化し、
前記移動体であることの判定は、グループ化した前記画素のうち最上部に位置する前記画素と最下部に位置する前記画素の前記3次元における位置座標に基づいて行うことを特徴とする請求項8または9に記載の物体検出方法。
【請求項11】
前記移動体であることの判定は、前記最上部に位置する前記画素と前記最下部に位置する前記画素が前記3次元の所定の範囲を所定の数に分割して設定した複数の領域のうち同一の領域に位置する場合には前記移動体を平面物と判定し、前記最上部に位置する前記画素が前記3次元位の前記複数の領域外に位置するとともに前記最下部に位置する前記画素が前記3次元の前記複数の領域のうちいずれかの領域に位置する場合には前記移動体を立体物と判定することを含むことを特徴とする請求項8から10のいずれかに記載の物体検出方法。
【請求項12】
前記移動体であることの判定は、前記画素が前記3次元の前記複数の領域のうちいずれかの領域に位置する場合に前記画素を平面物候補点と判定する一方、前記画素が前記3次元の前記複数の領域外に位置する場合に前記画素を立体物候補点と判定し、前記平面物候補点と前記立体物候補点が前記画像において垂直方向に連続して位置する場合に前記平面物候補点と前記立体物候補点を一つの立体物として判定することを含むことを特徴とする請求項8から11のいずれか1項に記載の物体検出方法。
【請求項13】
前記移動体であることの判定は、前記画素のうち前記画像の垂直方向において最下部に位置する前記画素の前記3次元における前記位置座標に基づいて前記自車両の走路の境界を表す走路境界を検出し、該走路境界で区切られた区画毎に行うことを特徴とする請求項8から12のいずれか1項に記載の物体検出方法。
【請求項14】
前記特徴点が物体のエッジであることを特徴とする請求項8から13のいずれか1項に記載の物体検出方法。
【請求項15】
前記物体属性判定部は、前記3次元における前記位置座標と前記画素の速度情報とに基づいて、基準となる静止物および移動体としての判定対象となる立体物を検出し、前記基準となる静止物を構成する前記画素の前記速度情報と、前記移動体としての判定対象となる立体物を構成する前記速度情報とに基づいて、前記移動体としての判定対象となる立体物が移動体であることを判定することを特徴とする請求項1に記載の物体検出装置。
【請求項16】
前記基準となる静止物は、背景となる立体物であることを特徴とする請求項15に記載の物体検出装置。
【請求項17】
前記画像の垂直方向に隣接するとともに速度情報が所定の範囲にある前記画素をグループ化するグループ化部を備え、
前記物体属性判定部は、前記グループ化部によりグループ化した前記画素のうち最上部に位置する前記画素と最下部に位置する前記画素の前記3次元における位置座標を検出し、検出した前記最上部に位置する前記画素が前記3次元の所定の範囲を所定の数に分割して設定した複数の領域外に位置するとともに検出した前記最下部に位置する前記画素が前記3次元の前記複数の領域のうちいずれかの領域に位置する場合にはグループ化した前記画素を立体物と判定し、
検出した複数の前記立体物の最下部に位置する前記画素が前記実空間上の3次元における位置座標において直線上に並ぶとともに、複数の前記立体物の前記最下部に位置する前記画素の速度情報が前記直線方向において一定の割合で変化する場合に、前記立体物を背景となる静止物と判定することを特徴とする請求項15に記載の物体検出装置。
【請求項18】
前記物体属性判定部は、前記背景となる静止物である複数の前記立体物の前記最下部に位置する前記画素の位置座標と速度とに基づいて、前記移動体としての判定対象となる立体物の位置座標における静止物の速度を算出し、算出した該静止物と前記移動体としての判定対象となる立体物との速度情報が異なる場合に、前記移動体としての判定対象となる立体物を移動体と判定することを特徴とする請求項17に記載の物体検出装置。
【請求項19】
前記物体属性判定部は、前記背景となる静止物である前記立体物とは反対方向の速度を持つとともに、前記背景となる静止物である前記立体物の下端位置よりも高い位置に上端位置がある立体物を移動体と判定することを特徴とする請求項18に記載の物体検出装置。
【請求項20】
前記物体属性判定部は、前記背景となる静止物である前記立体物と同じ方向の速度を持つ立体物の実空間上における移動方向を判定することを特徴とする請求項18または19に記載の物体検出装置。
【請求項21】
前記3次元における前記位置座標と前記画素の速度情報とに基づいて、基準となる静止物および移動体としての判定対象となる立体物を検出し、前記基準となる静止物を構成する前記画素の前記速度情報と、前記移動体としての判定対象となる立体物を構成する前記速度情報とに基づいて、前記移動体としての判定対象となる立体物が移動体であることを判定することを特徴とする請求項8に記載の物体検出方法。
【請求項22】
前記基準となる静止物は、背景となる立体物であることを特徴とする請求項21に記載の物体検出方法。
【請求項23】
前記画像の垂直方向に隣接するとともに速度情報が所定の範囲にある前記画素をグループ化し、グループ化した前記画素のうち最上部に位置する前記画素と最下部に位置する前記画素の前記3次元における位置座標を検出し、検出した前記最上部に位置する前記画素が前記3次元の所定の範囲を所定の数に分割して設定した複数の領域外に位置するとともに検出した前記最下部に位置する前記画素が前記3次元の前記複数の領域のうちいずれかの領域に位置する場合にはグループ化した前記画素を立体物と判定し、検出した複数の前記立体物の最下部に位置する前記画素が前記実空間上の3次元における位置座標において直線上に並ぶとともに、複数の前記立体物の前記最下部に位置する前記画素の速度情報が前記直線方向において一定の割合で変化する場合に、前記立体物を背景となる静止物と判定することを特徴とする請求項21に記載の物体検出方法。
【請求項24】
前記背景となる静止物である複数の前記立体物の前記最下部に位置する前記画素の位置座標と速度とに基づいて、前記移動体としての判定対象となる立体物の位置座標における静止物の速度を算出し、算出した該静止物と前記移動体としての判定対象となる立体物との速度情報が異なる場合に、前記移動体としての判定対象となる立体物を移動体と判定することを特徴とする請求項23に記載の物体検出方法。
【請求項25】
前記背景となる静止物である前記立体物とは反対方向の速度を持つとともに、前記背景となる静止物である前記立体物の下端位置よりも高い位置に上端位置がある立体物を移動体と判定することを特徴とする請求項24に記載の物体検出方法。
【請求項26】
前記背景となる静止物である前記立体物と同じ方向の速度を持つ立体物の実空間上における移動方向を判定することを特徴とする請求項24または25に記載の物体検出方法。
【請求項1】
自車両前方の画像を撮像する撮像部と、
前記撮像部で撮像した画像から特徴点を抽出する特徴点抽出部と、前記特徴点を表す画素の速度情報を算出する移動情報算出部と、前記画素の位置座標を実空間上の3次元における位置座標に変換する座標変換部と、前記画素の前記3次元における前記位置座標および前記画素の前記速度情報に基づいて前記特徴点が移動体であることを判定する物体属性判定部とを備えることを特徴とする物体検出装置。
【請求項2】
前記物体属性判定部は、前記画素の前記3次元における水平方向の位置座標と前記画素の速度情報との関係において前記画素の速度情報とは異なる速度情報を有する座標がある場合に、前記特徴点が移動体であると判定することを特徴とする請求項1に記載の物体検出装置。
【請求項3】
前記画像の垂直方向に隣接するとともに速度情報が所定の範囲にある前記画素をグループ化するグループ化部を備え、
前記物体属性判定部は、前記グループ化部によりグループ化した前記画素のうち最上部に位置する前記画素と最下部に位置する前記画素の前記3次元における位置座標に基づいて前記判定を行うことを特徴とする請求項1または2に記載の物体検出装置。
【請求項4】
前記物体属性判定部は、前記最上部に位置する前記画素と前記最下部に位置する前記画素が前記3次元の所定の範囲を所定の数に分割して設定した複数の領域のうち同一の領域に位置する場合には前記移動体を平面物と判定し、前記最上部に位置する前記画素が前記3次元の前記複数の領域外に位置するとともに前記最下部に位置する前記画素が前記3次元の前記複数の領域のうちいずれかの領域に位置する場合には前記移動体を立体物と判定することを特徴とする請求項1から3のいずれか1項に記載の物体検出装置。
【請求項5】
前記物体属性判定部は、前記画素が前記3次元の前記複数の領域のうちいずれかの領域に位置する場合に前記画素を平面物候補点と判定する一方、前記画素が前記3次元の前記複数の領域外に位置する場合に前記画素を立体物候補点と判定し、前記平面物候補点と前記立体物候補点が前記画像において垂直方向に連続して位置する場合に前記平面物候補点と前記立体物候補点を一つの立体物として判定することを特徴とする請求項1から4のいずれか1項に記載の物体検出装置。
【請求項6】
前記物体属性判定部は、前記画素のうち前記画像の垂直方向において最下部に位置する前記画素の前記3次元における前記位置座標に基づいて前記自車両の走路の境界を表す走路境界を検出し、該走路境界で区切られた区画毎に前記移動体判定を行うことを特長とする請求項1から5のいずれか1項に記載の物体検出装置。
【請求項7】
前記特徴点が物体のエッジであることを特徴とする請求項1から6のいずれか1項に記載の物体検出装置。
【請求項8】
自車両前方の画像を撮像し、
撮像した画像から特徴点を抽出し、
抽出した特徴点を表す画素の速度情報を算出し、
前記画素の位置座標を実空間上の3次元における位置座標に変換し、
前記画素の前記3次元における前記位置座標および前記画素の前記速度情報に基づいて、
前記特徴点が移動体であることを判定することを特徴とする物体検出方法。
【請求項9】
前記移動体であることの判定は、前記画素の前記3次元における水平方向の位置座標と前記画素の速度情報との関係において前記画素の速度情報とは異なる速度情報を有する座標がある場合に、前記特徴点が移動体であると判定することを特徴とする請求項8に記載の物体検出方法。
【請求項10】
前記画像の垂直方向に隣接するとともに速度情報が所定の範囲にある前記画素をグループ化し、
前記移動体であることの判定は、グループ化した前記画素のうち最上部に位置する前記画素と最下部に位置する前記画素の前記3次元における位置座標に基づいて行うことを特徴とする請求項8または9に記載の物体検出方法。
【請求項11】
前記移動体であることの判定は、前記最上部に位置する前記画素と前記最下部に位置する前記画素が前記3次元の所定の範囲を所定の数に分割して設定した複数の領域のうち同一の領域に位置する場合には前記移動体を平面物と判定し、前記最上部に位置する前記画素が前記3次元位の前記複数の領域外に位置するとともに前記最下部に位置する前記画素が前記3次元の前記複数の領域のうちいずれかの領域に位置する場合には前記移動体を立体物と判定することを含むことを特徴とする請求項8から10のいずれかに記載の物体検出方法。
【請求項12】
前記移動体であることの判定は、前記画素が前記3次元の前記複数の領域のうちいずれかの領域に位置する場合に前記画素を平面物候補点と判定する一方、前記画素が前記3次元の前記複数の領域外に位置する場合に前記画素を立体物候補点と判定し、前記平面物候補点と前記立体物候補点が前記画像において垂直方向に連続して位置する場合に前記平面物候補点と前記立体物候補点を一つの立体物として判定することを含むことを特徴とする請求項8から11のいずれか1項に記載の物体検出方法。
【請求項13】
前記移動体であることの判定は、前記画素のうち前記画像の垂直方向において最下部に位置する前記画素の前記3次元における前記位置座標に基づいて前記自車両の走路の境界を表す走路境界を検出し、該走路境界で区切られた区画毎に行うことを特徴とする請求項8から12のいずれか1項に記載の物体検出方法。
【請求項14】
前記特徴点が物体のエッジであることを特徴とする請求項8から13のいずれか1項に記載の物体検出方法。
【請求項15】
前記物体属性判定部は、前記3次元における前記位置座標と前記画素の速度情報とに基づいて、基準となる静止物および移動体としての判定対象となる立体物を検出し、前記基準となる静止物を構成する前記画素の前記速度情報と、前記移動体としての判定対象となる立体物を構成する前記速度情報とに基づいて、前記移動体としての判定対象となる立体物が移動体であることを判定することを特徴とする請求項1に記載の物体検出装置。
【請求項16】
前記基準となる静止物は、背景となる立体物であることを特徴とする請求項15に記載の物体検出装置。
【請求項17】
前記画像の垂直方向に隣接するとともに速度情報が所定の範囲にある前記画素をグループ化するグループ化部を備え、
前記物体属性判定部は、前記グループ化部によりグループ化した前記画素のうち最上部に位置する前記画素と最下部に位置する前記画素の前記3次元における位置座標を検出し、検出した前記最上部に位置する前記画素が前記3次元の所定の範囲を所定の数に分割して設定した複数の領域外に位置するとともに検出した前記最下部に位置する前記画素が前記3次元の前記複数の領域のうちいずれかの領域に位置する場合にはグループ化した前記画素を立体物と判定し、
検出した複数の前記立体物の最下部に位置する前記画素が前記実空間上の3次元における位置座標において直線上に並ぶとともに、複数の前記立体物の前記最下部に位置する前記画素の速度情報が前記直線方向において一定の割合で変化する場合に、前記立体物を背景となる静止物と判定することを特徴とする請求項15に記載の物体検出装置。
【請求項18】
前記物体属性判定部は、前記背景となる静止物である複数の前記立体物の前記最下部に位置する前記画素の位置座標と速度とに基づいて、前記移動体としての判定対象となる立体物の位置座標における静止物の速度を算出し、算出した該静止物と前記移動体としての判定対象となる立体物との速度情報が異なる場合に、前記移動体としての判定対象となる立体物を移動体と判定することを特徴とする請求項17に記載の物体検出装置。
【請求項19】
前記物体属性判定部は、前記背景となる静止物である前記立体物とは反対方向の速度を持つとともに、前記背景となる静止物である前記立体物の下端位置よりも高い位置に上端位置がある立体物を移動体と判定することを特徴とする請求項18に記載の物体検出装置。
【請求項20】
前記物体属性判定部は、前記背景となる静止物である前記立体物と同じ方向の速度を持つ立体物の実空間上における移動方向を判定することを特徴とする請求項18または19に記載の物体検出装置。
【請求項21】
前記3次元における前記位置座標と前記画素の速度情報とに基づいて、基準となる静止物および移動体としての判定対象となる立体物を検出し、前記基準となる静止物を構成する前記画素の前記速度情報と、前記移動体としての判定対象となる立体物を構成する前記速度情報とに基づいて、前記移動体としての判定対象となる立体物が移動体であることを判定することを特徴とする請求項8に記載の物体検出方法。
【請求項22】
前記基準となる静止物は、背景となる立体物であることを特徴とする請求項21に記載の物体検出方法。
【請求項23】
前記画像の垂直方向に隣接するとともに速度情報が所定の範囲にある前記画素をグループ化し、グループ化した前記画素のうち最上部に位置する前記画素と最下部に位置する前記画素の前記3次元における位置座標を検出し、検出した前記最上部に位置する前記画素が前記3次元の所定の範囲を所定の数に分割して設定した複数の領域外に位置するとともに検出した前記最下部に位置する前記画素が前記3次元の前記複数の領域のうちいずれかの領域に位置する場合にはグループ化した前記画素を立体物と判定し、検出した複数の前記立体物の最下部に位置する前記画素が前記実空間上の3次元における位置座標において直線上に並ぶとともに、複数の前記立体物の前記最下部に位置する前記画素の速度情報が前記直線方向において一定の割合で変化する場合に、前記立体物を背景となる静止物と判定することを特徴とする請求項21に記載の物体検出方法。
【請求項24】
前記背景となる静止物である複数の前記立体物の前記最下部に位置する前記画素の位置座標と速度とに基づいて、前記移動体としての判定対象となる立体物の位置座標における静止物の速度を算出し、算出した該静止物と前記移動体としての判定対象となる立体物との速度情報が異なる場合に、前記移動体としての判定対象となる立体物を移動体と判定することを特徴とする請求項23に記載の物体検出方法。
【請求項25】
前記背景となる静止物である前記立体物とは反対方向の速度を持つとともに、前記背景となる静止物である前記立体物の下端位置よりも高い位置に上端位置がある立体物を移動体と判定することを特徴とする請求項24に記載の物体検出方法。
【請求項26】
前記背景となる静止物である前記立体物と同じ方向の速度を持つ立体物の実空間上における移動方向を判定することを特徴とする請求項24または25に記載の物体検出方法。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【図18】
【図19】
【図20】
【図21】
【図22】
【図23】
【図24】
【図25】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【図18】
【図19】
【図20】
【図21】
【図22】
【図23】
【図24】
【図25】
【公開番号】特開2008−77624(P2008−77624A)
【公開日】平成20年4月3日(2008.4.3)
【国際特許分類】
【出願番号】特願2006−324155(P2006−324155)
【出願日】平成18年11月30日(2006.11.30)
【出願人】(000003997)日産自動車株式会社 (16,386)
【Fターム(参考)】
【公開日】平成20年4月3日(2008.4.3)
【国際特許分類】
【出願日】平成18年11月30日(2006.11.30)
【出願人】(000003997)日産自動車株式会社 (16,386)
【Fターム(参考)】
[ Back to top ]