歩行者検出装置および歩行者検出方法
【課題】カメラで撮像した画像を画像処理して移動体を検出し、検出した移動体の移動速度の変化から歩行者に特有の変化を検出することで、歩行者を高い精度で検出することができる。
【解決手段】撮像部101で撮像した自車両前方の画像から特徴点を抽出する特徴点抽出部103と、特徴点を表す画素の画像上の移動速度を算出する移動情報算出部104と、画像を複数の短冊領域に分割し、各短冊領域内で速度が所定範囲内の画素を同一グループとするグループ化部105と、グループ内の特定の画素の座標を所定の範囲の俯瞰座標における座標に変換する座標変換部106と、変換後の画素の座標および移動情報に基づいて特徴点を平面物、立体物、移動体と判定する物体属性判定部107と、特徴点が移動体の場合は移動速度の変化に基づいて歩行者か否かを判定する歩行者判定部108とを備える制御部100を有する。
【解決手段】撮像部101で撮像した自車両前方の画像から特徴点を抽出する特徴点抽出部103と、特徴点を表す画素の画像上の移動速度を算出する移動情報算出部104と、画像を複数の短冊領域に分割し、各短冊領域内で速度が所定範囲内の画素を同一グループとするグループ化部105と、グループ内の特定の画素の座標を所定の範囲の俯瞰座標における座標に変換する座標変換部106と、変換後の画素の座標および移動情報に基づいて特徴点を平面物、立体物、移動体と判定する物体属性判定部107と、特徴点が移動体の場合は移動速度の変化に基づいて歩行者か否かを判定する歩行者判定部108とを備える制御部100を有する。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、歩行者検出装置および歩行者検出方法に関するものである。
【背景技術】
【0002】
一般に、車載カメラの撮像画像からオプティカルフロー(画像速度情報)を利用して歩行者や車両等の移動体を検出する移動体検出装置と移動検出方法が多数提案されている。例えば、撮像画像のオプティカルフローを求め、移動体の動きに基づいて抽出した撮像画像の背景のオプティカルフローと撮像画像全体のオプティカルフローとの比較により、移動体を検出する移動体検出方法が提案されている(特許文献1)。
【特許文献1】特開2004−56763号
【発明の開示】
【発明が解決しようとする課題】
【0003】
このような移動体検出装置または移動体検出方法では、移動体を検出するために背景のオプティカルフローを算出する必要がある。ここで、背景のオプティカルフローは、自車両前方の空間モデルを推定し、この空間モデルと自車両の動きに基づいて算出しているが、微小時間ではこの推定の精度が低くなってオプティカルフローの検出精度も低下し、移動体を高い精度で検出することが難しいという問題が生じていた。特に、歩行者は移動速度が遅く不規則な動きを示すことが多いため、歩行者を高い精度で検出することが難しいという問題があった。
【課題を解決するための手段】
【0004】
上記課題を解決するために、本発明の歩行者検出装置は、自車両前方の画像を撮像する撮像部および、前記撮像部で撮像した画像から特徴点を抽出する特徴点抽出部と、前記特徴点を表す画素の前記画像上の移動速度および移動方向を移動情報として算出する移動情報算出部と、前記画素の前記画像上の座標を前記自車両前方の俯瞰図における座標に変換する座標変換部と、前記画素の前記俯瞰図における前記座標および前記画素の前記移動情報に基づいて前記特徴点を平面物または立体物と判定するとともに、前記特徴点が立体物と判定された場合は該立体物が移動体であるか否かを判定する物体属性判定部と、前記特徴点が移動体であると判定された際に、前記移動体の前記画像上における速度変化に基づいて前記移動体が歩行者であるか否かを判定する歩行者判定部とを有する制御部と、を備えることを特徴としている。
【発明の効果】
【0005】
上記構成によれば、カメラで撮像した画像を画像処理して移動体を検出し、検出した移動体の移動速度の変化から歩行者に特有の変化を検出することで、歩行者を高い精度で検出することができる。
【発明を実施するための最良の形態】
【0006】
以下、この発明の実施形態を図面に基づいて説明する。
図1は、本発明の実施形態における移動体検出装置の構成例を示すブロック図である。
【0007】
歩行者検出装置10は車両に搭載され、車両前方を撮像する撮像部であるカメラ101および、カメラ101で撮像した画像を一時的に記録する画像一時記録部102と、画像一時記録部102に記憶された画像を画像処理することで特徴点を抽出する特徴点抽出部103と、特徴点抽出部103により抽出された特徴点を表す画素の画像上における移動速度および移動方向を移動情報として算出する移動情報算出部104と、移動情報算出部104により算出された画素の速度を指標として特徴点を表す画素のグループ化を行うグループ化部105と、グループ化部105によりグループ化された画素のうち特定の画素の座標を自車両前方の俯瞰図における座標に変換する座標変換部106と、座標変換部106により変換された画素の座標および移動情報算出部104により算出された特徴点の移動情報に基づいて特徴点が平面物であるか立体物であるかを判定するとともに、特徴点が立体物である場合には移動体であるかどうかを判定する物体属性判定部107と、特徴点が移動体である場合に、移動体の移動速度の変化に基づいて移動体が歩行者であるか否かを判定する歩行者判定部108と、を有する制御部100を備えている。
【0008】
カメラ101は、例えばCCDやCMOSなどの撮像素子を有したカメラであり、車両前方を連続的に撮像してフレーム毎に撮像した画像を画像一時記録部102に出力する。カメラ101で撮像された画像は、画像一時記録部102に一時的に記録される。ここで、図2に示すように、カメラ101は車両の室内上部前方(例えばルームミラー部等)に設置され、その光軸LSは車両前方正面方向(Z方向)に向き、撮像面の水平軸X(図示省略)は路面と平行となるように、また撮像面の垂直軸Y(図示省略)は路面と垂直になるように設定されている。
【0009】
カメラ101で撮像した画像(自車両前方の画像)の例を図3に示す。カメラ101により撮像された画像は、画像左上を原点として左から右へx軸、上から下へy軸とするxy座標系によって表される。なお、図3においては、左右の走路脇に設置された縁石、白線、外壁などの走路の境界線と、左から右へ移動する歩行者、自車両前方を走行中の先行車が撮像画像に含まれている。
【0010】
特徴点抽出部103は、カメラ101で撮像された画像を画像一時記録部102から読み込み、読み込んだ撮像画像を所定の閾値を用いて2値化することによって、画像内に存在する物体のエッジを抽出する。図4(a)に、抽出した垂直方向のエッジ例を示す。次に、抽出した各エッジに対して、細線化処理を行ってエッジ幅を絞り、エッジの垂直方向の中心を正確に設定する(図4(b)参照)。さらに、細線化されたエッジのエッジ幅が一定の幅となるように、例えば3画素分の幅となるように、エッジを水平方向に拡張する(図4(c)参照)。この操作により、抽出したエッジが正規化され、各エッジが均一の幅を持つエッジ画像を得ることができる。
【0011】
移動情報算出部104は、エッジに該当する画素の画素カウンタのカウンタ値を更新する。ここで、画素カウンタとは、各画素毎に設定されたカウンタであり、画素がエッジに該当する場合に画素カウンタのカウンタ値が+1加算され、画素がエッジに該当しない場合は画素カウンタのカウンタ値が0となって初期化されるカウンタである。このカウンタ値の更新処理を、カメラ101で連続的に撮像されるフレーム毎に行う。この操作により、エッジに該当する時間が長い画素は画素カウンタのカウンタ値が大きくなり、エッジに該当する時間が短い画素は画素カウンタのカウンタ値が小さくなる。この画素カウンタのカウンタ値の変化は、エッジの移動方向と移動量を表していることになるため、このカウンタ値から、撮像画像上におけるエッジの移動方向と移動速度とを算出することができる。
【0012】
次に、撮像された画像上に存在するエッジの速度成分を所定の階級値に分類して表した速度画像を生成する。本実施形態における速度画像は、図5に示すように、速度が検出されたエッジの画素を丸型の点で表し、移動速度が速い画素ほど点を大きく示す。また、右へ向かう速度を黒点で表し、左へ向かう速度を白点で表すことによって移動方向を表している。図5においては、自車両の走行路右側の縁石および白線からは画像の右側へ向かう速度が検出されており、走行路左側の外壁からは画像の左側へ向かう速度が検出されている。また、走行路左側から右へ移動する歩行者では、画像の右側へ向かう速度が検出されている。さらに、自車両前方を自車両より速く走行する先行車では、先行車の左端に画像の右側へ向かう速度が検出され、先行車の右端に画像の左側へ向かう速度が検出されている。
【0013】
グループ化部105は、算出した速度画像から立体物を抽出するために、速度画像を分割する領域を設定する。すなわち、図6に示すように、速度画像上に短冊状の複数の領域を設定し、速度画像を複数の領域(以降、短冊領域と呼ぶ)で分割する。
【0014】
次に、各短冊領域毎に、速度が所定範囲内にあるとともに垂直方向に隣接する画素を同一のグループとしてグループ化する。すなわち、画像の下部から上部に向かって各短冊領域を走査し、短冊領域内に速度を持った画素が存在する場合、その画素の上方に隣接する速度を持った画素との速度差を比較し、速度差が閾値ΔVG以下である場合には、車両に対して同じ速度で移動する物体であると推定できることから、同じ物体であると判定してグループ化を行う。そして、グループ化された画素の上端位置(請求項における最上部)と下端位置(請求項における最下部)を検出する。この処理により、図6における下端BL1〜BL13及び上端TL1〜TL13が検出される。
【0015】
座標変換部106は、xy平面上で抽出した下端BL1〜BL13及び上端TL1〜TL13のx軸方向の中心位置を座標とする下端点BP1〜BP13(図7参照)および上端点TP1〜TP13(図7参照)の位置を、規定の面積を備えたZX平面上の点として俯瞰変換する。
【0016】
ここで、xy平面上の各点の位置を表す座標を(x、y)とし、カメラの路面からの高さをCh(m)、カメラの俯角をTr(rad)、画像の縦サイズをIh、画像の横サイズをIw、高さ方向の1画素あたりの角度分解能をPYr(rad)、横方向の1画素あたりの角度分解能をPXr(rad)とすると、xy平面上の点TP1〜TP13及びBP1〜BP13は、次式に従ってZX平面の座標(Z、X)に変換される。
【0017】
Z=(Ch)/(TAN(Tr+(y−Ih/2)×PYr))(数式1)
X=(x)×TAN((Z-Iw/2)×PXr) (数式2)
ここで、上端点TP1〜TP13、下端点BP1〜BP13の変換後の点を、上端点の座標変換点RT1〜RT13、下端点の座標変換点RB1〜RB13とする。
【0018】
物体属性判定部107は、上端点の座標変換点RT1〜RT13、下端点の座標変換点RB1〜RB13が、規定のZX平面を分割して設定した領域のうちどの領域に位置するかの判定を行う(図7参照)。ここで、車両の上下動に伴いカメラ101の撮像映像も上下に動き、座標変換点が位置する領域も変動してしまう可能性がある。この影響を避けるため、ZX平面を分割して設定する領域はメーターオーダーで設定することが望ましい。本実施例では、X軸方向は、−5.25m>X、−5.25≦X<−3.5m、−3.5m≦X<−1.75m、−1.75m≦X<0m、0m≦X<1.75m、1.75m≦X<3.5m、3.5m≦X<5.25m、5.25m≦X、として8分割し、Z軸方向は、0m≦Z<10m、10m≦Z<20m、20m≦Z<30m、30m≦Z<40m、40m≦Z<50mとして5分割して、領域11〜領域15、領域21〜領域25、領域31〜領域35、領域41〜領域45、領域51〜領域55、領域61〜領域65、領域71〜領域75、領域81〜領域85を設定している。また、領域11〜領域15を領域10とし、領域21〜領域25を領域20とし、領域31〜領域35を領域30とし、領域41〜領域45を領域40とし、領域51〜領域55を領域50とし、領域61〜領域65を領域60とし、領域71〜領域75を領域70とし、領域81〜領域85を領域80としている。
【0019】
そして、xy平面の短冊領域における上端点の座標変換点と上端点と同一のグループの下端点の座標変換点がZX平面の同一の領域に位置すれば、上端点と下端点が路面上にある、すなわち路面上の平面物であると判定する。
【0020】
一方、同一のグループに属する上端点と下端点のそれぞれの座標変換点がZX平面の同一の領域に位置しない場合、または同一のグループに属する上端点と下端点のうち下端点のみがZX平面に位置する場合は、下端点のみ路面上にある、すなわち立体物であると判定する。
【0021】
ここで、走路境界を検出するために、ZX平面の各領域に設定したカウンタのうち下端点の座標変換点が位置する領域のカウンタのカウンタ値を+1加算し、下端点の位置分布情報を算出する。
【0022】
例えば、本実施例では、上端点TP1〜TP7の座標変換点RT1〜RT7は図7に示すZX平面外に投影されるため、上端点TP1〜TP7を含むグループは立体物であると判定され、上端点TP1〜TP7を含むエッジはxy平面上で立体物OB1〜OB7として判定される。また上端点TP8〜TP13の座標変換点RT8〜RT13は下端点BP8〜BP13の座標変換点RB8〜RB13と同じ領域に位置するため、すなわち、上端点の座標変換点RT8と下端点の座標変換点RB8は同じ領域53に位置し、上端点の座標変換点RT9と下端点の座標変換点RB9は同じ領域55に位置し、上端点の座標変換点RT10と下端点の座標変換点RB10は同じ領域81に位置し、上端点の座標変換点RT11と下端点の座標変換点RB11は同じ領域82に位置し、上端点の座標変換点RT12と下端点の座標変換点RB12は同じ領域83に位置し、上端点の座標変換点RT13と下端点の座標変換点RB13は同じ領域84に位置し、上端点TP8〜TP13をそれぞれ含む各グループは路面上に位置する物であると判定される。ここで、走路境界を検出するために、下端点の座標変換点RB1〜RB13が位置する領域のカウンタのカウンタ値を+1加算する。
【0023】
そして、図8に示すように、得られた下端点の座標変換点の位置分布から、走路境界線が存在する可能性が高い領域を抽出する。すなわち、得られた下端点の座標変換点の位置分布において、同じX軸領域で複数のZ軸領域にカウンタ値が存在すれば、自車両前方に走路境界が車両に沿って直線状に存在すると推定できるため、カウンタ値がある領域を走路境界領域として抽出する。例えば、図8では、x軸が同じ範囲の領域30において、複数のZ軸領域(下端点RB1、RB2、RB3、RB4、RB6が位置する領域)にカウンタ値が存在するため、これらの領域を走路境界領域として抽出する。領域50、領域80についても同様である。
【0024】
そして、抽出した領域に走路境界を示す直線が存在するかどうかの判定を行う(図9参照)。すなわち、抽出した領域に存在する下端点の座標変換点に基づいて、xy座標系での回帰分析を行い、同じ移動方向の下端点を結ぶ直線の傾きを算出する。例えば、本実施例の領域30では、領域30に存在し左方向に移動する下端点の座標変換点RB1、RB4、RB6に対応するxy座標における下端点BP1、BP4、BP6の座標位置からxy座標系での回帰分析を行い、下端点BP1、BP4、BP6を結ぶ直線の傾きa3を算出する。同様に、領域50に存在する下端点の座標変換点RB8、RB9に対応するxy座標における下端点BP8、BP9の座標位置からxy座標系での回帰分析を行い、下端点BP8、BP9を結ぶ直線の傾きa5を算出する。同様に、領域80に存在する下端点の座標変換点RB10、RB11、RB12、RB13に対応するxy座標における下端点BP10、BP11、BP12、BP13の座標位置からxy座標系での回帰分析を行い、下端点BP10、BP11、BP12、BP13を結ぶ直線の傾きa8を算出する。そして、算出した直線の傾きが所定の範囲内に入っていれば、抽出した領域内に走路境界を示す直線が存在すると判定する。すなわち、下端点の座標変換点が位置するX軸領域の左端座標と各Z軸領域の代表座標(例えば中心座標)を座標とする点(例えば図8のPL1〜PL5)をxy座標系に変換して回帰分析して算出した直線の傾きTn0a1と、下端点の座標変換点が位置するX軸領域の右端座標と各Z軸領域の代表座標(例えば中心座標)を座標とする点(例えば図8のPR1〜PR5)をxy座標系に変換して回帰分析して算出した直線の傾きTn0a2とで規定される傾きの範囲内に、下端点に基づき算出された直線の傾きanが入っている場合には、抽出した領域内に走路境界を示す直線Lnが存在するとの判定を行う。
【0025】
例えば、本実施例の領域30においては、座標(x、z)=(−3.5、5)の点PL1、座標(x、z)=(−3.5、15)の点PL2、座標(x、z)=(−3.5、25)の点PL3、座標(x、z)=(−3.5、35)の点PL4、座標(x、z)=(−3.5、45)の点PL5をxy座標に変換して回帰分析を行い算出した各点を結ぶ直線の傾きT30a1と、座標(x、z)=(−1.75、5)の点PR1、座標(x、z)=(−1.75、15)の点PR2、座標(x、z)=(−1.75、25)の点PR3、座標(x、z)=(−1.75、35)の点PR4、座標(x、z)=(−1.75、45)の点PR5をxy座標に変換して回帰分析を行い算出した各点を結ぶ直線の傾きT30a2に対し、下端点の投影点RB1、RB4、RB6に対応するxy平面上の下端点BP1、BP4、BP6を結ぶ直線の傾きa3が、T30a1とT30a2で規定される範囲内に存在するため、下端点BP1、BP4、BP6を結ぶ直線は走路境界を示す直線L3であると判定される(図8、9参照)。
【0026】
同様にして、領域50では、下端点の投影点RB8、RB9に対応するxy平面上の下端点BP8、BP9を結ぶ直線は走路境界を示す直線L5であると判定され、領域80では、下端点の投影点RB10〜RB13に対応するxy平面上の下端点BP10〜BP13を結ぶ直線は走路境界を示す直線L8であると判定される。
【0027】
そして、図9下図に示すように、走路境界で区切られた各領域において、検出された立体物の下端点の画像の水平方向位置と速度の関係を示すグラフを算出する。このグラフでは、画像中央より左側に位置する立体物、例えば外壁のような背景は、画像を左向きに移動し、画像の左側に位置するほど自車よりも遠い位置にあるため、画素の速度は速くなる。つまり、縦軸に速度(左に移動する速度をプラス、右に移動する速度をマイナス)、横軸に画像のx座標(画像左端を原点)に設定すると、画像の右半分においては、背景や静止物であれば、速度とx座標の関係は、右下がりの直線となる。一方、画像の右半分において右下がりの直線関係とならない座標がある場合は、背景や静止物でないもの、すなわち移動体が存在する可能性がある。この場合、図9に示すように、背景の速度(左向きの速度)とは逆向きの速度(右向きの速度)を有する座標が検出された場合は、背景とは逆方向に移動する移動体が存在すると判定する。また、背景よりも速い速度を有する座標が検出されれば、移動体が存在すると判定する。
【0028】
例えば、本実施例では、領域30、領域50、領域80で検出された走路境界に基づいて、走路境界L3の左側、すなわち、領域10、領域20、領域30の左側の一部を区画aと設定し、走路境界L3と走路境界L5との間、すなわち、領域30の右側の一部、領域40、領域50の左側の一部を区画bと設定し、走路境界L5と走路境界L8との間、すなわち、領域50の右側の一部、領域60、領域70、領域80の左側の一部を区画cと設定し、走路境界L8の右側、すなわち、領域80の右側の一部を区画dと設定し、区画bに存在する立体物OB1〜OB6の水平方向位置と速度の関係から、OB1、OB4、OB6を静止している立体物(ここでは外壁)と判定し、右へ移動するOB2、OB3、OB5を移動体と判定する。
【0029】
また、画像右側に存在する立体物においても、左側と同様な方法で、速度(右に移動する速度をプラス、左に移動する速度をマイナス)と画像のx座標(画像右端を原点)の関係を求め、右上がりの直線関係とならない場合には、領域内に立体物が存在する可能性が高いと判断し、背景の速度と逆向きの速度が検出されれば、背景とは逆方向に移動する移動体の検出を行うことができる。図9では、区画cに存在するOB7を移動体と判定する。
【0030】
さらに、車両挙動(車両の進行方向)を利用することにより、上述したように撮像画像の左右において別々に移動物体の検出が必要か、あるいは撮像画像全体で移動物体の検出が可能かを判断することも可能となる。例えば、車両を右へ操舵している場合には、前方画像の背景に該当する領域は、左側へ移動する速度のみが検出されるため、上述したように撮影画像左右でそれぞれ移動体の検出を行わずに撮像画像全体で一括して移動体の検出を行うことができる。車両を左へ操舵している場合も同様である。
【0031】
ここで、前述したように、移動体の判定は、背景となる立体物と移動体の水平方向位置と速度を比較して行うため、例えば歩行者に該当する立体物しか検出できず、背景に該当する外壁等の立体物が抽出できない場合は、移動体の判定を行うことができない。この場合は、次回の検出で再度立体物と判定された際に、その速度変化から移動体であるか否かの判定を行う(後述)。
【0032】
なお、複数の移動体の座標の差が所定値以内であって、それらの移動体の速度の比が所定の範囲内である場合に、複数の移動体を一つの移動体としてグループ化を行う。例えば、図9において、OB2とOB3は一つの移動体としてグループ化される。
【0033】
歩行者判定部108は、走路境界で区切られた領域において、図10に示すように、検出した移動体の速度変化を指標とすることにより、移動体が歩行者であるか否かを識別する。
【0034】
歩行者の移動速度を詳細に観察した場合、歩行者が一定速度で歩行していると仮定すると、図10、図11に示すように、腕と脚は歩行により速度の増減が観察される。歩行開始からの脚の速度変化を見ると、まず例えば右脚が進行方向に踏み出してスタートし、その速度が徐々に速くなって最高速度に達した後に今度は速度が徐々に低下して地面に着地するという速度変化が観察される。右脚が地面に着地すると同時に今度は左脚が進行方向に踏み出して、右脚と同様の速度変化が観察される。
【0035】
また、歩行開始からの腕の速度変化を見てみると、脚とは逆向きの速度変化が観察される。
【0036】
このように、歩行者においては、歩行により速度変化が観察される、と言う特徴がある。
【0037】
したがって、この特徴を利用することにより、移動体が歩行者であるか否かを識別することが可能となる。
【0038】
すなわち、例えば、移動体の速度の分散値をΔVとし、ΔVが所定値ΔVP以上であるか否か、すなわち、ΔV≧ΔVPの条件を満たすか否かによって、移動体が歩行者であるか否かを識別することが可能となる。
【0039】
図11は、本実施形態における歩行者検出装置10の処理を示すフローチャートである。この処理はイグニションスイッチ(図示省略)がオンされると起動されるプログラムとして実行される。
【0040】
ステップS101では、カメラ101で撮像され画像一時記録部102に記録された自車両前方の画像が所定の周期で特徴点抽出部103に出力される。この後に、フローはステップS102へ移行する。
【0041】
ステップS102では、特徴点抽出部103が画像に対してエッジ抽出処理を行い、撮像画像内に存在する物体の輪郭をエッジ画像として抽出するとともにエッジ画像の正規化を行う。この後に、フローはステップS103へ移行する。
【0042】
ステップS103では、移動情報算出部104がエッジの速度と方向を算出し、算出した速度を所定の階級で表した速度画像を算出する。この後に、フローはステップS104へ移行する。
【0043】
ステップS104では、グループ化部105が算出した速度画像上に短冊領域を設定する。この後に、フローはステップS105へ移行する。
【0044】
ステップS105では、グループ化部105が各短冊領域内に速度を持った画素があるかどうかを下から上に向かって調べる。速度を持った画素が複数ある場合、その速度差が所定値ΔVG未満である場合は、グループ化部105がそれらの画素は同一の物体を表しているものとして同一のグループにグループ化を行う。この後に、フローはステップS106へ移行する。
【0045】
ステップS106では、各短冊領域内におけるグループ毎において、最も上に位置する画素の中心座標を上端点に、最も下に位置する画素の中心座標を下端点に設定する。この後に、フローはステップS107へ移行する。
【0046】
ステップS107では、座標変換部106が、前述した(式1)、(式2)を用いて、検出した上端点と下端点の座標をZX平面へ座標変換する。この後に、フローはステップS108へ移行する。
【0047】
ステップS108では、物体属性判定部107が、上端点の座標変換点と上端点と同じグループの下端点の座標変換点の位置がX軸範囲とZ軸範囲を規定したZX平面のどの領域に位置するかを判断し、上端点の座標変換点と上端点と同じグループの下端点の座標変換点の双方がZX平面の同一の領域に位置する場合は、上端点、下端点を含む物体を平面物であると判定する。一方、上端点の座標変換点と、上端点と同じグループの下端点の座標変換点とがZX平面の同一の領域に位置しない場合、または上端点と同じグループの下端点の座標変換点のみがZX平面に位置する場合は、上端点、下端点を含む物体を立体物であると判定する。ここで、下端点が位置する領域のカウンタのカウンタ値を+1加算する。この後に、フローはステップS109に進む。
【0048】
ステップS109では、物体属性判定部107により、検出した全ての上端点、下端点について、上端点、下端点を含む物体が平面物であるか立体物であるかの判定(以下、物体の属性判定と呼ぶ)が行われたかどうかの判定が行われる。検出した全ての上端点、下端点について物体の属性判定が行われた場合は、ステップS110に進む。一方、検出した全ての上端点、下端点について物体の属性判定が行われていない場合は、ステップS105に戻り、物体の属性判定が継続される。
【0049】
ステップS110では、物体属性判定部107により、ZX平面における下端点の座標変換点の位置分布から、同じX軸領域において、複数のZ軸領域にカウンタ値が存在する領域が、走路境界線が存在する可能性が高い領域(以下、走路境界領域と呼ぶ)として抽出される。この後に、フローはステップS111へ進む。
【0050】
ステップS111では、物体属性判定部107により、抽出された走路境界領域内に存在する下端点の座標変換点に対応するxy平面の下端点についてxy座標系での回帰分析が行われ、同じ移動方向の下端点を結ぶ直線の傾きが算出される。この後に、フローはステップS112へ進む。
【0051】
ステップS112では、物体属性判定部107により、ステップS111で算出した直線の傾きが、下端点が位置する領域において、X軸領域の左端座標と各Z軸領域の代表座標を座標とする点(例えば図8のPL1〜PL5)を結ぶ直線およびX軸領域の右端座標と各Z軸領域の代表座標を座標とする点(例えば図8のPR1〜PR5)を結ぶ直線のxy座標系における傾きの範囲にあれば、抽出した領域に走路境界を示す直線が存在すると判定され、ステップS111で算出した直線は走路境界を示す直線として検出される。この後に、フローはステップS113へ進む。
【0052】
ステップS113では、物体属性判定部107において、抽出された走路境界領域において、全ての走路境界を示す直線が検出されたか否かの判定を行う。全ての走路境界を示す直線が検出された場合は、ステップS114へ進む。一方、全ての走路境界を示す直線が検出されていない場合は、ステップS110に戻り、走路境界を示す直線の検出が継続される。
【0053】
ステップS114では、物体属性判定部107において、走路境界で区切られた各区画に対し、各区画内に存在する立体物(外壁、歩行者等)の速度とx座標の関係を算出し、背景と逆方向の速度が検出された立体物がある場合には、自車両に近づく移動体が存在すると判定し、フローはステップS115に進む。一方、背景と逆方向の速度が検出された物体がない場合には、移動体候補が存在する可能性があると判定し、ステップS117に進む。
【0054】
ステップS115では、複数の移動体の座標の差が所定値以内であって、それらの移動体の速度の比が所定値以内である場合に、複数の移動体を一つの移動体としてグループ化を行う。例えば、ある移動体Aの速度をVA、他の移動体Bの速度をVBとし、VA≧VBの場合に、1≦(VA/VB)≦RV(所定値)を満たす場合は、移動体Aと移動体Bを一つの移動体としてグループ化を行う。この後に、フローはステップS116へ移行する。
【0055】
ステップS116では、歩行者の移動速度の変化に基づいて、後述する歩行者の判定が行われる。この後に、フローはステップS118へ移行する。
【0056】
ステップS117では、物体属性判定部107において、移動体候補が移動体であるかどうかの判定(移動体候補検証)を行う。移動体候補が存在すると判断された区画に、前回も移動体候補が存在すれば、前回と今回の速度を比較する。移動体候補が静止物である場合は、自車両の前進に従い移動体候補が自車両に接近し、移動体候補に対応する画素の移動速度が速くなる。このため、前回よりも下端点の座標変換点の速度が速くなっている場合には、移動体は存在しないと判定し、フローはステップS118に進む。前回よりも下端点の座標変換点の速度が速くなっていない場合には、移動体が存在すると判定し、フローはステップS115に進む。
【0057】
ステップS118では、走路境界で区切られたすべての区画において、歩行者の検出が終了したか否かの判断を行う走路境界で区切られたすべての区画において、歩行者の検出が終了した場合には、フローはステップS119へ進む。一方、走路境界で区切られたすべての区画において、歩行者の検出が終了していない場合は、フローはステップS114に戻り、歩行者の検出が継続される。
【0058】
ステップS119では、自車両のイグニションスイッチがオフされたか否かの判定が行われる。イグニションスイッチがオフされていない場合には、ステップS101へ戻って処理を繰り返す。一方、イグニションスイッチがオフされた場合には、フローはステップS120へ移行して処理を終了する。
【0059】
次に、ステップS116の歩行者判定の動作フローを、図12のフローチャートを用いて説明する。この動作フローは、歩行者判定部108により実行される。
【0060】
ステップS1161では、移動体を表す画素の速度から、移動体の速度の分散値ΔVが算出される。この後に、フローはステップS1162へ移行する。
【0061】
ステップS1162では、ステップS1162で算出された移動体の速度の分散値ΔVが、ΔV≧ΔVPの条件を満たしているか否かが判定される。ここで、ΔVPは事前に設定される所定値である。条件を満たしている場合は、移動体に所定値以上の速度の分散が観察され、移動体が歩行者であると判定できるため、フローはステップS1163へ移行する。一方、条件を満たしていない場合は、移動体に所定値以上の速度の分散が観察されず、移動体の速度の分散値だけでは移動体が歩行者であると判定できないため、フローはステップS1164へ移行する。
【0062】
ステップS1163では、移動体は歩行者であるとの判定が行われる。この後に、フローはステップS118へ移行する。
ステップS1164では、今回移動体を検出した座標近傍に前回も移動体を検出していたか否かの判定が行われる。今回移動体を検出した座標近傍に前回も移動体を検出していた場合は、フローはステップS1165へ移行する。一方、今回移動体を検出した座標近傍に前回移動体を検出していない場合は、移動体は速い速度を有する移動体であると推定し、フローはステップS1167へ移行する。
【0063】
ステップS1165では、前回と今回の移動体の座標変化が垂直方向および水平方向で所定値以下であるか否かが判定される。前回と今回の移動体の座標変化が垂直方向および水平方向で所定値以下である場合、すなわち、移動体の移動距離が所定値以下である場合は、移動体は移動速度が遅い物体、すなわち歩行者である可能性があり、フローはステップS1166へ移行する。一方、前回と今回の移動体の座標変化が垂直方向および水平方向で所定値を越える場合、すなわち、移動体の移動距離が所定値を越える場合は、移動体は移動速度が速い物体であり歩行者である可能性は少ないと推定し、フローはステップS1167へ移行する。
【0064】
ステップS1166では、前回と今回の移動体の速度の差が所定値以上であるか否かが判定される。前回と今回の移動体の速度の差が所定値以上である場合は、移動体は座標変化が少なく、かつ速度の変化を有するものとなり、歩行者であると推定できるため、フローはステップS1163へ移行する。一方、前回と今回の移動体の速度の差が所定値未満である場合は、移動体は速度の遅い自転車等、均一でかつ遅い速度を有する移動体であると推定し、フローはステップS1167へ移行する。
【0065】
ステップS1167では、移動体は歩行者以外の物体であるとの判定を行う。この後に、フローはステップS118へ移行する。
【実施例1】
【0066】
本実施例は、図11に示すフローチャートのステップS116における歩行者判定の内容が前述した実施形態と異なるものであり、その他の構成や動作は実施形態と同一であるため、以下ステップS116の内容についてのみ説明を行う。
【0067】
歩行者が歩行する際は、一般的に脚の前後運動とともに腕の前後運動が伴うが、場合によっては腕の前後運動をともなわずに歩行する状況もあり得る。このような際は、脚の速度の分散のみに着目して歩行者の判定を行うことが可能となる。
【0068】
ステップS116の歩行者判定の動作フローを、図13のフローチャートを用いて説明する。この動作フローは、歩行者判定部108により実行される。
【0069】
ステップS116Aでは、ステップS114、ステップS117で検出した移動体を上部と下部に分割する。上部と下部の分割については、検出した移動体を単純に上下2分割とする、または所定の割合で分割する等により行う。この後に、フローはステップS116Bへ移行する。
【0070】
ステップS116Bでは、ステップS116Aで分割した移動体の下部に属する画素の移動速度の分散値ΔVBを算出する。この後に、フローはステップS116Cへ移行する。
【0071】
ステップS116Cでは、ステップS1162で算出した移動体の下部の速度の分散値ΔVBが、ΔVB≧ΔVPの条件を満たしているか否かが判定される。ここで、ΔVPは事前に設定される所定値である。条件を満たしている場合は、移動体の下部に所定値以上の速度の分散が観察され、移動体が歩行者であると判定できるため、フローはステップS116Dへ移行する。一方、条件を満たしていない場合は、移動体の下部に所定値以上の速度の分散が観察されず、移動体の下部の速度の分散値だけでは移動体が歩行者であると判定できないため、フローはステップS116Eへ移行する。
【0072】
ステップS116E〜ステップS116Hは図12のステップS1164〜ステップS1167と同等の処理であり、説明は省略する。
【実施例2】
【0073】
本実施例は、図11に示すフローチャートのステップS116における歩行者判定の内容が前述した実施形態と異なるものであり、その他の構成や動作は実施形態と同一であるため、以下ステップS116の内容についてのみ説明を行う。
【0074】
歩行者が歩行する際は、図14に示すように、一般的に歩行中の頭部の速度変化は少なく、足の速度変化は大きい。したがって、頭部と足の速度の最大値の比を指標として、歩行者の判定を行うことが可能となる。
【0075】
ステップS116の歩行者判定の動作フローを、図15のフローチャートを用いて説明する。この動作フローは、歩行者判定部108により実行される。
【0076】
ステップS116Iでは、ステップS114、ステップS117で検出した移動体において、頭部に該当する上端と足に該当する下端を検出する。この後に、フローはステップS116Jへ移行する。
【0077】
ステップS116Jでは、ステップS116Iで検出した移動体の上端と下端に属する画素の移動速度の最大値VTM、VBMを算出する。この後に、フローはステップS116Kへ移行する。
【0078】
ステップS116Kでは、ステップS116Jで算出した移動体の上端に属する画素の速度の最大値VTMと移動体の下端に属する画素の速度の最大値VBMとが、|VBM|/|VTM|≧RPの条件を満たしているか否かが判定される。ここで、RPは事前に設定される所定値で、1≦RP<RVを満たす。条件を満たしている場合は、移動体の上端と下端に速度差が観察され、移動体が歩行者であると判定できるため、フローはステップS116Lへ移行する。一方、条件を満たしていない場合は、移動体の上端と下端に速度の差が観察されず、移動体の上端と下端の速度の差だけでは移動体が歩行者であると判定できないため、フローはステップS116Mへ移行する。
【0079】
ステップS116M〜ステップS116Pは図12のステップS1164〜ステップS1167と同等の処理であり、説明は省略する。
【実施例3】
【0080】
本実施例は、例えばエッジ検出の結果に起因して、同じ立体物や移動体が速度情報を基に同一のグループにグループ化できない場合でも、平面物と立体物の検出が可能な実施例である。
【0081】
ここでは、図16に示すように、外壁上に検出されたP11〜P113の内、P11〜P13とP14〜P113が別々にグループ化され、P21〜P215の内、P21〜P23とP24〜P215が別々にグループ化され、P31〜P315の内、P31〜P33とP34〜P315が別々にグループ化され、P41〜P412の内、P41、P42とP43〜P412が別々にグループ化された場合について、説明を行う。
【0082】
なお、図1に示したブロック図、図2に示した車両へのカメラ101の設置例を示す図、図3に示したカメラ101による前方の撮像画像を説明する図、図4に示したエッジの正規化の例を示す図、および図5に示した速度画像を説明する図については、前述した実施形態と同様のため説明を省略する。また、図8〜図9で説明した、下端点を基に走路境界を検出し、検出した走路境界で区切られた各区画毎に立体物の水平方向位置と速度の関係から、移動体を検出する方法については、前述した実施形態における処理と同様のため説明を省略する。
【0083】
まず、算出した速度画像に物体を検出するための領域を設定する。すなわち、図16に示すように、速度画像上に短冊状の複数の領域(以降、短冊領域と呼ぶ)を設定し、速度画像を分割する。本実施例では、各短冊領域毎に画像下端から上端に速度を持った画素を順に走査して検出し、検出した画素を前述の(数式1)、(数式2)に基づいてZX平面へ座標変換し、座標変換の結果が図7に示すZX平面内に位置するか否かを判定する。座標変換の結果がZX平面内に位置すれば、平面物の候補点と判定する。一方、ZX平面内に位置しなければ、立体物の候補点として判定する。なお、ZX平面には前述した実施形態で説明した領域と同じ領域が設定されるものとし、領域の設定方法については説明を省略する。
【0084】
例えば本実施例では、P11〜P13はZX平面内の同一の領域に位置して平面物の候補点と判定され、P14〜P113はZX平面内に位置しないため、立体物候補点と判定される。同様に、P21〜P23、P31〜P33、P41、P42、P81〜P83、P91〜P94、P101、P102、P111〜P113、P121、P122、P131〜P133は平面物候補点と判定され、P24〜P215、P34〜P315、P43〜P412、P51〜P54、P61〜P610、P71〜P74は立体物候補点と判定される。
【0085】
次に平面物候補点と立体物候補点の判定結果に基づき、立体物の判定を行う。すなわち、平面物候補点であると判定された点と立体物候補点であると判定された点が、縦方向に連続して存在する場合は、立体物の内、路面近くに存在する部分が誤って平面物候補点であると判定されたものと推定できるため、平面物候補点と立体物候補点が縦方向に連続して存在する物体を立体物として判定する。例えば、本実施例では、平面物候補点P11〜P13と立体物候補点P14〜P113が縦方向に連続しているため、P11〜P113を立体物OB1として判定する。同様に、P21〜P215を立体物OB2、P31〜P315を立体物OB3、P41〜P412を立体物OB4として判定する(図17参照)。
【0086】
さらに、平面物および立体物と判定された点の内、下端点を抽出し、第1の実施例と同様に下端点のZX平面への座標変換点が位置するZX平面の領域のカウンタのカウンタ値を+1加算して、下端点の位置分布を算出する。例えば、本実施例では、P11、P21、P31、P41、P51、P61、P71、P81、P91、P101、P111、P121、P131を下端点として検出し、図8に示す各下端点P11〜P131の座標変換点RB1〜RB13が位置する領域のカウンタのカウンタ値を+1加算する。以下、前述した実施形態と同様の操作を行うことで、走路境界と立体物、立体物中の移動体の検出を行うことができる。
【0087】
移動体を検出した後は、前述した実施形態と同様の操作を行うことで、歩行者の検出を行うことができる。
【0088】
図18は、本実施例における歩行者検出装置10の処理を示すフローチャートである。図18に示す処理はイグニションスイッチがオンされると、起動されるプログラムとして実行される。図18においては、図11に示す本発明の実施形態における処理のフローチャートと同一の処理内容については、同じステップ番号を付与し、以下相違点を中心に説明する。
【0089】
ステップS121では、ステップS104にて設定した物体検出用の短冊領域内において画像下端から上端に向かって走査を行い、速度を持つ画素の座標を(数式1)、(数式2)を用いてZX平面上へ座標変換する。この後に、フローはステップS122へ移行する。
【0090】
ステップS122では、画素の座標変換点がZX平面内に位置すれば、平面物候補点と判定し、画素の座標変換点がZX平面内に位置しなければ、立体物候補点と判定する。この後に、フローはステップS123に進む。
【0091】
ステップS123では、速度が算出された画素の全てがZX平面上へ座標変換されて、平面物候補点および立体物候補点の検出が終了したかどうかが判定される。平面物候補点および立体物候補点の検出が終了した場合には、フローはステップS124に進む。一方、平面物候補点および立体物候補点の検出が終了していない場合は、フローはステップS121に戻り、平面物候補点および立体物候補点の検出が継続される。
【0092】
ステップS124では、各短冊領域内において、平面物候補点および立体物候補点が縦方向に連続して存在する場合には、平面物候補点および立体物候補点を含む物体を一つの立体物として判定する。この後に、フローはステップS125に進む。
【0093】
ステップS125では、各領域において、平面物候補点のうち、一番下にある点を下端点として検出し、検出した下端点のZX平面上の座標変換点が位置する領域のカウンタのカウンタ値を+1加算する。この後に、フローはステップS126に進む。
【0094】
ステップS126では、各領域において、カウンタ値に基づき各領域の下端点の位置分布情報の算出が終了したかどうかの判定が行われる。各領域の下端点の位置分布情報の算出が終了した場合には、フローはステップS110へ進む。一方、各領域の下端点の位置分布情報の算出が終了していない場合には、フローはステップS124へ戻り、下端点の位置分布情報の算出が継続される。
【0095】
以降、前述した実施形態と同様の処理により、歩行者を検出する。
【0096】
以上説明した本発明の実施形態の歩行者検出装置によれば、以下のような作用効果を得ることができる。
【0097】
請求項1の発明によれば、自車両前方の画像を撮像する撮像部および、前記撮像部で撮像した画像から特徴点を抽出する特徴点抽出部と、前記特徴点を表す画素の前記画像上の移動速度および移動方向を移動情報として算出する移動情報算出部と、前記画素の前記画像上の座標を前記自車両前方の俯瞰図における座標に変換する座標変換部と、前記画素の前記俯瞰図における前記座標および前記画素の前記移動情報に基づいて前記特徴点を平面物または立体物と判定するとともに、前記特徴点が立体物と判定された場合は該立体物が移動体であるか否かを判定する物体属性判定部と、前記特徴点が移動体であると判定された際に、前記移動体の前記画像上における前記移動速度の変化に基づいて前記移動体が歩行者であるか否かを判定する歩行者判定部とを有する制御部と、を備えることを特徴としている。
【0098】
この装置によれば、カメラ101で撮像した画像から抽出した特徴点の移動情報と位置に基づいて、特徴点を平面物または立体物と判定するとともに、前記特徴点が立体物と判定された場合は該立体物が移動体であるか否かを判定し、特徴点が移動体と判定された場合は、移動体の移動速度の変化に基づいて移動体が歩行者であるかどうかを判定することができ、精度高く歩行者の識別を行うことができる。
【0099】
また、請求項2に記載の発明によれば、請求項1に記載の歩行者検出装置において、前記画像の垂直方向に隣接するとともに前記移動速度が所定の範囲にある前記画素を同一のグループにグループ化するグループ化部を備え、前記物体属性判定部は、前記グループ化部によりグループ化された前記画素のうち最上部に位置する前記画素と最下部に位置する前記画素の前記俯瞰図における座標に基づいて前記特徴点を平面物または立体物と判定することを特徴としている。
【0100】
この装置によれば、撮像画像上で同等の速度を有する隣接した画素をグループ化してその最上部と最下部に位置する画素を求め、該画素の俯瞰変換後の座標により平面物、立体物、移動体の判定を行うことができ、一つのカメラの撮像画像から該判定を簡単に行うことができる。
【0101】
また、請求項3に記載の発明によれば、請求項2に記載の歩行者検出装置において、前記物体属性判定部は、前記最上部に位置する前記画素と前記最下部に位置する前記画素が前記俯瞰図の所定の範囲を所定の数に分割して設定した複数の領域のうち同一の領域に位置する場合に前記特徴点を平面物と判定し、前記最上部に位置する前記画素と前記最下部に位置する前記画素が前記複数の領域のうちそれぞれ異なる領域に位置する場合、または前記最上部に位置する前記画素が前記俯瞰図の前記複数の領域外に位置するとともに前記最下部に位置する前記画素が前記俯瞰図の前記複数の領域のうちいずれかの領域に位置する場合に、前記特徴点を立体物と判定することを特徴としている。
【0102】
この装置によれば、撮像画像上で同等の速度を有する隣接した画素をグループ化してその最上部と最下部に位置する画素を求め、該画素の俯瞰変換後の座標により平面物、立体物、移動体の判定を行うことができ、一つのカメラの撮像画像から該判定を簡単に行うことができる。
【0103】
また、請求項4に記載の発明によれば、請求項2に記載の歩行者検出装置において、前記物体属性判定部は、前記画素が前記俯瞰図の所定の範囲を所定の数に分割して設定した複数の領域のうちいずれかの領域に位置する場合に前記画素を平面物候補点と判定する一方、前記画素が前記俯瞰図の前記複数の領域外に位置する場合に前記画素を立体物候補点と判定し、前記平面物候補点と前記立体物候補点が前記画像において垂直方向に連続して位置する場合に前記平面物候補点と前記立体物候補点を一つの立体物として判定することを特徴としている。
【0104】
この装置によれば、特徴点を表す画素の前記画像上の移動速度を算出した際に、同じ物体を構成する画素でありながら何らかの影響で同等の移動速度が算出されない場合でも、高精度で立体物の識別が可能となる。
【0105】
また、請求項5に記載の発明によれば、請求項1〜4のいずれか1項に記載の歩行者検出装置において、前記物体属性判定部は、複数の前記立体物における前記画素の前記移動情報と前記画素の前記画像上における前記座標とに基づいて前記立体物が移動体であるか否かを判定する移動体判定を行うことを特徴としている。
【0106】
この装置によれば、自車両の動きの推定や物体までの距離を算出することなく、検出した立体物の速度と位置関係に基づいて移動体の検出を簡単に行うことが可能となる。
【0107】
また、請求項6に記載の発明によれば、請求項5に記載の歩行者検出装置において、前記物体属性判定部は、前記画素のうち前記画像の垂直方向において最下部に位置する前記画素の前記俯瞰図における前記座標に基づいて前記自車両の走路の境界を表す走路境界を検出し、該走路境界で区切られた区画毎に前記移動体判定を行うことを特徴としている。
【0108】
この装置によれば、検出した走路境界で区切られた区画毎に移動体の検出を行うため、複雑な背景下においても、簡単に移動体の検出を行うことが可能となる。
【0109】
また、請求項7に記載の発明によれば、請求項1〜6のいずれか1項に記載の歩行者検出装置において、前記歩行者検出部は、複数の前記移動体の前記画像上の前記移動方向が同一で前記移動速度の比が所定の範囲内であって、該複数の前記移動体の前記画像上の前記座標の差が所定値以下である場合に、該複数の移動体を一つの移動体であると判定することを特徴としている。
【0110】
この装置によれば、一つの移動体において複数のエッジが検出された場合でも、一つの移動体であるとの判定を行うことが可能となる。
【0111】
また、請求項8に記載の発明によれば、請求項1〜7のいずれか1項に記載の歩行者検出装置において、前記歩行者検出部は、前記移動体の前記移動速度の分散値を算出し、該分散値が所定値以上の場合に、前記移動体を歩行者と判定することを特徴としている。
【0112】
この装置によれば、検出した移動体の移動速度の分散値を指標として、簡単に歩行者の検出を行うことが可能となる。
【0113】
また、請求項9に記載の発明によれば、請求項8に記載の歩行者検出装置において、前記歩行者検出部は、前記移動体の前記移動速度の前記分散値が所定値未満の場合に、所定の時間間隔における前記移動体の前記画像上の前記座標の変化が所定値以下であるとともに、前記移動速度の変化が所定値以上である場合に、前記移動体を歩行者と判定することを特徴としている。
【0114】
この装置によれば、移動速度が遅い歩行者でも、簡単に検出を行うことが可能となる。
【0115】
また、請求項10に記載の発明によれば、請求項1〜7のいずれか1項に記載の歩行者検出装置において、前記歩行者検出部は、前記移動体を前記画像上において上部と下部とに分割して該下部における前記移動速度の分散値を算出し、該分散値が所定値以上の場合に、前記移動体を歩行者と判定することを特徴としている。
【0116】
この装置によれば、検出した移動体の下部における移動速度の分散値を指標として、簡単に歩行者の検出を行うことが可能となる。
【0117】
また、請求項11に記載の発明によれば、請求項10に記載の歩行者検出装置において、前記歩行者検出部は、前記移動体の前記下部における前記移動速度の前記分散値が所定値未満の場合に、所定の時間間隔における前記移動体の前記画像上の前記座標の変化が所定値以下であるとともに、前記移動速度の変化が所定値以上である場合に、前記移動体を歩行者と判定することを特徴としている。
【0118】
この装置によれば、移動速度が遅い歩行者でも、簡単に検出を行うことが可能となる。
【0119】
また、請求項12に記載の発明によれば、請求項1〜7のいずれか1項に記載の歩行者検出装置において、前記歩行者検出部は、前記移動体の上端と下端を検出して該上端と該下端それぞれにおける前記移動速度の最大値を算出し、該上端と該下端における該最大値の比が所定の範囲外の場合に、前記移動体を歩行者と判定することを特徴としている。
【0120】
この装置によれば、検出した移動体の上端と下端の移動速度の最大値の比を指標として、簡単に歩行者の検出を行うことが可能となる。
【0121】
また、請求項13に記載の発明によれば、請求項12に記載の歩行者検出装置において、前記歩行者検出部は、前記移動体の前記上端と前記下端における前記移動速度の前記最大値の比が所定の範囲内の場合に、所定の時間間隔における前記移動体の前記画像上の前記座標の変化が所定値以下であるとともに、前記移動速度の変化が所定値以上である場合に、前記移動体を歩行者と判定することを特徴としている。
【0122】
この装置によれば、移動速度が遅い歩行者でも、簡単に検出を行うことが可能となる。
【0123】
さらに、請求項14に記載の発明によれば、請求項1〜13のいずれか1項に記載の歩行者検出装置において、前記特徴点が物体のエッジであることを特徴としている。
【0124】
この装置によれば、撮像画像上において物体のエッジを検出することで、簡単に歩行者を検出することができる。
【0125】
また、以上説明した本発明の実施形態の歩行者検出方法によれば、以下のような作用効果を得ることができる。
【0126】
請求項15に記載の発明によれば、自車両前方の画像を撮像するステップと、撮像した画像から特徴点を抽出するステップと、前記特徴点を表す画素の前記画像上の移動速度および移動方向を移動情報として算出するステップと、前記画素の前記画像上の座標を前記自車両前方の俯瞰図における座標に変換するステップと、前記画素の前記俯瞰図における前記座標および前記画素の前記移動情報に基づいて前記特徴点を平面物または立体物と判定するとともに、前記特徴点が立体物と判定された場合は該立体物が移動体であるか否かを判定するステップと、前記特徴点が移動体であると判定された際に、前記移動体の前記画像上における前記移動速度の変化に基づいて前記移動体が歩行者であるか否かを判定するステップと、を備えることを特徴としている。
【0127】
この方法によれば、撮像した画像から抽出した特徴点の移動情報と位置に基づいて、特徴点を平面物または立体物と判定するとともに、前記特徴点が立体物と判定された場合は該立体物が移動体であるか否かを判定し、特徴点が移動体と判定された場合は、移動体の移動速度の変化に基づいて移動体が歩行者であるかどうかを判定することができ、精度高く歩行者の識別を行うことができる。
【0128】
また、請求項16に記載の発明によれば、請求項15に記載の歩行者検出方法において、前記画像の垂直方向に隣接するとともに前記移動速度が所定の範囲にある前記画素を同一のグループにグループ化するステップを備え、同一のグループにグループ化された前記画素のうち最上部に位置する前記画素と最下部に位置する前記画素の前記俯瞰図における座標に基づいて前記特徴点を平面物または立体物と判定することを特徴としている。
【0129】
この方法によれば、撮像画像上で同等の速度を有する隣接した画素をグループ化してその最上部と最下部に位置する画素を求め、該画素の俯瞰変換後の座標により平面物、立体物、移動体の判定を行うことができ、一つのカメラの撮像画像から該判定を簡単に行うことができる。
【0130】
また、請求項17に記載の発明によれば、請求項16に記載の歩行者検出方法において、前記最上部に位置する前記画素と前記最下部に位置する前記画素が前記俯瞰図の所定の範囲を所定の数に分割して設定した複数の領域のうち同一の領域に位置する場合に前記特徴点を平面物と判定し、前記最上部に位置する前記画素と前記最下部に位置する前記画素が前記複数の領域のうちそれぞれ異なる領域に位置する場合、または前記最上部に位置する前記画素が前記俯瞰図の前記複数の領域外に位置するとともに前記最下部に位置する前記画素が前記俯瞰図の前記複数の領域のうちいずれかの領域に位置する場合に、前記特徴点を立体物と判定することを特徴としている。
【0131】
この方法によれば、撮像画像上で同等の速度を有する隣接した画素をグループ化してその最上部と最下部に位置する画素を求め、該画素の俯瞰変換後の座標により平面物、立体物、移動体の判定を行うことができ、一つのカメラの撮像画像から該判定を簡単に行うことができる。
【0132】
また、請求項18に記載の発明によれば、請求項16に記載の歩行者検出方法において、前記画素が前記俯瞰図の所定の範囲を所定の数に分割して設定した複数の領域のうちいずれかの領域に位置する場合に前記画素を平面物候補点と判定する一方、前記画素が前記俯瞰図の前記複数の領域外に位置する場合に前記画素を立体物候補点と判定し、前記平面物候補点と前記立体物候補点が前記画像において垂直方向に連続して位置する場合に前記平面物候補点と前記立体物候補点を一つの立体物として判定することを特徴としている。
【0133】
この方法によれば、特徴点を表す画素の前記画像上の移動速度を算出した際に、同じ物体を構成する画素でありながら何らかの影響で同等の移動速度が算出されない場合でも、高精度で立体物の識別が可能となる。
【0134】
また、請求項19に記載の発明によれば、請求項15〜18のいずれか1項に記載の歩行者検出方法において、複数の前記立体物における前記画素の前記移動情報と前記画素の前記画像上における前記座標とに基づいて前記立体物が移動体であるか否かを判定する移動体判定を行うことを特徴としている。
【0135】
この方法によれば、自車両の動きの推定や物体までの距離を算出することなく、検出した立体物の速度と位置関係に基づいて移動体の検出を簡単に行うことが可能となる。
【0136】
また、請求項20に記載の発明によれば、請求項19に記載の歩行者検出方法において、前記画素のうち前記画像の垂直方向において最下部に位置する前記画素の前記俯瞰図における前記座標に基づいて前記自車両の走路の境界を表す走路境界を検出し、該走路境界で区切られた区画毎に前記移動体判定を行うことを特徴としている。
【0137】
この方法によれば、検出した走路境界で区切られた区画毎に移動体の検出を行うため、複雑な背景下においても、簡単に移動体の検出を行うことが可能となる。
【0138】
また、請求項21に記載の発明によれば、請求項15〜20のいずれか1項に記載の歩行者検出方法において、複数の前記移動体の前記画像上の前記移動方向が同一で前記移動速度の比が所定の範囲内であって、該複数の前記移動体の前記画像上の前記座標の差が所定値以下である場合に、該複数の移動体を一つの移動体であると判定することを特徴としている。
【0139】
この方法によれば、一つの移動体において複数のエッジが検出された場合でも、一つの移動体であるとの判定を行うことが可能となる。
【0140】
また、請求項22に記載の発明によれば、請求項15〜21のいずれか1項に記載の歩行者検出方法において、前記移動体の前記移動速度の分散値を算出し、該分散値が所定値以上の場合に、前記移動体を歩行者と判定することを特徴としている。
【0141】
この方法によれば、検出した移動体の移動速度の分散値を指標として、簡単に歩行者の検出を行うことが可能となる。
【0142】
また、請求項23に記載の発明によれば、請求項22に記載の歩行者検出方法において、前記移動体の前記移動速度の前記分散値が所定値未満の場合に、所定の時間間隔における前記移動体の前記画像上の前記座標の変化が所定値以下であるとともに、前記移動速度の変化が所定値以上である場合に、前記移動体を歩行者と判定することを特徴としている。
【0143】
この方法によれば、移動速度が遅い歩行者でも、簡単に検出を行うことが可能となる。
【0144】
また、請求項24に記載の発明によれば、請求項15〜21のいずれか1項に記載の歩行者検出方法において、前記移動体を前記画像上において上部と下部とに分割して該下部における前記移動速度の分散値を算出し、該分散値が所定値以上の場合に、前記移動体を歩行者と判定することを特徴としている。
【0145】
この方法によれば、検出した移動体の下部における移動速度の分散値を指標として、簡単に歩行者の検出を行うことが可能となる。
【0146】
また、請求項25に記載の発明によれば、請求項24に記載の歩行者検出方法において、前記移動体の前記下部における前記移動速度の前記分散値が所定値未満の場合に、所定の時間間隔における前記移動体の前記画像上の前記座標の変化が所定値以下であるとともに、前記移動速度の変化が所定値以上である場合に、前記移動体を歩行者と判定することを特徴としている。
【0147】
この方法によれば、移動速度が遅い歩行者でも、簡単に検出を行うことが可能となる。
【0148】
また、請求項26に記載の発明によれば、請求項15〜21のいずれか1項に記載の歩行者検出方法において、前記移動体の上端と下端を検出して該上端と該下端それぞれにおける前記移動速度の最大値を算出し、該上端と該下端における該最大値の比が所定の範囲外の場合に、前記移動体を歩行者と判定することを特徴としている。
【0149】
この方法によれば、検出した移動体の上端と下端の移動速度の最大値の比を指標として、簡単に歩行者の検出を行うことが可能となる。
【0150】
また、請求項27に記載の発明によれば、請求項26に記載の歩行者検出方法において、前記移動体の前記上端と前記下端における前記移動速度の前記最大値の比が所定の範囲内の場合に、所定の時間間隔における前記移動体の前記画像上の前記座標の変化が所定値以下であるとともに、前記移動速度の変化が所定値以上である場合に、前記移動体を歩行者と判定することを特徴としている。
【0151】
この方法によれば、移動速度が遅い歩行者でも、簡単に検出を行うことが可能となる。
【0152】
さらに、請求項28に記載の発明によれば、請求項15〜27のいずれか1項に記載の歩行者検出方法において、前記特徴点が物体のエッジであることを特徴としている。
【0153】
この方法によれば、撮像画像上において物体のエッジを検出することで、簡単に歩行者を検出することができる。
【0154】
以上、本発明の実施形態を図面により詳述したが、実施形態は本発明の例示にしか過ぎず、本発明は実施形態の構成にのみ限定されるものではない。したがって本発明の要旨を逸脱しない範囲の設計の変更等があっても本発明に含まれることはもちろんである。
例えば、ブロック図は上記実施例に示すものに限定されるものではなく、同等の機能を備えた構成であれば良い。
【0155】
また、カメラの取り付け位置は実施形態で述べた位置に限定されるものではなく、カメラの光軸が車両前方正面方向(Z方向)に向き、撮像面の水平軸および垂直軸がそれぞれ路面と平行および垂直となるように設定されていれば良い。
【0156】
また、検出したエッジの幅の正規化を行うにあたっては、エッジ幅は3画素に限定されるものではなく、任意の画素数を設定することができる。この場合、その後の処理でエッジの中央部の画素を利用するため、エッジ幅の画素数は奇数個であることが望ましい。
【0157】
また、xy平面を分割して設定する短冊領域の数は上記実施形態に示すものに限定されるものではなく、任意の数に分割して設定することができる。
【0158】
また、ZX平面を分割して設定する領域の数は上記実施形態に示すものに限定されるものではなく、任意の数に分割して設定することができる。
【0159】
また、ZX平面の縦方向および横方向の範囲は、任意の値に設定することができる。
【0160】
また、上記実施形態では道路を走行する車両に歩行者検出装置10を搭載する例について説明したが、他の移動体に搭載してもよい。
【0161】
さらに、上記実施形態では、検出する走路境界として、縁石、白線、外壁と路面との接点の例について説明したが、これに限定されず、例えば、ガードレール、駐車車両と路面との境界、路面と路面以外の領域(田、畑など)との境界を検出してもよい。
【図面の簡単な説明】
【0162】
【図1】本発明の実施形態の構成例を示すブロック図である。
【図2】カメラの車両への設置例を示す図である。
【図3】カメラで撮像した画像の例を示す図である。
【図4】抽出したエッジを正規化して、エッジ画像を得るために行う各処理の例を示す図である。
【図5】速度画像の例を示す図である。
【図6】速度画像上に短冊領域を設定し、各短冊領域において速度が所定範囲内の画素を同一グループにグループ化し、グループの下端点と上端点を検出した例を示す図である。
【図7】速度画像上で検出した上端点と下端点をZX平面上に座標変換し、物体が平面物か立体物かの判定を行う例を示す図である。
【図8】下端点の座標変換点のZX平面上の位置分布より走路境界線を検出する例を示す図である。
【図9】検出した走路境界で区切られた区画内で検出した立体物の画像の水平方向位置と速度の関係から移動物体を検出する場合の具体例を示す図である。
【図10】歩行者の脚および腕の移動速度の変化を示すグラフである。
【図11】本発明の実施形態のフローチャートである。
【図12】本発明の実施形態の歩行者判定のフローチャートである。
【図13】本発明の実施例1の歩行者判定のフローチャートである。
【図14】歩行者の頭と脚の速度の関係を示す図である。
【図15】本発明の実施例2の歩行者判定のフローチャートである。
【図16】速度画像上に短冊領域を設定し、各短冊領域において速度が検出された画素をZX平面上へ座標変換することで、平面物候補点か立体物候補点かを判定する例を示す図である。
【図17】検出した平面物候補点と立体物候補点の配置から立体物の判定を行う例を示す図である。
【図18】本発明の実施例3のフローチャートである。
【符号の説明】
【0163】
10 歩行者検出装置
100 制御部
101 カメラ(撮像部)
102 画像一時記録部
103 特徴点抽出部
104 移動情報算出部
105 グループ化
106 座標変換部
107 物体属性判定部
108 歩行者判定部
【技術分野】
【0001】
本発明は、歩行者検出装置および歩行者検出方法に関するものである。
【背景技術】
【0002】
一般に、車載カメラの撮像画像からオプティカルフロー(画像速度情報)を利用して歩行者や車両等の移動体を検出する移動体検出装置と移動検出方法が多数提案されている。例えば、撮像画像のオプティカルフローを求め、移動体の動きに基づいて抽出した撮像画像の背景のオプティカルフローと撮像画像全体のオプティカルフローとの比較により、移動体を検出する移動体検出方法が提案されている(特許文献1)。
【特許文献1】特開2004−56763号
【発明の開示】
【発明が解決しようとする課題】
【0003】
このような移動体検出装置または移動体検出方法では、移動体を検出するために背景のオプティカルフローを算出する必要がある。ここで、背景のオプティカルフローは、自車両前方の空間モデルを推定し、この空間モデルと自車両の動きに基づいて算出しているが、微小時間ではこの推定の精度が低くなってオプティカルフローの検出精度も低下し、移動体を高い精度で検出することが難しいという問題が生じていた。特に、歩行者は移動速度が遅く不規則な動きを示すことが多いため、歩行者を高い精度で検出することが難しいという問題があった。
【課題を解決するための手段】
【0004】
上記課題を解決するために、本発明の歩行者検出装置は、自車両前方の画像を撮像する撮像部および、前記撮像部で撮像した画像から特徴点を抽出する特徴点抽出部と、前記特徴点を表す画素の前記画像上の移動速度および移動方向を移動情報として算出する移動情報算出部と、前記画素の前記画像上の座標を前記自車両前方の俯瞰図における座標に変換する座標変換部と、前記画素の前記俯瞰図における前記座標および前記画素の前記移動情報に基づいて前記特徴点を平面物または立体物と判定するとともに、前記特徴点が立体物と判定された場合は該立体物が移動体であるか否かを判定する物体属性判定部と、前記特徴点が移動体であると判定された際に、前記移動体の前記画像上における速度変化に基づいて前記移動体が歩行者であるか否かを判定する歩行者判定部とを有する制御部と、を備えることを特徴としている。
【発明の効果】
【0005】
上記構成によれば、カメラで撮像した画像を画像処理して移動体を検出し、検出した移動体の移動速度の変化から歩行者に特有の変化を検出することで、歩行者を高い精度で検出することができる。
【発明を実施するための最良の形態】
【0006】
以下、この発明の実施形態を図面に基づいて説明する。
図1は、本発明の実施形態における移動体検出装置の構成例を示すブロック図である。
【0007】
歩行者検出装置10は車両に搭載され、車両前方を撮像する撮像部であるカメラ101および、カメラ101で撮像した画像を一時的に記録する画像一時記録部102と、画像一時記録部102に記憶された画像を画像処理することで特徴点を抽出する特徴点抽出部103と、特徴点抽出部103により抽出された特徴点を表す画素の画像上における移動速度および移動方向を移動情報として算出する移動情報算出部104と、移動情報算出部104により算出された画素の速度を指標として特徴点を表す画素のグループ化を行うグループ化部105と、グループ化部105によりグループ化された画素のうち特定の画素の座標を自車両前方の俯瞰図における座標に変換する座標変換部106と、座標変換部106により変換された画素の座標および移動情報算出部104により算出された特徴点の移動情報に基づいて特徴点が平面物であるか立体物であるかを判定するとともに、特徴点が立体物である場合には移動体であるかどうかを判定する物体属性判定部107と、特徴点が移動体である場合に、移動体の移動速度の変化に基づいて移動体が歩行者であるか否かを判定する歩行者判定部108と、を有する制御部100を備えている。
【0008】
カメラ101は、例えばCCDやCMOSなどの撮像素子を有したカメラであり、車両前方を連続的に撮像してフレーム毎に撮像した画像を画像一時記録部102に出力する。カメラ101で撮像された画像は、画像一時記録部102に一時的に記録される。ここで、図2に示すように、カメラ101は車両の室内上部前方(例えばルームミラー部等)に設置され、その光軸LSは車両前方正面方向(Z方向)に向き、撮像面の水平軸X(図示省略)は路面と平行となるように、また撮像面の垂直軸Y(図示省略)は路面と垂直になるように設定されている。
【0009】
カメラ101で撮像した画像(自車両前方の画像)の例を図3に示す。カメラ101により撮像された画像は、画像左上を原点として左から右へx軸、上から下へy軸とするxy座標系によって表される。なお、図3においては、左右の走路脇に設置された縁石、白線、外壁などの走路の境界線と、左から右へ移動する歩行者、自車両前方を走行中の先行車が撮像画像に含まれている。
【0010】
特徴点抽出部103は、カメラ101で撮像された画像を画像一時記録部102から読み込み、読み込んだ撮像画像を所定の閾値を用いて2値化することによって、画像内に存在する物体のエッジを抽出する。図4(a)に、抽出した垂直方向のエッジ例を示す。次に、抽出した各エッジに対して、細線化処理を行ってエッジ幅を絞り、エッジの垂直方向の中心を正確に設定する(図4(b)参照)。さらに、細線化されたエッジのエッジ幅が一定の幅となるように、例えば3画素分の幅となるように、エッジを水平方向に拡張する(図4(c)参照)。この操作により、抽出したエッジが正規化され、各エッジが均一の幅を持つエッジ画像を得ることができる。
【0011】
移動情報算出部104は、エッジに該当する画素の画素カウンタのカウンタ値を更新する。ここで、画素カウンタとは、各画素毎に設定されたカウンタであり、画素がエッジに該当する場合に画素カウンタのカウンタ値が+1加算され、画素がエッジに該当しない場合は画素カウンタのカウンタ値が0となって初期化されるカウンタである。このカウンタ値の更新処理を、カメラ101で連続的に撮像されるフレーム毎に行う。この操作により、エッジに該当する時間が長い画素は画素カウンタのカウンタ値が大きくなり、エッジに該当する時間が短い画素は画素カウンタのカウンタ値が小さくなる。この画素カウンタのカウンタ値の変化は、エッジの移動方向と移動量を表していることになるため、このカウンタ値から、撮像画像上におけるエッジの移動方向と移動速度とを算出することができる。
【0012】
次に、撮像された画像上に存在するエッジの速度成分を所定の階級値に分類して表した速度画像を生成する。本実施形態における速度画像は、図5に示すように、速度が検出されたエッジの画素を丸型の点で表し、移動速度が速い画素ほど点を大きく示す。また、右へ向かう速度を黒点で表し、左へ向かう速度を白点で表すことによって移動方向を表している。図5においては、自車両の走行路右側の縁石および白線からは画像の右側へ向かう速度が検出されており、走行路左側の外壁からは画像の左側へ向かう速度が検出されている。また、走行路左側から右へ移動する歩行者では、画像の右側へ向かう速度が検出されている。さらに、自車両前方を自車両より速く走行する先行車では、先行車の左端に画像の右側へ向かう速度が検出され、先行車の右端に画像の左側へ向かう速度が検出されている。
【0013】
グループ化部105は、算出した速度画像から立体物を抽出するために、速度画像を分割する領域を設定する。すなわち、図6に示すように、速度画像上に短冊状の複数の領域を設定し、速度画像を複数の領域(以降、短冊領域と呼ぶ)で分割する。
【0014】
次に、各短冊領域毎に、速度が所定範囲内にあるとともに垂直方向に隣接する画素を同一のグループとしてグループ化する。すなわち、画像の下部から上部に向かって各短冊領域を走査し、短冊領域内に速度を持った画素が存在する場合、その画素の上方に隣接する速度を持った画素との速度差を比較し、速度差が閾値ΔVG以下である場合には、車両に対して同じ速度で移動する物体であると推定できることから、同じ物体であると判定してグループ化を行う。そして、グループ化された画素の上端位置(請求項における最上部)と下端位置(請求項における最下部)を検出する。この処理により、図6における下端BL1〜BL13及び上端TL1〜TL13が検出される。
【0015】
座標変換部106は、xy平面上で抽出した下端BL1〜BL13及び上端TL1〜TL13のx軸方向の中心位置を座標とする下端点BP1〜BP13(図7参照)および上端点TP1〜TP13(図7参照)の位置を、規定の面積を備えたZX平面上の点として俯瞰変換する。
【0016】
ここで、xy平面上の各点の位置を表す座標を(x、y)とし、カメラの路面からの高さをCh(m)、カメラの俯角をTr(rad)、画像の縦サイズをIh、画像の横サイズをIw、高さ方向の1画素あたりの角度分解能をPYr(rad)、横方向の1画素あたりの角度分解能をPXr(rad)とすると、xy平面上の点TP1〜TP13及びBP1〜BP13は、次式に従ってZX平面の座標(Z、X)に変換される。
【0017】
Z=(Ch)/(TAN(Tr+(y−Ih/2)×PYr))(数式1)
X=(x)×TAN((Z-Iw/2)×PXr) (数式2)
ここで、上端点TP1〜TP13、下端点BP1〜BP13の変換後の点を、上端点の座標変換点RT1〜RT13、下端点の座標変換点RB1〜RB13とする。
【0018】
物体属性判定部107は、上端点の座標変換点RT1〜RT13、下端点の座標変換点RB1〜RB13が、規定のZX平面を分割して設定した領域のうちどの領域に位置するかの判定を行う(図7参照)。ここで、車両の上下動に伴いカメラ101の撮像映像も上下に動き、座標変換点が位置する領域も変動してしまう可能性がある。この影響を避けるため、ZX平面を分割して設定する領域はメーターオーダーで設定することが望ましい。本実施例では、X軸方向は、−5.25m>X、−5.25≦X<−3.5m、−3.5m≦X<−1.75m、−1.75m≦X<0m、0m≦X<1.75m、1.75m≦X<3.5m、3.5m≦X<5.25m、5.25m≦X、として8分割し、Z軸方向は、0m≦Z<10m、10m≦Z<20m、20m≦Z<30m、30m≦Z<40m、40m≦Z<50mとして5分割して、領域11〜領域15、領域21〜領域25、領域31〜領域35、領域41〜領域45、領域51〜領域55、領域61〜領域65、領域71〜領域75、領域81〜領域85を設定している。また、領域11〜領域15を領域10とし、領域21〜領域25を領域20とし、領域31〜領域35を領域30とし、領域41〜領域45を領域40とし、領域51〜領域55を領域50とし、領域61〜領域65を領域60とし、領域71〜領域75を領域70とし、領域81〜領域85を領域80としている。
【0019】
そして、xy平面の短冊領域における上端点の座標変換点と上端点と同一のグループの下端点の座標変換点がZX平面の同一の領域に位置すれば、上端点と下端点が路面上にある、すなわち路面上の平面物であると判定する。
【0020】
一方、同一のグループに属する上端点と下端点のそれぞれの座標変換点がZX平面の同一の領域に位置しない場合、または同一のグループに属する上端点と下端点のうち下端点のみがZX平面に位置する場合は、下端点のみ路面上にある、すなわち立体物であると判定する。
【0021】
ここで、走路境界を検出するために、ZX平面の各領域に設定したカウンタのうち下端点の座標変換点が位置する領域のカウンタのカウンタ値を+1加算し、下端点の位置分布情報を算出する。
【0022】
例えば、本実施例では、上端点TP1〜TP7の座標変換点RT1〜RT7は図7に示すZX平面外に投影されるため、上端点TP1〜TP7を含むグループは立体物であると判定され、上端点TP1〜TP7を含むエッジはxy平面上で立体物OB1〜OB7として判定される。また上端点TP8〜TP13の座標変換点RT8〜RT13は下端点BP8〜BP13の座標変換点RB8〜RB13と同じ領域に位置するため、すなわち、上端点の座標変換点RT8と下端点の座標変換点RB8は同じ領域53に位置し、上端点の座標変換点RT9と下端点の座標変換点RB9は同じ領域55に位置し、上端点の座標変換点RT10と下端点の座標変換点RB10は同じ領域81に位置し、上端点の座標変換点RT11と下端点の座標変換点RB11は同じ領域82に位置し、上端点の座標変換点RT12と下端点の座標変換点RB12は同じ領域83に位置し、上端点の座標変換点RT13と下端点の座標変換点RB13は同じ領域84に位置し、上端点TP8〜TP13をそれぞれ含む各グループは路面上に位置する物であると判定される。ここで、走路境界を検出するために、下端点の座標変換点RB1〜RB13が位置する領域のカウンタのカウンタ値を+1加算する。
【0023】
そして、図8に示すように、得られた下端点の座標変換点の位置分布から、走路境界線が存在する可能性が高い領域を抽出する。すなわち、得られた下端点の座標変換点の位置分布において、同じX軸領域で複数のZ軸領域にカウンタ値が存在すれば、自車両前方に走路境界が車両に沿って直線状に存在すると推定できるため、カウンタ値がある領域を走路境界領域として抽出する。例えば、図8では、x軸が同じ範囲の領域30において、複数のZ軸領域(下端点RB1、RB2、RB3、RB4、RB6が位置する領域)にカウンタ値が存在するため、これらの領域を走路境界領域として抽出する。領域50、領域80についても同様である。
【0024】
そして、抽出した領域に走路境界を示す直線が存在するかどうかの判定を行う(図9参照)。すなわち、抽出した領域に存在する下端点の座標変換点に基づいて、xy座標系での回帰分析を行い、同じ移動方向の下端点を結ぶ直線の傾きを算出する。例えば、本実施例の領域30では、領域30に存在し左方向に移動する下端点の座標変換点RB1、RB4、RB6に対応するxy座標における下端点BP1、BP4、BP6の座標位置からxy座標系での回帰分析を行い、下端点BP1、BP4、BP6を結ぶ直線の傾きa3を算出する。同様に、領域50に存在する下端点の座標変換点RB8、RB9に対応するxy座標における下端点BP8、BP9の座標位置からxy座標系での回帰分析を行い、下端点BP8、BP9を結ぶ直線の傾きa5を算出する。同様に、領域80に存在する下端点の座標変換点RB10、RB11、RB12、RB13に対応するxy座標における下端点BP10、BP11、BP12、BP13の座標位置からxy座標系での回帰分析を行い、下端点BP10、BP11、BP12、BP13を結ぶ直線の傾きa8を算出する。そして、算出した直線の傾きが所定の範囲内に入っていれば、抽出した領域内に走路境界を示す直線が存在すると判定する。すなわち、下端点の座標変換点が位置するX軸領域の左端座標と各Z軸領域の代表座標(例えば中心座標)を座標とする点(例えば図8のPL1〜PL5)をxy座標系に変換して回帰分析して算出した直線の傾きTn0a1と、下端点の座標変換点が位置するX軸領域の右端座標と各Z軸領域の代表座標(例えば中心座標)を座標とする点(例えば図8のPR1〜PR5)をxy座標系に変換して回帰分析して算出した直線の傾きTn0a2とで規定される傾きの範囲内に、下端点に基づき算出された直線の傾きanが入っている場合には、抽出した領域内に走路境界を示す直線Lnが存在するとの判定を行う。
【0025】
例えば、本実施例の領域30においては、座標(x、z)=(−3.5、5)の点PL1、座標(x、z)=(−3.5、15)の点PL2、座標(x、z)=(−3.5、25)の点PL3、座標(x、z)=(−3.5、35)の点PL4、座標(x、z)=(−3.5、45)の点PL5をxy座標に変換して回帰分析を行い算出した各点を結ぶ直線の傾きT30a1と、座標(x、z)=(−1.75、5)の点PR1、座標(x、z)=(−1.75、15)の点PR2、座標(x、z)=(−1.75、25)の点PR3、座標(x、z)=(−1.75、35)の点PR4、座標(x、z)=(−1.75、45)の点PR5をxy座標に変換して回帰分析を行い算出した各点を結ぶ直線の傾きT30a2に対し、下端点の投影点RB1、RB4、RB6に対応するxy平面上の下端点BP1、BP4、BP6を結ぶ直線の傾きa3が、T30a1とT30a2で規定される範囲内に存在するため、下端点BP1、BP4、BP6を結ぶ直線は走路境界を示す直線L3であると判定される(図8、9参照)。
【0026】
同様にして、領域50では、下端点の投影点RB8、RB9に対応するxy平面上の下端点BP8、BP9を結ぶ直線は走路境界を示す直線L5であると判定され、領域80では、下端点の投影点RB10〜RB13に対応するxy平面上の下端点BP10〜BP13を結ぶ直線は走路境界を示す直線L8であると判定される。
【0027】
そして、図9下図に示すように、走路境界で区切られた各領域において、検出された立体物の下端点の画像の水平方向位置と速度の関係を示すグラフを算出する。このグラフでは、画像中央より左側に位置する立体物、例えば外壁のような背景は、画像を左向きに移動し、画像の左側に位置するほど自車よりも遠い位置にあるため、画素の速度は速くなる。つまり、縦軸に速度(左に移動する速度をプラス、右に移動する速度をマイナス)、横軸に画像のx座標(画像左端を原点)に設定すると、画像の右半分においては、背景や静止物であれば、速度とx座標の関係は、右下がりの直線となる。一方、画像の右半分において右下がりの直線関係とならない座標がある場合は、背景や静止物でないもの、すなわち移動体が存在する可能性がある。この場合、図9に示すように、背景の速度(左向きの速度)とは逆向きの速度(右向きの速度)を有する座標が検出された場合は、背景とは逆方向に移動する移動体が存在すると判定する。また、背景よりも速い速度を有する座標が検出されれば、移動体が存在すると判定する。
【0028】
例えば、本実施例では、領域30、領域50、領域80で検出された走路境界に基づいて、走路境界L3の左側、すなわち、領域10、領域20、領域30の左側の一部を区画aと設定し、走路境界L3と走路境界L5との間、すなわち、領域30の右側の一部、領域40、領域50の左側の一部を区画bと設定し、走路境界L5と走路境界L8との間、すなわち、領域50の右側の一部、領域60、領域70、領域80の左側の一部を区画cと設定し、走路境界L8の右側、すなわち、領域80の右側の一部を区画dと設定し、区画bに存在する立体物OB1〜OB6の水平方向位置と速度の関係から、OB1、OB4、OB6を静止している立体物(ここでは外壁)と判定し、右へ移動するOB2、OB3、OB5を移動体と判定する。
【0029】
また、画像右側に存在する立体物においても、左側と同様な方法で、速度(右に移動する速度をプラス、左に移動する速度をマイナス)と画像のx座標(画像右端を原点)の関係を求め、右上がりの直線関係とならない場合には、領域内に立体物が存在する可能性が高いと判断し、背景の速度と逆向きの速度が検出されれば、背景とは逆方向に移動する移動体の検出を行うことができる。図9では、区画cに存在するOB7を移動体と判定する。
【0030】
さらに、車両挙動(車両の進行方向)を利用することにより、上述したように撮像画像の左右において別々に移動物体の検出が必要か、あるいは撮像画像全体で移動物体の検出が可能かを判断することも可能となる。例えば、車両を右へ操舵している場合には、前方画像の背景に該当する領域は、左側へ移動する速度のみが検出されるため、上述したように撮影画像左右でそれぞれ移動体の検出を行わずに撮像画像全体で一括して移動体の検出を行うことができる。車両を左へ操舵している場合も同様である。
【0031】
ここで、前述したように、移動体の判定は、背景となる立体物と移動体の水平方向位置と速度を比較して行うため、例えば歩行者に該当する立体物しか検出できず、背景に該当する外壁等の立体物が抽出できない場合は、移動体の判定を行うことができない。この場合は、次回の検出で再度立体物と判定された際に、その速度変化から移動体であるか否かの判定を行う(後述)。
【0032】
なお、複数の移動体の座標の差が所定値以内であって、それらの移動体の速度の比が所定の範囲内である場合に、複数の移動体を一つの移動体としてグループ化を行う。例えば、図9において、OB2とOB3は一つの移動体としてグループ化される。
【0033】
歩行者判定部108は、走路境界で区切られた領域において、図10に示すように、検出した移動体の速度変化を指標とすることにより、移動体が歩行者であるか否かを識別する。
【0034】
歩行者の移動速度を詳細に観察した場合、歩行者が一定速度で歩行していると仮定すると、図10、図11に示すように、腕と脚は歩行により速度の増減が観察される。歩行開始からの脚の速度変化を見ると、まず例えば右脚が進行方向に踏み出してスタートし、その速度が徐々に速くなって最高速度に達した後に今度は速度が徐々に低下して地面に着地するという速度変化が観察される。右脚が地面に着地すると同時に今度は左脚が進行方向に踏み出して、右脚と同様の速度変化が観察される。
【0035】
また、歩行開始からの腕の速度変化を見てみると、脚とは逆向きの速度変化が観察される。
【0036】
このように、歩行者においては、歩行により速度変化が観察される、と言う特徴がある。
【0037】
したがって、この特徴を利用することにより、移動体が歩行者であるか否かを識別することが可能となる。
【0038】
すなわち、例えば、移動体の速度の分散値をΔVとし、ΔVが所定値ΔVP以上であるか否か、すなわち、ΔV≧ΔVPの条件を満たすか否かによって、移動体が歩行者であるか否かを識別することが可能となる。
【0039】
図11は、本実施形態における歩行者検出装置10の処理を示すフローチャートである。この処理はイグニションスイッチ(図示省略)がオンされると起動されるプログラムとして実行される。
【0040】
ステップS101では、カメラ101で撮像され画像一時記録部102に記録された自車両前方の画像が所定の周期で特徴点抽出部103に出力される。この後に、フローはステップS102へ移行する。
【0041】
ステップS102では、特徴点抽出部103が画像に対してエッジ抽出処理を行い、撮像画像内に存在する物体の輪郭をエッジ画像として抽出するとともにエッジ画像の正規化を行う。この後に、フローはステップS103へ移行する。
【0042】
ステップS103では、移動情報算出部104がエッジの速度と方向を算出し、算出した速度を所定の階級で表した速度画像を算出する。この後に、フローはステップS104へ移行する。
【0043】
ステップS104では、グループ化部105が算出した速度画像上に短冊領域を設定する。この後に、フローはステップS105へ移行する。
【0044】
ステップS105では、グループ化部105が各短冊領域内に速度を持った画素があるかどうかを下から上に向かって調べる。速度を持った画素が複数ある場合、その速度差が所定値ΔVG未満である場合は、グループ化部105がそれらの画素は同一の物体を表しているものとして同一のグループにグループ化を行う。この後に、フローはステップS106へ移行する。
【0045】
ステップS106では、各短冊領域内におけるグループ毎において、最も上に位置する画素の中心座標を上端点に、最も下に位置する画素の中心座標を下端点に設定する。この後に、フローはステップS107へ移行する。
【0046】
ステップS107では、座標変換部106が、前述した(式1)、(式2)を用いて、検出した上端点と下端点の座標をZX平面へ座標変換する。この後に、フローはステップS108へ移行する。
【0047】
ステップS108では、物体属性判定部107が、上端点の座標変換点と上端点と同じグループの下端点の座標変換点の位置がX軸範囲とZ軸範囲を規定したZX平面のどの領域に位置するかを判断し、上端点の座標変換点と上端点と同じグループの下端点の座標変換点の双方がZX平面の同一の領域に位置する場合は、上端点、下端点を含む物体を平面物であると判定する。一方、上端点の座標変換点と、上端点と同じグループの下端点の座標変換点とがZX平面の同一の領域に位置しない場合、または上端点と同じグループの下端点の座標変換点のみがZX平面に位置する場合は、上端点、下端点を含む物体を立体物であると判定する。ここで、下端点が位置する領域のカウンタのカウンタ値を+1加算する。この後に、フローはステップS109に進む。
【0048】
ステップS109では、物体属性判定部107により、検出した全ての上端点、下端点について、上端点、下端点を含む物体が平面物であるか立体物であるかの判定(以下、物体の属性判定と呼ぶ)が行われたかどうかの判定が行われる。検出した全ての上端点、下端点について物体の属性判定が行われた場合は、ステップS110に進む。一方、検出した全ての上端点、下端点について物体の属性判定が行われていない場合は、ステップS105に戻り、物体の属性判定が継続される。
【0049】
ステップS110では、物体属性判定部107により、ZX平面における下端点の座標変換点の位置分布から、同じX軸領域において、複数のZ軸領域にカウンタ値が存在する領域が、走路境界線が存在する可能性が高い領域(以下、走路境界領域と呼ぶ)として抽出される。この後に、フローはステップS111へ進む。
【0050】
ステップS111では、物体属性判定部107により、抽出された走路境界領域内に存在する下端点の座標変換点に対応するxy平面の下端点についてxy座標系での回帰分析が行われ、同じ移動方向の下端点を結ぶ直線の傾きが算出される。この後に、フローはステップS112へ進む。
【0051】
ステップS112では、物体属性判定部107により、ステップS111で算出した直線の傾きが、下端点が位置する領域において、X軸領域の左端座標と各Z軸領域の代表座標を座標とする点(例えば図8のPL1〜PL5)を結ぶ直線およびX軸領域の右端座標と各Z軸領域の代表座標を座標とする点(例えば図8のPR1〜PR5)を結ぶ直線のxy座標系における傾きの範囲にあれば、抽出した領域に走路境界を示す直線が存在すると判定され、ステップS111で算出した直線は走路境界を示す直線として検出される。この後に、フローはステップS113へ進む。
【0052】
ステップS113では、物体属性判定部107において、抽出された走路境界領域において、全ての走路境界を示す直線が検出されたか否かの判定を行う。全ての走路境界を示す直線が検出された場合は、ステップS114へ進む。一方、全ての走路境界を示す直線が検出されていない場合は、ステップS110に戻り、走路境界を示す直線の検出が継続される。
【0053】
ステップS114では、物体属性判定部107において、走路境界で区切られた各区画に対し、各区画内に存在する立体物(外壁、歩行者等)の速度とx座標の関係を算出し、背景と逆方向の速度が検出された立体物がある場合には、自車両に近づく移動体が存在すると判定し、フローはステップS115に進む。一方、背景と逆方向の速度が検出された物体がない場合には、移動体候補が存在する可能性があると判定し、ステップS117に進む。
【0054】
ステップS115では、複数の移動体の座標の差が所定値以内であって、それらの移動体の速度の比が所定値以内である場合に、複数の移動体を一つの移動体としてグループ化を行う。例えば、ある移動体Aの速度をVA、他の移動体Bの速度をVBとし、VA≧VBの場合に、1≦(VA/VB)≦RV(所定値)を満たす場合は、移動体Aと移動体Bを一つの移動体としてグループ化を行う。この後に、フローはステップS116へ移行する。
【0055】
ステップS116では、歩行者の移動速度の変化に基づいて、後述する歩行者の判定が行われる。この後に、フローはステップS118へ移行する。
【0056】
ステップS117では、物体属性判定部107において、移動体候補が移動体であるかどうかの判定(移動体候補検証)を行う。移動体候補が存在すると判断された区画に、前回も移動体候補が存在すれば、前回と今回の速度を比較する。移動体候補が静止物である場合は、自車両の前進に従い移動体候補が自車両に接近し、移動体候補に対応する画素の移動速度が速くなる。このため、前回よりも下端点の座標変換点の速度が速くなっている場合には、移動体は存在しないと判定し、フローはステップS118に進む。前回よりも下端点の座標変換点の速度が速くなっていない場合には、移動体が存在すると判定し、フローはステップS115に進む。
【0057】
ステップS118では、走路境界で区切られたすべての区画において、歩行者の検出が終了したか否かの判断を行う走路境界で区切られたすべての区画において、歩行者の検出が終了した場合には、フローはステップS119へ進む。一方、走路境界で区切られたすべての区画において、歩行者の検出が終了していない場合は、フローはステップS114に戻り、歩行者の検出が継続される。
【0058】
ステップS119では、自車両のイグニションスイッチがオフされたか否かの判定が行われる。イグニションスイッチがオフされていない場合には、ステップS101へ戻って処理を繰り返す。一方、イグニションスイッチがオフされた場合には、フローはステップS120へ移行して処理を終了する。
【0059】
次に、ステップS116の歩行者判定の動作フローを、図12のフローチャートを用いて説明する。この動作フローは、歩行者判定部108により実行される。
【0060】
ステップS1161では、移動体を表す画素の速度から、移動体の速度の分散値ΔVが算出される。この後に、フローはステップS1162へ移行する。
【0061】
ステップS1162では、ステップS1162で算出された移動体の速度の分散値ΔVが、ΔV≧ΔVPの条件を満たしているか否かが判定される。ここで、ΔVPは事前に設定される所定値である。条件を満たしている場合は、移動体に所定値以上の速度の分散が観察され、移動体が歩行者であると判定できるため、フローはステップS1163へ移行する。一方、条件を満たしていない場合は、移動体に所定値以上の速度の分散が観察されず、移動体の速度の分散値だけでは移動体が歩行者であると判定できないため、フローはステップS1164へ移行する。
【0062】
ステップS1163では、移動体は歩行者であるとの判定が行われる。この後に、フローはステップS118へ移行する。
ステップS1164では、今回移動体を検出した座標近傍に前回も移動体を検出していたか否かの判定が行われる。今回移動体を検出した座標近傍に前回も移動体を検出していた場合は、フローはステップS1165へ移行する。一方、今回移動体を検出した座標近傍に前回移動体を検出していない場合は、移動体は速い速度を有する移動体であると推定し、フローはステップS1167へ移行する。
【0063】
ステップS1165では、前回と今回の移動体の座標変化が垂直方向および水平方向で所定値以下であるか否かが判定される。前回と今回の移動体の座標変化が垂直方向および水平方向で所定値以下である場合、すなわち、移動体の移動距離が所定値以下である場合は、移動体は移動速度が遅い物体、すなわち歩行者である可能性があり、フローはステップS1166へ移行する。一方、前回と今回の移動体の座標変化が垂直方向および水平方向で所定値を越える場合、すなわち、移動体の移動距離が所定値を越える場合は、移動体は移動速度が速い物体であり歩行者である可能性は少ないと推定し、フローはステップS1167へ移行する。
【0064】
ステップS1166では、前回と今回の移動体の速度の差が所定値以上であるか否かが判定される。前回と今回の移動体の速度の差が所定値以上である場合は、移動体は座標変化が少なく、かつ速度の変化を有するものとなり、歩行者であると推定できるため、フローはステップS1163へ移行する。一方、前回と今回の移動体の速度の差が所定値未満である場合は、移動体は速度の遅い自転車等、均一でかつ遅い速度を有する移動体であると推定し、フローはステップS1167へ移行する。
【0065】
ステップS1167では、移動体は歩行者以外の物体であるとの判定を行う。この後に、フローはステップS118へ移行する。
【実施例1】
【0066】
本実施例は、図11に示すフローチャートのステップS116における歩行者判定の内容が前述した実施形態と異なるものであり、その他の構成や動作は実施形態と同一であるため、以下ステップS116の内容についてのみ説明を行う。
【0067】
歩行者が歩行する際は、一般的に脚の前後運動とともに腕の前後運動が伴うが、場合によっては腕の前後運動をともなわずに歩行する状況もあり得る。このような際は、脚の速度の分散のみに着目して歩行者の判定を行うことが可能となる。
【0068】
ステップS116の歩行者判定の動作フローを、図13のフローチャートを用いて説明する。この動作フローは、歩行者判定部108により実行される。
【0069】
ステップS116Aでは、ステップS114、ステップS117で検出した移動体を上部と下部に分割する。上部と下部の分割については、検出した移動体を単純に上下2分割とする、または所定の割合で分割する等により行う。この後に、フローはステップS116Bへ移行する。
【0070】
ステップS116Bでは、ステップS116Aで分割した移動体の下部に属する画素の移動速度の分散値ΔVBを算出する。この後に、フローはステップS116Cへ移行する。
【0071】
ステップS116Cでは、ステップS1162で算出した移動体の下部の速度の分散値ΔVBが、ΔVB≧ΔVPの条件を満たしているか否かが判定される。ここで、ΔVPは事前に設定される所定値である。条件を満たしている場合は、移動体の下部に所定値以上の速度の分散が観察され、移動体が歩行者であると判定できるため、フローはステップS116Dへ移行する。一方、条件を満たしていない場合は、移動体の下部に所定値以上の速度の分散が観察されず、移動体の下部の速度の分散値だけでは移動体が歩行者であると判定できないため、フローはステップS116Eへ移行する。
【0072】
ステップS116E〜ステップS116Hは図12のステップS1164〜ステップS1167と同等の処理であり、説明は省略する。
【実施例2】
【0073】
本実施例は、図11に示すフローチャートのステップS116における歩行者判定の内容が前述した実施形態と異なるものであり、その他の構成や動作は実施形態と同一であるため、以下ステップS116の内容についてのみ説明を行う。
【0074】
歩行者が歩行する際は、図14に示すように、一般的に歩行中の頭部の速度変化は少なく、足の速度変化は大きい。したがって、頭部と足の速度の最大値の比を指標として、歩行者の判定を行うことが可能となる。
【0075】
ステップS116の歩行者判定の動作フローを、図15のフローチャートを用いて説明する。この動作フローは、歩行者判定部108により実行される。
【0076】
ステップS116Iでは、ステップS114、ステップS117で検出した移動体において、頭部に該当する上端と足に該当する下端を検出する。この後に、フローはステップS116Jへ移行する。
【0077】
ステップS116Jでは、ステップS116Iで検出した移動体の上端と下端に属する画素の移動速度の最大値VTM、VBMを算出する。この後に、フローはステップS116Kへ移行する。
【0078】
ステップS116Kでは、ステップS116Jで算出した移動体の上端に属する画素の速度の最大値VTMと移動体の下端に属する画素の速度の最大値VBMとが、|VBM|/|VTM|≧RPの条件を満たしているか否かが判定される。ここで、RPは事前に設定される所定値で、1≦RP<RVを満たす。条件を満たしている場合は、移動体の上端と下端に速度差が観察され、移動体が歩行者であると判定できるため、フローはステップS116Lへ移行する。一方、条件を満たしていない場合は、移動体の上端と下端に速度の差が観察されず、移動体の上端と下端の速度の差だけでは移動体が歩行者であると判定できないため、フローはステップS116Mへ移行する。
【0079】
ステップS116M〜ステップS116Pは図12のステップS1164〜ステップS1167と同等の処理であり、説明は省略する。
【実施例3】
【0080】
本実施例は、例えばエッジ検出の結果に起因して、同じ立体物や移動体が速度情報を基に同一のグループにグループ化できない場合でも、平面物と立体物の検出が可能な実施例である。
【0081】
ここでは、図16に示すように、外壁上に検出されたP11〜P113の内、P11〜P13とP14〜P113が別々にグループ化され、P21〜P215の内、P21〜P23とP24〜P215が別々にグループ化され、P31〜P315の内、P31〜P33とP34〜P315が別々にグループ化され、P41〜P412の内、P41、P42とP43〜P412が別々にグループ化された場合について、説明を行う。
【0082】
なお、図1に示したブロック図、図2に示した車両へのカメラ101の設置例を示す図、図3に示したカメラ101による前方の撮像画像を説明する図、図4に示したエッジの正規化の例を示す図、および図5に示した速度画像を説明する図については、前述した実施形態と同様のため説明を省略する。また、図8〜図9で説明した、下端点を基に走路境界を検出し、検出した走路境界で区切られた各区画毎に立体物の水平方向位置と速度の関係から、移動体を検出する方法については、前述した実施形態における処理と同様のため説明を省略する。
【0083】
まず、算出した速度画像に物体を検出するための領域を設定する。すなわち、図16に示すように、速度画像上に短冊状の複数の領域(以降、短冊領域と呼ぶ)を設定し、速度画像を分割する。本実施例では、各短冊領域毎に画像下端から上端に速度を持った画素を順に走査して検出し、検出した画素を前述の(数式1)、(数式2)に基づいてZX平面へ座標変換し、座標変換の結果が図7に示すZX平面内に位置するか否かを判定する。座標変換の結果がZX平面内に位置すれば、平面物の候補点と判定する。一方、ZX平面内に位置しなければ、立体物の候補点として判定する。なお、ZX平面には前述した実施形態で説明した領域と同じ領域が設定されるものとし、領域の設定方法については説明を省略する。
【0084】
例えば本実施例では、P11〜P13はZX平面内の同一の領域に位置して平面物の候補点と判定され、P14〜P113はZX平面内に位置しないため、立体物候補点と判定される。同様に、P21〜P23、P31〜P33、P41、P42、P81〜P83、P91〜P94、P101、P102、P111〜P113、P121、P122、P131〜P133は平面物候補点と判定され、P24〜P215、P34〜P315、P43〜P412、P51〜P54、P61〜P610、P71〜P74は立体物候補点と判定される。
【0085】
次に平面物候補点と立体物候補点の判定結果に基づき、立体物の判定を行う。すなわち、平面物候補点であると判定された点と立体物候補点であると判定された点が、縦方向に連続して存在する場合は、立体物の内、路面近くに存在する部分が誤って平面物候補点であると判定されたものと推定できるため、平面物候補点と立体物候補点が縦方向に連続して存在する物体を立体物として判定する。例えば、本実施例では、平面物候補点P11〜P13と立体物候補点P14〜P113が縦方向に連続しているため、P11〜P113を立体物OB1として判定する。同様に、P21〜P215を立体物OB2、P31〜P315を立体物OB3、P41〜P412を立体物OB4として判定する(図17参照)。
【0086】
さらに、平面物および立体物と判定された点の内、下端点を抽出し、第1の実施例と同様に下端点のZX平面への座標変換点が位置するZX平面の領域のカウンタのカウンタ値を+1加算して、下端点の位置分布を算出する。例えば、本実施例では、P11、P21、P31、P41、P51、P61、P71、P81、P91、P101、P111、P121、P131を下端点として検出し、図8に示す各下端点P11〜P131の座標変換点RB1〜RB13が位置する領域のカウンタのカウンタ値を+1加算する。以下、前述した実施形態と同様の操作を行うことで、走路境界と立体物、立体物中の移動体の検出を行うことができる。
【0087】
移動体を検出した後は、前述した実施形態と同様の操作を行うことで、歩行者の検出を行うことができる。
【0088】
図18は、本実施例における歩行者検出装置10の処理を示すフローチャートである。図18に示す処理はイグニションスイッチがオンされると、起動されるプログラムとして実行される。図18においては、図11に示す本発明の実施形態における処理のフローチャートと同一の処理内容については、同じステップ番号を付与し、以下相違点を中心に説明する。
【0089】
ステップS121では、ステップS104にて設定した物体検出用の短冊領域内において画像下端から上端に向かって走査を行い、速度を持つ画素の座標を(数式1)、(数式2)を用いてZX平面上へ座標変換する。この後に、フローはステップS122へ移行する。
【0090】
ステップS122では、画素の座標変換点がZX平面内に位置すれば、平面物候補点と判定し、画素の座標変換点がZX平面内に位置しなければ、立体物候補点と判定する。この後に、フローはステップS123に進む。
【0091】
ステップS123では、速度が算出された画素の全てがZX平面上へ座標変換されて、平面物候補点および立体物候補点の検出が終了したかどうかが判定される。平面物候補点および立体物候補点の検出が終了した場合には、フローはステップS124に進む。一方、平面物候補点および立体物候補点の検出が終了していない場合は、フローはステップS121に戻り、平面物候補点および立体物候補点の検出が継続される。
【0092】
ステップS124では、各短冊領域内において、平面物候補点および立体物候補点が縦方向に連続して存在する場合には、平面物候補点および立体物候補点を含む物体を一つの立体物として判定する。この後に、フローはステップS125に進む。
【0093】
ステップS125では、各領域において、平面物候補点のうち、一番下にある点を下端点として検出し、検出した下端点のZX平面上の座標変換点が位置する領域のカウンタのカウンタ値を+1加算する。この後に、フローはステップS126に進む。
【0094】
ステップS126では、各領域において、カウンタ値に基づき各領域の下端点の位置分布情報の算出が終了したかどうかの判定が行われる。各領域の下端点の位置分布情報の算出が終了した場合には、フローはステップS110へ進む。一方、各領域の下端点の位置分布情報の算出が終了していない場合には、フローはステップS124へ戻り、下端点の位置分布情報の算出が継続される。
【0095】
以降、前述した実施形態と同様の処理により、歩行者を検出する。
【0096】
以上説明した本発明の実施形態の歩行者検出装置によれば、以下のような作用効果を得ることができる。
【0097】
請求項1の発明によれば、自車両前方の画像を撮像する撮像部および、前記撮像部で撮像した画像から特徴点を抽出する特徴点抽出部と、前記特徴点を表す画素の前記画像上の移動速度および移動方向を移動情報として算出する移動情報算出部と、前記画素の前記画像上の座標を前記自車両前方の俯瞰図における座標に変換する座標変換部と、前記画素の前記俯瞰図における前記座標および前記画素の前記移動情報に基づいて前記特徴点を平面物または立体物と判定するとともに、前記特徴点が立体物と判定された場合は該立体物が移動体であるか否かを判定する物体属性判定部と、前記特徴点が移動体であると判定された際に、前記移動体の前記画像上における前記移動速度の変化に基づいて前記移動体が歩行者であるか否かを判定する歩行者判定部とを有する制御部と、を備えることを特徴としている。
【0098】
この装置によれば、カメラ101で撮像した画像から抽出した特徴点の移動情報と位置に基づいて、特徴点を平面物または立体物と判定するとともに、前記特徴点が立体物と判定された場合は該立体物が移動体であるか否かを判定し、特徴点が移動体と判定された場合は、移動体の移動速度の変化に基づいて移動体が歩行者であるかどうかを判定することができ、精度高く歩行者の識別を行うことができる。
【0099】
また、請求項2に記載の発明によれば、請求項1に記載の歩行者検出装置において、前記画像の垂直方向に隣接するとともに前記移動速度が所定の範囲にある前記画素を同一のグループにグループ化するグループ化部を備え、前記物体属性判定部は、前記グループ化部によりグループ化された前記画素のうち最上部に位置する前記画素と最下部に位置する前記画素の前記俯瞰図における座標に基づいて前記特徴点を平面物または立体物と判定することを特徴としている。
【0100】
この装置によれば、撮像画像上で同等の速度を有する隣接した画素をグループ化してその最上部と最下部に位置する画素を求め、該画素の俯瞰変換後の座標により平面物、立体物、移動体の判定を行うことができ、一つのカメラの撮像画像から該判定を簡単に行うことができる。
【0101】
また、請求項3に記載の発明によれば、請求項2に記載の歩行者検出装置において、前記物体属性判定部は、前記最上部に位置する前記画素と前記最下部に位置する前記画素が前記俯瞰図の所定の範囲を所定の数に分割して設定した複数の領域のうち同一の領域に位置する場合に前記特徴点を平面物と判定し、前記最上部に位置する前記画素と前記最下部に位置する前記画素が前記複数の領域のうちそれぞれ異なる領域に位置する場合、または前記最上部に位置する前記画素が前記俯瞰図の前記複数の領域外に位置するとともに前記最下部に位置する前記画素が前記俯瞰図の前記複数の領域のうちいずれかの領域に位置する場合に、前記特徴点を立体物と判定することを特徴としている。
【0102】
この装置によれば、撮像画像上で同等の速度を有する隣接した画素をグループ化してその最上部と最下部に位置する画素を求め、該画素の俯瞰変換後の座標により平面物、立体物、移動体の判定を行うことができ、一つのカメラの撮像画像から該判定を簡単に行うことができる。
【0103】
また、請求項4に記載の発明によれば、請求項2に記載の歩行者検出装置において、前記物体属性判定部は、前記画素が前記俯瞰図の所定の範囲を所定の数に分割して設定した複数の領域のうちいずれかの領域に位置する場合に前記画素を平面物候補点と判定する一方、前記画素が前記俯瞰図の前記複数の領域外に位置する場合に前記画素を立体物候補点と判定し、前記平面物候補点と前記立体物候補点が前記画像において垂直方向に連続して位置する場合に前記平面物候補点と前記立体物候補点を一つの立体物として判定することを特徴としている。
【0104】
この装置によれば、特徴点を表す画素の前記画像上の移動速度を算出した際に、同じ物体を構成する画素でありながら何らかの影響で同等の移動速度が算出されない場合でも、高精度で立体物の識別が可能となる。
【0105】
また、請求項5に記載の発明によれば、請求項1〜4のいずれか1項に記載の歩行者検出装置において、前記物体属性判定部は、複数の前記立体物における前記画素の前記移動情報と前記画素の前記画像上における前記座標とに基づいて前記立体物が移動体であるか否かを判定する移動体判定を行うことを特徴としている。
【0106】
この装置によれば、自車両の動きの推定や物体までの距離を算出することなく、検出した立体物の速度と位置関係に基づいて移動体の検出を簡単に行うことが可能となる。
【0107】
また、請求項6に記載の発明によれば、請求項5に記載の歩行者検出装置において、前記物体属性判定部は、前記画素のうち前記画像の垂直方向において最下部に位置する前記画素の前記俯瞰図における前記座標に基づいて前記自車両の走路の境界を表す走路境界を検出し、該走路境界で区切られた区画毎に前記移動体判定を行うことを特徴としている。
【0108】
この装置によれば、検出した走路境界で区切られた区画毎に移動体の検出を行うため、複雑な背景下においても、簡単に移動体の検出を行うことが可能となる。
【0109】
また、請求項7に記載の発明によれば、請求項1〜6のいずれか1項に記載の歩行者検出装置において、前記歩行者検出部は、複数の前記移動体の前記画像上の前記移動方向が同一で前記移動速度の比が所定の範囲内であって、該複数の前記移動体の前記画像上の前記座標の差が所定値以下である場合に、該複数の移動体を一つの移動体であると判定することを特徴としている。
【0110】
この装置によれば、一つの移動体において複数のエッジが検出された場合でも、一つの移動体であるとの判定を行うことが可能となる。
【0111】
また、請求項8に記載の発明によれば、請求項1〜7のいずれか1項に記載の歩行者検出装置において、前記歩行者検出部は、前記移動体の前記移動速度の分散値を算出し、該分散値が所定値以上の場合に、前記移動体を歩行者と判定することを特徴としている。
【0112】
この装置によれば、検出した移動体の移動速度の分散値を指標として、簡単に歩行者の検出を行うことが可能となる。
【0113】
また、請求項9に記載の発明によれば、請求項8に記載の歩行者検出装置において、前記歩行者検出部は、前記移動体の前記移動速度の前記分散値が所定値未満の場合に、所定の時間間隔における前記移動体の前記画像上の前記座標の変化が所定値以下であるとともに、前記移動速度の変化が所定値以上である場合に、前記移動体を歩行者と判定することを特徴としている。
【0114】
この装置によれば、移動速度が遅い歩行者でも、簡単に検出を行うことが可能となる。
【0115】
また、請求項10に記載の発明によれば、請求項1〜7のいずれか1項に記載の歩行者検出装置において、前記歩行者検出部は、前記移動体を前記画像上において上部と下部とに分割して該下部における前記移動速度の分散値を算出し、該分散値が所定値以上の場合に、前記移動体を歩行者と判定することを特徴としている。
【0116】
この装置によれば、検出した移動体の下部における移動速度の分散値を指標として、簡単に歩行者の検出を行うことが可能となる。
【0117】
また、請求項11に記載の発明によれば、請求項10に記載の歩行者検出装置において、前記歩行者検出部は、前記移動体の前記下部における前記移動速度の前記分散値が所定値未満の場合に、所定の時間間隔における前記移動体の前記画像上の前記座標の変化が所定値以下であるとともに、前記移動速度の変化が所定値以上である場合に、前記移動体を歩行者と判定することを特徴としている。
【0118】
この装置によれば、移動速度が遅い歩行者でも、簡単に検出を行うことが可能となる。
【0119】
また、請求項12に記載の発明によれば、請求項1〜7のいずれか1項に記載の歩行者検出装置において、前記歩行者検出部は、前記移動体の上端と下端を検出して該上端と該下端それぞれにおける前記移動速度の最大値を算出し、該上端と該下端における該最大値の比が所定の範囲外の場合に、前記移動体を歩行者と判定することを特徴としている。
【0120】
この装置によれば、検出した移動体の上端と下端の移動速度の最大値の比を指標として、簡単に歩行者の検出を行うことが可能となる。
【0121】
また、請求項13に記載の発明によれば、請求項12に記載の歩行者検出装置において、前記歩行者検出部は、前記移動体の前記上端と前記下端における前記移動速度の前記最大値の比が所定の範囲内の場合に、所定の時間間隔における前記移動体の前記画像上の前記座標の変化が所定値以下であるとともに、前記移動速度の変化が所定値以上である場合に、前記移動体を歩行者と判定することを特徴としている。
【0122】
この装置によれば、移動速度が遅い歩行者でも、簡単に検出を行うことが可能となる。
【0123】
さらに、請求項14に記載の発明によれば、請求項1〜13のいずれか1項に記載の歩行者検出装置において、前記特徴点が物体のエッジであることを特徴としている。
【0124】
この装置によれば、撮像画像上において物体のエッジを検出することで、簡単に歩行者を検出することができる。
【0125】
また、以上説明した本発明の実施形態の歩行者検出方法によれば、以下のような作用効果を得ることができる。
【0126】
請求項15に記載の発明によれば、自車両前方の画像を撮像するステップと、撮像した画像から特徴点を抽出するステップと、前記特徴点を表す画素の前記画像上の移動速度および移動方向を移動情報として算出するステップと、前記画素の前記画像上の座標を前記自車両前方の俯瞰図における座標に変換するステップと、前記画素の前記俯瞰図における前記座標および前記画素の前記移動情報に基づいて前記特徴点を平面物または立体物と判定するとともに、前記特徴点が立体物と判定された場合は該立体物が移動体であるか否かを判定するステップと、前記特徴点が移動体であると判定された際に、前記移動体の前記画像上における前記移動速度の変化に基づいて前記移動体が歩行者であるか否かを判定するステップと、を備えることを特徴としている。
【0127】
この方法によれば、撮像した画像から抽出した特徴点の移動情報と位置に基づいて、特徴点を平面物または立体物と判定するとともに、前記特徴点が立体物と判定された場合は該立体物が移動体であるか否かを判定し、特徴点が移動体と判定された場合は、移動体の移動速度の変化に基づいて移動体が歩行者であるかどうかを判定することができ、精度高く歩行者の識別を行うことができる。
【0128】
また、請求項16に記載の発明によれば、請求項15に記載の歩行者検出方法において、前記画像の垂直方向に隣接するとともに前記移動速度が所定の範囲にある前記画素を同一のグループにグループ化するステップを備え、同一のグループにグループ化された前記画素のうち最上部に位置する前記画素と最下部に位置する前記画素の前記俯瞰図における座標に基づいて前記特徴点を平面物または立体物と判定することを特徴としている。
【0129】
この方法によれば、撮像画像上で同等の速度を有する隣接した画素をグループ化してその最上部と最下部に位置する画素を求め、該画素の俯瞰変換後の座標により平面物、立体物、移動体の判定を行うことができ、一つのカメラの撮像画像から該判定を簡単に行うことができる。
【0130】
また、請求項17に記載の発明によれば、請求項16に記載の歩行者検出方法において、前記最上部に位置する前記画素と前記最下部に位置する前記画素が前記俯瞰図の所定の範囲を所定の数に分割して設定した複数の領域のうち同一の領域に位置する場合に前記特徴点を平面物と判定し、前記最上部に位置する前記画素と前記最下部に位置する前記画素が前記複数の領域のうちそれぞれ異なる領域に位置する場合、または前記最上部に位置する前記画素が前記俯瞰図の前記複数の領域外に位置するとともに前記最下部に位置する前記画素が前記俯瞰図の前記複数の領域のうちいずれかの領域に位置する場合に、前記特徴点を立体物と判定することを特徴としている。
【0131】
この方法によれば、撮像画像上で同等の速度を有する隣接した画素をグループ化してその最上部と最下部に位置する画素を求め、該画素の俯瞰変換後の座標により平面物、立体物、移動体の判定を行うことができ、一つのカメラの撮像画像から該判定を簡単に行うことができる。
【0132】
また、請求項18に記載の発明によれば、請求項16に記載の歩行者検出方法において、前記画素が前記俯瞰図の所定の範囲を所定の数に分割して設定した複数の領域のうちいずれかの領域に位置する場合に前記画素を平面物候補点と判定する一方、前記画素が前記俯瞰図の前記複数の領域外に位置する場合に前記画素を立体物候補点と判定し、前記平面物候補点と前記立体物候補点が前記画像において垂直方向に連続して位置する場合に前記平面物候補点と前記立体物候補点を一つの立体物として判定することを特徴としている。
【0133】
この方法によれば、特徴点を表す画素の前記画像上の移動速度を算出した際に、同じ物体を構成する画素でありながら何らかの影響で同等の移動速度が算出されない場合でも、高精度で立体物の識別が可能となる。
【0134】
また、請求項19に記載の発明によれば、請求項15〜18のいずれか1項に記載の歩行者検出方法において、複数の前記立体物における前記画素の前記移動情報と前記画素の前記画像上における前記座標とに基づいて前記立体物が移動体であるか否かを判定する移動体判定を行うことを特徴としている。
【0135】
この方法によれば、自車両の動きの推定や物体までの距離を算出することなく、検出した立体物の速度と位置関係に基づいて移動体の検出を簡単に行うことが可能となる。
【0136】
また、請求項20に記載の発明によれば、請求項19に記載の歩行者検出方法において、前記画素のうち前記画像の垂直方向において最下部に位置する前記画素の前記俯瞰図における前記座標に基づいて前記自車両の走路の境界を表す走路境界を検出し、該走路境界で区切られた区画毎に前記移動体判定を行うことを特徴としている。
【0137】
この方法によれば、検出した走路境界で区切られた区画毎に移動体の検出を行うため、複雑な背景下においても、簡単に移動体の検出を行うことが可能となる。
【0138】
また、請求項21に記載の発明によれば、請求項15〜20のいずれか1項に記載の歩行者検出方法において、複数の前記移動体の前記画像上の前記移動方向が同一で前記移動速度の比が所定の範囲内であって、該複数の前記移動体の前記画像上の前記座標の差が所定値以下である場合に、該複数の移動体を一つの移動体であると判定することを特徴としている。
【0139】
この方法によれば、一つの移動体において複数のエッジが検出された場合でも、一つの移動体であるとの判定を行うことが可能となる。
【0140】
また、請求項22に記載の発明によれば、請求項15〜21のいずれか1項に記載の歩行者検出方法において、前記移動体の前記移動速度の分散値を算出し、該分散値が所定値以上の場合に、前記移動体を歩行者と判定することを特徴としている。
【0141】
この方法によれば、検出した移動体の移動速度の分散値を指標として、簡単に歩行者の検出を行うことが可能となる。
【0142】
また、請求項23に記載の発明によれば、請求項22に記載の歩行者検出方法において、前記移動体の前記移動速度の前記分散値が所定値未満の場合に、所定の時間間隔における前記移動体の前記画像上の前記座標の変化が所定値以下であるとともに、前記移動速度の変化が所定値以上である場合に、前記移動体を歩行者と判定することを特徴としている。
【0143】
この方法によれば、移動速度が遅い歩行者でも、簡単に検出を行うことが可能となる。
【0144】
また、請求項24に記載の発明によれば、請求項15〜21のいずれか1項に記載の歩行者検出方法において、前記移動体を前記画像上において上部と下部とに分割して該下部における前記移動速度の分散値を算出し、該分散値が所定値以上の場合に、前記移動体を歩行者と判定することを特徴としている。
【0145】
この方法によれば、検出した移動体の下部における移動速度の分散値を指標として、簡単に歩行者の検出を行うことが可能となる。
【0146】
また、請求項25に記載の発明によれば、請求項24に記載の歩行者検出方法において、前記移動体の前記下部における前記移動速度の前記分散値が所定値未満の場合に、所定の時間間隔における前記移動体の前記画像上の前記座標の変化が所定値以下であるとともに、前記移動速度の変化が所定値以上である場合に、前記移動体を歩行者と判定することを特徴としている。
【0147】
この方法によれば、移動速度が遅い歩行者でも、簡単に検出を行うことが可能となる。
【0148】
また、請求項26に記載の発明によれば、請求項15〜21のいずれか1項に記載の歩行者検出方法において、前記移動体の上端と下端を検出して該上端と該下端それぞれにおける前記移動速度の最大値を算出し、該上端と該下端における該最大値の比が所定の範囲外の場合に、前記移動体を歩行者と判定することを特徴としている。
【0149】
この方法によれば、検出した移動体の上端と下端の移動速度の最大値の比を指標として、簡単に歩行者の検出を行うことが可能となる。
【0150】
また、請求項27に記載の発明によれば、請求項26に記載の歩行者検出方法において、前記移動体の前記上端と前記下端における前記移動速度の前記最大値の比が所定の範囲内の場合に、所定の時間間隔における前記移動体の前記画像上の前記座標の変化が所定値以下であるとともに、前記移動速度の変化が所定値以上である場合に、前記移動体を歩行者と判定することを特徴としている。
【0151】
この方法によれば、移動速度が遅い歩行者でも、簡単に検出を行うことが可能となる。
【0152】
さらに、請求項28に記載の発明によれば、請求項15〜27のいずれか1項に記載の歩行者検出方法において、前記特徴点が物体のエッジであることを特徴としている。
【0153】
この方法によれば、撮像画像上において物体のエッジを検出することで、簡単に歩行者を検出することができる。
【0154】
以上、本発明の実施形態を図面により詳述したが、実施形態は本発明の例示にしか過ぎず、本発明は実施形態の構成にのみ限定されるものではない。したがって本発明の要旨を逸脱しない範囲の設計の変更等があっても本発明に含まれることはもちろんである。
例えば、ブロック図は上記実施例に示すものに限定されるものではなく、同等の機能を備えた構成であれば良い。
【0155】
また、カメラの取り付け位置は実施形態で述べた位置に限定されるものではなく、カメラの光軸が車両前方正面方向(Z方向)に向き、撮像面の水平軸および垂直軸がそれぞれ路面と平行および垂直となるように設定されていれば良い。
【0156】
また、検出したエッジの幅の正規化を行うにあたっては、エッジ幅は3画素に限定されるものではなく、任意の画素数を設定することができる。この場合、その後の処理でエッジの中央部の画素を利用するため、エッジ幅の画素数は奇数個であることが望ましい。
【0157】
また、xy平面を分割して設定する短冊領域の数は上記実施形態に示すものに限定されるものではなく、任意の数に分割して設定することができる。
【0158】
また、ZX平面を分割して設定する領域の数は上記実施形態に示すものに限定されるものではなく、任意の数に分割して設定することができる。
【0159】
また、ZX平面の縦方向および横方向の範囲は、任意の値に設定することができる。
【0160】
また、上記実施形態では道路を走行する車両に歩行者検出装置10を搭載する例について説明したが、他の移動体に搭載してもよい。
【0161】
さらに、上記実施形態では、検出する走路境界として、縁石、白線、外壁と路面との接点の例について説明したが、これに限定されず、例えば、ガードレール、駐車車両と路面との境界、路面と路面以外の領域(田、畑など)との境界を検出してもよい。
【図面の簡単な説明】
【0162】
【図1】本発明の実施形態の構成例を示すブロック図である。
【図2】カメラの車両への設置例を示す図である。
【図3】カメラで撮像した画像の例を示す図である。
【図4】抽出したエッジを正規化して、エッジ画像を得るために行う各処理の例を示す図である。
【図5】速度画像の例を示す図である。
【図6】速度画像上に短冊領域を設定し、各短冊領域において速度が所定範囲内の画素を同一グループにグループ化し、グループの下端点と上端点を検出した例を示す図である。
【図7】速度画像上で検出した上端点と下端点をZX平面上に座標変換し、物体が平面物か立体物かの判定を行う例を示す図である。
【図8】下端点の座標変換点のZX平面上の位置分布より走路境界線を検出する例を示す図である。
【図9】検出した走路境界で区切られた区画内で検出した立体物の画像の水平方向位置と速度の関係から移動物体を検出する場合の具体例を示す図である。
【図10】歩行者の脚および腕の移動速度の変化を示すグラフである。
【図11】本発明の実施形態のフローチャートである。
【図12】本発明の実施形態の歩行者判定のフローチャートである。
【図13】本発明の実施例1の歩行者判定のフローチャートである。
【図14】歩行者の頭と脚の速度の関係を示す図である。
【図15】本発明の実施例2の歩行者判定のフローチャートである。
【図16】速度画像上に短冊領域を設定し、各短冊領域において速度が検出された画素をZX平面上へ座標変換することで、平面物候補点か立体物候補点かを判定する例を示す図である。
【図17】検出した平面物候補点と立体物候補点の配置から立体物の判定を行う例を示す図である。
【図18】本発明の実施例3のフローチャートである。
【符号の説明】
【0163】
10 歩行者検出装置
100 制御部
101 カメラ(撮像部)
102 画像一時記録部
103 特徴点抽出部
104 移動情報算出部
105 グループ化
106 座標変換部
107 物体属性判定部
108 歩行者判定部
【特許請求の範囲】
【請求項1】
自車両前方の画像を撮像する撮像部と、
前記撮像部で撮像した画像から特徴点を抽出する特徴点抽出部と、前記特徴点を表す画素の前記画像上の移動速度および移動方向を移動情報として算出する移動情報算出部と、前記画素の前記画像上の座標を前記自車両前方の俯瞰図における座標に変換する座標変換部と、前記画素の前記俯瞰図における前記座標および前記画素の前記移動情報に基づいて前記特徴点を平面物または立体物と判定するとともに、前記特徴点が立体物と判定された場合は該立体物が移動体であるか否かを判定する物体属性判定部と、前記特徴点が移動体であると判定された際に、前記移動体の前記画像上における前記移動速度の変化に基づいて前記移動体が歩行者であるか否かを判定する歩行者判定部とを有する制御部と、
を備えることを特徴とする歩行者検出装置。
【請求項2】
前記画像の垂直方向に隣接するとともに前記移動速度が所定の範囲にある前記画素を同一のグループにグループ化するグループ化部を備え、
前記物体属性判定部は、前記グループ化部によりグループ化された前記画素のうち最上部に位置する前記画素と最下部に位置する前記画素の前記俯瞰図における座標に基づいて前記特徴点を平面物または立体物と判定することを特徴とする請求項1に記載の歩行者検出装置。
【請求項3】
前記物体属性判定部は、前記最上部に位置する前記画素と前記最下部に位置する前記画素が前記俯瞰図の所定の範囲を所定の数に分割して設定した複数の領域のうち同一の領域に位置する場合に前記特徴点を平面物と判定し、前記最上部に位置する前記画素と前記最下部に位置する前記画素が前記複数の領域のうちそれぞれ異なる領域に位置する場合、または前記最上部に位置する前記画素が前記俯瞰図の前記複数の領域外に位置するとともに前記最下部に位置する前記画素が前記俯瞰図の前記複数の領域のうちいずれかの領域に位置する場合に、前記特徴点を立体物と判定することを特徴とする請求項2に記載の歩行者検出装置。
【請求項4】
前記物体属性判定部は、前記画素が前記俯瞰図の所定の範囲を所定の数に分割して設定した複数の領域のうちいずれかの領域に位置する場合に前記画素を平面物候補点と判定する一方、前記画素が前記俯瞰図の前記複数の領域外に位置する場合に前記画素を立体物候補点と判定し、前記平面物候補点と前記立体物候補点が前記画像において垂直方向に連続して位置する場合に前記平面物候補点と前記立体物候補点を一つの立体物として判定することを特徴とする請求項2に記載の歩行者検出装置。
【請求項5】
前記物体属性判定部は、複数の前記立体物における前記画素の前記移動情報と前記画素の前記画像上における前記座標とに基づいて前記立体物が移動体であるか否かを判定する移動体判定を行うことを特徴とする請求項1〜4のいずれか1項に記載の歩行者検出装置。
【請求項6】
前記物体属性判定部は、前記画素のうち前記画像の垂直方向において最下部に位置する前記画素の前記俯瞰図における前記座標に基づいて前記自車両の走路の境界を表す走路境界を検出し、該走路境界で区切られた区画毎に前記移動体判定を行うことを特徴とする請求項5に記載の歩行者検出装置。
【請求項7】
前記物体属性判定部は、複数の前記移動体の前記画像上の前記移動方向が同一で前記移動速度の比が所定の範囲内であって、該複数の前記移動体の前記画像上の前記座標の差が所定値以下である場合に、該複数の移動体を一つの移動体であると判定することを特徴とする請求項1〜6のいずれか1項に記載の歩行者検出装置。
【請求項8】
前記歩行者検出部は、前記移動体の前記移動速度の分散値を算出し、該分散値が所定値以上の場合に、前記移動体を歩行者と判定することを特徴とする請求項1〜7のいずれか1項に記載の歩行者検出装置。
【請求項9】
前記歩行者検出部は、前記移動体の前記移動速度の前記分散値が所定値未満の場合に、所定の時間間隔における前記移動体の前記画像上の前記座標の変化が所定値以下であるとともに、前記移動速度の変化が所定値以上である場合に、前記移動体を歩行者と判定することを特徴とする請求項8に記載の歩行者検出装置。
【請求項10】
前記歩行者検出部は、前記移動体を前記画像上において上部と下部とに分割して該下部における前記移動速度の分散値を算出し、該分散値が所定値以上の場合に、前記移動体を歩行者と判定することを特徴とする請求項1〜7のいずれか1項に記載の歩行者検出装置。
【請求項11】
前記歩行者検出部は、前記移動体の前記下部における前記移動速度の前記分散値が所定値未満の場合に、所定の時間間隔における前記移動体の前記画像上の前記座標の変化が所定値以下であるとともに、前記移動速度の変化が所定値以上である場合に、前記移動体を歩行者と判定することを特徴とする請求項10に記載の歩行者検出装置。
【請求項12】
前記歩行者検出部は、前記移動体の上端と下端を検出して該上端と該下端それぞれにおける前記移動速度の最大値を算出し、該上端と該下端における該最大値の比が所定の範囲外の場合に、前記移動体を歩行者と判定することを特徴とする請求項1〜7のいずれか1項に記載の歩行者検出装置。
【請求項13】
前記歩行者検出部は、前記移動体の前記上端と前記下端における前記移動速度の前記最大値の比が所定の範囲内の場合に、所定の時間間隔における前記移動体の前記画像上の前記座標の変化が所定値以下であるとともに、前記移動速度の変化が所定値以上である場合に、前記移動体を歩行者と判定することを特徴とする請求項12に記載の歩行者検出装置。
【請求項14】
前記特徴点が物体のエッジであることを特徴とする請求項1〜13のいずれか1項に記載の歩行者検出装置。
【請求項15】
自車両前方の画像を撮像するステップと、
撮像した画像から特徴点を抽出するステップと、
前記特徴点を表す画素の前記画像上の移動速度および移動方向を移動情報として算出するステップと、
前記画素の前記画像上の座標を前記自車両前方の俯瞰図における座標に変換するステップと、
前記画素の前記俯瞰図における前記座標および前記画素の前記移動情報に基づいて前記特徴点を平面物または立体物と判定するとともに、前記特徴点が立体物と判定された場合は該立体物が移動体であるか否かを判定するステップと、
前記特徴点が移動体であると判定された際に、前記移動体の前記画像上における前記移動速度の変化に基づいて前記移動体が歩行者であるか否かを判定するステップと、
を備えることを特徴とする歩行者検出方法。
【請求項16】
前記画像の垂直方向に隣接するとともに前記移動速度が所定の範囲にある前記画素を同一のグループにグループ化するステップを備え、
同一のグループにグループ化された前記画素のうち最上部に位置する前記画素と最下部に位置する前記画素の前記俯瞰図における座標に基づいて前記特徴点を平面物または立体物と判定することを特徴とする請求項15に記載の歩行者検出方法。
【請求項17】
前記最上部に位置する前記画素と前記最下部に位置する前記画素が前記俯瞰図の所定の範囲を所定の数に分割して設定した複数の領域のうち同一の領域に位置する場合に前記特徴点を平面物と判定し、前記最上部に位置する前記画素と前記最下部に位置する前記画素が前記複数の領域のうちそれぞれ異なる領域に位置する場合、または前記最上部に位置する前記画素が前記俯瞰図の前記複数の領域外に位置するとともに前記最下部に位置する前記画素が前記俯瞰図の前記複数の領域のうちいずれかの領域に位置する場合に、前記特徴点を立体物と判定することを特徴とする請求項16に記載の歩行者検出方法。
【請求項18】
前記画素が前記俯瞰図の所定の範囲を所定の数に分割して設定した複数の領域のうちいずれかの領域に位置する場合に前記画素を平面物候補点と判定する一方、前記画素が前記俯瞰図の前記複数の領域外に位置する場合に前記画素を立体物候補点と判定し、前記平面物候補点と前記立体物候補点が前記画像において垂直方向に連続して位置する場合に前記平面物候補点と前記立体物候補点を一つの立体物として判定することを特徴とする請求項16に記載の歩行者検出方法。
【請求項19】
複数の前記立体物における前記画素の前記移動情報と前記画素の前記画像上における前記座標とに基づいて前記立体物が移動体であるか否かを判定する移動体判定を行うことを特徴とする請求項15〜18のいずれか1項に記載の歩行者検出方法。
【請求項20】
前記画素のうち前記画像の垂直方向において最下部に位置する前記画素の前記俯瞰図における前記座標に基づいて前記自車両の走路の境界を表す走路境界を検出し、該走路境界で区切られた区画毎に前記移動体判定を行うことを特徴とする請求項19に記載の歩行者検出方法。
【請求項21】
複数の前記移動体の前記画像上の前記移動方向が同一で前記移動速度の比が所定の範囲内であって、該複数の前記移動体の前記画像上の前記座標の差が所定値以下である場合に、該複数の移動体を一つの移動体であると判定することを特徴とする請求項15〜20のいずれか1項に記載の歩行者検出方法。
【請求項22】
前記移動体の前記移動速度の分散値を算出し、該分散値が所定値以上の場合に、前記移動体を歩行者と判定することを特徴とする請求項15〜21のいずれか1項に記載の歩行者検出方法。
【請求項23】
前記移動体の前記移動速度の前記分散値が所定値未満の場合に、所定の時間間隔における前記移動体の前記画像上の前記座標の変化が所定値以下であるとともに、前記移動速度の変化が所定値以上である場合に、前記移動体を歩行者と判定することを特徴とする請求項22に記載の歩行者検出方法。
【請求項24】
前記移動体を前記画像上において上部と下部とに分割して該下部における前記移動速度の分散値を算出し、該分散値が所定値以上の場合に、前記移動体を歩行者と判定することを特徴とする請求項15〜21のいずれか1項に記載の歩行者検出方法。
【請求項25】
前記移動体の前記下部における前記移動速度の前記分散値が所定値未満の場合に、所定の時間間隔における前記移動体の前記画像上の前記座標の変化が所定値以下であるとともに、前記移動速度の変化が所定値以上である場合に、前記移動体を歩行者と判定することを特徴とする請求項24に記載の歩行者検出方法。
【請求項26】
前記移動体の上端と下端を検出して該上端と該下端それぞれにおける前記移動速度の最大値を算出し、該上端と該下端における該最大値の比が所定の範囲外の場合に、前記移動体を歩行者と判定することを特徴とする請求項15〜21のいずれか1項に記載の歩行者検出方法。
【請求項27】
前記移動体の前記上端と前記下端における前記移動速度の前記最大値の比が所定の範囲内の場合に、所定の時間間隔における前記移動体の前記画像上の前記座標の変化が所定値以下であるとともに、前記移動速度の変化が所定値以上である場合に、前記移動体を歩行者と判定することを特徴とする請求項26に記載の歩行者検出方法。
【請求項28】
前記特徴点が物体のエッジであることを特徴とする請求項15〜27のいずれか1項に記載の歩行者検出方法。
【請求項1】
自車両前方の画像を撮像する撮像部と、
前記撮像部で撮像した画像から特徴点を抽出する特徴点抽出部と、前記特徴点を表す画素の前記画像上の移動速度および移動方向を移動情報として算出する移動情報算出部と、前記画素の前記画像上の座標を前記自車両前方の俯瞰図における座標に変換する座標変換部と、前記画素の前記俯瞰図における前記座標および前記画素の前記移動情報に基づいて前記特徴点を平面物または立体物と判定するとともに、前記特徴点が立体物と判定された場合は該立体物が移動体であるか否かを判定する物体属性判定部と、前記特徴点が移動体であると判定された際に、前記移動体の前記画像上における前記移動速度の変化に基づいて前記移動体が歩行者であるか否かを判定する歩行者判定部とを有する制御部と、
を備えることを特徴とする歩行者検出装置。
【請求項2】
前記画像の垂直方向に隣接するとともに前記移動速度が所定の範囲にある前記画素を同一のグループにグループ化するグループ化部を備え、
前記物体属性判定部は、前記グループ化部によりグループ化された前記画素のうち最上部に位置する前記画素と最下部に位置する前記画素の前記俯瞰図における座標に基づいて前記特徴点を平面物または立体物と判定することを特徴とする請求項1に記載の歩行者検出装置。
【請求項3】
前記物体属性判定部は、前記最上部に位置する前記画素と前記最下部に位置する前記画素が前記俯瞰図の所定の範囲を所定の数に分割して設定した複数の領域のうち同一の領域に位置する場合に前記特徴点を平面物と判定し、前記最上部に位置する前記画素と前記最下部に位置する前記画素が前記複数の領域のうちそれぞれ異なる領域に位置する場合、または前記最上部に位置する前記画素が前記俯瞰図の前記複数の領域外に位置するとともに前記最下部に位置する前記画素が前記俯瞰図の前記複数の領域のうちいずれかの領域に位置する場合に、前記特徴点を立体物と判定することを特徴とする請求項2に記載の歩行者検出装置。
【請求項4】
前記物体属性判定部は、前記画素が前記俯瞰図の所定の範囲を所定の数に分割して設定した複数の領域のうちいずれかの領域に位置する場合に前記画素を平面物候補点と判定する一方、前記画素が前記俯瞰図の前記複数の領域外に位置する場合に前記画素を立体物候補点と判定し、前記平面物候補点と前記立体物候補点が前記画像において垂直方向に連続して位置する場合に前記平面物候補点と前記立体物候補点を一つの立体物として判定することを特徴とする請求項2に記載の歩行者検出装置。
【請求項5】
前記物体属性判定部は、複数の前記立体物における前記画素の前記移動情報と前記画素の前記画像上における前記座標とに基づいて前記立体物が移動体であるか否かを判定する移動体判定を行うことを特徴とする請求項1〜4のいずれか1項に記載の歩行者検出装置。
【請求項6】
前記物体属性判定部は、前記画素のうち前記画像の垂直方向において最下部に位置する前記画素の前記俯瞰図における前記座標に基づいて前記自車両の走路の境界を表す走路境界を検出し、該走路境界で区切られた区画毎に前記移動体判定を行うことを特徴とする請求項5に記載の歩行者検出装置。
【請求項7】
前記物体属性判定部は、複数の前記移動体の前記画像上の前記移動方向が同一で前記移動速度の比が所定の範囲内であって、該複数の前記移動体の前記画像上の前記座標の差が所定値以下である場合に、該複数の移動体を一つの移動体であると判定することを特徴とする請求項1〜6のいずれか1項に記載の歩行者検出装置。
【請求項8】
前記歩行者検出部は、前記移動体の前記移動速度の分散値を算出し、該分散値が所定値以上の場合に、前記移動体を歩行者と判定することを特徴とする請求項1〜7のいずれか1項に記載の歩行者検出装置。
【請求項9】
前記歩行者検出部は、前記移動体の前記移動速度の前記分散値が所定値未満の場合に、所定の時間間隔における前記移動体の前記画像上の前記座標の変化が所定値以下であるとともに、前記移動速度の変化が所定値以上である場合に、前記移動体を歩行者と判定することを特徴とする請求項8に記載の歩行者検出装置。
【請求項10】
前記歩行者検出部は、前記移動体を前記画像上において上部と下部とに分割して該下部における前記移動速度の分散値を算出し、該分散値が所定値以上の場合に、前記移動体を歩行者と判定することを特徴とする請求項1〜7のいずれか1項に記載の歩行者検出装置。
【請求項11】
前記歩行者検出部は、前記移動体の前記下部における前記移動速度の前記分散値が所定値未満の場合に、所定の時間間隔における前記移動体の前記画像上の前記座標の変化が所定値以下であるとともに、前記移動速度の変化が所定値以上である場合に、前記移動体を歩行者と判定することを特徴とする請求項10に記載の歩行者検出装置。
【請求項12】
前記歩行者検出部は、前記移動体の上端と下端を検出して該上端と該下端それぞれにおける前記移動速度の最大値を算出し、該上端と該下端における該最大値の比が所定の範囲外の場合に、前記移動体を歩行者と判定することを特徴とする請求項1〜7のいずれか1項に記載の歩行者検出装置。
【請求項13】
前記歩行者検出部は、前記移動体の前記上端と前記下端における前記移動速度の前記最大値の比が所定の範囲内の場合に、所定の時間間隔における前記移動体の前記画像上の前記座標の変化が所定値以下であるとともに、前記移動速度の変化が所定値以上である場合に、前記移動体を歩行者と判定することを特徴とする請求項12に記載の歩行者検出装置。
【請求項14】
前記特徴点が物体のエッジであることを特徴とする請求項1〜13のいずれか1項に記載の歩行者検出装置。
【請求項15】
自車両前方の画像を撮像するステップと、
撮像した画像から特徴点を抽出するステップと、
前記特徴点を表す画素の前記画像上の移動速度および移動方向を移動情報として算出するステップと、
前記画素の前記画像上の座標を前記自車両前方の俯瞰図における座標に変換するステップと、
前記画素の前記俯瞰図における前記座標および前記画素の前記移動情報に基づいて前記特徴点を平面物または立体物と判定するとともに、前記特徴点が立体物と判定された場合は該立体物が移動体であるか否かを判定するステップと、
前記特徴点が移動体であると判定された際に、前記移動体の前記画像上における前記移動速度の変化に基づいて前記移動体が歩行者であるか否かを判定するステップと、
を備えることを特徴とする歩行者検出方法。
【請求項16】
前記画像の垂直方向に隣接するとともに前記移動速度が所定の範囲にある前記画素を同一のグループにグループ化するステップを備え、
同一のグループにグループ化された前記画素のうち最上部に位置する前記画素と最下部に位置する前記画素の前記俯瞰図における座標に基づいて前記特徴点を平面物または立体物と判定することを特徴とする請求項15に記載の歩行者検出方法。
【請求項17】
前記最上部に位置する前記画素と前記最下部に位置する前記画素が前記俯瞰図の所定の範囲を所定の数に分割して設定した複数の領域のうち同一の領域に位置する場合に前記特徴点を平面物と判定し、前記最上部に位置する前記画素と前記最下部に位置する前記画素が前記複数の領域のうちそれぞれ異なる領域に位置する場合、または前記最上部に位置する前記画素が前記俯瞰図の前記複数の領域外に位置するとともに前記最下部に位置する前記画素が前記俯瞰図の前記複数の領域のうちいずれかの領域に位置する場合に、前記特徴点を立体物と判定することを特徴とする請求項16に記載の歩行者検出方法。
【請求項18】
前記画素が前記俯瞰図の所定の範囲を所定の数に分割して設定した複数の領域のうちいずれかの領域に位置する場合に前記画素を平面物候補点と判定する一方、前記画素が前記俯瞰図の前記複数の領域外に位置する場合に前記画素を立体物候補点と判定し、前記平面物候補点と前記立体物候補点が前記画像において垂直方向に連続して位置する場合に前記平面物候補点と前記立体物候補点を一つの立体物として判定することを特徴とする請求項16に記載の歩行者検出方法。
【請求項19】
複数の前記立体物における前記画素の前記移動情報と前記画素の前記画像上における前記座標とに基づいて前記立体物が移動体であるか否かを判定する移動体判定を行うことを特徴とする請求項15〜18のいずれか1項に記載の歩行者検出方法。
【請求項20】
前記画素のうち前記画像の垂直方向において最下部に位置する前記画素の前記俯瞰図における前記座標に基づいて前記自車両の走路の境界を表す走路境界を検出し、該走路境界で区切られた区画毎に前記移動体判定を行うことを特徴とする請求項19に記載の歩行者検出方法。
【請求項21】
複数の前記移動体の前記画像上の前記移動方向が同一で前記移動速度の比が所定の範囲内であって、該複数の前記移動体の前記画像上の前記座標の差が所定値以下である場合に、該複数の移動体を一つの移動体であると判定することを特徴とする請求項15〜20のいずれか1項に記載の歩行者検出方法。
【請求項22】
前記移動体の前記移動速度の分散値を算出し、該分散値が所定値以上の場合に、前記移動体を歩行者と判定することを特徴とする請求項15〜21のいずれか1項に記載の歩行者検出方法。
【請求項23】
前記移動体の前記移動速度の前記分散値が所定値未満の場合に、所定の時間間隔における前記移動体の前記画像上の前記座標の変化が所定値以下であるとともに、前記移動速度の変化が所定値以上である場合に、前記移動体を歩行者と判定することを特徴とする請求項22に記載の歩行者検出方法。
【請求項24】
前記移動体を前記画像上において上部と下部とに分割して該下部における前記移動速度の分散値を算出し、該分散値が所定値以上の場合に、前記移動体を歩行者と判定することを特徴とする請求項15〜21のいずれか1項に記載の歩行者検出方法。
【請求項25】
前記移動体の前記下部における前記移動速度の前記分散値が所定値未満の場合に、所定の時間間隔における前記移動体の前記画像上の前記座標の変化が所定値以下であるとともに、前記移動速度の変化が所定値以上である場合に、前記移動体を歩行者と判定することを特徴とする請求項24に記載の歩行者検出方法。
【請求項26】
前記移動体の上端と下端を検出して該上端と該下端それぞれにおける前記移動速度の最大値を算出し、該上端と該下端における該最大値の比が所定の範囲外の場合に、前記移動体を歩行者と判定することを特徴とする請求項15〜21のいずれか1項に記載の歩行者検出方法。
【請求項27】
前記移動体の前記上端と前記下端における前記移動速度の前記最大値の比が所定の範囲内の場合に、所定の時間間隔における前記移動体の前記画像上の前記座標の変化が所定値以下であるとともに、前記移動速度の変化が所定値以上である場合に、前記移動体を歩行者と判定することを特徴とする請求項26に記載の歩行者検出方法。
【請求項28】
前記特徴点が物体のエッジであることを特徴とする請求項15〜27のいずれか1項に記載の歩行者検出方法。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【図18】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【図18】
【公開番号】特開2007−316790(P2007−316790A)
【公開日】平成19年12月6日(2007.12.6)
【国際特許分類】
【出願番号】特願2006−143612(P2006−143612)
【出願日】平成18年5月24日(2006.5.24)
【出願人】(000003997)日産自動車株式会社 (16,386)
【Fターム(参考)】
【公開日】平成19年12月6日(2007.12.6)
【国際特許分類】
【出願日】平成18年5月24日(2006.5.24)
【出願人】(000003997)日産自動車株式会社 (16,386)
【Fターム(参考)】
[ Back to top ]