物体検出装置、および方法
【課題】 自車両前方を撮像した画像内に存在する道路上の境界線を簡易に検出すること。
【解決手段】 制御装置103は、カメラ101で撮像した自車両前方の画像を画像処理して、各画素の画像の速度情報を算出し、算出した各画素の画像の速度情報に基づいて、速度情報を有する画素を抽出し、抽出した画素によって構成される斜線を検出し、検出した斜線に基づいて道路上の境界線を検出する。
【解決手段】 制御装置103は、カメラ101で撮像した自車両前方の画像を画像処理して、各画素の画像の速度情報を算出し、算出した各画素の画像の速度情報に基づいて、速度情報を有する画素を抽出し、抽出した画素によって構成される斜線を検出し、検出した斜線に基づいて道路上の境界線を検出する。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、車両前方に存在する移動物体を検出する物体検出装置、および方法に関する。
【背景技術】
【0002】
次のような自動車用の走行制御装置が特許文献1によって知られている。画像からエッジを検出し、最も直線上に並んでいるエッジ列をハフ変換して走路端を検出する。
【0003】
【特許文献1】特開平10−214326号公報
【発明の開示】
【発明が解決しようとする課題】
【0004】
しかしながら、従来の装置では、走路端を検出するためにハフ変換を行っていたが、ハフ変換は、走路端を構成する点を検出するごとにパラメータ空間に曲線を描き、曲線上の点の累積値を加算する必要があり、この処理を走路端を構成する全ての点に対して行わなければならないため、処理が重くなるという問題が生じていた。
【課題を解決するための手段】
【0005】
本発明は、撮像手段で撮像した自車両前方の画像を画像処理して、各画素の画像の速度情報を算出し、算出した各画素の画像の速度情報に基づいて、速度情報を有する画素を抽出し、抽出した速度成分を有する画素によって構成される斜線を検出し、検出した斜線に基づいて、自車両前方の画像内に存在する道路上の境界線を検出することを特徴とする。
【発明の効果】
【0006】
本発明によれば、各画素の画像の速度情報に基づいて検出した斜線に基づいて、走路端などの自車両前方の画像内に存在する道路上の境界線を検出することができるため、ハフ変換のような複雑な処理を行う必要がなく、処理を軽くすることができる。
【発明を実施するための最良の形態】
【0007】
―第1の実施の形態―
図1は、第1の実施の形態における物体検出装置の一実施の形態の構成例を示すブロック図である。物体検出装置100は車両に搭載され、車両前方を撮像するカメラ101と、カメラ101で撮像した画像を格納する画像メモリ102と、カメラ101で撮像されて画像メモリ102に記憶した画像に対して画像処理を実行する制御装置103と、後述する画素カウンタのカウント値を記憶するカウンタメモリ104と、音声を出力するスピーカー105と、車両の自動ブレーキを制御する自動ブレーキ装置106と、自車両の車速を検出する車速センサ107とを備えている。
【0008】
カメラ101は、例えばCCDやCMOSなどの撮像素子を有した高速カメラであり、連続的に車両前方を撮像し、各フレームごとに画像メモリ102に出力する。なお、カメラ101は、図2に示すように車両の室内上部前方に設置される。その視軸向きZは車両前方正面方向に向き、撮像面の水平軸Xは地表面と平行となるように、また撮像面の垂直軸Yは地表面と垂直になるように設定されている。カメラ101で撮像した連続画像は、画像メモリ102に出力されて格納される。
【0009】
カメラ101で撮像した画像(自車両前方の画像)の具体例を図3に示す。カメラ101による撮像画像3aは、画像左上を原点として左から右へx軸、上から下へy軸とするxy座標系(カメラ座標)によって表される。なお、図3においては、左右の走路脇に設置された縁石、白線、またはガードレールなどの走路端A、およびB、すなわち道路上の境界線と、車両前方に存在する歩行者Cとが撮像画像3a内に含まれている。
【0010】
制御装置103は、後述するように画像メモリ102に記憶された撮像画像3aを画像処理して、自車両前方に存在する物体の検出を行い、自車両が自車両前方に存在する物体に衝突する危険性がある場合には、スピーカー105を介して運転者に警報(警告音)を出力したり、自動ブレーキ装置106を制御して自車両を自動的に減速、または停止させる。自車両前方に存在する物体の検出を行うに当たっては、まず撮像画像3a内に存在する物体の画像内における横方向(水平方向)の移動速度を検出して、撮像画像3a内における物体の横方向の移動方向と移動速度とを階級値で表した速度画像を生成する。
【0011】
すなわち、カメラ101で撮像された画像を画像メモリ102から読み込み、読み込んだ撮像画像3aに対して所定の閾値を用いて2値化することによって、画像内に存在する物体のエッジを抽出する。そして、抽出した画像内の各エッジに対して、細線化処理を行ってエッジの中心を正確に求める。そして、細線化されたエッジを、エッジ幅が一定の幅、例えば3画素分の幅になるように膨張させる。このように抽出したエッジを正規化することによって、各エッジが均一な幅を持ったエッジ画像を得ることができる。
【0012】
図4は、上述した抽出したエッジを正規化して、エッジ画像を得るために行う各処理の具体例を示す図である。すなわち、図4(a)に示す2値化して得たエッジに対して、細線化処理を行って図4(b)に示す細線化後のエッジを得る。そして、細線化したエッジを膨張させ、図4(c)に示すようにエッジに一定の幅を持たせる。
【0013】
その後、カウンタメモリ104に保存された画素カウンタの内、現在エッジ画像内にエッジが存在している画素に対応した画素カウンタのカウント値を更新する。画素カウンタとは、エッジ画像の各画素に対応したカウンタであり、エッジが存在する画素に対応する画素カウンタのカウント値に1を加算し、エッジが存在しない画素に対応する画素カウンタのカウント値は0で初期化する。このカウンタ値の更新処理を、カメラ101で連続的に撮像される毎フレームごとに行うことで、エッジ存在時間が長い画素はカウント値が大きく、エッジ存在時間が短い画素はカウント値が小さくなる。
【0014】
そして、エッジ画像において、横方向に隣接するそれぞれの画素に対応する画素カウンタのカウント値の差分を取ることで各画素におけるエッジ存在時間の差を算出して、当該エッジが1画素移動するのに要する時間を得る。そして、この値の逆数を得ることで、各画素における画像空間内の横方向の速度を算出することができる。この各画素における画像空間内の横方向の速度は、各画素に含まれるエッジの横方向の移動速度に相当する。これによって、画像上の各画素におけるエッジの速度成分、すなわちエッジの移動方向と移動速度とを算出することができる。
【0015】
以上の処理によって算出した撮像画像3a上に存在する物体の速度成分を所定の階級値で表した速度画像を生成する。第1の実施の形態における速度画像では、図5に示す速度画像5aのように、速度成分の階級値として、速度が検出された画素を丸型の点で表し、移動速度が速い画素ほど点を大きく示す。また、右へ向かう速度を黒点で表し、左へ向かう速度を白点で表すことによって移動方向を表している。すなわち、図5においては、走行路右側の走路端Bからは画像の左側へ向かう速度が検出されており、走行路左側の走路端A、および歩行者Cからは画像の右側へ向かう速度が検出されている。また、点の大きさから、走路端AおよびBから検出された移動速度よりも歩行者Cから検出された移動速度の方が速いことが判断できる。
【0016】
次に、算出した速度画像5aに走路端などの道路上の境界線を検出するための境界線検出用領域を設定する。境界線検出用領域は、自車両が車線内を走行しながら前方の画像を撮像した場合に、速度画像5a上で道路上の境界線としての走路端が存在する位置をあらかじめ予測しておき、その位置に所定の大きさの領域を設定する。例えば、図6に示すように速度画像5a上で左右に存在する走路端を検出できるように、左右対称となる境界線検出用領域6a〜6hを設定する。そして、設定した境界線検出用領域6a〜6hの中に速度成分を有する斜線が存在するか否かを判定する。すなわち、境界線検出用領域6a〜6hの各領域内において、速度成分を有する画素が斜線を構成するように斜めに並んでいるか否かを判断する。
【0017】
そして、左右対称に設定された境界線検出用領域6a〜6hにおいて、それぞれ左右に対となる境界線検出用領域、例えば境界線検出用領域6dおよび6hで斜線が検出された場合に、それぞれで検出された斜線が異なる方向の速度成分を有している場合には、その左右に対となる境界線検出用領域内で検出した斜線は走路端であると判定する。すなわち、境界線検出用領域6dと境界線検出用領域6h内で検出された斜線が異なる方向の速度成分を有している場合には、境界線検出用領域6d、および境界線検出用領域6h内で検出した斜線は走路端であると判定する。
【0018】
走路端として検出した各境界線検出用領域内の斜線において、その始点や終点などを代表点として抽出する。例えば境界線検出用領域6aからは代表点6iを抽出し、境界線検出用領域6eからは左代表点6jを抽出する。抽出した各代表点に基づいて、重回帰分析を行い、xy座標系におけるそれぞれの斜線の式を算出することによって次式(1)によって表される2次元道路モデル、すなわち画像道路モデルを算出する。
x=a1・y2+b1・y+c1 ・・・(1)
そして、図7に示すように、自車両の推定進行経路に相当する2次元道路モデルの中心7aを算出する。
【0019】
次に、後述するように2次元道路モデルの中心7aに向かう速度成分を持つ画素を抽出する。そして、抽出した画素の内、同じ速度成分を持つ画素をグルーピングして個別の物体として検出する。まず、図7に示すように速度画像上に所定の範囲を含む領域、例えば縦1画素、横3画素の大きさの領域を下端検出用小領域7bとして設定し、下端検出用小領域7bを速度画像のy軸方向の下から上に走査する。そして、下端検出用小領域7b内に所定以上、例えば2以上の2次元道路モデルの中心7aに向かう同じ速度成分を持つ画素が存在(分布)する点を検出し、そのときに下端検出用小領域7bの下端に位置する画素を物体下端位置7cとして検出する。
【0020】
そして、物体下端位置7cからy軸方向に速度画像のヒストグラムを算出する。すなわち、物体下端位置7cからy軸方向に存在する2次元道路モデルの中心7aに向かう同じ速度成分を持つ画素のx軸方向の度数分布を表すヒストグラムを算出する。そして、このときの物体下端位置7cの座標値をyd、各y座標値における2次元道路モデルの中心7aに向かう同じ速度成分を持つ画素の度数をV(yi)としたときの、あらかじめ設定された歩行者Cの基準高さymの範囲における度数の和を次式(2)により算出する。
【数1】
【0021】
式(2)で算出した度数の和が、所定値T1以上であれば、当該2次元道路モデルの中心7aに向かう速度成分を持つ画素が分布している範囲内に2次元道路モデルの中心7aに向かう移動物体が存在すると判定する。そして、移動物体が存在すると判定した場合には、あらかじめ設定された歩行者Cの基準高さym以上となる位置で、かつy座標値における2次元道路モデルの中心7aに向かう速度成分を持つ画素の度数V(yi)が所定値T2未満となる直前の位置、例えば図8に符号8aで示す位置を移動物体が存在する上端位置、すなわち物体上端位置8aとして検出する。
【0022】
さらに、物体下端位置7cと物体上端位置8aとの間の範囲に対して、x軸方向に連続して存在する2次元道路モデルの中心7aに向かう同じ速度成分を持つ画素の最も外側の画素を通るy軸と平行な直線を引き、当該y軸に平行な直線と、物体下端位置7cおよび物体上端位置8aとで囲まれる範囲を移動物体が存在する範囲(物体存在範囲)8bとして特定する。これによって、速度画像5a上において、2次元道路モデルの中心7aに向かう同じ速度成分を持つ画素をグルーピングして、側方から2次元道路モデルの中心7aに向かって移動している歩行者Cを含む物体存在範囲8b検出することができる。
【0023】
上述した処理で検出した速度画像5a上の走路端A、B、および物体存在範囲8bの位置を、実空間上の位置に変換する。このとき、本実施の形態では、自車両の走行中に発生するピッチングを考慮に入れて、以下に説明するように実空間上の位置に変換する。
【0024】
例えば、自車両がピッチングによって沈み込む方向、すなわち下方向に移動している間は、カメラ101の視軸向きは図2に示した路面に水平な状態よりも下向きになる。よってこの場合は、図9に示すように速度画像5a上の時刻tにおける走路端AおよびBの位置から時刻t+1における走路端AおよびBの位置へ上方向に移動する。これによって、走路端Aを示す斜線は速度画像5a上で右方向へ移動するように速度成分が検出され、走路端Bを示す斜線は速度画像5a上で左方向へ移動するように速度成分が検出される。
【0025】
一方、自車両がピッチングによって浮き上がる方向、すなわち上方向に移動している間は、カメラ101の視軸向きは図2に示した路面に水平な状態よりも上向きになることから、ピッチングに伴って速度画像5a上の走路端AおよびBの位置は下方向に移動する。これによって、走路端Aを示す斜線は速度画像5a上で左方向へ移動するように速度成分が検出され、走路端Bを示す斜線は速度画像5a上で右方向へ移動するように速度成分が検出される。
【0026】
以上の点を考慮して、走路端AおよびBを示す斜線の画像上における速度の方向が変化する点をピッチングの平衡点、すなわちカメラ101の視軸向きが路面と水平な点であると判断する。そして、このピッチングの平衡点における速度画像5aにおいては、上述したようにカメラ101の視軸向きが路面と水平であることから、走路端AおよびB上に任意に設定した代表点の座標値とカメラ101のカメラパラメータとに基づいて、三角測量により代表点の3次元座標値を算出することが可能となる。
【0027】
よって、図10に示すように速度画像5a上の走路端AおよびBに任意の代表点10aおよび10bを設定し、この代表点の座標値とカメラ101のカメラパラメータとに基づいて、三角測量により代表点の3次元座標値を算出する。そして、この代表点の3次元座標値に基づいて、走路端AおよびBを示す斜線の位置を実空間上の位置に変換して、3次元道路モデル、すなわち実空間道路モデルを算出する。これによって、2次元道路モデルで表した走路端AおよびBの位置を実空間上の3次元道路モデルに変換することができる。
【0028】
また、速度画像5a上における物体存在範囲8b上に設定した物体中心点10cの座標値と、カメラ101のカメラパラメータとに基づいて、物体存在範囲8bに含まれる歩行者Cの実空間上における位置を算出する。これによって、速度画像5a上の歩行者Cの位置を実空間上の位置に変換することができる。そして、実空間上における走路端A、B、および歩行者Cの位置関係に基づいて、自車両から歩行者Cまでの距離、および歩行者Cから走路端までの距離を算出する。なお、自車両から歩行者Cまでの距離は、自車両から歩行者Cまでの直線距離ではなく、自車両から歩行者Cの存在位置に相当する車線上の位置である。
【0029】
一方、ピッチングの平衡点ではない速度画像5aにおいては、上述したようにカメラ101の視軸向きが路面と水平でないことから、ピッチングの平衡点における速度画像5aにおいて変換した走路端A、B、および歩行者Cの実空間上の位置と、ピッチングの平衡点における速度画像5aと現在の速度画像5aとの撮像時間間隔とに基づいて、それぞれの実空間上における位置を推定する。そして、推定した実空間上における走路端A、B、および歩行者Cの位置関係に基づいて、自車両から歩行者Cまでの距離、および歩行者Cから走路端までの距離を推定する。
【0030】
そして、走路端AおよびBと、歩行者Cとの実空間上における位置関係に基づいて、自車両と歩行者Cとの接触危険度を以下の(1)〜(3)の3段階のレベルで判定する。
(1)レベル3
走路端と歩行者Cとの実空間上における位置関係から、自車両と歩行者Cとの衝突危険度が最も高いと判定される場合に、接触危険度はレベル3であると判定する。すなわち、図11に示すように、歩行者Cが符号11aに示す左右両側に存在する走路端の内側、すなわち自車両11dが走行中の車線内を移動しているときは、自車両11dと歩行者Cとの衝突危険度はレベル3であると判定する。
【0031】
(2)レベル2
走路端と歩行者Cとの実空間上における位置関係から、自車両と歩行者Cとの衝突危険度がレベル3ほどは高くないが、なお衝突の可能性があると判定される場合に、接触危険度はレベル2であると判定する。具体的には、歩行者Cが符号11bに示す範囲、すなわち走路端の外側、かつ走路端から歩行者Cまでの距離がx0(m)以内の範囲を走路端に向かって移動しているときは、自車両11dと歩行者Cとの衝突危険度はレベル2であると判定する。なお、上述した距離x0(m)は、上述した処理で検出した歩行者Cの移動速度、および自車両11dから歩行者Cまでの距離と、車速センサ107で検出した自車両の車速とに基づいて算出される。
【0032】
(3)レベル1
走路端と歩行者Cとの実空間上における位置関係から、自車両と歩行者Cとが衝突する危険がないと判定される場合に、接触危険度はレベル1であると判定する。具体的には、歩行者Cが符号11cに示す範囲、すなわち走路端からx0(m)より外側の範囲を移動しているときは、自車両11dと歩行者Cとの衝突危険度はレベル1であると判定する。なお、衝突危険度の判定結果がレベル1である場合には、自車両と歩行者Cとは衝突の危険がないことから、後述する衝突を回避するための車両制御は行わない。
【0033】
また、衝突の危険度は、自車両から歩行者Cまでの距離によっても変化するため、自車両から歩行者Cまでの距離を次式(3)〜(5)で算出される距離で分類し、この分類結果に基づいて、後述するように自車両と歩行者Cとの衝突を回避するための車両制御を行う。なお、次式(3)〜(5)において、Vは自車両11dの車速、gは重力加速度、z0は歩行者Cの存在位置に相当する車線上の位置から目標停止ラインまでの距離11eである。
z3=(1/2)*(V2*0.5g)+V*2+z0 ・・・(3)
z2=(1/2)*(V2*0.5g)+V*1+z0 ・・・(4)
z1=(1/2)*(V2*0.6g)+z0 ・・・(5)
【0034】
上述した処理で判定した衝突危険度と、式(3)〜(5)により分類した自車両から歩行者Cまでの距離とに基づいて、以下の(A)〜(C)の3つの制御モードによって歩行者Cとの衝突を回避するための車両制御を行う。
【0035】
(A)注意
衝突危険度がレベル3であり、かつ自車両から歩行者Cまでの距離がz2より長くz3以下である場合に制御モードを「注意」とする。制御モードが「注意」の場合は、スピーカー105を介して注意音を出力することによって、運転者に対して自車両前方に衝突の危険がある移動物体が存在することを報知する。
【0036】
(B)警告
衝突危険度がレベル2の場合、および衝突危険度がレベル3であり、かつ自車両から歩行者Cまでの距離がz2以下である場合に制御モードを「警告」とする。制御モードが「警告」の場合は、ピーカー105を介して警告音を出力することによって、運転者に対して自車両前方に衝突の危険性が高い移動物体が存在することを警告する。なお、警告音は、(A)で上述した「注意」における注意音と運転者が識別可能なように、例えば注意音よりも警告音の音量を大きくしたり、注意音と警告音のリズムを変更したりする。
【0037】
(C)自動ブレーキ
衝突危険度はレベル3であり、かつ自車両から歩行者Cまでの距離がz1以下である場合に、制御モードを「自動ブレーキ」とする。制御モードが「自動ブレーキ」の場合は、自動ブレーキ装置106を制御して、自車両を強制的に制動する。すなわち、歩行者Cとの衝突危険視が極めて高い場合には、運転者が上述した注意音や警告音を認知してから制動動作に入っても間に合わない可能性がある。よって、このような場合には、自動ブレーキ装置106を制御して自車両を強制的に停止させる。なお、制御モードを「自動ブレーキ」としたときは、同時に「警告」も行う。
【0038】
図12は、第1の実施の形態における物体検出装置100の処理を示すフローチャートである。図12に示す処理は車両のイグニションスイッチがオンされて、物体検出装置100の電源がオンされると、制御装置103によって起動されるプログラムとして実行される。ステップS1において、カメラ101で撮像された自車両前方の画像3aを画像メモリ102から取り込む。その後、ステップS2へ進み、画像3aに対してエッジ抽出処理を行って、撮像画像3a内に存在する物体の輪郭を抽出したエッジ画像を生成し、ステップS3へ進む。ステップS3では、上述したように各画素に含まれるエッジの速度情報を算出し、算出した速度情報を所定の階調値に変換した速度画像を算出する。その後、ステップS4へ進む。
【0039】
ステップS4では、算出した速度画像上に境界線検出用領域を設定して、ステップS5へ進む。ステップS5では、境界線検出用領域内に速度成分を有する画素が斜線を構成するように斜めに並んでいるか否かを判断して斜線を検出する。その後、ステップS6へ進み、左右に対となる境界線検出用領域で検出された斜線が異なる方向の速度成分を有しているか否かを判定して、検出した斜線が走路端であるか否かを判定する。検出した斜線が走路端でないと判断した場合には、後述するステップS22へ進む。一方、検出した斜線が走路端であると判断した場合には、ステップS7へ進む。
【0040】
ステップS7では、上述したように2次元道路モデル、すなわち画像道路モデルを算出して、ステップS8へ進む。ステップS8では、2次元道路モデルの中心に向かう速度成分を持つ画素を抽出する。その後、ステップS9へ進み、抽出した画素の内、同じ速度成分を持つ画素をグルーピングして個別の物体として検出して、ステップS10へ進む。ステップS10では、抽出した画素のグルーピングが完了し、速度画像上に存在する全ての物体が検出されたか否かを判断する。速度画像上に存在する全ての物体が検出されたと判断した場合には、ステップS11へ進む。
【0041】
ステップS11では、走路端を示す斜線の画像上における速度方向の変化を検出してピッチングの平衡点であるか否かを判断する。ピッチングの平衡点であると判断した場合には、ステップS12へ進む。ステップS12では、走路端を示す斜線の位置を実空間上の位置に変換して、3次元道路モデルを算出する。その後、ステップS14に進み、実空間上における走路端と検出物体との相対的な位置関係、すなわち走路端と検出物体との距離、および自車両と検出物体との距離を算出して、後述するステップS16へ進む。
【0042】
一方、ピッチングの平衡点でないと判断した場合には、ステップS13へ進む。ステップS13では、上述したように、ピッチングの平衡点における速度画像と現在の速度画像との撮像時間間隔とに基づいて3次元道路モデルを推定し、ステップS15へ進む。ステップS15では、実空間上における走路端と検出物体との相対的な位置関係、すなわち走路端と検出物体との距離、および自車両と検出物体との距離を推定して、ステップS16へ進む。
【0043】
ステップS16では、走路端と、検出物体との実空間上における位置関係に基づいて、自車両と検出物体との接触危険度が上述したレベル1〜レベル3のいずれであるかを判定する。接触危険度がレベル1であると判定した場合には、自車両と検出物体とは衝突の危険がないことから、衝突を回避するための車両制御は行わず、後述するステップS22へ進む。これに対して、接触危険度がレベル2または3であると判定した場合には、ステップS17へ進む。ステップS17では、自車両から検出物体までの距離に基づいて、衝突を回避するための車両制御のモードを判定する。
【0044】
制御モードが上述した「注意」である場合には、ステップS19へ進み、スピーカー105を介して注意音を出力して、後述するステップS22へ進む。これに対して、制御モードが「警告」、または「自動ブレーキ」である場合には、ステップS18へ進み、スピーカー105を介して警告音を出力して、ステップS20へ進む。ステップS20では、制御モードが「自動ブレーキ」であるか否かを判定する。制御モードが「自動ブレーキ」でない場合には、後述するステップS22へ進む。一方、制御モードが「自動ブレーキ」である場合には、ステップS21へ進む。
【0045】
ステップS21では、自動ブレーキ装置106を制御して、自車両を強制的に制動する。その後、ステップS22へ進む。ステップS22では、自車両のイグニションスイッチがオフされたか否かを判断し、オフされないと判断した場合には、ステップS1へ戻って処理を繰り返す。これに対して、自車両のイグニションスイッチがオフされたと判断した場合には、処理を終了する。
【0046】
以上説明した第1の実施の形態によれば、以下のような作用効果を得ることができる。
(1)カメラ101で撮像した画像に基づいて算出した速度画像上に境界線検出用領域を設定し、それぞれ左右に対となる境界線検出用領域で検出された斜線が異なる方向の速度成分を有している場合には、その左右に対となる境界線検出用領域内で検出した斜線は道路上の境界線、すなわち走路端であると判定することとした。これによって、カメラ101で撮像した画像に含まれる走路端は光軸と平行な直線成分のため、画像上では必ず斜線として撮像され、さらに斜線は速度が発生しやすいことを加味して、精度高く走路端を検出することができる。
【0047】
(2)走路端AおよびBを示す斜線の画像上における速度の方向が変化する点をピッチングの平衡点と判断するようにした。これによって、画像上における斜線の速度方向を計測するだけで,容易にピッチングの平衡点が検出できる。
【0048】
(3)ピッチングの平衡点における走路端AおよびBにおける代表点の座標値とカメラ101のカメラパラメータとに基づいて、三角測量により代表点の3次元座標値を算出するようにした。これによって、ピッチング平衡点ではカメラパラメータは取付時の初期状態とほぼ一致するため三角測量の測距の精度が高いことを加味して、精度高く3次元座標値を算出することができる。
【0049】
(4)走路端AおよびBと、歩行者Cとの実空間上における相対的な位置関係に基づいて、自車両と歩行者Cとの接触危険度を判定し、さらに自車両と歩行者Cとの距離を加味して歩行者Cとの衝突を回避するための車両制御を行うようにした。これによって、危険度を正確に判定することができ、さらに自車両と歩行者Cとの衝突を防止することができる。
【0050】
―第2の実施の形態―
第2の実施の形態では、第1の実施の形態で検出した自車両の両側に対で存在する走路端だけではなく、例えば複数車線道路における隣接する複数の車線の境界線や道路と建物の境界線などといった種々の道路上の境界線を検出する。
【0051】
なお、図1に示したブロック図、図2に示した車両へのカメラ101の設置例を示す図、および図4に示したエッジの正規化の例を示す図については、第1の実施の形態と同様のため説明を省略する。また、図7〜11で説明した、検出した走路端に基づいて2次元道路モデルの算出処理、および2次元道路モデルの中心に向かう物体を含む物体存在範囲の検出処理、3次元道路モデル上に変換した道路上の境界線と物体との位置関係に基づく危険度判定処理、および危険度判定結果に基づく車両制御または警告処理については、第1の実施の形態における処理と同様のため説明を省略する。
【0052】
図13は、第2の実施の形態におけるカメラ101で撮像した撮像画像の具体例を示す図である。撮像画像13aは、第1の実施の形態と同様に、画像左上を原点として左から右へx軸、上から下へy軸とするxy座標系(カメラ座標)によって表される。なお、図13に示す例では、撮像画像13aには、道路上の境界線として、走路脇に設置された縁石、白線、ガードレールなどの走路端DおよびEと、隣接する車線との境界線Fと、車両前方に存在する歩行者Gとが含まれている。
【0053】
この図13に示す撮像画像13aを第1の実施の形態と同様に画像処理して、図14に示すような速度画像14aを生成する。そして、この速度画像14a内の所定範囲を分割して得られる複数の境界線検出用領域を設定する。すなわち、図15に示すように、自車両前方の所定範囲、例えば、実空間上における自車両からの距離が20m〜60mの範囲を、画像の縦方向(y軸方向)に所定の高さを有する複数領域に6分割する。そして、この縦方向に分割した各領域を画像の横方向に等間隔に分割することによって、画像上の自車両前方の所定範囲に相当する範囲内に複数の境界線検出用領域15aを設定することができる。
【0054】
このように設定したそれぞれの境界線検出領域15aを、さらに所定の大きさを有する小領域に分割する。本実施の形態では、例えば、各境界線検出領域15a内を64等分した小領域に分割する。これによって、各境界線検出領域15aは、8×8の小領域によって構成されるようになる。そして、分割して得られる各小領域ごとに、速度画像14a内に存在する道路上の境界線の候補を検出する。
【0055】
ここで、走路端などの道路上の境界線は、第1の実施の形態と同様に、速度画像14a上では斜線として検出されることを加味して、各小領域内で斜線を構成するように斜めに並んでいる速度成分を有する画素を検出することによって、各小領域内における斜線の候補、すなわち道路上の境界線の候補を検出する。
【0056】
まず、各小領域内に存在する任意の画素を注目画素として、その注目画素が、斜め方向に隣接する近傍画素と斜線を構成するか否かを判定する。よって、注目画素と斜めに直線を構成する近傍画素が、それぞれ速度成分を有しているかを判定するために、着目画素に対して、例えば、図16(b)に示す斜線候補検出用の空間フィルタを適用する。このとき、空間フィルタの中心16aが着目画素と一致するように、空間フィルタを適用する。
【0057】
なお、速度画像14a内においては、一般的に自車両の右側に存在する道路上の境界線は、走路端Eや隣接する車線との境界線Fのように左上がりの斜線として撮像され、自車両の左側に存在する道路上の境界線は、走路端Dのように右上がりの斜線として撮像される。よって、速度画像14aの右側半分の範囲内に存在する着目画素に対しては左上がりの斜線を検出するための空間フィルタ、すなわち図16(b)に示す空間フィルタを適用し、速度画像14aの左側半分の範囲内に存在する着目画素に対しては、右上がりの斜線を検出するための空間フィルタ、すなわち図16(b)に示す空間フィルタを左右に反転させたもの適用する。
【0058】
このように、着目画素に対して空間フィルタを適用した結果、着目画素と、その斜め上方の画素、および斜め下方の画素の少なくともいずれか一方とが、それぞれ速度成分を有していると判定した場合には、当該着目画素を斜線を構成する点の候補、すなわち候補点として検出する。この処理を小領域内の全ての画素に対して行い、小領域内から全ての候補点を検出する。そして、小領域内で、3点以上の候補点が小領域内で斜線を構成するように斜めに並んでおり、かつこれらの候補点を結んだ直線が、次に説明する傾き条件を満たしている場合には、これらの候補点を結んだ直線、すなわち斜線を道路上の境界線の候補(境界線候補)として検出する。
【0059】
ここで、境界線候補を検出するための傾き条件について説明する。一般的に、速度画像14a内の自車両から見た左右のいずれか片方の方向、すなわち右側、または左側に、複数の道路上の境界線が存在する場合には、それぞれの境界線の傾きは、自車両に近い境界線の傾きの方が、自車両から遠い境界線の傾きよりも大きくなる。換言すれば、自車両に近い境界線の方が、自車両から遠い境界線よりもx軸とのなす角が大きくなる。例えば、図14に示す例では、自車両の右側に存在する走路端Eの傾きは、隣接する車線との境界線Fの傾きよりも大きくなる。
【0060】
よって、このことを加味して、上述した処理で検出した候補点を結んだ直線が境界線候補であるか否かを次のように判断する。例えば、図16(a)に示すように、小領域16b内から候補点を結んだ直線が検出された場合には、自車両から見た同じ側で、かつ同じ高さ位置に存在する他の小領域内から候補点を結んだ直線が検出されているか否かを判定する。その結果、もし小領域16bと自車両から見た同じ側で、かつ同じ高さ位置に存在する他の小領域内から候補点を結んだ直線が検出されていないと判定した場合には、小領域16bに存在する候補点を結んだ直線を境界線候補として検出する。
【0061】
これに対して、小領域16bと自車両から見た同じ側で、かつ同じ高さ位置に存在する他の小領域、例えば小領域16cから候補点を結んだ直線が検出されている場合には、それぞれの小領域内で検出された候補点を結んだ直線の傾きを比較して、自車両に近い直線の傾きの方が、自車両から遠い方の直線の傾きよりも大きいか否かを判定する。そして、自車両に近い方の直線の傾きの方が、自車両から遠い直線の傾きよりも大きいと判定した場合には、いずれも道路の境界線の一部を構成する境界線候補として検出する。一方、自車両に近い方の直線の傾きの方が、自車両から遠い方の直線の傾きよりも小さいと判定した場合には、いずれも境界線候補から除外する。
【0062】
このように検出したそれぞれの境界線候補の、速度画像14a上における縦方向、すなわち上下方向の斜線としての連続性を判定し、複数の境界線候補で連続性が確認された場合には、それらの境界線候補を結んだ直線を、道路上の境界線として検出する。これによって、図17に示すように、速度画像14a内から、道路上の境界線D、E、およびFを検出することができる。
【0063】
図18は、第2の実施の形態における物体検出装置100の処理を示すフローチャートである。図18に示す処理は、車両のイグニションスイッチがオンされて、物体検出装置100の電源がオンされると、制御装置103によって起動されるプログラムとして実行される。なお、図18においては、図12に示す第1の実施の形態における処理と同一の処理内容については、同じステップ番号を付与し、相違点を中心に説明する。
【0064】
ステップS4−2において、上述したように速度画像14a上に複数の境界線検出用領域15aを設定して、それぞれの境界線検出領域15aを、さらに所定の大きさを有する小領域に分割する。その後、ステップS5−2へ進む。ステップS5−2では、各小領域内の着目画素に図16(b)で上述した空間フィルタを適用して候補点を検出した後、検出した3点以上の候補点が小領域内で斜線を構成するように斜めに並んでおり、かつこれらの候補点を結んだ直線が上述した傾き条件を満たしている場合には、これらの候補点を結んだ直線を境界線候補として検出する。
【0065】
その後、ステップS6−2へ進み、速度画像14a上で検出したそれぞれの境界線候補の、速度画像14a上における縦方向、すなわち上下方向の斜線としての連続性を判定した結果、それらの境界線候補を結んだ直線が道路上の境界線として検出されたか否かを判定する。そして、道路上の境界線が検出されたと判断した場合にはステップS7へ進み、検出されないと判断した場合にはステップS22へ進む。
【0066】
以上説明した第2の実施の形態によれば、速度画像14a内の所定範囲内、例えば実空間上における自車両からの距離が20m〜60mの範囲内に複数の境界線検出用領域を設定して、それぞれの境界線検出用領域ごとに斜線の候補を検出して、道路上の境界線を検出するようにした。このため、第1の実施の形態による効果に加えて、自車両の両側に対で存在する走路端だけではなく、例えば複数車線道路における隣接する複数の車線の境界線や道路と建物の境界線などといった種々の境界線を道路上の境界線として検出することができる。
【0067】
上述した実施の形態における物体検出装置100は、以下のように変形することもできる。
(1)上述した第1および第2の実施の形態では、撮像画像に対してエッジ抽出処理を行ってエッジ画像を得た後、エッジが存在する画素の画素カウンタを更新していき、当該画素カウンタのカウント値に基づいて画像上の各画素におけるエッジの速度成分を算出する例について説明した。しかし、これに限定されず、例えば一般的な手法である勾配法やブロックマッチングを用いてオプティカルフローを算出してもよい。
【0068】
(2)上述した第1および第2の実施の形態では、図5に示す階級値を使用して速度画像5aを算出する例について説明した。しかし、これに限定されず、その他の階級値によって表される速度画像を算出してもよい。
【0069】
(3)上述した第1および第2の実施の形態では、本発明による物体検出装置100を車両に搭載する例について説明したが、これに限定されず、その他の移動体に搭載してもよい。
【0070】
(4)上述した第2の実施の形態では、速度画像14a内の所定範囲内、例えば実空間上における自車両からの距離が20m〜60mの範囲内に複数の境界線検出用領域を設定する例について説明した。しかしこれに限定されず、速度画像14a全体に境界線検出用領域を設定してもよく、あるいは道路上の境界が存在する可能性が高い範囲、例えば速度画像14aの左右の所定範囲内にのみ境界線検出用領域を設定してもよい。
【0071】
また、本発明の特徴的な機能を損なわない限り、本発明は、上述した実施の形態における構成に何ら限定されない。
【0072】
特許請求の範囲の構成要素と実施の形態との対応関係について説明する。カメラ101は撮像手段に、スピーカー105、および自動ブレーキ装置106は危険回避手段に相当する。制御装置103は速度情報算出手段、画素抽出手段、斜線検出手段、境界線検出手段、平衡点判定手段、物体検出手段、変換手段、および衝突危険度判定手段に相当する。なお、この対応は一例であり、実施の形態の構成によって対応関係は異なるものである。
【図面の簡単な説明】
【0073】
【図1】物体検出装置の一実施の形態の構成例を示すブロック図である。
【図2】カメラ101の車両への設置例を示す図である。
【図3】カメラ101で撮像した画像の具体例を示す図である。
【図4】抽出したエッジを正規化して、エッジ画像を得るために行う各処理の具体例を示す図である。
【図5】第1の実施の形態における速度画像の具体例を示す図である。
【図6】第1の実施の形態において、速度画像上に境界線検出用領域を設定した場合の具体例を示す図である。
【図7】2次元道路モデルの中心7aに向かう速度成分を持つ画素を抽出する場合の具体例を示す図である。
【図8】速度画像上において、2次元道路モデルの中心7aに向かう同じ速度成分を持つ画素をグルーピングして、2次元道路モデルの中心7aに向かって移動している歩行者Cを含む物体存在範囲8b検出する具体例を示す図である。
【図9】ピッチング発生時の速度画像上における斜線の移動方向を示す図である。
【図10】2次元道路モデルから3次元道路モデルへの変換を示す図である。
【図11】実空間上における自車両、走路端、検出物体の位置関係を示す図である。
【図12】第1の実施の形態における物体検出装置100の処理を示すフローチャート図である。
【図13】第2の実施の形態におけるカメラ101で撮像した撮像画像の具体例を示す図である。
【図14】第2の実施の形態における速度画像の具体例を示す図である。
【図15】第2の実施の形態において、速度画像上に境界線検出用領域を設定した場合の具体例を示す図である。
【図16】第2の実施の形態における斜線の候補の検出例、および空間フィルタの具体例を示す図である。
【図17】第2の実施の形態における道路上の境界線の検出例を示す図である。
【図18】第2の実施の形態における物体検出装置100の処理を示すフローチャート図である。
【符号の説明】
【0074】
100 物体検出装置
101 カメラ
102 画像メモリ
103 制御装置
104 カウンタメモリ
105 スピーカー
106 自動ブレーキ装置
107 車速センサ
【技術分野】
【0001】
本発明は、車両前方に存在する移動物体を検出する物体検出装置、および方法に関する。
【背景技術】
【0002】
次のような自動車用の走行制御装置が特許文献1によって知られている。画像からエッジを検出し、最も直線上に並んでいるエッジ列をハフ変換して走路端を検出する。
【0003】
【特許文献1】特開平10−214326号公報
【発明の開示】
【発明が解決しようとする課題】
【0004】
しかしながら、従来の装置では、走路端を検出するためにハフ変換を行っていたが、ハフ変換は、走路端を構成する点を検出するごとにパラメータ空間に曲線を描き、曲線上の点の累積値を加算する必要があり、この処理を走路端を構成する全ての点に対して行わなければならないため、処理が重くなるという問題が生じていた。
【課題を解決するための手段】
【0005】
本発明は、撮像手段で撮像した自車両前方の画像を画像処理して、各画素の画像の速度情報を算出し、算出した各画素の画像の速度情報に基づいて、速度情報を有する画素を抽出し、抽出した速度成分を有する画素によって構成される斜線を検出し、検出した斜線に基づいて、自車両前方の画像内に存在する道路上の境界線を検出することを特徴とする。
【発明の効果】
【0006】
本発明によれば、各画素の画像の速度情報に基づいて検出した斜線に基づいて、走路端などの自車両前方の画像内に存在する道路上の境界線を検出することができるため、ハフ変換のような複雑な処理を行う必要がなく、処理を軽くすることができる。
【発明を実施するための最良の形態】
【0007】
―第1の実施の形態―
図1は、第1の実施の形態における物体検出装置の一実施の形態の構成例を示すブロック図である。物体検出装置100は車両に搭載され、車両前方を撮像するカメラ101と、カメラ101で撮像した画像を格納する画像メモリ102と、カメラ101で撮像されて画像メモリ102に記憶した画像に対して画像処理を実行する制御装置103と、後述する画素カウンタのカウント値を記憶するカウンタメモリ104と、音声を出力するスピーカー105と、車両の自動ブレーキを制御する自動ブレーキ装置106と、自車両の車速を検出する車速センサ107とを備えている。
【0008】
カメラ101は、例えばCCDやCMOSなどの撮像素子を有した高速カメラであり、連続的に車両前方を撮像し、各フレームごとに画像メモリ102に出力する。なお、カメラ101は、図2に示すように車両の室内上部前方に設置される。その視軸向きZは車両前方正面方向に向き、撮像面の水平軸Xは地表面と平行となるように、また撮像面の垂直軸Yは地表面と垂直になるように設定されている。カメラ101で撮像した連続画像は、画像メモリ102に出力されて格納される。
【0009】
カメラ101で撮像した画像(自車両前方の画像)の具体例を図3に示す。カメラ101による撮像画像3aは、画像左上を原点として左から右へx軸、上から下へy軸とするxy座標系(カメラ座標)によって表される。なお、図3においては、左右の走路脇に設置された縁石、白線、またはガードレールなどの走路端A、およびB、すなわち道路上の境界線と、車両前方に存在する歩行者Cとが撮像画像3a内に含まれている。
【0010】
制御装置103は、後述するように画像メモリ102に記憶された撮像画像3aを画像処理して、自車両前方に存在する物体の検出を行い、自車両が自車両前方に存在する物体に衝突する危険性がある場合には、スピーカー105を介して運転者に警報(警告音)を出力したり、自動ブレーキ装置106を制御して自車両を自動的に減速、または停止させる。自車両前方に存在する物体の検出を行うに当たっては、まず撮像画像3a内に存在する物体の画像内における横方向(水平方向)の移動速度を検出して、撮像画像3a内における物体の横方向の移動方向と移動速度とを階級値で表した速度画像を生成する。
【0011】
すなわち、カメラ101で撮像された画像を画像メモリ102から読み込み、読み込んだ撮像画像3aに対して所定の閾値を用いて2値化することによって、画像内に存在する物体のエッジを抽出する。そして、抽出した画像内の各エッジに対して、細線化処理を行ってエッジの中心を正確に求める。そして、細線化されたエッジを、エッジ幅が一定の幅、例えば3画素分の幅になるように膨張させる。このように抽出したエッジを正規化することによって、各エッジが均一な幅を持ったエッジ画像を得ることができる。
【0012】
図4は、上述した抽出したエッジを正規化して、エッジ画像を得るために行う各処理の具体例を示す図である。すなわち、図4(a)に示す2値化して得たエッジに対して、細線化処理を行って図4(b)に示す細線化後のエッジを得る。そして、細線化したエッジを膨張させ、図4(c)に示すようにエッジに一定の幅を持たせる。
【0013】
その後、カウンタメモリ104に保存された画素カウンタの内、現在エッジ画像内にエッジが存在している画素に対応した画素カウンタのカウント値を更新する。画素カウンタとは、エッジ画像の各画素に対応したカウンタであり、エッジが存在する画素に対応する画素カウンタのカウント値に1を加算し、エッジが存在しない画素に対応する画素カウンタのカウント値は0で初期化する。このカウンタ値の更新処理を、カメラ101で連続的に撮像される毎フレームごとに行うことで、エッジ存在時間が長い画素はカウント値が大きく、エッジ存在時間が短い画素はカウント値が小さくなる。
【0014】
そして、エッジ画像において、横方向に隣接するそれぞれの画素に対応する画素カウンタのカウント値の差分を取ることで各画素におけるエッジ存在時間の差を算出して、当該エッジが1画素移動するのに要する時間を得る。そして、この値の逆数を得ることで、各画素における画像空間内の横方向の速度を算出することができる。この各画素における画像空間内の横方向の速度は、各画素に含まれるエッジの横方向の移動速度に相当する。これによって、画像上の各画素におけるエッジの速度成分、すなわちエッジの移動方向と移動速度とを算出することができる。
【0015】
以上の処理によって算出した撮像画像3a上に存在する物体の速度成分を所定の階級値で表した速度画像を生成する。第1の実施の形態における速度画像では、図5に示す速度画像5aのように、速度成分の階級値として、速度が検出された画素を丸型の点で表し、移動速度が速い画素ほど点を大きく示す。また、右へ向かう速度を黒点で表し、左へ向かう速度を白点で表すことによって移動方向を表している。すなわち、図5においては、走行路右側の走路端Bからは画像の左側へ向かう速度が検出されており、走行路左側の走路端A、および歩行者Cからは画像の右側へ向かう速度が検出されている。また、点の大きさから、走路端AおよびBから検出された移動速度よりも歩行者Cから検出された移動速度の方が速いことが判断できる。
【0016】
次に、算出した速度画像5aに走路端などの道路上の境界線を検出するための境界線検出用領域を設定する。境界線検出用領域は、自車両が車線内を走行しながら前方の画像を撮像した場合に、速度画像5a上で道路上の境界線としての走路端が存在する位置をあらかじめ予測しておき、その位置に所定の大きさの領域を設定する。例えば、図6に示すように速度画像5a上で左右に存在する走路端を検出できるように、左右対称となる境界線検出用領域6a〜6hを設定する。そして、設定した境界線検出用領域6a〜6hの中に速度成分を有する斜線が存在するか否かを判定する。すなわち、境界線検出用領域6a〜6hの各領域内において、速度成分を有する画素が斜線を構成するように斜めに並んでいるか否かを判断する。
【0017】
そして、左右対称に設定された境界線検出用領域6a〜6hにおいて、それぞれ左右に対となる境界線検出用領域、例えば境界線検出用領域6dおよび6hで斜線が検出された場合に、それぞれで検出された斜線が異なる方向の速度成分を有している場合には、その左右に対となる境界線検出用領域内で検出した斜線は走路端であると判定する。すなわち、境界線検出用領域6dと境界線検出用領域6h内で検出された斜線が異なる方向の速度成分を有している場合には、境界線検出用領域6d、および境界線検出用領域6h内で検出した斜線は走路端であると判定する。
【0018】
走路端として検出した各境界線検出用領域内の斜線において、その始点や終点などを代表点として抽出する。例えば境界線検出用領域6aからは代表点6iを抽出し、境界線検出用領域6eからは左代表点6jを抽出する。抽出した各代表点に基づいて、重回帰分析を行い、xy座標系におけるそれぞれの斜線の式を算出することによって次式(1)によって表される2次元道路モデル、すなわち画像道路モデルを算出する。
x=a1・y2+b1・y+c1 ・・・(1)
そして、図7に示すように、自車両の推定進行経路に相当する2次元道路モデルの中心7aを算出する。
【0019】
次に、後述するように2次元道路モデルの中心7aに向かう速度成分を持つ画素を抽出する。そして、抽出した画素の内、同じ速度成分を持つ画素をグルーピングして個別の物体として検出する。まず、図7に示すように速度画像上に所定の範囲を含む領域、例えば縦1画素、横3画素の大きさの領域を下端検出用小領域7bとして設定し、下端検出用小領域7bを速度画像のy軸方向の下から上に走査する。そして、下端検出用小領域7b内に所定以上、例えば2以上の2次元道路モデルの中心7aに向かう同じ速度成分を持つ画素が存在(分布)する点を検出し、そのときに下端検出用小領域7bの下端に位置する画素を物体下端位置7cとして検出する。
【0020】
そして、物体下端位置7cからy軸方向に速度画像のヒストグラムを算出する。すなわち、物体下端位置7cからy軸方向に存在する2次元道路モデルの中心7aに向かう同じ速度成分を持つ画素のx軸方向の度数分布を表すヒストグラムを算出する。そして、このときの物体下端位置7cの座標値をyd、各y座標値における2次元道路モデルの中心7aに向かう同じ速度成分を持つ画素の度数をV(yi)としたときの、あらかじめ設定された歩行者Cの基準高さymの範囲における度数の和を次式(2)により算出する。
【数1】
【0021】
式(2)で算出した度数の和が、所定値T1以上であれば、当該2次元道路モデルの中心7aに向かう速度成分を持つ画素が分布している範囲内に2次元道路モデルの中心7aに向かう移動物体が存在すると判定する。そして、移動物体が存在すると判定した場合には、あらかじめ設定された歩行者Cの基準高さym以上となる位置で、かつy座標値における2次元道路モデルの中心7aに向かう速度成分を持つ画素の度数V(yi)が所定値T2未満となる直前の位置、例えば図8に符号8aで示す位置を移動物体が存在する上端位置、すなわち物体上端位置8aとして検出する。
【0022】
さらに、物体下端位置7cと物体上端位置8aとの間の範囲に対して、x軸方向に連続して存在する2次元道路モデルの中心7aに向かう同じ速度成分を持つ画素の最も外側の画素を通るy軸と平行な直線を引き、当該y軸に平行な直線と、物体下端位置7cおよび物体上端位置8aとで囲まれる範囲を移動物体が存在する範囲(物体存在範囲)8bとして特定する。これによって、速度画像5a上において、2次元道路モデルの中心7aに向かう同じ速度成分を持つ画素をグルーピングして、側方から2次元道路モデルの中心7aに向かって移動している歩行者Cを含む物体存在範囲8b検出することができる。
【0023】
上述した処理で検出した速度画像5a上の走路端A、B、および物体存在範囲8bの位置を、実空間上の位置に変換する。このとき、本実施の形態では、自車両の走行中に発生するピッチングを考慮に入れて、以下に説明するように実空間上の位置に変換する。
【0024】
例えば、自車両がピッチングによって沈み込む方向、すなわち下方向に移動している間は、カメラ101の視軸向きは図2に示した路面に水平な状態よりも下向きになる。よってこの場合は、図9に示すように速度画像5a上の時刻tにおける走路端AおよびBの位置から時刻t+1における走路端AおよびBの位置へ上方向に移動する。これによって、走路端Aを示す斜線は速度画像5a上で右方向へ移動するように速度成分が検出され、走路端Bを示す斜線は速度画像5a上で左方向へ移動するように速度成分が検出される。
【0025】
一方、自車両がピッチングによって浮き上がる方向、すなわち上方向に移動している間は、カメラ101の視軸向きは図2に示した路面に水平な状態よりも上向きになることから、ピッチングに伴って速度画像5a上の走路端AおよびBの位置は下方向に移動する。これによって、走路端Aを示す斜線は速度画像5a上で左方向へ移動するように速度成分が検出され、走路端Bを示す斜線は速度画像5a上で右方向へ移動するように速度成分が検出される。
【0026】
以上の点を考慮して、走路端AおよびBを示す斜線の画像上における速度の方向が変化する点をピッチングの平衡点、すなわちカメラ101の視軸向きが路面と水平な点であると判断する。そして、このピッチングの平衡点における速度画像5aにおいては、上述したようにカメラ101の視軸向きが路面と水平であることから、走路端AおよびB上に任意に設定した代表点の座標値とカメラ101のカメラパラメータとに基づいて、三角測量により代表点の3次元座標値を算出することが可能となる。
【0027】
よって、図10に示すように速度画像5a上の走路端AおよびBに任意の代表点10aおよび10bを設定し、この代表点の座標値とカメラ101のカメラパラメータとに基づいて、三角測量により代表点の3次元座標値を算出する。そして、この代表点の3次元座標値に基づいて、走路端AおよびBを示す斜線の位置を実空間上の位置に変換して、3次元道路モデル、すなわち実空間道路モデルを算出する。これによって、2次元道路モデルで表した走路端AおよびBの位置を実空間上の3次元道路モデルに変換することができる。
【0028】
また、速度画像5a上における物体存在範囲8b上に設定した物体中心点10cの座標値と、カメラ101のカメラパラメータとに基づいて、物体存在範囲8bに含まれる歩行者Cの実空間上における位置を算出する。これによって、速度画像5a上の歩行者Cの位置を実空間上の位置に変換することができる。そして、実空間上における走路端A、B、および歩行者Cの位置関係に基づいて、自車両から歩行者Cまでの距離、および歩行者Cから走路端までの距離を算出する。なお、自車両から歩行者Cまでの距離は、自車両から歩行者Cまでの直線距離ではなく、自車両から歩行者Cの存在位置に相当する車線上の位置である。
【0029】
一方、ピッチングの平衡点ではない速度画像5aにおいては、上述したようにカメラ101の視軸向きが路面と水平でないことから、ピッチングの平衡点における速度画像5aにおいて変換した走路端A、B、および歩行者Cの実空間上の位置と、ピッチングの平衡点における速度画像5aと現在の速度画像5aとの撮像時間間隔とに基づいて、それぞれの実空間上における位置を推定する。そして、推定した実空間上における走路端A、B、および歩行者Cの位置関係に基づいて、自車両から歩行者Cまでの距離、および歩行者Cから走路端までの距離を推定する。
【0030】
そして、走路端AおよびBと、歩行者Cとの実空間上における位置関係に基づいて、自車両と歩行者Cとの接触危険度を以下の(1)〜(3)の3段階のレベルで判定する。
(1)レベル3
走路端と歩行者Cとの実空間上における位置関係から、自車両と歩行者Cとの衝突危険度が最も高いと判定される場合に、接触危険度はレベル3であると判定する。すなわち、図11に示すように、歩行者Cが符号11aに示す左右両側に存在する走路端の内側、すなわち自車両11dが走行中の車線内を移動しているときは、自車両11dと歩行者Cとの衝突危険度はレベル3であると判定する。
【0031】
(2)レベル2
走路端と歩行者Cとの実空間上における位置関係から、自車両と歩行者Cとの衝突危険度がレベル3ほどは高くないが、なお衝突の可能性があると判定される場合に、接触危険度はレベル2であると判定する。具体的には、歩行者Cが符号11bに示す範囲、すなわち走路端の外側、かつ走路端から歩行者Cまでの距離がx0(m)以内の範囲を走路端に向かって移動しているときは、自車両11dと歩行者Cとの衝突危険度はレベル2であると判定する。なお、上述した距離x0(m)は、上述した処理で検出した歩行者Cの移動速度、および自車両11dから歩行者Cまでの距離と、車速センサ107で検出した自車両の車速とに基づいて算出される。
【0032】
(3)レベル1
走路端と歩行者Cとの実空間上における位置関係から、自車両と歩行者Cとが衝突する危険がないと判定される場合に、接触危険度はレベル1であると判定する。具体的には、歩行者Cが符号11cに示す範囲、すなわち走路端からx0(m)より外側の範囲を移動しているときは、自車両11dと歩行者Cとの衝突危険度はレベル1であると判定する。なお、衝突危険度の判定結果がレベル1である場合には、自車両と歩行者Cとは衝突の危険がないことから、後述する衝突を回避するための車両制御は行わない。
【0033】
また、衝突の危険度は、自車両から歩行者Cまでの距離によっても変化するため、自車両から歩行者Cまでの距離を次式(3)〜(5)で算出される距離で分類し、この分類結果に基づいて、後述するように自車両と歩行者Cとの衝突を回避するための車両制御を行う。なお、次式(3)〜(5)において、Vは自車両11dの車速、gは重力加速度、z0は歩行者Cの存在位置に相当する車線上の位置から目標停止ラインまでの距離11eである。
z3=(1/2)*(V2*0.5g)+V*2+z0 ・・・(3)
z2=(1/2)*(V2*0.5g)+V*1+z0 ・・・(4)
z1=(1/2)*(V2*0.6g)+z0 ・・・(5)
【0034】
上述した処理で判定した衝突危険度と、式(3)〜(5)により分類した自車両から歩行者Cまでの距離とに基づいて、以下の(A)〜(C)の3つの制御モードによって歩行者Cとの衝突を回避するための車両制御を行う。
【0035】
(A)注意
衝突危険度がレベル3であり、かつ自車両から歩行者Cまでの距離がz2より長くz3以下である場合に制御モードを「注意」とする。制御モードが「注意」の場合は、スピーカー105を介して注意音を出力することによって、運転者に対して自車両前方に衝突の危険がある移動物体が存在することを報知する。
【0036】
(B)警告
衝突危険度がレベル2の場合、および衝突危険度がレベル3であり、かつ自車両から歩行者Cまでの距離がz2以下である場合に制御モードを「警告」とする。制御モードが「警告」の場合は、ピーカー105を介して警告音を出力することによって、運転者に対して自車両前方に衝突の危険性が高い移動物体が存在することを警告する。なお、警告音は、(A)で上述した「注意」における注意音と運転者が識別可能なように、例えば注意音よりも警告音の音量を大きくしたり、注意音と警告音のリズムを変更したりする。
【0037】
(C)自動ブレーキ
衝突危険度はレベル3であり、かつ自車両から歩行者Cまでの距離がz1以下である場合に、制御モードを「自動ブレーキ」とする。制御モードが「自動ブレーキ」の場合は、自動ブレーキ装置106を制御して、自車両を強制的に制動する。すなわち、歩行者Cとの衝突危険視が極めて高い場合には、運転者が上述した注意音や警告音を認知してから制動動作に入っても間に合わない可能性がある。よって、このような場合には、自動ブレーキ装置106を制御して自車両を強制的に停止させる。なお、制御モードを「自動ブレーキ」としたときは、同時に「警告」も行う。
【0038】
図12は、第1の実施の形態における物体検出装置100の処理を示すフローチャートである。図12に示す処理は車両のイグニションスイッチがオンされて、物体検出装置100の電源がオンされると、制御装置103によって起動されるプログラムとして実行される。ステップS1において、カメラ101で撮像された自車両前方の画像3aを画像メモリ102から取り込む。その後、ステップS2へ進み、画像3aに対してエッジ抽出処理を行って、撮像画像3a内に存在する物体の輪郭を抽出したエッジ画像を生成し、ステップS3へ進む。ステップS3では、上述したように各画素に含まれるエッジの速度情報を算出し、算出した速度情報を所定の階調値に変換した速度画像を算出する。その後、ステップS4へ進む。
【0039】
ステップS4では、算出した速度画像上に境界線検出用領域を設定して、ステップS5へ進む。ステップS5では、境界線検出用領域内に速度成分を有する画素が斜線を構成するように斜めに並んでいるか否かを判断して斜線を検出する。その後、ステップS6へ進み、左右に対となる境界線検出用領域で検出された斜線が異なる方向の速度成分を有しているか否かを判定して、検出した斜線が走路端であるか否かを判定する。検出した斜線が走路端でないと判断した場合には、後述するステップS22へ進む。一方、検出した斜線が走路端であると判断した場合には、ステップS7へ進む。
【0040】
ステップS7では、上述したように2次元道路モデル、すなわち画像道路モデルを算出して、ステップS8へ進む。ステップS8では、2次元道路モデルの中心に向かう速度成分を持つ画素を抽出する。その後、ステップS9へ進み、抽出した画素の内、同じ速度成分を持つ画素をグルーピングして個別の物体として検出して、ステップS10へ進む。ステップS10では、抽出した画素のグルーピングが完了し、速度画像上に存在する全ての物体が検出されたか否かを判断する。速度画像上に存在する全ての物体が検出されたと判断した場合には、ステップS11へ進む。
【0041】
ステップS11では、走路端を示す斜線の画像上における速度方向の変化を検出してピッチングの平衡点であるか否かを判断する。ピッチングの平衡点であると判断した場合には、ステップS12へ進む。ステップS12では、走路端を示す斜線の位置を実空間上の位置に変換して、3次元道路モデルを算出する。その後、ステップS14に進み、実空間上における走路端と検出物体との相対的な位置関係、すなわち走路端と検出物体との距離、および自車両と検出物体との距離を算出して、後述するステップS16へ進む。
【0042】
一方、ピッチングの平衡点でないと判断した場合には、ステップS13へ進む。ステップS13では、上述したように、ピッチングの平衡点における速度画像と現在の速度画像との撮像時間間隔とに基づいて3次元道路モデルを推定し、ステップS15へ進む。ステップS15では、実空間上における走路端と検出物体との相対的な位置関係、すなわち走路端と検出物体との距離、および自車両と検出物体との距離を推定して、ステップS16へ進む。
【0043】
ステップS16では、走路端と、検出物体との実空間上における位置関係に基づいて、自車両と検出物体との接触危険度が上述したレベル1〜レベル3のいずれであるかを判定する。接触危険度がレベル1であると判定した場合には、自車両と検出物体とは衝突の危険がないことから、衝突を回避するための車両制御は行わず、後述するステップS22へ進む。これに対して、接触危険度がレベル2または3であると判定した場合には、ステップS17へ進む。ステップS17では、自車両から検出物体までの距離に基づいて、衝突を回避するための車両制御のモードを判定する。
【0044】
制御モードが上述した「注意」である場合には、ステップS19へ進み、スピーカー105を介して注意音を出力して、後述するステップS22へ進む。これに対して、制御モードが「警告」、または「自動ブレーキ」である場合には、ステップS18へ進み、スピーカー105を介して警告音を出力して、ステップS20へ進む。ステップS20では、制御モードが「自動ブレーキ」であるか否かを判定する。制御モードが「自動ブレーキ」でない場合には、後述するステップS22へ進む。一方、制御モードが「自動ブレーキ」である場合には、ステップS21へ進む。
【0045】
ステップS21では、自動ブレーキ装置106を制御して、自車両を強制的に制動する。その後、ステップS22へ進む。ステップS22では、自車両のイグニションスイッチがオフされたか否かを判断し、オフされないと判断した場合には、ステップS1へ戻って処理を繰り返す。これに対して、自車両のイグニションスイッチがオフされたと判断した場合には、処理を終了する。
【0046】
以上説明した第1の実施の形態によれば、以下のような作用効果を得ることができる。
(1)カメラ101で撮像した画像に基づいて算出した速度画像上に境界線検出用領域を設定し、それぞれ左右に対となる境界線検出用領域で検出された斜線が異なる方向の速度成分を有している場合には、その左右に対となる境界線検出用領域内で検出した斜線は道路上の境界線、すなわち走路端であると判定することとした。これによって、カメラ101で撮像した画像に含まれる走路端は光軸と平行な直線成分のため、画像上では必ず斜線として撮像され、さらに斜線は速度が発生しやすいことを加味して、精度高く走路端を検出することができる。
【0047】
(2)走路端AおよびBを示す斜線の画像上における速度の方向が変化する点をピッチングの平衡点と判断するようにした。これによって、画像上における斜線の速度方向を計測するだけで,容易にピッチングの平衡点が検出できる。
【0048】
(3)ピッチングの平衡点における走路端AおよびBにおける代表点の座標値とカメラ101のカメラパラメータとに基づいて、三角測量により代表点の3次元座標値を算出するようにした。これによって、ピッチング平衡点ではカメラパラメータは取付時の初期状態とほぼ一致するため三角測量の測距の精度が高いことを加味して、精度高く3次元座標値を算出することができる。
【0049】
(4)走路端AおよびBと、歩行者Cとの実空間上における相対的な位置関係に基づいて、自車両と歩行者Cとの接触危険度を判定し、さらに自車両と歩行者Cとの距離を加味して歩行者Cとの衝突を回避するための車両制御を行うようにした。これによって、危険度を正確に判定することができ、さらに自車両と歩行者Cとの衝突を防止することができる。
【0050】
―第2の実施の形態―
第2の実施の形態では、第1の実施の形態で検出した自車両の両側に対で存在する走路端だけではなく、例えば複数車線道路における隣接する複数の車線の境界線や道路と建物の境界線などといった種々の道路上の境界線を検出する。
【0051】
なお、図1に示したブロック図、図2に示した車両へのカメラ101の設置例を示す図、および図4に示したエッジの正規化の例を示す図については、第1の実施の形態と同様のため説明を省略する。また、図7〜11で説明した、検出した走路端に基づいて2次元道路モデルの算出処理、および2次元道路モデルの中心に向かう物体を含む物体存在範囲の検出処理、3次元道路モデル上に変換した道路上の境界線と物体との位置関係に基づく危険度判定処理、および危険度判定結果に基づく車両制御または警告処理については、第1の実施の形態における処理と同様のため説明を省略する。
【0052】
図13は、第2の実施の形態におけるカメラ101で撮像した撮像画像の具体例を示す図である。撮像画像13aは、第1の実施の形態と同様に、画像左上を原点として左から右へx軸、上から下へy軸とするxy座標系(カメラ座標)によって表される。なお、図13に示す例では、撮像画像13aには、道路上の境界線として、走路脇に設置された縁石、白線、ガードレールなどの走路端DおよびEと、隣接する車線との境界線Fと、車両前方に存在する歩行者Gとが含まれている。
【0053】
この図13に示す撮像画像13aを第1の実施の形態と同様に画像処理して、図14に示すような速度画像14aを生成する。そして、この速度画像14a内の所定範囲を分割して得られる複数の境界線検出用領域を設定する。すなわち、図15に示すように、自車両前方の所定範囲、例えば、実空間上における自車両からの距離が20m〜60mの範囲を、画像の縦方向(y軸方向)に所定の高さを有する複数領域に6分割する。そして、この縦方向に分割した各領域を画像の横方向に等間隔に分割することによって、画像上の自車両前方の所定範囲に相当する範囲内に複数の境界線検出用領域15aを設定することができる。
【0054】
このように設定したそれぞれの境界線検出領域15aを、さらに所定の大きさを有する小領域に分割する。本実施の形態では、例えば、各境界線検出領域15a内を64等分した小領域に分割する。これによって、各境界線検出領域15aは、8×8の小領域によって構成されるようになる。そして、分割して得られる各小領域ごとに、速度画像14a内に存在する道路上の境界線の候補を検出する。
【0055】
ここで、走路端などの道路上の境界線は、第1の実施の形態と同様に、速度画像14a上では斜線として検出されることを加味して、各小領域内で斜線を構成するように斜めに並んでいる速度成分を有する画素を検出することによって、各小領域内における斜線の候補、すなわち道路上の境界線の候補を検出する。
【0056】
まず、各小領域内に存在する任意の画素を注目画素として、その注目画素が、斜め方向に隣接する近傍画素と斜線を構成するか否かを判定する。よって、注目画素と斜めに直線を構成する近傍画素が、それぞれ速度成分を有しているかを判定するために、着目画素に対して、例えば、図16(b)に示す斜線候補検出用の空間フィルタを適用する。このとき、空間フィルタの中心16aが着目画素と一致するように、空間フィルタを適用する。
【0057】
なお、速度画像14a内においては、一般的に自車両の右側に存在する道路上の境界線は、走路端Eや隣接する車線との境界線Fのように左上がりの斜線として撮像され、自車両の左側に存在する道路上の境界線は、走路端Dのように右上がりの斜線として撮像される。よって、速度画像14aの右側半分の範囲内に存在する着目画素に対しては左上がりの斜線を検出するための空間フィルタ、すなわち図16(b)に示す空間フィルタを適用し、速度画像14aの左側半分の範囲内に存在する着目画素に対しては、右上がりの斜線を検出するための空間フィルタ、すなわち図16(b)に示す空間フィルタを左右に反転させたもの適用する。
【0058】
このように、着目画素に対して空間フィルタを適用した結果、着目画素と、その斜め上方の画素、および斜め下方の画素の少なくともいずれか一方とが、それぞれ速度成分を有していると判定した場合には、当該着目画素を斜線を構成する点の候補、すなわち候補点として検出する。この処理を小領域内の全ての画素に対して行い、小領域内から全ての候補点を検出する。そして、小領域内で、3点以上の候補点が小領域内で斜線を構成するように斜めに並んでおり、かつこれらの候補点を結んだ直線が、次に説明する傾き条件を満たしている場合には、これらの候補点を結んだ直線、すなわち斜線を道路上の境界線の候補(境界線候補)として検出する。
【0059】
ここで、境界線候補を検出するための傾き条件について説明する。一般的に、速度画像14a内の自車両から見た左右のいずれか片方の方向、すなわち右側、または左側に、複数の道路上の境界線が存在する場合には、それぞれの境界線の傾きは、自車両に近い境界線の傾きの方が、自車両から遠い境界線の傾きよりも大きくなる。換言すれば、自車両に近い境界線の方が、自車両から遠い境界線よりもx軸とのなす角が大きくなる。例えば、図14に示す例では、自車両の右側に存在する走路端Eの傾きは、隣接する車線との境界線Fの傾きよりも大きくなる。
【0060】
よって、このことを加味して、上述した処理で検出した候補点を結んだ直線が境界線候補であるか否かを次のように判断する。例えば、図16(a)に示すように、小領域16b内から候補点を結んだ直線が検出された場合には、自車両から見た同じ側で、かつ同じ高さ位置に存在する他の小領域内から候補点を結んだ直線が検出されているか否かを判定する。その結果、もし小領域16bと自車両から見た同じ側で、かつ同じ高さ位置に存在する他の小領域内から候補点を結んだ直線が検出されていないと判定した場合には、小領域16bに存在する候補点を結んだ直線を境界線候補として検出する。
【0061】
これに対して、小領域16bと自車両から見た同じ側で、かつ同じ高さ位置に存在する他の小領域、例えば小領域16cから候補点を結んだ直線が検出されている場合には、それぞれの小領域内で検出された候補点を結んだ直線の傾きを比較して、自車両に近い直線の傾きの方が、自車両から遠い方の直線の傾きよりも大きいか否かを判定する。そして、自車両に近い方の直線の傾きの方が、自車両から遠い直線の傾きよりも大きいと判定した場合には、いずれも道路の境界線の一部を構成する境界線候補として検出する。一方、自車両に近い方の直線の傾きの方が、自車両から遠い方の直線の傾きよりも小さいと判定した場合には、いずれも境界線候補から除外する。
【0062】
このように検出したそれぞれの境界線候補の、速度画像14a上における縦方向、すなわち上下方向の斜線としての連続性を判定し、複数の境界線候補で連続性が確認された場合には、それらの境界線候補を結んだ直線を、道路上の境界線として検出する。これによって、図17に示すように、速度画像14a内から、道路上の境界線D、E、およびFを検出することができる。
【0063】
図18は、第2の実施の形態における物体検出装置100の処理を示すフローチャートである。図18に示す処理は、車両のイグニションスイッチがオンされて、物体検出装置100の電源がオンされると、制御装置103によって起動されるプログラムとして実行される。なお、図18においては、図12に示す第1の実施の形態における処理と同一の処理内容については、同じステップ番号を付与し、相違点を中心に説明する。
【0064】
ステップS4−2において、上述したように速度画像14a上に複数の境界線検出用領域15aを設定して、それぞれの境界線検出領域15aを、さらに所定の大きさを有する小領域に分割する。その後、ステップS5−2へ進む。ステップS5−2では、各小領域内の着目画素に図16(b)で上述した空間フィルタを適用して候補点を検出した後、検出した3点以上の候補点が小領域内で斜線を構成するように斜めに並んでおり、かつこれらの候補点を結んだ直線が上述した傾き条件を満たしている場合には、これらの候補点を結んだ直線を境界線候補として検出する。
【0065】
その後、ステップS6−2へ進み、速度画像14a上で検出したそれぞれの境界線候補の、速度画像14a上における縦方向、すなわち上下方向の斜線としての連続性を判定した結果、それらの境界線候補を結んだ直線が道路上の境界線として検出されたか否かを判定する。そして、道路上の境界線が検出されたと判断した場合にはステップS7へ進み、検出されないと判断した場合にはステップS22へ進む。
【0066】
以上説明した第2の実施の形態によれば、速度画像14a内の所定範囲内、例えば実空間上における自車両からの距離が20m〜60mの範囲内に複数の境界線検出用領域を設定して、それぞれの境界線検出用領域ごとに斜線の候補を検出して、道路上の境界線を検出するようにした。このため、第1の実施の形態による効果に加えて、自車両の両側に対で存在する走路端だけではなく、例えば複数車線道路における隣接する複数の車線の境界線や道路と建物の境界線などといった種々の境界線を道路上の境界線として検出することができる。
【0067】
上述した実施の形態における物体検出装置100は、以下のように変形することもできる。
(1)上述した第1および第2の実施の形態では、撮像画像に対してエッジ抽出処理を行ってエッジ画像を得た後、エッジが存在する画素の画素カウンタを更新していき、当該画素カウンタのカウント値に基づいて画像上の各画素におけるエッジの速度成分を算出する例について説明した。しかし、これに限定されず、例えば一般的な手法である勾配法やブロックマッチングを用いてオプティカルフローを算出してもよい。
【0068】
(2)上述した第1および第2の実施の形態では、図5に示す階級値を使用して速度画像5aを算出する例について説明した。しかし、これに限定されず、その他の階級値によって表される速度画像を算出してもよい。
【0069】
(3)上述した第1および第2の実施の形態では、本発明による物体検出装置100を車両に搭載する例について説明したが、これに限定されず、その他の移動体に搭載してもよい。
【0070】
(4)上述した第2の実施の形態では、速度画像14a内の所定範囲内、例えば実空間上における自車両からの距離が20m〜60mの範囲内に複数の境界線検出用領域を設定する例について説明した。しかしこれに限定されず、速度画像14a全体に境界線検出用領域を設定してもよく、あるいは道路上の境界が存在する可能性が高い範囲、例えば速度画像14aの左右の所定範囲内にのみ境界線検出用領域を設定してもよい。
【0071】
また、本発明の特徴的な機能を損なわない限り、本発明は、上述した実施の形態における構成に何ら限定されない。
【0072】
特許請求の範囲の構成要素と実施の形態との対応関係について説明する。カメラ101は撮像手段に、スピーカー105、および自動ブレーキ装置106は危険回避手段に相当する。制御装置103は速度情報算出手段、画素抽出手段、斜線検出手段、境界線検出手段、平衡点判定手段、物体検出手段、変換手段、および衝突危険度判定手段に相当する。なお、この対応は一例であり、実施の形態の構成によって対応関係は異なるものである。
【図面の簡単な説明】
【0073】
【図1】物体検出装置の一実施の形態の構成例を示すブロック図である。
【図2】カメラ101の車両への設置例を示す図である。
【図3】カメラ101で撮像した画像の具体例を示す図である。
【図4】抽出したエッジを正規化して、エッジ画像を得るために行う各処理の具体例を示す図である。
【図5】第1の実施の形態における速度画像の具体例を示す図である。
【図6】第1の実施の形態において、速度画像上に境界線検出用領域を設定した場合の具体例を示す図である。
【図7】2次元道路モデルの中心7aに向かう速度成分を持つ画素を抽出する場合の具体例を示す図である。
【図8】速度画像上において、2次元道路モデルの中心7aに向かう同じ速度成分を持つ画素をグルーピングして、2次元道路モデルの中心7aに向かって移動している歩行者Cを含む物体存在範囲8b検出する具体例を示す図である。
【図9】ピッチング発生時の速度画像上における斜線の移動方向を示す図である。
【図10】2次元道路モデルから3次元道路モデルへの変換を示す図である。
【図11】実空間上における自車両、走路端、検出物体の位置関係を示す図である。
【図12】第1の実施の形態における物体検出装置100の処理を示すフローチャート図である。
【図13】第2の実施の形態におけるカメラ101で撮像した撮像画像の具体例を示す図である。
【図14】第2の実施の形態における速度画像の具体例を示す図である。
【図15】第2の実施の形態において、速度画像上に境界線検出用領域を設定した場合の具体例を示す図である。
【図16】第2の実施の形態における斜線の候補の検出例、および空間フィルタの具体例を示す図である。
【図17】第2の実施の形態における道路上の境界線の検出例を示す図である。
【図18】第2の実施の形態における物体検出装置100の処理を示すフローチャート図である。
【符号の説明】
【0074】
100 物体検出装置
101 カメラ
102 画像メモリ
103 制御装置
104 カウンタメモリ
105 スピーカー
106 自動ブレーキ装置
107 車速センサ
【特許請求の範囲】
【請求項1】
撮像手段で撮像した自車両前方の画像を画像処理して、各画素の画像の速度情報を算出する速度情報算出手段と、
前記速度情報算出手段で算出した各画素の画像の速度情報に基づいて、速度成分を有する画素を抽出する画素抽出手段と、
前記画素抽出手段で抽出した速度成分を有する画素によって構成される斜線を検出する斜線検出手段と、
前記斜線検出手段で検出した斜線に基づいて、前記自車両前方の画像内に存在する道路上の境界線を検出する境界線検出手段とを備えることを特徴とする物体検出装置。
【請求項2】
請求項1に記載の物体検出装置において、
前記境界線検出手段は、前記斜線検出手段で検出した斜線が自車両前方の画像上で左右対称に位置し、それぞれの速度方向が異なる場合には、これらの斜線は自車両が走行中の走路の走路端であると判定することを特徴とする物体検出装置。
【請求項3】
請求項1に記載の物体検出装置において、
前記境界線検出手段は、前記斜線検出手段によって複数の斜線が検出された場合には、前記自車両前方の画像の中心から外側にいくにつれて斜線の傾きが小さくなる場合に、これらの斜線を前記道路上の境界線として検出することを特徴とする物体検出装置。
【請求項4】
請求項1〜3のいずれか一項に記載の物体検出装置において、
前記斜線検出手段で検出した斜線の速度方向が変化する変化点を検出して、当該変化点を自車両の走行中に発生したピッチングの平衡点であると判定する平衡点判定手段をさらに備えることを特徴とする物体検出装置。
【請求項5】
請求項4に記載の物体検出装置において、
前記画素抽出手段で抽出した画素のうち、自車両の推定進行経路に側方から向かう速度情報を有する画素をグルーピングして、前記自車両の推定進行先に接近してくる移動物体を検出する物体検出手段と、
前記平衡点判定手段でピッチングの平衡点であると判定された自車両前方の画像において、前記境界線検出手段で前記道路上の境界線であると判定された斜線、および前記物体検出手段で検出された前記移動物体を実空間道路モデル上に変換して配置する変換手段と、
前記変換手段で実空間道路モデル上に配置した前記道路上の境界線および前記移動物体と、自車両との位置関係に基づいて、自車両と前記移動物体との衝突危険度を判定する衝突危険度判定手段とをさらに備えることを特徴とする物体検出装置。
【請求項6】
請求項5に記載の物体検出装置において、
前記衝突危険度判定手段は、自車両と前記移動物体との衝突危険度をその危険度の高さに応じた複数の危険度レベルに分類して判定し、
前記衝突危険度判定手段で判定された危険度レベルに応じて、自車両と前記移動物体との衝突を回避するように車両を制御する危険回避手段をさらに備えることを特徴とする物体検出装置。
【請求項7】
撮像手段で撮像した自車両前方の画像を画像処理して、各画素の画像の速度情報を算出し、
算出した各画素の画像の速度情報に基づいて、速度成分を有する画素を抽出し、
抽出した速度成分を有する画素によって構成される斜線を検出し、
検出した斜線に基づいて、前記自車両前方の画像内に存在する道路上の境界線を検出することを特徴とする物体検出装方法。
【請求項1】
撮像手段で撮像した自車両前方の画像を画像処理して、各画素の画像の速度情報を算出する速度情報算出手段と、
前記速度情報算出手段で算出した各画素の画像の速度情報に基づいて、速度成分を有する画素を抽出する画素抽出手段と、
前記画素抽出手段で抽出した速度成分を有する画素によって構成される斜線を検出する斜線検出手段と、
前記斜線検出手段で検出した斜線に基づいて、前記自車両前方の画像内に存在する道路上の境界線を検出する境界線検出手段とを備えることを特徴とする物体検出装置。
【請求項2】
請求項1に記載の物体検出装置において、
前記境界線検出手段は、前記斜線検出手段で検出した斜線が自車両前方の画像上で左右対称に位置し、それぞれの速度方向が異なる場合には、これらの斜線は自車両が走行中の走路の走路端であると判定することを特徴とする物体検出装置。
【請求項3】
請求項1に記載の物体検出装置において、
前記境界線検出手段は、前記斜線検出手段によって複数の斜線が検出された場合には、前記自車両前方の画像の中心から外側にいくにつれて斜線の傾きが小さくなる場合に、これらの斜線を前記道路上の境界線として検出することを特徴とする物体検出装置。
【請求項4】
請求項1〜3のいずれか一項に記載の物体検出装置において、
前記斜線検出手段で検出した斜線の速度方向が変化する変化点を検出して、当該変化点を自車両の走行中に発生したピッチングの平衡点であると判定する平衡点判定手段をさらに備えることを特徴とする物体検出装置。
【請求項5】
請求項4に記載の物体検出装置において、
前記画素抽出手段で抽出した画素のうち、自車両の推定進行経路に側方から向かう速度情報を有する画素をグルーピングして、前記自車両の推定進行先に接近してくる移動物体を検出する物体検出手段と、
前記平衡点判定手段でピッチングの平衡点であると判定された自車両前方の画像において、前記境界線検出手段で前記道路上の境界線であると判定された斜線、および前記物体検出手段で検出された前記移動物体を実空間道路モデル上に変換して配置する変換手段と、
前記変換手段で実空間道路モデル上に配置した前記道路上の境界線および前記移動物体と、自車両との位置関係に基づいて、自車両と前記移動物体との衝突危険度を判定する衝突危険度判定手段とをさらに備えることを特徴とする物体検出装置。
【請求項6】
請求項5に記載の物体検出装置において、
前記衝突危険度判定手段は、自車両と前記移動物体との衝突危険度をその危険度の高さに応じた複数の危険度レベルに分類して判定し、
前記衝突危険度判定手段で判定された危険度レベルに応じて、自車両と前記移動物体との衝突を回避するように車両を制御する危険回避手段をさらに備えることを特徴とする物体検出装置。
【請求項7】
撮像手段で撮像した自車両前方の画像を画像処理して、各画素の画像の速度情報を算出し、
算出した各画素の画像の速度情報に基づいて、速度成分を有する画素を抽出し、
抽出した速度成分を有する画素によって構成される斜線を検出し、
検出した斜線に基づいて、前記自車両前方の画像内に存在する道路上の境界線を検出することを特徴とする物体検出装方法。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【図18】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【図18】
【公開番号】特開2006−185406(P2006−185406A)
【公開日】平成18年7月13日(2006.7.13)
【国際特許分類】
【出願番号】特願2005−123494(P2005−123494)
【出願日】平成17年4月21日(2005.4.21)
【出願人】(000003997)日産自動車株式会社 (16,386)
【Fターム(参考)】
【公開日】平成18年7月13日(2006.7.13)
【国際特許分類】
【出願日】平成17年4月21日(2005.4.21)
【出願人】(000003997)日産自動車株式会社 (16,386)
【Fターム(参考)】
[ Back to top ]