説明

障害物認識方法及び障害物認識装置

【課題】撮像装置の自車前方の撮影画像から、自車の走行状態による誤認識なく、しかも、FOEを用いた画像処理を行なうことなく、自車前方の停止中の先行車等の静止状態の障害物を精度よく確実に認識する。
【解決手段】自車1に搭載された単眼カメラ2の自車前方の撮影画像の垂直エッジにつき、車幅方向のヒストグラムの各ピーク点のトラッキング画像を形成し、自車1の直進走行状態を検出したときに、トラッキング画像の全部または一部の2ピーク点の間隔の時間変化から各撮影画像側幅拡大率を算出し、自車速を時間積分した自車の走行距離と、自車から自車前方の静止状態の障害物までの間隔距離としての各候補距離それぞれとに基く演算から、候補距離毎に演算側幅拡大率を算出し、誤差が最小になる組み合わせの演算側幅拡大率の候補距離を前記間隔距離の測定距離に決定して障害物を認識する。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、自車に搭載された撮像装置の自車前方の撮影画像から、自車前方の停止中の先行車等の静止状態の障害物を認識し、さらには、その衝突可能性に基いて障害物接近を警報する障害物認識方法及び障害物認識装置に関するものである。
【背景技術】
【0002】
一般に、ACCと呼ばれる車両走行支援システム(Adaptive Cruise Control)等を搭載した車両においては、自車前方の先行車等の障害物への接近を警報したり、いわゆる被害軽減自動ブレーキ機能等を実現するため、単体のセンサとして、或いは、スキャン式レーダと組み合わせたセンサフュージョンの自車前方検出センサとして、車両(自車)に撮像装置が搭載される。
【0003】
なお、センサフュージョンのスキャン式レーダは、通常、レーザレーダ或いはミリ波レーダからなる。
【0004】
そして、前記撮像装置の時系列の撮影画像のエッジ画像につき、オプティカルフローを検出し、先行車等の自車前方の障害物を認識することが提案されている(例えば、特許文献1参照。)。
【0005】
また、前記のセンサフュージョンの場合、スキャン式レーダの探査及び撮像装置の撮影により自車前方の情報を得て衝突の可能性がある先行車等の自車前方の障害物を認識することが提案されている(例えば、特許文献2参照。)。
【0006】
なお、このセンサーフュージョンの障害物認識について、本出願人は、例えばレーザレーダの探査結果の反射点の位置と撮像装置の撮影画像のエッジ画像の矩形領域との照合から、自車前方の先行車を認識する認識方法を、既に出願している(特許文献3参照。)。
【0007】
そして、障害物への接近警報や被害軽減自動ブレーキの障害物認識等にあっては、安全性の向上を図る等の観点から、とくに、信号待ち等の何らかの理由で停止中の先行車等の自車前方の静止状態の障害物を確実に認識することが重要である。
【0008】
【特許文献1】特開平11−353565号公報(段落[0022]−[0025]、[0048]、図1)
【特許文献2】特開平7−182484号公報(段落[0006]−[0010]、図1)
【特許文献3】特開2003−84064号公報(段落[0025]、[0046]、図1)
【発明の開示】
【発明が解決しようとする課題】
【0009】
前記従来の撮像装置の撮影結果からの障害物認識の場合、自車が直進走行するものとして衝突の可能性を判断するため、カーブ路の走行や右左折、進路変更等によって自車が旋回運動するときに、自車前方の障害物の誤認識が生じ易く、この誤認識に基づき、不用意に自動ブレーキが動作してドライバ等に不快感を与える等の問題がある。
【0010】
一方、前記従来のセンサフュージョンの障害物認識の場合、スキャン式レーダがレーザレーダであれば、先行車等の障害物の後部左右両端のリフレクタが泥等で覆われていたりすると、障害物に接近してもレーザレーダが反射波を受信しなくなり、このとき、撮像装置が正常であっても、レーザレーダの探査結果が得られないことから、障害物を認識することができない。また、レーザレーダに代えてミリ波レーダを用いたとしても、何らかの原因でミリ波レーダが故障等すると、同様に探査結果が得られず、障害物を認識できない。
【0011】
つぎに、撮像装置の撮影結果から自車前方の障害物を認識する場合、いわゆる画像中心座標(画像中央の画像中心座標(FOE:Focus Of Expansion)を用いると、撮像装置の位置ずれ等に基づく座標のずれが認識精度を左右し、そのキャリブレーションが必要になるため、この種の障害物認識にあっては、FOEを用いる画像処理は極力行なわないことが好ましい。なお、FOEは画像内の無限遠点または消失点である。
【0012】
本発明は、撮像装置の自車前方の撮影画像から、自車の走行状態による誤認識なく、しかも、FOEを用いた画像処理を行なうことなく、自車前方の停止中の先行車等の静止状態の障害物を精度よく確実に認識し、さらには、その衝突可能性に基いて障害物接近を警報することを目的とする。
【課題を解決するための手段】
【0013】
上記した目的を達成するために、本発明の障害物認識方法は、自車に搭載された撮像装置により自車前方を撮影し、前記撮像装置の撮影画像の垂直エッジにつき、車幅方向のヒストグラムの各ピーク点を検出して該各ピーク点の軌跡のトラッキング画像を形成し、自車の旋回半径から自車の直進走行状態を検出したときに、前記トラッキング画像の全部または一部の2ピーク点の間隔の時間変化から、前記2ピーク点毎に撮影画像側幅拡大率を算出し、前記直進走行状態の検出により、自車速を時間積分して測定した自車の走行距離と
、自車から自車前方の静止状態の障害物までの間隔距離として設定された複数個の候補距離それぞれとに基く演算から、前記候補距離毎に演算側幅拡大率を算出し、前記撮影画像側幅拡大率と前記演算側幅拡大率との誤差が最小になる組み合わせから、前記誤差が最小になる前記演算側幅拡大率を検出し、検出した前記演算側幅拡大率の前記候補距離を前記間隔距離の測定距離に決定して前記障害物を認識することを特徴としている(請求項1)。
【0014】
また、本発明の障害物認識方法は、誤差が最小になる撮影画像側幅拡大率と演算側幅拡大率との組み合わせが、設定時間連続してしきい値以下の最小の誤差になる同じ2ピーク点、候補距離の前記両幅拡大率の組合せであることを特徴とし(請求項2)、候補距離の自車速別の距離範囲を保持し、自車速に応じた距離範囲の各候補距離を選択して設定することも特徴とし(請求項3)、撮影画像の各2ピーク点間の水平エッジ含有率の多少から前記各2ピーク点間の障害物の有無を判別し、前記水平エッジ含有率が少ない2ピーク点を撮影画像側幅拡大率の計算から除外することも特徴としている(請求項4)。
【0015】
さらに、本発明の障害物認識方法は、決定した測定距離と自車速とから衝突予測時間を算出して自車前方の認識した障害物の衝突可能性を判定し、該判定に基いて障害物接近警報を指令することを特徴とし(請求項5)、撮像装置が単眼カメラであることも特徴としている(請求項6)。
【0016】
つぎに、本発明の障害物認識装置は、自車に搭載されて自車前方を撮影する撮像装置と、該撮像装置の撮影画像を処理して自車前方の静止状態の障害物を認識する画像処理認識部とを備え、前記画像処理認識部に、前記撮像装置の撮影画像の垂直エッジの車幅方向のヒストグラムを算出し、該ヒストグラムの各ピーク点を検出するエッジピーク点検出手段と、前記各ピーク点の軌跡のトラッキング画像を形成するトラッキング画像形成手段と、自車の旋回半径から自車の直進走行状態を検出する走行状態検出手段と、前記走行状態検出手段が前記直進走行状態を検出したときに、前記トラッキング画像の全部または一部の2ピーク点の間隔の時間変化から、前記2ピーク点毎に撮影画像側幅拡大率を算出する撮影画像側幅拡大率算出手段と、前記走行状態検出手段の前記直進走行状態の検出により、自車速を時間積分して測定した自車の走行距離と、自車から前記障害物までの間隔距離として設定された複数個の候補距離それぞれとに基く演算から、前記候補距離毎に演算側幅拡大率を算出する演算側幅拡大率算出手段と、前記撮影画像側幅拡大率と前記演算側幅拡大率との誤差が最小になる組み合わせから、前記誤差が最小になる前記演算側幅拡大率を検出する幅拡大率検出手段と、前記幅拡大率検出手段の検出に基き、前記誤差が最小になる前記演算側幅拡大率の前記候補距離を前記間隔距離の測定距離に決定して前記障害物を認識する距離決定認識手段とを設けたことを特徴としている(請求項7)。
【0017】
また、本発明の障害物認識装置は、幅拡大率検出手段の誤差が最小になる撮影画像側幅拡大率と演算側幅拡大率との組み合わせが、設定時間連続してしきい値以下の最小の誤差になる同じ2ピーク点、候補距離の前記両幅拡大率の組合せであることを特徴とし(請求項8)、演算側幅拡大率算出手段が、候補距離の自車速別の距離範囲を保持し、自車速に応じた距離範囲の各候補距離を選択して設定する候補距離設定機能を備えたことも特徴とし(請求項9)、撮影画像側幅拡大率算出手段が、撮影画像の各2ピーク点間の水平エッジ含有率の多少から前記各2ピーク点間の障害物の有無を判別し、前記水平エッジ含有率が少ない2ピーク点を撮影画像側幅拡大率の計算から除外するエラー処理機能を備えたことも特徴としている(請求項10)。
【0018】
さらに、本発明の障害物認識装置は、距離決定認識手段により決定された測定距離と自車速とから衝突予測時間を算出して自車前方の認識した障害物の衝突可能性を判定し、該判定に基いて障害物接近警報を指令する衝突判定警報手段を備えたことを特徴とし(請求項11)、撮像装置が単眼カメラであることも特徴としている(請求項12)。
【発明の効果】
【0019】
まず、請求項1、7の構成によれば、撮像装置の撮影画像につき、垂直エッジの車幅方向(水平方向)のヒストグラムの各ピーク点の時間変化の軌跡のトラッキング画像が形成され、このとき、先行車等の自車前方の障害物の垂直エッジのヒストグラムのピーク点の軌跡であれば、自車が障害物に近づくことによって撮影画像中の障害物が大きくなることから、そのピーク点の軌跡は車幅方向に広がる。
【0020】
つぎに、自車の旋回半径から自車が直進走行状態であって走行状態が認識に影響しないときに、前記トラッキング画像の全部または一部の2ピーク点の軌跡の車幅方向の広がりの時間変化から、自車前方の障害物が静止状態であるとして、2ピーク点毎に、障害物と自車との相対的な接近に基く障害物の横幅の拡大率が、撮影画像側幅拡大率として算出される。
【0021】
一方、障害物と自車との相対的な接近に基く障害物の横幅の拡大率は、撮像装置の被写体距離と、焦点距離とに基く幾何光学的な倍率演算からも求めることができ、被写体距離の変化に基く倍率変化が障害物の横幅の演算側拡大率である。
【0022】
そして、前記の被写体距離が自車から障害物までの間隔距離であるが、この距離が撮影画像からは分からないため、前記間隔距離としての複数個の候補距離が予め用意され、自車速を時間積分して測定した自車の走行距離と、前記の各候補距離それぞれとの組み合わせにより、候補距離毎に、候補距離と候補距離より測定した自車走行距離短い距離とをそれぞれ前記の間隔距離として、撮影倍率の変化が演算されて撮影画像の拡大率が求められ、この拡大率が演算側幅拡大率として算出される。
【0023】
このとき、算出した各撮影画像側幅拡大率と各演算側幅拡大率との誤差は、障害物の撮影画像側幅拡大率と、前記の間隔距離に最も近い候補距離の演算側幅拡大率との組合せのときに最小になる。
【0024】
そして、誤差が最小になる撮影画像側幅拡大率と演算側幅拡大率との組み合わせの検出に基き、その組合せの検出された演算側幅拡大率の候補距離が自車と障害物との間隔距離として検出され、この候補距離が前記の間隔距離の測定距離として決定されることにより、撮像装置の撮影画像、自車から静止状態の障害物までの距離が測定されて障害物が認識される。
【0025】
この場合、自車が直進走行状態であって走行状態が認識に影響しないときに限り、撮像措置の自車前方の撮影画像を画像処理して障害物の認識が行なわれ、その際、画像処理に撮影画像のFOEは用られず、撮像装置の位置ずれ等に基づく座標のキャリブレーション精度が認識に影響することもなく、撮像装置の自車前方の撮影画像から、先行車等の自車前方の障害物を精度よく確実に認識することができる。
【0026】
また、請求項2、8の構成によれば、設定時間連続してしきい値以下の最小の誤差になる同じ2ピーク点、候補距離の撮影画像側幅拡大率と演算側幅拡大率との組合せが出現し、その組合せの演算側幅拡大率の候補距離前方に障害物が存在するときにのみ、その組合せの演算側幅拡大率の候補距離が前記間隔距離の測定距離に決定され、障害物以外の認識対象外のものを確実に除外して、自車前方の障害物についてのみ自車からの距離を測定して認識することができ、認識精度が一層向上する。
【0027】
さらに、請求項3、9の構成によれば、候補距離の範囲を、自車速に応じて可変設定したため、とくに自車速が高速になっても候補距離の個数が増加せず、認識処理の高速化を図ることができ、しかも、候補距離を保持するメモリ等が小容量のものでよく、安価かつ小型の構成にすることができる。
【0028】
さらに、請求項4、10の構成によれば、撮影画像の水平エッジ含有率が少ない2ピーク点を撮影画像側幅拡大率の計算から除外したため、撮影画像の認識対象外のものを障害物として誤認識するおそれがほとんどなく、認識精度が一層向上する。
【0029】
さらに、請求項5、11の構成によれば、検出した演算側幅拡大率の候補距離を自車と障害物との間隔距離の測定距離に決定して障害物を認識したときに、決定した測定距離と自車速とから算出した衝突予測時間に基き、認識した障害物の衝突可能性が判定され、この判定に基き、衝突可能性が高ければ、障害物接近警報を指令して発生することができ、自車のドライバ等に、精度よく確実に衝突予測の注意喚起をすることができる。
【0030】
つぎに、請求項6、12の構成によれば、撮像装置を単眼カメラとしたため、いわゆるステレオカメラを搭載する場合等に比して小型かつ安価になり、一層小型かつ安価な構成で障害物の認識が行なえる利点がある。
【発明を実施するための最良の形態】
【0031】
つぎに、本発明をより詳細に説明するため、その実施形態について、図1〜図10にしたがって詳述する。
【0032】
図1は自車1に搭載された障害物認識装置のブロック図、図2は撮影画像、垂直エッジヒストグラムの時間変化の説明図、図3、図4はトラッキング画像の一例、他の例の説明図である。
【0033】
また、図5〜図7は演算側幅拡大率の算出の説明図、図8は演算側幅拡大率の算出の説明図、図9は演算側幅拡大率及び真の幅拡大率の時間変化の1例の特性図、図10は図1の処理説明用のフローチャートである。
【0034】
<構成>
そして、図1の障害物認識装置は、撮像装置として、小型かつ安価なモノクロCCDカメラ構成の単眼カメラ2を備え、この単眼カメラ2は自車1の車内前方に一定距離自車前方の路面を撮影するように取り付けられている。
【0035】
また、この障害物認識装置は、自車速を検出する車輪速センサ構成の車速センサ3及び、自車1の旋回状態を検出するためのヨーレートセンサ4、舵角センサ5等の自車状態検出用の各種センサ等も備える。
【0036】
そして、自車1のエンジン始動後、単眼カメラ2が自車前方を連続的に撮像して撮影画像の信号を画像処理認識部としてのマイクロコンピュータ構成の制御ECU6に出力する。
【0037】
この制御ECU6はメモリユニット7等に予め設定された障害物認識プログラムに基づき、単眼カメラ2の撮影画像に基づく自車前方の障害物の認識処理を実行し、画像処理認識部に設けられたつぎの(a)〜(i)の各手段を形成する。
【0038】
(a)エッジピーク点検出手段
この手段は、単眼カメラ2の毎フレームの撮影画像の垂直エッジの車幅方向(水平方向)のヒストグラムを算出し、このヒストグラムの各ピーク点を検出し、最新の一定期間の検出結果をメモリユニット7に書き換え自在に蓄積保持する。
【0039】
(b)トラッキング画像形成手段
この手段は、メモリーユニット7に保持された時系列のピーク点の検出結果に基き、各時刻のピーク点をプロットして、前記のヒストグラムの各ピーク点の軌跡のトラッキング画像を形成する。
【0040】
なお、自車走行環境において、自車前方の障害物やガードレール、道路標識等の非障害物に複数個の垂直エッジが存在することから、通常、垂直エッジのヒストグラムのピーク点及びその軌跡は複数個であり、また、障害物、非障害物の走行の有無等にしたがって軌跡の長さや方向(向き)等が異なる。
【0041】
(c)走行状態検出手段
この手段は、車速センサ3の自車速の検出及び、ヨーレートセンサ4、舵角センサ5のヨーレート、舵角の検出に基いて、時々刻々の自車1の推定自車旋回半径を演算して検出監視し、その旋回半径が予め設定された所定値以上であるときに自車1の直進走行状態を検出する。
【0042】
(d)撮影画像側幅拡大率算出手段
この手段は、走行状態検出手段が自車1の直進走行状態を検出し、自車1の走行状態が認識に影響を与えない状態であることを検出したときに、トラッキング画像の全部または一部の2ピーク点の間隔の時間変化から、2ピーク点毎に撮影画像側幅拡大率を算出する。
【0043】
そして、この実施形態の場合、算出の信頼性を向上するため、撮影画像側幅拡大率算出手段は、単眼カメラ2の毎フレームの撮影画像の各2ピーク点間の水平エッジ含有率の多少から、各2ピーク点間の障害物の有無を判別し、水平エッジ含有率が少ない2ピーク点を撮影画像側幅拡大率の計算から除外するエラー処理機能を備える。
【0044】
(e)演算側幅拡大率算出手段
この手段は、走行状態検出手段の直進走行状態の検出により、自車速を時間積分して測定した自車の走行距離と、自車から障害物までの間隔距離として設定された複数個の候補距離それぞれとに基く演算から、候補距離毎に演算側幅拡大率を算出する。
【0045】
そして、候補距離を予想される全車間距離範囲、例えば10〜50[m]の1[m]間隔の41個の各距離として、それらの距離毎に演算側幅拡大率を算出してもよいが、この実施形態の場合、処理の高速化及びメモリユニット7のメモリ容量の低減等を図るため、演算側幅拡大率算出手段は、自車速別の距離範囲の候補距離を保持し、前記の全車間距離範囲のうちの自車速に応じた範囲の各候補距離を選択して可変設定する候補距離設定機能を備え、選択した候補距離についてのみ演算側幅拡大率を算出する。
【0046】
具体的には、候補距離のパラメータをZ1*とすると、自車速別の距離範囲として、例えば、20[km/h]の自車速に対してZ1*=20〜30[m]、40[km/h]の自車速に対してZ1*=40〜50[m]、…をメモリユニット7に保持し、自車速が20[km/h]のときにはZ1*=20〜30[m]の距離範囲の選択に基き、例えば1[m]間隔のZ1*=20[m]、21[m]、22[m]、…、30[m]の候補距離を設定し、同様に、自車速が40[km/h]のときにはZ1*=40〜50[m]の距離範囲の選択に基き、例えば1[m]間隔のZ1*=40[m]、41[m]、42[m]、…、50[m]の候補距離を設定し、自車速の高速、低速にかかわらず、自車速に応じた11個の候補距離を設定する。
【0047】
この場合、例えば自車速が40[km/h]のときに、候補距離の距離範囲を、10〜50[m]でなく40〜50[m]とし、自車速に応じた候補距離の個数を20[km/h]のときと同様の11個に低減することができる。
【0048】
(f)幅拡大率検出手段
この手段は、撮影画像側幅拡大率と演算側幅拡大率との誤差が最小になる組み合わせから、この誤差が最小になる演算側幅拡大率を検出する。
【0049】
そして、この実施形態においては、検出精度を向上するため、幅拡大率検出手段の誤差が最小になる撮影画像側幅拡大率と演算側幅拡大率との組み合わせを、例えば1秒程度の設定時間連続してしきい値以下の最小の誤差になる同じ2ピーク点、候補距離についての組合せとし、突発的な変動等による誤認識を排除する。
【0050】
(g)距離決定認識手段
この手段は、幅拡大率検出手段の検出に基き、前記誤差が最小になる演算側幅拡大率の候補距離を、自車1から障害物までの間隔距離(車間距離)の測定距離に決定して障害物を認識する。
【0051】
(h)衝突判定警報手段
この手段は、距離決定認識手段により決定された測定距離と自車速とから衝突予測時間を算出して自車前方の認識した障害物の衝突可能性を判定し、この判定に基いて障害物接近警報を、図1の警報ユニット8に指令する。
【0052】
(i)自動ブレーキ制御手段
この手段は、自車1に自動ブレーキ制御を備える場合に設けられる手段であり、前記の障害物接近警報の指令に基き、図1のブレーキユニット9を自動ブレーキ制御する。
【0053】
このとき、警報ユニット8はブザー音やランプ点灯或いは音声出力やメッセージ表示等で障害物接近警報を発すると共に、自動ブレーキがかかったことをドライバ等に警報する。
【0054】
<処理(動作)>
つぎに、上記各手段による障害物認識の具体的な処理について説明する。
【0055】
まず、自車1の走行中に単眼カメラ2の毎フィールードの撮影画像Piが例えば図2に示すように時間変化し、自車1の走行によって、障害物である停止中の先行車10が相対的に自車1に接近するにしたがって撮影画像Piの先行車10が次第に大きくなる。
【0056】
なお、図2のt−6、t−5、t−4、t−3、t−2、t−1、tは撮影時刻を示し、Wは撮影画像のほぼ中央部分に予め設定された所定の大きさのROI領域を示す。
【0057】
そして、各時刻の撮影画像Piの少なくともROI領域Wの部分がエッジピーク点検出手段により加工され、この加工により、各撮影画像Piは輝度の垂直成分のエッジピーク点が検出されて微分二値化され、この微分二値化で形成された垂直成分の各ピーク点が車幅方向(水平方向)に加算されて図2の各ピーク点pの垂直ヒストグラムGが算出される。
【0058】
このとき、先行車10については車幅方向(水平方向)の両端部等の特徴部分に垂直の大きなピーク点pが発生し、しかも、それらのピーク点pの発生位置は、自車1が先行車10に接近することにより、時間経過にしたがって広がる方向に移動する。
【0059】
そして、トラッキング画像形成手段が各時刻のヒストグラムGの各ピーク点pを重ね、例えば、図3に示す各ピーク点pの軌跡のトラッキング画像Ptを形成する。
【0060】
図3は各ピーク点pを白色で示したトラッキング画像Ptの一例を示し、説明を簡単にするため、画像Ptはほぼ先行車10の左右両側端部のピーク点pの軌跡a、bのみを含み、両軌跡a、bは、間の経過にしたがって、換言すれば、先行車10が相対的に接近するにしたがって、ほぼ「ハ」の字状に車幅方向に広がるという特徴的な時間変化特性を示す。
【0061】
なお、時間軸を上向きにとれば、前記の「ハ」の字を上下逆さまにした状態で車幅方向に広がる軌跡になる。
【0062】
そして、実際には、先行車10の左右端部以外の各位所に垂直エッジのピーク点pが発生し、先行車10以外の路側の電信柱等にも同様の垂直エッジのピーク点が発生するため、トラッキング画像Ptは、例えば図4に白線状に示す多数のエッジピークの軌跡を含む。
【0063】
一方、走行状態検出手段が、センサ3〜5の検出に基いて算出した自車1の旋回半径(推定自車旋回半径)から、自車1がカーブ路の走行や右左折、進路変更等を行なっておらず、自車1の走行状態が認識に悪影響を及ぼさない直進走行状態であることを検出すると、この検出に基づいて撮影画像側幅拡大率算出手段、演算側幅拡大率算出手段が動作する。
【0064】
そして、撮影画像側幅拡大率算出手段は、つぎに説明するように動作する。
【0065】
すなわち、説明を簡単にするため、図5に示すように時刻Tの垂直エッジのエッジヒストグラムG(T)のピーク点p1(T)、…、p4(T)が、時刻T+1に垂直エッジのヒストグラムG(T+1)のピーク点p1(T+1)、…、p4(T+1)として検出され、これらの検出に基く図6の各ピーク点p1(T)〜p4(T+1)のトラッキングにより、図7に示すピーク点p1(p1(T)、p1(T+1))、…、p4(p4(T)、p4(T+1))のトラッキング画像Ptが得られたとすると、撮影画像側幅拡大率算出手段は、トラッキング画像Ptの各2ピーク点p1とp2、p1とp3、p1とp4、p2とp3、p2とp4、p3とp4につき、例えば、全ての組合せの時刻Tにおける間隔W12(T)、W13(T)、W14(T)、W23(T)、W24(T)、W34(T)と、時刻T+1における間隔W12(T+1)、W13(T+1)、W14(T+1)、W23(T+1)、W24(T+1)、W34(T+1)との比W12(T+1)/W12(T)、〜、W34(T+1)/W34(T)から、2ピーク点p1とp2、〜、p3とp4毎に時刻T、T+1間の撮影画像側幅拡大率Kimgを算出し、これらの処理を撮影画像Piが得られてトラッキング画像Ptが更新される毎にくり返す。
【0066】
ところで、この実施形態にあっては、先行車10等の障害物の画像は水平エッジも多く含み、路側の電柱等の障害物でないものの画像は水平エッジが少ないことから、エッジピーク点検出手段により撮影画像Piの水平エッジの垂直(縦)方向のヒストグラムのピーク点も検出し、撮影画像側幅拡大率算出手段にエラー処理機能を備える。
【0067】
そして、撮影画像側幅拡大率Kimgを算出する際、前記エラー処理機能により、各2ピーク点p1とp2、〜、p3とp4間の水平エッジ含有率の多少から各2ピーク点p1とp2、〜、p3とp4間の先行車10等の障害物の有無を判別し、水平エッジ含有率が少なく、障害物が存在しないと考えられる2ピーク点を撮影画像側幅拡大率Kimgの計算から除外し、処理の迅速化等を図る。
【0068】
なお、処理の一層の迅速化等を図るため、認識精度上問題がなければ、トラッキング画像Ptの各2ピーク点p1とp2、〜、p3とp4につき、全部の組合せについて撮影画像側幅拡大率Kimgを算出するのでなく、設定した選択条件等にしたがって選択した1組以上の一部の組合せについてのみ、撮影画像側幅拡大率Kimgを算出するようにしてもよい。
【0069】
つぎに、演算側幅拡大率算出手段は、つぎに説明する幾何光学的演算から演算側拡大率Kcalを算出する。
【0070】
図8は自車1が左から右に直進走行して停止中の先行車10に接近するときの時刻T、T+1の撮影光学状態を示す模式図であり、自車1の走行を上から見た平面図に相当する。
【0071】
そして、単眼カメラ2のレンズ位置を自車位置<o>、この位置<o>から微小な一定距離(焦点距離)f後方の撮影画像Piが得られる位置を撮像面位置<f>、自車前方の先行車10の後部の各ピークエッジpが発生する位置を障害物停止位置<a>とすると、前後する時刻T、T+1の撮影により、図5の矢印線の撮影光路等からも明らかなように、撮影の距離や画像の大きさが自車1の走行にしたがって変化する。
【0072】
なお、撮像面位置<f>の点q及び障害物停止位置<a>の点Qを通る線分が単眼カメラ2の光軸である。また、自車位置<o>、撮像面位置<f>は時間変化するが、障害物停止位置<a>は時間変化しない固定位置である。
【0073】
つぎに、自車1の走行方向をZ軸方向、車幅方向(水平方向)をX軸方向、高さ方向をY軸方向とする3次元XYZのワールド座標系において、時刻Tの自車位置<o>と障害物停止位置<a>との距離をZ、時刻T+1の自車位置<o>と障害物停止位置<a>との距離をZ1とすると、距離Z、Z1は時刻T、T+1のいわゆる車間距離であり、その差ΔZ(=Z−Z1)が時刻Tから時刻T+1の間の自車1の走行距離である。
【0074】
また、撮像面位置<f>の撮影座標系は、水平方向をx軸方向、高さ方向をy軸方向とする二次元のxy座標系であり、前記の各2ピーク点p1とp2、〜、p3とp4に相当する障害物停止位置<a>の2ピーク点p間の車幅方向(水平方向)の間隔Xが、車間距離Zの時刻Tに撮像面位置<f>に間隔xとして撮像され、それから微小時間後の車間距離Z1の時刻T+1に撮像面位置<f>に間隔x1として撮像されたとすると、図8からも明らかなように、時刻Tの間隔X、xにつき、つぎの(1)式が成り立つ。
【0075】
x=f(X/Z) (1)式
【0076】
同様に、時刻T+1の間隔X1、x1につき、つぎの(2)式が成り立つ。
【0077】
x1=f(X1/Z1) (2)式
【0078】
さらに、停止している先行車10に自車1が直進走行して接近する場合、X=X1、Z=Z1+ΔZであるから、撮影画面上での時刻T、T+1の先行車10の論理上の幅拡大率、すなわち演算側幅拡大率Kcal=x1/xは、時刻T〜時刻T+1の自車1の走行距離ΔZ及び時刻T+1の車間距離Z1が分かれば、つぎの数1の(3)式から算出して求めることができる。
【0079】
【数1】

【0080】
そして、走行距離ΔZは車速センサ3が検出する自車速を時間積分して測定することができるが、車間距離Z1は撮影画像上からは検出できないため、演算側幅拡大率算出手段は、車速センサ3が検出する自車速を時間積分して時刻T〜時刻T+1の自車1の走行距離ΔZを測定し、また、候補距離設定機能により、メモリユニット7に保持された候補距離の自車速別の距離範囲から、時刻T+1の自車速に応じた車間距離Z1の候補距離Z1*1の距離範囲、例えば、20〜30[m]を選択して可変設定し、例えば1m間隔の候補距離Z1*=20〜30[m]毎に、(3)式のΔZ、Z1を、測定した走行距離ΔZ、候補距離Z1*として、前記(3)式から演算側幅拡大率Kcalを算出し、この算出を撮影画像Piが得られてトラッキング画像Ptが更新される毎にくり返す。
【0081】
このとき、自車速に応じた車間距離Z1の候補距離Z1*の距離範囲を選択し、この距離範囲の候補距離Z1*についてのみ演算側幅拡大率Kcalを算出するため、全ての候補距離Z1*について算出する場合より短時間に迅速に算出が終了する。
【0082】
つぎに、実際の幅拡大率(真の幅拡大率)Ktrue、各候補距離Z1*の演算側幅拡大率Kcalは、例えば図9に示すように時間変化し、図中の実線trueは真の幅拡大率の時間変化特性線であり、実線a、b、c、dは、短い距離から順の選択された各時刻の候補距離Z1*=A[m]、A+1[m]、A+2[m]、A+3[m](Aは10、20、…の変数)を結んだ時間変化特性線である。
【0083】
そして、撮影画像側幅拡大率Kimgはほぼ真の幅拡大率Ktrueに等しく、撮影画像側幅拡大率Kimgとの誤差が最も小さくなる演算側幅拡大率Kcalの候補距離Z1*から車間距離Z1が求まる。
【0084】
そこで、幅拡大率検出手段により、例えば時刻T+1の各候補距離Z1*の演算側幅拡大率Kcalにつき、誤差が最小になる撮影画像側幅拡大率Kimgと演算側幅拡大率Kcalの組合せを検出し、距離決定認識手段により、その組合せの演算側幅拡大率Kcalの候補距離Z1*を車間距離Z1の測定距離に決定し、この決定をくり返すことにより、時々刻々変化する車間距離Z1を測定して先行車10を認識する。
【0085】
このとき、誤差が最小になる撮影画像側幅拡大率Kimgと演算側幅拡大率Kcalの組合せを過渡変動等による誤検出を防止して精度よく検出するため、この実施形態においては、前記幅拡大率検出手段により、予め前記誤差の検出のしきい値Errを設定し、例えば1〜数秒の設定期間連続してしきい値Err以下の最小値になる同じ2ピーク点p、候補距離Z1*の撮影画像側幅拡大率Kimgと演算側幅拡大率Kcalの組合せの誤差のみを、最小の誤差として検出し、距離決定認識手段により、その組合せの演算側幅拡大率Kcalの候補距離Z1*を車間距離Z1の測定距離に決定して先行車10を精度よく認識する。
【0086】
つぎに、距離決定認識手段の決定された測定距離と自車速とから、衝突判定警報手段により、自車1の先行車10に対する衝突予測時間を算出し、その衝突予測時間が設定した報知判定時間以下か否かによって衝突可能性を判定し、この判定に基き、衝突予測時間が設定した報知判定時間以下のときに障害物接近警報を警報ユニット8に指令し、この指令に基き、警報ユニット8によりブザー音、ランプ点灯或いは音声出力、メッセージ表示等によって自車1のドライバに障害物接近を警報する。
【0087】
また、自動ブレーキ制御手段を備えるこの実施形態の場合、算出した衝突予測時間と制御基準時間との比較結果に基く制御指令又は障害物接近警報に基き、前記の障害物接近の警報と同時にブレーキユニット9を自動ブレーキ制御し、自車1を減速停止する。
【0088】
そして、以上の処理は、制御ECU6により、例えば図10のステップS1〜S9のフローチャートに示す手順で行なわれる。
【0089】
すなわち、自車1の走行中に図10のステップS1において、走行状態判別手段により自車1が直進走行中か否かを判断し、直進走行状態のときに限りつぎのステップS2に進み、撮影画像Piが得られると、ステップS3に移行し、エッジピーク点検出手段により、その垂直、水平のエッジヒストグラム、ピーク点等を検出し、ステップS4により、トラッキング画像形成手段によって最新のトラッキング画像Ptを形成する。
【0090】
さらに、ステップS5に移行し、撮影画像側幅拡大率算出手段によって各2ピーク点p1とp2、〜、p3とp4毎に撮影画像側幅拡大率Kimgを算出し、ステップS6により、演算側幅拡大率算出手段によって候補距離Z1*毎に演算側幅拡大率Kcalを算出し、ステップS7により、幅拡大率検出手段によって誤差が最小になる撮影画像側幅拡大率Kimgと演算側幅拡大率Kcalの組合せを検出する。
【0091】
つぎに、ステップS8に移行し、距離決定認識手段により、前記誤差が最小になる組合せの演算側幅拡大率Kcalの候補距離Z1*を車間距離Z1の測定距離に決定して車間距離Z1を測定し、先行車10を認識し、ステップS9により、衝突判定警報手段、自動ブレーキ制御手段によって障害物接近の警報、自動ブレーキ制御を行なう。
【0092】
したがってこの実施形態の場合、自車1の走行状態による誤認識なく、しかも、FOEを用いた画像処理を行なうことなく、撮像装置としての安価で小型の単眼カメラ2の自車前方の撮影画像Piから、撮影画像側幅拡大率Kimg、演算側幅拡大率Kcalを算出し、単眼カメラ2の位置ずれ等に基づく座標のキャリブレーション精度の影響等なく、撮像装置の自車前方の撮影画像から、自車前方の停止中の先行車10等の静止状態の障害物を精度よく確実に認識することができ、さらに、その衝突可能性に基いて障害物接近を警報し、自車1のドライバ等に、誤警報を防止して、精度よく確実に衝突予測の注意喚起をすることができる。
【0093】
また、この警報の発生と同時に自動ブレーキ制御によって自車1を自動的に制動停止し、安全性を向上することができる。
【0094】
さらに、設定時間連続してしきい値以下の最小の誤差になる同じ2ピーク点、候補距離の撮影画像側幅拡大率Kimgと演算側幅拡大率Kcalとの組合せを検出し、その組合せの演算側幅拡大率Kcalの候補距離Z1*前方に障害物が存在するときにのみ、その候補距離Z1*を自車1から先行車10等の障害物までの前記間隔距離の測定距離に決定したため、障害物以外の認識対象外のものを確実に除外し、自車前方の障害物についてのみ自車1からの距離を測定して認識することができ、認識精度が一層向上する。
【0095】
また、候補距離Z1*の範囲を、自車速に応じて可変設定したため、とくに自車速が高速になっても候補距離の個数が増加せず、認識処理の高速化を図ることができ、しかも、候補距離Z1*を保持するメモリユニット7等が小容量のものでよく、安価かつ小型の構成にすることができる。
【0096】
その上、撮影画像Piの水平エッジ含有率が少ない2ピーク点を撮影画像側幅拡大率Kimgの計算から除外したため、撮影画像Piの認識対象外のものを障害物として誤認識するおそれがほとんどなく、認識精度を一層向上することができる。
【0097】
そして、本発明は上記した実施形態に限定されるものではなく、その趣旨を逸脱しない限りにおいて上述したもの以外に種々の変更を行うことが可能であり、例えば、前記実施形態では、自車1に自車前方検出センサとして単眼カメラ2のみを備え、このカメラ2の自車前方の撮影画像Piの画像処理のみによって先行車10等の障害物を認識する場合に適用したが、自車1に自車前方検出センサとして単眼カメラ2とレーサレーダ等のスキャン式レーダを備え、通常は、その両方の検出結果に基く前記のセンサフュージョンによって先行車10等の障害物を認識し、先行車等の障害物の後部左右両端のリフレクタが泥等で覆われていたりしてスキャン式レーダの検出が行なえないときに、単眼カメラ2の自車前方の撮影画像Piの画像処理のみによって先行車10等の障害物を認識するようにした場合に適用することもできる。
【0098】
この場合、単眼カメラ2の自車前方の撮影画像Piの画像処理のみによって先行車10等の障害物を認識するように切り換わったときに、前記実施形態と同様にして自車前方の障害物を認識等することにより、前記実施形態の場合と同様の効果を奏する。
【0099】
また、自車速に対する候補距離Z1*の範囲や個数等は、実験等によって適当に設定してよいのは勿論である。
【0100】
さらに、制御ECU6の各手段の構成、処理手順等が前記実施形態と異なっていてもよく、撮像装置は、CCDの単眼カメラに限られるものではなく、場合によっては、ステレオカメラであってもよい。
【0101】
そして、本発明の認識結果を、自動ブレーキ制御以外の車両の種々の走行制御に用いることができるのは勿論である。
【産業上の利用可能性】
【0102】
ところで、自車1の装備部品数を少なくするため、例えば図1の単眼カメラ2を追従走行制御等の他の制御のセンサに兼用する場合にも適用することができる。
【図面の簡単な説明】
【0103】
【図1】この発明の実施形態のブロック図である。
【図2】図1の撮影画像、垂直エッジヒストグラムの時間変化の説明図である。
【図3】図1のトラッキング画像の一例の説明図である。
【図4】図1のトラッキング画像の他の例の説明図である。
【図5】図1の垂直エッジヒストグラムの各ピーク点の時間変化の説明図である。
【図6】図5の各ピーク点のトラッキングの説明図である。
【図7】図6の各ピーク点の間隔の時間変化の説明図である。
【図8】図1の演算側幅拡大率の算出の説明図である。
【図9】図1の演算側幅拡大率及び真の幅拡大率の時間変化の1例の特性図である。
【図10】図1の処理説明用のフローチャートである。
【符号の説明】
【0104】
1 自車
2 単眼カメラ
6 制御ECU
10 先行車
Pi 撮影画像
Pt トラッキング画像
G ヒストグラム
p ピーク点

【特許請求の範囲】
【請求項1】
自車に搭載された撮像装置により自車前方を撮影し、
前記撮像装置の撮影画像の垂直エッジにつき、車幅方向のヒストグラムの各ピーク点を検出して該各ピーク点の軌跡のトラッキング画像を形成し、
自車の旋回半径から自車の直進走行状態を検出したときに、前記トラッキング画像の全部または一部の2ピーク点の間隔の時間変化から、前記2ピーク点毎に撮影画像側幅拡大率を算出し、
前記直進走行状態の検出により、自車速を時間積分して測定した自車の走行距離と、自車から自車前方の静止状態の障害物までの間隔距離として設定された複数個の候補距離それぞれとに基く演算から、前記候補距離毎に演算側幅拡大率を算出し、
誤差が最小になる前記撮影画像側幅拡大率と前記演算側幅拡大率との組み合わせを検出し、
検出した組合せの前記演算側幅拡大率の前記候補距離を前記間隔距離の測定距離に決定して前記障害物を認識することを特徴とする障害物認識方法。
【請求項2】
誤差が最小になる撮影画像側幅拡大率と演算側幅拡大率との組み合わせが、設定時間連続してしきい値以下の最小の誤差になる同じ2ピーク点、候補距離の前記両幅拡大率の組合せであることを特徴とする請求項1記載の障害物認識方法。
【請求項3】
候補距離の自車速別の距離範囲を保持し、自車速に応じた距離範囲の各候補距離を選択して設定することを特徴とする請求項1または2に記載の障害物認識方法。
【請求項4】
撮影画像の各2ピーク点間の水平エッジ含有率の多少から前記各2ピーク点間の障害物の有無を判別し、前記水平エッジ含有率が少ない2ピーク点を撮影画像側幅拡大率の計算から除外することを特徴とする請求項1〜3のいずれかに記載の障害物認識方法。
【請求項5】
決定した測定距離と自車速とから衝突予測時間を算出して自車前方の認識した障害物の衝突可能性を判定し、該判定に基いて障害物接近警報を指令することを特徴とする請求項1〜4のいずれかに記載の障害物認識方法。
【請求項6】
撮像装置が単眼カメラであることを特徴とする請求項1〜5のいずれかに記載の障害物認識方法。
【請求項7】
自車に搭載されて自車前方を撮影する撮像装置と、該撮像装置の撮影画像を処理して自車前方の静止状態の障害物を認識する画像処理認識部とを備え、
前記画像処理認識部に、
前記撮像装置の撮影画像の垂直エッジの車幅方向のヒストグラムを算出し、該ヒストグラムの各ピーク点を検出するエッジピーク点検出手段と、
前記各ピーク点の軌跡のトラッキング画像を形成するトラッキング画像形成手段と、
自車の旋回半径から自車の直進走行状態を検出する走行状態検出手段と、
前記走行状態検出手段が前記直進走行状態を検出したときに、前記トラッキング画像の全部または一部の2ピーク点の間隔の時間変化から、前記2ピーク点毎に撮影画像側幅拡大率を算出する撮影画像側幅拡大率算出手段と、
前記走行状態検出手段の前記直進走行状態の検出により、自車速を時間積分して測定した自車の走行距離と、自車から前記障害物までの間隔距離として設定された複数個の候補距離それぞれとに基く演算から、前記候補距離毎に演算側幅拡大率を算出する演算側幅拡大率算出手段と、
前記撮影画像側幅拡大率と前記演算側幅拡大率との誤差が最小になる組み合わせから、前記誤差が最小になる前記演算側幅拡大率を検出する幅拡大率検出手段と、
前記幅拡大率検出手段の検出に基き、前記誤差が最小になる前記演算側幅拡大率の前記候補距離を前記間隔距離の測定距離に決定して前記障害物を認識する距離決定認識手段とを設けたことを特徴とする障害物認識装置。
【請求項8】
幅拡大率検出手段の誤差が最小になる撮影画像側幅拡大率と演算側幅拡大率との組み合わせが、設定時間連続してしきい値以下の最小の誤差になる同じ2ピーク点、候補距離の前記両幅拡大率の組合せであることを特徴とする請求項7記載の障害物認識装置。
【請求項9】
演算側幅拡大率算出手段が、候補距離の自車速別の距離範囲を保持し、自車速に応じた距離範囲の各候補距離を選択して設定する候補距離設定機能を備えたことを特徴とする請求項7または8に記載の障害物認識装置。
【請求項10】
撮影画像側幅拡大率算出手段が、撮影画像の各2ピーク点間の水平エッジ含有率の多少から前記各2ピーク点間の障害物の有無を判別し、前記水平エッジ含有率が少ない2ピーク点を撮影画像側幅拡大率の計算から除外するエラー処理機能を備えたことを特徴とする請求項7〜9のいずれかに記載の障害物認識装置。
【請求項11】
距離決定認識手段により決定された測定距離と自車速とから衝突予測時間を算出して自車前方の認識した障害物の衝突可能性を判定し、該判定に基いて障害物接近警報を指令する衝突判定警報手段を備えたことを特徴とする請求項7〜10のいずれかに記載の障害物認識装置。
【請求項12】
撮像装置が単眼カメラであることを特徴とする請求項7〜11のいずれかに記載の障害物認識装置。

【図1】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7】
image rotate

【図8】
image rotate

【図9】
image rotate

【図10】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate


【公開番号】特開2006−40029(P2006−40029A)
【公開日】平成18年2月9日(2006.2.9)
【国際特許分類】
【出願番号】特願2004−220315(P2004−220315)
【出願日】平成16年7月28日(2004.7.28)
【出願人】(000002967)ダイハツ工業株式会社 (2,560)
【Fターム(参考)】