説明

障害物認識方法及び障害物認識装置

【課題】ミリ波レーダ等の探査結果を利用することなく、撮像装置の自車前方の撮影画像から自車前方の衝突の可能性がある停止中の先行車等の静止状態の障害物を、自車の走行状態による誤認識が生じないようにして、確実に認識する。
【解決手段】自車1に搭載された単眼カメラ(撮像装置)3の自車前方の撮影画像の垂直エッジのヒストグラムを算出し、このヒストグラムのピーク点の軌跡のトラッキング画像を形成し、自車1の旋回半径から自車1の直進走行状態を検出したときに限り、前記ピーク点の軌跡の車幅方向の広がりの時間変化特性から衝突予測時間を算出し、この衝突予測時間に基づいて自車前方の衝突可能性がある静止状態の障害物を認識する。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、自車に搭載された撮像装置の自車前方の撮影画像から、自車前方の停止中の先行車等の静止状態の障害物を認識する障害物検出方法及び障害物検出装置に関するものである。
【背景技術】
【0002】
一般に、ACCと呼ばれる車両走行支援システム(Adaptive Cruise Control)等を搭載した車両においては、いわゆる被害軽減自動ブレーキ機能等を実現するため、単体のセンサとして、或いは、スキャン式レーザレーダと組み合わせたセンサフュージョンの自車前方検出センサとして、車両(自車)に撮像装置が搭載される。
【0003】
そして、この撮像装置の時系列の撮影画像のエッジ画像につき、オプティカルフローを検出して先行車等の自車前方の障害物を認識することが提案されている(例えば、特許文献1参照。)。
【0004】
また、前記のセンサフュージョンの場合、レーザレーダの探査及び撮像装置の撮影により自車前方の情報を得て衝突の可能性がある先行車等の自車前方の障害物を認識することが提案されている(例えば、特許文献2参照。)。
【0005】
なお、このセンサーフュージョンの障害物認識について、本出願人は、例えばレーザレーダの探査結果の反射点の位置と撮像装置の撮影画像のエッジ画像の矩形領域との照合から、自車前方の先行車を認識する認識方法を、既に出願している(特許文献3参照。)。
【0006】
一方、この撮像装置の撮影画像の白線認識処理により、自車走行車線の隣の車線等との境界の白線(自車白線)を検出して認識することも提案されている(例えば、特許文献4参照。)。
【0007】
また、前記のスキャン式レーザレーダを搭載した場合、その反射波の受信と、自車速とに基き、自車前方の障害物までの相対距離、その障害物の相対速度等を検出することで、衝突の可能性がある障害物の認識が行なえることは、よく知られており、周知である。
【0008】
ところで、前記の障害物認識にあっては、安全性の向上を図る等の観点から、とくに、信号待ち等の何らかの理由で停止中の先行車等の自車前方の静止状態の障害物を確実に認識することが重要である。
【0009】
【特許文献1】特開平11−353565号公報(段落[0022]−[0025]、[0048]、図1)
【特許文献2】特開平7−182484号公報(段落[0006]−[0010]、図1)
【特許文献3】特開2003−84064号公報(段落[0025]、[0046]、図1)
【特許文献4】特開平9−91440号公報(段落[0009]、[0010]、図1)
【発明の開示】
【発明が解決しようとする課題】
【0010】
前記従来の各障害物認識の場合、自車に搭載した撮像装置の撮影画像から障害物を認識するときには、自車が直進走行するものとして衝突の可能性を判断するため、カーブ路の走行や右左折、進路変更等によって自車が旋回運動するときに、自車前方の障害物の誤認識が生じ易く、この誤認識に基づき、不用意に自動ブレーキが動作してドライバ等に不快感を与える等の問題がある。
【0011】
また、レーザレーダの探査結果も利用して衝突の可能性が高い障害物を認識する前記のセンサフュージョン等の場合は、レーザレーダが反射波を受信しなくなること等から、自車が旋回運動したときの自車前方の障害物の誤認識を低減し得るが、先行車等の障害物の後部左右両端のリフレクタが泥等で覆われていたり、始めからあるいは破損等によって無かったりすると、障害物に接近してもレーザレーダが反射波を受信せず、レーザレーダの探査からは障害物未検知状態のままになり、自車前方の衝突可能性がある障害物を確実に認識できない問題がある。
【0012】
この問題を解消するため、レーザレーダに代えてミリ波レーダを用いることが考えられるが、ミリ波レーダは高価であり、この種の障害物認識にミリ波レーダを用いることは、主にコストの面から実用的でない。
【0013】
本発明は、ミリ波レーダ等の探査結果を利用することなく、撮像装置の自車前方の撮影画像から自車前方の衝突の可能性がある停止中の先行車等の静止状態の障害物を、自車の走行状態による誤認識が生じないようにして、確実に認識することを目的とする。
【課題を解決するための手段】
【0014】
上記した目的を達成するために、本発明の障害物認識方法は、自車に搭載された撮像装置によって自車前方を撮影し、前記撮像装置の撮影画像の垂直エッジのヒストグラムを算出して該ヒストグラムのピーク点を検出し、前記ピーク点の軌跡のトラッキング画像を形成し、自車の旋回半径から自車が直進走行状態か否かを判別し、該判別に基づいて自車の直進走行状態を検出したときに限り、前記ピーク点の軌跡の車幅方向の広がりの時間変化特性から衝突予測時間を算出し、前記衝突予測時間に基づいて自車前方の衝突可能性がある静止状態の障害物を認識することを特徴としている(請求項1)。
【0015】
また、本発明の障害物認識方法は、垂直エッジのヒストグラムのピーク点の軌跡の位置と、白線認識処理によって検出した自車走行車線の白線の位置との比較に基づき、自車走行車線内に位置する有効なピーク点の軌跡を検出し、衝突予測時間を算出する時間変化特性を、少なくとも前記有効なピーク点の軌跡の車幅方向の広がりの時間変化特性に制限したことを特徴としている(請求項2)。
【0016】
さらに、本発明の障害物認識方法は、撮影画像に設定した処理領域内の垂直エッジの画像位置及びヒストグラムのピーク点の軌跡から、前記垂直エッジのワールド座標系での自車走行方向の距離、高さ及び車幅方向の位置の座標を算出し、算出した前記ワールド座標系の各座標から垂直エッジの画像位置を再変換して求め、衝突予測時間を算出する時間変化特性を、少なくとも前記再変換により求めた画像位置が前記処理領域内に位置する垂直エッジのヒストグラムのピーク点の軌跡の車幅方向の広がりの時間変化特性に制限したことも特徴とし(請求項3)、トラッキング画像の画像中心座標の軌跡の左、右両側に垂直エッジのヒストグラムのピーク点の軌跡が位置することを衝突予測時間の算出許可条件とし、前記衝突予測時間を算出する時間変化特性を、少なくとも前記両側のピーク点の軌跡の時間変化特性の平均特性に制限したことも特徴としている(請求項4)。
【0017】
また、本発明の障害物認識方法は、少なくとも撮影画像の垂直エッジのヒストグラムのピーク点が複数個であることを特徴とし(請求項5)、撮像装置が単眼カメラであることも特徴としている(請求項6)。
【0018】
つぎに、本発明の障害物認識装置は、自車に搭載されて自車前方を撮影する撮像装置と、該撮像装置の撮影画像を処理して自車前方の衝突可能性がある静止した障害物を認識する画像処理認識部とを備え、前記画像処理認識部に、前記撮像装置の撮影画像の垂直エッジのヒストグラムを算出して該ヒストグラムのピーク点を検出するエッジピーク点検出手段と、前記ピーク点の軌跡のトラッキング画像を形成するトラッキング画像形成手段と、自車の旋回半径から自車が直進走行状態か否かを判別する走行状態判別手段と、前記走行状態判別手段の判別に基づいて自車の直進走行状態を検出したときに限り、前記ピーク点の軌跡の車幅方向の広がりの時間変化特性から衝突予測時間を算出する衝突予測時間演算手段と、前記衝突予測時間に基づいて自車前方の衝突可能性がある静止状態の障害物を認識する認識処理手段とを設けたことを特徴としている(請求項7)。
【0019】
また、本発明の障害物認識装置は、画像処理認識部に、垂直エッジのヒストグラムのピーク点の軌跡の位置と、白線認識処理によって検出した自車走行車線の白線の位置との比較に基づき、自車走行車線内に位置する有効なピーク点の軌跡を検出する有効軌跡検出手段を設け、衝突予測時間演算手段により、衝突予測時間を算出する時間変化特性を、少なくとも前記有効な軌跡の車幅方向の広がりの時間変化特性に制限するようにしたことを特徴としている(請求項8)。
【0020】
さらに、本発明の障害物認識装置は、画像処理認識部に、撮影画像に設定した処理領域内の垂直エッジの画像位置及びヒストグラムのピーク点の軌跡から、前記垂直エッジのワールド座標系での自車走行方向の距離、高さ及び車幅の座標を算出し、算出した前記ワールド座標系の各座標から垂直エッジの画像位置を再変換して求める座標変換処理手段を設け、衝突予測時間演算手段により、前記衝突予測時間を算出する時間変化特性を、少なくとも前記再変換により求めた画像位置が前記処理領域内に位置する垂直エッジのヒストグラムのピーク点の軌跡の車幅方向の広がりの時間変化特性に制限するようにしたことも特徴とし(請求項9)、衝突予測時間演算手段により、トラッキング画像の画像中心座標の軌跡の左、右両側に垂直エッジのヒストグラムのピーク点の軌跡が位置することを衝突予測時間の算出許可条件とし、前記衝突予測時間を算出する時間変化特性を、少なくとも前記両側のピーク点の軌跡の時間変化特性の平均特性に制限するようにしたことも特徴としている(請求項10)。
【0021】
また、本発明の障害物認識装置は、少なくとも撮影画像の垂直エッジのヒストグラムのピーク点が複数個であることを特徴とし(請求項11)、撮像装置が単眼カメラであることも特徴としている(請求項12)。
【発明の効果】
【0022】
まず、請求項1、7の構成によれば、撮像装置の撮影画像につき、垂直エッジのヒストグラムのピーク点の時間変化の軌跡が検出されて、その軌跡のトラッキング画像が形成され、このとき、前記ピーク点の軌跡が障害物の垂直エッジのヒストグラムのピーク点の軌跡であれば、自車が障害物に近づくことによって撮影画像中の障害物が大きくなることから、その軌跡が車幅方向(水平方向)に広がる。
【0023】
そして、自車の旋回半径から自車が直進走行状態であることを検出したときに限り、前記ピーク点の軌跡の車幅方向の広がりの時間変化特性から、自車前方の障害物が静止状態であるとして、その障害物と自車との相対的な接近の速さを検出して衝突予測時間を算出することができ、この予測時間の大きさから、衝突の可能性がある静止状態の障害物が認識される。
【0024】
この場合、カーブ路の走行や右左折、進路変更等によって自車が旋回運動するときには、障害物の認識は行われず、ミリ波レーダ等の探査結果を利用しない安価な構成で、撮像装置の自車前方の撮影画像から自車前方の衝突の可能性がある停止中の先行車等の静止状態の障害物を、自車の走行状態による誤認識が生じないようにして確実に認識することができ、認識の信頼性が向上し、不用意に自動ブレーキが動作してドライバ等に不快感を与える等することがない。
【0025】
つぎに、請求項2、8の構成によれば、少なくとも垂直エッジのヒストグラムのピーク点のうちの自車走行車線内に位置する自車前方の障害物として有効なピーク点の軌跡についてのみ衝突予測時間を算出するようにしたため、自車走行車線外の不要な垂直エッジの前記ピーク点を省いて認識処理が行なえ、誤認識を一層確実に防止することができ、衝突の可能性がある静止状態の障害物を一層確実に認識することができ、認識の信頼性等が一層向上する。
【0026】
また、請求項3、9の構成によれば、撮影画像に設定した処理領域内の垂直エッジであって、撮影画像の座標系からワールド座標系に座標変換した後、ワールド座標系から撮影画像の座標系に再変換したときに前記処理領域内に位置する自車前方の静止状態の障害物の垂直エッジのみを選択し、衝突予測時間を算出する時間変化特性を、少なくとも選択した垂直エッジのヒストグラムのピーク点の軌跡の車幅方向の広がりの時間変化特性に制限したため、静止状態の障害物の垂直エッジについてのみ前記のピーク点の軌跡の時間変化特性から衝突予測時間を算出し、衝突の可能性がある静止状態の障害物を極めて確実に認識することができ、認識の信頼性等がさらに一層向上する。
【0027】
また、請求項4、10の構成によれば、自車前方の障害物が停止中の先行車等の静止状態の障害物であれば、自車が直進走行して前方の障害物に接近することにより、その垂直エッジのヒストグラムのピークの軌跡がトラッキング画像の画像中心座標の軌跡の左右に生じるため、トラッキング画像の画像中心座標の軌跡の左、右両側に垂直エッジのヒストグラムのピーク点の軌跡が位置することを衝突予測時間の算出許可条件とすることにより、静止状態の障害物のピーク点を選択し、選択した両側のピーク点の軌跡の時間変化特性の平均から、自車の走行状態に基づく誤認識を防止して衝突の可能性がある静止状態の障害物をさらに一層確実に認識することができ、認識の信頼性等がさらに一層向上する。
【0028】
つぎに、請求項5、11の構成によれば、少なくとも撮影画像の垂直エッジのヒストグラムのピーク点を複数個とすることで、実際の走行環境下での障害物の認識に適した構成とすることができ、また、請求項6、12の構成によれば、撮像装置を単眼カメラとしたため、いわゆるステレオカメラを搭載する場合等に比して小型かつ安価になり、小型かつ安価な構成で障害物の認識が行なえる利点もある。
【発明を実施するための最良の形態】
【0029】
つぎに、本発明をより詳細に説明するため、その実施形態について、図1〜図8にしたがって詳述する。
【0030】
図1は自車1に搭載されたセンサフュージョンの障害物認識装置のブロック図、図2は図1の撮影画像、垂直エッジヒストグラムの時間変化の説明図、図3、図4、図9は後述のトラッキング画像の一例、他の例、さらに他の例の説明図である。
【0031】
また、図5は後述の座標変換の説明図、図6、図7はそれぞれ処理領域の説明図であり、図8は図1の動作説明用のフローチャートである。
【0032】
そして、図1の障害物認識装置は、電波レーダに比して安価な汎用のスキャン式レーザレーダ2と、撮像装置としての小型かつ安価なモノクロCCDカメラ構成の単眼カメラ3とを備え、レーザレーダ2と単眼カメラ3が自車1に搭載されたセンサフュージョンの自車前方検出センサを形成する。
【0033】
また、この障害物認識装置は、自車速を検出する車輪速センサ構成の車速センサ4及び、自車1の旋回状態を検出するためのヨーレートセンサ5、舵角センサ6等の自車状態検出用の各種センサ等も備える。
【0034】
そして、自車1のエンジン始動後、レーザレーダ2はレーザパルスを車幅方向に掃引照射して送信し、自車前方をくり返し探査し、探査結果の信号をマイクロコンピュータ構成の制御ECU7に出力し、単眼カメラ3は自車前方を連続的に撮像して撮影画像の信号を制御ECU7に出力する。
【0035】
つぎに、制御ECU7はメモリユニット8等に予め設定された障害物認識プログラムを実行し、例えば、レーザレーダ2の探査結果と単眼カメラ3の撮影画像とに基づくセンサフュージョンの障害物認識処理と、単眼カメラ3の撮影画像に基づく静止状態の障害物の認識処理とを行って、両方の認識処理の少なくともいずれか一方によって衝突可能性がある障害物を認識したときに、ブレーキユニット9を自動ブレーキ制御し、警報ユニット10によりブザー音やランプ点灯或いは音声出力やメッセージ表示等で自動ブレーキがかかったことをドライバ等に警報する。
【0036】
そして、センサフュージョンの障害物認識処理は、前記特許文献2(特開平7−182484号公報)、特許文献3(特開2003−84064号公報)に記載のような従来からの周知のセンサフュージョンの障害物認識処理と同様であり、具体的には、前記特許文献2に記載の処理と同様、レーザレーダの探査結果から検出した自車と自車前方の障害物との距離を考慮して、撮像装置の撮影画像(エッジ画像)のパターンマッチング等によって障害物を認識する処理、或いは、前記特許文献4に記載の処理と同様、レーザレーダの探査結果の反射点の位置と撮像装置の撮影画像のエッジ画像の矩形領域との照合から障害物を認識する処理である。
【0037】
つぎに、単眼カメラ3の撮影画像に基づく静止状態の障害物の認識処理を行なうため、制御ECU7は、単眼カメラ3の撮影画像を処理して自車前方の衝突可能性がある静止した障害物を認識する画像処理認識部を形成し、この画像処理認識部はつぎの(a)〜(e)の各手段を備える。
【0038】
(a)エッジピーク点検出手段
この手段は、単眼カメラ3の時々刻々の撮影画像の垂直エッジのヒストグラムを算出し、そのヒストグラムのピーク点を検出し、最新の一定期間の検出結果をメモリユニット8に書き換え自在に蓄積保持する。
【0039】
(b)トラッキング画像形成手段
この手段は、メモリーユニット8に保持された時系列のピーク点の検出結果に基き、各時刻のピーク点をプロットして、前記ヒストグラムのピーク点の軌跡のトラッキング画像を形成する。
【0040】
なお、自車走行環境において、自車前方の障害物やガードレール、道路標識等の非障害物に複数個の垂直エッジが存在することから、通常、垂直エッジのヒストグラムのピーク点及びその軌跡は複数個であり、また、障害物、非障害物の走行の有無等にしたがって軌跡の長さや方向(向き)等が異なる。
【0041】
(c)走行状態判別手段
この手段は、車速センサ4の自車速の検出及び、ヨーレートセンサ5、舵角センサ6のヨーレート、舵角の検出に基いて、時々刻々の自車1の推定自車旋回半径を演算して検出監視し、その旋回半径が予め設定された所定値以上か否かの比較検出に基き、自車1が直進走行状態か否かを判別する。
【0042】
(d)衝突予測時間演算手段
この手段は、走行状態判別手段の判別に基づいて自車の直進走行状態を検出したときに限り、前記のトラッキング画像のピーク点の軌跡の車幅方向の広がりの時間変化特性から衝突予測時間を算出する。
【0043】
(e)認識処理手段
この手段は、算出された衝突予測時間に基づいて自車前方の衝突可能性がある停止中の先行車等の静止状態の障害物を認識し、この認識に基いてブレーキユニット9の自動ブレーキ制御、警報ユニット10の警報出力制御を行なう。
【0044】
また、この実施形態においては、衝突の可能性がある静止状態の障害物を極めて正確に認識するため、前記の衝突予測時間演算手段により、トラッキング画像の画像中心座標の軌跡の左、右両側に垂直エッジのヒストグラムのピーク点の軌跡が位置することを衝突予測時間の算出許可条件とし、衝突予測時間を算出する時間変化特性を、少なくとも前記両側のピーク点の軌跡の時間変化特性の平均特性に制限する。さらに、認識対象の障害物を自車前方の静止状態のものに制限するため、制御ECU7が形成する画像処理認識部は、つぎの(f)、(g)の手段も備える。
【0045】
(f)有効軌跡検出手段
この手段は、垂直エッジのヒストグラムのピーク点の軌跡の位置と、白線認識処理によって検出した自車走行車線の白線の位置との比較に基づき、自車走行車線内に位置する有効なピーク点の軌跡を検出する。
【0046】
(g)座標変換処理手段
この手段は、撮影画像に設定したいわゆる画像注視領域(以下、ROI領域という)を処理領域とし、この領域内の垂直エッジの画像位置及びヒストグラムのピーク点の軌跡から、実際の走行系の座標であるワールド座標系での前記垂直エッジの個所の自車走行方向の距離、高さ及び車幅方向の位置の座標を算出し、算出した前記ワールド座標系の各座標から垂直エッジの画像位置を再変換して求める。
【0047】
そして、この実施形態にあっては、走行状態判別手段が自車1の直進走行状態を検出したときに限り、有効軌跡検出手段によって検出された自車前方の有効な軌跡であり、かつ、座標変換処理手段の再変換によって検出した静止状態の障害物のピーク点の軌跡であって、前記の算出許可条件を満足する同障害物のピーク点の軌跡についてのみ、左右両側のピーク点の軌跡の時間変化特性の平均特性から衝突予測時間を算出し、この衝突予測時間から衝突可能性がある障害物を認識する。
【0048】
つぎに、上記各手段による障害物認識の具体的な処理について説明する。
【0049】
まず、自車1の走行中に単眼カメラ3の撮影画像Piが例えば図2に示すように時間変化し、自車1の走行によって、障害物である停止中の先行車Aが相対的に自車1に接近するにしたがって撮影画像Piの先行車Aが大きくなる。
【0050】
なお、図2のt−6、t−5、t−4、t−3、t−2、t−1、tは撮影時刻を示し、Wは撮影画像のほぼ中央部分に予め設定された所定の大きさのROI領域を示す。
【0051】
そして、各時刻の撮影画像Piの少なくともROI領域Wの部分がエッジピーク点検出手段により加工され、この加工により、各撮影画像Piは輝度の垂直成分の時間変化の大きさにしたがって垂直のエッジ画像に変換された後二値化され、さらに、二値化された垂直成分のエッジ画像が水平方向に加算されて図2の垂直のヒストグラムGが算出され、このヒストグラムGの各ピーク点pが検出される。
【0052】
このとき、先行車Aについては左右方向でもある車幅方向(水平方向)の両端部等の特徴部分に大きなピーク点pが発生し、各ピーク点pの発生位置は時間経過にしたがって広がる方向に移動する。
【0053】
さらに、トラッキング画像形成手段が各時刻のヒストグラムGの各ピーク点pを重ねて各ピーク点pの軌跡のトラッキング画像Ptを形成する。
【0054】
図3は各ピーク点pを白色で示したトラッキング画像Ptの一例を示し、この画像Ptはほぼ先行車Aの左右両側端部のピーク点pの軌跡a、bのみを含み、両軌跡a、bが、時間の経過にしたがって、換言すれば、先行車Aが相対的に接近するにしたがって、ほぼ「ハ」の字状に車幅方向に広がるという特徴的な時間変化特性を示す。
【0055】
なお、時間軸を上向きにとれば、前記の「ハ」の字を上下逆さまにした状態で車幅方向に広がる軌跡になる。
【0056】
さらに、自車1が直進走行して停止中の先行車Aに接近する場合、前記の左右両側の「ハ」の字状の時間変化特性の軌跡は、例えば図4のトラッキング画像Ptに示すように、ほぼ画像中央の画像中心座標(FOE:Focus Of Expansion)の垂線状の軌跡の左、右両側に位置し、このことは、先行車A以外の衝突予測対象の障害物についても同様である。
【0057】
なお、図3、図4のa、bはピーク点pの軌跡であり、前記の画像中心座標(FOE)は画像内の無限遠点または消失点である。
【0058】
また、図4において、cは画像中心座標(FOE)の軌跡、図中の矢印線xはピーク点pの画像中心座標(FOE)からの距離を示し、図中の矢印線dx/dtは後述の衝突予測時間の算出に用いられる軌跡a、bの時間変化のベクトルである。
【0059】
つぎに、誤認識を防止するため、少なくとも走行状態判別手段が、センサ4〜6の検出に基いて算出した自車1の旋回半径(推定自車旋回半径)から、自車1がカーブ路の走行や右左折、進路変更等を行なっておらず、直進走行状態であることを判別したときに限り、衝突予測時間演算手段により衝突予測時間を算出する。
【0060】
つぎに、図5を参照して、前記の衝突予測時間の算出について説明する。
【0061】
まず、図5は自車1の接近による画像状態変化を説明する模式図であり、自車1の走行を上から見た平面図に相当し、同図の左右が自車1の走行方向であって、自車1は右端部の停止中の先行車Aに向かって直進走行する。
【0062】
そして、前後する時刻tn、tn+1に自車1の単眼カメラ3が先行車Aを撮影すると、自車1の走行に基づき、図5の矢印線の撮影光路等からも明らかなように、撮影の距離や画像の大きさが変化し、このとき、直進走行する自車1の走行方向(前後方向)において、単眼カメラ3のレンズ位置を自車位置<o>、この位置<o>から微小な一定距離f後方の撮影画像Piが得られる位置を撮像面位置<f>、自車前方の先行車Aの後部左右端のピークエッジpの位置を障害物停止位置<a>とすると、図5の時刻tn、tn+1の位置変化からも明らかなように、自車位置<o>、撮像面位置<f>は時間変化するが、障害物停止位置<a>は時間変化しない固定の位置である。
【0063】
また、時刻tnの自車位置<o>と障害物停止位置<a>との実距離をZ、時刻tn+1の自車位置<o>と障害物停止位置<a>との実距離をZ1とすると、距離Z、Z1が時刻tn、tn+1のいわゆる車間距離であり、その差ΔZ(=Z−Z1)が時刻tnから時刻tn+1の間の自車1の走行距離である。
【0064】
さらに、撮像面位置<f>の点q及び障害物停止位置<a>の点Qを通るカメラ光軸の位置が撮影画像Piの前記画像中心座標(FOE)の位置に相当する。
【0065】
つぎに、ワールド座標系を、自車1の走行方向をZ軸方向、車幅方向(水平方向)をX軸方向、高さ方向をY軸方向とする3次元のXYZ座標系とし、撮影座標系を、撮像面位置<f>において、水平方向をx軸方向、高さ方向をy軸方向とする二次元のxy座標系とする。
【0066】
そして、説明を簡単にするため、時刻tnに、障害物停止位置<a>の座標(X、Y、Z)のピーク点p(X、Y、Z)が、撮像面位置<f>の座標(x、y)にピーク点p(x、y)として撮像され、それから微小時間後の時刻tn+1に、障害物停止位置<a>の座標(X1、Y1、Z1)のピーク点p1が、撮像面位置<f>の座標(x1、y1)のピーク点p1として撮像されたとすると、図5からも明らかなように、時刻tnのX軸の車幅方向成分(水平成分)について、つぎの(1)式が成り立つ。
【0067】
X/Z=x/f (1)式
【0068】
この(1)式を時間微分すると、つぎの(2)式を得る。
【0069】
(dx/dt)・Z+x・(dZ/dt)=f・(dX/dt) (2)式
そして、自車1の直進走行により単眼カメラ3がカメラ光軸に沿って並進運動(前進運動)するときには、(1)式、(2)式中のXは一定値で変わらず、X=X1になることから、(2)式の右辺が0となり、つぎの(3)式が求まる。
【0070】
(dx/dt)・Z+x・(dZ/dt)=0 (3)式
【0071】
ここで、dx/dt(=x1−x)=uとして、(3)式を整理すると、つぎの(4)式を得る。
【0072】
(dZ/dt)=−(u・Z/x) (4)式
【0073】
そして、(4)式に基き、自車1の衝突予測時間Tzを、つぎの(5)式にしたがって撮影画像上から算出することができる。
【0074】
Tz=−{Z/(dZ/dt)}=x/u (5)式
【0075】
すなわち、衝突予測時間演算手段は、例えば図4のトラッキング画像Ptの各ピーク点p(x、y)の軌跡の車幅方向(x軸方向)の広がりの時間変化特性から、図中の矢印線のx、u(=dx/dt)を求め、前記(5)式の演算から衝突予測時間Tzを算出する。
【0076】
なお、衝突予測時間Tzは、例えば、前記軌跡の新たなピーク点p(x、y)が得られる毎に算出して更新され、また、前記軌跡が複数個ある場合、全部または一部(1個の場合を含む)の軌跡について算出される。
【0077】
つぎに、認識処理手段により、例えば、設定された認識基準時間と算出された衝突予測時間Tzとを比較し、衝突予測時間Tzが認識基準時間以下になると、認識処理手段が、衝突の可能性がある停止中の先行車A等の静止状態の障害物が前方に存在することを認識し、この認識に基いてブレーキユニット9に自動ブレーキ制御を指令し、警報ユニット10を注意を促す警報出力に制御する。
【0078】
なお、前記衝突予測時間演算手段によって複数個の衝突予測時間Tzが算出されるときは、例えば、それらの平均時間と認識基準時間との比較から衝突の可能性が判断される。
【0079】
そして、走行状態判別手段により、自車1が直進走行状態であることを判別したときに限って前記の障害物認識を行うことにより、自車1がカーブ路を走行したり、右左折、進路変更等を行なったりするときに、自車の走行方向とずれた方向の車両等を自車前方の衝突の可能性がある障害物として誤認識することがない。
【0080】
なお、自車前方の先行車A等の障害物を静止状態のものとして認識するのは、走行状態の障害物も認識対象とすれば、前記のX=X1等が成立しなくなって距離Z等が求まらなくなり、障害物の誤認識等が生じるからである。
【0081】
ところで、認識精度の向上を図るため、走行状態判別手段が自車1の直進走行状態を検出すると、この実施形態の場合、衝突予測時間Tzを計算する前に、有効軌跡検出手段により、トラッキング画像Ptの各ピーク点pの軌跡の位置(画像上の座標位置)と、例えば、エッジ画像Ptの画像情報を用いた白線認識処理から検出した自車走行車線の白線の位置(画像上の座標位置)との比較に基づき、エッジ画像Ptの自車走行車線外の不要なピーク点pを除き、エッジ画像Ptの自車走行車線内に位置する有効なピーク点pの軌跡のみを検出する。
【0082】
なお、白線認識処理は、例えば、前記特許文献4(特開平9−91440号公報)に記載の画像パターンマッチング(画像データ比較)等の公知の白線認識処理と同様の処理である。
【0083】
そして、有効軌跡検出手段の検出に基づき、衝突予測時間Tzを算出する時間変化特性を、少なくとも前記の有効な軌跡の車幅方向の広がりの時間変化特性に制限する。
【0084】
さらに、この実施形態にあっては、停止中の先行車A等の自車前方の静止状態の障害物のみを認識対象とするため、座標変換処理手段により、まず、撮影画像PiのROI領域W内の垂直エッジの画像位置及びヒストグラムのピーク点pの軌跡から、その垂直エッジのワールド座標系での3次元座標を求め、先行車A等の障害物の自車1からの距離及び高さ、水平位置の3次元座標を算出する。
【0085】
具体的には、つぎのようにして算出する。
【0086】
まず、ワールド座標系の例えば(Zs、Ys、Xs)=(100m、0.7m、0m)の基準座標点Sより、この座標点Sを含むXY平面内で実験等によって設定長さだけY軸方向、X軸方向に広げた範囲が、ワールド座標系でのROI領域であり、この領域を単眼カメラ3で撮影した図6の枠線領域が撮影座標系の二次元のROI領域Wである。
【0087】
このとき、基準座標点Sの距離Zsはこの処理で認識したい距離より長くなるように、例えば100mに設定され、高さYsは認識対象の障害物が車両主体なので、一般的な車両の高さに相当する、例えば0.7mに設定され、水平位置Xsは自車進行方向に障害物が存在すると仮定して0mに設定される。
【0088】
一方、図6の撮影座標系において、s*は基準座標点Sに対応する座標点であり、この座標点s*の上下、左右のα、βが、前記のY軸方向、X軸方向に広げた範囲に対応するy、x軸方向の幅である。
【0089】
なお、この認識処理にあっては障害物である先行車1の上端、下端のエッジを必ずしも捉える必要はない、換言すれば、先行車1の他の部分の垂直エッジからも認識できるので、前記のy軸方向の幅αは処理時間等を考慮した適当な長さであってよいが、垂直エッジが安定して得られるようにするため、x軸方向の幅βはROI領域W内に先行車1の左右端が極力含まれる長さにする。
【0090】
つぎに、例えば図5の時刻tn、tn+1のピーク点p、p1の軌跡からの垂直エッジの位置の距離Z、水平位置Xへの換算を、図5から求まるつぎの換算式の計算で行なう。
【0091】
すなわち、図5において、x=f・(X/Z)、x1=f・(X1/Z1)であり、また、先行車Aが停止中とする条件に基き、X=X1、Z1=Z−ΔZになることから、つぎの(6)式が成り立つ。
【0092】
(x/x1)=(X/Z)/(X/(Z−ΔZ))=1−(ΔZ/Z) (6)式
【0093】
そして、この(6)式に基き、距離Zを求めるつぎの(7)式が換算式として得られる。
【0094】
Z=(ΔZ・x1)/(x1−x) (7)式
【0095】
この(7)式における自車1の移動距離ΔZは、Vsを自車速[m/s]、T(=[tn+1]―[tn])を撮影画像(フィールド画像)のサンプリングタイム[s]とすると、ΔZ=Vs・Tから求まる。
【0096】
また、(7)式から距離Zが求まると、つぎの(8)式の換算式の計算から水平位置Xが求まる。
【0097】
X=Z・(x/f) (8)式
【0098】
さらに、時刻tnの垂直エッジの高さYも、その撮影座標の位置yと(7)式から求めた距離Zに基き、つぎの(9)式の換算式の計算から求まる。
【0099】
Y=Z・(y/f) (9)式
【0100】
そして、前記の換算の計算により、垂直エッジのワールド座標系での距離、高さ、水平位置の座標(Z、Y、X)を算出する。
【0101】
つぎに、算出した座標(Z、Y、X)を、例えば(8)式、(9)式の逆の演算等から画像座標(x、y)に再変換し、この再変換で得られた画像座標(x、y)が例えば図6のROI領域W内に位置するか否かを判別する。
【0102】
このとき、先行車A等の障害物が静止状態であれば、障害物の走行移動がないため、前記の再変換で得られた画像座標(x、y)はROI領域W内に位置するが、障害物が走行状態(正、逆いずれの走行状態も含む)であれば、障害物の走行移動によって計算式のΔZ等が実際の距離と一致しなくなり、前記の再変換で得られた画像座標(x、y)がROI領域W外の座標になる。
【0103】
そして、衝突予測時間Tzを算出する時間変化特性を、前記の再変換で得られた画像座標(x、y)がROI領域W内に位置する垂直エッジのヒストグラムのピーク点の軌跡の車幅方向の広がりの時間変化特性に制限することにより、認識対象を、停止中の先行車A等の自車前方の静止状態の障害物に確実に制限する。
【0104】
なお、認識精度を高める場合は、図7に示すように、ROI領域W内に破線la、lbの内側の検出範囲を設定し、その検出範囲内に位置する軌跡にさらに制限するようにしてもよい。
【0105】
つぎに、自車1が直進走行して停止中の先行車A等の静止状態の障害物に接近する場合、例えば図4に示した「ハ」の字状の時間変化特性の軌跡が画像中央の垂線状の画像中心座標(FOE)の軌跡の左、右両側に位置することに着目し、この実施形態においては、さらに、衝突予測時間演算手段により、例えば前記図4のトラッキング画像Ptの画像中心座標(FOE)の軌跡cの左、右両側それぞれに垂直エッジのヒストグラムのピーク点の軌跡がそれぞれ少なくとも1個以上位置することを衝突予測時間Tzの算出許可条件とし、衝突予測時間Tzを算出する時間変化特性を、少なくとも前記軌跡cの左右の両側のピーク点pの軌跡の時間変化特性の平均特性に制限する。
【0106】
なお、軌跡cの左右の両側それぞれにピーク点pの軌跡が複数個ある場合は、例えば、左側、右側それぞれについて平均特性を求め、さらに、その両平均特性の平均特性を、衝突予測時間Tzを算出する時間変化特性とする。
【0107】
そして、以上の各制限を施して衝突予測時間Tzを算出し、警報を発生するため、画像処理認識部としての制御ECU7は、例えば図8のフローチャートに示すように動作する。
【0108】
すなわち、自車1の走行中に図8のステップS1において、走行状態判別手段により、自車1が直進走行中か否かを判断し、直進走行状態のときに限りつぎのステップS2に進む。
【0109】
そして、自車1が直進走行状態であれば、ステップS2、S3、S4により、単眼カメラ3から得られた最新の撮影画像Piに基き、垂直エッジのヒストグラム、そのピーク点pを検出し、最新のトラッキング画像Ptを形成する。
【0110】
つぎに、図8のステップS5に移行し、有効軌跡検出手段によって自車白線内の有効なピーク点pの軌跡を選択し、衝突予測時間Tzを算出する時間変化特性を、有効な軌跡の車幅方向の広がりの時間変化特性に制限する。
【0111】
つぎに、図8のステップS6に移行し、座標変換処理手段の座標変換、再変換によってROI領域W内に位置する垂直エッジのピーク点を検出し、衝突予測時間Tzを算出する時間変化特性を、さらに、検出したピーク点の軌跡の車幅方向の広がりの時間変化特性に制限し、認識対象を、停止中の先行車A等の自車前方の静止状態の障害物に確実に制限する。
【0112】
つぎに、図8のステップS7に移行し、衝突予測時間演算手段により、さらに、トラッキング画像Ptの画像中心座標(FOE)の軌跡の左、右両側に位置する垂直エッジのヒストグラムのピーク点の軌跡を衝突予測時間Tzの算出許可条件に合致した軌跡として選択し、衝突予測時間Tzを算出する時間変化特性を、さらに、前記両側のピーク点の軌跡の時間変化特性の平均特性に制限する。
【0113】
そして、ステップS5〜S7の制限の結果残ったピーク点pの軌跡に基き、図8のステップS8により、画像中心座標(FOE)の軌跡の左、右両側に位置するもの別の平均特性を平均して得られた時間特性から衝突予測時間Tzを算出し、ステップS9によって衝突の可能性が高いか否かを判別し、衝突の可能性が高い先行車A等の障害物を認識したときに、ステップS10に移行してブレーキユニット9、警報ユニット10を制御し、自動ブレーキ、その警報出力を行なう。
【0114】
その結果、この実施形態の場合は、極めて正確に、衝突の可能性が高い先行車A等の障害物に対してのみ自動ブレーキ、その警報出力を行なうことができ、自動ブレーキの誤動作が極めて少なくなり、例えば、図9のトラッキング画像Ptのように、いずれのピーク点pの軌跡も「ハ」の字の特性を示さない走行環境下では、自動ブレーキがかからず、ドライバに不快感等を与えることもない。
【0115】
そして、本発明は上記した実施形態に限定されるものではなく、その趣旨を逸脱しない限りにおいて上述したもの以外に種々の変更を行うことが可能であり、例えば、前記実施形態では、自車1の直進素行状態の制限下、有効軌跡検出手段によって検出された自車前方の有効な軌跡であり、かつ、座標変換処理手段の再変換によって検出した静止状態の障害物のピーク点の軌跡であって、衝突予測時間演算手段の前記の算出許可条件を満足するピーク点pの軌跡についてのみ、左右両側のピーク点の軌跡の時間変化特性の平均特性から衝突予測時間Tzを算出したが、これらの手段のいずれか1または2の制限によって衝突予測時間Tzを算出してもよく、これらの場合も、衝突可能性が高い自車前方の静止状態の障害物の認識精度は、従来より十分に向上するのは勿論である。
【0116】
また、制御ECU7の各手段の構成、処理手順等が前記実施形態と異なっていてもよく、さらに、撮像装置、CCDの単眼カメラに限られるものではなく、場合によっては、ステレオカメラであってもよい。
【0117】
つぎに、前記実施形態では、センサフュージョンの認識処理と併用される場合に適用したが、本発明は、自車1が搭載する撮像装置の撮影画像からの障害物認識のみを行なう場合にも同様に提供することができ、この場合は、本発明の認識処理の結果のみの基づいて自動ブレーキの制御等が行なわれる。
【0118】
そして、本発明の認識結果は、自動ブレーキ制御以外の車両の種々の走行制御に用いることができるのは勿論である。
【産業上の利用可能性】
【0119】
ところで、自車1の装備部品数を少なくするため、例えば図1の単眼カメラ3を追従走行制御等の他の制御のセンサに兼用する場合にも適用することができる。
【図面の簡単な説明】
【0120】
【図1】この発明の実施形態のブロック図である。
【図2】図1の撮影画像、垂直エッジヒストグラムの時間変化の説明図である。
【図3】図1のトラッキング画像の一例の説明図である。
【図4】図1のトラッキング画像の他の例の説明図である。
【図5】図1の座標変換の説明図である。
【図6】図1の処理領域の説明図である。
【図7】図1の処理領域の他の例の説明図である。
【図8】図1の動作説明用のフローチャートである。
【図9】図1のトラッキング画像のさらに他の例の説明図である。
【符号の説明】
【0121】
1 自車
3 単眼カメラ
7 制御ECU
A 先行車
Pi 撮影画像
Pt トラッキング画像
G ヒストグラム
c 画像中心座標
p ピーク点

【特許請求の範囲】
【請求項1】
自車に搭載された撮像装置によって自車前方を撮影し、
前記撮像装置の撮影画像の垂直エッジのヒストグラムを算出して該ヒストグラムのピーク点を検出し、
前記ピーク点の軌跡のトラッキング画像を形成し、
自車の旋回半径から自車が直進走行状態か否かを判別し、
該判別に基づいて自車の直進走行状態を検出したときに限り、前記ピーク点の軌跡の車幅方向の広がりの時間変化特性から衝突予測時間を算出し、
前記衝突予測時間に基づいて自車前方の衝突可能性がある静止状態の障害物を認識することを特徴とする障害物認識方法。
【請求項2】
垂直エッジのヒストグラムのピーク点の軌跡の位置と、白線認識処理によって検出した自車走行車線の白線の位置との比較に基づき、自車走行車線内に位置する有効なピーク点の軌跡を検出し、
衝突予測時間を算出する時間変化特性を、少なくとも前記有効なピーク点の軌跡の車幅方向の広がりの時間変化特性に制限したことを特徴とする請求項1に記載の障害物認識方法。
【請求項3】
撮影画像に設定した処理領域内の垂直エッジの画像位置及びヒストグラムのピーク点の軌跡から、前記垂直エッジのワールド座標系での自車走行方向の距離、高さ及び車幅方向の位置の座標を算出し、
算出した前記ワールド座標系の各座標から垂直エッジの画像位置を再変換して求め、
衝突予測時間を算出する時間変化特性を、少なくとも前記再変換により求めた画像位置が前記処理領域内に位置する垂直エッジのヒストグラムのピーク点の軌跡の車幅方向の広がりの時間変化特性に制限したことを特徴とする請求項1または2に記載の障害物認識方法。
【請求項4】
トラッキング画像の画像中心座標の軌跡の左、右両側に垂直エッジのヒストグラムのピーク点の軌跡が位置することを衝突予測時間の算出許可条件とし、
前記衝突予測時間を算出する時間変化特性を、少なくとも前記両側のピーク点の軌跡の時間変化特性の平均特性に制限したことを特徴とする請求項1〜3のいずれかに記載の障害物認識方法。
【請求項5】
少なくとも撮影画像の垂直エッジのヒストグラムのピーク点が複数個であることを特徴とする請求項1〜4のいずれかに記載の障害物認識方法。
【請求項6】
撮像装置が単眼カメラであることを特徴とする請求項1〜5のいずれかに記載の障害物認識方法。
【請求項7】
自車に搭載されて自車前方を撮影する撮像装置と、該撮像装置の撮影画像を処理して自車前方の衝突可能性がある静止した障害物を認識する画像処理認識部とを備え、
前記画像処理認識部に、
前記撮像装置の撮影画像の垂直エッジのヒストグラムを算出して該ヒストグラムのピーク点を検出するエッジピーク点検出手段と、
前記ピーク点の軌跡のトラッキング画像を形成するトラッキング画像形成手段と、
自車の旋回半径から自車が直進走行状態か否かを判別する走行状態判別手段と、
前記走行状態判別手段の判別に基づいて自車の直進走行状態を検出したときに限り、前記ピーク点の軌跡の車幅方向の広がりの時間変化特性から衝突予測時間を算出する衝突予測時間演算手段と、
前記衝突予測時間に基づいて自車前方の衝突可能性がある静止状態の障害物を認識する認識処理手段とを設けたことを特徴とする障害物認識装置。
【請求項8】
画像処理認識部に、垂直エッジのヒストグラムのピーク点の軌跡の位置と、白線認識処理によって検出した自車走行車線の白線の位置との比較に基づき、自車走行車線内に位置する有効なピーク点の軌跡を検出する有効軌跡検出手段を設け、
衝突予測時間演算手段により、衝突予測時間を算出する時間変化特性を、少なくとも前記有効な軌跡の車幅方向の広がりの時間変化特性に制限するようにしたことを特徴とする請求項7に記載の障害物認識装置。
【請求項9】
画像処理認識部に、撮影画像に設定した処理領域内の垂直エッジの画像位置及びヒストグラムのピーク点の軌跡から、前記垂直エッジのワールド座標系での自車走行方向の距離、高さ及び車幅方向の位置の座標を算出し、算出した前記ワールド座標系の各座標から垂直エッジの画像位置を再変換して求める座標変換処理手段を設け、
衝突予測時間演算手段により、前記衝突予測時間を算出する時間変化特性を、少なくとも前記再変換により求めた画像位置が前記処理領域内に位置する垂直エッジのヒストグラムのピーク点の軌跡の車幅方向の広がりの時間変化特性に制限するようにしたことを特徴とする請求項7または8に記載の障害物認識装置。
【請求項10】
衝突予測時間演算手段により、トラッキング画像の画像中心座標の軌跡の左、右両側に垂直エッジのヒストグラムのピーク点の軌跡が位置することを衝突予測時間の算出許可条件とし、前記衝突予測時間を算出する時間変化特性を、少なくとも前記両側のピーク点の軌跡の時間変化特性の平均特性に制限するようにしたことを特徴とする請求項7〜9のいずれかに記載の障害物認識装置。
【請求項11】
少なくとも撮影画像の垂直エッジのヒストグラムのピーク点が複数個であることを特徴とする請求項7〜10のいずれかに記載の障害物認識装置。
【請求項12】
撮像装置が単眼カメラであることを特徴とする請求項7〜11のいずれかに記載の障害物認識装置。

【図1】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7】
image rotate

【図8】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図9】
image rotate


【公開番号】特開2006−4188(P2006−4188A)
【公開日】平成18年1月5日(2006.1.5)
【国際特許分類】
【出願番号】特願2004−180095(P2004−180095)
【出願日】平成16年6月17日(2004.6.17)
【出願人】(000002967)ダイハツ工業株式会社 (2,560)
【Fターム(参考)】