説明

車外環境認識装置および車外環境認識方法

【課題】発光源が点灯したときの絶対的な輝度を利用して、発光源の点灯有無を高精度に判断する。
【解決手段】車外環境認識装置は、車外環境の明るさに応じた第1露光態様で第1画像を取得すると共に、発光源が自発光しているか否かを判別可能な、露光時間が第1露光態様と異なる第2露光態様で第2画像を取得し、第1画像に基づき検出領域内で先行する車両が占有する車両領域を特定し、第2画像の輝度に基づいて発光源の位置を特定し、車両領域と発光源の位置とを対応付ける(S316)。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、自車両外の環境を認識する車外環境認識装置および車外環境認識方法に関する。
【背景技術】
【0002】
従来、自車両の前方に位置する車両や障害物等の対象物を特定し、特定した対象物との衝突を回避したり(衝突回避制御)、先行車両との車間距離を安全な距離に保つように制御する(クルーズコントロール)技術が知られている(例えば、特許文献1)。こうした技術の多くは、先行車両を追跡して位置情報を更新し、先行車両の移動速度等を計算するように構成されており、この結果が例えばブレーキ(制動)コントロールやクルーズコントロールなどに用いられる。
【0003】
しかしながら、先行車両の挙動を単に計算するだけではクルーズコントロールを円滑に遂行することは難しい。そこで、例えば、人間のように、先行車両のブレーキランプの点灯有無等を視認し、先行車両の減速動作を推測するといった処理を組み込むことで、より円滑なクルーズコントロールが可能となる。
【0004】
このような先行車両のブレーキランプの点灯有無を検出する技術として、先行車両の加減速に基づきブレーキランプとテールランプとを区別する技術がある(例えば、特許文献2)。また、テールランプ検出領域の輝度変化または面積変化に基づいてブレーキランプの点灯を検出し、先行車両の減速状態を判断する技術(例えば、特許文献3)や、赤色領域における明度のヒストグラム分布を用い、標準偏差等を通じてブレーキランプの点灯を判断する技術(例えば、特許文献4)も開示されている。
【先行技術文献】
【特許文献】
【0005】
【特許文献1】特許第3349060号
【特許文献2】特開2005−1425号公報
【特許文献3】特許第3872179号
【特許文献4】特開平9−267686号公報
【発明の概要】
【発明が解決しようとする課題】
【0006】
上述した特許文献2の技術では、先行車両の加減速に基づいてブレーキランプを区別しているが、減速の原因が必ずしもブレーキ動作にあるとは限らない。また、ブレーキ動作を行ってから車両が実際に減速するまでには時間を要するので、ブレーキ動作の判定が実際のブレーキランプの点灯時点より遅れる結果を招いていた。また、特許文献3の技術では、夜間でなければテールランプが点灯していないので、テールランプとブレーキランプとの面積差を常に取得できるとは限らなかった。さらに、特許文献4では、日差しが強い場合に明度(輝度)が上限に達し、ヒストグラム分布の変化が生じないといったように、車外環境によってブレーキランプの検出処理が不安定になる問題があった。
【0007】
本発明は、このような課題に鑑み、発光源の点灯有無を高精度に判断可能な、車外環境認識装置および車外環境認識方法を提供することを目的としている。
【課題を解決するための手段】
【0008】
上記課題を解決するために、本発明の車外環境認識装置は、車外環境の明るさに応じた第1露光態様で第1画像を取得すると共に、発光源が自発光しているか否かを判別可能な、露光時間が第1露光態様と異なる第2露光態様で第2画像を取得する画像取得部と、第1画像に基づき検出領域内で先行する車両が占有する車両領域を特定する車両特定部と、第2画像の輝度に基づいて発光源の位置を特定する発光源特定部と、車両領域と発光源の位置とを対応付ける位置対応付け部と、を備えることを特徴とする。
【0009】
発光源特定部は、発光源の候補とされた画素同士の相対距離に基づいて複数の画素を1の発光源候補としてグルーピングし、1の発光源候補の大きさが予め定められた第1閾値以上の場合にのみ、1の発光源候補を発光源として特定してもよい。
【0010】
第1閾値は、車外環境の明るさに応じて段階的に複数設けられていてもよい。
【0011】
車外環境認識装置は、位置対応付け部によって対応付けられた車両領域と発光源の位置との相対配置が適切な配置か否かを判定する配置判定部をさらに備えてもよい。
【0012】
発光源は、少なくとも、ブレーキランプ、ハイマウントストップランプ、テールランプ、ウィンカーのいずれかである。
【0013】
発光源は、ブレーキランプとテールランプとを含み、車外環境認識装置は、テールランプの位置と、ブレーキランプとテールランプとの輝度の関係とに基づいてブレーキランプの位置を特定するブレーキランプ特定部をさらに備えてもよい。
【0014】
上記課題を解決するために、本発明の車外環境認識方法は、車外環境の明るさに応じた第1露光態様で第1画像を取得すると共に、発光源が自発光しているか否かを判別可能な、露光時間が第1露光態様と異なる第2露光態様で第2画像を取得し、第1画像に基づき検出領域内で先行する車両が占有する車両領域を特定し、第2画像の輝度に基づいて発光源の位置を特定し、車両領域と発光源の位置とを対応付けることを特徴とする。
【発明の効果】
【0015】
本発明によれば、発光源が点灯したときの絶対的な輝度を利用して、発光源の点灯有無を高精度に判断することが可能となる。
【図面の簡単な説明】
【0016】
【図1】環境認識システムの接続関係を示したブロック図である。
【図2】輝度画像と距離画像を説明するための説明図である。
【図3】車外環境認識装置の概略的な機能を示した機能ブロック図である。
【図4】特定物テーブルを説明するための説明図である。
【図5】位置情報取得部による三次元の位置情報への変換を説明するための説明図である。
【図6】分割領域と代表距離とを説明するための説明図である。
【図7】分割領域群を説明するための説明図である。
【図8】第1露光態様による撮像と第2露光態様による撮像との違いを説明するための説明図である。
【図9】第1露光態様による撮像と第2露光態様による撮像との違いを説明するための説明図である。
【図10】車外環境認識方法の処理の大まかな流れを示したフローチャートである。
【図11】位置情報取得処理の流れを示したフローチャートである。
【図12】代表距離導出処理の流れを示したフローチャートである。
【図13】分割領域群生成処理の流れを示したフローチャートである。
【図14】グループ化・特定物決定処理の流れを示したフローチャートである。
【図15】発光源特定処理の流れを示したフローチャートである。
【発明を実施するための形態】
【0017】
以下に添付図面を参照しながら、本発明の好適な実施形態について詳細に説明する。かかる実施形態に示す寸法、材料、その他具体的な数値などは、発明の理解を容易とするための例示にすぎず、特に断る場合を除き、本発明を限定するものではない。なお、本明細書及び図面において、実質的に同一の機能、構成を有する要素については、同一の符号を付することにより重複説明を省略し、また本発明に直接関係のない要素は図示を省略する。
【0018】
(環境認識システム100)
図1は、環境認識システム100の接続関係を示したブロック図である。環境認識システム100は、車両1内に設けられた、複数(本実施形態では2つ)の撮像装置110と、画像処理装置120と、車外環境認識装置130と、車両制御装置140とを含んで構成される。
【0019】
撮像装置110は、CCD(Charge-Coupled Device)やCMOS(Complementary Metal-Oxide Semiconductor)等の撮像素子を含んで構成され、カラー画像、即ち、画素単位で3つの色相(R(赤)、G(緑)、B(青))の輝度を取得することができる。ここでは、撮像装置110で撮像されたカラーの画像を輝度画像と呼び、後述する距離画像と区別する。
【0020】
また、撮像装置110は、車両1の進行方向側において2つの撮像装置110それぞれの光軸が略平行になるように、略水平方向に離隔して配置される。撮像装置110は、車両1の前方の検出領域に存在する対象物を撮像した画像データを、例えば1/60秒毎(60fps)に連続して生成する。以下の実施形態における各機能部は、このような画像データの更新を契機として各処理を遂行する。
【0021】
さらに、本実施形態において、撮像装置110は、車外環境の明るさに応じた露光時間や絞りを示す第1露光態様で検出領域を撮像し第1画像を取得する。また、撮像装置110は、ブレーキランプ等、特定の発光源が自発光しているか否かを判別可能な、露光時間が第1露光態様と異なる第2露光態様で検出領域を撮像し第2画像を取得する。例えば、昼間であれば、明るい車外環境に応じた第1露光態様の露光時間より第2露光態様の露光時間を短く、または、絞りを強くして第2画像を取得する。本実施形態において、第1画像および第2画像はそれぞれ輝度画像および距離画像として用いられる。また、上記第1露光態様と第2露光態様とは、以下のようにして実現される。
【0022】
例えば、撮像装置110の周期的な撮像タイミングを時分割し、第1露光態様による撮像と第2露光態様による撮像とを交互に行うことで、第1画像と第2画像とを順次取得することができる。また、画素毎に2つのキャパシタが設けられ、その2つのキャパシタに並行して電荷をチャージできる撮像素子において、一度の露光でチャージする時間を異ならせて露光態様の異なる2つの画像を並行して取得することもできる。さらに、1つのキャパシタの電荷のチャージ中に、時間を異ならせて2回読み出し、露光態様の異なる2つの画像を並行して取得したりすることでも上記の目的を達成できる。また、撮像装置110を、露光態様を異ならせて予め2セット準備しておき(ここでは、2つの撮像装置110×2セット)、2セットの撮像装置110からそれぞれ画像を取得したりすることも可能である。露光態様を支配する露光時間は、例えば1〜60msecの範囲で適切に制御される。
【0023】
ここで、対象物は、車両、信号機、道路、ガードレールといった独立して存在する立体物のみならず、ブレーキランプ(テールランプ)やウィンカー、信号機の各点灯部分等、立体物の部分として特定できる物も含む。本実施形態では、特に、車両後部に位置するブレーキランプ(位置はテールランプに等しい)、ハイマウントストップランプ、テールランプ、ウィンカーについて説明する。
【0024】
画像処理装置120は、2つの撮像装置110それぞれから画像データを取得し、2つの画像データに基づいて、画像中の任意のブロック(所定数の画素を集めたもの)の視差、および、任意のブロックの画面内の位置を示す画面位置を含む視差情報を導出する。画像処理装置120は、一方の画像データから任意に抽出したブロック(例えば水平4画素×垂直4画素の配列)に対応するブロックを他方の画像データから検索する、所謂パターンマッチングを用いて視差を導き出す。ここで、ブロックの説明に用いられた「水平」は、撮像した画像の画面横方向を示し、実空間上の水平方向に相当する。また、「垂直」は、撮像した画像の画面縦方向を示し、実空間上の鉛直方向に相当する。
【0025】
このパターンマッチングとしては、2つの画像データ間において、任意の画像位置を示すブロック単位で輝度値(Y色差信号)を比較することが考えられる。例えば、輝度値の差分をとるSAD(Sum of Absolute Difference)、差分を2乗して用いるSSD(Sum of Squared intensity Difference)や、各画素の輝度値から平均値を引いた分散値の類似度をとるNCC(Normalized Cross Correlation)等の手法がある。画像処理装置120は、このようなブロック単位の視差導出処理を検出領域(例えば600画素×200画素)に映し出されている全てのブロックについて行う。ここでは、ブロックを4画素×4画素としているが、ブロック内の画素数は任意に設定することができる。
【0026】
ただし、画像処理装置120では、検出分解能単位であるブロック毎に視差を導出することはできるが、そのブロックがどのような対象物の一部であるかを認識できない。したがって、視差情報は、対象物単位ではなく、検出領域における検出分解能単位(例えばブロック単位)で独立して導出されることとなる。ここでは、このようにして導出された視差情報(後述する相対距離に相当)を画像データに対応付けた画像を距離画像という。
【0027】
図2は、輝度画像124と距離画像126を説明するための説明図である。例えば、2つの撮像装置110を通じ、検出領域122について図2(a)のような輝度画像(画像データ)124が生成されたとする。ただし、ここでは、理解を容易にするため、2つの輝度画像124の一方のみを模式的に示している。画像処理装置120は、このような輝度画像124からブロック毎の視差を求め、図2(b)のような距離画像126を形成する。距離画像126における各ブロックには、そのブロックの視差が関連付けられている。ここでは、説明の便宜上、視差が導出されたブロックを黒のドットで表している。
【0028】
視差は、画像のエッジ部分(隣り合う画素間で明暗の差分が大きい部分)で特定され易いので、距離画像126において黒のドットが付されている、視差が導出されたブロックは、輝度画像124においてもエッジとなっていることが多い。したがって、図2(a)に示す輝度画像124と図2(b)に示す距離画像126とは各対象物の輪郭について似たものとなる。本実施形態では、このような輝度画像124と距離画像126とを第1画像および第2画像それぞれに基づいて生成している。したがって、本実施形態では、第1画像に基づく輝度画像124、第1画像に基づく距離画像126、第2画像に基づく輝度画像124、第2画像に基づく距離画像126の画像が用いられる。
【0029】
車外環境認識装置130は、画像処理装置120から第1画像および第2画像に基づく輝度画像124と距離画像126とを取得し、距離画像126から導き出した自車両からの相対距離や、輝度画像124における輝度から、検出領域における対象物がいずれの特定物に対応するかを特定する。例えば、相対距離等によって先行車両を特定し、さらに、輝度によってその先行車両のブレーキランプを特定することで、ブレーキランプを有する車両をより正確に把握することができる。そうすることで、ブレーキランプによる当該車両の減速を迅速に把握し、衝突回避制御やクルーズコントロールに利用することが可能となる。
【0030】
尚、上記相対距離は、距離画像126におけるブロック毎の視差情報を、所謂ステレオ法を用いて三次元の位置情報に変換することで求められる。ここで、ステレオ法は、三角測量法を用いることで、対象物の視差からその対象物の撮像装置110に対する相対距離を導出する方法である。かかる車外環境認識装置130の処理に関しては、後ほど詳述する。
【0031】
車両制御装置140は、車外環境認識装置130で特定された対象物との衝突を回避したり、先行車両との車間距離を安全な距離に保つ制御を実行する。具体的に、車両制御装置140は、操舵の角度を検出する舵角センサ142や、車両1の速度を検出する車速センサ144等を通じて現在の車両1の走行状態を取得し、アクチュエータ146を制御して先行車両との車間距離を安全な距離に保つ。ここで、アクチュエータ146は、ブレーキ、スロットルバルブ、舵角等を制御するために用いられる車両制御用のアクチュエータである。また、車両制御装置140は、対象物との衝突が想定される場合、運転者の前方に設置されたディスプレイ148にその旨警告表示(報知)を行うと共に、アクチュエータ146を制御して車両1を自動的に制動する。かかる車両制御装置140は、車外環境認識装置130と一体的に形成することもできる。
【0032】
(車外環境認識装置130)
図3は、車外環境認識装置130の概略的な機能を示した機能ブロック図である。図3に示すように、車外環境認識装置130は、I/F部150と、データ保持部152と、中央制御部154とを含んで構成される。
【0033】
I/F部150は、画像処理装置120や車両制御装置140との双方向の情報交換を行うためのインターフェースである。かかるI/F部150は画像取得部として機能する。データ保持部152は、RAM、フラッシュメモリ、HDD等で構成され、特定物テーブル(対応付け)や、以下に示す各機能部の処理に必要な様々な情報を保持し、また、画像処理装置120から受信した第1画像および第2画像に基づく輝度画像124、距離画像126を一時的に保持する。ここで、特定物テーブルは、以下のように利用される。
【0034】
図4は、特定物テーブル200を説明するための説明図である。特定物テーブル200では、複数の特定物に対して、輝度の範囲を示す輝度範囲202と、道路表面からの高さの範囲を示す高さ範囲204と、特定物の水平距離の幅範囲206と、特定物の垂直距離の幅範囲208と、同一特定物との水平距離の差分210と、同一特定物との垂直距離の差分212と、同一特定物との面積比214とが対応付けられている。ここで、特定物としては、「ブレーキランプ(赤)」、「ハイマウントストップランプ(赤)」、「テールランプ(赤)」、「ウィンカー(橙)」等、車両を特定する際に要する様々な物が想定されている。特定物は図4に記載された物に限定されないのは言うまでもない。特定物のうち、例えば、特定物「ブレーキランプ(赤)」には、輝度範囲(R)「200以上」、輝度範囲(G)「50以下」、輝度範囲(B)「50以下」、高さ範囲「0.3〜2.0m」、水平距離の幅範囲「0.05〜0.2m」、垂直距離の幅範囲「0.05〜0.2m」、水平距離の差分「1.4〜1.9m」、垂直距離の差分「0.3m以下」、面積比「50〜200%」が対応付けられている。
【0035】
中央制御部154は、中央処理装置(CPU)、プログラム等が格納されたROM、ワークエリアとしてのRAM等を含む半導体集積回路で構成され、システムバス156を通じて、I/F部150やデータ保持部152を制御する。また、本実施形態において、中央制御部154は、位置情報取得部160、代表距離導出部162、分割領域群生成部164、グループ化部166、特定物決定部168、輝度取得部170、発光源特定部172、位置対応付け部174、配置判定部176、ブレーキランプ特定部178としても機能する。
【0036】
また、位置情報取得部160、代表距離導出部162、分割領域群生成部164、グループ化部166、および、特定物決定部168は、第1画像に基づき検出領域内で先行する車両が占有する車両領域を特定する車両特定部として機能する。
【0037】
位置情報取得部160は、第1画像に基づく距離画像126における検出領域122内のブロック毎の視差情報を、上述したステレオ法を用いて、水平距離x、高さyおよび相対距離zを含む三次元の位置情報に変換する。ここで、視差情報が、距離画像126における各ブロックの視差を示すのに対し、三次元の位置情報は、実空間における各ブロックの相対距離の情報を示す。また、視差情報が画素単位ではなくブロック単位、即ち複数の画素単位で導出されている場合、その視差情報はブロックに属する全ての画素の視差情報とみなして、画素単位の計算を実行することができる。
【0038】
図5は、位置情報取得部160による三次元の位置情報への変換を説明するための説明図である。位置情報取得部160は、まず、距離画像126を図5の如く画素単位の座標系として認識する。ここでは、図5中、左下隅を原点(0,0)とし、横方向をi座標軸、縦方向をj座標軸とする。したがって、視差dpを有する画素は、画素位置i、jと視差dpによって(i,j,dp)のように表すことができる。
【0039】
本実施形態における実空間上の三次元座標系を、車両1を中心とした相対座標系で考える。ここでは、車両1の進行方向右側方をX軸の正方向、車両1の上方をY軸の正方向、車両1の進行方向(前方)をZ軸の正方向、2つの撮像装置110の中央を通る鉛直線と道路表面との交点を原点(0,0,0)とする。このとき、道路を平面と仮定すると、道路表面がX−Z平面(y=0)と一致することとなる。位置情報取得部160は、以下の(数式1)〜(数式3)によって距離画像126上のブロック(i,j,dp)を、実空間上の三次元の点(x,y,z)に座標変換する。
x=CD/2+z・PW・(i−IV) …(数式1)
y=CH+z・PW・(j−JV) …(数式2)
z=KS/dp …(数式3)
ここで、CDは撮像装置110同士の間隔(基線長)であり、PWは1画素当たりの視野角であり、CHは撮像装置110の道路表面からの配置高さであり、IV、JVは車両1の真正面における無限遠点の画像上の座標(画素)であり、KSは距離係数(KS=CD/PW)である。
【0040】
したがって、位置情報取得部160は、ブロックの相対距離と、ブロックと同相対距離にある道路表面上の点とブロックとの距離画像126上の検出距離(例えば画素数)とに基づいて、道路表面からの高さを導出していることとなる。
【0041】
代表距離導出部162は、まず、距離画像126の検出領域122を、水平方向に対して複数の分割領域216に分割する。続いて、代表距離導出部162は、道路表面より上方に位置するブロックを対象に、位置情報に基づいて分割領域毎に、複数に区分した所定距離それぞれに含まれる相対距離を積算してヒストグラムを生成する。そして、代表距離導出部162は、積算した距離分布のピークに相当する代表距離を導出する。ここで、ピークに相当するとは、ピーク値またはピーク近傍で任意の条件を満たす値をいう。
【0042】
図6は、分割領域216と代表距離220とを説明するための説明図である。図5に示したように、距離画像126を水平方向に複数分割すると、分割領域216は図6(a)のような短冊形状になる。このような短冊形状の分割領域216は、本来、例えば、水平幅4画素のものが150列配列して成るが、ここでは、説明の便宜上、検出領域122を16等分したもので説明する。
【0043】
続いて、代表距離導出部162は、各分割領域216において、全てのブロックの相対距離を参照し、ヒストグラム(図6(b)中、横長の四角(バー)で示す)を作成すると、図6(b)のような距離分布218が得られる。ここで、縦方向は、区分した所定距離を、横方向は、区分した所定距離それぞれに相対距離が含まれるブロックの個数を示している。ただし、図6(b)は計算を行う上での仮想的な画面であり、実際には視覚的な画面の生成を伴わない。そして、代表距離導出部162は、このようにして導出された距離分布218を参照し、ピークに相当する相対距離である代表距離(図6(b)中、黒で塗りつぶした四角で示す)220を特定する。
【0044】
分割領域群生成部164は、隣接する分割領域216同士の代表距離220を順次比較し、代表距離220が近接する(例えば、1m以下に位置する)分割領域216をグループ化して1または複数の分割領域群を生成する。このとき、3以上の分割領域216で代表距離220が近接していた場合にも、連続する全ての分割領域216を分割領域群として纏める。
【0045】
図7は、分割領域群222を説明するための説明図である。分割領域群生成部164は、分割領域216同士を比較し、図7に示すように代表距離220をグループ化する(グループ化後の仮想的なグループ224)。かかるグループ化によって、分割領域群生成部164は、道路表面より上方に位置する立体物を特定することができる。また、分割領域群生成部164は、そのグループ化された分割領域群222中における水平方向および鉛直方向の相対距離の推移に基づいて、先行車両の後部、側部、またはガードレール等の道路に沿った構造物等のいずれであるかを認識することが可能となる。
【0046】
グループ化部166は、分割領域群222内における、相対距離zが代表距離220に相当するブロックを基点として、そのブロックと、水平距離xの差分、高さyの差分および相対距離zの差分が予め定められた範囲(例えば0.1m)内にあるブロックとを、同一の特定物に対応すると仮定してグループ化する。上記の範囲は実空間上の距離で表され、製造者や搭乗者によって任意の値に設定することができる。また、グループ化部166は、グループ化により新たに追加されたブロックに関しても、そのブロックを基点として、水平距離xの差分、高さyの差分および相対距離zの差分が所定範囲内にあるブロックをさらにグループ化する。結果的に、同一の特定物と仮定可能なブロック全てがグループ化されることとなる。
【0047】
また、ここでは、水平距離xの差分、高さyの差分および相対距離zの差分をそれぞれ独立して判定し、全てが所定範囲に含まれる場合のみ同一のグループとしているが、他の計算によることもできる。例えば、水平距離xの差分、高さyの差分および相対距離zの差分の二乗平均√((水平距離xの差分)+(高さyの差分)+(相対距離zの差分))が所定範囲に含まれる場合に同一のグループとしてもよい。かかる計算により、ブロック同士の実空間上の正確な距離を導出することができるので、グループ化精度を高めることができる。
【0048】
特定物決定部168は、グループ化部166がグループ化したブロック群が予め定められた所定の条件を満たしていれば、その対象物を特定物として決定する。例えば、特定物決定部168は、グループ化されたブロック群が道路上に位置する場合、そのブロック群全体の大きさが、特定物「車両」の大きさに相当するか否か判定し、特定物「車両」の大きさに相当すると判定されれば、そのブロック群を特定物「車両」と特定する。ここでは、特定物「車両」と特定されたブロック群が画面上占有する領域を特に車両領域と呼ぶ。
【0049】
こうして、車外環境認識装置130では、第1画像としての距離画像126から、1または複数のブロック群を、特定物として抽出することができ、その情報を様々な制御に用いることが可能となる。例えば、検出領域内の任意のブロック群が車両であると特定されると、特定した車両(先行車両)との衝突を回避したり、先行車両との車間距離を安全な距離に保つように制御することができる。以下では、このような先行車両の特定や先行車両の挙動をさらに迅速に把握するための第2画像を用いた処理を説明する。
【0050】
輝度取得部170は、後述する発光源特定部172の制御指令に従って、第2画像に基づく輝度画像124から、画素単位で輝度(画素単位で3つの色相(R、G、B)の輝度)を取得する。このとき、検出領域が例えば雨天や曇天であった場合、輝度取得部170は、本来の輝度を取得できるようにホワイトバランスを調整してから取得してもよい。
【0051】
発光源特定部172は、データ保持部152に保持された特定物テーブル200と、第2画像に基づく輝度画像124の各画素の輝度とによって、所定の発光源の位置を特定する。具体的に、発光源特定部172は、まず、第2画像に基づく輝度画像124における任意の画素の輝度を、輝度取得部170に取得させる。続いて、発光源特定部172は、特定物テーブル200に登録されている特定物から、第2露光態様に対応付けられた特定の発光源(ここでは「ブレーキランプ」)を選択し、取得した1の画素の輝度が、選択した特定物の輝度範囲202に含まれるか否か判定する。そして、対象となる輝度範囲202に含まれれば、その画素を当該特定物と仮定する。
【0052】
上記第2画像は、上述したように特定の発光源、例えば、「ブレーキランプ」が自発光しているか否かを判別可能な第2露光態様で撮像した画像である。「ブレーキランプ」のように自発光するものは、太陽や街灯の明るさに拘わらず、高い輝度を取得することができる。特に、「ブレーキランプ」の明るさは法規で概ね規定されているので、所定の明るさしか露光できない露光態様(例えば、短時間の露光)で撮像することで、「ブレーキランプ」に相当する画素のみを容易に抽出することが可能である。
【0053】
図8および図9は、第1露光態様による撮像と第2露光態様による撮像との違いを説明するための説明図である。図8は、第1露光態様による第1画像を示し、特に、図8(a)ではテールランプが点灯しており、図8(b)ではブレーキランプが点灯している。図8(a)と図8(b)を比較して理解できるように、車外環境の明るさに応じた第1露光態様では、テールランプ点灯時(即ちブレーキランプ非点灯時)のテールランプ位置230の輝度と、ブレーキランプ点灯時のブレーキランプ位置232とで輝度の差がほとんど生じない。これは、露光時間の長い第1露光態様では、テールランプもブレーキランプもRGB成分全ての輝度がサチレーションしてしまうことに起因する。
【0054】
図9は、第2露光態様による第2画像を示し、特に、図9(a)ではテールランプが点灯しており、図9(b)ではブレーキランプが点灯している。第2露光態様は、ブレーキランプが点灯しているときの輝度のみを取得可能に設定されている。したがって、図9(a)と図9(b)を比較して理解できるように、テールランプ点灯時(即ちブレーキランプ非点灯時)のテールランプ位置230では、その明るさに準じる輝度をほとんど取得できず、ブレーキランプ点灯時のブレーキランプ位置232では、明確に高い輝度を取得できている。
【0055】
かかる第2露光態様では、ブレーキランプの輝度が撮像素子において、R成分がサチレーションするかしないか程度の露光時間に設定することが好ましい。撮像装置110は、通常、ダイナミックレンジが人間より大幅に狭いので、夕方くらいの明度の低さで第1露光態様により撮像すると、車外環境に対して相対的にブレーキランプの輝度が高くなる。すると、R成分のみならず、R成分とオーバーラップしてG成分やB成分も最大輝度(例えば輝度255)にサチレーションし、画素が白くなってしまう。そこで、第2露光態様を、ブレーキランプ点灯時にR成分がサチレーションするかしないか程度の露光時間とすることで、外部の環境に拘わらず、G成分やB成分の輝度を抑制しつつ、R成分のみを最大輝度で抽出する。こうして、例えば、テールランプとの輝度差を最大限確保することが可能となる。
【0056】
具体的に、夜間の走行時に先行車両が存在する場合に、テールランプが点灯している程度、例えば、輝度範囲(R)「50」、輝度範囲(G)「50」、輝度範囲(B)「50」程度では第2画像に表示されない。これに対して、ブレーキランプが点灯していると、図4の特定物テーブル200に示すように、輝度範囲202が、輝範囲度(R)「200以上」、輝度範囲(G)「50以下」、輝度範囲(B)「50以下」となり、第2露光態様で撮像したとしても、その位置が把握できる程度に第2画像に表示される。こうして発光源特定部172は、第2画像を通じて、ブレーキランプ等、所定の発光源のみを特定することが可能となる。また、ここでは、第2露光態様による露光時間を固定しているが、車外環境に応じて自発的にまたは搭乗者の操作に応じて調整されるとしてもよい。
【0057】
また、発光源特定部172は、発光源候補とされた画素同士の水平距離xの差分、高さyの差分および相対距離zの差分が所定範囲内にある場合、その複数の画素を1の発光源候補としてグループ化する。こうして、ブレーキランプを構成する画素が複数に跨がっていても、また、車両1の左右のブレーキランプがそれぞれ複数のランプで構成されている場合であっても、それを左右に区別されるブレーキランプの一方として認識することが可能となる。
【0058】
また、発光源特定部172は、この1の発光源候補の大きさが予め定められた第1閾値(例えば、水平および垂直の幅0.05m)以上の場合にのみ、1の発光源候補を発光源として特定する。尚、発光源特定部172は、大きさに加えて、その発光源候補の形も条件としてよい。例えば、ブレーキランプが車両後部の左右端部に鉛直方向に延伸する形状である場合、その大きさのみならず、ブレーキランプとみなせる形状であることを判定する。こうして、本来、所定の発光源としてみなすべきではないノイズに相当する発光源を排除し、ブレーキランプ等、所望する発光源を抽出することができるので、特定物を高精度に特定することが可能となる。
【0059】
さらに、上記第1閾値を、車外環境の明るさに応じて、予め、段階的に複数設けてもよい。例えば、車外環境の明るさが、第2閾値(例えば、輝度200)未満の場合、第1閾値として0.05mを参照し、第2閾値以上の場合、第1閾値として、0.05mより大きい0.1mを参照する。したがって、発光源特定部172は、照度計等を通じて取得した車外環境の明るさが予め定められた第2閾値未満の場合、1の発光源候補の大きさが第1閾値(0.05m)以上の場合にのみ発光源として特定し、また、車外環境の明るさが第2閾値以上の場合、1の発光源候補の大きさが第1閾値(0.1m)以上の場合にのみ発光源として特定する。太陽光等により車外環境の明るさが非常に強い場合、例えば、ブレーキランプが非点灯であっても、そのブレーキランプの赤色のカバーに太陽光が反射するだけで、ブレーキランプと同等の輝度が部分的に検出される場合がある。この場合、第2露光態様によっても、非点灯のブレーキランプを点灯しているブレーキランプとして誤認識する可能性があるので、発光源特定部172は、車外環境の明るさが予め定められた第2閾値以上である場合、例えば、大きさの条件を0.05mから0.1mと厳しくすることで、本来ブレーキランプと認識すべきではない候補が抽出されても、それを除外する。
【0060】
ただし、発光源特定部172は、上記ブレーキランプの他にハイマウントストップランプを検出することができる。ハイマウントストップランプは、ブレーキランプより高い位置に設けられたランプであるが、ブレーキランプと異なりテールランプとしては機能しない。したがって、ハイマウントストップランプを検出することで、ブレーキランプの検出精度を高めることができる。このとき、発光源特定部172は、発光源候補の大きさが予め定められた第3閾値(例えば、0.1m)以上の場合にのみ、発光源候補をハイマウントストップランプとして特定してもよい。かかるハイマウントストップランプについては後ほど詳述する。
【0061】
このように、発光源特定部172によって、ブレーキランプやハイマウントストップランプのみを高精度に抽出することができる。しかし、第2露光態様による第2画像のみでは、夜間などに検出領域122全体の輝度が低く(暗く)なってしまい、ブレーキランプ以外は何も把握できなくなってしまう。そこで、上述した第1露光態様による第1画像を併用して特定物としての「車両」を特定させ、当該ブレーキランプの位置と連携させる。
【0062】
位置対応付け部174は、特定物決定部168が特定物「車両」としてグループ化した車両領域と発光源であるブレーキランプやハイマウントストップランプの位置とを対応付ける。こうして、先行する車両の外縁と車両のブレーキランプやハイマウントストップランプとの位置関係が明確になる。
【0063】
配置判定部176は、同一の先行車両に存在すると仮定される2対のブレーキランプの組み合わせを特定し、図4に示した特定物テーブル200に基づいて、位置対応付け部174によって対応付けられた車両領域と発光源であるブレーキランプの位置との相対配置が適切な配置か否かを判定する。配置判定部176は、例えば、ブレーキランプが、それ単体で高さ範囲「0.3〜2.0m」、水平距離の幅範囲「0.05〜0.2m」、垂直距離の幅範囲「0.05〜0.2m」の条件を満たすか判定する。さらに、配置判定部176は、2対のブレーキランプの組み合わせが、水平距離の差分「1.4〜1.9m」、垂直距離の差分「0.3m以下」、面積比「50〜200%」の条件を満たすか否かを判定する。かかる条件を満たすことで、先行車両のブレーキランプが点灯していると特定されることとなる。このように、ブレーキランプと仮定された発光源が車両の適切な位置に対応している場合にのみブレーキランプとして正式に特定する構成により、リアフォグランプなど、同等の明るさで一灯だけで点灯している発光源を誤認識するのを防止することができる。
【0064】
ただし、発光源特定部172がハイマウントストップランプを検出した場合、配置判定部176は、先行車両がハイマウントストップランプを有する車両であると認識し、以後、ハイマウントストップランプの相対配置も考慮してブレーキランプの点灯有無を判定する。例えば、2対のブレーキランプより上方に位置し、かつ、2対のブレーキランプとの距離が等しい場合に、ハイマウントストップランプもブレーキランプと同等に扱う。ブレーキランプが非点灯であってもテールランプが点灯している場合、その位置にはある程度の輝度が認識される。しかし、ハイマウントストップランプは、ブレーキ動作時にしか点灯しないので、ブレーキランプより確実にブレーキ動作の有無を判断することができる。したがって、配置判定部176は、一旦ハイマウントストップランプを有すると判定した車両に関し、ハイマウントストップランプが検出されない場合にはブレーキランプが点灯していないと判定する。こうして、ブレーキランプの点灯有無をより高い信頼度で特定することが可能となる。
【0065】
ブレーキランプ特定部178は、上記発光源特定部172によってブレーキランプが特定できなかった場合、第1画像に基づく輝度画像124を用い、テールランプの位置と、ブレーキランプとテールランプとの輝度の関係とによってブレーキランプの位置を特定する。具体的に、ブレーキランプ特定部178は、まず、第1画像による輝度画像124の車両領域のうち、R成分が比較的高く、高輝度の部位を特定することでテールランプの位置を検出する。そして、ブレーキランプ特定部178は、そのテールランプの位置情報を用いて、第2画像に基づく輝度画像124における上記テールランプの位置の輝度値が増加した場合にのみ、ブレーキランプが点灯していると判定する。かかる構成により、ブレーキランプ特定部178は、例えば、ブレーキランプの組み合わせの一方が故障し、ブレーキランプの画像が一方しか取得できなかったり、自動二輪等、そもそもブレーキランプが一灯しかない場合にもブレーキランプの点灯を適切に判定することができる。
【0066】
この場合、ブレーキランプ非点灯時にもテールランプの位置を予め特定しておく必要があり、昼間では車両のうちR成分が比較的高い部位を、夜間では輝度がRGBとも最大値にサチレーションしている部位をブレーキランプ候補として特定しておく。そして、ブレーキランプ特定部178は、第2画像のテールランプの位置を常に監視し、複数のフレーム間における輝度の変化、例えば、Rの輝度50(テールランプ)から200(ブレーキランプ)を検出する。ただし、昼間における赤色の先行車両には対応が困難である等、その機能を十分に発揮できない場合があるので、補完的なロジックとして利用するのがよい。
【0067】
(車外環境認識方法)
以下、車外環境認識装置130の具体的な処理を図10〜図15のフローチャートに基づいて説明する。図10は、画像処理装置120から第1画像または第2画像が送信された場合の割込処理に関する全体的な流れを示し、図11〜図15は、その中の個別のサブルーチンを示している。また、ここでは、処理の対象部位としてブロックまたは画素を挙げており、輝度画像124や距離画像126の左下隅を原点とし、ブロックでは、画像水平方向に1〜150ブロック、垂直方向に1〜50ブロックの範囲で、画素では、画像水平方向に1〜600画素、垂直方向に1〜200画素の範囲で当該車外環境認識方法による処理を遂行する。
【0068】
図10に示すように、当該車外環境認識方法による割込が発生すると、第1画像フラグがONしているか否か判定される(S300)。ただし、電源投入時は第1画像フラグは予めONに設定されているとする。かかる第1画像フラグは、第1露光態様によって撮像するか第2露光態様によって撮像するかを切り換えるためのフラグである。そして、第1画像フラグがONしていれば(S300におけるYES)、検出領域122内のブロック毎の視差情報が三次元の位置情報に変換され(S302)、分割領域216毎の代表距離220が導出される(S304)。続いて、分割領域216がグループ化されて分割領域群222が生成され(S306)、その分割領域群222内でブロックのグループ化が図られる(S308)。続いて、第1画像フラグがOFFされ、次回の撮像のために、露光態様が第2露光態様に設定される(S310)。
【0069】
第1画像フラグがOFFであれば(S300におけるNO)、第2画像から発光源が特定されると共に(S312)、第1画像フラグがONされ、次回の撮像のために、露光態様が第1露光態様に設定される(S314)。
【0070】
ここでは、ステップS302〜S310に示す車両領域の特定処理と、ステップS312、S314に示す発光源の特定処理とを交互に実行させ、発光源の位置によって車両領域の特定精度を向上させ、また、車両領域の位置によって発光源の特定精度を向上させる。このように、車両領域と発光源との対応付けを相互に行うことで、より適切にブレーキランプを検出することが可能となる。
【0071】
そして、位置対応付け部174は、特定物決定部168が特定物「車両」としてグループ化した車両領域と、発光源であるブレーキランプおよびハイマウントストップランプの位置とを対応付ける(S316)。
【0072】
また、配置判定部176は、同一の先行車両に存在すると仮定される2対のブレーキランプやハイマウントストップランプの組み合わせを特定し、車両領域と2対のブレーキランプやハイマウントストップランプとの相対配置が適切な配置か否かを判定する(S318)。以上の処理によってもブレーキランプやハイマウントストップランプが特定できなかった場合は、第1画像に基づく輝度画像124を用い、テールランプの位置と、ブレーキランプとテールランプとの輝度の関係とによってブレーキランプの位置を特定する。以下、上記の処理を具体的に説明する。
【0073】
(位置情報取得処理S302)
図11を参照すると、位置情報取得部160は、ブロックを特定するための垂直変数jを初期化(「0」を代入)する(S400)。続いて、位置情報取得部160は、垂直変数jに「1」を加算すると共に水平変数iを初期化(「0」を代入)する(S402)。次に、位置情報取得部160は、水平変数iに「1」を加算する(S404)。
【0074】
位置情報取得部160は、第1画像に基づく距離画像126のブロック(i,j,dp)から視差情報dpを取得する(S406)。そして、位置情報取得部160は、視差情報dpを含むブロック(i,j,dp)を、上記数式1〜3を用い、実空間上の点(x,y,z)に座標変換して、ブロック(i,j,dp,x,y,z)とする(S408)。
【0075】
続いて、位置情報取得部160は、水平変数iが水平ブロックの最大値である150を超えたか否か判定し(S410)、水平変数iが最大値を超えていなければ(S410におけるNO)、ステップS404の水平変数iのインクリメント処理からを繰り返す。また、水平変数iが最大値を超えていれば(S410にけるYES)、位置情報取得部160は、垂直変数jが垂直ブロックの最大値である50を超えたか否か判定する(S412)。そして、垂直変数jが最大値を超えていなければ(S412におけるNO)、ステップS402の垂直変数jのインクリメント処理からを繰り返す。また、垂直変数jが最大値を超えていれば(S412におけるYES)、当該位置情報取得処理S302を終了する。こうして、距離画像126の視差情報dpが三次元の位置情報に変換される。
【0076】
(代表距離導出処理S304)
図12を参照すると、代表距離導出部162は、道路形状パラメータを読み込み(S450)、検出領域122を、水平方向に対して例えば4画素単位で150個の分割領域216に分割する(S452)。次に、代表距離導出部162は、分割した150個の分割領域216から1の分割領域216を、例えば水平方向左側から順次抽出して、その分割領域216内に存在する任意のブロック(i,j,dp,x,y,z)を設定する(S454)。
【0077】
代表距離導出部162は、ブロックの実空間上の座標zにおける道路表面の高さyrを算出し(S456)、ブロックの実空間上の座標yが道路表面の高さyr以上となるブロックであれば、所定距離間隔で区分したヒストグラムにその相対距離を積算(投票)する(S458)。ここで、ブロックの実空間上の座標yが道路表面の高さyr以上であったとしても、道路表面から高さ0.1m以下のブロックは、道路上の白線や汚れ、影等であるとみなして処理対象から除外する。また、自己の車両1の高さより上方に位置するブロックも、歩道橋や標識等であるとみなして処理対象から除外する。
【0078】
代表距離導出部162は、抽出された1の分割領域216内のブロック全てに関し、当該ヒストグラムへの積算処理を遂行したか判定する(S460)。ここで、ブロック全てが完了していなければ(S460におけるNO)、ヒストグラムへの積算処理を遂行していないブロックに関して設定処理S454からを繰り返す。
【0079】
ブロック全てが完了していれば(S460におけるYES)、代表距離導出部162は、このようにして生成されたヒストグラムを参照し、ヒストグラムの度数(相対距離の個数)が所定の閾値(適宜設定される)以上となる区間が存在したら当該分割領域216には立体物が存在すると判定する。そして、代表距離導出部162は、ピークに相当する相対距離を代表距離220とする(S462)。
【0080】
そして、代表距離導出部162は、複数の分割領域216全てに関して、当該代表距離220の導出処理を遂行したか判定する(S464)。ここで、分割領域216全てが完了していると判定されなければ(S464におけるNO)、新たな分割領域216を設定し(S466)、新たな分割領域216に関してブロックの設定処理S454からを繰り返す。一方、代表距離220の導出処理が全て完了していれば(S464におけるYES)、当該代表距離導出処理S304を終了する。
【0081】
(分割領域群生成処理S306)
図13を参照すると、分割領域群生成部164は、複数の分割領域216から任意の分割領域216を、例えば水平方向左側から順次特定し、その任意の分割領域216の水平方向右側に隣接する分割領域216も特定する(S500)。そして、分割領域群生成部164は、両分割領域216に代表距離220が存在するか否か判定する(S502)。ここで、両分割領域216に代表距離220が存在していなければ(S502におけるNO)、分割領域の完了判定ステップS508に処理を移す。一方、両分割領域216に代表距離220が存在していれば(S502におけるYES)、両分割領域216の代表距離220同士を比較する(S504)。
【0082】
ここで、両代表距離220の差分が予め定められた閾値(同一の立体物とみなせる値)以下であれば、両代表距離220は近接しているとみなされ、分割領域群生成部164は、分割領域216同士をグループ化して分割領域群222とする(S506)。このとき、一方の分割領域216が既に分割領域群222として設定されている場合、他方の分割領域216は、その分割領域群222に統合される。
【0083】
そして、分割領域群生成部164は、複数の分割領域216全てに関して、当該分割領域群222の生成処理S502、S504、S506を遂行したか判定する(S508)。ここで、全てが完了していなければ(S508におけるNO)、新たな分割領域216を設定し(S510)、新たな分割領域216に関して特定処理S500からを繰り返す。一方、分割領域群222の生成処理が全て完了していれば(S508におけるYES)、当該分割領域群生成処理S306を終了する。
【0084】
(グループ化・特定物決定処理S308)
図14を参照すると、グループ化部166は、グループ化された複数の分割領域群222から1の分割領域群222を、例えば水平方向左側から順次抽出して、その分割領域群222内に存在する任意のブロック(i,j,dp,x,y,z)を設定する(S550)。
【0085】
グループ化部166は、設定されたブロック(i,j,dp,x,y,z)と、分割領域群222内における、相対距離zが代表距離220に相当するブロックとを比較し、水平距離xの差分、高さyの差分および相対距離zの差分が予め定められた範囲(例えば0.1m)内にあるか否か判定する(S552)。予め定められた範囲内にある場合(S552におけるYES)、そのブロックを、同一の特定物に対応すると仮定してグループ化する(S554)。予め定められた範囲内にない場合(S552におけるNO)、ブロックの完了判定ステップS556に処理を移す。
【0086】
グループ化部166は、抽出された1の分割領域群222内のブロック全てに関し、当該グループ化処理を遂行したか判定する(S556)。ここで、ブロック全てのグループ化処理が完了していなければ(S556におけるNO)、グループ化処理を遂行していないブロックに関して設定処理S550からを繰り返す。
【0087】
ブロック全てのグループ化処理が完了していれば(S556におけるYES)、特定物決定部168は、このようにしてグループ化されたブロック群全体の大きさが、特定物「車両」の大きさに相当するか否か判定する(S558)。特定物「車両」の大きさに相当すると判定されれば(S558におけるYES)、そのブロック群を特定物「車両」と特定する(S560)。特定物「車両」の大きさに相当すると判定されなければ(S558におけるNO)、分割領域群222の完了判定ステップS562に処理を移す。
【0088】
そして、グループ化部166は、複数の分割領域群222全てに関して、当該特定物決定判定S558、S560を遂行したか判定する(S562)。ここで、分割領域群222全てが完了していると判定されなければ(S562におけるNO)、新たな分割領域群222を設定し(S564)、新たな分割領域群222に関してブロックの設定処理S550からを繰り返す。一方、特定物決定判定S558が全て完了していれば(S562におけるYES)、当該グループ化・特定物決定処理S308を終了する。
【0089】
上記グループ化においては、さらに、複数のグループに対して相互の位置関係が判定される。例えば、同種類の立体物のグループ間で、端点の位置が接近し、かつ、立体物中における水平方向および鉛直方向の相対距離の推移がほぼ等しい(連続する)場合には、同一立体物の同一の面であると判断されて、それらのグループが一つのグループに統合される。このとき立体物中における水平方向および鉛直方向の相対距離の推移は、ハフ変換あるいは最小二乗法による近似直線によって特定することができる。また、先行車両であれば、z座標に対する相対移動速度が等しいことによっても複数のグループを一つのグループに統合することができる。
【0090】
また、ここまでの処理がブロック単位で行われている場合、そのブロック内全ての画素に同一の情報を設定することで画素単位に変更する。
【0091】
(発光源特定処理S312)
図15を参照すると、発光源特定部172は、画素を特定するための垂直変数jを初期化(「0」を代入)する(S600)。続いて、発光源特定部172は、垂直変数jに「1」を加算すると共に水平変数iを初期化(「0」を代入)する(S602)。次に、発光源特定部172は、水平変数iに「1」を加算する(S604)。
【0092】
発光源特定部172は、第2画像に基づく輝度画像124の画素(i,j,br)から輝度brを取得する(S606)。そして、発光源特定部172は、特定物「ブレーキランプ」の輝度範囲202と、取得した1の画素の輝度とを比較し、取得した1の画素の輝度が特定物「ブレーキランプ」の輝度範囲202に含まれるか否か判定する(S608)。輝度範囲202に含まれていなければ(S608におけるNO)、水平ブロック判定処理S616に処理を移す。輝度範囲202に含まれていれば(S608におけるYES)、発光源特定部172は、その画素を特定物「ブレーキランプ」と仮定する(S610)。
【0093】
そして、発光源特定部172は、特定物「ブレーキランプ」と仮定された他の画素との水平距離xの差分、高さyの差分および相対距離zの差分が所定範囲内にあるか否か判定する(S612)。所定範囲内にあれば(S612におけるYES)、両画素を1の特定物「ブレーキランプ」としてグループ化する(S614)。所定範囲内になければ(S612におけるNO)、水平ブロック判定処理S616に処理を移す。
【0094】
続いて、発光源特定部172は、水平変数iが水平ブロックの最大値である600を超えたか否か判定し(S616)、水平変数iが最大値を超えていなければ(S616におけるNO)、ステップS604の水平変数iのインクリメント処理からを繰り返す。また、水平変数iが最大値を超えていれば(S616にけるYES)、発光源特定部172は、垂直変数jが垂直ブロックの最大値である200を超えたか否か判定する(S618)。そして、垂直変数jが最大値を超えていなければ(S618におけるNO)、ステップS602の垂直変数jのインクリメント処理からを繰り返す。また、垂直変数jが最大値を超えていれば(S618におけるYES)、明度判定処理S620に処理を移す。こうして、特定物「ブレーキランプ」と仮定された複数の画素群が生成される。
【0095】
次に、発光源特定部172は、照度計等を通じて取得した車外環境の明るさが予め定められた第2閾値未満か否か判定する(S620)。車外環境の明るさが第2閾値未満であれば(S620におけるYES)、第1閾値として低い(緩い)値(例えば0.05m)を設定し、第2閾値以上であれば(S620におけるNO)、第1閾値として高い(厳しい)値(例えば0.1m)を設定する。
【0096】
続いて、発光源特定部172は、特定物「ブレーキランプ」と仮定され、グループ化された複数の画素群から1の画素群を順次設定する(S626)。
【0097】
続いて、発光源特定部172は、設定された画素群の大きさが、ハイマウントストップランプの大きさを示す第3閾値以上か否か判定する(S628)。画素群の大きさが第3閾値以上であれば(S628におけるYES)、その画素群をハイマウントストップランプと特定して、画素群完了判定ステップS636に処理を移す(S630)。また、画素群の大きさが第3閾値未満であれば(S628におけるNO)、発光源特定部172は、設定された画素群の大きさが、ブレーキランプの大きさを示す第1閾値以上か否か判定する(S632)。画素群の大きさが第1閾値以上であれば(S632におけるYES)、その画素群をブレーキランプと特定して、画素群完了判定ステップS636に処理を移す(S634)。画素群の大きさが第1閾値未満であれば(S632におけるNO)、画素群完了判定ステップS636に処理を移す。
【0098】
発光源特定部172は、画素群全てに関し、当該画素群の大きさ判定処理を遂行したか判定する(S636)。ここで、画素群全てが完了していなければ(S636におけるNO)、グループ化処理を遂行していない画素群の設定処理S626からを繰り返す。一方、画素群全てが完了していれば(S636におけるYES)、当該発光源特定処理S312を終了する。
【0099】
以上、説明した、車外環境認識装置130や車外環境認識方法によれば、発光源が点灯したときの絶対的な輝度を利用して、発光源の点灯有無を高精度に判断することが可能となる。したがって、例えばブレーキランプの点灯を的確に把握することが可能となり、先行車両の減速動作を迅速かつ的確に推測することができる。
【0100】
また、コンピュータを、車外環境認識装置130として機能させるプログラムや当該プログラムを記録した、コンピュータで読み取り可能なフレキシブルディスク、光磁気ディスク、ROM、CD、DVD、BD等の記憶媒体も提供される。ここで、プログラムは、任意の言語や記述方法にて記述されたデータ処理手段をいう。
【0101】
以上、添付図面を参照しながら本発明の好適な実施形態について説明したが、本発明はかかる実施形態に限定されないことは言うまでもない。当業者であれば、特許請求の範囲に記載された範疇において、各種の変更例または修正例に想到し得ることは明らかであり、それらについても当然に本発明の技術的範囲に属するものと了解される。
【0102】
上述した実施形態においては、特にブレーキランプとハイマウントストップランプを例に挙げて説明したが、かかる場合に限らず、露光態様を異ならせることで把握可能な発光源として、テールランプやウィンカー等を上げることもできる。ここでは、テールランプを検出することで、先行車両の夜間の定常走行を把握することができ、また、ウィンカーを検出することで、左折や右折のための減速を迅速に把握することができる。
【0103】
また、上述した実施形態においては、対象物の三次元位置を複数の撮像装置110を用い画像データ間の視差に基づいて導出しているが、かかる場合に限られず、例えば、レーザレーダ測距装置等、既知の様々な距離測定装置を用いることができる。ここで、レーザレーダ測距装置は、検出領域122にレーザビームを投射し、このレーザビームが物体に当たって反射してくる光を受光し、この所要時間から物体までの距離を測定するものである。
【0104】
また、上述した実施形態においては、距離画像126を用いて、ブロックの相対距離を求めているが、対象物の画面上の配置や大きさにより、特定物をある程度特定できる場合、単眼の撮像装置110によって本実施形態を実現することも可能である。また、オプティカルフローにより、動きベクトルを導出することでも特定物を特定することができる。
【0105】
また、上述した実施形態においては、撮像装置110がカラー画像を取得することを前提としているが、かかる場合に限られず、モノクロ画像を取得することでも本実施形態を遂行することができる。
【0106】
また、上述した実施形態では、位置情報取得部160が、画像処理装置120から距離画像(視差情報)126を受けて三次元の位置情報を生成している例を挙げている。しかし、かかる場合に限られず、画像処理装置120において予め三次元の位置情報を生成し、位置情報取得部160は、その生成された三次元の位置情報を取得するとしてもよい。このように、機能分散を図ることで、車外環境認識装置130の処理負荷を軽減することが可能となる。
【0107】
また、上述した実施形態においては、位置情報取得部160、代表距離導出部162、分割領域群生成部164、グループ化部166、特定物決定部168、輝度取得部170、発光源特定部172、位置対応付け部174、配置判定部176、ブレーキランプ特定部178は中央制御部154によってソフトウェアで動作するように構成している。しかし、上記の機能部をハードウェアによって構成することも可能である。
【0108】
なお、本明細書の車外環境認識方法の各工程は、必ずしもフローチャートとして記載された順序に沿って時系列に処理する必要はなく、並列的あるいはサブルーチンによる処理を含んでもよい。
【産業上の利用可能性】
【0109】
本発明は、自車両外の環境を認識する車外環境認識装置および車外環境認識方法に利用することができる。
【符号の説明】
【0110】
1 …車両
110 …撮像装置
122 …検出領域
124 …輝度画像
126 …距離画像
130 …車外環境認識装置
160 …位置情報取得部
162 …代表距離導出部
164 …分割領域群生成部
166 …グループ化部
168 …特定物決定部
170 …輝度取得部
172 …発光源特定部
174 …位置対応付け部
176 …配置判定部
178 …ブレーキランプ特定部

【特許請求の範囲】
【請求項1】
車外環境の明るさに応じた第1露光態様で第1画像を取得すると共に、発光源が自発光しているか否かを判別可能な、露光時間が第1露光態様と異なる第2露光態様で第2画像を取得する画像取得部と、
前記第1画像に基づき検出領域内で先行する車両が占有する車両領域を特定する車両特定部と、
前記第2画像の輝度に基づいて前記発光源の位置を特定する発光源特定部と、
前記車両領域と前記発光源の位置とを対応付ける位置対応付け部と、
を備えることを特徴とする車外環境認識装置。
【請求項2】
前記発光源特定部は、発光源の候補とされた画素同士の相対距離に基づいて複数の画素を1の発光源候補としてグルーピングし、該1の発光源候補の大きさが予め定められた第1閾値以上の場合にのみ、該1の発光源候補を発光源として特定することを特徴とする請求項1に記載の車外環境認識装置。
【請求項3】
前記第1閾値は、前記車外環境の明るさに応じて段階的に複数設けられていることを特徴とする請求項2に記載の車外環境認識装置。
【請求項4】
前記位置対応付け部によって対応付けられた前記車両領域と前記発光源の位置との相対配置が適切な配置か否かを判定する配置判定部をさらに備えることを特徴とする請求項1から3のいずれか1項に記載の車外環境認識装置。
【請求項5】
前記発光源は、少なくとも、ブレーキランプ、ハイマウントストップランプ、テールランプ、ウィンカーのいずれかであることを特徴とする請求項1から4のいずれか1項に記載の車外環境認識装置。
【請求項6】
前記発光源は、ブレーキランプとテールランプとを含み、
前記テールランプの位置と、前記ブレーキランプと該テールランプとの輝度の関係とに基づいて該ブレーキランプの位置を特定するブレーキランプ特定部をさらに備えることを特徴とする請求項1から5のいずれか1項に記載の車外環境認識装置。
【請求項7】
車外環境の明るさに応じた第1露光態様で第1画像を取得すると共に、発光源が自発光しているか否かを判別可能な、露光時間が第1露光態様と異なる第2露光態様で第2画像を取得し、
前記第1画像に基づき検出領域内で先行する車両が占有する車両領域を特定し、
前記第2画像の輝度に基づいて前記発光源の位置を特定し、
前記車両領域と前記発光源の位置とを対応付けることを特徴とする車外環境認識方法。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7】
image rotate

【図10】
image rotate

【図11】
image rotate

【図12】
image rotate

【図13】
image rotate

【図14】
image rotate

【図15】
image rotate

【図8】
image rotate

【図9】
image rotate


【公開番号】特開2013−109391(P2013−109391A)
【公開日】平成25年6月6日(2013.6.6)
【国際特許分類】
【出願番号】特願2011−251588(P2011−251588)
【出願日】平成23年11月17日(2011.11.17)
【出願人】(000005348)富士重工業株式会社 (3,010)
【Fターム(参考)】