環境認識装置および環境認識方法
【課題】夜間や雨等、光源が拡散し易い環境において、壁でないものを壁と誤判断することを抑制する。
【解決手段】環境認識装置130は、検出領域内に存在する対象部位の、自車両に対する相対距離を含む位置情報を取得する位置情報取得部160と、自車両の進行方向に垂直な水平距離の差分および自車両の進行方向に平行な相対距離の差分が第1所定距離内に連なる複数の対象部位をグループ化して対象物とするグループ化部162と、対象物を構成する複数の対象部位が、自車両の進行方向に垂直な面に対して所定角度以上に傾斜する傾斜面を形成すると、壁の候補である壁候補と判断する候補判断部164と、自車両の進行方向に垂直な水平距離の差分および自車両の進行方向に平行な相対距離の差分が、第1所定距離より長い第2所定距離内に連なる複数の壁候補を、壁であると判断する壁判断部166と、を備える。
【解決手段】環境認識装置130は、検出領域内に存在する対象部位の、自車両に対する相対距離を含む位置情報を取得する位置情報取得部160と、自車両の進行方向に垂直な水平距離の差分および自車両の進行方向に平行な相対距離の差分が第1所定距離内に連なる複数の対象部位をグループ化して対象物とするグループ化部162と、対象物を構成する複数の対象部位が、自車両の進行方向に垂直な面に対して所定角度以上に傾斜する傾斜面を形成すると、壁の候補である壁候補と判断する候補判断部164と、自車両の進行方向に垂直な水平距離の差分および自車両の進行方向に平行な相対距離の差分が、第1所定距離より長い第2所定距離内に連なる複数の壁候補を、壁であると判断する壁判断部166と、を備える。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、検出領域における対象物の輝度に基づいて、その対象物を認識する環境認識装置および環境認識方法に関する。
【背景技術】
【0002】
従来、自車両の前方に位置する車両や信号機等の障害物といった対象物を検出し、検出した対象物との衝突を回避したり、先行車両との車間距離を安全な距離に保つように制御する技術が知られている。
【0003】
このような技術では、例えば、2台のカメラで自車両の前方を撮像した画像に対して、ステレオマッチング処理を施し、所定数の画素のブロック毎の視差を導出する。そして、この視差に基づいて、実空間上の位置を導出している。
【0004】
さらに、位置を導出した対象物を一律に物として特定するのみならず、さらに高精度な制御を行うため、対象物が自車両と同速度で走行している先行車両であるのか、移動を伴わない固定された物であるのか等を判断する技術も存在する。
【0005】
例えば、自車両の進行方向に対して所定角度傾いて検出された各点をガードレール等の壁として判断し、自車両の進行方向に対して垂直な面の水平方向に沿って検出された各点を、先行車両の背面側等と判断する技術が提案されている(例えば、特許文献1)。
【先行技術文献】
【特許文献】
【0006】
【特許文献1】特開2008−59323号公報
【発明の概要】
【発明が解決しようとする課題】
【0007】
しかし、例えば、夜間や雨等でテールランプの光が拡散すると、ステレオマッチング処理において、テールランプを示さないブロックが、テールランプを示すブロックと誤ってマッチングしてしまうことがある。この場合、その誤ったマッチングから導出されるテールランプの実空間上の位置が、自車両の進行方向に対して所定角度傾いているように認識される。すると、上述した特許文献1の技術では、本来、先行車両の背面側として判断されるべきところが、壁と判断されてしまう可能性がある。進行方向に壁と認識される物体が検出されると、本来不要な、回避動作を行う自動制御が行われかねない。
【0008】
本発明は、このような課題に鑑み、夜間や雨等、光源が拡散し易い環境において、壁でないものを壁と誤判断することを抑制可能な、環境認識装置および環境認識方法を提供することを目的としている。
【課題を解決するための手段】
【0009】
上記課題を解決するために、本発明の環境認識装置は、検出領域内に存在する対象部位の、自車両に対する相対距離を含む位置情報を取得する位置情報取得部と、自車両の進行方向に垂直な水平距離の差分および自車両の進行方向に平行な相対距離の差分が第1所定距離内で連なる複数の対象部位をグループ化して対象物とするグループ化部と、対象物を構成する複数の対象部位が、自車両の進行方向に垂直な面に対して所定角度以上に傾斜する傾斜面を形成すると、対象物を壁の候補である壁候補と判断する候補判断部と、自車両の進行方向に垂直な水平距離の差分および自車両の進行方向に平行な相対距離の差分が、第1所定距離より長い第2所定距離内で連なる複数の壁候補を、壁であると判断する壁判断部と、を備えることを特徴とする。
【0010】
グループ化部は、自車両の進行方向に垂直な水平距離の差分および自車両の進行方向に平行な相対距離の差分に加えて、道路表面からの高さの差分に基づいて、グループ化の判断を行い、壁判断部は、自車両の進行方向に垂直な水平距離の差分および自車両の進行方向に平行な相対距離の差分に加えて、道路表面からの高さの差分に基づいて、壁の判断を行ってもよい。
【0011】
検出領域において光が拡散する環境か否かを判断する環境判断部をさらに備え、壁判断部は、環境判断部が、光が拡散する環境であると判断すると、壁候補をすべて壁と判断してもよい。
【0012】
対象物の画像の水平方向に並んだ対象部位群毎の、自車両に対する進行方向に平行な相対距離の平均値を導出する距離導出部と、画像の垂直方向の位置の順に並べられた、平均値のデータ列の軌跡の微分値が所定閾値を超えると、所定閾値を超えた対象部位群を跨いでグループ化された対象物を、対象部位群を境界として分割するグループ分割部と、をさらに備えてもよい。
【0013】
グループ分割部は、対象物を構成する対象部位全体の相対距離の平均値に基づいて、所定閾値を決定してもよい。
【0014】
上記課題を解決するために、本発明の環境認識方法は、検出領域内に存在する対象部位の、自車両に対する相対距離を含む位置情報を取得し、自車両の進行方向に垂直な水平距離の差分および自車両の進行方向に平行な相対距離の差分が第1所定距離内で連なる複数の対象部位をグループ化して対象物とし、対象物を構成する複数の対象部位が、自車両の進行方向に垂直な面に対して所定角度以上に傾斜する傾斜面を形成すると、対象物を壁の候補である壁候補と判断し、自車両の進行方向に垂直な水平距離の差分および自車両の進行方向に平行な相対距離の差分が、第1所定距離より長い第2所定距離内で連なる複数の壁候補を、壁であると判断することを特徴とする。
【発明の効果】
【0015】
本発明によれば、夜間や雨等、光源が拡散し易い環境において、壁でないものを壁と誤判断することを抑制できるので、壁と誤判断されたものに対する不要な回避動作の発生を抑えることが可能となる。
【図面の簡単な説明】
【0016】
【図1】環境認識システムの接続関係を示したブロック図である。
【図2】輝度画像と距離画像を説明するための説明図である。
【図3】環境認識装置の概略的な機能を示した機能ブロック図である。
【図4】位置情報取得部による三次元の位置情報への変換を説明するための説明図である。
【図5】グループ化部の処理を説明するための説明図である。
【図6】夜間の輝度画像の一例を示す説明図である。
【図7】壁判断処理を説明するための説明図である。
【図8】グループ分割処理を説明するための説明図である。
【図9】グループ分割処理を説明するための説明図である。
【図10】グループ分割処理を説明するための説明図である。
【図11】環境認識方法の全体的な流れを示したフローチャートである。
【図12】グループ化処理の流れを示したフローチャートである。
【図13】壁判断処理の流れを示したフローチャートである。
【図14】グループ分割処理の流れを示したフローチャートである。
【発明を実施するための形態】
【0017】
以下に添付図面を参照しながら、本発明の好適な実施形態について詳細に説明する。かかる実施形態に示す寸法、材料、その他具体的な数値などは、発明の理解を容易とするための例示にすぎず、特に断る場合を除き、本発明を限定するものではない。なお、本明細書及び図面において、実質的に同一の機能、構成を有する要素については、同一の符号を付することにより重複説明を省略し、また本発明に直接関係のない要素は図示を省略する。
【0018】
(環境認識システム100)
図1は、環境認識システム100の接続関係を示したブロック図である。環境認識システム100は、自車両1内に設けられた、複数(本実施形態では2つ)の撮像装置110と、画像処理装置120と、環境認識装置130と、車両制御装置140とを含んで構成される。
【0019】
撮像装置110は、CCD(Charge-Coupled Device)やCMOS(Complementary Metal-Oxide Semiconductor)等の撮像素子を含んで構成され、カラー画像、即ち、画素単位で3つの色相(赤、緑、青)の輝度を取得することができる。本実施形態においては、色と輝度とを同等に扱い、同一の文章に両文言が含まれる場合、互いを、色を構成する輝度、または、輝度を有する色と読み替えることができる。ここでは、撮像装置110で撮像されたカラーの画像を輝度画像と呼び、後述する距離画像と区別する。また、撮像装置110は、自車両1の進行方向側において2つの撮像装置110それぞれの光軸が略平行になるように、略水平方向に離隔して配置される。撮像装置110は、自車両1の前方の検出領域に存在する対象物を撮像した画像データを、例えば1/60秒毎(60fps)に連続して生成する。ここで、対象物は、車両、信号機、道路、ガードレールといった独立して存在する立体物のみならず、テールランプやウィンカー、信号機の各点灯部分等、立体物の部分として特定できる物も含む。以下の実施形態における各機能部は、このような画像データの更新を契機として各処理を遂行する。
【0020】
画像処理装置120は、2つの撮像装置110それぞれから画像データを取得し、2つの画像データに基づいて、画像中の任意のブロック(所定数の画素を集めたもの)の視差、および、任意のブロックの画面中の位置を示す画面位置を含む視差情報を導出する。画像処理装置120は、一方の画像データから任意に抽出したブロック(例えば水平4画素×垂直4画素の配列)に対応するブロックを他方の画像データから検索する、所謂パターンマッチングを用いて視差を導き出す。ここで、水平は、撮像した画像の画面横方向を示し、実空間上の水平に相当する。また、垂直は、撮像した画像の画面縦方向を示し、実空間上の鉛直方向に相当する。
【0021】
このパターンマッチングとしては、2つの画像データ間において、任意の画像位置を示すブロック単位で輝度値(Y色差信号)を比較することが考えられる。例えば、輝度値の差分をとるSAD(Sum of Absolute Difference)、差分を2乗して用いるSSD(Sum of Squared intensity Difference)や、各画素の輝度値から平均値を引いた分散値の類似度をとるNCC(Normalized Cross Correlation)等の手法がある。画像処理装置120は、このようなブロック単位の視差導出処理を検出領域(例えば600画素×200画素)に映し出されている全てのブロックについて行う。ここでは、ブロックを4画素×4画素としているが、ブロック内の画素数は任意に設定することができる。
【0022】
ただし、画像処理装置120では、検出分解能単位であるブロック毎に視差を導出することはできるが、そのブロックがどのような対象物の一部であるかを認識できない。したがって、視差情報は、対象物単位ではなく、検出領域における検出分解能単位(例えばブロック単位)で独立して導出されることとなる。ここでは、このようにして導出された視差情報(後述する相対距離に相当)を画像データに対応付けた画像を距離画像という。
【0023】
図2は、輝度画像124と距離画像126を説明するための説明図である。例えば、2つの撮像装置110を通じ、検出領域122について図2(a)のような輝度画像(画像データ)124が生成されたとする。ただし、ここでは、理解を容易にするため、2つの輝度画像124の一方のみを模式的に示している。画像処理装置120は、このような輝度画像124からブロック毎の視差を求め、図2(b)のような距離画像126を形成する。距離画像126における各ブロックには、そのブロックの視差が関連付けられている。ここでは、説明の便宜上、視差が導出されたブロックを黒のドットで表している。
【0024】
視差は、画像のエッジ部分(隣り合う画素間で明暗の差分が大きい部分)で特定され易いので、距離画像126において黒のドットが付されている、視差が導出されたブロックは、輝度画像124においてもエッジとなっていることが多い。したがって、図2(a)に示す輝度画像124と図2(b)に示す距離画像126とは各対象物の輪郭について似たものとなる。
【0025】
環境認識装置130は、画像処理装置120で導出された、検出領域122内のブロック毎の視差情報(距離画像126)を、所謂ステレオ法を用いて、相対距離を含む三次元の位置情報に変換し、自車両1の外の道路形状や立体物を特定する。ここで、ステレオ法は、三角測量法を用いることで、立体物の視差からその立体物の撮像装置110に対する相対距離を導出する方法である。かかる環境認識装置130に関しては、後ほど詳述する。
【0026】
車両制御装置140は、環境認識装置130で特定された対象物との衝突を回避したり、先行車両との車間距離を安全な距離に保つ制御を実行する。具体的に、車両制御装置140は、操舵の角度を検出する舵角センサ142や自車両1の速度を検出する車速センサ144等を通じて現在の自車両1の走行状態を取得し、アクチュエータ146を制御して先行車両との車間距離を安全な距離に保つ。ここで、アクチュエータ146は、ブレーキ、スロットルバルブ、舵角等を制御するために用いられる車両制御用のアクチュエータである。また、車両制御装置140は、対象物との衝突が想定される場合、運転者の前方に設置されたディスプレイ148にその旨警告表示(報知)を行うと共に、アクチュエータ146を制御して自車両1を自動的に制動する。かかる車両制御装置140は、環境認識装置130と一体的に形成することもできる。
【0027】
(環境認識装置130)
図3は、環境認識装置130の概略的な機能を示した機能ブロック図である。図3に示すように、環境認識装置130は、I/F部150と、データ保持部152と、環境検出部154と、中央制御部156とを含んで構成される。
【0028】
I/F部150は、画像処理装置120や車両制御装置140との双方向の情報交換を行うためのインターフェースである。データ保持部152は、RAM、フラッシュメモリ、HDD等で構成され、以下に示す各機能部の処理に必要な様々な情報を保持し、また、画像処理装置120から受信した輝度画像124、距離画像126を一時的に保持する。
【0029】
環境検出部154は、例えば、夜間であることを検出する夜間検出部と降雨を検出する雨検出部とで構成され、夜間や降雨を検出すると、夜間や降雨を検出したことを示す検出情報を後述する環境判断部168に出力する。また、環境検出部154は、夜間や降雨に限らず、撮像装置110の撮像が逆光となる等、撮像した画像における光源の光が拡散する環境を検出するとしてもよい。夜間検出部は、例えば自車両1の夜間ライトの点灯を以って夜間として検出してもよい。夜間検出部や雨検出部は、既存の様々な技術を用いて実現できるので、ここではその構成等、詳細な説明を省略する。
【0030】
中央制御部156は、中央処理装置(CPU)、プログラム等が格納されたROM、ワークエリアとしてのRAM等を含む半導体集積回路で構成され、システムバス158を通じて、I/F部150、データ保持部152および環境検出部154を制御する。また、本実施形態において、中央制御部156は、位置情報取得部160、グループ化部162、候補判断部164、壁判断部166、環境判断部168、距離導出部170、グループ分割部172、パターンマッチング部174としても機能する。
【0031】
位置情報取得部160は、画像処理装置120で導出された、検出領域122内のブロック毎の視差情報を、ステレオ法を用いて、水平距離x、高さyおよび相対距離zを含む三次元の位置情報に変換する。ここで、対象部位は、画素や画素を集めたブロックを想定しており、本実施形態では、画像処理装置120で用いられたブロックと同等の大きさを有する。
【0032】
画像処理装置120で導出された視差情報が、距離画像126における各対象部位の視差を示すのに対し、三次元の位置情報は、実空間における各対象部位の相対距離の情報を示す。したがって、相対距離や高さといった文言を用いる場合、実空間上の距離を指し、検出距離といった文言を用いる場合、距離画像126上の距離を指す。
【0033】
図4は、位置情報取得部160による三次元の位置情報への変換を説明するための説明図である。位置情報取得部160は、まず、距離画像126を図4の如く画素単位の座標系として認識する。ここでは、図4中、左下隅を原点(0,0)とし、横方向をi座標軸、縦方向をj座標軸とする。したがって、視差dpを有する画素は、画素位置i、jと視差dpによって(i,j,dp)のように表すことができる。
【0034】
本実施形態における実空間上の三次元座標系を、自車両1を中心とした相対座標系で考える。ここでは、自車両1の進行方向右側方をX軸の正方向、自車両1の上方をY軸の正方向、自車両1の進行方向(前方)をZ軸の正方向、2つの撮像装置110の中央を通る鉛直線と道路表面との交点を原点(0,0,0)とする。このとき、道路を平面と仮定すると、道路表面がX−Z平面(y=0)と一致することとなる。位置情報取得部160は、以下の(数式1)〜(数式3)によって距離画像126上のブロック(i,j,dp)を、実空間上の三次元の点(x,y,z)に座標変換する。
x=CD/2+z・PW・(i−IV) …(数式1)
y=CH+z・PW・(j−JV) …(数式2)
z=KS/dp …(数式3)
ここで、CDは撮像装置110同士の間隔(基線長)であり、PWは1画素当たりの視野角であり、CHは撮像装置110の道路表面からの配置高さであり、IV、JVは自車両1の真正面における無限遠点の画像上の座標(画素)であり、KSは距離係数(KS=CD/PW)である。
【0035】
グループ化部162は、自車両1の進行方向に垂直な水平距離xの差分および自車両1の進行方向に平行な相対距離zの差分が第1所定距離内に連なる複数の対象部位をグループ化して対象物とする。具体的に、グループ化部162は、実空間上の位置を導出した任意の対象部位を基点として、その対象部位と、水平距離xの差分および相対距離zの差分が第1所定距離内にある対象部位をグループ化し、対象物とする。ここで、第1所定距離は実空間上の距離で表され、任意の値(例えば、1.0m等)に設定することができる。また、ここでは、複数の対象部位が連なるとは、複数の対象部位が1次以上の次数の同じ曲線上に位置することをいう。
【0036】
また、グループ化部162は、グループ化により新たに追加された対象部位に関しても、その対象部位を基点として、水平距離xの差分および相対距離zの差分が第1所定距離内にある、特定物が等しい対象部位をグループ化する。結果的に、対象部位同士の距離が第1所定距離内であれば、それら全てがグループ化されることとなる。
【0037】
図5は、先行車両200の対象部位202のグループ化を説明するための説明図である。図5(a)に示すような輝度画像124が生成されたとする。この輝度画像124における走行路204上の先行車両200を実空間上の鉛直上方から見た平面図を図5(b)、(c)、(d)に示す。
【0038】
図5(b)に示す先行車両200の背面側の対象部位202が図5(c)に示すように検出された場合、グループ化部162は、これらの対象部位202をグループ化して、図5(d)に示すように対象物206とする。
【0039】
このように、先行車両200の背面側の対象部位202は、X軸方向に大凡平行に検出される。一方、ガードレール等の壁の対象部位は、X軸方向に対して所定角度(例えば、45度)以上傾いている任意の傾斜面を形成する。このことから、壁を検出する場合、X軸方向に対して所定角度以上傾いている任意の傾斜面を形成する対象部位で構成される対象物を探索する処理が考えられる。ところが、この場合、夜間や雨等において壁の誤検出が生じ得る。
【0040】
図6は、夜間の輝度画像124の一例を示す説明図である。図6に示すように、先行車両200の背面側にはテールランプ208が灯っている。しかし、夜間であるため、テールランプ208の光が拡散してぼやけている。この場合、画像処理装置120が導出する視差情報には誤差が生じることがある。
【0041】
図7は、壁判断処理を説明するための説明図である。図7(a)に、図5(c)と同様に、先行車両200の背面側の対象部位202の検出を行った結果、夜間で視差情報に誤差が生じている場合の例を示す。
【0042】
図7(a)のように、夜間等で視差情報に誤差があると、本来、X軸方向に対して平行な対象部位202として検出されるべきはずが、X軸方向に対して所定角度以上傾いている傾斜面を形成する対象部位202として検出されることがある。すると、その対象部位202をグループ化した対象物206aは、壁として誤検出されてしまうこととなる。
【0043】
本実施形態では、候補判断部164、壁判断部166、および環境判断部168がこのような壁の誤検出を回避するために機能する。以下、候補判断部164、壁判断部166、環境判断部168による壁判断処理について詳述する。
【0044】
(壁判断処理)
候補判断部164は、高さyが0以上となる(道路表面より上に位置する)対象物206としてグループ化された複数の対象部位202が、自車両1の進行方向に垂直な面に対して所定角度以上に傾斜する傾斜面を形成するか否かを判断する。すなわち、対象部位202が、X軸方向に対して所定角度以上傾いている任意の傾斜面を形成するか否かが判断される。本実施形態において候補判断部164は、壁の検出精度を向上するため、少なくとも3つ以上の対象部位202で構成される対象物を判断の対象とする。
【0045】
傾斜面上に位置する場合、候補判断部164は、それだけではその対象部位がグループ化された対象物を壁と判断せず、一旦、壁の候補である壁候補と判断する。図7(a)の場合、対象物206aが壁候補と判断される。
【0046】
壁判断部166は、対象物206aの中心位置を中心として、X軸方向の第2所定距離の範囲内(例えば、図7(b)に示すABの範囲内、5.0m以内)かつ、Z軸方向の第2所定距離の範囲内に、他の壁候補があるか否かを判断する。第2所定距離は、上述した第1所定距離よりも長い。
【0047】
図7(b)に示す例では、対象物206a、206bは、先行車両200の背面側から検出されたものであるため、対象物206aの近傍に他の壁候補はない。このように、他の壁候補が検出されない場合、壁判断部166は、その壁候補が壁ではないと判断する。
【0048】
また、図7(b)に示す例で、対象物206bもその配列に応じて壁候補と判断されてしまった場合、対象物206a、206bが壁であると判断されてしまうおそれがある。
【0049】
ガードレール等の壁は、X軸方向に対して所定角度以上傾いている傾斜面を有する。そのため、壁から検出された複数の壁候補は、同一の傾斜面に対象部位がまとまり易い。一方、先行車両200の背面側等から複数の壁候補が誤検出される場合、その対象部位は、同一の傾斜面にまとまる可能性が低い。
【0050】
そこで、壁判断部166は、壁候補となった対象物について、その対象物としてグループ化された対象部位を繋ぐ線の延長線上から、所定の距離内に他の壁候補が位置すると、それらの壁候補を壁と判断する。また、対象部位を繋ぐ線に限らず、例えば、対象部位の位置をサンプルとして導出される近似曲線を用いてもよい。かかる構成により、壁判断部166は、精度よく壁の判断を行うことが可能となる。
【0051】
この場合、壁判断部166は、壁でないと判断した壁候補(対象物206a)と、その壁候補から、例えば、X軸方向およびZ軸方向に第3所定距離の範囲内(例えば、図7(c)に示すCDの範囲内、3.0m以内)にある、壁候補ではない対象物206bとをまとめて、図7(d)に示すように、一つの対象物206cとする。
【0052】
このように、壁でないと判断された壁候補を他の対象物とまとめることで、後述するパターンマッチング部174は、まとめられた対象物206cが、例えば、先行車両200の背面側であると高精度に判断できる。
【0053】
図7(e)に、カーブにおけるガードレールから検出された対象物206d、206e、206f、206g、206hを示す。この場合、壁判断部166は、対象物206dの中心位置を中心に、X軸方向およびZ軸方向に第2所定距離の範囲内に近接する対象物206eを検出する。同様に、壁判断部166は、対象物206eに近接する対象物206f、対象物206fに近接する対象物206gと順次、対象物206d〜206hまでを検出する。
【0054】
そして、図7(f)に示すように、壁判断部166は、これらの第2所定距離内に近接して連なる複数の壁候補を、壁210であると判断する。
【0055】
テールランプ等の光源は、壁と比較してX−Z平面方向の大きさが小さい。本実施形態の壁判断部166は、壁候補が複数連なっていると壁と判断し、壁候補が単独で検出されても壁とは判断しない。そのため、壁判断部166は、テールランプ等が光の拡散によって壁のように傾斜面を形成しているように誤検出されても、テールランプ等を壁と判断することはなく、壁の誤検出を抑制できる。
【0056】
環境判断部168は、検出領域122において光が拡散する環境か否かを判断する。ここで、光が拡散する環境は、例えば、夜間や、降雨等でフロントガラスに水滴やこの水滴を払拭しようとしてできた水のスジ等が付いた状況等が挙げられる。環境判断部168は、環境検出部154から出力された検出情報が夜間や降雨を示す場合、検出領域122において光が拡散する環境であると判断する。
【0057】
そして、壁判断部166は、環境判断部168が、光が拡散する環境でないと判断すると、壁候補をすべて壁と判断する。図6に示すような光が拡散する環境でなければ、視差情報に誤差が生じる可能性が低いためである。かかる構成により、壁判断部166は、光が拡散する環境でない場合に、壁判断処理の処理負荷を低減することが可能となる。
【0058】
(グループ分割処理)
続いて、壁と判断されなかった対象物について、誤って1つにまとめてグループ化されてしまった対象物を、個別の対象物に分割するグループ分割処理について詳述する。
【0059】
図8、図9は、グループ分割処理を説明するための説明図である。図8(a)は実際の輝度画像124の一例であり、輝度画像124に対応する距離画像126を図8(b)に示す。ただし、グループ分割処理の説明に不要な要素については距離画像126から省略する。図8(a)、(b)に示すように、自車両1の走行路220をバス222と乗用車224とが進行方向に前後に並んで走行しており相対距離zが比較的近い値であったとする。この場合、図8(c)に示すように、バス222と乗用車224といった前後に並んだ2台の車両が1つのまとまった対象物226として誤検出されてしまう場合がある。
【0060】
そこで、距離導出部170は、図8(d)に矢印で示す、対象物226の距離画像126の水平方向に並んだ対象部位群毎の、相対距離zの平均値を導出する。
【0061】
バス222と乗用車224とをX軸方向から見た場合、図9(a)に示すように並んでいるとする。自車両1から見て、手前に位置する乗用車224の方は背面側がすべて映るが、バス222の背面側の一部は、乗用車224の陰となって輝度画像124には映らない。そのため、水平方向に並んだ対象部位群毎の相対距離zの平均値を、距離画像126のj座標軸とZ軸との座標上にプロットして軌跡を描くと、例えば、図9(b)に示すようになる。
【0062】
図9(c)は、図9(b)の座標軸を90度傾けて左右を反転させたものである。図9(c)において、破線228の部分では、j座標値の変化に対して相対距離zが大きく変化している。この垂直位置cは、輝度画像124において、バス222と乗用車224との境界部分に対応する。
【0063】
グループ分割部172は、まず、j座標値の順に並べられた、相対距離zの平均値のデータ列の軌跡の微分値を導出し、所定閾値と比較して、所定閾値を超えた対象部位群の垂直位置cを特定する。
【0064】
図10は、グループ分割処理を説明するための説明図である。グループ分割部172は、垂直位置cを特定すると、図10(a)に示す垂直位置cを跨いでグループ化された対象物226を、図10(b)に示すように、その垂直位置cを境界として分割し、新たに2つの対象物226a、226bとする。
【0065】
このように、グループ分割部172は、本来、異なるグループとしてグループ化されるべきところ、1つのグループとしてまとめられてしまった対象物226を、正しく別々の対象物226a、226bに分割する。そのため、環境認識装置130は、後段のパターンマッチング処理等の精度を向上できる。
【0066】
また、グループ分割部172は、対象物226を構成する対象部位全体の相対距離zの平均値に基づいて、所定閾値を決定する。
【0067】
位置情報取得部160が導出する位置は、相対距離zが離れている程、距離分解能が低くなる。そのため、グループ分割部172は、距離分解能以下の値は無視するように、相対距離zに応じて所定閾値を調整する。かかる構成により、グループ分割部172は、距離分解能以下の誤差の影響によって、対象物226が誤って分割されてしまう事態を回避できる。
【0068】
パターンマッチング部174は、予めデータ保持部152に保持された立体物のモデルデータとのパターンマッチングを実行する。そして、対象物が、いずれかの立体物に該当するか否かを判断する。こうして、環境認識装置130は、壁の他、壁以外の立体物についても認識することができる。
【0069】
(環境認識方法)
以下、環境認識装置130の具体的な処理を図11〜図14のフローチャートに基づいて説明する。図11は、画像処理装置120から距離画像(視差情報)126が送信された場合の割込処理に関する全体的な流れを示し、図12〜図14は、その中の個別のサブルーチンを示している。
【0070】
図11に示すように、距離画像126の受信を契機に当該環境認識方法による割込が発生すると、画像処理装置120で導出された、検出領域122内のブロック毎の視差情報に基づき、対象部位毎の実空間上の位置を示す位置情報が導出される(S300)。そして、対象部位に対してグループ化処理が施される(S302)。
【0071】
続いて、グループ化された対象物に対して壁判断処理が施され(S304)、さらに、壁と判断されなかった対象物に対して、グループ分割処理が施される(S306)。そして、パターンマッチング部174によって、対象物に対する立体物のパターンマッチングが実行される(S308)。以下、上記の処理を具体的に説明する。
【0072】
(グループ化処理S302)
図12を参照すると、グループ化部162は、輝度画像124のまだ選択していない1つの対象部位を選択する(S350)。そして、グループ化部162は、選択した対象部位から、水平距離xの差分および相対距離zの差分が第1所定距離内に位置する対象部位があるか否かを判断する(S352)。第1所定距離内に対象部位がある場合(S352におけるYES)、グループ化部162は、第1所定距離内にあったすべての対象部位をまとめてグループ化し対象物とする(S354)。
【0073】
このとき、第1所定距離内にあった対象部位が、すでに対象物としてグループ化されていた場合、その対象物もまとめてグループ化して1つの対象物とする。こうして、グループ化部162は、近接して連なる複数の対象部位をグループ化して対象物とする。
【0074】
第1所定距離内に対象部位がなかった場合(S352におけるNO)、および、対象物設定S354の後、グループ化部162は、輝度画像124に、まだ選択していない対象部位があるか否かを判断する(S356)。対象部位がある場合(S356におけるYES)、対象部位選択S350に戻る。まだ選択していない対象部位がない場合(S356におけるNO)、当該グループ化処理S302を終了する。
【0075】
(壁判断処理S304)
図13を参照すると、候補判断部164は、まだ選択していない1つの対象物を選択する(S400)。そして、候補判断部164は、その対象物の中心の高さyが0以上である(道路表面より上に位置する)か否かを判断する(S402)。高さyが0以上でない場合(S402におけるNO)、未選択対象物判断S408に処理を移す。
【0076】
高さyが0以上である場合(S402におけるYES)、候補判断部164は、対象物としてグループ化された対象部位が、自車両1の進行方向に垂直な面に対して所定角度以上に傾斜する傾斜面を形成するか否かを判断する(S404)。傾斜面を形成しない場合(S404におけるNO)、未選択対象物判断S408に処理を移す。
【0077】
対象部位が傾斜面を形成する場合(S404におけるYES)、候補判断部164は、その対象部位をグループ化した対象物を壁の候補である壁候補と判断する(S406)。そして、未選択対象物判断S408に処理を移す。
【0078】
続いて、候補判断部164は、まだ選択していない対象物があるか否かを判断する(S408)。まだ選択していない対象物があれば(S408におけるYES)、対象物選択S400に戻る。
【0079】
すべての対象物に対して、壁候補判断処理を施されると(S408におけるNO)、環境判断部168は、夜間や降雨等、光が拡散する環境であるか否かを判断する(S410)。光が拡散する環境でない場合(S410におけるNO)、壁判断部168は、すべての壁候補を壁と判断する(S412)。光が拡散する環境である場合(S410におけるYES)、壁判断部166は、まだ選択していない壁候補があるか否かを判断する(S414)。壁候補がある場合(S414におけるYES)、壁判断部166は、まだ選択していない1つの壁候補を選択する(S416)。そして、壁判断部166は、選択した壁候補の中心位置を中心として、X軸方向の第2所定距離の範囲内かつ、Z軸方向の第2所定距離の範囲内に、他の壁候補があるか否かを判断する(S418)。
【0080】
このとき、壁判断部166は、選択した壁候補となった対象物について、その対象物としてグループ化された対象部位を繋ぐ線の延長線上から、所定の距離内に他の壁候補が位置するか否かも併せて判断する。
【0081】
対象部位を繋ぐ線の延長線上から所定の距離内に位置する、他の壁候補がある場合(S418におけるYES)、壁判断部166は、そのすべての壁候補を壁と判断する(S420)。そして、未選択壁候補判断S414に戻る。こうして、壁判断部166は、第2所定距離内に近接して連なる複数の壁候補を壁であると判断する。
【0082】
他の壁候補がない場合(S418におけるNO)、その壁候補は壁ではないと判断する(S422)。そして、壁判断部166は、壁でないと判断した壁候補から、X軸方向およびZ軸方向に第3所定距離の範囲内に、壁候補以外の対象物があるか否かを判断する(S424)。壁候補以外の対象物がない場合(S424におけるNO)、未選択壁候補判断S414に戻る。
【0083】
壁候補以外の対象物がある場合(S424におけるYES)、壁判断部166は、壁でないと判断した壁候補と、壁候補以外の対象物とをまとめて、一つの対象物とする(S426)。そして、未選択壁候補判断S414に戻る。
【0084】
未選択壁候補判断S414において、まだ選択していない壁候補がない場合(S414におけるNO)、当該壁判断処理S304を終了する。
【0085】
(グループ分割処理S306)
図14を参照すると、距離導出部170は、当該グループ分割処理S306においてまだ選択していない1つの対象物を選択する(S450)。そして、距離導出部170は、選択した対象物の輝度画像124の水平方向に並んだ対象部位群毎の、相対距離zの平均値を導出する(S452)。そして、距離導出部170は、導出した相対距離zの平均値を、輝度画像124の垂直方向の位置の順に並べたデータ列を生成する(S454)。
【0086】
続いて、グループ分割部172は、選択した対象物を構成する対象部位全体の相対距離zの平均値を導出し、導出した平均値に基づいて、所定閾値を決定する(S456)。そして、グループ分割部172は、生成された相対距離zの平均値のデータ列の微分値を導出し(S458)、導出した微分値が所定閾値を超えるか否かを判断する(S460)。所定閾値を超えない場合(S460におけるNO)、未選択対象物判断S466に処理を移す。
【0087】
微分値が所定閾値を超える場合(S460におけるYES)、グループ分割部172は、所定閾値を超えた微分値に対応する対象部位の垂直位置cを特定する(S462)。そして、グループ分割部172は、垂直位置cを跨いでグループ化された対象物を、その垂直位置cを境界として分割する(S464)。そして、未選択対象物判断S466に処理を移す。
【0088】
続いて、距離導出部170は、当該グループ分割処理S306においてまだ選択していない対象物があるか否かを判断する(S466)。まだ選択していない対象物があれば(S466におけるYES)、対象物選択S450に戻る。まだ選択していない対象物がなければ(S466におけるNO)、当該グループ分割処理S306を終了する。
【0089】
以上、説明したように、環境認識装置130によれば、夜間や雨等、光源が拡散し易い環境において、壁でないものを壁と誤判断することを抑制することが可能となる。
【0090】
また、コンピュータを、環境認識装置130として機能させるプログラムや当該プログラムを記録した、コンピュータで読み取り可能なフレキシブルディスク、光磁気ディスク、ROM、CD、DVD、BD等の記憶媒体も提供される。ここで、プログラムは、任意の言語や記述方法にて記述されたデータ処理手段をいう。
【0091】
以上、添付図面を参照しながら本発明の好適な実施形態について説明したが、本発明はかかる実施形態に限定されないことは言うまでもない。当業者であれば、特許請求の範囲に記載された範疇において、各種の変更例または修正例に想到し得ることは明らかであり、それらについても当然に本発明の技術的範囲に属するものと了解される。
【0092】
上述した実施形態では、グループ化部162および壁判断部166は、実空間上の水平距離xや相対距離zを用いて判断しているが、輝度画像124上や距離画像126上の検出距離で判断してもよい。この場合、第1所定距離および第2所定距離は、対象部位の相対距離に応じて変更される。図2等に示したように、輝度画像124や距離画像126では、遠近の物体が平面上に表されているため、本体遠方に位置する物体は小さく(短く)表され、近傍に位置する物体は大きく(長く)表される。したがって、輝度画像124や距離画像126における第1所定距離および第2所定距離は、例えば、遠方に位置する対象部位については短く、近傍に位置する対象部位については長く設定されることとなる。こうして、遠方と近傍とで検出距離が異なる場合であっても安定したグループ化処理および壁判断処理が望める。
【0093】
また、グループ化部162は、上述した水平距離xの差分や相対距離zの差分に加えて、高さyの差分が第1所定距離内にある対象部位をグループ化してもよい。この場合、水平距離x、高さyおよび相対距離zのいずれかが離れていると、その対象部位のグループは独立した対象物とみなすこととする。こうして、高精度なグループ化を図ることができる。
【0094】
同様に、壁判断部166は、水平距離xの差分および相対距離zの差分に加えて、道路表面からの高さyの差分に基づいて、壁の判断を行ってもよい。このように、高さyの差分も含めて、壁の判断を行う構成により、壁判断部166は、壁の検出精度を高めることが可能となる。
【0095】
また、グループ化部162は、水平距離xの差分、高さyの差分および相対距離zの差分をそれぞれ独立して判断し、全てが第1所定距離に含まれる場合のみ同一のグループとしているが、他の計算によることもできる。例えば、水平距離xの差分、高さyの差分および相対距離zの差分の二乗平均√((水平距離xの差分)2+(高さyの差分)2+(相対距離zの差分)2)が第1所定距離に含まれる場合に同一のグループとしてもよい。かかる計算により、対象部位同士の実空間上の正確な距離を導出することができるので、グループ化精度を高めることができる。
【0096】
同様に、壁判断部166は、水平距離xの差分、高さyの差分および相対距離zの差分をそれぞれ独立して判断し、第2所定距離に含まれる場合のみ壁と判断しているが、他の計算によることもできる。例えば、水平距離xの差分、高さyの差分および相対距離zの差分の二乗平均√((水平距離xの差分)2+(高さyの差分)2+(相対距離zの差分)2)が第2所定距離に含まれる場合、壁と判断としてもよい。かかる計算により、壁候補同士の実空間上の正確な距離を導出することができるので、壁の判断の精度を高めることができる。
【0097】
また、上述した実施形態においては、対象物の三次元位置を複数の撮像装置110を用い画像データ間の視差に基づいて導出しているが、かかる場合に限られず、例えば、レーザレーダ測距装置等、既知の様々な距離測定装置を用いることができる。ここで、レーザレーダ測距装置は、検出領域122にレーザビームを投射し、このレーザビームが物体に当たって反射してくる光を受光し、この所要時間から物体までの距離を測定するものである。
【0098】
また、上述した実施形態では、位置情報取得部160が、画像処理装置120から距離画像(視差情報)126を受けて三次元の位置情報を生成している例を挙げている。しかし、かかる場合に限られず、画像処理装置120において予め三次元の位置情報を生成し、位置情報取得部160は、その生成された三次元の位置情報を取得するとしてもよい。このようにして、機能分散を図り、環境認識装置130の処理負荷を軽減することが可能となる。
【0099】
また、上述した実施形態においては、位置情報取得部160、グループ化部162、候補判断部164、壁判断部166、環境判断部168、距離導出部170、グループ分割部172、パターンマッチング部174は中央制御部156によってソフトウェアで動作するように構成している。しかし、上記の機能部をハードウェアによって構成することも可能である。
【0100】
なお、本明細書の環境認識方法の各工程は、必ずしもフローチャートとして記載された順序に沿って時系列に処理する必要はなく、並列的あるいはサブルーチンによる処理を含んでもよい。
【産業上の利用可能性】
【0101】
本発明は、検出領域における対象物の輝度に基づいて、その対象物を認識する環境認識装置および環境認識方法に利用することができる。
【符号の説明】
【0102】
1 …自車両
130 …環境認識装置
160 …位置情報取得部
162 …グループ化部
164 …候補判断部
166 …壁判断部
168 …環境判断部
170 …距離導出部
172 …グループ分割部
174 …パターンマッチング部
【技術分野】
【0001】
本発明は、検出領域における対象物の輝度に基づいて、その対象物を認識する環境認識装置および環境認識方法に関する。
【背景技術】
【0002】
従来、自車両の前方に位置する車両や信号機等の障害物といった対象物を検出し、検出した対象物との衝突を回避したり、先行車両との車間距離を安全な距離に保つように制御する技術が知られている。
【0003】
このような技術では、例えば、2台のカメラで自車両の前方を撮像した画像に対して、ステレオマッチング処理を施し、所定数の画素のブロック毎の視差を導出する。そして、この視差に基づいて、実空間上の位置を導出している。
【0004】
さらに、位置を導出した対象物を一律に物として特定するのみならず、さらに高精度な制御を行うため、対象物が自車両と同速度で走行している先行車両であるのか、移動を伴わない固定された物であるのか等を判断する技術も存在する。
【0005】
例えば、自車両の進行方向に対して所定角度傾いて検出された各点をガードレール等の壁として判断し、自車両の進行方向に対して垂直な面の水平方向に沿って検出された各点を、先行車両の背面側等と判断する技術が提案されている(例えば、特許文献1)。
【先行技術文献】
【特許文献】
【0006】
【特許文献1】特開2008−59323号公報
【発明の概要】
【発明が解決しようとする課題】
【0007】
しかし、例えば、夜間や雨等でテールランプの光が拡散すると、ステレオマッチング処理において、テールランプを示さないブロックが、テールランプを示すブロックと誤ってマッチングしてしまうことがある。この場合、その誤ったマッチングから導出されるテールランプの実空間上の位置が、自車両の進行方向に対して所定角度傾いているように認識される。すると、上述した特許文献1の技術では、本来、先行車両の背面側として判断されるべきところが、壁と判断されてしまう可能性がある。進行方向に壁と認識される物体が検出されると、本来不要な、回避動作を行う自動制御が行われかねない。
【0008】
本発明は、このような課題に鑑み、夜間や雨等、光源が拡散し易い環境において、壁でないものを壁と誤判断することを抑制可能な、環境認識装置および環境認識方法を提供することを目的としている。
【課題を解決するための手段】
【0009】
上記課題を解決するために、本発明の環境認識装置は、検出領域内に存在する対象部位の、自車両に対する相対距離を含む位置情報を取得する位置情報取得部と、自車両の進行方向に垂直な水平距離の差分および自車両の進行方向に平行な相対距離の差分が第1所定距離内で連なる複数の対象部位をグループ化して対象物とするグループ化部と、対象物を構成する複数の対象部位が、自車両の進行方向に垂直な面に対して所定角度以上に傾斜する傾斜面を形成すると、対象物を壁の候補である壁候補と判断する候補判断部と、自車両の進行方向に垂直な水平距離の差分および自車両の進行方向に平行な相対距離の差分が、第1所定距離より長い第2所定距離内で連なる複数の壁候補を、壁であると判断する壁判断部と、を備えることを特徴とする。
【0010】
グループ化部は、自車両の進行方向に垂直な水平距離の差分および自車両の進行方向に平行な相対距離の差分に加えて、道路表面からの高さの差分に基づいて、グループ化の判断を行い、壁判断部は、自車両の進行方向に垂直な水平距離の差分および自車両の進行方向に平行な相対距離の差分に加えて、道路表面からの高さの差分に基づいて、壁の判断を行ってもよい。
【0011】
検出領域において光が拡散する環境か否かを判断する環境判断部をさらに備え、壁判断部は、環境判断部が、光が拡散する環境であると判断すると、壁候補をすべて壁と判断してもよい。
【0012】
対象物の画像の水平方向に並んだ対象部位群毎の、自車両に対する進行方向に平行な相対距離の平均値を導出する距離導出部と、画像の垂直方向の位置の順に並べられた、平均値のデータ列の軌跡の微分値が所定閾値を超えると、所定閾値を超えた対象部位群を跨いでグループ化された対象物を、対象部位群を境界として分割するグループ分割部と、をさらに備えてもよい。
【0013】
グループ分割部は、対象物を構成する対象部位全体の相対距離の平均値に基づいて、所定閾値を決定してもよい。
【0014】
上記課題を解決するために、本発明の環境認識方法は、検出領域内に存在する対象部位の、自車両に対する相対距離を含む位置情報を取得し、自車両の進行方向に垂直な水平距離の差分および自車両の進行方向に平行な相対距離の差分が第1所定距離内で連なる複数の対象部位をグループ化して対象物とし、対象物を構成する複数の対象部位が、自車両の進行方向に垂直な面に対して所定角度以上に傾斜する傾斜面を形成すると、対象物を壁の候補である壁候補と判断し、自車両の進行方向に垂直な水平距離の差分および自車両の進行方向に平行な相対距離の差分が、第1所定距離より長い第2所定距離内で連なる複数の壁候補を、壁であると判断することを特徴とする。
【発明の効果】
【0015】
本発明によれば、夜間や雨等、光源が拡散し易い環境において、壁でないものを壁と誤判断することを抑制できるので、壁と誤判断されたものに対する不要な回避動作の発生を抑えることが可能となる。
【図面の簡単な説明】
【0016】
【図1】環境認識システムの接続関係を示したブロック図である。
【図2】輝度画像と距離画像を説明するための説明図である。
【図3】環境認識装置の概略的な機能を示した機能ブロック図である。
【図4】位置情報取得部による三次元の位置情報への変換を説明するための説明図である。
【図5】グループ化部の処理を説明するための説明図である。
【図6】夜間の輝度画像の一例を示す説明図である。
【図7】壁判断処理を説明するための説明図である。
【図8】グループ分割処理を説明するための説明図である。
【図9】グループ分割処理を説明するための説明図である。
【図10】グループ分割処理を説明するための説明図である。
【図11】環境認識方法の全体的な流れを示したフローチャートである。
【図12】グループ化処理の流れを示したフローチャートである。
【図13】壁判断処理の流れを示したフローチャートである。
【図14】グループ分割処理の流れを示したフローチャートである。
【発明を実施するための形態】
【0017】
以下に添付図面を参照しながら、本発明の好適な実施形態について詳細に説明する。かかる実施形態に示す寸法、材料、その他具体的な数値などは、発明の理解を容易とするための例示にすぎず、特に断る場合を除き、本発明を限定するものではない。なお、本明細書及び図面において、実質的に同一の機能、構成を有する要素については、同一の符号を付することにより重複説明を省略し、また本発明に直接関係のない要素は図示を省略する。
【0018】
(環境認識システム100)
図1は、環境認識システム100の接続関係を示したブロック図である。環境認識システム100は、自車両1内に設けられた、複数(本実施形態では2つ)の撮像装置110と、画像処理装置120と、環境認識装置130と、車両制御装置140とを含んで構成される。
【0019】
撮像装置110は、CCD(Charge-Coupled Device)やCMOS(Complementary Metal-Oxide Semiconductor)等の撮像素子を含んで構成され、カラー画像、即ち、画素単位で3つの色相(赤、緑、青)の輝度を取得することができる。本実施形態においては、色と輝度とを同等に扱い、同一の文章に両文言が含まれる場合、互いを、色を構成する輝度、または、輝度を有する色と読み替えることができる。ここでは、撮像装置110で撮像されたカラーの画像を輝度画像と呼び、後述する距離画像と区別する。また、撮像装置110は、自車両1の進行方向側において2つの撮像装置110それぞれの光軸が略平行になるように、略水平方向に離隔して配置される。撮像装置110は、自車両1の前方の検出領域に存在する対象物を撮像した画像データを、例えば1/60秒毎(60fps)に連続して生成する。ここで、対象物は、車両、信号機、道路、ガードレールといった独立して存在する立体物のみならず、テールランプやウィンカー、信号機の各点灯部分等、立体物の部分として特定できる物も含む。以下の実施形態における各機能部は、このような画像データの更新を契機として各処理を遂行する。
【0020】
画像処理装置120は、2つの撮像装置110それぞれから画像データを取得し、2つの画像データに基づいて、画像中の任意のブロック(所定数の画素を集めたもの)の視差、および、任意のブロックの画面中の位置を示す画面位置を含む視差情報を導出する。画像処理装置120は、一方の画像データから任意に抽出したブロック(例えば水平4画素×垂直4画素の配列)に対応するブロックを他方の画像データから検索する、所謂パターンマッチングを用いて視差を導き出す。ここで、水平は、撮像した画像の画面横方向を示し、実空間上の水平に相当する。また、垂直は、撮像した画像の画面縦方向を示し、実空間上の鉛直方向に相当する。
【0021】
このパターンマッチングとしては、2つの画像データ間において、任意の画像位置を示すブロック単位で輝度値(Y色差信号)を比較することが考えられる。例えば、輝度値の差分をとるSAD(Sum of Absolute Difference)、差分を2乗して用いるSSD(Sum of Squared intensity Difference)や、各画素の輝度値から平均値を引いた分散値の類似度をとるNCC(Normalized Cross Correlation)等の手法がある。画像処理装置120は、このようなブロック単位の視差導出処理を検出領域(例えば600画素×200画素)に映し出されている全てのブロックについて行う。ここでは、ブロックを4画素×4画素としているが、ブロック内の画素数は任意に設定することができる。
【0022】
ただし、画像処理装置120では、検出分解能単位であるブロック毎に視差を導出することはできるが、そのブロックがどのような対象物の一部であるかを認識できない。したがって、視差情報は、対象物単位ではなく、検出領域における検出分解能単位(例えばブロック単位)で独立して導出されることとなる。ここでは、このようにして導出された視差情報(後述する相対距離に相当)を画像データに対応付けた画像を距離画像という。
【0023】
図2は、輝度画像124と距離画像126を説明するための説明図である。例えば、2つの撮像装置110を通じ、検出領域122について図2(a)のような輝度画像(画像データ)124が生成されたとする。ただし、ここでは、理解を容易にするため、2つの輝度画像124の一方のみを模式的に示している。画像処理装置120は、このような輝度画像124からブロック毎の視差を求め、図2(b)のような距離画像126を形成する。距離画像126における各ブロックには、そのブロックの視差が関連付けられている。ここでは、説明の便宜上、視差が導出されたブロックを黒のドットで表している。
【0024】
視差は、画像のエッジ部分(隣り合う画素間で明暗の差分が大きい部分)で特定され易いので、距離画像126において黒のドットが付されている、視差が導出されたブロックは、輝度画像124においてもエッジとなっていることが多い。したがって、図2(a)に示す輝度画像124と図2(b)に示す距離画像126とは各対象物の輪郭について似たものとなる。
【0025】
環境認識装置130は、画像処理装置120で導出された、検出領域122内のブロック毎の視差情報(距離画像126)を、所謂ステレオ法を用いて、相対距離を含む三次元の位置情報に変換し、自車両1の外の道路形状や立体物を特定する。ここで、ステレオ法は、三角測量法を用いることで、立体物の視差からその立体物の撮像装置110に対する相対距離を導出する方法である。かかる環境認識装置130に関しては、後ほど詳述する。
【0026】
車両制御装置140は、環境認識装置130で特定された対象物との衝突を回避したり、先行車両との車間距離を安全な距離に保つ制御を実行する。具体的に、車両制御装置140は、操舵の角度を検出する舵角センサ142や自車両1の速度を検出する車速センサ144等を通じて現在の自車両1の走行状態を取得し、アクチュエータ146を制御して先行車両との車間距離を安全な距離に保つ。ここで、アクチュエータ146は、ブレーキ、スロットルバルブ、舵角等を制御するために用いられる車両制御用のアクチュエータである。また、車両制御装置140は、対象物との衝突が想定される場合、運転者の前方に設置されたディスプレイ148にその旨警告表示(報知)を行うと共に、アクチュエータ146を制御して自車両1を自動的に制動する。かかる車両制御装置140は、環境認識装置130と一体的に形成することもできる。
【0027】
(環境認識装置130)
図3は、環境認識装置130の概略的な機能を示した機能ブロック図である。図3に示すように、環境認識装置130は、I/F部150と、データ保持部152と、環境検出部154と、中央制御部156とを含んで構成される。
【0028】
I/F部150は、画像処理装置120や車両制御装置140との双方向の情報交換を行うためのインターフェースである。データ保持部152は、RAM、フラッシュメモリ、HDD等で構成され、以下に示す各機能部の処理に必要な様々な情報を保持し、また、画像処理装置120から受信した輝度画像124、距離画像126を一時的に保持する。
【0029】
環境検出部154は、例えば、夜間であることを検出する夜間検出部と降雨を検出する雨検出部とで構成され、夜間や降雨を検出すると、夜間や降雨を検出したことを示す検出情報を後述する環境判断部168に出力する。また、環境検出部154は、夜間や降雨に限らず、撮像装置110の撮像が逆光となる等、撮像した画像における光源の光が拡散する環境を検出するとしてもよい。夜間検出部は、例えば自車両1の夜間ライトの点灯を以って夜間として検出してもよい。夜間検出部や雨検出部は、既存の様々な技術を用いて実現できるので、ここではその構成等、詳細な説明を省略する。
【0030】
中央制御部156は、中央処理装置(CPU)、プログラム等が格納されたROM、ワークエリアとしてのRAM等を含む半導体集積回路で構成され、システムバス158を通じて、I/F部150、データ保持部152および環境検出部154を制御する。また、本実施形態において、中央制御部156は、位置情報取得部160、グループ化部162、候補判断部164、壁判断部166、環境判断部168、距離導出部170、グループ分割部172、パターンマッチング部174としても機能する。
【0031】
位置情報取得部160は、画像処理装置120で導出された、検出領域122内のブロック毎の視差情報を、ステレオ法を用いて、水平距離x、高さyおよび相対距離zを含む三次元の位置情報に変換する。ここで、対象部位は、画素や画素を集めたブロックを想定しており、本実施形態では、画像処理装置120で用いられたブロックと同等の大きさを有する。
【0032】
画像処理装置120で導出された視差情報が、距離画像126における各対象部位の視差を示すのに対し、三次元の位置情報は、実空間における各対象部位の相対距離の情報を示す。したがって、相対距離や高さといった文言を用いる場合、実空間上の距離を指し、検出距離といった文言を用いる場合、距離画像126上の距離を指す。
【0033】
図4は、位置情報取得部160による三次元の位置情報への変換を説明するための説明図である。位置情報取得部160は、まず、距離画像126を図4の如く画素単位の座標系として認識する。ここでは、図4中、左下隅を原点(0,0)とし、横方向をi座標軸、縦方向をj座標軸とする。したがって、視差dpを有する画素は、画素位置i、jと視差dpによって(i,j,dp)のように表すことができる。
【0034】
本実施形態における実空間上の三次元座標系を、自車両1を中心とした相対座標系で考える。ここでは、自車両1の進行方向右側方をX軸の正方向、自車両1の上方をY軸の正方向、自車両1の進行方向(前方)をZ軸の正方向、2つの撮像装置110の中央を通る鉛直線と道路表面との交点を原点(0,0,0)とする。このとき、道路を平面と仮定すると、道路表面がX−Z平面(y=0)と一致することとなる。位置情報取得部160は、以下の(数式1)〜(数式3)によって距離画像126上のブロック(i,j,dp)を、実空間上の三次元の点(x,y,z)に座標変換する。
x=CD/2+z・PW・(i−IV) …(数式1)
y=CH+z・PW・(j−JV) …(数式2)
z=KS/dp …(数式3)
ここで、CDは撮像装置110同士の間隔(基線長)であり、PWは1画素当たりの視野角であり、CHは撮像装置110の道路表面からの配置高さであり、IV、JVは自車両1の真正面における無限遠点の画像上の座標(画素)であり、KSは距離係数(KS=CD/PW)である。
【0035】
グループ化部162は、自車両1の進行方向に垂直な水平距離xの差分および自車両1の進行方向に平行な相対距離zの差分が第1所定距離内に連なる複数の対象部位をグループ化して対象物とする。具体的に、グループ化部162は、実空間上の位置を導出した任意の対象部位を基点として、その対象部位と、水平距離xの差分および相対距離zの差分が第1所定距離内にある対象部位をグループ化し、対象物とする。ここで、第1所定距離は実空間上の距離で表され、任意の値(例えば、1.0m等)に設定することができる。また、ここでは、複数の対象部位が連なるとは、複数の対象部位が1次以上の次数の同じ曲線上に位置することをいう。
【0036】
また、グループ化部162は、グループ化により新たに追加された対象部位に関しても、その対象部位を基点として、水平距離xの差分および相対距離zの差分が第1所定距離内にある、特定物が等しい対象部位をグループ化する。結果的に、対象部位同士の距離が第1所定距離内であれば、それら全てがグループ化されることとなる。
【0037】
図5は、先行車両200の対象部位202のグループ化を説明するための説明図である。図5(a)に示すような輝度画像124が生成されたとする。この輝度画像124における走行路204上の先行車両200を実空間上の鉛直上方から見た平面図を図5(b)、(c)、(d)に示す。
【0038】
図5(b)に示す先行車両200の背面側の対象部位202が図5(c)に示すように検出された場合、グループ化部162は、これらの対象部位202をグループ化して、図5(d)に示すように対象物206とする。
【0039】
このように、先行車両200の背面側の対象部位202は、X軸方向に大凡平行に検出される。一方、ガードレール等の壁の対象部位は、X軸方向に対して所定角度(例えば、45度)以上傾いている任意の傾斜面を形成する。このことから、壁を検出する場合、X軸方向に対して所定角度以上傾いている任意の傾斜面を形成する対象部位で構成される対象物を探索する処理が考えられる。ところが、この場合、夜間や雨等において壁の誤検出が生じ得る。
【0040】
図6は、夜間の輝度画像124の一例を示す説明図である。図6に示すように、先行車両200の背面側にはテールランプ208が灯っている。しかし、夜間であるため、テールランプ208の光が拡散してぼやけている。この場合、画像処理装置120が導出する視差情報には誤差が生じることがある。
【0041】
図7は、壁判断処理を説明するための説明図である。図7(a)に、図5(c)と同様に、先行車両200の背面側の対象部位202の検出を行った結果、夜間で視差情報に誤差が生じている場合の例を示す。
【0042】
図7(a)のように、夜間等で視差情報に誤差があると、本来、X軸方向に対して平行な対象部位202として検出されるべきはずが、X軸方向に対して所定角度以上傾いている傾斜面を形成する対象部位202として検出されることがある。すると、その対象部位202をグループ化した対象物206aは、壁として誤検出されてしまうこととなる。
【0043】
本実施形態では、候補判断部164、壁判断部166、および環境判断部168がこのような壁の誤検出を回避するために機能する。以下、候補判断部164、壁判断部166、環境判断部168による壁判断処理について詳述する。
【0044】
(壁判断処理)
候補判断部164は、高さyが0以上となる(道路表面より上に位置する)対象物206としてグループ化された複数の対象部位202が、自車両1の進行方向に垂直な面に対して所定角度以上に傾斜する傾斜面を形成するか否かを判断する。すなわち、対象部位202が、X軸方向に対して所定角度以上傾いている任意の傾斜面を形成するか否かが判断される。本実施形態において候補判断部164は、壁の検出精度を向上するため、少なくとも3つ以上の対象部位202で構成される対象物を判断の対象とする。
【0045】
傾斜面上に位置する場合、候補判断部164は、それだけではその対象部位がグループ化された対象物を壁と判断せず、一旦、壁の候補である壁候補と判断する。図7(a)の場合、対象物206aが壁候補と判断される。
【0046】
壁判断部166は、対象物206aの中心位置を中心として、X軸方向の第2所定距離の範囲内(例えば、図7(b)に示すABの範囲内、5.0m以内)かつ、Z軸方向の第2所定距離の範囲内に、他の壁候補があるか否かを判断する。第2所定距離は、上述した第1所定距離よりも長い。
【0047】
図7(b)に示す例では、対象物206a、206bは、先行車両200の背面側から検出されたものであるため、対象物206aの近傍に他の壁候補はない。このように、他の壁候補が検出されない場合、壁判断部166は、その壁候補が壁ではないと判断する。
【0048】
また、図7(b)に示す例で、対象物206bもその配列に応じて壁候補と判断されてしまった場合、対象物206a、206bが壁であると判断されてしまうおそれがある。
【0049】
ガードレール等の壁は、X軸方向に対して所定角度以上傾いている傾斜面を有する。そのため、壁から検出された複数の壁候補は、同一の傾斜面に対象部位がまとまり易い。一方、先行車両200の背面側等から複数の壁候補が誤検出される場合、その対象部位は、同一の傾斜面にまとまる可能性が低い。
【0050】
そこで、壁判断部166は、壁候補となった対象物について、その対象物としてグループ化された対象部位を繋ぐ線の延長線上から、所定の距離内に他の壁候補が位置すると、それらの壁候補を壁と判断する。また、対象部位を繋ぐ線に限らず、例えば、対象部位の位置をサンプルとして導出される近似曲線を用いてもよい。かかる構成により、壁判断部166は、精度よく壁の判断を行うことが可能となる。
【0051】
この場合、壁判断部166は、壁でないと判断した壁候補(対象物206a)と、その壁候補から、例えば、X軸方向およびZ軸方向に第3所定距離の範囲内(例えば、図7(c)に示すCDの範囲内、3.0m以内)にある、壁候補ではない対象物206bとをまとめて、図7(d)に示すように、一つの対象物206cとする。
【0052】
このように、壁でないと判断された壁候補を他の対象物とまとめることで、後述するパターンマッチング部174は、まとめられた対象物206cが、例えば、先行車両200の背面側であると高精度に判断できる。
【0053】
図7(e)に、カーブにおけるガードレールから検出された対象物206d、206e、206f、206g、206hを示す。この場合、壁判断部166は、対象物206dの中心位置を中心に、X軸方向およびZ軸方向に第2所定距離の範囲内に近接する対象物206eを検出する。同様に、壁判断部166は、対象物206eに近接する対象物206f、対象物206fに近接する対象物206gと順次、対象物206d〜206hまでを検出する。
【0054】
そして、図7(f)に示すように、壁判断部166は、これらの第2所定距離内に近接して連なる複数の壁候補を、壁210であると判断する。
【0055】
テールランプ等の光源は、壁と比較してX−Z平面方向の大きさが小さい。本実施形態の壁判断部166は、壁候補が複数連なっていると壁と判断し、壁候補が単独で検出されても壁とは判断しない。そのため、壁判断部166は、テールランプ等が光の拡散によって壁のように傾斜面を形成しているように誤検出されても、テールランプ等を壁と判断することはなく、壁の誤検出を抑制できる。
【0056】
環境判断部168は、検出領域122において光が拡散する環境か否かを判断する。ここで、光が拡散する環境は、例えば、夜間や、降雨等でフロントガラスに水滴やこの水滴を払拭しようとしてできた水のスジ等が付いた状況等が挙げられる。環境判断部168は、環境検出部154から出力された検出情報が夜間や降雨を示す場合、検出領域122において光が拡散する環境であると判断する。
【0057】
そして、壁判断部166は、環境判断部168が、光が拡散する環境でないと判断すると、壁候補をすべて壁と判断する。図6に示すような光が拡散する環境でなければ、視差情報に誤差が生じる可能性が低いためである。かかる構成により、壁判断部166は、光が拡散する環境でない場合に、壁判断処理の処理負荷を低減することが可能となる。
【0058】
(グループ分割処理)
続いて、壁と判断されなかった対象物について、誤って1つにまとめてグループ化されてしまった対象物を、個別の対象物に分割するグループ分割処理について詳述する。
【0059】
図8、図9は、グループ分割処理を説明するための説明図である。図8(a)は実際の輝度画像124の一例であり、輝度画像124に対応する距離画像126を図8(b)に示す。ただし、グループ分割処理の説明に不要な要素については距離画像126から省略する。図8(a)、(b)に示すように、自車両1の走行路220をバス222と乗用車224とが進行方向に前後に並んで走行しており相対距離zが比較的近い値であったとする。この場合、図8(c)に示すように、バス222と乗用車224といった前後に並んだ2台の車両が1つのまとまった対象物226として誤検出されてしまう場合がある。
【0060】
そこで、距離導出部170は、図8(d)に矢印で示す、対象物226の距離画像126の水平方向に並んだ対象部位群毎の、相対距離zの平均値を導出する。
【0061】
バス222と乗用車224とをX軸方向から見た場合、図9(a)に示すように並んでいるとする。自車両1から見て、手前に位置する乗用車224の方は背面側がすべて映るが、バス222の背面側の一部は、乗用車224の陰となって輝度画像124には映らない。そのため、水平方向に並んだ対象部位群毎の相対距離zの平均値を、距離画像126のj座標軸とZ軸との座標上にプロットして軌跡を描くと、例えば、図9(b)に示すようになる。
【0062】
図9(c)は、図9(b)の座標軸を90度傾けて左右を反転させたものである。図9(c)において、破線228の部分では、j座標値の変化に対して相対距離zが大きく変化している。この垂直位置cは、輝度画像124において、バス222と乗用車224との境界部分に対応する。
【0063】
グループ分割部172は、まず、j座標値の順に並べられた、相対距離zの平均値のデータ列の軌跡の微分値を導出し、所定閾値と比較して、所定閾値を超えた対象部位群の垂直位置cを特定する。
【0064】
図10は、グループ分割処理を説明するための説明図である。グループ分割部172は、垂直位置cを特定すると、図10(a)に示す垂直位置cを跨いでグループ化された対象物226を、図10(b)に示すように、その垂直位置cを境界として分割し、新たに2つの対象物226a、226bとする。
【0065】
このように、グループ分割部172は、本来、異なるグループとしてグループ化されるべきところ、1つのグループとしてまとめられてしまった対象物226を、正しく別々の対象物226a、226bに分割する。そのため、環境認識装置130は、後段のパターンマッチング処理等の精度を向上できる。
【0066】
また、グループ分割部172は、対象物226を構成する対象部位全体の相対距離zの平均値に基づいて、所定閾値を決定する。
【0067】
位置情報取得部160が導出する位置は、相対距離zが離れている程、距離分解能が低くなる。そのため、グループ分割部172は、距離分解能以下の値は無視するように、相対距離zに応じて所定閾値を調整する。かかる構成により、グループ分割部172は、距離分解能以下の誤差の影響によって、対象物226が誤って分割されてしまう事態を回避できる。
【0068】
パターンマッチング部174は、予めデータ保持部152に保持された立体物のモデルデータとのパターンマッチングを実行する。そして、対象物が、いずれかの立体物に該当するか否かを判断する。こうして、環境認識装置130は、壁の他、壁以外の立体物についても認識することができる。
【0069】
(環境認識方法)
以下、環境認識装置130の具体的な処理を図11〜図14のフローチャートに基づいて説明する。図11は、画像処理装置120から距離画像(視差情報)126が送信された場合の割込処理に関する全体的な流れを示し、図12〜図14は、その中の個別のサブルーチンを示している。
【0070】
図11に示すように、距離画像126の受信を契機に当該環境認識方法による割込が発生すると、画像処理装置120で導出された、検出領域122内のブロック毎の視差情報に基づき、対象部位毎の実空間上の位置を示す位置情報が導出される(S300)。そして、対象部位に対してグループ化処理が施される(S302)。
【0071】
続いて、グループ化された対象物に対して壁判断処理が施され(S304)、さらに、壁と判断されなかった対象物に対して、グループ分割処理が施される(S306)。そして、パターンマッチング部174によって、対象物に対する立体物のパターンマッチングが実行される(S308)。以下、上記の処理を具体的に説明する。
【0072】
(グループ化処理S302)
図12を参照すると、グループ化部162は、輝度画像124のまだ選択していない1つの対象部位を選択する(S350)。そして、グループ化部162は、選択した対象部位から、水平距離xの差分および相対距離zの差分が第1所定距離内に位置する対象部位があるか否かを判断する(S352)。第1所定距離内に対象部位がある場合(S352におけるYES)、グループ化部162は、第1所定距離内にあったすべての対象部位をまとめてグループ化し対象物とする(S354)。
【0073】
このとき、第1所定距離内にあった対象部位が、すでに対象物としてグループ化されていた場合、その対象物もまとめてグループ化して1つの対象物とする。こうして、グループ化部162は、近接して連なる複数の対象部位をグループ化して対象物とする。
【0074】
第1所定距離内に対象部位がなかった場合(S352におけるNO)、および、対象物設定S354の後、グループ化部162は、輝度画像124に、まだ選択していない対象部位があるか否かを判断する(S356)。対象部位がある場合(S356におけるYES)、対象部位選択S350に戻る。まだ選択していない対象部位がない場合(S356におけるNO)、当該グループ化処理S302を終了する。
【0075】
(壁判断処理S304)
図13を参照すると、候補判断部164は、まだ選択していない1つの対象物を選択する(S400)。そして、候補判断部164は、その対象物の中心の高さyが0以上である(道路表面より上に位置する)か否かを判断する(S402)。高さyが0以上でない場合(S402におけるNO)、未選択対象物判断S408に処理を移す。
【0076】
高さyが0以上である場合(S402におけるYES)、候補判断部164は、対象物としてグループ化された対象部位が、自車両1の進行方向に垂直な面に対して所定角度以上に傾斜する傾斜面を形成するか否かを判断する(S404)。傾斜面を形成しない場合(S404におけるNO)、未選択対象物判断S408に処理を移す。
【0077】
対象部位が傾斜面を形成する場合(S404におけるYES)、候補判断部164は、その対象部位をグループ化した対象物を壁の候補である壁候補と判断する(S406)。そして、未選択対象物判断S408に処理を移す。
【0078】
続いて、候補判断部164は、まだ選択していない対象物があるか否かを判断する(S408)。まだ選択していない対象物があれば(S408におけるYES)、対象物選択S400に戻る。
【0079】
すべての対象物に対して、壁候補判断処理を施されると(S408におけるNO)、環境判断部168は、夜間や降雨等、光が拡散する環境であるか否かを判断する(S410)。光が拡散する環境でない場合(S410におけるNO)、壁判断部168は、すべての壁候補を壁と判断する(S412)。光が拡散する環境である場合(S410におけるYES)、壁判断部166は、まだ選択していない壁候補があるか否かを判断する(S414)。壁候補がある場合(S414におけるYES)、壁判断部166は、まだ選択していない1つの壁候補を選択する(S416)。そして、壁判断部166は、選択した壁候補の中心位置を中心として、X軸方向の第2所定距離の範囲内かつ、Z軸方向の第2所定距離の範囲内に、他の壁候補があるか否かを判断する(S418)。
【0080】
このとき、壁判断部166は、選択した壁候補となった対象物について、その対象物としてグループ化された対象部位を繋ぐ線の延長線上から、所定の距離内に他の壁候補が位置するか否かも併せて判断する。
【0081】
対象部位を繋ぐ線の延長線上から所定の距離内に位置する、他の壁候補がある場合(S418におけるYES)、壁判断部166は、そのすべての壁候補を壁と判断する(S420)。そして、未選択壁候補判断S414に戻る。こうして、壁判断部166は、第2所定距離内に近接して連なる複数の壁候補を壁であると判断する。
【0082】
他の壁候補がない場合(S418におけるNO)、その壁候補は壁ではないと判断する(S422)。そして、壁判断部166は、壁でないと判断した壁候補から、X軸方向およびZ軸方向に第3所定距離の範囲内に、壁候補以外の対象物があるか否かを判断する(S424)。壁候補以外の対象物がない場合(S424におけるNO)、未選択壁候補判断S414に戻る。
【0083】
壁候補以外の対象物がある場合(S424におけるYES)、壁判断部166は、壁でないと判断した壁候補と、壁候補以外の対象物とをまとめて、一つの対象物とする(S426)。そして、未選択壁候補判断S414に戻る。
【0084】
未選択壁候補判断S414において、まだ選択していない壁候補がない場合(S414におけるNO)、当該壁判断処理S304を終了する。
【0085】
(グループ分割処理S306)
図14を参照すると、距離導出部170は、当該グループ分割処理S306においてまだ選択していない1つの対象物を選択する(S450)。そして、距離導出部170は、選択した対象物の輝度画像124の水平方向に並んだ対象部位群毎の、相対距離zの平均値を導出する(S452)。そして、距離導出部170は、導出した相対距離zの平均値を、輝度画像124の垂直方向の位置の順に並べたデータ列を生成する(S454)。
【0086】
続いて、グループ分割部172は、選択した対象物を構成する対象部位全体の相対距離zの平均値を導出し、導出した平均値に基づいて、所定閾値を決定する(S456)。そして、グループ分割部172は、生成された相対距離zの平均値のデータ列の微分値を導出し(S458)、導出した微分値が所定閾値を超えるか否かを判断する(S460)。所定閾値を超えない場合(S460におけるNO)、未選択対象物判断S466に処理を移す。
【0087】
微分値が所定閾値を超える場合(S460におけるYES)、グループ分割部172は、所定閾値を超えた微分値に対応する対象部位の垂直位置cを特定する(S462)。そして、グループ分割部172は、垂直位置cを跨いでグループ化された対象物を、その垂直位置cを境界として分割する(S464)。そして、未選択対象物判断S466に処理を移す。
【0088】
続いて、距離導出部170は、当該グループ分割処理S306においてまだ選択していない対象物があるか否かを判断する(S466)。まだ選択していない対象物があれば(S466におけるYES)、対象物選択S450に戻る。まだ選択していない対象物がなければ(S466におけるNO)、当該グループ分割処理S306を終了する。
【0089】
以上、説明したように、環境認識装置130によれば、夜間や雨等、光源が拡散し易い環境において、壁でないものを壁と誤判断することを抑制することが可能となる。
【0090】
また、コンピュータを、環境認識装置130として機能させるプログラムや当該プログラムを記録した、コンピュータで読み取り可能なフレキシブルディスク、光磁気ディスク、ROM、CD、DVD、BD等の記憶媒体も提供される。ここで、プログラムは、任意の言語や記述方法にて記述されたデータ処理手段をいう。
【0091】
以上、添付図面を参照しながら本発明の好適な実施形態について説明したが、本発明はかかる実施形態に限定されないことは言うまでもない。当業者であれば、特許請求の範囲に記載された範疇において、各種の変更例または修正例に想到し得ることは明らかであり、それらについても当然に本発明の技術的範囲に属するものと了解される。
【0092】
上述した実施形態では、グループ化部162および壁判断部166は、実空間上の水平距離xや相対距離zを用いて判断しているが、輝度画像124上や距離画像126上の検出距離で判断してもよい。この場合、第1所定距離および第2所定距離は、対象部位の相対距離に応じて変更される。図2等に示したように、輝度画像124や距離画像126では、遠近の物体が平面上に表されているため、本体遠方に位置する物体は小さく(短く)表され、近傍に位置する物体は大きく(長く)表される。したがって、輝度画像124や距離画像126における第1所定距離および第2所定距離は、例えば、遠方に位置する対象部位については短く、近傍に位置する対象部位については長く設定されることとなる。こうして、遠方と近傍とで検出距離が異なる場合であっても安定したグループ化処理および壁判断処理が望める。
【0093】
また、グループ化部162は、上述した水平距離xの差分や相対距離zの差分に加えて、高さyの差分が第1所定距離内にある対象部位をグループ化してもよい。この場合、水平距離x、高さyおよび相対距離zのいずれかが離れていると、その対象部位のグループは独立した対象物とみなすこととする。こうして、高精度なグループ化を図ることができる。
【0094】
同様に、壁判断部166は、水平距離xの差分および相対距離zの差分に加えて、道路表面からの高さyの差分に基づいて、壁の判断を行ってもよい。このように、高さyの差分も含めて、壁の判断を行う構成により、壁判断部166は、壁の検出精度を高めることが可能となる。
【0095】
また、グループ化部162は、水平距離xの差分、高さyの差分および相対距離zの差分をそれぞれ独立して判断し、全てが第1所定距離に含まれる場合のみ同一のグループとしているが、他の計算によることもできる。例えば、水平距離xの差分、高さyの差分および相対距離zの差分の二乗平均√((水平距離xの差分)2+(高さyの差分)2+(相対距離zの差分)2)が第1所定距離に含まれる場合に同一のグループとしてもよい。かかる計算により、対象部位同士の実空間上の正確な距離を導出することができるので、グループ化精度を高めることができる。
【0096】
同様に、壁判断部166は、水平距離xの差分、高さyの差分および相対距離zの差分をそれぞれ独立して判断し、第2所定距離に含まれる場合のみ壁と判断しているが、他の計算によることもできる。例えば、水平距離xの差分、高さyの差分および相対距離zの差分の二乗平均√((水平距離xの差分)2+(高さyの差分)2+(相対距離zの差分)2)が第2所定距離に含まれる場合、壁と判断としてもよい。かかる計算により、壁候補同士の実空間上の正確な距離を導出することができるので、壁の判断の精度を高めることができる。
【0097】
また、上述した実施形態においては、対象物の三次元位置を複数の撮像装置110を用い画像データ間の視差に基づいて導出しているが、かかる場合に限られず、例えば、レーザレーダ測距装置等、既知の様々な距離測定装置を用いることができる。ここで、レーザレーダ測距装置は、検出領域122にレーザビームを投射し、このレーザビームが物体に当たって反射してくる光を受光し、この所要時間から物体までの距離を測定するものである。
【0098】
また、上述した実施形態では、位置情報取得部160が、画像処理装置120から距離画像(視差情報)126を受けて三次元の位置情報を生成している例を挙げている。しかし、かかる場合に限られず、画像処理装置120において予め三次元の位置情報を生成し、位置情報取得部160は、その生成された三次元の位置情報を取得するとしてもよい。このようにして、機能分散を図り、環境認識装置130の処理負荷を軽減することが可能となる。
【0099】
また、上述した実施形態においては、位置情報取得部160、グループ化部162、候補判断部164、壁判断部166、環境判断部168、距離導出部170、グループ分割部172、パターンマッチング部174は中央制御部156によってソフトウェアで動作するように構成している。しかし、上記の機能部をハードウェアによって構成することも可能である。
【0100】
なお、本明細書の環境認識方法の各工程は、必ずしもフローチャートとして記載された順序に沿って時系列に処理する必要はなく、並列的あるいはサブルーチンによる処理を含んでもよい。
【産業上の利用可能性】
【0101】
本発明は、検出領域における対象物の輝度に基づいて、その対象物を認識する環境認識装置および環境認識方法に利用することができる。
【符号の説明】
【0102】
1 …自車両
130 …環境認識装置
160 …位置情報取得部
162 …グループ化部
164 …候補判断部
166 …壁判断部
168 …環境判断部
170 …距離導出部
172 …グループ分割部
174 …パターンマッチング部
【特許請求の範囲】
【請求項1】
検出領域内に存在する対象部位の、自車両に対する相対距離を含む位置情報を取得する位置情報取得部と、
前記自車両の進行方向に垂直な水平距離の差分および該自車両の進行方向に平行な相対距離の差分が第1所定距離内で連なる複数の前記対象部位をグループ化して対象物とするグループ化部と、
前記対象物を構成する複数の対象部位が、前記自車両の進行方向に垂直な面に対して所定角度以上に傾斜する傾斜面を形成すると、前記対象物を壁の候補である壁候補と判断する候補判断部と、
前記自車両の進行方向に垂直な水平距離の差分および該自車両の進行方向に平行な相対距離の差分が、前記第1所定距離より長い第2所定距離内で連なる複数の前記壁候補を、壁であると判断する壁判断部と、
を備えることを特徴とする環境認識装置。
【請求項2】
前記グループ化部は、前記自車両の進行方向に垂直な水平距離の差分および該自車両の進行方向に平行な相対距離の差分に加えて、道路表面からの高さの差分に基づいて、グループ化の判断を行い、
前記壁判断部は、前記自車両の進行方向に垂直な水平距離の差分および該自車両の進行方向に平行な相対距離の差分に加えて、道路表面からの高さの差分に基づいて、壁の判断を行うことを特徴とする請求項1に記載の環境認識装置。
【請求項3】
前記検出領域において光が拡散する環境か否かを判断する環境判断部をさらに備え、
前記壁判断部は、前記環境判断部が、光が拡散する環境でないと判断すると、前記壁候補をすべて壁と判断することを特徴とする請求項1または2のいずれかに記載の環境認識装置。
【請求項4】
前記対象物の画像の水平方向に並んだ対象部位群毎の、前記自車両に対する進行方向に平行な相対距離の平均値を導出する距離導出部と、
前記画像の垂直方向の位置の順に並べられた、前記平均値のデータ列の軌跡の微分値が所定閾値を超えると、該所定閾値を超えた前記対象部位群を跨いでグループ化された前記対象物を、該対象部位群を境界として分割するグループ分割部と、
をさらに備えることを特徴とする請求項1から3のいずれか1項に記載の環境認識装置。
【請求項5】
前記グループ分割部は、前記対象物を構成する前記対象部位全体の前記相対距離の平均値に基づいて、前記所定閾値を決定することを特徴とする請求項4に記載の環境認識装置。
【請求項6】
検出領域内に存在する対象部位の、自車両に対する相対距離を含む位置情報を取得し、
前記自車両の進行方向に垂直な水平距離の差分および該自車両の進行方向に平行な相対距離の差分が第1所定距離内で連なる複数の前記対象部位をグループ化して対象物とし、
前記対象物を構成する複数の対象部位が、前記自車両の進行方向に垂直な面に対して所定角度以上に傾斜する傾斜面を形成すると、前記対象物を壁の候補である壁候補と判断し、
前記自車両の進行方向に垂直な水平距離の差分および該自車両の進行方向に平行な相対距離の差分が、前記第1所定距離より長い第2所定距離内で連なる複数の前記壁候補を、壁であると判断することを特徴とする環境認識方法。
【請求項1】
検出領域内に存在する対象部位の、自車両に対する相対距離を含む位置情報を取得する位置情報取得部と、
前記自車両の進行方向に垂直な水平距離の差分および該自車両の進行方向に平行な相対距離の差分が第1所定距離内で連なる複数の前記対象部位をグループ化して対象物とするグループ化部と、
前記対象物を構成する複数の対象部位が、前記自車両の進行方向に垂直な面に対して所定角度以上に傾斜する傾斜面を形成すると、前記対象物を壁の候補である壁候補と判断する候補判断部と、
前記自車両の進行方向に垂直な水平距離の差分および該自車両の進行方向に平行な相対距離の差分が、前記第1所定距離より長い第2所定距離内で連なる複数の前記壁候補を、壁であると判断する壁判断部と、
を備えることを特徴とする環境認識装置。
【請求項2】
前記グループ化部は、前記自車両の進行方向に垂直な水平距離の差分および該自車両の進行方向に平行な相対距離の差分に加えて、道路表面からの高さの差分に基づいて、グループ化の判断を行い、
前記壁判断部は、前記自車両の進行方向に垂直な水平距離の差分および該自車両の進行方向に平行な相対距離の差分に加えて、道路表面からの高さの差分に基づいて、壁の判断を行うことを特徴とする請求項1に記載の環境認識装置。
【請求項3】
前記検出領域において光が拡散する環境か否かを判断する環境判断部をさらに備え、
前記壁判断部は、前記環境判断部が、光が拡散する環境でないと判断すると、前記壁候補をすべて壁と判断することを特徴とする請求項1または2のいずれかに記載の環境認識装置。
【請求項4】
前記対象物の画像の水平方向に並んだ対象部位群毎の、前記自車両に対する進行方向に平行な相対距離の平均値を導出する距離導出部と、
前記画像の垂直方向の位置の順に並べられた、前記平均値のデータ列の軌跡の微分値が所定閾値を超えると、該所定閾値を超えた前記対象部位群を跨いでグループ化された前記対象物を、該対象部位群を境界として分割するグループ分割部と、
をさらに備えることを特徴とする請求項1から3のいずれか1項に記載の環境認識装置。
【請求項5】
前記グループ分割部は、前記対象物を構成する前記対象部位全体の前記相対距離の平均値に基づいて、前記所定閾値を決定することを特徴とする請求項4に記載の環境認識装置。
【請求項6】
検出領域内に存在する対象部位の、自車両に対する相対距離を含む位置情報を取得し、
前記自車両の進行方向に垂直な水平距離の差分および該自車両の進行方向に平行な相対距離の差分が第1所定距離内で連なる複数の前記対象部位をグループ化して対象物とし、
前記対象物を構成する複数の対象部位が、前記自車両の進行方向に垂直な面に対して所定角度以上に傾斜する傾斜面を形成すると、前記対象物を壁の候補である壁候補と判断し、
前記自車両の進行方向に垂直な水平距離の差分および該自車両の進行方向に平行な相対距離の差分が、前記第1所定距離より長い第2所定距離内で連なる複数の前記壁候補を、壁であると判断することを特徴とする環境認識方法。
【図1】
【図2】
【図3】
【図4】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図5】
【図6】
【図7】
【図8】
【図2】
【図3】
【図4】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図5】
【図6】
【図7】
【図8】
【公開番号】特開2012−243050(P2012−243050A)
【公開日】平成24年12月10日(2012.12.10)
【国際特許分類】
【出願番号】特願2011−112005(P2011−112005)
【出願日】平成23年5月19日(2011.5.19)
【出願人】(000005348)富士重工業株式会社 (3,010)
【Fターム(参考)】
【公開日】平成24年12月10日(2012.12.10)
【国際特許分類】
【出願日】平成23年5月19日(2011.5.19)
【出願人】(000005348)富士重工業株式会社 (3,010)
【Fターム(参考)】
[ Back to top ]