説明

環境認識装置および環境認識方法

【課題】対象物の特定精度を向上する。
【解決手段】
環境認識装置130は、検出領域内に存在する対象部位の輝度を取得し、データ保持部152に保持された色識別子と輝度範囲との対応付けに基づき、対象部位の輝度に応じて対象部位に色識別子を設定し(S300)、データ保持部に保持された色識別子と輝度範囲との対応付けに基づき、水平距離の差分および高さの差分が所定範囲内にある、同一の特定物に対応する1または複数の色識別子が設定された対象部位をグループ化する(S304)。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、検出領域における対象物の輝度に基づいて、その対象物を認識する環境認識装置および環境認識方法に関する。
【背景技術】
【0002】
従来、自車両の前方に位置する車両や信号機等の障害物といった対象物を検出し、検出した対象物との衝突を回避したり、先行車両との車間距離を安全な距離に保つように制御する技術が知られている(例えば、特許文献1、2)。
【0003】
また、このような技術では、対象物を一律に物として特定するのみならず、さらに高精度な制御を行うため、対象物が自車両と同速度で走行している先行車両であるのか、移動を伴わない固定された物であるのか等を判定する技術も存在する。ここで、対象物を、検出領域の撮像を通じて検出する場合、対象物が何であるかを特定する前に、撮像された画像から対象物自体を抽出(切り出し)しなければならない。
【0004】
例えば、撮像された画像がカラー画像の場合、同一の輝度(色)を有する画素をグループ化し対象物として抽出する方法が考えられる。
【先行技術文献】
【特許文献】
【0005】
【特許文献1】特許第3349060号
【特許文献2】特開平10−283461号公報
【発明の概要】
【発明が解決しようとする課題】
【0006】
しかし、道路上に設けられた実際の信号機や道路標識等に関し、例えば、電球タイプの信号機の点灯部分に相当する画像には、色ムラが出現する等、同一の対象物が必ずしも単色で発光しているとは限らない。また、市松模様状に形成されたBayerパターンに基づく偽色も生じるため、厳密に1つの輝度のみで1つの対象物を特定するのが困難な場合がある。
【0007】
本発明は、このような課題に鑑み、対象物の特定精度を向上することが可能な、環境認識装置および環境認識方法を提供することを目的としている。
【課題を解決するための手段】
【0008】
上記課題を解決するために、本発明の環境認識装置は、予め定められた所定数の色識別子と輝度範囲とを対応付けて保持すると共に、複数の特定物それぞれに対して1または複数の色識別子を対応付けて保持するデータ保持部と、検出領域内に存在する対象部位の輝度を取得する輝度取得部と、データ保持部に保持された色識別子と輝度範囲との対応付けに基づき、対象部位の輝度に応じて対象部位に色識別子を設定する色識別子設定部と、データ保持部に保持された特定物と色識別子との対応付けに基づき、水平距離の差分および高さの差分が所定範囲内にある、同一の特定物に対応する1または複数の色識別子が設定された対象部位をグループ化するグループ化部と、を備えることを特徴とする。
【0009】
複数の特定物は、それぞれ、対応付けられている1または複数の色識別子のうち1の色識別子が代表色識別子として予め設定されており、グループ化部は、グループ化した対象部位に代表色識別子が含まれる場合に、対象部位をグループ化してもよい。
【0010】
グループ化部は、グループ化した対象部位の色識別子を全て代表色識別子に置換してもよい。
【0011】
上記課題を解決するために、本発明の環境認識装置は、上記課題を解決するために、本発明の環境認識装置は、検出領域内に存在する対象部位の輝度を取得し、データ保持部に保持された色識別子と輝度範囲との対応付けに基づき、対象部位の輝度に応じて対象部位に色識別子を設定し、データ保持部に保持された特定物と色識別子との対応付けに基づき、水平距離の差分および高さの差分が所定範囲内にある、同一の特定物に対応する1または複数の色識別子が設定された対象部位をグループ化することを特徴とする。
【発明の効果】
【0012】
本発明によれば、対象物の特定精度を向上することができるので、誤認識を回避することが可能となる。
【図面の簡単な説明】
【0013】
【図1】環境認識システムの接続関係を示したブロック図である。
【図2】輝度画像と距離画像を説明するための説明図である。
【図3】環境認識装置の概略的な機能を示した機能ブロック図である。
【図4】色テーブルを説明するための説明図である。
【図5】特定物テーブルを説明するための説明図である。
【図6】位置情報取得部による三次元の位置情報への変換を説明するための説明図である。
【図7】色識別子マップを説明するための説明図である。
【図8】グループ化部の処理を説明するための説明図である。
【図9】環境認識方法の全体的な流れを示したフローチャートである。
【図10】色識別子マップ生成処理の流れを示したフローチャートである。
【図11】グループ化処理の流れを示したフローチャートである。
【図12】特定物決定処理の流れを示したフローチャートである。
【発明を実施するための形態】
【0014】
以下に添付図面を参照しながら、本発明の好適な実施形態について詳細に説明する。かかる実施形態に示す寸法、材料、その他具体的な数値などは、発明の理解を容易とするための例示にすぎず、特に断る場合を除き、本発明を限定するものではない。なお、本明細書及び図面において、実質的に同一の機能、構成を有する要素については、同一の符号を付することにより重複説明を省略し、また本発明に直接関係のない要素は図示を省略する。
【0015】
(環境認識システム100)
図1は、環境認識システム100の接続関係を示したブロック図である。環境認識システム100は、車両1内に設けられた、複数(本実施形態では2つ)の撮像装置110と、画像処理装置120と、環境認識装置130と、車両制御装置140とを含んで構成される。
【0016】
撮像装置110は、CCD(Charge-Coupled Device)やCMOS(Complementary Metal-Oxide Semiconductor)等の撮像素子を含んで構成され、カラー画像、即ち、画素単位で3つの色相(赤、緑、青)の輝度を取得することができる。本実施形態においては、色と輝度とを同等に扱い、同一の文章に両文言が含まれる場合、互いを、色を構成する輝度、または、輝度を有する色と読み替えることができる。ここでは、撮像装置110で撮像されたカラーの画像を輝度画像と呼び、後述する距離画像と区別する。また、撮像装置110は、車両1の進行方向側において2つの撮像装置110それぞれの光軸が略平行になるように、略水平方向に離隔して配置される。撮像装置110は、車両1の前方の検出領域に存在する対象物を撮像した画像データを、例えば1/60秒毎(60fps)に連続して生成する。ここで、対象物は、車両、信号機、道路、ガードレールといった独立して存在する立体物のみならず、テールランプやウィンカー、信号機の各点灯部分等、立体物の部分として特定できる物も含む。以下の実施形態における各機能部は、このような画像データの更新を契機として各処理を遂行する。
【0017】
画像処理装置120は、2つの撮像装置110それぞれから画像データを取得し、2つの画像データに基づいて、画像中の任意のブロック(所定数の画素を集めたもの)の視差、および、任意のブロックの画面中の位置を示す画面位置を含む視差情報を導出する。画像処理装置120は、一方の画像データから任意に抽出したブロック(例えば水平4画素×垂直4画素の配列)に対応するブロックを他方の画像データから検索する、所謂パターンマッチングを用いて視差を導き出す。ここで、水平は、撮像した画像の画面横方向を示し、実空間上の水平に相当する。また、垂直は、撮像した画像の画面縦方向を示し、実空間上の鉛直方向に相当する。
【0018】
このパターンマッチングとしては、2つの画像データ間において、任意の画像位置を示すブロック単位で輝度値(Y色差信号)を比較することが考えられる。例えば、輝度値の差分をとるSAD(Sum of Absolute Difference)、差分を2乗して用いるSSD(Sum of Squared intensity Difference)や、各画素の輝度値から平均値を引いた分散値の類似度をとるNCC(Normalized Cross Correlation)等の手法がある。画像処理装置120は、このようなブロック単位の視差導出処理を検出領域(例えば600画素×200画素)に映し出されている全てのブロックについて行う。ここでは、ブロックを4画素×4画素としているが、ブロック内の画素数は任意に設定することができる。
【0019】
ただし、画像処理装置120では、検出分解能単位であるブロック毎に視差を導出することはできるが、そのブロックがどのような対象物の一部であるかを認識できない。したがって、視差情報は、対象物単位ではなく、検出領域における検出分解能単位(例えばブロック単位)で独立して導出されることとなる。ここでは、このようにして導出された視差情報(後述する相対距離に相当)を画像データに対応付けた画像を距離画像という。
【0020】
図2は、輝度画像124と距離画像126を説明するための説明図である。例えば、2つの撮像装置110を通じ、検出領域122について図2(a)のような輝度画像(画像データ)124が生成されたとする。ただし、ここでは、理解を容易にするため、2つの輝度画像124の一方のみを模式的に示している。本実施形態において、画像処理装置120は、このような輝度画像124からブロック毎の視差を求め、図2(b)のような距離画像126を形成する。距離画像126における各ブロックには、そのブロックの視差が関連付けられている。ここでは、説明の便宜上、視差が導出されたブロックを黒のドットで表している。
【0021】
視差は、画像のエッジ部分(隣り合う画素間で明暗の差分が大きい部分)で特定され易いので、距離画像126において黒のドットが付されている、視差が導出されたブロックは、輝度画像124においてもエッジとなっていることが多い。したがって、図2(a)に示す輝度画像124と図2(b)に示す距離画像126とは各対象物の輪郭について似たものとなる。
【0022】
環境認識装置130は、画像処理装置120から輝度画像124と距離画像126とを取得し、輝度画像124に基づく輝度と、距離画像126に基づく自車両1との相対距離を用いて検出領域122における対象物がいずれの特定物に対応するかを特定する。このとき、環境認識装置130は、距離画像126における、検出領域122内のブロック毎の視差情報を、所謂ステレオ法を用いて、相対距離を含む三次元の位置情報に変換している。ここで、ステレオ法は、三角測量法を用いることで、対象物の視差からその対象物の撮像装置110に対する相対距離を導出する方法である。かかる環境認識装置130に関しては、後ほど詳述する。
【0023】
車両制御装置140は、環境認識装置130で特定された対象物との衝突を回避したり、先行車両との車間距離を安全な距離に保つ制御を実行する。具体的に、車両制御装置140は、操舵の角度を検出する舵角センサ142や車両1の速度を検出する車速センサ144等を通じて現在の車両1の走行状態を取得し、アクチュエータ146を制御して先行車両との車間距離を安全な距離に保つ。ここで、アクチュエータ146は、ブレーキ、スロットルバルブ、舵角等を制御するために用いられる車両制御用のアクチュエータである。また、車両制御装置140は、対象物との衝突が想定される場合、運転者の前方に設置されたディスプレイ148にその旨警告表示(報知)を行うと共に、アクチュエータ146を制御して車両1を自動的に制動する。かかる車両制御装置140は、環境認識装置130と一体的に形成することもできる。
【0024】
(環境認識装置130)
図3は、環境認識装置130の概略的な機能を示した機能ブロック図である。図3に示すように、環境認識装置130は、I/F部150と、データ保持部152と、中央制御部154とを含んで構成される。
【0025】
I/F部150は、画像処理装置120や車両制御装置140との双方向の情報交換を行うためのインターフェースである。データ保持部152は、RAM、フラッシュメモリ、HDD等で構成され、色テーブル(対応付け)および特定物テーブル(対応付け)や、以下に示す各機能部の処理に必要な様々な情報を保持し、また、画像処理装置120から受信した輝度画像124、距離画像126を一時的に保持する。ここで、色テーブルや特定物テーブルは、以下のように利用される。
【0026】
図4は、色テーブル190を説明するための説明図である。色テーブル190では、予め定められた所定数の色を表す輝度範囲192が色識別子194に対応付けられている。例えば、色識別子「1」には、赤色に相当する輝度範囲が対応付けられている。色識別子「2」には、黄色に相当する輝度範囲が対応付けられている。色識別子「3」には、青緑色に相当する輝度範囲が対応付けられている。色識別子「4」には、マゼンタに相当する輝度範囲が対応付けられている。色識別子「5」には、橙色に相当する輝度範囲が対応付けられている。色識別子「6」には、朱色に相当する輝度範囲が対応付けられている。色識別子「7」には、青色に相当する輝度範囲が対応付けられている。色識別子「8」には、緑色に相当する輝度範囲が対応付けられている。ただし、輝度範囲は図4に記載された輝度範囲に限定されず、また、その数も限定されないのは言うまでもない。
【0027】
図5は、特定物テーブル200を説明するための説明図である。特定物テーブル200では、複数の特定物に対して、特定物自体の輝度の範囲に相応する代表色識別子202と、特定物の輝度に近似した範囲も含む1または複数の色識別子194と、特定物の大きさの範囲を示す幅範囲204とが対応付けられている。ここで、特定物としては、「信号機(赤)」、「信号機(黄)」、「信号機(青緑)」、「テールランプ(マゼンタ)」、「ウィンカー(橙)」、「道路標識(朱)」、「道路標識(青)」、「道路標識(緑)」等、道路を走行する上で視認を要する様々な物が想定されている。特定物は図5に記載された物に限定されないのは言うまでもない。また、特定物テーブル200では、特定物の特定に優先順位が定められており、当該環境認識処理はその優先順に従って、特定物テーブル200における複数の特定物から順次選択された1の特定物毎に行われる。特定物のうち、例えば、特定物「信号機(赤)」には、特定物「信号機(赤)」を特定するための色識別子「1」、「5」、「6」と、幅範囲「0.2〜0.4」とが対応付けられている。代表色識別子202は、かかる1または複数の色識別子194のいずれかであり、特定物を特定するのに最も適した輝度に対応する色識別子194が定められる。図5は、図4に対応しており、図4の色識別子194の並びが、図5の代表色識別子202の並びと等しくなるように形成されている。
【0028】
本実施形態では、特定物テーブル200に基づいて、輝度画像124内の任意の対象部位のうち、任意の特定物に関する複数の色識別子194(輝度範囲192)の条件を満たした対象部位が特定物の候補となる。例えば、対象部位の輝度が特定物「信号機(赤)」における複数の色識別子「1」、「5」、「6」に基づく輝度範囲192に含まれていれば、その対象部位を特定物「信号機(赤)」の候補とする。そして、対象部位をグループ化した対象物が、特定物らしい態様で抽出されれば、例えば、グループ化した対象物の大きさが「信号機(赤)」の幅範囲「0.2〜0.4m」に含まれれば特定物として判定される。特定物として判定された対象部位は、特定物固有の色識別子(識別番号)によってラベリングされている。ここで、対象部位は、画素や画素を集めたブロックを想定しているが、本実施形態では、説明の便宜上、画素を用いることとする。
【0029】
中央制御部154は、中央処理装置(CPU)、プログラム等が格納されたROM、ワークエリアとしてのRAM等を含む半導体集積回路で構成され、システムバス156を通じて、I/F部150やデータ保持部152を制御する。また、本実施形態において、中央制御部154は、輝度取得部160、位置情報取得部162、色識別子設定部164、グループ化部166、特定物決定部168、パターンマッチング部170としても機能する。
【0030】
輝度取得部160は、後述する色識別子設定部164の制御指令に従って、受信した輝度画像124から、対象部位(画素)単位で輝度(画素単位で3つの色相(赤、緑、青)の輝度)を取得する。このとき、検出領域が例えば雨天や曇天であった場合、輝度取得部160は、本来の輝度を取得できるようにホワイトバランスを調整してから取得してもよい。
【0031】
位置情報取得部162は、後述するグループ化部166の制御指令に従い、距離画像126における検出領域122内のブロック毎の視差情報を、ステレオ法を用いて、水平距離x、道路表面からの高さy、および、自車両1からの相対距離zを含む三次元の位置情報に変換する。ここで、視差情報が、距離画像126における各対象部位の視差を示すのに対し、三次元の位置情報は、実空間における各対象部位の相対距離の情報を示す。したがって、水平距離、高さ、相対距離といった文言を用いる場合、実空間上の距離を指し、検出距離といった文言を用いる場合、距離画像126上の距離を指す。また、視差情報が画素単位ではなくブロック単位、即ち複数の画素単位で導出されている場合、その視差情報はブロックに属する全ての画素の視差情報とみなして、画素単位の計算を実行することができる。
【0032】
図6は、位置情報取得部162による三次元の位置情報への変換を説明するための説明図である。位置情報取得部162は、まず、距離画像126を図6の如く画素単位の座標系として認識する。ここでは、図6中、左下隅を原点(0,0)とし、横方向をi座標軸、縦方向をj座標軸とする。したがって、視差dpを有する画素は、画素位置i、jと視差dpによって(i,j,dp)のように表すことができる。
【0033】
本実施形態における実空間上の三次元座標系を、車両1を中心とした相対座標系で考える。ここでは、車両1の進行方向右側方をX軸の正方向、車両1の上方をY軸の正方向、車両1の進行方向(前方)をZ軸の正方向、2つの撮像装置110の中央を通る鉛直線と道路表面との交点を原点(0,0,0)とする。このとき、道路を平面と仮定すると、道路表面がX−Z平面(y=0)と一致することとなる。位置情報取得部162は、以下の(数式1)〜(数式3)によって距離画像126上のブロック(i,j,dp)を、実空間上の三次元の点(x,y,z)に座標変換する。
x=CD/2+z・PW・(i−IV) …(数式1)
y=CH+z・PW・(j−JV) …(数式2)
z=KS/dp …(数式3)
ここで、CDは撮像装置110同士の間隔(基線長)であり、PWは1画素当たりの視野角であり、CHは撮像装置110の道路表面からの配置高さであり、IV、JVは車両1の真正面における無限遠点の画像上の座標(画素)であり、KSは距離係数(KS=CD/PW)である。
【0034】
色識別子設定部164は、データ保持部152に保持された色テーブル190に基づき、対象部位の輝度に応じて対象部位に色識別子194を設定する。
【0035】
具体的に、色識別子設定部164は、輝度画像124における任意の対象部位の輝度を、輝度取得部160に取得させる。続いて、色識別子設定部164は、色テーブル190に登録されている色識別子194を順次選択し、取得した1の対象部位の輝度が、順次選択した色識別子194の輝度範囲192に含まれるか否か判定する。そして、対象部位の輝度が対象となる輝度範囲192に含まれれば、その対象部位に当該色識別子194を設定して、色識別子マップを作成する。
【0036】
色識別子設定部164は、このような対象部位それぞれの輝度と色テーブル190に登録されている複数の色識別子194の輝度範囲192との一連の比較を、複数の対象部位毎に順次実行する。ここで、色識別子194の選択順は、上述したように色テーブル190に示された優先順位に従っている。即ち、図4の色テーブル190の例では、「赤」、「黄」、「青緑」、「マゼンタ」、「橙」、「朱」、「青」、「緑」の順に比較処理が実行される。
【0037】
また、上記優先順位に従って比較した結果、対象部位の輝度が優先順位の高い色識別子194の輝度範囲192に含まれていると判定された場合、それより優先順位が低い色識別子194に関する比較処理は最早行われない。したがって、1の対象部位に関して多くとも1の色識別子194しか付されることはない。これは、複数の特定物が空間上で重なり合うことはないので、色識別子設定部164によって一旦任意の色識別子194が設定された対象物は、最早、他の色識別子194であるか否かを判定する必要がないという理由に基づく。このように対象部位を排他的に取り扱うことによって、既に色識別子194が設定された対象部位の重複した設定処理を回避することができ、処理負荷を軽減することが可能となる。
【0038】
図7は、色識別子マップ210を説明するための説明図である。色識別子マップ210は、輝度画像124に色識別子194を重ねたものである。したがって、特定物に相当する対象物の位置に、色識別子194が纏まって設定される。
【0039】
例えば、色識別子マップ210中の部分マップ210aでは、先行車両のテールランプに相当する複数の対象部位212の輝度が、色識別子「1」、色識別子「2」、色識別子「3」、色識別子「4」といった順に輝度範囲192と比較される。その結果、色識別子「4」の輝度範囲192に含まれているので、色識別子「4」が対応付けられている。また、色識別子マップ210中の部分マップ210bでは、信号機の右側点灯部分に相当する複数の対象部位214の輝度が色識別子「1」の輝度範囲192に含まれているので、特定物「信号機(赤)」の色識別子「1」が対応付けられている。さらに、色識別子マップ210中の部分マップ210cでは、先行車両の背面ランプ部に相当する複数の対象部位216の輝度が、色識別子「1」、色識別子「2」、色識別子「3」といった順に輝度範囲192と比較され、最終的に、色識別子「4」および色識別子「5」が対応付けられている。図7では、輝度画像124の複数の対象部位に色識別子が付された図を提示しているが、かかる表現は理解を容易にするための概念的なものであり、実際には対象部位にデータとして色識別子が登録されている。
【0040】
グループ化部166は、任意の対象部位を基点として、その対象部位と、水平距離xの差分および高さyの差分が所定範囲(例えば、1.0m等)内にある、同一の特定物に対応する対象部位をグループ化し、対象物とする。ここで、所定範囲は実空間上の距離で表され、任意の値に設定することができる。
【0041】
具体的に、グループ化部166は、まず、輝度画像124における任意の対象部位の色識別子194を順次取得する。そして、グループ化部166は、その対象部位を基点として、対象部位と、水平距離xの差分および高さyの差分が所定範囲内にある、対象部位の色識別子194を代表色識別子202とする特定物に対応する1または複数の色識別子194が設定された対象部位をグループ化し、対象物とする。
【0042】
また、グループ化部166は、グループ化により新たに追加された対象部位に関しても、その対象部位を新たな基点として、水平距離xの差分および高さyの差分が所定範囲内にある、同一の特定物に対応する1または複数の色識別子194が設定された対象部位をグループ化する。結果的に、同一の特定物に対応する1または複数の色識別子194が設定された対象部位同士の距離が所定範囲内であれば、それら全てがグループ化されることとなる。
【0043】
ここで、グループ化部166は、実空間上の水平距離xや高さyを用いて判定しているが、輝度画像124上や距離画像126上の検出距離で判定する場合、グループ化のための所定範囲の閾値は、対象部位の相対距離zに応じて変更される。図2等に示したように、輝度画像124や距離画像126では、遠近の物体が平面上に表されているため、本来遠方に位置する物体は小さく(短く)表され、近傍に位置する物体は大きく(長く)表される。したがって、輝度画像124や距離画像126における所定範囲の閾値は、例えば、遠方に位置する対象部位については短く、近傍に位置する対象部位については長く設定されることとなる。こうして、遠方と近傍とで検出距離が異なる場合であっても安定したグループ化が望める。また、距離画像126上の検出距離で判定する場合、所定範囲を画素数で定義してもよく、例えば、水平方向や垂直方向に1画素の間隔を有する(隣接する)画素同士をグループ化するとしてもよい。
【0044】
また、ここでは、水平距離xの差分および高さyの差分をそれぞれ独立して判定し、全てが所定範囲に含まれる場合のみ同一のグループとしているが、他の計算によることもできる。例えば、水平距離xの差分および高さyの差分の二乗平均√((水平距離xの差分)+(高さyの差分))が所定範囲に含まれる場合に同一のグループとしてもよい。かかる計算により、対象部位同士の実空間上の正確な距離を導出することができるので、グループ化精度を高めることができる。
【0045】
図8は、グループ化部166の処理を説明するための説明図である。ここでは、理解を容易にするために、色識別子194の図示を省略する。グループ化部166は、図8(a)に示すような色識別子マップ210に対して、所定範囲内にある、例えば、特定物「信号機(赤)」に対応する1または複数の色識別子194が設定された全ての対象部位をグループ化し、図8(b)に示すように、対象物218とする。
【0046】
具体的に、例えば、図8(c)に示す、青黄赤の点灯部分が水平方向に並置され、その鉛直方向下方に、進行を許可する方向を示す矢印形状の点灯部分が並置された、2段の信号機があるとする。ここで、図8(c)に示すように、上段の信号機では対象物218aの位置に「赤」が点灯し、下段の信号機では対象物218bの位置に「青緑」矢印が点灯しているとする。特定物テーブル200を参照すると、上記の場合、特定物「信号機(赤)」の代表色識別子202は「1」であり、特定物「信号機(青緑)」の代表色識別子202は「3」である。
【0047】
したがって、本来、上記の代表色識別子202に対応付けられた輝度範囲192のみ抽出すれば、代表色識別子202に対応する特定物を特定できるはずであるが、点灯部分には色ムラが生じることがあり、1つの特定物が必ずしも単色で発光しているとは限らない。また、輝度画像124のデータ構造によっては、例えば、Bayerパターンに基づく偽色も生じる場合もある。そこで、本実施形態では、1つの特定物に、代表色識別子202のみならず1または複数の色識別子194を対応付け、複数の輝度を通じてその特定物を特定する。
【0048】
例えば、図8(d)に示す対象物218aには、特定物「信号機(赤)」の本来の色である「赤」の他に、色ムラによって、「橙」や「朱」の輝度を示す対象部位も存在する。ここでは、グループ化部166が、代表色識別子「1」(「赤」に相当)と共に、色識別子「5」(「橙」に相当)や色識別子「6」(「朱」に相当)の3つの輝度に対してグループ化を遂行する。したがって、上記の色ムラ「橙」や「朱」も吸収でき、適切な範囲で特定物「信号機(赤)」を特定することが可能となる。
【0049】
また、図8(d)に示す対象物218bには、特定物「信号機(青緑)」の本来の色である「青緑」の他に、輝度が「緑」を示す対象部位も存在する。ここでも、特定物「信号機(赤)」同様、グループ化部166が、代表色識別子「3」(「青緑」に相当)と共に、色識別子「8」(「緑」に相当)の2つの輝度に対してグループ化を遂行する。したがって、上記の色ムラ「緑」も吸収でき、適切な範囲で特定物「信号機(青緑)」を特定することが可能となる。
【0050】
このようにグループ化部166は、対象部位が特定物テーブル200で対応付けられた1または複数の色識別子194のいずれを含んでいる場合であっても、対象部位同士が近接していさえすれば、それを特定物と見なす。しかし、単純に特定物とみなすとすると、以下の問題が生じる。即ち、対象物218の色識別子194が代表色識別子202以外で構成されている場合に、本来はその色識別子194に対応する他の特定物と判定されるべきところを、代表色識別子202に対応した特定物と判定されてしまうおそれがある。そこで、本実施形態では、所定の条件を満たした場合にのみ目的とする特定物とみなすこととする。
【0051】
具体的に、グループ化部166は、特定物に対応する1または複数の色識別子194が設定された全ての対象部位を抽出した後、その対象部位のうち、特定物の代表色識別子202が全体の所定割合以上含まれる場合にのみ、抽出した対象部位をグループ化する。ここで、所定割合は、任意に設定でき、例えば、6割とすることができる。こうすることで、上述したように、特定物を誤認識するのを回避でき、特定物として適切に対象物を抽出することが可能となる。
【0052】
また、グループ化部166は、抽出された、特定物に対応する1または複数の色識別子194が設定された対象部位が、所定数存在する場合にのみ、その複数の対象部位を対象物としてグループ化する。こうすることで、ノイズ的に生じた輝度がいずれかの特定物に相当してしまうため、対象物として認識されてしまうといった事象を回避することができ、適切にグループ化を実行することが可能となる。
【0053】
さらに、グループ化部166は、グループ化した対象部位の色識別子194を全て代表色識別子202に置換してもよい。本実施形態では、色ムラ等により本来の輝度からずれてしまった対象部位を、本来の輝度に対応する特定物として抽出することを目的としている。即ち、対象部位の輝度が、特定物本来の輝度と異なっていても、その輝度は特定物本来の輝度であるとみなすこととなる。そこで、グループ化部166は、そのような特定部位を本来の輝度に置換(特定物の代表色識別子202に置換)し、色識別子マップ210を特定物の本来の輝度に対応した代表色識別子202のみで表すことで、色識別子マップ210を単純化する。また、このような構成により、置換された対象部位が、他の特定物の判断対象となる可能性を低減することができ、処理負荷の軽減を図ることが可能となる。
【0054】
特定物決定部168は、グループ化部166がグループ化した対象物が所定の条件を満たしていれば、その対象物を特定物として決定する。例えば、図5に示したように、特定物テーブル200に幅範囲204が対応付けられている場合、特定物決定部168は、特定物テーブル200に基づき、対象物の大きさ(対象物の水平距離xの幅および高さyの幅のいずれも)が、特定物の代表色識別子202の幅範囲204に含まれていれば、その対象物を対象となる特定物として決定することとする。また、対象物の水平距離xの幅および高さyの幅それぞれについて幅範囲204を設定してもよい。ここでは、対象物が、特定物とみなすのに妥当な大きさであることを確認している。したがって、幅範囲204に含まれない場合、当該環境認識処理に不要な情報として除外することができる。例えば、図8を用いた例では、図8(d)の対象物218aの大きさは、特定物「信号機(赤)」の幅範囲「0.2〜0.4m」に含まれるため、適切に特定物「信号機(赤)」と特定される。
【0055】
こうして、環境認識装置130では、輝度画像124から、1または複数の対象物を、特定物として抽出することができ、その情報を様々な制御に用いることが可能となる。例えば、特定物「信号機(赤)」を抽出することで、その対象物が、移動を伴わない固定された物であることが把握されると共に、その対象物が自車線に関する信号機であれば、自車両1は、停止または減速すべきであることを把握することができる。また、特定物「テールランプ(赤)」を抽出することで、そこに自車両1と共に走行している先行車両があり、かつ、その先行車両の背面が、特定物「テールランプ(赤)」の相対距離zにあることを把握することができる。
【0056】
パターンマッチング部170は、特定物決定部168が決定した特定物が例えば「標識」であり、その中には制限速度が表記されていることが想定される場合、さらに、表記されている数値についてパターンマッチングを実行し、その数値を特定する。こうして、環境認識装置130は、自車線の制限速度等を認識することができる。
【0057】
本実施形態においては、まず、特定物決定部168によって複数に制限された特定物を抽出し、その抽出された特定物とのパターンマッチングのみ行えばよい。したがって、従来のように、輝度画像124全面に対してパターンマッチングを行うのに比べ処理負荷が格段に少なくなる。
【0058】
(環境認識方法)
以下、環境認識装置130の具体的な処理を図9〜図12のフローチャートに基づいて説明する。図9は、画像処理装置120から距離画像(視差情報)126が送信された場合の割込処理に関する全体的な流れを示し、図10〜図12は、その中の個別のサブルーチンを示している。また、ここでは、対象部位として画素を挙げており、輝度画像124や距離画像126の左下隅を原点とし、画像水平方向に1〜600画素、垂直方向に1〜200画素の範囲で当該環境認識方法による処理を遂行する。また、ここでは、対象となる色識別子194および特定物の数を8つと仮定する。
【0059】
図9に示すように、距離画像126の受信を契機に当該環境認識方法による割込が発生すると、画像処理装置120から取得した輝度画像124が参照されて対象部位に色識別子194が設定され、色識別子マップ210が生成される(S302)。
【0060】
続いて、色識別子マップ210中で距離が近似する対象部位がグループ化され(S304)、グループ化された対象物が特定物として決定される(S306)。決定された特定物からさらに情報を得る必要があれば、パターンマッチング部170によって、特定物のパターンマッチングが実行される(S308)。以下、上記の処理を具体的に説明する。
【0061】
(色識別子マップ生成処理S302)
図10を参照すると、特定物仮決定部164は、対象部位(画素)を特定するための垂直変数jを初期化(「0」を代入)する(S350)。続いて、特定物仮決定部164は、垂直変数jに「1」を加算(インクリメント)すると共に水平変数iを初期化(「0」を代入)する(S352)。次に、特定物仮決定部164は、水平変数iに「1」を加算し、特定物変数mを初期化(「0」を代入)する(S354)。ここで、水平変数iや垂直変数jを設けているのは、600×200の画素全てに対して当該特定物マップ生成処理を実行するためであり、特定物変数mを設けているのは、画素毎に8つの特定物を順次比較するためである。
【0062】
特定物仮決定部164は、輝度画像124から対象部位としての画素(i,j)の輝度を輝度取得部160に取得させ(S356)、特定物変数mに「1」を加算し(S358)、特定物(m)の代表色識別子の輝度範囲202を取得し(S360)、画素(i,j)の輝度が特定物(m)の代表色識別子の輝度範囲202に含まれるか否か判定する(S362)。
【0063】
画素(i,j)の輝度が特定物(m)の代表色識別子の輝度範囲202に含まれていれば(S362におけるYES)、特定物仮決定部164は、その画素に特定物(m)を示す識別番号pを対応付けて、画素(i,j,p)とする(S364)。こうして、輝度画像124中の各画素に識別番号が付された特定物マップ210が生成される。また、画素(i,j)の輝度が特定物(m)の代表色識別子の輝度範囲202に含まれていなければ(S362におけるNO)、特定物変数mが特定物の最大数である8を超えたか否か判定する(S366)。ここで、特定物変数mが最大値を超えていなければ(S366におけるNO)、ステップS358の特定物変数mのインクリメント処理からを繰り返す。また、特定物変数mが最大値を超えていれば(S366におけるYES)、当該画素(i,j)に対応する特定物は存在しないとして、次のステップS368に処理が移される。
【0064】
続いて、特定物仮決定部164は、水平変数iが水平画素の最大値である600を超えたか否か判定し(S368)、水平変数iが最大値を超えていなければ(S368におけるNO)、ステップS354の水平変数iのインクリメント処理からを繰り返す。また、水平変数iが最大値を超えていれば(S368におけるYES)、特定物仮決定部164は、垂直変数jが垂直画素の最大値である200を超えたか否か判定する(S370)。そして、垂直変数jが最大値を超えていなければ(S370におけるNO)、ステップS352の垂直変数jのインクリメント処理からを繰り返す。また、垂直変数jが最大値を超えていれば(S370におけるYES)、当該特定物マップ生成処理を終了する。
【0065】
(グループ化処理S304)
図11を参照すると、グループ化部166は、対象部位をグループ化するための所定範囲を参照し(S400)、対象部位(画素)を特定するための垂直変数jを初期化(「0」を代入)する(S402)。続いて、グループ化部166は、垂直変数jに「1」を加算すると共に水平変数iを初期化(「0」を代入)する(S404)。次に、グループ化部166は、水平変数iに「1」を加算する(S406)。
【0066】
グループ化部166は、輝度画像124から対象部位としての視差情報dpを含む画素(i,j,p,dp)を取得し、視差情報dpを含む画素(i,j,p,dp)を実空間上の点(x,y,z)に座標変換して、画素(i,j,p,dp,x,y,z)とする(S408)。そして、その画素(i,j,p,dp,x,y,z)に有効な(0ではない)色識別子pが存在し、かつ、グループ番号gがまだ付されていない否か判定する(S410)。ここで、有効な色識別子pが存在し、かつ、グループ番号gがまだ付されていなければ(S410におけるYES)、グループ化部166は、その画素の実空間上の座標(x,y,z)から所定範囲内に、その色識別子pを代表色識別子とする特定物に対応する1または複数の色識別子194が設定された他の1または複数の画素が存在し、かつ、その画素にグループ番号gがまだ付されていないか否か判定する(S412)。
【0067】
1または複数の色識別子194が設定された他の画素(i,j,p,dp,x,y,z)が存在し、その画素にグループ番号gがまだ付されていなければ(S412におけるYES)、グループ化部166は、自己を含む所定範囲内の特定物に対応する1または複数の色識別子194が設定され、かつ、グループ番号gがまだ付されていない全ての画素における特定物の代表色識別子pの割合が所定割合以上か否か判定する(S414)。そして、所定割合以上であれば(S414におけるYES)、グループ番号としてまだ利用されていない番号のうち最も小さい値を、自己を含む所定範囲内の全ての画素に新規に付与する(S416)。ここでは、既に他の特定物としてグループ化されている画素については、グループ化処理の対象外とし、グループ化を実行しない。そして、グループ化を行った全ての画素の色識別子194を、代表色識別子pに置換する。
【0068】
このように、所定範囲内に色識別子が等しい対象部位が複数存在する場合、1のグループ番号gを付すことによってグループ化を行う。このとき、グループ番号としてまだ利用されていない番号のうち最も小さい値を採用しているのは、グループの採番において可能な限り欠番を出さないようにするためである。こうすることで、グループ番号gの最大値が無用に大きくなることがなくなり、処理負荷を軽減することが可能となる。
【0069】
色識別子pが有効な値ではない(0である)、もしくは、有効な値ではあるがグループ番号gが既に付与されている場合(S410におけるNO)、色識別子の等しい他の画素が存在しない、もしくは、存在するがその画素全てにグループ番号gが既に付与されている場合(S412におけるNO)、または、代表色識別子202の割合が所定割合以上でない場合(S414におけるNO)、次のステップS418に処理が移される。
【0070】
続いて、グループ化部166は、水平変数iが水平画素の最大値である600を超えたか否か判定し(S418)、水平変数iが最大値を超えていなければ(S418におけるNO)、ステップS406の水平変数iのインクリメント処理からを繰り返す。また、水平変数iが最大値を超えていれば(S418におけるYES)、グループ化部166は、垂直変数jが垂直画素の最大値である200を超えたか否か判定する(S420)。そして、垂直変数jが最大値を超えていなければ(S420におけるNO)、ステップS404の垂直変数jのインクリメント処理からを繰り返す。また、垂直変数jが最大値を超えていれば(S420におけるYES)、当該グループ化処理を終了する。
【0071】
(特定物決定処理S306)
図12を参照すると、特定物決定部168は、グループを特定するためのグループ変数kを初期化(「0」を代入)する(S452)。続いて、特定物決定部168は、グループ変数kに「1」を加算する(S454)。
【0072】
特定物決定部168は、輝度画像124からグループ番号gがグループ変数kである対象物が存在するか否か判定し(S456)、存在すれば(S456におけるYES)、そのグループ番号gが付された対象物の大きさを計算する(S458)。このとき対象物の大きさは、対象物の画面左端に位置する画素と画面右端に位置する画素間の水平距離(差分)である水平方向成分および対象物の画面上端に位置する画素と画面下端に位置する画素間の高さ(差分)である垂直方向成分によって特定される。そして、計算した大きさが、グループ番号gがグループ変数kである対象物に対応付けられた代表色識別子pで示される特定物の幅範囲204に含まれるか否か判定する(S460)。例えば、対象物の大きさの水平方向成分が、代表色識別子pで示される特定物の幅範囲204以内であり、かつ、対象物の大きさの垂直方向成分が、代表色識別子pで示される特定物の幅範囲204以内であれば、対象物は、代表色識別子pで示される特定物の幅範囲204に含まれると判定できる。
【0073】
大きさが代表色識別子pで示される特定物の幅範囲204に含まれていれば(S460におけるYES)、特定物決定部168は、その対象物を特定物として決定する(S462)。大きさが代表色識別子pで示される特定物の幅範囲204に含まれていない(S460におけるNO)、または、グループ番号gがグループ変数kである対象物が存在しない場合(S456におけるNO)、次のステップS464に処理が移される。
【0074】
続いて、特定物決定部168は、グループ変数kが、グループ化処理において設定されたグループ番号の最大値を超えたか否か判定する(S464)。そして、グループ変数kが最大値を超えていなければ(S464におけるNO)、ステップS454のグループ変数kのインクリメント処理からを繰り返す。また、グループ変数kが最大値を超えていれば(S464におけるYES)、当該特定物決定処理を終了する。こうして、グループ化された対象物が正式に特定物として決定される。
【0075】
以上、説明したように、環境認識装置130によれば、対象部位が特定物テーブル200で対応付けられた1または複数の色識別子194のいずれかを含みさえすれば、それを1の特定物の候補と見なすので、特定物を誤認識するのを回避でき、特定物として適切に対象物を抽出することが可能となる。
【0076】
また、特定物テーブル200で対応付けられた1または複数の色識別子194を、予め定められた色テーブル190の色識別子194のみを用いることで、無用に多くの輝度範囲を判定することなく、所定数の輝度範囲さえ判定すれば済むので、処理負荷の大幅な軽減を図ることができる。
【0077】
また、コンピュータを、環境認識装置130として機能させるプログラムや当該プログラムを記録した、コンピュータで読み取り可能なフレキシブルディスク、光磁気ディスク、ROM、CD、DVD、BD等の記憶媒体も提供される。ここで、プログラムは、任意の言語や記述方法にて記述されたデータ処理手段をいう。
【0078】
以上、添付図面を参照しながら本発明の好適な実施形態について説明したが、本発明はかかる実施形態に限定されないことは言うまでもない。当業者であれば、特許請求の範囲に記載された範疇において、各種の変更例または修正例に想到し得ることは明らかであり、それらについても当然に本発明の技術的範囲に属するものと了解される。
【0079】
例えば、上述した実施形態の特定物テーブル200においては、特定物に、予め色テーブル190に定められた色識別子のみを対応付けているが、特定物それぞれに、任意の輝度範囲を複数対応付けてもよい。
【0080】
また、上述した実施形態においては、対象物の三次元位置を複数の撮像装置110を用い画像データ間の視差に基づいて導出しているが、かかる場合に限られず、例えば、レーザレーダ測距装置等、既知の様々な距離測定装置を用いることができる。ここで、レーザレーダ測距装置は、検出領域122にレーザビームを投射し、このレーザビームが物体に当たって反射してくる光を受光し、この所要時間から物体までの距離を測定するものである。
【0081】
また、上述した実施形態においては、撮像装置110がカラー画像を取得することを前提としているが、かかる場合に限られず、モノクロ画像を取得することでも本実施形態を遂行することができる。この場合、色テーブル190が単色の輝度で定義されることとなる。
【0082】
また、上述した実施形態では、位置情報取得部162が、画像処理装置120から距離画像(視差情報)126を受けて三次元の位置情報を生成している例を挙げている。しかし、かかる場合に限られず、画像処理装置120において予め三次元の位置情報を生成し、位置情報取得部162は、その生成された三次元の位置情報を取得するとしてもよい。このようにして、機能分散を図り、環境認識装置130の処理負荷を軽減することが可能となる。
【0083】
また、上述した実施形態においては、輝度取得部160、位置情報取得部162、色識別子設定部164、グループ化部166、特定物決定部168、パターンマッチング部170は中央制御部154によってソフトウェアで動作するように構成している。しかし、上記の機能部をハードウェアによって構成することも可能である。
【0084】
また、特定物決定部168は、例えば対象物の大きさが特定物の幅範囲204に含まれることをもって特定物と決定しているが、かかる場合に限らず、さらに、他の様々な条件を満たしている場合に特定物として決定してもよい。例えば、対象物中における水平方向および鉛直方向の相対距離zの推移がほぼ等しい(連続する)場合や、z座標に対する相対移動速度が等しい場合に特定物とする。このとき対象物中における水平方向および鉛直方向の相対距離zの推移は、ハフ変換あるいは最小二乗法による近似直線によって特定することができる。
【0085】
なお、本明細書の環境認識方法の各工程は、必ずしもフローチャートとして記載された順序に沿って時系列に処理する必要はなく、並列的あるいはサブルーチンによる処理を含んでもよい。
【産業上の利用可能性】
【0086】
本発明は、検出領域における対象物の輝度に基づいて、その対象物を認識する環境認識装置および環境認識方法に利用することができる。
【符号の説明】
【0087】
1 …車両
122 …検出領域
124 …輝度画像
126 …距離画像
130 …環境認識装置
152 …データ保持部
160 …輝度取得部
162 …位置情報取得部
164 …色識別子設定部
166 …グループ化部
168 …特定物決定部
200 …特定物テーブル
202 …輝度範囲
204 …幅範囲
210 …色識別子マップ

【特許請求の範囲】
【請求項1】
予め定められた所定数の色識別子と輝度範囲とを対応付けて保持すると共に、複数の特定物それぞれに対して1または複数の色識別子を対応付けて保持するデータ保持部と、
検出領域内に存在する対象部位の輝度を取得する輝度取得部と、
前記データ保持部に保持された色識別子と輝度範囲との対応付けに基づき、前記対象部位の輝度に応じて前記対象部位に色識別子を設定する色識別子設定部と、
前記データ保持部に保持された特定物と色識別子との対応付けに基づき、水平距離の差分および高さの差分が所定範囲内にある、同一の特定物に対応する1または複数の色識別子が設定された対象部位をグループ化するグループ化部と、
を備えることを特徴とする環境認識装置。
【請求項2】
前記複数の特定物は、それぞれ、対応付けられている1または複数の色識別子のうち1の色識別子が代表色識別子として予め設定されており、
前記グループ化部は、グループ化した対象部位に前記代表色識別子が含まれる場合に、該対象部位をグループ化することを特徴とする請求項1に記載の環境認識装置。
【請求項3】
前記グループ化部は、グループ化した対象部位の色識別子を全て代表色識別子に置換することを特徴とする請求項2に記載の環境認識装置。
【請求項4】
検出領域内に存在する対象部位の輝度を取得し、
データ保持部に保持された色識別子と輝度範囲との対応付けに基づき、前記対象部位の輝度に応じて前記対象部位に色識別子を設定し、
前記データ保持部に保持された特定物と色識別子との対応付けに基づき、水平距離の差分および高さの差分が所定範囲内にある、同一の特定物に対応する1または複数の色識別子が設定された対象部位をグループ化することを特徴とする環境認識方法。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図9】
image rotate

【図10】
image rotate

【図11】
image rotate

【図12】
image rotate

【図7】
image rotate

【図8】
image rotate