画像処理装置
【課題】パターンマッチングの対象となる一対の画像データにおける空間周波数の偏差を抑制することで、適切にパターンマッチングを遂行する。
【解決手段】画像処理装置120は、ベイヤー配列で構成される一対の画像データにおいて、各画素に未設定の色相の輝度を隣接する画素に基づいて復元する色復元部172と、一対の画像データにおいて、各画素に予め設定されている色相の輝度を周囲の画素に基づいて合成する色合成部174と、一対の画像データそれぞれから所定の大きさのブロックを抽出してマッチングを行い、相関性の高いブロック同士を特定するマッチング処理部180と、を備える。こうして、空間周波数の偏差を抑制して適切にパターンマッチングを遂行することが可能となる。
【解決手段】画像処理装置120は、ベイヤー配列で構成される一対の画像データにおいて、各画素に未設定の色相の輝度を隣接する画素に基づいて復元する色復元部172と、一対の画像データにおいて、各画素に予め設定されている色相の輝度を周囲の画素に基づいて合成する色合成部174と、一対の画像データそれぞれから所定の大きさのブロックを抽出してマッチングを行い、相関性の高いブロック同士を特定するマッチング処理部180と、を備える。こうして、空間周波数の偏差を抑制して適切にパターンマッチングを遂行することが可能となる。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、撮像した一対の画像データに基づいてパターンマッチングを実行する画像処理装置に関する。
【背景技術】
【0002】
従来、自車両の前方に位置する車両や信号機等の障害物といった対象物を検出し、検出した対象物との衝突を回避したり、先行車両との車間距離を安全な距離に保つように制御する技術が知られている(例えば、特許文献1、2)。
【0003】
先行車両との車間距離は、例えば、異なる位置で撮像された一対の画像データにおける対象物の視差から求めることができる。また、一対の画像データにおける対象物の視差は、画像間のパターンマッチングに基づいて導出される。パターンマッチングとしては、画像間で所定の大きさのブロック同士を比較し(マッチングし)、相関性が高いブロックを特定するといったことが一般的に行われている。また、画像の濃度ヒストグラムを用いてパターンマッチングを実行する技術も開示されている(例えば、特許文献3)。
【0004】
さらに、パターンマッチングの精度を高めるべく、パターンマッチングの前段で、撮像した画像の光学的な位置ズレを幾何学的に位置補正する技術も公開されている(例えば、特許文献4、5)。
【先行技術文献】
【特許文献】
【0005】
【特許文献1】特許第3349060号
【特許文献2】特開平10−283461号公報
【特許文献3】特開平5−210737号公報
【特許文献4】特許第3284190号
【特許文献5】特許第3261115号
【発明の概要】
【発明が解決しようとする課題】
【0006】
画像を取得する手段として、例えば、格子状に配列された画素に対応する複数の受光部位(フォトダイオード)に、3原色であるRGB信号それぞれのカラーフィルタを規則的かつ排他的に配した、所謂ベイヤー配列が知られている。ベイヤー配列では、画素毎にRGBのうち1の色相しか取得されないため、通常、各画素において未設定の(欠落している)色相の輝度を、隣接する画素に基づいて補間し、色を復元する。そして、色が復元された各画素が、上述したように幾何学的に位置補正され、その後、パターンマッチングが遂行される。
【0007】
しかし、上述した色の復元では、未設定の色相の輝度を、隣接する画素の輝度を線形補間して求めるため、その空間周波数が低下する。そうすると、色の復元処理を行わない画素と、復元処理が必要な画素とで空間周波数の偏差が生じ、パターンマッチングの精度が向上しないといった事態を招いていた。また、幾何学的な位置補正においても、位置補正の必要のない画素と、位置補正が必要な画素とで空間周波数の偏差が生じ、同様に、パターンマッチングの精度の向上を図ることができなかった。
【0008】
本発明は、このような課題に鑑み、パターンマッチングの対象となる一対の画像データにおける空間周波数の偏差を抑制することで、適切にパターンマッチングを遂行可能な、画像処理装置を提供することを目的としている。
【課題を解決するための手段】
【0009】
上記課題を解決するために、本発明の画像処理装置は、ベイヤー配列で構成される一対の画像データにおいて、各画素に未設定の色相の輝度を隣接する画素に基づいて復元する色復元部と、一対の画像データにおいて、各画素に予め設定されている色相の輝度を周囲の画素に基づいて合成する色合成部と、一対の画像データそれぞれから所定の大きさのブロックを抽出してマッチングを行い、相関性の高いブロック同士を特定するマッチング処理部と、を備えることを特徴とする。
【0010】
色合成部は、色復元部によって復元されることで低下する空間周波数の最小値に近づくように、各画素に予め設定されている色相の輝度を周囲の画素に基づいて合成してもよい。
【0011】
色合成部は、色相の輝度が予め設定されている画素の輝度と、周囲の同一色相の輝度とを所定の比率で合成してもよい。
【0012】
一対の画像データを生成する撮像装置に応じて予め定められた画素毎の位置ズレ特性に基づき各画素を座標変換し、座標変換後の画素の輝度を導出する座標変換部と、座標変換部による座標変換が不要と判断された画素の輝度を周囲の画素に基づいて合成する座標合成部と、をさらに備えてもよい。
【0013】
上記課題を解決するために、本発明の他の画像処理装置は、一対の画像データを生成する撮像装置に応じて予め定められた画素毎の位置ズレ特性に基づき各画素を座標変換し、座標変換後の画素の輝度を導出する座標変換部と、座標変換部による座標変換が不要と判断された画素の輝度を周囲の画素に基づいて合成する座標合成部と、一対の画像データそれぞれから所定の大きさのブロックを抽出してマッチングを行い、相関性の高いブロック同士を特定するマッチング処理部と、を備えることを特徴とする。
【0014】
座標合成部は、座標変換部によって座標変換されることで低下する空間周波数の最小値に近づくように、座標変換が不要と判断された画素の輝度を周囲の画素に基づいて合成してもよい。
【0015】
座標合成部は、座標変換が不要と判断された画素の輝度と、周囲の同一色相の輝度とを所定の比率で合成してもよい。
【0016】
マッチング処理部は、特定されたブロック同士の相関値と、特定されたブロック同士の一方を水平方向左右に単位画素シフトしたときの2つの相関値とに基づいて、画素単位より分解能の高いマッチング位置を導出してもよい。
【発明の効果】
【0017】
本発明によれば、パターンマッチングの対象となる一対の画像データにおける空間周波数の偏差を抑制することで、適切にパターンマッチングを遂行できる。したがって、視差情報を適切に導出でき、対象物との衝突を回避したり、先行車両との車間距離を安全な距離に保つ制御を適切に行うことが可能となる。
【図面の簡単な説明】
【0018】
【図1】第1の実施形態による環境認識システムの接続関係を示したブロック図である。
【図2】輝度画像と距離画像を説明するための説明図である。
【図3】ベイヤー配列の一例を説明するための説明図である。
【図4】色復元処理を説明するための説明図である。
【図5】座標変換処理を説明するための説明図である。
【図6】座標変換の一例を示す説明図である。
【図7】画像処理装置の概略的な機能を示した機能ブロック図である。
【図8】色合成部の合成例を示した説明図である。
【図9】座標合成部の合成例を示した説明図である。
【図10】パターンマッチングにおける相関値(差分値)の推移を示した説明図である。
【図11】画像処理方法の全体的な流れを示したフローチャートである。
【図12】色復元処理の流れを示したフローチャートである。
【図13】座標変換処理の流れを示したフローチャートである。
【発明を実施するための形態】
【0019】
以下に添付図面を参照しながら、本発明の好適な実施形態について詳細に説明する。かかる実施形態に示す寸法、材料、その他具体的な数値などは、発明の理解を容易とするための例示にすぎず、特に断る場合を除き、本発明を限定するものではない。なお、本明細書及び図面において、実質的に同一の機能、構成を有する要素については、同一の符号を付することにより重複説明を省略し、また本発明に直接関係のない要素は図示を省略する。
【0020】
(環境認識システム100)
画像処理装置は、任意の目的を適切に達成するため撮像された画像を加工処理することを目的としている。例えば、画像処理装置を、車両周囲の環境を認識するための環境認識システムに採用した場合、画像処理装置は、撮像装置で撮像された画像を加工処理し、画像内の対象物の相対距離を特定するためその画像の視差情報を導出する。ここでは、画像処理装置の理解を容易にするため、まず、画像処理装置を用いた一実施形態である環境認識システムを説明し、その後、画像処理装置の具体的な構成を詳述する。
【0021】
図1は、環境認識システム100の接続関係を示したブロック図である。環境認識システム100は、車両1内に設けられた、撮像装置110と、画像処理装置120と、環境認識装置130と、車両制御装置140とを含んで構成される。
【0022】
(撮像装置110)
撮像装置110は、CCD(Charge-Coupled Device)やCMOS(Complementary Metal-Oxide Semiconductor)等の撮像素子を含んで構成され、カラー画像、即ち、画素単位で3つの色相(赤、緑、青)の輝度を取得する。本実施形態においては、色と輝度とを同等に扱い、同一の文章に両文言が含まれる場合、互いを、色を構成する輝度、または、輝度を有する色と読み替えることができる。ここでは、画素に対応する受光部位(フォトダイオード)にRGB信号それぞれのカラーフィルタを規則的かつ排他的に配した、ベイヤー配列によるカラー画像を得ることとする。また、撮像装置110で撮像されたカラーの画像を輝度画像と呼び、後述する距離画像と区別する。
【0023】
撮像装置110は、車両1の進行方向側において2つの撮像装置110それぞれの光軸が略平行になるように、略水平方向に離隔して配置される。撮像装置110は、車両1の前方の検出領域に存在する対象物を撮像した画像データを、例えば1/60秒毎(60fps)に連続して生成する。ここで、対象物は、車両、信号機、道路、ガードレールといった独立して存在する立体物のみならず、テールランプやウィンカー、信号機の各点灯部分等、立体物の部分として特定できる物も含む。以下の実施形態における各機能部は、このような画像データの更新を契機として各処理を遂行する。
【0024】
(画像処理装置120)
画像処理装置120は、2つの撮像装置110それぞれから画像データを取得し、取得した一対の画像データの相関性を評価し、画像中の任意のブロック(所定数の画素を集めたもの)の両画像間の視差を含む視差情報を導出する。画像処理装置120は、一方の画像データから任意に抽出したブロック(例えば水平4画素×垂直4画素の配列)に対応するブロックを他方の画像データから検索する、所謂パターンマッチングを用いて視差を導出する。ここで、水平は、撮像した画像の画面横方向を示し、実空間上の水平に相当する。また、垂直は、撮像した画像の画面縦方向を示し、実空間上の鉛直方向に相当する。かかる相関性の評価およびパターンマッチングに関しては後ほど詳述する。
【0025】
ただし、画像処理装置120では、検出分解能単位であるブロック毎に視差を導出することはできるが、そのブロックがどのような対象物の一部であるかを認識できない。したがって、視差情報は、対象物単位ではなく、検出領域における検出分解能単位(例えばブロック単位)で独立して導出されることとなる。ここでは、このようにして導出された視差情報を画像データに対応付けた画像を距離画像という。
【0026】
図2は、輝度画像124と距離画像126を説明するための説明図である。例えば、2つの撮像装置110を通じ、検出領域122について図2(a)のような輝度画像(画像データ)124が生成されたとする。ただし、ここでは、理解を容易にするため、2つの輝度画像124の一方のみを模式的に示している。画像処理装置120は、このような輝度画像124からブロック毎の視差を求め、図2(b)のような距離画像126を形成する。距離画像126における各ブロックには、そのブロックの視差が関連付けられている。ここでは、説明の便宜上、視差が導出されたブロックを黒のドットで表している。
【0027】
(環境認識装置130)
環境認識装置130は、画像処理装置120から輝度画像124と距離画像126とを取得し、輝度画像124に基づく輝度と、距離画像126の視差情報に基づく車両(自車両)1との相対距離とを用いて検出領域122における対象物がいずれの物(車両、信号機、道路、ガードレール、テールランプ、ウィンカー、信号機の各点灯部分等)に対応するかを特定する。このとき、環境認識装置130は、距離画像126における、検出領域122内のブロック毎の視差情報を、所謂ステレオ法を用いて、相対距離を含む三次元の位置情報に変換している。ここで、ステレオ法は、三角測量法を用いることで、対象物の視差からその対象物の撮像装置110に対する相対距離を導出する方法である。
【0028】
(車両制御装置140)
車両制御装置140は、環境認識装置130で特定された対象物との衝突を回避したり、先行車両との車間距離を安全な距離に保つ制御を実行する。具体的に、車両制御装置140は、操舵の角度を検出する舵角センサ142や車両1の速度を検出する車速センサ144等を通じて現在の車両1の走行状態を取得し、アクチュエータ146を制御して先行車両との車間距離を安全な距離に保つ。ここで、アクチュエータ146は、ブレーキ、スロットルバルブ、舵角等を制御するために用いられる車両制御用のアクチュエータである。また、車両制御装置140は、対象物との衝突が想定される場合、運転者の前方に設置されたディスプレイ148にその旨警告表示(報知)を行うと共に、アクチュエータ146を制御して車両1を自動的に制動する。かかる車両制御装置140は、環境認識装置130と一体的に形成することもできる。
【0029】
(本実施形態における問題点とその解決手段)
カラー画像は様々な態様で取得できる。例えば、(1)撮像装置110への入射光をプリズムによってRGBの各色相に分割し、3つの撮像素子で色相毎に画像を取得したり、(2)RGBそれぞれの感度セルを光路方向に重畳した撮像素子でRGBに基づく画像を一度に取得したり、(3)ベイヤー配列によって画素毎に1の色相を規則的かつ排他的に取得したりすることが可能である。本実施形態では、このうち(3)ベイヤー配列を用いて画像を取得する。
【0030】
図3は、ベイヤー配列の一例を説明するための説明図である。図3(a)に示すように、ベイヤー配列は、格子状に配列された画素に規則的かつ排他的に各色相RGBを配置したものであり、いずれの色相においても、少なくとも水平方向および垂直方向の2つ隣の画素には同一の色相が配されている。ただし、色相Gは、色相Rと色相Bに対して2倍の密度(占有面積)となっている。これは、図3(b)に示した分光感度特性のように、色相Gの感度分布が高いため、輝度情報を取得しやすく、また、人間の視覚が色相Gに対して高い感度を持っているからである。
【0031】
ベイヤー配列においては、各画素からは1つの色相に関してしか輝度を得られない。そこで、欠落している他の2つの色相に関し、隣接する画素の当該色相の輝度を用いて色復元処理(補間処理)を行う。
【0032】
図4は、色復元処理を説明するための説明図である。図4を含む以下の図では、画像周囲に付された数字が画素の水平および垂直位置を示す。例えば、色相Rは、ベイヤー配列において図4(a)のように配されている。したがって、既に色相Rについて輝度が取得されている画素(2,1)、(2,3)、(4,1)、(4,3)の輝度は、取得した輝度a、b、c、dをそのまま利用できる。
【0033】
また、水平方向または垂直方向に、輝度が取得された2つの画素が隣接する画素(2,2)、(3,1)、(3,3)、(4,2)では、隣接する2つの画素の輝度が線形補間され、画素(2,2)の輝度=(a+b)/2、画素(3,1)の輝度=(a+c)/2、画素(3,3)の輝度=(b+d)/2、画素(4,2)の輝度=(c+d)/2となる。
【0034】
さらに、対角線方向に、輝度が取得された4つの画素が隣接する画素(3,2)では、隣接する4つの画素の輝度が線形補間され、画素(3,2)の輝度=(a+b+c+d)/4となる。ここでは、説明の便宜のため水平方向1行目および垂直方向4行目の画素の導出は省略している。このような画素の補間は、図4(b)に示すように色相Bでも適用できるため、ここでは、色相Bについての説明を省略する。
【0035】
また、色相Gは,ベイヤー配列において図4(c)のように配されている。したがって、既に色相Gについて輝度が取得されている画素(2,2)、(3,1)、(3,3)、(4,2)の輝度は、取得した輝度e、f、g、hをそのまま利用できる。また、水平方向および垂直方向に輝度が取得された4つの画素が隣接する画素(3,2)では、隣接する4つの画素の輝度が線形補間され、画素(3,2)の輝度=(e+f+g+h)/4となる。
【0036】
ここで、色復元された画素の輝度における空間周波数に着目する。空間周波数(spatial frequency)は、画像の周期的構造の細かさを示したもので、単位長あたりの周期で表すことができる。また、撮像装置110に適用した場合、空間周波数はレンズの解像度を表す。空間周波数は、加工を施していない状態で高く、平均化や合成により低くなる。
【0037】
したがって、図4(a)の例で、既に色相Rについて輝度が取得されている画素(2,1)、(2,3)、(4,1)、(4,3)の空間周波数を仮に1としたとき、2つの画素の輝度を線形補間した、画素(2,2)、(3,1)、(3,3)、(4,2)の空間周波数は1/2となり、4つの画素を線形補間した画素(3,2)の空間周波数は1/4となる。ただし、ここでは、理解を容易にするため、単純な画素について空間周波数の値を算出しているが、実際に取得された画素によって、空間周波数が異なるのは言うまでもない。
【0038】
そうすると、図4(a)の破線で囲んだ隣接する4つの画素において、空間周波数が1、1/2、1/4と異なってしまうこととなり、その空間周波数の最大値と最小値で偏差が生じる。通常、空間周波数が低い画素が生じても、空間周波数が高い画素により、画像の鮮明度が保たれる。しかし、後述するパターンマッチングに関しては、このような空間周波数の偏差が弊害となる場合もある。
【0039】
即ち、パターンマッチングは、一対の画像データにおける画素同士の相関性を評価するところ、対象物の同一の部位に相当する、同一の輝度を有する画素であっても、その空間周波数が異なれば、相関性が低くなる。ここで、高い空間周波数に揃えることも考えられるが、1/4となった画素の情報量から高い空間周波数を復元するのは困難である。そこで、本実施形態では、空間周波数を低い値に揃えることを試みる。
【0040】
したがって、本実施形態では、図4(a)において、空間周波数が1/2となった画素(2,2)、(3,1)、(3,3)、(4,2)や、空間周波数が1/4となった画素(3,2)はそのまま維持し、画素(2,1)、(2,3)、(4,1)、(4,3)の空間周波数1を敢えて下げることとする。
【0041】
こうして空間周波数を均一化(空間周波数の偏差を抑制)する場合、その値が低ければ低い程、パターンマッチングの精度が向上する。これは、一対の画像データの一方における任意の画素と対応する他方の領域が、画像データの2つの画素に跨る場合、空間周波数が高い画素だと、2つの画素のいずれとも相関値が低くなるからである。このとき、空間周波数を下げると、画素自体がぼやけて、任意の画素データとの相関性が高くなる。こうして、適切にパターンマッチングが実行される。ただし、空間周波数を下げ過ぎると、本来は異なる対象物同士であってもマッチングできてしまうので注意を要する。
【0042】
そして、色復元処理が完了すると、次に、撮像装置110に応じて予め定められた画素毎の位置ズレ(歪み)特性に基づき各画素を座標変換する座標変換処理が遂行される。座標変換は、撮像装置110を通じたことにより本来の位置から歪んで取得されてしまった対象物を本来の位置に戻すための処理である。例えば、図5(a)に示す魚眼レンズを通じたような位置ズレ特性を有する映像を、水平方向や垂直方向への単純シフトやアフィン変換等を用いた回転移動により、図5(b)のような水平方向や垂直方向が直線となる画像に補正する。
【0043】
図6は、座標変換の一例を示す説明図である。例えば、任意の画素150を水平右方向にx、垂直下方向にyだけシフトする座標変換を実行すると、座標が異なる新たな画素152が生成される。かかる画素152の輝度は、図6に破線で示した4つの画素の輝度の合成で表すことができる。例えば、4つの画素の輝度=a、b、c、dから実線で示した1つの画素を幾何補正により復元すると、実線で示した画素152の輝度は、距離x、yを用いて、a×(1−x)(1−y)+b×x(1−y)+c×(1−x)y+d×xyで表される。
【0044】
そうすると、色復元処理同様、座標変換処理においても、画素152の空間周波数が1/4となってしまう。ただし、画素152が、たまたま2つの画素のみに跨って生成された場合、その空間周波数は1/2となり、さらに、1つの画素と完全に重なった場合、その空間周波数は1となる。このように、空間周波数が1、1/2、1/4と異なってしまうと、色復元処理で説明したように、後述するパターンマッチングにおいて、その空間周波数の偏差が弊害となる。
【0045】
そこで、本実施形態においては、空間周波数が1/4となった画素や、空間周波数が1/2となった画素はそのまま維持し、たまたま1つの画素に重なることで座標変換が不要と判断された画素の空間周波数1を敢えて低くする。このように、空間周波数を下げることで、画素自体がぼやけ、任意の画素データとの相関性が高くなる。こうして、適切にパターンマッチングが実行される。
【0046】
以下、空間周波数を下げ、空間周波数の偏差を抑制することで、パターンマッチングの精度を向上可能な画像処理装置120の構成を具体的に述べる。
【0047】
(画像処理装置120)
図7は、画像処理装置120の概略的な機能を示した機能ブロック図である。図7に示すように、画像処理装置120は、I/F部160と、データ保持部162と、中央制御部164とを含んで構成される。
【0048】
I/F部160は、撮像装置110や環境認識装置130との双方向の情報交換を行うためのインターフェースである。データ保持部162は、RAM、フラッシュメモリ、HDD等で構成され、以下に示す各機能部の処理に必要な様々な情報を保持し、また、撮像装置110から受信した輝度画像124を一時的に保持する。
【0049】
中央制御部164は、中央処理装置(CPU)、プログラム等が格納されたROM、ワークエリアとしてのRAM等を含む半導体集積回路で構成され、システムバス166を通じて、I/F部160やデータ保持部162を制御する。また、本実施形態において、中央制御部164は、感度補正部170、色復元部172、色合成部174、座標変換部176、座標合成部178、マッチング処理部180、視差導出部182としても機能する。
【0050】
感度補正部170は、撮像装置110から受信した一対の画像データに、ガンマ補正、ニー処理等の所定の処理を施す。
【0051】
色復元部172は、図4を用いて説明したように、ベイヤー配列で構成される一対の画像データにおいて、各画素に未設定の色相の輝度を、隣接する画素に基づいて線形補間等により復元する。
【0052】
色合成部174は、一対の画像データにおいて、各画素に予め設定されている、本来加工しない色相の輝度を周囲の画素に基づいて敢えて合成する。ここで、色合成部174は、色復元部172によって復元されることで低下する空間周波数の最小値に近づくように、各画素に予め設定されている色相の輝度を周囲の画素に基づいて合成している。こうして、空間周波数を、色復元部172で復元した低い空間周波数の画素に合わせることで、空間周波数の偏差を抑制することができ、パターンマッチングの精度を向上することが可能となる。
【0053】
また、具体的に、色合成部174は、色相の輝度が予め設定されている画素の輝度と、周囲の同一色相の輝度とを所定の比率で合成する。以下に、図8を用いて色合成部174の合成例を示す。
【0054】
ベイヤー配列において、色相Rは、図8(a)のように、1画素ずつ隔てて設定される。例えば、画素(4,3)には、色相Rに関して輝度eが予め設定されているとする。しかし、本実施形態では、輝度eをそのまま利用せず、敢えて空間周波数を下げることとする。即ち、画素(2,1)、(2,3)、(2,5)、(4,1)、(4,5)、(6,1)、(6,3)、(6,5)の輝度をa、b、c、d、f、g、h、iとしたとき、画素(4,3)の輝度eを(a+b+c+d+8e+f+g+h+i)/16に変換する。ここでは、画素(4,3)自体の本来の輝度eの情報を残すべく、「8」を乗算し、他の画素の輝度と加算、最後に「16」で除算している。すなわち、輝度a、b、c、d、e、f、g、h、iを1:1:1:1:8:1:1:1:1の比率で合成している。こうすることで、画素(4,3)の空間周波数を1/16〜1のいずれかの値に下げることができる。
【0055】
なお、複数の画素の輝度を重み付けして加算し、最終的に均一化する計算さえすれば、乗算や除算の数値は任意に決めることができ、上記の数値「8」や「16」に限定されない。例えば、水平方向および垂直方向の画素のみを参照し、画素(4,3)の輝度eを(b+d+4e+f+h)/8に変換するとしてもよい。
【0056】
色相Bについても、色相R同様、図8(b)のように、画素(1,2)、(1,4)、(1,6)、(3,2)、(3,6)、(5,2)、(5,4)、(5,6)の輝度をa、b、c、d、f、g、h、iとしたとき、画素(3,4)の輝度eを(a+b+c+d+8e+f+g+h+i)/16に変換する。こうして、画素(3,4)の空間周波数を1/16〜1のいずれかの値に下げることができる。
【0057】
ベイヤー配列において、色相Gは、色相R、B同様、1画素ずつ隔てて設定されているが、色相R、Bと異なり、対角線方向にも予め輝度が設定された画素が隣接している。したがって、色相R、Bより近接した画素を用いて、即ち、本来の輝度に近い値を用いて空間周波数を下げることができる。例えば、図8(c)のように、画素(2,2)、(2,4)、(4,2)、(4,4)の輝度をj、k、m、nとしたとき、画素(3,3)の輝度lを(j+k+4l+m+n)/8に変換する。こうして、画素(3,3)の空間周波数を1/8〜1のいずれかの値に下げることができる。ここでも画素(3,3)自体の本来の輝度のみ4倍の重み付けをして他の画素より輝度の影響を高めている。すなわち、輝度j、k、l、m、nを1:1:4:1:1の比率で合成している。なお、色相Gについても、複数の画素の輝度を重み付けして加算し最終的に均一化する計算さえすれば、乗算や除算の数値は、任意に決めることができる。
【0058】
ただし、参照する他の画素が、既に、上記の変換が施されている場合、想定より空間周波数が下がり過ぎてしまう。したがって、予め設定されている輝度をデータ保持部162に保持しておき、当該色合成を行う場合には、色合成後の輝度を用いず、保持されている本来の輝度を用いるとよい。
【0059】
かかる構成により、空間周波数の偏差を抑制でき、任意の画素のみ色復元処理を行う場合と比べ、パターンマッチングを遂行し易い画像に変換することができる。したがって、パターンマッチングが適切に実行されなかったり、ミスマッチングによって誤った視差情報を導出してしまうといった事態を回避し、パターンマッチングの精度を高めることが可能となる。
【0060】
また、ここでは、色相Gに関し占有度(密度)が高いことを前提として計算したが、その占有度に応じて各色相の計算式は任意に変更することができる。ここでは、上述したように、複数の画素の輝度を重み付けして加算し、最終的に除算することで、空間周波数を下げさえすればよい。
【0061】
座標変換部176は、図5を用いて説明したように、一対の画像データを生成する撮像装置110に応じて予め定められた画素毎の位置ズレ特性に基づき各画素を座標変換し、座標変換後の画素の輝度を導出(色復元)する。かかる座標変換は、特許第3284190号等、既存の様々な技術を採用することができるので、ここではその詳細な説明を省略する。
【0062】
座標合成部178は、座標変換部176による座標変換が不要と判断された画素の輝度を周囲の画素に基づいて合成する。ここで、座標合成部178は、座標変換部176によって低下する空間周波数の最小値に近づくように、座標変換が不要と判断された画素の輝度を周囲の画素に基づいて合成する。こうして、空間周波数を、座標変換部176で変換された低い空間周波数の画素に合わせることで、空間周波数の偏差を抑制することができ、パターンマッチングの精度を向上することが可能となる。
【0063】
また、具体的に、座標合成部178は、座標変換が不要と判断された画素の輝度と、周囲の同一色相の輝度とを所定の比率で合成する。以下に、図9を用いて座標合成部178の合成例を示す。
【0064】
例えば、座標変換後の画素152が画素(2,2)と重なるので、座標変換が不要と判断された場合、画素(2,2)における輝度cをそのまま利用することができる。しかし、本実施形態では、輝度cをそのまま利用せず、敢えて空間周波数を下げることとする。即ち、画素(1,2)、(2,1)、(2,3)、(3,2)の輝度をa、b、d、eとしたとき、画素(2,2)の輝度cを(a+b+4c+d+e)/8に変換する。ここでは、画素(2,2)自体の本来の輝度cの情報を残すべく「4」を乗算し、他の画素の輝度と加算、最後に「8」で除算している。こうすることで、画素(2,2)の空間周波数を1/8〜1のいずれかの値に下げることができる。
【0065】
かかる構成により、空間周波数の偏差を抑制でき、座標変換処理のみを行う場合と比べ、パターンマッチングを遂行し易い画像に変換することができる。したがって、パターンマッチングが適切に実行されなかったり、ミスマッチングによって誤った視差情報を導出してしまうといった事態を回避し、パターンマッチングの精度を高めることが可能となる。
【0066】
マッチング処理部180は、輝度が復元および合成され、かつ、位置ズレが補正された一対のデータそれぞれから所定の大きさのブロックを抽出してマッチングを行い、相関性の高いブロック同士を特定する。
【0067】
このパターンマッチングとしては、2つの画像データ間において、任意の画像位置を示すブロック単位で輝度値(Y色差信号)を比較することが考えられる。例えば、輝度値の差分をとるSAD(Sum of Absolute Difference)、差分を2乗して用いるSSD(Sum of Squared intensity Difference)や、各画素の輝度値から平均値を引いた分散値の類似度をとるNCC(Normalized Cross Correlation)等の手法がある。画像処理装置120は、このようなブロック単位の視差導出処理を検出領域(例えば600画素×200画素)に映し出されている全てのブロックについて行う。ここでは、ブロックを4画素×4画素としているが、ブロック内の画素数は任意に設定することができる。以下、図10を用いてマッチング処理部180の具体的な動作を述べる。
【0068】
図10における軌跡は、ブロック単位のパターンマッチングにおける相関値(差分値)の推移を示している。このように、ブロック同士をリニアにシフトすることができれば、相関値が最大となる(ここでは差分値が最小となる)具体的な点Aを求めるのが可能となる。しかし、実際は画素単位の移動しかできず、画素単位で移動した…Bn−2、Bn−1、Bn、Bn+1、Bn+2…(nは整数)における相関値(ここでは差分値)のみしか取得することができない。そうすると相関値が最大の点(差分値が最小の点)は、点Bnとなる。
【0069】
ここでは、図10のように相関値の推移が、相関値が最大になる点から上下に延伸した線に対して線対称となっていることを利用し、さらに細かい分解能で水平方向のシフト量を導出する。例えば、マッチング処理部180は、特定されたブロック同士の相関値(相関値が最大と判定された点Bnの相関値)と、特定されたブロック同士の一方を水平方向左右に単位画素シフトしたときの2つの相関値(点Bn−1、Bn+1の相関値)とに基づいて、画素単位より分解能の高いマッチング位置を導出する。
【0070】
具体的に、マッチング処理部180は、相関値が最大と判定された、即ち、差分値が最小の点Bnと差分値が最小から3番目の点Bn−1の相関値との結線190を生成する。次に、当該結線190と符号は反転しているが傾きの大きさが等しく、かつ、差分値が最小から2番目の点Bn+1を通る線分192を生成する。そして、その交点194に相当するマッチング位置Cを新たに導出する。かかるマッチング位置Cは真に相関値が最大となる点Aとは少しずれることもあるが、ほぼ相関値が最大となる点を示している。また、このようにして導出された点は、画素単位に比べ8〜16倍程度の分解能で表される。したがって、より詳細なパターンマッチングが可能となる。
【0071】
本実施形態では、上述したように、一対の画像データにおける空間周波数の偏差を抑制しているので、このような分解能の高いパターンマッチングにおいて、特に、色合成部174や座標合成部178が効果的に機能する。
【0072】
視差導出部182は、マッチング処理部180によって特定されたブロック同士の、画像を基準とした分解能の高まった視差を求め、そのブロックに関連付けさせる。かかる視差は視差情報として後段の環境認識装置130に利用される。
【0073】
(画像処理方法)
以下、画像処理装置120の具体的な処理を図11〜図13のフローチャートに基づいて説明する。図11は、画像処理装置120が輝度画像124を受信した場合の割込処理に関する全体的な流れを示し、図12、13は、その中の個別のサブルーチンを示している。また、ここでは、600×200画素の輝度画像124の左下隅を原点とし、画像水平方向に1〜600画素、垂直方向に1〜200画素の範囲で当該画像処理方法による処理を遂行する。
【0074】
図11に示すように、輝度画像124の受信を契機に当該環境認識方法による割込が発生すると、輝度画像124の感度が補正され(S200)、色復元処理(S202)および座標変換処理(S204)が実行される。そして、パターンマッチング処理(S206)が遂行された後、視差情報が生成される(S208)。以下、上記のうち、本実施形態において特徴的な色復元処理S202および座標変換処理S204を具体的に説明する。
【0075】
(色復元処理S202)
図12を参照すると、色復元部172は、画素を特定するための垂直変数jを初期化(「0」を代入)する(S250)。続いて、色復元部172は、垂直変数jに「1」を加算(インクリメント)すると共に水平変数iを初期化(「0」を代入)する(S252)。次に、色復元部172は、水平変数iに「1」を加算する(S254)。ここで、水平変数iや垂直変数jを設けているのは、600×200の画素全てに対して当該色復元処理を実行するためである。
【0076】
続いて、色復元部172は、輝度画像124から画素(i,j)における色相R、G、Bそれぞれの輝度を取得する(S256)。そして、色復元部172は、色相Rについて色復元が必要な画素であるか否か、すなわち、色相Rが予め設定されていない画素であるか否か判定する(S258)。色復元が必要な画素であれば(S258におけるYES)、色復元部172が色復元を行い(S260)、色復元が不要な画素であれば(S258におけるNO)、色合成部174が、周囲の画素に基づいて色を合成する(S262)。
【0077】
次に、色復元部172は、色相Gについて色復元が必要な画素であるか否か判定する(S264)。色復元が必要な画素であれば(S264におけるYES)、色復元部172が色復元を行い(S266)、色復元が不要な画素であれば(S264におけるNO)、色合成部174が、周囲の画素に基づいて色を合成する(S268)。同様に、色復元部172は、色相Bについても色復元が必要な画素であるか否か判定する(S270)。色復元が必要な画素であれば(S270におけるYES)、色復元部172が色復元を行い(S272)、色復元が不要な画素であれば(S270におけるNO)、色合成部174が、周囲の画素に基づいて色を合成する(S274)。
【0078】
次に、水平変数iが水平画素の最大値(ここでは600)を超えたか否か判定し(S276)、水平変数iが最大値を超えていなければ(S276におけるNO)、ステップS254の水平変数iのインクリメント処理からを繰り返す。また、水平変数iが最大値を超えていれば(S276におけるYES)、色復元部172は、垂直変数jが垂直画素の最大値(ここでは200)を超えたか否か判定する(S278)。そして、垂直変数jが最大値を超えていなければ(S278におけるNO)、ステップS252の垂直変数jのインクリメント処理からを繰り返す。また、垂直変数jが最大値を超えていれば(S278におけるYES)、当該色復元処理を終了する。
【0079】
(座標変換処理S204)
図13を参照すると、座標変換部176は、画素を特定するための垂直変数jを初期化(「0」を代入)する(S300)。続いて、座標変換部176は、垂直変数jに「1」を加算(インクリメント)すると共に水平変数iを初期化(「0」を代入)する(S302)。次に、座標変換部176は、水平変数iに「1」を加算する(S304)。ここで、水平変数iや垂直変数jを設けているのは、600×200の画素全てに対して当該座標変換処理を実行するためである。
【0080】
続いて、座標変換部176は、輝度画像124から画素(i,j)における色相R、G、Bそれぞれの輝度を取得する(S306)。そして、座標変換部176は、周囲4画素または2画素から色復元を行うか否か、すなわち、座標変換不要と判断されていない画素であるか否か判定する(S308)。色復元を行う画素であれば(S308におけるYES)、座標変換部176が座標変換後の画素の各色相の色復元を行い(S310)、色復元を行わない画素であれば(S308におけるNO)、座標合成部178が、周囲の画素に基づいて色を合成する(S312)。
【0081】
次に、水平変数iが水平画素の最大値(ここでは600)を超えたか否か判定し(S314)、水平変数iが最大値を超えていなければ(S314におけるNO)、ステップS304の水平変数iのインクリメント処理からを繰り返す。また、水平変数iが最大値を超えていれば(S314におけるYES)、座標変換部176は、垂直変数jが垂直画素の最大値(ここでは200)を超えたか否か判定する(S316)。そして、垂直変数jが最大値を超えていなければ(S316におけるNO)、ステップS302の垂直変数jのインクリメント処理からを繰り返す。また、垂直変数jが最大値を超えていれば(S316におけるYES)、当該座標変換処理を終了する。
【0082】
以上、説明した画像処理装置120では、パターンマッチングの対象となる一対の画像データにおける空間周波数の偏差を抑制することで、適切にパターンマッチングを遂行できる。したがって、視差情報を適切に導出でき、対象物との衝突を回避したり、先行車両との車間距離を安全な距離に保つ制御を適切に行うことが可能となる。
【0083】
また、コンピュータを、画像処理装置120として機能させるプログラムや当該プログラムを記録した、コンピュータで読み取り可能なフレキシブルディスク、光磁気ディスク、ROM、CD、DVD、BD等の記憶媒体も提供される。ここで、プログラムは、任意の言語や記述方法にて記述されたデータ処理手段をいう。
【0084】
以上、添付図面を参照しながら本発明の好適な実施形態について説明したが、本発明はかかる実施形態に限定されないことは言うまでもない。当業者であれば、特許請求の範囲に記載された範疇において、各種の変更例または修正例に想到し得ることは明らかであり、それらについても当然に本発明の技術的範囲に属するものと了解される。
【0085】
例えば、上述した実施形態においては、2つの撮像装置110を用いて同時に取得した画像データを利用しているが、1つの撮像装置110を用いて時系列に対応する一対の画像データを用いることもできる。また、撮像装置110の数は1や2に限らず、3以上の複眼にも適用可能である。
【0086】
また、上述した実施形態においては、ベイヤー配列としてRGBの3原色を挙げて説明したが、RGBCの4原色、もしくは異なる5色以上の色を適用することもできる。
【0087】
さらに、上述した実施形態では、撮像装置110を介して取得した画像データのみを対象としているが、電波レーザレーダを用い、周波数フィルタを異ならせて上述した特定の色相に相当するレーザ光を取得するとしてもよい。ここで、電波レーザレーダは、検出領域122にレーザビームを投射し、このレーザビームが物体に当たって反射してくる光を受光し、その反射光を分析するものである。さらに、温度測定装置でも、温度測定素子毎の画像データに当該実施形態を適用することも可能である。
【産業上の利用可能性】
【0088】
本発明は、撮像した一対の画像データに基づいてパターンマッチングを実行する画像処理装置に利用することができる。
【符号の説明】
【0089】
1 …車両
100 …環境認識システム
120 …画像処理装置
170 …感度補正部
172 …色復元部
174 …色合成部
176 …座標変換部
178 …座標合成部
180 …マッチング処理部
【技術分野】
【0001】
本発明は、撮像した一対の画像データに基づいてパターンマッチングを実行する画像処理装置に関する。
【背景技術】
【0002】
従来、自車両の前方に位置する車両や信号機等の障害物といった対象物を検出し、検出した対象物との衝突を回避したり、先行車両との車間距離を安全な距離に保つように制御する技術が知られている(例えば、特許文献1、2)。
【0003】
先行車両との車間距離は、例えば、異なる位置で撮像された一対の画像データにおける対象物の視差から求めることができる。また、一対の画像データにおける対象物の視差は、画像間のパターンマッチングに基づいて導出される。パターンマッチングとしては、画像間で所定の大きさのブロック同士を比較し(マッチングし)、相関性が高いブロックを特定するといったことが一般的に行われている。また、画像の濃度ヒストグラムを用いてパターンマッチングを実行する技術も開示されている(例えば、特許文献3)。
【0004】
さらに、パターンマッチングの精度を高めるべく、パターンマッチングの前段で、撮像した画像の光学的な位置ズレを幾何学的に位置補正する技術も公開されている(例えば、特許文献4、5)。
【先行技術文献】
【特許文献】
【0005】
【特許文献1】特許第3349060号
【特許文献2】特開平10−283461号公報
【特許文献3】特開平5−210737号公報
【特許文献4】特許第3284190号
【特許文献5】特許第3261115号
【発明の概要】
【発明が解決しようとする課題】
【0006】
画像を取得する手段として、例えば、格子状に配列された画素に対応する複数の受光部位(フォトダイオード)に、3原色であるRGB信号それぞれのカラーフィルタを規則的かつ排他的に配した、所謂ベイヤー配列が知られている。ベイヤー配列では、画素毎にRGBのうち1の色相しか取得されないため、通常、各画素において未設定の(欠落している)色相の輝度を、隣接する画素に基づいて補間し、色を復元する。そして、色が復元された各画素が、上述したように幾何学的に位置補正され、その後、パターンマッチングが遂行される。
【0007】
しかし、上述した色の復元では、未設定の色相の輝度を、隣接する画素の輝度を線形補間して求めるため、その空間周波数が低下する。そうすると、色の復元処理を行わない画素と、復元処理が必要な画素とで空間周波数の偏差が生じ、パターンマッチングの精度が向上しないといった事態を招いていた。また、幾何学的な位置補正においても、位置補正の必要のない画素と、位置補正が必要な画素とで空間周波数の偏差が生じ、同様に、パターンマッチングの精度の向上を図ることができなかった。
【0008】
本発明は、このような課題に鑑み、パターンマッチングの対象となる一対の画像データにおける空間周波数の偏差を抑制することで、適切にパターンマッチングを遂行可能な、画像処理装置を提供することを目的としている。
【課題を解決するための手段】
【0009】
上記課題を解決するために、本発明の画像処理装置は、ベイヤー配列で構成される一対の画像データにおいて、各画素に未設定の色相の輝度を隣接する画素に基づいて復元する色復元部と、一対の画像データにおいて、各画素に予め設定されている色相の輝度を周囲の画素に基づいて合成する色合成部と、一対の画像データそれぞれから所定の大きさのブロックを抽出してマッチングを行い、相関性の高いブロック同士を特定するマッチング処理部と、を備えることを特徴とする。
【0010】
色合成部は、色復元部によって復元されることで低下する空間周波数の最小値に近づくように、各画素に予め設定されている色相の輝度を周囲の画素に基づいて合成してもよい。
【0011】
色合成部は、色相の輝度が予め設定されている画素の輝度と、周囲の同一色相の輝度とを所定の比率で合成してもよい。
【0012】
一対の画像データを生成する撮像装置に応じて予め定められた画素毎の位置ズレ特性に基づき各画素を座標変換し、座標変換後の画素の輝度を導出する座標変換部と、座標変換部による座標変換が不要と判断された画素の輝度を周囲の画素に基づいて合成する座標合成部と、をさらに備えてもよい。
【0013】
上記課題を解決するために、本発明の他の画像処理装置は、一対の画像データを生成する撮像装置に応じて予め定められた画素毎の位置ズレ特性に基づき各画素を座標変換し、座標変換後の画素の輝度を導出する座標変換部と、座標変換部による座標変換が不要と判断された画素の輝度を周囲の画素に基づいて合成する座標合成部と、一対の画像データそれぞれから所定の大きさのブロックを抽出してマッチングを行い、相関性の高いブロック同士を特定するマッチング処理部と、を備えることを特徴とする。
【0014】
座標合成部は、座標変換部によって座標変換されることで低下する空間周波数の最小値に近づくように、座標変換が不要と判断された画素の輝度を周囲の画素に基づいて合成してもよい。
【0015】
座標合成部は、座標変換が不要と判断された画素の輝度と、周囲の同一色相の輝度とを所定の比率で合成してもよい。
【0016】
マッチング処理部は、特定されたブロック同士の相関値と、特定されたブロック同士の一方を水平方向左右に単位画素シフトしたときの2つの相関値とに基づいて、画素単位より分解能の高いマッチング位置を導出してもよい。
【発明の効果】
【0017】
本発明によれば、パターンマッチングの対象となる一対の画像データにおける空間周波数の偏差を抑制することで、適切にパターンマッチングを遂行できる。したがって、視差情報を適切に導出でき、対象物との衝突を回避したり、先行車両との車間距離を安全な距離に保つ制御を適切に行うことが可能となる。
【図面の簡単な説明】
【0018】
【図1】第1の実施形態による環境認識システムの接続関係を示したブロック図である。
【図2】輝度画像と距離画像を説明するための説明図である。
【図3】ベイヤー配列の一例を説明するための説明図である。
【図4】色復元処理を説明するための説明図である。
【図5】座標変換処理を説明するための説明図である。
【図6】座標変換の一例を示す説明図である。
【図7】画像処理装置の概略的な機能を示した機能ブロック図である。
【図8】色合成部の合成例を示した説明図である。
【図9】座標合成部の合成例を示した説明図である。
【図10】パターンマッチングにおける相関値(差分値)の推移を示した説明図である。
【図11】画像処理方法の全体的な流れを示したフローチャートである。
【図12】色復元処理の流れを示したフローチャートである。
【図13】座標変換処理の流れを示したフローチャートである。
【発明を実施するための形態】
【0019】
以下に添付図面を参照しながら、本発明の好適な実施形態について詳細に説明する。かかる実施形態に示す寸法、材料、その他具体的な数値などは、発明の理解を容易とするための例示にすぎず、特に断る場合を除き、本発明を限定するものではない。なお、本明細書及び図面において、実質的に同一の機能、構成を有する要素については、同一の符号を付することにより重複説明を省略し、また本発明に直接関係のない要素は図示を省略する。
【0020】
(環境認識システム100)
画像処理装置は、任意の目的を適切に達成するため撮像された画像を加工処理することを目的としている。例えば、画像処理装置を、車両周囲の環境を認識するための環境認識システムに採用した場合、画像処理装置は、撮像装置で撮像された画像を加工処理し、画像内の対象物の相対距離を特定するためその画像の視差情報を導出する。ここでは、画像処理装置の理解を容易にするため、まず、画像処理装置を用いた一実施形態である環境認識システムを説明し、その後、画像処理装置の具体的な構成を詳述する。
【0021】
図1は、環境認識システム100の接続関係を示したブロック図である。環境認識システム100は、車両1内に設けられた、撮像装置110と、画像処理装置120と、環境認識装置130と、車両制御装置140とを含んで構成される。
【0022】
(撮像装置110)
撮像装置110は、CCD(Charge-Coupled Device)やCMOS(Complementary Metal-Oxide Semiconductor)等の撮像素子を含んで構成され、カラー画像、即ち、画素単位で3つの色相(赤、緑、青)の輝度を取得する。本実施形態においては、色と輝度とを同等に扱い、同一の文章に両文言が含まれる場合、互いを、色を構成する輝度、または、輝度を有する色と読み替えることができる。ここでは、画素に対応する受光部位(フォトダイオード)にRGB信号それぞれのカラーフィルタを規則的かつ排他的に配した、ベイヤー配列によるカラー画像を得ることとする。また、撮像装置110で撮像されたカラーの画像を輝度画像と呼び、後述する距離画像と区別する。
【0023】
撮像装置110は、車両1の進行方向側において2つの撮像装置110それぞれの光軸が略平行になるように、略水平方向に離隔して配置される。撮像装置110は、車両1の前方の検出領域に存在する対象物を撮像した画像データを、例えば1/60秒毎(60fps)に連続して生成する。ここで、対象物は、車両、信号機、道路、ガードレールといった独立して存在する立体物のみならず、テールランプやウィンカー、信号機の各点灯部分等、立体物の部分として特定できる物も含む。以下の実施形態における各機能部は、このような画像データの更新を契機として各処理を遂行する。
【0024】
(画像処理装置120)
画像処理装置120は、2つの撮像装置110それぞれから画像データを取得し、取得した一対の画像データの相関性を評価し、画像中の任意のブロック(所定数の画素を集めたもの)の両画像間の視差を含む視差情報を導出する。画像処理装置120は、一方の画像データから任意に抽出したブロック(例えば水平4画素×垂直4画素の配列)に対応するブロックを他方の画像データから検索する、所謂パターンマッチングを用いて視差を導出する。ここで、水平は、撮像した画像の画面横方向を示し、実空間上の水平に相当する。また、垂直は、撮像した画像の画面縦方向を示し、実空間上の鉛直方向に相当する。かかる相関性の評価およびパターンマッチングに関しては後ほど詳述する。
【0025】
ただし、画像処理装置120では、検出分解能単位であるブロック毎に視差を導出することはできるが、そのブロックがどのような対象物の一部であるかを認識できない。したがって、視差情報は、対象物単位ではなく、検出領域における検出分解能単位(例えばブロック単位)で独立して導出されることとなる。ここでは、このようにして導出された視差情報を画像データに対応付けた画像を距離画像という。
【0026】
図2は、輝度画像124と距離画像126を説明するための説明図である。例えば、2つの撮像装置110を通じ、検出領域122について図2(a)のような輝度画像(画像データ)124が生成されたとする。ただし、ここでは、理解を容易にするため、2つの輝度画像124の一方のみを模式的に示している。画像処理装置120は、このような輝度画像124からブロック毎の視差を求め、図2(b)のような距離画像126を形成する。距離画像126における各ブロックには、そのブロックの視差が関連付けられている。ここでは、説明の便宜上、視差が導出されたブロックを黒のドットで表している。
【0027】
(環境認識装置130)
環境認識装置130は、画像処理装置120から輝度画像124と距離画像126とを取得し、輝度画像124に基づく輝度と、距離画像126の視差情報に基づく車両(自車両)1との相対距離とを用いて検出領域122における対象物がいずれの物(車両、信号機、道路、ガードレール、テールランプ、ウィンカー、信号機の各点灯部分等)に対応するかを特定する。このとき、環境認識装置130は、距離画像126における、検出領域122内のブロック毎の視差情報を、所謂ステレオ法を用いて、相対距離を含む三次元の位置情報に変換している。ここで、ステレオ法は、三角測量法を用いることで、対象物の視差からその対象物の撮像装置110に対する相対距離を導出する方法である。
【0028】
(車両制御装置140)
車両制御装置140は、環境認識装置130で特定された対象物との衝突を回避したり、先行車両との車間距離を安全な距離に保つ制御を実行する。具体的に、車両制御装置140は、操舵の角度を検出する舵角センサ142や車両1の速度を検出する車速センサ144等を通じて現在の車両1の走行状態を取得し、アクチュエータ146を制御して先行車両との車間距離を安全な距離に保つ。ここで、アクチュエータ146は、ブレーキ、スロットルバルブ、舵角等を制御するために用いられる車両制御用のアクチュエータである。また、車両制御装置140は、対象物との衝突が想定される場合、運転者の前方に設置されたディスプレイ148にその旨警告表示(報知)を行うと共に、アクチュエータ146を制御して車両1を自動的に制動する。かかる車両制御装置140は、環境認識装置130と一体的に形成することもできる。
【0029】
(本実施形態における問題点とその解決手段)
カラー画像は様々な態様で取得できる。例えば、(1)撮像装置110への入射光をプリズムによってRGBの各色相に分割し、3つの撮像素子で色相毎に画像を取得したり、(2)RGBそれぞれの感度セルを光路方向に重畳した撮像素子でRGBに基づく画像を一度に取得したり、(3)ベイヤー配列によって画素毎に1の色相を規則的かつ排他的に取得したりすることが可能である。本実施形態では、このうち(3)ベイヤー配列を用いて画像を取得する。
【0030】
図3は、ベイヤー配列の一例を説明するための説明図である。図3(a)に示すように、ベイヤー配列は、格子状に配列された画素に規則的かつ排他的に各色相RGBを配置したものであり、いずれの色相においても、少なくとも水平方向および垂直方向の2つ隣の画素には同一の色相が配されている。ただし、色相Gは、色相Rと色相Bに対して2倍の密度(占有面積)となっている。これは、図3(b)に示した分光感度特性のように、色相Gの感度分布が高いため、輝度情報を取得しやすく、また、人間の視覚が色相Gに対して高い感度を持っているからである。
【0031】
ベイヤー配列においては、各画素からは1つの色相に関してしか輝度を得られない。そこで、欠落している他の2つの色相に関し、隣接する画素の当該色相の輝度を用いて色復元処理(補間処理)を行う。
【0032】
図4は、色復元処理を説明するための説明図である。図4を含む以下の図では、画像周囲に付された数字が画素の水平および垂直位置を示す。例えば、色相Rは、ベイヤー配列において図4(a)のように配されている。したがって、既に色相Rについて輝度が取得されている画素(2,1)、(2,3)、(4,1)、(4,3)の輝度は、取得した輝度a、b、c、dをそのまま利用できる。
【0033】
また、水平方向または垂直方向に、輝度が取得された2つの画素が隣接する画素(2,2)、(3,1)、(3,3)、(4,2)では、隣接する2つの画素の輝度が線形補間され、画素(2,2)の輝度=(a+b)/2、画素(3,1)の輝度=(a+c)/2、画素(3,3)の輝度=(b+d)/2、画素(4,2)の輝度=(c+d)/2となる。
【0034】
さらに、対角線方向に、輝度が取得された4つの画素が隣接する画素(3,2)では、隣接する4つの画素の輝度が線形補間され、画素(3,2)の輝度=(a+b+c+d)/4となる。ここでは、説明の便宜のため水平方向1行目および垂直方向4行目の画素の導出は省略している。このような画素の補間は、図4(b)に示すように色相Bでも適用できるため、ここでは、色相Bについての説明を省略する。
【0035】
また、色相Gは,ベイヤー配列において図4(c)のように配されている。したがって、既に色相Gについて輝度が取得されている画素(2,2)、(3,1)、(3,3)、(4,2)の輝度は、取得した輝度e、f、g、hをそのまま利用できる。また、水平方向および垂直方向に輝度が取得された4つの画素が隣接する画素(3,2)では、隣接する4つの画素の輝度が線形補間され、画素(3,2)の輝度=(e+f+g+h)/4となる。
【0036】
ここで、色復元された画素の輝度における空間周波数に着目する。空間周波数(spatial frequency)は、画像の周期的構造の細かさを示したもので、単位長あたりの周期で表すことができる。また、撮像装置110に適用した場合、空間周波数はレンズの解像度を表す。空間周波数は、加工を施していない状態で高く、平均化や合成により低くなる。
【0037】
したがって、図4(a)の例で、既に色相Rについて輝度が取得されている画素(2,1)、(2,3)、(4,1)、(4,3)の空間周波数を仮に1としたとき、2つの画素の輝度を線形補間した、画素(2,2)、(3,1)、(3,3)、(4,2)の空間周波数は1/2となり、4つの画素を線形補間した画素(3,2)の空間周波数は1/4となる。ただし、ここでは、理解を容易にするため、単純な画素について空間周波数の値を算出しているが、実際に取得された画素によって、空間周波数が異なるのは言うまでもない。
【0038】
そうすると、図4(a)の破線で囲んだ隣接する4つの画素において、空間周波数が1、1/2、1/4と異なってしまうこととなり、その空間周波数の最大値と最小値で偏差が生じる。通常、空間周波数が低い画素が生じても、空間周波数が高い画素により、画像の鮮明度が保たれる。しかし、後述するパターンマッチングに関しては、このような空間周波数の偏差が弊害となる場合もある。
【0039】
即ち、パターンマッチングは、一対の画像データにおける画素同士の相関性を評価するところ、対象物の同一の部位に相当する、同一の輝度を有する画素であっても、その空間周波数が異なれば、相関性が低くなる。ここで、高い空間周波数に揃えることも考えられるが、1/4となった画素の情報量から高い空間周波数を復元するのは困難である。そこで、本実施形態では、空間周波数を低い値に揃えることを試みる。
【0040】
したがって、本実施形態では、図4(a)において、空間周波数が1/2となった画素(2,2)、(3,1)、(3,3)、(4,2)や、空間周波数が1/4となった画素(3,2)はそのまま維持し、画素(2,1)、(2,3)、(4,1)、(4,3)の空間周波数1を敢えて下げることとする。
【0041】
こうして空間周波数を均一化(空間周波数の偏差を抑制)する場合、その値が低ければ低い程、パターンマッチングの精度が向上する。これは、一対の画像データの一方における任意の画素と対応する他方の領域が、画像データの2つの画素に跨る場合、空間周波数が高い画素だと、2つの画素のいずれとも相関値が低くなるからである。このとき、空間周波数を下げると、画素自体がぼやけて、任意の画素データとの相関性が高くなる。こうして、適切にパターンマッチングが実行される。ただし、空間周波数を下げ過ぎると、本来は異なる対象物同士であってもマッチングできてしまうので注意を要する。
【0042】
そして、色復元処理が完了すると、次に、撮像装置110に応じて予め定められた画素毎の位置ズレ(歪み)特性に基づき各画素を座標変換する座標変換処理が遂行される。座標変換は、撮像装置110を通じたことにより本来の位置から歪んで取得されてしまった対象物を本来の位置に戻すための処理である。例えば、図5(a)に示す魚眼レンズを通じたような位置ズレ特性を有する映像を、水平方向や垂直方向への単純シフトやアフィン変換等を用いた回転移動により、図5(b)のような水平方向や垂直方向が直線となる画像に補正する。
【0043】
図6は、座標変換の一例を示す説明図である。例えば、任意の画素150を水平右方向にx、垂直下方向にyだけシフトする座標変換を実行すると、座標が異なる新たな画素152が生成される。かかる画素152の輝度は、図6に破線で示した4つの画素の輝度の合成で表すことができる。例えば、4つの画素の輝度=a、b、c、dから実線で示した1つの画素を幾何補正により復元すると、実線で示した画素152の輝度は、距離x、yを用いて、a×(1−x)(1−y)+b×x(1−y)+c×(1−x)y+d×xyで表される。
【0044】
そうすると、色復元処理同様、座標変換処理においても、画素152の空間周波数が1/4となってしまう。ただし、画素152が、たまたま2つの画素のみに跨って生成された場合、その空間周波数は1/2となり、さらに、1つの画素と完全に重なった場合、その空間周波数は1となる。このように、空間周波数が1、1/2、1/4と異なってしまうと、色復元処理で説明したように、後述するパターンマッチングにおいて、その空間周波数の偏差が弊害となる。
【0045】
そこで、本実施形態においては、空間周波数が1/4となった画素や、空間周波数が1/2となった画素はそのまま維持し、たまたま1つの画素に重なることで座標変換が不要と判断された画素の空間周波数1を敢えて低くする。このように、空間周波数を下げることで、画素自体がぼやけ、任意の画素データとの相関性が高くなる。こうして、適切にパターンマッチングが実行される。
【0046】
以下、空間周波数を下げ、空間周波数の偏差を抑制することで、パターンマッチングの精度を向上可能な画像処理装置120の構成を具体的に述べる。
【0047】
(画像処理装置120)
図7は、画像処理装置120の概略的な機能を示した機能ブロック図である。図7に示すように、画像処理装置120は、I/F部160と、データ保持部162と、中央制御部164とを含んで構成される。
【0048】
I/F部160は、撮像装置110や環境認識装置130との双方向の情報交換を行うためのインターフェースである。データ保持部162は、RAM、フラッシュメモリ、HDD等で構成され、以下に示す各機能部の処理に必要な様々な情報を保持し、また、撮像装置110から受信した輝度画像124を一時的に保持する。
【0049】
中央制御部164は、中央処理装置(CPU)、プログラム等が格納されたROM、ワークエリアとしてのRAM等を含む半導体集積回路で構成され、システムバス166を通じて、I/F部160やデータ保持部162を制御する。また、本実施形態において、中央制御部164は、感度補正部170、色復元部172、色合成部174、座標変換部176、座標合成部178、マッチング処理部180、視差導出部182としても機能する。
【0050】
感度補正部170は、撮像装置110から受信した一対の画像データに、ガンマ補正、ニー処理等の所定の処理を施す。
【0051】
色復元部172は、図4を用いて説明したように、ベイヤー配列で構成される一対の画像データにおいて、各画素に未設定の色相の輝度を、隣接する画素に基づいて線形補間等により復元する。
【0052】
色合成部174は、一対の画像データにおいて、各画素に予め設定されている、本来加工しない色相の輝度を周囲の画素に基づいて敢えて合成する。ここで、色合成部174は、色復元部172によって復元されることで低下する空間周波数の最小値に近づくように、各画素に予め設定されている色相の輝度を周囲の画素に基づいて合成している。こうして、空間周波数を、色復元部172で復元した低い空間周波数の画素に合わせることで、空間周波数の偏差を抑制することができ、パターンマッチングの精度を向上することが可能となる。
【0053】
また、具体的に、色合成部174は、色相の輝度が予め設定されている画素の輝度と、周囲の同一色相の輝度とを所定の比率で合成する。以下に、図8を用いて色合成部174の合成例を示す。
【0054】
ベイヤー配列において、色相Rは、図8(a)のように、1画素ずつ隔てて設定される。例えば、画素(4,3)には、色相Rに関して輝度eが予め設定されているとする。しかし、本実施形態では、輝度eをそのまま利用せず、敢えて空間周波数を下げることとする。即ち、画素(2,1)、(2,3)、(2,5)、(4,1)、(4,5)、(6,1)、(6,3)、(6,5)の輝度をa、b、c、d、f、g、h、iとしたとき、画素(4,3)の輝度eを(a+b+c+d+8e+f+g+h+i)/16に変換する。ここでは、画素(4,3)自体の本来の輝度eの情報を残すべく、「8」を乗算し、他の画素の輝度と加算、最後に「16」で除算している。すなわち、輝度a、b、c、d、e、f、g、h、iを1:1:1:1:8:1:1:1:1の比率で合成している。こうすることで、画素(4,3)の空間周波数を1/16〜1のいずれかの値に下げることができる。
【0055】
なお、複数の画素の輝度を重み付けして加算し、最終的に均一化する計算さえすれば、乗算や除算の数値は任意に決めることができ、上記の数値「8」や「16」に限定されない。例えば、水平方向および垂直方向の画素のみを参照し、画素(4,3)の輝度eを(b+d+4e+f+h)/8に変換するとしてもよい。
【0056】
色相Bについても、色相R同様、図8(b)のように、画素(1,2)、(1,4)、(1,6)、(3,2)、(3,6)、(5,2)、(5,4)、(5,6)の輝度をa、b、c、d、f、g、h、iとしたとき、画素(3,4)の輝度eを(a+b+c+d+8e+f+g+h+i)/16に変換する。こうして、画素(3,4)の空間周波数を1/16〜1のいずれかの値に下げることができる。
【0057】
ベイヤー配列において、色相Gは、色相R、B同様、1画素ずつ隔てて設定されているが、色相R、Bと異なり、対角線方向にも予め輝度が設定された画素が隣接している。したがって、色相R、Bより近接した画素を用いて、即ち、本来の輝度に近い値を用いて空間周波数を下げることができる。例えば、図8(c)のように、画素(2,2)、(2,4)、(4,2)、(4,4)の輝度をj、k、m、nとしたとき、画素(3,3)の輝度lを(j+k+4l+m+n)/8に変換する。こうして、画素(3,3)の空間周波数を1/8〜1のいずれかの値に下げることができる。ここでも画素(3,3)自体の本来の輝度のみ4倍の重み付けをして他の画素より輝度の影響を高めている。すなわち、輝度j、k、l、m、nを1:1:4:1:1の比率で合成している。なお、色相Gについても、複数の画素の輝度を重み付けして加算し最終的に均一化する計算さえすれば、乗算や除算の数値は、任意に決めることができる。
【0058】
ただし、参照する他の画素が、既に、上記の変換が施されている場合、想定より空間周波数が下がり過ぎてしまう。したがって、予め設定されている輝度をデータ保持部162に保持しておき、当該色合成を行う場合には、色合成後の輝度を用いず、保持されている本来の輝度を用いるとよい。
【0059】
かかる構成により、空間周波数の偏差を抑制でき、任意の画素のみ色復元処理を行う場合と比べ、パターンマッチングを遂行し易い画像に変換することができる。したがって、パターンマッチングが適切に実行されなかったり、ミスマッチングによって誤った視差情報を導出してしまうといった事態を回避し、パターンマッチングの精度を高めることが可能となる。
【0060】
また、ここでは、色相Gに関し占有度(密度)が高いことを前提として計算したが、その占有度に応じて各色相の計算式は任意に変更することができる。ここでは、上述したように、複数の画素の輝度を重み付けして加算し、最終的に除算することで、空間周波数を下げさえすればよい。
【0061】
座標変換部176は、図5を用いて説明したように、一対の画像データを生成する撮像装置110に応じて予め定められた画素毎の位置ズレ特性に基づき各画素を座標変換し、座標変換後の画素の輝度を導出(色復元)する。かかる座標変換は、特許第3284190号等、既存の様々な技術を採用することができるので、ここではその詳細な説明を省略する。
【0062】
座標合成部178は、座標変換部176による座標変換が不要と判断された画素の輝度を周囲の画素に基づいて合成する。ここで、座標合成部178は、座標変換部176によって低下する空間周波数の最小値に近づくように、座標変換が不要と判断された画素の輝度を周囲の画素に基づいて合成する。こうして、空間周波数を、座標変換部176で変換された低い空間周波数の画素に合わせることで、空間周波数の偏差を抑制することができ、パターンマッチングの精度を向上することが可能となる。
【0063】
また、具体的に、座標合成部178は、座標変換が不要と判断された画素の輝度と、周囲の同一色相の輝度とを所定の比率で合成する。以下に、図9を用いて座標合成部178の合成例を示す。
【0064】
例えば、座標変換後の画素152が画素(2,2)と重なるので、座標変換が不要と判断された場合、画素(2,2)における輝度cをそのまま利用することができる。しかし、本実施形態では、輝度cをそのまま利用せず、敢えて空間周波数を下げることとする。即ち、画素(1,2)、(2,1)、(2,3)、(3,2)の輝度をa、b、d、eとしたとき、画素(2,2)の輝度cを(a+b+4c+d+e)/8に変換する。ここでは、画素(2,2)自体の本来の輝度cの情報を残すべく「4」を乗算し、他の画素の輝度と加算、最後に「8」で除算している。こうすることで、画素(2,2)の空間周波数を1/8〜1のいずれかの値に下げることができる。
【0065】
かかる構成により、空間周波数の偏差を抑制でき、座標変換処理のみを行う場合と比べ、パターンマッチングを遂行し易い画像に変換することができる。したがって、パターンマッチングが適切に実行されなかったり、ミスマッチングによって誤った視差情報を導出してしまうといった事態を回避し、パターンマッチングの精度を高めることが可能となる。
【0066】
マッチング処理部180は、輝度が復元および合成され、かつ、位置ズレが補正された一対のデータそれぞれから所定の大きさのブロックを抽出してマッチングを行い、相関性の高いブロック同士を特定する。
【0067】
このパターンマッチングとしては、2つの画像データ間において、任意の画像位置を示すブロック単位で輝度値(Y色差信号)を比較することが考えられる。例えば、輝度値の差分をとるSAD(Sum of Absolute Difference)、差分を2乗して用いるSSD(Sum of Squared intensity Difference)や、各画素の輝度値から平均値を引いた分散値の類似度をとるNCC(Normalized Cross Correlation)等の手法がある。画像処理装置120は、このようなブロック単位の視差導出処理を検出領域(例えば600画素×200画素)に映し出されている全てのブロックについて行う。ここでは、ブロックを4画素×4画素としているが、ブロック内の画素数は任意に設定することができる。以下、図10を用いてマッチング処理部180の具体的な動作を述べる。
【0068】
図10における軌跡は、ブロック単位のパターンマッチングにおける相関値(差分値)の推移を示している。このように、ブロック同士をリニアにシフトすることができれば、相関値が最大となる(ここでは差分値が最小となる)具体的な点Aを求めるのが可能となる。しかし、実際は画素単位の移動しかできず、画素単位で移動した…Bn−2、Bn−1、Bn、Bn+1、Bn+2…(nは整数)における相関値(ここでは差分値)のみしか取得することができない。そうすると相関値が最大の点(差分値が最小の点)は、点Bnとなる。
【0069】
ここでは、図10のように相関値の推移が、相関値が最大になる点から上下に延伸した線に対して線対称となっていることを利用し、さらに細かい分解能で水平方向のシフト量を導出する。例えば、マッチング処理部180は、特定されたブロック同士の相関値(相関値が最大と判定された点Bnの相関値)と、特定されたブロック同士の一方を水平方向左右に単位画素シフトしたときの2つの相関値(点Bn−1、Bn+1の相関値)とに基づいて、画素単位より分解能の高いマッチング位置を導出する。
【0070】
具体的に、マッチング処理部180は、相関値が最大と判定された、即ち、差分値が最小の点Bnと差分値が最小から3番目の点Bn−1の相関値との結線190を生成する。次に、当該結線190と符号は反転しているが傾きの大きさが等しく、かつ、差分値が最小から2番目の点Bn+1を通る線分192を生成する。そして、その交点194に相当するマッチング位置Cを新たに導出する。かかるマッチング位置Cは真に相関値が最大となる点Aとは少しずれることもあるが、ほぼ相関値が最大となる点を示している。また、このようにして導出された点は、画素単位に比べ8〜16倍程度の分解能で表される。したがって、より詳細なパターンマッチングが可能となる。
【0071】
本実施形態では、上述したように、一対の画像データにおける空間周波数の偏差を抑制しているので、このような分解能の高いパターンマッチングにおいて、特に、色合成部174や座標合成部178が効果的に機能する。
【0072】
視差導出部182は、マッチング処理部180によって特定されたブロック同士の、画像を基準とした分解能の高まった視差を求め、そのブロックに関連付けさせる。かかる視差は視差情報として後段の環境認識装置130に利用される。
【0073】
(画像処理方法)
以下、画像処理装置120の具体的な処理を図11〜図13のフローチャートに基づいて説明する。図11は、画像処理装置120が輝度画像124を受信した場合の割込処理に関する全体的な流れを示し、図12、13は、その中の個別のサブルーチンを示している。また、ここでは、600×200画素の輝度画像124の左下隅を原点とし、画像水平方向に1〜600画素、垂直方向に1〜200画素の範囲で当該画像処理方法による処理を遂行する。
【0074】
図11に示すように、輝度画像124の受信を契機に当該環境認識方法による割込が発生すると、輝度画像124の感度が補正され(S200)、色復元処理(S202)および座標変換処理(S204)が実行される。そして、パターンマッチング処理(S206)が遂行された後、視差情報が生成される(S208)。以下、上記のうち、本実施形態において特徴的な色復元処理S202および座標変換処理S204を具体的に説明する。
【0075】
(色復元処理S202)
図12を参照すると、色復元部172は、画素を特定するための垂直変数jを初期化(「0」を代入)する(S250)。続いて、色復元部172は、垂直変数jに「1」を加算(インクリメント)すると共に水平変数iを初期化(「0」を代入)する(S252)。次に、色復元部172は、水平変数iに「1」を加算する(S254)。ここで、水平変数iや垂直変数jを設けているのは、600×200の画素全てに対して当該色復元処理を実行するためである。
【0076】
続いて、色復元部172は、輝度画像124から画素(i,j)における色相R、G、Bそれぞれの輝度を取得する(S256)。そして、色復元部172は、色相Rについて色復元が必要な画素であるか否か、すなわち、色相Rが予め設定されていない画素であるか否か判定する(S258)。色復元が必要な画素であれば(S258におけるYES)、色復元部172が色復元を行い(S260)、色復元が不要な画素であれば(S258におけるNO)、色合成部174が、周囲の画素に基づいて色を合成する(S262)。
【0077】
次に、色復元部172は、色相Gについて色復元が必要な画素であるか否か判定する(S264)。色復元が必要な画素であれば(S264におけるYES)、色復元部172が色復元を行い(S266)、色復元が不要な画素であれば(S264におけるNO)、色合成部174が、周囲の画素に基づいて色を合成する(S268)。同様に、色復元部172は、色相Bについても色復元が必要な画素であるか否か判定する(S270)。色復元が必要な画素であれば(S270におけるYES)、色復元部172が色復元を行い(S272)、色復元が不要な画素であれば(S270におけるNO)、色合成部174が、周囲の画素に基づいて色を合成する(S274)。
【0078】
次に、水平変数iが水平画素の最大値(ここでは600)を超えたか否か判定し(S276)、水平変数iが最大値を超えていなければ(S276におけるNO)、ステップS254の水平変数iのインクリメント処理からを繰り返す。また、水平変数iが最大値を超えていれば(S276におけるYES)、色復元部172は、垂直変数jが垂直画素の最大値(ここでは200)を超えたか否か判定する(S278)。そして、垂直変数jが最大値を超えていなければ(S278におけるNO)、ステップS252の垂直変数jのインクリメント処理からを繰り返す。また、垂直変数jが最大値を超えていれば(S278におけるYES)、当該色復元処理を終了する。
【0079】
(座標変換処理S204)
図13を参照すると、座標変換部176は、画素を特定するための垂直変数jを初期化(「0」を代入)する(S300)。続いて、座標変換部176は、垂直変数jに「1」を加算(インクリメント)すると共に水平変数iを初期化(「0」を代入)する(S302)。次に、座標変換部176は、水平変数iに「1」を加算する(S304)。ここで、水平変数iや垂直変数jを設けているのは、600×200の画素全てに対して当該座標変換処理を実行するためである。
【0080】
続いて、座標変換部176は、輝度画像124から画素(i,j)における色相R、G、Bそれぞれの輝度を取得する(S306)。そして、座標変換部176は、周囲4画素または2画素から色復元を行うか否か、すなわち、座標変換不要と判断されていない画素であるか否か判定する(S308)。色復元を行う画素であれば(S308におけるYES)、座標変換部176が座標変換後の画素の各色相の色復元を行い(S310)、色復元を行わない画素であれば(S308におけるNO)、座標合成部178が、周囲の画素に基づいて色を合成する(S312)。
【0081】
次に、水平変数iが水平画素の最大値(ここでは600)を超えたか否か判定し(S314)、水平変数iが最大値を超えていなければ(S314におけるNO)、ステップS304の水平変数iのインクリメント処理からを繰り返す。また、水平変数iが最大値を超えていれば(S314におけるYES)、座標変換部176は、垂直変数jが垂直画素の最大値(ここでは200)を超えたか否か判定する(S316)。そして、垂直変数jが最大値を超えていなければ(S316におけるNO)、ステップS302の垂直変数jのインクリメント処理からを繰り返す。また、垂直変数jが最大値を超えていれば(S316におけるYES)、当該座標変換処理を終了する。
【0082】
以上、説明した画像処理装置120では、パターンマッチングの対象となる一対の画像データにおける空間周波数の偏差を抑制することで、適切にパターンマッチングを遂行できる。したがって、視差情報を適切に導出でき、対象物との衝突を回避したり、先行車両との車間距離を安全な距離に保つ制御を適切に行うことが可能となる。
【0083】
また、コンピュータを、画像処理装置120として機能させるプログラムや当該プログラムを記録した、コンピュータで読み取り可能なフレキシブルディスク、光磁気ディスク、ROM、CD、DVD、BD等の記憶媒体も提供される。ここで、プログラムは、任意の言語や記述方法にて記述されたデータ処理手段をいう。
【0084】
以上、添付図面を参照しながら本発明の好適な実施形態について説明したが、本発明はかかる実施形態に限定されないことは言うまでもない。当業者であれば、特許請求の範囲に記載された範疇において、各種の変更例または修正例に想到し得ることは明らかであり、それらについても当然に本発明の技術的範囲に属するものと了解される。
【0085】
例えば、上述した実施形態においては、2つの撮像装置110を用いて同時に取得した画像データを利用しているが、1つの撮像装置110を用いて時系列に対応する一対の画像データを用いることもできる。また、撮像装置110の数は1や2に限らず、3以上の複眼にも適用可能である。
【0086】
また、上述した実施形態においては、ベイヤー配列としてRGBの3原色を挙げて説明したが、RGBCの4原色、もしくは異なる5色以上の色を適用することもできる。
【0087】
さらに、上述した実施形態では、撮像装置110を介して取得した画像データのみを対象としているが、電波レーザレーダを用い、周波数フィルタを異ならせて上述した特定の色相に相当するレーザ光を取得するとしてもよい。ここで、電波レーザレーダは、検出領域122にレーザビームを投射し、このレーザビームが物体に当たって反射してくる光を受光し、その反射光を分析するものである。さらに、温度測定装置でも、温度測定素子毎の画像データに当該実施形態を適用することも可能である。
【産業上の利用可能性】
【0088】
本発明は、撮像した一対の画像データに基づいてパターンマッチングを実行する画像処理装置に利用することができる。
【符号の説明】
【0089】
1 …車両
100 …環境認識システム
120 …画像処理装置
170 …感度補正部
172 …色復元部
174 …色合成部
176 …座標変換部
178 …座標合成部
180 …マッチング処理部
【特許請求の範囲】
【請求項1】
ベイヤー配列で構成される一対の画像データにおいて、各画素に未設定の色相の輝度を隣接する画素に基づいて復元する色復元部と、
前記一対の画像データにおいて、各画素に予め設定されている色相の輝度を周囲の画素に基づいて合成する色合成部と、
前記一対の画像データそれぞれから所定の大きさのブロックを抽出してマッチングを行い、相関性の高いブロック同士を特定するマッチング処理部と、
を備えることを特徴とする画像処理装置。
【請求項2】
前記色合成部は、前記色復元部によって復元されることで低下する空間周波数の最小値に近づくように、各画素に予め設定されている色相の輝度を周囲の画素に基づいて合成することを特徴とする請求項1に記載の画像処理装置。
【請求項3】
前記色合成部は、色相の輝度が予め設定されている画素の輝度と、周囲の同一色相の輝度とを所定の比率で合成することを特徴とする請求項1または2に記載の画像処理装置。
【請求項4】
前記一対の画像データを生成する撮像装置に応じて予め定められた画素毎の位置ズレ特性に基づき各画素を座標変換し、該座標変換後の画素の輝度を導出する座標変換部と、
前記座標変換部による座標変換が不要と判断された画素の輝度を周囲の画素に基づいて合成する座標合成部と、
をさらに備えることを特徴とする請求項1から3のいずれか1項に記載の画像処理装置。
【請求項5】
一対の画像データを生成する撮像装置に応じて予め定められた画素毎の位置ズレ特性に基づき各画素を座標変換し、該座標変換後の画素の輝度を導出する座標変換部と、
前記座標変換部による座標変換が不要と判断された画素の輝度を周囲の画素に基づいて合成する座標合成部と、
前記一対の画像データそれぞれから所定の大きさのブロックを抽出してマッチングを行い、相関性の高いブロック同士を特定するマッチング処理部と、
を備えることを特徴とする画像処理装置。
【請求項6】
前記座標合成部は、前記座標変換部によって座標変換されることで低下する空間周波数の最小値に近づくように、座標変換が不要と判断された画素の輝度を周囲の画素に基づいて合成することを特徴とする請求項5に記載の画像処理装置。
【請求項7】
前記座標合成部は、座標変換が不要と判断された画素の輝度と、周囲の同一色相の輝度とを所定の比率で合成することを特徴とする請求項5または6に記載の画像処理装置。
【請求項8】
前記マッチング処理部は、前記特定されたブロック同士の相関値と、前記特定されたブロック同士の一方を水平方向左右に単位画素シフトしたときの2つの相関値とに基づいて、画素単位より分解能の高いマッチング位置を導出することを特徴とする請求項1から7のいずれか1項に記載の画像処理装置。
【請求項1】
ベイヤー配列で構成される一対の画像データにおいて、各画素に未設定の色相の輝度を隣接する画素に基づいて復元する色復元部と、
前記一対の画像データにおいて、各画素に予め設定されている色相の輝度を周囲の画素に基づいて合成する色合成部と、
前記一対の画像データそれぞれから所定の大きさのブロックを抽出してマッチングを行い、相関性の高いブロック同士を特定するマッチング処理部と、
を備えることを特徴とする画像処理装置。
【請求項2】
前記色合成部は、前記色復元部によって復元されることで低下する空間周波数の最小値に近づくように、各画素に予め設定されている色相の輝度を周囲の画素に基づいて合成することを特徴とする請求項1に記載の画像処理装置。
【請求項3】
前記色合成部は、色相の輝度が予め設定されている画素の輝度と、周囲の同一色相の輝度とを所定の比率で合成することを特徴とする請求項1または2に記載の画像処理装置。
【請求項4】
前記一対の画像データを生成する撮像装置に応じて予め定められた画素毎の位置ズレ特性に基づき各画素を座標変換し、該座標変換後の画素の輝度を導出する座標変換部と、
前記座標変換部による座標変換が不要と判断された画素の輝度を周囲の画素に基づいて合成する座標合成部と、
をさらに備えることを特徴とする請求項1から3のいずれか1項に記載の画像処理装置。
【請求項5】
一対の画像データを生成する撮像装置に応じて予め定められた画素毎の位置ズレ特性に基づき各画素を座標変換し、該座標変換後の画素の輝度を導出する座標変換部と、
前記座標変換部による座標変換が不要と判断された画素の輝度を周囲の画素に基づいて合成する座標合成部と、
前記一対の画像データそれぞれから所定の大きさのブロックを抽出してマッチングを行い、相関性の高いブロック同士を特定するマッチング処理部と、
を備えることを特徴とする画像処理装置。
【請求項6】
前記座標合成部は、前記座標変換部によって座標変換されることで低下する空間周波数の最小値に近づくように、座標変換が不要と判断された画素の輝度を周囲の画素に基づいて合成することを特徴とする請求項5に記載の画像処理装置。
【請求項7】
前記座標合成部は、座標変換が不要と判断された画素の輝度と、周囲の同一色相の輝度とを所定の比率で合成することを特徴とする請求項5または6に記載の画像処理装置。
【請求項8】
前記マッチング処理部は、前記特定されたブロック同士の相関値と、前記特定されたブロック同士の一方を水平方向左右に単位画素シフトしたときの2つの相関値とに基づいて、画素単位より分解能の高いマッチング位置を導出することを特徴とする請求項1から7のいずれか1項に記載の画像処理装置。
【図1】
【図2】
【図5】
【図6】
【図7】
【図9】
【図10】
【図11】
【図12】
【図13】
【図3】
【図4】
【図8】
【図2】
【図5】
【図6】
【図7】
【図9】
【図10】
【図11】
【図12】
【図13】
【図3】
【図4】
【図8】
【公開番号】特開2013−73306(P2013−73306A)
【公開日】平成25年4月22日(2013.4.22)
【国際特許分類】
【出願番号】特願2011−210223(P2011−210223)
【出願日】平成23年9月27日(2011.9.27)
【出願人】(000005348)富士重工業株式会社 (3,010)
【Fターム(参考)】
【公開日】平成25年4月22日(2013.4.22)
【国際特許分類】
【出願日】平成23年9月27日(2011.9.27)
【出願人】(000005348)富士重工業株式会社 (3,010)
【Fターム(参考)】
[ Back to top ]