説明

画像処理装置

【課題】ベイヤー配列をした単板式の撮像素子を用いても、偽色を低減し、対象物の誤検知を抑止可能な画像処理装置を提供することである。
【解決手段】複数の色のカラーフィルタが所定の配列となるように画素に対して設けられた撮像素子から各画素が単色の色情報しか持たない複数の画素からなる画像(RAW画像)を取得する画像取得手段と、取得した画像から全画素の輝度を算出し、算出した輝度が予め定めた輝度以上となる光点領域を検出する光点領域検出手段と、光点領域内の同色画素毎に輝度の平均値を算出する平均値算出手段と、を有する。

【発明の詳細な説明】
【技術分野】
【0001】
移動体に搭載された撮像装置で撮影されたカラー画像を用いて画像処理を行う画像処理装置に関する。
【背景技術】
【0002】
従来から、夜間、車載カメラの映像から光点を解析することで、対向車や先行車の有無を判断し、ヘッドライトのハイビーム,ロービームを自動的に切り替える配光制御技術の研究開発が行われている。
【0003】
特許文献1では、カラーカメラの映像から、先行車のテールライトや対向車のヘッドライトを検出して先行車や対向車のドライバーを眩惑しないようにヘッドライトをハイビームからロービームに切り替える技術が記載されている。ドライバーは先行車や対向車に注意しながらハイビームやロービームの切り替えをする必要が無くなり、運転に集中することができる。
【0004】
しかしながら、その制御のタイミングが適切でないと、ドライバーに違和感を与える恐れがある。制御が不適切になる一番の要因は、カメラによる先行車のテールライトや対向車のヘッドライトの検知漏れやその他光源の誤検知である。例えば、暗いテールライトを検知漏れしたり、路上のデリニエータや信号機,街灯などの外乱光を車両灯と誤検知したりすることがあり、この検知不具合によって誤動作が生じる。この検知不具合をいかにして減らすかが技術課題となるが、特に、テールライトの赤色を安定して検出するための工夫が重要である。
【0005】
現在カラーカメラに用いられているほとんどのカラー撮像素子は単板式のCMOSあるいはCCDで、特許文献2で記載されているベイヤー配列と呼ばれる構造を採用している。これは、1つのセンサ(画素)で光の三原色である赤(R)・緑(G)・青(B)を同時にサンプリングするのではなく、カラーフィルタを用いてどれか1色だけをサンプリングするもので、RGBそれぞれのセンサを規則正しく並べて配置する事で、全体としてカラー画像を得る。このベイヤー配列は、その性質上、エッジ部や、微細な構造の部分に実際には存在しない色、すなわち偽色(色モアレ)と呼ばれる現象が発生する。
【0006】
原理的に偽色を防止できる方式としては3層式や3板式などがある。3層式CMOSは、光の三原色であるRGBがそれぞれシリコンを透過する特性が異なることを利用して、素子の厚み方向(光が入射する方向)に3層にセンサを配置しており、同一位置の異なる色の情報を分離できる。3層式では、3原色それぞれのセンサが同じ位置に配置されているため、原理的に偽色は発生しない。
【0007】
3板式CMOSは、レンズからの光を分光プリズム内のダイクロイック膜の反射によってRGBの光の3原色に分光し、分光された光を異なる位置に配置された3枚のCMOS基板にそれぞれ受光させる。ダイクロイック膜とは、RGBそれぞれの光を波長によって透過,反射させる膜である。これら3層式,3板式は構成が複雑であるため、通常の単板式に比べてコストが大きくなる。
【先行技術文献】
【特許文献】
【0008】
【特許文献1】特公平6−55581号公報
【特許文献2】米国特許第3,971,065号公報
【発明の概要】
【発明が解決しようとする課題】
【0009】
従って、廉価に配光制御システムを構成するためには、ベイヤー配列をした単板式の撮像素子を用いることが望ましい。
【0010】
本発明の目的は、ベイヤー配列をした単板式の撮像素子を用いても、偽色を低減し、対象物の誤検知を抑止可能な画像処理装置を提供することである。
【課題を解決するための手段】
【0011】
上記課題を達成するために、本発明の画像処理装置は、複数の色のカラーフィルタが所定の配列となるように画素に対して設けられた撮像素子から各画素が単色の色情報しか持たない複数の画素からなる画像を取得する画像取得手段と、取得した画像から全画素の輝度を算出し、算出した輝度が予め定めた輝度以上となる光点領域を検出する光点領域検出手段と、光点領域内の同色画素毎に輝度の平均値を算出する平均値算出手段と、を有する構成とする。
【0012】
また、複数の色のカラーフィルタが所定の配列となるように画素に対して設けられた撮像素子から各画素が単色の色情報しか持たない複数の画素からなる画像を取得する画像取得手段と、取得した画像から全画素の輝度を算出し、算出した輝度から光点のピークを検出する光点ピーク検出手段と、検出されたピークを中心とした予め定めた複数の画素領域内の同色画素毎に輝度の平均値を算出する平均値算出手段と、を有する構成とする。
【発明の効果】
【0013】
ベイヤー配列をした単板式の撮像素子を用いても、偽色を低減し、対象物の誤検知を抑止可能な画像処理装置を提供できる。
【図面の簡単な説明】
【0014】
【図1】本発明に係る画像処理装置を含むヘッドライトユニットの構成を示す図である。
【図2】本発明に係る画像処理装置を含むカメラと画像信号処理ユニットの一構成例を示す図である。
【図3】本発明のカメラとヘッドライトの光軸の関係を説明する図である。
【図4】本発明で用いるカラーフィルタのベイヤー配列を説明する図である。
【図5】従来のカラーCMOSで行われる色再生を説明する図である。
【図6】本発明に係る画像処理装置の光点検出DSPの処理の流れを示す図である。
【図7】本発明に係る画像処理装置の光点検出DSPにおける2値画像とラベル画像の関係を示す図である。
【図8】本発明に係る画像処理装置の光点検出DSPの光点検出を説明する図である。
【図9】本発明に係る画像処理装置のUV空間の一例を示す図である。
【図10】本発明に係る画像処理装置の光点検出DSPの処理の効果を説明する図である。
【発明を実施するための形態】
【0015】
図1は、本発明に係る画像処理装置を含むヘッドライトユニットの実施例を示す図であり、ヘッドライト配光制御方法を実現するための全体の構成を示す概略図である。
【0016】
撮像装置であるカメラ101は車両の前方の視界を捕らえられるように、ヘッドライト104は車両の前方を照らすように、それぞれヘッドライトユニット105内に設置される。カメラ101で撮像された車両前方画像は画像信号処理ユニット102に入力され、画像信号処理ユニット102は、車両前方に存在する対向車のヘッドライトおよび、先行車のテールライトの個数や位置を計算する。計算された情報は、ヘッドライト制御ユニット103に送られる。車両前方に存在する対向車のヘッドライトおよび、先行車のテールライトが存在しない場合は、画像信号処理ユニット102は、存在しないという情報をヘッドライト制御ユニット103に送る。ヘッドライト制御ユニット103では、受け取った情報からヘッドライト104をハイビームにするかロービームにするかを判断して、ヘッドライト104を制御する。
【0017】
各ユニットの配置に関しては、カメラ101とヘッドライト104をできるだけ近くに設置することが望ましい。そうすることで、光軸調整などのキャリブレーションの簡便化に繋がる。
【0018】
しかし、ヘッドライトユニット105のスペースに余裕がなくカメラ101が収まらない場合は、カメラ101を車室内、たとえばルームミラーの奥等に設置して車両前方が写る位置に設置しても良い。
【0019】
さらに、図3に示すように、カメラ101の光軸301とヘッドライト104の光軸302は平行にしておく。光軸を平行にしなければ、カメラ101で撮像された空間位置とヘッドライト104で投光する空間位置にずれが生じてしまうためである。
【0020】
また、カメラの画角303はヘッドライト104の照射角304と同等、もしくはそれ以上に合わせておく。
【0021】
次に、カメラで対向車のヘッドライトと先行車のテールライトを検出する方法について説明する。
【0022】
図2は、本発明の画像処理装置を有する撮像装置であるカメラ101と画像信号処理ユニット102の内部構成を示した図である。
【0023】
撮像素子であるCMOS201(Complementary Metal Oxide Semiconductor)は光を電荷に変換するフォトダイオードが格子状に並んだ撮像素子であり、各画素の表面には赤(R)・緑(G)・青(B)のカラーフィルタが図4のようにベイヤー配列で配置されている。そのため、画素401には赤色の光だけ、画素402は緑色の光だけ、画素403は青色の光だけが入射する。
【0024】
ここで、CMOS201に用いるカラーフィルタは原色系の赤(R)・緑(G)・青(B)でなく、補色系の水色(シアン)(C)・赤紫(マゼンタ)(M)・黄(イエロー)(Y)、又は水色(C)・赤紫(M)・黄(Y)・緑(G)としてもよい。水色は緑と青、赤紫は赤と青、黄は赤と緑、各々の3原色が含まれているため、補色系カラーフィルタでもRGBの色再現は可能である。ただし色再現の式が煩雑となるため、本実施例では原色系の赤(R)・緑(G)・青(B)の例で説明する。
【0025】
このベイヤー配列のCMOS201で得られたRAW画像(各画素が単色の色情報しか持たない画像)は、画像処理装置である光点検出DSP(Digital Signal Processing)202に転送される。
【0026】
画像処理装置である光点検出DSP202では、CPU203から指定された輝度,色相,彩度をもつ光点のみを白、それ以外の部分を黒とした2値画像に変換して画像信号処理ユニット102の画像入力I/F205に送信する。画像信号は連続的に送信されるがその先頭には同期信号が含まれており、画像入力I/F205で必要なタイミングの画像のみを取り込むことができる。画像入力I/F205で取り込まれた画像はメモリ206に書き込まれ、画像処理ユニット204によって処理や解析が行われる。この処理の詳細は後述する。
【0027】
一連の処理はFlash ROMなどのROM207に書き込まれたプログラムに従って行われる。画像入力I/F205で画像を取り込んだり、画像処理ユニット204で画像処理を行わせたりするための制御および必要な計算はCPU203が行っている。
【0028】
CMOS201は、露光制御を行うための露光制御ユニットと露光時間を設定するレジスタを内蔵しており、CMOS201はレジスタに設定された露光時間で撮像する。レジスタはCPU203から書き換え可能であり、書き換えられた露光時間は次フレームあるいは次フィールド以降の撮像時に反映される。露光時間は、電子制御可能で、CMOS201に当たる光の量が制限される。露光時間制御は前記のような電子シャッター方式によって実現できるが、メカニカルシャッターを開閉させる方式を用いても同様に実現可能である。また、絞りを調整することで露光量を変化させても良い。また、インターレースのように1ラインおきに操作する場合、奇数ラインと偶数ラインで露光量を変化させても良い。
【0029】
ここで、ベイヤー配列をもつ一般的なカラーCMOSで行われる色再生(デモザイク)の仕組みを説明する。各画素は赤(R)か、緑(G)か、青(B)かのいずれか1色の強度しか測定できないため、それ以外の色は周囲の色を参照して推定する。たとえば、図5(a)の中央のG22の画素のRGBはそれぞれ次式(1)のようにして求められる。
【0030】
【数1】

【0031】
同様に、図5(b)の中央のR22の画素のRGBはそれぞれ次式(2)のようにして求められる。
【0032】
【数2】

【0033】
その他の画素も同様にして求められる。
【0034】
このように求めていくと、すべての画素でRGBの3原色を計算することができ、カラー画像を得ることができる。ただし、その画素の色が正しく再現できるのは、再現する注目画素とその8近傍の画素が等しい輝度、一様でフラットな光の場合に限られる。輝度勾配がある場合、エッジ部分では色の再現が不正確になる。
【0035】
例えば白い光であったとしても、非常に小さな光点で図5(a)のG22の画素にしか光が当たらなかった場合、その光は緑色として計算されてしまう。これが偽色である。なるべく注目画素とその8近傍の画素に入射する光量を均一にするために、光学ローパスフィルタを入れたり、レンズのピントをぼかしたりといった工夫をすることで偽色は低減するが、完全に無くすことは不可能である。特に夜間の遠方のヘッドライトやテールライト、信号機や看板,デリニエータなどの光点は小さく、画素間での輝度差が発生しやすいため、偽色が発生しやすい状態にある。
【0036】
図6は、本実施例に係る画像処理装置である光点検出DSP202での処理の流れを表したフローチャートである。
【0037】
光点検出DSP202は、従来のように画素ごとにRGBの3色を計算したものをそのまま使用するのではなく、光点一つに対して一つの色を計算することで、局所的に発生する偽色の影響を低減させることを目的としている。また、光点検出DSP202は、特定色の光点を抽出できるように、CPU203から指定できるレジスタを保有する。
【0038】
まず、ステップS1では、CMOS201から8bitのRAW画像を取得する。つまり、画像取得手段にて、各画素が単色の色情報しか持たない複数の画素からなる画像(RAW画像)を取得する。
【0039】
ステップS2では、RAW画像から式(1)(2)のように各画素での色再生の計算を行い、全画素での明度Yを、次式(3)から求めてY画像を作成する。
【0040】
【数3】

【0041】
Y画像は各画素が0から255の8bitのデータになっていて、255に近いほど明るいことを意味している。このY画像を、レジスタで設定された明度しきい値RegMinYで2値化する。RegMinY以上であれば1、RegMinY未満であれば0とすることで図7(a)のような2値画像が出来上がる。
【0042】
次にこの2値画像をラベリングして、光点領域を抽出する。ラベリングとは、つながっている画素に同じラベルを付ける画像処理である。ラベル画像は図7(b)のようになる。光点領域ごとに異なるラベルが付けられるため、領域の解析が行いやすい。
【0043】
つまり、ステップS2では、光点領域検出手段にて取得した画像から全画素の輝度Yを算出し、算出した輝度が予め定めた輝度以上となる光点領域を検出する。
【0044】
ステップS3では、光点領域に含まれるすべての画素のRGBの平均値をとって光点1つに対して1つのRGBの値を求める。つまり、平均値算出手段にて光点領域内の同色画素毎に輝度の平均値を算出する。具体的には、光点領域内のR画素の輝度の平均値,G画素の輝度の平均値,B画素の輝度の平均値、をそれぞれ算出する。なお、原色系の赤(R)・緑(G)・青(B)でなく、補色系の水色(シアン)(C)・赤紫(マゼンタ)(M)・黄(イエロー)(Y)でもよい。
【0045】
この処理は光点数分、つまりラベル数分行われる。RGBの平均値の取り方は2通りあり、どちらを用いてもよい。1つ目は、RAW画像のRGB各対応色の画素の値を足し合わせてから足し合わせた画素数で割る方法である。例えば図10の光点領域1001の場合(図10の太枠内)、Rの画素は8つ含まれるため8画素分の平均となり、Gは16画素の平均、Bは7画素の平均となる。2つ目は、式(1)(2)などを用いて全画素でRGBの値を求めておいてから、光点領域の画素のRGBそれぞれ別々に足し合わせて光点領域の画素数で割る方法である。R,G,Bそれぞれ光点領域の全画素である31画素分の平均をとることになる。
【0046】
ここで、ステップS2とステップS3の処理は、以下のような代替処理に置き換えてもよい。
【0047】
まず、Y画像を作成して、ラスタスキャンをしながら明度のピークを検出する。つまり、光点ピーク検出手段にて、取得した画像から全画素の輝度Yを算出し、算出した輝度から光点のピークを検出する。ピークが検出されたらその周辺7×7の固定領域でRGBの平均値をとってメモリに格納しておく。つまり、平均値算出手段にて、検出されたピークを中心とした予め定めた複数の画素領域内の同色画素毎に輝度の平均値を算出する。具体的には、複数の画素領域内のR画素の輝度の平均値、G画素の輝度の平均値、B画素の輝度の平均値、をそれぞれ算出する。なお、原色系の赤(R)・緑(G)・青(B)でなく、補色系の水色(シアン)(C)・赤紫(マゼンタ)(M)・黄(イエロー)(Y)でもよい。ピーク自体も光点数分現れるため、その回数行う。こちらの代替処理は、固定領域でRGBを計算するため精度は劣るが、ラベリング処理等を行わなくても済むためハードの回路規模を抑えることができるメリットがある。
【0048】
ステップS4では、ステップS3迄に計算された光点毎のRGBの平均値から、式(3)を用いてUとVを求める。UとVは光点数分計算される。UV空間は図9のようになっており、原点を無彩色として周辺に行くほど彩度が上がり、原点からの方向によって色が変わる。彩度ρと色相θは次式(4)のように計算できる。つまり、彩度色相算出手段にて、算出された同色画素毎の輝度の平均値に基づいてUとVを算出し、そのUとVに基づいて彩度と色相を算出する。
【0049】
【数4】

【0050】
ステップS5では、この彩度ρと色相θについても、明度Y同様にレジスタで範囲を設定することで、任意の光点を選択的に検出する。つまり、光点領域抽出手段にて、輝度Yと彩度ρと色相θのそれぞれの予め定めた閾値に基づいて、取得した画像から光点領域を抽出する。
【0051】
例えば、ヘッドライトを検出したい場合、明度しきい値RegMinY=220,彩度しきい値RegMinRho=0,RegMaxRho=50色相しきい値RegMinTheta=0,RegMaxTheta=360のように設定すれば、比較的明るい光点で色の付いていない光点を検知できる。
【0052】
また、テールライトを検出したい場合、明度しきい値RegMinY=30,彩度しきい値RegMinRho=30,RegMinRho=181色相しきい値RegMinTheta=80,RegMaxTheta=120のように設定すれば、図9の赤色領域901の範囲の色をもつ、赤い色の光点が検知できる。
【0053】
図8(a)は、夜間に対向車801と先行車802が存在する例であり、レジスタでの設定値によって図8(b)のように対向車のヘッドライト領域を抽出したり、図8(c)のように先行車のテールライト領域を抽出したりすることができる。
【0054】
ステップS6では、レジスタで設定されたしきい値の条件に合った光点領域のみが1となった2値画像を生成して、画像信号処理ユニット102に転送する。つまり、画像出力手段にて、抽出された光点領域のみを白、光点領域以外を黒とした2値画像を生成し、出力する。ここで、転送する情報は画像でなくてもよく、光点領域の特徴量を計算してから、光点情報を出力するようにしてもよい。つまり、画像出力手段にて、抽出された光点領域のみから算出された光点情報を出力する。ここでいう光点情報とは、少なくとも中心座標、面積を含み、色相,彩度を含めても良く、他に画像中の光点の中心座標,左右上下端の座標,面積,平均明度等も含めても良い。これにより画像よりも少ない情報転送量で済み、さらに画像解析ユニット102で行う処理負荷を減らすことができる。また、予めレジスタで必要な光点の条件を設定しなくても、明度や彩度,色相を付加して全光点を出力する構成にすることもできる。
【0055】
本実施例では、各画素で局所的にRGBの計算をしてその値をそのまま使用するのではなく、光点が単色であるという前提のもと、図10のように複数の画素にまたがる光点領域1001に含まれるすべての画素の平均をとって1つだけRGBを計算するため、偽色を最小限に抑えつつ色を安定して出力することができる。
【0056】
このような画像処理装置である光点検出DSP202を用いることで、ベイヤー配列をした単板式の撮像素子で構成されるカラーカメラから得られた情報をもとに、夜間のテールライトのような光点の赤色を安定して検知しつつ、赤色以外の光点を排除でき、且つ廉価なカメラでも光点付近で発生する偽色を低減でき、配光制御の信頼性が増し、ドライバーにとってより安全な視界を提供することができる。
【符号の説明】
【0057】
101 カメラ
102 画像信号処理ユニット
103 ヘッドライト制御ユニット
104 ヘッドライト
201 CMOS
202 光点検出DSP
203 CPU
204 画像処理ユニット
205 画像入力I/F
206 メモリ
207 ROM
208 CAN I/F
301 カメラの光軸
302 ヘッドライトの光軸
303 カメラの画角
304 ヘッドライトの照射角
801 対向車
802 先行車
901 赤色領域
1001 光点領域

【特許請求の範囲】
【請求項1】
複数の色のカラーフィルタが所定の配列となるように画素に対して設けられた撮像素子から各画素が単色の色情報しか持たない複数の画素からなる画像を取得する画像取得手段と、
取得した前記画像から全画素の輝度を算出し、算出した前記輝度が予め定めた輝度以上となる光点領域を検出する光点領域検出手段と、
前記光点領域内の同色画素毎に輝度の平均値を算出する平均値算出手段と、を有する画像処理装置。
【請求項2】
請求項1記載の画像処理装置において、
前記平均値算手段は、前記光点領域内のR画素の輝度の平均値,G画素の輝度の平均値,B画素の輝度の平均値、をそれぞれ算出する画像処理装置。
【請求項3】
請求項1記載の画像処理装置において、
前記平均値算手段は、前記光点領域内のY画素の輝度の平均値,M画素の輝度の平均値,C画素の輝度の平均値、をそれぞれ算出する画像処理装置。
【請求項4】
請求項2記載の画像処理装置において、
前記平均値に基づいてUとVを算出し、前記Uと前記Vに基づいて彩度と色相を算出する彩度色相算出手段と、を有する画像処理装置。
【請求項5】
請求項4記載の画像処理装置において、
前記輝度と前記彩度と前記色相のそれぞれの予め定めた閾値に基づいて、取得した前記画像から光点領域を抽出する光点領域抽出手段を有する画像処理装置。
【請求項6】
請求項5記載の画像処理装置において、
抽出された前記光点領域のみを白、前記光点領域以外を黒とした2値画像を生成し、出力する画像出力手段を有する画像処理装置。
【請求項7】
請求項5記載の画像処理装置において、
抽出された前記光点領域のみから算出された光点情報を出力する画像出力手段を有する画像処理装置。
【請求項8】
請求項7記載の画像処理装置において、
前記光点情報は、中心座標,面積を含む画像処理装置。
【請求項9】
請求項7記載の画像処理装置において、
前記光点情報は、中心座標,面積,色相,彩度を含む画像処理装置。
【請求項10】
複数の色のカラーフィルタが所定の配列となるように画素に対して設けられた撮像素子から各画素が単色の色情報しか持たない複数の画素からなる画像を取得する画像取得手段と、
取得した前記画像から全画素の輝度を算出し、算出した前記輝度から光点のピークを検出する光点ピーク検出手段と、
検出された前記ピークを中心とした予め定めた複数の画素領域内の同色画素毎に輝度の平均値を算出する平均値算出手段と、を有する画像処理装置。
【請求項11】
請求項10記載の画像処理装置において、
前記平均値算手段は、前記複数の画素領域内のR画素の輝度の平均値,G画素の輝度の平均値,B画素の輝度の平均値、をそれぞれ算出する画像処理装置。
【請求項12】
請求項10記載の画像処理装置において、
前記平均値算手段は、前記複数の画素領域内のY画素の輝度の平均値,M画素の輝度の平均値,C画素の輝度の平均値、をそれぞれ算出する画像処理装置。
【請求項13】
請求項11記載の画像処理装置において、
前記平均値に基づいてUとVを算出し、前記Uと前記Vに基づいて彩度と色相を算出する彩度色相算出手段と、を有する画像処理装置。
【請求項14】
請求項13記載の画像処理装置において、
前記輝度と前記彩度と前記色相のそれぞれの予め定めた閾値に基づいて、取得した前記画像から光点領域を抽出する光点領域抽出手段を有する画像処理装置。
【請求項15】
請求項14記載の画像処理装置において、
抽出された前記光点領域のみを白、前記光点領域以外を黒とした2値画像を生成し、出力する画像出力手段を有する画像処理装置。
【請求項16】
請求項14記載の画像処理装置において、
抽出された前記光点領域のみから算出された光点情報を出力する画像出力手段を有する画像処理装置。
【請求項17】
請求項16記載の画像処理装置において、
前記光点情報は、中心座標,面積を含む画像処理装置。
【請求項18】
請求項16記載の画像処理装置において、
前記光点情報は、中心座標,面積,色相,彩度を含む画像処理装置。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7】
image rotate

【図8】
image rotate

【図9】
image rotate

【図10】
image rotate


【公開番号】特開2012−222533(P2012−222533A)
【公開日】平成24年11月12日(2012.11.12)
【国際特許分類】
【出願番号】特願2011−84994(P2011−84994)
【出願日】平成23年4月7日(2011.4.7)
【出願人】(509186579)日立オートモティブシステムズ株式会社 (2,205)
【Fターム(参考)】