霧検出装置
【課題】霧の有無の判定精度を向上させること。
【解決手段】車両に搭載されたカメラ2と接続して用いられ、当該車両の外界における霧の有無を検出する霧検出装置1であって、カメラから所定間隔で入力される複数の画像を取得する画像入力部11と、複数の画像のそれぞれにフーリエ変換処理を行うことにより複数のパワースペクトルを算出するパワースペクトル算出部12と、複数のパワースペクトルのそれぞれを正規化する正規化処理部13と、正規化された複数のパワースペクトルのそれぞれから直流成分を抽出して時系列データを生成する直流成分抽出部14と、時系列データに基づいて霧の有無を判定する霧判定部15を備える霧検出装置である。
【解決手段】車両に搭載されたカメラ2と接続して用いられ、当該車両の外界における霧の有無を検出する霧検出装置1であって、カメラから所定間隔で入力される複数の画像を取得する画像入力部11と、複数の画像のそれぞれにフーリエ変換処理を行うことにより複数のパワースペクトルを算出するパワースペクトル算出部12と、複数のパワースペクトルのそれぞれを正規化する正規化処理部13と、正規化された複数のパワースペクトルのそれぞれから直流成分を抽出して時系列データを生成する直流成分抽出部14と、時系列データに基づいて霧の有無を判定する霧判定部15を備える霧検出装置である。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、カメラにより撮像された画像に基づいて霧の有無を検出する技術に関する。
【背景技術】
【0002】
車両の運転者を支援するために車両の外界の状況を検出する技術の1つとして、車両外界における霧の有無を検出する技術が知られている。例えば、特許第4479532号公報(特許文献1)に開示された霧検出装置は、ライトの光軸を含んだ周辺環境をカメラによって撮像し、この撮像された画像の水平方向走査線の輝度値の極大値がライトの光軸推定位置近傍に存在し、かつ、左右の光軸推定位置に存在する極大値を含む輝度変化が少ない領域と、この領域以外の領域間の輝度変化量が所定範囲内の変化量を維持したときに霧発生とみなす、というものである。
【0003】
特許第4321591号公報(特許文献2)に開示された車載霧判定装置は、カメラによって撮像された画像の一部を霧判定に用いる判定画像として抽出し、その判定画像からランプなどの高輝度物が撮像されている領域をマスクし、このマスク処理後の判定画像を周波数解析して霧判定を行う、というものである。また、特許第4241834号公報(特許文献3)に開示された車載霧判定装置は、上記特許文献2の車載霧判定装置と同様に、カメラによって撮像された画像の一部を判定画像として抽出し、その判定画像からノイズ要因となる箇所をマスクする。そして、このマスク処理後の判定画像から、周波数解析において用いる各入力信号に対して、マスク処理によって生じた不連続箇所の数を一次細分化度とし、さらに全部の一次細分化度の中でその一次細分化度が所定値より高いものの割合を全体細分化度とする。また、判定画像の全体の面積に対するマスクされた画像の割合をマスク割合指標として算出する。そして、全体細分化度が基準値よりも高い場合、または、マスク割合指標が基準値よりも高い場合には、霧判定を行わない。それにより、誤判定が低減される。
【0004】
特開2006−221467号公報(特許文献4)に開示された視界不良評価方法および同装置は、カメラで撮影した画像をFFT処理して空間周波数に変換し、その周波数分布に対して、人間のコントラスト感度が良好な周波数領域の帯域フィルタを適用する。そして、このフィルタ処理後の周波数分布を用いて、所定の判定基準に従って視界の状態を判定する。
【0005】
ところで、特許文献1の先行例のように撮像した画像の輝度に基づいて霧の有無を判定する場合には処理自体が単純となる利点があるが、画像の輝度は周辺環境の影響を受けやすいため、ノイズ要因を排除するための処理が複雑になるという不都合がある。
【0006】
また、特許文献2〜4の各先行例のように撮像した画像からパワースペクトルを求め、それに基づいて霧の有無を判定するものにおいては、例えば車両のワイパーが作動中の場合などカメラの前面が遮蔽された状態が起きると画像内の直流成分が減少し、それに伴いパワースペクトルの直流成分が減少する。一般に、車両が霧発生中の環境下にいる場合にはワイパーを作動させることが多いため、各先行例においては霧の有無を判定する際の判定精度が低下するおそれがある。
【先行技術文献】
【特許文献】
【0007】
【特許文献1】特許第4479532号公報
【特許文献2】特許第4321591号公報
【特許文献3】特許第4241834号公報
【特許文献4】特開2006−221467号公報
【発明の概要】
【発明が解決しようとする課題】
【0008】
本発明に係る具体的態様は、霧の有無の判定精度を向上させることが可能な技術を提供することを目的の1つとする。
【課題を解決するための手段】
【0009】
本発明に係る一態様の霧検出装置は、車両に搭載されたカメラと接続して用いられ、当該車両の外界における霧の有無を検出する霧検出装置であって、(a)前記カメラから所定間隔で入力される複数の画像を取得する画像入力部と、(b)前記複数の画像のそれぞれにフーリエ変換処理を行うことにより複数のパワースペクトルを算出するパワースペクトル算出部と、(c)前記複数のパワースペクトルのそれぞれを正規化する正規化処理部と、(d)正規化された前記複数のパワースペクトルのそれぞれから直流成分を抽出して時系列データを生成する直流成分抽出部と、(e)前記時系列データに基づいて前記霧の有無を判定する霧判定部を備える。
【0010】
上記の霧検出装置では、時系列的に前後する複数の画像から得られた各パワースペクトルのそれぞれを正規化し、直流成分を抽出して得られた時系列データを霧の有無の判定に用いている。それにより、画像の輝度に基づいて霧の有無を判定する先行例に比べてノイズ要因を確実に排除することができる。また、時系列データを用いることにより、例えばワイパー稼働等の要因により時系列的に前後する直流成分の値が大きく異なっている場合には前回の判定結果を用いるなどの判定手法を採用できるようになる。それにより、先行例に比較して霧の有無の判定精度を向上させることが可能となる。
【0011】
上記の霧検出装置において、前記霧判定部は、前記時系列データに基づいて、時系列で前後する直流成分の間の変化量を求め、当該変化量が予め定めた閾値内に入らないときには、1つ前の機会における判定結果を用いて前記霧の有無を判定することがより好ましい。ここでいう「変化量」とは、例えば時系列で前後する直流成分の微分値(差分)である。
【0012】
それにより、例えばワイパー稼働に起因して、時系列で前後する他の直流成分とかけ離れた値の直流成分が発生したことをより確実に検出し、霧の有無の判定精度を向上させることができる。
【0013】
上記の霧検出装置は、前記車両のワイパーの稼働状態を判定するワイパー判定部を更に含んでもよい。この場合に、前記霧判定部は、前記ワイパーの稼働状態に応じて前記閾値を変更する。
【0014】
それにより、画像の入力間隔(フレームレート)が比較的に大きい場合であってもより確実に霧の有無を判定することが可能となる。
【0015】
また、上記の霧検出装置において、前記パワースペクトル算出部は、前記複数の画像のそれぞれについて、水平方向の1列の輝度成分を選択し、当該1列の輝度成分を一次元フーリエ変換することによりパワースペクトルを算出することも好ましい。
【0016】
それにより、演算コストを低減することが可能となる。
【図面の簡単な説明】
【0017】
【図1】一実施形態の霧検出装置の構成を示すブロック図である。
【図2】霧検出装置の動作を示すフローチャートである。
【図3】霧検出装置の動作を示すフローチャートである。
【図4】ステップS12における処理の具体的内容を説明するための図である。
【図5】正規化を施す前のパワースペクトルの一例を示す図である。
【図6】正規化を施した後のパワースペクトルの一例を示す図である。
【図7】正規化を施した後のパワースペクトルの一例を示す図である。
【図8】正規化を施した後のパワースペクトルの一例を示す図である。
【図9】ステップS22で生成される直流成分の時系列データの一例を示す図である。
【図10】直流成分の時系列データを微分した結果の一例を示す図である。
【図11】最終判定の内容を示す図である。
【発明を実施するための形態】
【0018】
以下に、本発明の実施の形態について図面を参照しながら説明する。
【0019】
図1は、一実施形態の霧検出装置の構成を示すブロック図である。図1に示す霧検出装置1は、車両に搭載されたカメラ2によって車両の外界を撮像して得られる画像に基づいて霧の有無を検出するものであり、画像入力部11、パワースペクトル算出部12、正規化処理部13、直流成分抽出部14、霧判定部15、ワイパー判定部16を含んで構成されている。本実施形態の霧検出装置1は、例えばCPU、ROM、RAM等を有するコンピュータシステムにおいて所定の動作プログラムを実行させることにより実現される。なお、カメラ2も霧検出装置の一部としてもよい。
【0020】
画像入力部11は、所定のタイミングでカメラ2から画像(画像データ)を順次取得し、それぞれの画像にグレースケール変換を施す。なお、カメラ2からアナログ信号で画像が入力される場合には、画像入力部11はそのアナログ信号をデジタル信号に変換する処理も行う。
【0021】
パワースペクトル算出部12は、画像入力部11によって生成されるグレースケールの各画像に対してフーリエ変換処理を施してパワースペクトルを算出する。本実施形態では、各画像から水平方向の特定の1列の輝度成分(走査線)を選択し、この1列の輝度成分を一次元フーリエ変換することによりパワースペクトルを算出する。それにより、計算コストが削減される。1列の輝度成分を選択する方法については後述する。
【0022】
正規化処理部13は、パワースペクトル算出部12によって算出された各パワースペクトルを正規化する。この正規化により、パワースペクトルは撮像位置の小さなズレやノイズに対して頑強になる。
【0023】
直流成分抽出部14は、正規化された各パワースペクトルの直流成分を抽出し、各直流成分に対応する画像の撮像時期に沿って並べた時系列データを生成する。
【0024】
霧判定部15は、直流成分抽出部14によって生成された各パワースペクトルの直流成分の時系列データに基づいて、車両の外界に霧があるか否かを判定する。
【0025】
ワイパー判定部16は、車両から得られるワイパー操作信号に基づいて、車両のワイパーが稼働中であるか否かを判定する。この判定結果は霧判定部15に入力され、霧の有無の判定に用いられる。
【0026】
本実施形態の霧検出装置1はこのような構成を備えており、次にその動作を図2および図3に示すフローチャートに沿って詳細に説明する。
【0027】
画像入力部11は、所定のタイミングでカメラ2から画像を順次取得し、それぞれの画像にグレースケール変換を施す(ステップS11)。カメラ2からの画像は、例えば、所定の階調(例えば256階調)の輝度成分で表現されたグレースケールの画像に変換される。
【0028】
次に、パワースペクトル算出部12は、画像入力部11によって生成されるグレースケールの各画像に対してフーリエ変換処理を施してパワースペクトルを算出する(ステップS12)。
【0029】
図4は、ステップS12における処理の具体的内容を説明するための図である。図4(A)に例示するグレースケールの画像が入力されると、パワースペクトル算出部12は、その画像から水平方向の特定の1列の輝度成分(図中、点線により模式的に示す)を選択し、この1列の輝度成分を一次元フーリエ変換することによりパワースペクトルを算出する。画像中で1列の輝度成分を抽出する位置については、例えば画像の垂直方向において中央付近などに適宜設定しておく。また、例えば図4(B)に示すように、画像の垂直方向の特定の1列の輝度成分を抽出し、輝度成分が最大値となる位置を、水平方向における1列の輝度成分の抽出位置としてもよい。このとき、画像の垂直方向の1列については任意位置に設定すればよく、例えば図4(A)において上側に矢印で示すように水平方向の中央に設定できる。
【0030】
また、ワイパー判定部16は、ワイパー操作信号に基づいて車両のワイパーが稼働中であるか否かを判定する(ステップS13)。ワイパーが稼働中である場合には(ステップS13;YES)、霧判定部15は、霧の有無の判定に用いる閾値(詳細は後述する)を変更する(ステップS14)。ワイパーが稼働中ではない場合には(ステップS13;NO)、閾値は変更されない。
【0031】
次に、霧判定ルーチンが実行される(ステップS15)。霧判定ルーチンの詳細について図3に沿って以下に説明する。
【0032】
正規化処理部13は、パワースペクトルを正規化する(ステップS21)。正規化を施す前のパワースペクトルの一例を図5に示す。またこのパワースペクトルに正規化を施した後のパワースペクトルを図6に示す。図5に示すパワースペクトルは、外界に霧が存在するときに走行中の車両から連続的に撮像された画像に基づいて算出されたものである。この図5に例示するように、パワースペクトルの値は、同一の撮像環境であるにも関わらずカメラ2による撮影時期の違いにより、すなわち各フレーム間で異なる。これは車両の振動による走査線のわずかなズレや、走査線上に道路上の白線や交通標識等に起因するノイズが混入するために起こる。これに対して各パワースペクトルを正規化し、パワースペクトルの分布のみに着目することにより、図6に示すように、撮像位置の小さなズレやノイズに対して頑強になる。同様の処理により得られた、霧のない夜間走行環境でのパワースペクトルの一例を図7に示し、霧のない夜間走行環境において対向車接近時のパワースペクトルの一例を図8に示す。
【0033】
次に、直流成分抽出部14は、正規化された各パワースペクトルの直流成分を抽出して時系列データを生成する(ステップS22)。ステップS22で生成される直流成分の時系列データの一例を図9に示す。図9においては、横軸がフレーム数(撮像時期)、縦軸が直流成分の値に対応する。図9に例示するように、霧の存在する場合の画像に基づいて得られる直流成分のほうが、霧の存在しない場合の画像に基づいて得られる直流成分よりも相対的に大きい値となる。図9において、霧の存在する場合の画像に基づく直流成分の時系列データの中に、直流成分の値が大きく低下するものがある(11フレームおよび15フレーム)。これは、稼働中のワイパーが画像中に写り込んだことによる。このようにワイパーが写り込んだ画像とそうでない画像では、パワースペクトルの直流成分に大きな違いが生じる。
【0034】
次に、霧判定部15は、直流成分の時系列データに基づいて霧の有無を判定する(ステップS23)。例えば、霧判定部15は、直流成分の値が予め定めた基準値(例えば0.4)よりも大きい場合に霧があると判定する。霧がある場合には(ステップS23;YES)、霧判定部15は、霧フラグf1の値を「1」とする(ステップS24)。また、霧がない場合には(ステップS23;NO)、霧判定部15は、霧フラグf1の値を「0」とする(ステップS25)。
【0035】
次に、霧判定部15は、直流成分の時系列データの変化量を前後フレームごとに微分し、微分値が所定の閾値を超えたか否かを判定する(ステップS26)。直流成分の時系列データを微分した結果の一例を図10に示す。上記したように11フレームおよび15フレームでは画像にワイパーが写り込むことに起因して直流成分の値が急激に低下したことから、前後フレームでの直流成分の微分値が大きくなり、閾値(本例では、±0.1以内)を超えている。この場合には、前回の閾値内に収まった判断結果を優先させるようにする。すなわち、11フレームの場合にはその前の10フレームでの判断結果を優先させる。具体的には、微分値が閾値を超えた場合には(ステップS26;YES)、霧判定部15は、判断フラグf2の値を「1」とする(ステップS27)。また、微分値が閾値を超えていない場合には(ステップS26;NO)、霧判定部15は、判断フラグf2の値を「0」とする(ステップS28)。
【0036】
なお、上記したステップS26において用いる閾値は、ワイパー稼働中である場合には上記したステップS14においてその大きさが変更される。具体的には、閾値は、例えば上記で例示した±0.1から±0.05に変更される。これは、カメラ2による撮像時のフレームレートが大きくなると、各フレーム間の微分値が小さくなり霧の有無の判断精度が低下する可能性があるため、それを回避するためである。
【0037】
次に、霧判定部15は、上記した霧フラグf1、判断フラグf2の各値に基づいて、霧の有無についての最終判定を実行する(ステップS29)。最終判定の内容を図11に示す。霧フラグf1、判断フラグf2がともに「0」である場合には最終判定が「0」、すなわち霧無しとなる。霧フラグf1が「0」、判断フラグf2が「1」である場合には、最終判定として前フレームの判定結果が採用される。霧フラグf1が「1」、判断フラグf2が「0」である場合には最終判定が「1」、すなわち霧有りとなる。霧フラグf1、判断フラグf2がともに「1」である場合には、最終判定として前フレームの判定結果が採用される。
【0038】
以上のように本実施形態によれば、時系列的に前後する複数の画像から得られた各パワースペクトルのそれぞれを正規化し、直流成分を抽出して得られた時系列データを霧の有無の判定に用いているので、画像の輝度に基づいて霧の有無を判定する先行例に比べてノイズ要因を確実に排除することができる。また、時系列データを用いることにより、ワイパー稼働等の要因により時系列的に前後する直流成分の値が大きく異なっている場合には前回の判定結果を用いるなどの判定手法を採用できるようになる。それにより、先行例に比較して霧の有無の判定精度を向上させることが可能となる。
【0039】
また、本実施形態によれば、時系列で前後する直流成分の間の変化量(微分値)を求め、当該変化量が予め定めた閾値内に入らないときには、1つ前の機会における判定結果を用いて霧の有無を判定するので、時系列で前後する他の直流成分とかけ離れた値の直流成分が存在することをより確実に検出し、霧の有無の判定精度を向上させることができる。
【0040】
なお、本発明は上述した実施形態の内容に限定されるものではなく、本発明の要旨の範囲内において種々に変形して実施をすることが可能である。例えば、上記した実施形態では時系列で前後する直流成分の変化量として微分値を求めていたが、時系列データに対して移動平均を求め、その値に基づいて霧の有無を判定してもよい。この手法によっても、ワイパー稼働等の要因により発生する直流成分の急激な変化を緩和し、霧の有無の判定精度を向上させることができる。
【符号の説明】
【0041】
1:霧検出装置
2:カメラ
11:画像入力部
12:パワースペクトル算出部
13:正規化処理部
14:直流成分抽出部
15:霧判定部
16:ワイパー判定部
【技術分野】
【0001】
本発明は、カメラにより撮像された画像に基づいて霧の有無を検出する技術に関する。
【背景技術】
【0002】
車両の運転者を支援するために車両の外界の状況を検出する技術の1つとして、車両外界における霧の有無を検出する技術が知られている。例えば、特許第4479532号公報(特許文献1)に開示された霧検出装置は、ライトの光軸を含んだ周辺環境をカメラによって撮像し、この撮像された画像の水平方向走査線の輝度値の極大値がライトの光軸推定位置近傍に存在し、かつ、左右の光軸推定位置に存在する極大値を含む輝度変化が少ない領域と、この領域以外の領域間の輝度変化量が所定範囲内の変化量を維持したときに霧発生とみなす、というものである。
【0003】
特許第4321591号公報(特許文献2)に開示された車載霧判定装置は、カメラによって撮像された画像の一部を霧判定に用いる判定画像として抽出し、その判定画像からランプなどの高輝度物が撮像されている領域をマスクし、このマスク処理後の判定画像を周波数解析して霧判定を行う、というものである。また、特許第4241834号公報(特許文献3)に開示された車載霧判定装置は、上記特許文献2の車載霧判定装置と同様に、カメラによって撮像された画像の一部を判定画像として抽出し、その判定画像からノイズ要因となる箇所をマスクする。そして、このマスク処理後の判定画像から、周波数解析において用いる各入力信号に対して、マスク処理によって生じた不連続箇所の数を一次細分化度とし、さらに全部の一次細分化度の中でその一次細分化度が所定値より高いものの割合を全体細分化度とする。また、判定画像の全体の面積に対するマスクされた画像の割合をマスク割合指標として算出する。そして、全体細分化度が基準値よりも高い場合、または、マスク割合指標が基準値よりも高い場合には、霧判定を行わない。それにより、誤判定が低減される。
【0004】
特開2006−221467号公報(特許文献4)に開示された視界不良評価方法および同装置は、カメラで撮影した画像をFFT処理して空間周波数に変換し、その周波数分布に対して、人間のコントラスト感度が良好な周波数領域の帯域フィルタを適用する。そして、このフィルタ処理後の周波数分布を用いて、所定の判定基準に従って視界の状態を判定する。
【0005】
ところで、特許文献1の先行例のように撮像した画像の輝度に基づいて霧の有無を判定する場合には処理自体が単純となる利点があるが、画像の輝度は周辺環境の影響を受けやすいため、ノイズ要因を排除するための処理が複雑になるという不都合がある。
【0006】
また、特許文献2〜4の各先行例のように撮像した画像からパワースペクトルを求め、それに基づいて霧の有無を判定するものにおいては、例えば車両のワイパーが作動中の場合などカメラの前面が遮蔽された状態が起きると画像内の直流成分が減少し、それに伴いパワースペクトルの直流成分が減少する。一般に、車両が霧発生中の環境下にいる場合にはワイパーを作動させることが多いため、各先行例においては霧の有無を判定する際の判定精度が低下するおそれがある。
【先行技術文献】
【特許文献】
【0007】
【特許文献1】特許第4479532号公報
【特許文献2】特許第4321591号公報
【特許文献3】特許第4241834号公報
【特許文献4】特開2006−221467号公報
【発明の概要】
【発明が解決しようとする課題】
【0008】
本発明に係る具体的態様は、霧の有無の判定精度を向上させることが可能な技術を提供することを目的の1つとする。
【課題を解決するための手段】
【0009】
本発明に係る一態様の霧検出装置は、車両に搭載されたカメラと接続して用いられ、当該車両の外界における霧の有無を検出する霧検出装置であって、(a)前記カメラから所定間隔で入力される複数の画像を取得する画像入力部と、(b)前記複数の画像のそれぞれにフーリエ変換処理を行うことにより複数のパワースペクトルを算出するパワースペクトル算出部と、(c)前記複数のパワースペクトルのそれぞれを正規化する正規化処理部と、(d)正規化された前記複数のパワースペクトルのそれぞれから直流成分を抽出して時系列データを生成する直流成分抽出部と、(e)前記時系列データに基づいて前記霧の有無を判定する霧判定部を備える。
【0010】
上記の霧検出装置では、時系列的に前後する複数の画像から得られた各パワースペクトルのそれぞれを正規化し、直流成分を抽出して得られた時系列データを霧の有無の判定に用いている。それにより、画像の輝度に基づいて霧の有無を判定する先行例に比べてノイズ要因を確実に排除することができる。また、時系列データを用いることにより、例えばワイパー稼働等の要因により時系列的に前後する直流成分の値が大きく異なっている場合には前回の判定結果を用いるなどの判定手法を採用できるようになる。それにより、先行例に比較して霧の有無の判定精度を向上させることが可能となる。
【0011】
上記の霧検出装置において、前記霧判定部は、前記時系列データに基づいて、時系列で前後する直流成分の間の変化量を求め、当該変化量が予め定めた閾値内に入らないときには、1つ前の機会における判定結果を用いて前記霧の有無を判定することがより好ましい。ここでいう「変化量」とは、例えば時系列で前後する直流成分の微分値(差分)である。
【0012】
それにより、例えばワイパー稼働に起因して、時系列で前後する他の直流成分とかけ離れた値の直流成分が発生したことをより確実に検出し、霧の有無の判定精度を向上させることができる。
【0013】
上記の霧検出装置は、前記車両のワイパーの稼働状態を判定するワイパー判定部を更に含んでもよい。この場合に、前記霧判定部は、前記ワイパーの稼働状態に応じて前記閾値を変更する。
【0014】
それにより、画像の入力間隔(フレームレート)が比較的に大きい場合であってもより確実に霧の有無を判定することが可能となる。
【0015】
また、上記の霧検出装置において、前記パワースペクトル算出部は、前記複数の画像のそれぞれについて、水平方向の1列の輝度成分を選択し、当該1列の輝度成分を一次元フーリエ変換することによりパワースペクトルを算出することも好ましい。
【0016】
それにより、演算コストを低減することが可能となる。
【図面の簡単な説明】
【0017】
【図1】一実施形態の霧検出装置の構成を示すブロック図である。
【図2】霧検出装置の動作を示すフローチャートである。
【図3】霧検出装置の動作を示すフローチャートである。
【図4】ステップS12における処理の具体的内容を説明するための図である。
【図5】正規化を施す前のパワースペクトルの一例を示す図である。
【図6】正規化を施した後のパワースペクトルの一例を示す図である。
【図7】正規化を施した後のパワースペクトルの一例を示す図である。
【図8】正規化を施した後のパワースペクトルの一例を示す図である。
【図9】ステップS22で生成される直流成分の時系列データの一例を示す図である。
【図10】直流成分の時系列データを微分した結果の一例を示す図である。
【図11】最終判定の内容を示す図である。
【発明を実施するための形態】
【0018】
以下に、本発明の実施の形態について図面を参照しながら説明する。
【0019】
図1は、一実施形態の霧検出装置の構成を示すブロック図である。図1に示す霧検出装置1は、車両に搭載されたカメラ2によって車両の外界を撮像して得られる画像に基づいて霧の有無を検出するものであり、画像入力部11、パワースペクトル算出部12、正規化処理部13、直流成分抽出部14、霧判定部15、ワイパー判定部16を含んで構成されている。本実施形態の霧検出装置1は、例えばCPU、ROM、RAM等を有するコンピュータシステムにおいて所定の動作プログラムを実行させることにより実現される。なお、カメラ2も霧検出装置の一部としてもよい。
【0020】
画像入力部11は、所定のタイミングでカメラ2から画像(画像データ)を順次取得し、それぞれの画像にグレースケール変換を施す。なお、カメラ2からアナログ信号で画像が入力される場合には、画像入力部11はそのアナログ信号をデジタル信号に変換する処理も行う。
【0021】
パワースペクトル算出部12は、画像入力部11によって生成されるグレースケールの各画像に対してフーリエ変換処理を施してパワースペクトルを算出する。本実施形態では、各画像から水平方向の特定の1列の輝度成分(走査線)を選択し、この1列の輝度成分を一次元フーリエ変換することによりパワースペクトルを算出する。それにより、計算コストが削減される。1列の輝度成分を選択する方法については後述する。
【0022】
正規化処理部13は、パワースペクトル算出部12によって算出された各パワースペクトルを正規化する。この正規化により、パワースペクトルは撮像位置の小さなズレやノイズに対して頑強になる。
【0023】
直流成分抽出部14は、正規化された各パワースペクトルの直流成分を抽出し、各直流成分に対応する画像の撮像時期に沿って並べた時系列データを生成する。
【0024】
霧判定部15は、直流成分抽出部14によって生成された各パワースペクトルの直流成分の時系列データに基づいて、車両の外界に霧があるか否かを判定する。
【0025】
ワイパー判定部16は、車両から得られるワイパー操作信号に基づいて、車両のワイパーが稼働中であるか否かを判定する。この判定結果は霧判定部15に入力され、霧の有無の判定に用いられる。
【0026】
本実施形態の霧検出装置1はこのような構成を備えており、次にその動作を図2および図3に示すフローチャートに沿って詳細に説明する。
【0027】
画像入力部11は、所定のタイミングでカメラ2から画像を順次取得し、それぞれの画像にグレースケール変換を施す(ステップS11)。カメラ2からの画像は、例えば、所定の階調(例えば256階調)の輝度成分で表現されたグレースケールの画像に変換される。
【0028】
次に、パワースペクトル算出部12は、画像入力部11によって生成されるグレースケールの各画像に対してフーリエ変換処理を施してパワースペクトルを算出する(ステップS12)。
【0029】
図4は、ステップS12における処理の具体的内容を説明するための図である。図4(A)に例示するグレースケールの画像が入力されると、パワースペクトル算出部12は、その画像から水平方向の特定の1列の輝度成分(図中、点線により模式的に示す)を選択し、この1列の輝度成分を一次元フーリエ変換することによりパワースペクトルを算出する。画像中で1列の輝度成分を抽出する位置については、例えば画像の垂直方向において中央付近などに適宜設定しておく。また、例えば図4(B)に示すように、画像の垂直方向の特定の1列の輝度成分を抽出し、輝度成分が最大値となる位置を、水平方向における1列の輝度成分の抽出位置としてもよい。このとき、画像の垂直方向の1列については任意位置に設定すればよく、例えば図4(A)において上側に矢印で示すように水平方向の中央に設定できる。
【0030】
また、ワイパー判定部16は、ワイパー操作信号に基づいて車両のワイパーが稼働中であるか否かを判定する(ステップS13)。ワイパーが稼働中である場合には(ステップS13;YES)、霧判定部15は、霧の有無の判定に用いる閾値(詳細は後述する)を変更する(ステップS14)。ワイパーが稼働中ではない場合には(ステップS13;NO)、閾値は変更されない。
【0031】
次に、霧判定ルーチンが実行される(ステップS15)。霧判定ルーチンの詳細について図3に沿って以下に説明する。
【0032】
正規化処理部13は、パワースペクトルを正規化する(ステップS21)。正規化を施す前のパワースペクトルの一例を図5に示す。またこのパワースペクトルに正規化を施した後のパワースペクトルを図6に示す。図5に示すパワースペクトルは、外界に霧が存在するときに走行中の車両から連続的に撮像された画像に基づいて算出されたものである。この図5に例示するように、パワースペクトルの値は、同一の撮像環境であるにも関わらずカメラ2による撮影時期の違いにより、すなわち各フレーム間で異なる。これは車両の振動による走査線のわずかなズレや、走査線上に道路上の白線や交通標識等に起因するノイズが混入するために起こる。これに対して各パワースペクトルを正規化し、パワースペクトルの分布のみに着目することにより、図6に示すように、撮像位置の小さなズレやノイズに対して頑強になる。同様の処理により得られた、霧のない夜間走行環境でのパワースペクトルの一例を図7に示し、霧のない夜間走行環境において対向車接近時のパワースペクトルの一例を図8に示す。
【0033】
次に、直流成分抽出部14は、正規化された各パワースペクトルの直流成分を抽出して時系列データを生成する(ステップS22)。ステップS22で生成される直流成分の時系列データの一例を図9に示す。図9においては、横軸がフレーム数(撮像時期)、縦軸が直流成分の値に対応する。図9に例示するように、霧の存在する場合の画像に基づいて得られる直流成分のほうが、霧の存在しない場合の画像に基づいて得られる直流成分よりも相対的に大きい値となる。図9において、霧の存在する場合の画像に基づく直流成分の時系列データの中に、直流成分の値が大きく低下するものがある(11フレームおよび15フレーム)。これは、稼働中のワイパーが画像中に写り込んだことによる。このようにワイパーが写り込んだ画像とそうでない画像では、パワースペクトルの直流成分に大きな違いが生じる。
【0034】
次に、霧判定部15は、直流成分の時系列データに基づいて霧の有無を判定する(ステップS23)。例えば、霧判定部15は、直流成分の値が予め定めた基準値(例えば0.4)よりも大きい場合に霧があると判定する。霧がある場合には(ステップS23;YES)、霧判定部15は、霧フラグf1の値を「1」とする(ステップS24)。また、霧がない場合には(ステップS23;NO)、霧判定部15は、霧フラグf1の値を「0」とする(ステップS25)。
【0035】
次に、霧判定部15は、直流成分の時系列データの変化量を前後フレームごとに微分し、微分値が所定の閾値を超えたか否かを判定する(ステップS26)。直流成分の時系列データを微分した結果の一例を図10に示す。上記したように11フレームおよび15フレームでは画像にワイパーが写り込むことに起因して直流成分の値が急激に低下したことから、前後フレームでの直流成分の微分値が大きくなり、閾値(本例では、±0.1以内)を超えている。この場合には、前回の閾値内に収まった判断結果を優先させるようにする。すなわち、11フレームの場合にはその前の10フレームでの判断結果を優先させる。具体的には、微分値が閾値を超えた場合には(ステップS26;YES)、霧判定部15は、判断フラグf2の値を「1」とする(ステップS27)。また、微分値が閾値を超えていない場合には(ステップS26;NO)、霧判定部15は、判断フラグf2の値を「0」とする(ステップS28)。
【0036】
なお、上記したステップS26において用いる閾値は、ワイパー稼働中である場合には上記したステップS14においてその大きさが変更される。具体的には、閾値は、例えば上記で例示した±0.1から±0.05に変更される。これは、カメラ2による撮像時のフレームレートが大きくなると、各フレーム間の微分値が小さくなり霧の有無の判断精度が低下する可能性があるため、それを回避するためである。
【0037】
次に、霧判定部15は、上記した霧フラグf1、判断フラグf2の各値に基づいて、霧の有無についての最終判定を実行する(ステップS29)。最終判定の内容を図11に示す。霧フラグf1、判断フラグf2がともに「0」である場合には最終判定が「0」、すなわち霧無しとなる。霧フラグf1が「0」、判断フラグf2が「1」である場合には、最終判定として前フレームの判定結果が採用される。霧フラグf1が「1」、判断フラグf2が「0」である場合には最終判定が「1」、すなわち霧有りとなる。霧フラグf1、判断フラグf2がともに「1」である場合には、最終判定として前フレームの判定結果が採用される。
【0038】
以上のように本実施形態によれば、時系列的に前後する複数の画像から得られた各パワースペクトルのそれぞれを正規化し、直流成分を抽出して得られた時系列データを霧の有無の判定に用いているので、画像の輝度に基づいて霧の有無を判定する先行例に比べてノイズ要因を確実に排除することができる。また、時系列データを用いることにより、ワイパー稼働等の要因により時系列的に前後する直流成分の値が大きく異なっている場合には前回の判定結果を用いるなどの判定手法を採用できるようになる。それにより、先行例に比較して霧の有無の判定精度を向上させることが可能となる。
【0039】
また、本実施形態によれば、時系列で前後する直流成分の間の変化量(微分値)を求め、当該変化量が予め定めた閾値内に入らないときには、1つ前の機会における判定結果を用いて霧の有無を判定するので、時系列で前後する他の直流成分とかけ離れた値の直流成分が存在することをより確実に検出し、霧の有無の判定精度を向上させることができる。
【0040】
なお、本発明は上述した実施形態の内容に限定されるものではなく、本発明の要旨の範囲内において種々に変形して実施をすることが可能である。例えば、上記した実施形態では時系列で前後する直流成分の変化量として微分値を求めていたが、時系列データに対して移動平均を求め、その値に基づいて霧の有無を判定してもよい。この手法によっても、ワイパー稼働等の要因により発生する直流成分の急激な変化を緩和し、霧の有無の判定精度を向上させることができる。
【符号の説明】
【0041】
1:霧検出装置
2:カメラ
11:画像入力部
12:パワースペクトル算出部
13:正規化処理部
14:直流成分抽出部
15:霧判定部
16:ワイパー判定部
【特許請求の範囲】
【請求項1】
車両に搭載されたカメラと接続して用いられ、当該車両の外界における霧の有無を検出する霧検出装置であって、
前記カメラから所定間隔で入力される複数の画像を取得する画像入力部と、
前記複数の画像のそれぞれにフーリエ変換処理を行うことにより複数のパワースペクトルを算出するパワースペクトル算出部と、
前記複数のパワースペクトルのそれぞれを正規化する正規化処理部と、
正規化された前記複数のパワースペクトルのそれぞれから直流成分を抽出して時系列データを生成する直流成分抽出部と、
前記時系列データに基づいて前記霧の有無を判定する霧判定部、
を含む、霧検出装置。
【請求項2】
前記霧判定部は、前記時系列データに基づいて、時系列で前後する直流成分の間の変化量を求め、当該変化量が予め定めた閾値内に入らないときには、1つ前の機会における判定結果を用いて前記霧の有無を判定する、請求項1に記載の霧検出装置。
【請求項3】
前記変化量は前記時系列で前後する直流成分の微分値である、請求項2に記載の霧検出装置。
【請求項4】
前記車両のワイパーの稼働状態を判定するワイパー判定部を更に含み、
前記霧判定部は、前記ワイパーの稼働状態に応じて前記閾値を変更する、請求項2又は3に記載の霧検出装置。
【請求項5】
前記パワースペクトル算出部は、前記複数の画像のそれぞれについて、水平方向の1列の輝度成分を選択し、当該1列の輝度成分を一次元フーリエ変換することによりパワースペクトルを算出する、請求項1〜4の何れか1項に記載の霧検出装置。
【請求項1】
車両に搭載されたカメラと接続して用いられ、当該車両の外界における霧の有無を検出する霧検出装置であって、
前記カメラから所定間隔で入力される複数の画像を取得する画像入力部と、
前記複数の画像のそれぞれにフーリエ変換処理を行うことにより複数のパワースペクトルを算出するパワースペクトル算出部と、
前記複数のパワースペクトルのそれぞれを正規化する正規化処理部と、
正規化された前記複数のパワースペクトルのそれぞれから直流成分を抽出して時系列データを生成する直流成分抽出部と、
前記時系列データに基づいて前記霧の有無を判定する霧判定部、
を含む、霧検出装置。
【請求項2】
前記霧判定部は、前記時系列データに基づいて、時系列で前後する直流成分の間の変化量を求め、当該変化量が予め定めた閾値内に入らないときには、1つ前の機会における判定結果を用いて前記霧の有無を判定する、請求項1に記載の霧検出装置。
【請求項3】
前記変化量は前記時系列で前後する直流成分の微分値である、請求項2に記載の霧検出装置。
【請求項4】
前記車両のワイパーの稼働状態を判定するワイパー判定部を更に含み、
前記霧判定部は、前記ワイパーの稼働状態に応じて前記閾値を変更する、請求項2又は3に記載の霧検出装置。
【請求項5】
前記パワースペクトル算出部は、前記複数の画像のそれぞれについて、水平方向の1列の輝度成分を選択し、当該1列の輝度成分を一次元フーリエ変換することによりパワースペクトルを算出する、請求項1〜4の何れか1項に記載の霧検出装置。
【図1】
【図2】
【図3】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図4】
【図2】
【図3】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図4】
【公開番号】特開2012−167983(P2012−167983A)
【公開日】平成24年9月6日(2012.9.6)
【国際特許分類】
【出願番号】特願2011−28388(P2011−28388)
【出願日】平成23年2月14日(2011.2.14)
【出願人】(000002303)スタンレー電気株式会社 (2,684)
【Fターム(参考)】
【公開日】平成24年9月6日(2012.9.6)
【国際特許分類】
【出願日】平成23年2月14日(2011.2.14)
【出願人】(000002303)スタンレー電気株式会社 (2,684)
【Fターム(参考)】
[ Back to top ]