車両用画像処理装置
【課題】輝度情報が変化しても、正確にテンプレートをマッチングさせることにより、対象物を認識することが可能な車両用画像処理装置を提供する。
【解決手段】外界カメラ2と、第1画像に基づいて対象物のテンプレートを作成するテンプレート作成部32と、第1画像と第2画像の撮像時における光源の位置を推定する光源位置推定部35と、第1画像と第2画像の撮像時における外界カメラ2と対象物との位置関係を推定する対象物位置算出部39と、位置関係及び光源位置に基づいて、第1画像中の対象物と第2画像中の対象物との間の輝度変化を推定する輝度変化量推定部40と、輝度変化によりテンプレートの輝度を補正した補正テンプレートを作成するテンプレート輝度変換部41と、補正テンプレートより第2画像に対してテンプレートマッチング処理を行い対象物を検出するテンプレートマッチング処理部42とを備えた。
【解決手段】外界カメラ2と、第1画像に基づいて対象物のテンプレートを作成するテンプレート作成部32と、第1画像と第2画像の撮像時における光源の位置を推定する光源位置推定部35と、第1画像と第2画像の撮像時における外界カメラ2と対象物との位置関係を推定する対象物位置算出部39と、位置関係及び光源位置に基づいて、第1画像中の対象物と第2画像中の対象物との間の輝度変化を推定する輝度変化量推定部40と、輝度変化によりテンプレートの輝度を補正した補正テンプレートを作成するテンプレート輝度変換部41と、補正テンプレートより第2画像に対してテンプレートマッチング処理を行い対象物を検出するテンプレートマッチング処理部42とを備えた。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、車両用画像処理装置に係り、特にテンプレートを用いて画像認識処理により画像中の対象物を認識する車両用画像処理装置に関する。
【背景技術】
【0002】
従来、予め用意したテンプレート画像を用いて、撮像画像中の対象物(道路標識等)の画像認識を行う技術が知られている(例えば、特許文献1参照)。
特許文献1に記載の装置では、実際の道路標識を撮影した画像データに対して、道路標識のテンプレート画像によりテンプレートマッチング処理が行われ、マッチング度合が所定レベルを超えるとマッチングが成立したものと判定され、画像データ中で道路標識が認識される。
【0003】
【特許文献1】特開2008−9915号公報
【発明の開示】
【発明が解決しようとする課題】
【0004】
しかしながら、撮像画像中の対象物に対する照明状況は時間と共に変化するが、従来の画像間のマッチングでは、この照明状況の変化を考慮していないため、正確なマッチングを行うことができない場合があるという問題があった。すなわち、従来は、対象物を照明する光源の位置及び照度が一定であり、且つ、撮像手段と対象物との位置関係にかかわらず対象物から撮像手段へ入射する光量が変化せず、これにより、画像間において対象物の同一箇所の輝度情報が大きく変化しないことを前提としていた。
【0005】
例えば、ある位置で撮像した画像によって作成した対象物のテンプレートを、対象物との位置関係が大きく異なる別の位置で対象物を撮像した画像に適用する場合、画像中の対象物の輝度情報は大きく変化する。また、テンプレートを作成した画像を撮像したのと同一位置で同一対象物を再度撮像した場合であっても、時間が経過し、太陽の位置が変化していると、画像の輝度情報は大きく変化する。また、夜間に自車両のヘッドライトを主光源として撮像された画像の場合、自車両の移動により光源位置が移動するので、同一対象物を撮像しても、画像の輝度情報は大きく変化する。さらに、自車両のヘッドライト以外に、他車両のヘッドライトや周囲店舗等からの照明によっても、画像の輝度情報が変化してしまう。
このように、従来は、輝度情報が大きく変化した画像では、正確にテンプレートマッチング処理を行うことができないという問題があった。
【0006】
本発明は、このような課題を解決するためになされたものであり、対象物の輝度情報が変化しても、正確にテンプレートをマッチングさせることにより、対象物を認識することが可能な車両用画像処理装置を提供することを目的としている。
【課題を解決するための手段】
【0007】
上記の目的を達成するために、本発明は、車両用画像処理装置であって、車両に搭載され、第1時間に車両周囲の対象物を含む第1画像を撮像し、第1時間から所定時間経過した第2時間に車両周囲の前記対象物を含む第2画像を撮像する撮像手段と、第1画像に基づいて対象物のテンプレートを作成するテンプレート作成手段と、第1画像と第2画像の撮像時における撮像手段に対する光源の位置を推定する光源位置推定手段と、第1画像と前記第2画像の撮像時における撮像手段と対象物との位置関係を推定する位置検出手段と、位置検出手段によって検出された位置関係、及び光源位置推定手段によって推定された光源位置に基づいて、第1画像中の対象物と第2画像中の対象物との間の輝度変化を推定する輝度変化推定手段と、輝度変化推定手段によって推定された輝度変化により、テンプレートの輝度を補正した補正テンプレートを作成する輝度補正手段と、補正テンプレートより、第2画像に対してテンプレートマッチング処理を行い、対象物を検出するマッチング手段と、を備えたことを特徴としている。
【0008】
このように構成された本発明によれば、第1画像と第2画像の撮像時における、光源位置と撮像手段と対象物との位置関係の変化を検出し、検出した位置関係の変化に応じて、第1画像から作成した対象物のテンプレートの輝度変化を位置関係に応じて補正する。これにより、本発明によれば、第1画像と第2画像の撮像時において、対象物から撮像手段への反射光量が変化して画像中の対象物の輝度が変化しても、輝度補正した補正テンプレートによって、第2画像中から同一対象物をテンプレートマッチング処理によって精度よく検出することが可能となる。
【0009】
また、本発明において好ましくは、光源位置推定手段は、撮像時間と撮像時における車両位置に基づいて、光源としての太陽の位置を推定する。このように構成された本発明によれば、光源である太陽の位置を特定して、太陽の移動に伴う輝度変化を補正することで、同一対象物を精度良く検出することができる。
【0010】
また、本発明において好ましくは、光源位置推定手段は、第1画像及び第2画像中の撮像体及びこの撮像体の影の方向及び形状を利用して、光源位置を推定する。このように構成された本発明によれば、太陽に限らず他の種類の光源についても光源位置を特定して、自車両等の移動に伴う輝度変化を補正することで、同一対象物を精度良く検出することができる。
【0011】
また、本発明において好ましくは、輝度変化推定手段は、対象物の形状と光源位置から反射光の光量を推定し、この光量の変化から輝度変化を推定する。このように構成された本発明によれば、対象物からの反射光を考慮して、同一対象物を精度良く検出することができる。
【0012】
また、本発明において好ましくは、光源位置推定手段は、自車のヘッドライト点灯時には、ヘッドライトを光源に設定し、輝度変化推定手段は、自車のヘッドライトが光源に設定されているときは、対象物に対するヘッドライトの照射角度をさらに考慮して、輝度変化を推定する。このように構成された本発明によれば、自車のヘッドライトによる輝度変化を補正することで、同一対象物を精度良く検出することができる。
【発明の効果】
【0013】
本発明の車両用画像処理装置によれば、対象物の輝度情報が変化しても、正確にテンプレートをマッチングさせることにより、対象物を認識することができる。
【発明を実施するための最良の形態】
【0014】
以下、添付図面を参照して本発明の実施形態について説明する。図1は車両用画像処理装置の構成図、図2は光源方向推定処理の説明図、図3はフレーム画像撮像時の説明図、図4,図5はそれぞれ図3において位置C1,位置C2にて撮像されたフレーム画像及びそのヒストグラム、図6は補正テンプレート作成処理の説明図、図7は他のフレーム画像撮像時の説明図、図8は図7において撮像されたフレーム画像及びそのヒストグラム、図9は他の補正テンプレート作成処理の説明図である。
【0015】
本実施形態の車両用画像処理装置1は、図1に示すように、外界カメラ2と、コントローラ3と、モニタ4と、測位センサ5と、車載センサ6と、地図データベース7と、距離センサ8と、通信機9とを備えている。
外界カメラ2は、CCDカメラやCMOSカメラ等の撮像手段であり、例えば車両走行方向前側を向くように車両14に所定高さで搭載されている(図3参照)。この外界カメラ2は、車両前方の画像を所定のフレームレートで撮像し、撮像したフレーム画像をコントローラ3に出力するように構成されている。
モニタ4は、LCD等の表示装置であり、コントローラ3から受け取ったフレーム画像を運転者に対して表示可能に構成されている。
【0016】
測位センサ5は、GPS,INS等の車両測位データを測定するために車両に搭載されたセンサであり、測位データをコントローラ3に出力する。この測位データにより、車両14及び車両14に搭載された外界カメラ2の測位変化を検出可能である。
車載センサ6は、車両速度,車両加速度,ヨー角,ロール角,ピッチ角,角速度等の車両の移動量,移動量変化を測定するために車両に搭載されたセンサであり、これらの測定データをコントローラ3に出力する。この測定データにより、車両14及び車両14に搭載された外界カメラ2の位置変化を検出可能である。
【0017】
地図データベース7は、HDD等の記憶装置で構成され、測位センサ5からの測位データ等と合わせて、自車両の位置を特定するための地図データを格納し、この地図データをコントローラ3に出力する。この地図データは、実際の道路網に対応して、ノード(交差点)に関係する情報と、リンク(ノードとノードを接続する道路)に関係する情報等から構成されている。さらに、この地図データには、信号機,建物や公園などの施設,鉄道,水系などの位置,名称,形状等の固定物データが格納されている。
【0018】
距離センサ8は、レーザレーダ,ミリ波レーダ,赤外線TOF装置等で構成することができ、任意の対象物までの距離データをコントローラ3に出力する。
通信機9は、車両14に搭載され、外部の天気気象情報提供手段から天候気象情報を取得し、この情報をコントローラ3に出力する。この天気気象情報には、天気,太陽光の強さ(太陽光量)等の情報が含まれる。
【0019】
コントローラ3は、車両14内に配置されており、CPU,プログラム等を記憶したメモリ等を備えたマイクロコンピュータを含んで構成されている。コントローラ3は、外界カメラ2から受け取ったフレーム画像に対して画像認識処理を行うことにより、道路標識等の対象物を認識して、認識した対象物を含むフレーム画像をモニタ4に出力するように構成されている。
なお、対象物は、道路標識以外にも、道路案内表示,交通規制表示,渋滞情報表示,信号機,路面上のマーク,ランドマーク,建造物等の撮像画像中に含まれる任意の撮像対象物であってよい。
【0020】
本実施形態では、コントローラ3は、画像取得部31,テンプレート作成部32,日時情報取得部33,天気気象情報取得部34,光源位置推定部35,影情報算出部36,自車位置算出部37,対象物形状算出部38,対象物位置算出部39,輝度変化量推定部40,テンプレート輝度変換部41,テンプレートマッチング処理部42を備えている。これらは、CPUがプログラムを実行することにより実現される。また、コントローラ3は、HDD等の記憶装置により構成される記憶手段であるテンプレートデータ蓄積部43及び太陽軌道データベース44を備えている。
【0021】
テンプレートデータ蓄積部43は、テンプレートマッチング処理のためのテンプレートを記憶する。太陽軌道データベース44は、任意の時間における任意の車両位置に対する太陽の位置を特定するための太陽軌道データを記憶している。
画像取得部31は、外界カメラ2からフレーム画像を取得し、このフレーム画像を各種の処理を行うために各機能部に出力する。
【0022】
テンプレート作成部32は、外界カメラ2からのフレーム画像を受け取り、このフレーム画像から道路標識等の対象物画像領域を切り出して、テンプレートマッチング処理のためのテンプレート画像を作成し、付属データと共にテンプレートデータ蓄積部39に保存する。付属データには、テンプレートの対象となった対象物及び自車両の位置情報,テンプレート作成時の時間データ,天候気象情報等が含まれる。
【0023】
テンプレート作成部32は、連続する2枚のフレーム画像,距離センサ8からの距離データ,測位センサ5からの測位データ等に基づいて、ステレオ画像処理や、実測データの処理によってテンプレートの対象となっている対象物の3次元座標値を算出し、また、テンプレート作成画像を撮像した自車両の位置を取得し、これらを位置情報として付属データに含める。さらに、テンプレート作成部32は、日時情報取得部33から受け取ったテンプレート作成時の時間データと、天気気象情報取得部34から受け取った天候気象情報を付属データに含める。
【0024】
日時情報取得部33は、測位センサ5から現在時刻を受け取り、これを光源位置推定部35等に出力する。
天気気象情報取得部34は、通信機9が外部から受け取った天気気象情報を取得し、この情報を光源位置推定部35等に出力する。
光源位置推定部35は、日時情報取得部33,天気気象情報取得部34,太陽軌道データベース44,影情報算出部36等からそれぞれデータを受け取り、自車両14に対する光源位置を特定する。
【0025】
影情報算出部36は、画像取得部31から受け取ったフレーム画像を画像処理することにより、フレーム画像中の建物や車両によって形成される影の数,濃淡,方向,形状を認識する。例えば、図2に示すフレーム画像には、駐車車両15と、この車両15によって形成された影15aが撮像されている。影情報算出部36は、フレーム画像中で認識した車両15と影15aに基づいて、自車位置データ等を更に用いて、3次元ステレオ画像処理によって、光源方向θを推定し、光源方向データを光源位置推定部35に出力する。
【0026】
自車位置算出部37は、測位センサ5からの測位データ,車載センサ6から測定データ,地図データベース7からの地図データを用いて、自車位置を算出する。
対象物形状算出部38は、画像取得部31からフレーム画像,距離センサ8から距離データ,地図データベース7から形状データ等を受け取る。対象物形状算出部38は、フレーム画像等を用いてステレオ画像処理することにより、フレーム画像中の対象物の形状を算出する。なお、対象物形状算出部38は、地図データベース7の形状データから直接対象物の形状を特定してもよい。
【0027】
対象物位置算出部39は、自車位置算出部37からの自車位置データ,距離センサ8からの距離データ,テンプレートの付属データ等を用いて、フレーム画像中の対象物と推定される撮像物の車両14に対する相対位置を算出する。
【0028】
輝度変化量推定部40は、光源位置推定部35からの光源位置データ,天気気象情報取得部34からの天気気象情報,自車位置算出部37からの自車位置データ,対象物位置算出部39からの相対位置データ,対象物形状算出部38からの対象物形状データ,テンプレート付属データ等を用いて、テンプレート作成時の光源の照射光量の程度及び対象物から外界カメラ2への反射光量の程度と、処理対象となるフレーム画像撮像時の照射光量の程度及びフレーム画像中の対象物(又は対象物と推定されている撮像物)からの反射光量の程度との間の変化を見積もる。そして、輝度変化量推定部40は、テンプレート画像と、処理対象のフレーム画像の対象物画像領域との間の輝度変化量を推定する。このとき、輝度変化量推定部40は、例えば、照射光量及び反射光量の段階をそれぞれ3段階で評価し、これらが変化した段階に応じて所定のマップデータに基づいて、輝度変化量又は輝度変化レベルを推定する。
【0029】
テンプレート輝度変換部41は、輝度変化量推定部40からの輝度変化量データに基づいて、テンプレート画像の輝度補正を行い、補正テンプレート画像を作成する。テンプレート輝度変換部41は、輝度変化量データに応じて、後述する諧調変換関数を導出又は選択し、この諧調変換関数によって、テンプレート画像の輝度補正を行う。
テンプレートマッチング処理部42は、テンプレート輝度変換部41で輝度補正された補正テンプレート画像を用いて、フレーム画像に対してテンプレートマッチング処理を行い、対象物を認識し、このフレーム画像をモニタ4に出力する。
【0030】
次に、テンプレート画像の輝度補正処理について説明する。
図3は、晴天時に、車両14が時間t1から時間t2にかけて、対象物である道路標識20が設置された交差点を右折する状況を示している。車両14は、時間t1に位置C1に位置し、時間t2に位置C2に位置している。このとき、外界カメラ2は、時間t1に図4(A)に示すフレーム画像A1を撮像し、時間t2に図5(A)に示すフレーム画像A2を撮像している。また、コントローラ3は、時間t1に撮像したフレーム画像A1から道路標識20の画像領域22を切り出して、テンプレート画像を作成するものとする。
【0031】
図4(B)は、画像領域22により形成されたテンプレート画像の濃淡ヒストグラムB1を示している。テンプレート画像を構成する各画素は、その濃淡を示す値である画素値(本例では、0から255までの256段階のレベル)を有しており、ヒストグラムB1は、画素値に対する頻度を示している。
【0032】
一方、図5(B)は、フレーム画像A2の道路標識20を含む画像領域23(図5(A)参照)のヒストグラムB2を示している。このヒストグラムB2とヒストグラムB1を比較すると、ピーク数や頻度の全体的な高低差は同じであるが、コントラスト(すなわち、濃淡分布の広がり)が異なっていることが分かる。
【0033】
図3に模式的に示すように、光源である太陽100からの光線が道路標識20で反射して外界カメラ2に届く反射光量は、位置C1よりも位置C2での方が大きくなっている。すなわち、外界カメラ2への反射光量は、外界カメラ2,道路標識20及び太陽100の位置関係によって変化する。また、対象物の形状によっても変化する。例えば、平面的な対象物(例えば、道路標識20の表示面)は反射光量が大きくなるが、凹凸形状を有する対象物は反射光量が相対的に小さくなる。また、反射面の向きによっても反射光量は変化する。
【0034】
位置C2でのフレーム画像A2では、道路標識20からの反射光量が相対的に大きいので、ヒストグラムB2は明るい画素値の割合が高くなっている。一方、位置C1でのフレーム画像A1では、道路標識20からの反射光量が相対的に小さいので、ヒストグラムB1は暗い画素値の割合が高くなっている。すなわち、ヒストグラムB2は、ヒストグラムB1と比べると、明るい方向にシフトしている。
【0035】
したがって、フレーム画像A1から作成したテンプレート画像を、フレーム画像A2に適用してテンプレートマッチング処理を行った場合、テンプレート画像とフレーム画像A2中の画像領域23の輝度情報の相違に起因して、テンプレート画像を画像領域23にマッチングさせることができず、道路標識20を検出することができない場合がある。
【0036】
本実施形態では、車両14の移動等に伴うフレーム画像の輝度変化に起因して、マッチング不良が発生することを防止するため、処理対象となるフレーム画像に応じて、テンプレート画像の輝度を補正して補正テンプレートを作成し、この補正テンプレートによってテンプレートマッチング処理を行う。本実施形態では、このような補正テンプレートを作成するために、コントローラ3は、光源である太陽100,外界カメラ2,対象物である道路標識20の位置関係の変化や対象物形状等に応じて輝度変化量を見積もり、これに応じて諧調変換関数(トーンカーブ)を導出又は選択する。そして、コントローラ3は、この諧調変換関数によって、テンプレート画像の輝度を補正する。具体的には、諧調変換関数によって、画像の明るさやコントラスト等の画素値に分布が補正される。
【0037】
図6は、テンプレート画像のヒストグラムB1(「補正前」、上図)と、テンプレート画像を諧調変換関数によって変換して得られた補正テンプレート画像のヒストグラムK1(「補正後」、下図)を示している。諧調変換関数は、中央図に示すような入力画素値と出力画素値との関係で与えられている。図6に示した諧調変換関数は、低輝度の画素の輝度を高輝度にシフトさせ、全体的にコントラストを低下させるものである。
【0038】
このようにして輝度補正された補正テンプレート画像のヒストグラムK1は、図5(B)の画像領域23のヒストグラムB2と傾向が略一致する。
したがって、フレーム画像A2に対して補正テンプレート画像を適用してテンプレートマッチング処理した場合、補正テンプレート画像を画像領域23に良好にマッチングさせることができる。これにより、道路標識20を認識することが可能となる。
【0039】
また、図7は、太陽100が図3と同じ位置にある曇天時に、車両14が図3と同一の交差点を右折する状況を示している。すなわち、図3と図7では、光源である太陽100の照射光量のみが異なる。図8(A)は、図7の状況において、位置C1で撮像したフレーム画像A3であり、図8(B)は、フレーム画像A3中の道路標識20の画像領域24のヒストグラムB3を示している。
【0040】
このヒストグラムB3とヒストグラムB1を比較すると、ピーク数や頻度の全体的な高低差は同じであるが、コントラストが異なっていることが分かる。すなわち、曇天時には太陽100による照射光量が低下し、道路標識20からの反射光量が減少するので、ヒストグラムB3は、晴天時に撮像されたフレーム画像A1によるテンプレート画像のヒストグラムB1よりも、暗い方向にシフトしている。
【0041】
したがって、同じ位置C1で撮像したフレーム画像A3にテンプレート画像を適用してテンプレートマッチング処理を行っても、テンプレート画像をこのフレーム画像A3中の画像領域24にマッチングさせることができず、道路標識20を検出することができない場合がある。
【0042】
本実施形態では、撮像位置の移動に加えて、このような天候,気象条件の変化による照射光量の変化をも考慮して輝度変化量を見積もり、これに応じて諧調変換関数を導出又は選択し、この諧調変換関数によって、テンプレート画像の輝度を補正する。
図9は、テンプレート画像のヒストグラムB1(「補正前」、上図)と、テンプレート画像を諧調変換関数によって変換して得られた補正テンプレート画像のヒストグラムK2(「補正後」、下図)と、諧調変換関数(中央図)を示している。図9に示した諧調変換関数は、高輝度の画素を低輝度の画素にシフトさせ、全体的にコントラストを低下させるものである。
【0043】
このようにして輝度補正された補正テンプレート画像のヒストグラムK2は、図7の状況で撮像されたフレーム画像A3中の画像領域24のヒストグラムB3(図8(B))と傾向が略一致する。
したがって、図7によるフレーム画像に対して補正テンプレート画像を適用してテンプレートマッチング処理した場合、補正テンプレート画像を良好にマッチングさせることができる。これにより、道路標識20を認識することが可能となる。
【0044】
次に、図10に基づいて、本実施形態のコントローラ3の処理フローについて説明する。
この処理は、コントローラ3によって所定間隔で繰り返し行われる。なお、この処理では、コントローラ3は、既に所定位置で撮像したフレーム画像に基づいて作成した対象物のテンプレートを記憶しており、さらに、このテンプレートを作成した位置付近を車両14が走行中であることを検知し、このテンプレートをマッチング処理に用いるために読み込んでいる。
【0045】
まず、コントローラ3の画像取得部31は、外界カメラ2から車両14の外部を撮像したフレーム画像を受け取る(ステップS1)。
輝度変化量推定部40は、テンプレートを作成したフレーム画像撮像時から所定時間以上経過しているか否かを判定する(ステップS2)。
【0046】
所定時間以上経過していない場合(ステップS2;No)、ステップS4の処理に移行する。これは、例えば、図3の状況で、位置C1でのフレーム画像A1でテンプレートを作成し、位置C2でのフレーム画像A2を受け取った場合である。
【0047】
一方、所定時間以上経過している場合(ステップS2;Yes)、輝度変化量推定部40は、天気気象情報取得部34から受け取った天気気象情報と、テンプレートの付属データに含まれる天気気象情報とを用いて、天候や気象条件の変化に伴う照射光量の変化を見積もり(ステップS3)、ステップS4の処理に移行する。この処理を行うのは、例えば、図7の状況で、テンプレート作成時以降に再び位置C1を走行し、フレーム画像A3を受け取った場合である。
【0048】
そして、光源位置推定部35は、日時情報取得部33から取得した時間データと、太陽軌道データベース44から取得した太陽軌道データから、光源位置を特定する(ステップS4)。
また、影情報算出部36は、フレーム画像中の撮像体及びその影を認識して、これに基づいて、光源方向を推定する(ステップS5)。光源位置推定部35は、太陽軌道データから特定した太陽位置を、影情報算出部36からの光源方向データで補正し、最終的な光源位置を特定する。
【0049】
自車位置算出部37は、測位センサ5からの測位データ,地図データベース7からの地図データ,車載センサ6からの測定データから、自車位置を特定する(ステップS6)。
対象物位置算出部39は、テンプレートの付属データ中の位置情報からテンプレートの対象物の位置を認識し、フレーム画像,特定された自車位置,カメラの光軸方向等のデータに基づいて、処理対象のフレーム画像中でテンプレートの対象物を推定し、特定された自車位置に対する、テンプレートの対象物(又は、対象物と推定される撮像体)の相対位置を算出する(ステップS7)。
【0050】
また、対象物形状算出部38は、フレーム画像,地図データ,距離データ等から、対象物の3次元形状を特定する(ステップS8)。
輝度変化量推定部40は、テンプレートの付属データの位置情報及び時間データ,特定した光源位置,自車位置,対象物の相対位置等から、テンプレート作成時と現時点との間における、光源,外界カメラ2,対象物の位置関係の変化を算出する(ステップS9)。
【0051】
そして、輝度変化量推定部40は、天候や気象条件の変化に伴う照射光量の変化,算出した位置関係の変化及び対象物の形状等に基づいて、輝度変化量を推定する(ステップS10)。例えば、この推定処理において、輝度変化量推定部40は、対象物の3次元形状から、対象物の平面部分の法線方向を検出して、太陽光線の入射方向に対する対象物の平面部分からの反射方向を算出し、この反射方向からのずれに応じて反射光量の程度を推定し、これから輝度変化量を推定してもよい。
テンプレート輝度変換部41は、推定された輝度変化量に基づいて、諧調変換関数を導出又は選択し、この諧調変換関数によって、テンプレート画像の輝度補正を行う(ステップS11)。
【0052】
テンプレートマッチング処理部42は、テンプレート輝度変換部41から輝度補正された補正テンプレート画像を受け取り、画像取得部31から受け取った処理対象のフレーム画像に対して、補正テンプレート画像を適用して、テンプレートマッチング処理を実行し(ステップS12)、処理を終了する。
【0053】
このように、本実施形態では、時間データから太陽の軌道を算出して光源位置を特定すると共に、測位データや地図データ等に基づいて光源(太陽100),車両14(又は外界カメラ2)と対象物との位置関係を把握し、テンプレート作成時と処理対象のフレーム画像撮像時との間の位置関係及び天気気象条件の変化から、外界カメラ2に入射する対象物からの反射光量の変化を推定し、これによりテンプレート画像を輝度補正する。これにより、本実施形態では、車両14の移動に伴って光源と対象物との位置関係が大きく変化したり、天気気象条件が変化したりしても、これらの変化によって生じる対象物からの反射光量の変化に応じてテンプレートを輝度補正することができ、テンプレートマッチング処理におけるマッチング不良を防止することが可能となる。
【0054】
次に、図11及び図12に基づいて、第2実施形態の車両用画像処理装置1について説明する。この実施形態は、夜間に自車両14のヘッドライト14Aが光源となる場合に適用されるものである。
図11は、夜間に位置D1から位置D2にかけて走行路を走行中の車両14を示している。走行路の車両右前方には対象物25が配置されている。
【0055】
対象物25から遠い位置である位置D1,近い位置である位置D2では、それぞれヘッドライト14Aから一定の照射光量の照射光線が対象物25に照射している。しかしながら、対象物25での反射光量により外界カメラ2が受け取る光量は位置D1よりも位置D2での方が大きくなる。このため、各位置で撮像したフレーム画像中において、対象物25の撮像画像領域の輝度は大きく異なっている。このため、位置D1で対象物25のテンプレートを作成した場合、このテンプレートを用いて、位置D2で撮像したフレーム画像に対してテンプレートマッチング処理を実行しても、輝度変化に起因して、このフレーム画像で対象物をマッチングにより認識することができない。本実施形態では、このようなマッチング不良を防止するために、テンプレートの輝度を補正するように構成されている。
【0056】
図12に基づいて、第2実施形態によるコントローラ3の処理フローを説明する。なお、図10の処理フローと同様な処理については重複する説明を省略する。また、本実施形態では、テンプレートデータ蓄積部43には、既に作成されたテンプレートが保存されているものとする。
まず、コントローラ3の画像取得部31はフレーム画像を受け取る(ステップS21)。
【0057】
自車位置算出部37は、測位センサ5からの測位データ,地図データベース7からの地図データ,車載センサ6からの測定データから、自車位置を特定すると共に、光源位置推定部35は、夜間走行中には光源位置を自車位置に設定し、ヘッドライト14Aの照射方向(光軸方向)Hを特定する(ステップS22)。
対象物位置算出部39は、テンプレートの付属データ中の位置情報,フレーム画像,特定された自車位置,カメラの光軸方向等のデータに基づいて、処理対象のフレーム画像中で対象物を推定又は追跡し、特定された自車位置に対する対象物の相対位置を算出する(ステップS23)。
【0058】
また、対象物形状算出部38は、フレーム画像,地図データ,距離データ等から、対象物の3次元形状を特定する(ステップS24)。
輝度変化量推定部40は、テンプレートの付属データの位置情報及び時間データ,特定した光源位置,自車位置,対象物の相対位置等から、テンプレート作成時と現時点との間における、光源(ヘッドライト14A),外界カメラ2,対象物の位置関係の変化を算出する(ステップS25)。
【0059】
そして、輝度変化量推定部40は、算出した位置関係の変化及び対象物の形状等に基づいて、輝度変化量を推定する(ステップS26)。この処理では、輝度変化量推定部40は、外界カメラ2と対象物との相対位置,ヘッドライト14Aの照射方向Hと照射方向Hに対する対象物の照射角度から照射光量を見積もり、外界カメラ2と対象物との相対位置,外界カメラ2の光軸方向と対象物の形状から反射光量を見積もり、これらの移動に伴う変化から輝度変化量を推定する。
【0060】
テンプレート輝度変換部41は、推定された輝度変化量に基づいて、諧調変換関数を導出又は選択し、これにより、テンプレート画像の輝度補正を行う(ステップS27)。
テンプレートマッチング処理部42は、処理対象のフレーム画像に対して、補正テンプレート画像を適用して、テンプレートマッチング処理を実行し(ステップS28)、処理を終了する。
【0061】
このように、本実施形態では、自車両14のヘッドライト14Aが光源となって、フレーム画像中の対象物の輝度が車両走行に伴って大きく変化しても、この移動に伴う輝度変化を推定してテンプレートを輝度補正するので、確実に対象物を認識することが可能である。
【0062】
次に、図13及び図14に基づいて、第3実施形態の車両用画像処理装置1について説明する。この実施形態は、自車両14のヘッドライト14A,他車両15のヘッドライト15A,街路灯等の固定光源16が光源となる夜間に適用されるものである。
図13は、夜間に位置E1から位置E2にかけて走行路を走行中の車両14を示している。走行路の車両右前方には対象物26が配置され、車両左前方には街路灯16が配置されている。また、対向車線から他車両15が接近してきている。
【0063】
対象物26には、3つの影26a,26b,26cが形成されている。影26aは自車両14のヘッドライト14Aからの照射光線によって形成されたものであり、影26bは他車両15のヘッドライト15Aからの照射光線によって形成されたものであり、影26cは街路灯16からの照射光線によって形成されたものである。この場合、車両14,15によって形成されている影26a,26bは、車両の移動にしたがって向き,濃さ及び形状が変化するが、街路灯16によって形成されている影26cは一定状態に保持される。
【0064】
このように、対象物26は、3つの光源によって照射されており、車両14,15の移動に伴って、自車両14と対象物26と3つの光源との位置関係が変化する。これにより、外界カメラ2が位置E1で撮像したフレーム画像から作成した対象物26のテンプレートを、位置E2で撮影したフレーム画像に適用してテンプレートマッチング処理を実行しても、対象物26に対する照射状況が変化しているため、輝度変化に起因して、テンプレートを対象物26の画像にマッチングさせることができず、対象物26を認識することができない。本実施形態では、このようなマッチング不良を防止するために、テンプレートの輝度を補正するように構成されている。
【0065】
図14に基づいて、第3実施形態によるコントローラ3の処理フローを説明する。
ステップS31からステップS35の処理は、図12のステップS21からステップS25の処理と同様であるので説明を省略する。
【0066】
影情報算出部36は、フレーム画像,自車位置と対象物の位置との関係等から、自車両14のヘッドライト14Aによって形成されている対象物26の影26aを認識し、影26aの方向,濃さ及び形状のデータを取得する(ステップS36)。
さらに、影情報算出部36は、処理対象のフレーム画像から、影26aを含めて、対象物26に形成されている影の個数を認識する(ステップS37)。
【0067】
影情報算出部36は、認識した影の個数が複数であるか否かを判定する(ステップS38)。
認識した影の個数が複数でない場合(ステップS38;No)、対象物26を照射する光源はヘッドライト14Aのみであると判断して、ステップS45の処理に移行する。
一方、認識した影の個数が複数である場合(ステップS38;Yes)、自車両14のヘッドライト14A以外の光源が存在すると判断して、影情報算出部36は、ヘッドライト14A以外の光源によって形成されている影(例えば、影26b,26c)の方向,濃さ及び形状を認識し、光源位置推定部35は光源方向を特定する(ステップS39)。
【0068】
そして、影情報算出部36は、処理対象のフレーム画像及びそれ以前に受け取っていたフレーム画像とを用いて、認識されている影(影26a,26b,26c)の方向,濃さ及び形状の変化を認識する(ステップS40)。
さらに、影情報算出部36は、認識されている影(影26a,26b,26c)の方向,濃さ及び形状の変化から、自車両14の移動に伴う変化分を取除き(ステップS41)、自車両14の移動以外の要因で影情報に変化が生じるか否かを判定する(ステップS42)。
【0069】
影情報に変化が生じない場合(ステップS42;No)、自車両14以外に移動する光源がないと判断して、ステップS44の処理に移行する。
一方、影情報に変化が生じる場合(ステップS42;Yes)、自車両14以外に移動する光源があると判断して、影情報が変化する影(影26b)について、光源位置推定部35は、影の方向,濃さ及び形状の変化から、移動する光源(ヘッドライト15A)の位置又は方向及び移動量を特定する(ステップS43)。
【0070】
輝度変化量推定部40は、テンプレートの付属データの位置情報及び時間データ,特定した複数の光源位置,自車位置,対象物の相対位置等から、テンプレート作成時と現時点との間における、光源(ヘッドライト14A,ヘッドライト15A),外界カメラ2,対象物の位置関係の変化を算出する(ステップS44)。
【0071】
そして、輝度変化量推定部40は、算出した位置関係の変化及び対象物の形状等に基づいて、輝度変化量を推定する(ステップS45)。
テンプレート輝度変換部41は、推定された輝度変化量に基づいて、諧調変換関数を導出又は選択し、これにより、テンプレート画像の輝度補正を行う(ステップS46)。
テンプレートマッチング処理部42は、処理対象のフレーム画像に対して、補正テンプレート画像を適用して、テンプレートマッチング処理を実行し(ステップS47)、処理を終了する。
【0072】
このように、本実施形態では、対象物26を照射する光源が自車両14のヘッドライト14A以外にも存在する場合であっても、自車両14の移動に伴うフレーム画像中の対象物の輝度変化量を見積もってテンプレートを輝度補正するので、確実に対象物を認識することが可能である。
【図面の簡単な説明】
【0073】
【図1】本発明の実施形態による車両用画像処理装置の構成図である。
【図2】本発明の実施形態による光源方向推定処理の説明図である。
【図3】本発明の実施形態によるフレーム画像撮像時の説明図である。
【図4】図3において位置C1にて撮像されたフレーム画像及びそのヒストグラムである。
【図5】図3において位置C2にて撮像されたフレーム画像及びそのヒストグラムである。
【図6】本発明の実施形態による補正テンプレート作成処理の説明図である。
【図7】本発明の実施形態による他のフレーム画像撮像時の説明図である
【図8】図7において撮像されたフレーム画像及びそのヒストグラムである。
【図9】本発明の実施形態による他の補正テンプレート作成処理の説明図である。
【図10】本発明の実施形態によるマッチング処理のフローチャートである。
【図11】本発明の第2実施形態によるフレーム画像撮像時の説明図である。
【図12】本発明の第2実施形態によるマッチング処理のフローチャートである。
【図13】本発明の第3実施形態によるフレーム画像撮像時の説明図である。
【図14】本発明の第3実施形態によるマッチング処理のフローチャートである。
【符号の説明】
【0074】
1 車両用画像処理装置
2 外界カメラ
3 コントローラ
4 モニタ
5 測位センサ
6 車載センサ
7 地図データベース
8 距離センサ
9 通信機
14,15 車両
14A,15A ヘッドライト
16 街路灯
20 道路標識
22,23,24 画像領域
25,26 対象物
26a,26b,26c 影
【技術分野】
【0001】
本発明は、車両用画像処理装置に係り、特にテンプレートを用いて画像認識処理により画像中の対象物を認識する車両用画像処理装置に関する。
【背景技術】
【0002】
従来、予め用意したテンプレート画像を用いて、撮像画像中の対象物(道路標識等)の画像認識を行う技術が知られている(例えば、特許文献1参照)。
特許文献1に記載の装置では、実際の道路標識を撮影した画像データに対して、道路標識のテンプレート画像によりテンプレートマッチング処理が行われ、マッチング度合が所定レベルを超えるとマッチングが成立したものと判定され、画像データ中で道路標識が認識される。
【0003】
【特許文献1】特開2008−9915号公報
【発明の開示】
【発明が解決しようとする課題】
【0004】
しかしながら、撮像画像中の対象物に対する照明状況は時間と共に変化するが、従来の画像間のマッチングでは、この照明状況の変化を考慮していないため、正確なマッチングを行うことができない場合があるという問題があった。すなわち、従来は、対象物を照明する光源の位置及び照度が一定であり、且つ、撮像手段と対象物との位置関係にかかわらず対象物から撮像手段へ入射する光量が変化せず、これにより、画像間において対象物の同一箇所の輝度情報が大きく変化しないことを前提としていた。
【0005】
例えば、ある位置で撮像した画像によって作成した対象物のテンプレートを、対象物との位置関係が大きく異なる別の位置で対象物を撮像した画像に適用する場合、画像中の対象物の輝度情報は大きく変化する。また、テンプレートを作成した画像を撮像したのと同一位置で同一対象物を再度撮像した場合であっても、時間が経過し、太陽の位置が変化していると、画像の輝度情報は大きく変化する。また、夜間に自車両のヘッドライトを主光源として撮像された画像の場合、自車両の移動により光源位置が移動するので、同一対象物を撮像しても、画像の輝度情報は大きく変化する。さらに、自車両のヘッドライト以外に、他車両のヘッドライトや周囲店舗等からの照明によっても、画像の輝度情報が変化してしまう。
このように、従来は、輝度情報が大きく変化した画像では、正確にテンプレートマッチング処理を行うことができないという問題があった。
【0006】
本発明は、このような課題を解決するためになされたものであり、対象物の輝度情報が変化しても、正確にテンプレートをマッチングさせることにより、対象物を認識することが可能な車両用画像処理装置を提供することを目的としている。
【課題を解決するための手段】
【0007】
上記の目的を達成するために、本発明は、車両用画像処理装置であって、車両に搭載され、第1時間に車両周囲の対象物を含む第1画像を撮像し、第1時間から所定時間経過した第2時間に車両周囲の前記対象物を含む第2画像を撮像する撮像手段と、第1画像に基づいて対象物のテンプレートを作成するテンプレート作成手段と、第1画像と第2画像の撮像時における撮像手段に対する光源の位置を推定する光源位置推定手段と、第1画像と前記第2画像の撮像時における撮像手段と対象物との位置関係を推定する位置検出手段と、位置検出手段によって検出された位置関係、及び光源位置推定手段によって推定された光源位置に基づいて、第1画像中の対象物と第2画像中の対象物との間の輝度変化を推定する輝度変化推定手段と、輝度変化推定手段によって推定された輝度変化により、テンプレートの輝度を補正した補正テンプレートを作成する輝度補正手段と、補正テンプレートより、第2画像に対してテンプレートマッチング処理を行い、対象物を検出するマッチング手段と、を備えたことを特徴としている。
【0008】
このように構成された本発明によれば、第1画像と第2画像の撮像時における、光源位置と撮像手段と対象物との位置関係の変化を検出し、検出した位置関係の変化に応じて、第1画像から作成した対象物のテンプレートの輝度変化を位置関係に応じて補正する。これにより、本発明によれば、第1画像と第2画像の撮像時において、対象物から撮像手段への反射光量が変化して画像中の対象物の輝度が変化しても、輝度補正した補正テンプレートによって、第2画像中から同一対象物をテンプレートマッチング処理によって精度よく検出することが可能となる。
【0009】
また、本発明において好ましくは、光源位置推定手段は、撮像時間と撮像時における車両位置に基づいて、光源としての太陽の位置を推定する。このように構成された本発明によれば、光源である太陽の位置を特定して、太陽の移動に伴う輝度変化を補正することで、同一対象物を精度良く検出することができる。
【0010】
また、本発明において好ましくは、光源位置推定手段は、第1画像及び第2画像中の撮像体及びこの撮像体の影の方向及び形状を利用して、光源位置を推定する。このように構成された本発明によれば、太陽に限らず他の種類の光源についても光源位置を特定して、自車両等の移動に伴う輝度変化を補正することで、同一対象物を精度良く検出することができる。
【0011】
また、本発明において好ましくは、輝度変化推定手段は、対象物の形状と光源位置から反射光の光量を推定し、この光量の変化から輝度変化を推定する。このように構成された本発明によれば、対象物からの反射光を考慮して、同一対象物を精度良く検出することができる。
【0012】
また、本発明において好ましくは、光源位置推定手段は、自車のヘッドライト点灯時には、ヘッドライトを光源に設定し、輝度変化推定手段は、自車のヘッドライトが光源に設定されているときは、対象物に対するヘッドライトの照射角度をさらに考慮して、輝度変化を推定する。このように構成された本発明によれば、自車のヘッドライトによる輝度変化を補正することで、同一対象物を精度良く検出することができる。
【発明の効果】
【0013】
本発明の車両用画像処理装置によれば、対象物の輝度情報が変化しても、正確にテンプレートをマッチングさせることにより、対象物を認識することができる。
【発明を実施するための最良の形態】
【0014】
以下、添付図面を参照して本発明の実施形態について説明する。図1は車両用画像処理装置の構成図、図2は光源方向推定処理の説明図、図3はフレーム画像撮像時の説明図、図4,図5はそれぞれ図3において位置C1,位置C2にて撮像されたフレーム画像及びそのヒストグラム、図6は補正テンプレート作成処理の説明図、図7は他のフレーム画像撮像時の説明図、図8は図7において撮像されたフレーム画像及びそのヒストグラム、図9は他の補正テンプレート作成処理の説明図である。
【0015】
本実施形態の車両用画像処理装置1は、図1に示すように、外界カメラ2と、コントローラ3と、モニタ4と、測位センサ5と、車載センサ6と、地図データベース7と、距離センサ8と、通信機9とを備えている。
外界カメラ2は、CCDカメラやCMOSカメラ等の撮像手段であり、例えば車両走行方向前側を向くように車両14に所定高さで搭載されている(図3参照)。この外界カメラ2は、車両前方の画像を所定のフレームレートで撮像し、撮像したフレーム画像をコントローラ3に出力するように構成されている。
モニタ4は、LCD等の表示装置であり、コントローラ3から受け取ったフレーム画像を運転者に対して表示可能に構成されている。
【0016】
測位センサ5は、GPS,INS等の車両測位データを測定するために車両に搭載されたセンサであり、測位データをコントローラ3に出力する。この測位データにより、車両14及び車両14に搭載された外界カメラ2の測位変化を検出可能である。
車載センサ6は、車両速度,車両加速度,ヨー角,ロール角,ピッチ角,角速度等の車両の移動量,移動量変化を測定するために車両に搭載されたセンサであり、これらの測定データをコントローラ3に出力する。この測定データにより、車両14及び車両14に搭載された外界カメラ2の位置変化を検出可能である。
【0017】
地図データベース7は、HDD等の記憶装置で構成され、測位センサ5からの測位データ等と合わせて、自車両の位置を特定するための地図データを格納し、この地図データをコントローラ3に出力する。この地図データは、実際の道路網に対応して、ノード(交差点)に関係する情報と、リンク(ノードとノードを接続する道路)に関係する情報等から構成されている。さらに、この地図データには、信号機,建物や公園などの施設,鉄道,水系などの位置,名称,形状等の固定物データが格納されている。
【0018】
距離センサ8は、レーザレーダ,ミリ波レーダ,赤外線TOF装置等で構成することができ、任意の対象物までの距離データをコントローラ3に出力する。
通信機9は、車両14に搭載され、外部の天気気象情報提供手段から天候気象情報を取得し、この情報をコントローラ3に出力する。この天気気象情報には、天気,太陽光の強さ(太陽光量)等の情報が含まれる。
【0019】
コントローラ3は、車両14内に配置されており、CPU,プログラム等を記憶したメモリ等を備えたマイクロコンピュータを含んで構成されている。コントローラ3は、外界カメラ2から受け取ったフレーム画像に対して画像認識処理を行うことにより、道路標識等の対象物を認識して、認識した対象物を含むフレーム画像をモニタ4に出力するように構成されている。
なお、対象物は、道路標識以外にも、道路案内表示,交通規制表示,渋滞情報表示,信号機,路面上のマーク,ランドマーク,建造物等の撮像画像中に含まれる任意の撮像対象物であってよい。
【0020】
本実施形態では、コントローラ3は、画像取得部31,テンプレート作成部32,日時情報取得部33,天気気象情報取得部34,光源位置推定部35,影情報算出部36,自車位置算出部37,対象物形状算出部38,対象物位置算出部39,輝度変化量推定部40,テンプレート輝度変換部41,テンプレートマッチング処理部42を備えている。これらは、CPUがプログラムを実行することにより実現される。また、コントローラ3は、HDD等の記憶装置により構成される記憶手段であるテンプレートデータ蓄積部43及び太陽軌道データベース44を備えている。
【0021】
テンプレートデータ蓄積部43は、テンプレートマッチング処理のためのテンプレートを記憶する。太陽軌道データベース44は、任意の時間における任意の車両位置に対する太陽の位置を特定するための太陽軌道データを記憶している。
画像取得部31は、外界カメラ2からフレーム画像を取得し、このフレーム画像を各種の処理を行うために各機能部に出力する。
【0022】
テンプレート作成部32は、外界カメラ2からのフレーム画像を受け取り、このフレーム画像から道路標識等の対象物画像領域を切り出して、テンプレートマッチング処理のためのテンプレート画像を作成し、付属データと共にテンプレートデータ蓄積部39に保存する。付属データには、テンプレートの対象となった対象物及び自車両の位置情報,テンプレート作成時の時間データ,天候気象情報等が含まれる。
【0023】
テンプレート作成部32は、連続する2枚のフレーム画像,距離センサ8からの距離データ,測位センサ5からの測位データ等に基づいて、ステレオ画像処理や、実測データの処理によってテンプレートの対象となっている対象物の3次元座標値を算出し、また、テンプレート作成画像を撮像した自車両の位置を取得し、これらを位置情報として付属データに含める。さらに、テンプレート作成部32は、日時情報取得部33から受け取ったテンプレート作成時の時間データと、天気気象情報取得部34から受け取った天候気象情報を付属データに含める。
【0024】
日時情報取得部33は、測位センサ5から現在時刻を受け取り、これを光源位置推定部35等に出力する。
天気気象情報取得部34は、通信機9が外部から受け取った天気気象情報を取得し、この情報を光源位置推定部35等に出力する。
光源位置推定部35は、日時情報取得部33,天気気象情報取得部34,太陽軌道データベース44,影情報算出部36等からそれぞれデータを受け取り、自車両14に対する光源位置を特定する。
【0025】
影情報算出部36は、画像取得部31から受け取ったフレーム画像を画像処理することにより、フレーム画像中の建物や車両によって形成される影の数,濃淡,方向,形状を認識する。例えば、図2に示すフレーム画像には、駐車車両15と、この車両15によって形成された影15aが撮像されている。影情報算出部36は、フレーム画像中で認識した車両15と影15aに基づいて、自車位置データ等を更に用いて、3次元ステレオ画像処理によって、光源方向θを推定し、光源方向データを光源位置推定部35に出力する。
【0026】
自車位置算出部37は、測位センサ5からの測位データ,車載センサ6から測定データ,地図データベース7からの地図データを用いて、自車位置を算出する。
対象物形状算出部38は、画像取得部31からフレーム画像,距離センサ8から距離データ,地図データベース7から形状データ等を受け取る。対象物形状算出部38は、フレーム画像等を用いてステレオ画像処理することにより、フレーム画像中の対象物の形状を算出する。なお、対象物形状算出部38は、地図データベース7の形状データから直接対象物の形状を特定してもよい。
【0027】
対象物位置算出部39は、自車位置算出部37からの自車位置データ,距離センサ8からの距離データ,テンプレートの付属データ等を用いて、フレーム画像中の対象物と推定される撮像物の車両14に対する相対位置を算出する。
【0028】
輝度変化量推定部40は、光源位置推定部35からの光源位置データ,天気気象情報取得部34からの天気気象情報,自車位置算出部37からの自車位置データ,対象物位置算出部39からの相対位置データ,対象物形状算出部38からの対象物形状データ,テンプレート付属データ等を用いて、テンプレート作成時の光源の照射光量の程度及び対象物から外界カメラ2への反射光量の程度と、処理対象となるフレーム画像撮像時の照射光量の程度及びフレーム画像中の対象物(又は対象物と推定されている撮像物)からの反射光量の程度との間の変化を見積もる。そして、輝度変化量推定部40は、テンプレート画像と、処理対象のフレーム画像の対象物画像領域との間の輝度変化量を推定する。このとき、輝度変化量推定部40は、例えば、照射光量及び反射光量の段階をそれぞれ3段階で評価し、これらが変化した段階に応じて所定のマップデータに基づいて、輝度変化量又は輝度変化レベルを推定する。
【0029】
テンプレート輝度変換部41は、輝度変化量推定部40からの輝度変化量データに基づいて、テンプレート画像の輝度補正を行い、補正テンプレート画像を作成する。テンプレート輝度変換部41は、輝度変化量データに応じて、後述する諧調変換関数を導出又は選択し、この諧調変換関数によって、テンプレート画像の輝度補正を行う。
テンプレートマッチング処理部42は、テンプレート輝度変換部41で輝度補正された補正テンプレート画像を用いて、フレーム画像に対してテンプレートマッチング処理を行い、対象物を認識し、このフレーム画像をモニタ4に出力する。
【0030】
次に、テンプレート画像の輝度補正処理について説明する。
図3は、晴天時に、車両14が時間t1から時間t2にかけて、対象物である道路標識20が設置された交差点を右折する状況を示している。車両14は、時間t1に位置C1に位置し、時間t2に位置C2に位置している。このとき、外界カメラ2は、時間t1に図4(A)に示すフレーム画像A1を撮像し、時間t2に図5(A)に示すフレーム画像A2を撮像している。また、コントローラ3は、時間t1に撮像したフレーム画像A1から道路標識20の画像領域22を切り出して、テンプレート画像を作成するものとする。
【0031】
図4(B)は、画像領域22により形成されたテンプレート画像の濃淡ヒストグラムB1を示している。テンプレート画像を構成する各画素は、その濃淡を示す値である画素値(本例では、0から255までの256段階のレベル)を有しており、ヒストグラムB1は、画素値に対する頻度を示している。
【0032】
一方、図5(B)は、フレーム画像A2の道路標識20を含む画像領域23(図5(A)参照)のヒストグラムB2を示している。このヒストグラムB2とヒストグラムB1を比較すると、ピーク数や頻度の全体的な高低差は同じであるが、コントラスト(すなわち、濃淡分布の広がり)が異なっていることが分かる。
【0033】
図3に模式的に示すように、光源である太陽100からの光線が道路標識20で反射して外界カメラ2に届く反射光量は、位置C1よりも位置C2での方が大きくなっている。すなわち、外界カメラ2への反射光量は、外界カメラ2,道路標識20及び太陽100の位置関係によって変化する。また、対象物の形状によっても変化する。例えば、平面的な対象物(例えば、道路標識20の表示面)は反射光量が大きくなるが、凹凸形状を有する対象物は反射光量が相対的に小さくなる。また、反射面の向きによっても反射光量は変化する。
【0034】
位置C2でのフレーム画像A2では、道路標識20からの反射光量が相対的に大きいので、ヒストグラムB2は明るい画素値の割合が高くなっている。一方、位置C1でのフレーム画像A1では、道路標識20からの反射光量が相対的に小さいので、ヒストグラムB1は暗い画素値の割合が高くなっている。すなわち、ヒストグラムB2は、ヒストグラムB1と比べると、明るい方向にシフトしている。
【0035】
したがって、フレーム画像A1から作成したテンプレート画像を、フレーム画像A2に適用してテンプレートマッチング処理を行った場合、テンプレート画像とフレーム画像A2中の画像領域23の輝度情報の相違に起因して、テンプレート画像を画像領域23にマッチングさせることができず、道路標識20を検出することができない場合がある。
【0036】
本実施形態では、車両14の移動等に伴うフレーム画像の輝度変化に起因して、マッチング不良が発生することを防止するため、処理対象となるフレーム画像に応じて、テンプレート画像の輝度を補正して補正テンプレートを作成し、この補正テンプレートによってテンプレートマッチング処理を行う。本実施形態では、このような補正テンプレートを作成するために、コントローラ3は、光源である太陽100,外界カメラ2,対象物である道路標識20の位置関係の変化や対象物形状等に応じて輝度変化量を見積もり、これに応じて諧調変換関数(トーンカーブ)を導出又は選択する。そして、コントローラ3は、この諧調変換関数によって、テンプレート画像の輝度を補正する。具体的には、諧調変換関数によって、画像の明るさやコントラスト等の画素値に分布が補正される。
【0037】
図6は、テンプレート画像のヒストグラムB1(「補正前」、上図)と、テンプレート画像を諧調変換関数によって変換して得られた補正テンプレート画像のヒストグラムK1(「補正後」、下図)を示している。諧調変換関数は、中央図に示すような入力画素値と出力画素値との関係で与えられている。図6に示した諧調変換関数は、低輝度の画素の輝度を高輝度にシフトさせ、全体的にコントラストを低下させるものである。
【0038】
このようにして輝度補正された補正テンプレート画像のヒストグラムK1は、図5(B)の画像領域23のヒストグラムB2と傾向が略一致する。
したがって、フレーム画像A2に対して補正テンプレート画像を適用してテンプレートマッチング処理した場合、補正テンプレート画像を画像領域23に良好にマッチングさせることができる。これにより、道路標識20を認識することが可能となる。
【0039】
また、図7は、太陽100が図3と同じ位置にある曇天時に、車両14が図3と同一の交差点を右折する状況を示している。すなわち、図3と図7では、光源である太陽100の照射光量のみが異なる。図8(A)は、図7の状況において、位置C1で撮像したフレーム画像A3であり、図8(B)は、フレーム画像A3中の道路標識20の画像領域24のヒストグラムB3を示している。
【0040】
このヒストグラムB3とヒストグラムB1を比較すると、ピーク数や頻度の全体的な高低差は同じであるが、コントラストが異なっていることが分かる。すなわち、曇天時には太陽100による照射光量が低下し、道路標識20からの反射光量が減少するので、ヒストグラムB3は、晴天時に撮像されたフレーム画像A1によるテンプレート画像のヒストグラムB1よりも、暗い方向にシフトしている。
【0041】
したがって、同じ位置C1で撮像したフレーム画像A3にテンプレート画像を適用してテンプレートマッチング処理を行っても、テンプレート画像をこのフレーム画像A3中の画像領域24にマッチングさせることができず、道路標識20を検出することができない場合がある。
【0042】
本実施形態では、撮像位置の移動に加えて、このような天候,気象条件の変化による照射光量の変化をも考慮して輝度変化量を見積もり、これに応じて諧調変換関数を導出又は選択し、この諧調変換関数によって、テンプレート画像の輝度を補正する。
図9は、テンプレート画像のヒストグラムB1(「補正前」、上図)と、テンプレート画像を諧調変換関数によって変換して得られた補正テンプレート画像のヒストグラムK2(「補正後」、下図)と、諧調変換関数(中央図)を示している。図9に示した諧調変換関数は、高輝度の画素を低輝度の画素にシフトさせ、全体的にコントラストを低下させるものである。
【0043】
このようにして輝度補正された補正テンプレート画像のヒストグラムK2は、図7の状況で撮像されたフレーム画像A3中の画像領域24のヒストグラムB3(図8(B))と傾向が略一致する。
したがって、図7によるフレーム画像に対して補正テンプレート画像を適用してテンプレートマッチング処理した場合、補正テンプレート画像を良好にマッチングさせることができる。これにより、道路標識20を認識することが可能となる。
【0044】
次に、図10に基づいて、本実施形態のコントローラ3の処理フローについて説明する。
この処理は、コントローラ3によって所定間隔で繰り返し行われる。なお、この処理では、コントローラ3は、既に所定位置で撮像したフレーム画像に基づいて作成した対象物のテンプレートを記憶しており、さらに、このテンプレートを作成した位置付近を車両14が走行中であることを検知し、このテンプレートをマッチング処理に用いるために読み込んでいる。
【0045】
まず、コントローラ3の画像取得部31は、外界カメラ2から車両14の外部を撮像したフレーム画像を受け取る(ステップS1)。
輝度変化量推定部40は、テンプレートを作成したフレーム画像撮像時から所定時間以上経過しているか否かを判定する(ステップS2)。
【0046】
所定時間以上経過していない場合(ステップS2;No)、ステップS4の処理に移行する。これは、例えば、図3の状況で、位置C1でのフレーム画像A1でテンプレートを作成し、位置C2でのフレーム画像A2を受け取った場合である。
【0047】
一方、所定時間以上経過している場合(ステップS2;Yes)、輝度変化量推定部40は、天気気象情報取得部34から受け取った天気気象情報と、テンプレートの付属データに含まれる天気気象情報とを用いて、天候や気象条件の変化に伴う照射光量の変化を見積もり(ステップS3)、ステップS4の処理に移行する。この処理を行うのは、例えば、図7の状況で、テンプレート作成時以降に再び位置C1を走行し、フレーム画像A3を受け取った場合である。
【0048】
そして、光源位置推定部35は、日時情報取得部33から取得した時間データと、太陽軌道データベース44から取得した太陽軌道データから、光源位置を特定する(ステップS4)。
また、影情報算出部36は、フレーム画像中の撮像体及びその影を認識して、これに基づいて、光源方向を推定する(ステップS5)。光源位置推定部35は、太陽軌道データから特定した太陽位置を、影情報算出部36からの光源方向データで補正し、最終的な光源位置を特定する。
【0049】
自車位置算出部37は、測位センサ5からの測位データ,地図データベース7からの地図データ,車載センサ6からの測定データから、自車位置を特定する(ステップS6)。
対象物位置算出部39は、テンプレートの付属データ中の位置情報からテンプレートの対象物の位置を認識し、フレーム画像,特定された自車位置,カメラの光軸方向等のデータに基づいて、処理対象のフレーム画像中でテンプレートの対象物を推定し、特定された自車位置に対する、テンプレートの対象物(又は、対象物と推定される撮像体)の相対位置を算出する(ステップS7)。
【0050】
また、対象物形状算出部38は、フレーム画像,地図データ,距離データ等から、対象物の3次元形状を特定する(ステップS8)。
輝度変化量推定部40は、テンプレートの付属データの位置情報及び時間データ,特定した光源位置,自車位置,対象物の相対位置等から、テンプレート作成時と現時点との間における、光源,外界カメラ2,対象物の位置関係の変化を算出する(ステップS9)。
【0051】
そして、輝度変化量推定部40は、天候や気象条件の変化に伴う照射光量の変化,算出した位置関係の変化及び対象物の形状等に基づいて、輝度変化量を推定する(ステップS10)。例えば、この推定処理において、輝度変化量推定部40は、対象物の3次元形状から、対象物の平面部分の法線方向を検出して、太陽光線の入射方向に対する対象物の平面部分からの反射方向を算出し、この反射方向からのずれに応じて反射光量の程度を推定し、これから輝度変化量を推定してもよい。
テンプレート輝度変換部41は、推定された輝度変化量に基づいて、諧調変換関数を導出又は選択し、この諧調変換関数によって、テンプレート画像の輝度補正を行う(ステップS11)。
【0052】
テンプレートマッチング処理部42は、テンプレート輝度変換部41から輝度補正された補正テンプレート画像を受け取り、画像取得部31から受け取った処理対象のフレーム画像に対して、補正テンプレート画像を適用して、テンプレートマッチング処理を実行し(ステップS12)、処理を終了する。
【0053】
このように、本実施形態では、時間データから太陽の軌道を算出して光源位置を特定すると共に、測位データや地図データ等に基づいて光源(太陽100),車両14(又は外界カメラ2)と対象物との位置関係を把握し、テンプレート作成時と処理対象のフレーム画像撮像時との間の位置関係及び天気気象条件の変化から、外界カメラ2に入射する対象物からの反射光量の変化を推定し、これによりテンプレート画像を輝度補正する。これにより、本実施形態では、車両14の移動に伴って光源と対象物との位置関係が大きく変化したり、天気気象条件が変化したりしても、これらの変化によって生じる対象物からの反射光量の変化に応じてテンプレートを輝度補正することができ、テンプレートマッチング処理におけるマッチング不良を防止することが可能となる。
【0054】
次に、図11及び図12に基づいて、第2実施形態の車両用画像処理装置1について説明する。この実施形態は、夜間に自車両14のヘッドライト14Aが光源となる場合に適用されるものである。
図11は、夜間に位置D1から位置D2にかけて走行路を走行中の車両14を示している。走行路の車両右前方には対象物25が配置されている。
【0055】
対象物25から遠い位置である位置D1,近い位置である位置D2では、それぞれヘッドライト14Aから一定の照射光量の照射光線が対象物25に照射している。しかしながら、対象物25での反射光量により外界カメラ2が受け取る光量は位置D1よりも位置D2での方が大きくなる。このため、各位置で撮像したフレーム画像中において、対象物25の撮像画像領域の輝度は大きく異なっている。このため、位置D1で対象物25のテンプレートを作成した場合、このテンプレートを用いて、位置D2で撮像したフレーム画像に対してテンプレートマッチング処理を実行しても、輝度変化に起因して、このフレーム画像で対象物をマッチングにより認識することができない。本実施形態では、このようなマッチング不良を防止するために、テンプレートの輝度を補正するように構成されている。
【0056】
図12に基づいて、第2実施形態によるコントローラ3の処理フローを説明する。なお、図10の処理フローと同様な処理については重複する説明を省略する。また、本実施形態では、テンプレートデータ蓄積部43には、既に作成されたテンプレートが保存されているものとする。
まず、コントローラ3の画像取得部31はフレーム画像を受け取る(ステップS21)。
【0057】
自車位置算出部37は、測位センサ5からの測位データ,地図データベース7からの地図データ,車載センサ6からの測定データから、自車位置を特定すると共に、光源位置推定部35は、夜間走行中には光源位置を自車位置に設定し、ヘッドライト14Aの照射方向(光軸方向)Hを特定する(ステップS22)。
対象物位置算出部39は、テンプレートの付属データ中の位置情報,フレーム画像,特定された自車位置,カメラの光軸方向等のデータに基づいて、処理対象のフレーム画像中で対象物を推定又は追跡し、特定された自車位置に対する対象物の相対位置を算出する(ステップS23)。
【0058】
また、対象物形状算出部38は、フレーム画像,地図データ,距離データ等から、対象物の3次元形状を特定する(ステップS24)。
輝度変化量推定部40は、テンプレートの付属データの位置情報及び時間データ,特定した光源位置,自車位置,対象物の相対位置等から、テンプレート作成時と現時点との間における、光源(ヘッドライト14A),外界カメラ2,対象物の位置関係の変化を算出する(ステップS25)。
【0059】
そして、輝度変化量推定部40は、算出した位置関係の変化及び対象物の形状等に基づいて、輝度変化量を推定する(ステップS26)。この処理では、輝度変化量推定部40は、外界カメラ2と対象物との相対位置,ヘッドライト14Aの照射方向Hと照射方向Hに対する対象物の照射角度から照射光量を見積もり、外界カメラ2と対象物との相対位置,外界カメラ2の光軸方向と対象物の形状から反射光量を見積もり、これらの移動に伴う変化から輝度変化量を推定する。
【0060】
テンプレート輝度変換部41は、推定された輝度変化量に基づいて、諧調変換関数を導出又は選択し、これにより、テンプレート画像の輝度補正を行う(ステップS27)。
テンプレートマッチング処理部42は、処理対象のフレーム画像に対して、補正テンプレート画像を適用して、テンプレートマッチング処理を実行し(ステップS28)、処理を終了する。
【0061】
このように、本実施形態では、自車両14のヘッドライト14Aが光源となって、フレーム画像中の対象物の輝度が車両走行に伴って大きく変化しても、この移動に伴う輝度変化を推定してテンプレートを輝度補正するので、確実に対象物を認識することが可能である。
【0062】
次に、図13及び図14に基づいて、第3実施形態の車両用画像処理装置1について説明する。この実施形態は、自車両14のヘッドライト14A,他車両15のヘッドライト15A,街路灯等の固定光源16が光源となる夜間に適用されるものである。
図13は、夜間に位置E1から位置E2にかけて走行路を走行中の車両14を示している。走行路の車両右前方には対象物26が配置され、車両左前方には街路灯16が配置されている。また、対向車線から他車両15が接近してきている。
【0063】
対象物26には、3つの影26a,26b,26cが形成されている。影26aは自車両14のヘッドライト14Aからの照射光線によって形成されたものであり、影26bは他車両15のヘッドライト15Aからの照射光線によって形成されたものであり、影26cは街路灯16からの照射光線によって形成されたものである。この場合、車両14,15によって形成されている影26a,26bは、車両の移動にしたがって向き,濃さ及び形状が変化するが、街路灯16によって形成されている影26cは一定状態に保持される。
【0064】
このように、対象物26は、3つの光源によって照射されており、車両14,15の移動に伴って、自車両14と対象物26と3つの光源との位置関係が変化する。これにより、外界カメラ2が位置E1で撮像したフレーム画像から作成した対象物26のテンプレートを、位置E2で撮影したフレーム画像に適用してテンプレートマッチング処理を実行しても、対象物26に対する照射状況が変化しているため、輝度変化に起因して、テンプレートを対象物26の画像にマッチングさせることができず、対象物26を認識することができない。本実施形態では、このようなマッチング不良を防止するために、テンプレートの輝度を補正するように構成されている。
【0065】
図14に基づいて、第3実施形態によるコントローラ3の処理フローを説明する。
ステップS31からステップS35の処理は、図12のステップS21からステップS25の処理と同様であるので説明を省略する。
【0066】
影情報算出部36は、フレーム画像,自車位置と対象物の位置との関係等から、自車両14のヘッドライト14Aによって形成されている対象物26の影26aを認識し、影26aの方向,濃さ及び形状のデータを取得する(ステップS36)。
さらに、影情報算出部36は、処理対象のフレーム画像から、影26aを含めて、対象物26に形成されている影の個数を認識する(ステップS37)。
【0067】
影情報算出部36は、認識した影の個数が複数であるか否かを判定する(ステップS38)。
認識した影の個数が複数でない場合(ステップS38;No)、対象物26を照射する光源はヘッドライト14Aのみであると判断して、ステップS45の処理に移行する。
一方、認識した影の個数が複数である場合(ステップS38;Yes)、自車両14のヘッドライト14A以外の光源が存在すると判断して、影情報算出部36は、ヘッドライト14A以外の光源によって形成されている影(例えば、影26b,26c)の方向,濃さ及び形状を認識し、光源位置推定部35は光源方向を特定する(ステップS39)。
【0068】
そして、影情報算出部36は、処理対象のフレーム画像及びそれ以前に受け取っていたフレーム画像とを用いて、認識されている影(影26a,26b,26c)の方向,濃さ及び形状の変化を認識する(ステップS40)。
さらに、影情報算出部36は、認識されている影(影26a,26b,26c)の方向,濃さ及び形状の変化から、自車両14の移動に伴う変化分を取除き(ステップS41)、自車両14の移動以外の要因で影情報に変化が生じるか否かを判定する(ステップS42)。
【0069】
影情報に変化が生じない場合(ステップS42;No)、自車両14以外に移動する光源がないと判断して、ステップS44の処理に移行する。
一方、影情報に変化が生じる場合(ステップS42;Yes)、自車両14以外に移動する光源があると判断して、影情報が変化する影(影26b)について、光源位置推定部35は、影の方向,濃さ及び形状の変化から、移動する光源(ヘッドライト15A)の位置又は方向及び移動量を特定する(ステップS43)。
【0070】
輝度変化量推定部40は、テンプレートの付属データの位置情報及び時間データ,特定した複数の光源位置,自車位置,対象物の相対位置等から、テンプレート作成時と現時点との間における、光源(ヘッドライト14A,ヘッドライト15A),外界カメラ2,対象物の位置関係の変化を算出する(ステップS44)。
【0071】
そして、輝度変化量推定部40は、算出した位置関係の変化及び対象物の形状等に基づいて、輝度変化量を推定する(ステップS45)。
テンプレート輝度変換部41は、推定された輝度変化量に基づいて、諧調変換関数を導出又は選択し、これにより、テンプレート画像の輝度補正を行う(ステップS46)。
テンプレートマッチング処理部42は、処理対象のフレーム画像に対して、補正テンプレート画像を適用して、テンプレートマッチング処理を実行し(ステップS47)、処理を終了する。
【0072】
このように、本実施形態では、対象物26を照射する光源が自車両14のヘッドライト14A以外にも存在する場合であっても、自車両14の移動に伴うフレーム画像中の対象物の輝度変化量を見積もってテンプレートを輝度補正するので、確実に対象物を認識することが可能である。
【図面の簡単な説明】
【0073】
【図1】本発明の実施形態による車両用画像処理装置の構成図である。
【図2】本発明の実施形態による光源方向推定処理の説明図である。
【図3】本発明の実施形態によるフレーム画像撮像時の説明図である。
【図4】図3において位置C1にて撮像されたフレーム画像及びそのヒストグラムである。
【図5】図3において位置C2にて撮像されたフレーム画像及びそのヒストグラムである。
【図6】本発明の実施形態による補正テンプレート作成処理の説明図である。
【図7】本発明の実施形態による他のフレーム画像撮像時の説明図である
【図8】図7において撮像されたフレーム画像及びそのヒストグラムである。
【図9】本発明の実施形態による他の補正テンプレート作成処理の説明図である。
【図10】本発明の実施形態によるマッチング処理のフローチャートである。
【図11】本発明の第2実施形態によるフレーム画像撮像時の説明図である。
【図12】本発明の第2実施形態によるマッチング処理のフローチャートである。
【図13】本発明の第3実施形態によるフレーム画像撮像時の説明図である。
【図14】本発明の第3実施形態によるマッチング処理のフローチャートである。
【符号の説明】
【0074】
1 車両用画像処理装置
2 外界カメラ
3 コントローラ
4 モニタ
5 測位センサ
6 車載センサ
7 地図データベース
8 距離センサ
9 通信機
14,15 車両
14A,15A ヘッドライト
16 街路灯
20 道路標識
22,23,24 画像領域
25,26 対象物
26a,26b,26c 影
【特許請求の範囲】
【請求項1】
車両用画像処理装置であって、
車両に搭載され、第1時間に車両周囲の対象物を含む第1画像を撮像し、第1時間から所定時間経過した第2時間に車両周囲の前記対象物を含む第2画像を撮像する撮像手段と、
前記第1画像に基づいて前記対象物のテンプレートを作成するテンプレート作成手段と、
前記第1画像と前記第2画像の撮像時における前記撮像手段に対する光源の位置を推定する光源位置推定手段と、
前記第1画像と前記第2画像の撮像時における前記撮像手段と前記対象物との位置関係を推定する位置検出手段と、
前記位置検出手段によって検出された位置関係、及び前記光源位置推定手段によって推定された光源位置に基づいて、前記第1画像中の対象物と前記第2画像中の対象物との間の輝度変化を推定する輝度変化推定手段と、
前記輝度変化推定手段によって推定された輝度変化により、前記テンプレートの輝度を補正した補正テンプレートを作成する輝度補正手段と、
前記補正テンプレートより、前記第2画像に対してテンプレートマッチング処理を行い、前記対象物を検出するマッチング手段と、を備えたことを特徴とする車両用画像処理装置。
【請求項2】
前記光源位置推定手段は、撮像時間と撮像時における車両位置に基づいて、光源としての太陽の位置を推定することを特徴とする請求項1に記載の車両用画像処理装置。
【請求項3】
前記光源位置推定手段は、前記第1画像及び第2画像中の撮像体及びこの撮像体の影の方向及び形状を利用して、光源位置を推定することを特徴とする請求項1に記載の車両用画像処理装置。
【請求項4】
前記輝度変化推定手段は、前記対象物の形状と光源位置から反射光の光量を推定し、この光量の変化から輝度変化を推定することを特徴とする請求項1に記載の車両用画像処理装置。
【請求項5】
前記光源位置推定手段は、自車のヘッドライト点灯時には、ヘッドライトを光源に設定し、
前記輝度変化推定手段は、自車のヘッドライトが光源に設定されているときは、前記対象物に対するヘッドライトの照射角度をさらに考慮して、輝度変化を推定することを特徴とする請求項1に記載の車両用画像処理装置。
【請求項1】
車両用画像処理装置であって、
車両に搭載され、第1時間に車両周囲の対象物を含む第1画像を撮像し、第1時間から所定時間経過した第2時間に車両周囲の前記対象物を含む第2画像を撮像する撮像手段と、
前記第1画像に基づいて前記対象物のテンプレートを作成するテンプレート作成手段と、
前記第1画像と前記第2画像の撮像時における前記撮像手段に対する光源の位置を推定する光源位置推定手段と、
前記第1画像と前記第2画像の撮像時における前記撮像手段と前記対象物との位置関係を推定する位置検出手段と、
前記位置検出手段によって検出された位置関係、及び前記光源位置推定手段によって推定された光源位置に基づいて、前記第1画像中の対象物と前記第2画像中の対象物との間の輝度変化を推定する輝度変化推定手段と、
前記輝度変化推定手段によって推定された輝度変化により、前記テンプレートの輝度を補正した補正テンプレートを作成する輝度補正手段と、
前記補正テンプレートより、前記第2画像に対してテンプレートマッチング処理を行い、前記対象物を検出するマッチング手段と、を備えたことを特徴とする車両用画像処理装置。
【請求項2】
前記光源位置推定手段は、撮像時間と撮像時における車両位置に基づいて、光源としての太陽の位置を推定することを特徴とする請求項1に記載の車両用画像処理装置。
【請求項3】
前記光源位置推定手段は、前記第1画像及び第2画像中の撮像体及びこの撮像体の影の方向及び形状を利用して、光源位置を推定することを特徴とする請求項1に記載の車両用画像処理装置。
【請求項4】
前記輝度変化推定手段は、前記対象物の形状と光源位置から反射光の光量を推定し、この光量の変化から輝度変化を推定することを特徴とする請求項1に記載の車両用画像処理装置。
【請求項5】
前記光源位置推定手段は、自車のヘッドライト点灯時には、ヘッドライトを光源に設定し、
前記輝度変化推定手段は、自車のヘッドライトが光源に設定されているときは、前記対象物に対するヘッドライトの照射角度をさらに考慮して、輝度変化を推定することを特徴とする請求項1に記載の車両用画像処理装置。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【公開番号】特開2010−86266(P2010−86266A)
【公開日】平成22年4月15日(2010.4.15)
【国際特許分類】
【出願番号】特願2008−254384(P2008−254384)
【出願日】平成20年9月30日(2008.9.30)
【公序良俗違反の表示】
(特許庁注:以下のものは登録商標)
1.INS
【出願人】(000003137)マツダ株式会社 (6,115)
【Fターム(参考)】
【公開日】平成22年4月15日(2010.4.15)
【国際特許分類】
【出願日】平成20年9月30日(2008.9.30)
【公序良俗違反の表示】
(特許庁注:以下のものは登録商標)
1.INS
【出願人】(000003137)マツダ株式会社 (6,115)
【Fターム(参考)】
[ Back to top ]