説明

駐車支援装置

【課題】複数のカメラからの撮影画像間における色合いの違いを、車両に取り付けるカラーリファレンス部材などを必要とせずに、簡単な方法で補正できる駐車支援装置を提供する。
【解決手段】自車周辺をそれぞれ異なる撮影視野で撮影する複数のカメラによる撮影画像から白色系道路標示などの特定の道路標示を抽出し、撮影画像から抽出された特定の道路標示に基づいて当該撮影画像に対してホワイトバランスなどの画像補正を施して補正撮影画像を生成する。生成された補正撮影画像から視点変換を通じて生成されたカメラ毎の俯瞰画像セグメントを合成して、モニタに表示する自車周辺の表示画像としての俯瞰画像が生成される。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、自車周辺をそれぞれ異なる撮影視野で撮影する複数のカメラによる撮影画像に基づいて生成された俯瞰画像をモニタに表示して駐車支援する駐車支援装置に関する。
【0002】
4台のカメラからの撮影画像から、車両の上方から見た画像である俯瞰画像セグメントを生成し、この4つの俯瞰画像セグメントを予め記憶しておいた車両を示すマークとともに合成してモニタに出力する装置が、特許文献1から知られている。この装置では、カメラで取得した撮像画像の歪みや明るさの違いを補正する変換式が、レンズ系の特徴に基づいて、撮像画像内の位置ごとにあらかじめ設定されており、この変換式に基づいて撮像画像が補正され、カメラの撮像範囲内における位置に関係なく、同じ物体や同じテクスチャが撮像画像内において常に同じように表示されるように意図されている。しかしながら、この装置では、カメラ毎に予め設定された変換式を用いているので、カメラ毎の輝度補正は良好に行えるが、環境光源によって生じる各カメラ間の撮影画像における色バランスなどを調整することができない。したがって、後方カメラがブレーキランプを主光源とする周辺風景を撮影し、前方カメラがフロントランプを主光源とする周辺風景を撮影し、サイドカメラが駐車場ランプを主光源とする周辺風景を撮影しているとすると、それぞれのカメラからの撮影画像に基づいて俯瞰画像を作成した場合、その俯瞰画像における色バランスが大きく崩れており、運転者にとって見づらい画像となる。
【0003】
一般的には、光源による色かぶりの問題を解消するためにはホワイトバランス調整という技術が知られている。このホワイトバランス調整は、人間が撮像対象物を直接目視した場合に認識される表示色がその撮影画像においても正確に再現されるように撮影画像を調整する画像処理技術のひとつである。例えば、そのようなホワイトバランス調整技術を採用した車載用画像認識装置として、車両における所定の位置に配置された無彩色部材の撮影画像から推定される色温度に基づき、車外における支配的な光源(主光源)の色温度を推定して当該撮影画像における光源による影響を低減させる技術が特許文献2から知られている。つまり、車両に搭載された撮像手段により撮像された撮像画像に基づいて車外の光源の色温度を推定するために、車両における所定の位置に無彩色部材を設け、撮像手段により、無彩色部材及び上空を含むように車両の周辺の画像を撮像する。撮像した撮像画像中の無彩色部材の画像領域についてその画像領域の色温度を推定するとともに、撮像した撮像画像中の上空の画像領域についてその画像領域に存在する一又は複数の光源の色温度を推定する。そして、各推定結果に基づき、上空の画像領域に存在する光源の色温度のうち、無彩色部材の画像領域の色温度を含む所定の色温度判定範囲内にあるものを、最終的な色温度の推定結果とする。この技術では、車両における所定の位置に無彩色部材を配置することが必要となるだけでなく、このカラーリファレンスとなる無彩色部材が汚染されたり、局地的な光源種にさらされたりした場合には、正確な色温度の推定が不可能となる。
【先行技術文献】
【特許文献】
【0004】
【特許文献1】特開2008−158958号公報 (段落番号〔0011−0021〕、図1)
【特許文献2】特開2009‐271122号公報(段落番号〔0009−0021〕、図1)
【発明の概要】
【発明が解決しようとする課題】
【0005】
本発明の目的は、上記従来技術の実情に鑑み、複数のカメラからの撮影画像間における色合いや輝度などの画像特性の違いを、車両に取り付けるカラーリファレンス部材などを必要とせずに簡単な方法で補正し、違和感の生じない俯瞰画像を生成する駐車支援装置を提供することである。
【課題を解決するための手段】
【0006】
上記目的を達成するため、本発明による駐車支援装置は、自車周辺をそれぞれ異なる撮影視野で撮影する複数のカメラによる撮影画像を取得する画像入力部と、
前記撮影画像から特定の色成分を有する識別可能な道路要素を抽出する特定道路標示抽出部と、
前記撮影画像から抽出された特定の道路標示に基づいて補正対象画像に対して画像補正を施して補正撮影画像を生成する撮影画像補正部と、
前記撮影画像に基づく画像から視点変換を通じて生成された前記カメラ毎の俯瞰画像セグメントを合成して、モニタに表示する自車周辺の表示画像としての俯瞰画像を生成する俯瞰画像生成部とを備え、前記補正対象画像が前記撮影画像又は前記俯瞰画像セグメントである。
【0007】
道路路肩周辺や駐車場に区画された駐車領域にはその境界を示すための白線や、道路側に描かれた車線境界線、側道区画線などの道路標識、さらにには路面側溝に装着された溝蓋などの特定の色成分を有する識別可能な道路要素が存在している。この構成によると、そのような特定の色成分を有する道路要素を各カメラから取得された撮影画像から抽出し、この抽出された特定の色成分を有する道路要素を画像補正のためのカラーリファレンスとして用いる。つまり、各撮影画像において、抽出された特定の色成分を有する道路要素が所定の色成分になるように画像補正をする。これによって得られた補正撮影画像では、どのような主光源下で撮影されたものであっても、少なくとも特定の色成分を有する道路要素は特定の色となっている。従って、これらの補正撮影画像を用いて、自車周辺の表示画像としての俯瞰画像を生成し、モニタに表示すると、駐車時において最も重要であり、運転者が認識しやすい特定の色成分を有する道路要素は、俯瞰画像全体において同じ色、つまり特定の色で表示されるので、運転者は駐車支援のためにモニタに表示された俯瞰画像を違和感なしに見ることができる。
【0008】
撮影画像補正部による、特定の色成分を有する道路要素をカラーリファレンスとした画像補正は、俯瞰画像セグメントを生成するための元画像に対して行ってもよいし、生成された俯瞰画像セグメントに対して行っても良い。従って、好適な実施形態の1つでは、前記俯瞰画像生成部は、前記撮影画像補正部によって生成された補正撮影画像から前記俯瞰画像セグメントを生成する。また、好適な実施形態の他の1つでは、前記撮影画像補正部は、前記俯瞰画像生成部によって生成された俯瞰画像セグメントに対して画像補正を施し、この画像補正された俯瞰画像セグメントから前記俯瞰画像が生成される。
【0009】
上述したような道路要素をカラーリファレンスとした画像補正において特に好適な画像補正は、ホワイトバランス補正である。従って、特に好適な実施形態として、前記特定の道路要素が白色系道路標示であり、前記画像補正がホワイトバランス補正であり、前記撮影画像補正部は、前記撮影画像から抽出された白色系道路標示に基づいて当該撮影画像に対してホワイトバランス補正を施して補正撮影画像を生成する駐車支援装置が提案される。つまり、この好適な駐車支援装置の特徴は、自車周辺をそれぞれ異なる撮影視野で撮影する複数のカメラによる撮影画像を取得する画像入力部と、前記撮影画像から白色系道路標示を抽出する白色系道路標示抽出部と、前記撮影画像から抽出された白色系道路標示に基づいて当該撮影画像に対してホワイトバランス補正を施して補正撮影画像を生成する撮影画像補正部と、前記補正撮影画像から視点変換を通じて生成された前記カメラ毎の俯瞰画像セグメントを合成して、モニタに表示する自車周辺の表示画像としての俯瞰画像を生成する俯瞰画像生成部とを備えている点にある。
【0010】
道路路肩周辺や駐車場に区画された駐車領域にはその境界を示すための白線や、道路側に描かれた車線境界線などの白色系道路標示が存在している。この構成によると、そのような白色系道路標示を各カメラから取得された撮影画像から抽出し、この抽出された白色系道路標示をホワイトバランス補正のためのカラーリファレンスとして用いる。つまり、各撮影画像において、抽出された白色系道路標示が所定の白系色になるように色補正する。これによって得られた補正撮影画像では、どのような主光源下で撮影されたものであっても、少なくとも白色系道路標示は所定の白系色となっている。従って、これらの補正撮影画像から視点変換を通じて、自車周辺の表示画像としての俯瞰画像を生成し、モニタに表示すると、駐車時において最も重要であり、運転者が注目する、駐車境界線を示す白線等の白色系道路標示は、俯瞰画像全体において同じ色、つまり所定の白系色で表示されるので、運転者は駐車支援のためにモニタに表示された俯瞰画像を違和感なしに見ることができる。
【0011】
駐車場では、大抵の場合、白色系道路標示の一例として駐車領域の境界を示すために直線的な駐車白線が存在しているので、俯瞰画像を生成するための各撮影画像にそのような白色系道路標示が含まれている可能性が高い。しかしながら、車両の向きや姿勢によっては、特定のカメラの撮影画像には白色系道路標示が含まれていない可能性もある。したがって本発明の好適な実施形態の1つでは、前記撮影画像補正部は、前記白色系道路標示が抽出されなかった撮影画像に対して、前回の補正撮影画像の生成時に用いられたホワイトバランス補正パラメータに基づいて擬似ホワイトバランス補正を施して補正撮影画像を生成するように構成されている。この構成によれば、ホワイトバランス補正を行うとする撮影画像から白色系道路標示が抽出されなければ、前回に使用されたホワイトバランス補正パラメータを用いてホワイトバランス補正が行われる。環境光源の状態が短い時間間隔で大きく変化する可能性は少ないので、前回の白色系道路標示抽出点から時間的または距離的に所定以上離れていない場合、前回のホワイトバランス補正パラメータに基づいて補正しても、満足できる補正撮影画像が得られる。
【0012】
駐車経路や車両姿勢によっては、特定のカメラの撮影画像から白色系道路標示が抽出されない状態が続く場合がある。このような事態に対処するため、本発明の好適な実施形態の1つでは、前記白色系道路標示が抽出されなかった撮影画像に対する擬似ホワイトバランス補正は、当該撮影画像のカメラに隣接するカメラによる撮影画像の補正撮影画像の生成時に用いられたホワイトバランス補正パラメータに基づいて行われる。この構成では、隣接する同士のカメラによる撮影画像は主光源が同じ可能性が高いことから、一方の補正に用いられたホワイトバランス補正パラメータを流用される。これにより、相互の補正撮影画像において違和感を生じるような色ずれなどは抑制される。
【0013】
本発明の好適な実施形態の1つでは、路面に描画されている駐車白線を境界基準として駐車領域を設定する駐車領域設定部が備えられており、当該駐車白線の認識情報が前記白色系道路標示として利用される。この構成は、従来から知られている、所定の駐車位置に車両を駐車させる運転操作を支援する駐車支援装置における、白色系道路標示としての白線認識技術を利用するものである。例えば、特開2008−284969号公報に記載されている駐車支援装置では、駐車区画を示す白線を画像認識し、その認識結果に基づいて駐車目標位置を定め、当該駐車目標位置と後退開始位置において停車している車両の位置とに基づいて誘導経路を計算して、当該誘導経路に基づいて駐車支援を行う。このように駐車白線の認識技術を備えている駐車支援装置に本発明によるホワイトバランス補正技術を組み込むことで、違和感のない俯瞰画像をモニタ表示することができる。つまり、認識された駐車白線に関する情報に基づいて撮影画像から駐車白線を抽出して、その抽出された駐車白線をカラーリファレンスとして用いてホワイトバランス補正を施すことにより、違和感のない俯瞰画像が生成される。
【図面の簡単な説明】
【0014】
【図1】本発明による駐車支援装置の好適な実施形態で用いられている、複数カメラによる撮影画像にホワイトバランス補正を施し、補正された撮影画像に基づいて俯瞰画像を生成する基本的な生成過程を説明する模式図である。
【図2】本発明による駐車支援装置を搭載した車両の一部を切り欠いた車両斜視図である。
【図3】複数の車載カメラの撮影範囲を示す平面図である。
【図4】駐車支援制御ユニットを含む車両制御システムの一部を模式的に示す機能ブロック図である。
【図5】画像処理モジュールの機能ブロック図である。
【図6】撮影画像に対して、白線を用いホワイトバランス補正及び擬似ホワイトバランス補正を施す過程を模式的に示す説明図である。
【図7】補正撮影画像から俯瞰画像が生成される工程を模式的に示す説明図である。
【図8】白線が強調された俯瞰画像を含むモニタ表示画像を示すモニタ画面図である。
【発明を実施するための形態】
【0015】
まず、図1を用いて、本発明による駐車支援装置の好適な実施形態を説明する。なお、ここでは、 特定の道路要素が白色系道路標示であり、画像補正がホワイトバランス補正である。つまり、当該撮影画像に対してホワイトバランス補正を施して補正撮影画像を生成される構成が採用されている。複数カメラによる撮影画像から抽出された白色系道路標示に基づいて撮影画像にホワイトバランス補正を施すことで補正された撮影画像に基づいて俯瞰画像を生成する基本的な生成過程を説明する。ここでの例では、後進車庫入れ駐車時に4台のカメラで取得される複数の撮影画像を、駐車用白色系道路標示に基づいてホワイトバランス補正を行い、補正された撮影画像から自車周辺俯瞰画像(以後、単に俯瞰画像と略称する)が生成される。駐車領域を境界付けている駐車白線(以下単に白線と略称する)WMが駐車用白色系道路標示の一例として採用されている。ここで駐車支援される乗用車(以下自車と称す)は、リア、フロント、左右サイドをそれぞれ撮影視野とする4台のカメラを搭載しており、各カメラによって取得された、ここでは(1a)、(1b)、(1c)、(1d)で符号付けられた4つの撮影画像によって、自車周囲は実質的に隙間なくカバーされている。
【0016】
駐車領域(この例では、駐車方向に延びた2つの白線WMで区画された領域)が確定され、後進駐車が開始されると、各カメラによって撮影された撮影画像(1a)、(1b)、(1c)、(1d)が取得される(#01)。取得された撮影画像から、それ自体は公知の白線検出アルゴリズムを用いた、白線WMの検出処理が行われる。白線WMが検出されると、その白線WMの境界線で囲まれた白線領域が抽出され、その領域の平均画素値(例えばR・G・B値)などを含む白線情報が生成される(#02)。白線情報が生成されると、この白線情報の内容と、対応する撮影画像の画像特性(ka:平均画素値や輝度ヒストグラムなど)とに基づいて、補正パラメータを生成する(#03)。この補正パラメータは、処理対象となっている撮影画像の白線WMが所定の白色に変換されるパラメータ群を意味しており、ホワイトバランス補正パラメータ(ホワイトバランス補正曲線:Pa=f(ka))である。これらのホワイトバランス補正パラメータ(Pa=f(ka);Pb=f(kb);Pc=f(kc);Pd=f(kd))は全ての撮影画像(1a)、(1b)、(1c)、(1d)に対して生成される。続いて、このホワイトバランス補正パラメータを当該撮影画像全体に施すことにより、4つの撮影画像に対してホワイトバランス補正が実行され、4つの補正撮影画像が生成される(#04)。この4つの補正撮影画像では、少なくとも白線WMの色が統一されているとともに、その他の画像領域における色かぶりなども抑制されるので、相互の色合いの違いが改善されることになる。次いで、各補正撮影画像を視点変換することにより、カメラ毎の俯瞰画像セグメントが生成され、これらの俯瞰画像セグメントが合成され、俯瞰画像が生成される(#05)。生成された俯瞰画像は、例えば、バックカメラの撮影画像をそのまま利用したバックモニタ画像とともにモニタ表示される(#06)。
【0017】
図1を用いて説明した実施形態では、駐車用白色系道路標示を用いてホワイトバランス補正された補正撮影画像から俯瞰画像セグメントが生成される手順が示されていたが、これに代えて、先に俯瞰画像セグメントを生成し、この俯瞰画像セグメントに対して駐車用白色系道路標示を用いてホワイトバランス補正を行う手順を採用してもよい。
【0018】
以下、本発明の実施形態の具体例を図面に基づいて説明する。本実施形態での駐車支援装置は、自車に備えられた前方カメラ、左右サイドカメラ、後方カメラのうちの駐車方向と左右方向とを撮影するカメラの撮影画像とから生成される俯瞰画像をモニタ表示するものである。
図2と、図3に示すように、この車両は、左右の前輪11aと11bが操向車輪として、左右の後輪12aと12bが非操向車輪として構成されている。車両後部、即ちバックドア91には後方カメラ1aが備えられている。左前部ドアに備えられた左サイドミラー92の下部には左サイドカメラ1bが備えられ、右前部ドアに備えられた右サイドミラー93の下部には右サイドカメラ1cが備えられている。また、車両前部には、前方カメラ1dが備えられている。以下の説明において、適宜、これらのカメラ1a〜1dを総称してカメラ1(車載カメラ)と称する。
【0019】
カメラ1はCCD(charge coupled device)やCIS(CMOS image sensor)などの撮像素子を用いて、毎秒15〜30フレームの2次元画像を時系列に撮影し、デジタル変換してその撮影画像をリアルタイムに出力するデジタルカメラである。カメラ1は、広角レンズを備えて構成される。特に、本実施形態においては、水平方向にほぼ180°の視野角が確保されている。後方カメラ1a及び前方カメラ1dは、光軸に約30度程度の俯角を有して車両に設置され、車両からおおよそ8m程度までの領域を撮影可能である。左サイドカメラ1b及び右サイドカメラ1cはサイドミラー92及び93の底部に光軸を下方に向けて設置され、車両側面の一部と路面(地面)とがその視野内となる。駐車支援においては、カメラ1による撮影画像ないしは当該撮影画像を用いて生成された俯瞰画像がモニタ21に表示される。また、駐車出発点から目標とする駐車領域までの駐車経路に基づく音声による駐車案内もスピーカ22から発せられる。駐車領域の確認やその他の操作入力はモニタ21に装着されたタッチパネル21Tを通じて行われる。
【0020】
車両内部には、本発明の駐車支援装置の中核をなす駐車支援制御ユニット(以下単にECUと称する)20が配置されている。このECU20は、図4に示すように、情報の入出力を行う入出力インターフェースとしてセンサ入力インターフェース23や通信インターフェース70などを備えると共に、入出力インターフェースを介して得られる情報を処理するマイクロプロセッサや、DSP(digital signal processor)を備えている。また、入出力インターフェースの一部又は全てがこのようなプロセッサに含まれていてもよい。
【0021】
センサ入力インターフェース23には、運転操作や移動状態を検出するための車両状態検出センサ群が接続されている。車両状態検出センサ群には、ステアリング操作方向(操舵方向)と操作量(操舵量)とを計測するステアリングセンサ24、シフトレバーのシフト位置を判別するシフト位置センサ25、アクセルペダルの操作量を計測するアクセルセンサ26、ブレーキペダルの操作量を検出するブレーキセンサ27、自車の走行距離を検出する距離センサ28などが含まれている。
また、通信インターフェース70は、車載LANを採用しており、タッチパネル21Tやモニタ21だけでなく、パワーステアリングユニットPS、変速機構T、ブレーキ装置BKなどの制御ユニットがデータ伝送可能に接続されている。
【0022】
ECU20には、報知出力機能部として、表示制御部71と、音声処理モジュール72が備えられている。GUI用の各種画像情報や車両誘導のための報知メッセージを含む撮影画像情報は表示制御部71を介してモニタ21に表示される。音声処理モジュール72で生成された車両誘導のための音声ガイドや緊急時の警告音などはスピーカ22から出力される。さらに、ECU20には、白色系道路標示認識部30と、駐車領域設定部31と、目標駐車位置算定部32と、駐車経路生成部33と、誘導制御部34と、位置情報算定部35と、画像処理モジュール50とが備えられる。
【0023】
白色系道路標示認識部30は、ここでは駐車領域の区画を決定している白線を認識する駐車白線認識部として構成されている。この白線認識は、例えば画像処理モジュール50に一時的に格納されている撮影画像に微分フィルタをかけて得られるエッジ画素に対してハフ変換などを用いて直線当てはめを行うことによって行われる。そのような白線認識アルゴリズムはそれ自体公知であり、例えば特開2006−175918号公報や特開2008−284969号公報に詳しく記載されているので、ここではこれ以上の説明は省略する。
【0024】
駐車領域設定部31は、白色系道路標示認識部30によって認識された白線の位置情報から自車を駐車させるための駐車領域を設定する。なお、この駐車領域の設定を、モニタ21に表示された撮影画像を通じてマニュアル操作で設定するような方式を採用してもよい。
目標駐車位置算定部32は、駐車領域設定部31によって設定された駐車領域内における駐車走行の到達点となる目標駐車位置としての駐車完了位置を、駐車領域の寸法や自車の寸法や設定する。自車が目標駐車位置で停止することで、自車は駐車領域内の適切な位置(例えば真ん中)に駐車することになる。
【0025】
駐車経路生成部33は、駐車経路を生成する。この駐車経路は、駐車支援が開始された駐車出発点から駐車目標位置である駐車完了位置までを結ぶ経路であり、部分的に直線が含まれたり、または全体として直線であったりしてもよいが、実質的には1つ以上の曲線で示すことができる。なお駐車経路の生成アルゴリズムは、従来から知られており、特開2003‐237511号公報や特開2008‐284969号公報などを参照することができる。
【0026】
位置情報算定部35は、自車の移動時に、自車の誘導に必要な現在の車両位置と、自車に対する目標駐車領域の位置とを取得する。つまり、位置情報算定部35では自車の移動に伴って変化する自車の位置情報を検出する車両位置検出処理と、自車の移動に伴って変化する目標駐車領域との相対的な位置関係を算定する駐車領域相対位置算定処理とを行う。これらの処理はカメラ1で取得された撮影画像と、距離センサ28で取得する車両移動量と、ステアリングセンサ24で計測されるステアリングホイールの操舵量とに基づいて行われる。
【0027】
誘導制御部34は、駐車経路生成部33によって生成された直接駐車経路に基づく駐車を誘導する。その際、位置情報算定部35からの位置情報が参照される。誘導制御部34は、位置情報算定部35からの位置情報を参照しながら、駐車経路に沿うように誘導制御によって自車を走行させる制御を実現することができる。しかしながら、誘導制御部34がパワーステアリングユニットPS、変速機構T、ブレーキ装置BKを制御する自動操舵は後進走行だけに限定して、前進走行は人為操舵とするといったように、部分的に人為操舵を組み込んでもよい。この誘導制御部34による誘導情報は画像処理モジュール50や音声処理モジュール72に送られるので、要求に応じてに応じて操舵方向や操舵量がモニタ21に表示され、あるいは操舵方向や操舵量がスピーカ22から出力される。いずれにせよ、モニタ21には、画像処理モジュール50によって生成された俯瞰画像が表示されるので、運転者は駐車プロセスにおける自車の位置関係を容易に理解できる。
【0028】
図5に、ECU20の画像処理モジュール50の機能ブロック図が示されている。画像処理モジュール50は、自車周辺を撮影する複数のカメラ1によって取得された撮影画像に統一感を与えるように、少なくとも白線WMの色を所定色に合わす機構と、撮影画像から自車上方を視点とする視点変換によって俯瞰画像を生成する機能とを有している。
【0029】
画像処理モジュール50は、画像入力部51、撮影画像メモリ52、白色系道路標示抽出部53、撮影画像補正部54、画像生成部60、画像合成部67を含んでいる。画像入力部51は、各カメラ1によって取得された撮影画像はを撮影画像メモリ52に展開する。白色系道路標示抽出部53は、ここでは駐車区画線である白線WMを、上記した白色系道路標示認識部30から送られてくる白線認識情報に基づいて対応する撮影画像から白線WMの画像領域の画素値などの画像特徴量を抽出する。
【0030】
撮影画像補正部54は、補正パラメータ算定部55、ホワイトバランス補正部56、擬似ホワイトバランス補正部57を有する。次に、図6を参照しながら、この撮影画像補正部54による補正機能を説明する。補正パラメータ算定部55は、白色系道路標示抽出部53によって抽出された白線WMに関する画像特徴量や、撮影画像メモリ52に展開されている処理対象の撮影画像((1a)、(1b)、(1c)、(1d)のいずれか)の画像特徴量などである補正パラメータ算定因子群ka、kb、kc、kdから、処理対象の撮影画像で認識された白線WMの色を所定の色(例えば予め設定された白色)とするためのホワイトバランス補正パラメータ(以下単に補正パラメータと略称する)を算定する。この補正パラメータを導出する関数をfとし、各撮影画像のための補正パラメータをPa、Pb、Pc、Pdとすると、
Pa=f(ka)、Pb=f(kb)、Pc=f(kc)、Pd=f(kd)、
と表すことができる。なお、補正パラメータは一般的にはマトリックスで表されるが、機能的には、入力値を所定の出力値に変換する変換曲線のようなものである。
【0031】
ホワイトバランス補正部56は、各補正パラメータPa、Pb、Pc、Pdを用いて対応する撮影画像に対してホワイトバランス補正を施し、つまり〔補正撮影画像(1a)〕=〔撮影画像(1a)〕*〔Pa〕のようなマトリックス演算を施し、各補正撮影画像を生成する。
【0032】
擬似ホワイトバランス補正部57は、図6においては、撮影画像(1c)や撮影画像(1d)のように白線WMが認識されなかった場合、以下に説明するような擬似的なホワイトバランス補正を白線WMが認識されなかった撮影画像に施す機能を有する。この擬似ホワイトバランス補正として2種類の例をここで示す。
【0033】
第1の擬似ホワイトバランス補正は、白線WMが認識されなかった撮影画像を取得したカメラ1による、今回の駐車プロセスにおけるこれまでの撮影画像において認識された白線WMがあれば、その白線WMに基づく補正パラメータを用いて行うホワイトバランス補正である。つまり、時間的または走行距離的に所定値だけ遡った時点で用いた補正パラメータを用いる補正である。第2の擬似ホワイトバランス補正は、白線WMが認識されなかった撮影画像を取得したカメラ1以外の、好ましくは隣接するカメラ1の撮影画像で白線WMが認識されている場合、その白線WMに基づく補正パラメータに基づいて行うホワイトバランス補正である。例えば、図6の例では、撮影画像(1d)を取得するカメラ1dに隣接するカメラ1bによる撮影画像(1b)で白線WMが認識されているので、その白線WMに基づく補正パラメータPbを用いて、つまりPd=g(Pb)で導出される補正パラメータを用いて、撮影画像(1d)のホワイトバランス補正が行われる。同様に、撮影画像(1c)ホワイトバランス補正が、Pc=g(Pa)で導出される補正パラメータを用いて行われる。また、図示された例とは異なるが、撮影画像(1d)を取得するカメラ1dに隣接するカメラ1b及び1cによる撮影画像(1b)及び(1c)において白線WMが認識されていた場合、それらの白線WMに基づく補正パラメータPdから撮影画像(1d)のための補正パラメータPdを導出することも可能である。この導出は、Pd=h(Pb,Pc)と表されるが、例えばその関数hとしてその中間値を求める関数などを採用することができる。
なお、この第1又は第2の擬似ホワイトバランス補正の選択基準としては、第1の擬似ホワイトバランス補正を、所定走行距離内で生成された補正パラメータPdが存在することを条件として、優先することが好ましい。
【0034】
画像生成部60は、通常画像生成部61、周辺俯瞰画像生成部62、マッピングテーブル63、強調標示イメージ生成部64、自車イメージ生成部65、報知イメージ生成部66を含んでいる。
通常画像生成部61は、撮影画像をそのまま車両周辺画像としてモニタ表示するために適した画質に調整する。モニタ表示される車両周辺画像はカメラ毎に独立しており、そのモニタ表示を任意に選択することができる。
【0035】
周辺俯瞰画像生成部62は、図7で模式的に示されているように、撮影画像補正部54によって補正された後の補正撮影画像をマッピングテーブル63に仮想視点毎に用意された視点変換テーブルを用いて俯瞰画像セグメントを生成して、画像合成部67に送る。その際に使用される仮想視点位置は、予め設定しておいてもよいし、任意に設定されるように構成してもよい。なお、マッピングテーブル63の視点変換テーブルは種々の形態で構築することができるが、撮影画像の画素データと俯瞰画像セグメントの画素データとの対応関係が記述されたテーブルとして構築し、1フレームの撮影画像の各画素に、俯瞰画像セグメントにおける行き先画素座標が記述されたものとするのが好都合である。
【0036】
強調標示イメージ生成部64は、ここでは白色系道路標示抽出部53で抽出された白線WMの色彩的に又は形状的にあるいはその両方で視覚的に強調された白線イメージを生成し、当該白線イメージをその俯瞰画像における座標位置とともに、画像合成部67に送る。
自車イメージ生成部65は、俯瞰画像の中央に配置される自車のイメージを準備して、画像合成部67に送る。報知イメージ生成部66は、駐車支援時に運転者に与えるメッセージなどが発生した場合これをイメージ化して、画像合成部67に送る。
【0037】
画像合成部66は、周辺俯瞰画像生成部62からの俯瞰画像セグメントを合成して生成した俯瞰画像に、強調標示イメージ生成部64からの強調標示イメージ、自車イメージ生成部65からの自車イメージと、報知イメージ生成部65からの報知イメージを合成してモニタ表示用俯瞰画像(表示画像)を生成する。その際、モニタ表示画像としては、図8に例示するように、当該俯瞰画像だけでなく、バックモニタ画像などを区分け配置してモニタ出力すると好都合である。
【0038】
次に、上述のように構成された駐車支援装置による駐車支援制御における一連の動作を以下に説明する。
(1)後進駐車を行う場合には、駐車領域がリアカメラ1aの撮影視野に入るような位置で停止し、駐車支援を起動する。
(2)リアカメラ1aからの撮影画像に基づいて、白色系道路標示認識部30が白線認識を行い、認識された白線WMに関する認識情報を生成する。
(3)この認識情報に基づいて駐車領域設定部31が駐車領域を設定するとともに、目標駐車位置算定部32が目標駐車位置を算定する。
(4)停車している自車位置を駐車出発位置とするとともに、この駐車出発位置と駐車目標位置との間の駐車経路を駐車経路生成部33が生成する。
(5)画像処理モジュール50において、4台のカメラ1からの撮影画像が取得され、各撮影画像に対して図6に示す手順でホワイトバランス補正が施される。
(6)補正された撮影画像を用いて、図7に示す手順で俯瞰画像が生成され、図8に示すようなモニタ表示画像がモニタ21に表示される。
(7)誘導制御部34による車両誘導が始まると、モニタ21には駐車支援としての車両誘導メッセージなどの報知メッセージも俯瞰画像とともに表示される。
(8)所定距離の走行が行われる毎に、自車が駐車目標位置に到達したかどうかチェックされ、自車が駐車目標位置に到達していなければ、新たな撮影画像での俯瞰画像を生成し、これをモニタ表示しながら車両誘導が続行する。
(9)自車が駐車目標位置に到達すれば、自車は停止し、この駐車支援制御が終了する。
【0039】
〔変形例〕
(1)上述した実施の形態では、撮影画像はカラー画像として取り扱い、認識された白線をリファレンスとしてホワイトバランス補正パラメータを算定し、この補正パラメータを用いてホワイトバランス補正を行い、補正された撮影画像から俯瞰画像を生成していた。これに代えて、補正された撮影画像をグレースケール変換して得られるモノクロ撮影画像から俯瞰画像を生成して、モニタ画像としてもよい。さらには、このホワイトバランス補正技術をそのままモノクロ画像処理に転用し、モノクロの撮影画像から補正パラメータを算定し、この補正パラメータを用いて画像補正を行い、補正された撮影画像から俯瞰画像を生成してもよい。つまり、ここでのホワイトバランス補正は、広義の意味で解釈されるべきで、例えば、カラー撮影画像のみならず、モノクロ撮影画像にも適用することが可能ものである。
【0040】
(2)上記実施の形態では、白色系道路標示として、駐車領域を境界付ける白線(駐車)がされていたが、その他の道路標示、例えば、「IN(入口)」や「OUT(出口)」といった文字標示なども同様に取り扱うことができる。
【0041】
〔別実施形態〕
上述した実施の形態では、特定の道路要素が白色系道路標示であり、前記画像補正がホワイトバランス補正であった。しかしながら、本発明は、そのような特定の道路要素や画像補正に限定されるわけではない。例えば、特定の道路要素として、道路区画線、側道区画線などの道路標識、さらには路面に敷設された縁石、路面側溝に装着された溝蓋などの識別可能な特定の色成分を有する道路要素なら、カラーリファレンスとして採用可能である。また、撮影画像補正部54もホワイトバランス補正以外に、色あわせ(色合いを合わせる)や、輝度調整、ガンマ調整などの画像補正を行うものとして構成することも可能である。
【産業上の利用可能性】
【0042】
本発明は、駐車時における自車両周囲の状況を運転者に認識させるための俯瞰画像を表示することで運転者の運転操作を支援する駐車支援装置に利用することができる。
【符号の説明】
【0043】
1:カメラ
30:白色系道路標示認識部
50:入力画像処理モジュール
51:画像入力部
53:白色系道路標示抽出部
54:撮影画像補正部
55:補正パラメータ算定部
56:ホワイトバランス補正部
57:擬似ホワイトバランス補正部
60:画像生成部
62:周辺俯瞰画像生成部
63:マッピングテーブル
64:強調標示イメージ生成部
WM:白線(駐車白線、白色系道路標示)

【特許請求の範囲】
【請求項1】
自車周辺をそれぞれ異なる撮影視野で撮影する複数のカメラによる撮影画像を取得する画像入力部と、
前記撮影画像から特定の色成分を有する識別可能な道路要素を抽出する特定道路標示抽出部と、
前記撮影画像から抽出された特定の道路要素に基づいて補正対象画像に対して画像補正を施して補正撮影画像を生成する撮影画像補正部と、
前記撮影画像に基づく画像から視点変換を通じて生成された前記カメラ毎の俯瞰画像セグメントを合成して、モニタに表示する自車周辺の表示画像としての俯瞰画像を生成する俯瞰画像生成部と、を備え、前記補正対象画像が前記撮影画像又は前記俯瞰画像セグメントである駐車支援装置。
【請求項2】
前記俯瞰画像生成部は、前記撮影画像補正部によって生成された補正撮影画像から前記俯瞰画像セグメントを生成する請求項1に記載の駐車支援装置。
【請求項3】
前記撮影画像補正部は、前記俯瞰画像生成部によって生成された俯瞰画像セグメントに対して画像補正を施し、この画像補正された俯瞰画像セグメントから前記俯瞰画像が生成される請求項1に記載の駐車支援装置。
【請求項4】
前記特定の道路要素が白色系道路標示であり、前記画像補正がホワイトバランス補正であり、
前記撮影画像補正部は、前記撮影画像から抽出された白色系道路標示に基づいて当該撮影画像に対してホワイトバランス補正を施して補正撮影画像を生成する請求項1から3のいずれか1つに記載の駐車支援装置。
【請求項5】
前記撮影画像補正部は、前記白色系道路標示が抽出されなかった撮影画像に対して、前回の補正撮影画像の生成時に用いられたホワイトバランス補正パラメータに基づいて擬似ホワイトバランス補正を施して補正撮影画像を生成する請求項4に記載の駐車支援装置。
【請求項6】
前記白色系道路標示が抽出されなかった撮影画像に対する擬似ホワイトバランス補正は、当該撮影画像のカメラに隣接するカメラによる撮影画像の補正撮影画像の生成時に用いられたホワイトバランス補正パラメータに基づいて行われる請求項4または5に記載の駐車支援装置。
【請求項7】
路面に描画されている駐車白線を境界基準として駐車領域を設定する駐車領域設定部が備えられており、当該駐車白線の認識情報が前記白色系道路標示として利用される請求項4から6のいずれか一項に記載の駐車支援装置。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7】
image rotate

【図8】
image rotate


【公開番号】特開2012−105090(P2012−105090A)
【公開日】平成24年5月31日(2012.5.31)
【国際特許分類】
【出願番号】特願2010−252187(P2010−252187)
【出願日】平成22年11月10日(2010.11.10)
【出願人】(000000011)アイシン精機株式会社 (5,421)
【Fターム(参考)】