運転支援システム
【課題】 この発明は、車両から離れた領域においても高い視認性が得られる運転支援システムを提供することを目的とする。
【解決手段】 車両に搭載された車両周辺の画像を撮像する撮像装置、撮像画像のうち車両からの距離が所定の閾値以内の領域の画像に対しては、予め設定された水平面に対する撮像装置の傾き角度を座標変換時の回転角として設定し、撮像画像のうち車両からの距離が所定の閾値より大きい領域の画像に対しては、予め設定された水平面に対する撮像装置の傾き角度と車両からの距離とに基づいて座標変換時の回転角を算出して設定する回転量設定手段、撮像画像の座標を、その座標に対応する画像に対して回転角設定手段によって設定された回転角を用いて鳥瞰図座標に変換することにより、拡張鳥瞰図画像を生成する鳥瞰図画像生成手段を備えている。
【解決手段】 車両に搭載された車両周辺の画像を撮像する撮像装置、撮像画像のうち車両からの距離が所定の閾値以内の領域の画像に対しては、予め設定された水平面に対する撮像装置の傾き角度を座標変換時の回転角として設定し、撮像画像のうち車両からの距離が所定の閾値より大きい領域の画像に対しては、予め設定された水平面に対する撮像装置の傾き角度と車両からの距離とに基づいて座標変換時の回転角を算出して設定する回転量設定手段、撮像画像の座標を、その座標に対応する画像に対して回転角設定手段によって設定された回転角を用いて鳥瞰図座標に変換することにより、拡張鳥瞰図画像を生成する鳥瞰図画像生成手段を備えている。
【発明の詳細な説明】
【技術分野】
【0001】
この発明は、運転支援システムに関する。
【背景技術】
【0002】
自動車などの運転手にとって、バックするときには、死角が生じるため後方確認が難しくなる。そこで、運転手の死角となりやすい車両の後方を監視する車載カメラを装備し、その撮像画像をカーナビゲーション等の画面に表示するシステムが既に開発されている。
【0003】
しかしながら、広範囲を映し出すために広角レンズを用いると映像にレンズ歪みが生じる。さらに、カメラから離れるほど通常のレンズより小さく映り、撮像画像からでは車両後方の距離やスペースを把握しにくくなる。
【0004】
そこで、カメラの映像を単に表示するのではなく、画像処理技術を利用して、より人間に優しい映像を見せる研究がなされている。その1つに、撮影した画像を座標変換して、地面の上方から眺めたような鳥瞰図画像を生成して、表示するものがある(特開平10−211849号公報、特開2002−87160号公報参照)。上方からの鳥瞰図を表示することによって、運転手は車両後方の距離やスペースを把握し易くなる。
【0005】
鳥瞰図画像を生成して表示するシステムでは、地面の上方から眺めた見やすい画像を運転手に提示することができるが、本来高さを持つ物体が平面に投影されるため、物体の高さ情報を失い、物体を知覚しにくくなるという欠点がある。また、地面を基準とした座標変換を行うため、地面と高さの異なる物体は、地面との高低差により、その物体の形状を正しく保つことができない。
【0006】
特に、車両から距離が離れるほど、地面との高さの少しの差が鳥瞰図画像上では顕著に現れ、非常に高い物体のように見えてしまう。つまり、車両から離れた領域では、鳥瞰図画像の画質が劣化しかつ物体の形状が正しく表示されないため、視認性が悪くなる。
【0007】
そこで、生成された鳥瞰図画像のうち、車両から離れた領域を削除し、車両近傍のみ を表示したり、鳥瞰図画像と原画像との両方を別々に表示したりしている。前者では視野が狭くなってしまうし、後者ではモニタが2つ必要となるという問題がある。
【0008】
また、駐車のための運転支援装置として、複数のカメラから得た映像を幾何変換によって全周鳥瞰図画像に変換して、モニタに表示させる装置が開発されている。この装置では、車両全周のシーンを上空から見た映像を運転手に提示することができるため、車両の周辺を360度死角なくカバーできるという長所がある。しかしながら、鳥瞰図画像では、高さのある障害物も平面へ投影されるため、高さの情報を失い、車両から離れるにつれ障害物の形状が変形する。また、表示画面の大きさが限られているため、鳥瞰図画像では遠方を充分に表示できない。
【特許文献1】特開平10−211849号公報
【特許文献2】特開2002−87160号公報
【発明の開示】
【発明が解決しようとする課題】
【0009】
この発明は、車両から離れた領域においても高い視認性が得られる運転支援システムを提供することを目的とする。
【課題を解決するための手段】
【0010】
請求項1に記載の発明は、車両に搭載された表示器、車両に搭載された車両周辺を撮像する撮像装置、撮像画像のうち車両からの距離が所定の閾値以内の領域の画像に対しては、予め設定された水平面に対する撮像装置の傾き角度を座標変換時の回転角として設定し、撮像画像のうち車両からの距離が所定の閾値より大きい領域の画像に対しては、予め設定された水平面に対する撮像装置の傾き角度と車両からの距離とに基づいて座標変換時の回転角を算出して設定する回転量設定手段、撮像画像の座標を、その座標に対応する画像に対して回転角設定手段によって設定された回転角を用いて鳥瞰図座標に変換することにより、拡張鳥瞰図画像を生成する鳥瞰図画像生成手段、および鳥瞰図画像生成手段によって得られた拡張鳥瞰図画像を表示器に表示させる手段を備えていることを特徴とする。
【0011】
請求項2に記載の発明は、請求項1に記載の発明において、回転量設定手段は、撮像画像のうち車両からの距離が所定の閾値より大きい領域の画像に対しては、車両からの距離が大きいほど座標変換時の回転角が小さくなるように、座標変換時の回転角を算出するものであることを特徴とする。
【0012】
請求項3に記載の発明は、請求項1乃至2に記載の発明において、回転量設定手段は、撮像画像の座標を地面座標に変換するための変換式を用いて、撮像画像の各部に対する車両からの距離を算出する第1手段、および撮像画像の各部毎に、予め設定された水平面に対する撮像装置の傾き角度と、第1手段によって算出された距離と、予め設定された所定の閾値とに基づいて、座標変換時の回転角を決定して設定する第2手段を備えていることを特徴とする。
【0013】
請求項4に記載の発明は、車両に搭載された表示器、車両に搭載された車両周辺を撮像する撮像装置、撮像画像の座標を、請求項1に記載の拡張鳥瞰図画像の座標に変換するための座標変換テーブル、撮像画像の座標を、座標変換テーブルを用いて拡張鳥瞰図画像の座標に変換することにより、拡張鳥瞰図画像を生成する鳥瞰図画像生成手段、および鳥瞰図画像生成手段によって得られた拡張鳥瞰図画像を表示器に表示させる手段を備えていることを特徴とする。
【0014】
請求項5に記載の発明は、車両に搭載された表示器、車両の少なくとも前後に搭載されかつ車両の周辺を撮像する複数の撮像装置、各撮像装置に撮像された撮像画像から、車両の進行方向に応じた複数種類の全周鳥瞰図画像を生成する全周鳥瞰図画像生成手段、ならびに全周鳥瞰図画像生成手段によって得られた拡張鳥瞰図画像を表示器に表示させる手段を備えており、全周鳥瞰図画像は各撮像装置の撮像装置から得られる鳥瞰図画像を合成することにより生成されており、全周鳥瞰図画像生成手段は、車両の進行方向に対応した方向の撮像画像像から請求項1に記載の拡張鳥瞰図画像を生成し、他の方向の撮像画像から通常の鳥瞰図画像を生成して、これらの鳥瞰図画像が合成された全周鳥瞰図画像を生成して、これらの鳥瞰図画像が合成された全周鳥瞰図画像を生成するものであることを特徴とする。
【0015】
請求項6に記載の発明は、車両に搭載された表示器、車両の前後左右に搭載されかつ車両周辺を撮像する複数の撮像装置、各撮像装置に撮像された撮像画像から、車両が前進している場合、および車両が後退している場合のそれぞれに応じた種類の全周鳥瞰図画像を生成する全周鳥瞰図画像生成手段、ならびに全周鳥瞰図画像生成手段によって得られた拡張鳥瞰図画像を表示器に表示させる手段を備えており、全周鳥瞰図画像は各撮像装置の撮像装置から得られる鳥瞰図画像を合成することにより生成されており、全周鳥瞰図画像生成手段は、車両が前進している場合には、前側の撮像装置によって撮像された撮像画像から請求項1に記載の拡張鳥瞰図画像を生成し、後側および左右の撮像装置によって撮像された撮像画像から通常の鳥瞰図画像を生成して、これらの鳥瞰図画像が合成された第1の全周鳥瞰図画像を生成し、車両が後退している場合には、後側の撮像装置によって撮像された撮像画像から請求項1に記載の拡張鳥瞰図画像を生成し、前側および左右の撮像装置によって撮像された撮像画像から通常の鳥瞰図画像を生成して、これらの鳥瞰図画像が合成された第2の全周鳥瞰図画像を生成するものであることを特徴とする運転支援システム。
【0016】
請求項7に記載の発明は、請求項6に記載の発明において、全周鳥瞰図画像生成手段は、各撮像装置によって撮像される撮像画像の座標を、上記第1の全周鳥瞰図画像の座標に変換するための第1の座標変換テーブル、各撮像装置によって撮像される撮像画像の座標を、上記第2の全周鳥瞰図画像の座標に変換するための第2の座標変換テーブル、車両が前進している場合には、各撮像装置によって撮像された撮像画像の座標を、第1の座標変換テーブルを用いて第1の全周鳥瞰図画像の座標に変換することにより、第1の全周鳥瞰図画像を生成する第1の全周鳥瞰図画像生成手段、および車両が後退している場合には、各撮像装置によって撮像された撮像画像の座標を、第2の座標変換テーブルを用いて第2の全周鳥瞰図画像の座標に変換することにより、第2の全周鳥瞰図画像を生成する第2の全周鳥瞰図画像生成手段を備えていることを特徴とする。
【0017】
請求項8に記載の発明は、車両に搭載された表示器、車両の前後左右に搭載されかつ車両周辺を撮像する複数の撮像装置、各撮像装置に撮像された撮像画像から、車両が停止している場合、車両が前進している場合、および車両が後退している場合のそれぞれに応じた種類の全周鳥瞰図画像を生成する全周鳥瞰図画像生成手段、ならびに全周鳥瞰図画像生成手段によって得られた拡張鳥瞰図画像を表示器に表示させる手段を備えており、全周鳥瞰図画像は各撮像装置の撮像装置から得られる鳥瞰図画像を合成することにより生成されており、全周鳥瞰図画像生成手段は、車両が停止している場合には、前後の撮像装置によって撮像された撮像画像から請求項1に記載の拡張鳥瞰図画像を生成し、左右の撮像装置によって撮像された撮像画像から通常の鳥瞰図画像を生成して、これらの鳥瞰図画像が合成された第1の全周鳥瞰図画像を生成し、車両が前進している場合には、前側の撮像装置によって撮像された撮像画像から請求項1に記載の拡張鳥瞰図画像を生成し、後側および左右の撮像装置によって撮像された撮像画像から通常の鳥瞰図画像を生成して、これらの鳥瞰図画像が合成された第2の全周鳥瞰図画像を生成し、車両が後退している場合には、後側の撮像装置によって撮像された撮像画像から請求項1に記載の拡張鳥瞰図画像を生成し、前側および左右の撮像装置によって撮像された撮像画像から通常の鳥瞰図画像を生成して、これらの鳥瞰図画像が合成された第3の全周鳥瞰図画像を生成するものであることを特徴とする。
【0018】
請求項9に記載の発明は、請求項8に記載の発明において、全周鳥瞰図画像生成手段は、各撮像装置によって撮像される撮像画像の座標を、上記第1の全周鳥瞰図画像の座標に変換するための第1の座標変換テーブル、各撮像装置によって撮像される撮像画像の座標を、上記第2の全周鳥瞰図画像の座標に変換するための第2の座標変換テーブル、各撮像装置によって撮像される撮像画像の座標を、上記第3の全周鳥瞰図画像の座標に変換するための第3の座標変換テーブル、車両が停止している場合には、各撮像装置によって撮像された撮像画像の座標を、第1の座標変換テーブルを用いて第1の全周鳥瞰図画像の座標に変換することにより、第1の全周鳥瞰図画像を生成する第1の全周鳥瞰図画像生成手段、車両が前進している場合には、各撮像装置によって撮像された撮像画像の座標を、第2の座標変換テーブルを用いて第2の全周鳥瞰図画像の座標に変換することにより、第2の全周鳥瞰図画像を生成する第2の全周鳥瞰図画像生成手段、および車両が後退している場合には、各撮像装置によって撮像された撮像画像の座標を、第3の座標変換テーブルを用いて第3の全周鳥瞰図画像の座標に変換することにより、第3の全周鳥瞰図画像を生成する第3の全周鳥瞰図画像生成手段を備えていることを特徴とする。
【発明の効果】
【0019】
この発明によれば、車両から離れた領域においても高い視認性が得られるようになる。
【発明を実施するための最良の形態】
【0020】
以下、図面を参照して、この発明の実施例について説明する。
【実施例1】
【0021】
図1は、自動車に設けられた運転支援システムの構成を示している。
本発明の特徴は鳥瞰図画像の生成方法にあり、本発明手法によって生成される鳥瞰図画像は、従来手法によって生成される鳥瞰図画像と異なるものである。そこで、本発明手法によって生成される鳥瞰図画像を拡張鳥瞰図画像と呼ぶことにする。
【0022】
運転支援システムは、車両の後部に後方斜め下向きに配置されたカメラ(撮像装置)1と、車両内に設けられかつカメラ1によって撮像された画像から拡張鳥瞰図画像を生成するための画像処理ユニット2と、車両内のダッシュボードに配置されかつ画像処理ユニット2によって生成された拡張鳥瞰図画像を表示するモニタ(表示器)3とを備えている。
【0023】
カメラ1としては、例えば、CCDカメラが用いられる。画像処理ユニット2としては、例えば、マイクロコンピュータが用いられる。モニタ3としては、例えば、ナビゲーションシステムのモニタが用いられる。
【0024】
水平面とカメラ1の光軸とのなす角は、図1にαで表される角度と、βで表される角度との2種類がある。αは、一般的には、見下ろし角または俯角αと呼ばれている。この明細書では、角度βを水平面に対するカメラ1の傾き角度θoということにする。
【0025】
図2は、画像処理ユニット2による処理手順を示している。
カメラ1の地面からの高さh、水平面に対するカメラ1の傾き角度θo、カメラ1のレンズ焦点距離f、カメラ1のレンズ歪み補正値等のパラメータは、予め設定されているものとする。
【0026】
まず、カメラ1の撮像画像を読み込む(ステップS1)。次にレンズ歪み補正を行う(ステップS2)。以下、レンズ歪み補正によって得られた画像を入力画像Iと呼び、入力画像Iの各画素の画像を入力画素画像I(xbu,ybu)と呼ぶことにする。
【0027】
次に、1つの入力画素画像I(xbu,ybu)を注目画素画像として、注目画素画像I(xbu,ybu)に対応する車両からの距離Dを算出する(ステップS3)。この処理の詳細については、後述する。
【0028】
次に、注目画素画像I(xbu,ybu)に対応する距離Dが予め設定された閾値Dthより大きいか否かを判別する(ステップS4)。距離Dが閾値Dth以下の場合には、透視変換(座標変換)に用いる回転量(回転角)θをカメラ1の取り付け角度θoに設定した後(ステップS5)、ステップS7に進む。
【0029】
上記ステップS4において、距離Dが閾値Dthより大きいと判別した場合には、次式(1)によって透視変換(座標変換)に用いる回転量θを算出した後(ステップS6)、ステップS7に進む。
【0030】
θ=θo−k(D−Dth) …(1)
【0031】
kは予め設定された係数である。θの最小値が90度以上になるようにkは設定されている。上記式(1)によれば、距離Dが閾値Dthより大きくなるほど、θは小さくなる。
【0032】
ステップ7では、回転量をθとして透視変換を行うことにより、注目画素画像I(xbu,ybu)の座標を2次元地面座標系XwZwの座標に変換する。この処理の詳細については、後述する。
【0033】
そして、全ての入力画素画像I(xbu,ybu)に対してステップ7の透視変換が完了したか否かを判別する(ステップS8)。全ての入力画素画像I(xbu,ybu)に対してステップ7の透視変換が完了してない場合には、注目画素画像を次の入力画素画像I(xbu,ybu)に更新した後(ステップS9)、ステップS3に戻る。
【0034】
上記ステップS8において、全ての入力画素画像I(xbu,ybu)に対してステップ7の透視変換が完了したと判別した場合には、入力画像Iに対応する上記透視変換後の画像から拡張鳥瞰図画像を生成する(ステップS10)。この処理の詳細については、後述する。そして、生成した拡張鳥瞰図画像をモニタ3に表示する。そして、ステップS1に戻る。
【0035】
上記ステップS3、S7およびS10の処理の詳細について説明する。
【0036】
図3は、カメラ座標系XYZと、カメラ1の撮像面Sの座標系XbuYbuと、2次元地面座標系Xw Zw を含む世界座標系Xw Yw Zw との関係を示している。
【0037】
カメラ座標系XYZでは、カメラの光学中心を原点Oとして、光軸方向にZ軸が、Z軸に直交しかつ地面に平行な方向にX軸が、Z軸およびX軸に直交する方向にY軸がとられている。撮像面Sの座標系XbuYbuでは、撮像面Sの中心に原点をとり、撮像面Sの横方向にXbu軸が、撮像面Sの縦方向にYbuが取られている。
【0038】
世界座標系Xw Yw Zw では、カメラ座標系XYZの原点Oを通る垂線と地面との交点を原点Ow とし、地面と垂直な方向にYw 軸が、カメラ座標系XYZのX軸と平行な方向にXw 軸が、Xw 軸およびYw 軸に直交する方向にZw 軸がとられている。
【0039】
世界座標系Xw Yw Zw とカメラ座標系XYZとの間の平行移動量は〔0,h,0〕であり、X軸周りの回転量はθ(=θo)である。
【0040】
したがって、カメラ座標系XYZの座標(x,y,z)と世界座標系Xw Yw Zw の座標(xw ,yw ,zw )との間の変換式は、次式(2)で表される。
【0041】
【数1】
【0042】
また、撮像面Sの座標系XbuYbuの座標(xbu,ybu)と、カメラ座標系XYZの座標(x,y,z)との間の変換式は、カメラ1の焦点距離をfとすると、次式(3)で表される。
【0043】
【数2】
【0044】
上記式(2)、(3)から、撮像面Sの座標系XbuYbuの座標(xbu,ybu)と二次元地面座標系Xw Zw の座標(xw ,zw )との間の変換式(4)が得られる。
【0045】
【数3】
【0046】
また、二次元地面座標系Xw Zw から仮想カメラの鳥瞰図座標系XauYauへの投影は、平行投影によって行われる。カメラ1の焦点距離をfとし、仮想カメラの高さ位置をHとすると、二次元地面座標系Xw Zw の座標(xw ,zw )と鳥瞰図座標系XauYauの座標(xau,yau)との間の変換式は、次式(5)で表される。仮想カメラの高さ位置Hは予め設定されている。
【0047】
【数4】
【0048】
上記ステップS3においては、撮像面Sの座標系XbuYbuの座標(xbu,ybu)と二次元地面座標系Xw Zw の座標(xw ,zw )との間の変換式(4)を用いて、注目画素画像I(xbu,ybu)の座標(xbu,ybu)に対応する二次元地面座標系Xw Zw の座標(xw ,zw )を算出し、得られた座標zw を注目画素画像I(xbu,ybu)に対応する距離Dとする。この場合、変換式(4)内のθは常にθoである。
【0049】
上記ステップS7では、ステップS5またはステップ6によって与えられたθと上記変換式(4)を用いて、注目画素画像I(xbu,ybu)の座標(xbu,ybu)を、二次元地面座標系Xw Zw の座標(xw ,zw )に変換する。このような処理が全ての入力画素画像I(xbu,ybu)に対して行われることにより、入力画像Iが二次元地面座標系Xw Zw の画像Iw に変換される。
【0050】
上記ステップS10では、二次元地面座標系Xw Zw の座標(xw ,zw )と鳥瞰図座標系XauYauの座標(xau,yau)との間の変換式(5)を用いて、二次元地面座標系Xw Zw の画像Iw の座標(xw ,zw )を鳥瞰図座標系XauYauの座標(xau,yau)に変換する。これにより、拡張鳥瞰図画像が生成される。
【0051】
上記実施例では、入力画像Iのうち、車両からの距離Dが閾値Dth以下の範囲内の画像に対しては、通常の鳥瞰図画像の生成手法と同様に、回転量θとしてθoを用いて座標変換が行なわれることにより、鳥瞰図画像が生成される。そして、入力画像Iのうち、車両からの距離Dが閾値Dthより大きな範囲内の画像に対しては、距離Dが閾値Dthより大きくなるほどθは小さくなるようにθが設定され、設定されたθを用いて座標変換が行なわれることにより、通常の鳥瞰図画像とは異なる鳥瞰図画像が生成される。後者の通常の鳥瞰図画像とは異なる鳥瞰画画像を擬似鳥瞰画像と呼ぶことにすると、拡張鳥瞰図画像は、車両からの距離Dが閾値Dth以下の範囲内の画像に対して生成された通常の鳥瞰図画像と、車両からの距離Dが閾値Dthより大きな範囲内の画像に対して生成された擬似鳥瞰図画像とが合成されたものとなる。
【実施例2】
【0052】
上記実施例1では、入力画像Iの座標を二次元地面座標系Xw Zw の座標に変換し、この後、鳥瞰図座標系XauYauの座標に変換しているが、入力画像Iの座標を直接鳥瞰図座標系XauYauの座標に変換することも可能である。
【0053】
まず、入力画像Iの座標(xbu,ybu)を、鳥瞰図座標系XauYauの座標(xau,yau)に変換するための式について説明する。
【0054】
上記式(5)から、次式(6)が得られる。
【0055】
【数5】
【0056】
得られた式(6)を上記式(4)に代入すると、次式(7)が得られる。
【0057】
【数6】
【0058】
上記式(7)から、入力画像Iの座標(xbu,ybu)を、鳥瞰図座標系XauYauの座標(xau,yau)に変換するための式(8)が得られる。
【0059】
【数7】
【0060】
図4は、画像処理ユニット2による処理手順を示している。
【0061】
カメラ1の地面からの高さh、カメラ1の水平面に対する傾斜角度θo、カメラ1のレンズ焦点距離f、カメラ1のレンズ歪み補正値等のパラメータは、予め設定されているものとする。
【0062】
まず、カメラ1の撮像画像を読み込む(ステップS21)。次にレンズ歪み補正を行う(ステップS22)。以下、レンズ歪み補正によって得られた画像を入力画像Iと呼び、入力画像Iの各画素の画像を入力画素画像I(xbu,ybu)と呼ぶことにする。
【0063】
次に、1つの入力画素画像I(xbu,ybu)を注目画素画像として、注目画素画像I(xbu,ybu)に対応する車両からの距離Dを算出する(ステップS23)。この処理は、図2のステップS3と同じである。
【0064】
次に、注目画素画像I(xbu,ybu)に対応する距離Dが予めかじめ設定された閾値Dthより大きいか否かを判別する(ステップS24)。距離Dが閾値Dth以下の場合には、回転量θをカメラ1の取り付け角度θoに設定した後(ステップS25)、ステップS27に進む。
【0065】
上記ステップS24において、距離Dが閾値Dthより大きいと判別した場合には、上記式(1)によって回転量θを算出した後(ステップS26)、ステップS27に進む。
【0066】
ステップ27では、ステップS25またはステップ26によって与えられたθと上記変換式(8)を用いて、注目画素画像I(xbu,ybu)の座標(xbu,ybu)を、鳥瞰図座標系XauYauの座標(xau,yau)に変換する。
【0067】
そして、全ての入力画素画像I(xbu,ybu)に対してステップ27の座標変換が完了したか否かを判別する(ステップS28)。全ての入力画素画像I(xbu,ybu)に対してステップ27の座標変換が完了してない場合には、注目画素画像を次の入力画素画像I(xbu,ybu)に更新した後(ステップS29)、ステップS23に戻る。
【0068】
全ての入力画素画像I(xbu,ybu)に対してステップ27の座標変換が完了すると(ステップS28でYES)、全ての入力画素画像I(xbu,ybu)の座標(xbu,ybu)が鳥瞰図座標系XauYauの座標(xau,yau)に変換されているので、鳥瞰図画像(拡張鳥瞰図画像)を生成してモニタ3に表示する(ステップS30)。そして、ステップS21に戻る。
【実施例3】
【0069】
実施例3では、上記実施例1または上記実施例2の手法に基づいて、入力画像I(レンズ歪み補正によって得られた画像)の各画素の座標に対応する拡張鳥瞰図画像上の座標を予め求めておき、これを画像変換テーブルとして記憶手段に記憶しておく。そして、入力画像Iを、画像変換テーブルを用いて、拡張鳥瞰図画像に変換する。
【0070】
なお、レンズ歪補正も考慮して、カメラ1によって撮像された画像(原画像)を、歪み補正して拡張鳥瞰図画像に変換するための座標変換テーブルを用意しておき、カメラ1によって撮像された画像から、この座標変換テーブルを用いて拡張鳥瞰図画像を生成するようにしてもよい。
【0071】
通常の鳥瞰図画像と、拡張鳥瞰図画像との違いについて説明する。図5(a)は、入力画像Iの一例を示している。図5(b)は、入力画像の全ての領域に対して回転角θを一定とすることによって得られた鳥瞰図画像を示している。つまり、図5(b)は、従来手法によって生成された通常の鳥瞰図画像を示している。図5(c)は、上記実施例のように、車両からの距離Dに応じて回転角θを設定することにより得られた拡張鳥瞰図画像を示している。つまり、図5(c)は、本発明手法によって生成された鳥瞰図画像を示している。
【0072】
図5(a)において、Aは地面上に描画された白枠であり、Bは車両の近傍において地面上に置かれた平面状物体である。また、Cは車両から離れた所に置かれた円錐台形の物体である。
【0073】
図5(b)から分かるように、従来手法によって生成された通常の鳥瞰図画像では、車両からの離れた所に置かれた物体Cは縦方向に大きく伸ばされ、見にくくなっている。これに対して、図5(c)に示す拡張鳥瞰図画像では、物体Cの伸張度が低く抑えられ、視認性が良くなっていることがわかる。つまり、本発明手法によって生成された鳥瞰図画像では、車両近傍付近の領域に対しては距離やスペースが把握しやすくなる画像となり、車両から離れた領域においては物体の変形が抑えられた画像となるため、視認性が向上する。
【実施例4】
【0074】
第4実施例では、図6および図7に示すように、車両の前部、後部、左側部および右側部それぞれに、カメラ(撮像装置)1F、1B、1L、1Rが設けられている。カメラ1Fは前方斜め下向きに配置され、カメラ1Bは後方斜め下向きに配置され、カメラ1Lは左方向斜め下向きに配置され、カメラ1Fは右方向斜め下向きに配置されている。
【0075】
第4実施例では、これら4台のカメラ1F、1B、1L、1Rによって撮像された画像から、車両が停止している場合、車両が前進している場合および車両が後退している場合に応じて、種類の異なる全周鳥瞰図画像を生成することに特徴がある。
【0076】
そこで、全周鳥瞰図画像の生成方法の基本的な考え方について説明する。
【0077】
図8に示すように、各カメラ1F、1B、1L、1Rを原点として、各カメラ1F、1B、1L、1Rで撮像された画像から鳥瞰図画像10F、10B、10L、10Rを生成する。次に、図9に示すように、各カメラ1F、1B、1L、1R毎に生成された鳥瞰図画像10F、10B、10L、10Rを、後側カメラ1Bに対する鳥瞰図画像10Bを基準として、他の3つの鳥瞰図画像10F、10L、10Rを回転と平行移動により、後側カメラ1Bの鳥瞰図画像座標に変換する。これにより、4つの鳥瞰図画像10F、10B、10L、10Rが合成され、全周鳥瞰図画像が生成される。全周鳥瞰図画像において、各鳥瞰図画像10F、10B、10L、10Rの境界が認識できるように、各鳥瞰図画像10F、10B、10L、10Rの境界部に黒線等の境界線を入れることが好ましい。
【0078】
車両が停止している場合には、前後方向の遠望領域を見やすくするとともに前後方向にある障害物を見やすくするため、前側カメラ1Fおよび後側カメラ1Bの撮像画像に対応する鳥瞰図画像として拡張鳥瞰図画像が生成され、左側カメラ1Lおよび右側カメラ1Rの撮像画像に対応する鳥瞰図画像として通常の鳥瞰図画像が生成され、これらの鳥瞰図画像が合成されることにより全周鳥瞰図画像が生成される。
【0079】
車両が前進している場合には、前方の遠望領域を見やすくするとともに前方にある障害物を見やすくするため、前側カメラ1Fの撮像画像に対応する鳥瞰図画像として拡張鳥瞰図画像が生成され、後側カメラ1B、左側カメラ1Lおよび右側カメラ1Rの撮像画像に対応する鳥瞰図画像として通常の鳥瞰図画像が生成され、これらの鳥瞰図画像が合成されることにより全周鳥瞰図画像が生成される。
【0080】
車両が後退している場合には、後方の遠望領域を見やすくするとともに後方にある障害物を見やすくするため、後側カメラ1Bの撮像画像に対応する鳥瞰図画像として拡張鳥瞰図画像が生成され、前側カメラ1F、左側カメラ1Lおよび右側カメラ1Rの撮像画像に対応する鳥瞰図画像として通常の鳥瞰図画像が生成され、これらの鳥瞰図画像が合成されることにより全周鳥瞰図画像が生成される。
【0081】
なお、上述したように、拡張鳥瞰図画像は、車両からの距離が所定距離以下の範囲内の画像に対して生成された通常の鳥瞰図画像と、車両からの距離が所定距離より大きな範囲内の画像に対して生成された擬似鳥瞰図画像とが合成されたものとなるので、拡張鳥瞰図画像において、通常の鳥瞰図画像と擬似鳥瞰図画像との境界を認識しやすくするために、通常の鳥瞰図画像と擬似鳥瞰図画像との境界部に破線等の境界線を入れることが好ましい。
【0082】
ところで、第3実施例で説明したように、入力画像I(カメラの撮像画像に対してレンズ歪み補正が行なわれた画像)の各画素の座標に対応する拡張鳥瞰図画像上の座標を予め求めることができる。
【0083】
また、拡張鳥瞰図画像と通常の鳥瞰図画像との違いは、上記式(8)(または上記式(4))中のθが、拡張鳥瞰図画像では画素位置に応じて変化するのに対し、通常の鳥瞰図画像ではθが画素位置に係わらず一定であるだけであるので、入力画像I(レンズ歪み補正によって得られた画像)の各画素の座標に対応する通常の鳥瞰図画像上の座標も予め求めることは可能である。
【0084】
さらに、各カメラ1F、1B、1L、1Rに対応する鳥瞰図画像(通常の鳥瞰図画像または拡張鳥瞰図画像)上の座標の、全周鳥瞰図画像上の座標への変換は、所定の回転と所定の平行移動とによって行なわれる。つまり、各カメラの撮像画像の歪み補正後の入力画像Iを鳥瞰図画像または拡張鳥瞰図画像に変換し、得られた鳥瞰図画像または拡張鳥瞰図画像を全周鳥瞰図画像に変換するための変換パラメータは全て固定値となる。
【0085】
そこで、車両が停止している場合、車両が前進している場合および車両が後退している場合それぞれについて、各カメラ1F、1B、1L、1Rから得られた入力画像I((レンズ歪み補正によって得られた画像)の各画素の座標に対応する全周鳥瞰図画像上の座標を予め求めることができる。
【0086】
この実施例では、各カメラ1F、1B、1L、1R毎に、車両が停止している場合、車両が前進している場合および車両が後退している場合それぞれについて、カメラから得られた入力画像I(レンズ歪み補正によって得られた画像)の各画素の座標を全周鳥瞰図画像上の座標に変換するための座標変換テーブルが予め用意されている。
【0087】
図10は、自動車に設けられた運転支援システムの電気的構成を示している。
【0088】
運転支援システムは、カメラ1F、1B、1L、1Rによって撮像された画像から3種類の全周鳥瞰図画像を生成するための画像処理ユニット12と、車両内のダッシュボードに配置されかつ画像処理ユニット12によって生成された全周鳥瞰図画像を表示するモニタ(表示器)13とを備えている。なお、画像処理ユニット12には、車両が停止しているか否かおよび車両の進行方向(前進または後退)を示す車両ギヤセンサ(図示略)からのギヤ位置を表す信号が入力される。
【0089】
カメラ1F、1B、1L、1Rとしては、例えば、CCDカメラが用いられる。画像処理ユニット12としては、例えば、マイクロコンピュータが用いられる。モニタ13としては、例えば、ナビゲーションシステムのモニタが用いられる。
【0090】
画像処理ユニット12内の記憶装置には、各カメラ1F、1B、1L、1R毎に、車両が停止している場合、車両が前進している場合および車両が後退している場合それぞれについて、カメラから得られた入力画像I(レンズ歪み補正によって得られた画像)の各画素の座標を全周鳥瞰図画像上の座標に変換するための座標変換テーブル(停止時用座標変換テーブル、前進時用座標変換テーブル、後退時用座標変換テーブル)が格納されている。
【0091】
なお、カメラ1Lに対する停止時用座標変換テーブル、前進時用座標変換テーブルおよび後退時用座標変換テーブルは、全て同じなので、カメラ1Lに対する座標変換テーブルは1つだけ用意すればよい。同様に、カメラ1Rに対する停止時用座標変換テーブル、前進時用座標変換テーブルおよび後退時用座標変換テーブルは、全て同じなので、カメラ1Rに対する座標変換テーブルは1つだけ用意すればよい。
【0092】
カメラ1Fに対する停止時用座標変換テーブルおよび前進時用座標変換テーブルは、同じであるので、カメラ1Fに対する座標変換テーブルとしては、停止時用兼前進用座標変換テーブルと、後退時用座標変換テーブルとの2種類を用意すればよい。カメラ1Bに対する停止時用座標変換テーブルおよび後退時用座標変換テーブルは、同じであるので、カメラ1Bに対する座標変換テーブルとしては、停止時用兼後退時用座標変換テーブルと、前進用座標変換テーブルとの2種類を用意すればよい。
【0093】
図11は、画像処理ユニット12による処理手順を示している。
【0094】
まず、各カメラ1F、1B、1L、1Rの撮像画像を読み込む(ステップS41)。次に読み込んだ各撮像画像に対してレンズ歪み補正を行う(ステップS42)。以下、レンズ歪み補正によって得られた画像を入力画像Iと呼ぶことにする。
【0095】
次に、車両ギヤセンサからのギヤ位置を表す信号に基づいて、車両が停止中であるか、車両が前進中であるか、後退中であるかを判定する(ステップS43、S44)。車両が停止中であると判別した場合には(ステップS43でYES)、各カメラ1F、1B、1L、1Rに対応する停止時用座標変換テーブルを用いて、各カメラ1F、1B、1L、1Rに対応する入力画像Iから停止時用全周鳥瞰図画像を生成する(ステップS45)。この場合、全周鳥瞰図画像のうち、車両の前方および後方の鳥瞰図画像は拡張鳥瞰図画像となり、車両の両側の鳥瞰図画像は通常の鳥瞰図画像となる。そして、ステップS48に進む。
【0096】
車両が前進していると判別された場合には(ステップS43でNO,ステップS44でYES)、各カメラ1F、1B、1L、1R毎の前進時用座標変換テーブルを用いて、各カメラ1F、1B、1L、1Rに対応する入力画像Iから前進時用全周鳥瞰図画像を生成する(ステップS46)。この場合、全周鳥瞰図画像のうち、車両の前方の鳥瞰図画像は拡張鳥瞰図画像となり、車両の後方および両側の鳥瞰図画像は通常の鳥瞰図画像となる。そして、ステップS48に進む。
【0097】
車両が後退していると判別された場合には(ステップS43でNO,ステップS44でNO)、各カメラ1F、1B、1L、1R毎の後退時用座標変換テーブルを用いて、各カメラ1F、1B、1L、1Rに対応する入力画像Iから後退時用全周鳥瞰図画像を生成する(ステップS47)。この場合、全周鳥瞰図画像のうち、車両の後方の鳥瞰図画像は拡張鳥瞰図画像となり、車両の後方および両側の鳥瞰図画像は通常の鳥瞰図画像となる。そして、ステップS48に進む。
【0098】
ステップS48では、全周鳥瞰図画像に各カメラ1F、1B、1L、1Rに対応する鳥瞰図画像の境界部に黒線画像を合成するとともに、拡張鳥瞰図画像内において通常の鳥瞰図と擬似鳥瞰図との境界部に破線画像を合成する。このようにして得られた画像をモニタ(表示器)13に表示する(ステップS49)。
【0099】
図12(a)は停止時用全周鳥瞰図画像を、図12(b)は前進時用全周鳥瞰図画像を、図12(c)は後退時用全周鳥瞰図画像を、それぞれ示している。図12において、Cは車両を示し、SF、SB、SL、SRは、それぞれカメラ1F、1B、1L、1Rの撮像画像から得られた鳥瞰図画像を示している。
【0100】
図12(a)の停止時用全周鳥瞰図画像おいては、SFおよびSBが拡張鳥瞰図画像となり、SLおよびSRが通常の鳥瞰図画像となる。SF内に示された破線LはSF内の通常の鳥瞰図画像と擬似鳥瞰図画像との境界を示し、SB内に示された破線LはSB内の通常の鳥瞰図画像と擬似鳥瞰図画像との境界を示している。
【0101】
図12(b)の前進時用全周鳥瞰図画像においては、SFが拡張鳥瞰図画像となり、SB、SLおよびSRが通常の鳥瞰図画像となる。SF内に示された破線LはSF内の通常の鳥瞰図画像と擬似鳥瞰図画像との境界を示している。
【0102】
図12(c)の後退時用全周鳥瞰図画像においては、SBが拡張鳥瞰図画像となり、SF、SLおよびSRが通常の鳥瞰図画像となる。SB内に示された破線LはSB内の通常の鳥瞰図画像と擬似鳥瞰図画像との境界を示している。
【0103】
なお、レンズ歪補正も考慮して、各カメラ1F、1B、1L、1Rによって撮像された画像(原画像)をレンズ歪み補正して停止時用全周鳥瞰図画像に変換するための停止時座標変換テーブル、各カメラ1F、1B、1L、1Rによって撮像された画像をレンズ歪み補正して前進時用全周鳥瞰図画像に変換するための前進時座標変換テーブル、各カメラ1F、1B、1L、1Rによって撮像された画像をレンズ歪み補正して後退時用全周鳥瞰図画像に変換するための後退時座標変換テーブルを予め用意しておき、各カメラ1F、1B、1L、1Rによって撮像された画像から、これらの座標変換テーブルを用いて停止時用全周鳥瞰図画像、前進時用全周鳥瞰図画像および後退時用全周鳥瞰図画像を生成するようにしてもよい。
【図面の簡単な説明】
【0104】
【図1】自動車に設けられた運転支援システムの構成を示している。
【図2】画像処理ユニット2による処理手順を示すフローチャートである。
【図3】カメラ座標系XYZと、カメラ1の撮像面Sの座標系XbuYbuと、2次元地面座標系Xw Zw を含む世界座標系Xw Yw Zw との関係を示す模式図である。
【図4】画像処理ユニット2による処理手順を示すフローチャートである。
【図5】入力画像と、従来手法によって生成された鳥瞰図画像と、本発明手法によって生成された鳥瞰図画像とを示す模式図である。
【図6】カメラ1F、1B、1L、1Rの配置例を示す平面図である。
【図7】図6の側面図である。
【図8】各カメラ1F、1B、1L、1Rを原点として、各カメラ1F、1B、1L、1Rで撮像された画像から得られる鳥瞰図画像10F、10B、10L、10Rを示す模式図である。
【図9】図8の後側カメラ1Bに対する鳥瞰図画像10Bを基準として、他の3つの鳥瞰図画像10F、10L、10Rを回転と平行移動により、後側カメラ1Bの鳥瞰図画像座標に変換することにより、4つの鳥瞰図画像10F、10B、10L、10Rが合成されることを示す模式図である。
【図10】自動車に設けられた運転支援システムの電気的構成を示すブロック図である。
【図11】画像処理ユニット12による処理手順を示すフローチャートである。
【図12】停止時用全周鳥瞰図画像、前進時用全周鳥瞰図画像および後退時用全周鳥瞰図画像を示す模式図である。
【符号の説明】
【0105】
1 カメラ
2 画像処理ユニット
3 モニタ
1F、1B、1L、1R カメラ
12 画像処理ユニット
13 モニタ
【技術分野】
【0001】
この発明は、運転支援システムに関する。
【背景技術】
【0002】
自動車などの運転手にとって、バックするときには、死角が生じるため後方確認が難しくなる。そこで、運転手の死角となりやすい車両の後方を監視する車載カメラを装備し、その撮像画像をカーナビゲーション等の画面に表示するシステムが既に開発されている。
【0003】
しかしながら、広範囲を映し出すために広角レンズを用いると映像にレンズ歪みが生じる。さらに、カメラから離れるほど通常のレンズより小さく映り、撮像画像からでは車両後方の距離やスペースを把握しにくくなる。
【0004】
そこで、カメラの映像を単に表示するのではなく、画像処理技術を利用して、より人間に優しい映像を見せる研究がなされている。その1つに、撮影した画像を座標変換して、地面の上方から眺めたような鳥瞰図画像を生成して、表示するものがある(特開平10−211849号公報、特開2002−87160号公報参照)。上方からの鳥瞰図を表示することによって、運転手は車両後方の距離やスペースを把握し易くなる。
【0005】
鳥瞰図画像を生成して表示するシステムでは、地面の上方から眺めた見やすい画像を運転手に提示することができるが、本来高さを持つ物体が平面に投影されるため、物体の高さ情報を失い、物体を知覚しにくくなるという欠点がある。また、地面を基準とした座標変換を行うため、地面と高さの異なる物体は、地面との高低差により、その物体の形状を正しく保つことができない。
【0006】
特に、車両から距離が離れるほど、地面との高さの少しの差が鳥瞰図画像上では顕著に現れ、非常に高い物体のように見えてしまう。つまり、車両から離れた領域では、鳥瞰図画像の画質が劣化しかつ物体の形状が正しく表示されないため、視認性が悪くなる。
【0007】
そこで、生成された鳥瞰図画像のうち、車両から離れた領域を削除し、車両近傍のみ を表示したり、鳥瞰図画像と原画像との両方を別々に表示したりしている。前者では視野が狭くなってしまうし、後者ではモニタが2つ必要となるという問題がある。
【0008】
また、駐車のための運転支援装置として、複数のカメラから得た映像を幾何変換によって全周鳥瞰図画像に変換して、モニタに表示させる装置が開発されている。この装置では、車両全周のシーンを上空から見た映像を運転手に提示することができるため、車両の周辺を360度死角なくカバーできるという長所がある。しかしながら、鳥瞰図画像では、高さのある障害物も平面へ投影されるため、高さの情報を失い、車両から離れるにつれ障害物の形状が変形する。また、表示画面の大きさが限られているため、鳥瞰図画像では遠方を充分に表示できない。
【特許文献1】特開平10−211849号公報
【特許文献2】特開2002−87160号公報
【発明の開示】
【発明が解決しようとする課題】
【0009】
この発明は、車両から離れた領域においても高い視認性が得られる運転支援システムを提供することを目的とする。
【課題を解決するための手段】
【0010】
請求項1に記載の発明は、車両に搭載された表示器、車両に搭載された車両周辺を撮像する撮像装置、撮像画像のうち車両からの距離が所定の閾値以内の領域の画像に対しては、予め設定された水平面に対する撮像装置の傾き角度を座標変換時の回転角として設定し、撮像画像のうち車両からの距離が所定の閾値より大きい領域の画像に対しては、予め設定された水平面に対する撮像装置の傾き角度と車両からの距離とに基づいて座標変換時の回転角を算出して設定する回転量設定手段、撮像画像の座標を、その座標に対応する画像に対して回転角設定手段によって設定された回転角を用いて鳥瞰図座標に変換することにより、拡張鳥瞰図画像を生成する鳥瞰図画像生成手段、および鳥瞰図画像生成手段によって得られた拡張鳥瞰図画像を表示器に表示させる手段を備えていることを特徴とする。
【0011】
請求項2に記載の発明は、請求項1に記載の発明において、回転量設定手段は、撮像画像のうち車両からの距離が所定の閾値より大きい領域の画像に対しては、車両からの距離が大きいほど座標変換時の回転角が小さくなるように、座標変換時の回転角を算出するものであることを特徴とする。
【0012】
請求項3に記載の発明は、請求項1乃至2に記載の発明において、回転量設定手段は、撮像画像の座標を地面座標に変換するための変換式を用いて、撮像画像の各部に対する車両からの距離を算出する第1手段、および撮像画像の各部毎に、予め設定された水平面に対する撮像装置の傾き角度と、第1手段によって算出された距離と、予め設定された所定の閾値とに基づいて、座標変換時の回転角を決定して設定する第2手段を備えていることを特徴とする。
【0013】
請求項4に記載の発明は、車両に搭載された表示器、車両に搭載された車両周辺を撮像する撮像装置、撮像画像の座標を、請求項1に記載の拡張鳥瞰図画像の座標に変換するための座標変換テーブル、撮像画像の座標を、座標変換テーブルを用いて拡張鳥瞰図画像の座標に変換することにより、拡張鳥瞰図画像を生成する鳥瞰図画像生成手段、および鳥瞰図画像生成手段によって得られた拡張鳥瞰図画像を表示器に表示させる手段を備えていることを特徴とする。
【0014】
請求項5に記載の発明は、車両に搭載された表示器、車両の少なくとも前後に搭載されかつ車両の周辺を撮像する複数の撮像装置、各撮像装置に撮像された撮像画像から、車両の進行方向に応じた複数種類の全周鳥瞰図画像を生成する全周鳥瞰図画像生成手段、ならびに全周鳥瞰図画像生成手段によって得られた拡張鳥瞰図画像を表示器に表示させる手段を備えており、全周鳥瞰図画像は各撮像装置の撮像装置から得られる鳥瞰図画像を合成することにより生成されており、全周鳥瞰図画像生成手段は、車両の進行方向に対応した方向の撮像画像像から請求項1に記載の拡張鳥瞰図画像を生成し、他の方向の撮像画像から通常の鳥瞰図画像を生成して、これらの鳥瞰図画像が合成された全周鳥瞰図画像を生成して、これらの鳥瞰図画像が合成された全周鳥瞰図画像を生成するものであることを特徴とする。
【0015】
請求項6に記載の発明は、車両に搭載された表示器、車両の前後左右に搭載されかつ車両周辺を撮像する複数の撮像装置、各撮像装置に撮像された撮像画像から、車両が前進している場合、および車両が後退している場合のそれぞれに応じた種類の全周鳥瞰図画像を生成する全周鳥瞰図画像生成手段、ならびに全周鳥瞰図画像生成手段によって得られた拡張鳥瞰図画像を表示器に表示させる手段を備えており、全周鳥瞰図画像は各撮像装置の撮像装置から得られる鳥瞰図画像を合成することにより生成されており、全周鳥瞰図画像生成手段は、車両が前進している場合には、前側の撮像装置によって撮像された撮像画像から請求項1に記載の拡張鳥瞰図画像を生成し、後側および左右の撮像装置によって撮像された撮像画像から通常の鳥瞰図画像を生成して、これらの鳥瞰図画像が合成された第1の全周鳥瞰図画像を生成し、車両が後退している場合には、後側の撮像装置によって撮像された撮像画像から請求項1に記載の拡張鳥瞰図画像を生成し、前側および左右の撮像装置によって撮像された撮像画像から通常の鳥瞰図画像を生成して、これらの鳥瞰図画像が合成された第2の全周鳥瞰図画像を生成するものであることを特徴とする運転支援システム。
【0016】
請求項7に記載の発明は、請求項6に記載の発明において、全周鳥瞰図画像生成手段は、各撮像装置によって撮像される撮像画像の座標を、上記第1の全周鳥瞰図画像の座標に変換するための第1の座標変換テーブル、各撮像装置によって撮像される撮像画像の座標を、上記第2の全周鳥瞰図画像の座標に変換するための第2の座標変換テーブル、車両が前進している場合には、各撮像装置によって撮像された撮像画像の座標を、第1の座標変換テーブルを用いて第1の全周鳥瞰図画像の座標に変換することにより、第1の全周鳥瞰図画像を生成する第1の全周鳥瞰図画像生成手段、および車両が後退している場合には、各撮像装置によって撮像された撮像画像の座標を、第2の座標変換テーブルを用いて第2の全周鳥瞰図画像の座標に変換することにより、第2の全周鳥瞰図画像を生成する第2の全周鳥瞰図画像生成手段を備えていることを特徴とする。
【0017】
請求項8に記載の発明は、車両に搭載された表示器、車両の前後左右に搭載されかつ車両周辺を撮像する複数の撮像装置、各撮像装置に撮像された撮像画像から、車両が停止している場合、車両が前進している場合、および車両が後退している場合のそれぞれに応じた種類の全周鳥瞰図画像を生成する全周鳥瞰図画像生成手段、ならびに全周鳥瞰図画像生成手段によって得られた拡張鳥瞰図画像を表示器に表示させる手段を備えており、全周鳥瞰図画像は各撮像装置の撮像装置から得られる鳥瞰図画像を合成することにより生成されており、全周鳥瞰図画像生成手段は、車両が停止している場合には、前後の撮像装置によって撮像された撮像画像から請求項1に記載の拡張鳥瞰図画像を生成し、左右の撮像装置によって撮像された撮像画像から通常の鳥瞰図画像を生成して、これらの鳥瞰図画像が合成された第1の全周鳥瞰図画像を生成し、車両が前進している場合には、前側の撮像装置によって撮像された撮像画像から請求項1に記載の拡張鳥瞰図画像を生成し、後側および左右の撮像装置によって撮像された撮像画像から通常の鳥瞰図画像を生成して、これらの鳥瞰図画像が合成された第2の全周鳥瞰図画像を生成し、車両が後退している場合には、後側の撮像装置によって撮像された撮像画像から請求項1に記載の拡張鳥瞰図画像を生成し、前側および左右の撮像装置によって撮像された撮像画像から通常の鳥瞰図画像を生成して、これらの鳥瞰図画像が合成された第3の全周鳥瞰図画像を生成するものであることを特徴とする。
【0018】
請求項9に記載の発明は、請求項8に記載の発明において、全周鳥瞰図画像生成手段は、各撮像装置によって撮像される撮像画像の座標を、上記第1の全周鳥瞰図画像の座標に変換するための第1の座標変換テーブル、各撮像装置によって撮像される撮像画像の座標を、上記第2の全周鳥瞰図画像の座標に変換するための第2の座標変換テーブル、各撮像装置によって撮像される撮像画像の座標を、上記第3の全周鳥瞰図画像の座標に変換するための第3の座標変換テーブル、車両が停止している場合には、各撮像装置によって撮像された撮像画像の座標を、第1の座標変換テーブルを用いて第1の全周鳥瞰図画像の座標に変換することにより、第1の全周鳥瞰図画像を生成する第1の全周鳥瞰図画像生成手段、車両が前進している場合には、各撮像装置によって撮像された撮像画像の座標を、第2の座標変換テーブルを用いて第2の全周鳥瞰図画像の座標に変換することにより、第2の全周鳥瞰図画像を生成する第2の全周鳥瞰図画像生成手段、および車両が後退している場合には、各撮像装置によって撮像された撮像画像の座標を、第3の座標変換テーブルを用いて第3の全周鳥瞰図画像の座標に変換することにより、第3の全周鳥瞰図画像を生成する第3の全周鳥瞰図画像生成手段を備えていることを特徴とする。
【発明の効果】
【0019】
この発明によれば、車両から離れた領域においても高い視認性が得られるようになる。
【発明を実施するための最良の形態】
【0020】
以下、図面を参照して、この発明の実施例について説明する。
【実施例1】
【0021】
図1は、自動車に設けられた運転支援システムの構成を示している。
本発明の特徴は鳥瞰図画像の生成方法にあり、本発明手法によって生成される鳥瞰図画像は、従来手法によって生成される鳥瞰図画像と異なるものである。そこで、本発明手法によって生成される鳥瞰図画像を拡張鳥瞰図画像と呼ぶことにする。
【0022】
運転支援システムは、車両の後部に後方斜め下向きに配置されたカメラ(撮像装置)1と、車両内に設けられかつカメラ1によって撮像された画像から拡張鳥瞰図画像を生成するための画像処理ユニット2と、車両内のダッシュボードに配置されかつ画像処理ユニット2によって生成された拡張鳥瞰図画像を表示するモニタ(表示器)3とを備えている。
【0023】
カメラ1としては、例えば、CCDカメラが用いられる。画像処理ユニット2としては、例えば、マイクロコンピュータが用いられる。モニタ3としては、例えば、ナビゲーションシステムのモニタが用いられる。
【0024】
水平面とカメラ1の光軸とのなす角は、図1にαで表される角度と、βで表される角度との2種類がある。αは、一般的には、見下ろし角または俯角αと呼ばれている。この明細書では、角度βを水平面に対するカメラ1の傾き角度θoということにする。
【0025】
図2は、画像処理ユニット2による処理手順を示している。
カメラ1の地面からの高さh、水平面に対するカメラ1の傾き角度θo、カメラ1のレンズ焦点距離f、カメラ1のレンズ歪み補正値等のパラメータは、予め設定されているものとする。
【0026】
まず、カメラ1の撮像画像を読み込む(ステップS1)。次にレンズ歪み補正を行う(ステップS2)。以下、レンズ歪み補正によって得られた画像を入力画像Iと呼び、入力画像Iの各画素の画像を入力画素画像I(xbu,ybu)と呼ぶことにする。
【0027】
次に、1つの入力画素画像I(xbu,ybu)を注目画素画像として、注目画素画像I(xbu,ybu)に対応する車両からの距離Dを算出する(ステップS3)。この処理の詳細については、後述する。
【0028】
次に、注目画素画像I(xbu,ybu)に対応する距離Dが予め設定された閾値Dthより大きいか否かを判別する(ステップS4)。距離Dが閾値Dth以下の場合には、透視変換(座標変換)に用いる回転量(回転角)θをカメラ1の取り付け角度θoに設定した後(ステップS5)、ステップS7に進む。
【0029】
上記ステップS4において、距離Dが閾値Dthより大きいと判別した場合には、次式(1)によって透視変換(座標変換)に用いる回転量θを算出した後(ステップS6)、ステップS7に進む。
【0030】
θ=θo−k(D−Dth) …(1)
【0031】
kは予め設定された係数である。θの最小値が90度以上になるようにkは設定されている。上記式(1)によれば、距離Dが閾値Dthより大きくなるほど、θは小さくなる。
【0032】
ステップ7では、回転量をθとして透視変換を行うことにより、注目画素画像I(xbu,ybu)の座標を2次元地面座標系XwZwの座標に変換する。この処理の詳細については、後述する。
【0033】
そして、全ての入力画素画像I(xbu,ybu)に対してステップ7の透視変換が完了したか否かを判別する(ステップS8)。全ての入力画素画像I(xbu,ybu)に対してステップ7の透視変換が完了してない場合には、注目画素画像を次の入力画素画像I(xbu,ybu)に更新した後(ステップS9)、ステップS3に戻る。
【0034】
上記ステップS8において、全ての入力画素画像I(xbu,ybu)に対してステップ7の透視変換が完了したと判別した場合には、入力画像Iに対応する上記透視変換後の画像から拡張鳥瞰図画像を生成する(ステップS10)。この処理の詳細については、後述する。そして、生成した拡張鳥瞰図画像をモニタ3に表示する。そして、ステップS1に戻る。
【0035】
上記ステップS3、S7およびS10の処理の詳細について説明する。
【0036】
図3は、カメラ座標系XYZと、カメラ1の撮像面Sの座標系XbuYbuと、2次元地面座標系Xw Zw を含む世界座標系Xw Yw Zw との関係を示している。
【0037】
カメラ座標系XYZでは、カメラの光学中心を原点Oとして、光軸方向にZ軸が、Z軸に直交しかつ地面に平行な方向にX軸が、Z軸およびX軸に直交する方向にY軸がとられている。撮像面Sの座標系XbuYbuでは、撮像面Sの中心に原点をとり、撮像面Sの横方向にXbu軸が、撮像面Sの縦方向にYbuが取られている。
【0038】
世界座標系Xw Yw Zw では、カメラ座標系XYZの原点Oを通る垂線と地面との交点を原点Ow とし、地面と垂直な方向にYw 軸が、カメラ座標系XYZのX軸と平行な方向にXw 軸が、Xw 軸およびYw 軸に直交する方向にZw 軸がとられている。
【0039】
世界座標系Xw Yw Zw とカメラ座標系XYZとの間の平行移動量は〔0,h,0〕であり、X軸周りの回転量はθ(=θo)である。
【0040】
したがって、カメラ座標系XYZの座標(x,y,z)と世界座標系Xw Yw Zw の座標(xw ,yw ,zw )との間の変換式は、次式(2)で表される。
【0041】
【数1】
【0042】
また、撮像面Sの座標系XbuYbuの座標(xbu,ybu)と、カメラ座標系XYZの座標(x,y,z)との間の変換式は、カメラ1の焦点距離をfとすると、次式(3)で表される。
【0043】
【数2】
【0044】
上記式(2)、(3)から、撮像面Sの座標系XbuYbuの座標(xbu,ybu)と二次元地面座標系Xw Zw の座標(xw ,zw )との間の変換式(4)が得られる。
【0045】
【数3】
【0046】
また、二次元地面座標系Xw Zw から仮想カメラの鳥瞰図座標系XauYauへの投影は、平行投影によって行われる。カメラ1の焦点距離をfとし、仮想カメラの高さ位置をHとすると、二次元地面座標系Xw Zw の座標(xw ,zw )と鳥瞰図座標系XauYauの座標(xau,yau)との間の変換式は、次式(5)で表される。仮想カメラの高さ位置Hは予め設定されている。
【0047】
【数4】
【0048】
上記ステップS3においては、撮像面Sの座標系XbuYbuの座標(xbu,ybu)と二次元地面座標系Xw Zw の座標(xw ,zw )との間の変換式(4)を用いて、注目画素画像I(xbu,ybu)の座標(xbu,ybu)に対応する二次元地面座標系Xw Zw の座標(xw ,zw )を算出し、得られた座標zw を注目画素画像I(xbu,ybu)に対応する距離Dとする。この場合、変換式(4)内のθは常にθoである。
【0049】
上記ステップS7では、ステップS5またはステップ6によって与えられたθと上記変換式(4)を用いて、注目画素画像I(xbu,ybu)の座標(xbu,ybu)を、二次元地面座標系Xw Zw の座標(xw ,zw )に変換する。このような処理が全ての入力画素画像I(xbu,ybu)に対して行われることにより、入力画像Iが二次元地面座標系Xw Zw の画像Iw に変換される。
【0050】
上記ステップS10では、二次元地面座標系Xw Zw の座標(xw ,zw )と鳥瞰図座標系XauYauの座標(xau,yau)との間の変換式(5)を用いて、二次元地面座標系Xw Zw の画像Iw の座標(xw ,zw )を鳥瞰図座標系XauYauの座標(xau,yau)に変換する。これにより、拡張鳥瞰図画像が生成される。
【0051】
上記実施例では、入力画像Iのうち、車両からの距離Dが閾値Dth以下の範囲内の画像に対しては、通常の鳥瞰図画像の生成手法と同様に、回転量θとしてθoを用いて座標変換が行なわれることにより、鳥瞰図画像が生成される。そして、入力画像Iのうち、車両からの距離Dが閾値Dthより大きな範囲内の画像に対しては、距離Dが閾値Dthより大きくなるほどθは小さくなるようにθが設定され、設定されたθを用いて座標変換が行なわれることにより、通常の鳥瞰図画像とは異なる鳥瞰図画像が生成される。後者の通常の鳥瞰図画像とは異なる鳥瞰画画像を擬似鳥瞰画像と呼ぶことにすると、拡張鳥瞰図画像は、車両からの距離Dが閾値Dth以下の範囲内の画像に対して生成された通常の鳥瞰図画像と、車両からの距離Dが閾値Dthより大きな範囲内の画像に対して生成された擬似鳥瞰図画像とが合成されたものとなる。
【実施例2】
【0052】
上記実施例1では、入力画像Iの座標を二次元地面座標系Xw Zw の座標に変換し、この後、鳥瞰図座標系XauYauの座標に変換しているが、入力画像Iの座標を直接鳥瞰図座標系XauYauの座標に変換することも可能である。
【0053】
まず、入力画像Iの座標(xbu,ybu)を、鳥瞰図座標系XauYauの座標(xau,yau)に変換するための式について説明する。
【0054】
上記式(5)から、次式(6)が得られる。
【0055】
【数5】
【0056】
得られた式(6)を上記式(4)に代入すると、次式(7)が得られる。
【0057】
【数6】
【0058】
上記式(7)から、入力画像Iの座標(xbu,ybu)を、鳥瞰図座標系XauYauの座標(xau,yau)に変換するための式(8)が得られる。
【0059】
【数7】
【0060】
図4は、画像処理ユニット2による処理手順を示している。
【0061】
カメラ1の地面からの高さh、カメラ1の水平面に対する傾斜角度θo、カメラ1のレンズ焦点距離f、カメラ1のレンズ歪み補正値等のパラメータは、予め設定されているものとする。
【0062】
まず、カメラ1の撮像画像を読み込む(ステップS21)。次にレンズ歪み補正を行う(ステップS22)。以下、レンズ歪み補正によって得られた画像を入力画像Iと呼び、入力画像Iの各画素の画像を入力画素画像I(xbu,ybu)と呼ぶことにする。
【0063】
次に、1つの入力画素画像I(xbu,ybu)を注目画素画像として、注目画素画像I(xbu,ybu)に対応する車両からの距離Dを算出する(ステップS23)。この処理は、図2のステップS3と同じである。
【0064】
次に、注目画素画像I(xbu,ybu)に対応する距離Dが予めかじめ設定された閾値Dthより大きいか否かを判別する(ステップS24)。距離Dが閾値Dth以下の場合には、回転量θをカメラ1の取り付け角度θoに設定した後(ステップS25)、ステップS27に進む。
【0065】
上記ステップS24において、距離Dが閾値Dthより大きいと判別した場合には、上記式(1)によって回転量θを算出した後(ステップS26)、ステップS27に進む。
【0066】
ステップ27では、ステップS25またはステップ26によって与えられたθと上記変換式(8)を用いて、注目画素画像I(xbu,ybu)の座標(xbu,ybu)を、鳥瞰図座標系XauYauの座標(xau,yau)に変換する。
【0067】
そして、全ての入力画素画像I(xbu,ybu)に対してステップ27の座標変換が完了したか否かを判別する(ステップS28)。全ての入力画素画像I(xbu,ybu)に対してステップ27の座標変換が完了してない場合には、注目画素画像を次の入力画素画像I(xbu,ybu)に更新した後(ステップS29)、ステップS23に戻る。
【0068】
全ての入力画素画像I(xbu,ybu)に対してステップ27の座標変換が完了すると(ステップS28でYES)、全ての入力画素画像I(xbu,ybu)の座標(xbu,ybu)が鳥瞰図座標系XauYauの座標(xau,yau)に変換されているので、鳥瞰図画像(拡張鳥瞰図画像)を生成してモニタ3に表示する(ステップS30)。そして、ステップS21に戻る。
【実施例3】
【0069】
実施例3では、上記実施例1または上記実施例2の手法に基づいて、入力画像I(レンズ歪み補正によって得られた画像)の各画素の座標に対応する拡張鳥瞰図画像上の座標を予め求めておき、これを画像変換テーブルとして記憶手段に記憶しておく。そして、入力画像Iを、画像変換テーブルを用いて、拡張鳥瞰図画像に変換する。
【0070】
なお、レンズ歪補正も考慮して、カメラ1によって撮像された画像(原画像)を、歪み補正して拡張鳥瞰図画像に変換するための座標変換テーブルを用意しておき、カメラ1によって撮像された画像から、この座標変換テーブルを用いて拡張鳥瞰図画像を生成するようにしてもよい。
【0071】
通常の鳥瞰図画像と、拡張鳥瞰図画像との違いについて説明する。図5(a)は、入力画像Iの一例を示している。図5(b)は、入力画像の全ての領域に対して回転角θを一定とすることによって得られた鳥瞰図画像を示している。つまり、図5(b)は、従来手法によって生成された通常の鳥瞰図画像を示している。図5(c)は、上記実施例のように、車両からの距離Dに応じて回転角θを設定することにより得られた拡張鳥瞰図画像を示している。つまり、図5(c)は、本発明手法によって生成された鳥瞰図画像を示している。
【0072】
図5(a)において、Aは地面上に描画された白枠であり、Bは車両の近傍において地面上に置かれた平面状物体である。また、Cは車両から離れた所に置かれた円錐台形の物体である。
【0073】
図5(b)から分かるように、従来手法によって生成された通常の鳥瞰図画像では、車両からの離れた所に置かれた物体Cは縦方向に大きく伸ばされ、見にくくなっている。これに対して、図5(c)に示す拡張鳥瞰図画像では、物体Cの伸張度が低く抑えられ、視認性が良くなっていることがわかる。つまり、本発明手法によって生成された鳥瞰図画像では、車両近傍付近の領域に対しては距離やスペースが把握しやすくなる画像となり、車両から離れた領域においては物体の変形が抑えられた画像となるため、視認性が向上する。
【実施例4】
【0074】
第4実施例では、図6および図7に示すように、車両の前部、後部、左側部および右側部それぞれに、カメラ(撮像装置)1F、1B、1L、1Rが設けられている。カメラ1Fは前方斜め下向きに配置され、カメラ1Bは後方斜め下向きに配置され、カメラ1Lは左方向斜め下向きに配置され、カメラ1Fは右方向斜め下向きに配置されている。
【0075】
第4実施例では、これら4台のカメラ1F、1B、1L、1Rによって撮像された画像から、車両が停止している場合、車両が前進している場合および車両が後退している場合に応じて、種類の異なる全周鳥瞰図画像を生成することに特徴がある。
【0076】
そこで、全周鳥瞰図画像の生成方法の基本的な考え方について説明する。
【0077】
図8に示すように、各カメラ1F、1B、1L、1Rを原点として、各カメラ1F、1B、1L、1Rで撮像された画像から鳥瞰図画像10F、10B、10L、10Rを生成する。次に、図9に示すように、各カメラ1F、1B、1L、1R毎に生成された鳥瞰図画像10F、10B、10L、10Rを、後側カメラ1Bに対する鳥瞰図画像10Bを基準として、他の3つの鳥瞰図画像10F、10L、10Rを回転と平行移動により、後側カメラ1Bの鳥瞰図画像座標に変換する。これにより、4つの鳥瞰図画像10F、10B、10L、10Rが合成され、全周鳥瞰図画像が生成される。全周鳥瞰図画像において、各鳥瞰図画像10F、10B、10L、10Rの境界が認識できるように、各鳥瞰図画像10F、10B、10L、10Rの境界部に黒線等の境界線を入れることが好ましい。
【0078】
車両が停止している場合には、前後方向の遠望領域を見やすくするとともに前後方向にある障害物を見やすくするため、前側カメラ1Fおよび後側カメラ1Bの撮像画像に対応する鳥瞰図画像として拡張鳥瞰図画像が生成され、左側カメラ1Lおよび右側カメラ1Rの撮像画像に対応する鳥瞰図画像として通常の鳥瞰図画像が生成され、これらの鳥瞰図画像が合成されることにより全周鳥瞰図画像が生成される。
【0079】
車両が前進している場合には、前方の遠望領域を見やすくするとともに前方にある障害物を見やすくするため、前側カメラ1Fの撮像画像に対応する鳥瞰図画像として拡張鳥瞰図画像が生成され、後側カメラ1B、左側カメラ1Lおよび右側カメラ1Rの撮像画像に対応する鳥瞰図画像として通常の鳥瞰図画像が生成され、これらの鳥瞰図画像が合成されることにより全周鳥瞰図画像が生成される。
【0080】
車両が後退している場合には、後方の遠望領域を見やすくするとともに後方にある障害物を見やすくするため、後側カメラ1Bの撮像画像に対応する鳥瞰図画像として拡張鳥瞰図画像が生成され、前側カメラ1F、左側カメラ1Lおよび右側カメラ1Rの撮像画像に対応する鳥瞰図画像として通常の鳥瞰図画像が生成され、これらの鳥瞰図画像が合成されることにより全周鳥瞰図画像が生成される。
【0081】
なお、上述したように、拡張鳥瞰図画像は、車両からの距離が所定距離以下の範囲内の画像に対して生成された通常の鳥瞰図画像と、車両からの距離が所定距離より大きな範囲内の画像に対して生成された擬似鳥瞰図画像とが合成されたものとなるので、拡張鳥瞰図画像において、通常の鳥瞰図画像と擬似鳥瞰図画像との境界を認識しやすくするために、通常の鳥瞰図画像と擬似鳥瞰図画像との境界部に破線等の境界線を入れることが好ましい。
【0082】
ところで、第3実施例で説明したように、入力画像I(カメラの撮像画像に対してレンズ歪み補正が行なわれた画像)の各画素の座標に対応する拡張鳥瞰図画像上の座標を予め求めることができる。
【0083】
また、拡張鳥瞰図画像と通常の鳥瞰図画像との違いは、上記式(8)(または上記式(4))中のθが、拡張鳥瞰図画像では画素位置に応じて変化するのに対し、通常の鳥瞰図画像ではθが画素位置に係わらず一定であるだけであるので、入力画像I(レンズ歪み補正によって得られた画像)の各画素の座標に対応する通常の鳥瞰図画像上の座標も予め求めることは可能である。
【0084】
さらに、各カメラ1F、1B、1L、1Rに対応する鳥瞰図画像(通常の鳥瞰図画像または拡張鳥瞰図画像)上の座標の、全周鳥瞰図画像上の座標への変換は、所定の回転と所定の平行移動とによって行なわれる。つまり、各カメラの撮像画像の歪み補正後の入力画像Iを鳥瞰図画像または拡張鳥瞰図画像に変換し、得られた鳥瞰図画像または拡張鳥瞰図画像を全周鳥瞰図画像に変換するための変換パラメータは全て固定値となる。
【0085】
そこで、車両が停止している場合、車両が前進している場合および車両が後退している場合それぞれについて、各カメラ1F、1B、1L、1Rから得られた入力画像I((レンズ歪み補正によって得られた画像)の各画素の座標に対応する全周鳥瞰図画像上の座標を予め求めることができる。
【0086】
この実施例では、各カメラ1F、1B、1L、1R毎に、車両が停止している場合、車両が前進している場合および車両が後退している場合それぞれについて、カメラから得られた入力画像I(レンズ歪み補正によって得られた画像)の各画素の座標を全周鳥瞰図画像上の座標に変換するための座標変換テーブルが予め用意されている。
【0087】
図10は、自動車に設けられた運転支援システムの電気的構成を示している。
【0088】
運転支援システムは、カメラ1F、1B、1L、1Rによって撮像された画像から3種類の全周鳥瞰図画像を生成するための画像処理ユニット12と、車両内のダッシュボードに配置されかつ画像処理ユニット12によって生成された全周鳥瞰図画像を表示するモニタ(表示器)13とを備えている。なお、画像処理ユニット12には、車両が停止しているか否かおよび車両の進行方向(前進または後退)を示す車両ギヤセンサ(図示略)からのギヤ位置を表す信号が入力される。
【0089】
カメラ1F、1B、1L、1Rとしては、例えば、CCDカメラが用いられる。画像処理ユニット12としては、例えば、マイクロコンピュータが用いられる。モニタ13としては、例えば、ナビゲーションシステムのモニタが用いられる。
【0090】
画像処理ユニット12内の記憶装置には、各カメラ1F、1B、1L、1R毎に、車両が停止している場合、車両が前進している場合および車両が後退している場合それぞれについて、カメラから得られた入力画像I(レンズ歪み補正によって得られた画像)の各画素の座標を全周鳥瞰図画像上の座標に変換するための座標変換テーブル(停止時用座標変換テーブル、前進時用座標変換テーブル、後退時用座標変換テーブル)が格納されている。
【0091】
なお、カメラ1Lに対する停止時用座標変換テーブル、前進時用座標変換テーブルおよび後退時用座標変換テーブルは、全て同じなので、カメラ1Lに対する座標変換テーブルは1つだけ用意すればよい。同様に、カメラ1Rに対する停止時用座標変換テーブル、前進時用座標変換テーブルおよび後退時用座標変換テーブルは、全て同じなので、カメラ1Rに対する座標変換テーブルは1つだけ用意すればよい。
【0092】
カメラ1Fに対する停止時用座標変換テーブルおよび前進時用座標変換テーブルは、同じであるので、カメラ1Fに対する座標変換テーブルとしては、停止時用兼前進用座標変換テーブルと、後退時用座標変換テーブルとの2種類を用意すればよい。カメラ1Bに対する停止時用座標変換テーブルおよび後退時用座標変換テーブルは、同じであるので、カメラ1Bに対する座標変換テーブルとしては、停止時用兼後退時用座標変換テーブルと、前進用座標変換テーブルとの2種類を用意すればよい。
【0093】
図11は、画像処理ユニット12による処理手順を示している。
【0094】
まず、各カメラ1F、1B、1L、1Rの撮像画像を読み込む(ステップS41)。次に読み込んだ各撮像画像に対してレンズ歪み補正を行う(ステップS42)。以下、レンズ歪み補正によって得られた画像を入力画像Iと呼ぶことにする。
【0095】
次に、車両ギヤセンサからのギヤ位置を表す信号に基づいて、車両が停止中であるか、車両が前進中であるか、後退中であるかを判定する(ステップS43、S44)。車両が停止中であると判別した場合には(ステップS43でYES)、各カメラ1F、1B、1L、1Rに対応する停止時用座標変換テーブルを用いて、各カメラ1F、1B、1L、1Rに対応する入力画像Iから停止時用全周鳥瞰図画像を生成する(ステップS45)。この場合、全周鳥瞰図画像のうち、車両の前方および後方の鳥瞰図画像は拡張鳥瞰図画像となり、車両の両側の鳥瞰図画像は通常の鳥瞰図画像となる。そして、ステップS48に進む。
【0096】
車両が前進していると判別された場合には(ステップS43でNO,ステップS44でYES)、各カメラ1F、1B、1L、1R毎の前進時用座標変換テーブルを用いて、各カメラ1F、1B、1L、1Rに対応する入力画像Iから前進時用全周鳥瞰図画像を生成する(ステップS46)。この場合、全周鳥瞰図画像のうち、車両の前方の鳥瞰図画像は拡張鳥瞰図画像となり、車両の後方および両側の鳥瞰図画像は通常の鳥瞰図画像となる。そして、ステップS48に進む。
【0097】
車両が後退していると判別された場合には(ステップS43でNO,ステップS44でNO)、各カメラ1F、1B、1L、1R毎の後退時用座標変換テーブルを用いて、各カメラ1F、1B、1L、1Rに対応する入力画像Iから後退時用全周鳥瞰図画像を生成する(ステップS47)。この場合、全周鳥瞰図画像のうち、車両の後方の鳥瞰図画像は拡張鳥瞰図画像となり、車両の後方および両側の鳥瞰図画像は通常の鳥瞰図画像となる。そして、ステップS48に進む。
【0098】
ステップS48では、全周鳥瞰図画像に各カメラ1F、1B、1L、1Rに対応する鳥瞰図画像の境界部に黒線画像を合成するとともに、拡張鳥瞰図画像内において通常の鳥瞰図と擬似鳥瞰図との境界部に破線画像を合成する。このようにして得られた画像をモニタ(表示器)13に表示する(ステップS49)。
【0099】
図12(a)は停止時用全周鳥瞰図画像を、図12(b)は前進時用全周鳥瞰図画像を、図12(c)は後退時用全周鳥瞰図画像を、それぞれ示している。図12において、Cは車両を示し、SF、SB、SL、SRは、それぞれカメラ1F、1B、1L、1Rの撮像画像から得られた鳥瞰図画像を示している。
【0100】
図12(a)の停止時用全周鳥瞰図画像おいては、SFおよびSBが拡張鳥瞰図画像となり、SLおよびSRが通常の鳥瞰図画像となる。SF内に示された破線LはSF内の通常の鳥瞰図画像と擬似鳥瞰図画像との境界を示し、SB内に示された破線LはSB内の通常の鳥瞰図画像と擬似鳥瞰図画像との境界を示している。
【0101】
図12(b)の前進時用全周鳥瞰図画像においては、SFが拡張鳥瞰図画像となり、SB、SLおよびSRが通常の鳥瞰図画像となる。SF内に示された破線LはSF内の通常の鳥瞰図画像と擬似鳥瞰図画像との境界を示している。
【0102】
図12(c)の後退時用全周鳥瞰図画像においては、SBが拡張鳥瞰図画像となり、SF、SLおよびSRが通常の鳥瞰図画像となる。SB内に示された破線LはSB内の通常の鳥瞰図画像と擬似鳥瞰図画像との境界を示している。
【0103】
なお、レンズ歪補正も考慮して、各カメラ1F、1B、1L、1Rによって撮像された画像(原画像)をレンズ歪み補正して停止時用全周鳥瞰図画像に変換するための停止時座標変換テーブル、各カメラ1F、1B、1L、1Rによって撮像された画像をレンズ歪み補正して前進時用全周鳥瞰図画像に変換するための前進時座標変換テーブル、各カメラ1F、1B、1L、1Rによって撮像された画像をレンズ歪み補正して後退時用全周鳥瞰図画像に変換するための後退時座標変換テーブルを予め用意しておき、各カメラ1F、1B、1L、1Rによって撮像された画像から、これらの座標変換テーブルを用いて停止時用全周鳥瞰図画像、前進時用全周鳥瞰図画像および後退時用全周鳥瞰図画像を生成するようにしてもよい。
【図面の簡単な説明】
【0104】
【図1】自動車に設けられた運転支援システムの構成を示している。
【図2】画像処理ユニット2による処理手順を示すフローチャートである。
【図3】カメラ座標系XYZと、カメラ1の撮像面Sの座標系XbuYbuと、2次元地面座標系Xw Zw を含む世界座標系Xw Yw Zw との関係を示す模式図である。
【図4】画像処理ユニット2による処理手順を示すフローチャートである。
【図5】入力画像と、従来手法によって生成された鳥瞰図画像と、本発明手法によって生成された鳥瞰図画像とを示す模式図である。
【図6】カメラ1F、1B、1L、1Rの配置例を示す平面図である。
【図7】図6の側面図である。
【図8】各カメラ1F、1B、1L、1Rを原点として、各カメラ1F、1B、1L、1Rで撮像された画像から得られる鳥瞰図画像10F、10B、10L、10Rを示す模式図である。
【図9】図8の後側カメラ1Bに対する鳥瞰図画像10Bを基準として、他の3つの鳥瞰図画像10F、10L、10Rを回転と平行移動により、後側カメラ1Bの鳥瞰図画像座標に変換することにより、4つの鳥瞰図画像10F、10B、10L、10Rが合成されることを示す模式図である。
【図10】自動車に設けられた運転支援システムの電気的構成を示すブロック図である。
【図11】画像処理ユニット12による処理手順を示すフローチャートである。
【図12】停止時用全周鳥瞰図画像、前進時用全周鳥瞰図画像および後退時用全周鳥瞰図画像を示す模式図である。
【符号の説明】
【0105】
1 カメラ
2 画像処理ユニット
3 モニタ
1F、1B、1L、1R カメラ
12 画像処理ユニット
13 モニタ
【特許請求の範囲】
【請求項1】
車両に搭載された表示器、
車両に搭載された車両周辺を撮像する撮像装置、
撮像画像のうち車両からの距離が所定の閾値以内の領域の画像に対しては、予め設定された水平面に対する撮像装置の傾き角度を座標変換時の回転角として設定し、撮像画像のうち車両からの距離が所定の閾値より大きい領域の画像に対しては、予め設定された水平面に対する撮像装置の傾き角度と車両からの距離とに基づいて座標変換時の回転角を算出して設定する回転量設定手段、
撮像画像の座標を、その座標に対応する画像に対して回転角設定手段によって設定された回転角を用いて鳥瞰図座標に変換することにより、拡張鳥瞰図画像を生成する鳥瞰図画像生成手段、および
鳥瞰図画像生成手段によって得られた拡張鳥瞰図画像を表示器に表示させる手段、
を備えていることを特徴とする運転支援システム。
【請求項2】
回転量設定手段は、撮像画像のうち車両からの距離が所定の閾値より大きい領域の画像に対しては、車両からの距離が大きいほど座標変換時の回転角が小さくなるように、座標変換時の回転角を算出するものであることを特徴とする請求項1に記載の運転支援システム。
【請求項3】
回転量設定手段は、撮像画像の座標を地面座標に変換するための変換式を用いて、撮像画像の各部に対する車両からの距離を算出する第1手段、および撮像画像の各部毎に、予め設定された水平面に対する撮像装置の傾き角度と、第1手段によって算出された距離と、予め設定された所定の閾値とに基づいて、座標変換時の回転角を決定して設定する第2手段を備えていることを特徴とする請求項1および2のいずれかに記載の運転支援システム。
【請求項4】
車両に搭載された表示器、
車両に搭載された車両周辺を撮像する撮像装置、
撮像画像の座標を、請求項1に記載の拡張鳥瞰図画像の座標に変換するための座標変換テーブル、
撮像画像の座標を、座標変換テーブルを用いて拡張鳥瞰図画像の座標に変換することにより、拡張鳥瞰図画像を生成する鳥瞰図画像生成手段、および
鳥瞰図画像生成手段によって得られた拡張鳥瞰図画像を表示器に表示させる手段、
を備えていることを特徴とする運転支援システム。
【請求項5】
車両に搭載された表示器、
車両の少なくとも前後に搭載されかつ車両の周辺を撮像する複数の撮像装置、
各撮像装置に撮像された撮像画像から、車両の進行方向に応じた複数種類の全周鳥瞰図画像を生成する全周鳥瞰図画像生成手段、ならびに
全周鳥瞰図画像生成手段によって得られた拡張鳥瞰図画像を表示器に表示させる手段を備えており、
全周鳥瞰図画像は各撮像装置の撮像装置から得られる鳥瞰図画像を合成することにより生成されており、全周鳥瞰図画像生成手段は、車両の進行方向に対応した方向の撮像画像像から請求項1に記載の拡張鳥瞰図画像を生成し、他の方向の撮像画像から通常の鳥瞰図画像を生成して、これらの鳥瞰図画像が合成された全周鳥瞰図画像を生成して、これらの鳥瞰図画像が合成された全周鳥瞰図画像を生成するものであることを特徴とする運転支援システム。
【請求項6】
車両に搭載された表示器、
車両の前後左右に搭載されかつ車両周辺を撮像する複数の撮像装置、
各撮像装置に撮像された撮像画像から、車両が前進している場合、および車両が後退している場合のそれぞれに応じた種類の全周鳥瞰図画像を生成する全周鳥瞰図画像生成手段、ならびに
全周鳥瞰図画像生成手段によって得られた拡張鳥瞰図画像を表示器に表示させる手段を備えており、
全周鳥瞰図画像は各撮像装置の撮像装置から得られる鳥瞰図画像を合成することにより生成されており、全周鳥瞰図画像生成手段は、車両が前進している場合には、前側の撮像装置によって撮像された撮像画像から請求項1に記載の拡張鳥瞰図画像を生成し、後側および左右の撮像装置によって撮像された撮像画像から通常の鳥瞰図画像を生成して、これらの鳥瞰図画像が合成された第1の全周鳥瞰図画像を生成し、車両が後退している場合には、後側の撮像装置によって撮像された撮像画像から請求項1に記載の拡張鳥瞰図画像を生成し、前側および左右の撮像装置によって撮像された撮像画像から通常の鳥瞰図画像を生成して、これらの鳥瞰図画像が合成された第2の全周鳥瞰図画像を生成するものであることを特徴とする運転支援システム。
【請求項7】
全周鳥瞰図画像生成手段は、
各撮像装置によって撮像される撮像画像の座標を、上記第1の全周鳥瞰図画像の座標に変換するための第1の座標変換テーブル、
各撮像装置によって撮像される撮像画像の座標を、上記第2の全周鳥瞰図画像の座標に変換するための第2の座標変換テーブル、
車両が前進している場合には、各撮像装置によって撮像された撮像画像の座標を、第1の座標変換テーブルを用いて第1の全周鳥瞰図画像の座標に変換することにより、第1の全周鳥瞰図画像を生成する第1の全周鳥瞰図画像生成手段、および
車両が後退している場合には、各撮像装置によって撮像された撮像画像の座標を、第2の座標変換テーブルを用いて第2の全周鳥瞰図画像の座標に変換することにより、第2の全周鳥瞰図画像を生成する第2の全周鳥瞰図画像生成手段、
を備えていることを特徴とする請求項6に記載の運転支援システム。
【請求項8】
車両に搭載された表示器、
車両の前後左右に搭載されかつ車両周辺を撮像する複数の撮像装置、
各撮像装置に撮像された撮像画像から、車両が停止している場合、車両が前進している場合、および車両が後退している場合のそれぞれに応じた種類の全周鳥瞰図画像を生成する全周鳥瞰図画像生成手段、ならびに
全周鳥瞰図画像生成手段によって得られた拡張鳥瞰図画像を表示器に表示させる手段を備えており、
全周鳥瞰図画像は各撮像装置の撮像装置から得られる鳥瞰図画像を合成することにより生成されており、全周鳥瞰図画像生成手段は、車両が停止している場合には、前後の撮像装置によって撮像された撮像画像から請求項1に記載の拡張鳥瞰図画像を生成し、左右の撮像装置によって撮像された撮像画像から通常の鳥瞰図画像を生成して、これらの鳥瞰図画像が合成された第1の全周鳥瞰図画像を生成し、車両が前進している場合には、前側の撮像装置によって撮像された撮像画像から請求項1に記載の拡張鳥瞰図画像を生成し、後側および左右の撮像装置によって撮像された撮像画像から通常の鳥瞰図画像を生成して、これらの鳥瞰図画像が合成された第2の全周鳥瞰図画像を生成し、車両が後退している場合には、後側の撮像装置によって撮像された撮像画像から請求項1に記載の拡張鳥瞰図画像を生成し、前側および左右の撮像装置によって撮像された撮像画像から通常の鳥瞰図画像を生成して、これらの鳥瞰図画像が合成された第3の全周鳥瞰図画像を生成するものであることを特徴とする運転支援システム。
【請求項9】
全周鳥瞰図画像生成手段は、
各撮像装置によって撮像される撮像画像の座標を、上記第1の全周鳥瞰図画像の座標に変換するための第1の座標変換テーブル、
各撮像装置によって撮像される撮像画像の座標を、上記第2の全周鳥瞰図画像の座標に変換するための第2の座標変換テーブル、
各撮像装置によって撮像される撮像画像の座標を、上記第3の全周鳥瞰図画像の座標に変換するための第3の座標変換テーブル、
車両が停止している場合には、各撮像装置によって撮像された撮像画像の座標を、第1の座標変換テーブルを用いて第1の全周鳥瞰図画像の座標に変換することにより、第1の全周鳥瞰図画像を生成する第1の全周鳥瞰図画像生成手段、
車両が前進している場合には、各撮像装置によって撮像された撮像画像の座標を、第2の座標変換テーブルを用いて第2の全周鳥瞰図画像の座標に変換することにより、第2の全周鳥瞰図画像を生成する第2の全周鳥瞰図画像生成手段、および
車両が後退している場合には、各撮像装置によって撮像された撮像画像の座標を、第3の座標変換テーブルを用いて第3の全周鳥瞰図画像の座標に変換することにより、第3の全周鳥瞰図画像を生成する第3の全周鳥瞰図画像生成手段、
を備えていることを特徴とする請求項8に記載の運転支援システム。
【特許請求の範囲】
【請求項1】
車両に搭載された表示器、
車両に搭載された車両周辺を撮像する撮像装置、
撮像画像のうち車両からの距離が所定の閾値以内の領域の画像に対しては、予め設定された水平面に対する撮像装置の傾き角度を座標変換時の回転角として設定し、撮像画像のうち車両からの距離が所定の閾値より大きい領域の画像に対しては、予め設定された水平面に対する撮像装置の傾き角度と車両からの距離とに基づいて座標変換時の回転角を算出して設定する回転量設定手段、
撮像画像の座標を、その座標に対応する画像に対して回転量設定手段によって設定された回転角を用いて鳥瞰図座標に変換することにより、拡張鳥瞰図画像を生成する鳥瞰図画像生成手段、および
鳥瞰図画像生成手段によって得られた拡張鳥瞰図画像を表示器に表示させる手段、
を備えていることを特徴とする運転支援システム。
【請求項2】
回転量設定手段は、撮像画像のうち車両からの距離が所定の閾値より大きい領域の画像に対しては、車両からの距離が大きいほど座標変換時の回転角が小さくなるように、座標変換時の回転角を算出するものであることを特徴とする請求項1に記載の運転支援システム。
【請求項3】
回転量設定手段は、撮像画像の座標を地面座標に変換するための変換式を用いて、撮像画像の各部に対する車両からの距離を算出する第1手段、および撮像画像の各部毎に、予め設定された水平面に対する撮像装置の傾き角度と、第1手段によって算出された距離と、予め設定された所定の閾値とに基づいて、座標変換時の回転角を決定して設定する第2手段を備えていることを特徴とする請求項1および2のいずれかに記載の運転支援システム。
【請求項4】
車両に搭載された表示器、
車両に搭載された車両周辺を撮像する撮像装置、
撮像画像の座標を、請求項1に記載の拡張鳥瞰図画像の座標に変換するための座標変換テーブル、
撮像画像の座標を、座標変換テーブルを用いて拡張鳥瞰図画像の座標に変換することにより、拡張鳥瞰図画像を生成する鳥瞰図画像生成手段、および
鳥瞰図画像生成手段によって得られた拡張鳥瞰図画像を表示器に表示させる手段、
を備えていることを特徴とする運転支援システム。
【請求項5】
車両に搭載された表示器、
車両の少なくとも前後に搭載されかつ車両の周辺を撮像する複数の撮像装置、
各撮像装置に撮像された撮像画像から、車両の進行方向に応じた複数種類の全周鳥瞰図画像を生成する全周鳥瞰図画像生成手段、ならびに
全周鳥瞰図画像生成手段によって得られた拡張鳥瞰図画像を表示器に表示させる手段を備えており、
全周鳥瞰図画像は各撮像装置の撮像画像から得られる鳥瞰図画像を合成することにより生成されており、全周鳥瞰図画像生成手段は、車両の進行方向に対応した方向の撮像画像から請求項1に記載の拡張鳥瞰図画像を生成し、他の方向の撮像画像から通常の鳥瞰図画像を生成し、これらの鳥瞰図画像を合成することにより全周鳥瞰図画像を生成するものであることを特徴とする運転支援システム。
【請求項6】
車両に搭載された表示器、
車両の前後左右に搭載されかつ車両周辺を撮像する複数の撮像装置、
各撮像装置に撮像された撮像画像から、車両が前進している場合、および車両が後退している場合のそれぞれに応じた種類の全周鳥瞰図画像を生成する全周鳥瞰図画像生成手段、ならびに
全周鳥瞰図画像生成手段によって得られた拡張鳥瞰図画像を表示器に表示させる手段を備えており、
全周鳥瞰図画像は各撮像装置の撮像画像から得られる鳥瞰図画像を合成することにより生成されており、全周鳥瞰図画像生成手段は、車両が前進している場合には、前側の撮像装置によって撮像された撮像画像から請求項1に記載の拡張鳥瞰図画像を生成し、後側および左右の撮像装置によって撮像された撮像画像から通常の鳥瞰図画像を生成して、これらの鳥瞰図画像が合成された第1の全周鳥瞰図画像を生成し、車両が後退している場合には、後側の撮像装置によって撮像された撮像画像から請求項1に記載の拡張鳥瞰図画像を生成し、前側および左右の撮像装置によって撮像された撮像画像から通常の鳥瞰図画像を生成して、これらの鳥瞰図画像が合成された第2の全周鳥瞰図画像を生成するものであることを特徴とする運転支援システム。
【請求項7】
全周鳥瞰図画像生成手段は、
各撮像装置によって撮像される撮像画像の座標を、上記第1の全周鳥瞰図画像の座標に変換するための第1の座標変換テーブル、
各撮像装置によって撮像される撮像画像の座標を、上記第2の全周鳥瞰図画像の座標に変換するための第2の座標変換テーブル、
車両が前進している場合には、各撮像装置によって撮像された撮像画像の座標を、第1の座標変換テーブルを用いて第1の全周鳥瞰図画像の座標に変換することにより、第1の全周鳥瞰図画像を生成する第1の全周鳥瞰図画像生成手段、および
車両が後退している場合には、各撮像装置によって撮像された撮像画像の座標を、第2の座標変換テーブルを用いて第2の全周鳥瞰図画像の座標に変換することにより、第2の全周鳥瞰図画像を生成する第2の全周鳥瞰図画像生成手段、
を備えていることを特徴とする請求項6に記載の運転支援システム。
【請求項8】
車両に搭載された表示器、
車両の前後左右に搭載されかつ車両周辺を撮像する複数の撮像装置、
各撮像装置に撮像された撮像画像から、車両が停止している場合、車両が前進している場合、および車両が後退している場合のそれぞれに応じた種類の全周鳥瞰図画像を生成する全周鳥瞰図画像生成手段、ならびに
全周鳥瞰図画像生成手段によって得られた拡張鳥瞰図画像を表示器に表示させる手段を備えており、
全周鳥瞰図画像は各撮像装置の撮像画像から得られる鳥瞰図画像を合成することにより生成されており、全周鳥瞰図画像生成手段は、車両が停止している場合には、前後の撮像装置によって撮像された撮像画像から請求項1に記載の拡張鳥瞰図画像を生成し、左右の撮像装置によって撮像された撮像画像から通常の鳥瞰図画像を生成して、これらの鳥瞰図画像が合成された第1の全周鳥瞰図画像を生成し、車両が前進している場合には、前側の撮像装置によって撮像された撮像画像から請求項1に記載の拡張鳥瞰図画像を生成し、後側および左右の撮像装置によって撮像された撮像画像から通常の鳥瞰図画像を生成して、これらの鳥瞰図画像が合成された第2の全周鳥瞰図画像を生成し、車両が後退している場合には、後側の撮像装置によって撮像された撮像画像から請求項1に記載の拡張鳥瞰図画像を生成し、前側および左右の撮像装置によって撮像された撮像画像から通常の鳥瞰図画像を生成して、これらの鳥瞰図画像が合成された第3の全周鳥瞰図画像を生成するものであることを特徴とする運転支援システム。
【請求項9】
全周鳥瞰図画像生成手段は、
各撮像装置によって撮像される撮像画像の座標を、上記第1の全周鳥瞰図画像の座標に変換するための第1の座標変換テーブル、
各撮像装置によって撮像される撮像画像の座標を、上記第2の全周鳥瞰図画像の座標に変換するための第2の座標変換テーブル、
各撮像装置によって撮像される撮像画像の座標を、上記第3の全周鳥瞰図画像の座標に変換するための第3の座標変換テーブル、
車両が停止している場合には、各撮像装置によって撮像された撮像画像の座標を、第1の座標変換テーブルを用いて第1の全周鳥瞰図画像の座標に変換することにより、第1の全周鳥瞰図画像を生成する第1の全周鳥瞰図画像生成手段、
車両が前進している場合には、各撮像装置によって撮像された撮像画像の座標を、第2の座標変換テーブルを用いて第2の全周鳥瞰図画像の座標に変換することにより、第2の全周鳥瞰図画像を生成する第2の全周鳥瞰図画像生成手段、および
車両が後退している場合には、各撮像装置によって撮像された撮像画像の座標を、第3の座標変換テーブルを用いて第3の全周鳥瞰図画像の座標に変換することにより、第3の全周鳥瞰図画像を生成する第3の全周鳥瞰図画像生成手段、
を備えていることを特徴とする請求項8に記載の運転支援システム。
【請求項1】
車両に搭載された表示器、
車両に搭載された車両周辺を撮像する撮像装置、
撮像画像のうち車両からの距離が所定の閾値以内の領域の画像に対しては、予め設定された水平面に対する撮像装置の傾き角度を座標変換時の回転角として設定し、撮像画像のうち車両からの距離が所定の閾値より大きい領域の画像に対しては、予め設定された水平面に対する撮像装置の傾き角度と車両からの距離とに基づいて座標変換時の回転角を算出して設定する回転量設定手段、
撮像画像の座標を、その座標に対応する画像に対して回転角設定手段によって設定された回転角を用いて鳥瞰図座標に変換することにより、拡張鳥瞰図画像を生成する鳥瞰図画像生成手段、および
鳥瞰図画像生成手段によって得られた拡張鳥瞰図画像を表示器に表示させる手段、
を備えていることを特徴とする運転支援システム。
【請求項2】
回転量設定手段は、撮像画像のうち車両からの距離が所定の閾値より大きい領域の画像に対しては、車両からの距離が大きいほど座標変換時の回転角が小さくなるように、座標変換時の回転角を算出するものであることを特徴とする請求項1に記載の運転支援システム。
【請求項3】
回転量設定手段は、撮像画像の座標を地面座標に変換するための変換式を用いて、撮像画像の各部に対する車両からの距離を算出する第1手段、および撮像画像の各部毎に、予め設定された水平面に対する撮像装置の傾き角度と、第1手段によって算出された距離と、予め設定された所定の閾値とに基づいて、座標変換時の回転角を決定して設定する第2手段を備えていることを特徴とする請求項1および2のいずれかに記載の運転支援システム。
【請求項4】
車両に搭載された表示器、
車両に搭載された車両周辺を撮像する撮像装置、
撮像画像の座標を、請求項1に記載の拡張鳥瞰図画像の座標に変換するための座標変換テーブル、
撮像画像の座標を、座標変換テーブルを用いて拡張鳥瞰図画像の座標に変換することにより、拡張鳥瞰図画像を生成する鳥瞰図画像生成手段、および
鳥瞰図画像生成手段によって得られた拡張鳥瞰図画像を表示器に表示させる手段、
を備えていることを特徴とする運転支援システム。
【請求項5】
車両に搭載された表示器、
車両の少なくとも前後に搭載されかつ車両の周辺を撮像する複数の撮像装置、
各撮像装置に撮像された撮像画像から、車両の進行方向に応じた複数種類の全周鳥瞰図画像を生成する全周鳥瞰図画像生成手段、ならびに
全周鳥瞰図画像生成手段によって得られた拡張鳥瞰図画像を表示器に表示させる手段を備えており、
全周鳥瞰図画像は各撮像装置の撮像装置から得られる鳥瞰図画像を合成することにより生成されており、全周鳥瞰図画像生成手段は、車両の進行方向に対応した方向の撮像画像像から請求項1に記載の拡張鳥瞰図画像を生成し、他の方向の撮像画像から通常の鳥瞰図画像を生成して、これらの鳥瞰図画像が合成された全周鳥瞰図画像を生成して、これらの鳥瞰図画像が合成された全周鳥瞰図画像を生成するものであることを特徴とする運転支援システム。
【請求項6】
車両に搭載された表示器、
車両の前後左右に搭載されかつ車両周辺を撮像する複数の撮像装置、
各撮像装置に撮像された撮像画像から、車両が前進している場合、および車両が後退している場合のそれぞれに応じた種類の全周鳥瞰図画像を生成する全周鳥瞰図画像生成手段、ならびに
全周鳥瞰図画像生成手段によって得られた拡張鳥瞰図画像を表示器に表示させる手段を備えており、
全周鳥瞰図画像は各撮像装置の撮像装置から得られる鳥瞰図画像を合成することにより生成されており、全周鳥瞰図画像生成手段は、車両が前進している場合には、前側の撮像装置によって撮像された撮像画像から請求項1に記載の拡張鳥瞰図画像を生成し、後側および左右の撮像装置によって撮像された撮像画像から通常の鳥瞰図画像を生成して、これらの鳥瞰図画像が合成された第1の全周鳥瞰図画像を生成し、車両が後退している場合には、後側の撮像装置によって撮像された撮像画像から請求項1に記載の拡張鳥瞰図画像を生成し、前側および左右の撮像装置によって撮像された撮像画像から通常の鳥瞰図画像を生成して、これらの鳥瞰図画像が合成された第2の全周鳥瞰図画像を生成するものであることを特徴とする運転支援システム。
【請求項7】
全周鳥瞰図画像生成手段は、
各撮像装置によって撮像される撮像画像の座標を、上記第1の全周鳥瞰図画像の座標に変換するための第1の座標変換テーブル、
各撮像装置によって撮像される撮像画像の座標を、上記第2の全周鳥瞰図画像の座標に変換するための第2の座標変換テーブル、
車両が前進している場合には、各撮像装置によって撮像された撮像画像の座標を、第1の座標変換テーブルを用いて第1の全周鳥瞰図画像の座標に変換することにより、第1の全周鳥瞰図画像を生成する第1の全周鳥瞰図画像生成手段、および
車両が後退している場合には、各撮像装置によって撮像された撮像画像の座標を、第2の座標変換テーブルを用いて第2の全周鳥瞰図画像の座標に変換することにより、第2の全周鳥瞰図画像を生成する第2の全周鳥瞰図画像生成手段、
を備えていることを特徴とする請求項6に記載の運転支援システム。
【請求項8】
車両に搭載された表示器、
車両の前後左右に搭載されかつ車両周辺を撮像する複数の撮像装置、
各撮像装置に撮像された撮像画像から、車両が停止している場合、車両が前進している場合、および車両が後退している場合のそれぞれに応じた種類の全周鳥瞰図画像を生成する全周鳥瞰図画像生成手段、ならびに
全周鳥瞰図画像生成手段によって得られた拡張鳥瞰図画像を表示器に表示させる手段を備えており、
全周鳥瞰図画像は各撮像装置の撮像装置から得られる鳥瞰図画像を合成することにより生成されており、全周鳥瞰図画像生成手段は、車両が停止している場合には、前後の撮像装置によって撮像された撮像画像から請求項1に記載の拡張鳥瞰図画像を生成し、左右の撮像装置によって撮像された撮像画像から通常の鳥瞰図画像を生成して、これらの鳥瞰図画像が合成された第1の全周鳥瞰図画像を生成し、車両が前進している場合には、前側の撮像装置によって撮像された撮像画像から請求項1に記載の拡張鳥瞰図画像を生成し、後側および左右の撮像装置によって撮像された撮像画像から通常の鳥瞰図画像を生成して、これらの鳥瞰図画像が合成された第2の全周鳥瞰図画像を生成し、車両が後退している場合には、後側の撮像装置によって撮像された撮像画像から請求項1に記載の拡張鳥瞰図画像を生成し、前側および左右の撮像装置によって撮像された撮像画像から通常の鳥瞰図画像を生成して、これらの鳥瞰図画像が合成された第3の全周鳥瞰図画像を生成するものであることを特徴とする運転支援システム。
【請求項9】
全周鳥瞰図画像生成手段は、
各撮像装置によって撮像される撮像画像の座標を、上記第1の全周鳥瞰図画像の座標に変換するための第1の座標変換テーブル、
各撮像装置によって撮像される撮像画像の座標を、上記第2の全周鳥瞰図画像の座標に変換するための第2の座標変換テーブル、
各撮像装置によって撮像される撮像画像の座標を、上記第3の全周鳥瞰図画像の座標に変換するための第3の座標変換テーブル、
車両が停止している場合には、各撮像装置によって撮像された撮像画像の座標を、第1の座標変換テーブルを用いて第1の全周鳥瞰図画像の座標に変換することにより、第1の全周鳥瞰図画像を生成する第1の全周鳥瞰図画像生成手段、
車両が前進している場合には、各撮像装置によって撮像された撮像画像の座標を、第2の座標変換テーブルを用いて第2の全周鳥瞰図画像の座標に変換することにより、第2の全周鳥瞰図画像を生成する第2の全周鳥瞰図画像生成手段、および
車両が後退している場合には、各撮像装置によって撮像された撮像画像の座標を、第3の座標変換テーブルを用いて第3の全周鳥瞰図画像の座標に変換することにより、第3の全周鳥瞰図画像を生成する第3の全周鳥瞰図画像生成手段、
を備えていることを特徴とする請求項8に記載の運転支援システム。
【特許請求の範囲】
【請求項1】
車両に搭載された表示器、
車両に搭載された車両周辺を撮像する撮像装置、
撮像画像のうち車両からの距離が所定の閾値以内の領域の画像に対しては、予め設定された水平面に対する撮像装置の傾き角度を座標変換時の回転角として設定し、撮像画像のうち車両からの距離が所定の閾値より大きい領域の画像に対しては、予め設定された水平面に対する撮像装置の傾き角度と車両からの距離とに基づいて座標変換時の回転角を算出して設定する回転量設定手段、
撮像画像の座標を、その座標に対応する画像に対して回転量設定手段によって設定された回転角を用いて鳥瞰図座標に変換することにより、拡張鳥瞰図画像を生成する鳥瞰図画像生成手段、および
鳥瞰図画像生成手段によって得られた拡張鳥瞰図画像を表示器に表示させる手段、
を備えていることを特徴とする運転支援システム。
【請求項2】
回転量設定手段は、撮像画像のうち車両からの距離が所定の閾値より大きい領域の画像に対しては、車両からの距離が大きいほど座標変換時の回転角が小さくなるように、座標変換時の回転角を算出するものであることを特徴とする請求項1に記載の運転支援システム。
【請求項3】
回転量設定手段は、撮像画像の座標を地面座標に変換するための変換式を用いて、撮像画像の各部に対する車両からの距離を算出する第1手段、および撮像画像の各部毎に、予め設定された水平面に対する撮像装置の傾き角度と、第1手段によって算出された距離と、予め設定された所定の閾値とに基づいて、座標変換時の回転角を決定して設定する第2手段を備えていることを特徴とする請求項1および2のいずれかに記載の運転支援システム。
【請求項4】
車両に搭載された表示器、
車両に搭載された車両周辺を撮像する撮像装置、
撮像画像の座標を、請求項1に記載の拡張鳥瞰図画像の座標に変換するための座標変換テーブル、
撮像画像の座標を、座標変換テーブルを用いて拡張鳥瞰図画像の座標に変換することにより、拡張鳥瞰図画像を生成する鳥瞰図画像生成手段、および
鳥瞰図画像生成手段によって得られた拡張鳥瞰図画像を表示器に表示させる手段、
を備えていることを特徴とする運転支援システム。
【請求項5】
車両に搭載された表示器、
車両の少なくとも前後に搭載されかつ車両の周辺を撮像する複数の撮像装置、
各撮像装置に撮像された撮像画像から、車両の進行方向に応じた複数種類の全周鳥瞰図画像を生成する全周鳥瞰図画像生成手段、ならびに
全周鳥瞰図画像生成手段によって得られた拡張鳥瞰図画像を表示器に表示させる手段を備えており、
全周鳥瞰図画像は各撮像装置の撮像画像から得られる鳥瞰図画像を合成することにより生成されており、全周鳥瞰図画像生成手段は、車両の進行方向に対応した方向の撮像画像から請求項1に記載の拡張鳥瞰図画像を生成し、他の方向の撮像画像から通常の鳥瞰図画像を生成し、これらの鳥瞰図画像を合成することにより全周鳥瞰図画像を生成するものであることを特徴とする運転支援システム。
【請求項6】
車両に搭載された表示器、
車両の前後左右に搭載されかつ車両周辺を撮像する複数の撮像装置、
各撮像装置に撮像された撮像画像から、車両が前進している場合、および車両が後退している場合のそれぞれに応じた種類の全周鳥瞰図画像を生成する全周鳥瞰図画像生成手段、ならびに
全周鳥瞰図画像生成手段によって得られた拡張鳥瞰図画像を表示器に表示させる手段を備えており、
全周鳥瞰図画像は各撮像装置の撮像画像から得られる鳥瞰図画像を合成することにより生成されており、全周鳥瞰図画像生成手段は、車両が前進している場合には、前側の撮像装置によって撮像された撮像画像から請求項1に記載の拡張鳥瞰図画像を生成し、後側および左右の撮像装置によって撮像された撮像画像から通常の鳥瞰図画像を生成して、これらの鳥瞰図画像が合成された第1の全周鳥瞰図画像を生成し、車両が後退している場合には、後側の撮像装置によって撮像された撮像画像から請求項1に記載の拡張鳥瞰図画像を生成し、前側および左右の撮像装置によって撮像された撮像画像から通常の鳥瞰図画像を生成して、これらの鳥瞰図画像が合成された第2の全周鳥瞰図画像を生成するものであることを特徴とする運転支援システム。
【請求項7】
全周鳥瞰図画像生成手段は、
各撮像装置によって撮像される撮像画像の座標を、上記第1の全周鳥瞰図画像の座標に変換するための第1の座標変換テーブル、
各撮像装置によって撮像される撮像画像の座標を、上記第2の全周鳥瞰図画像の座標に変換するための第2の座標変換テーブル、
車両が前進している場合には、各撮像装置によって撮像された撮像画像の座標を、第1の座標変換テーブルを用いて第1の全周鳥瞰図画像の座標に変換することにより、第1の全周鳥瞰図画像を生成する第1の全周鳥瞰図画像生成手段、および
車両が後退している場合には、各撮像装置によって撮像された撮像画像の座標を、第2の座標変換テーブルを用いて第2の全周鳥瞰図画像の座標に変換することにより、第2の全周鳥瞰図画像を生成する第2の全周鳥瞰図画像生成手段、
を備えていることを特徴とする請求項6に記載の運転支援システム。
【請求項8】
車両に搭載された表示器、
車両の前後左右に搭載されかつ車両周辺を撮像する複数の撮像装置、
各撮像装置に撮像された撮像画像から、車両が停止している場合、車両が前進している場合、および車両が後退している場合のそれぞれに応じた種類の全周鳥瞰図画像を生成する全周鳥瞰図画像生成手段、ならびに
全周鳥瞰図画像生成手段によって得られた拡張鳥瞰図画像を表示器に表示させる手段を備えており、
全周鳥瞰図画像は各撮像装置の撮像画像から得られる鳥瞰図画像を合成することにより生成されており、全周鳥瞰図画像生成手段は、車両が停止している場合には、前後の撮像装置によって撮像された撮像画像から請求項1に記載の拡張鳥瞰図画像を生成し、左右の撮像装置によって撮像された撮像画像から通常の鳥瞰図画像を生成して、これらの鳥瞰図画像が合成された第1の全周鳥瞰図画像を生成し、車両が前進している場合には、前側の撮像装置によって撮像された撮像画像から請求項1に記載の拡張鳥瞰図画像を生成し、後側および左右の撮像装置によって撮像された撮像画像から通常の鳥瞰図画像を生成して、これらの鳥瞰図画像が合成された第2の全周鳥瞰図画像を生成し、車両が後退している場合には、後側の撮像装置によって撮像された撮像画像から請求項1に記載の拡張鳥瞰図画像を生成し、前側および左右の撮像装置によって撮像された撮像画像から通常の鳥瞰図画像を生成して、これらの鳥瞰図画像が合成された第3の全周鳥瞰図画像を生成するものであることを特徴とする運転支援システム。
【請求項9】
全周鳥瞰図画像生成手段は、
各撮像装置によって撮像される撮像画像の座標を、上記第1の全周鳥瞰図画像の座標に変換するための第1の座標変換テーブル、
各撮像装置によって撮像される撮像画像の座標を、上記第2の全周鳥瞰図画像の座標に変換するための第2の座標変換テーブル、
各撮像装置によって撮像される撮像画像の座標を、上記第3の全周鳥瞰図画像の座標に変換するための第3の座標変換テーブル、
車両が停止している場合には、各撮像装置によって撮像された撮像画像の座標を、第1の座標変換テーブルを用いて第1の全周鳥瞰図画像の座標に変換することにより、第1の全周鳥瞰図画像を生成する第1の全周鳥瞰図画像生成手段、
車両が前進している場合には、各撮像装置によって撮像された撮像画像の座標を、第2の座標変換テーブルを用いて第2の全周鳥瞰図画像の座標に変換することにより、第2の全周鳥瞰図画像を生成する第2の全周鳥瞰図画像生成手段、および
車両が後退している場合には、各撮像装置によって撮像された撮像画像の座標を、第3の座標変換テーブルを用いて第3の全周鳥瞰図画像の座標に変換することにより、第3の全周鳥瞰図画像を生成する第3の全周鳥瞰図画像生成手段、
を備えていることを特徴とする請求項8に記載の運転支援システム。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【公開番号】特開2006−287892(P2006−287892A)
【公開日】平成18年10月19日(2006.10.19)
【国際特許分類】
【出願番号】特願2005−147838(P2005−147838)
【出願日】平成17年5月20日(2005.5.20)
【出願人】(000001889)三洋電機株式会社 (18,308)
【Fターム(参考)】
【公開日】平成18年10月19日(2006.10.19)
【国際特許分類】
【出願日】平成17年5月20日(2005.5.20)
【出願人】(000001889)三洋電機株式会社 (18,308)
【Fターム(参考)】
[ Back to top ]