車両周辺監視装置
【課題】隣接する映像間のつなぎ目に二重写りが生じることを抑えながら、近景と遠景の連続的な車両周囲映像を生成することができる車両周辺監視装置を提供すること。
【解決手段】前後左右のカメラ1,2,3,4により取得された複数の画像データを1つの画像に合成処理し、1つの合成画像をモニタ8の画面上に映し出すアラウンドビューモニタシステムにおいて、車両周辺の近景を複数の縦割り領域にて撮影する前後左右のカメラ1,2,3,4に、前後左右のカメラ1,2,3,4の画角を包含する広い画角にて車両周囲の遠景を撮影する全周囲カメラ5を加え、画像処理コントローラ7は、全周囲カメラ5によって撮影した遠景カメラ画像にとって死角となる領域を近景カメラ画像領域として設定し、1つの遠景カメラ画像と複数の近景カメラ画像を組み合わせることで、1つの合成画像を生成する。
【解決手段】前後左右のカメラ1,2,3,4により取得された複数の画像データを1つの画像に合成処理し、1つの合成画像をモニタ8の画面上に映し出すアラウンドビューモニタシステムにおいて、車両周辺の近景を複数の縦割り領域にて撮影する前後左右のカメラ1,2,3,4に、前後左右のカメラ1,2,3,4の画角を包含する広い画角にて車両周囲の遠景を撮影する全周囲カメラ5を加え、画像処理コントローラ7は、全周囲カメラ5によって撮影した遠景カメラ画像にとって死角となる領域を近景カメラ画像領域として設定し、1つの遠景カメラ画像と複数の近景カメラ画像を組み合わせることで、1つの合成画像を生成する。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、複数台の車載カメラにより取得された複数の画像データを1つの画像に合成処理し、生成された1つの合成画像をモニタ画面に映し出す車両周辺監視装置に関する。
【背景技術】
【0002】
従来、車両乗員にとって死角となる領域をモニタ映像にて表示することで、駐車時等において有効な運転支援情報を得ることを目的とし、4台の前後左右カメラからの視点を、車両の中央上部位置に設定した仮想カメラ位置から下向きに視た視点に変換し、前後左右の俯瞰画像を合成することで全周俯瞰合成画像を生成するアラウンドビューモニタシステムと呼ばれる車両周辺監視装置が知られている(例えば、特許文献1参照)。
【先行技術文献】
【特許文献】
【0003】
【特許文献1】特開2007−41791号公報
【発明の概要】
【発明が解決しようとする課題】
【0004】
しかしながら、従来の車両周辺監視装置にあっては、異なる位置にある4台の前後左右カメラを用いて、連続的な前映像と後映像と左映像と右映像を合成するようにしているため、各カメラ間の視差により、隣接する映像間のつなぎ目が連続性に欠けるという矛盾が生じやすい、という問題があった。
【0005】
この合成する映像間でのつなぎ目の矛盾は、車両の近景のみを合成する場合には比較的小さいが、4台の前後左右カメラを用い、遠景を含めた画像合成を行う場合には、映像対象物までの距離のずれ具合が、カメラ毎に変わるため、例え画像全体をずらす補正を行ったとしても、隣接する映像間のつなぎ目に二重写りが生じてしまう。
【0006】
本発明は、上記問題に着目してなされたもので、隣接する映像間のつなぎ目に二重写りが生じることを抑えながら、近景と遠景の連続的な車両周囲映像を生成することができる車両周辺監視装置を提供することを目的とする。
【課題を解決するための手段】
【0007】
上記目的を達成するため、本発明では、複数台の車載カメラと、該車載カメラにより取得された複数の画像データを1つの画像に合成処理する画像処理コントローラと、該画像処理コントローラにより生成された1つの合成画像を画面上に映し出すモニタと、を備えた車両周辺監視装置において、
前記複数台の車載カメラとして、車両周辺の近景を複数の縦割り領域にて撮影する複数台の近景カメラに、該複数台の近景カメラの画角を包含する広い画角にて車両周囲の遠景を撮影する遠景カメラを加え、
前記画像処理コントローラは、前記遠景カメラによって撮影した遠景カメラ画像にとって死角となる領域を近景カメラ画像領域として設定し、1つの遠景カメラ画像と複数の近景カメラ画像を組み合わせることで、1つの合成画像を生成することを特徴とする。
【発明の効果】
【0008】
よって、本発明の車両周辺監視装置にあっては、複数台の車載カメラとして、車両周辺の近景を複数の縦割り領域にて撮影する複数台の近景カメラに、複数台の近景カメラの画角を包含する広い画角にて車両周囲の遠景を撮影する遠景カメラが加えられる。そして、画像処理コントローラにおいて、遠景カメラによって撮影した遠景カメラ画像にとって死角となる領域が近景カメラ画像領域として設定され、1つの遠景カメラ画像と複数の近景カメラ画像を組み合わせることで、1つの合成画像が生成される。
したがって、隣接する映像間のつなぎ目に生じる矛盾(二重写り)が問題となる遠景映像に関しては、1つの遠景カメラ画像に基づく映像であるため、完全に連続性を保ったものとなる。そして、隣接する近景映像間のつなぎ目に関しては、連続性が欠ける場合があるものの、この矛盾は近景映像であるため、遠景映像の場合に比べ小さい。
この結果、隣接する映像間のつなぎ目に二重写りが生じることを抑えながら、近景と遠景の連続的な車両周囲映像を生成することができる。
【図面の簡単な説明】
【0009】
【図1】実施例1のアラウンドビューモニタシステム(車両周辺監視装置の一例)を示す全体システム図である。
【図2】実施例1のアラウンドビューモニタシステムにおける画像処理制御系を示す制御ブロック図である。
【図3】実施例1のアラウンドビューモニタシステムにおける画像処理コントローラ7の画像変形処理部で実行される画像変形処理の一例を示すフローチャートである。
【図4】実施例1のアラウンドビューモニタシステムにおける画像処理コントローラ7の画像合成処理部と重畳処理部で実行される合成・重畳表示処理の一例を示すフローチャートである。
【図5】アラウンドビューモニタシステムにおいて4台のカメラ設置例と仮想カメラ位置と視線方向を示す斜視図である。
【図6】アラウンドビューモニタシステムにおいて4台のカメラからの前後左右の俯瞰映像画像を合成した全周囲俯瞰によるモニタ表示映像例を示す図である。
【図7】アラウンドビューモニタシステムにおいて遠景を含む右カメラ映像と後カメラ映像と左カメラ映像を理想的に合成したモニタ表示映像例を示す図である。
【図8】アラウンドビューモニタシステムにおいて遠景を含む右カメラ映像と後カメラ映像と左カメラ映像を実際に合成した場合に人物が二重写りとなったモニタ表示映像例を示す図である。
【図9】実施例1のアラウンドビューモニタシステムにおいて遠景カメラ位置と遠景カメラの死角領域を示す斜視図である。
【図10】実施例1のアラウンドビューモニタシステムにおいて遠景カメラ映像と右カメラ映像と後カメラ映像と左カメラ映像を実際に合成したモニタ表示映像例を示す図である。
【図11】実施例1のアラウンドビューモニタシステムにおいて遠景カメラ映像と左カメラ映像と前カメラ映像と右カメラ映像を合成したモニタ表示映像例を示す図である。
【図12】実施例1のアラウンドビューモニタシステムにおいて遠景カメラ映像と後カメラ映像と左カメラ映像と前カメラ映像を合成したモニタ表示映像例を示す図である。
【図13】実施例1のアラウンドビューモニタシステムにおいて遠景カメラ映像と前カメラ映像と右カメラ映像と後カメラ映像を合成したモニタ表示映像例を示す図である。
【図14】実施例1のアラウンドビューモニタシステムにおいて全周囲カメラ映像と全周囲俯瞰映像を合成したモニタ表示映像例を示す図である。
【発明を実施するための形態】
【0010】
以下、本発明の車両周辺監視装置を実現する最良の形態を、図面に示す実施例1に基づいて説明する。
【実施例1】
【0011】
まず、構成を説明する。
図1は、実施例1のアラウンドビューモニタシステム(車両周辺監視装置の一例)を示す全体システム図である。以下、図1に基づいてアラウンドビューモニタシステムの各構成要素を説明する。
【0012】
前記アラウンドビューモニタシステムは、図1に示すように、前カメラ1(車載カメラ、近景カメラ)と、後カメラ2(車載カメラ、近景カメラ)と、左カメラ3(車載カメラ、近景カメラ)と、右カメラ4(車載カメラ、近景カメラ)と、全周囲カメラ5(車載カメラ、遠景カメラ)と、表示映像選択スイッチ6(モニタ映像選択手段)と、画像処理コントローラ7と、モニタ8と、を備えている。
【0013】
前記4台の前後左右カメラ1,2,3,4は、車両周辺を撮像する複数台の車載カメラであると共に、車両全周の近景を4つの縦割り領域にて撮影する複数台の近景カメラの一例として設けられる。前記前カメラ1は、車両前部のバンパー位置などにレンズ光軸を斜め下方向に向けて設置され、車両前方の近景を撮像範囲とする。前記後カメラ2は、車両後部のバンパー位置などにレンズ光軸を斜め下方向に向けて設置され、車両後方の近景を撮像範囲とする。前記左カメラ3は、車両左側部のドアミラー位置などにレンズ光軸を斜め下方向に向けて設置され、車両左側方の近景を撮像範囲とする。前記右カメラ4は、車両右側部のドアミラー位置などにレンズ光軸を斜め下方向に向けて設置され、車両右側方の近景を撮像範囲とする。
【0014】
前記全周囲カメラ5は、車両周辺を撮像する車載カメラであると共に、4台の近景カメラである前後左右カメラ1,2,3,4の画角を包含する360度の画角にて遠景を撮影する遠景カメラの一例として設けられる。この全周囲カメラ5は、車両Vの頭頂部に1台設定される。なお、遠景全周囲を撮影する全周囲カメラ5としては、凸型ミラーの反射映像を撮影するカメラなどが用いられる。
【0015】
前記表示映像選択スイッチ6は、画像処理コントローラ7に接続され、合成画像の映像パターンとして複数設定された映像パターンの中から、モニタ8のモニタ画面81に映し出す合成画像の映像パターンを選択する手段である。
実施例1での映像パターンの選択肢としては、1つの遠景映像と3つの近景映像を組み合わせた4つの映像パターンと、全周囲俯瞰映像パターンと、全周囲俯瞰映像と全周囲遠景映像の合成映像パターンと、を合わせた6種類の映像パターンを持つ。
【0016】
前記画像処理コントローラ7は、前後左右のカメラ1,2,3,4と全周囲カメラ5により取得された5つの画像データを1つの画像に合成処理するものである。
そして、全周囲カメラ5によって撮影した全周囲カメラ画像にとって死角となる領域を近景カメラ画像領域として設定し、1つの全周囲カメラ画像と、4台の前後左右カメラ1,2,3,4のうち3台のカメラからの近景カメラ画像を組み合わせることで、1つの合成画像を生成する。この画像合成により、1つの遠景映像と3つの近景映像を組み合わせた4つの映像パターンが得られる(図10〜図13参照)。
また、画像処理コントローラ7は、4台の前後左右カメラ1,2,3,4からの視点を、車両の中央上部位置に設定した仮想カメラ位置から下向きに視た視点に変換し、前後左右の俯瞰画像を合成することで全周俯瞰合成画像を生成する。この画像合成により、全周囲俯瞰映像パターンが得られる(図1参照)。
さらに、この全周囲俯瞰映像と全周囲カメラ5からの全周囲遠景映像を組み合わせることで、全周囲の俯瞰映像と遠景映像の合成映像パターンが得られる(図14参照)。
【0017】
前記モニタ8は、画像処理コントローラ7により生成された1つの合成画像を画面上に映し出す。ここで、モニタ8としては、車室内のインストルメントパネル位置に設けられ、例えば、出発地から目的地までの適切な車両走行ルートを、道路地図や自車マークなどを用いて案内するナビゲーションシステムのモニタと共用しても良い。
【0018】
図2は、実施例1のアラウンドビューモニタシステムにおける画像処理制御系を示す制御ブロック図である。図3は、実施例1のアラウンドビューモニタシステムにおける画像処理コントローラ7の画像変形処理部で実行される画像変形処理の一例を示すフローチャートである。図4は、実施例1のアラウンドビューモニタシステムにおける画像処理コントローラ7の画像合成処理部と重畳処理部で実行される合成・重畳表示処理の一例を示すフローチャートである。以下、図2〜図4に基づいてアラウンドビューモニタシステムにおける画像処理制御系を説明する。
【0019】
前記画像処理コントローラ7は、図2に示すように、画像データ変換部71と、CPU72と、マップメモリ73と、画像変形処理部74と、画像合成処理部75と、重畳メモリ76と、重畳処理部77と、画像データ変換部78と、を備えている。
【0020】
前記画像データ変換部71は、前後左右の4台のカメラ1,2,3,4と全周囲カメラ5に対応する5つの画像データ変換部71a,71b,71c,71d,71eにより構成される。そして、各画像データ変換部71a,71b,71c,71d,71eでは、各カメラ1,2,3,4,5の各撮像素子(CCDやCMOSなど)からのカメラ画像データと、画像変形処理部74a,74b,74c,74d,74eからの座標データをそれぞれ入力し、座標位置に応じた画素データを画像変形処理部74a,74b,74c,74d,74eのそれぞれに出力する。
【0021】
前記CPU72は、モニタ8のパネルタッチ式の表示映像選択スイッチ6からの操作信号と、シフトレバーのセレクト位置を検出するインヒビタースイッチ9からのリバースギア位置選択信号を入力し、リバースギア位置の選択時、表示映像選択操作に応じた合成映像をモニタ8に表示するため、近景マップや俯瞰マップなどのマップデータをマップメモリ73に出力し、車両イラストなどの重畳データを重畳メモリ76に出力する。
【0022】
前記マップメモリ73は、CPU72からのマップデータと画像変形処理部74a,74b,74c,74d,74eからの座標データを入力し、記憶されているマップデータのうち、座標データに対応するマップデータを画像変形処理部74a,74b,74c,74d,74eのそれぞれに出力する。
【0023】
前記画像変形処理部74は、前後左右の4台のカメラ1,2,3,4と全周囲カメラ5に対応する5つの画像変形処理部74a,74b,74c,74d,74eにより構成される。そして、各画像変形処理部74a,74b,74c,74d,74eでは、各画像データ変換部71a,71b,71c,71d,71eからの画素データを、マップメモリ23からのマップデータを用いて近景画像や遠景画像や俯瞰画像を得る画像変形処理をそれぞれ行い、画像変形処理後の画素データを画像合成処理部75に出力する。
この画像変形処理の一例を、図3に示すフローチャートにより説明すると、マップデータを取得し(ステップS31)、次に対応周辺画素データを取得し(ステップS32)、次に画素データの補間処理を行い(ステップS33)、次に座標対応の画素データを出力する(ステップS34)、という処理を、座標位置を変えながら繰り返すことで行われる。
【0024】
前記画像合成処理部75は、各画像変形処理部74a,74b,74c,74d,74eから、画像変形処理後の画素データを入力し、遠景カメラ画像にとって死角となる領域を近景カメラ画像領域として設定し、」1つの遠景カメラ画像と複数の近景カメラ画像を組み合わせることで1つの合成画像を生成し、合成画像の画素データを重畳処理部77に出力する。
【0025】
前記重畳メモリ76は、CPU72からの重畳データを入力し、合成画像に重畳する重畳画素データを重畳処理部77に出力する。ここで、重畳データとは、モニタ画面81に表示する俯瞰描画による車両イラストなどをいう(図1および図14を参照)。
【0026】
前記重畳処理部77は、画像合成処理部75からの合成画像の画素データに、重畳メモリ76からの重畳画素データを重畳し(スーパーインポーズ)、重畳処理後の画素データを画像データ変換部78に出力する。
ここで、画像合成処理部75と重畳処理部77による合成・重畳表示処理の一例を、図4に示すフローチャートにより説明すると、各変形画素データを取得し(ステップS41)、次に画像合成処理を行い(ステップS42)、次に対応重畳画素データを取得し(ステップS43)、次に画素データの重畳処理を行い(ステップS44)、次に座標対応の画素データを出力する(ステップS45)、という処理により行われる。
【0027】
前記画像データ変換部78は、重畳処理部77からの重畳処理後の画素データを入力し、この画素データを集合させて画像データに変換し、モニタ3へ出力する。
【0028】
次に、作用を説明する。
まず、「近景と遠景を含む画像合成技術の課題」の説明を行い、続いて、実施例1のアラウンドビューモニタシステムにおける作用を、「リアビューモニタ作用」、「合成映像パターンの選択作用」に分けて説明する。
【0029】
[近景と遠景を含む画像合成技術の課題]
図5は、アラウンドビューモニタシステムにおいて4台のカメラ設置例と仮想カメラ位置と視線方向を示す斜視図である。図6は、アラウンドビューモニタシステムにおいて4台のカメラからの前後左右の俯瞰映像画像を合成した全周囲俯瞰によるモニタ表示映像例を示す図である。図7は、アラウンドビューモニタシステムにおいて遠景を含む右カメラ映像と後カメラ映像と左カメラ映像を理想的に合成したモニタ表示映像例を示す図である。図8は、アラウンドビューモニタシステムにおいて遠景を含む右カメラ映像と後カメラ映像と左カメラ映像を実際に合成した場合に人物が二重写りとなったモニタ表示映像例を示す図である。以下、図5〜図8に基づいて近景と遠景を含む画像合成技術の課題を説明する。
【0030】
現在、図5に示すように、4台の前後左右カメラからの視点を、車両の中央上部位置に設定した仮想カメラ位置から下向きに視た視点に変換し、前後左右の俯瞰画像を合成することで、全周俯瞰合成画像を生成し、図6に示すように、前後左右の俯瞰映像を合成してモニタ表示するアラウンドビューモニタシステムと呼ばれる車両周辺監視装置が実車に搭載されている。
【0031】
しかしながら、図5に示すように、車両の前後左右位置というように異なる位置に設置された4台の前後左右カメラを用いて、連続的な前映像と後映像と左映像と右映像を合成するようにしているため、各カメラ間の視差により、隣接する映像間のつなぎ目が連続性に欠けるという矛盾が生じやすい。
【0032】
ここで、図6に示すように、車両近景のみの合成であれば、合成する映像間のつなぎ目が連続性に欠けるという矛盾は比較的小さい。しかし、4台の前後左右カメラを用い、遠景を含めたパース画像の合成を行う場合には、合成する映像間でのつなぎ目が連続性に欠けるという矛盾が、近景のみの合成に比べて大きくなる。
【0033】
その様子を示したのが、図7および図8であり、これは左右のカメラ映像と後方のカメラ映像を用いて、パノラマ上の映像を合成する例である。期待されるのは、図7に示すように、つなぎ目が連続している理想的な合成である。しかし、実際には、図8に示すように、つなぎ目において二重写りが生じる。この二重写りは、対象物である人物までの距離のずれ具合がカメラ毎に変わるため、例え画像全体をずらす補正を行ったとしても、隣接する映像間のつなぎ目に二重写りが生じてしまう。原理的には、全ての対象物までの距離を計測し、動画の場合、フレーム毎に画素単位で補正量を演算しなければならない。
【0034】
しかし、全ての対象物までの距離を計測することや補正量を演算することは、現実的に不可能であり、実際には、図8に示すように、つなぎ目において二重写りが生じることが避けられない。そして、例えば、図8の場合のように、前方の人物と後方の車両がいずれも二重写しとなっている場合、車両に近い前方の人物の二重写りのズレ幅よりも、車両から遠い後方の車両の二重写りのズレ幅が大きくなる。したがって、図8に示すようなモニタ表示映像を見るドライバーや乗員に対し、違和感を与えてしまうばかりでなく、車両の後方に存在する人物や車両の位置関係を正確に認識することができない。
【0035】
[リアビューモニタ作用]
図9は、実施例1のアラウンドビューモニタシステムにおいて遠景カメラ位置と遠景カメラの死角領域を示す斜視図である。図10は、実施例1のアラウンドビューモニタシステムにおいて遠景カメラ映像と右カメラ映像と後カメラ映像と左カメラ映像を実際に合成したモニタ表示映像例を示す図である。以下、図9および図10に基づいてリアビューモニタ作用を説明する。
【0036】
実施例1のアラウンドビューモニタシステムは、
・近景カメラとしての前後左右のカメラ1,2,3,4に、遠景カメラとしての全周囲カメラ5を加えること。
・全周囲カメラ5によって撮影した全周囲カメラ画像にとって死角となる領域を近景カメラ画像領域として設定すること。
・近景カメラ画像領域に、4台の前後左右カメラ1,2,3,4のうち3台以上のカメラからの近景カメラ画像を隣接させること。
・1つの全周囲カメラ画像と、複数の近景カメラ画像を組み合わせて1つの合成画像を生成すること。
を特徴としている。
【0037】
すなわち、図9に示すように、遠景カメラ位置に全周囲カメラ5を設置した場合、近景部分には車体そのものが写り込んでしまう。したがって、撮影した全周囲カメラ画像にとって死角となる領域を、図9のハッチング領域にて示すように、近景カメラ画像領域として設定する。
【0038】
そして、図10に示すように、近景カメラ画像領域に、右カメラ映像と後カメラ映像と左カメラ映像を隣接させ、モニタ画面81の上部全領域を、1つの遠景カメラ映像領域とし、モニタ画面81の下部全領域を、右カメラ映像と後カメラ映像と左カメラ映像に振り分け、1つの合成映像としている。この場合、遠景カメラ画像領域と近景カメラ画像領域の間に横方向に円弧によるつなぎ目が形成され、近景カメラ画像領域内に2つの縦方向のつなぎ目が形成されることになる。
【0039】
したがって、隣接する映像間のつなぎ目に生じる矛盾(二重写り)が問題となる遠景カメラ映像に関しては、1つの遠景カメラ画像に基づく映像であるため、完全に連続性を保ったものとなる。そして、隣接する近景映像間のつなぎ目に関しては、図10の人物の足元部分に示すように、連続性に欠ける僅かな二重写りがあるものの、この矛盾は近景映像であるため、遠景映像の場合に比べ小さい。
このため、隣接する映像間のつなぎ目に二重写りが生じることを抑えながら、近景と遠景の連続的な車両周囲映像を生成することができる。
【0040】
実施例1では、遠景カメラとして、車両Vの頭頂部に1台設定した画角が360度の全周囲カメラ5を用いている。この全周囲カメラ5であれば、1台で全方位が見られるため、調整のしやすさや機材の面からもコストが低くなるメリットがある。また、唯一の視点からの映像を取得できるため、画像合成も行いやすい。
【0041】
実施例1では、全周囲カメラ5によって撮影した全周囲カメラ画像にとって死角となる領域を近景カメラ画像領域として設定し、車両後方の周囲遠景による1つの遠景カメラ画像と、後カメラ画像の両側位置に左右カメラ画像を合成した3つの近景カメラ画像を組み合わせることで、1つの合成画像を生成している。したがって、車両後方映像として、ワイドなパノラマ状の映像を得ることができ、後退走行する場合、車両後方の障害物の有無や位置を確認するために、有用なリアビューモニタ映像を取得することができる。
【0042】
[合成映像パターンの選択作用]
図11は、実施例1のアラウンドビューモニタシステムにおいて遠景カメラ映像と左カメラ映像と前カメラ映像と右カメラ映像を合成したモニタ表示映像例を示す図である。図12は、実施例1のアラウンドビューモニタシステムにおいて遠景カメラ映像と後カメラ映像と左カメラ映像と前カメラ映像を合成したモニタ表示映像例を示す図である。図13は、実施例1のアラウンドビューモニタシステムにおいて遠景カメラ映像と前カメラ映像と右カメラ映像と後カメラ映像を合成したモニタ表示映像例を示す図である。図14は、実施例1のアラウンドビューモニタシステムにおいて全周囲カメラ映像と全周囲俯瞰映像を合成したモニタ表示映像例を示す図である。以下、図1および図10〜図14に基づいて合成映像パターンの選択作用を説明する。
【0043】
実施例1では、全周囲カメラ5によって撮影した全周囲カメラ画像にとって死角となる領域を近景カメラ画像領域として設定し、1つの全周囲カメラ画像と、4台の前後左右カメラ1,2,3,4のうち3台のカメラからの近景カメラ画像を組み合わせることで、1つの合成画像を生成している。
【0044】
このため、下記の4つの組み合わせパターンによる合成画像が得られ、それぞれについて下記のメリットを得ることができる。
(a) 遠景カメラ映像と右カメラ映像と後カメラ映像と左カメラ映像を合成したモニタ表示映像(図10)
後退走行する場合、車両後方の障害物の有無や位置を確認するために、有用なリアビューモニタ映像を取得することができる。
(b) 遠景カメラ映像と左カメラ映像と前カメラ映像と右カメラ映像を合成したモニタ表示映像(図11)
狭い道を前進走行する場合、車両前方の障害物の有無や位置を確認するために、有用なフロントビューモニタ映像を取得することができる。
(c) 遠景カメラ映像と後カメラ映像と左カメラ映像と前カメラ映像を合成したモニタ表示映像(図12)
左側に側溝や壁などが存在する狭い道を前進走行する場合、車両左側方の障害物の有無や位置を確認するために、有用なサイドビューモニタ映像を取得することができる。
(d) 遠景カメラ映像と前カメラ映像と右カメラ映像と後カメラ映像を合成したモニタ表示映像(図13)
右側に側溝や壁などが存在する狭い道を前進走行する場合、車両右側方の障害物の有無や位置を確認するために、有用なサイドビューモニタ映像を取得することができる。
【0045】
そして、実施例1では、前後左右のカメラ1,2,3,4からの近景斜め視点を、車両の中央上部位置に設定した仮想カメラ位置から下向きに近景を視たときの視点に変換する視点変換処理により、車両周囲の近景の俯瞰画像を生成するようにしている。
【0046】
このため、下記の2つの組み合わせパターンによる合成画像が得られ、それぞれについて下記のメリットを得ることができる。
(e) 前映像、後映像、左映像、右映像を合成した全周囲俯瞰映像によるモニタ表示映像(図1)
前後に駐車している車両の間に縦列駐車を行う場合、自車位置と前後の他車位置の位置関係や位置関係の変化を把握することができ、有用なアラウンドビューモニタ映像を取得することができる。
(f) 全周囲カメラ映像と全周囲俯瞰映像(前映像、後映像、左映像、右映像)を合成したモニタ表示映像(図14)
前後に駐車している車両の間に縦列駐車を行う場合、自車位置と前後の他車位置の位置関係や位置関係の変化を把握することができるばかりでなく、立体合成画像により少し離れた障害物の有無や位置を確認することができる。つまり、全周囲俯瞰映像より有用なアラウンドビューモニタ映像を取得することができる。
【0047】
そして、画像処理コントローラ7には、表示映像選択スイッチ6を接続しているため、これらの合成映像パターンの中から、表示映像選択スイッチ6による選択操作で、走行状況などに応じて好ましい合成映像パターンを選択することができるというように、高い合成映像パターンの選択自由度を持つ。
【0048】
次に、効果を説明する。
実施例1のアラウンドビューモニタシステムにあっては、下記に列挙する効果を得ることができる。
【0049】
(1) 複数台の車載カメラ(前後左右のカメラ1,2,3,4)と、該車載カメラ(前後左右のカメラ1,2,3,4)により取得された複数の画像データを1つの画像に合成処理する画像処理コントローラ7と、該画像処理コントローラ7により生成された1つの合成画像を画面上に映し出すモニタ8と、を備えた車両周辺監視装置(アラウンドビューモニタシステム)において、前記複数台の車載カメラとして、車両周辺の近景を複数の縦割り領域にて撮影する複数台の近景カメラ(前後左右のカメラ1,2,3,4)に、該複数台の近景カメラ(前後左右のカメラ1,2,3,4)の画角を包含する広い画角にて車両周囲の遠景を撮影する遠景カメラ(全周囲カメラ5)を加え、前記画像処理コントローラ7は、前記遠景カメラ(全周囲カメラ5)によって撮影した遠景カメラ画像にとって死角となる領域を近景カメラ画像領域として設定し、1つの遠景カメラ画像と複数の近景カメラ画像を組み合わせることで、1つの合成画像を生成する。このため、隣接する映像間のつなぎ目に二重写りが生じることを抑えながら、近景と遠景の連続的な車両周囲映像を生成することができる。
【0050】
(2) 前記遠景カメラは、車両の頭頂部に1台設定した画角が360度の全周囲カメラ5である。このため、1台で全方位が見られることで、調整のしやすさや機材の面からもコスト低減を図ることができると共に、唯一の視点からの映像を取得できるため、容易に画像合成を行うことができる。
【0051】
(3) 前記複数台の近景カメラとして、車両後方を撮像範囲とする後カメラ2と、車両左側方を撮像範囲とする左カメラ3と、車両右側方を撮像範囲とする右カメラ4と、を有し、前記画像処理コントローラ7は、前記全周囲カメラ5によって撮影した全周囲カメラ画像にとって死角となる領域を近景カメラ画像領域として設定し、車両後方の周囲遠景による1つの遠景カメラ画像と、後カメラ画像の両側位置に左右カメラ画像を合成した3つの近景カメラ画像を組み合わせることで、1つの合成画像を生成する。このため、後退走行する場合、車両後方の障害物の有無や位置を確認するために、有用なリアビューモニタ映像を取得することができる。
【0052】
(4) 前記複数台の近景カメラとして、車両前方を撮像範囲とする前カメラ1と、車両後方を撮像範囲とする後カメラ2と、車両左側方を撮像範囲とする左カメラ3と、車両右側方を撮像範囲とする右カメラ4と、を有し、前記画像処理コントローラ7は、前記全周囲カメラ5によって撮影した全周囲カメラ画像にとって死角となる領域を近景カメラ画像領域として設定し、1つの全周囲カメラ画像と、4台の前後左右カメラのうち3台のカメラからの近景カメラ画像を組み合わせることで、1つの合成画像を生成する。このため、後退走行する場合に有用なリアビューモニタ映像、狭い道を前進走行する場合に有用なフロントビューモニタ映像、狭い道を前進走行する場合に有用な左右それぞれのサイドビューモニタ映像を取得することができる。
【0053】
(5) 前記画像処理コントローラは、前記4台の前後左右カメラからの視点を、車両の中央上部位置に設定した仮想カメラ位置から下向きに視た視点に変換し、前後左右の俯瞰画像を合成することで全周俯瞰合成画像を生成すると共に、全周俯瞰合成画像と全周遠景画像を合成した立体合成画像を生成する。このため、前後に駐車している車両の間に縦列駐車を行う場合、立体合成画像により少し離れた障害物の有無や位置の確認を含め、全周俯瞰合成画像のみより有用なアラウンドビューモニタ映像を取得することができる。
【0054】
(6) 前記画像処理コントローラ7に、複数の合成映像パターンから、前記モニタ8に映し出す1つの合成映像を選択するモニタ映像選択手段(表示映像選択スイッチ6)を接続した。このため、複数の合成映像パターンの中から、高い選択自由度により好ましい合成映像パターンを選択することができる。
【0055】
以上、本発明の車両周辺監視装置を実施例1に基づき説明してきたが、具体的な構成については、この実施例1に限られるものではなく、特許請求の範囲の各請求項に係る発明の要旨を逸脱しない限り、設計の変更や追加等は許容される。
【0056】
実施例1では、複数台の近景カメラとして、前後左右の4台のカメラを用いる例を示した。しかし、複数台の近景カメラとして、隣接する近景を撮影する少なくとも2台のカメラを有するものであれば、本発明に含まれる。例えば、複数台の近景カメラとして、車両前方を撮像範囲とする前カメラと、車両後方を撮像範囲とする後カメラと、車両左側方を撮像範囲とする左カメラと、車両右側方を撮像範囲とする右カメラと、のうち、少なくとも2台のカメラを有するようにしても良い。
【0057】
実施例1では、遠景カメラとして、1台の全周囲カメラを用いる例を示した。しかし、少なくとも2台の近景カメラの画角を包含する広い画角を持つ遠景カメラであれば、複数台の遠景カメラを用いても良い。
【0058】
実施例1では、アラウンドビューモニタシステムをベースとし、全周囲カメラによって撮影した全周囲カメラ画像にとって死角となる領域を近景カメラ画像領域として設定し、1つの全周囲カメラ画像と、4台の前後左右カメラのうち3台のカメラからの近景カメラ画像を組み合わせることで、1つの合成画像を生成する例を示した。しかし、1つの遠景カメラによって撮影した遠景カメラ画像にとって死角となる領域を近景カメラ画像領域として設定し、1つの遠景カメラ画像と少なくとも2台の近景カメラ画像を組み合わせることで、1つの合成画像を生成するものであれば、本発明に含まれる。
【0059】
実施例1では、表示映像選択スイッチにより、複数の合成画像の映像パターンから、1つの映像パターンを選択する例を示した。しかし、車両状態や走行状況や駐車状況などを検知し、検知された車両環境条件に応じて自動的に適切な映像パターンを選択するような例としても良い。
【産業上の利用可能性】
【0060】
実施例1では、アラウンドビューモニタシステムへの適用例を示したが、サイドビューモニタシステムやバックビューモニタシステムやフロントビューモニタシステムなどの車両周辺監視装置に対しても適用することができる。
【符号の説明】
【0061】
1 前カメラ(車載カメラ、近景カメラ)
2 後カメラ(車載カメラ、近景カメラ)
3 左カメラ(車載カメラ、近景カメラ)
4 右カメラ(車載カメラ、近景カメラ)
5 全周囲カメラ(車載カメラ、遠景カメラ)
6 表示映像選択スイッチ(モニタ映像選択手段)
7 画像処理コントローラ
71 画像データ変換部
72 CPU
73 マップメモリ
74 画像変形処理部
75 画像合成処理部
76 重畳メモリ
77 重畳処理部
78 画像データ変換部
8 モニタ
81 モニタ画面
【技術分野】
【0001】
本発明は、複数台の車載カメラにより取得された複数の画像データを1つの画像に合成処理し、生成された1つの合成画像をモニタ画面に映し出す車両周辺監視装置に関する。
【背景技術】
【0002】
従来、車両乗員にとって死角となる領域をモニタ映像にて表示することで、駐車時等において有効な運転支援情報を得ることを目的とし、4台の前後左右カメラからの視点を、車両の中央上部位置に設定した仮想カメラ位置から下向きに視た視点に変換し、前後左右の俯瞰画像を合成することで全周俯瞰合成画像を生成するアラウンドビューモニタシステムと呼ばれる車両周辺監視装置が知られている(例えば、特許文献1参照)。
【先行技術文献】
【特許文献】
【0003】
【特許文献1】特開2007−41791号公報
【発明の概要】
【発明が解決しようとする課題】
【0004】
しかしながら、従来の車両周辺監視装置にあっては、異なる位置にある4台の前後左右カメラを用いて、連続的な前映像と後映像と左映像と右映像を合成するようにしているため、各カメラ間の視差により、隣接する映像間のつなぎ目が連続性に欠けるという矛盾が生じやすい、という問題があった。
【0005】
この合成する映像間でのつなぎ目の矛盾は、車両の近景のみを合成する場合には比較的小さいが、4台の前後左右カメラを用い、遠景を含めた画像合成を行う場合には、映像対象物までの距離のずれ具合が、カメラ毎に変わるため、例え画像全体をずらす補正を行ったとしても、隣接する映像間のつなぎ目に二重写りが生じてしまう。
【0006】
本発明は、上記問題に着目してなされたもので、隣接する映像間のつなぎ目に二重写りが生じることを抑えながら、近景と遠景の連続的な車両周囲映像を生成することができる車両周辺監視装置を提供することを目的とする。
【課題を解決するための手段】
【0007】
上記目的を達成するため、本発明では、複数台の車載カメラと、該車載カメラにより取得された複数の画像データを1つの画像に合成処理する画像処理コントローラと、該画像処理コントローラにより生成された1つの合成画像を画面上に映し出すモニタと、を備えた車両周辺監視装置において、
前記複数台の車載カメラとして、車両周辺の近景を複数の縦割り領域にて撮影する複数台の近景カメラに、該複数台の近景カメラの画角を包含する広い画角にて車両周囲の遠景を撮影する遠景カメラを加え、
前記画像処理コントローラは、前記遠景カメラによって撮影した遠景カメラ画像にとって死角となる領域を近景カメラ画像領域として設定し、1つの遠景カメラ画像と複数の近景カメラ画像を組み合わせることで、1つの合成画像を生成することを特徴とする。
【発明の効果】
【0008】
よって、本発明の車両周辺監視装置にあっては、複数台の車載カメラとして、車両周辺の近景を複数の縦割り領域にて撮影する複数台の近景カメラに、複数台の近景カメラの画角を包含する広い画角にて車両周囲の遠景を撮影する遠景カメラが加えられる。そして、画像処理コントローラにおいて、遠景カメラによって撮影した遠景カメラ画像にとって死角となる領域が近景カメラ画像領域として設定され、1つの遠景カメラ画像と複数の近景カメラ画像を組み合わせることで、1つの合成画像が生成される。
したがって、隣接する映像間のつなぎ目に生じる矛盾(二重写り)が問題となる遠景映像に関しては、1つの遠景カメラ画像に基づく映像であるため、完全に連続性を保ったものとなる。そして、隣接する近景映像間のつなぎ目に関しては、連続性が欠ける場合があるものの、この矛盾は近景映像であるため、遠景映像の場合に比べ小さい。
この結果、隣接する映像間のつなぎ目に二重写りが生じることを抑えながら、近景と遠景の連続的な車両周囲映像を生成することができる。
【図面の簡単な説明】
【0009】
【図1】実施例1のアラウンドビューモニタシステム(車両周辺監視装置の一例)を示す全体システム図である。
【図2】実施例1のアラウンドビューモニタシステムにおける画像処理制御系を示す制御ブロック図である。
【図3】実施例1のアラウンドビューモニタシステムにおける画像処理コントローラ7の画像変形処理部で実行される画像変形処理の一例を示すフローチャートである。
【図4】実施例1のアラウンドビューモニタシステムにおける画像処理コントローラ7の画像合成処理部と重畳処理部で実行される合成・重畳表示処理の一例を示すフローチャートである。
【図5】アラウンドビューモニタシステムにおいて4台のカメラ設置例と仮想カメラ位置と視線方向を示す斜視図である。
【図6】アラウンドビューモニタシステムにおいて4台のカメラからの前後左右の俯瞰映像画像を合成した全周囲俯瞰によるモニタ表示映像例を示す図である。
【図7】アラウンドビューモニタシステムにおいて遠景を含む右カメラ映像と後カメラ映像と左カメラ映像を理想的に合成したモニタ表示映像例を示す図である。
【図8】アラウンドビューモニタシステムにおいて遠景を含む右カメラ映像と後カメラ映像と左カメラ映像を実際に合成した場合に人物が二重写りとなったモニタ表示映像例を示す図である。
【図9】実施例1のアラウンドビューモニタシステムにおいて遠景カメラ位置と遠景カメラの死角領域を示す斜視図である。
【図10】実施例1のアラウンドビューモニタシステムにおいて遠景カメラ映像と右カメラ映像と後カメラ映像と左カメラ映像を実際に合成したモニタ表示映像例を示す図である。
【図11】実施例1のアラウンドビューモニタシステムにおいて遠景カメラ映像と左カメラ映像と前カメラ映像と右カメラ映像を合成したモニタ表示映像例を示す図である。
【図12】実施例1のアラウンドビューモニタシステムにおいて遠景カメラ映像と後カメラ映像と左カメラ映像と前カメラ映像を合成したモニタ表示映像例を示す図である。
【図13】実施例1のアラウンドビューモニタシステムにおいて遠景カメラ映像と前カメラ映像と右カメラ映像と後カメラ映像を合成したモニタ表示映像例を示す図である。
【図14】実施例1のアラウンドビューモニタシステムにおいて全周囲カメラ映像と全周囲俯瞰映像を合成したモニタ表示映像例を示す図である。
【発明を実施するための形態】
【0010】
以下、本発明の車両周辺監視装置を実現する最良の形態を、図面に示す実施例1に基づいて説明する。
【実施例1】
【0011】
まず、構成を説明する。
図1は、実施例1のアラウンドビューモニタシステム(車両周辺監視装置の一例)を示す全体システム図である。以下、図1に基づいてアラウンドビューモニタシステムの各構成要素を説明する。
【0012】
前記アラウンドビューモニタシステムは、図1に示すように、前カメラ1(車載カメラ、近景カメラ)と、後カメラ2(車載カメラ、近景カメラ)と、左カメラ3(車載カメラ、近景カメラ)と、右カメラ4(車載カメラ、近景カメラ)と、全周囲カメラ5(車載カメラ、遠景カメラ)と、表示映像選択スイッチ6(モニタ映像選択手段)と、画像処理コントローラ7と、モニタ8と、を備えている。
【0013】
前記4台の前後左右カメラ1,2,3,4は、車両周辺を撮像する複数台の車載カメラであると共に、車両全周の近景を4つの縦割り領域にて撮影する複数台の近景カメラの一例として設けられる。前記前カメラ1は、車両前部のバンパー位置などにレンズ光軸を斜め下方向に向けて設置され、車両前方の近景を撮像範囲とする。前記後カメラ2は、車両後部のバンパー位置などにレンズ光軸を斜め下方向に向けて設置され、車両後方の近景を撮像範囲とする。前記左カメラ3は、車両左側部のドアミラー位置などにレンズ光軸を斜め下方向に向けて設置され、車両左側方の近景を撮像範囲とする。前記右カメラ4は、車両右側部のドアミラー位置などにレンズ光軸を斜め下方向に向けて設置され、車両右側方の近景を撮像範囲とする。
【0014】
前記全周囲カメラ5は、車両周辺を撮像する車載カメラであると共に、4台の近景カメラである前後左右カメラ1,2,3,4の画角を包含する360度の画角にて遠景を撮影する遠景カメラの一例として設けられる。この全周囲カメラ5は、車両Vの頭頂部に1台設定される。なお、遠景全周囲を撮影する全周囲カメラ5としては、凸型ミラーの反射映像を撮影するカメラなどが用いられる。
【0015】
前記表示映像選択スイッチ6は、画像処理コントローラ7に接続され、合成画像の映像パターンとして複数設定された映像パターンの中から、モニタ8のモニタ画面81に映し出す合成画像の映像パターンを選択する手段である。
実施例1での映像パターンの選択肢としては、1つの遠景映像と3つの近景映像を組み合わせた4つの映像パターンと、全周囲俯瞰映像パターンと、全周囲俯瞰映像と全周囲遠景映像の合成映像パターンと、を合わせた6種類の映像パターンを持つ。
【0016】
前記画像処理コントローラ7は、前後左右のカメラ1,2,3,4と全周囲カメラ5により取得された5つの画像データを1つの画像に合成処理するものである。
そして、全周囲カメラ5によって撮影した全周囲カメラ画像にとって死角となる領域を近景カメラ画像領域として設定し、1つの全周囲カメラ画像と、4台の前後左右カメラ1,2,3,4のうち3台のカメラからの近景カメラ画像を組み合わせることで、1つの合成画像を生成する。この画像合成により、1つの遠景映像と3つの近景映像を組み合わせた4つの映像パターンが得られる(図10〜図13参照)。
また、画像処理コントローラ7は、4台の前後左右カメラ1,2,3,4からの視点を、車両の中央上部位置に設定した仮想カメラ位置から下向きに視た視点に変換し、前後左右の俯瞰画像を合成することで全周俯瞰合成画像を生成する。この画像合成により、全周囲俯瞰映像パターンが得られる(図1参照)。
さらに、この全周囲俯瞰映像と全周囲カメラ5からの全周囲遠景映像を組み合わせることで、全周囲の俯瞰映像と遠景映像の合成映像パターンが得られる(図14参照)。
【0017】
前記モニタ8は、画像処理コントローラ7により生成された1つの合成画像を画面上に映し出す。ここで、モニタ8としては、車室内のインストルメントパネル位置に設けられ、例えば、出発地から目的地までの適切な車両走行ルートを、道路地図や自車マークなどを用いて案内するナビゲーションシステムのモニタと共用しても良い。
【0018】
図2は、実施例1のアラウンドビューモニタシステムにおける画像処理制御系を示す制御ブロック図である。図3は、実施例1のアラウンドビューモニタシステムにおける画像処理コントローラ7の画像変形処理部で実行される画像変形処理の一例を示すフローチャートである。図4は、実施例1のアラウンドビューモニタシステムにおける画像処理コントローラ7の画像合成処理部と重畳処理部で実行される合成・重畳表示処理の一例を示すフローチャートである。以下、図2〜図4に基づいてアラウンドビューモニタシステムにおける画像処理制御系を説明する。
【0019】
前記画像処理コントローラ7は、図2に示すように、画像データ変換部71と、CPU72と、マップメモリ73と、画像変形処理部74と、画像合成処理部75と、重畳メモリ76と、重畳処理部77と、画像データ変換部78と、を備えている。
【0020】
前記画像データ変換部71は、前後左右の4台のカメラ1,2,3,4と全周囲カメラ5に対応する5つの画像データ変換部71a,71b,71c,71d,71eにより構成される。そして、各画像データ変換部71a,71b,71c,71d,71eでは、各カメラ1,2,3,4,5の各撮像素子(CCDやCMOSなど)からのカメラ画像データと、画像変形処理部74a,74b,74c,74d,74eからの座標データをそれぞれ入力し、座標位置に応じた画素データを画像変形処理部74a,74b,74c,74d,74eのそれぞれに出力する。
【0021】
前記CPU72は、モニタ8のパネルタッチ式の表示映像選択スイッチ6からの操作信号と、シフトレバーのセレクト位置を検出するインヒビタースイッチ9からのリバースギア位置選択信号を入力し、リバースギア位置の選択時、表示映像選択操作に応じた合成映像をモニタ8に表示するため、近景マップや俯瞰マップなどのマップデータをマップメモリ73に出力し、車両イラストなどの重畳データを重畳メモリ76に出力する。
【0022】
前記マップメモリ73は、CPU72からのマップデータと画像変形処理部74a,74b,74c,74d,74eからの座標データを入力し、記憶されているマップデータのうち、座標データに対応するマップデータを画像変形処理部74a,74b,74c,74d,74eのそれぞれに出力する。
【0023】
前記画像変形処理部74は、前後左右の4台のカメラ1,2,3,4と全周囲カメラ5に対応する5つの画像変形処理部74a,74b,74c,74d,74eにより構成される。そして、各画像変形処理部74a,74b,74c,74d,74eでは、各画像データ変換部71a,71b,71c,71d,71eからの画素データを、マップメモリ23からのマップデータを用いて近景画像や遠景画像や俯瞰画像を得る画像変形処理をそれぞれ行い、画像変形処理後の画素データを画像合成処理部75に出力する。
この画像変形処理の一例を、図3に示すフローチャートにより説明すると、マップデータを取得し(ステップS31)、次に対応周辺画素データを取得し(ステップS32)、次に画素データの補間処理を行い(ステップS33)、次に座標対応の画素データを出力する(ステップS34)、という処理を、座標位置を変えながら繰り返すことで行われる。
【0024】
前記画像合成処理部75は、各画像変形処理部74a,74b,74c,74d,74eから、画像変形処理後の画素データを入力し、遠景カメラ画像にとって死角となる領域を近景カメラ画像領域として設定し、」1つの遠景カメラ画像と複数の近景カメラ画像を組み合わせることで1つの合成画像を生成し、合成画像の画素データを重畳処理部77に出力する。
【0025】
前記重畳メモリ76は、CPU72からの重畳データを入力し、合成画像に重畳する重畳画素データを重畳処理部77に出力する。ここで、重畳データとは、モニタ画面81に表示する俯瞰描画による車両イラストなどをいう(図1および図14を参照)。
【0026】
前記重畳処理部77は、画像合成処理部75からの合成画像の画素データに、重畳メモリ76からの重畳画素データを重畳し(スーパーインポーズ)、重畳処理後の画素データを画像データ変換部78に出力する。
ここで、画像合成処理部75と重畳処理部77による合成・重畳表示処理の一例を、図4に示すフローチャートにより説明すると、各変形画素データを取得し(ステップS41)、次に画像合成処理を行い(ステップS42)、次に対応重畳画素データを取得し(ステップS43)、次に画素データの重畳処理を行い(ステップS44)、次に座標対応の画素データを出力する(ステップS45)、という処理により行われる。
【0027】
前記画像データ変換部78は、重畳処理部77からの重畳処理後の画素データを入力し、この画素データを集合させて画像データに変換し、モニタ3へ出力する。
【0028】
次に、作用を説明する。
まず、「近景と遠景を含む画像合成技術の課題」の説明を行い、続いて、実施例1のアラウンドビューモニタシステムにおける作用を、「リアビューモニタ作用」、「合成映像パターンの選択作用」に分けて説明する。
【0029】
[近景と遠景を含む画像合成技術の課題]
図5は、アラウンドビューモニタシステムにおいて4台のカメラ設置例と仮想カメラ位置と視線方向を示す斜視図である。図6は、アラウンドビューモニタシステムにおいて4台のカメラからの前後左右の俯瞰映像画像を合成した全周囲俯瞰によるモニタ表示映像例を示す図である。図7は、アラウンドビューモニタシステムにおいて遠景を含む右カメラ映像と後カメラ映像と左カメラ映像を理想的に合成したモニタ表示映像例を示す図である。図8は、アラウンドビューモニタシステムにおいて遠景を含む右カメラ映像と後カメラ映像と左カメラ映像を実際に合成した場合に人物が二重写りとなったモニタ表示映像例を示す図である。以下、図5〜図8に基づいて近景と遠景を含む画像合成技術の課題を説明する。
【0030】
現在、図5に示すように、4台の前後左右カメラからの視点を、車両の中央上部位置に設定した仮想カメラ位置から下向きに視た視点に変換し、前後左右の俯瞰画像を合成することで、全周俯瞰合成画像を生成し、図6に示すように、前後左右の俯瞰映像を合成してモニタ表示するアラウンドビューモニタシステムと呼ばれる車両周辺監視装置が実車に搭載されている。
【0031】
しかしながら、図5に示すように、車両の前後左右位置というように異なる位置に設置された4台の前後左右カメラを用いて、連続的な前映像と後映像と左映像と右映像を合成するようにしているため、各カメラ間の視差により、隣接する映像間のつなぎ目が連続性に欠けるという矛盾が生じやすい。
【0032】
ここで、図6に示すように、車両近景のみの合成であれば、合成する映像間のつなぎ目が連続性に欠けるという矛盾は比較的小さい。しかし、4台の前後左右カメラを用い、遠景を含めたパース画像の合成を行う場合には、合成する映像間でのつなぎ目が連続性に欠けるという矛盾が、近景のみの合成に比べて大きくなる。
【0033】
その様子を示したのが、図7および図8であり、これは左右のカメラ映像と後方のカメラ映像を用いて、パノラマ上の映像を合成する例である。期待されるのは、図7に示すように、つなぎ目が連続している理想的な合成である。しかし、実際には、図8に示すように、つなぎ目において二重写りが生じる。この二重写りは、対象物である人物までの距離のずれ具合がカメラ毎に変わるため、例え画像全体をずらす補正を行ったとしても、隣接する映像間のつなぎ目に二重写りが生じてしまう。原理的には、全ての対象物までの距離を計測し、動画の場合、フレーム毎に画素単位で補正量を演算しなければならない。
【0034】
しかし、全ての対象物までの距離を計測することや補正量を演算することは、現実的に不可能であり、実際には、図8に示すように、つなぎ目において二重写りが生じることが避けられない。そして、例えば、図8の場合のように、前方の人物と後方の車両がいずれも二重写しとなっている場合、車両に近い前方の人物の二重写りのズレ幅よりも、車両から遠い後方の車両の二重写りのズレ幅が大きくなる。したがって、図8に示すようなモニタ表示映像を見るドライバーや乗員に対し、違和感を与えてしまうばかりでなく、車両の後方に存在する人物や車両の位置関係を正確に認識することができない。
【0035】
[リアビューモニタ作用]
図9は、実施例1のアラウンドビューモニタシステムにおいて遠景カメラ位置と遠景カメラの死角領域を示す斜視図である。図10は、実施例1のアラウンドビューモニタシステムにおいて遠景カメラ映像と右カメラ映像と後カメラ映像と左カメラ映像を実際に合成したモニタ表示映像例を示す図である。以下、図9および図10に基づいてリアビューモニタ作用を説明する。
【0036】
実施例1のアラウンドビューモニタシステムは、
・近景カメラとしての前後左右のカメラ1,2,3,4に、遠景カメラとしての全周囲カメラ5を加えること。
・全周囲カメラ5によって撮影した全周囲カメラ画像にとって死角となる領域を近景カメラ画像領域として設定すること。
・近景カメラ画像領域に、4台の前後左右カメラ1,2,3,4のうち3台以上のカメラからの近景カメラ画像を隣接させること。
・1つの全周囲カメラ画像と、複数の近景カメラ画像を組み合わせて1つの合成画像を生成すること。
を特徴としている。
【0037】
すなわち、図9に示すように、遠景カメラ位置に全周囲カメラ5を設置した場合、近景部分には車体そのものが写り込んでしまう。したがって、撮影した全周囲カメラ画像にとって死角となる領域を、図9のハッチング領域にて示すように、近景カメラ画像領域として設定する。
【0038】
そして、図10に示すように、近景カメラ画像領域に、右カメラ映像と後カメラ映像と左カメラ映像を隣接させ、モニタ画面81の上部全領域を、1つの遠景カメラ映像領域とし、モニタ画面81の下部全領域を、右カメラ映像と後カメラ映像と左カメラ映像に振り分け、1つの合成映像としている。この場合、遠景カメラ画像領域と近景カメラ画像領域の間に横方向に円弧によるつなぎ目が形成され、近景カメラ画像領域内に2つの縦方向のつなぎ目が形成されることになる。
【0039】
したがって、隣接する映像間のつなぎ目に生じる矛盾(二重写り)が問題となる遠景カメラ映像に関しては、1つの遠景カメラ画像に基づく映像であるため、完全に連続性を保ったものとなる。そして、隣接する近景映像間のつなぎ目に関しては、図10の人物の足元部分に示すように、連続性に欠ける僅かな二重写りがあるものの、この矛盾は近景映像であるため、遠景映像の場合に比べ小さい。
このため、隣接する映像間のつなぎ目に二重写りが生じることを抑えながら、近景と遠景の連続的な車両周囲映像を生成することができる。
【0040】
実施例1では、遠景カメラとして、車両Vの頭頂部に1台設定した画角が360度の全周囲カメラ5を用いている。この全周囲カメラ5であれば、1台で全方位が見られるため、調整のしやすさや機材の面からもコストが低くなるメリットがある。また、唯一の視点からの映像を取得できるため、画像合成も行いやすい。
【0041】
実施例1では、全周囲カメラ5によって撮影した全周囲カメラ画像にとって死角となる領域を近景カメラ画像領域として設定し、車両後方の周囲遠景による1つの遠景カメラ画像と、後カメラ画像の両側位置に左右カメラ画像を合成した3つの近景カメラ画像を組み合わせることで、1つの合成画像を生成している。したがって、車両後方映像として、ワイドなパノラマ状の映像を得ることができ、後退走行する場合、車両後方の障害物の有無や位置を確認するために、有用なリアビューモニタ映像を取得することができる。
【0042】
[合成映像パターンの選択作用]
図11は、実施例1のアラウンドビューモニタシステムにおいて遠景カメラ映像と左カメラ映像と前カメラ映像と右カメラ映像を合成したモニタ表示映像例を示す図である。図12は、実施例1のアラウンドビューモニタシステムにおいて遠景カメラ映像と後カメラ映像と左カメラ映像と前カメラ映像を合成したモニタ表示映像例を示す図である。図13は、実施例1のアラウンドビューモニタシステムにおいて遠景カメラ映像と前カメラ映像と右カメラ映像と後カメラ映像を合成したモニタ表示映像例を示す図である。図14は、実施例1のアラウンドビューモニタシステムにおいて全周囲カメラ映像と全周囲俯瞰映像を合成したモニタ表示映像例を示す図である。以下、図1および図10〜図14に基づいて合成映像パターンの選択作用を説明する。
【0043】
実施例1では、全周囲カメラ5によって撮影した全周囲カメラ画像にとって死角となる領域を近景カメラ画像領域として設定し、1つの全周囲カメラ画像と、4台の前後左右カメラ1,2,3,4のうち3台のカメラからの近景カメラ画像を組み合わせることで、1つの合成画像を生成している。
【0044】
このため、下記の4つの組み合わせパターンによる合成画像が得られ、それぞれについて下記のメリットを得ることができる。
(a) 遠景カメラ映像と右カメラ映像と後カメラ映像と左カメラ映像を合成したモニタ表示映像(図10)
後退走行する場合、車両後方の障害物の有無や位置を確認するために、有用なリアビューモニタ映像を取得することができる。
(b) 遠景カメラ映像と左カメラ映像と前カメラ映像と右カメラ映像を合成したモニタ表示映像(図11)
狭い道を前進走行する場合、車両前方の障害物の有無や位置を確認するために、有用なフロントビューモニタ映像を取得することができる。
(c) 遠景カメラ映像と後カメラ映像と左カメラ映像と前カメラ映像を合成したモニタ表示映像(図12)
左側に側溝や壁などが存在する狭い道を前進走行する場合、車両左側方の障害物の有無や位置を確認するために、有用なサイドビューモニタ映像を取得することができる。
(d) 遠景カメラ映像と前カメラ映像と右カメラ映像と後カメラ映像を合成したモニタ表示映像(図13)
右側に側溝や壁などが存在する狭い道を前進走行する場合、車両右側方の障害物の有無や位置を確認するために、有用なサイドビューモニタ映像を取得することができる。
【0045】
そして、実施例1では、前後左右のカメラ1,2,3,4からの近景斜め視点を、車両の中央上部位置に設定した仮想カメラ位置から下向きに近景を視たときの視点に変換する視点変換処理により、車両周囲の近景の俯瞰画像を生成するようにしている。
【0046】
このため、下記の2つの組み合わせパターンによる合成画像が得られ、それぞれについて下記のメリットを得ることができる。
(e) 前映像、後映像、左映像、右映像を合成した全周囲俯瞰映像によるモニタ表示映像(図1)
前後に駐車している車両の間に縦列駐車を行う場合、自車位置と前後の他車位置の位置関係や位置関係の変化を把握することができ、有用なアラウンドビューモニタ映像を取得することができる。
(f) 全周囲カメラ映像と全周囲俯瞰映像(前映像、後映像、左映像、右映像)を合成したモニタ表示映像(図14)
前後に駐車している車両の間に縦列駐車を行う場合、自車位置と前後の他車位置の位置関係や位置関係の変化を把握することができるばかりでなく、立体合成画像により少し離れた障害物の有無や位置を確認することができる。つまり、全周囲俯瞰映像より有用なアラウンドビューモニタ映像を取得することができる。
【0047】
そして、画像処理コントローラ7には、表示映像選択スイッチ6を接続しているため、これらの合成映像パターンの中から、表示映像選択スイッチ6による選択操作で、走行状況などに応じて好ましい合成映像パターンを選択することができるというように、高い合成映像パターンの選択自由度を持つ。
【0048】
次に、効果を説明する。
実施例1のアラウンドビューモニタシステムにあっては、下記に列挙する効果を得ることができる。
【0049】
(1) 複数台の車載カメラ(前後左右のカメラ1,2,3,4)と、該車載カメラ(前後左右のカメラ1,2,3,4)により取得された複数の画像データを1つの画像に合成処理する画像処理コントローラ7と、該画像処理コントローラ7により生成された1つの合成画像を画面上に映し出すモニタ8と、を備えた車両周辺監視装置(アラウンドビューモニタシステム)において、前記複数台の車載カメラとして、車両周辺の近景を複数の縦割り領域にて撮影する複数台の近景カメラ(前後左右のカメラ1,2,3,4)に、該複数台の近景カメラ(前後左右のカメラ1,2,3,4)の画角を包含する広い画角にて車両周囲の遠景を撮影する遠景カメラ(全周囲カメラ5)を加え、前記画像処理コントローラ7は、前記遠景カメラ(全周囲カメラ5)によって撮影した遠景カメラ画像にとって死角となる領域を近景カメラ画像領域として設定し、1つの遠景カメラ画像と複数の近景カメラ画像を組み合わせることで、1つの合成画像を生成する。このため、隣接する映像間のつなぎ目に二重写りが生じることを抑えながら、近景と遠景の連続的な車両周囲映像を生成することができる。
【0050】
(2) 前記遠景カメラは、車両の頭頂部に1台設定した画角が360度の全周囲カメラ5である。このため、1台で全方位が見られることで、調整のしやすさや機材の面からもコスト低減を図ることができると共に、唯一の視点からの映像を取得できるため、容易に画像合成を行うことができる。
【0051】
(3) 前記複数台の近景カメラとして、車両後方を撮像範囲とする後カメラ2と、車両左側方を撮像範囲とする左カメラ3と、車両右側方を撮像範囲とする右カメラ4と、を有し、前記画像処理コントローラ7は、前記全周囲カメラ5によって撮影した全周囲カメラ画像にとって死角となる領域を近景カメラ画像領域として設定し、車両後方の周囲遠景による1つの遠景カメラ画像と、後カメラ画像の両側位置に左右カメラ画像を合成した3つの近景カメラ画像を組み合わせることで、1つの合成画像を生成する。このため、後退走行する場合、車両後方の障害物の有無や位置を確認するために、有用なリアビューモニタ映像を取得することができる。
【0052】
(4) 前記複数台の近景カメラとして、車両前方を撮像範囲とする前カメラ1と、車両後方を撮像範囲とする後カメラ2と、車両左側方を撮像範囲とする左カメラ3と、車両右側方を撮像範囲とする右カメラ4と、を有し、前記画像処理コントローラ7は、前記全周囲カメラ5によって撮影した全周囲カメラ画像にとって死角となる領域を近景カメラ画像領域として設定し、1つの全周囲カメラ画像と、4台の前後左右カメラのうち3台のカメラからの近景カメラ画像を組み合わせることで、1つの合成画像を生成する。このため、後退走行する場合に有用なリアビューモニタ映像、狭い道を前進走行する場合に有用なフロントビューモニタ映像、狭い道を前進走行する場合に有用な左右それぞれのサイドビューモニタ映像を取得することができる。
【0053】
(5) 前記画像処理コントローラは、前記4台の前後左右カメラからの視点を、車両の中央上部位置に設定した仮想カメラ位置から下向きに視た視点に変換し、前後左右の俯瞰画像を合成することで全周俯瞰合成画像を生成すると共に、全周俯瞰合成画像と全周遠景画像を合成した立体合成画像を生成する。このため、前後に駐車している車両の間に縦列駐車を行う場合、立体合成画像により少し離れた障害物の有無や位置の確認を含め、全周俯瞰合成画像のみより有用なアラウンドビューモニタ映像を取得することができる。
【0054】
(6) 前記画像処理コントローラ7に、複数の合成映像パターンから、前記モニタ8に映し出す1つの合成映像を選択するモニタ映像選択手段(表示映像選択スイッチ6)を接続した。このため、複数の合成映像パターンの中から、高い選択自由度により好ましい合成映像パターンを選択することができる。
【0055】
以上、本発明の車両周辺監視装置を実施例1に基づき説明してきたが、具体的な構成については、この実施例1に限られるものではなく、特許請求の範囲の各請求項に係る発明の要旨を逸脱しない限り、設計の変更や追加等は許容される。
【0056】
実施例1では、複数台の近景カメラとして、前後左右の4台のカメラを用いる例を示した。しかし、複数台の近景カメラとして、隣接する近景を撮影する少なくとも2台のカメラを有するものであれば、本発明に含まれる。例えば、複数台の近景カメラとして、車両前方を撮像範囲とする前カメラと、車両後方を撮像範囲とする後カメラと、車両左側方を撮像範囲とする左カメラと、車両右側方を撮像範囲とする右カメラと、のうち、少なくとも2台のカメラを有するようにしても良い。
【0057】
実施例1では、遠景カメラとして、1台の全周囲カメラを用いる例を示した。しかし、少なくとも2台の近景カメラの画角を包含する広い画角を持つ遠景カメラであれば、複数台の遠景カメラを用いても良い。
【0058】
実施例1では、アラウンドビューモニタシステムをベースとし、全周囲カメラによって撮影した全周囲カメラ画像にとって死角となる領域を近景カメラ画像領域として設定し、1つの全周囲カメラ画像と、4台の前後左右カメラのうち3台のカメラからの近景カメラ画像を組み合わせることで、1つの合成画像を生成する例を示した。しかし、1つの遠景カメラによって撮影した遠景カメラ画像にとって死角となる領域を近景カメラ画像領域として設定し、1つの遠景カメラ画像と少なくとも2台の近景カメラ画像を組み合わせることで、1つの合成画像を生成するものであれば、本発明に含まれる。
【0059】
実施例1では、表示映像選択スイッチにより、複数の合成画像の映像パターンから、1つの映像パターンを選択する例を示した。しかし、車両状態や走行状況や駐車状況などを検知し、検知された車両環境条件に応じて自動的に適切な映像パターンを選択するような例としても良い。
【産業上の利用可能性】
【0060】
実施例1では、アラウンドビューモニタシステムへの適用例を示したが、サイドビューモニタシステムやバックビューモニタシステムやフロントビューモニタシステムなどの車両周辺監視装置に対しても適用することができる。
【符号の説明】
【0061】
1 前カメラ(車載カメラ、近景カメラ)
2 後カメラ(車載カメラ、近景カメラ)
3 左カメラ(車載カメラ、近景カメラ)
4 右カメラ(車載カメラ、近景カメラ)
5 全周囲カメラ(車載カメラ、遠景カメラ)
6 表示映像選択スイッチ(モニタ映像選択手段)
7 画像処理コントローラ
71 画像データ変換部
72 CPU
73 マップメモリ
74 画像変形処理部
75 画像合成処理部
76 重畳メモリ
77 重畳処理部
78 画像データ変換部
8 モニタ
81 モニタ画面
【特許請求の範囲】
【請求項1】
複数台の車載カメラと、該車載カメラにより取得された複数の画像データを1つの画像に合成処理する画像処理コントローラと、該画像処理コントローラにより生成された1つの合成画像を画面上に映し出すモニタと、を備えた車両周辺監視装置において、
前記複数台の車載カメラとして、車両周辺の近景を複数の縦割り領域にて撮影する複数台の近景カメラに、該複数台の近景カメラの画角を包含する広い画角にて車両周囲の遠景を撮影する遠景カメラを加え、
前記画像処理コントローラは、前記遠景カメラによって撮影した遠景カメラ画像にとって死角となる領域を近景カメラ画像領域として設定し、1つの遠景カメラ画像と複数の近景カメラ画像を組み合わせることで、1つの合成画像を生成することを特徴とする車両周辺監視装置。
【請求項2】
請求項1に記載された車両周辺監視装置において、
前記遠景カメラは、車両の頭頂部に1台設定した画角が360度の全周囲カメラであることを特徴とする車両周辺監視装置。
【請求項3】
請求項2に記載された車両周辺監視装置において、
前記複数台の近景カメラとして、車両後方を撮像範囲とする後カメラと、車両左側方を撮像範囲とする左カメラと、車両右側方を撮像範囲とする右カメラと、を有し、
前記画像処理コントローラは、前記全周囲カメラによって撮影した全周囲カメラ画像にとって死角となる領域を近景カメラ画像領域として設定し、車両後方の周囲遠景による1つの遠景カメラ画像と、後カメラ画像の両側位置に左右カメラ画像を合成した3つの近景カメラ画像を組み合わせることで、1つの合成画像を生成することを特徴とする車両周辺監視装置。
【請求項4】
請求項2に記載された車両周辺監視装置において、
前記複数台の近景カメラとして、車両前方を撮像範囲とする前カメラと、車両後方を撮像範囲とする後カメラと、車両左側方を撮像範囲とする左カメラと、車両右側方を撮像範囲とする右カメラと、を有し、
前記画像処理コントローラは、前記全周囲カメラによって撮影した全周囲カメラ画像にとって死角となる領域を近景カメラ画像領域として設定し、1つの全周囲カメラ画像と、4台の前後左右カメラのうち3台のカメラからの近景カメラ画像を組み合わせることで、1つの合成画像を生成することを特徴とする車両周辺監視装置。
【請求項5】
請求項1から請求項4までの何れか1項に記載された車両周辺監視装置において、
前記画像処理コントローラは、前記4台の前後左右カメラからの視点を、車両の中央上部位置に設定した仮想カメラ位置から下向きに視た視点に変換し、前後左右の俯瞰画像を合成することで全周俯瞰合成画像を生成すると共に、全周俯瞰合成画像と全周遠景画像を合成した立体合成画像を生成することを特徴とする車両周辺監視装置。
【請求項6】
請求項1から請求項5までの何れか1項に記載された車両周辺監視装置において、
前記画像処理コントローラに、複数の合成映像パターンから、前記モニタに映し出す1つの合成映像を選択するモニタ映像選択手段を接続したことを特徴とする車両周辺監視装置。
【請求項1】
複数台の車載カメラと、該車載カメラにより取得された複数の画像データを1つの画像に合成処理する画像処理コントローラと、該画像処理コントローラにより生成された1つの合成画像を画面上に映し出すモニタと、を備えた車両周辺監視装置において、
前記複数台の車載カメラとして、車両周辺の近景を複数の縦割り領域にて撮影する複数台の近景カメラに、該複数台の近景カメラの画角を包含する広い画角にて車両周囲の遠景を撮影する遠景カメラを加え、
前記画像処理コントローラは、前記遠景カメラによって撮影した遠景カメラ画像にとって死角となる領域を近景カメラ画像領域として設定し、1つの遠景カメラ画像と複数の近景カメラ画像を組み合わせることで、1つの合成画像を生成することを特徴とする車両周辺監視装置。
【請求項2】
請求項1に記載された車両周辺監視装置において、
前記遠景カメラは、車両の頭頂部に1台設定した画角が360度の全周囲カメラであることを特徴とする車両周辺監視装置。
【請求項3】
請求項2に記載された車両周辺監視装置において、
前記複数台の近景カメラとして、車両後方を撮像範囲とする後カメラと、車両左側方を撮像範囲とする左カメラと、車両右側方を撮像範囲とする右カメラと、を有し、
前記画像処理コントローラは、前記全周囲カメラによって撮影した全周囲カメラ画像にとって死角となる領域を近景カメラ画像領域として設定し、車両後方の周囲遠景による1つの遠景カメラ画像と、後カメラ画像の両側位置に左右カメラ画像を合成した3つの近景カメラ画像を組み合わせることで、1つの合成画像を生成することを特徴とする車両周辺監視装置。
【請求項4】
請求項2に記載された車両周辺監視装置において、
前記複数台の近景カメラとして、車両前方を撮像範囲とする前カメラと、車両後方を撮像範囲とする後カメラと、車両左側方を撮像範囲とする左カメラと、車両右側方を撮像範囲とする右カメラと、を有し、
前記画像処理コントローラは、前記全周囲カメラによって撮影した全周囲カメラ画像にとって死角となる領域を近景カメラ画像領域として設定し、1つの全周囲カメラ画像と、4台の前後左右カメラのうち3台のカメラからの近景カメラ画像を組み合わせることで、1つの合成画像を生成することを特徴とする車両周辺監視装置。
【請求項5】
請求項1から請求項4までの何れか1項に記載された車両周辺監視装置において、
前記画像処理コントローラは、前記4台の前後左右カメラからの視点を、車両の中央上部位置に設定した仮想カメラ位置から下向きに視た視点に変換し、前後左右の俯瞰画像を合成することで全周俯瞰合成画像を生成すると共に、全周俯瞰合成画像と全周遠景画像を合成した立体合成画像を生成することを特徴とする車両周辺監視装置。
【請求項6】
請求項1から請求項5までの何れか1項に記載された車両周辺監視装置において、
前記画像処理コントローラに、複数の合成映像パターンから、前記モニタに映し出す1つの合成映像を選択するモニタ映像選択手段を接続したことを特徴とする車両周辺監視装置。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【公開番号】特開2010−166196(P2010−166196A)
【公開日】平成22年7月29日(2010.7.29)
【国際特許分類】
【出願番号】特願2009−5331(P2009−5331)
【出願日】平成21年1月14日(2009.1.14)
【出願人】(000001487)クラリオン株式会社 (1,722)
【Fターム(参考)】
【公開日】平成22年7月29日(2010.7.29)
【国際特許分類】
【出願日】平成21年1月14日(2009.1.14)
【出願人】(000001487)クラリオン株式会社 (1,722)
【Fターム(参考)】
[ Back to top ]