車両用表示装置
【課題】利用者が車両周囲の状況が把握しやすい画像を表示することができる。
【解決手段】車両に搭載されたカメラ1a〜1fが撮像した撮像画像のデータを取得し、表示する映像の仮想視点Pを設定し、撮像画像を投影するために予め定義された曲面Qを有する基準曲面座標系131の少なくとも一部を、基準曲面座標系131に対する仮想視点Pの位置に応じて変形して変形座標系133を得て、撮像画像のデータを変形された変形座標系133に投影し、設定された仮想視点から車両及びこの車両の周囲を見た映像を生成し、生成された映像をディスプレイ3に表示させる制御装置10を備える画像表示装置100を提供する。
【解決手段】車両に搭載されたカメラ1a〜1fが撮像した撮像画像のデータを取得し、表示する映像の仮想視点Pを設定し、撮像画像を投影するために予め定義された曲面Qを有する基準曲面座標系131の少なくとも一部を、基準曲面座標系131に対する仮想視点Pの位置に応じて変形して変形座標系133を得て、撮像画像のデータを変形された変形座標系133に投影し、設定された仮想視点から車両及びこの車両の周囲を見た映像を生成し、生成された映像をディスプレイ3に表示させる制御装置10を備える画像表示装置100を提供する。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、車両に搭載された複数のカメラで撮像した画像を繋ぎ合せて、車両上空の仮想視点から見た車両周囲の画像を生成して表示する車両用表示装置に関する。
【背景技術】
【0002】
この種の装置に関し、カメラの画像をお椀型の曲面に投影し、その曲面を任意の仮想視点から見た映像を生成する画像生成装置が知られている(特許文献1)。
【先行技術文献】
【特許文献】
【0003】
【特許文献1】特許第3286306号公報
【発明の概要】
【発明が解決しようとする課題】
【0004】
しかしながら、従来の技術により生成された映像では車両周囲の状況が把握しにくいという問題があった。
【0005】
本発明が解決しようとする課題は、車両周囲の状況が把握しやすい映像を表示することである。
【課題を解決するための手段】
【0006】
本発明は、予め定義された曲面を有する基準曲面座標系に対する仮想視点の位置に応じて、この基準曲面座標系の少なくとも一部を変形した変形座標系を生成し、この変形座標系に投影処理を行うことにより、上記課題を解決する。
【発明の効果】
【0007】
本発明によれば、仮想視点の位置に応じて変形された変形座標系に映像が投影されるので、仮想視点の位置が変更されても車両周囲の状況が把握しやすい画像を表示することができる。
【図面の簡単な説明】
【0008】
【図1】本発明に係る実施形態の画像表示装置を含む車両用表示システムの構成図である。
【図2】図2(A)(B)は本実施形態の車載カメラの設置位置の一例を示す図である。
【図3】基準曲面座標系の一例を示す図である。
【図4】本発明の実施形態に係る車両用表示システムの制御手順を示すフローチャート図である。
【図5】基準曲面座標系と仮想視点との関係の一例を示す図である。
【図6】図5に示す基準曲面座標系の変形手法を説明するための図である。
【図7】変形座標系の一例を示す図である。
【図8】図8(A)は、図5のVIII(A)−VIII(A)線に沿う基準曲面座標系の断面を模式的に示す図、図8(B)は図8(A)の基準曲面座標系の変形処理を模式的に示す図、図8(C)は図7に示す変形座標系のVIII(C)−VIII(C)線に沿う断面を模式的に示す図である。
【図9】変形座標系の移動の一例を示す図である。
【図10】変形座標系の他の例を示す図である。
【図11】車両及び車両周囲の状況を示す図である。
【図12】本発明の本実施形態に係る変形座標系に投影された映像の一例を示す図である。
【図13】本発明の本実施形態に係る変形座標系に投影された映像の他の例を示す図である。
【図14】比較に係る映像の一例を示す図である。
【図15】比較に係る座標系を示す図である。
【図16】比較に係る映像の他の一例を示す図である。
【図17】基準曲面座標系の変形手法の他の例を示す図である。
【図18】基準曲面座標系の変形手法のさらに他の例を示す図である。
【発明を実施するための形態】
【0009】
以下、本発明の第1の実施形態を図面に基づいて説明する。本実施形態では、本発明に係る車両用表示装置を、車載の車両用表示システム1000に適用した場合を例にして説明する。車両用表示システム1000は、車両及び車両周囲の状況を把握するための監視画像を車載ディスプレイに表示する。ちなみに、本発明に係る車両用表示装置は、利用者の携帯端末のディスプレイに車両の監視画像を表示する監視装置や、駐車場の管理装置のディスプレイに各車両の監視画像を表示する監視装置に適用することもできる。
【0010】
図1は、本実施形態に係る画像表示装置100を含む車両用表示システム1000のブロック構成図である。図1に示すように、本実施形態の車両用表示システム1000は、画像表示装置100と、自車両の外部に固定されたn個の車載カメラ1a〜1nと、イグニッションスイッチ4と、画像表示装置100を動作させる撮像スイッチ5と、車速センサ6と、シフト位置がリバースに入ったときの信号を出力するリバースポジションスイッチ7と、後述する監視画像Sの表示態様を切り替える表示切替スイッチ8と、撮像画像や監視画像を表示するディスプレイ3と、を備えている。これらの各装置はCAN(Controller Area Network)その他の車載LANによって接続され、相互に情報の授受を行うことができる。
【0011】
同図に示すように、本実施形態に係る画像表示装置100の制御装置10は、生成した監視画像を所定の態様で表示させるプログラムが格納されたROM(Read Only Memory)12と、このROM12に格納されたプログラムを実行することで、画像表示装置100として機能させる動作回路としてのCPU(Central Processing Unit)11と、アクセス可能な記憶装置として機能するRAM(Random Access Memory)13と、を備えている。
【0012】
本実施形態に係る画像表示装置100の制御装置10は、撮像画像取得機能と、視点設定機能と、座標系変形機能と、投影機能と、表示制御機能と、を備えている。本実施形態の制御装置10は、上記機能を実現するためのソフトウェアと、上述したハードウェアの協働により各機能を実行することができる。
【0013】
以下に、画像表示装置100の制御装置10が実現する各機能についてそれぞれ説明する。
【0014】
まず、制御装置10の撮像画像取得機能について説明する。本実施形態の制御装置10は、イグニッションスイッチ4に入力操作がされるなどのトリガ発生に呼応して、車載カメラ1a〜1nに所定周期で車両周囲を撮像させる。
【0015】
図2は、車両Vに車載カメラ1a〜1nを取り付ける場合の配置例を示す図である。本例では、6個の車載カメラ1a〜1fが車両Vの外部の異なる位置に各々設置され、車両周囲の6方向の画像をそれぞれ撮影する。得られる撮像画像には、車両の一部や車両の周囲の画像が含まれている。なお、車載カメラ1a〜1nの配置位置は特に限定されず、その撮像方向も任意に設定することができる。各車載カメラ1a〜1fは所定周期で撮像画像を画像表示装置100へ送出する。
【0016】
次に、制御装置10の視点設定機能について説明する。制御装置10は、車載カメラ1a〜1nが送出した撮像画像のデータを取得する。本実施形態の制御装置10は、ディスプレイ3に表示する映像(監視画像)の仮想視点を設定する。仮想視点及び視線の方向は、表示切替スイッチ8を介して入力されたユーザからの指令に基づいて任意に設定することができる。
【0017】
また、制御装置10は、運転状況に応じて仮想視点を設定することができる。例えば、前進中は車両前方の映像を見るために車両の後方に仮想視点を設定し、後退中は車両後方の映像を見るために車両前方に仮想視点を設定することができる。もちろん、後退中に車両後方の映像を後方から見るために車両後方に仮想視点を設定することもできる。具体的に、制御装置10は、リバースポジションスイッチ7から入力されたシフト位置がリバースに入ったときの信号に呼応して、仮想視点の位置を設定することができる。これら各仮想視点の設定位置は、車両の形状に応じて予め設定しておくこともできる。さらに、車速に応じて仮想視点を設定することもできる。具体的には、車速センサ6から入力された車速に応じて、車速が所定値以上である場合には仮想視点の位置を車両から離隔させ、車速が所定値未満である場合には仮想視点の位置を車両に接近させるようにすることができる。
【0018】
続いて、制御装置10の座標系変形機能について説明する。本実施形態の制御装置10は、撮像画像を投影するために予め定義された曲面を有する基準曲面座標系の少なくとも一部を、基準曲面座標系に対する仮想視点の位置に応じて変形する。
【0019】
本実施形態の制御装置10は、曲面を有する基準曲面座標系131を予め定義し、これをRAM13等の記憶装置に記憶している。図3は、基準曲面座標系131の一例を示す図である。同図に示すように、本実施形態の基準曲面座標系131は、車両Vを取り囲むボウル(bowl)形状である。また、同図に示すように、本実施形態の基準曲面座標系131は、車両Vの載置面(走行面)と平行なxy面上に中心を有し、中心乃至中心近傍から曲率をもって車両Vの高さ方向(z方向)の成分を有する曲線乃至曲面から形成されている。
【0020】
基準曲面座標系131の中心近傍には、xy面に平行な底面を形成することができ、その形状は矩形、三角形、楕円形又は円形等の任意の形状にすることができる。また、基準曲面座標系131の曲面の曲率は均一でなくてもよい。例えば、底面の近傍の(z軸に沿ってxy面近傍)の曲面の曲率を相対的に大きくし、底面から離隔した(z軸に沿ってxy面から離隔した位置)の曲面の曲率を相対的に小さく(ゼロを含む)してもよい。なお、制御装置10は、車両の形状(大きさ、形)に応じて、形状の異なる複数の基準曲面座標系131を予め記憶しておくことができる。複数の基準曲面座標系131を記憶する場合には、車両の車速、車両のリバースポジションのオンオフに応じて利用される基準曲面座標系131を対応づけておき、車両の車速やリバースポジションスイッチのオンオフに応じて基準曲面座標系131を選択することもできる。
【0021】
図3に示すように、本実施形態の基準曲面座標系131には、予め準備された車両Vの画像V´を重畳させてもよい。車両の画像V´はその車両の意匠に基づいて予め作成し、記憶させておくことができる。このように、車両Vの画像V´を基準曲面座標系131に重畳させることにより、車両Vの位置及び向きと周囲の映像との関係の理解を助けることができる。
【0022】
そして、制御装置10は、予め記憶されている基準曲面座標系131を読み出し、読み出した基準曲面座標系131の形状を変形する。本実施形態では、基準曲面座標系131の少なくとも一部を変形する。この基準曲面座標系131を変形する具体的な手法は後述する。
【0023】
続いて、制御装置10の投影機能について説明する。制御装置10は、カメラ1a〜1fから取得した撮像画像のデータを、基準曲面座標系131を変形させた変形座標系133に投影し、設定された仮想視点から車両及びこの車両の周囲を見た映像を生成する。変形座標系133は所謂ワールド座標系(グローバル座標系)に相当する。
【0024】
制御装置10は、カメラ1a〜1fから取得した撮像画像のデータを変形後の変形座標系に投影するために、カメラ1a〜1fの各撮像画像のデータの画素の座標と変形座標系133の座標とを対応づける画像変換テーブル132を有している。この画像変換テーブル132の態様は特に限定されず、本実施形態の画像変換の手法は、出願時に知られた座標変換手法を用いることができる。
【0025】
なお、画像変換テーブル132は、複数の対応情報を含むものであってもよい。例えば、カメラ1a〜1fの各撮像画像を一つの画像に合成するために、カメラ1a〜1fの各撮像画像のデータの画素の座標と合成画像の画素の座標とを予め対応づけた第1の対応情報と、この合成画像の画素の座標と変形座標系の座標とを対応づける第2の対応情報とを含む画像変換テーブル132を構成し、カメラ1a〜1fの各撮像画像から第1の対応情報を用いて合成画像を作成し、この合成画像を第2の対応情報を用いて変形座標系133に投影してもよい。
【0026】
最後に、制御装置10の表示制御機能について説明する。制御装置10は、変形された変形座標系を、車載LANを介して車両内部に設置されたディスプレイ3に送出し、その表示用画面に表示させる。なお、制御装置10は、変形された変形座標系を、有線又は無線の通信回線を介して車外の携帯端末や、駐車中の車両を管理する管理装置に送出し、その表示用画面に表示させることもできる。
【0027】
ここで、図4のフローチャートに基づいて、本実施形態の制御装置10の動作を説明する。イグニッションスイッチ4のオン入力がされ、撮像スイッチ5に起動指令が入力されるなどの特定のトリガが発生すると、本実施形態の制御装置10は、画像表示処理を開始する。
【0028】
図4に示すように、ステップS1において、制御装置10は、予め準備された基準曲面座標系131を読み込む。次に、ステップS2において、制御装置10は、カメラ1a〜1fにより所定周期で撮像された撮像画像を取得する。
【0029】
続くステップS3において、制御装置10は、最終的に表示する映像の仮想視点を設定する。この仮想視点の設定は、表示切替スイッチ8の指令に基づいて行われる。表示切替スイッチ8は、ユーザから入力された切替指令、車速センサ6から取得した車速、リバースポジションスイッチ7からの出力に応じて表示する映像の仮想視点を設定することができる。
【0030】
次に、ステップS4において、制御装置10は、ステップS1で読み出した基準曲面座標系131を変形する。制御装置10は、基準曲面座標系131の少なくとも一部を、基準曲面座標系131に対する仮想視点の位置に応じて変形し、変形座標系を得る。この変形手法については、後述する。
【0031】
続いて、ステップS5において、制御装置10は、ステップS2にて取得したカメラ1a〜1fの撮像画像を変形座標系に投影する。
【0032】
最後に、制御装置10は、変形後の変形座標系に投影された映像をディスプレイ3に表示させる。
【0033】
以下、図5〜図10に基づいて、基準曲面座標系131の変形手法を説明する。
【0034】
図5は、読みだされた基準曲面座標系131を、車両Vの上方から見た(図3のz軸のプラス方向からz軸のゼロ点に向かって見た)ときの平面図である。本実施形態の基準曲面座標系131は、車両Vの平面外形に沿った略矩形の底面Bと、底面から曲率を持ってz軸に沿う方向の成分を有する曲面Qとを有する。この曲面Qの端部には外縁Qeが形成されている。また、基準曲面座標系131は、平面視におけるxy座標において、x軸及びy軸に対して対称な形状である。
【0035】
また、図5には、仮想視点Pの複数の候補P1,P2,P3(総称してPともいう)を示す。図5に示す仮想視点P1,P2,P3のうち、仮想視点P1及びP3は基準曲面座標系131の外縁Qeの外側に位置し、仮想視点P2は基準曲面座標系131の外縁Qeの内側に位置している。また、基準曲面座標系131の基点oから仮想視点P2までの距離はL1であり、基準曲面座標系131の基点oから仮想視点P3までの距離はL1+L2であり、基準曲面座標系131の基点oから仮想視点P1までの距離はL1+L2+L3である。なお、図5及び後述する図6及び図7には車両Vの画像V´が重畳されている。
【0036】
図6は、基準曲面座標系131の変形手法の一例を示す図である。本実施形態では、図5に示すように、仮想視点P1が基準曲面座標系131の外縁Qeの外側に位置する場合には、図6に示すように、仮想視点P1が基準曲面座標系131の外縁Qeよりも内側に位置するように、基準曲面座標系131の一部を変形する。
【0037】
異なる観点から説明すると、仮想視点Pと基準曲面座標系131の中心oとの距離L1+L2+L3が予め設定した第1の所定値以上である場合、つまり、基準曲面座標系131の中心oから離隔した位置に仮想視点Pが設定された場合には、仮想視点P1が基準曲面座標系131の外縁Qeよりも内側に位置するように、仮想視点Pとの距離が第2の所定値未満である基準曲面座標系131の外縁Qeの一部、つまり、仮想視点Pに近い位置にある外縁Qeの部分を、基準曲面座標系131の中心oから離隔するように基準曲面座標系131を変形する。これにより、基準曲面座標系131の全部を均等に拡大・縮小するのではなく、仮想視点P1に近い部分だけを部分的に拡大させることができる。ちなみに、図5に示す基準曲面座標系131は、xy軸に対して対称であるが、図6に示す変形座標系133はx軸及び/又はy軸に対して非対象の形状である。なお、第1の所定値と第2の所定値は同じ値であってもよいし、異なる値であってもよい。
【0038】
基準曲面座標系131の変形量は、仮想視点P1と基準曲面座標系131との位置関係に応じて予め定義しておくことができる。具体的に、仮想視点P1と基準曲面座標系131の中心oの距離と基準曲面座標系131の外縁Qeの一部の変形量とを予め対応づけた変形量データ134を参照し、仮想視点P1と基準曲面座標系の中心の距離に応じて求められた変形量に応じて基準曲面座標系131を変形することができる。
【0039】
図7は、変形座標系R133の一例を示す図である。図7に示すように、基準曲面座標系131の外縁Qeに位置していた仮想視点P1は、変形された変形座標系133の曲面Rの外縁Reよりも内側、つまり座標基点oに近い位置にある。
【0040】
図7に示す例では、基準曲面座標系131の外縁Qeの一部分が変形されている。特に限定されないが、本例では、仮想視点P1に近い領域を選択的に変形する観点から、仮想視点P1からの距離が第2の所定値以下の外縁Qeを変形したが、この変形領域の設定の手法は限定されない。例えば図7に示すように仮想視点P1から距離tにあり、かつ基準曲面座標系131の外縁Qe上の点P1tと、同じく仮想視点P1から距離sにあり、かつ基準曲面座標系131の外縁Qe上の点P1sとの間の部分を、変形することができる。つまり、仮想視点O1に近い領域を定義するために設定された第2の所定値は方向に応じて異なる値とすることができる。本例では、車両の長手方向の第2の所定値は距離tとし、車両の幅方向の第2の所定値は距離sとしている。なお、距離t及び距離sは任意に設定することができ、距離tと距離sとは同じ値であってもよいし、異なる値であってもよい。つまり、変形する領域は仮想視点P1から等距離にある。変形する領域の設定手法はこれに限定されず、他の例については後述する。
【0041】
図8(A)は、図5のVIII(A)−VIII(A)線に沿う基準曲面座標系131の断面を模式的に示す図、図8(B)は図8(A)の基準曲面座標系131の変形処理を模式的に示す図、図8(C)は図7に示す変形座標系133のVIII(C)−VIII(C)線に沿う断面を模式的に示す図である。
【0042】
図8(A)に示すように、仮想視点P1は基準曲面座標系131の外側に位置している。この状態で仮想視点P1から車両Vをみると、基準曲面座標系131の曲面Qの外側面Q1側を見ることになる。本実施形態では、基準曲面座標系131の曲面Qのうち仮想視点P1から外側面Q1が見える部分を変形する。図8(B)に示すように、基準曲面座標系131の変形によって、基準曲面座標系131の曲面Qの外縁Qeは仮想視点P1の方向に引き伸ばされている。また、この変形によって、基準曲面座標系131の曲面Qの外縁Qeがz軸方向に沿って低い位置に移動されている。このように、変形することによって、仮想視点P1から車両Vをみたとき、基準曲面座標系131(変形座標系133)の曲面Qの内側面R2側を見ることになる。つまり、図8(C)に示すように、変形座標系133に対して、仮想視点P1は変形座標系133の曲面Rの内側に存在している。つまり、変形座標系133の外縁Reは、仮想視点P1よりも車両Vから離隔しており、変形座標系133の中心oから仮想視点P1までの距離LP1よりも、中心oから外縁Reまでの距離LReの方が大きい。
【0043】
また、制御装置10は、変形する領域を、基準曲面座標系131の曲面Q上の任意の点qのうち、仮想視点P1及び点q(図示せず)を通る直線と、点qを通る曲面Qの接平面がなす角度が所定の閾値未満である点qを含む領域を変形することができる。変更後の変形座標系133は、仮想視点P1を視線方向とは逆の方向に移動した点(図8(B)の点P1x)を通る、変更前の基準曲面座標系131の接線から形成される。この接線には曲率を付与することができ、変形部分は平面であっても曲面であってもよい。また、変形された変形座標系133において、その変形にかかる曲面R上の任意の点rを通る曲面Rの接平面と、仮想視点Pから点rを通る直線とのなす角度が所定の角度未満とすることができる。
【0044】
さらに、制御装置100は、仮想視点Pと基準曲面座標系131の中心oの距離と基準曲面座標系131の外縁Qeの一部の変形量とを予め対応づけた変形量データ134を参照し、仮想視点Pと基準曲面座標系131の中心oの距離に応じて、基準曲面座標系131の外縁Qeの一部を所定量変形させることができる。
【0045】
図8(B)及び(C)に示す例を用いて説明すると、制御装置100は、基準曲面座標系131の中心oから仮想視点P1までの距離LP1と、外延Qeの変形量(LRe−LQe)とを予め対応づけた変形量データ134を参照し、仮想視点P1と基準曲面座標系131の中心oから仮想視点P1までの距離LP1に基づいて変形量を算出し、この変形量に応じて基準曲面座標系131の外縁Qeを変形させることができる。なお、変形量データ134は、変形される基準曲面座標系131の外縁Qeの座標と変形後の変形座標系133の外縁Reの座標とが対応づけることができればよく、その定義手法は限定されない。例えば、変形後のxyz軸によって定義させる空間座標における外延Qeの変形量と仮想視点P1の中心oからの距離LP1とを対応づけて構成してもよい。
【0046】
また、図9に示すように、制御装置10は、仮想視点P及び変形座標系133を、変形座標系133の中心oを回転中心として回転移動させることができる。同図に示すように、仮想視点P及び変形座標系133を、中心oを回転中心として破線で示す軌道に沿って所定角度αだけ回転させると、仮想視点PはP1´の位置へ移動し、変形座標系133も変形座標系133´の位置に移動し、図10に示す変形座標系133´を得ることができる。このように、仮想視点P1及び曲線座標系133を回転移動させることにより、変形座標系133への投影された映像において車両Vを見る方向を任意に変化させることができる。
【0047】
なお、制御装置10は、変形座標系133の生成時において、仮想視点Pの高さ(z方向の位置)も変更することができる。
【0048】
続いて、図11〜13に基づいて、本実施形態の車両用表示システム1000において、ディスプレイ3に表示される具体的な映像例を説明する。
【0049】
図11は、所定の仮想視点から車両V及び障害物W1,W2を見た、実像である。図12は、この状態にある車両V及び周囲の障害物W1,W2の撮像画像のデータを図7に示す仮想視点P1を基準に、同図の変形座標系133に投影した画像である。同様に、図13は、撮像画像のデータを図10に示す仮想視点P1´を基準に、同図の変形座標系133´に投影した画像である。
【0050】
図12及び図13に示すように、本実施形態の車両用表示システム1000が表示する映像は画像の歪み量が小さい。この結果、利用者が車両周囲の状況が把握しやすい画像を表示することができる。
【0051】
ところで、仮想視点Pが基準曲面座標系131の外側に設定され、基準曲面座法系131の外縁Qeの高さが仮想視線(仮想視点Pから車両Vを見る視線)よりも高い場合には、先述した図8(A)に示す状態のように、基準曲面座法系131を外側面Q1から見ることになる。
【0052】
図14は、このような状態で基準曲面座標系131に投影された映像を示す。図14に示すように、車両Vの近くの障害物W1x,W2xの形状が歪んでしまうため、利用者は車両周囲の状況を把握することが難しい。また、ディスプレイ3の表示面が矩形であるにもかかわらず、車両V´及び車両周囲の様子を矩形の画像として表現することができない。このため、図14に示すように、映像が表示されない領域(斜線Sh)が発生してしまい、ディスプレイ3の表示用画面の一部を利用することができない。
【0053】
また、図15に示すように、仮想視点P1が座標系の外縁Qe´の内側に位置するように、半径が大きい円又は楕円状の(変形されていない)座標系を投影に用いた場合には、映像は図16のようになる。この図16に示す映像では、実際には高さのある障害物W1y,W2yが地面に倒れているように表現される。このため、障害物W1y,W2yは高さの無い物(例えば道路上の標識)のように見えてしまうため、利用者は車両周囲の状況を把握することが難しい。
【0054】
これに対し、上述した本実施形態の画像表示装置100によれば、図12及び図13に示すように、高さを持つ障害物W1,W2の形状の歪みが少なく、画像の欠け(図14の斜線Sh)がなく、ディスプレイ3の表示用画面に適した矩形の画像を提供することができる。この結果、利用者が車両周囲の状況が把握しやすい画像を表示することができる。
【0055】
以下、図17及び図18に基づいて、基準座標系131から変形座標系133を得る他の手法について説明する。
制御装置10は、仮想視点Pが基準曲面座標系131の外縁Qeの内側に位置する場合、つまり、基準曲面座標系131の中心oから仮想視点Pまでの距離が所定値未満である場合には、基準曲面座標系131の外縁Qeが基準曲面座標系131の中心oに接近するように基準曲面座標系131を変形する。つまり、基準曲面座標系131の上面視における面積を小さく縮小する。本処理において、制御装置10は、基準曲面座標系131に対する仮想視点P1の位置に応じて、基準曲面座標系131の外縁Qeを変形する。外縁Qeの変形量は、仮想視点P1の位置と外縁Qeの位置との関係(例えば距離)に応じて決定することができる。図17に示す例では、仮想視点P1からの距離が小さい外縁Qeの変形量は比較的小さく、仮想視点P1からの距離が大きい外縁Qeの変形量は比較的大きい。仮想視点P1からの距離に応じた変形量は予め定義しておくことができる。これにより、車両V(基準座標系131)に対する仮想視点Pの位置に応じて変形座標133の形状を変更することができる。
【0056】
なお、制御装置10は、基準曲面座標系131の外縁Qeの全部を仮想視点P1が基準曲面座標系131の外縁Qeの外側に位置するように、基準曲面座標系131の中心oに所定距離だけ接近するように変形し、その後、仮想視点P1が基準曲面座標系131の外縁Qeよりも内側に位置するように、基準曲面座標系131の一部を変形するように構成することもできる。
【0057】
また、本実施形態の制御装置10は、基準曲面座標系131を変形して変形座標系133を得る際に、仮想視点P1の位置を変更するとともに、形座標系133の外縁Reの位置を変形することができる。たとえば、図18に示すように、仮想視点P1を中心oに近い点P2へ変更するとともに、変形座標系133の外縁Re1を中心oに近い外縁Re2に変更する。この変形処理においては、仮想視点P1と中心oの距離と変形座標系133の外縁Reの変形量とを予め対応づけた変形量データを参照し、仮想視点P1と変形座標系133の中心oの距離に応じて、変形座標系133の外縁Re1の一部を所定量変形させる。これにより、車両V(基準座標系131)に対する仮想視点Pの位置に応じて変形座標133の形状を変更することができる。
【0058】
本発明は以上のように構成され、以上のように作用するので、以下の効果を奏する。
【0059】
本発明に係る本実施形態の画像表示装置100は、仮想視点Pの位置に応じて基準曲面座標系131の一部が変形された変形座標系133に、各カメラ1a〜1fの撮像画像を投影するので、仮想視点Pの位置が変わっても、周囲の状況が把握しやすい映像を提供することができる。
【0060】
本発明に係る本実施形態の画像表示装置100は、仮想視点Pが基準曲面座標系131の外縁Qeの外側に位置する場合には、仮想視点Pが基準曲面座標系131の外縁Qeよりも内側に位置するように、基準曲面座標系Qeの一部を変形して変形座標133を得るので、利用者に提示する映像に投影座標の外側面の映像を含ませることがなく、画像の欠け(図14の斜線Shの相当する部分)がなく、ディスプレイ3の表示用画面に適した矩形の画像を提供することができる。また、仮想視点Pが基準曲面座標系131の外縁Qeよりも内側に位置するように、基準曲面座標系Qeの一部を変形するので、高さを持つ障害物の形状の歪みが少ない。さらに、仮想視点Pと基準曲面座標系131との位置関係に応じて変形処理を行うことにより、運転される車両の状況に応じて適切な変形座標を得ることができ、状況に応じた映像を表示することができる。この結果、利用者が車両周囲の状況が把握しやすい画像を表示することができる。
【0061】
同様に、仮想視点Pと基準曲面座標系131の中心oの距離が第1の所定値以上である場合には、仮想視点Pが基準曲面座標系131の外縁Qeよりも内側に位置するように、仮想視点Pとの距離が第2の所定値未満である基準曲面座標系131の外縁Qeの一部を、基準曲面座標系131の中心oから離隔するように基準曲面座標系131を変形して変形座標133を得るので、画像の欠けの無い矩形の映像を提供することができるとともに、車両周囲に存在する立体物の映像の歪みを低減させることができる。
【0062】
また、本実施形態の画像表示装置100は、仮想視点Pが基準曲面座標系131の外縁Qeの内側に位置する場合には、基準曲面座標系131の外縁Qeが基準曲面座標系131の中心oに接近するように基準曲面座標系131を変形するので、仮想視点Pの位置に対して基準曲面座標系131が大きすぎる場合には、基準曲面座標系131を小さく変形することができる。このとき、視認性に悪影響が無い部分、例えば仮想視点Pから離隔している領域(仮想視点Pから所定値以上の距離がある領域)については中心oに近接させて小さくし、視認性に影響を与える部分、例えば仮想視点Pに近い領域(仮想視点Pから所定値未満の距離の領域)については中心oからの距離を担保して表示面積を広くして視認性を確保することができる。これにより、利用者が車両周囲の状況が把握しやすい画像を表示することができる。
【0063】
また、本実施形態の画像表示装置100は、仮想視点Pと基準曲面座標系131の中心oの距離と基準曲面座標系131の外縁Qeの一部の変形量とを予め対応づけた変形量データ134を参照し、仮想視点Pと基準曲面座標系131の中心oの距離に応じて、基準曲面座標系131の外縁Qeの一部を所定量変形させるので、仮想視点Pと車両Vとの距離に応じて定量的な変形が施された変形座標系133を迅速に得ることができる。
【0064】
また、本実施形態の画像表示装置100は、変形座標系131の中心oを回転中心として、仮想視点P及び曲線座標系を移動させることにより、運転される車両の状況に応じて変化する仮想視点Pの位置に応じて、適切な方向から車両Vを見る変形座標131を得ることができ、状況に応じた映像を表示することができる。
【0065】
また、本実施形態の画像表示装置100は、仮想視点Pと変形座標系131の中心oの距離と変形座標系133の外縁Reの変形量とを予め対応づけた変形量データを参照し、仮想視点Pと変形座標系133の中心oの距離に応じて、変形座標系133の外縁Reの一部を所定量変形させるので、運転される車両の状況に応じて変化する仮想視点Pの位置に応じて、適切な距離に設けられた仮想視点Pから見た変形座標131を得ることができ、状況に応じた映像を表示することができる。
【0066】
なお、以上説明した実施形態は、本発明の理解を容易にするために記載されたものであって、本発明を限定するために記載されたものではない。したがって、上記の実施形態に開示された各要素は、本発明の技術的範囲に属する全ての設計変更や均等物をも含む趣旨である。
【0067】
すなわち、本明細書では、本発明に係る車両用表示装置の一態様として画像表示装置100を例にして説明するが、本発明はこれに限定されるものではない。
【0068】
また、本明細書では、本発明に係る車両用表示装置の一態様として、CPU11、ROM12、RAM13を含む制御装置10を備える画像表示装置100を一例として説明するが、これに限定されるものではない。
【0069】
また、本明細書では、本願発明に係る撮像画像取得手段と、視点設定手段と、座標系変形手段と、投影手段と、表示制御手段とを有する車両用表示装置の一態様として、撮像画像取得機能と、視点設定機能と、座標系変形機能と、投影機能と、表示制御機能とを実行させる制御装置10を備えた画像表示装置100を例にして説明するが、本発明はこれに限定されるものではない。
【符号の説明】
【0070】
1000…車両用表示システム
1a〜1n…車載カメラ
100…画像表示装置
V…車両
10…制御装置
11…CPU
12…ROM
13…RAM
131…基準曲面座標系
132…画像変換テーブル
133…変形座標系
134…変形量データ
3…ディスプレイ
4…イグニッションスイッチ
5…撮像スイッチ
6…車速センサ
7…リバースポジションスイッチ
8…表示切替スイッチ
【技術分野】
【0001】
本発明は、車両に搭載された複数のカメラで撮像した画像を繋ぎ合せて、車両上空の仮想視点から見た車両周囲の画像を生成して表示する車両用表示装置に関する。
【背景技術】
【0002】
この種の装置に関し、カメラの画像をお椀型の曲面に投影し、その曲面を任意の仮想視点から見た映像を生成する画像生成装置が知られている(特許文献1)。
【先行技術文献】
【特許文献】
【0003】
【特許文献1】特許第3286306号公報
【発明の概要】
【発明が解決しようとする課題】
【0004】
しかしながら、従来の技術により生成された映像では車両周囲の状況が把握しにくいという問題があった。
【0005】
本発明が解決しようとする課題は、車両周囲の状況が把握しやすい映像を表示することである。
【課題を解決するための手段】
【0006】
本発明は、予め定義された曲面を有する基準曲面座標系に対する仮想視点の位置に応じて、この基準曲面座標系の少なくとも一部を変形した変形座標系を生成し、この変形座標系に投影処理を行うことにより、上記課題を解決する。
【発明の効果】
【0007】
本発明によれば、仮想視点の位置に応じて変形された変形座標系に映像が投影されるので、仮想視点の位置が変更されても車両周囲の状況が把握しやすい画像を表示することができる。
【図面の簡単な説明】
【0008】
【図1】本発明に係る実施形態の画像表示装置を含む車両用表示システムの構成図である。
【図2】図2(A)(B)は本実施形態の車載カメラの設置位置の一例を示す図である。
【図3】基準曲面座標系の一例を示す図である。
【図4】本発明の実施形態に係る車両用表示システムの制御手順を示すフローチャート図である。
【図5】基準曲面座標系と仮想視点との関係の一例を示す図である。
【図6】図5に示す基準曲面座標系の変形手法を説明するための図である。
【図7】変形座標系の一例を示す図である。
【図8】図8(A)は、図5のVIII(A)−VIII(A)線に沿う基準曲面座標系の断面を模式的に示す図、図8(B)は図8(A)の基準曲面座標系の変形処理を模式的に示す図、図8(C)は図7に示す変形座標系のVIII(C)−VIII(C)線に沿う断面を模式的に示す図である。
【図9】変形座標系の移動の一例を示す図である。
【図10】変形座標系の他の例を示す図である。
【図11】車両及び車両周囲の状況を示す図である。
【図12】本発明の本実施形態に係る変形座標系に投影された映像の一例を示す図である。
【図13】本発明の本実施形態に係る変形座標系に投影された映像の他の例を示す図である。
【図14】比較に係る映像の一例を示す図である。
【図15】比較に係る座標系を示す図である。
【図16】比較に係る映像の他の一例を示す図である。
【図17】基準曲面座標系の変形手法の他の例を示す図である。
【図18】基準曲面座標系の変形手法のさらに他の例を示す図である。
【発明を実施するための形態】
【0009】
以下、本発明の第1の実施形態を図面に基づいて説明する。本実施形態では、本発明に係る車両用表示装置を、車載の車両用表示システム1000に適用した場合を例にして説明する。車両用表示システム1000は、車両及び車両周囲の状況を把握するための監視画像を車載ディスプレイに表示する。ちなみに、本発明に係る車両用表示装置は、利用者の携帯端末のディスプレイに車両の監視画像を表示する監視装置や、駐車場の管理装置のディスプレイに各車両の監視画像を表示する監視装置に適用することもできる。
【0010】
図1は、本実施形態に係る画像表示装置100を含む車両用表示システム1000のブロック構成図である。図1に示すように、本実施形態の車両用表示システム1000は、画像表示装置100と、自車両の外部に固定されたn個の車載カメラ1a〜1nと、イグニッションスイッチ4と、画像表示装置100を動作させる撮像スイッチ5と、車速センサ6と、シフト位置がリバースに入ったときの信号を出力するリバースポジションスイッチ7と、後述する監視画像Sの表示態様を切り替える表示切替スイッチ8と、撮像画像や監視画像を表示するディスプレイ3と、を備えている。これらの各装置はCAN(Controller Area Network)その他の車載LANによって接続され、相互に情報の授受を行うことができる。
【0011】
同図に示すように、本実施形態に係る画像表示装置100の制御装置10は、生成した監視画像を所定の態様で表示させるプログラムが格納されたROM(Read Only Memory)12と、このROM12に格納されたプログラムを実行することで、画像表示装置100として機能させる動作回路としてのCPU(Central Processing Unit)11と、アクセス可能な記憶装置として機能するRAM(Random Access Memory)13と、を備えている。
【0012】
本実施形態に係る画像表示装置100の制御装置10は、撮像画像取得機能と、視点設定機能と、座標系変形機能と、投影機能と、表示制御機能と、を備えている。本実施形態の制御装置10は、上記機能を実現するためのソフトウェアと、上述したハードウェアの協働により各機能を実行することができる。
【0013】
以下に、画像表示装置100の制御装置10が実現する各機能についてそれぞれ説明する。
【0014】
まず、制御装置10の撮像画像取得機能について説明する。本実施形態の制御装置10は、イグニッションスイッチ4に入力操作がされるなどのトリガ発生に呼応して、車載カメラ1a〜1nに所定周期で車両周囲を撮像させる。
【0015】
図2は、車両Vに車載カメラ1a〜1nを取り付ける場合の配置例を示す図である。本例では、6個の車載カメラ1a〜1fが車両Vの外部の異なる位置に各々設置され、車両周囲の6方向の画像をそれぞれ撮影する。得られる撮像画像には、車両の一部や車両の周囲の画像が含まれている。なお、車載カメラ1a〜1nの配置位置は特に限定されず、その撮像方向も任意に設定することができる。各車載カメラ1a〜1fは所定周期で撮像画像を画像表示装置100へ送出する。
【0016】
次に、制御装置10の視点設定機能について説明する。制御装置10は、車載カメラ1a〜1nが送出した撮像画像のデータを取得する。本実施形態の制御装置10は、ディスプレイ3に表示する映像(監視画像)の仮想視点を設定する。仮想視点及び視線の方向は、表示切替スイッチ8を介して入力されたユーザからの指令に基づいて任意に設定することができる。
【0017】
また、制御装置10は、運転状況に応じて仮想視点を設定することができる。例えば、前進中は車両前方の映像を見るために車両の後方に仮想視点を設定し、後退中は車両後方の映像を見るために車両前方に仮想視点を設定することができる。もちろん、後退中に車両後方の映像を後方から見るために車両後方に仮想視点を設定することもできる。具体的に、制御装置10は、リバースポジションスイッチ7から入力されたシフト位置がリバースに入ったときの信号に呼応して、仮想視点の位置を設定することができる。これら各仮想視点の設定位置は、車両の形状に応じて予め設定しておくこともできる。さらに、車速に応じて仮想視点を設定することもできる。具体的には、車速センサ6から入力された車速に応じて、車速が所定値以上である場合には仮想視点の位置を車両から離隔させ、車速が所定値未満である場合には仮想視点の位置を車両に接近させるようにすることができる。
【0018】
続いて、制御装置10の座標系変形機能について説明する。本実施形態の制御装置10は、撮像画像を投影するために予め定義された曲面を有する基準曲面座標系の少なくとも一部を、基準曲面座標系に対する仮想視点の位置に応じて変形する。
【0019】
本実施形態の制御装置10は、曲面を有する基準曲面座標系131を予め定義し、これをRAM13等の記憶装置に記憶している。図3は、基準曲面座標系131の一例を示す図である。同図に示すように、本実施形態の基準曲面座標系131は、車両Vを取り囲むボウル(bowl)形状である。また、同図に示すように、本実施形態の基準曲面座標系131は、車両Vの載置面(走行面)と平行なxy面上に中心を有し、中心乃至中心近傍から曲率をもって車両Vの高さ方向(z方向)の成分を有する曲線乃至曲面から形成されている。
【0020】
基準曲面座標系131の中心近傍には、xy面に平行な底面を形成することができ、その形状は矩形、三角形、楕円形又は円形等の任意の形状にすることができる。また、基準曲面座標系131の曲面の曲率は均一でなくてもよい。例えば、底面の近傍の(z軸に沿ってxy面近傍)の曲面の曲率を相対的に大きくし、底面から離隔した(z軸に沿ってxy面から離隔した位置)の曲面の曲率を相対的に小さく(ゼロを含む)してもよい。なお、制御装置10は、車両の形状(大きさ、形)に応じて、形状の異なる複数の基準曲面座標系131を予め記憶しておくことができる。複数の基準曲面座標系131を記憶する場合には、車両の車速、車両のリバースポジションのオンオフに応じて利用される基準曲面座標系131を対応づけておき、車両の車速やリバースポジションスイッチのオンオフに応じて基準曲面座標系131を選択することもできる。
【0021】
図3に示すように、本実施形態の基準曲面座標系131には、予め準備された車両Vの画像V´を重畳させてもよい。車両の画像V´はその車両の意匠に基づいて予め作成し、記憶させておくことができる。このように、車両Vの画像V´を基準曲面座標系131に重畳させることにより、車両Vの位置及び向きと周囲の映像との関係の理解を助けることができる。
【0022】
そして、制御装置10は、予め記憶されている基準曲面座標系131を読み出し、読み出した基準曲面座標系131の形状を変形する。本実施形態では、基準曲面座標系131の少なくとも一部を変形する。この基準曲面座標系131を変形する具体的な手法は後述する。
【0023】
続いて、制御装置10の投影機能について説明する。制御装置10は、カメラ1a〜1fから取得した撮像画像のデータを、基準曲面座標系131を変形させた変形座標系133に投影し、設定された仮想視点から車両及びこの車両の周囲を見た映像を生成する。変形座標系133は所謂ワールド座標系(グローバル座標系)に相当する。
【0024】
制御装置10は、カメラ1a〜1fから取得した撮像画像のデータを変形後の変形座標系に投影するために、カメラ1a〜1fの各撮像画像のデータの画素の座標と変形座標系133の座標とを対応づける画像変換テーブル132を有している。この画像変換テーブル132の態様は特に限定されず、本実施形態の画像変換の手法は、出願時に知られた座標変換手法を用いることができる。
【0025】
なお、画像変換テーブル132は、複数の対応情報を含むものであってもよい。例えば、カメラ1a〜1fの各撮像画像を一つの画像に合成するために、カメラ1a〜1fの各撮像画像のデータの画素の座標と合成画像の画素の座標とを予め対応づけた第1の対応情報と、この合成画像の画素の座標と変形座標系の座標とを対応づける第2の対応情報とを含む画像変換テーブル132を構成し、カメラ1a〜1fの各撮像画像から第1の対応情報を用いて合成画像を作成し、この合成画像を第2の対応情報を用いて変形座標系133に投影してもよい。
【0026】
最後に、制御装置10の表示制御機能について説明する。制御装置10は、変形された変形座標系を、車載LANを介して車両内部に設置されたディスプレイ3に送出し、その表示用画面に表示させる。なお、制御装置10は、変形された変形座標系を、有線又は無線の通信回線を介して車外の携帯端末や、駐車中の車両を管理する管理装置に送出し、その表示用画面に表示させることもできる。
【0027】
ここで、図4のフローチャートに基づいて、本実施形態の制御装置10の動作を説明する。イグニッションスイッチ4のオン入力がされ、撮像スイッチ5に起動指令が入力されるなどの特定のトリガが発生すると、本実施形態の制御装置10は、画像表示処理を開始する。
【0028】
図4に示すように、ステップS1において、制御装置10は、予め準備された基準曲面座標系131を読み込む。次に、ステップS2において、制御装置10は、カメラ1a〜1fにより所定周期で撮像された撮像画像を取得する。
【0029】
続くステップS3において、制御装置10は、最終的に表示する映像の仮想視点を設定する。この仮想視点の設定は、表示切替スイッチ8の指令に基づいて行われる。表示切替スイッチ8は、ユーザから入力された切替指令、車速センサ6から取得した車速、リバースポジションスイッチ7からの出力に応じて表示する映像の仮想視点を設定することができる。
【0030】
次に、ステップS4において、制御装置10は、ステップS1で読み出した基準曲面座標系131を変形する。制御装置10は、基準曲面座標系131の少なくとも一部を、基準曲面座標系131に対する仮想視点の位置に応じて変形し、変形座標系を得る。この変形手法については、後述する。
【0031】
続いて、ステップS5において、制御装置10は、ステップS2にて取得したカメラ1a〜1fの撮像画像を変形座標系に投影する。
【0032】
最後に、制御装置10は、変形後の変形座標系に投影された映像をディスプレイ3に表示させる。
【0033】
以下、図5〜図10に基づいて、基準曲面座標系131の変形手法を説明する。
【0034】
図5は、読みだされた基準曲面座標系131を、車両Vの上方から見た(図3のz軸のプラス方向からz軸のゼロ点に向かって見た)ときの平面図である。本実施形態の基準曲面座標系131は、車両Vの平面外形に沿った略矩形の底面Bと、底面から曲率を持ってz軸に沿う方向の成分を有する曲面Qとを有する。この曲面Qの端部には外縁Qeが形成されている。また、基準曲面座標系131は、平面視におけるxy座標において、x軸及びy軸に対して対称な形状である。
【0035】
また、図5には、仮想視点Pの複数の候補P1,P2,P3(総称してPともいう)を示す。図5に示す仮想視点P1,P2,P3のうち、仮想視点P1及びP3は基準曲面座標系131の外縁Qeの外側に位置し、仮想視点P2は基準曲面座標系131の外縁Qeの内側に位置している。また、基準曲面座標系131の基点oから仮想視点P2までの距離はL1であり、基準曲面座標系131の基点oから仮想視点P3までの距離はL1+L2であり、基準曲面座標系131の基点oから仮想視点P1までの距離はL1+L2+L3である。なお、図5及び後述する図6及び図7には車両Vの画像V´が重畳されている。
【0036】
図6は、基準曲面座標系131の変形手法の一例を示す図である。本実施形態では、図5に示すように、仮想視点P1が基準曲面座標系131の外縁Qeの外側に位置する場合には、図6に示すように、仮想視点P1が基準曲面座標系131の外縁Qeよりも内側に位置するように、基準曲面座標系131の一部を変形する。
【0037】
異なる観点から説明すると、仮想視点Pと基準曲面座標系131の中心oとの距離L1+L2+L3が予め設定した第1の所定値以上である場合、つまり、基準曲面座標系131の中心oから離隔した位置に仮想視点Pが設定された場合には、仮想視点P1が基準曲面座標系131の外縁Qeよりも内側に位置するように、仮想視点Pとの距離が第2の所定値未満である基準曲面座標系131の外縁Qeの一部、つまり、仮想視点Pに近い位置にある外縁Qeの部分を、基準曲面座標系131の中心oから離隔するように基準曲面座標系131を変形する。これにより、基準曲面座標系131の全部を均等に拡大・縮小するのではなく、仮想視点P1に近い部分だけを部分的に拡大させることができる。ちなみに、図5に示す基準曲面座標系131は、xy軸に対して対称であるが、図6に示す変形座標系133はx軸及び/又はy軸に対して非対象の形状である。なお、第1の所定値と第2の所定値は同じ値であってもよいし、異なる値であってもよい。
【0038】
基準曲面座標系131の変形量は、仮想視点P1と基準曲面座標系131との位置関係に応じて予め定義しておくことができる。具体的に、仮想視点P1と基準曲面座標系131の中心oの距離と基準曲面座標系131の外縁Qeの一部の変形量とを予め対応づけた変形量データ134を参照し、仮想視点P1と基準曲面座標系の中心の距離に応じて求められた変形量に応じて基準曲面座標系131を変形することができる。
【0039】
図7は、変形座標系R133の一例を示す図である。図7に示すように、基準曲面座標系131の外縁Qeに位置していた仮想視点P1は、変形された変形座標系133の曲面Rの外縁Reよりも内側、つまり座標基点oに近い位置にある。
【0040】
図7に示す例では、基準曲面座標系131の外縁Qeの一部分が変形されている。特に限定されないが、本例では、仮想視点P1に近い領域を選択的に変形する観点から、仮想視点P1からの距離が第2の所定値以下の外縁Qeを変形したが、この変形領域の設定の手法は限定されない。例えば図7に示すように仮想視点P1から距離tにあり、かつ基準曲面座標系131の外縁Qe上の点P1tと、同じく仮想視点P1から距離sにあり、かつ基準曲面座標系131の外縁Qe上の点P1sとの間の部分を、変形することができる。つまり、仮想視点O1に近い領域を定義するために設定された第2の所定値は方向に応じて異なる値とすることができる。本例では、車両の長手方向の第2の所定値は距離tとし、車両の幅方向の第2の所定値は距離sとしている。なお、距離t及び距離sは任意に設定することができ、距離tと距離sとは同じ値であってもよいし、異なる値であってもよい。つまり、変形する領域は仮想視点P1から等距離にある。変形する領域の設定手法はこれに限定されず、他の例については後述する。
【0041】
図8(A)は、図5のVIII(A)−VIII(A)線に沿う基準曲面座標系131の断面を模式的に示す図、図8(B)は図8(A)の基準曲面座標系131の変形処理を模式的に示す図、図8(C)は図7に示す変形座標系133のVIII(C)−VIII(C)線に沿う断面を模式的に示す図である。
【0042】
図8(A)に示すように、仮想視点P1は基準曲面座標系131の外側に位置している。この状態で仮想視点P1から車両Vをみると、基準曲面座標系131の曲面Qの外側面Q1側を見ることになる。本実施形態では、基準曲面座標系131の曲面Qのうち仮想視点P1から外側面Q1が見える部分を変形する。図8(B)に示すように、基準曲面座標系131の変形によって、基準曲面座標系131の曲面Qの外縁Qeは仮想視点P1の方向に引き伸ばされている。また、この変形によって、基準曲面座標系131の曲面Qの外縁Qeがz軸方向に沿って低い位置に移動されている。このように、変形することによって、仮想視点P1から車両Vをみたとき、基準曲面座標系131(変形座標系133)の曲面Qの内側面R2側を見ることになる。つまり、図8(C)に示すように、変形座標系133に対して、仮想視点P1は変形座標系133の曲面Rの内側に存在している。つまり、変形座標系133の外縁Reは、仮想視点P1よりも車両Vから離隔しており、変形座標系133の中心oから仮想視点P1までの距離LP1よりも、中心oから外縁Reまでの距離LReの方が大きい。
【0043】
また、制御装置10は、変形する領域を、基準曲面座標系131の曲面Q上の任意の点qのうち、仮想視点P1及び点q(図示せず)を通る直線と、点qを通る曲面Qの接平面がなす角度が所定の閾値未満である点qを含む領域を変形することができる。変更後の変形座標系133は、仮想視点P1を視線方向とは逆の方向に移動した点(図8(B)の点P1x)を通る、変更前の基準曲面座標系131の接線から形成される。この接線には曲率を付与することができ、変形部分は平面であっても曲面であってもよい。また、変形された変形座標系133において、その変形にかかる曲面R上の任意の点rを通る曲面Rの接平面と、仮想視点Pから点rを通る直線とのなす角度が所定の角度未満とすることができる。
【0044】
さらに、制御装置100は、仮想視点Pと基準曲面座標系131の中心oの距離と基準曲面座標系131の外縁Qeの一部の変形量とを予め対応づけた変形量データ134を参照し、仮想視点Pと基準曲面座標系131の中心oの距離に応じて、基準曲面座標系131の外縁Qeの一部を所定量変形させることができる。
【0045】
図8(B)及び(C)に示す例を用いて説明すると、制御装置100は、基準曲面座標系131の中心oから仮想視点P1までの距離LP1と、外延Qeの変形量(LRe−LQe)とを予め対応づけた変形量データ134を参照し、仮想視点P1と基準曲面座標系131の中心oから仮想視点P1までの距離LP1に基づいて変形量を算出し、この変形量に応じて基準曲面座標系131の外縁Qeを変形させることができる。なお、変形量データ134は、変形される基準曲面座標系131の外縁Qeの座標と変形後の変形座標系133の外縁Reの座標とが対応づけることができればよく、その定義手法は限定されない。例えば、変形後のxyz軸によって定義させる空間座標における外延Qeの変形量と仮想視点P1の中心oからの距離LP1とを対応づけて構成してもよい。
【0046】
また、図9に示すように、制御装置10は、仮想視点P及び変形座標系133を、変形座標系133の中心oを回転中心として回転移動させることができる。同図に示すように、仮想視点P及び変形座標系133を、中心oを回転中心として破線で示す軌道に沿って所定角度αだけ回転させると、仮想視点PはP1´の位置へ移動し、変形座標系133も変形座標系133´の位置に移動し、図10に示す変形座標系133´を得ることができる。このように、仮想視点P1及び曲線座標系133を回転移動させることにより、変形座標系133への投影された映像において車両Vを見る方向を任意に変化させることができる。
【0047】
なお、制御装置10は、変形座標系133の生成時において、仮想視点Pの高さ(z方向の位置)も変更することができる。
【0048】
続いて、図11〜13に基づいて、本実施形態の車両用表示システム1000において、ディスプレイ3に表示される具体的な映像例を説明する。
【0049】
図11は、所定の仮想視点から車両V及び障害物W1,W2を見た、実像である。図12は、この状態にある車両V及び周囲の障害物W1,W2の撮像画像のデータを図7に示す仮想視点P1を基準に、同図の変形座標系133に投影した画像である。同様に、図13は、撮像画像のデータを図10に示す仮想視点P1´を基準に、同図の変形座標系133´に投影した画像である。
【0050】
図12及び図13に示すように、本実施形態の車両用表示システム1000が表示する映像は画像の歪み量が小さい。この結果、利用者が車両周囲の状況が把握しやすい画像を表示することができる。
【0051】
ところで、仮想視点Pが基準曲面座標系131の外側に設定され、基準曲面座法系131の外縁Qeの高さが仮想視線(仮想視点Pから車両Vを見る視線)よりも高い場合には、先述した図8(A)に示す状態のように、基準曲面座法系131を外側面Q1から見ることになる。
【0052】
図14は、このような状態で基準曲面座標系131に投影された映像を示す。図14に示すように、車両Vの近くの障害物W1x,W2xの形状が歪んでしまうため、利用者は車両周囲の状況を把握することが難しい。また、ディスプレイ3の表示面が矩形であるにもかかわらず、車両V´及び車両周囲の様子を矩形の画像として表現することができない。このため、図14に示すように、映像が表示されない領域(斜線Sh)が発生してしまい、ディスプレイ3の表示用画面の一部を利用することができない。
【0053】
また、図15に示すように、仮想視点P1が座標系の外縁Qe´の内側に位置するように、半径が大きい円又は楕円状の(変形されていない)座標系を投影に用いた場合には、映像は図16のようになる。この図16に示す映像では、実際には高さのある障害物W1y,W2yが地面に倒れているように表現される。このため、障害物W1y,W2yは高さの無い物(例えば道路上の標識)のように見えてしまうため、利用者は車両周囲の状況を把握することが難しい。
【0054】
これに対し、上述した本実施形態の画像表示装置100によれば、図12及び図13に示すように、高さを持つ障害物W1,W2の形状の歪みが少なく、画像の欠け(図14の斜線Sh)がなく、ディスプレイ3の表示用画面に適した矩形の画像を提供することができる。この結果、利用者が車両周囲の状況が把握しやすい画像を表示することができる。
【0055】
以下、図17及び図18に基づいて、基準座標系131から変形座標系133を得る他の手法について説明する。
制御装置10は、仮想視点Pが基準曲面座標系131の外縁Qeの内側に位置する場合、つまり、基準曲面座標系131の中心oから仮想視点Pまでの距離が所定値未満である場合には、基準曲面座標系131の外縁Qeが基準曲面座標系131の中心oに接近するように基準曲面座標系131を変形する。つまり、基準曲面座標系131の上面視における面積を小さく縮小する。本処理において、制御装置10は、基準曲面座標系131に対する仮想視点P1の位置に応じて、基準曲面座標系131の外縁Qeを変形する。外縁Qeの変形量は、仮想視点P1の位置と外縁Qeの位置との関係(例えば距離)に応じて決定することができる。図17に示す例では、仮想視点P1からの距離が小さい外縁Qeの変形量は比較的小さく、仮想視点P1からの距離が大きい外縁Qeの変形量は比較的大きい。仮想視点P1からの距離に応じた変形量は予め定義しておくことができる。これにより、車両V(基準座標系131)に対する仮想視点Pの位置に応じて変形座標133の形状を変更することができる。
【0056】
なお、制御装置10は、基準曲面座標系131の外縁Qeの全部を仮想視点P1が基準曲面座標系131の外縁Qeの外側に位置するように、基準曲面座標系131の中心oに所定距離だけ接近するように変形し、その後、仮想視点P1が基準曲面座標系131の外縁Qeよりも内側に位置するように、基準曲面座標系131の一部を変形するように構成することもできる。
【0057】
また、本実施形態の制御装置10は、基準曲面座標系131を変形して変形座標系133を得る際に、仮想視点P1の位置を変更するとともに、形座標系133の外縁Reの位置を変形することができる。たとえば、図18に示すように、仮想視点P1を中心oに近い点P2へ変更するとともに、変形座標系133の外縁Re1を中心oに近い外縁Re2に変更する。この変形処理においては、仮想視点P1と中心oの距離と変形座標系133の外縁Reの変形量とを予め対応づけた変形量データを参照し、仮想視点P1と変形座標系133の中心oの距離に応じて、変形座標系133の外縁Re1の一部を所定量変形させる。これにより、車両V(基準座標系131)に対する仮想視点Pの位置に応じて変形座標133の形状を変更することができる。
【0058】
本発明は以上のように構成され、以上のように作用するので、以下の効果を奏する。
【0059】
本発明に係る本実施形態の画像表示装置100は、仮想視点Pの位置に応じて基準曲面座標系131の一部が変形された変形座標系133に、各カメラ1a〜1fの撮像画像を投影するので、仮想視点Pの位置が変わっても、周囲の状況が把握しやすい映像を提供することができる。
【0060】
本発明に係る本実施形態の画像表示装置100は、仮想視点Pが基準曲面座標系131の外縁Qeの外側に位置する場合には、仮想視点Pが基準曲面座標系131の外縁Qeよりも内側に位置するように、基準曲面座標系Qeの一部を変形して変形座標133を得るので、利用者に提示する映像に投影座標の外側面の映像を含ませることがなく、画像の欠け(図14の斜線Shの相当する部分)がなく、ディスプレイ3の表示用画面に適した矩形の画像を提供することができる。また、仮想視点Pが基準曲面座標系131の外縁Qeよりも内側に位置するように、基準曲面座標系Qeの一部を変形するので、高さを持つ障害物の形状の歪みが少ない。さらに、仮想視点Pと基準曲面座標系131との位置関係に応じて変形処理を行うことにより、運転される車両の状況に応じて適切な変形座標を得ることができ、状況に応じた映像を表示することができる。この結果、利用者が車両周囲の状況が把握しやすい画像を表示することができる。
【0061】
同様に、仮想視点Pと基準曲面座標系131の中心oの距離が第1の所定値以上である場合には、仮想視点Pが基準曲面座標系131の外縁Qeよりも内側に位置するように、仮想視点Pとの距離が第2の所定値未満である基準曲面座標系131の外縁Qeの一部を、基準曲面座標系131の中心oから離隔するように基準曲面座標系131を変形して変形座標133を得るので、画像の欠けの無い矩形の映像を提供することができるとともに、車両周囲に存在する立体物の映像の歪みを低減させることができる。
【0062】
また、本実施形態の画像表示装置100は、仮想視点Pが基準曲面座標系131の外縁Qeの内側に位置する場合には、基準曲面座標系131の外縁Qeが基準曲面座標系131の中心oに接近するように基準曲面座標系131を変形するので、仮想視点Pの位置に対して基準曲面座標系131が大きすぎる場合には、基準曲面座標系131を小さく変形することができる。このとき、視認性に悪影響が無い部分、例えば仮想視点Pから離隔している領域(仮想視点Pから所定値以上の距離がある領域)については中心oに近接させて小さくし、視認性に影響を与える部分、例えば仮想視点Pに近い領域(仮想視点Pから所定値未満の距離の領域)については中心oからの距離を担保して表示面積を広くして視認性を確保することができる。これにより、利用者が車両周囲の状況が把握しやすい画像を表示することができる。
【0063】
また、本実施形態の画像表示装置100は、仮想視点Pと基準曲面座標系131の中心oの距離と基準曲面座標系131の外縁Qeの一部の変形量とを予め対応づけた変形量データ134を参照し、仮想視点Pと基準曲面座標系131の中心oの距離に応じて、基準曲面座標系131の外縁Qeの一部を所定量変形させるので、仮想視点Pと車両Vとの距離に応じて定量的な変形が施された変形座標系133を迅速に得ることができる。
【0064】
また、本実施形態の画像表示装置100は、変形座標系131の中心oを回転中心として、仮想視点P及び曲線座標系を移動させることにより、運転される車両の状況に応じて変化する仮想視点Pの位置に応じて、適切な方向から車両Vを見る変形座標131を得ることができ、状況に応じた映像を表示することができる。
【0065】
また、本実施形態の画像表示装置100は、仮想視点Pと変形座標系131の中心oの距離と変形座標系133の外縁Reの変形量とを予め対応づけた変形量データを参照し、仮想視点Pと変形座標系133の中心oの距離に応じて、変形座標系133の外縁Reの一部を所定量変形させるので、運転される車両の状況に応じて変化する仮想視点Pの位置に応じて、適切な距離に設けられた仮想視点Pから見た変形座標131を得ることができ、状況に応じた映像を表示することができる。
【0066】
なお、以上説明した実施形態は、本発明の理解を容易にするために記載されたものであって、本発明を限定するために記載されたものではない。したがって、上記の実施形態に開示された各要素は、本発明の技術的範囲に属する全ての設計変更や均等物をも含む趣旨である。
【0067】
すなわち、本明細書では、本発明に係る車両用表示装置の一態様として画像表示装置100を例にして説明するが、本発明はこれに限定されるものではない。
【0068】
また、本明細書では、本発明に係る車両用表示装置の一態様として、CPU11、ROM12、RAM13を含む制御装置10を備える画像表示装置100を一例として説明するが、これに限定されるものではない。
【0069】
また、本明細書では、本願発明に係る撮像画像取得手段と、視点設定手段と、座標系変形手段と、投影手段と、表示制御手段とを有する車両用表示装置の一態様として、撮像画像取得機能と、視点設定機能と、座標系変形機能と、投影機能と、表示制御機能とを実行させる制御装置10を備えた画像表示装置100を例にして説明するが、本発明はこれに限定されるものではない。
【符号の説明】
【0070】
1000…車両用表示システム
1a〜1n…車載カメラ
100…画像表示装置
V…車両
10…制御装置
11…CPU
12…ROM
13…RAM
131…基準曲面座標系
132…画像変換テーブル
133…変形座標系
134…変形量データ
3…ディスプレイ
4…イグニッションスイッチ
5…撮像スイッチ
6…車速センサ
7…リバースポジションスイッチ
8…表示切替スイッチ
【特許請求の範囲】
【請求項1】
車両に搭載されたカメラが撮像した撮像画像のデータを取得する撮像画像取得手段と、
表示する映像の仮想視点を設定する視点設定手段と、
前記撮像画像を投影するために予め定義された、曲面を有する基準曲面座標系の少なくとも一部を、当該基準曲面座標系に対する前記仮想視点の位置に応じて変形し、変形座標系を得る座標系変形手段と、
前記撮像画像のデータを前記変形された変形座標系に投影し、前記設定された仮想視点から車両及び当該車両の周囲を見た映像を生成する投影手段と、
前記生成された前記映像を表示用画面に表示させる表示制御手段と、を有する車両用表示装置。
【請求項2】
請求項1に記載の車両用表示装置において、
前記座標系変形手段は、前記仮想視点が前記基準曲面座標系の外縁の外側に位置する場合には、前記仮想視点が前記基準曲面座標系の外縁よりも内側に位置するように、前記基準曲面座標系の一部を変形することを特徴とする車両用表示装置。
【請求項3】
請求項1に記載の車両用表示装置において、
前記座標系変形手段は、前記仮想視点と前記基準曲面座標系の中心の距離が第1の所定値以上である場合には、前記仮想視点が前記基準曲面座標系の外縁よりも内側に位置するように、前記仮想視点との距離が第2の所定値未満である前記基準曲面座標系の外縁の一部を、前記基準曲面座標系の中心から離隔するように前記基準曲面座標系を変形することを特徴とする車両用表示装置。
【請求項4】
請求項1〜3の何れか一項に記載の車両用表示装置において、
前記座標系変形手段は、前記仮想視点が前記基準曲面座標系の外縁の内側に位置する場合には、前記基準曲面座標系の外縁が前記基準曲面座標系の中心に接近するように前記基準曲面座標系を変形することを特徴とする車両用表示装置。
【請求項5】
請求項1〜4の何れか一項に記載の車両用表示装置において、
前記座標系変形手段は、前記仮想視点と前記基準曲面座標系の中心の距離と前記基準曲面座標系の外縁の一部の変形量とを予め対応づけた変形量データを参照し、前記仮想視点と前記基準曲面座標系の中心の距離に応じて、前記基準曲面座標系の外縁の一部を所定量変形させることを特徴とする車両用表示装置。
【請求項6】
請求項1〜5の何れか一項に記載の車両用表示装置において、
前記座標系変形手段は、前記変形座標系の中心を回転中心として、前記仮想視点及び前記曲線座標系を移動させることを特徴とする車両用表示装置。
【請求項7】
請求項1〜6の何れか一項に記載の車両用表示装置において、
前記座標系変形手段は、前記仮想視点と前記変形座標系の中心の距離と前記変形座標系の外縁の変形量とを予め対応づけた変形量データを参照し、前記仮想視点と前記変形座標系の中心の距離に応じて、前記変形座標系の外縁の一部を所定量変形させることを特徴とする車両用表示装置。
【請求項1】
車両に搭載されたカメラが撮像した撮像画像のデータを取得する撮像画像取得手段と、
表示する映像の仮想視点を設定する視点設定手段と、
前記撮像画像を投影するために予め定義された、曲面を有する基準曲面座標系の少なくとも一部を、当該基準曲面座標系に対する前記仮想視点の位置に応じて変形し、変形座標系を得る座標系変形手段と、
前記撮像画像のデータを前記変形された変形座標系に投影し、前記設定された仮想視点から車両及び当該車両の周囲を見た映像を生成する投影手段と、
前記生成された前記映像を表示用画面に表示させる表示制御手段と、を有する車両用表示装置。
【請求項2】
請求項1に記載の車両用表示装置において、
前記座標系変形手段は、前記仮想視点が前記基準曲面座標系の外縁の外側に位置する場合には、前記仮想視点が前記基準曲面座標系の外縁よりも内側に位置するように、前記基準曲面座標系の一部を変形することを特徴とする車両用表示装置。
【請求項3】
請求項1に記載の車両用表示装置において、
前記座標系変形手段は、前記仮想視点と前記基準曲面座標系の中心の距離が第1の所定値以上である場合には、前記仮想視点が前記基準曲面座標系の外縁よりも内側に位置するように、前記仮想視点との距離が第2の所定値未満である前記基準曲面座標系の外縁の一部を、前記基準曲面座標系の中心から離隔するように前記基準曲面座標系を変形することを特徴とする車両用表示装置。
【請求項4】
請求項1〜3の何れか一項に記載の車両用表示装置において、
前記座標系変形手段は、前記仮想視点が前記基準曲面座標系の外縁の内側に位置する場合には、前記基準曲面座標系の外縁が前記基準曲面座標系の中心に接近するように前記基準曲面座標系を変形することを特徴とする車両用表示装置。
【請求項5】
請求項1〜4の何れか一項に記載の車両用表示装置において、
前記座標系変形手段は、前記仮想視点と前記基準曲面座標系の中心の距離と前記基準曲面座標系の外縁の一部の変形量とを予め対応づけた変形量データを参照し、前記仮想視点と前記基準曲面座標系の中心の距離に応じて、前記基準曲面座標系の外縁の一部を所定量変形させることを特徴とする車両用表示装置。
【請求項6】
請求項1〜5の何れか一項に記載の車両用表示装置において、
前記座標系変形手段は、前記変形座標系の中心を回転中心として、前記仮想視点及び前記曲線座標系を移動させることを特徴とする車両用表示装置。
【請求項7】
請求項1〜6の何れか一項に記載の車両用表示装置において、
前記座標系変形手段は、前記仮想視点と前記変形座標系の中心の距離と前記変形座標系の外縁の変形量とを予め対応づけた変形量データを参照し、前記仮想視点と前記変形座標系の中心の距離に応じて、前記変形座標系の外縁の一部を所定量変形させることを特徴とする車両用表示装置。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【図18】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【図18】
【公開番号】特開2012−138660(P2012−138660A)
【公開日】平成24年7月19日(2012.7.19)
【国際特許分類】
【出願番号】特願2010−287963(P2010−287963)
【出願日】平成22年12月24日(2010.12.24)
【出願人】(000003997)日産自動車株式会社 (16,386)
【Fターム(参考)】
【公開日】平成24年7月19日(2012.7.19)
【国際特許分類】
【出願日】平成22年12月24日(2010.12.24)
【出願人】(000003997)日産自動車株式会社 (16,386)
【Fターム(参考)】
[ Back to top ]