説明

車両用画像表示装置

【課題】マッピングテーブルを参照して出力画像の表示切替を行う際に、出力表示画面の切り替え速度を向上させることができる「車両用画像表示装置」を提供すること。
【解決手段】車両用画像表示装置は、表示手段と、撮像手段と、マッピングテーブルと、撮像画像の出力画像として取得される取得範囲が記述され出力画像の種類毎に用意された間接参照テーブルと、切り替えられた出力画像に対応する間接参照テーブルに切り替えて、間接参照テーブルのデータ及びマッピングテーブルのデータに基づき表示手段の表示画面に出力画像を表示させる制御部とを有する。マッピングテーブルは、撮像手段で撮像された画像の画素の取得位置が記述された位置情報を含む直接参照領域DRと、間接参照テーブルで指定される撮像手段で撮像された画像の画素の取得位置が取得範囲に対する割合で記述された位置情報を含む間接参照領域IRとで構成される。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、車両用画像表示装置に関し、特に車載用カメラで撮影した画像をマッピングテーブルを参照して変換し、出力画像を表示する車両用画像表示装置に関する。
【背景技術】
【0002】
近年、自車両のドアミラーやナンバープレート近傍にカメラを設置し、これら複数台のカメラにより自車両周囲の画像を撮影し、この画像を車室内に設置したディスプレイ等の表示装置に表示する技術が実用化されている。かかる技術は特に駐車する際に利用されており、その際、運転者は、表示装置に表示された画像を確認しながら、障害物等の存在を把握することで、衝突等の事故を防ぐことが可能になる。特に、ミラーだけでは死角になる位置の画像も表示することができるので、安全な駐車に寄与することができる。
【0003】
また、自車両に複数台のカメラを設置し、これらのカメラにより撮像された画像をもとに、これら撮像画像を自車両の上方の仮想視点から見た画像(俯瞰画像)に変換し、その視点変換された車両周辺の画像(以下、便宜上「トップビュー画像」という。)をディスプレイ等の表示装置に表示することで、自車両の周辺を監視する技術が実用化されている。
【0004】
これに関連する技術として、例えば、特許文献1には、状況に応じて最適な視点変換画像を与えることができる装置が記載されている。
【特許文献1】特開2004−032464号公報
【発明の開示】
【発明が解決しようとする課題】
【0005】
上記したようなトップビュー画像によって、自車両の周辺を死角領域をなくして表示することができ、バック走行等の際にトップビュー画像を確認しながら運転することにより、危険を回避することが可能となる。
【0006】
このようなトップビュー画像とともに、車両の後方部の画像や車両の左側方部の画像を出力表示画面に表示するようにして、特に注視したい領域を表示させる技術も実用化されている。この技術を利用することにより、後方部や左側方の画像を注視しながら安全に車両をバックさせることができる。
【0007】
しかし、後方部の画像から左側方部の画像に切り替える際には、マッピングテーブルに記述されているデータをすべて書き換えることが必要となり、切り替えに要する処理時間がかかってしまう。そのため、スムーズな画像の切り替えができず、そのため、運転者にとって必要とする画像情報がすぐに取得できず、安全な駐車に支障を来たすおそれがあった。
【0008】
本発明は、かかる従来技術の課題に鑑みなされたものであり、マッピングテーブルを参照して出力画像の表示切替を行う際に、出力表示画面の切り替え速度を向上させることができる車両用画像表示装置を提供することを目的とする。
【課題を解決するための手段】
【0009】
上述した従来技術の課題を解決するため、本発明の一形態によれば、画面を通して情報を提供する表示手段と、自車両の周辺の画像を取得する複数の撮像手段と、撮像画像の画素位置と出力表示画像の画素位置との関係が記述されたマッピングテーブルと、前記撮像画像のうち前記出力表示画像として取得される取得範囲が記述され、前記出力表示画像の種類毎に用意された間接参照テーブルと、前記マッピングテーブルのデータ及び間接参照テーブルのデータを基に、前記出力表示画像を生成する画像変換手段と、前記出力表示画像が切り替えられたことを検出したとき、当該切り替えられた出力表示画像に対応する間接参照テーブルに切り替えて、当該切り替えられた間接参照テーブルのデータ及び前記マッピングテーブルのデータに基づいて前記表示手段の表示画面に出力表示画像を表示させる制御部とを有することを特徴とする車両用画像表示装置が提供される。
【0010】
この形態に係る車両用画像表示装置において、前記マッピングテーブルは、前記複数の撮像手段を識別する識別番号及び当該撮像手段で撮像された画像の画素の取得位置が記述された位置情報を含む直接参照領域と、前記間接参照テーブルを参照する旨を示す識別番号及び当該間接参照テーブルで指定される撮像手段で撮像された画像の画素の取得位置が当該画像の範囲を示す幅又は高さに対する割合で記述された位置情報を含む間接参照領域とで構成されるようにしてもよい。
【0011】
また、この形態に係る車両用画像表示装置において、前記間接参照テーブルは、前記複数の撮像手段を識別する識別番号と、当該撮像手段で撮像された画像のうち、出力表示画像として取得される画像の画素の開始位置と、当該開始位置を起点として幅及び高さで規定した取得される画像の範囲と、取得される画像の画素の取得順序を規定する補正データとを構成要素として含むようにしてもよい。
【0012】
本発明では、例えば、トップビュー画像とリアビュー画像を並べて表示したり、リアビュー画像に代えてレフトビュー画像を表示させる等、複数のトップビュー画面の出力表示画像のレイアウトを用意している。そして、これらの出力表示画像毎にマッピングテーブルが定義されている。特に、画像の配置が同じで画像内容がリアビュー画像からレフトビュー画像に変更されるような部分の指定は、取得するカメラ画像のうちのどの辺りかを画像の範囲を示す幅又は高さに対する割合で記述している。すなわち、この部分はカメラの識別番号およびそのカメラで撮像された画像の取得位置を直接記述することなく、リアビュー画像やレフトビュー画像などのすべてに対応するように記述している。この部分の具体的なカメラ撮像画像は間接参照テーブルを用意し、これを基に出力画像を生成している。これにより、出力表示画面の切り替えが指示されたときに、マッピングテーブルを切り替える必要がなく、間接参照テーブルのデータだけを切り替えるようにすればよいため、切り替えを行うためのデータ変更量が大幅に減少し、切り替え時間を大幅に短縮することが可能になる。
【発明を実施するための最良の形態】
【0013】
以下、本発明の実施形態について、添付の図面を参照しながら説明する。
【0014】
図1は、本発明の一実施形態に係る車両用画像表示装置10の構成を概略的に示したものである。本実施形態では、本発明に係る車両用画像表示装置10を車載用ナビゲーション装置の一部として組み込んだ場合の構成例を示している。
【0015】
本実施形態に係る車両用画像表示装置10は、図1に示すように、基本的に、4台の車載カメラ11a、11b、11c及び11dと、撮像画像メモリ12と、画像処理部13と、表示画像メモリ16と、制御部14と、操作部15と、ディスプレイ装置17と、記憶部18とを備えている。
【0016】
各車載カメラ11a、11b、11c及び11dは、それぞれ自車両の前方、後方、左方及び右方の画像を継続的に取得するためのものであり、自車両外部の適当な箇所に設置されている。図2はその設置例を模式的に示したものであり、前方カメラ11aは車両の前部に、後方カメラ11bは車両の後部に、左方カメラ11c及び右方カメラ11dはそれぞれ車両の左側部及び右側部(図示の例では、ドアミラーの下部)に設置されている。
【0017】
また、各車載カメラ11a〜11dは、各々のレンズが若干下方を向くように位置決めされ、図中破線で示すように広角範囲(理想的には180°の撮像範囲)で画像を取得できるように設置されている。つまり、各車載カメラ11a〜11dが協働して自車両の全周辺(車両周辺)を撮影できるように配置されている。
【0018】
各車載カメラ11a〜11dは、例えば、CCD(Charge Coupled Device)センサを内蔵している。特に図示はしないが、このCCDセンサは、受光部として機能するフォトダイオード(光電変換素子)と、その光電変換された信号(電荷)を転送するためのCCDを有しており、フォトダイオードは2次元に配列され、各フォトダイオード上にマイクロレンズが設けられている。
【0019】
撮像画像メモリ12は、その記憶媒体として、例えばHDDを使用している。撮像画像メモリ12(HDD内の一部の記憶領域)には、制御部14からの制御に基づき、各車載カメラ11a、11b、11c及び11dで継続的に撮影して得られた画像(自車両の前方、後方、左方及び右方の周辺の画像と、自車両の一部の画像)のデータが一画面分(1フレーム)毎に逐次格納されるようになっている。その際、車載用のHDDの記憶容量には限りがあり、今までに取得した撮像画像データをすべて保存しておくことはできないため、HDDを効率的に運用する観点から、HDD内の該当する記憶領域に撮像画像データを順次上書きしながら格納する。
【0020】
画像処理部13は、その機能ブロックとして画像取得位置計算部19及び画像データ取得部20を備え、さらにデータベースとして、マッピングテーブル(MPT)データ21、MPT間接参照データ22及びカメラサイズ補正データ23を保有している。
【0021】
画像処理部13は、各車載カメラ11a〜11dによって撮像され、撮像画像メモリ12に格納された撮像画像を取り込んで、所要の画像処理を行い、出力表示画像を生成する。このときに、撮像画像メモリ12に格納された自車両の周辺の画像と予め記憶部18に記憶させておいた自車両の画像から、自車両の上方の仮想視点から見たときの画像(トップビュー画像)も生成される。変換された画像データは、表示画像メモリ16に格納される。
【0022】
出力表示画像の座標位置に対応する撮像画像の座標位置は、画像取得位置計算部19により、マッピングテーブル(MPT)データ21、MPT間接参照データ22及びカメラサイズ補正データ23を基に算出される。画像取得位置計算部19は、操作部15を介して指示された出力表示画面に対応するMPT間接参照テーブルを取り込むことによってデータを切り替え、マッピングテーブルのデータ及びMPT間接参照テーブルのデータを用いて画像取得位置を計算する。画像データ取得部20は、画像取得位置計算部19によって算出された取得位置に基づいて、カメラで撮像された画像から表示画像を作成して、表示画像メモリ16に格納する。
【0023】
マッピングテーブルは、撮像画像の画素位置と表示画像の画素位置との対応関係が記述されたテーブルであり、マッピングデータとして、1フレームの表示画像の各画素に、対応する撮像画像の画像取得位置の座標情報が記述されている。このマッピングテーブルは出力表示画面のレイアウト毎に用意されている。
【0024】
本実施形態で使用するマッピングテーブルは、どのカメラの撮像画像のどの部分を抽出するかを直接座標で記述した部分(直接参照領域)と、後述するマッピングテーブル間接参照テーブルを参照し、カメラの撮像画像のどの辺りを抽出するかを記述した部分(間接参照領域)から構成されている。マッピングテーブル間接参照テーブルのデータは、当該マッピングテーブル間接参照テーブルに規定されたカメラで撮像された撮像画像のうちの抽出する範囲が記述されており、マッピングテーブルの間接参照領域に記述されたデータとともに使用してカメラ画像の取得位置が抽出される。
【0025】
表示画像メモリ16も撮像画像メモリ12と同様に、記憶媒体として例えばHDDを使用し、撮像画像メモリ12と異なる記憶領域が割り当てられている。
【0026】
ディスプレイ装置17は、例えば、LCD(液晶ディスプレイ)等からなり、運転席から表示画面を見ることができるように車室内のセンターコンソールのほぼ中間位置に設置されている。このディスプレイ装置17の表示画面には、本発明に関連する情報として、自車両及び自車両周辺のトップビュー画像と、自車両の指示された方向(例えば、後方画像)の画像とが同時に(画面を左右に分割して)表示される。さらにこの表示画面には、ナビゲーションに係る案内情報(自車の現在位置の周囲の地図、出発地から目的地までの誘導経路、自車の現在位置を示すマーク等)も表示される。
【0027】
制御部14は、例えば、マイクロコンピュータ等により構成され、各車載カメラ11a〜11dによる画像を取得して撮像画像メモリ12に格納し、画像処理部13に表示画像に対応する画像取得位置を計算させて、表示画像メモリ16に対応する撮像画像のデータを格納させ、表示画像メモリ16に格納された画像データに従ってディスプレイ装置17に画像を表示する機能を有している。また、制御部14は、ナビゲーションに係る種々の処理(GPS受信機の出力から自車の現在位置を検出したり、自立航法センサの出力から自車の方位や走行速度を検出したり、地図データベースを参照して設定された探索条件で出発地(自車の現在位置)から目的地までの誘導経路を探索するなど)を制御する機能も有している。
【0028】
操作部15は、ユーザが指示した情報を入力するためのものであり、本発明に関連する入力指示として「車両周辺画像表示」の指示を与えるものである。また、車両周辺画像がトップビューとリアビューとを表示させる態様のときに他の視点の表示として例えば、「トップビューとレフトビューの表示」の指示を与えるものである。この操作部15は、例えば、リモコン送信機の形態を有しており、特に図示はしないが、ディスプレイ装置の画面上の各種メニュー、各種項目等を選択したり、選択したメニュー等を実行させるための各種操作ボタン、ジョイスティックなどが適宜設けられている。
【0029】
このように構成された車両用画像表示装置10において、運転者が操作部15を操作して「車両周辺画像表示」を指示すると、前方、後方、左方及び右方カメラで撮像された広角画像信号は1フレーム毎に撮像画像メモリ12に格納される。画像処理部13は、MPTデータ21、MPT間接参照データ22及びカメラサイズ補正データ23を参照しながら表示画像に対応する画像取得位置座標を計算して、撮像画像メモリ12に格納された撮像画像のデータを取得し、表示画像メモリ16へ格納する。そして、表示画像メモリ16に格納された画像データに従って、ディスプレイ装置17に出力され画像が表示される。
【0030】
さらに、車両周辺画像の切り替え(例えば、トップビューとリアビューとが表示されている状態からトップビューとレフトビューが表示される画面への切り替え)の指示があったときに、対応するMPT間接参照データ22に切り替えて画像を合成して表示する。
【0031】
この一連の処理が制御部14によって制御される。なお、運転者が「車両周辺画像表示」を指示しない場合であっても、例えば、シフトレバーがバックの位置になったことを検出したときに自動的に、トップビュー画像を含む出力表示画像が表示されるようにしてもよい。
【0032】
次に、添付図面を参照しながら、本実施形態で使用されるマッピングテーブルについて説明する。
【0033】
図3(a)は、リアビューとトップビューを並べて表示する出力表示画面31の一例を示している。また、図3(c)は図3(a)のリアビューに代えてレフトビューを表示している例を示している。図3(a)、(c)の出力表示画面31においてリアビューやレフトビューなどの車両周辺画像を表示させる領域(図示の例では、画面左側の部分)を、便宜上、「車両周辺画像表示領域」と呼ぶ。これに対し、車両周辺画像表示領域に表示される画像が切り替えられたときでも常にトップビューが表示される領域を「トップビュー表示領域」と呼ぶ。
【0034】
図3(a)に示す出力表示画面31の例では、車両周辺画像表示領域32は、左上の画素位置の座標が(5,100)、右下の画素位置の座標が(394,449)の矩形の範囲になっている。
【0035】
図3(b)は車両の後方に搭載したカメラで撮像されたリアビュー画像34のうち、車両周辺画像表示領域32に出力する画像取得範囲35を示した図である。図3(b)の例では、リアビュー画像のうち、起点となる画素位置の座標が(200,100)であり、x方向(図面の右方向)に300画素、y方向(図面の下方向)に150画素の矩形の領域が画像取得範囲となっている。また、図3(d)は車両の左方に搭載したカメラ11cで撮像されたレフトビュー画像36のうち、車両周辺画像表示領域32に出力する画像取得範囲37を示した図である。図3(d)の例では、レフトビュー画像のうち、起点となる画素位置の座標が(350,100)であり、x方向に300画素、y方向に200画素の矩形の領域が画像取得範囲となっている。
【0036】
図4は、図3(a)に示す表示画像を出力するために使用するマッピングテーブルの従来の使用例を示している。
【0037】
図4に示すように、マッピングテーブルは、表示位置、カメラ番号、位置、補間データを構成要素としている。このうち、表示位置は、出力表示画面に表示される画像の画素位置を示しており、座標(Xo,Yo)で示されている。
【0038】
カメラ番号は、車両のどこに搭載されたカメラであるかを示す識別番号を示している。また、位置は、カメラ番号で特定されたカメラによって撮像された画像のうちの画像取得範囲の画素位置の座標(x、y)を示している。また、補間データは、隣接する画素間の色の変化をスムーズにするための色情報を調整する値を示している。
【0039】
例えば、図4のマッピングテーブルを参照すると、出力表示画面の表示位置(6,100)にはカメラ番号1のカメラで撮像された画像の座標位置(597,100)の画素が割り当てられる。さらに、x方向の隣接する画素の色情報のうちの50%の情報が当該画素の色情報に取り入れられる。例えば、当該画素の色が白で、隣接する画素の色が黒であった場合、当該画素の色を灰色とする。
【0040】
本実施形態では、図3(a)、(c)のように出力表示画面のレイアウトが同じで、その一部分(車両周辺画像表示領域)のデータだけが変更される場合、変更される部分に対応するマッピングテーブルのデータを、すべてのビューに共通して適用可能な記載形式にして、マッピングテーブルの変更の必要がないようにしている。この部分に対応するマッピングテーブルの部分を「間接参照領域」と呼ぶ。
【0041】
次に、図5を参照して、マッピングテーブルの間接参照領域における画像取得位置の算出について説明する。
【0042】
図5(a)は、出力表示画面の一例を示している。また、図5(b)は図5(a)の出力表示画面に表示する画像を生成する際に使用されるマッピングテーブルの一部を示している。図5(a)のトップビュー表示領域の表示位置(X2,Y1)に対する画像取得位置は、図5(b)のマッピングテーブルの直接参照領域DRを参照し、カメラ番号1のカメラで撮像した画像の座標(x1、y1)となる。一方、図5(a)の車両周辺画像表示領域の表示位置(X1,Y1)に対応する画像取得位置は、マッピングテーブルの間接参照領域IRを参照して決定する。この間接参照領域IRには、画像取得位置を直接記述する代わりに、マッピングテーブルの「位置」に画像取得位置の算出に必要となるデータ(「間接座標位置」と呼ぶ)が記載される。この間接座標位置と後述するマッピングテーブル(MPT)間接参照データから画像取得位置を算出する。なお、間接座標位置は、MPT間接参照データで示される取得画像範囲のうちのx方向、y方向それぞれについて、全体の何%であるかの比率が記述される。
【0043】
マッピングテーブルのデータのうち、「間接参照領域」か否かは、マッピングテーブルのカメラ番号の記載によって判定される。マッピングテーブルのカメラ番号に、MPT間接参照データを参照することを示すコード、例えば、実際のカメラに対応しない番号が記載されているとき、そのデータは「間接参照領域」のデータであると判定される。
【0044】
図5(c)は、MPT間接参照データの一例を示した図である。MPT間接参照データは、構成要素として、カメラ番号と、映像取得開始位置と映像取得範囲とを含んでいる。これらの構成要素のうち、カメラ番号は、車両に搭載されたカメラのうちのどのカメラであるかを示す識別番号を示している。
【0045】
映像取得開始位置は、カメラ番号で特定されたカメラによって撮像された画像のうち、画像を取得する取得開始位置の座標(xs,ys)を示している。映像取得範囲は、取得開始位置を起点として、そこから切り取る画像の範囲を、x方向の幅(w)とy方向の高さ(h)で示している。なお、画像の左上を原点とし、右方向をx方向のプラス方向とし、下方向をy方向のプラス方向としている。
【0046】
図5(d)は、図5(c)のMPT間接参照データに対応する画像範囲を示した図である。カメラによって撮像された画像41の有効画像範囲42内で映像取得範囲43が設定されている。図5(d)では、映像取得開始位置P1が(xs、ys)と指定されている。映像取得開始位置P1を起点として、x方向にw画素分、y方向にh画素分が映像取得範囲43と指定されている。この映像取得範囲の画像と図5(e)に示す車両周辺画像表示領域52に表示する画像との対応関係をマッピングテーブルの間接参照領域に記述する。すなわち、マッピングテーブルの間接参照領域では、映像取得範囲43のどの辺りを表示するのかをパーセンテージ(%)で指定している。例えば、映像取得範囲43の点P1(xs、ys)に対する間接座標位置はQ1(0,0)で表わされ、映像取得範囲43の点P2(xs、ys+0.5h)に対する間接座標位置はQ2(0,50)で表わされる。
【0047】
映像取得範囲の画素の取得順序と表示画像の画素の割り当て順序とを、画像の左上から右下の順序とすると、マッピングテーブルに記述した間接座標位置を(α、β)、映像取得開始位置を(xs、ys)、映像取得範囲を(w、h)としたとき、表示位置(Xo、Yo)に表示させる画素の取得座標位置(X,Y)は式(1)によって算出される。
【0048】
X=w×α+xs、Y=h×β+ys … (1)
このように、間接座標位置をパーセンテージで記述することによって、映像取得範囲43の位置が撮像画像内で変更されたり、映像取得範囲43のサイズが変更された場合でも、マッピングテーブルの値を変更することなく、映像取得範囲43に応じた出力画像を取得することが可能になる。
【0049】
図3(a),(c)に示したような出力表示画面において、トップビューとリアビューの表示からトップビューとレフトビューの表示に切り替える場合、切り替えにかかる容量が多いと切り替え速度が遅くなり、1フレーム単位での切り替えができない場合が起こり得る。そのため、1フレーム分の出力画像が生成されるまでに時間がかかってしまう。
【0050】
本実施形態では、マッピングテーブルのうち、表示内容が変更される部分(間接参照領域)については、具体的にどのカメラで撮像された画像のどの位置であるかを記載する代わりに、カメラの取得撮像範囲のうちのどの位置であるかを取得撮像範囲の幅又は高さに対する割合で示すようにしている。すなわち、画像取得開始位置を起点としてx方向の幅及びy方向の高さで示された画像の取得範囲に対して、幅又は高さを100%としたときの比率でカメラの取得撮像範囲のうちのどの辺りかを示すようにしている。
【0051】
また、トップビュー画像のように出力画像の画素位置と撮像画像の画素位置との対応が常に同じ場合は、どのカメラの撮像画像のどの位置であるかを直接記載している。このデータは出力画像を切り替えた場合であっても変化しない。従って、表示画像を変更する際にマッピングテーブルを切り替える必要はなく、MPT間接参照データだけが切り替えられる。これにより、データ量の少ないMPT間接参照データだけが切り替えられるので、表示画像の変更のための切り替え時間を短縮することができ、画像の切り替えをスムーズに行うことが可能となる。
【0052】
次に、取得画像の画素の取得順序の変更による表示位置の補正について説明する。
【0053】
図6(b)は、図6(a)に示すように車両61の左方に搭載されたカメラ11cで撮像された画像62のうちのポールA〜Cを含んだ画像63の一例を示している。このように、車両周辺を撮像するカメラは広範囲を撮像するために広角レンズや魚眼レンズが使用され、カメラから離れた部分の画像は実際よりも歪んで撮像される。このような画像を違和感のない画像として出力するために、部分的に補正をする。
【0054】
図6(b)に示すように、ポールBは実際の対象物と同じように歪みなく撮像されるため、補正の必要がない。図6(b)のポールAのようにカメラから右側に遠い位置の画像は、右側に傾いた画像となり、図6(b)のポールCのようにカメラから左側に遠い位置の画像は、左側に傾いた画像となる。これらの部分は画素の取得順序を調整することにより、傾きを小さくして直立に近い画像とすることができる。
【0055】
本実施形態では、MPT間接参照データの構成要素となる補正データによって取得画像を調整している。この補正データは、画像を取得する際に、カメラ画像から画像を取得する方向をX方向にするか、Y方向にするかを決定するデータ、画像を左右反転させるか否かを決定するデータ、及び画像を上下反転させるか否かを決定するフラグであり、このフラグにセットされた値に応じて画像取得順序を変更する。例えば、リアビュー画像の場合、撮像された画像を左右反転させて表示させたほうが違和感がない。従って、リアビュー画像を表示させる際には、補正データのうちの左右反転フラグをオンにすることにより、映像取得範囲の右側から左側に画素データが取得されるようになる。
【0056】
また、図6(b)のポールAのように右側に傾いた画像は90度左に傾けて表示させることにより、ポールAを直立に近い表示にすることができる。この場合、補正データとして、XY切り替え及び上下反転フラグをセットすることにより、図6(c)に示すように右に傾いた画像を90度左に回転させた画像が取得される。
【0057】
また、図6(b)のポールCのように左側に傾いた画像は補正データとしてXY切り替えフラグをセットすることにより、図6(e)に示すように、左に傾いた画像を右に90度回転させた画像が取得される。なお、図6(b)のポールBのように画像が歪んでいない場合は、補正データのフラグはリセット状態とする。
【0058】
補正データのXY切り替えフラグがセットされている場合は、補正データにフラグがセットされていない場合の式(1)のαとβを入れ替えて計算する。また、補正データの左右反転フラグがセットされている場合は、式のαを(1−α)に代えて計算する。さらに、補正データの上下反転フラグがセットされている場合は、式のβを(1−β)に代えて計算する。
【0059】
図7は、図3(a)の出力画像(リアビューとトップビューが表示される出力画像)を図3(c)の出力画像(レフトビューとトップビューが表示される出力画像)へ切り替える際に、画像の表示位置の補正を考慮した表示画面の切り替えの例を示している。図7(a)の左側は図3(a)の表示に使用されるマッピングテーブルを示し、図7(a)の右側は図3(c)の表示に使用されるマッピングテーブルを示している。また、図7(b)は図3(a)の表示に使用されるMPT間接参照データから図3(c)の表示に使用されるMPT間接参照データへの切り替えを示している。
【0060】
出力画像の切り替えにおいて、図7(a)の左右のマッピングテーブルに示すように、データは不変であるため切り替えの必要がなく、図7(b)に示すようにMPT間接参照データだけが切り替えられる。
【0061】
図7(b)に示すように、マッピングテーブルの間接参照領域から参照されるMPT間接参照データによれば、カメラ番号が1であり、車両後方に搭載したカメラ11bであると判定される。従って、取得する画像を出力表示画面に左右反対に表示するために、補正データを(010)としている。
【0062】
これにより、座標取得位置(X,Y)は次式によって算出される。
【0063】
X=w×(1−α)+xs、Y=h×β+ys
例えば、表示位置(5,100)には、カメラ番号1の後方カメラによって撮像された画像のうち座標(600,100)の画素が割り当てられる。
【0064】
また、出力表示が切り替えられてリアビューからレフトビューが表示されるときには、図7(b)の右側のMPT間接参照データが使用される。このMPT間接参照データは、車両の左方に搭載されたカメラ11cで撮像した画像の前方を出力画像範囲として指定しているため、補正データを(101)としている。
【0065】
これにより、座標取得位置(X,Y)は次式によって算出される。
【0066】
X=w×(1−β)+xs、Y=h×α+ys
例えば、表示位置(5,100)には、カメラ番号0の左方カメラによって撮像された画像のうち座標(650、100)の画素が割り当てられる。
【0067】
なお、マッピングテーブルの間接参照領域では、座標取得位置を算出した結果のうち整数部分を座標取得位置としている。
【0068】
以下、本実施形態に係る車両用画像表示装置10において行うマッピングに係る処理について、図8のフローチャートを参照しながら説明する。
【0069】
本実施形態では、自車両に設置されている車載カメラ11a〜11dは、常に自車両の周辺を撮影しているものとする。また、出力表示画面ではトップビュー画像に変換した画像と車両の前方、後方、左方、右方のいずれかの画像とが同時に表示され(図3(a)、(c)参照)、前方、後方、左方、右方のいずれかの画像に対するマッピングデータは間接参照領域に記述されているものとする。
【0070】
まず、最初のステップS11では、出力表示画面の画素に対するマッピング情報を取得する。マッピング情報は、マッピングテーブルのデータまたはマッピングテーブル間接参照データに記載されており、カメラの識別番号や撮像画像の座標位置等を含んでいる。
【0071】
次のステップS12において、ステップS11で取得したマッピング情報のうち、カメラの識別番号を取得し、実際のカメラか否かを判定する。カメラの識別番号が実際のカメラを示しているときは、ステップS14に移行し、実際のカメラを示していないときはステップS13に移行する。
【0072】
ステップS13では、マッピングテーブル間接参照データの値を使用して、カメラの識別番号を取得し、取得座標位置を算出する。取得座標位置(X,Y)は、マッピングテーブルに記述した間接座標位置を(α、β)、映像取得開始位置を(xs、ys)、映像取得範囲を(w、h)としたとき、X=w×α+xs、Y=h×β+ysを適用して算出する。
【0073】
一方、ステップS14では、ステップS13で算出された取得座標位置に対してさらにカメラサイズ補正データの値を使用して、画像データの取得位置を補正する。
【0074】
カメラサイズ補正データは予め定義されており、例えば、取得する画像の範囲がx方向に50%、y方向に50%であると規定される。ステップS13において取得画像の座標位置が例えば(320,120)と算出された場合、カメラサイズを補正する場合には、この座標位置をサイズの補正率に合わせて、取得画像の座標位置は、(160,60)と変更される。
【0075】
次のステップS15では、カメラ番号の指すカメラの画像取得位置の座標の色情報を取得し、表示画像メモリ16へ格納する。
【0076】
次のステップS16では、表示画面の全画素についてマッピング処理を行ったか否かを判定する。全画素についてマッピング処理を行っていなければ、ステップS11に戻り、本マッピング処理を継続し、全画素についてマッピング処理が終了していれば、本処理フローは「終了」となる。
【0077】
以上説明したように、本実施形態の車両用画像表示装置では、トップビュー画像とリアビュー画像を並べて表示したり、リアビュー画像に代えてレフトビュー画像を表示させる等、複数のトップビュー画面のレイアウトを用意している。そして、これらの出力画像に応じたレイアウト毎にマッピングテーブルが定義されている。特に、画像の配置が同じで画像の一部がリアビュー画像からレフトビュー画像に変更されるような指定は、取得するカメラ画像のうちのどの辺りかを、画像の範囲を示す幅又は高さに対する割合で記述している。すなわち、この部分はカメラの識別番号およびそのカメラで撮像された画像の取得位置を直接記述することなく、リアビュー画像やレフトビュー画像など変更される画像のすべてに対応するように記述される。この部分に対する具体的なカメラ撮像画像はマッピングテーブル間接参照データを用意し、これを基に出力画像を生成している。これにより、出力表示画面の切り替えが指示されたときに、マッピングテーブルの切り替えをする必要がなく、マッピングテーブル間接参照データだけを切り替えるようにすればよいため、切り替えにかかる時間を大幅に短縮することが可能になる。
【0078】
また、本実施形態の車両用表示装置では、撮像画像の画素を取得する順序を変更できるようにしている。これにより、カメラで撮像された画像を左右反転させたり、上下反転させたりすることが可能となり、広角レンズで撮像された歪みを含んだ画像を違和感のない画像にして出力することが可能となる。
【図面の簡単な説明】
【0079】
【図1】本発明の一実施形態に係る車両用画像表示装置の構成を概略的に示すブロック図である。
【図2】図1の装置における各車載カメラの設置例を模式的に示す図である。
【図3】出力表示レイアウトの一例を示す図である。
【図4】従来のマッピングテーブルの一例を示す図である。
【図5】MPT間接参照データを説明する図である。
【図6】取得画像の表示位置の補正を説明する図である。
【図7】マッピングテーブル及びMPT間接参照データの一例を示す図である。
【図8】マッピング処理の一例を示すフローチャートである。
【符号の説明】
【0080】
10…車両用画像表示装置、
11a、11b、11c、11d…車載カメラ(撮像手段)、
12…撮像画像メモリ、
13…画像処理部、
14…制御部(制御手段)、
15…操作部、
16…表示画像メモリ、
17…ディスプレイ装置(表示手段)、
18…記憶部、
19…画像取得位置計算部、
20…画像データ取得部、
21…MPTデータ、
22…MPT間接参照データ、
23…カメラサイズ補正データ。

【特許請求の範囲】
【請求項1】
画面を通して情報を提供する表示手段と、
自車両の周辺の画像を取得する複数の撮像手段と、
撮像画像の画素位置と出力表示画像の画素位置との関係が記述されたマッピングテーブルと、
前記撮像画像のうち前記出力表示画像として取得される取得範囲が記述され、前記出力表示画像の種類毎に用意された間接参照テーブルと、
前記マッピングテーブルのデータ及び間接参照テーブルのデータを基に、前記出力表示画像を生成する画像変換手段と、
前記出力表示画像が切り替えられたことを検出したとき、当該切り替えられた出力表示画像に対応する間接参照テーブルに切り替えて、当該切り替えられた間接参照テーブルのデータ及び前記マッピングテーブルのデータに基づいて前記表示手段の表示画面に出力表示画像を表示させる制御部とを有することを特徴とする車両用画像表示装置。
【請求項2】
前記マッピングテーブルは、前記複数の撮像手段を識別する識別番号及び当該撮像手段で撮像された画像の画素の取得位置が記述された位置情報を含む直接参照領域と、前記間接参照テーブルを参照する旨を示す識別番号及び当該間接参照テーブルで指定される撮像手段で撮像された画像の画素の取得位置が当該画像の範囲を示す幅又は高さに対する割合で記述された位置情報を含む間接参照領域とで構成されることを特徴とする請求項1に記載の車両用画像表示装置。
【請求項3】
前記間接参照テーブルは、前記複数の撮像手段を識別する識別番号と、当該撮像手段で撮像された画像のうち、出力表示画像として取得される画像の画素の開始位置と、当該開始位置を起点として幅及び高さで規定した取得される画像の範囲と、取得される画像の画素の取得順序を規定する補正データとを構成要素として含むことを特徴とする請求項1に記載の車両用画像表示装置。
【請求項4】
前記補正データは、前記取得される画像の左右反転、上下反転、及び回転を指示するフラグであることを特徴とする請求項3に記載の車両用画像表示装置。
【請求項5】
前記制御部は、前記マッピングテーブルの前記位置情報に記述された値を(α、β)、前記間接参照テーブルに記述された出力表示画像として取得される画像の画素の開始位置を(xs、ys)、当該開始位置を起点として幅及び高さで規定した取得される画像の範囲を(w、h)としたとき、前記画素の取得位置(X,Y)は、X=w×α+xs、Y=h×β+ysで算出されることを特徴とする請求項2に記載の車両用画像表示装置。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7】
image rotate

【図8】
image rotate


【公開番号】特開2009−124623(P2009−124623A)
【公開日】平成21年6月4日(2009.6.4)
【国際特許分類】
【出願番号】特願2007−298825(P2007−298825)
【出願日】平成19年11月19日(2007.11.19)
【出願人】(000101732)アルパイン株式会社 (2,424)
【Fターム(参考)】