説明

画像合成装置、画像合成方法およびプログラム

【課題】フレームメモリを要することなく補正値適用ズレの弊害を防ぐことができる画像合成装置を提供する。
【解決手段】複数のカメラ2によって撮像した複数の画像を合成する画像合成装置であって、カメラ2から入力される複数のカメラ画像を記憶する画像メモリ11と、画像メモリ11から、複数のカメラ画像の重複部分のうちの少なくとも一部の画像を読み出す画像抽出部12と、画像レベルに基づいて、重複部分における複数のカメラ画像の画像レベルが同じになるように、複数のカメラ画像を補正するための補正値を算出する補正値算出部19と、読み出したカメラ画像を補正値を用いて補正する画像補正部14と、補正後のカメラ画像を合成する画像合成部15とを備え、補正値算出部19による補正値の算出を、画像抽出部12によって画像を読み出す映像有効区間の直前の垂直ブランキング区間に行う構成を有する。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、車両に搭載された複数のカメラにて撮像された画像を合成して表示する車載カメラの画像合成装置および画像合成方法に関し、特に車両周囲の画像を視認しやすく合成する技術に関する。
【背景技術】
【0002】
近年、車両に取り付けられた複数台のカメラの画像を、車両上方から見下ろした視点等の所定の仮想視点から見た画像に変形・合成し、リアルタイムで画面に表示する視点変換技術を用いた画像合成装置が開発されている。運転者は、車両周辺の状況を画面で確認でき、事故を回避したり、駐車場等での運転操作を容易にすることができる。
【0003】
図5(a)および図5(b)は、このような画像合成装置のカメラの搭載位置を示す図である。図5(a)は、カメラ21〜25を搭載した自動車の上面図であり、図5(b)はその左側面図である。図5(a)および図5(b)に示す自動車には、5台のカメラ21〜25が搭載されている。カメラ21は車両の真後ろを撮像し、車両の左サイドの前後に取り付けられたカメラ22、カメラ23が車両の左サイド斜め後方を撮像し、車両の右サイドの前後に取り付けられたカメラ24、カメラ25が車両の右サイド斜め後方を撮像する。
【0004】
図6は、図5(a)および図5(b)に示す5台のカメラ21〜25の各撮像画像とその合成画像を示す図である。この例では、車両が駐車場にバックするときの画像を示している。運転者が5台のカメラ21〜25の撮像画像を順番に表示画面で監視することは困難である。図6に示すように、5台のカメラ21〜25の撮像画像を、車両の上方位置の仮想視点から見下ろした画像に変換して合成し、画面に表示することにより、車両の周辺を一度に監視でき、状況を容易に把握できる。なお、図6に示す合成画像において、自分の車両を表す画像は、カメラ画像の合成ではなく(カメラに写らないため)、イラストデータの画像である。
【0005】
ところが、複数のカメラ21〜25の撮像画像を合成して表示装置の画面に表示する場合、複数のカメラが同一規格であっても、輝度や色バランス等をカメラ毎に独立に制御しているため、カメラ21〜25の撮像範囲の境界部においてカメラ間で輝度や色バランスの差ができてしまい、非常に見づらい画像になってしまうという問題があった。
【0006】
この問題を解決するため、以下の方法が提案されている。複数のカメラの配置を、それぞれの撮像範囲が境界部において重複するような配置とする。カメラの撮像画像を合成する際に、画像の重なった部分の画像レベルを参照して、カメラ間の輝度や色バランスが一致するように補正を行う。
【0007】
特許文献1は、補正方法の一例を開示している。第1のカメラの画像の輝度の平均値、第1のカメラと隣接して配置された第2のカメラの画像の輝度の平均値、この2つの映像の重複部の輝度のそれぞれの平均値を計測する。そして、重複部の輝度が等しく、かつ、画面全体の輝度の平均値があらかじめ設定した目標値になるように、各カメラ画像に対する補正値を算出し、合成画像に対して補正を行う。なお、特許文献1では、輝度のみを補正している。
【0008】
特許文献1に記載された方法で、あるフレームの映像の補正値を求めるためには、フレーム全体を走査して、画像レベルを計測する必要がある。リアルタイムで動作する画像合成装置においては、補正値の算出のためにフレーム全体を走査する時間をかけることができない。従って、時刻N+1のフレームに適用される補正値は、時刻Nのフレームで算出した値から算出した補正値である。本来は、時刻Nのフレームから求めた補正値は時刻Nのフレームに適用すべきであるが、実際には時刻N+1のフレームに適用しているため、補正値を求めるためのフレーム(ここでは時刻Nのフレーム)と補正対象のフレーム(ここでは時刻N+1のフレーム)とが一致しない(以下、「補正値適用ズレ」という)。この補正値適用ズレによる弊害としては、被写体の明るさが変動したときに、画面がちらついて、カメラ間の明るさの差がかえって目立ってしまう点が主に挙げられる。
【0009】
この補正値適用ズレの問題に対して、特許文献2に記載の画像比較装置は、映像1フレーム分のフレームメモリを持ち、補正値を適用する映像側を1フレーム遅延させることによって、補正値適用ズレをなくしている。
【先行技術文献】
【特許文献】
【0010】
【特許文献1】特開2006−173988公報
【特許文献2】特開2001−169311公報
【発明の概要】
【発明が解決しようとする課題】
【0011】
しかしながら、フレームメモリを必要とすることはコスト面で不利であり、また、入力された画像が、システムディレイに加えて、さらに1フレーム遅延する。従って、リアルタイム性を求められる車載用途において望ましくない。
【0012】
本発明は、上記背景に鑑み、フレームメモリを要することなく補正値適用ズレの弊害を防ぐことができる画像合成装置を提供することを目的とする。
【課題を解決するための手段】
【0013】
本発明の画像合成装置は、互いの撮像範囲の一部が重複するように配置された複数のカメラによって撮像した複数の画像を合成する画像合成装置であって、前記カメラから入力される複数のカメラ画像を記憶する画像メモリと、前記画像メモリから、複数のカメラ画像の重複部分のうちの少なくとも一部の画像を読み出す第1の画像抽出部と、読み出した画像の画像レベルを計測する画像レベル計測部と、前記画像レベルに基づいて、前記重複部分における複数のカメラ画像の画像レベルが同じになるように、複数のカメラ画像を補正するための補正値を算出する補正値算出部と、前記画像メモリから前記カメラ画像を読み出す第2の画像抽出部と、読み出したカメラ画像を前記補正値を用いて補正する画像補正部と、前記補正後のカメラ画像を合成する画像合成部とを備え、前記補正値算出部による補正値の算出を、前記第2の画像抽出部によって画像を読み出す映像有効区間の直前の垂直ブランキング区間に行う構成を有する。
【0014】
この構成により、複数のカメラ画像の重複部分だけから補正値を求めるので、垂直ブランキング区間に補正値を求めることができ、垂直ブランキング区間に続く映像有効区間に読み出したカメラ画像に対して補正値を適用できる。これにより、補正値を求めるための画像フレームと補正対象の画像フレームとを一致させることができる。
【0015】
本発明の画像合成装置は、前記重複部分に対応する前記カメラ画像の座標を記憶した重複部分抽出用テーブルを備え、前記第1の画像抽出部は、前記重複部分抽出用テーブルに記憶された座標から重複部分の画像のデータを読み出す構成を有する。
【0016】
この構成により、画像を解析して重複部分を判断することなく、重複部分の画像を読み出すことができる。
【0017】
本発明の画像合成装置は、前記カメラ画像の座標と合成画像の座標との対応関係を記憶した合成画像抽出用テーブルを備え、前記第2の画像抽出部は、前記合成画像抽出用テーブルに記憶されたカメラ画像の座標から画像のデータを読み出し、前記画像合成部は、読み出した画像のデータを対応する合成画像の座標にマッピングまたは合成してマッピングする構成を有する。
【0018】
この構成により、複数のカメラ画像を容易に合成することができる。
【0019】
本発明の画像合成方法は、互いの撮像範囲の一部が重複するように配置された複数のカメラによって撮像した複数の画像を合成する画像合成方法であって、前記カメラから入力される複数のカメラ画像を画像メモリに記憶するステップと、垂直ブランキング区間に、前記画像メモリから、複数のカメラ画像の重複部分のうちの少なくとも一部の画像を読み出すステップと、読み出した画像の画像レベルを計測するステップと、前記画像レベルに基づいて、前記重複部分における複数のカメラ画像の画像レベルが同じになるように、複数のカメラ画像を補正するための補正値を算出するステップと、前記垂直ブランキング区間に続く映像有効区間に、前記画像メモリから前記カメラ画像を読み出すステップと、読み出したカメラ画像を前記補正値を用いて補正するステップと、前記補正後のカメラ画像を合成するステップとを備えた構成を有する。
【0020】
この構成により、上記した画像合成装置と同様に、補正値を求めるための画像フレームと補正対象の画像フレームとを一致させることができる。また、上記した画像合成装置の各種の構成を本発明の画像合成方法に適用することができる。
【0021】
本発明のプログラムは、互いの撮像範囲の一部が重複するように配置された複数のカメラによって撮像した複数の画像を合成するためのプログラムであって、コンピュータに、前記カメラから入力される複数のカメラ画像を画像メモリに記憶するステップと、垂直ブランキング区間に、前記画像メモリから、複数のカメラ画像の重複部分のうちの少なくとも一部の画像を読み出すステップと、読み出した画像の画像レベルを計測するステップと、前記画像レベルに基づいて、前記重複部分における複数のカメラ画像の画像レベルが同じになるように、複数のカメラ画像を補正するための補正値を算出するステップと、前記垂直ブランキング区間に続く映像有効区間に、前記画像メモリから前記カメラ画像を読み出すステップと、読み出したカメラ画像を前記補正値を用いて補正するステップと、前記補正後のカメラ画像を合成するステップとを実行させる。
【0022】
この構成により、上記した画像合成装置と同様に、補正値を求めるための画像フレームと補正対象の画像フレームとを一致させることができる。また、上記した画像合成装置の各種の構成を本発明のプログラムに適用することができる。
【発明の効果】
【0023】
本発明によれば、垂直ブランキング区間に補正値を求め、垂直ブランキング区間に続く映像有効区間に読み出したカメラ画像に対して補正値を適用するので、補正値を求めるための画像フレームと補正対象の画像フレームとを一致させることができるというすぐれた効果を有する。
【図面の簡単な説明】
【0024】
【図1】実施の形態における画像合成装置のブロック図
【図2】(a)本実施の形態における合成画像の一例を示す図、(b)合成画像抽出用テーブルの説明図、(c)重複部分抽出用テーブルの説明図
【図3】実施の形態における画像合成装置の画像合成補正処理の手順を示すフローチャート
【図4】実施の形態における画像合成装置の画像合成補正処理のフレームタイミングを示す図
【図5】(a)5台の車載カメラを搭載した自動車の例を示す上面図、(b)5台の車載カメラを搭載した自動車の例を示す側面図
【図6】5台の車載カメラを搭載した自動車の各カメラの画像とその合成画像の例を示す図
【発明を実施するための形態】
【0025】
以下、本発明の実施の形態の画像合成装置について、図面を参照しながら説明する。本実施の形態の画像合成装置は、図6に示したような複数の車載カメラの撮像画像を、視点変換、合成して表示装置に表示させる装置である。
【0026】
図1は、本発明の実施の形態の画像合成装置1の構成を示す図である。画像合成装置1には、n台の車載カメラ2と表示装置3が接続されている。n台の車載カメラ2は、互いに隣接する車載カメラ2と撮像範囲の一部が重複するように配置されている。
【0027】
画像合成装置1は、車載カメラ2から入力されたカメラ画像を記憶する画像メモリ11と、重複部分に対応するカメラ画像の座標を記憶した重複部分抽出用テーブル16と、カメラ画像の座標と合成画像の座標の対応関係を記憶した合成画像抽出用テーブル17と、2つのテーブル16,17に基づき画像メモリ11から、重複部分の画像または合成用画像を抽出する画像抽出部12と、画像メモリ11から抽出された重複部分のデータに基づいて補正値を算出する補正信号発生部13と、補正信号発生部13が算出した画像信号補正値に基づいて画像データの補正を行う画像補正部14と、補正後の画像データを合成し、合成後の画像を表示装置3に表示する画像合成部15とを備えている。なお、画像抽出部12は、請求項に記載の「第1の画像抽出部」、「第2の画像抽出部」の機能を兼ね備えている。補正信号発生部13は、画像レベル計測部18と、補正値算出部19とを有している。画像抽出部12は、後述する重複部分抽出用テーブル16、合成画像抽出用テーブル17にて指定される座標値と、読み出しであることを示す制御信号を画像メモリ11に送り、画像メモリ11から当該座標の画像データを読み出す。
【0028】
図2(a)〜図2(c)は、合成画像抽出用テーブル17と、重複部分抽出用テーブル16の詳細について説明するための図である。図2(a)は本実施の形態における合成画像の一例を示す図であり、図5(a)、図5(b)に示すような5台のカメラで撮像した撮像画像を変形、合成して得られる1フレーム分の合成画像の例である。
【0029】
図2(b)は、合成画像抽出用テーブルの例を示す図である。合成画像抽出用テーブル17は、合成画像の画素座標と1対1に対応している。合成画像抽出用テーブル17には、出力画像の各座標において、どのカメラ画像のどの座標と、どのカメラ画像のどの座標を合成するかの対応が記述されている。各座標のテーブルとして、その座標に対応する合成画像画素を生成するためのカメラ画像のカメラ番号および、画素座標を示す2次元配列が表現されている。その座標が隣接するカメラとの重複部分の場合は、各々のカメラ番号、および、画素座標を示す2次元配列が表現されている。また、イラスト重畳かどうかの情報も表現されている。図2(b)に示す例では、合成画像抽出用テーブルの座標(x1,y1)に「イラスト:NO、重複:NO、カメラ番号:2、座標:(Xa,Yb)」の情報が格納されている。これは、合成画像の座標(x1,y1)の画素は、カメラ2の画像の座標(Xa,Yb)の画素によって生成される、ということを示している。また、合成画像抽出用テーブルの座標(x2,y1)に、「イラスト:NO、重複:YES、カメラ番号:2、座標:(Xc,Yd)、カメラ番号:1、座標:(Xe,Yf)、重み付け:α」の情報が格納されている。これは、合成画像の座標(x2,y1)の画素は、カメラ2の画像の座標(Xc,Yd)と、カメラ1の画像の座標(Xe,Yf)の重複部分であり、それぞれの画素値をα:(1−α)の重み付けでブレンドして生成される、ということを示している。
【0030】
図2(c)は、重複部分抽出用テーブル16の一例を示す図である。この重複部分抽出用テーブル16には、どのカメラ画像のどの座標と、どのカメラ画像のどの座標が重複しているかの対応が記述されている。重複部分抽出用テーブル16には、合成画像中の隣接するカメラ画像の重複部分の全部、または、一部における、各々のカメラのカメラ番号、および、画素座標を示す2次元配列が記憶されている。図2(c)に示す例では、M番目のデータは、「カメラ番号:1、座標:(Xg,Yh)、カメラ番号:2、座標:(Xi,Yj)」の情報が格納されている。これは、重複部分の画像のM番目の画素は、カメラ1の撮像画像の座標(Xg,Yh)と、カメラ2の撮像画像の座標(Xi,Yj)の重複部分である、ということを示している。
【0031】
上記に説明した画像合成装置1は、CPU、ROM、RAM、及びこれらを接続するデータバスなどによって構成されるコンピュータによって構成される。ROMに書き込まれたプログラムに従ってCPUが演算処理を実行することにより、上記機能が実現される。重複部分抽出用テーブル16および合成画像抽出用テーブル17は、ROMに記憶してもよいし、外部の記憶媒体に記憶してもよい。
【0032】
図3は、画像合成装置1による合成用の画像の補正処理の手順を示すフローチャートである。画像合成装置1は、カメラ画像を例えば、1秒に30枚ずつ取り込む。画像合成装置1は、カメラ画像を取り込む毎に、図3に示す補正処理を行う。
【0033】
まず、ブランキング区間に入ると、画像抽出部12は、重複部分抽出用テーブル16に基づき、画像メモリ11から重複部分の画像データを読み出す(S10)。画像レベル計測部18は、補正に必要な各隣接するカメラの画像の重複部分における画像データの画素レベルを、R(赤)、G(緑)、B(青)の色別に積算し、同時に画素数の計測を行う(S11)。このとき、R、G、Bの値が予め定められた閾値の範囲外である場合には、その画素レベルは積算せず、画素数も計測しない。これにより、画素レベルの異常値を補正値の算出から除外し、適切な補正値を求めることができる。続いて、各重複部分における各カメラの画像データのR、G、Bの画素レベルの積算値を画素数で割り、重複部分における各カメラ画像の信号レベルの平均値を算出する(S12)。
【0034】
次に、補正値算出部19は、各重複部分における各カメラの信号レベルの平均値を用いて、隣接カメラ画像間における重複部分の信号レベルの平均値を一致させるための各カメラ画像の補正値を算出する(S13)。映像有効区間が始まったら、画像抽出部12は、合成画像抽出用テーブル17に基づき、画像メモリ11から合成用画像データを読み出す(S14)。画像合成部15は、合成画像抽出用テーブル17に記述されたデータに基づいて、対応するカメラ画像の画素データをマッピングまたは合成してマッピングすることにより、合成画像を生成する(S15)。
【0035】
図4は、補正値を算出のタイミングを示す図である。図4に示す垂直同期信号は、1フレームの区間を示す同期信号であり、垂直同期信号がLOWのときが映像有効区間、HIGHのときが垂直ブランキング区間である。垂直同期信号がLOWからHIGHに変化した時点で映像1フレーム分が終了し、HIGHから再びLOWに変化した時点で次のフレームの映像が始まる。nフレームの画像について説明をする。垂直ブランキング区間に入ると、重複部分抽出用テーブル16に基づき、画像メモリ11からnフレームにおける重複部分の画像を読み出す。画像レベル計測部18は、各隣接するカメラの画像の重複部分における画像データの画素レベルの計測を行う。重複部分の画像の読み出しが終了したら、補正値算出部19は補正値算出を行い、nフレーム用補正値を決定する。なお、重複部分抽出用テーブル16は、合成画像の画素座標と1対1に対応している必要はなく、重複部分の全部、または、一部のみのデータである。画像メモリ11から読み出す画素数は、合成画像に比べて十分に少ないため、垂直ブランキング区間内で重複部分の画像の読み出しから、補正算出までの処理が十分に可能である。映像有効期間が始まったら、画像抽出部12は、合成画像抽出用テーブル17に基づき、画像メモリ11からnフレームの合成用画像データを読み出し、画像補正部14において、nフレームの合成用画像に対してnフレーム用補正値を用いて補正を行う。
【0036】
以上、本発明の実施の形態の画像合成装置1について説明した。本発明の画像合成装置は、画像の重なった部分(重複部分)の画像レベルを参照して、カメラ間の輝度や色バランスが一致するように補正を行うので、垂直ブランキング区間に補正値を求めることができる。これにより、垂直ブランキング区間に続く映像有効区間に読み出したカメラ画像に対して補正値を適用することができ、補正値を求めるための画像フレームと補正対象の画像フレームとを一致させることができる。図4に見られるように、nフレームから求めた補正値をnフレームの画像に適用することができる。
【0037】
なお、本実施の形態においては、重複部分抽出用テーブル16、合成画像抽出用デーブル17を別々に記載していたが、一つのデータ保持装置に、両方のデータを保持させても実施可能である。画像メモリ11と兼用しても実施可能である。
【0038】
本実施の形態においては、カメラを5台、車両前方が未撮像領域として記載したが、他のカメラ台数のシステムや、車両全周囲を撮像して表示するシステムにおいても実施可能である。
【産業上の利用可能性】
【0039】
以上説明したように、本発明は、補正値を求めるための画像フレームと補正対象の画像フレームとを一致させることができるというすぐれた効果を有し、複数のカメラで撮像した画像を合成する画像合成装置等として有用である。
【符号の説明】
【0040】
1 画像合成装置
2 車載カメラ
3 表示装置
11 画像メモリ
12 画像抽出部
13 補正信号発生部
14 画像補正部
15 画像合成部
16 重複部分抽出用テーブル
17 合成画像抽出用テーブル
18 画像レベル計測部
19 補正値算出部

【特許請求の範囲】
【請求項1】
互いの撮像範囲の一部が重複するように配置された複数のカメラによって撮像した複数の画像を合成する画像合成装置であって、
前記カメラから入力される複数のカメラ画像を記憶する画像メモリと、
前記画像メモリから、複数のカメラ画像の重複部分のうちの少なくとも一部の画像を読み出す第1の画像抽出部と、
読み出した画像の画像レベルを計測する画像レベル計測部と、
前記画像レベルに基づいて、前記重複部分における複数のカメラ画像の画像レベルが同じになるように、複数のカメラ画像を補正するための補正値を算出する補正値算出部と、
前記画像メモリから前記カメラ画像を読み出す第2の画像抽出部と、
読み出したカメラ画像を前記補正値を用いて補正する画像補正部と、
前記補正後のカメラ画像を合成する画像合成部と、
を備え、
前記補正値算出部による補正値の算出を、前記第2の画像抽出部によって画像を読み出す映像有効区間の直前の垂直ブランキング区間に行う画像合成装置。
【請求項2】
前記重複部分に対応する前記カメラ画像の座標を記憶した重複部分抽出用テーブルを備え、
前記第1の画像抽出部は、前記重複部分抽出用テーブルに記憶された座標から重複部分の画像のデータを読み出す請求項1に記載の画像合成装置。
【請求項3】
前記カメラ画像の座標と合成画像の座標との対応関係を記憶した合成画像抽出用テーブルを備え、
前記第2の画像抽出部は、前記合成画像抽出用テーブルに記憶されたカメラ画像の座標から画像のデータを読み出し、
前記画像合成部は、読み出した画像のデータを対応する合成画像の座標にマッピングまたは合成してマッピングする請求項1または2に記載の画像合成装置。
【請求項4】
互いの撮像範囲の一部が重複するように配置された複数のカメラによって撮像した複数の画像を合成する方法であって、
前記カメラから入力される複数のカメラ画像を画像メモリに記憶するステップと、
垂直ブランキング区間に、前記画像メモリから、複数のカメラ画像の重複部分のうちの少なくとも一部の画像を読み出すステップと、
読み出した画像の画像レベルを計測するステップと、
前記画像レベルに基づいて、前記重複部分における複数のカメラ画像の画像レベルが同じになるように、複数のカメラ画像を補正するための補正値を算出するステップと、
前記垂直ブランキング区間に続く映像有効区間に、前記画像メモリから前記カメラ画像を読み出すステップと、
読み出したカメラ画像を前記補正値を用いて補正するステップと、
前記補正後のカメラ画像を合成するステップと、
を備える画像合成方法。
【請求項5】
互いの撮像範囲の一部が重複するように配置された複数のカメラによって撮像した複数の画像を合成するためのプログラムであって、コンピュータに、
前記カメラから入力される複数のカメラ画像を画像メモリに記憶するステップと、
垂直ブランキング区間に、前記画像メモリから、複数のカメラ画像の重複部分のうちの少なくとも一部の画像を読み出すステップと、
読み出した画像の画像レベルを計測するステップと、
前記画像レベルに基づいて、前記重複部分における複数のカメラ画像の画像レベルが同じになるように、複数のカメラ画像を補正するための補正値を算出するステップと、
前記垂直ブランキング区間に続く映像有効区間に、前記画像メモリから前記カメラ画像を読み出すステップと、
読み出したカメラ画像を前記補正値を用いて補正するステップと、
前記補正後のカメラ画像を合成するステップと、
を実行させるプログラム。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate


【公開番号】特開2010−252015(P2010−252015A)
【公開日】平成22年11月4日(2010.11.4)
【国際特許分類】
【出願番号】特願2009−98771(P2009−98771)
【出願日】平成21年4月15日(2009.4.15)
【出願人】(000005821)パナソニック株式会社 (73,050)
【Fターム(参考)】