画像処理装置および画像処理システム
【課題】低コストで高品位に複数の映像信号を合成する画像処理装置および画像処理システムを提供する。
【解決手段】画像処理システムは、4つのカメラ1a〜1dと、画像処理装置30と、液晶ディスプレイ10とを備えている。画像処理装置30は、選択部2と、ADコンバータ3と、NTSCデコーダ4と、RAM5と、視点射影変換部6と、合成部7と、制御部8と、LCDコントローラ9とを有する。非同期カメラ1a〜1dと、1つずつのADC3、NTSCデコーダ4およびRAM5により、低コストで画像処理システムを構成できる。また、制御部2を設け、同期パルスが検出された順に映像信号を自動的に選択するため、効率よく短時間で映像信号11a〜11dを選択でき、高品位な俯瞰画像を生成できる。
【解決手段】画像処理システムは、4つのカメラ1a〜1dと、画像処理装置30と、液晶ディスプレイ10とを備えている。画像処理装置30は、選択部2と、ADコンバータ3と、NTSCデコーダ4と、RAM5と、視点射影変換部6と、合成部7と、制御部8と、LCDコントローラ9とを有する。非同期カメラ1a〜1dと、1つずつのADC3、NTSCデコーダ4およびRAM5により、低コストで画像処理システムを構成できる。また、制御部2を設け、同期パルスが検出された順に映像信号を自動的に選択するため、効率よく短時間で映像信号11a〜11dを選択でき、高品位な俯瞰画像を生成できる。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、複数の映像信号を合成する画像処理装置および画像処理システムに関する。
【背景技術】
【0002】
車両の前後左右4箇所に設置されたカメラで撮影された映像信号を、車両上方からの視点の映像に変換し、合成することにより、車両の周囲360度を確認可能な俯瞰画像を生成し、車内のディスプレイにこの俯瞰画像を表示する車載システムが知られている(例えば特許文献1)。この画像を見ながら、運転手は安全に車庫入れ等を行うことができる。
【0003】
特許文献1では、4つのカメラにそれぞれ対応する4つの画像デコーダ部および4つの画像メモリを設け、画像デコーダ部でカメラから入力される映像信号を所定の形式に変換した後、画像メモリに格納する。そして、画像メモリに記憶された画像を合成して俯瞰画像を生成する。
【0004】
しかしながら、特許文献1の手法では、画像デコーダおよび画像メモリが4つずつ必要であるため、この車載システムが高価になってしまうという問題がある。
【先行技術文献】
【特許文献】
【0005】
【特許文献1】特開2007−336230号公報
【発明の概要】
【発明が解決しようとする課題】
【0006】
本発明は、低コストで高品位に複数の映像信号を合成する画像処理装置および画像処理システムを提供するものである。
【課題を解決するための手段】
【0007】
本発明の一態様によれば、複数の映像信号のそれぞれに含まれる垂直同期信号から同期パルスを検出し、前記同期パルスが検出された前記映像信号を順繰りに所定期間選択することを示す制御信号を生成する制御信号生成部と、前記制御信号に応じて、前記複数の映像信号のうちの1つを選択する選択部と、前記選択された映像信号を、複数の領域のうち前記選択された映像信号に対応する領域に所定の形式で記憶する記憶部と、前記複数の領域に記憶される映像信号を合成して合成画像を生成する合成画像生成部と、を備えることを特徴とする画像処理装置が提供される。
【0008】
また、本発明の一態様によれば、複数のカメラと、前記複数のカメラから入力される複数の映像信号のそれぞれに含まれる垂直同期信号から同期パルスを検出し、前記同期パルスが検出された前記映像信号を順繰りに所定期間選択することを示す制御信号を生成する制御信号生成部と、前記制御信号に応じて、前記複数の映像信号のうちの1つを選択する選択部と、前記選択された映像信号を、複数の領域のうち前記選択された映像信号に対応する領域に所定の形式で記憶する記憶部と、前記複数の領域に記憶される映像信号を合成して合成画像を生成する合成画像生成部と、を備えることを特徴とする画像処理システムが提供される。
【発明の効果】
【0009】
本発明によれば、低コストで高品位に複数の映像信号を合成できる。
【図面の簡単な説明】
【0010】
【図1】本発明の第1の実施形態に係る画像処理システムの概略構成を示すブロック図。
【図2】車両50に取り付けられたカメラ1a〜1dを示す図。
【図3】映像信号11a〜11d、垂直同期信号VsyncA〜VsyncD、制御信号2s、選択映像信号12の一例を示すタイミング図。
【図4】制御信号生成部82の処理動作の一例を示すフローチャート。
【図5】制御部8を設けない場合の、映像信号11a〜11dと、映像信号12の一例を示すタイミング図。
【図6】映像信号11a〜11d、垂直同期信号VsyncA〜VsyncD、制御信号2s、選択映像信号12の一例を示すタイミング図。
【図7】制御信号生成部82の処理動作の一例を示すフローチャート。
【図8】映像信号11a〜11dおよび選択映像信号12の別の一例を示すタイミング図。
【図9】制御信号生成部82の処理動作の一例を示すフローチャート。
【図10】制御信号生成部82の内部構成の一例を示す概略ブロック図。
【図11】制御信号生成部82のより詳細な内部構成の一例を示す回路ブロック図。
【図12】選択部2の内部構成の一例を示す概略ブロック図。
【図13】選択部2および制御信号生成部82の各部の信号波形を示すタイミング図。
【図14】映像信号11a〜11d、垂直同期信号VsyncA〜VsyncD、制御信号2s、選択映像信号12の一例を示すタイミング図。
【図15】制御信号生成部82の処理動作の一例を示すフローチャート。
【発明を実施するための形態】
【0011】
以下、本発明に係る画像処理装置および画像処理システムの実施形態について、図面を参照しながら具体的に説明する。
【0012】
(第1の実施形態)
図1は、本発明の第1の実施形態に係る画像処理システムの概略構成を示すブロック図である。図1の画像処理システムは、4つのカメラ1a〜1dと、画像処理装置30と、液晶ディスプレイ(LCD:表示部)10とを備えている。
【0013】
図2は、車両50に取り付けられたカメラ1a〜1dを示す図である。図示のように、4つのカメラ1a〜1dは、例えば車両50の前後左右4箇所に設置される。図1の各カメラ1a〜1dはアナログ映像信号11a〜11dを出力する。映像信号11a〜11dは、例えば垂直同期信号と、画像データである輝度信号Yおよび色差信号Cb,Crとが重畳されたコンポジットビデオ信号である。カメラ1a〜1dは非同期カメラである。そのため、それぞれ同期して動作するわけではなく、垂直同期信号の位相は一致していない。
【0014】
図1の画像処理装置30は、選択部(SEL)2と、ADコンバータ(Analog to Digital Converter:ADC)3と、NTSCデコーダ4と、RAM(記憶部)5と、視点射影変換部6と、合成部7と、制御部8と、LCDコントローラ(LCDC)9とを有する。画像処理装置30は4つのカメラ1a〜1dで撮影された映像を合成して、車両50の全周囲を表す俯瞰画像を生成し、LCD10に表示するものである。
【0015】
選択部2は制御信号2sに応じて映像信号11a〜11dのうちの1つを選択し、選択映像信号12として出力する。ADC3は選択映像信号12をデジタル信号に変換する。NTSCデコーダ4は映像信号をNTSC(National Television Standard Committee)フォーマットに従った形式の映像信号に変換する。さらに、NTSCデコーダは制御信号2sに応じて、変換後の映像信号の水平ブランキング期間に、どのカメラから入力されたのかを示すカメラ識別データを付加してもよい。
【0016】
RAM5は複数の領域を有し、4つのカメラから入力される4つの映像信号をそれぞれ対応する領域に記憶する。選択部2、ADC3およびNTSCデコーダ4を介して新たに映像信号が入力されると、RAMに記憶されていた4つの映像信号のうち、新たに入力される映像信号のみを更新する。制御信号2sまたはカメラ識別データに基づいて、選択映像信号12がどのカメラに対応するのかを識別できる。
選択部2が4つの映像信号11a〜11dのうちの1つを選択するため、ADC3、NTSCデコーダ4、RAM5はそれぞれ1つずつ設ければよい。
【0017】
視点射影変換部6は、例えばアフィン変換により、RAM5に記憶された4つの映像信号を車両50の上方から路面へ射影した映像信号にそれぞれ変換する。合成部7は射影された4つ映像信号を合成して、俯瞰画像(合成画像)を生成する。視点射影変換部6と合成部7は合成画像生成部を構成する。
【0018】
制御部8は、垂直同期信号(Vsync)検出部81と、制御信号生成部82とを有する。垂直同期信号検出部81は映像信号11a〜11dに重畳された垂直同期信号VsyncA〜VsyncDを検出する。制御信号生成部82は垂直同期信号VsyncA〜VsyncDから同期パルスを検出し、同期パルスが検出された順に映像信号11a〜11dを選択部2で選択するよう制御信号2sを生成する。
【0019】
制御部8はソフトウェアで構成してもよいし、ハードウェアで構成してもよい。この制御部8が本実施形態の特徴の1つであり、その処理動作については後述する。
【0020】
LCDコントローラ9は俯瞰画像をLCD10に表示するための信号に変換し、LCD10を駆動する。LCD10は図2の車両50内で運転手が見やすい位置に設置され、生成された俯瞰画像を表示する。
【0021】
図3は、映像信号11a〜11d、垂直同期信号VsyncA〜VsyncD、制御信号2s、選択映像信号12の一例を示すタイミング図である。図3の映像信号11a〜11dは同期パルスの間に画像データが挿入される。より具体的には、同図のロウパルス(負極性のパルス)が例えば60Hzの同期パルスであり、その間に奇数ラインまたは偶数ラインに対応する1フィールド分の画像データ(本実施形態では、輝度信号Yおよび色差信号Cb,Cr)が挿入される。垂直同期信号検出部81は、映像信号11a〜11dから垂直同期信号VsyncA〜VsyncDを分離し、制御信号生成部82に供給する。カメラ1a〜1dは非同期カメラであるため、垂直同期信号VsyncA〜VsyncDにおいて同期パルスが生成されるタイミングは一致しない。
【0022】
図4は、制御信号生成部82の処理動作の一例を示すフローチャートである。同図はカメラ1aを基準とし、フィールド単位で選択する映像信号を切り替える例を示している。図3および図4を用いて、画像処理装置30の処理動作を説明する。
【0023】
まず、制御信号生成部82はパラメータNを0に設定する(ステップS1)。次に、制御信号生成部82は基準となるカメラ1aから入力される垂直同期信号VsyncAに同期パルスが検出されるか否かを判断する(ステップS2)。制御信号生成部82は図3の時刻t1における垂直同期信号VsyncAの立ち上がりを同期パルスと判断する(ステップS2のYES)。そして、制御信号生成部82はこの同期パルスが検出された垂直同期信号VsyncAに対応する映像信号11aを選択すべきことを示す制御信号2sを生成する(ステップS3)。これにより、選択部2は映像信号11aを選択し、選択映像信号12として出力する。
【0024】
選択映像信号12は、ADC3およびNTSCデコーダ4の処理を経て、RAM5における映像信号11aに対応する領域に記憶される。既にカメラ1aから入力された映像信号が記憶されている場合は、新たな映像信号に更新される。その後、視点射影変換部6および合成部7により、既にRAM5に記憶されているカメラ1b〜1dから入力された映像信号と、新たにカメラ1aから入力された映像信号とを合成して俯瞰画像を生成する。この俯瞰画像はLCDコントローラ9を介してLCD10に表示される。
【0025】
俯瞰画像の生成に用いられるカメラ1b〜1dから入力される映像信号は、カメラ1aから入力される映像信号より古い。しかしながら、車両50が遅い速度で後進するような場合、古い映像と新しい映像信号との差異は小さいため、ほとんど問題になることはない。
【0026】
一方、制御信号生成部82は1フィールド分の映像信号11aの選択が完了したか否かを判断する(ステップS4)。時刻t2で垂直同期信号VsyncAが立ち下がると、制御信号生成部82は1フィールド分の映像信号11aの選択が完了したと判断する(ステップS4のYES)。そして、制御信号生成部82は映像信号11aの選択を停止すべきことを示す制御信号2sを生成する(ステップS5)。また、制御信号生成部82はパラメータNを1インクリメントし(ステップS6)、パラメータNを1に設定する。
【0027】
ここで、N=4ではないので(ステップS7のNO)、制御信号生成部82は垂直同期信号VsyncB〜VsyncDに同期パルスが検出されるか否かを判断する(ステップS8)。ここで、制御信号生成部82は既に選択したカメラ1aから入力される同期パルスを検出しない。すなわち、制御信号生成部82は、既にカメラ1aから入力される垂直同期信号VsyncAで同期パルスを検出しているため、図3の時刻t2’における垂直同期信号VsyncAの同期パルスを検出しない。
【0028】
一方、制御信号生成部82は時刻t3における垂直同期信号VsyncCの立ち上がりを同期パルスと判断する(ステップS8のYES)。そして、制御信号生成部82は映像信号11cを選択すべきことを示す制御信号2sを生成する(ステップS3)。これにより、選択部2は映像信号11cを選択し、選択映像信号12として出力する。その後のADC3以降の処理は上記と同様なので省略する。
【0029】
その後、時刻t4で垂直同期信号VsyncCが立ち下がると、制御信号生成部82は1フィールド分の映像信号11cの選択が完了したと判断し(ステップS4のYES)、制御信号生成部82は映像信号11cの選択を停止すべきことを示す制御信号2sを生成する(ステップS5)。また、制御信号生成部82はパラメータNを1インクリメントし(ステップS6)、パラメータNを2に設定する。
【0030】
ここで、N=4ではないので(ステップS7のNO)、ステップS8,S3〜S7の処理が繰り返される。すなわち、時刻t5〜t6で映像信号11dが選択され、パラメータNは3に設定される。その後、時刻t7〜t8で映像信号11bが選択され、パラメータNは4に設定される。
【0031】
N=4になると(ステップS7のYES)、映像信号の入力が続いていれば(ステップS9のYES)、ステップS1に戻り、制御信号生成部82はパラメータNを0に設定し(ステップS1)、基準となるカメラ1aから入力される垂直同期信号VsyncAに同期パルスが検出されるか否かを判断する(ステップS2)。時刻t9で同期パルスが検出されると(ステップS2のYES)、制御信号生成部82は再び映像信号11aを選択すべきことを示す制御信号2sを生成する。以降、上記の動作を繰り返す。
【0032】
このようにして、基準となるカメラ1aの5フィールド分の時間(時刻t1〜t9)で、全てのカメラ1a〜1dから入力される映像信号11a〜11dが選択され、制御信号生成部82の1サイクルの動作が完了する。
【0033】
図5は、制御部8を設けない場合の、映像信号11a〜11dと、映像信号12の一例を示すタイミング図である。制御部8がない場合、カメラ1a〜1dから入力される同期パルスの順序がわからないため、常に一定の順に映像信号11a〜11dを選択しなければならない。
【0034】
図5は、カメラ1a,1b,1c,1dの順に映像信号11a〜11dを選択する例を示したものである。時刻t2で映像信号11aの選択が完了した後、時刻t3より遅い時刻t11で垂直同期信号VsyncBに同期パルスが検出されるのを待って映像信号11bを選択を開始する。以下、映像信号11a〜11dをこの順に選択すると、全てのカメラ1a〜1dから入力される映像信号11a〜11dの選択が完了するまでに、図3より長い6フィールド分の時間(時刻t1〜t12)が必要となる。
【0035】
全ての映像信号11a〜11dの選択が完了するまでに必要な時間が長くなるほど、より古い映像信号を用いて俯瞰画像が生成される。カメラ1a〜1dは車両50に取り付けられており、車両50が移動すると映像信号も変化する。したがって、より古い映像信号を用いて俯瞰画像を生成すると、その品位が低下してしまう。本実施形態では、全ての映像信号11a〜11dを選択するのに要する時間を短縮できるため、俯瞰画像の品位を向上できる。
【0036】
このように、本実施形態では、非同期カメラ1a〜1dと、1つずつのADC3、NTSCデコーダ4およびRAM5により、低コストで画像処理システムを構成できる。また、制御部2を設け、同期パルスが検出された順に映像信号を自動的に選択するため、効率よく短時間で映像信号11a〜11dを選択でき、高品位な俯瞰画像を生成できる。
【0037】
なお、前記説明において俯瞰画像は新たな映像信号が更新される毎に生成されるが、4つの映像信号11a〜11dが全て更新されてから合成しても良い。これにより合成部2の処理を軽減できる。
【0038】
(第2の実施形態)
以下に説明する第2の実施形態は、基準となるカメラを設定せず、より簡易な処理で映像信号11a〜11dを選択するものである。
【0039】
図6は、映像信号11a〜11d、垂直同期信号VsyncA〜VsyncD、制御信号2s、選択映像信号12の一例を示すタイミング図であり、図7は、制御信号生成部82の処理動作の一例を示すフローチャートである。以下では、第1の実施形態と異なる部分を中心に説明する。
【0040】
まず、制御信号生成部82はパラメータNを0に設定する(ステップS1)。次に、任意の垂直同期信号VsyncA〜VsyncDに同期パルスが検出されるか否かを判断する(ステップS2’)。制御信号生成部82は図6の時刻t1における垂直同期信号VsyncAの立ち上がりを同期パルスと判断する(ステップS2’のYES)。そして、制御信号生成部82は映像信号11aを選択すべきことを示す制御信号2sを生成する(ステップS3)。これにより、選択部2は映像信号11aを選択し、選択映像信号12として出力する。
【0041】
その後、時刻t2で垂直同期信号VsyncAが立ち下がると、制御信号生成部82は1フィールド分の映像信号11aの選択が完了したと判断し(ステップS4のYES)、制御信号生成部82は映像信号11aの選択を停止すべきことを示す制御信号2sを生成する(ステップS5)。また、制御信号生成部82はパラメータNを1インクリメントし(ステップS6)、パラメータNを1に設定する。
【0042】
以下同様に、時刻t3〜t4で映像信号11cが選択され、時刻t5〜t6で映像信号11dが選択される。さらに、時刻t7〜t8で映像信号11bが選択され、パラメータNは4に設定される。
【0043】
ここで、N=4なので(ステップS7のYES)、ステップS1に戻り、制御信号生成部82はパラメータNを0に設定する(ステップS1)。次に、任意の垂直同期信号VsyncA〜VsyncDに同期パルスが検出されるか否かを判断する(ステップS2’)。
【0044】
図4の場合と異なり、N=0の場合、基準となるカメラから入力される垂直同期信号に限定せず、任意の垂直同期信号VsyncA〜VsyncDから同期パルスを検出する。そのため、制御信号生成部82は時刻t21における垂直同期信号VsyncBが立ち上がりを同期パルスと判断する(ステップS2’のYES)。そして、制御信号生成部82はこの同期パルスが検出された垂直同期信号VsyncBに対応する映像信号11bを選択すべきことを示す制御信号2sを生成する。以降の動作は第1の実施形態と同様である。
【0045】
図6に示すように、全てのカメラ1a〜1dから入力される映像信号11a〜11dの選択が完了するまでに要する1サイクルの時間は約4フィールド分(時刻t1〜t21)であり、次に選択する映像信号の同期パルスを早く検出できるので第1の実施形態よりさらに短縮できる。
【0046】
図8は、映像信号11a〜11dおよび選択映像信号12の別の一例を示すタイミング図である。垂直同期信号の周波数は厳密に60Hzに統一されているわけではなく、また、何らかの原因により一部のカメラのみ垂直同期信号が乱れることもある。その場合、同期パルスの位相がずれ、現れる順番が変化することもある。
【0047】
図8の期間T1では、カメラ1a,1c,1d,1bの順に同期パルスが現れる。一方、期間T2では、カメラ1a,1c,1b,1dの順に同期パルスが現れる。このように同期パルスが現れる順番が変化しても、制御部8は垂直同期信号パルスが検出された順に映像信号を自動的に選択するため、映像信号11a〜11dを選択するのに要する時間が長くなることはない。
【0048】
このように、第2の実施形態では、基準となるカメラを設定せずに、4つの映像信号11a〜11dを切り替えて選択する。そのため、第1の実施形態よりさらに短い時間で映像信号11a〜11dを選択でき、俯瞰画像の品位をより向上できる。
【0049】
(第3の実施形態)
第1および第2の実施形態では、1サイクル内に任意の4つの映像信号を選択する。これに対し、以下に説明する第3の実施形態は、選択された映像信号に対応する映像信号番号を内部メモリに記憶しておき、同一サイクル内では映像信号番号が記憶されていない映像信号を選択するものである。
【0050】
図9は、制御信号生成部82の処理動作の一例を示すフローチャートである。以下では、図6および図9を用いて、第2の実施形態と異なる部分を中心に説明する。制御信号生成部82はパラメータNを0に設定し、かつ、内部メモリ(不図示)に記憶された映像信号番号をクリアする。(ステップS1’)。この内部メモリは既に選択された映像信号に対応する映像信号番号(識別子)(11a〜11d)を記憶するものである。以下では、映像信号11a〜11dに対応する映像信号番号をそれぞれ「11a」〜「11d」とする。
【0051】
その後、図6の時刻t1でカメラ1aから入力される垂直同期信号VsyncAに同期パルスが検出される(ステップS2’のYES)。ここで、内部メモリは映像信号11a対応する映像信号番号「11a」を記憶していないので(ステップS21のYES)、制御信号生成部82は時刻t1〜t2で映像信号11aを選択すべきことを示す制御信号2sを生成する(ステップS3〜S5)。さらに、制御信号生成部82の内部メモリは映像信号番号「11a」を記憶する(ステップS22)。
【0052】
次に、制御信号生成部82はパラメータNを1インクリメントし(ステップS6)、パラメータNを1に設定する。N=4でないので(ステップS7のNO)、ステップS8に進む。時刻t3でカメラ1cから入力される垂直同期信号VsyncCに同期パルスが検出される(ステップS8のYES)。ここで、内部メモリは映像信号番号「11a」のみを記憶しており、「11c」は記憶していない(ステップS21のYES)。よって、制御信号生成部82は時刻t3〜t4で映像信号11cを選択すべきことを示す制御信号2sを生成する(ステップS3〜S5)。その後、内部メモリは映像信号番号「11c」をさらに記憶し、(ステップS22)パラメータNは2に設定される(ステップS6)。
【0053】
以降、同様の動作により、時刻t5〜t6で映像信号11dを選択するとともに、内部メモリは映像信号番号「11d」をさらに記憶し、パラメータNは3に設定される。また、時刻t7〜t8で映像信号11bを選択するとともに、内部メモリは映像信号番号「11b」をさらに記憶し、パラメータNは4に設定される。ここで、N=4なので(ステップS7のYES)、全てのカメラ1a〜1dから入力される映像信号11a〜11dの選択が完了し、映像信号が入力されていれば(ステップS9のYES)、ステップS1’に戻る。
【0054】
仮に、図6とは異なり、時刻t7でカメラ1aから入力される垂直同期信号VsyncAに同期パルスが検出されたとする(ステップS8)。各カメラ1a〜1dの垂直同期信号の周波数が厳密には一致していないため、このように同期パルスの順序が入れ換わることもあり得る。この場合、内部メモリは映像信号番号「11a」を既に記憶している(ステップS21のNO)。そのため、映像信号11aが選択されることはない。
【0055】
時刻t7で、内部メモリは映像信号番号「11a」、「11c」および「11d」を記憶しており、「11b」を記憶していない。そのため、VsyncBに同期パルスが検出されるまで、映像信号11a,11c,11dは新たに選択されない。
【0056】
このように、第3の実施形態では、既に選択した映像信号番号を記憶し、既に選択されたカメラから入力される映像信号を選択しないようにする。そのため、同期パルスの順序が入れ換わった場合でも、1サイクル内で4つのカメラ1a〜1dから入力される映像信号11a〜11dを、重複することなく確実に選択できる。そのため、各カメラ1a〜1dの垂直同期信号の周波数が厳密に一致していない場合でも、俯瞰画像の品位を向上できる。
【0057】
(第4の実施形態)
以下に説明する第4の実施形態は、第3の実施形態で説明した選択部2および制御信号生成部82の内部構成をより具体的に示すものである。
図10は、制御信号生成部82の内部構成の一例を示す概略ブロック図である。制御信号生成部82は、選択回路83a〜83dと、内部メモリ84a〜84dと、メモリクリア回路85と、タイミング制御回路86とを有する。
【0058】
選択回路83aは、垂直同期信号VsyncAと、タイミング制御信号Gateと、重複防止信号GateAとに基づいて、制御信号SelAを生成する。選択回路83b〜83dも同様である。制御信号SelA〜SelDは図1の制御信号2sに対応する。内部メモリ84aは制御信号SelAにより映像信号11aが選択されたことを記憶する。そして、1サイクル内で映像信号11aが重複して選択されないよう、選択防止信号GateAを生成する。内部メモリ84b〜84dも同様である。
【0059】
メモリクリア回路85は、制御信号SelA〜SelDにより全ての映像信号11a〜11dの選択が完了すると、内部メモリ84a〜84dに記憶された情報をクリアする。タイミング制御回路86は、制御信号SelA〜SelDに基づいて、1フィールド分の映像信号の選択が完了する前に制御信号SelA〜SelDが切り替わらないよう、タイミング制御信号Gateを生成する。
【0060】
図11は、制御信号生成部82のより詳細な内部構成の一例を示す回路ブロック図である。選択回路83a〜83dおよび内部メモリ84a〜84dはそれぞれ内部構成が同一であるので、以下では、代表して選択回路83aおよび内部メモリ84aについて説明する。
制御信号生成部82内の選択回路83aは、立ち上がり検出回路(RE DET)101aと、立ち下り検出回路(FE DET)102aと、OR回路103aと、フリップフロップ(FF)104aとを有する。
【0061】
立ち上がり検出回路101aは垂直同期信号VsyncAの立ち上がりに同期してロウパルスを生成し、OR回路103aに供給する。立ち下がり検出回路102aは垂直同期信号VsyncAの立ち下がりに同期してロウパルスを生成し、フリップフロップ104aのリセット端子Rに供給する。OR回路103aは、タイミング制御信号Gateと、重複防止信号GateAと、立ち上がり検出回路101aの出力信号との論理和演算を行い、その結果をフリップフロップ104aのセット端子Sに供給する。
【0062】
フリップフロップ104aはセット端子Sにロウパルスが供給されると出力端子Qから制御信号SelAをハイに設定し、リセット端子Rにロウパルスが供給されると制御信号SelAをロウに設定する。すなわち、タイミング制御信号Gateおよび重複防止信号GateAがともにロウである場合、垂直同期信号VsyncAの立ち上がりに同期してフリップフロップ104aは制御信号SelAをハイに設定する。また、垂直同期信号VsyncAの立ち下がりに同期してフリップフロップ104aは制御信号SelAをロウに設定する。
内部メモリ84aは、立ち上がり検出回路105aと、フリップフロップ106aとを有する。
【0063】
立ち上がり検出回路105aは制御信号SelAの立ち上がりに同期してロウパルスを生成し、フリップフロップ106aのセット端子Sに供給する。
フリップフロップ106aの動作はフリップフロップ104aと同様である。立ち上がり検出回路105aからセット端子Sにロウパルスが供給されると、フリップフロップ106aは出力端子Qから重複防止信号GateAをハイに設定する。これは、内部メモリ84aが映像信号番号「11a」を記憶することに対応する。また、リセット端子Rにメモリクリア回路85からロウパルスが供給されると、フリップフロップ106aは重複防止信号GateAをロウに設定する。これは、内部メモリ84aに記憶された映像信号番号「11a」をクリアすることに対応する。
【0064】
重複防止信号GateAは選択回路83a内のOR回路103aに供給される。よって、重複防止信号GateAがハイである期間では、OR回路103aの出力はハイに固定され、フリップフロップ104aのセット端子Sにロウパルスは生じない。したがって、重複防止信号GateAがハイに設定されると、制御信号SelAがハイに設定されることはない。
【0065】
メモリクリア回路85は、立ち下がり検出回路107a〜107dと、OR回路108と、カウンタ109と、カウンタクリア回路110とを有する。
立ち下がり検出回路107a〜107dはそれぞれ制御信号SelA〜SelDの立ち下がりに同期してハイパルスを生成する。OR回路108は立ち上がり検出回路107a〜107dの出力信号の論理和演算を行う。よって、制御信号SelA〜SelDのいずれかが立ち下がると、これに同期してOR回路108は出力信号CKにハイパルスを生成し、カウンタ109に供給する。
【0066】
カウンタ109はハイパルスが入力されるとカウント値Nを1インクリメントし、カウント値Nをカウンタクリア回路110に供給する。カウンタクリア回路110はカウント値Nが4になるとクリア信号CLRにロウパルスを生成する。このクリア信号CLRのロウパルスに同期して、カウンタ109はカウント値Nを0に設定する。また、クリア信号CLRは内部メモリ84a〜84d内のフリップフロップ106a〜106dにもそれぞれ供給される。クリア信号CLRのロウパルスに同期して、フリップフロップ106a〜106dは重複防止信号GateA〜GateDをロウに設定する。
【0067】
タイミング制御回路86はOR回路111を有する。OR回路111は制御信号SelA〜SelDの論理和演算を行い、タイミング制御信号Gateを生成する。タイミング制御信号Gateは選択回路83a〜83d内のOR回路103a〜103dに供給される。制御信号SelA〜SelDのいずれかがハイである期間では、OR回路111が生成するタイミング制御信号Gateはハイに固定され、フリップフロップ104aのセット端子Sにロウパルスは生じない。したがって、制御信号SelA〜SelDのいずれかがハイであり、1フィールド分の映像信号を選択している最中に制御信号SelA〜SelDが切り替わることはない。
【0068】
図12は、選択部2の内部構成の一例を示す概略ブロック図である。選択部2はスイッチSW1〜SW4を有する。各スイッチSW1〜SW4は制御信号SelA〜SelDがハイの場合はオンし、ロウの場合はオフする。
【0069】
図13は、選択部2および制御信号生成部82の各部の信号波形を示すタイミング図である。以下、図9のフローチャートと対応させながら、図11の制御信号生成部82および図12の選択部2の動作を詳しく説明する。
【0070】
時刻t30では、タイミング制御信号Gate、重複防止信号GateA〜GateD、制御信号SelA〜SelDはロウであり、カウント値Nは0であると仮定する(ステップS1’)。時刻t31で垂直同期信号SyncAが立ち下がると、立ち下がり検出回路102aはロウパルスを生成するが、フリップフロップ104aが生成する制御信号SelAはロウのままである。
【0071】
時刻t32で垂直同期信号SyncAが立ち上がると、立ち上がり検出回路101aはロウパルスを生成する(ステップS2’のYES)。OR回路103aに入力されるタイミング制御信号Gateおよび重複防止信号GateAはロウである(ステップ21のYESに対応)ので、OR回路103aもロウパルスを生成する。このロウパルスに同期して、フリップフロップ104aは制御信号SelAをハイに設定する(ステップS3)。そのため、スイッチSW1がオンして、映像信号11aが選択される。
【0072】
時刻t32で制御信号SelAが立ち上がると、立ち上がり検出回路105aはロウパルスを生成する。これにより、フリップフロップ106aは重複防止信号GateAをハイに設定する(ステップS22)。その結果、OR回路103aの出力はハイに設定される。
【0073】
一方、制御信号SelAがハイに設定されるため、OR回路111はタイミング制御信号Gateをハイに設定する。その結果、OR回路103b〜103dの出力はハイに設定される。例えば、時刻t33で垂直同期信号SyncCが立ち上がると、立ち上がり検出回路101cはロウパルスを生成する。しかしながら、OR回路103cはハイに固定されており、フリップフロップ104cのセット端子Sにロウパルスは生じない。よって、フリップフロップ104cは制御信号SelCをハイに設定しない。
【0074】
このように、制御信号SelA〜SelDのいずれかがハイである期間はOR回路111がタイミング制御信号Gateをハイに設定する。そのため、制御信号SelA〜SelDのうちの2つ以上がハイに設定されたり、1フィールド分の映像信号が完了する前に制御信号が切り替わったりすることはない。
【0075】
時刻t34で垂直同期信号SyncAが立ち下がると、立ち下がり検出回路102aはロウパルスを生成する(ステップS4のYES)。このロウパルスに同期して、フリップフロップ104aは制御信号SelAをロウに設定する(ステップS5)。これにより、1フィールド分の映像信号11aの選択が完了する。
【0076】
時刻t34で制御信号SelAが立ち下がると、メモリクリア回路85内の立ち下がり検出回路107aはハイパルスを生成する。他の立ち下がり検出回路107b〜107dの出力はロウなので、OR回路108は、立ち下がり検出回路107aのハイパルスに同期して、出力信号CKにハイパルスを生成する。これにより、カウンタ109はカウント値を1インクリメントし(ステップS6)、Nを1に設定する。以下、選択回路83b〜83dの動作は選択回路83aと同様なので、簡略化して説明する。
【0077】
時刻t35で垂直同期信号SyncCが立ち上がると、フリップフロップ104cは制御信号SelCをハイに設定する。さらに、時刻t36で垂直同期信号SyncCが立ち下がると、フリップフロップ104cは制御信号SelCをロウに設定する。制御信号SelCの立ち下がりに同期して、カウンタ109はカウント値Nを1インクリメントし、Nを2に設定する。
【0078】
時刻t37で垂直同期信号SyncDが立ち上がると、フリップフロップ104dは制御信号SelDをハイに設定する。さらに、時刻t38で垂直同期信号SyncDが立ち上がると、フリップフロップ104dは制御信号SelDをロウに設定する。制御信号SelDの立ち下がりに同期して、カウンタ109はカウント値Nを1インクリメントし、Nを3に設定する。
【0079】
時刻t39で垂直同期信号SyncBが立ち上がると、フリップフロップ104bは制御信号SelBをハイに設定する。さらに、時刻t40で垂直同期信号SyncBが立ち上がると、フリップフロップ104bは制御信号SelBをロウに設定する。制御信号SelBの立ち下がりに同期して、カウンタ109はカウント値Nを1インクリメントし、Nを4に設定する。
【0080】
カウント値Nが4になったので(ステップS7のYES)、カウンタクリア回路110はクリア信号CLRにロウパルスを生成する。このロウパルスに同期して、フリップフロップ106a〜フリップフロップ106dは重複防止信号GateA〜GateDをロウに設定し、カウンタ109はカウント値Nを0に設定する(ステップS1’)。以上で、4つのカメラ1a〜1dから入力される全ての映像信号11a〜11dが選択され、1サイクルの動作が完了する。
【0081】
ここで、重複防止信号GateA〜GateDは、1サイクル内で同一のカメラから入力される映像信号を重複して選択しないよう、フリップフロップ104a〜104dを制御する。例えば、時刻t32以降、重複防止信号GateAはハイに設定される。このとき、仮に図13とは異なり、時刻t37でカメラ1aから入力される垂直同期信号VsyncAが立ち上がったとする。この場合、選択回路83a内の立ち上がり検出回路101aはロウパルスを生成する。ところが、重複防止信号GateAがハイである(ステップS21のNO)ため、OR回路103aの出力はハイに固定されており、ロウパルスを生成しない。よって、フリップフロップ104aは制御信号SelAをハイに設定せず、映像信号11aが選択されることはない。
【0082】
図13に示すように、時刻t37では重複防止信号GateA,GateC,GateDがハイであるため、カメラ1bから入力される垂直同期信号VsyncBに同期パルスが検出されるまで、他のカメラ1a,1c,1dから入力される映像信号11a,11c,11dは選択されない。
【0083】
このように、第4の実施形態では、内部メモリ84aは映像信号11aを選択したことを記憶し、その後同一サイクル内では映像信号11aを選択しないよう、制御信号SelAを生成するフリップフロップ104aへの入力信号を固定する。そのため、同期パルスの順序が入れ換わった場合でも、1サイクル内で4つのカメラ1a〜1dから入力される映像信号11a〜11dを、重複することなく確実に選択できる。また、タイミング制御回路86により、1フィールド分の映像信号が完了するまでは、制御信号SelA〜SelDを生成するフリップフロップ104a〜104dへの入力信号を固定する。そのため、1フィールド分の映像信号の選択が完了する前に制御信号SelA〜SelDが切り替わることはない。
【0084】
(第5の実施形態)
以上に説明した第1〜第4の実施形態はフィールド単位で選択する映像信号を切り替えるものであった。これに対し、以下に説明する第5の実施形態は、映像信号をフィールド単位で切り替えるかフレーム単位で切り替えかを選択できるものである。
【0085】
図14は、映像信号11a〜11d、垂直同期信号VsyncA〜VsyncD、制御信号2s、選択映像信号12の一例を示すタイミング図であり、図15は、制御信号生成部82の処理動作の一例を示すフローチャートである。以下では、第3の実施形態の図9と異なる部分を中心に説明する。
【0086】
まず、フレーム単位で切り替える場合を説明する。なお、フレームとは、連続する2つのフィールド、すなわち、奇数ラインに対応するフィールドおよび偶数ラインに対応するフィールドにより構成されるものである。フレーム単位で切り替える場合、図1の制御部8には、外部からフレーム単位で切り替えることを示す信号(不図示)が入力される。
【0087】
図14の時刻t41でカメラ1aから入力される垂直同期信号VsyncAに同期パルスが検出される(ステップS2’のYES)。ここで、内部メモリは映像信号番号「11a」を記憶していない(ステップS21のYES)ので、制御信号生成部82は時刻t41で映像信号11aを選択すべきことを示す制御信号2sを生成する(ステップS3)。ここで、時刻t41での映像信号11aは奇数ラインおよび偶数ラインのどちらに対応するフィールドであっても構わない。
【0088】
フレーム単位で映像信号11aを選択する場合(ステップS31のNO)、時刻t42で垂直同期信号VsyncAが立ち下がると、1フィールド目の選択が完了する(ステップS32のYES)。続いて、時刻t43で垂直同期信号VsyncAが立ち下がると、2フィールド目の選択が完了する(ステップS4のYES、ステップS5)。このように、奇数ラインであるか偶数ラインであるかを問わず、先に入力されるフィールドから選択することで、1フレームの選択に要する時間を短縮できる。
【0089】
制御信号生成部82は、1フレーム、すなわち2フィールドの選択を完了すると、映像信号番号「11a」を内部メモリに記憶する(ステップS22)。以下、同様の処理動作により選択部2はフレーム単位で映像信号を切り替えることができる。
【0090】
一方、フィールド単位で切り替える場合、図1の制御部8には、外部からフィールド単位で切り替えることを示す信号(不図示)が入力される。この場合、ステップS32の処理を行わず、1フィールド分の映像信号の選択が完了すると、制御信号生成部は選択を停止する(ステップS5)。よって、図9と同様の処理フローとなり、フィールド単位で映像信号を切り替えることができる。
【0091】
カメラ1a〜1dが取り付けられる図2の車両50の速度が速い場合、時間の経過と共に映像信号が大きく変化する。よって、できる限り早くカメラ1a〜1dから入力される映像信号11a〜11dを切り替えた方がよい。そのため、車両50の速度が速い場合はフィールド単位で映像信号を切り替えるのがよい。
【0092】
一方、速度が遅い場合、時間が経過しても映像信号の変化は小さい。よって、フレーム単位で映像信号を切り替えてもよい。フレームはフィールドに比べて垂直方向の解像度が2倍であるため、より高品位の俯瞰画像を生成できる。
したがって、車両50の速度が所定値より速い場合はフィールド単位で映像信号を切り替え、遅い場合はフレーム単位で映像信号を切り替えるようにしてもよい。手動でこの切り替えを行ってもよいし、車両50の車速パルス信号(不図示)を用いて速度を判断し、自動で切り替えを行ってもよい。
【0093】
このように、第5の実施形態ではフレーム単位で映像信号を切り替えることもできる。よって、特に車両50の速度が遅い場合にフレーム単位で映像信号を切り替えることにより、俯瞰画像の品位をさらに向上できる。
【0094】
なお、上述した各実施形態では、映像信号11a〜11dがコンポジットビデオ信号である例を示したが、映像信号11a〜11dはその他のフォーマットの信号でもよい。例えば、垂直同期信号と画像データが予め分離された信号であってもよく、この場合は図1の垂直同期信号検出部81を設けず、垂直同期信号を直接制御信号生成部82に入力すればよい。映像信号11a〜11dはデジタル信号でもよく、この場合はADC3は不要である。また、NTSCデコーダ4に代えて、PALデコーダまたはSECAMデコーダを用いて、NTSCとは異なる形式に映像信号をデコードしてもよい。また、カメラから入力される映像信号の数は4つに限られない。
【0095】
上述した実施形態で説明した画像処理システムの少なくとも一部は、ハードウェアで構成してもよいし、ソフトウェアで構成してもよい。ソフトウェアで構成する場合には、画像処理システムの少なくとも一部の機能を実現するプログラムをフレキシブルディスクやCD−ROM等の記録媒体に収納し、コンピュータに読み込ませて実行させてもよい。記録媒体は、磁気ディスクや光ディスク等の着脱可能なものに限定されず、ハードディスク装置やメモリなどの固定型の記録媒体でもよい。また、画像処理システムの少なくとも一部の機能を実現するプログラムを、インターネット等の通信回線(無線通信も含む)を介して頒布してもよい。さらに、同プログラムを暗号化したり、変調をかけたり、圧縮した状態で、インターネット等の有線回線や無線回線を介して、あるいは記録媒体に収納して頒布してもよい。
【0096】
上記の記載に基づいて、当業者であれば、本発明の追加の効果や種々の変形を想到できるかもしれないが、本発明の態様は、上述した個々の実施形態には限定されるものではない。特許請求の範囲に規定された内容およびその均等物から導き出される本発明の概念的な思想と趣旨を逸脱しない範囲で種々の追加、変更および部分的削除が可能である。
【符号の説明】
【0097】
1a〜1d カメラ
2 選択部
3 ADC
4 NTSCデコーダ
5 RAM
6 視点射影変換部
7 合成部
8 制御部
81 垂直同期信号検出部
82 制御信号生成部
【技術分野】
【0001】
本発明は、複数の映像信号を合成する画像処理装置および画像処理システムに関する。
【背景技術】
【0002】
車両の前後左右4箇所に設置されたカメラで撮影された映像信号を、車両上方からの視点の映像に変換し、合成することにより、車両の周囲360度を確認可能な俯瞰画像を生成し、車内のディスプレイにこの俯瞰画像を表示する車載システムが知られている(例えば特許文献1)。この画像を見ながら、運転手は安全に車庫入れ等を行うことができる。
【0003】
特許文献1では、4つのカメラにそれぞれ対応する4つの画像デコーダ部および4つの画像メモリを設け、画像デコーダ部でカメラから入力される映像信号を所定の形式に変換した後、画像メモリに格納する。そして、画像メモリに記憶された画像を合成して俯瞰画像を生成する。
【0004】
しかしながら、特許文献1の手法では、画像デコーダおよび画像メモリが4つずつ必要であるため、この車載システムが高価になってしまうという問題がある。
【先行技術文献】
【特許文献】
【0005】
【特許文献1】特開2007−336230号公報
【発明の概要】
【発明が解決しようとする課題】
【0006】
本発明は、低コストで高品位に複数の映像信号を合成する画像処理装置および画像処理システムを提供するものである。
【課題を解決するための手段】
【0007】
本発明の一態様によれば、複数の映像信号のそれぞれに含まれる垂直同期信号から同期パルスを検出し、前記同期パルスが検出された前記映像信号を順繰りに所定期間選択することを示す制御信号を生成する制御信号生成部と、前記制御信号に応じて、前記複数の映像信号のうちの1つを選択する選択部と、前記選択された映像信号を、複数の領域のうち前記選択された映像信号に対応する領域に所定の形式で記憶する記憶部と、前記複数の領域に記憶される映像信号を合成して合成画像を生成する合成画像生成部と、を備えることを特徴とする画像処理装置が提供される。
【0008】
また、本発明の一態様によれば、複数のカメラと、前記複数のカメラから入力される複数の映像信号のそれぞれに含まれる垂直同期信号から同期パルスを検出し、前記同期パルスが検出された前記映像信号を順繰りに所定期間選択することを示す制御信号を生成する制御信号生成部と、前記制御信号に応じて、前記複数の映像信号のうちの1つを選択する選択部と、前記選択された映像信号を、複数の領域のうち前記選択された映像信号に対応する領域に所定の形式で記憶する記憶部と、前記複数の領域に記憶される映像信号を合成して合成画像を生成する合成画像生成部と、を備えることを特徴とする画像処理システムが提供される。
【発明の効果】
【0009】
本発明によれば、低コストで高品位に複数の映像信号を合成できる。
【図面の簡単な説明】
【0010】
【図1】本発明の第1の実施形態に係る画像処理システムの概略構成を示すブロック図。
【図2】車両50に取り付けられたカメラ1a〜1dを示す図。
【図3】映像信号11a〜11d、垂直同期信号VsyncA〜VsyncD、制御信号2s、選択映像信号12の一例を示すタイミング図。
【図4】制御信号生成部82の処理動作の一例を示すフローチャート。
【図5】制御部8を設けない場合の、映像信号11a〜11dと、映像信号12の一例を示すタイミング図。
【図6】映像信号11a〜11d、垂直同期信号VsyncA〜VsyncD、制御信号2s、選択映像信号12の一例を示すタイミング図。
【図7】制御信号生成部82の処理動作の一例を示すフローチャート。
【図8】映像信号11a〜11dおよび選択映像信号12の別の一例を示すタイミング図。
【図9】制御信号生成部82の処理動作の一例を示すフローチャート。
【図10】制御信号生成部82の内部構成の一例を示す概略ブロック図。
【図11】制御信号生成部82のより詳細な内部構成の一例を示す回路ブロック図。
【図12】選択部2の内部構成の一例を示す概略ブロック図。
【図13】選択部2および制御信号生成部82の各部の信号波形を示すタイミング図。
【図14】映像信号11a〜11d、垂直同期信号VsyncA〜VsyncD、制御信号2s、選択映像信号12の一例を示すタイミング図。
【図15】制御信号生成部82の処理動作の一例を示すフローチャート。
【発明を実施するための形態】
【0011】
以下、本発明に係る画像処理装置および画像処理システムの実施形態について、図面を参照しながら具体的に説明する。
【0012】
(第1の実施形態)
図1は、本発明の第1の実施形態に係る画像処理システムの概略構成を示すブロック図である。図1の画像処理システムは、4つのカメラ1a〜1dと、画像処理装置30と、液晶ディスプレイ(LCD:表示部)10とを備えている。
【0013】
図2は、車両50に取り付けられたカメラ1a〜1dを示す図である。図示のように、4つのカメラ1a〜1dは、例えば車両50の前後左右4箇所に設置される。図1の各カメラ1a〜1dはアナログ映像信号11a〜11dを出力する。映像信号11a〜11dは、例えば垂直同期信号と、画像データである輝度信号Yおよび色差信号Cb,Crとが重畳されたコンポジットビデオ信号である。カメラ1a〜1dは非同期カメラである。そのため、それぞれ同期して動作するわけではなく、垂直同期信号の位相は一致していない。
【0014】
図1の画像処理装置30は、選択部(SEL)2と、ADコンバータ(Analog to Digital Converter:ADC)3と、NTSCデコーダ4と、RAM(記憶部)5と、視点射影変換部6と、合成部7と、制御部8と、LCDコントローラ(LCDC)9とを有する。画像処理装置30は4つのカメラ1a〜1dで撮影された映像を合成して、車両50の全周囲を表す俯瞰画像を生成し、LCD10に表示するものである。
【0015】
選択部2は制御信号2sに応じて映像信号11a〜11dのうちの1つを選択し、選択映像信号12として出力する。ADC3は選択映像信号12をデジタル信号に変換する。NTSCデコーダ4は映像信号をNTSC(National Television Standard Committee)フォーマットに従った形式の映像信号に変換する。さらに、NTSCデコーダは制御信号2sに応じて、変換後の映像信号の水平ブランキング期間に、どのカメラから入力されたのかを示すカメラ識別データを付加してもよい。
【0016】
RAM5は複数の領域を有し、4つのカメラから入力される4つの映像信号をそれぞれ対応する領域に記憶する。選択部2、ADC3およびNTSCデコーダ4を介して新たに映像信号が入力されると、RAMに記憶されていた4つの映像信号のうち、新たに入力される映像信号のみを更新する。制御信号2sまたはカメラ識別データに基づいて、選択映像信号12がどのカメラに対応するのかを識別できる。
選択部2が4つの映像信号11a〜11dのうちの1つを選択するため、ADC3、NTSCデコーダ4、RAM5はそれぞれ1つずつ設ければよい。
【0017】
視点射影変換部6は、例えばアフィン変換により、RAM5に記憶された4つの映像信号を車両50の上方から路面へ射影した映像信号にそれぞれ変換する。合成部7は射影された4つ映像信号を合成して、俯瞰画像(合成画像)を生成する。視点射影変換部6と合成部7は合成画像生成部を構成する。
【0018】
制御部8は、垂直同期信号(Vsync)検出部81と、制御信号生成部82とを有する。垂直同期信号検出部81は映像信号11a〜11dに重畳された垂直同期信号VsyncA〜VsyncDを検出する。制御信号生成部82は垂直同期信号VsyncA〜VsyncDから同期パルスを検出し、同期パルスが検出された順に映像信号11a〜11dを選択部2で選択するよう制御信号2sを生成する。
【0019】
制御部8はソフトウェアで構成してもよいし、ハードウェアで構成してもよい。この制御部8が本実施形態の特徴の1つであり、その処理動作については後述する。
【0020】
LCDコントローラ9は俯瞰画像をLCD10に表示するための信号に変換し、LCD10を駆動する。LCD10は図2の車両50内で運転手が見やすい位置に設置され、生成された俯瞰画像を表示する。
【0021】
図3は、映像信号11a〜11d、垂直同期信号VsyncA〜VsyncD、制御信号2s、選択映像信号12の一例を示すタイミング図である。図3の映像信号11a〜11dは同期パルスの間に画像データが挿入される。より具体的には、同図のロウパルス(負極性のパルス)が例えば60Hzの同期パルスであり、その間に奇数ラインまたは偶数ラインに対応する1フィールド分の画像データ(本実施形態では、輝度信号Yおよび色差信号Cb,Cr)が挿入される。垂直同期信号検出部81は、映像信号11a〜11dから垂直同期信号VsyncA〜VsyncDを分離し、制御信号生成部82に供給する。カメラ1a〜1dは非同期カメラであるため、垂直同期信号VsyncA〜VsyncDにおいて同期パルスが生成されるタイミングは一致しない。
【0022】
図4は、制御信号生成部82の処理動作の一例を示すフローチャートである。同図はカメラ1aを基準とし、フィールド単位で選択する映像信号を切り替える例を示している。図3および図4を用いて、画像処理装置30の処理動作を説明する。
【0023】
まず、制御信号生成部82はパラメータNを0に設定する(ステップS1)。次に、制御信号生成部82は基準となるカメラ1aから入力される垂直同期信号VsyncAに同期パルスが検出されるか否かを判断する(ステップS2)。制御信号生成部82は図3の時刻t1における垂直同期信号VsyncAの立ち上がりを同期パルスと判断する(ステップS2のYES)。そして、制御信号生成部82はこの同期パルスが検出された垂直同期信号VsyncAに対応する映像信号11aを選択すべきことを示す制御信号2sを生成する(ステップS3)。これにより、選択部2は映像信号11aを選択し、選択映像信号12として出力する。
【0024】
選択映像信号12は、ADC3およびNTSCデコーダ4の処理を経て、RAM5における映像信号11aに対応する領域に記憶される。既にカメラ1aから入力された映像信号が記憶されている場合は、新たな映像信号に更新される。その後、視点射影変換部6および合成部7により、既にRAM5に記憶されているカメラ1b〜1dから入力された映像信号と、新たにカメラ1aから入力された映像信号とを合成して俯瞰画像を生成する。この俯瞰画像はLCDコントローラ9を介してLCD10に表示される。
【0025】
俯瞰画像の生成に用いられるカメラ1b〜1dから入力される映像信号は、カメラ1aから入力される映像信号より古い。しかしながら、車両50が遅い速度で後進するような場合、古い映像と新しい映像信号との差異は小さいため、ほとんど問題になることはない。
【0026】
一方、制御信号生成部82は1フィールド分の映像信号11aの選択が完了したか否かを判断する(ステップS4)。時刻t2で垂直同期信号VsyncAが立ち下がると、制御信号生成部82は1フィールド分の映像信号11aの選択が完了したと判断する(ステップS4のYES)。そして、制御信号生成部82は映像信号11aの選択を停止すべきことを示す制御信号2sを生成する(ステップS5)。また、制御信号生成部82はパラメータNを1インクリメントし(ステップS6)、パラメータNを1に設定する。
【0027】
ここで、N=4ではないので(ステップS7のNO)、制御信号生成部82は垂直同期信号VsyncB〜VsyncDに同期パルスが検出されるか否かを判断する(ステップS8)。ここで、制御信号生成部82は既に選択したカメラ1aから入力される同期パルスを検出しない。すなわち、制御信号生成部82は、既にカメラ1aから入力される垂直同期信号VsyncAで同期パルスを検出しているため、図3の時刻t2’における垂直同期信号VsyncAの同期パルスを検出しない。
【0028】
一方、制御信号生成部82は時刻t3における垂直同期信号VsyncCの立ち上がりを同期パルスと判断する(ステップS8のYES)。そして、制御信号生成部82は映像信号11cを選択すべきことを示す制御信号2sを生成する(ステップS3)。これにより、選択部2は映像信号11cを選択し、選択映像信号12として出力する。その後のADC3以降の処理は上記と同様なので省略する。
【0029】
その後、時刻t4で垂直同期信号VsyncCが立ち下がると、制御信号生成部82は1フィールド分の映像信号11cの選択が完了したと判断し(ステップS4のYES)、制御信号生成部82は映像信号11cの選択を停止すべきことを示す制御信号2sを生成する(ステップS5)。また、制御信号生成部82はパラメータNを1インクリメントし(ステップS6)、パラメータNを2に設定する。
【0030】
ここで、N=4ではないので(ステップS7のNO)、ステップS8,S3〜S7の処理が繰り返される。すなわち、時刻t5〜t6で映像信号11dが選択され、パラメータNは3に設定される。その後、時刻t7〜t8で映像信号11bが選択され、パラメータNは4に設定される。
【0031】
N=4になると(ステップS7のYES)、映像信号の入力が続いていれば(ステップS9のYES)、ステップS1に戻り、制御信号生成部82はパラメータNを0に設定し(ステップS1)、基準となるカメラ1aから入力される垂直同期信号VsyncAに同期パルスが検出されるか否かを判断する(ステップS2)。時刻t9で同期パルスが検出されると(ステップS2のYES)、制御信号生成部82は再び映像信号11aを選択すべきことを示す制御信号2sを生成する。以降、上記の動作を繰り返す。
【0032】
このようにして、基準となるカメラ1aの5フィールド分の時間(時刻t1〜t9)で、全てのカメラ1a〜1dから入力される映像信号11a〜11dが選択され、制御信号生成部82の1サイクルの動作が完了する。
【0033】
図5は、制御部8を設けない場合の、映像信号11a〜11dと、映像信号12の一例を示すタイミング図である。制御部8がない場合、カメラ1a〜1dから入力される同期パルスの順序がわからないため、常に一定の順に映像信号11a〜11dを選択しなければならない。
【0034】
図5は、カメラ1a,1b,1c,1dの順に映像信号11a〜11dを選択する例を示したものである。時刻t2で映像信号11aの選択が完了した後、時刻t3より遅い時刻t11で垂直同期信号VsyncBに同期パルスが検出されるのを待って映像信号11bを選択を開始する。以下、映像信号11a〜11dをこの順に選択すると、全てのカメラ1a〜1dから入力される映像信号11a〜11dの選択が完了するまでに、図3より長い6フィールド分の時間(時刻t1〜t12)が必要となる。
【0035】
全ての映像信号11a〜11dの選択が完了するまでに必要な時間が長くなるほど、より古い映像信号を用いて俯瞰画像が生成される。カメラ1a〜1dは車両50に取り付けられており、車両50が移動すると映像信号も変化する。したがって、より古い映像信号を用いて俯瞰画像を生成すると、その品位が低下してしまう。本実施形態では、全ての映像信号11a〜11dを選択するのに要する時間を短縮できるため、俯瞰画像の品位を向上できる。
【0036】
このように、本実施形態では、非同期カメラ1a〜1dと、1つずつのADC3、NTSCデコーダ4およびRAM5により、低コストで画像処理システムを構成できる。また、制御部2を設け、同期パルスが検出された順に映像信号を自動的に選択するため、効率よく短時間で映像信号11a〜11dを選択でき、高品位な俯瞰画像を生成できる。
【0037】
なお、前記説明において俯瞰画像は新たな映像信号が更新される毎に生成されるが、4つの映像信号11a〜11dが全て更新されてから合成しても良い。これにより合成部2の処理を軽減できる。
【0038】
(第2の実施形態)
以下に説明する第2の実施形態は、基準となるカメラを設定せず、より簡易な処理で映像信号11a〜11dを選択するものである。
【0039】
図6は、映像信号11a〜11d、垂直同期信号VsyncA〜VsyncD、制御信号2s、選択映像信号12の一例を示すタイミング図であり、図7は、制御信号生成部82の処理動作の一例を示すフローチャートである。以下では、第1の実施形態と異なる部分を中心に説明する。
【0040】
まず、制御信号生成部82はパラメータNを0に設定する(ステップS1)。次に、任意の垂直同期信号VsyncA〜VsyncDに同期パルスが検出されるか否かを判断する(ステップS2’)。制御信号生成部82は図6の時刻t1における垂直同期信号VsyncAの立ち上がりを同期パルスと判断する(ステップS2’のYES)。そして、制御信号生成部82は映像信号11aを選択すべきことを示す制御信号2sを生成する(ステップS3)。これにより、選択部2は映像信号11aを選択し、選択映像信号12として出力する。
【0041】
その後、時刻t2で垂直同期信号VsyncAが立ち下がると、制御信号生成部82は1フィールド分の映像信号11aの選択が完了したと判断し(ステップS4のYES)、制御信号生成部82は映像信号11aの選択を停止すべきことを示す制御信号2sを生成する(ステップS5)。また、制御信号生成部82はパラメータNを1インクリメントし(ステップS6)、パラメータNを1に設定する。
【0042】
以下同様に、時刻t3〜t4で映像信号11cが選択され、時刻t5〜t6で映像信号11dが選択される。さらに、時刻t7〜t8で映像信号11bが選択され、パラメータNは4に設定される。
【0043】
ここで、N=4なので(ステップS7のYES)、ステップS1に戻り、制御信号生成部82はパラメータNを0に設定する(ステップS1)。次に、任意の垂直同期信号VsyncA〜VsyncDに同期パルスが検出されるか否かを判断する(ステップS2’)。
【0044】
図4の場合と異なり、N=0の場合、基準となるカメラから入力される垂直同期信号に限定せず、任意の垂直同期信号VsyncA〜VsyncDから同期パルスを検出する。そのため、制御信号生成部82は時刻t21における垂直同期信号VsyncBが立ち上がりを同期パルスと判断する(ステップS2’のYES)。そして、制御信号生成部82はこの同期パルスが検出された垂直同期信号VsyncBに対応する映像信号11bを選択すべきことを示す制御信号2sを生成する。以降の動作は第1の実施形態と同様である。
【0045】
図6に示すように、全てのカメラ1a〜1dから入力される映像信号11a〜11dの選択が完了するまでに要する1サイクルの時間は約4フィールド分(時刻t1〜t21)であり、次に選択する映像信号の同期パルスを早く検出できるので第1の実施形態よりさらに短縮できる。
【0046】
図8は、映像信号11a〜11dおよび選択映像信号12の別の一例を示すタイミング図である。垂直同期信号の周波数は厳密に60Hzに統一されているわけではなく、また、何らかの原因により一部のカメラのみ垂直同期信号が乱れることもある。その場合、同期パルスの位相がずれ、現れる順番が変化することもある。
【0047】
図8の期間T1では、カメラ1a,1c,1d,1bの順に同期パルスが現れる。一方、期間T2では、カメラ1a,1c,1b,1dの順に同期パルスが現れる。このように同期パルスが現れる順番が変化しても、制御部8は垂直同期信号パルスが検出された順に映像信号を自動的に選択するため、映像信号11a〜11dを選択するのに要する時間が長くなることはない。
【0048】
このように、第2の実施形態では、基準となるカメラを設定せずに、4つの映像信号11a〜11dを切り替えて選択する。そのため、第1の実施形態よりさらに短い時間で映像信号11a〜11dを選択でき、俯瞰画像の品位をより向上できる。
【0049】
(第3の実施形態)
第1および第2の実施形態では、1サイクル内に任意の4つの映像信号を選択する。これに対し、以下に説明する第3の実施形態は、選択された映像信号に対応する映像信号番号を内部メモリに記憶しておき、同一サイクル内では映像信号番号が記憶されていない映像信号を選択するものである。
【0050】
図9は、制御信号生成部82の処理動作の一例を示すフローチャートである。以下では、図6および図9を用いて、第2の実施形態と異なる部分を中心に説明する。制御信号生成部82はパラメータNを0に設定し、かつ、内部メモリ(不図示)に記憶された映像信号番号をクリアする。(ステップS1’)。この内部メモリは既に選択された映像信号に対応する映像信号番号(識別子)(11a〜11d)を記憶するものである。以下では、映像信号11a〜11dに対応する映像信号番号をそれぞれ「11a」〜「11d」とする。
【0051】
その後、図6の時刻t1でカメラ1aから入力される垂直同期信号VsyncAに同期パルスが検出される(ステップS2’のYES)。ここで、内部メモリは映像信号11a対応する映像信号番号「11a」を記憶していないので(ステップS21のYES)、制御信号生成部82は時刻t1〜t2で映像信号11aを選択すべきことを示す制御信号2sを生成する(ステップS3〜S5)。さらに、制御信号生成部82の内部メモリは映像信号番号「11a」を記憶する(ステップS22)。
【0052】
次に、制御信号生成部82はパラメータNを1インクリメントし(ステップS6)、パラメータNを1に設定する。N=4でないので(ステップS7のNO)、ステップS8に進む。時刻t3でカメラ1cから入力される垂直同期信号VsyncCに同期パルスが検出される(ステップS8のYES)。ここで、内部メモリは映像信号番号「11a」のみを記憶しており、「11c」は記憶していない(ステップS21のYES)。よって、制御信号生成部82は時刻t3〜t4で映像信号11cを選択すべきことを示す制御信号2sを生成する(ステップS3〜S5)。その後、内部メモリは映像信号番号「11c」をさらに記憶し、(ステップS22)パラメータNは2に設定される(ステップS6)。
【0053】
以降、同様の動作により、時刻t5〜t6で映像信号11dを選択するとともに、内部メモリは映像信号番号「11d」をさらに記憶し、パラメータNは3に設定される。また、時刻t7〜t8で映像信号11bを選択するとともに、内部メモリは映像信号番号「11b」をさらに記憶し、パラメータNは4に設定される。ここで、N=4なので(ステップS7のYES)、全てのカメラ1a〜1dから入力される映像信号11a〜11dの選択が完了し、映像信号が入力されていれば(ステップS9のYES)、ステップS1’に戻る。
【0054】
仮に、図6とは異なり、時刻t7でカメラ1aから入力される垂直同期信号VsyncAに同期パルスが検出されたとする(ステップS8)。各カメラ1a〜1dの垂直同期信号の周波数が厳密には一致していないため、このように同期パルスの順序が入れ換わることもあり得る。この場合、内部メモリは映像信号番号「11a」を既に記憶している(ステップS21のNO)。そのため、映像信号11aが選択されることはない。
【0055】
時刻t7で、内部メモリは映像信号番号「11a」、「11c」および「11d」を記憶しており、「11b」を記憶していない。そのため、VsyncBに同期パルスが検出されるまで、映像信号11a,11c,11dは新たに選択されない。
【0056】
このように、第3の実施形態では、既に選択した映像信号番号を記憶し、既に選択されたカメラから入力される映像信号を選択しないようにする。そのため、同期パルスの順序が入れ換わった場合でも、1サイクル内で4つのカメラ1a〜1dから入力される映像信号11a〜11dを、重複することなく確実に選択できる。そのため、各カメラ1a〜1dの垂直同期信号の周波数が厳密に一致していない場合でも、俯瞰画像の品位を向上できる。
【0057】
(第4の実施形態)
以下に説明する第4の実施形態は、第3の実施形態で説明した選択部2および制御信号生成部82の内部構成をより具体的に示すものである。
図10は、制御信号生成部82の内部構成の一例を示す概略ブロック図である。制御信号生成部82は、選択回路83a〜83dと、内部メモリ84a〜84dと、メモリクリア回路85と、タイミング制御回路86とを有する。
【0058】
選択回路83aは、垂直同期信号VsyncAと、タイミング制御信号Gateと、重複防止信号GateAとに基づいて、制御信号SelAを生成する。選択回路83b〜83dも同様である。制御信号SelA〜SelDは図1の制御信号2sに対応する。内部メモリ84aは制御信号SelAにより映像信号11aが選択されたことを記憶する。そして、1サイクル内で映像信号11aが重複して選択されないよう、選択防止信号GateAを生成する。内部メモリ84b〜84dも同様である。
【0059】
メモリクリア回路85は、制御信号SelA〜SelDにより全ての映像信号11a〜11dの選択が完了すると、内部メモリ84a〜84dに記憶された情報をクリアする。タイミング制御回路86は、制御信号SelA〜SelDに基づいて、1フィールド分の映像信号の選択が完了する前に制御信号SelA〜SelDが切り替わらないよう、タイミング制御信号Gateを生成する。
【0060】
図11は、制御信号生成部82のより詳細な内部構成の一例を示す回路ブロック図である。選択回路83a〜83dおよび内部メモリ84a〜84dはそれぞれ内部構成が同一であるので、以下では、代表して選択回路83aおよび内部メモリ84aについて説明する。
制御信号生成部82内の選択回路83aは、立ち上がり検出回路(RE DET)101aと、立ち下り検出回路(FE DET)102aと、OR回路103aと、フリップフロップ(FF)104aとを有する。
【0061】
立ち上がり検出回路101aは垂直同期信号VsyncAの立ち上がりに同期してロウパルスを生成し、OR回路103aに供給する。立ち下がり検出回路102aは垂直同期信号VsyncAの立ち下がりに同期してロウパルスを生成し、フリップフロップ104aのリセット端子Rに供給する。OR回路103aは、タイミング制御信号Gateと、重複防止信号GateAと、立ち上がり検出回路101aの出力信号との論理和演算を行い、その結果をフリップフロップ104aのセット端子Sに供給する。
【0062】
フリップフロップ104aはセット端子Sにロウパルスが供給されると出力端子Qから制御信号SelAをハイに設定し、リセット端子Rにロウパルスが供給されると制御信号SelAをロウに設定する。すなわち、タイミング制御信号Gateおよび重複防止信号GateAがともにロウである場合、垂直同期信号VsyncAの立ち上がりに同期してフリップフロップ104aは制御信号SelAをハイに設定する。また、垂直同期信号VsyncAの立ち下がりに同期してフリップフロップ104aは制御信号SelAをロウに設定する。
内部メモリ84aは、立ち上がり検出回路105aと、フリップフロップ106aとを有する。
【0063】
立ち上がり検出回路105aは制御信号SelAの立ち上がりに同期してロウパルスを生成し、フリップフロップ106aのセット端子Sに供給する。
フリップフロップ106aの動作はフリップフロップ104aと同様である。立ち上がり検出回路105aからセット端子Sにロウパルスが供給されると、フリップフロップ106aは出力端子Qから重複防止信号GateAをハイに設定する。これは、内部メモリ84aが映像信号番号「11a」を記憶することに対応する。また、リセット端子Rにメモリクリア回路85からロウパルスが供給されると、フリップフロップ106aは重複防止信号GateAをロウに設定する。これは、内部メモリ84aに記憶された映像信号番号「11a」をクリアすることに対応する。
【0064】
重複防止信号GateAは選択回路83a内のOR回路103aに供給される。よって、重複防止信号GateAがハイである期間では、OR回路103aの出力はハイに固定され、フリップフロップ104aのセット端子Sにロウパルスは生じない。したがって、重複防止信号GateAがハイに設定されると、制御信号SelAがハイに設定されることはない。
【0065】
メモリクリア回路85は、立ち下がり検出回路107a〜107dと、OR回路108と、カウンタ109と、カウンタクリア回路110とを有する。
立ち下がり検出回路107a〜107dはそれぞれ制御信号SelA〜SelDの立ち下がりに同期してハイパルスを生成する。OR回路108は立ち上がり検出回路107a〜107dの出力信号の論理和演算を行う。よって、制御信号SelA〜SelDのいずれかが立ち下がると、これに同期してOR回路108は出力信号CKにハイパルスを生成し、カウンタ109に供給する。
【0066】
カウンタ109はハイパルスが入力されるとカウント値Nを1インクリメントし、カウント値Nをカウンタクリア回路110に供給する。カウンタクリア回路110はカウント値Nが4になるとクリア信号CLRにロウパルスを生成する。このクリア信号CLRのロウパルスに同期して、カウンタ109はカウント値Nを0に設定する。また、クリア信号CLRは内部メモリ84a〜84d内のフリップフロップ106a〜106dにもそれぞれ供給される。クリア信号CLRのロウパルスに同期して、フリップフロップ106a〜106dは重複防止信号GateA〜GateDをロウに設定する。
【0067】
タイミング制御回路86はOR回路111を有する。OR回路111は制御信号SelA〜SelDの論理和演算を行い、タイミング制御信号Gateを生成する。タイミング制御信号Gateは選択回路83a〜83d内のOR回路103a〜103dに供給される。制御信号SelA〜SelDのいずれかがハイである期間では、OR回路111が生成するタイミング制御信号Gateはハイに固定され、フリップフロップ104aのセット端子Sにロウパルスは生じない。したがって、制御信号SelA〜SelDのいずれかがハイであり、1フィールド分の映像信号を選択している最中に制御信号SelA〜SelDが切り替わることはない。
【0068】
図12は、選択部2の内部構成の一例を示す概略ブロック図である。選択部2はスイッチSW1〜SW4を有する。各スイッチSW1〜SW4は制御信号SelA〜SelDがハイの場合はオンし、ロウの場合はオフする。
【0069】
図13は、選択部2および制御信号生成部82の各部の信号波形を示すタイミング図である。以下、図9のフローチャートと対応させながら、図11の制御信号生成部82および図12の選択部2の動作を詳しく説明する。
【0070】
時刻t30では、タイミング制御信号Gate、重複防止信号GateA〜GateD、制御信号SelA〜SelDはロウであり、カウント値Nは0であると仮定する(ステップS1’)。時刻t31で垂直同期信号SyncAが立ち下がると、立ち下がり検出回路102aはロウパルスを生成するが、フリップフロップ104aが生成する制御信号SelAはロウのままである。
【0071】
時刻t32で垂直同期信号SyncAが立ち上がると、立ち上がり検出回路101aはロウパルスを生成する(ステップS2’のYES)。OR回路103aに入力されるタイミング制御信号Gateおよび重複防止信号GateAはロウである(ステップ21のYESに対応)ので、OR回路103aもロウパルスを生成する。このロウパルスに同期して、フリップフロップ104aは制御信号SelAをハイに設定する(ステップS3)。そのため、スイッチSW1がオンして、映像信号11aが選択される。
【0072】
時刻t32で制御信号SelAが立ち上がると、立ち上がり検出回路105aはロウパルスを生成する。これにより、フリップフロップ106aは重複防止信号GateAをハイに設定する(ステップS22)。その結果、OR回路103aの出力はハイに設定される。
【0073】
一方、制御信号SelAがハイに設定されるため、OR回路111はタイミング制御信号Gateをハイに設定する。その結果、OR回路103b〜103dの出力はハイに設定される。例えば、時刻t33で垂直同期信号SyncCが立ち上がると、立ち上がり検出回路101cはロウパルスを生成する。しかしながら、OR回路103cはハイに固定されており、フリップフロップ104cのセット端子Sにロウパルスは生じない。よって、フリップフロップ104cは制御信号SelCをハイに設定しない。
【0074】
このように、制御信号SelA〜SelDのいずれかがハイである期間はOR回路111がタイミング制御信号Gateをハイに設定する。そのため、制御信号SelA〜SelDのうちの2つ以上がハイに設定されたり、1フィールド分の映像信号が完了する前に制御信号が切り替わったりすることはない。
【0075】
時刻t34で垂直同期信号SyncAが立ち下がると、立ち下がり検出回路102aはロウパルスを生成する(ステップS4のYES)。このロウパルスに同期して、フリップフロップ104aは制御信号SelAをロウに設定する(ステップS5)。これにより、1フィールド分の映像信号11aの選択が完了する。
【0076】
時刻t34で制御信号SelAが立ち下がると、メモリクリア回路85内の立ち下がり検出回路107aはハイパルスを生成する。他の立ち下がり検出回路107b〜107dの出力はロウなので、OR回路108は、立ち下がり検出回路107aのハイパルスに同期して、出力信号CKにハイパルスを生成する。これにより、カウンタ109はカウント値を1インクリメントし(ステップS6)、Nを1に設定する。以下、選択回路83b〜83dの動作は選択回路83aと同様なので、簡略化して説明する。
【0077】
時刻t35で垂直同期信号SyncCが立ち上がると、フリップフロップ104cは制御信号SelCをハイに設定する。さらに、時刻t36で垂直同期信号SyncCが立ち下がると、フリップフロップ104cは制御信号SelCをロウに設定する。制御信号SelCの立ち下がりに同期して、カウンタ109はカウント値Nを1インクリメントし、Nを2に設定する。
【0078】
時刻t37で垂直同期信号SyncDが立ち上がると、フリップフロップ104dは制御信号SelDをハイに設定する。さらに、時刻t38で垂直同期信号SyncDが立ち上がると、フリップフロップ104dは制御信号SelDをロウに設定する。制御信号SelDの立ち下がりに同期して、カウンタ109はカウント値Nを1インクリメントし、Nを3に設定する。
【0079】
時刻t39で垂直同期信号SyncBが立ち上がると、フリップフロップ104bは制御信号SelBをハイに設定する。さらに、時刻t40で垂直同期信号SyncBが立ち上がると、フリップフロップ104bは制御信号SelBをロウに設定する。制御信号SelBの立ち下がりに同期して、カウンタ109はカウント値Nを1インクリメントし、Nを4に設定する。
【0080】
カウント値Nが4になったので(ステップS7のYES)、カウンタクリア回路110はクリア信号CLRにロウパルスを生成する。このロウパルスに同期して、フリップフロップ106a〜フリップフロップ106dは重複防止信号GateA〜GateDをロウに設定し、カウンタ109はカウント値Nを0に設定する(ステップS1’)。以上で、4つのカメラ1a〜1dから入力される全ての映像信号11a〜11dが選択され、1サイクルの動作が完了する。
【0081】
ここで、重複防止信号GateA〜GateDは、1サイクル内で同一のカメラから入力される映像信号を重複して選択しないよう、フリップフロップ104a〜104dを制御する。例えば、時刻t32以降、重複防止信号GateAはハイに設定される。このとき、仮に図13とは異なり、時刻t37でカメラ1aから入力される垂直同期信号VsyncAが立ち上がったとする。この場合、選択回路83a内の立ち上がり検出回路101aはロウパルスを生成する。ところが、重複防止信号GateAがハイである(ステップS21のNO)ため、OR回路103aの出力はハイに固定されており、ロウパルスを生成しない。よって、フリップフロップ104aは制御信号SelAをハイに設定せず、映像信号11aが選択されることはない。
【0082】
図13に示すように、時刻t37では重複防止信号GateA,GateC,GateDがハイであるため、カメラ1bから入力される垂直同期信号VsyncBに同期パルスが検出されるまで、他のカメラ1a,1c,1dから入力される映像信号11a,11c,11dは選択されない。
【0083】
このように、第4の実施形態では、内部メモリ84aは映像信号11aを選択したことを記憶し、その後同一サイクル内では映像信号11aを選択しないよう、制御信号SelAを生成するフリップフロップ104aへの入力信号を固定する。そのため、同期パルスの順序が入れ換わった場合でも、1サイクル内で4つのカメラ1a〜1dから入力される映像信号11a〜11dを、重複することなく確実に選択できる。また、タイミング制御回路86により、1フィールド分の映像信号が完了するまでは、制御信号SelA〜SelDを生成するフリップフロップ104a〜104dへの入力信号を固定する。そのため、1フィールド分の映像信号の選択が完了する前に制御信号SelA〜SelDが切り替わることはない。
【0084】
(第5の実施形態)
以上に説明した第1〜第4の実施形態はフィールド単位で選択する映像信号を切り替えるものであった。これに対し、以下に説明する第5の実施形態は、映像信号をフィールド単位で切り替えるかフレーム単位で切り替えかを選択できるものである。
【0085】
図14は、映像信号11a〜11d、垂直同期信号VsyncA〜VsyncD、制御信号2s、選択映像信号12の一例を示すタイミング図であり、図15は、制御信号生成部82の処理動作の一例を示すフローチャートである。以下では、第3の実施形態の図9と異なる部分を中心に説明する。
【0086】
まず、フレーム単位で切り替える場合を説明する。なお、フレームとは、連続する2つのフィールド、すなわち、奇数ラインに対応するフィールドおよび偶数ラインに対応するフィールドにより構成されるものである。フレーム単位で切り替える場合、図1の制御部8には、外部からフレーム単位で切り替えることを示す信号(不図示)が入力される。
【0087】
図14の時刻t41でカメラ1aから入力される垂直同期信号VsyncAに同期パルスが検出される(ステップS2’のYES)。ここで、内部メモリは映像信号番号「11a」を記憶していない(ステップS21のYES)ので、制御信号生成部82は時刻t41で映像信号11aを選択すべきことを示す制御信号2sを生成する(ステップS3)。ここで、時刻t41での映像信号11aは奇数ラインおよび偶数ラインのどちらに対応するフィールドであっても構わない。
【0088】
フレーム単位で映像信号11aを選択する場合(ステップS31のNO)、時刻t42で垂直同期信号VsyncAが立ち下がると、1フィールド目の選択が完了する(ステップS32のYES)。続いて、時刻t43で垂直同期信号VsyncAが立ち下がると、2フィールド目の選択が完了する(ステップS4のYES、ステップS5)。このように、奇数ラインであるか偶数ラインであるかを問わず、先に入力されるフィールドから選択することで、1フレームの選択に要する時間を短縮できる。
【0089】
制御信号生成部82は、1フレーム、すなわち2フィールドの選択を完了すると、映像信号番号「11a」を内部メモリに記憶する(ステップS22)。以下、同様の処理動作により選択部2はフレーム単位で映像信号を切り替えることができる。
【0090】
一方、フィールド単位で切り替える場合、図1の制御部8には、外部からフィールド単位で切り替えることを示す信号(不図示)が入力される。この場合、ステップS32の処理を行わず、1フィールド分の映像信号の選択が完了すると、制御信号生成部は選択を停止する(ステップS5)。よって、図9と同様の処理フローとなり、フィールド単位で映像信号を切り替えることができる。
【0091】
カメラ1a〜1dが取り付けられる図2の車両50の速度が速い場合、時間の経過と共に映像信号が大きく変化する。よって、できる限り早くカメラ1a〜1dから入力される映像信号11a〜11dを切り替えた方がよい。そのため、車両50の速度が速い場合はフィールド単位で映像信号を切り替えるのがよい。
【0092】
一方、速度が遅い場合、時間が経過しても映像信号の変化は小さい。よって、フレーム単位で映像信号を切り替えてもよい。フレームはフィールドに比べて垂直方向の解像度が2倍であるため、より高品位の俯瞰画像を生成できる。
したがって、車両50の速度が所定値より速い場合はフィールド単位で映像信号を切り替え、遅い場合はフレーム単位で映像信号を切り替えるようにしてもよい。手動でこの切り替えを行ってもよいし、車両50の車速パルス信号(不図示)を用いて速度を判断し、自動で切り替えを行ってもよい。
【0093】
このように、第5の実施形態ではフレーム単位で映像信号を切り替えることもできる。よって、特に車両50の速度が遅い場合にフレーム単位で映像信号を切り替えることにより、俯瞰画像の品位をさらに向上できる。
【0094】
なお、上述した各実施形態では、映像信号11a〜11dがコンポジットビデオ信号である例を示したが、映像信号11a〜11dはその他のフォーマットの信号でもよい。例えば、垂直同期信号と画像データが予め分離された信号であってもよく、この場合は図1の垂直同期信号検出部81を設けず、垂直同期信号を直接制御信号生成部82に入力すればよい。映像信号11a〜11dはデジタル信号でもよく、この場合はADC3は不要である。また、NTSCデコーダ4に代えて、PALデコーダまたはSECAMデコーダを用いて、NTSCとは異なる形式に映像信号をデコードしてもよい。また、カメラから入力される映像信号の数は4つに限られない。
【0095】
上述した実施形態で説明した画像処理システムの少なくとも一部は、ハードウェアで構成してもよいし、ソフトウェアで構成してもよい。ソフトウェアで構成する場合には、画像処理システムの少なくとも一部の機能を実現するプログラムをフレキシブルディスクやCD−ROM等の記録媒体に収納し、コンピュータに読み込ませて実行させてもよい。記録媒体は、磁気ディスクや光ディスク等の着脱可能なものに限定されず、ハードディスク装置やメモリなどの固定型の記録媒体でもよい。また、画像処理システムの少なくとも一部の機能を実現するプログラムを、インターネット等の通信回線(無線通信も含む)を介して頒布してもよい。さらに、同プログラムを暗号化したり、変調をかけたり、圧縮した状態で、インターネット等の有線回線や無線回線を介して、あるいは記録媒体に収納して頒布してもよい。
【0096】
上記の記載に基づいて、当業者であれば、本発明の追加の効果や種々の変形を想到できるかもしれないが、本発明の態様は、上述した個々の実施形態には限定されるものではない。特許請求の範囲に規定された内容およびその均等物から導き出される本発明の概念的な思想と趣旨を逸脱しない範囲で種々の追加、変更および部分的削除が可能である。
【符号の説明】
【0097】
1a〜1d カメラ
2 選択部
3 ADC
4 NTSCデコーダ
5 RAM
6 視点射影変換部
7 合成部
8 制御部
81 垂直同期信号検出部
82 制御信号生成部
【特許請求の範囲】
【請求項1】
複数の映像信号のそれぞれに含まれる垂直同期信号から同期パルスを検出し、前記同期パルスが検出された前記映像信号を順繰りに所定期間選択することを示す制御信号を生成する制御信号生成部と、
前記制御信号に応じて、前記複数の映像信号のうちの1つを選択する選択部と、
前記選択された映像信号を、複数の領域のうち前記選択された映像信号に対応する領域に所定の形式で記憶する記憶部と、
前記複数の領域に記憶される映像信号を合成して合成画像を生成する合成画像生成部と、を備えることを特徴とする画像処理装置。
【請求項2】
前記制御信号生成部は、選択された映像信号に対応する識別子を記憶し、前記同期パルスが検出された前記映像信号に対応する識別子が記憶されている場合には、この映像信号を選択しないよう、前記制御信号を生成することを特徴とする請求項1に記載の画像処理装置。
【請求項3】
前記所定期間は、前記同期パルスが検出された前記映像信号の1フィールドまたは1フレームに対応する期間であることを特徴とする請求項1または2に記載の画像処理装置。
【請求項4】
前記記憶部は、前記制御信号に基づいて前記選択された映像信号に対応する領域を識別して、前記映像信号を記憶することを特徴とする請求項1乃至3のいずれかに記載の画像処理装置。
【請求項5】
複数のカメラと、
前記複数のカメラから入力される複数の映像信号のそれぞれに含まれる垂直同期信号から同期パルスを検出し、前記同期パルスが検出された前記映像信号を順繰りに所定期間選択することを示す制御信号を生成する制御信号生成部と、
前記制御信号に応じて、前記複数の映像信号のうちの1つを選択する選択部と、
前記選択された映像信号を、複数の領域のうち前記選択された映像信号に対応する領域に所定の形式で記憶する記憶部と、
前記複数の領域に記憶される映像信号を合成して合成画像を生成する合成画像生成部と、を備えることを特徴とする画像処理システム。
【請求項1】
複数の映像信号のそれぞれに含まれる垂直同期信号から同期パルスを検出し、前記同期パルスが検出された前記映像信号を順繰りに所定期間選択することを示す制御信号を生成する制御信号生成部と、
前記制御信号に応じて、前記複数の映像信号のうちの1つを選択する選択部と、
前記選択された映像信号を、複数の領域のうち前記選択された映像信号に対応する領域に所定の形式で記憶する記憶部と、
前記複数の領域に記憶される映像信号を合成して合成画像を生成する合成画像生成部と、を備えることを特徴とする画像処理装置。
【請求項2】
前記制御信号生成部は、選択された映像信号に対応する識別子を記憶し、前記同期パルスが検出された前記映像信号に対応する識別子が記憶されている場合には、この映像信号を選択しないよう、前記制御信号を生成することを特徴とする請求項1に記載の画像処理装置。
【請求項3】
前記所定期間は、前記同期パルスが検出された前記映像信号の1フィールドまたは1フレームに対応する期間であることを特徴とする請求項1または2に記載の画像処理装置。
【請求項4】
前記記憶部は、前記制御信号に基づいて前記選択された映像信号に対応する領域を識別して、前記映像信号を記憶することを特徴とする請求項1乃至3のいずれかに記載の画像処理装置。
【請求項5】
複数のカメラと、
前記複数のカメラから入力される複数の映像信号のそれぞれに含まれる垂直同期信号から同期パルスを検出し、前記同期パルスが検出された前記映像信号を順繰りに所定期間選択することを示す制御信号を生成する制御信号生成部と、
前記制御信号に応じて、前記複数の映像信号のうちの1つを選択する選択部と、
前記選択された映像信号を、複数の領域のうち前記選択された映像信号に対応する領域に所定の形式で記憶する記憶部と、
前記複数の領域に記憶される映像信号を合成して合成画像を生成する合成画像生成部と、を備えることを特徴とする画像処理システム。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【公開番号】特開2011−199735(P2011−199735A)
【公開日】平成23年10月6日(2011.10.6)
【国際特許分類】
【出願番号】特願2010−66162(P2010−66162)
【出願日】平成22年3月23日(2010.3.23)
【出願人】(000003078)株式会社東芝 (54,554)
【Fターム(参考)】
【公開日】平成23年10月6日(2011.10.6)
【国際特許分類】
【出願日】平成22年3月23日(2010.3.23)
【出願人】(000003078)株式会社東芝 (54,554)
【Fターム(参考)】
[ Back to top ]