説明

撮像表示システム

【課題】撮像表示システムにおいて、カメラの数が増加しても、ハードウェアの構成の規模が大幅に増大するのを防止する。
【解決手段】撮像表示システム(100)に用いられるCMOSカメラ部11は、景色V1が投影されるCMOSイメージセンサ11aと、CMOSイメージセンサ11aの撮像素子のうち任意の撮像素子から像信号を読み出すタイミング発生器11bと、画質を調整する画質調整部およびビデオ信号形式でエンコードするNTSCエンコーダを有するカメラ信号処理部11cと、CMOSイメージセンサ11aに投影された元の像G1からモニタ部30に表示しようとする俯瞰像G1′への像変形の位置関係を、俯瞰像G1′を基準として規定するマッピングテーブルが記憶されたメモリ11dとを備え、タイミング発生器11bは、マッピングテーブルにより特定される撮像素子から像信号を読み出す。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、撮像表示システムに関し、詳細には、カメラで得られた像を変形して表示する撮像表示システムに関する。
【背景技術】
【0002】
ナビゲーションシステムの普及等により、像を表示するモニタを備えた車両が増えている。加えて、カメラの低価格化により、映像を利用した、駐車支援をはじめとする安全運転支援システムの開発・普及も進展している。
【0003】
その代表的な例として、例えば、車両の後部や両側部、前部などにカメラを設置し、このカメラで得られた車両の周囲の像を車室内に設置されたモニタに表示することで、運転者から死角となる車両周囲の様子を、車室内で視認可能としたシステムがある。
【0004】
このシステムでは、各カメラによりそれぞれ得られたビデオ信号(例えば、NTSCでエンコードされた信号)を信号合成処理装置に入力し、この信号合成処理装置で一旦デコードし、デコードして得られた各ビデオ信号が表す像の信号に対して、撮像対象の真上に設置された仮想カメラで得られると想定される像(俯瞰像)となるように像変形の処理を施し、得られた各俯瞰像の大きさを揃え、位置を整合させて、単一の俯瞰像に合成する信号処理(画像処理)を施し、得られた単一の俯瞰像を、再び所定規格のビデオ信号にエンコードした後にモニタに出力している。
【0005】
これにより、車両を含めた車両周囲の広い範囲を、車両の真上から視たときに得られると想定される俯瞰像としてモニタに表示することができるため、運転者等乗員は、自車周囲の他車や障害物等に対する自車の客観的な位置関係を、素早く的確に把握することができる。
【0006】
ここで、俯瞰像への変換処理の内容は、元の像から変換後の俯瞰像への像変形の位置関係を規定するマッピングテーブルにより特定される。
【0007】
カメラの近くの物体の像はカメラから遠い物体の像よりも大きなサイズの像となるが、これを俯瞰像に変換すると、カメラからの距離の大小に拘わらず、現実の物体のサイズで表現されるため、マッピングデータは、例えば、カメラから遠い物体の像に対しては、画素間隔を広げて補間データを生成する(像の拡大)ようなマッピングデータが適用され、カメラに近い物体の像に対しては、画素を間引きしたうえで、画素間隔を他の画素間隔と揃える(像の縮小)ようなマッピングデータを適用している(特許文献1,2)。
【特許文献1】特開2002−354468号公報
【特許文献2】特開2006−048451号公報
【発明の開示】
【発明が解決しようとする課題】
【0008】
ところで、このようにカメラで撮像してモニタに表示するシステム(撮像表示システム)では、カメラの設置位置等の差異により各カメラに投影される像が互いに異なるため、信号合成処理装置にカメラと同じ数のデコード部および同じ数のマッピングデータを備える必要がある。
【0009】
そして、それらの設けられた複数のマッピングデータは互いに相違するものであるため、マッピングデータに基づいて俯瞰像に変換処理する俯瞰像処理部もカメラと同数だけ必要となり、信号合成処理装置のハードウェアの構成の規模が大きくなり、コスト面でも不利となる。
【0010】
そして、カメラの設置数が今後さらに増えると、ハードウェア構成の規模の拡大はさらに顕著となる。
【0011】
また、略リアルタイムでの処理が要求されるため処理の高速化は必須であるが、ハードウェア構成の規模が大きくなるにしたがって、高速化に伴う発熱も大きくなり、信頼性の観点から発熱量を抑制することが求められる。
【0012】
本発明は上記事情に鑑みなされたもので、カメラの数が増加しても、ハードウェアの構成の規模が大幅に拡大するのを防止することができる撮像表示システムを提供することを目的とする。
【課題を解決するための手段】
【0013】
本発明に係る撮像表示システムは、カメラ部ごとにマッピングデータを備え、CMOSイメージセンサから像信号を読み出す駆動回路が、マッピングデータに対応した撮像素子から像信号を読み出すことにより、カメラの数が増加しても、ハードウェアの構成上は、その当該カメラの数の増加だけにとどめるものである。
【0014】
すなわち、本発明に係る撮像表示システムは、CMOSイメージセンサ(結像光学系を含むものであってもよい。)と、前記CMOSイメージセンサの撮像素子のうち任意の撮像素子から像信号を読み出す駆動回路と、前記駆動回路によって読み出された像信号を、所定の規格のビデオ信号形式でエンコードして出力するカメラ信号処理部とを有するCMOSカメラ部、および前記CMOSカメラ部から出力された前記ビデオ信号に基づいて像を表示する表示部を備えた撮像表示システムにおいて、前記CMOSイメージセンサに投影された元の像から前記表示部に表示しようとする像への像変形の対応関係を、該表示部に表示しようとする像を基準として規定するマッピングテーブルを、前記CMOSカメラ部に備え、前記駆動回路は、前記マッピングテーブルにより規定される撮像素子から前記像信号を読み出すものであることを特徴とする。
【0015】
ここで、駆動回路は、CMOSイメージセンサの任意の撮像素子から像信号を読み出すことができるものである。
【0016】
所定の規格のビデオ信号形式とは、例えばNTSC形式やPAL形式等、信号を可視像として表示部に表示するために満たすべき信号形式を意味する。NTSC形式やPAL形式に限定するものではなく、現在用いられ、または将来用いられることがある各種の信号形式を適用することができる。
【0017】
このように構成された撮像表示システムによれば、イメージセンサとしてCMOSイメージセンサを用いているため、任意の撮像素子から像信号を読み出すことができる。したがって、駆動回路は、マッピングテーブルのデータにより規定される撮像素子から像信号を読み出すことができる。
【0018】
ここで、マッピングテーブルのデータを、CMOSイメージセンサに投影された元の像から表示部に表示しようとする像への像変形の対応関係(主として位置関係)を、該表示部に表示しようとする像を基準として規定するマッピングテーブルに設定しておくことで、カメラ部から像信号を読み出した時点で既に、変形後の像を表す信号を得ることができる。
【0019】
この場合、マッピングテーブルは、CMOSカメラ部内に備えられるため、従来のように、像変形を担う画像処理部を別途設ける必要がない。つまり、CMOSカメラ部内で独立して像変形を完結することができる。
【0020】
したがって、カメラ部の数が増加しても、ハードウェアの構成は、カメラ部の増加だけにとどめることができ、構成規模の大幅な拡大を防止することができる。よって、コストの上昇を緩和することもでき、また、処理の高速化による発熱増大の程度も緩和して信頼性を向上させることができる。
【発明の効果】
【0021】
本発明に係る撮像表示システムによれば、カメラ部の数が増加しても、ハードウェアの構成の規模が大幅に増大するのを防止することができる。
【発明を実施するための最良の形態】
【0022】
以下、本発明に係る撮像表示システムの実施形態について、図面を用いて説明する。
【0023】
本発明の一実施形態に係る撮像表示システム100は、図1のブロック図および図2の模式図に示すように、例えば車両200に搭載されて、駐車支援システムや安全運転支援システムなどに用いられ、車両200の後部、前部、両側部にそれぞれ設置されたCMOSカメラ部11,12,13,14と、像を表示するモニタ部30(表示部)と、各CMOSカメラ部11,12,13,14により得られた4つの像を単一の像に合成する合成処理部20(信号合成処理部)とを備えた構成である。
【0024】
ここで、モニタ部30は、車両200に既設のカーナビゲーションシステム等で用いられているモニタを利用してもよい。
【0025】
また、車両200の後部に設置されたCMOSカメラ部11は、車両200の後方の路面を含む景色V1が投影されるように、車両200の前部に設置されたCMOSカメラ部12は、車両200の前方の路面を含む景色V2が投影されるように、車両200の左側部(例えば左サイドミラー下部)に設置されたCMOSカメラ部13は、車両200の左方の路面を含む景色V3が投影されるように、車両200の右側部(例えば右サイドミラー下部)に設置されたCMOSカメラ部14は、車両200の右方の路面を含む景色V4が投影されるように、それぞれ設置されている。
【0026】
そして、後部設置のCMOSカメラ部11に投影される景色V1および左側部設置のCMOSカメラ部13に投影される景色V3には、車両200の左後方の景色の一部V13が共通して含まれている。
【0027】
同様に、後部設置のCMOSカメラ部11に投影される景色V1および右側部設置のCMOSカメラ部14に投影される景色V4には、車両200の右後方の景色の一部V14が共通して含まれ、前部設置のCMOSカメラ部12に投影される景色V2および左側部設置のCMOSカメラ部13に投影される景色V3には、車両200の左前方の景色の一部V23が共通して含まれ、前部設置のCMOSカメラ部12に投影される景色V2および右側部設置のCMOSカメラ部14に投影される景色V4には、車両200の右前方の景色の一部V24が共通して含まれる。
【0028】
なお、このように、2つのCMOSカメラ部で、景色の一部が共通して投影されるように設定されているのは、合成処理部20により各CMOSカメラ部11,12,13,14で得られた4つの像を単一の像に合成する際に、この共通した景色V13,V14,V23,V24の像を重ね合わせることで、位置関係を対応させやすくすることができて利便性が高いためであるが、合成する4つの像の位置関係が予め精密に設定されている場合には、そのような位置関係の目安である共通する像部分を設ける必要がないため、隣接する2つのCMOSカメラ部間で景色Vの一部を共有させる必要はない。
【0029】
各CMOSカメラ部11,12,13,14は、互いに同じ構成であり、代表として後部に設置されたCMOSカメラ部11は、例えば図3に示すように、後方の景色V1の像G1が投影される2次元CMOSイメージセンサ(結像光学系を含む)11aと、CMOSイメージセンサ11aを構成するマトリックス状に配列された撮像素子(画素)のうち任意の撮像素子から像信号を読み出すタイミング発生器11b(駆動回路)と、タイミング発生器11bによってCMOSイメージセンサ11aから読み出された像信号に対して、ダイナミックレンジ調整やガンマ補正等の画質を調整する画質調整部および画質調整後の像信号を所定の規格のビデオ信号(映像信号)形式でエンコードして出力するNTSCエンコーダを有するカメラ信号処理部11cと、CMOSイメージセンサ11aに投影された元の像G1(車両200の後方の景色V1の像)からモニタ部30に表示しようとする像G1′への像変形の位置関係を、モニタ部30に表示しようとする像G1′を基準として規定するマッピングテーブルが記憶されたメモリ11dとを備え、タイミング発生器11bは、メモリ11dに記憶されたマッピングテーブルにより特定される撮像素子から像信号を読み出すものである。
【0030】
他のCMOSカメラ部12〜14の詳しい構成は、車両200に設置される部位および向きの差異に応じて各CMOSイメージセンサに投影される景色V2〜V4が異なる以外は、上記CMOSカメラ部11と同じ構成である。
【0031】
カメラ信号処理部11cによる所定の規格のビデオ信号としては、本実施形態では例えば、画質調整後の像信号に、タイミング発生器11bの読出しタイミングの信号に基づく映像同期信号を加えたNTSC(アナログ映像の場合)等のビデオ信号を適用し、上記エンコード部としてNTSCエンコーダを適用しているが、本発明に係る撮像表示システムでは、NTSCのビデオ信号に限定されるものではなく、PAL(アナログ映像)のビデオ信号や、デジタル映像向けのビデオ信号等種々の規格のビデオ信号を適用することができる。
【0032】
CMOSイメージセンサ11aに投影された元の像G1(CMOSカメラ部11に距離が近い物体(景色)の像は大きく、CMOSカメラ部11から距離が遠い物体(景色)の像は小さい、という特徴の像)からモニタ部30に表示しようとする像への像変形としては、例えば、俯瞰像への変形を適用することができる。
【0033】
俯瞰像G1′は、車両200を含めた車両200の周囲の広い範囲の景色V1を、車両200の真上から視たときに得られると想定される仮想の平面視の像であり、例えば図4(1)に示したCMOSカメラ部11に投影された元の像G1(路面に駐車区画を示すラインL1,L2,L3,…が表示された駐車場の像)を俯瞰像G1′に像変形すると、俯瞰像G1′は同図(2)に示すように、ラインL1,L2が、現実の物体としての駐車場におけるラインL1,L2と同様に、平行な状態で表示される。
【0034】
なお、符号201は、車両200の後端部の一部(例えば、リヤバンパの一部)を示す。また、符号Bは、CMOSイメージセンサ11aの撮像範囲外であるため対応する像信号が存在しないが、当該部もモニタ部30に表示させる必要があるため、像信号として例えば輝度値0が与えられた範囲(マスキング領域)を示す。
【0035】
CMOSイメージセンサ11aに投影された元の像G1(図4(1))からモニタ部30に表示しようとする俯瞰像G1′(同図(2))への像変形の位置関係を、モニタ部30に表示しようとする像を基準として規定するマッピングテーブルは、図5(2)に示した俯瞰像G1′の座標系P′の各画素P′(x,y)が、図5(1)に示した元の像G1の座標系P(CMOSイメージセンサ11aの撮像素子の配列に一致または対応している座標系)の、いずれの画素P(x,y)に対応しているかを規定したものである。
【0036】
すなわち、俯瞰像G1′におけるラインL1とラインL3との交点に対応する画素P′(6,2)は、元の像G1の画素P(8,3)に対応しており、俯瞰像G1′におけるラインL2とラインL3との交点に対応する画素P′(16,2)は、元の像G1の画素P(13,2)に対応している。
【0037】
同様に、俯瞰像G1′における画素P′(6,13)は、元の像G1の画素P(1,12)に対応しており、俯瞰像G1′における画素P′(16,13)は、元の像G1の画素P(20,11)に対応し、俯瞰像G1′における各画素P′(x,y)(x=1,2,…、y=1,2,…)は、元の像G1のいずれかの画素P(x,y)に対応付けられている。
【0038】
ただし、マスキング領域Bの画素P′(x,y)については、元の像G1の範囲外であるため対応画素は存在せず、したがって元の像G1のいずれの画素P(x,y)にも対応付けられていない。
【0039】
ここで、俯瞰像G1′を表す像信号は、読み出された後にカメラ信号処理部11cのNTSCエンコーダでNTSCのビデオ信号にエンコードされるため、俯瞰像G1′における座標系P′のy軸方向の画素数は、NTSCビデオ信号の走査ライン数(垂直方向)に対応している。
【0040】
また、俯瞰像G1′における座標系P′のx軸方向は、NTSCビデオ信号の走査ラインに沿った方向(略水平方向)に対応しているが、NTSCビデオ信号はアナログ信号であるため、x軸方向の画素数に制限はないものの、通常放送信号のアスペクト比4:3(横(x軸):縦(y軸))またはハイビジョン放送信号のアスペクト比16:9(横(x軸):縦(y軸))と同程度を目安として設定すればよい。
【0041】
ここで、図5(2)に示した俯瞰像G1′は、そのような画素数に設定されていないが、同図は、図面の記載内容が過度に煩雑になるのを防止するために簡略化したものであり、実施に際しては、上述したアスペクト比やモニタ部30の表示画素数も考慮して、適切な画素数に設定すればよい。
【0042】
ところで、従来の撮像表示システムにおいては、カメラ部のイメージセンサは、それがCCDイメージセンサであるかCMOSイメージセンサであるかに拘わらず、エンコードされるビデオ信号がNTSCの場合、例えば横640画素×縦480画素(全体で約30万画素)または横720画素×縦480画素(全体で約35万画素)など、画素数が比較的小さいものが用いられている。
【0043】
これは、イメージセンサに投影された像(本発明における元の像に相当)をそのまま表す像信号としてNTSC等のビデオ信号にエンコードしてカメラ部から出力されているため、ビデオ信号の規格(1画面(フレーム)を形成する画素数(走査線の数などに基づく))を超えるスペックのイメージセンサを用いるのは過剰スペックで無駄だからである。
【0044】
一方、本実施形態の撮像表示システム100においても、各カメラ部11〜14でNTSC等のビデオ信号にエンコードされるが、このエンコードされる像信号は、CMOSイメージセンサ11a(カメラ部11の場合)に投影された像(元の像G1)をそのまま表す像信号ではなく、マッピングテーブルのデータに基づく読出しで変形された後の像(表示しようとする像=俯瞰像G1′)を表す像信号であるため、この俯瞰像G1′の座標系P′における画素P′(x,y)のうちには、元の像G1の座標系Pにおける対応画素P(x,y)が存在しない場合もある。
【0045】
例えば、図5(2)に示した俯瞰像G1′の座標系P′における画素P′(6,2)と画素P′(16,2)とは、x軸方向10画素およびy軸方向0画素だけ離れており、これら両画素P′(6,2)、P′(16,2)の間には、両画素P′(6,2)、P′(16,2)を含めて11個の画素が存在する。
【0046】
しかし、この俯瞰像G1′の基となっている図5(1)に示した元の像G1には、画素P′(6,2)に対応する画素P(8,3)とP′(16,2)に対応する画素P(13,2)とは、x軸方向5画素およびy軸方向1画素だけ離れているが、俯瞰像G1′の画素P′(6,2)と画素P′(16,2)との間に存在する15個の画素P′(7,2)、P′(8,2)、…、P′(15,2)に直接対応する元の像G1の画素P(x,y)が存在しないことになる。
【0047】
そこで、本実施形態の撮像表示システム100では、対応する画素P(xm ,yn )が存在しない当該画素P′(xi ,yj )に対しては、最近傍補間と同じ原理で、当該画素P′(xi ,yj )に隣接する画素P′(xi-1 ,yj)またはP′(xi ,yj-1 )が対応する画素P(xp ,yq )と同じ画素を対応付ければよい。例えば、
画素P′(6,2)に対して画素P(8,3)、
画素P′(7,2)に対して画素P(9,3)、
画素P′(8,2)に対しても画素P(9,3)、
画素P′(9,2)に対して画素P(10,3)、
画素P′(10,2)に対しても画素P(11,3)、
画素P′(11,2)に対して画素P(11,3)
画素P′(12,2)に対しても画素P(11,3)、
画素P′(13,2)に対して画素P(12,3)、
画素P′(14,2)に対しても画素P(12,3)、
画素P′(15,2)に対して画素P(12,3)、
画素P′(16,2)に対して画素P(13,2)
というように対応付ければよく、メモリ11dに記憶されているマッピングテーブルには、俯瞰像G1′の各画素P′(x,y)ごとに、上述した元の像G1における対応画素P(x,y)が規定されている。
【0048】
そして、タイミング発生器11bが、メモリ11dに記憶されたこのマッピングテーブルにしたがった順序で、CMOSイメージセンサ11aの各撮像素子(画素)から像信号を読み出し、その読み出された像信号は読み出された順にカメラ信号処理部11cに送られる。
【0049】
ここで、タイミング発生器11bが、CMOSイメージセンサ11aの特定の撮像素子から像信号を読み出す処理について、図6を用いて説明する。
【0050】
なお、例示として、図6(1)に示すように、CMOSイメージセンサ11aを構成する多数の撮像素子のうち、縦2画素×横2画素(計4画素)のマトリックスを構成する4つの画素P(1,1)(=H1V1のPD(撮像素子)),P(2,1)(=H2V1のPD(撮像素子)),P(1,2)(=H1V2のPD(撮像素子)),P(2,2)(=H2V2のPD(撮像素子))を、P(2,2)→P(1,2)→P(2,1)→P(1,1)の順に読み出す処理について説明する。
【0051】
図6において、Hnライン(n=1,2)、Vnライン(n=1,2)は、水平、垂直それぞれの走査回路の信号ラインに相当する。また、CMOSイメージセンサ11aに投影された像は、物体(風景等)に対して、上下および左右がそれぞれ反対の像となる。
【0052】
図示において、各信号ラインのスイッチは、対応する信号ラインの走査駆動信号がH(ハイ)のときON(接続)となり、信号がL(ロー)のときOFF(切断)となる。
【0053】
図6(2)に示した状態では、H2ラインがH、H1ラインがL、V2ラインがH、V1ラインがLとなるように、水平走査回路および垂直走査回路からそれぞれ走査駆動信号が出力され、これによって、同図(1)に示すように、H2V2のPDの像信号のみが読み出される。
【0054】
以下、同図(2)に示すように、H2ラインにL→H→L、H1ラインにH→L→H、V2ラインにH→L→L、V1ラインにL→H→H、という順に信号が出力されて、H1V2のPD→H2V1のPD→H1V1のPD、の順に像信号が出力される。
【0055】
そして、タイミング発生器11bは、メモリ11dに記憶されたマッピングテーブルで規定された座標系P′(x,y)に対応するHnVnの撮像素子から像信号が出力されるように、水平走査回路および垂直走査回路から出力される走査駆動信号を制御している。
【0056】
なお、上述したマスキング領域B(図4(2)、図5(2))については、例えば、元の像G1における不存在の画素P(0,0)を対応付ければよい。このように不存在の画素を対応付けると、PDからの読出し処理の際に、画素P(0,0)のPDを指定することになるが、この画素P(0,0)のPDは実存しないため、走査回路は、全ての信号ラインの信号をLとする。この結果、読み出される像信号は基準電位の信号、すなわち輝度値0を表す像信号となり、マスキング領域Bを形成することができる。
【0057】
合成処理部20は、各カメラ部11〜14にそれぞれ対応して、各カメラ部11〜14からそれぞれ出力されたビデオ信号を、これらのビデオ信号が表す俯瞰像G1′を合成処理するのに適した信号形式に変換する映像信号デコーダ21,22,23,24と、各映像信号デコード部21〜24によりそれぞれ変換して得られた車両200の後方の俯瞰像G1′、前方の俯瞰像G2′、左側方の俯瞰像G3′および右側方の俯瞰像G4′を、これらの位置関係を対応させて単一の俯瞰像G′に合成処理する画像合成装置25と、この画像合成装置25によって得られた単一の俯瞰像G′を、前述したカメラ信号処理部11cのNTSCエンコーダと同様にNTSC等モニタ部30に表示するのに必要なビデオ信号形式にエンコードし直す映像信号エンコーダ26とを備えている。
【0058】
なお、4つの俯瞰像G1′〜G4′を合成して得られた単一の俯瞰像G′は、各単一の俯瞰像G1′〜G4′よりも信号数(データ数、画素数)が多くなるため、NTSC等ビデオ信号形式に適合するように、画像合成装置25または映像信号エンコーダ26において、信号数を減らす間引き処理(リサイズ処理)等を行ってもよい。
【0059】
次に、本実施形態に係る撮像表示システム100の作用について、図1,3に示したブロック図および図7に示したフローチャートを用いて説明する。
【0060】
カメラ部11のCMOSイメージセンサ11aには、車両200の後方の景色V1の像G1が投影されており、タイミング発生器11bは、メモリ11dに記憶されたマッピングテーブルからデータを読み出し(S101)、マッピングテーブルのデータに対応した順序でCMOSイメージセンサ11aの撮像素子から像信号を読み出すための走査駆動信号(またはこの走査駆動信号に対応したタイミングチャート)を作成する(S102)。
【0061】
作成された走査駆動信号は、タイミング発生器11bからCMOSイメージセンサ11aに出力され、CMOSイメージセンサ11aはこの走査駆動信号で特定された撮像素子から順次、像信号を出力する(S103)。このとき出力された像信号は、既に俯瞰像G′を表すものとなっている。
【0062】
また、タイミング発生器11bは、走査駆動信号の出力と同時に、NTSCエンコーダからの出力信号(ビデオ信号)の同期の基となるタイミング信号を、カメラ処理部11cに出力する。
【0063】
CMOSイメージセンサ11aから出力された俯瞰像G1′を表す像信号は、カメラ信号処理部11cに入力され、カメラ信号処理部11cは、CMOSイメージセンサ11aから読み出された像信号に対して、画質調整部がダイナミックレンジ調整やガンマ補正等の画質を調整し(S104)、画質調整後の像信号を、タイミング発生器11bから入力されたタイミング信号にしたがってNTSC等のビデオ信号形式のビデオ信号(本実施形態では、標準映像信号の一つであるNTSCのビデオ信号)にエンコード(S105)して、合成処理部20に出力する(S105)。
【0064】
以上説明した処理の流れは、車両200の後部に設置されたCMOSカメラ部11だけでなく、車両200の前部、両側部にそれぞれ設置された他の全てのCMOSカメラ部12,13,14についても同じであり、これら全てのCMOSカメラ部11〜14の作用は同時並行的になされる。
【0065】
そして、各CMOSカメラ11〜14からそれぞれ出力されたビデオ信号は、各CMOSカメラ部11〜14ごとに対応した映像信号デコーダ21〜24に入力され、各映像信号デコーダ21〜24は、入力されたビデオ信号から映像同期の基となるタイミング信号を分離するとともに、各ビデオ信号が表す俯瞰像G1′〜G4′を単一の俯瞰像G′に合成処理するのに適した信号形式にそれぞれ変換し、この変換された4つの像信号は、画像合成装置25により、各像信号が表す俯瞰像G1′〜G4′を、単一の俯瞰像G′に合成処理し、この合成処理して得られた単一の俯瞰像G′を表す像信号を出力する。
【0066】
出力されたする俯瞰像G′を表す得信号は、映像信号エンコーダ26に入力され、映像信号エンコーダ26は、映像同期の基となるタイミング信号に基づいて、カメラ信号処理部11cのNTSCエンコーダと同様にNTSC等モニタ部30に像を表示するのに必要なビデオ信号形式にエンコードする。
【0067】
そして、得られたビデオ信号は、モニタ部30に出力され、モニタ部30は、入力されたビデオ信号(単一の俯瞰像G′を表すビデオ信号)に基づいて、当該単一の俯瞰像G′をモニタ部30に表示する。
【0068】
このように、本実施形態に係る撮像表示システム100によれば、CMOSカメラ部10のイメージセンサとしてCMOSイメージセンサ11a,…を用いているため、任意の撮像素子から像信号を読み出すことができ、タイミング発生器11b,…は、マッピングテーブルのデータにより特定される任意の撮像素子から像信号を読み出すことができる。
【0069】
ここで、マッピングテーブルのデータを、CMOSイメージセンサ11a,…に投影された元の像Gからモニタ部30に表示しようとする俯瞰像G′への像変形の位置関係を、モニタ部30に表示しようとする俯瞰像G′を基準として規定するマッピングテーブルに設定しておくことで、カメラ部10から像信号を読み出して時点で既に、変形後の俯瞰像G′を表すビデオ信号として出力することができる。
【0070】
この場合、マッピングテーブルは、各CMOSカメラ部11,12,13,14に備えられているため、合成処理部20内に、各CMOSカメラ部11,12,13,14に対応した数の、俯瞰像G1′,G2′,G3′,G4′への像変形を担う像変形部を別途設ける必要がない。つまり、各CMOSカメラ部11,12,13,14内で独立して像変形を完結することができる。
【0071】
しかも、CMOSカメラ部11(以下、CMOSカメラ12,13,14も同じ。)には、タイミング発生器11bが、CMOSイメージセンサ11aから像信号を読み出すために従来より内部に備えられているため、CMOSカメラ部11のサイズが大型化することがない。
【0072】
また、CMOSカメラ部11内に、タイミング発生器11bの動作を制御することとなるマッピングテーブルのデータを備える必要があるが、このようなマッピングテーブルのデータ自体は、微小なサイズのメモリ11dに記憶させることができ、CMOSカメラ部11のサイズに実質的な影響を与えることはない。
【0073】
よって、CMOSカメラ部10の数が増加しても、ハードウェアの構成の規模が大幅に増大するのを防止することができるため、コストの上昇を緩和することもでき、また、処理の高速化による発熱増大の程度も緩和して信頼性を向上させることができる。
【0074】
本実施形態に係る撮像表示システム100は、CMOSカメラ部10として、互いに異なる範囲の景色V1〜V4を撮像する4つのCMOSカメラ部11〜14を有するとともに、各CMOSカメラ部11〜14からそれぞれ出力されたビデオ信号を、各別に像信号の処理用にデコードする4つの映像信号デコーダ21〜24(デコード部)と、各映像信号デコーダ21〜24でデコードして得られた像信号(俯瞰像G1′〜G4′をそれぞれ表す)を用いて単一の俯瞰像G′を合成する画像合成装置25(像合成部)と、画像合成装置25で合成して得られた単一の俯瞰像G′に対応した像信号を、NTSC(所定の規格のビデオ信号)形式でエンコードする映像信号エンコーダ26(エンコード部)とを有し、エンコーダ26でエンコードされたビデオ信号をモニタ部30に出力する合成処理部20(信号合成処理部)を備えた構成であるが、本発明に係る撮像表示システムはこのように複数のCMOSカメラ部11〜14を備えたものに限定されるものではなく、単一のCMOSカメラ部11(またはCMOSカメラ部12,13,14のうちいずれか1つ。以下、同じ。)だけを備え、複数の像を合成する合成処理部20を備えないものであってもよい。
【0075】
このように、CMOSカメラ部として単一のCMOSカメラ部11のみを備えた撮像表示システムによっても、この単一の当該CMOSカメラ部11から像信号を出力する時点で、既に俯瞰像G′への像変換を完結しているため、従来のようにCMOSカメラ部から像信号を出力した後に像変形の処理を別途行う必要がなく、処理の高速化およびシステムの簡素化を図ることができる。
【0076】
また、本実施形態の撮像表示システム100において、マッピングテーブルは、メモリ11d(他のCMOSカメラ部であれば、12d,13d,14d;図示せず)に記憶されたものであり、このメモリ11dは、例えば一般的にはROM(読出し専用記憶部)であるが、フラッシュメモリ等書換え可能のメモリであってもよい。
【0077】
このようにメモリ11dが書換え可能のメモリであれば、このメモリに記憶されているマッピングテーブルを、当該マッピングテーブルとは像変形の内容が異なる他のマッピングテーブルに書き換えることで、マッピングテーブルの交換を可能にすることができる。
【0078】
そして、マッピングテーブルの交換により、単一の構造のCMOSカメラ部であっても複数種類の像変形に対応することができ、コストの低減や、汎用品として普及を促進することができる。
【0079】
図8は、そのような書換え可能のメモリ11eを備えたCMOSカメラ部11′を示すブロック図であり、図1に示した実施形態の撮像表示システム100におけるCMOSカメラ部10(11〜14)と置き換えられて用いられる。
【0080】
図8に示したCMOSカメラ部11′には、書換え可能のメモリ11eと、このメモリ11eに電気的に接続される雌コネクタ11fとが具備され、雌コネクタ11fは、CMOSカメラ部11′の筐体等に固定されている。
【0081】
一方、CMOSカメラ部11′の外部にあって、マッピングテーブルのデータが記憶された記憶媒体11hは、雌コネクタ11fと接続される雄コネクタ11gを備え、CMOSカメラ部11の雌コネクタ11fに接続されると、この記憶媒体11hに記憶されているマッピングテーブルのデータが、雄コネクタ11gおよび雌コネクタ11fの接続を介してメモリ11eに記憶される。
【0082】
メモリ11eに、マッピングテーブルのデータが記憶された後は、雌コネクタ11fから雄コネクタ11gが引き抜かれて、CMOSカメラ部11′は記憶媒体11hから切り離され、CMOSカメラ部11′は、メモリ11eに記憶されたマッピングテーブルのデータにしたがって動作する。
【0083】
すなわち、タイミング発生器11bは、図3に示したCMOSカメラ部11のタイミング発生器11bと同様に、メモリ11eに記憶されたマッピングテーブルのデータにしたがって、走査駆動信号を生成する。
【0084】
また、適用したいマッピングテーブルのデータを他のデータと取り替える場合は、その取り替えようとする新たなマッピングデータが記憶された他の記憶媒体(11hに相当する記憶媒体。その取り替えようとする新たなマッピングテーブルのデータを記憶媒体11hに記憶させることができるときは、記憶媒体11hをそのまま用いてもよい。)の雄コネクタ11gを、CMOSイメージセンサ11aの雌コネクタ11fに接続することで、CMOSカメラ部11′のメモリ11eに記憶されているマッピングテーブルのデータは、接続された他の記憶媒体に記憶されている他のマッピングテーブルのデータに書き換えられる。
【0085】
このように構成されたCMOSカメラ部11′を備えた実施形態の撮像表示システムであっても、上述した実施形態と同じ効果を得ることができ、加えて、複数種類の像変形に対応することができる。
【0086】
また、マッピングテーブルを交換可能としたものでは、上述したように、マッピングテーブルがCMOSカメラ部11の内部に備えられたメモリ11dに記憶されているものに限定されるものではない。
【0087】
すなわち、図9に示すCMOSカメラ部11″は、図1に示した実施形態の撮像表示システム100におけるCMOSカメラ部10(11〜14)と置き換えられて用いられるものであり、CMOSこのカメラ部11″は、内部に、マッピングテーブルを記憶するためのメモリを備えていない。
【0088】
そして、CMOSこのカメラ部11″は、そのようなメモリを備える代わりに、マッピングテーブルのデータが記憶された記憶媒体11jを着脱可能(挿抜可能)としたソケット11iを備え、このソケット11iは、タイミング発生器11bに電気的に接続されている。
【0089】
したがって、マッピングテーブルのデータが記憶された記憶媒体11jとタイミング発生器11bとは着脱可能のソケット11iを介して接続され、このソケット11iに、他のマッピングテーブルが記憶された別異の記憶媒体(11jに相当するもの)をソケット11iに装着することにより、メモリに記憶されたマッピングテーブルと同じ作用効果を発揮させている。
【0090】
このように構成されたCMOSカメラ部11″を備えた実施形態の撮像表示システムであっても、上述した実施形態と同じ効果を得ることができ、加えて、複数種類の像変形に対応することができる。
【0091】
なお、上述した各実施形態の撮像表示システム100では、従来の撮像表示システムと同様に各カメラ部11〜14でNTSC等のビデオ信号にエンコードするものの、CMOSイメージセンサ11a(他のカメラ部12,13,14のCMOSイメージセンサも同様)の画素数(CMOSイメージセンサ11aを構成する撮像素子の数)は、NTSC等のビデオ信号の規格を超える画素数としてもよく、そのような構成によれば、NTSC等のビデオ信号にエンコードされる画素数分の俯瞰像G′における画素P′(x、y)については、元の像Gにおいて重複を避けて対応画素P(X,Y)を準備することができ、好ましい。
【0092】
例えば、CMOSイメージセンサ11aとして、横1280画素×縦960画素(全体で約123万画素)のものを用いた場合、元の像GをそのままNTSCのビデオ信号にエンコードするには、縦横ともそれぞれビデオ信号の規格に対して約2倍の過剰スペックであるため、縦横ともに1/2の数に画素を間引く必要がある。
【0093】
しかし、好ましい実施形態の撮像表示システム100では、CMOSイメージセンサ11aに投影されている元の像G(約123万画素)から、NTSCのビデオ信号の規格にしたがった約30万画素の俯瞰像G′(約30万画素)を得るように、タイミング発生器11bが、メモリ11dに記憶されたマッピングテーブルにしたがってCMOSイメージセンサ11aから像信号を読み出す場合は、CMOSイメージセンサ11aの画素数が多くても過剰スペックにはならず、しかも、元の像Gの画素数が多いため、俯瞰像G′における画素P′(x、y)の多くが、元の像Gにおいて対応画素P(X,Y)が存在することになり、最近傍補間で生じやすいアーチファクト(偽画像)の発生を抑制することができる。
【図面の簡単な説明】
【0094】
【図1】本発明の一実施形態に係る撮像表示システムの構成を示すブロック図である。
【図2】図1に示した撮像表示システムが備える構成の、車両における配設部位と、各CMOSカメラ部により撮影される範囲とを模式的に示した模式図である。
【図3】図1に示した撮像表示システムのうちCMOSカメラ部の詳細な構成を示すブロック図である。
【図4】(1)はCMOSカメラ部に投影された車両後方の像(元の像)、(2)は(1)の投影像を俯瞰して得られる俯瞰像、をそれぞれ示す図である。
【図5】(1)は元の像の座標系P、(2)は俯瞰像の座標系P′、をそれぞれ示す図である。
【図6】CMOSイメージセンサの特定の撮像素子(PD)から像信号を読み出す処理を説明する作用説明図であり、(1)は回路図、(2)はタイミングチャート、をそれぞれ示す。
【図7】図1に示した撮像表示システムの作用を説明するフローチャートである。
【図8】CMOSカメラ部の他の形態の一例(その1)を示すブロック図である。
【図9】CMOSカメラ部の他の形態の一例(その2)を示すブロック図である。
【符号の説明】
【0095】
11 CMOSカメラ部
11a CMOSイメージセンサ
11b タイミング発生器(駆動回路)
11c カメラ信号処理部
11d メモリ
30 モニタ部(表示部)
100 撮像表示システム
200 車両
V1 景色
G1 元の像(景色V1の像)
G1′ 俯瞰像(モニタ部に表示しようとする像)

【特許請求の範囲】
【請求項1】
CMOSイメージセンサと、前記CMOSイメージセンサの撮像素子のうち任意の撮像素子から像信号を読み出す駆動回路と、前記駆動回路によって読み出された像信号を、所定の規格のビデオ信号形式でエンコードして出力するカメラ信号処理部とを有するCMOSカメラ部、および前記CMOSカメラ部から出力された前記ビデオ信号に基づいて像を表示する表示部を備えた撮像表示システムにおいて、
前記CMOSイメージセンサに投影された元の像から前記表示部に表示しようとする像への像変形の対応関係を該表示部に表示しようとする像を基準として規定するマッピングテーブルを、前記CMOSカメラ部に備え、
前記駆動回路は、前記マッピングテーブルにより規定される撮像素子から前記像信号を読み出すものであることを特徴とする撮像表示システム。
【請求項2】
前記マッピングテーブルは、該マッピングテーブルとは前記像変形の内容が異なる他のマッピングテーブルに交換可能とされていることを特徴とする請求項1に記載の撮像表示システム。
【請求項3】
前記マッピングテーブルは所定の記憶媒体に記憶され、該記憶媒体と前記駆動回路とは着脱可能のソケットを介して接続され、前記他のマッピングテーブルが記憶された別異の記憶媒体を前記ソケットに装着することにより、前記マッピングテーブルを交換可能としたものであることを特徴とする請求項2に記載の撮像表示システム。
【請求項4】
前記CMOSカメラ部は、前記駆動回路に接続された書換え可能のメモリを備え、前記マッピングテーブルは前記メモリに書換え可能に記憶され、前記メモリに記憶されているマッピングテーブルを前記他のマッピングテーブルに書き換えることにより、前記マッピングテーブルを交換可能としたものであることを特徴とする請求項2に記載の撮像表示システム。
【請求項5】
前記CMOSカメラ部として互いに異なる範囲を撮像する複数個のCMOSカメラ部を有し、
前記各CMOSカメラ部からそれぞれ出力されたビデオ信号を、像信号の処理用にデコードするデコード部と、前記デコード部でデコードして得られた像信号を用いて単一の像を合成する像合成部と、前記像合成部で合成して得られた単一の像に対応した像信号を、前記所定の規格のビデオ信号形式でエンコードするエンコード部とを有する、前記エンコード部でエンコードされたビデオ信号を前記表示部に出力する信号合成処理部を備えたことを特徴とする請求項1から4のうちいずれか1項に記載の撮像表示システム。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7】
image rotate

【図8】
image rotate

【図9】
image rotate


【公開番号】特開2008−153882(P2008−153882A)
【公開日】平成20年7月3日(2008.7.3)
【国際特許分類】
【出願番号】特願2006−338921(P2006−338921)
【出願日】平成18年12月15日(2006.12.15)
【出願人】(000001487)クラリオン株式会社 (1,722)
【Fターム(参考)】