カメラシステムおよび移動体カメラシステム
【課題】複数台のカメラ装置により得られた画像と合成するとカメラ毎の輝度、色味が異なり、視認しづらい。
【解決手段】第1のカメラ装置と第2のカメラ装置とを有し、上記第1のカメラ装置は撮像した画像から得られたリファレンスデータを上記第2のカメラ装置に送り、上記第2のカメラ装置は撮像した画像と上記リファレンスデータとを基に補正画像を生成し、上記記第1のカメラ装置からの第1の画像と上記補正画像とを制御手段により合成して合成画像を生成することにより、上記第1と第2のカメラ装置の設置場所に係らずカメラ画像合成時の隣接カメラ装置との画像調整を行い、合成画像の接続部分の違和感を無くする。
【解決手段】第1のカメラ装置と第2のカメラ装置とを有し、上記第1のカメラ装置は撮像した画像から得られたリファレンスデータを上記第2のカメラ装置に送り、上記第2のカメラ装置は撮像した画像と上記リファレンスデータとを基に補正画像を生成し、上記記第1のカメラ装置からの第1の画像と上記補正画像とを制御手段により合成して合成画像を生成することにより、上記第1と第2のカメラ装置の設置場所に係らずカメラ画像合成時の隣接カメラ装置との画像調整を行い、合成画像の接続部分の違和感を無くする。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、カメラシステムおよび移動体カメラシステムに関し、特に移動体に複数台の撮像装置を設け、この複数台の撮像装置に基準撮像装置を設定し、基準撮像装置のリファレンスデータを制御ユニットを介して他の撮像装置に転送し、リファレンスデータに基づいて他の撮像装置は単独に画像処理し、制御ユニットを介して画像を合成して合成画像の画質を向上するカメラシステムおよび移動体カメラシステムに関する。
【背景技術】
【0002】
図11に特許文献1(特許第3297040号)に開示された従来例の車載カメラ装置の画像合成表示装置800を示す。この画像合成表示装置800において、各カメラCAM1〜CAM8(801〜808)の出力は車両内部の画像合成表示装置820に接続されている。画像合成表示装置820はモニタ装置816に接続されている。また、各カメラCAM1〜CAM8(801〜808)の撮影領域は互いに重複するように設定されている。
画像合成表示装置820は、各カメラCAM1〜CAM8(801〜808)から供給された画像を記憶する画像メモリ821〜828が設けられ、この画像メモリ821〜828が画像抽出合成部813に接続され、その出力が補正信号発生手段814と画像補正手段815に接続される。補正信号発生手段814は画像補正手段815に接続され、画像抽出合成部813から供給された制御信号により画像抽出合成部813から出力された合成画像を補正してモニタ装置816に出力する。
各カメラCAM1〜CAM8(801〜808)から出力された画像は各画像メモリ821〜828にそれぞれ記憶され、その画像が画像抽出合成部813に出力される。画像抽出合成部813で画像メモリ821〜828から供給された各画像の補正ゲインを求め、画像補正手段815で補正ゲイン係数に基づいて合成画像を補正する。
このように、特許文献1においては、各カメラCAM1〜CAM8(801〜808)で画像補正を行うのでなく、カメラ制御ユニットに相当する画像合成表示装置820で各カメラから供給された画像を補正している。
【0003】
移動体、例えば自動車の運転者にとってバックするときの後方視認は難しく、死角が生じる。また、前方走行中であっても、併走している車両がドアミラーに隠れる位置に来ると、併走車が運転者の視界から消えてしまう。
このため、近年では、運転者の死角に位置する自車近傍周りを監視する車載カメラを搭載し、その撮像画像をカーナビゲーション用の表示画面に表示する様になってきている。
さらに、複数台のカメラ装置を接続した時に、画像合成した画像の共通部分を認識し、隣接するカメラ画像間の輝度や色味の差異を小さくする技術も開示されている。
【先行技術文献】
【特許文献】
【0004】
【特許文献1】特許第3297040号公報
【発明の概要】
【発明が解決しようとする課題】
【0005】
しかしながら、車両に搭載される複数の車載カメラ装置は、同一機種のカメラが使用されるが、配置される位置や撮像する被写体の違いによって、輝度や色味のバランスはカメラ毎に異なってしまい、運転者にとって視認しづらい表示画面となってしまう。
また、一般に設置場所が異なりかつ撮影対象が異なる複数のカメラ装置を有するカメラシステムにおいて、複数のカメラ装置で撮影した画像を合成したとき、画像間の繋ぎ目において輝度と色味の違いが顕著に見られる。それぞれのカメラ装置の露光時間やゲインを同じレベルで制御すれば、カメラ装置間の色/明るさの違いは吸収されるが、本来別々に制御していたら見えていたはずの部分が見えなくなる問題がある。
例えば、図11のCAM1(801)の被写体が日陰で、CAM2(802)の被写体が日向の場合で、CAM1(801)の露光時間やゲインと同じレベルでCAM2(802)を制御した場合、CAM2(802)の画像は白飛びしてしまい、画像の認識が出来なくなってしまう。
【0006】
また、特許文献1で開示されている様に、画像合成表示装置820内に各カメラCAM1〜CAM8(801〜808)からの出力信号を記憶する画像メモリ821〜828を設け、各カメラ装置からの画像を記憶して各カメラ装置の重複する撮像領域を記憶する必要があり、カメラ装置の取り付け位置によって、重複する撮像領域を変更する必要がある。
上記問題に鑑みて、本発明の目的は各カメラ装置の取り付け位置を問わずカメラ画像合成時に隣接するカメラとの輝度や色の調整ができるようにすることである。
また、輝度や色は各カメラ装置で単独に調整され、車両内や特定の場所に備えられたC/U(Camera Control Unit;カメラコントロールユニット)では、マスター(基準)とするカメラ装置から輝度と色信号のリファレンスデータを受信し、他のカメラ装置に転送することで、C/Uの負荷を削減することができる。
【課題を解決するための手段】
【0007】
本発明の移動体カメラシステムは、移動体と、上記移動体に設置され、画像信号を調整する信号処理部を有する複数台のカメラ装置と、上記複数台のカメラ装置の中から基準とする第1のカメラ装置を任意に選択し、該第1のカメラ装置からリファレンスデータが供給され、第2のカメラ装置の画像信号を補正するためのリファレンスデータを上記第2のカメラ装置に転送するカメラ制御ユニットと、リファレンスデータに基づき上記第2のカメラ装置は各カメラ装置に入力された画像信号を単独に補正し、上記第1のカメラ装置と上記第2のカメラ装置から出力された画像が合成され、該合成画像が表示される表示装置とを有する。
本発明のカメラシステムは、第1のカメラ装置と第2のカメラ装置とを有し、上記第1のカメラ装置は撮像した画像から得られたリファレンスデータを上記第2のカメラ装置に送り、上記第2のカメラ装置は撮像した画像と上記リファレンスデータとを基に補正画像を生成し、上記記第1のカメラ装置からの第1の画像と上記補正画像とを制御手段により合成して合成画像を生成することを特徴とする。
【発明の効果】
【0008】
本発明では、それぞれのカメラ装置は適正に制御されて、見やすい合成画像が出力される。また、画像の接合部分において、色と明るさの違和感をなくすることができる。
また、上記2つのバランスとしてどちらに重点を置くかの選択、調整ができる構成にすることにより、色/輝度の調整は、各カメラ装置内で単独に制御を行い、各カメラ装置は取り付け位置を認識する事無く独立に制御をすることができる。
【図面の簡単な説明】
【0009】
【図1】カメラシステムの最小ブロック構成を示す図である。
【図2】車載(移動体)カメラ装置のシステム構成を示す概要図である。
【図3】車載カメラ装置で合成された画像合成図を模式的に示した図である。
【図4】2台接続したカメラシステムのブロック構成を示す図である。
【図5】カメラ装置の露光状態と利得の関係を示すグラフである。
【図6】色座標上の色信号に対する座標位置を示す図である。
【図7】カメラ装置のブロック構成を示す図である。
【図8】図7に示すカメラ装置の色信号処理ブロックの回路構成を示す図である。
【図9】カメラ装置の自動露光制御装置のブロック構成を示す図である。
【図10】カメラ装置の自動ホワイトバランス装置のブロックの構成を示す図である。
【図11】従来例のカメラ装置の画像合成表示装置のブロック構成を示す図である。
【発明を実施するための形態】
【0010】
図1に本発明のカメラシステムの実施形態例の一つである移動体カメラシステムを示す。図1に示すカメラシステム100はその最小構成例を示す。
Cam(カメラ装置)―1(101)とCam(カメラ装置)−2(102)がCamera Control Unit(C/U:カメラコントロールユニット:カメラ制御部)103に接続される。
いま仮に、Cam−1装置(101)を基準(マスター)カメラ装置とし、Cam−2装置(102)を被調整用スレーブカメラ装置とする。Cam−1装置(101)、Cam−2装置(102)でそれぞれ被写体を撮影した後、C/U103はマスターカメラ装置に設定したCam−1装置(101)からリファレンスデータ(輝度/色状態)を受信してその値をそのまま他のスレーブカメラ装置のCam−2装置(102)に転送する。Cam−2装置(102)では、リファレンスデータを受信し、このリファレンスデータを基に画像を調整する。
リファレンスデータとして、例えば輝度信号や色信号がある。スレーブカメラ装置のCam−2装置(102)で、輝度信号を用いて、シャッタースピードの調整やAFE(アナログフロントエンド)の利得制御装置のゲインを制御し、また色信号を用いてDSPの色信号処理回路のAWB(オートホワイトバランス)アンプの利得を調整して色調整を行う。
【0011】
図2に本発明の他の実施形態である移動体を車両とした場合の車載(移動体)カメラシステム200のブロック構成を示す。
図2(a)に、車両210のフロントにカメラ装置Cam1(Front)、左側にカメラ装置Cam2(Side−L)、右側にカメラ装置Cam3(Dide−R)、後方にカメラ装置Cam4(Rear)を装着したときの車載カメラシステム200の構成を示す。
ここではカメラ装置Cam1〜Cam4の4台で構成された例を示すが、図1に示したように、カメラ装置は基本的に2台以上で構成される場合に適用される。また、各カメラ装置Cam1〜Cam4の取付位置や接続位置は図2に示した位置に限定されない。
【0012】
図2(a)に示した車載カメラシステム200のブロック構成を図2(b)に示す。図2(b)の車載カメラシステム200は、車両に搭載されたカメラ装置Cam−1(251)〜カメラ装置Cam−4(254)と、C/U(カメラコントロールユニット)250、表示装置270で構成されている。
また、C/U250はバッファ回路261〜264と切り出し&(アンド)合成回路265で構成されている。
【0013】
カメラ装置Cam−1(251)〜Cam−4(254)は、自動露光制御(以下、AEとも記載する)/オートホワイトバランス制御(以下、AWB制御とも記載する)等が搭載され、カメラ毎に輝度の制御/色の制御が可能である。
各カメラ装置Cam−1(251)〜Cam−4(254)には、現在のAEの状態と現在のAWBの状態を通知する機能と、C/U250からAEとAWBのリファレンスデータを受信する機能を備える。
C/U250は、各カメラ装置Cam−1(251)〜Cam−4(254)から出力される画像を蓄えるためのBuffer(バッファまたはメモリ)を備え、各カメラ装置Cam−1(251)〜Cam−4(254)の画像の表示部分の切り出しと合成を行う機能を備える。
ここで合成された画像は、カーナビゲーション等の表示装置270、例えばモニタに表示される。
またC/U250は、各カメラ装置Cam−1(251)〜Cam−4(254)から現在のAEの状態と現在のAWBの状態を読み出す機能と、各カメラ装置Cam−1(251)〜Cam−4(254)にAEのリファレンス値(データ)とAWBのリファレンス値(データ)を送信する機能を備える。
【0014】
図3に合成された画像の例を示す。この合成した画像は、図2(a)に示すカメラ装置を4台接続した場合の例である。この画像を合成するためのカメラ装置の台数や画像の切り出し位置、合成方法については限定しない。また、図3の合成画像は車両画像を中心に各カメラ装置に対応した位置に画像が表示されているが、C/U250を用いて画像位置を変更し、また全体画像の回転などを行うことができる。
なお、例えば、マスターとするカメラ装置Cam−1(251)で撮影されたリファレンスデータ生成用の画像と、このカメラ装置Cam−1(251)からの合成画像生成用の画像とは、同じでも、異なってもよい。
【0015】
図4に、最小構成として2台のカメラ装置310,320を有するカメラシステム300を示す。図4において、実際はカメラ装置が4台構成や5台構成となるが、構成別の制御は上位装置であるC/U330にて制御が可能となる制御方式としているため、ここでは2台構成で説明する。
このカメラシステム300において、一方のカメラ装置(Cam−1(310))をマスターとし、他方のカメラ装置(Cam−2(320))をスレーブとした時の動作を説明する。ただし、マスターカメラ装置310は一義的に決めるのではなく、C/U330でその時、場所などの条件に応じて適宜変更することができる。
C/U330の動作は、マスターであるカメラ装置Cam−1(310)の撮像信号を受信し、リファレンスデータとしてスレーブのカメラ装置Cam−2(320)に送信する。この動作を一定周期で実行する。
また、C/U330は、マスターであるカメラ装置Cam−1(310)に対してリファレンスデータ“0”(補正なし)を転送することもできる。
このとき、スレーブのカメラ装置Cam−2(320)の状態を検出する必要はないため、通信は必ずしも必要ではない。しかし、スレーブ/マスターが切り替わったりした場合には、補正なしの“0”信号を送信する必要がある。
【0016】
カメラ装置Cam−1(310)は、補正なしの指定であるため、AE/AWBでは何も補正されず通常の動作が行われる。
一方、カメラ装置Cam−2(320)は、カメラ装置Cam−1(310)の状態が、補正用リファレンスデータとして受信されるので、その値を加味した補正がオート制御に組み込まれる。
カメラ装置Cam−1(310)から出力されたリファレンスデータとカメラ装置Cam−2(320)から出力された画像をC/U330を介して画像を合成する。
なお、マスターであるカメラ装置Cam−1(310)で撮影されたリファレンスデータ生成用の画像と、このカメラ装置Cam−1(310)からの合成画像生成用の画像とは、同じでも、異なってもよい。
【0017】
次に、カメラ装置が複数台(ここでは4台接続されている事を想定)接続された車載(移動体)カメラシステムの場合の動作について図2を用いて説明する。
車が前進している場合、運転手にとって、一番写したい(モニタで確認したい)場所は、Front(前方)の位置である。
この場合、C/U250は、Frontカメラ装置Cam1(251)をマスター(基準)とし、Side−L(左)カメラ装置Cam−2(252)/Side−R(右)カメラ装置Cam−3(253))/Rear(後方)カメラ装置Cam−4(254)をスレーブとし、Front(前方)カメラ装置Cam−1(251)の色/輝度のデータを、Side−L/Side−R/Rearの各カメラ装置に送信する。
Side−Lカメラ装置Cam−2(252)/Side−Rカメラ装置Cam−3(253)/Rearカメラ装置Cam−4(254)は、Frontカメラ装置Cam1(251)の色/輝度データをリファレンスデータとしC/U250を介して受信し、各カメラ装置内のカメラ信号処理ブロックで、色/輝度を調整する。
ここで、Rearカメラ装置Cam−4(254)に対しては、Side−Lカメラ装置Cam−2(252)/Side−Rカメラ装置Cam−3(253)のデータの平均値をマスターデータとすることもできる。
【0018】
カメラ装置としては取り付け位置の判断を行わずに制御をかけるため、C/U250側で、マスターカメラ装置Cam1(251)の選択、スレーブカメラ装置の選択を行い、スレーブカメラ装置に送信するリファレンスデータの生成を自由に行うことができる。
また、C/U250側では、車のギア(車が前進しているのか、後進しているのか)をマスターカメラ装置Cam1(251)の選択の判断材料とすることや、車が前進している時は、Frontカメラ装置Cam1(251)をマスターと判断することや、後進している時は、Rearカメラ装置Cam−4(254)をマスターと判断することができる。
さらに、全て同じカメラ装置が取り付けられている場合、全てのカメラ装置をスレーブとして、同じ色/輝度のデータを送信し、全てのカメラ装置の制御値を同じにすることもできる。
このように、本移車載カメラシステム200では、C/U250では画像の信号処理、輝度/色信号の調整は行わないで、各スレーブカメラ装置で単独に調整するシステム構成としている。
これまで、車載カメラシステムについて述べてきたが、本発明は車両などの移動体カメラシステムに限定するものではない。移動体以外のシステムにも明らかに適用することができ、例えば、屋内、屋外に上述した複数のカメラ装置を備えたカメラシステムを構築し、色と輝度の違和感のない画像を合成することができる。
なお、例えば、マスターとするカメラ装置Cam1(251)で撮影されたリファレンスデータ生成用の画像と、このカメラ装置Cam1(251)からの合成画像生成用の画像とは、同じでも、異なってもよい。
【0019】
次に、図2と図5を用いてカメラ装置単体の基本的な制御原理について述べる。各カメラ装置は、C/U250から転送されたリファレンスデータを受信し、この受信したリファレンスデータに基づき各カメラ装置内で単独に輝度、色調整を行い、調整した画像をC/U250に転送する。その後、各カメラ装置から転送された画像が合成されて不図示の表示装置に出力し、合成画像が表示される。
C/U250はマスターカメラ装置251からスレーブカメラ装置252〜254にリファレンスデータを転送するが、この他に状態通知機能なども有している。
この状態通知機能に関するデータは、自発的に通知するパスは通信仕様上存在しないため、状態をカメラ装置(251〜254)内のバッファ回路261〜264、例えばRAM(Random Access Memory)等に格納しておき、一定周期にC/U250が参照する。
カメラ装置内のRAMへ格納するデータとして、露光状態と色状態を示すデータがある。
【0020】
次に露光状態について述べる。露光状態としてのAE(自動露光)レベルは以下の式で表される。
AEレベル=シャッターゲイン+ゲインレベル
このAEレベルの具体的な特性を図5に示す。
図5に、AEレベル、シャッターゲイン、ゲインレベルの関係を示し、横軸を露光状態(明るさ)、縦軸をAEレベル、シャッターゲイン、AFEの利得制御装置のゲインとする。
シャッターゲインは明るさh2まではレベルL4と一定であるが、h2からh3になると直線的に減少し、h3になるとレベルL2となる。このシャッターゲインにより受光素子の露光時間が制御される。
一方、AFEとディジタル信号処理回路の利得を制御するゲインレベルは、明るさh1からh2までレベルL3からL1へと直線的に減少するが、明るさh2からh3までは一定レベルL1となる。
マスターカメラ装置251で、AEレベルが測定されると、それに対応してシャッターゲインとAFEとディジタル信号処理回路の利得制御のゲインレベルが求まる。すなわち、明るさh1のときAEレベルはL6で、シャッターゲインはL4、AFEのゲインはL3である。このシャッターゲインL4とAFEのゲインL3がリファレンスデータの輝度情報としてC/Uを介してスレーブカメラ装置252〜254に転送される。
明るさh2では、AEレベルはL5で、シャッターゲインはL4、AFEのゲインはL1であり、明るさh3では、AEレベルはL3で、シャッターゲインはL2、AFEのゲインはL1となる。
このように、マスターカメラ装置251で測定したAEレベルからシャッターゲイン、AFEのゲインがリファレンスデータとして求められ、このリファレンスデータがC/U250を介してスレーブカメラ装置252〜254に転送される。
そして、各カメラ装置はこのリファレンスデータに基づき、各カメラ装置内で単独にAEレベルを調整する。
【0021】
次に、リファレンスデータとして輝度信号以外に色(信号)状態を用いた例を示す。プリホワイトバランス調整後、新たな撮影画像をカメラ装置のOPD(光検出器)でAWB調整を行うため、プリホワイトバランス調整値に基づいたR/G、B/G座標を格納しておく。ただしプリホワイトバランスは各カメラ装置251〜254で基準白色を撮影し、AWB調整しかつその時に得られる各利得制御回路の調整データ例えばゲイン情報を記憶装置に格納し、各カメラ装置の製造ばらつきを無くする。
【0022】
次に、色(信号)状態のグラフを図6に示す。色座標として、横軸をR/Gとし、縦軸をB/Gとする。ここで、R,G,Bは原色分離回路で得られた画素信号とし、Rは画素の赤信号、Bは画素の青信号、Gは画素の緑信号をそれぞれ示す。
図6は、各カメラ装置(Cam1(251)〜Cam4(254))のOPD(光検出器)で得られたAWB(オートホワイトバランス)の、プリホワイトバランス調整に基づいたR/G、B/G座標に変換した色状態を示す。この座標変換して得られた値は、各カメラ装置(Cam1(251)〜Cam4(254))で異なり、座標上で異なる位置にある。
【0023】
図7に、本発明における他の実施形態である各カメラ(撮像)装置400のブロック構成を示す。
カメラ装置400は、レンズ410、シャッター機能付きセンサー420、AFE(アナログフロントエンド)430、カメラ信号処理ブロック440、C/U(カメラコントロールユニット)450、マイクロコンピュータ460等で構成される。
レンズ410は、外部からの光を集光し、撮像素子上へ画像を結像する。シャッター機能付きセンサー420は、撮像素子で光を電気信号に変換し、また電子シャッターにより、電荷の蓄積時間を可変する。
AFE430は、相関2重サンプリング回路によりノイズを除去し、AGC(自動利得制御)とセンサーから入力されたアナログ信号をディジタル信号に変換する。
カメラ信号処理ブロック440は、センサーから供給された入力信号を映像信号に変換する。
C/U450は、カメラ信号処理ブロック440から映像信号と同期(SYNC)信号が供給され、マスターカメラ装置を設定(選択)したり、マスターカメラ装置から転送された輝度/色信号に関するリファレンスデータをスレーブカメラ装置に送信したりし、この他各カメラ装置から送られた画像を合成する機能を有する。また各カメラ装置の制御は、マイクロコンピュータ460と通信することにより行われる。
マイクロコンピュータ460は、シャッター機能付きセンサー420、AFE430、カメラ信号処理ブロック440に接続され、C/U450から供給されたリファレンスデータに関連した制御信号をスレーブカメラ装置に送り、各スレーブカメラ装置は単独で輝度/色信号を制御する。
【0024】
次に、上述した露光状態/色状態を示すリファレンスデータを用いたカメラ装置400の動作について述べる。
露光状態のシャッターゲインは、図7のシャッター機能付きセンサー420の電子シャッターの制御値を示し、ゲインレベルは、AFE430のAGCの制御値とカメラ信号処理ブロック(440)内に持つディジタルゲインアンプの制御値を示す。
マスターカメラ装置から供給されたリファレンスデータがC/U450を介して他のカメラ装置のマイクロコンピュータ460に転送されると、マイクロコンピュータ460は、露光状態に対応するシャッターゲイン、ゲインレベルを発生し、シャッター機能付きセンサー420にシャッターゲインを制御する制御信号を供給して図5に示す電子シャッターのゲイン(期間)を調整する。
また、マイクロコンピュータ460は、AFE430のAGC回路にゲインレベルの制御電圧を供給して利得を制御し、あるいはカメラ信号処理ブロック440にゲインレベルの制御信号を供給してディジタル信号処理回路のディジタルゲインを制御する。
また、色状態を示すリファレンスデータもカメラ信号処理ブロック440に供給されて、色処理回路を調整する。
このように、C/U250で合成画像の輝度、色調整を行うのではなく、各カメラ装置内で基準カメラ装置からC/U250を介して転送されて来たリファレンスデータを用いて輝度、色信号の調整を行う。
【0025】
図8は、図7に示したカメラ信号処理ブロック440の一部を構成する色信号処理回路500のブロック構成図である。
色信号処理回路500は、原色分離回路501、WB(ホワイトバランス)アンプ520、OPD(オプティカルディテクタ;光検出器)530、マイクロコンピュータ540で構成される。また、WBアンプ520は原色R,G,Bの利得を制御する利得制御アンプ521〜523で構成される。
原色分離回路501は、AFE430に設けられたAD(アナログ・ディジタル)変換器から出力されたディジタル信号を、それぞれ赤、青、緑の原色信号R,G,Bに分離し、これらの原色信号R,G,Bをそれぞれ利得制御アンプ521〜523に出力する。
また、原色信号R,G,Bは、ホワイトバランス調整するため、OPD530にも供給される。
【0026】
OPD530は、原色信号R,G,Bをフィールドまたはフレーム毎に積分する回路を有する。このため、OPD530は、原色信号R,G,Bのたとえばフィールド単位の積分値データIntgR,IntgG,IntgBを求め、これらの積分値データIntgR,IntgG,IntgBをマイクロコンピュータ540に出力する。
マイクロコンピュータ540は、内蔵や外部メモリを有し、これらのメモリから読み出されたプログラムに従って、座標変換、色温度の引き込み枠設定とその制御、色温度制御、R,G,B毎のゲイン設定などの処理を実行する。
WBアンプ520を構成する利得制御アンプ521〜523は、マイクロコンピュータ540から出力されたゲイン値Rゲイン、Gゲイン、Bゲインに基づいて、必要に応じてゲインが変更可能である。
利得制御アンプ521の入力には、原色分離回路501から出力された原色信号Rが供給され、マイクロコンピュータ540から出力されたRゲインを用いて増幅または減衰の利得が制御される。
利得制御アンプ522の入力には、原色分離回路501から出力された原色信号Gが供給され、マイクロコンピュータ540から出力されたGゲインを用いて増幅または減衰の利得が制御される。
また、利得制御アンプ523の入力には、原色分離回路501から出力された原色信号Bが供給され、マイクロコンピュータ540から出力されたBゲインを用いて増幅または減衰の利得が制御される。
【0027】
図8に示す色信号処理回路500の回路構成はフィードフォワード方式になっている。
一般に、WBアンプ520の利得制御アンプ521〜523の各出力信号をOPD530にフィードックし、そのレベルと原色分離回路501から出力された原色信号R,G,Bをそれぞれ比較し、その差信号に応じて制御信号を発生し、WBアンプ520を制御するフィードバック構成が多い。
これに対して、図8の色信号処理回路500はフィードフォワード構成であるので、フィードバック構成と比較して系の応答特性が改善される。
【0028】
次に、色信号処理回路500の動作について説明する。図8において、図7に示すシャッター機能付きセンサー420/AFE430から得られた画像信号が信号処理され、ディジタル信号として原色分離回路501に入力される。
原色分離回路501では入力されたディジタル信号がR(赤)、G(緑)、B(青)の原色信号に分離される。分離された原色信号R,G,BはWBアンプ520に入力される。原色分離されたR,G,B信号は、ホワイトバランス調整に利用するべく、オプティカルディテクタ(OPD)530にも供給される。OPD530はR,G,Bの各原色信号をフィールド毎に積分する積分回路を有する。
OPD530で得られた積分値データは、次段のマイクロコンピュータ540に供給される。マイクロコンピュータ540は、OPD530から供給されるR,G,B各積分値データを基に、R/GとB/Gのデータを出力し、R/G、B/Gとプリホワイトバランス調整値に基づいてR信号、G信号、B信号の各ゲインを設定する。これらの動作は、マイクロコンピュータまたはDSP(ディジタル信号演算装置)などによって実行される。
ここで、プリホワイトバランス調整とは、基準色温度下で基準の白色を決める調整のことを示す。
【0029】
次に、輝度状態と色状態に基づいて各カメラ装置の輝度/色を制御するオート補正機能について説明する。
C/Uからから受け取るデータは、前述したAEレベルとAWBの座標位置となる。単純なケースとしてC/Uはマスターとなるカメラ装置から、リファレンスデータを取り出してその値をそのまま他のカメラ装置に転送することで、色/輝度の調整が可能となる。
尚、C/Uは、各カメラ装置に対して輝度/色調整を実行する場合と実効しない場合のフラッグを送り調整モードを制御する。例えば、AEレベル/AWB座標位置として“0”を指定した場合は、オート補正を禁止するモードと定義し、C/Uはデータを“0”とする事で補正をOFF(オフ)する事が可能となる。一方、“0”以外のAEレベル/AWB座標位置の情報を転送した場合は、自動的に調整モードと判断し、調整を実行する。
【0030】
まず、図9を用いてAE(自動露光)制御装置600のオート補正の動作について説明する。このAE制御装置600は、マスターカメラ装置、その他のスレーブカメラ装置の全てに備えられている。
図9のAE制御装置600は、OPD(光検出器)610、評価値計算部620、エラー算出部630、ゲイン算出部640、露出補正自動計算部650で構成される。これらの構成のうち、評価値計算部620、エラー算出部630、ゲイン算出部640、露出補正自動計算部650の処理は、例えば上述したカメラ信号処理ブロックに内蔵されているマイクロコンピュータあるいはDSP等で行うことができ、またこれ以外にハードウェアーでも実現することができる。したがって、ここではいずれかを問わない。
【0031】
OPD610は、上述したように、原色分離された原色信号R,G,Bをフィールドまたはフレーム毎に積分して、その積分したデータに基づいて輝度信号を検出する。
評価値計算部620は、OPD610から出力された輝度信号と露出補正自動計算部650から出力された輝度信号のレベルをそれぞれ演算する。
エラー算出部630は、評価値計算部620から出力された輝度信号の評価値と露出補正自動計算部650から出力された輝度信号の評価値を比較演算しエラーを算出する。
ゲイン算出部640は、エラー算出された結果に基づいて、スレーブカメラ装置で補正すべく輝度信号量、すなわちAEレベルを求める。
露出補正自動計算部650は、ゲイン算出部640から出力されたAEレベル、例えばマスターカメラ装置から転送されたAEレベルとゲイン算出部640から供給されたAEレベルがそれぞれ供給されシャッターゲインが算出される。
【0032】
次に、図9に示したAE制御装置600の動作を説明する。このAE制御装置600は、通常の露光制御に、例えばマスターカメラ装置から受信したAEデータで微調整する機能を追加したものである。
現在の自己のカメラ装置(例えばスレーブカメラ装置)のAEレベルと、転送されて来たAEレベル(リファレンスデータ)の比により、露出補正レベルを加減算する方式とする。毎フレームゲイン算出した結果から、自己のカメラ装置のAEレベルを求めてカメラ装置内のRAMに格納する。
AE補正を行うための調整パラメータとして、例えば、露出補正レベルの最大範囲、露出補正レベルを可変するステップ、露出補正レベルを可変するフレーム周期、補正しないレベル差、不感帯幅などがあり、これらの値を状況に応じて適宜設定することができる。
自己のカメラ装置(例えばスレーブカメラ装置)の露出レベルの補正方法として、自己のカメラ装置のAEレベルとマスターカメラ装置から受け取ったAEレベルを比較して、露出補正のレベルを予め設定したステップ量だけ上げたり下げたりして調整する方法があり、また、補正しないレベル差(差が設定基準以下)であった場合や、フラッグを立てて、受け取ったAEレベルが“0”(補正OFF)であった場合は、ステップ量を“0”に近づける方向に調整する方法がある。
【0033】
補正すべきAEレベルが求まると、図5に示す露光状態を示すグラフからシャッターゲイン、ゲインレベルが決定され、これに基づいて輝度信号の制御が行われる。
図5に示したように、例えば明るさがh1の場合、AEレベルが“L6”であるから、シャッターゲインは“L4”、ゲインレベルは“L3”と求められ、シャッター機能付きセンサー420にシャッターゲイン“L4”に対応した制御信号が供給され、シャッター時間等が調整される。またAFE430とカメラ信号処理ブロック440にはゲイン“L3”に対応するアナログ制御電圧とディジタル制御電圧がそれぞれ供給され、利得が制御される。
次に、明るさがh2の場合、AEレベルが“L5”であるから、シャッターゲインは“L4”、ゲインレベルは“L1”と求められ、シャッター機能付きセンサー420にシャッターゲイン“L4”に対応した制御信号が供給され、シャッター時間等が調整される。
またAFE430とカメラ信号処理ブロック440にはゲイン“L1”に対応するアナログ制御電圧とディジタル制御電圧がそれぞれ供給され、利得が制御される。さらに、明るさがh3の場合も同様に制御される。
スレーブカメラ装置が複数台のとき、このような輝度状態の調整が他のスレーブカメラ装置においても単独に行われる。
スレーブカメラ装置の輝度は、マスターカメラ装置のリファレンスデータのAEレベルを基準に、自己のAEレベルを予め設定された補正割合に従って自動的に計算を行う。
この結果、後述の色信号調整と合わせて輝度調整することにより各カメラ装置で撮影された画像をC/Uを介して転送された後各画像を合成しても画像の接続部分の輝度/色信号のレベル差が無くなり違和感を減少することができる。
【0034】
図10に他の実施形態であるAWB制御装置700のブロック構成を示す。
このAWB制御装置700は、OPD710,R/G,B/G計算部720、座標補正自動計算部730、引込み枠判定部740、色温度推定部750、引込み処理部760、ゲイン設定部770で構成される。ここでOPD710以外はハードウェアーで構成することもできるが、マイクロコンピュータあるいはDSPなどの制御装置を用いたソフトウェアーで構成することができる。
R/G,B/G計算部720は、入力された色情報(信号)がソフトウェアーまたはハードウェアーで演算処理される。色情報の表現は色々あるが、例えば座標軸の一方にB/Gを他方にR/Gをとり、この座標上で色情報を表現する。
OPD710から供給された原色信号のR,G,B信号からR/GとB/G軸上で表現するための色情報が計算される。
【0035】
座標補正自動計算部730は、自己のカメラ装置(スレーブカメラ装置)から得られたR/G、B/Gの計算結果(座標位置)とマスターカメラ装置から転送されて来た座標位置(R/G、B/G)が供給され、両座標位置から補正量を自動的に計算する。
【0036】
引込み枠判定部740は、色座標(R/G、B/G)上に色調整時の制限枠が設けられていて、現在プリホワイトバランス調整に基づいた座標位置と転送されて来た座標位置の関係から入力画像の座標位置が補正され、この補正した値に関して引込みの制限枠内にあるか否かを判定する。
引込み制限枠内で有った場合は、その値から色温度推定計算へ進む。補正した値が引込み制限枠外の場合は、補正前の座標位置(OPD710から計算した座標位置)から引込み制限枠の判定を行い、その値から色温度推定を行う。
上述した引込み制限枠内は、その制限枠内を色調整の領域とし、制限枠外を無調整領域とする。この引込み制限枠として、色座標上に四角等の枠を設定する。
【0037】
色温度推定部750は、引込み枠判定部740から供給された補正色信号またはOPD710から出力された色信号が供給され、R/GとB/Gを座標軸とする色座標上に表された固体輻射カーブを用いて色温度を推定する。
【0038】
引込み処理部760は、色座標(R/G,B/G)上で入力された色信号が引込み制限枠内にあると、入力された座標位置から原点“O”方向へ引込み動作を行いホワイトバランスの調整を行う。一方引込み制限枠外にあるとき、通常のホワイトバランスの調整を行う。
【0039】
ゲイン設定部770は、引込み処理部760から出力された色信号に対して、ホワイトバランス(WBアンプ)520を構成する利得制御アンプ521〜523の利得を制御するためのゲインを出力する。
【0040】
次に図10のAWB制御装置700の動作について説明する。
AWB制御装置700は、通常のホワイトバランス制御に、マスターカメラ装置から受信したリファレンスデータで微調整する機能を追加している。
現在の自己のスレーブカメラ装置のプリホワイトバランス調整値に基づいた座標位置と、マスターカメラ装置からカメラ制御ユニットを介して転送されて来た座標位置の関係から、自分の座標位置を少し可変した後、引き込み枠の設定、色温度推定の順に処理する。
マスターカメラ装置から受け取ったR/Gデータを、受信R/Gデータとし、自己のスレーブカメラ装置のプリホワイトバランス調整値に基づいたR/Gデータを自R/Gデータと表記して、求めるR/Gの式を以下に示す。また、B/Gも同様な式にて計算し補正する。
【0041】
[数1]
自R/G+((受信R/G−自R/G)*(補正量の最大割合/255))
自B/G+((受信B/G−自B/G)*(補正量の最大割合/255))…(1)
ここで*印は乗算記号を表す。
【0042】
式(1)で補正量の最大割合は0〜255まで任意に変更することができ、補正幅を例えば5ステップ、10ステップ、・・・、と変えることができる。
式(1)で補正量の最大割合が0の時、補正結果は自R/Gと自B/Gととなり、自己のスレーブカメラの補正は行われない。
補正量の最大割合が128(50%)の時、補正結果は自R/G+(1/2)*(受信R/G−自R/G)、自B/G+(1/2)*(受信B/G−自B/G)となる。これは、自己のカメラ装置で得られた色座標上の座標位置とマスターカメラ装置から転送された座標位置の中間(50%補正)位置を補正量としたときの色信号の値である。
また補正量の最大割合が255(100%)の時、補正結果は自R/G+((受信R/G−自R/G)、自B/G+((受信B/G−自B/G)となる。
【0043】
補正された色信号は、引き込み枠判定部740で、引込み枠の領域内にあるかあるいはその領域外にあるかが判断される。
補正された色信号の座標が引込み制限枠内の場合は、その値から色温度の推定計算へ進む。一方、補正された色信号の座標が引込み制限枠外の場合は、補正前の座標位置(もともとの自己のスレーブカメラ装置のOPD710から計算した座標位置)から引込み制限枠判定を行い、その値から色温度推定をするものとする。
色温度推定された後引込み処理が行われ、その結果ゲイン設定が行われる。ゲインが設定されると、図8に示すマイクロコンピュータ540等でRゲイン、Gイン、Bゲインの各制御信号を発生して、WBアンプ520を構成する利得制御アンプ521〜523に供給され利得の制御が行われ、ホワイトバランス調整が行われる。
このように、リファレンスデータを基準に各スレーブカメラ装置で色調整行われることにより、各カメラ装置で撮像された画像を合成した場合の色味の違和感を減少することができる。
【0044】
AE制御装置600とAWB制御装置700は各カメラ装置に備えられていて、車内にC/U(103,250,330)が設置してある。各カメラ装置は車両に搭載される場合、任意の位置に設置することができ、図2(a)はFront(前方)、Side−L(左)、Side−R(右)、Rear(後方)にそれぞれ設置した例である。しかし設置するカメラ装置の位置は必ずしもこの位置に限定する必要はない。また、設置する台数を4台でなく、少なくとも2台以上であれば良い。
このように、カメラ装置を少なくとも2台以上の複数台とし、このカメラ装置を移動体例えば車両、船舶、航空機等に搭載し、そのうちの1台のカメラ装置をマスターカメラ装置とする。マスターカメラ装置は図2(a)に示すように、必ずしも車両の前面に設置したカメラ装置に限定する必要はなく、例えばRear(後方)に設置されたカメラ装置をマスターとして良い。
車両が後進する時に、Rearのカメラ装置をマスターとして使用することができ、後方の画像を基準にした画像を合成することができる。
【0045】
また、これ以外に例えばSide−LとSide−Rのカメラ装置の2個をマスターと設定することができる。2個のカメラ装置をマスターとしたときのリファレンス(基準)データは、Side−LとSide−Rのカメラ装置から得られた輝度/色信号を平均化したものを用いる。この平均化したリファレンスデータを基準に他のスレーブカメラ装置例えばFrontカメラ装置、Rearカメラ装置の輝度/色を補正する。
したがって、マスターカメラ装置は補正前から固定される必要はなく、車両の場合進行方向に応じたギヤ度の切り替えに伴い逐次設定することもできる。
【0046】
また、マスターカメラ装置は、必ずしも決定する必要はなく、マスターカメラ装置を設定しない時、全てのカメラ装置を同じ補正量に設定しても良い。
さらに、C/U側でマスターカメラ装置から転送されたデータを加工して各カメラ装置にデータを出力することも可能であるので、全てのカメラ装置に対して同じ色/輝度のデータを送信することにより、全てのカメラ装置の色/輝度の制御値を同じにすることが出来る。
【0047】
以上述べたように、本発明では、それぞれのカメラ装置は適正に制御されて、見やすい画像が出力され、また、画像の接合部分において、色と明るさの違和感を減少させることができる。
これらのことを実現させ、上記2つのバランスとしてどちらに重点を置きたいのか選択でき、またその調整を可能とする構成にすることにより、色/輝度の調整は、各カメラ装置内で独立して制御動作を行い、各カメラ装置は取り付け位置を認識すること無く単独に制御することができる。
カメラ装置自体が移動体や場所の異なる位置に配置されたカメラ装置に関係なく動作することが出来、接続台数を限定することなく、色/輝度の調整が出来る。
また、C/Uから受け取るデータは、色/輝度のデータのみとすることにより、カメラ装置とC/U間の通信負荷を少なくすることが出来る。
【符号の説明】
【0048】
100,300…カメラシステム、200…車載(移動体)カメラシステム、101,102,251〜254,310,320,400…カメラ装置、103,250,330,450…カメラ制御(コントロール)ユニット(C/U,Camera Control Unit)、261〜264…バッファ回路、265…切り出し&合成回路、270…表示装置、410…レンズ、420…シャッター機能付きセンサー、430…アナログフロントエンド(AFE;Analog Front End)、440…カメラ信号処理ブロック、460,540…マイクロコンピュータ、500…色信号処理回路、501…原色分離回路、520…WB(ホワイトバランス)アンプ、521〜523…利得制御アンプ、530,610,710…オプティカルディテクタ(OPD、光検出器)、600…自動露光(AE)制御装置、620…評価値計算部、630…エラー算出部、640…ゲイン算出部、650…露出補正自動計算部、700…オートホワイトバランス(AWB)制御装置、730…座標補正自動計算部、740…引込み枠判定部、750…色温度推定部、760…引込み処理部、770…ゲイン設定部、800…画像合成表示装置、813…画像抽出合成部、814…補正信号発生手段、815…画像補正手段、816…モニタ装置、820…画像合成表示装置、821〜828…画像メモリ。
【技術分野】
【0001】
本発明は、カメラシステムおよび移動体カメラシステムに関し、特に移動体に複数台の撮像装置を設け、この複数台の撮像装置に基準撮像装置を設定し、基準撮像装置のリファレンスデータを制御ユニットを介して他の撮像装置に転送し、リファレンスデータに基づいて他の撮像装置は単独に画像処理し、制御ユニットを介して画像を合成して合成画像の画質を向上するカメラシステムおよび移動体カメラシステムに関する。
【背景技術】
【0002】
図11に特許文献1(特許第3297040号)に開示された従来例の車載カメラ装置の画像合成表示装置800を示す。この画像合成表示装置800において、各カメラCAM1〜CAM8(801〜808)の出力は車両内部の画像合成表示装置820に接続されている。画像合成表示装置820はモニタ装置816に接続されている。また、各カメラCAM1〜CAM8(801〜808)の撮影領域は互いに重複するように設定されている。
画像合成表示装置820は、各カメラCAM1〜CAM8(801〜808)から供給された画像を記憶する画像メモリ821〜828が設けられ、この画像メモリ821〜828が画像抽出合成部813に接続され、その出力が補正信号発生手段814と画像補正手段815に接続される。補正信号発生手段814は画像補正手段815に接続され、画像抽出合成部813から供給された制御信号により画像抽出合成部813から出力された合成画像を補正してモニタ装置816に出力する。
各カメラCAM1〜CAM8(801〜808)から出力された画像は各画像メモリ821〜828にそれぞれ記憶され、その画像が画像抽出合成部813に出力される。画像抽出合成部813で画像メモリ821〜828から供給された各画像の補正ゲインを求め、画像補正手段815で補正ゲイン係数に基づいて合成画像を補正する。
このように、特許文献1においては、各カメラCAM1〜CAM8(801〜808)で画像補正を行うのでなく、カメラ制御ユニットに相当する画像合成表示装置820で各カメラから供給された画像を補正している。
【0003】
移動体、例えば自動車の運転者にとってバックするときの後方視認は難しく、死角が生じる。また、前方走行中であっても、併走している車両がドアミラーに隠れる位置に来ると、併走車が運転者の視界から消えてしまう。
このため、近年では、運転者の死角に位置する自車近傍周りを監視する車載カメラを搭載し、その撮像画像をカーナビゲーション用の表示画面に表示する様になってきている。
さらに、複数台のカメラ装置を接続した時に、画像合成した画像の共通部分を認識し、隣接するカメラ画像間の輝度や色味の差異を小さくする技術も開示されている。
【先行技術文献】
【特許文献】
【0004】
【特許文献1】特許第3297040号公報
【発明の概要】
【発明が解決しようとする課題】
【0005】
しかしながら、車両に搭載される複数の車載カメラ装置は、同一機種のカメラが使用されるが、配置される位置や撮像する被写体の違いによって、輝度や色味のバランスはカメラ毎に異なってしまい、運転者にとって視認しづらい表示画面となってしまう。
また、一般に設置場所が異なりかつ撮影対象が異なる複数のカメラ装置を有するカメラシステムにおいて、複数のカメラ装置で撮影した画像を合成したとき、画像間の繋ぎ目において輝度と色味の違いが顕著に見られる。それぞれのカメラ装置の露光時間やゲインを同じレベルで制御すれば、カメラ装置間の色/明るさの違いは吸収されるが、本来別々に制御していたら見えていたはずの部分が見えなくなる問題がある。
例えば、図11のCAM1(801)の被写体が日陰で、CAM2(802)の被写体が日向の場合で、CAM1(801)の露光時間やゲインと同じレベルでCAM2(802)を制御した場合、CAM2(802)の画像は白飛びしてしまい、画像の認識が出来なくなってしまう。
【0006】
また、特許文献1で開示されている様に、画像合成表示装置820内に各カメラCAM1〜CAM8(801〜808)からの出力信号を記憶する画像メモリ821〜828を設け、各カメラ装置からの画像を記憶して各カメラ装置の重複する撮像領域を記憶する必要があり、カメラ装置の取り付け位置によって、重複する撮像領域を変更する必要がある。
上記問題に鑑みて、本発明の目的は各カメラ装置の取り付け位置を問わずカメラ画像合成時に隣接するカメラとの輝度や色の調整ができるようにすることである。
また、輝度や色は各カメラ装置で単独に調整され、車両内や特定の場所に備えられたC/U(Camera Control Unit;カメラコントロールユニット)では、マスター(基準)とするカメラ装置から輝度と色信号のリファレンスデータを受信し、他のカメラ装置に転送することで、C/Uの負荷を削減することができる。
【課題を解決するための手段】
【0007】
本発明の移動体カメラシステムは、移動体と、上記移動体に設置され、画像信号を調整する信号処理部を有する複数台のカメラ装置と、上記複数台のカメラ装置の中から基準とする第1のカメラ装置を任意に選択し、該第1のカメラ装置からリファレンスデータが供給され、第2のカメラ装置の画像信号を補正するためのリファレンスデータを上記第2のカメラ装置に転送するカメラ制御ユニットと、リファレンスデータに基づき上記第2のカメラ装置は各カメラ装置に入力された画像信号を単独に補正し、上記第1のカメラ装置と上記第2のカメラ装置から出力された画像が合成され、該合成画像が表示される表示装置とを有する。
本発明のカメラシステムは、第1のカメラ装置と第2のカメラ装置とを有し、上記第1のカメラ装置は撮像した画像から得られたリファレンスデータを上記第2のカメラ装置に送り、上記第2のカメラ装置は撮像した画像と上記リファレンスデータとを基に補正画像を生成し、上記記第1のカメラ装置からの第1の画像と上記補正画像とを制御手段により合成して合成画像を生成することを特徴とする。
【発明の効果】
【0008】
本発明では、それぞれのカメラ装置は適正に制御されて、見やすい合成画像が出力される。また、画像の接合部分において、色と明るさの違和感をなくすることができる。
また、上記2つのバランスとしてどちらに重点を置くかの選択、調整ができる構成にすることにより、色/輝度の調整は、各カメラ装置内で単独に制御を行い、各カメラ装置は取り付け位置を認識する事無く独立に制御をすることができる。
【図面の簡単な説明】
【0009】
【図1】カメラシステムの最小ブロック構成を示す図である。
【図2】車載(移動体)カメラ装置のシステム構成を示す概要図である。
【図3】車載カメラ装置で合成された画像合成図を模式的に示した図である。
【図4】2台接続したカメラシステムのブロック構成を示す図である。
【図5】カメラ装置の露光状態と利得の関係を示すグラフである。
【図6】色座標上の色信号に対する座標位置を示す図である。
【図7】カメラ装置のブロック構成を示す図である。
【図8】図7に示すカメラ装置の色信号処理ブロックの回路構成を示す図である。
【図9】カメラ装置の自動露光制御装置のブロック構成を示す図である。
【図10】カメラ装置の自動ホワイトバランス装置のブロックの構成を示す図である。
【図11】従来例のカメラ装置の画像合成表示装置のブロック構成を示す図である。
【発明を実施するための形態】
【0010】
図1に本発明のカメラシステムの実施形態例の一つである移動体カメラシステムを示す。図1に示すカメラシステム100はその最小構成例を示す。
Cam(カメラ装置)―1(101)とCam(カメラ装置)−2(102)がCamera Control Unit(C/U:カメラコントロールユニット:カメラ制御部)103に接続される。
いま仮に、Cam−1装置(101)を基準(マスター)カメラ装置とし、Cam−2装置(102)を被調整用スレーブカメラ装置とする。Cam−1装置(101)、Cam−2装置(102)でそれぞれ被写体を撮影した後、C/U103はマスターカメラ装置に設定したCam−1装置(101)からリファレンスデータ(輝度/色状態)を受信してその値をそのまま他のスレーブカメラ装置のCam−2装置(102)に転送する。Cam−2装置(102)では、リファレンスデータを受信し、このリファレンスデータを基に画像を調整する。
リファレンスデータとして、例えば輝度信号や色信号がある。スレーブカメラ装置のCam−2装置(102)で、輝度信号を用いて、シャッタースピードの調整やAFE(アナログフロントエンド)の利得制御装置のゲインを制御し、また色信号を用いてDSPの色信号処理回路のAWB(オートホワイトバランス)アンプの利得を調整して色調整を行う。
【0011】
図2に本発明の他の実施形態である移動体を車両とした場合の車載(移動体)カメラシステム200のブロック構成を示す。
図2(a)に、車両210のフロントにカメラ装置Cam1(Front)、左側にカメラ装置Cam2(Side−L)、右側にカメラ装置Cam3(Dide−R)、後方にカメラ装置Cam4(Rear)を装着したときの車載カメラシステム200の構成を示す。
ここではカメラ装置Cam1〜Cam4の4台で構成された例を示すが、図1に示したように、カメラ装置は基本的に2台以上で構成される場合に適用される。また、各カメラ装置Cam1〜Cam4の取付位置や接続位置は図2に示した位置に限定されない。
【0012】
図2(a)に示した車載カメラシステム200のブロック構成を図2(b)に示す。図2(b)の車載カメラシステム200は、車両に搭載されたカメラ装置Cam−1(251)〜カメラ装置Cam−4(254)と、C/U(カメラコントロールユニット)250、表示装置270で構成されている。
また、C/U250はバッファ回路261〜264と切り出し&(アンド)合成回路265で構成されている。
【0013】
カメラ装置Cam−1(251)〜Cam−4(254)は、自動露光制御(以下、AEとも記載する)/オートホワイトバランス制御(以下、AWB制御とも記載する)等が搭載され、カメラ毎に輝度の制御/色の制御が可能である。
各カメラ装置Cam−1(251)〜Cam−4(254)には、現在のAEの状態と現在のAWBの状態を通知する機能と、C/U250からAEとAWBのリファレンスデータを受信する機能を備える。
C/U250は、各カメラ装置Cam−1(251)〜Cam−4(254)から出力される画像を蓄えるためのBuffer(バッファまたはメモリ)を備え、各カメラ装置Cam−1(251)〜Cam−4(254)の画像の表示部分の切り出しと合成を行う機能を備える。
ここで合成された画像は、カーナビゲーション等の表示装置270、例えばモニタに表示される。
またC/U250は、各カメラ装置Cam−1(251)〜Cam−4(254)から現在のAEの状態と現在のAWBの状態を読み出す機能と、各カメラ装置Cam−1(251)〜Cam−4(254)にAEのリファレンス値(データ)とAWBのリファレンス値(データ)を送信する機能を備える。
【0014】
図3に合成された画像の例を示す。この合成した画像は、図2(a)に示すカメラ装置を4台接続した場合の例である。この画像を合成するためのカメラ装置の台数や画像の切り出し位置、合成方法については限定しない。また、図3の合成画像は車両画像を中心に各カメラ装置に対応した位置に画像が表示されているが、C/U250を用いて画像位置を変更し、また全体画像の回転などを行うことができる。
なお、例えば、マスターとするカメラ装置Cam−1(251)で撮影されたリファレンスデータ生成用の画像と、このカメラ装置Cam−1(251)からの合成画像生成用の画像とは、同じでも、異なってもよい。
【0015】
図4に、最小構成として2台のカメラ装置310,320を有するカメラシステム300を示す。図4において、実際はカメラ装置が4台構成や5台構成となるが、構成別の制御は上位装置であるC/U330にて制御が可能となる制御方式としているため、ここでは2台構成で説明する。
このカメラシステム300において、一方のカメラ装置(Cam−1(310))をマスターとし、他方のカメラ装置(Cam−2(320))をスレーブとした時の動作を説明する。ただし、マスターカメラ装置310は一義的に決めるのではなく、C/U330でその時、場所などの条件に応じて適宜変更することができる。
C/U330の動作は、マスターであるカメラ装置Cam−1(310)の撮像信号を受信し、リファレンスデータとしてスレーブのカメラ装置Cam−2(320)に送信する。この動作を一定周期で実行する。
また、C/U330は、マスターであるカメラ装置Cam−1(310)に対してリファレンスデータ“0”(補正なし)を転送することもできる。
このとき、スレーブのカメラ装置Cam−2(320)の状態を検出する必要はないため、通信は必ずしも必要ではない。しかし、スレーブ/マスターが切り替わったりした場合には、補正なしの“0”信号を送信する必要がある。
【0016】
カメラ装置Cam−1(310)は、補正なしの指定であるため、AE/AWBでは何も補正されず通常の動作が行われる。
一方、カメラ装置Cam−2(320)は、カメラ装置Cam−1(310)の状態が、補正用リファレンスデータとして受信されるので、その値を加味した補正がオート制御に組み込まれる。
カメラ装置Cam−1(310)から出力されたリファレンスデータとカメラ装置Cam−2(320)から出力された画像をC/U330を介して画像を合成する。
なお、マスターであるカメラ装置Cam−1(310)で撮影されたリファレンスデータ生成用の画像と、このカメラ装置Cam−1(310)からの合成画像生成用の画像とは、同じでも、異なってもよい。
【0017】
次に、カメラ装置が複数台(ここでは4台接続されている事を想定)接続された車載(移動体)カメラシステムの場合の動作について図2を用いて説明する。
車が前進している場合、運転手にとって、一番写したい(モニタで確認したい)場所は、Front(前方)の位置である。
この場合、C/U250は、Frontカメラ装置Cam1(251)をマスター(基準)とし、Side−L(左)カメラ装置Cam−2(252)/Side−R(右)カメラ装置Cam−3(253))/Rear(後方)カメラ装置Cam−4(254)をスレーブとし、Front(前方)カメラ装置Cam−1(251)の色/輝度のデータを、Side−L/Side−R/Rearの各カメラ装置に送信する。
Side−Lカメラ装置Cam−2(252)/Side−Rカメラ装置Cam−3(253)/Rearカメラ装置Cam−4(254)は、Frontカメラ装置Cam1(251)の色/輝度データをリファレンスデータとしC/U250を介して受信し、各カメラ装置内のカメラ信号処理ブロックで、色/輝度を調整する。
ここで、Rearカメラ装置Cam−4(254)に対しては、Side−Lカメラ装置Cam−2(252)/Side−Rカメラ装置Cam−3(253)のデータの平均値をマスターデータとすることもできる。
【0018】
カメラ装置としては取り付け位置の判断を行わずに制御をかけるため、C/U250側で、マスターカメラ装置Cam1(251)の選択、スレーブカメラ装置の選択を行い、スレーブカメラ装置に送信するリファレンスデータの生成を自由に行うことができる。
また、C/U250側では、車のギア(車が前進しているのか、後進しているのか)をマスターカメラ装置Cam1(251)の選択の判断材料とすることや、車が前進している時は、Frontカメラ装置Cam1(251)をマスターと判断することや、後進している時は、Rearカメラ装置Cam−4(254)をマスターと判断することができる。
さらに、全て同じカメラ装置が取り付けられている場合、全てのカメラ装置をスレーブとして、同じ色/輝度のデータを送信し、全てのカメラ装置の制御値を同じにすることもできる。
このように、本移車載カメラシステム200では、C/U250では画像の信号処理、輝度/色信号の調整は行わないで、各スレーブカメラ装置で単独に調整するシステム構成としている。
これまで、車載カメラシステムについて述べてきたが、本発明は車両などの移動体カメラシステムに限定するものではない。移動体以外のシステムにも明らかに適用することができ、例えば、屋内、屋外に上述した複数のカメラ装置を備えたカメラシステムを構築し、色と輝度の違和感のない画像を合成することができる。
なお、例えば、マスターとするカメラ装置Cam1(251)で撮影されたリファレンスデータ生成用の画像と、このカメラ装置Cam1(251)からの合成画像生成用の画像とは、同じでも、異なってもよい。
【0019】
次に、図2と図5を用いてカメラ装置単体の基本的な制御原理について述べる。各カメラ装置は、C/U250から転送されたリファレンスデータを受信し、この受信したリファレンスデータに基づき各カメラ装置内で単独に輝度、色調整を行い、調整した画像をC/U250に転送する。その後、各カメラ装置から転送された画像が合成されて不図示の表示装置に出力し、合成画像が表示される。
C/U250はマスターカメラ装置251からスレーブカメラ装置252〜254にリファレンスデータを転送するが、この他に状態通知機能なども有している。
この状態通知機能に関するデータは、自発的に通知するパスは通信仕様上存在しないため、状態をカメラ装置(251〜254)内のバッファ回路261〜264、例えばRAM(Random Access Memory)等に格納しておき、一定周期にC/U250が参照する。
カメラ装置内のRAMへ格納するデータとして、露光状態と色状態を示すデータがある。
【0020】
次に露光状態について述べる。露光状態としてのAE(自動露光)レベルは以下の式で表される。
AEレベル=シャッターゲイン+ゲインレベル
このAEレベルの具体的な特性を図5に示す。
図5に、AEレベル、シャッターゲイン、ゲインレベルの関係を示し、横軸を露光状態(明るさ)、縦軸をAEレベル、シャッターゲイン、AFEの利得制御装置のゲインとする。
シャッターゲインは明るさh2まではレベルL4と一定であるが、h2からh3になると直線的に減少し、h3になるとレベルL2となる。このシャッターゲインにより受光素子の露光時間が制御される。
一方、AFEとディジタル信号処理回路の利得を制御するゲインレベルは、明るさh1からh2までレベルL3からL1へと直線的に減少するが、明るさh2からh3までは一定レベルL1となる。
マスターカメラ装置251で、AEレベルが測定されると、それに対応してシャッターゲインとAFEとディジタル信号処理回路の利得制御のゲインレベルが求まる。すなわち、明るさh1のときAEレベルはL6で、シャッターゲインはL4、AFEのゲインはL3である。このシャッターゲインL4とAFEのゲインL3がリファレンスデータの輝度情報としてC/Uを介してスレーブカメラ装置252〜254に転送される。
明るさh2では、AEレベルはL5で、シャッターゲインはL4、AFEのゲインはL1であり、明るさh3では、AEレベルはL3で、シャッターゲインはL2、AFEのゲインはL1となる。
このように、マスターカメラ装置251で測定したAEレベルからシャッターゲイン、AFEのゲインがリファレンスデータとして求められ、このリファレンスデータがC/U250を介してスレーブカメラ装置252〜254に転送される。
そして、各カメラ装置はこのリファレンスデータに基づき、各カメラ装置内で単独にAEレベルを調整する。
【0021】
次に、リファレンスデータとして輝度信号以外に色(信号)状態を用いた例を示す。プリホワイトバランス調整後、新たな撮影画像をカメラ装置のOPD(光検出器)でAWB調整を行うため、プリホワイトバランス調整値に基づいたR/G、B/G座標を格納しておく。ただしプリホワイトバランスは各カメラ装置251〜254で基準白色を撮影し、AWB調整しかつその時に得られる各利得制御回路の調整データ例えばゲイン情報を記憶装置に格納し、各カメラ装置の製造ばらつきを無くする。
【0022】
次に、色(信号)状態のグラフを図6に示す。色座標として、横軸をR/Gとし、縦軸をB/Gとする。ここで、R,G,Bは原色分離回路で得られた画素信号とし、Rは画素の赤信号、Bは画素の青信号、Gは画素の緑信号をそれぞれ示す。
図6は、各カメラ装置(Cam1(251)〜Cam4(254))のOPD(光検出器)で得られたAWB(オートホワイトバランス)の、プリホワイトバランス調整に基づいたR/G、B/G座標に変換した色状態を示す。この座標変換して得られた値は、各カメラ装置(Cam1(251)〜Cam4(254))で異なり、座標上で異なる位置にある。
【0023】
図7に、本発明における他の実施形態である各カメラ(撮像)装置400のブロック構成を示す。
カメラ装置400は、レンズ410、シャッター機能付きセンサー420、AFE(アナログフロントエンド)430、カメラ信号処理ブロック440、C/U(カメラコントロールユニット)450、マイクロコンピュータ460等で構成される。
レンズ410は、外部からの光を集光し、撮像素子上へ画像を結像する。シャッター機能付きセンサー420は、撮像素子で光を電気信号に変換し、また電子シャッターにより、電荷の蓄積時間を可変する。
AFE430は、相関2重サンプリング回路によりノイズを除去し、AGC(自動利得制御)とセンサーから入力されたアナログ信号をディジタル信号に変換する。
カメラ信号処理ブロック440は、センサーから供給された入力信号を映像信号に変換する。
C/U450は、カメラ信号処理ブロック440から映像信号と同期(SYNC)信号が供給され、マスターカメラ装置を設定(選択)したり、マスターカメラ装置から転送された輝度/色信号に関するリファレンスデータをスレーブカメラ装置に送信したりし、この他各カメラ装置から送られた画像を合成する機能を有する。また各カメラ装置の制御は、マイクロコンピュータ460と通信することにより行われる。
マイクロコンピュータ460は、シャッター機能付きセンサー420、AFE430、カメラ信号処理ブロック440に接続され、C/U450から供給されたリファレンスデータに関連した制御信号をスレーブカメラ装置に送り、各スレーブカメラ装置は単独で輝度/色信号を制御する。
【0024】
次に、上述した露光状態/色状態を示すリファレンスデータを用いたカメラ装置400の動作について述べる。
露光状態のシャッターゲインは、図7のシャッター機能付きセンサー420の電子シャッターの制御値を示し、ゲインレベルは、AFE430のAGCの制御値とカメラ信号処理ブロック(440)内に持つディジタルゲインアンプの制御値を示す。
マスターカメラ装置から供給されたリファレンスデータがC/U450を介して他のカメラ装置のマイクロコンピュータ460に転送されると、マイクロコンピュータ460は、露光状態に対応するシャッターゲイン、ゲインレベルを発生し、シャッター機能付きセンサー420にシャッターゲインを制御する制御信号を供給して図5に示す電子シャッターのゲイン(期間)を調整する。
また、マイクロコンピュータ460は、AFE430のAGC回路にゲインレベルの制御電圧を供給して利得を制御し、あるいはカメラ信号処理ブロック440にゲインレベルの制御信号を供給してディジタル信号処理回路のディジタルゲインを制御する。
また、色状態を示すリファレンスデータもカメラ信号処理ブロック440に供給されて、色処理回路を調整する。
このように、C/U250で合成画像の輝度、色調整を行うのではなく、各カメラ装置内で基準カメラ装置からC/U250を介して転送されて来たリファレンスデータを用いて輝度、色信号の調整を行う。
【0025】
図8は、図7に示したカメラ信号処理ブロック440の一部を構成する色信号処理回路500のブロック構成図である。
色信号処理回路500は、原色分離回路501、WB(ホワイトバランス)アンプ520、OPD(オプティカルディテクタ;光検出器)530、マイクロコンピュータ540で構成される。また、WBアンプ520は原色R,G,Bの利得を制御する利得制御アンプ521〜523で構成される。
原色分離回路501は、AFE430に設けられたAD(アナログ・ディジタル)変換器から出力されたディジタル信号を、それぞれ赤、青、緑の原色信号R,G,Bに分離し、これらの原色信号R,G,Bをそれぞれ利得制御アンプ521〜523に出力する。
また、原色信号R,G,Bは、ホワイトバランス調整するため、OPD530にも供給される。
【0026】
OPD530は、原色信号R,G,Bをフィールドまたはフレーム毎に積分する回路を有する。このため、OPD530は、原色信号R,G,Bのたとえばフィールド単位の積分値データIntgR,IntgG,IntgBを求め、これらの積分値データIntgR,IntgG,IntgBをマイクロコンピュータ540に出力する。
マイクロコンピュータ540は、内蔵や外部メモリを有し、これらのメモリから読み出されたプログラムに従って、座標変換、色温度の引き込み枠設定とその制御、色温度制御、R,G,B毎のゲイン設定などの処理を実行する。
WBアンプ520を構成する利得制御アンプ521〜523は、マイクロコンピュータ540から出力されたゲイン値Rゲイン、Gゲイン、Bゲインに基づいて、必要に応じてゲインが変更可能である。
利得制御アンプ521の入力には、原色分離回路501から出力された原色信号Rが供給され、マイクロコンピュータ540から出力されたRゲインを用いて増幅または減衰の利得が制御される。
利得制御アンプ522の入力には、原色分離回路501から出力された原色信号Gが供給され、マイクロコンピュータ540から出力されたGゲインを用いて増幅または減衰の利得が制御される。
また、利得制御アンプ523の入力には、原色分離回路501から出力された原色信号Bが供給され、マイクロコンピュータ540から出力されたBゲインを用いて増幅または減衰の利得が制御される。
【0027】
図8に示す色信号処理回路500の回路構成はフィードフォワード方式になっている。
一般に、WBアンプ520の利得制御アンプ521〜523の各出力信号をOPD530にフィードックし、そのレベルと原色分離回路501から出力された原色信号R,G,Bをそれぞれ比較し、その差信号に応じて制御信号を発生し、WBアンプ520を制御するフィードバック構成が多い。
これに対して、図8の色信号処理回路500はフィードフォワード構成であるので、フィードバック構成と比較して系の応答特性が改善される。
【0028】
次に、色信号処理回路500の動作について説明する。図8において、図7に示すシャッター機能付きセンサー420/AFE430から得られた画像信号が信号処理され、ディジタル信号として原色分離回路501に入力される。
原色分離回路501では入力されたディジタル信号がR(赤)、G(緑)、B(青)の原色信号に分離される。分離された原色信号R,G,BはWBアンプ520に入力される。原色分離されたR,G,B信号は、ホワイトバランス調整に利用するべく、オプティカルディテクタ(OPD)530にも供給される。OPD530はR,G,Bの各原色信号をフィールド毎に積分する積分回路を有する。
OPD530で得られた積分値データは、次段のマイクロコンピュータ540に供給される。マイクロコンピュータ540は、OPD530から供給されるR,G,B各積分値データを基に、R/GとB/Gのデータを出力し、R/G、B/Gとプリホワイトバランス調整値に基づいてR信号、G信号、B信号の各ゲインを設定する。これらの動作は、マイクロコンピュータまたはDSP(ディジタル信号演算装置)などによって実行される。
ここで、プリホワイトバランス調整とは、基準色温度下で基準の白色を決める調整のことを示す。
【0029】
次に、輝度状態と色状態に基づいて各カメラ装置の輝度/色を制御するオート補正機能について説明する。
C/Uからから受け取るデータは、前述したAEレベルとAWBの座標位置となる。単純なケースとしてC/Uはマスターとなるカメラ装置から、リファレンスデータを取り出してその値をそのまま他のカメラ装置に転送することで、色/輝度の調整が可能となる。
尚、C/Uは、各カメラ装置に対して輝度/色調整を実行する場合と実効しない場合のフラッグを送り調整モードを制御する。例えば、AEレベル/AWB座標位置として“0”を指定した場合は、オート補正を禁止するモードと定義し、C/Uはデータを“0”とする事で補正をOFF(オフ)する事が可能となる。一方、“0”以外のAEレベル/AWB座標位置の情報を転送した場合は、自動的に調整モードと判断し、調整を実行する。
【0030】
まず、図9を用いてAE(自動露光)制御装置600のオート補正の動作について説明する。このAE制御装置600は、マスターカメラ装置、その他のスレーブカメラ装置の全てに備えられている。
図9のAE制御装置600は、OPD(光検出器)610、評価値計算部620、エラー算出部630、ゲイン算出部640、露出補正自動計算部650で構成される。これらの構成のうち、評価値計算部620、エラー算出部630、ゲイン算出部640、露出補正自動計算部650の処理は、例えば上述したカメラ信号処理ブロックに内蔵されているマイクロコンピュータあるいはDSP等で行うことができ、またこれ以外にハードウェアーでも実現することができる。したがって、ここではいずれかを問わない。
【0031】
OPD610は、上述したように、原色分離された原色信号R,G,Bをフィールドまたはフレーム毎に積分して、その積分したデータに基づいて輝度信号を検出する。
評価値計算部620は、OPD610から出力された輝度信号と露出補正自動計算部650から出力された輝度信号のレベルをそれぞれ演算する。
エラー算出部630は、評価値計算部620から出力された輝度信号の評価値と露出補正自動計算部650から出力された輝度信号の評価値を比較演算しエラーを算出する。
ゲイン算出部640は、エラー算出された結果に基づいて、スレーブカメラ装置で補正すべく輝度信号量、すなわちAEレベルを求める。
露出補正自動計算部650は、ゲイン算出部640から出力されたAEレベル、例えばマスターカメラ装置から転送されたAEレベルとゲイン算出部640から供給されたAEレベルがそれぞれ供給されシャッターゲインが算出される。
【0032】
次に、図9に示したAE制御装置600の動作を説明する。このAE制御装置600は、通常の露光制御に、例えばマスターカメラ装置から受信したAEデータで微調整する機能を追加したものである。
現在の自己のカメラ装置(例えばスレーブカメラ装置)のAEレベルと、転送されて来たAEレベル(リファレンスデータ)の比により、露出補正レベルを加減算する方式とする。毎フレームゲイン算出した結果から、自己のカメラ装置のAEレベルを求めてカメラ装置内のRAMに格納する。
AE補正を行うための調整パラメータとして、例えば、露出補正レベルの最大範囲、露出補正レベルを可変するステップ、露出補正レベルを可変するフレーム周期、補正しないレベル差、不感帯幅などがあり、これらの値を状況に応じて適宜設定することができる。
自己のカメラ装置(例えばスレーブカメラ装置)の露出レベルの補正方法として、自己のカメラ装置のAEレベルとマスターカメラ装置から受け取ったAEレベルを比較して、露出補正のレベルを予め設定したステップ量だけ上げたり下げたりして調整する方法があり、また、補正しないレベル差(差が設定基準以下)であった場合や、フラッグを立てて、受け取ったAEレベルが“0”(補正OFF)であった場合は、ステップ量を“0”に近づける方向に調整する方法がある。
【0033】
補正すべきAEレベルが求まると、図5に示す露光状態を示すグラフからシャッターゲイン、ゲインレベルが決定され、これに基づいて輝度信号の制御が行われる。
図5に示したように、例えば明るさがh1の場合、AEレベルが“L6”であるから、シャッターゲインは“L4”、ゲインレベルは“L3”と求められ、シャッター機能付きセンサー420にシャッターゲイン“L4”に対応した制御信号が供給され、シャッター時間等が調整される。またAFE430とカメラ信号処理ブロック440にはゲイン“L3”に対応するアナログ制御電圧とディジタル制御電圧がそれぞれ供給され、利得が制御される。
次に、明るさがh2の場合、AEレベルが“L5”であるから、シャッターゲインは“L4”、ゲインレベルは“L1”と求められ、シャッター機能付きセンサー420にシャッターゲイン“L4”に対応した制御信号が供給され、シャッター時間等が調整される。
またAFE430とカメラ信号処理ブロック440にはゲイン“L1”に対応するアナログ制御電圧とディジタル制御電圧がそれぞれ供給され、利得が制御される。さらに、明るさがh3の場合も同様に制御される。
スレーブカメラ装置が複数台のとき、このような輝度状態の調整が他のスレーブカメラ装置においても単独に行われる。
スレーブカメラ装置の輝度は、マスターカメラ装置のリファレンスデータのAEレベルを基準に、自己のAEレベルを予め設定された補正割合に従って自動的に計算を行う。
この結果、後述の色信号調整と合わせて輝度調整することにより各カメラ装置で撮影された画像をC/Uを介して転送された後各画像を合成しても画像の接続部分の輝度/色信号のレベル差が無くなり違和感を減少することができる。
【0034】
図10に他の実施形態であるAWB制御装置700のブロック構成を示す。
このAWB制御装置700は、OPD710,R/G,B/G計算部720、座標補正自動計算部730、引込み枠判定部740、色温度推定部750、引込み処理部760、ゲイン設定部770で構成される。ここでOPD710以外はハードウェアーで構成することもできるが、マイクロコンピュータあるいはDSPなどの制御装置を用いたソフトウェアーで構成することができる。
R/G,B/G計算部720は、入力された色情報(信号)がソフトウェアーまたはハードウェアーで演算処理される。色情報の表現は色々あるが、例えば座標軸の一方にB/Gを他方にR/Gをとり、この座標上で色情報を表現する。
OPD710から供給された原色信号のR,G,B信号からR/GとB/G軸上で表現するための色情報が計算される。
【0035】
座標補正自動計算部730は、自己のカメラ装置(スレーブカメラ装置)から得られたR/G、B/Gの計算結果(座標位置)とマスターカメラ装置から転送されて来た座標位置(R/G、B/G)が供給され、両座標位置から補正量を自動的に計算する。
【0036】
引込み枠判定部740は、色座標(R/G、B/G)上に色調整時の制限枠が設けられていて、現在プリホワイトバランス調整に基づいた座標位置と転送されて来た座標位置の関係から入力画像の座標位置が補正され、この補正した値に関して引込みの制限枠内にあるか否かを判定する。
引込み制限枠内で有った場合は、その値から色温度推定計算へ進む。補正した値が引込み制限枠外の場合は、補正前の座標位置(OPD710から計算した座標位置)から引込み制限枠の判定を行い、その値から色温度推定を行う。
上述した引込み制限枠内は、その制限枠内を色調整の領域とし、制限枠外を無調整領域とする。この引込み制限枠として、色座標上に四角等の枠を設定する。
【0037】
色温度推定部750は、引込み枠判定部740から供給された補正色信号またはOPD710から出力された色信号が供給され、R/GとB/Gを座標軸とする色座標上に表された固体輻射カーブを用いて色温度を推定する。
【0038】
引込み処理部760は、色座標(R/G,B/G)上で入力された色信号が引込み制限枠内にあると、入力された座標位置から原点“O”方向へ引込み動作を行いホワイトバランスの調整を行う。一方引込み制限枠外にあるとき、通常のホワイトバランスの調整を行う。
【0039】
ゲイン設定部770は、引込み処理部760から出力された色信号に対して、ホワイトバランス(WBアンプ)520を構成する利得制御アンプ521〜523の利得を制御するためのゲインを出力する。
【0040】
次に図10のAWB制御装置700の動作について説明する。
AWB制御装置700は、通常のホワイトバランス制御に、マスターカメラ装置から受信したリファレンスデータで微調整する機能を追加している。
現在の自己のスレーブカメラ装置のプリホワイトバランス調整値に基づいた座標位置と、マスターカメラ装置からカメラ制御ユニットを介して転送されて来た座標位置の関係から、自分の座標位置を少し可変した後、引き込み枠の設定、色温度推定の順に処理する。
マスターカメラ装置から受け取ったR/Gデータを、受信R/Gデータとし、自己のスレーブカメラ装置のプリホワイトバランス調整値に基づいたR/Gデータを自R/Gデータと表記して、求めるR/Gの式を以下に示す。また、B/Gも同様な式にて計算し補正する。
【0041】
[数1]
自R/G+((受信R/G−自R/G)*(補正量の最大割合/255))
自B/G+((受信B/G−自B/G)*(補正量の最大割合/255))…(1)
ここで*印は乗算記号を表す。
【0042】
式(1)で補正量の最大割合は0〜255まで任意に変更することができ、補正幅を例えば5ステップ、10ステップ、・・・、と変えることができる。
式(1)で補正量の最大割合が0の時、補正結果は自R/Gと自B/Gととなり、自己のスレーブカメラの補正は行われない。
補正量の最大割合が128(50%)の時、補正結果は自R/G+(1/2)*(受信R/G−自R/G)、自B/G+(1/2)*(受信B/G−自B/G)となる。これは、自己のカメラ装置で得られた色座標上の座標位置とマスターカメラ装置から転送された座標位置の中間(50%補正)位置を補正量としたときの色信号の値である。
また補正量の最大割合が255(100%)の時、補正結果は自R/G+((受信R/G−自R/G)、自B/G+((受信B/G−自B/G)となる。
【0043】
補正された色信号は、引き込み枠判定部740で、引込み枠の領域内にあるかあるいはその領域外にあるかが判断される。
補正された色信号の座標が引込み制限枠内の場合は、その値から色温度の推定計算へ進む。一方、補正された色信号の座標が引込み制限枠外の場合は、補正前の座標位置(もともとの自己のスレーブカメラ装置のOPD710から計算した座標位置)から引込み制限枠判定を行い、その値から色温度推定をするものとする。
色温度推定された後引込み処理が行われ、その結果ゲイン設定が行われる。ゲインが設定されると、図8に示すマイクロコンピュータ540等でRゲイン、Gイン、Bゲインの各制御信号を発生して、WBアンプ520を構成する利得制御アンプ521〜523に供給され利得の制御が行われ、ホワイトバランス調整が行われる。
このように、リファレンスデータを基準に各スレーブカメラ装置で色調整行われることにより、各カメラ装置で撮像された画像を合成した場合の色味の違和感を減少することができる。
【0044】
AE制御装置600とAWB制御装置700は各カメラ装置に備えられていて、車内にC/U(103,250,330)が設置してある。各カメラ装置は車両に搭載される場合、任意の位置に設置することができ、図2(a)はFront(前方)、Side−L(左)、Side−R(右)、Rear(後方)にそれぞれ設置した例である。しかし設置するカメラ装置の位置は必ずしもこの位置に限定する必要はない。また、設置する台数を4台でなく、少なくとも2台以上であれば良い。
このように、カメラ装置を少なくとも2台以上の複数台とし、このカメラ装置を移動体例えば車両、船舶、航空機等に搭載し、そのうちの1台のカメラ装置をマスターカメラ装置とする。マスターカメラ装置は図2(a)に示すように、必ずしも車両の前面に設置したカメラ装置に限定する必要はなく、例えばRear(後方)に設置されたカメラ装置をマスターとして良い。
車両が後進する時に、Rearのカメラ装置をマスターとして使用することができ、後方の画像を基準にした画像を合成することができる。
【0045】
また、これ以外に例えばSide−LとSide−Rのカメラ装置の2個をマスターと設定することができる。2個のカメラ装置をマスターとしたときのリファレンス(基準)データは、Side−LとSide−Rのカメラ装置から得られた輝度/色信号を平均化したものを用いる。この平均化したリファレンスデータを基準に他のスレーブカメラ装置例えばFrontカメラ装置、Rearカメラ装置の輝度/色を補正する。
したがって、マスターカメラ装置は補正前から固定される必要はなく、車両の場合進行方向に応じたギヤ度の切り替えに伴い逐次設定することもできる。
【0046】
また、マスターカメラ装置は、必ずしも決定する必要はなく、マスターカメラ装置を設定しない時、全てのカメラ装置を同じ補正量に設定しても良い。
さらに、C/U側でマスターカメラ装置から転送されたデータを加工して各カメラ装置にデータを出力することも可能であるので、全てのカメラ装置に対して同じ色/輝度のデータを送信することにより、全てのカメラ装置の色/輝度の制御値を同じにすることが出来る。
【0047】
以上述べたように、本発明では、それぞれのカメラ装置は適正に制御されて、見やすい画像が出力され、また、画像の接合部分において、色と明るさの違和感を減少させることができる。
これらのことを実現させ、上記2つのバランスとしてどちらに重点を置きたいのか選択でき、またその調整を可能とする構成にすることにより、色/輝度の調整は、各カメラ装置内で独立して制御動作を行い、各カメラ装置は取り付け位置を認識すること無く単独に制御することができる。
カメラ装置自体が移動体や場所の異なる位置に配置されたカメラ装置に関係なく動作することが出来、接続台数を限定することなく、色/輝度の調整が出来る。
また、C/Uから受け取るデータは、色/輝度のデータのみとすることにより、カメラ装置とC/U間の通信負荷を少なくすることが出来る。
【符号の説明】
【0048】
100,300…カメラシステム、200…車載(移動体)カメラシステム、101,102,251〜254,310,320,400…カメラ装置、103,250,330,450…カメラ制御(コントロール)ユニット(C/U,Camera Control Unit)、261〜264…バッファ回路、265…切り出し&合成回路、270…表示装置、410…レンズ、420…シャッター機能付きセンサー、430…アナログフロントエンド(AFE;Analog Front End)、440…カメラ信号処理ブロック、460,540…マイクロコンピュータ、500…色信号処理回路、501…原色分離回路、520…WB(ホワイトバランス)アンプ、521〜523…利得制御アンプ、530,610,710…オプティカルディテクタ(OPD、光検出器)、600…自動露光(AE)制御装置、620…評価値計算部、630…エラー算出部、640…ゲイン算出部、650…露出補正自動計算部、700…オートホワイトバランス(AWB)制御装置、730…座標補正自動計算部、740…引込み枠判定部、750…色温度推定部、760…引込み処理部、770…ゲイン設定部、800…画像合成表示装置、813…画像抽出合成部、814…補正信号発生手段、815…画像補正手段、816…モニタ装置、820…画像合成表示装置、821〜828…画像メモリ。
【特許請求の範囲】
【請求項1】
移動体と、
上記移動体に設置され、それぞれ画像信号を調整する信号処理部を有する複数台のカメラ装置と、
上記複数台のカメラ装置の中から基準とする第1のカメラ装置を任意に選択し、該第1のカメラ装置から出力された画像信号を基準とするリファレンスデータが供給され、第2のカメラ装置の画像信号を補正するためのリファレンスデータを上記第2のカメラ装置に転送するカメラ制御ユニットと、
上記リファレンスデータに基づき上記第2のカメラ装置は入力された画像信号を単独に補正し、上記第1のカメラ装置と上記第2のカメラ装置から出力された画像が合成され、該合成画像が表示される表示装置と
を有する移動体カメラシステム。
【請求項2】
上記カメラ制御ユニットは、上記複数台のカメラ装置の中から基準とする上記第1のカメラ装置を任意に選択して上記リファレンスデータを上記第2のカメラ装置に転送する
請求項1記載の移動体カメラシステム。
【請求項3】
上記第1のカメラ装置は、該第1のカメラ装置から出力されるリファレンスデータを色と輝度信号とする
請求項1記載の移動体カメラシステム。
【請求項4】
上記移動体は車両であって、上記各カメラ装置で撮影した画像を上記リファレンスデータに基づき調整し、調整した合成画像を上記車両内の表示装置に表示する
請求項1記載の移動体カメラシステム。
【請求項5】
上記第2のカメラ装置の信号処理部は、輝度信号が素子露光部と信号利得制御部で制御される
請求項1記載の移動体カメラシステム。
【請求項6】
上記第2のカメラ装置の信号処理部は色信号処理回路を有し、色座標上に引込み枠を設けてホワイトバランス調整する
請求項1記載の移動体カメラシステム。
【請求項7】
上記信号処理部は自動露光制御部を有し、
該自動露光制御部は、
光検出部から供給された輝度信号と補正された輝度信号が供給され現在の輝度状態を算出する評価値計算部と、
上記評価値計算部から出力された計算値に基づき現在の輝度信号と補正された輝度信号の差を計算するエラー算出部と、
上記エラー算出部から出力された差信号を用いて輝度信号のゲインを求めるゲイン算出部と、
上記ゲイン算出部から入力された輝度信号とリファレンスデータが供給され、該リファレンスデータに対する輝度信号の補正量を演算する露出補正自動計算部と
を有する請求項1記載の移動体カメラシステム。
【請求項8】
上記ゲイン算出部は、露光制御と利得制御のゲインを算出する
請求項7記載の移動体カメラシステム。
【請求項9】
上記色信号処理回路は、
光検出部から供給された画像信号を色座標に変換する座標計算部と、
上記色座標計算部から出力された座標位置データと基準座標データが入力され、該基準座標データに対して補正量を算出する座標補正自動計算部と、
上記座標補正自動計算部から出力された座標データから色温度を推定する色温度推定部と、
上記色温度推定部から出力された色温度からホワイトバランスを補正するゲインを求めるゲイン設定部と
を有する請求項5記載の移動体カメラシステム。
【請求項10】
上記色信号処理回路は更に引込み枠判定部を有し、入力された座標データが上記引込み枠内のとき、ホワイトバランス調整する
請求項9記載の移動体カメラシステム。
【請求項11】
第1のカメラ装置と第2のカメラ装置とを有し、
上記第1と第2のカメラ装置から任意に選択された上記第1のカメラ装置は撮像した画像を基準とするリファレンスデータをカメラ制御ユニットを介して上記第2のカメラ装置に送り、
上記第2のカメラ装置は撮像した画像と上記リファレンスデータとを基に補正画像を生成し、
上記記第1のカメラ装置からの第1の画像と上記補正画像を上記カメラ制御ユニットにより合成して合成画像を生成するカメラシステム。
【請求項12】
上記第2のカメラ装置は、上記第1のカメラ装置から出力されるリファレンスデータを色と輝度信号とする
請求項11記載のカメラシステム。
【請求項13】
上記第1のカメラ装置で撮像され上記リファレンスデータの基となる画像は、上記合成画像を生成するために合成される上記第1の画像と同じであることを特徴とする
請求項11記載のカメラシステム。
【請求項1】
移動体と、
上記移動体に設置され、それぞれ画像信号を調整する信号処理部を有する複数台のカメラ装置と、
上記複数台のカメラ装置の中から基準とする第1のカメラ装置を任意に選択し、該第1のカメラ装置から出力された画像信号を基準とするリファレンスデータが供給され、第2のカメラ装置の画像信号を補正するためのリファレンスデータを上記第2のカメラ装置に転送するカメラ制御ユニットと、
上記リファレンスデータに基づき上記第2のカメラ装置は入力された画像信号を単独に補正し、上記第1のカメラ装置と上記第2のカメラ装置から出力された画像が合成され、該合成画像が表示される表示装置と
を有する移動体カメラシステム。
【請求項2】
上記カメラ制御ユニットは、上記複数台のカメラ装置の中から基準とする上記第1のカメラ装置を任意に選択して上記リファレンスデータを上記第2のカメラ装置に転送する
請求項1記載の移動体カメラシステム。
【請求項3】
上記第1のカメラ装置は、該第1のカメラ装置から出力されるリファレンスデータを色と輝度信号とする
請求項1記載の移動体カメラシステム。
【請求項4】
上記移動体は車両であって、上記各カメラ装置で撮影した画像を上記リファレンスデータに基づき調整し、調整した合成画像を上記車両内の表示装置に表示する
請求項1記載の移動体カメラシステム。
【請求項5】
上記第2のカメラ装置の信号処理部は、輝度信号が素子露光部と信号利得制御部で制御される
請求項1記載の移動体カメラシステム。
【請求項6】
上記第2のカメラ装置の信号処理部は色信号処理回路を有し、色座標上に引込み枠を設けてホワイトバランス調整する
請求項1記載の移動体カメラシステム。
【請求項7】
上記信号処理部は自動露光制御部を有し、
該自動露光制御部は、
光検出部から供給された輝度信号と補正された輝度信号が供給され現在の輝度状態を算出する評価値計算部と、
上記評価値計算部から出力された計算値に基づき現在の輝度信号と補正された輝度信号の差を計算するエラー算出部と、
上記エラー算出部から出力された差信号を用いて輝度信号のゲインを求めるゲイン算出部と、
上記ゲイン算出部から入力された輝度信号とリファレンスデータが供給され、該リファレンスデータに対する輝度信号の補正量を演算する露出補正自動計算部と
を有する請求項1記載の移動体カメラシステム。
【請求項8】
上記ゲイン算出部は、露光制御と利得制御のゲインを算出する
請求項7記載の移動体カメラシステム。
【請求項9】
上記色信号処理回路は、
光検出部から供給された画像信号を色座標に変換する座標計算部と、
上記色座標計算部から出力された座標位置データと基準座標データが入力され、該基準座標データに対して補正量を算出する座標補正自動計算部と、
上記座標補正自動計算部から出力された座標データから色温度を推定する色温度推定部と、
上記色温度推定部から出力された色温度からホワイトバランスを補正するゲインを求めるゲイン設定部と
を有する請求項5記載の移動体カメラシステム。
【請求項10】
上記色信号処理回路は更に引込み枠判定部を有し、入力された座標データが上記引込み枠内のとき、ホワイトバランス調整する
請求項9記載の移動体カメラシステム。
【請求項11】
第1のカメラ装置と第2のカメラ装置とを有し、
上記第1と第2のカメラ装置から任意に選択された上記第1のカメラ装置は撮像した画像を基準とするリファレンスデータをカメラ制御ユニットを介して上記第2のカメラ装置に送り、
上記第2のカメラ装置は撮像した画像と上記リファレンスデータとを基に補正画像を生成し、
上記記第1のカメラ装置からの第1の画像と上記補正画像を上記カメラ制御ユニットにより合成して合成画像を生成するカメラシステム。
【請求項12】
上記第2のカメラ装置は、上記第1のカメラ装置から出力されるリファレンスデータを色と輝度信号とする
請求項11記載のカメラシステム。
【請求項13】
上記第1のカメラ装置で撮像され上記リファレンスデータの基となる画像は、上記合成画像を生成するために合成される上記第1の画像と同じであることを特徴とする
請求項11記載のカメラシステム。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【公開番号】特開2009−147977(P2009−147977A)
【公開日】平成21年7月2日(2009.7.2)
【国際特許分類】
【出願番号】特願2009−70723(P2009−70723)
【出願日】平成21年3月23日(2009.3.23)
【分割の表示】特願2006−152413(P2006−152413)の分割
【原出願日】平成18年5月31日(2006.5.31)
【出願人】(000002185)ソニー株式会社 (34,172)
【Fターム(参考)】
【公開日】平成21年7月2日(2009.7.2)
【国際特許分類】
【出願日】平成21年3月23日(2009.3.23)
【分割の表示】特願2006−152413(P2006−152413)の分割
【原出願日】平成18年5月31日(2006.5.31)
【出願人】(000002185)ソニー株式会社 (34,172)
【Fターム(参考)】
[ Back to top ]