説明

ホワイトバランス調整装置およびホワイトバランス調整方法

【課題】ホワイトバランスの収束判定をより確実に行う技術を提供する。
【解決手段】ホワイトバランス調整装置には、時系列的に画像が入力される。この装置は、第1と第2の積分部を有している。第1と第2の積分部は、補正パラメータの互いに異なる値に基づいて、先の画像の色成分を補正し、補正された色成分を積分することにより、それぞれ第1と第2の積分値を算出する。後の画像の補正に使用される補正パラメータの値は、補正パラメータ決定部により決定される。ホワイトバランス調整が施された画像は、補正パラメータ決定部により決定された第1の値と第2の値の間に設定された第3の値に基づいて、画像の色成分を補正することにより生成される。第1と第2の値を決定する補正パラメータ決定部は、第1と第2の積分値と、積分値の目標値との大小関係に応じて、第1と第2の値の変更の要否を判定する。

【発明の詳細な説明】
【技術分野】
【0001】
この発明は、デジタルカメラにおけるホワイトバランスの調整技術に関する。
【背景技術】
【0002】
デジタルスチルカメラやビデオカメラ等のデジタルカメラにおいては、光源のスペクトルの違いにより同一の被写体を撮影した場合に再現される色が変化する。そのため、白色の被写体を撮影した画像において白色被写体の色が白色として再現されるように、ホワイトバランス調整が行われる。ホワイトバランス調整は、通常、撮影画像における色情報に基づいて、赤色と青色の画像信号あるいは画像データのゲインを調整する。このゲインの調整では、撮影画像を構成する白色の画素の赤色成分と青色成分と緑色成分とのそれぞれの積算値(積分値)を算出し、算出された積分値に基づいてゲインの設定が行われる。これらの積分値は、ゲインの他に、撮影画像中の白色画素の割合に依存する。そこで、白色画像の割合など撮影画像の状態によらずにホワイトバランス調整を行うため、ゲイン調整後の画像の色情報に基づいてゲインの微調整を繰り返すことによりホワイトバランスの調整が行われる。
【0003】
【特許文献1】特開2001−36923号公報
【特許文献2】特開平11−75213号公報
【特許文献3】特開平7−284118号公報
【特許文献4】特開平7−255062号公報
【発明の開示】
【発明が解決しようとする課題】
【0004】
しかしながら、ホワイトバランスの調整の終了(「ホワイトバランスの収束」とも呼ばれる)は、複数の色成分(例えば、赤色成分と緑色成分)の積分値を比較し、これらの積分値の大小関係が反転を検出することにより判定される。そのため、ホワイトバランスの収束判定には、ゲインの微調整前後の色成分積分値が使用されるため、撮影時の光源や被写体の状況によっては、ホワイトバランスの収束判定ができないおそれがある。
【0005】
本発明は、上述した従来の課題を解決するためになされたものであり、ホワイトバランスの収束判定をより確実に行う技術を提供することを目的とする。
【課題を解決するための手段】
【0006】
本発明は、上述の課題の少なくとも一部を解決するためになされたものであり、以下の形態又は適用例として実現することが可能である。
【0007】
[適用例1]
時系列的に入力される入力画像のホワイトバランスを調整するホワイトバランス調整装置であって、
先の入力画像の所定の色空間における複数の色成分のうちの対象色成分を補正パラメータの第1の値に基づいて補正し、補正された対象色成分を前記先の入力画像の少なくとも一部の積分対象領域について積分して第1の対象色成分積分値を算出する第1の対象色成分積分部と、
前記先の入力画像の対象色成分を前記補正パラメータの第1の値と異なる第2の値に基づいて補正し、補正された対象色成分を前記積分対象領域について積分して第2の対象色成分積分値を算出する第2の対象色成分積分部と、
後の入力画像の対象色成分の補正に使用される前記第1と第2の値を決定する補正パラメータ決定部と、
前記補正パラメータ決定部により決定された第1の値と第2の値の間に設定された第3の値に基づいて、前記後の入力画像の対象色成分を補正することによりホワイトバランス調整が施された調整画像を生成する調整画像生成部と、
を備え、
前記補正パラメータ決定部は、前記第1と第2の対象色成分積分値と、対象色成分積分値の目標値との大小関係に応じて、前記第1と第2の値の変更の要否を判定する、
ホワイトバランス調整装置。
【0008】
この適用例によれば、補正パラメータ決定部は、先の入力画像を用いて算出された第1の対象色成分積分値と第2の対象色成分積分値と、対象色成分積分値の目標値との大小関係に応じて、第1と第2の値の変更の要否を判定する。そのため、先の入力画像のみで、補正パラメータの値の変更が不要か否か、すなわち、ホワイトバランスが収束したか否かが判定できるので、ホワイトバランスの収束判定をより確実に行うことができる
【0009】
[適用例2]
適用例1記載のホワイトバランス調整装置であって、前記補正パラメータ決定部は、前記目標値が前記第1の対象色成分積分値と前記第2の対象色成分積分値との間である場合には、前記第1と第2の値の変更を行わず、前記目標値が前記第1の対象色成分積分値と前記第2の対象色成分積分値との間でない場合には、前記第1と第2の対象色成分積分値と前記目標値との大小関係に応じて、前記先の入力画像の対象色成分の補正に使用された前記第1と第2の値のそれぞれに、前記第1と第2の値の差分よりも小さい第1のオフセット値を加減することにより、前記第1と第2の値を変更する、ホワイトバランス調整装置。
【0010】
この適用例では、第1と第2の値は、前記第1と第2の値の差分よりも小さい第1のオフセット値を加減することにより変更される。そのため、ホワイトバランスの過調整を抑制することができる。
【0011】
[適用例3]
適用例2記載のホワイトバランス調整装置であって、さらに、前記先の入力画像の対象色成分を前記第3の値に基づいて補正し、補正された対象色成分を前記積分対象領域について積分して第3の対象色成分積分値を算出する第3の対象色成分積分部を備えており、前記補正パラメータ決定部は、前記第3の対象色成分積分値と前記目標値との大小関係に基づいて、前記第1と第2の値のそれぞれに前記第1のオフセット値を加えるか、前記第1と第2の値のそれぞれから前記第1のオフセット値を減ずるか、を決定する、ホワイトバランス調整装置。
【0012】
この適用例によれば、調整画像生成部におけるホワイトバランス調整に使用される第3の値に基づいて、補正パラメータの変更内容が決定されるので、ホワイトバランスをより好ましい状態に調整することが可能となる。
【0013】
[適用例4]
適用例2または3記載のホワイトバランス調整装置であって、前記対象色成分積分値は、前記補正パラメータの値の増大に応じて単調増加し、前記第2の値は、前記第1の値よりも大きく設定されており、前記補正パラメータ決定部は、前記第2の対象色成分積分値が前記目標値よりも小さい場合には、前記第1のオフセット値が加えられた第1と第2の値のそれぞれに、さらに前記第1と第2の値の差分に基づいて設定される第2のオフセット値を加え、前記第1の対象色成分積分値が前記目標値よりも大きい場合には、前記第1のオフセット値が減じられた第1と第2の値のそれぞれから、さらに前記第2のオフセット値を減じる、ホワイトバランス調整装置。
【0014】
この適用例によれば、補正パラメータの第1と第2の値は、第1のオフセット値により変更の後、更に第2のオフセット値により変更される。そのため、補正パラメータの値の変更量が大きくなるので、ホワイトバランスの収束をより早めることができる。
【0015】
[適用例5]
適用例1ないし4のいずれか記載のホワイトバランス調整装置であって、前記目標値は、前記先の入力画像の前記対象色成分とは異なる比較色成分を前記積分対象領域について積分した比較色成分積分値である、ホワイトバランス調整装置。
【0016】
この適用例によれば、対象色成分積分値の目標値として、対象色成分とは異なる比較色成分を積分した比較色成分積分値が使用される。そのため、入力画像に応じた目標値を設定することができ、ホワイトバランスをより好ましい状態に調整することが可能となる。
【0017】
[適用例6]
適用例1ないし5のいずれか記載のホワイトバランス調整装置であって、前記時系列的に入力される入力画像は、動画像であり、前記後の入力画像は、前記ホワイトバランス調整装置から出力される現フレームの画像であり、前記先の入力画像は、前記現フレームの直前のフレームの画像である、ホワイトバランス調整装置。
【0018】
なお、本発明は、種々の態様で実現することが可能である。例えば、ホワイトバランス調整装置およびホワイトバランス調整方法、これらの調整装置および調整方法を適用したビデオカメラおよびデジタルスチルカメラ、ビデオカメラおよびデジタルスチルカメラの制御装置および制御方法、それらの装置および方法を実現するためのコンピュータプログラム、そのコンピュータプログラムを記録した記録媒体、そのコンピュータプログラムを含み搬送波内に具現化されたデータ信号、等の態様で実現することができる。
【発明を実施するための最良の形態】
【0019】
次に、本発明の実施の形態を実施例に基づいて以下の順序で説明する。
A.第1実施例:
B.第2実施例:
C.変形例:
【0020】
A.第1実施例:
A1.ビデオカメラの構成:
図1は、第1実施例としてのビデオカメラ10の機能的な構成を示す機能ブロック図である。ビデオカメラ10は、イメージセンサ100と、カメラ制御部200と、を備えている。カメラ制御部200は、イメージセンサ100を制御するとともに、イメージセンサ100から供給される画像データGD1に種々の処理を施し、ビデオカメラ10から出力される映像信号VSGを生成する。
【0021】
イメージセンサ100は、レンズ(図示しない)により受光部に形成された被写体像を表す画像データGD1を生成する。生成された画像データGD1は、クランプ処理部210に供給される。ビデオカメラ10では、タイミング信号生成部250からの周期的なタイミング信号ST1に応じて1フレーム分の画像データGD1が周期的に生成され、クランプ処理部210に供給される。イメージセンサ100としては、例えば、増幅器とアナログ−デジタル変換器(AD変換器)とが組み込まれたCMOSイメージセンサや、増幅器とAD変換器(併せて、「アナログフロントエンド」と呼ばれる)が取り付けられたCCDイメージセンサを使用することができる。
【0022】
これらのイメージセンサ100の受光部は、複数のセンサ素子により形成されている。センサ素子は、入射光に応じて電荷を生成するとともに、タイミング信号ST1によって指定される期間に生成された電荷を蓄積する。センサ素子上には、RGBの原色フィルタが市松模様状(「Bayer配列」と呼ばれる)に配置されており、各センサ素子には、RGBのいずれか1色の入射光の強度に対応した電荷が蓄積される。各センサ素子に蓄積された電荷量を表す電気信号(画像信号)は増幅され、増幅後の画像信号がAD変換器によりデジタルデータに変換されて画像データGD1が生成される。そのため、各センサ素子に対応する画像データGD1の画素は、RGBのいずれか1色のみの色成分値を持つ画素となる。このように、画素がRGBのいずれか1色のみの色成分値を持つ画像データGD1は、「Bayerデータ」ともよばれる。
【0023】
クランプ処理部210は、画像データGD1にクランプ処理を施し、画像データGD2を生成する。ここで、クランプ処理とは、画像データGD1において黒色(オプティカルブラック)を表す値(黒色値)を、カメラ制御部200における各処理で使用される黒色値に変換する処理のことをいう。クランプ処理が施された画像データGD2は、RBゲイン調整部220と、ホワイトバランス調整部300と、に供給される。
【0024】
ホワイトバランス調整部300は、画像データGD2に基づいて、RBゲイン調整部220に供給する赤色ゲイン設定値gRおよび青色ゲイン設定値gBを決定する。なお、ホワイトバランス調整部300の具体的な構成と、これらのゲイン設定値gR,gBを決定する具体的な方法については、後述する。
【0025】
RBゲイン調整部220は、ホワイトバランス調整部300から供給される赤色ゲイン設定値gRと青色ゲイン設定値gRに基づいて赤成分値と青成分値とのゲインを調整する。具体的には、画像データGD2の赤成分値に赤色ゲイン設定値gRを乗じ、青成分値に青色ゲイン設定値gBを乗じる。なお、緑成分値は、ゲインが調整されることなく、そのまま出力される。RBゲイン調整部220は、このように、赤成分値と青成分値とのゲイン調整が行われた画像データGD3を生成する。RBゲイン調整部220で生成された画像データGD3は、補間処理部230に供給される。なお、この説明から明らかなように、ゲインは、RGB色空間における赤色成分Rもしくは青色成分Bを補正するための「補正パラメータ」である。
【0026】
補間処理部230は、画像データGD3の各画素に欠落している色成分値を生成する。具体的には、画像データGD3の各画素毎に、その画素に欠落している色成分値を周囲の画素の色成分値から補間・生成する。これにより、補間処理が施された画像データGD4は、各画素がR,G,Bの3色の色成分値を有する画像データとなる。
【0027】
映像信号生成部240は、タイミング信号生成部から供給されるタイミング信号ST2に従って、補間処理部230から供給された画像データGD4から映像信号VSGを生成する。映像信号生成部240では、画像データGD4に対して、ガンマ補正、色変換、輪郭強調等の種々の処理が施される。そして、これらの処理が施された画像データから所定の形式の映像信号VSGが生成される。なお、映像信号生成部240におけるこれらの処理については、本発明に影響しないので、ここではその説明を省略する。
【0028】
図2は、ホワイトバランス調整部300の機能的構成を示す機能ブロック図である。ホワイトバランス調整部300は、簡易補間処理部310と、無偏差ゲイン調整部322と、正偏差ゲイン調整部324と、負偏差ゲイン調整部326と、無偏差色成分積分部342と、正偏差色成分積分部344と、負偏差色成分積分部346と、白検出部330と、オートホワイトバランス(AWB)制御部と、を備えている。なお、以下では、無偏差ゲイン調整部322と正偏差ゲイン調整部324と負偏差ゲイン調整部326とを併せて、「ゲイン調整部」ともよぶ。同様に、無偏差色成分積分部342と正偏差色成分積分部344と負偏差色成分積分部346とを併せて、「色成分積分部」とも呼ぶ。
【0029】
簡易補間処理部310は、画像データGD2に補間処理を施すことにより、画像データGD2の各画素に欠落している色成分値を補間・生成する。なお、簡易補間処理部310により生成される画像データは、ホワイトバランスの調整にのみ使用されるので、補間処理部230において施される通常の補間処理よりも簡便な補間処理が行われる。簡易補間処理部310は、例えば、色成分値の生成対象となる画素に隣接する画素の色成分値を平均することにより欠落した色成分値を生成する。
【0030】
簡易補間処理が行われたRGB画像データは、3つのゲイン調整部322〜326と白検出部330とに供給される。白検出部330は、画像を構成する個々の画素が白色を表す画素であるか否かを判断する。具体的には、注目する画素のR,G,Bの各成分のいずれもが所定の閾値より高い場合に、注目する画素が白色の画素であると判断する。注目する画素が白色の画素であると判断された場合には、白検出部330は、白検出信号を3つの色成分積分部342〜346に供給する。
【0031】
無偏差ゲイン調整部322は、赤色ゲイン設定値gRと青色ゲイン設定値gBとで指定されるゲインで赤成分値と青成分値とのゲインを調整する。具体的には、RBゲイン調整部220と同様に、赤成分値Rに赤色ゲイン設定値gRを乗じてゲイン調整後の赤成分値R0を出力し、青成分値Bに青色ゲイン設定値gBを乗じてゲイン調整後の青成分値B0を出力する。また、緑成分値Gはゲイン調整が行われず、そのままの緑成分値G0(=G)が出力される。
【0032】
正偏差ゲイン調整部324は、赤色ゲイン設定値gRと青色ゲイン設定値gBとのそれぞれに所定の偏差A(>0)を加えたゲイン(以下、「正偏差ゲイン」とも呼ぶ)で赤成分値と青成分値とのゲインを調整する。具体的には、赤成分値Rに赤色の正偏差ゲイン(gR+A)を乗じてゲイン調整後の赤成分値R+を出力し、青成分値Bに青色の正偏差ゲイン(gB+A)を乗じてゲイン調整後の青成分値B+を出力する。なお、本実施例では、偏差Aとしてゲインの調整単位(1)を使用しているが、偏差Aをゲインの調整単位の倍(2)あるいはそれ以上の値とすることも可能である。但し、ホワイトバランスの変動をより抑制することが可能になる点で、所定の偏差Aを1とすることが好ましい。一方、イメージセンサ100における画像信号の増幅度を高くした際など、画像データのS/N比が低下している場合には、偏差Aは2以上の値を使用するのが好ましい。偏差Aを大きくすることにより、不要なホワイトバランス調整が行われることを抑制することができる
【0033】
負偏差ゲイン調整部326は、赤色ゲイン設定値gRと青色ゲイン設定値gBとのそれぞれから上述の偏差Aを減じたゲイン(以下、「負偏差ゲイン」とも呼ぶ)で赤成分値と青成分値とのゲインを調整する。具体的には、赤成分値Rに赤色の負偏差ゲイン(gR−A)を乗じてゲイン調整後の赤成分値R-を出力し、青成分値Bに青色の負偏差ゲイン(gB−A)を乗じてゲイン調整後の青成分値B-を出力する。
【0034】
なお、第1実施例では、正偏差ゲインと負偏差ゲインとは、ゲイン設定値gR,gBに偏差Aを加えているが、ゲイン設定値が正偏差ゲインと負偏差ゲインとから求められているともいうことができる。一般に、ゲイン設定値は、正偏差ゲインと負偏差ゲインとの間の値に設定されていればよい。
【0035】
無偏差色成分積分部342は、白検出部330が白色の画素と判断した画素(白色画素)について、無偏差ゲイン調整部322が出力する赤成分値R0と、青成分値B0と、緑成分値G0とを積分する。そして、赤成分値R0の積分値IR0(無偏差赤成分積分値)と、青成分値B0の積分値IB0(無偏差青成分積分値)と、緑成分値G0の積分値IG0(無偏差緑積分値)とをオートホワイトバランス制御部350に供給する。
【0036】
正偏差色成分積分部344は、白色画素について、正偏差ゲイン調整部324が出力する赤成分値R+と、青成分値B+とを積分する。そして、赤成分値R+の積分値IR+(正偏差赤成分積分値)と、青成分値B+の積分値IB+(正偏差青成分積分値)とをオートホワイトバランス制御部350に供給する。
【0037】
負偏差色成分積分部346は、白色画素について、負偏差ゲイン調整部326が出力する赤成分値R-と、青成分値B-とを積分する。そして、赤成分値R-の積分値IR-(正偏差赤成分積分値)と、青成分値B-の積分値IB-(正偏差青成分積分値)とをオートホワイトバランス制御部350に供給する。
【0038】
オートホワイトバランス制御部350は、3つの色成分積分部342〜346からそれぞれ供給される色成分積分値IR0,IB0,IG0,IR+,IB+,IR-,IB-に基づいて、赤色ゲイン設定値gRと、青色ゲイン設定値gBとを決定する。そして、決定されたゲイン設定値gR,gBを3つのゲイン調整部322〜326と、RBゲイン調整部220(図1)とに供給する。
【0039】
A2.ホワイトバランスの調整:
図3は、オートホワイトバランス制御部350により実行される赤色ゲイン決定ルーチンを示すフローチャートである。赤色ゲイン決定ルーチンでは、緑成分積分値IG0と、3種の赤成分積分値IR0,IR+,IR-とに基づいて赤色ゲイン設定値gRが決定される。なお、図3は、赤色ゲイン設定値gRを決定する赤色ゲイン決定ルーチンを示しているが、青色ゲイン設定値gBも同様に、緑成分積分値IG0と、3種の青成分積分値IB0,IB+,IB-とに基づいて決定される。
【0040】
図4は、図3の赤色ゲイン決定ルーチンの実行によりホワイトバランスの調整が行われる様子を示す説明図である。図4のグラフは、緑成分積分値IG0と3種の赤成分積分値IR0,IR+,IR-との時間的な変化を示している。図4(a)ないし図4(e)の横軸は、時間を示している。図4(a)は、画像データのフレーム番号を示している。図4(b)ないし図4(e)の縦軸は、それぞれ色成分積分値の大きさを示している。図4(c)ないし図4(e)の破線は、緑成分積分値IG0を示している。なお、図4では、1フレーム分の色成分積分値IG0,IR0,IR+,IR-を、フレーム期間Tfにわたって同一の値となるグラフとして示しているが、色成分積分値IG0,IR0,IR+,IR-は、フレームの開始からフレーム期間Tfが経過する前の特定のタイミングで算出される。また、図4の例は、同一の被写体が撮影されている状態を示している。そのため、撮影画像中の白色画素の割合が変化せず、緑成分積分値IG0は時間的に変化していない。
【0041】
ステップS100において、オートホワイトバランス制御部350は、1フレーム分の緑成分積分値IG0と、赤成分積分値IR0,IR+,IR-と、を取得する。具体的には、3つの色成分積分部342〜346が1フレーム分の色成分積分値IG0,IR0,IR+,IR-の算出を完了したタイミングにおいて、色成分積分部342〜346からこれらの色成分積分値IG0,IR0,IR+,IR-を取得する。
【0042】
ステップS200において、オートホワイトバランス制御部350は、緑成分積分値IG0が負偏差赤成分積分値IR-から正偏差赤成分積分値IR+までの範囲(収束範囲)内であるか否か、すなわち、ゲインの調整が必要か否かを判断する。緑成分積分値IG0が収束範囲内であると判断された場合には、制御はステップS100に戻される。一方、緑成分積分値IG0が収束範囲外であると判断された場合には、制御はステップS300に移される。図4の例では、第1のフレーム期間(フレーム#1)において、緑成分積分値IG0は、負偏差赤成分積分値IR-(および、正偏差赤成分積分値IR+)よりも小さくなっている。そのため、緑成分積分値IG0は、収束範囲外であると判断され、制御はステップS300に移される。
【0043】
図3のステップS300では、オートホワイトバランス制御部350が、赤成分積分値IR0が緑成分積分値IG0よりも大きいか否かを判断する。赤成分積分値IR0が緑成分積分値IG0よりも大きいと判断された場合、制御はステップS310に移される。ステップS310では、赤色ゲイン設定値gRは所定のオフセット値「1」が減じられ、赤色ゲイン設定値gRの低減の後、制御はステップS100に戻される。一方、赤成分積分値IR0が緑成分積分値IG0よりも小さいと判断された場合、制御はステップS320に移される。ステップS320では、赤色ゲイン設定値gRは所定のオフセット値「1」が加えられ、赤色ゲイン設定値gRの増加の後、制御はステップS100に戻される。図4の例では、第1のフレーム期間において、赤成分積分値IR0は、緑成分積緑成分積分値IG0よりも大きくなっている。そのため、制御は、ステップS300からステップS310に移され、赤色ゲイン設定値gRは「1」低減される。なお、第1実施例では、ステップS310,S320において、赤色ゲイン設定値gRにはオフセット値1(ゲインの調整単位)が加減されているが、オフセット値としては1以外の値を加減するものとしてもよい。但し、ホワイトバランスの過調整を抑制するため、オフセット値は、正偏差ゲインと負偏差ゲインの差(2×A)よりも小さい値とするのが好ましい。
【0044】
図4に示すように、第1のフレーム期間の色成分積分値IG0,IR0,IR+,IR-に基づいて赤色ゲイン設定値gRが「1」低減されることにより、第2のフレーム期間(フレーム#2)では、赤成分積分値IR0,IR+,IR-のそれぞれが第1のフレーム期間よりも小さくなっている。しかしながら、第2のフレーム期間においても、緑成分積分値IG0が収束範囲外であり、赤成分積分値IR0が緑成分積分値IG0よりも大きいため、赤色ゲイン設定値gRは更に「1」低減される。
【0045】
このように赤色ゲイン設定値gRが「1」低減されることにより、第3のフレーム期間(フレーム#3)では、赤成分積分値IR0,IR+,IR-のそれぞれが第2のフレーム期間よりも小さくなっている。しかしながら、第3のフレーム期間においても、緑成分積分値IG0が収束範囲外であり、赤成分積分値IR0が緑成分積分値IG0よりも大きいため、赤色ゲイン設定値gRは更に「1」低減される。
【0046】
第4のフレーム期間(フレーム#4)では、赤色ゲイン設定値gRが更に「1」低減されることにより、緑成分積分値IG0が収束範囲内となる。そのため、赤色ゲイン設定値gRの変更は行われなくなる。このように、緑成分積分値IG0が収束範囲内となった状態は、「ホワイトバランスが収束した状態」とも呼ばれ、緑成分積分値IG0が収束範囲内となることは、「ホワイトバランスが収束する」ともいわれる。以上の説明から明らかなように、緑成分積分値IG0は、赤成分積分値IR0の目標値である。
【0047】
A3.比較例としての従来技術:
図5は、比較例としての従来のビデオカメラ12の機能的な構成を示す機能ブロック図である。比較例のビデオカメラ12は、ホワイトバランス調整部302に供給される画像データが補間処理部230が出力する画像データGD4に変更されている点で、図1に示す第1実施例のビデオカメラ10と異なっている。他の点は、第1実施例と同様である。
【0048】
図6は、比較例におけるホワイトバランス調整部302の機能的な構成を示す機能ブロック図である。比較例のホワイトバランス調整部302は、簡易補間処理部310および3つのゲイン調整部322〜326が省略されている点と、3つの色成分積分部342〜346に換えて単一の色成分積分部340が用いられている点とで、第1実施例のホワイトバランス調整部300と異なっている。他の点は、第1実施例と同様である。
【0049】
第1実施例のホワイトバランス調整部と同様に、白検出部330は、画像データGD4の個々の画素が白色を表す画素であるかを判断する。そして、注目する画素が白色の画素であると判断した場合には、白検出信号を色成分積分部340に供給する。
【0050】
色成分積分部340は、画像データGD4の白色画素について、色成分値R,G,Bのそれぞれを積分し、色成分積分値IR,IG,IBを生成する。生成された色成分積分値IR,IG,IBは、オートホワイトバランス制御部352に供給される。オートホワイトバランス制御部352は、供給された色成分積分値IR,IG,IBに基づいて、赤色ゲイン設定値gRと青色ゲイン設定値gBとを決定する。決定されたこれらのゲイン設定値gR,gBとは、RBゲイン調整部220(図5)に供給される。RBゲイン調整部220がゲイン設定値gR,gBに基づいて赤成分値と青成分値とのゲインを調整することにより、画像データGD3,GD4のホワイトバランスが調整される。このように、画像データGD4のホワイトバランスが調整されることにより、ホワイトバランス調整のフィードバック制御が行われる。
【0051】
図7は、比較例のオートホワイトバランス制御部352により実行される赤色ゲイン決定ルーチンを示すフローチャートである。図7の赤色ゲイン決定ルーチンは、ステップS100がステップS102に置き換えられている点と、ステップS200が、ステップS210〜S260に置き換えられている点と、ステップS300〜S320が、それぞれステップS302〜S322に置き換えられている点とで、図3に示す第1実施例の赤色ゲイン決定ルーチンと異なっている。
【0052】
図8は、図7の赤色ゲイン決定ルーチンの実行によりホワイトバランスの調整が行われる様子を示す説明図である。図8のグラフは、緑成分積分値IGと、赤成分積分値IRと、これらの色成分積分値の差(積分値差)IR−IGと、の時間的な変化を示している。図8(a)ないし図8(d)の横軸は、時間を示している。図8(a)は、画像データのフレーム番号を示している。図8(b)ないし図8(c)の縦軸は、それぞれ色成分積分値の大きさを示している。
【0053】
ステップS102において、オートホワイトバランス制御部352は、1フレーム分の緑成分積分値IGと赤成分積分値IRとを、色成分積分部340から取得する。具体的には、色成分積分部340が1フレーム分の色成分積分値IG,IRの算出を完了したタイミングにおいて、色成分積分部340からこれらの色成分積分値IG,IRを取得する。
【0054】
ステップS210において、オートホワイトバランス制御部352は、赤成分積分値IRと緑成分積分値IGとの差の絶対値(積分値差絶対値)|IR−IG|が調整開始パラメータPよりも大きいか否かを判断する。積分値差絶対値|IR−IG|が調整開始パラメータPよりも小さいと判断された場合、すなわち、ホワイトバランスの調整が不要と判断された場合、制御はステップS102に戻され、ホワイトバランスの調整が必要と判断されるまでステップS102,S210が繰り返し実行される。一方、積分値差絶対値|IR−IG|が調整開始パラメータPよりも大きいと判断された場合、すなわち、ホワイトバランスの調整が必要であると判断された場合、制御はステップS220に移され、ホワイトバランスの調整が開始される。
【0055】
ホワイトバランスの調整が開始されると、ステップS220において、オートホワイトバランス制御部352は、積分値差IR−IGを前フレーム積分値差Dに設定する。図8の例では、第1のフレーム(フレーム#1)の積分値差IR−IGが前フレーム積分値差Dに設定される。
【0056】
ステップS230において、オートホワイトバランス制御部352は、次のフレームの緑成分積分値IGと赤成分積分値IRとを取得する。具体的には、色成分積分部340が次のフレーム分の色成分積分値IG,IRの算出を完了したタイミングにおいて、色成分積分部340からこれらの色成分積分値IG,IRを取得する。図8の例では、第2のフレーム(フレーム#2)期間中の特定のタイミングにおいて色成分積分値IG,IRが算出された後、算出された色成分積分値IG,IRが取得される。
【0057】
ステップS240において、オートホワイトバランス制御部352は、ステップS240において取得された色成分積分値の差IR−IGを現フレーム積分値差Cに設定する。図8の例では、第2のフレーム期間の色成分積分値差IR−IGが現フレーム積分値差Cに設定される。
【0058】
ステップS250において、オートホワイトバランス制御部352は、前フレーム積分値差Dと現フレーム積分値差Cとで極性が反転しているか否かを判断する。極性が反転している場合、すなわち、ホワイトバランスが収束したと判断された場合、制御はステップS102に戻される。一方、極性が反転していない場合、すなわち、ホワイトバランスが収束していないと判断された場合、制御はステップS260に移される。次いで、ステップS260において、現フレーム積分値差Cが前フレーム積分値差Dに設定される。
【0059】
ステップS302において、オートホワイトバランス制御部350は、赤成分積分値IRが緑成分積分値IGよりも大きいか否かを判断する。赤成分積分値IRが緑成分積分値IGよりも大きいと判断された場合、制御はステップS312に移され、赤色ゲイン設定値gRから「1」が減じられる。一方、赤成分積分値IRが緑成分積分値IGよりも小さいと判断された場合、制御はステップS322に移され、赤色ゲイン設定値gRには「1」が加えられる。
【0060】
赤色ゲイン設定値gRの変更の後、制御はステップS230に戻され、ステップS250においてホワイトバランスが収束したと判断されるまで、ステップS230〜S322が繰り返し実行される。
【0061】
図8の例では、第2のフレーム期間において、第1のフレームから第4のフレーム(フレーム#4)までは、積分値差IR−IGが正値となっている。そして、第5のフレーム(フレーム#5)において、積分値差IR−IGが負値となる。そのため、第5のフレームにおいてホワイトバランスが収束したと判断される。
【0062】
これに対し、第1実施例では、図4に示すように、第4のフレームにおいてホワイトバランスが収束したと判断される。このように、第1実施例によれば、無偏差色成分積分値IR0,IG0,IB0と、正偏差色成分積分値IR+,IB+と、負偏差色成分積分値IR-,IB-と、に基づいて赤色ゲイン設定値gRと青色ゲイン設定値gBとを決定することにより、比較例よりもホワイトバランスの収束をより早く判定することができる。
【0063】
また、比較例では、ホワイトバランスの調整の要否が、積分値差絶対値|IR−IG|と調整開始パラメータPとの大小関係により判断される(図7のステップS210)。そのため、調整開始パラメータの設定によっては、ホワイトバランスを調整することが好ましい場合においても、ホワイトバランスの調整が行われないおそれがある。これに対し、第1実施例では、緑成分積分値IG0が収束範囲([IR-,IR+])外となった場合にゲイン設定値gR,gBの変更(すなわち、ホワイトバランス調整)が行われるため、ホワイトバランスの調整をより的確に行うことが可能となる。
【0064】
さらに、比較例では、2つのフレームの積分値差C,Dを比較することによりホワイトバランスの収束を判定しているため、フレーム間の画像の変化が大きい場合など、撮影画像の状態によってはホワイトバランスの収束を性格に判定することができないおそれがある。これに対し、第1実施例では、ゲインの調整の要否、すなわち、ホワイトバランスが収束したか否かが、単一のフレームで判断できる。そのため、より確実にホワイトバランスの収束を判定することができる。
【0065】
B.第2実施例:
図9は、第2実施例における赤色ゲイン決定ルーチンを示すフローチャートである。第2実施例の赤色ゲイン決定ルーチンは、ステップS310の後に2つのステップS330,S340が付加されている点と、ステップS320の後に2つのステップS350,S360が付加されている点とで、図4に示す第1実施例の赤色ゲイン決定ルーチンと異なっている。他の点は、第1実施例の赤色ゲイン決定ルーチンと同じである。
【0066】
図10は、図9の赤色ゲイン決定ルーチンの実行によりホワイトバランスの調整が行われる様子を示す説明図である。図10のグラフは、緑成分積分値IG0と3種の赤成分積分値IR0,IR+,IR-との時間的な変化を示している。図10(a)ないし図10(e)の横軸は、時間を示している。図10(a)は、画像データのフレーム番号を示している。図10(b)ないし図10(e)の縦軸は、それぞれ色成分積分値の大きさを示している。図10(c)ないし図10(e)の破線は、緑成分積分値IG0を示している。
【0067】
ステップS330において、オートホワイトバランス制御部350は、負偏差赤成分積分値IR-が緑成分積分値IG0よりも大きいか否かを判断する。負偏差赤成分積分値IR-が緑成分積分値IG0よりも小さい場合、制御はステップS100に戻される。一方、負偏差赤成分積分値IR-が緑成分積分値IG0よりも大きい場合、制御はステップS340に移される。ステップS340において赤色ゲイン設定値gRから偏差Aが減じられた後、制御はステップS100に戻される。なお、負偏差赤成分積分値IR-が緑成分積分値IG0よりも大きい場合、赤色ゲイン設定値gRを負偏差ゲイン(gR−A)に変更しても無偏差赤成分析積分値IR0は、緑成分積分値IG0よりも大きくなる。そのため、ステップS340において、赤色ゲイン設定値gRから偏差Aを減じても、ホワイトバランスの過調整は発生しない。なお、ステップS340において減じられるオフセット値は、正偏差ゲインと負偏差ゲインとの差(2×A)に基づいて設定されているともいうことができる。
【0068】
ステップS350において、オートホワイトバランス制御部350は、正偏差赤成分積分値IR+が緑成分積分値IG0よりも小さいか否かを判断する。正偏差赤成分積分値IR+が緑成分積分値IG0よりも小さい場合、制御はステップS360に移される。ステップS360において赤色ゲイン設定値gRに偏差Aが加えられた後、制御はステップS100に戻される。一方、正偏差赤成分積分値IR+が緑成分積分値IG0よりも大きい場合、制御はステップS100に戻される。なお、ステップS360において加えられるオフセット値は、正偏差ゲインと負偏差ゲインとの差(2×A)に基づいて設定されているともいうことができる。
【0069】
図10の例では、第1のフレームにおいては、負偏差赤成分積分値IR-が緑成分積分値IG0よりも大きくなっている。そのため、赤色ゲイン設定値gRは、ステップS310において1が減じられ、ステップS340において更に偏差A(=1)が減じられる。そのため、第2のフレームにおいては、赤成分積分値IR0,IR+,IR-のいずれもが、第1実施例の場合よりも更に小さくなっている。しかしながら、緑成分積分値IG0が収束範囲外であり、無偏差赤成分積分値IR0と負偏差赤成分積分値IR-とのいずれもが緑成分積分値IG0よりも大きいため、赤色ゲイン設定値gRは1低減されたのち、偏差Aが減じられる。
【0070】
赤色ゲイン設定値gRが更に低減されることにより、第3のフレーム期間(フレーム#3)では、緑成分積分値IG0が収束範囲内となり、ホワイトバランスが収束する。このように、負偏差赤成分積分値IR-が緑成分積分値IG0より大きい場合に、赤色ゲイン設定値gRから更に偏差Aを減じることにより、ホワイトバランスの収束を早めることが可能となる。同様に、正偏差赤成分積分値IR+が緑成分積分値IG0より小さい場合に、赤色ゲイン設定値gRに更に偏差Aを加えることにより、ホワイトバランスの収束を早めることが可能となる。
【0071】
このように、第2実施例によれば、無偏差緑成分積分値IR0,IG0,IB0と、正偏差色成分積分値IR+,IB+あるいは負偏差色成分積分値IR-,IB-との大小関係に応じて赤色ゲイン設定値gRと青色ゲイン設定値gBと偏差Aに基づいて変更することにより、ホワイトバランスをより速やかに収束させることが可能となる。
【0072】
なお、第2実施例は、ホワイトバランスをより速やかに収束させることができる点で、第1実施例よりも好ましい。一方、第1実施例は、ホワイトバランスの調整処理がより簡単になる点で、第2実施例よりも好ましい。
【0073】
C.変形例:
なお、この発明は上記実施例や実施形態に限られるものではなく、その要旨を逸脱しない範囲において種々の態様において実施することが可能であり、例えば次のような変形も可能である。
【0074】
C1.変形例1:
上記各実施例では、ホワイトバランス調整部300に簡易補間処理部310を設け、簡易補間処理部310で補間処理された画像データに対してゲイン調整が行われているが、簡易補間処理部310を省略することも可能である。例えば、カメラ制御部200(図1)の補間処理部230によって補間処理された画像データを用いることも可能である。この場合、ホワイトバランス調整部300の3つのゲイン調整部322〜326のうち、無偏差ゲイン調整部322を省略することが可能である。また、正偏差ゲイン調整部324および負偏差ゲイン調整部326では、偏差Aに相当するゲインの調整が行われる。
【0075】
C2.変形例2:
上記各実施例では、オートホワイトバランス制御部350は、赤色ゲイン設定値gRを3種の赤色成分積分値IR0,IR+,IR-に基づいて決定しているが、赤色ゲイン設定値gRは、これらの赤色成分積分値IR0,IR+,IR-のうちの少なくとも2つの積分値に基づいて決定することもできる。この場合、赤色ゲイン設定値gRに加減されるオフセット値は、使用される積分値に応じて適宜変更される。
【0076】
C3.変形例3:
上記各実施例では、色成分積分部342〜346(図2)は、白検出部330が白色の画素と判断した画素について、色成分値を積分しているが、1フレーム分の画像全体について色成分値を積分するものとしてもよく、また、画像の一部(例えば、周辺部)について色成分値を積分するものとしてもよい。但し、白色画素について色成分値を積分することにより、被写体の状態によらずホワイトバランスの調整をより好ましいものとすることができるので、白色画素について色成分値を積分するのが好ましい。
【0077】
C4.変形例4:
上記各実施例では、ホワイトバランスの調整を赤色成分Rと青色成分Bとのそれぞれのゲインを変更することにより行っているが、他の方法によりホワイトバランスの調整を行うことも可能である。例えば、RGB色空間の画像データをYCbCr色空間の画像データに変換し、色差成分Cb,Crを補正することによりホワイトバランスを調整するものとしてもよい。この場合においても、色差成分Cb,Crを異なる補正パラメータで補正し、補正後の色差成分積分値に基づいて、ホワイトバランスの調整の要否、および、補正パラメータの変更内容が決定される。なお、色差成分Cb,Crを補正する場合には、色差成分積分値の目標値はゼロに設定される。
【0078】
C5.変形例5:
上記各実施例では、ゲイン調整部220,322〜326は、AD変換された画像データの色成分値にゲインを乗ずることにより画像の色成分を補正しているが、画像の色成分をアナログ増幅器の増幅度を変更することにより補正することも可能である。この場合、イメージセンサとしては、アナログの映像信号を出力するイメージセンサが使用される。
【0079】
C6.変形例6:
上記各実施例では、本発明をビデオカメラに適用しているが、本発明はビデオカメラの他、モニタ機能を有するデジタルスチルカメラ等、種々の撮像装置に適用することができる。一般に、本発明は、時系列的に画像が生成される装置であれば、任意の装置に適用することができる。
【図面の簡単な説明】
【0080】
【図1】第1実施例としてのビデオカメラの機能的な構成を示す機能ブロック図。
【図2】ホワイトバランス調整部の機能的構成を示す機能ブロック図。
【図3】オートホワイトバランス制御部により実行される赤色ゲイン決定ルーチンを示すフローチャート。
【図4】第1実施例においてホワイトバランスの調整が行われる様子を示す説明図。
【図5】比較例としての従来のビデオカメラの機能的な構成を示す機能ブロック図。
【図6】比較例におけるホワイトバランス調整部の機能的な構成を示す機能ブロック図。
【図7】比較例のオートホワイトバランス制御部により実行される赤色ゲイン決定ルーチンを示すフローチャート。
【図8】比較例においてホワイトバランスの調整が行われる様子を示す説明図。
【図9】第2実施例における赤色ゲイン決定ルーチンを示すフローチャート。
【図10】第2実施例においてホワイトバランスの調整が行われる様子を示す説明図。
【符号の説明】
【0081】
10,12…ビデオカメラ
100…イメージセンサ
200…カメラ制御部
210…クランプ処理部
220…RBゲイン調整部
230…補間処理部
240…映像信号生成部
250…タイミング信号生成部
300,302…ホワイトバランス調整部
310…簡易補間処理部
322…無偏差ゲイン調整部
324…正偏差ゲイン調整部
326…負偏差ゲイン調整部
330…白検出部
340…色成分積分部
342…無偏差色成分積分部
344…正偏差色成分積分部
346…負偏差色成分積分部
350,352…オートホワイトバランス制御部

【特許請求の範囲】
【請求項1】
時系列的に入力される入力画像のホワイトバランスを調整するホワイトバランス調整装置であって、
先の入力画像の所定の色空間における複数の色成分のうちの対象色成分を補正パラメータの第1の値に基づいて補正し、補正された対象色成分を前記先の入力画像の少なくとも一部の積分対象領域について積分して第1の対象色成分積分値を算出する第1の対象色成分積分部と、
前記先の入力画像の対象色成分を前記補正パラメータの第1の値と異なる第2の値に基づいて補正し、補正された対象色成分を前記積分対象領域について積分して第2の対象色成分積分値を算出する第2の対象色成分積分部と、
後の入力画像の対象色成分の補正に使用される前記第1と第2の値を決定する補正パラメータ決定部と、
前記補正パラメータ決定部により決定された第1の値と第2の値の間に設定された第3の値に基づいて、前記後の入力画像の対象色成分を補正することによりホワイトバランス調整が施された調整画像を生成する調整画像生成部と、
を備え、
前記補正パラメータ決定部は、前記第1と第2の対象色成分積分値と、対象色成分積分値の目標値との大小関係に応じて、前記第1と第2の値の変更の要否を判定する、
ホワイトバランス調整装置。
【請求項2】
請求項1記載のホワイトバランス調整装置であって、
前記補正パラメータ決定部は、
前記目標値が前記第1の対象色成分積分値と前記第2の対象色成分積分値との間である場合には、前記第1と第2の値の変更を行わず、
前記目標値が前記第1の対象色成分積分値と前記第2の対象色成分積分値との間でない場合には、前記第1と第2の対象色成分積分値と前記目標値との大小関係に応じて、前記先の入力画像の対象色成分の補正に使用された前記第1と第2の値のそれぞれに、前記第1と第2の値の差分よりも小さい第1のオフセット値を加減することにより、前記第1と第2の値を変更する、
ホワイトバランス調整装置。
【請求項3】
請求項2記載のホワイトバランス調整装置であって、さらに、
前記先の入力画像の対象色成分を前記第3の値に基づいて補正し、補正された対象色成分を前記積分対象領域について積分して第3の対象色成分積分値を算出する第3の対象色成分積分部を備えており、
前記補正パラメータ決定部は、前記第3の対象色成分積分値と前記目標値との大小関係に基づいて、前記第1と第2の値のそれぞれに前記第1のオフセット値を加えるか、前記第1と第2の値のそれぞれから前記第1のオフセット値を減ずるか、を決定する、
ホワイトバランス調整装置。
【請求項4】
請求項2または3記載のホワイトバランス調整装置であって、
前記対象色成分積分値は、前記補正パラメータの値の増大に応じて単調増加し、
前記第2の値は、前記第1の値よりも大きく設定されており、
前記補正パラメータ決定部は、
前記第2の対象色成分積分値が前記目標値よりも小さい場合には、前記第1のオフセット値が加えられた第1と第2の値のそれぞれに、さらに前記第1と第2の値の差分に基づいて設定される第2のオフセット値を加え、
前記第1の対象色成分積分値が前記目標値よりも大きい場合には、前記第1のオフセット値が減じられた第1と第2の値のそれぞれから、さらに前記第2のオフセット値を減じる、
ホワイトバランス調整装置。
【請求項5】
請求項1ないし4のいずれか記載のホワイトバランス調整装置であって、
前記目標値は、前記先の入力画像の前記対象色成分とは異なる比較色成分を前記積分対象領域について積分した比較色成分積分値である、
ホワイトバランス調整装置。
【請求項6】
請求項1ないし5のいずれか記載のホワイトバランス調整装置であって、
前記時系列的に入力される入力画像は、動画像であり、
前記後の入力画像は、前記ホワイトバランス調整装置から出力される現フレームの画像であり、
前記先の入力画像は、前記現フレームの直前のフレームの画像である、
ホワイトバランス調整装置。
【請求項7】
時系列的に入力される入力画像のホワイトバランスを調整するホワイトバランス調整方法であって、
(a)先の入力画像の所定の色空間における複数の色成分のうちの対象色成分を補正パラメータの第1の値に基づいて補正し、補正された対象色成分を前記先の入力画像の少なくとも一部の積分対象領域について積分して第1の対象色成分積分値を算出する工程と、
(b)前記先の入力画像の対象色成分を前記補正パラメータの第1の値と異なる第2の値に基づいて補正し、補正された対象色成分を前記積分対象領域について積分して第2の対象色成分積分値を算出する工程と、
(c)後の入力画像の対象色成分の補正に使用される前記第1と第2の値を決定する工程と、
(d)前記工程(c)により決定された第1の値と第2の値の間に設定された第3の値に基づいて、前記後の入力画像の対象色成分を補正することによりホワイトバランス調整が施された調整画像を生成する工程と、
を備え、
前記工程(c)は、前記第1と第2の対象色成分積分値と、対象色成分積分値の目標値との大小関係に応じて、前記第1と第2の値の変更の要否を判定する工程を含む、
ホワイトバランス調整方法。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7】
image rotate

【図8】
image rotate

【図9】
image rotate

【図10】
image rotate


【公開番号】特開2008−311730(P2008−311730A)
【公開日】平成20年12月25日(2008.12.25)
【国際特許分類】
【出願番号】特願2007−155189(P2007−155189)
【出願日】平成19年6月12日(2007.6.12)
【出願人】(000000424)株式会社エルモ社 (104)
【Fターム(参考)】