説明

画像信号処理装置及びその方法

【課題】カラーフィルタの分光特性の影響を受けないオートホワイトバランス処理を可能にして良好な色再現性を得る。
【解決手段】カラーフィルタが配設された撮像素子の出力から各色成分を抽出する抽出手段1と、前記抽出手段1によって抽出された前記各色成分に対する第1の線形処理によって前記カラーフィルタの分光特性を補正する色調整手段10と、前記色調整手段10によって補正された前記各色成分に対する第2の線形処理によってホワイトバランスを調整するホワイトバランス処理手段11とを具備したことを特徴とする。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、イメージセンサを用いた撮像装置のホワイトバランス調整に好適な画像信号処理装置及びその方法に関する。
【背景技術】
【0002】
近年、被写体像をイメージセンサ等の光電変換素子によって電気信号に変換して画像信号を得る電子カメラが普及している。このような電子カメラにおいては、光学系を通過した被写体の光学像は、撮像素子であるイメージセンサによって電気信号に変換される。イメージセンサからの電気信号は画像信号として所定の画像信号処理が施される。画像信号処理としては、画像信号に対するガンマ補正処理、色分離処理及びホワイトバランス処理等の処理があり、これらの処理を経て所定のフォーマットの画像信号が得られる。
【0003】
なお、ガンマ補正処理は、表示系における画像信号のレベルと透過率(輝度)との関係の非線形性を補正するための処理である。また、ホワイトバランス処理は、白色を正しく再現するための処理である。
【0004】
電子カメラにおいては、イメージセンサにカラーフィルタを配置することでカラー画像が得られる。カラーフィルタによって例えばR(赤),G(緑),B(青)光をイメージセンサに入射させることで、R,G,B画像信号が得られる。
ところが、同一被写体(同一物色)を撮像した場合でも、イメージセンサから得られたR,G,B信号のレベルは、光源(環境色)の色温度に応じて個々に変動してしまう。そこで、白色を正しく再現すると共に色のバランスを適切に再現するために、ホワイトバランス処理が行われている。
【0005】
ホワイトバランス処理はR,G,B画像信号に対して、夫々所定の係数(色係数)を乗算することで行われる。これにより、R,G,B信号のレベルを個々に調整して、色のバランスを適正なものにするのである。
【発明の概要】
【発明が解決しようとする課題】
【0006】
ところで、表示系においてはR,G,B信号を混合することによって各色を再現しており、例えば液晶パネルのカラーフィルタ等においては、R,G,Bフィルタの分光特性を比較的急峻にしてR,G,Bフィルタから確実にR,G,B光が得られるようにしている。ところが、撮像系においては、撮像時に、被写体の光学像のR,G,B以外の色についても透過させることを可能にする必要があり、カラーフィルタのR,G,Bの各分光特性は、比較的広い帯域特性に設定されて、相互に重なる部分を有する。従って、各R,G,Bフィルタを透過した光に基づくR,G,B信号には、夫々他の色光に基づく信号成分も含まれてしまう。
【0007】
このようなR,G,B信号に対して線形処理であるホワイトバランス処理が施される。
この場合でも、R,G,B信号を適宜設定することで白の再現性は向上させることができる。しかしながら、R,G,B信号のレベル調整によってR,G,B信号に含まれる他の色成分も同時に変化してしまい、他の色成分については色再現性が劣化してしまうという問題点があった。
【0008】
本発明はかかる問題点に鑑みてなされたものであって、色調整用のためのマトリクス処理後に、オートホワイトバランス処理を実施することで、白の再現性だけでなく各色バランスの再現性も向上させることができる画像信号処理装置及びその方法を提供することを目的とする。
【課題を解決するための手段】
【0009】
本発明に係る画像信号処理装置は、カラーフィルタが配設された撮像素子の出力から各色成分を抽出する抽出手段と、前記抽出手段によって抽出された前記各色成分に対する第1の線形処理によって前記カラーフィルタの分光特性を補正する色調整手段と、前記色調整手段によって補正された前記各色成分に対する第2の線形処理によってホワイトバランスを調整するホワイトバランス処理手段とを具備したことを特徴とする。
【0010】
このような構成によれば、抽出手段は撮像素子の出力から各色成分を抽出する。この各色成分は、被写体の物色、被写体を照明する環境色及びカラーフィルタの分光特性に基づく色になっている。抽出された色成分は、色調整手段によって、第1の線形処理が施される。これにより、色成分はカラーフィルタの分光特性が補正されて、被写体の物色及び環境色に基づくものとなる。更に、各色成分には、ホワイトバランス処理手段によって第2の線形処理が施される。これにより、環境色の影響が排除されて、各色成分は被写体の物色に基づくものとなり、良好な色再現性が得られる。
【0011】
また、前記色調整手段及びホワイトバランス処理手段は、マトリクス演算によって夫々前記第1及び第2の線形処理を実行することを特徴とする。
【0012】
このような構成によれば、マトリクス演算に用いるマトリクス係数を適宜設定することによって、容易にカラーフィルタの分光特性の補正及びホワイトバランス調整が可能となる。
【0013】
また、前記抽出手段が抽出する色成分は、原色信号であり、前記ホワイトバランス処理手段は、前記抽出手段によって抽出された原色信号を輝度−色差色空間に変換して、変換後の輝度信号及び色差信号からホワイトバランス処理用の色係数に用いる画素を抽出すると共に、抽出した画素に対応する前記色調整手段による色調整後の各色成分から前記ホワイトバランス処理用の色係数を算出することを特徴とする。
【0014】
このような構成によれば、抽出手段によって抽出された原色信号は、輝度−色差色空間に変換される。これにより、色差信号を用いた所定の色範囲の画素の抽出及び輝度信号を用いた所定の輝度範囲の画素の抽出を行うことができ、色係数の算出に用いる画素として、例えば無彩色の画素を用いることが可能となり、色係数の精度を向上させて良好なホワイトバランス調整を可能にすることができる。
【0015】
また、前記輝度−色差色空間は、YUV色空間であることを特徴とする。
【0016】
このような構成によれば、原色信号からYUV色空間への変換を容易に行うことができ、簡単な装置で構成することができる。
【0017】
また、前記抽出手段が抽出する色成分は、原色信号であり、前記抽出手段によって抽出された原色信号を輝度−色差色空間に変換して、変換後の色差信号に対する色抑制を行った後に前記色調整手段に与える色抑制手段を更に具備したことを特徴とする。
【0018】
このような構成によれば、色抑制手段によって色差信号が色抑制される。例えば暗い画素について色抑制を施すことにより、暗い画素部分の欠陥が目立つことを防止して、全体的な画質を向上させることができる。
【0019】
また、前記色調整手段は、輝度−色差色空間の輝度信号と前記色抑制手段からの色差信号とを原色信号に変換した後に色調整を実施することを特徴とする。
【0020】
このような構成によれば、カラーフィルタの分光特性に応じた色空間で調整を行うことにより、確実な色調整が可能となる。
【0021】
また、前記ホワイトバランス処理手段によってホワイトバランス処理された前記各色成分にガンマ補正を施すガンマ補正手段を更に具備したことを特徴とする。
【0022】
このような構成によれば、ガンマ補正によって画質を向上させることができる。
【0023】
また、本発明に係る画像信号処理装置は、カラーフィルタが配設された撮像素子の出力からR,G,B信号を抽出する抽出手段と、前記抽出手段によって抽出されたR,G,B信号をYUV色空間の信号に変換する第1のマトリクス手段と、前記第1のマトリクス手段からの輝度信号Y及び色差信号UVからホワイトバランス処理用の色係数に用いる画素を判定する抽出画素判定手段と、前記第1のマトリクス手段からの輝度信号Y及び色差信号UVを帯域制限する画質補正手段と、前記画質補正手段からの前記色差信号UVを色抑制する色抑制手段と、前記画質補正手段からの前記輝度信号Y及び前記色抑制手段からの前記色差信号UVをR,G,B信号に変換する第2のマトリクス手段と、前記第2のマトリクス手段からのR,G,B信号に対する第1の線形処理によって前記カラーフィルタの分光特性を補正する第3のマトリクス手段と、前記第3のマトリクス手段からのR,G,B信号のうち前記抽出画素判定手段によって選択された画素の信号を用いてホワイトバランス処理用の色係数を算出する色係数算出手段と、前記第3のマトリクス手段からのR,G,B信号に対する前記色係数を用いた第2の線形処理によってホワイトバランスを調整する第4のマトリクス手段と、前記第4のマトリクス手段からのR,G,B信号に対するガンマ補正処理を行うガンマ補正手段とを具備したことを特徴とする。
【0024】
このような構成によれば、抽出手段によって抽出されたR,G,B信号は、第1のマトリクス手段によってYUV色空間の信号に変換された後、画質補正手段によって帯域制限されて画質が補正される。また、抽出画素判定手段は、第1のマトリクス手段からの輝度信号Y及び色差信号UVからホワイトバランス処理用の色係数に用いる画素を判定する。これにより、所定の色範囲及び輝度範囲の画素のみを色係数の算出に用いることができ、色係数の精度を向上させることができる。色抑制手段は、色差信号UVを色抑制して、例えば暗い画素の欠陥が目立つことを防止する。第2のマトリクス手段は輝度−色差色空間の信号をR,G,B信号に変換し、第3のマトリクス手段は、第1の線形処理によってカラーフィルタの分光特性を補正する。これにより、R,G,B信号は環境色及び被写体の物色に基づくものとなる。色係数算出手段は、第3のマトリクス手段からのR,G,B信号のうち抽出画素判定手段によって選択された画素の信号を用いてホワイトバランス処理用の色係数を算出する。そして、第4のマトリクス手段は、第3のマトリクス手段からのR,G,B信号に対して色係数を用いた第2の線形処理によってホワイトバランスを調整する。これにより、環境色の影響が排除されて、被写体の物色が再現される。第4のマトリクス手段からのR,G,B信号はガンマ補正手段によってガンマ補正される。こうして、色再現性に優れた画像信号を得ることができる。
【0025】
また、本発明に係る画像信号処理方法は、カラーフィルタが配設された撮像素子の出力から各色成分を抽出する抽出手順と、抽出された前記各色成分に対する第1の線形処理によって前記カラーフィルタの分光特性を補正する色調整手順と、前記色調整手順によって補正された前記各色成分に対する第2の線形処理によってホワイトバランスを調整するホワイトバランス処理手順とを具備したことを特徴とする。
【0026】
このような構成によれば、撮像素子の出力から各色成分を抽出される。抽出された各色成分は、被写体の物色、被写体を照明する環境色及びカラーフィルタの分光特性に基づく色になっている。色調整手順では、抽出された色成分に対して第1の線形処理が施される。これにより、色成分はカラーフィルタの分光特性が補正されて、被写体の物色及び環境色に基づくものとなる。更に、各色成分には、ホワイトバランス処理手順において第2の線形処理が施される。これにより、環境色の影響が排除されて、各色成分は被写体の物色に基づくものとなり、良好な色再現性が得られる。
【図面の簡単な説明】
【0027】
【図1】本発明の第1の実施の形態に係る画像信号処理装置を示すブロック図。
【発明を実施するための形態】
【0028】
以下、図面を参照して本発明の実施の形態について詳細に説明する。図1は本発明の第1の実施の形態に係る画像信号処理装置を示すブロック図である。
【0029】
イメージセンサが撮像した被写体の光学像は、被写体の物色、被写体の照明光(環境色)及びフィルタの分光特性に基づく色光になっている。本実施の形態においては、オートホワイトバランス処理の前段において色調整を行うマトリクス処理を実施することでフィルタの分光特性を補正した後、線形処理によるオートホワイトバランス処理によって環境色を除去して、被写体の正しい物色を再現するようにしている。
【0030】
被写体からの光学像は、カラーフィルタを含む図示しない光学系を介して図示しないイメージセンサに入射される。イメージセンサは入射光を光電変換して、被写体の光学像に基づく画像信号を発生する。この画像信号は図1のAFE(アナログフロントエンド)回路1に供給されるようになっている。AFE回路1は図示しない増幅器及びアナログ/デジタル変換器等によって構成されており、入力された画像信号をデジタル信号に変換してOBクランプ回路2に出力する。
【0031】
OBクランプ回路2は、入力された画像信号を適切な黒色の基準レベルに調整するための回路である。イメージセンサには予め決められた数個の画素が遮光板等によって遮光されてOB(オプティカルブラック)領域に設定されている。OBクランプ回路2はこのOB領域の画素の画素信号レベルに基づいて、画像信号の黒色レベルを調整するようになっている。OBクランプ回路2の出力はデータレンジ補正回路3に与えられる。データレンジ補正回路3は、入力されたデジタル画像データのレンジを補正してCFA色補間回路4に出力する。
【0032】
イメージセンサに設けられたカラーフィルタは、例えば、R,G,Bフィルタが適宜の配列規則に従って、循環的に配列されたものである。これにより、イメージセンサの各画素は、個々にR画素、G画素又はB画素を構成する。CFA色補間回路4は、複数ライン(例えば3ライン)分の画像信号を保持するラインバッファ(図示せず)を有しており、隣接した位置のR,G,B画素を用いた演算処理によって、各画素位置でR,G,B信号を得るための補間処理を行う。CFA色補間回路4からのR,G,B信号はマトリクス演算器5に供給される。
【0033】
マトリクス演算器5は入力されたR,G,B信号をYUV’信号に変換するためのものである。マトリクス演算器5は例えば3×3のマトリクス演算によって、R,G,B信号をYUV’信号に変換し、輝度信号Yをハイパスフィルタ(HPF)6に与え、色差信号U,V’をローパスフィルタ(LPF)7に与えるようになっている。HPF6は輝度信号Yの高域成分を通過させて高域強調による輪郭補償等の画質補正を行ってマトリクス演算器9に出力する。また、LPF7は入力された色差信号U,V’を低域のみに制限して色抑制回路8に出力する。
【0034】
本実施の形態においては、色抑制回路8は色差信号UV’の色成分を抑制してマトリクス演算器9に出力するようになっている。画素信号に対する利得が比較的大きい場合には、量子化ノイズ等の影響によって画素信号の欠陥が目立ってしまう。そこで、暗い部分については色に対する人間の目の感度が比較的低いことを利用して、比較的輝度が低い画素(暗い部分)の色成分を抑制し、又はモノクロモードにすることによって、画素の欠陥を目立たなくなるようにしている。
【0035】
本実施の形態においては、YUV’信号に変換した画像信号を再びR,G,B信号に戻すようになっている。マトリクス演算器9は入力されたYUV’信号をマトリクス処理してR1,G1,B1信号に変換した後マトリクス演算器10に出力する。マトリクス演算器10は入力されたR1,G1,B1信号に対してマトリクス処理を施して色調整し、色調整後のR2,G2,B2信号をオートホワイトバランス回路11に出力するようになっている。本実施の形態においては、この色調整によってカラーフィルタの分光特性を補正するようになっている。
【0036】
本実施の形態においては、オートホワイトバランス回路11において使用する色係数は、入力画像信号中の特定の画素信号のみを用いて生成する。AWB(オートホワイトバランス)用抽出画素判定回路12は、マトリクス演算器5の出力YUV’信号からオートホワイトバランス処理の色係数を得るための画素信号を判定する。例えば、AWB用抽出画素判定回路12は、マトリクス演算器5の出力のうち所定の色範囲の画素であって、輝度レベルが所定の範囲内の画素について、色係数を得るための画素信号であるものと判定して、その画素位置を示す位置情報をAWB用画素データ蓄積回路13に出力する。
【0037】
AWB用画素データ蓄積回路13は、マトリクス演算器10の出力R2,G2,B2信号が与えられ、位置情報で与えられる画素位置に対応するR2,G2,B2信号を記憶保持すると共に、色係数の算出のためにAWB用係数算出回路14に出力する。AWB用係数算出回路14は、入力されたR2,G2,B2信号に基づいて、オートホワイトバランス調整用の色係数を算出してオートホワイトバランス回路11に出力する。
【0038】
オートホワイトバランス回路11は、入力されたR2,G2,B2信号に対して、色係数を乗算するマトリクス処理によって各色レベルを調整を行い、ホワイトバランスを適正なものにするようになっている。オートホワイトバランス回路11によってオートホワイトバランス調整されたR3,G3,B3信号はユーザ色調整回路15に出力される。
【0039】
ユーザ色調整回路15は、ユーザ操作に基づく外部信号が入力され、この外部信号に基づいて入力されたR3,G3,B3信号のレベルを調整することで、色バランスをユーザの好みに調整するようになっている。ユーザ色調整回路15からの色調整後のR4,G4,B4信号はユーザデジタルゲイン設定回路16に供給される。ユーザデジタルゲイン設定回路16は、ユーザ操作に基づく外部信号が入力され、この外部信号に基づいて入力されたR4,G4,B4信号に対するゲインを調整することで、輝度をユーザの好みに調整するようになっている。ユーザデジタルゲイン設定回路16からの輝度調整後のR5,G5,B5信号はガンマ(γ)補正回路17に供給される。
【0040】
ガンマ補正回路17は入力されたR5,G5,B5信号に所定の非線形処理を施してガンマ補正した後、マトリクス演算器18に出力する。マトリクス演算器18は、入力されたR,G,B信号をYUV信号に変換するためのものである。
マトリクス演算器18は例えば3×3のマトリクス演算によって、R,G,B信号をYUV信号に変換して出力するようになっている。
【0041】
次に、このように構成された実施の形態の動作について説明する。
【0042】
所定の物色の被写体は所定の環境色の照明光によって照明されているものとする。被写体の光学像はカラーフィルタを含む光学系を介してイメージセンサに入射され、光電変換されてR,G,B信号が得られる。AFE回路1に入力されるR,G,B信号は、被写体の物色、被写体の照明光(環境色)及びフィルタの分光特性に基づく色光に対応したものとなっている。AFE回路1は入力されたR,G,B信号をデジタル信号に変換してOBクランプ回路1に出力する。OBクランプ回路1は、入力された画素信号の黒レベルを黒色の適切なレベルに設定してデータレンジ補正回路3に出力する。データレンジ補正回路3によって、R,G,B信号は適正なレンジに補正されて画像の明るさが調整される。更に、R,G,B信号はCFA色補間回路4において色補間が行われて、各画素位置におけるR,G,B画像信号が得られる。
【0043】
本実施の形態においては、YUV’色空間においてオートホワイトバランス用の色係数を算出すると共に画質補正を行うために、色補間されたR,G,B信号は、先ずマトリクス演算器5によって、YUV’信号に変換される。輝度信号YはHPF6によって高域強調されてマトリクス演算器9に供給され、色差信号UV’はLPF7によって低域に帯域制限されて色抑制回路8に供給される。色抑制回路8は量子化ノイズ等のノイズの影響を低減するために、画像の暗い部分について色を抑制してマトリクス演算器9に出力する。
【0044】
本実施の形態においては、色バランスの調整のために、YUV’信号を一旦R,G,B信号に戻す。即ち、マトリクス演算器9は入力されたYUV’信号に対するマトリクス処理によって、R1,G1,B1信号を得る。このR1,G1,B1信号は色調整用のマトリクス演算器10に与えられる。マトリクス演算器10は、入力されたR1,G1,B1信号に対するマトリクス処理によって、カラーフィルタの分光特性を補正して、R,G,Bフィルタの特性が急峻な場合と同様な特性のR2,G2,B2信号を得る。このR2,G2,B2信号はオートホワイトバランス回路11に与えられる。
【0045】
一方、AWB用抽出画素判定回路12はマトリクス演算器5からのYUV’信号が与えられて、オートホワイトバランス処理の色係数算出用の画素を決定する。例えば、AWB用抽出画素判定回路12は、所定の色範囲で且つ所定の輝度範囲の画素を色係数算出用の画素として抽出し、その画素位置を示す位置情報をAWB用画素データ蓄積回路13に出力する。
【0046】
AWB用画素データ蓄積回路13は、与えられた位置情報に対応するタイミングで、マトリクス演算器10からのR2,G2,B2信号を取込んで蓄積し、AWB用係数算出回路4に出力する。AWB用係数算出回路4は入力されたR2,G2,B2信号から、オートホワイトバランス調整用の色係数を算出する。算出された色係数はオートホワイトバランス回路11に与えられる。
【0047】
オートホワイトバランス回路11は、入力された色係数を用いて、例えば3×3の線形マトリクス処理によって、ホワイトバランスの調整を行う。これにより、入力R,G,B信号に含まれていた環境色の影響が除去される。オートホワイトバランス回路11によってオートホワイトバランス調整されたR3,G3,B3信号はユーザ色調整回路15に出力される。
【0048】
ユーザ色調整回路15は、ユーザ操作に基づいて、色バランスをユーザの好みに調整する。更に、ユーザデジタルゲイン設定回路16は、ユーザ操作に基づいて、輝度をユーザの好みに調整する。ユーザ操作に基づいて、色調整及び輝度調整が施された画像信号はガンマ補正回路17に与えられて、ガンマ補正される。
ガンマ補正された画像信号はマトリクス演算器18に与えられ、入力されたR,G,B信号をYUV信号に変換する。
【0049】
このように本実施の形態においては、オートホワイトバランス処理の前段において色調整を行うマトリクス処理を実施することでフィルタの分光特性を補正し、更に、オートホワイトバランス処理によって環境色を除去して、被写体の正しい物色を再現するようにしている。
【符号の説明】
【0050】
5,9,10…マトリクス演算器、11…オートホワイトバランス回路、12…AWB用抽出画素判定回路、13…AWB用画素データ蓄積回路、14…AWB用係数算出回路、17…ガンマ補正回路。

【特許請求の範囲】
【請求項1】
撮像素子の出力に応じた原色信号を取得する原色信号取得手段と、前記原色信号に対して前記撮像素子の分光特性を補正する色調整手段と、
前記色調整手段による補正が行われていない信号を用いてホワイトバランス処理用の画素を判定する画素判定手段と、
ホワイトバランス処理用の画素に基づいて、前記色調整手段によって補正された各色成分のホワイトバランスを調整するホワイトバランス処理手段と、を具備したことを特徴とする画像信号処理装置。
【請求項2】
撮像素子の出力に応じた原色信号を取得する原色信号取得手段と、
前記原色信号に対して前記撮像素子の分光特性を補正する色調整手段と、
前記原色信号を輝度−色差色空間に変換して、変換後の輝度信号及び色差信号に基づいてホワイトバランス処理用の画素を抽出すると共に、抽出した画素に基づいて前記色調整手段によって補正された各色成分のホワイトバランスを調整するホワイトバランス処理手段とを具備したことを特徴とする画像信号処理装置。
【請求項3】
前記画素判定手段は、前記色調整手順による補正が行われていない前記原色信号を輝度−色差色空間に変換して、変換後の輝度信号及び色差信号に基づいてホワイトバランス処理用の画素を判定することを特徴とする請求項1に記載の画像信号処理装置。
【請求項4】
前記輝度−色差色空間は、YUV色空間であることを特徴とする請求項2又は3に記載の画像信号処理装置。
【請求項5】
前記ホワイトバランス処理手段は、ホワイトバランス処理用の画素における前記色調整手段によって補正された各色成分の値に基づいたホワイトバランスの調整を行うことを特徴とする請求項1乃至4のいずれかに記載の画像信号処理装置。
【請求項6】
前記原色信号及び前記色調整手段によって補正された各色成分の信号は、R,G,Bについての信号であることを特徴とする請求項1乃至5の何れかに記載の画像信号処理装置。
【請求項7】
前記ホワイトバランスの調整の前に、前記原色信号を輝度−色差色空間に変換して、変換後の色差信号に対する色抑制を行う色抑制手段を更に具備したことを特徴とする請求項1乃至6の何れかに記載の画像信号処理装置。
【請求項8】
撮像素子の出力に応じた原色信号を取得する原色信号取得手順と、
前記原色信号に対して前記撮像素子の分光特性を補正する色調整手順と、
前記色調整手順による補正が行われていない信号を用いてホワイトバランス処理用の画素を判定する画素判定手順と、
ホワイトバランス処理用の画素に基づいて、前記色調整手順によって補正された各色成分のホワイトバランスを調整するホワイトバランス処理手順と、を具備したことを特徴とする画像信号処理方法。

【図1】
image rotate


【公開番号】特開2011−254502(P2011−254502A)
【公開日】平成23年12月15日(2011.12.15)
【国際特許分類】
【出願番号】特願2011−152794(P2011−152794)
【出願日】平成23年7月11日(2011.7.11)
【分割の表示】特願2008−315338(P2008−315338)の分割
【原出願日】平成15年3月12日(2003.3.12)
【出願人】(000002369)セイコーエプソン株式会社 (51,324)
【Fターム(参考)】