説明

光源判定装置および光源判定方法

【課題】本発明は、確率的な手法を用いず簡便かつ正確にLED光源判別を行う。
【解決手段】固体撮像素子から得られた80nm付近の波長の光に対応する撮像信号の信号量と450nm付近の波長の光に対応する撮像信号の信号量とに基づき、簡便かつ正確に光源が白色LEDであるか否かを判断することができる。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は撮像シーンの光源判定に関し、特に、白色LED光源の判定に関する。
【背景技術】
【0002】
特許文献1では、黒体軌跡と蛍光灯軌跡を用いてホワイトバランスゲインを算出する技術が開示されている。
【0003】
特許文献2では、波長ごとの分光特性を測定し、分光エネルギー分布から色温度を算出し、色温度に応じてホワイトバランスゲインを算出する技術が開示されている。
【0004】
特許文献3によると、評価空間内の写像された位置によって光源を推定する方式では、発光ダイオード(LED)のYAG(イットリウム・アルミニウム・ガーネット)タイプのものと昼光の観測値の多くが重複してしまい、これら2つの光源を判別することが非常に難しく、自然な色を再現することが困難であった。このため、特許文献3の発明では、光源推定回路は、RGBにエメラルドを追加した4種類のカラーフィルタを有する撮像素子によって撮像された入力画像をA/D変換回路を介してRGBE信号として出力し、RGBE信号を線形判別法の一次元の軸に射影することによってLEDを含む光源を推定する。
【0005】
特許文献4および5はメンバシップ関数の一例を示す。メンバシップ関数は、輝度レベルを変数として日陰やデーライトなど各種光源の確からしさを表す評価値を出力する関数である。
【0006】
特許文献4では、日陰やデーライトに対して良好なホワイトバランスを行うためのホワイトバランスゲイン値Rg、Gg、Bgが予め準備されており、これらのゲイン値Rg、Gg、Bgがホワイトバランス調整回路に加えられることによって、評価値から判定された光源に適したホワイトバランス制御が行われる。
【0007】
特許文献5では、各々の光源下での撮影においてホワイトバランスが適正となるよう、ホワイトバランス補正値Rg、Gg、Bgは、基準WBゲイン値から環境光源の色を所定色にするための制御値GR、GB、GGとの間の値で、かつ評価値Hmaxで特定された環境光源に適したホワイトバランス制御を行うことができる値となるため、各々の環境光源に対して適正にホワイトバランス制御することができ、カラーフェリアの発生を抑えることができる。
【0008】
特許文献6は蛍光灯軌跡より下側に分布する色情報の補正方法を例示する。
【0009】
特許文献7は相関色温度の算出式の一例である。
【先行技術文献】
【特許文献】
【0010】
【特許文献1】特開2003-259196号公報
【特許文献2】特開2006-54678号公報
【特許文献3】特開2007-300253号公報
【特許文献4】特開2000-224608号公報
【特許文献5】特開2004-186876号公報(特に段落0115)
【特許文献6】特開2006-222672号公報(特に段落0061)
【特許文献7】特開2010-258703(特に段落0032)
【発明の概要】
【発明が解決しようとする課題】
【0011】
図10は、電球、電球色蛍光灯、白色蛍光灯、昼白色蛍光灯、昼光色蛍光灯、ナトリウムランプ、水銀灯、白色LEDといった人工光源に対応する相関色温度・被写体輝度の分布範囲を示している。また、図10は、朝焼け/夕景、デーライト光源、曇天・日陰といった自然光源に対応する相関色温度・被写体輝度の分布範囲を示している。
【0012】
シーンの色温度(相関色温度)と明るさ(被写体輝度)が、図10のような分布範囲のいずれに属するかに応じて、屋外光源/屋内光源(蛍光灯、電球)を判別する手法が一般的に知られている。白色LEDは、従来光源よりも明るいため、その分布範囲は屋外光源の分布範囲と重複する。よって、相関色温度・被写体輝度の分布範囲に基づいてLED光源と屋外光源を判別するのは困難である。
【0013】
LED光源は従来の人工光源よりも非常に明るく、むしろ屋外光源の明るさに近いため、特に屋外光源との判別が難しい。特許文献3では、線形判別法により確率的にLED光源と太陽光を判別するため、判別の正確性がサンプルに依存する。また、特許文献3では、1次元空間に情報を射影して光源判別しているので、判別精度が高くない。
【0014】
本発明は、確率的な手法を用いず簡便かつ正確にLED光源判別を行う。また本発明は、LED光源と判定された場合に、適切なオートホワイトバランス補正を施す。
【課題を解決するための手段】
【0015】
本発明は、固体撮像素子から出力される撮像信号に基づき、480nm付近の波長の光に対応する撮像信号の信号量と450nm付近の波長の光に対応する撮像信号の信号量とを取得する信号量取得部と、信号量取得部の取得した480nm付近の波長の光に対応する撮像信号の信号量と450nm付近の波長の光に対応する撮像信号の信号量の比を算出する信号比算出部と、信号比算出部の算出した比と所定の閾値との大小関係に応じて、光源が白色LEDであるか否かを判断する白色LED光源判断部と、を備える光源判定装置を提供する。
【0016】
好ましくは、上記光源判定装置は、白色LED光源判断部が、光源が白色LEDであると判断した場合、白色LEDに適したホワイトバランス補正量を設定し、設定されたホワイトバランス補正量に従って撮像信号のホワイトバランスを補正するAWB補正部をさらに備える。
【0017】
好ましくは、AWB補正部は、白色LED光源判断部が、光源が白色LEDであると判断した場合、撮像信号から推定した代表色の赤(R)、緑(G)、青(B)の各色信号レベルが等しくなるような通常のホワイトバランス補正量を設定する。
【0018】
好ましくは、上記光源判定装置は、固体撮像素子から出力される撮像信号に基づき、被写体輝度を算出する被写体輝度算出部と、被写体輝度算出部の算出した被写体輝度を変数とするメンバシップ関数に基づいて光源の確からしさを示す評価値を算出する評価値算出部と、を備える。
【0019】
好ましくは、上記光源判定装置は、白色LED光源判断部が、光源が白色LEDでないと判断した場合、光源が白色LED以外の人工光源であるか否かを判断する従来人工光源判断部を備え、AWB補正部は、従来人工光源判断部が、光源が白色LED以外の人工光源であると判断した場合、評価値算出部の算出した評価値に従い、ホワイトバランス補正量を通常のホワイトバランス補正量よりも小さいかもしくはそれと同程度に設定する。
【0020】
好ましくは、上記光源判定装置は、白色LED光源判断部が、光源が白色LEDでないと判断した場合、光源が自然光源であるか否かを判断する自然光源判断部を備え、AWB補正部は、自然光源判断部が、光源が自然光源であると判断した場合、評価値算出部の算出した評価値に従い、ホワイトバランス補正量を通常のホワイトバランス補正量よりも小さく設定する。
【0021】
好ましくは、上記光源判定装置は、所定の色空間における白色LED光源の色温度の分布を示した軌跡を記憶する軌跡記憶部と、撮像信号からなる画像を複数のエリアに分割する信号分割部と、信号分割部の分割した各々のエリアの色情報を取得する分割エリア色情報取得部と、分割エリア色情報取得部の取得した各々のエリアの色情報を、軌跡記憶部の記憶した軌跡に基づいて補正する色情報補正部と、を備え、AWB補正部は、白色LED光源判断部が、光源が白色LEDであると判断した場合、色情報補正部が色情報を補正した後の撮像信号に基づいて、白色LEDに適したホワイトバランスゲインを設定し、色情報補正部が色情報の補正した後の撮像信号のホワイトバランスを補正する。
【0022】
好ましくは、色情報補正部は、各々のエリアの色情報を、軌跡記憶部の記憶した軌跡に近づけるよう補正する。
【0023】
信号量取得部は、所定の色フィルタに対応する固体撮像素子の画素群の内、シアン色フィルタに対応する特定の画素から得られた撮像信号から480nm付近の波長の光に対応する撮像信号の信号量を取得するとともに、青色フィルタに対応する特定の画素から得られた撮像信号から450nm付近の波長の光に対応する撮像信号の信号量を取得する。
【0024】
本発明は、光源判定装置が、固体撮像素子から出力される撮像信号に基づき、480nm付近の波長の光に対応する撮像信号の信号量と450nm付近の波長の光に対応する撮像信号の信号量とを取得するステップと、取得した480nm付近の波長の光に対応する撮像信号の信号量と450nm付近の波長の光に対応する撮像信号の信号量の比を算出するステップと、算出した比と所定の閾値との大小関係に応じて、光源が白色LEDであるか否かを判断するステップと、を実行する。
【発明の効果】
【0025】
本発明によると、固体撮像素子から得られた80nm付近の波長の光に対応する撮像信号の信号量と450nm付近の波長の光に対応する撮像信号の信号量とに基づき、簡便かつ正確に光源が白色LEDであるか否かを判断することができる。また本発明は、2次元の情報で光源判別するので、光源判別の情報量が従来技術よりも多く正確である。
【図面の簡単な説明】
【0026】
【図1】第1実施形態の撮像装置のブロック図
【図2】C/B画素群Xの配列を例示した図
【図3】第1実施形態の光源判別・AWB補正処理のフローチャート
【図4】白色LEDの分光特性を例示した図
【図5】第2実施形態の撮像装置のブロック図
【図6】第2実施形態の光源判別・AWB補正処理のフローチャート
【図7】第3実施形態の撮像装置のブロック図
【図8】第3実施形態の光源判別・AWB補正処理のフローチャート
【図9】軌跡L1〜L3を例示した図
【図10】各種光源に対応する相関色温度・被写体輝度の分布範囲を例示した図
【図11】被写体輝度値を変数とするAWB補正量のメンバシップ関数を例示した図
【発明を実施するための形態】
【0027】
<第1実施形態>
図1は、本発明の一実施形態に係る光源判定装置が適用された撮像装置100を示すブロック図である。同図に示す撮像装置100は、静止画や動画の記録及び再生機能を備えたデジタルカメラであり、撮像装置100全体の動作は中央処理装置(CPU)13によって統括制御される。CPU13は、所定のプログラムに従って本カメラシステムを制御する制御手段として機能するとともに、自動露出(AE)演算、自動焦点調節(AF)演算、ホワイトバランス(WB)調整演算など、各種演算を実施する演算手段として機能する。
【0028】
バス1を介してCPU13と接続されたROM18には、CPU13が実行するプログラム及び制御に必要な各種データ、CCD画素欠陥情報、カメラ動作に関する各種定数/情報等が格納されている。
【0029】
また、RAM11は、プログラムの展開領域及びCPU13の演算作業用領域として利用されるとともに、画像データや音声データの一時記憶領域として利用される。
【0030】
撮像装置100には、モード選択スイッチ、撮影ボタン、メニュー/OKキー、十字キー、キャンセルキーなどを含む操作部19が設けられている。操作部19からの信号はCPU13に入力され、CPU13はこの入力信号に基づいて撮像装置100の各回路を制御し、例えば、レンズ駆動制御、撮影動作制御、画像処理制御、画像データの記録/再生制御、表示装置30の表示制御などを行う。
【0031】
モード選択スイッチは、撮像装置100の動作モードを撮影モードまたは再生モードに切り換えるための操作手段である。
【0032】
撮影ボタンは、撮影開始の指示を入力する操作ボタンであり、半押し時にONするS1スイッチと、全押し時にONするS2スイッチとを有する二段ストローク式のスイッチで構成されている。
【0033】
メニュー/OKキーは、表示装置30の画面上にメニューを表示させる指令を行うためのメニューボタンとしての機能と、選択内容の確定及び実行などを指令するOKボタンとしての機能とを兼備した操作キーである。十字キーは、上下左右の4方向の指示を入力する操作部であり、メニュー画面から項目を選択したり、各メニューから各種設定項目の選択を指示したりするボタン(カーソル移動操作手段)として機能する。また、十字キーの上/下キーは撮影時のズームスイッチあるいは再生時の再生ズームスイッチとして機能し、左/右キーは再生モード時のコマ送り(順方向/逆方向送り)ボタンとして機能する。キャンセルキーは、選択項目など所望の対象の消去や指示内容の取消し、あるいは1つ前の操作状態に戻らせる時などに使用される。
【0034】
表示装置30は、カラー表示可能な液晶ディスプレイで構成されている。表示装置30は、撮影時に画角確認用の電子ファインダとして使用できるとともに、記録済み画像を再生表示する手段として利用される。また、表示装置30は、ユーザインターフェース用表示画面としても利用され、必要に応じてメニュー情報や選択項目、設定内容などの情報が表示される。液晶ディスプレイに代えて、有機ELなど他の方式の表示装置(表示手段)を用いることも可能である。
【0035】
撮像装置100は、外部メモリI/F16を有し、外部メモリI/F16にはメモリカード17を装着することができる。外部メモリI/F16に装着される記録メディアの形態はメモリカード17に限定されず、xD-PictureCard(商標)、スマートメディア(商標)に代表される半導体メモリカード、可搬型小型ハードディスク、磁気ディスク、光ディスク、光磁気ディスクなど、種々の媒体を用いることができる。
【0036】
圧縮伸張処理回路12は、外部メモリI/F16に装着されるメモリカード17に適した入出力信号の受渡しを行うために所要の信号変換を行う。
【0037】
次に、撮像装置100の撮影機能について説明する。モード選択スイッチによって撮像装置100の動作モードが撮影モードに設定されると、カラーCCD固体撮像素子(以下CCDと記載)21を含む撮像部2に電源が供給され、撮影可能な状態になる。
【0038】
光学ユニット20は、フォーカスレンズを含む撮影レンズと絞り兼用メカシャッターとを含む。光学ユニット20は、CPU13によって制御されるモータ駆動部24によって電動駆動され、ズーム制御、フォーカス制御及びアイリス制御が行われる。
【0039】
光学ユニット20を通過した光は、CCD21の受光面に結像される。CCD21の受光面には多数のフォトダイオード(受光素子)が二次元的に配置されており、各フォトダイオードに対応して赤(R)、緑(G)、青(B)の原色カラーフィルタが所定の配列構造(ベイヤー、Gストライプなど)で配置されている。これにより各色に対応する画素がCCD21の受光面に形成される。
【0040】
また、CCD21の受光面は、Bフィルタに対応する画素とシアン(C)の原色カラーフィルタに対応する画素とが所定サイズ(2画素以上)の近傍領域内で隣接した、C/B画素群を含んでいる。CCD21の受光面のどこにC/B画素群を設けるかは任意である。好ましくは、2次元画像の形成に使用されないか、2次元画像の形成に支障のない領域内にC/B画素群を配置する。C/B画素群の最小単位は1つのC画素と1つのB画素である。ただし、白色LED光源とは関係なく偶然にCの光とBの光が入射する場合もあるから、C/B画素群の単位は2画素を超え、広い範囲の画素群でC・B信号量を平均化することが好ましい。
【0041】
例えば、図2(a)に示すように、RGBフィルタがベイヤ型に配列された受光面の有効画素領域の周縁部において、GBのラインのGフィルタの代わりに、Cを配置することで、C/B画素群Xを形成することができる。
【0042】
あるいは、撮像装置100が位相差のある画像を取得可能な光学系を採用している場合は、受光面の有効画素領域のうち、位相差を取得する領域内(例えば位相差AF領域や視差画像取得領域)で、GとBの代わりに、CとBを交互に配置することで、C/B画素群を形成することができる。図2(b)では、位相差を取得する領域R内で、左の視点画像の画素群(主画素)と右の視点画像の画素群(副画素)のいずれか一方または双方のGBのラインのGフィルタの代わりにCを配置することで、C/B画素群Xを形成している。なお、図示は省略するが、領域Rの外側には、2次元画像を形成する画素群が配置されていてもよく、位相差を取得する領域内でのC画素の色情報は、周辺のG画素で補完することもできる。シアン(C)フィルタの代わりにエメラルド(E)フィルタを用いることもできる。CフィルタまたはEフィルタに対応する画素の画像信号は、画像の形成に使用されてもよいし、されなくてもよい。
【0043】
また、CCD21は、各フォトダイオードの電荷蓄積時間(シャッタースピード)を制御する電子シャッター機能を有している。CPU13は、タイミングジェネレータ(TG)31を介してCCD21での電荷蓄積時間を制御する。尚、CCD21に代えてMOS型など他の方式の撮像素子を用いてもよい。
【0044】
CCD21の受光面に結像された被写体像は、各フォトダイオードによって入射光量に応じた量の信号電荷に変換される。各フォトダイオードに蓄積された信号電荷は、CPU13の指令に従いTG31から与えられる駆動パルスに基づいて信号電荷に応じた電圧信号(画像信号)として順次読み出される。
【0045】
CCD21から出力された信号はアナログ信号処理部22に送られ、ここで画素ごとのR,G,B信号がサンプリングホールド(相関二重サンプリング処理)され、増幅された後、A/D変換器23に加えられる。A/D変換器23によってデジタル信号に変換された点順次のR,G,B,C信号は、メモリI/F10を介してRAM11に記憶される。
【0046】
デジタル信号処理部3は、RAM11に記憶されたR,G,B信号をCPU13の指令に従って処理する。即ち、デジタル信号処理部3は、同時化回路(単板CCDのカラーフィルタ配列に伴う色信号の空間的なズレを補間して色信号を同時式に変換する処理回路)、ホワイトバランス補正回路、ガンマ補正回路、輪郭補正回路、輝度・色差信号生成回路等を含む画像処理手段として機能し、CPU13からのコマンドに従ってRAM11を活用しながら所定の信号処理を行う。
【0047】
デジタル信号処理部3は、入力されたRGBの画像データを、輝度信号(Y信号)及び色差信号(Cr,Cb信号)に変換するとともに、ガンマ補正等の所定の処理を施す。デジタル信号処理部3で処理された画像データはRAM11に格納される。
【0048】
撮影画像を表示装置30にモニタ出力する場合、RAM11から画像データが読み出され、バス1を介してビデオエンコーダ32に送られる。ビデオエンコーダ32は、入力された画像データを表示用の所定方式の信号(例えば、NTSC方式のカラー複合映像信号)に変換して表示装置30に出力する。
【0049】
CCD21から出力される画像信号によって、1コマ分の画像を表す画像データがRAM11のA領域とB領域とで交互に書き換えられる。RAM11のA領域及びB領域のうち、画像データが書き換えられている方の領域以外の領域から、書き込まれている画像データが読み出される。このようにしてRAM11内の画像データが定期的に書き換えられ、その画像データから生成される映像信号が表示装置30に供給されることにより、撮像中の映像がリアルタイムに表示装置30に表示される。撮影者は、表示装置30に表示される映像(スルームービー画)によって撮影画角を確認できる。
【0050】
撮影ボタンが半押し(S1=ON)されると、撮像装置100はAE及びAF処理を開始する。即ち、CCD21から出力された画像信号はA/D変換後に画像入力コントローラ56を介してAF検出回路5並びにAE/AWB検出回路4に入力される。
【0051】
AE/AWB検出回路4は、1画面を複数のエリア(例えば、8×8乃至16×16)に分割し、分割エリアごとにRGB信号を積算する回路を含み、その積算値をCPU13に提供する。CPU13は、AE/AWB検出回路4から得た積算値に基づいて被写体の明るさ(被写体輝度)を検出し、撮影に適した露出値(撮影EV値)を算出する。求めた露出値と所定のプログラム線図に従い、絞り値とシャッタースピードが決定され、これに従いCPU13はCCD21の電子シャッター及びアイリスを制御して適正な露光量を得る。
【0052】
また、AE/AWB検出回路4は、自動ホワイトバランス調整時には、分割エリアごとにRGB信号の色別の平均積算値を算出する。AE/AWB検出回路4は、Rの積算値、Bの積算値、Gの積算値を得て、分割エリアごとにR/G及びB/Gの比を求め、これらR/G、B/Gの値のR/G、B/G軸座標の色空間における分布等に基づいて光源種判別を行う。AE/AWB検出回路4は、判別された光源種に応じてR,G,B信号に対するAWB補正値(AWBゲイン値)を算出し、このAWB補正値で各色チャンネルの信号に補正をかけるようデジタル信号処理部3を制御する。尚、ホワイトバランス調整の詳細は後述する。
【0053】
本撮像装置100におけるAF制御は、例えば映像信号のG信号の高周波成分が極大になるようにフォーカシングレンズ(撮影レンズ42を構成するレンズ光学系のうちフォーカス調整に寄与する移動レンズ)を移動させるコントラストAFが適用される。即ち、AF検出回路5は、G信号の高周波成分のみを通過させるハイパスフィルタ、絶対値化処理部、画面内(例えば、画面中央部)に予め設定されているAFエリア内の信号を切り出すAFエリア抽出部、及びAFエリア内の絶対値データを積算する積算部から構成される。
【0054】
AF検出回路5で求めた積算値のデータはCPU13に通知される。CPU13は、モータ駆動部24を制御してフォーカシングレンズを移動させながら、複数のAF検出ポイントで焦点評価値(AF評価値)を演算し、評価値が極大となるレンズ位置を合焦位置として決定する。そして、求めた合焦位置にフォーカシングレンズを移動させるようにモータ駆動部24を制御する。尚、AF評価値の演算はG信号を利用する態様に限らず、輝度信号(Y信号)を利用してもよい。また、位相差AFその他のAF制御が行われてもよい。
【0055】
上記のように、撮影ボタンの半押し(S1=ON)によってAE/AF処理が行われると、撮影ボタンの全押し(S2=ON)によって記録用の撮影動作がスタートする。S2=ONに応動して取得された画像データはデジタル信号処理部3において輝度/色差信号(Y/C信号)に変換され、ガンマ補正等の所定の処理が施された後、RAM11に格納される。
【0056】
RAM11に格納されたY/C信号は、圧縮伸張処理回路12によって所定のフォーマットに従って圧縮された後、外部メモリI/F16を介してメモリカード17に記録される。例えば、静止画についてはJPEG(Joint Photographic Experts Group)形式で記録される。
【0057】
モード選択スイッチにより再生モードが選択されると、メモリカード17に記録されている最終の画像ファイル(最後に記録されたファイル)の圧縮データが読み出される。最後に記録されたファイルが静止画ファイルの場合、この読み出された画像圧縮データは、圧縮伸張回路12を介して非圧縮のYC信号に伸張され、デジタル信号処理部3及びビデオエンコーダ32を介して表示用の信号に変換された後、表示装置30に出力される。これにより、当該ファイルの画像内容が表示装置30の画面上に表示される。
【0058】
静止画の一コマ再生中(動画の先頭フレーム再生中も含む)に、十字キーの右キー又は左キーを操作することによって、再生対象のファイルを切り換えること(順コマ送り/逆コマ送り)ができる。コマ送りされた位置の画像ファイルがメモリカード17から読み出され、上記と同様にして静止画像や動画が表示装置30に再生表示される。
【0059】
AE/AWB検出回路4は、信号比率算出部40、AWB補正ゲイン算出部41、LED光源判定部42、被写体輝度値算出部43、従来人工光源/屋外光源判定部44、相関色温度算出部45、従来光源判定閾値演算部46を含む。これらの機能は後述する。
【0060】
図3は撮像装置100が実行する光源判別・AWB補正処理のフローチャートを示す。この処理はシャッターボタンの半押しに応じて開始する。
【0061】
S1では、相関色温度算出部45は、A/D変換器23から出力されたRGB信号に基づき、相関色温度K0を算出する。これは例えば特許文献7と同様にして行うことができる。
【0062】
S2では、LED光源判定部42は、A/D変換器23から出力された、C/B画素群に対応するC信号の信号電圧(画素信号)の積算値を取得する。
【0063】
S3では、LED光源判定部42は、A/D変換器23から出力された、C/B画素群に対応するB信号の信号電圧(画素信号)の積算値を取得する。
【0064】
S4では、信号比率算出部40は、C信号の積算値とB信号の積算値の比率rを算出する。すなわち、
r=C信号の積算値/B信号の積算値である。
【0065】
なお、C信号・B信号の信号電圧の積算値の代わりに、C信号・B信号の信号電圧の平均値を算出し、C信号の信号電圧の平均値とB信号の信号電圧の平均値の比率rを算出してもよい。エメラルド(E)フィルタを用いる場合も同様に、積算値の比率、平均値の比率のいずれが算出されてもよい。
【0066】
S5では、LED光源判定部42は、比率r<所定の閾値Thresh_LEDであるか否かを判断する。Noの場合はS6、Yesの場合はS7に進む。Thresh_LEDはROM18に記憶されているものとする。
【0067】
これは、図4のような白色LEDの分光特性に基づき、光源がLEDか否かを判断している。図4に例示するように、白色LEDの分光特性によると、C(480nm付近)が極端に低く、B(450nm付近)が極端に高い。よって、白色LED下のシーンでは、rが極端に低い値となり、ある閾値Thresh_LED未満となると考えられる。
【0068】
S6では、LED光源判定部42は、光源が白色LEDでないと判定する。
【0069】
S7では、LED光源判定部42は、光源が白色LEDであると判定する。
【0070】
S8では、AWB補正ゲイン算出部41は、光源が白色LEDであると判定された場合はS9〜S13の処理に分岐し、光源が白色LEDであると判定された場合はS14の処理に分岐する。
【0071】
S9では、従来光源判定閾値演算部46は、人工光源判定閾値Thresh_K0を算出する。具体的には、図10のような、電球や電球色蛍光灯といった白色LED以外の各人工光源に対応する分布範囲の被写体輝度の上限値がThresh_K0となる。
【0072】
S10では、被写体輝度値算出部43は、被写体輝度値Bv0を算出する。
【0073】
S11では、従来人工光源/屋外光源判定部44は、Bv0<Thresh_K0であるか否かを判断する。Noの場合はS12、Yesの場合はS13に進む。
【0074】
S12では、AWB補正ゲイン算出部41は、屋外光源(太陽光)に最適なAWBゲインを算出する。
【0075】
S13では、AWB補正ゲイン算出部41は、人工光源に最適なAWBゲインを算出する。
【0076】
S14では、AWB補正ゲイン算出部41は、白色LEDに最適なAWBゲインを算出する。
【0077】
デジタル信号処理部3は、S12、S13またはS14で算出されたAWBゲインをRGB各色の信号に掛けることによって、画像のホワイトバランスを補正する。
【0078】
このように、480nm付近の波長の光に対応する撮像信号の信号量と450nm付近の波長の光に対応する撮像信号の信号量とに基づき、簡便かつ正確に光源が白色LEDであるか否かを判断することができる。
【0079】
<第2実施形態>
図5は第2実施形態に係る撮像装置200を示すブロック図である。図中第1実施形態と同じブロックには同じ符号を付している。撮像装置200は、AWB補正量算出部47をさらに備えている。
【0080】
図6は撮像装置200が実行する光源判別・AWB補正処理のフローチャートを示す。
【0081】
S1〜S11は第1実施形態と同様である。ただし、S11にてNoと判定された場合はS21に進み、Yesと判定された場合はS23に進む。
【0082】
S21では、AWB補正量算出部47は、被写体輝度値Bv0を変数とするメンバシップ関数で得られた評価値に応じて、AWB補正量LW_AWBを、通常のAWB補正量よりも小さく設定する。通常のAWB補正量とは、入力された画像データの赤(R)、緑(G)、青(B)の各色信号レベルが等しくなる(R=G=B:グレイ)ようなAWB補正量をいう。
【0083】
S22では、AWB補正ゲイン算出部41は、S21で設定されたAWB補正量LW_AWBに応じたAWBゲインを算出する。デジタル信号処理部3は、算出されたAWBゲインをRGB各色の信号に掛けることによって、画像のホワイトバランスを補正する。
【0084】
S23では、AWB補正量算出部47は、被写体輝度値Bv0を変数とするメンバシップ関数で得られた評価値に応じて、AWB補正量LW_AWBを、通常のAWB補正量よりも小さいか、あるいは通常のAWB補正量と同程度に設定する。
【0085】
S24では、AWB補正ゲイン算出部41は、S23で設定されたAWB補正量LW_AWBに応じて、AWBゲインを算出する。デジタル信号処理部3は、算出されたAWBゲインをRGB各色の信号に掛けることによって、画像のホワイトバランスを補正する。
【0086】
S25では、AWB補正量算出部47は、AWB補正量LW_AWBを通常のAWB補正量と同程度に設定する。例えば、画像データを所定の単位で分割したエリアごとに、R,G,B信号の平均値、Ri,Gi,Biを求め、分割エリアXiごとに、R/G−B/G平面の座標Ci=(Ri/Gi,Bi/Gi)を算出する。AWB補正量算出部47は、この各分割エリアのCiの分布から画像の代表色C(光源座標)を推定する。代表色はCiの分布の平均や重心などから推定される。そして、AWB補正量算出部47は、画像の代表色Cの赤(R)、緑(G)、青(B)の各色信号レベルが等しくなるようなAWB補正量(通常のAWB補正量)を画像のLW_AWBとする。
【0087】
S26では、AWB補正ゲイン算出部41は、S25で設定されたAWB補正量LW_AWBに応じて、AWBゲインを算出する。
【0088】
デジタル信号処理部3は、S22、S24またはS26で算出されたAWBゲインをRGB各色の信号に掛けることによって、画像のホワイトバランスを補正する。
【0089】
相関色温度−被写体輝度値空間(図10参照)において、従来人工光源あるいは屋外光源の分布範囲はで若干重複する部分がある。そのため、被写体輝度値を変数とするAWB補正量のメンバシップ関数(例えば図11参照)で得られた評価値に応じてAWB補正量を変動させる必要がある。それに対して白色LEDについては、相関色温度、被写体輝度値とは異なる観点から光源判別を行っているため、評価値に応じて補正量を変動させる必要はなく、常にAWB補正量(ゲイン)を通常の補正量にする。
【0090】
白色LEDは屋内光源であり、光源色残りが嫌われるが、上記の処理では、白色LEDと判別された場合のAWB補正量を通常の補正量に設定し、従来人工光源あるいは屋外光源よりもAWB補正を強くする。これにより、屋外光源シーンや従来人工光源シーンのAWB補正に弊害を生じることなく、白色LEDシーンの光源色残りを改善できる。
【0091】
<第3実施形態>
図7は第3実施形態に係る撮像装置300を示すブロック図である。図中第1実施形態と同じブロックには同じ符号を付している。撮像装置300は、信号分割部50、色情報算出部51、色情報補正部52、軌跡保持部53をさらに備えている。
【0092】
図8は撮像装置300が実行する光源判別・AWB補正処理のフローチャートを示す。
【0093】
S1〜S11は第1実施形態と同様である。
【0094】
S31では、信号分割部50は、RAM11に格納されている1画面分の画像データ(R/G/B信号)を複数のエリアに分割する。色情報算出部51は、エリアごとにR,G,B信号の平均値、Ri,Gi,Biを求める。そして色情報算出部51は、分割エリアXiごとに、R/G−B/G平面の座標Ci=(Ri/Gi,Bi/Gi)を算出する。
【0095】
色情報補正部52は、軌跡保持部53に記憶されている、屋外光源に対応する軌跡(黒体軌跡)L1を読み出し、分割エリアXiごとに、座標Ciから黒体軌跡L1に伸びる法線と黒体軌跡L1との交点Piを算出する。色情報補正部52は、分割エリアXiごとに、座標CiをPiに近づける(一致させる)補正を行う。すなわち、屋外光源の光源色分布特性に基づいて、画像データから物体色を排除する。
【0096】
S32では、S32の補正後のR,G,B信号に対するAWB補正量LW_AWBを算出し、LW_AWBに基づいて、AWBゲインを算出する。これは特許文献6と同様である。
【0097】
S33では、S31と同様、色情報算出部51は、分割エリアXiごとに、R/G−B/G平面の座標Ciを算出する。色情報補正部52は、軌跡保持部53に記憶されている、LED以外の人工光源としてありえる色範囲を包括した軌跡L2を読み出し、分割エリアXiごとに、座標Ciから軌跡L2に伸びる法線と軌跡L2との交点Qiを算出する。LED以外の人工光源としてありえる範囲は、軌跡L1と軌跡L2に挟まれた範囲である。色情報補正部52は、分割エリアXiごとに、座標CiをQiに近づける(一致させる)補正を行う。すなわち、LED以外の人工光源の光源色分布特性に基づいて、画像データから物体色を排除する。
【0098】
S34では、S33の補正後のR,G,B信号に対するAWB補正量LW_AWBを算出し、AWB補正量LW_AWBに基づいて、AWBゲインを算出する。これは特許文献6と同様である。
【0099】
S35では、S31と同様、色情報算出部51は、分割エリアXiごとに、R/G−B/G平面の座標Ciを算出する。
【0100】
色情報補正部52は、軌跡保持部53に記憶されている、LED光源に対応する軌跡L3を読み出し、分割エリアXiごとに、座標Ciから軌跡L3に伸びる法線と軌跡L3との交点Riを算出する。交点の算出手法は特許文献5と同様に行われる。色情報補正部52は、分割エリアXiごとに、座標CiをRiに近づける(一致させる)補正を行う。すなわち、LED光源の光源色分布特性に基づいて、画像データから物体色を排除する。
【0101】
S36では、S35の補正後のR,G,B信号に対するAWB補正量LW_AWBを算出し、AWB補正量LW_AWBに基づいて、AWBゲインを算出する。AWB補正量LW_AWBの算出方法は第2実施形態と同様である。例えば、軌跡L3に近づいた後の各座標Ciの代表値の、赤(R)、緑(G)、青(B)の各色信号レベルが等しくなるようなAWB補正量を、LW_AWBとする。
【0102】
デジタル信号処理部3は、S32、S34またはS36で算出されたAWBゲインをRGB各色の信号に掛けることによって、画像のホワイトバランスを補正する。
【0103】
図9(a)は黒体軌跡L1、分割エリアの光源検出値Ci、Ciに対応する交点P’iの一例を示す。図9(b)は軌跡L2、分割エリアの光源検出値Ci、Ciに対応する交点Q’iの一例を示す。図9(c)は軌跡L3、分割エリアの光源検出値Ci、Ciに対応する交点R’iの一例を示す。
【0104】
黒体軌跡L1は、太陽光源(高色温度〜低色温度)下でグレーを撮影したときの軌跡である。太陽光源下では黒体軌跡から外れている積算値は物体色の影響を受けている。図9(a)では、黒体軌跡L1よりも上に分布するC3と、下に分布するC2、C4が、それぞれ黒体軌跡L1に近づいた座標P’3、P’2、P’4に補正されている。
【0105】
LED以外の人工光源軌跡L2は、LED以外の人工光源としてありえる色範囲を包括した軌跡である。黒体軌跡と人工光源軌跡L2に挟まれた部分が光源色としてありえる範囲である。R/G−B/G平面上で、人工光源軌跡L2よりも下に分布する積算値は物体色の影響を受けている。図9(b)では、軌跡L2よりも上に分布するC3と、下に分布するC4が、それぞれ軌跡L2に近づいた座標Q’3、Q’4に補正されている。
【0106】
LED軌跡L3は、LED光源(調色できるので高色温度〜低色温度)下でグレーを撮影したときの軌跡である。図9(c)に示すとおり、黒体軌跡L1ともLED以外の人工光源軌跡L2とも異なる。LED光源下ではこの軌跡から外れている積算値は物体色の影響を受けている。図9(c)では、軌跡L3よりも上に分布するC1、C3と、下に分布するC4が、それぞれ軌跡L3に近づいた座標R’1、R’3、R’4に補正されている。なお、軌跡L1〜L3に近づけるための移動方向は法線方向に限られず、その他の方向でもよい。
【0107】
シーンが白色LED光源下であることが分かれば、光源色は必ず白色LED軌跡上になる。光源色が白色LED軌跡上にならない場合は物体色の影響を受けているので、白色LED軌跡に近づける物体色補正を行う。これにより、屋外光源シーンや従来人工光源シーンのAWB補正に弊害を生じることなく、白色LEDシーンの光源色残りを改善できる。さらに、白色LED光源下のシーンでの物体色によるAWBカラーフェリアを抑えることができる。
【符号の説明】
【0108】
2:撮像部、3:デジタル信号処理部、4:AE/AWB補正部、13:CPU、40:信号比率算出部、41:AWB補正ゲイン算出部、42:LED判定部、43:被写体輝度値算出部、44:従来人工光源/屋外光源判定部、45:相関色温度算出部、46:従来光源判定閾値演算部、47:AWB補正量演算部、50:信号分割部、51:色情報算出部、52:色情報補正部、53:軌跡保持部

【特許請求の範囲】
【請求項1】
固体撮像素子から出力される撮像信号に基づき、480nm付近の波長の光に対応する撮像信号の信号量と450nm付近の波長の光に対応する撮像信号の信号量とを取得する信号量取得部と、
前記信号量取得部の取得した480nm付近の波長の光に対応する撮像信号の信号量と450nm付近の波長の光に対応する撮像信号の信号量の比を算出する信号比算出部と、
前記信号比算出部の算出した比と所定の閾値との大小関係に応じて、光源が白色LEDであるか否かを判断する白色LED光源判断部と、
を備える光源判定装置。
【請求項2】
前記白色LED光源判断部が、光源が白色LEDであると判断した場合、前記白色LEDに適したホワイトバランス補正量を設定し、前記設定されたホワイトバランス補正量に従って前記撮像信号のホワイトバランスを補正するAWB補正部をさらに備える請求項1に記載の光源判定装置。
【請求項3】
前記AWB補正部は、前記白色LED光源判断部が、光源が白色LEDであると判断した場合、前記撮像信号から推定した代表色の赤(R)、緑(G)、青(B)の各色信号レベルが等しくなるような通常のホワイトバランス補正量を設定する請求項2に記載の光源判定装置。
【請求項4】
前記固体撮像素子から出力される撮像信号に基づき、被写体輝度を算出する被写体輝度算出部と、
前記被写体輝度算出部の算出した被写体輝度を変数とするメンバシップ関数に基づいて光源の確からしさを示す評価値を算出する評価値算出部と、
を備える請求項2または3に記載の光源判定装置。
【請求項5】
前記白色LED光源判断部が、光源が白色LEDでないと判断した場合、光源が白色LED以外の人工光源であるか否かを判断する従来人工光源判断部を備え、
前記AWB補正部は、前記従来人工光源判断部が、光源が白色LED以外の人工光源であると判断した場合、前記評価値算出部の算出した評価値に従い、ホワイトバランス補正量を前記通常のホワイトバランス補正量よりも小さいかもしくはそれと同程度に設定する請求項4に記載の光源判定装置。
【請求項6】
前記白色LED光源判断部が、光源が白色LEDでないと判断した場合、光源が自然光源であるか否かを判断する自然光源判断部を備え、
前記AWB補正部は、前記自然光源判断部が、光源が自然光源であると判断した場合、前記評価値算出部の算出した評価値に従い、ホワイトバランス補正量を前記通常のホワイトバランス補正量よりも小さく設定する請求項4または5に記載の光源判定装置。
【請求項7】
所定の色空間における白色LED光源の色温度の分布を示した軌跡を記憶する軌跡記憶部と、
前記撮像信号からなる画像を複数のエリアに分割する信号分割部と、
前記信号分割部の分割した各々のエリアの色情報を取得する分割エリア色情報取得部と、
前記分割エリア色情報取得部の取得した各々のエリアの色情報を、前記軌跡記憶部の記憶した軌跡に基づいて補正する色情報補正部と、
を備え、
前記AWB補正部は、前記白色LED光源判断部が、光源が白色LEDであると判断した場合、前記色情報補正部が色情報を補正した後の撮像信号に基づいて、白色LEDに適したホワイトバランスゲインを設定し、前記色情報補正部が色情報の補正した後の撮像信号のホワイトバランスを補正する請求項2〜6のいずれか1項に記載の光源判定装置。
【請求項8】
前記色情報補正部は、各々のエリアの色情報を、前記軌跡記憶部の記憶した軌跡に近づけるよう補正する請求項7に記載の光源判定装置。
【請求項9】
前記信号量取得部は、所定の色フィルタに対応する前記固体撮像素子の画素群の内、シアン色フィルタに対応する特定の画素から得られた撮像信号から480nm付近の波長の光に対応する撮像信号の信号量を取得するとともに、青色フィルタに対応する特定の画素から得られた撮像信号から450nm付近の波長の光に対応する撮像信号の信号量を取得する請求項1〜8のいずれか1項に記載の光源判定装置。
【請求項10】
前記信号比算出部は、前記信号量取得部の取得した480nm付近の波長の光に対応する撮像信号の平均信号量と450nm付近の波長の光に対応する撮像信号の平均信号量の比を算出する請求項1〜9のいずれか1項に記載の光源判定装置。
【請求項11】
前記信号比算出部は、前記信号量取得部の取得した480nm付近の波長の光に対応する撮像信号の積算信号量と450nm付近の波長の光に対応する撮像信号の積算信号量の比を算出する請求項1〜9のいずれか1項に記載の光源判定装置。
【請求項12】
光源判定装置が、
固体撮像素子から出力される撮像信号に基づき、480nm付近の波長の光に対応する撮像信号の信号量と450nm付近の波長の光に対応する撮像信号の信号量とを取得するステップと、
前記取得した480nm付近の波長の光に対応する撮像信号の信号量と450nm付近の波長の光に対応する撮像信号の信号量の比を算出するステップと、
前記算出した比と所定の閾値との大小関係に応じて、光源が白色LEDであるか否かを判断するステップと、
を実行する光源判定方法。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7】
image rotate

【図8】
image rotate

【図9】
image rotate

【図10】
image rotate

【図11】
image rotate


【公開番号】特開2012−119885(P2012−119885A)
【公開日】平成24年6月21日(2012.6.21)
【国際特許分類】
【出願番号】特願2010−267052(P2010−267052)
【出願日】平成22年11月30日(2010.11.30)
【出願人】(306037311)富士フイルム株式会社 (25,513)
【Fターム(参考)】