オートホワイトバランス補正値算出装置、方法およびプログラムならびに撮像装置
【課題】顔検出機能を用いたオートホワイトバランス補正における誤補正を防ぐ。
【解決手段】S138では、各エリアの代表色と光源色との差分(距離)Liを算出する。S146では、各差分Liに対応する重みβiで各差分Liを重みづけして平均した差分の加重平均L’を算出する。S147では、最終WB補正値算出部52gが、差分加重平均L’に基づき、適切な補正値算出方法を選択する。これにより、カラーフェリアが発生することを防げる。
【解決手段】S138では、各エリアの代表色と光源色との差分(距離)Liを算出する。S146では、各差分Liに対応する重みβiで各差分Liを重みづけして平均した差分の加重平均L’を算出する。S147では、最終WB補正値算出部52gが、差分加重平均L’に基づき、適切な補正値算出方法を選択する。これにより、カラーフェリアが発生することを防げる。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、顔検出機能を用いた画像のホワイトバランス調節に関する。
【背景技術】
【0002】
特許文献1では、画像内の肌色領域を特定し、肌領域の色味に応じて光源を特定し、ホワイトバランス(WB)補正値を求める。
【0003】
特許文献2では、画像内の顔領域を特定し、顔領域内から代表肌色を抽出し、代表肌色に応じて光源を特定し、WB補正値を求める。
【先行技術文献】
【特許文献】
【0004】
【特許文献1】特開平11−283025号公報
【特許文献2】特表2005−531189号公報
【発明の開示】
【発明が解決しようとする課題】
【0005】
特許文献1および2では、彫像や石像など人以外の顔が検出された場合や、フェイスペイントして肌色でない人の顔が検出された場合、正しい光源を特定することができず、適切なホワイトバランス補正値を求めることができない。例えば、白い石像の顔の色分布から、青い光が顔の肌色に当たって白くなっていると推定したとする。この青い光が光源色であるとの前提でホワイトバランス調整を行うと、画像が黄色くなってしまう(いわゆるカラーフェリア現象)。
【0006】
本発明は、顔検出機能を用いたオートホワイトバランス補正における誤補正を防ぐことを目的とする。
【課題を解決するための手段】
【0007】
本発明に係るオートホワイトバランス補正値算出方法は、画像データを入力するステップと、入力された画像データに基づいて第1のオートホワイトバランス(AWB)補正値である通常AWB補正値を算出するステップと、画像データから顔領域を特定するステップと、画像データの顔領域に基づいて第2のAWB補正値である顔AWB補正値を算出するステップと、画像データから第1の特徴データを抽出するとともに、顔領域中の画像データから第2の特徴データを抽出するステップと、第1の特徴データと第2の特徴データとの比較結果に基づき、顔AWB補正値および通常AWB補正値のうち少なくとも一方に応じた最終的なAWB補正値を算出するステップと、を含む。
【0008】
第1の特徴データは画像データに基づいて特定された光源色であり、第2の特徴データは顔領域に基づいて特定された光源色である。
【0009】
この方法は、画像データの光源色と顔領域の光源色との差分量を算出するステップと、差分量に基づき、最終的なAWB補正値を算出するステップと、をさらに含んでもよい。
【0010】
この方法は、第1の特徴データと第2の特徴データとの比較結果に基づき、顔AWB補正値または通常AWB補正値のうちいずれか一方を最終的なAWB補正値として選択するステップをさらに含んでもよい。
【0011】
第1の特徴データと第2の特徴データとの比較結果に基づき、顔AWB補正値および通常AWB補正値を0%以上100%以下の所定の重みαにより加重平均することで最終的なAWB補正値を算出するステップをさらに含んでもよい。
【0012】
第1の特徴データと第2の特徴データとの比較結果に基づき、画像データの光源色および顔領域の光源色の各々を0%以上100%以下の所定の重みαにより加重平均することで最終的な光源色を求めるステップと、最終的な光源色に応じて最終的なAWB補正値を算出するステップと、をさらに含んでもよい。
【0013】
本発明に係るオートホワイトバランス補正値算出方法は、画像データを入力するステップと、入力された画像データに基づいて第1のオートホワイトバランス(AWB)補正値である通常AWB補正値を算出するステップと、画像データから顔領域を特定するステップと、画像データの顔領域に基づいて第2のAWB補正値である顔AWB補正値を算出するステップと、画像データを1または複数のエリアに分割し、各エリアから特徴データを抽出するステップと、顔領域から特徴データを抽出するステップと、各エリアから抽出された特徴データと顔領域から抽出された特徴データとの比較結果に基づき、顔AWB補正値および通常AWB補正値のうち少なくとも一方に応じた最終的なAWB補正値を算出するステップと、を含む。
【0014】
顔領域からは、特徴データとして光源色が抽出され、各エリアからは、特徴データとして各エリアの代表色が抽出される。
【0015】
この方法は、各エリアの代表色のうち特定エリアの代表色と顔領域の光源色との差分量を算出するステップと、差分量に基づき、最終的なAWB補正値を算出するステップと、をさらに含んでもよい。
【0016】
各エリアの代表色のうち特定エリアの代表色と顔領域の光源色との差分量を算出するステップと、差分量のうち顔領域の近傍にある所定数のエリアについての差分量を、差分量に対応する0%以上100%以下の所定の重みβで加重平均して得られた値に基づき、最終的なAWB補正値を算出するステップと、をさらに含んでもよい。
【0017】
各エリアから抽出された特徴データと顔領域から抽出された特徴データとの比較結果に基づき、顔AWB補正値または通常AWB補正値のうちいずれか一方を最終的なAWB補正値として選択するステップをさらに含んでもよい。
【0018】
各エリアから抽出された特徴データと顔領域から抽出された特徴データとの比較結果に基づき、顔AWB補正値および通常AWB補正値を0%以上100%以下の所定の重みαにより加重平均することで最終的なAWB補正値を算出するステップをさらに含んでもよい。
【0019】
画像データの光源色および顔領域の光源色の各々を0%以上100%以下の所定の重みαにより加重平均することで最終的な光源色を求めるステップと、最終的な光源色に応じて最終的なAWB補正値を算出するステップと、をさらに含んでもよい。
【0020】
最終的なAWB補正値を表示するステップをさらに含んでもよい。
【0021】
顔領域の特徴データと比較された特徴データの抽出されたエリアを表示するステップをさらに含んでもよい。
【0022】
顔優先度の選択を受け付けるステップと、顔優先度に応じて最終的なAWB補正値の重みを変化させるステップと、をさらに含んでもよい。
【0023】
上記のオートホワイトバランス補正値算出方法をコンピュータに実行させるオートホワイトバランス補正値算出プログラムも本発明に含まれる。
【0024】
本発明に係るオートホワイトバランス補正値算出装置は、画像データを入力する画像データ入力部と、画像データ入力部に入力された画像データに基づいて第1のオートホワイトバランス(AWB)補正値である通常AWB補正値を算出する通常AWB補正値算出部と、画像データから顔領域を特定する顔領域特定部と、画像データの顔領域に基づいて第2のAWB補正値である顔AWB補正値を算出する顔AWB補正値算出部と、画像データから第1の特徴データを抽出するとともに、顔領域中の画像データから第2の特徴データを抽出する特徴データ抽出部と、第1の特徴データと第2の特徴データとの比較結果に基づき、顔AWB補正値および通常AWB補正値のうち少なくとも一方に応じた最終的なAWB補正値を算出する最終AWB補正値算出部と、を備える。
【0025】
第1の特徴データは画像データに基づいて特定された光源色であり、第2の特徴データは顔領域に基づいて特定された光源色である。
【0026】
この装置は、画像データの光源色と顔領域の光源色との差分量を算出する差分量算出部をさらに備え、最終AWB補正値算出部は、差分量に基づき、最終的なAWB補正値を算出してもよい。
【0027】
最終AWB補正値算出部は、第1の特徴データと第2の特徴データとの比較結果に基づき、顔AWB補正値または通常AWB補正値のうちいずれか一方を最終的なAWB補正値として選択してもよい。
【0028】
最終AWB補正値算出部は、第1の特徴データと第2の特徴データとの比較結果に基づき、顔AWB補正値および通常AWB補正値を0%以上100%以下の所定の重みαにより加重平均することで最終的なAWB補正値を算出してもよい。
【0029】
第1の特徴データと第2の特徴データとの比較結果に基づき、画像データの光源色および顔領域の光源色の各々を0%以上100%以下の所定の重みαにより加重平均することで最終的な光源色を求める最終光源色算出部をさらに備え、最終AWB補正値算出部は、最終的な光源色に応じて最終的なAWB補正値を算出してもよい。
【0030】
画像データを入力する画像データ入力部と、画像データ入力部に入力された画像データに基づいて第1のオートホワイトバランス(AWB)補正値である通常AWB補正値を算出する通常AWB補正値算出部と、画像データから顔領域を特定する顔領域特定部と、画像データの顔領域に基づいて第2のAWB補正値である顔AWB補正値を算出する顔AWB補正値算出部と、画像データを1または複数のエリアに分割し、各エリアから特徴データを抽出するエリア特徴データ抽出部と、顔領域から特徴データを抽出する顔領域特徴データ抽出部と、各エリアから抽出された特徴データと顔領域から抽出された特徴データとの比較結果に基づき、顔AWB補正値および通常AWB補正値のうち少なくとも一方に応じた最終的なAWB補正値を算出する最終AWB補正値算出部と、を備える。
【0031】
顔領域からは、特徴データとして光源色が抽出され、各エリアからは、特徴データとして各エリアの代表色が抽出される。
【0032】
この装置は、各エリアの代表色のうち特定エリアの代表色と顔領域の光源色との差分量を算出する差分量算出部をさらに備え、最終AWB補正値算出部は、差分量に基づき、最終的なAWB補正値を算出してもよい。
【0033】
各エリアの代表色のうち特定エリアの代表色と顔領域の光源色との差分量を算出する差分量算出部をさらに備え、最終AWB補正値算出部は、差分量のうち顔領域の近傍にある所定数のエリアについての差分量を、差分量に対応する0%以上100%以下の所定の重みβで加重平均して得られた値に基づき、最終的なAWB補正値を算出してもよい。
【0034】
最終AWB補正値算出部は、各エリアから抽出された特徴データと顔領域から抽出された特徴データとの比較結果に基づき、顔AWB補正値または通常AWB補正値のうちいずれか一方を最終的なAWB補正値として選択してもよい。
【0035】
最終AWB補正値算出部は、各エリアから抽出された特徴データと顔領域から抽出された特徴データとの比較結果に基づき、顔AWB補正値および通常AWB補正値を0%以上100%以下の所定の重みαにより加重平均することで最終的なAWB補正値を算出してもよい。
【0036】
画像データの光源色および顔領域の光源色の各々を0%以上100%以下の所定の重みαにより加重平均することで最終的な光源色を求める最終光源色算出部をさらに備え、最終AWB補正値算出部は、最終的な光源色に応じて最終的なAWB補正値を算出してもよい。
【0037】
最終的なAWB補正値を表示する表示部をさらに備えてもよい。
【0038】
顔領域の特徴データと比較された特徴データの抽出されたエリアを表示する表示部をさらに備えてもよい。
【0039】
顔優先度の選択を受け付ける顔優先度選択部をさらに備え、最終AWB補正値算出部は、顔優先度に応じて最終的なAWB補正値の重みを変化させてもよい。
【0040】
本発明に係る撮像装置は、上記のオートホワイトバランス補正値算出装置と、撮影光学系を介して被写体像を受光し、該被写体像を示すアナログ画像信号を出力する撮像素子と、アナログ画像信号をデジタル画像データに変換して画像データ入力部に出力する画像データ出力部と、オートホワイトバランス補正値算出装置の算出した最終的なAWB補正値に基づいて画像データのホワイトバランスを補正する補正部と、を備える。
【発明の効果】
【0041】
この発明によると、顔領域を基準としたホワイトバランス補正を行う際、通常の肌色を有さない顔が特定された場合でも、その顔に基づいて誤ったホワイトバランス調整がされるのを可及的に避けることができる。
【図面の簡単な説明】
【0042】
【図1】デジタルカメラの電気的構成を示す図
【図2】第1実施形態に係る画像信号処理回路のブロック図
【図3】第1実施形態に係るホワイトバランス補正処理のフローチャート
【図4】第2実施形態に係る画像信号処理回路のブロック図
【図5】色空間(R/G,B/G)における光源色L1およびL2を例示した図
【図6】第2実施形態に係るホワイトバランス補正処理のフローチャート
【図7】第3実施形態に係る画像信号処理回路のブロック図
【図8】光源色L1およびL2の差分量(距離)の算出式の一例を示す図
【図9】第3実施形態に係るホワイトバランス補正処理のフローチャート
【図10】第4実施形態に係る画像信号処理回路のブロック図
【図11】第4実施形態に係るホワイトバランス補正処理のフローチャート
【図12】光源色L1とL2と閾値の関係を例示した図
【図13】本実施形態のホワイトバランス補正による具体的効果を例示した図
【図14】第5実施形態に係る画像信号処理回路のブロック図
【図15】重みα特定関数および通常AWB補正値と顔AWB補正値とを加重平均する数式を例示した図
【図16】第5実施形態に係るホワイトバランス補正処理のフローチャート
【図17】第6実施形態に係る画像信号処理回路のブロック図
【図18】重みα特定関数および通常AWB光源色と顔AWB光源色とを加重平均する数式を例示した図
【図19】第6実施形態に係るホワイトバランス補正処理のフローチャート
【図20】第7実施形態に係る画像信号処理回路のブロック図
【図21】画像データ全体を所定の1または複数のエリアに分割した様子を例示した図
【図22】第7実施形態に係るホワイトバランス補正処理のフローチャート
【図23】本実施形態のホワイトバランス補正による具体的効果を例示した図
【図24】通常AWBにおける光源推定が、顔AWBにおける光源推定とかけ離れている画像データを例示した図
【図25】第8実施形態に係る画像信号処理回路のブロック図
【図26】第8実施形態に係るホワイトバランス補正処理のフローチャート
【図27】顔領域の光源色および各エリアの代表色が色空間にプロットされた様子を例示した図
【図28】第9実施形態に係る画像信号処理回路のブロック図
【図29】色空間における各エリアの代表色と顔AWB光源色抽出部52c−1の得た光源色との差分(距離)Lを算出する数式を例示した図
【図30】第9実施形態に係るホワイトバランス補正処理のフローチャート
【図31】各エリアの代表色ごとに求められた顔領域の光源色との差分Liのうち最小値Lminを例示した図
【図32】第10実施形態に係る画像信号処理回路のブロック図
【図33】光源色の近傍に位置する所定個数の代表色と光源色の色空間における位置を例示した図
【図34】重みβiを特定するための差分量と重みの関係を規定する関数を例示した図
【図35】距離Liの加重平均Lを例示した図
【図36】第10実施形態に係るホワイトバランス補正処理のフローチャート
【図37】第11実施形態に係る画像信号処理回路のブロック図
【図38】第11実施形態に係るホワイトバランス補正処理のフローチャート
【図39】第12実施形態に係る画像信号処理回路のブロック図
【図40】差分Lの値に対応する重みαを特定するための差分量と重みの関係を規定する関数を例示した図
【図41】第12実施形態に係るホワイトバランス補正処理のフローチャート
【図42】第13実施形態に係る画像信号処理回路のブロック図
【図43】重みα決定関数を例示した図
【図44】第13実施形態に係るホワイトバランス補正処理のフローチャート
【図45】第14実施形態に係る画像信号処理回路のブロック図
【図46】重みαを画像データに重畳してポストビュー表示した一例を示す図
【図47】第14実施形態に係るホワイトバランス補正処理のフローチャート
【図48】第15実施形態に係る画像信号処理回路のブロック図
【図49】顔AWBの光源色と代表色が比較された分割エリアを示す枠を画像データに重畳してポストビュー表示した一例を示す図
【図50】第15実施形態に係るホワイトバランス補正処理のフローチャート
【図51】第16実施形態に係る画像信号処理回路のブロック図
【図52】第16実施形態に係るホワイトバランス補正処理のフローチャート
【発明を実施するための最良の形態】
【0043】
<第1実施形態>
図1はデジタルカメラ2の電気的構成を示す。撮像レンズ10には、レンズモータ30が接続されている。また、絞り31には、アイリスモータ32が接続されている。これらのモータ30、32はステッピングモータからなり、CPU33に接続されたモータドライバ34、35から送信される駆動パルスにより動作制御され、レリーズボタン12の半押しに伴う撮影準備処理を行う。
【0044】
レンズモータ30は、ズーム操作ボタン24の操作に連動して、撮像レンズ10のズームレンズをワイド側、あるいはテレ側に移動させる。また、ズームレンズの変倍などに応じて撮像レンズ10のフォーカスレンズ(図示せず)を移動させ、撮影条件が最適となるように焦点調整を行う。アイリスモータ32は、絞り31を動作させ、露出調整を行う。
【0045】
撮像レンズ10の背後には、撮像レンズ10を透過した被写体像が撮像されるCCD36が配置されている。CCD36には、CPU33によって制御されるタイミングジェネレータ(TG)37が接続され、このTG37から入力されるタイミング信号(クロックパルス)により、電子シャッタのシャッタ速度が決定される。
【0046】
CCD36から出力された撮像信号は、相関二重サンプリング回路(CDS)38に入力され、CCD36の各セルの蓄積電荷量に正確に対応したR、G、Bの画像データとして出力される。CDS38から出力された画像データは、増幅器(AMP)39で増幅され、A/D変換器(A/D)40でデジタルの画像データに変換される。
【0047】
画像入力コントローラ41は、バス42を介してCPU33に接続され、CPU33の制御命令に応じて、CCD36、CDS38、AMP39、およびA/D40を制御する。A/D40から出力された画像データは、SDRAM43に一時記録される。
【0048】
画像信号処理回路44は、SDRAM43から画像データを読み出して、階調変換、ホワイトバランス補正、γ補正処理などの各種画像処理を施し、この画像データを再度SDRAM43に記録する。YC変換処理回路45は、画像信号処理回路44で各種処理を施された画像データをSDRAM43から読み出し、輝度信号Yと色差信号Cr、Cbとに変換する。
【0049】
VRAM46は、LCD22にスルー画像を出力するためのメモリであり、画像信号処理回路44、YC変換処理回路45を経た画像データが格納される。VRAM46には、画像データの書き込みと読み出しを並行して行えるように、2フレーム分のメモリ46a、46bが確保されている。VRAM46に格納された画像データは、LCDドライバ47でアナログのコンポジット信号に変換され、LCD22にスルー画像として表示される。
【0050】
圧縮伸長処理回路48は、YC変換処理回路45でYC変換された画像データに対して、所定の圧縮形式(例えばJPEG形式)で画像圧縮を施す。圧縮された画像データは、メディアコントローラ49を経由してメモリカード50に記憶される。
【0051】
CPU33には、前述のレリーズボタン12、受信部20、操作部23の他に、EEPROM51が接続されている。EEPROM51には、各種制御用のプログラムや設定情報などが記録されている。CPU33は、これらの情報をEEPROM51から作業用メモリであるSDRAM43に読み出して、各種処理を実行する。
【0052】
バス42には、露出量、すなわち電子シャッタのシャッタ速度、および絞り31の絞り値が撮影に適切か否かを検出するとともに、ホワイトバランスが撮影に適切か否かを検出するAE/AWB検出回路52と、撮像レンズ10の焦点調整が撮影に適切か否かを検出するAF検出回路53と、ストロボ装置54の動作を制御するストロボ制御回路55とが接続されている。
【0053】
AE/AWB検出回路52は、YC変換処理回路45でYC変換された画像データの輝度信号Yと色差信号Cr、Cbとの積算値を元に、露出量、およびホワイトバランスの適否を検出し、この検出結果をCPU33に送信する。CPU33は、AE/AWB検出回路52から送信された検出結果に基づいて、撮像レンズ10、絞り31、およびCCD36の動作を制御する。
【0054】
AF検出回路53は、A/D40でデジタル化された画像データから画像の鮮鋭度を表すフォーカス評価値を算出し、この算出結果をCPU33に送信する。フォーカス評価値は、画像の特定のエリア、例えば、撮影画角の中央部分の画像データに対して、バンドパスフィルタなどで輪郭抽出処理を施し、これにより抽出した輪郭信号、および中央部分の画像データの輝度値を積算することで得られる。ここで、フォーカス評価値が大きいほどその部分の高周波成分が多く、その部分が合焦状態にあることを表している。
【0055】
CPU33は、レリーズボタン12の半押しに伴う撮影準備処理時に、そのときのズームレンズの位置からフォーカスレンズの合焦位置の探索範囲を決定し、モータドライバ34を介してレンズモータ30の動作を制御して、決定した探索範囲内で、フォーカスレンズを例えば近点側から遠点側に移動させ、そのときAF検出回路53から順次送信されるフォーカス評価値の大小を比較することで、フォーカス評価値が最大となる位置、つまり合焦位置でフォーカスレンズを停止させる。
【0056】
セルフ撮影モード下において、リモートコントローラ16から受信部20を介してレリーズ信号を受信し、且つAE/AWB検出回路52による輝度の積算値の算出結果が、予め設定された閾値よりも小さい場合、画像信号処理回路44は、SDRAM43から読み出した画像データから、レリーズ信号の送信時にリモートコントローラ16の光源19から発せられた光を表す画像データを抽出する。
【0057】
光源19から発せられた光を表す画像データの抽出は、具体的には、前フレームと現フレームの画像データの差分をとっておき、光源19から発せられた光が撮像されているフレームと、されていないフレームの画像データの差分から、光が撮像されている部分を特定し、その部分、あるいはその部分を含む周囲を表す画像データを抽出する。なお、AE/AWB検出回路52による輝度の積算値の算出結果が、予め設定された閾値よりも小さい場合とは、焦点調整が困難な状況(暗所など)であることを意味する。
【0058】
AF検出回路53は、画像信号処理回路44で抽出した光を表す画像データに対してフォーカス評価値の算出を行う。CPU33は、フォーカス評価値の波形が谷間となる点を合焦位置とし、モータドライバ34を介してレンズモータの動作を制御して、この位置でフォーカスレンズを停止させる。
【0059】
図2は第1実施形態に係る画像信号処理回路44の要部ブロック構成を示す。この図に開示された各ブロックの詳細な機能は後述する。
【0060】
顔領域特定部52aは、SDRAM43のデジタル画像データ(記録用の静止画像、スルー画像あるいは動画フレーム)から人物の顔部分を含む領域である顔領域を特定する。顔領域の検出方法としては、例えば本出願人による特許公開2007−124112号公報において開示された技術を適用することができる。
【0061】
すなわち、顔領域特定部52aは、撮影された画像の画像データP0′を読み込み、画像P0′中の顔部分P0f′を検出する。具体的には、特開2005−108195号公報に記載されているように、画像P0′の各画素におけるエッジの向きと大きさを表す勾配ベクトルの向きを表す第1の特徴量を、複数の第1の識別器に入力することによって画像P0′中に顔候補領域が存在するかどうかを判定し、さらに、顔候補領域が存在する場合には、その領域を抽出し、抽出された顔候補領域の各画素における勾配ベクトルの大きさを正規化し、正規化後の勾配ベクトルの大きさと向きを表す第2の特徴量を、第2の識別器に入力することによって、抽出された顔候補領域が真の顔領域であるかどうかを判定し、真の顔領域であれば、その領域を顔部分P0f′として検出することが考えられる。ここで、第1/第2の識別器は、学習用サンプルとなる顔であることがわかっている複数の画像と顔でないことがわかっている複数の画像の各々について算出された第1/第2の特徴量を入力する、AdaBoost等のマシンラーニングの手法を用いた学習処理によって各々得られたものである。
【0062】
なお、顔部分P1fの検出方法としては、特表2004−527863号公報に記載されているような固有顔表現と画像自体との相関スコアを用いる方法の他、知識ベース、特徴抽出、テンプレートマッチング、グラフマッチング、統計的手法(ニューラルネットワーク、SVM、HMM)等の様々な公知の手法を用いることができる。ただし、人物の顔の色に依存しないような顔検出を可能とするため(例えば銅像の顔やフェイスペイントした顔も検出できるようにするため)、本願明細書の各実施形態では、人物の顔の色に依存した顔検出方法、例えば肌色検出を用いる方法は採用しないものとする。
【0063】
顔AWB補正値算出部52bは、顔領域特定部52aが特定した顔領域の画像データに基づき、画像全体に施すホワイトバランスの補正値を決定する。
【0064】
顔AWB特徴データ抽出部52cは、顔領域特定部52aが特定した顔領域内の画像データに基づいて特徴データを抽出する。特徴データとは、例えば、顔領域内の画像データから推定される光源の種類(太陽光、タングステン、蛍光など)、あるいは光源の色温度(例えば2500K〜9400Kの間で色温度を推定)である。あるいは顔領域の代表色でもよい。
【0065】
通常AWB補正値算出部52dは、通常ホワイトバランス補正値決定用の特定領域である通常AWB領域(例えば画像データの全体、あるいは、画像データ全体から所定の周縁領域を除いた残りの部分。ただし、特定領域は顔領域と同一ではない)に基づいて画像全体に施すホワイトバランスの補正値を決定する。
【0066】
通常AWB特徴データ抽出部52eは、通常AWB領域に基づいて特徴データを抽出する。特徴データとは、通常AWB領域の画像データから推定される光源種、色温度、代表色などである。
【0067】
WB補正部52hは、光源の種類あるいは光源の色温度に応じた比率で各色の画像データを増減することにより、撮影画像を適切なホワイトバランスに調整、すなわち白色が色味を帯びないように色補正する。
【0068】
特徴データ比較部52fは、顔AWB特徴データ抽出部52cの得た特徴データと、通常AWB特徴データ抽出部52eの得た特徴データとを比較する。これは後述するが、例えば、各種の色空間における光源色L1と光源色L2との距離を求めることである。
【0069】
最終WB補正値算出部52gは、通常AWB特徴データ抽出部52eおよび顔AWB特徴データ抽出部52cからの2つの特徴データの比較結果に基づき、画像全体に対するホワイトバランス補正値の算出方法を選択する。これは後述するが、例えば、光源色L1とL2との距離が所定の閾値以上であるか未満であるかに基づいて、通常AWB補正値算出部52dの用いる補正値算出式および顔AWB補正値算出部52bの用いる補正値算出式のうちいずれか一方の補正値算出式を選択することである。
【0070】
WB補正部52hは、最終WB補正値算出部52gの選択した算出方法で算出されたホワイトバランス補正値によって画像全体のホワイトバランスを補正する。
【0071】
図3は第1実施形態に係る画像信号処理回路44で実行されるホワイトバランス補正処理のフローチャートである。
【0072】
S1では、通常AWB補正値算出部52dが、補正値を算出する。
【0073】
S2では、顔領域特定部52aが、顔領域の特定を試みる。
【0074】
S3では、顔領域特定部52aが、顔領域の特定に成功したか否かを判断する。顔領域の特定に成功した場合はS4、失敗した場合はS10に進む。
【0075】
S4では、顔AWB補正値算出部52bが、顔AWB補正値を算出する。
【0076】
S5では、顔AWB特徴データ抽出部52c、通常AWB特徴データ抽出部52eが、それぞれ色空間における特徴データを抽出する。
【0077】
S6では、特徴データ比較部52fが、S5で抽出された2つの特徴データを比較する。例えば、通常AWB領域、顔領域における2つの代表色を求め、所定の色空間または色度図上における両代表色の各色差(距離)を比較する。
【0078】
S7では、最終WB補正値算出部52gが、2つの特徴データの比較結果に基づき、画像全体に対するホワイトバランス補正値の算出方法として適切なものを1つ、例えば、顔AWB補正値算出部52bによる算出方法および通常AWB補正値算出部52dによる算出方法のうちいずれか一方を選択する。顔AWB補正値算出部52bによる算出方法を選択した場合はS8、通常AWB補正値算出部52dによる算出方法を選択した場合はS9に進む。2つの特徴データの比較結果に基づいた算出方法の選択は、例えば、両代表色の各色差(距離)が所定の閾値未満であれば顔AWBの算出方法、所定の閾値であれば通常AWBの算出方法を選択する。
【0079】
S8では、WB補正部52hは、最終WB補正値算出部52gの選択したホワイトバランス補正値算出方法で得られた最終WB補正値=顔AWB補正値によって画像全体のホワイトバランスを補正する。
【0080】
S9では、WB補正部52hは、最終WB補正値算出部52gの選択したホワイトバランス補正値算出方法で得られた最終WB補正値=通常AWB補正値によって画像全体のホワイトバランスを補正する。
【0081】
S10では、WB補正部52hは、通常AWB補正値によって画像全体のホワイトバランスを補正する。
【0082】
すなわち、本実施形態では、通常AWB領域の特徴データと、顔領域の特徴データとの比較結果に応じて補正値算出方法を選択する。
【0083】
<第2実施形態>
図4は第2実施形態に係る画像信号処理回路44の詳細ブロック構成を示す。ここでは図2における顔AWB特徴データ抽出部52cの一例として顔AWB光源色抽出部52c−1が、通常AWB特徴データ抽出部52eの一例として通常AWB光源色抽出部52e−1が、特徴データ比較部52fの一例として光源色比較部52f−1が示されている。
【0084】
顔AWB光源色抽出部52c−1は、顔領域特定部52aが特定した顔領域内の画像データに基づいて光源色を抽出する。これは、例えば、ホワイトバランス調整のために画像データの一部から光源色を推定する各種の方法(例えば、特許公開2000−209598号公報や、特許公開2006−222928号公報に開示されたもの)を用いて光源色(R1、G1、B1)を推定し、この推定した光源色を、R/GおよびB/Gの比からなる色空間の座標L1=(R1/G1,B1/G1)へ変換する(図5)。なお、光源色をプロットする色空間はYCrCbなど各種のものであってもよい。
【0085】
通常AWB光源色抽出部52e−1は、通常AWB領域の画像データに基づいて光源色を抽出する。これは例えば、ホワイトバランス調整のために画像データの全部から光源色を推定する各種の方法を用いて光源色(R2、G2、B2)を推定し、この推定した光源色を、R/GおよびB/Gの比からなる色空間の色空間の座標L2=(R2/G2,B2/G2)へ変換する(図5)。
【0086】
光源色比較部52f−1は、顔AWB光源色抽出部52c−1の得た光源色L1と、通常AWB光源色抽出部52e−1の得た光源色L2とを比較する。これは後述するが、例えば、光源色L1と光源色L2との色差(色空間における距離)を求めることである。
【0087】
通常AWB補正値算出部52dは、画像全体に施すホワイトバランスの補正値を、通常AWB領域の画像データに基づいて決定する。
【0088】
WB補正部52hは、光源の種類あるいは光源の色温度に応じた比率で各色の画像データを増減することにより、撮影画像を適切なホワイトバランスに調整、すなわち白色が色味を帯びないように色補正する。
【0089】
最終WB補正値算出部52gは、色空間における光源色L1とL2との比較結果に基づき、画像全体に対するホワイトバランス補正値の算出方法を選択する。これは後述するが、例えば、光源色L1とL2との距離が所定の閾値以上であるか未満であるかに基づいて、通常AWB補正値算出部52dの算出した補正値および顔AWB補正値算出部52bの算出した補正値のうちいずれか一方の補正値を選択することである。
【0090】
WB補正部52hは、最終WB補正値算出部52gの選択した算出方法で算出されたホワイトバランス補正値によって画像全体のホワイトバランスを補正する。
【0091】
図6は画像信号処理回路44で実行されるホワイトバランス補正処理の流れを示す。
【0092】
S1では、通常AWB補正値算出部52dが、補正値を算出する。
【0093】
S2では、顔領域特定部52aが、顔領域の特定を試みる。
【0094】
S3では、顔領域特定部52aが、顔領域の特定に成功したか否かを判断する。顔領域の特定に成功した場合はS4、失敗した場合はS10に進む。
【0095】
S4では、顔AWB補正値算出部52bが、顔AWB補正値を算出する。
【0096】
S5−1では、顔AWB光源色抽出部52c−1、通常AWB光源色抽出部52e−1が、それぞれ顔領域、通常AWB領域における光源色L1、L2を抽出する。
【0097】
S6−1では、光源色比較部52f−1が、光源色L1とL2とを比較する。
【0098】
S7−1では、最終WB補正値算出部52gが、光源色比較部52f−1による光源色L1とL2との比較結果に基づき、画像全体に対するホワイトバランス補正値算出方法として適切なものを1つ、例えば、顔AWB補正値算出部52bによる算出方法および通常AWB補正値算出部52dによる算出方法のうちいずれか一方を選択する。顔AWB補正値算出部52bによる算出方法を選択した場合はS8、通常AWB補正値算出部52dによる算出方法を選択した場合はS9に進む。
【0099】
S8では、WB補正部52hは、最終WB補正値算出部52gの選択したホワイトバランス補正値算出方法で得た最終WB補正値=顔AWB補正値によって画像全体のホワイトバランスを補正する。
【0100】
S9では、WB補正部52hは、最終WB補正値算出部52gの選択したホワイトバランス補正値算出方法で得た最終WB補正値=通常AWB補正値によって画像全体のホワイトバランスを補正する。
【0101】
S10では、WB補正部52hは、通常AWB補正値によって画像全体のホワイトバランスを補正する。
【0102】
すなわち、本実施形態では、通常AWB領域の光源色と、顔領域の光源色との比較結果に応じて補正値算出方法を選択する。
【0103】
<第3実施形態>
図7は第3実施形態に係る画像信号処理回路44のブロック構成を示す。ここでは図2における光源色比較部52f−1の一例として、光源色の差分算出部52f−2が示されている。
【0104】
光源色の差分算出部52f−2は、顔AWB光源色抽出部52c−1の得た光源色L1と、通常AWB光源色抽出部52e−1の得た光源色L2との差分を算出する。これは後述するが、例えば、図8に示すように、色空間における光源色L1と光源色L2との距離Lを求めることである。
【0105】
図9は画像信号処理回路44で実行されるホワイトバランス補正処理の流れを示す。
【0106】
S11〜S15はそれぞれ図3のS1〜S5と同様である。
【0107】
S16では、光源色の差分算出部52f−2が、光源色L1とL2との差分Lを算出する。差分Lとは、具体的には図8(a)に示すように、色空間における光源色L1とL2との距離(色差)を指す。その値は、図8(b)に示すような数式で求めることができる。
【0108】
S17では、最終WB補正値算出部52gが、光源色の差分算出部52f−2の算出した、光源色L1とL2との差分Lに基づき、最適な補正値算出方法(例えば第1・2実施形態と同様のもの)を選択する。顔AWB補正値の算出方法を選択した場合はS18、通常AWB補正値の算出方法を選択した場合はS19に進む。
【0109】
S18〜S20は、S8〜S10と同様である。
【0110】
<第4実施形態>
図10は第4実施形態に係る画像信号処理回路44のブロック構成を示す。ここでは図2および図5における最終WB補正値算出部52gの一例として、最終WB選択部52g−1が示されている。この機能は後述する。
【0111】
図11は画像信号処理回路44で実行されるホワイトバランス補正処理の流れを示す。
【0112】
S21〜S26はそれぞれS11〜S16と同様である。
【0113】
S27では、最終WB補正値算出部52gが、光源色L1とL2との差分Lが、所定の閾値T1以下であるか否かを判断する。L≦T1の場合はS28、L>T1の場合はS29に進む。図12は、L>T1の場合を例示している。T1は、顔AWB補正値と通常AWB補正値のいずれを使用することが適切なホワイトバランス補正となるかを区別する値であるから、撮影条件に応じて経験的に定めるとよい。
【0114】
S28では、最終WB補正値算出部52gは、顔AWB補正値を最終WB補正値に決定する。WB補正部52hは、最終WB補正値算出部52gの決定した最終WB補正値=顔AWB補正値によって画像全体のホワイトバランスを補正する。
【0115】
S29では、最終WB補正値算出部52gは、通常AWB補正値を最終WB補正値に決定する。WB補正部52hは、最終WB補正値算出部52gの決定した最終WB補正値=通常AWB補正値によって画像全体のホワイトバランスを補正する。
【0116】
S30は、S10と同様である。
【0117】
図13は、このホワイトバランス補正による具体的効果を例示する。
【0118】
例えば、図13(a)に示すように、太陽光が照射している白色系の石像を被写体とした画像データが取得されたものとする。
【0119】
図13(b)に示すように、通常AWB光源色抽出部52e−1は、画像データ全体の色分布などから光源色を推定する。図13(c)に示すように、ここでは太陽光と推定したとする。
【0120】
図13(d)に示すように、顔AWB光源色抽出部52c−1は、画像データ中の顔領域特定部52aが特定した顔領域の色分布などから光源色を推定する。図13(e)に示すように、ここでは、白い石像の顔の色分布から、青い光が顔の肌色に当たって白くなっていると推定したとする。この青い光が光源色であるとの前提でホワイトバランス調整を行うと、画像が黄色くなってしまう。
【0121】
この場合、図13(f)に示すように、顔AWB光源色抽出部52c−1の光源色L1と通常AWB光源色抽出部52e−1の光源色L2との距離Lは、離れる傾向にある。この距離Lが所定の閾値T1を超えていれば、両者の食い違いが大きく、顔AWB光源色抽出部52c−1の光源色L1の推定は信頼性が低く、通常AWB光源色抽出部52e−1の光源色L2に基づいてWB補正値を決める方がより適切といえる。そこでL>T1の場合、通常AWB補正値によって画像全体のホワイトバランスを補正する。
【0122】
一方、L≦T1の場合は、光源色L1の推定は信頼性が一定程度確保されているから、この場合、顔AWB補正値によって画像全体のホワイトバランスを補正する。
【0123】
こうすることで、顔領域を基準としたホワイトバランス補正を行う際、通常の肌色を有さない顔が特定された場合でも、その顔に基づいて誤ったホワイトバランス調整がされるのを可及的に避けることができる。
【0124】
<第5実施形態>
図14は第5実施形態に係る画像信号処理回路44のブロック構成を示す。ここでは重みα算出部52iが追加されている。
【0125】
例えば図15(a)のような差分Lと重みαとの関係を規定した関数(重みα決定関数)が、予め重みα算出部52iに記憶されており、重みα算出部52iは、差分Lの値に対応する重みαを該関数から特定することで、関数の重みαを算出する。
【0126】
最終WB補正値算出部52gは、例えば図15(b)のような、重みαで通常AWB補正値と顔AWB補正値とを加重平均する数式により、最終WB補正値を算出する。
【0127】
図16は第5実施形態に係るホワイトバランス補正処理を示すフローチャートである。
【0128】
S31〜S36はS11〜S16と同様である。
【0129】
S37では、差分Lが所定の閾値T2以下であるか否かを判断する。L≦T2の場合はS38、L>T2の場合はS41に進む。
【0130】
S38では、重みα=100(%)とする。
【0131】
S40では、最終WB補正値を顔AWB補正値とする。なおこの値は図15(b)の数式でα=100とした値である。
【0132】
S41では、差分Lが所定の閾値T3以上であるか否かを判断する。L≧T3の場合はS42、L<T3の場合はS45に進む。
【0133】
S42では、重みα=0(%)とする。
【0134】
S44では、最終WB補正値を通常AWB補正値とする。なおこの値は図15(b)の数式でα=0とした値である。
【0135】
S45では、差分Lに対応した重みα=1〜99(%)の値とする。例えば図15(a)のような差分Lと重みαとの関係を規定した関数(重みα決定関数)を予め記憶しておき、差分Lの値に対応する重みαを該関数から特定する。
【0136】
S47では、例えば図15(b)のような、重みαで通常AWB補正値と顔AWB補正値とを加重平均する数式により、最終WB補正値を算出する。
【0137】
S48は、S10と同様である。
【0138】
<第6実施形態>
図17は第6実施形態に係る画像信号処理回路44のブロック構成を示す。ここでは最終光源色算出部52jが追加されている。
【0139】
例えば図18(a)のような差分Lと重みαとの関係を規定した関数(重みα決定関数)を予め重みα算出部52iに記憶しておき、重みα算出部52iは、差分Lの値に対応する重みαを該関数から特定することで、光源色の重みαを算出する。
【0140】
最終光源色算出部52jは、例えば図18(b)のような重みαで通常AWB光源色と顔AWB光源色とを加重平均する数式により、最終光源色を算出する。
【0141】
図19は第6実施形態に係るホワイトバランス補正処理を示すフローチャートである。
【0142】
S51〜S56はS31〜S36と同様である。
【0143】
S57では、差分Lが所定の閾値T4以下であるか否かを判断する。L≦T4の場合はS58、L>T4の場合はS61に進む。
【0144】
S58では、重みα=100(%)とする。
【0145】
S59では、最終光源色を顔AWB光源色抽出部52c−1の抽出した光源色とする。
【0146】
S60では、最終光源色である顔AWB光源色抽出部52c−1の抽出した光源色を補正値の算出基準とし、最終WB補正値を顔AWB補正値とする。
【0147】
S61では、差分Lが所定の閾値T5以上であるか否かを判断する。L≧T5の場合はS62、L<T5の場合はS65に進む。
【0148】
S62では、重みα=0(%)とする。
【0149】
S63では、最終光源色を通常AWB光源色抽出部52e−1の抽出した光源色とする。
【0150】
S64では、最終光源色である通常AWB光源色抽出部52e−1の抽出した光源色を補正値の算出基準とし、最終WB補正値を通常AWB補正値とする。
【0151】
S65では、差分Lに対応した重みα=1〜99(%)の値とする。例えば図18(a)のような差分Lと重みαとの関係を規定した関数(重みα決定関数)を予め記憶しておき、差分Lの値に対応する重みαを該関数から特定する。
【0152】
S66では、例えば図18(b)のような、2つの光源色を重みαで加重平均する数式により、最終光源色を算出する。
【0153】
S67では、最終光源色を補正値の算出基準とし、最終WB補正値を算出する。
【0154】
S68は、S10と同様である。
【0155】
<第7実施形態>
図20は第7実施形態に係る画像信号処理回路44のブロック構成を示す。上記実施形態と同一のブロックには同一の符号を付しており、説明は省略する。ここではエリア分割部52k、エリア特徴データ抽出部52lが追加されている。
【0156】
エリア分割部52kは、画像データ全体を所定の1または複数のエリアに分割する。
【0157】
図21は複数のエリアに分割した場合の一例である。複数のエリアへの区分の仕方は図示したものに限らず、これよりも多数あるいは少数の小領域に区分してもよい。また、分割面積は等面積、等間隔である必然性はなく、領域の特徴(例えば顔領域に包含される領域であるか否か)や重要度に応じてより精緻な領域分割を行ってもよい。あるいは、異なる色相ごとに画像を分割してもよい。なお、1つのエリアに分割するとは画像データ全体そのものを得ることと同じである。
【0158】
図22は第7実施形態に係るホワイトバランス補正処理のフローチャートである。
【0159】
S71〜S75はS1〜S5と同様である。
【0160】
S76では、エリア分割部52kが画像データ全体を1または複数のエリアに分割する。
【0161】
S77では、エリア特徴データ抽出部52lが各エリアの特徴データを抽出する。特徴データとは例えば各エリアの代表色である。エリアの代表色の求め方としては、例えば本出願人による特許公開2007−36462号公報、段落0038に記載されるように、エリアの各画像データを用いて、各画素の色をR/G−B/G空間の座標にそれぞれ変換し、それら各座標の重心の座標を求め、これを代表色の座標とする。
【0162】
S78では、特徴データ比較部52fが、各エリアの特徴データを顔領域からの特徴データと比較する。
【0163】
S79では、各エリアの特徴データを顔領域からの特徴データと比較した結果に応じて、適切な補正値算出式を選択する。例えば上述と同様、通常AWB補正値算出部52dの算出した補正値(通常AWB補正値)および顔AWB補正値算出部52bの算出した補正値(顔AWB補正値)のうちいずれか一方の最適な補正値を選択する。
【0164】
S80〜S82は、S8〜S10と同様である。
【0165】
図23は、このホワイトバランス補正による具体的効果を例示する。
【0166】
例えば、図23(a)に示すように、1つの画像データ中に、人には赤い光源が照らされており、背景には青い水槽が存在していたとする。
【0167】
この場合、図23(b)に示すように、1画面を複数のエリアに分割し、かつ、図23(c)に示すように、各エリアの特徴データとして各エリアの代表色を算出する。この場合、水槽側のエリアでは青、光源側のエリアでは赤が代表色となる。
【0168】
また、図23(d)に示すように、検出された顔領域から、光源色を推定する。この場合、図23(e)に示すように、顔色から赤い光源と推定される。
【0169】
つまり、各エリアの特徴データと顔領域の特徴データの間では、食い違いが生じ、それぞれの特徴データに従ってホワイトバランス補正を行った場合、得られる画像データも異なってくる。従って、いずれか一方の特徴データを基準としたより適切なホワイトバランス補正を行う必要がある。
【0170】
図23(f)に示すように、顔領域の特徴データ(代表色)および各エリアの特徴データ(代表色)を、R/G−B/G色空間にプロットすると、顔領域の特徴データの周辺には、赤い光源が支配的な光源近傍のエリアの特徴データが集中し、また、水槽近傍のエリアは青が支配的な位置に集中する。
【0171】
この、顔領域を中心とした所定の閾値Tの近傍内に、一定程度の分割エリアの特徴データが存在していれば、これが正しい光源色を表していると判断でき、近傍外にある青の特徴データは、背景を支配する色であるということが識別でき、顔AWBによるホワイトバランス補正がよりよい補正方法であると識別できる。
【0172】
この方式は図24のように、本来の光源とは関係のない色で画像の大部分が支配されることで、通常AWBにおける光源推定が顔AWBにおける光源推定とかけ離れてしまうときに特に有効である。
【0173】
<第8実施形態>
図25は第8実施形態に係る画像信号処理回路44のブロック構成を示す。他の実施形態と同一のブロックには同一の符号を付している。
【0174】
図26は第8実施形態に係るホワイトバランス補正処理のフローチャートである。
【0175】
S91〜S94はS71〜S74と同様である。
【0176】
S95では、顔AWB特徴データ抽出部52cが、顔領域から光源色を抽出する。そして、抽出した光源色を色空間にプロットする(例えば図27を参照)。
【0177】
S96は、S76と同様である。
【0178】
S97では、エリア特徴データ抽出部52lが各エリアの代表色(例えばエリアごとの画素の平均色)を抽出する。そして、抽出した各エリアの代表色を色空間にプロットする(例えば図27を参照)。
【0179】
S98では、特徴データ比較部52fが、各エリアの代表色を顔領域からの光源色と比較する。
【0180】
S99は、S98の比較結果に応じ、S100またはS101に分岐する。
【0181】
S100〜S102は、S80〜S82と同様である。
【0182】
<第9実施形態>
図28は第9実施形態に係る画像信号処理回路44のブロック構成を示す。他の実施形態と同一のブロックには同一の符号を付している。
【0183】
光源色と特定のエリアの代表色との差分算出部52f−3は、図29に例示するような数式により、色空間における各エリアの代表色と顔AWB光源色抽出部52の得た光源色との差分(距離)Lを算出する。
【0184】
図30は第9実施形態に係るホワイトバランス補正処理のフローチャートである。
【0185】
S111〜S117は、S91〜S97と同様である。
【0186】
S118では、例えば図29に例示する数式により、色空間における各エリアRi(iはエリアに付与された添え字)の代表色と顔AWB光源色抽出部52の得た光源色との差分(距離)Liを算出する。そして、各エリアごとに求められた差分Liのうち最小値Lminを確定する(図31参照)。
【0187】
S119では、最終WB補正値算出部52gが、差分Lminに基づき、適切な補正値算出方法を選択する。これは例えば上述と同様、差分Lminとある所定の閾値との大小関係に応じて、通常AWB補正値算出部52dの算出した補正値(通常AWB補正値)および顔AWB補正値算出部52bの算出した補正値(顔AWB補正値)のうちいずれか一方の最適な補正値を選択する。顔AWB補正値を選択した場合はS120、通常AWB補正値を選択した場合はS121に進む。
【0188】
S120〜S122は、S100〜S102と同様である。
【0189】
<第10実施形態>
図32は第10実施形態に係る画像信号処理回路44のブロック構成を示す。他の実施形態と同一のブロックには同一の符号を付している。
【0190】
光源色とn個のエリアの代表色との差分算出部52f−4は、各エリアの代表色と顔AWB光源色抽出部52c−1からの光源色との差分を算出する。
【0191】
例えば図33に示すように、光源色の近傍に位置する所定個数(例えば総エリア個数の5〜20%程度の個数)の代表色と光源色との距離を、代表色ごとにそれぞれ求める。
【0192】
重みづけ平均部52pは、各エリアと光源色との差分(距離)Liに対応する重みβiを乗じることで、差分の加重平均を算出する(図35)。各差分Liに対応する重みβiは例えば図34に示すような、差分量と重みの関係を規定する重みβi決定関数から特定する。
【0193】
図36は第10実施形態に係るホワイトバランス補正処理のフローチャートである。
【0194】
S131〜137は、S111〜S117と同様である。
【0195】
S138では、各エリアの代表色と光源色との差分(距離)Liを算出する。
【0196】
S139〜S145は、各エリアの各差分Liに対応するに対応する重みβiが全て(n個)算出するまで繰り返される処理単位である。
【0197】
S140では、差分Liが所定の閾値T6以下であるか否かを判断する。判断が“Y”ならばS142、“N”ならばS141に進む。
【0198】
S141では、差分Liが所定の閾値T7以上であるか否かを判断する。判断が“Y”ならばS143、“N”ならばS144に進む。
【0199】
S142では、図34の重み決定関数に従い、重みβi=100%とする。
【0200】
S143では、図34の重み決定関数に従い、重みβi=0%とする。
【0201】
S144では、図34の重み決定関数に従い、重みβi=1〜99%とする。
【0202】
S145では、n個の重みが算出されたか否かを判断し、算出されればS146に進む。算出されていなければS140に戻る。
【0203】
S146では、各差分Liに対応する重みβiで各差分Liを重みづけして平均した差分の加重平均L’を算出する(図35参照)。
【0204】
S147では、最終WB補正値算出部52gが、差分加重平均L’に基づき、適切な補正値算出方法を選択する。これの具体例は上述と同様である。第1の算出方法(例えば顔AWB補正値)を選択した場合はS148、第2の算出方法(例えば通常AWB補正値)を選択した場合はS149に進む。
【0205】
S148〜S150は、S120〜S122と同様である。
【0206】
<第11実施形態>
図37は第11実施形態に係る画像信号処理回路44のブロック構成を示す。他の実施形態と同一のブロックには同一の符号を付している。
【0207】
光源色と代表色との差分算出部52f−5は、各エリアの代表色と顔AWB光源色抽出部52c−1からの光源色との差分を算出する。
【0208】
図38は第11実施形態に係るホワイトバランス補正処理のフローチャートである。
【0209】
S161〜S167は、S131〜S137と同様である。
【0210】
S168では、顔AWBの光源色と各エリアの代表色との差分Lを算出する。どのような差分を用いるかは任意であり、例えば上述した差分最小値Lminや重みづけ差分平均L’などである。
【0211】
S169では、差分Lが所定の閾値T5以下であるか否かを判断する。L≦T5ならばS170,L>T5ならばS171に進む。
【0212】
S170〜S172はS28〜S30と同様である。
【0213】
<第12実施形態>
図39は第12実施形態に係る画像信号処理回路44のブロック構成を示す。他の実施形態と同一のブロックには同一の符号を付している。
【0214】
重みα算出部52iは、例えば図40のような差分Lと重みαとの関係を規定した関数を予め記憶しておき、差分Lの値に対応する重みαを該関数から特定することで、重みαを算出する。
【0215】
図41は第12実施形態に係るホワイトバランス補正処理のフローチャートである。
【0216】
S181〜188は、S161〜S168と同様である。
【0217】
S189〜S200は、S37〜S48(図16)と同様である。ただし、S189、S193で用いられる閾値は、それぞれT6、T7である。
【0218】
<第13実施形態>
図42は第13実施形態に係る画像信号処理回路44のブロック構成を示す。他の実施形態と同一のブロックには同一の符号を付している。
【0219】
最終光源色算出部52jは、例えば図43のような差分Lと重みαとの関係を規定した重み決定関数を予め記憶しておき、差分Lの値に対応する重みαを該関数から特定することで、重みαを算出する。
【0220】
図44は第13実施形態に係るホワイトバランス補正処理のフローチャートである。
【0221】
S211〜S218は、S181〜S188と同様である。
【0222】
S219〜S230は、S57〜S68(図19)と同様である。ただし、S219、S223で用いられる閾値は、それぞれT8、T9である。
【0223】
<第14実施形態>
図45は第14実施形態に係る画像信号処理回路44のブロック構成を示す。他の実施形態と同一のブロックには同一の符号を付している。
【0224】
図46に例示するように、表示アイコン作成部52qは、重みα()を示すアイコンICの映像信号を生成し、これを撮像された画像データに重畳して、LCD22に出力して画像とともに表示させる。
【0225】
図47は第14実施形態に係るホワイトバランス補正処理のフローチャートである。
【0226】
S241〜S257は、S181〜S200(図41)と同様である。
【0227】
S258では、重みαを示すアイコンICの映像信号を生成し、これを撮像された画像データに重畳して、LCD22に出力して画像とともにポストビュー(撮像後の画像ビュー)として表示させる。これにより、ユーザはどのような重みが加えられているかを知ることができ、目視でそれが不適切と判断すれば、撮影のやり直しをすることができる。
【0228】
<第15実施形態>
図48は第15実施形態に係る画像信号処理回路44のブロック構成を示す。他の実施形態と同一のブロックには同一の符号を付している。
【0229】
図49に例示するように、表示枠作成部52qは、顔AWBの光源色に最も近い代表色を有するエリアを示す枠Fの映像信号を生成し、これを撮像された画像データに重畳して、LCD22に出力して画像とともに表示させる。
【0230】
図50は第15実施形態に係るホワイトバランス補正処理のフローチャートである。
【0231】
S261〜S267は、S181〜S200と同様である。
【0232】
S278では、顔AWBの光源色に最も近い代表色を有するエリアを示す枠Fの映像信号を生成し、これを撮像された画像データに重畳して、LCD22に出力して画像とともにポストビューとして表示させる。これにより、ユーザはどのエリアの特徴データがホワイトバランスの基準となっているかを知ることができ、目視でそれが不適切と判断すれば、撮影のやり直しをすることができる。
【0233】
<第16実施形態>
図51は第16実施形態に係る画像信号処理回路44のブロック構成を示す。他の実施形態と同一のブロックには同一の符号を付している。
【0234】
重みα’算出部52sは、CPU33の指令に従って操作部23から読み込まれた顔AWBの優先度に基づき、重みα’を算出する。
【0235】
ここで、顔AWBの優先度とは、例えば、高(設定優先度が標準の優先度よりも高く、画像信号処理回路44で算出した重みαよりも重みα’を大きくする)、中(設定優先度と標準の優先度が同じであり、画像信号処理回路44で算出した重みαと重みα’を同じにする)、低(設定優先度が標準の優先度よりも低く、画像信号処理回路44で算出した重みαよりも重みα’を小さくする)の3段階のレベルからなり、その中から、ユーザが所望のレベルを1つ選択できる。無論、高および低の段階は、さらに重みα’を所望の幅で増減可能にするため、さらに細分された段階を有していてもよい。
【0236】
図52は第16実施形態に係るホワイトバランス補正処理のフローチャートである。
【0237】
S281〜S295は、S261〜S275(図50)と同様である。
【0238】
S296では、操作部23から、顔AWBの優先度の設定(重みα’)を読み込む。そして、設定された顔AWBの優先度(重みα’)と基準の顔AWBの優先度(重みα)が一致しているかを判断する。両者が一致する場合はS297、一致しない場合にはS298に進む。
【0239】
S297では、S47と同様、重みαに基づいて最終WB補正値を算出する。
【0240】
S298では、設定された顔AWBの優先度(重みα’)が基準の顔AWBの優先度(重みα)よりも大きいかを判断する。“Y”の場合はS299、“N”の場合場合にはS301に進む。
【0241】
S299では、重みα’に基づいて最終WB補正値を算出する。この場合、結果的に顔AWBの重みが上がるから、顔AWB補正値に近い最終補正値が得られる(S300)。
【0242】
S301では、重みα’に基づいて最終WB補正値を算出する。この場合、結果的に顔AWBの重みが下がるから、通常AWB補正値に近い最終補正値が得られる(S302)。
【0243】
S303は、S277と同様である。
【0244】
このように、ユーザの好みに応じて顔AWB、通常AWBの重みを変えることで、ユーザの意図通りの画像データを得ることができる。
【符号の説明】
【0245】
44:画像信号処理回路、52a:顔領域特定部、52b:顔AWB補正値算出部、52c:顔AWB特徴データ抽出部、52d:通常AWB補正値算出部、52e:通常AWB特徴データ抽出部、52f:特徴データ比較部、52g:最終AWB補正値算出部、52h:WB補正部
【技術分野】
【0001】
本発明は、顔検出機能を用いた画像のホワイトバランス調節に関する。
【背景技術】
【0002】
特許文献1では、画像内の肌色領域を特定し、肌領域の色味に応じて光源を特定し、ホワイトバランス(WB)補正値を求める。
【0003】
特許文献2では、画像内の顔領域を特定し、顔領域内から代表肌色を抽出し、代表肌色に応じて光源を特定し、WB補正値を求める。
【先行技術文献】
【特許文献】
【0004】
【特許文献1】特開平11−283025号公報
【特許文献2】特表2005−531189号公報
【発明の開示】
【発明が解決しようとする課題】
【0005】
特許文献1および2では、彫像や石像など人以外の顔が検出された場合や、フェイスペイントして肌色でない人の顔が検出された場合、正しい光源を特定することができず、適切なホワイトバランス補正値を求めることができない。例えば、白い石像の顔の色分布から、青い光が顔の肌色に当たって白くなっていると推定したとする。この青い光が光源色であるとの前提でホワイトバランス調整を行うと、画像が黄色くなってしまう(いわゆるカラーフェリア現象)。
【0006】
本発明は、顔検出機能を用いたオートホワイトバランス補正における誤補正を防ぐことを目的とする。
【課題を解決するための手段】
【0007】
本発明に係るオートホワイトバランス補正値算出方法は、画像データを入力するステップと、入力された画像データに基づいて第1のオートホワイトバランス(AWB)補正値である通常AWB補正値を算出するステップと、画像データから顔領域を特定するステップと、画像データの顔領域に基づいて第2のAWB補正値である顔AWB補正値を算出するステップと、画像データから第1の特徴データを抽出するとともに、顔領域中の画像データから第2の特徴データを抽出するステップと、第1の特徴データと第2の特徴データとの比較結果に基づき、顔AWB補正値および通常AWB補正値のうち少なくとも一方に応じた最終的なAWB補正値を算出するステップと、を含む。
【0008】
第1の特徴データは画像データに基づいて特定された光源色であり、第2の特徴データは顔領域に基づいて特定された光源色である。
【0009】
この方法は、画像データの光源色と顔領域の光源色との差分量を算出するステップと、差分量に基づき、最終的なAWB補正値を算出するステップと、をさらに含んでもよい。
【0010】
この方法は、第1の特徴データと第2の特徴データとの比較結果に基づき、顔AWB補正値または通常AWB補正値のうちいずれか一方を最終的なAWB補正値として選択するステップをさらに含んでもよい。
【0011】
第1の特徴データと第2の特徴データとの比較結果に基づき、顔AWB補正値および通常AWB補正値を0%以上100%以下の所定の重みαにより加重平均することで最終的なAWB補正値を算出するステップをさらに含んでもよい。
【0012】
第1の特徴データと第2の特徴データとの比較結果に基づき、画像データの光源色および顔領域の光源色の各々を0%以上100%以下の所定の重みαにより加重平均することで最終的な光源色を求めるステップと、最終的な光源色に応じて最終的なAWB補正値を算出するステップと、をさらに含んでもよい。
【0013】
本発明に係るオートホワイトバランス補正値算出方法は、画像データを入力するステップと、入力された画像データに基づいて第1のオートホワイトバランス(AWB)補正値である通常AWB補正値を算出するステップと、画像データから顔領域を特定するステップと、画像データの顔領域に基づいて第2のAWB補正値である顔AWB補正値を算出するステップと、画像データを1または複数のエリアに分割し、各エリアから特徴データを抽出するステップと、顔領域から特徴データを抽出するステップと、各エリアから抽出された特徴データと顔領域から抽出された特徴データとの比較結果に基づき、顔AWB補正値および通常AWB補正値のうち少なくとも一方に応じた最終的なAWB補正値を算出するステップと、を含む。
【0014】
顔領域からは、特徴データとして光源色が抽出され、各エリアからは、特徴データとして各エリアの代表色が抽出される。
【0015】
この方法は、各エリアの代表色のうち特定エリアの代表色と顔領域の光源色との差分量を算出するステップと、差分量に基づき、最終的なAWB補正値を算出するステップと、をさらに含んでもよい。
【0016】
各エリアの代表色のうち特定エリアの代表色と顔領域の光源色との差分量を算出するステップと、差分量のうち顔領域の近傍にある所定数のエリアについての差分量を、差分量に対応する0%以上100%以下の所定の重みβで加重平均して得られた値に基づき、最終的なAWB補正値を算出するステップと、をさらに含んでもよい。
【0017】
各エリアから抽出された特徴データと顔領域から抽出された特徴データとの比較結果に基づき、顔AWB補正値または通常AWB補正値のうちいずれか一方を最終的なAWB補正値として選択するステップをさらに含んでもよい。
【0018】
各エリアから抽出された特徴データと顔領域から抽出された特徴データとの比較結果に基づき、顔AWB補正値および通常AWB補正値を0%以上100%以下の所定の重みαにより加重平均することで最終的なAWB補正値を算出するステップをさらに含んでもよい。
【0019】
画像データの光源色および顔領域の光源色の各々を0%以上100%以下の所定の重みαにより加重平均することで最終的な光源色を求めるステップと、最終的な光源色に応じて最終的なAWB補正値を算出するステップと、をさらに含んでもよい。
【0020】
最終的なAWB補正値を表示するステップをさらに含んでもよい。
【0021】
顔領域の特徴データと比較された特徴データの抽出されたエリアを表示するステップをさらに含んでもよい。
【0022】
顔優先度の選択を受け付けるステップと、顔優先度に応じて最終的なAWB補正値の重みを変化させるステップと、をさらに含んでもよい。
【0023】
上記のオートホワイトバランス補正値算出方法をコンピュータに実行させるオートホワイトバランス補正値算出プログラムも本発明に含まれる。
【0024】
本発明に係るオートホワイトバランス補正値算出装置は、画像データを入力する画像データ入力部と、画像データ入力部に入力された画像データに基づいて第1のオートホワイトバランス(AWB)補正値である通常AWB補正値を算出する通常AWB補正値算出部と、画像データから顔領域を特定する顔領域特定部と、画像データの顔領域に基づいて第2のAWB補正値である顔AWB補正値を算出する顔AWB補正値算出部と、画像データから第1の特徴データを抽出するとともに、顔領域中の画像データから第2の特徴データを抽出する特徴データ抽出部と、第1の特徴データと第2の特徴データとの比較結果に基づき、顔AWB補正値および通常AWB補正値のうち少なくとも一方に応じた最終的なAWB補正値を算出する最終AWB補正値算出部と、を備える。
【0025】
第1の特徴データは画像データに基づいて特定された光源色であり、第2の特徴データは顔領域に基づいて特定された光源色である。
【0026】
この装置は、画像データの光源色と顔領域の光源色との差分量を算出する差分量算出部をさらに備え、最終AWB補正値算出部は、差分量に基づき、最終的なAWB補正値を算出してもよい。
【0027】
最終AWB補正値算出部は、第1の特徴データと第2の特徴データとの比較結果に基づき、顔AWB補正値または通常AWB補正値のうちいずれか一方を最終的なAWB補正値として選択してもよい。
【0028】
最終AWB補正値算出部は、第1の特徴データと第2の特徴データとの比較結果に基づき、顔AWB補正値および通常AWB補正値を0%以上100%以下の所定の重みαにより加重平均することで最終的なAWB補正値を算出してもよい。
【0029】
第1の特徴データと第2の特徴データとの比較結果に基づき、画像データの光源色および顔領域の光源色の各々を0%以上100%以下の所定の重みαにより加重平均することで最終的な光源色を求める最終光源色算出部をさらに備え、最終AWB補正値算出部は、最終的な光源色に応じて最終的なAWB補正値を算出してもよい。
【0030】
画像データを入力する画像データ入力部と、画像データ入力部に入力された画像データに基づいて第1のオートホワイトバランス(AWB)補正値である通常AWB補正値を算出する通常AWB補正値算出部と、画像データから顔領域を特定する顔領域特定部と、画像データの顔領域に基づいて第2のAWB補正値である顔AWB補正値を算出する顔AWB補正値算出部と、画像データを1または複数のエリアに分割し、各エリアから特徴データを抽出するエリア特徴データ抽出部と、顔領域から特徴データを抽出する顔領域特徴データ抽出部と、各エリアから抽出された特徴データと顔領域から抽出された特徴データとの比較結果に基づき、顔AWB補正値および通常AWB補正値のうち少なくとも一方に応じた最終的なAWB補正値を算出する最終AWB補正値算出部と、を備える。
【0031】
顔領域からは、特徴データとして光源色が抽出され、各エリアからは、特徴データとして各エリアの代表色が抽出される。
【0032】
この装置は、各エリアの代表色のうち特定エリアの代表色と顔領域の光源色との差分量を算出する差分量算出部をさらに備え、最終AWB補正値算出部は、差分量に基づき、最終的なAWB補正値を算出してもよい。
【0033】
各エリアの代表色のうち特定エリアの代表色と顔領域の光源色との差分量を算出する差分量算出部をさらに備え、最終AWB補正値算出部は、差分量のうち顔領域の近傍にある所定数のエリアについての差分量を、差分量に対応する0%以上100%以下の所定の重みβで加重平均して得られた値に基づき、最終的なAWB補正値を算出してもよい。
【0034】
最終AWB補正値算出部は、各エリアから抽出された特徴データと顔領域から抽出された特徴データとの比較結果に基づき、顔AWB補正値または通常AWB補正値のうちいずれか一方を最終的なAWB補正値として選択してもよい。
【0035】
最終AWB補正値算出部は、各エリアから抽出された特徴データと顔領域から抽出された特徴データとの比較結果に基づき、顔AWB補正値および通常AWB補正値を0%以上100%以下の所定の重みαにより加重平均することで最終的なAWB補正値を算出してもよい。
【0036】
画像データの光源色および顔領域の光源色の各々を0%以上100%以下の所定の重みαにより加重平均することで最終的な光源色を求める最終光源色算出部をさらに備え、最終AWB補正値算出部は、最終的な光源色に応じて最終的なAWB補正値を算出してもよい。
【0037】
最終的なAWB補正値を表示する表示部をさらに備えてもよい。
【0038】
顔領域の特徴データと比較された特徴データの抽出されたエリアを表示する表示部をさらに備えてもよい。
【0039】
顔優先度の選択を受け付ける顔優先度選択部をさらに備え、最終AWB補正値算出部は、顔優先度に応じて最終的なAWB補正値の重みを変化させてもよい。
【0040】
本発明に係る撮像装置は、上記のオートホワイトバランス補正値算出装置と、撮影光学系を介して被写体像を受光し、該被写体像を示すアナログ画像信号を出力する撮像素子と、アナログ画像信号をデジタル画像データに変換して画像データ入力部に出力する画像データ出力部と、オートホワイトバランス補正値算出装置の算出した最終的なAWB補正値に基づいて画像データのホワイトバランスを補正する補正部と、を備える。
【発明の効果】
【0041】
この発明によると、顔領域を基準としたホワイトバランス補正を行う際、通常の肌色を有さない顔が特定された場合でも、その顔に基づいて誤ったホワイトバランス調整がされるのを可及的に避けることができる。
【図面の簡単な説明】
【0042】
【図1】デジタルカメラの電気的構成を示す図
【図2】第1実施形態に係る画像信号処理回路のブロック図
【図3】第1実施形態に係るホワイトバランス補正処理のフローチャート
【図4】第2実施形態に係る画像信号処理回路のブロック図
【図5】色空間(R/G,B/G)における光源色L1およびL2を例示した図
【図6】第2実施形態に係るホワイトバランス補正処理のフローチャート
【図7】第3実施形態に係る画像信号処理回路のブロック図
【図8】光源色L1およびL2の差分量(距離)の算出式の一例を示す図
【図9】第3実施形態に係るホワイトバランス補正処理のフローチャート
【図10】第4実施形態に係る画像信号処理回路のブロック図
【図11】第4実施形態に係るホワイトバランス補正処理のフローチャート
【図12】光源色L1とL2と閾値の関係を例示した図
【図13】本実施形態のホワイトバランス補正による具体的効果を例示した図
【図14】第5実施形態に係る画像信号処理回路のブロック図
【図15】重みα特定関数および通常AWB補正値と顔AWB補正値とを加重平均する数式を例示した図
【図16】第5実施形態に係るホワイトバランス補正処理のフローチャート
【図17】第6実施形態に係る画像信号処理回路のブロック図
【図18】重みα特定関数および通常AWB光源色と顔AWB光源色とを加重平均する数式を例示した図
【図19】第6実施形態に係るホワイトバランス補正処理のフローチャート
【図20】第7実施形態に係る画像信号処理回路のブロック図
【図21】画像データ全体を所定の1または複数のエリアに分割した様子を例示した図
【図22】第7実施形態に係るホワイトバランス補正処理のフローチャート
【図23】本実施形態のホワイトバランス補正による具体的効果を例示した図
【図24】通常AWBにおける光源推定が、顔AWBにおける光源推定とかけ離れている画像データを例示した図
【図25】第8実施形態に係る画像信号処理回路のブロック図
【図26】第8実施形態に係るホワイトバランス補正処理のフローチャート
【図27】顔領域の光源色および各エリアの代表色が色空間にプロットされた様子を例示した図
【図28】第9実施形態に係る画像信号処理回路のブロック図
【図29】色空間における各エリアの代表色と顔AWB光源色抽出部52c−1の得た光源色との差分(距離)Lを算出する数式を例示した図
【図30】第9実施形態に係るホワイトバランス補正処理のフローチャート
【図31】各エリアの代表色ごとに求められた顔領域の光源色との差分Liのうち最小値Lminを例示した図
【図32】第10実施形態に係る画像信号処理回路のブロック図
【図33】光源色の近傍に位置する所定個数の代表色と光源色の色空間における位置を例示した図
【図34】重みβiを特定するための差分量と重みの関係を規定する関数を例示した図
【図35】距離Liの加重平均Lを例示した図
【図36】第10実施形態に係るホワイトバランス補正処理のフローチャート
【図37】第11実施形態に係る画像信号処理回路のブロック図
【図38】第11実施形態に係るホワイトバランス補正処理のフローチャート
【図39】第12実施形態に係る画像信号処理回路のブロック図
【図40】差分Lの値に対応する重みαを特定するための差分量と重みの関係を規定する関数を例示した図
【図41】第12実施形態に係るホワイトバランス補正処理のフローチャート
【図42】第13実施形態に係る画像信号処理回路のブロック図
【図43】重みα決定関数を例示した図
【図44】第13実施形態に係るホワイトバランス補正処理のフローチャート
【図45】第14実施形態に係る画像信号処理回路のブロック図
【図46】重みαを画像データに重畳してポストビュー表示した一例を示す図
【図47】第14実施形態に係るホワイトバランス補正処理のフローチャート
【図48】第15実施形態に係る画像信号処理回路のブロック図
【図49】顔AWBの光源色と代表色が比較された分割エリアを示す枠を画像データに重畳してポストビュー表示した一例を示す図
【図50】第15実施形態に係るホワイトバランス補正処理のフローチャート
【図51】第16実施形態に係る画像信号処理回路のブロック図
【図52】第16実施形態に係るホワイトバランス補正処理のフローチャート
【発明を実施するための最良の形態】
【0043】
<第1実施形態>
図1はデジタルカメラ2の電気的構成を示す。撮像レンズ10には、レンズモータ30が接続されている。また、絞り31には、アイリスモータ32が接続されている。これらのモータ30、32はステッピングモータからなり、CPU33に接続されたモータドライバ34、35から送信される駆動パルスにより動作制御され、レリーズボタン12の半押しに伴う撮影準備処理を行う。
【0044】
レンズモータ30は、ズーム操作ボタン24の操作に連動して、撮像レンズ10のズームレンズをワイド側、あるいはテレ側に移動させる。また、ズームレンズの変倍などに応じて撮像レンズ10のフォーカスレンズ(図示せず)を移動させ、撮影条件が最適となるように焦点調整を行う。アイリスモータ32は、絞り31を動作させ、露出調整を行う。
【0045】
撮像レンズ10の背後には、撮像レンズ10を透過した被写体像が撮像されるCCD36が配置されている。CCD36には、CPU33によって制御されるタイミングジェネレータ(TG)37が接続され、このTG37から入力されるタイミング信号(クロックパルス)により、電子シャッタのシャッタ速度が決定される。
【0046】
CCD36から出力された撮像信号は、相関二重サンプリング回路(CDS)38に入力され、CCD36の各セルの蓄積電荷量に正確に対応したR、G、Bの画像データとして出力される。CDS38から出力された画像データは、増幅器(AMP)39で増幅され、A/D変換器(A/D)40でデジタルの画像データに変換される。
【0047】
画像入力コントローラ41は、バス42を介してCPU33に接続され、CPU33の制御命令に応じて、CCD36、CDS38、AMP39、およびA/D40を制御する。A/D40から出力された画像データは、SDRAM43に一時記録される。
【0048】
画像信号処理回路44は、SDRAM43から画像データを読み出して、階調変換、ホワイトバランス補正、γ補正処理などの各種画像処理を施し、この画像データを再度SDRAM43に記録する。YC変換処理回路45は、画像信号処理回路44で各種処理を施された画像データをSDRAM43から読み出し、輝度信号Yと色差信号Cr、Cbとに変換する。
【0049】
VRAM46は、LCD22にスルー画像を出力するためのメモリであり、画像信号処理回路44、YC変換処理回路45を経た画像データが格納される。VRAM46には、画像データの書き込みと読み出しを並行して行えるように、2フレーム分のメモリ46a、46bが確保されている。VRAM46に格納された画像データは、LCDドライバ47でアナログのコンポジット信号に変換され、LCD22にスルー画像として表示される。
【0050】
圧縮伸長処理回路48は、YC変換処理回路45でYC変換された画像データに対して、所定の圧縮形式(例えばJPEG形式)で画像圧縮を施す。圧縮された画像データは、メディアコントローラ49を経由してメモリカード50に記憶される。
【0051】
CPU33には、前述のレリーズボタン12、受信部20、操作部23の他に、EEPROM51が接続されている。EEPROM51には、各種制御用のプログラムや設定情報などが記録されている。CPU33は、これらの情報をEEPROM51から作業用メモリであるSDRAM43に読み出して、各種処理を実行する。
【0052】
バス42には、露出量、すなわち電子シャッタのシャッタ速度、および絞り31の絞り値が撮影に適切か否かを検出するとともに、ホワイトバランスが撮影に適切か否かを検出するAE/AWB検出回路52と、撮像レンズ10の焦点調整が撮影に適切か否かを検出するAF検出回路53と、ストロボ装置54の動作を制御するストロボ制御回路55とが接続されている。
【0053】
AE/AWB検出回路52は、YC変換処理回路45でYC変換された画像データの輝度信号Yと色差信号Cr、Cbとの積算値を元に、露出量、およびホワイトバランスの適否を検出し、この検出結果をCPU33に送信する。CPU33は、AE/AWB検出回路52から送信された検出結果に基づいて、撮像レンズ10、絞り31、およびCCD36の動作を制御する。
【0054】
AF検出回路53は、A/D40でデジタル化された画像データから画像の鮮鋭度を表すフォーカス評価値を算出し、この算出結果をCPU33に送信する。フォーカス評価値は、画像の特定のエリア、例えば、撮影画角の中央部分の画像データに対して、バンドパスフィルタなどで輪郭抽出処理を施し、これにより抽出した輪郭信号、および中央部分の画像データの輝度値を積算することで得られる。ここで、フォーカス評価値が大きいほどその部分の高周波成分が多く、その部分が合焦状態にあることを表している。
【0055】
CPU33は、レリーズボタン12の半押しに伴う撮影準備処理時に、そのときのズームレンズの位置からフォーカスレンズの合焦位置の探索範囲を決定し、モータドライバ34を介してレンズモータ30の動作を制御して、決定した探索範囲内で、フォーカスレンズを例えば近点側から遠点側に移動させ、そのときAF検出回路53から順次送信されるフォーカス評価値の大小を比較することで、フォーカス評価値が最大となる位置、つまり合焦位置でフォーカスレンズを停止させる。
【0056】
セルフ撮影モード下において、リモートコントローラ16から受信部20を介してレリーズ信号を受信し、且つAE/AWB検出回路52による輝度の積算値の算出結果が、予め設定された閾値よりも小さい場合、画像信号処理回路44は、SDRAM43から読み出した画像データから、レリーズ信号の送信時にリモートコントローラ16の光源19から発せられた光を表す画像データを抽出する。
【0057】
光源19から発せられた光を表す画像データの抽出は、具体的には、前フレームと現フレームの画像データの差分をとっておき、光源19から発せられた光が撮像されているフレームと、されていないフレームの画像データの差分から、光が撮像されている部分を特定し、その部分、あるいはその部分を含む周囲を表す画像データを抽出する。なお、AE/AWB検出回路52による輝度の積算値の算出結果が、予め設定された閾値よりも小さい場合とは、焦点調整が困難な状況(暗所など)であることを意味する。
【0058】
AF検出回路53は、画像信号処理回路44で抽出した光を表す画像データに対してフォーカス評価値の算出を行う。CPU33は、フォーカス評価値の波形が谷間となる点を合焦位置とし、モータドライバ34を介してレンズモータの動作を制御して、この位置でフォーカスレンズを停止させる。
【0059】
図2は第1実施形態に係る画像信号処理回路44の要部ブロック構成を示す。この図に開示された各ブロックの詳細な機能は後述する。
【0060】
顔領域特定部52aは、SDRAM43のデジタル画像データ(記録用の静止画像、スルー画像あるいは動画フレーム)から人物の顔部分を含む領域である顔領域を特定する。顔領域の検出方法としては、例えば本出願人による特許公開2007−124112号公報において開示された技術を適用することができる。
【0061】
すなわち、顔領域特定部52aは、撮影された画像の画像データP0′を読み込み、画像P0′中の顔部分P0f′を検出する。具体的には、特開2005−108195号公報に記載されているように、画像P0′の各画素におけるエッジの向きと大きさを表す勾配ベクトルの向きを表す第1の特徴量を、複数の第1の識別器に入力することによって画像P0′中に顔候補領域が存在するかどうかを判定し、さらに、顔候補領域が存在する場合には、その領域を抽出し、抽出された顔候補領域の各画素における勾配ベクトルの大きさを正規化し、正規化後の勾配ベクトルの大きさと向きを表す第2の特徴量を、第2の識別器に入力することによって、抽出された顔候補領域が真の顔領域であるかどうかを判定し、真の顔領域であれば、その領域を顔部分P0f′として検出することが考えられる。ここで、第1/第2の識別器は、学習用サンプルとなる顔であることがわかっている複数の画像と顔でないことがわかっている複数の画像の各々について算出された第1/第2の特徴量を入力する、AdaBoost等のマシンラーニングの手法を用いた学習処理によって各々得られたものである。
【0062】
なお、顔部分P1fの検出方法としては、特表2004−527863号公報に記載されているような固有顔表現と画像自体との相関スコアを用いる方法の他、知識ベース、特徴抽出、テンプレートマッチング、グラフマッチング、統計的手法(ニューラルネットワーク、SVM、HMM)等の様々な公知の手法を用いることができる。ただし、人物の顔の色に依存しないような顔検出を可能とするため(例えば銅像の顔やフェイスペイントした顔も検出できるようにするため)、本願明細書の各実施形態では、人物の顔の色に依存した顔検出方法、例えば肌色検出を用いる方法は採用しないものとする。
【0063】
顔AWB補正値算出部52bは、顔領域特定部52aが特定した顔領域の画像データに基づき、画像全体に施すホワイトバランスの補正値を決定する。
【0064】
顔AWB特徴データ抽出部52cは、顔領域特定部52aが特定した顔領域内の画像データに基づいて特徴データを抽出する。特徴データとは、例えば、顔領域内の画像データから推定される光源の種類(太陽光、タングステン、蛍光など)、あるいは光源の色温度(例えば2500K〜9400Kの間で色温度を推定)である。あるいは顔領域の代表色でもよい。
【0065】
通常AWB補正値算出部52dは、通常ホワイトバランス補正値決定用の特定領域である通常AWB領域(例えば画像データの全体、あるいは、画像データ全体から所定の周縁領域を除いた残りの部分。ただし、特定領域は顔領域と同一ではない)に基づいて画像全体に施すホワイトバランスの補正値を決定する。
【0066】
通常AWB特徴データ抽出部52eは、通常AWB領域に基づいて特徴データを抽出する。特徴データとは、通常AWB領域の画像データから推定される光源種、色温度、代表色などである。
【0067】
WB補正部52hは、光源の種類あるいは光源の色温度に応じた比率で各色の画像データを増減することにより、撮影画像を適切なホワイトバランスに調整、すなわち白色が色味を帯びないように色補正する。
【0068】
特徴データ比較部52fは、顔AWB特徴データ抽出部52cの得た特徴データと、通常AWB特徴データ抽出部52eの得た特徴データとを比較する。これは後述するが、例えば、各種の色空間における光源色L1と光源色L2との距離を求めることである。
【0069】
最終WB補正値算出部52gは、通常AWB特徴データ抽出部52eおよび顔AWB特徴データ抽出部52cからの2つの特徴データの比較結果に基づき、画像全体に対するホワイトバランス補正値の算出方法を選択する。これは後述するが、例えば、光源色L1とL2との距離が所定の閾値以上であるか未満であるかに基づいて、通常AWB補正値算出部52dの用いる補正値算出式および顔AWB補正値算出部52bの用いる補正値算出式のうちいずれか一方の補正値算出式を選択することである。
【0070】
WB補正部52hは、最終WB補正値算出部52gの選択した算出方法で算出されたホワイトバランス補正値によって画像全体のホワイトバランスを補正する。
【0071】
図3は第1実施形態に係る画像信号処理回路44で実行されるホワイトバランス補正処理のフローチャートである。
【0072】
S1では、通常AWB補正値算出部52dが、補正値を算出する。
【0073】
S2では、顔領域特定部52aが、顔領域の特定を試みる。
【0074】
S3では、顔領域特定部52aが、顔領域の特定に成功したか否かを判断する。顔領域の特定に成功した場合はS4、失敗した場合はS10に進む。
【0075】
S4では、顔AWB補正値算出部52bが、顔AWB補正値を算出する。
【0076】
S5では、顔AWB特徴データ抽出部52c、通常AWB特徴データ抽出部52eが、それぞれ色空間における特徴データを抽出する。
【0077】
S6では、特徴データ比較部52fが、S5で抽出された2つの特徴データを比較する。例えば、通常AWB領域、顔領域における2つの代表色を求め、所定の色空間または色度図上における両代表色の各色差(距離)を比較する。
【0078】
S7では、最終WB補正値算出部52gが、2つの特徴データの比較結果に基づき、画像全体に対するホワイトバランス補正値の算出方法として適切なものを1つ、例えば、顔AWB補正値算出部52bによる算出方法および通常AWB補正値算出部52dによる算出方法のうちいずれか一方を選択する。顔AWB補正値算出部52bによる算出方法を選択した場合はS8、通常AWB補正値算出部52dによる算出方法を選択した場合はS9に進む。2つの特徴データの比較結果に基づいた算出方法の選択は、例えば、両代表色の各色差(距離)が所定の閾値未満であれば顔AWBの算出方法、所定の閾値であれば通常AWBの算出方法を選択する。
【0079】
S8では、WB補正部52hは、最終WB補正値算出部52gの選択したホワイトバランス補正値算出方法で得られた最終WB補正値=顔AWB補正値によって画像全体のホワイトバランスを補正する。
【0080】
S9では、WB補正部52hは、最終WB補正値算出部52gの選択したホワイトバランス補正値算出方法で得られた最終WB補正値=通常AWB補正値によって画像全体のホワイトバランスを補正する。
【0081】
S10では、WB補正部52hは、通常AWB補正値によって画像全体のホワイトバランスを補正する。
【0082】
すなわち、本実施形態では、通常AWB領域の特徴データと、顔領域の特徴データとの比較結果に応じて補正値算出方法を選択する。
【0083】
<第2実施形態>
図4は第2実施形態に係る画像信号処理回路44の詳細ブロック構成を示す。ここでは図2における顔AWB特徴データ抽出部52cの一例として顔AWB光源色抽出部52c−1が、通常AWB特徴データ抽出部52eの一例として通常AWB光源色抽出部52e−1が、特徴データ比較部52fの一例として光源色比較部52f−1が示されている。
【0084】
顔AWB光源色抽出部52c−1は、顔領域特定部52aが特定した顔領域内の画像データに基づいて光源色を抽出する。これは、例えば、ホワイトバランス調整のために画像データの一部から光源色を推定する各種の方法(例えば、特許公開2000−209598号公報や、特許公開2006−222928号公報に開示されたもの)を用いて光源色(R1、G1、B1)を推定し、この推定した光源色を、R/GおよびB/Gの比からなる色空間の座標L1=(R1/G1,B1/G1)へ変換する(図5)。なお、光源色をプロットする色空間はYCrCbなど各種のものであってもよい。
【0085】
通常AWB光源色抽出部52e−1は、通常AWB領域の画像データに基づいて光源色を抽出する。これは例えば、ホワイトバランス調整のために画像データの全部から光源色を推定する各種の方法を用いて光源色(R2、G2、B2)を推定し、この推定した光源色を、R/GおよびB/Gの比からなる色空間の色空間の座標L2=(R2/G2,B2/G2)へ変換する(図5)。
【0086】
光源色比較部52f−1は、顔AWB光源色抽出部52c−1の得た光源色L1と、通常AWB光源色抽出部52e−1の得た光源色L2とを比較する。これは後述するが、例えば、光源色L1と光源色L2との色差(色空間における距離)を求めることである。
【0087】
通常AWB補正値算出部52dは、画像全体に施すホワイトバランスの補正値を、通常AWB領域の画像データに基づいて決定する。
【0088】
WB補正部52hは、光源の種類あるいは光源の色温度に応じた比率で各色の画像データを増減することにより、撮影画像を適切なホワイトバランスに調整、すなわち白色が色味を帯びないように色補正する。
【0089】
最終WB補正値算出部52gは、色空間における光源色L1とL2との比較結果に基づき、画像全体に対するホワイトバランス補正値の算出方法を選択する。これは後述するが、例えば、光源色L1とL2との距離が所定の閾値以上であるか未満であるかに基づいて、通常AWB補正値算出部52dの算出した補正値および顔AWB補正値算出部52bの算出した補正値のうちいずれか一方の補正値を選択することである。
【0090】
WB補正部52hは、最終WB補正値算出部52gの選択した算出方法で算出されたホワイトバランス補正値によって画像全体のホワイトバランスを補正する。
【0091】
図6は画像信号処理回路44で実行されるホワイトバランス補正処理の流れを示す。
【0092】
S1では、通常AWB補正値算出部52dが、補正値を算出する。
【0093】
S2では、顔領域特定部52aが、顔領域の特定を試みる。
【0094】
S3では、顔領域特定部52aが、顔領域の特定に成功したか否かを判断する。顔領域の特定に成功した場合はS4、失敗した場合はS10に進む。
【0095】
S4では、顔AWB補正値算出部52bが、顔AWB補正値を算出する。
【0096】
S5−1では、顔AWB光源色抽出部52c−1、通常AWB光源色抽出部52e−1が、それぞれ顔領域、通常AWB領域における光源色L1、L2を抽出する。
【0097】
S6−1では、光源色比較部52f−1が、光源色L1とL2とを比較する。
【0098】
S7−1では、最終WB補正値算出部52gが、光源色比較部52f−1による光源色L1とL2との比較結果に基づき、画像全体に対するホワイトバランス補正値算出方法として適切なものを1つ、例えば、顔AWB補正値算出部52bによる算出方法および通常AWB補正値算出部52dによる算出方法のうちいずれか一方を選択する。顔AWB補正値算出部52bによる算出方法を選択した場合はS8、通常AWB補正値算出部52dによる算出方法を選択した場合はS9に進む。
【0099】
S8では、WB補正部52hは、最終WB補正値算出部52gの選択したホワイトバランス補正値算出方法で得た最終WB補正値=顔AWB補正値によって画像全体のホワイトバランスを補正する。
【0100】
S9では、WB補正部52hは、最終WB補正値算出部52gの選択したホワイトバランス補正値算出方法で得た最終WB補正値=通常AWB補正値によって画像全体のホワイトバランスを補正する。
【0101】
S10では、WB補正部52hは、通常AWB補正値によって画像全体のホワイトバランスを補正する。
【0102】
すなわち、本実施形態では、通常AWB領域の光源色と、顔領域の光源色との比較結果に応じて補正値算出方法を選択する。
【0103】
<第3実施形態>
図7は第3実施形態に係る画像信号処理回路44のブロック構成を示す。ここでは図2における光源色比較部52f−1の一例として、光源色の差分算出部52f−2が示されている。
【0104】
光源色の差分算出部52f−2は、顔AWB光源色抽出部52c−1の得た光源色L1と、通常AWB光源色抽出部52e−1の得た光源色L2との差分を算出する。これは後述するが、例えば、図8に示すように、色空間における光源色L1と光源色L2との距離Lを求めることである。
【0105】
図9は画像信号処理回路44で実行されるホワイトバランス補正処理の流れを示す。
【0106】
S11〜S15はそれぞれ図3のS1〜S5と同様である。
【0107】
S16では、光源色の差分算出部52f−2が、光源色L1とL2との差分Lを算出する。差分Lとは、具体的には図8(a)に示すように、色空間における光源色L1とL2との距離(色差)を指す。その値は、図8(b)に示すような数式で求めることができる。
【0108】
S17では、最終WB補正値算出部52gが、光源色の差分算出部52f−2の算出した、光源色L1とL2との差分Lに基づき、最適な補正値算出方法(例えば第1・2実施形態と同様のもの)を選択する。顔AWB補正値の算出方法を選択した場合はS18、通常AWB補正値の算出方法を選択した場合はS19に進む。
【0109】
S18〜S20は、S8〜S10と同様である。
【0110】
<第4実施形態>
図10は第4実施形態に係る画像信号処理回路44のブロック構成を示す。ここでは図2および図5における最終WB補正値算出部52gの一例として、最終WB選択部52g−1が示されている。この機能は後述する。
【0111】
図11は画像信号処理回路44で実行されるホワイトバランス補正処理の流れを示す。
【0112】
S21〜S26はそれぞれS11〜S16と同様である。
【0113】
S27では、最終WB補正値算出部52gが、光源色L1とL2との差分Lが、所定の閾値T1以下であるか否かを判断する。L≦T1の場合はS28、L>T1の場合はS29に進む。図12は、L>T1の場合を例示している。T1は、顔AWB補正値と通常AWB補正値のいずれを使用することが適切なホワイトバランス補正となるかを区別する値であるから、撮影条件に応じて経験的に定めるとよい。
【0114】
S28では、最終WB補正値算出部52gは、顔AWB補正値を最終WB補正値に決定する。WB補正部52hは、最終WB補正値算出部52gの決定した最終WB補正値=顔AWB補正値によって画像全体のホワイトバランスを補正する。
【0115】
S29では、最終WB補正値算出部52gは、通常AWB補正値を最終WB補正値に決定する。WB補正部52hは、最終WB補正値算出部52gの決定した最終WB補正値=通常AWB補正値によって画像全体のホワイトバランスを補正する。
【0116】
S30は、S10と同様である。
【0117】
図13は、このホワイトバランス補正による具体的効果を例示する。
【0118】
例えば、図13(a)に示すように、太陽光が照射している白色系の石像を被写体とした画像データが取得されたものとする。
【0119】
図13(b)に示すように、通常AWB光源色抽出部52e−1は、画像データ全体の色分布などから光源色を推定する。図13(c)に示すように、ここでは太陽光と推定したとする。
【0120】
図13(d)に示すように、顔AWB光源色抽出部52c−1は、画像データ中の顔領域特定部52aが特定した顔領域の色分布などから光源色を推定する。図13(e)に示すように、ここでは、白い石像の顔の色分布から、青い光が顔の肌色に当たって白くなっていると推定したとする。この青い光が光源色であるとの前提でホワイトバランス調整を行うと、画像が黄色くなってしまう。
【0121】
この場合、図13(f)に示すように、顔AWB光源色抽出部52c−1の光源色L1と通常AWB光源色抽出部52e−1の光源色L2との距離Lは、離れる傾向にある。この距離Lが所定の閾値T1を超えていれば、両者の食い違いが大きく、顔AWB光源色抽出部52c−1の光源色L1の推定は信頼性が低く、通常AWB光源色抽出部52e−1の光源色L2に基づいてWB補正値を決める方がより適切といえる。そこでL>T1の場合、通常AWB補正値によって画像全体のホワイトバランスを補正する。
【0122】
一方、L≦T1の場合は、光源色L1の推定は信頼性が一定程度確保されているから、この場合、顔AWB補正値によって画像全体のホワイトバランスを補正する。
【0123】
こうすることで、顔領域を基準としたホワイトバランス補正を行う際、通常の肌色を有さない顔が特定された場合でも、その顔に基づいて誤ったホワイトバランス調整がされるのを可及的に避けることができる。
【0124】
<第5実施形態>
図14は第5実施形態に係る画像信号処理回路44のブロック構成を示す。ここでは重みα算出部52iが追加されている。
【0125】
例えば図15(a)のような差分Lと重みαとの関係を規定した関数(重みα決定関数)が、予め重みα算出部52iに記憶されており、重みα算出部52iは、差分Lの値に対応する重みαを該関数から特定することで、関数の重みαを算出する。
【0126】
最終WB補正値算出部52gは、例えば図15(b)のような、重みαで通常AWB補正値と顔AWB補正値とを加重平均する数式により、最終WB補正値を算出する。
【0127】
図16は第5実施形態に係るホワイトバランス補正処理を示すフローチャートである。
【0128】
S31〜S36はS11〜S16と同様である。
【0129】
S37では、差分Lが所定の閾値T2以下であるか否かを判断する。L≦T2の場合はS38、L>T2の場合はS41に進む。
【0130】
S38では、重みα=100(%)とする。
【0131】
S40では、最終WB補正値を顔AWB補正値とする。なおこの値は図15(b)の数式でα=100とした値である。
【0132】
S41では、差分Lが所定の閾値T3以上であるか否かを判断する。L≧T3の場合はS42、L<T3の場合はS45に進む。
【0133】
S42では、重みα=0(%)とする。
【0134】
S44では、最終WB補正値を通常AWB補正値とする。なおこの値は図15(b)の数式でα=0とした値である。
【0135】
S45では、差分Lに対応した重みα=1〜99(%)の値とする。例えば図15(a)のような差分Lと重みαとの関係を規定した関数(重みα決定関数)を予め記憶しておき、差分Lの値に対応する重みαを該関数から特定する。
【0136】
S47では、例えば図15(b)のような、重みαで通常AWB補正値と顔AWB補正値とを加重平均する数式により、最終WB補正値を算出する。
【0137】
S48は、S10と同様である。
【0138】
<第6実施形態>
図17は第6実施形態に係る画像信号処理回路44のブロック構成を示す。ここでは最終光源色算出部52jが追加されている。
【0139】
例えば図18(a)のような差分Lと重みαとの関係を規定した関数(重みα決定関数)を予め重みα算出部52iに記憶しておき、重みα算出部52iは、差分Lの値に対応する重みαを該関数から特定することで、光源色の重みαを算出する。
【0140】
最終光源色算出部52jは、例えば図18(b)のような重みαで通常AWB光源色と顔AWB光源色とを加重平均する数式により、最終光源色を算出する。
【0141】
図19は第6実施形態に係るホワイトバランス補正処理を示すフローチャートである。
【0142】
S51〜S56はS31〜S36と同様である。
【0143】
S57では、差分Lが所定の閾値T4以下であるか否かを判断する。L≦T4の場合はS58、L>T4の場合はS61に進む。
【0144】
S58では、重みα=100(%)とする。
【0145】
S59では、最終光源色を顔AWB光源色抽出部52c−1の抽出した光源色とする。
【0146】
S60では、最終光源色である顔AWB光源色抽出部52c−1の抽出した光源色を補正値の算出基準とし、最終WB補正値を顔AWB補正値とする。
【0147】
S61では、差分Lが所定の閾値T5以上であるか否かを判断する。L≧T5の場合はS62、L<T5の場合はS65に進む。
【0148】
S62では、重みα=0(%)とする。
【0149】
S63では、最終光源色を通常AWB光源色抽出部52e−1の抽出した光源色とする。
【0150】
S64では、最終光源色である通常AWB光源色抽出部52e−1の抽出した光源色を補正値の算出基準とし、最終WB補正値を通常AWB補正値とする。
【0151】
S65では、差分Lに対応した重みα=1〜99(%)の値とする。例えば図18(a)のような差分Lと重みαとの関係を規定した関数(重みα決定関数)を予め記憶しておき、差分Lの値に対応する重みαを該関数から特定する。
【0152】
S66では、例えば図18(b)のような、2つの光源色を重みαで加重平均する数式により、最終光源色を算出する。
【0153】
S67では、最終光源色を補正値の算出基準とし、最終WB補正値を算出する。
【0154】
S68は、S10と同様である。
【0155】
<第7実施形態>
図20は第7実施形態に係る画像信号処理回路44のブロック構成を示す。上記実施形態と同一のブロックには同一の符号を付しており、説明は省略する。ここではエリア分割部52k、エリア特徴データ抽出部52lが追加されている。
【0156】
エリア分割部52kは、画像データ全体を所定の1または複数のエリアに分割する。
【0157】
図21は複数のエリアに分割した場合の一例である。複数のエリアへの区分の仕方は図示したものに限らず、これよりも多数あるいは少数の小領域に区分してもよい。また、分割面積は等面積、等間隔である必然性はなく、領域の特徴(例えば顔領域に包含される領域であるか否か)や重要度に応じてより精緻な領域分割を行ってもよい。あるいは、異なる色相ごとに画像を分割してもよい。なお、1つのエリアに分割するとは画像データ全体そのものを得ることと同じである。
【0158】
図22は第7実施形態に係るホワイトバランス補正処理のフローチャートである。
【0159】
S71〜S75はS1〜S5と同様である。
【0160】
S76では、エリア分割部52kが画像データ全体を1または複数のエリアに分割する。
【0161】
S77では、エリア特徴データ抽出部52lが各エリアの特徴データを抽出する。特徴データとは例えば各エリアの代表色である。エリアの代表色の求め方としては、例えば本出願人による特許公開2007−36462号公報、段落0038に記載されるように、エリアの各画像データを用いて、各画素の色をR/G−B/G空間の座標にそれぞれ変換し、それら各座標の重心の座標を求め、これを代表色の座標とする。
【0162】
S78では、特徴データ比較部52fが、各エリアの特徴データを顔領域からの特徴データと比較する。
【0163】
S79では、各エリアの特徴データを顔領域からの特徴データと比較した結果に応じて、適切な補正値算出式を選択する。例えば上述と同様、通常AWB補正値算出部52dの算出した補正値(通常AWB補正値)および顔AWB補正値算出部52bの算出した補正値(顔AWB補正値)のうちいずれか一方の最適な補正値を選択する。
【0164】
S80〜S82は、S8〜S10と同様である。
【0165】
図23は、このホワイトバランス補正による具体的効果を例示する。
【0166】
例えば、図23(a)に示すように、1つの画像データ中に、人には赤い光源が照らされており、背景には青い水槽が存在していたとする。
【0167】
この場合、図23(b)に示すように、1画面を複数のエリアに分割し、かつ、図23(c)に示すように、各エリアの特徴データとして各エリアの代表色を算出する。この場合、水槽側のエリアでは青、光源側のエリアでは赤が代表色となる。
【0168】
また、図23(d)に示すように、検出された顔領域から、光源色を推定する。この場合、図23(e)に示すように、顔色から赤い光源と推定される。
【0169】
つまり、各エリアの特徴データと顔領域の特徴データの間では、食い違いが生じ、それぞれの特徴データに従ってホワイトバランス補正を行った場合、得られる画像データも異なってくる。従って、いずれか一方の特徴データを基準としたより適切なホワイトバランス補正を行う必要がある。
【0170】
図23(f)に示すように、顔領域の特徴データ(代表色)および各エリアの特徴データ(代表色)を、R/G−B/G色空間にプロットすると、顔領域の特徴データの周辺には、赤い光源が支配的な光源近傍のエリアの特徴データが集中し、また、水槽近傍のエリアは青が支配的な位置に集中する。
【0171】
この、顔領域を中心とした所定の閾値Tの近傍内に、一定程度の分割エリアの特徴データが存在していれば、これが正しい光源色を表していると判断でき、近傍外にある青の特徴データは、背景を支配する色であるということが識別でき、顔AWBによるホワイトバランス補正がよりよい補正方法であると識別できる。
【0172】
この方式は図24のように、本来の光源とは関係のない色で画像の大部分が支配されることで、通常AWBにおける光源推定が顔AWBにおける光源推定とかけ離れてしまうときに特に有効である。
【0173】
<第8実施形態>
図25は第8実施形態に係る画像信号処理回路44のブロック構成を示す。他の実施形態と同一のブロックには同一の符号を付している。
【0174】
図26は第8実施形態に係るホワイトバランス補正処理のフローチャートである。
【0175】
S91〜S94はS71〜S74と同様である。
【0176】
S95では、顔AWB特徴データ抽出部52cが、顔領域から光源色を抽出する。そして、抽出した光源色を色空間にプロットする(例えば図27を参照)。
【0177】
S96は、S76と同様である。
【0178】
S97では、エリア特徴データ抽出部52lが各エリアの代表色(例えばエリアごとの画素の平均色)を抽出する。そして、抽出した各エリアの代表色を色空間にプロットする(例えば図27を参照)。
【0179】
S98では、特徴データ比較部52fが、各エリアの代表色を顔領域からの光源色と比較する。
【0180】
S99は、S98の比較結果に応じ、S100またはS101に分岐する。
【0181】
S100〜S102は、S80〜S82と同様である。
【0182】
<第9実施形態>
図28は第9実施形態に係る画像信号処理回路44のブロック構成を示す。他の実施形態と同一のブロックには同一の符号を付している。
【0183】
光源色と特定のエリアの代表色との差分算出部52f−3は、図29に例示するような数式により、色空間における各エリアの代表色と顔AWB光源色抽出部52の得た光源色との差分(距離)Lを算出する。
【0184】
図30は第9実施形態に係るホワイトバランス補正処理のフローチャートである。
【0185】
S111〜S117は、S91〜S97と同様である。
【0186】
S118では、例えば図29に例示する数式により、色空間における各エリアRi(iはエリアに付与された添え字)の代表色と顔AWB光源色抽出部52の得た光源色との差分(距離)Liを算出する。そして、各エリアごとに求められた差分Liのうち最小値Lminを確定する(図31参照)。
【0187】
S119では、最終WB補正値算出部52gが、差分Lminに基づき、適切な補正値算出方法を選択する。これは例えば上述と同様、差分Lminとある所定の閾値との大小関係に応じて、通常AWB補正値算出部52dの算出した補正値(通常AWB補正値)および顔AWB補正値算出部52bの算出した補正値(顔AWB補正値)のうちいずれか一方の最適な補正値を選択する。顔AWB補正値を選択した場合はS120、通常AWB補正値を選択した場合はS121に進む。
【0188】
S120〜S122は、S100〜S102と同様である。
【0189】
<第10実施形態>
図32は第10実施形態に係る画像信号処理回路44のブロック構成を示す。他の実施形態と同一のブロックには同一の符号を付している。
【0190】
光源色とn個のエリアの代表色との差分算出部52f−4は、各エリアの代表色と顔AWB光源色抽出部52c−1からの光源色との差分を算出する。
【0191】
例えば図33に示すように、光源色の近傍に位置する所定個数(例えば総エリア個数の5〜20%程度の個数)の代表色と光源色との距離を、代表色ごとにそれぞれ求める。
【0192】
重みづけ平均部52pは、各エリアと光源色との差分(距離)Liに対応する重みβiを乗じることで、差分の加重平均を算出する(図35)。各差分Liに対応する重みβiは例えば図34に示すような、差分量と重みの関係を規定する重みβi決定関数から特定する。
【0193】
図36は第10実施形態に係るホワイトバランス補正処理のフローチャートである。
【0194】
S131〜137は、S111〜S117と同様である。
【0195】
S138では、各エリアの代表色と光源色との差分(距離)Liを算出する。
【0196】
S139〜S145は、各エリアの各差分Liに対応するに対応する重みβiが全て(n個)算出するまで繰り返される処理単位である。
【0197】
S140では、差分Liが所定の閾値T6以下であるか否かを判断する。判断が“Y”ならばS142、“N”ならばS141に進む。
【0198】
S141では、差分Liが所定の閾値T7以上であるか否かを判断する。判断が“Y”ならばS143、“N”ならばS144に進む。
【0199】
S142では、図34の重み決定関数に従い、重みβi=100%とする。
【0200】
S143では、図34の重み決定関数に従い、重みβi=0%とする。
【0201】
S144では、図34の重み決定関数に従い、重みβi=1〜99%とする。
【0202】
S145では、n個の重みが算出されたか否かを判断し、算出されればS146に進む。算出されていなければS140に戻る。
【0203】
S146では、各差分Liに対応する重みβiで各差分Liを重みづけして平均した差分の加重平均L’を算出する(図35参照)。
【0204】
S147では、最終WB補正値算出部52gが、差分加重平均L’に基づき、適切な補正値算出方法を選択する。これの具体例は上述と同様である。第1の算出方法(例えば顔AWB補正値)を選択した場合はS148、第2の算出方法(例えば通常AWB補正値)を選択した場合はS149に進む。
【0205】
S148〜S150は、S120〜S122と同様である。
【0206】
<第11実施形態>
図37は第11実施形態に係る画像信号処理回路44のブロック構成を示す。他の実施形態と同一のブロックには同一の符号を付している。
【0207】
光源色と代表色との差分算出部52f−5は、各エリアの代表色と顔AWB光源色抽出部52c−1からの光源色との差分を算出する。
【0208】
図38は第11実施形態に係るホワイトバランス補正処理のフローチャートである。
【0209】
S161〜S167は、S131〜S137と同様である。
【0210】
S168では、顔AWBの光源色と各エリアの代表色との差分Lを算出する。どのような差分を用いるかは任意であり、例えば上述した差分最小値Lminや重みづけ差分平均L’などである。
【0211】
S169では、差分Lが所定の閾値T5以下であるか否かを判断する。L≦T5ならばS170,L>T5ならばS171に進む。
【0212】
S170〜S172はS28〜S30と同様である。
【0213】
<第12実施形態>
図39は第12実施形態に係る画像信号処理回路44のブロック構成を示す。他の実施形態と同一のブロックには同一の符号を付している。
【0214】
重みα算出部52iは、例えば図40のような差分Lと重みαとの関係を規定した関数を予め記憶しておき、差分Lの値に対応する重みαを該関数から特定することで、重みαを算出する。
【0215】
図41は第12実施形態に係るホワイトバランス補正処理のフローチャートである。
【0216】
S181〜188は、S161〜S168と同様である。
【0217】
S189〜S200は、S37〜S48(図16)と同様である。ただし、S189、S193で用いられる閾値は、それぞれT6、T7である。
【0218】
<第13実施形態>
図42は第13実施形態に係る画像信号処理回路44のブロック構成を示す。他の実施形態と同一のブロックには同一の符号を付している。
【0219】
最終光源色算出部52jは、例えば図43のような差分Lと重みαとの関係を規定した重み決定関数を予め記憶しておき、差分Lの値に対応する重みαを該関数から特定することで、重みαを算出する。
【0220】
図44は第13実施形態に係るホワイトバランス補正処理のフローチャートである。
【0221】
S211〜S218は、S181〜S188と同様である。
【0222】
S219〜S230は、S57〜S68(図19)と同様である。ただし、S219、S223で用いられる閾値は、それぞれT8、T9である。
【0223】
<第14実施形態>
図45は第14実施形態に係る画像信号処理回路44のブロック構成を示す。他の実施形態と同一のブロックには同一の符号を付している。
【0224】
図46に例示するように、表示アイコン作成部52qは、重みα()を示すアイコンICの映像信号を生成し、これを撮像された画像データに重畳して、LCD22に出力して画像とともに表示させる。
【0225】
図47は第14実施形態に係るホワイトバランス補正処理のフローチャートである。
【0226】
S241〜S257は、S181〜S200(図41)と同様である。
【0227】
S258では、重みαを示すアイコンICの映像信号を生成し、これを撮像された画像データに重畳して、LCD22に出力して画像とともにポストビュー(撮像後の画像ビュー)として表示させる。これにより、ユーザはどのような重みが加えられているかを知ることができ、目視でそれが不適切と判断すれば、撮影のやり直しをすることができる。
【0228】
<第15実施形態>
図48は第15実施形態に係る画像信号処理回路44のブロック構成を示す。他の実施形態と同一のブロックには同一の符号を付している。
【0229】
図49に例示するように、表示枠作成部52qは、顔AWBの光源色に最も近い代表色を有するエリアを示す枠Fの映像信号を生成し、これを撮像された画像データに重畳して、LCD22に出力して画像とともに表示させる。
【0230】
図50は第15実施形態に係るホワイトバランス補正処理のフローチャートである。
【0231】
S261〜S267は、S181〜S200と同様である。
【0232】
S278では、顔AWBの光源色に最も近い代表色を有するエリアを示す枠Fの映像信号を生成し、これを撮像された画像データに重畳して、LCD22に出力して画像とともにポストビューとして表示させる。これにより、ユーザはどのエリアの特徴データがホワイトバランスの基準となっているかを知ることができ、目視でそれが不適切と判断すれば、撮影のやり直しをすることができる。
【0233】
<第16実施形態>
図51は第16実施形態に係る画像信号処理回路44のブロック構成を示す。他の実施形態と同一のブロックには同一の符号を付している。
【0234】
重みα’算出部52sは、CPU33の指令に従って操作部23から読み込まれた顔AWBの優先度に基づき、重みα’を算出する。
【0235】
ここで、顔AWBの優先度とは、例えば、高(設定優先度が標準の優先度よりも高く、画像信号処理回路44で算出した重みαよりも重みα’を大きくする)、中(設定優先度と標準の優先度が同じであり、画像信号処理回路44で算出した重みαと重みα’を同じにする)、低(設定優先度が標準の優先度よりも低く、画像信号処理回路44で算出した重みαよりも重みα’を小さくする)の3段階のレベルからなり、その中から、ユーザが所望のレベルを1つ選択できる。無論、高および低の段階は、さらに重みα’を所望の幅で増減可能にするため、さらに細分された段階を有していてもよい。
【0236】
図52は第16実施形態に係るホワイトバランス補正処理のフローチャートである。
【0237】
S281〜S295は、S261〜S275(図50)と同様である。
【0238】
S296では、操作部23から、顔AWBの優先度の設定(重みα’)を読み込む。そして、設定された顔AWBの優先度(重みα’)と基準の顔AWBの優先度(重みα)が一致しているかを判断する。両者が一致する場合はS297、一致しない場合にはS298に進む。
【0239】
S297では、S47と同様、重みαに基づいて最終WB補正値を算出する。
【0240】
S298では、設定された顔AWBの優先度(重みα’)が基準の顔AWBの優先度(重みα)よりも大きいかを判断する。“Y”の場合はS299、“N”の場合場合にはS301に進む。
【0241】
S299では、重みα’に基づいて最終WB補正値を算出する。この場合、結果的に顔AWBの重みが上がるから、顔AWB補正値に近い最終補正値が得られる(S300)。
【0242】
S301では、重みα’に基づいて最終WB補正値を算出する。この場合、結果的に顔AWBの重みが下がるから、通常AWB補正値に近い最終補正値が得られる(S302)。
【0243】
S303は、S277と同様である。
【0244】
このように、ユーザの好みに応じて顔AWB、通常AWBの重みを変えることで、ユーザの意図通りの画像データを得ることができる。
【符号の説明】
【0245】
44:画像信号処理回路、52a:顔領域特定部、52b:顔AWB補正値算出部、52c:顔AWB特徴データ抽出部、52d:通常AWB補正値算出部、52e:通常AWB特徴データ抽出部、52f:特徴データ比較部、52g:最終AWB補正値算出部、52h:WB補正部
【特許請求の範囲】
【請求項1】
画像データを入力するステップと、
入力された画像データに基づいて第1のオートホワイトバランス(AWB)補正値である通常AWB補正値を算出するステップと、
前記画像データから顔領域を特定するステップと、
前記画像データの顔領域に基づいて第2のAWB補正値である顔AWB補正値を算出するステップと、
前記画像データを1または複数のエリアに分割し、各エリアから特徴データを抽出するステップと、
前記顔領域から特徴データを抽出するステップと、
前記各エリアから抽出された特徴データと前記顔領域から抽出された特徴データとの比較結果に基づき、前記顔AWB補正値および前記通常AWB補正値のうち少なくとも一方に応じた最終的なAWB補正値を算出するステップと、
を含むオートホワイトバランス補正値算出方法。
【請求項2】
前記顔領域からは、前記特徴データとして光源色が抽出され、
前記各エリアからは、前記特徴データとして前記各エリアの代表色が抽出される請求項1に記載のオートホワイトバランス補正値算出方法。
【請求項3】
前記各エリアの代表色のうち特定エリアの代表色と前記顔領域の光源色との差分量を算出するステップと、
前記差分量に基づき、最終的なAWB補正値を算出するステップと、
をさらに含む請求項2に記載のオートホワイトバランス補正値算出方法。
【請求項4】
前記各エリアの代表色のうち特定エリアの代表色と前記顔領域の光源色との差分量を算出するステップと、
前記差分量のうち前記顔領域の近傍にある所定数のエリアについての差分量を、前記差分量に対応する0%以上100%以下の所定の重みβで加重平均して得られた値に基づき、最終的なAWB補正値を算出するステップと、
をさらに含む請求項2に記載のオートホワイトバランス補正値算出方法。
【請求項5】
前記各エリアから抽出された特徴データと前記顔領域から抽出された特徴データとの比較結果に基づき、顔AWB補正値または通常AWB補正値のうちいずれか一方を最終的なAWB補正値として選択するステップをさらに含む請求項1〜4のいずれかに記載のオートホワイトバランス補正値算出方法。
【請求項6】
前記各エリアから抽出された特徴データと前記顔領域から抽出された特徴データとの比較結果に基づき、顔AWB補正値および通常AWB補正値を0%以上100%以下の所定の重みαにより加重平均することで最終的なAWB補正値を算出するステップをさらに含む請求項1〜4のいずれかに記載のオートホワイトバランス補正値算出方法。
【請求項7】
前記画像データの光源色および前記顔領域の光源色の各々を0%以上100%以下の所定の重みαにより加重平均することで最終的な光源色を求めるステップと、
前記最終的な光源色に応じて最終的なAWB補正値を算出するステップと、
をさらに含む請求項2〜4のいずれかに記載のオートホワイトバランス補正値算出方法。
【請求項8】
前記最終的なAWB補正値を表示するステップをさらに含む請求項1〜7のいずれかに記載のオートホワイトバランス補正値算出方法。
【請求項9】
前記顔領域の特徴データと比較された特徴データの抽出されたエリアを表示するステップをさらに含む請求項1〜7のいずれかに記載のオートホワイトバランス補正値算出方法。
【請求項10】
顔優先度の選択を受け付けるステップと、
前記顔優先度に応じて前記重みを変化させるステップと、
をさらに含む請求項4、6または7に記載のオートホワイトバランス補正値算出方法。
【請求項11】
画像データを入力するステップと、
入力された画像データに基づいて第1のオートホワイトバランス(AWB)補正値である通常AWB補正値を算出するステップと、
前記画像データから顔領域を特定するステップと、
前記画像データの顔領域に基づいて第2のAWB補正値である顔AWB補正値を算出するステップと、
前記画像データを1または複数のエリアに分割し、各エリアから特徴データを抽出するステップと、
前記顔領域から特徴データを抽出するステップと、
前記各エリアから抽出された特徴データと前記顔領域から抽出された特徴データとの比較結果に基づき、前記顔AWB補正値および前記通常AWB補正値のうち少なくとも一方に応じた最終的なAWB補正値を算出するステップと、
をコンピュータに実行させるオートホワイトバランス補正値算出プログラム。
【請求項12】
画像データを入力する画像データ入力部と、
前記画像データ入力部に入力された画像データに基づいて第1のオートホワイトバランス(AWB)補正値である通常AWB補正値を算出する通常AWB補正値算出部と、
前記画像データから顔領域を特定する顔領域特定部と、
前記画像データの顔領域に基づいて第2のAWB補正値である顔AWB補正値を算出する顔AWB補正値算出部と、
前記画像データを1または複数のエリアに分割し、各エリアから特徴データを抽出するエリア特徴データ抽出部と、
前記顔領域から特徴データを抽出する顔領域特徴データ抽出部と、
前記各エリアから抽出された特徴データと前記顔領域から抽出された特徴データとの比較結果に基づき、前記顔AWB補正値および前記通常AWB補正値のうち少なくとも一方に応じた最終的なAWB補正値を算出する最終AWB補正値算出部と、
を備えるオートホワイトバランス補正値算出装置。
【請求項13】
前記顔領域からは、前記特徴データとして光源色が抽出され、
前記各エリアからは、前記特徴データとして前記各エリアの代表色が抽出される請求項12に記載のオートホワイトバランス補正値算出装置。
【請求項14】
前記各エリアの代表色のうち特定エリアの代表色と前記顔領域の光源色との差分量を算出する差分量算出部をさらに備え、
前記最終AWB補正値算出部は、前記差分量に基づき、最終的なAWB補正値を算出する請求項13に記載のオートホワイトバランス補正値算出装置。
【請求項15】
前記各エリアの代表色のうち特定エリアの代表色と前記顔領域の光源色との差分量を算出する差分量算出部をさらに備え、
前記最終AWB補正値算出部は、前記差分量のうち前記顔領域の近傍にある所定数のエリアについての差分量を、前記差分量に対応する0%以上100%以下の所定の重みβで加重平均して得られた値に基づき、最終的なAWB補正値を算出する請求項13に記載のオートホワイトバランス補正値算出装置。
【請求項16】
前記最終AWB補正値算出部は、前記各エリアから抽出された特徴データと前記顔領域から抽出された特徴データとの比較結果に基づき、顔AWB補正値または通常AWB補正値のうちいずれか一方を最終的なAWB補正値として選択する請求項12〜15のいずれかに記載のオートホワイトバランス補正値算出装置。
【請求項17】
前記最終AWB補正値算出部は、前記各エリアから抽出された特徴データと前記顔領域から抽出された特徴データとの比較結果に基づき、顔AWB補正値および通常AWB補正値を0%以上100%以下の所定の重みαにより加重平均することで最終的なAWB補正値を算出する請求項12〜15のいずれかに記載のオートホワイトバランス補正値算出装置。
【請求項18】
前記画像データの光源色および前記顔領域の光源色の各々を0%以上100%以下の所定の重みαにより加重平均することで最終的な光源色を求める最終光源色算出部をさらに備え、
前記最終AWB補正値算出部は、前記最終的な光源色に応じて最終的なAWB補正値を算出する請求項13〜15のいずれかに記載のオートホワイトバランス補正値算出装置。
【請求項19】
前記最終的なAWB補正値を表示する表示部をさらに備える請求項12〜18のいずれかに記載のオートホワイトバランス補正値算出装置。
【請求項20】
前記顔領域の特徴データと比較された特徴データの抽出されたエリアを表示する表示部をさらに備える請求項12〜18のいずれかに記載のオートホワイトバランス補正値算出装置。
【請求項21】
顔優先度の選択を受け付ける顔優先度選択部をさらに備え、
前記最終AWB補正値算出部は、前記顔優先度に応じて前記重みを変化させる請求項15、17または18に記載のオートホワイトバランス補正値算出装置。
【請求項22】
請求項12〜21のいずれかに記載のオートホワイトバランス補正値算出装置と、
撮影光学系を介して被写体像を受光し、該被写体像を示すアナログ画像信号を出力する撮像素子と、
前記アナログ画像信号をデジタル画像データに変換して前記画像データ入力部に出力する画像データ出力部と、
前記オートホワイトバランス補正値算出装置の算出した最終的なAWB補正値に基づいて前記画像データのホワイトバランスを補正する補正部と、
を備える撮像装置。
【請求項1】
画像データを入力するステップと、
入力された画像データに基づいて第1のオートホワイトバランス(AWB)補正値である通常AWB補正値を算出するステップと、
前記画像データから顔領域を特定するステップと、
前記画像データの顔領域に基づいて第2のAWB補正値である顔AWB補正値を算出するステップと、
前記画像データを1または複数のエリアに分割し、各エリアから特徴データを抽出するステップと、
前記顔領域から特徴データを抽出するステップと、
前記各エリアから抽出された特徴データと前記顔領域から抽出された特徴データとの比較結果に基づき、前記顔AWB補正値および前記通常AWB補正値のうち少なくとも一方に応じた最終的なAWB補正値を算出するステップと、
を含むオートホワイトバランス補正値算出方法。
【請求項2】
前記顔領域からは、前記特徴データとして光源色が抽出され、
前記各エリアからは、前記特徴データとして前記各エリアの代表色が抽出される請求項1に記載のオートホワイトバランス補正値算出方法。
【請求項3】
前記各エリアの代表色のうち特定エリアの代表色と前記顔領域の光源色との差分量を算出するステップと、
前記差分量に基づき、最終的なAWB補正値を算出するステップと、
をさらに含む請求項2に記載のオートホワイトバランス補正値算出方法。
【請求項4】
前記各エリアの代表色のうち特定エリアの代表色と前記顔領域の光源色との差分量を算出するステップと、
前記差分量のうち前記顔領域の近傍にある所定数のエリアについての差分量を、前記差分量に対応する0%以上100%以下の所定の重みβで加重平均して得られた値に基づき、最終的なAWB補正値を算出するステップと、
をさらに含む請求項2に記載のオートホワイトバランス補正値算出方法。
【請求項5】
前記各エリアから抽出された特徴データと前記顔領域から抽出された特徴データとの比較結果に基づき、顔AWB補正値または通常AWB補正値のうちいずれか一方を最終的なAWB補正値として選択するステップをさらに含む請求項1〜4のいずれかに記載のオートホワイトバランス補正値算出方法。
【請求項6】
前記各エリアから抽出された特徴データと前記顔領域から抽出された特徴データとの比較結果に基づき、顔AWB補正値および通常AWB補正値を0%以上100%以下の所定の重みαにより加重平均することで最終的なAWB補正値を算出するステップをさらに含む請求項1〜4のいずれかに記載のオートホワイトバランス補正値算出方法。
【請求項7】
前記画像データの光源色および前記顔領域の光源色の各々を0%以上100%以下の所定の重みαにより加重平均することで最終的な光源色を求めるステップと、
前記最終的な光源色に応じて最終的なAWB補正値を算出するステップと、
をさらに含む請求項2〜4のいずれかに記載のオートホワイトバランス補正値算出方法。
【請求項8】
前記最終的なAWB補正値を表示するステップをさらに含む請求項1〜7のいずれかに記載のオートホワイトバランス補正値算出方法。
【請求項9】
前記顔領域の特徴データと比較された特徴データの抽出されたエリアを表示するステップをさらに含む請求項1〜7のいずれかに記載のオートホワイトバランス補正値算出方法。
【請求項10】
顔優先度の選択を受け付けるステップと、
前記顔優先度に応じて前記重みを変化させるステップと、
をさらに含む請求項4、6または7に記載のオートホワイトバランス補正値算出方法。
【請求項11】
画像データを入力するステップと、
入力された画像データに基づいて第1のオートホワイトバランス(AWB)補正値である通常AWB補正値を算出するステップと、
前記画像データから顔領域を特定するステップと、
前記画像データの顔領域に基づいて第2のAWB補正値である顔AWB補正値を算出するステップと、
前記画像データを1または複数のエリアに分割し、各エリアから特徴データを抽出するステップと、
前記顔領域から特徴データを抽出するステップと、
前記各エリアから抽出された特徴データと前記顔領域から抽出された特徴データとの比較結果に基づき、前記顔AWB補正値および前記通常AWB補正値のうち少なくとも一方に応じた最終的なAWB補正値を算出するステップと、
をコンピュータに実行させるオートホワイトバランス補正値算出プログラム。
【請求項12】
画像データを入力する画像データ入力部と、
前記画像データ入力部に入力された画像データに基づいて第1のオートホワイトバランス(AWB)補正値である通常AWB補正値を算出する通常AWB補正値算出部と、
前記画像データから顔領域を特定する顔領域特定部と、
前記画像データの顔領域に基づいて第2のAWB補正値である顔AWB補正値を算出する顔AWB補正値算出部と、
前記画像データを1または複数のエリアに分割し、各エリアから特徴データを抽出するエリア特徴データ抽出部と、
前記顔領域から特徴データを抽出する顔領域特徴データ抽出部と、
前記各エリアから抽出された特徴データと前記顔領域から抽出された特徴データとの比較結果に基づき、前記顔AWB補正値および前記通常AWB補正値のうち少なくとも一方に応じた最終的なAWB補正値を算出する最終AWB補正値算出部と、
を備えるオートホワイトバランス補正値算出装置。
【請求項13】
前記顔領域からは、前記特徴データとして光源色が抽出され、
前記各エリアからは、前記特徴データとして前記各エリアの代表色が抽出される請求項12に記載のオートホワイトバランス補正値算出装置。
【請求項14】
前記各エリアの代表色のうち特定エリアの代表色と前記顔領域の光源色との差分量を算出する差分量算出部をさらに備え、
前記最終AWB補正値算出部は、前記差分量に基づき、最終的なAWB補正値を算出する請求項13に記載のオートホワイトバランス補正値算出装置。
【請求項15】
前記各エリアの代表色のうち特定エリアの代表色と前記顔領域の光源色との差分量を算出する差分量算出部をさらに備え、
前記最終AWB補正値算出部は、前記差分量のうち前記顔領域の近傍にある所定数のエリアについての差分量を、前記差分量に対応する0%以上100%以下の所定の重みβで加重平均して得られた値に基づき、最終的なAWB補正値を算出する請求項13に記載のオートホワイトバランス補正値算出装置。
【請求項16】
前記最終AWB補正値算出部は、前記各エリアから抽出された特徴データと前記顔領域から抽出された特徴データとの比較結果に基づき、顔AWB補正値または通常AWB補正値のうちいずれか一方を最終的なAWB補正値として選択する請求項12〜15のいずれかに記載のオートホワイトバランス補正値算出装置。
【請求項17】
前記最終AWB補正値算出部は、前記各エリアから抽出された特徴データと前記顔領域から抽出された特徴データとの比較結果に基づき、顔AWB補正値および通常AWB補正値を0%以上100%以下の所定の重みαにより加重平均することで最終的なAWB補正値を算出する請求項12〜15のいずれかに記載のオートホワイトバランス補正値算出装置。
【請求項18】
前記画像データの光源色および前記顔領域の光源色の各々を0%以上100%以下の所定の重みαにより加重平均することで最終的な光源色を求める最終光源色算出部をさらに備え、
前記最終AWB補正値算出部は、前記最終的な光源色に応じて最終的なAWB補正値を算出する請求項13〜15のいずれかに記載のオートホワイトバランス補正値算出装置。
【請求項19】
前記最終的なAWB補正値を表示する表示部をさらに備える請求項12〜18のいずれかに記載のオートホワイトバランス補正値算出装置。
【請求項20】
前記顔領域の特徴データと比較された特徴データの抽出されたエリアを表示する表示部をさらに備える請求項12〜18のいずれかに記載のオートホワイトバランス補正値算出装置。
【請求項21】
顔優先度の選択を受け付ける顔優先度選択部をさらに備え、
前記最終AWB補正値算出部は、前記顔優先度に応じて前記重みを変化させる請求項15、17または18に記載のオートホワイトバランス補正値算出装置。
【請求項22】
請求項12〜21のいずれかに記載のオートホワイトバランス補正値算出装置と、
撮影光学系を介して被写体像を受光し、該被写体像を示すアナログ画像信号を出力する撮像素子と、
前記アナログ画像信号をデジタル画像データに変換して前記画像データ入力部に出力する画像データ出力部と、
前記オートホワイトバランス補正値算出装置の算出した最終的なAWB補正値に基づいて前記画像データのホワイトバランスを補正する補正部と、
を備える撮像装置。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【図18】
【図19】
【図20】
【図21】
【図22】
【図23】
【図24】
【図25】
【図26】
【図27】
【図28】
【図29】
【図30】
【図31】
【図32】
【図33】
【図34】
【図35】
【図36】
【図37】
【図38】
【図39】
【図40】
【図41】
【図42】
【図43】
【図44】
【図45】
【図46】
【図47】
【図48】
【図49】
【図50】
【図51】
【図52】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【図18】
【図19】
【図20】
【図21】
【図22】
【図23】
【図24】
【図25】
【図26】
【図27】
【図28】
【図29】
【図30】
【図31】
【図32】
【図33】
【図34】
【図35】
【図36】
【図37】
【図38】
【図39】
【図40】
【図41】
【図42】
【図43】
【図44】
【図45】
【図46】
【図47】
【図48】
【図49】
【図50】
【図51】
【図52】
【公開番号】特開2011−139481(P2011−139481A)
【公開日】平成23年7月14日(2011.7.14)
【国際特許分類】
【出願番号】特願2011−14426(P2011−14426)
【出願日】平成23年1月26日(2011.1.26)
【分割の表示】特願2007−185873(P2007−185873)の分割
【原出願日】平成19年7月17日(2007.7.17)
【出願人】(306037311)富士フイルム株式会社 (25,513)
【Fターム(参考)】
【公開日】平成23年7月14日(2011.7.14)
【国際特許分類】
【出願日】平成23年1月26日(2011.1.26)
【分割の表示】特願2007−185873(P2007−185873)の分割
【原出願日】平成19年7月17日(2007.7.17)
【出願人】(306037311)富士フイルム株式会社 (25,513)
【Fターム(参考)】
[ Back to top ]