説明

撮像装置及び画像処理方法

【課題】環境光の色温度又は光源種の推定精度を上げ、色シェーディング補正を良好に行うことができるようにする。
【解決手段】カメラ付き携帯電話の通常の撮影時に使用される撮像部1とこの撮像部1とは反対側に設けられた自分撮り用の撮像部2とを併用し、撮像部1、2から取得したカラー画像に基づいてそれぞれ環境光の色温度又は光源種を推定し、これにより環境光の色温度又は光源種の推定精度を上げ、色シェーディング補正を良好に行うことができるようにしている。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は撮像装置及び画像処理方法に係り、特に色シェーディング補正を行う技術に関する。
【背景技術】
【0002】
従来、この種の色シェーディング補正方法としては、撮影されたシーンの色温度を推定し、それに合わせて赤(R)、緑(G)、青(B)の各原色信号のシェーディング補正量を決定し、各原色信号の強度を補正することが多い。
【0003】
特許文献1には、撮像された被写体像をシェーディング係数に応じてシェーディング補正するシェーディング補正部と、環境光の色温度を推定する色温度推定部と、推定された色温度に基づいてシェーディング係数を補正するシェーディング係数補正部とを有し、色温度の影響による色の見えの差を補正することにより、高品質な画像を得ることを可能にする画像処理装置が提案されている。また、上記色温度推定部の一部として、環境光を検出する環境光センサが設けられている記載がある。
【0004】
特許文献2には、第1のカラー撮像素子と、被写界の色分布を検出する第2のカラー撮像素子と、第2のカラー撮像素子が検出した色分布に基づき被写界を照明する照明光の種類を判定する判定手段と、前記第1のカラー撮像素子が生成した画像に施すべき色シェーディング補正の補正量を前記判定手段が判定した照明光の種類に応じて設定する設定手段とを備え、色シェーディング補正の効果を高めることができるカラー撮像装置が提案されている。また、特許文献2には、領域ごとにシェーディング補正量を変えることが記載されている。
【0005】
特許文献3には、色シェーディングが目立つシーンを認識した後、色シェーディングが起きている部分に対して彩度を押さえることで、色シェーディングを目立たなくする手法が記載されている。
【先行技術文献】
【特許文献】
【0006】
【特許文献1】特開2010−147800号公報
【特許文献2】特開2009−88800号公報
【特許文献3】特開2008−153834号公報
【発明の概要】
【発明が解決しようとする課題】
【0007】
特許文献1に記載の色温度推定部の一部として環境光センサを設ける記載があるが、この環境光センサはカメラではない。即ち、イメージセンサとは別に環境光を検出するために専用に設けられたものであり、そのため部品点数の増加やコストアップになる。
【0008】
特許文献2に記載の第2のカラー撮像素子には、ハーフミラーで分離された被写体光が入射するため、第2のカラー撮像素子が検出した色分布に基づいて判定される照明光の種類は、撮影シーンと同じシーンから判定することになる。したがって、色温度推定精度が高くない。また、特許文献2に記載のカラー撮像装置は、携帯電話のカメラサイズには収まらない。
【0009】
ところで、色シェーディングで気になるのは、ホワイトボード、壁など扁平率が高い物体で、中心と周辺で色合いを容易に比較できるものが存在している場合である。また、色シェーディングは、環境光、物体の分光反射特性、撮影レンズ及び撮像素子等に依存するため、上記のような物体領域に生じる色シェーディングを、特許文献1、2に記載の手法により完全に補正することは難しい。
【0010】
一方、特許文献3に記載のように、色シェーディングが起きている部分に対して彩度を下げて色シェーディングを目立たなくする手法は、色シェーディング補正とは言えず、また、くすんだ色となる箇所が出てくるという問題がある。
【0011】
本発明はこのような事情に鑑みてなされたもので、新たなハードウエアの追加なしに環境光の色温度又は光源種の推定精度を上げることができ、これにより色シェーディング補正を良好に行うことができ、また、色シェーディングが目立たやすい箇所の色シェーディングを確実に補正することができる撮像装置及び画像処理方法を提供することを目的とする。
【課題を解決するための手段】
【0012】
前記目的を達成するために本発明の一の態様は、第1の撮像部と該第1の撮像部とは反対側に設けられた自分撮り用の第2の撮像部とを有する撮像装置において、前記第1の撮像部から取得したカラー画像に基づいて環境光の色温度又は光源種を推定する第1の推定手段と、前記第2の撮像部から取得したカラー画像に基づいて環境光の色温度又は光源種を推定する第2の推定手段と、前記第1の推定手段により推定した色温度又は光源種から第1の色シェーディング補正量を決定する第1のシェーディング補正量決定手段と、前記第2の推定手段により推定した色温度又は光源種から第2の色シェーディング補正量を決定する第2のシェーディング補正量決定手段と、前記決定した第1の色シェーディング補正量及び第2の色シェーディング補正量に基づいて前記第1の撮像部から取得したカラー画像に対して該カラー画像の色画素ごとに色シェーディング補正を行う色シェーディング補正手段と、を備えたことを特徴としている。
【0013】
本発明の一の態様によれば、通常の撮影時に使用される第1の撮像部とこの第1の撮像部とは反対側に設けられた自分撮り用の第2の撮像部とを併用し、前記第1の撮像部から取得したカラー画像又は第2の撮像部から取得したカラー画像に基づいて、それぞれ環境光の色温度又は光源種を推定できるようにしている。これにより、環境光の色温度又は光源種の推定精度を上げることができる。自分撮り用の第2の撮像部は、テレビ電話対応機能を有するカメラ付き携帯電話には予め設けられており、本発明では自分撮り用の第2の撮像部を環境光の色温度又は光源種を推定するためのカラー画像の取得手段として使用している。
【0014】
ところで、カメラ付き携帯電話で写す場面は、屋内で近くにあるものをローアングルで写すことが多い(自分撮り用の第2の撮像部側に光源がある可能性が高い)。そのため、ローアングル時に上方を向く第2の撮像部を環境光の色温度又は光源種を推定するためのカラー画像の取得手段として使用することが好ましい。
【0015】
一方、少し離れた被写体を撮る場合は、逆光にならないように撮ることが多い。その結果、光源は上方か撮影者の背面になることが多い。そのため、背面を写せる第2の撮像部を使用することが望ましい。
【0016】
本発明の他の態様に係る撮像装置において、前記色シェーディング補正手段により前記第1の色シェーディング補正量に基づいて色シェーディング補正されたカラー画像から一定の面積以上の平面物体を抽出し、該平面物体における色シェーディング量を検出する色シェーディング量解析手段を備え、前記色シェーディング補正手段は、前記色シェーディング量解析手段により一定値以上の色シェーディング量が検出されると、前記第2の色シェーディング補正量に基づいて色シェーディング補正を行うようにしている。
【0017】
色シェーディングは、一定の面積以上の平面物体上で目立ちやすく、また、その平面物体の画面中心側の領域と周辺側の領域との色合いを比較することにより容易に検知することができる。そこで、第1の撮像部から取得したカラー画像に基づく通常の色シェーディング補正を行い、その色シェーディング補正されたカラー画像から一定の面積以上の平面物体を抽出する。この平面物体上で一定値以上の色シェーディング量が検出された場合には、第1の色シェーディング補正量に基づく色シェーディング補正が十分でないと見なし、第2の撮像部から取得したカラー画像に基づく第2の色シェーディング補正量に基づく色シェーディング補正を行うようにしている。
【0018】
本発明の更に他の態様に係る撮像装置において、前記色シェーディング補正手段は、前記色シェーディング量解析手段により一定値以上の色シェーディング量が検出されると、前記抽出された平面物体の領域のみ前記第2の色シェーディング補正量に基づいてシェーディング補正を行うようにしている。これにより、色シェーディングが目立ちやすい平面物体の領域における色シェーディングを良好に補正することができる。
【0019】
本発明の更に他の態様に係る撮像装置において、前記色シェーディング補正手段により前記第1の色シェーディング補正量に基づいて色シェーディング補正されたカラー画像から一定の面積以上の平面物体を抽出し、該平面物体における色シェーディング量を検出する色シェーディング量解析手段と、前記色シェーディング量解析手段により一定値以上の色シェーディング量が検出されると、該色シェーディング量を低減させる第3のシェーディング補正量を決定する第3の色シェーディング補正量を決定する第3のシェーディング補正量決定手段と、を備え、前記色シェーディング補正手段は、前記色シェーディング量解析手段により一定値以上の色シェーディング量が検出されると、前記第3の色シェーディング補正量に基づいて色シェーディング補正を行うようにしている。これにより、平面物体の領域における色シェーディングを補正するための第3の色シェーディング補正量に基づいて色シェーディング補正を行うことができ、平面物体の領域における色シェーディングを良好に補正することができる。
【0020】
本発明の更に他の態様に係る撮像装置において、前記色シェーディング補正手段は、前記色シェーディング量解析手段により一定値以上の色シェーディング量が検出されると、前記抽出された平面物体の領域のみ前記第3の色シェーディング補正量に基づいてシェーディング補正を行うようにしている。
【0021】
本発明の更に他の態様は、第1の撮像部と該第1の撮像部とは反対側に設けられた自分撮り用の第2の撮像部とを有する撮像装置において、前記第2の撮像部から取得したカラー画像に基づいて環境光の色温度又は光源種を推定する第2の推定手段と、前記推定した色温度又は光源種から色シェーディング補正量を決定するシェーディング補正量決定手段と、前記決定した色シェーディング補正量に基づいて前記第1の撮像部から取得したカラー画像に対して該カラー画像の色画素ごとに色シェーディング補正を行う色シェーディング補正手段と、を備えたことを特徴としている。
【0022】
本発明の更に他の態様によれば、自分撮り用の第2の撮像部から取得したカラー画像に基づいて環境光の色温度又は光源種を推定し、環境光の色温度又は光源種の推定精度を上げるようにしている。
【0023】
本発明の更に他の態様に係る撮像装置において、前記第2の推定手段は、撮影準備期間中に前記第2の撮像部から取得した複数のカラー画像のうちの最も輝度の高いカラー画像に基づいて環境光の色温度又は光源種を推定するようにしている。撮影準備期間中に自分撮り用の第2の撮像部が上方を向く場合が考えられ、光源が写り込む可能性が高くなる。そこで、複数のカラー画像のうちの最も輝度の高いカラー画像(光源が写り込んでいる可能性が高いカラー画像)に基づいて環境光の色温度又は光源種を推定することにより、環境光の色温度又は光源種の推定精度を上げることができる。
【0024】
本発明の更に他の態様に係る撮像装置において、前記第2の推定手段は、前記第2の撮像部から取得したカラー画像から顔領域を抽出し、該顔領域の画像に基づいて環境光の色温度又は光源種を推定するようにしている。自分撮り用の第2の撮像部から取得したカラー画像には、撮影者の顔が大きく写り込んでいる可能性が高く、また、被写体(顔)の色も特定されているため、その顔領域の画像を使用することにより、環境光の色温度又は光源種を精度よく推定することができる。
【0025】
本発明の更に他の態様は、第1の撮像部と該第1の撮像部とは反対側に設けられた自分撮り用の第2の撮像部とを有する撮像装置における画像処理方法であって、前記第1の撮像部から取得したカラー画像に基づいて環境光の色温度又は光源種を推定する第1の推定工程と、前記第2の撮像部から取得したカラー画像に基づいて環境光の色温度又は光源種を推定する第2の推定工程と、前記第1の推定工程により推定した色温度又は光源種から第1の色シェーディング補正量を決定する第1のシェーディング補正量決定工程と、前記第2の推定工程により推定した色温度又は光源種から第2の色シェーディング補正量を決定する第2のシェーディング補正量決定工程と、前記決定した第1の色シェーディング補正量及び第2の色シェーディング補正量に基づいて前記第1の撮像部から取得したカラー画像に対して該カラー画像の色画素ごとに色シェーディング補正を行う色シェーディング補正工程と、を含むことを特徴としている。
【0026】
本発明の更に他の態様に係る画像処理方法において、前記色シェーディング補正工程は、前記第1の色シェーディング補正量に基づいて前記カラー画像の色シェーディング補正を行い、前記色シェーディング補正されたカラー画像から一定の面積以上の平面物体を抽出し、該平面物体における色シェーディング量を検出する色シェーディング量解析工程を含み、前記色シェーディング補正工程は、前記色シェーディング量解析工程により一定値以上の色シェーディング量が検出されたときのみ、前記第2の色シェーディング補正量に基づいて再度色シェーディング補正を行うようにしている。
【0027】
本発明の更に他の態様に係る画像処理方法において、前記色シェーディング補正工程は、前記色シェーディング量解析工程により一定値以上の色シェーディング量が検出されると、前記抽出された平面物体の領域のみ前記第2の色シェーディング補正量に基づいてシェーディング補正を行うようにしている。
【0028】
本発明の更に他の態様に係る画像処理方法において、前記色シェーディング補正工程は、前記第1の色シェーディング補正量に基づいて前記カラー画像の色シェーディング補正を行い、前記色シェーディング補正されたカラー画像から一定の面積以上の平面物体を抽出し、該平面物体における色シェーディング量を検出する色シェーディング量解析工程と、前記色シェーディング量解析工程により一定値以上の色シェーディング量が検出されると、該色シェーディング量を低減させる第3のシェーディング補正量を決定する第3の色シェーディング補正量を決定する第3のシェーディング補正量決定工程と、を含み、前記色シェーディング補正工程は、前記色シェーディング量解析工程により一定値以上の色シェーディング量が検出されたときのみ、前記第3の色シェーディング補正量に基づいて色シェーディング補正を行うようにしている。
【0029】
本発明の更に他の態様に係る画像処理方法において、前記色シェーディング補正工程は、前記色シェーディング量解析工程により一定値以上の色シェーディング量が検出されると、前記抽出された平面物体の領域のみ前記第3の色シェーディング補正量に基づいてシェーディング補正を行うようにしている。
【0030】
本発明の更に他の態様は、第1の撮像部と該第1の撮像部とは反対側に設けられた自分撮り用の第2の撮像部とを有する撮像装置における画像処理方法であって、前記第2の撮像部から取得したカラー画像に基づいて環境光の色温度又は光源種を推定する第2の推定工程と、前記推定した色温度又は光源種から色シェーディング補正量を決定するシェーディング補正量決定工程と、前記決定した色シェーディング補正量に基づいて前記第1の撮像部から取得したカラー画像に対して該カラー画像の色画素ごとに色シェーディング補正を行う色シェーディング補正工程と、を含むことを特徴としている。
【0031】
本発明の更に他の態様に係る画像処理方法において、前記第2の推定工程は、撮影準備期間中に前記第2の撮像部から取得した複数のカラー画像のうちの最も輝度の高いカラー画像に基づいて環境光の色温度又は光源種を推定することが好ましい。
【0032】
本発明の更に他の態様に係る画像処理方法において、前記第2の推定工程は、前記第2の撮像部から取得したカラー画像から顔領域を抽出し、該顔領域の画像に基づいて環境光の色温度又は光源種を推定するようにしている。
【発明の効果】
【0033】
本発明によれば、通常撮影時の撮像部(第1の撮像部)の他に、予め装置に設けられている自分撮り用の撮像部(第2の撮像部)から取得したカラー画像に基づいて環境光の色温度又は光源種を推定するようにしたため、新たなハードウエアの追加なしに環境光の色温度又は光源種の推定精度を上げることができ、これにより色シェーディング補正を良好に行うことができる。また、色シェーディングが目立つ一定の面積以上の平面物体を抽出し、この平面物体における色シェーディング量を検出して色シェーディング補正を行うようにしたため、色シェーディングが目立たやすい箇所の色シェーディングを確実に補正することができる。
【図面の簡単な説明】
【0034】
【図1】本発明に係る撮像装置が適用されたカメラ付き携帯電話の側面図
【図2】カメラ付き携帯電話に搭載された撮像装置の全体構成を示すブロック図
【図3】撮像部の内部構成を示すブロック図
【図4】本発明に係る画像処理方法の第1の実施形態の処理の流れを示すフローチャート
【図5】色シェーディングを有する平面物体を含む画像の一例を示す図
【図6】本発明に係る画像処理方法の第2の実施形態の処理の流れを示すフローチャート
【発明を実施するための形態】
【0035】
以下、添付図面に従って本発明に係る撮像装置及び画像処理方法の実施の形態について説明する。
【0036】
[撮像装置]
図1は本発明に係る撮像装置が適用されたカメラ付き携帯電話の側面図である。
【0037】
このカメラ付き携帯電話には、通常撮影用の撮像部1(第1の撮像部)と、撮像部1とは反対側に設けられた自分撮り用の撮像部2(第2の撮像部)とが設けられている。通常、これらの撮像部1、2は、いずれか一方のみが選択され、撮像部2と同じ側に設けられた表示部30に撮影画像を表示させることができるようになっている。尚、図1上で、Aは、撮像部1で撮影された画像を示し、Bは、撮像部2で撮影された画像を示している。
【0038】
図2は上記カメラ付き携帯電話に搭載された撮像装置10の全体構成を示すブロック図である。
【0039】
同図に示すように撮像装置10は、2つの撮像部1、2を備えている。これらの撮像部1、2は、操作部14での操作によりいずれか一方が選択使用できるようになっている。撮像部1により撮影された画像は、表示部30に表示させることができるとともに、メモリカード等の外部記録部28(又は図示しない内部記録部)に記録することができる。また、撮像部2は、自分撮り用のカメラで、Webカメラとして使用することができる。尚、本発明では、撮像部1を選択使用する場合には、後述するように撮像部2も動作させるようにしている。
【0040】
中央処理装置(CPU12)には、制御バス16を介して撮像部1、2が接続されるとともに、メインメモリ20、画像処理部22、積算部24、圧縮伸張処理部26、外部記録部28、及び表示部30が接続されており、CPU12は、操作部14からの操作入力に基づき所定の制御プログラムに従って撮像装置10全体の動作を統括制御する制御手段として機能する。
【0041】
また、撮像部1、2、メインメモリ20、画像処理部22、積算部24、圧縮伸張処理部26、外部記録部28、及び表示部30は、それぞれデータバス38を介して接続されている。
【0042】
撮像部1、2は、それぞれ撮像モジュールとして構成されており、図3に撮像部1の内部構成を示す。
【0043】
図3に示すように撮像部1は、主として撮影レンズ40、絞り41、IRカットフィルタ42、光学ローパスフィルタ43、撮像素子(CMOS又はCCDイメージセンサ)44、A/D変換器45、レンズ駆動部46、絞り駆動部47、及び撮像素子駆動部48から構成されている。
【0044】
撮影レンズ40は、フォーカスレンズを含み、レンズ駆動部46に駆動されて光軸に沿って前後に移動する。CPU12は、レンズ駆動部46の駆動を制御することにより、フォーカスレンズの位置を制御して被写体に焦点が合うように焦点調節を行う。
【0045】
絞り41は、例えば、アイリス絞りで構成されており、絞り駆動部47に駆動されて動作する。CPU12は、絞り駆動部47を介して絞り41の開口量(絞り値)を制御し、撮像素子44への入射光量を制御する。
【0046】
撮像素子44は、2次元のカラー撮像素子により構成されている。撮像素子44の受光面には、多数のフォトダイオードが2次元的に配列されており、各フォトダイオードには所定の配列(ベイヤ配列など)でRGBのカラーフィルタが配置されている。撮影レンズ40、絞り、IRカットフィルタ42、及び光学ローパスフィルタ43を介して撮像素子受光面上に結像された被写体の光学像は、このフォトダイオードによって入射光量に応じた信号電荷に変換される。各フォトダイオードに蓄積された信号電荷は、CPU12の指令に従って撮像素子駆動部48から与えられる駆動パルスに基づいて信号電荷に応じた電圧信号(画像信号)として撮像素子44から順次読み出される。撮像素子44は、電子シャッタ機能を備えており、フォトダイオードへの電荷蓄積時間を制御することにより、露光時間(シャッタ速度)が制御される。
【0047】
撮像素子44から読み出された画像信号は、A/D変換器45によりデジタル信号に変換された後、データバス38を介して一旦、メインメモリ20に格納される。
【0048】
撮像部2は、撮像部1と同一構成のものを使用してもよいが、一般には撮像部1よりも画素数の小さいカラー撮像素子が使用され、また撮影レンズも焦点調節機能がないものが使用される。これは、撮像部2は自分撮り用に使用されるため、被写体及び撮影距離が固定されているからである。
【0049】
CPU12は、撮像部1による撮影が選択されている場合には、撮像部1とともに撮像部2を同時に駆動させる。
【0050】
操作部14は、シャッタボタン、十字ボタン、決定キー、テンキー等の公知の操作入力手段を含んでいる。シャッタボタンは、いわゆる「半押し」と「全押し」とからなる2段ストローク式のスイッチで構成されている。撮影モード時には、シャッタボタンが半押しされると、撮影準備処理(即ち、AE(Automatic Exposure:自動露出)、AF(Auto Focus:自動焦点合わせ)、AWB(Automatic White Balance:自動ホワイトバランス))が行われ、シャッタボタンが全押しされると、画像の撮影・記録処理が行われる。
【0051】
メインメモリ20は、CPU12によるプログラムの実行時におけるワークエリアとして、また、撮像部1、2により撮像され取得されたデジタル画像信号を一時保持する記憶手段として使用される。
【0052】
画像処理部22は、色シェーディング補正部、ノイズ抑制部、ホワイトバランス処理部、デモザイク処理部、リニア・マトリックス部、ガンマ補正部、輪郭補正部等を含むデジタル信号処理部として機能し、メインメモリ20に格納されたR、G、Bの画像データに対して所定の信号処理を行う。尚、画像処理部22の詳細な動作については後述する。
【0053】
積算部24は、シャッタボタンの半押し時に取り込まれる画像信号に基づいてAF制御に必要な焦点評価値を算出したり、AE制御に必要な被写体輝度、色シェーディング補正、ホワイトバランス補正に必要なRGBの色信号ごとの積算値を算出する。CPU12は、AF制御時には積算部24により算出される焦点評価値が極大となる位置をサーチし、その位置にフォーカスレンズを移動させることにより、被写体(主要被写体)への焦点合わせを行い、AE制御時には積算部24により算出された被写体輝度に基づいて適正な露光量を得るための露出設定を行う。即ち、撮影感度、絞り値、シャッタ速度を設定する。
【0054】
圧縮伸張処理部26は、CPU12からの指令に従い、入力された画像データに圧縮処理を施し、所定形式の圧縮画像データを生成する。例えば、静止画に対してはJPEG規格に準拠した圧縮処理が施され、動画に対してはMPEG2やMPEG4、H.264規格に準拠した圧縮処理が施される。また、圧縮伸張処理部26は、CPU12からの指令に従い、入力された圧縮画像データに伸張処理を施し、非圧縮の画像データを生成する。
【0055】
外部記録部28は、上記圧縮伸張処理部26により生成されたJPEG形式等の画像データを格納した画像ファイルを作成し、メモリカード等の着脱自在な外部記録媒体に記録し、又は外部記録媒体から画像ファイルの読み出しを行う。
【0056】
表示部30は、例えば、カラー液晶パネルを備えた表示装置により構成され、カメラ付き携帯電話をカメラとして使用する場合には、画角を確認するための電子ファインダとして使用されるとともに、撮影済み画像を表示するための画像表示部、各種設定用のGUIとして使用される。
【0057】
[画像処理方法]
<第1の実施形態>
図4は本発明に係る画像処理方法の第1の実施形態の処理の流れを示すフローチャートであり、特に撮像部1により撮影された静止画を画像処理する場合に関して示している。
【0058】
撮像部1、2によりそれぞれ撮影されたカラーフィルタに対応したRGBのモザイク画像は、メインメモリ20に一時保持される。
【0059】
図4において、画像処理部22のシェーディング補正部は、撮像部1により撮影されたモザイク画像をメインメモリ20から読み出し、モザイク画像に対して色シェーディング補正を行う(ステップS10)。この色シェーディング補正は、モザイク画像のR、G、B信号がオフセット補正された後に行うことが好ましい。
【0060】
シェーディング補正部は、モザイク画像から環境光の色温度を算出する。まず、モザイク画像のR、G、B信号を用いて、1画面が16×16に分割された256個の分割エリアごとにRGB信号の色別の平均積算値を算出し、分割エリアごとにR、G、Bの平均積算値の比、即ち、R/G及びB/Gの比からなる色情報を算出する。そして、256個の分割エリアごとの色情報の、R/G、B/G軸座標の色空間上の分布の重心位置を算出し、その重心位置が示す色情報から環境光の色温度を推定する。尚、色温度の替わりに、その重心位置が示す色情報を有する光源種、例えば、青空、日陰、晴れ、蛍光灯(昼光色、昼白色、白色、温白色)、タングステン、低タングステン等を求めることで撮影時の光源種を推定してもよいし(特開2007−53499参照)、推定した光源種から色温度を推定してもよい。
【0061】
続いて、シェーディング補正部は、推定した環境光の色温度に基づいて、RGBごとの色シェーディング補正係数を決定する。例えば、色シェーディング補正量は、画面中心を基準にして上下左右対称のシェーディング補正特性を前提にし、次式に示すように画面中心からの距離xを変数とする、多項式で表すことができる。
【0062】
[数1]
色シェーディング補正量=ax+bx+cx+d
色シェーディング補正係数は、上記[数1]式における係数(a,b,c,d)を意味しており、環境光の色温度(又は光源種)に応じた、RGBごとの色シェーディング補正係数(a〜d)が、予め撮像部1に対して用意され、図示しない不揮発性メモリに記憶されている。
【0063】
シェーディング補正部は、推定した環境光の色温度に対応してRGBごとの色シェーディング補正係数を読み出し、補正対象画素の位置及び色に基づいて色シェーディング補正量を、[数1]式から算出し、この算出した色シェーディング補正量により色シェーディング補正を行う。尚、[数1]式に示す関数から色シェーディング補正量を算出する場合に限らず、予め画面分割した区画ごとに色シェーディング補正量を決定しておき、区画間の画素に関しては補間値を使用してもよい。
【0064】
モザイク画像の全ての画素に対して色シェーディング補正が行われると、続いてノイズ抑制部によりノイズ低減フィルタをかけることによりノイズを抑制する(ステップS12)。次に、ホワイトバランス処理部によりノイズ抑制された画像に対してホワイトバランス補正を行う(ステップS14)。即ち、予め環境光の色温度に対応して適正なホワイトバランス補正を行うためのRGBごと、又はRBごとのWBゲインが用意されており、ホワイトバランス処理部は、撮影時の環境光の色温度に基づいて対応するRGBごと、又はRBごとのWBゲインを読み出し、この読み出したWBゲインによりホワイトバランス補正を行う。
【0065】
次に、色シェーディング量解析部により上記ホワイトバランス処理後の画像の色シェーディング量を解析する(ステップS16)。色シェーディング量の解析は、まず、ホワイトバランス処理後の画像から色シェーディングが目立つ領域(例えば、ホワイトボード、壁などのように扁平率が高い平面物体で、かつ一定の面積以上を有する領域)を抽出する。このような平面物体は、画像を2値化して画像の輪郭線を求め、輪郭線により区分される領域の面積、領域内の輝度差及び色差等に基づいて抽出することができる。
【0066】
図5は色シェーディングを有する平面物体の領域Xを含む画像の一例を示す図である。続いて、抽出した平面物体の領域Xの色シェーディング量を求める。平面物体の領域Xの色シェーディング量は、平面物体の領域Xの内で最も画面中心に近い領域の色比(R/G,B/G)と、最も画面中心から遠い領域の色比(R/G,B/G)との比、又は差分から求める。これは、図5に示すように色シェーディングは、画面中心から周辺に向かって色が少しずつ変化するからである。
【0067】
上記のようにして求めた色シェーディング量が小さいと判断した場合は、ステップS10での色シェーディング補正が適正になされたものと判断し、そのまま通常の画像処理を行う。即ち、ホワイトバランス処理後のモザイク画像を、単板撮像素子のカラーフィルタ配列に伴う色信号の空間的なズレを補間して色信号を同時式に変換するデモザイク処理(ステップS18)、色補正係数行列によるリニア・マトリックス処理(ステップS20)、所要の階調特性(ガンマカーブ)となるように階調変換するガンマ補正(ステップS22)、及び輪郭強調処理を行う輪郭補正(ステップS24)等の画像処理が行われる。
【0068】
一方、色シェーディング量が大きいと判断した場合には、ステップS32に遷移させ、色シェーディング補正係数の修正を行わせる。
【0069】
即ち、自分撮り用の撮像部2が撮影したカラー画像に基づいて光源種を推定し、推定した光源種から色温度を推定する(ステップS30)。ステップS30での光源種の推定方法は、ステップS10での処理で説明した方法に限らず、以下の方法を適用してもよい。
【0070】
(1) 図1に示すように撮像部2により撮影される画像Bには、撮像部1の被写体を照明している光源が写っている可能性が高い。そこで、撮像部2で撮影された画像B内で輝度が非常に高い領域を光源が写っている領域と考え、その領域の画像のRGBの信号の強度比からその光源が何かを推定する。尚、光源の輝度が高すぎる場合は、拡散板や、減光板を使い光源の輝度を落としても良い。
【0071】
また、構図を決めてピントを合わせる前の5〜10秒(撮影準備期間)に撮像部2が光源を撮影する場合が考えられる。そこで、撮像部2により撮影準備期間中に連続的に撮影した画像のうちの最も輝度の高い画像を使用して光源種を推定することが好ましい。
【0072】
(2) 自分撮り用の撮像部2により撮影される画像Bには、撮影者の顔が大きく写り込んでいる。そこで、撮像部2で撮影された画像Bから顔領域を抽出し、抽出した顔領域の色から光源種を推定する。
【0073】
上記のようにして推定した光源種の色温度に基づいて色シェーディング補正係数を決定し、決定した色シェーディング補正係数を、ステップS10での色シェーディング補正量の算出に適用させる(ステップS32)。ステップS10では、前述した[数1]式に基づいて改めて色シェーディング補正量を算出し、算出した色シェーディング補正量により色シェーディング補正を行う。
【0074】
尚、ステップS10で改めて色シェーディング補正を行う場合に限らず、図4の点線で示すフローラインのようにホワイトバランス処理後の画像に対して色シェーディング補正を行うようにしてもよい。この場合、ステップS10での色シェーディング補正量と、ステップS32で求めた色シェーディング補正係数から算出される色シェーディング補正量との差分だけ色シェーディング補正を施す。
【0075】
色シェーディング補正は、ステップS10のシェーディング補正部にて色シェーディング補正量(Gain)をRGBの色ごとに変えて行う方法以外に、ホワイトバランス処理を終えた画像に対して、B画素、R画素のシェーディング量を変える方法がある。どちらの方法も、画面全体に対して色シェーディング補正を施す方法が一般的であるが、平面領域が近距離と遠距離の2つある場合、色シェーディングの残り方に斑が出ることもある。そこで、色シェーディングが目立つ部位(一定の面積以上の平面物体)のみを抽出し、その部分だけ色シェーディング補正をかけても良い。この方法では、複数の光源種がある場合にも使用可能である。
【0076】
色シェーディング補正が加えられた画像は、色シェーディング量の解析部で閾値以下になるか、これまでの処理の中で最も色シェーディングが少なくなったと判断されると、その後、通常の画像処理が施され出力される。
【0077】
また、図5に示したように平面物体の領域Xの色シェーディング補正する場合、その領域Xの中心に近い部分の色に周辺部の色が合うように色シェーディング補正量を決定する。具体的には、平面物体の領域Xの中心部の色比(R/G,B/G)に周辺部の色比(R/G,B/G)が一致するようにR、B画素に対する色シェーディング補正量をそれぞれ求め、求めた色シェーディング補正量をR、B画素にかけて平面物体の領域が均一の色になるように色シェーディング補正を行う。この場合、前記求めた色シェーディング補正量を画面全体のR、B画素にかけてもよいし、抽出した平面物体の領域のR、B画素のみにかけてもよい。
【0078】
尚、色のグラデーションがある平面物体と区別するために、中心部と周辺部の色シェーディング量は、0.975〜1.025程度とする。色のグラデーションがある平面物体を色シェーディング補正により補正しないようにするためである。
【0079】
<第2の実施形態>
図6は本発明に係る画像処理方法の第2の実施形態の処理の流れを示すフローチャートであり、特に撮像部1により撮影された静止画を画像処理する場合に関して示している。尚、図4に示した第1実施形態と共通する部分には同一のステップ番号を付し、その詳細な説明は省略する。
【0080】
図6にステップS10’におけるシェーディング補正部は、撮像部1により撮影されたモザイク画像をメインメモリ20から読み出すとともに、ステップS32により算出された色シェーディング補正係数を取得する。そして、モザイク画像に対して前記色シェーディング補正係数に対応して算出した色シェーディング補正量により色シェーディング補正を行う。
【0081】
色シェーディング補正後のモザイク画像は、その後、ステップS12〜ステップS24により画像処理が施されて出力される。
【0082】
尚、第1の実施形態と同様にホワイトバランス処理後の画像から色シェーディングが目立つ平面物体の領域を抽出し、この抽出した平面物体の領域が均一の色になるように色シェーディング補正を行うようにしてもよい。また、ホワイトバランス処理時に、自分撮り用の撮像部から取得したカラー画像に基づいて環境光の色温度又は光源種を推定し、その推定結果を使用してもよい。
【0083】
更に、本発明は上述した実施の形態に限定されず、本発明の精神を逸脱しない範囲で種々の変形が可能であることは言うまでもない。
【符号の説明】
【0084】
1、2…撮像部、10…撮像装置、12…中央処理部(CPU)、14…操作部、20…メインメモリ、22…画像処理部、24…積算部、30…表示部

【特許請求の範囲】
【請求項1】
第1の撮像部と該第1の撮像部とは反対側に設けられた自分撮り用の第2の撮像部とを有する撮像装置において、
前記第1の撮像部から取得したカラー画像に基づいて環境光の色温度又は光源種を推定する第1の推定手段と、
前記第2の撮像部から取得したカラー画像に基づいて環境光の色温度又は光源種を推定する第2の推定手段と、
前記第1の推定手段により推定した色温度又は光源種から第1の色シェーディング補正量を決定する第1のシェーディング補正量決定手段と、
前記第2の推定手段により推定した色温度又は光源種から第2の色シェーディング補正量を決定する第2のシェーディング補正量決定手段と、
前記決定した第1の色シェーディング補正量及び第2の色シェーディング補正量に基づいて前記第1の撮像部から取得したカラー画像に対して該カラー画像の色画素ごとに色シェーディング補正を行う色シェーディング補正手段と、
を備えたことを特徴とする撮像装置。
【請求項2】
前記色シェーディング補正手段により前記第1の色シェーディング補正量に基づいて色シェーディング補正されたカラー画像から一定の面積以上の平面物体を抽出し、該平面物体における色シェーディング量を検出する色シェーディング量解析手段を備え、
前記色シェーディング補正手段は、前記色シェーディング量解析手段により一定値以上の色シェーディング量が検出されると、前記第2の色シェーディング補正量に基づいて色シェーディング補正を行う請求項1に記載の撮像装置。
【請求項3】
前記色シェーディング補正手段は、前記色シェーディング量解析手段により一定値以上の色シェーディング量が検出されると、前記抽出された平面物体の領域のみ前記第2の色シェーディング補正量に基づいてシェーディング補正を行う請求項2に記載の撮像装置。
【請求項4】
前記色シェーディング補正手段により前記第1の色シェーディング補正量に基づいて色シェーディング補正されたカラー画像から一定の面積以上の平面物体を抽出し、該平面物体における色シェーディング量を検出する色シェーディング量解析手段と、
前記色シェーディング量解析手段により一定値以上の色シェーディング量が検出されると、該色シェーディング量を低減させる第3のシェーディング補正量を決定する第3の色シェーディング補正量を決定する第3のシェーディング補正量決定手段と、を備え、
前記色シェーディング補正手段は、前記色シェーディング量解析手段により一定値以上の色シェーディング量が検出されると、前記第3の色シェーディング補正量に基づいて色シェーディング補正を行う請求項1から3のいずれか1項に記載の撮像装置。
【請求項5】
前記色シェーディング補正手段は、前記色シェーディング量解析手段により一定値以上の色シェーディング量が検出されると、前記抽出された平面物体の領域のみ前記第3の色シェーディング補正量に基づいてシェーディング補正を行う請求項4に記載の撮像装置。
【請求項6】
第1の撮像部と該第1の撮像部とは反対側に設けられた自分撮り用の第2の撮像部とを有する撮像装置において、
前記第2の撮像部から取得したカラー画像に基づいて環境光の色温度又は光源種を推定する第2の推定手段と、
前記推定した色温度又は光源種から色シェーディング補正量を決定するシェーディング補正量決定手段と、
前記決定した色シェーディング補正量に基づいて前記第1の撮像部から取得したカラー画像に対して該カラー画像の色画素ごとに色シェーディング補正を行う色シェーディング補正手段と、
を備えたことを特徴とする撮像装置。
【請求項7】
前記第2の推定手段は、撮影準備期間中に前記第2の撮像部から取得した複数のカラー画像のうちの最も輝度の高いカラー画像に基づいて環境光の色温度又は光源種を推定する請求項1から6のいずれか1項に記載の撮像装置。
【請求項8】
前記第2の推定手段は、前記第2の撮像部から取得したカラー画像から顔領域を抽出し、該顔領域の画像に基づいて環境光の色温度又は光源種を推定する請求項1から6のいずれか1項に記載の撮像装置。
【請求項9】
第1の撮像部と該第1の撮像部とは反対側に設けられた自分撮り用の第2の撮像部とを有する撮像装置における画像処理方法であって、
前記第1の撮像部から取得したカラー画像に基づいて環境光の色温度又は光源種を推定する第1の推定工程と、
前記第2の撮像部から取得したカラー画像に基づいて環境光の色温度又は光源種を推定する第2の推定工程と、
前記第1の推定工程により推定した色温度又は光源種から第1の色シェーディング補正量を決定する第1のシェーディング補正量決定工程と、
前記第2の推定工程により推定した色温度又は光源種から第2の色シェーディング補正量を決定する第2のシェーディング補正量決定工程と、
前記決定した第1の色シェーディング補正量及び第2の色シェーディング補正量に基づいて前記第1の撮像部から取得したカラー画像に対して該カラー画像の色画素ごとに色シェーディング補正を行う色シェーディング補正工程と、
を含むことを特徴とする画像処理方法。
【請求項10】
前記色シェーディング補正工程は、前記第1の色シェーディング補正量に基づいて前記カラー画像の色シェーディング補正を行い、
前記色シェーディング補正されたカラー画像から一定の面積以上の平面物体を抽出し、該平面物体における色シェーディング量を検出する色シェーディング量解析工程を含み、
前記色シェーディング補正工程は、前記色シェーディング量解析工程により一定値以上の色シェーディング量が検出されたときのみ、前記第2の色シェーディング補正量に基づいて再度色シェーディング補正を行う請求項9に記載の画像処理方法。
【請求項11】
前記色シェーディング補正工程は、前記色シェーディング量解析工程により一定値以上の色シェーディング量が検出されると、前記抽出された平面物体の領域のみ前記第2の色シェーディング補正量に基づいてシェーディング補正を行う請求項10に記載の画像処理方法。
【請求項12】
前記色シェーディング補正工程は、前記第1の色シェーディング補正量に基づいて前記カラー画像の色シェーディング補正を行い、
前記色シェーディング補正されたカラー画像から一定の面積以上の平面物体を抽出し、該平面物体における色シェーディング量を検出する色シェーディング量解析工程と、
前記色シェーディング量解析工程により一定値以上の色シェーディング量が検出されると、該色シェーディング量を低減させる第3のシェーディング補正量を決定する第3の色シェーディング補正量を決定する第3のシェーディング補正量決定工程と、を含み、
前記色シェーディング補正工程は、前記色シェーディング量解析工程により一定値以上の色シェーディング量が検出されたときのみ、前記第3の色シェーディング補正量に基づいて色シェーディング補正を行う請求項9から11のいずれか1項に記載の画像処理方法。
【請求項13】
前記色シェーディング補正工程は、前記色シェーディング量解析工程により一定値以上の色シェーディング量が検出されると、前記抽出された平面物体の領域のみ前記第3の色シェーディング補正量に基づいてシェーディング補正を行う請求項12に記載の画像処理方法。
【請求項14】
第1の撮像部と該第1の撮像部とは反対側に設けられた自分撮り用の第2の撮像部とを有する撮像装置における画像処理方法であって、
前記第2の撮像部から取得したカラー画像に基づいて環境光の色温度又は光源種を推定する第2の推定工程と、
前記推定した色温度又は光源種から色シェーディング補正量を決定するシェーディング補正量決定工程と、
前記決定した色シェーディング補正量に基づいて前記第1の撮像部から取得したカラー画像に対して該カラー画像の色画素ごとに色シェーディング補正を行う色シェーディング補正工程と、
を含むことを特徴とする画像処理方法。
【請求項15】
前記第2の推定工程は、撮影準備期間中に前記第2の撮像部から取得した複数のカラー画像のうちの最も輝度の高いカラー画像に基づいて環境光の色温度又は光源種を推定する請求項9ら14のいずれか1項に記載の画像処理方法。
【請求項16】
前記第2の推定工程は、前記第2の撮像部から取得したカラー画像から顔領域を抽出し、該顔領域の画像に基づいて環境光の色温度又は光源種を推定する請求項9から14のいずれか1項に記載の画像処理方法。

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図1】
image rotate

【図5】
image rotate

【図6】
image rotate