説明

撮像装置、画像処理装置、画像処理方法及び画像処理プログラム

【課題】既存の自動露出制御、撮像素子の動作点変更、リニア画像からノンリニア画像への階調処理条件の変更を行うことなく、主要被写体(例えば、人物顔領域)の明るさをユーザの好みに合わせて最適化する。
【解決手段】撮像装置1は、撮影によって形成されたリニア画像を取得し(S4、S12)、リニア画像に基づいて撮影シーンの判別処理を行い(S14)、操作入力に基づく補正処理条件を取得し(S15)、シーン判別結果及び補正処理条件に基づいて、リニア画像に対する明るさ調整の第1の階調処理条件、硬さ、輝度の幅調整の第2の階調処理条件を設定し(S16)、第1の階調処理条件に基づきリニア画像に対する階調変換処理を行い(S7)、リニア画像をノンリニア画像に変換する階調変換処理を行い(S8)、第2の階調処理条件に基づきノンリニア画像に対する階調変換処理を行う(S9)。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、撮影画像に対する画像処理を行う撮像装置、画像処理装置、画像処理方法及び画像処理プログラムに関する。
【背景技術】
【0002】
デジタルカメラで取得された撮影画像データからプリントを作成する際、主要被写体(例えば、人物顔領域)の明るさが適正に仕上がるように、撮影画像データの明るさを調整することが行われている。このような明るさ調整方法において、撮影画像データの主要被写体を解析して得られた情報に基づいて、その撮影画像データの明るさを自動的に最適化するための補正量及び階調変換LUTの設定方法が知られている(例えば、特許文献1参照)。
【特許文献1】特開2002−247393号公報
【発明の開示】
【発明が解決しようとする課題】
【0003】
しかしながら、通常のデジタルカメラで取得されるJPEG等の撮影画像データは、被写体の輝度値を記録した画像データ(以下、「リニア画像」と称す)から、モニタなどの表示媒体上での鑑賞に最適となる画像データ(以下、「ノンリニア画像」と称す)へと階調変換処理が施されたものであるため、撮影直後の「リニア画像」に比べ、情報量(S/N)がかなり低下した状態にある。このため、逆光やオーバー撮影シーンのような輝度範囲の大きいシーンでは、補正量を大きくする程、情報量(S/N)の低下、明部、暗部および高彩度部の飽和などの画質劣化が深刻化するため、補正量を大幅に制限せざるを得ないという問題があった。
【0004】
この問題を解決するために、撮像素子のダイナミックレンジの範囲内に納まる被写体の輝度範囲を規定する、撮像素子の動作点を変更するようにしたデジタルカメラが知られている。具体的には、デジタルカメラの露出をアンダー側にずらす、即ち露出制御の基礎となる撮像素子の設定感度を高くすることにより、標準輝度部分に対する撮像素子の出力値を低下させ、撮影可能範囲を拡大させるというものである。このアンダー撮影した「リニア画像」から、適正露出の「ノンリニア画像」へと階調変換処理を施す手法によって、輝度範囲の大きいシーンに対して高い補正量を適用したときに生じる「白とび」などの問題が、ある程度緩和される改善効果が得られている。
【0005】
一方、通常のデジタルカメラでは、搭載可能なCPU(Central Processing Unit)性能、高速処理、操作性などに対する要求から、自動露出制御アルゴリズムや、記憶媒体へ記録する前の画像処理をより複雑なものとすることができず、この対策として、「リニア画像」を、所謂「Rawデータ」として記録し、所謂「現像ソフト」を用いて「Rawデータ」から「ノンリニア画像」へと変換する、ユーザ自身による作業を前提とした手段を提供している。しかしながら、「現像ソフト」の利用及び画像データの管理にはかなり煩雑な操作を伴うため、誰もが簡単に利用できるものであるとは言い難く、デジタルカメラの更なる性能向上が望まれている。また、明るさをユーザの好みに合わせて最適化する要請がある。
【0006】
本発明の課題は、既存の自動露出制御、撮像素子の動作点変更、リニア画像からノンリニア画像への階調処理条件の変更を行うことなく、主要被写体(例えば、人物顔領域)の明るさをユーザの好みに合わせて最適化することである。
【課題を解決するための手段】
【0007】
上記課題を解決するため、請求項1に記載の撮像装置は、被写体を撮影する撮影手段と、
前記撮影手段による撮影によって形成されたリニア画像を取得する画像取得手段と、
前記リニア画像に基づいて撮影シーンの判別処理を行うシーン判別処理手段と、
操作入力に基づいて補正処理条件を設定する補正処理条件設定手段と、
前記シーン判別処理手段による判別結果、および前記設定された補正処理条件に基づいて、前記リニア画像に対する明るさを調整するための第1の階調処理条件を設定する階調処理条件設定手段と、
前記階調処理条件設定手段により設定された第1の階調処理条件に基づいて、前記リニア画像に対する階調変換処理を行う第1の階調変換処理手段と、
前記階調変換処理が適用されたリニア画像をノンリニア画像に変換する階調変換処理を行う第2の階調変換処理手段と、
を備えることを特徴としている。
【0008】
請求項2に記載の発明は、請求項1に記載の撮像装置において、前記階調処理条件設定手段は、前記シーン判別処理手段による判別結果、および前記設定された補正処理条件の少なくとも一つに基づいて、撮影シーンの硬さ及び輝度分布の幅の少なくとも一つを調整するための第2の階調処理条件を設定し、
前記階調処理条件設定手段により設定された第2の階調処理条件に基づいて、前記リニア画像又は前記ノンリニア画像に対する階調変換処理を行う第3の階調変換処理手段を備えることを特徴としている。
【0009】
請求項3に記載の発明は、請求項1又は2に記載の撮像装置において、前記画像取得手段は、前記リニア画像から、画像サイズを縮小したリニア画像を取得し、
前記シーン判別処理手段は、前記画像サイズを縮小したリニア画像を用いて撮影シーンの判別処理を行うことを特徴としている。
【0010】
請求項4に記載の発明は、請求項1〜3の何れか一項に記載の撮像装置において、前記リニア画像の撮影時に算出される輝度情報を取得する輝度情報取得手段を備え、
前記シーン判別処理手段は、前記輝度情報取得手段により取得された輝度情報に基づいて撮影シーンの判別処理を行い、前記階調処理条件設定手段は、前記輝度情報取得手段により取得された輝度情報に基づいて階調処理条件を設定することを特徴としている。
【0011】
請求項5に記載の発明は、請求項1〜4の何れか一項に記載の撮像装置において、前記シーン判別処理手段は、前記リニア画像の自然光による屋外撮影度を表す自然光指標と、ダイナミックレンジの大きさを表す輝度比指標と、撮影時の露出設定に起因する露出撮影度指標とを算出し、前記算出された各指標に基づいて撮影シーンを判別することを特徴としている。
【0012】
請求項6に記載の発明は、請求項5に記載の撮像装置において、前記シーン判別処理手段は、前記リニア画像について色情報を取得し、当該取得された色情報に基づいて、前記リニア画像の画像データを所定の明度と色相の組み合わせからなる階級に分類し、当該分類された階級毎に、前記画像データ全体に占める割合を示す第1の占有率を算出する第1の占有率算出手段と、
前記取得された色情報に基づいて、前記画像データを画面の外縁からの距離と明度の組み合わせからなる階級に分類し、当該分類された階級毎に、前記画像データ全体に占める割合を示す第2の占有率を算出する第2の占有率算出手段と、
前記第1の占有率に、撮影条件に応じて予め設定された第1の係数を乗算することにより、指標1を算出する第1の指標算出手段と、
前記第1の占有率に、撮影条件に応じて予め設定された第2の係数を乗算することにより、指標2を算出する第2の指標算出手段と、
前記第2の占有率に、撮影条件に応じて予め設定された第3の係数を乗算することにより、指標3を算出する第3の指標算出手段と、
少なくとも前記画像データの画面中央部における肌色の平均輝度に、撮影条件に応じて予め設定された第4の係数を乗算することにより、前記露出撮影度を算出する第4の指標算出手段と、
前記指標1、前記指標2、前記指標3のうち少なくとも一つ以上の指標と、前記輝度情報に、撮影条件に応じて予め設定された第5の係数を乗算することにより、前記自然光指標を算出する第5の指標算出手段と、
前記指標1、前記指標2、前記指標3のうち少なくとも一つ以上の指標と、前記輝度情報に、撮影条件に応じて予め設定された第6の係数を乗算することにより、前記輝度比指標を算出する第6の指標算出手段と、
前記露出撮影度、前記自然光指標及び前記輝度比指標に基づいて、前記画像データの撮影シーンを判別するシーン判別手段と、を備えることを特徴としている。
【0013】
請求項7に記載の発明は、請求項5又は6に記載の撮像装置において、前記階調処理条件設定手段は、前記リニア画像の明るさ解析値と、明るさの再現目標値と、前記輝度比指標及び前記露出撮影度に基づいて、当該リニア画像に対する複数の第1仮補正量を設定する第1仮補正量設定手段と、
前記自然光指標に基づいて、前記複数の第1仮補正量の各々に乗算する重み係数としての第1混合係数を設定する第1混合係数設定手段と、
前記第1混合係数設定手段により設定された第1混合係数と、前記複数の第1仮補正量に基づいて、前記リニア画像に対する第2仮補正量を設定する第2仮補正量設定手段と、
前記露出撮影度、前記自然光指標及び前記輝度比指標に基づいて、前記複数の第1仮補正量のうち少なくとも1つと、前記第2仮補正量に乗算する重み係数としての第2混合係数を設定する第2混合係数設定手段と、
前記第2混合係数により設定された第2混合係数と、前記少なくとも1つの第1仮補正量と、前記第2仮補正量に基づいて、階調調整パラメータを算出する階調調整パラメータ算出手段と、を備え、
前記シーン判別処理手段による判別結果と、前記階調調整パラメータ算出手段により算出された階調調整パラメータと、前記設定された補正処理条件とに基づいて、前記リニア画像に対する第1の階調処理条件を設定することを特徴としている。
【0014】
請求項8に記載の画像処理装置は、撮影によって形成されたリニア画像を取得する画像取得手段と、
前記リニア画像に基づいて撮影シーンの判別処理を行うシーン判別処理手段と、
操作入力に基づいて補正処理条件を設定する補正処理条件設定手段と、
前記シーン判別処理手段による判別結果、および前記設定された補正処理条件に基づいて、前記リニア画像に対する明るさを調整するための第1の階調処理条件を設定する階調処理条件設定手段と、
前記階調処理条件設定手段により設定された第1の階調処理条件に基づいて、前記リニア画像に対する階調変換処理を行う第1の階調変換処理手段と、
前記階調変換処理が適用されたリニア画像をノンリニア画像に変換する階調変換処理を行う第2の階調変換処理手段と、
を備えることを特徴としている。
【0015】
請求項9に記載の発明は、請求項8に記載の画像処理装置において、前記階調処理条件設定手段は、前記シーン判別処理手段による判別結果、および前記設定された補正処理条件の少なくとも一つに基づいて、撮影シーンの硬さ及び輝度分布の幅の少なくとも一つを調整するための第2の階調処理条件を設定し、
前記階調処理条件設定手段により設定された第2の階調処理条件に基づいて、前記リニア画像又は前記ノンリニア画像に対する階調変換処理を行う第3の階調変換処理手段を備えることを特徴としている。
【0016】
請求項10に記載の発明は、請求項8又は9に記載の画像処理装置において、前記画像取得手段は、前記リニア画像から、画像サイズを縮小したリニア画像を取得し、
前記シーン判別処理手段は、前記画像サイズを縮小したリニア画像を用いて撮影シーンの判別処理を行うことを特徴としている。
【0017】
請求項11に記載の発明は、請求項8〜10の何れか一項に記載の画像処理装置において、前記リニア画像の撮影時に算出される輝度情報を取得する輝度情報取得手段を備え、
前記シーン判別処理手段は、前記輝度情報取得手段により取得された輝度情報に基づいて撮影シーンの判別処理を行い、
前記階調処理条件設定手段は、前記輝度情報取得手段により取得された輝度情報に基づいて階調処理条件を設定することを特徴としている。
【0018】
請求項12に記載の発明は、請求項8〜11の何れか一項に記載の画像処理装置において、前記シーン判別処理手段は、前記リニア画像の自然光による屋外撮影度を表す自然光指標と、ダイナミックレンジの大きさを表す輝度比指標と、撮影時の露出設定に起因する露出撮影度指標とを算出し、
前記算出された各指標に基づいて撮影シーンを判別することを特徴としている。
【0019】
請求項13に記載の発明は、請求項12に記載の画像処理装置において、前記シーン判別処理手段は、
前記リニア画像について色情報を取得し、当該取得された色情報に基づいて、前記リニア画像の画像データを所定の明度と色相の組み合わせからなる階級に分類し、当該分類された階級毎に、前記画像データ全体に占める割合を示す第1の占有率を算出する第1の占有率算出手段と、
前記取得された色情報に基づいて、前記画像データを画面の外縁からの距離と明度の組み合わせからなる階級に分類し、当該分類された階級毎に、前記画像データ全体に占める割合を示す第2の占有率を算出する第2の占有率算出手段と、
前記第1の占有率に、撮影条件に応じて予め設定された第1の係数を乗算することにより、指標1を算出する第1の指標算出手段と、
前記第1の占有率に、撮影条件に応じて予め設定された第2の係数を乗算することにより、指標2を算出する第2の指標算出手段と、
前記第2の占有率に、撮影条件に応じて予め設定された第3の係数を乗算することにより、指標3を算出する第3の指標算出手段と、
少なくとも前記画像データの画面中央部における肌色の平均輝度に、撮影条件に応じて予め設定された第4の係数を乗算することにより、前記露出撮影度を算出する第4の指標算出手段と、
前記指標1、前記指標2、前記指標3のうち少なくとも一つ以上の指標と、前記輝度情報に、撮影条件に応じて予め設定された第5の係数を乗算することにより、前記自然光指標を算出する第5の指標算出手段と、
前記指標1、前記指標2、前記指標3のうち少なくとも一つ以上の指標と、前記輝度情報に、撮影条件に応じて予め設定された第6の係数を乗算することにより、前記輝度比指標を算出する第6の指標算出手段と、
前記露出撮影度、前記自然光指標及び前記輝度比指標に基づいて、前記画像データの撮影シーンを判別するシーン判別手段と、を備えることを特徴としている。
【0020】
請求項14に記載の発明は、請求項12又は13に記載の画像処理装置において、前記階調処理条件設定手段は、
前記リニア画像の明るさ解析値と、明るさの再現目標値と、前記輝度比指標及び前記露出撮影度に基づいて、当該リニア画像に対する複数の第1仮補正量を設定する第1仮補正量設定手段と、
前記自然光指標に基づいて、前記複数の第1仮補正量の各々に乗算する重み係数としての第1混合係数を設定する第1混合係数設定手段と、
前記第1混合係数設定手段により設定された第1混合係数と、前記複数の第1仮補正量に基づいて、前記リニア画像に対する第2仮補正量を設定する第2仮補正量設定手段と、
前記露出撮影度、前記自然光指標及び前記輝度比指標に基づいて、前記複数の第1仮補正量のうち少なくとも1つと、前記第2仮補正量に乗算する重み係数としての第2混合係数を設定する第2混合係数設定手段と、
前記第2混合係数により設定された第2混合係数と、前記少なくとも1つの第1仮補正量と、前記第2仮補正量に基づいて、階調調整パラメータを算出する階調調整パラメータ算出手段と、を備え、
前記シーン判別処理手段による判別結果と、前記階調調整パラメータ算出手段により算出された階調調整パラメータと、前記設定された補正処理条件とに基づいて、前記リニア画像に対する第1の階調処理条件を設定することを特徴としている。
【0021】
請求項15に記載の画像処理方法は、撮影によって形成されたリニア画像を取得する画像取得工程と、
前記リニア画像に基づいて撮影シーンの判別処理を行うシーン判別処理工程と、
操作入力に基づいて補正処理条件を設定する補正処理条件設定工程と、
前記シーン判別処理工程による判別結果、および前記設定された補正処理条件に基づいて、前記リニア画像に対する明るさを調整するための第1の階調処理条件を設定する階調処理条件設定工程と、
前記階調処理条件設定工程により設定された第1の階調処理条件に基づいて、前記リニア画像に対する階調変換処理を行う第1の階調変換処理工程と、
前記階調変換処理が適用されたリニア画像をノンリニア画像に変換する階調変換処理を行う第2の階調変換処理工程と、
を含むことを特徴としている。
【0022】
請求項16に記載の画像処理方法は、請求項15に記載の画像処理方法において、前記階調処理条件設定工程は、前記シーン判別処理工程による判別結果、および前記設定された補正処理条件の少なくとも一つに基づいて、撮影シーンの硬さ及び輝度分布の幅の少なくとも一つを調整するための第2の階調処理条件を設定し、
前記階調処理条件設定工程により設定された第2の階調処理条件に基づいて、前記リニア画像又は前記ノンリニア画像に対する階調変換処理を行う第3の階調変換処理工程を含むことを特徴としている。
【0023】
請求項17に記載の発明は、請求項15又は16に記載の画像処理方法において、前記画像取得工程では、前記リニア画像から、画像サイズを縮小したリニア画像を取得し、
前記シーン判別処理工程では、前記画像サイズを縮小したリニア画像を用いて撮影シーンの判別処理を行うことを特徴としている。
【0024】
請求項18に記載の発明は、請求項15〜17の何れか一項に記載の画像処理方法において、前記リニア画像の撮影時に算出される輝度情報を取得する輝度情報取得工程を含み、
前記シーン判別処理工程では、前記輝度情報取得工程により取得された輝度情報に基づいて撮影シーンの判別処理を行い、
前記階調処理条件設定工程では、前記輝度情報取得工程により取得された輝度情報に基づいて階調処理条件を設定することを特徴としている。
【0025】
請求項19に記載の発明は、請求項15〜18の何れか一項に記載の画像処理方法において、前記シーン判別処理工程では、
前記リニア画像の自然光による屋外撮影度を表す自然光指標と、ダイナミックレンジの大きさを表す輝度比指標と、撮影時の露出設定に起因する露出撮影度指標とを算出し、
前記算出された各指標に基づいて撮影シーンを判別することを特徴としている。
【0026】
請求項20に記載の発明は、請求項19に記載の画像処理方法において、前記シーン判別処理工程は、
前記リニア画像について色情報を取得し、当該取得された色情報に基づいて、前記リニア画像の画像データを所定の明度と色相の組み合わせからなる階級に分類し、当該分類された階級毎に、前記画像データ全体に占める割合を示す第1の占有率を算出する第1の占有率算出工程と、
前記取得された色情報に基づいて、前記画像データを画面の外縁からの距離と明度の組み合わせからなる階級に分類し、当該分類された階級毎に、前記画像データ全体に占める割合を示す第2の占有率を算出する第2の占有率算出工程と、
前記第1の占有率に、撮影条件に応じて予め設定された第1の係数を乗算することにより、指標1を算出する第1の指標算出工程と、
前記第1の占有率に、撮影条件に応じて予め設定された第2の係数を乗算することにより、指標2を算出する第2の指標算出工程と、
前記第2の占有率に、撮影条件に応じて予め設定された第3の係数を乗算することにより、指標3を算出する第3の指標算出工程と、
少なくとも前記画像データの画面中央部における肌色の平均輝度に、撮影条件に応じて予め設定された第4の係数を乗算することにより、前記露出撮影度を算出する第4の指標算出工程と、
前記指標1、前記指標2、前記指標3のうち少なくとも一つ以上の指標と、前記輝度情報に、撮影条件に応じて予め設定された第5の係数を乗算することにより、前記自然光指標を算出する第5の指標算出工程と、
前記指標1、前記指標2、前記指標3のうち少なくとも一つ以上の指標と、前記輝度情報に、撮影条件に応じて予め設定された第6の係数を乗算することにより、前記輝度比指標を算出する第6の指標算出工程と、
前記露出撮影度、前記自然光指標及び前記輝度比指標に基づいて、前記画像データの撮影シーンを判別するシーン判別工程と、を含むことを特徴としている。
【0027】
請求項21に記載の発明は、請求項19又は20に記載の画像処理方法において、前記階調処理条件設定工程は、
前記リニア画像の明るさ解析値と、明るさの再現目標値と、前記輝度比指標及び前記露出撮影度に基づいて、当該リニア画像に対する複数の第1仮補正量を設定する第1仮補正量設定工程と、
前記自然光指標に基づいて、前記複数の第1仮補正量の各々に乗算する重み係数としての第1混合係数を設定する第1混合係数設定工程と、
前記第1混合係数設定工程により設定された第1混合係数と、前記複数の第1仮補正量に基づいて、前記リニア画像に対する第2仮補正量を設定する第2仮補正量設定工程と、
前記露出撮影度、前記自然光指標及び前記輝度比指標に基づいて、前記複数の第1仮補正量のうち少なくとも1つと、前記第2仮補正量に乗算する重み係数としての第2混合係数を設定する第2混合係数設定工程と、
前記第2混合係数により設定された第2混合係数と、前記少なくとも1つの第1仮補正量と、前記第2仮補正量に基づいて、階調調整パラメータを算出する階調調整パラメータ算出工程と、を含み、
前記シーン判別処理工程による判別結果と、前記階調調整パラメータ算出工程により算出された階調調整パラメータと、前記設定された補正処理条件とに基づいて、前記リニア画像に対する第1の階調処理条件を設定することを特徴としている。
【0028】
請求項22に記載の画像処理プログラムは、画像処理を制御するコンピュータを、
画像処理を制御するコンピュータを、
撮影によって形成されたリニア画像を取得する画像取得手段、
前記リニア画像に基づいて撮影シーンの判別処理を行うシーン判別処理手段、
操作入力に基づいて補正処理条件を設定する補正処理条件設定手段と、
前記シーン判別処理手段による判別結果、および前記設定された補正処理条件に基づいて、前記リニア画像に対する明るさを調整するための第1の階調処理条件を設定する階調処理条件設定手段、
前記階調処理条件設定手段により設定された第1の階調処理条件に基づいて、前記リニア画像に対する階調変換処理を行う第1の階調変換処理手段、
前記階調変換処理が適用されたリニア画像をノンリニア画像に変換する階調変換処理を行う第2の階調変換処理手段、として機能させる。
【0029】
請求項23に記載の発明は、請求項22に記載の画像処理プログラムにおいて、前記階調処理条件設定手段は、前記シーン判別処理手段による判別結果、および前記設定された補正処理条件の少なくとも一つに基づいて、撮影シーンの硬さ及び輝度分布の幅の少なくとも一つを調整するための第2の階調処理条件を設定し、
前記コンピュータを、
前記階調処理条件設定手段により設定された第2の階調処理条件に基づいて、前記リニア画像又は前記ノンリニア画像に対する階調変換処理を行う第3の階調変換処理手段として機能させることを特徴としている。
【0030】
請求項24に記載の発明は、請求項22又は23に記載の画像処理プログラムにおいて、前記画像取得手段は、
前記リニア画像から、画像サイズを縮小したリニア画像を取得し、
前記シーン判別処理手段は、
前記画像サイズを縮小したリニア画像を用いて撮影シーンの判別処理を行うことを特徴としている。
【0031】
請求項25に記載の発明は、請求項22〜24の何れか一項に記載の画像処理プログラムにおいて、前記コンピュータを、
前記リニア画像の撮影時に算出される輝度情報を取得する輝度情報取得手段として機能させ、
前記シーン判別処理手段は、前記輝度情報取得手段により取得された輝度情報に基づいて撮影シーンの判別処理を行い、
前記階調処理条件設定手段は、前記輝度情報取得手段により取得された輝度情報に基づいて階調処理条件を設定することを特徴としている。
【0032】
請求項26に記載の発明は、請求項22〜25の何れか一項に記載の画像処理プログラムにおいて、前記シーン判別処理手段は、
前記リニア画像の自然光による屋外撮影度を表す自然光指標と、ダイナミックレンジの大きさを表す輝度比指標と、撮影時の露出設定に起因する露出撮影度指標とを算出し、
前記算出された各指標に基づいて撮影シーンを判別することを特徴としている。
【0033】
請求項27に記載の発明は、請求項26に記載の画像処理プログラムにおいて、前記シーン判別処理手段は、
前記リニア画像について色情報を取得し、当該取得された色情報に基づいて、前記リニア画像の画像データを所定の明度と色相の組み合わせからなる階級に分類し、当該分類された階級毎に、前記画像データ全体に占める割合を示す第1の占有率を算出し、
前記取得された色情報に基づいて、前記画像データを画面の外縁からの距離と明度の組み合わせからなる階級に分類し、当該分類された階級毎に、前記画像データ全体に占める割合を示す第2の占有率を算出し、
前記第1の占有率に、撮影条件に応じて予め設定された第1の係数を乗算することにより、指標1を算出し、
前記第1の占有率に、撮影条件に応じて予め設定された第2の係数を乗算することにより、指標2を算出し、
前記第2の占有率に、撮影条件に応じて予め設定された第3の係数を乗算することにより、指標3を算出し、
少なくとも前記画像データの画面中央部における肌色の平均輝度に、撮影条件に応じて予め設定された第4の係数を乗算することにより、前記露出撮影度を算出し、
前記指標1、前記指標2、前記指標3のうち少なくとも一つ以上の指標と、前記輝度情報に、撮影条件に応じて予め設定された第5の係数を乗算することにより、前記自然光指標を算出し、
前記指標1、前記指標2、前記指標3のうち少なくとも一つ以上の指標と、前記輝度情報に、撮影条件に応じて予め設定された第6の係数を乗算することにより、前記輝度比指標を算出し、
前記露出撮影度、前記自然光指標及び前記輝度比指標に基づいて、前記画像データの撮影シーンを判別することを特徴としている。
【0034】
請求項28に記載の発明は、請求項26又は27に記載の画像処理プログラムにおいて、前記階調処理条件設定手段は、
前記リニア画像の明るさ解析値と、明るさの再現目標値と、前記輝度比指標及び前記露出撮影度に基づいて、当該リニア画像に対する複数の第1仮補正量を設定し、
前記自然光指標に基づいて、前記複数の第1仮補正量の各々に乗算する重み係数としての第1混合係数を設定し、
前記第1混合係数と、前記複数の第1仮補正量に基づいて、前記リニア画像に対する第2仮補正量を設定し、
前記露出撮影度、前記自然光指標及び前記輝度比指標に基づいて、前記複数の第1仮補正量のうち少なくとも1つと、前記第2仮補正量に乗算する重み係数としての第2混合係数を設定し、
前記第2混合係数と、前記少なくとも1つの第1仮補正量と、前記第2仮補正量に基づいて、階調調整パラメータを算出し、
前記シーン判別処理手段による判別結果と、前記算出された階調調整パラメータと、前記設定された補正処理条件とに基づいて、前記リニア画像に対する第1の階調処理条件を設定することを特徴としている。
【0035】
以下、本発明で使用される用語について説明する。
【0036】
まず、「リニア画像」、「ノンリニア画像」について詳述する。
一般撮影シーンは照明のムラが多く、輝度比が1000倍を超える事も稀ではない(例えば、日本色彩学会編 色彩科学ハンドブック第2版, 東京大学出版会, p925-926 (1998)を参照)。これに対して、各種メディアが表示できる輝度比は100倍オーダーである。必然的に写真階調はシーン階調と異なる事になり、100倍オーダーの輝度比のメディア上で、1000倍オーダーの輝度比シーンの印象をいかに適切に演出するかが写真設計の基本である。
【0037】
このシーン階調から写真階調への変換は、シーンの状態(構図内の輝度比・主要被写体の輝度等)により適切なマッピング条件が異なり、一律に決定する事ができない。そこで銀塩写真の場合には下記のアーキテクチャが採用されている。
[設計1] ネガフィルムは、数千倍オーダーの輝度比に応じてリニアに濃度が変化する軟調設計にする。これにより、シーンの輝度情報は漏れなくネガフィルムに記録される。
[設計2] 上記の軟調なネガフィルム画像を、硬調な印画紙に焼き付ける事で、鑑賞に適した階調とする。焼き付け露光量を調節することで、幅広いシーン輝度のどこを中心に写真階調を再現するかを選択する。
【0038】
上記設計2では、ネガフィルム画像をプリンタが自動解析することで適切な条件を算出している。この算出結果が撮影意図と合致しなかった場合、ユーザがその旨を指摘して「焼き直し」をすれば、適切な写真を作成する事ができる。たとえば、風景描写を優先したプリントに対して、日陰の人物を重視したいと指摘する等の例が挙げられる。
【0039】
一方でリバーサルフィルムの場合は、フィルム現像で直接鑑賞用画像を生成する為、上記設計1のような軟調設計ができない。ゆえにリバーサルフィルムは記録できる輝度比の幅が狭く、適正な画像を撮影するためには、撮影時に撮影条件(照明・絞り・シャッター)を慎重に設定する必要があり、もちろん撮影後に「焼き直し」等で修正する事はできない。このため、リバーサルフィルムはプロ・ハイエンドアマチュア専用の商品として販売されている。
【0040】
このように、銀塩写真におけるネガフィルムとポジフィルムは、ネガ・ポジの階調差以外に、画像の性格が異なるということを指摘することができる。
【0041】
上記の観点でDSC(Digital Still Camera)と銀塩写真のアーキテクチャを比較すると、一般用の(sRGBの可視画像ファイルを生成する)DSCの機構は、リバーサルフィルムの機構に相当する。即ち、幅広いシーン輝度のどこを中心に写真階調を再現するかは露出制御プログラムの精度に依存しており、撮影後に修正する事はできない。一方プロユーザはRawデータ(CCDが受光した生データ)を記録するDSCを利用し、撮影後に現像ソフトでシーン輝度のどこを中心に写真階調を再現するかを指定している。この方法はネガフィルムの機構に相当する。ここでも一般用DSCが生成するsRGB画像とRawデータでは、画像データの性格が異なるということを指摘することができる。
【0042】
このような画像の性格の差は、画像データのレンダリング状態の差異に起因するものであり、この「画像データのレンダリング状態」を示す概念として「Image State」という用語が用いられている。(Image State の詳細な定義は、例えば下記の文献に示されている。“Requirements for Unambiguous Specification of a Color Encoding ISO 22028-1”, Kevin Spaulding, in Proc. Tenth Color Imaging Conference: Color Science and Engineering Systems, Technologies, Applications, IS&T, Springfield, VA, p.106-111 (2002)).
【0043】
Image Stateの種類を示す用語として、scene-referred及び output-referredがある。scene-referredとは、風景シーンの色度評価値を表現した状態を意味する。例えばDSCのRawデータに分光感度等の校正のみを施し、意図的な強調を加えていない画像の状態が相当する。「リニア画像」は、シーンの色度評価値を相対的に表現したものであるが、付加的なスケール情報をも参照することで絶対的な色度評価値に換算する事も可能である。スケール情報としては、OECF(光電変換特性, ISO14524で定義)・絞りのFナンバー・露光時間が挙げられる。
【0044】
output-referredとは、特定の出力機器・観察条件に対して適切な表現にレンダリングされた状態を意味する。例えば、一般的なDSCが生成するJPEG画像はディスプレイ表示に最適化されているので「ノンリニア画像」に該当する。
【0045】
本発明における「リニア画像」とは、上記のscene-referredのimage stateに属する画像データの一種であり、特に記録された画素の輝度値とシーン輝度の関係が実質的に一次直線の関係にあるものを意味している。また、本発明における「ノンリニア画像」とは、上記のoutput-referredのimage stateに属する画像データを意味している。
【0046】
即ち、「リニア画像」とは、少なくとも撮像素子自体の分光感度に基づく各色チャンネルの信号強度をRIMM RGB、ERIMM RGB、scRGBなどの色空間(後述の「輝度拡張色空間」)にマッピング済みであり、特定の出力機器・観察条件での画像鑑賞時の効果を向上する為に、データ内容を改変する階調変換・鮮鋭性強調・彩度強調などが省略された状態の画像データを意味する。またリニア画像は、撮像装置の光電変換特性(ISO1452が定義するopto-electronic conversion function, 例えば、コロナ社「ファインイメージングとディジタル写真」(社)日本写真学会出版委員会編、479頁参照)の補正を行ったものであることが好ましい。標準化されたリニア画像の情報量(例えば階調数)は、A/D変換器の性能に準じ、後述の「ノンリニア画像」で必要とされる情報量(例えば階調数)と同等以上であることが好ましい。例えばノンリニア画像の階調数が1チャンネルあたり8bitである場合、リニア画像の階調数は12bit以上が好ましく、14bit以上がより好ましく、また16bit以上がさらに好ましい。
【0047】
「リニア画像をノンリニア画像に変換する階調変換処理」とは、CRT(Cathode Ray Tube)、液晶ディスプレイ、プラズマディスプレイ等の表示デバイスや、銀塩印画紙、インクジェットペーパー、サーマルプリンタ用紙等の出力媒体上において、最適な画像を得るための「ガンマ補正」処理であり、例えばsRGB規格に準拠したCRTディスプレイモニタに表示することを前提とした場合、sRGB規格の色域内で最適な色再現が得られるように処理される。このときの処理設定は、「ガンマ特性」と称される。
【0048】
銀塩印画紙への出力を前提とした場合、銀塩印画紙の色域内で最適な色再現が得られるように処理される。また前記色域の圧縮の以外にも、16bitから8bitへの階調圧縮、出力画素数の低減、及び出力デバイスの出力特性(LUT)への対応処理等も含まれる。さらにノイズ抑制、鮮鋭化、グレーバランス調整、彩度調整或いは覆い焼き処理等の階調圧縮処理が行われることは言うまでもない。
【0049】
「ノンリニア画像」とはCRT、液晶ディスプレイ、プラズマディスプレイ、或いは銀塩印画紙、インクジェットペーパー、サーマルプリンタ用紙等の「出力媒体」上のハードコピー画像生成に用いるデジタル画像データを意味する。CRT、液晶、プラズマディスプレイ等の表示デバイスや、銀塩印画紙、インクジェットペーパー、サーマルプリンタ用紙等の出力媒体上において、最適な画像が得られるよう処理が施されている。撮影により形成された画像データが、「リニア画像」であるとき、「出力媒体上での鑑賞に最適化された画像データ」が「ノンリニア画像」に相当する。前記「Rawデータ」、又は「リニア画像」から、「ノンリニア画像」を生成することを、「電子現像処理」(又は単に「現像処理」)と称し、このような処理機能を備えたアプリケーションソフトウェアを「電子現像ソフト」(又は単に「現像ソフト」)と称される。
【0050】
「リニア画像に対する階調変換処理」とは、前記Rawデータ(CCDが受光した生データ)を記録するDSCを利用し、撮影後に現像ソフトでシーン輝度のどこを中心に写真階調を再現するかをユーザ自身が撮影駒毎に指定する煩雑な操作に相当する。本階調変換処理は、露出制御プログラムの作用と同等であるので、処理後の画像データは、特定の出力機器・観察条件に対して適切な表現にレンダリングされた状態ではなく、シーンの色度評価値を相対的に表現された状態であるので、上記のscene-referredのimage stateに属する「リニア画像」と定義することができる。
【0051】
「第1の階調変換処理手段」の階調変換処理(以下、第1の階調変換処理という)とは、主要被写体である人物顔領域の明るさを調整するものであり、1DLUT(1次元ルックアップテーブル)を適用するものである。
【0052】
「第2の階調変換処理手段」の階調変換処理(以下、第2の階調変換処理という)とは、リニア画像をノンリニア画像へと変換する処理であり、1DLUTをシーン判別処理とは無関係の固定された条件で適用するものである。
【0053】
「第3の階調変換処理手段」の階調変換処理(以下、第3の階調変換処理という)とは、撮影シーンの硬さや輝度分布の幅を調整する処理である。適用範囲は画像全体、または部分の何れであっても良く、また階調変換処理の手段も1DLUTに限定されない。
【0054】
「補正処理条件」とは、ユーザーにより設定(選択)された、「第1の階調変換処理」の適応量(%)、あるいは補正量の制限値(=リミッタ)、あるいは「第1、2の階調変換処理手段」以外の「その他の画像処理」である「第3の階調変換処理」を、実行させるか否かを示す値である。ただし、後者の場合「第1の階調変換処理」の適応量(%)、あるいは補正量の制限値(=リミッタ)を設定する値としても間接的に用いていなくてはならない。
【0055】
「階調処理条件」とは、「第1の階調変換処理」による明るさ補正値であり、次式(0)で与えられる。
階調処理条件=仮階調処理条件×「補正処理条件」 …(0)
但し、補正処理条件:適応量(%)、あるいはリミッタである。
【0056】
また、「第3の階調変換処理」とは、例えば「第1の階調変換処理」の「仮階調処理条件」と連動せず、独自に階調処理条件を算出する機能を持ったものであり、具体的には「コントラスト補正処理」、「階調圧縮処理」、あるいは「覆い焼き処理」などである。
【0057】
「コントラスト補正」とは、画像データの最も明るい部分と暗い部分の差をモニタなどの出力媒体上で最適となるよう調整する処理のことである。画像データの明暗がはっきりしている状態を「コントラストが高い」などと表現される。
【0058】
画像データのコントラストを高めるには、画像データの最も明るい部分と暗い部分の差を拡大すれば良く、このときの処理を「階調伸張処理」と称す。逆に画像データのコントラストを低くするには、画像データの最も明るい部分と暗い部分の差を縮小すれば良く、このときの処理を「階調圧縮処理」と称す。コントラスト補正に用いる1DLUTは、線形、非線形、またはこれらの組み合わせの何れであっても良い。
【0059】
また、画像データを構成する被写体領域を少なくとも2つの領域に分割し、分割された各領域毎に、異なる補正条件でコントラスト補正を適用するようにしても良い。なお、このような処理は一般に「覆い焼き処理」として知られている。
【0060】
「コントラスト補正」は、フォトレタッチソフトのトーンカーブやレベル補正機能などを用いて一般に行うことが出来る処理である。しかし、本発明では画像データの輝度ヒストグラムなどの解析データに基づき、コントラスト補正処理条件を自動的に算出する。コントラスト補正処理条件の算出には、公知の如何なる方法を用いても良い。また、コントラスト補正処理条件の算出は、シーン判別処理の結果だけでなく、「第1の階調変換処理」の条件に基づいて算出するようにしても良い。さらに、「コントラスト補正処理」のOn,Off設定だけでなく、適応レベルをユーザが設定するようにしても良い。
【0061】
「補正処理条件を設定する」とは、カメラに搭載されたモードダイヤル、あるいはカメラの背面に具備された液晶モニタや設定ボタンなどを用いたユーザの操作入力により、「第1の階調変換処理」の適応量を設定すること、または「第3の階調変換処理」の実行に関する設定を行うことである。
【0062】
「自然光」とは、人工的な光源である定常光や閃光(「フラッシュ」、「スピードライト」などと称される。)ではなく、太陽を光源とする光のことである。日中光とも言う。デーライトは、日中光に近い色温度(約5500K)の人工的な光源を示す用語であるため、「自然光」とは異なる。
【0063】
「屋外撮影度」(「自然光指標」ともいう。)とは、撮影画像データが「自然光」を用いて撮影されたものであるかどうかを推定し、その結果を定量的に示した数値である。「自然光」を用いて撮影され、明るさ補正を要するシーンには逆光シーンが多く、画面上部に高輝度領域或いは高彩度の空色領域、画面下部に、低輝度領域或いは肌色や緑色が分布する確率が高い。一方、「自然光」を用いないで撮影された屋内撮影或いはオーバー撮影シーンには、画面中央に高輝度領域或いは低彩度の肌色領域、画面周辺には低輝度領域或いは低輝度の肌色や高彩度の肌色が分布する傾向にある。このような経験側を基に、「自然光」を用いて撮影されかどうかを、「屋外撮影度」として定量的に示すことが可能である。画面上部の輝度や空色色相の画素数、画面下部の輝度や肌色色相の画素数など、多くの変量から1つの傾向を導き出す統計処理手法としては、多変量解析を用いることが望ましい。
【0064】
「ダイナミックレンジの大きさを表す輝度比指標」とは、逆光シーンやオーバー撮影シーンのような、撮影時の光源条件に起因して、主要被写体領域と背景領域の明るさが異なる程度を定量的に示す値のことである。例えば、逆光シーンでは、撮影者がカメラを太陽の方角に向け、人物を撮影することに起因して、人物顔領域が暗く、背景領域である空が明るい画像となっている。即ち、人物顔領域と背景領域との明るさの差分値が得られれば、差分値を指標の1つとすることができる。一般的には、画差撮影画像データのヒストグラムを作図することにより差分値を得ることが知られている。
【0065】
リニア画像の「明るさ解析値」とは、画素値の分布状態を調べることで得られる、画像の平均的な明るさを示す数値である。「明るさ解析値」は、撮影画像データで最も重要な被写体(主要被写体)の明るさであることが望ましい。人物顔領域の探索は、色相・彩度・明度を用いた表色系における照合により行う。より高い精度を得るためには、目・鼻・口・顔の輪郭など、顔を構成するパーツを照合する所謂「顔検出」を用いることが好ましい。また、撮影時の露出設定に起因する露出撮影度(アンダー撮影、オーバー撮影)を表す露出撮影度指標を算出し、この露出撮影度指標を明るさ解析値として用いてもよい。更に、明るさ解析値の解析方法は、リニア画像の解析に限定するものではなく、例えば、撮像装置の自動露出情報や自動露出情報の記録された付加情報を解析して得られた明るさであってもよい。
【0066】
「再現目標値」とは、例えば、リニア画像の主要被写体である人物顔領域が、撮影画像データを出力する出力デバイスにおいて最適に再現されるために必要な明るさを示す数値である。即ち、リニア画像の「明るさ解析値」が「再現目標値」に近似した値であれば、出力デバイスにおいて最適に再現される確率が高いことを意味する。
【0067】
「第1仮補正量」とは、「明るさ解析値」を「再現目標値」へと近似させるために必要な補正量を、一時的なものとして示した数値である。「第1仮補正量を設定する」とは、予め「明るさ解析値」と「第1仮補正量」、との関係を定義した1次元LUT(Look Up Table)などを作成しておき、この1次元LUTと「明るさ解析値」に基づき、「第1仮補正量」を決定することを意味する。更に、「複数の第1仮補正量を設定する」とは、「明るさ解析値」を条件違いで算出する方法、異なる「再現目標値」を設定する方法(複数の1次元LUTを定義しておくことと同一)の一方又は双方により、少なくとも2つの「第1仮補正量」を一時的に得ることである。
【0068】
本発明では、逆光シーンと、主要被写体がオーバーであるオーバー撮影シーンの場合の人物顔領域の明るさ補正を想定した、それぞれ2つの「第1仮補正量」設定用の1次元LUTを定義する。また、逆光シーンとオーバー撮影シーンの中間的なシーンでは、アンダーとオーバー撮影シーンにおける画像全体の明るさ補正を想定した、少なくとも1つの「第1仮補正量」設定用の1次元LUTを定義することが望ましい。
【0069】
本発明の効果を十分に発揮させるために、「第1仮補正量」設定用の1次元LUTの作成に際しては、明部及び暗部がつぶれたり、高彩度の色が飽和してつぶれたり、色相が変わるなどの現象が実際に発生する逆光シーンやオーバー撮影シーンを予め「学習用画像(「教師データ」とも云う)」として多数用意し、人物顔領域の明るさと、これらの現象の発生を観察しながら行うことが望ましい。
【0070】
「明るさの再現目標値」と「輝度比指標」に基づいて、「第1仮補正量を設定する」とは、撮影画像データのダイナミックレンジが、撮影画像データを出力する出力デバイスのダイナミックレンジ内に適切に収まるように、主要被写体の明るさに基づいて設定された明るさ補正量を弱め、輝度比指標に基づいて明るさ補正量を設定することを意味する。
【0071】
自然光指標に基づいて「第1混合係数を設定する」とは、予め「自然光指標」と、各第1仮補正量に乗算する「第1混合係数」との関係を定義した1次元LUTなどを、第1仮補正量の数だけ作成しておき、この1次元LUTと「自然光指標」に基づき、各第1仮補正量に乗算する「第1混合係数」を決定することを意味する。なお、輝度比指標に基づいて、第1混合係数を調整するようにしてもよい。
【0072】
例えば、自然光指標が、高い屋外撮影度の数値を示した場合、逆光シーンにおける人物顔領域の明るさ補正を想定した、「第1仮補正量」設定用の1次元LUT(入力:肌色平均輝度、出力:第1仮補正量)の「第1混合係数」が高くなるように、1次元LUTを定義する。
【0073】
一方、自然光指標が、低い屋外撮影度の数値を示した場合、オーバー撮影シーンにおける人物顔領域の明るさ補正を想定した、「第1仮補正量」設定用の1次元LUT(入力:肌色平均輝度、出力:第1仮補正量)の「第1混合係数」が高くなるように、1次元LUTを定義する。
【0074】
また、自然光指標が、曖昧な屋外撮影度の数値を示した場合、アンダー撮影シーンとオーバー撮影シーンにおける画像全体の明るさ補正を想定した、「第1仮補正量」設定用の1次元LUT(入力:全体平均輝度又はアンダー・オーバー撮影指標、出力:第1仮補正量)の「第1混合係数」が高くなるように1次元LUTを定義する。
【0075】
撮影画像データが予め逆光画像とわかっている場合には、「輝度比指標」に基づき、明るさ補正量と階調変換曲線を修正することができ、撮影画像データの明部及び暗部がつぶれたり、高彩度の色が飽和してつぶれたり、色相が変化することが抑制される。しかしながら、逆光シーンとオーバー撮影シーンとでは、ダイナミックレンジの大きさが同程度であっても、明るさ補正の方向が全く逆であるため、人物顔領域を適正な明るさに補正する処理を自動化するには、逆光シーンかオーバー撮影シーンあるか否かを定量的に示した予測数値(自然光指標)に応じて、ダイナミックレンジの大きさを表す輝度比指標に基づく第1仮補正量の適用量を定義しなくてはならない。そこで、逆光シーンにおける人物顔領域の明るさ補正を想定した、「第1仮補正量」設定用の1次元LUT(入力:輝度比指標、出力:第1仮補正量)の「第1混合係数」が高くなるように、「自然光指標」と「第1混合係数」との関係を定義した1次元LUTを定義する。
【0076】
「第2仮補正量」は、第1仮補正量と第1混合係数に基づいて算出されるもので、式(1)のように定義される。式(1)において、第1仮補正量設定手段により設定される複数の第1仮補正量のうち、m個の第1仮補正量を計算対象とし、i番目の第1仮補正量をkey_auto[i]、第1仮補正量key_auto[i]に乗算する第1混合係数をwgt[i]としている。
【数1】

【発明の効果】
【0077】
本発明によれば、既存の自動露出制御、動作点変更、リニア画像からノンリニア画像への階調処理条件の変更を行うことなく、主要被写体(例えば、人物顔領域)の明るさをユーザの好みに合わせて最適化することが可能となるとともに、。
【発明を実施するための最良の形態】
【0078】
以下、図面を参照して、本発明の実施形態を説明する。
【0079】
(第1の実施形態)
まず、本発明に係る第1の実施形態(撮像装置)における構成について説明する。
【0080】
(撮像装置1の構成)
図1(a)に、本発明の実施形態に係る撮像装置1の前面図を示し、図1(b)に、撮像装置1の背面図を示す。撮像装置1は、例えば、デジタルカメラであり、金属又は合成樹脂等の材料で構成された筐体21の内部又は表面に、十字キー22、撮影光学系23、フラッシュ24、ファインダ25、電源スイッチ26、表示部27、レリーズボタン28、モードダイヤル29が設けられている。
【0081】
図2(a)に、モードダイヤル29の構成を示し、図2(b)に、明るさの設定画面の一例を示す。
【0082】
図3に、撮像装置1の内部構成を示す。撮像装置1は、図3に示すように、プロセッサ31、メモリ32、CCD(Charge Coupled Device)等の撮像素子33、撮影光学系23、タイミングジェネレータ41、シャッタユニット42、絞りユニット43、フォーカスユニット44、表示部27、操作部38、画像データ出力部37により構成される。プロセッサ31は、撮影制御や撮影画像の処理を行う撮影処理部20と、画像処理を行う画像処理部10により構成される。
【0083】
十字キー22は、上下左右の4方向のボタンからなり、ユーザが種々のモードを選択又は設定するためのものである。
【0084】
撮影光学系23は、複数のレンズ、鏡胴等によって構成され、ズーム機能を有する。撮影光学系23は、レンズが受光した光を撮像素子33に結像させる。フラッシュ24は、被写体輝度が低い時に、プロセッサ31からの制御信号により補助光を照射する。
【0085】
ファインダ25は、ユーザが接眼して撮影対象及び撮影領域を確認するためのものである。電源スイッチ26は、撮像装置1における動作のON/OFFを操作するためのスイッチである。
【0086】
表示部27は、液晶パネルにより構成され、プロセッサ31から入力される表示制御信号に従って、撮像素子33に現在写っている画像、過去に撮影した画像、メニュー画面、設定画面等を表示する。
【0087】
レリーズボタン28は、筐体21の上面に設けられており、ユーザによる半押し状態(予備撮影)と全押し状態(本撮影)とを区別して検出可能な2段階押し込みスイッチである。
【0088】
メモリ32は、撮影によって得られた画像データを記憶(保存)する。また、メモリ32は、撮像装置1において実行される各種処理プログラム及び当該処理プログラムで利用されるデータ等を記憶する。
【0089】
画像データ出力部37は、保存用の記録媒体(SDメモリカード又はマルチメディアカード(MMC)等)にメモリ32内の画像データを転送、記録する、或いは外部装置へ転送する。画像データ出力部37はプロセッサ31により制御される。操作部38は、ユーザの操作入力を受け付けて、その操作情報をプロセッサ31に出力する。操作部38は、十字キー22、電源スイッチ26、レリーズボタン28、モードダイヤル29を備えて構成され、各部の操作入力を受け付ける。
【0090】
撮像素子33は、結像された光を電荷に変換する。これにより、例えば、図13(a)に示すような画像データが得られる。この画像には、撮像範囲(撮影範囲)にある物、即ち、撮影対象物(撮影の目標物)とそれ以外の物(背景)とが含まれている。この全体画像の各画素のRGB値は、例えば、256階調で表される。
【0091】
シャッタユニット42は、レリーズボタン28によって検出された状態(半押し状態又は全押し状態)に基づいて撮像素子33をリセットするタイミング及び電荷変換を行うタイミングなどを制御する。タイミングの制御はタイミングジェネレータ41により行われる。シャッタユニット42による露光量制御については後述する。
【0092】
撮像素子33が受光する光量の調節は、絞りユニット43及び/又はシャッタユニット42によって行われる。フォーカスユニット44は、撮影光学系23を駆動させ撮影被写体に対して焦点を合わせる制御動作を実行する。フォーカスユニット44による合焦点制御については後述する。
【0093】
図2(a)に示すように、モードダイヤル29は、補正処理条件として、「補正なし」、「明るさ補正のみ」、「覆い焼きのみ」、「明るさ補正+覆い焼き」の4つのモードを、ユーザからの回転による選択入力により受け付け、そのモードを設定する。
【0094】
勿論この4つを全て搭載する必要はなく、少なくとも「補正なし」、「明るさ補正のみ」の2つのモードを備えていれば良い。なお本発明では、「明るさ補正のみ」、「明るさ補正+覆い焼き」の2つのモードを備えていることが望ましい。
【0095】
図2(b)に示すように、表示部27には、補正処理条件としての明るさ補正レベルの設定時に、明るさ補正レベル設定部27Aが表示される。明るさ補正レベル設定部27Aに基づき、ユーザによる十字キー22の選択入力により、明るさ補正レベルの適応量が、「強」、「中」、「弱」の3段階で設定される。
【0096】
(撮影処理部20の内部構成)
図4に、撮影処理部20の内部構成を示す。撮影処理部20は、撮影時に撮影条件に関わる制御や、撮影された画像の処理を行う。撮影処理部20は、図4に示すように、撮影条件に関わるAE制御部51、AF制御部52、そして撮影された画像に対して画像処理を行う画素補間部53、AWB制御部54、ガンマ補正部55などにより構成される。
【0097】
AE制御部51は、画像撮影時にその露光量の自動制御を行う。通常、撮影待機時の露光量制御は、絞り開放でシャッタ速度を制御することによって行われ、撮影時の露光量は絞りとシャッタ速度とで制御される。
【0098】
AE制御部51における撮影待機時の露光量制御は、例えば以下のように行われる(図5(a)のフローチャート参照)。
【0099】
まず絞りユニット43により、絞りが開放固定絞りに設定される(ステップS111)。AE制御部51により、撮像素子33によって得られた画像データから所定の測光エリアのデータが読み出され(ステップS112)、輝度値に相当する情報が取得される(ステップS113)。この輝度値に相当する情報は、AE制御のための情報として用いられ、簡易的にRGB3色成分のうちのG値が用いられることが多い(以下これを輝度情報Gと呼ぶ)。この輝度情報Gに応じて撮像素子33の次のフレームにおける電荷蓄積時間が設定され(ステップS114)、タイミングジェネレータ41により、所定の輝度レベルとなるように、次のフレームにおける電荷蓄積時間が制御される(ステップS117)。これがシャッタ速度の制御であり、電荷が蓄積される様子を図6に示す。即ち、取得した輝度レベルが大きい(明るい)ときは電荷蓄積時間が短くなり、輝度レベルが小さい(暗い)ときは電荷蓄積時間が長くなることで、露光量を安定させる。
【0100】
このように撮影待機時の露光量制御が行われることで、撮影者は液晶ディスプレイ等の表示部27で、露光量制御されたライブビュー画像を観察することができる。
【0101】
AE制御部51における実際の撮影時の露光量制御は、上記のシャッタ速度制御に加えて、絞りの制御も行われる(図5(b)のフローチャート参照)。上記同様(ステップS112、S113)に得られた測光エリアの輝度情報Gに応じて、絞りユニット43が制御され、絞り値が設定される(ステップS116)。即ち、取得した輝度レベルが大きい(明るい)ときは絞り値を小さくし、輝度レベルが小さい(暗い)ときは絞り値を大きくすることで、露光量を安定させる。シャッタ速度と組み合わせての調節レベルは、予め定められたプログラム線図のデータに基づき、例えば、撮像素子33の電荷蓄積時間が絞り値に応じて調整されるなどの制御が行われる(ステップS115、S117)。
【0102】
このように撮影時に露光量制御が行われることで、撮影者は任意の、或いは既定の、絞り値とシャッタ速度の組み合わせで、撮影画像に対する露光量設定を自動的に行うことができる。
【0103】
AF制御部52は、画像撮影時に画像の焦点を合わせる自動制御を行う。この合焦点制御は、例えば以下のように撮影光学系を駆動することで合焦点位置を検知し、その位置に合わせて停止させることで行われる(図7のフローチャート参照)。
【0104】
撮影光学系23の駆動が開始されると(ステップS121)、その駆動に伴い逐次、AF制御部52は、撮像素子33によって得られた画像データから所定の測距エリアのデータを読み出し(ステップS122)、このデータに応じてコントラスト情報を取得する(ステップS123)。これは、合焦点位置に達したかどうかを検知するためであり、次のように判定される。即ち、コントラスト情報は、測距エリアのデータの各隣接画素間の差を取ることにより、エッジ部のシャープさに依存するように設定、算出されるものであり、測距エリア全体での総和が最大に達した状態が合焦点と判断される(ステップS124、S125)。合焦点位置でないと判断された場合は、撮影光学系の移動が継続される(ステップS126)。
【0105】
撮影光学系23の移動に伴うコントラスト情報の変化と合焦点位置検出の様子を図8に示す。上記動作は、光学系を駆動しながら逐次コントラスト情報を取得して、合焦点位置を求めるという測距演算が行われたものであり、その焦点距離に合わせて撮影光学系23は停止される(ステップS127)。
【0106】
このようなAF制御により、撮影時に常に自動的にピントのあった撮影画像を得ることができる。
【0107】
画素補間部53は、撮像素子33におけるRGB各色成分を分散配置したCCD配列に対して、各色成分ごとに画素間の補間を行い、同一画素位置で各色成分値が得られるように画像データを処理する(図9のフローチャート参照)。
【0108】
画素補間部53は、撮像素子33によって得られたRGB画像データ(ステップS141)をRGBの各画素フィルタパターンでマスキングし(ステップS142、S144、S146)、その後で平均補間(画素補間ともいう)を行う(ステップS143、S145、S147)。このうち、高帯域にまで画素を有するGの画素フィルタパターンは、周辺4画素の中間2値の平均値に置換して平均補間を行うメディアン(中間値)フィルタであり、RとBの画素フィルタパターンは、周辺9画素から同色に対して平均補間を行うものである。
【0109】
AWB制御部54は、撮影画像におけるホワイトバランスを自動的に調整する。撮影された画像は、その中にRGBのカラーバランスがとれている(総和すればホワイト)被写体領域があるものという想定で、その領域のホワイトバランスを達成するように、画像のRGBの各成分値に対するレベル調整を行う。このホワイトバランス処理は、例えば以下のように行われる(図10のフローチャート参照)。
【0110】
AWB制御部54は、撮像素子33によって得られた画像データの輝度や彩度のデータから(ステップS131)、本来ホワイトであると思われる領域を推測する(ステップS132)。その領域について、RGB各成分値の平均強度、及びG/R比、G/B比を求め、G値に対するR値、B値の補正ゲインを算出する(ステップS133、S134)。これに基づき、画像全体における各色成分に対するゲインの補正を行う(ステップS135)。
【0111】
このようなAWB制御により、撮影時に生ずる画面全体のカラーバランスの崩れを自動的に補正することができ、実際の被写体の照明状態に拘わらず、安定した色調の画像を得ることができる。
【0112】
ガンマ補正部55は、撮影画像の階調性を出力媒体の特性に適するように変換する処理を行う。
【0113】
ガンマ特性とは階調特性のことであり、入力階調に対してどのように出力階調を設定するかを補正値或いは補正曲線などで示すものである。図11に、入力値に対して、補正した出力値を示す補正曲線の例を示す。ガンマ補正は、この補正値或いは補正曲線などに従い、入力値に対する出力値への変換を行う変換処理となる。出力媒体によってこの階調特性は異なるため、その出力媒体に適した階調とするために、このガンマ特性の補正を行う必要がある。これにより、リニア画像はノンリニア画像に変換されることになる。
【0114】
出力媒体としては一般的にはモニタが設定され、一般的なモニタのガンマ特性に合うように撮影画像のガンマ補正は行われる。
【0115】
本実施形態において、ガンマ補正部55は、画像処理部10内の階調変換処理部108で階調変換処理が施されたリニア画像をノンリニア画像に変換する処理を行う。従って、ガンマ補正部55は、第2の階調変換処理手段として機能する。
【0116】
なお、リニア画像に適用されるガンマ特性の一例を図11に示したが、特定の出力機器・観察条件に応じてガンマ特性を予め複数設定しておき、その複数のガンマ特性の中から選択するようにすることが好ましい。
【0117】
(画像処理部10の内部構成)
図12に、画像処理部10の内部構成を示す。画像処理部10は、撮像装置1での撮影画像に対して、シーン判別に基づく階調の補正動作を制御するものであり、撮影処理部20での処理後に、或いはその処理とは独立して、画像取得、シーン判別、階調処理条件設定などの一連の処理を実行する。
【0118】
画像処理部10は、図12に示すように、第1画像取得部101、第2画像取得部102、占有率算出部103、指標算出部104、シーン判別部105、補正条件処理取得部106、階調処理条件設定部107、階調変換処理部108により構成される。
【0119】
第1画像取得部101は、レリーズボタン28が全押しされたタイミングで、撮像素子33に写った最新の画像の画像データを、撮影処理部20を介して第1の画像として取得する。ここで、第1の画像は、本発明のリニア画像に対応する。また、第1画像取得部101は、撮影時に算出される輝度情報も合わせて取得する。即ち、第1画像取得部101は、輝度情報取得手段として機能する。本実施形態で取得する輝度情報は輝度値(Brightness_Value、以後BVと称する。)であり、撮影時における測光値から算出され、Exif(Exchangeable_Image_File_Format)データとして画像データに付加記録されるものである。取得した第1の画像の画像データ及び輝度情報BVはメモリ32に保持される。
【0120】
第2画像取得部102は、取得した第1の画像を、N×M個の矩形の領域(垂直方向にM個及び水平方向にN個に分割された領域)に分割する。図13(a)に、第1の画像の一例を示し、図13(b)に、当該第1の画像が22×14個の領域に分割された例を示す。なお、分割領域の数は特に限定されない。本実施形態では、分割された各領域を画像データの「画素」と見なし、分割された画像を実質的にサイズが縮小された画像として扱う。この縮小された画像が、第2の画像であり、上記操作により第2の画像を取得することになる。
以上のように、第1画像取得部101及び第2画像取得部102は、画像取得手段として機能する。
【0121】
占有率算出部103は、第2の画像の画像データ、即ち画像を構成する各画素に対して、色情報を取得する。取得された色情報に基づいて、画像の各画素を、明度と色相の組み合わせからなる所定の階級に分類し(図30参照)、分類された階級毎に、当該階級に属する画素が画像全体に占める割合を示す第1の占有率を算出する。即ち、占有率算出部103は、第1の占有率算出手段として機能する。
【0122】
また、占有率算出部103は、各画素を、第2の画像の画面の外縁からの距離と明度の組み合わせからなる所定の階級に分類し(図31参照)、分類された階級毎に、当該階級に属する画素が画像全体に占める割合を示す第2の占有率を算出する。即ち、占有率算出部103は、第2の占有率算出手段としても機能する。
【0123】
占有率算出部103において実行される占有率算出処理については、後に図29を参照して詳細に説明する。
【0124】
指標算出部104は、占有率算出部103で算出された第1の占有率に、撮影条件に応じて予め設定された係数を乗算することにより、撮影シーンを特定するための指標1及び指標2を算出する。即ち、指標算出部104は、第1の指標算出手段及び第2の指標算出手段として機能する。
【0125】
また、指標算出部104は、占有率算出部103で算出された第2の占有率に、撮影条件に応じて予め設定された係数を乗算することにより、撮影シーンを特定するための指標3を算出する。即ち、指標算出部104は第3の指標算出手段としても機能する。
【0126】
更に、指標算出部104は、第2の画像の画面中央部における平均輝度値と、最大輝度値と平均輝度値との差分値のそれぞれに、撮影条件に応じて予め設定された係数を乗算することにより、撮影シーンを特定するための露出撮影度指標を算出する。即ち、指標算出部104は、第4の指標算出手段としても機能する。
【0127】
また、指標算出部104は、第2の画像の画面中央部における肌色領域の平均輝度値(指標7とする)と、指標1及び指標3と、前述の撮影時の輝度情報BVとに、それぞれ、撮影条件に応じて予め設定された係数を乗算して和をとることにより、新たな自然光指標を算出する。即ち、指標算出部104は、第5の指標算出手段としても機能する。
【0128】
また、指標算出部104は、前記平均輝度値と、指標2及び指標3と、前述の撮影時の輝度情報BVとに、それぞれ、撮影条件に応じて予め設定された係数を乗算して和をとることにより、新たな輝度比指標を算出する。即ち、指標算出部104は第6の指標算出手段としても機能する。
【0129】
指標算出部104において実行される指標算出処理については、後に図32を参照して詳細に説明する。
【0130】
シーン判別部105は、指標算出部104で算出された各指標に基づいて、第1の画像の撮影シーンを判別する。即ち、シーン判別部105は、シーン判別手段として機能する。ここで、撮影シーンとは、順光、逆光、近接フラッシュ等の被写体を撮影する時の光源条件を示しており、主要被写体(主に人物のことを指すが、これに限るものではない)のオーバー度、アンダー度などもこれに含まれる。撮影シーン判別の方法については、後に詳細に説明する。
【0131】
以上のように、占有率算出部103、指標算出部104及びシーン判別部105は、シーン判別処理手段として機能する。
【0132】
補正処理条件取得部106は、操作部38(モードダイヤル29、十字キー22)により入力された補正処理条件(「補正なし」、「明るさ補正のみ」、「覆い焼きのみ」、「明るさ補正+覆い焼き」のモード、および明るさ補正処理条件レベル)を、撮影処理部20を介して取得し、当該取得した補正処理条件と、メモリ32に予め記憶された補正処理条件テーブルとに基づいて、明るさ補正の実行の度合いを示す明るさ補正処理条件と、覆い焼きの実行の度合いを示す覆い焼き処理条件を設定する。従って、補正処理条件取得部106は、補正処理条件設定手段として機能する。
【0133】
次表1に、補正処理条件テーブルの一例を示す。
【表1】

【0134】
表1の補正処理条件テーブルに示すように、補正処理条件としての「補正なし」、「明るさ補正のみ」、「覆い焼きのみ」、「明るさ補正+覆い焼き」のモード、および明るさ補正処置条件レベルに基づいて、明るさ補正処理条件及び補正処理処理条件が決まる。明るさ補正処理条件は、階調処理条件設定部107により撮影シーンのみにより算出される明るさ補正量を100%とした場合の明るさ補正の適応量[%]と、明るさ補正の調整量のリミッタとを含む。
【0135】
適応量とは、算出された補正量を実際に画像に反映させる量を調整する重み系数値である。リミッタとは、適応量によって調整された補正値の最大値及び最小値を制限させるための値である。
【0136】
具体的にリミッタは、後述の図38に示す複数の階調変換曲線に付与された数(ボタン数)のうち、実際に階調補正を行う階調変換曲線として選択できる階調変換曲線の最大又は最低のボタン数を示す。例えば、リミッタが±5である場合に、階調処理条件設定部107により撮影シーンのみにより算出される明るさ補正量の階調変換曲線のボタン数が+6以上の場合には、+5のボタン数の階調変換曲線が設定され、同じく撮影シーンのみにより算出される明るさ補正量の階調変換曲線のボタン数が−6以下の場合には、−5のボタン数の階調変換曲線が設定される。覆い焼き処理条件は、覆い焼きを行う度合いが0%又は100%で示される。
【0137】
ここで、ボタン数について説明する。本実施の形態において、図38の階調変換曲線に示すように、補正量(明るさ補正量)の単位にボタン数を用いる。ボタン数とは、小規模現像所において銀塩写真プリントを作成するための装置(所謂ミニラボ)に備えられた手動ボタンの操作数に由来するものであり、マイナス値が画像データ、又は写真プリントの低濃度(高明度)化、プラス値が高濃度(低明度)化を表している。なお、ボタン数は次式(A)で算出される。
ボタン数=補正量÷(キー変化率×キー補正係数) …(A)
【0138】
補正量(明るさ補正量)とは、例えば人物顔領域の明るさを最適化するために必要な、画像データ値の変化量であり、16bit、12bit、あるいは8bitなどの値が用いられる。
キー補正係数とは、銀塩印画紙への露光量変化が0.1%に相当する画像データ値の変化量であり、画像データが16bitのときのキー補正係数は、24.78となる。
キー変化率は、1ボタンあたりの画像データの変化量を規定するものであり、値が大きくなるにつれ変化量が増大する。キー変化率が150のときの1ボタンあたりの画像データの変化量は、銀塩印画紙への露光量変化の15%に相当する。
【0139】
すなわち、キー変化率が150のとき、1ボタンは16bit値で約3717(=150×24.78)、12bit値で約232(=3717÷16)、8bit値で約15(=3717÷257)の変化量を、補正量として画像データに与えることになる。
【0140】
階調処理条件設定部107は、指標算出部104で算出された各指標、シーン判別部105で判別された撮影シーン、および補正処理条件取得部106により取得された補正処理条件としての明るさ補正処理条件及び覆い焼き処理条件に基づいて、第1の画像に対する階調処理条件を設定する。具体的には、階調処理条件設定部107は、指標算出部104で算出された各指標、シーン判別部105で判別された撮影シーン及び補正処理条件取得部106で取得された明るさ補正処理条件に基づいて、第1の画像に明るさ補正処理を行うための第1の階調処理条件を設定し、補正処理条件取得部106で取得された覆い焼き処理条件に基づいて、第1の画像に覆い焼き処理を行うための第2の階調処理条件を設定する。即ち、階調処理条件設定部107は、階調処理条件設定手段として機能する。階調処理条件の設定処理については、後に図37を参照して詳細に説明する。
【0141】
階調変換処理部108は、階調処理条件設定部107において設定された第1の階調処理条件に従い、第1の画像(リニア画像)に対する階調変換処理を実行する。従って、階調変換処理部108は、第1の階調変換処理手段として機能する。
【0142】
その他の画像処理部109は、階調処理条件設定部107において設定された第2の階調処理条件に従い、第1の画像に対する階調変換処理を実行する。従って、その他の画像処理部109は、第3の階調変換処理手段として機能する。第2の階調処理条件の階調変換処理が施された第1の画像は、撮影処理部20に出力される。
【0143】
プロセッサ31は、上記画像処理部10で行われる処理以外に、公知技術に基づいて、自動ホワイトバランス処理、ガンマ変換処理などの撮影処理部20での処理や、またその他画像処理、画像フォーマット変換、画像データの記録などの処理動作を制御する機能を有する。
【0144】
またプロセッサ31における各部の処理は、基本的にハードウエア処理によって行われるが、一部についてはメモリ32に記憶(保存)されているプログラムを実行するなどしてソフトウェア処理によって行われる。
【0145】
図14に、階調処理条件設定部107の内部構成を示す。階調処理条件設定部107は、第1仮補正量設定部201、第1混合係数設定部202、第2仮補正量演算部203、第2混合係数設定部204、補正量演算部205により構成される。
【0146】
第1仮補正量設定部201は、リニア画像の明るさ解析値と、明るさの再現目標値と、指標算出部104で算出された輝度比指標及び露出撮影度指標に基づいて、当該リニア画像に対する第1仮補正量を設定する。n個の明るさ解析値が入力された場合、第1仮補正量設定部201は、各明るさ解析値を再現目標値へと近似するために必要な補正量としての第1仮補正量をn+4個設定する。即ち、第1仮補正量設定部201は、第1仮補正量設定手段として機能する。
【0147】
図15に、輝度比指標と第1仮補正量key_auto[0]との関係を定義した1次元LUT(Look Up Table)を示し、図16に、露出撮影度指標と第1仮補正量key_auto[1]との関係を定義した1次元LUTを示し、図17に、肌色平均輝度と第1仮補正量key_auto[2]との関係を定義した1次元LUTを示し、図18に、肌色平均輝度又は全体平均輝度と第1仮補正量key_auto[3]との関係を定義した1次元LUTを示し、図19に、輝度比指標と第1仮補正量key_auto[4]との関係を定義した1次元LUTを示し、図20に、露出撮影度指標と第1仮補正量key_auto[5]との関係を定義した1次元LUTを示す。
【0148】
本実施形態では、階調処理条件設定部107に入力される明るさ解析値は、肌色平均輝度及び全体平均輝度(即ち、n=2)とする。この場合、第1仮補正量設定部201では、図15〜図20に示した1次元LUTを用いて、第1仮補正量として6個の仮補正量(key_auto[0]〜[5])が設定される。
【0149】
第1混合係数設定部202は、指標算出部104で算出された自然光指標に基づいて、第1仮補正量設定部201で設定されたn+4個の第1仮補正量のうちのn+2個(key_auto[0]〜[3])に乗算する重み係数としての第1混合係数をn+2個設定する。即ち、第1混合係数設定部202は、第1混合係数設定手段として機能する。図21〜図24に、自然光指標と第1混合係数wgt[0]〜wgt[3]との関係を定義した1次元LUTを示す。
【0150】
なお、図15〜図20の1次元LUTと、図21〜図24の1次元LUTは、メモリ32に格納されている。
【0151】
第2仮補正量演算部203は、n+2個の第1仮補正量(key_auto[0]〜[3])と、第1混合係数設定部202で設定されたn+2個の第1混合係数wgt[0]〜wgt[3]に基づいて、リニア画像に対する第2仮補正量を設定する。即ち、第2仮補正量演算部203は、第2仮補正量設定手段として機能する。式(2)に、第2仮補正量の算出式を示す。
第2仮補正量=key_auto[0]×wgt[0]+key_auto[1]×wgt[1]+key_auto[2]×wgt[2]+key_auto[3]×wgt[3] …(2)
以後、式(2)の第2仮補正量をkey_auto[6]と表記する。
【0152】
第2混合係数設定部204は、指標算出部104で算出された自然光指標、輝度比指標、露出撮影度指標の値と、撮影シーンを判別するためのシーン判別マップに基づいて、2個の第1仮補正量key_auto[4]、key_auto[5]と、第2仮補正量key_auto[6]の各々に乗算する重み係数として3個の第2混合係数wgt[4]〜[6]を設定する。即ち、第2混合係数設定部204は、第2混合係数設定手段として機能する。なお、本実施の形態では、第2混合係数設定部204における、自然光指標、輝度比指標、露出撮影度指標の値及びシーン判別マップに基づいてシーン判別を行う構成は、シーン判別部105と共有の構成とするが、これに限定されるものではなく、別々の構成としてもよい。
【0153】
図25(a)に、自然光指標及び輝度比指標に基づいてリニア画像の撮影シーン(順光、逆光、主要被写体がオーバー、アンダー、低確度領域)を判別するための判別マップを示し、図25(b)に自然光指標及び露出撮影度指標に基づいてリニア画像の撮影シーン(順光、逆光、主要被写体がオーバー、アンダー、低確度領域)を判別するための判別マップを示す。図25において、低確度領域とは、順光、逆光、主要被写体がオーバー、アンダーと判別される確度が(所定値より)低い領域を表している。
【0154】
図26は、撮影シーン別に第2混合係数wgt[4]〜[6]の値を表す係数算出テーブルを示している。この係数算出テーブルは、メモリ32に格納されている。図26において、撮影シーン項目に示された各数字は、図25の各撮影シーンに付与された数字である。例えば、図26において、撮影シーン項目の“3”は、図25(a)の低確度領域(3)を表す。
【0155】
補正量演算部205は、2個の第1仮補正量key_auto[4]、key_auto[5]と、第2仮補正量key_auto[6]と、第2混合係数設定部204で設定された3個の第2混合係数wgt[4]〜[6]から、式(3)に示すように、階調調整パラメータとしての明るさ補正量を算出する。
明るさ補正量
=key_auto[4]×wgt[4]+key_auto[5]×wgt[5]+key_auto[6]×wgt[6] …(3)
即ち、補正量演算部205は、階調調整パラメータ算出手段として機能する。
【0156】
また、補正量演算部205は、明るさ補正量から上記式(A)に基づいてボタン数を算出し、この算出したボタン数に対し、補正処理条件取得部106から入力される明るさ補正処理条件のリミッタを満足するボタン数を決定する。階調処理条件設定部107では、後述するように、補正量演算部205により決定されたボタン数と、補正処理条件取得部106から入力される明るさ補正処理条件の適応量と、シーン判別部105によるシーン判別結果とを満足する階調変換曲線が第1の階調処理条件として設定される。
【0157】
(撮像装置1の動作フロー)
次に、本実施形態における撮像装置1の動作について説明する。
【0158】
以下では、撮影対象物を「主要被写体」と呼ぶことにする。
【0159】
まず、図27のフローチャートを参照して、撮像装置1において実行される処理の全体の流れを説明する。図27(a)に、撮像装置1において実行される処理の全体の流れを示し、図27(b)に、画像処理条件算出処理を示す。
【0160】
図27(a)に示すように、まず、電源スイッチ26がONに操作されると(電源が投入されると)、メモリ32のリセット等の前処理が行われる(ステップS1)。ユーザは、主要被写体が撮像装置1の被写界に入るように撮像装置1をその主要被写体の方に向け、撮影のための操作を関始する。次いで、レリーズボタン28が押されて撮影が行われる(ステップS2)。撮影により撮像素子33に結像した画像は電気信号として取り込まれ、CCD配列に基づく補間処理が行われる(ステップS3)。次いで、撮影画像として、第1の画像(リニア画像)が取得され(ステップS4)、メモリ32に保持される。
【0161】
撮影により取得された第1の画像(リニア画像)には、AWB(自動ホワイトバランス)の処理が施される(ステップS5)。これは、以下に述べる第2の画像(縮小リニア画像)の取得が行われてから、第1の画像と第2の画像とに対して別途処理されてもよい。
【0162】
AWB処理の後、第1の画像に対する画像処理条件(第1、第2の階調補正処理条件)を算出して設定する画像処理条件算出処理が実行される(ステップS6)。
【0163】
第1の階調変換処理工程であるステップS7では、階調変換処理部108により、画像処理条件算出処理で第2の画像に基づいて設定された第1の階調処理条件に基づいて、撮影画像である第1の画像の画像データに対する階調変換処理が行われる。ステップS7の階調変換処理は、シーン輝度のどこを中心に写真階調を再現するか、或いは撮影シーンの光源条件などによる階調への影響を補正するものであり、後述するステップS14でのシーン判別結果と、後述するステップS15で取得された補正処理条件としての明るさ補正処理条件と、により後述するステップS16で設定された第1の階調処理条件に基づいて行われるものである。
【0164】
第2の階調変換処理工程であるステップS8では、ガンマ補正部55が、AWB処理、階調変換処理後の第1の画像(リニア画像)に対しガンマ変換処理を施すことによって、当該リニア画像がノンリニア画像に変換される。
【0165】
第3の階調変換処理工程であるステップS9では、その他の画像処理部109により、ガンマ変換処理後の第1の画像(ノンリニア画像)に対し、第2の階調処理条件の階調変換処理が施される。ステップS9の階調変換処理は、覆い焼き処理を施すものであり、後述するステップS15で取得された補正処理条件としての覆い焼き処理条件により後述するステップS16で設定された第2の階調処理条件に基づいて行われるものである。
【0166】
次いで、画像記録のため、画像フォーマットの変換が行われる(ステップS10)。一般的にはJPEG形式の画像に変換処理される。その後、JPEG形式の画像データが、保存用の記録媒体(SDメモリカード又はマルチメディアカード(MMC)等)に記録される(ステップS11)。Exif形式の画像記録においては、輝度情報BVもExifデータとして付加的に記録される。次の撮影に移るか、或いは電源スイッチ26がOFFに操作されると、撮像装置1における動作は終了する。
【0167】
なお、階調変換処理後のリニア画像をRawデータとして保存し、現像ソフトウェアを用いてノンリニア画像に変換するようにしてもよい。また、ステップS9のその他の画像処理は、ステップS7の前段階、ステップS8の前段階等で行うこととしてもよい。
【0168】
次に、図27(b)を参照して、ステップS6の画像処理条件算出処理を示す。ステップS5のAWB処理の後、第1の画像の画像データは、一方で複数の分割領域からなる分割画像、即ち第2の画像(縮小リニア画像)として取得される(ステップS12)。ステップS4及びステップS12は、本発明の画像取得工程に対応する。分割画像の各分割領域は第2の画像の画素であり、第2の画像は第1の画像のサイズを縮小した画像となる。図13(a)に、第1の画像の一例を示し、図13(b)に、当該第1の画像が22×14個のセルに分割された例を示す。各セルが第2の画像の一画素に相当する。実際の画像データのサイズ縮小方法は、単純平均やバイリニア法やバイキュービック法など公知の技術を用いることができる。
【0169】
一方、撮影が行われると、輝度情報取得工程であるステップS13では、輝度情報BVの取り込みが行われる。ステップS13で取得される輝度情報BVは、撮影時に測光値から算出され、後で撮影画像がExif形式で記録される際に、合わせて記録されるものである。取得された輝度情報BVはメモリ32に保持される。
【0170】
次いで、シーン判別処理工程であるステップS14では、ステップS12で取得された第2の画像の画像データに基づいて、撮影シーンを判別するシーン判別処理が行われる。ステップS14におけるシーン判別処理については、後に図28を参照して詳細に説明する。
【0171】
次いで、補正処理条件設定工程であるステップS15では、補正処理条件取得部106により、操作部38により入力された補正処理条件と、メモリ32に予め記憶された補正処理条件テーブルとに基づいて、明るさ補正処理条件及び覆い焼き処理条件が設定される。
【0172】
次いで、階調処理条件設定工程であるステップS16では、ステップS14のシーン判別処理で得られた各指標及び撮影シーンの判別結果と、ステップS15の明るさ補正処理条件及び覆い焼き処理条件とに基づいて、第1の画像の階調変換処理のために必要な条件を設定する処理が行われる。ステップS16では、各指標及び撮影シーンの判別結果と明るさ補正処理条件とに基づいて第1の階調処理条件が設定され、覆い焼き処理条件に基づいて、第2の階調処理条件が設定される。ステップS16の階調処理条件設定処理については、後に図37を参照して説明する。
【0173】
なお、本実施形態では、ステップS16で階調処理条件を設定し、ステップS7〜S9で階調変換処理を行う形態としているが、第1の画像に対する画像処理以外に、例えばその撮影シーンに対する最適な画像を取得するための露出条件をリアルタイムに算出し、撮影操作に反映するといった処理などを行うようにしてもよい。
【0174】
(シーン判別処理1のフロー)
次に、図28のフローチャートを参照して、画像処理部10において実行されるシーン判別処理(図27のステップS14)について説明する。
【0175】
シーン判別処理は、図28に示すように、色空間変換処理(ステップS20)、占有率算出処理(ステップS21)、指標算出処理(ステップS22)、シーン判別(ステップS23)の各処理により構成される。以下、図29〜図36を参照して、図28に示す各処理について詳細に説明する。
【0176】
ステップS20の色空間変換処理では、まず、撮影された第1の画像から得られた第2の画像の各画素のRGB値、輝度値及びホワイトバランスを示す情報が取得される。なお、輝度値としては、RGB値を公知の変換式に代入して算出した値を用いてもよい。次いで、取得されたRGB値がHSV表色系に変換され、画像の色情報が取得される。HSV表色系とは、画像データを色相(Hue)、彩度(Saturation)、明度(Value又はBrightness)の3つの要素で表すものであり、マンセルにより提案された表色体系を元にして考案されたものである。HSV表色系への変換は、HSV変換プログラム等を用いて行われ、通常、入力であるR、G、Bに対して、算出された色相値Hは、スケールを0〜360と定義し、彩度値S、明度値Vは、単位を0〜255と定義している。
【0177】
なお、本実施形態において、「明度」は特に注釈を設けない限り一般に用いられる「明るさ」の意昧である。以下の記載において、HSV表色系のV(0〜255)を「明度」として用いるが、他の如何なる表色系の明るさを表す単位系を用いてもよい。その際、本実施形態で記載する各種係数等の数値を、改めて算出し直すことは言うまでもない。
【0178】
また、本実施形態において、「色相」は特に注釈を設けない限り一般に用いられる「色」の意味である。以下の記載において、HSV表色系のH(0〜360)を「色相」として用いるが、例えば赤色差値(Cr)や青色差値(Cb)によって表現される色を用いてもよい。その際、本実施形態で記載する各種係数等の数値を、改めて算出し直すことは言うまでもない。ステップS20では、上記のようにして求められたH、S、Vの値が色情報として取得される。
<占有率算出処理1>
次に、図29のフローチャートを参照して、ステップS21の占有率算出処理について説明する。
【0179】
まず、色空間変換処理で算出されたHSV値に基づいて、第2の画像の各画素が、色相と明度の組み合わせからなる所定の階級に分類され、分類された階級毎に累積画素数を算出することによって2次元ヒストグラムが作成される(ステップS30)。
【0180】
図30に、明度と色相の組み合わせからなる階級を示す。ステップS30では、明度(V)は、明度値が0〜5(v1)、6〜12(v2)、13〜24(v3)、25〜76(v4)、77〜109(v5)、110〜149(v6)、150〜255(v7)の7つの階級に分割される。図30に示すように、最も低明度の階級における明度の範囲よりも、最も高明度の階級における明度の範囲の方が広い。
【0181】
色相(H)は、色相値が0〜39、330〜359の肌色色相領域(H1及びH2)、色相値が40〜160の緑色色相領域(H3)、色相値が161〜250の青色色相領域(H4)、赤色色相領域(H5)の4つの領域に分割される。なお、赤色色相領域(H5)は、撮影シーンの判別への寄与が少ないとの知見から、以下の計算では用いていない。肌色色相領域は、さらに、肌色領域(H1)と、それ以外の領域(H2)に分割される。以下、肌色色相領域(H=0〜39、330〜359)のうち、下記の式(5)を満たす色相’(H)を肌色領域(H1)とし、式(5)を満たさない領域を(H2)とする。
【0182】
10<彩度(S)<175;
色相’(H)=色相(H)+60 (0≦色相(H)<300のとき);
色相’(H)=色相(H)−300 (300≦色相(H)<360のとき).
輝度(Y)=R×0.30+G×0.59+B×0.11 …(4)
として、
色相’(H)/輝度(Y)<3.0×(彩度(S)/255)+0.7 …(5)
従って、第2の画像における階級の数は4×7=28個となる。また、最大の明度値(255)の1割の値以内に、少なくとも3つの階級(v1、v2、v3)を有する。なお、式(4)及び式(5)において明度(V)を用いることも可能である。
【0183】
ステップS30の後、第2の画像の各画素が、画面の外縁からの距離と明度の組み合わせからなる所定の階級に分類され、分類された階級毎に累積画素数を算出することによって2次元ヒストグラムが作成される(ステップS31)。
【0184】
図31(a)に、ステップS31において、第2の画像の画面の外縁からの距離に応じて分割された3つの領域n1〜n3を示す。領域n1が外枠であり、領域n2が外枠の内側の領域であり.領域n3が第2の画像の中央部の領域である。ここでn1〜n3は略同等の画素数となるように分割することが好ましい。また本実施形態においては3つの分割としたがこれに限定されるものではない。また、ステップS31において、明度は、上述のようにv1〜v7の7つの領域に分割するものとする。図31(b)に、3つの領域n1〜n3と明度の組み合わせからなる階級を示す。図31(b)に示すように、第2の画像を画面の外縁からの距離と明度の組み合わせからなる階級に分類した場合の階級の数は3×7=21個となる。
【0185】
ステップS30において2次元ヒストグラムが作成されると、明度と色相の組み合わせからなる所定の階級毎に算出された累積画素数の全画素数(N×M個)に占める割合を示す第1の占有率が算出される(ステップS32)。即ち、ステップS30とステップS32は第1の占有率算出工程に対応する。
【0186】
明度領域vi、色相領域Hjの組み合わせからなる階級において算出された第1の占有率をRijとすると、各階級における第1の占有率は表2のように表される。
【表2】

【0187】
ステップS31において2次元ヒストグラムが作成されると、画面の外縁からの距離と明度の組み合わせからなる所定の階級毎に算出された累積画素数の全画素数に占める割合を示す第2の占有率が算出され(ステップS33)、本占有率算出処理が終了する。即ち、ステップS31とステップS33は第2の占有率算出工程に対応する。
【0188】
明度領域vi、画面領域njの組み合わせからなる各階級において算出された第2の占有率をQijとすると、各階級における第2の占有率は表3のように表される。
【表3】

【0189】
なお、各画素を画面の外縁からの距離、明度及び色相からなる階級に分類し、分類された階級毎に累積画素数を算出することによって3次元ヒストグラムを作成してもよい。以下では、2次元ヒストグラムを用いる方式を採用するものとする。
<指標算出処理1>
次に、図32のフローチャートを参照して、指標算出部104において実行される指標算出処理(図28のステップS22)について説明する。
【0190】
まず、第1の指標算出工程であるステップS40では、占有率算出処理において階級毎に算出された第1の占有率に、撮影条件に応じて予め設定された係数(第1の係数)を乗算して和をとることにより、撮影シーンを特定するための指標1が算出される。指標1は、主要被写体のオーバー度を表す指標であり、「主要被写体がオーバー」と判別されるべき画像のみを他の撮影シーンから分離するためのものである。
【0191】
次いで、第2の指標算出工程であるステップS41では、同じく階級毎に算出された第1の占有率に、撮影条件に応じて予め設定された第1の係数とは異なる係数(第2の係数)を乗算して和をとることにより、撮影シーンを特定するための指標2が算出される。指標2は、空色高明度、顔色低明度等の逆光撮影時の特徴を複合的に表す指標であり、「逆光」、「主要被写体がアンダー」と判別されるべき画像のみを他の撮影シーンから分離するためのものである。
【0192】
以下、指標1及び指標2の算出方法について詳細に説明する。
【0193】
表4に、指標1を算出するために必要な第1の係数を階級別に示す。表4に示された各階級の係数は、表2に示した各階級の第1の占有率Rijに乗算する重み係数であり、撮影条件に応じて予め設定されている。
【表4】

【0194】
表4によると、高明度(v6)の肌色色相領域(H1)に分布する領域から算出される第1の占有率には、正(+)の係数が用いられ、それ以外の色相である青色色相領域から算出される第1の占有率には、負(−)の係数が用いられる。図33は、肌色領域(H1)における第1の係数と、その他の領域(緑色色相領域(H3))における第1の係数を、明度全体に渡って連続的に変化する曲線(係数曲線)として示したものである。表4及び図33によると、高明度(V=77〜150)の領域では、肌色領域(H1)における第1の係数の符号は正(+)であり、その他の領域(例えば、緑色色相領域(H3))における第1の係数の符号は負(−)であり、両者の符号が異なっていることがわかる。
【0195】
明度領域vi、色相領域Hjにおける第1の係数をCijとすると、指標1を算出するためのHk領域の和は、式(6)のように定義される。
【数2】

【0196】
従って、H1〜H4領域の和は、下記の式(6−1)〜(6−4)のように表される。
H1領域の和=R11×0+R21×0+(中略)…+R71×(−8) …(6−1)
H2領域の和
=R12×(−2)+R22×(−1)+(中略)…+R72×(−10) …(6−2)
H3領域の和=R13×5+R23×(−2)+(中略)…+R73×(−12) …(6−3)
H4領域の和=R14×0+R24×(−1)+(中略)…+R74×(−12) …(6−4)
【0197】
指標1は、式(6−1)〜(6−4)で示されたH1〜H4領域の和を用いて、式(7)のように定義される。
指標1=H1領域の和+H2領域の和+H3領域の和+H4領域の和+1.5 …(7)
【0198】
表5に、指標2を算出するために必要な第2の係数を階級別に示す。表5に示された各階級の係数は、表2に示した各階級の第1の占有率Rijに乗算する重み係数であり、撮影条件に応じて予め設定されている。
【表5】

【0199】
表5によると、肌色色相領域(H1)の中間明度に分布する領域(v4、v5)から算出される占有率には負(−)の係数が用いられ、肌色色相嶺域(H1)の低明度(シャドー)領域(v2、v3)から算出される占有率には係数0が用いられる。図34は、肌色領域(H1)における第2の係数を、明度全体にわたって連続的に変化する曲線(係数曲線)として示したものである。表5及び図34によると、肌色色相領域の、明度値が25〜150の中間明度領域の第2の係数の符号は負(−)であり、明度値6〜24の低明度(シャドー)領域の第2の係数は0であり、両領域での係数に大きな違いがあることがわかる。
【0200】
明度領域vi、色相領域Hjにおける第2の係数をDijとすると、指標2を算出するためのHk領域の和は、式(8)のように定義される。
【数3】

【0201】
従って、H1〜H4領域の和は、下記の式(8−1)〜(8−4)のように表される。
H1領域の和=R11×0+R21×0+(中略)…+R71×2 …(8−1)
H2領域の和=R12×(−2)+R22×(−1)+(中略)…+R72×2 …(8−2)
H3領域の和=R13×2+R23×1+(中略)…+R73×3 …(8−3)
H4領域の和=R14×0+R24×(−1)+(中略)…+R74×3 …(8−4)
【0202】
指標2は、式(8−1)〜(8−4)で示されたH1〜H4領域の和を用いて、式(9)のように定義される。
指標2=H1領域の和+H2領域の和+H3領域の和+H4領域の和+1.7 …(9)
【0203】
指標1及び指標2は、第2の画像の明度と色相の分布量に基づいて算出されるため、画像がカラー画像である場合の撮影シーンの判別に有効である。
【0204】
指標1及び指標2が算出されると、第3の指標算出工程であるステップS42で、占有率算出処理において階級毎に算出された第2の占有率に、撮影条件に応じて予め設定された第3の係数(第1の係数、第2の係数とは異なる係数)を乗算して和をとることにより、撮影シーンを特定するための指標3が算出される。指標3は、主要被写体がアンダーな逆光と主要被写体がオーバーな画像間における、画像データの画面の中心と外側の明暗関係の差異を示すものである。
【0205】
以下、指標3の算出方法について説明する。
【0206】
表6に、指標3を算出するために必要な第3の係数を階級別に示す。表6に示された各階級の係数は、表3に示した各階級の第2の占有率Qijに乗算する重み係数であり、撮影条件に応じて予め設定されている。
【表6】

【0207】
図35は、画面領域n1〜n3における第3の係数を、明度全体に渡って連続的に変化する曲線(係数曲線)として示したものである。
【0208】
明度領域vi、画面領域njにおける第3の係数をEijとすると、指標3を算出するためのnk領域(画面領域nk)の和は、式(10)のように定義される。
【数4】

【0209】
従って、n1〜n3領域の和は、下記の式(10−1)〜(10−3)のように表される。
n1領域の和=Q11×12+Q21×10+(中略)…+Q71×0 …(10−1)
n2領域の和=Q12×5+Q22×3+(中略)…+Q72×0 …(10−2)
n3領域の和
=Q13×(−1)+Q23×(−4)+(中略)…+Q73×(−8) …(10−3)
【0210】
指標3は、式(10−1)〜(10−3)で示されたn1〜n3領域の和を用いて、式(11)のように定義される。
指標3=n1領域の和+n2領域の和+n3領域の和+0.7 …(11)
【0211】
指標3は、第2の画像の明度の分布位置による構図的な特徴(全体画像の画面の外縁からの距離)に基づいて算出されるため、カラー画像だけでなくモノクロ画像の撮影シーンを判別するのにも有効である。
【0212】
また、例えば公知の方法によって検出された焦点検出領域に応じて、画面の外縁からの距離と明度の所定の階級から算出される第2占有率に対して乗算される第3の係数の重みを変えることで、より高精度にシーンを判別する指標を算出することが可能である。
【0213】
指標1〜3が算出されると、第4の指標算出工程であるステップS43で、第2の画像の画面中央部における肌色の平均輝度値と、第2の画像の最大輝度植と平均輝度値との差分値のそれぞれに、撮影条件に応じて予め設定された係数を乗算することにより、撮影シーンを特定するための露出撮影度指標が算出される。
【0214】
以下、図36のフローチャートを参照して、露出撮影度指標の算出処理について詳細に説明する。
【0215】
まず、第2の画像のRGB(Red、Green、Blue)値から、式(4)を用いて輝度Yが算出される。次いで、第2の画像の画面中央部における肌色領域の平均輝度値x1が算出される(ステップS50)。ここで、画面中央部とは、例えば、図31(a)に示した領域n3により構成される領域である。次いで、第2の画像の最大輝度値と平均輝度値との差分値x2=最大輝度値−平均輝度値が算出される(ステップS51)。
【0216】
次いで、第2の画像の輝度の標準偏差x3が算出され(ステップS52)、画面中央部における平均輝度値x4が算出される(ステップS53)。次いで、第2の画像における肌色領域の最大輝度値Yskin_maxと最小輝度値Yskin_minの差分値と、肌色領域の平均輝度値Yskin_aveとの比較値x5が算出される(ステップS54)。この比較値x5は、下記の式(12−1)のように表される。
x5=(Yskin_max−Yskin_min)/2−Yskin_ave …(12−1)
【0217】
次いで、ステップS50〜S54で算出された値x1〜x5の値の各々に、撮影条件に応じて予め設定された第4の係数を乗算して和をとることにより、露出撮影度指標が算出され(ステップS55)、露出撮影度指標算出処理が終了する。露出撮影度指標は、下記の式(12−2)のように定義される。
露出撮影度指標=0.05×x1+1.41×x2+(−0.01)×x3+(−0.01)×x4+0.01×x5−5.34 …(12−2)
この露出撮影度指標は、第2の画像の画面の構図的な特徴だけでなく、輝度ヒストグラム分布情報を持ち合わせており、特に、主要被写体がオーバーである撮影シーンとアンダー撮影シーンの判別に有効である。
【0218】
図32に戻る。露出撮影度指標が算出されると、第5の指標算出工程であるステップS44において、指標1、指標3、輝度情報BV及び第2の画像の画面中央部における肌色領域の平均輝度値に、撮影条件に応じて予め設定された重み係数(第5の係数)を乗算することにより、自然光指標が算出される。
【0219】
更に、第6の指標算出工程であるステップS45において、指標2、指標3、輝度情報BV、及び第2の画像の画面中央部における肌色領域の平均輝度値に、撮影条件に応じて予め設定された重み係数(第6の係数)を乗算することにより、輝度比指標が算出され、本指標算出処理が終了する。
【0220】
以下、自然光指標及び輝度比指標の算出方法について詳細に説明する。
【0221】
第2の画像の画面中央部における肌色領域の平均輝度値を指標7とする。ここでの画面中央部とは、例えば、図31(a)の領域n2及び領域n3から構成される領域である。このとき、自然光指標は、指標1、指標3、指標7、及び輝度情報BVを用いて式(13)のように定義され、輝度比指標は、指標2、指標3、指標7、及び輝度情報BVを用いて式(14)のように定義される。
自然光指標
=0.45×指標1+0.16×指標3+0.003×指標7−0.64×BV+4.00 …(13)
輝度比指標
=0.74×指標2+0.08×指標3+0.011×指標7−0.01×BV+1.35 …(14)
ここで式(13)及び式(14)において各指標に乗算される係数は、撮影条件に応じて予め設定されている。
【0222】
また輝度情報BVに基づいて、自然光指標、輝度比指標を算出する代わりに、指標1、指標2、指標3を算出するのに輝度情報BVを用いてもよい。その場合、自然光指標、輝度比指標を算出するのに輝度情報BVを用いる必要はない。
【0223】
なお、図36における平均輝度値(例えば、全体平均輝度値)の算出方法としては、撮像装置1の各受光部から得られた個別輝度データの単純な加算平均値を求めてもよいし、撮像装置1の測光方式としてよく用いられる中央重点平均測光に類似した、画面中心付近の受光部より得られた輝度データに重み付けを高く、画面の周辺付近の受光部より得られた輝度データに重み付けを低くして加算平均値を求める手法を用いてもよい。また、焦点検出領域に対応した受光部付近より得られた輝度データに重み付けを高くし、焦点検出位置から離れた受光部より得られた輝度データに重み付けを低くして加算平均値を求める手法等を用いてもよい。
<シーン判別1>
図28に戻って、シーン判別について説明する。
【0224】
露出撮影度指標、自然光指標、輝度比指標が算出されると、これらの指標の値に基づいて撮影シーンが判別される(ステップS23)。表7に、露出撮影度指標、自然光指標及び輝度比指標の値による撮影シーンの判別内容を示す。撮影時の輝度情報BVに基づき自然光指標及び輝度比指標は算出されており、輝度情報BVは撮影シーンの判別に間接的に寄与している。
【0225】
【表7】

表7に示した判別内容を、自然光指標、輝度比指標及び露出撮影度指標の座標系を用いて表したものが、図25の判別マップである。なお、表7では、図25に示した低確度領域については省略している。
【0226】
次に、図37のフローチャートを参照して、階調処理条件設定部107において実行されるステップS16の階調処理条件設定処理について説明する。
【0227】
まず、図15〜図20の1次元LUTから、リニア画像の明るさ解析値(n個:ここでは、肌色平均輝度、全体平均輝度の2個)と、図32の指標算出処理で算出された自然光指標、輝度比指標、露出撮影度指標に対応する値を抽出することにより、n+4個(6個)の第1仮補正量key_auto[0]〜[5]が設定される(ステップS61)。
【0228】
次いで、図21〜図24の1次元LUTから、自然光指標に対応する値を抽出することにより、n+2個(4個)の第1混合係数wgt[0]〜[3]が設定される(ステップS62)。次いで、4個の第1仮補正量key_auto[0]〜[3]と、4個の第1混合係数wgt[0]〜[3]を用いて、式(2)より第2仮補正量key_auto[6]が算出される(ステップS63)。
【0229】
次いで、係数算出テーブル(図26)から、判別マップ(図25)を用いて判別された撮影シーンに対応する3個の第2混合係数wgt[4]〜[6]が抽出され、設定される(ステップS64)。次いで、2個の第1仮補正量key_auto[4]、key_auto[5]と、第2仮補正量key_auto[6]と、3個の第2混合係数wgt[4]〜[6]を用いて、式(3)により、階調調整パラメータとしての明るさ補正量が算出される(ステップS65)。
【0230】
次いで、ステップS65で算出された明るさ補正量と、シーン判別処理によって判別された撮影シーンと、ステップS15で設定された明るさ補正処理条件とから、リニア画像に対する第1の階調処理条件が設定され、ステップS15で設定された覆い焼き処理条件からノンリニア画像に対する第2の階調処理条件が設定され(ステップS66)、本階調処理条件設定処理が終了する。
【0231】
図38(a)に、撮影シーンが順光である場合の階調変換曲線を階調調整パラメータ別(ボタン数別)に示し、図38(b)に、撮影シーンが逆光である場合の階調変換曲線を階調調整パラメータ別(ボタン数別)に示す。ステップS66では、階調設定処理条件設定部107において、先ず、ステップS65で算出された階調調整パラメータ(明るさ補正量)に対応するボタン数が上記式(A)に基づいて算出され、この算出したボタン数に対して明るさ補正処理条件(例えば、表1)のリミッタの条件を満足するボタン数が決定される。
【0232】
そして、決定されたボタン数に対応し、シーン判別処理によって判別された撮影シーンに対応する階調変換曲線が決定され、その決定された階調変換曲線に明るさ補正処理条件の適応量が乗算されて、その階調変換曲線が第1の階調処理条件として設定される。また、ステップS66では、覆い焼き処理条件(例えば、表1)に対応する階調変換曲線が選択され、その階調変換曲線が第2の階調処理条件として設定される。
【0233】
図37におけるステップS61〜S65の各ステップは、それぞれ、本発明における第1仮補正量設定工程、第1混合係数設定工程、第2仮補正量設定工程、第2混合係数設定工程、階調調整パラメータ算出工程に対応する。
【0234】
以上のように、第1の実施形態の撮像装置1によれば、リニア画像を用いて撮影シーンを判別し、当該撮影シーンの判別結果及び操作部38の操作入力に対応する明るさ補正処理条件に基づく第1の階調処理条件を、リニア画像取得時の露出補正と等価となるように定義したことにより、既存の自動露出制御、撮像素子の動作点変更、リニア画像からノンリニア画像への階調処理条件の変更を行うことなく、主要被写体(例えば、人物顔領域)の明るさをユーザの好みに合わせて最適化することが可能となる。また、第1の階調処理条件と別に、操作部38の操作入力に対応する覆い焼き処理条件に基づく第2の階調処理条件を設定することにより、操作入力により画像に覆い焼き処理を施すことができる。
【0235】
(第2の実施形態)
次に、本発明の第2の実施形態について説明する。
まず、第2の実施形態(画像処理装置)における構成について説明する。以下では、第1の実施形態と同様の機能を有する構成要素には同一の符号を付すものとする。
【0236】
(画像処理装置2の外観構成)
図39に、第2の実施形態に係る画像処理装置2の外観構成の一例を示す。画像処理装置2は、図39に示すように、筐体11の一側面に感光材料を装填する装填部13を備えている。筐体11の内部には、感光材料に露光する露光処理部86と、露光された感光材料を現像処理してプリントを作成するプリント作成部16を備えている。筐体11の他側面には、プリント作成部16で作成されたプリントを排出するトレー17を備えている。
【0237】
筐体11の上部には、表示装置としてのCRT(Cathode Ray Tube)85、透過原稿を読み込む装置であるフィルムスキャナ部81、反射原稿入力装置82、操作部71を備えている。さらに筐体11には、各種デジタル記録媒体に記録された画像情報を読み取り可能な画像読み込み部14、各種デジタル記録媒体に画像信号を書き込み可能な画像書き込み部15を備え、また筐体11の内部には、これらの各部を制御する制御部72を備えている。画像読み込み部14は後述の画像転送手段83を含み、画像書き込み部15は後述の画像搬送部88を含んでいる。
【0238】
これらの各構成要素が全て必要であるわけではなく、また一体的に備えられた構造になっている必要もない。何れか一つ以上を画像処理装置2と別体として切り離す、或いは外部装置として接続するようにしてもよい。
【0239】
(画像処理装置2の構成)
図40に、第2の実施形態に係る画像処理装置2の概略構成を示す。画像処理装置2は、図40に示すように、操作部71、制御部72、画像処理部10、フィルムスキャンデータ処理部73、反射原稿スキャンデータ処理部74、画像データ書式解読処理部75、CRT固有処理部76、プリンタ固有処理部A77、プリンタ固有処理部B78、画像データ書式作成処理部79により構成される。
【0240】
操作部71は、ユーザからの各種操作入力を受け付けてその操作情報を画像処理部10に出力し、特に、第1の実施形態で述べた補正処理条件の入力を受け付けて設定する。
【0241】
フィルムスキャンデータ処理部73は、フィルムスキャナ部81から入力された画像データに対し、フィルムスキャナ部81固有の校正操作、ネガポジ反転(ネガ原稿の場合)、ゴミキズ除去、コントラスト調整、粒状ノイズ除去、鮮鋭化強調等の処理を施し、処理済の画像データを画像処理部10に出力する。また、フィルムサイズ、ネガポジ種別、フィルムに光学的或いは磁気的に記録された主要被写体に関わる情報、撮影条件に関する情報(例えば、APSの記載情報内容)等も併せて画像処理部10に出力する。
【0242】
反射原稿スキャンデータ処理部74は、反射原稿入力装置82から入力された画像データに対し、反射原稿入力装置82固有の校正操作、ネガポジ反転(ネガ原稿の場合)、ゴミキズ除去、コントラスト調整、ノイズ除去、鮮鋭化強調等の処理を施し、処理済の画像データを画像処理部10に出力する。
【0243】
画像データ書式解読処理部75は、画像転送手段83及び/又は通信手段(入力)84から入力された画像データに対し、その画像データのデータ書式に従って、必要に応じて圧縮符号の復元、色データの表現方法の変換等の処理を施し、画像処理部10内の演算に適したデータ形式に変換し、画像処理部10に出力する。
【0244】
また、画像データ書式解読処理部75は、操作部71、通信手段(入力)84、画像転送手段83の何れかから出力画像の条件が指定された場合、その指定された情報を検出し、画像処理部10に出力する。なお、画像転送手段83により指定される出力画像の条件についての情報は、画像転送手段83が取得した画像データのヘッダ情報、タグ情報に埋め込まれている。
【0245】
画像処理部10は、操作部71又は制御部72の指令に基づいて、フィルムスキャナ部81、反射原稿入力装置82、画像転送手段83、通信手段(入力)84の何れかから受け取った画像データに対し、後述の画像処理を施して、出力媒体上での鑑賞に最適化された画像形成用のデジタル画像データを生成し、CRT固有処理部76、プリンタ固有処理部A77、プリンタ固有処理部B78、画像データ書式作成処理部79の何れかに出力する。
【0246】
画像処理装置2内の画像処理部10の内部構成については、後に図12を用いて詳細に説明する。
【0247】
CRT固有処理部76は、画像処理部10から入力された画像データに対して、必要に応じて画素数変更やカラーマッチング等の処理を施し、制御情報等表示が必要な情報と合成した表示用の画像データをCRT85に出力する。
【0248】
プリンタ固有処理部A77は、必要に応じてプリンタ固有の校正処理、カラーマッチング、画素数変更等の処理を行い、処理済の画像データを露光処理部86に出力する。
【0249】
本発明の画像処理装置2に、外部プリンタ87が接続可能な場合には、接続するプリンタ装置毎にプリンタ固有処理部B78が備えられている。このプリンタ固有処理部B78は、プリンタ固有の校正処理、カラーマッチング、画素数変更等の処理を施し、処理済の画像データを外部プリンタ87に出力する。
【0250】
画像データ書式作成処理部79は、画像処理部10から入力された画像データに対して、必要に応じてJPEG、TIFF、ビットマップ等に代表される各種の汎用画像フォーマットへの変換を施し、処理済の画像データを画像搬送部88や通信手段(出力)89に出力する。
【0251】
なお、図40に示したフィルムスキャンデータ処理部73、反射原稿スキャンデータ処理部74、画像データ書式解読処理部75、画像処理部10、CRT固有処理部76、プリンタ固有処理部A77、プリンタ固有処理部B78、画像データ書式作成処理部79、という区分は、画像処理装置2の機能の理解を助けるために設けた区分であり、必ずしも物理的に独立したデバイスとして実現される必要はなく、例えば、単一のCPUによるソフトウェア処理の種類の区分として実現されてもよい。
【0252】
(画像処理部10の内部構成)
図12に、画像処理部10の内部構成を示す。画像処理部10は、画像処理装置2の入力画像に対して、シーン判別に基づく階調の補正動作を制御するものであり、画像取得、シーン判別、階調処理条件設定などの一連の処理を実行する。本実施形態では入力画像が撮影画像データであるとし、図12を用いて、画像処理部10の内部構成を説明する。
【0253】
図12に示すように、画像処理部10は、第1画像取得部101、第2画像取得部102、占有率算出部103、指標算出部104、シーン判別部105、補正処理条件取得部106、階調処理条件設定部107、階調変換処理部108により構成される。
【0254】
第1画像取得部101は、各入力データ処理部からの入力画像データを取得する。入力画像は撮影画像データであるので、例えば画像転送手段83或いは通信手段(入力)84を経て画像データ書式解読処理部75に入力された撮影画像データが、その画像データのデータ書式に従って、必要に応じて圧縮符号の復元、データの表現方法の変換等の処理が施され、画像処理部10によって第1の画像として取得される。撮影画像データは通常撮影時にJPEG画像形式などのノンリニア画像に変換され、記録されている。ここでは、ノンリニア画像に変換前のリニア画像(例えば、Rawデータ)を第1の画像として取得するものとする。
【0255】
また、第1画像取得部101は、例えば撮影時にリニア画像のタグ領域に記録された付加情報などを読み出し、撮影時に算出される輝度情報も合わせて取得する。即ち、第1画像取得部101は輝度情報取得手段としても機能する。本実施形態で取得する輝度情報BVは輝度値であり、撮影時における測光値から算出され、メタデータとして画像データのタグ領域に付加記録されたものである。取得した第1の画像の画像データ及び輝度情報BVは、画像処理部10内のメモリ(不図示)に保持される。
【0256】
第2画像取得部102は、第1の実施形態の場合と同様に、第1の画像から、実質的に縮小された第2の画像を取得する。
第1画像取得部101及び第2画像取得部102は、第1の実施形態と同様に、画像取得手段として機能する。
【0257】
以下、第1の実施形態の撮像装置1と同様の機能を有する構成要素については、説明を簡略にする。
【0258】
占有率算出部103は、第1の占有率算出手段として機能し、第2の画像の画像データに対して取得した色情報に基づいて、画像を明度と色相の組み合わせからなる所定の階級に分類し、分類された階級毎に各階級に属する画素が画像全体に占める割合を示す第1の占有率を算出する。
【0259】
また、占有率算出部103は、第2の占有率算出手段としても機能し、同じく画像を画面の外縁からの距離と明度の組み合わせからなる所定の階級に分類し、各階級毎に第2の占有率を算出する。
【0260】
占有率算出部103において実行される占有率算出処理において、第1の実施形態と異なる点については、後に図29を参照して説明する。
【0261】
指標算出部104は、占有率算出部103で算出された第1の占有率から指標1及び指標2を算出する。即ち、指標算出部104は、第1の指標算出手段及び第2の指標算出手段として機能する。
【0262】
また、指標算出部104は、占有率算出部103で算出された第2の占有率から指標3を算出する。即ち、指標算出部104は、第3の指標算出手段としても機能する。
【0263】
更に、指標算出部104は、第2の画像の画面中央部における平均輝度値と、最大輝度値と平均輝度値との差分値から露出撮影度指標を算出する。即ち、指標算出部104は、第4の指標算出手段としても機能する。
【0264】
また、指標算出部104は、第2の画像の画面中央部における肌色領域の平均輝度値(指標7)と、指標1及び指標3と、前述の撮影時の輝度情報BVとから、新たな自然光指標を算出する。即ち、指標算出部104は、第5の指標算出手段としても機能する。
【0265】
また、指標算出部104は、前記平均輝度値と、指標2及び指標3と、前述の撮影時の輝度情報BVとから、新たな輝度比指標を算出する。即ち、指標算出部104は、第6の指標算出手段としても機能する。
【0266】
指標算出部104において実行される指標算出処理において、第1の実施形態の場合と異なる点については、後に図32を参照して詳細に説明する。
【0267】
シーン判別部105は、指標算出部104で算出された各指標に基づいて、第1の画像の撮影シーンを判別する。即ち、シーン判別部105は、シーン判別手段として機能する。ここで、撮影シーンとは、順光、逆光、近接フラッシュ等の被写体を撮影する時の光源条件を示しており、主要被写体(主に人物のことを指すが、これに限るものではない)のオーバー度、アンダー度などもこれに含まれる。
【0268】
以上のように、占有率算出部103、指標算出部104及びシーン判別部105は、第1の実施形態と同様に、シーン判別処理手段として機能する。
【0269】
補正処理条件取得部106は、操作部71で入力された補正処理条件と、図示しないメモリに記憶された補正処理条件テーブルとに基づいて、明るさ補正処理条件及び覆い焼き処理条件とを設定する。補正処理条件取得部106は、第1の実施形態と同様に、補正処理条件設定手段として機能する。
【0270】
階調処理条件設定部107は、指標算出部104で算出された各指標と、シーン判別部105で判別された撮影シーンと、補正処理条件取得部106で設定された明るさ補正処理条件とに基づいて、第1の画像に対する第1の階調処理条件を設定し、補正処理条件取得部106で設定された覆い焼き処理条件に基づいて、第1の画像に対する第2の階調処理条件を設定する。第1、第2の階調処理条件の設定方法は、第1の実施形態の場合と同様である。即ち、階調処理条件設定部107は、階調処理条件設定手段として機能する。
【0271】
階調変換処理部108は、階調処理条件設定部107で設定された第1の階調処理条件に従って、第1の画像に対する階調変換処理を実行する。また、階調変換処理部108は、撮像装置1のガンマ補正部55と同様に、当該階調変換処理が施された第1の画像(リニア画像)をノンリニア画像に変換する処理を行う。従って、階調変換処理部108は、第1の階調変換処理手段及び第2の階調変換処理手段として機能する。
【0272】
その他の画像処理部109は、階調処理条件設定部107で設定された第2の階調処理条件に従って、第1の画像に対する階調変換処理を実行する。即ち、その他の画像処理部109は、第3の階調変換処理手段として機能する。
【0273】
(画像処理装置2の動作フロー)
次に、本実施形態における画像処理装置2の動作について説明する。
【0274】
以下では、撮影画像を対象とし、その撮影対象物を「主要被写体」と呼ぶことにする。
【0275】
まず、図41のフローチャートを参照して、画像処理装置2において実行される処理の全体の流れを説明する。
【0276】
まず、画像処理装置2への入力操作が行われると、各入力処理部73〜75の何れかにおいて入力処理が行われる(ステップS70)。撮影画像に対しては、画像データ書式解読処理部75での処理を経て、画像処理部10に送られる。次いで、画像処理部10において、撮影画像として第1の画像(リニア画像)が取得される(ステップS71)。
【0277】
その後、第1の画像に対する画像処理条件を算出する画像処理条件算出処理が実行される(ステップS72)。ステップS72の画像処理条件算出処理は、第1の画像処理条件算出処理と同様であり、異なる部分を主として説明する。
【0278】
ステップS72において、ステップS12に対応する第2の画像取得処理では、第1の画像の画像データは、一方で複数の分割領域からなる分割画像、即ち第2の画像(縮小リニア画像)として取得される。第2の画像が第1の画像のサイズを縮小した画像となるのは第1の実施形態の場合と同様である。ステップS71及びステップS73のS12は、本発明の画像取得工程に対応する。
【0279】
ステップS72において、輝度情報取得工程でありステップS13に対応する輝度情報取得処理では、取得した第1の画像に付加されたExif情報が読み出され、輝度情報BVの取り込みが行われる。取得される輝度情報BVは、撮影時に測光値から算出され、撮影画像がExif形式で記録される際に、合わせて記録されたものである。取得した輝度情報BVはメモリに保持される。
【0280】
次いで、ステップS72において、シーン判別処理工程でありステップS14に対応するシーン判別処理では、取得された第2の画像の画像データに基づいて、撮影シーンを判別するシーン判別処理が行われる。ステップS73におけるシーン判別処理については、後に図28を参照して、第1の実施形態の場合と異なる点を説明する。
【0281】
次いで、ステップS72において、補正処理条件設定工程でありステップS15に対応する補正処理条件取得処理では、操作部71を介して入力された補正処理条件と、補正処理条件テーブルとに基づいて、明るさ補正処理条件及び覆い焼き処理条件とが設定される。
【0282】
次いで、ステップS72において、階調処理条件設定工程でありステップS15に対応する階調処理条件設定処理では、第1の実施形態の場合と同様に、ステップS14のシーン判別処理で得られた各指標及び撮影シーンの判別結果と、ステップS15で取得された明るさ補正処理条件とに基づいて、第1の画像の階調変換処理のために必要な第1の階調処理条件が設定され、ステップS15で取得された覆い焼き処理条件に基づいて、第1の画像の階調変換処理のために必要な第2の階調処理条件が設定される。
【0283】
第1の階調変換処理工程であるステップS73では、第2の画像に基づいて設定された第1の階調処理条件に基づいて、撮影画像である第1の画像の画像データに対する階調変換処理が行われる。ステップS73の階調変換処理は、シーン輝度のどこを中心に写真階調を再現するか、或いは撮影シーンの光源条件などによる階調への影響を補正するものであり、ステップS72のステップS14でのシーン判別結果及びステップS15での明るさ補正処理条件によりステップS16で設定された第1の階調処理条件に基づいて行われるものである。
【0284】
第2の階調変換処理工程であるステップS74では、AWB処理、階調変換処理後の第1の画像(リニア画像)に対しガンマ変換処理を施すことによって、当該リニア画像がノンリニア画像に変換される。
【0285】
なお本実施形態では、ステップS72のステップS16で階調処理条件を設定し、ステップS73で階調変換処理を行う形態としているが、撮影シーンに基づいて上記階調処理以外に他の画像特性、例えば色調整の最適化処理などを行うようにしてもよい。
【0286】
次いで、ガンマ変換処理後の画像データに対し、第2の階調処理条件に基づいて、その他の画像処理(覆い焼き処理)が適宜行われる(ステップS75)。ステップS75は、ステップS72のステップS15での覆い焼き処理条件によりステップS16で設定された第2の階調処理条件に基づいて行われるものである。その後、画像データは、各出力処理部76〜79で処理され、出力される。或いは、保存用の記録媒体(SDメモリカード又はマルチメディアカード(MMC)等)に記録される(ステップS76)。出力又は記録が終わると、画像処理装置2における動作は終了する。
【0287】
なお、階調変換処理後のリニア画像をRawデータとして保存し、現像ソフトウェアを用いてノンリニア画像に変換するようにしてもよい。また、ステップS75のその他の画像処理は、ステップS73の前段階、ステップS74の前段階等で行うこととしてもよい。
【0288】
(シーン判別処理2のフロー)
次に、図28のフローチャートを参照して、画像処理装置2におけるシーン判別処理2(図41のステップS74)について説明する。以下では、第1の実施形態(撮像装置1)と異なる点を説明し、同一内容の部分は適宜省略する。
【0289】
シーン判別処理は、第1の実施形態と同様、図28に示すように、色空間変換処理(ステップS20)、占有率算出処理(ステップS21)、指標算出処理(ステップS22)、シーン判別(ステップS23)の各処理により構成される。以下、適宜上記図面を参照して、図28に示す各処理について説明する。
【0290】
まず、図28のステップS20において、色空間変換処理が行われる。処理内容は第1の実施形態の場合と同様であるため、ここでの説明は省略する。
【0291】
<占有率算出処理2>
次に、図29のフローチャートを参照して、ステップS21の占有率算出処理について説明する。
【0292】
まず、色空間変換処理で算出されたHSV値に基づいて、第2の画像の各画素が、色相と明度の組み合わせからなる所定の階級に分類され、分類された階級毎に累積画素数を算出することによって2次元ヒストグラムが作成される(ステップS30)。
【0293】
明度の分割については、第1の実施形態の場合と異なる。これはリニア画像とノンリニア画像との違いによるものである。ステップS30では、明度(V)は、明度値が0〜25(v1)、26〜50(v2)、51〜84(v3)、85〜169(v4)、170〜199(v5)、200〜224(v6)、225〜255(v7)の7つの階級に分割される。
【0294】
色相(H)は、色相値が0〜39、330〜359の肌色色相領域(H1及びH2)、色相値が40〜160の緑色色相領域(H3)、色相値が161〜250の青色色相領域(H4)、赤色色相領域(H5)の4つの領域に分割される。これらは第1の実施形態の場合と同様である。また、肌色色相領域が、さらに、肌色領域(H1)と、それ以外の領域(H2)に分割されるのも同様である。
【0295】
ステップS31の2次元ヒストグラム作成も第1の実施形態の場合と同様である。
【0296】
図42に、ステップS31において、第2の画像の画面の外縁からの距離に応じて分割された4つの領域n1〜n4を示す。領域n1が外枠であり、領域n2が外枠の内側の領域であり.領域n3が領域n2のさらに内側の領域であり、領域n4が第2の画像の中央部の領域である。また、ステップS31において、明度は、上述のようにv1〜v7の7つの領域に分割するものとする。従って、第2の画像を画面の外縁からの距離と明度の組み合わせからなる階級に分類した場合の階級の数は4×7=28個となる。
【0297】
ステップS32が、ステップS30とともに、第1の占有率算出工程に対応し、第1の占有率が算出されるのは第1の実施形態の場合と同様である。
【0298】
明度領域vi、色相領域Hjの組み合わせからなる階級において算出された第1の占有率をRijとすると、各階級における第1の占有率は表8のように表される。
【0299】
【表8】

【0300】
ステップS33が、ステップS31とともに、第2の占有率算出工程に対応し、第2の占有率が算出されるのも第1の実施形態の場合と同様である。
【0301】
明度領域vi、画面領域njの組み合わせからなる各階級において算出された第2の占有率をQijとすると、各階級における第2の占有率は表9のように表される。
【0302】
【表9】

【0303】
<指標算出処理2>
次に、図32のフローチャートを参照して、指標算出処理(図28のステップS22)について説明する。
【0304】
まず、第1の指標算出工程であるステップS40では、第1の占有率に予め設定された第1の係数を乗算して和をとることにより、指標1が算出され、次いで、第2の指標算出工程であるステップS41では、同じく第1の占有率に予め設定された第2の係数を乗算して和をとることにより、指標2が算出されるのは、第1の実施形態の場合と同様である。
【0305】
指標1は、主要被写体のオーバー度を表す指標であり、「主要被写体がオーバー」と判別されるべき画像のみを他の撮影シーンから分離するためのものである。指標2は、空色高明度、顔色低明度等の逆光撮影時の特徴を複合的に表す指標であり、「逆光」、「主要被写体がアンダー」と判別されるべき画像のみを他の撮影シーンから分離するためのものである。
【0306】
以下、指標1及び指標2の算出方法について説明する。
【0307】
表10に、指標1を算出するために必要な第1の係数を階級別に示す。表10に示された各階級の係数は、表2に示した各階級の第1の占有率Rijに乗算する重み係数であり、撮影条件に応じて予め設定されている。
【0308】
【表10】

【0309】
表10によると、高明度(v5、v6)の肌色色相領域(H1)に分布する領域から算出される第1の占有率には、正(+)の係数が用いられ、それ以外の色相である青色色相領域から算出される第1の占有率には、負(−)の係数が用いられる。図43は、肌色領域(H1)における第1の係数と、その他の領域(緑色色相領域(H3))における第1の係数を、明度全体に渡って連続的に変化する曲線(係数曲線)として示したものである。表10及び図43によると、高明度(V=170〜224)の領域では、肌色領域(H1)における第1の係数の符号は正(+)であり、その他の領域(例えば、緑色色相領域(H3))における第1の係数の符号は負(−)であり、両者の符号が異なっていることがわかる。
【0310】
明度領域vi、色相領域Hjにおける第1の係数をCijとすると、指標1を算出するためのHk領域の和は、式(6)のように定義される。
【数5】

【0311】
従って、H1〜H4領域の和は、下記の式(6−5)〜(6−8)のように表される。
H1領域の和
=R11×(−44)+R21×(−16)+(中略)…+R71×(−11.3) …(6−5)
H2領域の和=R12×0+R22×8.6+(中略)…+R72×(−11.1) …(6−6)
H3領域の和
=R13×0+R23×(−6.3)+(中略)…+R73×(−10) …(6−7)
H4領域の和
=R14×0+R24×(−1.8)+(中略)…+R74×(−14.6) …(6−8)
【0312】
指標1は、式(6−5)〜(6−8)で示されたH1〜H4領域の和を用いて、式(21)のように定義される。
指標1
=H1領域の和+H2領域の和+H3領域の和+H4領域の和+4.424 …(21)
【0313】
表11に、指標2を算出するために必要な第2の係数を階級別に示す。表11に示された各階級の係数は、表8に示した各階級の第1の占有率Rijに乗算する重み係数であり、撮影条件に応じて予め設定されている。
【0314】
【表11】

【0315】
表11によると、肌色色相領域(H1)の中間明度に分布する領域(v4)から算出される占有率には負(−)の係数が用いられ、肌色色相嶺域(H1)の低明度(シャドー)領域(v2、v3)から算出される占有率には正(+)の係数が用いられる。図44は、肌色領域(H1)における第2の係数を、明度全体にわたって連続的に変化する曲線(係数曲線)として示したものである。表11及び図44によると、肌色色相領域の、明度値が26〜84の低明度領域の第2の係数の符号は正(+)であり、明度値0〜25の最低明度領域と、明度値85〜255の中間及び高明度領域の第2の係数の符号は負(−)であり、両領域での係数に大きな違いがあることがわかる。
【0316】
明度領域vi、色相領域Hjにおける第2の係数をDijとすると、指標2を算出するためのHk領域の和は、式(8)のように定義される。
【数6】

【0317】
従って、H1〜H4領域の和は、下記の式(8−5)〜(8−8)のように表される。
H1領域の和
=R11×(−27)+R21×4.5+(中略)…+R71×(−24) …(8−5)
H2領域の和=R12×0+R22×4.7+(中略)…+R72×(−8.5) …(8−6)
H3領域の和=R13×0+R23×0+(中略)…+R73×0 …(8−7)
H4領域の和=R14×0+R24×(−5.1)+(中略)…+R74×7.2 …(8−8)
【0318】
指標2は、式(8−5)〜(8−8)で示されたH1〜H4領域の和を用いて、式(22)のように定義される。
指標2
=H1領域の和+H2領域の和+H3領域の和+H4領域の和+1.554 …(22)
【0319】
指標1及び指標2は、第2の画像の明度と色相の分布量に基づいて算出されるため、画像がカラー画像である場合の撮影シーンの判別に有効である。
【0320】
指標1及び指標2が算出されると、第3の指標算出工程であるステップS42で、第2の占有率に、予め設定された第3の係数を乗算して和をとることにより、指標3が算出される。指標3は、主要被写体がアンダーな逆光と主要被写体がオーバーな画像間における、画像データの画面の中心と外側の明暗関係の差異を示すものである。
【0321】
以下、指標3の算出方法について説明する。
【0322】
表12に、指標3を算出するために必要な第3の係数を階級別に示す。表12に示された各階級の係数は、表9に示した各階級の第2の占有率Qijに乗算する重み係数であり、撮影条件に応じて予め設定されている。
【0323】
【表12】

【0324】
図45は、画面領域n1〜n4における第3の係数を、明度全体に渡って連続的に変化する曲線(係数曲線)として示したものである。
【0325】
明度領域vi、画面領域njにおける第3の係数をEijとすると、指標3を算出するためのnk領域(画面領域nk)の和は、式(10)のように定義される。
【数7】

【0326】
従って、n1〜n4領域の和は、下記の式(10−5)〜(10−8)のように表される。
n1領域の和=Q11×40.1+Q21×37+(中略)…+Q71×22 …(10−5)
n2領域の和
=Q12×(−14.8)+Q22×(−10.5)+(中略)…+Q72×0 …(10−6)
n3領域の和=Q13×24.6+Q23×12.1+(中略)…+Q73×10.1 …(10−7)
n4領域の和
=Q14×1.5+Q24×(−32.9)+(中略)…+Q74×(−52.2) …(10−8)
【0327】
指標3は、式(10−5)〜(10−8)で示されたn1〜n4領域の和を用いて、式(23)のように定義される。
指標3
=n1領域の和+n2領域の和+n3領域の和+n4領域の和+12.6201 …(23)
【0328】
指標3は、第2の画像の明度の分布位置による構図的な特徴(全体画像の画面の外縁からの距離)に基づいて算出されるため、カラー画像だけでなくモノクロ画像の撮影シーンを判別するのにも有効である。
【0329】
指標1〜3が算出されると、第4の指標算出工程であるステップS43で、第2の画像の画面中央部における肌色の平均輝度値と、最大輝度植と平均輝度値との差分値のそれぞれに、予め設定された係数を乗算することにより、露出撮影度指標が算出される。
【0330】
以下、図36のフローチャートを参照して、露出撮影度指標の算出処理について説明する。
【0331】
まず、ステップS50からステップS54に至る、第2の画像の画面中央部における肌色領域の平均輝度値x1、第2の画像の最大輝度値と平均輝度値との差分値x2=最大輝度値−平均輝度値、第2の画像の輝度の標準偏差x3、画面中央部における平均輝度値x4、そして第2の画像における肌色領域の最大輝度値Yskin_maxと最小輝度値Yskin_minの差分値と、肌色領域の平均輝度値Yskin_aveとの比較値x5を算出する処理については、第1の実施形態の場合と同様であるため、ここでの説明を省略する。
【0332】
次いで、ステップS50〜S54で算出された値x1〜x5の値の各々に、撮影条件に応じて予め設定された第4の係数を乗算して和をとることにより、露出撮影度指標が算出され(ステップS55)、露出撮影度指標算出処理が終了する。露出撮影度指標は、下記の式(12−3)のように定義される。
【0333】
露出撮影度指標=0.06×x1+1.13×x2+0.02×x3+(−0.01)×x4+0.03×x5−6.50 …(12−3)
この露出撮影度指標は、第2の画像の画面の構図的な特徴だけでなく、輝度ヒストグラム分布情報を持ち合わせており、特に、主要被写体がオーバーである撮影シーンとアンダー撮影シーンの判別に有効である。
【0334】
露出撮影度指標が算出されると、第5の指標算出工程であるステップS44において、指標1、指標3、輝度情報BV、及び第2の画像の画面中央部における肌色領域の平均輝度値に、撮影条件に応じて予め設定された重み係数(第5の係数)を乗算することにより、自然光指標が算出される。
【0335】
更に、第6の指標算出工程であるステップS45において、指標2、指標3、輝度情報BV、及び第2の画像の画面中央部における肌色領域の平均輝度値に、撮影条件に応じて予め設定された重み係数(第6の係数)を乗算することにより、輝度比指標が算出され、本指標算出処理が終了する。
【0336】
以下、自然光指標及び輝度比指標の算出方法について説明する。
【0337】
第2の画像の画面中央部における肌色領域の平均輝度値を指標7とする。ここでの画面中央部とは、例えば、図42の領域n2、領域n3及び領域n4から構成される領域である。このとき、自然光指標は、指標1、指標3、指標7、及び輝度情報BVを用いて式(24)のように定義され、輝度比指標は、指標2、指標3、指標7、及び輝度情報BVを用いて式(25)のように定義される。
自然光指標
=0.18×指標1+0.19×指標3+0.004×指標7−0.68×BV+4.39 …(24)
輝度比指標
=0.24×指標2+0.16×指標3+0.034×指標7−0.05×BV+4.61 …(25)
ここで式(24)及び式(25)において各指標に乗算される係数は、撮影条件に応じて予め設定されている。
【0338】
また輝度情報BVに基づいて、自然光指標、輝度比指標を算出する代わりに、指標1、指標2、指標3を算出するのに輝度情報BVを用いてもよい。その場合、自然光指標、輝度比指標を算出するのに輝度情報BVを用いる必要はない。
<シーン判別2>
図28のステップS23(シーン判別)に戻る。
【0339】
露出撮影度指標、自然光指標、輝度比指標が算出されると、これらの指標の値に基づいて撮影シーンが判別されるが、シーン判別方法は第1の実施形態の場合と同様であるため、ここでの説明は省略する。
【0340】
(階調処理条件設定のフロー)
第1の画像に対する階調処理条件設定処理(図41のステップS72のステップS16)は、第1の実施形態の場合と同様であり、図37のフローチャートを用いて説明したとおりであるため、ここでの説明は省略する。
【0341】
以上のように、第2の実施形態の画像処理装置2によれば、上述の第1の実施形態と同様に、主要被写体(例えば、人物顔領域)の明るさをユーザの好みに合わせて最適化することが可能となるとともに、操作入力により覆い焼きを施すことができる。
【0342】
なお、上記各実施形態における記述内容は、本発明の趣旨を逸脱しない範囲で適宜変更可能である。
【0343】
例えば、上記各実施形態のその他の画像処理部109は、補正処理条件取得部106により設定される覆い焼き処理条件に基づいて、第1の画像に覆い焼き処理を施す構成としたが、これに限定されるものではない。例えば、その他の画像処理部109は、覆い焼き処理、コントラスト処理、階調圧縮処理等の、撮影シーンの硬さや輝度分布の幅を調整する画像処理の少なくとも一つを行う構成としてもよい。この構成において、階調補正処理条件取得部106は、操作部38,71を介して入力された補正処理条件(補正処理条件テーブル等を含む)と、シーン判別部105により判別された撮影シーン判別結果との少なくとも一つに基づいて、覆い焼き処理、コントラスト処理、階調圧縮処理等のための第2の階調処理条件を設定する。その他の画像処理部109は、階調補正処理条件取得部106により設定された第2の階調処理条件に基づいて、第1の画像に階調変換処理を施す。
【図面の簡単な説明】
【0344】
【図1】本発明の実施形態に係る撮像装置の外観構成例を示す図である。
【図2】(a)は、モードダイヤル29の構成を示す図である。(b)は、明るさの設定画面の一例を示す図である。
【図3】撮像装置の内部構成を示すブロック図である。
【図4】撮影処理部の内部構成を示すブロック図である。
【図5】AE制御部での露光量制御を示すフローチャートである。
【図6】シャッタ速度の制御において撮像素子に電荷が蓄積する様子を示す図である。
【図7】AF制御部での画像の焦点を合わせる制御を示すフローチャートである。
【図8】撮影光学系の移動に伴うコントラスト情報の変化と合焦点位置検出の様子を示す図である。
【図9】画素補間部での、RGB各色成分ごとに画素間の補間を行う画像データの処理を示すフローチャートである。
【図10】AWB制御部での、撮影画像におけるホワイトバランスを自動的に調整する処理を示すフローチャートである。
【図11】ガンマ補正曲線の一例を示す図である。
【図12】画像処理部の内部構成を示すブロック図である。
【図13】撮影された第1の画像の一例を示す図(a)と、第1の画像を分割し、M×N画素の縮小画像とした第2の画像の一例を示す図(b)である。
【図14】階調処理条件設定部の内部構成を示すブロック図である。
【図15】輝度比指標と仮補正量key_auto[0]との関係を示すLUTである。
【図16】露出撮影度指標と仮補正量key_auto[1]との関係を示すLUTである。
【図17】肌色平均輝度と仮補正量key_auto[2]との関係を示すLUTである。
【図18】肌色平均輝度又は全体平均輝度と仮補正量key_auto[3]との関係を示すLUTである。
【図19】輝度比指標と仮補正量key_auto[4]との関係を示すLUTである。
【図20】露出撮影度指標と仮補正量key_auto[5]との関係を示すLUTである。
【図21】自然光指標と混合係数wgt[0]との関係を示すLUTである。
【図22】自然光指標と混合係数wgt[1]との関係を示すLUTである。
【図23】自然光指標と混合係数wgt[2]との関係を示すLUTである。
【図24】自然光指標と混合係数wgt[3]との関係を示すLUTである。
【図25】自然光指標、輝度比指標、露出撮影度指標から撮影シーンを判別するための判別マップを示す図である。
【図26】撮影シーン別に混合係数wgt[4]〜[6]の値を表す係数算出テーブルを示す図である。
【図27】(a)は、撮像装置1において実行される処理の全体の流れを示すフローチャートである。(b)は、画像処理条件算出処理を示すフローチャートである。
【図28】画像処理部において実行されるシーン判別処理を示すフローチャートである。
【図29】占有率算出処理を示すフローチャートである。
【図30】明度と色相からなる階級を示す図である。
【図31】画面の外縁からの距離に応じて決定される領域n1〜n3を示す図(a)と、領域n1〜n3と明度からなる階級を示す図(b)である。
【図32】指標算出処理を示すフローチャートである。
【図33】指標1を算出するための、第1の占有率に乗算する第1の係数を表す曲線を示す図である。
【図34】指標2を算出するための、第1の占有率に乗算する第2の係数を表す曲線を示す図である。
【図35】指標3を算出するための、第2の占有率に乗算する第3の係数を表す曲線を領域別(n1〜n3)に示す図である。
【図36】露出撮影度指標算出処理を示すフローチャートである。
【図37】階調処理条件設定部において実行される階調処理条件設定処理を示すフローチャートである。
【図38】撮影シーンが順光である場合の階調変換曲線(a)と、撮影シーンが逆光である場合の階調変換曲線(b)を示す図である。
【図39】本発明の第2の実施形態に係る画像処理装置の外観構成例を示す図である。
【図40】画像処理装置の内部構成を示すブロック図である。
【図41】画像処理装置において実行される処理の全体の流れを示すフローチャートである。
【図42】画面の外縁からの距離に応じて決定される領域n1〜n4を示す図である。
【図43】指標1を算出するための、第1の占有率に乗算する第1の係数を表す曲線を示す図である。
【図44】指標2を算出するための、第1の占有率に乗算する第2の係数を表す曲線を示す図である。
【図45】指標3を算出するための、第2の占有率に乗算する第3の係数を表す曲線を領域別(n1〜n4)に示す図である。
【符号の説明】
【0345】
1 撮像装置
2 画像処理装置
10 画像処理部
11 筐体
13 装填部
14 画像読み込み部
15 画像書き込み部
16 プリント作成部
17 トレー
20 撮影処理部
21 筐体
22 十字キー
23 撮影光学系
24 フラッシュ
25 ファインダ
26 電源スイッチ
27 表示部
28 レリーズボタン
29 モードダイヤル
31 プロセッサ
32 メモリ
33 撮像素子
37 画像データ出力部
38 操作部
41 タイミングジェネレータ
42 シャッタユニット
43 絞りユニット
44 フォーカスユニット
51 AE制御部
52 AF制御部
53 画素補間部
54 AWB制御部
55 ガンマ補正部
71 操作部
72 制御部
73 フィルムスキャンデータ処理部
74 反射原稿スキャンデータ処理部
75 画像データ書式解読処理部
76 CRT固有処理部
77 プリンタ固有処理部A
78 プリンタ固有処理部B
79 画像データ書式作成処理部
81 フィルムスキャナ部
82 反射原稿入力装置
83 画像転送手段
84 通信手段(入力)
85 CRT
86 露光処理部
87 外部プリンタ
88 画像搬送部
89 通信手段(出力)
101 第1画像取得部
102 第2画像取得部
103 占有率算出部
104 指標算出部
105 シーン判別部
106 補正処理条件取得部
107 階調処理条件設定部
108 階調変換処理部
109 その他の画像処理部
201 第1仮補正量設定部
202 第1混合係数設定部
203 第2仮補正量演算部
204 第2混合係数設定部
205 補正量演算部

【特許請求の範囲】
【請求項1】
被写体を撮影する撮影手段と、
前記撮影手段による撮影によって形成されたリニア画像を取得する画像取得手段と、
前記リニア画像に基づいて撮影シーンの判別処理を行うシーン判別処理手段と、
操作入力に基づいて補正処理条件を設定する補正処理条件設定手段と、
前記シーン判別処理手段による判別結果、および前記設定された補正処理条件に基づいて、前記リニア画像に対する明るさを調整するための第1の階調処理条件を設定する階調処理条件設定手段と、
前記階調処理条件設定手段により設定された第1の階調処理条件に基づいて、前記リニア画像に対する階調変換処理を行う第1の階調変換処理手段と、
前記階調変換処理が適用されたリニア画像をノンリニア画像に変換する階調変換処理を行う第2の階調変換処理手段と、
を備えることを特徴とする撮像装置。
【請求項2】
前記階調処理条件設定手段は、前記シーン判別処理手段による判別結果、および前記設定された補正処理条件の少なくとも一つに基づいて、撮影シーンの硬さ及び輝度分布の幅の少なくとも一つを調整するための第2の階調処理条件を設定し、
前記階調処理条件設定手段により設定された第2の階調処理条件に基づいて、前記リニア画像又は前記ノンリニア画像に対する階調変換処理を行う第3の階調変換処理手段を備えることを特徴とする請求項1に記載の撮像装置。
【請求項3】
前記画像取得手段は、
前記リニア画像から、画像サイズを縮小したリニア画像を取得し、
前記シーン判別処理手段は、
前記画像サイズを縮小したリニア画像を用いて撮影シーンの判別処理を行うことを特徴とする請求項1又は2に記載の撮像装置。
【請求項4】
前記リニア画像の撮影時に算出される輝度情報を取得する輝度情報取得手段を備え、
前記シーン判別処理手段は、
前記輝度情報取得手段により取得された輝度情報に基づいて撮影シーンの判別処理を行い、
前記階調処理条件設定手段は、
前記輝度情報取得手段により取得された輝度情報に基づいて階調処理条件を設定することを特徴とする請求項1〜3の何れか一項に記載の撮像装置。
【請求項5】
前記シーン判別処理手段は、
前記リニア画像の自然光による屋外撮影度を表す自然光指標と、ダイナミックレンジの大きさを表す輝度比指標と、撮影時の露出設定に起因する露出撮影度指標とを算出し、
前記算出された各指標に基づいて撮影シーンを判別することを特徴とする請求項1〜4の何れか一項に記載の撮像装置。
【請求項6】
前記シーン判別処理手段は、
前記リニア画像について色情報を取得し、当該取得された色情報に基づいて、前記リニア画像の画像データを所定の明度と色相の組み合わせからなる階級に分類し、当該分類された階級毎に、前記画像データ全体に占める割合を示す第1の占有率を算出する第1の占有率算出手段と、
前記取得された色情報に基づいて、前記画像データを画面の外縁からの距離と明度の組み合わせからなる階級に分類し、当該分類された階級毎に、前記画像データ全体に占める割合を示す第2の占有率を算出する第2の占有率算出手段と、
前記第1の占有率に、撮影条件に応じて予め設定された第1の係数を乗算することにより、指標1を算出する第1の指標算出手段と、
前記第1の占有率に、撮影条件に応じて予め設定された第2の係数を乗算することにより、指標2を算出する第2の指標算出手段と、
前記第2の占有率に、撮影条件に応じて予め設定された第3の係数を乗算することにより、指標3を算出する第3の指標算出手段と、
少なくとも前記画像データの画面中央部における肌色の平均輝度に、撮影条件に応じて予め設定された第4の係数を乗算することにより、前記露出撮影度を算出する第4の指標算出手段と、
前記指標1、前記指標2、前記指標3のうち少なくとも一つ以上の指標と、前記輝度情報に、撮影条件に応じて予め設定された第5の係数を乗算することにより、前記自然光指標を算出する第5の指標算出手段と、
前記指標1、前記指標2、前記指標3のうち少なくとも一つ以上の指標と、前記輝度情報に、撮影条件に応じて予め設定された第6の係数を乗算することにより、前記輝度比指標を算出する第6の指標算出手段と、
前記露出撮影度、前記自然光指標及び前記輝度比指標に基づいて、前記画像データの撮影シーンを判別するシーン判別手段と、
を備えることを特徴とする請求項5に記載の撮像装置。
【請求項7】
前記階調処理条件設定手段は、
前記リニア画像の明るさ解析値と、明るさの再現目標値と、前記輝度比指標及び前記露出撮影度に基づいて、当該リニア画像に対する複数の第1仮補正量を設定する第1仮補正量設定手段と、
前記自然光指標に基づいて、前記複数の第1仮補正量の各々に乗算する重み係数としての第1混合係数を設定する第1混合係数設定手段と、
前記第1混合係数設定手段により設定された第1混合係数と、前記複数の第1仮補正量に基づいて、前記リニア画像に対する第2仮補正量を設定する第2仮補正量設定手段と、
前記露出撮影度、前記自然光指標及び前記輝度比指標に基づいて、前記複数の第1仮補正量のうち少なくとも1つと、前記第2仮補正量に乗算する重み係数としての第2混合係数を設定する第2混合係数設定手段と、
前記第2混合係数により設定された第2混合係数と、前記少なくとも1つの第1仮補正量と、前記第2仮補正量に基づいて、階調調整パラメータを算出する階調調整パラメータ算出手段と、を備え、
前記シーン判別処理手段による判別結果と、前記階調調整パラメータ算出手段により算出された階調調整パラメータと、前記設定された補正処理条件とに基づいて、前記リニア画像に対する第1の階調処理条件を設定することを特徴とする請求項5又は6に記載の撮像装置。
【請求項8】
撮影によって形成されたリニア画像を取得する画像取得手段と、
前記リニア画像に基づいて撮影シーンの判別処理を行うシーン判別処理手段と、
操作入力に基づいて補正処理条件を設定する補正処理条件設定手段と、
前記シーン判別処理手段による判別結果、および前記設定された補正処理条件に基づいて、前記リニア画像に対する明るさを調整するための第1の階調処理条件を設定する階調処理条件設定手段と、
前記階調処理条件設定手段により設定された第1の階調処理条件に基づいて、前記リニア画像に対する階調変換処理を行う第1の階調変換処理手段と、
前記階調変換処理が適用されたリニア画像をノンリニア画像に変換する階調変換処理を行う第2の階調変換処理手段と、
を備えることを特徴とする画像処理装置。
【請求項9】
前記階調処理条件設定手段は、前記シーン判別処理手段による判別結果、および前記設定された補正処理条件の少なくとも一つに基づいて、撮影シーンの硬さ及び輝度分布の幅の少なくとも一つを調整するための第2の階調処理条件を設定し、
前記階調処理条件設定手段により設定された第2の階調処理条件に基づいて、前記リニア画像又は前記ノンリニア画像に対する階調変換処理を行う第3の階調変換処理手段を備えることを特徴とする請求項8に記載の画像処理装置。
【請求項10】
前記画像取得手段は、
前記リニア画像から、画像サイズを縮小したリニア画像を取得し、
前記シーン判別処理手段は、
前記画像サイズを縮小したリニア画像を用いて撮影シーンの判別処理を行うことを特徴とする請求項8又は9に記載の画像処理装置。
【請求項11】
前記リニア画像の撮影時に算出される輝度情報を取得する輝度情報取得手段を備え、
前記シーン判別処理手段は、
前記輝度情報取得手段により取得された輝度情報に基づいて撮影シーンの判別処理を行い、
前記階調処理条件設定手段は、
前記輝度情報取得手段により取得された輝度情報に基づいて階調処理条件を設定することを特徴とする請求項8〜10の何れか一項に記載の画像処理装置。
【請求項12】
前記シーン判別処理手段は、
前記リニア画像の自然光による屋外撮影度を表す自然光指標と、ダイナミックレンジの大きさを表す輝度比指標と、撮影時の露出設定に起因する露出撮影度指標とを算出し、
前記算出された各指標に基づいて撮影シーンを判別することを特徴とする請求項8〜11の何れか一項に記載の画像処理装置。
【請求項13】
前記シーン判別処理手段は、
前記リニア画像について色情報を取得し、当該取得された色情報に基づいて、前記リニア画像の画像データを所定の明度と色相の組み合わせからなる階級に分類し、当該分類された階級毎に、前記画像データ全体に占める割合を示す第1の占有率を算出する第1の占有率算出手段と、
前記取得された色情報に基づいて、前記画像データを画面の外縁からの距離と明度の組み合わせからなる階級に分類し、当該分類された階級毎に、前記画像データ全体に占める割合を示す第2の占有率を算出する第2の占有率算出手段と、
前記第1の占有率に、撮影条件に応じて予め設定された第1の係数を乗算することにより、指標1を算出する第1の指標算出手段と、
前記第1の占有率に、撮影条件に応じて予め設定された第2の係数を乗算することにより、指標2を算出する第2の指標算出手段と、
前記第2の占有率に、撮影条件に応じて予め設定された第3の係数を乗算することにより、指標3を算出する第3の指標算出手段と、
少なくとも前記画像データの画面中央部における肌色の平均輝度に、撮影条件に応じて予め設定された第4の係数を乗算することにより、前記露出撮影度を算出する第4の指標算出手段と、
前記指標1、前記指標2、前記指標3のうち少なくとも一つ以上の指標と、前記輝度情報に、撮影条件に応じて予め設定された第5の係数を乗算することにより、前記自然光指標を算出する第5の指標算出手段と、
前記指標1、前記指標2、前記指標3のうち少なくとも一つ以上の指標と、前記輝度情報に、撮影条件に応じて予め設定された第6の係数を乗算することにより、前記輝度比指標を算出する第6の指標算出手段と、
前記露出撮影度、前記自然光指標及び前記輝度比指標に基づいて、前記画像データの撮影シーンを判別するシーン判別手段と、
を備えることを特徴とする請求項12に記載の画像処理装置。
【請求項14】
前記階調処理条件設定手段は、
前記リニア画像の明るさ解析値と、明るさの再現目標値と、前記輝度比指標及び前記露出撮影度に基づいて、当該リニア画像に対する複数の第1仮補正量を設定する第1仮補正量設定手段と、
前記自然光指標に基づいて、前記複数の第1仮補正量の各々に乗算する重み係数としての第1混合係数を設定する第1混合係数設定手段と、
前記第1混合係数設定手段により設定された第1混合係数と、前記複数の第1仮補正量に基づいて、前記リニア画像に対する第2仮補正量を設定する第2仮補正量設定手段と、
前記露出撮影度、前記自然光指標及び前記輝度比指標に基づいて、前記複数の第1仮補正量のうち少なくとも1つと、前記第2仮補正量に乗算する重み係数としての第2混合係数を設定する第2混合係数設定手段と、
前記第2混合係数により設定された第2混合係数と、前記少なくとも1つの第1仮補正量と、前記第2仮補正量に基づいて、階調調整パラメータを算出する階調調整パラメータ算出手段と、を備え、
前記シーン判別処理手段による判別結果と、前記階調調整パラメータ算出手段により算出された階調調整パラメータと、前記設定された補正処理条件とに基づいて、前記リニア画像に対する第1の階調処理条件を設定することを特徴とする請求項12又は13に記載の画像処理装置。
【請求項15】
撮影によって形成されたリニア画像を取得する画像取得工程と、
前記リニア画像に基づいて撮影シーンの判別処理を行うシーン判別処理工程と、
操作入力に基づいて補正処理条件を設定する補正処理条件設定工程と、
前記シーン判別処理工程による判別結果、および前記設定された補正処理条件に基づいて、前記リニア画像に対する明るさを調整するための第1の階調処理条件を設定する階調処理条件設定工程と、
前記階調処理条件設定工程により設定された第1の階調処理条件に基づいて、前記リニア画像に対する階調変換処理を行う第1の階調変換処理工程と、
前記階調変換処理が適用されたリニア画像をノンリニア画像に変換する階調変換処理を行う第2の階調変換処理工程と、
を含むことを特徴とする画像処理方法。
【請求項16】
前記階調処理条件設定工程は、前記シーン判別処理工程による判別結果、および前記設定された補正処理条件の少なくとも一つに基づいて、撮影シーンの硬さ及び輝度分布の幅の少なくとも一つを調整するための第2の階調処理条件を設定し、
前記階調処理条件設定工程により設定された第2の階調処理条件に基づいて、前記リニア画像又は前記ノンリニア画像に対する階調変換処理を行う第3の階調変換処理工程を含むことを特徴とする請求項15に記載の画像処理方法。
【請求項17】
前記画像取得工程では、
前記リニア画像から、画像サイズを縮小したリニア画像を取得し、
前記シーン判別処理工程では、
前記画像サイズを縮小したリニア画像を用いて撮影シーンの判別処理を行うことを特徴とする請求項15又は16に記載の画像処理方法。
【請求項18】
前記リニア画像の撮影時に算出される輝度情報を取得する輝度情報取得工程を含み、
前記シーン判別処理工程では、
前記輝度情報取得工程により取得された輝度情報に基づいて撮影シーンの判別処理を行い、
前記階調処理条件設定工程では、
前記輝度情報取得工程により取得された輝度情報に基づいて階調処理条件を設定することを特徴とする請求項15〜17の何れか一項に記載の画像処理方法。
【請求項19】
前記シーン判別処理工程では、
前記リニア画像の自然光による屋外撮影度を表す自然光指標と、ダイナミックレンジの大きさを表す輝度比指標と、撮影時の露出設定に起因する露出撮影度指標とを算出し、
前記算出された各指標に基づいて撮影シーンを判別することを特徴とする請求項15〜18の何れか一項に記載の画像処理方法。
【請求項20】
前記シーン判別処理工程は、
前記リニア画像について色情報を取得し、当該取得された色情報に基づいて、前記リニア画像の画像データを所定の明度と色相の組み合わせからなる階級に分類し、当該分類された階級毎に、前記画像データ全体に占める割合を示す第1の占有率を算出する第1の占有率算出工程と、
前記取得された色情報に基づいて、前記画像データを画面の外縁からの距離と明度の組み合わせからなる階級に分類し、当該分類された階級毎に、前記画像データ全体に占める割合を示す第2の占有率を算出する第2の占有率算出工程と、
前記第1の占有率に、撮影条件に応じて予め設定された第1の係数を乗算することにより、指標1を算出する第1の指標算出工程と、
前記第1の占有率に、撮影条件に応じて予め設定された第2の係数を乗算することにより、指標2を算出する第2の指標算出工程と、
前記第2の占有率に、撮影条件に応じて予め設定された第3の係数を乗算することにより、指標3を算出する第3の指標算出工程と、
少なくとも前記画像データの画面中央部における肌色の平均輝度に、撮影条件に応じて予め設定された第4の係数を乗算することにより、前記露出撮影度を算出する第4の指標算出工程と、
前記指標1、前記指標2、前記指標3のうち少なくとも一つ以上の指標と、前記輝度情報に、撮影条件に応じて予め設定された第5の係数を乗算することにより、前記自然光指標を算出する第5の指標算出工程と、
前記指標1、前記指標2、前記指標3のうち少なくとも一つ以上の指標と、前記輝度情報に、撮影条件に応じて予め設定された第6の係数を乗算することにより、前記輝度比指標を算出する第6の指標算出工程と、
前記露出撮影度、前記自然光指標及び前記輝度比指標に基づいて、前記画像データの撮影シーンを判別するシーン判別工程と、
を含むことを特徴とする請求項19に記載の画像処理方法。
【請求項21】
前記階調処理条件設定工程は、
前記リニア画像の明るさ解析値と、明るさの再現目標値と、前記輝度比指標及び前記露出撮影度に基づいて、当該リニア画像に対する複数の第1仮補正量を設定する第1仮補正量設定工程と、
前記自然光指標に基づいて、前記複数の第1仮補正量の各々に乗算する重み係数としての第1混合係数を設定する第1混合係数設定工程と、
前記第1混合係数設定工程により設定された第1混合係数と、前記複数の第1仮補正量に基づいて、前記リニア画像に対する第2仮補正量を設定する第2仮補正量設定工程と、
前記露出撮影度、前記自然光指標及び前記輝度比指標に基づいて、前記複数の第1仮補正量のうち少なくとも1つと、前記第2仮補正量に乗算する重み係数としての第2混合係数を設定する第2混合係数設定工程と、
前記第2混合係数により設定された第2混合係数と、前記少なくとも1つの第1仮補正量と、前記第2仮補正量に基づいて、階調調整パラメータを算出する階調調整パラメータ算出工程と、を含み、
前記シーン判別処理工程による判別結果と、前記階調調整パラメータ算出工程により算出された階調調整パラメータと、前記設定された補正処理条件とに基づいて、前記リニア画像に対する第1の階調処理条件を設定することを特徴とする請求項19又は20に記載の画像処理方法。
【請求項22】
画像処理を制御するコンピュータを、
撮影によって形成されたリニア画像を取得する画像取得手段、
前記リニア画像に基づいて撮影シーンの判別処理を行うシーン判別処理手段、
操作入力に基づいて補正処理条件を設定する補正処理条件設定手段と、
前記シーン判別処理手段による判別結果、および前記設定された補正処理条件に基づいて、前記リニア画像に対する明るさを調整するための第1の階調処理条件を設定する階調処理条件設定手段、
前記階調処理条件設定手段により設定された第1の階調処理条件に基づいて、前記リニア画像に対する階調変換処理を行う第1の階調変換処理手段、
前記階調変換処理が適用されたリニア画像をノンリニア画像に変換する階調変換処理を行う第2の階調変換処理手段、
として機能させるための画像処理プログラム。
【請求項23】
前記階調処理条件設定手段は、前記シーン判別処理手段による判別結果、および前記設定された補正処理条件の少なくとも一つに基づいて、撮影シーンの硬さ及び輝度分布の幅の少なくとも一つを調整するための第2の階調処理条件を設定し、
前記コンピュータを、
前記階調処理条件設定手段により設定された第2の階調処理条件に基づいて、前記リニア画像又は前記ノンリニア画像に対する階調変換処理を行う第3の階調変換処理手段として機能させることを特徴とする請求項22に記載の画像処理プログラム。
【請求項24】
前記画像取得手段は、
前記リニア画像から、画像サイズを縮小したリニア画像を取得し、
前記シーン判別処理手段は、
前記画像サイズを縮小したリニア画像を用いて撮影シーンの判別処理を行うことを特徴とする請求項22又は23に記載の画像処理プログラム。
【請求項25】
前記コンピュータを、
前記リニア画像の撮影時に算出される輝度情報を取得する輝度情報取得手段として機能させ、
前記シーン判別処理手段は、
前記輝度情報取得手段により取得された輝度情報に基づいて撮影シーンの判別処理を行い、
前記階調処理条件設定手段は、
前記輝度情報取得手段により取得された輝度情報に基づいて階調処理条件を設定することを特徴とする請求項22〜24の何れか一項に記載の画像処理プログラム。
【請求項26】
前記シーン判別処理手段は、
前記リニア画像の自然光による屋外撮影度を表す自然光指標と、ダイナミックレンジの大きさを表す輝度比指標と、撮影時の露出設定に起因する露出撮影度指標とを算出し、
前記算出された各指標に基づいて撮影シーンを判別することを特徴とする請求項22〜25の何れか一項に記載の画像処理プログラム。
【請求項27】
前記シーン判別処理手段は、
前記リニア画像について色情報を取得し、当該取得された色情報に基づいて、前記リニア画像の画像データを所定の明度と色相の組み合わせからなる階級に分類し、当該分類された階級毎に、前記画像データ全体に占める割合を示す第1の占有率を算出し、
前記取得された色情報に基づいて、前記画像データを画面の外縁からの距離と明度の組み合わせからなる階級に分類し、当該分類された階級毎に、前記画像データ全体に占める割合を示す第2の占有率を算出し、
前記第1の占有率に、撮影条件に応じて予め設定された第1の係数を乗算することにより、指標1を算出し、
前記第1の占有率に、撮影条件に応じて予め設定された第2の係数を乗算することにより、指標2を算出し、
前記第2の占有率に、撮影条件に応じて予め設定された第3の係数を乗算することにより、指標3を算出し、
少なくとも前記画像データの画面中央部における肌色の平均輝度に、撮影条件に応じて予め設定された第4の係数を乗算することにより、前記露出撮影度を算出し、
前記指標1、前記指標2、前記指標3のうち少なくとも一つ以上の指標と、前記輝度情報に、撮影条件に応じて予め設定された第5の係数を乗算することにより、前記自然光指標を算出し、
前記指標1、前記指標2、前記指標3のうち少なくとも一つ以上の指標と、前記輝度情報に、撮影条件に応じて予め設定された第6の係数を乗算することにより、前記輝度比指標を算出し、
前記露出撮影度、前記自然光指標及び前記輝度比指標に基づいて、前記画像データの撮影シーンを判別することを特徴とする請求項26に記載の画像処理プログラム。
【請求項28】
前記階調処理条件設定手段は、
前記リニア画像の明るさ解析値と、明るさの再現目標値と、前記輝度比指標及び前記露出撮影度に基づいて、当該リニア画像に対する複数の第1仮補正量を設定し、
前記自然光指標に基づいて、前記複数の第1仮補正量の各々に乗算する重み係数としての第1混合係数を設定し、
前記第1混合係数と、前記複数の第1仮補正量に基づいて、前記リニア画像に対する第2仮補正量を設定し、
前記露出撮影度、前記自然光指標及び前記輝度比指標に基づいて、前記複数の第1仮補正量のうち少なくとも1つと、前記第2仮補正量に乗算する重み係数としての第2混合係数を設定し、
前記第2混合係数と、前記少なくとも1つの第1仮補正量と、前記第2仮補正量に基づいて、階調調整パラメータを算出し、
前記シーン判別処理手段による判別結果と、前記算出された階調調整パラメータと、前記設定された補正処理条件とに基づいて、前記リニア画像に対する第1の階調処理条件を設定することを特徴とする請求項26又は27に記載の画像処理プログラム。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7】
image rotate

【図8】
image rotate

【図9】
image rotate

【図10】
image rotate

【図11】
image rotate

【図12】
image rotate

【図13】
image rotate

【図14】
image rotate

【図15】
image rotate

【図16】
image rotate

【図17】
image rotate

【図18】
image rotate

【図19】
image rotate

【図20】
image rotate

【図21】
image rotate

【図22】
image rotate

【図23】
image rotate

【図24】
image rotate

【図25】
image rotate

【図26】
image rotate

【図27】
image rotate

【図28】
image rotate

【図29】
image rotate

【図30】
image rotate

【図31】
image rotate

【図32】
image rotate

【図33】
image rotate

【図34】
image rotate

【図35】
image rotate

【図36】
image rotate

【図37】
image rotate

【図38】
image rotate

【図39】
image rotate

【図40】
image rotate

【図41】
image rotate

【図42】
image rotate

【図43】
image rotate

【図44】
image rotate

【図45】
image rotate


【公開番号】特開2007−311895(P2007−311895A)
【公開日】平成19年11月29日(2007.11.29)
【国際特許分類】
【出願番号】特願2006−136536(P2006−136536)
【出願日】平成18年5月16日(2006.5.16)
【出願人】(303050159)コニカミノルタフォトイメージング株式会社 (1,066)
【Fターム(参考)】