画像処理装置および画像処理方法
【課題】不適切な露出状態で撮影された画像の主被写体(人物の顔)の明るさを、背景の階調つぶれを起こすことなく、最大限の効果で適切に補正する。
【解決手段】部分領域抽出部101は入力画像から顔領域を検出し、特徴量算出部102は顔領域の平均輝度値を算出する。目標値設定部105は顔領域の平均輝度値を基に目標輝度を仮設定する。部分領域抽出部103は平均輝度値以上の値を持つ画素を抽出し、特徴量算出部104は抽出された画素を基に平均輝度を算出する。目標値制御部106は算出された平均輝度を基に目標輝度の修正量を算出し、目標値決定部107は修正量を用いて最終的な目標輝度を算出する。階調補正テーブル作成部108は最終的な目標値を基に補正テーブルを作成し、階調補正部109は補正テーブルに基づいて入力画像を補正する。
【解決手段】部分領域抽出部101は入力画像から顔領域を検出し、特徴量算出部102は顔領域の平均輝度値を算出する。目標値設定部105は顔領域の平均輝度値を基に目標輝度を仮設定する。部分領域抽出部103は平均輝度値以上の値を持つ画素を抽出し、特徴量算出部104は抽出された画素を基に平均輝度を算出する。目標値制御部106は算出された平均輝度を基に目標輝度の修正量を算出し、目標値決定部107は修正量を用いて最終的な目標輝度を算出する。階調補正テーブル作成部108は最終的な目標値を基に補正テーブルを作成し、階調補正部109は補正テーブルに基づいて入力画像を補正する。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、デジタルカメラなどで撮影された画像データをプリンタやディスプレイ等に出力する際に、画像を補正処理する画像処理装置および画像処理方法に関する。
【背景技術】
【0002】
近年、パソコンやインターネット、家庭用プリンタの普及、及びハードディスク等の記憶容量の大型化により、デジタルデータで写真画像を扱う機会が増えている。それに伴いデジタル写真画像データ(以下、画像データ)の入力手段として、デジタルカメラやフィルムスキャナなどが一般に使用されている。
【0003】
デジタルカメラには、撮影時の露出を常に最適に保つための自動露出制御装置が設けられている。露出制御方式には、種々の方法があるが、光量検出のため画面を複数の適当な領域に分割し、領域ごとに重み付けを行い加重平均をとり、絞りやシャッタースピードなどを調節する方法が一般的である。
【0004】
しかし、これらの露出制御方式は各社様々であり、撮影条件によって適正に作動しない場合もあるため完全なものは存在しない。とりわけ、主被写体の真後ろに光源が存在し、背景と主被写体との輝度差が大きい逆光状態では、被写体に露出が合わないと背景の明るさに引っ張られて露出がマイナスに補正されるため被写体が暗く写ってしまう。
【0005】
また、夜間ストロボ撮影では、被写体にストロボ光があたることが前提になるため、絞りやシャッタースピードは規定値に固定される。つまり、ストロボと被写体の距離が遠すぎると光が届かず、この場合も被写体は暗く写ってしまう。
【0006】
ここで露出補正とは、シーンに対して不適切な明るさを持つ被写体を、シーンに適した明るさに調整することを意味する。例えば露出不足で全体に暗い被写体や、逆光で暗くなっている被写体を明るくしたり、露出オーバーな被写体を暗くしたりすることがある。カメラでの露出補正は、レンズに入る入射光量を調節するために絞りやシャッタースピードを変える方法が一般的である。また、プリンタやディスプレイでは、入出力変換関数(階調補正カーブ)等を用い、入力信号の明るさに対し出力信号の明るさを最適化するための処理等を意味する。なお、露出を補正して画像データの明るさを調節することと、本発明における階調補正処理とは目的が同等なため、以後、階調補正処理と記す。
【0007】
このようなデジタル画像の撮影時における不適切な露出状態に対応するため、画像データを自動的に階調補正する技術が多数提案されている。例えば、特許文献1では、画像中から人物の顔といった重要な領域を抽出し、顔画像の補正の際に、顔領域の面積の大小により補正効果があるか否かを推定することで、補正効果が得られると推定した場合に画像補正を行う。また、特許文献2では、不適切な露出状態で撮影された画像の主被写体の明るさを、背景の階調つぶれや色相変化を起こすことなく、最大限の効果で適切にコントラスト補正を施す。
【0008】
【特許文献1】特開2004−62651号公報
【特許文献2】特開2003−169231号公報
【発明の開示】
【発明が解決しようとする課題】
【0009】
しかしながら、上述の従来例には次のような問題がある。すなわち、特許文献1では、人物の顔が小さく補正効果がないと推定された場合には、例えその顔が重要な被写体であったとしても、画像が補正されないという問題がある。さらに、検出された顔領域のみの特徴に基づいて画像を補正するため、顔領域以外の背景の情報が考慮されておらず、画像を補正することにより背景の階調がつぶれてしまうなどの逆効果を引き起こす。また、特許文献2では、画像の輝度ヒストグラムから被写体を抽出しているので、正確に人物の顔の特徴を抽出することができず、重要な被写体である人物を正確に露出補正できない場合がある。
【0010】
本発明は上記した問題を解消するためになされたもので、
本発明の目的は、不適切な露出状態で撮影された画像の主被写体(特に人物の顔)の明るさを、背景の階調つぶれを起こすことなく、最大限の効果で適切に補正する画像処理装置および画像処理方法を提供することにある。
【課題を解決するための手段】
【0011】
本発明は、画像から第1の部分領域を抽出する第1の領域抽出手段と、前記第1の部分領域に基づいて第1の特徴量を算出する第1の特徴量算出手段と、前記画像から第2の部分領域を抽出する第2の領域抽出手段と、前記第2の部分領域に基づいて第2の特徴量を算出する第2の特徴量算出手段と、前記第1の特徴量に基づいて、前記画像の補正の目標値を設定する目標値設定手段と、前記第1、第2の特徴量に基づいて前記補正の目標値の修正量を制御する目標値制御手段と、前記補正の目標値と前記目標値の修正量に基づいて前記画像の最終的な補正目標値を決定する目標値決定手段と、前記補正目標値に基づいて階調補正テーブルを作成する階調補正テーブル作成手段と、前記階調補正テーブルに基づいて前記画像の階調を補正する階調補正手段とを有することを最も主要な特徴とする。
【発明の効果】
【0012】
請求項1、9:第1の特徴量から決めた補正の目標値を、第1の特徴量と第2の特徴量に基づき修正することができ、第1の部分領域と、第2の部分領域を考慮した階調補正を行うことができる。
【0013】
請求項2:画像中の人物の顔領域、または人物の肌領域の少なくとも一つを抽出することにより、人の顔や人の肌を主要な被写体として抽出しており、人物の顔や肌の特徴に基づいて補正量を決めることができる。
【0014】
請求項3:第1の部分領域とは別の、第2の部分領域を抽出することができ、主要な被写体以外の部分領域を抽出することができる。
【0015】
請求項4:第1の特徴量算出手段は、第1の部分領域における輝度分布に基づいた特徴量を算出し、第2の特徴量算出手段は、第2の部分領域における輝度分布に基づいた特徴量を算出するので、部分領域における輝度値を比較して補正目標輝度値を決定し、階調補正テーブルを作成することができる。
【0016】
請求項5:第1の特徴量は、第1の部分領域における平均輝度値であり、第2の部分領域は、前記第1の部分領域における平均輝度以上の輝度を持つ部分領域であり、第2の特徴量は第2の部分領域における平均輝度値を算出するので、第1の部分領域の平均輝度と、第1の部分領域の平均輝度以上の部分領域の平均輝度を比較して補正目標輝度値を決定し、階調補正テーブルを作成することができる。また、第1の特徴量から算出される平均輝度と、第2の特徴量から算出される平均輝度の関係から目標値の修正量を制御するので、両者の平均輝度の関係を考慮して最終的な補正量を決定することができる。
【0017】
請求項6:第1の特徴量が、第1の部分領域の平均輝度と第1の部分領域の輝度範囲を算出し、階調補正テーブル作成手段は、画像の補正後に第1の部分領域の階調数が減少することのないように階調補正テーブルを作成するので、主要な被写体の人物の顔や肌の輝度範囲では、少なくとも階調性を維持することができる。
【0018】
請求項7、10:主要な被写体の人物の顔や肌の輝度範囲では、階調性を少なくとも維持して補正することができ、また補正することにより第2の部分領域における階調の飽和度を考慮して階調の飽和が起こらない階調補正テーブルを決定することができる。
【0019】
請求項8:主要な被写体の人物の顔や肌の輝度範囲では、階調性を少なくとも維持して補正することができ、また画像の撮影シーンに応じた階調補正による階調の飽和度合いを考慮して、階調補正テーブルを決定することができる。
【発明を実施するための最良の形態】
【0020】
以下、発明の実施の形態について図面により詳細に説明する。
【0021】
実施例1
図1は、本発明の実施例1の画像処理装置の構成を示す。図1の画像処理装置は、第1の部分領域抽出部101、第1の特徴量算出部102、第2の部分領域抽出部103、第2の特徴量算出部104、目標値設定部105、目標値制御部106、目標値決定部107、階調補正テーブル作成部108、階調補正部109から構成される。
【0022】
第1の部分領域抽出部101は、入力画像中の人物の顔や人物の肌領域を抽出する。図2は、第1の部分領域抽出部における抽出処理のフローチャートを示す。
【0023】
まず、ステップS1において、入力画像中の顔領域を検出する。入力画像から人間の目、鼻、口等の特徴に着目した顔検出処理を行う。ここでは、目、鼻、口の特徴に基づいた検出処理の例であるが、本発明では上記した検出処理に限定されず、他の方法を用いて顔を検出しても構わない。
【0024】
次に、ステップS2では、検出した顔領域の特徴として色相領域を判定する。これは、顔領域と同等の肌色色相を持つ画素を抽出するための特徴量となる。さらに、ステップS3において、入力画像中において顔領域と同等の色相領域内にある画素を肌領域として抽出する。ステップS4において、検出した顔領域と人物肌領域の領域情報を作成し、終了する。
【0025】
以下の説明では、簡単のために顔領域のみを抽出するとして説明するが、顔領域と肌領域とを抽出したものと置き換えてもよい。
【0026】
第1の特徴量算出部102は、第1の部分領域抽出部101で作成された顔領域の領域情報をもとに顔領域内のデータ分布として輝度ヒストグラムを作成し、顔領域の平均輝度値、最大輝度値、最小輝度値、顔領域の画素数などを算出する。
【0027】
第2の部分領域抽出部103は、第1の特徴量算出部102から入力される顔領域の平均輝度値を元に、平均輝度値以上の値を持つ画素を入力画像から抽出する。
【0028】
第2の特徴量算出部104は、第2の部分領域抽出部103において抽出された画素を元に、平均輝度、抽出画素数などを算出する。
【0029】
目標値設定部105は、第1の特徴量算出部102で算出された顔領域の平均輝度を元にして、予め決めている目標輝度を仮設定する。目標値制御部106は、第1の特徴量算出部102で算出された平均輝度と、第2の特徴量算出部2で算出された平均輝度を元に、目標輝度の修正量を算出する。
【0030】
目標値決定部107は、目標値設定部105に仮設定された目標輝度と、目標値制御部106で算出された目標輝度の修正量を用いて最終的な目標値を決定する。
【0031】
階調補正テーブル作成部108は、目標値決定部107で決定された最終的な目標値を元に階調補正テーブルを作成する。階調補正部109は、階調補正テーブル部108で作成された階調補正テーブルに基づいて入力画像の補正を行う。
【0032】
図3は、本発明の実施例1の処理フローチャートを示す。ステップS11において、第1の部分領域抽出部101は、入力画像中から顔領域を抽出する処理を行う。ステップS12において、入力画像中に顔が検出されたか否かを判定する。顔が検出された場合は、ステップS13へ進み、顔が存在しない場合は、処理を終了する。
【0033】
ステップS13において、第1の特徴量算出部102は、取得した顔領域の輝度ヒストグラムから顔の平均輝度値を算出する。入力画像がRGBデータであるとすると、以下の式(1)に従いRGBデータを輝度変換した後、輝度ヒストグラムを求める。顔領域の開始点と、終了点で示された領域内の画素のRGBデータから式(1)に従い輝度値Yを求める。
【0034】
Y=0.299×R+0.587×G+0.114×B 式(1)
ステップS14において、目標値設定部105は、顔領域の平均輝度値から、予め設定している目標輝度値を算出する。図4は、平均輝度から目標輝度を設定するテーブルの一例である。図4において、横軸は顔領域の平均輝度であり、縦軸は変換後の目標輝度値である。ここで使用する変換テーブルの目標輝度の値は予め設定しておくものであり、一例としてあげた図4は、実験により求めたものである。
【0035】
ステップS15において、第2の部分領域抽出部103は、第1の特徴量算出部102で算出した顔領域の平均輝度を用いて、顔領域以外の部分において顔領域の平均輝度値以上の値を持つ画素(領域B)を抽出する。
【0036】
ここでは、平均輝度以上の輝度を持つ領域を全て抽出するようにしているが、ここで抽出したい画素は、階調補正によって階調がつぶれが起きた場合に、そのつぶれが認識しやすい領域を抽出するためであり、その階調つぶれが認識しにくい、高輝度白色画素については予め抽出領域から排除するようにしても良い。例えば、高輝度白色画素とは、そのRGB値が、
(R>240かつG>240かつB>240)かつ、
(|G−R|<10かつ|G−B|<10) 式(2)
を満たす画素である。
【0037】
ステップS16において、第2の特徴量算出部104は、ステップS15で抽出した領域Bの平均輝度値を算出する。
【0038】
ステップS17において、目標値制御部106は、ステップS13で算出した顔領域の平均輝度とステップS16で算出した領域Bの平均輝度を基に、目標輝度の修正量を算出する。顔の平均輝度のみで目標値を決定してしまうと、背景のハイライト領域が白飛びしてしまう可能性があるため、補正することにより顔は明るく補正しても背景の白飛びした好ましくない補正になってしまう場合がある。そこで、背景における顔の平均輝度よりも高い輝度を持つ画素を参照することにより、補正量を抑制する。
【0039】
第1の特徴量算出部101で算出された平均輝度を輝度A、特第2の徴量算出部104で算出された平均輝度を輝度Bとし、輝度Aを元に、図4の変換テーブルで設定される目標輝度を輝度C、修正量をSとすると、補正目標値の修正量Sは例えば、式(3)のようになる。
【0040】
S=(C−A)×{1−(A/B)} 式(3)
AとBの値が近いほど修正量は小さくなる。
この修正式は一例であり、他の修正式で補正量を抑制するものでも構わない。他の方式として、例えばルックアップテーブルを使って、(A/B)の値に応じて修正量を決定するようにしても構わない。
【0041】
ステップS18において、目標値決定部107は、ステップS14で算出した目標値とステップS17で算出した修正量を用いて最終的な目標輝度Tを、式(4)により算出する。
【0042】
T=C−S 式(4)
ステップS19において、階調補正テーブル作成部108は、ステップS13で算出した顔の平均輝度値AとステップS18で算出した最終的な目標輝度値Tから階調補正テーブルを生成する。図5は、顔の平均輝度値Aを、最終的な目標輝度値Tへ変換する階調補正テーブルの作成例を示す。図5において、横軸は入力輝度値であり、縦軸は補正後の輝度値を表している。原点(0,0)から顔の平均輝度と補正目標値(A,T)を通り、最大輝度値(255,255)へ直線を結んだ階調補正テーブルとなる。
【0043】
ステップS20において、階調補正部109は、ステップS19で作成した階調補正テーブルを用いて入力画像の階調補正を行う。階調補正テーブルによる変換後の輝度値をYout、入力輝度値をYin、入力RGB値を以下の式(5)に従って行う。
【0044】
Rout=(Yout/Yin)×Rin
Gout=(Yout/Yin)×Gin
Bout=(Yout/Yin)×Bin 式(5)
Rin、Gin、Binは入力RGB値、Rout、Gout、Boutは出力RGB値を表している。
【0045】
以上説明したように、入力画像中の顔領域を検出して顔領域の平均輝度値を算出して、顔領域の輝度値に基づいた目標輝度値の仮設定を行い、顔以外の領域について顔領域の平均輝度値以上の輝度を持つ画素領域の平均輝度を参照して、目標輝度値の修正を行うことで、背景領域の白飛びも考慮して顔領域の画質向上を図ることが出来る。
【0046】
実施例2
実施例2は、入力画像から顔領域を抽出し、顔領域の輝度範囲において階調補正後も階調性を維持し、背景の白飛びを考慮して補正する実施例である。
【0047】
図6は、実施例2の処理フローチャートを示す。実施例1と相違する処理は、ステップ23とステップ29の処理であり、他のステップでの処理は実施例1と同様である。また、実施例2の構成は、実施例1(図1)と同一である。
【0048】
実施例1と同様に、ステップS21において、第1の部分領域抽出部101は、入力画像中から顔領域を抽出し、ステップS22において、入力画像中に顔が検出されたか否かを判定し、顔が検出された場合は、ステップS23へ進み、顔が存在しない場合は処理を終了する。
【0049】
ステップS23において、第1の特徴量算出部102は、取得した顔領域の輝度ヒストグラムから顔の平均輝度値と最大輝度を算出する。実施例1と同様に、式(1)に従いRGBデータを輝度変換した後、輝度ヒストグラムを求める。顔領域の開始点と、終了点で示された領域内の画素のRGBデータから式(1)に従い輝度値Yを求める。
【0050】
ステップS24において、目標値設定部105は、顔領域の平均輝度値から、予め設定している目標輝度値を算出する。目標輝度値の設定は、実施例1の設定方法と同様であるので省略する。
【0051】
ステップS25において、実施例1と同様に、第2の部分領域抽出部103は、第1の特徴量算出部102において算出した顔領域の平均輝度を用いて、顔領域以外の部分において顔領域の平均輝度値以上の値を持つ画素(領域B)を抽出する。ここでは、平均輝度以上の輝度を持つ領域を全て抽出するが、ここで抽出したい画素は、階調補正によって階調がつぶれが起きた場合に、そのつぶれが認識しやすい領域を抽出するためであり、その階調つぶれが認識しにくい、高輝度白色画素(式(2))については予め抽出領域から排除するようにしても良い。
【0052】
ステップS26において、第2の特徴量算出部104は、ステップS25で抽出した領域Bの平均輝度値を算出し、ステップS27において、目標値制御部106は、ステップS23で算出した顔領域の平均輝度とステップS26で算出した領域Bの平均輝度から、目標輝度の修正量を算出する。顔の平均輝度のみで目標値を決定してしまうと、背景のハイライト領域が白飛びしてしまう可能性があるため、補正することにより顔は明るく補正しても背景の白飛びした好ましくない補正になってしまう場合がある。そこで、背景における顔の平均輝度よりも高い輝度を持つ画素を参照することにより、補正量を抑制する。
【0053】
実施例1と同様に、第1の特徴量算出部101で算出された平均輝度を輝度A、第2の特徴量算出部104で算出された平均輝度を輝度Bとし、輝度Aを元に、図4の変換テーブルで設定される目標輝度を輝度C、修正量をSとすると、補正目標値の修正量Sは式(3)のようになる。
【0054】
ステップS28において、目標値決定部107は、ステップS24で算出した目標値とステップS27で算出した修正量を用いて最終的な目標輝度Tを、式(4)により算出する。
【0055】
ステップS29において、階調補正テーブル作成部108は、ステップS23で算出した特徴量(平均輝度A、最大輝度)とステップS28で算出した最終的な目標輝度値Tを基に階調補正テーブルを生成する。
【0056】
図7は、顔の平均輝度値Aを、最終的な目標輝度値Tへ変換する階調補正テーブルの作成例を示す。図7において、横軸は入力輝度値であり、縦軸は補正後の輝度値を表している。原点(0,0)から顔の平均輝度と補正目標値(A,T)を通り、(A,T)から“傾き1”で顔の最大輝度値まで直線を引き、最大輝度値以降は、最大輝度値(255,255)へ直線を結んだ階調補正テーブルとなる。ここでは、顔の平均輝度値から最大輝度値までの階調補正テーブルの傾きを“傾き1”として作成したが、“傾き1”以上であれば、他の値を設定しても構わない。
【0057】
以下、実施例1と同様に、ステップS30において、階調補正部109は、ステップS29で作成した階調補正テーブルを用いて入力画像の階調補正を行う。
【0058】
以上説明したように、入力画像中の顔領域を検出して顔領域の平均輝度値を算出して、顔領域の輝度値に基づいた目標輝度値の仮設定を行い、顔以外の領域について顔領域の平均輝度値以上の輝度を持つ画素領域の平均輝度を参照して、目標輝度値の修正を行うことで、背景領域の白飛びも考慮した顔領域の画質向上を図ることが出来、更に顔領域の輝度範囲においては傾き1以上の階調補正テーブルを作成することで、顔領域の階調性を維持した補正画像を得ることが出来る。
【0059】
実施例3
実施例3は、入力画像から顔領域を抽出し、顔領域の平均輝度と輝度範囲から階調補正テーブルを設定し、顔領域以外の背景の白飛びや階調つぶれを起こしそうな画素数(飽和度)を算出することにより、目標輝度値を修正することで、最終的な階調補正テーブルを決定する実施例である。
【0060】
図8は、本発明の実施例3の画像処理装置の構成を示す。図8に示す画像処理装置は、第1の部分領域抽出部201、特徴量算出部202、階調補正テーブル作成部203、第2の部分領域抽出部204、階調補正テーブル修正部205、階調補正部206から構成される。
【0061】
実施例1と同様に、第1の部分領域抽出部201は、入力画像中の人物の顔や人物の肌領域を抽出する。なお、実施例1と同様に、簡単のために顔領域のみを抽出するとして説明するが、顔領域と肌領域とを抽出したものと置き換えてもよい。
【0062】
特徴量算出部202は、第1の部分領域抽出部201で作成された顔領域の領域情報をもとに顔領域内のデータ分布として輝度ヒストグラムを作成し、顔領域の平均輝度値、最大輝度値を算出する。階調補正テーブル作成部203は、特徴量算出部202で算出された顔領域内の平均輝度と最大輝度を元に階調補正テーブルを作成する。第2の部分領域抽出部204は、特徴量算出部202から入力される顔領域の平均輝度値を元に、平均輝度値以上の値を持つ画素を入力画像から抽出する。階調補正テーブル修正部205は、第2の部分領域抽出部203において抽出された領域を、階調補正テーブル作成部203で作成された階調補正テーブルを用いて階調補正した際に、後述する飽和度が許容範囲にあるか否かを判定し、判定結果に基づいて階調補正テーブルを修正する。階調補正部206は、階調補正テーブル修正部205で修正された階調補正テーブルに基づいて入力画像の補正を行う。
【0063】
図9は、実施例3の処理フローチャートを示す。ステップ31からステップ33は実施例2と同様である。すなわち、ステップS31において、第1の部分領域抽出部201は、入力画像中から顔を抽出し、ステップS32において、入力画像中に顔が検出されたか否かを判定し、顔が検出された場合は、ステップS33へ進み、顔が存在しない場合は、処理を終了する。ステップS33において、抽出された顔領域の輝度ヒストグラムから平均輝度、最大輝度を算出する。
【0064】
ステップS34において、算出された平均輝度から図4の目標輝度算出テーブルを用いて、階調補正テーブル作成部203は目標輝度を算出する。
【0065】
続いて、階調補正テーブル作成部203は、ステップS35において、顔領域の平均輝度Aと目標輝度C、最大輝度を用いた階調補正カーブを作成する。図10(a)に階調補正カーブを示す。原点(0,0)から顔の平均輝度と補正目標値(A,C)を通り、(A,C)から“傾き1”で顔の最大輝度値まで直線を引き、最大輝度値以降は、最大輝度値(255,255)へ直線を結んだ階調補正テーブルとなる。これにより、顔領域の最大輝度値までは少なくとも”傾き1”以上を保ち、元の顔領域の階調性を維持した補正結果が得られる。
【0066】
ステップS36において、第2の部分領域抽出部204は、実施例1、2と同様に、顔領域以外における顔領域の平均輝度以上の輝度を持つ領域Bを抽出する。なお、実施例1、2と同様に高輝度白色画素を予め抽出領域から排除するようにしても良い。
【0067】
ステップS37において、階調補正テーブル修正部205は、作成した階調補正テーブルを使用した場合に、領域Bにおける階調の飽和度を算出する。飽和度は、階調を補正することにより、階調つぶれが起きる画素数を算出することで評価する。以下に、飽和度の算出方法を説明する。
【0068】
入力した画像データの画素数をj=(1,2,・・N−1,N)とし、画像データの入力輝度値をYin(j)、階調補正カーブf0(x)による補正後の出力輝度値をY1(j)と定義する。入力した画像データのj番目の画素の入力輝度値Yin(j)は、カラー画像信号(Rin(j),Gin(j),Bin(j))を用いて式(6)で表せる。
【0069】
Yin(j)=0.299Rin(j)+0.587Gin(j)+0.114Bin(j) 式(6)
この入力輝度値Yin(j)に対して階調補正カーブf0(x)による階調補正処理後の出力輝度値Y1(j)を算出し、階調補正係数CO(j)を式(7)で算出する。
【0070】
CO(j)=Y1(j)/Yin(j)=f0(Yin(j))/Yin(j) 式(7)
この階調補正係数CO(j)を用いて入力カラー画像信号(Rin(j),Gin(j),Bin(j))を式(8)で変換することにより階調補正カラー信号(R1(j),G1(j),B1(j))を得る。
【0071】
(R1(j),G1(j),B1(j))=CO(j)・(Rin(j),Gin(j),Bin(j)) 式(8)
また、入力画像信号がグレーの場合、グレーレベルYin(j)を入力値とし、階調補正処理後の出力は、出力グレーレベルY1(j)=f0(Yin(j))を得れば良い。
ここで通常の画像処理では、再現範囲0〜255を超えた場合クリッピングを行う。すなわち、0未満の値は0へ、255以上の値は強制的に255に置き換える。
【0072】
これに対して、本発明では、最終的な階調補正カーブを得て、階調補正処理を行うまでクリッピングを行わない。この階調補正カーブf0(x)を用いてRGBのカラー画像データの階調補正処理後の画像データの飽和度を算出する。例えばj番目の画素の階調補正後の色成分(R1(j),G1(j),B1(j))のうち、少なくとも1つが再現範囲である0から255値を超えた場合、j番目の画素は飽和しているとみなす。
【0073】
この再現範囲を超えて飽和しているとみなす画素に対して平均的な超越値を算出する。すなわち、K個の飽和画素に対して各画素ごとに飽和した色成分の最大レベルLj(j=1,2,・・K)を求め、式(9)に示すように、最大レベルLjと再現範囲上限255との差分の平均値Oaveを飽和度として算出する。
Oave=Σ(Lj−255)/K 式(9)
但し、Σはj=1,2,・・・Kについてとる。
また、例えば領域Bに属するM個の画素に対してK/Mを飽和度とする。
【0074】
ステップS38において、階調補正テーブル修正部205は、算出した飽和度を評価する。算出した飽和度がある閾値th1以上の場合、飽和度合い、すなわち階調つぶれが許容されないと判断する。この閾値th1は、K/Mを飽和度とした場合、実験によるとth1=0.03であった。
【0075】
この飽和度の評価の結果、階調つぶれが許容されない(つまり、飽和度≧th1)と判定された場合、ステップS39において、補正量の修正を行い、この修正結果により新たな階調補正カーブf1(x)を更新する(ステップS40)。
【0076】
目標輝度値(C)を、例えば輝度値5だけ減少させて、新たな補正カーブf1(x)を作成する。このようにして、図10(b)で示すような新たな階調補正テーブルf1(x)を得る。
【0077】
補正カーブf1(x)を更新したら、ステップS37へ戻り、再度、飽和度を算出した後、飽和度の許容値比較を行う(ステップS38)。ステップS38での判定結果がNOである場合は、再度ステップS39へ進み、補正量の修正と階調補正テーブルの更新を行う。飽和度が許容値以下(ステップS38でYES)となったら、階調補正テーブルを決定し、ステップS41に移る。ステップS41において、階調補正部206は、決定した階調補正テーブルを用いて入力画像の補正を行い、処理を終了する。
【0078】
上記した実施例では、階調補正によりRGB値のいずれかが255値を超えた場合に、階調つぶれが起きる画素数を飽和度としたが、飽和の閾値は上記した値に限定されず、255よりも小さい他の値でもよい。
【0079】
以上説明したように、入力画像中の顔領域を検出して顔領域の平均輝度値を算出して、顔領域の輝度値に基づいた目標輝度値の設定を行い、顔領域の輝度範囲においては”傾き1”以上の階調補正テーブルを作成し、顔以外の領域について顔領域の平均輝度値以上の輝度を持つ画素領域の飽和度を評価して、目標輝度値の修正を行うことで、背景領域の白飛びを抑制しつつ、顔領域の階調性を維持して明るさを向上させることが出来る。
【0080】
実施例4
実施例4は、入力画像の顔領域を抽出し、顔領域の平均輝度と輝度範囲を特徴量として抽出して階調補正テーブルを作成し、さらに入力画像の撮影シーンを判定することで飽和度(顔領域以外の背景の白飛びや階調つぶれを起こしそうな画素数)の許容閾値を、判定した撮影シーンに応じて可変にすることにより、入力画像のシーンに対応した階調補正テーブルを決定する実施例である。
【0081】
図11は、本発明の実施例4の画像処理装置の構成を示す。実施例4の画像処理装置は、実施例3の構成に、シーン判定部305を追加したものである。
【0082】
第1の部分領域抽出部301は、入力画像中の人物の顔や人物の肌領域を抽出する。特徴量算出部302は、第1の部分領域抽出部301で作成された顔領域の領域情報をもとに顔領域内のデータ分布として輝度ヒストグラムを作成し、顔領域の平均輝度値、最大輝度値を算出する。階調補正テーブル作成部303は、特徴量算出部302で算出された顔領域内の平均輝度と最大輝度を元に階調補正テーブルを作成する。第2の部分領域抽出部304は、特徴量算出部302から入力される顔領域の平均輝度値を元に、平均輝度値以上の値を持つ画素を入力画像から抽出する。シーン判定部305は、入力画像の特徴に基づいて撮影シーンを判定する。階調補正テーブル修正部306は、第2の部分領域抽出部303で抽出された領域を、階調補正テーブル作成部303で作成された階調補正テーブルを用いて階調補正した際に、後述する飽和度が許容範囲にあるか否かを判定し、判定結果に基づいて階調補正テーブルを修正する。階調補正部307は、階調補正テーブル修正部306で修正された階調補正テーブルに基づいて入力画像の補正を行う。
【0083】
図12は、実施例4の処理フローチャートである。実施例4の処理において、実施例3と相違する点は、ステップ53とステップ59の処理である。
【0084】
ステップS51において、前述した実施例と同様にして入力画像中から顔を抽出し、ステップS52において、入力画像中に顔が検出されたか否かを判定し、顔が検出された場合は、ステップS53へ進み、顔が存在しない場合は、処理を終了する。
【0085】
ステップS53において、シーン判定部305は、入力画像のシーン判定を行う。実施例3では、階調つぶれを起こす画素数を飽和度として評価して使用したが、この飽和度合いが許容されるか否かは画像により異なり、例えば、逆光シーンでは背景に明るい画素が多く、その結果、階調補正により飽和する画素数も多くなるため許容度合いが異なる。
【0086】
そこで、実施例4では、画像の撮影シーンに応じて飽和度合いを許容するか否かの閾値(th1)を可変にするために、入力画像のシーンを判定する。シーン判定方法としては、例えば、特開2002−247361号公報(段落0013〜0016、図4、図5を参照)に記載の方法を用いる(画像の平均的な明るさに比べて、逆光なら極端に明るい背景が存在し、かつ明るさに対する頻度分布が2極化し、夜間撮影なら極端に暗い背景がある。よって、[条件1]画像の平均的な明るさに比べて、極端に明るい部分、もしくは極端に暗い部分が、所定の閾値(割合)以上あるか、[条件2]前記条件を満たすとき、極端に明るい部分、もしくは暗い部分のほとんどは画像端部にあるか、[条件3]逆光画像の可能性がある場合、輝度分布は明と暗とに2極化しているかを調べればよい)。
【0087】
以下、実施例4のステップ54〜ステップ58は、実施例3のステップ33〜ステップ37と同様である。ステップS54において、抽出された顔領域の輝度ヒストグラムから平均輝度、最大輝度を算出し、ステップS55において、算出された平均輝度から図4の目標輝度算出テーブルを用いて目標輝度を算出する。ステップS56において、顔領域の平均輝度Aと目標輝度C、最大輝度を用いた階調補正カーブを作成する。図10(a)に階調補正カーブを示す。原点(0,0)から顔の平均輝度と補正目標値(A,C)を通り、(A,C)から“傾き1”で顔の最大輝度値まで直線を引き、最大輝度値以降は、最大輝度値(255,255)へ直線を結んだ階調補正テーブルとなる。これにより、顔領域の最大輝度値までは少なくとも”傾き 1”以上を保ち、元の顔領域の階調性を維持した補正結果が得られる。
【0088】
ステップS57において、階調補正テーブル修正部306は、顔領域以外における顔領域の平均輝度以上の輝度を持つ領域Bを抽出し、ステップS58において、作成した階調補正テーブルを使用した場合に領域Bにおける階調の飽和度(式(9))を算出する。
【0089】
ステップS59において、階調補正テーブル修正部306は、算出した飽和度を評価する。算出した飽和度がある閾値th1以上の場合、飽和度合い、すなわち階調つぶれが許容されないと判断する。この閾値th1をシーン判定の結果に応じて変更する。例えば、図13に示すように、シーンに応じて切り替える。
【0090】
この飽和度の評価の結果、階調つぶれが許容されない(つまり、飽和度≧th1)と判定された場合、ステップS60において、補正量の修正を行い、この修正結果により新たな階調補正カーブf1(x)を更新する(ステップS61)。例えば、目標輝度値(C)を輝度値5だけ減少させて、新たな補正カーブf1(x)を作成する。このようにして、図10(b)で示すような新たな階調補正テーブルf1(x)を得る。
【0091】
補正カーブf1(x)を更新したら、ステップS58へ戻り、再度、飽和度を算出した後、飽和度の許容値比較を行う(ステップS59)。ステップS59での判定結果がNOである場合は、再度ステップS60へ進み、補正量の修正と階調補正テーブルの更新を行う。飽和度が許容値以下になったら(ステップS59でYES)、階調補正テーブルを決定し、ステップS62に移る。ステップS62では、決定した階調補正テーブルを用いて入力画像の補正を行い、終了する。
【0092】
実施例4では、階調補正によりRGB値のいずれかが255値を超えた場合に、階調つぶれが起きる画素数を飽和度としたが、実施例3と同様に、飽和の閾値は上記した値に限定されず、255よりも小さい他の値でもよい。また、飽和度とは別に、階調補正前後での輝度差が一定値以上となる画素数を求めて、その画素数を予め定めた許容値と比較するといった評価を行ってもよい。
【0093】
以上説明したように、入力画像中の顔領域を検出して顔領域の平均輝度値を算出して、顔領域の輝度値に基づいた目標輝度値の設定を行い、顔領域の輝度範囲においては”傾き1”以上の階調補正テーブルを作成し、顔以外の領域について顔領域の平均輝度値以上の輝度を持つ画素領域における階調補正後の飽和度を撮影シーンに基づいて評価し、目標輝度値の修正を行うことで、撮影シーンに応じて背景領域の白飛びを抑制しつつ、顔領域の階調性を維持して明るさを向上させることが出来る。
【図面の簡単な説明】
【0094】
【図1】本発明の実施例1、2の画像処理装置の構成を示す。
【図2】第1の部分領域抽出部における抽出処理のフローチャートを示す。
【図3】実施例1の処理フローチャートを示す。
【図4】平均輝度から目標輝度を設定するテーブル例を示す。
【図5】顔の平均輝度値を、最終的な目標輝度値へ変換する階調補正テーブルの作成例(実施例1)を示す。
【図6】実施例2の処理フローチャートを示す。
【図7】顔の平均輝度値を、最終的な目標輝度値へ変換する階調補正テーブルの作成例(実施例2)を示す。
【図8】実施例3の画像処理装置の構成を示す。
【図9】実施例3の処理フローチャートを示す。
【図10】実施例3、4により作成される階調補正テーブルを示す。
【図11】実施例4の画像処理装置の構成を示す。
【図12】実施例4の処理フローチャートを示す。
【図13】シーンに応じて切り替える閾値を示す。
【符号の説明】
【0095】
101 第1の部分領域抽出部
102 第1の特徴量算出部
103 第2の部分領域抽出部
104 第2の特徴量算出部
105 目標値設定部
106 目標値制御部
107 目標値決定部
108 階調補正テーブル作成部
109 階調補正部
【技術分野】
【0001】
本発明は、デジタルカメラなどで撮影された画像データをプリンタやディスプレイ等に出力する際に、画像を補正処理する画像処理装置および画像処理方法に関する。
【背景技術】
【0002】
近年、パソコンやインターネット、家庭用プリンタの普及、及びハードディスク等の記憶容量の大型化により、デジタルデータで写真画像を扱う機会が増えている。それに伴いデジタル写真画像データ(以下、画像データ)の入力手段として、デジタルカメラやフィルムスキャナなどが一般に使用されている。
【0003】
デジタルカメラには、撮影時の露出を常に最適に保つための自動露出制御装置が設けられている。露出制御方式には、種々の方法があるが、光量検出のため画面を複数の適当な領域に分割し、領域ごとに重み付けを行い加重平均をとり、絞りやシャッタースピードなどを調節する方法が一般的である。
【0004】
しかし、これらの露出制御方式は各社様々であり、撮影条件によって適正に作動しない場合もあるため完全なものは存在しない。とりわけ、主被写体の真後ろに光源が存在し、背景と主被写体との輝度差が大きい逆光状態では、被写体に露出が合わないと背景の明るさに引っ張られて露出がマイナスに補正されるため被写体が暗く写ってしまう。
【0005】
また、夜間ストロボ撮影では、被写体にストロボ光があたることが前提になるため、絞りやシャッタースピードは規定値に固定される。つまり、ストロボと被写体の距離が遠すぎると光が届かず、この場合も被写体は暗く写ってしまう。
【0006】
ここで露出補正とは、シーンに対して不適切な明るさを持つ被写体を、シーンに適した明るさに調整することを意味する。例えば露出不足で全体に暗い被写体や、逆光で暗くなっている被写体を明るくしたり、露出オーバーな被写体を暗くしたりすることがある。カメラでの露出補正は、レンズに入る入射光量を調節するために絞りやシャッタースピードを変える方法が一般的である。また、プリンタやディスプレイでは、入出力変換関数(階調補正カーブ)等を用い、入力信号の明るさに対し出力信号の明るさを最適化するための処理等を意味する。なお、露出を補正して画像データの明るさを調節することと、本発明における階調補正処理とは目的が同等なため、以後、階調補正処理と記す。
【0007】
このようなデジタル画像の撮影時における不適切な露出状態に対応するため、画像データを自動的に階調補正する技術が多数提案されている。例えば、特許文献1では、画像中から人物の顔といった重要な領域を抽出し、顔画像の補正の際に、顔領域の面積の大小により補正効果があるか否かを推定することで、補正効果が得られると推定した場合に画像補正を行う。また、特許文献2では、不適切な露出状態で撮影された画像の主被写体の明るさを、背景の階調つぶれや色相変化を起こすことなく、最大限の効果で適切にコントラスト補正を施す。
【0008】
【特許文献1】特開2004−62651号公報
【特許文献2】特開2003−169231号公報
【発明の開示】
【発明が解決しようとする課題】
【0009】
しかしながら、上述の従来例には次のような問題がある。すなわち、特許文献1では、人物の顔が小さく補正効果がないと推定された場合には、例えその顔が重要な被写体であったとしても、画像が補正されないという問題がある。さらに、検出された顔領域のみの特徴に基づいて画像を補正するため、顔領域以外の背景の情報が考慮されておらず、画像を補正することにより背景の階調がつぶれてしまうなどの逆効果を引き起こす。また、特許文献2では、画像の輝度ヒストグラムから被写体を抽出しているので、正確に人物の顔の特徴を抽出することができず、重要な被写体である人物を正確に露出補正できない場合がある。
【0010】
本発明は上記した問題を解消するためになされたもので、
本発明の目的は、不適切な露出状態で撮影された画像の主被写体(特に人物の顔)の明るさを、背景の階調つぶれを起こすことなく、最大限の効果で適切に補正する画像処理装置および画像処理方法を提供することにある。
【課題を解決するための手段】
【0011】
本発明は、画像から第1の部分領域を抽出する第1の領域抽出手段と、前記第1の部分領域に基づいて第1の特徴量を算出する第1の特徴量算出手段と、前記画像から第2の部分領域を抽出する第2の領域抽出手段と、前記第2の部分領域に基づいて第2の特徴量を算出する第2の特徴量算出手段と、前記第1の特徴量に基づいて、前記画像の補正の目標値を設定する目標値設定手段と、前記第1、第2の特徴量に基づいて前記補正の目標値の修正量を制御する目標値制御手段と、前記補正の目標値と前記目標値の修正量に基づいて前記画像の最終的な補正目標値を決定する目標値決定手段と、前記補正目標値に基づいて階調補正テーブルを作成する階調補正テーブル作成手段と、前記階調補正テーブルに基づいて前記画像の階調を補正する階調補正手段とを有することを最も主要な特徴とする。
【発明の効果】
【0012】
請求項1、9:第1の特徴量から決めた補正の目標値を、第1の特徴量と第2の特徴量に基づき修正することができ、第1の部分領域と、第2の部分領域を考慮した階調補正を行うことができる。
【0013】
請求項2:画像中の人物の顔領域、または人物の肌領域の少なくとも一つを抽出することにより、人の顔や人の肌を主要な被写体として抽出しており、人物の顔や肌の特徴に基づいて補正量を決めることができる。
【0014】
請求項3:第1の部分領域とは別の、第2の部分領域を抽出することができ、主要な被写体以外の部分領域を抽出することができる。
【0015】
請求項4:第1の特徴量算出手段は、第1の部分領域における輝度分布に基づいた特徴量を算出し、第2の特徴量算出手段は、第2の部分領域における輝度分布に基づいた特徴量を算出するので、部分領域における輝度値を比較して補正目標輝度値を決定し、階調補正テーブルを作成することができる。
【0016】
請求項5:第1の特徴量は、第1の部分領域における平均輝度値であり、第2の部分領域は、前記第1の部分領域における平均輝度以上の輝度を持つ部分領域であり、第2の特徴量は第2の部分領域における平均輝度値を算出するので、第1の部分領域の平均輝度と、第1の部分領域の平均輝度以上の部分領域の平均輝度を比較して補正目標輝度値を決定し、階調補正テーブルを作成することができる。また、第1の特徴量から算出される平均輝度と、第2の特徴量から算出される平均輝度の関係から目標値の修正量を制御するので、両者の平均輝度の関係を考慮して最終的な補正量を決定することができる。
【0017】
請求項6:第1の特徴量が、第1の部分領域の平均輝度と第1の部分領域の輝度範囲を算出し、階調補正テーブル作成手段は、画像の補正後に第1の部分領域の階調数が減少することのないように階調補正テーブルを作成するので、主要な被写体の人物の顔や肌の輝度範囲では、少なくとも階調性を維持することができる。
【0018】
請求項7、10:主要な被写体の人物の顔や肌の輝度範囲では、階調性を少なくとも維持して補正することができ、また補正することにより第2の部分領域における階調の飽和度を考慮して階調の飽和が起こらない階調補正テーブルを決定することができる。
【0019】
請求項8:主要な被写体の人物の顔や肌の輝度範囲では、階調性を少なくとも維持して補正することができ、また画像の撮影シーンに応じた階調補正による階調の飽和度合いを考慮して、階調補正テーブルを決定することができる。
【発明を実施するための最良の形態】
【0020】
以下、発明の実施の形態について図面により詳細に説明する。
【0021】
実施例1
図1は、本発明の実施例1の画像処理装置の構成を示す。図1の画像処理装置は、第1の部分領域抽出部101、第1の特徴量算出部102、第2の部分領域抽出部103、第2の特徴量算出部104、目標値設定部105、目標値制御部106、目標値決定部107、階調補正テーブル作成部108、階調補正部109から構成される。
【0022】
第1の部分領域抽出部101は、入力画像中の人物の顔や人物の肌領域を抽出する。図2は、第1の部分領域抽出部における抽出処理のフローチャートを示す。
【0023】
まず、ステップS1において、入力画像中の顔領域を検出する。入力画像から人間の目、鼻、口等の特徴に着目した顔検出処理を行う。ここでは、目、鼻、口の特徴に基づいた検出処理の例であるが、本発明では上記した検出処理に限定されず、他の方法を用いて顔を検出しても構わない。
【0024】
次に、ステップS2では、検出した顔領域の特徴として色相領域を判定する。これは、顔領域と同等の肌色色相を持つ画素を抽出するための特徴量となる。さらに、ステップS3において、入力画像中において顔領域と同等の色相領域内にある画素を肌領域として抽出する。ステップS4において、検出した顔領域と人物肌領域の領域情報を作成し、終了する。
【0025】
以下の説明では、簡単のために顔領域のみを抽出するとして説明するが、顔領域と肌領域とを抽出したものと置き換えてもよい。
【0026】
第1の特徴量算出部102は、第1の部分領域抽出部101で作成された顔領域の領域情報をもとに顔領域内のデータ分布として輝度ヒストグラムを作成し、顔領域の平均輝度値、最大輝度値、最小輝度値、顔領域の画素数などを算出する。
【0027】
第2の部分領域抽出部103は、第1の特徴量算出部102から入力される顔領域の平均輝度値を元に、平均輝度値以上の値を持つ画素を入力画像から抽出する。
【0028】
第2の特徴量算出部104は、第2の部分領域抽出部103において抽出された画素を元に、平均輝度、抽出画素数などを算出する。
【0029】
目標値設定部105は、第1の特徴量算出部102で算出された顔領域の平均輝度を元にして、予め決めている目標輝度を仮設定する。目標値制御部106は、第1の特徴量算出部102で算出された平均輝度と、第2の特徴量算出部2で算出された平均輝度を元に、目標輝度の修正量を算出する。
【0030】
目標値決定部107は、目標値設定部105に仮設定された目標輝度と、目標値制御部106で算出された目標輝度の修正量を用いて最終的な目標値を決定する。
【0031】
階調補正テーブル作成部108は、目標値決定部107で決定された最終的な目標値を元に階調補正テーブルを作成する。階調補正部109は、階調補正テーブル部108で作成された階調補正テーブルに基づいて入力画像の補正を行う。
【0032】
図3は、本発明の実施例1の処理フローチャートを示す。ステップS11において、第1の部分領域抽出部101は、入力画像中から顔領域を抽出する処理を行う。ステップS12において、入力画像中に顔が検出されたか否かを判定する。顔が検出された場合は、ステップS13へ進み、顔が存在しない場合は、処理を終了する。
【0033】
ステップS13において、第1の特徴量算出部102は、取得した顔領域の輝度ヒストグラムから顔の平均輝度値を算出する。入力画像がRGBデータであるとすると、以下の式(1)に従いRGBデータを輝度変換した後、輝度ヒストグラムを求める。顔領域の開始点と、終了点で示された領域内の画素のRGBデータから式(1)に従い輝度値Yを求める。
【0034】
Y=0.299×R+0.587×G+0.114×B 式(1)
ステップS14において、目標値設定部105は、顔領域の平均輝度値から、予め設定している目標輝度値を算出する。図4は、平均輝度から目標輝度を設定するテーブルの一例である。図4において、横軸は顔領域の平均輝度であり、縦軸は変換後の目標輝度値である。ここで使用する変換テーブルの目標輝度の値は予め設定しておくものであり、一例としてあげた図4は、実験により求めたものである。
【0035】
ステップS15において、第2の部分領域抽出部103は、第1の特徴量算出部102で算出した顔領域の平均輝度を用いて、顔領域以外の部分において顔領域の平均輝度値以上の値を持つ画素(領域B)を抽出する。
【0036】
ここでは、平均輝度以上の輝度を持つ領域を全て抽出するようにしているが、ここで抽出したい画素は、階調補正によって階調がつぶれが起きた場合に、そのつぶれが認識しやすい領域を抽出するためであり、その階調つぶれが認識しにくい、高輝度白色画素については予め抽出領域から排除するようにしても良い。例えば、高輝度白色画素とは、そのRGB値が、
(R>240かつG>240かつB>240)かつ、
(|G−R|<10かつ|G−B|<10) 式(2)
を満たす画素である。
【0037】
ステップS16において、第2の特徴量算出部104は、ステップS15で抽出した領域Bの平均輝度値を算出する。
【0038】
ステップS17において、目標値制御部106は、ステップS13で算出した顔領域の平均輝度とステップS16で算出した領域Bの平均輝度を基に、目標輝度の修正量を算出する。顔の平均輝度のみで目標値を決定してしまうと、背景のハイライト領域が白飛びしてしまう可能性があるため、補正することにより顔は明るく補正しても背景の白飛びした好ましくない補正になってしまう場合がある。そこで、背景における顔の平均輝度よりも高い輝度を持つ画素を参照することにより、補正量を抑制する。
【0039】
第1の特徴量算出部101で算出された平均輝度を輝度A、特第2の徴量算出部104で算出された平均輝度を輝度Bとし、輝度Aを元に、図4の変換テーブルで設定される目標輝度を輝度C、修正量をSとすると、補正目標値の修正量Sは例えば、式(3)のようになる。
【0040】
S=(C−A)×{1−(A/B)} 式(3)
AとBの値が近いほど修正量は小さくなる。
この修正式は一例であり、他の修正式で補正量を抑制するものでも構わない。他の方式として、例えばルックアップテーブルを使って、(A/B)の値に応じて修正量を決定するようにしても構わない。
【0041】
ステップS18において、目標値決定部107は、ステップS14で算出した目標値とステップS17で算出した修正量を用いて最終的な目標輝度Tを、式(4)により算出する。
【0042】
T=C−S 式(4)
ステップS19において、階調補正テーブル作成部108は、ステップS13で算出した顔の平均輝度値AとステップS18で算出した最終的な目標輝度値Tから階調補正テーブルを生成する。図5は、顔の平均輝度値Aを、最終的な目標輝度値Tへ変換する階調補正テーブルの作成例を示す。図5において、横軸は入力輝度値であり、縦軸は補正後の輝度値を表している。原点(0,0)から顔の平均輝度と補正目標値(A,T)を通り、最大輝度値(255,255)へ直線を結んだ階調補正テーブルとなる。
【0043】
ステップS20において、階調補正部109は、ステップS19で作成した階調補正テーブルを用いて入力画像の階調補正を行う。階調補正テーブルによる変換後の輝度値をYout、入力輝度値をYin、入力RGB値を以下の式(5)に従って行う。
【0044】
Rout=(Yout/Yin)×Rin
Gout=(Yout/Yin)×Gin
Bout=(Yout/Yin)×Bin 式(5)
Rin、Gin、Binは入力RGB値、Rout、Gout、Boutは出力RGB値を表している。
【0045】
以上説明したように、入力画像中の顔領域を検出して顔領域の平均輝度値を算出して、顔領域の輝度値に基づいた目標輝度値の仮設定を行い、顔以外の領域について顔領域の平均輝度値以上の輝度を持つ画素領域の平均輝度を参照して、目標輝度値の修正を行うことで、背景領域の白飛びも考慮して顔領域の画質向上を図ることが出来る。
【0046】
実施例2
実施例2は、入力画像から顔領域を抽出し、顔領域の輝度範囲において階調補正後も階調性を維持し、背景の白飛びを考慮して補正する実施例である。
【0047】
図6は、実施例2の処理フローチャートを示す。実施例1と相違する処理は、ステップ23とステップ29の処理であり、他のステップでの処理は実施例1と同様である。また、実施例2の構成は、実施例1(図1)と同一である。
【0048】
実施例1と同様に、ステップS21において、第1の部分領域抽出部101は、入力画像中から顔領域を抽出し、ステップS22において、入力画像中に顔が検出されたか否かを判定し、顔が検出された場合は、ステップS23へ進み、顔が存在しない場合は処理を終了する。
【0049】
ステップS23において、第1の特徴量算出部102は、取得した顔領域の輝度ヒストグラムから顔の平均輝度値と最大輝度を算出する。実施例1と同様に、式(1)に従いRGBデータを輝度変換した後、輝度ヒストグラムを求める。顔領域の開始点と、終了点で示された領域内の画素のRGBデータから式(1)に従い輝度値Yを求める。
【0050】
ステップS24において、目標値設定部105は、顔領域の平均輝度値から、予め設定している目標輝度値を算出する。目標輝度値の設定は、実施例1の設定方法と同様であるので省略する。
【0051】
ステップS25において、実施例1と同様に、第2の部分領域抽出部103は、第1の特徴量算出部102において算出した顔領域の平均輝度を用いて、顔領域以外の部分において顔領域の平均輝度値以上の値を持つ画素(領域B)を抽出する。ここでは、平均輝度以上の輝度を持つ領域を全て抽出するが、ここで抽出したい画素は、階調補正によって階調がつぶれが起きた場合に、そのつぶれが認識しやすい領域を抽出するためであり、その階調つぶれが認識しにくい、高輝度白色画素(式(2))については予め抽出領域から排除するようにしても良い。
【0052】
ステップS26において、第2の特徴量算出部104は、ステップS25で抽出した領域Bの平均輝度値を算出し、ステップS27において、目標値制御部106は、ステップS23で算出した顔領域の平均輝度とステップS26で算出した領域Bの平均輝度から、目標輝度の修正量を算出する。顔の平均輝度のみで目標値を決定してしまうと、背景のハイライト領域が白飛びしてしまう可能性があるため、補正することにより顔は明るく補正しても背景の白飛びした好ましくない補正になってしまう場合がある。そこで、背景における顔の平均輝度よりも高い輝度を持つ画素を参照することにより、補正量を抑制する。
【0053】
実施例1と同様に、第1の特徴量算出部101で算出された平均輝度を輝度A、第2の特徴量算出部104で算出された平均輝度を輝度Bとし、輝度Aを元に、図4の変換テーブルで設定される目標輝度を輝度C、修正量をSとすると、補正目標値の修正量Sは式(3)のようになる。
【0054】
ステップS28において、目標値決定部107は、ステップS24で算出した目標値とステップS27で算出した修正量を用いて最終的な目標輝度Tを、式(4)により算出する。
【0055】
ステップS29において、階調補正テーブル作成部108は、ステップS23で算出した特徴量(平均輝度A、最大輝度)とステップS28で算出した最終的な目標輝度値Tを基に階調補正テーブルを生成する。
【0056】
図7は、顔の平均輝度値Aを、最終的な目標輝度値Tへ変換する階調補正テーブルの作成例を示す。図7において、横軸は入力輝度値であり、縦軸は補正後の輝度値を表している。原点(0,0)から顔の平均輝度と補正目標値(A,T)を通り、(A,T)から“傾き1”で顔の最大輝度値まで直線を引き、最大輝度値以降は、最大輝度値(255,255)へ直線を結んだ階調補正テーブルとなる。ここでは、顔の平均輝度値から最大輝度値までの階調補正テーブルの傾きを“傾き1”として作成したが、“傾き1”以上であれば、他の値を設定しても構わない。
【0057】
以下、実施例1と同様に、ステップS30において、階調補正部109は、ステップS29で作成した階調補正テーブルを用いて入力画像の階調補正を行う。
【0058】
以上説明したように、入力画像中の顔領域を検出して顔領域の平均輝度値を算出して、顔領域の輝度値に基づいた目標輝度値の仮設定を行い、顔以外の領域について顔領域の平均輝度値以上の輝度を持つ画素領域の平均輝度を参照して、目標輝度値の修正を行うことで、背景領域の白飛びも考慮した顔領域の画質向上を図ることが出来、更に顔領域の輝度範囲においては傾き1以上の階調補正テーブルを作成することで、顔領域の階調性を維持した補正画像を得ることが出来る。
【0059】
実施例3
実施例3は、入力画像から顔領域を抽出し、顔領域の平均輝度と輝度範囲から階調補正テーブルを設定し、顔領域以外の背景の白飛びや階調つぶれを起こしそうな画素数(飽和度)を算出することにより、目標輝度値を修正することで、最終的な階調補正テーブルを決定する実施例である。
【0060】
図8は、本発明の実施例3の画像処理装置の構成を示す。図8に示す画像処理装置は、第1の部分領域抽出部201、特徴量算出部202、階調補正テーブル作成部203、第2の部分領域抽出部204、階調補正テーブル修正部205、階調補正部206から構成される。
【0061】
実施例1と同様に、第1の部分領域抽出部201は、入力画像中の人物の顔や人物の肌領域を抽出する。なお、実施例1と同様に、簡単のために顔領域のみを抽出するとして説明するが、顔領域と肌領域とを抽出したものと置き換えてもよい。
【0062】
特徴量算出部202は、第1の部分領域抽出部201で作成された顔領域の領域情報をもとに顔領域内のデータ分布として輝度ヒストグラムを作成し、顔領域の平均輝度値、最大輝度値を算出する。階調補正テーブル作成部203は、特徴量算出部202で算出された顔領域内の平均輝度と最大輝度を元に階調補正テーブルを作成する。第2の部分領域抽出部204は、特徴量算出部202から入力される顔領域の平均輝度値を元に、平均輝度値以上の値を持つ画素を入力画像から抽出する。階調補正テーブル修正部205は、第2の部分領域抽出部203において抽出された領域を、階調補正テーブル作成部203で作成された階調補正テーブルを用いて階調補正した際に、後述する飽和度が許容範囲にあるか否かを判定し、判定結果に基づいて階調補正テーブルを修正する。階調補正部206は、階調補正テーブル修正部205で修正された階調補正テーブルに基づいて入力画像の補正を行う。
【0063】
図9は、実施例3の処理フローチャートを示す。ステップ31からステップ33は実施例2と同様である。すなわち、ステップS31において、第1の部分領域抽出部201は、入力画像中から顔を抽出し、ステップS32において、入力画像中に顔が検出されたか否かを判定し、顔が検出された場合は、ステップS33へ進み、顔が存在しない場合は、処理を終了する。ステップS33において、抽出された顔領域の輝度ヒストグラムから平均輝度、最大輝度を算出する。
【0064】
ステップS34において、算出された平均輝度から図4の目標輝度算出テーブルを用いて、階調補正テーブル作成部203は目標輝度を算出する。
【0065】
続いて、階調補正テーブル作成部203は、ステップS35において、顔領域の平均輝度Aと目標輝度C、最大輝度を用いた階調補正カーブを作成する。図10(a)に階調補正カーブを示す。原点(0,0)から顔の平均輝度と補正目標値(A,C)を通り、(A,C)から“傾き1”で顔の最大輝度値まで直線を引き、最大輝度値以降は、最大輝度値(255,255)へ直線を結んだ階調補正テーブルとなる。これにより、顔領域の最大輝度値までは少なくとも”傾き1”以上を保ち、元の顔領域の階調性を維持した補正結果が得られる。
【0066】
ステップS36において、第2の部分領域抽出部204は、実施例1、2と同様に、顔領域以外における顔領域の平均輝度以上の輝度を持つ領域Bを抽出する。なお、実施例1、2と同様に高輝度白色画素を予め抽出領域から排除するようにしても良い。
【0067】
ステップS37において、階調補正テーブル修正部205は、作成した階調補正テーブルを使用した場合に、領域Bにおける階調の飽和度を算出する。飽和度は、階調を補正することにより、階調つぶれが起きる画素数を算出することで評価する。以下に、飽和度の算出方法を説明する。
【0068】
入力した画像データの画素数をj=(1,2,・・N−1,N)とし、画像データの入力輝度値をYin(j)、階調補正カーブf0(x)による補正後の出力輝度値をY1(j)と定義する。入力した画像データのj番目の画素の入力輝度値Yin(j)は、カラー画像信号(Rin(j),Gin(j),Bin(j))を用いて式(6)で表せる。
【0069】
Yin(j)=0.299Rin(j)+0.587Gin(j)+0.114Bin(j) 式(6)
この入力輝度値Yin(j)に対して階調補正カーブf0(x)による階調補正処理後の出力輝度値Y1(j)を算出し、階調補正係数CO(j)を式(7)で算出する。
【0070】
CO(j)=Y1(j)/Yin(j)=f0(Yin(j))/Yin(j) 式(7)
この階調補正係数CO(j)を用いて入力カラー画像信号(Rin(j),Gin(j),Bin(j))を式(8)で変換することにより階調補正カラー信号(R1(j),G1(j),B1(j))を得る。
【0071】
(R1(j),G1(j),B1(j))=CO(j)・(Rin(j),Gin(j),Bin(j)) 式(8)
また、入力画像信号がグレーの場合、グレーレベルYin(j)を入力値とし、階調補正処理後の出力は、出力グレーレベルY1(j)=f0(Yin(j))を得れば良い。
ここで通常の画像処理では、再現範囲0〜255を超えた場合クリッピングを行う。すなわち、0未満の値は0へ、255以上の値は強制的に255に置き換える。
【0072】
これに対して、本発明では、最終的な階調補正カーブを得て、階調補正処理を行うまでクリッピングを行わない。この階調補正カーブf0(x)を用いてRGBのカラー画像データの階調補正処理後の画像データの飽和度を算出する。例えばj番目の画素の階調補正後の色成分(R1(j),G1(j),B1(j))のうち、少なくとも1つが再現範囲である0から255値を超えた場合、j番目の画素は飽和しているとみなす。
【0073】
この再現範囲を超えて飽和しているとみなす画素に対して平均的な超越値を算出する。すなわち、K個の飽和画素に対して各画素ごとに飽和した色成分の最大レベルLj(j=1,2,・・K)を求め、式(9)に示すように、最大レベルLjと再現範囲上限255との差分の平均値Oaveを飽和度として算出する。
Oave=Σ(Lj−255)/K 式(9)
但し、Σはj=1,2,・・・Kについてとる。
また、例えば領域Bに属するM個の画素に対してK/Mを飽和度とする。
【0074】
ステップS38において、階調補正テーブル修正部205は、算出した飽和度を評価する。算出した飽和度がある閾値th1以上の場合、飽和度合い、すなわち階調つぶれが許容されないと判断する。この閾値th1は、K/Mを飽和度とした場合、実験によるとth1=0.03であった。
【0075】
この飽和度の評価の結果、階調つぶれが許容されない(つまり、飽和度≧th1)と判定された場合、ステップS39において、補正量の修正を行い、この修正結果により新たな階調補正カーブf1(x)を更新する(ステップS40)。
【0076】
目標輝度値(C)を、例えば輝度値5だけ減少させて、新たな補正カーブf1(x)を作成する。このようにして、図10(b)で示すような新たな階調補正テーブルf1(x)を得る。
【0077】
補正カーブf1(x)を更新したら、ステップS37へ戻り、再度、飽和度を算出した後、飽和度の許容値比較を行う(ステップS38)。ステップS38での判定結果がNOである場合は、再度ステップS39へ進み、補正量の修正と階調補正テーブルの更新を行う。飽和度が許容値以下(ステップS38でYES)となったら、階調補正テーブルを決定し、ステップS41に移る。ステップS41において、階調補正部206は、決定した階調補正テーブルを用いて入力画像の補正を行い、処理を終了する。
【0078】
上記した実施例では、階調補正によりRGB値のいずれかが255値を超えた場合に、階調つぶれが起きる画素数を飽和度としたが、飽和の閾値は上記した値に限定されず、255よりも小さい他の値でもよい。
【0079】
以上説明したように、入力画像中の顔領域を検出して顔領域の平均輝度値を算出して、顔領域の輝度値に基づいた目標輝度値の設定を行い、顔領域の輝度範囲においては”傾き1”以上の階調補正テーブルを作成し、顔以外の領域について顔領域の平均輝度値以上の輝度を持つ画素領域の飽和度を評価して、目標輝度値の修正を行うことで、背景領域の白飛びを抑制しつつ、顔領域の階調性を維持して明るさを向上させることが出来る。
【0080】
実施例4
実施例4は、入力画像の顔領域を抽出し、顔領域の平均輝度と輝度範囲を特徴量として抽出して階調補正テーブルを作成し、さらに入力画像の撮影シーンを判定することで飽和度(顔領域以外の背景の白飛びや階調つぶれを起こしそうな画素数)の許容閾値を、判定した撮影シーンに応じて可変にすることにより、入力画像のシーンに対応した階調補正テーブルを決定する実施例である。
【0081】
図11は、本発明の実施例4の画像処理装置の構成を示す。実施例4の画像処理装置は、実施例3の構成に、シーン判定部305を追加したものである。
【0082】
第1の部分領域抽出部301は、入力画像中の人物の顔や人物の肌領域を抽出する。特徴量算出部302は、第1の部分領域抽出部301で作成された顔領域の領域情報をもとに顔領域内のデータ分布として輝度ヒストグラムを作成し、顔領域の平均輝度値、最大輝度値を算出する。階調補正テーブル作成部303は、特徴量算出部302で算出された顔領域内の平均輝度と最大輝度を元に階調補正テーブルを作成する。第2の部分領域抽出部304は、特徴量算出部302から入力される顔領域の平均輝度値を元に、平均輝度値以上の値を持つ画素を入力画像から抽出する。シーン判定部305は、入力画像の特徴に基づいて撮影シーンを判定する。階調補正テーブル修正部306は、第2の部分領域抽出部303で抽出された領域を、階調補正テーブル作成部303で作成された階調補正テーブルを用いて階調補正した際に、後述する飽和度が許容範囲にあるか否かを判定し、判定結果に基づいて階調補正テーブルを修正する。階調補正部307は、階調補正テーブル修正部306で修正された階調補正テーブルに基づいて入力画像の補正を行う。
【0083】
図12は、実施例4の処理フローチャートである。実施例4の処理において、実施例3と相違する点は、ステップ53とステップ59の処理である。
【0084】
ステップS51において、前述した実施例と同様にして入力画像中から顔を抽出し、ステップS52において、入力画像中に顔が検出されたか否かを判定し、顔が検出された場合は、ステップS53へ進み、顔が存在しない場合は、処理を終了する。
【0085】
ステップS53において、シーン判定部305は、入力画像のシーン判定を行う。実施例3では、階調つぶれを起こす画素数を飽和度として評価して使用したが、この飽和度合いが許容されるか否かは画像により異なり、例えば、逆光シーンでは背景に明るい画素が多く、その結果、階調補正により飽和する画素数も多くなるため許容度合いが異なる。
【0086】
そこで、実施例4では、画像の撮影シーンに応じて飽和度合いを許容するか否かの閾値(th1)を可変にするために、入力画像のシーンを判定する。シーン判定方法としては、例えば、特開2002−247361号公報(段落0013〜0016、図4、図5を参照)に記載の方法を用いる(画像の平均的な明るさに比べて、逆光なら極端に明るい背景が存在し、かつ明るさに対する頻度分布が2極化し、夜間撮影なら極端に暗い背景がある。よって、[条件1]画像の平均的な明るさに比べて、極端に明るい部分、もしくは極端に暗い部分が、所定の閾値(割合)以上あるか、[条件2]前記条件を満たすとき、極端に明るい部分、もしくは暗い部分のほとんどは画像端部にあるか、[条件3]逆光画像の可能性がある場合、輝度分布は明と暗とに2極化しているかを調べればよい)。
【0087】
以下、実施例4のステップ54〜ステップ58は、実施例3のステップ33〜ステップ37と同様である。ステップS54において、抽出された顔領域の輝度ヒストグラムから平均輝度、最大輝度を算出し、ステップS55において、算出された平均輝度から図4の目標輝度算出テーブルを用いて目標輝度を算出する。ステップS56において、顔領域の平均輝度Aと目標輝度C、最大輝度を用いた階調補正カーブを作成する。図10(a)に階調補正カーブを示す。原点(0,0)から顔の平均輝度と補正目標値(A,C)を通り、(A,C)から“傾き1”で顔の最大輝度値まで直線を引き、最大輝度値以降は、最大輝度値(255,255)へ直線を結んだ階調補正テーブルとなる。これにより、顔領域の最大輝度値までは少なくとも”傾き 1”以上を保ち、元の顔領域の階調性を維持した補正結果が得られる。
【0088】
ステップS57において、階調補正テーブル修正部306は、顔領域以外における顔領域の平均輝度以上の輝度を持つ領域Bを抽出し、ステップS58において、作成した階調補正テーブルを使用した場合に領域Bにおける階調の飽和度(式(9))を算出する。
【0089】
ステップS59において、階調補正テーブル修正部306は、算出した飽和度を評価する。算出した飽和度がある閾値th1以上の場合、飽和度合い、すなわち階調つぶれが許容されないと判断する。この閾値th1をシーン判定の結果に応じて変更する。例えば、図13に示すように、シーンに応じて切り替える。
【0090】
この飽和度の評価の結果、階調つぶれが許容されない(つまり、飽和度≧th1)と判定された場合、ステップS60において、補正量の修正を行い、この修正結果により新たな階調補正カーブf1(x)を更新する(ステップS61)。例えば、目標輝度値(C)を輝度値5だけ減少させて、新たな補正カーブf1(x)を作成する。このようにして、図10(b)で示すような新たな階調補正テーブルf1(x)を得る。
【0091】
補正カーブf1(x)を更新したら、ステップS58へ戻り、再度、飽和度を算出した後、飽和度の許容値比較を行う(ステップS59)。ステップS59での判定結果がNOである場合は、再度ステップS60へ進み、補正量の修正と階調補正テーブルの更新を行う。飽和度が許容値以下になったら(ステップS59でYES)、階調補正テーブルを決定し、ステップS62に移る。ステップS62では、決定した階調補正テーブルを用いて入力画像の補正を行い、終了する。
【0092】
実施例4では、階調補正によりRGB値のいずれかが255値を超えた場合に、階調つぶれが起きる画素数を飽和度としたが、実施例3と同様に、飽和の閾値は上記した値に限定されず、255よりも小さい他の値でもよい。また、飽和度とは別に、階調補正前後での輝度差が一定値以上となる画素数を求めて、その画素数を予め定めた許容値と比較するといった評価を行ってもよい。
【0093】
以上説明したように、入力画像中の顔領域を検出して顔領域の平均輝度値を算出して、顔領域の輝度値に基づいた目標輝度値の設定を行い、顔領域の輝度範囲においては”傾き1”以上の階調補正テーブルを作成し、顔以外の領域について顔領域の平均輝度値以上の輝度を持つ画素領域における階調補正後の飽和度を撮影シーンに基づいて評価し、目標輝度値の修正を行うことで、撮影シーンに応じて背景領域の白飛びを抑制しつつ、顔領域の階調性を維持して明るさを向上させることが出来る。
【図面の簡単な説明】
【0094】
【図1】本発明の実施例1、2の画像処理装置の構成を示す。
【図2】第1の部分領域抽出部における抽出処理のフローチャートを示す。
【図3】実施例1の処理フローチャートを示す。
【図4】平均輝度から目標輝度を設定するテーブル例を示す。
【図5】顔の平均輝度値を、最終的な目標輝度値へ変換する階調補正テーブルの作成例(実施例1)を示す。
【図6】実施例2の処理フローチャートを示す。
【図7】顔の平均輝度値を、最終的な目標輝度値へ変換する階調補正テーブルの作成例(実施例2)を示す。
【図8】実施例3の画像処理装置の構成を示す。
【図9】実施例3の処理フローチャートを示す。
【図10】実施例3、4により作成される階調補正テーブルを示す。
【図11】実施例4の画像処理装置の構成を示す。
【図12】実施例4の処理フローチャートを示す。
【図13】シーンに応じて切り替える閾値を示す。
【符号の説明】
【0095】
101 第1の部分領域抽出部
102 第1の特徴量算出部
103 第2の部分領域抽出部
104 第2の特徴量算出部
105 目標値設定部
106 目標値制御部
107 目標値決定部
108 階調補正テーブル作成部
109 階調補正部
【特許請求の範囲】
【請求項1】
画像から第1の部分領域を抽出する第1の領域抽出手段と、前記第1の部分領域に基づいて第1の特徴量を算出する第1の特徴量算出手段と、前記画像から第2の部分領域を抽出する第2の領域抽出手段と、前記第2の部分領域に基づいて第2の特徴量を算出する第2の特徴量算出手段と、前記第1の特徴量に基づいて、前記画像の補正の目標値を設定する目標値設定手段と、前記第1、第2の特徴量に基づいて前記補正の目標値の修正量を制御する目標値制御手段と、前記補正の目標値と前記目標値の修正量に基づいて前記画像の最終的な補正目標値を決定する目標値決定手段と、前記補正目標値に基づいて階調補正テーブルを作成する階調補正テーブル作成手段と、前記階調補正テーブルに基づいて前記画像の階調を補正する階調補正手段とを有することを特徴とする画像処理装置。
【請求項2】
前記第1の領域抽出手段は、前記画像から人物の顔領域、または人物の肌領域の少なくとも一つを抽出することを特徴とする請求項1に記載の画像処理装置。
【請求項3】
前記第2の領域抽出手段は、前記第1の特徴量に基づいて前記第2の部分領域を抽出することを特徴とする請求項1記載の画像処理装置。
【請求項4】
前記第1の特徴量算出手段は、前記第1の部分領域における輝度分布に基づいて第1の特徴量を算出し、前記第2の特徴量算出手段は、前記第2の部分領域における輝度分布に基づいて第2の特徴量を算出することを特徴とする請求項1記載の画像処理装置。
【請求項5】
前記第1の特徴量は、前記第1の部分領域における平均輝度値であり、前記第2の部分領域は、前記第1の部分領域における平均輝度以上の輝度を持つ部分領域であり、前記第2の特徴量は前記第2の部分領域における平均輝度であることを特徴とする請求項4記載の画像処理装置。
【請求項6】
前記第1の特徴量算出手段は、前記第1の部分領域の輝度分布に基づいて前記第1の部分領域の平均輝度と、前記第1の部分領域における階調性を維持する輝度範囲を算出し、前記階調補正テーブル作成手段は、前記輝度範囲において少なくとも階調数が減少しない階調補正テーブルを設定することを特徴とする請求項1記載の画像処理装置。
【請求項7】
画像から第1の部分領域を抽出する第1の領域抽出手段と、前記第1の部分領域に基づいて第1の特徴量を算出する第1の特徴量算出手段と、前記画像から第2の部分領域を抽出する第2の領域抽出手段と、前記第1の特徴量に基づいて、前記部分領域の輝度範囲において少なくとも階調数が減少しない階調補正テーブルを作成する階調補正テーブル作成手段と、前記階調補正テーブル作成手段により作成された階調補正テーブルによって階調を補正したときの前記第2の部分領域における階調の飽和度に基づいて前記階調補正テーブルを修正する階調補正テーブル修正手段と、前記階調補正テーブル修正手段により修正された階調補正テーブルに基づいて前記画像の階調を補正する階調補正手段とを有することを特徴とする画像処理装置。
【請求項8】
前記画像の撮影シーンを判定するシーン判定手段を更に有し、前記階調補正テーブル修正手段は、前記シーン判定手段によって判定されたシーンと、前記飽和度に基づいて前記階調補正テーブルを修正することを特徴とする請求項7記載の画像処理装置。
【請求項9】
画像から第1の部分領域を抽出する第1の領域抽出工程と、前記第1の部分領域に基づいて第1の特徴量を算出する第1の特徴量算出工程と、前記画像から第2の部分領域を抽出する第2の領域抽出工程と、前記第2の部分領域に基づいて第2の特徴量を算出する第2の特徴量算出工程と、前記第1の特徴量に基づいて、前記画像の補正の目標値を設定する目標値設定工程と、前記第1、第2の特徴量に基づいて前記補正の目標値の修正量を制御する目標値制御工程と、前記補正の目標値と前記目標値の修正量に基づいて前記画像の最終的な補正目標値を決定する目標値決定工程と、前記補正目標値に基づいて階調補正テーブルを作成する階調補正テーブル作成工程と、前記階調補正テーブルに基づいて前記画像の階調補正を行う階調補正工程とを有することを特徴とする画像処理方法。
【請求項10】
画像から第1の部分領域を抽出する第1の領域抽出工程と、前記第1の部分領域に基づいて第1の特徴量を算出する第1の特徴量算出工程と、前記画像から第2の部分領域を抽出する第2の領域抽出工程と、前記第1の特徴量に基づいて、前記部分領域の輝度範囲において少なくとも階調数が減少しない階調補正テーブルを作成する階調補正テーブル作成工程と、前記階調補正テーブル作成工程により作成された階調補正テーブルによって階調を補正したときの前記第2の部分領域における階調の飽和度に基づいて前記階調補正テーブルを修正する階調補正テーブル修正工程と、前記階調補正テーブル修正工程により修正された階調補正テーブルに基づいて前記画像の階調を補正する階調補正工程とを有することを特徴とする画像処理方法。
【請求項1】
画像から第1の部分領域を抽出する第1の領域抽出手段と、前記第1の部分領域に基づいて第1の特徴量を算出する第1の特徴量算出手段と、前記画像から第2の部分領域を抽出する第2の領域抽出手段と、前記第2の部分領域に基づいて第2の特徴量を算出する第2の特徴量算出手段と、前記第1の特徴量に基づいて、前記画像の補正の目標値を設定する目標値設定手段と、前記第1、第2の特徴量に基づいて前記補正の目標値の修正量を制御する目標値制御手段と、前記補正の目標値と前記目標値の修正量に基づいて前記画像の最終的な補正目標値を決定する目標値決定手段と、前記補正目標値に基づいて階調補正テーブルを作成する階調補正テーブル作成手段と、前記階調補正テーブルに基づいて前記画像の階調を補正する階調補正手段とを有することを特徴とする画像処理装置。
【請求項2】
前記第1の領域抽出手段は、前記画像から人物の顔領域、または人物の肌領域の少なくとも一つを抽出することを特徴とする請求項1に記載の画像処理装置。
【請求項3】
前記第2の領域抽出手段は、前記第1の特徴量に基づいて前記第2の部分領域を抽出することを特徴とする請求項1記載の画像処理装置。
【請求項4】
前記第1の特徴量算出手段は、前記第1の部分領域における輝度分布に基づいて第1の特徴量を算出し、前記第2の特徴量算出手段は、前記第2の部分領域における輝度分布に基づいて第2の特徴量を算出することを特徴とする請求項1記載の画像処理装置。
【請求項5】
前記第1の特徴量は、前記第1の部分領域における平均輝度値であり、前記第2の部分領域は、前記第1の部分領域における平均輝度以上の輝度を持つ部分領域であり、前記第2の特徴量は前記第2の部分領域における平均輝度であることを特徴とする請求項4記載の画像処理装置。
【請求項6】
前記第1の特徴量算出手段は、前記第1の部分領域の輝度分布に基づいて前記第1の部分領域の平均輝度と、前記第1の部分領域における階調性を維持する輝度範囲を算出し、前記階調補正テーブル作成手段は、前記輝度範囲において少なくとも階調数が減少しない階調補正テーブルを設定することを特徴とする請求項1記載の画像処理装置。
【請求項7】
画像から第1の部分領域を抽出する第1の領域抽出手段と、前記第1の部分領域に基づいて第1の特徴量を算出する第1の特徴量算出手段と、前記画像から第2の部分領域を抽出する第2の領域抽出手段と、前記第1の特徴量に基づいて、前記部分領域の輝度範囲において少なくとも階調数が減少しない階調補正テーブルを作成する階調補正テーブル作成手段と、前記階調補正テーブル作成手段により作成された階調補正テーブルによって階調を補正したときの前記第2の部分領域における階調の飽和度に基づいて前記階調補正テーブルを修正する階調補正テーブル修正手段と、前記階調補正テーブル修正手段により修正された階調補正テーブルに基づいて前記画像の階調を補正する階調補正手段とを有することを特徴とする画像処理装置。
【請求項8】
前記画像の撮影シーンを判定するシーン判定手段を更に有し、前記階調補正テーブル修正手段は、前記シーン判定手段によって判定されたシーンと、前記飽和度に基づいて前記階調補正テーブルを修正することを特徴とする請求項7記載の画像処理装置。
【請求項9】
画像から第1の部分領域を抽出する第1の領域抽出工程と、前記第1の部分領域に基づいて第1の特徴量を算出する第1の特徴量算出工程と、前記画像から第2の部分領域を抽出する第2の領域抽出工程と、前記第2の部分領域に基づいて第2の特徴量を算出する第2の特徴量算出工程と、前記第1の特徴量に基づいて、前記画像の補正の目標値を設定する目標値設定工程と、前記第1、第2の特徴量に基づいて前記補正の目標値の修正量を制御する目標値制御工程と、前記補正の目標値と前記目標値の修正量に基づいて前記画像の最終的な補正目標値を決定する目標値決定工程と、前記補正目標値に基づいて階調補正テーブルを作成する階調補正テーブル作成工程と、前記階調補正テーブルに基づいて前記画像の階調補正を行う階調補正工程とを有することを特徴とする画像処理方法。
【請求項10】
画像から第1の部分領域を抽出する第1の領域抽出工程と、前記第1の部分領域に基づいて第1の特徴量を算出する第1の特徴量算出工程と、前記画像から第2の部分領域を抽出する第2の領域抽出工程と、前記第1の特徴量に基づいて、前記部分領域の輝度範囲において少なくとも階調数が減少しない階調補正テーブルを作成する階調補正テーブル作成工程と、前記階調補正テーブル作成工程により作成された階調補正テーブルによって階調を補正したときの前記第2の部分領域における階調の飽和度に基づいて前記階調補正テーブルを修正する階調補正テーブル修正工程と、前記階調補正テーブル修正工程により修正された階調補正テーブルに基づいて前記画像の階調を補正する階調補正工程とを有することを特徴とする画像処理方法。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【公開番号】特開2009−124264(P2009−124264A)
【公開日】平成21年6月4日(2009.6.4)
【国際特許分類】
【出願番号】特願2007−293599(P2007−293599)
【出願日】平成19年11月12日(2007.11.12)
【出願人】(000006747)株式会社リコー (37,907)
【Fターム(参考)】
【公開日】平成21年6月4日(2009.6.4)
【国際特許分類】
【出願日】平成19年11月12日(2007.11.12)
【出願人】(000006747)株式会社リコー (37,907)
【Fターム(参考)】
[ Back to top ]