説明

画像処理装置、画像処理方法

【課題】個々の画像に適した良好な輝度補正を定量的に行なうことができる画像処理装置および画像処理方法を提供する。
【解決手段】原画像の推定照明光成分を算出する照明光成分推定部と、推定照明光成分を補正した補正推定照明光成分を出力する推定照明光成分補正部と、原画像の輝度成分を補正推定照明光成分で除算することで輝度成分を補正するレチネックス処理部とを備え、推定照明光成分補正部は、推定照明光成分の最低輝度側から最高輝度側までの値を複数の区分に分割した度数分布の第1閾値以上の区分において、第2閾値以上の度数値を有する最低輝度側区分を求め、求めた区分の最小輝度値以上の推定照明光成分値を補正推定照明光成分の最大値に補正する画像処理装置。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、画像処理装置に係り、特に高輝度部分の階調を失うことなく良好な輝度補正を行なうことができる画像処理装置および画像処理方法に関する。
【背景技術】
【0002】
逆光などの偏った照明条件下で被写体を撮像したときに、照明の当たり具合によって明度差が非常に大きく、見にくい画像が生成されることがある。このような画像を画像処理によって補正することで、画像を見やすく改良することが行なわれている。
【0003】
画像処理の方法として、原画像から照明光成分を抽出して、原画像の輝度成分を、照明光成分を用いて補正するレチネックス(Retinex)処理が知られている。レチネックス処理は、人の視覚は照明光を除去して外界を見る、明暗恒常性や色恒常性を備えているというレチネックス理論に基づく手法である。
【0004】
レチネックス理論によると人間の視覚は各物体の反射率成分の比によって色を知覚する。反射率成分は、照明に依存しない被写体の画像成分である。これに対し、映像機器等に撮像された原画像は受光した物理的な光量によって各画素の値が決定されており、反射率成分と照明光成分との積で表わされる。したがって、原画像から照明光成分を分離して反射率成分を得ることによって、照明光成分に依存しない適切な画像を得ることができると考えられる。
【0005】
レチネックス処理は、SSR(Single-Scale-Retinex)、MSR(Multi-Scale-Retinex)、LR(Linear Retinex)等種々の手法が提案されている。ここでは、簡易的に、[数1]に示すLR法を例に説明する。
【数1】

【0006】
[数1]において、Y(x,y)は、原画像の画素(x,y)の輝度成分であり、R(x,y)は、補正後の輝度成分である。右辺分母は、照明光成分に相当するものであり、輝度成分をぼかした画像が推定照明光成分として用いられている。Fは、画素(x,y)を周辺の画素を用いて平坦化するフィルタ関数であり、ガウスフィルタ等を用いることができる。
【先行技術文献】
【特許文献】
【0007】
【特許文献1】特開2009−296210号公報
【発明の概要】
【発明が解決しようとする課題】
【0008】
原画像の画素(x,y)の輝度成分を、輝度成分をぼかして得られる推定照明光成分で割るため、除算結果は1周辺に分布することになる。右辺Aは、この分布を輝度信号のレンジ、例えば、0〜255に対応させるためのゲインである。ゲインの設定によって白飛びが数多く発生したり、暗部ノイズが強調されたりして画像の品質に影響を与えるため、ゲイン設定は適切に行なう必要がある。しかしながら、輝度分布の形状や範囲は画像毎に異なるため、個々の画像に適したゲインを設定するのは困難である。
【0009】
ところで、画像を明るく補正することにより、もともと明るい部分で白飛びが生じたり、明るい部分の階調が失われてしまう場合がある。この現象を防ぐために、例えば、特許文献1には、周辺画素との平均輝度値が閾値以下の画素に対しては、補正利得を乗じて明るく補正し、周辺画素との平均輝度値が閾値を超える高輝度画素に対しては、補正利得を1、すなわち、補正を行なわないことで高輝度部の階調を維持することが記載されている。
【0010】
しかしながら、特許文献1には、閾値の具体的な決め方については開示されておらず、統計的、実験的に求めるという記載や、輝度分布がはっきり分かれたような特殊な画像についての示唆に留まっている。実際は、輝度分布の形状や範囲は画像毎に異なるため、個々の画像に適した閾値を設定するのは困難である。
【0011】
そこで、本発明は、個々の画像に適した良好な輝度補正を定量的に行なうことができる画像処理装置および画像処理方法を提供することを目的とする。
【課題を解決するための手段】
【0012】
上記課題を解決するため、本発明の第1の態様である画像処理装置は、原画像の推定照明光成分を算出する照明光成分推定部と、前記推定照明光成分を補正した補正推定照明光成分を出力する推定照明光成分補正部と、前記原画像の輝度成分を前記補正推定照明光成分で除算することで前記輝度成分を補正するレチネックス処理部とを備え、前記推定照明光成分補正部は、前記推定照明光成分の最低輝度側から最高輝度側までの値を複数の区分に分割した度数分布の第1閾値以上の区分において、第2閾値以上の度数値を有する最低輝度側区分を求め、求めた区分の最小輝度値以上の推定照明光成分値を補正推定照明光成分の最大値に補正することを特徴とする。
上記課題を解決するため、本発明の第2の態様である画像処理装置は、原画像の推定照明光成分を算出する照明光成分推定部と、前記推定照明光成分を補正した補正推定照明光成分を出力する推定照明光成分補正部と、前記原画像の輝度成分を前記補正推定照明光成分で除算することで前記輝度成分を補正するレチネックス処理部とを備え、前記推定照明光成分補正部は、前記推定照明光成分の最低輝度側から最高輝度側までの値を複数の区分に分割した高輝度側からの累積度数分布の第1閾値以上の区分において、第2閾値以上の度数値を有する最低輝度側区分を求め、求めた区分の最小輝度値以上の推定照明光成分値を補正推定照明光成分の最大値に補正することを特徴とする。
いずれの態様においても、前記第2閾値は、一様輝度分布の場合に、対応する区分で得られる度数値とすることができる。
上記課題を解決するため、本発明の第3の態様である画像処理装置は、原画像の推定照明光成分を算出する照明光成分推定部と、前記推定照明光成分を補正した補正推定照明光成分を出力する推定照明光成分補正部と、前記原画像の輝度成分を前記補正推定照明光成分で除算することで前記輝度成分を補正するレチネックス処理部とを備え、前記推定照明光成分補正部は、前記推定照明光成分の最低輝度側から最高輝度側までの値を複数の区分に分割した度数分布において、最高輝度側のピーク区分と最高輝度側の谷区分とを抽出し、抽出されたピーク区分の度数値が第1閾値以上であり、かつ最高輝度区分から抽出された谷区分までの度数値合計が第2閾値以上の場合、前記谷区分の最小輝度値以上の推定照明光成分値を補正推定照明光成分の最大値に補正することを特徴とする。
上記課題を解決するため、本発明の第4の態様である画像処理方法は、原画像の推定照明光成分を算出する照明光成分推定ステップと、前記推定照明光成分を補正した補正推定照明光成分を出力する推定照明光成分補正ステップと、前記原画像の輝度成分を前記補正推定照明光成分で除算することで前記輝度成分を補正するレチネックス処理ステップとを含み、前記推定照明光成分補正ステップは、前記推定照明光成分の最低輝度側から最高輝度側までの値を複数の区分に分割した度数分布において、第1閾値以上の区分の第2閾値以上の度数値を有する最低輝度側区分を求め、求めた区分の最小輝度値以上の推定照明光成分値を補正推定照明光成分の最大値に補正することを特徴とする。
上記課題を解決するため、本発明の第5の態様である画像処理方法は、原画像の推定照明光成分を算出する照明光成分推定ステップと、前記推定照明光成分を補正した補正推定照明光成分を出力する推定照明光成分補正ステップと、前記原画像の輝度成分を前記補正推定照明光成分で除算することで前記輝度成分を補正するレチネックス処理ステップとを含み、前記推定照明光成分補正ステップは、前記推定照明光成分の最低輝度側から最高輝度側までの値を複数の区分に分割した高輝度側からの累積度数分布において、第1閾値以上の第2閾値以上の度数値を有する最低輝度側区分を求め、求めた区分の最小輝度値以上の推定照明光成分値を補正推定照明光成分の最大値に補正することを特徴とする。
上記課題を解決するため、本発明の第6の態様である画像処理方法は、原画像の推定照明光成分を算出する照明光成分推定ステップと、前記推定照明光成分を補正した補正推定照明光成分を出力する推定照明光成分補正ステップと、前記原画像の輝度成分を前記補正推定照明光成分で除算することで前記輝度成分を補正するレチネックス処理ステップとを含み、前記推定照明光成分補正ステップは、前記推定照明光成分の最低輝度側から最高輝度側までの値を複数の区分に分割した度数分布において、最高輝度側のピーク区分と最高輝度側の谷区分とを抽出し、抽出されたピーク区分の度数値が第1閾値以上であり、かつ最高輝度区分から抽出された谷区分までの度数値合計が第2閾値以上の場合、前記谷区分の最小輝度値以上の推定照明光成分値を補正推定照明光成分の最大値に補正することを特徴とする。
【発明の効果】
【0013】
本発明によれば、個々の画像に適した良好な輝度補正を定量的に行なうことができる画像処理装置および画像処理方法が提供される。
【図面の簡単な説明】
【0014】
【図1】本実施形態に係る画像処理装置の構成を示すブロック図である。
【図2】本実施形態の画像処理装置における画像補正の手順について説明するフローチャートである。
【図3】推定照明光成分の補正曲線の例を示す図である。
【図4】推定照明光成分の補正効果について説明する図である。
【図5】推定照明光成分の高輝度部分のクリップについて説明する図である。
【図6】クリップ輝度値の設定法の第1実施例について説明するフローチャートである。
【図7】クリップ輝度値の設定法の第1実施例について説明するヒストグラムおよび補正曲線である。
【図8】クリップ輝度値の設定法の第2実施例について説明するフローチャートである。
【図9】クリップ輝度値の設定法の第2実施例について説明する累積ヒストグラムである。
【図10】クリップ輝度値の設定法の第3実施例について説明するフローチャートである。
【図11】クリップ輝度値の設定法の第3実施例について説明するヒストグラムである。
【図12】第3実施例によるクリップ輝度値の設定を行なった場合の、レチネックス処理結果について説明する画像例である。
【図13】ヒストグラム比率Hp[0:15]のピークと谷との検出手順の一例について説明するフローチャートである。
【図14】低輝度部分についても最高輝度値にクリップした補正曲線の例を示す図である。
【発明を実施するための形態】
【0015】
本発明の実施の形態について図面を参照して詳細に説明する。図1は、本実施形態に係る画像処理装置の構成を示すブロック図である。本実施形態において、画像処理装置10は、原画像Iを入力し、レチネックス処理による輝度補正を施した補正画像Iを出力する処理を行なう。
【0016】
本図に示すように、画像処理装置10は、画像入力部110、照明光成分推定部120、推定照明光成分補正部130、レチネックス処理部140、ゲイン調整部150、画像出力部160を備えている。
【0017】
画像入力部110は、原画像Iを入力する。原画像Iは、例えば、撮像装置によって撮像された画像とすることができ、静止画像、動画像を構成する画像のいずれであってもよい。このとき、原画像IがRGB形式の画像であれば、YUV変換を行なう。ここで、YUV形式は、画像信号を輝度信号Y、色差信号(Cb)U、色差信号(Cr)Vで表現する形式である。YUV形式に変換された原画像Iは、輝度信号Y、色差信号(Cb)U、色差信号(Cr)Vで表わすものとする。原画像Iが、輝度成分が分離された形式の画像フォーマットであれば、YUV形式への変換処理は不要である。
【0018】
照明光成分推定部120は、原画像Iの輝度信号Yに対してフィルタリング処理を行なうことにより平坦化し、推定照明光成分Lを算出する。フィルタリングに用いる関数は、例えば、ガウス関数とすることができる。ガウス関数では、参照する周辺画素量を定めるスケールが設定されるが、用いるスケールは単数であっても、複数であってもよい。複数のスケールを用いる場合は、それぞれのスケールの大きさを異ならせ、それぞれに対して重み付けを行なうことができる。
【0019】
推定照明光成分補正部130は、推定照明光成分Lに対する補正を行ない、補正推定照明光成分L'を生成する。推定照明光成分Lに対する補正は、本実施形態における特徴部分の1つである。推定照明光成分補正部130が行なう推定照明光成分Lに対する補正の具体的な内容については後述する。
【0020】
レチネックス処理部140は、原画像Iの輝度信号Yを、補正推定照明光成分L'で除算することにより補正し、補正輝度信号Y'を生成する。以下では、原画像Iの輝度信号Yを、推定照明光成分Lあるいは補正推定照明光成分L'で除算する処理をレチネックス処理と称する。
【0021】
ゲイン調整部150は、1の周辺に分布する補正輝度信号Y'を輝度信号のレンジに対応させるためのゲイン補正を行ない、調整補正後輝度信号Yを生成する。後述するように、本実施形態では、補正輝度信号Y'は、ほぼ1以下の領域に分布するようになるため、画像の内容によらず、ゲイン値を一律に設定することができる。このため、画像毎に適切なゲインを設定する煩雑な処理を省くことができる。ゲイン値は、例えば、輝度信号のレンジが0〜255であれば、255とすることができる。この場合、オフセット値の設定は必須ではない。
【0022】
画像出力部160は、原画像Iの輝度信号Yが調整補正後輝度信号Yに補正された補正画像Iを出力する。補正画像IをRGB形式で出力する場合には、YUV形式からRGB形式への変換を行なう。RGB形式への変換は、調整補正後輝度信号Yと、色差信号(Cb)Uと、色差信号(Cr)Vとを用いて行なう。
【0023】
次に、本実施形態の画像処理装置10における画像補正の手順について図2のフローチャートを参照して説明する。
【0024】
まず、画像入力部110が、RGB形式の原画像Iを入力する(S101)。画像入力部110は、RGB形式の原画像IをYUV形式に変換する(S102)。YUV形式に変換された後の原画像Iは、輝度信号Y、色差信号(Cb)U、色差信号(Cr)Vで表わすことができる。
【0025】
そして、照明光成分推定部120において、輝度信号Yをフィルタリングすることにより、推定照明光成分Lを生成する(S103)。フィルタリングは、複数のスケールを用いたガウス関数とするが、ローパスフィルタ等の他の平滑化フィルタを用いるようにしてもよい。また、他の手法により、照明光成分を推定するようにしてもよい。例えば、輝度信号に代えて、RGB形式のG信号を用いるようにしてもよい。
【0026】
推定照明光成分Lは、推定照明光成分補正部130において補正され、補正推定照明光成分L'が生成される(S104)。本処理の詳細な内容については後述する。
【0027】
次いで、レチネックス処理部140が、原画像Iの輝度信号Yを、補正推定照明光成分L'で除算することにより補正し、補正輝度信号Y'を生成する(S105)。この補正輝度信号Y'をゲイン調整部150が、例えば、ゲイン値を一律に255としたゲイン調整を行なって、調整補正後輝度信号Yを生成する(S106)。
【0028】
そして、画像出力部160が、調整補正後輝度信号Yと、原画像の色差信号(Cb)Uと色差信号(Cr)Vとを用いてRGB形式への変換を行ない(S107)、補正画像Iとして出力する(S108)。
【0029】
次に、本実施形態における推定照明光成分Lの補正について説明する。本補正は、推定照明光成分補正部130が、上述のステップS104の処理において行なうものであり、補正の結果、補正推定照明光成分L'が生成される。
【0030】
本補正では、補正輝度信号Y'の分布を、なるべく補正前の傾向を保ったまま、1以下の領域に収めるようにする。これにより、一律のゲイン値を用いることができるようになり、画像毎に最適なゲイン値を設定する必要がなくなる。補正輝度信号Y'は、原画像Iの輝度信号Yを推定照明光成分Lで除算することにより得られることから、補正輝度信号Y'の分布を1以下の範囲に収めるためには、推定照明光成分Lの値が大きくなるような傾向で補正すればよいことになる。
【0031】
そこで、推定照明光成分Lを、図3の曲線Q1に示すような特性で補正することが考えられる。この結果、推定照明光成分Lの分布は、より低輝度の部分が高輝度になる傾向で、推定照明光成分Lが全体的に高輝度方向に圧縮された分布形状に補正される。
【0032】
この補正推定照明光成分L'を用いて、原画像Iの輝度信号Yの除算を行なうと、ほぼ1以下の範囲に収まった分布形状の補正輝度信号Y'を得ることができる。このため、ゲイン値を一律に設定することができ、画像毎に最適なゲイン値を設定する必要がなくなることになる。
【0033】
しかしながら、図3の曲線Q1に示すような特性で推定照明光成分Lを補正すると、高輝度部分で過補正が生じて高輝度部分の階調が失われてしまう場合があり、必ずしも良好な補正画像が得られないという問題がある。
【0034】
ここで、推定照明光成分Lの補正が補正画像に与える影響を、図4を参照して概説し、これらの問題が発生する理由について説明する。図4に示した補正特性において、直線βは、補正前後の値が等しくなるため、推定照明光成分Lの補正を行なわないことと同義である。すなわち、原画像Iの輝度信号Yを推定照明光成分Lで割るという従来のレチネックス処理と同様の効果を得ることができる。
【0035】
一方、図4に示した補正特性において、直線αは、推定照明光成分Lの値を一律に最大値に置き換えることになる。原画像Iの輝度信号Yを最大値で一律に割ると、原画像Iの輝度信号Yが元の分布形状のまま、0〜1の範囲に正規化されることになる。すなわち、レチネックス処理による画像補正が行なわれないことと同等である。つまり、全輝度範囲にわたって原画像Iの階調がそのまま残ることになる。
【0036】
そこで、本実施形態では、図5(a)に示すように、高輝度部分の階調を失わせないために、推定照明光成分の高輝度部分を最高輝度値にクリップさせる。これにより、高輝度部分においてレチネックス処理が行なわれないことになり高輝度部分の階調が維持されることになる。
【0037】
この場合、図5(b)に示すように、どの程度の輝度値以上をクリップさせるかにより画像の補正結果が異なるが、輝度分布の形状や範囲は画像毎に異なるため、クリップ輝度値を一律に設定することは望ましくない。ここで、「クリップ輝度値」は、図5の破線で示すような、最高輝度値にクリップさせる区分最小値を意味する。クリップ輝度値以上の輝度値に対してはレチネックス効果が与えられなくなり、階調が維持される。
【0038】
例えば、全体的にハイキーで低輝度部分の階調を重視したい画像であれば、クリップ輝度値を低めにして高輝度部分の階調を十分残した方がよい結果が得られる場合がある。また、全体的にローキーで低輝度部分の階調を重視したい画像であれば、クリップ輝度値を高めにしたり、クリップを行なわずに高輝度部分に対してレチネックス効果を与えた方がよい結果が得られる場合がある。
【0039】
そこで、本実施形態では、以下に示すような手法により定量的にクリップ輝度値を設定するようにする。
【0040】
まず、クリップ輝度値の設定法の第1実施例について図6のフローチャートを参照して説明する。以下では、推定照明光成分Lが8ビット、すなわち0〜255の256階調の場合を例に説明する。
【0041】
推定照明光成分Lの補正におけるクリップ輝度値の設定法の第1実施例では、推定照明光成分Lに基づいて、16区分のヒストグラムH[0:15]を算出する(S201)。例えば、推定照明光成分Lにおける輝度値が0〜15の画素であれば、H[0]の区分に含まれ、輝度値が240〜255の画素であれば、H[15]の区分に含まれることになる。ただし、16区分は例示であり、他の数であってもよい。
【0042】
ヒストグラムH[0:15]を算出すると、ヒストグラムH[0:15]の各区分に含まれる画素数に基づいて、ヒストグラム比率Hp[0:15]を算出する(S202)。これは、各区分に含まれる画素数を全画素数で割ることにより求めることができる。ただし、ヒストグラム比率Hp[0:15]は、便宜的に用いるものであるため、以下の処理においてヒストグラム比率Hp[0:15]ではなく、ヒストグラムH[0:15]を用いるようにしてもよい。図7(a)は、算出されたヒストグラム比率Hp[0:15]の一例を示している。
【0043】
次に、区分の番号に対応する変数iに対して第1閾値を設定する(S203)。第1実施例では、第1閾値は、最高輝度値の70%以上の値に対応する区分番号とすることが好ましく、本例では、図7(a)に示すように255×70%≒178を含んだ区分である11を第1閾値として定めるものとする。
【0044】
そして、Hp[i]の値が第2閾値以上となるかどうかを判定する(S204)。ここで、第2閾値は、輝度値が一様分布の場合のヒストグラム比率の値とすることができる。本例では、図7(a)に示すように、16/255≒6.3%を第2閾値として定めるものとする。ただし、区分毎に第2閾値に対して重み付けを行なうようにしてもよい。
【0045】
Hp[i]の値が第2閾値以上となるかどうかの判定(S204)は、変数iを増分させていくことにより、第1閾値の区分から高輝度側の区分に対して順番に行なう(S206)。
【0046】
ある変数iの値において、Hp[i]の値が第2閾値以上となる区分が検出されると(S204:Yes)、区分Hp[i]の区分最小値をクリップ輝度値として設定し、クリップ輝度値以上の輝度値をクリップする(S207)。なお、変数iは、第1閾値から増加させていくため(S206)、第1閾値以上の区分において、Hp[i]の値が第2閾値以上となる最も低輝度側の区分が検出されることになる。
【0047】
図7(a)の例では、区分Hp[13]において、第2閾値以上となっているため、図7(b)に示すように、区分Hp[13]の区分最小値である208がクリップ輝度値として設定される。そして、図7(b)に示すような補正曲線を用いて、推定照明光成分Lの補正を行なう。これにより、レチネックス処理後においても高輝度部分の階調を維持することができる。
【0048】
一方、最も高輝度側の区分まで、Hp[i]の値が第2閾値以上となる区分が検出されない場合(S205:Yes)は、クリップ輝度値は設定せず(S208)、クリップは行なわずに推定照明光成分Lの補正を行なう。これは、高輝度側に十分な画素が分布しておらず、画素が多く分布した中低輝度側の階調をより重視した方が、よい補正結果を得られると考えられるからである。
【0049】
以上、第1実施例によれば、極めて低い計算コストで、クリップ輝度値が設定され、個々の画像に適した良好な輝度補正を定量的に行なうことができる。なお、第1閾値、第2閾値は例示であり、他の値としてもよい。また、画像を得る際の撮影モードとして「晴天風景」「逆光ポートレート」「夜景」等を定め、撮影モードに応じて閾値を変更するようにしてもよい。
【0050】
次に、クリップ輝度値の設定法の第2実施例について図8のフローチャートを参照して説明する。
【0051】
推定照明光成分Lの補正におけるクリップ輝度値の設定法の第2実施例でも、推定照明光成分Lに基づいて、16区分のヒストグラムH[0:15]を算出する(S301)。
【0052】
ヒストグラムH[0:15]を算出すると、第2実施例ではヒストグラムH[0:15]の各区分に含まれる画素数に基づいて、高輝度側からの累積ヒストグラム比率Sp[0:15]を算出する(S302)。これは、各区分に含まれる画素数を全画素数で割ることにより算出される比率を、高輝度側から累積することで求めることができる。図9は、算出された累積ヒストグラム比率Sp[0:15]の一例を示している。
【0053】
次に、区分の番号に対応する変数iに対して第1閾値を設定する(S303)。第2実施例では、第1閾値は、最高輝度値の60%以上の値に対応する区分番号とすることが好ましく、本例では、図9に示すように255×60%=153を含んだ区分である9を第1閾値として定めるものとする。
【0054】
そして、Sp[i]の値が第2閾値以上となるかどうかを判定する(S304)。ここで、第2閾値は、輝度値が一様分布の場合の累積ヒストグラム比率の値とすることができる。本例では、図9に示すように、高輝度側から区分毎に約6.3%ずつ増加する値を第2閾値として定めるものとする。ただし、第2閾値として、輝度値が重み付け分布した場合の累積ヒストグラム比率の値を用いてもよい。
【0055】
Sp[i]の値が第2閾値以上となるかどうかの判定(S304)は、変数iを増分させていくことにより、第1閾値の区分から高輝度側の区分に対して順番に行なう(S306)。
【0056】
ある変数iの値において、Sp[i]の値が第2閾値以上となる区分が検出されると(S304:Yes)、区分Sp[i]の区分最小値をクリップ輝度値として、クリップ輝度値以上の輝度値をクリップする(S307)。なお、変数iは、第1閾値から増加させていくため(S306)、第1閾値以上の区分において、Sp[i]の値が第2閾値以上となる最も低輝度側の区分が検出されることになる。
【0057】
図9の例では、区分Sp[12]において、第2閾値以上となっているため、区分Sp[12]の区分最小値である192がクリップ輝度値として設定される。そして、推定照明光成分Lの補正を行なう。これにより、高輝度部分の階調を維持することができる。
【0058】
一方、最も高輝度側の区分まで、Sp[i]の値が第2閾値以上となる区分が検出されない場合(S305:Yes)は、クリップ輝度値は設定せず(S308)、クリップは行なわずに推定照明光成分Lの補正を行なう。高輝度側に十分な画素が分布しておらず、画素が多く分布した中低輝度側の階調をより重視した方が、よい補正結果を得られると考えられるからである。
【0059】
以上、第2実施例によれば、低い計算コストで、高輝度側の密度を考慮したクリップ輝度値が設定され、個々の画像に適した良好な輝度補正を定量的に行なうことができる。なお、第1閾値、第2閾値は例示であり、他の値としてもよい。また、画像を得る際の撮影モードとして「晴天風景」「逆光ポートレート」「夜景」等を定め、撮影モードに応じて閾値を変更するようにしてもよい。
【0060】
次に、クリップ輝度値の設定法の第3実施例について図10のフローチャートを参照して説明する。第3実施例では、ヒストグラムのピークと谷とを用いてクリップ輝度値を設定する。
【0061】
推定照明光成分Lの補正におけるクリップ輝度値の設定法の第3実施例では、第1実施例と同様に、推定照明光成分Lに基づいて、16区分のヒストグラムH[0:15]を算出し(S401)、ヒストグラムH[0:15]の各区分に含まれる画素数に基づいて、ヒストグラム比率Hp[0:15]を算出する(S402)。ただし、推定照明光成分Lに代えて、原画像の輝度ヒストグラムを用いてもよい。図11は、算出されたヒストグラムH[0:15]の一例を示している。
【0062】
そして、ヒストグラム比率Hp[0:15]のピークと谷とを検出する(S403)。ピークと谷との検出は、後に一例を示すが種々の手法を用いることができる。
【0063】
ここで、ピークは、ヒストグラムの山となっている区分、すなわち隣接する両端の区分よりも値が大きい区分であり、谷は、隣接するピークに挟まれる区分のうち、最も値の小さな区分である。なお、隣接する谷との差が所定の基準よりも小さい山は、ピークから除外するものとする。また、片側だけ他の区分と隣接する最低輝度区分および最高輝度区分は、隣接する1つの区分より大きければ山(ピーク候補)と見なすものとする。
【0064】
図11の例では、Hp[3]とHp[14]とでピークが検出され、Hp[3]とHp[14]との間で最も値が小さいHp[9]が谷として検出されている。なお、Hp[11]は、両端の区分よりも値が大きくなっているが、ピークとした場合の谷となるHp[12]との差が小さいため、ピークから除外している。
【0065】
検出されたピークが1個以下の場合(S404:Yes)は、谷が形成されず、第3実施例によるクリップ輝度値設定は不向きとなるため、上述の第1実施例、第2実施例によってクリップ輝度値を設定することが望ましい(S405)。このように、本実施形態において、第1実施例、第2実施例、第3実施例は、組み合わせて行なうことができる。
【0066】
検出されたピークが2個以上であれば(S404:No)、最も高輝度側のピークと谷とを抽出する(S406)。以下では、最も高輝度側のピークをpeak_maxと称し、最も高輝度側の谷をbottom_maxと称する。図11の例では、Hp[14]がpeak_maxとなり、Hp[9]がbottom_maxとなる。
【0067】
第3実施例では、peak_maxの区分が第1閾値以上であり(S407:Yes)、かつbottom_max以上の区分のヒストグラム比率Hpの和が第2閾値以上であれば(S408:Yes)、bottom_maxの区分最小値をクリップ輝度値とする(S409)。bottom_max以上の輝度値の画素が十分分布し、高輝度部分の階調が重要であると考えられるからである。ここで、第1閾値は、例えば、10とすることができ、第2閾値は、例えば、25%とすることができる。
【0068】
それ以外の場合(S407:No、S408:No)は、クリップ輝度値を設定せず、クリップを行なわない(S410)。高輝度側に十分な画素が分布しておらず、画素が多く分布した中低輝度側の階調をより重視した方が、よい補正結果を得られると考えられるからである。
【0069】
図11の例では、peak_maxの区分は14であり、10である第1閾値以上となっており(S407:Yes)、bottom_maxであるHp[9]以上の比率合計は33%で、第2閾値である25%以上となっている(S408:Yes)。このため、bottom_maxであるHp[9]の区分最小値である144がクリップ輝度値として設定される。そして、推定照明光成分Lの補正を行なう。これにより、高輝度部分の階調を維持することができる。
【0070】
第3実施例によるクリップ輝度値の設定を行なった場合の、レチネックス処理結果について図12を参照して説明する。図12(a)は、原画像Iであり、図12(b)は、原画像の輝度成分をぼかした得られた推定照明光成分Lである。図12(c)は、クリップ輝度値を設定せずに図3に示したような補正曲線を用いて推定照明光成分Lを補正し、レチネックス処理を施した結果得られた画像である。図12(d)は、第3実施例によるクリップ輝度値を設定した図5(a)に示したような補正曲線を用いて推定照明光成分Lを補正し、レチネックス処理を施した結果得られた画像である。
【0071】
図12(c)に示したクリップ輝度値を設定しない画像は、レチネックス効果により、図12(a)に示した原画像Iの暗い部分が明るく補正され、人物が明瞭になっているが、明るい部分で過補正が生じ、ビルと空との境界が曖昧になっている。これに対し、図12(d)に示したクリップ輝度値を設定した画像は、暗い部分は図12(c)に示した画像と同等に明るく補正されているのに対し、明るい部分の補正は抑制され、階調が維持されており、ビルと空との境界が明確に残っている。
【0072】
次に、ヒストグラム比率Hp[0:15]のピークと谷との検出手順(S403)の一例について、図13のフローチャートを参照して説明する。本手順では、まず、ヒストグラム比率Hp[0:15]の各区分から、ピーク候補となる区分を抽出する(S501)。この処理は、前の区分より大きく、かつ次の区分より大きい区分を抽出することで行なうことができる。最も低輝度側の区分は、次の区分より大きければピーク候補とし、最も高輝度側の区分は、前の区分より大きければピーク候補とする。
【0073】
ピーク候補を抽出すると、抽出されたピークに基づいて谷候補を抽出する(S502)。この処理は、隣接するピーク候補に挟まれる区分のうち、最も比率値の小さい区分を谷候補とすることで行なうことができる。
【0074】
次に、ピーク候補からピークの選別を行なう(S503)。ピークの選別は、隣接する谷候補とのヒストグラム比率の差が第3閾値以下のピーク候補を除外して、残ったピーク候補をピークとして設定する処理である。第3閾値は、例えば、2%とすることができる。
【0075】
最後に、ピークとして設定された区分に基づいて谷を設定する(S504)。この処理は、隣接するピークに挟まれる区分のうち、最も値の小さい区分を谷と設定することで行なうことができる。
【0076】
以上、ヒストグラム比率のピークと谷とに基づいてクリップ輝度値を設定する第3実施例について説明した。第3実施例は、第1実施例、第2実施例よりも計算コストは上昇するが、その分、個々の画像の輝度分布をより考慮した補正結果を得ることができる。また、上述のように、第1実施例、第2実施例、第3実施例のクリップ輝度値設定は、組み合わせて用いることができる。
【0077】
なお、上述の実施例では、高輝度部分におけるクリップ輝度値について説明したが、図14に示すような、極低輝度部分についても最高輝度値にクリップした補正曲線を用いて推定照明光成分Lの補正を行なうようにしてもよい。これにより、高輝度部分の階調を維持するのに加え、極低輝度部分の階調も維持されるため、暗部ノイズが強調されたり、黒浮きが発生することを防ぐことができる。この場合、推定照明光Lのフルスケールを255とすると、例えば、0から2〜4までの値を最高輝度値にクリップすることで、良好な結果を得ることができる。
【符号の説明】
【0078】
10…画像処理装置
110…画像入力部
120…照明光成分推定部
130…推定照明光成分補正部
140…レチネックス処理部
150…ゲイン調整部
160…画像出力部

【特許請求の範囲】
【請求項1】
原画像の推定照明光成分を算出する照明光成分推定部と、
前記推定照明光成分を補正した補正推定照明光成分を出力する推定照明光成分補正部と、
前記原画像の輝度成分を前記補正推定照明光成分で除算することで前記輝度成分を補正するレチネックス処理部とを備え、
前記推定照明光成分補正部は、
前記推定照明光成分の最低輝度側から最高輝度側までの値を複数の区分に分割した度数分布の第1閾値以上の区分において、第2閾値以上の度数値を有する最低輝度側区分を求め、求めた区分の最小輝度値以上の推定照明光成分値を補正推定照明光成分の最大値に補正することを特徴とする画像処理装置。
【請求項2】
原画像の推定照明光成分を算出する照明光成分推定部と、
前記推定照明光成分を補正した補正推定照明光成分を出力する推定照明光成分補正部と、
前記原画像の輝度成分を前記補正推定照明光成分で除算することで前記輝度成分を補正するレチネックス処理部とを備え、
前記推定照明光成分補正部は、
前記推定照明光成分の最低輝度側から最高輝度側までの値を複数の区分に分割した高輝度側からの累積度数分布の第1閾値以上の区分において、第2閾値以上の度数値を有する最低輝度側区分を求め、求めた区分の最小輝度値以上の推定照明光成分値を補正推定照明光成分の最大値に補正することを特徴とする画像処理装置。
【請求項3】
前記第2閾値は、一様輝度分布の場合に、対応する区分で得られる度数値であることを特徴とする請求項1または2に記載の画像処理装置。
【請求項4】
原画像の推定照明光成分を算出する照明光成分推定部と、
前記推定照明光成分を補正した補正推定照明光成分を出力する推定照明光成分補正部と、
前記原画像の輝度成分を前記補正推定照明光成分で除算することで前記輝度成分を補正するレチネックス処理部とを備え、
前記推定照明光成分補正部は、
前記推定照明光成分の最低輝度側から最高輝度側までの値を複数の区分に分割した度数分布において、最高輝度側のピーク区分と最高輝度側の谷区分とを抽出し、抽出されたピーク区分の度数値が第1閾値以上であり、かつ最高輝度区分から抽出された谷区分までの度数値合計が第2閾値以上の場合、前記谷区分の最小輝度値以上の推定照明光成分値を補正推定照明光成分の最大値に補正することを特徴とする画像処理装置。
【請求項5】
原画像の推定照明光成分を算出する照明光成分推定ステップと、
前記推定照明光成分を補正した補正推定照明光成分を出力する推定照明光成分補正ステップと、
前記原画像の輝度成分を前記補正推定照明光成分で除算することで前記輝度成分を補正するレチネックス処理ステップとを含み、
前記推定照明光成分補正ステップは、
前記推定照明光成分の最低輝度側から最高輝度側までの値を複数の区分に分割した度数分布の第1閾値以上の区分において、第2閾値以上の度数値を有する最低輝度側区分を求め、求めた区分の最小輝度値以上の推定照明光成分値を補正推定照明光成分の最大値に補正することを特徴とする画像処理方法。
【請求項6】
原画像の推定照明光成分を算出する照明光成分推定ステップと、
前記推定照明光成分を補正した補正推定照明光成分を出力する推定照明光成分補正ステップと、
前記原画像の輝度成分を前記補正推定照明光成分で除算することで前記輝度成分を補正するレチネックス処理ステップとを含み、
前記推定照明光成分補正ステップは、
前記推定照明光成分の最低輝度側から最高輝度側までの値を複数の区分に分割した高輝度側からの累積度数分布の第1閾値以上の区分において、第2閾値以上の度数値を有する最低輝度側区分を求め、求めた区分の最小輝度値以上の推定照明光成分値を補正推定照明光成分の最大値に補正することを特徴とする画像処理方法。
【請求項7】
原画像の推定照明光成分を算出する照明光成分推定ステップと、
前記推定照明光成分を補正した補正推定照明光成分を出力する推定照明光成分補正ステップと、
前記原画像の輝度成分を前記補正推定照明光成分で除算することで前記輝度成分を補正するレチネックス処理ステップとを含み、
前記推定照明光成分補正ステップは、
前記推定照明光成分の最低輝度側から最高輝度側までの値を複数の区分に分割した度数分布において、最高輝度側のピーク区分と最高輝度側の谷区分とを抽出し、抽出されたピーク区分の度数値が第1閾値以上であり、かつ最高輝度区分から抽出された谷区分までの度数値合計が第2閾値以上の場合、前記谷区分の最小輝度値以上の推定照明光成分値を補正推定照明光成分の最大値に補正することを特徴とする画像処理方法。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7】
image rotate

【図8】
image rotate

【図9】
image rotate

【図10】
image rotate

【図11】
image rotate

【図12】
image rotate

【図13】
image rotate

【図14】
image rotate


【公開番号】特開2012−175310(P2012−175310A)
【公開日】平成24年9月10日(2012.9.10)
【国際特許分類】
【出願番号】特願2011−34115(P2011−34115)
【出願日】平成23年2月21日(2011.2.21)
【出願人】(308036402)株式会社JVCケンウッド (1,152)
【Fターム(参考)】