画像処理方法、画像処理装置、及び撮像装置
【課題】 本発明の目的は、入力された画像が鮮やかなシーンであるかの判別を、より人間の知覚や意図に合わせてできる画像処理装置を提供することである。
【解決手段】 画像データを取得する取得ステップと、前記画像データの色相分布を生成する生成ステップと、前記色相分布における色分布の広がり度合いに応じた判別条件が設定され、該判別条件で、前記画像データの画像が鮮やかなシーンであるか否かを判別する判別ステップと、前記判別ステップでの判別結果を出力する出力ステップと、を有することを特徴とする。
【解決手段】 画像データを取得する取得ステップと、前記画像データの色相分布を生成する生成ステップと、前記色相分布における色分布の広がり度合いに応じた判別条件が設定され、該判別条件で、前記画像データの画像が鮮やかなシーンであるか否かを判別する判別ステップと、前記判別ステップでの判別結果を出力する出力ステップと、を有することを特徴とする。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、入力された画像のシーンを判別し、判別したシーンに応じた画像処理を行う画像処理方法、画像処理装置及び撮像装置に関するものである。
【背景技術】
【0002】
従来、画像のシーンや被写体の種類を判別し、判別したシーン(被写体の種類)に応じた画像処理を行う画像処理方法があった。
【0003】
例えば、特許文献1では、入力された画像データが鮮やかなシーン(被写体)であるかを判別し、鮮やかなシーンの画像は高解像度で出力する画像出力装置が開示されている。
【先行技術文献】
【特許文献】
【0004】
【特許文献1】特開2000−259372号公報
【発明の概要】
【発明が解決しようとする課題】
【0005】
上述の特許文献1に開示された従来技術では、彩度の高い画素が所定の閾値よりも多いか否かによって鮮やかなシーンであるかを判別していた。
【0006】
しかしながら、画像の彩度情報のみに基づいて鮮やかなシーンを判別する従来の方法では、シーンの判別結果が、ユーザ、つまり人間の感覚と異なる場合があった。
【0007】
例えば、画像中に存在する色数が多い場合には、色数が少ない場合と比べて、それぞれの色の彩度が低くとも鮮やかなシーンと感じやすい。
【0008】
また、彩度の高い画素は多く存在するとしても、ユーザが鮮やかなシーンを撮影しようと意図していない場合がある。例えば、彩度の高い色に一様に塗られた壁を背景として被写体を撮影する場合などである。このように、同じ彩度であっても鮮やかなシーンと感じやすい場合もあれば、感じにくい場合も有る。上記のような場合に、従来の判別方法ではユーザの感覚や意図に合わせてシーンの判別を行うことが困難であった。
【0009】
そこで、本発明の目的は、入力された画像が鮮やかなシーンであるかの判別を、より人間の知覚や意図に合わせてできる画像処理装置を提供することである。
【課題を解決するための手段】
【0010】
上記目的を達成するために、本発明の画像処理方法は、請求項1に記載の通り、画像データを取得する取得ステップと、前記画像データの色相分布を生成する生成ステップと、前記色相分布における色分布の広がり度合いに応じた判別条件が設定され、該判別条件で、前記画像データの画像が鮮やかなシーンであるか否かを判別する判別ステップと、前記判別ステップでの判別結果を出力する出力ステップと、を有することを特徴とする。
【0011】
また、本発明の画像処理装置は、請求項12に記載の通り、画像データを取得する取得手段と、前記画像データの色相ヒストグラムを生成する生成手段と、前記色相ヒストグラムにおける色分布の広がり度合いに応じた判別条件が設定され、該判別条件で、前記画像データの画像が鮮やかなシーンであるか否かを判別する判別手段と、前記判別手段での判別結果に応じて、画像データの彩度補正を行う補正手段とを有することを特徴とする。
【0012】
また、本発明の撮像装置は、請求項13に記載の通り、被写体を撮像し、画像データを出力する撮像手段と、前記画像データの色相ヒストグラムを生成する生成手段と、前記色相ヒストグラムにおける色分布の広がり度合いに応じた判別条件が設定され、該判別条件で、前記画像データの画像が鮮やかなシーンであるか否かを判別する判別手段と、前記判別ステップでの判別結果に応じて、画像データの彩度補正を行う補正手段と、を有することを特徴とする。
【発明の効果】
【0013】
本発明によれば、入力された画像が鮮やかなシーンであるかの判別を、より人間の知覚や意図に合わせて行うことが可能となる。
【図面の簡単な説明】
【0014】
【図1】第1の実施形態に係る撮像装置の構成を示すブロック図である。
【図2】画像信号のブロック分割を示す図である。
【図3】色差信号と彩度・色相の関係を示す図である。
【図4】第1の実施形態に係る色相ヒストグラムの例を示す図である。
【図5】シーン判別部が行うシーン判別処理の特性を示す図である。
【図6】第1の実施形態に係るシーン判別部の処理を示すフローチャートである。
【図7】第2の実施形態に係る撮像装置の構成を示すブロック図である。
【図8】第2の実施形態に係る彩度補正処理の特性を示すグラフである。
【図9】第3の実施形態に係る撮影シーンの例を示す図である。
【図10】第3の実施形態に係る色相ヒストグラムの例を示す図である。
【図11】第3の実施形態に係るシーン判別制御部の処理を示すフローチャートである。
【図12】第3の実施形態に係るシーン判別部の処理を示すフローチャートである。
【図13】第4の実施形態に係る撮像装置の構成を示すブロック図である。
【図14】第4の実施形態に係る画像分割を示す図である。
【発明を実施するための形態】
【0015】
(第1の実施形態)
以下、図1〜図6を参照して、第1の実施形態による画像処理装置について説明する。
【0016】
図1は第1の実施形態に係るシーン判別機能を備え、シーンに応じた画像補正処理を行う画像処理装置の一例である撮像装置の構成を示すブロック図である。図1において、101は被写体の光束を結像するレンズである。102はレンズからの光束を撮像素子に導く際に絞る絞りである。103は入射された光束を光電変換して画像信号として出力する撮像素子である。104はオートゲインコントロールアンプ(AGC)であり、撮像素子103からの信号を適正レベルに増幅する。
【0017】
105は輝度・色信号生成部であり、撮像素子103で生成された信号を輝度信号(Y)及び色信号(R,G,B)に変換する。106はホワイトバランス増幅部であり、輝度・色信号生成部105から出力される色信号(R,G,B)をホワイトバランスゲインに従って増幅し、増幅色信号(R’,G’,B’)を生成する。107は色差信号生成部であり、色差信号(R’−Y,B’−Y)を生成する。108は、色差信号に対してゲインをかけるなどの補正を行う色差信号補正部、109は標準テレビ信号等に変換するエンコーダである。
【0018】
110は信号分割部であり、輝度信号(Y)、色差信号(R’−Y,B’−Y)を所定の小ブロックに分割する。111は、色差信号(R’−Y,B’−Y)から色相、彩度信号(Hue,Chroma)
を算出する色相・彩度算出部である。112は色相、彩度信号から色相ヒストグラムを生成する色相ヒストグラム生成部である。113は撮像システム全体を制御するカメラ制御部であり、図示していないが撮像装置中の各部に指示を送り、処理を行わせることができる。114は入力画像のシーンを判別するシーン判別部である。115はシーン判別部114でのシーン判別処理を制御するシーン判別制御部である。
【0019】
次に、図1の撮像装置の撮影動作について説明する。レンズ101、アイリス102を通過した被写体像は撮像素子103上に結像される。撮像素子103に入射した光は、光電変換され、AGCアンプ104で適正レベルに増幅された後、輝度・色信号生成部105に出力される。輝度・色信号生成部105では、輝度信号(Y)及び色信号(R,G,B)を生成し、このうち色信号(R,G,B)をホワイトバランス増幅部106に出力し、輝度信号(Y)をエンコーダ109に出力する。
【0020】
ホワイトバランス増幅部106では、カメラ制御部113によって算出されたホワイトバランスゲインに基づいて色信号(R,G,B)を増幅し、増幅した色信号(R’,G’,B’)を色差信号生成部107に出力する。色差信号生成部107では、色信号(R’,G’,B’)から色差信号(R’−Y,B’−Y)を生成し、色差信号補正部108及び信号分割部110に出力する。色差信号補正部108では、色差信号(R’−Y,B’−Y)に対して、カメラ制御部113によって算出されたゲイン(ゲインの強度に関しては後述する)をかけ補正する。また、補正後の色差信号(R’−Y,B’−Y)をエンコーダ109に出力する。エンコーダ109では、輝度信号(Y)及び色差信号(R’−Y,B’−Y)からNTSC等の標準テレビジョン信号を生成し、不図示の記録部へ出力する。
【0021】
次に本発明の特徴部分である、画像データに施す撮影シーンに応じた画像処理について説明する。本実施形態では、撮像系から取り込まれた画像データに基づいて、この画像データが撮影されたシーンが鮮やかなシーンであるか否かを判別し、判別結果に応じた画像処理を画像データに施す処理を行う。このとき、鮮やかなシーンの中でも色分布が異なると鮮やかさの感じ方が異なることに着目して、得られた画像データの色の分布に応じて異なるシーン判別処理を行う。
【0022】
図2の(a)、(b)は共に花を撮影した場合の画像であるが、色の分布の仕方が異なる。(a)は様々な色の花を撮影した場合を表しており、画像内に存在する色数が多い。一方、(b)はある色の花を撮影した場合を表しており、画像内に存在する色数が少ない。このような場合、人間の知覚では、(a)の色数の多い画像の方が、(b)の色数の少ない画像に比べて同じ彩度でも鮮やかに感じやすい。この人間の知覚の特性に対応するために、本実施形態では、画像データの撮影されたシーンが単色、カラフルいずれの鮮やかなシーンに当たるかを分類し、分類結果に応じた判別方法を用いて鮮やかなシーンであるかを判別する。以下、図2(a)のように画像中の色数が多いシーンをカラフルの鮮やかなシーンと呼び、図2(b)のように画像中の色数が少ないシーンを単色の鮮やかなシーンと呼ぶ。
【0023】
シーン判別部114によるシーン判別処理によってカラフルまたは単色の鮮やかなシーンであると判別された画像データは、本実施形態では、色差信号補正部108にて彩度を上げ、鮮やかさを強調する鮮やか補正処理が行われる。これにより、ユーザ(人間)が鮮やかであると知覚する被写体をより鮮やかに見せることができる。
【0024】
本実施形態の特徴部分であるこれら一連の処理についてのフローチャート図を図3に示す。これらの処理はカメラ制御部113の指示によって各部で行われる。
【0025】
ステップS301では、色差信号生成部107から画像データを取得し信号分割部110で複数のブロックに分割される。ステップS302では、ブロック毎の彩度、色相などの情報を基に、得られた画像データが単色の鮮やかなシーンにあたる可能性のあるものか、カラフルの鮮やかなシーンにあたる可能性のあるものかを分類する、鮮やか分類処理が行われる。ステップS303では、シーン判別部114によって、分類結果に応じた判別条件で画像データが鮮やかなシーンであるか否かが判別され、判別結果が出力される。ステップS304では、ステップS303での判別結果に基づいて、画像データに対して補正処理が行われ、処理が終了する。
【0026】
ここで、本実施形態では、シーン判別結果に用いた画像データに対して、その判別結果を反映させ出力しているが、発明としては特にこれに限定されるものではない。すなわち、あるフレーム(画像データ)に対する判別結果に応じた補正処理を、その次のフレーム以降に反映させることなども当然可能である。また、複数フレーム鮮やかなシーン判別結果が続いたときに初めてシーンを特定したり、複数フレーム中、鮮やかなシーンと判別された割合が高い場合にシーンを特定したりと、複数フレームの判別結果からシーンを特定することも考えられる。このとき、判別結果に応じた補正処理は、それら複数フレームや、以降のフレームに反映させることが考えられる。
【0027】
具体的に想定される状況としては、静止画撮影が可能な撮像装置や画像データに画像処理を施すPCなどの情報処理装置において、撮影された画像データ(フレーム)に対して処理を行う状況がある。また、ライブビュー表示または動画撮影が可能な撮像装置や動画に画像処理を施すPCなどの情報処理装置において、複数フレームにまたがった上記のような処理が想定される。
【0028】
また、本実施形態では、シーン判別部114によって出力された判別結果を用いて画像データに対して彩度の補正をかけているが、判別結果の利用法としてはこれに限らない。例えば、判別結果を不図示の表示手段に表示させ、ユーザに知らしめたり、画像データを保存する際に、判別結果に対応した情報をヘッダなどに付帯して、保存後に画像データの撮影されたシーンが特定できるようにしたりもできる。また、補正1つをとってみても、彩度以外を補正することで鮮やかさを強調するようにしてもよい。このような処理には例えば、輝度を上げる補正や輪郭の強調処理などが考えられる。
【0029】
次に、上述した一連の各処理についての詳細を説明する。ステップS301では色差信号生成部107から出力される色差信号を信号分割部110に取り込む。取り込まれた画像全体は、図2の(a)、(b)に示すようなブロック(8×8ブロック)に分割され、ブロック毎の色差信号(R’−Y,B’−Y)の平均値を算出し、色相・彩度算出部111に出力される。
【0030】
次にステップS302で行われる鮮やか分類処理について詳述する。ステップS302では、色相・彩度算出部111によって、ブロック毎の色差信号(R’−Y、B’−Y)から、ブロック毎の色相(Hue)、彩度(Chroma)を算出する。色差信号と色相、彩度の関係を図4(a)に示した。また、色差信号から色相、彩度を算出するのには以下の式を用いる。
【0031】
【数1】
【0032】
色相・彩度算出部111は、算出したブロック毎の色相(Hue)、彩度(Chroma)を色相ヒストグラム生成部112へ出力する。
【0033】
色相ヒストグラム生成部112では、ブロック毎の色相(Hue)、彩度(Chroma)から色相ヒストグラムを生成する。
色相ヒストグラム生成部112は、各ブロックの彩度(Chroma)を所定の閾値(第3の彩度閾値)と比較する。そして、ブロックの彩度が所定値以上であれば、そのブロックの対応する色相に度数を加算する。逆にブロックの彩度が閾値より低ければ、そのブロックは色相ヒストグラムには含めない。本実施形態では、一例として図2の(a)、(b)のそれぞれの画像に対して生成した色相ヒストグラムを図4の(b)、(c)に示した。図の横軸(階級)は色相(Hue)であり、ここでは階級幅を10(度)としている。縦軸は度数であり、各色相を持つブロックの数を表している。
【0034】
次に、色相ヒストグラム生成部112は、色分布の広がり度合いを表す指標を算出する。ここでは、色相ヒストグラム中の度数がゼロではない階級の数(色相の数)を指標として用いる。図4の(b)、(c)の場合であれば、色相数はそれぞれ、17、6となる。色相ヒストグラム生成部112は、算出した色相数をシーン判別制御部115へ出力する。
【0035】
シーン判別制御部115は、色相ヒストグラム生成部112が算出した色相数に基づいて、シーン判別部114が行うシーン判別処理を制御する。具体的には、シーン判別の際に用いる判別閾値を算出し、シーン判別部114へ出力する。
【0036】
以下、図5を用いてシーン判別制御部が算出する判別閾値について説明する。ここでは、画像の平均彩度と画像中の高彩度ブロックの数に基づいてシーンを判別する場合を例に取って説明する。図5は鮮やかなシーンの判別基準を示した図であり、図の横軸は平均彩度を表しており、縦軸は高彩度ブロックの数を表している。図の斜線で示した領域、すなわち、平均彩度が閾値(Th_Chroma)より高く、かつ、彩度が閾値以上であるブロックの数が閾値(Th_Area)よりも大きいときに鮮やかなシーンであると判別する。
【0037】
また、「カラフル」シーンに対して用いる判別閾値Th_Area(カラフル)、Th_Chroma(カラフル)は、「単色」シーンに対して用いる判別閾値Th_Area(単色)、Th_Chroma(単色)に比べて低い値とする。すなわち、Th_Area(カラフル)<Th_Area(単色)、Th_Chroma(カラフル)<Th_Chroma(単色)である。
【0038】
シーン判別制御部115は、色相数を所定の閾値と比較して現在のシーンがカラフルの鮮やかなシーンである可能性があるか単色の鮮やかなシーンである可能性があるかを判別し、その結果に応じてシーン判別の閾値を決定する。すなわち、色相数が閾値以上である場合は、Th_Area(カラフル)(第1のブロック閾値)とTh_Chroma(カラフル)(第1の彩度閾値)の値をシーン判別部114へ出力する。逆に色相数が所定値より小さい場合には、Th_Area(単色)(第2のブロック閾値)とTh_Chroma(単色)の値(第2の彩度閾値)をシーン判別部114へ出力する。ここで、色相数に対する閾値は、例えば8とする。
【0039】
次にステップS303の鮮やか判別処理について詳述する。ステップS303では、シーン判別部114が、色相・彩度算出部111が算出した各ブロックの彩度データとシーン判別制御部115が算出した判別閾値とに基づいてシーンを判別する。シーン判別部114が行うシーン判別の処理内容を図6のフローチャートに示した。
【0040】
図6において、ステップS601では、色相・彩度算出部111が算出したブロック毎の彩度を画像の全ブロックに対して平均し、平均彩度を算出する。 ステップS602では、画像の全ブロックの中で、彩度が所定値以上であるブロック(高彩度ブロック)の数をカウントする。ステップS603では、算出した値とシーン判別制御部115から出力された、色相数に応じた判別閾値とを比較する。すなわち、平均彩度が所定値(Th_Chroma)以上であり、かつ、高彩度ブロック数が所定数(Th_Area)以上である場合には、S604にて現在のシーンを鮮やかと判別する。それ以外の場合には、S605にて現在のシーンは鮮やかではないと判別する。
【0041】
ステップS606では、シーン判別部114が、シーン判別結果の情報をカメラ制御部113へ出力する。
【0042】
最後に、ステップS304で行われる鮮やか補正処理について詳述する。カメラ制御部113は、シーン判別部114でのシーン判別結果の情報に基づいて色差信号補正部108のパラメータを制御する。本実施形態では、前述の色差信号補正部108の彩度ゲインGを制御する。彩度ゲインGとしてG1、G2というパラメータがあり、G1>G2(G1、G2は1以上)という関係である。ここで、シーンを鮮やかと判別した場合はG1を、鮮やかなシーンではないと判別した場合はG2を、彩度ゲインとして設定する。即ち、鮮やかなシーンである場合には色差信号に対するゲインをより高くすることで、彩度を強調した画像に補正する。
【0043】
以上、説明したように、本発明では、鮮やかなシーンか否かを判別し、判別結果に応じて画像処理を制御する画像処理装置において、色分布の広がりに応じてシーンの判別を制御した。具体的には、色相数が多い場合には、色相数が少ない場合に比べて、鮮やかと判別する際の閾値を低い値に設定した。これにより、画像中に含まれるそれぞれの色の彩度が同じであっても、色相数が多い場合は、色相数が少ない場合に比べて鮮やかなシーンと判別されやすくなり、人間の知覚により近い鮮やかなシーンの判別を行うことが可能となる。
【0044】
なお、上記実施形態では、色相・彩度を色差信号から算出したが、本発明は色相・彩度の算出方法をこれに限定するものではない。例えば、L*a*b*空間などの他の空間に一度変換してからL*a*b*空間での色相・彩度を算出してもよい。
【0045】
また、上記実施形態では、信号分割部110が8×8ブロックに画像信号を分割する例を説明したが、画像中の色分布に応じて鮮やかなシーンの判別を制御する構成であれば、どのような分割数であってもかまわない。また、画素単位での色相・彩度情報から色分布の広がりを判断する構成であっても構わない。
【0046】
また、上記実施形態では、色相ヒストグラムの度数がゼロではない階級の数(色相数)を、画像中の色分布の広がりの度合いを表す指標として用いる場合で説明したが、画像中の色分布の広がりの度合いを検出する方法であれば、どのような方法を用いても構わない。例えば、色相ヒストグラムのピーク付近の度数が全体に占める割合を指標として用いても良い。また、色相ヒストグラムのピークの幅を指標として用いても良い。さらには、図4(a)のような色差平面において、彩度閾値以上の領域に存在する値の分散値をそれぞれ求めることで色分布の広がりの度合いを算出することもできる。このように、色相分布から色分布の広がり度合いを検出する方法としてはいろいろなものが適用できる。
【0047】
また、上記実施形態では、鮮やかなシーンであるか否かの判別を平均彩度値と高彩度ブロック数の2つの情報を元に行ったが、鮮やかなシーンの判別方法をこれに限定するものではない。例えば、画像中で最も彩度が高い領域での彩度情報に基づいて鮮やかなシーンの判別を行っても良い。
【0048】
また、上記実施形態では、色相数が閾値以上である場合と、閾値より少ない場合とのそれぞれに対して判別閾値を設定したが、本発明は判別閾値の設定の仕方をこれに限定するものではない。例えば、色相数が多くなるほど、判別閾値が低くなるように連続的な値を算出し設定する方法を用いても良い。また、平均彩度の閾値のみ、又は、高彩度ブロック数の閾値のみを変更するようにしても良い。
【0049】
また、上記実施形態では、鮮やかなシーンであるか否かの判別結果に基づき、色差信号にかけるゲインを制御する場合について説明した。しかし、鮮やかなシーンであるか否かに基づき色信号、もしくは輝度信号を補正する制御であればどのような制御を行ってもかまわない。
【0050】
また、上記実施形態では、鮮やかなシーンであるか否かの2値で判別したが、鮮やか度合い等のように多値で算出しても構わない。この場合、平均彩度が高ければ高いほど、また、彩度が閾値以上のブロック数が多ければ多いほど鮮やか度合いが高くなる。または、色相数が多いほど鮮やか度合いを高くする。そして、算出した鮮やか度合いに基づき、色差信号補正部108の信号を補正する(鮮やか度合いが高いほど色差信号にかけるゲインを高くする)。
【0051】
また、本実施形態では、鮮やかなシーンであると判別された画像データに対して彩度を上げ、鮮やかさを強調する処理について述べたが、これに限らず、鮮やかなシーンに対して逆に彩度を下げ、鮮やかさを抑えるような処理にも適用することができる。この場合、例えばG1<G2≦1のようにゲインを設定してやるとよい。
【0052】
(第2の実施形態)
第1の実施形態では、色分布の広がりに応じて、シーンの判別閾値を制御する場合について説明した。
【0053】
第2の実施形態では、色分布の広がりに応じて、彩度を補正し、補正後の彩度情報に基づいて、鮮やかなシーンか否かの判別を行う処理について説明する。
【0054】
図7に本実施形態に係る撮像装置の主要な構成を示した。図1に示した構成要素と同様の構成要素には同一の符号を付し、その詳細な説明は省略する。本実施形態では、彩度補正部701が新たに追加されている。彩度補正部701は、色相・彩度算出部111が算出した彩度(Chroma)に後述する彩度ゲイン(G_Chroma)を乗算し、補正後の彩度(Chroma’)を算出する。
【0055】
シーン判別制御部115は、色相ヒストグラム生成部112が算出した色相数に基づいて、彩度ゲイン(G_Chroma)(補正量)を算出する。図8の縦軸は彩度ゲインを表しており、横軸は色相数である。図中のP801は予め設定された色相数の上限値とその時の彩度ゲイン設定値を表す。同様に、P802は予め設定された色相数の下限値とその時の彩度ゲイン設定値を表す。L801は、P801とP802により定められる色相数と彩度ゲインの関係を表す。L801は、色相数が多い(第1の状態)場合には小さいゲイン(第1の補正量)、色相数が少ない(第2の状態)場合には、大きいゲイン(第2の補正量)となるように設定されている。図に示したように色相数が多いほど彩度ゲインが大きな値となるように設定されている。シーン判別制御部115は、L801で表される特性と、入力された色相数に基づいて、彩度ゲイン(G_Chroma)(補正量)を決定する。その後、シーン判別制御部115は、算出した彩度ゲインを彩度補正部701へ出力する。
【0056】
また、シーン判別制御部115は予め設定されたシーン判別に用いる閾値、すなわち、平均彩度閾値(Th_Chroma)と高彩度ブロック数閾値(Th_Area)をシーン判別部114へ出力する。
【0057】
彩度補正部701は、色相・彩度算出部111より出力されたブロック毎の彩度(Chroma)に彩度ゲイン(G_Chroma)(補正量)を乗じて、補正後の彩度(Chroma’)を算出し、シーン判別部114へ出力する。この補正処理は、図2に示した8×8の全てのブロックに対して順次、行われる。
【0058】
次にシーン判別部114が入力された補正後の彩度(Chroma’)に基づいてシーンの判別処理を行う。ここでの判別処理には、第1の実施形態とは違って、画像データの色相数によらず同じ閾値(Th_Chroma、Th_Area)が用いられる。判別処理及びこの後のカメラ制御部113による補正処理の内容は、第1の実施形態の場合と同様であるため、ここではその詳細な説明は省略する。
【0059】
以上、説明したように、本発明では、鮮やかなシーンか否かを判別し、判別結果に応じて画像処理を制御する画像処理装置において、色分布の広がり度合いに応じてシーンの判別を制御した。具体的には、色相数に応じて彩度ゲインを算出し、その彩度ゲインを乗じた後の彩度データに基づいて鮮やかなシーンか否かの判別を行うようにした。
【0060】
これにより、画像中に含まれるそれぞれの色の彩度が同じであっても、色相数が多い場合は、色相数が少ない場合に比べて鮮やかなシーンと判別されやすくなり、人間の知覚により近い鮮やかなシーンの判別を行うことが可能となる。
【0061】
なお、上記実施形態では、彩度ゲインの算出方法を、予め設定された設定値と色相数に基づいて算出する方法で説明したが、本発明は彩度の補正方法をこれに限定するものではない。例えば、予め2通りの設定値を設定しておき、色相数が所定の閾値より多いか少ないかに応じて、どちらか一方の設定値を彩度ゲインとして用いるようにしても良い。すなわち、色相数が多いほど、彩度が高く補正されるような方法であれば、どのような方法を用いても構わない
(第3の実施形態)
第2の実施形態では、色分布の広がりに応じて、彩度に対する補正処理を制御する場合について説明した。
【0062】
第3の実施形態では、色分布の広がりと彩度情報に基づいて、鮮やかなシーンか否かの判別を行う場合について説明する。
【0063】
本実施形態の撮像装置の構成は、図1に示した第1の実施形態の場合と同様であるため、ここでは詳しい説明は省略する。
【0064】
ここでは図9の(a)、(b)のような画像についてシーンの判別を行う場合を例に取り、説明する。図9の(a)は、単色の鮮やかなシーンと判定されるような彩度の高い花を撮影した場合を表している。一方、(b)において、901は被写体人物の背景に位置する壁であり、彩度が高く、一様な色をしている。このような場合、(a)の画像の花と、(b)の画像の背景部分とが同じ彩度であっても、(b)のような状況では、ユーザは鮮やかな画像を撮影しようとは意図していない場合がある。このように単色の鮮やかなシーンであっても、ユーザが鮮やかなシーンとして撮影したくないという意図を汲み取ることができる処理を本実施形態では行う。
【0065】
図9(a)、(b)の画像に対して第1、第2の実施形態と同様の方法で生成した色相ヒストグラムを、それぞれ図10(a)、(b)に示した。単色で鮮やかな花の画像である図9(a)の画像は、ある度数の色相の付近に多少の広がりを持って分布していることが分かる。これに対して図9(b)の画像では、背景部分のみが色相ヒストグラムに含まれ、背景部分は一様に塗られているため、図9(b)に対する色相数は、図9(a)に比べて低い値となる。ここでは図10(a)、(b)の色相ヒストグラムに対する色相数は、それぞれ8、2となるとする。
【0066】
このようにユーザが鮮やかに撮りたいと意図しない画像では、同じ単色の鮮やかなシーンであっても、さらに色相数が少ない傾向にある。そこでこのようなシーンを鮮やかなシーンとして判別せずに除外するステップを追加する。
【0067】
上述した除外処理のステップを行うシーン判別制御部115の処理内容について、図11のフローチャートを参照しながら説明する。本実施形態では、これらの処理が第1の実施形態で説明したステップS302の鮮やか分類処理として行われる。
【0068】
ステップS1101では、シーン判別制御部115が、色相ヒストグラム生成部112により算出された色相数を所定の閾値と比較する。色相数が所定の閾値以上であれば、ステップS1102へ進み、所定の閾値より少なければステップS1103へ進む。ここでの閾値は、第1の実施形態において、図5を用いて説明したカラフルの鮮やかなシーンと単色の鮮やかなシーンとの判別の際に用いた閾値よりも小さい値に設定する。ここでは、閾値を3とした場合で説明する。
【0069】
ステップS1102では、第1の実施形態と同様に、色相数を所定の閾値と比較して現在のシーンがカラフルの鮮やかなシーンである可能性があるか単色の鮮やかなシーンである可能性があるかを判別し、その結果に応じてシーン判別の閾値を決定する。すなわち、色相数が閾値以上である場合は、Th_Area(カラフル)とTh_Chroma(カラフル)の値をシーン判別部114へ出力する。逆に色相数が閾値未満である場合には、Th_Area(単色)とTh_Chroma(単色)の値をシーン判別部114へ出力する。シーン判別部114その後、シーン判別制御部115は、シーン判別部114へシーンの判別を行うよう指示する。
【0070】
ステップS1103では、シーン判別制御部115が、現在のシーンを鮮やかとは判別しないようにシーン判別部114へ指示する。
【0071】
次に、シーン判別部114が行うシーン判別処理について、図12のフローチャートを参照しながら説明する。
【0072】
ステップS1201では、シーン判別部114が、シーンの判別処理を行うか否かを判断する。すなわち、シーン判別制御部115がシーン判別処理を行うよう指示した場合には、ステップS1202へ進み、シーン判別処理を実行する。シーン判別制御部115がシーン判別処理を行わないよう指示した場合には、ステップS1206へ進む。
【0073】
したがって、図9(a)のような画像が入力された場合には、ステップS1202以降で所定の判別閾値に基づいて鮮やかなシーンか否かの判別が行われる。一方、図9(b)のような画像が入力された場合には、ステップS1206に進み、鮮やかなシーンとは判別されないこととなる。
【0074】
ステップS1202〜ステップS1204でのシーン判別処理は、第1の実施形態における図6のステップS601〜ステップS603での処理内容と同様であるため、ここでは詳細な説明は省略する。ステップS1204での判別条件が満たされた場合にはステップS1205へ進み、現在のシーンを鮮やかと判別する。判別条件が満たされなかった場合にはステップS1206へ進み、現在のシーンは鮮やかではないと判別する。
【0075】
ステップS1207では、シーン判別部114が、シーン判別結果の情報をカメラ制御部113へ出力する。以上が、シーン判別部114が行う処理内容である。
【0076】
カメラ制御部113は、シーン判別部114で判別されたシーン判別結果の情報に基づいて色差信号補正部108のパラメータを制御する。本実施形態では、前述の色差信号補正部108の彩度ゲインGを制御する。彩度ゲインGとしてG1、G2というパラメータがあり、G1>G2(G1、G2は1以上)という関係である。ここで、シーンを鮮やかと判別した場合はG1を、鮮やかなシーンではないと判別した場合はG2を、彩度ゲインとして設定する。即ち、鮮やかなシーンでは、色差信号に対するゲインをより高くすることで、彩度を強調した画像に補正する。
【0077】
以上、説明したように、本発明では、鮮やかなシーンか否かを判別し、判別結果に応じて画像処理を制御する画像処理装置において、色分布の広がりに応じてシーンの判別を制御した。具体的には、色相数が所定の閾値より少ない場合には、鮮やかなシーンとは判別しないように制御した。
これにより、有彩色で一様に塗られた壁を背景として撮影した場合など、彩度は高いがユーザが鮮やかな被写体を撮影しようと意図していないシーンを判別することが可能となり、人間の知覚により近い鮮やかなシーンの判別を行うことが可能となる。
【0078】
以上、本発明の好ましい実施形態について説明したが、本発明はこれらの実施形態に限定されず、その要旨の範囲内で種々の変形及び変更が可能である。
【0079】
なお、上記実施形態では、色相の広がりと彩度情報に基づいて鮮やかと判別するか否かを制御したが、本発明は、シーン判別の制御方法をこれに限定するものではない。ユーザの意図としては、彩度あるいは輝度の分布の広がり度合いが小さいものも、鮮やかに写したい被写体ではない場合が多い。そこで、色相ヒストグラム生成部112において、色相ヒストグラムと併せて彩度彩度分布または輝度輝度分布を生成する。それらの広がりが所定の閾値より狭い場合に、シーンを鮮やかと判別しないようにすることで、よりユーザの意図を反映した制御とすることもできる。
【0080】
(第4の実施形態)
第3の実施形態では、鮮やかなシーンの判別に、色分布の広がりの情報を用いる場合について説明した。具体的には、画像中の色相数が所定の閾値より少ない場合には、鮮やかなシーンとは判別しないように制御した。
【0081】
第4の実施形態では、画像中の特定の領域における色分布に応じて、鮮やかなシーンの判別を制御する場合について説明する。
【0082】
図13に本実施形態に係る撮像装置の主要な構成を示した。図1に示した構成要素と同様の構成要素には同一の符号を付し、その詳細な説明は省略する。本実施形態では、図1に比べて、背景抽出部1301が新たに追加されている。
【0083】
背景抽出部1301は、画像中の背景の領域を抽出し、その位置や範囲の情報を色相ヒストグラム生成部112へ出力する。
【0084】
次に、第4の実施形態に関る撮像装置の処理動作について説明する。
【0085】
被写体像がレンズ101へ入射してから色相・彩度算出部111においてブロック毎の色相・彩度が算出されるまでの一連の処理は、第1の実施形態と同様であるため、ここではその詳細な説明は省略する。
【0086】
本実施形態では、色相ヒストグラム生成部112が、画像中の背景部分のみを用いて色相ヒストグラムを生成する点が上述の実施形態と異なる。
【0087】
これを行うために、本実施形態では、背景抽出部1301が画像中の背景部分を抽出する。具体的には、背景抽出部1301は、公知の顔認識処理を用いて、画像内の人物の顔を検出し、その位置やサイズを算出する。この算出結果に基づいて、背景抽出部1301は、画像中の人物を含む被写体領域と、それ以外の背景領域とに画像を区分する。その後、背景抽出部1301は、信号分割部110に設定されている8×8に画像を分割したブロックの位置やサイズの情報を用いて、背景領域と重複しているブロックを抽出する。図14に上述の方法により背景領域にあたるブロックを抽出した画像の例を示した。図14において、斜線で塗りつぶされているブロックが背景領域として抽出されたブロックを表す。背景抽出部1301は、このブロックの位置を、背景領域の情報として色相ヒストグラム生成部112へ出力する。
【0088】
次に、本実施形態における色相ヒストグラム生成部の処理動作について説明する。第1の実施形態の場合と同様に、色相ヒストグラム生成部112は色相ヒストグラムを生成した後、色相数を算出してシーン判別制御部115へ出力する。ただし、色相ヒストグラム生成部112は、図14で説明した背景領域として区分されたブロックのみを用いて色相ヒストグラムを生成する。
【0089】
これ以降の処理、すなわち、シーン判別制御部115によるシーン判別の制御、シーン判別部114によるシーン判別処理、及び、カメラ制御部113による色相補正処理は、第3の実施形態と同様であるため、ここではその詳細な説明は省略する。
【0090】
以上、説明したように、本発明では、鮮やかなシーンか否かを判別し、判別結果に応じて画像処理を制御する画像処理装置において、背景領域の色分布の広がりに応じてシーンの判別を制御した。具体的には、背景領域に含まれる色相数が所定の閾値より少ない場合には、鮮やかなシーンとは判別しないように制御した。
【0091】
これにより、有彩色で一様に塗られた壁を背景として撮影した場合など、彩度は高いがユーザが鮮やかな被写体を撮影しようと意図していないシーンを判別することが可能となり、人間の知覚や意図により近い鮮やかなシーンの判別を行うことが可能となる。
【0092】
なお、上記実施形態では、背景領域の抽出を公知の顔認識技術を用いる方法を用いて行う場合について説明したが、本発明は、背景の抽出方法をこれに限定するものではない。例えば、撮影時に合焦状態にあった領域である焦点検出領域の位置を取得し、その位置に基づいて背景を抽出しても良い。この場合、主要な被写体は焦点検出領域、及び、その周囲に存在すると考えられるため、画像領域から焦点検出領域、及び、その周囲を除いた領域を背景として抽出すれば良い。
【0093】
(他の実施形態)
本発明の目的は以下のようにしても達成できる。すなわち、前述した各実施形態の機能を実現するための手順が記述されたソフトウェアのプログラムコードを記録した記憶媒体を、システムまたは装置に供給する。そしてそのシステムまたは装置のコンピュータ(またはCPU、MPU等)が記憶媒体に格納されたプログラムコードを読み出して実行するのである。
【0094】
この場合、記憶媒体から読み出されたプログラムコード自体が本発明の新規な機能を実現することになり、そのプログラムコードを記憶した記憶媒体およびプログラムは本発明を構成することになる。
【0095】
また、プログラムコードを供給するための記憶媒体としては、例えば、フレキシブルディスク、ハードディスク、光ディスク、光磁気ディスクなどが挙げられる。また、CD−ROM、CD−R、CD−RW、DVD−ROM、DVD−RAM、DVD−RW、DVD−R、磁気テープ、不揮発性のメモリカード、ROM等も用いることができる。
【0096】
また、コンピュータが読み出したプログラムコードを実行可能とすることにより、前述した各実施形態の機能が実現される。さらに、そのプログラムコードの指示に基づき、コンピュータ上で稼動しているOS(オペレーティングシステム)等が実際の処理の一部または全部を行い、その処理によって前述した各実施形態の機能が実現される場合も含まれる。
【0097】
更に、以下の場合も含まれる。まず記憶媒体から読み出されたプログラムコードが、コンピュータに挿入された機能拡張ボードやコンピュータに接続された機能拡張ユニットに備わるメモリに書き込まれる。その後、そのプログラムコードの指示に基づき、その機能拡張ボードや機能拡張ユニットに備わるCPU等が実際の処理の一部または全部を行う。
【産業上の利用可能性】
【0098】
本実施形態では、本発明を適用できる画像処理装置として、撮像装置を例として説明したが、これに限らない。撮像装置の中でも、静止画、動画の撮影が行えるものどちらにも適用可能であるし、外部から画像データを取得して処理を行うプリンタなどの画像形成装置や、パーソナルコンピュータなどの情報処理装置でも、本発明は適用できる。
【符号の説明】
【0099】
105 輝度・色信号生成部
106 WB増幅部
107 色差信号生成部
108 色差信号補正部(画像処理手段)
109 エンコーダ
110 信号分割部
111 色相・彩度算出部
112 色相ヒストグラム生成部(色分布情報算出手段)
113 カメラ制御部
114 シーン判別部
115 シーン判別制御部
【技術分野】
【0001】
本発明は、入力された画像のシーンを判別し、判別したシーンに応じた画像処理を行う画像処理方法、画像処理装置及び撮像装置に関するものである。
【背景技術】
【0002】
従来、画像のシーンや被写体の種類を判別し、判別したシーン(被写体の種類)に応じた画像処理を行う画像処理方法があった。
【0003】
例えば、特許文献1では、入力された画像データが鮮やかなシーン(被写体)であるかを判別し、鮮やかなシーンの画像は高解像度で出力する画像出力装置が開示されている。
【先行技術文献】
【特許文献】
【0004】
【特許文献1】特開2000−259372号公報
【発明の概要】
【発明が解決しようとする課題】
【0005】
上述の特許文献1に開示された従来技術では、彩度の高い画素が所定の閾値よりも多いか否かによって鮮やかなシーンであるかを判別していた。
【0006】
しかしながら、画像の彩度情報のみに基づいて鮮やかなシーンを判別する従来の方法では、シーンの判別結果が、ユーザ、つまり人間の感覚と異なる場合があった。
【0007】
例えば、画像中に存在する色数が多い場合には、色数が少ない場合と比べて、それぞれの色の彩度が低くとも鮮やかなシーンと感じやすい。
【0008】
また、彩度の高い画素は多く存在するとしても、ユーザが鮮やかなシーンを撮影しようと意図していない場合がある。例えば、彩度の高い色に一様に塗られた壁を背景として被写体を撮影する場合などである。このように、同じ彩度であっても鮮やかなシーンと感じやすい場合もあれば、感じにくい場合も有る。上記のような場合に、従来の判別方法ではユーザの感覚や意図に合わせてシーンの判別を行うことが困難であった。
【0009】
そこで、本発明の目的は、入力された画像が鮮やかなシーンであるかの判別を、より人間の知覚や意図に合わせてできる画像処理装置を提供することである。
【課題を解決するための手段】
【0010】
上記目的を達成するために、本発明の画像処理方法は、請求項1に記載の通り、画像データを取得する取得ステップと、前記画像データの色相分布を生成する生成ステップと、前記色相分布における色分布の広がり度合いに応じた判別条件が設定され、該判別条件で、前記画像データの画像が鮮やかなシーンであるか否かを判別する判別ステップと、前記判別ステップでの判別結果を出力する出力ステップと、を有することを特徴とする。
【0011】
また、本発明の画像処理装置は、請求項12に記載の通り、画像データを取得する取得手段と、前記画像データの色相ヒストグラムを生成する生成手段と、前記色相ヒストグラムにおける色分布の広がり度合いに応じた判別条件が設定され、該判別条件で、前記画像データの画像が鮮やかなシーンであるか否かを判別する判別手段と、前記判別手段での判別結果に応じて、画像データの彩度補正を行う補正手段とを有することを特徴とする。
【0012】
また、本発明の撮像装置は、請求項13に記載の通り、被写体を撮像し、画像データを出力する撮像手段と、前記画像データの色相ヒストグラムを生成する生成手段と、前記色相ヒストグラムにおける色分布の広がり度合いに応じた判別条件が設定され、該判別条件で、前記画像データの画像が鮮やかなシーンであるか否かを判別する判別手段と、前記判別ステップでの判別結果に応じて、画像データの彩度補正を行う補正手段と、を有することを特徴とする。
【発明の効果】
【0013】
本発明によれば、入力された画像が鮮やかなシーンであるかの判別を、より人間の知覚や意図に合わせて行うことが可能となる。
【図面の簡単な説明】
【0014】
【図1】第1の実施形態に係る撮像装置の構成を示すブロック図である。
【図2】画像信号のブロック分割を示す図である。
【図3】色差信号と彩度・色相の関係を示す図である。
【図4】第1の実施形態に係る色相ヒストグラムの例を示す図である。
【図5】シーン判別部が行うシーン判別処理の特性を示す図である。
【図6】第1の実施形態に係るシーン判別部の処理を示すフローチャートである。
【図7】第2の実施形態に係る撮像装置の構成を示すブロック図である。
【図8】第2の実施形態に係る彩度補正処理の特性を示すグラフである。
【図9】第3の実施形態に係る撮影シーンの例を示す図である。
【図10】第3の実施形態に係る色相ヒストグラムの例を示す図である。
【図11】第3の実施形態に係るシーン判別制御部の処理を示すフローチャートである。
【図12】第3の実施形態に係るシーン判別部の処理を示すフローチャートである。
【図13】第4の実施形態に係る撮像装置の構成を示すブロック図である。
【図14】第4の実施形態に係る画像分割を示す図である。
【発明を実施するための形態】
【0015】
(第1の実施形態)
以下、図1〜図6を参照して、第1の実施形態による画像処理装置について説明する。
【0016】
図1は第1の実施形態に係るシーン判別機能を備え、シーンに応じた画像補正処理を行う画像処理装置の一例である撮像装置の構成を示すブロック図である。図1において、101は被写体の光束を結像するレンズである。102はレンズからの光束を撮像素子に導く際に絞る絞りである。103は入射された光束を光電変換して画像信号として出力する撮像素子である。104はオートゲインコントロールアンプ(AGC)であり、撮像素子103からの信号を適正レベルに増幅する。
【0017】
105は輝度・色信号生成部であり、撮像素子103で生成された信号を輝度信号(Y)及び色信号(R,G,B)に変換する。106はホワイトバランス増幅部であり、輝度・色信号生成部105から出力される色信号(R,G,B)をホワイトバランスゲインに従って増幅し、増幅色信号(R’,G’,B’)を生成する。107は色差信号生成部であり、色差信号(R’−Y,B’−Y)を生成する。108は、色差信号に対してゲインをかけるなどの補正を行う色差信号補正部、109は標準テレビ信号等に変換するエンコーダである。
【0018】
110は信号分割部であり、輝度信号(Y)、色差信号(R’−Y,B’−Y)を所定の小ブロックに分割する。111は、色差信号(R’−Y,B’−Y)から色相、彩度信号(Hue,Chroma)
を算出する色相・彩度算出部である。112は色相、彩度信号から色相ヒストグラムを生成する色相ヒストグラム生成部である。113は撮像システム全体を制御するカメラ制御部であり、図示していないが撮像装置中の各部に指示を送り、処理を行わせることができる。114は入力画像のシーンを判別するシーン判別部である。115はシーン判別部114でのシーン判別処理を制御するシーン判別制御部である。
【0019】
次に、図1の撮像装置の撮影動作について説明する。レンズ101、アイリス102を通過した被写体像は撮像素子103上に結像される。撮像素子103に入射した光は、光電変換され、AGCアンプ104で適正レベルに増幅された後、輝度・色信号生成部105に出力される。輝度・色信号生成部105では、輝度信号(Y)及び色信号(R,G,B)を生成し、このうち色信号(R,G,B)をホワイトバランス増幅部106に出力し、輝度信号(Y)をエンコーダ109に出力する。
【0020】
ホワイトバランス増幅部106では、カメラ制御部113によって算出されたホワイトバランスゲインに基づいて色信号(R,G,B)を増幅し、増幅した色信号(R’,G’,B’)を色差信号生成部107に出力する。色差信号生成部107では、色信号(R’,G’,B’)から色差信号(R’−Y,B’−Y)を生成し、色差信号補正部108及び信号分割部110に出力する。色差信号補正部108では、色差信号(R’−Y,B’−Y)に対して、カメラ制御部113によって算出されたゲイン(ゲインの強度に関しては後述する)をかけ補正する。また、補正後の色差信号(R’−Y,B’−Y)をエンコーダ109に出力する。エンコーダ109では、輝度信号(Y)及び色差信号(R’−Y,B’−Y)からNTSC等の標準テレビジョン信号を生成し、不図示の記録部へ出力する。
【0021】
次に本発明の特徴部分である、画像データに施す撮影シーンに応じた画像処理について説明する。本実施形態では、撮像系から取り込まれた画像データに基づいて、この画像データが撮影されたシーンが鮮やかなシーンであるか否かを判別し、判別結果に応じた画像処理を画像データに施す処理を行う。このとき、鮮やかなシーンの中でも色分布が異なると鮮やかさの感じ方が異なることに着目して、得られた画像データの色の分布に応じて異なるシーン判別処理を行う。
【0022】
図2の(a)、(b)は共に花を撮影した場合の画像であるが、色の分布の仕方が異なる。(a)は様々な色の花を撮影した場合を表しており、画像内に存在する色数が多い。一方、(b)はある色の花を撮影した場合を表しており、画像内に存在する色数が少ない。このような場合、人間の知覚では、(a)の色数の多い画像の方が、(b)の色数の少ない画像に比べて同じ彩度でも鮮やかに感じやすい。この人間の知覚の特性に対応するために、本実施形態では、画像データの撮影されたシーンが単色、カラフルいずれの鮮やかなシーンに当たるかを分類し、分類結果に応じた判別方法を用いて鮮やかなシーンであるかを判別する。以下、図2(a)のように画像中の色数が多いシーンをカラフルの鮮やかなシーンと呼び、図2(b)のように画像中の色数が少ないシーンを単色の鮮やかなシーンと呼ぶ。
【0023】
シーン判別部114によるシーン判別処理によってカラフルまたは単色の鮮やかなシーンであると判別された画像データは、本実施形態では、色差信号補正部108にて彩度を上げ、鮮やかさを強調する鮮やか補正処理が行われる。これにより、ユーザ(人間)が鮮やかであると知覚する被写体をより鮮やかに見せることができる。
【0024】
本実施形態の特徴部分であるこれら一連の処理についてのフローチャート図を図3に示す。これらの処理はカメラ制御部113の指示によって各部で行われる。
【0025】
ステップS301では、色差信号生成部107から画像データを取得し信号分割部110で複数のブロックに分割される。ステップS302では、ブロック毎の彩度、色相などの情報を基に、得られた画像データが単色の鮮やかなシーンにあたる可能性のあるものか、カラフルの鮮やかなシーンにあたる可能性のあるものかを分類する、鮮やか分類処理が行われる。ステップS303では、シーン判別部114によって、分類結果に応じた判別条件で画像データが鮮やかなシーンであるか否かが判別され、判別結果が出力される。ステップS304では、ステップS303での判別結果に基づいて、画像データに対して補正処理が行われ、処理が終了する。
【0026】
ここで、本実施形態では、シーン判別結果に用いた画像データに対して、その判別結果を反映させ出力しているが、発明としては特にこれに限定されるものではない。すなわち、あるフレーム(画像データ)に対する判別結果に応じた補正処理を、その次のフレーム以降に反映させることなども当然可能である。また、複数フレーム鮮やかなシーン判別結果が続いたときに初めてシーンを特定したり、複数フレーム中、鮮やかなシーンと判別された割合が高い場合にシーンを特定したりと、複数フレームの判別結果からシーンを特定することも考えられる。このとき、判別結果に応じた補正処理は、それら複数フレームや、以降のフレームに反映させることが考えられる。
【0027】
具体的に想定される状況としては、静止画撮影が可能な撮像装置や画像データに画像処理を施すPCなどの情報処理装置において、撮影された画像データ(フレーム)に対して処理を行う状況がある。また、ライブビュー表示または動画撮影が可能な撮像装置や動画に画像処理を施すPCなどの情報処理装置において、複数フレームにまたがった上記のような処理が想定される。
【0028】
また、本実施形態では、シーン判別部114によって出力された判別結果を用いて画像データに対して彩度の補正をかけているが、判別結果の利用法としてはこれに限らない。例えば、判別結果を不図示の表示手段に表示させ、ユーザに知らしめたり、画像データを保存する際に、判別結果に対応した情報をヘッダなどに付帯して、保存後に画像データの撮影されたシーンが特定できるようにしたりもできる。また、補正1つをとってみても、彩度以外を補正することで鮮やかさを強調するようにしてもよい。このような処理には例えば、輝度を上げる補正や輪郭の強調処理などが考えられる。
【0029】
次に、上述した一連の各処理についての詳細を説明する。ステップS301では色差信号生成部107から出力される色差信号を信号分割部110に取り込む。取り込まれた画像全体は、図2の(a)、(b)に示すようなブロック(8×8ブロック)に分割され、ブロック毎の色差信号(R’−Y,B’−Y)の平均値を算出し、色相・彩度算出部111に出力される。
【0030】
次にステップS302で行われる鮮やか分類処理について詳述する。ステップS302では、色相・彩度算出部111によって、ブロック毎の色差信号(R’−Y、B’−Y)から、ブロック毎の色相(Hue)、彩度(Chroma)を算出する。色差信号と色相、彩度の関係を図4(a)に示した。また、色差信号から色相、彩度を算出するのには以下の式を用いる。
【0031】
【数1】
【0032】
色相・彩度算出部111は、算出したブロック毎の色相(Hue)、彩度(Chroma)を色相ヒストグラム生成部112へ出力する。
【0033】
色相ヒストグラム生成部112では、ブロック毎の色相(Hue)、彩度(Chroma)から色相ヒストグラムを生成する。
色相ヒストグラム生成部112は、各ブロックの彩度(Chroma)を所定の閾値(第3の彩度閾値)と比較する。そして、ブロックの彩度が所定値以上であれば、そのブロックの対応する色相に度数を加算する。逆にブロックの彩度が閾値より低ければ、そのブロックは色相ヒストグラムには含めない。本実施形態では、一例として図2の(a)、(b)のそれぞれの画像に対して生成した色相ヒストグラムを図4の(b)、(c)に示した。図の横軸(階級)は色相(Hue)であり、ここでは階級幅を10(度)としている。縦軸は度数であり、各色相を持つブロックの数を表している。
【0034】
次に、色相ヒストグラム生成部112は、色分布の広がり度合いを表す指標を算出する。ここでは、色相ヒストグラム中の度数がゼロではない階級の数(色相の数)を指標として用いる。図4の(b)、(c)の場合であれば、色相数はそれぞれ、17、6となる。色相ヒストグラム生成部112は、算出した色相数をシーン判別制御部115へ出力する。
【0035】
シーン判別制御部115は、色相ヒストグラム生成部112が算出した色相数に基づいて、シーン判別部114が行うシーン判別処理を制御する。具体的には、シーン判別の際に用いる判別閾値を算出し、シーン判別部114へ出力する。
【0036】
以下、図5を用いてシーン判別制御部が算出する判別閾値について説明する。ここでは、画像の平均彩度と画像中の高彩度ブロックの数に基づいてシーンを判別する場合を例に取って説明する。図5は鮮やかなシーンの判別基準を示した図であり、図の横軸は平均彩度を表しており、縦軸は高彩度ブロックの数を表している。図の斜線で示した領域、すなわち、平均彩度が閾値(Th_Chroma)より高く、かつ、彩度が閾値以上であるブロックの数が閾値(Th_Area)よりも大きいときに鮮やかなシーンであると判別する。
【0037】
また、「カラフル」シーンに対して用いる判別閾値Th_Area(カラフル)、Th_Chroma(カラフル)は、「単色」シーンに対して用いる判別閾値Th_Area(単色)、Th_Chroma(単色)に比べて低い値とする。すなわち、Th_Area(カラフル)<Th_Area(単色)、Th_Chroma(カラフル)<Th_Chroma(単色)である。
【0038】
シーン判別制御部115は、色相数を所定の閾値と比較して現在のシーンがカラフルの鮮やかなシーンである可能性があるか単色の鮮やかなシーンである可能性があるかを判別し、その結果に応じてシーン判別の閾値を決定する。すなわち、色相数が閾値以上である場合は、Th_Area(カラフル)(第1のブロック閾値)とTh_Chroma(カラフル)(第1の彩度閾値)の値をシーン判別部114へ出力する。逆に色相数が所定値より小さい場合には、Th_Area(単色)(第2のブロック閾値)とTh_Chroma(単色)の値(第2の彩度閾値)をシーン判別部114へ出力する。ここで、色相数に対する閾値は、例えば8とする。
【0039】
次にステップS303の鮮やか判別処理について詳述する。ステップS303では、シーン判別部114が、色相・彩度算出部111が算出した各ブロックの彩度データとシーン判別制御部115が算出した判別閾値とに基づいてシーンを判別する。シーン判別部114が行うシーン判別の処理内容を図6のフローチャートに示した。
【0040】
図6において、ステップS601では、色相・彩度算出部111が算出したブロック毎の彩度を画像の全ブロックに対して平均し、平均彩度を算出する。 ステップS602では、画像の全ブロックの中で、彩度が所定値以上であるブロック(高彩度ブロック)の数をカウントする。ステップS603では、算出した値とシーン判別制御部115から出力された、色相数に応じた判別閾値とを比較する。すなわち、平均彩度が所定値(Th_Chroma)以上であり、かつ、高彩度ブロック数が所定数(Th_Area)以上である場合には、S604にて現在のシーンを鮮やかと判別する。それ以外の場合には、S605にて現在のシーンは鮮やかではないと判別する。
【0041】
ステップS606では、シーン判別部114が、シーン判別結果の情報をカメラ制御部113へ出力する。
【0042】
最後に、ステップS304で行われる鮮やか補正処理について詳述する。カメラ制御部113は、シーン判別部114でのシーン判別結果の情報に基づいて色差信号補正部108のパラメータを制御する。本実施形態では、前述の色差信号補正部108の彩度ゲインGを制御する。彩度ゲインGとしてG1、G2というパラメータがあり、G1>G2(G1、G2は1以上)という関係である。ここで、シーンを鮮やかと判別した場合はG1を、鮮やかなシーンではないと判別した場合はG2を、彩度ゲインとして設定する。即ち、鮮やかなシーンである場合には色差信号に対するゲインをより高くすることで、彩度を強調した画像に補正する。
【0043】
以上、説明したように、本発明では、鮮やかなシーンか否かを判別し、判別結果に応じて画像処理を制御する画像処理装置において、色分布の広がりに応じてシーンの判別を制御した。具体的には、色相数が多い場合には、色相数が少ない場合に比べて、鮮やかと判別する際の閾値を低い値に設定した。これにより、画像中に含まれるそれぞれの色の彩度が同じであっても、色相数が多い場合は、色相数が少ない場合に比べて鮮やかなシーンと判別されやすくなり、人間の知覚により近い鮮やかなシーンの判別を行うことが可能となる。
【0044】
なお、上記実施形態では、色相・彩度を色差信号から算出したが、本発明は色相・彩度の算出方法をこれに限定するものではない。例えば、L*a*b*空間などの他の空間に一度変換してからL*a*b*空間での色相・彩度を算出してもよい。
【0045】
また、上記実施形態では、信号分割部110が8×8ブロックに画像信号を分割する例を説明したが、画像中の色分布に応じて鮮やかなシーンの判別を制御する構成であれば、どのような分割数であってもかまわない。また、画素単位での色相・彩度情報から色分布の広がりを判断する構成であっても構わない。
【0046】
また、上記実施形態では、色相ヒストグラムの度数がゼロではない階級の数(色相数)を、画像中の色分布の広がりの度合いを表す指標として用いる場合で説明したが、画像中の色分布の広がりの度合いを検出する方法であれば、どのような方法を用いても構わない。例えば、色相ヒストグラムのピーク付近の度数が全体に占める割合を指標として用いても良い。また、色相ヒストグラムのピークの幅を指標として用いても良い。さらには、図4(a)のような色差平面において、彩度閾値以上の領域に存在する値の分散値をそれぞれ求めることで色分布の広がりの度合いを算出することもできる。このように、色相分布から色分布の広がり度合いを検出する方法としてはいろいろなものが適用できる。
【0047】
また、上記実施形態では、鮮やかなシーンであるか否かの判別を平均彩度値と高彩度ブロック数の2つの情報を元に行ったが、鮮やかなシーンの判別方法をこれに限定するものではない。例えば、画像中で最も彩度が高い領域での彩度情報に基づいて鮮やかなシーンの判別を行っても良い。
【0048】
また、上記実施形態では、色相数が閾値以上である場合と、閾値より少ない場合とのそれぞれに対して判別閾値を設定したが、本発明は判別閾値の設定の仕方をこれに限定するものではない。例えば、色相数が多くなるほど、判別閾値が低くなるように連続的な値を算出し設定する方法を用いても良い。また、平均彩度の閾値のみ、又は、高彩度ブロック数の閾値のみを変更するようにしても良い。
【0049】
また、上記実施形態では、鮮やかなシーンであるか否かの判別結果に基づき、色差信号にかけるゲインを制御する場合について説明した。しかし、鮮やかなシーンであるか否かに基づき色信号、もしくは輝度信号を補正する制御であればどのような制御を行ってもかまわない。
【0050】
また、上記実施形態では、鮮やかなシーンであるか否かの2値で判別したが、鮮やか度合い等のように多値で算出しても構わない。この場合、平均彩度が高ければ高いほど、また、彩度が閾値以上のブロック数が多ければ多いほど鮮やか度合いが高くなる。または、色相数が多いほど鮮やか度合いを高くする。そして、算出した鮮やか度合いに基づき、色差信号補正部108の信号を補正する(鮮やか度合いが高いほど色差信号にかけるゲインを高くする)。
【0051】
また、本実施形態では、鮮やかなシーンであると判別された画像データに対して彩度を上げ、鮮やかさを強調する処理について述べたが、これに限らず、鮮やかなシーンに対して逆に彩度を下げ、鮮やかさを抑えるような処理にも適用することができる。この場合、例えばG1<G2≦1のようにゲインを設定してやるとよい。
【0052】
(第2の実施形態)
第1の実施形態では、色分布の広がりに応じて、シーンの判別閾値を制御する場合について説明した。
【0053】
第2の実施形態では、色分布の広がりに応じて、彩度を補正し、補正後の彩度情報に基づいて、鮮やかなシーンか否かの判別を行う処理について説明する。
【0054】
図7に本実施形態に係る撮像装置の主要な構成を示した。図1に示した構成要素と同様の構成要素には同一の符号を付し、その詳細な説明は省略する。本実施形態では、彩度補正部701が新たに追加されている。彩度補正部701は、色相・彩度算出部111が算出した彩度(Chroma)に後述する彩度ゲイン(G_Chroma)を乗算し、補正後の彩度(Chroma’)を算出する。
【0055】
シーン判別制御部115は、色相ヒストグラム生成部112が算出した色相数に基づいて、彩度ゲイン(G_Chroma)(補正量)を算出する。図8の縦軸は彩度ゲインを表しており、横軸は色相数である。図中のP801は予め設定された色相数の上限値とその時の彩度ゲイン設定値を表す。同様に、P802は予め設定された色相数の下限値とその時の彩度ゲイン設定値を表す。L801は、P801とP802により定められる色相数と彩度ゲインの関係を表す。L801は、色相数が多い(第1の状態)場合には小さいゲイン(第1の補正量)、色相数が少ない(第2の状態)場合には、大きいゲイン(第2の補正量)となるように設定されている。図に示したように色相数が多いほど彩度ゲインが大きな値となるように設定されている。シーン判別制御部115は、L801で表される特性と、入力された色相数に基づいて、彩度ゲイン(G_Chroma)(補正量)を決定する。その後、シーン判別制御部115は、算出した彩度ゲインを彩度補正部701へ出力する。
【0056】
また、シーン判別制御部115は予め設定されたシーン判別に用いる閾値、すなわち、平均彩度閾値(Th_Chroma)と高彩度ブロック数閾値(Th_Area)をシーン判別部114へ出力する。
【0057】
彩度補正部701は、色相・彩度算出部111より出力されたブロック毎の彩度(Chroma)に彩度ゲイン(G_Chroma)(補正量)を乗じて、補正後の彩度(Chroma’)を算出し、シーン判別部114へ出力する。この補正処理は、図2に示した8×8の全てのブロックに対して順次、行われる。
【0058】
次にシーン判別部114が入力された補正後の彩度(Chroma’)に基づいてシーンの判別処理を行う。ここでの判別処理には、第1の実施形態とは違って、画像データの色相数によらず同じ閾値(Th_Chroma、Th_Area)が用いられる。判別処理及びこの後のカメラ制御部113による補正処理の内容は、第1の実施形態の場合と同様であるため、ここではその詳細な説明は省略する。
【0059】
以上、説明したように、本発明では、鮮やかなシーンか否かを判別し、判別結果に応じて画像処理を制御する画像処理装置において、色分布の広がり度合いに応じてシーンの判別を制御した。具体的には、色相数に応じて彩度ゲインを算出し、その彩度ゲインを乗じた後の彩度データに基づいて鮮やかなシーンか否かの判別を行うようにした。
【0060】
これにより、画像中に含まれるそれぞれの色の彩度が同じであっても、色相数が多い場合は、色相数が少ない場合に比べて鮮やかなシーンと判別されやすくなり、人間の知覚により近い鮮やかなシーンの判別を行うことが可能となる。
【0061】
なお、上記実施形態では、彩度ゲインの算出方法を、予め設定された設定値と色相数に基づいて算出する方法で説明したが、本発明は彩度の補正方法をこれに限定するものではない。例えば、予め2通りの設定値を設定しておき、色相数が所定の閾値より多いか少ないかに応じて、どちらか一方の設定値を彩度ゲインとして用いるようにしても良い。すなわち、色相数が多いほど、彩度が高く補正されるような方法であれば、どのような方法を用いても構わない
(第3の実施形態)
第2の実施形態では、色分布の広がりに応じて、彩度に対する補正処理を制御する場合について説明した。
【0062】
第3の実施形態では、色分布の広がりと彩度情報に基づいて、鮮やかなシーンか否かの判別を行う場合について説明する。
【0063】
本実施形態の撮像装置の構成は、図1に示した第1の実施形態の場合と同様であるため、ここでは詳しい説明は省略する。
【0064】
ここでは図9の(a)、(b)のような画像についてシーンの判別を行う場合を例に取り、説明する。図9の(a)は、単色の鮮やかなシーンと判定されるような彩度の高い花を撮影した場合を表している。一方、(b)において、901は被写体人物の背景に位置する壁であり、彩度が高く、一様な色をしている。このような場合、(a)の画像の花と、(b)の画像の背景部分とが同じ彩度であっても、(b)のような状況では、ユーザは鮮やかな画像を撮影しようとは意図していない場合がある。このように単色の鮮やかなシーンであっても、ユーザが鮮やかなシーンとして撮影したくないという意図を汲み取ることができる処理を本実施形態では行う。
【0065】
図9(a)、(b)の画像に対して第1、第2の実施形態と同様の方法で生成した色相ヒストグラムを、それぞれ図10(a)、(b)に示した。単色で鮮やかな花の画像である図9(a)の画像は、ある度数の色相の付近に多少の広がりを持って分布していることが分かる。これに対して図9(b)の画像では、背景部分のみが色相ヒストグラムに含まれ、背景部分は一様に塗られているため、図9(b)に対する色相数は、図9(a)に比べて低い値となる。ここでは図10(a)、(b)の色相ヒストグラムに対する色相数は、それぞれ8、2となるとする。
【0066】
このようにユーザが鮮やかに撮りたいと意図しない画像では、同じ単色の鮮やかなシーンであっても、さらに色相数が少ない傾向にある。そこでこのようなシーンを鮮やかなシーンとして判別せずに除外するステップを追加する。
【0067】
上述した除外処理のステップを行うシーン判別制御部115の処理内容について、図11のフローチャートを参照しながら説明する。本実施形態では、これらの処理が第1の実施形態で説明したステップS302の鮮やか分類処理として行われる。
【0068】
ステップS1101では、シーン判別制御部115が、色相ヒストグラム生成部112により算出された色相数を所定の閾値と比較する。色相数が所定の閾値以上であれば、ステップS1102へ進み、所定の閾値より少なければステップS1103へ進む。ここでの閾値は、第1の実施形態において、図5を用いて説明したカラフルの鮮やかなシーンと単色の鮮やかなシーンとの判別の際に用いた閾値よりも小さい値に設定する。ここでは、閾値を3とした場合で説明する。
【0069】
ステップS1102では、第1の実施形態と同様に、色相数を所定の閾値と比較して現在のシーンがカラフルの鮮やかなシーンである可能性があるか単色の鮮やかなシーンである可能性があるかを判別し、その結果に応じてシーン判別の閾値を決定する。すなわち、色相数が閾値以上である場合は、Th_Area(カラフル)とTh_Chroma(カラフル)の値をシーン判別部114へ出力する。逆に色相数が閾値未満である場合には、Th_Area(単色)とTh_Chroma(単色)の値をシーン判別部114へ出力する。シーン判別部114その後、シーン判別制御部115は、シーン判別部114へシーンの判別を行うよう指示する。
【0070】
ステップS1103では、シーン判別制御部115が、現在のシーンを鮮やかとは判別しないようにシーン判別部114へ指示する。
【0071】
次に、シーン判別部114が行うシーン判別処理について、図12のフローチャートを参照しながら説明する。
【0072】
ステップS1201では、シーン判別部114が、シーンの判別処理を行うか否かを判断する。すなわち、シーン判別制御部115がシーン判別処理を行うよう指示した場合には、ステップS1202へ進み、シーン判別処理を実行する。シーン判別制御部115がシーン判別処理を行わないよう指示した場合には、ステップS1206へ進む。
【0073】
したがって、図9(a)のような画像が入力された場合には、ステップS1202以降で所定の判別閾値に基づいて鮮やかなシーンか否かの判別が行われる。一方、図9(b)のような画像が入力された場合には、ステップS1206に進み、鮮やかなシーンとは判別されないこととなる。
【0074】
ステップS1202〜ステップS1204でのシーン判別処理は、第1の実施形態における図6のステップS601〜ステップS603での処理内容と同様であるため、ここでは詳細な説明は省略する。ステップS1204での判別条件が満たされた場合にはステップS1205へ進み、現在のシーンを鮮やかと判別する。判別条件が満たされなかった場合にはステップS1206へ進み、現在のシーンは鮮やかではないと判別する。
【0075】
ステップS1207では、シーン判別部114が、シーン判別結果の情報をカメラ制御部113へ出力する。以上が、シーン判別部114が行う処理内容である。
【0076】
カメラ制御部113は、シーン判別部114で判別されたシーン判別結果の情報に基づいて色差信号補正部108のパラメータを制御する。本実施形態では、前述の色差信号補正部108の彩度ゲインGを制御する。彩度ゲインGとしてG1、G2というパラメータがあり、G1>G2(G1、G2は1以上)という関係である。ここで、シーンを鮮やかと判別した場合はG1を、鮮やかなシーンではないと判別した場合はG2を、彩度ゲインとして設定する。即ち、鮮やかなシーンでは、色差信号に対するゲインをより高くすることで、彩度を強調した画像に補正する。
【0077】
以上、説明したように、本発明では、鮮やかなシーンか否かを判別し、判別結果に応じて画像処理を制御する画像処理装置において、色分布の広がりに応じてシーンの判別を制御した。具体的には、色相数が所定の閾値より少ない場合には、鮮やかなシーンとは判別しないように制御した。
これにより、有彩色で一様に塗られた壁を背景として撮影した場合など、彩度は高いがユーザが鮮やかな被写体を撮影しようと意図していないシーンを判別することが可能となり、人間の知覚により近い鮮やかなシーンの判別を行うことが可能となる。
【0078】
以上、本発明の好ましい実施形態について説明したが、本発明はこれらの実施形態に限定されず、その要旨の範囲内で種々の変形及び変更が可能である。
【0079】
なお、上記実施形態では、色相の広がりと彩度情報に基づいて鮮やかと判別するか否かを制御したが、本発明は、シーン判別の制御方法をこれに限定するものではない。ユーザの意図としては、彩度あるいは輝度の分布の広がり度合いが小さいものも、鮮やかに写したい被写体ではない場合が多い。そこで、色相ヒストグラム生成部112において、色相ヒストグラムと併せて彩度彩度分布または輝度輝度分布を生成する。それらの広がりが所定の閾値より狭い場合に、シーンを鮮やかと判別しないようにすることで、よりユーザの意図を反映した制御とすることもできる。
【0080】
(第4の実施形態)
第3の実施形態では、鮮やかなシーンの判別に、色分布の広がりの情報を用いる場合について説明した。具体的には、画像中の色相数が所定の閾値より少ない場合には、鮮やかなシーンとは判別しないように制御した。
【0081】
第4の実施形態では、画像中の特定の領域における色分布に応じて、鮮やかなシーンの判別を制御する場合について説明する。
【0082】
図13に本実施形態に係る撮像装置の主要な構成を示した。図1に示した構成要素と同様の構成要素には同一の符号を付し、その詳細な説明は省略する。本実施形態では、図1に比べて、背景抽出部1301が新たに追加されている。
【0083】
背景抽出部1301は、画像中の背景の領域を抽出し、その位置や範囲の情報を色相ヒストグラム生成部112へ出力する。
【0084】
次に、第4の実施形態に関る撮像装置の処理動作について説明する。
【0085】
被写体像がレンズ101へ入射してから色相・彩度算出部111においてブロック毎の色相・彩度が算出されるまでの一連の処理は、第1の実施形態と同様であるため、ここではその詳細な説明は省略する。
【0086】
本実施形態では、色相ヒストグラム生成部112が、画像中の背景部分のみを用いて色相ヒストグラムを生成する点が上述の実施形態と異なる。
【0087】
これを行うために、本実施形態では、背景抽出部1301が画像中の背景部分を抽出する。具体的には、背景抽出部1301は、公知の顔認識処理を用いて、画像内の人物の顔を検出し、その位置やサイズを算出する。この算出結果に基づいて、背景抽出部1301は、画像中の人物を含む被写体領域と、それ以外の背景領域とに画像を区分する。その後、背景抽出部1301は、信号分割部110に設定されている8×8に画像を分割したブロックの位置やサイズの情報を用いて、背景領域と重複しているブロックを抽出する。図14に上述の方法により背景領域にあたるブロックを抽出した画像の例を示した。図14において、斜線で塗りつぶされているブロックが背景領域として抽出されたブロックを表す。背景抽出部1301は、このブロックの位置を、背景領域の情報として色相ヒストグラム生成部112へ出力する。
【0088】
次に、本実施形態における色相ヒストグラム生成部の処理動作について説明する。第1の実施形態の場合と同様に、色相ヒストグラム生成部112は色相ヒストグラムを生成した後、色相数を算出してシーン判別制御部115へ出力する。ただし、色相ヒストグラム生成部112は、図14で説明した背景領域として区分されたブロックのみを用いて色相ヒストグラムを生成する。
【0089】
これ以降の処理、すなわち、シーン判別制御部115によるシーン判別の制御、シーン判別部114によるシーン判別処理、及び、カメラ制御部113による色相補正処理は、第3の実施形態と同様であるため、ここではその詳細な説明は省略する。
【0090】
以上、説明したように、本発明では、鮮やかなシーンか否かを判別し、判別結果に応じて画像処理を制御する画像処理装置において、背景領域の色分布の広がりに応じてシーンの判別を制御した。具体的には、背景領域に含まれる色相数が所定の閾値より少ない場合には、鮮やかなシーンとは判別しないように制御した。
【0091】
これにより、有彩色で一様に塗られた壁を背景として撮影した場合など、彩度は高いがユーザが鮮やかな被写体を撮影しようと意図していないシーンを判別することが可能となり、人間の知覚や意図により近い鮮やかなシーンの判別を行うことが可能となる。
【0092】
なお、上記実施形態では、背景領域の抽出を公知の顔認識技術を用いる方法を用いて行う場合について説明したが、本発明は、背景の抽出方法をこれに限定するものではない。例えば、撮影時に合焦状態にあった領域である焦点検出領域の位置を取得し、その位置に基づいて背景を抽出しても良い。この場合、主要な被写体は焦点検出領域、及び、その周囲に存在すると考えられるため、画像領域から焦点検出領域、及び、その周囲を除いた領域を背景として抽出すれば良い。
【0093】
(他の実施形態)
本発明の目的は以下のようにしても達成できる。すなわち、前述した各実施形態の機能を実現するための手順が記述されたソフトウェアのプログラムコードを記録した記憶媒体を、システムまたは装置に供給する。そしてそのシステムまたは装置のコンピュータ(またはCPU、MPU等)が記憶媒体に格納されたプログラムコードを読み出して実行するのである。
【0094】
この場合、記憶媒体から読み出されたプログラムコード自体が本発明の新規な機能を実現することになり、そのプログラムコードを記憶した記憶媒体およびプログラムは本発明を構成することになる。
【0095】
また、プログラムコードを供給するための記憶媒体としては、例えば、フレキシブルディスク、ハードディスク、光ディスク、光磁気ディスクなどが挙げられる。また、CD−ROM、CD−R、CD−RW、DVD−ROM、DVD−RAM、DVD−RW、DVD−R、磁気テープ、不揮発性のメモリカード、ROM等も用いることができる。
【0096】
また、コンピュータが読み出したプログラムコードを実行可能とすることにより、前述した各実施形態の機能が実現される。さらに、そのプログラムコードの指示に基づき、コンピュータ上で稼動しているOS(オペレーティングシステム)等が実際の処理の一部または全部を行い、その処理によって前述した各実施形態の機能が実現される場合も含まれる。
【0097】
更に、以下の場合も含まれる。まず記憶媒体から読み出されたプログラムコードが、コンピュータに挿入された機能拡張ボードやコンピュータに接続された機能拡張ユニットに備わるメモリに書き込まれる。その後、そのプログラムコードの指示に基づき、その機能拡張ボードや機能拡張ユニットに備わるCPU等が実際の処理の一部または全部を行う。
【産業上の利用可能性】
【0098】
本実施形態では、本発明を適用できる画像処理装置として、撮像装置を例として説明したが、これに限らない。撮像装置の中でも、静止画、動画の撮影が行えるものどちらにも適用可能であるし、外部から画像データを取得して処理を行うプリンタなどの画像形成装置や、パーソナルコンピュータなどの情報処理装置でも、本発明は適用できる。
【符号の説明】
【0099】
105 輝度・色信号生成部
106 WB増幅部
107 色差信号生成部
108 色差信号補正部(画像処理手段)
109 エンコーダ
110 信号分割部
111 色相・彩度算出部
112 色相ヒストグラム生成部(色分布情報算出手段)
113 カメラ制御部
114 シーン判別部
115 シーン判別制御部
【特許請求の範囲】
【請求項1】
画像データを取得する取得ステップと、
前記画像データの色相分布を生成する生成ステップと、
前記色相分布における色分布の広がり度合いに応じた判別条件が設定され、該判別条件で、前記画像データの画像が鮮やかなシーンであるか否かを判別する判別ステップと、
前記判別ステップでの判別結果を出力する出力ステップと、を有することを特徴とする画像処理方法。
【請求項2】
前記判別ステップでは、前記色相分布における色分布の広がり度合いが小さいほど、対応する前記判別条件として、鮮やかなシーンと判別しにくくなる条件が設定されることを特徴とする請求項1に記載の画像処理方法。
【請求項3】
前記判別条件は、前記画像データの彩度が所定値より高い場合、鮮やかなシーンであると判別するものであり、
前記所定値は、前記色相分布が第1の状態であった場合には第1の彩度閾値、前記色相分布が、前記第1の状態よりも色分布の広がりの度合いが小さい第2の状態である場合には、前記第1の彩度閾値よりも値の大きい第2の彩度閾値であることを特徴とする請求項1または2に記載の画像処理方法。
【請求項4】
前記判別条件は、前記画像データの画像全体を複数のブロックに分割し、第2の彩度閾値より大きい彩度であるブロックの数が所定数より多い場合、鮮やかなシーンであると判別するものであり、
前記所定数は、前記色相分布が第1の状態であった場合には第1のブロック閾値、前記色相分布が、前記第1の状態よりも色分布の広がりの度合いが小さい第2の状態である場合には、前記第1のブロック閾値よりも値の大きい第2のブロック閾値であることを特徴とする請求項1乃至3のいずれか1つに記載の画像処理方法。
【請求項5】
前記判別条件は、前記画像データの彩度を前記色分布の広がり度合いに応じて補正し、前記補正された前記画像データの彩度を用いて鮮やかなシーンであるか否かを判別するものであり、
前記画像データの彩度の補正量は、前記色分布が第1の状態であった場合には第1の補正量、前記色分布が、前記第1の状態よりも広がりの度合いが小さい第2の状態である場合には、前記第1の補正量よりも値の大きい第2の補正量であることを特徴とする請求項1または2に記載の画像処理方法。
【請求項6】
前記生成手段によって生成される色相分布は色相ヒストグラムであり、
前記色相分布における色分布の広がり度合いは、前記色相ヒストグラムの、第3の彩度閾値より彩度の大きい色相の数に対応することを特徴とする請求項1乃至5のいずれか1つに記載の画像処理方法。
【請求項7】
前記生成手段によって生成される色相分布は色相ヒストグラムであり、
前記色相分布における色分布の広がり度合いは、前記色相ヒストグラムの度数がゼロでない色相数、前記色相ヒストグラムのピークに含まれる度数が全体に占める割合、前記色相ヒストグラムのピークの幅のいずれかに対応することを特徴とする請求項1乃至5のいずれか1つに記載の画像処理方法。
【請求項8】
前記判別条件は、前記画像データの彩度分布または輝度分布の分布の広がり度合いが狭いほど、前記画像データの画像が鮮やかなシーンであると判別しにくくなるものであることを特徴とする請求項1乃至7のいずれか1つに記載の画像処理方法。
【請求項9】
前記画像データの主要な被写体が存在する領域を除外した背景領域を抽出する抽出ステップを有し、
前記背景領域のみを用いて、前記色分布の広がり度合いを算出することを特徴とする請求項1乃至8のいずれか1つに記載の画像処理方法。
【請求項10】
請求項1乃至9のいずれか1つに記載の画像処理方法の手順が記述されたコンピュータで実行可能なプログラム。
【請求項11】
請求項1乃至9のいずれか1つに記載の画像処理方法の手順が記述されたプログラムが記憶されたコンピュータが読み取り可能な記憶媒体。
【請求項12】
画像データを取得する取得手段と、
前記画像データの色相ヒストグラムを生成する生成手段と、
前記色相ヒストグラムにおける色分布の広がり度合いに応じた判別条件が設定され、該判別条件で、前記画像データの画像が鮮やかなシーンであるか否かを判別する判別手段と、
前記判別ステップでの判別結果に応じて、画像データの彩度補正を行う補正手段とを有することを特徴とする画像処理装置。
【請求項13】
被写体を撮像し、画像データを出力する撮像手段と、
前記画像データの色相ヒストグラムを生成する生成手段と、
前記色相ヒストグラムにおける色分布の広がり度合いに応じた判別条件が設定され、該判別条件で、前記画像データの画像が鮮やかなシーンであるか否かを判別する判別手段と、
前記判別ステップでの判別結果に応じて、画像データの彩度補正を行う補正手段と、を有することを特徴とする撮像装置。
【請求項1】
画像データを取得する取得ステップと、
前記画像データの色相分布を生成する生成ステップと、
前記色相分布における色分布の広がり度合いに応じた判別条件が設定され、該判別条件で、前記画像データの画像が鮮やかなシーンであるか否かを判別する判別ステップと、
前記判別ステップでの判別結果を出力する出力ステップと、を有することを特徴とする画像処理方法。
【請求項2】
前記判別ステップでは、前記色相分布における色分布の広がり度合いが小さいほど、対応する前記判別条件として、鮮やかなシーンと判別しにくくなる条件が設定されることを特徴とする請求項1に記載の画像処理方法。
【請求項3】
前記判別条件は、前記画像データの彩度が所定値より高い場合、鮮やかなシーンであると判別するものであり、
前記所定値は、前記色相分布が第1の状態であった場合には第1の彩度閾値、前記色相分布が、前記第1の状態よりも色分布の広がりの度合いが小さい第2の状態である場合には、前記第1の彩度閾値よりも値の大きい第2の彩度閾値であることを特徴とする請求項1または2に記載の画像処理方法。
【請求項4】
前記判別条件は、前記画像データの画像全体を複数のブロックに分割し、第2の彩度閾値より大きい彩度であるブロックの数が所定数より多い場合、鮮やかなシーンであると判別するものであり、
前記所定数は、前記色相分布が第1の状態であった場合には第1のブロック閾値、前記色相分布が、前記第1の状態よりも色分布の広がりの度合いが小さい第2の状態である場合には、前記第1のブロック閾値よりも値の大きい第2のブロック閾値であることを特徴とする請求項1乃至3のいずれか1つに記載の画像処理方法。
【請求項5】
前記判別条件は、前記画像データの彩度を前記色分布の広がり度合いに応じて補正し、前記補正された前記画像データの彩度を用いて鮮やかなシーンであるか否かを判別するものであり、
前記画像データの彩度の補正量は、前記色分布が第1の状態であった場合には第1の補正量、前記色分布が、前記第1の状態よりも広がりの度合いが小さい第2の状態である場合には、前記第1の補正量よりも値の大きい第2の補正量であることを特徴とする請求項1または2に記載の画像処理方法。
【請求項6】
前記生成手段によって生成される色相分布は色相ヒストグラムであり、
前記色相分布における色分布の広がり度合いは、前記色相ヒストグラムの、第3の彩度閾値より彩度の大きい色相の数に対応することを特徴とする請求項1乃至5のいずれか1つに記載の画像処理方法。
【請求項7】
前記生成手段によって生成される色相分布は色相ヒストグラムであり、
前記色相分布における色分布の広がり度合いは、前記色相ヒストグラムの度数がゼロでない色相数、前記色相ヒストグラムのピークに含まれる度数が全体に占める割合、前記色相ヒストグラムのピークの幅のいずれかに対応することを特徴とする請求項1乃至5のいずれか1つに記載の画像処理方法。
【請求項8】
前記判別条件は、前記画像データの彩度分布または輝度分布の分布の広がり度合いが狭いほど、前記画像データの画像が鮮やかなシーンであると判別しにくくなるものであることを特徴とする請求項1乃至7のいずれか1つに記載の画像処理方法。
【請求項9】
前記画像データの主要な被写体が存在する領域を除外した背景領域を抽出する抽出ステップを有し、
前記背景領域のみを用いて、前記色分布の広がり度合いを算出することを特徴とする請求項1乃至8のいずれか1つに記載の画像処理方法。
【請求項10】
請求項1乃至9のいずれか1つに記載の画像処理方法の手順が記述されたコンピュータで実行可能なプログラム。
【請求項11】
請求項1乃至9のいずれか1つに記載の画像処理方法の手順が記述されたプログラムが記憶されたコンピュータが読み取り可能な記憶媒体。
【請求項12】
画像データを取得する取得手段と、
前記画像データの色相ヒストグラムを生成する生成手段と、
前記色相ヒストグラムにおける色分布の広がり度合いに応じた判別条件が設定され、該判別条件で、前記画像データの画像が鮮やかなシーンであるか否かを判別する判別手段と、
前記判別ステップでの判別結果に応じて、画像データの彩度補正を行う補正手段とを有することを特徴とする画像処理装置。
【請求項13】
被写体を撮像し、画像データを出力する撮像手段と、
前記画像データの色相ヒストグラムを生成する生成手段と、
前記色相ヒストグラムにおける色分布の広がり度合いに応じた判別条件が設定され、該判別条件で、前記画像データの画像が鮮やかなシーンであるか否かを判別する判別手段と、
前記判別ステップでの判別結果に応じて、画像データの彩度補正を行う補正手段と、を有することを特徴とする撮像装置。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【公開番号】特開2011−135510(P2011−135510A)
【公開日】平成23年7月7日(2011.7.7)
【国際特許分類】
【出願番号】特願2009−295434(P2009−295434)
【出願日】平成21年12月25日(2009.12.25)
【出願人】(000001007)キヤノン株式会社 (59,756)
【Fターム(参考)】
【公開日】平成23年7月7日(2011.7.7)
【国際特許分類】
【出願日】平成21年12月25日(2009.12.25)
【出願人】(000001007)キヤノン株式会社 (59,756)
【Fターム(参考)】
[ Back to top ]