画像処理方法、画像処理装置、及び撮像装置
【課題】 入力された画像が鮮やかなシーンであるかの判別を、より人間の知覚に近づけることができる画像処理装置を提供すること。
【解決手段】 画像データを取得する画像取得ステップと、前記画像データの色相情報及び輝度情報の少なくとも1つに基づいて、前記画像データの彩度情報を補正する第1の補正ステップと、前記第1の補正ステップで補正された彩度情報から、前記画像データの画像が鮮やかなシーンであるか否かを判別する判別ステップと、前記判別ステップでの判別結果を出力する出力ステップと、を有することを特徴とする。
【解決手段】 画像データを取得する画像取得ステップと、前記画像データの色相情報及び輝度情報の少なくとも1つに基づいて、前記画像データの彩度情報を補正する第1の補正ステップと、前記第1の補正ステップで補正された彩度情報から、前記画像データの画像が鮮やかなシーンであるか否かを判別する判別ステップと、前記判別ステップでの判別結果を出力する出力ステップと、を有することを特徴とする。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、入力された画像のシーンを判別し、判別したシーンに応じた画像処理を行う画像処理方法、画像処理装置及び撮像装置に関するものである。
【背景技術】
【0002】
従来、画像のシーンや被写体の種類を判別し、判別したシーン(被写体の種類)に応じた画像処理を行う画像処理装置があった。
【0003】
例えば、特許文献1では、入力された画像データが鮮やかなシーン(被写体)であるか判別し、鮮やかなシーンの画像は高解像度で出力する画像出力装置が開示されている。
【先行技術文献】
【特許文献】
【0004】
【特許文献1】特開2000−259372号公報
【発明の概要】
【発明が解決しようとする課題】
【0005】
上述の特許文献に開示された従来技術では、彩度の高い画素が所定の閾値よりも多いか否かで鮮やかなシーンであるか判別していた。
【0006】
しかしながら、人間の色感度や自然界の被写体の分布によって、同じ彩度であっても色味によっては鮮やかな被写体と感じやすい色と感じにくい色がある。そのため、全ての色に対して一律の彩度の閾値で処理してしまうと、画面全体に草が写っているような鮮やかな被写体と感じにくいシーンでも鮮やかなシーンと判定してしまうという課題があった。
【0007】
そこで、本発明の目的は、入力された画像が鮮やかなシーンであるかの判別を、より人間の感覚に近づけることができる画像処理装置を提供することである。
【課題を解決するための手段】
【0008】
上記目的を達成するために、本発明の画像処理方法は、請求項1に記載の通り、画像データを取得する画像取得ステップと、前記画像データの色相情報及び輝度情報の少なくとも1つに基づいて、前記画像データの彩度情報を補正する第1の補正ステップと、前記第1の補正ステップで補正された彩度情報から、前記画像データの画像が鮮やかなシーンであるか否かを判別する判別ステップと、前記判別ステップでの判別結果に応じて、画像データの彩度補正を行う第2の補正ステップと、を有することを特徴とする。
【0009】
また、本発明の画像処理装置は、請求項11に記載の通り、画像データを取得する取得手段と、前記画像データの色相情報及び輝度情報の少なくとも1つに基づいて、前記画像データの彩度情報を補正する第1の補正手段と、前記第1の補正手段で補正された彩度情報から、前記画像データの画像が鮮やかなシーンであるか否かを判別する判別手段と、前記判別手段での判別結果に応じて、前記画像データの彩度補正を行う第2の補正手段と、を有することを特徴とする。
【0010】
また、本発明の撮像装置は、請求項12に記載の通り、被写体を撮像し、画像データを出力する撮像手段と、前記画像データの色相情報及び輝度情報の少なくとも1つに基づいて、前記画像データの彩度情報を補正する第1の補正手段と、前記第1の補正手段で補正された彩度情報から、前記画像データの画像が鮮やかなシーンであるか否かを判別する判別手段と、前記判別手段での判別結果に応じて、前記画像データの彩度補正を行う第2の補正手段と、を有することを特徴とする。
【発明の効果】
【0011】
本発明によれば、入力画像の色相、輝度に応じて彩度を補正することで、より人間の感覚に近づけた、鮮やかなシーンであるかの判別を行うことができる。
【図面の簡単な説明】
【0012】
【図1】第1の実施形態の構成を示すブロック図である。
【図2】画像信号のブロック分割を示す図である。
【図3】第1の実施形態の彩度補正部の処理を示すフローチャートである。
【図4】第1の実施形態の彩度補正部の特性を示すグラフである。
【図5】シーン判別部の処理を示すフローチャートである。
【図6】シーン判別部のシーン判別の特性を示すグラフである。
【図7】第2の実施形態の彩度補正部の処理を示すフローチャートである。
【図8】第2の実施形態の彩度補正部の処理の例を示す図である。
【図9】第2の実施形態の彩度補正部の特性を示すグラフである。
【図10】第3の実施形態の構成を示すブロック図である。
【図11】第3の実施形態の彩度補正部の処理を示すフローチャートである。
【図12】第3の実施形態の彩度補正部の特性を示すグラフである。
【発明を実施するための形態】
【0013】
(第1の実施形態)
以下、図1〜図6を参照して、第1の実施形態による、画像処理装置の一例である撮像装置について説明する。
【0014】
図1は撮影した画像のシーンを検出する機能を備え、シーンに応じた画像補正処理を行う撮像装置の構成を示すブロック図である。
【0015】
図1の各ブロックについて説明する。図1において、101は被写体の光束を結像するレンズである。102はレンズからの光束を撮像素子に導く際に絞る絞りである。103は入射された光束を光電変換して画像信号として出力する撮像素子である。104は撮像素子103からの信号を適正レベルに増幅するオートゲインコントロールアンプ(AGC)である。
【0016】
105は輝度・色信号生成部であり、撮像素子103で生成された信号を輝度信号(Y)及び色信号(R,G,B)に変換する。106はホワイトバランス増幅部であり、輝度・色信号生成部105から出力される色信号(R,G,B)をホワイトバランスゲインに従って増幅し、増幅色信号(R’,G’,B’)を生成する。107は色差信号生成部であり、色差信号(R’−Y,B’−Y)を生成する。108は、色差信号に対してゲインをかけるなどの補正を行う色差信号補正部、109は標準テレビ信号等に変換するエンコーダである。
【0017】
110は信号分割部であり、輝度信号(Y)、色差信号(R−Y,B−Y)を所定の小ブロックに分割する。111は、色差信号(R−Y,B−Y)から色相、彩度信号(Hue,Chroma)を算出する色相・彩度算出部、112は撮像システム全体を制御するカメラ制御部であり、図示していないが撮像装置中の各部に指示を送り、処理を行わせることができる。113は入力画像のシーンを判別するシーン判別部、114は彩度値を補正する彩度補正部である。
【0018】
次に、図1の撮像装置の撮影動作について説明する。撮像素子103に入射した光は、光電変換され、AGCアンプ104で適正レベルに増幅された後、輝度・色信号生成部105に出力される。輝度・色信号生成部105では、撮像素子103で結像した画像信号から輝度信号(Y)及び色信号(R,G,B)を生成し、このうち色信号(R,G,B)をホワイトバランス増幅部106に出力する。
【0019】
ホワイトバランス増幅部106では、カメラ制御部112によって算出されたホワイトバランスゲインに基づいて色信号(R,G,B)を増幅し、増幅した色信号(R’,G’,B’)を色差信号生成部107に出力する。色差信号生成部107では、色信号(R’,G’,B’)から色差信号(R−Y,B−Y)を生成し、色差信号補正部108及び信号分割部110に出力する。色差信号補正部108では、色差信号(R−Y,B−Y)に対して、カメラ制御部112によって算出されたゲインG(Gは1以上。ゲインの強度に関しては後述する)をかけ補正する。即ち、補正後の色差は(R−Y)’=G×(R−Y)、(B−Y)’=G×(B−Y)となる。また、補正後の色差信号(R−Y)’,(B−Y)’をエンコーダ109に出力する。
【0020】
エンコーダ109では、輝度信号(Y)及び色差信号(R−Y)’,(B−Y)’からNTSC等の標準テレビジョン信号を生成し、出力する。
【0021】
以上が、撮像時の基本的な処理である。以上の処理のうち、撮影した画像のシーンを検出し、シーンに応じた画像補正処理を行う処理の概要を示したものが図1(b)のフローチャート図である。この処理はカメラ制御部112によって、またはカメラ制御部112の指示によって各部で行われる。
【0022】
ステップS101では、色差信号生成部107から出力された画像データを色差信号補正部108に取得する(画像取得ステップ)。ステップS102では、より人間の感覚に近い判別ができるよう、画像データの特性に応じて画像データから得られる彩度に重みを付ける彩度重み決定処理を行う(第1の補正ステップ)。ステップS103では、重み付けが行われた後の彩度情報と輝度情報を用いて、得られた画像データの画像が鮮やかなシーンであるか否かの判別を行う鮮やか判別処理を行う(判別ステップ)。ステップS104では、ステップS103の判別結果に基づいて画像データの彩度を補正する鮮やか補正処理を行い(第2の補正ステップ)、処理を終了する。彩度重み決定処理、鮮やか判別処理、鮮やか補正処理の詳細については後述する。
【0023】
ここで、本実施形態では、シーン判別結果に用いた画像データに対して、その判別結果を反映させ出力しているが、発明としては特にこれに限定されるものではない。すなわち、あるフレーム(画像データ)に対する判別結果に応じた補正処理を、その次のフレーム以降に反映させることなども当然可能である。また、複数フレーム鮮やかなシーン判別結果が続いたときに初めてシーンを特定したり、複数フレーム中、鮮やかなシーンと判別された割合が高い場合にシーンを特定したりと、複数フレームの判別結果からシーンを特定することも考えられる。このとき、判別結果に応じた補正処理は、それら複数フレームや、以降のフレームに反映させることが考えられる。
【0024】
具体的に想定される状況としては、静止画撮影が可能な撮像装置や画像データに画像処理を施すPCなどの情報処理装置において、撮影された画像データ(フレーム)に対して処理を行う状況がある。また、ライブビュー表示または動画撮影が可能な撮像装置や動画に画像処理を施すPCなどの情報処理装置において、複数フレームにまたがった上記のような処理が想定される。
【0025】
また、本実施形態では、シーン判別部114によって出力された判別結果を用いて画像データに対して彩度の補正をかけているが、判別結果の利用法としてはこれに限らない。例えば、判別結果を不図示の表示手段に表示させ、ユーザに知らしめたり、画像データを保存する際に、判別結果に対応した情報をヘッダなどに付帯して、保存後に画像データの撮影されたシーンが特定できるようにしたりもできる。また、補正1つをとってみても、彩度以外を補正することで鮮やかさを強調するようにしてもよい。このような処理には例えば、輝度を上げる補正や輪郭の強調処理などが考えられる。
【0026】
次に、画像信号の特性の解析処理について説明する。信号分割部110では、画像信号を図2に示すような複数のブロック(8×8ブロック)に分割し、ブロック毎の輝度信号(Y)、色差信号(R−Y,B−Y)の平均値を算出し、色相・彩度算出部111に出力する。
【0027】
色相・彩度算出部111は色差信号(R−Y,B−Y)から各ブロックの色相情報・彩度情報を演算により取得する。色相(Hue)および彩度(Chroma)は以下の式に基づき算出する。
【0028】
【数1】
【0029】
色相・彩度算出部111は算出した各ブロックの色相(Hue)、彩度(Chroma)を彩度補正部114へ出力する。また、信号分割部110は算出した各ブロックの輝度(Y)を彩度補正部114へ出力する。
【0030】
彩度補正部114は、入力されたブロック毎の色相(Hue)および輝度(Y)に基づき彩度(Chroma)に重みをかけることで彩度を上げる方向に補正する。彩度補正部114の処理フローについて図3を用いて説明する(第1の補正ステップ)。
【0031】
図3の処理では、図2に示した8×8ブロックに対してループ処理を行う。即ち、図2の全ブロックについてステップS301〜303の処理を行う。
【0032】
ステップS301ではブロックの色相(Hue)に基づき、彩度重みの上下限を決定する。この処理について図4(a)を用いて説明する。図4(a)は色相(Hue)と彩度重み上下限の関係を示した図である。図4において、L401は重み上限値の特性、L402は重み下限値の特性を示している。図4に示した特性から、各色相値に対する重みと上限を算出することが可能である。例えば、色相がH1(赤)の時の重み下限値は1.2、重み上限値は1.4となる。図に示すとおり、人間の感覚では、色相以外のその他のパラメータが同じでも、赤の色相である場合には、青の色相である場合に比べて鮮やかと感じやすい。本実施形態では、この特性に対応するために、同じ条件下でも、色相に応じて彩度へかける重みを変えて設定し、補正を行わせている。具体的な重みのかけ方としては、波長の長短などによって規定することもできるが、本実施形態では人間の知覚特性とも照らし合わせて、経験的に色相毎の重みを設定している。
【0033】
図3に戻り、ステップS302ではステップS303で算出した重み上限値、および下限値とブロック輝度(Y)に基づき彩度重みを決定する。この処理について図4(b)を用いて説明する。図4(b)はブロックの輝度(Y)と彩度重み上下限の関係を示した図である。図4(b)において、L403はブロック輝度と重みの特性を示している。また、重み上限値W1はステップS301で算出した重み上限値、重み下限値W2はステップS301で算出した重み下限値である。例えば、前述の例のように図4(a)において色相がH1の時は図4(b)における重み上限値W1が1.4、下限値W2が1.2となる。このとき、ブロック輝度がY1の場合、最終的な重みはW1=1.4となる。図に示すとおり、人間の感覚では、輝度以外のその他のパラメータが同じでも、輝度の高い画像の場合は、輝度の低い画像である場合に比べて鮮やかと感じやすい。この特性に対応するために、同じ条件下では、輝度の高い画像(第1の輝度の第1のブロック)に対しては、その画像より輝度の低い画像(第2の輝度の第2のブロック)に比べて、彩度を上げる方向で重み穂設定して補正を行わせている。
【0034】
図3に戻り、ステップS303では、決定した彩度重みを彩度(Chroma)に乗算し、補正彩度を算出する。前述の例では、重みが1.4となるため補正後のブロック彩度(Chroma’)=1.4×Chromaとなる。
【0035】
以上が、彩度補正部114における彩度の補正処理である。以上のような彩度補正処理を図2に示した全ブロックに対して行い、補正後の彩度(Chroma’)をシーン判別部113へ出力する。また、シーン判別部113に対しては、信号分割部110から、各ブロックの輝度(Y)、色相・彩度算出部111から各ブロックの色相(Hue)、が出力される。
【0036】
シーン判別部113は、入力された、ブロック毎の輝度(Y)、色相(Hue)、補正後の彩度(Chroma’)に基づき、撮影したシーンが鮮やかなシーンであるか否かを判別する。以下では、シーン判別部113の鮮やか判別処理の流れについて図5を用いて説明する(判別ステップ)。
【0037】
図5において、ステップS501では、彩度補正部114で算出された補正後の彩度(Chroma’)を図2の全ブロックに対して平均し、平均彩度を算出する。
【0038】
ステップS502では、図2の全ブロックの中で、補正後の彩度(Chroma’)が所定の閾値以上であるブロックがいくつあるかをカウントする。
【0039】
ステップ503では、ステップS501で求めた全ブロックの平均彩度と、ステップS502で求めた彩度が閾値以上のブロック数に基づき鮮やかなシーンであるか判定する。図6は平均彩度値と彩度が閾値以上のブロック数に対する鮮やかなシーンの判定基準を示した図である。図6に示すように平均彩度が平均彩度閾値Ct(第6の閾値)より高く、かつ彩度が閾値(第4の閾値)以上のブロック数が、閾値At(第5の閾値)よりも大きいときに鮮やかなシーンであると判定する。
【0040】
以上がシーン判別部113の処理である。シーン判別部で判定した鮮やかなシーンであるか否かの情報はカメラ制御部112へ出力される。
【0041】
カメラ制御部112は、シーン判別部113で判別された鮮やかなシーンであるか否かの情報を元に色差信号補正部108のパラメータを制御する(第2の補正ステップ)。本実施形態では、前述の色差信号補正部108の色差ゲインGを制御する。色差ゲインGとしてG1、G2というパラメータがあり、G1>G2≧1という関係である。ここで、鮮やかなシーンと判別した場合は色差ゲインをG1、鮮やかなシーンではないと判別した場合は色差ゲインをG2に設定する。即ち、鮮やかなシーンと判別した場合は、鮮やかなシーンでないと判別された場合に比べて色差信号に対するゲインをより高くすることで、より彩度を上げ、鮮やかさを強調した画像に補正する。
【0042】
以上、説明したように、本実施形態では鮮やかなシーンか否かを判定し、判定結果に応じて画像処理を制御する画像処理装置において、画像信号の彩度、輝度、色相を算出し、色相および輝度の情報に基づき彩度を補正した。また、補正後の彩度を用いて鮮やかなシーンであるか否かを判別する構成とした。
【0043】
これにより、人間の感覚に応じた彩度値の補正が行え、人間の感覚により近い鮮やかなシーン判別を行うことが可能となる。
【0044】
なお、本実施形態では、輝度および色相に基づいて彩度に重みをかけたが、色相、輝度どちらかのみの情報に基づいて彩度に重みをかけてもかまわない。
【0045】
また、本実施形態では、色相・彩度を色差信号から算出したが、色相・彩度の算出方法をこれに限定するものではない。例えば、L*a*b*空間などの他の空間に一度変換してからL*a*b*空間での色相・彩度を算出してもよい。
【0046】
また、本実施形態では、信号分割部110が8×8ブロックに画像信号を分割する例を説明したが、どのような分割数であってもかまわない。また、画素単位で彩度に重みをかける構成であっても構わない。
【0047】
また、本実施形態では、鮮やかなシーンであるか否かの判別結果に基づき、色差信号にかけるゲインを制御する場合について説明したが、シーン判別結果に基づき色信号、もしくは輝度信号を補正する制御であればどのような制御を行ってもかまわない。
【0048】
また、本実施形態では、鮮やかなシーンであるか否かの判別を平均彩度値と彩度が閾値以上のブロック数の2つの情報を元に行った。しかし、鮮やかなシーンの判別方法をこれに限定するものではなく、色相、輝度によって補正した彩度情報を用いて鮮やかなシーンであるか判別する構成であればどのような構成をとっても構わない。
【0049】
また、本実施形態では、鮮やかなシーンであるか否かの2値で判定したが、鮮やか度合い等のように多値で算出しても構わない。この場合、平均彩度が高ければ高いほど、また、彩度が閾値以上のブロック数が多ければ多いほど鮮やか度合いが高くなる。そして、算出した鮮やか度合いに基づき、色差信号補正部108の信号の補正強度を制御する(鮮やか度合いが高いほど色差信号にかけるゲインを高くする)。
【0050】
また、本実施形態では、鮮やかなシーンであると判別された画像データに対して彩度を上げ、鮮やかさを強調する処理について述べたが、これに限らず、鮮やかなシーンに対して逆に彩度を下げ、鮮やかさを抑えるような処理にも適用することができる。この場合、例えばG1<G2≦1のようにゲインを設定してやるとよい。
【0051】
(第2の実施形態)
以下、図7〜9を参照して、本発明の第2の実施形態による、撮像装置について説明する。第2の実施形態では、第1の実施形態で説明した色相と輝度以外に、色の面積に応じて彩度を補正する例について説明する。
【0052】
本実施形態における撮像装置のブロック構成は図1と同様であるため、説明は省略する。本実施形態では図1における、彩度補正部114での処理内容が第1の実施形態と異なる。具体的には、彩度補正部114で算出する重みを、その色が画像データ中に占める割合、すなわち面積によって変更する。
【0053】
彩度補正部114の処理フローを図7に示す(第1の補正ステップ)。
【0054】
図7において、ステップS701では、色相ヒストグラムを生成する。色相ヒストグラムは図2に示した全ブロックにおける色相毎の度数をカウントしたものである。色相を10度単位で区切った色相ヒストグラムの例を図8(a)に示す。図8において、横軸が色相、縦軸が度数を示している。
【0055】
ステップS702では、生成した色相ヒストグラムから度数が最も高いピークの色相を検出する。図8(a)の例では色相Hp(20度〜30度)がピークの色相となる。また、Cpは色相Hpの度数を示している。
【0056】
ステップS703では、ピーク色相の度数が閾値以上(ピーク色相の画像中の面積が閾値以上)であるか判定する。図8(a)の例では、ピーク色相Hpの度数Cpが閾値(第1の閾値)以上あるか否かを判定する。閾値以上ある場合は、ステップS704へ進む。閾値未満の場合は、ステップS707へ進む。
【0057】
ステップS704では、ピークの色相を持つブロックの密集度を算出する。
密集度の算出方法について図8(b)(c)を用いて説明する。まず、全ブロックについて、ピークの色相Hp(図8(a)の例では20度〜30度)を満たすブロックであるか否かを判定しピーク色相Hpを満たすブロックにラベルをつけておく。次に、ピーク色相を持つラベルのついたブロックの上下左右ブロックが色相Hpを満たしているブロックであるか確認する。色相Hpを満たしている場合はそのブロック数をカウントする。この処理について、図8(b)を用いて具体的に説明する。図8(b)において、グレーで塗りつぶしてしているブロックが色相Hpを満たすブロックである。例えば色相Hpを満たす801のブロックについて、周辺の801(上)(下)(左)(右)について色相Hpを満たしているか確認する。この場合801(上)および801(左)が色相Hpを満たしているためブロック801のカウント数は2になる。同様に全ての色相Hpを満たすブロックについて、上下左右にある色相Hpを満たすブロックの数をカウントする。図8(b)に記載された数値は、色相Hpを満たす全てのブロックに関して周辺に色相Hpを満たすブロックの数をカウントしたものである。これらの数値を全て加算したものを密集度とする。図8(b)の例の場合、密集度は4となる。図8(c)も図8(b)と同様の例であり、この場合の密集度は32となる。このように、色相Hpを満たすブロックが固まっているほど密集度が高くなる。
【0058】
図7に戻り、ステップS705では、算出した密集度が閾値(第2の閾値)以上であるか否かを判定する。閾値以上である場合はステップS706に進み、閾値未満である場合はステップS707に進む。
【0059】
ステップS706では、色相Hpを満たす色の面積に基づき彩度重み補正度Wcを算出する。色相Hpを満たす色の面積は、色相ヒストグラムの度数Cp(図8(a))となる。
【0060】
彩度重み補正度Wcの算出について説明する。まず、色相Hpを満たすブロックの平均輝度Yaを算出する。算出した平均輝度Yaによって面積最大時の重み補正度を決定する。面積最大時の重み補正度と輝度の関係を示したグラフが図9(a)である。このグラフに従って色相Hp領域の平均輝度Ya、から面積最大時の重み補正度を算出する。図9(a)の例では、輝度がY1の時の面積最大時の重み補正度は1.2、輝度がY2の時の、面積最大時の重み補正度は0.95となる。また、平均輝度Yaが閾値Y0(第3の閾値)以上であれば重み補正度は1以上となり、彩度を上げるように重み補正が行われることになる。逆に平均輝度Yaが閾値Y0未満であれば重み補正度は1未満となり、彩度を下げるように重み補正が行われることになる。
【0061】
次に色相Hpを満たす領域の度数(面積)Cpと面積最大時の重み補正度に基づき、最終的な重み補正度Wcを決定する。面積最大時の重み補正度と面積の関係を示したグラフが図9(b)である。図9(b)のグラフに従って、最終的な重み補正度Wcを算出する。
【0062】
図9(b)において、901は面積最大時の重み補正度が1.2の時のグラフ、902は面積最大時の重み補正度が0.95の時のグラフを示している。面積が最小の場合は重みの補正度が1.0になり、面積が最大(画面全体)の場合は補正度が図9(a)で算出した値になる。
【0063】
図7に戻り、ステップS707では、面積による彩度重み補正を行わない。即ち、彩度重み補正度Wc=1.0とする。
【0064】
ステップ708では、図2に示した全ブロックに対してループ処理を行う。即ち、全てのブロックに対してステップS709〜S713の処理を行う。
【0065】
ステップS709、S710は、第1の実施形態の図3で説明したステップS302、S303と同様である。即ち、ブロック毎の色相および輝度によって、重みWfを決定する。
【0066】
ステップS711では、処理対象のブロックの色相がピーク色相Hpに含まれるか判定する。ピーク色相Hpのブロックである場合はステップS712に進み、ピーク色相のブロックでない場合はステップS713に進む。
【0067】
ステップS712では、ステップS710で算出した重みWfを補正する。具体的には、ステップS706、S707で決定した面積に基づく重み補正度Wcを重みWfに乗算することで補正する(Wf=Wc×Wf)。
【0068】
ステップS713では、彩度値に重みWfを乗算することで補正する。この処理は第1の実施形態の図3の304の処理と同様である。
【0069】
以上が、本実施形態における彩度補正部114の処理である。
【0070】
以上、説明したように、本実施形態では、画像信号の彩度、輝度、色相およびの色の面積を算出し、色相および輝度、色の面積の情報に基づき彩度を補正し、補正後の彩度を用いて鮮やかなシーンであるか否かを判別する構成とした。このように制御する理由は、ある明るい色の場合は面積が広いほどより明るく彩度が高く感じられ、逆に暗い色の場合は、面積が広いほどより暗く、彩度が低く感じるという面積効果を反映するためである。
【0071】
これにより、人間の視覚特性に応じた彩度値の補正が行え、人間の感覚により近い鮮やかなシーン判別を行うことが可能となる。
【0072】
上記実施形態では、ある色相のブロックの密集度とその面積に応じて、重みの補正度Wcを制御する例について説明したが、密集度、面積のどちらか一方の情報に基づいて重みを補正する制御を行っても構わない。
【0073】
また、上記実施形態では、ピーク色相Hpの面積によってのみ補正したが、ピーク色相以外を持つブロックも同色相を持つ面積によって彩度値を補正しても構わない。
【0074】
また、上記実施形態では、重みを面積によって補正する構成で説明したが、第1の実施形態での変形例と同様に、彩度を面積情報に基づき直接補正する構成であっても構わない。
【0075】
(第3の実施形態)
以下、図10〜12を参照して、第3の実施形態による撮像装置について説明する。
【0076】
第3の実施形態では、第1の実施形態で説明した色相と輝度以外に、被写体の動き量に応じて彩度を補正する形態について説明する。
【0077】
図10は、本実施形態の撮像装置の構成を示すブロック図である。図10において、図1と同符号のものは同じブロックであるため説明を省略する。本実施形態では図1の構成に対して、評価値メモリ1001、動き量検出部1002が追加されている。
【0078】
次に、図10に示した撮像装置の処理の流れについて説明する。画像を撮像し、エンコーダ109で出力するまでの流れは第1の実施形態と同様である。また、シーン判別部113で鮮やかなシーンであるか否かを判別し、その結果に応じてカメラ制御部112が色差信号補正部108のパラメータを制御する点も第1の実施形態と同様であるため詳細な説明は省略する。
【0079】
信号分割部110は第1の実施形態と同様に、ブロック毎の輝度信号(Y)、色差信号(R−Y,B−Y)の平均値を算出し、評価値として色相・彩度算出部111に出力する。また、輝度信号(Y)を評価値メモリ1001および、動き量検出部1002に出力する。評価値メモリ1001は、信号分割部110から出力された全ブロックの輝度信号(評価値)を記憶する。評価値メモリ1001への輝度信号(評価値)の蓄積は所定時間間隔で行われ、評価値メモリ1001は所定フレーム分の輝度信号(評価値)を記録する。
【0080】
動き量検出部1002は、信号分割部110から出力された現在の輝度信号と、評価値メモリ1001に記憶された過去の輝度信号から、ブロック単位の動き量を算出する。具体的には、各ブロックについて一定時間での輝度信号の時間的な分散値を算出し、この時間分散値を動き量とする。動き量検出部1002は、算出した全ブロックの動き量情報を彩度補正部114に出力する(動き量検出ステップ)。
【0081】
彩度補正部114は、色相と輝度、動き量に基づき彩度値を補正する。彩度補正部114の処理の流れを図11に示す(第1の補正ステップ)。
【0082】
図11においてステップS1101では図2に示した全ブロックに対してループ処理を行う。即ち、全てのブロックに対してステップS1102〜S1105の処理を行う。
【0083】
ステップS1101、S1102は、第1の実施形態の図3で説明したステップS302、S303と同様である。即ち、ブロック毎の色相および輝度によって、重みWfを決定する。
【0084】
ステップS1104では、動き量に基づき重みWfを補正する。動き量と重み補正率Wcの関係を図12に示す。図12に示すようにブロックの動き量が大きいほど重みが小さくなるように補正する。算出した重み補正率Wcを重みWfに乗算することで最終的な重みを決定する(Wf=Wc×Wf)。
【0085】
ステップS1105では、彩度値に重みWfを乗算することで補正する。この処理は第1の実施形態の図3の304の処理と同様である。
【0086】
以上が、彩度補正部114の処理である。上記のように、本実施形態では、色相、輝度だけでなく、動き量によって、彩度値を補正する構成とした。このように制御する理由は、被写体や、カメラの動きが大きい場合は、同じ彩度値の被写体であっても鮮やかな被写体と認識しにくいためである。従って、動き量に応じた彩度値の補正を行うことで、人間の感覚により近い鮮やかなシーン判別を行うことが可能となる。
【0087】
本実施形態では、画像信号の動き量に基づき彩度信号を補正することで、動きの多いシーンで鮮やかと判定し難くするようにしたが、動き情報に基づき鮮やかシーンを判定するのであれば他の構成をとることも可能である。
【0088】
例えば、動き情報に基づきシーン判別部113の鮮やか判別の閾値(図6)を変更する構成をとってもかまわない。この場合、動き量が高いほど、図6の平均彩度閾値Ctや彩度が閾値以上のブロック数閾値Atを上げる。これにより、動きの大きなシーンは鮮やかなシーンと判別しにくくなる。
【0089】
また、本実施形態では動き量が求められる方法であればどのような構成であってもかまわない。例えば、輝度信号だけでなく色信号を利用して動き量を求めてもかまわない。
【0090】
また、本実施形態では、ブロック単位の動き量を算出したが、画像全体での動き量を算出する構成であってもよい。また、ズームなどの撮像装置の光学系情報を取得して動き量算出に利用してもよい。
【0091】
(他の実施形態)
本発明の目的は以下のようにしても達成できる。すなわち、前述した各実施形態の機能を実現するための手順が記述されたソフトウェアのプログラムコードを記録した記憶媒体を、システムまたは装置に供給する。そしてそのシステムまたは装置のコンピュータ(またはCPU、MPU等)が記憶媒体に格納されたプログラムコードを読み出して実行するのである。
【0092】
この場合、記憶媒体から読み出されたプログラムコード自体が本発明の新規な機能を実現することになり、そのプログラムコードを記憶した記憶媒体およびプログラムは本発明を構成することになる。
【0093】
また、プログラムコードを供給するための記憶媒体としては、例えば、フレキシブルディスク、ハードディスク、光ディスク、光磁気ディスクなどが挙げられる。また、CD−ROM、CD−R、CD−RW、DVD−ROM、DVD−RAM、DVD−RW、DVD−R、磁気テープ、不揮発性のメモリカード、ROM等も用いることができる。
【0094】
また、コンピュータが読み出したプログラムコードを実行可能とすることにより、前述した各実施形態の機能が実現される。さらに、そのプログラムコードの指示に基づき、コンピュータ上で稼動しているOS(オペレーティングシステム)等が実際の処理の一部または全部を行い、その処理によって前述した各実施形態の機能が実現される場合も含まれる。
【0095】
更に、以下の場合も含まれる。まず記憶媒体から読み出されたプログラムコードが、コンピュータに挿入された機能拡張ボードやコンピュータに接続された機能拡張ユニットに備わるメモリに書き込まれる。その後、そのプログラムコードの指示に基づき、その機能拡張ボードや機能拡張ユニットに備わるCPU等が実際の処理の一部または全部を行う。
【産業上の利用可能性】
【0096】
本実施形態では、本発明を適用できる画像処理装置として、撮像装置を例として説明したが、これに限らない。撮像装置の中でも、静止画、動画の撮影が行えるものどちらにも適用可能であるし、外部から画像データを取得して処理を行うプリンタなどの画像形成装置や、パーソナルコンピュータなどの情報処理装置でも、本発明は適用できる。
【符号の説明】
【0097】
101 レンズ
102 絞り
103 撮像素子
104 AGCアンプ
105 輝度・色信号生成部
106 WB増幅部
107 色差信号生成部
108 色差信号補正部
109 エンコーダ
110 信号分割部
112 カメラ制御部
113 シーン判別部
114 彩度補正部
【技術分野】
【0001】
本発明は、入力された画像のシーンを判別し、判別したシーンに応じた画像処理を行う画像処理方法、画像処理装置及び撮像装置に関するものである。
【背景技術】
【0002】
従来、画像のシーンや被写体の種類を判別し、判別したシーン(被写体の種類)に応じた画像処理を行う画像処理装置があった。
【0003】
例えば、特許文献1では、入力された画像データが鮮やかなシーン(被写体)であるか判別し、鮮やかなシーンの画像は高解像度で出力する画像出力装置が開示されている。
【先行技術文献】
【特許文献】
【0004】
【特許文献1】特開2000−259372号公報
【発明の概要】
【発明が解決しようとする課題】
【0005】
上述の特許文献に開示された従来技術では、彩度の高い画素が所定の閾値よりも多いか否かで鮮やかなシーンであるか判別していた。
【0006】
しかしながら、人間の色感度や自然界の被写体の分布によって、同じ彩度であっても色味によっては鮮やかな被写体と感じやすい色と感じにくい色がある。そのため、全ての色に対して一律の彩度の閾値で処理してしまうと、画面全体に草が写っているような鮮やかな被写体と感じにくいシーンでも鮮やかなシーンと判定してしまうという課題があった。
【0007】
そこで、本発明の目的は、入力された画像が鮮やかなシーンであるかの判別を、より人間の感覚に近づけることができる画像処理装置を提供することである。
【課題を解決するための手段】
【0008】
上記目的を達成するために、本発明の画像処理方法は、請求項1に記載の通り、画像データを取得する画像取得ステップと、前記画像データの色相情報及び輝度情報の少なくとも1つに基づいて、前記画像データの彩度情報を補正する第1の補正ステップと、前記第1の補正ステップで補正された彩度情報から、前記画像データの画像が鮮やかなシーンであるか否かを判別する判別ステップと、前記判別ステップでの判別結果に応じて、画像データの彩度補正を行う第2の補正ステップと、を有することを特徴とする。
【0009】
また、本発明の画像処理装置は、請求項11に記載の通り、画像データを取得する取得手段と、前記画像データの色相情報及び輝度情報の少なくとも1つに基づいて、前記画像データの彩度情報を補正する第1の補正手段と、前記第1の補正手段で補正された彩度情報から、前記画像データの画像が鮮やかなシーンであるか否かを判別する判別手段と、前記判別手段での判別結果に応じて、前記画像データの彩度補正を行う第2の補正手段と、を有することを特徴とする。
【0010】
また、本発明の撮像装置は、請求項12に記載の通り、被写体を撮像し、画像データを出力する撮像手段と、前記画像データの色相情報及び輝度情報の少なくとも1つに基づいて、前記画像データの彩度情報を補正する第1の補正手段と、前記第1の補正手段で補正された彩度情報から、前記画像データの画像が鮮やかなシーンであるか否かを判別する判別手段と、前記判別手段での判別結果に応じて、前記画像データの彩度補正を行う第2の補正手段と、を有することを特徴とする。
【発明の効果】
【0011】
本発明によれば、入力画像の色相、輝度に応じて彩度を補正することで、より人間の感覚に近づけた、鮮やかなシーンであるかの判別を行うことができる。
【図面の簡単な説明】
【0012】
【図1】第1の実施形態の構成を示すブロック図である。
【図2】画像信号のブロック分割を示す図である。
【図3】第1の実施形態の彩度補正部の処理を示すフローチャートである。
【図4】第1の実施形態の彩度補正部の特性を示すグラフである。
【図5】シーン判別部の処理を示すフローチャートである。
【図6】シーン判別部のシーン判別の特性を示すグラフである。
【図7】第2の実施形態の彩度補正部の処理を示すフローチャートである。
【図8】第2の実施形態の彩度補正部の処理の例を示す図である。
【図9】第2の実施形態の彩度補正部の特性を示すグラフである。
【図10】第3の実施形態の構成を示すブロック図である。
【図11】第3の実施形態の彩度補正部の処理を示すフローチャートである。
【図12】第3の実施形態の彩度補正部の特性を示すグラフである。
【発明を実施するための形態】
【0013】
(第1の実施形態)
以下、図1〜図6を参照して、第1の実施形態による、画像処理装置の一例である撮像装置について説明する。
【0014】
図1は撮影した画像のシーンを検出する機能を備え、シーンに応じた画像補正処理を行う撮像装置の構成を示すブロック図である。
【0015】
図1の各ブロックについて説明する。図1において、101は被写体の光束を結像するレンズである。102はレンズからの光束を撮像素子に導く際に絞る絞りである。103は入射された光束を光電変換して画像信号として出力する撮像素子である。104は撮像素子103からの信号を適正レベルに増幅するオートゲインコントロールアンプ(AGC)である。
【0016】
105は輝度・色信号生成部であり、撮像素子103で生成された信号を輝度信号(Y)及び色信号(R,G,B)に変換する。106はホワイトバランス増幅部であり、輝度・色信号生成部105から出力される色信号(R,G,B)をホワイトバランスゲインに従って増幅し、増幅色信号(R’,G’,B’)を生成する。107は色差信号生成部であり、色差信号(R’−Y,B’−Y)を生成する。108は、色差信号に対してゲインをかけるなどの補正を行う色差信号補正部、109は標準テレビ信号等に変換するエンコーダである。
【0017】
110は信号分割部であり、輝度信号(Y)、色差信号(R−Y,B−Y)を所定の小ブロックに分割する。111は、色差信号(R−Y,B−Y)から色相、彩度信号(Hue,Chroma)を算出する色相・彩度算出部、112は撮像システム全体を制御するカメラ制御部であり、図示していないが撮像装置中の各部に指示を送り、処理を行わせることができる。113は入力画像のシーンを判別するシーン判別部、114は彩度値を補正する彩度補正部である。
【0018】
次に、図1の撮像装置の撮影動作について説明する。撮像素子103に入射した光は、光電変換され、AGCアンプ104で適正レベルに増幅された後、輝度・色信号生成部105に出力される。輝度・色信号生成部105では、撮像素子103で結像した画像信号から輝度信号(Y)及び色信号(R,G,B)を生成し、このうち色信号(R,G,B)をホワイトバランス増幅部106に出力する。
【0019】
ホワイトバランス増幅部106では、カメラ制御部112によって算出されたホワイトバランスゲインに基づいて色信号(R,G,B)を増幅し、増幅した色信号(R’,G’,B’)を色差信号生成部107に出力する。色差信号生成部107では、色信号(R’,G’,B’)から色差信号(R−Y,B−Y)を生成し、色差信号補正部108及び信号分割部110に出力する。色差信号補正部108では、色差信号(R−Y,B−Y)に対して、カメラ制御部112によって算出されたゲインG(Gは1以上。ゲインの強度に関しては後述する)をかけ補正する。即ち、補正後の色差は(R−Y)’=G×(R−Y)、(B−Y)’=G×(B−Y)となる。また、補正後の色差信号(R−Y)’,(B−Y)’をエンコーダ109に出力する。
【0020】
エンコーダ109では、輝度信号(Y)及び色差信号(R−Y)’,(B−Y)’からNTSC等の標準テレビジョン信号を生成し、出力する。
【0021】
以上が、撮像時の基本的な処理である。以上の処理のうち、撮影した画像のシーンを検出し、シーンに応じた画像補正処理を行う処理の概要を示したものが図1(b)のフローチャート図である。この処理はカメラ制御部112によって、またはカメラ制御部112の指示によって各部で行われる。
【0022】
ステップS101では、色差信号生成部107から出力された画像データを色差信号補正部108に取得する(画像取得ステップ)。ステップS102では、より人間の感覚に近い判別ができるよう、画像データの特性に応じて画像データから得られる彩度に重みを付ける彩度重み決定処理を行う(第1の補正ステップ)。ステップS103では、重み付けが行われた後の彩度情報と輝度情報を用いて、得られた画像データの画像が鮮やかなシーンであるか否かの判別を行う鮮やか判別処理を行う(判別ステップ)。ステップS104では、ステップS103の判別結果に基づいて画像データの彩度を補正する鮮やか補正処理を行い(第2の補正ステップ)、処理を終了する。彩度重み決定処理、鮮やか判別処理、鮮やか補正処理の詳細については後述する。
【0023】
ここで、本実施形態では、シーン判別結果に用いた画像データに対して、その判別結果を反映させ出力しているが、発明としては特にこれに限定されるものではない。すなわち、あるフレーム(画像データ)に対する判別結果に応じた補正処理を、その次のフレーム以降に反映させることなども当然可能である。また、複数フレーム鮮やかなシーン判別結果が続いたときに初めてシーンを特定したり、複数フレーム中、鮮やかなシーンと判別された割合が高い場合にシーンを特定したりと、複数フレームの判別結果からシーンを特定することも考えられる。このとき、判別結果に応じた補正処理は、それら複数フレームや、以降のフレームに反映させることが考えられる。
【0024】
具体的に想定される状況としては、静止画撮影が可能な撮像装置や画像データに画像処理を施すPCなどの情報処理装置において、撮影された画像データ(フレーム)に対して処理を行う状況がある。また、ライブビュー表示または動画撮影が可能な撮像装置や動画に画像処理を施すPCなどの情報処理装置において、複数フレームにまたがった上記のような処理が想定される。
【0025】
また、本実施形態では、シーン判別部114によって出力された判別結果を用いて画像データに対して彩度の補正をかけているが、判別結果の利用法としてはこれに限らない。例えば、判別結果を不図示の表示手段に表示させ、ユーザに知らしめたり、画像データを保存する際に、判別結果に対応した情報をヘッダなどに付帯して、保存後に画像データの撮影されたシーンが特定できるようにしたりもできる。また、補正1つをとってみても、彩度以外を補正することで鮮やかさを強調するようにしてもよい。このような処理には例えば、輝度を上げる補正や輪郭の強調処理などが考えられる。
【0026】
次に、画像信号の特性の解析処理について説明する。信号分割部110では、画像信号を図2に示すような複数のブロック(8×8ブロック)に分割し、ブロック毎の輝度信号(Y)、色差信号(R−Y,B−Y)の平均値を算出し、色相・彩度算出部111に出力する。
【0027】
色相・彩度算出部111は色差信号(R−Y,B−Y)から各ブロックの色相情報・彩度情報を演算により取得する。色相(Hue)および彩度(Chroma)は以下の式に基づき算出する。
【0028】
【数1】
【0029】
色相・彩度算出部111は算出した各ブロックの色相(Hue)、彩度(Chroma)を彩度補正部114へ出力する。また、信号分割部110は算出した各ブロックの輝度(Y)を彩度補正部114へ出力する。
【0030】
彩度補正部114は、入力されたブロック毎の色相(Hue)および輝度(Y)に基づき彩度(Chroma)に重みをかけることで彩度を上げる方向に補正する。彩度補正部114の処理フローについて図3を用いて説明する(第1の補正ステップ)。
【0031】
図3の処理では、図2に示した8×8ブロックに対してループ処理を行う。即ち、図2の全ブロックについてステップS301〜303の処理を行う。
【0032】
ステップS301ではブロックの色相(Hue)に基づき、彩度重みの上下限を決定する。この処理について図4(a)を用いて説明する。図4(a)は色相(Hue)と彩度重み上下限の関係を示した図である。図4において、L401は重み上限値の特性、L402は重み下限値の特性を示している。図4に示した特性から、各色相値に対する重みと上限を算出することが可能である。例えば、色相がH1(赤)の時の重み下限値は1.2、重み上限値は1.4となる。図に示すとおり、人間の感覚では、色相以外のその他のパラメータが同じでも、赤の色相である場合には、青の色相である場合に比べて鮮やかと感じやすい。本実施形態では、この特性に対応するために、同じ条件下でも、色相に応じて彩度へかける重みを変えて設定し、補正を行わせている。具体的な重みのかけ方としては、波長の長短などによって規定することもできるが、本実施形態では人間の知覚特性とも照らし合わせて、経験的に色相毎の重みを設定している。
【0033】
図3に戻り、ステップS302ではステップS303で算出した重み上限値、および下限値とブロック輝度(Y)に基づき彩度重みを決定する。この処理について図4(b)を用いて説明する。図4(b)はブロックの輝度(Y)と彩度重み上下限の関係を示した図である。図4(b)において、L403はブロック輝度と重みの特性を示している。また、重み上限値W1はステップS301で算出した重み上限値、重み下限値W2はステップS301で算出した重み下限値である。例えば、前述の例のように図4(a)において色相がH1の時は図4(b)における重み上限値W1が1.4、下限値W2が1.2となる。このとき、ブロック輝度がY1の場合、最終的な重みはW1=1.4となる。図に示すとおり、人間の感覚では、輝度以外のその他のパラメータが同じでも、輝度の高い画像の場合は、輝度の低い画像である場合に比べて鮮やかと感じやすい。この特性に対応するために、同じ条件下では、輝度の高い画像(第1の輝度の第1のブロック)に対しては、その画像より輝度の低い画像(第2の輝度の第2のブロック)に比べて、彩度を上げる方向で重み穂設定して補正を行わせている。
【0034】
図3に戻り、ステップS303では、決定した彩度重みを彩度(Chroma)に乗算し、補正彩度を算出する。前述の例では、重みが1.4となるため補正後のブロック彩度(Chroma’)=1.4×Chromaとなる。
【0035】
以上が、彩度補正部114における彩度の補正処理である。以上のような彩度補正処理を図2に示した全ブロックに対して行い、補正後の彩度(Chroma’)をシーン判別部113へ出力する。また、シーン判別部113に対しては、信号分割部110から、各ブロックの輝度(Y)、色相・彩度算出部111から各ブロックの色相(Hue)、が出力される。
【0036】
シーン判別部113は、入力された、ブロック毎の輝度(Y)、色相(Hue)、補正後の彩度(Chroma’)に基づき、撮影したシーンが鮮やかなシーンであるか否かを判別する。以下では、シーン判別部113の鮮やか判別処理の流れについて図5を用いて説明する(判別ステップ)。
【0037】
図5において、ステップS501では、彩度補正部114で算出された補正後の彩度(Chroma’)を図2の全ブロックに対して平均し、平均彩度を算出する。
【0038】
ステップS502では、図2の全ブロックの中で、補正後の彩度(Chroma’)が所定の閾値以上であるブロックがいくつあるかをカウントする。
【0039】
ステップ503では、ステップS501で求めた全ブロックの平均彩度と、ステップS502で求めた彩度が閾値以上のブロック数に基づき鮮やかなシーンであるか判定する。図6は平均彩度値と彩度が閾値以上のブロック数に対する鮮やかなシーンの判定基準を示した図である。図6に示すように平均彩度が平均彩度閾値Ct(第6の閾値)より高く、かつ彩度が閾値(第4の閾値)以上のブロック数が、閾値At(第5の閾値)よりも大きいときに鮮やかなシーンであると判定する。
【0040】
以上がシーン判別部113の処理である。シーン判別部で判定した鮮やかなシーンであるか否かの情報はカメラ制御部112へ出力される。
【0041】
カメラ制御部112は、シーン判別部113で判別された鮮やかなシーンであるか否かの情報を元に色差信号補正部108のパラメータを制御する(第2の補正ステップ)。本実施形態では、前述の色差信号補正部108の色差ゲインGを制御する。色差ゲインGとしてG1、G2というパラメータがあり、G1>G2≧1という関係である。ここで、鮮やかなシーンと判別した場合は色差ゲインをG1、鮮やかなシーンではないと判別した場合は色差ゲインをG2に設定する。即ち、鮮やかなシーンと判別した場合は、鮮やかなシーンでないと判別された場合に比べて色差信号に対するゲインをより高くすることで、より彩度を上げ、鮮やかさを強調した画像に補正する。
【0042】
以上、説明したように、本実施形態では鮮やかなシーンか否かを判定し、判定結果に応じて画像処理を制御する画像処理装置において、画像信号の彩度、輝度、色相を算出し、色相および輝度の情報に基づき彩度を補正した。また、補正後の彩度を用いて鮮やかなシーンであるか否かを判別する構成とした。
【0043】
これにより、人間の感覚に応じた彩度値の補正が行え、人間の感覚により近い鮮やかなシーン判別を行うことが可能となる。
【0044】
なお、本実施形態では、輝度および色相に基づいて彩度に重みをかけたが、色相、輝度どちらかのみの情報に基づいて彩度に重みをかけてもかまわない。
【0045】
また、本実施形態では、色相・彩度を色差信号から算出したが、色相・彩度の算出方法をこれに限定するものではない。例えば、L*a*b*空間などの他の空間に一度変換してからL*a*b*空間での色相・彩度を算出してもよい。
【0046】
また、本実施形態では、信号分割部110が8×8ブロックに画像信号を分割する例を説明したが、どのような分割数であってもかまわない。また、画素単位で彩度に重みをかける構成であっても構わない。
【0047】
また、本実施形態では、鮮やかなシーンであるか否かの判別結果に基づき、色差信号にかけるゲインを制御する場合について説明したが、シーン判別結果に基づき色信号、もしくは輝度信号を補正する制御であればどのような制御を行ってもかまわない。
【0048】
また、本実施形態では、鮮やかなシーンであるか否かの判別を平均彩度値と彩度が閾値以上のブロック数の2つの情報を元に行った。しかし、鮮やかなシーンの判別方法をこれに限定するものではなく、色相、輝度によって補正した彩度情報を用いて鮮やかなシーンであるか判別する構成であればどのような構成をとっても構わない。
【0049】
また、本実施形態では、鮮やかなシーンであるか否かの2値で判定したが、鮮やか度合い等のように多値で算出しても構わない。この場合、平均彩度が高ければ高いほど、また、彩度が閾値以上のブロック数が多ければ多いほど鮮やか度合いが高くなる。そして、算出した鮮やか度合いに基づき、色差信号補正部108の信号の補正強度を制御する(鮮やか度合いが高いほど色差信号にかけるゲインを高くする)。
【0050】
また、本実施形態では、鮮やかなシーンであると判別された画像データに対して彩度を上げ、鮮やかさを強調する処理について述べたが、これに限らず、鮮やかなシーンに対して逆に彩度を下げ、鮮やかさを抑えるような処理にも適用することができる。この場合、例えばG1<G2≦1のようにゲインを設定してやるとよい。
【0051】
(第2の実施形態)
以下、図7〜9を参照して、本発明の第2の実施形態による、撮像装置について説明する。第2の実施形態では、第1の実施形態で説明した色相と輝度以外に、色の面積に応じて彩度を補正する例について説明する。
【0052】
本実施形態における撮像装置のブロック構成は図1と同様であるため、説明は省略する。本実施形態では図1における、彩度補正部114での処理内容が第1の実施形態と異なる。具体的には、彩度補正部114で算出する重みを、その色が画像データ中に占める割合、すなわち面積によって変更する。
【0053】
彩度補正部114の処理フローを図7に示す(第1の補正ステップ)。
【0054】
図7において、ステップS701では、色相ヒストグラムを生成する。色相ヒストグラムは図2に示した全ブロックにおける色相毎の度数をカウントしたものである。色相を10度単位で区切った色相ヒストグラムの例を図8(a)に示す。図8において、横軸が色相、縦軸が度数を示している。
【0055】
ステップS702では、生成した色相ヒストグラムから度数が最も高いピークの色相を検出する。図8(a)の例では色相Hp(20度〜30度)がピークの色相となる。また、Cpは色相Hpの度数を示している。
【0056】
ステップS703では、ピーク色相の度数が閾値以上(ピーク色相の画像中の面積が閾値以上)であるか判定する。図8(a)の例では、ピーク色相Hpの度数Cpが閾値(第1の閾値)以上あるか否かを判定する。閾値以上ある場合は、ステップS704へ進む。閾値未満の場合は、ステップS707へ進む。
【0057】
ステップS704では、ピークの色相を持つブロックの密集度を算出する。
密集度の算出方法について図8(b)(c)を用いて説明する。まず、全ブロックについて、ピークの色相Hp(図8(a)の例では20度〜30度)を満たすブロックであるか否かを判定しピーク色相Hpを満たすブロックにラベルをつけておく。次に、ピーク色相を持つラベルのついたブロックの上下左右ブロックが色相Hpを満たしているブロックであるか確認する。色相Hpを満たしている場合はそのブロック数をカウントする。この処理について、図8(b)を用いて具体的に説明する。図8(b)において、グレーで塗りつぶしてしているブロックが色相Hpを満たすブロックである。例えば色相Hpを満たす801のブロックについて、周辺の801(上)(下)(左)(右)について色相Hpを満たしているか確認する。この場合801(上)および801(左)が色相Hpを満たしているためブロック801のカウント数は2になる。同様に全ての色相Hpを満たすブロックについて、上下左右にある色相Hpを満たすブロックの数をカウントする。図8(b)に記載された数値は、色相Hpを満たす全てのブロックに関して周辺に色相Hpを満たすブロックの数をカウントしたものである。これらの数値を全て加算したものを密集度とする。図8(b)の例の場合、密集度は4となる。図8(c)も図8(b)と同様の例であり、この場合の密集度は32となる。このように、色相Hpを満たすブロックが固まっているほど密集度が高くなる。
【0058】
図7に戻り、ステップS705では、算出した密集度が閾値(第2の閾値)以上であるか否かを判定する。閾値以上である場合はステップS706に進み、閾値未満である場合はステップS707に進む。
【0059】
ステップS706では、色相Hpを満たす色の面積に基づき彩度重み補正度Wcを算出する。色相Hpを満たす色の面積は、色相ヒストグラムの度数Cp(図8(a))となる。
【0060】
彩度重み補正度Wcの算出について説明する。まず、色相Hpを満たすブロックの平均輝度Yaを算出する。算出した平均輝度Yaによって面積最大時の重み補正度を決定する。面積最大時の重み補正度と輝度の関係を示したグラフが図9(a)である。このグラフに従って色相Hp領域の平均輝度Ya、から面積最大時の重み補正度を算出する。図9(a)の例では、輝度がY1の時の面積最大時の重み補正度は1.2、輝度がY2の時の、面積最大時の重み補正度は0.95となる。また、平均輝度Yaが閾値Y0(第3の閾値)以上であれば重み補正度は1以上となり、彩度を上げるように重み補正が行われることになる。逆に平均輝度Yaが閾値Y0未満であれば重み補正度は1未満となり、彩度を下げるように重み補正が行われることになる。
【0061】
次に色相Hpを満たす領域の度数(面積)Cpと面積最大時の重み補正度に基づき、最終的な重み補正度Wcを決定する。面積最大時の重み補正度と面積の関係を示したグラフが図9(b)である。図9(b)のグラフに従って、最終的な重み補正度Wcを算出する。
【0062】
図9(b)において、901は面積最大時の重み補正度が1.2の時のグラフ、902は面積最大時の重み補正度が0.95の時のグラフを示している。面積が最小の場合は重みの補正度が1.0になり、面積が最大(画面全体)の場合は補正度が図9(a)で算出した値になる。
【0063】
図7に戻り、ステップS707では、面積による彩度重み補正を行わない。即ち、彩度重み補正度Wc=1.0とする。
【0064】
ステップ708では、図2に示した全ブロックに対してループ処理を行う。即ち、全てのブロックに対してステップS709〜S713の処理を行う。
【0065】
ステップS709、S710は、第1の実施形態の図3で説明したステップS302、S303と同様である。即ち、ブロック毎の色相および輝度によって、重みWfを決定する。
【0066】
ステップS711では、処理対象のブロックの色相がピーク色相Hpに含まれるか判定する。ピーク色相Hpのブロックである場合はステップS712に進み、ピーク色相のブロックでない場合はステップS713に進む。
【0067】
ステップS712では、ステップS710で算出した重みWfを補正する。具体的には、ステップS706、S707で決定した面積に基づく重み補正度Wcを重みWfに乗算することで補正する(Wf=Wc×Wf)。
【0068】
ステップS713では、彩度値に重みWfを乗算することで補正する。この処理は第1の実施形態の図3の304の処理と同様である。
【0069】
以上が、本実施形態における彩度補正部114の処理である。
【0070】
以上、説明したように、本実施形態では、画像信号の彩度、輝度、色相およびの色の面積を算出し、色相および輝度、色の面積の情報に基づき彩度を補正し、補正後の彩度を用いて鮮やかなシーンであるか否かを判別する構成とした。このように制御する理由は、ある明るい色の場合は面積が広いほどより明るく彩度が高く感じられ、逆に暗い色の場合は、面積が広いほどより暗く、彩度が低く感じるという面積効果を反映するためである。
【0071】
これにより、人間の視覚特性に応じた彩度値の補正が行え、人間の感覚により近い鮮やかなシーン判別を行うことが可能となる。
【0072】
上記実施形態では、ある色相のブロックの密集度とその面積に応じて、重みの補正度Wcを制御する例について説明したが、密集度、面積のどちらか一方の情報に基づいて重みを補正する制御を行っても構わない。
【0073】
また、上記実施形態では、ピーク色相Hpの面積によってのみ補正したが、ピーク色相以外を持つブロックも同色相を持つ面積によって彩度値を補正しても構わない。
【0074】
また、上記実施形態では、重みを面積によって補正する構成で説明したが、第1の実施形態での変形例と同様に、彩度を面積情報に基づき直接補正する構成であっても構わない。
【0075】
(第3の実施形態)
以下、図10〜12を参照して、第3の実施形態による撮像装置について説明する。
【0076】
第3の実施形態では、第1の実施形態で説明した色相と輝度以外に、被写体の動き量に応じて彩度を補正する形態について説明する。
【0077】
図10は、本実施形態の撮像装置の構成を示すブロック図である。図10において、図1と同符号のものは同じブロックであるため説明を省略する。本実施形態では図1の構成に対して、評価値メモリ1001、動き量検出部1002が追加されている。
【0078】
次に、図10に示した撮像装置の処理の流れについて説明する。画像を撮像し、エンコーダ109で出力するまでの流れは第1の実施形態と同様である。また、シーン判別部113で鮮やかなシーンであるか否かを判別し、その結果に応じてカメラ制御部112が色差信号補正部108のパラメータを制御する点も第1の実施形態と同様であるため詳細な説明は省略する。
【0079】
信号分割部110は第1の実施形態と同様に、ブロック毎の輝度信号(Y)、色差信号(R−Y,B−Y)の平均値を算出し、評価値として色相・彩度算出部111に出力する。また、輝度信号(Y)を評価値メモリ1001および、動き量検出部1002に出力する。評価値メモリ1001は、信号分割部110から出力された全ブロックの輝度信号(評価値)を記憶する。評価値メモリ1001への輝度信号(評価値)の蓄積は所定時間間隔で行われ、評価値メモリ1001は所定フレーム分の輝度信号(評価値)を記録する。
【0080】
動き量検出部1002は、信号分割部110から出力された現在の輝度信号と、評価値メモリ1001に記憶された過去の輝度信号から、ブロック単位の動き量を算出する。具体的には、各ブロックについて一定時間での輝度信号の時間的な分散値を算出し、この時間分散値を動き量とする。動き量検出部1002は、算出した全ブロックの動き量情報を彩度補正部114に出力する(動き量検出ステップ)。
【0081】
彩度補正部114は、色相と輝度、動き量に基づき彩度値を補正する。彩度補正部114の処理の流れを図11に示す(第1の補正ステップ)。
【0082】
図11においてステップS1101では図2に示した全ブロックに対してループ処理を行う。即ち、全てのブロックに対してステップS1102〜S1105の処理を行う。
【0083】
ステップS1101、S1102は、第1の実施形態の図3で説明したステップS302、S303と同様である。即ち、ブロック毎の色相および輝度によって、重みWfを決定する。
【0084】
ステップS1104では、動き量に基づき重みWfを補正する。動き量と重み補正率Wcの関係を図12に示す。図12に示すようにブロックの動き量が大きいほど重みが小さくなるように補正する。算出した重み補正率Wcを重みWfに乗算することで最終的な重みを決定する(Wf=Wc×Wf)。
【0085】
ステップS1105では、彩度値に重みWfを乗算することで補正する。この処理は第1の実施形態の図3の304の処理と同様である。
【0086】
以上が、彩度補正部114の処理である。上記のように、本実施形態では、色相、輝度だけでなく、動き量によって、彩度値を補正する構成とした。このように制御する理由は、被写体や、カメラの動きが大きい場合は、同じ彩度値の被写体であっても鮮やかな被写体と認識しにくいためである。従って、動き量に応じた彩度値の補正を行うことで、人間の感覚により近い鮮やかなシーン判別を行うことが可能となる。
【0087】
本実施形態では、画像信号の動き量に基づき彩度信号を補正することで、動きの多いシーンで鮮やかと判定し難くするようにしたが、動き情報に基づき鮮やかシーンを判定するのであれば他の構成をとることも可能である。
【0088】
例えば、動き情報に基づきシーン判別部113の鮮やか判別の閾値(図6)を変更する構成をとってもかまわない。この場合、動き量が高いほど、図6の平均彩度閾値Ctや彩度が閾値以上のブロック数閾値Atを上げる。これにより、動きの大きなシーンは鮮やかなシーンと判別しにくくなる。
【0089】
また、本実施形態では動き量が求められる方法であればどのような構成であってもかまわない。例えば、輝度信号だけでなく色信号を利用して動き量を求めてもかまわない。
【0090】
また、本実施形態では、ブロック単位の動き量を算出したが、画像全体での動き量を算出する構成であってもよい。また、ズームなどの撮像装置の光学系情報を取得して動き量算出に利用してもよい。
【0091】
(他の実施形態)
本発明の目的は以下のようにしても達成できる。すなわち、前述した各実施形態の機能を実現するための手順が記述されたソフトウェアのプログラムコードを記録した記憶媒体を、システムまたは装置に供給する。そしてそのシステムまたは装置のコンピュータ(またはCPU、MPU等)が記憶媒体に格納されたプログラムコードを読み出して実行するのである。
【0092】
この場合、記憶媒体から読み出されたプログラムコード自体が本発明の新規な機能を実現することになり、そのプログラムコードを記憶した記憶媒体およびプログラムは本発明を構成することになる。
【0093】
また、プログラムコードを供給するための記憶媒体としては、例えば、フレキシブルディスク、ハードディスク、光ディスク、光磁気ディスクなどが挙げられる。また、CD−ROM、CD−R、CD−RW、DVD−ROM、DVD−RAM、DVD−RW、DVD−R、磁気テープ、不揮発性のメモリカード、ROM等も用いることができる。
【0094】
また、コンピュータが読み出したプログラムコードを実行可能とすることにより、前述した各実施形態の機能が実現される。さらに、そのプログラムコードの指示に基づき、コンピュータ上で稼動しているOS(オペレーティングシステム)等が実際の処理の一部または全部を行い、その処理によって前述した各実施形態の機能が実現される場合も含まれる。
【0095】
更に、以下の場合も含まれる。まず記憶媒体から読み出されたプログラムコードが、コンピュータに挿入された機能拡張ボードやコンピュータに接続された機能拡張ユニットに備わるメモリに書き込まれる。その後、そのプログラムコードの指示に基づき、その機能拡張ボードや機能拡張ユニットに備わるCPU等が実際の処理の一部または全部を行う。
【産業上の利用可能性】
【0096】
本実施形態では、本発明を適用できる画像処理装置として、撮像装置を例として説明したが、これに限らない。撮像装置の中でも、静止画、動画の撮影が行えるものどちらにも適用可能であるし、外部から画像データを取得して処理を行うプリンタなどの画像形成装置や、パーソナルコンピュータなどの情報処理装置でも、本発明は適用できる。
【符号の説明】
【0097】
101 レンズ
102 絞り
103 撮像素子
104 AGCアンプ
105 輝度・色信号生成部
106 WB増幅部
107 色差信号生成部
108 色差信号補正部
109 エンコーダ
110 信号分割部
112 カメラ制御部
113 シーン判別部
114 彩度補正部
【特許請求の範囲】
【請求項1】
画像データを取得する画像取得ステップと、
前記画像データの色相情報及び輝度情報の少なくとも1つに基づいて、前記画像データの彩度情報を補正する第1の補正ステップと、
前記第1の補正ステップで補正された彩度情報から、前記画像データの画像が鮮やかなシーンであるか否かを判別する判別ステップと、
前記判別ステップでの判別結果を出力する出力ステップと、を有することを特徴とする画像処理方法。
【請求項2】
前記出力ステップで出力された判別結果に応じて、画像データの彩度補正を行う第2の補正ステップを有することを特徴とする請求項1に記載の画像処理方法。
【請求項3】
前記第1の補正ステップでは、前記画像データを複数のブロックに分割してブロック毎に前記彩度情報の補正を行い、このとき、前記ブロック毎の色相情報に対応した重みを、前記ブロック毎の彩度情報にかけることを特徴とする請求項1または2に記載の画像処理方法。
【請求項4】
前記第1の補正ステップでは、前記画像データを複数のブロックに分割してブロック毎に前記彩度情報の補正を行い、このとき、第1の輝度である第1のブロックが、前記第1の輝度より低い第2の輝度である第2のブロックに比べて彩度を上げる方向に補正されることを特徴とする請求項1乃至3のいずれか1つに記載の画像処理方法。
【請求項5】
前記第1の補正ステップでは、前記画像データ中に占める割合が第1の閾値より高い色相があり、該色相が画像中に密集している面積が第2の閾値より大きい場合、前記密集している面積に応じて補正を行われることを特徴とする請求項1乃至4のいずれか1つに記載の画像処理方法。
【請求項6】
前記第1の補正ステップでは、前記画像データ中に占める割合が第1の閾値より高い色相があり、該色相が画像データ中に密集している面積が第2の閾値より大きい場合において、
前記画像データの平均輝度が第3の閾値より高い場合、前記画像データの彩度を上げる方向に補正を行い、
前記画像データの平均輝度が第3の閾値より低い場合、前記画像データの彩度を下げる方向に補正を行うことを特徴とする請求項5に記載の画像処理方法。
【請求項7】
前記取得ステップで取得される複数の画像データから、前記画像データ中の被写体の動き量を検出する動き量検出ステップを有し、
前記第1の補正ステップでは、前記動き量検出ステップで検出された前記動き量が大きいほど、彩度を下げる方向に補正することを特徴とする請求項1乃至6のいずれか1つに記載の画像処理方法。
【請求項8】
前記判別ステップでは、前記画像データの画像全体を複数のブロックに分割し、第4の閾値より大きい彩度であるブロックの数が第5の閾値より多い場合、鮮やかなシーンであると判別することを特徴とする請求項1乃至7のいずれか1つに記載の画像処理方法。
【請求項9】
前記判別ステップでは、前記画像データの平均彩度が第6の閾値より高い場合、鮮やかなシーンであると判別することを特徴とする請求項1乃至8のいずれか1つに記載の画像処理方法。
【請求項10】
請求項1乃至9のいずれか1つに記載の画像処理方法の手順が記述されたコンピュータで実行可能なプログラム。
【請求項11】
請求項1乃至9のいずれか1つに記載の画像処理方法の手順が記述されたプログラムが記憶された、コンピュータが読み取り可能な記憶媒体。
【請求項12】
画像データを取得する取得手段と、
前記画像データの色相情報及び輝度情報の少なくとも1つに基づいて、前記画像データの彩度情報を補正する第1の補正手段と、
前記第1の補正手段で補正された彩度情報から、前記画像データの画像が鮮やかなシーンであるか否かを判別する判別手段と、
前記判別手段の判別結果を出力する出力手段と、を有することを特徴とする画像処理装置。
【請求項13】
被写体を撮像し、画像データを出力する撮像手段と、
前記画像データの色相情報及び輝度情報の少なくとも1つに基づいて、前記画像データの彩度情報を補正する第1の補正手段と、
前記第1の補正手段で補正された彩度情報から、前記画像データの画像が鮮やかなシーンであるか否かを判別する判別手段と、
前記判別手段の判別結果を出力する出力手段と、を有することを特徴とする撮像装置。
【請求項1】
画像データを取得する画像取得ステップと、
前記画像データの色相情報及び輝度情報の少なくとも1つに基づいて、前記画像データの彩度情報を補正する第1の補正ステップと、
前記第1の補正ステップで補正された彩度情報から、前記画像データの画像が鮮やかなシーンであるか否かを判別する判別ステップと、
前記判別ステップでの判別結果を出力する出力ステップと、を有することを特徴とする画像処理方法。
【請求項2】
前記出力ステップで出力された判別結果に応じて、画像データの彩度補正を行う第2の補正ステップを有することを特徴とする請求項1に記載の画像処理方法。
【請求項3】
前記第1の補正ステップでは、前記画像データを複数のブロックに分割してブロック毎に前記彩度情報の補正を行い、このとき、前記ブロック毎の色相情報に対応した重みを、前記ブロック毎の彩度情報にかけることを特徴とする請求項1または2に記載の画像処理方法。
【請求項4】
前記第1の補正ステップでは、前記画像データを複数のブロックに分割してブロック毎に前記彩度情報の補正を行い、このとき、第1の輝度である第1のブロックが、前記第1の輝度より低い第2の輝度である第2のブロックに比べて彩度を上げる方向に補正されることを特徴とする請求項1乃至3のいずれか1つに記載の画像処理方法。
【請求項5】
前記第1の補正ステップでは、前記画像データ中に占める割合が第1の閾値より高い色相があり、該色相が画像中に密集している面積が第2の閾値より大きい場合、前記密集している面積に応じて補正を行われることを特徴とする請求項1乃至4のいずれか1つに記載の画像処理方法。
【請求項6】
前記第1の補正ステップでは、前記画像データ中に占める割合が第1の閾値より高い色相があり、該色相が画像データ中に密集している面積が第2の閾値より大きい場合において、
前記画像データの平均輝度が第3の閾値より高い場合、前記画像データの彩度を上げる方向に補正を行い、
前記画像データの平均輝度が第3の閾値より低い場合、前記画像データの彩度を下げる方向に補正を行うことを特徴とする請求項5に記載の画像処理方法。
【請求項7】
前記取得ステップで取得される複数の画像データから、前記画像データ中の被写体の動き量を検出する動き量検出ステップを有し、
前記第1の補正ステップでは、前記動き量検出ステップで検出された前記動き量が大きいほど、彩度を下げる方向に補正することを特徴とする請求項1乃至6のいずれか1つに記載の画像処理方法。
【請求項8】
前記判別ステップでは、前記画像データの画像全体を複数のブロックに分割し、第4の閾値より大きい彩度であるブロックの数が第5の閾値より多い場合、鮮やかなシーンであると判別することを特徴とする請求項1乃至7のいずれか1つに記載の画像処理方法。
【請求項9】
前記判別ステップでは、前記画像データの平均彩度が第6の閾値より高い場合、鮮やかなシーンであると判別することを特徴とする請求項1乃至8のいずれか1つに記載の画像処理方法。
【請求項10】
請求項1乃至9のいずれか1つに記載の画像処理方法の手順が記述されたコンピュータで実行可能なプログラム。
【請求項11】
請求項1乃至9のいずれか1つに記載の画像処理方法の手順が記述されたプログラムが記憶された、コンピュータが読み取り可能な記憶媒体。
【請求項12】
画像データを取得する取得手段と、
前記画像データの色相情報及び輝度情報の少なくとも1つに基づいて、前記画像データの彩度情報を補正する第1の補正手段と、
前記第1の補正手段で補正された彩度情報から、前記画像データの画像が鮮やかなシーンであるか否かを判別する判別手段と、
前記判別手段の判別結果を出力する出力手段と、を有することを特徴とする画像処理装置。
【請求項13】
被写体を撮像し、画像データを出力する撮像手段と、
前記画像データの色相情報及び輝度情報の少なくとも1つに基づいて、前記画像データの彩度情報を補正する第1の補正手段と、
前記第1の補正手段で補正された彩度情報から、前記画像データの画像が鮮やかなシーンであるか否かを判別する判別手段と、
前記判別手段の判別結果を出力する出力手段と、を有することを特徴とする撮像装置。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【公開番号】特開2011−135509(P2011−135509A)
【公開日】平成23年7月7日(2011.7.7)
【国際特許分類】
【出願番号】特願2009−295433(P2009−295433)
【出願日】平成21年12月25日(2009.12.25)
【出願人】(000001007)キヤノン株式会社 (59,756)
【Fターム(参考)】
【公開日】平成23年7月7日(2011.7.7)
【国際特許分類】
【出願日】平成21年12月25日(2009.12.25)
【出願人】(000001007)キヤノン株式会社 (59,756)
【Fターム(参考)】
[ Back to top ]