画像処理装置、画像処理方法および画像処理プログラム
【課題】ユーザにより意図的にボケブレが表現された成功画像なのか、そうではない失敗画像なのかを正しく評価することができる画像処理装置を提供する。
【解決手段】画像処理装置は、画像を取得する画像取得部と、取得された画像の付帯情報に基づいて、画像の被写界深度を表す概算値を算出する被写界深度算出部と、算出された被写界深度の概算値に基づいて、画像の被写界深度が基準深度よりも浅いか深いかを判定する被写界深度判定部と、画像の被写界深度が基準深度よりも浅いと判定された場合に、(A)画像のボケもしくはブレを検出し、画像のボケもしくはブレの程度を評価するための評価値を算出するボケブレ評価を実施しない、(B)画像から抽出された特定領域についてボケブレ評価を実施し、特定領域の評価値から画像の評価値を算出する、(C)ユーザにより入力される評価値を受け取る、のいずれかの処理を実行するボケブレ評価部と、を備える。
【解決手段】画像処理装置は、画像を取得する画像取得部と、取得された画像の付帯情報に基づいて、画像の被写界深度を表す概算値を算出する被写界深度算出部と、算出された被写界深度の概算値に基づいて、画像の被写界深度が基準深度よりも浅いか深いかを判定する被写界深度判定部と、画像の被写界深度が基準深度よりも浅いと判定された場合に、(A)画像のボケもしくはブレを検出し、画像のボケもしくはブレの程度を評価するための評価値を算出するボケブレ評価を実施しない、(B)画像から抽出された特定領域についてボケブレ評価を実施し、特定領域の評価値から画像の評価値を算出する、(C)ユーザにより入力される評価値を受け取る、のいずれかの処理を実行するボケブレ評価部と、を備える。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、ボケもしくはブレ(以下、ボケブレという)を含む画像が、ユーザ(撮影者)により意図的にボケブレが表現された成功画像なのか、そうではない失敗画像なのかを評価する画像処理装置、画像処理方法および画像処理プログラムに関するものである。
【背景技術】
【0002】
ユーザが、デジタルカメラ等の撮影装置で撮影された膨大な枚数の画像の中から、ボケブレのない成功画像を優先的に抽出する作業を行う場合がある。しかし、ボケブレを含む画像であっても、ユーザにより意図的にボケブレが表現された画像もあるため、そのような意図的にボケブレが表現された成功画像なのか、そうではない失敗画像(ボケブレ画像)なのかを判定することが難しいという問題があった。
【0003】
これに対し、特許文献1には、被写体を撮影して画像データを生成し、撮影時の撮影条件に基づき、画像データが、撮影時にぶれたおそれがあるぶれ画像データであるか否かを判断し、その判断結果情報を画像データと関連付けて格納する画像生成方法が記載されている。また、同文献には、ぶれ情報に基づき、画像データが、ぶれ画像データである場合に、ぶれ画像データのぶれを補正することが記載されている。
【0004】
また、特許文献2には、絞り情報から取得した絞り値がユーザによるマニュアル設定で、かつ所定の値以上である場合に、標準撮影条件で絞り値が設定される場合よりも強いシャープネス調整を実行する画像処理装置であって、動作モード情報に基づいて、画像データのシャープネスを調整する画質調整を実行するか否かの判定を行い、画質調整を実行すると判定したときに、シャープネス調整の度合いを絞り情報とレンズ焦点距離情報とに基づいて決定する画像処理装置が記載されている。
【0005】
また、特許文献3には、デジタル写真画像が被写界深度の浅い画像か否かを判別し、被写界深度が浅いと判別されたデジタル写真画像の主要被写体領域の画像を用いてボケを補正するためのパラメータを設定し、それ以外のデジタル写真画像の全体を用いてボケを補正するためのパラメータを設定し、設定されたパラメータを用いて、デジタル写真画像におけるボケを補正する画像処理方法が記載されている。
【先行技術文献】
【特許文献】
【0006】
【特許文献1】特開2006−217472号公報
【特許文献2】特許第3797346号公報
【特許文献3】特開2005−122688号公報
【発明の概要】
【発明が解決しようとする課題】
【0007】
特許文献1では、撮影された画像の画像データが、ぶれたおそれがあるぶれ画像データであるか否かを撮影後に判断するために、画像の撮影時にあらかじめぶれの有無を判断して、その判断結果情報を画像データに関連付けて格納しておく必要がある。また、同文献では、画像が、ユーザにより意図的にボケブレが表現された成功画像なのか、そうではない失敗画像なのかを評価することができない。
【0008】
また、特許文献2では、画像データのシャープネスを調整する画質調整を実行するか否かの判定に動作モード情報が必要である。また、同文献は、画像のボケブレの判定ではなく、シャープネスの調整を行うものであって、特許文献1の場合と同様に、画像が、ユーザにより意図的にボケブレが表現された成功画像なのか、そうではない失敗画像なのかを評価することができない。
【0009】
特許文献3は、被写界深度の浅いデジタル写真画像のボケを補正するものであって、画像が、ユーザにより意図的にボケブレが表現された成功画像なのか、そうではない失敗画像なのかを評価するものではない。
【0010】
被写体にのみピントが合って前景や背景がボケた画像を魅力的と感じる人、場合は多く、また、レンズによっては全域をボカさずに撮影することがそもそも困難である。このような画像に対し、画像のピクセル情報のみから、画像のボケブレを検出して評価すると、ユーザにより意図的に表現されたボケブレや不可避のボケブレまで悪評価されて、ユーザの期待する評価結果を得ることができないという問題があった。
【0011】
本発明の目的は、ユーザにより意図的にボケブレが表現された成功画像なのか、そうではない失敗画像なのかを正しく評価することができる画像処理装置、画像処理方法および画像処理プログラムを提供することにある。
【課題を解決するための手段】
【0012】
上記目的を達成するために、本発明は、画像を取得する画像取得部と、
前記画像取得部で取得された画像の付帯情報に基づいて、該画像の被写界深度を表す概算値を算出する被写界深度算出部と、
前記被写界深度算出部で算出された被写界深度の概算値に基づいて、前記画像の被写界深度が基準深度よりも浅いか深いかを判定する被写界深度判定部と、
前記被写界深度判定部により前記画像の被写界深度が基準深度よりも浅いと判定された場合に、
(A)前記画像のボケもしくはブレを検出し、該画像のボケもしくはブレの程度を評価するための評価値を算出するボケブレ評価を実施しない、
(B)前記画像から抽出された特定領域について前記ボケブレ評価を実施し、該特定領域の評価値から前記画像の評価値を算出する、
(C)ユーザにより入力される評価値を受け取る、
のいずれかの処理を実行するボケブレ評価部と、を備えることを特徴とする画像処理装置を提供するものである。
【0013】
ここで、前記ボケブレ評価部は、前記被写界深度判定部により前記画像の被写界深度が基準深度よりも深いと判定された場合に、前記ボケブレ評価を実施して該画像の評価値を算出するものであることが好ましい。
【0014】
また、前記ボケブレ評価部は、前記被写界深度判定部により前記画像の被写界深度が基準深度よりも深いと判定された場合に、さらに、前記付帯情報に含まれる前記画像の撮影モードが、該画像の背景をぼかして撮影する撮影モードである場合に、前記(A)〜(C)のいずれかの処理を実行するものであることが好ましい。
【0015】
また、前記ボケブレ評価部は、前記処理(A)を実行する場合に、
(D)前記画像に対して、背景をぼかした画像に対する評価として定義された一律の評価値を与える、
(E)前記画像に対してランダムな評価値を与える、
(F)前記画像を評価対象外とする、
のいずれかの処理を実行するものであることが好ましい。
【0016】
さらに、前記画像を複数の評価領域に分割し、各々の該評価領域を前記特定領域として抽出する画像分割部を備え、
前記ボケブレ評価部は、前記処理(B)を実行する場合に、
前記被写界深度の概算値に基づいて、前記画像がボケブレ画像ではないと判定するために許容される、ボケブレ領域であると判定される前記評価領域の上限の個数を表すボケブレ許容領域数を決定し、
前記画像分割部により分割された各々の評価領域について前記ボケブレ評価を実施して、各々の該評価領域の評価値を算出し、
各々の前記評価領域の評価値が高い方から、(前記評価領域の総数−前記ボケブレ許容領域数)の個数の評価領域の評価値を加算平均することにより、前記画像の評価値を算出するものであることが好ましい。
【0017】
また、前記ボケブレ評価部は、さらに、各々の前記評価領域の評価値に基づいて、各々の該評価領域が前記ボケブレ領域であるのか否かを判定し、
前記ボケブレ領域であると判定された評価領域の個数が前記ボケブレ許容領域数を超える場合に、前記画像が前記ボケブレ画像であると判定するものであることが好ましい。
【0018】
さらに、前記画像を被写体領域とそれ以外の1以上の領域とに分割し、該被写体領域とそれ以外の1以上の領域の各々を前記特定領域として抽出する画像分割部を備え、
前記ボケブレ評価部は、前記被写界深度判定部により前記画像の被写界深度が基準深度よりも深いと判定された場合に、
前記画像分割部により分割された被写体領域とそれ以外の1以上の領域の各々について、前記ボケブレ評価を実施して評価値を算出し、
前記被写界深度の概算値に基づいて、前記被写体領域とそれ以外の1以上の領域の評価値を重み付けして合算することにより、前記画像の評価値を算出するものであることが好ましい。
【0019】
また、前記ボケブレ評価部は、前記処理(B)を実行する場合に、
前記画像分割部により分割された被写体領域について、前記ボケブレ評価を実施して評価値を算出し、
前記被写体領域の評価値を、前記画像の評価値とするものであることが好ましい。
【0020】
さらに、前記画像から、前記特定領域として被写体領域を抽出する画像分割部を備え、
前記ボケブレ評価部は、前記処理(C)を実行する場合に、
前記画像分割部により前記画像から抽出された被写体領域を拡大表示するものであることが好ましい。
【0021】
さらに、前記付帯情報に含まれる、前記画像の撮影時のシャッタースピードが所定値よりも遅い場合に、手ブレおよびピンボケの警告を発する警告発生部を備えることが好ましい。
【0022】
また、前記シャッタースピードの所定値は、35mmフィルム換算の焦点距離の逆数であることが好ましい。
【0023】
また、前記画像分割部は、顔検出、人物検出、ペット検出、フォーカスエリア検出のいずれかにより、前記画像から前記被写体領域を抽出するものであることが好ましい。
【0024】
また、前記被写界深度算出部は、前記付帯情報として、前記画像の撮影時に取得される絞り値を、前記被写界深度の概算値として使用するものであることが好ましい。
【0025】
また、前記被写界深度算出部は、前記付帯情報として、前記画像の撮影時に取得されるレンズの焦点距離および絞り値を用いて、前記レンズ焦点距離/前記絞り値により前記被写界深度の概算値を算出するものであることが好ましい。
【0026】
また、前記被写界深度算出部は、前記付帯情報として、さらに、前記画像の撮影時に取得される、カメラと被写体との間の距離を用いて、該距離が近くなるほど、前記被写界深度の概算値が大きくなるように調整するものであることが好ましい。
【0027】
また、前記ボケブレ評価部は、前記画像の評価値を算出する場合、前記付帯情報に含まれる前記画像の撮影時の絞り値に応じて、該絞り値が小さくなるほど前記画像の評価値が大きくなるように調整するものであることが好ましい。
【0028】
さらに、複数の前記画像の評価値に基づいて、複数の該画像を並び替える画像処理部を備えることが好ましい。
【0029】
さらに、前記ボケブレ評価部により前記画像が前記ボケブレ画像であると判定された場合に、前記評価値に基づいて、前記画像のボケもしくはブレを軽減するための補正処理を施す画像処理部を備えることが好ましい。
【0030】
また、本発明は、画像を取得する画像取得ステップと、
前記画像取得ステップで取得された画像の付帯情報に基づいて、該画像の被写界深度を表す概算値を算出する被写界深度算出ステップと、
前記被写界深度算出ステップで算出された被写界深度の概算値に基づいて、前記画像の被写界深度が基準深度よりも浅いか深いかを判定する被写界深度判定ステップと、
前記被写界深度判定ステップにより前記画像の被写界深度が基準深度よりも浅いと判定された場合に、
(A)前記画像のボケもしくはブレを検出し、該画像のボケもしくはブレの程度を評価するための評価値を算出するボケブレ評価を実施しない、
(B)前記画像から抽出された特定領域について前記ボケブレ評価を実施し、該特定領域の評価値から前記画像の評価値を算出する、
(C)ユーザにより入力される評価値を受け取る、
のいずれかの処理を実行するボケブレ評価ステップと、を備えることを特徴とする画像処理方法を提供する。
【0031】
また、本発明は、上記に記載の各々のステップをコンピュータに実行させる画像処理プログラムを提供する。
【0032】
また、本発明は、上記に記載の各々のステップをコンピュータに実行させる画像処理プログラムを記録したコンピュータ読み取り可能な記録媒体を提供する。
【発明の効果】
【0033】
本発明によれば、画像の付帯情報を利用して、ユーザの意図を推定することにより、ボケブレを含む画像が、ユーザにより意図的にボケブレが表現された成功画像なのか、そうではない失敗画像なのかを正しく評価することができる。
【図面の簡単な説明】
【0034】
【図1】本発明の画像処理装置の構成を表す一実施形態のブロック概念図である。
【図2】図1に示す画像処理装置の動作を表す第1の例のフローチャートである。
【図3】図1に示す画像処理装置の動作を表す第2の例のフローチャートである。
【図4】図1に示す画像処理装置の動作を表す第3の例のフローチャートである。
【図5】画像を16個の評価領域に分割した場合の例である。
【図6】被写界深度とボケブレ画像との関係を表す一例のグラフである。
【図7】(A)および(B)は、それぞれ、成功画像および失敗画像の一例を表すものである。
【図8】(A)は被写体を含む画像の一例を表すものであり、(B)は(A)に示す画像から抽出された被写体領域、(C)は(A)に示す画像から抽出された背景領域を表すものである。
【図9】被写界深度と重み付け係数との関係を表す一例のグラフである。
【図10】(A)および(B)は、それぞれ、測距点の領域においてボケブレのない画像、および、ブレのある画像である。
【図11】図1に示す画像処理装置の動作を表す第4の例のフローチャートである。
【図12】(A)は画像の一例を表すものであり、(B)はボケブレのない被写体の顔領域、(C)はボケブレのある被写体の顔領域を表すものである。
【発明を実施するための形態】
【0035】
以下に、添付の図面に示す好適実施形態に基づいて、本発明の画像処理装置、画像処理方法および画像処理プログラムを詳細に説明する。
【0036】
図1は、本発明の画像処理装置の構成を表す一実施形態のブロック概念図である。同図に示す画像処理装置10は、ボケブレを含む画像が、ユーザにより意図的にボケブレが表現された成功画像なのか、そうではない失敗画像なのかを評価するものであって、画像取得部12と、被写界深度算出部14と、被写界深度判定部16と、画像分割部18と、ボケブレ評価部20と、画像処理部22と、入力部24と、記憶部26と、表示部28と、警告発生部30とによって構成されている。
【0037】
画像取得部12は、ボケブレの評価対象となる画像(画像データ)を取得する。画像取得部12は、画像を取得するものであれば何ら限定されないが、例えば、USB(Universal Serial Bus)メモリ、メモリカード、光学ディスク、有線/無線のネットワーク等を介して画像を取得するものが利用可能である。画像取得部12により取得された画像は、記憶部26に記憶される。
【0038】
被写界深度算出部14は、画像取得部12で取得された画像の付帯情報に基づいて、画像の被写界深度を表す概算値DVを算出する。
【0039】
ここで、画像の付帯情報とは、画像の撮影時に撮影装置等によって取得される、レンズの焦点距離、絞り値(F値)、カメラと被写体との間の距離(撮影距離)、シャッタースピード等を含む、各種の情報である。付帯情報は、対応する画像と関連付けられていれば画像とは別ファイルでもよいが、例えば、デジタルカメラ等で撮影された画像が、Exif(Exchangeable Image File Format)等の画像ファイルフォーマットで記録される場合、そのヘッダ情報(Exif情報)として、これらの各種の情報が、撮影された画像データに付帯されて記録される。
【0040】
被写界深度算出部14は、例えば、画像の付帯情報として、レンズの焦点距離および絞り値(F値)を用いて、下記式(1)により画像の被写界深度の概算値DVを算出する。被写界深度の概算値DVは、小さいほど被写界深度が深く、大きいほど被写界深度が浅いことを表す。
被写界深度の概算値DV=レンズ焦点距離/絞り値 … (1)
【0041】
なお、被写界深度の概算値DVは、上記式(1)により算出することに限定されず、例えば、絞り値そのものを被写界深度の概算値DVとして使用することもできる。絞り値が小さくなるほど被写界深度は浅くなる。また、被写界深度の概算値DVの調整に撮影距離を利用してもよい。撮影距離が近くなるほど、被写界深度は浅くなる。これを考慮し、撮影距離が近くなるほど、被写界深度の概算値DVが大きくなるように調整してもよい。
【0042】
ただし、被写界深度の概算値DVは、絞り値そのものを使用するよりも、レンズ焦点距離および絞り値を用いて式(1)により算出する方が、より正確な値を算出できる。さらに、被写界深度の概算値DVとして絞り値をそのまま使用する場合も、カメラ焦点距離および絞り値を用いて式(1)により算出する場合も、さらに、撮影距離を利用して被写界深度の概算値DVを調整する方が、より正確な値を算出できる。
【0043】
続いて、被写界深度判定部16は、被写界深度算出部14で算出された被写界深度の概算値DVに基づいて、画像の被写界深度が基準深度よりも浅いか深いかを判定する。被写界深度判定部16は、被写界深度の概算値DVと閾値Dtとを比較し、被写界深度の概算値DVが閾値Dtよりも小さい場合(DV<Dt)に、被写界深度が閾値Dtに対応する所定の基準深度よりも深いと判定し、その逆に、大きい場合(DV>Dt)に浅いと判定する。
【0044】
ここで、基準深度は、ボケブレを含む画像が、ユーザにより意図的にボケブレが表現された成功画像なのか、そうではない失敗画像なのかを判断するための基準となる被写界深度である。
【0045】
被写界深度が基準深度よりも深い場合(以下、単に被写界深度が深いという)、ほとんどのシーンで全域にピントが合い、背景のボケ量も小さいため、画像に生じた滲みは被写体ブレや手ブレ、またはピンボケによるものである可能性が高い。一方、被写界深度が基準深度よりも浅い場合(以下、単に被写界深度が浅いという)、ピントが合う範囲が狭くなるため、検出される画像の滲みは、背景をぼかす撮影モードなどを利用して、ユーザにより意図的にボケブレが表現されたものである可能性が高い。
【0046】
画像処理装置10は、この性質を利用して、ユーザの意図を、撮影時の被写界深度情報(被写界深度の概算値DV)から推定することにより、画像のボケブレを評価する際に、ユーザ自身の視点に立った評価を行うことができるようにしたものである。
【0047】
続いて、画像分割部18は、画像取得部12で取得された画像から特定領域を抽出する。画像分割部18は、例えば、画像を、被写体領域とそれ以外の1以上の領域とに分割し、被写体領域のみ、もしくは、分割されたそれぞれの領域を特定領域として抽出する。また、画像分割部18は、画像を、4分割、9分割、16分割、…などの複数の領域に分割し、分割されたそれぞれの領域を特定領域として抽出する。
【0048】
なお、特定領域として、画像から被写体領域を抽出する場合、被写体は、人物でもよいし、あるいは、例えば、動物、植物、自動車、建物、等のような人物以外の各種のオブジェクトであってもよい。
【0049】
ボケブレ評価部20は、被写界深度判定部16により画像の被写界深度が浅いと判定された場合に、以下の(A)〜(C)のいずれかの処理を実行する。
(A)画像のボケブレを検出して、画像のボケブレの程度を評価するための評価値を算出するボケブレ評価を実施しない。
(B)画像から抽出された特定領域についてボケブレ評価を実施し、特定領域の評価値から画像の評価値を算出する。評価値は、画像のボケブレの程度に応じて決定される。本実施形態の場合、評価値は、0〜1の値であり、ボケブレの程度が比較的大きい場合に0に近い値となり、ボケブレの程度が比較的小さい場合に1に近い値となる。
(C)ユーザにより入力される評価値を受け取る。
【0050】
被写界深度が浅い場合、ボケブレを含む画像は、ユーザにより意図的にボケブレが表現された成功画像である可能性が高い。この場合、ボケブレ評価部20により、上記(A)〜(C)のいずれかの処理が実行され、1に近い(例えば、0〜1の中央値である0.5よりも大きい)評価値が与えられる。
【0051】
また、ボケブレ評価部20は、被写界深度判定部16により画像の被写界深度が深いと判定された場合に、画像に対して前述のボケブレ評価を実施して画像の評価値を算出する。
【0052】
被写界深度が深い場合、ボケブレを含む画像は、失敗画像である可能性が高い。この場合、ボケブレ評価部20により、画像のボケブレの程度に応じて、0に近い(例えば、0.5よりも小さい)評価値が与えられる。
【0053】
ここで、絞り値が小さくなるほど、被写界深度は浅くなる。しかし、絞り値が小さくなるとピントが合う範囲が狭くなるため、ボケブレ評価部20により与えられる評価値は小さくなる。従って、絞り値が小さくなるほど、評価値が大きくなるように調整することが望ましい。
【0054】
なお、画像の被写界深度が深いと判定された場合に、さらに、付帯情報に含まれる画像の撮影モードが、画像の背景をぼかして撮影する撮影モードである場合には、前述の(A)〜(C)のいずれかの処理を実行してもよい。
【0055】
また、ボケブレ評価部20は、評価値に基づいて、画像(領域)がボケブレ画像(ボケブレ領域)であるか否かを判定する。ボケブレ評価部20は、評価値が所定の基準値、例えば、0.3よりも小さい場合に、その画像がボケブレ画像であると判定する。
【0056】
なお、ボケブレ評価は、画像のボケブレの程度を評価することができればよく、画像のボケブレを検出する方法や、画像のボケブレの程度を評価するための評価値を算出する方法は何ら限定されない。例えば、画像のボケブレを検出するのではなく、画像の鮮鋭度(シャープネス)を検出し、画像の鮮鋭度の程度を評価することによって、ボケブレ評価を行うことなども可能である。
【0057】
続いて、画像処理部22は、評価値に基づいて、その昇順または降順に複数の画像を並べ替える。これにより、ユーザが画像のボケブレを評価する支援を行うことができ、ボケブレのない、もしくは少ない良好な画像を優先的に抽出しやすくすることができる。
【0058】
また、画像処理部22は、ボケブレ評価部20により画像がボケブレ画像であると判定された場合に、画像のボケブレを軽減するための補正処理を施す。画像のボケブレの補正方法は何ら限定されず、画像のシャープネス処理等の公知の方法がいずれも利用できる。例えば、画像を高中低の周波数成分に分解し、中周波成分を抑え、高周波成分を強調することにより、画像のボケブレを軽減する補正方法を例示することができる。
【0059】
入力部24は、例えば、被写界深度判定部16により画像の被写界深度が浅いと判定された場合等に、ユーザが、画像の評価値を入力するためのものである。入力部24は、例えば、キーボード、マウス、タッチパネル等の入力装置により、表示部28に表示されたGUI(Graphical User Interface:グラフィカル・ユーザ・インターフェース)を操作して評価値を入力するものなどを利用することができる。
【0060】
記憶部26は、ハードディスク等の記憶装置であって、画像取得部12で取得された画像を記憶する。画像取得部12で取得された画像は、一旦、記憶部26に記憶され、記憶部26から、画像分割部18,画像処理部22等へ供給される。また、記憶部26は、画像処理部22でボケブレ軽減の補正処理が施された画像も記憶する。記憶部26に記憶された画像は、表示部28に表示される。
【0061】
表示部28は、液晶ディスプレー等の表示装置であって、記憶部に記憶された画像、つまり、画像取得部12で取得された画像や画像処理部22でボケブレ軽減の補正処理が施された画像の他、警告発生部30から発せられる警告メッセージ等を表示する。
【0062】
警告発生部30は、被写界深度判定部16により画像の被写界深度が浅いと判定された場合に、さらに、付帯情報に含まれる画像の撮影時のシャッタースピードが、所定値、例えば、35mmフィルム換算の焦点距離の逆数よりも遅い場合に、画像が手ブレやピンボケ等の失敗画像である可能性があることをユーザに通知するための警告を発する。本実施形態の警告発生部30は、警告メッセージを表示部28に表示するものであるが、例えば、音声により警告を発するものであってもよい。
【0063】
次に、図2に示すフローチャートを参照して、本発明の画像処理方法に従って画像を評価する場合の画像処理装置10の動作を説明する。
【0064】
画像処理装置10では、まず、画像取得部12により、ボケブレの評価対象となる画像が取得される。例えば、Exifの画像ファイルフォーマットの画像が取得された場合には、そのヘッダ情報(Exif情報)から、画像の付帯情報として、レンズ焦点距離および絞り値が取得される(ステップST1)。画像取得部12で取得された画像は、記憶部26に記憶され、その付帯情報は、被写界深度算出部14へ供給される。
【0065】
続いて、被写界深度算出部14により、画像取得部12で取得された画像の付帯情報であるレンズ焦点距離および絞り値を用いて、前述の式(1)により、画像の被写界深度を表す概算値DVが算出される(ステップST2)。
【0066】
続いて、被写界深度判定部16により、被写界深度算出部14で算出された被写界深度の概算値DVと閾値Dtとの比較が行われ、画像の被写界深度が基準深度よりも浅いか深いかの判定が行われる(ステップST3)。
【0067】
ここで、被写界深度の概算値DVが閾値Dtよりも小さい、つまり、画像の被写界深度が深いと判定された場合(ステップST3でNO)、ボケブレ評価部20により、ボケブレ評価が実施され、画像の評価値が決定される(ステップST4)。被写界深度が深いと判定された場合は、失敗画像である可能性が高いため、0.5よりも小さい評価値が与えられる。
【0068】
一方、被写界深度の概算値DVが閾値Dtよりも大きい、つまり、画像の被写界深度が浅いと判定された場合(ステップST3でYES)、ボケブレ評価部20により、(A)ボケブレ評価を実施しない(ステップST5)、(B)特定領域を抽出してボケブレ評価を実施(ステップST6)、(C)ユーザ自身による評価値の入力、のいずれかの処理が実行される(ステップST7)。
【0069】
画像処理装置10では、画像の付帯情報を利用して、ユーザの意図を推定することにより、ボケブレを含む画像が、ユーザにより意図的にボケブレが表現された成功画像なのか、そうではない失敗画像なのかを正しく評価することができる。
【0070】
以下、処理(A)〜(C)が実行される場合について説明する。
まず、処理(A)について、図3に示すフローチャートを参照して説明する。
【0071】
処理(A)の場合、ボケブレ評価部20により、以下の(D)〜(F)のいずれかの処理が実行される。
(D)画像に対して、背景をぼかした画像に対する評価として定義された一律(規定)の評価値、本実施形態の場合には、例えば、0.7を与える(ステップST8)。
(E)画像に対して、閾値BOt、本実施形態の場合には、例えば、0.5よりも大きいランダムな評価値を与える(ステップST9)。
(F)画像を評価対象外とする(ステップST10)。
【0072】
被写界深度が浅いと判定された場合(ステップST3でYES)は、ユーザにより意図的にボケブレが表現された成功画像である可能性が高いため、0.5よりも大きい評価値が与えられる。
【0073】
以後同様に、複数の画像について同様の処理が繰り返される。そして、所定数の画像について処理が終わると、画像処理部22により、例えば、評価値の降順に画像の並べ替えが行われ、表示部28に表示される。
【0074】
または、画像処理部22により、閾値BLtに基づいて、各画像がボケブレ画像であるか否かを表示するようにしてもよい。この場合の閾値BLtは、前述の閾値BOtと同じか、より低い値とする。つまり、本実施形態の場合、閾値BLtは、0.5よりも小さい値となる。例えば、評価値が0.3よりも小さい場合、その画像はボケブレ画像であると表示する。
【0075】
複数の画像に対して、画像のピクセル情報からボケブレを検出して評価すると、手ブレや被写体ブレ、ピンボケ等の失敗画像と、ユーザにより意図的に表現された背景のぼかし等の成功画像との区別がつかない。そのため、意図的かそうでないかに関わらず、ボケの面積が広い背景ボケの方が低い(悪い)評価になる。しかし、ユーザにとって背景のボケは好ましいものである場合が多い。
【0076】
これに対して、本発明では、画像の撮影時の付帯情報から、背景などのぼかしを含む画像が、ユーザにより意図的に表現された成功画像か、そうではない失敗画像なのかを推定し、評価の方法を切り替える。これにより、ユーザにより意図的に表現された背景のぼかし等の成功画像に悪評価を与えることなく、適切な評価を与えることができるため、ユーザが、膨大な枚数の画像の中から、ボケブレ画像ではない成功画像を優先的に抽出する支援を適切に行うことができる。
【0077】
続いて、処理(B)について、図4に示すフローチャートを参照して説明する。
【0078】
処理(B)の場合、以下の(G)または(H)の処理が実行される。
(G)画像分割部18により、画像を複数の評価領域に分割し、ボケブレ評価部20により、それぞれの評価領域でボケブレ評価を行って領域毎の評価値を算出し、被写界深度の概算値DVに基づいて、領域毎の評価値から画像の評価値を算出する(ステップST14)。
(H)画像分割部18により、画像を被写体領域とそれ以外の1以上の領域とに分割し、ボケブレ評価部20により、被写界深度の概算値DVに基づいて、被写体領域の評価値と1以上の領域の評価値とを重み付けして合算することにより、画像の評価値を算出する(ステップST15)。
【0079】
処理(G)の場合、まず、被写界深度の概算値DVに基づいて、画像がボケブレ画像(失敗画像)ではないと判定するために許容される、ボケブレ領域(失敗領域)であると判定される評価領域の上限の個数を表すボケブレ許容領域数が決定される。
【0080】
例えば、被写界深度とボケブレ許容領域数との関係を表すLUT(ルックアップテーブル)を用いて、被写界深度の概算値DVに対応するボケブレ許容領域数を求めることができる。このLUTは、被写界深度に応じて変化するピントの合う深さと、画像上でのピントの合う範囲との関係を統計的に求め、評価領域の総数に対して、被写界深度に応じて許容できるボケブレ領域の割合(または、個数)をあらかじめ定義したものである。
【0081】
図6は、被写界深度とボケブレ画像との関係を表す一例のグラフである。同図の横軸は被写界深度、縦軸はボケブレ領域の個数を表す。このグラフに示す例の場合、被写界深度が浅くなるほど、ボケブレ許容領域数、つまり、画像がボケブレ画像ではないと判定するために許容される、ボケブレ領域であると判定される評価領域上限の個数が多くなり、逆に、被写界深度が深くなるほど、ボケブレ許容領域数が少なくなる。
【0082】
このグラフに示すように、被写界深度とボケブレ許容領域数との関係がLUTに定義されているとすると、被写界深度の概算値DVに基づいて、例えば、16個の評価領域のうち、12個以上の評価領域がボケブレ領域である場合、その画像はボケブレ画像であると判定され、ボケブレ領域の個数が11個以下であれば、ボケブレ画像ではないと判定される。この場合、ボケブレ許容領域数は11となる。
【0083】
続いて、画像分割部18により、画像が、例えば、4分割、9分割、16分割、…のように、複数の評価領域に分割され、ボケブレ評価部20により、各々の領域についてボケブレ評価が行われて、その評価値が算出される(ステップST14)。ここでは、図5に示すように、画像が、縦方向にA〜Dの4分割、横方向に1〜4の4分割され、合計で16分割され、16個の評価領域のそれぞれについて、ボケブレ評価が行われるものとする。
【0084】
続いて、各々の評価領域の評価値に基づいて、各々の評価領域がボケブレ領域であるのか否かが判定される。例えば、領域の評価値が0.3よりも小さい場合に、その領域はボケブレ領域であると判定される。
【0085】
続いて、ボケブレ領域の個数とボケブレ許容領域数とが比較される。ボケブレ領域の個数がボケブレ許容領域数を下回っている場合、例えば、図7(A)に示すように、ボケブレ領域の個数が11個の場合(同図中、ボケブレと記載された評価領域はボケブレ領域であり、○が記載された評価領域は成功領域である)、その画像はボケブレがない成功画像であると判定され、超える場合、例えば、同図(B)に示すように、16個全ての評価領域がボケブレ領域である場合に、ボケブレ画像であると判定される。
【0086】
また、画像のボケブレ判定とは別に、各評価領域の評価値の大きい(良い)方から、(評価領域の総数−ボケブレ許容領域数)の個数の評価領域、上記図5〜7の例の場合、16−11=5個の評価領域の評価値を加算平均することにより、画像の評価値が算出される(ステップST16)。
【0087】
そして、画像処理部22により、ボケブレ画像であると判定された画像について、ボケブレ軽減の補正処理が行われる。処理後の画像は記憶部26に記憶され、以後同様に、複数の画像について同様の処理が繰り返される。そして、所定数の画像について処理が終わると、画像処理部22により、例えば、評価値の降順に画像の並べ替えが行われ、表示部28に表示される。
【0088】
このように、被写界深度が浅い場合でも、領域分割を行って、それぞれの領域を評価することによってボケブレ画像なのか否かを検出することが可能になる。また、それぞれの画像の被写界深度に応じた評価値を与えることができる。さらに、それぞれの評価領域の評価値を、被写界深度の概算値DVに基づいて、画像毎に異なる基準(ボケブレ許容領域数)で評価することにより、ユーザの意図、画像毎の状態を考慮した評価が可能となる。
【0089】
次に、処理(H)の場合に、被写界深度判定部16により被写界深度が深いと判定された場合には、画像が、被写体領域とそれ以外の1以上の領域とに分割され、それぞれの領域毎に、ボケブレ評価が行われて評価値が算出される。
【0090】
図8に示すように、例えば、同図(A)に示す、被写体を含む画像から被写体領域が抽出され、同図(B)に示す被写体領域と、同図(C)に示す、それ以外の背景領域とに分割され(ステップST11)、それぞれの領域についてボケブレ評価が行われる(ステップST12)。ここでは、被写体領域の評価値が0.9であり、背景領域の評価値が0.6であるとする。
【0091】
続いて、被写界深度の概算値DVに基づいて、被写体領域の評価値と背景領域の評価値とが重み付けされて合算されることにより、画像の評価値が算出され(ステップST13)、評価値に基づいて、画像がボケブレ画像なのか否かの判定が行われる。例えば、図9のグラフに示すように、あらかじめ被写界深度に応じて定義された、被写体領域および背景領域のそれぞれの重み付け係数を求め、被写体領域の評価値および背景領域の評価値をそれぞれ重み付けして合算する。
【0092】
図9は、被写界深度と重み付け係数との関係を表す一例のグラフである。このグラフの横軸は被写界深度、縦軸は重み付け係数を表す。このグラフにおいて、被写界深度が、ある程度よりも深くなると、被写体領域および背景領域の重み付け係数は等しくなり、逆に、ある程度よりも浅くなると、被写界深度が浅くなるほど、被写体領域の重み付け係数が大きく、かつ、背景領域の重み付け係数が小さくなる。
【0093】
被写界深度が深いと判定された場合でも、被写界深度が比較的浅い場合には、被写体領域よりも背景領域の方がボケが多いと考えられる。そのため、背景領域よりも被写体領域の方の重み(重要度)を大きくして両者を合算する。同図の例の場合には、被写体領域の評価値である0.9に重み付け係数0.7を乗算し、背景領域の評価値である0.6に重み付け係数0.3を乗算し、両者を合算する。
【0094】
一方、被写界深度が、ある程度よりも深くなると、被写体領域および背景領域の両方ともボケが少なくなると考えられる。つまり、被写体領域と背景領域の重要度はほぼ等しいと考えられるため、両者を均等に重み付けして合算する。同図の例の場合、被写体領域の評価値である0.9および背景領域の評価値である0.6のそれぞれに重み付け係数0.5を乗算し、両者を合算する。
【0095】
なお、図9のグラフは、被写体領域とそれ以外の背景領域との2つの領域における、被写界深度と重み付け係数との関係を表したものであるが、本発明はこれに限定されず、画像が3つ以上の領域に分割された場合にも適用可能である。例えば、画像が、人物(主要被写体領域)とビル等の建物の領域と空の3つの領域に分割された場合には、主要被写体領域からの距離に応じて、建物および空の重み付け係数を小さくしたものを用いる。
【0096】
また、処理(H)の場合に、被写界深度判定部16により被写界深度が浅いと判定された場合には、画像分割部18により、画像から被写体領域のみが抽出され、ボケブレ評価部20により、抽出された被写体領域のみにボケブレ評価が行われて評価値が算出され(ステップST15)、この被写体領域の評価値が画像の評価値とされる(ステップST16)。
【0097】
なお、画像分割部18が、画像から被写体領域を検出する方法は何ら限定されず、公知の方法がいずれも利用可能である。例えば、顔検出、人物検出、ペット検出、フォーカスエリア検出等の画像処理を利用して被写体領域を決定したり、AF(オートフォーカス)時の測距点の情報を利用して、ピントを合わせた測距点に対応する領域を被写体領域とすることができる。また、ユーザ自身に被写体領域を選択させてもよい。
【0098】
図10(A)に示すように、例えば、画像の撮影時に、AFで所定の領域(+の部分)にピントを合わせた場合に、ピントを合わせた領域がボケブレなしであれば、この画像はボケブレのない画像であると判定し、ピントを合わせた領域を被写体領域とする。一方、同図(B)に示すように、ピントを合わせた領域にブレがあれば、この画像はブレのある画像であると判定し、ピントを合わせた領域を被写体領域としない。
【0099】
明確な被写体が存在し、背景との距離が離れている場合には、被写界深度を深くしても背景のボケが避けられない場合がある。
【0100】
これに対し、上記のように、被写体領域と背景領域とを別々に評価することにより、このような場合の画像を、ユーザにとって違和感なく評価することが可能となる。また、被写体領域および背景領域のそれぞれの評価値を、被写界深度の概算値DVに基づいて、画像毎に異なる基準(重み付け係数)で評価することにより、ユーザの意図、画像毎の状態、画像内の重要ポイント(被写体領域等)を考慮した評価が可能となる。
【0101】
さらに、被写界深度が浅い場合には、被写体領域のみを評価することによって、ぼかしたくない部分が、ボケブレなしに撮影できているかどうかを適切に評価することができる。
【0102】
続いて、処理(C)について、図11に示すフローチャートを参照して説明する。
【0103】
処理(C)の場合、まず、画像の付帯情報の1つである、撮影時のシャッタースピードが十分であるか否かのチェックが行われる(ステップST17)。
【0104】
その結果、画像の撮影時のシャッタースピードが所定のスピードよりも遅い場合に(ステップST17でYES)、警告発生部30により、図12(A)に示すように、「ピンボケ注意!」、「ブレ注意!」などの警告メッセージを表示部28に表示させる(ステップST18)。これにより、ユーザは、この画像が、手ブレおよびピンボケ等の失敗画像の可能性があることを理解することができる。
【0105】
一方、シャッタースピードが所定のスピードよりも速い場合(ステップST17でNO)、画像分割部18により、画像から被写体領域を抽出し、画像処理部22により、抽出された被写体領域を表示部28に拡大表示させる(ステップST19)。これにより、ユーザは、拡大表示された画像を見て、画像に含まれるボケブレの評価をより容易に行うことができる。
【0106】
続いて、ユーザは、図12(B)および(C)に示すように、拡大表示された被写体領域を見てボケブレがあるかないかを確認し、入力部24を介して、画像の評価値を入力する(ステップST20)。
【0107】
このように、ユーザ自身が、ユーザにより意図的にボケブレが表現された画像を評価することにより、よりユーザの意図を反映した評価を行うことができる。また、それ以外の失敗画像については、ユーザの負担を減らすことができる。
【0108】
なお、本発明は、ユーザにより撮影された画像(撮影後の画像)について、ボケブレの評価を行う場合だけでなく、ユーザが画像を撮影する時(撮影前)に、ボケブレの評価を行う場合にも同様に適用可能である。
【0109】
また、本発明の画像処理方法は、その各ステップをコンピュータに実行させるための画像処理プログラムとして実現することができる。また、この画像処理プログラムが記録されたコンピュータ読取可能な記録媒体としてもよい。
【0110】
本発明は、基本的に以上のようなものである。
以上、本発明について詳細に説明したが、本発明は上記実施形態に限定されず、本発明の主旨を逸脱しない範囲において、種々の改良や変更をしてもよいのはもちろんである。
【符号の説明】
【0111】
10 画像処理装置
12 画像取得部
14 被写界深度算出部
16 被写界深度判定部
18 画像分割部
20 ボケブレ評価部
22 画像処理部
24 入力部
26 記憶部
28 表示部
30 警告発生部
【技術分野】
【0001】
本発明は、ボケもしくはブレ(以下、ボケブレという)を含む画像が、ユーザ(撮影者)により意図的にボケブレが表現された成功画像なのか、そうではない失敗画像なのかを評価する画像処理装置、画像処理方法および画像処理プログラムに関するものである。
【背景技術】
【0002】
ユーザが、デジタルカメラ等の撮影装置で撮影された膨大な枚数の画像の中から、ボケブレのない成功画像を優先的に抽出する作業を行う場合がある。しかし、ボケブレを含む画像であっても、ユーザにより意図的にボケブレが表現された画像もあるため、そのような意図的にボケブレが表現された成功画像なのか、そうではない失敗画像(ボケブレ画像)なのかを判定することが難しいという問題があった。
【0003】
これに対し、特許文献1には、被写体を撮影して画像データを生成し、撮影時の撮影条件に基づき、画像データが、撮影時にぶれたおそれがあるぶれ画像データであるか否かを判断し、その判断結果情報を画像データと関連付けて格納する画像生成方法が記載されている。また、同文献には、ぶれ情報に基づき、画像データが、ぶれ画像データである場合に、ぶれ画像データのぶれを補正することが記載されている。
【0004】
また、特許文献2には、絞り情報から取得した絞り値がユーザによるマニュアル設定で、かつ所定の値以上である場合に、標準撮影条件で絞り値が設定される場合よりも強いシャープネス調整を実行する画像処理装置であって、動作モード情報に基づいて、画像データのシャープネスを調整する画質調整を実行するか否かの判定を行い、画質調整を実行すると判定したときに、シャープネス調整の度合いを絞り情報とレンズ焦点距離情報とに基づいて決定する画像処理装置が記載されている。
【0005】
また、特許文献3には、デジタル写真画像が被写界深度の浅い画像か否かを判別し、被写界深度が浅いと判別されたデジタル写真画像の主要被写体領域の画像を用いてボケを補正するためのパラメータを設定し、それ以外のデジタル写真画像の全体を用いてボケを補正するためのパラメータを設定し、設定されたパラメータを用いて、デジタル写真画像におけるボケを補正する画像処理方法が記載されている。
【先行技術文献】
【特許文献】
【0006】
【特許文献1】特開2006−217472号公報
【特許文献2】特許第3797346号公報
【特許文献3】特開2005−122688号公報
【発明の概要】
【発明が解決しようとする課題】
【0007】
特許文献1では、撮影された画像の画像データが、ぶれたおそれがあるぶれ画像データであるか否かを撮影後に判断するために、画像の撮影時にあらかじめぶれの有無を判断して、その判断結果情報を画像データに関連付けて格納しておく必要がある。また、同文献では、画像が、ユーザにより意図的にボケブレが表現された成功画像なのか、そうではない失敗画像なのかを評価することができない。
【0008】
また、特許文献2では、画像データのシャープネスを調整する画質調整を実行するか否かの判定に動作モード情報が必要である。また、同文献は、画像のボケブレの判定ではなく、シャープネスの調整を行うものであって、特許文献1の場合と同様に、画像が、ユーザにより意図的にボケブレが表現された成功画像なのか、そうではない失敗画像なのかを評価することができない。
【0009】
特許文献3は、被写界深度の浅いデジタル写真画像のボケを補正するものであって、画像が、ユーザにより意図的にボケブレが表現された成功画像なのか、そうではない失敗画像なのかを評価するものではない。
【0010】
被写体にのみピントが合って前景や背景がボケた画像を魅力的と感じる人、場合は多く、また、レンズによっては全域をボカさずに撮影することがそもそも困難である。このような画像に対し、画像のピクセル情報のみから、画像のボケブレを検出して評価すると、ユーザにより意図的に表現されたボケブレや不可避のボケブレまで悪評価されて、ユーザの期待する評価結果を得ることができないという問題があった。
【0011】
本発明の目的は、ユーザにより意図的にボケブレが表現された成功画像なのか、そうではない失敗画像なのかを正しく評価することができる画像処理装置、画像処理方法および画像処理プログラムを提供することにある。
【課題を解決するための手段】
【0012】
上記目的を達成するために、本発明は、画像を取得する画像取得部と、
前記画像取得部で取得された画像の付帯情報に基づいて、該画像の被写界深度を表す概算値を算出する被写界深度算出部と、
前記被写界深度算出部で算出された被写界深度の概算値に基づいて、前記画像の被写界深度が基準深度よりも浅いか深いかを判定する被写界深度判定部と、
前記被写界深度判定部により前記画像の被写界深度が基準深度よりも浅いと判定された場合に、
(A)前記画像のボケもしくはブレを検出し、該画像のボケもしくはブレの程度を評価するための評価値を算出するボケブレ評価を実施しない、
(B)前記画像から抽出された特定領域について前記ボケブレ評価を実施し、該特定領域の評価値から前記画像の評価値を算出する、
(C)ユーザにより入力される評価値を受け取る、
のいずれかの処理を実行するボケブレ評価部と、を備えることを特徴とする画像処理装置を提供するものである。
【0013】
ここで、前記ボケブレ評価部は、前記被写界深度判定部により前記画像の被写界深度が基準深度よりも深いと判定された場合に、前記ボケブレ評価を実施して該画像の評価値を算出するものであることが好ましい。
【0014】
また、前記ボケブレ評価部は、前記被写界深度判定部により前記画像の被写界深度が基準深度よりも深いと判定された場合に、さらに、前記付帯情報に含まれる前記画像の撮影モードが、該画像の背景をぼかして撮影する撮影モードである場合に、前記(A)〜(C)のいずれかの処理を実行するものであることが好ましい。
【0015】
また、前記ボケブレ評価部は、前記処理(A)を実行する場合に、
(D)前記画像に対して、背景をぼかした画像に対する評価として定義された一律の評価値を与える、
(E)前記画像に対してランダムな評価値を与える、
(F)前記画像を評価対象外とする、
のいずれかの処理を実行するものであることが好ましい。
【0016】
さらに、前記画像を複数の評価領域に分割し、各々の該評価領域を前記特定領域として抽出する画像分割部を備え、
前記ボケブレ評価部は、前記処理(B)を実行する場合に、
前記被写界深度の概算値に基づいて、前記画像がボケブレ画像ではないと判定するために許容される、ボケブレ領域であると判定される前記評価領域の上限の個数を表すボケブレ許容領域数を決定し、
前記画像分割部により分割された各々の評価領域について前記ボケブレ評価を実施して、各々の該評価領域の評価値を算出し、
各々の前記評価領域の評価値が高い方から、(前記評価領域の総数−前記ボケブレ許容領域数)の個数の評価領域の評価値を加算平均することにより、前記画像の評価値を算出するものであることが好ましい。
【0017】
また、前記ボケブレ評価部は、さらに、各々の前記評価領域の評価値に基づいて、各々の該評価領域が前記ボケブレ領域であるのか否かを判定し、
前記ボケブレ領域であると判定された評価領域の個数が前記ボケブレ許容領域数を超える場合に、前記画像が前記ボケブレ画像であると判定するものであることが好ましい。
【0018】
さらに、前記画像を被写体領域とそれ以外の1以上の領域とに分割し、該被写体領域とそれ以外の1以上の領域の各々を前記特定領域として抽出する画像分割部を備え、
前記ボケブレ評価部は、前記被写界深度判定部により前記画像の被写界深度が基準深度よりも深いと判定された場合に、
前記画像分割部により分割された被写体領域とそれ以外の1以上の領域の各々について、前記ボケブレ評価を実施して評価値を算出し、
前記被写界深度の概算値に基づいて、前記被写体領域とそれ以外の1以上の領域の評価値を重み付けして合算することにより、前記画像の評価値を算出するものであることが好ましい。
【0019】
また、前記ボケブレ評価部は、前記処理(B)を実行する場合に、
前記画像分割部により分割された被写体領域について、前記ボケブレ評価を実施して評価値を算出し、
前記被写体領域の評価値を、前記画像の評価値とするものであることが好ましい。
【0020】
さらに、前記画像から、前記特定領域として被写体領域を抽出する画像分割部を備え、
前記ボケブレ評価部は、前記処理(C)を実行する場合に、
前記画像分割部により前記画像から抽出された被写体領域を拡大表示するものであることが好ましい。
【0021】
さらに、前記付帯情報に含まれる、前記画像の撮影時のシャッタースピードが所定値よりも遅い場合に、手ブレおよびピンボケの警告を発する警告発生部を備えることが好ましい。
【0022】
また、前記シャッタースピードの所定値は、35mmフィルム換算の焦点距離の逆数であることが好ましい。
【0023】
また、前記画像分割部は、顔検出、人物検出、ペット検出、フォーカスエリア検出のいずれかにより、前記画像から前記被写体領域を抽出するものであることが好ましい。
【0024】
また、前記被写界深度算出部は、前記付帯情報として、前記画像の撮影時に取得される絞り値を、前記被写界深度の概算値として使用するものであることが好ましい。
【0025】
また、前記被写界深度算出部は、前記付帯情報として、前記画像の撮影時に取得されるレンズの焦点距離および絞り値を用いて、前記レンズ焦点距離/前記絞り値により前記被写界深度の概算値を算出するものであることが好ましい。
【0026】
また、前記被写界深度算出部は、前記付帯情報として、さらに、前記画像の撮影時に取得される、カメラと被写体との間の距離を用いて、該距離が近くなるほど、前記被写界深度の概算値が大きくなるように調整するものであることが好ましい。
【0027】
また、前記ボケブレ評価部は、前記画像の評価値を算出する場合、前記付帯情報に含まれる前記画像の撮影時の絞り値に応じて、該絞り値が小さくなるほど前記画像の評価値が大きくなるように調整するものであることが好ましい。
【0028】
さらに、複数の前記画像の評価値に基づいて、複数の該画像を並び替える画像処理部を備えることが好ましい。
【0029】
さらに、前記ボケブレ評価部により前記画像が前記ボケブレ画像であると判定された場合に、前記評価値に基づいて、前記画像のボケもしくはブレを軽減するための補正処理を施す画像処理部を備えることが好ましい。
【0030】
また、本発明は、画像を取得する画像取得ステップと、
前記画像取得ステップで取得された画像の付帯情報に基づいて、該画像の被写界深度を表す概算値を算出する被写界深度算出ステップと、
前記被写界深度算出ステップで算出された被写界深度の概算値に基づいて、前記画像の被写界深度が基準深度よりも浅いか深いかを判定する被写界深度判定ステップと、
前記被写界深度判定ステップにより前記画像の被写界深度が基準深度よりも浅いと判定された場合に、
(A)前記画像のボケもしくはブレを検出し、該画像のボケもしくはブレの程度を評価するための評価値を算出するボケブレ評価を実施しない、
(B)前記画像から抽出された特定領域について前記ボケブレ評価を実施し、該特定領域の評価値から前記画像の評価値を算出する、
(C)ユーザにより入力される評価値を受け取る、
のいずれかの処理を実行するボケブレ評価ステップと、を備えることを特徴とする画像処理方法を提供する。
【0031】
また、本発明は、上記に記載の各々のステップをコンピュータに実行させる画像処理プログラムを提供する。
【0032】
また、本発明は、上記に記載の各々のステップをコンピュータに実行させる画像処理プログラムを記録したコンピュータ読み取り可能な記録媒体を提供する。
【発明の効果】
【0033】
本発明によれば、画像の付帯情報を利用して、ユーザの意図を推定することにより、ボケブレを含む画像が、ユーザにより意図的にボケブレが表現された成功画像なのか、そうではない失敗画像なのかを正しく評価することができる。
【図面の簡単な説明】
【0034】
【図1】本発明の画像処理装置の構成を表す一実施形態のブロック概念図である。
【図2】図1に示す画像処理装置の動作を表す第1の例のフローチャートである。
【図3】図1に示す画像処理装置の動作を表す第2の例のフローチャートである。
【図4】図1に示す画像処理装置の動作を表す第3の例のフローチャートである。
【図5】画像を16個の評価領域に分割した場合の例である。
【図6】被写界深度とボケブレ画像との関係を表す一例のグラフである。
【図7】(A)および(B)は、それぞれ、成功画像および失敗画像の一例を表すものである。
【図8】(A)は被写体を含む画像の一例を表すものであり、(B)は(A)に示す画像から抽出された被写体領域、(C)は(A)に示す画像から抽出された背景領域を表すものである。
【図9】被写界深度と重み付け係数との関係を表す一例のグラフである。
【図10】(A)および(B)は、それぞれ、測距点の領域においてボケブレのない画像、および、ブレのある画像である。
【図11】図1に示す画像処理装置の動作を表す第4の例のフローチャートである。
【図12】(A)は画像の一例を表すものであり、(B)はボケブレのない被写体の顔領域、(C)はボケブレのある被写体の顔領域を表すものである。
【発明を実施するための形態】
【0035】
以下に、添付の図面に示す好適実施形態に基づいて、本発明の画像処理装置、画像処理方法および画像処理プログラムを詳細に説明する。
【0036】
図1は、本発明の画像処理装置の構成を表す一実施形態のブロック概念図である。同図に示す画像処理装置10は、ボケブレを含む画像が、ユーザにより意図的にボケブレが表現された成功画像なのか、そうではない失敗画像なのかを評価するものであって、画像取得部12と、被写界深度算出部14と、被写界深度判定部16と、画像分割部18と、ボケブレ評価部20と、画像処理部22と、入力部24と、記憶部26と、表示部28と、警告発生部30とによって構成されている。
【0037】
画像取得部12は、ボケブレの評価対象となる画像(画像データ)を取得する。画像取得部12は、画像を取得するものであれば何ら限定されないが、例えば、USB(Universal Serial Bus)メモリ、メモリカード、光学ディスク、有線/無線のネットワーク等を介して画像を取得するものが利用可能である。画像取得部12により取得された画像は、記憶部26に記憶される。
【0038】
被写界深度算出部14は、画像取得部12で取得された画像の付帯情報に基づいて、画像の被写界深度を表す概算値DVを算出する。
【0039】
ここで、画像の付帯情報とは、画像の撮影時に撮影装置等によって取得される、レンズの焦点距離、絞り値(F値)、カメラと被写体との間の距離(撮影距離)、シャッタースピード等を含む、各種の情報である。付帯情報は、対応する画像と関連付けられていれば画像とは別ファイルでもよいが、例えば、デジタルカメラ等で撮影された画像が、Exif(Exchangeable Image File Format)等の画像ファイルフォーマットで記録される場合、そのヘッダ情報(Exif情報)として、これらの各種の情報が、撮影された画像データに付帯されて記録される。
【0040】
被写界深度算出部14は、例えば、画像の付帯情報として、レンズの焦点距離および絞り値(F値)を用いて、下記式(1)により画像の被写界深度の概算値DVを算出する。被写界深度の概算値DVは、小さいほど被写界深度が深く、大きいほど被写界深度が浅いことを表す。
被写界深度の概算値DV=レンズ焦点距離/絞り値 … (1)
【0041】
なお、被写界深度の概算値DVは、上記式(1)により算出することに限定されず、例えば、絞り値そのものを被写界深度の概算値DVとして使用することもできる。絞り値が小さくなるほど被写界深度は浅くなる。また、被写界深度の概算値DVの調整に撮影距離を利用してもよい。撮影距離が近くなるほど、被写界深度は浅くなる。これを考慮し、撮影距離が近くなるほど、被写界深度の概算値DVが大きくなるように調整してもよい。
【0042】
ただし、被写界深度の概算値DVは、絞り値そのものを使用するよりも、レンズ焦点距離および絞り値を用いて式(1)により算出する方が、より正確な値を算出できる。さらに、被写界深度の概算値DVとして絞り値をそのまま使用する場合も、カメラ焦点距離および絞り値を用いて式(1)により算出する場合も、さらに、撮影距離を利用して被写界深度の概算値DVを調整する方が、より正確な値を算出できる。
【0043】
続いて、被写界深度判定部16は、被写界深度算出部14で算出された被写界深度の概算値DVに基づいて、画像の被写界深度が基準深度よりも浅いか深いかを判定する。被写界深度判定部16は、被写界深度の概算値DVと閾値Dtとを比較し、被写界深度の概算値DVが閾値Dtよりも小さい場合(DV<Dt)に、被写界深度が閾値Dtに対応する所定の基準深度よりも深いと判定し、その逆に、大きい場合(DV>Dt)に浅いと判定する。
【0044】
ここで、基準深度は、ボケブレを含む画像が、ユーザにより意図的にボケブレが表現された成功画像なのか、そうではない失敗画像なのかを判断するための基準となる被写界深度である。
【0045】
被写界深度が基準深度よりも深い場合(以下、単に被写界深度が深いという)、ほとんどのシーンで全域にピントが合い、背景のボケ量も小さいため、画像に生じた滲みは被写体ブレや手ブレ、またはピンボケによるものである可能性が高い。一方、被写界深度が基準深度よりも浅い場合(以下、単に被写界深度が浅いという)、ピントが合う範囲が狭くなるため、検出される画像の滲みは、背景をぼかす撮影モードなどを利用して、ユーザにより意図的にボケブレが表現されたものである可能性が高い。
【0046】
画像処理装置10は、この性質を利用して、ユーザの意図を、撮影時の被写界深度情報(被写界深度の概算値DV)から推定することにより、画像のボケブレを評価する際に、ユーザ自身の視点に立った評価を行うことができるようにしたものである。
【0047】
続いて、画像分割部18は、画像取得部12で取得された画像から特定領域を抽出する。画像分割部18は、例えば、画像を、被写体領域とそれ以外の1以上の領域とに分割し、被写体領域のみ、もしくは、分割されたそれぞれの領域を特定領域として抽出する。また、画像分割部18は、画像を、4分割、9分割、16分割、…などの複数の領域に分割し、分割されたそれぞれの領域を特定領域として抽出する。
【0048】
なお、特定領域として、画像から被写体領域を抽出する場合、被写体は、人物でもよいし、あるいは、例えば、動物、植物、自動車、建物、等のような人物以外の各種のオブジェクトであってもよい。
【0049】
ボケブレ評価部20は、被写界深度判定部16により画像の被写界深度が浅いと判定された場合に、以下の(A)〜(C)のいずれかの処理を実行する。
(A)画像のボケブレを検出して、画像のボケブレの程度を評価するための評価値を算出するボケブレ評価を実施しない。
(B)画像から抽出された特定領域についてボケブレ評価を実施し、特定領域の評価値から画像の評価値を算出する。評価値は、画像のボケブレの程度に応じて決定される。本実施形態の場合、評価値は、0〜1の値であり、ボケブレの程度が比較的大きい場合に0に近い値となり、ボケブレの程度が比較的小さい場合に1に近い値となる。
(C)ユーザにより入力される評価値を受け取る。
【0050】
被写界深度が浅い場合、ボケブレを含む画像は、ユーザにより意図的にボケブレが表現された成功画像である可能性が高い。この場合、ボケブレ評価部20により、上記(A)〜(C)のいずれかの処理が実行され、1に近い(例えば、0〜1の中央値である0.5よりも大きい)評価値が与えられる。
【0051】
また、ボケブレ評価部20は、被写界深度判定部16により画像の被写界深度が深いと判定された場合に、画像に対して前述のボケブレ評価を実施して画像の評価値を算出する。
【0052】
被写界深度が深い場合、ボケブレを含む画像は、失敗画像である可能性が高い。この場合、ボケブレ評価部20により、画像のボケブレの程度に応じて、0に近い(例えば、0.5よりも小さい)評価値が与えられる。
【0053】
ここで、絞り値が小さくなるほど、被写界深度は浅くなる。しかし、絞り値が小さくなるとピントが合う範囲が狭くなるため、ボケブレ評価部20により与えられる評価値は小さくなる。従って、絞り値が小さくなるほど、評価値が大きくなるように調整することが望ましい。
【0054】
なお、画像の被写界深度が深いと判定された場合に、さらに、付帯情報に含まれる画像の撮影モードが、画像の背景をぼかして撮影する撮影モードである場合には、前述の(A)〜(C)のいずれかの処理を実行してもよい。
【0055】
また、ボケブレ評価部20は、評価値に基づいて、画像(領域)がボケブレ画像(ボケブレ領域)であるか否かを判定する。ボケブレ評価部20は、評価値が所定の基準値、例えば、0.3よりも小さい場合に、その画像がボケブレ画像であると判定する。
【0056】
なお、ボケブレ評価は、画像のボケブレの程度を評価することができればよく、画像のボケブレを検出する方法や、画像のボケブレの程度を評価するための評価値を算出する方法は何ら限定されない。例えば、画像のボケブレを検出するのではなく、画像の鮮鋭度(シャープネス)を検出し、画像の鮮鋭度の程度を評価することによって、ボケブレ評価を行うことなども可能である。
【0057】
続いて、画像処理部22は、評価値に基づいて、その昇順または降順に複数の画像を並べ替える。これにより、ユーザが画像のボケブレを評価する支援を行うことができ、ボケブレのない、もしくは少ない良好な画像を優先的に抽出しやすくすることができる。
【0058】
また、画像処理部22は、ボケブレ評価部20により画像がボケブレ画像であると判定された場合に、画像のボケブレを軽減するための補正処理を施す。画像のボケブレの補正方法は何ら限定されず、画像のシャープネス処理等の公知の方法がいずれも利用できる。例えば、画像を高中低の周波数成分に分解し、中周波成分を抑え、高周波成分を強調することにより、画像のボケブレを軽減する補正方法を例示することができる。
【0059】
入力部24は、例えば、被写界深度判定部16により画像の被写界深度が浅いと判定された場合等に、ユーザが、画像の評価値を入力するためのものである。入力部24は、例えば、キーボード、マウス、タッチパネル等の入力装置により、表示部28に表示されたGUI(Graphical User Interface:グラフィカル・ユーザ・インターフェース)を操作して評価値を入力するものなどを利用することができる。
【0060】
記憶部26は、ハードディスク等の記憶装置であって、画像取得部12で取得された画像を記憶する。画像取得部12で取得された画像は、一旦、記憶部26に記憶され、記憶部26から、画像分割部18,画像処理部22等へ供給される。また、記憶部26は、画像処理部22でボケブレ軽減の補正処理が施された画像も記憶する。記憶部26に記憶された画像は、表示部28に表示される。
【0061】
表示部28は、液晶ディスプレー等の表示装置であって、記憶部に記憶された画像、つまり、画像取得部12で取得された画像や画像処理部22でボケブレ軽減の補正処理が施された画像の他、警告発生部30から発せられる警告メッセージ等を表示する。
【0062】
警告発生部30は、被写界深度判定部16により画像の被写界深度が浅いと判定された場合に、さらに、付帯情報に含まれる画像の撮影時のシャッタースピードが、所定値、例えば、35mmフィルム換算の焦点距離の逆数よりも遅い場合に、画像が手ブレやピンボケ等の失敗画像である可能性があることをユーザに通知するための警告を発する。本実施形態の警告発生部30は、警告メッセージを表示部28に表示するものであるが、例えば、音声により警告を発するものであってもよい。
【0063】
次に、図2に示すフローチャートを参照して、本発明の画像処理方法に従って画像を評価する場合の画像処理装置10の動作を説明する。
【0064】
画像処理装置10では、まず、画像取得部12により、ボケブレの評価対象となる画像が取得される。例えば、Exifの画像ファイルフォーマットの画像が取得された場合には、そのヘッダ情報(Exif情報)から、画像の付帯情報として、レンズ焦点距離および絞り値が取得される(ステップST1)。画像取得部12で取得された画像は、記憶部26に記憶され、その付帯情報は、被写界深度算出部14へ供給される。
【0065】
続いて、被写界深度算出部14により、画像取得部12で取得された画像の付帯情報であるレンズ焦点距離および絞り値を用いて、前述の式(1)により、画像の被写界深度を表す概算値DVが算出される(ステップST2)。
【0066】
続いて、被写界深度判定部16により、被写界深度算出部14で算出された被写界深度の概算値DVと閾値Dtとの比較が行われ、画像の被写界深度が基準深度よりも浅いか深いかの判定が行われる(ステップST3)。
【0067】
ここで、被写界深度の概算値DVが閾値Dtよりも小さい、つまり、画像の被写界深度が深いと判定された場合(ステップST3でNO)、ボケブレ評価部20により、ボケブレ評価が実施され、画像の評価値が決定される(ステップST4)。被写界深度が深いと判定された場合は、失敗画像である可能性が高いため、0.5よりも小さい評価値が与えられる。
【0068】
一方、被写界深度の概算値DVが閾値Dtよりも大きい、つまり、画像の被写界深度が浅いと判定された場合(ステップST3でYES)、ボケブレ評価部20により、(A)ボケブレ評価を実施しない(ステップST5)、(B)特定領域を抽出してボケブレ評価を実施(ステップST6)、(C)ユーザ自身による評価値の入力、のいずれかの処理が実行される(ステップST7)。
【0069】
画像処理装置10では、画像の付帯情報を利用して、ユーザの意図を推定することにより、ボケブレを含む画像が、ユーザにより意図的にボケブレが表現された成功画像なのか、そうではない失敗画像なのかを正しく評価することができる。
【0070】
以下、処理(A)〜(C)が実行される場合について説明する。
まず、処理(A)について、図3に示すフローチャートを参照して説明する。
【0071】
処理(A)の場合、ボケブレ評価部20により、以下の(D)〜(F)のいずれかの処理が実行される。
(D)画像に対して、背景をぼかした画像に対する評価として定義された一律(規定)の評価値、本実施形態の場合には、例えば、0.7を与える(ステップST8)。
(E)画像に対して、閾値BOt、本実施形態の場合には、例えば、0.5よりも大きいランダムな評価値を与える(ステップST9)。
(F)画像を評価対象外とする(ステップST10)。
【0072】
被写界深度が浅いと判定された場合(ステップST3でYES)は、ユーザにより意図的にボケブレが表現された成功画像である可能性が高いため、0.5よりも大きい評価値が与えられる。
【0073】
以後同様に、複数の画像について同様の処理が繰り返される。そして、所定数の画像について処理が終わると、画像処理部22により、例えば、評価値の降順に画像の並べ替えが行われ、表示部28に表示される。
【0074】
または、画像処理部22により、閾値BLtに基づいて、各画像がボケブレ画像であるか否かを表示するようにしてもよい。この場合の閾値BLtは、前述の閾値BOtと同じか、より低い値とする。つまり、本実施形態の場合、閾値BLtは、0.5よりも小さい値となる。例えば、評価値が0.3よりも小さい場合、その画像はボケブレ画像であると表示する。
【0075】
複数の画像に対して、画像のピクセル情報からボケブレを検出して評価すると、手ブレや被写体ブレ、ピンボケ等の失敗画像と、ユーザにより意図的に表現された背景のぼかし等の成功画像との区別がつかない。そのため、意図的かそうでないかに関わらず、ボケの面積が広い背景ボケの方が低い(悪い)評価になる。しかし、ユーザにとって背景のボケは好ましいものである場合が多い。
【0076】
これに対して、本発明では、画像の撮影時の付帯情報から、背景などのぼかしを含む画像が、ユーザにより意図的に表現された成功画像か、そうではない失敗画像なのかを推定し、評価の方法を切り替える。これにより、ユーザにより意図的に表現された背景のぼかし等の成功画像に悪評価を与えることなく、適切な評価を与えることができるため、ユーザが、膨大な枚数の画像の中から、ボケブレ画像ではない成功画像を優先的に抽出する支援を適切に行うことができる。
【0077】
続いて、処理(B)について、図4に示すフローチャートを参照して説明する。
【0078】
処理(B)の場合、以下の(G)または(H)の処理が実行される。
(G)画像分割部18により、画像を複数の評価領域に分割し、ボケブレ評価部20により、それぞれの評価領域でボケブレ評価を行って領域毎の評価値を算出し、被写界深度の概算値DVに基づいて、領域毎の評価値から画像の評価値を算出する(ステップST14)。
(H)画像分割部18により、画像を被写体領域とそれ以外の1以上の領域とに分割し、ボケブレ評価部20により、被写界深度の概算値DVに基づいて、被写体領域の評価値と1以上の領域の評価値とを重み付けして合算することにより、画像の評価値を算出する(ステップST15)。
【0079】
処理(G)の場合、まず、被写界深度の概算値DVに基づいて、画像がボケブレ画像(失敗画像)ではないと判定するために許容される、ボケブレ領域(失敗領域)であると判定される評価領域の上限の個数を表すボケブレ許容領域数が決定される。
【0080】
例えば、被写界深度とボケブレ許容領域数との関係を表すLUT(ルックアップテーブル)を用いて、被写界深度の概算値DVに対応するボケブレ許容領域数を求めることができる。このLUTは、被写界深度に応じて変化するピントの合う深さと、画像上でのピントの合う範囲との関係を統計的に求め、評価領域の総数に対して、被写界深度に応じて許容できるボケブレ領域の割合(または、個数)をあらかじめ定義したものである。
【0081】
図6は、被写界深度とボケブレ画像との関係を表す一例のグラフである。同図の横軸は被写界深度、縦軸はボケブレ領域の個数を表す。このグラフに示す例の場合、被写界深度が浅くなるほど、ボケブレ許容領域数、つまり、画像がボケブレ画像ではないと判定するために許容される、ボケブレ領域であると判定される評価領域上限の個数が多くなり、逆に、被写界深度が深くなるほど、ボケブレ許容領域数が少なくなる。
【0082】
このグラフに示すように、被写界深度とボケブレ許容領域数との関係がLUTに定義されているとすると、被写界深度の概算値DVに基づいて、例えば、16個の評価領域のうち、12個以上の評価領域がボケブレ領域である場合、その画像はボケブレ画像であると判定され、ボケブレ領域の個数が11個以下であれば、ボケブレ画像ではないと判定される。この場合、ボケブレ許容領域数は11となる。
【0083】
続いて、画像分割部18により、画像が、例えば、4分割、9分割、16分割、…のように、複数の評価領域に分割され、ボケブレ評価部20により、各々の領域についてボケブレ評価が行われて、その評価値が算出される(ステップST14)。ここでは、図5に示すように、画像が、縦方向にA〜Dの4分割、横方向に1〜4の4分割され、合計で16分割され、16個の評価領域のそれぞれについて、ボケブレ評価が行われるものとする。
【0084】
続いて、各々の評価領域の評価値に基づいて、各々の評価領域がボケブレ領域であるのか否かが判定される。例えば、領域の評価値が0.3よりも小さい場合に、その領域はボケブレ領域であると判定される。
【0085】
続いて、ボケブレ領域の個数とボケブレ許容領域数とが比較される。ボケブレ領域の個数がボケブレ許容領域数を下回っている場合、例えば、図7(A)に示すように、ボケブレ領域の個数が11個の場合(同図中、ボケブレと記載された評価領域はボケブレ領域であり、○が記載された評価領域は成功領域である)、その画像はボケブレがない成功画像であると判定され、超える場合、例えば、同図(B)に示すように、16個全ての評価領域がボケブレ領域である場合に、ボケブレ画像であると判定される。
【0086】
また、画像のボケブレ判定とは別に、各評価領域の評価値の大きい(良い)方から、(評価領域の総数−ボケブレ許容領域数)の個数の評価領域、上記図5〜7の例の場合、16−11=5個の評価領域の評価値を加算平均することにより、画像の評価値が算出される(ステップST16)。
【0087】
そして、画像処理部22により、ボケブレ画像であると判定された画像について、ボケブレ軽減の補正処理が行われる。処理後の画像は記憶部26に記憶され、以後同様に、複数の画像について同様の処理が繰り返される。そして、所定数の画像について処理が終わると、画像処理部22により、例えば、評価値の降順に画像の並べ替えが行われ、表示部28に表示される。
【0088】
このように、被写界深度が浅い場合でも、領域分割を行って、それぞれの領域を評価することによってボケブレ画像なのか否かを検出することが可能になる。また、それぞれの画像の被写界深度に応じた評価値を与えることができる。さらに、それぞれの評価領域の評価値を、被写界深度の概算値DVに基づいて、画像毎に異なる基準(ボケブレ許容領域数)で評価することにより、ユーザの意図、画像毎の状態を考慮した評価が可能となる。
【0089】
次に、処理(H)の場合に、被写界深度判定部16により被写界深度が深いと判定された場合には、画像が、被写体領域とそれ以外の1以上の領域とに分割され、それぞれの領域毎に、ボケブレ評価が行われて評価値が算出される。
【0090】
図8に示すように、例えば、同図(A)に示す、被写体を含む画像から被写体領域が抽出され、同図(B)に示す被写体領域と、同図(C)に示す、それ以外の背景領域とに分割され(ステップST11)、それぞれの領域についてボケブレ評価が行われる(ステップST12)。ここでは、被写体領域の評価値が0.9であり、背景領域の評価値が0.6であるとする。
【0091】
続いて、被写界深度の概算値DVに基づいて、被写体領域の評価値と背景領域の評価値とが重み付けされて合算されることにより、画像の評価値が算出され(ステップST13)、評価値に基づいて、画像がボケブレ画像なのか否かの判定が行われる。例えば、図9のグラフに示すように、あらかじめ被写界深度に応じて定義された、被写体領域および背景領域のそれぞれの重み付け係数を求め、被写体領域の評価値および背景領域の評価値をそれぞれ重み付けして合算する。
【0092】
図9は、被写界深度と重み付け係数との関係を表す一例のグラフである。このグラフの横軸は被写界深度、縦軸は重み付け係数を表す。このグラフにおいて、被写界深度が、ある程度よりも深くなると、被写体領域および背景領域の重み付け係数は等しくなり、逆に、ある程度よりも浅くなると、被写界深度が浅くなるほど、被写体領域の重み付け係数が大きく、かつ、背景領域の重み付け係数が小さくなる。
【0093】
被写界深度が深いと判定された場合でも、被写界深度が比較的浅い場合には、被写体領域よりも背景領域の方がボケが多いと考えられる。そのため、背景領域よりも被写体領域の方の重み(重要度)を大きくして両者を合算する。同図の例の場合には、被写体領域の評価値である0.9に重み付け係数0.7を乗算し、背景領域の評価値である0.6に重み付け係数0.3を乗算し、両者を合算する。
【0094】
一方、被写界深度が、ある程度よりも深くなると、被写体領域および背景領域の両方ともボケが少なくなると考えられる。つまり、被写体領域と背景領域の重要度はほぼ等しいと考えられるため、両者を均等に重み付けして合算する。同図の例の場合、被写体領域の評価値である0.9および背景領域の評価値である0.6のそれぞれに重み付け係数0.5を乗算し、両者を合算する。
【0095】
なお、図9のグラフは、被写体領域とそれ以外の背景領域との2つの領域における、被写界深度と重み付け係数との関係を表したものであるが、本発明はこれに限定されず、画像が3つ以上の領域に分割された場合にも適用可能である。例えば、画像が、人物(主要被写体領域)とビル等の建物の領域と空の3つの領域に分割された場合には、主要被写体領域からの距離に応じて、建物および空の重み付け係数を小さくしたものを用いる。
【0096】
また、処理(H)の場合に、被写界深度判定部16により被写界深度が浅いと判定された場合には、画像分割部18により、画像から被写体領域のみが抽出され、ボケブレ評価部20により、抽出された被写体領域のみにボケブレ評価が行われて評価値が算出され(ステップST15)、この被写体領域の評価値が画像の評価値とされる(ステップST16)。
【0097】
なお、画像分割部18が、画像から被写体領域を検出する方法は何ら限定されず、公知の方法がいずれも利用可能である。例えば、顔検出、人物検出、ペット検出、フォーカスエリア検出等の画像処理を利用して被写体領域を決定したり、AF(オートフォーカス)時の測距点の情報を利用して、ピントを合わせた測距点に対応する領域を被写体領域とすることができる。また、ユーザ自身に被写体領域を選択させてもよい。
【0098】
図10(A)に示すように、例えば、画像の撮影時に、AFで所定の領域(+の部分)にピントを合わせた場合に、ピントを合わせた領域がボケブレなしであれば、この画像はボケブレのない画像であると判定し、ピントを合わせた領域を被写体領域とする。一方、同図(B)に示すように、ピントを合わせた領域にブレがあれば、この画像はブレのある画像であると判定し、ピントを合わせた領域を被写体領域としない。
【0099】
明確な被写体が存在し、背景との距離が離れている場合には、被写界深度を深くしても背景のボケが避けられない場合がある。
【0100】
これに対し、上記のように、被写体領域と背景領域とを別々に評価することにより、このような場合の画像を、ユーザにとって違和感なく評価することが可能となる。また、被写体領域および背景領域のそれぞれの評価値を、被写界深度の概算値DVに基づいて、画像毎に異なる基準(重み付け係数)で評価することにより、ユーザの意図、画像毎の状態、画像内の重要ポイント(被写体領域等)を考慮した評価が可能となる。
【0101】
さらに、被写界深度が浅い場合には、被写体領域のみを評価することによって、ぼかしたくない部分が、ボケブレなしに撮影できているかどうかを適切に評価することができる。
【0102】
続いて、処理(C)について、図11に示すフローチャートを参照して説明する。
【0103】
処理(C)の場合、まず、画像の付帯情報の1つである、撮影時のシャッタースピードが十分であるか否かのチェックが行われる(ステップST17)。
【0104】
その結果、画像の撮影時のシャッタースピードが所定のスピードよりも遅い場合に(ステップST17でYES)、警告発生部30により、図12(A)に示すように、「ピンボケ注意!」、「ブレ注意!」などの警告メッセージを表示部28に表示させる(ステップST18)。これにより、ユーザは、この画像が、手ブレおよびピンボケ等の失敗画像の可能性があることを理解することができる。
【0105】
一方、シャッタースピードが所定のスピードよりも速い場合(ステップST17でNO)、画像分割部18により、画像から被写体領域を抽出し、画像処理部22により、抽出された被写体領域を表示部28に拡大表示させる(ステップST19)。これにより、ユーザは、拡大表示された画像を見て、画像に含まれるボケブレの評価をより容易に行うことができる。
【0106】
続いて、ユーザは、図12(B)および(C)に示すように、拡大表示された被写体領域を見てボケブレがあるかないかを確認し、入力部24を介して、画像の評価値を入力する(ステップST20)。
【0107】
このように、ユーザ自身が、ユーザにより意図的にボケブレが表現された画像を評価することにより、よりユーザの意図を反映した評価を行うことができる。また、それ以外の失敗画像については、ユーザの負担を減らすことができる。
【0108】
なお、本発明は、ユーザにより撮影された画像(撮影後の画像)について、ボケブレの評価を行う場合だけでなく、ユーザが画像を撮影する時(撮影前)に、ボケブレの評価を行う場合にも同様に適用可能である。
【0109】
また、本発明の画像処理方法は、その各ステップをコンピュータに実行させるための画像処理プログラムとして実現することができる。また、この画像処理プログラムが記録されたコンピュータ読取可能な記録媒体としてもよい。
【0110】
本発明は、基本的に以上のようなものである。
以上、本発明について詳細に説明したが、本発明は上記実施形態に限定されず、本発明の主旨を逸脱しない範囲において、種々の改良や変更をしてもよいのはもちろんである。
【符号の説明】
【0111】
10 画像処理装置
12 画像取得部
14 被写界深度算出部
16 被写界深度判定部
18 画像分割部
20 ボケブレ評価部
22 画像処理部
24 入力部
26 記憶部
28 表示部
30 警告発生部
【特許請求の範囲】
【請求項1】
画像を取得する画像取得部と、
前記画像取得部で取得された画像の付帯情報に基づいて、該画像の被写界深度を表す概算値を算出する被写界深度算出部と、
前記被写界深度算出部で算出された被写界深度の概算値に基づいて、前記画像の被写界深度が基準深度よりも浅いか深いかを判定する被写界深度判定部と、
前記被写界深度判定部により前記画像の被写界深度が基準深度よりも浅いと判定された場合に、
(A)前記画像のボケもしくはブレを検出し、該画像のボケもしくはブレの程度を評価するための評価値を算出するボケブレ評価を実施しない、
(B)前記画像から抽出された特定領域について前記ボケブレ評価を実施し、該特定領域の評価値から前記画像の評価値を算出する、
(C)ユーザにより入力される評価値を受け取る、
のいずれかの処理を実行するボケブレ評価部と、を備えることを特徴とする画像処理装置。
【請求項2】
前記ボケブレ評価部は、前記被写界深度判定部により前記画像の被写界深度が基準深度よりも深いと判定された場合に、前記ボケブレ評価を実施して該画像の評価値を算出するものである請求項1に記載の画像処理装置。
【請求項3】
前記ボケブレ評価部は、前記被写界深度判定部により前記画像の被写界深度が基準深度よりも深いと判定された場合に、さらに、前記付帯情報に含まれる前記画像の撮影モードが、該画像の背景をぼかして撮影する撮影モードである場合に、前記(A)〜(C)のいずれかの処理を実行するものである請求項1に記載の画像処理装置。
【請求項4】
前記ボケブレ評価部は、前記処理(A)を実行する場合に、
(D)前記画像に対して、背景をぼかした画像に対する評価として定義された一律の評価値を与える、
(E)前記画像に対してランダムな評価値を与える、
(F)前記画像を評価対象外とする、
のいずれかの処理を実行するものである請求項1に記載の画像処理装置。
【請求項5】
さらに、前記画像を複数の評価領域に分割し、各々の該評価領域を前記特定領域として抽出する画像分割部を備え、
前記ボケブレ評価部は、前記処理(B)を実行する場合に、
前記被写界深度の概算値に基づいて、前記画像がボケブレ画像ではないと判定するために許容される、ボケブレ領域であると判定される前記評価領域の上限の個数を表すボケブレ許容領域数を決定し、
前記画像分割部により分割された各々の評価領域について前記ボケブレ評価を実施して、各々の該評価領域の評価値を算出し、
各々の前記評価領域の評価値が高い方から、(前記評価領域の総数−前記ボケブレ許容領域数)の個数の評価領域の評価値を加算平均することにより、前記画像の評価値を算出するものである請求項1に記載の画像処理装置。
【請求項6】
前記ボケブレ評価部は、さらに、各々の前記評価領域の評価値に基づいて、各々の該評価領域が前記ボケブレ領域であるのか否かを判定し、
前記ボケブレ領域であると判定された評価領域の個数が前記ボケブレ許容領域数を超える場合に、前記画像が前記ボケブレ画像であると判定するものである請求項5に記載の画像処理装置。
【請求項7】
さらに、前記画像を被写体領域とそれ以外の1以上の領域とに分割し、該被写体領域とそれ以外の1以上の領域の各々を前記特定領域として抽出する画像分割部を備え、
前記ボケブレ評価部は、前記被写界深度判定部により前記画像の被写界深度が基準深度よりも深いと判定された場合に、
前記画像分割部により分割された被写体領域とそれ以外の1以上の領域の各々について、前記ボケブレ評価を実施して評価値を算出し、
前記被写界深度の概算値に基づいて、前記被写体領域とそれ以外の1以上の領域の評価値を重み付けして合算することにより、前記画像の評価値を算出するものである請求項1に記載の画像処理装置。
【請求項8】
前記ボケブレ評価部は、前記処理(B)を実行する場合に、
前記画像分割部により分割された被写体領域について、前記ボケブレ評価を実施して評価値を算出し、
前記被写体領域の評価値を、前記画像の評価値とするものである請求項7に記載の画像処理装置。
【請求項9】
さらに、前記画像から、前記特定領域として被写体領域を抽出する画像分割部を備え、
前記ボケブレ評価部は、前記処理(C)を実行する場合に、
前記画像分割部により前記画像から抽出された被写体領域を拡大表示するものである請求項1に記載の画像処理装置。
【請求項10】
さらに、前記付帯情報に含まれる、前記画像の撮影時のシャッタースピードが所定値よりも遅い場合に、手ブレおよびピンボケの警告を発する警告発生部を備える請求項9に記載の画像処理装置。
【請求項11】
前記シャッタースピードの所定値は、35mmフィルム換算の焦点距離の逆数である請求項10に記載の画像処理装置。
【請求項12】
前記画像分割部は、顔検出、人物検出、ペット検出、フォーカスエリア検出のいずれかにより、前記画像から前記被写体領域を抽出するものである請求項7〜11のいずれかに記載の画像処理装置。
【請求項13】
前記被写界深度算出部は、前記付帯情報として、前記画像の撮影時に取得される絞り値を、前記被写界深度の概算値として使用するものである請求項1〜12のいずれかに記載の画像処理装置。
【請求項14】
前記被写界深度算出部は、前記付帯情報として、前記画像の撮影時に取得されるレンズの焦点距離および絞り値を用いて、前記レンズ焦点距離/前記絞り値により前記被写界深度の概算値を算出するものである請求項1〜12のいずれかに記載の画像処理装置。
【請求項15】
前記被写界深度算出部は、前記付帯情報として、さらに、前記画像の撮影時に取得される、カメラと被写体との間の距離を用いて、該距離が近くなるほど、前記被写界深度の概算値が大きくなるように調整するものである請求項13または14に記載の画像処理装置。
【請求項16】
前記ボケブレ評価部は、前記画像の評価値を算出する場合、前記付帯情報に含まれる前記画像の撮影時の絞り値に応じて、該絞り値が小さくなるほど前記画像の評価値が大きくなるように調整するものである請求項1〜12のいずれかに記載の画像処理装置。
【請求項17】
さらに、複数の前記画像の評価値に基づいて、複数の該画像を並び替える画像処理部を備える請求項1〜16のいずれかに記載の画像処理装置。
【請求項18】
さらに、前記ボケブレ評価部により前記画像が前記ボケブレ画像であると判定された場合に、前記評価値に基づいて、前記画像のボケもしくはブレを軽減するための補正処理を施す画像処理部を備える請求項6に記載の画像処理装置。
【請求項19】
画像を取得する画像取得ステップと、
前記画像取得ステップで取得された画像の付帯情報に基づいて、該画像の被写界深度を表す概算値を算出する被写界深度算出ステップと、
前記被写界深度算出ステップで算出された被写界深度の概算値に基づいて、前記画像の被写界深度が基準深度よりも浅いか深いかを判定する被写界深度判定ステップと、
前記被写界深度判定ステップにより前記画像の被写界深度が基準深度よりも浅いと判定された場合に、
(A)前記画像のボケもしくはブレを検出し、該画像のボケもしくはブレの程度を評価するための評価値を算出するボケブレ評価を実施しない、
(B)前記画像から抽出された特定領域について前記ボケブレ評価を実施し、該特定領域の評価値から前記画像の評価値を算出する、
(C)ユーザにより入力される評価値を受け取る、
のいずれかの処理を実行するボケブレ評価ステップと、を備えることを特徴とする画像処理方法。
【請求項20】
請求項19に記載の各々のステップをコンピュータに実行させる画像処理プログラム。
【請求項21】
請求項19に記載の各々のステップをコンピュータに実行させる画像処理プログラムを記録したコンピュータ読み取り可能な記録媒体。
【請求項1】
画像を取得する画像取得部と、
前記画像取得部で取得された画像の付帯情報に基づいて、該画像の被写界深度を表す概算値を算出する被写界深度算出部と、
前記被写界深度算出部で算出された被写界深度の概算値に基づいて、前記画像の被写界深度が基準深度よりも浅いか深いかを判定する被写界深度判定部と、
前記被写界深度判定部により前記画像の被写界深度が基準深度よりも浅いと判定された場合に、
(A)前記画像のボケもしくはブレを検出し、該画像のボケもしくはブレの程度を評価するための評価値を算出するボケブレ評価を実施しない、
(B)前記画像から抽出された特定領域について前記ボケブレ評価を実施し、該特定領域の評価値から前記画像の評価値を算出する、
(C)ユーザにより入力される評価値を受け取る、
のいずれかの処理を実行するボケブレ評価部と、を備えることを特徴とする画像処理装置。
【請求項2】
前記ボケブレ評価部は、前記被写界深度判定部により前記画像の被写界深度が基準深度よりも深いと判定された場合に、前記ボケブレ評価を実施して該画像の評価値を算出するものである請求項1に記載の画像処理装置。
【請求項3】
前記ボケブレ評価部は、前記被写界深度判定部により前記画像の被写界深度が基準深度よりも深いと判定された場合に、さらに、前記付帯情報に含まれる前記画像の撮影モードが、該画像の背景をぼかして撮影する撮影モードである場合に、前記(A)〜(C)のいずれかの処理を実行するものである請求項1に記載の画像処理装置。
【請求項4】
前記ボケブレ評価部は、前記処理(A)を実行する場合に、
(D)前記画像に対して、背景をぼかした画像に対する評価として定義された一律の評価値を与える、
(E)前記画像に対してランダムな評価値を与える、
(F)前記画像を評価対象外とする、
のいずれかの処理を実行するものである請求項1に記載の画像処理装置。
【請求項5】
さらに、前記画像を複数の評価領域に分割し、各々の該評価領域を前記特定領域として抽出する画像分割部を備え、
前記ボケブレ評価部は、前記処理(B)を実行する場合に、
前記被写界深度の概算値に基づいて、前記画像がボケブレ画像ではないと判定するために許容される、ボケブレ領域であると判定される前記評価領域の上限の個数を表すボケブレ許容領域数を決定し、
前記画像分割部により分割された各々の評価領域について前記ボケブレ評価を実施して、各々の該評価領域の評価値を算出し、
各々の前記評価領域の評価値が高い方から、(前記評価領域の総数−前記ボケブレ許容領域数)の個数の評価領域の評価値を加算平均することにより、前記画像の評価値を算出するものである請求項1に記載の画像処理装置。
【請求項6】
前記ボケブレ評価部は、さらに、各々の前記評価領域の評価値に基づいて、各々の該評価領域が前記ボケブレ領域であるのか否かを判定し、
前記ボケブレ領域であると判定された評価領域の個数が前記ボケブレ許容領域数を超える場合に、前記画像が前記ボケブレ画像であると判定するものである請求項5に記載の画像処理装置。
【請求項7】
さらに、前記画像を被写体領域とそれ以外の1以上の領域とに分割し、該被写体領域とそれ以外の1以上の領域の各々を前記特定領域として抽出する画像分割部を備え、
前記ボケブレ評価部は、前記被写界深度判定部により前記画像の被写界深度が基準深度よりも深いと判定された場合に、
前記画像分割部により分割された被写体領域とそれ以外の1以上の領域の各々について、前記ボケブレ評価を実施して評価値を算出し、
前記被写界深度の概算値に基づいて、前記被写体領域とそれ以外の1以上の領域の評価値を重み付けして合算することにより、前記画像の評価値を算出するものである請求項1に記載の画像処理装置。
【請求項8】
前記ボケブレ評価部は、前記処理(B)を実行する場合に、
前記画像分割部により分割された被写体領域について、前記ボケブレ評価を実施して評価値を算出し、
前記被写体領域の評価値を、前記画像の評価値とするものである請求項7に記載の画像処理装置。
【請求項9】
さらに、前記画像から、前記特定領域として被写体領域を抽出する画像分割部を備え、
前記ボケブレ評価部は、前記処理(C)を実行する場合に、
前記画像分割部により前記画像から抽出された被写体領域を拡大表示するものである請求項1に記載の画像処理装置。
【請求項10】
さらに、前記付帯情報に含まれる、前記画像の撮影時のシャッタースピードが所定値よりも遅い場合に、手ブレおよびピンボケの警告を発する警告発生部を備える請求項9に記載の画像処理装置。
【請求項11】
前記シャッタースピードの所定値は、35mmフィルム換算の焦点距離の逆数である請求項10に記載の画像処理装置。
【請求項12】
前記画像分割部は、顔検出、人物検出、ペット検出、フォーカスエリア検出のいずれかにより、前記画像から前記被写体領域を抽出するものである請求項7〜11のいずれかに記載の画像処理装置。
【請求項13】
前記被写界深度算出部は、前記付帯情報として、前記画像の撮影時に取得される絞り値を、前記被写界深度の概算値として使用するものである請求項1〜12のいずれかに記載の画像処理装置。
【請求項14】
前記被写界深度算出部は、前記付帯情報として、前記画像の撮影時に取得されるレンズの焦点距離および絞り値を用いて、前記レンズ焦点距離/前記絞り値により前記被写界深度の概算値を算出するものである請求項1〜12のいずれかに記載の画像処理装置。
【請求項15】
前記被写界深度算出部は、前記付帯情報として、さらに、前記画像の撮影時に取得される、カメラと被写体との間の距離を用いて、該距離が近くなるほど、前記被写界深度の概算値が大きくなるように調整するものである請求項13または14に記載の画像処理装置。
【請求項16】
前記ボケブレ評価部は、前記画像の評価値を算出する場合、前記付帯情報に含まれる前記画像の撮影時の絞り値に応じて、該絞り値が小さくなるほど前記画像の評価値が大きくなるように調整するものである請求項1〜12のいずれかに記載の画像処理装置。
【請求項17】
さらに、複数の前記画像の評価値に基づいて、複数の該画像を並び替える画像処理部を備える請求項1〜16のいずれかに記載の画像処理装置。
【請求項18】
さらに、前記ボケブレ評価部により前記画像が前記ボケブレ画像であると判定された場合に、前記評価値に基づいて、前記画像のボケもしくはブレを軽減するための補正処理を施す画像処理部を備える請求項6に記載の画像処理装置。
【請求項19】
画像を取得する画像取得ステップと、
前記画像取得ステップで取得された画像の付帯情報に基づいて、該画像の被写界深度を表す概算値を算出する被写界深度算出ステップと、
前記被写界深度算出ステップで算出された被写界深度の概算値に基づいて、前記画像の被写界深度が基準深度よりも浅いか深いかを判定する被写界深度判定ステップと、
前記被写界深度判定ステップにより前記画像の被写界深度が基準深度よりも浅いと判定された場合に、
(A)前記画像のボケもしくはブレを検出し、該画像のボケもしくはブレの程度を評価するための評価値を算出するボケブレ評価を実施しない、
(B)前記画像から抽出された特定領域について前記ボケブレ評価を実施し、該特定領域の評価値から前記画像の評価値を算出する、
(C)ユーザにより入力される評価値を受け取る、
のいずれかの処理を実行するボケブレ評価ステップと、を備えることを特徴とする画像処理方法。
【請求項20】
請求項19に記載の各々のステップをコンピュータに実行させる画像処理プログラム。
【請求項21】
請求項19に記載の各々のステップをコンピュータに実行させる画像処理プログラムを記録したコンピュータ読み取り可能な記録媒体。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【公開番号】特開2013−5346(P2013−5346A)
【公開日】平成25年1月7日(2013.1.7)
【国際特許分類】
【出願番号】特願2011−136691(P2011−136691)
【出願日】平成23年6月20日(2011.6.20)
【出願人】(306037311)富士フイルム株式会社 (25,513)
【Fターム(参考)】
【公開日】平成25年1月7日(2013.1.7)
【国際特許分類】
【出願日】平成23年6月20日(2011.6.20)
【出願人】(306037311)富士フイルム株式会社 (25,513)
【Fターム(参考)】
[ Back to top ]