説明

画像処理装置、画像処理方法及びプログラム

【課題】被写体合焦画像内で被写体領域の特定を適正に行う。
【解決手段】撮像装置100であって、背景内の所定の被写体にピントを合わせて撮像された被写体合焦画像及び被写体合焦画像の撮像条件とは異なる所定の撮像条件で撮像され、被写体合焦画像と略等しい構図を有する一の画像(被写体非合焦画像)の各々の画像情報に基づいて、被写体合焦画像内で、被写界深度外に存する物に対応し、輪郭部分が一の画像における当該物に対応する領域の輪郭部分よりも拡大されてなる輪郭拡大領域を推定する輪郭拡大領域推定部5cと、輪郭拡大領域の推定結果を基準として、被写体合焦画像内で所定の被写体が含まれる被写体領域を特定する被写体領域特定部5eとを備えている。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、画像処理装置、画像処理方法及びプログラムに関する。
【背景技術】
【0002】
従来、略等しい構図でピント位置が異なる複数の画像に基づいて、各画像を分割した複数の領域のぼかし量を決定し、当該ぼかし量に応じたぼかし処理を施した画像を生成する撮像装置が開示されている(例えば、特許文献1参照)。
例えば、被写体にピントを合わせた被写体合焦画像と、ピント位置を後ろにずらした背景合焦画像を撮像した後、各画像に対して所定のエッジ検出用フィルタを施して対応する位置の画素の評価値を算出する。そして、算出された評価値に基づいて、背景領域を特定して当該背景領域のぼかしを強調するぼかし処理を行ったり、被写体領域を特定して当該被写体領域を抽出する処理を行う。
【先行技術文献】
【特許文献】
【0003】
【特許文献1】特開2011−10194号公報
【発明の概要】
【発明が解決しようとする課題】
【0004】
しかしながら、ピントが合っていない前景や背景に存する物の光学像は、ぼけた状態となって当該光学像が拡がってしまう。特に、例えば、蛍光灯などの高輝度の物から放たれて撮像素子に入射する光の強度が強いと、回折限界や収差に起因する撮像レンズの解像力によっては被写体合焦画像上に当該物の拡がった光学像の輪郭部分が明確に表れてしまう。この結果、被写体合焦画像内で当該物の光学像のエッジの誤検出が生じて、背景領域であるにも拘わらず被写体領域であると特定されてしまうといった問題がある。
【0005】
そこで、本発明の課題は、被写体合焦画像内で被写体領域の特定を適正に行うことができる画像処理装置、画像処理方法及びプログラムを提供することである。
【課題を解決するための手段】
【0006】
上記課題を解決するため、本発明に係る画像処理装置は、
背景内の所定の被写体にピントを合わせて撮像手段により撮像された被写体合焦画像を取得する第1取得手段と、前記撮像手段により前記被写体合焦画像の撮像条件とは異なる所定の撮像条件で撮像され、前記被写体合焦画像と略等しい構図を有する一の画像を取得する第2取得手段と、前記被写体合焦画像及び前記一の画像の各々の画像情報に基づいて、前記被写体合焦画像内で、被写界深度外に存する物に対応し、輪郭部分が前記一の画像における当該物の対応する領域の輪郭部分よりも拡大されてなる輪郭拡大領域を推定する推定手段と、この推定手段による前記輪郭拡大領域の推定結果を基準として、前記被写体合焦画像内で前記所定の被写体が含まれる被写体領域を特定する特定手段と、を備えたことを特徴としている。
【0007】
また、本発明に係る画像処理方法は、
画像処理装置を用いた画像処理方法であって、背景内の所定の被写体にピントを合わせて撮像装置により撮像された被写体合焦画像を取得する処理と、前記撮像装置により前記被写体合焦画像の撮像条件とは異なる所定の撮像条件で撮像され、前記被写体合焦画像と略等しい構図を有する一の画像を取得する処理と、前記被写体合焦画像及び前記一の画像の各々の画像情報に基づいて、前記被写体合焦画像内で、被写界深度外に存する物に対応し、輪郭部分が前記一の画像における当該物の対応する領域の輪郭部分よりも拡大されてなる輪郭拡大領域を推定する処理と、前記輪郭拡大領域の推定結果を基準として、前記被写体合焦画像内で前記所定の被写体が含まれる被写体領域を特定する処理と、を含むことを特徴としている。
【0008】
また、本発明に係るプログラムは、
画像処理装置のコンピュータを、背景内の所定の被写体にピントを合わせて撮像装置により撮像された被写体合焦画像を取得する第1取得手段、前記撮像装置により前記被写体合焦画像の撮像条件とは異なる所定の撮像条件で撮像され、前記被写体合焦画像と略等しい構図を有する一の画像を取得する第2取得手段、前記被写体合焦画像及び前記一の画像の各々の画像情報に基づいて、前記被写体合焦画像内で、被写界深度外に存する物に対応し、輪郭部分が前記一の画像における当該物の対応する領域の輪郭部分よりも拡大されてなる輪郭拡大領域を推定する推定手段、この推定手段による前記輪郭拡大領域の推定結果を基準として、前記被写体合焦画像内で前記所定の被写体が含まれる被写体領域を特定する特定手段、として機能させることを特徴としている。
【発明の効果】
【0009】
本発明によれば、被写体合焦画像内で被写体領域の特定を適正に行うことができる。
【図面の簡単な説明】
【0010】
【図1】本発明を適用した一実施形態の撮像装置の概略構成を示すブロック図である。
【図2】図1の撮像装置による画像生成処理に係る動作の一例を示すフローチャートである。
【図3】図2の画像生成処理における輝度変化領域推定処理に係る動作の一例を示すフローチャートである。
【図4】図2の画像生成処理に係る画像の一例を模式的に示す図である。
【図5】図2の画像生成処理に係る画像の一例を模式的に示す図である。
【図6】図2の画像生成処理を説明するための図である。
【発明を実施するための形態】
【0011】
以下に、本発明について、図面を用いて具体的な態様を説明する。ただし、発明の範囲は、図示例に限定されない。
【0012】
本実施形態の撮像装置100は、背景内の所定の被写体Sにピントを合わせて撮像された被写体合焦画像P1及び被写体合焦画像P1の撮像条件とは異なる所定の撮像条件で撮像され、被写体合焦画像P1と略等しい構図を有する一の画像(被写体非合焦画像P2)の各々の画像情報に基づいて、被写体合焦画像P1内で、被写界深度外に存する物に対応し、輪郭部分が一の画像における当該物の対応する領域の輪郭部分よりも拡大されてなる輪郭拡大領域Aを推定する。そして、撮像装置100は、当該輪郭拡大領域Aの推定結果を基準として、被写体合焦画像P1内で所定の被写体Sが含まれる被写体領域Bを特定する。
【0013】
図1は、本発明を適用した一実施形態の撮像装置100の概略構成を示すブロック図である。
図1に示すように、撮像装置100は、具体的には、撮像部1と、撮像制御部2と、画像データ生成部3と、メモリ4と、画像処理部5と、表示制御部6と、表示部7と、記録媒体制御部8と、操作入力部9と、中央制御部10とを備えている。
また、撮像部1、撮像制御部2、画像データ生成部3、メモリ4、画像処理部5、表示制御部6、記録媒体制御部8及び中央制御部10は、バスライン11を介して接続されている。
【0014】
撮像部1は、撮像手段として、所定の被写体Sを撮像してフレーム画像を生成する。
具体的には、撮像部1は、レンズ部1aと、電子撮像部1bと、レンズ駆動部1cとを備えている。
【0015】
レンズ部1aは、例えば、ズームレンズやフォーカスレンズ等の複数のレンズから構成されている。
電子撮像部1bは、例えば、CCD(Charge Coupled Device)やCMOS(Complementary Metal-oxide Semiconductor)等のイメージセンサ(撮像素子)から構成されている。そして、電子撮像部1bは、レンズ部1aの各種レンズを通過した光学像を二次元の画像信号に変換する。
レンズ駆動部1cは、例えば、図示は省略するが、ズームレンズを光軸方向に移動させるズーム駆動部、フォーカスレンズを光軸方向に移動させる合焦駆動部等を備えている。
なお、撮像部1は、レンズ部1a、電子撮像部1b及びレンズ駆動部1cに加えて、レンズ部1aを通過する光の量を調整する絞り(図示略)を備えても良い。
【0016】
撮像制御部2は、撮像部1による被写体の撮像を制御する。即ち、撮像制御部2は、図示は省略するが、タイミング発生器、ドライバなどを備えている。そして、撮像制御部2は、タイミング発生器、ドライバにより電子撮像部1bを走査駆動して、レンズを通過した光学像を電子撮像部1bにより所定周期毎に二次元の画像信号に変換させ、当該電子撮像部1bの撮像領域から1画面分ずつフレーム画像を読み出して画像データ生成部3に出力させる。
また、撮像制御部2は、被写体の撮像の際に、レンズ駆動部1cの合焦駆動部の駆動を制御して、フォーカスレンズを光軸方向に移動させてレンズ部1aの合焦位置を調整する。具体的には、撮像制御部2は、被写体合焦画像P1(図4(a)参照)の撮像の際に、合焦駆動部によりフォーカスレンズを光軸方向に移動させてピントを背景内の所定の被写体S(例えば、ぬいぐるみ等)に合わせる。また、撮像制御部2は、被写体非合焦画像P2(図4(b)参照)の撮像の際に、合焦駆動部によりフォーカスレンズを所定の被写体Sに対する前後方向に移動させて所定の被写体Sが被写界深度外に存するようにピントを合わせる。
被写体合焦画像P1と被写体非合焦画像P2の撮像は、所定の時間間隔を空けて連続して行われる。より具体的には、被写体合焦画像P1と被写体非合焦画像P2の撮像は、当該撮像装置100本体と所定の被写体Sとの距離、レンズ部1aの焦点距離(画角)を変えることなく所定の時間間隔を空けて連続して行われる。これにより、被写体合焦画像P1と被写体非合焦画像P2は、略等しい構図を有することとなる。
ここで、被写体合焦画像P1と被写体非合焦画像P2の撮像は、構図のずれを生じさせないように当該装置本体が三脚などに固定されて行われるのが好ましい。また、当該装置本体を手持ちで撮像する場合には、被写体非合焦画像P2の撮像の際に、被写体合焦画像P1の半透過の画像をライブビュー画像に重畳表示させるようなガイド表示を行っても良い。
【0017】
なお、撮像制御部2は、レンズ部1aのフォーカスレンズに代えて、電子撮像部1bを光軸方向に移動させてレンズ部1aの合焦位置を調整するようにしても良い。
また、撮像制御部2は、AF(自動合焦処理)に加えて、AE(自動露出処理)、AWB(自動ホワイトバランス)等の被写体を撮像する際の条件の調整制御を行っても良い。
【0018】
画像データ生成部3は、電子撮像部1bから転送されたフレーム画像のアナログ値の信号に対してRGBの各色成分毎に適宜ゲイン調整した後に、サンプルホールド回路(図示略)でサンプルホールドしてA/D変換器(図示略)でデジタルデータに変換し、カラープロセス回路(図示略)で画素補間処理及びγ補正処理を含むカラープロセス処理を行った後、デジタル値の輝度信号Y及び色差信号Cb,Cr(YUVデータ)を生成する。
カラープロセス回路から出力される輝度信号Y及び色差信号Cb,Crは、図示しないDMAコントローラを介して、バッファメモリとして使用されるメモリ4にDMA転送される。
【0019】
メモリ4は、例えば、DRAM(Dynamic Random Access Memory)等により構成され、画像処理部5や中央制御部10等によって処理されるデータ等を一時的に格納する。
【0020】
画像処理部5は、第1画像取得部5aと、第2画像取得部5bと、輪郭拡大領域推定部5cと、エッジ検出部5dと、被写体領域特定部5eと、画像生成部5fとを具備している。
なお、画像処理部5の各部は、例えば、所定のロジック回路から構成されているが、当該構成は一例であってこれに限られるものではない。
【0021】
第1画像取得部5aは、被写体合焦画像P1を取得する。
即ち、第1画像取得部5aは、第1取得手段として、背景内の所定の被写体Sにピントを合わせて撮像部1により撮像された被写体合焦画像P1(図4(a)参照)を取得する。具体的には、第1画像取得部5aは、背景内の所定の被写体S(例えば、ぬいぐるみ等)にピントを合わせた状態で撮像部1により撮像され、画像データ生成部3により生成された被写体合焦画像P1の画像データ(YUVデータ)を、メモリ4から取得する。
【0022】
第2画像取得部5bは、被写体非合焦画像P2を取得する。
即ち、第2画像取得部5bは、第2取得手段として、撮像部1により被写体合焦画像P1の撮像条件とは異なる所定の撮像条件で撮像され、被写体合焦画像P1と略等しい構図を有する被写体非合焦画像P2(一の画像;図4(b)参照)を取得する。具体的には、第2画像取得部5bは、背景内の所定の被写体Sが被写界深度外に存するようにピントを合わせた状態で撮像部1により撮像され、画像データ生成部3により生成された被写体非合焦画像P2の画像データ(YUVデータ)を、メモリ4から取得する。
なお、図4(b)に示す被写体非合焦画像P2は、ピントを合わせる位置を所定の被写体Sに対する後方向に移動させて撮像された画像(背景合焦画像)であるが、一例であってこれに限られるものではなく、例えば、ピントを合わせる位置を所定の被写体Sに対する前方向に移動させて撮像された画像(前景合焦画像;図示略)であっても良い。
【0023】
輪郭拡大領域推定部5cは、被写体合焦画像P1内で輪郭拡大領域Aを推定する。
ここで、輪郭拡大領域Aは、被写体合焦画像P1内で、所定の被写体Sに焦点を合わせたときの被写界深度外に存する物に対応する領域である。即ち、輪郭拡大領域Aは、ピントが合っていないぼけた領域であるため、当該被写体合焦画像P1内の輪郭拡大領域Aの輪郭部分は、被写体非合焦画像(一の画像)P2における当該輪郭拡大領域Aに対応する対応領域C(図4(b)参照)の輪郭部分よりも拡大された状態となる。
また、輪郭拡大領域Aは、例えば、輪郭部分の色及び明るさのうちの少なくとも一方が周辺領域に対して急峻な変化を有している。ここで、急峻な変化とは、被写体合焦画像P1に対してエッジ検出処理(詳細後述)を行った場合に、輪郭拡大領域Aの輪郭部分にてエッジが検出される程度の変化のことを言う。例えば、輪郭拡大領域Aとしては、撮像部1のCCDやCMOS等の撮像素子に入射する光の輝度レベルが検出可能範囲の上限よりも大きい高輝度の物(例えば、蛍光灯などの光源等)に対応する輝度変化領域A1等が挙げられる。輝度変化領域A1は、例えば、蛍光灯などの光源等の高輝度の物を逆光状態で撮像した場合に、撮像部1の露出条件によっては撮像された画像内で白とびした状態となる領域を含む。
つまり、仮に、被写体合焦画像P1に対してエッジ検出処理を行った場合には、ピントが合っている所定の被写体Sだけでなく、ピントが合っていない輪郭拡大領域Aに対応する物のエッジも検出される。同様に、被写体非合焦画像P2に対してエッジ検出処理を行った場合には、ピントが合っている輪郭拡大領域Aに対応する対応領域Cの物のエッジが検出されるが、当該エッジは被写体合焦画像P1における輪郭拡大領域Aに対応する物のエッジよりも縮小した状態となり、大きさに相違が生じる。
【0024】
また、輪郭拡大領域推定部5cは、被写体合焦画像P1及び被写体非合焦画像P2の各々の輝度情報に基づいて、被写体合焦画像P1内で輪郭部分の輝度値が周辺領域に対して急峻に変化した輝度変化領域A1を輪郭拡大領域Aとして推定する。具体的には、輪郭拡大領域推定部5cは、第1判定部c1と、第2判定部c2とを具備しており、当該第1判定部c1及び第2判定部c2の判定結果に基づいて輝度変化領域A1を推定する。
【0025】
第1判定部c1は、第1判定手段として、被写体合焦画像P1と被写体非合焦画像P2の間で対応する各画素の輝度値の差分が第1判定値よりも大きいか否かを判定する。
具体的には、第1判定部c1は、第1画像取得部5aにより取得された被写体合焦画像P1のYUVデータのうちの輝度信号(Y1)を取得するとともに、第2画像取得部5bにより取得された被写体非合焦画像P2のうちの輝度信号(Y2)を取得する。そして、第1判定部c1は、被写体合焦画像P1と被写体非合焦画像P2の間で対応する複数の画素(x,y)の各々について輝度値の差分を算出し、当該輝度値の差分が第1判定値Thr1よりも大きいか否かを下記式(1)に従って判定する。
Y1(x,y)−Y2(x,y)>Thr1 …式(1)
なお、第1判定値Thr1の値は、ユーザによる操作入力部9の所定操作に基づいて設定されても良いし、デフォルトとして予め定められている所定の値や設定されたホワイトバランスのモード(例えば、蛍光灯下や太陽光下等)を基準とする所定の値に自動的に設定されても良い。
【0026】
第2判定部c2は、第2判定手段として、被写体合焦画像P1の各画素の輝度値が第2判定値よりも大きいか否かを判定する。
具体的には、第2判定部c2は、第1画像取得部5aにより取得された被写体合焦画像P1のYUVデータのうちの輝度信号(Y1)を取得する。そして、第2判定部c2は、被写体合焦画像P1の複数の画素(x,y)のうち、第1判定部c1によって輝度値の差分が第1判定値Thr1よりも大きいと判定された各画素を特定した後、当該画素の各々について、輝度値が第2判定値Thr2よりも大きいか否かを下記式(2)に従って判定する。
Y1(x,y)>Thr2 …式(2)
なお、第2判定値Thr1の値は、第1判定値Thr1と同様に、ユーザによる操作入力部9の所定操作に基づいて設定されても良いし、デフォルトとして予め定められている所定の値や設定されたホワイトバランスのモード(例えば、蛍光灯下や太陽光下等)を基準とする所定の値に自動的に設定されても良い。
【0027】
また、輪郭拡大領域推定部5cは、第1判定部c1及び第2判定部c2の両方の判定結果に基づいて、上記式(1)及び式(2)の両方を満たす画素を含む領域を特定する。
そして、輪郭拡大領域推定部5cは、上記式(1)及び式(2)の両方を満たす画素(図5(a)中、白で表す領域)を第1の画素値「1」とし、当該画素以外の画素(図5(a)中、黒で表す領域)を第2の画素値「0」として表す二値画像等の輝度変化領域情報M(図5(a)参照)を生成する。
即ち、輝度変化領域情報Mのうち、第1の画素値「1」を有する画素が、被写体合焦画像P1内の、例えば、蛍光灯などの光源等の高輝度の物に対応する輝度変化領域A1の縁部に対応することとなる。
【0028】
なお、輪郭拡大領域Aとして、例えば、蛍光灯などの光源等の高輝度の物に対応する輝度変化領域A1を例示して説明したが、例えば、色や濃度等が周辺領域に対して急峻な変化を有する領域であっても良い。
このように、輪郭拡大領域推定部5cは、被写体合焦画像P1及び被写体非合焦画像(一の画像)P2の各々の画像情報に基づいて、被写体合焦画像P1内で、被写界深度外に存する物に対応し、輪郭部分が一の画像における当該物に対応する領域の輪郭部分よりも拡大されてなる輪郭拡大領域Aを推定する推定手段を構成している。
【0029】
エッジ検出部5dは、被写体合焦画像P1内のエッジを検出する。
即ち、エッジ検出部5dは、検出手段として、被写体合焦画像P1内に存する物に係るエッジを検出する。具体的には、エッジ検出部5dは、第1画像取得部5aにより取得された被写体合焦画像P1のYUVデータに対して所定の微分フィルタ(例えば、ハイパスフィルタ等)を用いて微分演算を行って、輝度値や色や濃度に急峻な変化があるところをエッジとして検出するエッジ検出処理を行う。
これにより、エッジ検出部5dは、例えば、被写体合焦画像P1内で、ピントが合っている所定の被写体Sのエッジとともに、ピントが合っていない輪郭拡大領域A(輝度変化領域A1)に対応する物のエッジも検出する。
【0030】
被写体領域特定部5eは、被写体合焦画像P1内で所定の被写体Sが含まれる被写体領域Bを特定する。
即ち、被写体領域特定部5eは、特定手段として、輪郭拡大領域推定部5cによる輪郭拡大領域Aの推定結果を基準として、被写体合焦画像P1内で所定の被写体Sが含まれる被写体領域Bを特定する。具体的には、被写体領域特定部5eは、輪郭拡大領域推定部5cにより生成された輝度変化領域情報Mを取得して、エッジ検出部5dにより検出された全てのエッジ(即ち、所定の被写体S及び輝度変化領域A1に係るエッジ)のうち、輝度変化領域A1に対応する各エッジの評価値を低下させて被写体領域Bを特定する。
例えば、被写体領域特定部5eは、各エッジの強度や所定数のエッジにより囲まれる候補領域内に存する画素数等に応じて評価値を算出し、評価値が最も高くなった候補領域を所定の被写体Sが含まれる被写体領域Bとして特定する。
このとき、被写体領域特定部5eは、例えば、複数の候補領域のうち、輝度変化領域A1に対応する各エッジや当該エッジにより囲まれる候補領域の評価値(信頼度)を低下させて、被写体領域Bとして特定され難くする。また、被写体領域特定部5eは、例えば、輝度変化領域A1に対応するエッジにより囲まれる候補領域の大きさを小さく(収縮)することで、各候補領域を構成する画素数に応じて算出される評価値を相対的に低下させて、被写体領域Bとして特定され難くする。
【0031】
なお、被写体領域特定部5eは、被写体合焦画像P1内の被写体領域Bの特定に、輪郭拡大領域推定部5cによる輝度変化領域A1の推定結果を基準として行うようにしたが、例えば、輪郭拡大領域Aとしての色や濃度等が周辺領域に対して急峻な変化を有する領域の推定結果を用いても良い。
【0032】
画像生成部5fは、被写体合焦画像P1内の被写体領域B以外の背景領域をぼかしたぼかし画像P3を生成する。
即ち、画像生成部5fは、画像生成手段として、被写体合焦画像P1に対してぼかし処理を施して、当該被写体合焦画像P1内の被写体領域B以外の背景領域をぼかしたぼかし画像P3(図5(b)参照)を生成する。具体的には、画像生成部5fは、被写体領域特定部5eにより特定された被写体領域Bのアルファ値を「1」とし、それ以外の背景領域のアルファ値を「0」とする二値情報を生成する。そして、画像生成部5fは、当該二値情報に対してローパスフィルタを施して境界領域に中間値(0≦α≦1)を生じさせ、被写体合焦画像P1内で被写体領域Bの位置を示す位置情報としてのアルファマップ(図示略)を生成する。そして、画像生成部5fは、生成されたアルファマップを利用して、被写体合焦画像P1に対してぼかし処理を施して、当該被写体合焦画像P1内の背景領域及び境界領域をそれぞれ所定の強度でぼかしたぼかし画像P3を生成する。
なお、ほかし処理としては、例えば、被写体合焦画像P1の画像データにガウス型のボカシフィルターをかけることで行う方法が挙げられるが、一例であってこれに限られるものではなく、公知の手法であれば適宜任意に変更可能である。
【0033】
表示制御部6は、メモリ4に一時的に格納されている表示用の画像データを読み出して表示部7に表示させる制御を行う。
具体的には、表示制御部6は、VRAM(Video Random Access Memory)、VRAMコントローラ、デジタルビデオエンコーダなどを備えている。そして、デジタルビデオエンコーダは、中央制御部10の制御下にてメモリ4から読み出されてVRAM(図示略)に格納されている輝度信号Y及び色差信号Cb,Crを、VRAMコントローラを介してVRAMから定期的に読み出して、これらのデータを元にビデオ信号を発生して表示部7に出力する。
【0034】
表示部7は、例えば、液晶表示パネルであり、表示制御部6からのビデオ信号に基づいて電子撮像部1bにより撮像された画像などを表示画面に表示する。具体的には、表示部7は、静止画撮像モードや動画撮像モードにて、撮像部1及び撮像制御部2による被写体の撮像により生成された複数のフレーム画像を所定のフレームレートで逐次更新しながらライブビュー画像を表示する。また、表示部7は、静止画として記録される画像(レックビュー画像)を表示したり、動画として記録中の画像を表示する。
【0035】
記録媒体制御部8は、記録媒体Rが着脱自在に構成され、装着された記録媒体Rからのデータの読み出しや記録媒体Rに対するデータの書き込みを制御する。
即ち、記録媒体制御部8は、画像処理部5の符号化部(図示略)により所定の圧縮形式(例えば、JPEG形式等)で符号化された記録用の画像データを記録媒体Rに記録させる。
なお、記録媒体Rは、例えば、不揮発性メモリ(フラッシュメモリ)等により構成されるが、一例であってこれに限られるものではなく、適宜任意に変更可能である。
【0036】
操作入力部9は、当該撮像装置100の所定操作を行うためのものである。具体的には、操作入力部9は、被写体の撮像指示に係るシャッタボタン、撮像モードや機能等の選択指示に係る選択決定ボタン、ズーム量の調整指示に係るズームボタン等(何れも図示略)の操作部を備え、当該操作部の各ボタンの操作に応じて所定の操作信号を中央制御部10に出力する。
【0037】
中央制御部10は、撮像装置100の各部を制御するものである。具体的には、中央制御部10は、図示は省略するが、CPU(Central Processing Unit)等を備え、撮像装置100用の各種処理プログラム(図示略)に従って各種の制御動作を行う。
【0038】
次に、撮像装置100による画像生成処理について、図2〜図6を参照して説明する。
図2は、画像生成処理に係る動作の一例を示すフローチャートである。図3は、画像生成処理における輝度変化領域推定処理に係る動作の一例を示すフローチャートである。
【0039】
画像生成処理は、ユーザによる操作入力部9の選択決定ボタンの所定操作に基づいて、メニュー画面に表示された複数の動作モードの中からぼかし画像生成モードが選択指示された場合に、中央制御部10の制御下にて当該撮像装置100の各部により実行される処理である。
また、図2に示す画像生成処理にあっては、輪郭拡大領域Aとして輝度変化領域A1を推定して、当該輝度変化領域A1の推定結果を基準として被写体領域Bを特定するものとする。
【0040】
図2に示すように、先ず、表示制御部6は、撮像部1による被写体の撮像により生成された複数のフレーム画像に基づいてライブビュー画像を表示部7の表示画面に表示させる(ステップS1)。
具体的には、撮像制御部2は、レンズ部1aを通過した光学像を所定周期毎に電子撮像部1bにより二次元の画像信号(RGB画像データ)に変換させ、画像データ生成部3は、電子撮像部1bから出力されて入力される二次元の画像信号を所定周期毎にデジタルの画像信号に変換して各フレーム画像のYUVデータを生成する。画像データ生成部3により生成された各フレーム画像のYUVデータは、順次メモリ4に出力され、当該メモリ4に格納される。表示制御部6は、メモリ4に一時的に格納されている表示用の画像データを読み出して表示部7にライブビュー画像を表示させる制御を行う。
【0041】
次に、中央制御部10のCPUは、ユーザによる操作入力部9のシャッタボタンの所定操作(例えば、全押し操作)に基づいて、当該操作入力部9から出力される撮像指示が入力されたか否かを判定する(ステップS2)。
ここで、撮像指示が入力されていないと判定されると(ステップS2;NO)、中央制御部10のCPUは、処理をステップS1に戻し、ステップS2にて、撮像指示が入力されたと判定されるまで(ステップS2;YES)、表示制御部6は、ライブビュー画像を表示部8の表示画面に表示させる制御を行う。
【0042】
そして、ユーザによる所定の被写体Sの構図等の調整が終了した後、ユーザによって操作入力部9のシャッタボタンが所定操作(例えば、全押し操作)されることにより、中央制御部10のCPUにより撮像指示が入力されたと判定されると(ステップS2;YES)、撮像制御部2は、レンズ駆動部1cの合焦駆動部によりフォーカスレンズを光軸方向に移動させてピントを背景内の所定の被写体S(例えば、ぬいぐるみ等)に合わせ、被写体合焦画像P1(図4(a)参照)を撮像させる(ステップS3)。画像データ生成部3は、被写体合焦画像P1の画像信号をデジタルの画像信号に変換して当該被写体合焦画像P1のYUVデータを生成する。
画像データ生成部3により生成された被写体合焦画像P1のYUVデータは、メモリ4に出力され、当該メモリ4に一時的に格納される。
【0043】
続けて、撮像制御部2は、合焦駆動部によりフォーカスレンズを所定の被写体Sに対する前後方向に移動させて所定の被写体Sが被写界深度外に存するようにピントを合わせ、被写体合焦画像P1と略等しい構図を有する被写体非合焦画像P2(図4(b)参照)を撮像させる(ステップS4)。画像データ生成部3は、被写体非合焦画像P2の画像信号をデジタルの画像信号に変換して当該被写体非合焦画像P2のYUVデータを生成する。
画像データ生成部3により生成された被写体非合焦画像P2のYUVデータは、メモリ4に出力され、当該メモリ4に一時的に格納される。
【0044】
次に、画像処理部5は、被写体合焦画像P1内で、輪郭部分の輝度値が周辺領域に対して急峻に変化した輝度変化領域A1を推定する輝度変化領域推定処理(図3参照)を行う(ステップS5)。
ここで、図3を参照して、輝度変化領域推定処理について詳細に説明する。
【0045】
図3に示すように、画像処理部5の第1画像取得部5aは、メモリ4に格納されている被写体合焦画像P1の画像データ(YUVデータ)を取得する(ステップS51)。続けて、第2画像取得部5bは、メモリ4に格納されている被写体非合焦画像P2の画像データ(YUVデータ)を取得する(ステップS52)。
なお、被写体合焦画像P1の画像データの取得後に被写体非合焦画像(一の画像)P2の画像データの取得を行うようにしたが、これらの画像の取得処理の順序は一例であってこれに限られるものではなく、順序を逆、即ち、被写体非合焦画像P2の画像データの取得後に被写体合焦画像P1の画像データの取得を行うようにしても良い。
【0046】
次に、輪郭拡大領域推定部5cの第1判定部c1は、被写体合焦画像P1と被写体非合焦画像P2の間で対応する各画素の輝度値の差分が第1判定値よりも大きいか否かを判定する(ステップS53)。
具体的には、第1判定部c1は、被写体合焦画像P1のYUVデータのうちの輝度信号(Y1)及び被写体非合焦画像P2のうちの輝度信号(Y2)を取得した後、被写体合焦画像P1と被写体非合焦画像P2の間で対応する複数の画素(x,y)の各々について、輝度値の差分が第1判定値Thr1よりも大きいか否かを下記式(1)に従って判定する。
Y1(x,y)−Y2(x,y)>Thr1 …式(1)
【0047】
ステップS53にて、輝度値の差分が第1判定値Thr1よりも大きいと判定されると(ステップS53;YES)、輪郭拡大領域推定部5cの第2判定部c2は、被写体合焦画像P1の複数の画素のうち、第1判定部c1により輝度値の差分が第1判定値Thr1よりも大きいと判定された画素の輝度値が第2判定値よりも大きいか否かを判定する(ステップS54)。
具体的には、第2判定部c2は、被写体合焦画像P1のYUVデータのうちの輝度信号(Y1)を取得した後、被写体合焦画像P1の複数の画素(x,y)のうち、輝度値の差分が第1判定値Thr1よりも大きいと判定された画素の各々について、輝度値が第2判定値Thr2よりも大きいか否かを下記式(2)に従って判定する。
Y1(x,y)>Thr2 …式(2)
【0048】
ステップS54にて、輝度値が第2判定値Thr2よりも大きいと判定されると(ステップS54;YES)、輪郭拡大領域推定部5cは、被写体合焦画像P1内で、輝度値が第2判定値Thr2よりも大きいと判定された画素を含む領域を特定する(ステップS55)。即ち、輪郭拡大領域推定部5cは、被写体合焦画像P1内で、上記式(1)及び式(2)の両方を満たす画素を含む領域を特定する。
そして、輪郭拡大領域推定部5cは、上記式(1)及び式(2)の両方を満たす画素(図5(a)中、白で表す領域)を第1の画素値「1」とし、当該画素以外の画素(図5(a)中、黒で表す領域)を第2の画素値「0」として表す二値画像等の輝度変化領域情報M(図5(a)参照)を生成して(ステップS56)、輝度変化領域推定処理を終了する。
なお、生成された輝度変化領域情報Mは、所定の格納手段(例えば、メモリ4等)に一時的に格納される。
【0049】
一方、ステップS53にて、輝度値の差分が第1判定値Thr1よりも大きくないと判定された場合(ステップS53;NO)、或いは、ステップS54にて、輝度値が第2判定値Thr2よりも大きくないと判定された場合(ステップS54;NO)には、画像処理部5は、ステップS55、S56の各処理をスキップして、輝度変化領域推定処理を終了する。
【0050】
図2に戻り、画像処理部5のエッジ検出部5dは、被写体合焦画像P1内のエッジを検出するエッジ検出処理を行う(ステップS6)。
具体的には、エッジ検出部5dは、例えば、被写体合焦画像P1のYUVデータに対してハイパスフィルタをかけて、輝度値や色や濃度等に急峻な変化があるところをエッジとして検出する。
【0051】
続けて、画像処理部5は、所定の格納手段(例えば、メモリ4等)に輝度変化領域情報Mが格納されているか否かに応じて、輝度変化領域推定処理にて輝度変化領域情報Mが生成されたか否かを判定する(ステップS7)。
ここで、輝度変化領域情報Mが生成されたと判定されると(ステップS7;YES)、被写体領域特定部5eは、輪郭拡大領域推定部5cによる輝度変化領域A1の推定結果を基準として、被写体合焦画像P1内で所定の被写体Sが含まれる被写体領域Bを特定する(ステップS8)。具体的には、被写体領域特定部5eは、輪郭拡大領域推定部5cにより生成された輝度変化領域情報Mを取得して、エッジ検出部5dにより検出された全てのエッジ(即ち、所定の被写体S及び輝度変化領域A1に係るエッジ)の強度や所定数のエッジにより囲まれる候補領域内に存する画素数等に応じて評価値を算出する。このとき、被写体領域特定部5eは、輝度変化領域A1に対応する各エッジの評価値を低下させることで、輝度変化領域A1が被写体領域Bとして特定され難くする。そして、被写体領域特定部5eは、評価値が最も高くなった候補領域を所定の被写体Sが含まれる被写体領域Bとして特定する。
【0052】
次に、画像生成部5fは、被写体合焦画像P1に対してぼかし処理を施して、当該被写体合焦画像P1内の被写体領域B以外の背景領域をぼかしたぼかし画像P3(図5(b)参照)を生成する(ステップS9)。
具体的には、画像生成部5fは、被写体合焦画像P1内で被写体領域Bの位置を示す位置情報としてのアルファマップを利用して、被写体合焦画像P1に対してぼかし処理を施して、当該被写体合焦画像P1内の背景領域及び境界領域をそれぞれ所定の強度でぼかしたぼかし画像P3を生成する。
【0053】
一方、ステップS7にて、輝度変化領域情報Mが生成されていないと判定されると(ステップS7;NO)、被写体領域特定部5eは、輝度変化領域A1を考慮せずに、被写体合焦画像P1内で所定の被写体Sが含まれる被写体領域Bを特定する(ステップS10)。具体的には、被写体領域特定部5eは、エッジ検出部5dにより検出された全てのエッジ(即ち、所定の被写体S及び輝度変化領域A1に係るエッジ)の強度や所定数のエッジにより囲まれる候補領域内に存する画素数等に応じて評価値を算出する。そして、被写体領域特定部5eは、評価値が最も高くなった候補領域を所定の被写体Sが含まれる被写体領域Bとして特定する(ステップS10)。
その後、画像処理部5は、処理をステップS9に移行して、画像生成部5fは、上記と略同様に、被写体合焦画像P1内にて、ステップS10にて特定された被写体領域B以外の背景領域をぼかしたぼかし画像(図示略)を生成する(ステップS9)。
【0054】
そして、記録媒体制御部8は、画像生成部5fにより生成され、画像処理部5の符号化部により所定の圧縮形式(例えば、JPEG形式等)で符号化されたぼかし画像P3のYUVデータを取得して、記録媒体Rに記録させて(ステップS11)、画像生成処理を終了する。
【0055】
以上のように、本実施形態の撮像装置100によれば、被写体合焦画像P1及び被写体非合焦画像(一の画像)P2の各々の画像情報に基づいて、被写体合焦画像P1内で、被写界深度外に存する物に対応し、輪郭部分が一の画像における当該物に対応する領域の輪郭部分よりも拡大されてなる輪郭拡大領域Aを推定して、当該輪郭拡大領域Aの推定結果を基準として、被写体合焦画像P1内で所定の被写体Sが含まれる被写体領域Bを特定するので、被写体合焦画像P1内に被写界深度外に存する物の拡がった光学像の輪郭部分が明確に表れた輪郭拡大領域Aが含まれている場合であっても、当該輪郭拡大領域Aの推定結果を基準として、被写体合焦画像P1内で所定の被写体Sが含まれる被写体領域Bを特定することで、被写界深度外に存する物の光学像のエッジの誤検出を生じさせ難くして被写体領域Bの特定を適正に行うことができる。
【0056】
具体的には、例えば、蛍光灯などの高輝度の物から放たれて電子撮像部1bに入射する光の輝度レベルが検出可能範囲の上限よりも大きかったり(光の強度が強かったり)、レンズ部1aの解像力が低い場合には、被写体合焦画像P1上に当該物の拡がった光学像の輪郭部分が明確に表れてしまう。即ち、被写体合焦画像P1における輪郭拡大領域A(輝度変化領域A1)の輪郭部分は、被写体非合焦画像(一の画像)P2における当該輪郭拡大領域Aに対応する対応領域Cの輪郭部分よりも拡大されてしまい、高輝度の物の光学像のエッジの誤検出を生じさせる虞がある。
このような場合であっても、予め被写体合焦画像P1内で輪郭部分の輝度値が急峻に変化した輝度変化領域A1を推定しておくことで、被写体合焦画像P1内から検出された全てのエッジ(所定の被写体S及び輝度変化領域A1に係るエッジ)のうち、輝度変化領域A1に対応するエッジの評価値を低下させることで、高輝度の物の光学像のエッジの誤検出を生じさせ難くして被写体合焦画像P1内で被写体領域Bの特定を適正に行うことができる。
【0057】
また、背景内の所定の被写体Sに合焦させて撮像された被写体合焦画像P1及びピントを合わせる位置を所定の被写体Sに対する前後方向に移動させて撮像された被写体非合焦画像P2の各々の輝度情報に基づいて、被写体合焦画像P1内で輝度変化領域A1を推定するので、輪郭拡大領域Aとしての輪郭部分の輝度値が急峻に変化した輝度変化領域A1の推定を適正に行うことができる。
具体的には、被写体合焦画像P1内で、当該被写体合焦画像P1と被写体非合焦画像P2の間で対応する各画素の輝度値の差分が第1判定値よりも大きく、且つ、輝度値が第2判定値よりも大きい画素を含む領域を輝度変化領域A1として推定するので、被写体合焦画像P1と被写体非合焦画像P2の間で対応する各画素の輝度値の差分だけでなく、被写体合焦画像P1の各画素の輝度値自体も考慮して、当該被写体合焦画像P1内で輝度変化領域A1を適正に推定することができる。つまり、輝度値の差分が第1判定値よりも大きい画素であっても、輝度値が第2判定値よりも大きくない画素を除外することができることとなって、例えば、蛍光灯などの高輝度の物に対応する領域を輝度変化領域A1として適正に推定することができる。
【0058】
また、被写体合焦画像P1内の被写体領域B以外の背景領域をぼかしたぼかし画像P3を生成した場合に、被写体領域Bと背景領域の判別を適正に行うことができなかったために背景領域であるにも拘わらず被写体領域Bと特定されてしまい不自然なぼかし画像P4(図6参照)が生成されることがなくなる。
即ち、図6に示すぼかし画像P4は、輪郭拡大領域A(輝度変化領域A1)が背景領域であるにも拘わらず被写体領域であると判定されてしまい、輪郭拡大領域Aのぼけ度合が他の背景領域に比べて全体的に小さくなっている。特に、輪郭拡大領域Aの中心部は、全くぼけていないような状態となっている。これに対して、本実施形態の撮像装置100によれば、輪郭拡大領域Aに対して他の背景領域と略同等のぼけ度合を付与することができ、被写体領域B以外の背景領域全域に亘って自然なぼけが付与されたぼかし画像P3(図5(b)参照)を生成することができる。
【0059】
なお、本発明は、上記実施形態に限定されることなく、本発明の趣旨を逸脱しない範囲において、種々の改良並びに設計の変更を行っても良い。
例えば、一の画像としての被写体非合焦画像P2を用いて輪郭拡大領域A(輝度変化領域A1)を推定するようにしたが、一例であってこれに限られるものではなく、輪郭拡大領域Aの推定に用いられる一の画像は適宜任意に変更可能である。
即ち、一の画像は、被写体合焦画像P1の撮像条件とは異なる所定の撮像条件で撮像され、被写体合焦画像P1と略等しい構図を有する画像であれば良く、例えば、一の画像として、撮像部1の電子撮像部1bの露光時間を被写体合焦画像P1よりも短くして当該撮像部1により撮像された短時間露光画像を用いても良い。そして、輪郭拡大領域推定部5cは、被写体合焦画像P1及び短時間露光画像の各々の輝度情報に基づいて、被写体合焦画像P1内で輪郭部分の輝度値が急峻に変化した輝度変化領域A1を輪郭拡大領域Aとして推定するようにしても良い。つまり、例えば、蛍光灯などの光源等の高輝度の物は、電子撮像部1bに入射する光の強度が強いため、電子撮像部1bの露光時間を短時間としても電荷の蓄積を行うことができる。これにより、電子撮像部1bの露光時間を被写体合焦画像P1よりも短くして撮像された短時間露光画像のうち、電子撮像部1bの電荷が蓄積されている画素に対応する領域が高輝度の物に対応する可能性が高いと考えられる。
そこで、輪郭拡大領域推定部5cは、短時間露光画像のうちの輝度信号を取得して、当該短時間露光画像内で高輝度の物に対応する高輝度領域を特定する。そして、輪郭拡大領域推定部5cは、被写体合焦画像P1のYUVデータのうちの輝度信号を取得して、当該被写体合焦画像P1内で、短時間露光画像の高輝度領域に対応する領域を輝度変化領域A1(輪郭拡大領域A)として推定する。
【0060】
このような構成としても、輪郭拡大領域Aの推定結果を基準として、被写体合焦画像P1内で所定の被写体Sが含まれる被写体領域Bを特定することで、被写界深度外に存する物の光学像のエッジの誤検出を生じさせ難くして被写体領域Bの特定を適正に行うことができる。
【0061】
また、上記実施形態にあっては、第1判定部c1による判定処理後に第2判定部c2による判定処理を行うようにしたが、これらの判定処理の順序は一例であってこれに限られるものではなく、順序を逆、即ち、第2判定部c2による判定処理後に第1判定部c1による判定処理を行うようにしても良い。
さらに、輪郭拡大領域推定部5cは、第1判定部c1及び第2判定部c2の両方の判定結果に基づいて、即ち、上記式(1)及び式(2)の両方を満たす画素を含む領域を輝度変化領域A1として推定するようにしたが、一例であってこれに限られるものではなく、第1判定部c1及び第2判定部c2のうちの何れか一方を具備し、上記式(1)及び式(2)のうちの何れか一方のみを満たす画素を含む領域を輝度変化領域A1として推定しても良い。
具体的には、輪郭拡大領域推定部5cは、第1判定部c1による判定処理のみを行って、被写体合焦画像P1内で、輝度値の差分が第1判定値Thr1よりも大きい画素(上記式(1)のみを満たす画素)を特定した場合には、当該画素を含む領域を輝度変化領域A1として推定する。また、輪郭拡大領域推定部5cは、第2判定部c2による判定処理のみを行って、被写体合焦画像P1内で、輝度値が第2判定値Thr2よりも大きい画素(上記式(2)のみを満たす画素)を特定した場合には、当該画素を含む領域を輝度変化領域A1として推定する。
【0062】
また、上記実施形態にあっては、被写体合焦画像P1内のエッジの検出結果を利用して、被写体領域Bを特定するようにしたが、被写体合焦画像P1内のエッジを利用するか否かは適宜任意に変更可能である。即ち、撮像装置100は、必ずしもエッジ検出部5dを具備する必要はなく、輪郭拡大領域Aの推定結果を基準として、被写体合焦画像P1内で所定の被写体Sが含まれる被写体領域Bを特定可能であれば如何なる構成であっても良い。
【0063】
さらに、上記実施形態にあっては、画像生成部5fが被写体合焦画像P1内の被写体領域B以外の背景領域をぼかしたぼかし画像P3を生成するようにしたが、必ずしも画像生成部5fを具備する必要はなく、ぼかし画像P3を生成するか否かは適宜任意に変更可能である。
また、撮像装置100による被写体領域Bの特定後の後処理は、ぼかし画像P3の生成に限られるものではなく、一例であって適宜任意に変更可能である。即ち、撮像装置100は、特定された被写体領域Bを利用して、当該所定の被写体Sに対する前後方向にピントの位置を変えた複数の画像の撮像、所謂、フォーカスブラケット撮像を行うようにしても良いし、被写体合焦画像P1から被写体領域Bが含まれる画像を切り抜く処理を行うようにしても良い。
【0064】
さらに、撮像装置100の構成は、上記実施形態に例示したものは一例であり、これに限られるものではない。また、画像処理装置として、撮像装置100を例示したが、これに限られるものではなく、本発明に係る画像処理を実行可能なものであれば如何なる構成であっても良い。
【0065】
加えて、上記実施形態にあっては、第1取得手段、第2取得手段、推定手段、特定手段としての機能を、中央制御部10の制御下にて、第1画像取得部5a、第2画像取得部5b、輪郭拡大領域推定部5c、被写体領域特定部5eが駆動することにより実現される構成としたが、これに限られるものではなく、中央制御部10によって所定のプログラム等が実行されることにより実現される構成としても良い。
即ち、プログラムを記憶するプログラムメモリ(図示略)に、第1取得処理ルーチン、第2取得処理ルーチン、推定処理ルーチン、特定処理ルーチンを含むプログラムを記憶しておく。そして、第1取得処理ルーチンにより中央制御部10のCPUを、背景内の所定の被写体Sにピントを合わせて撮像装置により撮像された被写体合焦画像P1を取得する第1取得手段として機能させるようにしても良い。また、第2取得処理ルーチンにより中央制御部10のCPUを、撮像装置により被写体合焦画像P1の撮像条件とは異なる所定の撮像条件で撮像され、被写体合焦画像P1と略等しい構図を有する一の画像を取得する第2取得手段として機能させるようにしても良い。また、推定処理ルーチンにより中央制御部10のCPUを、被写体合焦画像P1及び一の画像の各々の画像情報に基づいて、被写体合焦画像P1内で、被写界深度外に存する物に対応し、輪郭部分が一の画像における当該物に対応する領域の輪郭部分よりも拡大されてなる輪郭拡大領域Aを推定する推定手段として機能させるようにしても良い。また、特定処理ルーチンにより中央制御部10のCPUを、推定手段による輪郭拡大領域Aの推定結果を基準として、被写体合焦画像P1内で所定の被写体Sが含まれる被写体領域Bを特定する特定手段として機能させるようにしても良い。
【0066】
同様に、第1判定手段、第2判定手段、検出手段、画像生成手段についても、中央制御部10のCPUによって所定のプログラム等が実行されることにより実現される構成としても良い。
【0067】
さらに、上記の各処理を実行するためのプログラムを格納したコンピュータ読み取り可能な媒体として、ROMやハードディスク等の他、フラッシュメモリ等の不揮発性メモリ、CD−ROM等の可搬型記録媒体を適用することも可能である。また、プログラムのデータを所定の通信回線を介して提供する媒体としては、キャリアウェーブ(搬送波)も適用される。
【0068】
本発明のいくつかの実施形態を説明したが、本発明の範囲は、上述の実施の形態に限定するものではなく、特許請求の範囲に記載された発明の範囲とその均等の範囲を含む。
以下に、この出願の願書に最初に添付した特許請求の範囲に記載した発明を付記する。付記に記載した請求項の項番は、この出願の願書に最初に添付した特許請求の範囲の通りである。
〔付記〕
<請求項1>
背景内の所定の被写体にピントを合わせて撮像手段により撮像された被写体合焦画像を取得する第1取得手段と、
前記撮像手段により前記被写体合焦画像の撮像条件とは異なる所定の撮像条件で撮像され、前記被写体合焦画像と略等しい構図を有する一の画像を取得する第2取得手段と、
前記被写体合焦画像及び前記一の画像の各々の画像情報に基づいて、前記被写体合焦画像内で、被写界深度外に存する物に対応し、輪郭部分が前記一の画像における当該物に対応する領域の輪郭部分よりも拡大されてなる輪郭拡大領域を推定する推定手段と、
この推定手段による前記輪郭拡大領域の推定結果を基準として、前記被写体合焦画像内で前記所定の被写体が含まれる被写体領域を特定する特定手段と、
を備えたことを特徴とする画像処理装置。
<請求項2>
前記一の画像は、ピントを合わせる位置を前記所定の被写体に対する前後方向に移動させて前記撮像手段により撮像された被写体非合焦画像を含み、
前記推定手段は、更に、
前記被写体合焦画像及び前記被写体非合焦画像の各々の輝度情報に基づいて、前記被写体合焦画像内で輪郭部分の輝度値が急峻に変化した輝度変化領域を前記輪郭拡大領域として推定することを特徴とする請求項1に記載の画像処理装置。
<請求項3>
前記推定手段は、
前記被写体合焦画像と前記被写体非合焦画像の間で対応する各画素の輝度値の差分が第1判定値よりも大きいか否かを判定する第1判定手段を更に有し、この第1判定手段による判定結果に基づいて、輝度値の差分が前記第1判定値よりも大きい画素を含む領域を前記輝度変化領域として推定することを特徴とする請求項2に記載の画像処理装置。
<請求項4>
前記推定手段は、
前記被写体合焦画像の各画素の輝度値が第2判定値よりも大きいか否かを判定する第2判定手段を更に有し、この第2判定手段による判定結果に基づいて、輝度値が前記第2判定値よりも大きい画素を含む領域を前記輝度変化領域として推定することを特徴とする請求項2又は3に記載の画像処理装置。
<請求項5>
前記一の画像は、前記撮像手段の露光時間を前記被写体合焦画像よりも短くして当該撮像手段により撮像された短時間露光画像を含み、
前記推定手段は、更に、
前記被写体合焦画像及び前記短時間露光画像の各々の輝度情報に基づいて、前記被写体合焦画像内で輪郭部分の輝度値が急峻に変化した輝度変化領域を前記輪郭拡大領域として推定することを特徴とする請求項1に記載の画像処理装置。
<請求項6>
前記輝度変化領域は、前記撮像手段の撮像素子に入射する光の輝度レベルが検出可能範囲の上限よりも大きい高輝度の物に対応する領域であることを特徴とする請求項2〜5の何れか一項に記載の画像処理装置。
<請求項7>
前記被写体合焦画像内のエッジを検出する検出手段を更に備え、
前記特定手段は、
前記検出手段により検出されたエッジのうち、前記推定手段により推定された前記輪郭拡大領域に対応するエッジの評価値を低下させて前記被写体領域を特定することを特徴とする請求項1〜6の何れか一項に記載の画像処理装置。
<請求項8>
前記被写体合焦画像に対してぼかし処理を施して、当該被写体合焦画像内の前記被写体領域以外の背景領域をぼかしたぼかし画像を生成する画像生成手段を更に備えることを特徴とする請求項1〜7の何れか一項に記載の画像処理装置。
<請求項9>
画像処理装置を用いた画像処理方法であって、
背景内の所定の被写体にピントを合わせて撮像装置により撮像された被写体合焦画像を取得する処理と、
前記撮像装置により前記被写体合焦画像の撮像条件とは異なる所定の撮像条件で撮像され、前記被写体合焦画像と略等しい構図を有する一の画像を取得する処理と、
前記被写体合焦画像及び前記一の画像の各々の画像情報に基づいて、前記被写体合焦画像内で、被写界深度外に存する物に対応し、輪郭部分が前記一の画像における当該物に対応する領域の輪郭部分よりも拡大されてなる輪郭拡大領域を推定する処理と、
前記輪郭拡大領域の推定結果を基準として、前記被写体合焦画像内で前記所定の被写体が含まれる被写体領域を特定する処理と、
を含むことを特徴とする画像処理方法。
<請求項10>
画像処理装置のコンピュータを、
背景内の所定の被写体にピントを合わせて撮像装置により撮像された被写体合焦画像を取得する第1取得手段、
前記撮像装置により前記被写体合焦画像の撮像条件とは異なる所定の撮像条件で撮像され、前記被写体合焦画像と略等しい構図を有する一の画像を取得する第2取得手段、
前記被写体合焦画像及び前記一の画像の各々の画像情報に基づいて、前記被写体合焦画像内で、被写界深度外に存する物に対応し、輪郭部分が前記一の画像における当該物に対応する領域の輪郭部分よりも拡大されてなる輪郭拡大領域を推定する推定手段、
この推定手段による前記輪郭拡大領域の推定結果を基準として、前記被写体合焦画像内で前記所定の被写体が含まれる被写体領域を特定する特定手段、
として機能させることを特徴とするプログラム。
【符号の説明】
【0069】
100 撮像装置
1 撮像部
2 撮像制御部
5 画像処理部
5a 第1画像取得部
5b 第2画像取得部
5c 輪郭拡大領域推定部
c1 第1判定部
c2 第2判定部
5d エッジ検出部
5e 被写体領域特定部
5f 画像生成部
10 中央制御部

【特許請求の範囲】
【請求項1】
背景内の所定の被写体にピントを合わせて撮像手段により撮像された被写体合焦画像を取得する第1取得手段と、
前記撮像手段により前記被写体合焦画像の撮像条件とは異なる所定の撮像条件で撮像され、前記被写体合焦画像と略等しい構図を有する一の画像を取得する第2取得手段と、
前記被写体合焦画像及び前記一の画像の各々の画像情報に基づいて、前記被写体合焦画像内で、被写界深度外に存する物に対応し、輪郭部分が前記一の画像における当該物に対応する領域の輪郭部分よりも拡大されてなる輪郭拡大領域を推定する推定手段と、
この推定手段による前記輪郭拡大領域の推定結果を基準として、前記被写体合焦画像内で前記所定の被写体が含まれる被写体領域を特定する特定手段と、
を備えたことを特徴とする画像処理装置。
【請求項2】
前記一の画像は、ピントを合わせる位置を前記所定の被写体に対する前後方向に移動させて前記撮像手段により撮像された被写体非合焦画像を含み、
前記推定手段は、更に、
前記被写体合焦画像及び前記被写体非合焦画像の各々の輝度情報に基づいて、前記被写体合焦画像内で輪郭部分の輝度値が急峻に変化した輝度変化領域を前記輪郭拡大領域として推定することを特徴とする請求項1に記載の画像処理装置。
【請求項3】
前記推定手段は、
前記被写体合焦画像と前記被写体非合焦画像の間で対応する各画素の輝度値の差分が第1判定値よりも大きいか否かを判定する第1判定手段を更に有し、この第1判定手段による判定結果に基づいて、輝度値の差分が前記第1判定値よりも大きい画素を含む領域を前記輝度変化領域として推定することを特徴とする請求項2に記載の画像処理装置。
【請求項4】
前記推定手段は、
前記被写体合焦画像の各画素の輝度値が第2判定値よりも大きいか否かを判定する第2判定手段を更に有し、この第2判定手段による判定結果に基づいて、輝度値が前記第2判定値よりも大きい画素を含む領域を前記輝度変化領域として推定することを特徴とする請求項2又は3に記載の画像処理装置。
【請求項5】
前記一の画像は、前記撮像手段の露光時間を前記被写体合焦画像よりも短くして当該撮像手段により撮像された短時間露光画像を含み、
前記推定手段は、更に、
前記被写体合焦画像及び前記短時間露光画像の各々の輝度情報に基づいて、前記被写体合焦画像内で輪郭部分の輝度値が急峻に変化した輝度変化領域を前記輪郭拡大領域として推定することを特徴とする請求項1に記載の画像処理装置。
【請求項6】
前記輝度変化領域は、前記撮像手段の撮像素子に入射する光の輝度レベルが検出可能範囲の上限よりも大きい高輝度の物に対応する領域であることを特徴とする請求項2〜5の何れか一項に記載の画像処理装置。
【請求項7】
前記被写体合焦画像内のエッジを検出する検出手段を更に備え、
前記特定手段は、
前記検出手段により検出されたエッジのうち、前記推定手段により推定された前記輪郭拡大領域に対応するエッジの評価値を低下させて前記被写体領域を特定することを特徴とする請求項1〜6の何れか一項に記載の画像処理装置。
【請求項8】
前記被写体合焦画像に対してぼかし処理を施して、当該被写体合焦画像内の前記被写体領域以外の背景領域をぼかしたぼかし画像を生成する画像生成手段を更に備えることを特徴とする請求項1〜7の何れか一項に記載の画像処理装置。
【請求項9】
画像処理装置を用いた画像処理方法であって、
背景内の所定の被写体にピントを合わせて撮像装置により撮像された被写体合焦画像を取得する処理と、
前記撮像装置により前記被写体合焦画像の撮像条件とは異なる所定の撮像条件で撮像され、前記被写体合焦画像と略等しい構図を有する一の画像を取得する処理と、
前記被写体合焦画像及び前記一の画像の各々の画像情報に基づいて、前記被写体合焦画像内で、被写界深度外に存する物に対応し、輪郭部分が前記一の画像における当該物に対応する領域の輪郭部分よりも拡大されてなる輪郭拡大領域を推定する処理と、
前記輪郭拡大領域の推定結果を基準として、前記被写体合焦画像内で前記所定の被写体が含まれる被写体領域を特定する処理と、
を含むことを特徴とする画像処理方法。
【請求項10】
画像処理装置のコンピュータを、
背景内の所定の被写体にピントを合わせて撮像装置により撮像された被写体合焦画像を取得する第1取得手段、
前記撮像装置により前記被写体合焦画像の撮像条件とは異なる所定の撮像条件で撮像され、前記被写体合焦画像と略等しい構図を有する一の画像を取得する第2取得手段、
前記被写体合焦画像及び前記一の画像の各々の画像情報に基づいて、前記被写体合焦画像内で、被写界深度外に存する物に対応し、輪郭部分が前記一の画像における当該物に対応する領域の輪郭部分よりも拡大されてなる輪郭拡大領域を推定する推定手段、
この推定手段による前記輪郭拡大領域の推定結果を基準として、前記被写体合焦画像内で前記所定の被写体が含まれる被写体領域を特定する特定手段、
として機能させることを特徴とするプログラム。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate


【公開番号】特開2013−58823(P2013−58823A)
【公開日】平成25年3月28日(2013.3.28)
【国際特許分類】
【出願番号】特願2011−194554(P2011−194554)
【出願日】平成23年9月7日(2011.9.7)
【出願人】(000001443)カシオ計算機株式会社 (8,748)
【Fターム(参考)】