説明

画像処理装置、画像処理方法及びプログラム

【課題】背景画像と前景画像とを合成する際、効果的な合成画像を得ることができるようにする。
【解決手段】撮像装置100であって、背景画像における被写体画像を合成すべき合成領域を特定する合成領域特定部8cと、この合成領域特定部により特定された被写体画像を合成すべき合成領域に基づいて、当該被写体画像及び背景画像の少なくとも一方に所定の画像処理を施す加工処理部8eと、この加工処理部により所定の画像処理が施された被写体画像と背景画像を合成して被写体合成画像Pを生成する画像合成部8fを備えている。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、複数の画像を合成する画像処理装置、画像処理方法及びプログラムに関する。
【背景技術】
【0002】
従来、被写体画像と背景画像やフレーム画像を合成することにより合成画像を生成する技術が知られている(例えば、特許文献1参照)。
【先行技術文献】
【特許文献】
【0003】
【特許文献1】特開2004−159158号公報
【発明の概要】
【発明が解決しようとする課題】
【0004】
しかしながら、上記従来の技術は、背景画像の指定された位置に被写体画像を合成するのみなので、合成対象の背景画像や被写体画像の内容、合成位置、合成サイズによっては、効果的な合成画像にならないという問題があった。
【0005】
そこで、本発明の課題は、背景画像と前景画像とを合成する際、効果的な合成画像を得ることができる画像処理装置、画像処理方法及びプログラムを提供することである。
【課題を解決するための手段】
【0006】
上記課題を解決するため、請求項1に記載の発明の画像処理装置は、
背景画像に前景画像を合成する合成手段を備えた画像処理装置において、前記背景画像における前記前景画像を合成すべき領域を特定する特定手段と、この特定手段により特定された前記前景画像を合成すべき領域に基づいて、当該前景画像及び前記背景画像の少なくとも一方に所定の処理を施す画像処理手段と、を備え、前記合成手段は、前記画像処理手段によって少なくとも一方に所定の処理が施された前記前景画像と前記背景画像とを合成することを特徴としている。
【0007】
請求項2に記載の発明は、請求項1に記載の画像処理装置において、
前記前景画像と所定の処理とを対応付けて記憶する記憶手段を更に備え、前記画像処理手段は、前記特定手段により特定された前記前景画像を合成すべき領域に基づいて、前記記憶手段に前記前景画像と対応付けて記憶されている前記所定の処理を、当該前景画像及び前記背景画像の少なくとも一方に施すことを特徴としている。
【0008】
請求項3に記載の発明は、請求項1又は2に記載の画像処理装置において、
前記特定手段により前記前景画像を合成すべき領域として前記背景画像における所定領域が特定されたか否かを判定する判定手段を更に備え、前記画像処理手段は、前記判定手段により前記背景画像における所定領域が特定されたと判定された場合に、前記前景画像及び前記背景画像の少なくとも一方に所定の処理を施すことを特徴としている。
【0009】
請求項4に記載の発明は、請求項3に記載の画像処理装置において、
前記画像処理手段は、前記判定手段により前記背景画像における所定領域が特定されたと判定された場合に、前記背景画像における前記所定領域の画像部分を前記前景画像に対して優先的に表示させるように、前記前景画像及び前記背景画像の少なくとも一方に所定の処理を施すことを特徴としている。
【0010】
請求項5に記載の発明は、請求項3又は4に記載の画像処理装置において、
前記背景画像は、複数のフレーム画像からなる連写画像若しくは動画像であり、前記判定手段は、前記連写画像若しくは動画像を構成する各フレーム画像毎に、当該フレーム画像における所定領域が前記特定手段により特定されたか否かを判定し、前記画像処理手段は、前記複数のフレーム画像のうち、前記判定手段により所定領域が特定されたと判定されたフレーム画像及び前記前景画像の少なくとも一方に所定の処理を施すことを特徴としている。
【0011】
請求項6に記載の発明は、請求項3〜5の何れか一項に記載の画像処理装置において、
前記所定領域は、前記背景画像から検出された顔画像領域であることを特徴としている。
【0012】
請求項7に記載の発明の画像処理装置は、
背景画像に前景画像を合成する合成手段を備えた画像処理装置において、前記前景画像と所定の処理とを対応付けて記憶する記憶手段と、この記憶手段に前記前景画像と対応付けて記憶されている前記所定の処理を、当該前景画像及び前記背景画像の少なくとも一方に施す画像処理手段と、を備え、前記合成手段は、前記画像処理手段によって少なくとも一方に所定の処理が施された前記前景画像と前記背景画像とを合成することを特徴としている。
【0013】
請求項8に記載の発明は、請求項7に記載の画像処理装置において、
前記背景画像における前記前景画像を合成すべき領域を特定する特定手段を更に備え、前記画像処理手段は、前記特定手段により前記前景画像を合成すべき領域として特定された前記背景画像における所定領域から所定の範囲内の前記背景画像に所定の処理を施すことを特徴としている。
【0014】
請求項9に記載の発明の画像処理方法は、
背景画像における前景画像を合成すべき領域を特定するステップと、上記ステップにて特定された前記前景画像を合成すべき領域に基づいて、当該前景画像及び前記背景画像の少なくとも一方に所定の処理を施すステップと、上記ステップにて少なくとも一方に所定の処理を施された前記前景画像と前記背景画像とを合成するステップとを含むことを特徴としている。
【0015】
請求項10に記載の発明の画像処理方法は、
予め前景画像と所定の処理とを対応付けて記憶し、当該前景画像と対応付けて記憶されている前記所定の処理を、当該前景画像及び当該前景画像が合成される背景画像の少なくとも一方に施すステップと、上記ステップにて少なくとも一方に所定の処理を施された前記前景画像と前記背景画像とを合成するステップとを含むことを特徴としている。
【0016】
請求項11に記載の発明のプログラムは、
画像処理装置のコンピュータを、背景画像における前景画像を合成すべき領域を特定する特定手段、この特定手段により特定された前記前景画像を合成すべき領域に基づいて、当該前景画像及び前記背景画像の少なくとも一方に所定の処理を施す画像処理手段、この画像処理手段によって少なくとも一方に所定の処理が施された前記前景画像と前記背景画像とを合成する合成手段として機能させることを特徴としている。
【0017】
請求項12に記載の発明のプログラムは、
前景画像と所定の処理とを対応付けて記憶させる記憶部を有する画像処理装置のコンピュータを、前記記憶部に前景画像と対応付けて記憶されている前記所定の処理を、当該前景画像及び前記背景画像の少なくとも一方に施す画像処理手段、この画像処理手段によって少なくとも一方に所定の処理が施された前記前景画像及び前記背景画像を合成する合成手段として機能させることを特徴としている。
【発明の効果】
【0018】
本発明によれば、背景画像と前景画像とを合成する際、効果的な合成画像を得ることができる。
【図面の簡単な説明】
【0019】
【図1】本発明を適用した一実施形態の撮像装置の概略構成を示すブロック図である。
【図2】図1の撮像装置に記憶されている処理内容テーブルの一例を示す図である。
【図3】図1の撮像装置による背景画像生成処理に係る動作の一例を示すフローチャートである。
【図4】図1の撮像装置による被写体切り抜き処理に係る動作の一例を示すフローチャートである。
【図5】図1の撮像装置による合成画像生成処理に係る動作の一例を示すフローチャートである。
【図6】図5の合成画像生成処理における画像合成処理に係る動作の一例を示すフローチャートである。
【図7】図5の合成画像生成処理に係る画像の一例を模式的に示す図である。
【図8】変形例1の撮像装置による合成画像生成処理に係る画像の一例を模式的に示す図である。
【図9】変形例2の撮像装置による合成画像生成処理に係る動作の一例を示すフローチャートである。
【発明を実施するための形態】
【0020】
以下に、本発明について、図面を用いて具体的な態様を説明する。ただし、発明の範囲は、図示例に限定されない。
図1は、本発明を適用した一実施形態の撮像装置100の概略構成を示すブロック図である。
【0021】
本実施形態の撮像装置100は、背景画像B(図7(a)等参照)における被写体画像(前景画像)G(図7(a)等参照)を合成すべき合成領域を特定して、当該被写体画像Gを合成すべき合成領域に基づいて、当該被写体画像G及び背景画像Bのうち、少なくとも何れか一方に所定の画像処理を施して被写体合成画像Pを生成する。
具体的には、図1に示すように、撮像装置100は、レンズ部1と、電子撮像部2と、撮像制御部3と、画像データ生成部4と、画像メモリ5と、特徴量演算部6と、ブロックマッチング部7と、画像処理部8と、記録媒体9と、表示制御部10と、表示部11と、操作入力部12と、CPU13とを備えている。
また、撮像制御部3と、特徴量演算部6と、ブロックマッチング部7と、画像処理部8と、CPU13は、例えば、カスタムLSI1Aとして設計されている。
【0022】
レンズ部1は、複数のレンズから構成され、ズームレンズやフォーカスレンズ等を備えている。
また、レンズ部1は、図示は省略するが、被写体の撮像の際に、ズームレンズを光軸方向に移動させるズーム駆動部、フォーカスレンズを光軸方向に移動させる合焦駆動部等を備えていても良い。
【0023】
電子撮像部2は、例えば、CCD(Charge Coupled Device)やCMOS(Complementary Metal-oxide Semiconductor)等のイメージセンサから構成され、レンズ部1の各種レンズを通過した光学像を二次元の画像信号に変換する。
【0024】
撮像制御部3は、図示は省略するが、タイミング発生器、ドライバなどを備えている。そして、撮像制御部3は、タイミング発生器、ドライバにより電子撮像部2を走査駆動して、所定周期毎に光学像を電子撮像部2により二次元の画像信号に変換させ、当該電子撮像部2の撮像領域から1画面分ずつ画像フレームを読み出して画像データ生成部4に出力させる。
また、撮像制御部3は、AF(自動合焦処理)、AE(自動露出処理)、AWB(自動ホワイトバランス)等の被写体を撮像する際の条件の調整制御を行う。
【0025】
このように構成されたレンズ部1、電子撮像部2及び撮像制御部3は、画像合成処理に係る背景画像B(図7(a)参照)や被写体存在画像(図示略)を撮像する。
【0026】
画像データ生成部4は、電子撮像部2から転送された画像フレームのアナログ値の信号に対してRGBの各色成分毎に適宜ゲイン調整した後に、サンプルホールド回路(図示略)でサンプルホールドしてA/D変換器(図示略)でデジタルデータに変換し、カラープロセス回路(図示略)で画素補間処理及びγ補正処理を含むカラープロセス処理を行った後、デジタル値の輝度信号Y及び色差信号Cb,Cr(YUVデータ)を生成する。
カラープロセス回路から出力される輝度信号Y及び色差信号Cb,Crは、図示しないDMAコントローラを介して、バッファメモリとして使用される画像メモリ5にDMA転送される。
【0027】
画像メモリ5は、例えば、DRAM等により構成され、特徴量演算部6と、ブロックマッチング部7と、画像処理部8と、CPU13等によって処理されるデータ等を一時記憶する。
【0028】
撮像された被写体存在画像から被写体切り抜き画像を生成する場合、特徴量演算部6は、比較すべき被写体非存在画像を基準として、当該被写体非存在画像から特徴点を抽出する特徴抽出処理を行う。具体的には、特徴量演算部6は、被写体非存在画像のYUVデータに基づいて、所定数(或いは、所定数以上)の特徴の高いブロック領域(特徴点)を選択して、当該ブロックの内容をテンプレート(例えば、16×16画素の正方形)として抽出する。
ここで、特徴抽出処理とは、多数の候補ブロックから追跡に都合の良い特徴性の高いものを選択する処理である。
【0029】
ブロックマッチング部7は、被写体非存在画像と被写体存在画像の位置合わせのためのブロックマッチング処理を行う。具体的には、ブロックマッチング部7は、特徴抽出処理にて抽出されたテンプレートが被写体存在画像内のどこに対応するか、つまり、被写体存在画像内にてテンプレートの画素値が最適にマッチする位置(対応領域)を探索する。そして、画素値の相違度の評価値(例えば、差分二乗和(SSD)や差分絶対値和(SAD)等)が最も良かった被写体非存在画像と被写体存在画像間の最適なオフセットを当該テンプレートの動きベクトルとして算出する。
【0030】
画像処理部8は、切抜画像生成部8aと、顔検出部8bと、合成領域特定部8cと、領域判定部8dと、加工処理部8eと、画像合成部8fとを具備している。
【0031】
切抜画像生成部8aは、被写体切り抜き画像の画像データを生成する。具体的には、切抜画像生成部8aは、位置合わせ部と、被写体画像抽出部と、位置情報生成部等(何れも図示略)を備えている。
位置合わせ部は、被写体非存在画像から抽出した特徴点に基づいて、被写体非存在画像に対する被写体存在画像の各画素の座標変換式(射影変換行列)を算出し、当該座標変換式に従って被写体存在画像を座標変換して被写体非存在画像と位置合わせを行う。
被写体画像抽出部は、位置合わせ部により位置合わせされた被写体存在画像と被写体非存在画像との間で対応する各画素の差分情報を生成し、当該差分情報を基準として被写体存在画像から被写体が含まれる被写体画像(前景画像)Gを抽出する。
位置情報生成部は、被写体存在画像から抽出された被写体画像Gの位置を特定して、被写体存在画像における被写体画像Gの位置を示す位置情報(例えば、アルファマップ)を生成する。ここで、アルファマップとは、被写体存在画像の各画素について、被写体画像Gを所定の背景に対してアルファブレンディングする際の重みをアルファ値(0≦α≦1)として表したものである。
切抜画像生成部8aは、位置情報生成部により生成されたアルファマップに基づいて、被写体存在画像の各画素のうち、アルファ値が1の画素を所定の単一色画像(図示略)に対して透過させずに、且つ、アルファ値が0の画素を透過させるように、被写体画像Gを所定の単一色画像と合成して被写体切り抜き画像の画像データを生成する。
【0032】
顔検出部8bは、背景画像Bから所定の顔検出方法を用いて顔を検出する。具体的には、顔検出部8bは、合成画像生成処理(後述)にて、ユーザによる操作入力部12の選択決定ボタン12bの所定操作に基づいて指定された背景画像B内から顔画像領域Aを検出し、その検出した各領域内から目、鼻、口等に相当する特徴部(顔パーツ)を検出する。この顔検出処理は、公知の技術であるので、ここでは詳細な説明を省略する。
【0033】
合成領域特定部8cは、背景画像Bにおける被写体切り抜き画像の被写体画像Gを合成すべき合成領域を特定する。具体的には、合成画像生成処理にて、ユーザによる操作入力部12の選択決定ボタン12bの所定操作に基づいて背景画像B上の被写体画像Gの合成位置が指定されると、合成領域特定部8cは、当該合成位置にて背景画像B上の被写体画像Gが重畳された領域を背景画像Bにおける被写体切り抜き画像の被写体画像Gを合成すべき合成領域として特定する。
ここで、合成領域特定部8cは、背景画像Bにおける被写体画像(前景画像)Gを合成すべき領域を特定する特定手段を構成している。
【0034】
領域判定部8dは、背景画像Bにおける被写体画像Gの合成領域と当該背景画像Bにおける所定領域とが重なるか否かを判定する。具体的には、領域判定部8dは、合成領域特定部8cにより特定された被写体画像Gの合成領域と顔検出部8bにより背景画像Bから検出された顔画像領域(所定領域)Aとが重なるか否かを判定する。
ここで、領域判定部8dは、合成領域特定部8cにより被写体画像(前景画像)Gを合成すべき合成領域として背景画像Bにおける所定領域が特定されたか否かを判定する判定手段を構成している。
【0035】
加工処理部8eは、背景画像Bにおける被写体画像Gの合成領域に基づいて、背景画像Bに所定の画像処理を施す。具体的には、加工処理部8eは、被写体画像Gの合成領域にて、処理内容テーブルT(図2参照)に被写体画像Gと対応付けて登録されている所定の画像処理を背景画像Bに施す。
処理内容テーブルTは、記憶手段として、被写体画像Gと所定の画像処理とを対応付けて記憶する。具体的には、図2に示すように、処理内容テーブルTは、背景画像Bと合成される被写体画像(前景画像)Gに係る被写体画像名(例えば、「感嘆符」、「ライト」、「水滴」、「ボール」等)と、被写体画像Gの画像データと、背景画像Bに対する画像処理の処理内容とを対応付けて記憶している。例えば、被写体画像Gとしての「感嘆符」は、画像処理の処理内容として「顔画像領域をびっくりした表情にする」と対応付けられており、加工処理部8eは、背景画像Bの顔画像領域Aの目の白目部分を顔の外側方向に拡大するとともに、黒目部分を顔の内側方向に縮小するような画像処理を施す。また、被写体画像Gとしての「ライト」は、画像処理の処理内容として「合成領域を中心に明るくする」と対応付けられており、加工処理部8eは、背景画像Bの合成領域以外の部分の明るさやコントラストや色調等を調整して合成領域の近傍ほど明るくするような画像処理を施す。また、被写体画像Gとしての「水滴」は、画像処理の処理内容として「合成位置を中心に波紋が広がるような処理」と対応付けられており、加工処理部8eは、背景画像Bの合成領域以外の領域に所定径の環状部を想定して、当該環状部と重なる部分が波立つような画像処理を施す。また、被写体画像Gとしての「ボール」は、画像処理の処理内容として「合成位置を中心に凹ませるような処理」と対応付けられており、加工処理部8eは、背景画像Bの合成領域の近傍ほど歪むような画像処理を施す。
なお、上記した処理内容テーブルTは、一例であって被写体画像Gの種類や処理内容等はこれらに限られるものではなく、これらの内容は予め処理内容テーブルTに登録されていても良いし、後述する被写体切り抜き処理によって登録できるようにしても良い。
また、上記した処理内容テーブルTは、画像メモリ5に予め記憶されていてもよいし、記録媒体9の所定の記憶領域や画像ファイルごとの所定の記憶領域に記憶するようにしてもよい。
【0036】
また、加工処理部8eは、領域判定部8dにより被写体画像Gの合成領域として背景画像Bにおける所定領域が特定された場合、即ち、被写体画像Gの合成領域と顔検出部8bにより背景画像Bから検出された顔画像領域Aとが重なったと判定された場合に、背景画像Bに所定の画像処理を施す。具体的には、加工処理部8eは、背景画像Bの顔画像領域Aと被写体画像Gの合成領域とが重なったと判定されると、被写体画像Gの合成領域にて、処理内容テーブルTに当該被写体画像Gと対応付けて登録されている所定の画像処理を背景画像Bに施す。
【0037】
なお、加工処理部8eは、上記のような背景画像Bに対する画像処理とともに、或いは、背景画像Bに対する画像処理に替えて、被写体画像Gに対して所定の画像処理を施すようにしても良い。
ここで、加工処理部8eは、合成領域特定部8cにより特定された背景画像Bにおける被写体画像(前景画像)Gを合成すべき合成領域に基づいて、当該被写体画像G及び背景画像Bのうち、少なくとも何れか一方に所定の処理を施す画像処理手段を構成している。
【0038】
また、画像処理部8は、被写体切り抜き画像と背景画像Bとを合成する画像合成部(合成手段)8fを具備している。
画像合成部8fは、加工処理部8eにより所定の画像処理が施された背景画像Bと被写体切り抜き画像とを合成して被写体合成画像Pを生成する。具体的には、画像合成部8fは、画像処理後の背景画像Bの各画素のうち、アルファ値が0の画素は透過させ、アルファ値が1の画素は被写体切り抜き画像の対応する画素の画素値で上書きし、さらに、背景画像Bの各画素のうち、アルファ値が0<α<1の画素は1の補数(1−α)を用いて被写体領域を切り抜いた画像(背景画像×(1−α))を生成した後、アルファマップにおける1の補数(1−α)を用いて被写体切り抜き画像を生成した際に単一背景色とブレンドした値を計算し、当該値を被写体切り抜き画像から減算し、それを被写体領域を切り抜いた画像(背景画像×(1−α))と合成する。
【0039】
記録媒体9は、例えば、不揮発性メモリ(フラッシュメモリ)等により構成され、画像処理部8の圧縮部(図示略)により符号化された背景画像Bや被写体切り抜き画像の画像データを記憶する。
また、被写体切り抜き画像の画像データは、画像処理部8の位置情報生成部により生成されたアルファマップと対応付けられて、当該被写体切り抜き画像の画像データの拡張子を「.jpe」とした複数の画像ファイルからなるグループが保存されている。
【0040】
表示制御部10は、画像メモリ5に一時的に記憶されている表示用の画像データを読み出して表示部11に表示させる制御を行う。
具体的には、表示制御部10は、VRAM、VRAMコントローラ、デジタルビデオエンコーダなどを備えている。そして、デジタルビデオエンコーダは、CPU13の制御下にて画像メモリ5から読み出されてVRAM(図示略)に記憶されている輝度信号Y及び色差信号Cb,Crを、VRAMコントローラを介してVRAMから定期的に読み出して、これらのデータを元にビデオ信号を発生して表示部11に出力する。
【0041】
表示部11は、例えば、液晶表示装置であり、表示制御部10からのビデオ信号に基づいて画像や文字などを表示画面に表示する。具体的には、表示部11は、撮像モードにて、レンズ部1、電子撮像部2及び撮像制御部3による被写体の撮像により生成された複数の画像フレームに基づいてライブビュー画像を表示したり、本撮像画像として撮像されたレックビュー画像を表示する。
【0042】
操作入力部12は、当該撮像装置100の所定操作を行うためのものである。具体的には、操作入力部12は、被写体の撮影指示に係るシャッタボタン12a、撮像モードや機能等の選択指示や被写体切り抜き画像の被写体画像Gの合成位置の設定指示に係る選択決定ボタン12b、ズーム量の調整指示に係るズームボタン(図示略)等を備え、これらのボタンの操作に応じて所定の操作信号をCPU13に出力する。
【0043】
CPU13は、撮像装置100の各部を制御するものである。具体的には、CPU13は、撮像装置100用の各種処理プログラム(図示略)に従って各種の制御動作を行うものである。
【0044】
次に、撮像装置100による背景画像生成処理について、図3を参照して説明する。
図3は、背景画像生成処理に係る動作の一例を示すフローチャートである。
【0045】
背景画像生成処理は、通常の静止画像の撮像処理であり、ユーザによる操作入力部12の選択決定ボタン12bの所定操作に基づいて、メニュー画面に表示された複数の撮像モードの中から静止画撮像モードが選択指示された場合に実行される処理である。
図3に示すように、先ず、表示制御部10は、レンズ部1、電子撮像部2及び撮像制御部3による背景画像Bの撮像により生成された複数の画像フレームに基づいてライブビュー画像を表示部11の表示画面に表示させる(ステップS1)。
【0046】
次に、CPU13は、ユーザによる操作入力部12のシャッタボタン12aの所定操作に基づいて撮像指示が入力されたか否かを判定する(ステップS2)。ここで、撮像指示が入力されたと判定されると(ステップS2;YES)、撮像制御部3は、フォーカスレンズの合焦位置や露出条件(シャッター速度、絞り、増幅率等)やホワイトバランス等の条件を調整させて、背景画像B(図7(a)等参照)の光学像を所定の条件で電子撮像部2により撮像させる(ステップS3)。
【0047】
続けて、画像データ生成部4は、電子撮像部2から転送された背景画像Bの画像フレームのYUVデータを生成した後、当該背景画像BのYUVデータを記録媒体9の所定の記憶領域に記憶させる(ステップS4)。
これにより、背景画像生成処理を終了する。
【0048】
次に、撮像装置100による被写体切り抜き処理について、図4を参照して説明する。
図4は、被写体切り抜き処理に係る動作の一例を示すフローチャートである。
【0049】
被写体切り抜き処理は、ユーザによる操作入力部12の選択決定ボタン12bの所定操作に基づいて、メニュー画面に表示された複数の撮像モードの中から被写体切り抜きモードが選択指示された場合に実行される処理である。
図4に示すように、先ず、表示制御部10は、レンズ部1、電子撮像部2及び撮像制御部3による被写体の撮像により生成された複数の画像フレームに基づいてライブビュー画像を表示部11の表示画面に表示させるとともに、当該ライブビュー画像に重畳させて、被写体存在画像の撮像指示メッセージを表示部11の表示画面に表示させる(ステップS11)。
【0050】
次に、CPU13は、ユーザにより操作入力部12のシャッタボタン12aの所定操作に基づいて撮像指示が入力されたか否かを判定する(ステップS12)。ここで、撮像指示が入力されたと判定されると(ステップS12;YES)、撮像制御部3は、フォーカスレンズの合焦位置や露出条件(シャッター速度、絞り、増幅率等)やホワイトバランス等の条件を調整させて、被写体存在画像(図示略)の光学像を所定の条件で電子撮像部2により撮像させる(ステップS13)。
【0051】
続けて、画像データ生成部4は、電子撮像部2から転送された被写体存在画像の画像フレームのYUVデータを生成した後、当該被写体存在画像のYUVデータを画像メモリ5に一時記憶させる。
また、撮像制御部3は、当該被写体存在画像の撮像の際の合焦位置や露出条件やホワイトバランス等の条件を固定した状態を維持する。
【0052】
そして、表示制御部10は、レンズ部1、電子撮像部2及び撮像制御部3による被写体の撮像により生成された複数の画像フレームに基づいてライブビュー画像を表示部11の表示画面に表示させるとともに、当該ライブビュー画像に重畳させて、被写体存在画像の半透過の表示態様の画像と被写体非存在画像の撮像指示メッセージを表示部11の表示画面に表示させる(ステップS14)。
この後、CPU13は、ユーザにより操作入力部12のシャッタボタン12aの所定操作に基づいて撮像指示が入力されたか否かを判定する(ステップS15)。そして、ユーザは、被写体を画角外に移動させるか、或いは被写体が移動するのを待った後、ユーザにより被写体非存在画像が被写体存在画像の半透過の画像と重なるようにカメラ位置が調整されて、操作入力部12のシャッタボタン12aの所定操作に基づいて撮像指示が入力されたと判定されると(ステップS15;YES)、撮像制御部3は、被写体非存在画像の光学像を被写体存在画像の撮像後に固定された条件で電子撮像部2により撮像させる(ステップS16)。
その後、画像データ生成部4は、電子撮像部2から転送された被写体非存在画像の画像フレームに基づいて、被写体非存在画像のYUVデータを生成した後、当該YUVデータを画像メモリ5に一時記憶させる。
【0053】
次に、CPU13は、特徴量演算部6、ブロックマッチング部7及び画像処理部8の切抜画像生成部8aに、画像メモリ5に一時記憶されている被写体非存在画像のYUVデータを基準として、被写体存在画像のYUVデータを射影変換させるための射影変換行列を所定の画像変換モデル(例えば、相似変換モデル、或いは合同変換モデル)で算出させる(ステップS17)。
具体的には、特徴量演算部6は、被写体非存在画像のYUVデータに基づいて、所定数(或いは、所定数以上)の特徴の高いブロック領域(特徴点)を選択して、当該ブロックの内容をテンプレートとして抽出する。そして、ブロックマッチング部7は、特徴抽出処理にて抽出されたテンプレートの画素値が最適にマッチする位置を被写体存在画像内にて探索して、画素値の相違度の評価値が最も良かった被写体非存在画像と被写体存在画像間の最適なオフセットを当該テンプレートの動きベクトルとして算出する。そして、切抜画像生成部8aの位置合わせ部は、ブロックマッチング部7により算出された複数のテンプレートの動きベクトルに基づいて全体の動きベクトルを統計的に算出し、当該動きベクトルに係る特徴点対応を用いて被写体存在画像の射影変換行列を算出する。
【0054】
次に、切抜画像生成部8aの位置合わせ部は、算出された射影変換行例に基づいて被写体存在画像を射影変換することで、被写体存在画像のYUVデータと被写体非存在画像のYUVデータとを位置合わせする処理を行わせる(ステップS18)。
【0055】
そして、切抜画像生成部8aの被写体領域抽出部は、被写体存在画像から被写体が含まれる被写体領域(被写体画像)を抽出する処理を行う(ステップS19)。
具体的には、被写体領域抽出部は、被写体存在画像のYUVデータと被写体非存在画像のYUVデータの各々に対してローパスフィルタをかけて各画像の高周波成分を除去する。その後、被写体領域抽出部は、ローパスフィルタをかけた被写体存在画像と被写体非存在画像との間で対応する各画素について相違度を算出して相違度マップを生成する。続けて、被写体領域抽出部は、各画素に係る相違度マップを所定の閾値で2値化した後、相違度マップから細かいノイズや手ぶれにより相違が生じた領域を除去するために収縮処理を行う。その後、被写体領域抽出部は、ラベリング処理を行って、所定値以下の領域や最大領域以外の領域を除去した後、一番大きな島のパターンを被写体領域として特定し、収縮分を修正するための膨張処理を行う。
【0056】
次に、切抜画像生成部8aの位置情報生成部は、抽出された被写体領域の被写体存在画像内での位置を示すアルファマップを生成する(ステップS20)。
【0057】
その後、切抜画像生成部8aは、被写体の画像を所定の単一色画像と合成した被写体切り抜き画像(図示略)の画像データを生成する処理を行わせる(ステップS21)。
具体的には、切抜画像生成部8aは、被写体存在画像、単一色画像及びアルファマップを読み出して画像メモリ5に展開した後、被写体存在画像の全ての画素について、アルファ値が0の画素については(α=0)、透過させ、アルファ値が0<α<1の画素については(0<α<1)、所定の単一色とブレンディングを行い、アルファ値が1の画素については(α=1)、何もせずに所定の単一色に対して透過させないようにする。
【0058】
その後、CPU13は、被写体切り抜き画像のYUVデータを、切抜画像生成部8aの位置情報生成部により生成されたアルファマップがExif情報として付帯されたExif形式の画像ファイルとし、例えば、当該被写体切り抜き画像の画像データの拡張子を「.jpe」とする一ファイルで記録媒体9の所定の記憶領域に記憶させる(ステップS22)。
なお、画像ファイルを記録媒体9の所定の記憶領域に記憶する際に、所定の処理内容を対応付けて記憶する。例えば、「明度を上げる」、「輝度を低くする」、「ボカシ処理を加える」などの処理内容が画像メモリ5に記憶されていて、この中から任意の画像処理内容を選択するようにし、選択した処理内容を当該画像ファイルと対応付けて記録媒体9の所定の記憶領域に記憶させる。
これにより、被写体切り抜き処理を終了する。
【0059】
次に、合成画像生成処理について図5〜図7を参照して詳細に説明する。
図5は、合成画像生成処理に係る動作の一例を示すフローチャートである。また、図6は、合成画像生成処理における画像合成処理に係る動作の一例を示すフローチャートである。
【0060】
合成画像生成処理は、ユーザによる操作入力部12の選択決定ボタン12bの所定操作に基づいて、メニュー画面に表示された複数の撮像モードの中から画像合成モードが選択指示された場合に実行される処理である。
図5に示すように、ユーザによる操作入力部12の所定操作に基づいて、記録媒体9に記録されている複数の画像の中で合成画像の背景となる所望の背景画像B(図7(a)等参照)が選択して指定されると(ステップS31)、画像処理部8は、指定された背景画像Bの画像データを読み出して画像メモリ5に展開して、画像処理部8の顔検出部8bが、当該画像データに対する顔検出処理を行って背景画像B内から顔画像領域Aを検出する(ステップS32)。
【0061】
次に、ユーザによる操作入力部12の所定操作に基づいて、記録媒体9に記録されている複数の画像の中で所望の被写体切り抜き画像が選択して指定されると(ステップS33)、画像処理部8は、指定された被写体切り抜き画像の画像データを読み出して画像メモリ5に展開する。
【0062】
続けて、ユーザによる操作入力部12の選択決定ボタン12bの所定操作に基づいて、背景画像Bにおける被写体切り抜き画像の被写体画像Gの合成位置が指定されると(ステップS34;図7(a)等参照)、画像処理部8の合成領域特定部8cは、背景画像B上の被写体画像Gが重畳された領域を背景画像Bにおける被写体切り抜き画像の被写体画像Gを合成すべき合成領域として特定する(ステップS35)。
【0063】
続けて、画像処理部8の領域判定部8dは、顔検出部8bにより検出された顔画像領域Aと合成領域特定部8cにより特定された被写体画像Gの合成領域とが重なるか否かを判定する(ステップS36)。
ここで、背景画像Bの顔画像領域Aと被写体画像Gの合成領域とが重なる(図7(b)参照)と判定されると(ステップS36;YES)、画像処理部8の加工処理部8eは、処理内容テーブルTに当該被写体画像Gと対応付けて登録されている所定の画像処理内容を取得して(ステップS37)、取得した画像処理内容に従って背景画像Bに対する画像処理を行う(ステップS38)。
例えば、被写体画像「感嘆符」が選択指定されている場合に、背景画像Bの顔画像領域Aと被写体画像Gの合成領域とが重なると、加工処理部8eは、処理内容テーブルTから画像処理内容「顔画像領域をびっくりした表情にする」を取得して、顔画像領域Aの目の白目部分を顔の外側方向に拡大するとともに、黒目部分を顔の内側方向に縮小するような画像処理を施す。また例えば、被写体画像Gとして処理テーブルTの「ライト」が選択されている場合は、背景画像Bの顔画像領域Aと被写体画像Gの合成領域とが重なると、加工処理部8eは、処理内容テーブルTから画像処理内容「合成領域を中心に明るくする」を取得して、当該合成領域を中心に背景画像Bが明るくなるような画像処理を施す。
【0064】
次に、画像処理部8は、ユーザによる操作入力部12の選択決定ボタン12bの所定操作に基づいて、背景画像Bにおける被写体切り抜き画像の被写体画像Gの合成位置が再指定されたか否かを判定する(ステップS39)。
ここで、被写体画像Gの合成位置が再指定されたと判定されると(ステップS39;YES)、画像処理部8は、処理をステップS35に移行して、それ以降の処理を実行する。
ステップS35以降の処理は、ステップS39にて、被写体画像Gの合成位置が再指定されていないと判定されるまで(ステップS39;NO)、繰り返し行われる。
そして、ステップS39にて、被写体画像Gの合成位置が再指定されていないと判定されると(ステップS39;NO)、画像処理部8の画像合成部8fは、背景画像Bと被写体切り抜き画像とを合成する画像合成処理を行う(ステップS40)。
また、ステップS36にて、被写体画像Gの合成領域と顔画像領域Aとが重なっていない(図7(a)、図7(c)等参照)と判定された場合にも(ステップS36;NO)、画像合成部8fは、画像合成処理を行う。
【0065】
ここで、画像合成処理について図6を参照して詳細に説明する。
画像合成処理は、背景画像Bの顔画像領域Aと被写体画像Gの合成領域とが重なっている場合には、ステップS38にて所定の画像処理が施された背景画像Bを対象画像として行われ、一方、背景画像Bの顔画像領域Aと被写体画像Gの合成領域とが重なっていない場合には、所定の画像処理が施されていない背景画像Bを対象画像として行われる。
なお、以下の説明にあっては、処理対象となる背景画像Bは所定の画像処理が施されているか否かに関わらず、単に背景画像Bと言う。
【0066】
図6に示すように、画像合成部8fは、被写体切り抜き画像と対応付けて保存されているアルファマップを読み出して画像メモリ5に展開する(ステップS51)。
なお、図5のステップS34やステップS39にて背景画像Bにおける被写体切り抜き画像の被写体画像Gの合成位置が指定された際に、背景画像Bとアルファマップとがずれてしまいアルファマップの範囲外となる領域については、α=0としてアルファ値が存在しない領域を生じさせないようにする。
【0067】
次に、画像合成部8fは、背景画像Bの何れか一の画素(例えば、左上隅部の画素)を指定して(ステップS52)、当該画素について、アルファマップのアルファ値に基づいて処理を分岐させる(ステップS53)。具体的には、画像合成部8fは、背景画像Bの何れか一の画素のうち、アルファ値が1の画素については(ステップS53;α=1)、被写体切り抜き画像の対応する画素の画素値で上書きし(ステップS54)、アルファ値が0<α<1の画素については(ステップS53;0<α<1)、1の補数(1−α)を用いて被写体領域を切り抜いた画像(背景画像×(1−α))を生成した後、アルファマップにおける1の補数(1−α)を用いて被写体切り抜き画像を生成した際に単一背景色とブレンドした値を計算し、当該値を被写体切り抜き画像から減算し、それを被写体領域を切り抜いた画像(背景画像×(1−α))と合成し(ステップS55、アルファ値が0の画素については(ステップS53;α=0)、何もせずに背景画像Bを透過させるようにする。
【0068】
続けて、画像合成部8fは、背景画像Bの全ての画素について処理したか否かを判定する(ステップS56)。
ここで、全ての画素について処理していないと判定されると(ステップS56;NO)、画像合成部8fは、処理対象として次の画素を指定して当該画素に処理対象を移動させて(ステップS57)、処理をステップS53に移行させる。
上記の処理を、ステップS56にて全ての画素について処理したと判定されるまで(ステップS56;YES)、繰り返すことで、画像合成部8fは、被写体切り抜き画像と背景画像Bとを合成した被写体合成画像Pの画像データを生成させる。
これにより、画像合成処理を終了する。
【0069】
その後、図5に示すように、表示制御部10は、画像合成部8fにより生成された被写体合成画像Pの画像データに基づいて、背景画像Bに被写体画像Gが重畳された被写体合成画像Pを表示部11の表示画面に表示させる(ステップS41)。
具体的には、表示制御部10は、例えば、背景画像Bの顔画像領域Aと被写体画像Gの合成領域とが重なっている場合には、所定の画像処理が施された背景画像Bに被写体画像Gが重畳された被写体合成画像Pb(図7(b)参照)を表示部11に表示させる。一方、表示制御部10は、例えば、背景画像Bの顔画像領域Aと被写体画像Gの合成領域とが重なっていない場合には、所定の画像処理が施されていない背景画像Bに被写体画像Gが重畳された被写体合成画像Pa、Pc(図7(a)、図7(c)等参照)を表示部11に表示させる。
これにより、合成画像生成処理を終了する。
【0070】
以上のように、本実施形態の撮像装置100によれば、背景画像Bにおける被写体切り抜き画像の被写体画像Gを合成すべき合成領域に基づいて、当該被写体画像G及び背景画像Bのうち、少なくとも何れか一方に所定の画像処理を施すので、従来のように被写体画像Gと背景画像Bとを単に合成するのではなく、被写体画像Gや背景画像Bに所定の画像処理を施された斬新な態様の被写体合成画像Pbを生成することができ、被写体合成画像Pbに違和感を生じさせて当該被写体合成画像Pbの興趣性の向上を図ることができる。
特に、背景画像Bにおける被写体画像Gを合成すべき合成領域として当該背景画像Bにおける顔画像領域Aが特定された場合に、処理内容テーブルTに被写体画像Gと対応付けて記憶されている所定の画像処理を被写体画像G及び背景画像Bのうち、少なくとも何れか一方に施すので、例えば、被写体画像Gと背景画像Bの顔画像領域Aとが重なってしまい顔画像領域A全体の視認が制限されてしまうような場合に、当該顔画像領域Aに対して所定の画像処理を施すことで、被写体合成画像Pbに違和感を生じさせて当該被写体合成画像Pbの興趣性の向上を図ることができる。
このように、背景画像Bと被写体画像Gとを合成して、効果的な被写体合成画像Pを得ることができる。
【0071】
なお、本発明は、上記実施形態に限定されることなく、本発明の趣旨を逸脱しない範囲において、種々の改良並びに設計の変更を行っても良い。
以下に、撮像装置100の変形例について説明する。
ここで、撮像装置100の変形例は、以下に詳細に説明する以外の点で上記実施形態の撮像装置100と略同様の構成を成し、その説明は省略する
【0072】
<変形例1>
変形例1の撮像装置100は、被写体画像Gの合成領域と背景画像Bにおける所定領域とが重なったと判定された場合に、加工処理部8eは、背景画像Bにおける当該所定領域の画像部分を被写体画像Gに対して優先的に表示させるように、被写体画像Gや背景画像Bに対して所定の画像処理を施す。
即ち、加工処理部8eは、領域判定部8dにより被写体画像Gの合成領域と顔画像領域(所定領域)Aとが重なったと判定された場合に、被写体画像Gを半透過の表示態様で表示されるように当該被写体画像Gに対して画像処理を施す。
なお、被写体画像Gの半透過の表示態様とは、被写体画像Gが透明と不透明の中間で表示された状態であり、当該被写体画像Gに重畳して後側に表示される背景画像Bの輪郭や色彩や明暗などを透過する程度の表示態様のことである。
【0073】
これにより、背景画像Bにおける当該顔画像領域Aの画像部分が被写体画像Gに対して優先的に表示される(図8参照)。
なお、背景画像Bにおける当該顔画像領域Aの画像部分を被写体画像Gに対して優先的に表示させる際に、被写体画像Gに所定の画像処理を施すようにしたが、これに限られるものではなく、背景画像Bに対して所定の画像処理を施すようにしても良い。また、背景画像Bの優先的な表示態様として、被写体画像Gの半透過の表示態様を例示したが、これに限られるものではなく、例えば、被写体画像Gの背景画像Bの顔画像領域Aと重なる部分を切り欠いたような表示態様や、被写体画像Gに対して背景画像Bの顔画像領域Aの方がより目立つように、これらの画像の明るさやコントラストや色調等を調整した表示態様などが挙げられる。
【0074】
従って、変形例1の撮像装置100によれば、背景画像Bにおける被写体画像Gを合成すべき合成領域として当該背景画像Bにおける顔画像領域Aが特定された場合に、当該顔画像領域Aの画像部分を被写体画像Gに対して優先的に表示することができる。
【0075】
<変形例2>
変形例2の撮像装置100は、複数(例えば、20枚)の背景画像Bを含む連写背景画像と被写体画像Gとを合成する際に、加工処理部8eは、連写背景画像を構成する複数の背景画像B、…のうち、被写体画像Gの合成領域として顔画像領域Aが特定された背景画像Bの各々に所定の画像処理を施す。
【0076】
連写背景画像は、図示は省略するが、レンズ部1、電子撮像部2及び撮像制御部3により所定の撮像フレームレートで連続して撮像された複数の背景画像(フレーム画像)B、…からなる。
画像処理部8の顔検出部8bは、連写背景画像を構成する複数の背景画像B、…の各々に対する顔検出処理を行って顔画像領域Aを検出する。また、画像処理部8の合成領域特定部8cは、連写背景画像を構成する複数の背景画像B、…の各々における被写体切り抜き画像の被写体画像Gを合成すべき合成領域を特定する。
そして、画像処理部8の領域判定部8dは、合成領域特定部8cにより特定された各背景画像Bにおける被写体画像Gの合成領域と顔検出部8bにより各背景画像Bから検出された顔画像領域(所定領域)Aとが重なるか否かを判定する。即ち、領域判定部8dは、連写背景画像を構成する各背景画像(構成画像)B毎に、当該背景画像Bにおける顔画像領域(所定領域)Aが合成領域特定部8cにより特定されたか否かを判定する。
【0077】
加工処理部8eは、連写背景画像を構成する複数の背景画像B、…のうち、領域判定部8dにより被写体画像Gの合成領域と顔画像領域(所定領域)Aとが重なると判定された背景画像Bの各々に所定の画像処理を施す。
なお、加工処理部8eは、上記のような連写背景画像を構成する複数の背景画像B、…に対する画像処理とともに、或いは、各背景画像Bに対する画像処理に替えて、被写体画像Gに対して所定の画像処理を施すようにしても良い。
【0078】
次に、変形例2の撮像装置100による合成画像生成処理について、図9を参照して説明する。
図9は、合成画像生成処理に係る動作の一例を示すフローチャートである。
【0079】
図9に示すように、先ず、上記実施形態と略同様に、ユーザによる操作入力部12の所定操作に基づいて、記録媒体9に記録されている複数の画像の中で所望の被写体切り抜き画像が選択して指定されると(ステップS61)、画像処理部8は、指定された被写体切り抜き画像の画像データを読み出して画像メモリ5に展開する。
【0080】
次に、ユーザによる操作入力部12の所定操作に基づいて、記録媒体9に記録されている複数の画像の中で合成画像の背景となる所望の連写背景画像(図示略)が選択して指定されると(ステップS62)、画像処理部8は、指定された連写背景画像の画像データを読み出して画像メモリ5に展開して、当該連写背景画像を構成する最初の背景画像Bを指定する(ステップS63)。また、画像処理部8は、連写背景画像の連写枚数に応じて被写体切り抜き画像を複製して、各背景画像Bに対応する被写体切り抜き画像を画像メモリ5に記憶しておく。
続けて、画像処理部8の顔検出部8bが、最初の背景画像Bの画像データに対する顔検出処理を行って当該背景画像B内から顔画像領域Aを検出する(ステップS64)。
【0081】
続けて、ユーザによる操作入力部12の選択決定ボタン12bの所定操作に基づいて、最初の背景画像Bにおける被写体切り抜き画像の被写体画像Gの合成位置が指定されると(ステップS65)、画像処理部8の合成領域特定部8cは、最初の背景画像B上の被写体画像Gが重畳された領域を背景画像Bにおける被写体切り抜き画像の被写体画像Gを合成すべき合成領域として特定する(ステップS66)。
【0082】
続けて、画像処理部8の領域判定部8dは、顔検出部8bにより検出された顔画像領域Aと合成領域特定部8cにより特定された被写体画像Gの合成領域とが重なるか否かを判定する(ステップS67)。
ここで、背景画像Bにおける顔画像領域Aと被写体画像Gの合成領域とが重なる(図7(b)参照)と判定されると(ステップS67;YES)、画像処理部8の加工処理部8eは、処理内容テーブルTに当該被写体画像Gと対応付けて登録されている所定の画像処理内容を取得して(ステップS68)、取得した画像処理内容に従って処理対象の背景画像Bに対する画像処理を行う(ステップS69)。
なお、画像処理の具体的な内容は、上記実施形態にて説明したものと同一であり、その詳細な説明は省略する。
【0083】
次に、画像処理部8は、連写背景画像を構成する複数の背景画像B、…の中で処理対象となっている背景画像Bが最初の背景画像Bであるか否かを判定する(ステップS70)。また、ステップS67にて、背景画像Bの顔画像領域Aと被写体画像Gの合成領域とが重なっていないと判定された場合にも(ステップS67;NO)、画像処理部8は、処理をステップS70に移行して、処理対象の背景画像Bが最初の背景画像Bであるか否かを判定する。
【0084】
ステップS70にて、処理対象の背景画像Bが最初の背景画像Bであると判定されると(ステップS70;YES)、画像処理部8は、ユーザによる操作入力部12の選択決定ボタン12bの所定操作に基づいて、最初の背景画像Bにおける被写体切り抜き画像の被写体画像Gの合成位置が再指定されたか否かを判定する(ステップS71)。
ここで、被写体画像Gの合成位置が再指定されたと判定されると(ステップS71;YES)、画像処理部8は、処理をステップS66に移行して、それ以降の処理を実行する。
ステップS66以降の処理は、ステップS71にて、被写体画像Gの合成位置が再指定されていないと判定されるまで(ステップS71;NO)、繰り返し行われる。
そして、ステップS71にて、被写体画像Gの合成位置が再指定されていないと判定されると(ステップS71;NO)、画像処理部8の画像合成部8fは、処理対象の背景画像Bと被写体切り抜き画像とを合成する画像合成処理を行う(ステップS40)。
【0085】
画像合成処理は、連写背景画像の中から指定された背景画像B(例えば、最初の背景画像B等)を処理対象として実行する以外は、上記実施形態と略同様であり、詳細な説明は省略する。
これにより、処理対象の背景画像B(例えば、最初の背景画像B)に被写体切り抜き画像の被写体画像Gが重畳された被写体合成画像Pが生成される。なお、生成された被写体合成画像Pの画像データは、画像メモリ5に一時記憶される。
【0086】
次に、画像処理部8は、連写背景画像を構成する複数の背景画像B、…の全てについて処理したか否かを判定する(ステップS72)。
ここで、背景画像Bの全てについて処理していないと判定されると(ステップS72;NO)、画像処理部8は、処理対象として次の背景画像B(例えば、二枚目の背景画像B)を指定して当該背景画像Bに処理対象を移動させる(ステップS73)。続けて、画像処理部8の顔検出部8bは、処理対象の背景画像Bの画像データに対する顔検出処理を行って当該背景画像B内から顔画像領域Aを検出した後(ステップS74)、処理をステップS66に移行させる。
【0087】
画像処理部8は、上記の処理をステップS72にて複数の背景画像B、…の全てについて処理したと判定されるまで(ステップS72;YES)、繰り返す。
ここで、処理対象が二枚目以降の背景画像Bに指定された場合、ステップS70にて、処理対象の背景画像Bが最初の背景画像Bでないと判定されることから(ステップS70;NO)、画像処理部8は、ステップS71の処理をとばして、画像合成部8fが、処理対象の背景画像Bと被写体切り抜き画像とを合成する画像合成処理を行う(ステップS40)。
【0088】
そして、ステップS72にて、複数の背景画像B、…の全てについて処理したと判定されると(ステップS72;YES)、表示制御部10は、画像合成部8fにより生成された複数の被写体合成画像P、…の画像データに基づいて、被写体合成動画像を表示部11の表示画面に表示させる(ステップS75)。
具体的には、表示制御部10は、画像メモリ5から複数の被写体合成画像P、…の画像データを取得して、複数の被写体合成画像P、…を所定の表示フレームレートで切り換えて表示部11の表示画面に再生表示させることで、背景画像Bの顔画像領域Aと被写体画像Gの合成領域とが重なっている場合には、所定の画像処理が施された背景画像Bに被写体画像Gが重畳された被写体合成画像Pを表示部11に表示させ、背景画像Bの顔画像領域Aと被写体画像Gの合成領域とが重なっていない場合には、所定の画像処理が施されていない背景画像Bに被写体画像Gが重畳された被写体合成画像Pを表示部11に表示させる。
これにより、合成画像生成処理を終了する。
【0089】
従って、変形例2の撮像装置100によれば、連写背景画像を構成する複数の背景画像B、…のうち、被写体画像Gの合成領域として顔画像領域Aが特定された背景画像Bの各々に所定の画像処理を施すので、背景画像Bの顔画像領域Aと被写体画像Gの合成領域とが重なっているか否かに応じて、被写体画像Gが所定の画像処理が施された背景画像Bに重畳された被写体合成画像Pと所定の画像処理が施されていない背景画像Bに重畳された被写体合成画像Pとを切り替えて表示することができ、斬新な態様の被写体合成動画像を生成することができ、被写体合成動画像に違和感を生じさせて当該被写体合成動画像の興趣性の向上を図ることができる。
【0090】
なお、上記変形例2にあっては、背景画像Bとして、複数の背景画像B、…を含む連写背景画像を例示したが、処理対象画像はこれに限られるものではなく、複数の画像フレーム(構成画像)を含む動画像であっても良い。
【0091】
また、上記実施形態にあっては、合成画像生成処理にて、背景画像Bにおける被写体画像Gの合成領域として当該背景画像Bにおける顔画像領域(所定領域)Aが特定された場合に、背景画像Bや被写体画像Gに対して所定の画像処理を施すようにしたが、画像処理の実行タイミングはこれに限られるものではない。
例えば、背景画像Bにおける被写体画像Gの合成領域が特定された場合に、当該被写体画像Gの合成領域に基づいて、背景画像Bや被写体画像Gに対して所定の画像処理を施すようにしても良い。即ち、例えば、略中央部近傍に比較的重要な被写体が配置された構図で静止画撮像される場合があるが、被写体画像Gの合成領域が背景画像Bの略中央部近傍である場合には、被写体画像Gと背景画像Bにおける比較的重要な被写体が重なった状態となる虞がある。そこで、かかる場合を考慮して、背景画像Bにおける被写体画像Gを合成すべき合成領域に基づいて、背景画像Bや被写体画像Gに対して所定の画像処理を施すようにしても良い。
さらに、例えば、背景画像Bにおける被写体画像Gの合成領域が特定された後、画像合成処理にて実際に背景画像Bと被写体画像Gとを合成する際に、背景画像Bや被写体画像Gに対して所定の画像処理を施すようにしても良い。
【0092】
また、上記実施形態にあっては、背景画像Bにおける所定領域として顔画像領域Aを例示したが、所定領域の種類はこれに限られるものではない。例えば、背景画像Bに対して画像認識処理を行って、例えば、色、明るさ、コントラスト、高周波成分情報などの画像の各種情報を利用して主要被写体の画素集合の輪郭を抽出して、当該主要被写体の画像部分を所定領域としても良い。
さらに、この所定領域は被写体画像Gごとに設定できるようにしても良い。図2に示した処理内容テーブルTを例にとると、被写体画像Gとしての「感嘆符」は、画像処理の処理内容として「顔画像領域をびっくりした表情にする」と対応付けられているが、これに加えて所定領域として「顔画像領域」が対応付けられているものとする。つまり、「感嘆符」の合成領域が背景画像Bにおける顔画像領域と重なる場合に、当該顔画像領域を「びっくりした表示にする」処理を施すようにする。また、被写体画像Gとしての「ライト」は、画像処理の処理内容として「合成領域を中心に明るくする」に加えて所定領域として「暗い領域」が対応付けられており、「ライト」の合成領域が背景画像Bにおける暗い領域(例えば輝度が所定値以下である領域)と重なる場合に、「合成領域を中心に明るくする」処理を施すようにしても良い。
また、処理内容テーブルTには被写体画像Gごとに、加工処理部8eによる背景画像Bや被写体画像Gに対する所定の画像処理の処理範囲を対応付けて記憶できるようにしても良い。
また、被写体画像Gの種類に関係なく、背景画像における所定領域と処理内容とを対応付けて記録できるようにしてもよい。例えば、所定領域として「顔画像領域」が記憶されていて、処理内容として「顔画像領域をびっくりした表示にする」と対応付けられている場合は、いかなる被写体画像Gであっても、合成領域が顔画像領域と重なった場合は当該顔画像領域をびっくりした表示にするように画像処理を施すようにしても良い。
【0093】
さらに、上記実施形態にあっては、被写体切り抜き画像の被写体画像Gを前景画像として背景画像Bと合成するようにしたが、前景画像の種類はこれに限られるものではなく、背景画像Bに重畳して合成される画像であれば如何なる画像であっても良い。
【0094】
また、上記実施形態にあっては、加工処理部8eは、背景画像Bや被写体画像Gに対する所定の画像処理を背景画像Bにおける被写体画像Gの合成領域を基準として行うようにしたが、所定の画像処理の基準はこれに限られるものではない。
即ち、加工処理部8eは、処理内容テーブルT(図2参照)に被写体画像Gと対応付けて登録されている所定の画像処理を、背景画像B及び被写体画像Gのうち、少なくとも何れか一方に画像処理を施すようにしても良い。
このような構成としても、従来のように被写体画像Gと背景画像Bとを単に合成するのではなく、被写体画像Gや背景画像Bに所定の画像処理を施された斬新な態様の被写体合成画像Pを生成することができ、当該被写体合成画像Pの興趣性の向上を図ることができる。
【0095】
さらに、撮像装置100の構成は、上記実施形態に例示したものは一例であり、これに限られるものではない。即ち、画像処理装置として、撮像装置100を例示したが、これに限られるものではない。例えば、背景画像Bや被写体画像Gの生成は、当該撮像装置100とは異なる撮像装置(図示略)にて行い、この撮像装置から転送された画像データを記録して合成画像生成処理を実行する画像処理装置であっても良い。
【0096】
加えて、上記実施形態にあっては、CPU13の制御下にて、画像処理部8の合成領域特定部8cや加工処理部8eが駆動することにより本発明が実現される構成としたが、これに限られるものではなく、CPU13によって所定のプログラム等が実行されることにより実現される構成としても良い。
即ち、プログラムを記憶するプログラムメモリ(図示略)に、特定処理ルーチン、画像処理ルーチン及び合成処理ルーチンを含むプログラム、或いは画像処理ルーチン及び合成処理ルーチンを含むプログラムを記憶しておく。そして、特定処理ルーチンによりCPU13を、背景画像Bにおける被写体画像(前景画像)Gを合成すべき領域を特定する特定手段として機能させるようにしても良い。また、画像処理ルーチンによりCPU13を、特定手段により特定された前景画像を合成すべき領域に基づいて、当該前景画像及び背景画像Bの少なくとも一方に所定の処理を施す画像処理手段として機能させるようにしても良い。また、合成処理ルーチンによりCPU13を、画像処理手段によって少なくとも一方に所定の処理が施された前景画像と背景画像とを合成する合成手段として機能っせるようにしても良い。
また、画像処理ルーチンによりCPU13を、記憶部に前景画像と対応付けて記憶されている所定の処理を、当該前景画像及び背景画像Bの少なくとも一方に施す画像処理手段として機能させるようにしても良い。また、合成処理ルーチンによりCPU13を、画像処理手段によって少なくとも一方に所定の処理が施された前景画像と背景画像とを合成する合成手段として機能させるようにしても良い。
【符号の説明】
【0097】
100 撮像装置
1 レンズ部
2 電子撮像部
3 撮像制御部
8 画像処理部
8b 顔検出部
8c 合成領域特定部
8d 領域判定部
8e 加工処理部
8f 画像合成部
13 CPU
T 処理内容テーブル

【特許請求の範囲】
【請求項1】
背景画像に前景画像を合成する合成手段を備えた画像処理装置において、
前記背景画像における前記前景画像を合成すべき領域を特定する特定手段と、
この特定手段により特定された前記前景画像を合成すべき領域に基づいて、当該前景画像及び前記背景画像の少なくとも一方に所定の処理を施す画像処理手段と、
を備え、
前記合成手段は、前記画像処理手段によって少なくとも一方に所定の処理が施された前記前景画像と前記背景画像とを合成することを特徴とする画像処理装置。
【請求項2】
前記前景画像と所定の処理とを対応付けて記憶する記憶手段を更に備え、
前記画像処理手段は、前記特定手段により特定された前記前景画像を合成すべき領域に基づいて、前記記憶手段に前記前景画像と対応付けて記憶されている前記所定の処理を、当該前景画像及び前記背景画像の少なくとも一方に施すことを特徴とする請求項1に記載の画像処理装置。
【請求項3】
前記特定手段により前記前景画像を合成すべき領域として前記背景画像における所定領域が特定されたか否かを判定する判定手段を更に備え、
前記画像処理手段は、前記判定手段により前記背景画像における所定領域が特定されたと判定された場合に、前記前景画像及び前記背景画像の少なくとも一方に所定の処理を施すことを特徴とする請求項1又は2に記載の画像処理装置。
【請求項4】
前記画像処理手段は、前記判定手段により前記背景画像における所定領域が特定されたと判定された場合に、前記背景画像における前記所定領域の画像部分を前記前景画像に対して優先的に表示させるように、前記前景画像及び前記背景画像の少なくとも一方に所定の処理を施すことを特徴とする請求項3に記載の画像処理装置。
【請求項5】
前記背景画像は、複数のフレーム画像からなる連写画像若しくは動画像であり、
前記判定手段は、前記連写画像若しくは動画像を構成する各フレーム画像毎に、当該フレーム画像における所定領域が前記特定手段により特定されたか否かを判定し、
前記画像処理手段は、前記複数のフレーム画像のうち、前記判定手段により所定領域が特定されたと判定されたフレーム画像及び前記前景画像の少なくとも一方に所定の処理を施すことを特徴とする請求項3又は4に記載の画像処理装置。
【請求項6】
前記所定領域は、前記背景画像から検出された顔画像領域であることを特徴とする請求項3〜5の何れか一項に記載の画像処理装置。
【請求項7】
背景画像に前景画像を合成する合成手段を備えた画像処理装置において、
前記前景画像と所定の処理とを対応付けて記憶する記憶手段と、
この記憶手段に前記前景画像と対応付けて記憶されている前記所定の処理を、当該前景画像及び前記背景画像の少なくとも一方に施す画像処理手段と、
を備え、
前記合成手段は、前記画像処理手段によって少なくとも一方に所定の処理が施された前記前景画像と前記背景画像とを合成することを特徴とする画像処理装置。
【請求項8】
前記背景画像における前記前景画像を合成すべき領域を特定する特定手段を更に備え、
前記画像処理手段は、前記特定手段により前記前景画像を合成すべき領域として特定された前記背景画像における所定領域から所定の範囲内の前記背景画像に所定の処理を施すことを特徴とする請求項7に記載の画像処理装置。
【請求項9】
背景画像における前景画像を合成すべき領域を特定するステップと、
上記ステップにて特定された前記前景画像を合成すべき領域に基づいて、当該前景画像及び前記背景画像の少なくとも一方に所定の処理を施すステップと、
上記ステップにて少なくとも一方に所定の処理を施された前記前景画像と前記背景画像とを合成するステップと
を含むことを特徴とする画像処理方法。
【請求項10】
予め前景画像と所定の処理とを対応付けて記憶し、当該前景画像と対応付けて記憶されている前記所定の処理を、当該前景画像及び当該前景画像が合成される背景画像の少なくとも一方に施すステップと、
上記ステップにて少なくとも一方に所定の処理を施された前記前景画像と前記背景画像とを合成するステップと
を含むことを特徴とする画像処理方法。
【請求項11】
画像処理装置のコンピュータを、
背景画像における前景画像を合成すべき領域を特定する特定手段、
この特定手段により特定された前記前景画像を合成すべき領域に基づいて、当該前景画像及び前記背景画像の少なくとも一方に所定の処理を施す画像処理手段、
この画像処理手段によって少なくとも一方に所定の処理が施された前記前景画像と前記背景画像とを合成する合成手段
として機能させることを特徴とするプログラム。
【請求項12】
前景画像と所定の処理とを対応付けて記憶させる記憶部を有する画像処理装置のコンピュータを、
前記記憶部に前景画像と対応付けて記憶されている前記所定の処理を、当該前景画像及び前記背景画像の少なくとも一方に施す画像処理手段、
この画像処理手段によって少なくとも一方に所定の処理が施された前記前景画像及び前記背景画像を合成する合成手段
として機能させることを特徴とするプログラム。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7】
image rotate

【図8】
image rotate

【図9】
image rotate


【公開番号】特開2011−77850(P2011−77850A)
【公開日】平成23年4月14日(2011.4.14)
【国際特許分類】
【出願番号】特願2009−227623(P2009−227623)
【出願日】平成21年9月30日(2009.9.30)
【出願人】(000001443)カシオ計算機株式会社 (8,748)
【Fターム(参考)】