画像合成装置、画像合成方法及びプログラム
【課題】背景画像と前景画像とを合成する場合に、背景画像に対する前景画像の識別性を向上させる。
【解決手段】撮像装置100であって、前景画像寸法及び色に基づき、切抜画像生成部6gにより取得された被写体切り抜き画像P2(前景画像)に対して所定の加工を施す加工処理部6iと、所定の加工が施された前景画像と背景画像とを合成して合成画像を生成する画像合成部6lとを備えている。
【解決手段】撮像装置100であって、前景画像寸法及び色に基づき、切抜画像生成部6gにより取得された被写体切り抜き画像P2(前景画像)に対して所定の加工を施す加工処理部6iと、所定の加工が施された前景画像と背景画像とを合成して合成画像を生成する画像合成部6lとを備えている。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、画像合成装置、画像合成方法及びプログラムに関する。
【背景技術】
【0002】
従来、撮像装置を用いて、背景内に被写体が存在する画像と被写体が存在しない背景画像とを撮像して、背景画像と被写体が存在する画像から差分情報を生成し、被写体のみを抜き出すアプリケーションが知られている(例えば、特許文献1参照)。
【先行技術文献】
【特許文献】
【0003】
【特許文献1】特開平10−21408号公報
【発明の概要】
【発明が解決しようとする課題】
【0004】
しかしながら、上記特許文献1のアプリケーションによって抜き出した被写体の画像を他の背景画像に合成して合成画像を生成するような場合に、被写体の画像のサイズや、被写体の画像と背景画像との色調の組み合わせによっては、合成画像にて被写体を見難くなってしまうという問題があった。
【0005】
そこで、本発明の課題は、前景画像を背景画像に合成する場合に、背景画像に対する前景画像の識別性を向上させることができる画像合成装置、画像合成方法及びプログラムを提供することである。
【課題を解決するための手段】
【0006】
上記課題を解決するため、請求項1に記載の発明の画像合成装置は、
背景画像を取得する背景取得手段と、前景画像を取得する前景取得手段と、この前景取得手段により取得された前記前景画像の色を判定する判定手段と、この判定手段によって判定された前記前景画像の色に基づいて、前記前景画像に対して所定の加工を施す加工手段と、この加工手段により前記所定の加工が施された前景画像と前記背景画像とを合成して合成画像を生成する合成手段と、を備えたことを特徴としている。
【0007】
請求項2に記載の発明は、請求項1に記載の画像合成装置において、
前記前景画像の寸法を算出する寸法算出手段を更に備え、前記加工手段は、前記寸法算出手段により算出された前記前景画像の寸法に基づいて、前記所定の加工の内容を変更することを特徴としている。
【0008】
請求項3に記載の発明の画像合成装置は、
背景画像を取得する背景取得手段と、前景画像を取得する前景取得手段と、この前景取得手段により取得された前記前景画像の寸法を算出する寸法算出手段と、この寸法算出手段により算出された前記前景画像の寸法に基づいて、この前景画像に所定の加工を施す加工手段と、この加工手段により前記所定の加工が施された前景画像と前記背景画像とを合成して合成画像を生成する合成手段と、を備えたことを特徴としている。
【0009】
請求項4に記載の発明は、請求項1〜3の何れか一項に記載の画像合成装置において、
前記背景画像から特定領域を検出する検出手段と、この検出手段により検出された特定領域の位置に基づいて、前記背景画像における前記所定の加工が施された前景画像の合成位置を決定する決定手段とを更に備えることを特徴としている。
【0010】
請求項5に記載の発明は、請求項1〜4の何れか一項に記載の画像合成装置において、
前記加工手段は、前記所定の加工として、前記前景画像を所定形状のふきだし画像に合成する処理を施し、前記合成手段は、前記所定形状のふきだし画像に合成した前景画像を前記背景画像に合成して合成画像を生成することを特徴としている。
【0011】
請求項6に記載の発明の画像合成方法は、
画像合成装置を用いた画像合成方法であって、背景画像を取得する処理と、前景画像を取得する処理と、取得された前記前景画像の色を判定する処理と、判定された前記前景画像の色に基づいて、前記前景画像に対して所定の加工を施す加工処理と、前記所定の加工が施された前景画像と前記背景画像とを合成して合成画像を生成する処理と、を備えたことを特徴としている。
【0012】
請求項7に記載の発明の画像合成方法は、
画像合成装置を用いた画像合成方法であって、背景画像を取得する処理と、前景画像を取得する処理と、取得された前記前景画像の寸法を算出する処理と、算出された前記前景画像の寸法に基づいて、この前景画像に所定の加工を施す処理と、前記所定の加工が施された前景画像と前記背景画像とを合成して合成画像を生成する合成処理と、を備えたことを特徴としている。
【0013】
請求項8に記載の発明のプログラムは、
画像合成装置のコンピュータを、背景画像を取得する背景取得手段、前景画像を取得する前景取得手段、この前景取得手段により取得された前記前景画像の色を判定する判定手段、この判定手段によって判定された前記前景画像の色に基づいて、前記前景画像に対して所定の加工を施す加工手段、この加工手段により前記所定の加工が施された前景画像と前記背景画像とを合成して合成画像を生成する合成手段、として機能させることを特徴としている。
【0014】
請求項9に記載の発明のプログラムは、
画像合成装置のコンピュータを、背景画像を取得する背景取得手段、前景画像を取得する前景取得手段、この前景取得手段により取得された前記前景画像の寸法を算出する寸法算出手段、この寸法算出手段により算出された前記前景画像の寸法に基づいて、この前景画像に所定の加工を施す加工手段、この加工手段により前記所定の加工が施された前景画像と前記背景画像とを合成して合成画像を生成する合成手段、として機能させることを特徴としている。
【発明の効果】
【0015】
本発明によれば、前景画像を背景画像に合成する場合に、背景画像に対して前景画像の識別性を向上させることができる。
【図面の簡単な説明】
【0016】
【図1】本発明を適用した一実施形態の撮像装置の概略構成を示すブロック図である。
【図2】図1の撮像装置による被写体加工処理に係る動作の一例を示すフローチャートである。
【図3】図2の被写体加工処理における被写体切り抜き処理に係る動作の一例を示すフローチャートである。
【図4】図3の被写体切り抜き処理を説明するための画像の一例を模式的に示す図である。
【図5】図3の被写体切り抜き処理を説明するための画像の一例を模式的に示す図である。
【図6】図2の被写体加工処理における被写体範囲算出処理に係る動作の一例を示すフローチャートである。
【図7】図6の被写体範囲算出処理を説明するための画像の一例を模式的に示す図である。
【図8】図2の被写体加工処理におけるふきだし付加処理に係る動作の一例を示すフローチャートである。
【図9】図8のふきだし付加処理を説明するための画像の一例を模式的に示す図である。
【図10】図1の撮像装置による合成処理に係る動作の一例を示すフローチャートである。
【図11】図10の合成処理を説明するための画像の一例を模式的に示す図である。
【発明を実施するための形態】
【0017】
以下に、本発明について、図面を用いて具体的な態様を説明する。ただし、発明の範囲は、図示例に限定されない。
図1は、本発明を適用した一実施形態の撮像装置100の概略構成を示すブロック図である。
【0018】
本実施形態の撮像装置100は、前景画像(被写体画像Pg)に対して所定の加工を施した(ふきだし画像と合成した)後、当該所定の加工が施された前景画像(ふきだし合成画像Pd)と背景画像Pbとを合成して合成画像Pfを生成する。
具体的には、図1に示すように、撮像装置100は、レンズ部1と、電子撮像部2と、撮像制御部3と、画像データ生成部4と、画像メモリ5と、画像処理部6と、表示制御部7と、表示部8と、記録媒体制御部9と、操作入力部10と、中央制御部11とを備えている。
また、撮像制御部3と、画像処理部6と、中央制御部11は、例えば、カスタムLSI1Aとして設計されている。
【0019】
レンズ部1は、複数のレンズから構成され、ズームレンズやフォーカスレンズ等を備えている。
また、レンズ部1は、図示は省略するが、被写体S(例えば、文字「あつい!!」等;図4(a)等参照)の撮像の際に、ズームレンズを光軸方向に移動させるズーム駆動部、フォーカスレンズを光軸方向に移動させる合焦駆動部等を備えていても良い。
【0020】
電子撮像部2は、例えば、CCD(Charge Coupled Device)やCMOS(Complementary Metal-oxide Semiconductor)等のイメージセンサから構成され、レンズ部1の各種レンズを通過した光学像を二次元の画像信号に変換する。
【0021】
撮像制御部3は、図示は省略するが、タイミング発生器、ドライバなどを備えている。そして、撮像制御部3は、タイミング発生器、ドライバにより電子撮像部2を走査駆動して、所定周期毎に光学像を電子撮像部2により二次元の画像信号に変換させ、当該電子撮像部2の撮像領域から1画面分ずつ画像フレームを読み出して画像データ生成部4に出力させる。
また、撮像制御部3は、AF(自動合焦処理)、AE(自動露出処理)、AWB(自動ホワイトバランス)等の被写体Sの撮像条件の調整制御を行う。
【0022】
また、撮像モードとして被写体切り抜きモード(後述)が設定されている場合に、ユーザによるシャッタボタン10aの撮像指示操作に基づいて、撮像制御部3は、レンズ部1を通過した背景内に被写体Sが存在する被写体存在画像P1(図4(a)参照)の光学像を所定の撮像条件で電子撮像部2により二次元の画像信号に変換させ、当該電子撮像部2の撮像領域から被写体存在画像P1に係る画像フレームを読み出させる。
ここで、電子撮像部2及び撮像制御部3は、背景内に被写体Sが存在する被写体存在画像P1を所定のタイミングで撮像する撮像手段を構成している。
【0023】
画像データ生成部4は、電子撮像部2から転送された画像フレームのアナログ値の信号に対してRGBの各色成分毎に適宜ゲイン調整した後に、サンプルホールド回路(図示略)でサンプルホールドしてA/D変換器(図示略)でデジタルデータに変換し、カラープロセス回路(図示略)で画素補間処理及びγ補正処理を含むカラープロセス処理を行った後、デジタル値の輝度信号Y及び色差信号Cb,Cr(YUVデータ)を生成する。また、画像データ生成部4は、YUVデータを水平及び垂直ともに所定倍率で縮小処理を行って、ライブビュー表示用の低解像度の縮小画像データを生成する。
カラープロセス回路から出力されるYUVデータは、図示しないDMAコントローラを介して、バッファメモリとして使用される画像メモリ5にDMA転送される。
【0024】
なお、A/D変換後のデジタルデータを現像するデモザイク部(図示略)が、カスタムLSI1Aに実装されていても良い。
【0025】
画像メモリ5は、例えば、DRAM等により構成され、画像データ生成部4から転送された被写体存在画像P1のYUVデータを一時的に記憶する。また、画像メモリ5は、画像処理部6、中央制御部11等によって処理されるデータ等を一時的に記憶する。
【0026】
画像処理部6は、画像取得部6aと、分割部6bと、ばらつき量算出部6cと、非平坦度判定部6dと、背景生成部6eと、位置情報生成部6fと、切抜画像生成部6gと、寸法算出部6hと、加工処理部6iと、顔検出部6jと、合成位置決定部6kと、画像合成部6lとを具備している。
【0027】
画像取得部6aは、画像メモリ5に一時的に記憶されている被写体存在画像P1のYUVデータを取得する。
即ち、画像取得部6aは、被写体切り抜き処理(後述)にて、電子撮像部2及び撮像制御部3による被写体存在画像P1(図4(a)参照)の撮像後、画像データ生成部4から転送されて画像メモリ5に一時的に記憶された被写体存在画像P1のYUVデータを取得する。
【0028】
また、画像取得部6aは、記録媒体9aに記録されている所定の背景画像Pbの画像データを取得する。即ち、画像取得部6aは、合成処理(後述)にて、ふきだし合成画像Pdと合成される所定の画像を背景画像Pb(図11(a)参照)として、当該背景画像Pbの画像データを取得する。
ここで、画像取得部6aは、背景画像Pbを取得する背景取得手段を構成している。
【0029】
分割部6bは、被写体存在画像P1を複数の画像ブロックB、…に分割する。
即ち、分割部6bは、被写体切り抜き処理にて、被写体存在画像P1のYUVデータに基づいて、当該被写体存在画像P1全体を縦横がそれぞれ所定画素からなる複数の画像ブロックB、…に分割する(図4(b)参照)。
なお、分割部6bによる被写体存在画像P1の画像データは、例えば、記録用として記録媒体9aに記録される高解像度の画像データであっても良いし、画像データ生成部4により生成されたライブビュー表示用の低解像度の縮小画像データであっても良い。
【0030】
ばらつき量算出部6cは、画像ブロックB内の画素値のばらつき量(非平坦度)を算出する。
具体的には、ばらつき量算出部6cは、被写体切り抜き処理にて、分割部6bにより分割された被写体存在画像P1の複数の画像ブロックB、…の各々についてのばらつき量として、標準偏差を下記式(1)に従って算出する。
【数1】
なお、上記式(1)において、b:各ブロック領域の画素値としては、例えば、輝度値が挙げられる。
【0031】
非平坦度判定部6dは、各画像ブロックBの非平坦度(ばらつき量)の判定を行う。
即ち、非平坦度判定部6dは、被写体切り抜き処理にて、画像ブロック内の画素値のばらつき量が所定値以下であるか否かを判定する。具体的には、例えば、非平坦度判定部6dは、被写体存在画像P1の複数の画像ブロックB、…のうち、被写体Sを含む画像ブロックBについては、ブロック内の画素値のばらつき量が大きく、画素値のばらつき量が所定値以下であると判定しない。一方で、非平坦度判定部6dは、特徴量の少ない無地の背景をバックに撮像される被写体存在画像P1の複数の画像ブロックB、…のうち、被写体Sを含まない画像ブロックB、つまり、特徴量の少ない無地の背景部分は、ブロック内の画素値のばらつき量が被写体Sを含む画像ブロックBに比して大幅に小さくなり、画素値のばらつき量が所定値以下であると判定する。
そして、画像処理部6は、当該非平坦度判定部6dによる判定結果に基づいて、非平坦度が所定値以下である画像ブロックBを特定する。即ち、画像処理部6は、非平坦度判定部6dによる判定の結果、ブロック内の画素値の非平坦度が所定値以下であると判定された少なくとも一の画像ブロックBを含んでなる画像領域を特定する。
【0032】
背景生成部6eは、クロマキー技術を利用して被写体領域を抽出するための抽出用背景画像(図示略)を生成する。
即ち、背景生成部6eは、非平坦度判定部6dにより画素値の非平坦度が所定値以下であると判定された被写体存在画像P1の画像ブロックBの色とほぼ等しい色を背景色とする抽出用背景画像を生成する。例えば、業務用机やホワイトボード等のように特徴量の少ない無地の背景をバックに被写体Sを撮影した場合には、背景生成部6eは、無地の背景とほぼ等しい色の抽出用背景画像を生成する。
なお、クロマキーとは、特定の色背景を用いて一の画像データから被写体Sを切り抜く手法である。クロマキーでは、通常、背景に被写体Sと補色の関係にある青や緑のスクリーンを用いるようになっており、被写体存在画像P1における画素値のばらつき量が所定値以下である画像ブロックBとほぼ等しい色の抽出用背景画像を生成することで、抽出用背景画像と被写体存在画像P1の色情報を基にして背景部分と被写体部分を分離することができる。
【0033】
位置情報生成部6fは、被写体存在画像P1から被写体領域を抽出するための被写体用アルファマップM1(図5(a)参照)を生成する。
即ち、位置情報生成部6fは、抽出用背景画像と被写体存在画像P1の対応する各画素の各画素の差分情報、例えば、相違度Dを下記式(2)に従って算出して相違度マップを生成する。
【数2】
なお、上記式にあっては、抽出用背景画像のYUVデータを「Y」、「U」、「V」で表し、被写体存在画像P1のYUVデータを「Yc」、「Uc」、「Vc」で表す。また、Gは、色差信号U、Vのゲインを表している。
そして、位置情報生成部6fは、生成した相違度マップを所定の閾値で二値化(0、255)することにより、被写体用アルファマップM1を生成する(詳細後述)。
ここで、被写体用アルファマップM1とは、被写体存在画像P1における被写体画像Pgの位置を示す位置情報であり、被写体存在画像P1の各画素について、被写体画像Pgを所定の背景に対してアルファブレンディングする際の重みをアルファ値(0≦α≦1)として表したものである。
【0034】
切抜画像生成部6gは、生成された被写体用アルファマップM1に基づいて、被写体存在画像P1の各画素のうち、アルファ値が1の画素を所定の単一色画像(図示略)に対して透過させず、且つ、アルファ値が0の画素を透過させ、且つ、アルファ値が0<α<1の画素を所定の単一色とブレンディングさせるように、被写体画像Pgを所定の単一色画像と合成して被写体切り抜き画像P2の画像データを生成する。
これにより、切抜画像生成部6gは、背景と被写体Sとが存在する被写体存在画像P1から被写体Sが含まれる領域を切り抜いた被写体切り抜き画像P2の被写体画像Pgを前景画像として取得する。
ここで、切抜画像生成部6gは、前景画像を取得する前景取得手段を構成している。
【0035】
寸法算出部6hは、被写体切り抜き画像P2の被写体画像Pgのサイズを算出する。
即ち、寸法算出部6hは、被写体範囲算出処理(図6参照;後述)にて、被写体切り抜き画像P2における被写体画像Pgの存する範囲を被写体範囲Prとして、当該被写体範囲Prのx軸方向及びy軸方向の画素数(Xsize, Ysize)を算出する。なお、被写体範囲Prのサイズの算出方法は、被写体範囲算出処理(図6参照)にて詳細に説明する。
ここで、寸法算出部6hは、被写体切り抜き画像P2(前景画像)の寸法を算出する寸法算出手段を構成している。
【0036】
加工処理部6iは、切抜画像生成部6gにより取得された被写体切り抜き画像P2の被写体画像Pgに対して所定の加工を施す。
即ち、加工処理部6iは、所定の加工として、被写体切り抜き画像P2の被写体画像Pgに所定形状(例えば、矩形状等)のふきだしfを付加する処理を施す。具体的には、加工処理部6iは、所定の記録手段(例えば、画像メモリ5等)に記録されているふきだし情報fdを取得して、当該ふきだし情報fdに係る所定形状のふきだしf内に被写体画像Pg(被写体範囲Pr)が配置されるようにふきだしfのサイズを変更する。なお、加工処理部6iは、被写体切り抜き画像P2の被写体範囲Prのサイズに基づいて、所定の記録手段から取得されるふきだし情報fdを変更しても良い。このように、加工処理部6iは、寸法算出部6hにより算出された被写体切り抜き画像P2の被写体画像Pg(被写体範囲Pr)の寸法に基づいて、所定の加工の内容を変更する。
【0037】
また、加工処理部6iは、被写体切り抜き画像P2の被写体画像Pgの色に基づいて、所定の加工の色を変更する。即ち、加工処理部6iは、例えば、被写体画像Pgの平均色を判定し、ふきだしf内の色がこの被写体画像Pgの平均色と反対の色となるように変更する。
具体的には、加工処理部6iは、被写体画像Pgの各画素の画素値に基づいて、当該被写体画像Pgの平均色と反対の色を式(3)に従って算出して、画像メモリ5に一時的に記憶する。
【数3】
なお、上記式(3)にあっては、被写体画像Pgの平均色の輝度信号及び色差信号の反対値を算出するようにしたが、必ずしも輝度信号の反対値を算出する必要はなく、少なくとも色差信号の反対値を算出すれば良い。また、被写体画像Pgの平均色と正反対の色を上記式(3)に基づいて算出するようにしたが、一例であってこれに限られるものではなく、必ずしも正反対の色である必要はない。つまり、被写体画像Pgと背景画像Pbの識別性を高めることができる色であれば良い。
【0038】
なお、被写体画像Pgに対する所定の加工として、ふきだしfを付加する処理を例示したが、一例であってこれに限られるものではなく、例えば、被写体画像Pgの輪郭を強調する処理など適宜任意に変更可能である。
このように、加工処理部6iは、切抜画像生成部6gにより取得された被写体切り抜き画像P2(前景画像)に対して所定の加工を施す。
【0039】
顔検出部6jは、背景画像Pbから顔領域を検出する。
即ち、顔検出部6jは、画像取得部6aにより取得された背景画像Pbの画像データに対して所定の顔検出処理を行って顔領域(特定領域)を検出する。
なお、特定領域として、顔領域を例示したが、一例であってこれに限られるものではなく、適宜任意に変更可能であり、例えば、物体、植物、動物などの主要領域であっても良い。また、特定領域の検出方法として、顔検出処理の他に、エッジ検出処理、特徴抽出処理等の各種画像処理を適用しても良い。また、顔検出処理やエッジ検出処理や特徴抽出処理等は、公知の技術であるので、ここでは詳細な説明を省略する。
このように、顔検出部6jは、背景画像Pbから特定領域を検出する検出手段を構成している。
【0040】
合成位置決定部6kは、背景画像Pbにおける所定の加工が施された被写体切り抜き画像P2の合成位置を決定する。
即ち、合成位置決定部6kは、顔検出部6jにより検出された顔領域の位置に基づいて、背景画像Pbにおけるふきだし合成画像Pdの合成位置を決定する。具体的には、例えば、ふきだし合成画像Pdが引き出し線を具備している場合、合成位置決定部6kは、背景画像Pb内にて、顔検出部6jにより検出された顔領域の中心位置に引き出し線の先端が向くようにふきだし合成画像Pdの合成中心座標としてふきだし合成中心を決定する。このとき、合成位置決定部6kは、顔検出部6jにより検出された顔領域の位置に加えて、当該顔領域のサイズ、ふきだし合成画像Pdの引き出し線の有無、引き出し線の向き等を考慮して、ふきだし合成中心を決定しても良い。
ここで、合成位置決定部6kは、顔検出部6jにより検出された特定領域(顔領域)の位置に基づいて、背景画像Pbにおける所定の加工が施された被写体切り抜き画像P2(前景画像)の合成位置を決定する決定手段を構成している。
【0041】
画像合成部6lは、所定の加工が施された被写体切り抜き画像P2(ふきだし合成画像Pd)と背景画像Pbとを合成して合成画像Pfを生成する。
即ち、画像合成部6lは、加工処理部6iにより生成されたふきだし合成画像Pdと背景画像Pbとを合成して合成画像Pfを生成する。具体的には、画像合成部6lは、背景画像Pbの各画素のうち、ふきだし用アルファマップのアルファ値が0の画素は透過させ、アルファ値が1の画素はふきだし合成画像Pdの対応する画素の画素値で上書きし、さらに、アルファ値が0<α<1の画素については、ふきだし合成画像Pdとブレンディングを行う。
ここで、画像合成部6lは、加工処理部6iにより所定の加工が施された前景画像と背景画像Pbとを合成して合成画像Pfを生成する合成手段を構成している。
【0042】
表示制御部7は、画像メモリ5に一時的に記憶されている表示用画像データを読み出して表示部8に表示させる制御を行う。
具体的には、表示制御部7は、VRAM、VRAMコントローラ、デジタルビデオエンコーダなどを備えている。そして、デジタルビデオエンコーダは、中央制御部11の制御下にて画像メモリ5から読み出されてVRAM(図示略)に記憶されている輝度信号Y及び色差信号Cb,Crを、VRAMコントローラを介してVRAMから定期的に読み出して、これらのデータを元にビデオ信号を発生して表示部8に出力する。
【0043】
表示部8は、例えば、液晶表示装置であり、表示制御部7からのビデオ信号に基づいてライブビュー画像やレックビュー画像などを表示画面に表示する。
即ち、表示制御部7は、撮像モードにて、電子撮像部2及び撮像制御部3による被写体Sの撮像により生成された複数の画像フレームに基づいてライブビュー画像や、本撮像画像として撮像されたレックビュー画像などを表示部8の表示画面に表示させる。
【0044】
記録媒体制御部9は、記録媒体9aが着脱自在に構成され、装着された記録媒体9aからのデータの読み出しや記録媒体9aに対するデータの書き込みを制御する。即ち、記録媒体制御部9は、画像処理部6のJPEG圧縮部(図示略)により符号化された撮像画像の記録用の画像データを記録媒体9aに記録させる。
また、ふきだし画像gfの画像データは、画像処理部6の位置情報生成部6fにより生成されたふきだし用アルファマップと対応付けられて、当該ふきだし合成画像Pdの画像データの拡張子を「.jpe」として保存されている。
【0045】
なお、記録媒体9aは、例えば、不揮発性メモリ(フラッシュメモリ)等により構成されるが、一例であってこれに限られるものではなく、適宜任意に変更可能である。
【0046】
操作入力部10は、当該撮像装置100の所定操作を行うためのものである。具体的には、操作入力部10は、被写体Sの撮影指示に係るシャッタボタン10a、メニュー画面にて撮像モードや機能等の選択指示に係る選択決定用ボタン10b、ズーム量の調整指示に係るズームボタン(図示略)等を備え、これらのボタンの操作に応じて所定の操作信号を中央制御部11に出力する。
【0047】
中央制御部11は、撮像装置100の各部を制御するものである。具体的には、中央制御部11は、CPU、RAM、ROM(何れも図示略)を備え、撮像装置100用の各種処理プログラム(図示略)に従って各種の制御動作を行う。
【0048】
次に、撮像装置100による被写体加工処理について、図2〜図9を参照して説明する。
図2は、被写体加工処理に係る動作の一例を示すフローチャートである。
被写体加工処理は、ユーザによる操作入力部10の選択決定用ボタン10bの所定操作に基づいて、メニュー画面に表示された複数の撮像モードの中から被写体加工モードが選択指示された場合に実行される処理である。
【0049】
図2に示すように、先ず、画像処理部6は、電子撮像部2及び撮像制御部3により撮像された被写体存在画像P1から被写体領域を切り抜く被写体切り抜き処理(後述;図3〜図5参照)を実行する(ステップS1)。
次に、画像処理部6の寸法算出部6hは、被写体切り抜き画像P2における被写体画像Pgの存する範囲を被写体範囲Prとして算出する被写体範囲算出処理(後述;図6、図7参照)を実行する(ステップS2)。
続けて、画像処理部6の加工処理部6iは、被写体切り抜き画像P2の被写体画像Pgにふきだしfを付加するふきだし付加処理(後述;図8、図9参照)を実行する(ステップS3)。
その後、画像処理部6は、ふきだし用アルファマップに基づいて、被写体切り抜き画像P2のふきだし画像gf以外の領域を所定の色(例えば、グレー等)で塗りつぶすことによりふきだし合成画像Pd(図9(d)参照)を生成し、記録媒体制御部9は、当該ふきだし合成画像Pdとふきだし用アルファマップとを対応付けて記録媒体9aに記録させる(ステップS4)。
これにより、被写体加工処理を終了する。
【0050】
次に、被写体切り抜き処理について図3〜図5を参照して説明する。
図3は、被写体切り抜き処理に係る動作の一例を示すフローチャートである。
【0051】
図3に示すように、先ず、ユーザによる操作入力部10のシャッタボタン10aの所定操作に基づいて、撮像制御部3は、フォーカスレンズの合焦位置や露出条件(シャッター速度、絞り、増幅率等)やホワイトバランス等の撮像条件を調整させて、背景内に所定の被写体Sが存在する被写体存在画像P1(図4(a)参照)の光学像を所定の撮像条件で電子撮像部2により撮像させる(ステップS101)。
そして、画像データ生成部4は、電子撮像部2から転送された被写体存在画像P1のYUVデータを生成した後、当該被写体存在画像P1のYUVデータを画像メモリ5に一時的に記憶させる。
【0052】
次に、画像処理部6は、被写体存在画像P1から被写体領域を抽出するための抽出用背景画像(図示略)を生成する処理を行う(ステップS102)。
具体的には、画像処理部6の分割部6bは、画像取得部6aにより画像メモリ5から取得された被写体存在画像P1のYUVデータに基づいて、当該被写体存在画像P1を複数の画像ブロックB、…(図4(b)参照)に分割する。続けて、ばらつき量算出部6cは、被写体存在画像P1の複数の画像ブロックBの各々について、画素値のばらつき量としての標準偏差を式(1)に従って算出する。
【数4】
【0053】
次に、非平坦度判定部6dは、算出された各画像ブロックBのばらつき量が所定値以下であるか否かを判定し、画像処理部6は、ばらつき量が所定値以下であると判定された各画像ブロックBの平均色を算出する。
そして、画像処理部6の背景生成部6eは、同一色であるとみなすことができる色の画像ブロックBの数を各色毎に算出して、この中で、最多の色の画像ブロックBの平均色を背景色とする抽出用背景画像のYUVデータを生成する。
【0054】
次に、画像処理部6は、被写体存在画像P1から被写体Sが含まれる被写体領域を検出する処理を行う(ステップS103)。
具体的には、画像処理部6の位置情報生成部6fは、抽出用背景画像のYUVデータと被写体存在画像P1のYUVデータとの間で対応する各画素の相違度Dを下記式(2)に従って算出して相違度マップを生成する。
【数5】
【0055】
次に、位置情報生成部6fは、生成した相違度マップを所定の閾値で二値化してマスク画像データを生成する。そして、位置情報生成部6fは、被写体領域の周辺部の残り過ぎを修正したり細かいノイズを除去するため、マスク画像データに対する収縮処理を行って所定値よりも小さい画素集合を除いた後、収縮分を修正するための膨張処理を行う。
その後、位置情報生成部6fは、マスク画像データに対して平均化フィルタをかけて被写体領域の縁部に合成階調をつけて、被写体存在画像P1内での被写体領域を示す被写体用アルファマップM1(図5(a)参照)を生成する。
【0056】
続けて、画像処理部6の切抜画像生成部6gは、クロマキー技術を利用して、領域検出処理にて生成された被写体用アルファマップM1を用いて被写体存在画像P1から被写体領域を切り出して、所定の単一色画像(図示略)と合成して被写体切り抜き画像P2(図5(b)参照)の画像データを生成する(ステップS104)。
具体的には、切抜画像生成部6gは、被写体存在画像P1、単一色画像及び被写体用アルファマップM1を読み出して画像メモリ5に展開した後、被写体存在画像P1の全ての画素について、アルファ値が0の画素については、透過させ、アルファ値が0<α<1の画素については、所定の単一色とブレンディングを行い、アルファ値が1の画素については、何もせずに所定の単一色に対して透過させないようにする。
なお、被写体用アルファマップM1の縁部分には、合成階調がつけられているため、切り出された被写体領域と単一色画像(背景)との境界部分がはっきりしていない自然な感じとなる。
【0057】
次に、画像処理部6の加工処理部6iは、被写体切り抜き画像P2の被写体画像Pgの各画素の画素値に基づいて、当該被写体画像Pgの平均色を算出した後(ステップS105)、当該平均色と反対の色を式(3)に従って算出して、画像メモリ5に一時的に記憶する(ステップS106)。
【数6】
これにより、被写体切り抜き処理を終了する。
【0058】
次に、被写体範囲算出処理について図6及び図7を参照して説明する。
図6は、被写体範囲算出処理に係る動作の一例を示すフローチャートである。
なお、以下に説明する被写体範囲算出処理では、被写体範囲Prを矩形として想定し、当該被写体範囲Prの左上隅部の座標を(Xstart, Ystart)、右下隅部の座標を(Xend, Yend)とし、x軸方向及びy軸方向のサイズをXsize, Ysizeとする(図7参照)。また、被写体用アルファマップM1のサイズを(Xmax, Ymax)とする。
【0059】
図6に示すように、先ず、画像処理部6の寸法算出部6hは、被写体用アルファマップM1を取得した後、当該被写体用アルファマップM1における範囲情報を初期化する(ステップS201)。具体的には、寸法算出部6hは、処理対象座標(x, y)=(0, 0)に設定するとともに、初期座標を(Xstart, Ystart)=(0, 0)、(Xend, Yend)=(Xmax-1, Ymax-1)に設定する。
【0060】
次に、寸法算出部6hは、y軸方向で被写体Sが存在する範囲を算出する(ステップS202〜S210)。
具体的には、寸法算出部6hは、先ず、被写体Sが存在する範囲のy座標の開始位置(Ystart)を算出する。ここで、被写体用アルファマップM1の所定の座標(x, y)における値をM(x, y)とすると、被写体Sが存在する座標では0以上の値になることから、寸法算出部6hは、x軸方向の和が0であるか否かを判定する(ステップS202)。
ここで、x軸方向の和が0であると判定されると(ステップS202;YES)、寸法算出部6hは、処理対象のy座標の値を+1して次の座標に設定し(ステップS203)、処理対象のy座標が被写体用アルファマップM1の最下行(Ymax)に達したか否かを判定する(ステップS204)。
【0061】
ステップS204にて、処理対象のy座標が被写体用アルファマップM1の最下行(Ymax)に達していないと判定されると(ステップS204;NO)、寸法算出部6hは、処理をステップS202に移行して、x軸方向の和が0であるか否かを判定する(ステップS202)。
一方、処理対象のy座標が被写体用アルファマップM1の最下行(Ymax)に達していると判定されると(ステップS204;YES)、寸法算出部6hは、被写体範囲Prの開始位置(Xstart, Ystart)、終了位置(Xend, Yend)、x軸方向及びy軸方向のサイズ(Xsize, Ysize)を全て「0」とする(ステップS205)。その後、寸法算出部6hは、処理をステップS220に移行して、被写体範囲Prの中心座標(Xcenter, Ycenter)を算出する(後述)。
【0062】
ステップS202にて、x軸方向の和が0でないと判定されると(ステップS202;NO)、寸法算出部6hは、そのy座標から被写体Sが存在する範囲を構成していると判断して、Ystartにy座標の値を登録する(ステップS206)。
【0063】
続けて、寸法算出部6hは、被写体Sが存在する範囲のy座標の終了位置(Yend)を算出する。
具体的には、寸法算出部6hは、先ず、処理対象のy座標を最下行(Ymax-1)に設定した後(ステップS207)、ステップS202と同様に、被写体Sが存在する座標ではx軸方向の和が0以上の値になることから、寸法算出部6hは、x軸方向の和が0であるか否かを判定する(ステップS208)。
ここで、x軸方向の和が0であると判定されると(ステップS208;YES)、寸法算出部6hは、処理対象のy座標の値を−1して次の座標に設定した後(ステップS209)、処理をステップS208に移行して、x軸方向の和が0であるか否かを判定する(ステップS208)。
【0064】
ステップS208にて、x軸方向の和が0でないと判定されると(ステップS208;NO)、寸法算出部6hは、そのy座標まで被写体Sが存在する範囲を構成していると判断して、Yendにy座標の値を登録する(ステップS210)。
【0065】
次に、寸法算出部6hは、x軸方向で被写体Sが存在する範囲を算出する(ステップS211〜S218)。
具体的には、寸法算出部6hは、先ず、被写体Sが存在する範囲のx座標の開始位置(Xstart)を算出する。即ち、寸法算出部6hは、処理対象のx座標の値を初期化(x=0)した後(ステップS211)、上記と同様に、y軸方向の和が0であるか否かを判定する(ステップS212)。
ここで、y軸方向の和が0であると判定されると(ステップS212;YES)、寸法算出部6hは、処理対象のx座標の値を+1して次の座標に設定した後(ステップS213)、処理をステップS212に移行して、y軸方向の和が0であるか否かを判定する(ステップS212)。
【0066】
ステップS212にて、y軸方向の和が0でないと判定されると(ステップS212;NO)、寸法算出部6hは、そのx座標から被写体Sが存在する範囲を構成していると判断して、Xstartにx座標の値を登録する(ステップS214)。
【0067】
続けて、寸法算出部6hは、被写体Sが存在する範囲のx座標の終了位置(Xend)を算出する。
具体的には、寸法算出部6hは、先ず、処理対象のx座標を最右列(Xmax-1)に設定した後(ステップS215)、ステップS212と同様に、被写体Sが存在する座標ではy軸方向の和が0以上の値になることから、寸法算出部6hは、y軸方向の和が0であるか否かを判定する(ステップS216)。
ここで、y軸方向の和が0であると判定されると(ステップS216;YES)、寸法算出部6hは、処理対象のx座標の値を−1して次の座標に設定した後(ステップS217)、処理をステップS216に移行して、y軸方向の和が0であるか否かを判定する(ステップS216)。
【0068】
ステップS216にて、y軸方向の和が0でないと判定されると(ステップS216;NO)、寸法算出部6hは、そのx座標まで被写体Sが存在する範囲を構成していると判断して、Xendにx座標の値を登録する(ステップS218)。
【0069】
次に、寸法算出部6hは、上記のようにして算出された被写体範囲Prの終了位置(Xend, Yend)から開始位置(Xstart, Ystart)を減算して+1することにより、被写体範囲Prのx軸方向及びy軸方向のサイズ(Xsize, Ysize)を算出する(ステップS219)。
さらに、寸法算出部6hは、被写体範囲Prのサイズ(Xsize, Ysize)を二分して開始位置(Xstart, Ystart)を加算することにより、被写体範囲Prの中心座標(Xcenter, Ycenter)を算出する(ステップS220)。
これにより、被写体範囲算出処理を終了する。
【0070】
次に、ふきだし付加処理について図8及び図9を参照して説明する。
図8は、ふきだし付加処理に係る動作の一例を示すフローチャートである。
なお、以下に説明する被写体範囲算出処理では、被写体画像Pgと合成される所定形状のふきだしfが、ユーザによる操作入力部10の所定操作に基づいて、或いは、デフォルトとして設定されているものとする。
【0071】
図8に示すように、加工処理部6iは、予め設定されている所定形状のふきだしfに係るふきだし情報fdを取得した後(ステップS301)、寸法算出部6hにより算出された被写体画像Pg(被写体範囲Pr)のサイズ(Xsize, Ysize)に基づいて、当該被写体画像Pgがふきだしf内に配置されるようにふきだしfのサイズを調整して、ふきだしf内における被写体画像Pgの合成位置を決定する(ステップS302;図9(a)参照)。
なお、ふきだし情報fdには、所定形状のふきだしfのデータに加えて、ふきだし用アルファマップ(図示略)が含まれており、加工処理部6iは、サイズ調整後のふきだしfのサイズに合わせてふきだし用アルファマップのサイズも調整する。
【0072】
次に、加工処理部6iは、ふきだしfが引き出し線を具備しているか否かを判定する(ステップS303)。
ここで、引き出し線を具備していると判定されると(ステップS303;YES)、加工処理部6iは、引き出し線の先端座標を画像メモリ5に一時的に記憶させる(ステップS304)。一方、ステップS303にて、引き出し線を具備していないと判定されると(ステップS303;NO)、加工処理部6iは、ステップS304をスキップする。
【0073】
その後、加工処理部6iは、被写体切り抜き処理にて算出された被写体画像Pgの平均色を判別し、判別した平均色と反対の色をふきだしfの色として、ふきだしf内を塗りつぶした後(ステップS305;図9(b)参照)、被写体用アルファマップM1に基づいて、当該ふきだしf内に被写体切り抜き画像P2の被写体画像Pgを合成してふきだし画像gfを生成する(ステップS306;図9(c)参照)。具体的には、加工処理部6iは、被写体切り抜き画像P2の全ての画素について、アルファ値が0の画素については、透過させ、アルファ値が0<α<1の画素については、所定の単一色とブレンディングを行い、アルファ値が1の画素については、何もせずに所定の単一色に対して透過させないようにする。
次に、加工処理部6iは、生成されたふきだし画像gfの画像データとふきだし用アルファマップとを対応付けて画像メモリ5に一時的に記憶させる(ステップS307)。
これにより、ふきだし付加処理を終了する。
【0074】
次に、合成処理について図10及び図11を参照して説明する。
図10は、合成処理に係る動作の一例を示すフローチャートである。
合成処理は、ユーザによる操作入力部10の選択決定用ボタン10bの所定操作に基づいて、メニュー画面に表示された複数の動作モードの中から画像合成モードが選択指示された場合に実行される処理である。
【0075】
図10に示すように、画像処理部6の画像取得部6aは、記録媒体9aに記録されている所定の背景画像Pb(図11(a)参照)及びふきだし合成画像Pd(図11(b)参照)の画像データを読み出して取得する(ステップS11)。なお、ふきだし合成画像Pdは、図11(b)に示すように、引き出し線を具備しているものとする。
続けて、画像処理部6は、顔検出部6jによる所定の顔検出処理が有効になっているか否かを判定する(ステップS12)。ここで、所定の顔検出処理が有効になっていると判定されると(ステップS12;YES)、顔検出部6jは、背景画像Pbの画像データに対して所定の顔検出処理を行い、顔領域が検出されたか否かを判定する(ステップS13;図11(c)参照)。
【0076】
ステップS13にて、顔領域が検出されたと判定されると(ステップS13;YES)、画像処理部6は、顔検出部6jにより検出された顔領域が一つであるか否かを判定する(ステップS14)。なお、表示制御部7は、検出された顔領域に重畳させて顔枠Wを表示部8の表示画面に表示させる(図11(c)参照)。
ここで、顔領域が一つであると判定されると(ステップS14;YES)、合成位置決定部6kは、顔検出部6jにより検出された顔領域の位置及びサイズ、ふきだし合成画像Pdの引き出し線の有無、引き出し線の向き等に基づいて、背景画像Pbにおけるふきだし合成画像Pdのふきだし画像gfの合成中心座標(ふきだし合成中心)を決定する(ステップS15)。また、ステップS14にて、顔領域が一つでないと判定されると(ステップS14;NO)、画像処理部6は、ユーザによる操作入力部10の所定操作に基づいて、或いは、所定の選択条件(例えば、最も大きい顔等)に従って、一の顔領域を指定した後(ステップS16)、処理をステップS15に移行する。
その後、画像合成部6lは、背景画像Pb内にふきだし合成画像Pdのふきだし画像gfが配置されるように当該ふきだし合成画像Pdのサイズを調整する(ステップS17;図11(d)参照)。
【0077】
次に、画像合成部6lは、ふきだし合成画像Pdに引き出し線が具備されているか否かを判定し(ステップS18)、引き出し線が具備されていると判定されると(ステップS18;YES)、ふきだし用アルファマップに基づいて、ふきだし合成画像Pdのふきだし画像gfと背景画像Pbとを合成して合成画像Pf(図11(e)参照)を生成する(ステップS19)。具体的には、画像合成部6lは、背景画像Pbの各画素のうち、ふきだし用アルファマップのアルファ値が0の画素は透過させ、アルファ値が1の画素はふきだし合成画像Pdの対応する画素の画素値で上書きし、さらに、アルファ値が0<α<1の画素については、ふきだし合成画像Pdとブレンディングを行う。
【0078】
一方、ふきだし合成画像Pdが引き出し線を具備していない場合(図11(f)参照)、ステップS15にて、合成位置決定部6kは、背景画像Pbにおけるふきだし合成画像Pdの合成中心座標(ふきだし合成中心)を決定した後、ステップS17にて、画像合成部6lは、ふきだし合成画像Pdのサイズを調整する(図11(g)参照)。
そして、ステップS17にて、ふきだし合成画像Pdに引き出し線が具備されていないと判定されると(ステップS17;NO)、加工処理部6iは、顔領域の中心位置とふきだし合成中心とを結ぶ線分上であって、顔領域の近傍(例えば、顔の輪郭の所定画素外側の位置)を引き出し線の先端座標として特定する(ステップS20)。続けて、加工処理部6iは、引き出し線の先端を頂点とするとともに、ふきだし合成中心を底辺の中点とする二等辺三角形tを設定して(図11(h)参照)、当該二等辺三角形tの頂点と交わる2つの辺とふきだし合成画像Pdのふきだし画像gf(図11(f)参照)とが交わる2つの交点座標を特定する。そして、加工処理部6iは、これら2つの交点座標と二等辺三角形tの先端座標とからなる三角形を引き出し線として設定し、当該引き出し線を被写体切り抜き処理にて算出された被写体画像Pgの平均色と反対の色で塗りつぶす(ステップS21)。
【0079】
その後、処理をステップS19に移行して、画像合成部6lは、ふきだし用アルファマップに基づいて、ふきだし合成画像Pdのふきだし画像gfと背景画像Pbとを合成して合成画像Pf(図11(i)参照)を生成する(ステップS19)。
【0080】
また、ステップS12にて、所定の顔検出処理が有効になっていないと判定されるか(ステップS12;NO)、或いは、ステップS13にて、顔領域が検出されなかったと判定されると(ステップS13;NO)、合成位置決定部6kは、ユーザによる操作入力部10の所定操作に基づいて指定された位置をふきだし合成画像Pdのふきだし画像gfの合成位置(例えば、ふきだし合成中心の座標等)として決定するとともに、画像合成部6lは、ユーザによる操作入力部10の所定操作に基づいて指定されたサイズにふきだし合成画像Pdのサイズを調整する(ステップS22)。
【0081】
続けて、画像合成部6lは、ふきだし合成画像Pdに引き出し線が具備されているか否かを判定し(ステップS23)、引き出し線が具備されていると判定されると(ステップS23;YES)、処理をステップS19に移行して、ふきだし用アルファマップに基づいて、ふきだし合成画像Pdのふきだし画像gfと背景画像Pbとを合成して合成画像Pfを生成する(ステップS19)。
一方、ステップS23にて、ふきだし合成画像Pdに引き出し線が具備されていないと判定されると(ステップS23;NO)、加工処理部6iは、ユーザによる操作入力部10の所定操作に基づいて指定された位置を引き出し線の先端座標とした後(ステップS24)、処理をステップS21に移行して、引き出し線を設定して被写体画像Pgの平均色と反対の色で塗りつぶす(ステップS21)。
その後、ステップS19にて、画像合成部6lは、ふきだし合成画像Pdのふきだし画像gfと背景画像Pbとを合成して合成画像Pfを生成する(ステップS19)。
【0082】
以上のように、本実施形態の撮像装置100によれば、被写体切り抜き画像P2の被写体画像Pgに対して所定の加工を施した後、当該所定の加工が施された被写体画像Pg(ふきだし合成画像Pd)と背景画像Pbとを合成して合成画像Pfを生成するので、合成画像Pf内で被写体画像Pgに視認者の注意を惹かせることができ、背景画像Pbに対する被写体画像Pgの識別性を向上させることができる。
具体的には、所定の加工として、被写体画像Pgに所定形状のふきだしfを付加する処理を施すので、合成画像Pf内で被写体画像Pgをふきだしfにより区分することができ、背景画像Pbに対する被写体画像Pgの識別性を向上させることができる。さらに、例えば、被写体画像Pgを文字とした場合には、当該文字を発言内容やオノマトペとして付加した合成画像Pfを生成することができ、当該合成画像Pfの興趣性の向上を図ることができる。
【0083】
また、被写体画像Pg(被写体範囲Pr)のサイズに基づいて、当該被写体画像Pgに対する所定の加工の内容を変更したり、被写体画像Pgの色に基づいて、当該被写体画像Pgに対する所定の加工の色(例えば、ふきだし内の色等)を変更することによって、背景画像Pbに対する被写体画像Pgの識別性をさらに向上させることができる。
【0084】
また、背景画像Pbから検出された顔領域の位置に基づいて、背景画像Pbにおける所定の加工が施された被写体画像Pgの合成位置を決定するので、ユーザが所定操作に基づいて背景画像Pb内で被写体画像Pgの合成位置を指定する必要がなくなって、合成画像Pfの生成を簡便に行うことができる。
【0085】
なお、本発明は、上記実施形態に限定されることなく、本発明の趣旨を逸脱しない範囲において、種々の改良並びに設計の変更を行っても良い。
例えば、被写体存在画像P1として一枚の静止画像データを例示したが、連続撮像された所定枚数の被写体存在画像P1であっても良いし、所定の記録方式(例えば、Motion−JPEG形式や、MPEG形式等)により撮像された被写体存在画像P1の動画像であっても良い。
【0086】
また、上記実施形態にあっては、被写体加工処理(図2参照)のサブルーチンとして、被写体切り抜き処理(図3参照)、被写体範囲算出処理(図6参照)、ふきだし付加処理(図8参照)等を実行するようにしたが、これらの処理の各々は所定条件の成立を契機としてそれぞれ実行するような構成としても良い。
【0087】
さらに、撮像装置100の構成は、上記実施形態に例示したものは一例であり、これに限られるものではない。即ち、画像合成装置として、撮像装置100を例示したが、これに限られるものではい。例えば、被写体存在画像P1の撮像や当該被写体存在画像P1の画像データの生成は、当該撮像装置100とは異なる撮像装置(図示略)にて行い、この撮像装置から転送された画像データのみを記録して、上記の画像合成に係る各種処理を実行する構成でも良い。
また、被写体画像Pg(被写体範囲Pr)のサイズ及び被写体画像Pgの色のうち、何れか一方に基づいて、当該被写体画像Pgに所定の加工を施すような構成としても良い。
【0088】
加えて、上記実施形態にあっては、背景取得手段、前景取得手段、判定手段、寸法算出手段、加工手段、合成手段としての機能を、画像処理部6の画像取得部6a、切抜画像生成部6g、加工処理部6i、寸法算出部6h、画像合成部6lが駆動することにより実現される構成としたが、これに限られるものではなく、中央制御部11のCPUによって所定のプログラム等が実行されることにより実現される構成としても良い。
即ち、撮像装置100のプログラムを記憶するプログラムメモリ(図示略)に、背景取得処理ルーチン、前景取得処理ルーチン、判定処理ルーチン、加工処理ルーチン、合成処理ルーチンを含むプログラムを記憶しておく。そして、背景取得処理ルーチンにより中央制御部11のCPUを、背景画像Pbを取得する背景取得手段として機能させるようにしても良い。また、前景取得処理ルーチンにより中央制御部11のCPUを、前景画像を取得する前景取得手段として機能させるようにしても良い。また、判定処理ルーチンにより中央制御部11のCPUを、画像取得手段により取得された前記前景画像の色を判定する判定手段として機能させるようにしても良い。また、加工処理ルーチンにより中央制御部11のCPUを、判定手段によって判定された色に基づいて、前景画像に対して所定の加工を施す加工手段として機能させるようにしても良い。また、合成処理ルーチンにより中央制御部11のCPUを、加工手段により所定の加工が施された前景画像と背景画像Pbとを合成して合成画像Pfを生成する合成手段として機能させるようにしても良い。
また、同様に、撮像装置100のプログラムを記憶するプログラムメモリ(図示略)に、上記の背景取得処理ルーチン、前景取得処理ルーチン及び合成処理ルーチンに加えて、寸法算出処理ルーチン、加工処理ルーチンを含むプログラムを記憶しておく。そして、寸法算出処理ルーチンにより中央制御部11のCPUを、前景取得手段により取得された前景画像の寸法を算出する寸法算出手段として機能させるようにしても良い。また、加工処理ルーチンにより中央制御部11のCPUを、寸法算出手段により算出された前景画像の寸法に基づいて、この前景画像に所定の加工を施す加工手段として機能させるようにしても良い。
【0089】
同様に、検出手段、決定手段についても、中央制御部11のCPUによって所定のプログラム等が実行されることにより実現される構成としても良い。
【0090】
さらに、上記の各処理を実行するためのプログラムを格納したコンピュータ読み取り可能な媒体として、ROMやハードディスク等の他、フラッシュメモリ等の不揮発性メモリ、CD−ROM等の可搬型記録媒体を適用することも可能である。また、プログラムのデータを所定の通信回線を介して提供する媒体としては、キャリアウェーブ(搬送波)も適用される。
【符号の説明】
【0091】
100 撮像装置
1 レンズ部
2 電子撮像部
3 撮像制御部
6 画像処理部
6a 画像取得部
6g 切抜画像生成部
6h 寸法算出部
6i 加工処理部
6j 顔検出部
6k 合成位置決定部
6l 画像合成部
11 中央制御部
【技術分野】
【0001】
本発明は、画像合成装置、画像合成方法及びプログラムに関する。
【背景技術】
【0002】
従来、撮像装置を用いて、背景内に被写体が存在する画像と被写体が存在しない背景画像とを撮像して、背景画像と被写体が存在する画像から差分情報を生成し、被写体のみを抜き出すアプリケーションが知られている(例えば、特許文献1参照)。
【先行技術文献】
【特許文献】
【0003】
【特許文献1】特開平10−21408号公報
【発明の概要】
【発明が解決しようとする課題】
【0004】
しかしながら、上記特許文献1のアプリケーションによって抜き出した被写体の画像を他の背景画像に合成して合成画像を生成するような場合に、被写体の画像のサイズや、被写体の画像と背景画像との色調の組み合わせによっては、合成画像にて被写体を見難くなってしまうという問題があった。
【0005】
そこで、本発明の課題は、前景画像を背景画像に合成する場合に、背景画像に対する前景画像の識別性を向上させることができる画像合成装置、画像合成方法及びプログラムを提供することである。
【課題を解決するための手段】
【0006】
上記課題を解決するため、請求項1に記載の発明の画像合成装置は、
背景画像を取得する背景取得手段と、前景画像を取得する前景取得手段と、この前景取得手段により取得された前記前景画像の色を判定する判定手段と、この判定手段によって判定された前記前景画像の色に基づいて、前記前景画像に対して所定の加工を施す加工手段と、この加工手段により前記所定の加工が施された前景画像と前記背景画像とを合成して合成画像を生成する合成手段と、を備えたことを特徴としている。
【0007】
請求項2に記載の発明は、請求項1に記載の画像合成装置において、
前記前景画像の寸法を算出する寸法算出手段を更に備え、前記加工手段は、前記寸法算出手段により算出された前記前景画像の寸法に基づいて、前記所定の加工の内容を変更することを特徴としている。
【0008】
請求項3に記載の発明の画像合成装置は、
背景画像を取得する背景取得手段と、前景画像を取得する前景取得手段と、この前景取得手段により取得された前記前景画像の寸法を算出する寸法算出手段と、この寸法算出手段により算出された前記前景画像の寸法に基づいて、この前景画像に所定の加工を施す加工手段と、この加工手段により前記所定の加工が施された前景画像と前記背景画像とを合成して合成画像を生成する合成手段と、を備えたことを特徴としている。
【0009】
請求項4に記載の発明は、請求項1〜3の何れか一項に記載の画像合成装置において、
前記背景画像から特定領域を検出する検出手段と、この検出手段により検出された特定領域の位置に基づいて、前記背景画像における前記所定の加工が施された前景画像の合成位置を決定する決定手段とを更に備えることを特徴としている。
【0010】
請求項5に記載の発明は、請求項1〜4の何れか一項に記載の画像合成装置において、
前記加工手段は、前記所定の加工として、前記前景画像を所定形状のふきだし画像に合成する処理を施し、前記合成手段は、前記所定形状のふきだし画像に合成した前景画像を前記背景画像に合成して合成画像を生成することを特徴としている。
【0011】
請求項6に記載の発明の画像合成方法は、
画像合成装置を用いた画像合成方法であって、背景画像を取得する処理と、前景画像を取得する処理と、取得された前記前景画像の色を判定する処理と、判定された前記前景画像の色に基づいて、前記前景画像に対して所定の加工を施す加工処理と、前記所定の加工が施された前景画像と前記背景画像とを合成して合成画像を生成する処理と、を備えたことを特徴としている。
【0012】
請求項7に記載の発明の画像合成方法は、
画像合成装置を用いた画像合成方法であって、背景画像を取得する処理と、前景画像を取得する処理と、取得された前記前景画像の寸法を算出する処理と、算出された前記前景画像の寸法に基づいて、この前景画像に所定の加工を施す処理と、前記所定の加工が施された前景画像と前記背景画像とを合成して合成画像を生成する合成処理と、を備えたことを特徴としている。
【0013】
請求項8に記載の発明のプログラムは、
画像合成装置のコンピュータを、背景画像を取得する背景取得手段、前景画像を取得する前景取得手段、この前景取得手段により取得された前記前景画像の色を判定する判定手段、この判定手段によって判定された前記前景画像の色に基づいて、前記前景画像に対して所定の加工を施す加工手段、この加工手段により前記所定の加工が施された前景画像と前記背景画像とを合成して合成画像を生成する合成手段、として機能させることを特徴としている。
【0014】
請求項9に記載の発明のプログラムは、
画像合成装置のコンピュータを、背景画像を取得する背景取得手段、前景画像を取得する前景取得手段、この前景取得手段により取得された前記前景画像の寸法を算出する寸法算出手段、この寸法算出手段により算出された前記前景画像の寸法に基づいて、この前景画像に所定の加工を施す加工手段、この加工手段により前記所定の加工が施された前景画像と前記背景画像とを合成して合成画像を生成する合成手段、として機能させることを特徴としている。
【発明の効果】
【0015】
本発明によれば、前景画像を背景画像に合成する場合に、背景画像に対して前景画像の識別性を向上させることができる。
【図面の簡単な説明】
【0016】
【図1】本発明を適用した一実施形態の撮像装置の概略構成を示すブロック図である。
【図2】図1の撮像装置による被写体加工処理に係る動作の一例を示すフローチャートである。
【図3】図2の被写体加工処理における被写体切り抜き処理に係る動作の一例を示すフローチャートである。
【図4】図3の被写体切り抜き処理を説明するための画像の一例を模式的に示す図である。
【図5】図3の被写体切り抜き処理を説明するための画像の一例を模式的に示す図である。
【図6】図2の被写体加工処理における被写体範囲算出処理に係る動作の一例を示すフローチャートである。
【図7】図6の被写体範囲算出処理を説明するための画像の一例を模式的に示す図である。
【図8】図2の被写体加工処理におけるふきだし付加処理に係る動作の一例を示すフローチャートである。
【図9】図8のふきだし付加処理を説明するための画像の一例を模式的に示す図である。
【図10】図1の撮像装置による合成処理に係る動作の一例を示すフローチャートである。
【図11】図10の合成処理を説明するための画像の一例を模式的に示す図である。
【発明を実施するための形態】
【0017】
以下に、本発明について、図面を用いて具体的な態様を説明する。ただし、発明の範囲は、図示例に限定されない。
図1は、本発明を適用した一実施形態の撮像装置100の概略構成を示すブロック図である。
【0018】
本実施形態の撮像装置100は、前景画像(被写体画像Pg)に対して所定の加工を施した(ふきだし画像と合成した)後、当該所定の加工が施された前景画像(ふきだし合成画像Pd)と背景画像Pbとを合成して合成画像Pfを生成する。
具体的には、図1に示すように、撮像装置100は、レンズ部1と、電子撮像部2と、撮像制御部3と、画像データ生成部4と、画像メモリ5と、画像処理部6と、表示制御部7と、表示部8と、記録媒体制御部9と、操作入力部10と、中央制御部11とを備えている。
また、撮像制御部3と、画像処理部6と、中央制御部11は、例えば、カスタムLSI1Aとして設計されている。
【0019】
レンズ部1は、複数のレンズから構成され、ズームレンズやフォーカスレンズ等を備えている。
また、レンズ部1は、図示は省略するが、被写体S(例えば、文字「あつい!!」等;図4(a)等参照)の撮像の際に、ズームレンズを光軸方向に移動させるズーム駆動部、フォーカスレンズを光軸方向に移動させる合焦駆動部等を備えていても良い。
【0020】
電子撮像部2は、例えば、CCD(Charge Coupled Device)やCMOS(Complementary Metal-oxide Semiconductor)等のイメージセンサから構成され、レンズ部1の各種レンズを通過した光学像を二次元の画像信号に変換する。
【0021】
撮像制御部3は、図示は省略するが、タイミング発生器、ドライバなどを備えている。そして、撮像制御部3は、タイミング発生器、ドライバにより電子撮像部2を走査駆動して、所定周期毎に光学像を電子撮像部2により二次元の画像信号に変換させ、当該電子撮像部2の撮像領域から1画面分ずつ画像フレームを読み出して画像データ生成部4に出力させる。
また、撮像制御部3は、AF(自動合焦処理)、AE(自動露出処理)、AWB(自動ホワイトバランス)等の被写体Sの撮像条件の調整制御を行う。
【0022】
また、撮像モードとして被写体切り抜きモード(後述)が設定されている場合に、ユーザによるシャッタボタン10aの撮像指示操作に基づいて、撮像制御部3は、レンズ部1を通過した背景内に被写体Sが存在する被写体存在画像P1(図4(a)参照)の光学像を所定の撮像条件で電子撮像部2により二次元の画像信号に変換させ、当該電子撮像部2の撮像領域から被写体存在画像P1に係る画像フレームを読み出させる。
ここで、電子撮像部2及び撮像制御部3は、背景内に被写体Sが存在する被写体存在画像P1を所定のタイミングで撮像する撮像手段を構成している。
【0023】
画像データ生成部4は、電子撮像部2から転送された画像フレームのアナログ値の信号に対してRGBの各色成分毎に適宜ゲイン調整した後に、サンプルホールド回路(図示略)でサンプルホールドしてA/D変換器(図示略)でデジタルデータに変換し、カラープロセス回路(図示略)で画素補間処理及びγ補正処理を含むカラープロセス処理を行った後、デジタル値の輝度信号Y及び色差信号Cb,Cr(YUVデータ)を生成する。また、画像データ生成部4は、YUVデータを水平及び垂直ともに所定倍率で縮小処理を行って、ライブビュー表示用の低解像度の縮小画像データを生成する。
カラープロセス回路から出力されるYUVデータは、図示しないDMAコントローラを介して、バッファメモリとして使用される画像メモリ5にDMA転送される。
【0024】
なお、A/D変換後のデジタルデータを現像するデモザイク部(図示略)が、カスタムLSI1Aに実装されていても良い。
【0025】
画像メモリ5は、例えば、DRAM等により構成され、画像データ生成部4から転送された被写体存在画像P1のYUVデータを一時的に記憶する。また、画像メモリ5は、画像処理部6、中央制御部11等によって処理されるデータ等を一時的に記憶する。
【0026】
画像処理部6は、画像取得部6aと、分割部6bと、ばらつき量算出部6cと、非平坦度判定部6dと、背景生成部6eと、位置情報生成部6fと、切抜画像生成部6gと、寸法算出部6hと、加工処理部6iと、顔検出部6jと、合成位置決定部6kと、画像合成部6lとを具備している。
【0027】
画像取得部6aは、画像メモリ5に一時的に記憶されている被写体存在画像P1のYUVデータを取得する。
即ち、画像取得部6aは、被写体切り抜き処理(後述)にて、電子撮像部2及び撮像制御部3による被写体存在画像P1(図4(a)参照)の撮像後、画像データ生成部4から転送されて画像メモリ5に一時的に記憶された被写体存在画像P1のYUVデータを取得する。
【0028】
また、画像取得部6aは、記録媒体9aに記録されている所定の背景画像Pbの画像データを取得する。即ち、画像取得部6aは、合成処理(後述)にて、ふきだし合成画像Pdと合成される所定の画像を背景画像Pb(図11(a)参照)として、当該背景画像Pbの画像データを取得する。
ここで、画像取得部6aは、背景画像Pbを取得する背景取得手段を構成している。
【0029】
分割部6bは、被写体存在画像P1を複数の画像ブロックB、…に分割する。
即ち、分割部6bは、被写体切り抜き処理にて、被写体存在画像P1のYUVデータに基づいて、当該被写体存在画像P1全体を縦横がそれぞれ所定画素からなる複数の画像ブロックB、…に分割する(図4(b)参照)。
なお、分割部6bによる被写体存在画像P1の画像データは、例えば、記録用として記録媒体9aに記録される高解像度の画像データであっても良いし、画像データ生成部4により生成されたライブビュー表示用の低解像度の縮小画像データであっても良い。
【0030】
ばらつき量算出部6cは、画像ブロックB内の画素値のばらつき量(非平坦度)を算出する。
具体的には、ばらつき量算出部6cは、被写体切り抜き処理にて、分割部6bにより分割された被写体存在画像P1の複数の画像ブロックB、…の各々についてのばらつき量として、標準偏差を下記式(1)に従って算出する。
【数1】
なお、上記式(1)において、b:各ブロック領域の画素値としては、例えば、輝度値が挙げられる。
【0031】
非平坦度判定部6dは、各画像ブロックBの非平坦度(ばらつき量)の判定を行う。
即ち、非平坦度判定部6dは、被写体切り抜き処理にて、画像ブロック内の画素値のばらつき量が所定値以下であるか否かを判定する。具体的には、例えば、非平坦度判定部6dは、被写体存在画像P1の複数の画像ブロックB、…のうち、被写体Sを含む画像ブロックBについては、ブロック内の画素値のばらつき量が大きく、画素値のばらつき量が所定値以下であると判定しない。一方で、非平坦度判定部6dは、特徴量の少ない無地の背景をバックに撮像される被写体存在画像P1の複数の画像ブロックB、…のうち、被写体Sを含まない画像ブロックB、つまり、特徴量の少ない無地の背景部分は、ブロック内の画素値のばらつき量が被写体Sを含む画像ブロックBに比して大幅に小さくなり、画素値のばらつき量が所定値以下であると判定する。
そして、画像処理部6は、当該非平坦度判定部6dによる判定結果に基づいて、非平坦度が所定値以下である画像ブロックBを特定する。即ち、画像処理部6は、非平坦度判定部6dによる判定の結果、ブロック内の画素値の非平坦度が所定値以下であると判定された少なくとも一の画像ブロックBを含んでなる画像領域を特定する。
【0032】
背景生成部6eは、クロマキー技術を利用して被写体領域を抽出するための抽出用背景画像(図示略)を生成する。
即ち、背景生成部6eは、非平坦度判定部6dにより画素値の非平坦度が所定値以下であると判定された被写体存在画像P1の画像ブロックBの色とほぼ等しい色を背景色とする抽出用背景画像を生成する。例えば、業務用机やホワイトボード等のように特徴量の少ない無地の背景をバックに被写体Sを撮影した場合には、背景生成部6eは、無地の背景とほぼ等しい色の抽出用背景画像を生成する。
なお、クロマキーとは、特定の色背景を用いて一の画像データから被写体Sを切り抜く手法である。クロマキーでは、通常、背景に被写体Sと補色の関係にある青や緑のスクリーンを用いるようになっており、被写体存在画像P1における画素値のばらつき量が所定値以下である画像ブロックBとほぼ等しい色の抽出用背景画像を生成することで、抽出用背景画像と被写体存在画像P1の色情報を基にして背景部分と被写体部分を分離することができる。
【0033】
位置情報生成部6fは、被写体存在画像P1から被写体領域を抽出するための被写体用アルファマップM1(図5(a)参照)を生成する。
即ち、位置情報生成部6fは、抽出用背景画像と被写体存在画像P1の対応する各画素の各画素の差分情報、例えば、相違度Dを下記式(2)に従って算出して相違度マップを生成する。
【数2】
なお、上記式にあっては、抽出用背景画像のYUVデータを「Y」、「U」、「V」で表し、被写体存在画像P1のYUVデータを「Yc」、「Uc」、「Vc」で表す。また、Gは、色差信号U、Vのゲインを表している。
そして、位置情報生成部6fは、生成した相違度マップを所定の閾値で二値化(0、255)することにより、被写体用アルファマップM1を生成する(詳細後述)。
ここで、被写体用アルファマップM1とは、被写体存在画像P1における被写体画像Pgの位置を示す位置情報であり、被写体存在画像P1の各画素について、被写体画像Pgを所定の背景に対してアルファブレンディングする際の重みをアルファ値(0≦α≦1)として表したものである。
【0034】
切抜画像生成部6gは、生成された被写体用アルファマップM1に基づいて、被写体存在画像P1の各画素のうち、アルファ値が1の画素を所定の単一色画像(図示略)に対して透過させず、且つ、アルファ値が0の画素を透過させ、且つ、アルファ値が0<α<1の画素を所定の単一色とブレンディングさせるように、被写体画像Pgを所定の単一色画像と合成して被写体切り抜き画像P2の画像データを生成する。
これにより、切抜画像生成部6gは、背景と被写体Sとが存在する被写体存在画像P1から被写体Sが含まれる領域を切り抜いた被写体切り抜き画像P2の被写体画像Pgを前景画像として取得する。
ここで、切抜画像生成部6gは、前景画像を取得する前景取得手段を構成している。
【0035】
寸法算出部6hは、被写体切り抜き画像P2の被写体画像Pgのサイズを算出する。
即ち、寸法算出部6hは、被写体範囲算出処理(図6参照;後述)にて、被写体切り抜き画像P2における被写体画像Pgの存する範囲を被写体範囲Prとして、当該被写体範囲Prのx軸方向及びy軸方向の画素数(Xsize, Ysize)を算出する。なお、被写体範囲Prのサイズの算出方法は、被写体範囲算出処理(図6参照)にて詳細に説明する。
ここで、寸法算出部6hは、被写体切り抜き画像P2(前景画像)の寸法を算出する寸法算出手段を構成している。
【0036】
加工処理部6iは、切抜画像生成部6gにより取得された被写体切り抜き画像P2の被写体画像Pgに対して所定の加工を施す。
即ち、加工処理部6iは、所定の加工として、被写体切り抜き画像P2の被写体画像Pgに所定形状(例えば、矩形状等)のふきだしfを付加する処理を施す。具体的には、加工処理部6iは、所定の記録手段(例えば、画像メモリ5等)に記録されているふきだし情報fdを取得して、当該ふきだし情報fdに係る所定形状のふきだしf内に被写体画像Pg(被写体範囲Pr)が配置されるようにふきだしfのサイズを変更する。なお、加工処理部6iは、被写体切り抜き画像P2の被写体範囲Prのサイズに基づいて、所定の記録手段から取得されるふきだし情報fdを変更しても良い。このように、加工処理部6iは、寸法算出部6hにより算出された被写体切り抜き画像P2の被写体画像Pg(被写体範囲Pr)の寸法に基づいて、所定の加工の内容を変更する。
【0037】
また、加工処理部6iは、被写体切り抜き画像P2の被写体画像Pgの色に基づいて、所定の加工の色を変更する。即ち、加工処理部6iは、例えば、被写体画像Pgの平均色を判定し、ふきだしf内の色がこの被写体画像Pgの平均色と反対の色となるように変更する。
具体的には、加工処理部6iは、被写体画像Pgの各画素の画素値に基づいて、当該被写体画像Pgの平均色と反対の色を式(3)に従って算出して、画像メモリ5に一時的に記憶する。
【数3】
なお、上記式(3)にあっては、被写体画像Pgの平均色の輝度信号及び色差信号の反対値を算出するようにしたが、必ずしも輝度信号の反対値を算出する必要はなく、少なくとも色差信号の反対値を算出すれば良い。また、被写体画像Pgの平均色と正反対の色を上記式(3)に基づいて算出するようにしたが、一例であってこれに限られるものではなく、必ずしも正反対の色である必要はない。つまり、被写体画像Pgと背景画像Pbの識別性を高めることができる色であれば良い。
【0038】
なお、被写体画像Pgに対する所定の加工として、ふきだしfを付加する処理を例示したが、一例であってこれに限られるものではなく、例えば、被写体画像Pgの輪郭を強調する処理など適宜任意に変更可能である。
このように、加工処理部6iは、切抜画像生成部6gにより取得された被写体切り抜き画像P2(前景画像)に対して所定の加工を施す。
【0039】
顔検出部6jは、背景画像Pbから顔領域を検出する。
即ち、顔検出部6jは、画像取得部6aにより取得された背景画像Pbの画像データに対して所定の顔検出処理を行って顔領域(特定領域)を検出する。
なお、特定領域として、顔領域を例示したが、一例であってこれに限られるものではなく、適宜任意に変更可能であり、例えば、物体、植物、動物などの主要領域であっても良い。また、特定領域の検出方法として、顔検出処理の他に、エッジ検出処理、特徴抽出処理等の各種画像処理を適用しても良い。また、顔検出処理やエッジ検出処理や特徴抽出処理等は、公知の技術であるので、ここでは詳細な説明を省略する。
このように、顔検出部6jは、背景画像Pbから特定領域を検出する検出手段を構成している。
【0040】
合成位置決定部6kは、背景画像Pbにおける所定の加工が施された被写体切り抜き画像P2の合成位置を決定する。
即ち、合成位置決定部6kは、顔検出部6jにより検出された顔領域の位置に基づいて、背景画像Pbにおけるふきだし合成画像Pdの合成位置を決定する。具体的には、例えば、ふきだし合成画像Pdが引き出し線を具備している場合、合成位置決定部6kは、背景画像Pb内にて、顔検出部6jにより検出された顔領域の中心位置に引き出し線の先端が向くようにふきだし合成画像Pdの合成中心座標としてふきだし合成中心を決定する。このとき、合成位置決定部6kは、顔検出部6jにより検出された顔領域の位置に加えて、当該顔領域のサイズ、ふきだし合成画像Pdの引き出し線の有無、引き出し線の向き等を考慮して、ふきだし合成中心を決定しても良い。
ここで、合成位置決定部6kは、顔検出部6jにより検出された特定領域(顔領域)の位置に基づいて、背景画像Pbにおける所定の加工が施された被写体切り抜き画像P2(前景画像)の合成位置を決定する決定手段を構成している。
【0041】
画像合成部6lは、所定の加工が施された被写体切り抜き画像P2(ふきだし合成画像Pd)と背景画像Pbとを合成して合成画像Pfを生成する。
即ち、画像合成部6lは、加工処理部6iにより生成されたふきだし合成画像Pdと背景画像Pbとを合成して合成画像Pfを生成する。具体的には、画像合成部6lは、背景画像Pbの各画素のうち、ふきだし用アルファマップのアルファ値が0の画素は透過させ、アルファ値が1の画素はふきだし合成画像Pdの対応する画素の画素値で上書きし、さらに、アルファ値が0<α<1の画素については、ふきだし合成画像Pdとブレンディングを行う。
ここで、画像合成部6lは、加工処理部6iにより所定の加工が施された前景画像と背景画像Pbとを合成して合成画像Pfを生成する合成手段を構成している。
【0042】
表示制御部7は、画像メモリ5に一時的に記憶されている表示用画像データを読み出して表示部8に表示させる制御を行う。
具体的には、表示制御部7は、VRAM、VRAMコントローラ、デジタルビデオエンコーダなどを備えている。そして、デジタルビデオエンコーダは、中央制御部11の制御下にて画像メモリ5から読み出されてVRAM(図示略)に記憶されている輝度信号Y及び色差信号Cb,Crを、VRAMコントローラを介してVRAMから定期的に読み出して、これらのデータを元にビデオ信号を発生して表示部8に出力する。
【0043】
表示部8は、例えば、液晶表示装置であり、表示制御部7からのビデオ信号に基づいてライブビュー画像やレックビュー画像などを表示画面に表示する。
即ち、表示制御部7は、撮像モードにて、電子撮像部2及び撮像制御部3による被写体Sの撮像により生成された複数の画像フレームに基づいてライブビュー画像や、本撮像画像として撮像されたレックビュー画像などを表示部8の表示画面に表示させる。
【0044】
記録媒体制御部9は、記録媒体9aが着脱自在に構成され、装着された記録媒体9aからのデータの読み出しや記録媒体9aに対するデータの書き込みを制御する。即ち、記録媒体制御部9は、画像処理部6のJPEG圧縮部(図示略)により符号化された撮像画像の記録用の画像データを記録媒体9aに記録させる。
また、ふきだし画像gfの画像データは、画像処理部6の位置情報生成部6fにより生成されたふきだし用アルファマップと対応付けられて、当該ふきだし合成画像Pdの画像データの拡張子を「.jpe」として保存されている。
【0045】
なお、記録媒体9aは、例えば、不揮発性メモリ(フラッシュメモリ)等により構成されるが、一例であってこれに限られるものではなく、適宜任意に変更可能である。
【0046】
操作入力部10は、当該撮像装置100の所定操作を行うためのものである。具体的には、操作入力部10は、被写体Sの撮影指示に係るシャッタボタン10a、メニュー画面にて撮像モードや機能等の選択指示に係る選択決定用ボタン10b、ズーム量の調整指示に係るズームボタン(図示略)等を備え、これらのボタンの操作に応じて所定の操作信号を中央制御部11に出力する。
【0047】
中央制御部11は、撮像装置100の各部を制御するものである。具体的には、中央制御部11は、CPU、RAM、ROM(何れも図示略)を備え、撮像装置100用の各種処理プログラム(図示略)に従って各種の制御動作を行う。
【0048】
次に、撮像装置100による被写体加工処理について、図2〜図9を参照して説明する。
図2は、被写体加工処理に係る動作の一例を示すフローチャートである。
被写体加工処理は、ユーザによる操作入力部10の選択決定用ボタン10bの所定操作に基づいて、メニュー画面に表示された複数の撮像モードの中から被写体加工モードが選択指示された場合に実行される処理である。
【0049】
図2に示すように、先ず、画像処理部6は、電子撮像部2及び撮像制御部3により撮像された被写体存在画像P1から被写体領域を切り抜く被写体切り抜き処理(後述;図3〜図5参照)を実行する(ステップS1)。
次に、画像処理部6の寸法算出部6hは、被写体切り抜き画像P2における被写体画像Pgの存する範囲を被写体範囲Prとして算出する被写体範囲算出処理(後述;図6、図7参照)を実行する(ステップS2)。
続けて、画像処理部6の加工処理部6iは、被写体切り抜き画像P2の被写体画像Pgにふきだしfを付加するふきだし付加処理(後述;図8、図9参照)を実行する(ステップS3)。
その後、画像処理部6は、ふきだし用アルファマップに基づいて、被写体切り抜き画像P2のふきだし画像gf以外の領域を所定の色(例えば、グレー等)で塗りつぶすことによりふきだし合成画像Pd(図9(d)参照)を生成し、記録媒体制御部9は、当該ふきだし合成画像Pdとふきだし用アルファマップとを対応付けて記録媒体9aに記録させる(ステップS4)。
これにより、被写体加工処理を終了する。
【0050】
次に、被写体切り抜き処理について図3〜図5を参照して説明する。
図3は、被写体切り抜き処理に係る動作の一例を示すフローチャートである。
【0051】
図3に示すように、先ず、ユーザによる操作入力部10のシャッタボタン10aの所定操作に基づいて、撮像制御部3は、フォーカスレンズの合焦位置や露出条件(シャッター速度、絞り、増幅率等)やホワイトバランス等の撮像条件を調整させて、背景内に所定の被写体Sが存在する被写体存在画像P1(図4(a)参照)の光学像を所定の撮像条件で電子撮像部2により撮像させる(ステップS101)。
そして、画像データ生成部4は、電子撮像部2から転送された被写体存在画像P1のYUVデータを生成した後、当該被写体存在画像P1のYUVデータを画像メモリ5に一時的に記憶させる。
【0052】
次に、画像処理部6は、被写体存在画像P1から被写体領域を抽出するための抽出用背景画像(図示略)を生成する処理を行う(ステップS102)。
具体的には、画像処理部6の分割部6bは、画像取得部6aにより画像メモリ5から取得された被写体存在画像P1のYUVデータに基づいて、当該被写体存在画像P1を複数の画像ブロックB、…(図4(b)参照)に分割する。続けて、ばらつき量算出部6cは、被写体存在画像P1の複数の画像ブロックBの各々について、画素値のばらつき量としての標準偏差を式(1)に従って算出する。
【数4】
【0053】
次に、非平坦度判定部6dは、算出された各画像ブロックBのばらつき量が所定値以下であるか否かを判定し、画像処理部6は、ばらつき量が所定値以下であると判定された各画像ブロックBの平均色を算出する。
そして、画像処理部6の背景生成部6eは、同一色であるとみなすことができる色の画像ブロックBの数を各色毎に算出して、この中で、最多の色の画像ブロックBの平均色を背景色とする抽出用背景画像のYUVデータを生成する。
【0054】
次に、画像処理部6は、被写体存在画像P1から被写体Sが含まれる被写体領域を検出する処理を行う(ステップS103)。
具体的には、画像処理部6の位置情報生成部6fは、抽出用背景画像のYUVデータと被写体存在画像P1のYUVデータとの間で対応する各画素の相違度Dを下記式(2)に従って算出して相違度マップを生成する。
【数5】
【0055】
次に、位置情報生成部6fは、生成した相違度マップを所定の閾値で二値化してマスク画像データを生成する。そして、位置情報生成部6fは、被写体領域の周辺部の残り過ぎを修正したり細かいノイズを除去するため、マスク画像データに対する収縮処理を行って所定値よりも小さい画素集合を除いた後、収縮分を修正するための膨張処理を行う。
その後、位置情報生成部6fは、マスク画像データに対して平均化フィルタをかけて被写体領域の縁部に合成階調をつけて、被写体存在画像P1内での被写体領域を示す被写体用アルファマップM1(図5(a)参照)を生成する。
【0056】
続けて、画像処理部6の切抜画像生成部6gは、クロマキー技術を利用して、領域検出処理にて生成された被写体用アルファマップM1を用いて被写体存在画像P1から被写体領域を切り出して、所定の単一色画像(図示略)と合成して被写体切り抜き画像P2(図5(b)参照)の画像データを生成する(ステップS104)。
具体的には、切抜画像生成部6gは、被写体存在画像P1、単一色画像及び被写体用アルファマップM1を読み出して画像メモリ5に展開した後、被写体存在画像P1の全ての画素について、アルファ値が0の画素については、透過させ、アルファ値が0<α<1の画素については、所定の単一色とブレンディングを行い、アルファ値が1の画素については、何もせずに所定の単一色に対して透過させないようにする。
なお、被写体用アルファマップM1の縁部分には、合成階調がつけられているため、切り出された被写体領域と単一色画像(背景)との境界部分がはっきりしていない自然な感じとなる。
【0057】
次に、画像処理部6の加工処理部6iは、被写体切り抜き画像P2の被写体画像Pgの各画素の画素値に基づいて、当該被写体画像Pgの平均色を算出した後(ステップS105)、当該平均色と反対の色を式(3)に従って算出して、画像メモリ5に一時的に記憶する(ステップS106)。
【数6】
これにより、被写体切り抜き処理を終了する。
【0058】
次に、被写体範囲算出処理について図6及び図7を参照して説明する。
図6は、被写体範囲算出処理に係る動作の一例を示すフローチャートである。
なお、以下に説明する被写体範囲算出処理では、被写体範囲Prを矩形として想定し、当該被写体範囲Prの左上隅部の座標を(Xstart, Ystart)、右下隅部の座標を(Xend, Yend)とし、x軸方向及びy軸方向のサイズをXsize, Ysizeとする(図7参照)。また、被写体用アルファマップM1のサイズを(Xmax, Ymax)とする。
【0059】
図6に示すように、先ず、画像処理部6の寸法算出部6hは、被写体用アルファマップM1を取得した後、当該被写体用アルファマップM1における範囲情報を初期化する(ステップS201)。具体的には、寸法算出部6hは、処理対象座標(x, y)=(0, 0)に設定するとともに、初期座標を(Xstart, Ystart)=(0, 0)、(Xend, Yend)=(Xmax-1, Ymax-1)に設定する。
【0060】
次に、寸法算出部6hは、y軸方向で被写体Sが存在する範囲を算出する(ステップS202〜S210)。
具体的には、寸法算出部6hは、先ず、被写体Sが存在する範囲のy座標の開始位置(Ystart)を算出する。ここで、被写体用アルファマップM1の所定の座標(x, y)における値をM(x, y)とすると、被写体Sが存在する座標では0以上の値になることから、寸法算出部6hは、x軸方向の和が0であるか否かを判定する(ステップS202)。
ここで、x軸方向の和が0であると判定されると(ステップS202;YES)、寸法算出部6hは、処理対象のy座標の値を+1して次の座標に設定し(ステップS203)、処理対象のy座標が被写体用アルファマップM1の最下行(Ymax)に達したか否かを判定する(ステップS204)。
【0061】
ステップS204にて、処理対象のy座標が被写体用アルファマップM1の最下行(Ymax)に達していないと判定されると(ステップS204;NO)、寸法算出部6hは、処理をステップS202に移行して、x軸方向の和が0であるか否かを判定する(ステップS202)。
一方、処理対象のy座標が被写体用アルファマップM1の最下行(Ymax)に達していると判定されると(ステップS204;YES)、寸法算出部6hは、被写体範囲Prの開始位置(Xstart, Ystart)、終了位置(Xend, Yend)、x軸方向及びy軸方向のサイズ(Xsize, Ysize)を全て「0」とする(ステップS205)。その後、寸法算出部6hは、処理をステップS220に移行して、被写体範囲Prの中心座標(Xcenter, Ycenter)を算出する(後述)。
【0062】
ステップS202にて、x軸方向の和が0でないと判定されると(ステップS202;NO)、寸法算出部6hは、そのy座標から被写体Sが存在する範囲を構成していると判断して、Ystartにy座標の値を登録する(ステップS206)。
【0063】
続けて、寸法算出部6hは、被写体Sが存在する範囲のy座標の終了位置(Yend)を算出する。
具体的には、寸法算出部6hは、先ず、処理対象のy座標を最下行(Ymax-1)に設定した後(ステップS207)、ステップS202と同様に、被写体Sが存在する座標ではx軸方向の和が0以上の値になることから、寸法算出部6hは、x軸方向の和が0であるか否かを判定する(ステップS208)。
ここで、x軸方向の和が0であると判定されると(ステップS208;YES)、寸法算出部6hは、処理対象のy座標の値を−1して次の座標に設定した後(ステップS209)、処理をステップS208に移行して、x軸方向の和が0であるか否かを判定する(ステップS208)。
【0064】
ステップS208にて、x軸方向の和が0でないと判定されると(ステップS208;NO)、寸法算出部6hは、そのy座標まで被写体Sが存在する範囲を構成していると判断して、Yendにy座標の値を登録する(ステップS210)。
【0065】
次に、寸法算出部6hは、x軸方向で被写体Sが存在する範囲を算出する(ステップS211〜S218)。
具体的には、寸法算出部6hは、先ず、被写体Sが存在する範囲のx座標の開始位置(Xstart)を算出する。即ち、寸法算出部6hは、処理対象のx座標の値を初期化(x=0)した後(ステップS211)、上記と同様に、y軸方向の和が0であるか否かを判定する(ステップS212)。
ここで、y軸方向の和が0であると判定されると(ステップS212;YES)、寸法算出部6hは、処理対象のx座標の値を+1して次の座標に設定した後(ステップS213)、処理をステップS212に移行して、y軸方向の和が0であるか否かを判定する(ステップS212)。
【0066】
ステップS212にて、y軸方向の和が0でないと判定されると(ステップS212;NO)、寸法算出部6hは、そのx座標から被写体Sが存在する範囲を構成していると判断して、Xstartにx座標の値を登録する(ステップS214)。
【0067】
続けて、寸法算出部6hは、被写体Sが存在する範囲のx座標の終了位置(Xend)を算出する。
具体的には、寸法算出部6hは、先ず、処理対象のx座標を最右列(Xmax-1)に設定した後(ステップS215)、ステップS212と同様に、被写体Sが存在する座標ではy軸方向の和が0以上の値になることから、寸法算出部6hは、y軸方向の和が0であるか否かを判定する(ステップS216)。
ここで、y軸方向の和が0であると判定されると(ステップS216;YES)、寸法算出部6hは、処理対象のx座標の値を−1して次の座標に設定した後(ステップS217)、処理をステップS216に移行して、y軸方向の和が0であるか否かを判定する(ステップS216)。
【0068】
ステップS216にて、y軸方向の和が0でないと判定されると(ステップS216;NO)、寸法算出部6hは、そのx座標まで被写体Sが存在する範囲を構成していると判断して、Xendにx座標の値を登録する(ステップS218)。
【0069】
次に、寸法算出部6hは、上記のようにして算出された被写体範囲Prの終了位置(Xend, Yend)から開始位置(Xstart, Ystart)を減算して+1することにより、被写体範囲Prのx軸方向及びy軸方向のサイズ(Xsize, Ysize)を算出する(ステップS219)。
さらに、寸法算出部6hは、被写体範囲Prのサイズ(Xsize, Ysize)を二分して開始位置(Xstart, Ystart)を加算することにより、被写体範囲Prの中心座標(Xcenter, Ycenter)を算出する(ステップS220)。
これにより、被写体範囲算出処理を終了する。
【0070】
次に、ふきだし付加処理について図8及び図9を参照して説明する。
図8は、ふきだし付加処理に係る動作の一例を示すフローチャートである。
なお、以下に説明する被写体範囲算出処理では、被写体画像Pgと合成される所定形状のふきだしfが、ユーザによる操作入力部10の所定操作に基づいて、或いは、デフォルトとして設定されているものとする。
【0071】
図8に示すように、加工処理部6iは、予め設定されている所定形状のふきだしfに係るふきだし情報fdを取得した後(ステップS301)、寸法算出部6hにより算出された被写体画像Pg(被写体範囲Pr)のサイズ(Xsize, Ysize)に基づいて、当該被写体画像Pgがふきだしf内に配置されるようにふきだしfのサイズを調整して、ふきだしf内における被写体画像Pgの合成位置を決定する(ステップS302;図9(a)参照)。
なお、ふきだし情報fdには、所定形状のふきだしfのデータに加えて、ふきだし用アルファマップ(図示略)が含まれており、加工処理部6iは、サイズ調整後のふきだしfのサイズに合わせてふきだし用アルファマップのサイズも調整する。
【0072】
次に、加工処理部6iは、ふきだしfが引き出し線を具備しているか否かを判定する(ステップS303)。
ここで、引き出し線を具備していると判定されると(ステップS303;YES)、加工処理部6iは、引き出し線の先端座標を画像メモリ5に一時的に記憶させる(ステップS304)。一方、ステップS303にて、引き出し線を具備していないと判定されると(ステップS303;NO)、加工処理部6iは、ステップS304をスキップする。
【0073】
その後、加工処理部6iは、被写体切り抜き処理にて算出された被写体画像Pgの平均色を判別し、判別した平均色と反対の色をふきだしfの色として、ふきだしf内を塗りつぶした後(ステップS305;図9(b)参照)、被写体用アルファマップM1に基づいて、当該ふきだしf内に被写体切り抜き画像P2の被写体画像Pgを合成してふきだし画像gfを生成する(ステップS306;図9(c)参照)。具体的には、加工処理部6iは、被写体切り抜き画像P2の全ての画素について、アルファ値が0の画素については、透過させ、アルファ値が0<α<1の画素については、所定の単一色とブレンディングを行い、アルファ値が1の画素については、何もせずに所定の単一色に対して透過させないようにする。
次に、加工処理部6iは、生成されたふきだし画像gfの画像データとふきだし用アルファマップとを対応付けて画像メモリ5に一時的に記憶させる(ステップS307)。
これにより、ふきだし付加処理を終了する。
【0074】
次に、合成処理について図10及び図11を参照して説明する。
図10は、合成処理に係る動作の一例を示すフローチャートである。
合成処理は、ユーザによる操作入力部10の選択決定用ボタン10bの所定操作に基づいて、メニュー画面に表示された複数の動作モードの中から画像合成モードが選択指示された場合に実行される処理である。
【0075】
図10に示すように、画像処理部6の画像取得部6aは、記録媒体9aに記録されている所定の背景画像Pb(図11(a)参照)及びふきだし合成画像Pd(図11(b)参照)の画像データを読み出して取得する(ステップS11)。なお、ふきだし合成画像Pdは、図11(b)に示すように、引き出し線を具備しているものとする。
続けて、画像処理部6は、顔検出部6jによる所定の顔検出処理が有効になっているか否かを判定する(ステップS12)。ここで、所定の顔検出処理が有効になっていると判定されると(ステップS12;YES)、顔検出部6jは、背景画像Pbの画像データに対して所定の顔検出処理を行い、顔領域が検出されたか否かを判定する(ステップS13;図11(c)参照)。
【0076】
ステップS13にて、顔領域が検出されたと判定されると(ステップS13;YES)、画像処理部6は、顔検出部6jにより検出された顔領域が一つであるか否かを判定する(ステップS14)。なお、表示制御部7は、検出された顔領域に重畳させて顔枠Wを表示部8の表示画面に表示させる(図11(c)参照)。
ここで、顔領域が一つであると判定されると(ステップS14;YES)、合成位置決定部6kは、顔検出部6jにより検出された顔領域の位置及びサイズ、ふきだし合成画像Pdの引き出し線の有無、引き出し線の向き等に基づいて、背景画像Pbにおけるふきだし合成画像Pdのふきだし画像gfの合成中心座標(ふきだし合成中心)を決定する(ステップS15)。また、ステップS14にて、顔領域が一つでないと判定されると(ステップS14;NO)、画像処理部6は、ユーザによる操作入力部10の所定操作に基づいて、或いは、所定の選択条件(例えば、最も大きい顔等)に従って、一の顔領域を指定した後(ステップS16)、処理をステップS15に移行する。
その後、画像合成部6lは、背景画像Pb内にふきだし合成画像Pdのふきだし画像gfが配置されるように当該ふきだし合成画像Pdのサイズを調整する(ステップS17;図11(d)参照)。
【0077】
次に、画像合成部6lは、ふきだし合成画像Pdに引き出し線が具備されているか否かを判定し(ステップS18)、引き出し線が具備されていると判定されると(ステップS18;YES)、ふきだし用アルファマップに基づいて、ふきだし合成画像Pdのふきだし画像gfと背景画像Pbとを合成して合成画像Pf(図11(e)参照)を生成する(ステップS19)。具体的には、画像合成部6lは、背景画像Pbの各画素のうち、ふきだし用アルファマップのアルファ値が0の画素は透過させ、アルファ値が1の画素はふきだし合成画像Pdの対応する画素の画素値で上書きし、さらに、アルファ値が0<α<1の画素については、ふきだし合成画像Pdとブレンディングを行う。
【0078】
一方、ふきだし合成画像Pdが引き出し線を具備していない場合(図11(f)参照)、ステップS15にて、合成位置決定部6kは、背景画像Pbにおけるふきだし合成画像Pdの合成中心座標(ふきだし合成中心)を決定した後、ステップS17にて、画像合成部6lは、ふきだし合成画像Pdのサイズを調整する(図11(g)参照)。
そして、ステップS17にて、ふきだし合成画像Pdに引き出し線が具備されていないと判定されると(ステップS17;NO)、加工処理部6iは、顔領域の中心位置とふきだし合成中心とを結ぶ線分上であって、顔領域の近傍(例えば、顔の輪郭の所定画素外側の位置)を引き出し線の先端座標として特定する(ステップS20)。続けて、加工処理部6iは、引き出し線の先端を頂点とするとともに、ふきだし合成中心を底辺の中点とする二等辺三角形tを設定して(図11(h)参照)、当該二等辺三角形tの頂点と交わる2つの辺とふきだし合成画像Pdのふきだし画像gf(図11(f)参照)とが交わる2つの交点座標を特定する。そして、加工処理部6iは、これら2つの交点座標と二等辺三角形tの先端座標とからなる三角形を引き出し線として設定し、当該引き出し線を被写体切り抜き処理にて算出された被写体画像Pgの平均色と反対の色で塗りつぶす(ステップS21)。
【0079】
その後、処理をステップS19に移行して、画像合成部6lは、ふきだし用アルファマップに基づいて、ふきだし合成画像Pdのふきだし画像gfと背景画像Pbとを合成して合成画像Pf(図11(i)参照)を生成する(ステップS19)。
【0080】
また、ステップS12にて、所定の顔検出処理が有効になっていないと判定されるか(ステップS12;NO)、或いは、ステップS13にて、顔領域が検出されなかったと判定されると(ステップS13;NO)、合成位置決定部6kは、ユーザによる操作入力部10の所定操作に基づいて指定された位置をふきだし合成画像Pdのふきだし画像gfの合成位置(例えば、ふきだし合成中心の座標等)として決定するとともに、画像合成部6lは、ユーザによる操作入力部10の所定操作に基づいて指定されたサイズにふきだし合成画像Pdのサイズを調整する(ステップS22)。
【0081】
続けて、画像合成部6lは、ふきだし合成画像Pdに引き出し線が具備されているか否かを判定し(ステップS23)、引き出し線が具備されていると判定されると(ステップS23;YES)、処理をステップS19に移行して、ふきだし用アルファマップに基づいて、ふきだし合成画像Pdのふきだし画像gfと背景画像Pbとを合成して合成画像Pfを生成する(ステップS19)。
一方、ステップS23にて、ふきだし合成画像Pdに引き出し線が具備されていないと判定されると(ステップS23;NO)、加工処理部6iは、ユーザによる操作入力部10の所定操作に基づいて指定された位置を引き出し線の先端座標とした後(ステップS24)、処理をステップS21に移行して、引き出し線を設定して被写体画像Pgの平均色と反対の色で塗りつぶす(ステップS21)。
その後、ステップS19にて、画像合成部6lは、ふきだし合成画像Pdのふきだし画像gfと背景画像Pbとを合成して合成画像Pfを生成する(ステップS19)。
【0082】
以上のように、本実施形態の撮像装置100によれば、被写体切り抜き画像P2の被写体画像Pgに対して所定の加工を施した後、当該所定の加工が施された被写体画像Pg(ふきだし合成画像Pd)と背景画像Pbとを合成して合成画像Pfを生成するので、合成画像Pf内で被写体画像Pgに視認者の注意を惹かせることができ、背景画像Pbに対する被写体画像Pgの識別性を向上させることができる。
具体的には、所定の加工として、被写体画像Pgに所定形状のふきだしfを付加する処理を施すので、合成画像Pf内で被写体画像Pgをふきだしfにより区分することができ、背景画像Pbに対する被写体画像Pgの識別性を向上させることができる。さらに、例えば、被写体画像Pgを文字とした場合には、当該文字を発言内容やオノマトペとして付加した合成画像Pfを生成することができ、当該合成画像Pfの興趣性の向上を図ることができる。
【0083】
また、被写体画像Pg(被写体範囲Pr)のサイズに基づいて、当該被写体画像Pgに対する所定の加工の内容を変更したり、被写体画像Pgの色に基づいて、当該被写体画像Pgに対する所定の加工の色(例えば、ふきだし内の色等)を変更することによって、背景画像Pbに対する被写体画像Pgの識別性をさらに向上させることができる。
【0084】
また、背景画像Pbから検出された顔領域の位置に基づいて、背景画像Pbにおける所定の加工が施された被写体画像Pgの合成位置を決定するので、ユーザが所定操作に基づいて背景画像Pb内で被写体画像Pgの合成位置を指定する必要がなくなって、合成画像Pfの生成を簡便に行うことができる。
【0085】
なお、本発明は、上記実施形態に限定されることなく、本発明の趣旨を逸脱しない範囲において、種々の改良並びに設計の変更を行っても良い。
例えば、被写体存在画像P1として一枚の静止画像データを例示したが、連続撮像された所定枚数の被写体存在画像P1であっても良いし、所定の記録方式(例えば、Motion−JPEG形式や、MPEG形式等)により撮像された被写体存在画像P1の動画像であっても良い。
【0086】
また、上記実施形態にあっては、被写体加工処理(図2参照)のサブルーチンとして、被写体切り抜き処理(図3参照)、被写体範囲算出処理(図6参照)、ふきだし付加処理(図8参照)等を実行するようにしたが、これらの処理の各々は所定条件の成立を契機としてそれぞれ実行するような構成としても良い。
【0087】
さらに、撮像装置100の構成は、上記実施形態に例示したものは一例であり、これに限られるものではない。即ち、画像合成装置として、撮像装置100を例示したが、これに限られるものではい。例えば、被写体存在画像P1の撮像や当該被写体存在画像P1の画像データの生成は、当該撮像装置100とは異なる撮像装置(図示略)にて行い、この撮像装置から転送された画像データのみを記録して、上記の画像合成に係る各種処理を実行する構成でも良い。
また、被写体画像Pg(被写体範囲Pr)のサイズ及び被写体画像Pgの色のうち、何れか一方に基づいて、当該被写体画像Pgに所定の加工を施すような構成としても良い。
【0088】
加えて、上記実施形態にあっては、背景取得手段、前景取得手段、判定手段、寸法算出手段、加工手段、合成手段としての機能を、画像処理部6の画像取得部6a、切抜画像生成部6g、加工処理部6i、寸法算出部6h、画像合成部6lが駆動することにより実現される構成としたが、これに限られるものではなく、中央制御部11のCPUによって所定のプログラム等が実行されることにより実現される構成としても良い。
即ち、撮像装置100のプログラムを記憶するプログラムメモリ(図示略)に、背景取得処理ルーチン、前景取得処理ルーチン、判定処理ルーチン、加工処理ルーチン、合成処理ルーチンを含むプログラムを記憶しておく。そして、背景取得処理ルーチンにより中央制御部11のCPUを、背景画像Pbを取得する背景取得手段として機能させるようにしても良い。また、前景取得処理ルーチンにより中央制御部11のCPUを、前景画像を取得する前景取得手段として機能させるようにしても良い。また、判定処理ルーチンにより中央制御部11のCPUを、画像取得手段により取得された前記前景画像の色を判定する判定手段として機能させるようにしても良い。また、加工処理ルーチンにより中央制御部11のCPUを、判定手段によって判定された色に基づいて、前景画像に対して所定の加工を施す加工手段として機能させるようにしても良い。また、合成処理ルーチンにより中央制御部11のCPUを、加工手段により所定の加工が施された前景画像と背景画像Pbとを合成して合成画像Pfを生成する合成手段として機能させるようにしても良い。
また、同様に、撮像装置100のプログラムを記憶するプログラムメモリ(図示略)に、上記の背景取得処理ルーチン、前景取得処理ルーチン及び合成処理ルーチンに加えて、寸法算出処理ルーチン、加工処理ルーチンを含むプログラムを記憶しておく。そして、寸法算出処理ルーチンにより中央制御部11のCPUを、前景取得手段により取得された前景画像の寸法を算出する寸法算出手段として機能させるようにしても良い。また、加工処理ルーチンにより中央制御部11のCPUを、寸法算出手段により算出された前景画像の寸法に基づいて、この前景画像に所定の加工を施す加工手段として機能させるようにしても良い。
【0089】
同様に、検出手段、決定手段についても、中央制御部11のCPUによって所定のプログラム等が実行されることにより実現される構成としても良い。
【0090】
さらに、上記の各処理を実行するためのプログラムを格納したコンピュータ読み取り可能な媒体として、ROMやハードディスク等の他、フラッシュメモリ等の不揮発性メモリ、CD−ROM等の可搬型記録媒体を適用することも可能である。また、プログラムのデータを所定の通信回線を介して提供する媒体としては、キャリアウェーブ(搬送波)も適用される。
【符号の説明】
【0091】
100 撮像装置
1 レンズ部
2 電子撮像部
3 撮像制御部
6 画像処理部
6a 画像取得部
6g 切抜画像生成部
6h 寸法算出部
6i 加工処理部
6j 顔検出部
6k 合成位置決定部
6l 画像合成部
11 中央制御部
【特許請求の範囲】
【請求項1】
背景画像を取得する背景取得手段と、
前景画像を取得する前景取得手段と、
この前景取得手段により取得された前記前景画像の色を判定する判定手段と、
この判定手段によって判定された前記前景画像の色に基づいて、前記前景画像に対して所定の加工を施す加工手段と、
この加工手段により前記所定の加工が施された前景画像と前記背景画像とを合成して合成画像を生成する合成手段と、
を備えたことを特徴とする画像合成装置。
【請求項2】
前記前景画像の寸法を算出する寸法算出手段を更に備え、
前記加工手段は、前記寸法算出手段により算出された前記前景画像の寸法に基づいて、前記所定の加工の内容を変更することを特徴とする請求項1に記載の画像合成装置。
【請求項3】
背景画像を取得する背景取得手段と、
前景画像を取得する前景取得手段と、
この前景取得手段により取得された前記前景画像の寸法を算出する寸法算出手段と、
この寸法算出手段により算出された前記前景画像の寸法に基づいて、この前景画像に所定の加工を施す加工手段と、
この加工手段により前記所定の加工が施された前景画像と前記背景画像とを合成して合成画像を生成する合成手段と、
を備えたことを特徴とする画像合成装置。
【請求項4】
前記背景画像から特定領域を検出する検出手段と、
この検出手段により検出された特定領域の位置に基づいて、前記背景画像における前記所定の加工が施された前景画像の合成位置を決定する決定手段とを更に備えることを特徴とする請求項1〜3の何れか一項に記載の画像合成装置。
【請求項5】
前記加工手段は、前記所定の加工として、前記前景画像を所定形状のふきだし画像に合成する処理を施し、
前記合成手段は、前記所定形状のふきだし画像に合成した前景画像を前記背景画像に合成して合成画像を生成することを特徴とする請求項1〜4の何れか一項に記載の画像合成装置。
【請求項6】
画像合成装置を用いた画像合成方法であって、
背景画像を取得する処理と、
前景画像を取得する処理と、
取得された前記前景画像の色を判定する処理と、
判定された前記前景画像の色に基づいて、前記前景画像に対して所定の加工を施す加工処理と、
前記所定の加工が施された前景画像と前記背景画像とを合成して合成画像を生成する処理と、
を備えたことを特徴とする画像合成方法。
【請求項7】
画像合成装置を用いた画像合成方法であって、
背景画像を取得する処理と、
前景画像を取得する処理と、
取得された前記前景画像の寸法を算出する処理と、
算出された前記前景画像の寸法に基づいて、この前景画像に所定の加工を施す処理と、
前記所定の加工が施された前景画像と前記背景画像とを合成して合成画像を生成する合成処理と、
を備えたことを特徴とする画像合成方法。
【請求項8】
画像合成装置のコンピュータを、
背景画像を取得する背景取得手段、
前景画像を取得する前景取得手段、
この前景取得手段により取得された前記前景画像の色を判定する判定手段、
この判定手段によって判定された前記前景画像の色に基づいて、前記前景画像に対して所定の加工を施す加工手段、
この加工手段により前記所定の加工が施された前景画像と前記背景画像とを合成して合成画像を生成する合成手段、
として機能させることを特徴とするプログラム。
【請求項9】
画像合成装置のコンピュータを、
背景画像を取得する背景取得手段、
前景画像を取得する前景取得手段、
この前景取得手段により取得された前記前景画像の寸法を算出する寸法算出手段、
この寸法算出手段により算出された前記前景画像の寸法に基づいて、この前景画像に所定の加工を施す加工手段、
この加工手段により前記所定の加工が施された前景画像と前記背景画像とを合成して合成画像を生成する合成手段、
として機能させることを特徴とするプログラム。
【請求項1】
背景画像を取得する背景取得手段と、
前景画像を取得する前景取得手段と、
この前景取得手段により取得された前記前景画像の色を判定する判定手段と、
この判定手段によって判定された前記前景画像の色に基づいて、前記前景画像に対して所定の加工を施す加工手段と、
この加工手段により前記所定の加工が施された前景画像と前記背景画像とを合成して合成画像を生成する合成手段と、
を備えたことを特徴とする画像合成装置。
【請求項2】
前記前景画像の寸法を算出する寸法算出手段を更に備え、
前記加工手段は、前記寸法算出手段により算出された前記前景画像の寸法に基づいて、前記所定の加工の内容を変更することを特徴とする請求項1に記載の画像合成装置。
【請求項3】
背景画像を取得する背景取得手段と、
前景画像を取得する前景取得手段と、
この前景取得手段により取得された前記前景画像の寸法を算出する寸法算出手段と、
この寸法算出手段により算出された前記前景画像の寸法に基づいて、この前景画像に所定の加工を施す加工手段と、
この加工手段により前記所定の加工が施された前景画像と前記背景画像とを合成して合成画像を生成する合成手段と、
を備えたことを特徴とする画像合成装置。
【請求項4】
前記背景画像から特定領域を検出する検出手段と、
この検出手段により検出された特定領域の位置に基づいて、前記背景画像における前記所定の加工が施された前景画像の合成位置を決定する決定手段とを更に備えることを特徴とする請求項1〜3の何れか一項に記載の画像合成装置。
【請求項5】
前記加工手段は、前記所定の加工として、前記前景画像を所定形状のふきだし画像に合成する処理を施し、
前記合成手段は、前記所定形状のふきだし画像に合成した前景画像を前記背景画像に合成して合成画像を生成することを特徴とする請求項1〜4の何れか一項に記載の画像合成装置。
【請求項6】
画像合成装置を用いた画像合成方法であって、
背景画像を取得する処理と、
前景画像を取得する処理と、
取得された前記前景画像の色を判定する処理と、
判定された前記前景画像の色に基づいて、前記前景画像に対して所定の加工を施す加工処理と、
前記所定の加工が施された前景画像と前記背景画像とを合成して合成画像を生成する処理と、
を備えたことを特徴とする画像合成方法。
【請求項7】
画像合成装置を用いた画像合成方法であって、
背景画像を取得する処理と、
前景画像を取得する処理と、
取得された前記前景画像の寸法を算出する処理と、
算出された前記前景画像の寸法に基づいて、この前景画像に所定の加工を施す処理と、
前記所定の加工が施された前景画像と前記背景画像とを合成して合成画像を生成する合成処理と、
を備えたことを特徴とする画像合成方法。
【請求項8】
画像合成装置のコンピュータを、
背景画像を取得する背景取得手段、
前景画像を取得する前景取得手段、
この前景取得手段により取得された前記前景画像の色を判定する判定手段、
この判定手段によって判定された前記前景画像の色に基づいて、前記前景画像に対して所定の加工を施す加工手段、
この加工手段により前記所定の加工が施された前景画像と前記背景画像とを合成して合成画像を生成する合成手段、
として機能させることを特徴とするプログラム。
【請求項9】
画像合成装置のコンピュータを、
背景画像を取得する背景取得手段、
前景画像を取得する前景取得手段、
この前景取得手段により取得された前記前景画像の寸法を算出する寸法算出手段、
この寸法算出手段により算出された前記前景画像の寸法に基づいて、この前景画像に所定の加工を施す加工手段、
この加工手段により前記所定の加工が施された前景画像と前記背景画像とを合成して合成画像を生成する合成手段、
として機能させることを特徴とするプログラム。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【公開番号】特開2012−65002(P2012−65002A)
【公開日】平成24年3月29日(2012.3.29)
【国際特許分類】
【出願番号】特願2010−205302(P2010−205302)
【出願日】平成22年9月14日(2010.9.14)
【出願人】(000001443)カシオ計算機株式会社 (8,748)
【Fターム(参考)】
【公開日】平成24年3月29日(2012.3.29)
【国際特許分類】
【出願日】平成22年9月14日(2010.9.14)
【出願人】(000001443)カシオ計算機株式会社 (8,748)
【Fターム(参考)】
[ Back to top ]