画像処理装置
【解決手段】CPU26は、シャッタボタン28shの全押しを起点とする8フレーム期間に生成された8フレームの画像データをSDRAM32の静止画像エリアに取り込み、同じ8フレーム期間に被写界に現れた移動体を静止画像エリアに取り込まれた8フレームの画像データに基づいて検出する。CPU26はまた、検出された移動体の背景を表す背景画像データを静止画像エリアに取り込まれた8フレームの画像データに基づいて作成し、作成された背景画像データを被写界から検出された移動体の動きに応じて異なる縮小態様で縮小し、そして縮小された画像データを縮小態様と逆の態様で拡大する。CPU26はさらに、被写界から検出された移動体を表す移動体画像データを拡大された画像データに合成する。
【効果】移動体の動きが強調された合成画像の作成に掛かる負荷を低減できる。
【効果】移動体の動きが強調された合成画像の作成に掛かる負荷を低減できる。
【発明の詳細な説明】
【技術分野】
【0001】
この発明は、画像処理装置に関し、特に指定期間に属する複数のタイミングに対応する複数の被写界像に基づいて合成画像を作成する、画像処理装置に関する。
【背景技術】
【0002】
この種の装置の一例が、特許文献1に開示されている。この背景技術によれば、移動体の移動方向および移動量が、移動体と背景とを含むデジタル写真画像に基づいて検出される。背景画像データは検出された移動方向および移動量に基づいてブレ付加処理を施され、移動体画像データはブレ修正処理を施される。処理後の背景画像データおよび移動体画像データはその後、互いに加算される。この結果、流し撮りの写真画像と同様の効果を有するデジタル写真画像が得られる。
【先行技術文献】
【特許文献】
【0003】
【特許文献1】特開2006−50070号公報
【発明の概要】
【発明が解決しようとする課題】
【0004】
しかし、背景技術では、背景画像データにブレを付加するにあたって、ボケマスクフィルタを施す処理や、フィルタ処理後の画像を移動体の移動方向に複数回ずらす処理などの複雑な処理が必要となる。
【0005】
それゆえに、この発明の主たる目的は、移動体の動きが強調された合成画像の作成に掛かる負荷を低減できる、画像処理装置を提供することである。
【課題を解決するための手段】
【0006】
この発明に従う画像処理装置(10:実施例で相当する参照符号。以下同じ)は、指定期間に属する複数のタイミングにそれぞれ対応する複数の被写界像を取り込む取り込み手段(S31~S37)、指定期間に被写界に現れた移動体を取り込み手段によって取り込まれた複数の被写界像に基づいて検出する検出手段(S41, S77)、検出手段によって検出された移動体の背景を表す背景画像を取り込み手段によって取り込まれた複数の被写界像に基づいて作成する作成手段(S53, S71~S73)、作成手段によって作成された背景画像を検出手段によって検出された移動体の動きに応じて異なる縮小態様で縮小する縮小手段(S45, S55~S59, S65, S83)、縮小手段によって作成された縮小画像を縮小手段によって参照された縮小態様と逆の態様で拡大する拡大手段(S61~S63, S67)、および検出手段によって検出された移動体を表す物体像を拡大手段によって作成された拡大画像に合成する合成手段(S43, S51, S69, S71)を備える。
【0007】
好ましくは、縮小手段は、移動体の動き量に応じて異なる縮小係数を算出する縮小係数算出手段(S45, S55, S59, S83)、および縮小係数算出手段によって算出された縮小係数を参照して背景画像を縮小する画像縮小手段(S65)を含む。
【0008】
或る局面では、縮小手段は移動体の動き方向に相当する方向を縮小方向として決定する決定手段(S57)をさらに含む。
【0009】
他の局面では、拡大手段は、縮小係数の逆数を算出する逆数算出手段(S63)、および逆数算出手段によって算出された逆数を参照して縮小画像を拡大する画像拡大手段(S67)を含む。
【0010】
好ましくは、取り込み指示を受け付ける受け付け手段(S11)、および取り込み指示に応答して指定期間を定義する定義手段(S35)がさらに備えられる。
【0011】
好ましくは、被写界を捉える撮像面を有する撮像手段(16)がさらに備えられ、取り込み手段によって取り込まれる被写界像は撮像手段の出力の少なくとも一部に相当する。
【0012】
この発明に従う画像合成プログラムは、画像処理装置(10)に設けられたプロセッサ(26)に、指定期間に属する複数のタイミングにそれぞれ対応する複数の被写界像を取り込む取り込みステップ(S31~S37)、指定期間に被写界に現れた移動体を取り込みステップによって取り込まれた複数の被写界像に基づいて検出する検出ステップ(S41, S77)、検出ステップによって検出された移動体の背景を表す背景画像を取り込みステップによって取り込まれた複数の被写界像に基づいて作成する作成ステップ(S53, S71~S73)、作成ステップによって作成された背景画像を検出ステップによって検出された移動体の動きに応じて異なる縮小態様で縮小する縮小ステップ(S45, S55~S59, S65, S83)、縮小ステップによって作成された縮小画像を縮小ステップによって参照された縮小態様と逆の態様で拡大する拡大ステップ(S61~S63, S67)、および検出ステップによって検出された移動体を表す物体像を拡大ステップによって作成された拡大画像に合成する合成ステップ(S43, S51, S69, S71)を実行させるための、画像合成プログラムである。
【0013】
この発明に従う画像合成方法は、画像処理装置(10)によって実行される画像合成方法であって、指定期間に属する複数のタイミングにそれぞれ対応する複数の被写界像を取り込む取り込みステップ(S31~S37)、指定期間に被写界に現れた移動体を取り込みステップによって取り込まれた複数の被写界像に基づいて検出する検出ステップ(S41, S77)、検出ステップによって検出された移動体の背景を表す背景画像を取り込みステップによって取り込まれた複数の被写界像に基づいて作成する作成ステップ(S53, S71~S73)、作成ステップによって作成された背景画像を検出ステップによって検出された移動体の動きに応じて異なる縮小態様で縮小する縮小ステップ(S45, S55~S59, S65, S83)、縮小ステップによって作成された縮小画像を縮小ステップによって参照された縮小態様と逆の態様で拡大する拡大ステップ(S61~S63, S67)、および検出ステップによって検出された移動体を表す物体像を拡大ステップによって作成された拡大画像に合成する合成ステップ(S43, S51, S69, S71)を備える。
【0014】
この発明に従う外部制御プログラムは、メモリ(44)に保存された内部制御プログラムに従う処理を実行するプロセッサ(26)を備える画像処理装置(10)に供給される外部制御プログラムであって、指定期間に属する複数のタイミングにそれぞれ対応する複数の被写界像を取り込む取り込みステップ(S31~S37)、指定期間に被写界に現れた移動体を取り込みステップによって取り込まれた複数の被写界像に基づいて検出する検出ステップ(S41, S77)、検出ステップによって検出された移動体の背景を表す背景画像を取り込みステップによって取り込まれた複数の被写界像に基づいて作成する作成ステップ(S53, S71~S73)、作成ステップによって作成された背景画像を検出ステップによって検出された移動体の動きに応じて異なる縮小態様で縮小する縮小ステップ(S45, S55~S59, S65, S83)、縮小ステップによって作成された縮小画像を縮小ステップによって参照された縮小態様と逆の態様で拡大する拡大ステップ(S61~S63, S67)、および検出ステップによって検出された移動体を表す物体像を拡大ステップによって作成された拡大画像に合成する合成ステップ(S43, S51, S69, S71)を内部制御プログラムと協働してプロセッサに実行させるための、外部制御プログラムである。
【0015】
この発明に従う画像処理装置(10)は、外部制御プログラムを取り込む取り込み手段(46)、および取り込み手段によって取り込まれた外部制御プログラムとメモリ(44)に保存された内部制御プログラムとに従う処理を実行するプロセッサ(26)を備える画像処理装置(10)であって、外部制御プログラムは、指定期間に属する複数のタイミングにそれぞれ対応する複数の被写界像を取り込む取り込みステップ(S31~S37)、指定期間に被写界に現れた移動体を取り込みステップによって取り込まれた複数の被写界像に基づいて検出する検出ステップ(S41, S77)、検出ステップによって検出された移動体の背景を表す背景画像を取り込みステップによって取り込まれた複数の被写界像に基づいて作成する作成ステップ(S53, S71~S73)、作成ステップによって作成された背景画像を検出ステップによって検出された移動体の動きに応じて異なる縮小態様で縮小する縮小ステップ(S45, S55~S59, S65, S83)、縮小ステップによって作成された縮小画像を縮小ステップによって参照された縮小態様と逆の態様で拡大する拡大ステップ(S61~S63, S67)、および検出ステップによって検出された移動体を表す物体像を拡大ステップによって作成された拡大画像に合成する合成ステップ(S43, S51, S69, S71)を内部制御プログラムと協働して実行するプログラムに相当する。
【発明の効果】
【0016】
この発明によれば、背景画像は、移動体の動きに応じて異なる縮小態様で縮小された後、この縮小態様の逆の態様で拡大される。縮小処理および拡大処理を施された背景画像は、移動体の動きが強調された画像となる。移動体を表す物体像は、こうして得られた背景画像に合成される。これによって、移動体の動きが強調された合成画像の作成に掛かる負荷が低減される。
【0017】
この発明の上述の目的,その他の目的,特徴および利点は、図面を参照して行う以下の実施例の詳細な説明から一層明らかとなろう。
【図面の簡単な説明】
【0018】
【図1】この発明の一実施例の基本的構成を示すブロック図である。
【図2】この発明の一実施例の構成を示すブロック図である。
【図3】図2実施例に適用されるSDRAMのマッピング状態の一例を示す図解図である。
【図4】撮像面における評価エリアの割り当て状態の一例を示す図解図である。
【図5】(A)は1フレーム目の画像データの一例を示す図解図であり、(B)は2フレーム目の画像データの一例を示す図解図であり、(C)は3フレーム目の画像データの一例を示す図解図であり、(D)は4フレーム目の画像データの一例を示す図解図であり、(E)は5フレーム目の画像データの一例を示す図解図であり、(F)は6フレーム目の画像データの一例を示す図解図であり、(G)は7フレーム目の画像データの一例を示す図解図であり、(H)は8フレーム目の画像データの一例を示す図解図である。
【図6】(A)は1フレーム目および2フレーム目の画像データに基づく動きエリアの設定状態の一例を示す図解図であり、(B)は2フレーム目および3フレーム目の画像データに基づく動きエリアの設定状態の一例を示す図解図であり、(C)は3フレーム目および4フレーム目の画像データに基づく動きエリアの設定状態の一例を示す図解図であり、(D)は4フレーム目および5フレーム目の画像データに基づく動きエリアの設定状態の一例を示す図解図である。
【図7】(A)は5フレーム目および6フレーム目の画像データに基づく動きエリアの設定状態の一例を示す図解図であり、(B)は6フレーム目および7フレーム目の画像データに基づく動きエリアの設定状態の一例を示す図解図であり、(C)は7フレーム目および8フレーム目の画像データに基づく動きエリアの設定状態の一例を示す図解図である。
【図8】動きベクトルの検出動作の一例を示す図解図である。
【図9】(A)は移動体画像データの一例を示す図解図であり、(B)は背景画像データの一例を示す図解図である。
【図10】(A)背景画像データに基づく縮小画像データの一例を示す図解図であり、(B)は縮小画像データに基づく拡大画像データの一例を示す図解図である。
【図11】流し撮り画像データの一例を示す図解図である。
【図12】図2実施例に適用されるCPUの動作の一部を示すフロー図である。
【図13】図2実施例に適用されるCPUの動作の他の一部を示すフロー図である。
【図14】図2実施例に適用されるCPUの動作のその他の一部を示すフロー図である。
【図15】図2実施例に適用されるCPUの動作のさらにその他の一部を示すフロー図である。
【図16】この発明の他の実施例に適用されるCPUの動作の一部を示す図解図である。
【図17】(A)は1フレーム目の画像データの一例を示す図解図であり、(B)は4フレーム目の画像データの一例を示す図解図であり、(C)はマスク画像データの一例を示す図解図であり、(D)は背景画像データの一例を示す図解図である。
【図18】この発明のその他の実施例の構成を示すブロック図である。
【発明を実施するための形態】
【0019】
以下、この発明の実施の形態を図面を参照しながら説明する。
[基本的構成]
【0020】
図1を参照して、この実施例の電子カメラは、基本的に次のように構成される。取り込み手段1は、指定期間に属する複数のタイミングにそれぞれ対応する複数の被写界像を取り込む。検出手段2は、指定期間に被写界に現れた移動体を取り込み手段1によって取り込まれた複数の被写界像に基づいて検出する。作成手段3は、検出手段2によって検出された移動体の背景を表す背景画像を取り込み手段1によって取り込まれた複数の被写界像に基づいて作成する。縮小手段4は、作成手段3によって作成された背景画像を検出手段2によって検出された移動体の動きに応じて異なる縮小態様で縮小する。拡大手段5は、縮小手段4によって作成された縮小画像を縮小手段4によって参照された縮小態様と逆の態様で拡大する。合成手段6は、検出手段2によって検出された移動体を表す物体像を拡大手段5によって作成された拡大画像に合成する。
【0021】
背景画像は、移動体の動きに応じて異なる縮小態様で縮小された後、この縮小態様の逆の態様で拡大される。縮小処理および拡大処理を施された背景画像は、移動体の動きが強調された画像となる。移動体を表す物体像は、こうして得られた背景画像に合成される。これによって、移動体の動きが強調された合成画像の作成に掛かる負荷が低減される。
[実施例]
【0022】
図2を参照して、この実施例のディジタルカメラ10は、ドライバ18aおよび18bによってそれぞれ駆動されるフォーカスレンズ12および絞りユニット14を含む。これらの部材を経た被写界の光学像は、イメージャ16の撮像面に照射され、光電変換を施される。これによって、被写界像を表す電荷が生成される。
【0023】
電源が投入されると、CPU26は、動画取り込み処理を実行するべく、撮像タスクの下で露光動作および電荷読み出し動作の繰り返しをドライバ18cに命令する。ドライバ18cは、図示しないSG(Signal Generator)から周期的に発生する垂直同期信号Vsyncに応答して、撮像面を露光し、かつ撮像面で生成された電荷をラスタ走査態様で読み出す。イメージャ16からは、読み出された電荷に基づく生画像データが周期的に出力される。
【0024】
前処理回路20は、イメージャ16から出力された生画像データにディジタルクランプ,画素欠陥補正,ゲイン制御などの処理を施す。これらの処理を施された生画像データは、メモリ制御回路30を通してSDRAM32の生画像エリア32a(図3参照)に書き込まれる。
【0025】
後処理回路34は、生画像エリア32aに格納された生画像データをメモリ制御回路30を通して読み出し、読み出された生画像データに色分離処理,白バランス調整処理およびYUV変換処理を施す。これによって生成されたYUV形式の画像データは、メモリ制御回路30によってSDRAM32のYUV画像エリア32b(図3参照)に書き込まれる。
【0026】
LCDドライバ36は、YUV画像エリア32bに格納された画像データをメモリ制御回路30を通して繰り返し読み出し、読み出された画像データに基づいてLCDモニタ38を駆動する。この結果、被写界のリアルタイム動画像(スルー画像)がモニタ画面に表示される。
【0027】
図4を参照して、撮像面の中央には評価エリアEVAが割り当てられる。評価エリアEVAは水平方向および垂直方向の各々において16分割され、256個の分割エリアが評価エリアEVAを形成する。また、図2に示す前処理回路20は、上述した処理に加えて、生画像データを簡易的にRGBデータに変換する簡易RGB変換処理を実行する。
【0028】
AE評価回路22は、前処理回路20によって生成されたRGBデータのうち評価エリアEVAに属するRGBデータを、垂直同期信号Vsyncが発生する毎に積分する。これによって、256個の積分値つまり256個のAE評価値が、垂直同期信号Vsyncに応答してAE評価回路22から出力される。AF評価回路24は、前処理回路20によって生成されたRGBデータのうち評価エリアEVAに属するRGBデータの高周波成分を、垂直同期信号Vsyncが発生する毎に積分する。これによって、256個の積分値つまり256個のAF評価値が、垂直同期信号Vsyncに応答してAF評価回路24から出力される。
【0029】
キー入力装置28に設けられたシャッタボタン28shが非操作状態にあるとき、CPU26は、AE評価回路22から出力された256個のAE評価値に基づいて簡易AE処理を実行し、適正EV値を算出する。算出された適正EV値を定義する絞り量および露光時間はドライバ18bおよび18cに設定され、これによってスルー画像の明るさが大まかに調整される。
【0030】
シャッタボタン28shが半押しされると、CPU26は、AE評価値を参照した厳格AE処理を実行し、最適EV値を算出する。算出された最適EV値を定義する絞り量および露光時間もまたドライバ18bおよび18cに設定され、これによってスルー画像の明るさが厳格に調整される。CPU26はまた、AF評価回路24から出力された256個のAF評価値に基づいてAF処理を実行する。フォーカスレンズ12は合焦点の探索のためにドライバ18aによって光軸方向に移動し、これによって発見された合焦点に配置される。この結果、スルー画像の鮮鋭度が向上する。
【0031】
撮像モードは、モード切換えスイッチ28mdによって通常モードおよび流し撮りモードの間で切り換えられる。
【0032】
通常モードが選択された状態でシャッタボタン28shが全押しされると、CPU26は、静止画取り込み処理を1回だけ実行する。この結果、シャッタボタン28shが全押しされた時点の被写界を表す1フレームの画像データがYUV画像エリア32bから静止画像エリア32c(図3参照)に退避される。
【0033】
流し撮りモードが選択された状態でシャッタボタン28shが全押しされると、CPU26は、その後に生成された連続8フレームの画像データを静止画像エリア32cに取り込み、取り込まれた8フレームの画像データに基づいて1フレームの流し撮り画像データを作成する。流し撮り画像データは、ワークエリア32d(図3参照)で作成され、その後に静止画像エリア32cに戻される。
【0034】
こうして1フレームの静止画像データまたは流し撮り画像データが得られると、CPU26は、記録処理を実行するべく、対応する命令をメモリI/F40に与える。メモリI/F40は、静止画像エリア32cに退避された1フレームの画像データまたは流し撮りデータをメモリ制御回路30を通して読み出し、読み出された画像データまたは流し撮りデータをファイル形式で記録媒体42に記録する。
【0035】
流し撮り画像データは、以下の要領で作成される。まず、合計8回の静止画取り込み処理が垂直同期信号Vsyncに応答して実行される。これによって、連続する8フレームの画像データが静止画像エリア32cに確保される。
【0036】
確保された8フレームの画像データは、たとえば図5(A)〜図5(H)に示す8つの被写界を表す。図5(A)〜図5(H)によれば、左右に延びる道路RD1とその奥に存在する郵便ポストPS1および家HS1とが被写界に現れる。自動車MC1は、8回の静止画取り込み処理が実行される期間に、被写界の左から右に移動する。
【0037】
8回の静止画取り込み処理が完了すると、変数Kが“1”〜“7”の各々に設定され、変数Lが“2”〜“8”の各々に設定される。変数KおよびLは同時に設定され、変数Lは常に“K+1”の値を示す。変数KおよびLが定義されると、第Kフレームの画像データと第Lフレームの画像データとの差分が検出され、検出された差分が有意な大きさを示すエリアが動きエリアMVAとして検出される。
【0038】
第Kフレームの画像データおよび第Lフレームの画像データは静止画像エリア32cからワークエリア32dに複製され、検出された動きエリアMVAに属する部分画像データは複製された第Kフレームの画像データおよび第Lフレームの画像データの各々から切り出される。第Kフレームおよび第Lフレームの間の動きを示す動きベクトルVC_KLは、切り出された部分画像データに基づいて算出される。
【0039】
上述の例では、動きエリアMVAは、1フレーム目の画像データと2フレーム目の画像データとに基づいて図6(A)に示す要領で検出され、2フレーム目の画像データと3フレーム目の画像データとに基づいて図6(B)に示す要領で検出され、3フレーム目の画像データと4フレーム目の画像データとに基づいて図6(C)に示す要領で検出され、そして4フレーム目の画像データと5フレーム目の画像データとに基づいて図6(D)に示す要領で検出される。
【0040】
動きエリアMVAはまた、5フレーム目の画像データと6フレーム目の画像データとに基づいて図7(A)に示す要領で検出され、6フレーム目の画像データと7フレーム目の画像データとに基づいて図7(B)に示す要領で検出され、そして7フレーム目の画像データと8フレーム目の画像データとに基づいて図7(C)に示す要領で検出される。
【0041】
切り出される部分画像データは、こうして検出された動きエリアMVAに属する画像データに相当する。また、切り出された部分画像データに基づいて算出される動きベクトルVC_12〜VC_78は、図8に示す方向および大きさを示す。
【0042】
動きベクトルVC_12〜VC_78が求められると、8回の静止画取り込み処理に相当する期間に被写界に現れた移動体を表す移動体画像データが、切り出された部分画像データに基づいて作成される。作成された移動体画像データは、ワークエリア32dに保持される。また、8回の静止画取り込み処理に相当する期間に被写界に現れた移動体の背景を表す背景画像データが、部分画像データの切り出しの後にワークエリア32dに残存する複数フレームの画像データに基づいて作成する。背景画像データもまた、ワークエリア32dに保持される。上述の例では、移動体画像データは図9(A)に示す要領で作成され、背景画像データは図9(B)に示す要領で作成される。
【0043】
移動体画像データおよび背景画像データがこうして作成されると、動きベクトルVC_12〜VC_78の平均に相当する平均動きベクトルが算出される。さらに、平均動きベクトルの方向が縮小方向として決定されるとともに、縮小係数が数1に従って算出される。数1によれば、縮小係数は定数αを平均動きベクトルの大きさで割り算した値に相当する。
[数1]
縮小係数=α/平均動きベクトルの大きさ
α:定数
【0044】
続いて、決定された縮小方向と逆の方向が拡大方向として決定され、数1に従って算出された縮小係数の逆数が拡大係数として決定される。
【0045】
背景画像データは、決定された縮小方向に縮小される。縮小の程度は、算出された縮小係数に従う。したがって、図9(B)に示す背景画像データは図10(A)に示す要領で縮小される。
【0046】
縮小画像データはその後、上述の要領で決定された拡大方向に拡大される。拡大の程度もまた、算出された拡大係数に従う。これによって、縮小/拡大方向において低減された解像度を有する低解像度背景画像データが得られる。図10(A)に示す縮小画像データを拡大したとき、低解像度背景画像データは図10(B)に示す要領で作成される。
【0047】
続いて、移動体画像データが低解像度背景画像データに合成され、これによって流し撮り画像データが完成する。図9(A)に示す移動体画像データおよび図10(B)に示す低解像度背景画像データに基づく場合、流し撮り画像データは図11に示す要領で作成される。完成した流し撮り画像データは、ワークエリア32dから静止画像エリア32cに戻される。
【0048】
CPU26は、図12〜図15に示す撮像タスクを含む複数のタスクをマルチタスクOSの制御の下で並列的に実行する。なお、これらのタスクに対応する制御プログラムは、フラッシュメモリ44に記憶される。
【0049】
図12を参照して、ステップS1では動画取込み処理を実行する。この結果、被写界を表すスルー画像がLCDモニタ38に表示される。ステップS3ではシャッタボタン28shが半押しされたか否かを判別し、判別結果がNOである限り、ステップS5で簡易AE処理を繰り返す。この結果、スルー画像の明るさが大まかに調整される。
【0050】
ステップS3の判別結果がNOからYESに更新されると、ステップS7で厳格AE処理を実行し、ステップS9でAF処理を実行する。スルー画像の明るさは厳格AE処理によって厳格に調整され、スルー画像の鮮鋭度はAF処理によって向上する。
【0051】
ステップS11ではシャッタボタン28shが全押しされたか否かを判別し、ステップS13ではシャッタボタン28shの操作が解除されたか否かを判別する。ステップS13でYESであればそのままステップS3に戻り、ステップS11でYESであればステップS15〜S21の処理を経てステップS3に戻る。
【0052】
ステップS15では、現時点の撮像モードが通常モードおよび流し撮りモードのいずれであるかを判別する。現時点の撮像モードが通常モードであれば、ステップS17で静止画取り込み処理を実行し、現時点の撮像モードが流し撮りモードであれば、ステップS19で流し撮り処理を実行する。
【0053】
ステップS17の静止画取り込み処理の結果、シャッタボタン28shが全押しされた時点の被写界を表す1フレームの画像データがYUV画像エリア32bから静止画像エリア32cに退避される。ステップS19の流し撮りの結果、シャッタボタン28shの全押しの後に作成された8フレームの画像データがYUV画像エリア32bから静止画像エリア32bに退避され、退避された8フレームの画像データに基づいて1フレームの流し撮り画像データが作成される。流し撮り画像データの作成処理はワークエリア32d上で実行され、完成した流し撮り画像データは静止画像エリア32cに戻される。
【0054】
ステップS17またはS19の処理が完了すると、ステップS21で記録処理を実行するべく、対応する命令をメモリI/F40に与える。メモリI/F40は、静止画像エリア32cに格納された1フレームの画像データまたは流し撮りデータをメモリ制御回路30を通して読み出し、読み出された画像データまたは流し撮りデータをファイル形式で記録媒体42に記録する。
【0055】
ステップS19の流し撮り処理は、図13〜図15に示すサブルーチンに従って実行される。
【0056】
まず、ステップS31でフレーム番号に相当する変数Kを“1”に設定する。ステップS33では、上述したステップS17と同様の静止画取り込み処理を垂直同期信号Vsyncの発生を待って実行する。ステップS35では変数Kが“8”に達したか否かを判別し、判別結果がNOであればステップS37で変数KをインクリメントしてからステップS33に戻る一方、判別結果がYESであればステップS39以降の処理に進む。したがって、ステップS33の静止画取込処理は垂直同期信号Vsyncに応答して合計8回実行され、連続する8フレームの画像データが静止画像エリア32cに確保される。
【0057】
ステップS39では、変数KおよびLをそれぞれ“1”および“2”に設定する。ステップS41では、第Kフレームの画像データと第Lフレームの画像データとの差分を検出し、検出された差分が有意な大きさを示すエリアを動きエリアMVAとして検出する。ステップS43では、第Kフレームの画像データおよび第Lフレームの画像データを静止画像エリア32cからワークエリア32dに複製し、ステップS41で検出された動きエリアMVAに属する部分画像データを複製された第Kフレームの画像データおよび第Lフレームの画像データの各々から切り出す。
【0058】
ステップS45では、第Kフレームおよび第Lフレームの間の動きを示す動きベクトルVC_KLを切り出された部分画像データに基づいて算出する。ステップS47では変数Kが“7”に達したか否かを判別し、判別結果がNOであれば、ステップS49で変数KおよびLをインクリメントしてからステップS41に戻る。
【0059】
変数KおよびLは、連続する2つの数値を示しかつ“1”ずつ更新される。このため、第1フレームおよび第8フレームの各々については単一の動きエリアが検出される一方、第2フレーム〜第7フレームの各々については2つの動きエリアが検出される。この結果、合計14個の部分画像に相当する部分画像データがステップS43の処理によって切り出される。
【0060】
ステップS47の判別結果がYESであれば、ステップS51に進む。ステップS51では、合計8回の静止画取り込み処理に相当する期間に被写界に現れた移動体を表す移動体画像データを、上述の要領で切り出された部分画像データに基づいて作成する。ステップS53では、合計8回の静止画取り込み処理に相当する期間に被写界に現れた移動体の背景を表す背景画像データを、ステップS43の切り出し処理の後に残存する14フレームの画像データに基づいて作成する。こうして作成された移動体画像データおよび背景画像データもまた、ワークエリア32dに保持される。
【0061】
ステップS55では、ステップS45で算出された動きベクトルVC_12〜VC_78の平均に相当する平均動きベクトルを算出する。ステップS57では算出された平均動きベクトルの方向を縮小方向として決定し、ステップS59では上述した数1に従って縮小係数を算出する。ステップS61ではステップS57で決定された縮小方向と逆の方向を拡大方向として決定し、ステップS63ではステップS59で算出された縮小係数の逆数を拡大係数として決定する。
【0062】
ステップS65では、ステップS53で作成された背景画像データをステップS57で決定された方向に縮小する。縮小の程度は、ステップS59で算出された縮小係数に従う。ステップS67では、ステップS65の処理によって作成された縮小画像データをステップS61で決定された方向に拡大する。拡大の程度は、ステップS63で算出された拡大係数に従う。これによって、縮小/拡大方向において低減された解像度を有する低解像度背景画像データが完成する。
【0063】
ステップS69では、ステップS51で作成された移動体画像データをステップS67で作成された低解像度背景画像データに合成し、これによって作成された流し撮り画像データをワークエリア32dから静止画像エリア32cに戻す。ステップS69の処理が完了すると、上階層のルーチンに復帰する。
【0064】
以上の説明から分かるように、CPU26は、シャッタボタン28shの全押しを起点とする8フレーム期間(=指定期間)に生成された8フレームの画像データをSDRAM32の静止画像エリア32c取り込み(S31~S37)、同じ8フレーム期間に被写界に現れた移動体を静止画像エリア32cに取り込まれた8フレームの画像データに基づいて検出する(S41)。CPU26はまた、検出された移動体の背景を表す背景画像データを静止画像エリア32cに取り込まれた8フレームの画像データに基づいて作成し(S53)、作成された背景画像データを被写界から検出された移動体の動きに応じて異なる縮小態様で縮小し(S45, S55~S59, S65)、そして縮小された画像データを縮小態様と逆の態様で拡大する(S61~S63, S67)。CPU26はさらに、被写界から検出された移動体を表す移動体画像データを拡大された画像データつまり低解像度背景画像データに合成する(S43, S51, S69)。
【0065】
このように、背景画像データは、移動体の動きに応じて異なる縮小態様で縮小された後、この縮小態様の逆の態様で拡大される。縮小処理および拡大処理を施された背景画像データは、移動体の動きが強調された画像となる。移動体画像データは、こうして得られた低解像度画像データに合成される。これによって、移動体の動きが強調された合成画像の作成に掛かる負荷が低減される。
【0066】
なお、この実施例では、連続する2フレームの画像データの差分に基づいて動きエリアMVAを検出し、検出した動きエリアに属する画像に基づいて移動体画像データを作成するとともに、検出した動きエリア以外の画像に基づいて静止画像データを作成するようにしている。さらに、平均動きベクトルは、動きエリアに属する部分画像に基づいて作成される。しかし、図13および図14に示すステップS39〜S55の処理に代えて図16に示すステップS71〜S85の処理を実行し、これによって移動体画像データ,背景画像データおよび平均動きベクトルを作成するようにしてもよい。
【0067】
図16を参照して、ステップS71では1フレーム目の画像データと4フレーム目の画像データとの差分を算出してマスク画像データを作成する。1フレーム目の画像データが図17(A)に示す被写界を表し、4フレーム目の画像データが図17(B)に示す被写界を表す場合、マスク画像データは図17(C)に示す要領で作成される。
【0068】
ステップS73では、作成されたマスク画像データの位置に対応する一部の画像データを8フレーム目の画像データから切り出し、切り出された画像データをマスク画像データの位置に対応して1フレーム目の画像データに貼り付ける。これによって、背景画像データが図17(D)に示す要領で作成される。
【0069】
ステップS75では変数Kを“1”に設定し、ステップS77では第Kフレームの画像データから動きを示す部分画像データを切り出す。切り出しにあたっては、ステップS73で作成された背景画像データが参照される。ステップS79では変数Kが“8”に達したか否かを判別し、判別結果がNOであればステップS81で変数KをインクリメントしてからステップS77に戻る一方、判別結果がYESであればステップS83に進む。
【0070】
ステップS83では、ステップS77の切り出しの後に残存する画像データに基づいて、移動体の平均動きベクトルを算出する。ステップS85では、切り出した部分画像データに基づいて、移動体画像データを作成する。
【0071】
また、この実施例では、マルチタスクOSおよびこれによって実行される複数のタスクに相当する制御プログラムは、フラッシュメモリ44に予め記憶される。しかし、図18に示すように通信I/F46をディジタルカメラ10に設け、一部の制御プログラムを内部制御プログラムとしてフラッシュメモリ44に当初から準備する一方、他の一部の制御プログラムを外部制御プログラムとして外部サーバから取得するようにしてもよい。この場合、上述の動作は、内部制御プログラムおよび外部制御プログラムの協働によって実現される。
【0072】
また、この実施例では、CPU26によって実行される処理を上述の要領で複数のタスクに区分するようにしている。しかし、各々のタスクをさらに複数の小タスクに区分してもよく、さらには区分された複数の小タスクの一部を他のタスクに統合するようにしてもよい。また、各々のタスクを複数の小タスクに区分する場合、その全部または一部を外部サーバから取得するようにしてもよい。
【符号の説明】
【0073】
10 …ディジタルカメラ
16 …イメージャ
20 …前処理回路
22 …AE評価回路
24 …AF評価回路
26 …CPU
32 …SDRAM
34 …後処理回路
【技術分野】
【0001】
この発明は、画像処理装置に関し、特に指定期間に属する複数のタイミングに対応する複数の被写界像に基づいて合成画像を作成する、画像処理装置に関する。
【背景技術】
【0002】
この種の装置の一例が、特許文献1に開示されている。この背景技術によれば、移動体の移動方向および移動量が、移動体と背景とを含むデジタル写真画像に基づいて検出される。背景画像データは検出された移動方向および移動量に基づいてブレ付加処理を施され、移動体画像データはブレ修正処理を施される。処理後の背景画像データおよび移動体画像データはその後、互いに加算される。この結果、流し撮りの写真画像と同様の効果を有するデジタル写真画像が得られる。
【先行技術文献】
【特許文献】
【0003】
【特許文献1】特開2006−50070号公報
【発明の概要】
【発明が解決しようとする課題】
【0004】
しかし、背景技術では、背景画像データにブレを付加するにあたって、ボケマスクフィルタを施す処理や、フィルタ処理後の画像を移動体の移動方向に複数回ずらす処理などの複雑な処理が必要となる。
【0005】
それゆえに、この発明の主たる目的は、移動体の動きが強調された合成画像の作成に掛かる負荷を低減できる、画像処理装置を提供することである。
【課題を解決するための手段】
【0006】
この発明に従う画像処理装置(10:実施例で相当する参照符号。以下同じ)は、指定期間に属する複数のタイミングにそれぞれ対応する複数の被写界像を取り込む取り込み手段(S31~S37)、指定期間に被写界に現れた移動体を取り込み手段によって取り込まれた複数の被写界像に基づいて検出する検出手段(S41, S77)、検出手段によって検出された移動体の背景を表す背景画像を取り込み手段によって取り込まれた複数の被写界像に基づいて作成する作成手段(S53, S71~S73)、作成手段によって作成された背景画像を検出手段によって検出された移動体の動きに応じて異なる縮小態様で縮小する縮小手段(S45, S55~S59, S65, S83)、縮小手段によって作成された縮小画像を縮小手段によって参照された縮小態様と逆の態様で拡大する拡大手段(S61~S63, S67)、および検出手段によって検出された移動体を表す物体像を拡大手段によって作成された拡大画像に合成する合成手段(S43, S51, S69, S71)を備える。
【0007】
好ましくは、縮小手段は、移動体の動き量に応じて異なる縮小係数を算出する縮小係数算出手段(S45, S55, S59, S83)、および縮小係数算出手段によって算出された縮小係数を参照して背景画像を縮小する画像縮小手段(S65)を含む。
【0008】
或る局面では、縮小手段は移動体の動き方向に相当する方向を縮小方向として決定する決定手段(S57)をさらに含む。
【0009】
他の局面では、拡大手段は、縮小係数の逆数を算出する逆数算出手段(S63)、および逆数算出手段によって算出された逆数を参照して縮小画像を拡大する画像拡大手段(S67)を含む。
【0010】
好ましくは、取り込み指示を受け付ける受け付け手段(S11)、および取り込み指示に応答して指定期間を定義する定義手段(S35)がさらに備えられる。
【0011】
好ましくは、被写界を捉える撮像面を有する撮像手段(16)がさらに備えられ、取り込み手段によって取り込まれる被写界像は撮像手段の出力の少なくとも一部に相当する。
【0012】
この発明に従う画像合成プログラムは、画像処理装置(10)に設けられたプロセッサ(26)に、指定期間に属する複数のタイミングにそれぞれ対応する複数の被写界像を取り込む取り込みステップ(S31~S37)、指定期間に被写界に現れた移動体を取り込みステップによって取り込まれた複数の被写界像に基づいて検出する検出ステップ(S41, S77)、検出ステップによって検出された移動体の背景を表す背景画像を取り込みステップによって取り込まれた複数の被写界像に基づいて作成する作成ステップ(S53, S71~S73)、作成ステップによって作成された背景画像を検出ステップによって検出された移動体の動きに応じて異なる縮小態様で縮小する縮小ステップ(S45, S55~S59, S65, S83)、縮小ステップによって作成された縮小画像を縮小ステップによって参照された縮小態様と逆の態様で拡大する拡大ステップ(S61~S63, S67)、および検出ステップによって検出された移動体を表す物体像を拡大ステップによって作成された拡大画像に合成する合成ステップ(S43, S51, S69, S71)を実行させるための、画像合成プログラムである。
【0013】
この発明に従う画像合成方法は、画像処理装置(10)によって実行される画像合成方法であって、指定期間に属する複数のタイミングにそれぞれ対応する複数の被写界像を取り込む取り込みステップ(S31~S37)、指定期間に被写界に現れた移動体を取り込みステップによって取り込まれた複数の被写界像に基づいて検出する検出ステップ(S41, S77)、検出ステップによって検出された移動体の背景を表す背景画像を取り込みステップによって取り込まれた複数の被写界像に基づいて作成する作成ステップ(S53, S71~S73)、作成ステップによって作成された背景画像を検出ステップによって検出された移動体の動きに応じて異なる縮小態様で縮小する縮小ステップ(S45, S55~S59, S65, S83)、縮小ステップによって作成された縮小画像を縮小ステップによって参照された縮小態様と逆の態様で拡大する拡大ステップ(S61~S63, S67)、および検出ステップによって検出された移動体を表す物体像を拡大ステップによって作成された拡大画像に合成する合成ステップ(S43, S51, S69, S71)を備える。
【0014】
この発明に従う外部制御プログラムは、メモリ(44)に保存された内部制御プログラムに従う処理を実行するプロセッサ(26)を備える画像処理装置(10)に供給される外部制御プログラムであって、指定期間に属する複数のタイミングにそれぞれ対応する複数の被写界像を取り込む取り込みステップ(S31~S37)、指定期間に被写界に現れた移動体を取り込みステップによって取り込まれた複数の被写界像に基づいて検出する検出ステップ(S41, S77)、検出ステップによって検出された移動体の背景を表す背景画像を取り込みステップによって取り込まれた複数の被写界像に基づいて作成する作成ステップ(S53, S71~S73)、作成ステップによって作成された背景画像を検出ステップによって検出された移動体の動きに応じて異なる縮小態様で縮小する縮小ステップ(S45, S55~S59, S65, S83)、縮小ステップによって作成された縮小画像を縮小ステップによって参照された縮小態様と逆の態様で拡大する拡大ステップ(S61~S63, S67)、および検出ステップによって検出された移動体を表す物体像を拡大ステップによって作成された拡大画像に合成する合成ステップ(S43, S51, S69, S71)を内部制御プログラムと協働してプロセッサに実行させるための、外部制御プログラムである。
【0015】
この発明に従う画像処理装置(10)は、外部制御プログラムを取り込む取り込み手段(46)、および取り込み手段によって取り込まれた外部制御プログラムとメモリ(44)に保存された内部制御プログラムとに従う処理を実行するプロセッサ(26)を備える画像処理装置(10)であって、外部制御プログラムは、指定期間に属する複数のタイミングにそれぞれ対応する複数の被写界像を取り込む取り込みステップ(S31~S37)、指定期間に被写界に現れた移動体を取り込みステップによって取り込まれた複数の被写界像に基づいて検出する検出ステップ(S41, S77)、検出ステップによって検出された移動体の背景を表す背景画像を取り込みステップによって取り込まれた複数の被写界像に基づいて作成する作成ステップ(S53, S71~S73)、作成ステップによって作成された背景画像を検出ステップによって検出された移動体の動きに応じて異なる縮小態様で縮小する縮小ステップ(S45, S55~S59, S65, S83)、縮小ステップによって作成された縮小画像を縮小ステップによって参照された縮小態様と逆の態様で拡大する拡大ステップ(S61~S63, S67)、および検出ステップによって検出された移動体を表す物体像を拡大ステップによって作成された拡大画像に合成する合成ステップ(S43, S51, S69, S71)を内部制御プログラムと協働して実行するプログラムに相当する。
【発明の効果】
【0016】
この発明によれば、背景画像は、移動体の動きに応じて異なる縮小態様で縮小された後、この縮小態様の逆の態様で拡大される。縮小処理および拡大処理を施された背景画像は、移動体の動きが強調された画像となる。移動体を表す物体像は、こうして得られた背景画像に合成される。これによって、移動体の動きが強調された合成画像の作成に掛かる負荷が低減される。
【0017】
この発明の上述の目的,その他の目的,特徴および利点は、図面を参照して行う以下の実施例の詳細な説明から一層明らかとなろう。
【図面の簡単な説明】
【0018】
【図1】この発明の一実施例の基本的構成を示すブロック図である。
【図2】この発明の一実施例の構成を示すブロック図である。
【図3】図2実施例に適用されるSDRAMのマッピング状態の一例を示す図解図である。
【図4】撮像面における評価エリアの割り当て状態の一例を示す図解図である。
【図5】(A)は1フレーム目の画像データの一例を示す図解図であり、(B)は2フレーム目の画像データの一例を示す図解図であり、(C)は3フレーム目の画像データの一例を示す図解図であり、(D)は4フレーム目の画像データの一例を示す図解図であり、(E)は5フレーム目の画像データの一例を示す図解図であり、(F)は6フレーム目の画像データの一例を示す図解図であり、(G)は7フレーム目の画像データの一例を示す図解図であり、(H)は8フレーム目の画像データの一例を示す図解図である。
【図6】(A)は1フレーム目および2フレーム目の画像データに基づく動きエリアの設定状態の一例を示す図解図であり、(B)は2フレーム目および3フレーム目の画像データに基づく動きエリアの設定状態の一例を示す図解図であり、(C)は3フレーム目および4フレーム目の画像データに基づく動きエリアの設定状態の一例を示す図解図であり、(D)は4フレーム目および5フレーム目の画像データに基づく動きエリアの設定状態の一例を示す図解図である。
【図7】(A)は5フレーム目および6フレーム目の画像データに基づく動きエリアの設定状態の一例を示す図解図であり、(B)は6フレーム目および7フレーム目の画像データに基づく動きエリアの設定状態の一例を示す図解図であり、(C)は7フレーム目および8フレーム目の画像データに基づく動きエリアの設定状態の一例を示す図解図である。
【図8】動きベクトルの検出動作の一例を示す図解図である。
【図9】(A)は移動体画像データの一例を示す図解図であり、(B)は背景画像データの一例を示す図解図である。
【図10】(A)背景画像データに基づく縮小画像データの一例を示す図解図であり、(B)は縮小画像データに基づく拡大画像データの一例を示す図解図である。
【図11】流し撮り画像データの一例を示す図解図である。
【図12】図2実施例に適用されるCPUの動作の一部を示すフロー図である。
【図13】図2実施例に適用されるCPUの動作の他の一部を示すフロー図である。
【図14】図2実施例に適用されるCPUの動作のその他の一部を示すフロー図である。
【図15】図2実施例に適用されるCPUの動作のさらにその他の一部を示すフロー図である。
【図16】この発明の他の実施例に適用されるCPUの動作の一部を示す図解図である。
【図17】(A)は1フレーム目の画像データの一例を示す図解図であり、(B)は4フレーム目の画像データの一例を示す図解図であり、(C)はマスク画像データの一例を示す図解図であり、(D)は背景画像データの一例を示す図解図である。
【図18】この発明のその他の実施例の構成を示すブロック図である。
【発明を実施するための形態】
【0019】
以下、この発明の実施の形態を図面を参照しながら説明する。
[基本的構成]
【0020】
図1を参照して、この実施例の電子カメラは、基本的に次のように構成される。取り込み手段1は、指定期間に属する複数のタイミングにそれぞれ対応する複数の被写界像を取り込む。検出手段2は、指定期間に被写界に現れた移動体を取り込み手段1によって取り込まれた複数の被写界像に基づいて検出する。作成手段3は、検出手段2によって検出された移動体の背景を表す背景画像を取り込み手段1によって取り込まれた複数の被写界像に基づいて作成する。縮小手段4は、作成手段3によって作成された背景画像を検出手段2によって検出された移動体の動きに応じて異なる縮小態様で縮小する。拡大手段5は、縮小手段4によって作成された縮小画像を縮小手段4によって参照された縮小態様と逆の態様で拡大する。合成手段6は、検出手段2によって検出された移動体を表す物体像を拡大手段5によって作成された拡大画像に合成する。
【0021】
背景画像は、移動体の動きに応じて異なる縮小態様で縮小された後、この縮小態様の逆の態様で拡大される。縮小処理および拡大処理を施された背景画像は、移動体の動きが強調された画像となる。移動体を表す物体像は、こうして得られた背景画像に合成される。これによって、移動体の動きが強調された合成画像の作成に掛かる負荷が低減される。
[実施例]
【0022】
図2を参照して、この実施例のディジタルカメラ10は、ドライバ18aおよび18bによってそれぞれ駆動されるフォーカスレンズ12および絞りユニット14を含む。これらの部材を経た被写界の光学像は、イメージャ16の撮像面に照射され、光電変換を施される。これによって、被写界像を表す電荷が生成される。
【0023】
電源が投入されると、CPU26は、動画取り込み処理を実行するべく、撮像タスクの下で露光動作および電荷読み出し動作の繰り返しをドライバ18cに命令する。ドライバ18cは、図示しないSG(Signal Generator)から周期的に発生する垂直同期信号Vsyncに応答して、撮像面を露光し、かつ撮像面で生成された電荷をラスタ走査態様で読み出す。イメージャ16からは、読み出された電荷に基づく生画像データが周期的に出力される。
【0024】
前処理回路20は、イメージャ16から出力された生画像データにディジタルクランプ,画素欠陥補正,ゲイン制御などの処理を施す。これらの処理を施された生画像データは、メモリ制御回路30を通してSDRAM32の生画像エリア32a(図3参照)に書き込まれる。
【0025】
後処理回路34は、生画像エリア32aに格納された生画像データをメモリ制御回路30を通して読み出し、読み出された生画像データに色分離処理,白バランス調整処理およびYUV変換処理を施す。これによって生成されたYUV形式の画像データは、メモリ制御回路30によってSDRAM32のYUV画像エリア32b(図3参照)に書き込まれる。
【0026】
LCDドライバ36は、YUV画像エリア32bに格納された画像データをメモリ制御回路30を通して繰り返し読み出し、読み出された画像データに基づいてLCDモニタ38を駆動する。この結果、被写界のリアルタイム動画像(スルー画像)がモニタ画面に表示される。
【0027】
図4を参照して、撮像面の中央には評価エリアEVAが割り当てられる。評価エリアEVAは水平方向および垂直方向の各々において16分割され、256個の分割エリアが評価エリアEVAを形成する。また、図2に示す前処理回路20は、上述した処理に加えて、生画像データを簡易的にRGBデータに変換する簡易RGB変換処理を実行する。
【0028】
AE評価回路22は、前処理回路20によって生成されたRGBデータのうち評価エリアEVAに属するRGBデータを、垂直同期信号Vsyncが発生する毎に積分する。これによって、256個の積分値つまり256個のAE評価値が、垂直同期信号Vsyncに応答してAE評価回路22から出力される。AF評価回路24は、前処理回路20によって生成されたRGBデータのうち評価エリアEVAに属するRGBデータの高周波成分を、垂直同期信号Vsyncが発生する毎に積分する。これによって、256個の積分値つまり256個のAF評価値が、垂直同期信号Vsyncに応答してAF評価回路24から出力される。
【0029】
キー入力装置28に設けられたシャッタボタン28shが非操作状態にあるとき、CPU26は、AE評価回路22から出力された256個のAE評価値に基づいて簡易AE処理を実行し、適正EV値を算出する。算出された適正EV値を定義する絞り量および露光時間はドライバ18bおよび18cに設定され、これによってスルー画像の明るさが大まかに調整される。
【0030】
シャッタボタン28shが半押しされると、CPU26は、AE評価値を参照した厳格AE処理を実行し、最適EV値を算出する。算出された最適EV値を定義する絞り量および露光時間もまたドライバ18bおよび18cに設定され、これによってスルー画像の明るさが厳格に調整される。CPU26はまた、AF評価回路24から出力された256個のAF評価値に基づいてAF処理を実行する。フォーカスレンズ12は合焦点の探索のためにドライバ18aによって光軸方向に移動し、これによって発見された合焦点に配置される。この結果、スルー画像の鮮鋭度が向上する。
【0031】
撮像モードは、モード切換えスイッチ28mdによって通常モードおよび流し撮りモードの間で切り換えられる。
【0032】
通常モードが選択された状態でシャッタボタン28shが全押しされると、CPU26は、静止画取り込み処理を1回だけ実行する。この結果、シャッタボタン28shが全押しされた時点の被写界を表す1フレームの画像データがYUV画像エリア32bから静止画像エリア32c(図3参照)に退避される。
【0033】
流し撮りモードが選択された状態でシャッタボタン28shが全押しされると、CPU26は、その後に生成された連続8フレームの画像データを静止画像エリア32cに取り込み、取り込まれた8フレームの画像データに基づいて1フレームの流し撮り画像データを作成する。流し撮り画像データは、ワークエリア32d(図3参照)で作成され、その後に静止画像エリア32cに戻される。
【0034】
こうして1フレームの静止画像データまたは流し撮り画像データが得られると、CPU26は、記録処理を実行するべく、対応する命令をメモリI/F40に与える。メモリI/F40は、静止画像エリア32cに退避された1フレームの画像データまたは流し撮りデータをメモリ制御回路30を通して読み出し、読み出された画像データまたは流し撮りデータをファイル形式で記録媒体42に記録する。
【0035】
流し撮り画像データは、以下の要領で作成される。まず、合計8回の静止画取り込み処理が垂直同期信号Vsyncに応答して実行される。これによって、連続する8フレームの画像データが静止画像エリア32cに確保される。
【0036】
確保された8フレームの画像データは、たとえば図5(A)〜図5(H)に示す8つの被写界を表す。図5(A)〜図5(H)によれば、左右に延びる道路RD1とその奥に存在する郵便ポストPS1および家HS1とが被写界に現れる。自動車MC1は、8回の静止画取り込み処理が実行される期間に、被写界の左から右に移動する。
【0037】
8回の静止画取り込み処理が完了すると、変数Kが“1”〜“7”の各々に設定され、変数Lが“2”〜“8”の各々に設定される。変数KおよびLは同時に設定され、変数Lは常に“K+1”の値を示す。変数KおよびLが定義されると、第Kフレームの画像データと第Lフレームの画像データとの差分が検出され、検出された差分が有意な大きさを示すエリアが動きエリアMVAとして検出される。
【0038】
第Kフレームの画像データおよび第Lフレームの画像データは静止画像エリア32cからワークエリア32dに複製され、検出された動きエリアMVAに属する部分画像データは複製された第Kフレームの画像データおよび第Lフレームの画像データの各々から切り出される。第Kフレームおよび第Lフレームの間の動きを示す動きベクトルVC_KLは、切り出された部分画像データに基づいて算出される。
【0039】
上述の例では、動きエリアMVAは、1フレーム目の画像データと2フレーム目の画像データとに基づいて図6(A)に示す要領で検出され、2フレーム目の画像データと3フレーム目の画像データとに基づいて図6(B)に示す要領で検出され、3フレーム目の画像データと4フレーム目の画像データとに基づいて図6(C)に示す要領で検出され、そして4フレーム目の画像データと5フレーム目の画像データとに基づいて図6(D)に示す要領で検出される。
【0040】
動きエリアMVAはまた、5フレーム目の画像データと6フレーム目の画像データとに基づいて図7(A)に示す要領で検出され、6フレーム目の画像データと7フレーム目の画像データとに基づいて図7(B)に示す要領で検出され、そして7フレーム目の画像データと8フレーム目の画像データとに基づいて図7(C)に示す要領で検出される。
【0041】
切り出される部分画像データは、こうして検出された動きエリアMVAに属する画像データに相当する。また、切り出された部分画像データに基づいて算出される動きベクトルVC_12〜VC_78は、図8に示す方向および大きさを示す。
【0042】
動きベクトルVC_12〜VC_78が求められると、8回の静止画取り込み処理に相当する期間に被写界に現れた移動体を表す移動体画像データが、切り出された部分画像データに基づいて作成される。作成された移動体画像データは、ワークエリア32dに保持される。また、8回の静止画取り込み処理に相当する期間に被写界に現れた移動体の背景を表す背景画像データが、部分画像データの切り出しの後にワークエリア32dに残存する複数フレームの画像データに基づいて作成する。背景画像データもまた、ワークエリア32dに保持される。上述の例では、移動体画像データは図9(A)に示す要領で作成され、背景画像データは図9(B)に示す要領で作成される。
【0043】
移動体画像データおよび背景画像データがこうして作成されると、動きベクトルVC_12〜VC_78の平均に相当する平均動きベクトルが算出される。さらに、平均動きベクトルの方向が縮小方向として決定されるとともに、縮小係数が数1に従って算出される。数1によれば、縮小係数は定数αを平均動きベクトルの大きさで割り算した値に相当する。
[数1]
縮小係数=α/平均動きベクトルの大きさ
α:定数
【0044】
続いて、決定された縮小方向と逆の方向が拡大方向として決定され、数1に従って算出された縮小係数の逆数が拡大係数として決定される。
【0045】
背景画像データは、決定された縮小方向に縮小される。縮小の程度は、算出された縮小係数に従う。したがって、図9(B)に示す背景画像データは図10(A)に示す要領で縮小される。
【0046】
縮小画像データはその後、上述の要領で決定された拡大方向に拡大される。拡大の程度もまた、算出された拡大係数に従う。これによって、縮小/拡大方向において低減された解像度を有する低解像度背景画像データが得られる。図10(A)に示す縮小画像データを拡大したとき、低解像度背景画像データは図10(B)に示す要領で作成される。
【0047】
続いて、移動体画像データが低解像度背景画像データに合成され、これによって流し撮り画像データが完成する。図9(A)に示す移動体画像データおよび図10(B)に示す低解像度背景画像データに基づく場合、流し撮り画像データは図11に示す要領で作成される。完成した流し撮り画像データは、ワークエリア32dから静止画像エリア32cに戻される。
【0048】
CPU26は、図12〜図15に示す撮像タスクを含む複数のタスクをマルチタスクOSの制御の下で並列的に実行する。なお、これらのタスクに対応する制御プログラムは、フラッシュメモリ44に記憶される。
【0049】
図12を参照して、ステップS1では動画取込み処理を実行する。この結果、被写界を表すスルー画像がLCDモニタ38に表示される。ステップS3ではシャッタボタン28shが半押しされたか否かを判別し、判別結果がNOである限り、ステップS5で簡易AE処理を繰り返す。この結果、スルー画像の明るさが大まかに調整される。
【0050】
ステップS3の判別結果がNOからYESに更新されると、ステップS7で厳格AE処理を実行し、ステップS9でAF処理を実行する。スルー画像の明るさは厳格AE処理によって厳格に調整され、スルー画像の鮮鋭度はAF処理によって向上する。
【0051】
ステップS11ではシャッタボタン28shが全押しされたか否かを判別し、ステップS13ではシャッタボタン28shの操作が解除されたか否かを判別する。ステップS13でYESであればそのままステップS3に戻り、ステップS11でYESであればステップS15〜S21の処理を経てステップS3に戻る。
【0052】
ステップS15では、現時点の撮像モードが通常モードおよび流し撮りモードのいずれであるかを判別する。現時点の撮像モードが通常モードであれば、ステップS17で静止画取り込み処理を実行し、現時点の撮像モードが流し撮りモードであれば、ステップS19で流し撮り処理を実行する。
【0053】
ステップS17の静止画取り込み処理の結果、シャッタボタン28shが全押しされた時点の被写界を表す1フレームの画像データがYUV画像エリア32bから静止画像エリア32cに退避される。ステップS19の流し撮りの結果、シャッタボタン28shの全押しの後に作成された8フレームの画像データがYUV画像エリア32bから静止画像エリア32bに退避され、退避された8フレームの画像データに基づいて1フレームの流し撮り画像データが作成される。流し撮り画像データの作成処理はワークエリア32d上で実行され、完成した流し撮り画像データは静止画像エリア32cに戻される。
【0054】
ステップS17またはS19の処理が完了すると、ステップS21で記録処理を実行するべく、対応する命令をメモリI/F40に与える。メモリI/F40は、静止画像エリア32cに格納された1フレームの画像データまたは流し撮りデータをメモリ制御回路30を通して読み出し、読み出された画像データまたは流し撮りデータをファイル形式で記録媒体42に記録する。
【0055】
ステップS19の流し撮り処理は、図13〜図15に示すサブルーチンに従って実行される。
【0056】
まず、ステップS31でフレーム番号に相当する変数Kを“1”に設定する。ステップS33では、上述したステップS17と同様の静止画取り込み処理を垂直同期信号Vsyncの発生を待って実行する。ステップS35では変数Kが“8”に達したか否かを判別し、判別結果がNOであればステップS37で変数KをインクリメントしてからステップS33に戻る一方、判別結果がYESであればステップS39以降の処理に進む。したがって、ステップS33の静止画取込処理は垂直同期信号Vsyncに応答して合計8回実行され、連続する8フレームの画像データが静止画像エリア32cに確保される。
【0057】
ステップS39では、変数KおよびLをそれぞれ“1”および“2”に設定する。ステップS41では、第Kフレームの画像データと第Lフレームの画像データとの差分を検出し、検出された差分が有意な大きさを示すエリアを動きエリアMVAとして検出する。ステップS43では、第Kフレームの画像データおよび第Lフレームの画像データを静止画像エリア32cからワークエリア32dに複製し、ステップS41で検出された動きエリアMVAに属する部分画像データを複製された第Kフレームの画像データおよび第Lフレームの画像データの各々から切り出す。
【0058】
ステップS45では、第Kフレームおよび第Lフレームの間の動きを示す動きベクトルVC_KLを切り出された部分画像データに基づいて算出する。ステップS47では変数Kが“7”に達したか否かを判別し、判別結果がNOであれば、ステップS49で変数KおよびLをインクリメントしてからステップS41に戻る。
【0059】
変数KおよびLは、連続する2つの数値を示しかつ“1”ずつ更新される。このため、第1フレームおよび第8フレームの各々については単一の動きエリアが検出される一方、第2フレーム〜第7フレームの各々については2つの動きエリアが検出される。この結果、合計14個の部分画像に相当する部分画像データがステップS43の処理によって切り出される。
【0060】
ステップS47の判別結果がYESであれば、ステップS51に進む。ステップS51では、合計8回の静止画取り込み処理に相当する期間に被写界に現れた移動体を表す移動体画像データを、上述の要領で切り出された部分画像データに基づいて作成する。ステップS53では、合計8回の静止画取り込み処理に相当する期間に被写界に現れた移動体の背景を表す背景画像データを、ステップS43の切り出し処理の後に残存する14フレームの画像データに基づいて作成する。こうして作成された移動体画像データおよび背景画像データもまた、ワークエリア32dに保持される。
【0061】
ステップS55では、ステップS45で算出された動きベクトルVC_12〜VC_78の平均に相当する平均動きベクトルを算出する。ステップS57では算出された平均動きベクトルの方向を縮小方向として決定し、ステップS59では上述した数1に従って縮小係数を算出する。ステップS61ではステップS57で決定された縮小方向と逆の方向を拡大方向として決定し、ステップS63ではステップS59で算出された縮小係数の逆数を拡大係数として決定する。
【0062】
ステップS65では、ステップS53で作成された背景画像データをステップS57で決定された方向に縮小する。縮小の程度は、ステップS59で算出された縮小係数に従う。ステップS67では、ステップS65の処理によって作成された縮小画像データをステップS61で決定された方向に拡大する。拡大の程度は、ステップS63で算出された拡大係数に従う。これによって、縮小/拡大方向において低減された解像度を有する低解像度背景画像データが完成する。
【0063】
ステップS69では、ステップS51で作成された移動体画像データをステップS67で作成された低解像度背景画像データに合成し、これによって作成された流し撮り画像データをワークエリア32dから静止画像エリア32cに戻す。ステップS69の処理が完了すると、上階層のルーチンに復帰する。
【0064】
以上の説明から分かるように、CPU26は、シャッタボタン28shの全押しを起点とする8フレーム期間(=指定期間)に生成された8フレームの画像データをSDRAM32の静止画像エリア32c取り込み(S31~S37)、同じ8フレーム期間に被写界に現れた移動体を静止画像エリア32cに取り込まれた8フレームの画像データに基づいて検出する(S41)。CPU26はまた、検出された移動体の背景を表す背景画像データを静止画像エリア32cに取り込まれた8フレームの画像データに基づいて作成し(S53)、作成された背景画像データを被写界から検出された移動体の動きに応じて異なる縮小態様で縮小し(S45, S55~S59, S65)、そして縮小された画像データを縮小態様と逆の態様で拡大する(S61~S63, S67)。CPU26はさらに、被写界から検出された移動体を表す移動体画像データを拡大された画像データつまり低解像度背景画像データに合成する(S43, S51, S69)。
【0065】
このように、背景画像データは、移動体の動きに応じて異なる縮小態様で縮小された後、この縮小態様の逆の態様で拡大される。縮小処理および拡大処理を施された背景画像データは、移動体の動きが強調された画像となる。移動体画像データは、こうして得られた低解像度画像データに合成される。これによって、移動体の動きが強調された合成画像の作成に掛かる負荷が低減される。
【0066】
なお、この実施例では、連続する2フレームの画像データの差分に基づいて動きエリアMVAを検出し、検出した動きエリアに属する画像に基づいて移動体画像データを作成するとともに、検出した動きエリア以外の画像に基づいて静止画像データを作成するようにしている。さらに、平均動きベクトルは、動きエリアに属する部分画像に基づいて作成される。しかし、図13および図14に示すステップS39〜S55の処理に代えて図16に示すステップS71〜S85の処理を実行し、これによって移動体画像データ,背景画像データおよび平均動きベクトルを作成するようにしてもよい。
【0067】
図16を参照して、ステップS71では1フレーム目の画像データと4フレーム目の画像データとの差分を算出してマスク画像データを作成する。1フレーム目の画像データが図17(A)に示す被写界を表し、4フレーム目の画像データが図17(B)に示す被写界を表す場合、マスク画像データは図17(C)に示す要領で作成される。
【0068】
ステップS73では、作成されたマスク画像データの位置に対応する一部の画像データを8フレーム目の画像データから切り出し、切り出された画像データをマスク画像データの位置に対応して1フレーム目の画像データに貼り付ける。これによって、背景画像データが図17(D)に示す要領で作成される。
【0069】
ステップS75では変数Kを“1”に設定し、ステップS77では第Kフレームの画像データから動きを示す部分画像データを切り出す。切り出しにあたっては、ステップS73で作成された背景画像データが参照される。ステップS79では変数Kが“8”に達したか否かを判別し、判別結果がNOであればステップS81で変数KをインクリメントしてからステップS77に戻る一方、判別結果がYESであればステップS83に進む。
【0070】
ステップS83では、ステップS77の切り出しの後に残存する画像データに基づいて、移動体の平均動きベクトルを算出する。ステップS85では、切り出した部分画像データに基づいて、移動体画像データを作成する。
【0071】
また、この実施例では、マルチタスクOSおよびこれによって実行される複数のタスクに相当する制御プログラムは、フラッシュメモリ44に予め記憶される。しかし、図18に示すように通信I/F46をディジタルカメラ10に設け、一部の制御プログラムを内部制御プログラムとしてフラッシュメモリ44に当初から準備する一方、他の一部の制御プログラムを外部制御プログラムとして外部サーバから取得するようにしてもよい。この場合、上述の動作は、内部制御プログラムおよび外部制御プログラムの協働によって実現される。
【0072】
また、この実施例では、CPU26によって実行される処理を上述の要領で複数のタスクに区分するようにしている。しかし、各々のタスクをさらに複数の小タスクに区分してもよく、さらには区分された複数の小タスクの一部を他のタスクに統合するようにしてもよい。また、各々のタスクを複数の小タスクに区分する場合、その全部または一部を外部サーバから取得するようにしてもよい。
【符号の説明】
【0073】
10 …ディジタルカメラ
16 …イメージャ
20 …前処理回路
22 …AE評価回路
24 …AF評価回路
26 …CPU
32 …SDRAM
34 …後処理回路
【特許請求の範囲】
【請求項1】
指定期間に属する複数のタイミングにそれぞれ対応する複数の被写界像を取り込む取り込み手段、
前記指定期間に被写界に現れた移動体を前記取り込み手段によって取り込まれた複数の被写界像に基づいて検出する検出手段、
前記検出手段によって検出された移動体の背景を表す背景画像を前記取り込み手段によって取り込まれた複数の被写界像に基づいて作成する作成手段、
前記作成手段によって作成された背景画像を前記検出手段によって検出された移動体の動きに応じて異なる縮小態様で縮小する縮小手段、
前記縮小手段によって作成された縮小画像を前記縮小手段によって参照された縮小態様と逆の態様で拡大する拡大手段、および
前記検出手段によって検出された移動体を表す物体像を前記拡大手段によって作成された拡大画像に合成する合成手段を備える、画像処理装置。
【請求項2】
前記縮小手段は、前記移動体の動き量に応じて異なる縮小係数を算出する縮小係数算出手段、および前記縮小係数算出手段によって算出された縮小係数を参照して前記背景画像を縮小する画像縮小手段を含む、請求項1記載の画像処理装置。
【請求項3】
前記縮小手段は前記移動体の動き方向に相当する方向を縮小方向として決定する決定手段をさらに含む、請求項2記載の画像処理装置。
【請求項4】
前記拡大手段は、前記縮小係数の逆数を算出する逆数算出手段、および前記逆数算出手段によって算出された逆数を参照して前記縮小画像を拡大する画像拡大手段を含む、請求項2または3記載の画像処理装置。
【請求項5】
取り込み指示を受け付ける受け付け手段、および
前記取り込み指示に応答して前記指定期間を定義する定義手段をさらに備える、請求項1ないし4のいずれかに記載の画像処理装置。
【請求項6】
被写界を捉える撮像面を有する撮像手段をさらに備え、
前記取り込み手段によって取り込まれる被写界像は前記撮像手段の出力の少なくとも一部に相当する、請求項1ないし5のいずれかに記載の画像処理装置。
【請求項7】
画像処理装置に設けられたプロセッサに、
指定期間に属する複数のタイミングにそれぞれ対応する複数の被写界像を取り込む取り込みステップ、
前記指定期間に被写界に現れた移動体を前記取り込みステップによって取り込まれた複数の被写界像に基づいて検出する検出ステップ、
前記検出ステップによって検出された移動体の背景を表す背景画像を前記取り込みステップによって取り込まれた複数の被写界像に基づいて作成する作成ステップ、
前記作成ステップによって作成された背景画像を前記検出ステップによって検出された移動体の動きに応じて異なる縮小態様で縮小する縮小ステップ、
前記縮小ステップによって作成された縮小画像を前記縮小ステップによって参照された縮小態様と逆の態様で拡大する拡大ステップ、および
前記検出ステップによって検出された移動体を表す物体像を前記拡大ステップによって作成された拡大画像に合成する合成ステップを実行させるための、画像合成プログラム。
【請求項8】
画像処理装置によって実行される画像合成方法であって、
指定期間に属する複数のタイミングにそれぞれ対応する複数の被写界像を取り込む取り込みステップ、
前記指定期間に被写界に現れた移動体を前記取り込みステップによって取り込まれた複数の被写界像に基づいて検出する検出ステップ、
前記検出ステップによって検出された移動体の背景を表す背景画像を前記取り込みステップによって取り込まれた複数の被写界像に基づいて作成する作成ステップ、
前記作成ステップによって作成された背景画像を前記検出ステップによって検出された移動体の動きに応じて異なる縮小態様で縮小する縮小ステップ、
前記縮小ステップによって作成された縮小画像を前記縮小ステップによって参照された縮小態様と逆の態様で拡大する拡大ステップ、および
前記検出ステップによって検出された移動体を表す物体像を前記拡大ステップによって作成された拡大画像に合成する合成ステップを備える、画像合成方法。
【請求項9】
メモリに保存された内部制御プログラムに従う処理を実行するプロセッサを備える画像処理装置に供給される外部制御プログラムであって、
指定期間に属する複数のタイミングにそれぞれ対応する複数の被写界像を取り込む取り込みステップ、
前記指定期間に被写界に現れた移動体を前記取り込みステップによって取り込まれた複数の被写界像に基づいて検出する検出ステップ、
前記検出ステップによって検出された移動体の背景を表す背景画像を前記取り込みステップによって取り込まれた複数の被写界像に基づいて作成する作成ステップ、
前記作成ステップによって作成された背景画像を前記検出ステップによって検出された移動体の動きに応じて異なる縮小態様で縮小する縮小ステップ、
前記縮小ステップによって作成された縮小画像を前記縮小ステップによって参照された縮小態様と逆の態様で拡大する拡大ステップ、および
前記検出ステップによって検出された移動体を表す物体像を前記拡大ステップによって作成された拡大画像に合成する合成ステップを前記内部制御プログラムと協働して前記プロセッサに実行させるための、外部制御プログラム。
【請求項10】
外部制御プログラムを取り込む取り込み手段、および
前記取り込み手段によって取り込まれた外部制御プログラムとメモリに保存された内部制御プログラムとに従う処理を実行するプロセッサを備える画像処理装置であって、
前記外部制御プログラムは、
指定期間に属する複数のタイミングにそれぞれ対応する複数の被写界像を取り込む取り込みステップ、
前記指定期間に被写界に現れた移動体を前記取り込みステップによって取り込まれた複数の被写界像に基づいて検出する検出ステップ、
前記検出ステップによって検出された移動体の背景を表す背景画像を前記取り込みステップによって取り込まれた複数の被写界像に基づいて作成する作成ステップ、
前記作成ステップによって作成された背景画像を前記検出ステップによって検出された移動体の動きに応じて異なる縮小態様で縮小する縮小ステップ、
前記縮小ステップによって作成された縮小画像を前記縮小ステップによって参照された縮小態様と逆の態様で拡大する拡大ステップ、および
前記検出ステップによって検出された移動体を表す物体像を前記拡大ステップによって作成された拡大画像に合成する合成ステップを前記内部制御プログラムと協働して実行するプログラムに相当する、画像処理装置。
【請求項1】
指定期間に属する複数のタイミングにそれぞれ対応する複数の被写界像を取り込む取り込み手段、
前記指定期間に被写界に現れた移動体を前記取り込み手段によって取り込まれた複数の被写界像に基づいて検出する検出手段、
前記検出手段によって検出された移動体の背景を表す背景画像を前記取り込み手段によって取り込まれた複数の被写界像に基づいて作成する作成手段、
前記作成手段によって作成された背景画像を前記検出手段によって検出された移動体の動きに応じて異なる縮小態様で縮小する縮小手段、
前記縮小手段によって作成された縮小画像を前記縮小手段によって参照された縮小態様と逆の態様で拡大する拡大手段、および
前記検出手段によって検出された移動体を表す物体像を前記拡大手段によって作成された拡大画像に合成する合成手段を備える、画像処理装置。
【請求項2】
前記縮小手段は、前記移動体の動き量に応じて異なる縮小係数を算出する縮小係数算出手段、および前記縮小係数算出手段によって算出された縮小係数を参照して前記背景画像を縮小する画像縮小手段を含む、請求項1記載の画像処理装置。
【請求項3】
前記縮小手段は前記移動体の動き方向に相当する方向を縮小方向として決定する決定手段をさらに含む、請求項2記載の画像処理装置。
【請求項4】
前記拡大手段は、前記縮小係数の逆数を算出する逆数算出手段、および前記逆数算出手段によって算出された逆数を参照して前記縮小画像を拡大する画像拡大手段を含む、請求項2または3記載の画像処理装置。
【請求項5】
取り込み指示を受け付ける受け付け手段、および
前記取り込み指示に応答して前記指定期間を定義する定義手段をさらに備える、請求項1ないし4のいずれかに記載の画像処理装置。
【請求項6】
被写界を捉える撮像面を有する撮像手段をさらに備え、
前記取り込み手段によって取り込まれる被写界像は前記撮像手段の出力の少なくとも一部に相当する、請求項1ないし5のいずれかに記載の画像処理装置。
【請求項7】
画像処理装置に設けられたプロセッサに、
指定期間に属する複数のタイミングにそれぞれ対応する複数の被写界像を取り込む取り込みステップ、
前記指定期間に被写界に現れた移動体を前記取り込みステップによって取り込まれた複数の被写界像に基づいて検出する検出ステップ、
前記検出ステップによって検出された移動体の背景を表す背景画像を前記取り込みステップによって取り込まれた複数の被写界像に基づいて作成する作成ステップ、
前記作成ステップによって作成された背景画像を前記検出ステップによって検出された移動体の動きに応じて異なる縮小態様で縮小する縮小ステップ、
前記縮小ステップによって作成された縮小画像を前記縮小ステップによって参照された縮小態様と逆の態様で拡大する拡大ステップ、および
前記検出ステップによって検出された移動体を表す物体像を前記拡大ステップによって作成された拡大画像に合成する合成ステップを実行させるための、画像合成プログラム。
【請求項8】
画像処理装置によって実行される画像合成方法であって、
指定期間に属する複数のタイミングにそれぞれ対応する複数の被写界像を取り込む取り込みステップ、
前記指定期間に被写界に現れた移動体を前記取り込みステップによって取り込まれた複数の被写界像に基づいて検出する検出ステップ、
前記検出ステップによって検出された移動体の背景を表す背景画像を前記取り込みステップによって取り込まれた複数の被写界像に基づいて作成する作成ステップ、
前記作成ステップによって作成された背景画像を前記検出ステップによって検出された移動体の動きに応じて異なる縮小態様で縮小する縮小ステップ、
前記縮小ステップによって作成された縮小画像を前記縮小ステップによって参照された縮小態様と逆の態様で拡大する拡大ステップ、および
前記検出ステップによって検出された移動体を表す物体像を前記拡大ステップによって作成された拡大画像に合成する合成ステップを備える、画像合成方法。
【請求項9】
メモリに保存された内部制御プログラムに従う処理を実行するプロセッサを備える画像処理装置に供給される外部制御プログラムであって、
指定期間に属する複数のタイミングにそれぞれ対応する複数の被写界像を取り込む取り込みステップ、
前記指定期間に被写界に現れた移動体を前記取り込みステップによって取り込まれた複数の被写界像に基づいて検出する検出ステップ、
前記検出ステップによって検出された移動体の背景を表す背景画像を前記取り込みステップによって取り込まれた複数の被写界像に基づいて作成する作成ステップ、
前記作成ステップによって作成された背景画像を前記検出ステップによって検出された移動体の動きに応じて異なる縮小態様で縮小する縮小ステップ、
前記縮小ステップによって作成された縮小画像を前記縮小ステップによって参照された縮小態様と逆の態様で拡大する拡大ステップ、および
前記検出ステップによって検出された移動体を表す物体像を前記拡大ステップによって作成された拡大画像に合成する合成ステップを前記内部制御プログラムと協働して前記プロセッサに実行させるための、外部制御プログラム。
【請求項10】
外部制御プログラムを取り込む取り込み手段、および
前記取り込み手段によって取り込まれた外部制御プログラムとメモリに保存された内部制御プログラムとに従う処理を実行するプロセッサを備える画像処理装置であって、
前記外部制御プログラムは、
指定期間に属する複数のタイミングにそれぞれ対応する複数の被写界像を取り込む取り込みステップ、
前記指定期間に被写界に現れた移動体を前記取り込みステップによって取り込まれた複数の被写界像に基づいて検出する検出ステップ、
前記検出ステップによって検出された移動体の背景を表す背景画像を前記取り込みステップによって取り込まれた複数の被写界像に基づいて作成する作成ステップ、
前記作成ステップによって作成された背景画像を前記検出ステップによって検出された移動体の動きに応じて異なる縮小態様で縮小する縮小ステップ、
前記縮小ステップによって作成された縮小画像を前記縮小ステップによって参照された縮小態様と逆の態様で拡大する拡大ステップ、および
前記検出ステップによって検出された移動体を表す物体像を前記拡大ステップによって作成された拡大画像に合成する合成ステップを前記内部制御プログラムと協働して実行するプログラムに相当する、画像処理装置。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【図18】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【図18】
【公開番号】特開2012−138722(P2012−138722A)
【公開日】平成24年7月19日(2012.7.19)
【国際特許分類】
【出願番号】特願2010−289076(P2010−289076)
【出願日】平成22年12月27日(2010.12.27)
【出願人】(000001889)三洋電機株式会社 (18,308)
【Fターム(参考)】
【公開日】平成24年7月19日(2012.7.19)
【国際特許分類】
【出願日】平成22年12月27日(2010.12.27)
【出願人】(000001889)三洋電機株式会社 (18,308)
【Fターム(参考)】
[ Back to top ]