説明

画像合成装置、その制御方法、および制御プログラム

【課題】動画像を合成する際、合成枚数に拘わらず処理時間およびメモリへのデータ転送量が増大することなく画像合成処理を行う。
【解決手段】画像合成装置は、複数のフレームを有する動画像が入力画像としてされ、入力画像において予め設定された数のフレームを合成して合成画像を得る。画像加算部109は予め設定された数のフレームを合成して第1の合成画像を得る。画像加算部および画像減算部110は第1の合成画像が得られた後、別の1つのフレームの画像の合成を行う際、第1の合成画像に関して第1の合成画像における所定のフレームの画像を減算するとともに、別の1つのフレームの画像を加算して合成画像とする。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、複数枚の画像を合成して動画像を得る画像合成装置、その制御方法、および制御プログラムに関する。
【背景技術】
【0002】
近年、デジタルカメラなどの撮像装置において、手振れ補正を行うための手法として様々な手法が提案されている。このうち、手振れが起き難いシャッタースピードにおいて低露光の画像を複数枚撮影して、撮影後複数枚の画像を合成して適正露光の画像を得るようにした手法がある。
【0003】
例えば、画像合成を行う際、時間的な位置合わせ(位置ずれ補正ともいう)を行った後画像の合成を行って、1枚の静止画を生成するようにしたものがある(特許文献1参照)。
【0004】
さらに、撮影の結果得られた画像の全てを合成せずに、撮像の際に得られた画像情報に応じて合成に必要な画像枚数を決定して、当該決定した枚数分の画像を合成するようにしたものもある(特許文献2又は3参照)。
【先行技術文献】
【特許文献】
【0005】
【特許文献1】特開平5−7336号公報
【特許文献2】特開2006−191305号公報
【特許文献3】特開2006−253810号公報
【発明の概要】
【発明が解決しようとする課題】
【0006】
上記の特許文献ではいずれも静止画像の合成を行っており、動画像の画像合成を行うとなると、合成処理時間が増加するばかりでなく、メモリに対する転送量が増加する。
【0007】
従って、本発明の目的は、動画像を合成する際、合成枚数に拘わらず処理時間およびメモリへのデータ転送量の増加を抑えて画像合成処理を行うことのできる画像合成装置、その制御方法、および制御プログラムを提供することにある。
【課題を解決するための手段】
【0008】
上記の目的を達成するため、本発明による画像合成装置は、複数のフレームを合成して合成画像を得る画像合成装置であって、前記予め設定された数のフレームを合成して第1の合成画像を得る第1の合成手段と、前記第1の合成画像に別の1つのフレームの画像の合成を行う際、前記第1の合成画像に対して前記第1の合成画像の合成に用いられた所定のフレームの画像を減算するとともに、前記別の1つのフレームの画像を加算して合成画像を生成する第2の合成手段とを有することを特徴とする。
【0009】
本発明による制御方法は、複数のフレームを合成して合成画像を得る画像合成装置の制御方法であって、前記予め設定された数のフレームを合成して第1の合成画像を得る第1の合成ステップと、前記第1の合成画像に別の1つのフレームの画像の合成を行う際、前記第1の合成画像に対して前記第1の合成画像の合成に用いられた所定のフレームの画像を減算するとともに、前記別の1つのフレームの画像を加算して合成画像を生成する第2の合成ステップとを有することを特徴とする。
【0010】
本発明による制御プログラムは、複数のフレームを合成して合成画像を得る画像合成装置で用いられる制御プログラムであって、前記画像合成装置が備えるコンピュータに、前記予め設定された数のフレームを合成して第1の合成画像を得る第1の合成ステップと、前記第1の合成画像に別の1つのフレームの画像の合成を行う際、前記第1の合成画像に対して前記第1の合成画像の合成に用いられた所定のフレームの画像を減算するとともに、前記別の1つのフレームの画像を加算して合成画像を生成する第2の合成ステップとを実行させることを特徴とする。
【発明の効果】
【0011】
本発明によれば、動画像を合成する際、合成枚数に拘わらず処理時間およびメモリへのデータ転送量が増大することなく画像合成処理を行うことができるという効果がある。
【図面の簡単な説明】
【0012】
【図1】本発明の第1の実施形態による画像合成装置の一例が用いられた撮像装置を示すブロック図である。
【図2】図1に示すデジタルビデオカメラにおける画像合成処理を示すフローチャートである。
【図3】図1に示すデジタルビデオカメラにおける画像合成処理を説明するためのタイミング図である。
【図4】本発明の第1の実施形態による画像合成装置の他の例が用いられた撮像装置を示すブロック図である。
【図5】本発明の第2の実施形態による画像合成装置が用いられたデジタルビデオカメラにおける画像合成処理を示すフローチャートである。
【図6】本発明の第2の実施形態による画像合成装置が用いられたデジタルビデオカメラにおける画像合成処理を説明するためのタイミング図である。
【図7】本発明の第3の実施形態による画像合成装置の一例が用いられた撮像装置を示すブロック図である。
【図8】図7に示すデジタルビデオカメラにおける画像合成処理を説明するためのタイミング図である。
【図9】従来の画像合成装置の一例を示すブロック図である。
【図10】図9に示す画像合成装置における画像合成処理を説明するための図である。
【発明を実施するための形態】
【0013】
以下、本発明の実施の形態による画像合成装置の一例について図面を参照して説明する。
【0014】
[第1の実施形態]
ここで、従来の画像合成装置における画像合成処理について概説する。
【0015】
図9は、従来の画像合成装置の一例を示すブロック図である。また、図10は、図9に示す画像合成装置における画像合成処理を説明するための図である。
【0016】
図9および図10を参照して、図示の画像合成装置は、所謂巡回型の画像合成装置であり、この画像合成装置では、合成する画像枚数が変化する場合に、巡回回数を変更することによって合成画像枚数の変化に対して対応する。いま、メモリ901に保存された撮像・メモリ保持画像1001から5枚の画像を合成するとする。入力部900から1フレーム目(F[1])から5フレーム目(F[5])の画像が順次入力されると、メモリ901に1フレーム目(F[1])から5フレーム目(F[5])までの画像が一旦保持される。
【0017】
次に、位置合わせ部902は画像F[1]を読み出して、画像F[5]に対する位置合わせを行って、画像F_r[1]を生成する。同一のタイミングで、合成部903は画像F[5]を読み出して、画像F_r[1]と合成処理を行って合成後の画像をメモリ901に保持する。
【0018】
同様の処理を、2、3、および4フレーム目について繰り返し、最終的に1フレーム目から5フレーム目までの画像の合成処理が終了すると、合成部903は合成後の画像(合成動画1002)を出力部904に出力する。この際、合成を行わない画像があれば、合成部903は当該画像をメモリ901から読み込まない。
【0019】
ここで、図9に示す画像合成装置では静止画像の合成を行っており、動画像の画像合成を行うとなると、不可避的に合成処理時間が増加するばかりでなく、メモリに対する転送量が増加する。
【0020】
例えば、図10に示すように、一般的な動画像のフレームレートである60fpsで動画像を撮影して、合成後の動画像のフレームレートを60fpsとして合成後の動画像を記録・出力するとする。この場合、5枚の画像を合成しようとすれば、5枚の画像に対する時間的な位置合わせおよび画像合成を1/60秒で終了する必要がある。
【0021】
さらに、1/60秒の間に、合成する画像の枚数分だけメモリに対するリード/ライトが発生する。このため、静止画像を合成する際に比べてメモリに対するデータ転送量が増加してしまうことになる。そして、画像合成の枚数が増加するに連れて、処理時間およびメモリへのデータ転送量は増大することになる。
【0022】
そこで、本実施形態では、1回の画像加算および1回の画像減算によって、合成画像を生成することができる構成をとることで、合成する画像枚数が増加しても、処理時間およびメモリへのデータ転送量を増加させることなく合成処理を行うことができる。
【0023】
図1は、本発明の第1の実施形態による画像合成装置の一例が用いられた撮像装置を示すブロック図である。
【0024】
図示の撮像装置は、デジタルビデオカメラであり、動画像を撮影してその画像合成を行う。図1において、デジタルビデオカメラはレンズ100およびシャッター101を有している。なお、シャッター101はメカシャッターの他に所謂電子シャッターを含むものとする。
【0025】
レンズ100およびシャッター101を介して光学像がCMOSセンサ102などの撮像素子に結像される。CMOSセンサ102は光学像をアナログ信号に変換して、このアナログ信号をAD変換部103に出力する。そして、AD変換部103はアナログ信号をAD変換して、ディジタル信号(画像信号)としてカメラ信号処理部104に与える。
【0026】
カメラ信号処理部104は画像信号に対して、例えば、リサイズ処理及び現像処理などの各種画像処理を行って、画像データとする。そして、カメラ信号処理部104は画像データをメモリ105に書き込む。ここでは、デジタルビデオカメラによる撮影の結果得られた画像データは動画像データであり、この動画像データは複数のフレームを有し、フレーム毎に画像データがメモリ105に書き込まれる。なお、以下の説明では、動画像データは5フレームで構成されているものとする。
【0027】
画像位置合わせ部106(画像位置合わせ手段)は、メモリ105から画像データを読み出して、後述するように、基準となる画像データと他の画像データとの位置合わせを行う。図示のように、画像位置合わせ部106の出力には第1のスイッチ部107が接続され、メモリ105には第2のスイッチ部108が接続されている。そして、第1のスイッチ部107は位置合わせ後の画像データを選択的に画像加算部109(加算手段)および画像減算部110(減算手段)の一方に与える。同様に、第2のスイッチ部108は、メモリ105から読み出された画像データを選択的に画像加算部109および画像減算部110の一方に与える。
【0028】
画像加算部109は位置合わせ後の画像データとメモリ105から読み出された画像データとの加算を行う。つまり、画像加算部107は2枚の画像の加算を行う。画像減算部110は位置合わせ後の画像データとメモリ105から読み出された画像データとの減算を行う。つまり、画像減算部110は2枚の画像の減算を行う。
【0029】
画像加算部109および画像減算部110の出力は第3のスイッチ部111に接続されており、第3のスイッチ部111は画像加算部109および画像減算部110の出力を切り換えて、出力画像データとして出力する。そして、出力画像データはメモリ105に書き込まれるとともに、記録部112および表示部113に与えられる。記録部112は出力画像データをフラッシュメモリ又はHDD等の記録媒体に記録する。表示部113は出力画像データを画像として表示する。
【0030】
なお、図1には示されていないが、カメラ信号処理部104、画像位置合わせ部106、第1のスイッチ部107、第2のスイッチ部108、第3のスイッチ部111、画像加算部109、および画像減算部110などはCPUの制御下で動作する。
【0031】
図2は、図1に示すデジタルビデオカメラにおける画像合成処理を示すフローチャートである。また、図3は、図1に示すデジタルビデオカメラにおける画像合成処理を説明するためのタイミング図である。
【0032】
図3において、メモリ105に書き込んだ画像データを符号301で示し、合成処理後の画像データを符号302で示す。nは1から始まるフレーム番号であり、F[n]はメモリ105に書き込んだnフレーム目の画像データを示す。また、F_r[n]は、nフレーム目の画像データについて位置合わせを行った後の画像データを示す。そして、F[n]’およびF[n]’’の各々はnフレーム目まで画像データを合成した合成画像データを示す。ここでは、画像データF[n]は1/60秒毎に入力され、合成画像データF[n]’も1/60秒毎に生成される。従って、後述する画像合成処理は、1/60秒の期間で完了する。
【0033】
図1〜図3を参照して、画像合成処理が開始されると、まず、CPUはフレーム番号n=1とするとともに、合成画像枚数N=5とする(ステップS201)。続いて、CPUはシャッタースピードを設定されたシャッタースピードとする。これによって、設定シャッタースピードにおいて、レンズ100およびシャッター101を介して入力された光学像がCMOSセンサ103に結像する。そして、前述したように、CMOSセンサ103の出力であるアナログ信号がAD変換部103でディジタル信号とされる。このディジタル信号はカメラ信号処理部104において画像処理されて画像データF[n]とされる(ステップS202)。その後、画像データF[n]はメモリ105に書き込まれる(ステップS203)。なお、以下の説明では、画像データを単に画像と呼ぶ。
【0034】
続いて、CPUは現在のフレーム番号nが合成画像枚数Nより大きいか否かを判定する(ステップS204)。n≦Nであると(ステップS204において、NO)、つまり、フレーム番号nが5以下であると、CPUはn=1であるか否か判定する(ステップS205)。n=1であると(ステップS205において、YES)、つまり、入力画像が1フレーム目の画像であると、CPUは第2および第3のスイッチ部108および111を制御して、メモリ105に保存された画像F[1]を、画像加算部109を介して記録部112および表示部113に与える。これによって、画像F[1]が記録部112によって記録されるとともに、表示部113に表示される(ステップS223)。また、画像F[1]は合成画像F[1]’としてメモリ105に書き込まれる。なお、1フレーム目では合成する画像は存在しないので、F[1]=F[1]’である。
【0035】
続いて、CPUは次のフレームがあるか否かを判定する(ステップS224)。次のフレームがなければ(ステップS224において、YES)、CPUは画像合成処理を終了する。一方、次のフレームがあると(ステップS224において、NO)、CPUはフレーム番号nをインクリメントする(ステップS225)。ここでは、n=1であるので、n=2とする。そして、CPUはステップS202の処理に移行する。
【0036】
ステップS205において、n=1でないと(ステップS205において、NO)、CPUはステップS206の処理に移行する。例えば、入力画像が2フレーム目の場合には、位置合わせ部106はCPUの制御下で1フレーム目の合成画像F[1]’をメモリ105から読み出す(ステップS207)。なお、入力画像がnフレーム目であれば、位置合わせ部は画像F[1]〜F[n−1]の合成画像F[n−1]’をメモリ105から読み出すことになる。そして、位置合わせ部106は2フレーム目の画像F[2]を基準として合成画像F[1]’の位置合わせを行って、位置合わせ画像F_r[1]’を生成する(ステップS208)。
【0037】
CPUは第1および第2のスイッチ部107および108を制御して、画像位置合わせ部106およびメモリ105を画像加算部109に接続する。画像加算部109はメモリ105から画像F[2]を読み出して(ステップS209)、画像F[2]と位置合わせ画像F_r[1]’とを加算して合成画像F[2]’を生成する(ステップS210)。
【0038】
この際、CPUは第3のスイッチ部111を制御して、画像加算部109を選択する。これによって、合成画像F[2]’はメモリ105に書き込まれる(ステップS211)。そして、処理はステップS223に進んで、合成画像F[2]’は記録部112によって記録されるとともに、表示部113に表示される。
【0039】
このようにして、ステップS208〜S211では、合成画像F[n−1]’が画像F[n]に位置合わせされて、位置合わせ画像F_r[n−1]’と画像F[n]と加算される。そして、加算の結果得られた合成画像F[n]’(第1の合成画像)がメモリ105に書き込まれることになる。
【0040】
ステップS204において、n>Nであると(ステップS204において、YES)、つまり、入力画像が6フレーム目であると、CPUはステップS213の処理に進む。この段階では、メモリ105には1フレーム目〜5フレーム目まで画像の合成画像F[5]’が保存されている。位置合わせ部106はCPUの制御下で、合成F[5]’を構成する画像のうち時間的に最も古い画像である1フレーム目の画像F[1]をメモリ105から読み出す。つまり、画像F[n−N]を読み出す(ステップS213)。そして、位置合わせ部106は画像F[5]に画像F[1]を位置合わせして位置合わせ画像F_r[1]を生成する(ステップS214)。
【0041】
CPUは第1および第2のスイッチ部107および108を制御して、画像位置合わせ部106およびメモリ105を画像減算部110に接続する。画像減算部110は、メモリ105から合成画像F[5]’を読み出す(ステップS215)。そして、画像減算部110は合成画像F[5]’から位置合わせ画像F_r[1]を減算して合成画像F[5]’’を生成する(ステップS216)。
【0042】
この際、CPUは第3のスイッチ部111を制御して、画像減算部110を選択する。これによって、合成画像F[5]’’がメモリ105に書き込まれる(ステップS217)。合成画像F[5]’’は1フレーム目〜5フレーム目までの合成画像F[5]’から、1フレーム目の画像F[1]を減算したので、2フレーム目から5フレーム目までの合成画像となる。この合成画像F[5]’’は一時的に生成される画像であり、CPUは当該合成画像F[5]’’を記録部112で記録することなく、しかも表示部113で表示しない。
【0043】
続いて、位置合わせ部106は合成画像F[5]’’をメモリ105から読み出して(ステップS218)、合成画像F[5]’’に用いられる画像よりも時間的に新しい、新たに合成する画像F[6]に位置合わせした画像F_r[5]’’を生成する(ステップS219)。
【0044】
CPUは第1および第2のスイッチ部107および108を制御して、画像位置合わせ部106およびメモリ105を画像加算部109に接続する。画像加算部109はメモリ105から画像F[6]を読み出す(ステップS220)。そして、画像加算部109は画像F[6]と位置合わせ画像F_r[5]’’とを加算し(ステップS221)、合成画像F[6]’を生成してメモリ105に保存する(ステップS222)。
【0045】
その後、処理はステップS223に移行し、CPUは第3のスイッチ部111を制御して合成画像F[6]’を記録部112によって記録するとともに、合成画像F[6]’を表示部113に表示する。そして、処理はステップS224に進む。
【0046】
なお、7フレーム以降については、ステップS213〜S225の処理が行われることになる。
【0047】
このようにして、ステップS214〜S222の処理では、画像F[n−N]を画像F[n−1]に位置合わせして、位置合わせ画像F_r[n−N](第1の位置合わせ画像)を生成する。そして、合成画像F[n−1]’から位置合わせ画像F_r[n−N]を減算(減算処理)して、合成画像F[n−1]’’(第2の合成画像)を得る。続いて、合成画像F[n−1]’’を画像F[n]に位置合わせして、位置合わせ画像F_r[n−1]’’(第2の位置合わせ画像)を生成する。その後、位置合わせ画像F_r[n−1]’’と画像F[n]とを加算(加算処理)して、合成画像F[n]’(第3の合成画像)を得る。
【0048】
このように、上述の第1の実施形態では、1回の画像加算および1回の画像減算によって、合成画像を生成することができるので、合成する画像枚数が増加しても、処理時間およびメモリへのデータ転送量を増加させることなく合成処理を行うことができる。
【0049】
図4は本発明の第1の実施形態による画像合成装置の他の例が用いられた撮像装置を示すブロック図である。なお、図4において、図1に示すデジタルビデオカメラと同一の構成要素については同一の参照番号を付して説明を省略する。
【0050】
三脚等にビデオカメラを搭載して撮影を行う場合、手振れに起因する画像ぶれは起こりにくい。この際には、特に、位置合わせを行う必要がない。従って、図4に示すデジタルビデオカメラでは、第4のスイッチ部620が備えられている。そして、この第4のスイッチ部620はその入力側がメモリ105および画像位置合わせ部106に接続され、出力側が第1のスイッチ部107に接続されている。第4のスイッチ部620はCPUによって切り替え制御され、メモリ105および画像位置合わせ部106のいずれかを選択する。
【0051】
図4に示すデジタルビデオカメラでは、動画像の1フレーム目〜5フレーム目までについては、図2に示すステップS205〜S211の処理を行う。6フレーム目となると、1フレーム目〜5フレーム目までの合成画像F[5]’がメモリ605に保持されている。
【0052】
まず、画像減算部110は、時間的に最も古い画像である1フレーム目の画像F[1]と合成画像、F[5]’とをメモリ105から読み出して、合成画像F[5]’から画像F[1]を減算する。これによって、画像減算部110は合成画像F[5]’’を生成して、合成画像F[5]’’をメモリ105に保存する。
【0053】
続いて、画像加算部109は、6フレーム目の画像F[6]と合成画像F[5]’’とをメモリ105から読み出して、画像F[6]と合成画像F[5]’’とを加算する。これによって、画像加算部109は合成画像F[6]’を生成し、合成画像F[6]’をメモリ105に保存する。
【0054】
[第2の実施形態]
続いて、本発明の第2の実施形態による画像合成装置の一例について説明する。
【0055】
図5は、本発明の第2の実施形態による画像合成装置が用いられたデジタルビデオカメラにおける画像合成処理を示すフローチャートである。また、図6は、本発明の第2の実施形態による画像合成装置が用いられたデジタルビデオカメラにおける画像合成処理を説明するためのタイミング図である。
【0056】
なお、第2の実施形態におけるデジタルビデオカメラの構成は図1に示す例と同様である。また、図5および図6において、図2および3と同一の処理については同一の参照符号を付す。以下の説明では、CPUによる第1、第2、および第3のスイッチ部107、108、および111の切り替え制御についてその説明を省略する。
【0057】
図1、図5、および図6を参照して、ここでは、デジタルビデオカメラにおいて5枚の画像を合成した動画像を生成する場合について説明する。図2に関連して説明したようにして、ステップS201〜ステップS211の処理が実行される。いまステップS204において、n>Nであると、つまり、入力画像が6フレーム目以降であると、ステップS413の処理に移行する。入力画像が6フレーム目であるとすると、メモリ105には1フレーム目〜5フレーム目までの合成画像F[5]’が保存されている。
【0058】
ステップS413において、位置合わせ部106はメモリ105から合成F[5]’をメモリ105から読み出す。そして、位置合わせ部106は合成画像F[5]’を新たに合成する画像F[6]に位置合わせして、位置合わせ画像F_r[5]’を生成する(ステップS414)。
【0059】
画像加算部109は、メモリ105から画像F[6]を読み出す(ステップS415)。そして、画像加算部109は画像F[6]と位置合わせ画像F_r[5]’とを加算して(ステップS416)、新たな合成画像F[6]’’を生成する。画像加算部109は合成画像F[6]’’をメモリ105に保存する(ステップS417)。
【0060】
合成画像F[6]’’は1フレーム目から5フレーム目までの合成画像に、6フレーム目の画像を加算した画像であり、1フレーム目〜6フレーム目までの合成画像である。この合成画像F[6]’’は一時的に生成される画像であって、記録部112における記録および表示部113による表示は行われない。
【0061】
続いて、画像位置合わせ部106は合成画像F[6]’’を構成する画像のうち、時間的に最も古い画像である1フレーム目の画像F[1]をメモリ105から読み出す(ステップS418)。そして、画像位置合わせ部106は画像F[1]をF[6]’’に位置合わせして、位置合わせ画像F_r[1]を生成する(ステップS419)。
【0062】
続いて、画像減算部110はメモリ105から合成画像F[6]’’を読み出す(ステップS420)。そして、画像減算部110は合成画像F[6]’’から位置合わせて画像F_r[1]を減算して(ステップS421)、合成画像F[6]’を生成する。画像減算部110は合成画像F[6]’をメモリ105に保存する(ステップS422)。その後、処理は図2で説明したステップS223に進む。
【0063】
なお、7フレーム目以降についても、ステップS413〜S422の処理が行われる。
【0064】
このように、上述の第2の実施形態においても、1回の画像加算および1回の画像減算によって、合成画像を生成することができるので、合成する画像枚数が増加しても、処理時間およびメモリへのデータ転送量を増加させることなく合成処理を行うことができる。
【0065】
[第3の実施形態]
図7は、本発明の第3の実施形態による画像合成装置の一例が用いられた撮像装置を示すブロック図である。なお、図7において、図1に示すデジタルビデオカメラと同一の構成要素については同一の参照番号を付して説明を省略する。
【0066】
図示のデジタルビデオカメラは、被写体動き検出部722(動き検出手段)と第1および第2のゲイン調整部720および721(ゲイン調整手段)とを有している。被写体動き検出部722にはカメラ信号処理部104の出力である画像データが与えられる。被写体動き検出部722は画像データに応じて画像中の人物などの被写体の動きを検出して動き検出信号を出力する。
【0067】
図示のように、第1のゲイン調整部720は画像位置合わせ部106の出力に接続され、第2のゲイン調整部721はメモリ105に接続されている。そして、第1のゲイン調整部720は動き検出信号に応じて画像位置合わせ部106の出力である位置合わせ画像のゲイン調整を行う。同様に、第2のゲイン調整部721は、動き検出信号に応じてメモリ105から読み出した画像のゲイン調整を行う。
【0068】
図8は、図7に示すデジタルビデオカメラにおける画像合成処理を説明するためのタイミング図である。
【0069】
図7および図8を参照して、いま、動画像のフレームが6フレーム目で、このフレームにおいて被写体動き検出部722が被写体の動きを検出したとする。この場合には、後述するように、1フレーム目の画像の影響を残して、6フレーム目の画像の影響を少なくするようにゲイン調整が行われる。なお、以下の説明では、CPUによる第1、第2、および第3のスイッチ部107、108、および111の切り替え制御についてその説明を省略する。
【0070】
まず、画像位置合わせ部106は合成画像F[5]’を構成する画像のうち、時間的に最も古い画像である1フレーム目の画像F[1]をメモリ105から読み出する。そして、画像位置合わせ部106は画像F[1]を画像F[5]に位置合わせて、位置合わせ画像F_r[1]を生成する。第1のゲイン調整部720は、位置合わせ画像F_r[1]に対して所定のゲイン(α)を乗算してゲイン調整画像(α*F_r[1])を生成する。前述のように、1フレーム目については減算が行われるが、ここでは、1フレーム目の影響を残すための、αは1より小さくする。
【0071】
画像減算部110は、メモリ105から読み出した合成画像F[5]’からゲイン調整画像(α*F_r[1])を減算して、合成画像F[5]’’を生成する。そして、画像減算部110は合成画像F[5]’’をメモリ105に保存する。この合成画像F[5]’’は1フレーム目から5フレーム目までの合成画像から、1フレーム目の画像についてゲイン調整を行った画像を減算した画像となる。
【0072】
次に、画像位置合わせ部106は合成画像F[5]’’をメモリ705から読み出す。画像位置合わせ部106は合成画像F[5]’を新たに合成する画像F[6]に位置合わせして位置合わせ画像F_r[5]’’を生成する。第2のゲイン調整部721は、画像F[6]に所定のゲイン(α)を乗算して、ゲイン調整画像(α*F[6])を生成する。6フレーム目の画像については前述のように加算が行われるが、ここでは、1フレーム目のゲインと同一のゲイン(α)が用いられる。
【0073】
画像加算部109は、メモリ105から読み出した位置合わせ画像F_r[5]’’とゲイン調整画像(α*F[6])とを加算して、新たな合成画像F[6]’を生成する。そして、画像加算部109は合成画像F[6]’をメモリ105に保存する。
【0074】
このようにして、第3の実施形態では、合成処理を行っている際に被写体に動きが発生すると、加算する画像と減算する画像に対してゲイン調整を行なっているので、被写体の動きによる影響を少なくすることができる。
【0075】
以上説明したように、本実施の形態によれば、動画像を合成する際、合成枚数に拘わらず処理時間およびメモリへのデータ転送量が増大することなく画像合成処理を行うことができる。
【0076】
上述の説明から明らかなように、図1などにおいて、画像加算部109が第1の合成手段として機能し、画像加算部109および画像減算部110が第2の合成手段として機能する。また、メモリ105、画像位置合わせ部106、第1のスイッチ部107、第2のスイッチ部108、画像加算部109、画像減算部110、および第3のスイッチ部111は画像合成装置を構成する。
【0077】
以上、本発明について実施の形態に基づいて説明したが、本発明は、これらの実施の形態に限定されるものではなく、この発明の要旨を逸脱しない範囲の様々な形態も本発明に含まれる。
【0078】
例えば、上記の実施の形態の機能を制御方法として、この制御方法を画像合成装置に実行させるようにすればよい。また、上述の実施の形態の機能を有するプログラムを制御プログラムとして、この制御プログラムを画像合成装置が備えるコンピュータに実行させるようにしてもよい。なお、制御プログラムは、例えば、コンピュータに読み取り可能な記録媒体に記録される。
【0079】
この際、制御方法および制御プログラムは、少なくとも発光ステップ、第1の合成ステップおよび第2の合成ステップを有することになる。
【0080】
また、本発明は、以下の処理を実行することによっても実現される。即ち、上述した実施形態の機能を実現するソフトウェア(プログラム)を、ネットワーク又は各種記録媒体を介してシステム或いは装置に供給し、そのシステム或いは装置のコンピュータ(またはCPUやMPU等)がプログラムを読み出して実行する処理である。
【符号の説明】
【0081】
102 撮像素子
103 AD変換部
104 カメラ信号処理部
105 メモリ
106 画像位置合わせ部、
107、108、111 スイッチ部
109 画像加算部
110 画像減算部
112 記録部
113 表示部

【特許請求の範囲】
【請求項1】
複数のフレームを合成して合成画像を得る画像合成装置であって、
前記予め設定された数のフレームを合成して第1の合成画像を得る第1の合成手段と、
前記第1の合成画像に別の1つのフレームの画像の合成を行う際、前記第1の合成画像に対して前記第1の合成画像の合成に用いられた所定のフレームの画像を減算するとともに、前記別の1つのフレームの画像を加算して合成画像を生成する第2の合成手段とを有することを特徴とする画像合成装置。
【請求項2】
前記第2の合成手段は、前記第1の合成画像から前記所定のフレームの画像を減算して第2の合成画像を得る減算手段と、
前記第2の合成画像に対して前記別の1つのフレームの画像を加算して第3の合成画像を得る加算手段とを有することを特徴とする請求項1に記載の画像合成装置。
【請求項3】
前記第1の合成画像に前記別の1つのフレームの画像を合成する際、前記所定のフレームの画像を前記第1の合成画像に位置合わせして第1の位置合わせ画像を生成する画像位置合わせ手段を備え、
前記減算手段は前記第1の位置合わせ画像を前記所定のフレームの画像として減算を行って前記第2の合成画像を生成し、
さらに、前記画像位置合わせ手段は、前記第2の合成画像を前記別の1つのフレームの画像に位置合わせして第2の位置合わせ画像を生成して、
前記加算手段は前記第2の位置合わせ画像を前記第2の合成画像として加算を行って前記第3の合成画像を得ることを特徴とする請求項2に記載の画像合成装置。
【請求項4】
前記第2の合成手段は、前記第1の合成画像に対して前記別の1つのフレームの画像を加算して第2の合成画像を得る加算手段と、
前記第2の合成画像から前記所定のフレームの画像を減算して第3の合成画像を得て、該第3の合成画像を前記合成画像とする減算手段とを有することを特徴とする請求項1に記載の画像合成装置。
【請求項5】
前記続く1つのフレームの画像を合成する際、前記第1の合成画像を前記別の1つのフレームの画像に位置合わせして第1の位置合わせ画像を生成する画像位置合わせ手段を備え、
前記加算手段は前記第1の位置合わせ画像を前記第1の合成画像として加算を行って前記第2の合成画像を生成し、
さらに、前記画像位置合わせ手段は、前記所定のフレームの画像を前記第2の合成画像に位置合わせして第2の位置合わせ画像を生成して、
前記減算手段は前記第2の位置合わせ画像を前記所定の古いフレームの画像として減算を行って前記第3の合成画像を得ることを特徴とする請求項4に記載の画像合成装置。
【請求項6】
前記所定のフレームの画像は、前記第1の合成画像における最も古い画像であることを特徴とする請求項1乃至4のいずれか1項に記載の画像合成装置。
【請求項7】
前記別の1つのフレームの画像は、前記第1の合成画像に用いられるフレームの画像よりも新しいフレームの画像であることを特徴とする請求項1乃至6のいずれか1項に記載の画像合成装置。
【請求項8】
前記別のフレームの画像と該別のフレームよりも前のフレームの画像との間で被写体の動きを検出する動き検出手段と、
前記動き検出手段によって前記被写体の動きが検出されると、加算および減算処理の前に画像のゲイン調整を行うゲイン調整手段とを有することを特徴とする請求項1〜7のいずれか1項に記載の画像合成装置。
【請求項9】
複数のフレームを合成して合成画像を得る画像合成装置の制御方法であって、
前記予め設定された数のフレームを合成して第1の合成画像を得る第1の合成ステップと、
前記第1の合成画像に別の1つのフレームの画像の合成を行う際、前記第1の合成画像に対して前記第1の合成画像の合成に用いられた所定のフレームの画像を減算するとともに、前記別の1つのフレームの画像を加算して合成画像を生成する第2の合成ステップとを有することを特徴とする制御方法。
【請求項10】
複数のフレームを合成して合成画像を得る画像合成装置で用いられる制御プログラムであって、
前記画像合成装置が備えるコンピュータに、
前記予め設定された数のフレームを合成して第1の合成画像を得る第1の合成ステップと、
前記第1の合成画像に別の1つのフレームの画像の合成を行う際、前記第1の合成画像に対して前記第1の合成画像の合成に用いられた所定のフレームの画像を減算するとともに、前記別の1つのフレームの画像を加算して合成画像を生成する第2の合成ステップとを実行させることを特徴とする制御プログラム。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7】
image rotate

【図8】
image rotate

【図9】
image rotate

【図10】
image rotate