説明

撮像装置及び画像合成プログラム

【課題】画像のずれを抑制してハイダイナミックレンジ撮影することができる撮像装置及び画像合成プログラムを提供する
【解決手段】被写体を撮像して画像データを生成する撮像素子14と、撮像素子14が連続撮像した複数の画像データを一次記憶可能なRAM20と、RAM20に記憶された複数の画像データを加算合成して加算画像データを生成する加算合成部と、複数の画像データのうち一部の画像データと加算画像データとを合成してハイダイナミックレンジ画像データを生成し、生成したハイダイナミックレンジ画像データを出力するハイダイナミックレンジ合成部とを備えた。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、撮像装置及び画像合成プログラムに関する。
【背景技術】
【0002】
従来から、暗部と明部を有する同一の被写体を異なる露出条件で撮影して得られた複数の撮像画像を合成することにより、暗部が黒くつぶれたり明部が白く飛んだりしていない一つの合成画像を生成可能とするハイダイナミックレンジ(以下、「HDR」という。)撮影技法が知られている(例えば、特許文献1参照)。
【0003】
すなわち、こうした従来のHDR撮影技法では、異なる露出条件で撮影された複数の撮像画像を、位置補正した上でHDR合成することにより一つの合成画像を生成していた。
【先行技術文献】
【特許文献】
【0004】
【特許文献1】特開2003−319240号公報
【発明の概要】
【発明が解決しようとする課題】
【0005】
ところで、一般に位置補正は、撮像画像から被写体の輪郭を抽出すると共に、各撮像画像同士で抽出した輪郭を比較することによって行われている。しかし、異なる露出条件で撮影された撮像画像では、同じ輪郭を抽出するのが困難であるため、位置ずれを類推する処理に時間を要してしまう。
【0006】
本発明は、このような事情に鑑みてなされたものであり、その目的は、画像のずれを抑制してハイダイナミックレンジ撮影することができる撮像装置及び画像合成プログラムを提供することにある。
【課題を解決するための手段】
【0007】
上記目的を達成するために、本発明の撮像装置は、被写体を撮像して画像データを生成する撮像手段と、該撮像手段が連続撮像した複数の画像データを一次記憶可能な記憶手段と、該記憶手段に記憶された複数の前記画像データを加算合成して第1の画像データを生成する第1の合成手段と、前記複数の画像データのうち一部の画像データと前記第1の画像データとを合成して第2の画像データを生成する第2の合成手段と、該第2の合成手段が生成した前記第2の画像データを出力する出力手段とを備えたことを要旨とする。
【0008】
また、本発明の撮像装置において、前記出力手段は、前記第2の合成手段が生成した前記第2の画像データを逐次出力することを要旨とする。
また、本発明の撮像装置において、前記第2の合成手段は、前記複数の画像データのうち最も輝度の低い画像データを含む少なくとも一つの画像データを前記第1の画像データとの合成に用いることを要旨とする。
【0009】
また、本発明の撮像装置において、前記第2の合成手段は、前記画像データの輝度が相対的に高い場合には、輝度が相対的に低い場合と比べて、前記第1の画像データとの合成に用いる前記画像データの数を減少させることを要旨とする。
【0010】
また、本発明の撮像装置において、前記第1の合成手段は、前記撮像手段が所定時間当たりに撮像した複数の前記画像データを加算合成して第1の画像データを生成し、前記出力手段は、前記第2の合成手段が生成した前記第2の画像データを前記所定時間ごとに逐次出力することを要旨とする。
【0011】
また、本発明の画像合成プログラムは、コンピュータに、被写体を撮像して画像データを生成する撮像手段が連続撮像した複数の画像データを一次記憶する記憶手順と、該記憶手順において記憶された複数の前記画像データを加算合成して第1の画像データを生成する第1の合成手順と、前記複数の画像データのうち一部の画像データと前記第1の画像データとを合成して第2の画像データを生成する第2の合成手順と、該第2の合成手順において合成した前記第2の画像データを出力する出力手順とを実行させることを要旨とする。
また、本発明の撮像装置は、被写体を撮像して画像データを生成する撮像手段と、基準画像に対して、該基準画像以外の他の画像を位置合わせして加算合成することにより第1の画像データを生成する第1の合成手段と、前記基準画像の画像データと前記第1の画像データとを合成して第2の画像データを生成する第2の合成手段と、を備えたことを要旨とする。
また、本発明の画像合成プログラムは、コンピュータに、被写体を撮像して画像データを生成する撮像手段が連続撮像した複数の画像中の基準画像に対して、該基準画像以外の他の画像を位置合わせして加算合成することにより第1の画像データを生成する第1の合成手順と、前記基準画像の画像データと前記第1の画像データとを合成して第2の画像データを生成する第2の合成手順とを実行させることを要旨とする。
【発明の効果】
【0012】
本発明によれば、画像のずれを抑制してハイダイナミックレンジ撮影することができる。
【図面の簡単な説明】
【0013】
【図1】第1の実施形態におけるデジタルカメラの概略構成を示すブロック図。
【図2】明部と暗部を有する画像を撮影する場合の画面図。
【図3】撮像処理ルーチンを示すフローチャート。
【図4】スルー画像の作成手順を説明する説明図。
【図5】画像合成ルーチンを示すフローチャート。
【図6】画像合成の手順を説明する説明図。
【図7】画像合成の手順を説明する説明図。
【図8】第2の実施形態における画像合成の手順を説明する説明図。
【発明を実施するための形態】
【0014】
(第1の実施形態)
以下、本発明を静止画および動画の撮影が可能な撮像装置としてのデジタルカメラ(以下、「カメラ」という。)及びこのカメラを用いて被写体をハイダイナミックレンジ(HDR)撮影する場合の撮像方法に具体化した第1の実施形態を図1〜図7に基づいて説明する。
【0015】
図1に示すように、カメラ11は、ズームレンズなどの複数のレンズからなるレンズ部12(図1では図面の簡略化のため1つのレンズのみ図示)と、レンズ部12を通過した被写体光の光量を調整する絞り13とを有している。さらに、カメラ11は、絞り13を通過した被写体光を撮像面となる入射側の受光面14aに結像させる撮像手段として機能する撮像素子14を有している。そして、撮像素子14の出力側には、AFE(Analog Front End)15と画像処理回路16とが接続されると共に、その画像処理回路16に対してMPU(Micro Processing Unit)17がデータバス18を介して接続されている。
【0016】
また、MPU17には、カメラ11の制御プログラムを記憶した不揮発性メモリ19、記憶手段として機能するRAM20、表示手段として機能する液晶表示のモニタ21、及び記録媒体であるメモリカード22を挿脱可能なカードI/F(Inter-Face)23がデータバス18を介して接続されている。さらに、カメラ本体(図示略)には、そのカメラ11の使用者により操作されるモード切り替えボタンやレリーズボタン等からなる操作部材24が、コンピュータとして機能するMPU17に対して各々の操作信号(モード切替信号や半押し操作信号など)をデータ通信可能に設けられている。
【0017】
撮像素子14は、CMOS(Complementary Metal Oxide Semiconductor)イメージセンサ、又はCCD(Charge Coupled Device)イメージセンサからなり、電子シャッター機能を有すると共に、その受光面14aには多数の受光素子(図示略)が二次元的に配列されている。そして、撮像素子14は、その受光面14aに結像した被写体像に対応した信号電荷を蓄積し、その蓄積した信号電荷を画像データの元となる画素信号と呼ばれるアナログ信号でAFE15に出力する。
【0018】
AFE15は、撮像素子14から入力したアナログ信号の画素信号を所定のタイミングでサンプリング(相関二重サンプリング)し、例えばISO感度に基づく所定信号レベルとなるように増幅する信号処理部(図示略)と、その増幅後の画素信号をデジタル信号に変換するA/D変換部(図示略)とを有している。そして、AFE15は、アナログ信号の画素信号をA/D変換部でデジタル化することにより生成した画像データを画像処理回路16に出力する。
【0019】
画像処理回路16は、AFE15から入力した画像データに対して、MPU17からの制御信号に基づき各種の画像処理を施す。そして、画像処理回路16は、そのように画像処理を施した画像データを、RAM20に一次記憶させると共に、モニタ21にスルー画像として表示させる。また、レリーズボタンが全押し操作された場合は、そのときの画像データと対応する画像をモニタ21に確認用画像として表示させる一方、例えばJPEG圧縮のためのフォーマット処理等の所定の画像処理を施した後に、メモリカード22に画像ファイルとして記録させる。
【0020】
MPU17は、不揮発性メモリ19に記憶された画像合成プログラムなどの制御プログラムに基づき、カメラ11における各種の処理動作(例えばHDR撮影処理等)を統括的に制御する。そして、データバス18は、そうしたMPU17の制御に伴う各種データの伝送路として機能する。
【0021】
また、操作部材24におけるモード切り替えボタンは、カメラ11の動作モードを切り替える場合に操作されるボタンである。すなわち、モード切り替えボタンは、例えば撮影モードを通常撮影モード、HDR静止画撮影モード、HDR動画撮影モードなどの間で切り替える場合や、撮影した画像をモニタ21に表示する再生モードに切り替える場合に操作される。
【0022】
一方、レリーズボタンは、カメラ11の動作モードが撮影モードである場合において被写体を撮影するときに押し下げ操作される。具体的には、このカメラ11では、通常撮影モードにおいて操作部材24のレリーズボタンが半押し操作された段階で被写体に対する焦点合わせのためのAF(Auto Focus)処理と露出調整のためのAE(Auto Exposure)処理が実行され、その後にレリーズボタンが全押し操作された段階で画像の生成処理が実行されるようになっている。
【0023】
また、このカメラ11は、撮影モードがHDR静止画撮影モード及びHDR動画撮影モードに切り替えられると、図2に示す画像25における被写体のように、暗部と明部とを有する同一の被写体を撮像することによって得た複数の画像データをHDR合成する。因みに、図2の画像25は、太陽26が山27の左側上方に位置しているために山麓にある湖28の湖面が湖畔の立木29の日陰になって暗くなった風景と、動く馬30とを被写体とするものである。
【0024】
そして、HDR静止画撮影モード及びHDR動画撮影モードにおいては、ハイダイナミックレンジ合成(以下、「HDR合成」という。)によって生成された第2の画像データとしてのハイダイナミックレンジ画像データ(以下、「HDR画像データ」という。)をモニタ21に逐次出力することにより、モニタ21には、HDR処理されたスルー画像が表示される。さらに、操作部材24のレリーズボタンが全押し操作された場合には、HDR画像データがメモリカード22に記録されるようになっている。
【0025】
そこで次に、このカメラ11を用いて被写体を撮影する場合の処理を図3〜図7を参照しながら説明する。まず、図3は、カメラ11の電源がオンされると共に、カメラ11の動作モードが撮影モード(通常撮影モード、HDR静止画撮影モード、HDR動画撮影モード)に切り替えられた場合に実行される撮像処理ルーチンである。
【0026】
すなわち、図3に示すように、MPU17は、まずステップS101において、不揮発性メモリ19に記憶された初期露出条件に基づいて被写体を撮像し、その処理を次のステップS102に移行する。なお、初期露出条件は、各撮影モードごとに設定されている。なお、このカメラ11の初期露出条件は、通常撮影モードでは30分の1秒のシャッター速度とされている。また、HDR静止画撮影モード及びHDR動画撮影モードでは、通常撮影モードのシャッター速度よりも速い120分の1秒のシャッター速度とされている。
【0027】
そして、次のステップS102において、MPU17は、ステップS101において撮像した画像データをRAM20に一次記憶させた後、その処理を次のステップS103に移行する。
【0028】
そして、次のステップS103において、MPU17は、動作モードが再生モードに変更されたか否かを判断する。すなわち、使用者によってモード切り替えボタンが操作されて撮影モードから再生モードに変更された場合には(ステップS103=YES)、MPU17は、撮像処理ルーチンを終了する。
【0029】
また、ステップS103において、撮影モードが維持された場合には(ステップS103=NO)、MPU17は、その処理を次のステップS104に移行する。
そして、次のステップS104において、カメラ11の電源がオフされた場合には(ステップS104=YES)、MPU17は、撮像処理ルーチンを終了する。一方、ステップS104において、カメラ11の電源がオン状態に維持された場合には(ステップS104=NO)、MPU17は、その処理をステップS101に移行する。
【0030】
すなわち、カメラ11は、電源のオン状態と撮影モードとが維持されている間、撮像処理ルーチンを繰り返し実行することにより、被写体を連続撮像すると共に、撮像した画像データを順次RAM20に一次記憶する。
【0031】
すなわち、通常撮影モードの場合には、30分の1秒のシャッター速度で連続撮像された画像データがRAM20に一次記憶され、シャッター速度に対応した30fps(frame par second:30こま/秒)のスルー画像としてモニタ21に表示される。
【0032】
一方、図4に示すように、HDR静止画撮影モード、及びHDR動画撮影モードの場合には、MPU17は、120分の1秒のシャッター速度で連続撮像した画像データを順次RAM20に一次記憶する(記憶手順)。そしてMPU17は、RAM20に一次記憶された画像データを加算合成して加算画像データを生成し、所定時間(一例として通常撮影モードの場合と同じ1/30秒)ごとに該加算画像データをモニタ21に出力することにより、30fpsのスルー画像として表示させる。
【0033】
すなわち、所定時間(1/30秒)当たりに撮影した4個の画像データを加算合成することにより生成された第1の画像データとしての加算画像データは、120分の1秒のシャッター速度で撮像された画像データに比べて4倍程度の明るさとなるため、30分の1秒のシャッター速度で撮像した場合と同等の画像となる。したがって、明部と暗部との輝度の差が小さな被写体を撮像する場合には、撮影モードによって被写体を撮像するシャッター速度は異なるものの、モニタ21には同等のスルー画像が表示される。
【0034】
次に、上述したHDR静止画撮影モード及びHDR動画撮影モードにおいてスルー画像を表示する手順を、HDR撮影を行う場合の手順と共に図5〜図7を参照しながら説明する。なお、図5は、カメラ11の電源がオンされると共に、カメラ11の動作モードがHDR静止画撮影モード、HDR動画撮影モードに切り替えられた場合に撮像処理ルーチンと並列に実行される画像合成ルーチンである。そして、このカメラ11では、図3に示す画像処理ルーチンと図5に示す画像合成ルーチンとにより、画像合成プログラムが構成されている。
【0035】
さて、図5に示すように、まずステップS201において、MPU17は、加算合成するN個(Nは複数であって、このカメラ11ではN=4)の画像データがRAM20に記憶されているか否かを判断する。RAM20に記憶された画像データ数がN個未満である場合には(ステップS201=NO)、N個の画像データが記憶されるまで待機する。一方、N個の画像データが記憶された場合には(ステップS201=YES)、その処理を次のステップS202に移行する。
【0036】
そして、次のステップS202において、MPU17は、RAM20に記憶されたN個の画像データを取得して加算合成し、加算画像データを生成する(第1の合成手順)。そして、MPU17は、その処理を次のステップS203に移行する。
【0037】
なお、ステップS202において加算合成する画像データの数Nは、シャッター速度と1秒間にモニタ21に表示するこま数に応じて決まり、1こまの表示時間(例えば1/30秒)をシャッター速度(例えば1/120秒)で割った商(1/30÷1/120=4)となる。
【0038】
そして、次のステップS203において、MPU17は、ステップS202において加算合成した加算画像データ中に白とびがあるか否かを判断する。すなわち、MPU17は、加算画像データが示す輝度成分をヒストグラム解析し、白とびした画素がないと判断した場合には(ステップS203=YES)、その処理を次のステップS204に移行する。
【0039】
そして、次のステップS204において、MPU17は、ステップS202において生成した加算画像データをモニタ21に出力し、スルー画像として表示させる。
一方、ステップS203において、加算合成した加算画像データ中に白とびがあると判断した場合には(ステップS203=NO)、その処理を次のステップS205に移行する。
【0040】
そして、次のステップS205において、MPU17は、HDR合成に使用する高輝度側画像データの生成に使用する画像データ数nをn=Nとし、その処理を次のステップS206に移行する。
【0041】
そして、次のステップS206において、MPU17は、画像データ数nを1つ減少させ、その処理を次のステップS207に移行する。
そして、次のステップS207において、MPU17は、n=1であるか否かを判断する。n=1である場合には(ステップS207=YES)、その処理を次のステップS208に移行する。
【0042】
そして、次のステップS208において、MPU17は、ステップS202において加算合成した加算画像データを低輝度側画像データとすると共に、ステップS202において取得した画像データのうち1つの画像データを高輝度側画像データとしてHDR合成する(第2の合成手順)。そして、MPU17は、HDR画像データを生成すると、その処理を次のステップS204に移行する。
【0043】
そして、次のステップS204において、MPU17は、ステップS208において生成したHDR画像データをモニタ21に出力し、スルー画像として表示させる(出力手順)。
【0044】
一方、ステップS207において、n>1である場合には(ステップS207=NO)、MPU17は、その処理を次のステップS209に移行する。
そして、次のステップS209において、MPU17は、ステップS202において取得したN個の画像データのうち、n個の画像データを加算合成して加算画像データを生成する。そして、MPU17は、加算画像データを生成すると、その処理を次のステップS210に移行する。
【0045】
そして、次のステップS210において、MPU17は、ステップS209において生成された加算画像データに白とびがあるか否かを判断する。すなわち、MPU17は、加算画像データが示す輝度成分をヒストグラム解析し、白とびした画素があると判断した場合には(ステップS210=NO)、その処理をステップS206に移行し、加算合成に使用する画像データの数nを減少させる。すなわち、画像データの輝度が相対的に高い場合には、輝度が相対的に低い場合と比べてHDR合成に用いる画像データの数を減少させる。
【0046】
一方、ステップS210において、白とびがないと判断した場合には(ステップS210=YES)、MPU17は、その処理を次のステップS208に移行する。
そして、次のステップS208において、MPU17は、ステップS202において加算合成した加算画像データを低輝度側画像データとすると共に、ステップS209において加算合成した加算画像データを高輝度側画像データとしてHDR合成する。そして、MPU17は、HDR画像データを生成すると、その処理を次のステップS204に移行する。
【0047】
そして、次のステップS204では、MPU17は、ステップS208において生成したHDR画像データをモニタ21に出力してスルー画像として表示させ、その処理を次のステップS211に移行する。
【0048】
さて、次のステップS211において、MPU17は、動画フラグが0であるか否かを判断する。なお、動画フラグとは、動画撮影(記録)中であるか否かを示すフラグであり、動画撮影中に1となるフラグである。そのため、動画フラグ=1である場合には(ステップS210=NO)、動画撮影中であると判断し、その処理を次のステップS212に移行する。
【0049】
そして、次のステップS212において、MPU17は、モニタ21に出力された加算画像データもしくはHDR画像データを、動画を構成する1つの画像データとしてカードI/F23へ出力してメモリカード22に記録し、その処理をステップS213に移行する。
【0050】
一方、ステップS211において、動画フラグ=0である場合には(ステップS211=YES)、直接次のステップS213に移行する。
そして、次のステップS213において、MPU17は、レジストボタンの操作の有無を判断する。そして、使用者がレジストボタンを操作し、操作ありと判断した場合には(ステップS213=YES)、その処理を次のステップS214に移行する。
【0051】
そして、次のステップS214において、MPU17は、撮影モードがHDR静止画撮影モードであるか、HDR動画撮影モードであるかを判断する。すなわち、撮影モードがHDR静止画撮影モードである場合には(ステップS214=YES)、MPU17は、その処理を次のステップS215に移行する。
【0052】
そして、ステップS215において、MPU17は、モニタ21に出力された加算画像データもしくはHDR画像データをカードI/F23へ出力する。すなわち、MPU17は、メモリカード22に静止画の画像データとして記録し、その処理を次のステップS216に移行する。
【0053】
なお、ステップS213において、使用者がレジストボタンを操作していないと判断した場合には(ステップS213=NO)、MPU17は、直接、その処理を次のステップS216に移行する。
【0054】
一方、ステップS214において、撮影モードがHDR動画撮影モードである場合には(ステップS214=NO)、MPU17は、その処理を次のステップS217に移行する。
【0055】
そして、次のステップS217において、MPU17は、動画フラグ=0であるか否かを判断する。すなわち、動画を撮影中ではない非撮影時には、動画フラグ=0となっているため(ステップS217=YES)、その処理を次のステップS218に移行する。
【0056】
そして、次のステップS218において、MPU17は、動画フラグを1に設定し、その処理を次のステップS219に移行する。
そして、次のステップS219において、MPU17は、モニタ21に出力された加算画像データもしくはHDR画像データを、動画を構成する1つの画像データとしてカードI/F23へ出力してメモリカード22に記録し、その処理を次のステップS216に移行する。
【0057】
また、ステップS217において、MPU17は、動画フラグ=1であると判断した場合には(ステップS217=NO)、その処理をステップS220に移行する。
そして、次のステップS220において、MPU17は、動画フラグを0とし、その処理を次のステップS216に移行する。
【0058】
その後、ステップS216において、MPU17は、動作モードが通常撮影モードもしくは再生モードに変更されたか否かを判断する。すなわち、撮影モードがHDR静止画撮影モードもしくはHDR動画撮影モードから変更された場合には(ステップS216=YES)、その処理を次のステップS221に移行する。
【0059】
そして、次のステップS221において、MPU17は、動画フラグを0として画像合成処理ルーチンを終了する。すなわち、MPU17は、動画撮影中に撮影モードが変更されると、動画撮影を中止してから画像合成ルーチンを終了する。
【0060】
一方、ステップS216において、MPU17は、HDR静止画撮影モードもしくはHDR動画撮影モードが維持されていると判断した場合には(ステップS216=NO)、その処理を次のステップS222に移行する。
【0061】
そして、次のステップS222において、MPU17は、カメラ11の電源がオフされたか否かを判断する。カメラ11の電源がオフされた場合には(ステップS222=YES)、その処理をステップS221に移行し、動画フラグを0とした後に撮像処理ルーチンを終了する。
【0062】
一方、ステップS222において、カメラ11の電源がオフされていない場合には(ステップS222=NO)、MPU17は、その処理をステップS201に戻す。すなわち、MPU17は、カメラ11の電源がオン状態で維持されると共に、HDR静止画撮影モードもしくはHDR動画撮影モードが維持されている間、画像合成ルーチンを繰り返し実行する。
【0063】
次に、以上のように構成された本実施形態のカメラ11の作用について以下説明する。
なお、説明の前提として、この場合にカメラ11で撮影する画像は図2に示す画像25であって、既述したように、その画像25における被写体画像は暗部と明部を有しているものとする。さらに、操作部材24におけるモード切り替えボタンが操作されたことにより撮影モードは通常撮影モードからHDR動画撮影モードに切り替えられているものとする。
【0064】
さて、以上のような前提の下、カメラ11のレンズ部12を被写体となる山27の方向に向けると、山麓に湖28と立木29がある山27の稜線の左側上方に太陽26が昇った状態にある風景と馬30とがスルー画像としてモニタ21に表示される。
【0065】
具体的には、図6に示すように撮像素子14は、1つの画像がスルー画像としてモニタ21に表示される時間(例えば、1/30秒)よりも速いシャッター速度(例えば、1/120秒)で被写体を連続撮像し、順次RAM20に一次記憶する。そして、RAM20に4つの画像データが記憶されると、第1の合成手段としての加算合成部31は、これらの画像データを加算合成して加算画像データを生成する。そして、第2の合成手段としてのHDR合成部32は、加算合成部31が生成した加算画像データと、RAM20に記憶された1つの画像データ(例えば、1番最初に記憶された画像データ)とをHDR合成し、生成したHDR画像データをモニタ21に出力する。したがって、HDR合成部32は、出力手段としても機能している。そして、この処理を連続して行うことにより、モニタ21に表示されるHDR合成された画像が順次切り替わり、HDR動画撮影した場合と同等のスルー画像がモニタ21に表示される。
【0066】
また、例えば、図2の画像25において太陽26が含まれず、複数の画像データを加算合成しても白とびした画素が生じない場合には、図7に示すように、加算画像データ同士をHDR合成してHDR画像データを生成する。なお、図7においては、2個の画像データを合成した場合に白とびが生じないのに対し、3個の画像データを加算合成した場合に白とびが生じるような被写体をHDR撮影する場合の処理を示している。
【0067】
具体的には、図7に示すように撮像素子14は、1つの画像がスルー画像としてモニタ21に表示される時間(例えば、1/30秒)よりも速いシャッター速度(例えば、1/120秒)で被写体を連続撮像し、順次RAM20に一次記憶する。そして、RAM20に4つの画像データが記憶されると、加算合成部31は、これらの画像データを加算合成して低輝度側画像データとなる加算画像データを生成すると共に、一部の画像データ(例えば、先に記憶された2個の画像データ)を加算合成して高輝度側画像データとなる加算画像データを生成する。そして、HDR合成部32は、これらの加算画像データをHDR合成し、生成したHDR画像データをモニタ21に出力する。そして、この処理を連続して行うことにより、モニタ21に表示されるHDR合成された画像が順次切り替わり、HDR動画撮影した場合と同等のスルー画像がモニタ21に表示される。
【0068】
そして、このようにモニタ21にスルー画像が表示されている状態でカメラ11の使用者により、レリーズボタンが全押しされると、モニタ21に出力されるHDR画像データがカードI/F23にも出力される。そのため、メモリカード22には、使用者が再びレリーズボタンを全押しするまでの間に生成したHDR画像データが動画として記録される。
【0069】
また、使用者がモード切り替えボタンを操作して動作モードをHDR静止画撮影モードに切り換えた状態でレリーズボタンを全押しすると、モニタ21に出力されるHDR画像データがカードI/F23にも出力される。そのため、メモリカード22には、HDR画像データが静止画として記録される。
【0070】
上記第1の実施形態によれば、以下のような効果を得ることができる。
(1)HDR合成部32は、加算合成に用いた一部の画像データと、加算合成によって生成された加算画像データとをHDR合成する。そのため、所望の露出条件(例えば、シャッター速度が1/30秒)で撮影した画像をHDR合成するために、1/30秒のシャッター速度で被写体を撮像すると共に、続けて1/120秒のシャッター速度で撮像してHDR合成する場合に比べて、画像のずれを抑制することができる。したがって、撮影画像同士の位置補正をすることなく画像のずれを抑制してハイダイナミックレンジ撮影することができる。
【0071】
(2)輝度に応じてHDR処理に用いる高輝度側画像データを、画像データの数を変更して生成することにより、画像の明るさを調整することができる。したがって、白とびを抑制しつつコントラストの大きな画像を得ることができる。
【0072】
(3)HDR画像データを連続してモニタ21に表示することにより、メモリカード22に記憶するHDR画像データをスルー画像としてユーザに視認させることができる。従って、レリーズボタンを操作してメモリカード22に記憶する静止画及び動画イメージを使用者に伝えることができる。
【0073】
(4)加算合成に用いた画像データと加算画像データとをHDR合成することにより、画像データ同士の位置補正処理を省略してHDR合成を高速化することができる。そのため、1秒あたりに出力されるHDR画像データの数を増加させることができるため、HDR撮影を動画に適用することができる。
【0074】
(第2の実施形態)
次に、本発明の第2の実施形態を図8に従って説明する。なお、第2の実施形態は、第1の実施形態とは被写体を撮影するシャッター速度と加算合成する画像データの数を変更した点でのみ相違しており、その他の構成及び処理は共通しているため、同様の構成部分については同一符号を付すことにして、その詳細な重複説明を省略する。
【0075】
図8に示すように撮像素子14は、静止画を撮影する露出条件(例えば、シャッター速度1/30秒)よりも速いシャッター速度で被写体を連続撮像し、順次RAM20に一次記憶する(記憶手段)。なお、このときのシャッター速度は、撮像ごとに変更され、このカメラ11では、まず1/120秒のシャッター速度で撮像された画像データがRAM20に一次記憶される。そして、続いて3/120秒で撮像された画像データがRAM20に一次記憶される。
【0076】
さて、RAM20に2つの画像データが記憶されると、加算合成部31は、これらの画像データを加算合成して加算画像データを生成する(第1の合成手順)。そして、HDR合成部32は、加算合成部31が生成した加算画像データと、RAM20に記憶された画像データのうち、輝度の低い画像データとをHDR合成し(第2の合成手順)、生成したHDR画像データをモニタ21に出力する(出力手順)。
【0077】
すなわち、シャッター速度が速い画像データの方がシャッター速度が遅い画像データに比べて画像全体の輝度が低く暗い画像となるため、白とびが生じている確立が低い。したがって、HDR合成部32は、加算画像データを低輝度側画像データとすると共に、1/120秒のシャッター速度で撮像された画像データを高輝度側画像データとしてHDR合成する。
【0078】
そして、HDR画像データをモニタ21に出力すると共に、被写体の撮像と加算合成及びHDR合成を連続して実行する。すると、モニタ21に表示されるHDR合成された画像が順次切り替わり、HDR動画撮影した場合と同等のスルー画像がモニタ21に表示される。
【0079】
また、使用者がモード切り替えボタンを操作して動作モードをHDR静止画撮影モードに切り換えた状態でレリーズボタンを全押しすると、モニタ21に出力されるHDR画像データがカードI/F23にも出力される。そのため、メモリカード22には、HDR画像データが静止画として記録される。
【0080】
上記第2の実施形態によれば、第1の実施形態における(1)〜(4)の効果に加えて、さらに以下のような効果を得ることができる。
(5)遅いシャッター速度で撮像した画像データは、暗部の黒つぶれが低減されているのに対し、速いシャッター速度で撮像した画像データに比べて明部が白とびしてしまう可能性が高い。その点、シャッター速度の異なる画像データをHDR合成に用いる場合には、より速いシャッター速度で撮像した輝度の低い画像データを用いることにより、遅いシャッター速度で撮像した輝度の高い画像データを用いる場合に比べて明部における白とびをより減少させることができる。
【0081】
(6)シャッター速度を変化させることにより、同じシャッター速度で撮像した場合と比べて加算合成に用いる画像データ数を減少させることができる。したがって、加算合成部31における負荷を低減することができるため、所定時間当たりに出力可能な加算画像データ数を増加させることができる。したがって、動画撮影時のこま数をさらに増加させることができる。
【0082】
なお、上記実施形態は以下のように変更してもよい。
・上記各実施形態において、絞り値を制御してHDR撮影をするようにしてもよい。すなわち、大きな絞り値で連続撮像した画像データを複数加算合成することにより、小さな絞り値で撮像した画像データと同等の画像データを得ることができる。そして、加算画像データと加算合成に使用した画像データをHDR合成に用いることにより、画像の位置ずれを抑制してHDR合成を行うことができる。
【0083】
・上記各実施形態において、撮像素子14から出力された画素信号やシャッター速度、絞り値から画像の輝度を推定してもよい。また、カメラ11に測光センサを設け、被写体の輝度を直接測光するようにしてもよい。そして、これらの推定結果や測定結果に基づいて高輝度側の画像データの生成に用いる画像データ数を設定してもよい。また、HDR合成に用いる高輝度側の画像データの数は1つに固定してもよい。
【0084】
・上記第2の実施形態において、異なるシャッター速度で3つ以上の画像データを記憶すると共に、最も速いシャッター速度で撮像した画像データを含む一部の画像データを加算合成してHDR合成に使用してもよい。また、画像データや被写体の輝度に応じて高輝度側画像データとして用いる画像データを選択してもよい。すなわち、例えば、逆光が強く輝度が大きい場合ほどシャッター速度の早い画像を選択するようにしてもよい。
【0085】
・上記各実施形態において、操作部材24は、動画の記録開始と終了を指示する録画ボタンを個別に有してもよい。そして、HDR画像データを動画として記録中にレリーズボタンが操作された場合に、HDR画像データを静止画としても記録するようにしてもよい。
【0086】
・上記各実施形態において、HDR静止画撮影モードまたはHDR動画撮影モードにおいて、レリーズボタンが半押しされた場合に、被写体の輝度に応じて連続撮影するシャッター速度や絞り値といった露出条件を変更するようにしてもよい。
【0087】
・上記実施形態において、カメラ11は、静止画のみもしくは動画のみの撮影が可能なカメラとしてもよい。すなわち、静止画のみの撮影が可能なデジタルスチルカメラや、動画のみの撮影が可能なデジタルビデオカメラにおいても適用することができる。
【0088】
・上記実施形態において示した電子シャッターのシャッター速度やスルー画像としてモニタに表示する画像のコマ間隔は一例であり、その他の値でもよい。HDR静止画撮影モード及びHDR動画撮影モードの場合には、連続撮影する際のシャッター速度が、スルー画像としてモニタに表示する画像のコマ間隔よりも速ければよく、連続撮影の際のシャッター速度は一定でなくてもよい。また、HDR静止画撮影モード及びHDR動画撮影モードの場合には、スルー画像や記録中の画像を表示せずに、直接メモリーカード等の記録媒体に記録することとしてもよい。
【0089】
・上記実施形態において、連続撮影により得られた複数の画像(例えば、4枚)を合成する際に、1枚目を基準画像として、他の3枚を1枚目に対して位置合わせをし、4枚の画像を加算合成する。そして、合成により得られた画像と、基準画像として用いた1枚目の画像と、をHDR合成してもよい。
【符号の説明】
【0090】
11…カメラ(撮像装置)、14…撮像素子(撮像手段)、17…MPU(コンピュータ)、20…RMA(記憶手段)、25…画像、31…加算合成部(第1の合成手段)、32…HDR合成部(第2の合成手段、出力手段)。

【特許請求の範囲】
【請求項1】
被写体を撮像して画像データを生成する撮像手段と、
該撮像手段が連続撮像した複数の画像データを一次記憶可能な記憶手段と、
該記憶手段に記憶された複数の前記画像データを加算合成して第1の画像データを生成する第1の合成手段と、
前記複数の画像データのうち一部の画像データと前記第1の画像データとを合成して第2の画像データを生成する第2の合成手段と、
該第2の合成手段が生成した前記第2の画像データを出力する出力手段と
を備えたことを特徴とする撮像装置。
【請求項2】
前記出力手段は、前記第2の合成手段が生成した前記第2の画像データを逐次出力することを特徴とする請求項1に記載の撮像装置。
【請求項3】
前記第2の合成手段は、前記複数の画像データのうち最も輝度の低い画像データを含む少なくとも一つの画像データを前記第1の画像データとの合成に用いることを特徴とする請求項1又は請求項2に記載の撮像装置。
【請求項4】
前記第2の合成手段は、前記画像データの輝度が相対的に高い場合には、輝度が相対的に低い場合と比べて、前記第1の画像データとの合成に用いる前記画像データの数を減少させることを特徴とする請求項3に記載の撮像装置。
【請求項5】
前記第1の合成手段は、前記撮像手段が所定時間当たりに撮像した複数の前記画像データを加算合成して第1の画像データを生成し、
前記出力手段は、前記第2の合成手段が生成した前記第2の画像データを前記所定時間ごとに逐次出力することを特徴とする請求項1〜請求項4のうち何れか一項に記載の撮像装置。
【請求項6】
コンピュータに、
被写体を撮像して画像データを生成する撮像手段が連続撮像した複数の画像データを一次記憶する記憶手順と、
該記憶手順において記憶された複数の前記画像データを加算合成して第1の画像データを生成する第1の合成手順と、
前記複数の画像データのうち一部の画像データと前記第1の画像データとを合成して第2の画像データを生成する第2の合成手順と、
該第2の合成手順において合成した前記第2の画像データを出力する出力手順と
を実行させることを特徴とする画像合成プログラム。
【請求項7】
被写体を撮像して画像データを生成する撮像手段と、
基準画像に対して、該基準画像以外の他の画像を位置合わせして加算合成することにより第1の画像データを生成する第1の合成手段と、
前記基準画像の画像データと前記第1の画像データとを合成して第2の画像データを生成する第2の合成手段と、
を備えたことを特徴とする撮像装置。
【請求項8】
コンピュータに、
被写体を撮像して画像データを生成する撮像手段が連続撮像した複数の画像中の基準画像に対して、該基準画像以外の他の画像を位置合わせして加算合成することにより第1の画像データを生成する第1の合成手順と、
前記基準画像の画像データと前記第1の画像データとを合成して第2の画像データを生成する第2の合成手順と
を実行させることを特徴とする画像合成プログラム。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7】
image rotate

【図8】
image rotate


【公開番号】特開2012−50073(P2012−50073A)
【公開日】平成24年3月8日(2012.3.8)
【国際特許分類】
【出願番号】特願2011−161133(P2011−161133)
【出願日】平成23年7月22日(2011.7.22)
【出願人】(000004112)株式会社ニコン (12,601)
【Fターム(参考)】