説明

撮像装置、撮像方法、およびプログラム

【課題】ユーザが所望する露光量の画像を容易に取得する。
【解決手段】撮像部41は、入射する光を光電変換することにより、画像を撮像し、ユーザによって操作されるレリーズ・スイッチ31が操作されている間に、加算画像生成部58は、撮像部41が適正露光未満の露光時間で撮像した画像を加算し、加算画像を生成する。また、レリーズ・スイッチ31の操作が停止されたとき、入出力制御部62は、加算画像を記憶部63またはメモリカード65に記録する。本発明は、例えば、デジタルカメラなどに適用することができる。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、撮像装置、撮像方法、およびプログラムに関し、特に、例えば、ユーザが所望する露光量の画像を容易に取得することができるようにした撮像装置、撮像方法、およびプログラムに関する。
【背景技術】
【0002】
例えば、デジタルカメラ(デジタルスチルカメラ)による画像の撮影の方法として、バルブ撮影(撮像)という撮像の方法がある。バルブ撮影とは、ユーザが、レリーズ・ボタン(スイッチ)を押圧し続けている間、露光状態を継続し、レリーズ・ボタンの押圧が停止されるときに露光を終了する、長時間の露光による撮影で行われる方法である。
【0003】
バルブ撮影では、露光時間に応じた露光量の画像を得ることができるが、どの程度の露光量の画像を得ることができるかを確認する方法として、レリーズ・ボタンがオンされた直後に、適正露光未満の露光時間で撮影された1枚の画像(プレ撮影画像)の輝度ゲインを、所定の時間としての書換インターバルが経過するごとに1段階上げて表示する方法がある(例えば、特許文献1参照)。
【特許文献1】特開2004−235973号公報
【発明の開示】
【発明が解決しようとする課題】
【0004】
しかしながら、プレ撮影画像の輝度ゲインを上げた画像は、例えば、プレ撮影画像のS/N(Signal/Noise)などに起因して、実際のバルブ撮影で撮影される画像との誤差が無視できない程度の画像となることがあり、この場合、プレ撮影画像の輝度ゲインを上げた画像と実際のバルブ撮影で撮影される画像とが異なるものとなって、所望の露光量の画像を得ることができないことがあった。
【0005】
本発明は、このような状況に鑑みてなされたものであり、ユーザが所望する露光量の画像を容易に取得することができるようにするものである。
【課題を解決するための手段】
【0006】
本発明の第1の側面の撮像装置は、画像を撮像する撮像装置であり、入射する光を光電変換することにより、画像を撮像する撮像手段と、ユーザによって操作される操作手段と、前記操作手段が操作されている間に、前記撮像手段が適正露光未満の露光時間で撮像した画像を加算し、加算画像を生成する加算画像生成手段と、前記操作手段の操作が停止されたとき、前記加算画像を記録媒体に記録する記録制御手段とを備える。
【0007】
第1の側面の撮像装置には、画像を表示する表示手段と、前記撮像手段が撮像した画像が加算された新たな前記加算画像が生成されるたびに、新たな前記加算画像を、前記表示手段に表示させる表示制御手段とをさらに備えることができる。
【0008】
第1の側面の撮像装置には、前記加算画像の画素値を、所定の値で除算する除算手段をさらに備えることができる。
【0009】
第1の側面の撮像装置には、前記操作手段が操作されている間に、前記撮像手段が撮像した複数の画像それぞれに映っている被写体の位置を合わせるように、前記撮像手段が撮像した画像を補正する補正手段をさらに備えることができ、前記加算画像生成手段では、前記補正手段による補正がされた画像を加算させることができる。
【0010】
本発明の第1の側面の撮像方法、またはプログラムは、入射する光を光電変換することにより、画像を撮像する撮像手段を備える撮像装置の撮像方法、または入射する光を光電変換することにより、画像を撮像する撮像手段を備える撮像装置の撮像処理をコンピュータに実行させるプログラムであり、ユーザによって操作される操作手段が操作されている間に、前記撮像手段が適正露光未満の露光時間で撮像した画像を加算することにより加算画像を生成し、前記操作手段の操作が停止されたとき、前記加算画像を記録媒体に記録するステップを含む。
【0011】
本発明の第1の側面においては、ユーザによって操作される操作手段が操作されている間に、前記撮像手段により、適正露光未満の露光時間で撮像された画像が加算されることにより加算画像が生成され、前記操作手段の操作が停止されたとき、前記加算画像が記録媒体に記録される。
【0012】
本発明の第2の側面の撮像装置は、画像を撮像する撮像装置であり、入射する光を光電変換することにより、画像を撮像する撮像手段と、前記撮像手段が適正露光未満の露光時間で撮像した画像を加算し、加算画像を生成する加算画像生成手段と、画像を表示する表示手段と、前記撮像手段が撮像した画像が加算された新たな前記加算画像が生成されるたびに、新たな前記加算画像を、前記表示手段に表示させる表示制御手段とを備える。
【0013】
第2の側面の撮像装置には、前記加算画像を記録媒体に記録する記録制御手段をさらに備えることができる。
【0014】
第2の側面の撮像装置には、前記加算画像の画素値を、所定の値で除算する除算手段をさらに備えることができる。
【0015】
第2の側面の撮像装置には、前記撮像手段が撮像した複数の画像それぞれに映っている被写体の位置を合わせるように、前記撮像手段が撮像した画像を補正する補正手段をさらに備えることができ、前記加算画像生成手段では、前記補正手段による補正がされた画像を加算させることができる。
【0016】
本発明の第2の側面の撮像方法、またはプログラムは、入射する光を光電変換することにより、画像を撮像する撮像手段を備える撮像装置の撮像方法、または入射する光を光電変換することにより、画像を撮像する撮像手段を備える撮像装置の撮像処理をコンピュータに実行させるプログラムであり、前記撮像手段が適正露光未満の露光時間で撮像した画像を加算することにより加算画像を生成し、前記撮像手段が撮像した画像が加算された新たな前記加算画像が生成されるたびに、新たな前記加算画像を、画像を表示する表示手段に表示させるステップを含む。
【0017】
本発明の第2の側面においては、前記撮像手段により、適正露光未満の露光時間で撮像された画像が加算されることにより加算画像が生成され、前記撮像手段により撮像された画像が加算された新たな前記加算画像が生成されるたびに、新たな前記加算画像が、画像を表示させる表示手段に表示される。
【発明の効果】
【0018】
本発明によれば、例えば、ユーザが所望する露光量の画像を容易に取得することができる。
【発明を実施するための最良の形態】
【0019】
以下に本発明の実施の形態を説明するが、本発明の構成要件と、明細書又は図面に記載の実施の形態との対応関係を例示すると、次のようになる。この記載は、本発明をサポートする実施の形態が、明細書又は図面に記載されていることを確認するためのものである。従って、明細書又は図面中には記載されているが、本発明の構成要件に対応する実施の形態として、ここには記載されていない実施の形態があったとしても、そのことは、その実施の形態が、その構成要件に対応するものではないことを意味するものではない。逆に、実施の形態が構成要件に対応するものとしてここに記載されていたとしても、そのことは、その実施の形態が、その構成要件以外の構成要件には対応しないものであることを意味するものでもない。
【0020】
本発明の第1の側面の撮像装置は、画像を撮像する撮像装置(例えば、図1のデジタルカメラ11)において、入射する光を光電変換することにより、画像を撮像する撮像手段(例えば、図1の撮像部41)と、ユーザによって操作される操作手段(例えば、図1の操作部21)と、前記操作手段が操作されている間に、前記撮像手段が適正露光未満の露光時間で撮像した画像を加算し、加算画像を生成する加算画像生成手段(例えば、図1の加算画像生成部58)と、前記操作手段の操作が停止されたとき、前記加算画像を記録媒体(例えば、図1の記憶部63またはメモリカード65)に記録する記録制御手段(例えば、図1の入出力制御部62)とを備える。
【0021】
第1の側面の撮像装置は、画像を表示する表示手段(例えば、図1の表示部61)と、前記撮像手段が撮像した画像が加算された新たな前記加算画像が生成されるたびに、新たな前記加算画像を、前記表示手段に表示させる表示制御手段(例えば、図1の表示制御部60)とをさらに備えることができる。
【0022】
第1の側面の撮像装置は、前記加算画像の画素値を、所定の値で除算する除算手段(例えば、図1の入出力制御部62)をさらに備えることができる。
【0023】
第1の側面の撮像装置は、前記操作手段が操作されている間に、前記撮像手段が撮像した複数の画像それぞれに映っている被写体の位置を合わせるように、前記撮像手段が撮像した画像を補正する補正手段(例えば、図1の補正部57)をさらに備え、前記加算画像生成手段は、前記補正手段による補正がされた画像を加算することができる。
【0024】
第1の側面の撮像方法、またはプログラムは、入射する光を光電変換することにより、画像を撮像する撮像手段を備える撮像装置の撮像方法、または入射する光を光電変換することにより、画像を撮像する撮像手段を備える撮像装置の撮像処理をコンピュータに実行させるプログラムにおいて、ユーザによって操作される操作手段が操作されている間に、前記撮像手段が適正露光未満の露光時間で撮像した画像を加算することにより加算画像を生成し(例えば、図7のステップS37)、前記操作手段の操作が停止されたとき、前記加算画像を記録媒体に記録する(例えば、図7のステップS40)ステップを含む。
【0025】
本発明の第2の側面の撮像装置は、画像を撮像する撮像装置(例えば、図1のデジタルカメラ11)において、入射する光を光電変換することにより、画像を撮像する撮像手段(例えば、図1の撮像部41)と、前記撮像手段が適正露光未満の露光時間で撮像した画像を加算し、加算画像を生成する加算画像生成手段(例えば、図1の加算画像生成部58)と、画像を表示する表示手段(例えば、図1の表示部61)と、前記撮像手段が撮像した画像が加算された新たな前記加算画像が生成されるたびに、新たな前記加算画像を、前記表示手段に表示させる表示制御手段(例えば、図1の表示制御部60)とを備える。
【0026】
第2の側面の撮像装置は、前記加算画像を記録媒体に記録する記録制御手段(例えば、図1の入出力制御部62)をさらに備えることができる。
【0027】
第2の側面の撮像装置は、前記加算画像の画素値を、所定の値で除算する除算手段(例えば、図1の入出力制御部62)をさらに備えることができる。
【0028】
第2の側面の撮像装置は、前記撮像手段が撮像した複数の画像それぞれに映っている被写体の位置を合わせるように、前記撮像手段が撮像した画像を補正する補正手段(例えば、図1の補正部57)をさらに備え、前記加算画像生成手段は、前記補正手段による補正がされた画像を加算することができる。
【0029】
第2の側面の撮像方法、またはプログラムは、入射する光を光電変換することにより、画像を撮像する撮像手段を備える撮像装置の撮像方法、または入射する光を光電変換することにより、画像を撮像する撮像手段を備える撮像装置の撮像処理をコンピュータに実行させるプログラムにおいて、前記撮像手段が適正露光未満の露光時間で撮像した画像を加算することにより加算画像を生成し(例えば、図7のステップS37)、前記撮像手段が撮像した画像が加算された新たな前記加算画像が生成されるたびに、新たな前記加算画像を、画像を表示する表示手段に表示させる(例えば、図7のステップS38)ステップを含む。
【0030】
以下、図を参照して、本発明の実施の形態について説明する。
【0031】
図1は、本発明を適用したデジタルカメラ(デジタルスチルカメラ)11の一実施の形態の構成例を示すブロック図である。
【0032】
図1のデジタルカメラ11は、操作部21、撮像部41、SDRAM(Synchronous Dynamic Random Access Memory)54、動きベクトル検出部55、SAD(Sum of Absolute Differences)テーブル56、補正部57、加算画像生成部58、SDRAM59、表示制御部60、表示部61、入出力制御部62、記憶部63、ドライブ64、およびメモリカード65により構成される。
【0033】
操作部21は、例えば、レリーズ・スイッチ31および後述する表示部61に重畳されたタッチパネルなどにより構成され、ユーザによって操作される。操作部21は、ユーザの操作に応じた操作信号を、デジタルカメラ11の必要なブロックに供給する。
【0034】
撮像部41は、そこに入射する光を受光して光電変換することにより被写体を撮像し、その結果得られる撮影画像をSDRAM54に供給して、(一時的に)記憶させる。
【0035】
ここで、撮像部41は、撮像レンズ51、撮像素子52、およびカメラ信号処理部53により構成されており、撮像レンズ51は、撮像素子52の受光面に被写体の像を結像させる。撮像素子52は、例えば、CCD(Charge Coupled Devices)やCMOS(Complementary Metal Oxide Semiconductor)センサなどで構成され、その受光面に結像された被写体の像(光)を、光電変換することでアナログの画像信号として、カメラ信号処理部53に供給する。
【0036】
カメラ信号処理部53は、撮像素子52から供給されたアナログの画像信号に対して、例えばガンマ補正処理や白バランス処理などを行う。その後、カメラ信号処理部53は、そのアナログの画像信号をA/D(Analog/Digital)変換し、その結果得られるデジタルの画像信号(撮像画像)をSDRAM54に供給して、記憶させる。
【0037】
SDRAM54は、カメラ信号処理部53(撮像部41)から供給された撮像画像を記憶する。
【0038】
ここで、デジタルカメラ11の撮影モードとしては、例えば、撮像部41において、レリーズ・スイッチ31の1回の押圧操作に応じて、1枚の撮像画像を適正露光となる露光時間で撮像する通常撮影モードと、レリーズ・スイッチ31の押圧操作に応じて、複数枚の撮像画像を加算することにより、所定の露光時間で撮像された画像を得るバルブ撮影モードとがある。以下では、撮影モードが、バルブ撮影モードになっている場合について説明する。なお、上述したバルブ撮影モードとは、例えば、ユーザが、レリーズ・スイッチ31を押圧し続けている間、露光状態を継続し、レリーズ・スイッチ31の押圧が停止されるときに露光を中止するバルブ撮影と同様、実質的に、長時間の露光の撮像を行うことができる。
【0039】
また、撮影モードが、通常撮影モードの場合は、以下に説明する動きベクトル検出部55乃至加算画像生成部58が機能しないだけである。
【0040】
動きベクトル検出部55は、撮像部41で撮像された撮像画像を、撮像された順番で、SDRAM54から読み出す。動きベクトル検出部55は、SDRAM54から読み出した1枚目の撮像画像(レリーズ・スイッチ31が押圧されてから、撮像部41により最初に撮像された撮像画像)を、補正部57および加算画像生成部58を介してSDRAM59に供給し、後述する加算画像として記憶させるとともに、SADテーブル56に供給して、後述する基準画像として記憶させる。
【0041】
ここで、加算画像とは、撮像部41により撮像された撮像画像が、後述する加算画像生成部58により加算されることで生成される画像をいう。また、基準画像とは、後述する補正部57が、2枚目以降の撮像画像(レリーズ・スイッチ31が押圧されてから、撮像部41により2番目以降に撮像された撮像画像)の位置を補正するにあたって基準となる画像をいう。
【0042】
さらに、n枚目の撮像画像とは、バルブ撮影モードで撮像された複数枚の撮像画像のうちの、n番目に撮像された撮像画像をいう。即ち、バルブ撮影モードにおけるデジタルカメラ11では、レリーズ・スイッチ31の押圧操作が開始されてから、その押圧操作が停止(解除)されるまでの間に撮像されたN枚の撮像画像が、加算の対象とされるようになっている。n枚目の撮像画像とは、レリーズ・スイッチ31の押圧操作がされている間に撮像されたN枚の撮像画像のうちの、n(n=1,2,・・・,N―1,N)番目に撮像された撮像画像である。
【0043】
動きベクトル検出部55は、SDRAM54から読み出した2枚目以降の撮像画像については、SADテーブル56に記憶された基準画像に対する撮像画像の動きを表す動きベクトルを検出し、その撮像画像とともに補正部57に供給する。
【0044】
SADテーブル56は、動きベクトル検出部55から供給される1枚目の撮像画像を、基準画像として記憶する。
【0045】
補正部57は、動きベクトル検出部55から供給された撮像画像の動きベクトルに基づいて、同じく、動きベクトル検出部55から供給されたその撮像画像を補正し、補正後の撮像画像を加算画像生成部58に供給する。
【0046】
加算画像生成部58は、SDRAM59から読み出した加算画像と、補正部57から供給された補正後の撮像画像とを加算し、これにより得られた画像を、新たな加算画像として、SDRAM59に供給し、上書きする形で記憶させる。
【0047】
SDRAM59は、加算画像生成部58から供給された加算画像を記憶する。
【0048】
表示制御部60は、加算画像生成部58において、新たな加算画像(1枚目の撮像画像を含む)が生成され、SDRAM59に記憶されるたびに、SDRAM59からその新たな加算画像を読み出し、表示部61に供給して表示させる。
【0049】
表示部61は、表示制御部60の制御に従い、表示制御部60から供給された加算画像などを表示する。表示部61としては、例えば、LCD(Liquid Crystal Display)などを採用することができる。
【0050】
入出力制御部62には、SDRAM59、記憶部63、およびドライブ64が接続されている。入出力制御部62は、SDRAM59、記憶部63、またはドライブ64それぞれとの間での画像のやりとりを制御する。
【0051】
記憶部63は、入出力制御部62から供給された画像を記憶する。
【0052】
ドライブ64は、入出力制御部62から供給された画像を、メモリカード65に供給し、記憶させる。また、ドライブ64は、メモリカード65から画像を読み出し、入出力制御部62に供給する。
【0053】
メモリカード65は、デジタルカメラ11のドライブ64に脱着可能でリムーバブルなメモリカードであり、入出力制御部62から供給された画像を記憶する。
【0054】
次に、図2および図3を参照して図1の動きベクトル検出部55の処理について説明する。
【0055】
図2は、動きベクトル検出部55が、バルブ撮影モードにおいて、2枚目以降の撮像画像の動きを表す動きベクトルを検出する様子を示す図である。
【0056】
図2上側は、被写体161が投影された基準画像151、および被写体161と同一の被写体162が投影された(2枚目以降の)撮像画像152を示す図である。図2下側は、縦×横がm×n個のブロックに分割された基準画像151を示す図である。また、図2下側のm×n個のブロック内の矢印は、それぞれのブロックに基づいて検出された動きベクトルを表している。
【0057】
なお、上述したように、基準画像151とは、1枚目の撮像画像を表しており、撮像画像152とは、2枚目以降の撮像画像を表している。また、基準画像151に対する被写体161の位置と、撮像画像152に対する被写体162の位置が異なるのは、例えば、手振れが生じたことによる。
【0058】
動きベクトル検出部55は、基準画像151と撮像画像152とを用いて、基準画像151に対する撮像画像152の動きを表す動きベクトルを検出する。
【0059】
即ち、動きベクトル検出部55は、図2下側に示されるように、基準画像151を縦×横がm×n個のブロックに分割し、それぞれのブロックに一番類似している撮像画像152上の領域を求めることで動きベクトルを検出するブロックマッチングを行う。
【0060】
図3は、このようなブロックマッチングにより動きベクトルを検出する方法を説明する図である。
【0061】
図3では、基準画像151と撮像画像152とが重ね合わされている。また、図3では、基準画像151(撮像画像152)の左下の点を原点Oとし、右方向をx方向、上方向をy方向とするxy座標系を定義してある。
【0062】
動きベクトル検出部55は、図3に示されるように、基準画像151上の分割されたブロック151a乃至151cをテンプレートとして、それぞれのブロック151a乃至151cに一番類似している撮像画像152上の領域152a乃至152cを求める。さらに、動きベクトル検出部55は、例えば、基準画像151上のブロック151a乃至151cの中心(重心)の位置(Cx,Cy)を始点とし、領域152a乃至152cの中心の位置(Cx',Cy')を終点とする動きベクトルを検出する。
【0063】
このようにして、動きベクトル検出部55は、図2下側に示される基準画像151上のm×n個のブロックに対して検出したm×n個の動きベクトルを、(2枚目以降の)撮像画像152とともに、補正部57に供給する。
【0064】
次に、図4を参照して、図1における補正部57の処理について説明する。
【0065】
補正部57は、基準画像151を基準として、撮像画像152を補正する。即ち、補正部57は、基準画像151上の被写体161の位置と、撮像画像152上の、被写体161と同一の被写体162の位置とを位置合わせするため、例えば、アフィン変換によって、撮像画像152を補正する。
【0066】
アフィン変換では、基準画像151(の画素)の位置(x,y)と、撮像画像152の位置(x',y')との位置関係は、次の式(1)で表される。
【0067】
【数1】

【0068】
ここで、式(1)のアフィン変換によれば、位置(x,y)は、その位置(x,y)を原点Oの回りに角度θだけ回転させ、(x,y)=(s,t)だけ平行移動させた位置(x',y')に変換(補正)される。
【0069】
また、以下では、式(1)のアフィン変換を定義するパラメータs,t,θを、アフィンパラメータ(s,t,θ)という。
【0070】
なお、式(1)のアフィン変換では、デジタルカメラ11から被写体に向かう方向の、デジタルカメラ11の動きは考慮されていないが、アフィン変換は、かかる動きをも考慮して行うことが可能である。この場合、式(1)の右辺の2×2の行列に代えて、その行列に、拡大/縮小に関するパラメータが乗算された行列が使用される。
【0071】
補正部57は、図2下側に示されるm×n個の動きベクトルと上述した式(1)を用いて、最小自乗法により、アフィンパラメータ(s,t,θ)を求める。
【0072】
具体的には、補正部57は、基準画像151上のm×n個のブロックの中心の位置(Cx,Cy)に対して、上述した式(1)によりアフィン変換を行う。そして、補正部57は、基準画像151上のm×n個のブロックの中心の位置(Cx,Cy)を始点とし、位置(Cx,Cy)をアフィン変換した後の位置を終点とする動きベクトルを、変換動きベクトルVGMとして算出する。変換動きベクトルVGMは、次の式(2)で表される。
【0073】
【数2】

【0074】
ここで、式(2)における変換動きベクトルVGMは、アフィンパラメータ(s,t,θ)を変数とする式で表される。
【0075】
補正部57は、基準画像151上のブロックの変換動きベクトルVGMと、そのブロックの、上述したブロックマッチングにより検出された動きベクトル(以下、適宜、マッチング動きベクトルVBMともいう)との自乗誤差の総和Eを最小にするアフィンパラメータ(s,t,θ)を求める。この自乗誤差の総和Eは、次の式(3)で表される。
【0076】
【数3】

【0077】
ここで、式(3)のΣは、図2下側に示された、基準画像151上のm×n個のブロックの総和を表す。式(3)の自乗誤差の総和Eを最小にするアフィンパラメータ(s,t,θ)は、自乗誤差の総和Eを、アフィンパラメータ(s,t,θ)で偏微分した式を求め、その式を0とした方程式を解くことで求めることができる。
【0078】
次に、補正部57は、求めたアフィンパラメータ(s,t,θ)を用いて、撮像画像152の位置(x',y')を基準画像151の位置(x,y)に補正(位置合わせ)するアフィン変換の逆変換を行う。これにより、撮像画像152は、図4に示されるように、基準画像151上の被写体161と、撮像画像152上の被写体162との位置を合わせるように補正される。
【0079】
ここで、撮像部41では、撮像画像152として採用される有効画素数よりも多くの画素数により撮像しているため、実際には、撮像画像152よりも大きな画像(画素数が多い画像)182の撮像が行われている。
【0080】
補正部57は、撮像画像152を含む画像182の補正を行った後、画像182のうちの基準画像151の範囲と完全に一致する範囲の画像を、補正後の撮像画像152として抽出し、加算画像生成部58に供給する。
【0081】
なお、画像182を、撮像画像152よりもどれだけ大の画像(画素数の多い画像)とするかは、例えば、人が、いわゆる手持ち撮像を行うときの手振れ量の統計量などに基づいて決定される。
【0082】
次に、図5および図6を参照して、図1の加算画像生成部58で生成される加算画像について説明する。
【0083】
図5は、加算画像生成部58において、新たな加算画像が生成されていく様子を示す図である。
【0084】
図5上側は、適正露光未満の露光時間で撮像された1乃至N枚目の撮像画像の露光量2111乃至211Nを表しており、図5左側は、加算画像生成部58で生成される加算画像の露光量2321乃至232Nを表している。
【0085】
加算画像生成部58は、補正部57から供給される1枚目の撮像画像をそのまま、露光量2111(2321)の加算画像とする。
【0086】
さらに、加算画像生成部58は、露光量2321の加算画像と、補正部57から供給される2枚目の撮像画像とを加算し、露光量2322(露光量2321と露光量2112とを加算した露光量)の加算画像を生成する。次に、加算画像生成部58は、露光量2322の加算画像と、補正部57から供給される3枚目の撮像画像とを加算し、露光量2323の加算画像を生成する。このような処理を繰り返すことにより、加算画像生成部58は、露光量232n―1の加算画像と、補正部57から供給されるn枚目の撮像画像とを加算し、露光量232nの加算画像を生成する(n=2,3,・・・,N―1,N)。
【0087】
図6は、図1の表示部61の加算画像の表示例を示している。
【0088】
上述したように、表示部61では、新たな加算画像が生成されるたびに、その新たな加算画像が表示される。
【0089】
従って、表示部61では、図6に示されるように、まず、露光量2321の加算画像2611が表示され、続いて、露光量2322の加算画像2612が表示される。このように、加算画像生成部58で加算画像261nが生成されるたびに、新たに生成された加算画像261nが表示される(n=1,2,・・・,N―1,N)。
【0090】
上述したように、新たな加算画像261nの生成は、レリーズ・スイッチ31が押圧操作されている間行われる。従って、ユーザは所望する露光の加算画像261Nが表示部61に表示されたときに、レリーズ・スイッチ31の押圧操作を停止することにより、所望の露光状態の加算画像261Nを、記憶部63やメモリカード65に記憶させる(撮像する)ことができる。
【0091】
なお、ユーザが、レリーズ・スイッチ31の押圧操作を続けた結果、表示部61に表示される加算画像261Nが明るすぎる画像になってしまった場合、入出力制御部62が、加算画像261Nの各画素値を所定の値で除算することにより、加算画像261Nの明るさを調整することができるようになっている。この点については、後述する図8のフローチャートを参照して説明する。
【0092】
次に、図7のフローチャートを参照し、図1のデジタルカメラ11のバルブ撮影モードの処理を説明する。
【0093】
ユーザが、レリーズ・スイッチ31の押圧操作を開始すると、ステップS31において、撮像部41は、適正露光未満の露光時間により被写体を撮像し、その結果得られる撮影画像をSDRAM54に供給して記憶させ、ステップS32に進む。
【0094】
ステップS32において、動きベクトル検出部55は、撮像部41で撮像された撮像画像を、撮像された順番で、SDRAM54から読み出す。ステップS32において、動きベクトル検出部55は、SDRAM54から読み出した撮像画像が1枚目の撮像画像であるかどうかを判定し、1枚目の撮像画像であると判定した場合、ステップS33に進み、1枚目の撮像画像を、補正部57および加算画像生成部58を介してSDRAM59に供給し、加算画像として記憶させるとともに、SADテーブル56に供給して、基準画像として記憶させ、ステップS38に進む。
【0095】
一方、ステップS32において、動きベクトル検出部55は、1枚目の撮像画像でない(2枚目以降の撮像画像である)と判定した場合、ステップS34に進み、SDRAM54から読み出した2枚目以降の撮像画像については、SADテーブル56に記憶された基準画像に対する撮像画像の動きを表す動きベクトルを検出し、その撮像画像とともに補正部57に供給して、ステップS35に進む。
【0096】
ステップS35において、補正部57は、動きベクトル検出部55から供給された動きベクトルと上述した式(1)を用いて、最小自乗法により、アフィンパラメータ(s,t,θ)を求めて、ステップS36に進み、求めたアフィンパラメータ(s,t,θ)を用いて、動きベクトル検出部55から供給された撮像画像を補正し、補正後の撮像画像を加算画像生成部58に供給して、ステップS37に進む。
【0097】
ステップS37において、加算画像生成部58は、SDRAM59から加算画像を読み出し、その加算画像と、補正部57から供給された補正後の撮像画像の画素値を加算し、これにより得られた画像を、新たな加算画像として、SDRAM59に供給して、上書きする形で記憶させ、ステップS38に進む。
【0098】
ステップS38において、表示制御部60は、直前に行われたステップS33またはステップS37において、SDRAM59に記憶された加算画像を読み出し、表示部61に供給して表示させ、ステップS39に進む。
【0099】
ステップS39において、加算画像生成部58は、レリーズ・スイッチ31の押圧操作が続けられているかどうかを判定する。ステップS39において、レリーズ・スイッチ31の押圧操作が続けられていると判定された場合、ステップS31に戻り、以下、同様の処理を繰り返す。これにより、ステップS37において、加算画像生成部58が新たな加算画像を生成するたびに、その新たな加算画像が表示部61に表示される。
【0100】
一方、ステップS39において、レリーズ・スイッチ31の押圧操作が停止されたと判定された場合、即ち、レリーズ・スイッチ31を押圧操作し続けていたユーザが、表示部61に表示された加算画像を見て、所望の露光量の画像(加算画像)が得られたとして、レリーズ・スイッチ31の押圧操作を停止した場合、ステップS40に進み、入出力制御部62は、SDRAM59から加算画像(レリーズ・スイッチ31の押圧操作を停止したときに、表示部61に表示されていた加算画像)を読み出し、記憶部63または(ドライブ64を介して)メモリカード65に供給して、記憶させる。その後、処理は終了する。
【0101】
以上のバルブ撮影モードの処理によれば、撮像部41では、適正露光未満の露光時間により被写体を撮像するため、通常撮影モードで撮像した場合と比較して、ボケのない画像を撮像することができる。
【0102】
また、補正部57では、撮像部41により撮像された撮像画像の位置が、基準画像の位置に補正されるため、撮像中に生じた手振れなどの画像振れ(位置ズレ)を補正することができる。
【0103】
さらに、表示部61では、加算画像生成部58で加算画像が生成されるたびに、その加算画像が表示されるので、ユーザは、加算画像の露光の具合をリアルタイムに確認することができる。これにより、ユーザは、所望の露光量の画像(加算画像)を得ることができる。
【0104】
また、以上のバルブ撮影モードの処理によれば、レリーズ・スイッチ31が押圧操作されている間に、適正露光未満で撮像された画像が加算されていくため、ユーザは、例えば、低照度の被写体を撮像する場合、通常撮影モードでの撮像と比較して、S/N比が改善されダイナミックレンジが拡大された鮮明な加算画像を得ることができる。
【0105】
さらに、ユーザは、レリーズ・スイッチ31の押圧操作を開始し、表示部61に、所望の露光量の画像が表示されたときに、レリーズ・スイッチ31の押圧操作を停止するという簡単な操作をするだけで、所望の露光量の(好みの)画像を得ることができる。
【0106】
ここで、図7におけるバルブ撮影モードの処理においては、例えば、ユーザが、不注意などにより、レリーズ・スイッチ31の押圧操作をし続けたことにより、所望の露光量を超える露光量の画像(加算画像)が得られることがある。このとき、デジタルカメラ11では、その画像の露光量を、実質的に減少させる処理を行うことで、画像の明るさを調整することができる。
【0107】
そこで、図8のフローチャートを参照し、加算画像の露光量を減少させることで、明るさを調整する処理について説明する。
【0108】
例えば、ユーザが、記憶部63またはメモリカード65に記憶された加算画像を表示部61に表示させるように、操作部21を操作すると、ステップS81において、入出力制御部62は、記憶部63またはメモリカード65に記憶された加算画像を読み出し、SDRAM59に供給して記憶させる。ステップS81において、加算画像がSDRAM59に記憶されると、表示制御部60は、SDRAM59から加算画像を読み出し、表示部61に表示させ、ステップS82に進む。
【0109】
ステップS82において、ユーザが、表示部61に表示された加算画像の明るさを調整するように、操作部21を操作すると、入出力制御部62は、SDRAM59から加算画像を読み出し、ユーザの操作に応じた所定の値により、その加算画像の画素値を除算して、その結果得られた除算画像を、SDRAM59に供給し、記憶させる。さらに、ステップS82において、表示制御部60は、SDRAM59から除算画像を読み出し、表示部61に表示させる。
【0110】
その後、ステップS82からステップS83に進み、表示部61に表示された除算画像を確認したユーザが、表示部61に表示された除算画像を確定するように、操作部21を操作すると、入出力制御部62は、SDRAM59から除算画像を読み出し、記憶部63またはメモリカード65に供給して、元の加算画像に上書きする形で記憶させる。その後、この処理は終了する。
【0111】
なお、ステップS82において、表示制御部60は、SDRAM59から読み出した除算画像を、表示部61に表示させることとしたので、ユーザは、除算画像の露光量の具合を確認することができる。これにより、ユーザが所望する除算画像が得られるまで、ステップS82における処理を繰り返すことができる。
【0112】
なお、ステップS83において、除算画像を、元の加算画像に上書きする形で記憶させることとしたが、この除算画像は、元の加算画像とは別に記憶させるようにしてもよい。
【0113】
上述した動きベクトル検出部55、補正部57、加算画像生成部58、表示制御部60、および入出力制御部62が行う一連の処理は、専用のハードウエアにより実行させることもできるし、ソフトウエアにより実行させることもできる。一連の処理をソフトウエアにより実行させる場合には、そのソフトウエアを構成するプログラムが、いわゆる組み込み型のコンピュータ、または、各種のプログラムをインストールすることで、各種の機能を実行することが可能な、例えば汎用のパーソナルコンピュータなどに、プログラム格納媒体からインストールされる。
【0114】
図9は、上述した一連の処理をプログラムにより実行するコンピュータの構成例を示すブロック図である。
【0115】
CPU(Central Processing Unit)301は、ROM(Read Only Memory)302、または記憶部308に記憶されているプログラムに従って各種の処理を実行する。RAM(Random Access Memory)303には、CPU301が実行するプログラムやデータなどが適宜記憶される。これらのCPU301、ROM302、およびRAM303は、バス304により相互に接続されている。
【0116】
CPU301にはまた、バス304を介して入出力インタフェース305が接続されている。入出力インタフェース305には、キーボード、マウス、マイクロホンなどよりなる入力部306、ディスプレイ、スピーカなどよりなる出力部307が接続されている。CPU301は、入力部306から入力される指令に対応して各種の処理を実行する。そして、CPU301は、処理の結果を出力部307に出力する。
【0117】
入出力インタフェース305に接続されている記憶部308は、例えばハードディスクからなり、CPU301が実行するプログラムや各種のデータを記憶する。通信部309は、インターネットやローカルエリアネットワークなどのネットワークを介して外部の装置と通信する。
【0118】
また、通信部309を介してプログラムを取得し、記憶部308に記憶してもよい。
【0119】
入出力インタフェース305に接続されているドライブ310は、磁気ディスク、光ディスク、光磁気ディスク、或いは半導体メモリなどのリムーバブルメディア311が装着されたとき、それらを駆動し、そこに記録されているプログラムやデータなどを取得する。取得されたプログラムやデータは、必要に応じて記憶部308に転送され、記憶される。
【0120】
コンピュータにインストールされ、コンピュータによって実行可能な状態とされるプログラムを格納するプログラム格納媒体は、図9に示されるように、磁気ディスク(フレキシブルディスクを含む)、光ディスク(CD-ROM(Compact Disc-Read Only Memory),DVD(Digital Versatile Disc)を含む)、光磁気ディスク(MD(Mini-Disc)を含む)、もしくは半導体メモリなどよりなるパッケージメディアであるリムーバブルメディア311、または、プログラムが一時的もしくは永続的に格納されるROM302や、記憶部308を構成するハードディスクなどにより構成される。プログラム格納媒体へのプログラムの格納は、必要に応じてルータ、モデムなどのインタフェースである通信部309を介して、ローカルエリアネットワーク、インターネット、デジタル衛星放送といった、有線または無線の通信媒体を利用して行われる。
【0121】
なお、本明細書において、プログラム格納媒体に格納されるプログラムを記述するステップは、記載された順序に沿って時系列的に行われる処理はもちろん、必ずしも時系列的に処理されなくとも、並列的あるいは個別に実行される処理をも含むものである。
【0122】
以上のようなバルブ撮影モードの処理において、図1の動きベクトル検出部55は、上述したブロックマッチングにより動きベクトルを検出することとしたが、動きベクトルの検出方法は、これに限定されるものではなく、例えば、勾配法などにより動きベクトルを検出することとしてもよい。
【0123】
また、図1の動きベクトル検出部55は、適当な縮小率で縮小した基準画像と(2枚目以降の)撮像画像とを用いて、動きベクトルを検出することもできる。
【0124】
さらに、図1の補正部57では、アフィン変換によって、被写体の位置合わせをする補正を行うこととしたが、例えば、デジタルカメラ11に角速度センサや加速度センサなどのセンサを用いることで、画像振れを検出し、光学的な補正をするようにしてもよい。
【0125】
また、表示制御部60は、加算画像生成部58が、新たな加算画像を生成し、SDRAM59に供給して記憶させるたびに、その加算画像をSDRAM59から読み出し、表示部61に表示させることとしたが、加算画像生成部58で生成される加算画像を、例えば、m(<N)枚おきに表示させることとしてもよい。これにより、表示制御部60は、加算画像生成部58で新たな加算画像が生成されるたびに、その加算画像を表示部61に表示させるときと比較して、加算画像を表示させる処理の負担を軽減させることができる。
【0126】
なお、本発明の実施の形態は、上述した実施の形態に限定されるものではなく、本発明の要旨を逸脱しない範囲において種々の変更が可能である。
【図面の簡単な説明】
【0127】
【図1】本発明を適用したデジタルカメラの一実施の形態の構成例を示すブロック図である。
【図2】図1の動きベクトル検出部による2枚目以降の撮像画像の動きベクトルを検出する方法を説明する図である。
【図3】図1の動きベクトル検出部による2枚目以降の撮像画像の動きベクトルを検出する方法を説明する他の図である。
【図4】図1の補正部による2枚目以降の撮像画像の補正を説明する図である。
【図5】図1の加算画像生成部が、新たな加算画像を生成する様子を示す図である。
【図6】図1の表示部に、加算画像が表示される様子を示す図である。
【図7】バルブ撮影モードの処理について説明するフローチャートである。
【図8】加算画像の明るさを調整する処理について説明するフローチャートである。
【図9】コンピュータの構成例を示すブロック図である。
【符号の説明】
【0128】
21 操作部, 31 レリーズ・スイッチ, 41 撮像部, 54 SDRAM, 55 動きベクトル検出部, 56 SADテーブル, 57 補正部, 58 加算画像生成部, 59 SDRAM, 60 表示制御部, 61 表示部, 62 入出力制御部, 63 記憶部, 64 ドライブ, 65 メモリカード

【特許請求の範囲】
【請求項1】
画像を撮像する撮像装置において、
入射する光を光電変換することにより、画像を撮像する撮像手段と、
ユーザによって操作される操作手段と、
前記操作手段が操作されている間に、前記撮像手段が適正露光未満の露光時間で撮像した画像を加算し、加算画像を生成する加算画像生成手段と、
前記操作手段の操作が停止されたとき、前記加算画像を記録媒体に記録する記録制御手段と
を備える撮像装置。
【請求項2】
画像を表示する表示手段と、
前記撮像手段が撮像した画像が加算された新たな前記加算画像が生成されるたびに、新たな前記加算画像を、前記表示手段に表示させる表示制御手段と
をさらに備える請求項1に記載の撮像装置。
【請求項3】
前記加算画像の画素値を、所定の値で除算する除算手段をさらに備える
請求項1に記載の撮像装置。
【請求項4】
前記操作手段が操作されている間に、前記撮像手段が撮像した複数の画像それぞれに映っている被写体の位置を合わせるように、前記撮像手段が撮像した画像を補正する補正手段をさらに備え、
前記加算画像生成手段は、前記補正手段による補正がされた画像を加算する
請求項1に記載の撮像装置。
【請求項5】
入射する光を光電変換することにより、画像を撮像する撮像手段を備える撮像装置の撮像方法において、
ユーザによって操作される操作手段が操作されている間に、前記撮像手段が適正露光未満の露光時間で撮像した画像を加算することにより加算画像を生成し、
前記操作手段の操作が停止されたとき、前記加算画像を記録媒体に記録する
ステップを含む撮像方法。
【請求項6】
入射する光を光電変換することにより、画像を撮像する撮像手段を備える撮像装置の撮像処理をコンピュータに実行させるプログラムにおいて、
ユーザによって操作される操作手段が操作されている間に、前記撮像手段が適正露光未満の露光時間で撮像した画像を加算することにより加算画像を生成し、
前記操作手段の操作が停止されたとき、前記加算画像を記録媒体に記録する
ステップを含む撮像処理をコンピュータに実行させるプログラム。
【請求項7】
画像を撮像する撮像装置において、
入射する光を光電変換することにより、画像を撮像する撮像手段と、
前記撮像手段が適正露光未満の露光時間で撮像した画像を加算し、加算画像を生成する加算画像生成手段と、
画像を表示する表示手段と、
前記撮像手段が撮像した画像が加算された新たな前記加算画像が生成されるたびに、新たな前記加算画像を、前記表示手段に表示させる表示制御手段と
を備える撮像装置。
【請求項8】
前記加算画像を記録媒体に記録する記録制御手段をさらに備える
請求項7に記載の撮像装置。
【請求項9】
前記加算画像の画素値を、所定の値で除算する除算手段をさらに備える
請求項7に記載の撮像装置。
【請求項10】
前記撮像手段が撮像した複数の画像それぞれに映っている被写体の位置を合わせるように、前記撮像手段が撮像した画像を補正する補正手段をさらに備え、
前記加算画像生成手段は、前記補正手段による補正がされた画像を加算する
請求項7に記載の撮像装置。
【請求項11】
入射する光を光電変換することにより、画像を撮像する撮像手段を備える撮像装置の撮像方法において、
前記撮像手段が適正露光未満の露光時間で撮像した画像を加算することにより加算画像を生成し、
前記撮像手段が撮像した画像が加算された新たな前記加算画像が生成されるたびに、新たな前記加算画像を、画像を表示する表示手段に表示させる
ステップを含む撮像方法。
【請求項12】
入射する光を光電変換することにより、画像を撮像する撮像手段を備える撮像装置の撮像処理をコンピュータに実行させるプログラムにおいて、
前記撮像手段が適正露光未満の露光時間で撮像した画像を加算することにより加算画像を生成し、
前記撮像手段が撮像した画像が加算された新たな前記加算画像が生成されるたびに、新たな前記加算画像を、画像を表示する表示手段に表示させる
ステップを含む撮像処理をコンピュータに実行させるプログラム。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7】
image rotate

【図8】
image rotate

【図9】
image rotate


【公開番号】特開2007−306106(P2007−306106A)
【公開日】平成19年11月22日(2007.11.22)
【国際特許分類】
【出願番号】特願2006−130096(P2006−130096)
【出願日】平成18年5月9日(2006.5.9)
【出願人】(000002185)ソニー株式会社 (34,172)
【Fターム(参考)】