撮像装置及びその制御方法及びプログラム
【課題】連続撮影した複数の画像を合成して手ブレを補正する場合に、感度と連続撮影する画像の枚数の関係を適切に制御できるようにする。
【解決手段】手ブレの影響を受けにくい速いシャッタ速度で連続して撮影された複数枚の露出不足の画像を合成することにより、手ブレの影響の少ない目標とする露出の画像を得る撮像装置であって、被写体像を光電変換して画像信号を生成する撮像部と、撮像部の感度の上限値を設定する設定部と、設定部により設定された感度の上限値に基づいて、連続して撮影される各1枚の画像の撮影条件と、連続して撮影する画像の枚数とを制御する制御部とを備える。
【解決手段】手ブレの影響を受けにくい速いシャッタ速度で連続して撮影された複数枚の露出不足の画像を合成することにより、手ブレの影響の少ない目標とする露出の画像を得る撮像装置であって、被写体像を光電変換して画像信号を生成する撮像部と、撮像部の感度の上限値を設定する設定部と、設定部により設定された感度の上限値に基づいて、連続して撮影される各1枚の画像の撮影条件と、連続して撮影する画像の枚数とを制御する制御部とを備える。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、デジタルカメラ等の撮像装置において、複数枚の画像を合成することで手ブレを補正する技術に関するものである。
【背景技術】
【0002】
従来、銀塩カメラ、ビデオカメラ、電子スチルカメラなどの手持ち撮影時に発生する手ブレを補正する技術についてはさまざまなものが提案され、かつ実用化されている。
【0003】
たとえば、振動ジャイロなどの角速度センサによって手ブレを検知し、光学系を揺動させたり、光軸と垂直方向に補正光学系を駆動することによって手ブレを抑制する技術が、一眼レフカメラ用の交換レンズ、電子スチルカメラ等において既に用いられている。防振機能により、より多くの状況で手ブレに影響されずに撮影することが可能となり、その効果は大きい。しかしながら、角速度センサ及び補正光学系が追加されることにより、手ブレ補正機能を持たない交換レンズ、電子スチルカメラに比べて大型化やコスト増が避けられないという問題があった。
【0004】
一方、ビデオカメラではNTSCやPALなどのテレビ方式に合わせて1/60秒または1/50秒間隔で撮影が行われるため、撮像された各画像間での動きベクトルを検知して、角速度センサの代わりに手ブレ量を測定する技術を用いるものがある。また手ブレ補正に関しても、撮像素子から画像を取り出す切り出し位置を検知された手ブレ量に応じて変えることにより、補正光学系のような可動部分を持たずに手ブレ抑制機能を実現しているものもある。これらの技術では大型化やコスト増を回避することができる。
【0005】
しかしながら、電子スチルカメラにおいては、動画と静止画の違いから、このようなビデオカメラの手ブレ補正技術をそのまま応用することは困難である。なぜなら、電子スチルカメラでは銀塩カメラと同様に、測光結果によって定まった露光時間中、連続して撮像素子での蓄積を行うからである。蓄積に並行して画像データを読み出すことは困難であることから、電子スチルカメラでは露光中にリアルタイムに画像から動きベクトルを得ることができない。また手ブレ補正についても、露光中にすでに撮像素子上には手ブレが重畳された画像が蓄積されているため、画像の切り出し位置を変えても手ブレを補正することはできない。
【0006】
そこで、電子スチルカメラに好適な手ブレ補正技術として、次のような技術が提案されている。即ち、手ブレが目立たない程度の速いシャッタ速度で複数枚の露出不足の画像を連続撮影し、撮影後の処理でそれら複数枚の画像の位置合わせを行いながら合成して手ブレの目立たない適正露出の画像を得るというものである。
【0007】
本願出願人が既に出願している特許文献1には、順次撮像した画像を、経時的な位置ずれに対応して座標変換を行った後に合成する技術が開示されている。
【特許文献1】特許3110797号公報
【発明の開示】
【発明が解決しようとする課題】
【0008】
ところで、電子スチルカメラでは、銀塩フィルムのISO感度に相当する感度を各撮影コマごとに設定することが可能である。感度も含めて、絞り値、シャッタ速度を自動的に設定する自動露出機能を持つカメラは実用化されている。しかし、感度を上げるとノイズが増え、画質が低下するという問題があった。
【0009】
ここで、上記の複数枚の画像を合成して手ブレを補正する技術は、基本的に、感度を上げてシャッタ速度を早くすることにより手ブレを抑制するのではなく、感度を上げずに速いシャッタ速度で連続撮影した複数枚の露出不足の画像を合成するものである。
【0010】
しかしながら、画像合成による手ブレ補正でも、被写体が暗い場合には、感度を上げないと連続撮影する画像の枚数が多くなり、撮影動作と画像の合成処理に多くの時間がかかるという問題がある。また、逆に感度を上げると、連続撮影する画像の枚数を減らすことはできるが、上述のようにノイズが増え、合成後の画像の画質が低下するという問題がある。
【0011】
従って、本発明は上述した課題に鑑みてなされたものであり、その目的は、連続撮影した複数の画像を合成して手ブレを補正する場合に、感度と連続撮影する画像の枚数の関係を適切に制御できるようにすることである。
【課題を解決するための手段】
【0012】
上述した課題を解決し、目的を達成するために、本発明に係わる撮像装置は、連続して撮影された複数枚の露出不足の画像を合成することにより、目標とする露出の画像を得る撮像装置であって、被写体像を光電変換して画像信号を生成する撮像手段と、前記撮像手段の感度の上限値を設定する設定手段と、前記設定手段により設定された前記感度の上限値に基づいて、前記連続して撮影される各1枚の画像の撮影条件と、連続して撮影する画像の枚数とを制御する制御手段と、を備えることを特徴とする。
【0013】
また、本発明に係わる撮像装置の制御方法は、被写体像を光電変換して画像信号を生成する撮像手段を備え、連続して撮影された複数枚の露出不足の画像を合成することにより、目標とする露出の画像を得る撮像装置を制御する方法であって、前記撮像手段の感度の上限値を設定する設定工程と、前記設定工程において設定された前記感度の上限値に基づいて、前記連続して撮影される各1枚の画像の撮影条件と、連続して撮影する画像の枚数とを制御する制御工程と、を備えることを特徴とする。
【発明の効果】
【0014】
本発明によれば、連続撮影した複数の画像を合成して手ブレを補正する場合に、感度と連続撮影する画像の枚数の関係を適切に制御することが可能となる。
【発明を実施するための最良の形態】
【0015】
以下、本発明の好適な一実施形態について、添付図面を参照して詳細に説明する。
【0016】
図1は、本発明の一実施形態に係わる撮像装置(レンズ交換式の一眼レフデジタルカメラ)の構成を示すブロック図である。
【0017】
図1において、撮像装置200には、撮影レンズ100が不図示のマウント部のレンズ装着機構を介して着脱可能に取り付けられる。マウント部には、電気接点ユニット107が設けられている。撮像装置200は、撮影レンズ100とこの電気接点ユニット107を介して通信を行い、撮影レンズ100内のフォーカスレンズ101および光量を調節する絞り102の駆動を制御する。なお、図1には、撮影レンズ100内のレンズとしてフォーカスレンズ101のみを示しているが、このほかに変倍レンズや固定レンズが設けられ、これらを含めてレンズユニットを構成する。
【0018】
不図示の被写体からの光束は、撮影レンズ100内のフォーカスレンズ101を含むレンズユニットおよび絞り102を介して、撮像装置200内のクイックリターンミラー203に導かれる。クイックリターンミラー203は、撮影光路内に光軸に対して斜めに配置されて、被写体からの光束を上方のファインダー光学系に導く第1の位置(図示した位置)と、撮影光路外に退避する第2の位置とに移動が可能である。
【0019】
クイックリターンミラー203の中央部はハーフミラーになっており、クイックリターンミラー203が第1の位置にダウンしているときには、被写体からの光束の一部がハーフミラー部を透過する。そして、この透過した光束は、クイックリターンミラー203の背面側に設けられたサブミラー204で反射され、焦点検出回路206とともに自動焦点調整ユニットを構成する位相差AFセンサ205に導かれる。焦点検出回路206は、位相差AFセンサ205の出力信号から、公知の位相差AF技術を用いて、撮影レンズ100の合焦状態の検出(焦点検出)を行う。
【0020】
一方、クイックリターンミラー203で反射された光束は、ピント面に存在するファインダースクリーン202、およびペンタプリズム201、接眼レンズ207により構成されるファインダー光学系を介して撮影者の目に至る。
【0021】
また、クイックリターンミラー203が第2の位置にアップした際には、撮影レンズ100からの光束は、機械シャッタであるフォーカルプレーンシャッタ210および光学フィルタ211を介して撮像素子212に至る。この撮像素子212は、CCDやCMOSセンサ等により代表される被写体像を光電変換するイメージセンサである。光学フィルタ211は、赤外線をカットして可視光線のみを撮像素子212へ導く機能と、光学ローパスフィルタとしての機能とを有する。
【0022】
また、フォーカルプレーンシャッタ210は、先幕および後幕を有して構成されており、撮影レンズ100からの光束の透過および遮断を制御する。
【0023】
なお、クイックリターンミラー203が第2の位置にアップしたときには、サブミラー204もクイックリターンミラー203に対して折り畳まれて撮影光路外に退避する。
【0024】
また、本実施形態の撮像装置200は、この撮像装置全体の制御を司るシステムコントローラ230を有する。システムコントローラ230は、CPUやMPU等により構成され、後述する各回路等の動作を制御する。
【0025】
システムコントローラ230は、電気接点ユニット107を介して、撮影レンズ100内のレンズ制御回路104および絞り制御駆動回路106に対して通信を行う。レンズ制御回路104は、システムコントローラ230からの信号に応じて、フォーカスレンズ101を光軸に沿って駆動してピント合わせを行うレンズ駆動機構103を制御する。レンズ駆動機構103は、ステッピングモータやDCモータを駆動源として有する。
【0026】
また、絞り制御駆動回路106は、システムコントローラ230からの信号に応じて、絞り102を駆動する絞り駆動機構105を制御する。
【0027】
撮影レンズ100がズームレンズの場合、手動でレンズの焦点距離を変更できるズーム機構108が内蔵されている。
【0028】
また、ズーム機構108によるレンズの焦点距離変化は、焦点距離検出部109によって検出され、焦点距離情報として、レンズ制御回路104および電気接点ユニット107を介してシステムコントローラ230に通信される。
【0029】
また、システムコントローラ230は、シャッタ制御回路215と測光回路209とにも接続されている。シャッタ制御回路215は、システムコントローラ230からの信号に応じて、フォーカルプレーンシャッタ210の先幕および後幕の走行駆動を制御する。
【0030】
また、システムコントローラ230には、EEPROM(記憶手段)223も接続されている。EEPROM223には、撮像装置200を制御する上で調整が必要なパラメータや、撮像装置個体の識別を行うための固有の情報であるカメラID(識別)情報が記憶されている。また、基準レンズ(撮像装置200の工場での調整時に用いられる撮影レンズ)を用いて調整された、撮影に関するパラメータの調整値等が記憶されている。
【0031】
測光回路209は、接眼レンズ207の近傍に配設された測光センサ208に接続されており、測光センサ208を通じて被写体の輝度を測定する。測光回路209の測定結果は、システムコントローラ230へ送られる。
【0032】
また、システムコントローラ230は、レンズ制御回路104を介してレンズ駆動機構103を制御することにより、フォーカスレンズ101を移動させて被写体像を撮像素子212上に結像させる。また、システムコントローラ230は、設定されたAv値(絞り値)に基づいて、絞り制御駆動回路106を介して絞り駆動機構105を制御し、さらに、設定されたTv値(シャッタ速度)に基づいてシャッタ制御回路215に制御信号を出力する。
【0033】
フォーカルプレーンシャッタ210の先幕、後幕は、駆動源がバネにより構成されており、シャッタ走行後、次の動作のためにバネチャージを要する。シャッタチャージ機構214は、このバネチャージを行う。また、ミラー駆動機構213によりクリックリターンミラー203のアップダウン駆動が行われる。
【0034】
また、システムコントローラ230には、カメラDSP227が接続されている。このカメラDSP227は、DSP(デジタル信号プロセッサ)により構成される補正データサンプル回路及び補正回路である。そして、撮像素子212の制御、および撮像素子212から入力された画像データの補正や加工などをシステムコントローラ230の指令に基いて実行する。画像データの補正、加工の項目の中には、オートホワイトバランスも含まれている。
【0035】
オートホワイトバランスとは、撮影画像中の最大輝度部分を所定の色(白色)に補正する機能である。オートホワイトバランスについては、システムコントローラ230からの命令により補正量を変更することが可能である。
【0036】
カメラDSP227には、タイミングジェネレータ219、セレクタ222を介してA/Dコンバータ217、ビデオメモリ221、ワークメモリ226が接続されている。
【0037】
撮像素子212からの電気信号は、既知の相関二重サンプリング等の方法により撮像素子212の出力に含まれるリセットノイズ等を除去するとともに、所定の信号レベルまで出力を増幅するCDS/AGC回路216に入力される。そして、CDS/AGC回路216からの出力信号は、各画素毎に順にA/Dコンバータ217で所定のデジタル信号に変換される。
【0038】
ここで、撮像素子212は、全体の駆動タイミングを決定しているタイミングジェネレータ219からの信号に基づき、各画素毎の水平駆動並びに垂直駆動のためのドライバ回路218からの出力で駆動されることにより、画像信号を発生して出力する。同様に、撮像素子212から出力される画像信号をアナログ的に処理して所定の信号レベルに変換するCDS/AGC回路216、およびA/Dコンバータ217も、タイミングジェネレータ219からのタイミング信号に基づいて動作する。
【0039】
A/Dコンバータ217からの出力は、システムコントローラ230からの信号に基づいて信号を選択するセレクタ222を介してメモリコントローラ228に入力され、フレームメモリであるDRAM229に全て転送される。
【0040】
撮影動作終了後、メモリコントローラ228の制御により、撮影データを記憶しているDRAM229の内容を、セレクタ222を介してカメラDSP227に転送する。このカメラDSP227は、DRAM229に記憶されている各撮影データの各画素データを基に、RGBの各色信号を生成する。
【0041】
ビデオカメラやコンパクトタイプのデジタルカメラでは、撮影前状態時に、この結果をビデオメモリ221に定期的(各フレーム毎)に転送することで、モニタ表示部220によりファインダー表示(ライブビュー)等を行っている。一眼レフ方式のデジタルカメラでは、通常、撮影前時点ではクイックリターンミラー203やフォーカルプレーンシャッタ210により撮像素子212は遮光されているため、ライブビューは行えない。しかし、クイックリターンミラー203をアップし撮影光路より退避させてからフォーカルプレーンシャッタ210を開いた状態にすることで、ライブビュー動作が可能となる。また、ライブビュー時に撮像素子からの画像信号をカメラDSP227もしくはシステムコントローラ230が処理することでコントラスト評価値を得ることができ、この評価値を用いてコントラスト方式のAFを行うことが可能である。
【0042】
撮影時には、システムコントローラ230からの制御信号によって、1フレーム分の各画素データをDRAM229から読み出し、カメラDSP227で画像処理を行ってから、一旦、ワークメモリ226に記憶する。そして、ワークメモリ226のデータを圧縮・伸張回路225で所定の圧縮フォーマットに基づいて圧縮し、その結果を外部の不揮発性メモリ(外部メモリ)224に記憶する。不揮発性メモリ224として、通常、フラッシュメモリ等の不揮発性メモリを使用する。また、ハードディスク、磁気ディスク等などであってもよい。
【0043】
また、カメラDSP227は後述する画像ブレ補正用の動きベクトル検知の機能も有する。動きベクトル検知を行う場合は、DRAM229に保存されている2フレーム分の画素データを読み出し、カメラDSP227で相関演算を行い、動きベクトルを求める。動きベクトルの求め方についての詳細は後述する。
【0044】
また、撮影済みの画像データを観察する場合、不揮発性メモリ224に圧縮・記憶されたデータを、圧縮・伸張回路225を通じて通常の撮影画素毎のデータに伸張し、その結果をカメラDSP227に接続されているビデオメモリ221に転送する。これにより、モニタ表示回路220を通じて表示を行うことができる。
【0045】
さらに、システムコントローラ230には、表示回路231と、レリーズスイッチSW1(233)と、レリーズスイッチSW2(234)と、防振モードのON/OFF状態を切り替える防振モードスイッチ235が接続されている。また、撮影モードを切り替えるためのモードダイアル236、およびその他の設定や各種の選択を行うための操作スイッチ類232、も接続されている。モードダイアル236には「P(プログラムモード)」、「Tv(シャッタ速度優先モード)」、「Av(絞り優先モード)」、「M(マニュアルモード)」等の各種撮影モードを示すポジションがある。また、それ以外にも風景やマクロ撮影、動体撮影向けのスポーツなど被写体によりプリセットされた撮影モードのポジションもある。また、電源OFFを示す位置もあり、電源スイッチを兼ねている。
【0046】
また、以上に加えて撮影時の感度の上限を設定するためのスイッチ類である感度上限設定部237もシステムコントローラ230に接続されている。
【0047】
表示回路231は、上記各スイッチ類により設定又は選択されたカメラの動作状態を、液晶素子やLED(発光ダイオード)、有機EL等の表示素子により表示する。
【0048】
レリーズスイッチSW1(233)は、測光・焦点検出などの撮影準備動作を開始させるためのスイッチである。レリーズスイッチSW2(234)は、撮影動作(静止画像を取得するためのミラーアップ、絞り駆動、シャッタ駆動および、電荷蓄積および電荷読み出し動作等)を開始させるためのスイッチである。
【0049】
一方、撮影レンズ100において、レンズ制御回路104には、撮影レンズ100の開放絞り値等の性能情報、撮影レンズ100を識別するための固有の情報であるレンズID(識別)情報、およびシステムコントローラ230から通信により受け取った情報を記憶するメモリ(図示せず)が設けられている。なお、性能情報およびレンズID情報は、撮像装置200への装着時における初期通信により、システムコントローラ230に送信され、システムコントローラ230はこれらをEEPROM223に記憶させる。
【0050】
次に、図2乃至図8を参照して、一実施形態の撮像装置200の動作について説明する。
【0051】
図2及び図3は本実施形態の撮像装置200の動作の主ルーチンを示すフローチャートである。
【0052】
電池交換等の電源投入により、システムコントローラ230はフラグや制御変数等を初期化する(ステップS101)。
【0053】
システムコントローラ230は、モードダイアル236の設定位置を判断し、モードダイアル236が電源OFFに設定されていたならば(ステップS102)、ステップS104に進む。そして、各表示部の表示を終了状態に変更し、フラグや制御変数等を含む必要なパラメータや設定値、設定モードをEEPROM223に記録する。また、撮像装置200各部の不要な電源を遮断する等の所定の終了処理を行った後(ステップS104)、ステップS102に戻る。
【0054】
モードダイアル236がP、Tv、Av、Mなどの撮影モードに設定されていたならば(ステップS102)、ステップS105に進む。
【0055】
システムコントローラ230は、電池等により構成される図示されない電源の残容量や動作情況が撮像装置200の動作に問題があるか否かを判断する(ステップS105)。そして、問題があるならば表示回路231を用いて画像や音声により所定の警告表示を行った後に(ステップS107)、ステップS102に戻る。
【0056】
電源に問題が無いならば(ステップS105)、システムコントローラ230は記録媒体である不揮発性メモリ224の動作状態が撮像装置200の動作、特に記録媒体に対する画像データの記録再生動作に問題があるか否かを判断する(ステップS106)。そして、問題があるならば表示回路231を用いて画像や音声により所定の警告表示を行った後に(ステップS107)、ステップS102に戻る。
【0057】
不揮発性メモリ224の動作状態に問題が無いならば(ステップS106)、表示回路231を用いて画像や音声により撮像装置200の各種設定状態の表示を行う(ステップS108)。
【0058】
システムコントローラ230は、防振モードスイッチ235の設定状態を調べ(ステップS109)、防振機能ONに設定されていたならば防振機能フラグを設定する(ステップS110)。また、防振機能OFFに設定されていたならば防振機能フラグを解除する(ステップS111)。
【0059】
なお、防振機能フラグの状態は、システムコントローラ230の内部メモリ或いはDRAM229に記憶される。
【0060】
次に感度上限設定部237が操作され、使用者が自分の許容できる撮影感度の上限を設定したかどうかが判定される(ステップS121)。設定が行われたならその設定された上限感度を記憶する。上限感度は、システムコントローラ230の内部メモリ或いはDRAM229に記憶される。本実施形態では、設定可能な上限感度はISO400、ISO800、ISO1600の3種類から選択可能としている。
【0061】
レリーズスイッチSW1(233)が押されていないならば(ステップS112)、ステップS102に戻る。
【0062】
レリーズスイッチSW1(233)が押されたならば(ステップS112)、システムコントローラ230は、位相差AFセンサ205、焦点検出回路206による位相差測距処理を行う。そして、その結果に応じて撮影レンズ100側に通信を行い、レンズ制御回路104、レンズ駆動回路103によってフォーカスレンズ101の焦点を被写体に合わせる。次に測光処理を行って絞り値及びシャッタ時間(撮影条件)を決定する(ステップS113)。
【0063】
測光処理において、本実施形態では図示および説明はしていないが、必要であれば撮像装置200に内蔵または外付けされているフラッシュの設定も行う。
【0064】
この測距・測光処理ルーチンS113の詳細は図4を用いて後述する。
【0065】
測距・測光処理ステップS113を終えたならば、レリーズスイッチSW2(234)が押されたかどうかの判定(ステップS114)に進む。
【0066】
レリーズスイッチSW2(234)が押されずに(ステップS114)、さらにレリーズスイッチSW1(233)も解除されたならば(ステップS115)、ステップS102に戻る。
【0067】
レリーズスイッチSW2(234)が押されたならば(ステップS114)、ステップS116に進む。
【0068】
システムコントローラ230は、撮像素子212、A/D変換器217、カメラDSP227、メモリコントローラ228を介して、DRAM229に撮影した画像データを書き込む露光処理、及び、メモリコントローラ228、そして必要に応じてカメラDSP227、DRAM229に書き込まれた画像データを読み出して各種処理を行う現像処理からなる撮影処理を実行する(ステップS116)。
【0069】
この撮影処理ルーチンS116の詳細は図5を用いて後述する。
【0070】
システムコントローラ230は、DRAM229に書き込まれた撮影画像データを読み出して、メモリコントローラ228そして必要に応じてカメラDSP227を用いて各種画像処理を行う。また、圧縮・伸長回路225を用いて設定したモードに応じた画像圧縮処理を行った後、記録媒体である不揮発性メモリ224へ画像データの書き込みを行う記録処理を実行する(ステップS117)。
【0071】
この記録処理ルーチンS117の詳細は図7を用いて後述する。
【0072】
記録処理ステップS117が終了した際に、レリーズスイッチSW2(234)が押された状態であったならば(ステップS118)、システムコントローラ230はシステムコントローラ230の内部メモリ或いはDRAM229に記憶される連写フラグの状態を判断する(ステップS119)。そして、連写フラグが設定されていたならば、連続して撮影を行うためにステップS116に戻り、次の撮影を行う。
【0073】
連写フラグが設定されていないならば(ステップS119)、レリーズスイッチSW2(234)が放されるまで(ステップS118)、現在の処理を繰り返す。
【0074】
レリーズスイッチSW1(233)が押された状態であったならば(ステップS120)、システムコントローラ230は、ステップS114に戻って次の撮影に備える。
【0075】
レリーズスイッチSW1(233)が放された状態であったならば(ステップS120)、システムコントローラ230は、一連の撮影動作を終えてステップS102に戻る。
【0076】
図4は、図3のステップS113における測距・測光処理の詳細を示すフローチャートである。
【0077】
まず、測距・測光処理においては、システムコントローラ230は、焦点検出回路206により、クイックリターンミラー203のハーフミラー部を透過しサブミラー204で反射した被写体からの光束の一部を位相差AFセンサ205上の像として読み出す。そして、公知の位相差AF技術により、被写体までの距離を検出する(ステップS201)。
【0078】
そして、システムコントローラ230は、電気接点ユニット107を介して、レンズ制御回路104に対してレンズ駆動指令の通信を行う。そして、レンズ制御回路104はその指令値に基き、レンズ駆動機構103を介してフォーカスレンズ101を駆動する(ステップS202)。
【0079】
駆動後、システムコントローラ230は、焦点検出回路206および位相差AFセンサ205を用いて再度測距を行う(ステップS203)。
【0080】
測距の結果、合焦状態であると判断されたなら(ステップS204)、測光処理に進む。合焦状態でないと判断されたなら合焦状態になるまでステップS201からステップS204のシークエンスを繰り返す。
【0081】
測光処理(ステップS205)では、システムコントローラ230は、測光回路209を介して、測光センサ208により被写体輝度を測定する。
【0082】
次に、システムコントローラ230はシステムコントローラ230の内部メモリ或いはDRAM229に記憶されている防振機能フラグの状態を判断する(ステップS206)。そして、防振機能ONの場合は防振用AE制御を行い(ステップS207)、防振機能OFF時は通常のAE制御を行う(ステップS208)。
【0083】
防振機能がONの場合は、複数枚の画像が連続撮影され、その後、画像処理装置にて像の位置ズレを補正しながら加算合成が行われる。このときのシャッタ速度は通常のAE制御時より合成する枚数に応じて手ブレが発生しにくい速いシャッタ速度で制御する必要がある。そのため、複数枚の画像のそれぞれは露出不足の画像となり、それらを合成することにより、結果として目標とする露出の画像を得る。
【0084】
防振機能ON状態でのAE制御(ステップS207)については図8を用いて後述する。
【0085】
以上により、測距・測光処理は終了する。
【0086】
図5は、図3のステップS116における撮影処理の詳細を示すフローチャートである。
【0087】
撮影処理が開始されるとまずシステムコントローラ230は、ミラー駆動機構213を介して、クイックリターンミラー203をミラーアップし、撮影光路外に退避した第2の位置に移動させる。このとき、サブミラー204もクイックリターンミラー203に対して折り畳まれて撮影光路外に退避する(ステップS301)。
【0088】
次にシステムコントローラ230は、電気接点ユニット107を介して、絞り制御駆動回路106に対してAE演算時に求められたAv値に基づいて絞り駆動指令の通信を行う。そして、絞り制御駆動回路106はその指令値に基づき、絞り駆動機構105を介して絞り102を絞込み駆動する(ステップS302)。
【0089】
次にシステムコントローラ230は、シャッタ制御回路215に対して制御信号を出力し、シャッタ先幕を走行させ、シャッタ開状態にする(ステップS303)。この動作により、撮像素子212の露光が開始される(ステップS304)。
【0090】
次にシステムコントローラ230は、露光開始から内部のタイマ等により、測光時(ステップS205〜ステップS208)に設定されたTv値に相当する時間が経過したかどうかを判断する(ステップS305)。設定された時間が経過していない場合は経過するまでステップS305をループして待つ。経過したなら露光終了と判断して次のステップS306に進む。
【0091】
ステップS306では、システムコントローラ230はシャッタ制御回路215に対して制御信号を出力し、シャッタ後幕を走行させ、シャッタを閉状態にして、撮像素子212の露光を終了させる。
【0092】
次にシステムコントローラ230は、電気接点ユニット107を介して、絞り制御駆動回路106に対して絞りを開放状態にするための絞り駆動指令の通信を行う。そして、絞り制御駆動回路106はその指令値に基き、絞り駆動機構105を介して絞り102を開放状態に駆動する(ステップS307)。
【0093】
次にシステムコントローラ230は、ミラー駆動機構213を介して、クイックリターンミラー203をミラーダウンさせ、ファインダー光学系へ被写体からの光束を導く第1の位置に移動させる(ステップS308)。
【0094】
次にシステムコントローラ230は、次の撮影に備えて、シャッタチャージ機構214によりバネチャージを行う(ステップS309)。
【0095】
次にシステムコントローラ230は、カメラDSP227に対して指令を与え、露光中に撮像素子212上に形成された画像信号の読み出しを行う(ステップS310)。読み出された信号は、カメラDSP227に接続されたタイミングジェネレータ219、セレクタ222を介してCDS/AGC回路216により増幅され、各画素ごとにA/Dコンバータ217によりデジタル信号に変換される。デジタル信号に変換された画像データは、セレクタ222を介して、メモリコントローラ228に入力され、フレームメモリであるDRAM229に転送され保存される(ステップS311)。
【0096】
次に、システムコントローラ230はシステムコントローラ230の内部メモリ或いはDRAM229に記憶されている防振機能フラグの状態を判断し(ステップS312)、防振機能ONの場合は、防振撮影終了判断(ステップS313)に進む。ステップS312にて防振機能OFFならば撮影動作を終了する。
【0097】
防振機能フラグがセットされている場合(ステップS312)は、防振用連写撮影が終了したかどうかを判断し(ステップS313)、終了していない場合はステップS301に戻り、防振用連写が終了するまで上記のステップを繰り返す。
【0098】
防振用連写撮影が終了したなら、次に、防振用画像合成処理を行う。まず、システムコントローラ230がDRAM229内にある防振用画像処理に用いる変数で何枚目を処理しているかを表す変数nを1に初期化する(ステップS314)。
【0099】
次に、システムコントローラ230は、カメラDSP227の動きベクトル検知機能を用いて防振連写撮影のnコマ目画像とn+1コマ目画像間の動きベクトルを演算する(ステップS315)。
【0100】
動きベクトルの検知方法としてはさまざまな手法が公知であり、そのうちどのような手法を用いることも可能である。一例として図6を用いて説明する。図6は動きベクトル検知方法の一例を説明する図である。
【0101】
図6(a)は画面を小ブロックに分割する様子を示した図である。300は撮影された画像であり、ここでは横3072画素、縦2048画素、総画素数6,291,456画素の画像が撮影されるものとする。動きベクトルを求めるためにここでは画面全体を横256画素、縦256画素の小ブロック301に分割する。このようにして図6(a)に示すように横12ブロック、縦8ブロックに分割される。
【0102】
次に、各小ブロックごとに、動きベクトルを求めるためのもう1枚の画像との二次元相関値を求めていく。相関値としては、小ブロックを画素単位でずらしながら、対応する各画素間の差の絶対値の和を次々に求めていき、その和が最小となるずらし量をその小ブロックの動きベクトルとする。
【0103】
このようにして、図6(b)に示すように全ての小ブロックにおいてその動きベクトル302を求める。
【0104】
次にそのようにして求めた動きベクトルの頻度を調べる。頻度を最頻値から順にプロットしたヒストグラムが図6(c)である。このようにして求めたヒストグラムから二画像間の動きベクトルを求める。たとえば、図6(c)の場合は(2,1)が最頻値であり、この二画像間の動きベクトルとなる。
【0105】
次に、画像合成を行うために、システムコントローラ230は、カメラDSP227を用いて、ステップS315で求められた動きベクトル値を用いて、n+1コマ目画像がnコマ目画像と重なるように座標変換を行う(ステップS316)。
【0106】
次に座標変換されたn+1コマ目画像をnコマ目画像と加算合成する(ステップS317)。そして、合成された画像をDRAM229に記録する(ステップS318)。そして、n=n+1として(ステップS319)、防振連写した全ての画像の合成が終了したかどうかを判断し(ステップS320)、終了していない場合はステップS315からステップS320までのステップを繰り返す。ステップS320で連写した画像の最後まで合成処理が終了していると判断された場合は、撮影処理のシークエンスを終了する。
【0107】
次に記録処理の動作について図7を用いて説明する。図7は、図3のステップS117における記録処理の詳細を示すフローチャートである。
【0108】
システムコントローラ230は、メモリコントローラ228そして必要に応じてカメラDSP227を用いて、DRAM229に書き込まれた撮影画像データを読み出して撮像素子の縦横画素比率を1:1に補間する画素正方化処理を行う(ステップS401)。その後、カメラDSP227を用いて、ワークメモリ226に処理を終えた画像データを書き込む。
【0109】
そして、ワークメモリ226に書き込まれた画像データを読み出して、設定したモードに応じた画像圧縮処理を圧縮・伸長回路225により行う(ステップS402)。その後、メモリカードやコンパクトフラッシュ(登録商標)カード等の不揮発性メモリ224へ圧縮した画像データの書き込みを行う(ステップS403)。
【0110】
記録媒体への書き込みが終わったならば、記録処理ルーチンS117を終了する。
【0111】
次に図8を用いて、図4のステップS207における防振時のAE制御について説明する。図8は防振時AE制御の動作を示すフローチャートである。
【0112】
まず、ステップS205で測定されてシステムコントローラ230内のメモリ、またはDRAM229に記憶されている測光値が読み出される(ステップS501)。
【0113】
次に、システムコントローラ230は、撮影レンズ100の焦点距離検出部109からの焦点距離情報を、電気接点ユニット107を介して、レンズ制御回路104より通信によって読み出す(ステップS502)。
【0114】
次に、ステップS502で求められたレンズ焦点距離情報からその焦点距離時の手ブレしにくい下限のシャッタ速度を演算する(ステップS503)。このようなシャッタ速度は次のようにして求めることが出来る。従来より35mmフィルムを使用するカメラでは撮影レンズの焦点距離をfmmとすると、1/f(sec)以上のシャッタ速度(1/f(sec)かそれよりも早いシャッタ速度)であれば手ブレが画像(画質)に影響を及ぼしにくいと言われている。一般的にデジタルカメラの撮像素子は35mmフィルムに対して小さいが、35mmフィルムに対する撮像素子の大きさの比と撮影レンズの実焦点距離から、35mmフィルムカメラ相当の焦点距離を求め、これをf’とする。そして、この逆数(1/f’(sec))以上のシャッタ速度を用いれば手ブレを画像に影響しにくくすることが出来る。または、PC用モニタなどで拡大表示して観察されることを考慮して、より高速なシャッタ速度に設定するようにしても良い。
【0115】
35mmフィルムと同等の撮像面積を持つフルサイズ撮像素子では、35mmフィルムの場合と同様、標準的な手ブレ量の撮影者なら1/f(sec)を下限のシャッタ速度とみなしてよい。たとえば焦点距離135mmのレンズの場合、1/f(sec)は1/135secとなるが、標準的なシャッタ速度の系列で考えると1/125secを下限シャッタ速度と見なして良いことになる。
【0116】
次に感度上限設定部237により設定され、システムコントローラ230の内部メモリ或いはDRAM229に記憶されている撮影者が許容できる上限感度設定が読み出される(ステップS504)。ここで、感度を上げるとノイズが増加して画質が低下するが、撮影者は自分が許容できる感度の上限値(画質劣化の限界)を予め感度上限設定部237により設定しておく。
【0117】
次に、ステップS501で読み出された測光値、ステップS503で演算された手ブレ限界シャッタ速度、ステップS504で読み出された上限感度設定値、およびシステムコントローラ230で設定されているプログラム線図より、シャッタ速度Tv、絞り値Av、感度、合成のための撮影枚数が算出される(ステップS505)。
【0118】
複数の画像の合成により手ぶれ防止をする場合と、単純にISO感度を上げて撮影する場合を比較すると、複数の画像の合成による手ぶれ防止では、各撮影画像は感度を下げて撮影するので、ノイズに関しては有利になる。
【0119】
そこで、低輝度になった場合、まず感度を上げるより、画像合成による手ぶれ防止効果を得る方を優先する露出プログラムとしている。また、複数の画像の合成による手ブレ防止効果では、4枚合成で2段、8枚合成で3段の効果を得ることができ、以下さらに効果を得ようとすると、合成すべき枚数は指数的に増えていく。普及クラスの一眼レフカメラでの連写速度が毎秒3コマ前後なので、4枚合成までは連写による撮影の所要時間は1.3秒前後で使い勝手はそれほど悪くはない。従って、低輝度側でシャッタ速度が手ブレ限界秒時に到達してからは、まず画像合成による手ブレ防止を行うようにし、連写枚数が4枚になるまでは合成する(連写する)画像の枚数を増加させることで対応する。それより低輝度側では、合成する(連写する)画像の枚数を4枚に固定したまま、感度を上げることで対応する。さらに低輝度になった場合は合成する(連写する)画像の枚数を8枚まで許容して画像合成による手ブレ防止を行うようにする。さらに低輝度になった場合は連動できなくなるので、シャッタ速度を低速側にして適正露出になるように対応する。
【0120】
8枚より1段効果を得ようとすると16枚の連写が必要になるが、ここまで増えると現状の普及クラスの一眼レフカメラ(毎秒3コマ程度)では撮影だけでも5秒以上時間がかかることになる。しかし、感度上限が低く設定された場合には、16枚までの連写を許容してもよい。
【0121】
どのようにシャッタ速度、絞り値、感度、撮影枚数を決定するかについて、以下フルサイズ撮像素子を用いたカメラにおいて、焦点距離135mm、開放絞り値F2.0のレンズを使用した場合についてのプログラム線図を図9により具体的に説明する。上記のようにフルサイズ撮像素子、焦点距離135mmでは1/125secを手ブレしない下限シャッタ速度と見なして良い。
【0122】
図9A〜図9Cは上記条件の場合の露出プログラムを表したプログラム線図であり、図9Aは、上記の意図を具現化し、感度上限をISO1600にした場合のプログラム線図である。
【0123】
また、感度上限がISO400になった場合のプログラム線図を図9Bに示す。
【0124】
さらに参考に、画像合成による手ブレ防止を行わず、かつ感度上限がISO1600に設定された場合のプログラム線図を図9Cに示す。
【0125】
まず、図9Aについて説明する。
【0126】
図9Aでは、EV23〜EV9までは十分明るいので、感度がISO100のままで、シャッタ速度が次第に遅くなり、EV9で1/125秒となる。EV9よりも被写体が暗くなると、シャッタ速度が1/125秒より遅くなり、手ブレが画質に影響を与えるようになるため、被写体の明るさがEV8では、シャッタ速度1/125秒で2枚の画像を連写し、これらの画像を合成することにより手ブレを抑制する。また、EV7では、シャッタ速度1/125秒で4枚の画像を連写し、これらの画像を合成する。EV7〜EV3では、感度が100のままでは連写枚数が4枚より多くなるため、連写枚数は4枚に保ったまま、感度を次第に上げていく。そして、EV3では、感度が上限として設定したISO1600となる。被写体がEV3よりも暗くなった場合には、感度は既に設定した上限値に達しているので、再び連写枚数(合成枚数)を増やすことで対応し、EV2では連写枚数を8枚とする。被写体の明るさがEV2よりも更に暗くなると、既に感度も連写枚数も上限値となっているので、シャッタ速度を次第に遅くすることで対応する。
【0127】
以上が、感度上限をISO1600とした場合のプログラム線図の例である。
【0128】
また、図9BはISO感度の上限を400とした場合の例、図9Cは画像合成による手ブレ補正を行なわない場合の例であるが、それぞれの違いはEV9以下の低輝度側で生じる。感度上限がISO400に設定された場合(図9B)は、ISO1600に設定された場合(図9A)と比較すると、上限感度がISO400なので、EV4以下で合成枚数を8枚、16枚まで増やしている。画像合成による手ブレ補正を行なわない場合(図9C)は、EV9〜EV5の間で感度をISO1600まで次第に上げ、それより暗い範囲では、シャッタ速度を1/125秒よりも次第に遅くする。
【0129】
以上説明したように、撮影者が感度上限を設定でき、それに対応した露出プログラムを用いて、画像合成による手ブレ補正を行うことで、許容範囲内で、できるだけノイズが少なく、かつ手ブレの影響の少ない画像を得ることができる。
【0130】
現時点では、デジタルカメラでの画像情報の読み出しには2〜8ch程度のA/D変換器が使用されているが、より多数、たとえば1行に1つのA/D変換器を設けて高速読み出しを行う技術も提案されている。将来的に、現在よりも高速な画像読み出しが行われるようになれば、連写撮影の枚数の上限をより増やしてもかまわない。
【0131】
また、上記の説明では位置合わせの基準を2枚の画像のうち、先に撮影された画像とする例について説明したが、結果として位置合わせが出来れば良いので、位置合わせの基準はどこに置いてもよい。たとえば1枚目を基準に、1枚目と2枚目、1枚目と3枚目、1枚目と4枚目の動きベクトルを求めて、2〜4枚目を1枚目の画像に重ねるという処理をしてもかまわない。
【0132】
以上、本発明の実施形態の説明を行ったが、本発明は上記の実施形態に限定されることなく、種々の変形が可能である。
【0133】
上記の説明では、本発明をレンズ交換式の一眼レフタイプの撮像装置に適用した例を説明したが、レンズや鏡筒が本体と一体化された、いわゆるコンパクトタイプのデジタルカメラに適用してもかまわない。また、静止画撮影機能を有するビデオカメラなどについても本発明が適用可能なことは言うまでもない。
【0134】
また、操作系についてもモードダイアルでなく、プッシュスイッチの組み合わせでモードを切り替え可能なように構成してもよい。
【0135】
また、上記の実施形態では、画像の平行移動(動きベクトル)を用いて画像の位置合わせを行うように説明したが、アフィン変換など、画像の回転や変形まで考慮して合成を行ってよい。
【0136】
また、小ブロックの分割画素数は本実施形態で説明した画素数に限定されるものではなく、たとえば128画素×128画素など任意の大きさのブロックでかまわない。また、画面全体の動きベクトルの判定もたとえば頻度順に2〜3の動きベクトル候補値を選び、それらから補間によって求めるようにしてもよい。また、他の公知な方法によってもかまわない。たとえば画面から特徴となる点を抽出し、それと対応する点を探しだすことで動きベクトルを求めるようにしてもよい。また、画面全体を調べるのではなく、演算量を減らすために小ブロックを一部選択してそれらについての動きベクトルから求めるようにしてもよい。このように様々な手法が公知であるがそれらのどの方法によって動きベクトルを求めても良い。
【0137】
また、本実施形態ではカメラ内で位置合わせおよび合成処理を行う場合について説明したが、カメラ側では連写撮影のみを行い、撮影された複数画像をPCやプリンタなどに取り込み、後処理的に位置合わせ、および合成処理を行うようにしても良い。また、銀塩フィルムのラボのように、ユーザーが記憶媒体に記憶された画像をラボに持ち込んだり、インターネットなどの通信機能によりラボ側に画像を送付し、ラボ側にて画像合成処理を行うという形態でもかまわない。
【0138】
なお、不揮発性メモリ224は、PCMCIAカードやコンパクトフラッシュ(登録商標)等のメモリカード、ハードディスク等だけでなく、マイクロDAT、光磁気ディスク、CD−RやCR−WR等の光ディスク、DVD等の相変化型光ディスク等で構成されていてもよい。
【0139】
また、不揮発性メモリ224とハードディスク等が一体となった複合媒体であってもよい。さらに、その複合媒体から一部が着脱可能な構成としてもよい。
【0140】
また、上記の実施形態の説明においては、不揮発性メモリ224は撮像装置200と分離していて任意に接続可能なものとして説明したが、撮像装置200に固定したままとなっていてもよい。
【0141】
また、撮像装置200に不揮発性メモリ224が、単数或いは複数の任意の個数接続可能な構成であっても構わない。
【0142】
画像合成を行う画像処理装置の画像処理はソフトウェアで実現しても良いし、ハードウェアで実現しても良い。
【0143】
さらに上記以外に本発明の趣旨に沿った範囲でさまざまな変形例の形態をとってもかまわない。
【0144】
(他の実施形態)
また、各実施形態の目的は、前述した実施形態の機能を実現するソフトウェアのプログラムコードを記録した記憶媒体(または記録媒体)を、システムあるいは装置に供給し、そのシステムあるいは装置のコンピュータ(またはCPUやMPU)が記憶媒体に格納されたプログラムコードを読み出し実行することによっても、達成されることは言うまでもない。この場合、記憶媒体から読み出されたプログラムコード自体が前述した実施形態の機能を実現することになり、そのプログラムコードを記憶した記憶媒体は本発明を構成することになる。また、コンピュータが読み出したプログラムコードを実行することにより、前述した実施形態の機能が実現されるだけでなく、そのプログラムコードの指示に基づき、コンピュータ上で稼働しているオペレーティングシステム(OS)などが実際の処理の一部または全部を行い、その処理によって前述した実施形態の機能が実現される場合も含まれることは言うまでもない。
【0145】
さらに、記憶媒体から読み出されたプログラムコードが、コンピュータに挿入された機能拡張カードやコンピュータに接続された機能拡張ユニットに備わるメモリに書込まれた後、そのプログラムコードの指示に基づき、その機能拡張カードや機能拡張ユニットに備わるCPUなどが実際の処理の一部または全部を行い、その処理によって前述した実施形態の機能が実現される場合も含まれることは言うまでもない。
【0146】
本発明を上記記憶媒体に適用する場合、その記憶媒体には、先に説明した手順に対応するプログラムコードが格納されることになる。
【図面の簡単な説明】
【0147】
【図1】本発明の一実施形態に係わる撮像装置の構成を示すブロック図である。
【図2】本発明の一実施形態に係わる撮像装置の主ルーチンを示すフローチャートである。
【図3】本発明の一実施形態に係わる撮像装置の主ルーチンを示すフローチャートである。
【図4】本発明の一実施形態に係わる撮像装置の測距・測光ルーチンを示すフローチャートである。
【図5】本発明の一実施形態に係わる撮像装置の撮影ルーチンを示すフローチャートである。
【図6】本発明の一実施形態における動きベクトル検知方法について説明する図である。
【図7】本発明の一実施形態に係わる撮像装置の記録ルーチンを示すフローチャートである。
【図8】本発明の一実施形態に係わる撮像装置の測光演算ルーチンを示すフローチャートである。
【図9A】本発明の一実施形態における露出プログラムのプログラム線図を説明する図である。
【図9B】本発明の一実施形態における露出プログラムのプログラム線図を説明する図である。
【図9C】露出プログラムのプログラム線図の参考例を説明する図である。
【符号の説明】
【0148】
100 撮影レンズ
101 フォーカスレンズ
104 レンズ制御回路
107 電気接点ユニット
109 焦点距離検出部
200 撮像装置
208 測光センサ
209 測光回路
212 撮像素子
227 カメラDSP
230 システムコントローラ
237 感度上限設定部
【技術分野】
【0001】
本発明は、デジタルカメラ等の撮像装置において、複数枚の画像を合成することで手ブレを補正する技術に関するものである。
【背景技術】
【0002】
従来、銀塩カメラ、ビデオカメラ、電子スチルカメラなどの手持ち撮影時に発生する手ブレを補正する技術についてはさまざまなものが提案され、かつ実用化されている。
【0003】
たとえば、振動ジャイロなどの角速度センサによって手ブレを検知し、光学系を揺動させたり、光軸と垂直方向に補正光学系を駆動することによって手ブレを抑制する技術が、一眼レフカメラ用の交換レンズ、電子スチルカメラ等において既に用いられている。防振機能により、より多くの状況で手ブレに影響されずに撮影することが可能となり、その効果は大きい。しかしながら、角速度センサ及び補正光学系が追加されることにより、手ブレ補正機能を持たない交換レンズ、電子スチルカメラに比べて大型化やコスト増が避けられないという問題があった。
【0004】
一方、ビデオカメラではNTSCやPALなどのテレビ方式に合わせて1/60秒または1/50秒間隔で撮影が行われるため、撮像された各画像間での動きベクトルを検知して、角速度センサの代わりに手ブレ量を測定する技術を用いるものがある。また手ブレ補正に関しても、撮像素子から画像を取り出す切り出し位置を検知された手ブレ量に応じて変えることにより、補正光学系のような可動部分を持たずに手ブレ抑制機能を実現しているものもある。これらの技術では大型化やコスト増を回避することができる。
【0005】
しかしながら、電子スチルカメラにおいては、動画と静止画の違いから、このようなビデオカメラの手ブレ補正技術をそのまま応用することは困難である。なぜなら、電子スチルカメラでは銀塩カメラと同様に、測光結果によって定まった露光時間中、連続して撮像素子での蓄積を行うからである。蓄積に並行して画像データを読み出すことは困難であることから、電子スチルカメラでは露光中にリアルタイムに画像から動きベクトルを得ることができない。また手ブレ補正についても、露光中にすでに撮像素子上には手ブレが重畳された画像が蓄積されているため、画像の切り出し位置を変えても手ブレを補正することはできない。
【0006】
そこで、電子スチルカメラに好適な手ブレ補正技術として、次のような技術が提案されている。即ち、手ブレが目立たない程度の速いシャッタ速度で複数枚の露出不足の画像を連続撮影し、撮影後の処理でそれら複数枚の画像の位置合わせを行いながら合成して手ブレの目立たない適正露出の画像を得るというものである。
【0007】
本願出願人が既に出願している特許文献1には、順次撮像した画像を、経時的な位置ずれに対応して座標変換を行った後に合成する技術が開示されている。
【特許文献1】特許3110797号公報
【発明の開示】
【発明が解決しようとする課題】
【0008】
ところで、電子スチルカメラでは、銀塩フィルムのISO感度に相当する感度を各撮影コマごとに設定することが可能である。感度も含めて、絞り値、シャッタ速度を自動的に設定する自動露出機能を持つカメラは実用化されている。しかし、感度を上げるとノイズが増え、画質が低下するという問題があった。
【0009】
ここで、上記の複数枚の画像を合成して手ブレを補正する技術は、基本的に、感度を上げてシャッタ速度を早くすることにより手ブレを抑制するのではなく、感度を上げずに速いシャッタ速度で連続撮影した複数枚の露出不足の画像を合成するものである。
【0010】
しかしながら、画像合成による手ブレ補正でも、被写体が暗い場合には、感度を上げないと連続撮影する画像の枚数が多くなり、撮影動作と画像の合成処理に多くの時間がかかるという問題がある。また、逆に感度を上げると、連続撮影する画像の枚数を減らすことはできるが、上述のようにノイズが増え、合成後の画像の画質が低下するという問題がある。
【0011】
従って、本発明は上述した課題に鑑みてなされたものであり、その目的は、連続撮影した複数の画像を合成して手ブレを補正する場合に、感度と連続撮影する画像の枚数の関係を適切に制御できるようにすることである。
【課題を解決するための手段】
【0012】
上述した課題を解決し、目的を達成するために、本発明に係わる撮像装置は、連続して撮影された複数枚の露出不足の画像を合成することにより、目標とする露出の画像を得る撮像装置であって、被写体像を光電変換して画像信号を生成する撮像手段と、前記撮像手段の感度の上限値を設定する設定手段と、前記設定手段により設定された前記感度の上限値に基づいて、前記連続して撮影される各1枚の画像の撮影条件と、連続して撮影する画像の枚数とを制御する制御手段と、を備えることを特徴とする。
【0013】
また、本発明に係わる撮像装置の制御方法は、被写体像を光電変換して画像信号を生成する撮像手段を備え、連続して撮影された複数枚の露出不足の画像を合成することにより、目標とする露出の画像を得る撮像装置を制御する方法であって、前記撮像手段の感度の上限値を設定する設定工程と、前記設定工程において設定された前記感度の上限値に基づいて、前記連続して撮影される各1枚の画像の撮影条件と、連続して撮影する画像の枚数とを制御する制御工程と、を備えることを特徴とする。
【発明の効果】
【0014】
本発明によれば、連続撮影した複数の画像を合成して手ブレを補正する場合に、感度と連続撮影する画像の枚数の関係を適切に制御することが可能となる。
【発明を実施するための最良の形態】
【0015】
以下、本発明の好適な一実施形態について、添付図面を参照して詳細に説明する。
【0016】
図1は、本発明の一実施形態に係わる撮像装置(レンズ交換式の一眼レフデジタルカメラ)の構成を示すブロック図である。
【0017】
図1において、撮像装置200には、撮影レンズ100が不図示のマウント部のレンズ装着機構を介して着脱可能に取り付けられる。マウント部には、電気接点ユニット107が設けられている。撮像装置200は、撮影レンズ100とこの電気接点ユニット107を介して通信を行い、撮影レンズ100内のフォーカスレンズ101および光量を調節する絞り102の駆動を制御する。なお、図1には、撮影レンズ100内のレンズとしてフォーカスレンズ101のみを示しているが、このほかに変倍レンズや固定レンズが設けられ、これらを含めてレンズユニットを構成する。
【0018】
不図示の被写体からの光束は、撮影レンズ100内のフォーカスレンズ101を含むレンズユニットおよび絞り102を介して、撮像装置200内のクイックリターンミラー203に導かれる。クイックリターンミラー203は、撮影光路内に光軸に対して斜めに配置されて、被写体からの光束を上方のファインダー光学系に導く第1の位置(図示した位置)と、撮影光路外に退避する第2の位置とに移動が可能である。
【0019】
クイックリターンミラー203の中央部はハーフミラーになっており、クイックリターンミラー203が第1の位置にダウンしているときには、被写体からの光束の一部がハーフミラー部を透過する。そして、この透過した光束は、クイックリターンミラー203の背面側に設けられたサブミラー204で反射され、焦点検出回路206とともに自動焦点調整ユニットを構成する位相差AFセンサ205に導かれる。焦点検出回路206は、位相差AFセンサ205の出力信号から、公知の位相差AF技術を用いて、撮影レンズ100の合焦状態の検出(焦点検出)を行う。
【0020】
一方、クイックリターンミラー203で反射された光束は、ピント面に存在するファインダースクリーン202、およびペンタプリズム201、接眼レンズ207により構成されるファインダー光学系を介して撮影者の目に至る。
【0021】
また、クイックリターンミラー203が第2の位置にアップした際には、撮影レンズ100からの光束は、機械シャッタであるフォーカルプレーンシャッタ210および光学フィルタ211を介して撮像素子212に至る。この撮像素子212は、CCDやCMOSセンサ等により代表される被写体像を光電変換するイメージセンサである。光学フィルタ211は、赤外線をカットして可視光線のみを撮像素子212へ導く機能と、光学ローパスフィルタとしての機能とを有する。
【0022】
また、フォーカルプレーンシャッタ210は、先幕および後幕を有して構成されており、撮影レンズ100からの光束の透過および遮断を制御する。
【0023】
なお、クイックリターンミラー203が第2の位置にアップしたときには、サブミラー204もクイックリターンミラー203に対して折り畳まれて撮影光路外に退避する。
【0024】
また、本実施形態の撮像装置200は、この撮像装置全体の制御を司るシステムコントローラ230を有する。システムコントローラ230は、CPUやMPU等により構成され、後述する各回路等の動作を制御する。
【0025】
システムコントローラ230は、電気接点ユニット107を介して、撮影レンズ100内のレンズ制御回路104および絞り制御駆動回路106に対して通信を行う。レンズ制御回路104は、システムコントローラ230からの信号に応じて、フォーカスレンズ101を光軸に沿って駆動してピント合わせを行うレンズ駆動機構103を制御する。レンズ駆動機構103は、ステッピングモータやDCモータを駆動源として有する。
【0026】
また、絞り制御駆動回路106は、システムコントローラ230からの信号に応じて、絞り102を駆動する絞り駆動機構105を制御する。
【0027】
撮影レンズ100がズームレンズの場合、手動でレンズの焦点距離を変更できるズーム機構108が内蔵されている。
【0028】
また、ズーム機構108によるレンズの焦点距離変化は、焦点距離検出部109によって検出され、焦点距離情報として、レンズ制御回路104および電気接点ユニット107を介してシステムコントローラ230に通信される。
【0029】
また、システムコントローラ230は、シャッタ制御回路215と測光回路209とにも接続されている。シャッタ制御回路215は、システムコントローラ230からの信号に応じて、フォーカルプレーンシャッタ210の先幕および後幕の走行駆動を制御する。
【0030】
また、システムコントローラ230には、EEPROM(記憶手段)223も接続されている。EEPROM223には、撮像装置200を制御する上で調整が必要なパラメータや、撮像装置個体の識別を行うための固有の情報であるカメラID(識別)情報が記憶されている。また、基準レンズ(撮像装置200の工場での調整時に用いられる撮影レンズ)を用いて調整された、撮影に関するパラメータの調整値等が記憶されている。
【0031】
測光回路209は、接眼レンズ207の近傍に配設された測光センサ208に接続されており、測光センサ208を通じて被写体の輝度を測定する。測光回路209の測定結果は、システムコントローラ230へ送られる。
【0032】
また、システムコントローラ230は、レンズ制御回路104を介してレンズ駆動機構103を制御することにより、フォーカスレンズ101を移動させて被写体像を撮像素子212上に結像させる。また、システムコントローラ230は、設定されたAv値(絞り値)に基づいて、絞り制御駆動回路106を介して絞り駆動機構105を制御し、さらに、設定されたTv値(シャッタ速度)に基づいてシャッタ制御回路215に制御信号を出力する。
【0033】
フォーカルプレーンシャッタ210の先幕、後幕は、駆動源がバネにより構成されており、シャッタ走行後、次の動作のためにバネチャージを要する。シャッタチャージ機構214は、このバネチャージを行う。また、ミラー駆動機構213によりクリックリターンミラー203のアップダウン駆動が行われる。
【0034】
また、システムコントローラ230には、カメラDSP227が接続されている。このカメラDSP227は、DSP(デジタル信号プロセッサ)により構成される補正データサンプル回路及び補正回路である。そして、撮像素子212の制御、および撮像素子212から入力された画像データの補正や加工などをシステムコントローラ230の指令に基いて実行する。画像データの補正、加工の項目の中には、オートホワイトバランスも含まれている。
【0035】
オートホワイトバランスとは、撮影画像中の最大輝度部分を所定の色(白色)に補正する機能である。オートホワイトバランスについては、システムコントローラ230からの命令により補正量を変更することが可能である。
【0036】
カメラDSP227には、タイミングジェネレータ219、セレクタ222を介してA/Dコンバータ217、ビデオメモリ221、ワークメモリ226が接続されている。
【0037】
撮像素子212からの電気信号は、既知の相関二重サンプリング等の方法により撮像素子212の出力に含まれるリセットノイズ等を除去するとともに、所定の信号レベルまで出力を増幅するCDS/AGC回路216に入力される。そして、CDS/AGC回路216からの出力信号は、各画素毎に順にA/Dコンバータ217で所定のデジタル信号に変換される。
【0038】
ここで、撮像素子212は、全体の駆動タイミングを決定しているタイミングジェネレータ219からの信号に基づき、各画素毎の水平駆動並びに垂直駆動のためのドライバ回路218からの出力で駆動されることにより、画像信号を発生して出力する。同様に、撮像素子212から出力される画像信号をアナログ的に処理して所定の信号レベルに変換するCDS/AGC回路216、およびA/Dコンバータ217も、タイミングジェネレータ219からのタイミング信号に基づいて動作する。
【0039】
A/Dコンバータ217からの出力は、システムコントローラ230からの信号に基づいて信号を選択するセレクタ222を介してメモリコントローラ228に入力され、フレームメモリであるDRAM229に全て転送される。
【0040】
撮影動作終了後、メモリコントローラ228の制御により、撮影データを記憶しているDRAM229の内容を、セレクタ222を介してカメラDSP227に転送する。このカメラDSP227は、DRAM229に記憶されている各撮影データの各画素データを基に、RGBの各色信号を生成する。
【0041】
ビデオカメラやコンパクトタイプのデジタルカメラでは、撮影前状態時に、この結果をビデオメモリ221に定期的(各フレーム毎)に転送することで、モニタ表示部220によりファインダー表示(ライブビュー)等を行っている。一眼レフ方式のデジタルカメラでは、通常、撮影前時点ではクイックリターンミラー203やフォーカルプレーンシャッタ210により撮像素子212は遮光されているため、ライブビューは行えない。しかし、クイックリターンミラー203をアップし撮影光路より退避させてからフォーカルプレーンシャッタ210を開いた状態にすることで、ライブビュー動作が可能となる。また、ライブビュー時に撮像素子からの画像信号をカメラDSP227もしくはシステムコントローラ230が処理することでコントラスト評価値を得ることができ、この評価値を用いてコントラスト方式のAFを行うことが可能である。
【0042】
撮影時には、システムコントローラ230からの制御信号によって、1フレーム分の各画素データをDRAM229から読み出し、カメラDSP227で画像処理を行ってから、一旦、ワークメモリ226に記憶する。そして、ワークメモリ226のデータを圧縮・伸張回路225で所定の圧縮フォーマットに基づいて圧縮し、その結果を外部の不揮発性メモリ(外部メモリ)224に記憶する。不揮発性メモリ224として、通常、フラッシュメモリ等の不揮発性メモリを使用する。また、ハードディスク、磁気ディスク等などであってもよい。
【0043】
また、カメラDSP227は後述する画像ブレ補正用の動きベクトル検知の機能も有する。動きベクトル検知を行う場合は、DRAM229に保存されている2フレーム分の画素データを読み出し、カメラDSP227で相関演算を行い、動きベクトルを求める。動きベクトルの求め方についての詳細は後述する。
【0044】
また、撮影済みの画像データを観察する場合、不揮発性メモリ224に圧縮・記憶されたデータを、圧縮・伸張回路225を通じて通常の撮影画素毎のデータに伸張し、その結果をカメラDSP227に接続されているビデオメモリ221に転送する。これにより、モニタ表示回路220を通じて表示を行うことができる。
【0045】
さらに、システムコントローラ230には、表示回路231と、レリーズスイッチSW1(233)と、レリーズスイッチSW2(234)と、防振モードのON/OFF状態を切り替える防振モードスイッチ235が接続されている。また、撮影モードを切り替えるためのモードダイアル236、およびその他の設定や各種の選択を行うための操作スイッチ類232、も接続されている。モードダイアル236には「P(プログラムモード)」、「Tv(シャッタ速度優先モード)」、「Av(絞り優先モード)」、「M(マニュアルモード)」等の各種撮影モードを示すポジションがある。また、それ以外にも風景やマクロ撮影、動体撮影向けのスポーツなど被写体によりプリセットされた撮影モードのポジションもある。また、電源OFFを示す位置もあり、電源スイッチを兼ねている。
【0046】
また、以上に加えて撮影時の感度の上限を設定するためのスイッチ類である感度上限設定部237もシステムコントローラ230に接続されている。
【0047】
表示回路231は、上記各スイッチ類により設定又は選択されたカメラの動作状態を、液晶素子やLED(発光ダイオード)、有機EL等の表示素子により表示する。
【0048】
レリーズスイッチSW1(233)は、測光・焦点検出などの撮影準備動作を開始させるためのスイッチである。レリーズスイッチSW2(234)は、撮影動作(静止画像を取得するためのミラーアップ、絞り駆動、シャッタ駆動および、電荷蓄積および電荷読み出し動作等)を開始させるためのスイッチである。
【0049】
一方、撮影レンズ100において、レンズ制御回路104には、撮影レンズ100の開放絞り値等の性能情報、撮影レンズ100を識別するための固有の情報であるレンズID(識別)情報、およびシステムコントローラ230から通信により受け取った情報を記憶するメモリ(図示せず)が設けられている。なお、性能情報およびレンズID情報は、撮像装置200への装着時における初期通信により、システムコントローラ230に送信され、システムコントローラ230はこれらをEEPROM223に記憶させる。
【0050】
次に、図2乃至図8を参照して、一実施形態の撮像装置200の動作について説明する。
【0051】
図2及び図3は本実施形態の撮像装置200の動作の主ルーチンを示すフローチャートである。
【0052】
電池交換等の電源投入により、システムコントローラ230はフラグや制御変数等を初期化する(ステップS101)。
【0053】
システムコントローラ230は、モードダイアル236の設定位置を判断し、モードダイアル236が電源OFFに設定されていたならば(ステップS102)、ステップS104に進む。そして、各表示部の表示を終了状態に変更し、フラグや制御変数等を含む必要なパラメータや設定値、設定モードをEEPROM223に記録する。また、撮像装置200各部の不要な電源を遮断する等の所定の終了処理を行った後(ステップS104)、ステップS102に戻る。
【0054】
モードダイアル236がP、Tv、Av、Mなどの撮影モードに設定されていたならば(ステップS102)、ステップS105に進む。
【0055】
システムコントローラ230は、電池等により構成される図示されない電源の残容量や動作情況が撮像装置200の動作に問題があるか否かを判断する(ステップS105)。そして、問題があるならば表示回路231を用いて画像や音声により所定の警告表示を行った後に(ステップS107)、ステップS102に戻る。
【0056】
電源に問題が無いならば(ステップS105)、システムコントローラ230は記録媒体である不揮発性メモリ224の動作状態が撮像装置200の動作、特に記録媒体に対する画像データの記録再生動作に問題があるか否かを判断する(ステップS106)。そして、問題があるならば表示回路231を用いて画像や音声により所定の警告表示を行った後に(ステップS107)、ステップS102に戻る。
【0057】
不揮発性メモリ224の動作状態に問題が無いならば(ステップS106)、表示回路231を用いて画像や音声により撮像装置200の各種設定状態の表示を行う(ステップS108)。
【0058】
システムコントローラ230は、防振モードスイッチ235の設定状態を調べ(ステップS109)、防振機能ONに設定されていたならば防振機能フラグを設定する(ステップS110)。また、防振機能OFFに設定されていたならば防振機能フラグを解除する(ステップS111)。
【0059】
なお、防振機能フラグの状態は、システムコントローラ230の内部メモリ或いはDRAM229に記憶される。
【0060】
次に感度上限設定部237が操作され、使用者が自分の許容できる撮影感度の上限を設定したかどうかが判定される(ステップS121)。設定が行われたならその設定された上限感度を記憶する。上限感度は、システムコントローラ230の内部メモリ或いはDRAM229に記憶される。本実施形態では、設定可能な上限感度はISO400、ISO800、ISO1600の3種類から選択可能としている。
【0061】
レリーズスイッチSW1(233)が押されていないならば(ステップS112)、ステップS102に戻る。
【0062】
レリーズスイッチSW1(233)が押されたならば(ステップS112)、システムコントローラ230は、位相差AFセンサ205、焦点検出回路206による位相差測距処理を行う。そして、その結果に応じて撮影レンズ100側に通信を行い、レンズ制御回路104、レンズ駆動回路103によってフォーカスレンズ101の焦点を被写体に合わせる。次に測光処理を行って絞り値及びシャッタ時間(撮影条件)を決定する(ステップS113)。
【0063】
測光処理において、本実施形態では図示および説明はしていないが、必要であれば撮像装置200に内蔵または外付けされているフラッシュの設定も行う。
【0064】
この測距・測光処理ルーチンS113の詳細は図4を用いて後述する。
【0065】
測距・測光処理ステップS113を終えたならば、レリーズスイッチSW2(234)が押されたかどうかの判定(ステップS114)に進む。
【0066】
レリーズスイッチSW2(234)が押されずに(ステップS114)、さらにレリーズスイッチSW1(233)も解除されたならば(ステップS115)、ステップS102に戻る。
【0067】
レリーズスイッチSW2(234)が押されたならば(ステップS114)、ステップS116に進む。
【0068】
システムコントローラ230は、撮像素子212、A/D変換器217、カメラDSP227、メモリコントローラ228を介して、DRAM229に撮影した画像データを書き込む露光処理、及び、メモリコントローラ228、そして必要に応じてカメラDSP227、DRAM229に書き込まれた画像データを読み出して各種処理を行う現像処理からなる撮影処理を実行する(ステップS116)。
【0069】
この撮影処理ルーチンS116の詳細は図5を用いて後述する。
【0070】
システムコントローラ230は、DRAM229に書き込まれた撮影画像データを読み出して、メモリコントローラ228そして必要に応じてカメラDSP227を用いて各種画像処理を行う。また、圧縮・伸長回路225を用いて設定したモードに応じた画像圧縮処理を行った後、記録媒体である不揮発性メモリ224へ画像データの書き込みを行う記録処理を実行する(ステップS117)。
【0071】
この記録処理ルーチンS117の詳細は図7を用いて後述する。
【0072】
記録処理ステップS117が終了した際に、レリーズスイッチSW2(234)が押された状態であったならば(ステップS118)、システムコントローラ230はシステムコントローラ230の内部メモリ或いはDRAM229に記憶される連写フラグの状態を判断する(ステップS119)。そして、連写フラグが設定されていたならば、連続して撮影を行うためにステップS116に戻り、次の撮影を行う。
【0073】
連写フラグが設定されていないならば(ステップS119)、レリーズスイッチSW2(234)が放されるまで(ステップS118)、現在の処理を繰り返す。
【0074】
レリーズスイッチSW1(233)が押された状態であったならば(ステップS120)、システムコントローラ230は、ステップS114に戻って次の撮影に備える。
【0075】
レリーズスイッチSW1(233)が放された状態であったならば(ステップS120)、システムコントローラ230は、一連の撮影動作を終えてステップS102に戻る。
【0076】
図4は、図3のステップS113における測距・測光処理の詳細を示すフローチャートである。
【0077】
まず、測距・測光処理においては、システムコントローラ230は、焦点検出回路206により、クイックリターンミラー203のハーフミラー部を透過しサブミラー204で反射した被写体からの光束の一部を位相差AFセンサ205上の像として読み出す。そして、公知の位相差AF技術により、被写体までの距離を検出する(ステップS201)。
【0078】
そして、システムコントローラ230は、電気接点ユニット107を介して、レンズ制御回路104に対してレンズ駆動指令の通信を行う。そして、レンズ制御回路104はその指令値に基き、レンズ駆動機構103を介してフォーカスレンズ101を駆動する(ステップS202)。
【0079】
駆動後、システムコントローラ230は、焦点検出回路206および位相差AFセンサ205を用いて再度測距を行う(ステップS203)。
【0080】
測距の結果、合焦状態であると判断されたなら(ステップS204)、測光処理に進む。合焦状態でないと判断されたなら合焦状態になるまでステップS201からステップS204のシークエンスを繰り返す。
【0081】
測光処理(ステップS205)では、システムコントローラ230は、測光回路209を介して、測光センサ208により被写体輝度を測定する。
【0082】
次に、システムコントローラ230はシステムコントローラ230の内部メモリ或いはDRAM229に記憶されている防振機能フラグの状態を判断する(ステップS206)。そして、防振機能ONの場合は防振用AE制御を行い(ステップS207)、防振機能OFF時は通常のAE制御を行う(ステップS208)。
【0083】
防振機能がONの場合は、複数枚の画像が連続撮影され、その後、画像処理装置にて像の位置ズレを補正しながら加算合成が行われる。このときのシャッタ速度は通常のAE制御時より合成する枚数に応じて手ブレが発生しにくい速いシャッタ速度で制御する必要がある。そのため、複数枚の画像のそれぞれは露出不足の画像となり、それらを合成することにより、結果として目標とする露出の画像を得る。
【0084】
防振機能ON状態でのAE制御(ステップS207)については図8を用いて後述する。
【0085】
以上により、測距・測光処理は終了する。
【0086】
図5は、図3のステップS116における撮影処理の詳細を示すフローチャートである。
【0087】
撮影処理が開始されるとまずシステムコントローラ230は、ミラー駆動機構213を介して、クイックリターンミラー203をミラーアップし、撮影光路外に退避した第2の位置に移動させる。このとき、サブミラー204もクイックリターンミラー203に対して折り畳まれて撮影光路外に退避する(ステップS301)。
【0088】
次にシステムコントローラ230は、電気接点ユニット107を介して、絞り制御駆動回路106に対してAE演算時に求められたAv値に基づいて絞り駆動指令の通信を行う。そして、絞り制御駆動回路106はその指令値に基づき、絞り駆動機構105を介して絞り102を絞込み駆動する(ステップS302)。
【0089】
次にシステムコントローラ230は、シャッタ制御回路215に対して制御信号を出力し、シャッタ先幕を走行させ、シャッタ開状態にする(ステップS303)。この動作により、撮像素子212の露光が開始される(ステップS304)。
【0090】
次にシステムコントローラ230は、露光開始から内部のタイマ等により、測光時(ステップS205〜ステップS208)に設定されたTv値に相当する時間が経過したかどうかを判断する(ステップS305)。設定された時間が経過していない場合は経過するまでステップS305をループして待つ。経過したなら露光終了と判断して次のステップS306に進む。
【0091】
ステップS306では、システムコントローラ230はシャッタ制御回路215に対して制御信号を出力し、シャッタ後幕を走行させ、シャッタを閉状態にして、撮像素子212の露光を終了させる。
【0092】
次にシステムコントローラ230は、電気接点ユニット107を介して、絞り制御駆動回路106に対して絞りを開放状態にするための絞り駆動指令の通信を行う。そして、絞り制御駆動回路106はその指令値に基き、絞り駆動機構105を介して絞り102を開放状態に駆動する(ステップS307)。
【0093】
次にシステムコントローラ230は、ミラー駆動機構213を介して、クイックリターンミラー203をミラーダウンさせ、ファインダー光学系へ被写体からの光束を導く第1の位置に移動させる(ステップS308)。
【0094】
次にシステムコントローラ230は、次の撮影に備えて、シャッタチャージ機構214によりバネチャージを行う(ステップS309)。
【0095】
次にシステムコントローラ230は、カメラDSP227に対して指令を与え、露光中に撮像素子212上に形成された画像信号の読み出しを行う(ステップS310)。読み出された信号は、カメラDSP227に接続されたタイミングジェネレータ219、セレクタ222を介してCDS/AGC回路216により増幅され、各画素ごとにA/Dコンバータ217によりデジタル信号に変換される。デジタル信号に変換された画像データは、セレクタ222を介して、メモリコントローラ228に入力され、フレームメモリであるDRAM229に転送され保存される(ステップS311)。
【0096】
次に、システムコントローラ230はシステムコントローラ230の内部メモリ或いはDRAM229に記憶されている防振機能フラグの状態を判断し(ステップS312)、防振機能ONの場合は、防振撮影終了判断(ステップS313)に進む。ステップS312にて防振機能OFFならば撮影動作を終了する。
【0097】
防振機能フラグがセットされている場合(ステップS312)は、防振用連写撮影が終了したかどうかを判断し(ステップS313)、終了していない場合はステップS301に戻り、防振用連写が終了するまで上記のステップを繰り返す。
【0098】
防振用連写撮影が終了したなら、次に、防振用画像合成処理を行う。まず、システムコントローラ230がDRAM229内にある防振用画像処理に用いる変数で何枚目を処理しているかを表す変数nを1に初期化する(ステップS314)。
【0099】
次に、システムコントローラ230は、カメラDSP227の動きベクトル検知機能を用いて防振連写撮影のnコマ目画像とn+1コマ目画像間の動きベクトルを演算する(ステップS315)。
【0100】
動きベクトルの検知方法としてはさまざまな手法が公知であり、そのうちどのような手法を用いることも可能である。一例として図6を用いて説明する。図6は動きベクトル検知方法の一例を説明する図である。
【0101】
図6(a)は画面を小ブロックに分割する様子を示した図である。300は撮影された画像であり、ここでは横3072画素、縦2048画素、総画素数6,291,456画素の画像が撮影されるものとする。動きベクトルを求めるためにここでは画面全体を横256画素、縦256画素の小ブロック301に分割する。このようにして図6(a)に示すように横12ブロック、縦8ブロックに分割される。
【0102】
次に、各小ブロックごとに、動きベクトルを求めるためのもう1枚の画像との二次元相関値を求めていく。相関値としては、小ブロックを画素単位でずらしながら、対応する各画素間の差の絶対値の和を次々に求めていき、その和が最小となるずらし量をその小ブロックの動きベクトルとする。
【0103】
このようにして、図6(b)に示すように全ての小ブロックにおいてその動きベクトル302を求める。
【0104】
次にそのようにして求めた動きベクトルの頻度を調べる。頻度を最頻値から順にプロットしたヒストグラムが図6(c)である。このようにして求めたヒストグラムから二画像間の動きベクトルを求める。たとえば、図6(c)の場合は(2,1)が最頻値であり、この二画像間の動きベクトルとなる。
【0105】
次に、画像合成を行うために、システムコントローラ230は、カメラDSP227を用いて、ステップS315で求められた動きベクトル値を用いて、n+1コマ目画像がnコマ目画像と重なるように座標変換を行う(ステップS316)。
【0106】
次に座標変換されたn+1コマ目画像をnコマ目画像と加算合成する(ステップS317)。そして、合成された画像をDRAM229に記録する(ステップS318)。そして、n=n+1として(ステップS319)、防振連写した全ての画像の合成が終了したかどうかを判断し(ステップS320)、終了していない場合はステップS315からステップS320までのステップを繰り返す。ステップS320で連写した画像の最後まで合成処理が終了していると判断された場合は、撮影処理のシークエンスを終了する。
【0107】
次に記録処理の動作について図7を用いて説明する。図7は、図3のステップS117における記録処理の詳細を示すフローチャートである。
【0108】
システムコントローラ230は、メモリコントローラ228そして必要に応じてカメラDSP227を用いて、DRAM229に書き込まれた撮影画像データを読み出して撮像素子の縦横画素比率を1:1に補間する画素正方化処理を行う(ステップS401)。その後、カメラDSP227を用いて、ワークメモリ226に処理を終えた画像データを書き込む。
【0109】
そして、ワークメモリ226に書き込まれた画像データを読み出して、設定したモードに応じた画像圧縮処理を圧縮・伸長回路225により行う(ステップS402)。その後、メモリカードやコンパクトフラッシュ(登録商標)カード等の不揮発性メモリ224へ圧縮した画像データの書き込みを行う(ステップS403)。
【0110】
記録媒体への書き込みが終わったならば、記録処理ルーチンS117を終了する。
【0111】
次に図8を用いて、図4のステップS207における防振時のAE制御について説明する。図8は防振時AE制御の動作を示すフローチャートである。
【0112】
まず、ステップS205で測定されてシステムコントローラ230内のメモリ、またはDRAM229に記憶されている測光値が読み出される(ステップS501)。
【0113】
次に、システムコントローラ230は、撮影レンズ100の焦点距離検出部109からの焦点距離情報を、電気接点ユニット107を介して、レンズ制御回路104より通信によって読み出す(ステップS502)。
【0114】
次に、ステップS502で求められたレンズ焦点距離情報からその焦点距離時の手ブレしにくい下限のシャッタ速度を演算する(ステップS503)。このようなシャッタ速度は次のようにして求めることが出来る。従来より35mmフィルムを使用するカメラでは撮影レンズの焦点距離をfmmとすると、1/f(sec)以上のシャッタ速度(1/f(sec)かそれよりも早いシャッタ速度)であれば手ブレが画像(画質)に影響を及ぼしにくいと言われている。一般的にデジタルカメラの撮像素子は35mmフィルムに対して小さいが、35mmフィルムに対する撮像素子の大きさの比と撮影レンズの実焦点距離から、35mmフィルムカメラ相当の焦点距離を求め、これをf’とする。そして、この逆数(1/f’(sec))以上のシャッタ速度を用いれば手ブレを画像に影響しにくくすることが出来る。または、PC用モニタなどで拡大表示して観察されることを考慮して、より高速なシャッタ速度に設定するようにしても良い。
【0115】
35mmフィルムと同等の撮像面積を持つフルサイズ撮像素子では、35mmフィルムの場合と同様、標準的な手ブレ量の撮影者なら1/f(sec)を下限のシャッタ速度とみなしてよい。たとえば焦点距離135mmのレンズの場合、1/f(sec)は1/135secとなるが、標準的なシャッタ速度の系列で考えると1/125secを下限シャッタ速度と見なして良いことになる。
【0116】
次に感度上限設定部237により設定され、システムコントローラ230の内部メモリ或いはDRAM229に記憶されている撮影者が許容できる上限感度設定が読み出される(ステップS504)。ここで、感度を上げるとノイズが増加して画質が低下するが、撮影者は自分が許容できる感度の上限値(画質劣化の限界)を予め感度上限設定部237により設定しておく。
【0117】
次に、ステップS501で読み出された測光値、ステップS503で演算された手ブレ限界シャッタ速度、ステップS504で読み出された上限感度設定値、およびシステムコントローラ230で設定されているプログラム線図より、シャッタ速度Tv、絞り値Av、感度、合成のための撮影枚数が算出される(ステップS505)。
【0118】
複数の画像の合成により手ぶれ防止をする場合と、単純にISO感度を上げて撮影する場合を比較すると、複数の画像の合成による手ぶれ防止では、各撮影画像は感度を下げて撮影するので、ノイズに関しては有利になる。
【0119】
そこで、低輝度になった場合、まず感度を上げるより、画像合成による手ぶれ防止効果を得る方を優先する露出プログラムとしている。また、複数の画像の合成による手ブレ防止効果では、4枚合成で2段、8枚合成で3段の効果を得ることができ、以下さらに効果を得ようとすると、合成すべき枚数は指数的に増えていく。普及クラスの一眼レフカメラでの連写速度が毎秒3コマ前後なので、4枚合成までは連写による撮影の所要時間は1.3秒前後で使い勝手はそれほど悪くはない。従って、低輝度側でシャッタ速度が手ブレ限界秒時に到達してからは、まず画像合成による手ブレ防止を行うようにし、連写枚数が4枚になるまでは合成する(連写する)画像の枚数を増加させることで対応する。それより低輝度側では、合成する(連写する)画像の枚数を4枚に固定したまま、感度を上げることで対応する。さらに低輝度になった場合は合成する(連写する)画像の枚数を8枚まで許容して画像合成による手ブレ防止を行うようにする。さらに低輝度になった場合は連動できなくなるので、シャッタ速度を低速側にして適正露出になるように対応する。
【0120】
8枚より1段効果を得ようとすると16枚の連写が必要になるが、ここまで増えると現状の普及クラスの一眼レフカメラ(毎秒3コマ程度)では撮影だけでも5秒以上時間がかかることになる。しかし、感度上限が低く設定された場合には、16枚までの連写を許容してもよい。
【0121】
どのようにシャッタ速度、絞り値、感度、撮影枚数を決定するかについて、以下フルサイズ撮像素子を用いたカメラにおいて、焦点距離135mm、開放絞り値F2.0のレンズを使用した場合についてのプログラム線図を図9により具体的に説明する。上記のようにフルサイズ撮像素子、焦点距離135mmでは1/125secを手ブレしない下限シャッタ速度と見なして良い。
【0122】
図9A〜図9Cは上記条件の場合の露出プログラムを表したプログラム線図であり、図9Aは、上記の意図を具現化し、感度上限をISO1600にした場合のプログラム線図である。
【0123】
また、感度上限がISO400になった場合のプログラム線図を図9Bに示す。
【0124】
さらに参考に、画像合成による手ブレ防止を行わず、かつ感度上限がISO1600に設定された場合のプログラム線図を図9Cに示す。
【0125】
まず、図9Aについて説明する。
【0126】
図9Aでは、EV23〜EV9までは十分明るいので、感度がISO100のままで、シャッタ速度が次第に遅くなり、EV9で1/125秒となる。EV9よりも被写体が暗くなると、シャッタ速度が1/125秒より遅くなり、手ブレが画質に影響を与えるようになるため、被写体の明るさがEV8では、シャッタ速度1/125秒で2枚の画像を連写し、これらの画像を合成することにより手ブレを抑制する。また、EV7では、シャッタ速度1/125秒で4枚の画像を連写し、これらの画像を合成する。EV7〜EV3では、感度が100のままでは連写枚数が4枚より多くなるため、連写枚数は4枚に保ったまま、感度を次第に上げていく。そして、EV3では、感度が上限として設定したISO1600となる。被写体がEV3よりも暗くなった場合には、感度は既に設定した上限値に達しているので、再び連写枚数(合成枚数)を増やすことで対応し、EV2では連写枚数を8枚とする。被写体の明るさがEV2よりも更に暗くなると、既に感度も連写枚数も上限値となっているので、シャッタ速度を次第に遅くすることで対応する。
【0127】
以上が、感度上限をISO1600とした場合のプログラム線図の例である。
【0128】
また、図9BはISO感度の上限を400とした場合の例、図9Cは画像合成による手ブレ補正を行なわない場合の例であるが、それぞれの違いはEV9以下の低輝度側で生じる。感度上限がISO400に設定された場合(図9B)は、ISO1600に設定された場合(図9A)と比較すると、上限感度がISO400なので、EV4以下で合成枚数を8枚、16枚まで増やしている。画像合成による手ブレ補正を行なわない場合(図9C)は、EV9〜EV5の間で感度をISO1600まで次第に上げ、それより暗い範囲では、シャッタ速度を1/125秒よりも次第に遅くする。
【0129】
以上説明したように、撮影者が感度上限を設定でき、それに対応した露出プログラムを用いて、画像合成による手ブレ補正を行うことで、許容範囲内で、できるだけノイズが少なく、かつ手ブレの影響の少ない画像を得ることができる。
【0130】
現時点では、デジタルカメラでの画像情報の読み出しには2〜8ch程度のA/D変換器が使用されているが、より多数、たとえば1行に1つのA/D変換器を設けて高速読み出しを行う技術も提案されている。将来的に、現在よりも高速な画像読み出しが行われるようになれば、連写撮影の枚数の上限をより増やしてもかまわない。
【0131】
また、上記の説明では位置合わせの基準を2枚の画像のうち、先に撮影された画像とする例について説明したが、結果として位置合わせが出来れば良いので、位置合わせの基準はどこに置いてもよい。たとえば1枚目を基準に、1枚目と2枚目、1枚目と3枚目、1枚目と4枚目の動きベクトルを求めて、2〜4枚目を1枚目の画像に重ねるという処理をしてもかまわない。
【0132】
以上、本発明の実施形態の説明を行ったが、本発明は上記の実施形態に限定されることなく、種々の変形が可能である。
【0133】
上記の説明では、本発明をレンズ交換式の一眼レフタイプの撮像装置に適用した例を説明したが、レンズや鏡筒が本体と一体化された、いわゆるコンパクトタイプのデジタルカメラに適用してもかまわない。また、静止画撮影機能を有するビデオカメラなどについても本発明が適用可能なことは言うまでもない。
【0134】
また、操作系についてもモードダイアルでなく、プッシュスイッチの組み合わせでモードを切り替え可能なように構成してもよい。
【0135】
また、上記の実施形態では、画像の平行移動(動きベクトル)を用いて画像の位置合わせを行うように説明したが、アフィン変換など、画像の回転や変形まで考慮して合成を行ってよい。
【0136】
また、小ブロックの分割画素数は本実施形態で説明した画素数に限定されるものではなく、たとえば128画素×128画素など任意の大きさのブロックでかまわない。また、画面全体の動きベクトルの判定もたとえば頻度順に2〜3の動きベクトル候補値を選び、それらから補間によって求めるようにしてもよい。また、他の公知な方法によってもかまわない。たとえば画面から特徴となる点を抽出し、それと対応する点を探しだすことで動きベクトルを求めるようにしてもよい。また、画面全体を調べるのではなく、演算量を減らすために小ブロックを一部選択してそれらについての動きベクトルから求めるようにしてもよい。このように様々な手法が公知であるがそれらのどの方法によって動きベクトルを求めても良い。
【0137】
また、本実施形態ではカメラ内で位置合わせおよび合成処理を行う場合について説明したが、カメラ側では連写撮影のみを行い、撮影された複数画像をPCやプリンタなどに取り込み、後処理的に位置合わせ、および合成処理を行うようにしても良い。また、銀塩フィルムのラボのように、ユーザーが記憶媒体に記憶された画像をラボに持ち込んだり、インターネットなどの通信機能によりラボ側に画像を送付し、ラボ側にて画像合成処理を行うという形態でもかまわない。
【0138】
なお、不揮発性メモリ224は、PCMCIAカードやコンパクトフラッシュ(登録商標)等のメモリカード、ハードディスク等だけでなく、マイクロDAT、光磁気ディスク、CD−RやCR−WR等の光ディスク、DVD等の相変化型光ディスク等で構成されていてもよい。
【0139】
また、不揮発性メモリ224とハードディスク等が一体となった複合媒体であってもよい。さらに、その複合媒体から一部が着脱可能な構成としてもよい。
【0140】
また、上記の実施形態の説明においては、不揮発性メモリ224は撮像装置200と分離していて任意に接続可能なものとして説明したが、撮像装置200に固定したままとなっていてもよい。
【0141】
また、撮像装置200に不揮発性メモリ224が、単数或いは複数の任意の個数接続可能な構成であっても構わない。
【0142】
画像合成を行う画像処理装置の画像処理はソフトウェアで実現しても良いし、ハードウェアで実現しても良い。
【0143】
さらに上記以外に本発明の趣旨に沿った範囲でさまざまな変形例の形態をとってもかまわない。
【0144】
(他の実施形態)
また、各実施形態の目的は、前述した実施形態の機能を実現するソフトウェアのプログラムコードを記録した記憶媒体(または記録媒体)を、システムあるいは装置に供給し、そのシステムあるいは装置のコンピュータ(またはCPUやMPU)が記憶媒体に格納されたプログラムコードを読み出し実行することによっても、達成されることは言うまでもない。この場合、記憶媒体から読み出されたプログラムコード自体が前述した実施形態の機能を実現することになり、そのプログラムコードを記憶した記憶媒体は本発明を構成することになる。また、コンピュータが読み出したプログラムコードを実行することにより、前述した実施形態の機能が実現されるだけでなく、そのプログラムコードの指示に基づき、コンピュータ上で稼働しているオペレーティングシステム(OS)などが実際の処理の一部または全部を行い、その処理によって前述した実施形態の機能が実現される場合も含まれることは言うまでもない。
【0145】
さらに、記憶媒体から読み出されたプログラムコードが、コンピュータに挿入された機能拡張カードやコンピュータに接続された機能拡張ユニットに備わるメモリに書込まれた後、そのプログラムコードの指示に基づき、その機能拡張カードや機能拡張ユニットに備わるCPUなどが実際の処理の一部または全部を行い、その処理によって前述した実施形態の機能が実現される場合も含まれることは言うまでもない。
【0146】
本発明を上記記憶媒体に適用する場合、その記憶媒体には、先に説明した手順に対応するプログラムコードが格納されることになる。
【図面の簡単な説明】
【0147】
【図1】本発明の一実施形態に係わる撮像装置の構成を示すブロック図である。
【図2】本発明の一実施形態に係わる撮像装置の主ルーチンを示すフローチャートである。
【図3】本発明の一実施形態に係わる撮像装置の主ルーチンを示すフローチャートである。
【図4】本発明の一実施形態に係わる撮像装置の測距・測光ルーチンを示すフローチャートである。
【図5】本発明の一実施形態に係わる撮像装置の撮影ルーチンを示すフローチャートである。
【図6】本発明の一実施形態における動きベクトル検知方法について説明する図である。
【図7】本発明の一実施形態に係わる撮像装置の記録ルーチンを示すフローチャートである。
【図8】本発明の一実施形態に係わる撮像装置の測光演算ルーチンを示すフローチャートである。
【図9A】本発明の一実施形態における露出プログラムのプログラム線図を説明する図である。
【図9B】本発明の一実施形態における露出プログラムのプログラム線図を説明する図である。
【図9C】露出プログラムのプログラム線図の参考例を説明する図である。
【符号の説明】
【0148】
100 撮影レンズ
101 フォーカスレンズ
104 レンズ制御回路
107 電気接点ユニット
109 焦点距離検出部
200 撮像装置
208 測光センサ
209 測光回路
212 撮像素子
227 カメラDSP
230 システムコントローラ
237 感度上限設定部
【特許請求の範囲】
【請求項1】
連続して撮影された複数枚の露出不足の画像を合成することにより、目標とする露出の画像を得る撮像装置であって、
被写体像を光電変換して画像信号を生成する撮像手段と、
前記撮像手段の感度の上限値を設定する設定手段と、
前記設定手段により設定された前記感度の上限値に基づいて、前記連続して撮影される各1枚の画像の撮影条件と、連続して撮影する画像の枚数とを制御する制御手段と、
を備えることを特徴とする撮像装置。
【請求項2】
前記制御手段は、前記被写体の輝度が小さくなるに従って前記連続して撮影する画像の枚数を増やすように制御し、予め定められた枚数に達しても目標とする露出が得られなくなったときには、当該予め定められた枚数を保って各1枚の感度を上げるように制御することを特徴とする請求項1に記載の撮像装置。
【請求項3】
前記制御手段は、前記予め定められた枚数を保って各1枚の感度を上げるように制御したときに、予め定められた感度に達しても目標とする露出が得られなくなったときには、前記予め定められた枚数を超えて前記連続して撮影する画像の枚数を増やすように制御することを特徴とする請求項2に記載の撮像装置。
【請求項4】
被写体像を光電変換して画像信号を生成する撮像手段を備え、連続して撮影された複数枚の露出不足の画像を合成することにより、目標とする露出の画像を得る撮像装置を制御する方法であって、
前記撮像手段の感度の上限値を設定する設定工程と、
前記設定工程において設定された前記感度の上限値に基づいて、前記連続して撮影される各1枚の画像の撮影条件と、連続して撮影する画像の枚数とを制御する制御工程と、
を備えることを特徴とする撮像装置の制御方法。
【請求項5】
請求項4に記載の制御方法をコンピュータに実行させるためのプログラム。
【請求項1】
連続して撮影された複数枚の露出不足の画像を合成することにより、目標とする露出の画像を得る撮像装置であって、
被写体像を光電変換して画像信号を生成する撮像手段と、
前記撮像手段の感度の上限値を設定する設定手段と、
前記設定手段により設定された前記感度の上限値に基づいて、前記連続して撮影される各1枚の画像の撮影条件と、連続して撮影する画像の枚数とを制御する制御手段と、
を備えることを特徴とする撮像装置。
【請求項2】
前記制御手段は、前記被写体の輝度が小さくなるに従って前記連続して撮影する画像の枚数を増やすように制御し、予め定められた枚数に達しても目標とする露出が得られなくなったときには、当該予め定められた枚数を保って各1枚の感度を上げるように制御することを特徴とする請求項1に記載の撮像装置。
【請求項3】
前記制御手段は、前記予め定められた枚数を保って各1枚の感度を上げるように制御したときに、予め定められた感度に達しても目標とする露出が得られなくなったときには、前記予め定められた枚数を超えて前記連続して撮影する画像の枚数を増やすように制御することを特徴とする請求項2に記載の撮像装置。
【請求項4】
被写体像を光電変換して画像信号を生成する撮像手段を備え、連続して撮影された複数枚の露出不足の画像を合成することにより、目標とする露出の画像を得る撮像装置を制御する方法であって、
前記撮像手段の感度の上限値を設定する設定工程と、
前記設定工程において設定された前記感度の上限値に基づいて、前記連続して撮影される各1枚の画像の撮影条件と、連続して撮影する画像の枚数とを制御する制御工程と、
を備えることを特徴とする撮像装置の制御方法。
【請求項5】
請求項4に記載の制御方法をコンピュータに実行させるためのプログラム。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9A】
【図9B】
【図9C】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9A】
【図9B】
【図9C】
【公開番号】特開2009−152803(P2009−152803A)
【公開日】平成21年7月9日(2009.7.9)
【国際特許分類】
【出願番号】特願2007−327987(P2007−327987)
【出願日】平成19年12月19日(2007.12.19)
【出願人】(000001007)キヤノン株式会社 (59,756)
【Fターム(参考)】
【公開日】平成21年7月9日(2009.7.9)
【国際特許分類】
【出願日】平成19年12月19日(2007.12.19)
【出願人】(000001007)キヤノン株式会社 (59,756)
【Fターム(参考)】
[ Back to top ]