撮像装置
【課題】リフォーカス処理によって撮影画面内の任意の位置に合焦した画像が得られる撮像措置であって、動画画像から撮影者が撮影時に狙った被写体以外の任意の被写体にピントが合った静止画画像が得られる撮像装置を提供する。
【解決手段】撮像素子252へ入射する光束を撮影光学系101の特定の瞳領域のみに制限する瞳分割手段と、異なる瞳領域を通過した像の相関を計算する相関計算手段と、前記相関計算手段の結果から主被写体を判定する判定手段を有し、AFレンズ制御部104は動画撮影中に前記判定手段により判定された主被写体に合焦する位置にAFレンズ120を駆動させて被写体像を連続的に受光すると共に、該主被写体に合焦した被写体像を連続的に受光する間に、主被写体以外に合焦する位置に前記AFレンズ120を駆動させて被写体像を受光する。
【解決手段】撮像素子252へ入射する光束を撮影光学系101の特定の瞳領域のみに制限する瞳分割手段と、異なる瞳領域を通過した像の相関を計算する相関計算手段と、前記相関計算手段の結果から主被写体を判定する判定手段を有し、AFレンズ制御部104は動画撮影中に前記判定手段により判定された主被写体に合焦する位置にAFレンズ120を駆動させて被写体像を連続的に受光すると共に、該主被写体に合焦した被写体像を連続的に受光する間に、主被写体以外に合焦する位置に前記AFレンズ120を駆動させて被写体像を受光する。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、デジタルカメラに代表される撮像装置に関し、特にフォーカスブラケット撮影とリフォーカス処理によって、動画像から切り出した静止画画面全体の任意の位置に合焦した画像を得る方法に関するものである。
【背景技術】
【0002】
従来、例えば撮影者の技量不足により撮影者が狙った動く被写体にピントが合わないのを補助するために、いわゆるフォーカスブラケット撮影を行って、所定の被写体距離に合焦した状態と、その前後(あるいは例えば前方の一方向)にフォーカスレンズを駆動した状態で撮影する事で、撮影者が撮影した被写体にピントが合った画像を得られるようにしていた。しかしながら、撮影者が狙った被写体及びその近傍に合焦する状態でフォーカスブラケット撮影を行うので、撮影画面全体の任意の位置に合焦した画像が得られるという事は出来なかった。
【0003】
そこで、異なる瞳領域を通過した光束を個別に受光可能な撮像措置であって、撮像後に任意の被写体にピント調整を行った画像を生成する(以下、リフォーカス処理と呼ぶ)手法によって、撮影時もしくは撮影後のリフォーカス処理によって撮影画面の任意の位置に合焦した画像が得られるような撮像装置が提案されている。
【0004】
例えば特許文献1には、測距結果から画面内の至近側焦点検出エリアから無限側焦点検出エリアまでを分割してフォーカスブラケット撮影して、撮影後にリフォーカス処理をする事で任意の被写体にピントが合った画像を生成する事が開示されている。
【先行技術文献】
【特許文献】
【0005】
【特許文献1】特開2010−197551号公報
【発明の概要】
【発明が解決しようとする課題】
【0006】
しかしながら、特許文献1においては、静止画を撮影した時に、リフォーカス処理によって、その撮影画面内の至近側から無限側の任意の被写体にピントが合った画像を得る事は出来るが、動画撮影時の画像から切り出した静止画画像を用いた場合には、その撮影画面内で、撮影者が撮影時に狙った被写体以外の任意の被写体にピントが合った画像を得る事は出来ない。
【0007】
そこで、本発明の目的は、リフォーカス処理によって撮影画面内の任意の位置に合焦した画像が得られる撮像措置であって、動画画像から撮影者が撮影時に狙った被写体以外の任意の被写体にピントが合った静止画画像が得られる撮像装置を提供する事である。
【課題を解決するための手段】
【0008】
撮像素子と、
合焦のために光軸方向に移動可能なフォーカスレンズを含む撮影レンズと、
前記撮像素子上の画素へ入射する光束を前記撮影レンズの特定の瞳領域のみに制限する瞳分割手段と、
前記撮像素子から得られた電気信号に所定の正の値を掛けて加算する像生成手段と、
異なる瞳領域を通過した像の相関を計算する相関計算手段と、
前記フォーカスレンズを駆動して複数の合焦状態位置において被写体像を前記撮像素子に受光する制御手段と、
該受光した被写体像を表示する表示部と、
前記相関計算手段の結果から主被写体を判定する判定手段を有し、
前記制御手段は動画撮影中に前記判定手段により判定された主被写体に合焦する位置に前記フォーカスレンズを駆動させて被写体像を連続的に受光すると共に、該主被写体に合焦した被写体像を連続的に受光する間に、主被写体以外に合焦する位置に前記フォーカスレンズを駆動させて被写体像を受光する事を特徴とする。
【発明の効果】
【0009】
本発明によれば、リフォーカス処理によって撮影画面内の任意の位置に合焦した画像が得られる撮像措置であって、動画画像から撮影者が撮影時に狙った被写体以外の任意の被写体にピントが合った静止画画像が得られる撮像装置を提供する事が出来る。
【図面の簡単な説明】
【0010】
【図1】カメラシステムのブロック図
【図2】カメラ100の背面図
【図3】実施例における撮像装置の光学系の模式図
【図4】撮影時の表示部258の表示例を示す図
【図5】実施例におけるフォーカスブラケット撮影時の動作フロー図
【図6】(a)は、実施例におけるフォーカスブラケット撮影時のAFレンズ120の光学方向の位置の説明図、(b)は、実施例におけるフォーカスブラケット撮影時及びフォーカスブラケット撮影した動画を再生する時に、表示部258に表示される画像の説明図
【図7】実施例におけるフォーカスブラケット撮影時の動作サブフロー図
【図8】実施例における像生成手段の動作フロー図
【図9】実施例におけるリフォーカス処理時の動作フロー図
【図10】実施例におけるリフォーカス処理時の動作サブフロー図
【図11】像の再構成動作を示す模式図
【図12】リフォーカス処理のために被写体を選択している時の説明図
【図13】変形例におけるフォーカスブラケット撮影時の動作フロー図
【図14】変形例における撮影時の表示部258の表示例を示す図
【図15】(a)は、変形例におけるフォーカスブラケット撮影時のAFレンズ120の光学方向の位置の説明図、(b)は、変形例におけるフォーカスブラケット撮影を行うタイミングの説明図
【発明を実施するための形態】
【0011】
[実施例]
以下、図1から図11を参照して、本発明の撮像装置について説明する。
【0012】
図1は、撮像装置であるデジタルカメラおよびレンズの電気的構成を示すブロック図である。カメラ100およびレンズ102からなるカメラシステムは、撮像系、画像処理系、記録再生系、制御系を有する。撮像系は、撮影光学系101 、撮像素子252を含み、画像処理系は、画像処理部150を含む。また、記録再生系は、メモリ197、表示部258を含み、制御系は、ボディCPU109、およびレンズCPU103、レンズ駆動手段であるズームレンズ駆動部111及びAFレンズ駆動部121を含む。
【0013】
図2は同カメラシステムの背面図である。
【0014】
本実施形態におけるカメラシステムは、カメラ100に対して着脱可能なレンズ102内に撮影光学系101が設けられている。撮像系は、物体からの光を、撮影光学系101を介して撮像素子252の撮像面に結像する光学処理系である。
【0015】
撮影光学系101はズームレンズ110を有しており、超音波モータやステッピングモータを駆動源とするズームレンズ駆動部111によって光軸方向に駆動可能である。ズームレンズ電圧ドライバ113は、ズームレンズ駆動部111を駆動制御する電圧を発生する。
【0016】
ズーム位置検出部112は、光軸Iに沿ったズームレンズ110の位置を検出するズームエンコーダである。ズーム位置検出部112は、焦点距離値に応じたパルス信号をズームレンズ制御部105に出力する。
【0017】
ズームレンズ制御部105は、ズームレンズ駆動部111を制御し、例えば撮影者がカメラ100もしくはレンズ102に不図示のスイッチにより設定した焦点距離になる光軸I上の位置にズームレンズ110が駆動されるように追従制御を行う部分である。またズームレンズ制御部105は、ズーム位置検出部112が出力するパルス信号を取り込む。ズームレンズ制御部105は、撮影者が設定した焦点距離になる光軸I上の位置(目標位置)、ズームレンズ110の現在位置情報などに基づいて駆動信号を演算し、このデジタル駆動信号をズームレンズ電圧ドライバ113に出力する。
【0018】
ズームレンズ電圧ドライバ113は、入力された駆動信号(駆動電圧)に応じて、ズームレンズ駆動部111に電力を供給するドライバ部である。ズームレンズ電圧ドライバ113は、駆動信号に対し、スイッチングを行い、ズームレンズ駆動部111に電圧を印加し、ズームレンズ駆動部111の駆動を行う。
【0019】
また撮影光学系101は、AFレンズ120を有しており、超音波モータやステッピングモータを駆動源とするAFレンズ駆動部121によって光軸方向に駆動可能である。AFレンズ電圧ドライバ123は、AFレンズ駆動部121を駆動制御する電圧を発生する。
【0020】
フォーカス位置検出部122は、光軸Iに沿ったAFレンズ120の位置を検出するフォーカスエンコーダである。フォーカス位置検出部122は、被写体距離値に応じたパルス信号をAFレンズ制御部104に出力する。
【0021】
AFレンズ制御部104は、AFレンズ駆動部121を制御し、例えば撮影者のカメラ100のレリーズスイッチ191の操作により検出された被写体距離になる光軸I上の位置にAFレンズ120が駆動されるように追従制御を行う部分である。またAFレンズ制御部104は、フォーカス位置検出部122が出力するパルス信号を取り込む。AFレンズ制御部104は、被写体距離になる光軸I上の位置(目標位置)、AFレンズ120の現在位置情報などに基づいて駆動信号を演算し、このデジタル駆動信号をAFレンズ電圧ドライバ123に出力する。
【0022】
AFレンズ電圧ドライバ123は、入力された駆動信号(駆動電圧)に応じて、AFレンズ駆動部121に電力を供給するドライバ部である。AFレンズ電圧ドライバ123は、駆動信号に対し、スイッチングを行い、AFレンズ駆動部121に電圧を印加し、AFレンズ駆動部121の駆動を行う。
【0023】
レンズCPU103は、レンズ102側の種々の制御を行う中央処理部である。レンズCPU103内には、ズームレンズ制御部105と、AFレンズ制御部104が設けられている。
【0024】
レンズCPU103は、レンズ102とカメラ100との間に設けられたレンズ接点190を介して、ボディCPU109との間で通信が可能である。
【0025】
EEPROM131は、レンズ102に関する種々の固有情報であるレンズデータなどを格納する不揮発性の記憶部である。
【0026】
ボディCPU109は、カメラシステム全体の種々の制御を行う中央処理部である。ボディCPU109には、レリーズスイッチ191の情報が入力され、レリーズスイッチ191が半押し、又は、全押しされたことを検知する事が出来る。これにより、撮像素子252の駆動、画像処理部150の動作、メモリ197の圧縮処理などを制御する。さらに表示部258によって液晶モニタ等に情報表示を行う情報表示装置の各セグメントの状態を制御する。
【0027】
また、ボディCPU109は、後述するように、ユーザーが撮影時に主被写体としている被写体や副被写体(ユーザーが主被写体の次に合焦した画像が欲しいと想定される被写体)と考えている被写体を判定する機能を有している。よって、ボディCPU109が本発明の判定手段に相当する。
【0028】
画像処理部150は、内部にA/D変換器、ホワイトバランス回路、ガンマ補正回路、補間演算回路等を有しており、記録用の画像を生成することができる。また、本発明の要部である、像シフト手段、像生成手段、相関計算手段等を含める事も出来る(本実施例ではこれらの要素はボディCPU109内に配置する場合を想定して記載する)。
【0029】
撮像素子252は、具体的には、増幅型固体撮像素子の1つであるCMOSプロセスコンパチブルのセンサ(以降CMOSセンサと略す)である。CMOSセンサの特長の1つに、エリアセンサ部のMOSトランジスタと撮像装置駆動回路、AD変換回路、画像処理回路といった周辺回路を同一工程で形成できるため、マスク枚数、プロセス工程がCCDと比較して大幅に削減できる。また、任意の画素へのランダムアクセスが可能といった特長も有し、ディスプレイ用に間引いた読み出しが容易であって、表示部258において高い表示レートでリアルタイム表示が行える。
【0030】
撮像素子252は、上述した特長を利用し、ディスプレイ画像出力動作(撮像素子252の受光領域のうち一部を間引いた領域での読み出し)および高精彩画像出力動作(全受光領域での読み出し)を行う。
【0031】
また撮像素子252表面にはマイクロレンズが格子状に配置してあり、いわゆるマイクロレンズアレイ(以下 MLA20)を形成している。MLA20は本実施例において、瞳分割手段を構成する。MLA20の機能や配置の詳細については図3を用いて後述する。後述するように、撮像素子252からピント評価量/適当な露光量が得られるので、この信号に基づいて適切に撮影光学系101が調整されることで、適切な光量の物体光を撮像素子252に露光するとともに、撮像素子252近傍で被写体像が結像する。
【0032】
なお、ボディCPU109は、後述するように、画像処理部150を動作させて撮像素子252に結像した被写体像から撮影画像のデフォーカス量を求め、その結果と前述の主被写体310の判定結果に応じてレンズ接点190を介してレンズCPU103に送信する事でAFレンズ120の駆動を制御する事にもなるので、ボディCPU109は、本発明の制御手段にも相当する。
【0033】
図3は、本実施例における撮影光学系の要部を説明する図である。本発明を適用するためには、いわゆる光線空間情報等といわれる光線の位置に加えて角度の情報を取得する必要がある。本実施例では、角度情報の取得のために撮影光学系101の結像面近傍にMLA20を配置するとともに、MLA20を構成する1つのレンズに対して複数の画素を対応させている。
【0034】
図3(a)は撮像素子252とMLA20の関係模式的に示す図である。図3(b)は撮像素子252の画素とMLA20の対応を示す模式図である。図3(c)はMLA20によってMLA20の下に設けられた画素が特定の瞳領域と対応付けられる事を示す図である。
【0035】
図3(a)に示すように、撮像素子252上にはMLA20が設けられており、MLA20の前側主点は撮影光学系101の結像面近傍になるように配置されている。図3(a)は撮像装置の横からと、正面からMLA20を見た状態を示しており、撮像装置正面から見るとMLA20のレンズが撮像素子252上の画素を覆うように配置されている。なお、図3(a)ではMLA20を構成する各マイクロレンズを見やすくするために、大きく記載したが、実際には各マイクロレンズは画素の数倍程度の大きさしかない(実際の大きさについては図3(b)を用いて説明する)。
【0036】
図3(b)は図3(a)の装置正面からの図を一部拡大した図である。図3(b)に示す格子状の枠は、撮像素子252の各画素を示している。一方MLA20を構成する各マイクロレンズは太い円20a,20b,20c,20dで示した。図3(b)から明らかなように、マイクロレンズ1つに対して複数の画素が割り当てられており、図3(b)の例では、5行x5列=25個の画素が1つのマイクロレンズに対して設けられている(すなわち各マイクロレンズの大きさは画素の大きさの5倍x5倍の大きさである)。
【0037】
図3(c)は撮像素子252を、マイクロレンズ光軸を含み、撮像素子252の長手方向が図の横方向になるように切断した図である。図3(c)の21、22、23、24、25は撮像素子252の画素(1つの光電変換部)を示している。
【0038】
一方、図3(c)の上方に示した図は撮影光学系101の射出瞳面を示している。実際には、図3(c)の下方に示した撮像素子252の図と方向を合わせると、射出瞳面は図3(c)の紙面垂直方向になるが、説明のために投影方向を変化させている。また、図3(c)においては、説明を簡単にするために、1次元の投影/信号処理について説明する。実際の装置においては、これを容易に2次元に拡張する事が出来る。
【0039】
図3(c)の画素21、22、23、24、25は図3(b)の21a、22a、23a、24a、25aとそれぞれ対応する位置関係にある。図3(c)に示すように、マイクロレンズによって各画素は撮影光学系101の射出瞳面上の特定の領域と共役になるように設計されている。図3(c)の例では画素21と領域31が、画素22と領域32が、画素23と領域33が、画素24と領域34が、画素25と領域35がそれぞれ対応している。すなわち画素21には撮影光学系101の射出瞳面上の領域31を通過した光束のみが入射する。他の画素も同様である。結果として、瞳面上での通過領域と撮像素子252上の位置関係から角度の情報を取得する事が可能となる。
【0040】
ここで後ほどの説明を簡単にするために記号を導入する。図3(c)に示すように、撮像素子252の画素ピッチをΔx、角度分解能をΔθとする。さらに角度の分割数をNθ(図3の例ではNθ=5)とする。画素ピッチは撮像素子252の形状によって決定され、Δθは光線の角度を取得する範囲と角度分割数Nθで決定される。すなわち、物理的な構造(撮像素子252およびMLA20の構造)のみによってこれらのパラメータは決定される。
【0041】
レリーズスイッチ191は、前述の通り、図示しないレリーズボタンの半押し動作(SW1のON)を検出して、一連の撮影準備動作(測光動作や焦点調節動作等)を開始させ、レリーズボタンの全押し動作(SW2のON)を検出して、撮影動作(撮像素子252から読み出された画像データの記録媒体への記録)を開始させるスイッチである。
【0042】
192は任意方向の操作が可能な選択スイッチで、不図示の公知の撮影メニューの項目を選択したり、後述するように、撮影者が主被写体を選択したりする時に用いるスイッチである。
【0043】
193は決定スイッチで、不図示の公知の撮影メニューの決定をしたり、後述するように、撮影者が主被写体を決定したりする時に用いるスイッチである。
【0044】
195はカメラ100を起動させるためのメインスイッチである。また、図2に示したように、メインスイッチ195は3ポジション(195−1,195−2,195−3)が選択可能なスイッチである。
【0045】
ポジション195−1にメインスイッチ195をセットした時は「OFF」で、後述のように、カメラ100はスリープ状態となる。またポジション195−2にメインスイッチ195をセットした時は「ON」(静止画撮影)で、後述のように、カメラ100はスリープ状態から駆動状態となり、各種スイッチの操作等を受け付けて静止画撮影のための動作を行う状態となる。さらにポジション195−3にメインスイッチ195をセットした時は「動画撮影」となり、後述のように、カメラ100は公知の動画撮影を行える状態となる。
【0046】
なお、本実施例ではメインスイッチ195にカメラ100が動画撮影状態となる機能を設けているが、これに限定せず、例えば、動画撮影モードに入る専用のスイッチを設けたり、あるいは、後述のモードスイッチ196の設定でカメラ100が動画撮影モードに入ったりするようにしても良い。
【0047】
モードスイッチ196はカメラ100の撮影モードを設定するためのスイッチで、後述する「フォーカスブラケット撮影モード」を設定する事が出来る。
【0048】
197はメモリで、実際の記憶部に加えて記録に必要な処理回路を備えている。メモリ手段は、記録部へ出力を行うとともに、表示部258に出力する像を生成、保存する。
【0049】
また、メモリ197 は、予め定められた方法を用いて画像、動画、音声などの圧縮を行う。
【0050】
198は録画スイッチで、例えば、録画スイッチ198を図2中、紙面垂直方向に一度押しこむと、動画撮影がスタートし、もう一度、録画スイッチ198を図2中、紙面垂直方向にもう一度押しこむ事により、録画撮影を停止する事が出来る。
【0051】
表示部258はカメラ100の背面に取り付けられており、使用者は表示部258での表示を直接観察出来るようになっている。
【0052】
表示部258を、有機EL空間変調素子や液晶空間変調素子、微粒子の電気泳動を利用した空間変調素子などで構成すれば、消費電力を小さくでき、かつ表示部258の薄型化を図る事が出来る。これにより、カメラ100の省電力化および小型化を図る事が出来る。
【0053】
図4は、いわゆるライブビュー撮影時(動画撮影)に表示部258に表示される被写体像の様子を示した図である。
【0054】
図4において、表示部258には、被写体像258aと撮影条件(シャッタ速度、絞り値、ISO感度等)や露出レベル表示、電池残量表示等の撮影情報258bが表示されており、また被写体像258a表示部内には、動画撮影に関する情報(動画記録サイズ、フレームレート、動画撮影可能時間等)の表示部258cが表示されている。
【0055】
さらに被写体像258a表示部内には、複数の測距点(測距領域)301が設けられており、撮像素子252からのピント検出結果に基づいて選択された測距点302を別の表示形態(色違いでの表示等)にする事により、撮影者に合焦している主被写体部を知らせる事が出来る。
【0056】
なお、カメラ100の選択スイッチ192と決定スイッチ193を用いて測距部253の検出結果によらずに複数の測距点301の中から合焦させたい任意の位置のものをユーザーが選択可能である。その際は、ユーザーが選択した測距点302に基づいて撮像素子252からのピント検出結果から主被写体までの距離を演算する事でピンボケ写真になるのを防止する。
【0057】
図5から図8は本発明のカメラシステムが動画撮影時にフォーカスブラケット撮影する時の動作を説明するためのフローチャートである。これらを用いて、以下、フォーカスブラケット撮影モード時のカメラ100及びレンズ102の動作について説明する。
【0058】
ステップ(以下、Sとする)1010では、メインスイッチ195がポジション195−2にセットされてONになっているかどうかの判定がボディCPU109によって行われる。メインスイッチ195がポジション195−1にセットされたまま(OFFのまま)であれば、カメラ100はスリープ状態のままであり、メインスイッチ195がポジション195−2にセットされてONになればS1020に進む。
【0059】
S1020では、メインスイッチ195がポジション195−3にセットされたかどうかの判定がボディCPU109によって行われる。メインスイッチ195がポジション195−2のままであれば(Noであれば)、撮影者は静止画撮影をすると判断して、S1310に進み、静止画撮影に関する動作を行う。S1310の動作は公知の動作であり、また本発明の内容とは異なるので詳細な説明を省略する。メインスイッチ195がポジション195−3にセットされたならば(Yesならば)、S1030に進む。
【0060】
S1030では、カメラ100がモードスイッチ196によってフォーカスブラケット撮影モードに設定されているかどうかの判定がボディCPU109によって行われる。YesであればS1040に進み、NoであればS1330に進み、通常の動画撮影動作を行う。S1330の動作は公知の動作であり、また本発明の内容とは異なるので詳細な説明を省略する。
【0061】
S1040では、以下に説明する動作で必要となるプリ撮影を行う。ここでは、撮像素子252を起動し、撮影光学系101を介した被写体像を露光する事をいう。
【0062】
S1050では、撮像素子252を適当な時間露光して、読み出す(A/D変換する)事によりデータを取得する。
【0063】
この時の露光時間と露光量から撮影において適当な露出量を計算する事も出来るが、本発明の要部ではないので説明は割愛する。
【0064】
S1060では相関計算手段を動作させて結果を得る。相関計算手段の動作の詳細は図7を用いて後述するが、このステップで、いわゆる位相差AFによるピント位置を求める事が出来る。
【0065】
S1070では、S1060での計算結果から各測距点301でのデフォーカス量を算出する。
【0066】
S1080では、S1070で求めた各測距点301でのデフォーカス量からユーザーが主被写体としているボディCPU109が被写体を判定する。具体的には、例えば各測距点301でのデフォーカス量の分布状況やその絶対値の差から、ある特定の値及びその近傍のデフォーカス量となっている測距点301の数が多いエリアを特定し、そのエリア内の被写体を主被写体310と判定すると共に、そのエリアで一番デフォーカス量が小さいものをピント位置の測距点302として表示する(図4参照)。
【0067】
あるいは、前述のように、カメラ100の選択スイッチ192と決定スイッチ193を用いて、ユーザーが複数の測距点301の中から合焦させたい任意の位置の測距点302を指定した場合に、その測距点302におけるデフォーカス量と等しいか、あるいはその近傍のデフォーカス量となっている測距点301が分布しているエリア内の被写体をボディCPU109は主被写体310と判定しても良い。
【0068】
S1090では、S1080と同様に、ボディCPU109は、S1070で求めた各測距点301でのデフォーカス量からユーザーが副被写体としている被写体を判定する。ここでいう副被写体とは、後述のフォーカスブラケット撮影もしくはリフォーカス処理により、主被写体310の次にピントの合った画像を取得したい被写体の事である。
【0069】
S1090での具体的な処理は、S1080と同様に、各測距点301でのデフォーカス量の分布状況やその絶対値の差から、ある特定の値及びその近傍のデフォーカス量となっている測距点301の数が、主被写体310のエリアの次に多いエリアを特定し、そのエリア内の被写体を副被写体320と判定する。なおこの時、そのエリアで一番デフォーカス量が小さいものを測距点303として主被写体310の測距点302や他の測距点301とは異なる表示形態(色違いでの表示等)で表示しても良い(図4参照)。
【0070】
また、前述のように、カメラ100の選択スイッチ192と決定スイッチ193を用いて、ユーザーが複数の測距点301の中から副被写体320として主被写体310の次に合焦した画像を取得したい被写体上にある測距点303を指定した場合に、その測距点303におけるデフォーカス量と等しいか、あるいはその近傍のデフォーカス量となっている測距点301が分布しているエリア内の被写体をボディCPU109は副被写体320と判定しても良い。
【0071】
なお、S1080及びS1090において、ユーザーがカメラ100の選択スイッチ192と決定スイッチ193を用いて主被写体310と副被写体320を指定する場合は、表示部258内に例えば「主被写体を選択/決定して下さい」等の表示が行ってユーザーの補助をすれば、ユーザーにとっては利便性が向上する。
【0072】
また、撮影範囲内(図4で被写体像258aとして表示されているエリア内の事)で測距領域外(測距点301が配置されていない所)にいる被写体に対してもS1060の処理によりデフォーカス量が求まっているので、S1090と同様に副被写体330として判定しても良い。
【0073】
S1100では、後述のフォーカスブラケット撮影(画像取得)をする際に、AFレンズ120のどの位置において撮影を行うのかの演算をボディCPU109が行う。具体的には、S1080で判定した主被写体310及びS1090で判定した副被写体320を少なくとも含み、S1060の処理により求まっているデフォーカス量によって被写体像258aの内の最至近位置から最無限位置までの被写体がフォーカスブラケット撮影もしくはリフォーカス処理により合焦状態となるようなAFレンズ120の複数の位置をボディCPU109は演算する。この演算結果の例を図6(a)に示す。
【0074】
図6(a)において、左端が被写体像258a内の最至近の合焦状態位置を示し、右端が被写体像258a内の最無限の合焦状態位置を示し、その間に主被写体310と副被写体320が居る。このような場合、S1100では、主被写体310が合焦状態となる(I)の位置と副被写体320が合焦状態となる(III)の位置を演算で求まると共に、(II)及び(III)の位置での撮影画像からリフォーカスが可能な範囲内(図6(a)中、Dで示した範囲)から外れた奥行き方向に居る被写体(例えば、副被写体330で、図6(a)中、NやFで示した範囲)にもフォーカスブラケット撮影もしくはリフォーカス処理により合焦状態となるようなAFレンズ120の位置((I)及び(IV)がS1100の演算により求まる。
【0075】
S1110では、S1100の演算結果をボディCPU109からレンズ接点190を介してレンズCPU103が受け取り、その後、AFレンズ120をAFレンズ駆動部121により駆動してS1100により求まった主被写体310が合焦状態となる位置にAFレンズ120を移動する。
【0076】
S1120では、画像処理部150が有する像生成手段を動作させて結果を得る。像生成手段の動作の詳細は図9を用いて後述するが、これにより、撮像素子252に結像した主被写体310の像がメモリ197に生成される。
【0077】
S1130では、S1120にて生成された主被写体310に合焦した画像を撮影前のプレビュー画像として表示部258に表示する。
【0078】
S1140では、録画スイッチ198が押し込まれたかどうかの判断をボディCPU109が行う。NoならばS1050に戻り、一連の動作を繰り返す。YesならばS1150に進む。
【0079】
なお、S1140で録画スイッチ198が動画撮影を開始するために押し込まれるまでは、S1050からS1130までの動作が通常の動画撮影時の撮影周期である30fpsで行われるので、S1130での主被写体310に合焦した画像はフォーカスブラケット動作を行わずに動画撮影をする時と同様のプレビュー表示が表示部258で行われるので、撮影者に違和感を与える事がない。
【0080】
S1150では、S1100により求まったAFレンズ120の位置(主被写体310及び副被写体320が合焦する位置を含む)にAFレンズ120をAFレンズ駆動部121により駆動して移動させるとともに、その位置にて公知の静止画撮影動作を行い、撮像素子252に結像した被写体像を、公知の画像処理技術を経て画像処理部150で処理した記録画像としてメモリ197もしくは不図示の記録媒体に記録する。つまり、図6(a)に示した例であれば、主被写体310に合焦するAFレンズ120の位置「(II)」で撮影後、副被写体320に合焦するAFレンズ120の位置「(III)」から、(IV)及び(I)の位置にそれぞれAFレンズ120を移動させた後、(IV)及び(I)の位置にて公知の静止画撮影動作を行い、その後、主被写体310が合焦する位置である、位置「(II)」に戻る事となる。
【0081】
なお、本実施例における前記静止画撮影動作の周期は、例えば通常の動画撮影時の撮影周期である30fpsよりも高速な120fps(30fps×「AFレンズ120が停止する位置の個数:4」)で行う。
【0082】
また、前記静止画撮影動作の周期は、S1100により求まったAFレンズ120の位置の個数によって変わる事が望ましい。例えば、主被写体310及び副被写体320に合焦するAFレンズ120の位置を含めて、被写体像258aの内の最至近位置から最無限位置までの被写体がフォーカスブラケット撮影もしくはリフォーカス処理により合焦状態となるために、AFレンズ120が6か所の位置で静止画撮影をする必要がある場合は、静止画撮影動作の周期は、「30fps×6=180fps」となる。
【0083】
つまり、フォーカスブラケット撮影していない時の動画撮影時の撮影周期をX(fps)、被写体像258aの内の最至近位置から最無限位置までの被写体がフォーカスブラケット撮影もしくはリフォーカス処理により合焦状態となるために、AFレンズ120が駆動される位置の数をY、とすると、フォーカスブラケット撮影時の静止画撮影動作の周期F(fps)は、F=X×Yとなる。なお、この静止画撮影動作の周期の演算はボディCPU109によって行われる。
【0084】
S1160では、S1150において撮影した静止画像の中から、主被写体310に合焦するAFレンズ120の位置で撮影した静止画をボディCPU109が抽出する。
【0085】
S1170では、S1160で抽出した主被写体310に合焦した記録画像を、S1120と同様に画像処理部150が有する像生成手段を動作させて、主被写体310に合焦した被写体像をメモリ197に生成する。
【0086】
S1180では、S1170で生成した主被写体310に合焦した記録画像を表示部258に表示する。
【0087】
S1190では、S1160で抽出した主被写体310に合焦した画像に対して、S1060と同様に、相関計算手段を動作させて結果を得る。これは、S1080にて判定した主被写体310等のピント位置を確認するために行う。
【0088】
S1200では、S1190での相関演算から、主被写体310が深度内にあるかどうか、つまり、ピンボケになっていないかどうかの確認を行う。これは、動画撮影中に主被写体310が移動して合焦位置が変化していないかどうかを確認するためである。
【0089】
S1200で、主被写体310が深度内である、つまり現在のAFレンズ120の位置(位置「(II)」)で合焦している場合は、S1210に進む。一方、主被写体310が深度内ではない、つまり、現在のAFレンズ120の位置(位置「(II)」)では合焦していないと判定された場合には、S1350に進む(動作は後述する)。
【0090】
S1210では、録画スイッチ198が撮影者によって再び押し込まれる事により、録画撮影がOFFになったかどうかの判断をボディCPU109が行う。Noならば、動画撮影を継続する事になるので、S1150に戻り、一連の動作を繰り返す。Yesならば、動画撮影(フォーカスブラケット撮影)を停止してS1220に進む。
【0091】
S1220では、メインスイッチ195がポジション195−1にセットされてOFFになったかどうか、ボディCPU109が判断を行う。Noの場合はS1030に戻って一連の撮影動作を行う。
【0092】
S1220でYesの場合は、撮影動作を終了する。
【0093】
以下、S1200で主被写体310が深度内ではない、つまり、現在のAFレンズ120の位置(位置「(II)」)では合焦していないと判定された場合に進んだS1350以降の動作について説明する。
【0094】
S1350では、S1100と同様に、S1190での相関計算手段を動作させた結果から、次のフォーカスブラケット撮影(画像取得)をする際に、AFレンズ120のどの位置において撮影を行うのかの演算をボディCPU109が行う。
【0095】
S1360では、S1110同様に、S1350での演算結果をボディCPU109からレンズ接点190を介してレンズCPU103が受け取り、その後、AFレンズ120をAFレンズ駆動部121により駆動してS1350により求まった主被写体310が合焦状態となる位置にAFレンズ120を移動する。
【0096】
その後、S1150に戻って、S1350で演算されたAFレンズ120の位置にて前述同様の一連のフォーカスブラケット撮影を行う。
【0097】
なお、S1180での主被写体310に合焦した画像の表示及び更新が例えば30fpsで表示部258に行われるので、表示部258を見ながら撮影をしている撮影者は所望の動画撮影が行われている事が視認出来る事になり、違和感を与える事がなく、また利便性が良い(図6(b)参照の事)。
【0098】
以下、図7を用いて、S1060で行われる相関演算のサブフローについて説明する。S1410は画像処理部150が有する相関計算手段の動作開始を示している。
【0099】
S1420からS1520はループを形成している。
【0100】
S1420では、評価位置の数(いわゆる測距視野数)に対応して繰り返し演算を行う。測距視野数は多くなると画面全体を覆うことが可能となるが評価に時間が掛るという問題がある。ユーザーの設定などにより適切に設定する。
【0101】
S1430では、評価を行う評価点の数と、評価枠の大きさを設定する。ここでいう評価点の数とは、S1440で行う相関値を求める点数であり、撮影条件やレンズ102の種類などに応じて適切に設定される。また、評価点の数は像をシフトさせながら相関を求める場合のシフト量に対応しており、これは撮像装置においては焦点合わせの探索を行うピントの深さに対応している。一方、評価枠の大きさは、大きくすると局所的にはあまりパターンを有していないテクスチャであってもピントを合わせる事が可能となるが、あまりにも大きくなると距離の異なる被写体の像を同時に評価する、いわゆる遠近競合が発生してしまう。これらの問題を解決できるように評価枠の大きさを適切に設定する。
【0102】
S1440からS1490はループを形成している。
【0103】
S1440では、S1430で決定された評価数に対応した評価値を得るように繰り返し演算を行う。
【0104】
S1450からS1470はループを形成している。
【0105】
S1450では、S1430で決定された評価枠の大きさに応じた画素数の範囲で相関計算を行う。相関計算はS1460にあるように、例えばΣ|Ai - Bi|で計算すれば良い。ここで、Aiは特定の瞳領域を通過したi番目の画素の輝度を示している。BiはAiとは異なる瞳領域を通過したi番目の画素の輝度を示している。例えば図3において、画素22に対応する画素のみ並べたものをAi、画素24に対応する画素のみ並べたものをBiとすれば良い。どの瞳領域の画素を選択するかは、基線長の長さ、瞳面のケラレ状況、等によって決定すれば良い。
【0106】
上記のように設定する事で、異なる瞳領域を通過した像の相関を計算出来、いわゆる位相差AFに基づく評価量を得る事が出来る。
【0107】
S1480では、得られた相関値を評価量として格納する。
【0108】
上記に示したΣ|Ai - Bi|という評価式においては、相関値が小さくなった個所が最もピント状態が良い個所に対応している。ここでは差分絶対値を加算する方法で相関計算を行ったが、最大値を加算する方法、最小値を加算する方法、差分2乗値を加算する方法など他の計算方法によって相関計算を行っても良い
S1500では、相関評価値が最良となる(前述したようにS1460の式においては相関値が小さくなった個所だが、その他の指標も併用して最良を決定しても良い)点を相関量評価に基づく最良ピント位置として格納する。
【0109】
この演算を各視野で行い、最終的に相関量評価に基づく最良ピント位置を得てS1520に進み、呼び出し元(S1070もしくはS1200)に戻る。
【0110】
次に、図8を用いて画像処理部150が有する像生成手段の動作の詳細を説明する。
【0111】
S1610は像生成手段の動作開始を示している。
【0112】
S1620では、S1650での加算のための領域のデータを初期化する(0で埋める)。この時のデータ領域の大きさはMLA20の数量あれば良く、データの諧調は元のデータの諧調と瞳分割数の積を格納できるだけあれば都合が良い。例えば元のデータが8bitで25分割の場合、13bit (> 8bit + log225)あればデータの桁あふれを考慮する必要が無い。
【0113】
S1630からS1670はループを形成している。
【0114】
S1630では、MLA20を構成するマイクロレンズの数に応じてループ計算が実行される。例えば、図3に示した例では、元の撮像素子の画素数÷25(瞳分割数)がマイクロレンズの数となる。
【0115】
S1640からS1660はループを形成している。
【0116】
S1640では、瞳分割数に応じた数だけループ計算が実行される。例えば、図3に示した例では、5×5=25個に分割されていたので、25個のそれぞれの瞳位置からの光束がS1650で加算される。シフト量が画素の整数倍でない場合は、S1650において、適切に内分されながら加算される(重なっている面積に応じて適切に加算すれば良い)。
【0117】
像生成手段は、図11を用いて図解も行う(後述)。
【0118】
S1680において、呼び出し元のS1130(もしくはS1180)に戻る。
【0119】
図9は本発明のカメラシステムがフォーカスブラケット撮影モードにて動画撮影したシーンから所望の静止画を切り出し、その画像に対してリフォーカス処理する時の動作を説明するためのフローチャートであるので、これらを用いて、以下、撮影動画画像再生時及びリフォーカス処理時のカメラ100の動作について説明する。なおここでは、撮影動画画像(記録画像)の再生時に、カメラ100のモードスイッチ196によって、通常の動画画像再生表示を行うモードと、動画撮影したシーンから所望の静止画像を切出して、その画像に対してフォーカスブラケット撮影モードにより撮影した画像から、ユーザーが動画撮影時とは異なる被写体に合焦し直すリフォーカス処理が行えるリフォーカス処理モードが選択出来るものとして説明するが、それに限定するものではない(例えばリフォーカス処理専用の操作部材をカメラ100に設け、その操作部材を操作する事によりリフォーカス処理が開始するようなシステムでも良い)。
【0120】
S1710では、カメラ100がモードスイッチ196によってリフォーカス処理モードに設定されているかどうかの判定がボディCPU109によって行われる。YesであればS1740に進み、NoであればS1720に進み、通常の動画再生表示動作を行う(動作は後述する)。
【0121】
S1740では、ユーザーがリフォーカス処理をするための撮影シーン、つまり静止画を切出すシーンの選択を完了したかどうかの判定がボディCPU109によって行われる。具体的には、前述のフォーカスブラケット撮影にて主被写体310に合焦した時に撮影した画像を表示部258に連続表示すると共に、表示部258に例えば「このシーンにてリフォーカス処理をしますか?」等、ユーザーの意思確認を行う旨の表示を同時に行う。なお、その際、ユーザーがカメラ100の決定スイッチ193を操作する事により、主被写体310に合焦した画像を決定したと判定する。ユーザーがリフォーカス処理を行うシーンを選択し終えたならば、S1750に進む。
【0122】
S1750では、S1740にて指定されたシーンから静止画を切出す。具体的には、S1740にて指定されたシーンの主被写体310に合焦した画像を表示部258に表示する。
【0123】
S1760では、ユーザーは選択した主被写体310に合焦した画像からリフォーカス処理したい被写体の位置を指定する。具体的には、表示部258に表示された主被写体310に合焦した画像上に被写体選択マーク304が表示され、それをカメラ100の選択スイッチ192で操作する事で合焦させたい被写体の位置まで被写体選択マーク304を移動させると共に、決定スイッチ193にて被写体選択を完了する。なおこの時、一連の操作をガイドするような表示が表示部258に表示されていると、ユーザーの利便性が向上するのは言うまでもない(図12参照)。
【0124】
S1770では、S1760でユーザーがリフォーカス処理したい被写体が副被写体320であるかどうかの判定がボディCPU109によって行われる。YesであればS1780に進み、S1150にて記録した副被写体320に合焦した状態で撮影した画像を、画像処理部150が有する像生成手段を動作させてメモリ197に被写体像を生成させた後、表示部258に表示して終了する。これは、以下に説明するリフォーカス処理が不要なためである。Noであれば(ユーザーが選択したのが主被写体310でも副被写体320でもなければ)S1790に進む。
【0125】
S1790では、S1150のフォーカスブラケット撮影にて撮影/記録した画像の中からS1760でユーザーが選択した被写体のデフォーカス量が一番小さい画像をボディCPU109が選択する。デフォーカス量が一番小さい画像を選ぶ理由は、以下に説明するリフォーカス処理の時間を短くするためである。
【0126】
S1810では、S1790でボディCPU109が選択したリフォーカス元画像を、画像処理部150が有する像生成手段を動作させてメモリ197に被写体像を生成させた後、表示部258に表示する。この時、S1760で表示している被写体選択マークは、そのままで該画像と共に表示されている事が望ましい。
【0127】
S1810及びS1820が、本発明で言うところの「リフォーカス処理」である。
【0128】
S1810では、画像処理部150が有する像シフト手段を動作させて結果を得る。像シフト手段の動作の詳細は図10を用いて後述する。
【0129】
S1820では、画像処理部150が有する像生成手段を動作させて結果を得る。像生成手段の動作の詳細は図8で説明した内容(S1120及びS1190)と同じなので、その説明は省略する。
【0130】
S1830では、S1760にてユーザーが選択した被写体にS1810及びS1820にて行ったリフォーカス処理によって合焦した画像を表示部258に表示する。
【0131】
S1840では、S1810及びS1820にて行ったリフォーカス処理の結果の可否をユーザーに確認する。具体的には、表示部258に、S1830にて表示している、ユーザーが選択した被写体に合焦した画像と共に、例えば「このリフォーカス処理でOKですか?」等の表示を行って、ユーザーが望んでいたリフォーカス画像が得られたどうかの確認をボディCPU109が行う。この時、さらに「OK」と「キャンセル」の表示等があり、「OK」という表示をカメラ100の選択スイッチ192で選択して決定スイッチ193で決定したら、ユーザーが望んでいたリフォーカス画像が得られた(つまり、Yes)とボディCPU109は判断して、S1850に進む。一方、「キャンセル」をいう表示をカメラ100の選択スイッチ192で選択して決定スイッチ193で決定したら、ユーザーが望んでいたリフォーカス画像が得られなかった(つまり、No)とボディCPU109は判断して、S1760に戻って一連のリフォーカス処理を再度行う。
【0132】
S1850では、リフォーカス処理をした画像をメモリ197や不図示の記録媒体に保存するかどうかの確認をボディCPU109は行う。具体的には、表示部258にS1840の時と同様に、ユーザーが選択した被写体に合焦した画像と共に、例えば「保存しますか?」等の表示を行って、ユーザーが望んでいたリフォーカス画像を保存するかどうかの確認をボディCPU109は行う。この時、さらに「する」と「しない」の表示等があり、「する」という表示をカメラ100の選択スイッチ192で選択した後、決定スイッチ193を操作したら、ユーザーがリフォーカス画像を保存する(つまり、Yes)とボディCPU109は判断して、S1860に進む。一方、「しない」をいう表示をカメラ100の選択スイッチ192で選択した後、決定スイッチ193を操作したらユーザーはリフォーカス画像を保存しない(つまり、No)とボディCPU109は判断して、一連のリフォーカス処理を終了する。
【0133】
S1860では、リフォーカス処理した画像をメモリ197や不図示の記録媒体に保存して、一連のリフォーカス処理を終了する。
【0134】
以下、S1710でリフォーカス処理をしない、つまり、通常の動画再生を行う場合に進んだS1720以降の動作について説明する。
【0135】
S1720では、S1150のフォーカスブラケット撮影時に撮影した主被写体310に合焦した時の画像をメモリ197もしくは不図示の記録媒体から読み込む。
【0136】
S1730では、S1720で読み込んだ主被写体310に合焦した時の画像を表示部258に連続再生する。この時の表示周期は、例えば通常の動画再生と同じ30fpsとする。これにより、表示部258を見ながら再生画像を確認している撮影者は、主被写体310に合焦した動画撮影が行われている事が確認出来る事になり、フォーカスブラケット動作を行わずに動画撮影をした時と同様の動画再生が行われるので、違和感を与える事がない(図6(b)参照の事)。
【0137】
ここで、図10を用いて画像処理部150が有する像シフト手段について説明する。
【0138】
S1910は像シフト手段の動作開始を示している。
【0139】
S1920からS1960はループを形成している。
【0140】
S1920では、瞳分割数に応じた数だけループ計算が実行される。例えば、図3に示した例では、5x5=25個に分割されていたので、25個のそれぞれの瞳位置に応じた計算がなされる。図11を用いて後述するように、像の再構成を考えると同じ再構成面であっても入射角度が異なると像をシフトさせる量が異なる。これを適切に反映させるためのループである。
【0141】
S1930では、S1940からのデータを元に、評価位置に対応する各瞳領域での像シフト量を計算する。S1940には、撮像素子252上の各画素とMLA20との対応関係が保存されており、各画素がどの瞳領域の光線を受光しているかが分かる情報が格納されている。
【0142】
S1950では、S1930の情報を元に同じ入射角の光線を得ている(同じ瞳領域からの光線を得ている)画素をシフトさせる。同じ入射角の光線を得ている画素は例えば図3(b)の25aと25bが該当する。このような画素がMLA20を構成するマイクロレンズの数だけ存在している。
【0143】
像シフト手段は、図11を用いて図解も行う。(後述)。
【0144】
S1970において、呼び出し元のS1820に戻る。
【0145】
次に図11を用いて像シフトおよび像生成を模式的に示す。
【0146】
図11は上から(a)、(b)、(c)と並んでおり、図11(b)は実際に撮像素子252が存在して画像を取得した面を、図11(a)は図11(b)よりも物体側の再構成面(再構成面1とする)を、図11(c)は図11(b)よりも物体側から遠い側の再構成面(再構成面2とする)をそれぞれ示している。
【0147】
図11(b)において、X1,i、X2,i、X3,i、X4,i、X5,i、はそれぞれ瞳領域1、2、3、4、5を通過してマイクロレンズXiに入射して得られたデータを示している。すなわち、添え字のうち前半は通過する瞳領域を、後半は画素の番号を示している。
【0148】
また、図11においても説明を明瞭にするために、データを1次元的な広がりしか持たないものとして記述している。物理的な位置との関係においては、X1,iは図3(c)の21領域から得られるデータを、X2,iは図3(c)の22領域から得られるデータを、以下添え字の3、4、5は領域23、24、25に対応していることを示している。
【0149】
取得面での画像を生成するためには、図11(b)にあるように、マイクロレンズXiに入射したデータを加算すればよい。具体的には、Si = X1,I + X2,i + X3,i+ X4,i + X5,iでXiに入射した光の角度方向の積分値を得る事が出来る。これにより通常のカメラと同様の像が生成される。
【0150】
次に再構成面1での像の生成方法を考える。図3で説明したように、本実施例の撮影光学系は、各画素に入射する光束を特定の瞳領域に限定しているために、入射角度が既知である。この角度に沿って再構成面での各画素の位置を再構成する。具体的にはX1,iのように瞳領域の添え字が1のものは図11右側において41に示すような角度で入射しているとする。以下瞳領域の添え字2,3,4,5はそれぞれ42,43,44,45に対応しているとする。この時再構成面1でのマイクロレンズXiに入射した光束は、取得面においては、Xi-2からXi+2に分散して入射している事になる。より具体的には、X1,i-2、X2,i-1、X3,i、X4,i+1、X5,i+2に分散している。Xiに限らず再構成面1での像を復元するためには、入射角度に応じて像をシフトさせて加算すれば良い事が分かる。再構成面1での像を生成するためには、瞳領域の添え字が1のものは右に2画素シフト、瞳領域の添え字が2のものは右に1画素シフト、瞳領域の添え字が3のものはシフトなし、瞳領域の添え字が4のものは左に1画素シフト、瞳領域の添え字が5のものは左に2画素シフトする事で入射角度に応じたシフトを与える事が出来る。
【0151】
その後、図11(a)の縦方向に加算することで再構成面1でのデータを得る事が出来る。具体的には、Si = X1,i-2 + X2,i-1 + X3,i+ X4,i+1 + X5,i+2で再構成面1において、Xiに入射した光の角度方向の積分値を得る事が出来る。これにより再構成面での画像が得られた。
【0152】
ここで、再構成面1において、Xiに輝点があったとすると、取得面においてはX1,i-2、X2,i-1、X3,i、X4,i+1、X5,i+2に分散していわゆるボケ状態にある。しかしながら、上述した再構成面1での像を生成すると、再びXiに輝点が生成されコントラストの高い像が得られる。
【0153】
また、図11(c)から分かるように、再構成面2においても再構成面と全く同様に像を生成する事が出来る。再構成面を配置する方向が異なると(物体に対して反対側という意味)シフトさせる方向を反転させれば良いだけである。
【0154】
以上、説明したように、リフォーカス処理によって撮影画面内の任意の位置に合焦した画像が得られる撮像措置であって、動画画像から撮影者が撮影時に狙った被写体以外の任意の被写体にピントが合った静止画画像が得られる撮像装置を提供する事が出来る。
【0155】
[変形例]
以下、図13から図15を参照して、本発明の撮像装置の変形例について説明する。変形例では、主被写体以外の被写体に動きが無いようなシーンでフォーカスブラケット撮影をする時の動作について述べる。
【0156】
図13は、変形例における動画撮影時にフォーカスブラケット撮影する時の動作を説明するためのフローチャートである。
【0157】
図14は、変形例における表示部258に表示される撮影シーンの説明図である。
【0158】
図15(a)は、変形例におけるフォーカスブラケット撮影時のAFレンズ120の光学方向の位置の説明図、図15(b)は、変形例におけるフォーカスブラケット撮影を行うタイミングの説明図である。
【0159】
以下、図13を用いて、変形例でのフォーカスブラケット撮影モード時のカメラ100及びレンズ102の動作について説明する。
【0160】
S2010からS2200まで、及びS2310、S2330、はS1010からS1200まで、及びS1310、S1330と同様なので、その説明を省略する。
【0161】
S2210では、S2160で取得した主被写体記録画像から、被写体像258a内にある被写体像各々の動きベクトルを演算する。具体的には、30fpsの撮影周期で撮影した主被写体310に合焦した複数の画像から、主被写体310以外の被写体の動きベクトルをボディCPU109が演算する。
【0162】
図14及び図15を用いて、詳しく説明すると、図14に示したように、被写体像258aにある主被写体310以外の被写体が風景の場合、例えば後方の風景を副被写体320とボディCPU109が判定したとする。その時、S2100で行われる、被写体像258aの内の最至近位置から最無限位置までの被写体がフォーカスブラケット撮影もしくはリフォーカス処理により合焦状態となるようなAFレンズ120の複数の位置の演算結果が図15(a)に示したようになったとする。この演算結果に合わせて、S2150でフォーカスブラケット撮影が行われ、録画スイッチ198がOFFになるまでは、S2150から後述のS2230での動作が繰り返される。これにより、異なる時刻で記録した主被写体310に合焦した複数の記録画像が、メモリ197や不図示の記録媒体に保存されるので、S2160で抽出した主被写体記録画像の複数枚を比較する事で、主被写体310以外の被写体の動きベクトルをボディCPU109が演算する事が可能になる。このS2210での演算終了後、S2220に進む。
【0163】
S2220では、S2210での動きベクトルの演算結果から、後述のS2230で録画スイッチ198がOFFになっていない時にS2150に戻ってフォーカスブラケット撮影する際に、主被写体310以外の被写体に合焦する位置(図15(a)中、(II)、(III)及び(IV)の位置)で静止画撮影をする必要があるかどうかの判定をボディCPU109が行う。
【0164】
例えば、図14に示したようなシーンでは、使用者が動画撮影中に、例えばAFレンズ120が(I)の位置の深度内で主被写体310は動く事はあるが(図15(a)に示した矢印の範囲内が深度内)、他の被写体は風景(副被写体320等)なので、動きは無い。
【0165】
すると、S2210で演算した結果、風景(副被写体320等)の動きベクトルはほぼゼロとなる。そのような場合には、S2150でフォーカスブラケット撮影をした場合、図15(a)に示した(II)、(III)及び(IV)の位置で撮影した静止画は、1回目のフォーカスブラケット撮影をした時と2回目のフォーカスブラケット撮影をした時とでは、ほぼ変化がないので、同じような画像をメモリ197や不図示の記録媒体に保存しても、その容量が無駄となってしまう。またフォーカスブラケット撮影のためにAFレンズ120を動かす事にもなるので、AFレンズ120の駆動に伴う消費電力も無駄となる。
【0166】
そこで、S2210で演算した結果、主被写体310以外の被写体の動きベクトルがほぼゼロの場合は、2回目のフォーカスブラケット撮影を行わない事で、前記無駄な動作を行わないようにするため、S2220では、AFレンズ120が(II)、(III)及び(IV)の位置では静止画撮影を行わないという判定を行って、S2230に進む。
【0167】
S2230及びS2240の動作は、S1210及びS1220と同じなので、その説明を省略する。
【0168】
なお、前述のように、S2220での判定の結果、AFレンズ120が(II)、(III)及び(IV)の位置では静止画撮影を行わないという判定になった場合は、図15(b)に示したように、2回目のフォーカスブラケット撮影時は、主被写体310に合焦する(I)´の位置にAFレンズ120をAFレンズ駆動部121により駆動して静止画撮影を行うが、(II)、(III)及び(IV)の位置では撮影を行わない。さらに続けてフォーカスブラケット撮影をする場合、例えば主被写体310の背後に別の被写体が入ったり、(II)の位置にある被写体(例えば花や木)が動いたりした事により、AFレンズ120の(II)の位置での撮影が必要になった場合には、3回目のフォーカスブラケット撮影時は、主被写体310に合焦する(I)´´の位置にAFレンズ120をAFレンズ駆動部121により駆動して静止画撮影を行った後、フォーカスブラケット撮影としては(II)´の位置にAFレンズ120をAFレンズ駆動部121により駆動して静止画撮影を行った後、(I)の位置にAFレンズ120をAFレンズ駆動部121により駆動して戻す。
【0169】
S2230で録画スイッチ198がOFFになるまで、上記一連のフォーカスブラケット撮影を行う。
【0170】
ところで、例えば使用者が、主被写体310はAFレンズ120が(I)´の位置(つまり、2回目のフォーカスブラケット撮影を行った時の主被写体310の像)でAFレンズ120が(II)、(III)及び(IV)以外の位置で合焦する被写体にリフォーカス処理を行う場合は、S1790での処理同様に、S2150のフォーカスブラケット撮影にて撮影/記録した画像の中からユーザーが選択した被写体のデフォーカス量が一番小さい画像をボディCPU109が選択(例えばAFレンズ120が(III)の位置で記録)した画像とAFレンズ120が(I)´の位置で記録した画像を合成する。これにより、使用者が望むリフォーカス画像を得る事が出来る。
【0171】
以上、説明したように、リフォーカス処理によって撮影画面内の任意の位置に合焦した画像が得られる撮像措置であって、動画画像から撮影者が撮影時に狙った被写体以外の任意の被写体にピントが合った静止画画像が得られる撮像装置を提供する事が出来る。
【0172】
また、主被写体310以外の被写体に動きが無い場合には、フォーカスブラケット撮影モード中でもフォーカスブラケット撮影を行わない事で、メモリ197や不図示の記憶容量削減やフォーカスブラケット撮影に伴う無駄な電力消費を抑える事が可能になる。
【0173】
なお、動画撮影中に主被写体310と副被写体320には動きがあるが、それ以外の被写体に動きが無い場合に場合には、上記フォーカスブラケット撮影を主被写体310に合焦する位置と副被写体320に合焦するそれぞれの位置にAFレンズ120を動かすようにボディCPU109が制御しても、同様な効果が得られる事は言うまでもない。
【0174】
以上、本発明の好ましい実施形態について説明したが、本発明はこれらの実施形態に限定されず、その要旨の範囲内で種々の変形及び変更が可能である。
【0175】
また本発明ではカメラ100とレンズ102が着脱可能であるとしたが、これに限定せず、カメラ100とレンズ102が一体化しているカメラでも上記で説明したのと同様な効果が得られる事は言うまでもない。
【符号の説明】
【0176】
20:マイクロレンズアレイ(MLA)
100:カメラ
102:レンズ
109:ボディCPU
120:AFレンズ
192:選択スイッチ
193:決定スイッチ
196:モードスイッチ
198:録画スイッチ
252:撮像素子
258:表示部
301,302,303:測距点
310:主被写体
320:副被写体
【技術分野】
【0001】
本発明は、デジタルカメラに代表される撮像装置に関し、特にフォーカスブラケット撮影とリフォーカス処理によって、動画像から切り出した静止画画面全体の任意の位置に合焦した画像を得る方法に関するものである。
【背景技術】
【0002】
従来、例えば撮影者の技量不足により撮影者が狙った動く被写体にピントが合わないのを補助するために、いわゆるフォーカスブラケット撮影を行って、所定の被写体距離に合焦した状態と、その前後(あるいは例えば前方の一方向)にフォーカスレンズを駆動した状態で撮影する事で、撮影者が撮影した被写体にピントが合った画像を得られるようにしていた。しかしながら、撮影者が狙った被写体及びその近傍に合焦する状態でフォーカスブラケット撮影を行うので、撮影画面全体の任意の位置に合焦した画像が得られるという事は出来なかった。
【0003】
そこで、異なる瞳領域を通過した光束を個別に受光可能な撮像措置であって、撮像後に任意の被写体にピント調整を行った画像を生成する(以下、リフォーカス処理と呼ぶ)手法によって、撮影時もしくは撮影後のリフォーカス処理によって撮影画面の任意の位置に合焦した画像が得られるような撮像装置が提案されている。
【0004】
例えば特許文献1には、測距結果から画面内の至近側焦点検出エリアから無限側焦点検出エリアまでを分割してフォーカスブラケット撮影して、撮影後にリフォーカス処理をする事で任意の被写体にピントが合った画像を生成する事が開示されている。
【先行技術文献】
【特許文献】
【0005】
【特許文献1】特開2010−197551号公報
【発明の概要】
【発明が解決しようとする課題】
【0006】
しかしながら、特許文献1においては、静止画を撮影した時に、リフォーカス処理によって、その撮影画面内の至近側から無限側の任意の被写体にピントが合った画像を得る事は出来るが、動画撮影時の画像から切り出した静止画画像を用いた場合には、その撮影画面内で、撮影者が撮影時に狙った被写体以外の任意の被写体にピントが合った画像を得る事は出来ない。
【0007】
そこで、本発明の目的は、リフォーカス処理によって撮影画面内の任意の位置に合焦した画像が得られる撮像措置であって、動画画像から撮影者が撮影時に狙った被写体以外の任意の被写体にピントが合った静止画画像が得られる撮像装置を提供する事である。
【課題を解決するための手段】
【0008】
撮像素子と、
合焦のために光軸方向に移動可能なフォーカスレンズを含む撮影レンズと、
前記撮像素子上の画素へ入射する光束を前記撮影レンズの特定の瞳領域のみに制限する瞳分割手段と、
前記撮像素子から得られた電気信号に所定の正の値を掛けて加算する像生成手段と、
異なる瞳領域を通過した像の相関を計算する相関計算手段と、
前記フォーカスレンズを駆動して複数の合焦状態位置において被写体像を前記撮像素子に受光する制御手段と、
該受光した被写体像を表示する表示部と、
前記相関計算手段の結果から主被写体を判定する判定手段を有し、
前記制御手段は動画撮影中に前記判定手段により判定された主被写体に合焦する位置に前記フォーカスレンズを駆動させて被写体像を連続的に受光すると共に、該主被写体に合焦した被写体像を連続的に受光する間に、主被写体以外に合焦する位置に前記フォーカスレンズを駆動させて被写体像を受光する事を特徴とする。
【発明の効果】
【0009】
本発明によれば、リフォーカス処理によって撮影画面内の任意の位置に合焦した画像が得られる撮像措置であって、動画画像から撮影者が撮影時に狙った被写体以外の任意の被写体にピントが合った静止画画像が得られる撮像装置を提供する事が出来る。
【図面の簡単な説明】
【0010】
【図1】カメラシステムのブロック図
【図2】カメラ100の背面図
【図3】実施例における撮像装置の光学系の模式図
【図4】撮影時の表示部258の表示例を示す図
【図5】実施例におけるフォーカスブラケット撮影時の動作フロー図
【図6】(a)は、実施例におけるフォーカスブラケット撮影時のAFレンズ120の光学方向の位置の説明図、(b)は、実施例におけるフォーカスブラケット撮影時及びフォーカスブラケット撮影した動画を再生する時に、表示部258に表示される画像の説明図
【図7】実施例におけるフォーカスブラケット撮影時の動作サブフロー図
【図8】実施例における像生成手段の動作フロー図
【図9】実施例におけるリフォーカス処理時の動作フロー図
【図10】実施例におけるリフォーカス処理時の動作サブフロー図
【図11】像の再構成動作を示す模式図
【図12】リフォーカス処理のために被写体を選択している時の説明図
【図13】変形例におけるフォーカスブラケット撮影時の動作フロー図
【図14】変形例における撮影時の表示部258の表示例を示す図
【図15】(a)は、変形例におけるフォーカスブラケット撮影時のAFレンズ120の光学方向の位置の説明図、(b)は、変形例におけるフォーカスブラケット撮影を行うタイミングの説明図
【発明を実施するための形態】
【0011】
[実施例]
以下、図1から図11を参照して、本発明の撮像装置について説明する。
【0012】
図1は、撮像装置であるデジタルカメラおよびレンズの電気的構成を示すブロック図である。カメラ100およびレンズ102からなるカメラシステムは、撮像系、画像処理系、記録再生系、制御系を有する。撮像系は、撮影光学系101 、撮像素子252を含み、画像処理系は、画像処理部150を含む。また、記録再生系は、メモリ197、表示部258を含み、制御系は、ボディCPU109、およびレンズCPU103、レンズ駆動手段であるズームレンズ駆動部111及びAFレンズ駆動部121を含む。
【0013】
図2は同カメラシステムの背面図である。
【0014】
本実施形態におけるカメラシステムは、カメラ100に対して着脱可能なレンズ102内に撮影光学系101が設けられている。撮像系は、物体からの光を、撮影光学系101を介して撮像素子252の撮像面に結像する光学処理系である。
【0015】
撮影光学系101はズームレンズ110を有しており、超音波モータやステッピングモータを駆動源とするズームレンズ駆動部111によって光軸方向に駆動可能である。ズームレンズ電圧ドライバ113は、ズームレンズ駆動部111を駆動制御する電圧を発生する。
【0016】
ズーム位置検出部112は、光軸Iに沿ったズームレンズ110の位置を検出するズームエンコーダである。ズーム位置検出部112は、焦点距離値に応じたパルス信号をズームレンズ制御部105に出力する。
【0017】
ズームレンズ制御部105は、ズームレンズ駆動部111を制御し、例えば撮影者がカメラ100もしくはレンズ102に不図示のスイッチにより設定した焦点距離になる光軸I上の位置にズームレンズ110が駆動されるように追従制御を行う部分である。またズームレンズ制御部105は、ズーム位置検出部112が出力するパルス信号を取り込む。ズームレンズ制御部105は、撮影者が設定した焦点距離になる光軸I上の位置(目標位置)、ズームレンズ110の現在位置情報などに基づいて駆動信号を演算し、このデジタル駆動信号をズームレンズ電圧ドライバ113に出力する。
【0018】
ズームレンズ電圧ドライバ113は、入力された駆動信号(駆動電圧)に応じて、ズームレンズ駆動部111に電力を供給するドライバ部である。ズームレンズ電圧ドライバ113は、駆動信号に対し、スイッチングを行い、ズームレンズ駆動部111に電圧を印加し、ズームレンズ駆動部111の駆動を行う。
【0019】
また撮影光学系101は、AFレンズ120を有しており、超音波モータやステッピングモータを駆動源とするAFレンズ駆動部121によって光軸方向に駆動可能である。AFレンズ電圧ドライバ123は、AFレンズ駆動部121を駆動制御する電圧を発生する。
【0020】
フォーカス位置検出部122は、光軸Iに沿ったAFレンズ120の位置を検出するフォーカスエンコーダである。フォーカス位置検出部122は、被写体距離値に応じたパルス信号をAFレンズ制御部104に出力する。
【0021】
AFレンズ制御部104は、AFレンズ駆動部121を制御し、例えば撮影者のカメラ100のレリーズスイッチ191の操作により検出された被写体距離になる光軸I上の位置にAFレンズ120が駆動されるように追従制御を行う部分である。またAFレンズ制御部104は、フォーカス位置検出部122が出力するパルス信号を取り込む。AFレンズ制御部104は、被写体距離になる光軸I上の位置(目標位置)、AFレンズ120の現在位置情報などに基づいて駆動信号を演算し、このデジタル駆動信号をAFレンズ電圧ドライバ123に出力する。
【0022】
AFレンズ電圧ドライバ123は、入力された駆動信号(駆動電圧)に応じて、AFレンズ駆動部121に電力を供給するドライバ部である。AFレンズ電圧ドライバ123は、駆動信号に対し、スイッチングを行い、AFレンズ駆動部121に電圧を印加し、AFレンズ駆動部121の駆動を行う。
【0023】
レンズCPU103は、レンズ102側の種々の制御を行う中央処理部である。レンズCPU103内には、ズームレンズ制御部105と、AFレンズ制御部104が設けられている。
【0024】
レンズCPU103は、レンズ102とカメラ100との間に設けられたレンズ接点190を介して、ボディCPU109との間で通信が可能である。
【0025】
EEPROM131は、レンズ102に関する種々の固有情報であるレンズデータなどを格納する不揮発性の記憶部である。
【0026】
ボディCPU109は、カメラシステム全体の種々の制御を行う中央処理部である。ボディCPU109には、レリーズスイッチ191の情報が入力され、レリーズスイッチ191が半押し、又は、全押しされたことを検知する事が出来る。これにより、撮像素子252の駆動、画像処理部150の動作、メモリ197の圧縮処理などを制御する。さらに表示部258によって液晶モニタ等に情報表示を行う情報表示装置の各セグメントの状態を制御する。
【0027】
また、ボディCPU109は、後述するように、ユーザーが撮影時に主被写体としている被写体や副被写体(ユーザーが主被写体の次に合焦した画像が欲しいと想定される被写体)と考えている被写体を判定する機能を有している。よって、ボディCPU109が本発明の判定手段に相当する。
【0028】
画像処理部150は、内部にA/D変換器、ホワイトバランス回路、ガンマ補正回路、補間演算回路等を有しており、記録用の画像を生成することができる。また、本発明の要部である、像シフト手段、像生成手段、相関計算手段等を含める事も出来る(本実施例ではこれらの要素はボディCPU109内に配置する場合を想定して記載する)。
【0029】
撮像素子252は、具体的には、増幅型固体撮像素子の1つであるCMOSプロセスコンパチブルのセンサ(以降CMOSセンサと略す)である。CMOSセンサの特長の1つに、エリアセンサ部のMOSトランジスタと撮像装置駆動回路、AD変換回路、画像処理回路といった周辺回路を同一工程で形成できるため、マスク枚数、プロセス工程がCCDと比較して大幅に削減できる。また、任意の画素へのランダムアクセスが可能といった特長も有し、ディスプレイ用に間引いた読み出しが容易であって、表示部258において高い表示レートでリアルタイム表示が行える。
【0030】
撮像素子252は、上述した特長を利用し、ディスプレイ画像出力動作(撮像素子252の受光領域のうち一部を間引いた領域での読み出し)および高精彩画像出力動作(全受光領域での読み出し)を行う。
【0031】
また撮像素子252表面にはマイクロレンズが格子状に配置してあり、いわゆるマイクロレンズアレイ(以下 MLA20)を形成している。MLA20は本実施例において、瞳分割手段を構成する。MLA20の機能や配置の詳細については図3を用いて後述する。後述するように、撮像素子252からピント評価量/適当な露光量が得られるので、この信号に基づいて適切に撮影光学系101が調整されることで、適切な光量の物体光を撮像素子252に露光するとともに、撮像素子252近傍で被写体像が結像する。
【0032】
なお、ボディCPU109は、後述するように、画像処理部150を動作させて撮像素子252に結像した被写体像から撮影画像のデフォーカス量を求め、その結果と前述の主被写体310の判定結果に応じてレンズ接点190を介してレンズCPU103に送信する事でAFレンズ120の駆動を制御する事にもなるので、ボディCPU109は、本発明の制御手段にも相当する。
【0033】
図3は、本実施例における撮影光学系の要部を説明する図である。本発明を適用するためには、いわゆる光線空間情報等といわれる光線の位置に加えて角度の情報を取得する必要がある。本実施例では、角度情報の取得のために撮影光学系101の結像面近傍にMLA20を配置するとともに、MLA20を構成する1つのレンズに対して複数の画素を対応させている。
【0034】
図3(a)は撮像素子252とMLA20の関係模式的に示す図である。図3(b)は撮像素子252の画素とMLA20の対応を示す模式図である。図3(c)はMLA20によってMLA20の下に設けられた画素が特定の瞳領域と対応付けられる事を示す図である。
【0035】
図3(a)に示すように、撮像素子252上にはMLA20が設けられており、MLA20の前側主点は撮影光学系101の結像面近傍になるように配置されている。図3(a)は撮像装置の横からと、正面からMLA20を見た状態を示しており、撮像装置正面から見るとMLA20のレンズが撮像素子252上の画素を覆うように配置されている。なお、図3(a)ではMLA20を構成する各マイクロレンズを見やすくするために、大きく記載したが、実際には各マイクロレンズは画素の数倍程度の大きさしかない(実際の大きさについては図3(b)を用いて説明する)。
【0036】
図3(b)は図3(a)の装置正面からの図を一部拡大した図である。図3(b)に示す格子状の枠は、撮像素子252の各画素を示している。一方MLA20を構成する各マイクロレンズは太い円20a,20b,20c,20dで示した。図3(b)から明らかなように、マイクロレンズ1つに対して複数の画素が割り当てられており、図3(b)の例では、5行x5列=25個の画素が1つのマイクロレンズに対して設けられている(すなわち各マイクロレンズの大きさは画素の大きさの5倍x5倍の大きさである)。
【0037】
図3(c)は撮像素子252を、マイクロレンズ光軸を含み、撮像素子252の長手方向が図の横方向になるように切断した図である。図3(c)の21、22、23、24、25は撮像素子252の画素(1つの光電変換部)を示している。
【0038】
一方、図3(c)の上方に示した図は撮影光学系101の射出瞳面を示している。実際には、図3(c)の下方に示した撮像素子252の図と方向を合わせると、射出瞳面は図3(c)の紙面垂直方向になるが、説明のために投影方向を変化させている。また、図3(c)においては、説明を簡単にするために、1次元の投影/信号処理について説明する。実際の装置においては、これを容易に2次元に拡張する事が出来る。
【0039】
図3(c)の画素21、22、23、24、25は図3(b)の21a、22a、23a、24a、25aとそれぞれ対応する位置関係にある。図3(c)に示すように、マイクロレンズによって各画素は撮影光学系101の射出瞳面上の特定の領域と共役になるように設計されている。図3(c)の例では画素21と領域31が、画素22と領域32が、画素23と領域33が、画素24と領域34が、画素25と領域35がそれぞれ対応している。すなわち画素21には撮影光学系101の射出瞳面上の領域31を通過した光束のみが入射する。他の画素も同様である。結果として、瞳面上での通過領域と撮像素子252上の位置関係から角度の情報を取得する事が可能となる。
【0040】
ここで後ほどの説明を簡単にするために記号を導入する。図3(c)に示すように、撮像素子252の画素ピッチをΔx、角度分解能をΔθとする。さらに角度の分割数をNθ(図3の例ではNθ=5)とする。画素ピッチは撮像素子252の形状によって決定され、Δθは光線の角度を取得する範囲と角度分割数Nθで決定される。すなわち、物理的な構造(撮像素子252およびMLA20の構造)のみによってこれらのパラメータは決定される。
【0041】
レリーズスイッチ191は、前述の通り、図示しないレリーズボタンの半押し動作(SW1のON)を検出して、一連の撮影準備動作(測光動作や焦点調節動作等)を開始させ、レリーズボタンの全押し動作(SW2のON)を検出して、撮影動作(撮像素子252から読み出された画像データの記録媒体への記録)を開始させるスイッチである。
【0042】
192は任意方向の操作が可能な選択スイッチで、不図示の公知の撮影メニューの項目を選択したり、後述するように、撮影者が主被写体を選択したりする時に用いるスイッチである。
【0043】
193は決定スイッチで、不図示の公知の撮影メニューの決定をしたり、後述するように、撮影者が主被写体を決定したりする時に用いるスイッチである。
【0044】
195はカメラ100を起動させるためのメインスイッチである。また、図2に示したように、メインスイッチ195は3ポジション(195−1,195−2,195−3)が選択可能なスイッチである。
【0045】
ポジション195−1にメインスイッチ195をセットした時は「OFF」で、後述のように、カメラ100はスリープ状態となる。またポジション195−2にメインスイッチ195をセットした時は「ON」(静止画撮影)で、後述のように、カメラ100はスリープ状態から駆動状態となり、各種スイッチの操作等を受け付けて静止画撮影のための動作を行う状態となる。さらにポジション195−3にメインスイッチ195をセットした時は「動画撮影」となり、後述のように、カメラ100は公知の動画撮影を行える状態となる。
【0046】
なお、本実施例ではメインスイッチ195にカメラ100が動画撮影状態となる機能を設けているが、これに限定せず、例えば、動画撮影モードに入る専用のスイッチを設けたり、あるいは、後述のモードスイッチ196の設定でカメラ100が動画撮影モードに入ったりするようにしても良い。
【0047】
モードスイッチ196はカメラ100の撮影モードを設定するためのスイッチで、後述する「フォーカスブラケット撮影モード」を設定する事が出来る。
【0048】
197はメモリで、実際の記憶部に加えて記録に必要な処理回路を備えている。メモリ手段は、記録部へ出力を行うとともに、表示部258に出力する像を生成、保存する。
【0049】
また、メモリ197 は、予め定められた方法を用いて画像、動画、音声などの圧縮を行う。
【0050】
198は録画スイッチで、例えば、録画スイッチ198を図2中、紙面垂直方向に一度押しこむと、動画撮影がスタートし、もう一度、録画スイッチ198を図2中、紙面垂直方向にもう一度押しこむ事により、録画撮影を停止する事が出来る。
【0051】
表示部258はカメラ100の背面に取り付けられており、使用者は表示部258での表示を直接観察出来るようになっている。
【0052】
表示部258を、有機EL空間変調素子や液晶空間変調素子、微粒子の電気泳動を利用した空間変調素子などで構成すれば、消費電力を小さくでき、かつ表示部258の薄型化を図る事が出来る。これにより、カメラ100の省電力化および小型化を図る事が出来る。
【0053】
図4は、いわゆるライブビュー撮影時(動画撮影)に表示部258に表示される被写体像の様子を示した図である。
【0054】
図4において、表示部258には、被写体像258aと撮影条件(シャッタ速度、絞り値、ISO感度等)や露出レベル表示、電池残量表示等の撮影情報258bが表示されており、また被写体像258a表示部内には、動画撮影に関する情報(動画記録サイズ、フレームレート、動画撮影可能時間等)の表示部258cが表示されている。
【0055】
さらに被写体像258a表示部内には、複数の測距点(測距領域)301が設けられており、撮像素子252からのピント検出結果に基づいて選択された測距点302を別の表示形態(色違いでの表示等)にする事により、撮影者に合焦している主被写体部を知らせる事が出来る。
【0056】
なお、カメラ100の選択スイッチ192と決定スイッチ193を用いて測距部253の検出結果によらずに複数の測距点301の中から合焦させたい任意の位置のものをユーザーが選択可能である。その際は、ユーザーが選択した測距点302に基づいて撮像素子252からのピント検出結果から主被写体までの距離を演算する事でピンボケ写真になるのを防止する。
【0057】
図5から図8は本発明のカメラシステムが動画撮影時にフォーカスブラケット撮影する時の動作を説明するためのフローチャートである。これらを用いて、以下、フォーカスブラケット撮影モード時のカメラ100及びレンズ102の動作について説明する。
【0058】
ステップ(以下、Sとする)1010では、メインスイッチ195がポジション195−2にセットされてONになっているかどうかの判定がボディCPU109によって行われる。メインスイッチ195がポジション195−1にセットされたまま(OFFのまま)であれば、カメラ100はスリープ状態のままであり、メインスイッチ195がポジション195−2にセットされてONになればS1020に進む。
【0059】
S1020では、メインスイッチ195がポジション195−3にセットされたかどうかの判定がボディCPU109によって行われる。メインスイッチ195がポジション195−2のままであれば(Noであれば)、撮影者は静止画撮影をすると判断して、S1310に進み、静止画撮影に関する動作を行う。S1310の動作は公知の動作であり、また本発明の内容とは異なるので詳細な説明を省略する。メインスイッチ195がポジション195−3にセットされたならば(Yesならば)、S1030に進む。
【0060】
S1030では、カメラ100がモードスイッチ196によってフォーカスブラケット撮影モードに設定されているかどうかの判定がボディCPU109によって行われる。YesであればS1040に進み、NoであればS1330に進み、通常の動画撮影動作を行う。S1330の動作は公知の動作であり、また本発明の内容とは異なるので詳細な説明を省略する。
【0061】
S1040では、以下に説明する動作で必要となるプリ撮影を行う。ここでは、撮像素子252を起動し、撮影光学系101を介した被写体像を露光する事をいう。
【0062】
S1050では、撮像素子252を適当な時間露光して、読み出す(A/D変換する)事によりデータを取得する。
【0063】
この時の露光時間と露光量から撮影において適当な露出量を計算する事も出来るが、本発明の要部ではないので説明は割愛する。
【0064】
S1060では相関計算手段を動作させて結果を得る。相関計算手段の動作の詳細は図7を用いて後述するが、このステップで、いわゆる位相差AFによるピント位置を求める事が出来る。
【0065】
S1070では、S1060での計算結果から各測距点301でのデフォーカス量を算出する。
【0066】
S1080では、S1070で求めた各測距点301でのデフォーカス量からユーザーが主被写体としているボディCPU109が被写体を判定する。具体的には、例えば各測距点301でのデフォーカス量の分布状況やその絶対値の差から、ある特定の値及びその近傍のデフォーカス量となっている測距点301の数が多いエリアを特定し、そのエリア内の被写体を主被写体310と判定すると共に、そのエリアで一番デフォーカス量が小さいものをピント位置の測距点302として表示する(図4参照)。
【0067】
あるいは、前述のように、カメラ100の選択スイッチ192と決定スイッチ193を用いて、ユーザーが複数の測距点301の中から合焦させたい任意の位置の測距点302を指定した場合に、その測距点302におけるデフォーカス量と等しいか、あるいはその近傍のデフォーカス量となっている測距点301が分布しているエリア内の被写体をボディCPU109は主被写体310と判定しても良い。
【0068】
S1090では、S1080と同様に、ボディCPU109は、S1070で求めた各測距点301でのデフォーカス量からユーザーが副被写体としている被写体を判定する。ここでいう副被写体とは、後述のフォーカスブラケット撮影もしくはリフォーカス処理により、主被写体310の次にピントの合った画像を取得したい被写体の事である。
【0069】
S1090での具体的な処理は、S1080と同様に、各測距点301でのデフォーカス量の分布状況やその絶対値の差から、ある特定の値及びその近傍のデフォーカス量となっている測距点301の数が、主被写体310のエリアの次に多いエリアを特定し、そのエリア内の被写体を副被写体320と判定する。なおこの時、そのエリアで一番デフォーカス量が小さいものを測距点303として主被写体310の測距点302や他の測距点301とは異なる表示形態(色違いでの表示等)で表示しても良い(図4参照)。
【0070】
また、前述のように、カメラ100の選択スイッチ192と決定スイッチ193を用いて、ユーザーが複数の測距点301の中から副被写体320として主被写体310の次に合焦した画像を取得したい被写体上にある測距点303を指定した場合に、その測距点303におけるデフォーカス量と等しいか、あるいはその近傍のデフォーカス量となっている測距点301が分布しているエリア内の被写体をボディCPU109は副被写体320と判定しても良い。
【0071】
なお、S1080及びS1090において、ユーザーがカメラ100の選択スイッチ192と決定スイッチ193を用いて主被写体310と副被写体320を指定する場合は、表示部258内に例えば「主被写体を選択/決定して下さい」等の表示が行ってユーザーの補助をすれば、ユーザーにとっては利便性が向上する。
【0072】
また、撮影範囲内(図4で被写体像258aとして表示されているエリア内の事)で測距領域外(測距点301が配置されていない所)にいる被写体に対してもS1060の処理によりデフォーカス量が求まっているので、S1090と同様に副被写体330として判定しても良い。
【0073】
S1100では、後述のフォーカスブラケット撮影(画像取得)をする際に、AFレンズ120のどの位置において撮影を行うのかの演算をボディCPU109が行う。具体的には、S1080で判定した主被写体310及びS1090で判定した副被写体320を少なくとも含み、S1060の処理により求まっているデフォーカス量によって被写体像258aの内の最至近位置から最無限位置までの被写体がフォーカスブラケット撮影もしくはリフォーカス処理により合焦状態となるようなAFレンズ120の複数の位置をボディCPU109は演算する。この演算結果の例を図6(a)に示す。
【0074】
図6(a)において、左端が被写体像258a内の最至近の合焦状態位置を示し、右端が被写体像258a内の最無限の合焦状態位置を示し、その間に主被写体310と副被写体320が居る。このような場合、S1100では、主被写体310が合焦状態となる(I)の位置と副被写体320が合焦状態となる(III)の位置を演算で求まると共に、(II)及び(III)の位置での撮影画像からリフォーカスが可能な範囲内(図6(a)中、Dで示した範囲)から外れた奥行き方向に居る被写体(例えば、副被写体330で、図6(a)中、NやFで示した範囲)にもフォーカスブラケット撮影もしくはリフォーカス処理により合焦状態となるようなAFレンズ120の位置((I)及び(IV)がS1100の演算により求まる。
【0075】
S1110では、S1100の演算結果をボディCPU109からレンズ接点190を介してレンズCPU103が受け取り、その後、AFレンズ120をAFレンズ駆動部121により駆動してS1100により求まった主被写体310が合焦状態となる位置にAFレンズ120を移動する。
【0076】
S1120では、画像処理部150が有する像生成手段を動作させて結果を得る。像生成手段の動作の詳細は図9を用いて後述するが、これにより、撮像素子252に結像した主被写体310の像がメモリ197に生成される。
【0077】
S1130では、S1120にて生成された主被写体310に合焦した画像を撮影前のプレビュー画像として表示部258に表示する。
【0078】
S1140では、録画スイッチ198が押し込まれたかどうかの判断をボディCPU109が行う。NoならばS1050に戻り、一連の動作を繰り返す。YesならばS1150に進む。
【0079】
なお、S1140で録画スイッチ198が動画撮影を開始するために押し込まれるまでは、S1050からS1130までの動作が通常の動画撮影時の撮影周期である30fpsで行われるので、S1130での主被写体310に合焦した画像はフォーカスブラケット動作を行わずに動画撮影をする時と同様のプレビュー表示が表示部258で行われるので、撮影者に違和感を与える事がない。
【0080】
S1150では、S1100により求まったAFレンズ120の位置(主被写体310及び副被写体320が合焦する位置を含む)にAFレンズ120をAFレンズ駆動部121により駆動して移動させるとともに、その位置にて公知の静止画撮影動作を行い、撮像素子252に結像した被写体像を、公知の画像処理技術を経て画像処理部150で処理した記録画像としてメモリ197もしくは不図示の記録媒体に記録する。つまり、図6(a)に示した例であれば、主被写体310に合焦するAFレンズ120の位置「(II)」で撮影後、副被写体320に合焦するAFレンズ120の位置「(III)」から、(IV)及び(I)の位置にそれぞれAFレンズ120を移動させた後、(IV)及び(I)の位置にて公知の静止画撮影動作を行い、その後、主被写体310が合焦する位置である、位置「(II)」に戻る事となる。
【0081】
なお、本実施例における前記静止画撮影動作の周期は、例えば通常の動画撮影時の撮影周期である30fpsよりも高速な120fps(30fps×「AFレンズ120が停止する位置の個数:4」)で行う。
【0082】
また、前記静止画撮影動作の周期は、S1100により求まったAFレンズ120の位置の個数によって変わる事が望ましい。例えば、主被写体310及び副被写体320に合焦するAFレンズ120の位置を含めて、被写体像258aの内の最至近位置から最無限位置までの被写体がフォーカスブラケット撮影もしくはリフォーカス処理により合焦状態となるために、AFレンズ120が6か所の位置で静止画撮影をする必要がある場合は、静止画撮影動作の周期は、「30fps×6=180fps」となる。
【0083】
つまり、フォーカスブラケット撮影していない時の動画撮影時の撮影周期をX(fps)、被写体像258aの内の最至近位置から最無限位置までの被写体がフォーカスブラケット撮影もしくはリフォーカス処理により合焦状態となるために、AFレンズ120が駆動される位置の数をY、とすると、フォーカスブラケット撮影時の静止画撮影動作の周期F(fps)は、F=X×Yとなる。なお、この静止画撮影動作の周期の演算はボディCPU109によって行われる。
【0084】
S1160では、S1150において撮影した静止画像の中から、主被写体310に合焦するAFレンズ120の位置で撮影した静止画をボディCPU109が抽出する。
【0085】
S1170では、S1160で抽出した主被写体310に合焦した記録画像を、S1120と同様に画像処理部150が有する像生成手段を動作させて、主被写体310に合焦した被写体像をメモリ197に生成する。
【0086】
S1180では、S1170で生成した主被写体310に合焦した記録画像を表示部258に表示する。
【0087】
S1190では、S1160で抽出した主被写体310に合焦した画像に対して、S1060と同様に、相関計算手段を動作させて結果を得る。これは、S1080にて判定した主被写体310等のピント位置を確認するために行う。
【0088】
S1200では、S1190での相関演算から、主被写体310が深度内にあるかどうか、つまり、ピンボケになっていないかどうかの確認を行う。これは、動画撮影中に主被写体310が移動して合焦位置が変化していないかどうかを確認するためである。
【0089】
S1200で、主被写体310が深度内である、つまり現在のAFレンズ120の位置(位置「(II)」)で合焦している場合は、S1210に進む。一方、主被写体310が深度内ではない、つまり、現在のAFレンズ120の位置(位置「(II)」)では合焦していないと判定された場合には、S1350に進む(動作は後述する)。
【0090】
S1210では、録画スイッチ198が撮影者によって再び押し込まれる事により、録画撮影がOFFになったかどうかの判断をボディCPU109が行う。Noならば、動画撮影を継続する事になるので、S1150に戻り、一連の動作を繰り返す。Yesならば、動画撮影(フォーカスブラケット撮影)を停止してS1220に進む。
【0091】
S1220では、メインスイッチ195がポジション195−1にセットされてOFFになったかどうか、ボディCPU109が判断を行う。Noの場合はS1030に戻って一連の撮影動作を行う。
【0092】
S1220でYesの場合は、撮影動作を終了する。
【0093】
以下、S1200で主被写体310が深度内ではない、つまり、現在のAFレンズ120の位置(位置「(II)」)では合焦していないと判定された場合に進んだS1350以降の動作について説明する。
【0094】
S1350では、S1100と同様に、S1190での相関計算手段を動作させた結果から、次のフォーカスブラケット撮影(画像取得)をする際に、AFレンズ120のどの位置において撮影を行うのかの演算をボディCPU109が行う。
【0095】
S1360では、S1110同様に、S1350での演算結果をボディCPU109からレンズ接点190を介してレンズCPU103が受け取り、その後、AFレンズ120をAFレンズ駆動部121により駆動してS1350により求まった主被写体310が合焦状態となる位置にAFレンズ120を移動する。
【0096】
その後、S1150に戻って、S1350で演算されたAFレンズ120の位置にて前述同様の一連のフォーカスブラケット撮影を行う。
【0097】
なお、S1180での主被写体310に合焦した画像の表示及び更新が例えば30fpsで表示部258に行われるので、表示部258を見ながら撮影をしている撮影者は所望の動画撮影が行われている事が視認出来る事になり、違和感を与える事がなく、また利便性が良い(図6(b)参照の事)。
【0098】
以下、図7を用いて、S1060で行われる相関演算のサブフローについて説明する。S1410は画像処理部150が有する相関計算手段の動作開始を示している。
【0099】
S1420からS1520はループを形成している。
【0100】
S1420では、評価位置の数(いわゆる測距視野数)に対応して繰り返し演算を行う。測距視野数は多くなると画面全体を覆うことが可能となるが評価に時間が掛るという問題がある。ユーザーの設定などにより適切に設定する。
【0101】
S1430では、評価を行う評価点の数と、評価枠の大きさを設定する。ここでいう評価点の数とは、S1440で行う相関値を求める点数であり、撮影条件やレンズ102の種類などに応じて適切に設定される。また、評価点の数は像をシフトさせながら相関を求める場合のシフト量に対応しており、これは撮像装置においては焦点合わせの探索を行うピントの深さに対応している。一方、評価枠の大きさは、大きくすると局所的にはあまりパターンを有していないテクスチャであってもピントを合わせる事が可能となるが、あまりにも大きくなると距離の異なる被写体の像を同時に評価する、いわゆる遠近競合が発生してしまう。これらの問題を解決できるように評価枠の大きさを適切に設定する。
【0102】
S1440からS1490はループを形成している。
【0103】
S1440では、S1430で決定された評価数に対応した評価値を得るように繰り返し演算を行う。
【0104】
S1450からS1470はループを形成している。
【0105】
S1450では、S1430で決定された評価枠の大きさに応じた画素数の範囲で相関計算を行う。相関計算はS1460にあるように、例えばΣ|Ai - Bi|で計算すれば良い。ここで、Aiは特定の瞳領域を通過したi番目の画素の輝度を示している。BiはAiとは異なる瞳領域を通過したi番目の画素の輝度を示している。例えば図3において、画素22に対応する画素のみ並べたものをAi、画素24に対応する画素のみ並べたものをBiとすれば良い。どの瞳領域の画素を選択するかは、基線長の長さ、瞳面のケラレ状況、等によって決定すれば良い。
【0106】
上記のように設定する事で、異なる瞳領域を通過した像の相関を計算出来、いわゆる位相差AFに基づく評価量を得る事が出来る。
【0107】
S1480では、得られた相関値を評価量として格納する。
【0108】
上記に示したΣ|Ai - Bi|という評価式においては、相関値が小さくなった個所が最もピント状態が良い個所に対応している。ここでは差分絶対値を加算する方法で相関計算を行ったが、最大値を加算する方法、最小値を加算する方法、差分2乗値を加算する方法など他の計算方法によって相関計算を行っても良い
S1500では、相関評価値が最良となる(前述したようにS1460の式においては相関値が小さくなった個所だが、その他の指標も併用して最良を決定しても良い)点を相関量評価に基づく最良ピント位置として格納する。
【0109】
この演算を各視野で行い、最終的に相関量評価に基づく最良ピント位置を得てS1520に進み、呼び出し元(S1070もしくはS1200)に戻る。
【0110】
次に、図8を用いて画像処理部150が有する像生成手段の動作の詳細を説明する。
【0111】
S1610は像生成手段の動作開始を示している。
【0112】
S1620では、S1650での加算のための領域のデータを初期化する(0で埋める)。この時のデータ領域の大きさはMLA20の数量あれば良く、データの諧調は元のデータの諧調と瞳分割数の積を格納できるだけあれば都合が良い。例えば元のデータが8bitで25分割の場合、13bit (> 8bit + log225)あればデータの桁あふれを考慮する必要が無い。
【0113】
S1630からS1670はループを形成している。
【0114】
S1630では、MLA20を構成するマイクロレンズの数に応じてループ計算が実行される。例えば、図3に示した例では、元の撮像素子の画素数÷25(瞳分割数)がマイクロレンズの数となる。
【0115】
S1640からS1660はループを形成している。
【0116】
S1640では、瞳分割数に応じた数だけループ計算が実行される。例えば、図3に示した例では、5×5=25個に分割されていたので、25個のそれぞれの瞳位置からの光束がS1650で加算される。シフト量が画素の整数倍でない場合は、S1650において、適切に内分されながら加算される(重なっている面積に応じて適切に加算すれば良い)。
【0117】
像生成手段は、図11を用いて図解も行う(後述)。
【0118】
S1680において、呼び出し元のS1130(もしくはS1180)に戻る。
【0119】
図9は本発明のカメラシステムがフォーカスブラケット撮影モードにて動画撮影したシーンから所望の静止画を切り出し、その画像に対してリフォーカス処理する時の動作を説明するためのフローチャートであるので、これらを用いて、以下、撮影動画画像再生時及びリフォーカス処理時のカメラ100の動作について説明する。なおここでは、撮影動画画像(記録画像)の再生時に、カメラ100のモードスイッチ196によって、通常の動画画像再生表示を行うモードと、動画撮影したシーンから所望の静止画像を切出して、その画像に対してフォーカスブラケット撮影モードにより撮影した画像から、ユーザーが動画撮影時とは異なる被写体に合焦し直すリフォーカス処理が行えるリフォーカス処理モードが選択出来るものとして説明するが、それに限定するものではない(例えばリフォーカス処理専用の操作部材をカメラ100に設け、その操作部材を操作する事によりリフォーカス処理が開始するようなシステムでも良い)。
【0120】
S1710では、カメラ100がモードスイッチ196によってリフォーカス処理モードに設定されているかどうかの判定がボディCPU109によって行われる。YesであればS1740に進み、NoであればS1720に進み、通常の動画再生表示動作を行う(動作は後述する)。
【0121】
S1740では、ユーザーがリフォーカス処理をするための撮影シーン、つまり静止画を切出すシーンの選択を完了したかどうかの判定がボディCPU109によって行われる。具体的には、前述のフォーカスブラケット撮影にて主被写体310に合焦した時に撮影した画像を表示部258に連続表示すると共に、表示部258に例えば「このシーンにてリフォーカス処理をしますか?」等、ユーザーの意思確認を行う旨の表示を同時に行う。なお、その際、ユーザーがカメラ100の決定スイッチ193を操作する事により、主被写体310に合焦した画像を決定したと判定する。ユーザーがリフォーカス処理を行うシーンを選択し終えたならば、S1750に進む。
【0122】
S1750では、S1740にて指定されたシーンから静止画を切出す。具体的には、S1740にて指定されたシーンの主被写体310に合焦した画像を表示部258に表示する。
【0123】
S1760では、ユーザーは選択した主被写体310に合焦した画像からリフォーカス処理したい被写体の位置を指定する。具体的には、表示部258に表示された主被写体310に合焦した画像上に被写体選択マーク304が表示され、それをカメラ100の選択スイッチ192で操作する事で合焦させたい被写体の位置まで被写体選択マーク304を移動させると共に、決定スイッチ193にて被写体選択を完了する。なおこの時、一連の操作をガイドするような表示が表示部258に表示されていると、ユーザーの利便性が向上するのは言うまでもない(図12参照)。
【0124】
S1770では、S1760でユーザーがリフォーカス処理したい被写体が副被写体320であるかどうかの判定がボディCPU109によって行われる。YesであればS1780に進み、S1150にて記録した副被写体320に合焦した状態で撮影した画像を、画像処理部150が有する像生成手段を動作させてメモリ197に被写体像を生成させた後、表示部258に表示して終了する。これは、以下に説明するリフォーカス処理が不要なためである。Noであれば(ユーザーが選択したのが主被写体310でも副被写体320でもなければ)S1790に進む。
【0125】
S1790では、S1150のフォーカスブラケット撮影にて撮影/記録した画像の中からS1760でユーザーが選択した被写体のデフォーカス量が一番小さい画像をボディCPU109が選択する。デフォーカス量が一番小さい画像を選ぶ理由は、以下に説明するリフォーカス処理の時間を短くするためである。
【0126】
S1810では、S1790でボディCPU109が選択したリフォーカス元画像を、画像処理部150が有する像生成手段を動作させてメモリ197に被写体像を生成させた後、表示部258に表示する。この時、S1760で表示している被写体選択マークは、そのままで該画像と共に表示されている事が望ましい。
【0127】
S1810及びS1820が、本発明で言うところの「リフォーカス処理」である。
【0128】
S1810では、画像処理部150が有する像シフト手段を動作させて結果を得る。像シフト手段の動作の詳細は図10を用いて後述する。
【0129】
S1820では、画像処理部150が有する像生成手段を動作させて結果を得る。像生成手段の動作の詳細は図8で説明した内容(S1120及びS1190)と同じなので、その説明は省略する。
【0130】
S1830では、S1760にてユーザーが選択した被写体にS1810及びS1820にて行ったリフォーカス処理によって合焦した画像を表示部258に表示する。
【0131】
S1840では、S1810及びS1820にて行ったリフォーカス処理の結果の可否をユーザーに確認する。具体的には、表示部258に、S1830にて表示している、ユーザーが選択した被写体に合焦した画像と共に、例えば「このリフォーカス処理でOKですか?」等の表示を行って、ユーザーが望んでいたリフォーカス画像が得られたどうかの確認をボディCPU109が行う。この時、さらに「OK」と「キャンセル」の表示等があり、「OK」という表示をカメラ100の選択スイッチ192で選択して決定スイッチ193で決定したら、ユーザーが望んでいたリフォーカス画像が得られた(つまり、Yes)とボディCPU109は判断して、S1850に進む。一方、「キャンセル」をいう表示をカメラ100の選択スイッチ192で選択して決定スイッチ193で決定したら、ユーザーが望んでいたリフォーカス画像が得られなかった(つまり、No)とボディCPU109は判断して、S1760に戻って一連のリフォーカス処理を再度行う。
【0132】
S1850では、リフォーカス処理をした画像をメモリ197や不図示の記録媒体に保存するかどうかの確認をボディCPU109は行う。具体的には、表示部258にS1840の時と同様に、ユーザーが選択した被写体に合焦した画像と共に、例えば「保存しますか?」等の表示を行って、ユーザーが望んでいたリフォーカス画像を保存するかどうかの確認をボディCPU109は行う。この時、さらに「する」と「しない」の表示等があり、「する」という表示をカメラ100の選択スイッチ192で選択した後、決定スイッチ193を操作したら、ユーザーがリフォーカス画像を保存する(つまり、Yes)とボディCPU109は判断して、S1860に進む。一方、「しない」をいう表示をカメラ100の選択スイッチ192で選択した後、決定スイッチ193を操作したらユーザーはリフォーカス画像を保存しない(つまり、No)とボディCPU109は判断して、一連のリフォーカス処理を終了する。
【0133】
S1860では、リフォーカス処理した画像をメモリ197や不図示の記録媒体に保存して、一連のリフォーカス処理を終了する。
【0134】
以下、S1710でリフォーカス処理をしない、つまり、通常の動画再生を行う場合に進んだS1720以降の動作について説明する。
【0135】
S1720では、S1150のフォーカスブラケット撮影時に撮影した主被写体310に合焦した時の画像をメモリ197もしくは不図示の記録媒体から読み込む。
【0136】
S1730では、S1720で読み込んだ主被写体310に合焦した時の画像を表示部258に連続再生する。この時の表示周期は、例えば通常の動画再生と同じ30fpsとする。これにより、表示部258を見ながら再生画像を確認している撮影者は、主被写体310に合焦した動画撮影が行われている事が確認出来る事になり、フォーカスブラケット動作を行わずに動画撮影をした時と同様の動画再生が行われるので、違和感を与える事がない(図6(b)参照の事)。
【0137】
ここで、図10を用いて画像処理部150が有する像シフト手段について説明する。
【0138】
S1910は像シフト手段の動作開始を示している。
【0139】
S1920からS1960はループを形成している。
【0140】
S1920では、瞳分割数に応じた数だけループ計算が実行される。例えば、図3に示した例では、5x5=25個に分割されていたので、25個のそれぞれの瞳位置に応じた計算がなされる。図11を用いて後述するように、像の再構成を考えると同じ再構成面であっても入射角度が異なると像をシフトさせる量が異なる。これを適切に反映させるためのループである。
【0141】
S1930では、S1940からのデータを元に、評価位置に対応する各瞳領域での像シフト量を計算する。S1940には、撮像素子252上の各画素とMLA20との対応関係が保存されており、各画素がどの瞳領域の光線を受光しているかが分かる情報が格納されている。
【0142】
S1950では、S1930の情報を元に同じ入射角の光線を得ている(同じ瞳領域からの光線を得ている)画素をシフトさせる。同じ入射角の光線を得ている画素は例えば図3(b)の25aと25bが該当する。このような画素がMLA20を構成するマイクロレンズの数だけ存在している。
【0143】
像シフト手段は、図11を用いて図解も行う。(後述)。
【0144】
S1970において、呼び出し元のS1820に戻る。
【0145】
次に図11を用いて像シフトおよび像生成を模式的に示す。
【0146】
図11は上から(a)、(b)、(c)と並んでおり、図11(b)は実際に撮像素子252が存在して画像を取得した面を、図11(a)は図11(b)よりも物体側の再構成面(再構成面1とする)を、図11(c)は図11(b)よりも物体側から遠い側の再構成面(再構成面2とする)をそれぞれ示している。
【0147】
図11(b)において、X1,i、X2,i、X3,i、X4,i、X5,i、はそれぞれ瞳領域1、2、3、4、5を通過してマイクロレンズXiに入射して得られたデータを示している。すなわち、添え字のうち前半は通過する瞳領域を、後半は画素の番号を示している。
【0148】
また、図11においても説明を明瞭にするために、データを1次元的な広がりしか持たないものとして記述している。物理的な位置との関係においては、X1,iは図3(c)の21領域から得られるデータを、X2,iは図3(c)の22領域から得られるデータを、以下添え字の3、4、5は領域23、24、25に対応していることを示している。
【0149】
取得面での画像を生成するためには、図11(b)にあるように、マイクロレンズXiに入射したデータを加算すればよい。具体的には、Si = X1,I + X2,i + X3,i+ X4,i + X5,iでXiに入射した光の角度方向の積分値を得る事が出来る。これにより通常のカメラと同様の像が生成される。
【0150】
次に再構成面1での像の生成方法を考える。図3で説明したように、本実施例の撮影光学系は、各画素に入射する光束を特定の瞳領域に限定しているために、入射角度が既知である。この角度に沿って再構成面での各画素の位置を再構成する。具体的にはX1,iのように瞳領域の添え字が1のものは図11右側において41に示すような角度で入射しているとする。以下瞳領域の添え字2,3,4,5はそれぞれ42,43,44,45に対応しているとする。この時再構成面1でのマイクロレンズXiに入射した光束は、取得面においては、Xi-2からXi+2に分散して入射している事になる。より具体的には、X1,i-2、X2,i-1、X3,i、X4,i+1、X5,i+2に分散している。Xiに限らず再構成面1での像を復元するためには、入射角度に応じて像をシフトさせて加算すれば良い事が分かる。再構成面1での像を生成するためには、瞳領域の添え字が1のものは右に2画素シフト、瞳領域の添え字が2のものは右に1画素シフト、瞳領域の添え字が3のものはシフトなし、瞳領域の添え字が4のものは左に1画素シフト、瞳領域の添え字が5のものは左に2画素シフトする事で入射角度に応じたシフトを与える事が出来る。
【0151】
その後、図11(a)の縦方向に加算することで再構成面1でのデータを得る事が出来る。具体的には、Si = X1,i-2 + X2,i-1 + X3,i+ X4,i+1 + X5,i+2で再構成面1において、Xiに入射した光の角度方向の積分値を得る事が出来る。これにより再構成面での画像が得られた。
【0152】
ここで、再構成面1において、Xiに輝点があったとすると、取得面においてはX1,i-2、X2,i-1、X3,i、X4,i+1、X5,i+2に分散していわゆるボケ状態にある。しかしながら、上述した再構成面1での像を生成すると、再びXiに輝点が生成されコントラストの高い像が得られる。
【0153】
また、図11(c)から分かるように、再構成面2においても再構成面と全く同様に像を生成する事が出来る。再構成面を配置する方向が異なると(物体に対して反対側という意味)シフトさせる方向を反転させれば良いだけである。
【0154】
以上、説明したように、リフォーカス処理によって撮影画面内の任意の位置に合焦した画像が得られる撮像措置であって、動画画像から撮影者が撮影時に狙った被写体以外の任意の被写体にピントが合った静止画画像が得られる撮像装置を提供する事が出来る。
【0155】
[変形例]
以下、図13から図15を参照して、本発明の撮像装置の変形例について説明する。変形例では、主被写体以外の被写体に動きが無いようなシーンでフォーカスブラケット撮影をする時の動作について述べる。
【0156】
図13は、変形例における動画撮影時にフォーカスブラケット撮影する時の動作を説明するためのフローチャートである。
【0157】
図14は、変形例における表示部258に表示される撮影シーンの説明図である。
【0158】
図15(a)は、変形例におけるフォーカスブラケット撮影時のAFレンズ120の光学方向の位置の説明図、図15(b)は、変形例におけるフォーカスブラケット撮影を行うタイミングの説明図である。
【0159】
以下、図13を用いて、変形例でのフォーカスブラケット撮影モード時のカメラ100及びレンズ102の動作について説明する。
【0160】
S2010からS2200まで、及びS2310、S2330、はS1010からS1200まで、及びS1310、S1330と同様なので、その説明を省略する。
【0161】
S2210では、S2160で取得した主被写体記録画像から、被写体像258a内にある被写体像各々の動きベクトルを演算する。具体的には、30fpsの撮影周期で撮影した主被写体310に合焦した複数の画像から、主被写体310以外の被写体の動きベクトルをボディCPU109が演算する。
【0162】
図14及び図15を用いて、詳しく説明すると、図14に示したように、被写体像258aにある主被写体310以外の被写体が風景の場合、例えば後方の風景を副被写体320とボディCPU109が判定したとする。その時、S2100で行われる、被写体像258aの内の最至近位置から最無限位置までの被写体がフォーカスブラケット撮影もしくはリフォーカス処理により合焦状態となるようなAFレンズ120の複数の位置の演算結果が図15(a)に示したようになったとする。この演算結果に合わせて、S2150でフォーカスブラケット撮影が行われ、録画スイッチ198がOFFになるまでは、S2150から後述のS2230での動作が繰り返される。これにより、異なる時刻で記録した主被写体310に合焦した複数の記録画像が、メモリ197や不図示の記録媒体に保存されるので、S2160で抽出した主被写体記録画像の複数枚を比較する事で、主被写体310以外の被写体の動きベクトルをボディCPU109が演算する事が可能になる。このS2210での演算終了後、S2220に進む。
【0163】
S2220では、S2210での動きベクトルの演算結果から、後述のS2230で録画スイッチ198がOFFになっていない時にS2150に戻ってフォーカスブラケット撮影する際に、主被写体310以外の被写体に合焦する位置(図15(a)中、(II)、(III)及び(IV)の位置)で静止画撮影をする必要があるかどうかの判定をボディCPU109が行う。
【0164】
例えば、図14に示したようなシーンでは、使用者が動画撮影中に、例えばAFレンズ120が(I)の位置の深度内で主被写体310は動く事はあるが(図15(a)に示した矢印の範囲内が深度内)、他の被写体は風景(副被写体320等)なので、動きは無い。
【0165】
すると、S2210で演算した結果、風景(副被写体320等)の動きベクトルはほぼゼロとなる。そのような場合には、S2150でフォーカスブラケット撮影をした場合、図15(a)に示した(II)、(III)及び(IV)の位置で撮影した静止画は、1回目のフォーカスブラケット撮影をした時と2回目のフォーカスブラケット撮影をした時とでは、ほぼ変化がないので、同じような画像をメモリ197や不図示の記録媒体に保存しても、その容量が無駄となってしまう。またフォーカスブラケット撮影のためにAFレンズ120を動かす事にもなるので、AFレンズ120の駆動に伴う消費電力も無駄となる。
【0166】
そこで、S2210で演算した結果、主被写体310以外の被写体の動きベクトルがほぼゼロの場合は、2回目のフォーカスブラケット撮影を行わない事で、前記無駄な動作を行わないようにするため、S2220では、AFレンズ120が(II)、(III)及び(IV)の位置では静止画撮影を行わないという判定を行って、S2230に進む。
【0167】
S2230及びS2240の動作は、S1210及びS1220と同じなので、その説明を省略する。
【0168】
なお、前述のように、S2220での判定の結果、AFレンズ120が(II)、(III)及び(IV)の位置では静止画撮影を行わないという判定になった場合は、図15(b)に示したように、2回目のフォーカスブラケット撮影時は、主被写体310に合焦する(I)´の位置にAFレンズ120をAFレンズ駆動部121により駆動して静止画撮影を行うが、(II)、(III)及び(IV)の位置では撮影を行わない。さらに続けてフォーカスブラケット撮影をする場合、例えば主被写体310の背後に別の被写体が入ったり、(II)の位置にある被写体(例えば花や木)が動いたりした事により、AFレンズ120の(II)の位置での撮影が必要になった場合には、3回目のフォーカスブラケット撮影時は、主被写体310に合焦する(I)´´の位置にAFレンズ120をAFレンズ駆動部121により駆動して静止画撮影を行った後、フォーカスブラケット撮影としては(II)´の位置にAFレンズ120をAFレンズ駆動部121により駆動して静止画撮影を行った後、(I)の位置にAFレンズ120をAFレンズ駆動部121により駆動して戻す。
【0169】
S2230で録画スイッチ198がOFFになるまで、上記一連のフォーカスブラケット撮影を行う。
【0170】
ところで、例えば使用者が、主被写体310はAFレンズ120が(I)´の位置(つまり、2回目のフォーカスブラケット撮影を行った時の主被写体310の像)でAFレンズ120が(II)、(III)及び(IV)以外の位置で合焦する被写体にリフォーカス処理を行う場合は、S1790での処理同様に、S2150のフォーカスブラケット撮影にて撮影/記録した画像の中からユーザーが選択した被写体のデフォーカス量が一番小さい画像をボディCPU109が選択(例えばAFレンズ120が(III)の位置で記録)した画像とAFレンズ120が(I)´の位置で記録した画像を合成する。これにより、使用者が望むリフォーカス画像を得る事が出来る。
【0171】
以上、説明したように、リフォーカス処理によって撮影画面内の任意の位置に合焦した画像が得られる撮像措置であって、動画画像から撮影者が撮影時に狙った被写体以外の任意の被写体にピントが合った静止画画像が得られる撮像装置を提供する事が出来る。
【0172】
また、主被写体310以外の被写体に動きが無い場合には、フォーカスブラケット撮影モード中でもフォーカスブラケット撮影を行わない事で、メモリ197や不図示の記憶容量削減やフォーカスブラケット撮影に伴う無駄な電力消費を抑える事が可能になる。
【0173】
なお、動画撮影中に主被写体310と副被写体320には動きがあるが、それ以外の被写体に動きが無い場合に場合には、上記フォーカスブラケット撮影を主被写体310に合焦する位置と副被写体320に合焦するそれぞれの位置にAFレンズ120を動かすようにボディCPU109が制御しても、同様な効果が得られる事は言うまでもない。
【0174】
以上、本発明の好ましい実施形態について説明したが、本発明はこれらの実施形態に限定されず、その要旨の範囲内で種々の変形及び変更が可能である。
【0175】
また本発明ではカメラ100とレンズ102が着脱可能であるとしたが、これに限定せず、カメラ100とレンズ102が一体化しているカメラでも上記で説明したのと同様な効果が得られる事は言うまでもない。
【符号の説明】
【0176】
20:マイクロレンズアレイ(MLA)
100:カメラ
102:レンズ
109:ボディCPU
120:AFレンズ
192:選択スイッチ
193:決定スイッチ
196:モードスイッチ
198:録画スイッチ
252:撮像素子
258:表示部
301,302,303:測距点
310:主被写体
320:副被写体
【特許請求の範囲】
【請求項1】
撮像素子と、
合焦のために光軸方向に移動可能なフォーカスレンズを含む撮影レンズと、
前記撮像素子上の画素へ入射する光束を前記撮影レンズの特定の瞳領域のみに制限する瞳分割手段と、
前記撮像素子から得られた電気信号に所定の正の値を掛けて加算する像生成手段と、
異なる瞳領域を通過した像の相関を計算する相関計算手段と、
前記フォーカスレンズを駆動して複数の合焦状態位置において被写体像を前記撮像素子に受光する制御手段と、
該受光した被写体像を表示する表示部と、
前記相関計算手段の結果から主被写体を判定する判定手段を有し、
前記制御手段は動画撮影中に前記判定手段により判定された主被写体に合焦する位置に前記フォーカスレンズを駆動させて被写体像を連続的に受光すると共に、該主被写体に合焦した被写体像を連続的に受光する間に、主被写体以外に合焦する位置に前記フォーカスレンズを駆動させて被写体像を受光する事を特徴とする撮像装置。
【請求項2】
前記制御手段は撮影時及び再生時は主被写体に合焦した被写体像を連続的に前記表示部に表示する事を特徴とする請求項1に記載の撮像装置。
【請求項3】
前記判定手段は前記相関計算手段の結果から副被写体を判定し、その結果に応じて前記制御手段は副被写体に合焦する位置に前記フォーカスレンズを駆動させて被写体像を受光すると共に、該受光した被写体像を前記像生成手段により取得する事を特徴とする請求項1に記載の撮像装置。
【請求項4】
前記撮像素子から得られた電気信号に対して通過した瞳領域ごとに異なるシフトを与える像シフト手段を有し、
前記像生成手段は前記像シフト手段から得られた電気信号に所定の正の値を掛けて加算する事で主被写体及び副被写体以外に合焦した被写体像を取得する事を特徴とする請求項1に記載の撮像装置。
【請求項5】
前記制御手段は前記判定手段により判定された主被写体に合焦する第一の位置に前記フォーカスレンズを駆動して被写体像を取得した後に、前記判定手段により判定された副被写体に合焦する第二の位置に前記フォーカスレンズを駆動する事を特徴とする請求項3に記載の撮像装置。
【請求項6】
前記判定手段は撮影画面内で所定範囲内のデフォーカス量が分布しているエリアが一番大きいところを主被写体として判定する事を特徴とする請求項3に記載の撮像装置。
【請求項7】
前記判定手段は撮影画面内で所定範囲内のデフォーカス量が分布しているエリアが主被写体の次に大きいところを副被写体として判定する事を特徴とする請求項1に記載の撮像装置。
【請求項8】
前記制御手段は、撮影画面内でのデフォーカス量から前記フォーカスレンズを駆動して複数の合焦状態にする位置を演算する事を特徴とする請求項1に記載の撮像装置。
【請求項9】
前記制御手段は、さらに、前記フォーカスレンズを駆動する位置の演算結果に応じて、前記フォーカスレンズを駆動して複数の合焦状態にする位置での撮影周期を制御する事を特徴とする請求項8に記載の撮像装置。
【請求項10】
前記制御手段は、少なくとも前記主被写体以外の被写体の動きベクトルを演算し、その演算結果に応じて前記フォーカスレンズを駆動して複数の合焦状態にする位置での撮影周期を制御する事を特徴とする請求項8に記載の撮像装置。
【請求項1】
撮像素子と、
合焦のために光軸方向に移動可能なフォーカスレンズを含む撮影レンズと、
前記撮像素子上の画素へ入射する光束を前記撮影レンズの特定の瞳領域のみに制限する瞳分割手段と、
前記撮像素子から得られた電気信号に所定の正の値を掛けて加算する像生成手段と、
異なる瞳領域を通過した像の相関を計算する相関計算手段と、
前記フォーカスレンズを駆動して複数の合焦状態位置において被写体像を前記撮像素子に受光する制御手段と、
該受光した被写体像を表示する表示部と、
前記相関計算手段の結果から主被写体を判定する判定手段を有し、
前記制御手段は動画撮影中に前記判定手段により判定された主被写体に合焦する位置に前記フォーカスレンズを駆動させて被写体像を連続的に受光すると共に、該主被写体に合焦した被写体像を連続的に受光する間に、主被写体以外に合焦する位置に前記フォーカスレンズを駆動させて被写体像を受光する事を特徴とする撮像装置。
【請求項2】
前記制御手段は撮影時及び再生時は主被写体に合焦した被写体像を連続的に前記表示部に表示する事を特徴とする請求項1に記載の撮像装置。
【請求項3】
前記判定手段は前記相関計算手段の結果から副被写体を判定し、その結果に応じて前記制御手段は副被写体に合焦する位置に前記フォーカスレンズを駆動させて被写体像を受光すると共に、該受光した被写体像を前記像生成手段により取得する事を特徴とする請求項1に記載の撮像装置。
【請求項4】
前記撮像素子から得られた電気信号に対して通過した瞳領域ごとに異なるシフトを与える像シフト手段を有し、
前記像生成手段は前記像シフト手段から得られた電気信号に所定の正の値を掛けて加算する事で主被写体及び副被写体以外に合焦した被写体像を取得する事を特徴とする請求項1に記載の撮像装置。
【請求項5】
前記制御手段は前記判定手段により判定された主被写体に合焦する第一の位置に前記フォーカスレンズを駆動して被写体像を取得した後に、前記判定手段により判定された副被写体に合焦する第二の位置に前記フォーカスレンズを駆動する事を特徴とする請求項3に記載の撮像装置。
【請求項6】
前記判定手段は撮影画面内で所定範囲内のデフォーカス量が分布しているエリアが一番大きいところを主被写体として判定する事を特徴とする請求項3に記載の撮像装置。
【請求項7】
前記判定手段は撮影画面内で所定範囲内のデフォーカス量が分布しているエリアが主被写体の次に大きいところを副被写体として判定する事を特徴とする請求項1に記載の撮像装置。
【請求項8】
前記制御手段は、撮影画面内でのデフォーカス量から前記フォーカスレンズを駆動して複数の合焦状態にする位置を演算する事を特徴とする請求項1に記載の撮像装置。
【請求項9】
前記制御手段は、さらに、前記フォーカスレンズを駆動する位置の演算結果に応じて、前記フォーカスレンズを駆動して複数の合焦状態にする位置での撮影周期を制御する事を特徴とする請求項8に記載の撮像装置。
【請求項10】
前記制御手段は、少なくとも前記主被写体以外の被写体の動きベクトルを演算し、その演算結果に応じて前記フォーカスレンズを駆動して複数の合焦状態にする位置での撮影周期を制御する事を特徴とする請求項8に記載の撮像装置。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【公開番号】特開2013−80093(P2013−80093A)
【公開日】平成25年5月2日(2013.5.2)
【国際特許分類】
【出願番号】特願2011−219781(P2011−219781)
【出願日】平成23年10月4日(2011.10.4)
【出願人】(000001007)キヤノン株式会社 (59,756)
【Fターム(参考)】
【公開日】平成25年5月2日(2013.5.2)
【国際特許分類】
【出願日】平成23年10月4日(2011.10.4)
【出願人】(000001007)キヤノン株式会社 (59,756)
【Fターム(参考)】
[ Back to top ]