画像撮影装置およびその距離演算方法と合焦画像取得方法
【課題】テレセントリック光学系を用いたりする光学的制限や、劣化画像復元処理を複数回行う処理量的制限などが存在した。
【解決手段】複数の絞りパターンで同一の被写体を撮影して複数の観測画像を得る観測画像撮影部221と、被写体までの距離に応じた光学伝達特性を算出する算出部222と、複数の観測画像と光学伝達特性から、被写体までの距離を算出する距離演算部206と、を備える。また、複数の絞りパターンで同一の被写体を撮影して複数の観測画像を得る観測画像撮影部221と、被写体までの距離に応じた光学伝達特性を算出する算出部222と、複数の観測画像と光学伝達特性から、ボケ量が最小となる光学伝達特性を算出する光学伝達特性演算部206と、ボケ量が最小となる光学伝達特性を利用して画像のボケを復元し合焦画像を得るボケ復元部207と、を備える。
【解決手段】複数の絞りパターンで同一の被写体を撮影して複数の観測画像を得る観測画像撮影部221と、被写体までの距離に応じた光学伝達特性を算出する算出部222と、複数の観測画像と光学伝達特性から、被写体までの距離を算出する距離演算部206と、を備える。また、複数の絞りパターンで同一の被写体を撮影して複数の観測画像を得る観測画像撮影部221と、被写体までの距離に応じた光学伝達特性を算出する算出部222と、複数の観測画像と光学伝達特性から、ボケ量が最小となる光学伝達特性を算出する光学伝達特性演算部206と、ボケ量が最小となる光学伝達特性を利用して画像のボケを復元し合焦画像を得るボケ復元部207と、を備える。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、被写体の距離分布を示す距離画像と、画像全域で焦点が合っている合焦画像を撮影する装置に関するものである。
【背景技術】
【0002】
従来、撮像装置から被写体までの距離を計測する方法は、レンズと像面の位置関係によって生じるボケ量から距離を計測する方法など多数提案されて来た。以下、撮像装置から被写体までの距離を計測する方法の例について説明する。
(1).オートフォーカスカメラ等で用いられる手法
(2).レンズ焦点法(Depth from focus)
(3).ボケ解析法(Depth from defocus)
(4).レーザーやパターン光などを用いる手法
(5).マイクロレンズアレイなどによる光線追跡手法
(6).パターン化された絞りなどを用いる手法
オートフォーカスカメラ等で用いられる手法は、光学系に二つ目レンズなどを用いて距離計測用素子等に結像させ、距離計測を行う。
【0003】
レンズ焦点法は、フォーカスを随時移動し、観測画面が画面上で最も映像が鮮鋭になったときの距離を推定距離として求める。
【0004】
ボケ解析法は、画像中のボケ具合を解析し、ボケ量と距離の関係から推定距離を求めている。
【0005】
レーザーやパターン光などを用いた手法は、レーザー光を実際の被写体に当て、反射して帰ってきた光の飛行時間を計測し距離計測を行う手法(Time of flight法(TOF法))や被写体に写ったレーザー光やパターン光を撮影した観測画像から、三角測量法や照度分布法を用いて、推定距離を求める。
【0006】
マイクロレンズアレイなどを用いた光線追跡手法である参考文献2で示される手法は、撮影される光線の角度情報を観測画像から解析することによって、推定距離を求める。
【0007】
パターン化された絞りなどを用いる手法である特許文献1や参考文献1で示される手法は、パターン化された絞りを用いて、観測画像を取得し、観測画像を絞りのパターンに基づいて解析することで、距離画像及び合焦画像を求める。
【特許文献1】特許第02963990号明細書
【非特許文献1】Image and Depth from a Conventional Camera with a Coded Aperture/Anat Levin, Rob Fergus, Fr´edo Durand, William T. Freeman/Massachusetts Institute of Technology, Computer Science and Articial Intelligence Laboratory/SIGGRAPH2007
【非特許文献2】Light Field Photography with a Hand-held Plenoptic Camera/ Ren Ng, Marc Levoy, Mathieu, Br´edif Gene ,Duval† Mark Horowitz, Pat Hanrahan/Stanford University †Duval Design/SIGGRAPH2005
【発明の開示】
【発明が解決しようとする課題】
【0008】
しかしながら、従来の手法には以下に説明するように、いくつか問題点があった。
【0009】
オートフォーカスカメラ等で用いられる位相差方式は、撮影用CMOS以外に、距離計測用素子や距離計測用光学系等が必要となる。
【0010】
また、観測画像上の数点ないし数十点の距離しか距離計測を行うことが出来ないため、距離画像を得るのは難しい。
【0011】
レンズ焦点法は、フォーカスの移動を必要とし、フォーカスレンズの機械的駆動を伴うため、距離画像の取得に時間がかかる。
【0012】
ボケ解析法は、テレセントリック光学系によって発生するボケと結像の関係を用いている。そのため、レンズ設計の自由度は低い。
【0013】
レーザーやパターン光などを用いる手法は、アクティブ法と呼ばれ、高精度な距離計測が可能ではあるが、レーザーやパターン光を必要とするために、レーザーやパターン光を使用不可な環境下においては、使用することが出来ない。
【0014】
マイクロレンズアレイなどによる光線追跡手法は、撮影される光の角度情報を取得する分、合焦画像の空間解像度の低下が発生する。
【0015】
パターン化された絞りなどを用いる手法の一つである特許文献1では、距離画像と合焦画像が得られるが、テレセントリック光学系を用いており、更にピンホール開口を用いた絞りによって実施されているため、光量の低下という問題がある。
【0016】
非特許文献1でも、距離画像と合焦画像が得られるが、画像処理を行う過程で、MAP推定による劣化画像復元処理を距離解像度の数だけ実施している。
【0017】
従来例の画像撮影装置の光学系を図13(a)、(b)に示す。
【0018】
図13(a)において、1201は、特許文献1の光学系を示している。
【0019】
ボケの量と結像の大きさの関係を保つ為に、位置1203に二つのピンホールを有する開口マスク1207を絞りとして使用している。
【0020】
その為、実質的なF値が大きいために光量が少なく、露光時間が長くなる問題点が存在する。
【0021】
また、CMOSセンサーを位置1204、1205、1206になるように配置して、フォーカスが違う観測画像を複数枚得ている。
【0022】
同手法を実現するには、フォーカスを機械的手段によって動かすか、分光などの光学的手段を用いる必要があり、機械的稼動の制約(フォーカス移動時間)や、光学系的手段の制約(光学系の大きさ)等の問題が存在する。
【0023】
また、図13(b)において、1202は、パターン化された絞りなどを用いる手法の一つである参考文献1の光学系を示している。
【0024】
通常のデジタルカメラの光学系の絞り1208の位置に、パターン化された絞り符号化開口マスク1210が配置され、CMOSセンサー1209によって観測画像の撮影が行われる。
【0025】
非特許文献1の距離測定の手法は、開口マスク1210によって得られた観測画像を劣化復元処理を予め測定しておいた被写体までの距離に応じたPSF(点像分布関数)を用いてボケを含まない画像を演算する。
【0026】
そして、ボケを含まない最適な画像を生成することが可能なPSFの被写体までの距離を推定距離とする手法である。
【0027】
この手法で開示されている劣化画像復元処理を行う数式3を以下に示す。
【0028】
【数3】
【0029】
数式3で示される劣化画像復元処理は、畳み込み演算を含む繰り返し演算が必要となり処理時間を多く必要とする。
【0030】
また、光学伝達特性hのゲインが零もしくは零に近い付近での劣化画像回復は、難しい。
【0031】
そこで、本発明の目的は、上記のような不具合を生じることなく、安定的かつ、畳み込み演算を過度に使用しない低負荷な処理によって、高精度な被写体の距離画像及び、合焦画像を取得することを目的とする画像撮影装置を提供することである。
【課題を解決するための手段】
【0032】
本発明に係わる第1の画像撮影装置は、複数の絞りパターンで同一の被写体を撮影して複数の観測画像を得る観測画像撮影手段と、
前記被写体までの距離に応じた光学伝達特性を算出する手段と、
前記複数の観測画像と前記光学伝達特性から、前記被写体までの距離を算出する距離演算手段と、を備えることを特徴とする画像撮影装置である。
【0033】
本発明に係わる第2の画像撮影装置は、複数の絞りパターンで同一の被写体を撮影して複数の観測画像を得る観測画像撮影手段と、
前記被写体までの距離に応じた光学伝達特性を算出する手段と、
前記複数の観測画像と前記光学伝達特性から、ボケ量が最小となるように光学伝達特性を算出する光学伝達特性演算手段と、
前記ボケ量が最小となる光学伝達特性を利用して画像のボケを復元し合焦画像を得るボケ復元手段と、
を備えることを特徴とする画像撮影装置である。
【0034】
本発明に係わる画像撮影装置の距離演算方法は、複数の絞りパターンで同一の被写体を撮影して複数の観測画像を得るステップと、
前記被写体までの距離に応じた光学伝達特性を算出するステップと、
前記複数の観測画像と前記光学伝達特性から、前記被写体までの距離を算出する距離演算ステップと、を備えることを特徴とする画像撮影装置の距離演算方法である。
【0035】
本発明に係わる画像撮影装置の合焦画像取得方法は、複数の絞りパターンで同一の被写体を撮影して複数の観測画像を得るステップと、
前記被写体までの距離に応じた光学伝達特性を算出する手段と、
前記複数の観測画像と前記光学伝達特性から、ボケ量が最小となる光学伝達特性を算出する光学伝達特性演算手段と、
前記ボケ量が最小となる光学伝達特性を利用して画像のボケを復元し合焦画像を得るボケ復元手段と、
を備えることを特徴とする画像撮影装置の合焦画像取得方法である。
【発明の効果】
【0036】
本発明によれば、観察画像上の各点の被写体までの距離が測定可能となる。これにより、距離画像や合焦画像の撮影が可能となる。
【発明を実施するための最良の形態】
【0037】
本発明による第一の実施形態の画像撮影装置及び方法を、図面を参照して詳細に説明する。なお、以下に説明する実施形態の装置構成は、本発明に係わる第1の画像撮影装置と第2の画像撮影装置とを組み合わせたものである。
【0038】
図1は、本発明の画像撮影装置の一実施形態の装置構成のブロック図である。
【0039】
本実施形態の画像撮影装置は、複数の観測画像を撮影するための観測画像撮影部221、光学伝達特性算出部222、距離演算部・最適光学特性演算部206、ボケ復元部207、リフォーカス画像演算部208から構成されている。観測画像撮影部221は観測画像撮影手段となる。
【0040】
観測画像撮影部221は、光学レンズ(光学レンズ1)201、光通過部202、光学レンズ(光学レンズ2)219、光電気変換部203から構成されている。
【0041】
光レンズ201は、従来のフィルムカメラやデジタルカメラとほぼ同様のレンズを用いて、光209を集光させる機能を持っている。
【0042】
光レンズ201によって集光された光は、光通過部202を用いて変調される。
【0043】
本実施形態では、後述するように、光通過部202は絞りを用いて光の変調を行っているが、非球面レンズや曲率可変レンズ等を用いて変調を行っても良い。ここでは、同じ被写体の観測画像を時分割で撮影するようにし、光通過部202の光学的特性を時間的に変更し、複数の観測画像を取得している。時分割によって複数枚の観測画像を撮影するために、手ブレが発生しないようにするブレ防止手段等を追加したり、被写体ブレが発生しないように高速なシャッター速度を選択しても良い。
【0044】
光通過部202によって変調された光211は、光学レンズ219により、さらに集光し結像される。
【0045】
結像された光は、光電気変換部203によって電気信号に変換され、観測画像im1及び観測画像im2212として撮影される。
【0046】
そして、ソフトウェア処理である距離演算部206、ボケ復元部207及びリフォーカス画像演算部208の引数として渡される。
【0047】
光電気変換部203は、CCDセンサーやCMOSセンサー等を用いて光の結像の状態を電気信号に変換する。
【0048】
図1では、光通過部、光学レンズ2及び光電気変換部を一組設け、同じ被写体の観測画像を時分割で撮影するようにし、光通過部の光学的特性を時間的に変更し、複数の観測画像を取得している。しかし、図2に示すように、観測画像撮影部223として、光通過部202、光学レンズ(光学レンズ2)219及び光電気変換部203と、光通過部204、光学レンズ(光学レンズ2)220及び光電気変換部205との2組設けてもよい。観測画像撮影部223は観測画像撮影手段となる。光通過部202と光通過部204との光学的特性は異なる。また、3つ以上の組を設けてもよい。このように、2組以上を同時に持つことで、複数の観測画像を同時に撮影することができる。また、同じ被写体の観測画像を時分割で撮影するようにし、一方の組で観測画像を得た後に、他方の組で他の観測画像を得てもよい。上述したように、時分割によって複数枚の観測画像を撮影する場合は、手ブレが発生しないようにするブレ防止手段等を追加したり、被写体ブレが発生しないように高速なシャッター速度を選択しても良い。
【0049】
光伝達特性算出部222は、被写体との距離による光学伝達特性(第1の光学伝達特性)を算出する手段である。
【0050】
光学伝達特性は、数式を用いて算出を行っても良いし、テーブルとして離散値を保持しても良い。
【0051】
本実施形態では、離散値を補間する手法を用いているが、類似する他の手法を用いても良い。
【0052】
距離演算部206は、観測画像im1及び観測画像im2を用いて距離画像213の算出を行う。
【0053】
また、距離演算部206は、最適光学特性演算部も備えている。最適光学特性演算部はボケ量が最小となる第2の光学伝達特性を算出する光学伝達特性演算手段となる。これは、離散的に算出される被写体までの推定距離を更に精度良く演算するための手段である。
【0054】
ボケ復元部207は、距離演算部206から距離画像及び観測画像im1及び観測画像im2のデータを受け、これらのデータを演算することで、合焦画像214の算出を行い、合焦画像を取得する。
【0055】
リフォーカス画像演算部208は、合焦画像218及び距離画像216のデータを受け、ぼかしたい領域にわざとボケを付加することで、リフォーカス画像215の算出を行う。
【0056】
リフォーカス画像演算部208は、リフォーカス画像215の生成時に、カメラパラメータ(フォーカス距離やFナンバーなど)を設定して、様々なレンズと被写界深度に対応した画像を生成することが可能である。
【0057】
本実施形態では、距離画像と合焦画像から任意のフォーカス位置の画像や任意の被写界深度の画像、更に収差を再現した画像などのリフォーカス画像を作成することが出来る。
【0058】
図3は、図1の画像撮影装置の観測画像撮影部を示す図であり、可変瞳フィルタを用いた観測画像撮影部(光学系)を示す図である。図3に示す構成は、光通過部、光学レンズ2及び光電気変換部を一組設け、同じ被写体の観測画像を時分割で撮影するようにし、光通過部の光学的特性を時間的に変更したものである。
【0059】
観測画像撮影部としての光学系101は、光通過部として開口マスク103及び開口マスク104を適用した絞り102に、入射された光を集光する光学レンズ105と、光電気変換部として光の結像状態を電気信号に変換するCMOSセンサー106とを備える。光学レンズ105は図1の光学レンズ201及び光学レンズ219に対応する。
【0060】
絞り102は、電気的に開口マスクのパターンを変更することが可能な絞りであり、開口マスク103のパターンと開口マスク104のパターンとに変更することが可能である。
【0061】
絞り102は、電気的に開口パターンを切り替える以外に、機械的に切り替える方法や物性的に切り替える方法など、他の手法を用いることも出来る。
【0062】
画像撮影装置は、絞り102を開口マスク103と開口マスク104とに変更した状態で画像を撮影することで、複数枚の絞り形状が異なる観測画像を得る。
【0063】
距離演算部及びボケ復元部及びリフォーカス画像作成部は、開口マスクのパターンの違う複数枚の観測画像から、距離画像及び合焦画像及びリフォーカス画像の算出を行う。
【0064】
開口マスク103と開口マスク104は、パターン化された符号化開口形状(瞳系形状)を有する。具体的には、開口マスク103は、開口107のようなパターン、開口マスク104は、開口108のようなパターンを備えている。
【0065】
開口107及び開口108で用いられるパターンは、距離演算の安定性に大きく影響がある。例えば、開口107及び開口108の開口パターンが、どちらも円形開口であると、2つのボケ画像は、ほとんど同じような画像として撮影されるため解析が困難になる。このため、2つの開口パターンによって撮影される個々の観測画像のボケ特性は、違う特性になることが望ましい。具体的には、撮影される画像の空間周波数特性が異なるボケを発生させる開口パターンを用いる。
【0066】
本実施形態では、開口パターンが2つの場合の例を示すが、開口パターンを2つ以上用い、2回以上撮影し、2枚以上の観測画像を得てもよい。
【0067】
この場合、複数枚の観測画像が得られるので、その中から2枚を選択し、本実施形態と同様の手法で距離画像及び合焦画像及びリフォーカス画像を得ることが出来る。
【0068】
更に、2枚の選択の組み合わせを全ての組み合わせにおいて、同様に距離画像および合焦画像の演算を行い、演算結果を平均化することで、演算精度を高めることが可能である。
【0069】
絞り102を開口マスク103のパターンもしくは、開口マスク104のパターンに、変更することによって得られる観測画像は、空間周波数特性は違うが同一画角である。
【0070】
開口パターンの選択は、以下のような条件を満たすことで、距離演算部及び合焦復元部の演算精度を高めることが出来る。
(1).ボケの大きさに関わらず高周波域のゲインが落ちないこと
(2).複数の開口パターンの周波数特性においてゲインの零点が同一周波数において重ならないこと
(3).開口面積をなるべく大きくして露光に必要な光量を得ること
(4).ボケ特性の解析が容易なパターンであること
(5).回折の影響を受けないこと
上記条件を満たす絞りパターンは複数考えられるが、本実施形態では、図3に示したような開口マスクのパターンを選択する。
【0071】
次に、本実施形態に関連する画像データについて示す。
【0072】
図4は、観測画像と合焦画像と距離画像を示している。
【0073】
図4(a)、(b)の1001及び1002は、観測画像im1及び観測画像im2を示している。それぞれ、違うパターンの開口マスクを用いて撮影されており、同一の画角の写真ではあるが、ボケ特性に違いがある観測画像となる。
【0074】
図4(c)の1003は、距離画像を示している。距離画像とは、被写体までの距離を値として観測画像と同一平面の2次元配列データである。観測画像と同一画角で、かつ画素毎の輝度値が距離を示している。
【0075】
本実施形態では、観測画像上のドットと対応する距離画像上のドットは、被写体の同一地点上の特性を示しているが、観測画像と距離画像の位置関係が認識出来るのであれば、観測画像と距離画像の空間解像度は違っていても構わない。
【0076】
図4(c)の1003では、輝度が高いほど近い距離、輝度が低いほど遠い距離を示している。
【0077】
図4(d)の1004は、合焦画像を示している。合焦画像は、観測画像im1及び観測画像im2と同一画角ではあるが、ボケ特性を含まない画像である。つまり、合焦画像は、画像上にボケ状態を含まない画像のことであり、被写界深度が無限大の画像に相当する。
【0078】
本実施形態では、更に、距離画像と合焦画像から、フォーカスに関連するパラメータを変更したリフォーカス画像を生成し、撮影後に任意のボケ状態を有する画像を作成する。
【0079】
次に、本実施形態の画像撮影装置の装置概観を示す。
【0080】
図5は、本実施形態の画像撮影装置の概観を示した図である。
【0081】
画像撮影装置の外見は、通常のデジタルカメラとほぼ同様である。
【0082】
図3で説明をした光学系101は、図5の光学系301に相当する。
【0083】
光学系101は全て光学系301に入ってしまうため、図3で示される光学系を1組として時分割撮影で実施した場合、本体部分303のハードウェア部分は絞りパターンを変更するだけで従来のデジタルカメラを流用することも可能である。
【0084】
また、絞り102の開口パターンの一つを円形開口や多角形開口にすることによって、従来のデジタルカメラと同様な観測画像を撮影することも可能である。
【0085】
距離画像及び合焦画像を撮影する場合のユーザーの操作は、従来のデジタルカメラと同様に1度のシャッターボタン操作を行うだけで良い。
【0086】
画像撮影装置は、1回のシャッターボタンの動作を検出後、処理に必要な観測画像数だけ絞りパターンを変更し、複数の観測画像を撮影して、距離画像と合焦画像を作る。
【0087】
次に図2の画像撮影装置に用いられる観測画像撮影部としての光学系を示す。
【0088】
図6は、パターン化された瞳フィルタを用いた光学系であり、図3とは別の光学系である。
【0089】
図3での光学系の構成は、光学系101が1組のみであるために、時分割による複数回の撮影によって複数枚の観測画像を得ている。そのため、手ブレや被写体ブレには弱い側面がある。
【0090】
図6では、手ブレや被写体ブレの発生をより抑制した光学系の構成となる。この構成例は、図2に示すように、光通過部、光学レンズ2及び光電気変換部を2組設けた例となる。
【0091】
図3の光学系と図6の光学系の大きな差は、光スプリッタにより光源を二分した点にある。つまり光スプリッタにより光束分割を行っている。
【0092】
光レンズを通して入射して来た光は、光スプリッタ403によって2分される。
【0093】
2分された光のうちの半分は、絞り402を通して結像され、CMOSセンサー406で観測画像im1の入力を得る。このとき、絞り402は、開口パターン408のようなパターン化された絞りを用いている。
【0094】
2分された光の残り半分は、反射鏡404を用いて光路を変更し、絞り401を通して結像され、CMOSセンサー405で観測画像im2の入力を得る。このとき、絞り401は、開口パターン407のようなパターン化された絞りを用いている。
【0095】
CMOSセンサー406及びCMOSセンサー405の観測画像im1及び観測画像im2の撮影は、同時に行われるため、図2の光学系を用いた画像撮影装置よりも手ブレや被写体ブレに対してより耐性がある。
【0096】
図7では、更に図6の光学系に変更を加えた構成例を示している。
【0097】
図6で示される光学系は、複数の観測画像の撮影を同時に行うことが可能であるが、撮影装置全体を大きくしてしまうことになる。
【0098】
図7では、この点を改善するために、絞りの位置506で光を分割するのではなく、集光している位置に、光スプリッタ501を配置する。
【0099】
光レンズを通して入射して来た光は、光スプリッタ501によって2分される。
【0100】
2分された光のうち半分は、パターン化絞り502を通して結像され、CMOSセンサー503によって観測画像im1として入力される。
【0101】
2分された光のうち残りは、パターン化絞り504を通して結像され、CMOSセンサー504によって観測画像im2として入力される。
【0102】
図6と違う点は、絞りパターンの大きさをフォーカス状態に合わせて一定になるように開口マスクのパターン504及び502でスケーリングを行うことが求められる。
【0103】
しかし、画像撮影装置全体は、図6の光学系を用いた画像撮影装置よりも小さく設計することが可能である。
【0104】
画像撮影装置の光学系を図3、図6、図7に示したが、距離演算部206、ボケ復元部207、リフォーカス画像演算部208は、図3、図6、図7の画像撮影装置全てで共通に実施することが可能である。
【0105】
それぞれの光学系には、利点が存在する為、適用に合わせて光学系を選択することが可能である。
【0106】
次に、本実施形態の距離算出のためのアルゴリズムを示す。
【0107】
図6に示した2つの開口マスクを用い、観測画像を2枚撮影した場合の例を示す。図7や図3の光学系を用いても良いことは勿論である。
【0108】
絞り402の開口マスクで撮影をした観測画像(第1の観測画像となる)をim1、絞り401の開口マスクで撮影をした観測画像(第2の観測画像となる)をim2とし、絞り402の開口マスクによるPSF(点像分布関数)をha、絞り401の開口マスクによるPSFをhb、合焦画像をsとすれば、以下の式が成り立つ。
【0109】
【数4】
【0110】
数式4をフーリエ変換すると、数式4は、数式5となる。
このときIM1,IM2,Ha,Hb,Sは、それぞれim1,im2,ha,hb,sの周波数特性を示す。
【0111】
【数5】
【0112】
数式5の合焦画像Sは、共通な項であるため、式をまとめると数式6を導くことが出来る。
【0113】
【数6】
【0114】
数式6から絞り402の開口マスクで撮影した観測画像im1に絞り401の開口マスクのPSFによる畳み込み演算をした結果と、絞り401の開口マスクで撮影した観測画像im2に絞り402の開口マスクのPSFによる畳み込み演算をした結果は、同じになることが分かる。
【0115】
しかし、実際には、誤差や結像の状態によって完全には、数式6の左辺が0にならないので、以下の数式から距離を求める。
【0116】
【数7】
【0117】
z’は推定距離を示す。
【0118】
数式7を満たす状態を考察する。
【0119】
IM1及びIM2は、数式5よりHa・S及びHb・Sである為、適切なHa及びHbを数式7に代入出来れば、以下の数式8が最小になる。
【0120】
【数8】
【0121】
光学伝達特性Ha,Hbは、被写体までの距離に依存し、ある距離におけるHaとHbの組は、距離に対して一意に決まる。
【0122】
そこで、予め被写体までの距離zと光学伝達特性Ha及びHbの関係を、光学伝達特性テーブルとして保持して置き、Ha及びHbを代入することで推定距離z’を求めることが可能になる。このとき、Ha及びHbは設計値を用いてもよいし、実測値を用いてもよい。
【0123】
つまり、Ha及びHbは、被写体までの距離に依存するため、数式7は、数式9として表すことが出来る。
【0124】
【数9】
【0125】
そして、Ha及び Hbのテーブルを以下のように表すことが出来る。
【0126】
【数10】
【0127】
数式10のテーブルを用いて、以下の数式11が最小値になるzを求めることによって数式9を満たす推定距離z’が求まる。
【0128】
【数11】
【0129】
尚、数式10は、後述する図8で示される光学伝達特性-推定距離テーブル(光学伝達特性テーブルとなる)と同様のものである。つまり、数式10は光学伝達特性テーブルを示している。
【0130】
数式10は、撮影装置が、シフトバリアントな光学系の場合、撮像素子の受光面に結像する撮影面の各位置における光学伝達特性を示す光学伝達特性テーブルであり、撮像面上での位置に対して用意される。
【0131】
また、撮影装置が、シフトインバリアントな光学系の場合、撮影素子の撮影面上どこでも同じ光学伝達特性になるため、数式10は、撮影面上での位置とは関係なく、1つの光学伝達特性テーブルを用意すれば良い。
【0132】
また、光学伝達特性テーブルは、離散値の距離に対応する光学伝達特性であるが、レンズの設計情報から光学伝達特性を距離に対しての関数式(光学伝達特性関数)として保持をすることで、数式10を実現しても構わない。
【0133】
例えば、本実施形態では、数式12により距離zから許容錯乱円サイズpcsを算出し、許容錯乱円サイズpcsを用いて光学伝達特性を近似計算し、数式10として算出している。
【0134】
【数12】
【0135】
ただし、Zfは被写体距離、Zpはフォーカス距離、fは焦点距離、dはレンズ径を示している。
【0136】
次に、本実施形態で使用されるデータテーブルに関して示す。
【0137】
図8は、光学伝達特性-推定距離テーブルを示したものである。
【0138】
図8の光学伝達特性-推定距離テーブルは、被写体までの距離zにおけるPSF(point spread function)の周波数変換した光学伝達特性を記載したものである。
【0139】
この光学伝達特性-推定距離テーブルは、後述の光伝達特性算出部によって使用されるデータテーブルである。
【0140】
光学伝達特性は、設計値を使用しても良いが、本実施形態では、実測した値を用いている。
【0141】
実測した光学伝達特性を用いることによって、ノイズの影響や光学的収差などの影響に対してキャリブレーションを行うことが出来る。
【0142】
被写体距離601は、被写体への距離である。
【0143】
後述の光学伝達特性602及び光学伝達特性603は、被写体がzだけ離れた地点に存在する場合の光学伝達特性を示す。
【0144】
602は、被写体の距離zに応じた光学伝達特性Haである。光学伝達特性Haは、開口マスク103に対応する光学伝達特性である。
【0145】
同様に、603は、被写体の距離zに応じた光学伝達特性Hbである。光学伝達特性Hbは、開口マスク104に対応する光学伝達特性である。
【0146】
光学伝達特性は、光軸からの距離や光軸からの方向によって変化するため、光学伝達特性をレンズの位置に応じて保持しても良い。また、フォーカス位置によっても変化するので、必要なテーブルは保持しておく。
【0147】
本実施形態では、光学伝達特性Ha及びHbの2つを保持しているが、開口マスクの数が2つ以上ある場合は、これに応じて増やせば良い。
【0148】
上記の様に、距離による開口マスクの光学伝達特性を保持する。
【0149】
次に、本実施形態の距離画像算出に関するフローチャートを示す。
【0150】
図9は、距離演算部の動作を示すフローチャートを示している。
【0151】
また、図10は、光学伝達特性算出部の動作を示すフローチャートを示している。
【0152】
ステップS701で、距離演算部には、観測画像im1と観測画像im2が入力される。
【0153】
距離演算部は、ステップS702で、観測画像im1及び観測画像im2から、観測画像よりも小さいウインドサイズ(wx,wy)を、観測画面上の位置(x,y)上で切り出した画像を観測画像i1及びi2とする。
【0154】
推定距離zは、この小ウィンドウ毎に測定を行う。
【0155】
推定距離zの算出は、PSFのCMOS106上での最大の大きさが、ウィンドウサイズ(wx,wy)以上だと被写体の距離判定が正しく出来ないので、これらの事象を考慮してwx,wyを決定する必要がある。
【0156】
次にステップS703にて観測画像i1及び観測画像i2をフーリエ変換して、I1及びI2を算出する。また、参照カウンタであるmに0を代入する。
【0157】
ステップS704で光学伝達特性算出部を呼び出して、参照カウンタmに対応をするzm及びHa m及びHb mを取得する。
【0158】
光学伝達特性算出部は、図10のステップS1101から開始される。
【0159】
光学伝達特性算出部は、ステップS1102で、前述の光学伝達特性-推定距離テーブルから参照カウンタmに対応をするzm及びHa m及びHb mを取得する。そして、ステップS1103で復帰をする。
【0160】
次に、ステップS705で以下の数式13を演算し、誤差評価値emを得る。
【0161】
【数13】
【0162】
誤差評価値emを最小にするzmが推定距離z’となる。
【0163】
数式13は、誤差評価値emによって数式9を評価するために用いられる。
【0164】
この誤差評価値emは、参照カウンタm全ての場合で評価する必要があるため、ステップS706で参照カウンタを増加させた上で、ステップS704以降を繰り返し演算する。
【0165】
全ての参照カウンタmに関して演算が終了した後に、ステップS707にて、誤差評価値emを最小にするmを求める。
【0166】
次に、ステップS708で、誤差評価値emを最小にするmに対応する推定距離zを決定する。
【0167】
これらの関係を図11の推定距離と誤差評価値の関係グラフに示す。図11の値を例とすれば、誤差評価値emは、z4(m=4)の状態で最小値となっている。その為、z4で示される距離を推定距離z’として良い。
【0168】
しかし、図8で示される光学伝達特性-推定距離テーブルでは、推定距離zmが離散値となって得られる。
【0169】
そこで、図11の901で示されるように最小二乗近似等を用いて、最小値em’を算出し、それに対応する推定距離z’を求めることで、より精度の高い距離を求めても良い。
【0170】
以上のようにして、ウィンドウサイズ(wx,wy)における被写体への距離の演算を行う。ステップS709で、算出された推定距離z’を距離画像の座標(x,y)の画素値(距離値)とする。
【0171】
ステップS710で、ステップS702〜ステップS709までの工程が画像上の全ての画素に対して演算するように処理のループを行う。
【0172】
尚、本実施形態は、誤差評価値emを順次増加させて演算をし、最小値を求めたが、二分探索法などを用いて、高速に誤差評価値emの最小値を求めることも出来る。
【0173】
また、数13にて誤差評価値emを周波数領域で演算しているが、以下のような式を用いることで、空間領域での演算をすることも可能である。
【0174】
【数14】
【0175】
ただし、i1, hb m ,i2, ha mを観測画像1, 観測画像2の点像分布関数,観測画像2, 観測画像1の点像分布関数とする。
【0176】
以上の様にして演算処理を行うことで、距離画像を得ることが出来る。
【0177】
次に、本実施形態の合焦画像算出のためのアルゴリズムを示す。
【0178】
合焦画像は、数式5より算出できる。
【0179】
数式5を変形すると数式15が求まる。
【0180】
【数15】
【0181】
しかし、実際には、数15では、光学伝達特性Ha及びHb内で零もしくは零に近い値を持つ場合があり、除算が正確に行われない可能性がある。
そこで、推定合焦画像のフーリエ変換をS’とすれば、数式16を用いて推定合焦画像S’を求めることが出来る。
【0182】
【数16】
【0183】
H1=Ha,H2=Hbとする。
【0184】
数式16のWmは、ある空間周波数において、観測画像IM1及び観測画像IM2どちらのスペクトルが高いかを示す重み付け係数である。
【0185】
【数17】
【0186】
Wmは、数式17を満たすことで、空間周波数応答に零点が存在しても、正しく合焦画像を復元することが出来る。
【0187】
尚、本実施形態では、開口パターンが2つの場合、観測画像が2画面の場合を示しているが、開口パターンが2つ以上であっても同様に演算することが可能である。
【0188】
次に、図12に本実施形態における合焦画像算出に関するフローチャートを示す。
【0189】
ボケ復元部207は、ステップS801から開始される。
【0190】
ステップS802にて上述の数式17で示される手法を用いて重み付け係数Wmを決定する。
【0191】
そして、ステップS803で数式16を演算することで、推定合焦画像S’を求めることが出来る。
【0192】
推定合焦画像S’は、空間周波数特性を表しているので、逆フーリエ変換を行い、推定合焦画像s’を得る。
【0193】
以上のようにして、合焦画像を得る。
【0194】
尚、リフォーカス画像演算部208で用いられる距離画像及び合焦画像からのリフォーカス画像生成に関しては、既に知られたアルゴリズムを用いることが出来るため、説明を省く。
【0195】
本発明による第二の実施形態の画像撮影装置及び方法について詳細に説明する。
【0196】
第二の実施形態では、図3における開口マスク103及び開口マスク104の光学伝達特性の周波数特性を決め、条件に合う開口マスクパターンを得ることによって演算量の低減とメモリ使用量の低減を図るものである。
【0197】
第二の実施形態では、開口マスク103及び開口マスク104の周波数特性が以下の関係を満たしている。
【0198】
【数18】
【0199】
このときHa,Hb,H1,H2は、それぞれ光学伝達特性ha,hb,h1,h2の周波数特性を示す。
【0200】
観測画像の撮影状態を数式4とした場合、被写体までの距離を算出する数式9は、以下の数式のようになる。
【0201】
【数19】
【0202】
このとき、H1と被写体までの距離の関係を示すテーブルを以下のように表すことが出来る。
【0203】
【数20】
【0204】
数式20のテーブルを用いて、
【0205】
【数21】
【0206】
が最小になるzを求めることによって数式19を満たす推定距離z’が求まる。
【0207】
第一の実施形態との違いは、数式19の中での畳み込み演算(周波数領域での乗算)が1回のみで推定距離z’の評価のための演算が行われている点である。
【0208】
畳み込み演算は、処理に時間のかかる演算である。
【0209】
そのため、第二の実施形態の数式19の演算量は、第一の実施形態の数式9の演算量に比べ、ほぼ二分の一になる。
【0210】
また、第一の実施形態の光学特性を示すテーブルである数式10と第二の実施形態の数式20の違いは、第二の実施形態の場合、1つの光学伝達特性と距離の値によるテーブルとなるため、データ量は、ほぼ二分の一になる。
【0211】
なお、数式18を満たす開口マスク103及び開口マスク104は、絞りの開口パターンを用いて特性を満たすものとする。
【0212】
また、H1及びH2の光学特性を示す絞りを2枚用意し、片方の観測画像(im1)の撮影時にH1及びH2の開口マスクを通して撮影し、もう片方の観測画像(im2)は、H2の開口マスクのみを通して撮影しても良い。
【0213】
以上のように、開口マスク103及び開口マスク104の周波数特性が、数式18を満たすことによって、距離算出のための演算量及び光学伝達特性を示すデータテーブルの容量は、第一の実施形態と比べてほぼ二分の一となり、より効率的に演算を行うことが可能になる。
【図面の簡単な説明】
【0214】
【図1】本発明の画像撮影装置の一実施形態の装置構成のブロック図である。
【図2】本発明の画像撮影装置の他の構成例の装置構成のブロック図である。
【図3】可変瞳フィルタを用いた画像撮影装置の光学系を示す図である。
【図4】観測画像と合焦画像と距離画像を示す図である。
【図5】本実施形態の画像撮影装置の概観を示した図である。
【図6】パターン化された瞳フィルタを用いた光学系を示す図である。
【図7】パターン化された瞳フィルタを用いた他の光学系を示す図である。
【図8】光学伝達特性-推定距離テーブルを示す図である。
【図9】距離演算部の動作を示すフローチャートである。
【図10】光学伝達特性算出部の動作を示すフローチャートを示している。
【図11】推定距離と誤差評価値の関係を示す図である。
【図12】ボケ復元部の動作を示すフローチャートである。
【図13】従来の画像撮影装置の光学系の構成を示す図である。
【符号の説明】
【0215】
101 光学系
102 絞り
103 開口マスク
104 開口マスク
105 光学レンズ
106 CMOSセンサー
206 距離演算部・最適光学特性演算部
207 ボケ復元部
208 リフォーカス画像演算部
221 観測画像撮影部
222 光学伝達特性算出部
【技術分野】
【0001】
本発明は、被写体の距離分布を示す距離画像と、画像全域で焦点が合っている合焦画像を撮影する装置に関するものである。
【背景技術】
【0002】
従来、撮像装置から被写体までの距離を計測する方法は、レンズと像面の位置関係によって生じるボケ量から距離を計測する方法など多数提案されて来た。以下、撮像装置から被写体までの距離を計測する方法の例について説明する。
(1).オートフォーカスカメラ等で用いられる手法
(2).レンズ焦点法(Depth from focus)
(3).ボケ解析法(Depth from defocus)
(4).レーザーやパターン光などを用いる手法
(5).マイクロレンズアレイなどによる光線追跡手法
(6).パターン化された絞りなどを用いる手法
オートフォーカスカメラ等で用いられる手法は、光学系に二つ目レンズなどを用いて距離計測用素子等に結像させ、距離計測を行う。
【0003】
レンズ焦点法は、フォーカスを随時移動し、観測画面が画面上で最も映像が鮮鋭になったときの距離を推定距離として求める。
【0004】
ボケ解析法は、画像中のボケ具合を解析し、ボケ量と距離の関係から推定距離を求めている。
【0005】
レーザーやパターン光などを用いた手法は、レーザー光を実際の被写体に当て、反射して帰ってきた光の飛行時間を計測し距離計測を行う手法(Time of flight法(TOF法))や被写体に写ったレーザー光やパターン光を撮影した観測画像から、三角測量法や照度分布法を用いて、推定距離を求める。
【0006】
マイクロレンズアレイなどを用いた光線追跡手法である参考文献2で示される手法は、撮影される光線の角度情報を観測画像から解析することによって、推定距離を求める。
【0007】
パターン化された絞りなどを用いる手法である特許文献1や参考文献1で示される手法は、パターン化された絞りを用いて、観測画像を取得し、観測画像を絞りのパターンに基づいて解析することで、距離画像及び合焦画像を求める。
【特許文献1】特許第02963990号明細書
【非特許文献1】Image and Depth from a Conventional Camera with a Coded Aperture/Anat Levin, Rob Fergus, Fr´edo Durand, William T. Freeman/Massachusetts Institute of Technology, Computer Science and Articial Intelligence Laboratory/SIGGRAPH2007
【非特許文献2】Light Field Photography with a Hand-held Plenoptic Camera/ Ren Ng, Marc Levoy, Mathieu, Br´edif Gene ,Duval† Mark Horowitz, Pat Hanrahan/Stanford University †Duval Design/SIGGRAPH2005
【発明の開示】
【発明が解決しようとする課題】
【0008】
しかしながら、従来の手法には以下に説明するように、いくつか問題点があった。
【0009】
オートフォーカスカメラ等で用いられる位相差方式は、撮影用CMOS以外に、距離計測用素子や距離計測用光学系等が必要となる。
【0010】
また、観測画像上の数点ないし数十点の距離しか距離計測を行うことが出来ないため、距離画像を得るのは難しい。
【0011】
レンズ焦点法は、フォーカスの移動を必要とし、フォーカスレンズの機械的駆動を伴うため、距離画像の取得に時間がかかる。
【0012】
ボケ解析法は、テレセントリック光学系によって発生するボケと結像の関係を用いている。そのため、レンズ設計の自由度は低い。
【0013】
レーザーやパターン光などを用いる手法は、アクティブ法と呼ばれ、高精度な距離計測が可能ではあるが、レーザーやパターン光を必要とするために、レーザーやパターン光を使用不可な環境下においては、使用することが出来ない。
【0014】
マイクロレンズアレイなどによる光線追跡手法は、撮影される光の角度情報を取得する分、合焦画像の空間解像度の低下が発生する。
【0015】
パターン化された絞りなどを用いる手法の一つである特許文献1では、距離画像と合焦画像が得られるが、テレセントリック光学系を用いており、更にピンホール開口を用いた絞りによって実施されているため、光量の低下という問題がある。
【0016】
非特許文献1でも、距離画像と合焦画像が得られるが、画像処理を行う過程で、MAP推定による劣化画像復元処理を距離解像度の数だけ実施している。
【0017】
従来例の画像撮影装置の光学系を図13(a)、(b)に示す。
【0018】
図13(a)において、1201は、特許文献1の光学系を示している。
【0019】
ボケの量と結像の大きさの関係を保つ為に、位置1203に二つのピンホールを有する開口マスク1207を絞りとして使用している。
【0020】
その為、実質的なF値が大きいために光量が少なく、露光時間が長くなる問題点が存在する。
【0021】
また、CMOSセンサーを位置1204、1205、1206になるように配置して、フォーカスが違う観測画像を複数枚得ている。
【0022】
同手法を実現するには、フォーカスを機械的手段によって動かすか、分光などの光学的手段を用いる必要があり、機械的稼動の制約(フォーカス移動時間)や、光学系的手段の制約(光学系の大きさ)等の問題が存在する。
【0023】
また、図13(b)において、1202は、パターン化された絞りなどを用いる手法の一つである参考文献1の光学系を示している。
【0024】
通常のデジタルカメラの光学系の絞り1208の位置に、パターン化された絞り符号化開口マスク1210が配置され、CMOSセンサー1209によって観測画像の撮影が行われる。
【0025】
非特許文献1の距離測定の手法は、開口マスク1210によって得られた観測画像を劣化復元処理を予め測定しておいた被写体までの距離に応じたPSF(点像分布関数)を用いてボケを含まない画像を演算する。
【0026】
そして、ボケを含まない最適な画像を生成することが可能なPSFの被写体までの距離を推定距離とする手法である。
【0027】
この手法で開示されている劣化画像復元処理を行う数式3を以下に示す。
【0028】
【数3】
【0029】
数式3で示される劣化画像復元処理は、畳み込み演算を含む繰り返し演算が必要となり処理時間を多く必要とする。
【0030】
また、光学伝達特性hのゲインが零もしくは零に近い付近での劣化画像回復は、難しい。
【0031】
そこで、本発明の目的は、上記のような不具合を生じることなく、安定的かつ、畳み込み演算を過度に使用しない低負荷な処理によって、高精度な被写体の距離画像及び、合焦画像を取得することを目的とする画像撮影装置を提供することである。
【課題を解決するための手段】
【0032】
本発明に係わる第1の画像撮影装置は、複数の絞りパターンで同一の被写体を撮影して複数の観測画像を得る観測画像撮影手段と、
前記被写体までの距離に応じた光学伝達特性を算出する手段と、
前記複数の観測画像と前記光学伝達特性から、前記被写体までの距離を算出する距離演算手段と、を備えることを特徴とする画像撮影装置である。
【0033】
本発明に係わる第2の画像撮影装置は、複数の絞りパターンで同一の被写体を撮影して複数の観測画像を得る観測画像撮影手段と、
前記被写体までの距離に応じた光学伝達特性を算出する手段と、
前記複数の観測画像と前記光学伝達特性から、ボケ量が最小となるように光学伝達特性を算出する光学伝達特性演算手段と、
前記ボケ量が最小となる光学伝達特性を利用して画像のボケを復元し合焦画像を得るボケ復元手段と、
を備えることを特徴とする画像撮影装置である。
【0034】
本発明に係わる画像撮影装置の距離演算方法は、複数の絞りパターンで同一の被写体を撮影して複数の観測画像を得るステップと、
前記被写体までの距離に応じた光学伝達特性を算出するステップと、
前記複数の観測画像と前記光学伝達特性から、前記被写体までの距離を算出する距離演算ステップと、を備えることを特徴とする画像撮影装置の距離演算方法である。
【0035】
本発明に係わる画像撮影装置の合焦画像取得方法は、複数の絞りパターンで同一の被写体を撮影して複数の観測画像を得るステップと、
前記被写体までの距離に応じた光学伝達特性を算出する手段と、
前記複数の観測画像と前記光学伝達特性から、ボケ量が最小となる光学伝達特性を算出する光学伝達特性演算手段と、
前記ボケ量が最小となる光学伝達特性を利用して画像のボケを復元し合焦画像を得るボケ復元手段と、
を備えることを特徴とする画像撮影装置の合焦画像取得方法である。
【発明の効果】
【0036】
本発明によれば、観察画像上の各点の被写体までの距離が測定可能となる。これにより、距離画像や合焦画像の撮影が可能となる。
【発明を実施するための最良の形態】
【0037】
本発明による第一の実施形態の画像撮影装置及び方法を、図面を参照して詳細に説明する。なお、以下に説明する実施形態の装置構成は、本発明に係わる第1の画像撮影装置と第2の画像撮影装置とを組み合わせたものである。
【0038】
図1は、本発明の画像撮影装置の一実施形態の装置構成のブロック図である。
【0039】
本実施形態の画像撮影装置は、複数の観測画像を撮影するための観測画像撮影部221、光学伝達特性算出部222、距離演算部・最適光学特性演算部206、ボケ復元部207、リフォーカス画像演算部208から構成されている。観測画像撮影部221は観測画像撮影手段となる。
【0040】
観測画像撮影部221は、光学レンズ(光学レンズ1)201、光通過部202、光学レンズ(光学レンズ2)219、光電気変換部203から構成されている。
【0041】
光レンズ201は、従来のフィルムカメラやデジタルカメラとほぼ同様のレンズを用いて、光209を集光させる機能を持っている。
【0042】
光レンズ201によって集光された光は、光通過部202を用いて変調される。
【0043】
本実施形態では、後述するように、光通過部202は絞りを用いて光の変調を行っているが、非球面レンズや曲率可変レンズ等を用いて変調を行っても良い。ここでは、同じ被写体の観測画像を時分割で撮影するようにし、光通過部202の光学的特性を時間的に変更し、複数の観測画像を取得している。時分割によって複数枚の観測画像を撮影するために、手ブレが発生しないようにするブレ防止手段等を追加したり、被写体ブレが発生しないように高速なシャッター速度を選択しても良い。
【0044】
光通過部202によって変調された光211は、光学レンズ219により、さらに集光し結像される。
【0045】
結像された光は、光電気変換部203によって電気信号に変換され、観測画像im1及び観測画像im2212として撮影される。
【0046】
そして、ソフトウェア処理である距離演算部206、ボケ復元部207及びリフォーカス画像演算部208の引数として渡される。
【0047】
光電気変換部203は、CCDセンサーやCMOSセンサー等を用いて光の結像の状態を電気信号に変換する。
【0048】
図1では、光通過部、光学レンズ2及び光電気変換部を一組設け、同じ被写体の観測画像を時分割で撮影するようにし、光通過部の光学的特性を時間的に変更し、複数の観測画像を取得している。しかし、図2に示すように、観測画像撮影部223として、光通過部202、光学レンズ(光学レンズ2)219及び光電気変換部203と、光通過部204、光学レンズ(光学レンズ2)220及び光電気変換部205との2組設けてもよい。観測画像撮影部223は観測画像撮影手段となる。光通過部202と光通過部204との光学的特性は異なる。また、3つ以上の組を設けてもよい。このように、2組以上を同時に持つことで、複数の観測画像を同時に撮影することができる。また、同じ被写体の観測画像を時分割で撮影するようにし、一方の組で観測画像を得た後に、他方の組で他の観測画像を得てもよい。上述したように、時分割によって複数枚の観測画像を撮影する場合は、手ブレが発生しないようにするブレ防止手段等を追加したり、被写体ブレが発生しないように高速なシャッター速度を選択しても良い。
【0049】
光伝達特性算出部222は、被写体との距離による光学伝達特性(第1の光学伝達特性)を算出する手段である。
【0050】
光学伝達特性は、数式を用いて算出を行っても良いし、テーブルとして離散値を保持しても良い。
【0051】
本実施形態では、離散値を補間する手法を用いているが、類似する他の手法を用いても良い。
【0052】
距離演算部206は、観測画像im1及び観測画像im2を用いて距離画像213の算出を行う。
【0053】
また、距離演算部206は、最適光学特性演算部も備えている。最適光学特性演算部はボケ量が最小となる第2の光学伝達特性を算出する光学伝達特性演算手段となる。これは、離散的に算出される被写体までの推定距離を更に精度良く演算するための手段である。
【0054】
ボケ復元部207は、距離演算部206から距離画像及び観測画像im1及び観測画像im2のデータを受け、これらのデータを演算することで、合焦画像214の算出を行い、合焦画像を取得する。
【0055】
リフォーカス画像演算部208は、合焦画像218及び距離画像216のデータを受け、ぼかしたい領域にわざとボケを付加することで、リフォーカス画像215の算出を行う。
【0056】
リフォーカス画像演算部208は、リフォーカス画像215の生成時に、カメラパラメータ(フォーカス距離やFナンバーなど)を設定して、様々なレンズと被写界深度に対応した画像を生成することが可能である。
【0057】
本実施形態では、距離画像と合焦画像から任意のフォーカス位置の画像や任意の被写界深度の画像、更に収差を再現した画像などのリフォーカス画像を作成することが出来る。
【0058】
図3は、図1の画像撮影装置の観測画像撮影部を示す図であり、可変瞳フィルタを用いた観測画像撮影部(光学系)を示す図である。図3に示す構成は、光通過部、光学レンズ2及び光電気変換部を一組設け、同じ被写体の観測画像を時分割で撮影するようにし、光通過部の光学的特性を時間的に変更したものである。
【0059】
観測画像撮影部としての光学系101は、光通過部として開口マスク103及び開口マスク104を適用した絞り102に、入射された光を集光する光学レンズ105と、光電気変換部として光の結像状態を電気信号に変換するCMOSセンサー106とを備える。光学レンズ105は図1の光学レンズ201及び光学レンズ219に対応する。
【0060】
絞り102は、電気的に開口マスクのパターンを変更することが可能な絞りであり、開口マスク103のパターンと開口マスク104のパターンとに変更することが可能である。
【0061】
絞り102は、電気的に開口パターンを切り替える以外に、機械的に切り替える方法や物性的に切り替える方法など、他の手法を用いることも出来る。
【0062】
画像撮影装置は、絞り102を開口マスク103と開口マスク104とに変更した状態で画像を撮影することで、複数枚の絞り形状が異なる観測画像を得る。
【0063】
距離演算部及びボケ復元部及びリフォーカス画像作成部は、開口マスクのパターンの違う複数枚の観測画像から、距離画像及び合焦画像及びリフォーカス画像の算出を行う。
【0064】
開口マスク103と開口マスク104は、パターン化された符号化開口形状(瞳系形状)を有する。具体的には、開口マスク103は、開口107のようなパターン、開口マスク104は、開口108のようなパターンを備えている。
【0065】
開口107及び開口108で用いられるパターンは、距離演算の安定性に大きく影響がある。例えば、開口107及び開口108の開口パターンが、どちらも円形開口であると、2つのボケ画像は、ほとんど同じような画像として撮影されるため解析が困難になる。このため、2つの開口パターンによって撮影される個々の観測画像のボケ特性は、違う特性になることが望ましい。具体的には、撮影される画像の空間周波数特性が異なるボケを発生させる開口パターンを用いる。
【0066】
本実施形態では、開口パターンが2つの場合の例を示すが、開口パターンを2つ以上用い、2回以上撮影し、2枚以上の観測画像を得てもよい。
【0067】
この場合、複数枚の観測画像が得られるので、その中から2枚を選択し、本実施形態と同様の手法で距離画像及び合焦画像及びリフォーカス画像を得ることが出来る。
【0068】
更に、2枚の選択の組み合わせを全ての組み合わせにおいて、同様に距離画像および合焦画像の演算を行い、演算結果を平均化することで、演算精度を高めることが可能である。
【0069】
絞り102を開口マスク103のパターンもしくは、開口マスク104のパターンに、変更することによって得られる観測画像は、空間周波数特性は違うが同一画角である。
【0070】
開口パターンの選択は、以下のような条件を満たすことで、距離演算部及び合焦復元部の演算精度を高めることが出来る。
(1).ボケの大きさに関わらず高周波域のゲインが落ちないこと
(2).複数の開口パターンの周波数特性においてゲインの零点が同一周波数において重ならないこと
(3).開口面積をなるべく大きくして露光に必要な光量を得ること
(4).ボケ特性の解析が容易なパターンであること
(5).回折の影響を受けないこと
上記条件を満たす絞りパターンは複数考えられるが、本実施形態では、図3に示したような開口マスクのパターンを選択する。
【0071】
次に、本実施形態に関連する画像データについて示す。
【0072】
図4は、観測画像と合焦画像と距離画像を示している。
【0073】
図4(a)、(b)の1001及び1002は、観測画像im1及び観測画像im2を示している。それぞれ、違うパターンの開口マスクを用いて撮影されており、同一の画角の写真ではあるが、ボケ特性に違いがある観測画像となる。
【0074】
図4(c)の1003は、距離画像を示している。距離画像とは、被写体までの距離を値として観測画像と同一平面の2次元配列データである。観測画像と同一画角で、かつ画素毎の輝度値が距離を示している。
【0075】
本実施形態では、観測画像上のドットと対応する距離画像上のドットは、被写体の同一地点上の特性を示しているが、観測画像と距離画像の位置関係が認識出来るのであれば、観測画像と距離画像の空間解像度は違っていても構わない。
【0076】
図4(c)の1003では、輝度が高いほど近い距離、輝度が低いほど遠い距離を示している。
【0077】
図4(d)の1004は、合焦画像を示している。合焦画像は、観測画像im1及び観測画像im2と同一画角ではあるが、ボケ特性を含まない画像である。つまり、合焦画像は、画像上にボケ状態を含まない画像のことであり、被写界深度が無限大の画像に相当する。
【0078】
本実施形態では、更に、距離画像と合焦画像から、フォーカスに関連するパラメータを変更したリフォーカス画像を生成し、撮影後に任意のボケ状態を有する画像を作成する。
【0079】
次に、本実施形態の画像撮影装置の装置概観を示す。
【0080】
図5は、本実施形態の画像撮影装置の概観を示した図である。
【0081】
画像撮影装置の外見は、通常のデジタルカメラとほぼ同様である。
【0082】
図3で説明をした光学系101は、図5の光学系301に相当する。
【0083】
光学系101は全て光学系301に入ってしまうため、図3で示される光学系を1組として時分割撮影で実施した場合、本体部分303のハードウェア部分は絞りパターンを変更するだけで従来のデジタルカメラを流用することも可能である。
【0084】
また、絞り102の開口パターンの一つを円形開口や多角形開口にすることによって、従来のデジタルカメラと同様な観測画像を撮影することも可能である。
【0085】
距離画像及び合焦画像を撮影する場合のユーザーの操作は、従来のデジタルカメラと同様に1度のシャッターボタン操作を行うだけで良い。
【0086】
画像撮影装置は、1回のシャッターボタンの動作を検出後、処理に必要な観測画像数だけ絞りパターンを変更し、複数の観測画像を撮影して、距離画像と合焦画像を作る。
【0087】
次に図2の画像撮影装置に用いられる観測画像撮影部としての光学系を示す。
【0088】
図6は、パターン化された瞳フィルタを用いた光学系であり、図3とは別の光学系である。
【0089】
図3での光学系の構成は、光学系101が1組のみであるために、時分割による複数回の撮影によって複数枚の観測画像を得ている。そのため、手ブレや被写体ブレには弱い側面がある。
【0090】
図6では、手ブレや被写体ブレの発生をより抑制した光学系の構成となる。この構成例は、図2に示すように、光通過部、光学レンズ2及び光電気変換部を2組設けた例となる。
【0091】
図3の光学系と図6の光学系の大きな差は、光スプリッタにより光源を二分した点にある。つまり光スプリッタにより光束分割を行っている。
【0092】
光レンズを通して入射して来た光は、光スプリッタ403によって2分される。
【0093】
2分された光のうちの半分は、絞り402を通して結像され、CMOSセンサー406で観測画像im1の入力を得る。このとき、絞り402は、開口パターン408のようなパターン化された絞りを用いている。
【0094】
2分された光の残り半分は、反射鏡404を用いて光路を変更し、絞り401を通して結像され、CMOSセンサー405で観測画像im2の入力を得る。このとき、絞り401は、開口パターン407のようなパターン化された絞りを用いている。
【0095】
CMOSセンサー406及びCMOSセンサー405の観測画像im1及び観測画像im2の撮影は、同時に行われるため、図2の光学系を用いた画像撮影装置よりも手ブレや被写体ブレに対してより耐性がある。
【0096】
図7では、更に図6の光学系に変更を加えた構成例を示している。
【0097】
図6で示される光学系は、複数の観測画像の撮影を同時に行うことが可能であるが、撮影装置全体を大きくしてしまうことになる。
【0098】
図7では、この点を改善するために、絞りの位置506で光を分割するのではなく、集光している位置に、光スプリッタ501を配置する。
【0099】
光レンズを通して入射して来た光は、光スプリッタ501によって2分される。
【0100】
2分された光のうち半分は、パターン化絞り502を通して結像され、CMOSセンサー503によって観測画像im1として入力される。
【0101】
2分された光のうち残りは、パターン化絞り504を通して結像され、CMOSセンサー504によって観測画像im2として入力される。
【0102】
図6と違う点は、絞りパターンの大きさをフォーカス状態に合わせて一定になるように開口マスクのパターン504及び502でスケーリングを行うことが求められる。
【0103】
しかし、画像撮影装置全体は、図6の光学系を用いた画像撮影装置よりも小さく設計することが可能である。
【0104】
画像撮影装置の光学系を図3、図6、図7に示したが、距離演算部206、ボケ復元部207、リフォーカス画像演算部208は、図3、図6、図7の画像撮影装置全てで共通に実施することが可能である。
【0105】
それぞれの光学系には、利点が存在する為、適用に合わせて光学系を選択することが可能である。
【0106】
次に、本実施形態の距離算出のためのアルゴリズムを示す。
【0107】
図6に示した2つの開口マスクを用い、観測画像を2枚撮影した場合の例を示す。図7や図3の光学系を用いても良いことは勿論である。
【0108】
絞り402の開口マスクで撮影をした観測画像(第1の観測画像となる)をim1、絞り401の開口マスクで撮影をした観測画像(第2の観測画像となる)をim2とし、絞り402の開口マスクによるPSF(点像分布関数)をha、絞り401の開口マスクによるPSFをhb、合焦画像をsとすれば、以下の式が成り立つ。
【0109】
【数4】
【0110】
数式4をフーリエ変換すると、数式4は、数式5となる。
このときIM1,IM2,Ha,Hb,Sは、それぞれim1,im2,ha,hb,sの周波数特性を示す。
【0111】
【数5】
【0112】
数式5の合焦画像Sは、共通な項であるため、式をまとめると数式6を導くことが出来る。
【0113】
【数6】
【0114】
数式6から絞り402の開口マスクで撮影した観測画像im1に絞り401の開口マスクのPSFによる畳み込み演算をした結果と、絞り401の開口マスクで撮影した観測画像im2に絞り402の開口マスクのPSFによる畳み込み演算をした結果は、同じになることが分かる。
【0115】
しかし、実際には、誤差や結像の状態によって完全には、数式6の左辺が0にならないので、以下の数式から距離を求める。
【0116】
【数7】
【0117】
z’は推定距離を示す。
【0118】
数式7を満たす状態を考察する。
【0119】
IM1及びIM2は、数式5よりHa・S及びHb・Sである為、適切なHa及びHbを数式7に代入出来れば、以下の数式8が最小になる。
【0120】
【数8】
【0121】
光学伝達特性Ha,Hbは、被写体までの距離に依存し、ある距離におけるHaとHbの組は、距離に対して一意に決まる。
【0122】
そこで、予め被写体までの距離zと光学伝達特性Ha及びHbの関係を、光学伝達特性テーブルとして保持して置き、Ha及びHbを代入することで推定距離z’を求めることが可能になる。このとき、Ha及びHbは設計値を用いてもよいし、実測値を用いてもよい。
【0123】
つまり、Ha及びHbは、被写体までの距離に依存するため、数式7は、数式9として表すことが出来る。
【0124】
【数9】
【0125】
そして、Ha及び Hbのテーブルを以下のように表すことが出来る。
【0126】
【数10】
【0127】
数式10のテーブルを用いて、以下の数式11が最小値になるzを求めることによって数式9を満たす推定距離z’が求まる。
【0128】
【数11】
【0129】
尚、数式10は、後述する図8で示される光学伝達特性-推定距離テーブル(光学伝達特性テーブルとなる)と同様のものである。つまり、数式10は光学伝達特性テーブルを示している。
【0130】
数式10は、撮影装置が、シフトバリアントな光学系の場合、撮像素子の受光面に結像する撮影面の各位置における光学伝達特性を示す光学伝達特性テーブルであり、撮像面上での位置に対して用意される。
【0131】
また、撮影装置が、シフトインバリアントな光学系の場合、撮影素子の撮影面上どこでも同じ光学伝達特性になるため、数式10は、撮影面上での位置とは関係なく、1つの光学伝達特性テーブルを用意すれば良い。
【0132】
また、光学伝達特性テーブルは、離散値の距離に対応する光学伝達特性であるが、レンズの設計情報から光学伝達特性を距離に対しての関数式(光学伝達特性関数)として保持をすることで、数式10を実現しても構わない。
【0133】
例えば、本実施形態では、数式12により距離zから許容錯乱円サイズpcsを算出し、許容錯乱円サイズpcsを用いて光学伝達特性を近似計算し、数式10として算出している。
【0134】
【数12】
【0135】
ただし、Zfは被写体距離、Zpはフォーカス距離、fは焦点距離、dはレンズ径を示している。
【0136】
次に、本実施形態で使用されるデータテーブルに関して示す。
【0137】
図8は、光学伝達特性-推定距離テーブルを示したものである。
【0138】
図8の光学伝達特性-推定距離テーブルは、被写体までの距離zにおけるPSF(point spread function)の周波数変換した光学伝達特性を記載したものである。
【0139】
この光学伝達特性-推定距離テーブルは、後述の光伝達特性算出部によって使用されるデータテーブルである。
【0140】
光学伝達特性は、設計値を使用しても良いが、本実施形態では、実測した値を用いている。
【0141】
実測した光学伝達特性を用いることによって、ノイズの影響や光学的収差などの影響に対してキャリブレーションを行うことが出来る。
【0142】
被写体距離601は、被写体への距離である。
【0143】
後述の光学伝達特性602及び光学伝達特性603は、被写体がzだけ離れた地点に存在する場合の光学伝達特性を示す。
【0144】
602は、被写体の距離zに応じた光学伝達特性Haである。光学伝達特性Haは、開口マスク103に対応する光学伝達特性である。
【0145】
同様に、603は、被写体の距離zに応じた光学伝達特性Hbである。光学伝達特性Hbは、開口マスク104に対応する光学伝達特性である。
【0146】
光学伝達特性は、光軸からの距離や光軸からの方向によって変化するため、光学伝達特性をレンズの位置に応じて保持しても良い。また、フォーカス位置によっても変化するので、必要なテーブルは保持しておく。
【0147】
本実施形態では、光学伝達特性Ha及びHbの2つを保持しているが、開口マスクの数が2つ以上ある場合は、これに応じて増やせば良い。
【0148】
上記の様に、距離による開口マスクの光学伝達特性を保持する。
【0149】
次に、本実施形態の距離画像算出に関するフローチャートを示す。
【0150】
図9は、距離演算部の動作を示すフローチャートを示している。
【0151】
また、図10は、光学伝達特性算出部の動作を示すフローチャートを示している。
【0152】
ステップS701で、距離演算部には、観測画像im1と観測画像im2が入力される。
【0153】
距離演算部は、ステップS702で、観測画像im1及び観測画像im2から、観測画像よりも小さいウインドサイズ(wx,wy)を、観測画面上の位置(x,y)上で切り出した画像を観測画像i1及びi2とする。
【0154】
推定距離zは、この小ウィンドウ毎に測定を行う。
【0155】
推定距離zの算出は、PSFのCMOS106上での最大の大きさが、ウィンドウサイズ(wx,wy)以上だと被写体の距離判定が正しく出来ないので、これらの事象を考慮してwx,wyを決定する必要がある。
【0156】
次にステップS703にて観測画像i1及び観測画像i2をフーリエ変換して、I1及びI2を算出する。また、参照カウンタであるmに0を代入する。
【0157】
ステップS704で光学伝達特性算出部を呼び出して、参照カウンタmに対応をするzm及びHa m及びHb mを取得する。
【0158】
光学伝達特性算出部は、図10のステップS1101から開始される。
【0159】
光学伝達特性算出部は、ステップS1102で、前述の光学伝達特性-推定距離テーブルから参照カウンタmに対応をするzm及びHa m及びHb mを取得する。そして、ステップS1103で復帰をする。
【0160】
次に、ステップS705で以下の数式13を演算し、誤差評価値emを得る。
【0161】
【数13】
【0162】
誤差評価値emを最小にするzmが推定距離z’となる。
【0163】
数式13は、誤差評価値emによって数式9を評価するために用いられる。
【0164】
この誤差評価値emは、参照カウンタm全ての場合で評価する必要があるため、ステップS706で参照カウンタを増加させた上で、ステップS704以降を繰り返し演算する。
【0165】
全ての参照カウンタmに関して演算が終了した後に、ステップS707にて、誤差評価値emを最小にするmを求める。
【0166】
次に、ステップS708で、誤差評価値emを最小にするmに対応する推定距離zを決定する。
【0167】
これらの関係を図11の推定距離と誤差評価値の関係グラフに示す。図11の値を例とすれば、誤差評価値emは、z4(m=4)の状態で最小値となっている。その為、z4で示される距離を推定距離z’として良い。
【0168】
しかし、図8で示される光学伝達特性-推定距離テーブルでは、推定距離zmが離散値となって得られる。
【0169】
そこで、図11の901で示されるように最小二乗近似等を用いて、最小値em’を算出し、それに対応する推定距離z’を求めることで、より精度の高い距離を求めても良い。
【0170】
以上のようにして、ウィンドウサイズ(wx,wy)における被写体への距離の演算を行う。ステップS709で、算出された推定距離z’を距離画像の座標(x,y)の画素値(距離値)とする。
【0171】
ステップS710で、ステップS702〜ステップS709までの工程が画像上の全ての画素に対して演算するように処理のループを行う。
【0172】
尚、本実施形態は、誤差評価値emを順次増加させて演算をし、最小値を求めたが、二分探索法などを用いて、高速に誤差評価値emの最小値を求めることも出来る。
【0173】
また、数13にて誤差評価値emを周波数領域で演算しているが、以下のような式を用いることで、空間領域での演算をすることも可能である。
【0174】
【数14】
【0175】
ただし、i1, hb m ,i2, ha mを観測画像1, 観測画像2の点像分布関数,観測画像2, 観測画像1の点像分布関数とする。
【0176】
以上の様にして演算処理を行うことで、距離画像を得ることが出来る。
【0177】
次に、本実施形態の合焦画像算出のためのアルゴリズムを示す。
【0178】
合焦画像は、数式5より算出できる。
【0179】
数式5を変形すると数式15が求まる。
【0180】
【数15】
【0181】
しかし、実際には、数15では、光学伝達特性Ha及びHb内で零もしくは零に近い値を持つ場合があり、除算が正確に行われない可能性がある。
そこで、推定合焦画像のフーリエ変換をS’とすれば、数式16を用いて推定合焦画像S’を求めることが出来る。
【0182】
【数16】
【0183】
H1=Ha,H2=Hbとする。
【0184】
数式16のWmは、ある空間周波数において、観測画像IM1及び観測画像IM2どちらのスペクトルが高いかを示す重み付け係数である。
【0185】
【数17】
【0186】
Wmは、数式17を満たすことで、空間周波数応答に零点が存在しても、正しく合焦画像を復元することが出来る。
【0187】
尚、本実施形態では、開口パターンが2つの場合、観測画像が2画面の場合を示しているが、開口パターンが2つ以上であっても同様に演算することが可能である。
【0188】
次に、図12に本実施形態における合焦画像算出に関するフローチャートを示す。
【0189】
ボケ復元部207は、ステップS801から開始される。
【0190】
ステップS802にて上述の数式17で示される手法を用いて重み付け係数Wmを決定する。
【0191】
そして、ステップS803で数式16を演算することで、推定合焦画像S’を求めることが出来る。
【0192】
推定合焦画像S’は、空間周波数特性を表しているので、逆フーリエ変換を行い、推定合焦画像s’を得る。
【0193】
以上のようにして、合焦画像を得る。
【0194】
尚、リフォーカス画像演算部208で用いられる距離画像及び合焦画像からのリフォーカス画像生成に関しては、既に知られたアルゴリズムを用いることが出来るため、説明を省く。
【0195】
本発明による第二の実施形態の画像撮影装置及び方法について詳細に説明する。
【0196】
第二の実施形態では、図3における開口マスク103及び開口マスク104の光学伝達特性の周波数特性を決め、条件に合う開口マスクパターンを得ることによって演算量の低減とメモリ使用量の低減を図るものである。
【0197】
第二の実施形態では、開口マスク103及び開口マスク104の周波数特性が以下の関係を満たしている。
【0198】
【数18】
【0199】
このときHa,Hb,H1,H2は、それぞれ光学伝達特性ha,hb,h1,h2の周波数特性を示す。
【0200】
観測画像の撮影状態を数式4とした場合、被写体までの距離を算出する数式9は、以下の数式のようになる。
【0201】
【数19】
【0202】
このとき、H1と被写体までの距離の関係を示すテーブルを以下のように表すことが出来る。
【0203】
【数20】
【0204】
数式20のテーブルを用いて、
【0205】
【数21】
【0206】
が最小になるzを求めることによって数式19を満たす推定距離z’が求まる。
【0207】
第一の実施形態との違いは、数式19の中での畳み込み演算(周波数領域での乗算)が1回のみで推定距離z’の評価のための演算が行われている点である。
【0208】
畳み込み演算は、処理に時間のかかる演算である。
【0209】
そのため、第二の実施形態の数式19の演算量は、第一の実施形態の数式9の演算量に比べ、ほぼ二分の一になる。
【0210】
また、第一の実施形態の光学特性を示すテーブルである数式10と第二の実施形態の数式20の違いは、第二の実施形態の場合、1つの光学伝達特性と距離の値によるテーブルとなるため、データ量は、ほぼ二分の一になる。
【0211】
なお、数式18を満たす開口マスク103及び開口マスク104は、絞りの開口パターンを用いて特性を満たすものとする。
【0212】
また、H1及びH2の光学特性を示す絞りを2枚用意し、片方の観測画像(im1)の撮影時にH1及びH2の開口マスクを通して撮影し、もう片方の観測画像(im2)は、H2の開口マスクのみを通して撮影しても良い。
【0213】
以上のように、開口マスク103及び開口マスク104の周波数特性が、数式18を満たすことによって、距離算出のための演算量及び光学伝達特性を示すデータテーブルの容量は、第一の実施形態と比べてほぼ二分の一となり、より効率的に演算を行うことが可能になる。
【図面の簡単な説明】
【0214】
【図1】本発明の画像撮影装置の一実施形態の装置構成のブロック図である。
【図2】本発明の画像撮影装置の他の構成例の装置構成のブロック図である。
【図3】可変瞳フィルタを用いた画像撮影装置の光学系を示す図である。
【図4】観測画像と合焦画像と距離画像を示す図である。
【図5】本実施形態の画像撮影装置の概観を示した図である。
【図6】パターン化された瞳フィルタを用いた光学系を示す図である。
【図7】パターン化された瞳フィルタを用いた他の光学系を示す図である。
【図8】光学伝達特性-推定距離テーブルを示す図である。
【図9】距離演算部の動作を示すフローチャートである。
【図10】光学伝達特性算出部の動作を示すフローチャートを示している。
【図11】推定距離と誤差評価値の関係を示す図である。
【図12】ボケ復元部の動作を示すフローチャートである。
【図13】従来の画像撮影装置の光学系の構成を示す図である。
【符号の説明】
【0215】
101 光学系
102 絞り
103 開口マスク
104 開口マスク
105 光学レンズ
106 CMOSセンサー
206 距離演算部・最適光学特性演算部
207 ボケ復元部
208 リフォーカス画像演算部
221 観測画像撮影部
222 光学伝達特性算出部
【特許請求の範囲】
【請求項1】
複数の絞りパターンで同一の被写体を撮影して複数の観測画像を得る観測画像撮影手段と、
前記被写体までの距離に応じた光学伝達特性を算出する手段と、
前記複数の観測画像と前記光学伝達特性から、前記被写体までの距離を算出する距離演算手段と、を備えることを特徴とする画像撮影装置。
【請求項2】
複数の絞りパターンで同一の被写体を撮影して複数の観測画像を得る観測画像撮影手段と、
前記被写体までの距離に応じた第1の光学伝達特性を算出する光学伝達特性算出手段と、
前記複数の観測画像と前記光学伝達特性から、ボケ量が最小となるように第2の光学伝達特性を算出する光学伝達特性演算手段と、
前記第2の光学伝達特性を利用して画像のボケを復元し合焦画像を得るボケ復元手段と、
を備えることを特徴とする画像撮影装置。
【請求項3】
前記光学伝達特性は、撮像素子の受光面各位置における光学伝達特性と距離との関係を示す、光学伝達特性テーブルを利用して算出することを特徴とする請求項1または2に記載の画像撮影装置。
【請求項4】
前記光学伝達特性は、撮像素子の受光面各位置における光学伝達特性と距離との関係を示す、光学伝達特性関数を利用して算出することを特徴とする請求項1または2に記載の画像撮影装置。
【請求項5】
前記複数の絞りパターンのうち一の絞りパターンによる観測画像を第1の観測画像、前記複数の絞りパターンのうち他の絞りパターンによる観測画像を第2の観測画像としたとき、
前記距離演算手段は、
【数1】
が最小になるように距離を算出することを特徴とする請求項1に記載の画像撮影装置。
【請求項6】
前記複数の絞りパターンのうち一の絞りパターンによる観測画像を第1の観測画像、前記複数の絞りパターンのうち他の絞りパターンによる観測画像を第2の観測画像としたとき、
前記光学伝達特性演算手段は、
【数2】
が最小になるように前記第2の光学伝達特性を算出することを特徴とする請求項2に記載の画像撮影装置。
【請求項7】
前記複数の観測画像は、時分割により取得することを特徴とする請求項1または2に記載の画像撮影装置。
【請求項8】
前記複数の観測画像は、光束分割により取得することを特徴とする請求項1または2に記載の画像撮影装置。
【請求項9】
複数の絞りパターンで同一の被写体を撮影して複数の観測画像を得るステップと、
前記被写体までの距離に応じた光学伝達特性を算出するステップと、
前記複数の観測画像と前記光学伝達特性から、前記被写体までの距離を算出する距離演算ステップと、を備えることを特徴とする画像撮影装置の距離演算方法。
【請求項10】
複数の絞りパターンで同一の被写体を撮影して複数の観測画像を得るステップと、
前記被写体までの距離に応じた光学伝達特性を算出する手段と、
前記複数の観測画像と前記光学伝達特性から、ボケ量が最小となる光学伝達特性を算出する光学伝達特性演算手段と、
前記ボケ量が最小となる光学伝達特性を利用して画像のボケを復元し合焦画像を得るボケ復元手段と、
を備えることを特徴とする画像撮影装置の合焦画像取得方法。
【請求項1】
複数の絞りパターンで同一の被写体を撮影して複数の観測画像を得る観測画像撮影手段と、
前記被写体までの距離に応じた光学伝達特性を算出する手段と、
前記複数の観測画像と前記光学伝達特性から、前記被写体までの距離を算出する距離演算手段と、を備えることを特徴とする画像撮影装置。
【請求項2】
複数の絞りパターンで同一の被写体を撮影して複数の観測画像を得る観測画像撮影手段と、
前記被写体までの距離に応じた第1の光学伝達特性を算出する光学伝達特性算出手段と、
前記複数の観測画像と前記光学伝達特性から、ボケ量が最小となるように第2の光学伝達特性を算出する光学伝達特性演算手段と、
前記第2の光学伝達特性を利用して画像のボケを復元し合焦画像を得るボケ復元手段と、
を備えることを特徴とする画像撮影装置。
【請求項3】
前記光学伝達特性は、撮像素子の受光面各位置における光学伝達特性と距離との関係を示す、光学伝達特性テーブルを利用して算出することを特徴とする請求項1または2に記載の画像撮影装置。
【請求項4】
前記光学伝達特性は、撮像素子の受光面各位置における光学伝達特性と距離との関係を示す、光学伝達特性関数を利用して算出することを特徴とする請求項1または2に記載の画像撮影装置。
【請求項5】
前記複数の絞りパターンのうち一の絞りパターンによる観測画像を第1の観測画像、前記複数の絞りパターンのうち他の絞りパターンによる観測画像を第2の観測画像としたとき、
前記距離演算手段は、
【数1】
が最小になるように距離を算出することを特徴とする請求項1に記載の画像撮影装置。
【請求項6】
前記複数の絞りパターンのうち一の絞りパターンによる観測画像を第1の観測画像、前記複数の絞りパターンのうち他の絞りパターンによる観測画像を第2の観測画像としたとき、
前記光学伝達特性演算手段は、
【数2】
が最小になるように前記第2の光学伝達特性を算出することを特徴とする請求項2に記載の画像撮影装置。
【請求項7】
前記複数の観測画像は、時分割により取得することを特徴とする請求項1または2に記載の画像撮影装置。
【請求項8】
前記複数の観測画像は、光束分割により取得することを特徴とする請求項1または2に記載の画像撮影装置。
【請求項9】
複数の絞りパターンで同一の被写体を撮影して複数の観測画像を得るステップと、
前記被写体までの距離に応じた光学伝達特性を算出するステップと、
前記複数の観測画像と前記光学伝達特性から、前記被写体までの距離を算出する距離演算ステップと、を備えることを特徴とする画像撮影装置の距離演算方法。
【請求項10】
複数の絞りパターンで同一の被写体を撮影して複数の観測画像を得るステップと、
前記被写体までの距離に応じた光学伝達特性を算出する手段と、
前記複数の観測画像と前記光学伝達特性から、ボケ量が最小となる光学伝達特性を算出する光学伝達特性演算手段と、
前記ボケ量が最小となる光学伝達特性を利用して画像のボケを復元し合焦画像を得るボケ復元手段と、
を備えることを特徴とする画像撮影装置の合焦画像取得方法。
【図3】
【図1】
【図2】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図1】
【図2】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【公開番号】特開2010−39448(P2010−39448A)
【公開日】平成22年2月18日(2010.2.18)
【国際特許分類】
【出願番号】特願2008−205882(P2008−205882)
【出願日】平成20年8月8日(2008.8.8)
【出願人】(000001007)キヤノン株式会社 (59,756)
【Fターム(参考)】
【公開日】平成22年2月18日(2010.2.18)
【国際特許分類】
【出願日】平成20年8月8日(2008.8.8)
【出願人】(000001007)キヤノン株式会社 (59,756)
【Fターム(参考)】
[ Back to top ]