奥行き推定撮像装置
【課題】従来とは異なる方法で、奥行き情報を取得できる撮像技術を提供する。
【解決手段】奥行き推定撮像装置は、特定の波長域の光に対する透過率が撮像素子2の撮像面に平行な第1の方向に周期的に変化している第1の光学フィルタ1aおよび第2の光学フィルタ1bとを備えている。第1の光学フィルタ1aと第2の光学フィルタ1bとは、互いに対向し、それらの前記特定の波長域に対する透過率の周期変化は、互いに1/4周期ずれている。
【解決手段】奥行き推定撮像装置は、特定の波長域の光に対する透過率が撮像素子2の撮像面に平行な第1の方向に周期的に変化している第1の光学フィルタ1aおよび第2の光学フィルタ1bとを備えている。第1の光学フィルタ1aと第2の光学フィルタ1bとは、互いに対向し、それらの前記特定の波長域に対する透過率の周期変化は、互いに1/4周期ずれている。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は1つの光学系と1つの撮像素子とを用いて被写体の奥行き情報を取得する単眼の3次元撮像技術に関する。
【背景技術】
【0002】
近年、CCDやCMOS等の固体撮像素子(以下、「撮像素子」と称する。)を用いたデジタルカメラやデジタルムービーの高機能化、高性能化には目を見張るものがある。特に半導体製造技術の進歩により、撮像素子における画素構造の微細化が進んでいる。その結果、撮像素子の画素および駆動回路の高集積化が図られてきた。このため、僅かの年数で撮像素子の画素数が100万画素程度から1000万画素以上へと著しく増加している。さらに、撮像によって得られる画像の質も飛躍的に向上している。一方、表示装置に関しては、薄型の液晶やプラズマによるディスプレイにより、場所を取らず、高解像度で高コントラストの表示が可能になり、高い性能が実現されている。このような映像の高品質化の流れは、2次元画像から3次元画像へと広がりつつある。昨今では、偏光メガネを必要とするが、高画質の3次元表示装置が開発され始めている。
【0003】
3次元撮像技術に関して、単純な構成をもつ代表的な方式として、2つのカメラから構成される撮像系を用いて、右目用の画像および左目用の画像をそれぞれ取得するという方式がある。このような、いわゆる2眼撮像方式では、カメラを2つ用いるため、撮像装置が大型になり、コストも高くなり得る。そこで、1つのカメラを用いて視差を有する複数の画像(以下、「複数視点画像」と呼ぶことがある。)を取得する方式(単眼撮像方式)が研究されている。
【0004】
例えば、特許文献1、2には、透過軸の方向が互いに直交する2枚の偏光板と回転する偏光フィルタとを用いて複数視点画像を取得する方式が開示されている。また、特許文献3〜5には、複数の色フィルタが設けられた絞り(光束制限板)を用いて複数視点画像を取得する方式が開示されている。
【0005】
上記の特許文献1〜5に開示された方式は、単眼のカメラによって主に複数視点画像を生成する際に利用される。一方、複数のマイクロレンズを備えた単眼のカメラを用いて奥行き情報を取得し、その情報に基づいて、取得後の画像の焦点位置を自由に変えることができる技術も存在する。そのような技術は、ライトフィールド・フォトグラフィーと呼ばれ、それを用いた単眼カメラは、ライトフィールドカメラと呼ばれる。ライトフィールドカメラでは、撮像素子上に複数のマイクロレンズが配置される。各マイクロレンズは、複数の画素を覆うように配置される。撮像後、取得した画像情報から、入射光の方向に関する情報を算出することにより、被写体の奥行きを推定できる。そのようなカメラは、例えば非特許文献1に開示されている。
【0006】
ライトフィールドカメラでは、奥行き情報を算出することができるが、マイクロレンズの数によって解像度が決まるため、撮像素子の画素数から決まる解像度よりも解像度が低下するという課題がある。その課題に対して、特許文献6には、2つの撮像系を用いて解像度を向上させる技術が開示されている。この技術では、入射光を2分割し、分割したそれぞれの入射光を、空間的に1/2ピッチずつずれて配列されたマイクロレンズ群を有する撮像系で撮像し、その後取得された画像を合成することによって解像度を向上させる。しかしながら、この技術では、撮像系が2つ必要であり、サイズおよびコストの面で課題がある。
【0007】
上記の課題に対して、1つの撮像系を用いて通常撮像モードとライトフィールド・フォトグラフィーに基づくモードとを切り換える技術が特許文献7に開示されている。この技術によれば、印加電圧に応じて焦点距離が変化するマイクロレンズが用いられ、マイクロレンズの焦点距離が、前者のモードでは無限大に設定され、後者のモードでは、所定の距離に設定される。このような機構により、解像度の高い画像と奥行き情報とを得ることができる。しかしながら、この手法では、マイクロレンズの焦点距離を制御するという高度な制御技術が必要である。
【先行技術文献】
【特許文献】
【0008】
【特許文献1】特開昭62−291292号公報
【特許文献2】特開昭62−217790号公報
【特許文献3】特開2002−344999号公報
【特許文献4】特開2009−276294号公報
【特許文献5】特開2003−134533号公報
【特許文献6】特開平11−98532号公報
【特許文献7】特開2008−167395号公報
【非特許文献】
【0009】
【非特許文献1】Ren Ng,et al,”Light Field Photography with a Hand−held Plenoptic Camera”, Stanford Tech Report CTSR 2005−02
【発明の概要】
【発明が解決しようとする課題】
【0010】
ライトフィールドカメラでは、奥行き情報を得ることはできるが、画像の解像度が低下するという課題がある。その課題を解決するためには、上記の特許文献6、7の技術のように、2つの撮像系が必要であったり、マイクロレンズの焦点距離を制御しなければならないという課題がある。
【0011】
本発明の実施形態では、上記の課題に鑑み、従来技術とは異なる光学系および信号処理を用いて、奥行き情報を取得し得る撮像技術を提供する。さらに、本発明の好ましい実施形態では、解像度の低下のない画像と奥行き情報とを1回の撮影で取得し得る撮像技術を提供する。
【課題を解決するための手段】
【0012】
本発明による奥行き推定撮像装置は、複数の光感知セルが撮像面に行列状に配列された撮像素子と、前記撮像面に像を形成するように配置された光学レンズと、前記光学レンズおよび前記撮像素子の間に配置された、特定の波長域の光に対する透過率が前記撮像面に平行な第1の方向に周期的に変化している第1の光学フィルタと、前記第1の光学フィルタと前記撮像素子との間に配置された、前記特定の波長域の光に対する透過率が前記第1の方向に周期的に変化し、かつ前記透過率の周期変化が前記第1の光学フィルタにおける前記特定の波長域の光に対する透過率の周期変化と比べて1/4周期ずれている第2の光学フィルタと、前記複数の光感知セルから出力される画素信号を処理する信号処理部とを備えている。
【0013】
ある実施形態において、前記信号処理部は、前記複数の光感知セルから出力される画素信号の空間周波数特性に基づいて、被写体の奥行きを示す情報を生成する。
【0014】
ある実施形態において、前記複数の光感知セルから出力される前記画素信号の前記空間周波数特性と前記被写体の奥行きとの対応関係を規定する情報が記録されたメモリをさらに備え、前記信号処理部は、前記対応関係を規定する情報を参照することによって前記奥行きを示す情報を生成する。
【0015】
ある実施形態において、前記複数の光感知セルの配列のうち、特定の行または列に対応する位置における前記第1の光学フィルタと前記第2の光学フィルタとの距離は、前記特定の行または列に隣接する行または列に対応する位置における前記第1の光学フィルタと前記第2の光学フィルタとの距離と異なっている。
【0016】
ある実施形態において、前記第1の光学フィルタおよび前記第2の光学フィルタは、前記複数の光感知セルの配列のn行(nは1以上の整数)ごとまたはn列ごとに対応する位置に配置されている。
【0017】
ある実施形態において、前記第1の光学フィルタおよび前記第2の光学フィルタの前記特定の波長域の光に対する透過率の前記第1の方向についての空間変化は、三角関数または矩形関数で表される。
【0018】
ある実施形態において、aおよびbを、a+b<1、b−a>0を満たす正の実数とし、ω0を正の実数とするとき、前記第1の光学フィルタの前記特定の波長域の光に対する透過率の前記第1の方向についての空間変化を表す関数は、近似的にasinω0x+bで表され、前記第2の光学フィルタの前記特定の波長域の光に対する透過率の前記第1の方向についての空間変化を表す関数は、近似的にacosω0x+bで表される。
【0019】
ある実施形態において、前記複数の光感知セルを、各々がu行v列(u,vは2以上の整数)に配列されたu×v個の光感知セルを含む複数のブロックに分けるとき、前記第1の光学フィルタおよび前記第2の光学フィルタは、各ブロックを覆うように配置され、各ブロック上で透過率が前記第1の方向に1周期以上変化している。
【0020】
ある実施形態では、各ブロックにおいて、前記第1の光学フィルタおよび前記第2の光学フィルタの前記特定の波長域の光に対する透過率の前記第1の方向についての空間変化は、複数の異なる周期をもつ周期関数の線型結合で表される。
【0021】
ある実施形態において、前記特定の波長域の下限は、650nmよりも長い。
【0022】
ある実施形態において、前記奥行き推定撮像装置は、前記第1の光学フィルタよりも被写体に近い側に配置された、可視光のみを透過させる第3の光学フィルタをさらに備え、前記特定の波長域は、可視光の波長域に含まれている。
【0023】
ある実施形態において、前記信号処理部は、前記第1および第2の光学フィルタが設けられていないと仮定した場合に各光感知セルから出力される画素信号と、前記第1および第2の光学フィルタが設けられている場合に各光感知セルから出力される画素信号との比を示す情報に基づいて、前記複数の光感知セルから出力される画素信号を補正することにより、可視光画像を生成する。
【0024】
ある実施形態において、前記奥行き推定撮像装置は、前記第1の光学フィルタよりも被写体に近い側に配置された、複数の遮光部および複数の透明部が交互に配列された第4の光学フィルタをさらに備え、各透明部を透過した光束が入射する前記第1の光学フィルタの部分において、前記特定の波長域の光に対する透過率が前記第1の方向について1周期以上変化している。
【発明の効果】
【0025】
本発明の実施形態によれば、特定の波長域の光に対する透過率の空間分布が周期関数で表され、位相が互いにπ/2(1/4周期)異なる2つの光学フィルタを通して撮像する。このため、これらの光学フィルタの透過率の周期変化のパターンの影響が取得した画素信号に現れる。これらの光学フィルタは、光軸方向に離れて配置されているため、これらの光学フィルタによって変調された画像のパターンから、入射光の集光状態を把握することができる。その結果、被写体の奥行き情報を算出することができる。一方、取得した画素信号に対して2つの光学フィルタの透過特性に基づく演算を行えば、通常の画像を取得することも可能である。
【図面の簡単な説明】
【0026】
【図1A】実施形態1における光学フィルタ1a、1bを示す平面図である。
【図1B】図1AにおけるA−A’線断面図であり、撮像面に集光する光束を示す図である。
【図1C】光学フィルタ1a、1bの第1波長域の光に対する透過率のx方向の変化を示すグラフである。
【図1D】図1AにおけるA−A’線断面図であり、撮像面の奥に集光する光束を示す図である。
【図1E】図1AにおけるA−A’線断面図であり、撮像面の手前に集光する光束を示す図である。
【図2】実施形態1の変形例における光学フィルタ1a、1bを示す平面図である。
【図3】実施形態1の他の変形例における光学フィルタ1a、1b、複数の光感知セル10を示す断面図である。
【図4A】実施形態2における光学フィルタ1a、1bを示す平面図である。
【図4B】図2AにおけるB−B’線断面図である。
【図4C】図2AにおけるC−C’線断面図である。
【図5A】実施形態3における遮光フィルタ1c、光学フィルタ1a、1bを示す平面図である。
【図5B】図5AにおけるA−A’線断面図である。
【図5C】実施形態3の変形例における光学フィルタ1a、1b、複数の光感知セル10を示す断面図である。
【図6】本発明の実施形態における撮像装置の構成を示すブロック図である。
【図7】本発明の実施形態における撮像装置の光学系構成を模式的に示す斜視図である。
【発明を実施するための形態】
【0027】
以下、図面を参照しながら、本発明の実施形態による奥行き推定撮像装置(以下、単に「撮像装置」と呼ぶ。)を説明する。以下の説明において、複数の図にわたって共通または対応する要素には同一の参照符号を付している。
【0028】
(実施形態1)
まず、本発明の第1の実施形態による撮像装置を説明する。図6は、本実施形態における撮像装置の全体構成を示すブロック図である。本実施形態の撮像装置は、デジタル式の電子カメラであり、撮像部100と、撮像部100で生成された信号に基づいて画像を示す信号(画像信号)を生成する信号処理部200とを備えている。撮像装置は、静止画のみならず動画を生成する機能を備えていてもよい。
【0029】
撮像部100は、撮像面に行列状に配列された複数の光感知セル(画素)を備える固体撮像素子2(以下、単に「撮像素子」と呼ぶ。)と、赤外光に近い波長域の光の一部を除去する光学フィルタ部1と、撮像素子2の撮像面上に像を形成するための光学レンズ3と、可視光のみを透過させる可視光透過フィルタ4とを備えている。光学フィルタ部1は、2種類の光学フィルタを含み、撮像素子2の撮像面上に配置されている。光学フィルタ部1の2種類の光学フィルタの各々は、およそ650nm〜700nmの波長域の光の一部を吸収または反射し、他の波長域の光を概ね透過させるように設計されている。一方、可視光透過フィルタ4は、650nm〜700nmの波長域の光を含む可視光を概ね透過させ、可視光以外の赤外線や紫外線を殆ど透過させないように設計されている。なお、本明細書では、約400nm〜700nmの波長域の電磁波を「可視光」と呼ぶ。上記の650nm〜700nmの光は、本明細書では「可視光」に含まれるが、人間にとって殆ど視認できないため、赤外光として扱う場合もある。以下の説明では、約650nm〜700nmの光を、「第1波長域の光」と呼ぶことがある。
【0030】
撮像部100はまた、撮像素子2を駆動するための基本信号を発生するとともに撮像素子2からの出力信号を受信して信号処理部200に送出する信号発生/受信部5と、信号発生/受信部5によって生成された基本信号に基づいて撮像素子2を駆動する素子駆動部6とを備えている。
【0031】
撮像素子2は、典型的にはCCDまたはCMOSセンサであり、公知の半導体製造技術によって製造される。信号発生/受信部5および素子駆動部6は、例えばCCDドライバなどのLSIから構成されている。撮像素子2の撮像面には行列状に複数の光感知セルが配列されている。各光感知セルは、典型的にはフォトダイオードを含み、受けた光の強度に応じた光電変換信号(画素信号)を出力する。
【0032】
信号処理部200は、撮像部100から出力された信号を処理して画像信号および被写体の奥行きを示す情報(奥行き情報)を生成する画像処理部7と、画像信号の生成に用いられる各種のデータを格納するメモリ30と、生成した画像信号および奥行き情報を外部に送出するインターフェース(IF)部8とを備えている。画像処理部7は、公知のデジタル信号処理プロセッサ(DSP)などのハードウェアと、画像信号生成処理を含む画像処理を実行するソフトウェアとの組合せによって好適に実現され得る。メモリ30は、DRAMなどによって構成される。メモリ30は、撮像部100から得られた信号を記録すると共に、画像処理部7によって生成された画像データや、圧縮された画像データを一時的に記録する。これらの画像データは、インターフェース部8を介して不図示の記録媒体や表示部などに送出される。
【0033】
なお、本実施形態の撮像装置は、電子シャッタ、ビューファインダ、電源(電池)、フラッシュライトなどの公知の構成要素を備え得るが、それらの説明は本発明の理解に特に必要でないため省略する。また、上記の構成は一例であり、本実施形態において、光学フィルタ部1、撮像素子2、画像処理部7以外の構成要素は、公知の要素を適宜組み合わせて用いることができる。
【0034】
以下、撮像部100の構成をより詳細に説明する。以下の説明では、撮像部100内の領域の位置や方向を説明する場合には、図中に示すxyz座標を用いる。なお、以下の説明における「上」、「下」などの用語は、参照される図に基づいており、必ずも現実の位置関係を反映しているわけではない。
【0035】
図7は、撮像部100におけるレンズ3、可視光透過フィルタ4、光学フィルタ部1、および撮像素子2の配置関係を模式的に示す図である。レンズ3は、複数のレンズ群から構成されたレンズユニットであり得るが、図7では簡単のため、単一のレンズとして描かれている。レンズ3は、公知のレンズであり、可視光透過フィルタ4の有無に関わらず、入射光を集光し、撮像素子2の撮像部に結像させる。なお、図7に示す各構成要素の配置関係はあくまでも一例であって、本発明はこのような例に限られるものではない。例えば、レンズ3と可視光透過フィルタ4の配置関係が入れ替わってもよい。
【0036】
図1Aは、光学フィルタ部1が配置された撮像素子2の撮像面の一部を示す平面図である。撮像面に行列状に配列された複数の光感知セルに対向して、2種類の光学フィルタ1a、1bが配置されている。図1Bは、図1AにおけるA−A’線断面図であり、複数の光感知セル10上に光学フィルタ1a、1bが配置されている状況を示している。光学フィルタ1a、1bの第1波長域の光に対する透過率は、x方向に周期的に変化している。この周期的変化の周波数をω0とする。光学フィルタ1aおよび光学フィルタ1bの第1波長域の光に対する透過率の周期変化の位相はπ/2(1/4周期)異なっている。
【0037】
ここで、光学フィルタ1a、1bの第1波長域の光に対する透過率T1a、T1bを数式で表すと、近似的にそれぞれ以下の式1、式2で表される。但し、両式において、aおよびbは、a+b<1、b−a>0を満たす正の実数である。
【数1】
【数2】
【0038】
図1Cは、T1aおよびT1bを示すグラフである。ここで、x座標の原点は任意の位置にとってよく、例えば光学フィルタ部1の中心や端部に設定され得る。また、パラメータa、bは、上記の条件を満たす限り、任意の値に設定してよい。このように、本実施形態における光学フィルタ1a、1bの第1波長域の光に対する透過率のx方向の空間変化は、三角関数で表される。
【0039】
このような透過特性を有する光学フィルタ1a、1bは、例えば650nm〜700nmの波長域の光を主に吸収する公知の顔料または染料を用いて作製され得る。当該顔料または染料の含有率をx座標に応じて調整することにより、式1および式2に示す透過特性を実現することが可能である。
【0040】
光学フィルタ1bは、光感知セル10の直上に配置され、その上に距離d離れて光学フィルタ1aが配置されている。入射光は、光学フィルタ1a、光学フィルタ1bの順に透過し、光感知セル10に入射して光電変換される。各光感知セル10は、光電変換によって受光量に応じた画素信号を出力する。
【0041】
以上の構成により、露光中に撮像装置に入射する光は、レンズ3、可視光透過フィルタ4、光学フィルタ部1を通して撮像素子2の撮像面上に結像され、各光感知セル10によって光電変換される。各光感知セル10から出力された画素信号は、信号発生/受信部5を介して信号処理部200に送出される。信号処理部200における画像処理部7は、送られてきた信号に基づいて画像を生成すると共に、奥行き情報も算出する。
【0042】
以下、画像処理部7による奥行き情報および画像の生成処理を説明する。なお、以下の説明では、可視光による通常の画像信号を「通常画像」または「可視光画像」と呼ぶことがある。
【0043】
まず、奥行き情報の算出方法を説明する。レンズ3、可視光透過フィルタ4を透過した光は、光学フィルタ1aを透過する。この時、第1波長域の光については、光学フィルタ1aの透過特性により、x方向に式1で表される透過率特性によって変調された光パターンが発生する。すなわち、光学フィルタ1aを透過した直後の第1波長域の光の強度分布は、式1にほぼ比例する。一方、第1波長域以外の可視光については、変調されることなく光学フィルタ1aを透過する。光学フィルタ1aを透過した光は、さらに光学フィルタ1bを透過する。光学フィルタ1bでは、第1波長域の光については、x方向に式2で表される透過率特性によって変調された光パターンが発生する。すなわち、光学フィルタ1bを透過した第1波長域の光の強度分布は、当該光が平行光と見なせる場合、式1で表される関数および式2で表される関数の積にほぼ比例する。一方、第1波長域以外の可視光は、変調されることなく光学フィルタ1bを透過する。光学フィルタ1bを透過した光は、光感知セル10により光電変換される。なお、上記の変調された光パターンは微細ではあるが、光感知セル10の信号を解析することにより、その周波数を特定できる程度の広がりを有するように、光学フィルタ1a、1bの位置および光感知セル10の数およびサイズが予め調整されている。
【0044】
本実施形態では、レンズ3から被写体までの距離(奥行き)により、撮像素子2の撮像面、すなわち複数の光感知セル10が配列された面における集光状態が異なることを利用して当該被写体の奥行が求められる。例えば、被写体のある部分から入射する光が撮像素子2の撮像面上で結像する場合、波動光学によれば、当該入射光は、図1Bに示すように平行光であるものとして扱うことができる。これに対し、奥行きの異なる部分から入射する光は、図1Dまたは図1Eに示されているように、撮像面の後方または前方で結像するため、平行光として扱うことはできない。図1Dに示す例では、入射光は光感知セル10の後方で結像し、図1Eに示す例では、入射光は光感知セル10の前方で結像している。光学フィルタ1a、1bは、光軸上の配置(z座標)が互いに異なるため、光学フィルタ1aを透過し式1で表される透過率で変調された光パターンは、光学フィルタ1b上では、入射光の集光状態に応じて異なるパターンとなる。光学フィルタ1b上での光パターンの周波数をωとすると、図1Bに示す状態ではω=ωoであり、図1Dに示す状態ではω>ωoであり、図1Eに示す状態ではω<ωoとなる。
【0045】
以上のことから、光感知セル10によって光電変換される光による上記光パターンの交流成分は、以下の式3で表される値Acに比例する。
【数3】
【数4】
【0046】
式4において、第4項sin(ω−ωo)xは、光学フィルタ1a、1b間を光が進む間に生じる光パターンの変化量を周波数で表しており、しかも奇関数である。このため、各光感知セル10から出力される画素信号から、第4項に相当する周波数(ω−ωo)の成分を検出することにより、光がどの程度集束または発散しているのかを判別することができる。具体的な周波数解析は、例えば複数の光感知セル10から出力される画素信号にωo以上の周波数成分を除去するローパスフィルタを用いて低域のsin(ω−ωo)xの成分を取り出し、その符号および周波数を検出することによって行われる。検出した符号および周波数に基づいて、入射光の集光状態を判別し、被写体までの距離を推定することができる。なお、ω<ω0の場合、式4におけるsinωxの成分が残るが、ωよりもω−ω0の方が著しく小さいため、ローパスフィルタ後の信号の低周波成分だけを解析すればよい。また、ω0ではなく、例えばω0/2以上の周波数成分を除去するローパスフィルタを用いてもよい。
【0047】
ここで、sin(ω−ωo)xの成分の値と、被写体までの距離との対応関係を示す情報(例えばデータベース)が、予め実験やシミュレーションなどによって求められ、メモリ30などの記録媒体に記録されている。画像処理部7は、当該情報を参照して、画素信号から被写体の奥行を求めることができる。
【0048】
ここで、周波数ωは、光学フィルタ1a、1bの光軸方向の距離dに依存する。本実施形態では、周波数ωがωoに近い値となるように距離dが設定されている。また、上記の演算は、(ω−ωo)に近い低域の画像周波数帯域を有していない被写体の部分に対して有効であるため、本実施形態ではそのような被写体の部分を奥行き算出の対象とする。但し、上記の奥行き算出に使われる光の波長域である約650nm〜700nmは、赤〜赤外の波長域に該当するため、RGBのカラー撮像素子を利用すれば、被写体画像の空間周波数に関わらず奥行き情報を算出できる可能性がある。これは、赤(R)画素による画像と、緑(G)画素または青(B)画素による画像とから、上記光パターンの画像と被写体画像とを切り分けることができるからである。したがって、画像処理部7は、赤画素による画像から奥行き情報を推定し、緑画素および青画素による画像から通常画像を生成してもよい。
【0049】
次に、解像度低下のない通常画像(可視光画像)を取得する処理を説明する。本実施形態では、撮像光学系に可視光透過フィルタ4が含まれているので、仮に光学フィルタ部1が装着されていないとすると、解像度低下のない可視光による通常画像を取得できる。ところが、実際には光学フィルタ部1が装着されているため、赤光〜赤外光に近い波長域において光の変調が生じる。その結果、光学フィルタ1a、1bによって変調された光のパターンが被写体画像に重畳される。そこで、本実施形態では、予め光学フィルタ部1が装着されていない場合の画像と光学フィルタ部1を装着した場合の画像とから、それらの画素信号の比率(以下、「光パターン除去比率」と呼ぶ)を求めておく。例えば、一定強度の白色光を用いて、光学フィルタ部1がない場合の画素信号S1と、光学フィルタ部1がある場合の画素信号S2との比S1/S2を、光パターン除去比率として、画素ごとに予めメモリ30などに記録しておく。画像処理部7は、光パターン除去比率を用いて各光感知セル10から取得した信号を変換することによって光学フィルタ1a、1bによる光の変調の影響を取り除く。例えば、上記のS1/S2を光パターン除去比率とする場合、撮像によって取得した各画素信号にS1/S2を乗ずることにより、画像信号を得る。このようにして、画像処理部7は、解像度低下のない通常画像を取得する。
【0050】
以上のように、本実施形態によれば、光感知セル10上に、透過率がx方向に周期的に変化し、周期性が互いに約π/2異なる2種類の光学フィルタ1a、1bが、y方向に所定の距離dだけ離れて配置される。これにより、光学フィルタ1a、1bを透過した光のパターン(x方向の強度分布)は、入射光の集光状態を反映して変調される。画素信号の空間周波数特性を解析することにより、入射光の集光状態が検出でき、被写体までの距離を推定することができる。また、光パターン除去比率を用いた演算により、解像度低下のない通常画像を取得することができる。
【0051】
なお、本実施形態では、赤外光に近い約650nm〜700nmの波長域の光の一部を減衰させる光学フィルタ1a、1bを用いたが、それに限定するものではなく、他の波長域の光の一部を減衰させる光学フィルタを用いてもよい。例えば、約400nm〜500nmの波長域の青光、約500nm〜600nmの波長域の緑光、700nmを超える波長域の赤外光に対する透過率がx方向に周期的に異なっている光学フィルタを用いてもよい。ただし、光学フィルタによる光の変調は、回折の影響が小さい長波長の波長域、例えば下限が650nm以上の波長域の光に対して行うことが好ましい。波長が700nmを超える赤外光に対する透過率が周期的に変化している光学フィルタを用いる場合、可視光透過フィルタ4の代わりに、当該赤外光の波長域にまで透過特性を有する光学フィルタを設ける必要がある。
【0052】
また、本実施形態における光学フィルタ1a、1bの透過特性は、sin関数およびcos関数を用いて表されるが、周期関数であれば、その他の関数で表される透過特性の光学フィルタを用いても問題はない。任意の周期関数はフーリエ級数展開によって周波数の互いに異なる複数のsin関数またはcos関数の線型結合で表すことができるため、フーリエ成分に分解して処理することができればどのような透過特性の光学フィルタを用いてもよい。
【0053】
さらに、光学フィルタ1a、1bは、x方向に透過率が周期的に変化しているが、この周期変化の方向はx方向である必要はなく、任意の方向であってもよい。画像処理部7は、当該周期変化の方向に関わらず、当該方向の画素信号のパターンに基づいて奥行き情報を生成することができる。
【0054】
また、光学フィルタ1a、1bは、図2に示すように、撮像素子2の画素配列の1行おきに対応して配置されていてもよいし、n行(nは2以上の整数)おきに対応して配置されていてもよい。但し、この場合、奥行き推定に関して、垂直方向(y方向)の精度が1/2または1/(n+1)に低下する。あるいは、画素配列の1列おき、またはn列おきに光学フィルタ1a、1bが配置されていてもよい。この場合、光学フィルタ1a、1bは、第1波長域の光に対する透過率がy方向に周期的に変化するように構成される。
【0055】
また、図3に示すように、赤外光吸収部1ab_1と透明部1ab_2とが交互に配列した光学フィルタ1a、1bを用いてもよい。この例では、赤外光に近い波長域の光に対する透過率のx方向の分布がステップ関数で表される。すなわち、赤外光吸収部1ab_1では、約650nm〜700nm付近の波長域の光を、x座標に関わらず一定の透過率で透過させ、透明部1ab_2では、上記の波長域を含む可視光の大部分を透過させる。このような構成でも、2つの光学フィルタ1a、1bが、x方向に互いに1/4周期ずれて配置されていれば、同様の原理によって奥行き情報を得ることができる。なお、個々の赤外光吸収部1ab_1および透明部1ab_2は、例えばu行v列(u、vは2以上の整数)を1ブロックとするu×v個の光感知セル10を覆うように設けられる。そのような構成において、ブロックごとに画素信号を処理することにより、個々のブロックに対応する被写体の部分の奥行きの情報を得ることができる。このようなブロックを単位として処理する構成は、図3に示す構成に限らず、図1Bや図2に示す光学フィルタ1a、1bを用いた構成においても適用できる。その場合、1つのブロックに対応する光学フィルタ1a、1bの部分の第1波長域の光に対する透過率は、少なくとも1つの方向に1周期以上変化していることが好ましい。これは、1ブロックに含まれるu×v個の光感知セルによって検知される信号の周波数特性を検出するためには、1ブロック内で1周期以上の変化が生じることが好ましいからである。
【0056】
なお、個々の赤外光吸収部1ab_1および透明部1ab_2の透過率は、ステップ関数で表される場合に限らず、第1波長域の光に対する透過率がその範囲内で位置によって異なっていてもよい。また、1ブロック内で第1波長域の光に対する透過率が位置によって異なっている構成においても、複数の光感知セルを含むブロックを基本構成として処理してもよい。
【0057】
また、本実施形態では、撮像素子2の画素配列は正方格子状の配列であるが、この配列に限らず、例えば斜交型の配列であってもよい。斜光型の配列を用いる場合、光感知セル10の配列の方向と光学フィルタ1a、1bにおける透過率の周期変化の方向とが交差することになる。その場合であっても、透過率の周期変化の方向と同じ方向に並んだ複数の光感知セルから出力される信号を処理することにより、奥行き情報を求めることができる。
【0058】
(実施形態2)
次に、本発明の第2の実施形態による撮像装置を説明する。本実施形態では、実施形態1と比べて、光学フィルタ部1の構造のみが異なる。以下、実施形態1の撮像装置と異なる点を中心に説明し、重複する事項についての説明は省略する。
【0059】
図4Aは、本実施形態における光学フィルタ部1が配置された撮像素子2の撮像面の一部を示す平面図である。図4Bは、図4AにおけるB−B’線断面図であり、図4Cは、図4AにおけるC−C’線断面図である。本実施形態における光学フィルタ部1は、実施形態1における光学フィルタ部1と同様、光学フィルタ1a、1bを含んでいるが、光学フィルタ1aの構造が異なっている。本実施形態では、光学フィルタ1aと光学フィルタ1bとの距離が撮像素子2の画素配列の行ごとに異なっている。それらの距離は、奇数行ではdであり、偶数行ではほぼ0である。すなわち、光学フィルタ1aは、y方向に凹凸が1画素間隔で繰り返す構造を有している。奇数行に対応する光学フィルタ1aの部分のz座標は、実施形態1における光学フィルタ1aのz座標と同じであるが、偶数行に対応する光学フィルタ1aの部分は、光学フィルタ1bにほぼ密着している。
【0060】
撮像素子2において、奇数行のy座標を2m−1、偶数行のy座標を2m(mは自然数)と表すと、座標(x,2m−1)および座標(x,2m)のそれぞれにおける第1波長域の光に対する透過率の空間変化を示す関数To、Teは、それぞれ以下の式5、式6で表される。また、これらの差分To−Teは、式7で表される。
【数5】
【数6】
【数7】
【0061】
以上より、隣接する2行の画素信号の差分処理結果は式7で表されるT0−Teに比例し、ωo以上の周波数成分を除去するローパスフィルタで高周波成分を除去すれば、sin(ω−ωo)xの成分を取り出すことができる。この処理により、実施形態1における処理と同様、入射光の集光状態を検出できるため、被写体までの距離も推定できる。なお、一般の被写体では、隣接する2行の画素信号はほぼ等しいので、隣接する2行の画素信号間の差分により、被写体の画像情報を取り除くことができる。その結果、実施形態1とは異なり、被写体の画像の空間周波数に関係なく奥行き情報を算出できる。なお、解像度低下のない通常画像を取得する処理は、実施形態1における処理と同じであるため、その説明は省略する。
【0062】
以上のように、本実施形態によれば、撮像素子2の画素配列の1行おきに光学フィルタ1a、1b間の距離が異なり、それらの距離はdまたは0に設定される。さらに、信号処理として隣接する2行の画素信号の差分処理を行い、その低周波数帯域の成分を検出することにより、入射光の集光状態が特定でき、被写体までの距離を推定できる。
【0063】
なお、本実施形態でも、赤外光に近い約650nm〜700nmの波長域の光の一部を減衰させる光学フィルタ1a、1bが用いられるが、他の波長域の光の一部を減衰させる光学フィルタを用いてもよい。また、光学フィルタ1a、1bの透過特性に関しても、sin関数、cos関数を用いて表される透過特性に限らず、周期関数で表されれば、どのような透過特性の光学フィルタを用いてもよい。さらに、本実施形態では、1行おきに光学フィルタ1a、1b間の距離を変えたが、n行おきに(nは2以上の整数)変えても問題ない。あるいは、特定の波長域の光に対する透過率がy方向に周期的に変化するように光学フィルタ1a、1bを配置した上で、1列おき、またはn列おきに光学フィルタ1a、1b間の距離を変えてもよい。
【0064】
(実施形態3)
次に、本発明の第3の実施形態を説明する。本実施形態の撮像装置は、光学フィルタ1aを覆うように配置された遮光フィルタ1cをさらに備えている点で実施形態1の撮像装置と異なっている。以下、実施形態1と異なる点を中心に説明し、重複する事項についての説明は省略する。
【0065】
図5Aは、光学フィルタ1a、1b、および遮光フィルタ1cが配置された撮像素子2の撮像面の一部を示す平面図である。図5Bは、図5AにおけるA−A’線断面図である。図5A、図5Bに示すように、遮光部1c_1と透明部1c_2とが交互に配列された遮光フィルタ1cが光学フィルタ1aを覆うように配置されている。
【0066】
遮光部1c_1は、光の大部分を吸収または反射する部材で形成されている。一方、透明部1c_1は、ガラスや空気などの透明部材で形成されている。このような遮光フィルタ1cを設けることにより、周囲からの不要な光の入射を防ぐことができるため、信号処理の精度が向上する。
【0067】
本実施形態における画像信号の生成処理および奥行き情報生成処理は、実施形態1のものと同一であるため、詳細な説明は省略する。
【0068】
なお、本実施形態では、個々の遮光部1c_1および透明部1c_2は、ともに正方形状であり、画素25(=5×5)個分のサイズを有しているが、これらの形状およびサイズはこのような例に限られない。透明部1c_1のある方向のサイズが光学フィルタ1aの上記第1波長域の光に対する透過率の1周期分のサイズよりも大きければどのような形状およびサイズであってもよい。
【0069】
以上のように、本実施形態では、光学フィルタ1aよりも被写体に近い側に、複数の遮光部1c_1および複数の透明部1c_2が交互に配列された遮光フィルタ1cが配置されている。被写体から入射する光は、まず透明部1c_2を通過し、次いで光学フィルタ1a、1bを透過して複数の光感知セル10に入射する。各透明部1c_2を透過した光束が入射する光学フィルタ1aの部分において、第1波長域の光に対する透過率がx方向に1周期以上変化しているため、実施形態1と同じ原理により、奥行き情報を得ることができる。本実施形態では、周囲からの不要光が遮光部1c_1によって遮断されるため、実施形態1の構成と比較して信号処理の精度が向上するという顕著な効果がある。
【0070】
本実施形態においては、上記の構成と同様の遮光効果が得られれば、図5Bに示す構成とは異なる構成を採用してもよい。例えば、図5Cに示す構成を採用してもよい。図5Cに示す構成では、光学フィルタ1aの一部が遮光部材から形成された遮光部1a_1であり、それ以外の部分は実施形態1の光学フィルタ1aと同様の部材によって形成された透光部1a_2である。遮光部1a_1および透光部1a_2の位置は、それぞれ図5Bにおける遮光部1c_1および透明部1c_2の位置に対応しており、それらのz座標のみが異なっている。このような構成であっても、図5Bに示す構成と同様の効果を得ることができる。
【0071】
なお、以上の実施形態では、光学フィルタ1bは、撮像素子2の撮像面に近接しているが、光学フィルタ1bは、撮像面から離れていてもよい。光学フィルタ1bが撮像面から所定距離だけ離れていても、その距離を考慮して信号処理を補正することにより、同様の原理で奥行き情報を得ることができる。
【0072】
以上の実施形態では、撮像装置に内蔵された画像処理部7が画像処理を行うものとしたが、撮像装置とは独立した他の装置に当該画像処理を実行させてもよい。例えば、上記の各実施形態における撮像部100を有する撮像装置によって取得した信号を、他の装置(画像処理装置)に入力し、上記の信号演算処理を規定するプログラムを当該画像処理装置に内蔵されたコンピュータに実行させることによっても同様の効果を得ることができる。外部の画像処理装置に画像処理を実行させる場合、撮像装置は画像処理部を備えていなくてもよい。本明細書では、このような、自身は奥行き情報を生成しないが、奥行き情報を生成するための信号を出力する撮像装置も、「奥行き推定撮像装置」と呼ぶ。
【産業上の利用可能性】
【0073】
本発明にかかる奥行き推定撮像装置は、撮像素子を用いたすべてのカメラに有効である。例えば、デジタルカメラやデジタルビデオカメラ等の民生用カメラや、産業用の固体監視カメラに利用できる。
【符号の説明】
【0074】
1 光学フィルタ部
1a、1b 光学フィルタ
1a_1 遮光部
1a_2 透光部
1ab_1 赤外光吸収部
1ab_2 透明部
1c 遮光フィルタ
1c_1遮光部
1c_2透光部
2 固体撮像素子
3 レンズ
4 可視光透過フィルタ
5 信号発生/受信部
6 素子駆動部
7 画像処理部
8 インターフェース部
10 光感知セル
30 メモリ
100 撮像部
200 信号処理部
【技術分野】
【0001】
本発明は1つの光学系と1つの撮像素子とを用いて被写体の奥行き情報を取得する単眼の3次元撮像技術に関する。
【背景技術】
【0002】
近年、CCDやCMOS等の固体撮像素子(以下、「撮像素子」と称する。)を用いたデジタルカメラやデジタルムービーの高機能化、高性能化には目を見張るものがある。特に半導体製造技術の進歩により、撮像素子における画素構造の微細化が進んでいる。その結果、撮像素子の画素および駆動回路の高集積化が図られてきた。このため、僅かの年数で撮像素子の画素数が100万画素程度から1000万画素以上へと著しく増加している。さらに、撮像によって得られる画像の質も飛躍的に向上している。一方、表示装置に関しては、薄型の液晶やプラズマによるディスプレイにより、場所を取らず、高解像度で高コントラストの表示が可能になり、高い性能が実現されている。このような映像の高品質化の流れは、2次元画像から3次元画像へと広がりつつある。昨今では、偏光メガネを必要とするが、高画質の3次元表示装置が開発され始めている。
【0003】
3次元撮像技術に関して、単純な構成をもつ代表的な方式として、2つのカメラから構成される撮像系を用いて、右目用の画像および左目用の画像をそれぞれ取得するという方式がある。このような、いわゆる2眼撮像方式では、カメラを2つ用いるため、撮像装置が大型になり、コストも高くなり得る。そこで、1つのカメラを用いて視差を有する複数の画像(以下、「複数視点画像」と呼ぶことがある。)を取得する方式(単眼撮像方式)が研究されている。
【0004】
例えば、特許文献1、2には、透過軸の方向が互いに直交する2枚の偏光板と回転する偏光フィルタとを用いて複数視点画像を取得する方式が開示されている。また、特許文献3〜5には、複数の色フィルタが設けられた絞り(光束制限板)を用いて複数視点画像を取得する方式が開示されている。
【0005】
上記の特許文献1〜5に開示された方式は、単眼のカメラによって主に複数視点画像を生成する際に利用される。一方、複数のマイクロレンズを備えた単眼のカメラを用いて奥行き情報を取得し、その情報に基づいて、取得後の画像の焦点位置を自由に変えることができる技術も存在する。そのような技術は、ライトフィールド・フォトグラフィーと呼ばれ、それを用いた単眼カメラは、ライトフィールドカメラと呼ばれる。ライトフィールドカメラでは、撮像素子上に複数のマイクロレンズが配置される。各マイクロレンズは、複数の画素を覆うように配置される。撮像後、取得した画像情報から、入射光の方向に関する情報を算出することにより、被写体の奥行きを推定できる。そのようなカメラは、例えば非特許文献1に開示されている。
【0006】
ライトフィールドカメラでは、奥行き情報を算出することができるが、マイクロレンズの数によって解像度が決まるため、撮像素子の画素数から決まる解像度よりも解像度が低下するという課題がある。その課題に対して、特許文献6には、2つの撮像系を用いて解像度を向上させる技術が開示されている。この技術では、入射光を2分割し、分割したそれぞれの入射光を、空間的に1/2ピッチずつずれて配列されたマイクロレンズ群を有する撮像系で撮像し、その後取得された画像を合成することによって解像度を向上させる。しかしながら、この技術では、撮像系が2つ必要であり、サイズおよびコストの面で課題がある。
【0007】
上記の課題に対して、1つの撮像系を用いて通常撮像モードとライトフィールド・フォトグラフィーに基づくモードとを切り換える技術が特許文献7に開示されている。この技術によれば、印加電圧に応じて焦点距離が変化するマイクロレンズが用いられ、マイクロレンズの焦点距離が、前者のモードでは無限大に設定され、後者のモードでは、所定の距離に設定される。このような機構により、解像度の高い画像と奥行き情報とを得ることができる。しかしながら、この手法では、マイクロレンズの焦点距離を制御するという高度な制御技術が必要である。
【先行技術文献】
【特許文献】
【0008】
【特許文献1】特開昭62−291292号公報
【特許文献2】特開昭62−217790号公報
【特許文献3】特開2002−344999号公報
【特許文献4】特開2009−276294号公報
【特許文献5】特開2003−134533号公報
【特許文献6】特開平11−98532号公報
【特許文献7】特開2008−167395号公報
【非特許文献】
【0009】
【非特許文献1】Ren Ng,et al,”Light Field Photography with a Hand−held Plenoptic Camera”, Stanford Tech Report CTSR 2005−02
【発明の概要】
【発明が解決しようとする課題】
【0010】
ライトフィールドカメラでは、奥行き情報を得ることはできるが、画像の解像度が低下するという課題がある。その課題を解決するためには、上記の特許文献6、7の技術のように、2つの撮像系が必要であったり、マイクロレンズの焦点距離を制御しなければならないという課題がある。
【0011】
本発明の実施形態では、上記の課題に鑑み、従来技術とは異なる光学系および信号処理を用いて、奥行き情報を取得し得る撮像技術を提供する。さらに、本発明の好ましい実施形態では、解像度の低下のない画像と奥行き情報とを1回の撮影で取得し得る撮像技術を提供する。
【課題を解決するための手段】
【0012】
本発明による奥行き推定撮像装置は、複数の光感知セルが撮像面に行列状に配列された撮像素子と、前記撮像面に像を形成するように配置された光学レンズと、前記光学レンズおよび前記撮像素子の間に配置された、特定の波長域の光に対する透過率が前記撮像面に平行な第1の方向に周期的に変化している第1の光学フィルタと、前記第1の光学フィルタと前記撮像素子との間に配置された、前記特定の波長域の光に対する透過率が前記第1の方向に周期的に変化し、かつ前記透過率の周期変化が前記第1の光学フィルタにおける前記特定の波長域の光に対する透過率の周期変化と比べて1/4周期ずれている第2の光学フィルタと、前記複数の光感知セルから出力される画素信号を処理する信号処理部とを備えている。
【0013】
ある実施形態において、前記信号処理部は、前記複数の光感知セルから出力される画素信号の空間周波数特性に基づいて、被写体の奥行きを示す情報を生成する。
【0014】
ある実施形態において、前記複数の光感知セルから出力される前記画素信号の前記空間周波数特性と前記被写体の奥行きとの対応関係を規定する情報が記録されたメモリをさらに備え、前記信号処理部は、前記対応関係を規定する情報を参照することによって前記奥行きを示す情報を生成する。
【0015】
ある実施形態において、前記複数の光感知セルの配列のうち、特定の行または列に対応する位置における前記第1の光学フィルタと前記第2の光学フィルタとの距離は、前記特定の行または列に隣接する行または列に対応する位置における前記第1の光学フィルタと前記第2の光学フィルタとの距離と異なっている。
【0016】
ある実施形態において、前記第1の光学フィルタおよび前記第2の光学フィルタは、前記複数の光感知セルの配列のn行(nは1以上の整数)ごとまたはn列ごとに対応する位置に配置されている。
【0017】
ある実施形態において、前記第1の光学フィルタおよび前記第2の光学フィルタの前記特定の波長域の光に対する透過率の前記第1の方向についての空間変化は、三角関数または矩形関数で表される。
【0018】
ある実施形態において、aおよびbを、a+b<1、b−a>0を満たす正の実数とし、ω0を正の実数とするとき、前記第1の光学フィルタの前記特定の波長域の光に対する透過率の前記第1の方向についての空間変化を表す関数は、近似的にasinω0x+bで表され、前記第2の光学フィルタの前記特定の波長域の光に対する透過率の前記第1の方向についての空間変化を表す関数は、近似的にacosω0x+bで表される。
【0019】
ある実施形態において、前記複数の光感知セルを、各々がu行v列(u,vは2以上の整数)に配列されたu×v個の光感知セルを含む複数のブロックに分けるとき、前記第1の光学フィルタおよび前記第2の光学フィルタは、各ブロックを覆うように配置され、各ブロック上で透過率が前記第1の方向に1周期以上変化している。
【0020】
ある実施形態では、各ブロックにおいて、前記第1の光学フィルタおよび前記第2の光学フィルタの前記特定の波長域の光に対する透過率の前記第1の方向についての空間変化は、複数の異なる周期をもつ周期関数の線型結合で表される。
【0021】
ある実施形態において、前記特定の波長域の下限は、650nmよりも長い。
【0022】
ある実施形態において、前記奥行き推定撮像装置は、前記第1の光学フィルタよりも被写体に近い側に配置された、可視光のみを透過させる第3の光学フィルタをさらに備え、前記特定の波長域は、可視光の波長域に含まれている。
【0023】
ある実施形態において、前記信号処理部は、前記第1および第2の光学フィルタが設けられていないと仮定した場合に各光感知セルから出力される画素信号と、前記第1および第2の光学フィルタが設けられている場合に各光感知セルから出力される画素信号との比を示す情報に基づいて、前記複数の光感知セルから出力される画素信号を補正することにより、可視光画像を生成する。
【0024】
ある実施形態において、前記奥行き推定撮像装置は、前記第1の光学フィルタよりも被写体に近い側に配置された、複数の遮光部および複数の透明部が交互に配列された第4の光学フィルタをさらに備え、各透明部を透過した光束が入射する前記第1の光学フィルタの部分において、前記特定の波長域の光に対する透過率が前記第1の方向について1周期以上変化している。
【発明の効果】
【0025】
本発明の実施形態によれば、特定の波長域の光に対する透過率の空間分布が周期関数で表され、位相が互いにπ/2(1/4周期)異なる2つの光学フィルタを通して撮像する。このため、これらの光学フィルタの透過率の周期変化のパターンの影響が取得した画素信号に現れる。これらの光学フィルタは、光軸方向に離れて配置されているため、これらの光学フィルタによって変調された画像のパターンから、入射光の集光状態を把握することができる。その結果、被写体の奥行き情報を算出することができる。一方、取得した画素信号に対して2つの光学フィルタの透過特性に基づく演算を行えば、通常の画像を取得することも可能である。
【図面の簡単な説明】
【0026】
【図1A】実施形態1における光学フィルタ1a、1bを示す平面図である。
【図1B】図1AにおけるA−A’線断面図であり、撮像面に集光する光束を示す図である。
【図1C】光学フィルタ1a、1bの第1波長域の光に対する透過率のx方向の変化を示すグラフである。
【図1D】図1AにおけるA−A’線断面図であり、撮像面の奥に集光する光束を示す図である。
【図1E】図1AにおけるA−A’線断面図であり、撮像面の手前に集光する光束を示す図である。
【図2】実施形態1の変形例における光学フィルタ1a、1bを示す平面図である。
【図3】実施形態1の他の変形例における光学フィルタ1a、1b、複数の光感知セル10を示す断面図である。
【図4A】実施形態2における光学フィルタ1a、1bを示す平面図である。
【図4B】図2AにおけるB−B’線断面図である。
【図4C】図2AにおけるC−C’線断面図である。
【図5A】実施形態3における遮光フィルタ1c、光学フィルタ1a、1bを示す平面図である。
【図5B】図5AにおけるA−A’線断面図である。
【図5C】実施形態3の変形例における光学フィルタ1a、1b、複数の光感知セル10を示す断面図である。
【図6】本発明の実施形態における撮像装置の構成を示すブロック図である。
【図7】本発明の実施形態における撮像装置の光学系構成を模式的に示す斜視図である。
【発明を実施するための形態】
【0027】
以下、図面を参照しながら、本発明の実施形態による奥行き推定撮像装置(以下、単に「撮像装置」と呼ぶ。)を説明する。以下の説明において、複数の図にわたって共通または対応する要素には同一の参照符号を付している。
【0028】
(実施形態1)
まず、本発明の第1の実施形態による撮像装置を説明する。図6は、本実施形態における撮像装置の全体構成を示すブロック図である。本実施形態の撮像装置は、デジタル式の電子カメラであり、撮像部100と、撮像部100で生成された信号に基づいて画像を示す信号(画像信号)を生成する信号処理部200とを備えている。撮像装置は、静止画のみならず動画を生成する機能を備えていてもよい。
【0029】
撮像部100は、撮像面に行列状に配列された複数の光感知セル(画素)を備える固体撮像素子2(以下、単に「撮像素子」と呼ぶ。)と、赤外光に近い波長域の光の一部を除去する光学フィルタ部1と、撮像素子2の撮像面上に像を形成するための光学レンズ3と、可視光のみを透過させる可視光透過フィルタ4とを備えている。光学フィルタ部1は、2種類の光学フィルタを含み、撮像素子2の撮像面上に配置されている。光学フィルタ部1の2種類の光学フィルタの各々は、およそ650nm〜700nmの波長域の光の一部を吸収または反射し、他の波長域の光を概ね透過させるように設計されている。一方、可視光透過フィルタ4は、650nm〜700nmの波長域の光を含む可視光を概ね透過させ、可視光以外の赤外線や紫外線を殆ど透過させないように設計されている。なお、本明細書では、約400nm〜700nmの波長域の電磁波を「可視光」と呼ぶ。上記の650nm〜700nmの光は、本明細書では「可視光」に含まれるが、人間にとって殆ど視認できないため、赤外光として扱う場合もある。以下の説明では、約650nm〜700nmの光を、「第1波長域の光」と呼ぶことがある。
【0030】
撮像部100はまた、撮像素子2を駆動するための基本信号を発生するとともに撮像素子2からの出力信号を受信して信号処理部200に送出する信号発生/受信部5と、信号発生/受信部5によって生成された基本信号に基づいて撮像素子2を駆動する素子駆動部6とを備えている。
【0031】
撮像素子2は、典型的にはCCDまたはCMOSセンサであり、公知の半導体製造技術によって製造される。信号発生/受信部5および素子駆動部6は、例えばCCDドライバなどのLSIから構成されている。撮像素子2の撮像面には行列状に複数の光感知セルが配列されている。各光感知セルは、典型的にはフォトダイオードを含み、受けた光の強度に応じた光電変換信号(画素信号)を出力する。
【0032】
信号処理部200は、撮像部100から出力された信号を処理して画像信号および被写体の奥行きを示す情報(奥行き情報)を生成する画像処理部7と、画像信号の生成に用いられる各種のデータを格納するメモリ30と、生成した画像信号および奥行き情報を外部に送出するインターフェース(IF)部8とを備えている。画像処理部7は、公知のデジタル信号処理プロセッサ(DSP)などのハードウェアと、画像信号生成処理を含む画像処理を実行するソフトウェアとの組合せによって好適に実現され得る。メモリ30は、DRAMなどによって構成される。メモリ30は、撮像部100から得られた信号を記録すると共に、画像処理部7によって生成された画像データや、圧縮された画像データを一時的に記録する。これらの画像データは、インターフェース部8を介して不図示の記録媒体や表示部などに送出される。
【0033】
なお、本実施形態の撮像装置は、電子シャッタ、ビューファインダ、電源(電池)、フラッシュライトなどの公知の構成要素を備え得るが、それらの説明は本発明の理解に特に必要でないため省略する。また、上記の構成は一例であり、本実施形態において、光学フィルタ部1、撮像素子2、画像処理部7以外の構成要素は、公知の要素を適宜組み合わせて用いることができる。
【0034】
以下、撮像部100の構成をより詳細に説明する。以下の説明では、撮像部100内の領域の位置や方向を説明する場合には、図中に示すxyz座標を用いる。なお、以下の説明における「上」、「下」などの用語は、参照される図に基づいており、必ずも現実の位置関係を反映しているわけではない。
【0035】
図7は、撮像部100におけるレンズ3、可視光透過フィルタ4、光学フィルタ部1、および撮像素子2の配置関係を模式的に示す図である。レンズ3は、複数のレンズ群から構成されたレンズユニットであり得るが、図7では簡単のため、単一のレンズとして描かれている。レンズ3は、公知のレンズであり、可視光透過フィルタ4の有無に関わらず、入射光を集光し、撮像素子2の撮像部に結像させる。なお、図7に示す各構成要素の配置関係はあくまでも一例であって、本発明はこのような例に限られるものではない。例えば、レンズ3と可視光透過フィルタ4の配置関係が入れ替わってもよい。
【0036】
図1Aは、光学フィルタ部1が配置された撮像素子2の撮像面の一部を示す平面図である。撮像面に行列状に配列された複数の光感知セルに対向して、2種類の光学フィルタ1a、1bが配置されている。図1Bは、図1AにおけるA−A’線断面図であり、複数の光感知セル10上に光学フィルタ1a、1bが配置されている状況を示している。光学フィルタ1a、1bの第1波長域の光に対する透過率は、x方向に周期的に変化している。この周期的変化の周波数をω0とする。光学フィルタ1aおよび光学フィルタ1bの第1波長域の光に対する透過率の周期変化の位相はπ/2(1/4周期)異なっている。
【0037】
ここで、光学フィルタ1a、1bの第1波長域の光に対する透過率T1a、T1bを数式で表すと、近似的にそれぞれ以下の式1、式2で表される。但し、両式において、aおよびbは、a+b<1、b−a>0を満たす正の実数である。
【数1】
【数2】
【0038】
図1Cは、T1aおよびT1bを示すグラフである。ここで、x座標の原点は任意の位置にとってよく、例えば光学フィルタ部1の中心や端部に設定され得る。また、パラメータa、bは、上記の条件を満たす限り、任意の値に設定してよい。このように、本実施形態における光学フィルタ1a、1bの第1波長域の光に対する透過率のx方向の空間変化は、三角関数で表される。
【0039】
このような透過特性を有する光学フィルタ1a、1bは、例えば650nm〜700nmの波長域の光を主に吸収する公知の顔料または染料を用いて作製され得る。当該顔料または染料の含有率をx座標に応じて調整することにより、式1および式2に示す透過特性を実現することが可能である。
【0040】
光学フィルタ1bは、光感知セル10の直上に配置され、その上に距離d離れて光学フィルタ1aが配置されている。入射光は、光学フィルタ1a、光学フィルタ1bの順に透過し、光感知セル10に入射して光電変換される。各光感知セル10は、光電変換によって受光量に応じた画素信号を出力する。
【0041】
以上の構成により、露光中に撮像装置に入射する光は、レンズ3、可視光透過フィルタ4、光学フィルタ部1を通して撮像素子2の撮像面上に結像され、各光感知セル10によって光電変換される。各光感知セル10から出力された画素信号は、信号発生/受信部5を介して信号処理部200に送出される。信号処理部200における画像処理部7は、送られてきた信号に基づいて画像を生成すると共に、奥行き情報も算出する。
【0042】
以下、画像処理部7による奥行き情報および画像の生成処理を説明する。なお、以下の説明では、可視光による通常の画像信号を「通常画像」または「可視光画像」と呼ぶことがある。
【0043】
まず、奥行き情報の算出方法を説明する。レンズ3、可視光透過フィルタ4を透過した光は、光学フィルタ1aを透過する。この時、第1波長域の光については、光学フィルタ1aの透過特性により、x方向に式1で表される透過率特性によって変調された光パターンが発生する。すなわち、光学フィルタ1aを透過した直後の第1波長域の光の強度分布は、式1にほぼ比例する。一方、第1波長域以外の可視光については、変調されることなく光学フィルタ1aを透過する。光学フィルタ1aを透過した光は、さらに光学フィルタ1bを透過する。光学フィルタ1bでは、第1波長域の光については、x方向に式2で表される透過率特性によって変調された光パターンが発生する。すなわち、光学フィルタ1bを透過した第1波長域の光の強度分布は、当該光が平行光と見なせる場合、式1で表される関数および式2で表される関数の積にほぼ比例する。一方、第1波長域以外の可視光は、変調されることなく光学フィルタ1bを透過する。光学フィルタ1bを透過した光は、光感知セル10により光電変換される。なお、上記の変調された光パターンは微細ではあるが、光感知セル10の信号を解析することにより、その周波数を特定できる程度の広がりを有するように、光学フィルタ1a、1bの位置および光感知セル10の数およびサイズが予め調整されている。
【0044】
本実施形態では、レンズ3から被写体までの距離(奥行き)により、撮像素子2の撮像面、すなわち複数の光感知セル10が配列された面における集光状態が異なることを利用して当該被写体の奥行が求められる。例えば、被写体のある部分から入射する光が撮像素子2の撮像面上で結像する場合、波動光学によれば、当該入射光は、図1Bに示すように平行光であるものとして扱うことができる。これに対し、奥行きの異なる部分から入射する光は、図1Dまたは図1Eに示されているように、撮像面の後方または前方で結像するため、平行光として扱うことはできない。図1Dに示す例では、入射光は光感知セル10の後方で結像し、図1Eに示す例では、入射光は光感知セル10の前方で結像している。光学フィルタ1a、1bは、光軸上の配置(z座標)が互いに異なるため、光学フィルタ1aを透過し式1で表される透過率で変調された光パターンは、光学フィルタ1b上では、入射光の集光状態に応じて異なるパターンとなる。光学フィルタ1b上での光パターンの周波数をωとすると、図1Bに示す状態ではω=ωoであり、図1Dに示す状態ではω>ωoであり、図1Eに示す状態ではω<ωoとなる。
【0045】
以上のことから、光感知セル10によって光電変換される光による上記光パターンの交流成分は、以下の式3で表される値Acに比例する。
【数3】
【数4】
【0046】
式4において、第4項sin(ω−ωo)xは、光学フィルタ1a、1b間を光が進む間に生じる光パターンの変化量を周波数で表しており、しかも奇関数である。このため、各光感知セル10から出力される画素信号から、第4項に相当する周波数(ω−ωo)の成分を検出することにより、光がどの程度集束または発散しているのかを判別することができる。具体的な周波数解析は、例えば複数の光感知セル10から出力される画素信号にωo以上の周波数成分を除去するローパスフィルタを用いて低域のsin(ω−ωo)xの成分を取り出し、その符号および周波数を検出することによって行われる。検出した符号および周波数に基づいて、入射光の集光状態を判別し、被写体までの距離を推定することができる。なお、ω<ω0の場合、式4におけるsinωxの成分が残るが、ωよりもω−ω0の方が著しく小さいため、ローパスフィルタ後の信号の低周波成分だけを解析すればよい。また、ω0ではなく、例えばω0/2以上の周波数成分を除去するローパスフィルタを用いてもよい。
【0047】
ここで、sin(ω−ωo)xの成分の値と、被写体までの距離との対応関係を示す情報(例えばデータベース)が、予め実験やシミュレーションなどによって求められ、メモリ30などの記録媒体に記録されている。画像処理部7は、当該情報を参照して、画素信号から被写体の奥行を求めることができる。
【0048】
ここで、周波数ωは、光学フィルタ1a、1bの光軸方向の距離dに依存する。本実施形態では、周波数ωがωoに近い値となるように距離dが設定されている。また、上記の演算は、(ω−ωo)に近い低域の画像周波数帯域を有していない被写体の部分に対して有効であるため、本実施形態ではそのような被写体の部分を奥行き算出の対象とする。但し、上記の奥行き算出に使われる光の波長域である約650nm〜700nmは、赤〜赤外の波長域に該当するため、RGBのカラー撮像素子を利用すれば、被写体画像の空間周波数に関わらず奥行き情報を算出できる可能性がある。これは、赤(R)画素による画像と、緑(G)画素または青(B)画素による画像とから、上記光パターンの画像と被写体画像とを切り分けることができるからである。したがって、画像処理部7は、赤画素による画像から奥行き情報を推定し、緑画素および青画素による画像から通常画像を生成してもよい。
【0049】
次に、解像度低下のない通常画像(可視光画像)を取得する処理を説明する。本実施形態では、撮像光学系に可視光透過フィルタ4が含まれているので、仮に光学フィルタ部1が装着されていないとすると、解像度低下のない可視光による通常画像を取得できる。ところが、実際には光学フィルタ部1が装着されているため、赤光〜赤外光に近い波長域において光の変調が生じる。その結果、光学フィルタ1a、1bによって変調された光のパターンが被写体画像に重畳される。そこで、本実施形態では、予め光学フィルタ部1が装着されていない場合の画像と光学フィルタ部1を装着した場合の画像とから、それらの画素信号の比率(以下、「光パターン除去比率」と呼ぶ)を求めておく。例えば、一定強度の白色光を用いて、光学フィルタ部1がない場合の画素信号S1と、光学フィルタ部1がある場合の画素信号S2との比S1/S2を、光パターン除去比率として、画素ごとに予めメモリ30などに記録しておく。画像処理部7は、光パターン除去比率を用いて各光感知セル10から取得した信号を変換することによって光学フィルタ1a、1bによる光の変調の影響を取り除く。例えば、上記のS1/S2を光パターン除去比率とする場合、撮像によって取得した各画素信号にS1/S2を乗ずることにより、画像信号を得る。このようにして、画像処理部7は、解像度低下のない通常画像を取得する。
【0050】
以上のように、本実施形態によれば、光感知セル10上に、透過率がx方向に周期的に変化し、周期性が互いに約π/2異なる2種類の光学フィルタ1a、1bが、y方向に所定の距離dだけ離れて配置される。これにより、光学フィルタ1a、1bを透過した光のパターン(x方向の強度分布)は、入射光の集光状態を反映して変調される。画素信号の空間周波数特性を解析することにより、入射光の集光状態が検出でき、被写体までの距離を推定することができる。また、光パターン除去比率を用いた演算により、解像度低下のない通常画像を取得することができる。
【0051】
なお、本実施形態では、赤外光に近い約650nm〜700nmの波長域の光の一部を減衰させる光学フィルタ1a、1bを用いたが、それに限定するものではなく、他の波長域の光の一部を減衰させる光学フィルタを用いてもよい。例えば、約400nm〜500nmの波長域の青光、約500nm〜600nmの波長域の緑光、700nmを超える波長域の赤外光に対する透過率がx方向に周期的に異なっている光学フィルタを用いてもよい。ただし、光学フィルタによる光の変調は、回折の影響が小さい長波長の波長域、例えば下限が650nm以上の波長域の光に対して行うことが好ましい。波長が700nmを超える赤外光に対する透過率が周期的に変化している光学フィルタを用いる場合、可視光透過フィルタ4の代わりに、当該赤外光の波長域にまで透過特性を有する光学フィルタを設ける必要がある。
【0052】
また、本実施形態における光学フィルタ1a、1bの透過特性は、sin関数およびcos関数を用いて表されるが、周期関数であれば、その他の関数で表される透過特性の光学フィルタを用いても問題はない。任意の周期関数はフーリエ級数展開によって周波数の互いに異なる複数のsin関数またはcos関数の線型結合で表すことができるため、フーリエ成分に分解して処理することができればどのような透過特性の光学フィルタを用いてもよい。
【0053】
さらに、光学フィルタ1a、1bは、x方向に透過率が周期的に変化しているが、この周期変化の方向はx方向である必要はなく、任意の方向であってもよい。画像処理部7は、当該周期変化の方向に関わらず、当該方向の画素信号のパターンに基づいて奥行き情報を生成することができる。
【0054】
また、光学フィルタ1a、1bは、図2に示すように、撮像素子2の画素配列の1行おきに対応して配置されていてもよいし、n行(nは2以上の整数)おきに対応して配置されていてもよい。但し、この場合、奥行き推定に関して、垂直方向(y方向)の精度が1/2または1/(n+1)に低下する。あるいは、画素配列の1列おき、またはn列おきに光学フィルタ1a、1bが配置されていてもよい。この場合、光学フィルタ1a、1bは、第1波長域の光に対する透過率がy方向に周期的に変化するように構成される。
【0055】
また、図3に示すように、赤外光吸収部1ab_1と透明部1ab_2とが交互に配列した光学フィルタ1a、1bを用いてもよい。この例では、赤外光に近い波長域の光に対する透過率のx方向の分布がステップ関数で表される。すなわち、赤外光吸収部1ab_1では、約650nm〜700nm付近の波長域の光を、x座標に関わらず一定の透過率で透過させ、透明部1ab_2では、上記の波長域を含む可視光の大部分を透過させる。このような構成でも、2つの光学フィルタ1a、1bが、x方向に互いに1/4周期ずれて配置されていれば、同様の原理によって奥行き情報を得ることができる。なお、個々の赤外光吸収部1ab_1および透明部1ab_2は、例えばu行v列(u、vは2以上の整数)を1ブロックとするu×v個の光感知セル10を覆うように設けられる。そのような構成において、ブロックごとに画素信号を処理することにより、個々のブロックに対応する被写体の部分の奥行きの情報を得ることができる。このようなブロックを単位として処理する構成は、図3に示す構成に限らず、図1Bや図2に示す光学フィルタ1a、1bを用いた構成においても適用できる。その場合、1つのブロックに対応する光学フィルタ1a、1bの部分の第1波長域の光に対する透過率は、少なくとも1つの方向に1周期以上変化していることが好ましい。これは、1ブロックに含まれるu×v個の光感知セルによって検知される信号の周波数特性を検出するためには、1ブロック内で1周期以上の変化が生じることが好ましいからである。
【0056】
なお、個々の赤外光吸収部1ab_1および透明部1ab_2の透過率は、ステップ関数で表される場合に限らず、第1波長域の光に対する透過率がその範囲内で位置によって異なっていてもよい。また、1ブロック内で第1波長域の光に対する透過率が位置によって異なっている構成においても、複数の光感知セルを含むブロックを基本構成として処理してもよい。
【0057】
また、本実施形態では、撮像素子2の画素配列は正方格子状の配列であるが、この配列に限らず、例えば斜交型の配列であってもよい。斜光型の配列を用いる場合、光感知セル10の配列の方向と光学フィルタ1a、1bにおける透過率の周期変化の方向とが交差することになる。その場合であっても、透過率の周期変化の方向と同じ方向に並んだ複数の光感知セルから出力される信号を処理することにより、奥行き情報を求めることができる。
【0058】
(実施形態2)
次に、本発明の第2の実施形態による撮像装置を説明する。本実施形態では、実施形態1と比べて、光学フィルタ部1の構造のみが異なる。以下、実施形態1の撮像装置と異なる点を中心に説明し、重複する事項についての説明は省略する。
【0059】
図4Aは、本実施形態における光学フィルタ部1が配置された撮像素子2の撮像面の一部を示す平面図である。図4Bは、図4AにおけるB−B’線断面図であり、図4Cは、図4AにおけるC−C’線断面図である。本実施形態における光学フィルタ部1は、実施形態1における光学フィルタ部1と同様、光学フィルタ1a、1bを含んでいるが、光学フィルタ1aの構造が異なっている。本実施形態では、光学フィルタ1aと光学フィルタ1bとの距離が撮像素子2の画素配列の行ごとに異なっている。それらの距離は、奇数行ではdであり、偶数行ではほぼ0である。すなわち、光学フィルタ1aは、y方向に凹凸が1画素間隔で繰り返す構造を有している。奇数行に対応する光学フィルタ1aの部分のz座標は、実施形態1における光学フィルタ1aのz座標と同じであるが、偶数行に対応する光学フィルタ1aの部分は、光学フィルタ1bにほぼ密着している。
【0060】
撮像素子2において、奇数行のy座標を2m−1、偶数行のy座標を2m(mは自然数)と表すと、座標(x,2m−1)および座標(x,2m)のそれぞれにおける第1波長域の光に対する透過率の空間変化を示す関数To、Teは、それぞれ以下の式5、式6で表される。また、これらの差分To−Teは、式7で表される。
【数5】
【数6】
【数7】
【0061】
以上より、隣接する2行の画素信号の差分処理結果は式7で表されるT0−Teに比例し、ωo以上の周波数成分を除去するローパスフィルタで高周波成分を除去すれば、sin(ω−ωo)xの成分を取り出すことができる。この処理により、実施形態1における処理と同様、入射光の集光状態を検出できるため、被写体までの距離も推定できる。なお、一般の被写体では、隣接する2行の画素信号はほぼ等しいので、隣接する2行の画素信号間の差分により、被写体の画像情報を取り除くことができる。その結果、実施形態1とは異なり、被写体の画像の空間周波数に関係なく奥行き情報を算出できる。なお、解像度低下のない通常画像を取得する処理は、実施形態1における処理と同じであるため、その説明は省略する。
【0062】
以上のように、本実施形態によれば、撮像素子2の画素配列の1行おきに光学フィルタ1a、1b間の距離が異なり、それらの距離はdまたは0に設定される。さらに、信号処理として隣接する2行の画素信号の差分処理を行い、その低周波数帯域の成分を検出することにより、入射光の集光状態が特定でき、被写体までの距離を推定できる。
【0063】
なお、本実施形態でも、赤外光に近い約650nm〜700nmの波長域の光の一部を減衰させる光学フィルタ1a、1bが用いられるが、他の波長域の光の一部を減衰させる光学フィルタを用いてもよい。また、光学フィルタ1a、1bの透過特性に関しても、sin関数、cos関数を用いて表される透過特性に限らず、周期関数で表されれば、どのような透過特性の光学フィルタを用いてもよい。さらに、本実施形態では、1行おきに光学フィルタ1a、1b間の距離を変えたが、n行おきに(nは2以上の整数)変えても問題ない。あるいは、特定の波長域の光に対する透過率がy方向に周期的に変化するように光学フィルタ1a、1bを配置した上で、1列おき、またはn列おきに光学フィルタ1a、1b間の距離を変えてもよい。
【0064】
(実施形態3)
次に、本発明の第3の実施形態を説明する。本実施形態の撮像装置は、光学フィルタ1aを覆うように配置された遮光フィルタ1cをさらに備えている点で実施形態1の撮像装置と異なっている。以下、実施形態1と異なる点を中心に説明し、重複する事項についての説明は省略する。
【0065】
図5Aは、光学フィルタ1a、1b、および遮光フィルタ1cが配置された撮像素子2の撮像面の一部を示す平面図である。図5Bは、図5AにおけるA−A’線断面図である。図5A、図5Bに示すように、遮光部1c_1と透明部1c_2とが交互に配列された遮光フィルタ1cが光学フィルタ1aを覆うように配置されている。
【0066】
遮光部1c_1は、光の大部分を吸収または反射する部材で形成されている。一方、透明部1c_1は、ガラスや空気などの透明部材で形成されている。このような遮光フィルタ1cを設けることにより、周囲からの不要な光の入射を防ぐことができるため、信号処理の精度が向上する。
【0067】
本実施形態における画像信号の生成処理および奥行き情報生成処理は、実施形態1のものと同一であるため、詳細な説明は省略する。
【0068】
なお、本実施形態では、個々の遮光部1c_1および透明部1c_2は、ともに正方形状であり、画素25(=5×5)個分のサイズを有しているが、これらの形状およびサイズはこのような例に限られない。透明部1c_1のある方向のサイズが光学フィルタ1aの上記第1波長域の光に対する透過率の1周期分のサイズよりも大きければどのような形状およびサイズであってもよい。
【0069】
以上のように、本実施形態では、光学フィルタ1aよりも被写体に近い側に、複数の遮光部1c_1および複数の透明部1c_2が交互に配列された遮光フィルタ1cが配置されている。被写体から入射する光は、まず透明部1c_2を通過し、次いで光学フィルタ1a、1bを透過して複数の光感知セル10に入射する。各透明部1c_2を透過した光束が入射する光学フィルタ1aの部分において、第1波長域の光に対する透過率がx方向に1周期以上変化しているため、実施形態1と同じ原理により、奥行き情報を得ることができる。本実施形態では、周囲からの不要光が遮光部1c_1によって遮断されるため、実施形態1の構成と比較して信号処理の精度が向上するという顕著な効果がある。
【0070】
本実施形態においては、上記の構成と同様の遮光効果が得られれば、図5Bに示す構成とは異なる構成を採用してもよい。例えば、図5Cに示す構成を採用してもよい。図5Cに示す構成では、光学フィルタ1aの一部が遮光部材から形成された遮光部1a_1であり、それ以外の部分は実施形態1の光学フィルタ1aと同様の部材によって形成された透光部1a_2である。遮光部1a_1および透光部1a_2の位置は、それぞれ図5Bにおける遮光部1c_1および透明部1c_2の位置に対応しており、それらのz座標のみが異なっている。このような構成であっても、図5Bに示す構成と同様の効果を得ることができる。
【0071】
なお、以上の実施形態では、光学フィルタ1bは、撮像素子2の撮像面に近接しているが、光学フィルタ1bは、撮像面から離れていてもよい。光学フィルタ1bが撮像面から所定距離だけ離れていても、その距離を考慮して信号処理を補正することにより、同様の原理で奥行き情報を得ることができる。
【0072】
以上の実施形態では、撮像装置に内蔵された画像処理部7が画像処理を行うものとしたが、撮像装置とは独立した他の装置に当該画像処理を実行させてもよい。例えば、上記の各実施形態における撮像部100を有する撮像装置によって取得した信号を、他の装置(画像処理装置)に入力し、上記の信号演算処理を規定するプログラムを当該画像処理装置に内蔵されたコンピュータに実行させることによっても同様の効果を得ることができる。外部の画像処理装置に画像処理を実行させる場合、撮像装置は画像処理部を備えていなくてもよい。本明細書では、このような、自身は奥行き情報を生成しないが、奥行き情報を生成するための信号を出力する撮像装置も、「奥行き推定撮像装置」と呼ぶ。
【産業上の利用可能性】
【0073】
本発明にかかる奥行き推定撮像装置は、撮像素子を用いたすべてのカメラに有効である。例えば、デジタルカメラやデジタルビデオカメラ等の民生用カメラや、産業用の固体監視カメラに利用できる。
【符号の説明】
【0074】
1 光学フィルタ部
1a、1b 光学フィルタ
1a_1 遮光部
1a_2 透光部
1ab_1 赤外光吸収部
1ab_2 透明部
1c 遮光フィルタ
1c_1遮光部
1c_2透光部
2 固体撮像素子
3 レンズ
4 可視光透過フィルタ
5 信号発生/受信部
6 素子駆動部
7 画像処理部
8 インターフェース部
10 光感知セル
30 メモリ
100 撮像部
200 信号処理部
【特許請求の範囲】
【請求項1】
複数の光感知セルが撮像面に行列状に配列された撮像素子と、
前記撮像面に像を形成するように配置された光学レンズと、
前記光学レンズおよび前記撮像素子の間に配置された、特定の波長域の光に対する透過率が前記撮像面に平行な第1の方向に周期的に変化している第1の光学フィルタと、
前記第1の光学フィルタと前記撮像素子との間に配置された、前記特定の波長域の光に対する透過率が前記第1の方向に周期的に変化し、かつ前記透過率の周期変化が前記第1の光学フィルタにおける前記特定の波長域の光に対する透過率の周期変化と比べて1/4周期ずれている第2の光学フィルタと、
前記複数の光感知セルから出力される画素信号を処理する信号処理部と、
を備える奥行き推定撮像装置。
【請求項2】
前記信号処理部は、前記複数の光感知セルから出力される画素信号の空間周波数特性に基づいて、被写体の奥行きを示す情報を生成する、請求項1に記載の奥行き推定撮像装置。
【請求項3】
前記複数の光感知セルから出力される前記画素信号の前記空間周波数特性と前記被写体の奥行きとの対応関係を規定する情報が記録されたメモリをさらに備え、
前記信号処理部は、前記対応関係を規定する情報を参照することによって前記奥行きを示す情報を生成する、請求項2に記載の奥行き推定撮像装置。
【請求項4】
前記複数の光感知セルの配列のうち、特定の行または列に対応する位置における前記第1の光学フィルタと前記第2の光学フィルタとの距離は、前記特定の行または列に隣接する行または列に対応する位置における前記第1の光学フィルタと前記第2の光学フィルタとの距離と異なっている、請求項1から3のいずれかに記載の奥行き推定撮像装置。
【請求項5】
前記第1の光学フィルタおよび前記第2の光学フィルタは、前記複数の光感知セルの配列のn行(nは1以上の整数)ごとまたはn列ごとに対応する位置に配置されている、請求項1から3のいずれかに記載の奥行き推定撮像装置。
【請求項6】
前記第1の光学フィルタおよび前記第2の光学フィルタの前記特定の波長域の光に対する透過率の前記第1の方向についての空間変化は、三角関数または矩形関数で表される、請求項1から5のいずれかに記載の奥行き推定撮像装置。
【請求項7】
aおよびbを、a+b<1、b−a>0を満たす正の実数とし、ω0を正の実数とするとき、
前記第1の光学フィルタの前記特定の波長域の光に対する透過率の前記第1の方向についての空間変化を表す関数は、近似的にasinω0x+bで表され、
前記第2の光学フィルタの前記特定の波長域の光に対する透過率の前記第1の方向についての空間変化を表す関数は、近似的にacosω0x+bで表される、
請求項6に記載の奥行き推定撮像装置。
【請求項8】
前記複数の光感知セルを、各々がu行v列(u,vは2以上の整数)に配列されたu×v個の光感知セルを含む複数のブロックに分けるとき、
前記第1の光学フィルタおよび前記第2の光学フィルタは、各ブロックを覆うように配置され、各ブロック上で透過率が前記第1の方向に1周期以上変化している、
請求項1から7のいずれかに記載の奥行き推定撮像装置。
【請求項9】
各ブロックにおいて、前記第1の光学フィルタおよび前記第2の光学フィルタの前記特定の波長域の光に対する透過率の前記第1の方向についての空間変化は、複数の異なる周期をもつ周期関数の線型結合で表される、請求項1から8のいずれかに記載の奥行き推定撮像装置。
【請求項10】
前記特定の波長域の下限は、650nmよりも長い、請求項1から9のいずれかに記載の奥行き推定撮像装置。
【請求項11】
前記第1の光学フィルタよりも被写体に近い側に配置された、可視光のみを透過させる第3の光学フィルタをさらに備え、
前記特定の波長域は、可視光の波長域に含まれている、
請求項1から10のいずれかに記載の奥行き推定撮像装置。
【請求項12】
前記信号処理部は、前記第1および第2の光学フィルタが設けられていないと仮定した場合に各光感知セルから出力される画素信号と、前記第1および第2の光学フィルタが設けられている場合に各光感知セルから出力される画素信号との比を示す情報に基づいて、前記複数の光感知セルから出力される画素信号を補正することにより、可視光画像を生成する、請求項1から11のいずれかに記載の奥行き推定撮像装置。
【請求項13】
前記第1の光学フィルタよりも被写体に近い側に配置された、複数の遮光部および複数の透明部が交互に配列された第4の光学フィルタをさらに備え、
各透明部を透過した光束が入射する前記第1の光学フィルタの部分において、前記特定の波長域の光に対する透過率が前記第1の方向について1周期以上変化している、
請求項1から12のいずれかに記載の奥行き推定撮像装置。
【請求項1】
複数の光感知セルが撮像面に行列状に配列された撮像素子と、
前記撮像面に像を形成するように配置された光学レンズと、
前記光学レンズおよび前記撮像素子の間に配置された、特定の波長域の光に対する透過率が前記撮像面に平行な第1の方向に周期的に変化している第1の光学フィルタと、
前記第1の光学フィルタと前記撮像素子との間に配置された、前記特定の波長域の光に対する透過率が前記第1の方向に周期的に変化し、かつ前記透過率の周期変化が前記第1の光学フィルタにおける前記特定の波長域の光に対する透過率の周期変化と比べて1/4周期ずれている第2の光学フィルタと、
前記複数の光感知セルから出力される画素信号を処理する信号処理部と、
を備える奥行き推定撮像装置。
【請求項2】
前記信号処理部は、前記複数の光感知セルから出力される画素信号の空間周波数特性に基づいて、被写体の奥行きを示す情報を生成する、請求項1に記載の奥行き推定撮像装置。
【請求項3】
前記複数の光感知セルから出力される前記画素信号の前記空間周波数特性と前記被写体の奥行きとの対応関係を規定する情報が記録されたメモリをさらに備え、
前記信号処理部は、前記対応関係を規定する情報を参照することによって前記奥行きを示す情報を生成する、請求項2に記載の奥行き推定撮像装置。
【請求項4】
前記複数の光感知セルの配列のうち、特定の行または列に対応する位置における前記第1の光学フィルタと前記第2の光学フィルタとの距離は、前記特定の行または列に隣接する行または列に対応する位置における前記第1の光学フィルタと前記第2の光学フィルタとの距離と異なっている、請求項1から3のいずれかに記載の奥行き推定撮像装置。
【請求項5】
前記第1の光学フィルタおよび前記第2の光学フィルタは、前記複数の光感知セルの配列のn行(nは1以上の整数)ごとまたはn列ごとに対応する位置に配置されている、請求項1から3のいずれかに記載の奥行き推定撮像装置。
【請求項6】
前記第1の光学フィルタおよび前記第2の光学フィルタの前記特定の波長域の光に対する透過率の前記第1の方向についての空間変化は、三角関数または矩形関数で表される、請求項1から5のいずれかに記載の奥行き推定撮像装置。
【請求項7】
aおよびbを、a+b<1、b−a>0を満たす正の実数とし、ω0を正の実数とするとき、
前記第1の光学フィルタの前記特定の波長域の光に対する透過率の前記第1の方向についての空間変化を表す関数は、近似的にasinω0x+bで表され、
前記第2の光学フィルタの前記特定の波長域の光に対する透過率の前記第1の方向についての空間変化を表す関数は、近似的にacosω0x+bで表される、
請求項6に記載の奥行き推定撮像装置。
【請求項8】
前記複数の光感知セルを、各々がu行v列(u,vは2以上の整数)に配列されたu×v個の光感知セルを含む複数のブロックに分けるとき、
前記第1の光学フィルタおよび前記第2の光学フィルタは、各ブロックを覆うように配置され、各ブロック上で透過率が前記第1の方向に1周期以上変化している、
請求項1から7のいずれかに記載の奥行き推定撮像装置。
【請求項9】
各ブロックにおいて、前記第1の光学フィルタおよび前記第2の光学フィルタの前記特定の波長域の光に対する透過率の前記第1の方向についての空間変化は、複数の異なる周期をもつ周期関数の線型結合で表される、請求項1から8のいずれかに記載の奥行き推定撮像装置。
【請求項10】
前記特定の波長域の下限は、650nmよりも長い、請求項1から9のいずれかに記載の奥行き推定撮像装置。
【請求項11】
前記第1の光学フィルタよりも被写体に近い側に配置された、可視光のみを透過させる第3の光学フィルタをさらに備え、
前記特定の波長域は、可視光の波長域に含まれている、
請求項1から10のいずれかに記載の奥行き推定撮像装置。
【請求項12】
前記信号処理部は、前記第1および第2の光学フィルタが設けられていないと仮定した場合に各光感知セルから出力される画素信号と、前記第1および第2の光学フィルタが設けられている場合に各光感知セルから出力される画素信号との比を示す情報に基づいて、前記複数の光感知セルから出力される画素信号を補正することにより、可視光画像を生成する、請求項1から11のいずれかに記載の奥行き推定撮像装置。
【請求項13】
前記第1の光学フィルタよりも被写体に近い側に配置された、複数の遮光部および複数の透明部が交互に配列された第4の光学フィルタをさらに備え、
各透明部を透過した光束が入射する前記第1の光学フィルタの部分において、前記特定の波長域の光に対する透過率が前記第1の方向について1周期以上変化している、
請求項1から12のいずれかに記載の奥行き推定撮像装置。
【図1C】
【図6】
【図7】
【図1A】
【図1B】
【図1D】
【図1E】
【図2】
【図3】
【図4A】
【図4B】
【図4C】
【図5A】
【図5B】
【図5C】
【図6】
【図7】
【図1A】
【図1B】
【図1D】
【図1E】
【図2】
【図3】
【図4A】
【図4B】
【図4C】
【図5A】
【図5B】
【図5C】
【公開番号】特開2013−106217(P2013−106217A)
【公開日】平成25年5月30日(2013.5.30)
【国際特許分類】
【出願番号】特願2011−249260(P2011−249260)
【出願日】平成23年11月15日(2011.11.15)
【出願人】(000005821)パナソニック株式会社 (73,050)
【Fターム(参考)】
【公開日】平成25年5月30日(2013.5.30)
【国際特許分類】
【出願日】平成23年11月15日(2011.11.15)
【出願人】(000005821)パナソニック株式会社 (73,050)
【Fターム(参考)】
[ Back to top ]