画像処理装置および画像処理プログラム
【課題】ピントが合ったオブジェクトに対する視差画像間の視差量は零であるはずにも関わらず、撮影に用いられた撮影レンズの収差等の影響により、視差量が零にならない場合があった。
【解決手段】画像処理装置は、少なくとも一部の光電変換素子のそれぞれに対応して開口マスクが設けられた少なくとも２つの視差画像データを出力する撮像素子から視差画像データを取得する画像データ取得部と、視差画像データの撮像時における合焦情報を取得する合焦情報取得部と、合焦情報に基づいて、視差画像データにおける同一被写体間の視差量を補正する視差量補正部とを備える。
【解決手段】画像処理装置は、少なくとも一部の光電変換素子のそれぞれに対応して開口マスクが設けられた少なくとも２つの視差画像データを出力する撮像素子から視差画像データを取得する画像データ取得部と、視差画像データの撮像時における合焦情報を取得する合焦情報取得部と、合焦情報に基づいて、視差画像データにおける同一被写体間の視差量を補正する視差量補正部とを備える。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、画像処理装置および画像処理プログラムに関する。
【背景技術】
【０００２】
２つの撮影光学系を用いて、右目用の画像と左目用の画像とから成るステレオ画像を撮像するステレオ撮像装置が知られている。このようなステレオ撮像装置は、２つの撮像光学系を一定の間隔で配置することにより、同一の被写体を撮像して得られる２つの画像に視差を生じさせる。
［先行技術文献］
［特許文献］
［特許文献１］ 特開平８−４７００１号公報
【発明の概要】
【発明が解決しようとする課題】
【０００３】
ピントが合ったオブジェクトに対する視差画像間の視差量は零であるはずにも関わらず、撮影に用いられた撮影レンズの収差等の影響により、視差量が零にならない場合があった。
【課題を解決するための手段】
【０００４】
本発明の第１の態様における画像処理装置は、少なくとも一部の光電変換素子のそれぞれに対応して開口マスクが設けられた少なくとも２つの視差画像データを出力する撮像素子から視差画像データを取得する画像データ取得部と、視差画像データの撮像時における合焦情報を取得する合焦情報取得部と、合焦情報に基づいて、視差画像データにおける同一被写体間の視差量を補正する視差量補正部とを備える。
【０００５】
本発明の第２の態様における撮像装置は、上記の撮像素子と画像処理装置を含み、上記の撮像素子は、隣接するｎ個（ｎは３以上の整数）の光電変換素子のうち、少なくとも３つに対応して設けられたそれぞれの開口マスクの開口は、互いに異なる波長帯域を透過させる少なくとも２種類のカラーフィルタから構成されるカラーフィルターパターンの一パターン内に含まれると共に、入射光の断面領域内の互いに異なる部分領域からの光束をそれぞれ通過させるように位置づけられ、ｎ個の光電変換素子を一組とする光電変換素子群が周期的に配列されており、開口マスクが設けられた光電変換素子の出力信号に基づいて視差画像データを出力する。
【０００６】
本発明の第３の態様における画像処理プログラムは、少なくとも一部の光電変換素子のそれぞれに対応して開口マスクが設けられた少なくとも２つの視差画像データを出力する撮像素子から視差画像データを取得する画像データ取得ステップと、視差画像データの撮像時における合焦情報を取得する合焦情報取得ステップと、合焦情報に基づいて、視差画像データにおける同一被写体間の視差量を補正する視差量補正ステップとをコンピュータに実行させる。
【０００７】
なお、上記の発明の概要は、本発明の必要な特徴の全てを列挙したものではない。また、これらの特徴群のサブコンビネーションもまた、発明となりうる。
【図面の簡単な説明】
【０００８】
【図１】本発明の実施形態に係るデジタルカメラの構成を説明する図である。
【図２】本発明の実施形態に係る撮像素子の断面を表す概略図である。
【図３】撮像素子の一部を拡大した様子を表す概略図である。
【図４】視差画素と被写体の関係を説明する概念図である。
【図５】視差画像を生成する処理を説明する概念図である。
【図６】繰り返しパターンの他の例を示す図である。
【図７】二次元的な繰り返しパターンの例を示す図である。
【図８】開口部の他の形状を説明する図である。
【図９】ベイヤー配列を説明する図である。
【図１０】ベイヤー配列に対する視差画素の割り振りについて、視差画素の種類が２つである場合のバリエーションを説明する図である。
【図１１】バリエーションの一例を示す図である。
【図１２】他のバリエーションの一例を示す図である。
【図１３】他のバリエーションの一例を示す図である。
【図１４】他のカラーフィルタ配列を説明する図である。
【図１５】Ｗ画素と視差画素の配列の一例を示す図である。
【図１６】視差画像と２Ｄ画像の生成過程を示す概念図である。
【図１７】光学ファインダから観察される被写体像および測距領域を示す図である。
【図１８】デジタルカメラと各被写体との距離を示す概念図である。
【図１９】視差マップの生成処理を説明する説明図である。
【図２０】視差マップの補正処理を説明する説明図である。
【図２１】較正情報の例を説明する説明図である。
【図２２】視差マップを参照して原色情報を移植する処理の概念を示す図である。
【発明を実施するための形態】
【０００９】
以下、発明の実施の形態を通じて本発明を説明するが、以下の実施形態は特許請求の範囲にかかる発明を限定するものではない。また、実施形態の中で説明されている特徴の組み合わせの全てが発明の解決手段に必須であるとは限らない。
【００１０】
画像処理装置の一形態である撮像装置としての本実施形態に係るデジタルカメラは、１つのシーンについて複数の視点数の画像を一度の撮影により生成できるように構成されている。互いに視点の異なるそれぞれの画像を視差画像と呼ぶ。
【００１１】
図１は、本発明の実施形態に係るデジタルカメラ１０の構成を説明する図である。デジタルカメラ１０は、撮影光学系としての撮影レンズ２０を備え、光軸２１に沿って入射する被写体光束を撮像素子１００へ導く。デジタルカメラ１０は、撮像素子１００、制御部２０１、Ａ／Ｄ変換回路２０２、メモリ２０３、駆動部２０４、画像処理部２０５、メモリカードＩＦ２０７、操作部２０８、表示部２０９、ＬＣＤ駆動回路２１０およびＡＦセンサ２１１を備える。
【００１２】
なお、図示するように、撮像素子１００へ向かう光軸２１に平行な方向をｚ軸プラス方向と定め、ｚ軸と直交する平面において紙面手前へ向かう方向をｘ軸プラス方向、紙面上方向をｙ軸プラス方向と定める。以降のいくつかの図においては、図１の座標軸を基準として、それぞれの図の向きがわかるように座標軸を表示する。
【００１３】
撮影レンズ２０は、複数の光学レンズ群から構成され、シーンからの被写体光束をその焦点面近傍に結像させる。なお、図１では撮影レンズ２０を説明の都合上、瞳近傍に配置された仮想的な１枚のレンズで代表して表している。撮像素子１００は、撮影レンズ２０の焦点面近傍に配置されている。撮像素子１００は、二次元的に複数の光電変換素子が配列された、例えばＣＣＤ、ＣＭＯＳセンサ等のイメージセンサである。撮像素子１００は、駆動部２０４によりタイミング制御されて、受光面上に結像された被写体像を画像信号に変換してＡ／Ｄ変換回路２０２へ出力する。
【００１４】
Ａ／Ｄ変換回路２０２は、撮像素子１００が出力する画像信号をデジタル画像信号に変換してメモリ２０３へ出力する。画像処理部２０５は、メモリ２０３をワークスペースとして種々の画像処理を施し、画像データを生成する。特に、画像処理部２０５は、撮像素子１００が出力する信号から画像データ群を生成して取得するデータ取得部２３１、取得した画像データ群に含まれる視差画像データ間で視差量を演算する視差量演算部２３２、カラー画像データに変換する画像変換部２３３を有する。それぞれの処理の詳細については、後述する。
【００１５】
画像処理部２０５は、他にも選択された画像フォーマットに従って画像データを調整するなどの画像処理一般の機能も担う。生成された画像データは、ＬＣＤ駆動回路２１０により表示信号に変換され、表示部２０９に表示される。また、メモリカードＩＦ２０７に装着されているメモリカード２２０に記録される。
【００１６】
ＡＦセンサ２１１は、被写体空間に対して複数の測距点が設定された位相差センサであり、それぞれの測距点において被写体像のデフォーカス量を検出する。一連の撮影シーケンスは、操作部２０８がユーザの操作を受け付けて、制御部２０１へ操作信号を出力することにより開始される。撮影シーケンスに付随するＡＦ，ＡＥ等の各種動作は、制御部２０１に制御されて実行される。例えば、制御部２０１は、ＡＦセンサ２１１の検出信号を解析して、撮影レンズ２０の一部を構成するフォーカスレンズを移動させる合焦制御を実行する。
【００１７】
制御部２０１は、合焦情報取得部２３４と視差量補正部２３５としての機能を有する。合焦情報取得部２３４は、生成された画像データ群に対応する合焦情報を、ＡＦセンサ２１１等の出力から生成して取得する。また、視差量補正部２３５は、視差量演算部２３２によって演算された視差量を、合焦情報取得部２３４が取得した合焦情報を用いて補正する。それぞれの処理の詳細については、後述する。
【００１８】
ＲＯＭ２２１は、不揮発性メモリであり、デジタルカメラ１０を制御するプログラム、各種パラメータ等を記憶している。また、後述する較正情報を記憶する役割も担う。
【００１９】
次に、撮像素子１００の構成について詳細に説明する。図２は、本発明の実施形態に係る撮像素子の断面を表す概略図である。図２（ａ）は、カラーフィルタ１０２と開口マスク１０３が別体で構成される撮像素子１００の断面概略図である。また、図２（ｂ）は、撮像素子１００の変形例として、カラーフィルタ部１２２と開口マスク部１２３が一体的に構成されたスクリーンフィルタ１２１を備える撮像素子１２０の断面外略図である。
【００２０】
図２（ａ）に示すように、撮像素子１００は、被写体側から順に、マイクロレンズ１０１、カラーフィルタ１０２、開口マスク１０３、配線層１０５および光電変換素子１０８が配列されて構成されている。光電変換素子１０８は、入射する光を電気信号に変換するフォトダイオードにより構成される。光電変換素子１０８は、基板１０９の表面に二次元的に複数配列されている。
【００２１】
光電変換素子１０８により変換された画像信号、光電変換素子１０８を制御する制御信号等は、配線層１０５に設けられた配線１０６を介して送受信される。また、各光電変換素子１０８に一対一に対応して設けられた開口部１０４を有する開口マスク１０３が、配線層に接して設けられている。開口部１０４は、後述するように、対応する光電変換素子１０８ごとにシフトさせて、相対的な位置が厳密に定められている。詳しくは後述するが、この開口部１０４を備える開口マスク１０３の作用により、光電変換素子１０８が受光する被写体光束に視差が生じる。
【００２２】
一方、視差を生じさせない光電変換素子１０８上には、開口マスク１０３が存在しない。別言すれば、対応する光電変換素子１０８に対して入射する被写体光束を制限しない、つまり有効光束の全体を通過させる開口部１０４を有する開口マスク１０３が設けられているとも言える。視差を生じさせることはないが、実質的には配線１０６によって形成される開口１０７が入射する被写体光束を規定するので、配線１０６を、視差を生じさせない有効光束の全体を通過させる開口マスクと捉えることもできる。開口マスク１０３は、各光電変換素子１０８に対応して別個独立に配列しても良いし、カラーフィルタ１０２の製造プロセスと同様に複数の光電変換素子１０８に対して一括して形成しても良い。
【００２３】
カラーフィルタ１０２は、開口マスク１０３上に設けられている。カラーフィルタ１０２は、各光電変換素子１０８に対して特定の波長帯域を透過させるように着色された、光電変換素子１０８のそれぞれに一対一に対応して設けられるフィルタである。カラー画像を出力するには、互いに異なる少なくとも３種類のカラーフィルタが配列されれば良い。これらのカラーフィルタは、カラー画像を生成するための原色フィルタと言える。原色フィルタの組み合わせは、例えば赤色波長帯を透過させる赤フィルタ、緑色波長帯を透過させる緑フィルタ、および青色波長帯を透過させる青フィルタである。これらのカラーフィルタは、後述するように、光電変換素子１０８に対応して格子状に配列される。
【００２４】
マイクロレンズ１０１は、カラーフィルタ１０２上に設けられている。マイクロレンズ１０１は、入射する被写体光束のより多くを光電変換素子１０８へ導くための集光レンズである。マイクロレンズ１０１は、光電変換素子１０８のそれぞれに一対一に対応して設けられている。マイクロレンズ１０１は、撮影レンズ２０の瞳中心と光電変換素子１０８の相対的な位置関係を考慮して、より多くの被写体光束が光電変換素子１０８に導かれるようにその光軸がシフトされていることが好ましい。さらには、開口マスク１０３の開口部１０４の位置と共に、後述の特定の被写体光束がより多く入射するように配置位置が調整されても良い。
【００２５】
このように、各々の光電変換素子１０８に対応して一対一に設けられる開口マスク１０３、カラーフィルタ１０２およびマイクロレンズ１０１の一単位を画素と呼ぶ。特に、視差を生じさせる開口マスク１０３が設けられた画素を視差画素、視差を生じさせる開口マスク１０３が設けられていない画素を視差なし画素と呼ぶ。例えば、撮像素子１００の有効画素領域が２４ｍｍ×１６ｍｍ程度の場合、画素数は１２００万程度に及ぶ。
【００２６】
なお、集光効率、光電変換効率が良いイメージセンサの場合は、マイクロレンズ１０１を設けなくても良い。また、裏面照射型イメージセンサの場合は、配線層１０５が光電変換素子１０８とは反対側に設けられる。
【００２７】
カラーフィルタ１０２と開口マスク１０３の組み合わせには、さまざまなバリエーションが存在する。図２（ａ）において、開口マスク１０３の開口部１０４に色成分を持たせれば、カラーフィルタ１０２と開口マスク１０３を一体的に形成することができる。また、特定の画素を被写体の輝度情報を取得する画素とする場合、その画素には、対応するカラーフィルタ１０２を設けなくても良い。あるいは、可視光のおよそ全ての波長帯域を透過させるように、着色を施さない透明フィルタを配列しても良い。
【００２８】
輝度情報を取得する画素を視差画素とする場合、つまり、視差画像を少なくとも一旦はモノクロ画像として出力するのであれば、図２（ｂ）として示す撮像素子１２０の構成を採用し得る。すなわち、カラーフィルタとして機能するカラーフィルタ部１２２と、開口部１０４を有する開口マスク部１２３とが一体的に構成されたスクリーンフィルタ１２１を、マイクロレンズ１０１と配線層１０５の間に配設することができる。
【００２９】
スクリーンフィルタ１２１は、カラーフィルタ部１２２において例えば青緑赤の着色が施され、開口マスク部１２３において開口部１０４以外のマスク部分が黒の着色が施されて形成される。スクリーンフィルタ１２１を採用する撮像素子１２０は、撮像素子１００に比較して、マイクロレンズ１０１から光電変換素子１０８までの距離が短いので、被写体光束の集光効率が高い。
【００３０】
次に、開口マスク１０３の開口部１０４と、生じる視差の関係について説明する。図３は、撮像素子１００の一部を拡大した様子を表す概略図である。ここでは、説明を簡単にすべく、カラーフィルタ１０２の配色については後に言及を再開するまで考慮しない。カラーフィルタ１０２の配色に言及しない以下の説明においては、同色（透明である場合を含む）のカラーフィルタ１０２を有する視差画素のみを寄せ集めたイメージセンサであると捉えることができる。したがって、以下に説明する繰り返しパターンは、同色のカラーフィルタ１０２における隣接画素として考えても良い。
【００３１】
図３に示すように、開口マスク１０３の開口部１０４は、それぞれの画素に対して相対的にシフトして設けられている。そして、隣接する画素同士においても、それぞれの開口部１０４は互いに変位した位置に設けられている。
【００３２】
図の例においては、それぞれの画素に対する開口部１０４の位置として、互いに左右方向にシフトした６種類の開口マスク１０３が用意されている。そして、撮像素子１００の全体は、紙面左側から右側へ徐々にシフトする開口マスク１０３をそれぞれ有する６つの視差画素を一組とする光電変換素子群が、二次元的かつ周期的に配列されている。つまり、撮像素子１００は、一組の光電変換素子群を含む繰り返しパターン１１０が、周期的に敷き詰められて構成されていると言える。
【００３３】
図４は、視差画素と被写体の関係を説明する概念図である。特に図４（ａ）は撮像素子１００のうち撮影光軸２１と直交する中心に配列されている繰り返しパターン１１０ｔの光電変換素子群を示し、図４（ｂ）は周辺部分に配列されている繰り返しパターン１１０ｕの光電変換素子群を模式的に示している。図４（ａ）、（ｂ）における被写体３０は、撮影レンズ２０に対して合焦位置に存在する。図４（ｃ）は、図４（ａ）に対応して、撮影レンズ２０に対して非合焦位置に存在する被写体３１を捉えた場合の関係を模式的に示している。なお、後に言及するまでは、合焦位置に存在する被写体に対して取得される視差量を、理想値である０として説明する。
【００３４】
まず、撮影レンズ２０が合焦状態に存在する被写体３０を捉えている場合の、視差画素と被写体の関係を説明する。被写体光束は、撮影レンズ２０の瞳を通過して撮像素子１００へ導かれるが、被写体光束が通過する全体の断面領域に対して、６つの部分領域Ｐａ〜Ｐｆが規定されている。そして、例えば繰り返しパターン１１０ｔ、１１０ｕを構成する光電変換素子群の紙面左端の画素は、拡大図からもわかるように、部分領域Ｐｆから射出された被写体光束のみが光電変換素子１０８へ到達するように、開口マスク１０３の開口部１０４ｆの位置が定められている。同様に、右端の画素に向かって、部分領域Ｐｅに対応して開口部１０４ｅの位置が、部分領域Ｐｄに対応して開口部１０４ｄの位置が、部分領域Ｐｃに対応して開口部１０４ｃの位置が、部分領域Ｐｂに対応して開口部１０４ｂの位置が、部分領域Ｐａに対応して開口部１０４ａの位置がそれぞれ定められている。
【００３５】
別言すれば、例えば部分領域Ｐｆと左端画素の相対的な位置関係によって定義される、部分領域Ｐｆから射出される被写体光束の主光線Ｒｆの傾きにより、開口部１０４ｆの位置が定められていると言っても良い。そして、合焦位置に存在する被写体３０からの被写体光束を、開口部１０４ｆを介して光電変換素子１０８が受光する場合、その被写体光束は、点線で図示するように、光電変換素子１０８上で結像する。同様に、右端の画素に向かって、主光線Ｒｅの傾きにより開口部１０４ｅの位置が、主光線Ｒｄの傾きにより開口部１０４ｄの位置が、主光線Ｒｃの傾きにより開口部１０４ｃの位置が、主光線Ｒｂの傾きにより開口部１０４ｂの位置が、主光線Ｒａの傾きにより開口部１０４ａの位置がそれぞれ定められていると言える。
【００３６】
図４（ａ）で示すように、合焦位置に存在する被写体３０のうち、光軸２１と交差する被写体３０上の微小領域Ｏｔから放射される光束は、撮影レンズ２０の瞳を通過して、繰り返しパターン１１０ｔを構成する光電変換素子群の各画素に到達する。すなわち、繰り返しパターン１１０ｔを構成する光電変換素子群の各画素は、それぞれ６つの部分領域Ｐａ〜Ｐｆを介して、一つの微小領域Ｏｔから放射される光束を受光している。微小領域Ｏｔは、繰り返しパターン１１０ｔを構成する光電変換素子群の各画素の位置ずれに対応する分だけの広がりを有するが、実質的には、ほぼ同一の物点と近似することができる。同様に、図４（ｂ）で示すように、合焦位置に存在する被写体３０のうち、光軸２１から離間した被写体３０上の微小領域Ｏｕから放射される光束は、撮影レンズ２０の瞳を通過して、繰り返しパターン１１０ｕを構成する光電変換素子群の各画素に到達する。すなわち、繰り返しパターン１１０ｕを構成する光電変換素子群の各画素は、それぞれ６つの部分領域Ｐａ〜Ｐｆを介して、一つの微小領域Ｏｕから放射される光束を受光している。微小領域Ｏｕも、微小領域Ｏｔと同様に、繰り返しパターン１１０ｕを構成する光電変換素子群の各画素の位置ずれに対応する分だけの広がりを有するが、実質的には、ほぼ同一の物点と近似することができる。
【００３７】
つまり、被写体３０が合焦位置に存在する限りは、撮像素子１００上における繰り返しパターン１１０の位置に応じて、光電変換素子群が捉える微小領域が異なり、かつ、光電変換素子群を構成する各画素は互いに異なる部分領域を介して同一の微小領域を捉えている。そして、それぞれの繰り返しパターン１１０において、対応する画素同士は同じ部分領域からの被写体光束を受光している。つまり、図においては、例えば繰り返しパターン１１０ｔ、１１０ｕのそれぞれの左端の画素は、同じ部分領域Ｐｆからの被写体光束を受光している。
【００３８】
撮影光軸２１と直交する中心に配列されている繰り返しパターン１１０ｔにおいて左端画素が部分領域Ｐｆからの被写体光束を受光する開口部１０４ｆの位置と、周辺部分に配列されている繰り返しパターン１１０ｕにおいて左端画素が部分領域Ｐｆからの被写体光束を受光する開口部１０４ｆの位置は厳密には異なる。しかしながら、機能的な観点からは、部分領域Ｐｆからの被写体光束を受光するための開口マスクという点で、これらを同一種類の開口マスクとして扱うことができる。したがって、図４の例では、撮像素子１００上に配列される視差画素のそれぞれは、６種類の開口マスクの一つを備えると言える。
【００３９】
次に、撮影レンズ２０が非合焦状態に存在する被写体３１を捉えている場合の、視差画素と被写体の関係を説明する。この場合も、非合焦位置に存在する被写体３１からの被写体光束は、撮影レンズ２０の瞳の６つの部分領域Ｐａ〜Ｐｆを通過して、撮像素子１００へ到達する。ただし、非合焦位置に存在する被写体３１からの被写体光束は、光電変換素子１０８上ではなく他の位置で結像する。例えば、図４（ｃ）に示すように、被写体３１が被写体３０よりも撮像素子１００に対して遠い位置に存在すると、被写体光束は、光電変換素子１０８よりも被写体３１側で結像する。逆に、被写体３１が被写体３０よりも撮像素子１００に対して近い位置に存在すると、被写体光束は、光電変換素子１０８よりも被写体３１とは反対側で結像する。
【００４０】
したがって、非合焦位置に存在する被写体３１のうち、微小領域Ｏｔ'から放射される被写体光束は、６つの部分領域Ｐａ〜Ｐｆのいずれを通過するかにより、異なる組の繰り返しパターン１１０における対応画素に到達する。例えば、部分領域Ｐｄを通過した被写体光束は、図４（ｃ）の拡大図に示すように、主光線Ｒｄ'として、繰り返しパターン１１０ｔ'に含まれる、開口部１０４ｄを有する光電変換素子１０８へ入射する。そして、微小領域Ｏｔ'から放射された被写体光束であっても、他の部分領域を通過した被写体光束は、繰り返しパターン１１０ｔ'に含まれる光電変換素子１０８へは入射せず、他の繰り返しパターンにおける対応する開口部を有する光電変換素子１０８へ入射する。換言すると、繰り返しパターン１１０ｔ'を構成する各光電変換素子１０８へ到達する被写体光束は、被写体３１の互いに異なる微小領域から放射された被写体光束である。すなわち、開口部１０４ｄに対応する１０８へは主光線をＲｄ'とする被写体光束が入射し、他の開口部に対応する光電変換素子１０８へは主光線をＲａ＋、Ｒｂ＋、Ｒｃ＋、Ｒｅ＋、Ｒｆ＋とする被写体光束が入射するが、これらの被写体光束は、被写体３１の互いに異なる微小領域から放射された被写体光束である。このような関係は、図４（ｂ）における周辺部分に配列されている繰り返しパターン１１０ｕにおいても同様である。
【００４１】
すると、撮像素子１００の全体で見た場合、例えば、開口部１０４ａに対応する光電変換素子１０８で捉えた被写体像Ａと、開口部１０４ｄに対応する光電変換素子１０８で捉えた被写体像Ｄは、合焦位置に存在する被写体に対する像であれば互いにずれが無く、非合焦位置に存在する被写体に対する像であればずれが生じることになる。そして、そのずれは、非合焦位置に存在する被写体が合焦位置に対してどちら側にどれだけずれているかにより、また、部分領域Ｐａと部分領域Ｐｄの距離により、方向と量が定まる。つまり、被写体像Ａと被写体像Ｄは、互いに視差像となる。この関係は、他の開口部に対しても同様であるので、開口部１０４ａから１０４ｆに対応して、６つの視差像が形成されることになる。
【００４２】
したがって、このように構成されたそれぞれの繰り返しパターン１１０において、互いに対応する画素の出力を寄せ集めると、視差画像が得られる。つまり、６つの部分領域Ｐａ〜Ｐｆうちの特定の部分領域から射出された被写体光束を受光した画素の出力は、視差画像を形成する。
【００４３】
図５は、視差画像を生成する処理を説明する概念図である。図は、左列から順に、開口部１０４ｆに対応する視差画素の出力を集めて生成される視差画像データＩｍ＿ｆの生成の様子、開口部１０４ｅの出力による視差画像データＩｍ＿ｅの生成の様子、開口部１０４ｄの出力による視差画像データＩｍ＿ｄの生成の様子、開口部１０４ｃの出力による視差画像データＩｍ＿ｃの生成の様子、開口部１０４ｂの出力による視差画像データＩｍ＿ｂの生成の様子、開口部１０４ａの出力による視差画像データＩｍ＿ａの生成の様子を表す。まず開口部１０４ｆの出力による視差画像データＩｍ＿ｆの生成の様子について説明する。
【００４４】
６つの視差画素を一組とする光電変換素子群から成る繰り返しパターン１１０は、横一列に配列されている。したがって、開口部１０４ｆを有する視差画素は、撮像素子１００上において、左右方向に６画素おき、かつ、上下方向に連続して存在する。これら各画素は、上述のようにそれぞれ異なる微小領域からの被写体光束を受光している。したがって、これらの視差画素の出力を寄せ集めて配列すると、視差画像が得られる。
【００４５】
しかし、本実施形態における撮像素子１００の各画素は正方画素であるので、単に寄せ集めただけでは、横方向の画素数が１／６に間引かれた結果となり、縦長の画像データが生成されてしまう。そこで、補間処理を施して横方向に６倍の画素数とすることにより、本来のアスペクト比の画像として視差画像データＩｍ＿ｆを生成する。ただし、そもそも補間処理前の視差画像データが横方向に１／６に間引かれた画像であるので、横方向の解像度は、縦方向の解像度よりも低下している。つまり、生成される視差画像データの数と、解像度の向上は相反関係にあると言える。
【００４６】
同様にして、視差画像データＩｍ＿ｅ〜視差画像データＩｍ＿ａが得られる。すなわち、デジタルカメラ１０は、横方向に視差を有する６視点の視差画像を生成することができる。
【００４７】
上記の例では、横一列を繰り返しパターン１１０として周期的に配列される例を説明したが、繰り返しパターン１１０はこれに限らない。図６は、繰り返しパターン１１０の他の例を示す図である。
【００４８】
図６（ａ）は、縦６画素を繰り返しパターン１１０とした例である。ただし、それぞれの開口部１０４は、紙面上端の視差画素から下に向かって、紙面左側から右側へ徐々にシフトするように位置が定められている。このように配列された繰り返しパターン１１０によっても、横方向に視差を与える６視点の視差画像を生成することができる。この場合は、図３の繰り返しパターン１１０に比較すると、縦方向の解像度を犠牲にする代わりに横方向の解像度を維持する繰り返しパターンであると言える。
【００４９】
図６（ｂ）は、斜め方向に隣接する６画素を繰り返しパターン１１０とした例である。それぞれの開口部１０４は、紙面左上端の視差画素から右下に向かって、紙面左側から右側へ徐々にシフトするように位置が定められている。このように配列された繰り返しパターン１１０によっても、横方向に視差を与える６視点の視差画像を生成することができる。この場合は、図３の繰り返しパターン１１０に比較すると、縦方向の解像度および横方向の解像度をある程度維持しつつ、視差画像の数を増やす繰り返しパターンであると言える。
【００５０】
図３の繰り返しパターン１１０、および図６（ａ）（ｂ）の繰り返しパターン１１０をそれぞれ比較すると、いずれも６視点の視差画像を生成する場合において、視差画像でない全体から一枚の画像を出力する場合の解像度に対し、縦方向、横方向のいずれの方向の解像度を犠牲にするかの違いであると言える。図３の繰り返しパターン１１０の場合は、横方向の解像度を１／６とする構成である。図６（ａ）の繰り返しパターン１１０の場合は、縦方向の解像度を１／６とする構成である。また、図６（ｂ）の繰り返しパターン１１０の場合は、縦方向を１／３、横方向を１／２とする構成である。いずれの場合も、一つのパターン内には、各画素に対応して開口部１０４ａ〜１０４ｆが一つずつ設けられており、それぞれが対応する部分領域Ｐａ〜Ｐｆのいずれかから被写体光束を受光するように構成されている。したがって、いずれの繰り返しパターン１１０であっても視差量は同等である。
【００５１】
上述の例では、左右方向に視差を与える視差画像を生成する場合について説明したが、もちろん上下方向に視差を与える視差画像を生成することもできるし、上下左右の二次元方向に視差を与える視差画像を生成することもできる。図７は、二次元的な繰り返しパターン１１０の例を示す図である。
【００５２】
図７の例によれば、縦６画素横６画素の３６画素を一組の光電変換素子群として繰り返しパターン１１０を形成する。それぞれの画素に対する開口部１０４の位置として、互いに上下左右方向にシフトした３６種類の開口マスク１０３が用意されている。具体的には、各開口部１０４は、繰り返しパターン１１０の上端画素から下端画素に向かって、上側から下側へ徐々にシフトすると同時に、左端画素から右端画素に向かって、左側から右側へ徐々にシフトするように位置決めされている。
【００５３】
このような繰り返しパターン１１０を有する撮像素子１００は、上下方向および左右方向に視差を与える、３６視点の視差画像を出力することができる。もちろん図７の例に限らず、さまざまな視点数の視差画像を出力するように繰り返しパターン１１０を定めることができる。
【００５４】
以上の説明においては、開口部１０４の形状として矩形を採用した。特に、横方向に視差を与える配列においては、シフトさせる方向である左右方向の幅よりも、シフトさせない上下方向の幅を広くすることにより、光電変換素子１０８へ導く光量を確保している。しかし、開口部１０４の形状は矩形に限定されない。
【００５５】
図８は、開口部１０４の他の形状を説明する図である。図においては、開口部１０４の形状を円形とした。円形とした場合、半球形状であるマイクロレンズ１０１との相対的な関係から、予定外の被写体光束が迷光となって光電変換素子１０８へ入射することを防ぐことができる。
【００５６】
次に、カラーフィルタ１０２と視差画像について説明する。図９は、ベイヤー配列を説明する図である。図示するように、ベイヤー配列は、緑フィルタが左上と右下の２画素に、赤フィルタが左下の１画素に、青フィルタが右上の１画素に割り当てられる配列である。ここでは、緑フィルタが割り当てられた左上の画素をＧｂ画素と、同じく緑色フィルタが割り当てられた右下の画素をＧｒ画素とする。また、赤色フィルタが割り当てられた画素をＲ画素と、青色が割り当てられた画素をＢ画素とする。そして、Ｇｂ画素およびＢ画素が並ぶ横方向をＧｂ行とし、Ｒ画素およびＧｒ画素が並ぶ横方向をＧｒ行とする。また、Ｇｂ画素およびＲ画素が並ぶ縦方向をＧｂ列とし、Ｂ画素およびＧｒ画素が並ぶ縦方向をＧｒ列とする。
【００５７】
このようなカラーフィルタ１０２の配列に対して、視差画素と視差なし画素を、何色の画素にどのような周期で割り振っていくかにより、膨大な数の繰り返しパターン１１０が設定され得る。視差なし画素の出力を集めれば、通常の撮影画像と同じく視差のない撮影画像データを生成することができる。したがって、相対的に視差なし画素の割合を増やせば、解像度の高い２Ｄ画像を出力させることができる。この場合、視差画素は相対的に少ない割合となるので、複数の視差画像からなる３Ｄ画像としては画質が低下する。逆に、視差画素の割合を増やせば、３Ｄ画像としては画質が向上するが、視差なし画素は相対的に減少するので、解像度の低い２Ｄ画像が出力される。
【００５８】
このようなトレードオフの関係において、何れの画素を視差画素とするか、あるいは視差なし画素とするかにより、様々な特徴を有する繰り返しパターン１１０が設定される。図１０は、ベイヤー配列に対する視差画素の割り振りについて、視差画素の種類が２つである場合のバリエーションを説明する図である。この場合の視差画素は、開口部１０４が中心よりも左側に偏心した視差Ｌ画素と、同じく右側に偏心した視差Ｒ画素を想定している。つまり、このような視差画素から出力される２視点の視差画像は、いわゆる立体視を実現する。
【００５９】
それぞれの繰り返しパターンに対する特徴の説明は図に示す通りである。例えば、視差なし画素が多く割り振られていれば高解像度の２Ｄ画像データとなり、ＲＧＢのいずれの画素に対しても均等に割り振られていれば、色ずれの少ない高画質の２Ｄ画像データとなる。一方、視差画素が多く割り振られていれば高解像度の３Ｄ画像データとなり、ＲＧＢのいずれの画素に対しても均等に割り振られていれば、３Ｄ画像でありながら、色再現性の良い高品質のカラー画像データとなる。
【００６０】
以下にいくつかのバリエーションについて説明する。図１１は、バリエーションの一例を示す図である。図１１のバリエーションは、図１０における繰り返しパターン分類Ａ−１に相当する。
【００６１】
図の例においては、ベイヤー配列と同じ４画素を繰り返しパターン１１０とする。Ｒ画素とＢ画素は視差なし画素であり、Ｇｂ画素を視差Ｌ画素に、Ｇｒ画素を視差Ｒ画素に割り当てる。この場合、同一の繰り返しパターン１１０に含まれる視差Ｌ画素と視差Ｒ画素が、被写体が合焦位置に存在するときに、同じ微小領域から放射される光束を受光するように開口部１０４が定められる。
【００６２】
図の例においては、視感度の高い緑画素であるＧｂ画素およびＧｒ画素を視差画素として用いるので、コントラストの高い視差画像を得ることが期待できる。また、同じ緑色画素であるＧｂ画素およびＧｒ画素を視差画素として用いるので、これら２つの出力から視差のない出力に変換演算がし易く、視差なし画素であるＲ画素およびＢ画素の出力と共に、高画質の２Ｄ画像データを生成できる。
【００６３】
図１２は、他のバリエーションの一例を示す図である。図１２のバリエーションは、図１０における繰り返しパターン分類Ｂ−１に相当する。
【００６４】
図の例においては、ベイヤー配列の４画素が左右に２組続く８画素を繰り返しパターン１１０とする。８画素のうち、左側のＧｂ画素に視差Ｌ画素を、右側のＧｂ画素に視差Ｒ画素を割り当てる。このような配列においては、Ｇｒ画素を視差なし画素としたことにより、図１０の例よりも、更に２Ｄ画像の高画質化が望める。
【００６５】
図１３は、更に他のバリエーションの一例を示す図である。図１３のバリエーションは、図１０における繰り返しパターン分類Ｄ−１に相当する。
【００６６】
図の例においては、ベイヤー配列の４画素が左右に２組続く８画素を繰り返しパターン１１０とする。８画素のうち、左側のＧｂ画素に視差Ｌ画素を、右側のＧｂ画素に視差Ｒ画素を割り当てる。さらに、左側のＲ画素に視差Ｌ画素を、右側のＲ画素に視差Ｒ画素を割り当てる。さらに、左側のＢ画素に視差Ｌ画素を、右側のＢ画素に視差Ｒ画素を割り当てる。２つのＧｒ画素には視差なし画素を割り当てる。
【００６７】
２つのＧｂ画素に割り当てられた視差Ｌ画素と視差Ｒ画素は、被写体が合焦位置に存在するときに、一つの微小領域から放射される光束を受光する。また、２つのＲ画素に割り当てられた視差Ｌ画素と視差Ｒ画素は、Ｇｂ画素のそれとは異なる一つの微小領域から放射される光束を受光し、２つのＢ画素に割り当てられた視差Ｌ画素と視差Ｒ画素は、Ｇｂ画素およびＲ画素のそれとは異なる一つの微小領域から放射される光束を受光する。したがって、図１２の例に比較して、３Ｄ画像としての解像度が縦方向に３倍となる。しかも、ＲＧＢの３色の出力が得られるので、カラー画像としての３Ｄ画像として高品質である。
【００６８】
なお、上述のように視差画素の種類を２つにすれば２視点の視差画像が得られるが、もちろん視差画素の種類は、出力したい視差画像数に合わせて、図３、図７、図８などで説明したような様々な数を採用し得る。視点数が増えていっても、さまざまな繰り返しパターン１１０を形成することができる。したがって、仕様、目的等に応じた繰り返しパターン１１０を選択することができる。
【００６９】
上述の例では、カラーフィルタ配列としてベイヤー配列を採用した場合について説明したが、もちろん他のカラーフィルタ配列であっても差し支えない。このとき、一組の光電変換素子群を構成する視差画素のそれぞれは、互いに異なる部分領域を向く開口部１０４を有する開口マスク１０３を備えると良い。
【００７０】
したがって、撮像素子１００は、入射光を電気信号に光電変換する、二次元的に配列された光電変換素子１０８と、光電変換素子１０８の少なくとも一部のそれぞれに一対一に対応して設けられた開口マスク１０３と、光電変換素子１０８の少なくとも一部のそれぞれに一対一に対応して設けられたカラーフィルタ１０２とを備え、隣接するｎ個（ｎは３以上の整数）の光電変換素子１０８のうち、少なくとも２つ（３つ以上であっても良い）に対応して設けられたそれぞれの開口マスク１０３の開口部１０４は、互いに異なる波長帯域を透過させる少なくとも３種類のカラーフィルタ１０２から構成されるカラーフィルターパターンの一パターン内に含まれると共に、入射光の断面領域内の互いに異なる部分領域からの光束をそれぞれ通過させるように位置づけられ、ｎ個の光電変換素子１０８を一組とする光電変換素子群が周期的に配列されていれば良い。
【００７１】
図１４は、他のカラーフィルタ配列を説明する図である。図示するように、他のカラーフィルタ配列は、図９で示したベイヤー配列のＧｒ画素を緑フィルタが割り当てられるＧ画素として維持する一方、Ｇｂ画素をカラーフィルタが割り当てられないＷ画素に変更した配列である。なお、Ｗ画素は、上述のように、可視光のおよそ全ての波長帯域を透過させるように、着色を施さない透明フィルタが配列されていても良い。
【００７２】
このようなＷ画素を含むカラーフィルタ配列を採用すれば、撮像素子が出力するカラー情報の精度は若干低下するものの、Ｗ画素が受光する光量はカラーフィルタが設けられている場合に比較して多いので、精度の高い輝度情報を取得できる。Ｗ画素の出力を寄せ集めれば、モノクロ画像を形成することもできる。
【００７３】
Ｗ画素を含むカラーフィルタ配列の場合、視差画素と視差なし画素の繰り返しパターン１１０は、さらなるバリエーションが存在する。例えば、比較的暗い環境下で撮影された画像であっても、カラー画素から出力された画像に比較してＷ画素から出力された画像であれば、被写体像のコントラストが高い。そこで、Ｗ画素に視差画素を割り振れば、複数の視差画像間で行うマッチング処理において、精度の高い演算結果が期待できる。後述するように、マッチング処理は、視差量を取得する処理の一環として実行される。したがって、２Ｄ画像の解像度および視差画像の画質への影響に加え、抽出される他の情報への利害得失も考慮して、視差画素と視差なし画素の繰り返しパターン１１０が設定される。
【００７４】
図１５は、図１４の他のカラーフィルタ配列を採用する場合の、Ｗ画素と視差画素の配列の一例を示す図である。図１５のバリエーションは、ベイヤー配列における図１２の繰り返しパターン分類Ｂ−１に類似するので、ここではＢ'−１とする。図の例においては、他のカラーフィルタ配列の４画素が左右に２組続く８画素を繰り返しパターン１１０とする。８画素のうち、左側のＷ画素に視差Ｌ画素を、右側のＷ画素に視差Ｒ画素を割り当てる。このような配列において撮像素子１００は、視差画像をモノクロ画像として出力し、２Ｄ画像をカラー画像として出力する。
【００７５】
この場合、撮像素子１００は、入射光を電気信号に光電変換する、二次元的に配列された光電変換素子１０８と、光電変換素子１０８の少なくとも一部のそれぞれに一対一に対応して設けられた開口マスク１０３と、光電変換素子１０８の少なくとも一部のそれぞれに一対一に対応して設けられたカラーフィルタ１０２とを有し、隣接するｎ個（ｎは４以上の整数）の光電変換素子１０８のうち、少なくとも２つに対応して設けられたそれぞれの開口マスク１０３の開口部１０４は、互いに異なる波長帯域を透過させる少なくとも３種類のカラーフィルタ１０２から構成されるカラーフィルターパターンの一パターン内には含まれず、かつ、入射光の断面領域内の互いに異なる部分領域からの光束をそれぞれ通過させるように位置づけられ、ｎ個の光電変換素子１０８を一組とする光電変換素子群が周期的に配列されていれば良い。
【００７６】
ここで、モノクロ画像としての視差画像の生成と、カラー画像としての２Ｄ画像の生成について説明する。
【００７７】
図１６は、視差画像と２Ｄ画像の生成過程を示す概念図である。図示するように、視差Ｌ画素の出力が、撮像素子１００上の相対的な位置関係を維持しながら寄せ集められて、Ｌ画像データが生成される。一つの繰り返しパターン１１０に含まれる視差Ｌ画素は一つであるので、Ｌ画像データを形成する各視差Ｌ画素は、それぞれ異なる繰り返しパターン１１０から寄せ集められていると言える。すなわち、寄せ集められたそれぞれの視差Ｌ画素の出力は、被写体の互いに異なる微小領域から放射された光が光電変換された結果であるので、Ｌ画像データは、特定の視点（Ｌ視点）から被写体を捉えた一つの視差画像データとなる。そして、視差Ｌ画素は、Ｗ画素に割り振られているので、Ｌ画像データは、カラー情報を持たず、モノクロ画像として生成される。
【００７８】
同様に、視差Ｒ画素の出力が、撮像素子１００上の相対的な位置関係を維持しながら寄せ集められて、Ｒ画像データが生成される。寄せ集められたそれぞれの視差Ｒ画素の出力は、被写体の互いに異なる微小領域から放射された光が光電変換された結果であるので、Ｒ画像データは、特定の視点（Ｒ視点）から被写体を捉えた一つの視差画像データとなる。そして、視差Ｒ画素は、Ｗ画素に割り振られているので、Ｒ画像データは、カラー情報を持たず、モノクロ画像として生成される。
【００７９】
被写体が合焦位置に存在するときに、一つの繰り返しパターン１１０において、Ｌ画素とＲ画素は、被写体の同一の微小領域から放射される光束を受光する。また、被写体が非合焦位置に存在するときに、一つの繰り返しパターン１１０において、Ｌ画素とＲ画素は、被写体の互いにずれた微小領域から放射される光束を受光する。そのずれは、被写体位置の合焦位置に対する相対関係と瞳の部分領域の関係とから、方向と量が定まる。したがって、Ｌ画像データとＲ画像データのそれぞれにおいて、視差Ｌ画素と視差Ｒ画素が撮像素子１００上の相対的な位置関係を維持しながら寄せ集められていれば、それぞれが視差画像を形成する。
【００８０】
また、視差なし画素の出力が、撮像素子１００上の相対的な位置関係を維持しながら寄せ集められて、２Ｄ画像データが生成される。このとき、Ｗ画素は視差画素であるので、視差なし画素のみで構成されるベイヤー配列からの出力に対して、Ｇｂ画素の出力に相当する出力が欠落する。そこで、本実施形態においては、この欠落した出力の値として、Ｇ画素の出力値を代入する。つまり、Ｇ画素の出力で補間処理を行う。このように、補間処理を施せば、ベイヤー配列の出力に対する画像処理を採用して２Ｄ画像データを生成することができる。
【００８１】
なお、以上の画像処理は、画像処理部２０５のデータ取得部２３１によって実行される。データ取得部２３１は、制御部２０１を介して撮像素子１００から出力される画像信号を受け取り、上述のようにそれぞれの画素の出力ごとに分配してＬ画像データ、Ｒ画像データおよび２Ｄ画像データを生成する。
【００８２】
図１７は、光学ファインダから観察される被写体像および測距領域を示す図である。ここではシーンの例として、手前から順に少女３０１、少年３０２および女性３０３が存在する場合を説明する。
【００８３】
ＡＦセンサ２１１は、被写体空間に対して二次元的かつ離散的に配置される複数の測距点４６０を有する。図の例の場合、１１点の測距点４６０が、全体として略菱形形状に離散的に配置されている。ＡＦセンサ２１１は、それぞれの測距点４６０に対応するデフォーカス量を独立に出力することができる。
【００８４】
制御部２０１は、ユーザによる任意選択、近点優先等のアルゴリズムにより選択された合焦測距点４６１（図の例では少年３０２と重なる測距点４６０）のデフォーカス量を検出して、合焦に至るフォーカスレンズの移動量および移動方向を決定する。さらに制御部２０１は、これらの情報に従ってフォーカスレンズを移動させる。フォーカスレンズの移動が完了すると、制御部２０１は、ＡＦセンサ２１１により合焦測距点４６１のデフォーカス量を再度検出して、合焦測距点４６１に対応するオブジェクトにピントが合ったことを確認する。
【００８５】
制御部２０１は、ピントが合ったことを確認できたら、スーパーインポーズ表示等により合焦測距点４６１を明滅させ、合焦動作完了をユーザに告知する。また、制御部２０１は、合焦測距点４６１のデフォーカス量を再度検出すると同時に、他の測距点４６０のデフォーカス量も検出する。
【００８６】
図１８は、デジタルカメラ１０と各被写体との距離を示す概念図である。制御部２０１は、それぞれの測距点４６０におけるデフォーカス量から、被写体までの距離を算出できる。具体的には、レンズ情報として、フォーカスレンズ位置と合焦被写体距離の対応テーブルを取得し、現在のフォーカスレンズ位置を入力することにより、合焦被写体までの距離を得る。この距離は少年３０２までの距離ＤＢに相当する。オートフォーカスにおいては、あるデフォーカス量に対して、合焦位置までフォーカスレンズをどれだけ移動させればよいかの移動量変換関数を利用している。そこで、ここでもこの移動量関数を利用して、非合焦測距点におけるデフォーカス量から、フォーカスレンズの移動量を算出する。そして、現在のフォーカスレンズ位置に算出した移動量を加算した値を対応テーブルに入力することにより、距離ＤＡおよび距離ＤＣを得る。本実施形態においては、絶対距離を用いる場合に、このようにＡＦセンサ２１１の出力であるデフォーカス情報から算出された距離情報を参照する。合焦情報取得部２３４は、被写界に対する合焦測距点４６１の位置情報および測距点４６０ごとのデフォーカス情報に、算出された場合には距離情報を含め、これらを合焦情報として取得する。
【００８７】
次に視差マップについて説明する。図１９は、視差マップの生成処理を説明する説明図である。視差量演算部２３２は、データ取得部２３１が生成したＬ画像データおよびＲ画像データを受け取って、以下の視差マップ生成処理を実行する。
【００８８】
視差量演算部２３２は、対象画素３１１に対して局所ウィンドウ３１２を定め、２画像間でマッチング処理を行い、対象画素３１１における視差量を決定する。具体的には、視差量演算部２３２は、Ｌ画像上の局所ウィンドウ３１２に対応してＲ画像上に局所ウィンドウ３１４を設定して、局所ウィンドウ３１４を局所ウィンドウ３１２に対して相対的にずらしながら互いにマッチングの良い画像領域を探索する。そして、マッチングが良いと判断される局所ウィンドウ３１４の位置を定め、その中心座標である探索画素３１３の座標値を算出する。視差量は、対象画素３１１の座標値と探索画素３１３の座標値の差として決定される。つまり、視差量演算部２３２は、被写体の同一点を捉えている対象画素３１１と探索画素３１３が、互いに何ピクセルずれているかを視差量として決定する。そして、視差量演算部２３２は、Ｌ画像上において対象画素３１１を左上から右下まで順次走査しながら上記のマッチング処理を逐次実行して、Ｌ画像とＲ画像の視差量を算出する。
【００８９】
対象画素３１１が合焦領域に含まれる場合は、理想的には視差量が０となる。また、対象画素３１１が合焦領域に対して奥行き方向に遠い被写体の領域に含まれる場合は、視差量がプラスの値として表れる。逆に、対象画素３１１が合焦領域に対して奥行き方向に近い被写体の領域に含まれる場合は、視差量がマイナスの値として表れる。また、ピクセル単位で決定される視差量は、被写体の奥行き方向の距離に比例した値となる。なお、視差量は、Ｌ画像とＲ画像の相対的なずれ量を表すので、いずれを基準とするかによりプラスとマイナスの関係は逆転する。
【００９０】
視差マップは、上述の算出結果として、各被写体領域に対応した視差量として表現される。図１９下図の例は、視差量演算部２３２が、最も手前に存在する少女３０１に対応する領域４０１の視差量を０、その奥に存在する少年３０２に対応する領域４０２の視差量を＋１、さらに奥に存在する女性３０３に対応する領域４０３の視差量を＋２、背景領域４０４の視差量を＋５とする視差マップを生成した様子を示している。
【００９１】
上述の通り、合焦位置に存在する被写体に対して取得される視差量は０のはずである。図１９の例によれば、図１７で示す通り少年３０２に対して焦点調整が実行されているので、少年３０２が合焦位置に存在する被写体と言える。ところが、マッチング処理によって算出された、少年３０２に対応する領域４０２の視差量は＋１である。つまり、本来視差量が０となるべきところ、誤差を含んで＋１と算出されている。
【００９２】
そこで、本実施形態においては、視差量演算部２３２が算出した視差マップを視差量補正部２３５が受け取り、合焦情報取得部２３４が取得した合焦情報を参照して、受け取った視差マップにおける各領域の視差量を補正する。図２０は、視差マップの補正処理を説明する説明図である。
【００９３】
視差マップは、上述のように、被写体領域ごとの視差量で表現されている。被写体領域は、同じ視差量を示す画素の集合としてその輪郭が形成される。図２０の例では簡略化しているが、被写体領域は、デジタルカメラ１０からの距離に応じた等高線のように形成される。ただし、視差量は整数値としてのピクセル単位で表現されるとは限らず、より精度を要求される場合などおいてには、サブピクセル単位でも表現され得る。このような場合も含めて、被写体領域は、一定の範囲に含まれる視差量を有する画素ごとに纏められて定義されても良い。
【００９４】
合焦情報は、少なくとも被写界に対する合焦測距点４６１の位置情報を含む。視差量補正部２３５は、合焦情報取得部２３４から合焦測距点４６１の位置情報を受け取り、合焦測距点４６１の位置を含む視差マップの被写体領域を選択する。図の例では、合焦測距点４６１は略菱形形状に離散的に配置されている測距点４６０のうちの左端の測距点であるので、この測距点の位置を含む領域４０２が選択される。
【００９５】
視差量補正部２３５は、選択した領域４０２の視差量を０に補正する。すなわち、補正前の視差マップにおいては＋１を示していた視差量を−１する。この−１を補正量として、他の領域にも適用する。すなわち、視差量補正部２３５は、領域４０１の視差量を０から−１へ、領域４０３の視差量を＋２から＋１へ、背景領域４０４の視差量を＋５から＋４へ補正する。このようにして、被写界に存在する各領域の視差量を補正して、補正後の視差マップを完成させる。
【００９６】
以上の例においては、合焦測距点４６１に対応する領域４０２の視差量を０とし、領域４０２において補正量を算出して、他の領域にも当該補正量を一律に適用することにより補正後の視差マップを完成させた。しかし、視差量演算部２３２がマッチング処理によって算出する合焦領域の視差量が０とならないのは、様々な要因に拠る誤差が累積された結果である。したがって、その要因に対応して誤差を緩和するように補正量をさらに調整すれば、より精確な視差マップを生成することができる。
【００９７】
誤差を生じる要因としては、まず、デジタルカメラ１０がレンズ交換式カメラである場合、装着される撮影レンズ２０ごとに特性の異なる収差が挙げられる。それぞれの視差画像は、上述のように、被写体光束が通過する撮影レンズ２０の断面領域に対して、異なる部分領域を通過する部分光束により形成される。したがって、通過する部分領域の収差特性が異なれば、形成される視差画像間の視差量にも誤差を生じさせ得る。
【００９８】
また、誤差を生じされる別の要因としては、合焦状態に存在する被写体までの距離が挙げられる。被写体からの光束が光軸から離れた部分領域を通過して視差画素に入射する場合、その入射角は、被写体距離によって変化する。したがって、被写体までの距離が異なれば、形成される視差画像間の視差量に誤差を生じさせ得る。
【００９９】
また、誤差を生じされる別の要因としては、撮影時における撮影レンズ２０の絞り開口が挙げられる。その他の要因としては、撮影レンズ２０の焦点距離、合焦測距点の位置などが挙げられる。
【０１００】
このような様々な要因の少なくとも一部に対応すべく、デジタルカメラ１０は、事前に基準チャート板などの基準像を撮影することにより、較正情報を生成する。図２１は、較正情報の例を説明する説明図である。ここでは、誤差を生じさせる要因としての、レンズ収差、被写体距離、絞り開口に対応する較正情報を生成する場合について説明する。
【０１０１】
基準像は、固定されたデジタルカメラ１０に対して、予め設定された距離に設置される。そして、デジタルカメラ１０は、当該基準像に焦点を合わせ、絞り値を変更しつつ複数回の撮影を実行して、複数組の視差画像データを取得する。さらに、距離を変更して設置された基準像に対して、同様の手順で複数組の視差画像データを取得する。これを、装着される撮影レンズ２０ごとに繰り返す。
【０１０２】
このようなキャリブレーション作業によって取得されたそれぞれの組の視差画像データは、視差量演算部２３２によってマッチング処理が施され、各画素に対する視差量が算出される。しかし、視差画像データは、設定距離に設置された基準像である平面全体に対して合焦調整を行って取得されているので、本来の視差量は０のはずである。したがって、視差量演算部２３２によって算出された視差量が０で無い場合、その値は誤差であると認識できる。制御部２０１は、この誤差情報をテーブル化して較正情報を生成し、ＲＯＭ２２１へ記憶する。
【０１０３】
図２１の例によれば、較正情報は、装着される撮影レンズ２０（レンズＡ）の各絞り値（ｆ２．８、ｆ５．６…）と各被写体距離（１．０ｍ、５．０ｍ、１５．０ｍ…）に対応して、マトリックス状に誤差情報が関連付けられている。誤差情報は、図示するように、画像領域が誤差量ごとに区分された誤差マップとして形成されている。例えば、絞り値ｆ２．８、被写体距離１．０ｍの誤差マップの場合、画像領域の中心に対して同心円状に５つの領域に区分されており、各区分領域は、中心部から外周部へ向かってそれぞれ誤差量０、＋０．５、＋１．０、＋１．５、＋２．０が定義されている。なお、絞り値、被写体距離の刻み幅は、要求される精度に応じて決定すればよい。
【０１０４】
このように定義付けられた較正情報の利用について説明する。例えば、被写体距離が１．０ｍであって、ポイント５００に存在する被写体に焦点を合わせた場合、誤差マップではポイント５００を含む領域において＋１．０を示しているので、較正情報の寄与分として符号を逆転させた−１．０を上述の補正量に加える。この修正された補正量をもって、視差マップの対応領域（ポイント５００に存在する被写体の領域）を補正する。
【０１０５】
また、合焦情報が、各測距点４６０に対応する被写体までの距離情報を有する場合は、さらに補正量を修正できる。例えば被写体距離が５．０ｍであって、ポイント５０１に非合焦の被写体が存在する場合、誤差マップではポイント５０１を含む領域において＋２．０を示しているので、較正情報の寄与分として符号を逆転させた−２．０を上述の補正量に加える。この修正された補正量をもって、視差マップの対応領域（ポイント５０１に存在する被写体の領域）を補正する。つまり、被写体領域ごとに、それぞれ適する視差マップを参照することができる。
【０１０６】
なお、上述の例においては、レンズ収差、被写体距離、絞り開口に対して纏めて対応する較正情報を生成したが、もちろん要因ごとに切り分け、そのうちのいくつかに対応する較正情報を生成しても良い。例えば、被写体距離および絞り開口がひとつの基準値に設定された、撮影レンズ２０のレンズ収差のみに対応する較正情報であっても、補正量の修正には貢献する。
【０１０７】
上述の例では、Ｗ画素に視差画素が割り当てられている画素配列Ｂ'−１の撮像素子１００を採用した場合の視差マップについて説明したが、カラーフィルタが配された画素に視差画素が割り当てられている撮像素子１００を採用した場合の視差マップについても同様に補正できる。この場合、配されたカラーフィルタの種類によって、撮影レンズ２０の倍率色収差の影響を受ける。そこで、視差画素が割り当てられているカラーフィルタごとに誤差量を求め、それぞれに対して誤差マップを生成することにより、倍率色収差に対応する較正情報を取得することができる。
【０１０８】
また、上述のキャリブレーション作業は、被写体距離に応じて加味されるＡＦ補正値を算出するためのキャリブレーション作業に組み入れることができる。この場合、一度の作業により、ＡＦ補正値と誤差マップを生成することができる。
【０１０９】
視差マップは、さまざまな用途に利用できる。その一例として、非カラー画像データをカラー画像データに変換する画像処理への適用について説明する。
【０１１０】
図２２は、視差マップを参照して原色情報を移植する処理の概念を示す図である。画像変換部２３３は、視差マップを参照して、非カラー画像データをカラー画像データに変換する。ここでは、例として、画像データ群として生成された画像データのうち、２Ｄ画像データがカラー画像データであり、視差画像データが非カラー画像データである場合について説明する。また、補正後の視差マップの基準を２Ｄ画像データ基準に変換する。具体的には、例えば補正後の視差マップがＲ画像に対するＬ画像の視差量として記述されている場合には、２Ｄ画像データに対するＬ画像の視差量となるように、それぞれの値を半分にする。
【０１１１】
基準画像である２Ｄ画像データは、各画素ブロックにおいてＲＧＢフィルタのそれぞれに対応する画素値を原色情報として有する。ｎ，ｍを自然数としたとき、画素ブロック（ｎ，ｍ）に対する原色情報を、Ｃｎｍと表す。そして、画像変換部２３３は、視差画像データにおける画素ブロック（ｎ，ｍ）の原色情報として、視差マップを参照して、２Ｄ画像データの画素ブロック（ｎ'，ｍ'）の原色情報Ｃｎ'ｍ'を移植する。画像変換部２３３は、全ブロックに対してこの作業を繰り返し、非カラー画像データである視差画像データをカラー画像データに変換する。
【０１１２】
図の例を用いて具体的に説明する。Ｌ画像データの画素ブロック（１，１）の原色情報を取得する場合は、視差マップの画素（１，１）を参照する。なお、ここでは、視差マップの１画素が２Ｄ画像データ、Ｌ画像データおよびＲ画像データの１ブロックに対応する場合を想定する。このとき視差マップの画素（１，１）は、視差量０を示しているので、画像変換部２３３は、そのまま対応する画素ブロックとして２Ｄ画像データの画素ブロック（１，１）を検索する。そして、画像変換部２３３は、２Ｄ画像データの画素ブロック（１，１）の原色情報Ｃ１１を、Ｌ画像データの画素ブロック（１，１）へ移植する。画像変換部２３３は、視差量が０であるので、Ｒ画像データの画素ブロック（１，１）についても同様に、２Ｄ画像データの画素ブロック（１，１）の原色情報Ｃ１１を移植する。
【０１１３】
次に、Ｌ画像データの画素ブロック（１，２）の原色情報を取得する場合は、視差マップの画素（１，２）を参照する。このとき視差マップの画素（１，２）は、視差量１を示しているので、画像変換部２３３は、２Ｄ画像データの対応する画素ブロック（１，２）のひとつ右側である画素ブロック（１，３）を検索する。そして、画像変換部２３３は、２Ｄ画像データの画素ブロック（１，３）の原色情報Ｃ１３を、Ｌ画像データの画素ブロック（１，２）へ移植する。
【０１１４】
続いて画像変換部２３３は、Ｒ画像データの画素ブロック（１，２）の原色情報を取得する。参照した視差マップの画素（１，２）の視差量は１を示していたが、Ｒ画像データへ原色情報を移植する場合は符号を逆転させるので、ここでは視差量を−１とする。したがって、画像変換部２３３は、２Ｄ画像データの対応する画素ブロック（１，２）のひとつ左側である画素ブロック（１，１）を検索する。そして、画像変換部２３３は、２Ｄ画像データの画素ブロック（１，１）の原色情報Ｃ１１を、Ｒ画像データの画素ブロック（１，２）へ移植することにより原色情報を取得する。
【０１１５】
つまり、画像変換部２３３は、Ｌ画像データの画素ブロック（ｎ，ｍ）へは、視差量がｋであるとき、２Ｄ画像データの原色情報Ｃｎｍ＋ｋを、Ｒ画像データの画素ブロック（ｎ，ｍ）へは、２Ｄ画像データの原色情報Ｃｎｍ−ｋを移植して、それぞれの視差画像データ原色情報を取得する。このようにして、Ｌ画像データの全ブロック、Ｒ画像データの全ブロックに原色情報を移植してカラー画像データを完成させる。このような移植処理により、それぞれの被写体像は、被写体距離に対応する本来の視差をもった位置に観察される。
【０１１６】
図２２の例では、視差画像データが共に非カラー画像データであり、２Ｄ画像データがカラー画像データである場合の、原色情報の移植について説明した。データ取得部２３１により取得される画像データ群において、視差画像データが共に非カラー画像データであり、２Ｄ画像データがカラー画像データである場合は、撮像素子１００が、例えば、Ｂ−１配列、Ｂ'−１配列を採用する場合である。ただし、これらの配列は、繰り返しパターン１１０が、縦２画素横４画素の８画素である。そこで、視差量演算部２３２は、図２２のような縦２画素横２画素の４画素を１ブロックとする場合は、視差画像データのうち足りない画素値を隣接する画素値で補間するなどの処理を施して、各ブロックに対応する視差量を算出すれば良い。
【０１１７】
図２２の例とは逆に、視差画像データが共にカラー画像データであり、２Ｄ画像データが非カラー画像データである場合は、画像変換部２３３は、視差マップを参照して、例えばＬ画像データの原色情報を２Ｄ画像データへ移植する。もちろん、原色情報の移植元はＲ画像データであっても良いし、両画像データの原色情報を平均化するなどの処理を施しても良い。
【０１１８】
上述においては、全ての画素で視差量を演算できた場合を前提として説明したが、被写体の空間周波数、オクルージョン等により、マッチング処理によっては視差量を演算できない画素が存在する場合がある。このような場合には、視差量演算部２３２は、隣接する画素ブロックの視差量との連続性を考慮して補間しても良い。
【０１１９】
また、上述においては、例えば画像処理部２０５が含むデータ取得部２３１、視差量演算部２３２および画像変換部２３３、また、制御部２０１が含む合焦情報取得部２３４および視差量補正部２３５など、デジタルカメラ１０を構成する各構成要素の機能としてそれぞれの処理を説明した。一方、制御部２０１を動作させる制御プログラムは、デジタルカメラ１０を構成する各ハードウェアを、上述の処理を実行させる構成要素として機能させ得る。また、これらの処理は、デジタルカメラ１０で行わなくても、外部のパーソナルコンピュータなどの機器で行っても良い。この場合、外部のパーソナルコンピュータなどの機器は画像処理装置として機能する。画像処理装置は、上述の撮像素子１００から出力される視差画像データと合焦情報を取得して、同一被写体間の視差量を補正する。
【０１２０】
また、上述においては、位相差信号を出力するＡＦセンサ２１１を例に説明をしたが、コントラストＡＦ方式におけるコントラスト情報であっても、最も高いコントラストを示した領域を合焦領域とすることができるので、その合焦領域を基準として上述のように視差量を補正できる。
【０１２１】
以上、本発明を実施の形態を用いて説明したが、本発明の技術的範囲は上記実施の形態に記載の範囲には限定されない。上記実施の形態に、多様な変更または改良を加えることが可能であることが当業者に明らかである。その様な変更または改良を加えた形態も本発明の技術的範囲に含まれ得ることが、特許請求の範囲の記載から明らかである。
【０１２２】
特許請求の範囲、明細書、および図面中において示した装置、システム、プログラム、および方法における動作、手順、ステップ、および段階等の各処理の実行順序は、特段「より前に」、「先立って」等と明示しておらず、また、前の処理の出力を後の処理で用いるのでない限り、任意の順序で実現しうることに留意すべきである。特許請求の範囲、明細書、および図面中の動作フローに関して、便宜上「まず、」、「次に、」等を用いて説明したとしても、この順で実施することが必須であることを意味するものではない。
【符号の説明】
【０１２３】
１０ デジタルカメラ、２０ 撮影レンズ、２１ 光軸、３０ 被写体、１００ 撮像素子、１０１ マイクロレンズ、１０２ カラーフィルタ、１０３ 開口マスク、１０４ 開口部、１０５ 配線層、１０６ 配線、１０７ 開口、１０８ 光電変換素子、１０９ 基板、１１０ 繰り返しパターン、１２０ 撮像素子、１２１ スクリーンフィルタ、１２２ カラーフィルタ部、１２３ 開口マスク部、２０１ 制御部、２０２ Ａ／Ｄ変換回路、２０３ メモリ、２０４ 駆動部、２０５ 画像処理部、２０７ メモリカードＩＦ、２０８ 操作部、２０９ 表示部、２１０ ＬＣＤ駆動回路、２１１ ＡＦセンサ、２２０ メモリカード、２２１ ＲＯＭ、２３１ データ取得部、２３２ 視差量演算部、２３３ 画像変換部、２３４ 合焦情報取得部、２３５ 視差量補正部、３０１ 少女、３０２ 少年、３０３ 女性、３１１ 対象画素、３１２、３１４ 局所ウィンドウ、３１３ 探索画素、４０１、４０２，４０３ 領域、４０４ 背景領域、５００、５０１ ポイント
【技術分野】
【０００１】
本発明は、画像処理装置および画像処理プログラムに関する。
【背景技術】
【０００２】
２つの撮影光学系を用いて、右目用の画像と左目用の画像とから成るステレオ画像を撮像するステレオ撮像装置が知られている。このようなステレオ撮像装置は、２つの撮像光学系を一定の間隔で配置することにより、同一の被写体を撮像して得られる２つの画像に視差を生じさせる。
［先行技術文献］
［特許文献］
［特許文献１］ 特開平８−４７００１号公報
【発明の概要】
【発明が解決しようとする課題】
【０００３】
ピントが合ったオブジェクトに対する視差画像間の視差量は零であるはずにも関わらず、撮影に用いられた撮影レンズの収差等の影響により、視差量が零にならない場合があった。
【課題を解決するための手段】
【０００４】
本発明の第１の態様における画像処理装置は、少なくとも一部の光電変換素子のそれぞれに対応して開口マスクが設けられた少なくとも２つの視差画像データを出力する撮像素子から視差画像データを取得する画像データ取得部と、視差画像データの撮像時における合焦情報を取得する合焦情報取得部と、合焦情報に基づいて、視差画像データにおける同一被写体間の視差量を補正する視差量補正部とを備える。
【０００５】
本発明の第２の態様における撮像装置は、上記の撮像素子と画像処理装置を含み、上記の撮像素子は、隣接するｎ個（ｎは３以上の整数）の光電変換素子のうち、少なくとも３つに対応して設けられたそれぞれの開口マスクの開口は、互いに異なる波長帯域を透過させる少なくとも２種類のカラーフィルタから構成されるカラーフィルターパターンの一パターン内に含まれると共に、入射光の断面領域内の互いに異なる部分領域からの光束をそれぞれ通過させるように位置づけられ、ｎ個の光電変換素子を一組とする光電変換素子群が周期的に配列されており、開口マスクが設けられた光電変換素子の出力信号に基づいて視差画像データを出力する。
【０００６】
本発明の第３の態様における画像処理プログラムは、少なくとも一部の光電変換素子のそれぞれに対応して開口マスクが設けられた少なくとも２つの視差画像データを出力する撮像素子から視差画像データを取得する画像データ取得ステップと、視差画像データの撮像時における合焦情報を取得する合焦情報取得ステップと、合焦情報に基づいて、視差画像データにおける同一被写体間の視差量を補正する視差量補正ステップとをコンピュータに実行させる。
【０００７】
なお、上記の発明の概要は、本発明の必要な特徴の全てを列挙したものではない。また、これらの特徴群のサブコンビネーションもまた、発明となりうる。
【図面の簡単な説明】
【０００８】
【図１】本発明の実施形態に係るデジタルカメラの構成を説明する図である。
【図２】本発明の実施形態に係る撮像素子の断面を表す概略図である。
【図３】撮像素子の一部を拡大した様子を表す概略図である。
【図４】視差画素と被写体の関係を説明する概念図である。
【図５】視差画像を生成する処理を説明する概念図である。
【図６】繰り返しパターンの他の例を示す図である。
【図７】二次元的な繰り返しパターンの例を示す図である。
【図８】開口部の他の形状を説明する図である。
【図９】ベイヤー配列を説明する図である。
【図１０】ベイヤー配列に対する視差画素の割り振りについて、視差画素の種類が２つである場合のバリエーションを説明する図である。
【図１１】バリエーションの一例を示す図である。
【図１２】他のバリエーションの一例を示す図である。
【図１３】他のバリエーションの一例を示す図である。
【図１４】他のカラーフィルタ配列を説明する図である。
【図１５】Ｗ画素と視差画素の配列の一例を示す図である。
【図１６】視差画像と２Ｄ画像の生成過程を示す概念図である。
【図１７】光学ファインダから観察される被写体像および測距領域を示す図である。
【図１８】デジタルカメラと各被写体との距離を示す概念図である。
【図１９】視差マップの生成処理を説明する説明図である。
【図２０】視差マップの補正処理を説明する説明図である。
【図２１】較正情報の例を説明する説明図である。
【図２２】視差マップを参照して原色情報を移植する処理の概念を示す図である。
【発明を実施するための形態】
【０００９】
以下、発明の実施の形態を通じて本発明を説明するが、以下の実施形態は特許請求の範囲にかかる発明を限定するものではない。また、実施形態の中で説明されている特徴の組み合わせの全てが発明の解決手段に必須であるとは限らない。
【００１０】
画像処理装置の一形態である撮像装置としての本実施形態に係るデジタルカメラは、１つのシーンについて複数の視点数の画像を一度の撮影により生成できるように構成されている。互いに視点の異なるそれぞれの画像を視差画像と呼ぶ。
【００１１】
図１は、本発明の実施形態に係るデジタルカメラ１０の構成を説明する図である。デジタルカメラ１０は、撮影光学系としての撮影レンズ２０を備え、光軸２１に沿って入射する被写体光束を撮像素子１００へ導く。デジタルカメラ１０は、撮像素子１００、制御部２０１、Ａ／Ｄ変換回路２０２、メモリ２０３、駆動部２０４、画像処理部２０５、メモリカードＩＦ２０７、操作部２０８、表示部２０９、ＬＣＤ駆動回路２１０およびＡＦセンサ２１１を備える。
【００１２】
なお、図示するように、撮像素子１００へ向かう光軸２１に平行な方向をｚ軸プラス方向と定め、ｚ軸と直交する平面において紙面手前へ向かう方向をｘ軸プラス方向、紙面上方向をｙ軸プラス方向と定める。以降のいくつかの図においては、図１の座標軸を基準として、それぞれの図の向きがわかるように座標軸を表示する。
【００１３】
撮影レンズ２０は、複数の光学レンズ群から構成され、シーンからの被写体光束をその焦点面近傍に結像させる。なお、図１では撮影レンズ２０を説明の都合上、瞳近傍に配置された仮想的な１枚のレンズで代表して表している。撮像素子１００は、撮影レンズ２０の焦点面近傍に配置されている。撮像素子１００は、二次元的に複数の光電変換素子が配列された、例えばＣＣＤ、ＣＭＯＳセンサ等のイメージセンサである。撮像素子１００は、駆動部２０４によりタイミング制御されて、受光面上に結像された被写体像を画像信号に変換してＡ／Ｄ変換回路２０２へ出力する。
【００１４】
Ａ／Ｄ変換回路２０２は、撮像素子１００が出力する画像信号をデジタル画像信号に変換してメモリ２０３へ出力する。画像処理部２０５は、メモリ２０３をワークスペースとして種々の画像処理を施し、画像データを生成する。特に、画像処理部２０５は、撮像素子１００が出力する信号から画像データ群を生成して取得するデータ取得部２３１、取得した画像データ群に含まれる視差画像データ間で視差量を演算する視差量演算部２３２、カラー画像データに変換する画像変換部２３３を有する。それぞれの処理の詳細については、後述する。
【００１５】
画像処理部２０５は、他にも選択された画像フォーマットに従って画像データを調整するなどの画像処理一般の機能も担う。生成された画像データは、ＬＣＤ駆動回路２１０により表示信号に変換され、表示部２０９に表示される。また、メモリカードＩＦ２０７に装着されているメモリカード２２０に記録される。
【００１６】
ＡＦセンサ２１１は、被写体空間に対して複数の測距点が設定された位相差センサであり、それぞれの測距点において被写体像のデフォーカス量を検出する。一連の撮影シーケンスは、操作部２０８がユーザの操作を受け付けて、制御部２０１へ操作信号を出力することにより開始される。撮影シーケンスに付随するＡＦ，ＡＥ等の各種動作は、制御部２０１に制御されて実行される。例えば、制御部２０１は、ＡＦセンサ２１１の検出信号を解析して、撮影レンズ２０の一部を構成するフォーカスレンズを移動させる合焦制御を実行する。
【００１７】
制御部２０１は、合焦情報取得部２３４と視差量補正部２３５としての機能を有する。合焦情報取得部２３４は、生成された画像データ群に対応する合焦情報を、ＡＦセンサ２１１等の出力から生成して取得する。また、視差量補正部２３５は、視差量演算部２３２によって演算された視差量を、合焦情報取得部２３４が取得した合焦情報を用いて補正する。それぞれの処理の詳細については、後述する。
【００１８】
ＲＯＭ２２１は、不揮発性メモリであり、デジタルカメラ１０を制御するプログラム、各種パラメータ等を記憶している。また、後述する較正情報を記憶する役割も担う。
【００１９】
次に、撮像素子１００の構成について詳細に説明する。図２は、本発明の実施形態に係る撮像素子の断面を表す概略図である。図２（ａ）は、カラーフィルタ１０２と開口マスク１０３が別体で構成される撮像素子１００の断面概略図である。また、図２（ｂ）は、撮像素子１００の変形例として、カラーフィルタ部１２２と開口マスク部１２３が一体的に構成されたスクリーンフィルタ１２１を備える撮像素子１２０の断面外略図である。
【００２０】
図２（ａ）に示すように、撮像素子１００は、被写体側から順に、マイクロレンズ１０１、カラーフィルタ１０２、開口マスク１０３、配線層１０５および光電変換素子１０８が配列されて構成されている。光電変換素子１０８は、入射する光を電気信号に変換するフォトダイオードにより構成される。光電変換素子１０８は、基板１０９の表面に二次元的に複数配列されている。
【００２１】
光電変換素子１０８により変換された画像信号、光電変換素子１０８を制御する制御信号等は、配線層１０５に設けられた配線１０６を介して送受信される。また、各光電変換素子１０８に一対一に対応して設けられた開口部１０４を有する開口マスク１０３が、配線層に接して設けられている。開口部１０４は、後述するように、対応する光電変換素子１０８ごとにシフトさせて、相対的な位置が厳密に定められている。詳しくは後述するが、この開口部１０４を備える開口マスク１０３の作用により、光電変換素子１０８が受光する被写体光束に視差が生じる。
【００２２】
一方、視差を生じさせない光電変換素子１０８上には、開口マスク１０３が存在しない。別言すれば、対応する光電変換素子１０８に対して入射する被写体光束を制限しない、つまり有効光束の全体を通過させる開口部１０４を有する開口マスク１０３が設けられているとも言える。視差を生じさせることはないが、実質的には配線１０６によって形成される開口１０７が入射する被写体光束を規定するので、配線１０６を、視差を生じさせない有効光束の全体を通過させる開口マスクと捉えることもできる。開口マスク１０３は、各光電変換素子１０８に対応して別個独立に配列しても良いし、カラーフィルタ１０２の製造プロセスと同様に複数の光電変換素子１０８に対して一括して形成しても良い。
【００２３】
カラーフィルタ１０２は、開口マスク１０３上に設けられている。カラーフィルタ１０２は、各光電変換素子１０８に対して特定の波長帯域を透過させるように着色された、光電変換素子１０８のそれぞれに一対一に対応して設けられるフィルタである。カラー画像を出力するには、互いに異なる少なくとも３種類のカラーフィルタが配列されれば良い。これらのカラーフィルタは、カラー画像を生成するための原色フィルタと言える。原色フィルタの組み合わせは、例えば赤色波長帯を透過させる赤フィルタ、緑色波長帯を透過させる緑フィルタ、および青色波長帯を透過させる青フィルタである。これらのカラーフィルタは、後述するように、光電変換素子１０８に対応して格子状に配列される。
【００２４】
マイクロレンズ１０１は、カラーフィルタ１０２上に設けられている。マイクロレンズ１０１は、入射する被写体光束のより多くを光電変換素子１０８へ導くための集光レンズである。マイクロレンズ１０１は、光電変換素子１０８のそれぞれに一対一に対応して設けられている。マイクロレンズ１０１は、撮影レンズ２０の瞳中心と光電変換素子１０８の相対的な位置関係を考慮して、より多くの被写体光束が光電変換素子１０８に導かれるようにその光軸がシフトされていることが好ましい。さらには、開口マスク１０３の開口部１０４の位置と共に、後述の特定の被写体光束がより多く入射するように配置位置が調整されても良い。
【００２５】
このように、各々の光電変換素子１０８に対応して一対一に設けられる開口マスク１０３、カラーフィルタ１０２およびマイクロレンズ１０１の一単位を画素と呼ぶ。特に、視差を生じさせる開口マスク１０３が設けられた画素を視差画素、視差を生じさせる開口マスク１０３が設けられていない画素を視差なし画素と呼ぶ。例えば、撮像素子１００の有効画素領域が２４ｍｍ×１６ｍｍ程度の場合、画素数は１２００万程度に及ぶ。
【００２６】
なお、集光効率、光電変換効率が良いイメージセンサの場合は、マイクロレンズ１０１を設けなくても良い。また、裏面照射型イメージセンサの場合は、配線層１０５が光電変換素子１０８とは反対側に設けられる。
【００２７】
カラーフィルタ１０２と開口マスク１０３の組み合わせには、さまざまなバリエーションが存在する。図２（ａ）において、開口マスク１０３の開口部１０４に色成分を持たせれば、カラーフィルタ１０２と開口マスク１０３を一体的に形成することができる。また、特定の画素を被写体の輝度情報を取得する画素とする場合、その画素には、対応するカラーフィルタ１０２を設けなくても良い。あるいは、可視光のおよそ全ての波長帯域を透過させるように、着色を施さない透明フィルタを配列しても良い。
【００２８】
輝度情報を取得する画素を視差画素とする場合、つまり、視差画像を少なくとも一旦はモノクロ画像として出力するのであれば、図２（ｂ）として示す撮像素子１２０の構成を採用し得る。すなわち、カラーフィルタとして機能するカラーフィルタ部１２２と、開口部１０４を有する開口マスク部１２３とが一体的に構成されたスクリーンフィルタ１２１を、マイクロレンズ１０１と配線層１０５の間に配設することができる。
【００２９】
スクリーンフィルタ１２１は、カラーフィルタ部１２２において例えば青緑赤の着色が施され、開口マスク部１２３において開口部１０４以外のマスク部分が黒の着色が施されて形成される。スクリーンフィルタ１２１を採用する撮像素子１２０は、撮像素子１００に比較して、マイクロレンズ１０１から光電変換素子１０８までの距離が短いので、被写体光束の集光効率が高い。
【００３０】
次に、開口マスク１０３の開口部１０４と、生じる視差の関係について説明する。図３は、撮像素子１００の一部を拡大した様子を表す概略図である。ここでは、説明を簡単にすべく、カラーフィルタ１０２の配色については後に言及を再開するまで考慮しない。カラーフィルタ１０２の配色に言及しない以下の説明においては、同色（透明である場合を含む）のカラーフィルタ１０２を有する視差画素のみを寄せ集めたイメージセンサであると捉えることができる。したがって、以下に説明する繰り返しパターンは、同色のカラーフィルタ１０２における隣接画素として考えても良い。
【００３１】
図３に示すように、開口マスク１０３の開口部１０４は、それぞれの画素に対して相対的にシフトして設けられている。そして、隣接する画素同士においても、それぞれの開口部１０４は互いに変位した位置に設けられている。
【００３２】
図の例においては、それぞれの画素に対する開口部１０４の位置として、互いに左右方向にシフトした６種類の開口マスク１０３が用意されている。そして、撮像素子１００の全体は、紙面左側から右側へ徐々にシフトする開口マスク１０３をそれぞれ有する６つの視差画素を一組とする光電変換素子群が、二次元的かつ周期的に配列されている。つまり、撮像素子１００は、一組の光電変換素子群を含む繰り返しパターン１１０が、周期的に敷き詰められて構成されていると言える。
【００３３】
図４は、視差画素と被写体の関係を説明する概念図である。特に図４（ａ）は撮像素子１００のうち撮影光軸２１と直交する中心に配列されている繰り返しパターン１１０ｔの光電変換素子群を示し、図４（ｂ）は周辺部分に配列されている繰り返しパターン１１０ｕの光電変換素子群を模式的に示している。図４（ａ）、（ｂ）における被写体３０は、撮影レンズ２０に対して合焦位置に存在する。図４（ｃ）は、図４（ａ）に対応して、撮影レンズ２０に対して非合焦位置に存在する被写体３１を捉えた場合の関係を模式的に示している。なお、後に言及するまでは、合焦位置に存在する被写体に対して取得される視差量を、理想値である０として説明する。
【００３４】
まず、撮影レンズ２０が合焦状態に存在する被写体３０を捉えている場合の、視差画素と被写体の関係を説明する。被写体光束は、撮影レンズ２０の瞳を通過して撮像素子１００へ導かれるが、被写体光束が通過する全体の断面領域に対して、６つの部分領域Ｐａ〜Ｐｆが規定されている。そして、例えば繰り返しパターン１１０ｔ、１１０ｕを構成する光電変換素子群の紙面左端の画素は、拡大図からもわかるように、部分領域Ｐｆから射出された被写体光束のみが光電変換素子１０８へ到達するように、開口マスク１０３の開口部１０４ｆの位置が定められている。同様に、右端の画素に向かって、部分領域Ｐｅに対応して開口部１０４ｅの位置が、部分領域Ｐｄに対応して開口部１０４ｄの位置が、部分領域Ｐｃに対応して開口部１０４ｃの位置が、部分領域Ｐｂに対応して開口部１０４ｂの位置が、部分領域Ｐａに対応して開口部１０４ａの位置がそれぞれ定められている。
【００３５】
別言すれば、例えば部分領域Ｐｆと左端画素の相対的な位置関係によって定義される、部分領域Ｐｆから射出される被写体光束の主光線Ｒｆの傾きにより、開口部１０４ｆの位置が定められていると言っても良い。そして、合焦位置に存在する被写体３０からの被写体光束を、開口部１０４ｆを介して光電変換素子１０８が受光する場合、その被写体光束は、点線で図示するように、光電変換素子１０８上で結像する。同様に、右端の画素に向かって、主光線Ｒｅの傾きにより開口部１０４ｅの位置が、主光線Ｒｄの傾きにより開口部１０４ｄの位置が、主光線Ｒｃの傾きにより開口部１０４ｃの位置が、主光線Ｒｂの傾きにより開口部１０４ｂの位置が、主光線Ｒａの傾きにより開口部１０４ａの位置がそれぞれ定められていると言える。
【００３６】
図４（ａ）で示すように、合焦位置に存在する被写体３０のうち、光軸２１と交差する被写体３０上の微小領域Ｏｔから放射される光束は、撮影レンズ２０の瞳を通過して、繰り返しパターン１１０ｔを構成する光電変換素子群の各画素に到達する。すなわち、繰り返しパターン１１０ｔを構成する光電変換素子群の各画素は、それぞれ６つの部分領域Ｐａ〜Ｐｆを介して、一つの微小領域Ｏｔから放射される光束を受光している。微小領域Ｏｔは、繰り返しパターン１１０ｔを構成する光電変換素子群の各画素の位置ずれに対応する分だけの広がりを有するが、実質的には、ほぼ同一の物点と近似することができる。同様に、図４（ｂ）で示すように、合焦位置に存在する被写体３０のうち、光軸２１から離間した被写体３０上の微小領域Ｏｕから放射される光束は、撮影レンズ２０の瞳を通過して、繰り返しパターン１１０ｕを構成する光電変換素子群の各画素に到達する。すなわち、繰り返しパターン１１０ｕを構成する光電変換素子群の各画素は、それぞれ６つの部分領域Ｐａ〜Ｐｆを介して、一つの微小領域Ｏｕから放射される光束を受光している。微小領域Ｏｕも、微小領域Ｏｔと同様に、繰り返しパターン１１０ｕを構成する光電変換素子群の各画素の位置ずれに対応する分だけの広がりを有するが、実質的には、ほぼ同一の物点と近似することができる。
【００３７】
つまり、被写体３０が合焦位置に存在する限りは、撮像素子１００上における繰り返しパターン１１０の位置に応じて、光電変換素子群が捉える微小領域が異なり、かつ、光電変換素子群を構成する各画素は互いに異なる部分領域を介して同一の微小領域を捉えている。そして、それぞれの繰り返しパターン１１０において、対応する画素同士は同じ部分領域からの被写体光束を受光している。つまり、図においては、例えば繰り返しパターン１１０ｔ、１１０ｕのそれぞれの左端の画素は、同じ部分領域Ｐｆからの被写体光束を受光している。
【００３８】
撮影光軸２１と直交する中心に配列されている繰り返しパターン１１０ｔにおいて左端画素が部分領域Ｐｆからの被写体光束を受光する開口部１０４ｆの位置と、周辺部分に配列されている繰り返しパターン１１０ｕにおいて左端画素が部分領域Ｐｆからの被写体光束を受光する開口部１０４ｆの位置は厳密には異なる。しかしながら、機能的な観点からは、部分領域Ｐｆからの被写体光束を受光するための開口マスクという点で、これらを同一種類の開口マスクとして扱うことができる。したがって、図４の例では、撮像素子１００上に配列される視差画素のそれぞれは、６種類の開口マスクの一つを備えると言える。
【００３９】
次に、撮影レンズ２０が非合焦状態に存在する被写体３１を捉えている場合の、視差画素と被写体の関係を説明する。この場合も、非合焦位置に存在する被写体３１からの被写体光束は、撮影レンズ２０の瞳の６つの部分領域Ｐａ〜Ｐｆを通過して、撮像素子１００へ到達する。ただし、非合焦位置に存在する被写体３１からの被写体光束は、光電変換素子１０８上ではなく他の位置で結像する。例えば、図４（ｃ）に示すように、被写体３１が被写体３０よりも撮像素子１００に対して遠い位置に存在すると、被写体光束は、光電変換素子１０８よりも被写体３１側で結像する。逆に、被写体３１が被写体３０よりも撮像素子１００に対して近い位置に存在すると、被写体光束は、光電変換素子１０８よりも被写体３１とは反対側で結像する。
【００４０】
したがって、非合焦位置に存在する被写体３１のうち、微小領域Ｏｔ'から放射される被写体光束は、６つの部分領域Ｐａ〜Ｐｆのいずれを通過するかにより、異なる組の繰り返しパターン１１０における対応画素に到達する。例えば、部分領域Ｐｄを通過した被写体光束は、図４（ｃ）の拡大図に示すように、主光線Ｒｄ'として、繰り返しパターン１１０ｔ'に含まれる、開口部１０４ｄを有する光電変換素子１０８へ入射する。そして、微小領域Ｏｔ'から放射された被写体光束であっても、他の部分領域を通過した被写体光束は、繰り返しパターン１１０ｔ'に含まれる光電変換素子１０８へは入射せず、他の繰り返しパターンにおける対応する開口部を有する光電変換素子１０８へ入射する。換言すると、繰り返しパターン１１０ｔ'を構成する各光電変換素子１０８へ到達する被写体光束は、被写体３１の互いに異なる微小領域から放射された被写体光束である。すなわち、開口部１０４ｄに対応する１０８へは主光線をＲｄ'とする被写体光束が入射し、他の開口部に対応する光電変換素子１０８へは主光線をＲａ＋、Ｒｂ＋、Ｒｃ＋、Ｒｅ＋、Ｒｆ＋とする被写体光束が入射するが、これらの被写体光束は、被写体３１の互いに異なる微小領域から放射された被写体光束である。このような関係は、図４（ｂ）における周辺部分に配列されている繰り返しパターン１１０ｕにおいても同様である。
【００４１】
すると、撮像素子１００の全体で見た場合、例えば、開口部１０４ａに対応する光電変換素子１０８で捉えた被写体像Ａと、開口部１０４ｄに対応する光電変換素子１０８で捉えた被写体像Ｄは、合焦位置に存在する被写体に対する像であれば互いにずれが無く、非合焦位置に存在する被写体に対する像であればずれが生じることになる。そして、そのずれは、非合焦位置に存在する被写体が合焦位置に対してどちら側にどれだけずれているかにより、また、部分領域Ｐａと部分領域Ｐｄの距離により、方向と量が定まる。つまり、被写体像Ａと被写体像Ｄは、互いに視差像となる。この関係は、他の開口部に対しても同様であるので、開口部１０４ａから１０４ｆに対応して、６つの視差像が形成されることになる。
【００４２】
したがって、このように構成されたそれぞれの繰り返しパターン１１０において、互いに対応する画素の出力を寄せ集めると、視差画像が得られる。つまり、６つの部分領域Ｐａ〜Ｐｆうちの特定の部分領域から射出された被写体光束を受光した画素の出力は、視差画像を形成する。
【００４３】
図５は、視差画像を生成する処理を説明する概念図である。図は、左列から順に、開口部１０４ｆに対応する視差画素の出力を集めて生成される視差画像データＩｍ＿ｆの生成の様子、開口部１０４ｅの出力による視差画像データＩｍ＿ｅの生成の様子、開口部１０４ｄの出力による視差画像データＩｍ＿ｄの生成の様子、開口部１０４ｃの出力による視差画像データＩｍ＿ｃの生成の様子、開口部１０４ｂの出力による視差画像データＩｍ＿ｂの生成の様子、開口部１０４ａの出力による視差画像データＩｍ＿ａの生成の様子を表す。まず開口部１０４ｆの出力による視差画像データＩｍ＿ｆの生成の様子について説明する。
【００４４】
６つの視差画素を一組とする光電変換素子群から成る繰り返しパターン１１０は、横一列に配列されている。したがって、開口部１０４ｆを有する視差画素は、撮像素子１００上において、左右方向に６画素おき、かつ、上下方向に連続して存在する。これら各画素は、上述のようにそれぞれ異なる微小領域からの被写体光束を受光している。したがって、これらの視差画素の出力を寄せ集めて配列すると、視差画像が得られる。
【００４５】
しかし、本実施形態における撮像素子１００の各画素は正方画素であるので、単に寄せ集めただけでは、横方向の画素数が１／６に間引かれた結果となり、縦長の画像データが生成されてしまう。そこで、補間処理を施して横方向に６倍の画素数とすることにより、本来のアスペクト比の画像として視差画像データＩｍ＿ｆを生成する。ただし、そもそも補間処理前の視差画像データが横方向に１／６に間引かれた画像であるので、横方向の解像度は、縦方向の解像度よりも低下している。つまり、生成される視差画像データの数と、解像度の向上は相反関係にあると言える。
【００４６】
同様にして、視差画像データＩｍ＿ｅ〜視差画像データＩｍ＿ａが得られる。すなわち、デジタルカメラ１０は、横方向に視差を有する６視点の視差画像を生成することができる。
【００４７】
上記の例では、横一列を繰り返しパターン１１０として周期的に配列される例を説明したが、繰り返しパターン１１０はこれに限らない。図６は、繰り返しパターン１１０の他の例を示す図である。
【００４８】
図６（ａ）は、縦６画素を繰り返しパターン１１０とした例である。ただし、それぞれの開口部１０４は、紙面上端の視差画素から下に向かって、紙面左側から右側へ徐々にシフトするように位置が定められている。このように配列された繰り返しパターン１１０によっても、横方向に視差を与える６視点の視差画像を生成することができる。この場合は、図３の繰り返しパターン１１０に比較すると、縦方向の解像度を犠牲にする代わりに横方向の解像度を維持する繰り返しパターンであると言える。
【００４９】
図６（ｂ）は、斜め方向に隣接する６画素を繰り返しパターン１１０とした例である。それぞれの開口部１０４は、紙面左上端の視差画素から右下に向かって、紙面左側から右側へ徐々にシフトするように位置が定められている。このように配列された繰り返しパターン１１０によっても、横方向に視差を与える６視点の視差画像を生成することができる。この場合は、図３の繰り返しパターン１１０に比較すると、縦方向の解像度および横方向の解像度をある程度維持しつつ、視差画像の数を増やす繰り返しパターンであると言える。
【００５０】
図３の繰り返しパターン１１０、および図６（ａ）（ｂ）の繰り返しパターン１１０をそれぞれ比較すると、いずれも６視点の視差画像を生成する場合において、視差画像でない全体から一枚の画像を出力する場合の解像度に対し、縦方向、横方向のいずれの方向の解像度を犠牲にするかの違いであると言える。図３の繰り返しパターン１１０の場合は、横方向の解像度を１／６とする構成である。図６（ａ）の繰り返しパターン１１０の場合は、縦方向の解像度を１／６とする構成である。また、図６（ｂ）の繰り返しパターン１１０の場合は、縦方向を１／３、横方向を１／２とする構成である。いずれの場合も、一つのパターン内には、各画素に対応して開口部１０４ａ〜１０４ｆが一つずつ設けられており、それぞれが対応する部分領域Ｐａ〜Ｐｆのいずれかから被写体光束を受光するように構成されている。したがって、いずれの繰り返しパターン１１０であっても視差量は同等である。
【００５１】
上述の例では、左右方向に視差を与える視差画像を生成する場合について説明したが、もちろん上下方向に視差を与える視差画像を生成することもできるし、上下左右の二次元方向に視差を与える視差画像を生成することもできる。図７は、二次元的な繰り返しパターン１１０の例を示す図である。
【００５２】
図７の例によれば、縦６画素横６画素の３６画素を一組の光電変換素子群として繰り返しパターン１１０を形成する。それぞれの画素に対する開口部１０４の位置として、互いに上下左右方向にシフトした３６種類の開口マスク１０３が用意されている。具体的には、各開口部１０４は、繰り返しパターン１１０の上端画素から下端画素に向かって、上側から下側へ徐々にシフトすると同時に、左端画素から右端画素に向かって、左側から右側へ徐々にシフトするように位置決めされている。
【００５３】
このような繰り返しパターン１１０を有する撮像素子１００は、上下方向および左右方向に視差を与える、３６視点の視差画像を出力することができる。もちろん図７の例に限らず、さまざまな視点数の視差画像を出力するように繰り返しパターン１１０を定めることができる。
【００５４】
以上の説明においては、開口部１０４の形状として矩形を採用した。特に、横方向に視差を与える配列においては、シフトさせる方向である左右方向の幅よりも、シフトさせない上下方向の幅を広くすることにより、光電変換素子１０８へ導く光量を確保している。しかし、開口部１０４の形状は矩形に限定されない。
【００５５】
図８は、開口部１０４の他の形状を説明する図である。図においては、開口部１０４の形状を円形とした。円形とした場合、半球形状であるマイクロレンズ１０１との相対的な関係から、予定外の被写体光束が迷光となって光電変換素子１０８へ入射することを防ぐことができる。
【００５６】
次に、カラーフィルタ１０２と視差画像について説明する。図９は、ベイヤー配列を説明する図である。図示するように、ベイヤー配列は、緑フィルタが左上と右下の２画素に、赤フィルタが左下の１画素に、青フィルタが右上の１画素に割り当てられる配列である。ここでは、緑フィルタが割り当てられた左上の画素をＧｂ画素と、同じく緑色フィルタが割り当てられた右下の画素をＧｒ画素とする。また、赤色フィルタが割り当てられた画素をＲ画素と、青色が割り当てられた画素をＢ画素とする。そして、Ｇｂ画素およびＢ画素が並ぶ横方向をＧｂ行とし、Ｒ画素およびＧｒ画素が並ぶ横方向をＧｒ行とする。また、Ｇｂ画素およびＲ画素が並ぶ縦方向をＧｂ列とし、Ｂ画素およびＧｒ画素が並ぶ縦方向をＧｒ列とする。
【００５７】
このようなカラーフィルタ１０２の配列に対して、視差画素と視差なし画素を、何色の画素にどのような周期で割り振っていくかにより、膨大な数の繰り返しパターン１１０が設定され得る。視差なし画素の出力を集めれば、通常の撮影画像と同じく視差のない撮影画像データを生成することができる。したがって、相対的に視差なし画素の割合を増やせば、解像度の高い２Ｄ画像を出力させることができる。この場合、視差画素は相対的に少ない割合となるので、複数の視差画像からなる３Ｄ画像としては画質が低下する。逆に、視差画素の割合を増やせば、３Ｄ画像としては画質が向上するが、視差なし画素は相対的に減少するので、解像度の低い２Ｄ画像が出力される。
【００５８】
このようなトレードオフの関係において、何れの画素を視差画素とするか、あるいは視差なし画素とするかにより、様々な特徴を有する繰り返しパターン１１０が設定される。図１０は、ベイヤー配列に対する視差画素の割り振りについて、視差画素の種類が２つである場合のバリエーションを説明する図である。この場合の視差画素は、開口部１０４が中心よりも左側に偏心した視差Ｌ画素と、同じく右側に偏心した視差Ｒ画素を想定している。つまり、このような視差画素から出力される２視点の視差画像は、いわゆる立体視を実現する。
【００５９】
それぞれの繰り返しパターンに対する特徴の説明は図に示す通りである。例えば、視差なし画素が多く割り振られていれば高解像度の２Ｄ画像データとなり、ＲＧＢのいずれの画素に対しても均等に割り振られていれば、色ずれの少ない高画質の２Ｄ画像データとなる。一方、視差画素が多く割り振られていれば高解像度の３Ｄ画像データとなり、ＲＧＢのいずれの画素に対しても均等に割り振られていれば、３Ｄ画像でありながら、色再現性の良い高品質のカラー画像データとなる。
【００６０】
以下にいくつかのバリエーションについて説明する。図１１は、バリエーションの一例を示す図である。図１１のバリエーションは、図１０における繰り返しパターン分類Ａ−１に相当する。
【００６１】
図の例においては、ベイヤー配列と同じ４画素を繰り返しパターン１１０とする。Ｒ画素とＢ画素は視差なし画素であり、Ｇｂ画素を視差Ｌ画素に、Ｇｒ画素を視差Ｒ画素に割り当てる。この場合、同一の繰り返しパターン１１０に含まれる視差Ｌ画素と視差Ｒ画素が、被写体が合焦位置に存在するときに、同じ微小領域から放射される光束を受光するように開口部１０４が定められる。
【００６２】
図の例においては、視感度の高い緑画素であるＧｂ画素およびＧｒ画素を視差画素として用いるので、コントラストの高い視差画像を得ることが期待できる。また、同じ緑色画素であるＧｂ画素およびＧｒ画素を視差画素として用いるので、これら２つの出力から視差のない出力に変換演算がし易く、視差なし画素であるＲ画素およびＢ画素の出力と共に、高画質の２Ｄ画像データを生成できる。
【００６３】
図１２は、他のバリエーションの一例を示す図である。図１２のバリエーションは、図１０における繰り返しパターン分類Ｂ−１に相当する。
【００６４】
図の例においては、ベイヤー配列の４画素が左右に２組続く８画素を繰り返しパターン１１０とする。８画素のうち、左側のＧｂ画素に視差Ｌ画素を、右側のＧｂ画素に視差Ｒ画素を割り当てる。このような配列においては、Ｇｒ画素を視差なし画素としたことにより、図１０の例よりも、更に２Ｄ画像の高画質化が望める。
【００６５】
図１３は、更に他のバリエーションの一例を示す図である。図１３のバリエーションは、図１０における繰り返しパターン分類Ｄ−１に相当する。
【００６６】
図の例においては、ベイヤー配列の４画素が左右に２組続く８画素を繰り返しパターン１１０とする。８画素のうち、左側のＧｂ画素に視差Ｌ画素を、右側のＧｂ画素に視差Ｒ画素を割り当てる。さらに、左側のＲ画素に視差Ｌ画素を、右側のＲ画素に視差Ｒ画素を割り当てる。さらに、左側のＢ画素に視差Ｌ画素を、右側のＢ画素に視差Ｒ画素を割り当てる。２つのＧｒ画素には視差なし画素を割り当てる。
【００６７】
２つのＧｂ画素に割り当てられた視差Ｌ画素と視差Ｒ画素は、被写体が合焦位置に存在するときに、一つの微小領域から放射される光束を受光する。また、２つのＲ画素に割り当てられた視差Ｌ画素と視差Ｒ画素は、Ｇｂ画素のそれとは異なる一つの微小領域から放射される光束を受光し、２つのＢ画素に割り当てられた視差Ｌ画素と視差Ｒ画素は、Ｇｂ画素およびＲ画素のそれとは異なる一つの微小領域から放射される光束を受光する。したがって、図１２の例に比較して、３Ｄ画像としての解像度が縦方向に３倍となる。しかも、ＲＧＢの３色の出力が得られるので、カラー画像としての３Ｄ画像として高品質である。
【００６８】
なお、上述のように視差画素の種類を２つにすれば２視点の視差画像が得られるが、もちろん視差画素の種類は、出力したい視差画像数に合わせて、図３、図７、図８などで説明したような様々な数を採用し得る。視点数が増えていっても、さまざまな繰り返しパターン１１０を形成することができる。したがって、仕様、目的等に応じた繰り返しパターン１１０を選択することができる。
【００６９】
上述の例では、カラーフィルタ配列としてベイヤー配列を採用した場合について説明したが、もちろん他のカラーフィルタ配列であっても差し支えない。このとき、一組の光電変換素子群を構成する視差画素のそれぞれは、互いに異なる部分領域を向く開口部１０４を有する開口マスク１０３を備えると良い。
【００７０】
したがって、撮像素子１００は、入射光を電気信号に光電変換する、二次元的に配列された光電変換素子１０８と、光電変換素子１０８の少なくとも一部のそれぞれに一対一に対応して設けられた開口マスク１０３と、光電変換素子１０８の少なくとも一部のそれぞれに一対一に対応して設けられたカラーフィルタ１０２とを備え、隣接するｎ個（ｎは３以上の整数）の光電変換素子１０８のうち、少なくとも２つ（３つ以上であっても良い）に対応して設けられたそれぞれの開口マスク１０３の開口部１０４は、互いに異なる波長帯域を透過させる少なくとも３種類のカラーフィルタ１０２から構成されるカラーフィルターパターンの一パターン内に含まれると共に、入射光の断面領域内の互いに異なる部分領域からの光束をそれぞれ通過させるように位置づけられ、ｎ個の光電変換素子１０８を一組とする光電変換素子群が周期的に配列されていれば良い。
【００７１】
図１４は、他のカラーフィルタ配列を説明する図である。図示するように、他のカラーフィルタ配列は、図９で示したベイヤー配列のＧｒ画素を緑フィルタが割り当てられるＧ画素として維持する一方、Ｇｂ画素をカラーフィルタが割り当てられないＷ画素に変更した配列である。なお、Ｗ画素は、上述のように、可視光のおよそ全ての波長帯域を透過させるように、着色を施さない透明フィルタが配列されていても良い。
【００７２】
このようなＷ画素を含むカラーフィルタ配列を採用すれば、撮像素子が出力するカラー情報の精度は若干低下するものの、Ｗ画素が受光する光量はカラーフィルタが設けられている場合に比較して多いので、精度の高い輝度情報を取得できる。Ｗ画素の出力を寄せ集めれば、モノクロ画像を形成することもできる。
【００７３】
Ｗ画素を含むカラーフィルタ配列の場合、視差画素と視差なし画素の繰り返しパターン１１０は、さらなるバリエーションが存在する。例えば、比較的暗い環境下で撮影された画像であっても、カラー画素から出力された画像に比較してＷ画素から出力された画像であれば、被写体像のコントラストが高い。そこで、Ｗ画素に視差画素を割り振れば、複数の視差画像間で行うマッチング処理において、精度の高い演算結果が期待できる。後述するように、マッチング処理は、視差量を取得する処理の一環として実行される。したがって、２Ｄ画像の解像度および視差画像の画質への影響に加え、抽出される他の情報への利害得失も考慮して、視差画素と視差なし画素の繰り返しパターン１１０が設定される。
【００７４】
図１５は、図１４の他のカラーフィルタ配列を採用する場合の、Ｗ画素と視差画素の配列の一例を示す図である。図１５のバリエーションは、ベイヤー配列における図１２の繰り返しパターン分類Ｂ−１に類似するので、ここではＢ'−１とする。図の例においては、他のカラーフィルタ配列の４画素が左右に２組続く８画素を繰り返しパターン１１０とする。８画素のうち、左側のＷ画素に視差Ｌ画素を、右側のＷ画素に視差Ｒ画素を割り当てる。このような配列において撮像素子１００は、視差画像をモノクロ画像として出力し、２Ｄ画像をカラー画像として出力する。
【００７５】
この場合、撮像素子１００は、入射光を電気信号に光電変換する、二次元的に配列された光電変換素子１０８と、光電変換素子１０８の少なくとも一部のそれぞれに一対一に対応して設けられた開口マスク１０３と、光電変換素子１０８の少なくとも一部のそれぞれに一対一に対応して設けられたカラーフィルタ１０２とを有し、隣接するｎ個（ｎは４以上の整数）の光電変換素子１０８のうち、少なくとも２つに対応して設けられたそれぞれの開口マスク１０３の開口部１０４は、互いに異なる波長帯域を透過させる少なくとも３種類のカラーフィルタ１０２から構成されるカラーフィルターパターンの一パターン内には含まれず、かつ、入射光の断面領域内の互いに異なる部分領域からの光束をそれぞれ通過させるように位置づけられ、ｎ個の光電変換素子１０８を一組とする光電変換素子群が周期的に配列されていれば良い。
【００７６】
ここで、モノクロ画像としての視差画像の生成と、カラー画像としての２Ｄ画像の生成について説明する。
【００７７】
図１６は、視差画像と２Ｄ画像の生成過程を示す概念図である。図示するように、視差Ｌ画素の出力が、撮像素子１００上の相対的な位置関係を維持しながら寄せ集められて、Ｌ画像データが生成される。一つの繰り返しパターン１１０に含まれる視差Ｌ画素は一つであるので、Ｌ画像データを形成する各視差Ｌ画素は、それぞれ異なる繰り返しパターン１１０から寄せ集められていると言える。すなわち、寄せ集められたそれぞれの視差Ｌ画素の出力は、被写体の互いに異なる微小領域から放射された光が光電変換された結果であるので、Ｌ画像データは、特定の視点（Ｌ視点）から被写体を捉えた一つの視差画像データとなる。そして、視差Ｌ画素は、Ｗ画素に割り振られているので、Ｌ画像データは、カラー情報を持たず、モノクロ画像として生成される。
【００７８】
同様に、視差Ｒ画素の出力が、撮像素子１００上の相対的な位置関係を維持しながら寄せ集められて、Ｒ画像データが生成される。寄せ集められたそれぞれの視差Ｒ画素の出力は、被写体の互いに異なる微小領域から放射された光が光電変換された結果であるので、Ｒ画像データは、特定の視点（Ｒ視点）から被写体を捉えた一つの視差画像データとなる。そして、視差Ｒ画素は、Ｗ画素に割り振られているので、Ｒ画像データは、カラー情報を持たず、モノクロ画像として生成される。
【００７９】
被写体が合焦位置に存在するときに、一つの繰り返しパターン１１０において、Ｌ画素とＲ画素は、被写体の同一の微小領域から放射される光束を受光する。また、被写体が非合焦位置に存在するときに、一つの繰り返しパターン１１０において、Ｌ画素とＲ画素は、被写体の互いにずれた微小領域から放射される光束を受光する。そのずれは、被写体位置の合焦位置に対する相対関係と瞳の部分領域の関係とから、方向と量が定まる。したがって、Ｌ画像データとＲ画像データのそれぞれにおいて、視差Ｌ画素と視差Ｒ画素が撮像素子１００上の相対的な位置関係を維持しながら寄せ集められていれば、それぞれが視差画像を形成する。
【００８０】
また、視差なし画素の出力が、撮像素子１００上の相対的な位置関係を維持しながら寄せ集められて、２Ｄ画像データが生成される。このとき、Ｗ画素は視差画素であるので、視差なし画素のみで構成されるベイヤー配列からの出力に対して、Ｇｂ画素の出力に相当する出力が欠落する。そこで、本実施形態においては、この欠落した出力の値として、Ｇ画素の出力値を代入する。つまり、Ｇ画素の出力で補間処理を行う。このように、補間処理を施せば、ベイヤー配列の出力に対する画像処理を採用して２Ｄ画像データを生成することができる。
【００８１】
なお、以上の画像処理は、画像処理部２０５のデータ取得部２３１によって実行される。データ取得部２３１は、制御部２０１を介して撮像素子１００から出力される画像信号を受け取り、上述のようにそれぞれの画素の出力ごとに分配してＬ画像データ、Ｒ画像データおよび２Ｄ画像データを生成する。
【００８２】
図１７は、光学ファインダから観察される被写体像および測距領域を示す図である。ここではシーンの例として、手前から順に少女３０１、少年３０２および女性３０３が存在する場合を説明する。
【００８３】
ＡＦセンサ２１１は、被写体空間に対して二次元的かつ離散的に配置される複数の測距点４６０を有する。図の例の場合、１１点の測距点４６０が、全体として略菱形形状に離散的に配置されている。ＡＦセンサ２１１は、それぞれの測距点４６０に対応するデフォーカス量を独立に出力することができる。
【００８４】
制御部２０１は、ユーザによる任意選択、近点優先等のアルゴリズムにより選択された合焦測距点４６１（図の例では少年３０２と重なる測距点４６０）のデフォーカス量を検出して、合焦に至るフォーカスレンズの移動量および移動方向を決定する。さらに制御部２０１は、これらの情報に従ってフォーカスレンズを移動させる。フォーカスレンズの移動が完了すると、制御部２０１は、ＡＦセンサ２１１により合焦測距点４６１のデフォーカス量を再度検出して、合焦測距点４６１に対応するオブジェクトにピントが合ったことを確認する。
【００８５】
制御部２０１は、ピントが合ったことを確認できたら、スーパーインポーズ表示等により合焦測距点４６１を明滅させ、合焦動作完了をユーザに告知する。また、制御部２０１は、合焦測距点４６１のデフォーカス量を再度検出すると同時に、他の測距点４６０のデフォーカス量も検出する。
【００８６】
図１８は、デジタルカメラ１０と各被写体との距離を示す概念図である。制御部２０１は、それぞれの測距点４６０におけるデフォーカス量から、被写体までの距離を算出できる。具体的には、レンズ情報として、フォーカスレンズ位置と合焦被写体距離の対応テーブルを取得し、現在のフォーカスレンズ位置を入力することにより、合焦被写体までの距離を得る。この距離は少年３０２までの距離ＤＢに相当する。オートフォーカスにおいては、あるデフォーカス量に対して、合焦位置までフォーカスレンズをどれだけ移動させればよいかの移動量変換関数を利用している。そこで、ここでもこの移動量関数を利用して、非合焦測距点におけるデフォーカス量から、フォーカスレンズの移動量を算出する。そして、現在のフォーカスレンズ位置に算出した移動量を加算した値を対応テーブルに入力することにより、距離ＤＡおよび距離ＤＣを得る。本実施形態においては、絶対距離を用いる場合に、このようにＡＦセンサ２１１の出力であるデフォーカス情報から算出された距離情報を参照する。合焦情報取得部２３４は、被写界に対する合焦測距点４６１の位置情報および測距点４６０ごとのデフォーカス情報に、算出された場合には距離情報を含め、これらを合焦情報として取得する。
【００８７】
次に視差マップについて説明する。図１９は、視差マップの生成処理を説明する説明図である。視差量演算部２３２は、データ取得部２３１が生成したＬ画像データおよびＲ画像データを受け取って、以下の視差マップ生成処理を実行する。
【００８８】
視差量演算部２３２は、対象画素３１１に対して局所ウィンドウ３１２を定め、２画像間でマッチング処理を行い、対象画素３１１における視差量を決定する。具体的には、視差量演算部２３２は、Ｌ画像上の局所ウィンドウ３１２に対応してＲ画像上に局所ウィンドウ３１４を設定して、局所ウィンドウ３１４を局所ウィンドウ３１２に対して相対的にずらしながら互いにマッチングの良い画像領域を探索する。そして、マッチングが良いと判断される局所ウィンドウ３１４の位置を定め、その中心座標である探索画素３１３の座標値を算出する。視差量は、対象画素３１１の座標値と探索画素３１３の座標値の差として決定される。つまり、視差量演算部２３２は、被写体の同一点を捉えている対象画素３１１と探索画素３１３が、互いに何ピクセルずれているかを視差量として決定する。そして、視差量演算部２３２は、Ｌ画像上において対象画素３１１を左上から右下まで順次走査しながら上記のマッチング処理を逐次実行して、Ｌ画像とＲ画像の視差量を算出する。
【００８９】
対象画素３１１が合焦領域に含まれる場合は、理想的には視差量が０となる。また、対象画素３１１が合焦領域に対して奥行き方向に遠い被写体の領域に含まれる場合は、視差量がプラスの値として表れる。逆に、対象画素３１１が合焦領域に対して奥行き方向に近い被写体の領域に含まれる場合は、視差量がマイナスの値として表れる。また、ピクセル単位で決定される視差量は、被写体の奥行き方向の距離に比例した値となる。なお、視差量は、Ｌ画像とＲ画像の相対的なずれ量を表すので、いずれを基準とするかによりプラスとマイナスの関係は逆転する。
【００９０】
視差マップは、上述の算出結果として、各被写体領域に対応した視差量として表現される。図１９下図の例は、視差量演算部２３２が、最も手前に存在する少女３０１に対応する領域４０１の視差量を０、その奥に存在する少年３０２に対応する領域４０２の視差量を＋１、さらに奥に存在する女性３０３に対応する領域４０３の視差量を＋２、背景領域４０４の視差量を＋５とする視差マップを生成した様子を示している。
【００９１】
上述の通り、合焦位置に存在する被写体に対して取得される視差量は０のはずである。図１９の例によれば、図１７で示す通り少年３０２に対して焦点調整が実行されているので、少年３０２が合焦位置に存在する被写体と言える。ところが、マッチング処理によって算出された、少年３０２に対応する領域４０２の視差量は＋１である。つまり、本来視差量が０となるべきところ、誤差を含んで＋１と算出されている。
【００９２】
そこで、本実施形態においては、視差量演算部２３２が算出した視差マップを視差量補正部２３５が受け取り、合焦情報取得部２３４が取得した合焦情報を参照して、受け取った視差マップにおける各領域の視差量を補正する。図２０は、視差マップの補正処理を説明する説明図である。
【００９３】
視差マップは、上述のように、被写体領域ごとの視差量で表現されている。被写体領域は、同じ視差量を示す画素の集合としてその輪郭が形成される。図２０の例では簡略化しているが、被写体領域は、デジタルカメラ１０からの距離に応じた等高線のように形成される。ただし、視差量は整数値としてのピクセル単位で表現されるとは限らず、より精度を要求される場合などおいてには、サブピクセル単位でも表現され得る。このような場合も含めて、被写体領域は、一定の範囲に含まれる視差量を有する画素ごとに纏められて定義されても良い。
【００９４】
合焦情報は、少なくとも被写界に対する合焦測距点４６１の位置情報を含む。視差量補正部２３５は、合焦情報取得部２３４から合焦測距点４６１の位置情報を受け取り、合焦測距点４６１の位置を含む視差マップの被写体領域を選択する。図の例では、合焦測距点４６１は略菱形形状に離散的に配置されている測距点４６０のうちの左端の測距点であるので、この測距点の位置を含む領域４０２が選択される。
【００９５】
視差量補正部２３５は、選択した領域４０２の視差量を０に補正する。すなわち、補正前の視差マップにおいては＋１を示していた視差量を−１する。この−１を補正量として、他の領域にも適用する。すなわち、視差量補正部２３５は、領域４０１の視差量を０から−１へ、領域４０３の視差量を＋２から＋１へ、背景領域４０４の視差量を＋５から＋４へ補正する。このようにして、被写界に存在する各領域の視差量を補正して、補正後の視差マップを完成させる。
【００９６】
以上の例においては、合焦測距点４６１に対応する領域４０２の視差量を０とし、領域４０２において補正量を算出して、他の領域にも当該補正量を一律に適用することにより補正後の視差マップを完成させた。しかし、視差量演算部２３２がマッチング処理によって算出する合焦領域の視差量が０とならないのは、様々な要因に拠る誤差が累積された結果である。したがって、その要因に対応して誤差を緩和するように補正量をさらに調整すれば、より精確な視差マップを生成することができる。
【００９７】
誤差を生じる要因としては、まず、デジタルカメラ１０がレンズ交換式カメラである場合、装着される撮影レンズ２０ごとに特性の異なる収差が挙げられる。それぞれの視差画像は、上述のように、被写体光束が通過する撮影レンズ２０の断面領域に対して、異なる部分領域を通過する部分光束により形成される。したがって、通過する部分領域の収差特性が異なれば、形成される視差画像間の視差量にも誤差を生じさせ得る。
【００９８】
また、誤差を生じされる別の要因としては、合焦状態に存在する被写体までの距離が挙げられる。被写体からの光束が光軸から離れた部分領域を通過して視差画素に入射する場合、その入射角は、被写体距離によって変化する。したがって、被写体までの距離が異なれば、形成される視差画像間の視差量に誤差を生じさせ得る。
【００９９】
また、誤差を生じされる別の要因としては、撮影時における撮影レンズ２０の絞り開口が挙げられる。その他の要因としては、撮影レンズ２０の焦点距離、合焦測距点の位置などが挙げられる。
【０１００】
このような様々な要因の少なくとも一部に対応すべく、デジタルカメラ１０は、事前に基準チャート板などの基準像を撮影することにより、較正情報を生成する。図２１は、較正情報の例を説明する説明図である。ここでは、誤差を生じさせる要因としての、レンズ収差、被写体距離、絞り開口に対応する較正情報を生成する場合について説明する。
【０１０１】
基準像は、固定されたデジタルカメラ１０に対して、予め設定された距離に設置される。そして、デジタルカメラ１０は、当該基準像に焦点を合わせ、絞り値を変更しつつ複数回の撮影を実行して、複数組の視差画像データを取得する。さらに、距離を変更して設置された基準像に対して、同様の手順で複数組の視差画像データを取得する。これを、装着される撮影レンズ２０ごとに繰り返す。
【０１０２】
このようなキャリブレーション作業によって取得されたそれぞれの組の視差画像データは、視差量演算部２３２によってマッチング処理が施され、各画素に対する視差量が算出される。しかし、視差画像データは、設定距離に設置された基準像である平面全体に対して合焦調整を行って取得されているので、本来の視差量は０のはずである。したがって、視差量演算部２３２によって算出された視差量が０で無い場合、その値は誤差であると認識できる。制御部２０１は、この誤差情報をテーブル化して較正情報を生成し、ＲＯＭ２２１へ記憶する。
【０１０３】
図２１の例によれば、較正情報は、装着される撮影レンズ２０（レンズＡ）の各絞り値（ｆ２．８、ｆ５．６…）と各被写体距離（１．０ｍ、５．０ｍ、１５．０ｍ…）に対応して、マトリックス状に誤差情報が関連付けられている。誤差情報は、図示するように、画像領域が誤差量ごとに区分された誤差マップとして形成されている。例えば、絞り値ｆ２．８、被写体距離１．０ｍの誤差マップの場合、画像領域の中心に対して同心円状に５つの領域に区分されており、各区分領域は、中心部から外周部へ向かってそれぞれ誤差量０、＋０．５、＋１．０、＋１．５、＋２．０が定義されている。なお、絞り値、被写体距離の刻み幅は、要求される精度に応じて決定すればよい。
【０１０４】
このように定義付けられた較正情報の利用について説明する。例えば、被写体距離が１．０ｍであって、ポイント５００に存在する被写体に焦点を合わせた場合、誤差マップではポイント５００を含む領域において＋１．０を示しているので、較正情報の寄与分として符号を逆転させた−１．０を上述の補正量に加える。この修正された補正量をもって、視差マップの対応領域（ポイント５００に存在する被写体の領域）を補正する。
【０１０５】
また、合焦情報が、各測距点４６０に対応する被写体までの距離情報を有する場合は、さらに補正量を修正できる。例えば被写体距離が５．０ｍであって、ポイント５０１に非合焦の被写体が存在する場合、誤差マップではポイント５０１を含む領域において＋２．０を示しているので、較正情報の寄与分として符号を逆転させた−２．０を上述の補正量に加える。この修正された補正量をもって、視差マップの対応領域（ポイント５０１に存在する被写体の領域）を補正する。つまり、被写体領域ごとに、それぞれ適する視差マップを参照することができる。
【０１０６】
なお、上述の例においては、レンズ収差、被写体距離、絞り開口に対して纏めて対応する較正情報を生成したが、もちろん要因ごとに切り分け、そのうちのいくつかに対応する較正情報を生成しても良い。例えば、被写体距離および絞り開口がひとつの基準値に設定された、撮影レンズ２０のレンズ収差のみに対応する較正情報であっても、補正量の修正には貢献する。
【０１０７】
上述の例では、Ｗ画素に視差画素が割り当てられている画素配列Ｂ'−１の撮像素子１００を採用した場合の視差マップについて説明したが、カラーフィルタが配された画素に視差画素が割り当てられている撮像素子１００を採用した場合の視差マップについても同様に補正できる。この場合、配されたカラーフィルタの種類によって、撮影レンズ２０の倍率色収差の影響を受ける。そこで、視差画素が割り当てられているカラーフィルタごとに誤差量を求め、それぞれに対して誤差マップを生成することにより、倍率色収差に対応する較正情報を取得することができる。
【０１０８】
また、上述のキャリブレーション作業は、被写体距離に応じて加味されるＡＦ補正値を算出するためのキャリブレーション作業に組み入れることができる。この場合、一度の作業により、ＡＦ補正値と誤差マップを生成することができる。
【０１０９】
視差マップは、さまざまな用途に利用できる。その一例として、非カラー画像データをカラー画像データに変換する画像処理への適用について説明する。
【０１１０】
図２２は、視差マップを参照して原色情報を移植する処理の概念を示す図である。画像変換部２３３は、視差マップを参照して、非カラー画像データをカラー画像データに変換する。ここでは、例として、画像データ群として生成された画像データのうち、２Ｄ画像データがカラー画像データであり、視差画像データが非カラー画像データである場合について説明する。また、補正後の視差マップの基準を２Ｄ画像データ基準に変換する。具体的には、例えば補正後の視差マップがＲ画像に対するＬ画像の視差量として記述されている場合には、２Ｄ画像データに対するＬ画像の視差量となるように、それぞれの値を半分にする。
【０１１１】
基準画像である２Ｄ画像データは、各画素ブロックにおいてＲＧＢフィルタのそれぞれに対応する画素値を原色情報として有する。ｎ，ｍを自然数としたとき、画素ブロック（ｎ，ｍ）に対する原色情報を、Ｃｎｍと表す。そして、画像変換部２３３は、視差画像データにおける画素ブロック（ｎ，ｍ）の原色情報として、視差マップを参照して、２Ｄ画像データの画素ブロック（ｎ'，ｍ'）の原色情報Ｃｎ'ｍ'を移植する。画像変換部２３３は、全ブロックに対してこの作業を繰り返し、非カラー画像データである視差画像データをカラー画像データに変換する。
【０１１２】
図の例を用いて具体的に説明する。Ｌ画像データの画素ブロック（１，１）の原色情報を取得する場合は、視差マップの画素（１，１）を参照する。なお、ここでは、視差マップの１画素が２Ｄ画像データ、Ｌ画像データおよびＲ画像データの１ブロックに対応する場合を想定する。このとき視差マップの画素（１，１）は、視差量０を示しているので、画像変換部２３３は、そのまま対応する画素ブロックとして２Ｄ画像データの画素ブロック（１，１）を検索する。そして、画像変換部２３３は、２Ｄ画像データの画素ブロック（１，１）の原色情報Ｃ１１を、Ｌ画像データの画素ブロック（１，１）へ移植する。画像変換部２３３は、視差量が０であるので、Ｒ画像データの画素ブロック（１，１）についても同様に、２Ｄ画像データの画素ブロック（１，１）の原色情報Ｃ１１を移植する。
【０１１３】
次に、Ｌ画像データの画素ブロック（１，２）の原色情報を取得する場合は、視差マップの画素（１，２）を参照する。このとき視差マップの画素（１，２）は、視差量１を示しているので、画像変換部２３３は、２Ｄ画像データの対応する画素ブロック（１，２）のひとつ右側である画素ブロック（１，３）を検索する。そして、画像変換部２３３は、２Ｄ画像データの画素ブロック（１，３）の原色情報Ｃ１３を、Ｌ画像データの画素ブロック（１，２）へ移植する。
【０１１４】
続いて画像変換部２３３は、Ｒ画像データの画素ブロック（１，２）の原色情報を取得する。参照した視差マップの画素（１，２）の視差量は１を示していたが、Ｒ画像データへ原色情報を移植する場合は符号を逆転させるので、ここでは視差量を−１とする。したがって、画像変換部２３３は、２Ｄ画像データの対応する画素ブロック（１，２）のひとつ左側である画素ブロック（１，１）を検索する。そして、画像変換部２３３は、２Ｄ画像データの画素ブロック（１，１）の原色情報Ｃ１１を、Ｒ画像データの画素ブロック（１，２）へ移植することにより原色情報を取得する。
【０１１５】
つまり、画像変換部２３３は、Ｌ画像データの画素ブロック（ｎ，ｍ）へは、視差量がｋであるとき、２Ｄ画像データの原色情報Ｃｎｍ＋ｋを、Ｒ画像データの画素ブロック（ｎ，ｍ）へは、２Ｄ画像データの原色情報Ｃｎｍ−ｋを移植して、それぞれの視差画像データ原色情報を取得する。このようにして、Ｌ画像データの全ブロック、Ｒ画像データの全ブロックに原色情報を移植してカラー画像データを完成させる。このような移植処理により、それぞれの被写体像は、被写体距離に対応する本来の視差をもった位置に観察される。
【０１１６】
図２２の例では、視差画像データが共に非カラー画像データであり、２Ｄ画像データがカラー画像データである場合の、原色情報の移植について説明した。データ取得部２３１により取得される画像データ群において、視差画像データが共に非カラー画像データであり、２Ｄ画像データがカラー画像データである場合は、撮像素子１００が、例えば、Ｂ−１配列、Ｂ'−１配列を採用する場合である。ただし、これらの配列は、繰り返しパターン１１０が、縦２画素横４画素の８画素である。そこで、視差量演算部２３２は、図２２のような縦２画素横２画素の４画素を１ブロックとする場合は、視差画像データのうち足りない画素値を隣接する画素値で補間するなどの処理を施して、各ブロックに対応する視差量を算出すれば良い。
【０１１７】
図２２の例とは逆に、視差画像データが共にカラー画像データであり、２Ｄ画像データが非カラー画像データである場合は、画像変換部２３３は、視差マップを参照して、例えばＬ画像データの原色情報を２Ｄ画像データへ移植する。もちろん、原色情報の移植元はＲ画像データであっても良いし、両画像データの原色情報を平均化するなどの処理を施しても良い。
【０１１８】
上述においては、全ての画素で視差量を演算できた場合を前提として説明したが、被写体の空間周波数、オクルージョン等により、マッチング処理によっては視差量を演算できない画素が存在する場合がある。このような場合には、視差量演算部２３２は、隣接する画素ブロックの視差量との連続性を考慮して補間しても良い。
【０１１９】
また、上述においては、例えば画像処理部２０５が含むデータ取得部２３１、視差量演算部２３２および画像変換部２３３、また、制御部２０１が含む合焦情報取得部２３４および視差量補正部２３５など、デジタルカメラ１０を構成する各構成要素の機能としてそれぞれの処理を説明した。一方、制御部２０１を動作させる制御プログラムは、デジタルカメラ１０を構成する各ハードウェアを、上述の処理を実行させる構成要素として機能させ得る。また、これらの処理は、デジタルカメラ１０で行わなくても、外部のパーソナルコンピュータなどの機器で行っても良い。この場合、外部のパーソナルコンピュータなどの機器は画像処理装置として機能する。画像処理装置は、上述の撮像素子１００から出力される視差画像データと合焦情報を取得して、同一被写体間の視差量を補正する。
【０１２０】
また、上述においては、位相差信号を出力するＡＦセンサ２１１を例に説明をしたが、コントラストＡＦ方式におけるコントラスト情報であっても、最も高いコントラストを示した領域を合焦領域とすることができるので、その合焦領域を基準として上述のように視差量を補正できる。
【０１２１】
以上、本発明を実施の形態を用いて説明したが、本発明の技術的範囲は上記実施の形態に記載の範囲には限定されない。上記実施の形態に、多様な変更または改良を加えることが可能であることが当業者に明らかである。その様な変更または改良を加えた形態も本発明の技術的範囲に含まれ得ることが、特許請求の範囲の記載から明らかである。
【０１２２】
特許請求の範囲、明細書、および図面中において示した装置、システム、プログラム、および方法における動作、手順、ステップ、および段階等の各処理の実行順序は、特段「より前に」、「先立って」等と明示しておらず、また、前の処理の出力を後の処理で用いるのでない限り、任意の順序で実現しうることに留意すべきである。特許請求の範囲、明細書、および図面中の動作フローに関して、便宜上「まず、」、「次に、」等を用いて説明したとしても、この順で実施することが必須であることを意味するものではない。
【符号の説明】
【０１２３】
１０ デジタルカメラ、２０ 撮影レンズ、２１ 光軸、３０ 被写体、１００ 撮像素子、１０１ マイクロレンズ、１０２ カラーフィルタ、１０３ 開口マスク、１０４ 開口部、１０５ 配線層、１０６ 配線、１０７ 開口、１０８ 光電変換素子、１０９ 基板、１１０ 繰り返しパターン、１２０ 撮像素子、１２１ スクリーンフィルタ、１２２ カラーフィルタ部、１２３ 開口マスク部、２０１ 制御部、２０２ Ａ／Ｄ変換回路、２０３ メモリ、２０４ 駆動部、２０５ 画像処理部、２０７ メモリカードＩＦ、２０８ 操作部、２０９ 表示部、２１０ ＬＣＤ駆動回路、２１１ ＡＦセンサ、２２０ メモリカード、２２１ ＲＯＭ、２３１ データ取得部、２３２ 視差量演算部、２３３ 画像変換部、２３４ 合焦情報取得部、２３５ 視差量補正部、３０１ 少女、３０２ 少年、３０３ 女性、３１１ 対象画素、３１２、３１４ 局所ウィンドウ、３１３ 探索画素、４０１、４０２，４０３ 領域、４０４ 背景領域、５００、５０１ ポイント
【特許請求の範囲】
【請求項１】
少なくとも一部の光電変換素子のそれぞれに対応して開口マスクが設けられた少なくとも２つの視差画像データを出力する撮像素子から前記視差画像データを取得する画像データ取得部と、
前記視差画像データの撮像時における合焦情報を取得する合焦情報取得部と、
前記合焦情報に基づいて、前記視差画像データにおける同一被写体間の視差量を補正する視差量補正部と
を備える画像処理装置。
【請求項２】
前記視差量補正部は、前記合焦情報に基づいて、合焦領域に対応する前記同一被写体の前記視差量を零とする請求項１に記載の画像処理装置。
【請求項３】
前記視差画像データから前記視差量を表す視差マップを生成する視差マップ生成部を備え、
前記視差量補正部は、前記視差マップを補正する請求項１または２に記載の画像処理装置。
【請求項４】
前記撮像素子が予め定められた基準像を撮像することにより生成された較正情報を記憶する較正情報記憶部を備え、
前記視差量補正部は、前記較正情報を参照して前記視差量を補正する請求項１から３のいずれか１項に記載の画像処理装置。
【請求項５】
前記較正情報記憶部は、前記撮像素子から前記基準像までの距離が異なる複数の前記較正情報を記憶する請求項４に記載の画像処理装置。
【請求項６】
前記較正情報は、ＡＦ動作時において被写体距離に応じて加味されるＡＦ補正値の生成と共に生成される請求項５に記載の画像処理装置。
【請求項７】
前記較正情報記憶部は、前記基準像を撮像する撮影レンズが異なる複数の前記較正情報を記憶する請求項４から６のいずれか１項に記載の画像処理装置。
【請求項８】
前記視差量補正部は、前記較正情報を参照して、倍率色収差を併せて補正する請求項７に記載の画像処理装置。
【請求項９】
前記較正情報記憶部は、前記基準像を撮像する絞り値が異なる複数の前記較正情報を記憶する請求項４から８のいずれか１項に記載の画像処理装置。
【請求項１０】
前記撮像素子と請求項１から９のいずれか１項に記載の画像処理装置を含む撮像装置であって、
前記撮像素子は、
隣接するｎ個（ｎは３以上の整数）の前記光電変換素子のうち、少なくとも３つに対応して設けられたそれぞれの前記開口マスクの開口は、互いに異なる波長帯域を透過させる少なくとも２種類のカラーフィルタから構成されるカラーフィルターパターンの一パターン内に含まれると共に、入射光の断面領域内の互いに異なる部分領域からの光束をそれぞれ通過させるように位置づけられ、前記ｎ個の前記光電変換素子を一組とする光電変換素子群が周期的に配列されており、
前記開口マスクが設けられた前記光電変換素子の出力信号に基づいて前記視差画像データを出力する撮像装置。
【請求項１１】
少なくとも一部の光電変換素子のそれぞれに対応して開口マスクが設けられた少なくとも２つの視差画像データを出力する撮像素子から前記視差画像データを取得する画像データ取得ステップと、
前記視差画像データの撮像時における合焦情報を取得する合焦情報取得ステップと、
前記合焦情報に基づいて、前記視差画像データにおける同一被写体間の視差量を補正する視差量補正ステップと
をコンピュータに実行させる画像処理プログラム。
【請求項１】
少なくとも一部の光電変換素子のそれぞれに対応して開口マスクが設けられた少なくとも２つの視差画像データを出力する撮像素子から前記視差画像データを取得する画像データ取得部と、
前記視差画像データの撮像時における合焦情報を取得する合焦情報取得部と、
前記合焦情報に基づいて、前記視差画像データにおける同一被写体間の視差量を補正する視差量補正部と
を備える画像処理装置。
【請求項２】
前記視差量補正部は、前記合焦情報に基づいて、合焦領域に対応する前記同一被写体の前記視差量を零とする請求項１に記載の画像処理装置。
【請求項３】
前記視差画像データから前記視差量を表す視差マップを生成する視差マップ生成部を備え、
前記視差量補正部は、前記視差マップを補正する請求項１または２に記載の画像処理装置。
【請求項４】
前記撮像素子が予め定められた基準像を撮像することにより生成された較正情報を記憶する較正情報記憶部を備え、
前記視差量補正部は、前記較正情報を参照して前記視差量を補正する請求項１から３のいずれか１項に記載の画像処理装置。
【請求項５】
前記較正情報記憶部は、前記撮像素子から前記基準像までの距離が異なる複数の前記較正情報を記憶する請求項４に記載の画像処理装置。
【請求項６】
前記較正情報は、ＡＦ動作時において被写体距離に応じて加味されるＡＦ補正値の生成と共に生成される請求項５に記載の画像処理装置。
【請求項７】
前記較正情報記憶部は、前記基準像を撮像する撮影レンズが異なる複数の前記較正情報を記憶する請求項４から６のいずれか１項に記載の画像処理装置。
【請求項８】
前記視差量補正部は、前記較正情報を参照して、倍率色収差を併せて補正する請求項７に記載の画像処理装置。
【請求項９】
前記較正情報記憶部は、前記基準像を撮像する絞り値が異なる複数の前記較正情報を記憶する請求項４から８のいずれか１項に記載の画像処理装置。
【請求項１０】
前記撮像素子と請求項１から９のいずれか１項に記載の画像処理装置を含む撮像装置であって、
前記撮像素子は、
隣接するｎ個（ｎは３以上の整数）の前記光電変換素子のうち、少なくとも３つに対応して設けられたそれぞれの前記開口マスクの開口は、互いに異なる波長帯域を透過させる少なくとも２種類のカラーフィルタから構成されるカラーフィルターパターンの一パターン内に含まれると共に、入射光の断面領域内の互いに異なる部分領域からの光束をそれぞれ通過させるように位置づけられ、前記ｎ個の前記光電変換素子を一組とする光電変換素子群が周期的に配列されており、
前記開口マスクが設けられた前記光電変換素子の出力信号に基づいて前記視差画像データを出力する撮像装置。
【請求項１１】
少なくとも一部の光電変換素子のそれぞれに対応して開口マスクが設けられた少なくとも２つの視差画像データを出力する撮像素子から前記視差画像データを取得する画像データ取得ステップと、
前記視差画像データの撮像時における合焦情報を取得する合焦情報取得ステップと、
前記合焦情報に基づいて、前記視差画像データにおける同一被写体間の視差量を補正する視差量補正ステップと
をコンピュータに実行させる画像処理プログラム。
【図１】
【図２】
【図３】
【図４】
【図５】
【図６】
【図７】
【図８】
【図９】
【図１０】
【図１１】
【図１２】
【図１３】
【図１４】
【図１５】
【図１６】
【図１７】
【図１８】
【図１９】
【図２０】
【図２１】
【図２２】
【図２】
【図３】
【図４】
【図５】
【図６】
【図７】
【図８】
【図９】
【図１０】
【図１１】
【図１２】
【図１３】
【図１４】
【図１５】
【図１６】
【図１７】
【図１８】
【図１９】
【図２０】
【図２１】
【図２２】
【公開番号】特開２０１３−９０２６５（Ｐ２０１３−９０２６５Ａ）
【公開日】平成２５年５月１３日（２０１３．５．１３）
【国際特許分類】
【出願番号】特願２０１１−２３１５５１（Ｐ２０１１−２３１５５１）
【出願日】平成２３年１０月２１日（２０１１．１０．２１）
【出願人】（０００００４１１２）株式会社ニコン (12,601)
【Ｆターム（参考）】
【公開日】平成２５年５月１３日（２０１３．５．１３）
【国際特許分類】
【出願日】平成２３年１０月２１日（２０１１．１０．２１）
【出願人】（０００００４１１２）株式会社ニコン (12,601)
【Ｆターム（参考）】
[ Back to top ]