撮像装置及び光軸制御方法
【課題】高画質な撮像装置を実現するために、光学系と撮像素子の相対位置の調整を人手作業を必要とすることなく、容易に行うことができる撮像装置を提供する。
【解決手段】複数の撮像素子と、撮像素子のそれぞれに像を結像させる複数の固体レンズと、撮像素子にそれぞれに入射する光の光軸の方向を制御する複数の光軸制御部とを備える。
【解決手段】複数の撮像素子と、撮像素子のそれぞれに像を結像させる複数の固体レンズと、撮像素子にそれぞれに入射する光の光軸の方向を制御する複数の光軸制御部とを備える。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、撮像装置及び光軸制御方法に関するものである。
【背景技術】
【0002】
近年、高画質なデジタルスチルカメラやデジタルビデオカメラ(以下、デジタルカメラという)が急速に普及してきている。また、並行してデジタルカメラの小型化、薄型化の開発も進められており、携帯電話端末等に小型で高画質なデジタルカメラが搭載されてきている。デジタルカメラに代表される撮像装置は、撮像素子、結像光学系(レンズ光学系)、イメージプロセッサ、バッファメモリ、フラッシュメモリ(カード型メモリ)、画像モニタ及びこれらを制御する電子回路やメカニカル機構等から構成されている。撮像素子には、通常、CMOS(Complementary Metal Oxide Semiconductor)センサやCCD(Charge Coupled Device)センサ等の固体電子デバイスが使用されている。撮像素子上に結像された光量分布は光電変換されて、得られた電気信号はイメージプロセッサとバッファメモリによって信号処理される。イメージプロセッサとしてはDSP(Digital Signal Processor)等が、またバッファメモリとしてはDRAM(Dynamic Random Access Memory)等が使用される。撮像された画像はカード型フラッシュメモリ等に記録蓄積され、記録蓄積された画像はモニタに表示することができる。
【0003】
撮像素子に像を結像させる光学系は、通常、収差を除去するために、数枚の非球面レンズから構成されている。また、光学的なズーム機能を持たせる場合は、組合せレンズの焦点距離や、レンズと撮像素子の間隔を変える駆動機構(アクチュエータ)が必要となる。撮像装置の高画質化、高機能化の要求に応じて、撮像素子は多画素化、高精細化し、結像光学系はより低収差、高精度化され、かつズーム機能、オートフォーカス機能、手振れ補正機能等の高機能化が進んでいる。それに伴い、撮像装置が大きくなり、小型化、薄型化が困難になるという問題がある。
【0004】
このような問題を解決するために、結像光学系に複眼構造を採用したり、液晶レンズや液体レンズ等の非固体レンズを組み合わせることにより、撮像装置を小型化、薄型化することが提案されている。例えば、平面状に配置した固体レンズアレイと液晶レンズアレイと1つの撮像素子から構成された撮像レンズ装置が提案されている(例えば、特許文献1)。図38に示すように、固定焦点距離のレンズアレイ2001と、同数の可変焦点型の液晶レンズアレイ2002とを有するレンズ系と、このレンズ系を通して結像する光学像を撮像する単一の撮像素子2003から構成されている。この構成によって、レンズアレイ2001の数と同数の画像を単一の撮像素子2003上に分割して結像させる。この撮像素子2003より得られた複数の画像を演算装置2004により画像処理を行い、全体の画像を再構成する。また、この演算装置2004からフォーカス情報を検出し、液晶駆動装置2005を介して液晶レンズアレイ2002の各液晶レンズを駆動して、オートフォーカスを行う。このように、特許文献1の撮像レンズ装置においては、液晶レンズと固体レンズを組み合わせることにより、オートフォーカス機能やズーム機能を有し、かつ小型化を実現することができる。
【0005】
また、1つの非固体レンズ(液体レンズ、液晶レンズ)と固体レンズアレイと1つの撮像素子から構成された撮像装置もある(例えば、特許文献2)。図39に示すように、液晶レンズ2131と、複眼光学系2120と、画像合成器2115と、駆動電圧演算部2142から構成されている。特許文献1と同様、単一の撮像素子2105上に、レンズアレイの数と同数の画像を結像させて、画像処理で画像を再構成する。このように、特許文献2の撮像装置においては、1つの非固体レンズ(液体レンズ、液晶レンズ)と固体レンズアレイを組み合わせることにより、小型、薄型で焦点調整機能を実現することができる。
【0006】
また、撮像素子である検出器アレイと撮像レンズアレイから構成されたサブピクセル解像度を有する薄型カメラにおいて、2つのサブカメラ上の画像の相対的な位置ずれを変化させて、合成画像の解像度を増大させる方法が知られている(例えば、特許文献3)。この方法では、片方のサブカメラに絞りを設けて、この絞りによって半画素分の光を遮断することで、被写体距離によって解像度が改善できなくなる課題を解決している。また、特許文献3は、外部から電圧を与えることで焦点距離を制御することが可能な液体レンズを組み合わせて、焦点距離を変更することで画像の結像位置と画素の位相も同時に変更することで、合成画像の解像度を増大させている。このように、特許文献3の薄型カメラでは、撮像レンズアレイと、遮光手段を持つ撮像素子を組み合わせることにとより、合成画像の高精細化を実現している。また、撮像レンズアレイと撮像素子に液体レンズを組み合わせることで、合成画像の高精細化を実現することができる。
【特許文献1】特開2006−251613号公報
【特許文献2】特開2006−217131号公報
【特許文献3】特表2007−520166号公報
【発明の開示】
【発明が解決しようとする課題】
【0007】
しかしながら、特許文献1〜3の撮像レンズ装置では、光学系と撮像素子の相対位置の調整の精度が画質に影響するため、組み立て時に正確に調整する必要があるという問題がある。また、相対位置の調整を機械的精度だけで調整を行う場合は、高精度な非固体レンズ等が必要となり、コストが高くなるという問題がある。また、装置の組立て時に正確に調整されたとしても、経時変化等により光学系と撮像素子との相対位置が変わり、画質劣化が生じることもある。再度位置調整をすれば画質が良くなるが、組立て時と同様の調整を行わなければならないという問題がある。さらに、光学系や撮像素子を数多く備えている装置においては調整するべき箇所が数多くなるため、多大な作業時間を要するという問題もある。
【0008】
本発明は、このような事情に鑑みてなされたもので、高画質な撮像装置を実現するために、光学系と撮像素子の相対位置の調整を人手作業を必要とすることなく、容易に行うことができる撮像装置及び光軸制御方法を提供することを目的とする。
【課題を解決するための手段】
【0009】
本発明は、複数の撮像素子と、前記撮像素子のそれぞれに像を結像させる複数の固体レンズと、前記撮像素子にそれぞれに入射する光の光軸の方向を制御する複数の光軸制御部とを備えることを特徴とする。
【0010】
本発明は、前記光軸制御部は、屈折率分布を変化させることが可能な非固体レンズで構成され、前記非固体レンズの屈折率分布を変化させることにより、前記撮像素子に入射する光の光軸を偏向させることを特徴とする。
【0011】
本発明は、前記光軸制御部は、屈折板と該屈折板の傾斜角を変える傾斜角変更手段とから構成され、前記傾斜角変更手段によって、前記屈折板の傾斜角を変えることにより、前記撮像素子に入射する光の光軸を偏向させることを特徴とする。
【0012】
本発明は、前記光軸制御部は、可変頂角プリズムから構成され、前記可変頂角プリズムの頂角を変えることにより、前記撮像素子に入射する光の光軸を偏向させることを特徴とする。
【0013】
本発明は、前記光軸制御部は、前記固体レンズを移動させる移動手段で構成され、前記固体レンズを移動させることにより、前記撮像素子に入射する光の光軸を偏向させることを特徴とする。
【0014】
本発明は、前記光軸制御部は、前記撮像素子を移動させる移動手段で構成され、前記撮像素子を移動させることにより、前記撮像素子に入射する光の光軸を制御することを特徴とする。
【0015】
本発明は、前記光軸制御部は、既知の撮像対象との相対位置関係に基づいて前記光軸の方向を制御することを特徴とする。
【0016】
本発明は、前記複数の撮像素子のそれぞれは、画素のピッチが異なることを特徴とする。
【0017】
本発明は、前記複数の固体レンズのそれぞれは、焦点距離が異なることを特徴とする。
【0018】
本発明は、前記複数の撮像装置は、光軸周りにそれぞれ異なる角度で回転させて配置したことを特徴とする。
【0019】
本発明は、複数の撮像素子と、前記撮像素子のそれぞれに像を結像させる複数の固体レンズと、屈折率分布を変化させることが可能な非固体レンズで構成され、前記非固体レンズの屈折率分布を変化させることにより、前記固体レンズの焦点距離を変更する焦点制御部とを備えることを特徴とする。
【0020】
本発明は、複数の撮像素子と、前記撮像素子のそれぞれに像を結像させる複数の固体レンズと、前記撮像素子にそれぞれに入射する光の光軸の方向を制御する複数の光軸制御部とを備える撮像装置における光軸制御方法であって、前記光軸制御部が、既知の撮像対象と前記光軸制御部との相対位置関係に基づいて前記光軸の方向を制御することを特徴とする。
【0021】
本発明は、複数の撮像素子と、前記撮像素子のそれぞれに像を結像させる複数の固体レンズと、屈折率分布を変化させることが可能な非固体レンズで構成され、前記非固体レンズの屈折率分布を変化させることにより、前記固体レンズの焦点距離を変更する焦点制御部とを備える撮像装置における光軸制御方法であって、前記焦点制御部が、既知の撮像対象と前記撮像素子との相対位置関係に基づいて前記固体レンズの焦点距離を制御することを特徴とする。
【発明の効果】
【0022】
本発明によれば、複数の撮像素子と、撮像素子のそれぞれに像を結像させる複数の固体レンズと、撮像素子にそれぞれに入射する光の光軸を制御する複数の光軸制御部とを備えたため、光学系と撮像素子の相対位置の調整を人手作業を必要とすることなく、容易に行うことができ、高画質な撮像装置を実現することができるという効果が得られる。特に、入射する光の光軸を撮像素子面上の任意の位置に設定するように制御することが可能となるため、光学系と撮像素子間の位置調整を簡単に行うことができる高画質な撮像装置を実現することができる。また、撮像対象と複数の光軸制御部との相対位置に基づいて光軸の方向を制御するようにしたため、撮像素子面の任意の位置に光軸の設定を行うことが可能となり、焦点調整範囲が広い撮像装置を実現することができる。
【発明を実施するための最良の形態】
【0023】
以下に、本発明の実施形態について、図面を参照して詳細に説明する。図1は、本発明の第1の実施形態に係る、撮像装置の全体構成を示す機能ブロック図である。図1に示す撮像装置1は、6系統の単位撮像部2〜7を備えている。単位撮像部2は撮像レンズ8と撮像素子14から構成されている。同様に、単位撮像部3は撮像レンズ9と撮像素子15、単位撮像部4は撮像レンズ10と撮像素子16、単位撮像部5は撮像レンズ11と撮像素子17、単位撮像部6は撮像レンズ12と撮像素子18、及び単位撮像部7は撮像レンズ13と撮像素子19から構成されている。各撮像レンズ8〜13は撮影対象からの光を対応する各撮像素子14〜19上にそれぞれ結像する。図1に示す符号20〜25は、各撮像素子14〜19に入射する光の光軸を示している。
【0024】
以下、単位撮像部3を例にとり、信号の流れを説明する。撮像レンズ9によって結像した像を撮像素子15で光電変換し、光信号を電気信号に変換する。撮像素子15で変換された電気信号は、映像処理部27によって予め設定されたパラメータにより映像信号に変換する。映像処理部27は、変換した映像信号を映像合成処理部38へ出力する。映像合成処理部38は、他の単位撮像部2、4〜7から出力される電気信号を対応する各映像処理部26、28〜31により変換処理された映像信号を入力する。映像合成処理部38では、各単位撮像部2〜7において撮像された6つの映像信号を同期を取りながら1本の映像信号に合成し、高精細映像として出力する。また映像合成処理部38は、合成した高解像度映像が予め設定した判定値より劣化していた場合、その判定結果に基づいて、制御信号を生成して、6つの制御部32〜37へ出力する。各制御部32〜37は、入力した制御信号に基づいて、対応する各撮像レンズ8〜13の光軸制御を行う。そして、映像合成処理部38は、再度高精細映像の判定を行う。この判定結果が良ければ高精細映像を出力し、悪ければ再度、撮像レンズを制御するという動作を繰り返す。
【0025】
次に、図2を参照して、図1に示す単位撮像部3の撮像レンズ9及びこの撮像レンズ9を制御する制御部33の詳細な構成を説明する。単位撮像部3は、液晶レンズ(非固体レンズ)301及び光学レンズ(固体レンズ)302から構成されている。また、制御部33は、液晶レンズ301に印加する電圧を制御する4つの電圧制御部33a、33b、33c、33dから構成されている。電圧制御部33a、33b、33c、33dは、映像合成処理部38が生成した制御信号に基づいて、液晶レンズ301に印加する電圧を決定し、液晶レンズ301を制御する。図1に示す他の単位撮像部2、4〜7の撮像レンズ及び制御部も同様な構成であるため、ここでは詳細な説明を省略する。
【0026】
次に、図3を参照して、図2に示す液晶レンズ301の構成を説明する。本実施形態における液晶レンズ301は、透明な第1の電極303、第2の電極304、透明な第3の電極305、第2の電極304と第3の電極305との間に配置された液晶層306、第1の電極303と第2の電極304との間に配置された第1の絶縁層307、第2の電極304と第3の電極305の間に配置された第2の絶縁層308、第1の電極303の外側に配置された第3の絶縁層311、第3の電極305の外側に配置された第4の絶縁層312によって構成されている。ここで、第2の電極304は、円形の孔を有しており、図3の正面図に示すように縦、横に分割された4つの電極304a、304b、304c、304dによって構成されており、それぞれの電極に独立して電圧を印加することができる。また、液晶層306は第3の電極305に対向するように液晶分子を一方向に配向させており、液晶層306を挟む電極303、304、305の間に電圧を印加することで液晶分子の配向制御を行う。また、絶縁層308は大口径化のため例えば数百μm程度の厚さの透明な硝子等を用いている。
【0027】
一例として液晶レンズ301の寸法を以下に示す。第2の電極304の円形の孔のサイズは約φ2mmであり、第1の電極303との間隔は70μmであり、第2の絶縁層308の厚みは700μmである。液晶層306の厚さは60μmとしている。本実施の形態では第1の電極303と第2の電極304は異なった層となっているが、同一の面上に形成しても構わない。その場合、第1の電極303の形状は第2の電極304の円形の孔よりも小さなサイズの円形として第2の電極304の孔位置に配置し、第2の電極304の分割部分に電極取り出し部を設けた構成とする。このとき、第1の電極303と第2の電極を構成する電極304a、304b、304c、304dはそれぞれ独立に電圧制御が行える。このような構成をすることで全体の厚みを減少させることができる。
【0028】
次に、図3に示す液晶レンズ301の動作を説明する。図3に示す液晶レンズ301において、透明な第3の電極305とアルミニウム薄膜等で構成された第2の電極304との間に電圧を印加すると同時に、第1の電極303と第2の電極304の間にも電圧を印加することにより、円形の孔を有する第2の電極304の中心軸309に軸対象な電界勾配を形成することができる。このように形成された円形電極のエッジ周りの軸対象な電界勾配により、液晶層306の液晶分子が電界勾配の方向に配向する。その結果、液晶層306の配向分布の変化により、異常光の屈折率分布が円形の電極の中心から周辺まで変化するため、レンズとして機能させることができる。第1の電極303、第2の電極304への電圧の掛け方によってこの液晶層306の屈折率分布を自由に変化させることができ、凸レンズや凹レンズなど自由に光学的な特性の制御を行うことが可能である。
【0029】
本実施形態では、第1の電極303と第2の電極304の間に20Vrmsの実効電圧を印加し、また、第2の電極304と第3の電極305の間に70Vrmsの実効電圧を印加して、第1の電極303と第3の電極305の間には90Vrmsの実効電圧が印加されるようにして凸レンズとして機能させている。ここで、液晶駆動電圧(各電極間に印加する電圧)は正弦波、またはデューティ比50%の矩形波の交流波形である。印加する電圧値は実効電圧(rms:root mean square value)で表す。例えば100Vrmsの交流正弦波は、±144Vの尖頭値を有する電圧波形となる。また、交流電圧の周波数は例えば1kHzが用いられる。更に第2の電極304を構成する電極304a、304b、304c、304dと第3の電極305との間にそれぞれ異なった電圧を印加することにより、同一電圧を印加したときには軸対称であった屈折率分布が、円形の孔を有する第2の電極中心軸309に対して、軸のずれた非対称な分布となり、入射光が直進する方向から偏向するという効果が得られる。この場合、分割された第2の電極304と第3の電極305の間に印加する電圧を適宜変えることにより、入射光の偏向の方向を変化させることができる。例えば、電極304aと電極305間と、電極304cと電極305間にそれぞれ70Vrmsを、電極304bと電極305間と、電極304dと電極305間にそれぞれ71Vrmsを印加することで、符号309で示す光軸位置が符号310で示す位置にシフトする。そのシフト量は例えば3μmである。
【0030】
図4は、液晶レンズ301の光軸シフト機能を説明する模式図である。前述した通り第2の電極を構成する電極304a、304b、304c、304dと第3の電極305との間に印加する電圧を、電極304a、304b、304c、304d毎に制御することによって、撮像素子の中心軸と液晶レンズの屈折率分布の中心軸をずらすことが可能となる。これは撮像素子面に対してレンズがそのxy面内でずれたことに相当するため、撮像素子に入力する光線を、そのu、v面内で偏向することができる。
【0031】
図5に図2に示す単位撮像部3の詳細構成を示す。単位撮像部3の中の光学レンズ302は2つの光学レンズ302a、302bによって構成され、液晶レンズ301は光学レンズ302a、302bの間に配置している。光学レンズ302a、302bはそれぞれ1枚もしくは複数枚のレンズより構成されている。物体面から入射した光線は液晶レンズ301の物体面側に配置する光学レンズ302aによって集光され、スポットを小さくした状態で液晶レンズ301に入射される。このとき、液晶レンズ301への光線の入射角度は光軸に対して平行に近い状態となっている。液晶レンズ301から出射された光線は液晶レンズ301の撮像素子15側に配置する光学レンズ302bによって撮像素子15面上に結像される。このような構成とすることで液晶レンズ301の径を小さくすることが可能であり、液晶レンズ301へ印加する電圧の低減やレンズ効果の増大、第2の絶縁層308の厚さを薄くすることによるレンズ厚の低減が可能である。
【0032】
図1に示す撮像装置1では、1つの撮像素子に対して1つの撮像レンズを配置した構成としているが、液晶レンズ301において同一基板上に複数個の第2の電極304を構成し、複数の液晶レンズを一体化した構成でも構わない。すなわち液晶レンズ301は第2の電極304の孔の部分がレンズに相当するため、1枚の基板上に複数個の第2の電極304のパターンを配置することで、それぞれの第2の電極304の孔の部分がレンズ効果を有する。そのため、複数個の撮像素子の配置に合わせて同一基板上に複数の第2の電極304を配置することで単一の液晶レンズユニットで全ての撮像素子に対応することが可能である。
【0033】
なお、前述した説明においては液晶層の層数が1層であったが、1層の厚みを薄くして複数の層で構成することで同程度の集光性を保ったまま応答性を改善することも可能である。これは液晶層の厚みが増すほど応答速度が劣化する特徴によるものである。また、液晶層を複数の層で構成した場合、それぞれの液晶層間での偏光の向きを変えることで、液晶レンズへ入射した光線に対して全ての偏光方向でレンズ効果を得ることができる。さらに、電極分割数も1例として4分割のタイプを例示したが、移動したい方向に応じて電極の分割数を変更することも可能である。
【0034】
次に、図6及び図7を参照して、図1に示す撮像素子15の構成を説明する。本実施形態による撮像装置の撮像素子は、一例として、CMOS撮像素子を使用することができる。図6において、撮像素子15は、2次元配列の画素501から構成されている。本実施形態のCMOS撮像素子の画素サイズは5.6μm×5.6μm、画素ピッチは6μm×6μm、実効画素数は640(水平)×480(垂直)である。ここで画素とは、撮像素子が行う撮像動作の最小単位である。通常、1つの光電変換素子(例えばフォトダイオード)に1つの画素が対応している。5.6μm各の画素サイズのなかに、ある面積(空間的広がり)を持つ受光部があり、画素はその受光部に入射した光を平均化、積分して光の強度とし、電気信号に変換する。平均化する時間は電子式や機械式のシャッター等で制御されて、その動作周波数は一般的に撮像装置が出力するビデオ信号のフレーム周波数と一致し、例えば60Hzである。
【0035】
図7に撮像素子15の詳細な構成を示す。CMOS撮像素子15の画素501は、増幅器516によって、フォトダイオード515で光電変換された信号電荷を増幅する。各画素の信号は、垂直走査回路511及び水平走査回路512により、垂直水平アドレス方式で選択し、電圧または電流として取り出される。CDS(Correlated Double Sampling)518は相関2重サンプリングを行う回路であり、アンプ516等で発生するランダム雑音のうち1/f雑音を抑圧することができる。画素501以外の画素についても同様の構成、機能となっている。またCMOSロジックLSI製造プロセスの応用で大量生産が可能なため、高電圧アナログ回路を持つCCDイメージセンサと比較して安価であり、素子が小さいことから消費電力も少なく、原理的にスミアやブルーミングが発生しないという長所もある。本実施形態ではモノクロのCMOS撮像素子15を使用したが、各画素には個別にR,G,Bのカラーフィルタを取り付けたカラー対応のCMOS撮像素子も使用できる。R,G,G,Bの繰り返しを市松模様状に配置するベイヤー構造を用いて、1つの撮像素子でカラー化を簡易に達成できる。
【0036】
次に、図8を参照して、撮像装置1の全体の構成について説明する。図8において、図1に示す同一の部分には同一の符号を付し、その説明を省略する。図8において、P001は撮像装置1の処理動作を統括して制御するCPU(Central Processing Unit)であり、マイクロコントローラ(マイコン)と呼ばれる場合もある。P002は不揮発性メモリで構成するROM(Read Only Memory)であり、CPU・P001のプログラムや各処理部に必要な設定値を記憶する。P003はRAM(Random Access Memory)であり、CPUの一時的なデータを記憶する。P004はVideoRAMであり、主に演算途中の映像信号、画像信号を記憶するためのもので、SDRAM(Synchronous Dynamic RAM)などで構成される。
【0037】
図8はCPU・P001のプログラム格納用としてRAM・P003を、画像格納用としてVideoRAM・P004を持つ構成であるが、例えば2つのRAMブロックをVideoRAM・P004に統一する構成でもよい。P005はシステムバスであり、CPU・P001、ROM・P002、RAM・P003、VideoRAM・P004、映像処理部27、映像合成処理部38、制御部33が接続されている。またシステムバスP005は、後述する映像処理部27、映像合成処理部38、制御部33の各ブロックの内部ブロックにも接続される。CPU・P001がホストとしてシステムバスP005を制御しており、映像処理、画像処理及び光軸制御に必要な設定データが双方向に流れる。また、例えば映像合成処理部38の演算途中の画像をVideoRAM・P004に格納する際にこのシステムバスP005を使用する。高速転送速度が必要な画像信号用のバスと、低速のデータバスを異なるバスラインとしてもよい。システムバスP005には、図示しないUSBやフラッシュメモリカードのような外部とのインターフェースや、ビューファインダとしての液晶表示器の表示駆動コントローラが接続される。
【0038】
次に、図9、図10を参照して、映像処理部27と映像合成処理部38の処理動作を説明する。図9は、映像処理部27の構成を示すブロック図である。図9において、601は映像入力処理部、602は補正処理部、603は較正パラメータ記憶部である。映像入力処理部601は、単位撮像部3から取り込んだ映像信号を入力し、例えばニー処理やガンマ処理などの信号処理を施し、さらにホワイトバランス制御も実施する。映像入力処理部601の出力は補正処理部602に渡されて、後述するキャリブレーション手順によって得られた較正パラメータに基づく歪みの補正処理が施される。例えば撮像素子15の取り付け誤差に起因する歪みが較正される。較正パラメータ記憶部603はRAM(Random Access Memory)であり、キャリブレーション値(較正値)を記憶している。補正処理部602からの出力である補正済みの映像信号は、映像合成処理部38に出力される。較正パラメータ記憶部603に記憶されているデータは、例えば撮像装置の電源投入時にCPU・P001によって更新される。または、較正パラメータ記憶部603をROM(Read Only Memory)として、工場出荷時のキャリブレーション手順にて格納データを確定してROMに記憶するようにしてもよい。
【0039】
映像入力処理部601、補正処理部602及び較正パラメータ記憶部603は、それぞれシステムバスP005に接続されている。例えば映像入力処理部601の前述のガンマ処理の特性はROM・P002に格納されている。映像入力処理部601は、CPU・P001のプログラムによって、ROM・P002に格納されているデータをシステムバスP005を介して受け取る。また、補正処理部602は、演算途中の画像データをシステムバスP005を介してVideoRAM・P004に書き出し、またはVideoRAM・P004から読み出す。本実施形態ではモノクロのCMOSの撮像素子15を使用しているが、カラーのCMOS撮像素子を使用する場合、例えば撮像素子がベイヤ構造である場合は、映像処理部601でベイヤ補間処理を実施することになる。
【0040】
図10は、映像合成処理部38の構成を示すブロック図である。合成処理部701は、複数の単位撮像部2〜7の撮像結果を合成処理する。合成処理により、後述するように画像の解像度を改善することができる。合成パラメータ記憶部702は、例えば後述するキャリブレーションによって導出される単位撮像部間の3次元座標から求まる画像シフト量のデータを格納している。合成処理部701は、このシフト量を基に画像をシフトさせて合成する。判定部703は、合成処理の結果を例えばフーリエ変換することで、映像信号の高帯域成分のパワーを検出する。ここで、例えば4つの単位撮像部の合成処理を行う場合を仮定する。撮像素子はワイドVGA(854画素×480画素)であると仮定する。また、映像合成処理部38の出力であるビデオ出力がハイビジョン信号(1920画素×1080画素)であると仮定する。この場合、判定部703で判断する周波数帯域は、およそ20MHzから30MHzである。ワイドVGAの映像信号が再現可能な映像周波数の帯域上限はおよそ10MHz〜15MHzである。このワイドVGAの信号を用いて、合成処理部701で合成処理することにより、20MHz〜30MHzの成分を復元する。ここで、撮像素子はワイドVGAであるが、主に撮像レンズ8〜13からなる撮像光学系は、ハイビジョン信号の帯域を劣化させない特性を持つことが条件となる。
【0041】
この合成後のビデオ信号の周波数帯域(前述の例では20MHz〜30MHzの成分)のパワーが最大となるように、制御部32〜制御部37を制御する。周波数軸での判断のために、判定部703ではフーリエ変換処理を行い、その結果の、特定の周波数以上(例えば20MHz)のエネルギーの大きさを判断する。撮像素子の帯域を越える映像信号帯域の復元の効果は、撮像素子上に結像した像を画素の大きさで決まる範囲で標本化する際の、その位相によって変化する。この位相を最適な状態とするために、制御部32〜37を用いて、撮像レンズ8〜13を制御する。具体的には、制御部33は撮像レンズ9にある液晶レンズ301を制御する。液晶レンズ301の分割された電極304a、電極304b、電極304c、電極304dに印加する電圧のバランスを制御することで、図4に示した通り、撮像素子面上の画像が移動する。制御結果の理想的な状態は、各々の単位撮像部の撮像結果の標本化位相が、互いに画素サイズの1/2だけ、水平、垂直、斜め方向にシフトした状態である。そのような理想的な状態になった場合、フーリエ変換の結果の高帯域成分のエネルギーは最大となる。つまり、液晶レンズの制御と、その結果の合成処理の判定を行うフィードバックループにより、フーリエ変換の結果のエネルギーを最大となるよう制御する。
【0042】
以上説明した通り、この制御方法は、映像処理部27からの映像信号を基準として、制御部33以外の制御部32、34〜37を介して撮像レンズ2、撮像レンズ4〜7を制御する。この場合、撮像レンズ2は、制御部32によって光軸位相が制御される。その他の撮像レンズ4〜7についても同様に光軸位相が制御される。各撮像素子の画素より小さいサイズでの位相の制御がなされることで、撮像素子で平均化される位相のオフセットが最適化される。つまり、撮像素子上に結像した像を画素で標本化する際の、その標本化の位相を、光軸位相の制御により高精細化を行うために理想的な状態に制御する。その結果高精細、高画質な映像信号を合成することが可能となる。判定部703は、合成処理結果を判定し、高精細、高画質な映像信号が合成できていれば、その制御値を維持し、高精細、高画質な映像信号をビデオ出力する。一方、高精細、高画質な映像信号が合成できていなければ、再度撮像レンズの制御を行う。
【0043】
ここでは、撮像素子1の画素と撮像対象の結像の位相が、画素のサイズ以下となるために、サブ画素と名前をつけて定義するが、画素を分割するサブ画素の構造が撮像素子上に実在するものではない。また、映像合成処理部38の出力は、例えばビデオ信号であり、図示しないディスプレイに対して出力されたり、または図示しない画像記録部に渡されて、磁気テープやICカードに記録される。合成処理部701、合成パラメータ記憶部702、判定部703は、それぞれシステムバスP005に接続されている。合成パラメータ記憶部702はRAMで構成されている。例えば、撮像装置の電源投入時にCPU・P001によってシステムバスP005を介して更新される。また、合成処理部701は、演算途中の画像データを、システムバスP005を介してVideoRAM・P004に書き出し、またはVideoRAM・P004から読み出す。
【0044】
次に、図11を参照して、制御部33の構成を説明する。図11において、801は電圧制御部、802は液晶レンズパラメータ記憶部である。電圧制御部801は、映像合成処理部38の判定部703からの制御信号に従い、撮像レンズ9が備えている液晶レンズ301の各電極の電圧を制御する。制御される電圧は、液晶レンズパラメータ記憶部802から読み出すパラメータ値を基準に決定する。このような処理により、液晶レンズ301の電界分布が理想的に制御されて、図4に示すように光軸が制御されて、結果取り込み位相が補正された状態で撮像素子15において光電変換される。このような制御によって、画素の位相が理想的に制御されて、その結果ビデオ出力信号の解像度が改善される。制御部33の制御結果が理想的な状態であれば、判定部703の処理であるフーリエ変換の結果のエネルギー検出が最大となる。そのような状態となるように、制御部33は、撮像レンズ9、映像処理部27、映像合成処理部38によるフィードバックループを構成して、高域周波数のエネルギーが大きく得られるように、液晶レンズを制御する。電圧制御部801、液晶レンズパラメータ記憶部802は、それぞれシステムバスP005に接続されている。液晶レンズパラメータ記憶部802は例えばRAMで構成されており、撮像装置1の電源投入時にCPU・P001によってシステムバスP005を介して更新される。
【0045】
なお、図9〜図11に示す較正パラメータ記憶部603、合成パラメータ記憶部702及び液晶レンズパラメータ記憶部802は、同一のRAM、もしくはROMを用いて、記憶するアドレスで使い分ける構成にしてもよい。また、ROM・P002やRAM・P003の一部のアドレスを使用する構成でもよい。
【0046】
次に、撮像装置1の制御動作を説明する。図12は、撮像装置1の動作を示すフローチャートである。ここでは、映像合成処理において映像の空間周波数情報を使用する一例を示す。まず、CPU・P001が制御処理の開始を指示すると、補正処理部602は、較正パラメータ記憶部603から較正パラメータを読み込む(ステップS901)。補正処理部602は、読み取った較正パラメータを基に、単位撮像部2〜7毎の補正を行う(ステップS902)。この補正は、後述の単位撮像部2〜7毎の歪みを除去するものである。次に、合成処理部701は、合成パラメータ記憶部702から合成パラメータを読み込む(ステップS903)。そして、合成処理部701は読み込んだ合成パラメータを基にサブ画素映像合成高精細化処理を実行する(ステップS904)。後述するように、サブ画素単位での位相が異なる情報をもとに高精細画像を構築する。
【0047】
次に、判定部703は高精細判定を実行し(ステップS905)、高精細か否かを判定する(ステップS906)。判定部703は、内部に判定用の閾値を保持しており、高精細の度合いを判定して、この判定結果の情報を制御部32〜37のそれぞれに渡す。各制御部32〜37は、高精細が達成されている場合は制御電圧を変更せずに、液晶レンズパラメータは同一値を保持する(ステップS907)。一方、高精細ではないと判定された場合、制御部32〜37は、液晶レンズ301の制御電圧を変更する(ステップS908)。CPU・P001は、制御終了条件を管理しており、例えば装置のパワーオフの条件が成立したか否かを判定し(ステップS909)、制御終了条件が満たされていなければ、ステップS903へ戻り、処理を繰り返す。一方、制御終了条件を満たしていれば処理を終了する。なお、制御終了条件は、装置のパワーオン時に予め高精細判定回数を10回というように定めておき、指定回数分、ステップS903〜S909の処理を繰り返すようにしてもよい。
【0048】
次に、図13を参照して、図12に示すサブ画素映像合成高精細化処理(ステップS904)の動作を説明する。画像サイズ、倍率、回転量及びシフト量は合成パラメータであり、合成パラメータ読み込み処理(ステップS903)において合成パラメータ記憶部702から読み出されるパラメータである。ここでは、4つの単位撮像部から1つの高精細画像を得る場合を仮定する。個々の単位撮像部にて撮像した4つの画像から、回転量とシフト量のパラメータを使用して1つの座標系に重ねる。そして、4つの画像と距離による重み係数によってフィルタ演算を行う。例えばフィルタはキュービック(3次近似)を使用する。距離dにある画素から取得する重みwは次式となる。
w=1−2×d2+d3 (0≦d<1)
=4−8×d+5×d2−d3 (1≦d<2)
=0 (2≦d)
【0049】
次に、図14を参照して、図12に示す判定部703が行う高精細判定処理(ステップS905)の詳細動作を説明する。まず、判定部703は、定義範囲の信号を抽出する(ステップS1001)。例えばフレーム単位の1画面を定義範囲とした場合は別途図示しないフレームメモリブロックを持ち、あらかじめ1画面分の信号を記憶する。例えばVGA解像度であれば、1画面分は640×480画素からなる2次元の情報である。この2次元情報に対して、判定部703は、フーリエ変換を実行して、時間軸の情報を周波数軸の情報に変換する(ステップS1002)。次に、HPF(High pass filter:高域通過濾過器)によって、高域信号を抽出する(ステップS1003)。例えば、撮像素子9が、アスペクト比が4:3、60fps(Frame Per Second)(プログレッシブ)のVGA信号(640画素×480画素)であり、映像合成処理部の出力であるビデオ出力信号がQuad−VGAである場合を仮定する。VGA信号の限界解像度が約8MHzであり、合成処理にて10MHz〜16MHzの信号を再生する場合を仮定する。この場合、HPFは例えば10MHz以上の成分を通過させる特性を持つ。判定部703は、この10MHz以上の信号を閾値と比較して判定を行う(ステップS1004)。閾値は、例えばフーリエ変換した結果のDC(直流)成分を1とした場合の10MHz以上のエネルギーの閾値を0.5と設定して、その閾値との比較とする。
【0050】
前述した説明においては、ある解像度の撮像結果の1フレーム分の画像を基準にフーリエ変換する場合を説明したが、定義範囲をライン単位(水平同期繰り返しの単位、ハイビジョン信号であれば、有効画素数1920画素単位)で定義すれば、フレームメモリブロックが不要となり、回路規模を小さくすることが可能となる。この場合、例えばハイビジョン信号であれば、例えばライン数の1080回、フーリエ変換を繰り返し実行して、ライン単位の1080回分の閾値比較判定を総合して、一画面の高精細度合いを判断してもよい。また、画面単位の閾値比較判定結果を数フレーム分使用して判断してもよい。このように、複数の判定結果をもとに総合判定することで、突発的なノイズの影響などを除去可能となる。また、閾値判定は、固定の閾値を使用してもよいが、閾値を適応的に変更してもよい。判断している画像の特徴を別途抽出して、その結果をもとに閾値を切り替えてもよい。例えば、ヒストグラム検出で画像の特徴を抽出してもよい。また、過去の判定結果と連動して現在の閾値を変更してもよい。
【0051】
次に、図15を参照して、図12に示すは制御部32〜37が実行する制御電圧変更処理(ステップS908)の詳細動作を説明する。ここでは、制御部33の処理動作を例として説明するが、制御部32、34〜37の処理動作も同様である。まず、電圧制御部801は、液晶レンズパラメータ記憶部802から現在の液晶レンズのパラメータ値を読み出す(ステップS1101)。そして、電圧制御部801は、液晶レンズのパラメータ値を更新する(ステップS1102)。液晶レンズパラメータには過去の履歴を持たせておき、例えば現在4つの電圧制御部33a、33b、33c、33dに対して、電圧制御部33aの電圧を過去の履歴で40V、45V、50Vと5V置きに上昇させている最中である場合、履歴と今回の高精細ではないという判断から、さらに電圧を上げるべきと判断し、電圧制御部33b、電圧制御部33c、電圧制御部33dの電圧値を保持しながら、電圧制御部33aの電圧を55Vに更新する。このように、順次4つの液晶レンズの電極304a、304b、304c、304dに与える電圧値を更新する。また、更新した値は、履歴として液晶レンズパラメータの値を更新する。
【0052】
以上の処理動作により、複数の単位撮像部2〜7の撮像画像をサブ画素単位で合成して、その高精細の程度を判定して、高精細性能を維持するように制御電圧を変更することで、高画質な撮像装置を実現することが可能となる。分割された電極304a、電極304b、電極304c、電極304dに異なる電圧を印加することで、撮像レンズ8〜13によって撮像素子上に結像した像を撮像素子の画素で標本化する際の、標本化位相を変化させる。その制御の理想的な状態は、各々の単位撮像部の撮像結果の標本化位相が、互いに画素サイズの1/2だけ、水平、垂直、斜め方向にシフトした状態である。理想的な状態であるかどうかの判断は、判定部703で判断する。
【0053】
次に、図16を参照して、カメラキャリブレーションの処理動作を説明する。この処理動作は、例えば撮像装置1の工場生産時に行う処理であり、撮像装置の電源投入時に複数の操作ボタンを同時に押すなどの特定の操作を行うことでこのカメラキャリブレーションを実行する。このカメラキャリブレーション処理は、CPU・P001によって実行される。まず、撮像装置1を調整する作業者が、パターンピッチが既知のチェッカーパターンや市松模様のテストチャートを用意して、姿勢やアングルを変えながらチェッカーパターンの30種類の姿勢で撮像して画像を取得する(ステップS1201)。続いて、CPU・P001はこの撮像画像を、単位撮像部2〜7毎に解析して、単位撮像部2〜7毎の外部パラメータ値、内部パラメータ値を導出する(ステップS1202)。例えばピンホールカメラモデルと呼ばれるような一般的なカメラのモデルであれば、外部パラメータ値はカメラの姿勢の3次元での回転情報と並進情報の6つが外部パラメータとなる。また同様に内部パラメータは5つである。このようなパラメータを導出することが、較正(キャリブレーション)である。一般的なカメラモデルでは、外部パラメータは、世界座標に対してカメラの姿勢を示すヨー、ピッチ、ロールの3軸ベクトルと、平行移動成分を示す並進ベクトルの3軸成分の、合計6つである。また、内部パラメータは、カメラの光軸が撮像素子と交わる画像中心(u0,v0)、撮像素子上で仮定した座標の角度とアスペクト比、焦点距離の5つである。
【0054】
次に、CPU・P001は、得られたパラメータを較正パラメータ記憶部603に記憶する(ステップS1203)。前述の通り、本パラメータを単位撮像部2〜7の補正処理(図12に示すステップS902)で使用することで、単位撮像部2〜7の個別のカメラ歪みが補正されることになる。すなわち、本来直線であったチェッカーパターンがカメラの歪みで曲線となって撮像される場合があるので、これを直線に戻すためのパラメータをこのカメラキャリブレーション処理によって導出して、単位撮像部2〜7の補正を行う。
【0055】
次に、CPU・P001は、単位撮像部2〜7間のパラメータを単位撮像部2〜7間の外部パラメータを導出して(ステップS1204)、合成パラメータ記憶部702、液晶レンズパラメータ記憶部802に記憶されているパラメータを更新する(ステップS1205、S1206)。この値は、サブ画素映像合成高精細化処理S904、及び制御電圧変更S908で使用される。
【0056】
なお、ここでは撮像装置内のCPUまたはマイコンにカメラキャリブレーションの機能を持たせた場合を示したが、例えば別途パソコンを用意して、このパソコン上で同様の処理を実行させて、得られたパラメータのみを撮像装置にダウンロードするような構成でもよい。
【0057】
次に図17を参照して、単位撮像部2〜7のカメラキャリブレーションの原理について説明する。ここでは、カメラによる投影の様子について図17に示すようなピンホールカメラモデルを用いて考える。ピンホールカメラモデルにおいて、画像平面に至る光は全てレンズの中心の1点であるピンホールを通過し、画像平面と交差した位置で像を結ぶ。光軸と画像平面との交点を原点とし、カメラの素子の配置軸に合わせてx軸とy軸をとる座標系を画像座標系と呼び、カメラのレンズ中心を原点、光軸をZ軸とし、x軸とy軸に平行にX軸とY軸をとる座標系をカメラ座標系と呼ぶ。ここで、空間を表す座標系であるワールド座標系(Xw,Yw,Zw)での3次元座標M=[X,Y,Z]Tと、その投影である画像座標系(x,y)上の点m=[u,v]Tとの間には、(1)式のように関連付けられる。
【0058】
【数1】
ここで、Aは内部パラメータ行列といい、次の(2)式のような行列である。
【0059】
【数2】
α,βは画素の大きさと焦点距離との積からなるスケール係数、(u0,v0)は画像中心、γは画像の座標軸の歪みを表すパラメータである。また、[R t]は外部パラメータ行列といい、3×3の回転行列Rと平行移動ベクトルtを並べた4×3行列である。
【0060】
Zhangのキャリブレーション手法では、既知のパターンが貼り付けられた平板を動かしながら画像を(3回以上)撮影するだけで、内部パラメータ、外部パラメータ、レンズ歪みパラメータを求めることができる。この手法では、キャリブレーション平面をワールド座標系のZw=0の平面としてキャリブレーションする。(1)式で示したキャリブレーション平面上の点Mと、その平面を撮影した画像上の対応する点mとの関係は、次の(3)式のように書き変えることができる。
【数3】
平面上の点と画像上の点との関係は3×3のホモグラフィ行列Hで、(4)式のように記述できる。
【0061】
【数4】
キャリブレーション平面の画像が1つ与えられると、ホモグラフィ行列Hが1つ得られる。このホモグラフィH=[h1 h2 h3]が得られると、(4)式より次の(5)式が得られる。
【0062】
【数5】
Rが回転行列なのでr1とr2は直交であることから、次に示す内部パラメータに関する2つの拘束式である(6)、(7)式が得られる。
【0063】
【数6】
【数7】
【0064】
A−TA−1は(8)式のように、3×3の対象行列で6つの未知数を含んでおり、1つのHにつき2つの式を立てることができるので、Hが3つ以上得られれば内部パラメータAを決定することができる。ここで、A−TA−1は対象性を持っていることから
【数8】
とするBの要素を並べたベクトルを
【数9】
と定義する。ホモグラフィHのi番目の列ベクトルをhi=[hi1 hi2 hi3]T,(i=1,2,3)とすると、hiTBhjは
【数10】
【数11】
【0065】
と表せる。
【0066】
これにより、(6)式と(7)式は次式のようになる。
【数12】
【0067】
もし、n枚の画像が得られていれば、n個の上記の式を積み重ねることで、
【数13】
を得る。ここで、Vは2n×6の行列である。これより、bはVTVの最小固有値に対応する固有ベクトルとして求められる。この場合、n≧3であれば直接bに関する解を得ることができるが、n=2の場合は内部パラメータ中のγ=0とすることで、式[0 1 0 0 0 0]b=0を(13)式に加えることで解を得る。また、n=1であれば2つの内部パラメータしか求めることができないため、例えばαとβのみを未知とし、残りの内部パラメータを既知とすることで解を得る。bを求めることでBが求まれば、B=μA−TAからカメラの内部パラメータは(14)式で計算される。
【数14】
【0068】
また、これより内部パラメータAが求まれば、外部パラメータに関しても(5)式より、
【数15】
として求めることができ、ここまでで得られたパラメータを初期値とする非線形最小二乗法によってパラメータを最適化することで、最適な外部パラメータを得ることができる。
【0069】
以上のように、全ての内部パラメータが未知の場合においては、異なる視点から内部パラメータを固定した状態で撮影した3枚以上の画像を用いることでカメラキャリブレーションを行うことができる。この時、一般的には画像枚数が多いほどパラメータ推定精度は高くなる。また、キャリブレーションに用いる画像間における回転が小さい場合に誤差が大きくなる。
【0070】
次に、図18、図19を参照して、カメラキャリブレーションで求められるカメラ(撮像装置)の位置・姿勢を表すカメラパラメータから、各画像で同じ領域が写っている領域を、サブ画素の精度で対応づける方法について説明する。図18は、基本となる撮像素子15(これを基本カメラと称する)とそれと隣り合う隣接の撮像素子16(これを隣接カメラと称する)にて対象物体面上の点Mを前述の液晶レンズを介して各撮像素子上の点m1またはm2へ投影(撮影)する場合を示している。また、図19は図18を、図17に示すピンホールカメラモデルを用いて図示したものである。ワールド座標系上の点Mと画像座標系上の点mの関係は、カメラの移動性等から、中心射影行列Pを用いて表すと(1)式より、
【数16】
と表せる。
【0071】
算出されたPを用いることで、三次元空間中の点と二次元画像平面上の点との対応関係が記述できる。図19に示す構成において、基本カメラの中心射影行列をP1とし、隣接カメラの中心射影行列をP2とする。画像平面1上の点m1から、その点と対応する画像平面2上の点m2を求めるために、以下の方法を用いる。
(1)(16)式よりm1から三次元空間中の点Mを求める。中心射影行列Pは、3×4の行列であるため、Pの疑似逆行列を用いて求める。
【数17】
(2)算出された三次元位置より、隣接カメラの中心射影行列P2を用いて、隣接画像の対応点m2を求める。
【数18】
【0072】
カメラパラメータPはアナログの値を持っているので、算出された基本画像と隣接画像の対応点m2は、サブ画素単位で求まる。カメラパラメータを用いる対応点マッチングには、既にカメラパラメータが求まっているため、行列計算だけで対応点を瞬時に算出できる利点がある。
【0073】
次に、レンズの歪みとカメラキャリブレーションについて説明する。ここまではレンズを1つの点と見なすピンホールモデルで説明したが、実際にはレンズには有限の大きさがあるため、ピンホールモデルでは説明できない場合がある。このような場合の歪みの補正について、以下に説明する。凸レンズを使用する場合、入射光が屈折することによる歪みが発生する。このような放射方向の歪みに対する補正係数をk1、k2、k5と置く。また、レンズと撮像素子が平行に配置されない場合は、接線方向の歪みを生じる。この法線方向の歪みに対する補正係数をk3、k4と置く。これらの歪みを歪曲収差と呼ぶ。ここで、歪み補正式は下記となる。
【0074】
【数19】
【数20】
【数21】
【0075】
ここで、(xu,yu)は歪曲収差のない理想的なレンズの撮像結果の画像座標であり、(xd、yd)は歪曲収差のあるレンズの画像座標である。この座標の座標系は、双方とも前述の画像座標系x軸、y軸である。また、rは画像中心から(xu,yu)までの距離である。画像中心は、前述の内部パラメータu0,v0で定まる。以上のモデルを仮定して、係数k1〜k5や内部パラメータをキャリブレーションによって導出すれば、歪の有無による結像座標の差が求まり、実物レンズに起因する歪みを補正することが可能となる。
【0076】
図20は、撮像装置1の撮像の様子を示す模式図である。撮像素子15と撮像レンズ9からなる単位撮像部3は、撮像範囲aを撮像する。撮像素子16と撮像レンズ10からなる単位撮像部4は、撮像範囲bを撮像する。2つの単位撮像部3、4にて略同一の撮像範囲を撮像する。例えば撮像素子15、16の配置間隔を12mm、単位撮像部3、4の焦点距離が5mm、撮像範囲までの距離が600mm、単位撮像部3、4の光軸が各々平行である場合、撮像範囲a,bの異なる範囲のエリアはおよそ3%程度である。このように、同一部を撮像して合成処理部38で高精細化処理を行う。
【0077】
次に、図21、図22を参照して、撮像装置1の高精細化について説明する。図21の横軸は、空間の広がりを示す。この空間の広がりとは、現実の空間である場合と、撮像素子上の仮想空間広がりと、双方を示すものである。これらは、外部パラメータ、内部パラメータを用いれば相互に変換、換算が可能であるので同義である。また、撮像素子から順次読み出された映像信号をみなした場合は、図21の横軸は時間軸となるが、この場合もディスプレイに表示された場合は観察者の目において空間の広がりと認識されるため、映像信号の時間軸である場合も空間の広がりと同義である。図21の縦軸は振幅、強度である。物体反射光の強度を撮像素子の画素で光電変換して電圧レベルとして出力することから、振幅とみなしてよい。
【0078】
図21(a)は、現実空間での物体の輪郭である。この輪郭、すなわち物体の反射光の強度を撮像素子の画素の広がりで積分するため、単位撮像部2〜7にて図21(b)のように取り込まれる。積分は、一例として、LPF(Low Pass Filter:低域通過フィルタ)を用いて行う。図21(b)中の矢印が、撮像素子の画素の広がりである。図21(c)は異なる単位撮像部2〜7で撮像した結果であり、図21(c)中の矢印の画素の広がりで光を積分する。図21(b)、(c)にあるように、撮像素子の解像度(画素のサイズ)で定まる広がり以下の反射光の輪郭(プロファイル)は、撮像素子では再現できない。
【0079】
しかし、本発明の特徴とするところは、図21(b)、(c)において双方の位相関係にオフセットを持つことである。このようなオフセットを持って光を取り込み、合成処理部で最適に合成することで、図21(d)に示す輪郭を再現することが可能となる。図21(a)〜(d)から明らかなように、図21(a)の輪郭をもっとも再現できているのは図21(d)であり、図21(d)中の矢印の幅に相当する撮像素子の画素のサイズの性能と等価である。本実施形態は液晶レンズに代表される非固体レンズと、撮像素子からなる単位撮像部を複数使用して、上述の平均化(LPFを用いた積分)による解像限界を超えるビデオ出力を得ることが可能となる。
【0080】
図22は、2つの単位撮像部の相対的な位相関係を示す模式図である。後段の画像処理で高精細化を行う場合、撮像素子によるサンプリング位相の相対関係は等間隔であることが望ましい。ここで、サンプリングとは、標本化と同義であり、離散的な位置におけるアナログ信号を取り出す処理を指す。図22は2つの単位撮像部を使用する場合を仮定しているので、その位相関係は(a)のように、0.5画素サイズの位相関係が理想である。しかし、撮像距離や、装置の組み立ての関係で、図22(b)や(c)のようになる場合がある。この場合、平均化されたあとの映像信号のみを用いて画像処理演算を行っても、すでに図22(b)、(c)のような位相関係で平均化されてしまった信号は復元不可能である。そこで図22(b)、(c)の位相関係を、(d)に示すものに制御することが必須となる。本発明では、この制御を図4に示した液晶レンズによる光軸シフトで実現する。以上の処理により、常に理想的な位相関係が保たれるので、観察者に最適な画像を提供可能となる。
【0081】
ここで、図22においては1次元の位相関係について説明した。例えば4つの単位撮像部を用いて、各々水平、垂直、斜め45度の各方向の1次元シフトをすることで、図22に示した動作で2次元空間の位相制御が可能となる。また、例えば2つの単位撮像部を用いて、基準のものに対して片側の単位撮像部を2次元(水平、垂直、水平+垂直)に位相制御することで、2次元の位相制御を実現してもよい。
【0082】
例えば、4つの単位撮像部を用いて概略同一の撮像対象(被写体)を撮像して、4つの画像を得る場合を仮定する。ある画像を基準として、個々の画像をフーリエ変換して周波数軸で特徴点を判断して、基準画像に対する回転量とシフト量を算出して、その回転量、シフト量を用いて内挿フィルタリング処理することで高精細画像を得ることが可能となる。例えば撮像素子の画素数がVGA(640×480画素)であれば、4つのVGAの単位撮像部によってQuad−VGA(1280×960画素)の高精細画像が得られる。前述の内挿フィルタリング処理は、例えばキュービック(3次近似)法を用いる。内挿点までの距離による重み付けの処理である。撮像素子の解像度限界はVGAであるが、撮像レンズはQuad−VGAの帯域を通過させる能力を持ち、VGA以上のQuad−VGAの帯域成分は折り返し歪み(エイリアシング)としてVGA解像度で撮像される。この折り返し歪みを使用して、映像合成処理でQuad−VGAの高帯域成分を復元する。
【0083】
図23は、撮像対象(被写体)と結像の関係を示す図である。この図においては、レンズひずみを無視したピンホールモデルがベースになっている。レンズひずみが小さい撮像装置はこのモデルで説明可能であり、幾何光学のみで説明可能である。図23(a)において、P1は撮像対象であり、撮像距離H離れている。ピンホールO、O’が2つの単位撮像部の撮像レンズに相当して、撮像素子M、Nの2つの単位撮像部で1つの像を撮像している模式図である。図23(b)は、撮像素子の画素にP1の像が結像する様子である。このように、画素と結像した像の位相が定まる。この位相は、互いの撮像素子の位置関係(基線長B)、焦点距離f、撮像距離Hで決まる。
【0084】
すなわち、撮像素子の取り付け精度によって設計値と異なる場合があり、また撮像距離によっても関係は変化する。この場合、ある組み合わせによっては図23(c)のように、互いの位相が一致してしまう場合が発生する。図23(b)の光強度分布イメージは、ある広がりに対する光の強度を模式的に示したものである。このような光の入力に対して、撮像素子では、画素の広がりの範囲で平均化する。図23(b)にあるように、2つの単位撮像部で異なる位相で取り込んだ場合は、同一の光強度分布が異なる位相で平均化されるため、後段の合成処理で高帯域成分(例えば撮像素子がVGA解像度であれば、VGA解像度以上の高帯域)が再現できる。2つの単位撮像部であるので、0.5画素の位相ずれが理想である。
【0085】
しかし、図23(c)のように位相が一致してしまうと、互いの撮像素子で取り込む情報が同じものとなり、高解像化は不可能となる。そこで、図23(C)にあるように、光軸シフトで位相を最適な状態に制御することで、高解像化を達成する。最適な状態とは、図14での処理で実現する。位相関係は、使用する単位撮像部の位相が等間隔が望ましい。本発明は光軸シフト機能を持つため、そのような最適な状態を外部からの電圧制御で達成可能となる。
【0086】
図24は、撮像装置1の動作を説明する模式図である。2つの単位撮像部からなる撮像装置で撮像している様子を図示したものである。各々の撮像素子は、説明の便宜上、画素単位に拡大して記載している。撮像素子の平面をu,vの2次元で定義していて、図24はu軸の断面に相当する。撮像対象P0、P1は同一撮像距離Hにある。P0の像が、各々u0、u’0に結像する。u0,u’0は各々の光軸を基準とした撮像素子上の距離であり、図24ではP0は撮像素子Mの光軸上にあるので、u0=0である。また、P1の各々の像の、光軸からの距離がu1,u’1である。ここで、P0,P1が撮像素子M,N上に結像する位置の、撮像素子M,Nの画素に対する相対的な位相がイメージシフトの性能を左右する。この関係は、撮像距離H、焦点距離f、撮像素子の光軸の間の距離である基線長Bによって定まる。
【0087】
図24では、互いの結像する位置、すなわちu0とu’0は画素のサイズの半分だけシフトしている。u0(=0)は撮像素子Mの画素の中心に位置している。対してu’0は撮像素子Nの画素の周辺に結像している。すなわち、画素サイズの半画素分ずれた関係となっている。u1とu’1も同様に半画素のサイズだけシフトしている。図24(b)は、各々撮像した画像の同一画像同士を演算することで、1つの画像を復元・生成する動作の模式図である。Puがu方向の画素サイズを、Pvがv方向の画素サイズを示す。図24(b)では、互いに画素の半分だけシフトしている関係となり、イメージシフトを実施して高精細画像を生成するための理想的な状態である。
【0088】
図25は、図24に対して、例えば取り付け誤差により撮像素子Nが設計よりも画素サイズの半分だけずれて取り付けられた場合の模式図である。この場合、u1とu’1の互いの関係は、各々の撮像素子の画素に対して同一の位相となる。図25(a)では、双方とも、画素に対して左側に寄った位置に結像している。u0(=0)とu’0の関係も同様である。よって図25(b)のように、互いの位相は略一致する。
【0089】
図26は、図25に対して、本発明の光軸シフトを動作させた場合の模式図である。図26(a)中の光軸シフトという右方向の移動がその動作のイメージである。このように、光軸シフト手段を用いてピンホールO’をずらすことで、撮像対象が結像する位置が撮像素子の画素に対して制御可能となる。図26(b)のように理想的な位相関係が達成可能となる。
【0090】
次に、図27参照して、撮像距離と光軸シフトの関係について説明する。図27は、撮像距離H0でP0を撮像している状態から、距離H1にある物体P1に被写体を切り替えた場合を説明する模式図である。図27において、P0,P1はそれぞれ撮像素子M上の光軸上であると仮定しているので、u0=0であり、またu1=0である。P0、P1が撮像素子Nに結像する際の、撮像素子Bの画素とP0,P1の像の関係に注目する。P0は、撮像素子Mの画素の中心に結像している。対して撮像素子Nでは、画素の周囲に結像している。よってP0を撮像していたときは最適な位相関係であったといえる。図27(b)は、被写体がP1の場合の互いの撮像素子の位相関係を示す模式図である。図27(b)にあるように被写体をP1に変更したあとは、互いの位相が略一致してしまう。
【0091】
そこで、図28(a)にあるように、被写体P1撮像時に光軸シフト手段で光軸を動かすことで、図28(b)に示すように理想的な位相関係に制御することが可能となり、よってイメージシフトによる高精細化が達成できる。ここで、撮像距離の情報を得る方法は、距離を測定する測距手段を別途持てばよい。または、本発明の撮像装置で距離を測定してもよい。複数のカメラ(単位撮像部)を用いて距離を測定する例が、測量などでは一般的である。その測距性能は、カメラ間の距離である基線長とカメラの焦点距離に比例して、測距物体までの距離に反比例する。
【0092】
本発明の撮像装置を例えば8眼構成、すなわち8個の単位撮像部からなる構成とする。測定距離、すなわち被写体までの距離が500mmの場合は、8眼カメラのうち互いの光軸間距離(基線長)の短い4つのカメラで撮像、イメージシフト処理に割り当て、残りの互いに基線長の長い4つのカメラで被写体までの距離を測定する。また、被写体までの距離が2000mmと遠い場合は、8眼を使用してイメージシフトの高解像処理を行い、測距は例えば撮像した画像の解像度を解析することでボケ量を判定して、距離を推定するような処理で行うような構成にしてもよい。前述の500mmの場合にも、例えばTOF(Time of Flight)のような他の測距手段を併用することで、測距の精度を向上させてもよい。
【0093】
次に、図29を参照して、奥行きと光軸シフトによるイメージシフトの効果について説明する。図29(a)は、奥行きΔrを考えたP1,P2を撮像している模式である。各々の光軸からの距離の差(u1−u2)は(22)式となる。
(u1−u2)=Δr×u1/H ・・・(22)
【0094】
ここで、u1−u2は、基線長B、撮像距離H、焦点距離fによって定まる値である。ここでは、これらの条件B,H,fを固定して定数とみなす。また、光軸シフト手段により、理想的な光軸関係としていると仮定する。Δrと画素の位置(撮像素子に結像する像の、光軸からの距離)との関係は、(23)式となる。
Δr=(u1−u2)×H/u1 ・・・(23)
【0095】
すなわち、Δrはu1に対して反比例の関係となる。また、図29(b)は、一例として画素サイズ6μm、撮像距離600mm、焦点距離5mmの場合を仮定して、奥行きによる影響が1画素の範囲内に収まる条件を導出したものである。奥行きによる影響が1画素の範囲内に収まる条件下では、イメージシフトの効果が十分であるので、例えば画角を狭めるなど、アプリケーションによって使い分ければ、奥行きによるイメージシフト性能劣化を回避することが可能となる。
【0096】
以上、説明したように、液晶レンズの光軸シフト制御により、個別の撮像装置で得られる映像信号を高精細な映像に合成することが可能となる。
【0097】
前述した説明においては、撮像素子へ入射する光の光軸を制御するために、液晶レンズを用いた例を説明したが、撮像素子へ入射する光の光軸を制御する光軸シフト制御は、液晶レンズなどの非固体レンズ以外の手段でも達成することが可能であるため、以下、他のの実施形態について説明する。
【0098】
初めに、図30を参照して、第2の実施形態を説明する。第2の実施形態における撮像装置は、複数の固体レンズと複数の撮像素子のそれぞれの間に屈折板を配置したものである。図30は、図2に示す単位撮像部3の液晶レンズ301に替えて、入射面と出射面が平行であるような屈折板3001を固体レンズ302と撮像素子15の間に配置し、圧電素子3002を用いたアクチュエータなどの傾斜手段で傾斜させることにより光軸を制御する構成を示す図である。図30中の「屈折板の傾斜による光軸シフト原理図」に示すように傾斜角度により屈折板3001による光軸シフト量が変化するため、撮像素子15に入射する位置が変わり、光軸シフトが可能となる。ただし、屈折板3001を傾斜することにより発生することによる光軸シフトの方向は1軸方向(図中ではY方向)のみであるため、X方向に光軸シフトするような屈折板を別に配置することにより、2軸方向の光軸シフトが可能となり、撮像素子面内の任意の方向に光軸シフトをすることが可能となる。
【0099】
次に、図31を参照して、第3の実施形態を説明する。第3の実施形態における撮像装置は、複数の可変頂角プリズムと複数固体レンズと複数の撮像素子を用いたものである。図31に示すように、可変頂角プリズム3101の頂角を圧電素子3102を用いたアクチュエータなどの手段により変化させることにより、入射光が偏向するため、固体レンズ302によって結像する撮像素子15上の位置が変わり、光軸をシフトすることが可能となる。ただしこの場合も光軸シフトの方向は図31に示す通り1軸方向(図中ではY方向)のみであるため、X方向に光軸シフトするような可変頂角プリズムを、別に配置することにより、任意の方向に光軸シフトすることが可能となる。
【0100】
次に、図32を参照して、第4の実施形態を説明する。第4の実施形態における撮像装置は、複数の固体レンズと複数の撮像撮像素子を用い、固体レンズの全体或いは1部分を、複数の圧電素子を用いたアクチュエータなどによる移動手段により光軸と略垂直方向に移動させるものである。図32においては、撮像レンズ3209は、3つの固体レンズ3201、3202、3203で構成されており、その1部分である固体レンズ3202を、X方向に移動可能な圧電素子を用いたアクチュエータ3204による移動手段と、Y方向に移動可能な圧電素子3205を用いたアクチュエータによる移動手段によって移動させる。図32中の「固体レンズの移動による光軸シフトの原理図」に示すように、撮像レンズ3209の1部である固体レンズ3202が移動することにより、入射光が偏向し、撮像レンズ3209によって結像する撮像素子15上の位置が変わり、光軸をシフトすることが可能となる。これをX、Y方向に行うことにより、光軸を撮像素子面上でXY方向に独立してシフトすることが可能となる。
【0101】
次に、図33を参照して、第5の実施形態を説明する。第5の実施形態における撮像装置は、複数の固体レンズと複数の撮像素子を用い、複数の撮像素子を、圧電素子を用いたアクチュエータなどによる移動手段により直接移動させるものである。この場合、光軸シフト量の制御は撮像レンズではなく、撮像素子15に対して行われることになる。図1に示す6系統の単位撮像部2〜7の撮像素子のそれぞれを、圧電素子を用いたアクチュエータなどによる移動手段により直接移動させる構成を図33に示す。図33に示すように、撮像素子15を、X方向に移動する圧電素子3302を用いたアクチュエータによる移動手段と、Y方向に移動する圧電素子3303を用いたアクチュエータによる移動手段により移動させることにより、撮像素子15上の結像位置が移動するため、XY方向に独立して光軸シフトを行うことが可能となる。
【0102】
なお、図30〜図33において、移動手段として圧電素子をアクチュエータとして用いているが、これに限定するものではなく、電磁力を用いたソレノイドアクチュエータ、モータとギア機構を用いたアクチュエータ、圧力を用いたアクチュエータなどの手段を用いることもできる。また制御手段も電圧制御に限定するものではない。光軸シフト方向についても、1軸方向、2軸方向について述べたが、これに限定するものではない。
【0103】
このように、液晶レンズ等の非固体レンズに替えて、他の手法による光軸シフト制御を行うようにしたため、光軸制御を実現する構成の自由度を増すことが可能となる。特に、携帯電話端末のように、軽薄短小が要求される筐体においては、レンズ径を大きくすることができなかったり、焦点距離を十分に確保できないような場合に、携帯電話端末を構成する部品のレイアウトに応じて適切な手法を用いることが可能となる。
【0104】
次に、図34を参照して、第6の実施形態を説明する。前述した第1の実施形態において、撮影距離と撮像素子の画素ピッチの対応関係で高解像度化できない撮影距離が存在するが、前述したように光軸シフトを行うことで高解像度化できることを示した。ここで、撮影距離と撮像素子の画素ピッチの対応関係で高解像度化できない撮影距離において、光軸シフトと同様に焦点シフトを行うことにより高解像度化できることを説明する。
【0105】
図34は、被写体が、撮像距離H0で点P0にある状態から、距離H1にある点P1にある状態に変化した場合を説明する模式図である。図34(a)に示すように、焦点距離がfの場合、点P0は、撮像素子Mの画素Mnの中心部分に結像し、撮像素子Nにおいては画素Nnの端の部分に結像するため、半画素分(図34に示すu’0)ずれて結像することになる。一方、点P1の場合は、焦点距離がfであると、結像位置が1画素分(図34に示すu’1)ずれるため、撮像素子Mと撮像素子Nの画素の位相が略一致し、図34(b)の上の図に示す状態になる。従って、互いの画素の位相が略一致し、高解像度できなくなる。
【0106】
そこで、図34(a)に示すように、ピンホールO’の焦点を撮像素子Nの方向にシフトする(焦点距離fを短くする)ことにより、図34(b)の上の図に示す状態から下の図に示す状態に変化させることができるため、撮像素子Mと撮像素子Nの画素が半画素分ずれて、最適な位相関係にすることができる。ただし、最適な位相関係になるまで、ピンホールO’の焦点距離fを短くすると撮像素子N上の像がボケてしまう場合が生じる。ピンホールO’の焦点距離fを短くする目的は、撮像素子Mと撮像素子Nの画素の位相が略一致している状態を回避することであるため、撮像素子N上の像がボケない範囲で動かせば良い。
【0107】
ピンホールO’を光軸方向に移動しても(焦点距離を短くしたり、長くしたりしても)被写体の像にボケが生じない範囲を図35を参照して説明する。ピンホールO’移動量(撮像素子に近づく方向)、前方被写界深度及び倍率の関係は、以下の通りである。
ピンホールO’移動量(焦点距離を短くする)<前方被写界深度/倍率・・・(24)
ピンホールO’移動量(焦点距離を長くする)<後方被写界深度/倍率・・・(25)
ここで、
前方被写界深度=許容錯乱円径×絞り値×撮像距離2/(焦点距離2+許容錯乱円径×絞り値×撮像距離)
後方被写界深度=許容錯乱円径×絞り値×撮像距離2/(焦点距離2−許容錯乱円径×絞り値×撮像距離)
倍率=撮像距離/像点距離≒撮像距離/焦点距離
被写界深度=前方被写界深度+後方被写界深度
である。
【0108】
例えば、焦点距離5mm、撮像距離600mm、許容錯乱円径0.006mm、絞り値2mmとすれば、
前方被写界深度=132.2(mm)
後方被写界深度=242.7(mm)
倍率=120
となる。従って、(24)、(25)式は、
ピンホールO’移動量(焦点距離を短くする)<1.1(mm)
ピンホールO’移動量(焦点距離を長くする)<2.0(mm)
となる。
この移動量の範囲内でピンホールO’の焦点距離を制御することにより、光軸シフトのときと同様に高解像度化が可能となる。
【0109】
焦点距離の変更(焦点シフト)は、図3に示す液晶レンズ301によって実現可能であり、第1の電極303、第2の電極304への電圧の掛け方によって液晶層306の屈折率分布を自由に変化させればよい。この場合、図3に示す電極304a、304b、304c、304dは同一電圧を掛ける。これにより、液晶レンズ301が凸レンズとして働き、図2に示す光学レンズ302の焦点距離を変化させることが可能となる。
【0110】
なお、図1に示す撮像装置1において、各撮像素子14〜19及び映像処理部26〜31より得られた複数の映像を映像合成処理部38により画像処理を行い、全体の画像を再構成することでフォーカス情報を検出し、各制御部32〜37を介して各液晶レンズアレイの各液晶レンズを駆動して、オートフォーカス機能を動作させるようにしてもよい。オートフォーカス機能と連動させて、液晶レンズ301を制御することにより、動く被写体の高解像度画像を撮像することが可能となる。
【0111】
次に、図36を参照して、第7の実施形態を説明する。前述した実施形態においては、全ての撮像素子は同一仕様のものを使用する構成であり、図1に示す撮像素子14〜19の画素ピッチは等しかった。そのため、図34(b)の上の図に示す状態になり、互いの画素の位相が略一致してしまう頻度が高くなり、高解像度化ができなくなる場合がある。第7の実施形態においては、図1に示す6つの撮像素子14〜19それぞれについて、画素ピッチが異なる撮像素子を使用する。
【0112】
図36において、実線の交点が撮像素子Mの画素、点線の交点が撮像素子Nの画素を表している。高精細化するために必要な画素Puvの値は、画素Puvの周囲に位置する(画素Mi,j、Ni,j)、(画素Mi,j+1、Ni,j+1)、(画素Mi+1,j、Ni+1,j)、(画素Mi+1,j+1、Ni+1,j+1)のそれぞれと画素Puvとの距離による重み係数によってフィルタ演算を行うことによって求めることができる。例えばフィルタとして、キュービック(3次近似)を使用するとすれば、距離dにある画素から取得する重みwは次式となる。
w=1−2×d2+d3 (0≦d<1)
=4−8×d+5×d2−d3 (1≦d<2)
=0 (2≦d)
【0113】
次に、第7の実施形態の変形例を説明する。前述した第7の実施形態では、6つの撮像素子のそれぞれについて画素ピッチが異なる撮像素子を用いるようにしたが、同じ画素ピッチの6つの撮像素子を用いて、光学的に結像倍率を変えることによって、撮像素子の画素ピッチを変えるようにしてもよい。すなわち、撮像素子Nと撮像素子Nの画素ピッチが同じ場合に、撮像素子Mの撮像レンズの倍率を変える(拡大または縮小)ことにより、撮像素子M上に形成された像が大きく、または小さくなり、互いの画素の位相が略一致してしまうことを回避することが可能となる。
【0114】
次に、図37を参照して、第7の実施形態の他の変形例を説明する。図37に示す撮像素子は、一方の撮像素子(撮像素子N)を他方の撮像素子(撮像素子M)に対して、所定の位置を支点(例えば、撮像素子の左上の隅)として光軸と平行の軸周りに回転させて固定し配置している。この場合も図36に示す場合と同様に、u軸、v軸方向の画素位置が異なるため、互いの画素ピッチの位相が一致することを回避することができる。例えば、一方の撮像素子(撮像素子N)をθだけ、撮像素子受光面内で回転する場合、撮像素子Nのう’軸方向の画素ピッチをpとすると、撮像素子Mのu軸方向(撮像素子Nのu’軸方向)の画素ピッチp’は次式となる。
p’=p/cosθ
【0115】
なお、撮像素子Nの受光面に垂直な軸(光軸)とu’軸でなす平面内で回転させて配置するようにしてもよい。
【0116】
このように、図1に示す6つの撮像素子14〜19それぞれの画素ピッチが異なるようにすることで、互いの画素の位相が略一致してしまうことを回避することができ、高解像度化ができなくなることを防止することができる。
【0117】
また、図36、37に示すように、撮像素子14〜19のそれぞれの画素ピッチが異なるように撮像装置を配置するとともに、前述した光軸の方向を制御する動作を組み合わせて高解像度化を図るようにしてもよい。このようにすることにより、高解像度の画像を容易に得ることが可能となる。
【0118】
以上説明したように、従来、撮像素子上でのクロストークにより画質劣化が生じ、高画質化が難しかったが、本発明の撮像装置によれば、撮像素子に入射する光の光軸を制御することによりクロストークが無くすことができ、高画質を得ることができる撮像装置を実現することができる。また、従来の撮像装置では、画像処理によって、撮像素子上の結像したイメージを取り込むため、撮像素子の解像度を必要とする撮像解像度より大きくする必要があるが、本発明の撮像装置では、液晶レンズの光軸方向のみでなく、撮像素子に入射する光の光軸を任意の位置に設定する制御を行うことができるため、撮像素子のサイズを小さくすることができる、軽薄短小が要求される携帯端末等にも搭載することが可能となる。
【図面の簡単な説明】
【0119】
【図1】本発明の第1の実施の形態による撮像装置の構成を示すブロック図である。
【図2】図1に示した第1の実施の形態による撮像装置の単位撮像部の詳細な構成図である。
【図3】液晶レンズの構成図である。
【図4】第1の実施の形態による撮像装置に使用した液晶レンズの機能を説明する模式図である。
【図5】第1の実施の形態による撮像装置の液晶レンズを説明する模式図である。
【図6】図1に示した第1の実施の形態による撮像装置の撮像素子を説明する模式図である。
【図7】撮像素子の詳細な模式図である。
【図8】図1に示す撮像装置1の全体構成を示すブロック図である。
【図9】第1の実施の形態による撮像装置の映像処理部の詳細なブロック図である。
【図10】第1の実施の形態による撮像装置の映像処理の映像合成処理部の詳細なブロック図である。
【図11】第1の実施の形態による撮像装置の映像処理の制御部の詳細なブロック図である。
【図12】制御部の動作の一例を説明するフローチャートである。
【図13】図12に示すサブ画素映像合成高精細化処理の動作を示す説明図である。
【図14】高精細判定の一例を説明するフローチャートである。
【図15】制御電圧変更処理の一例を説明するフローチャートである。
【図16】カメラキャリブレーションの一例を説明するフローチャートである。
【図17】単位撮像部のカメラキャリブレーションを説明する模式図である。
【図18】複数の単位撮像部のカメラキャリブレーションを説明する模式図である。
【図19】複数の単位撮像部のカメラキャリブレーションを説明する別の模式図である。
【図20】撮像装置1の撮像の様子を示す模式図である。
【図21】高精細なサブ画素について説明する模式図である。
【図22】高精細なサブ画素について説明する別の模式図である。
【図23】撮像対象(被写体)と結像の関係を示す説明図である。
【図24】撮像装置1の動作を説明する模式図である。
【図25】取り付け誤差により撮像素子がずれて取り付けられた場合の模式図である。
【図26】光軸シフト制御の動作を示す模式図である。
【図27】撮像距離と光軸シフトの関係を示す説明図である。
【図28】撮像距離と光軸シフトの関係を示す説明図である。
【図29】奥行きと光軸シフトによるイメージシフトの効果を示す説明図である。
【図30】第2の実施の形態による光軸シフト制御を行う構成を示す構成図である。
【図31】第3の実施の形態による光軸シフト制御を行う構成を示す構成図である。
【図32】第4の実施の形態による光軸シフト制御を行う構成を示す構成図である。
【図33】第5の実施の形態による光軸シフト制御を行う構成を示す構成図である。
【図34】第6の実施の形態による焦点シフト制御を行う構成を示す構成図である。
【図35】第6の実施の形態による焦点シフト制御を行う構成を示す構成図である。
【図36】第7の実施の形態による撮像素子の構成を示す構成図である。
【図37】第7の実施の形態の変形例による撮像素子の構成を示す構成図である。
【図38】従来の撮像装置の構成を示すブロック図である。
【図39】他の従来の撮像装置の構成を示すブロック図である。
【符号の説明】
【0120】
1 撮像装置
2〜7 単位撮像部
8〜13 撮像レンズ
14〜19 撮像素子
20〜25 光軸
26〜31 映像処理部
32〜37 制御部
38 映像合成処理部
【技術分野】
【0001】
本発明は、撮像装置及び光軸制御方法に関するものである。
【背景技術】
【0002】
近年、高画質なデジタルスチルカメラやデジタルビデオカメラ(以下、デジタルカメラという)が急速に普及してきている。また、並行してデジタルカメラの小型化、薄型化の開発も進められており、携帯電話端末等に小型で高画質なデジタルカメラが搭載されてきている。デジタルカメラに代表される撮像装置は、撮像素子、結像光学系(レンズ光学系)、イメージプロセッサ、バッファメモリ、フラッシュメモリ(カード型メモリ)、画像モニタ及びこれらを制御する電子回路やメカニカル機構等から構成されている。撮像素子には、通常、CMOS(Complementary Metal Oxide Semiconductor)センサやCCD(Charge Coupled Device)センサ等の固体電子デバイスが使用されている。撮像素子上に結像された光量分布は光電変換されて、得られた電気信号はイメージプロセッサとバッファメモリによって信号処理される。イメージプロセッサとしてはDSP(Digital Signal Processor)等が、またバッファメモリとしてはDRAM(Dynamic Random Access Memory)等が使用される。撮像された画像はカード型フラッシュメモリ等に記録蓄積され、記録蓄積された画像はモニタに表示することができる。
【0003】
撮像素子に像を結像させる光学系は、通常、収差を除去するために、数枚の非球面レンズから構成されている。また、光学的なズーム機能を持たせる場合は、組合せレンズの焦点距離や、レンズと撮像素子の間隔を変える駆動機構(アクチュエータ)が必要となる。撮像装置の高画質化、高機能化の要求に応じて、撮像素子は多画素化、高精細化し、結像光学系はより低収差、高精度化され、かつズーム機能、オートフォーカス機能、手振れ補正機能等の高機能化が進んでいる。それに伴い、撮像装置が大きくなり、小型化、薄型化が困難になるという問題がある。
【0004】
このような問題を解決するために、結像光学系に複眼構造を採用したり、液晶レンズや液体レンズ等の非固体レンズを組み合わせることにより、撮像装置を小型化、薄型化することが提案されている。例えば、平面状に配置した固体レンズアレイと液晶レンズアレイと1つの撮像素子から構成された撮像レンズ装置が提案されている(例えば、特許文献1)。図38に示すように、固定焦点距離のレンズアレイ2001と、同数の可変焦点型の液晶レンズアレイ2002とを有するレンズ系と、このレンズ系を通して結像する光学像を撮像する単一の撮像素子2003から構成されている。この構成によって、レンズアレイ2001の数と同数の画像を単一の撮像素子2003上に分割して結像させる。この撮像素子2003より得られた複数の画像を演算装置2004により画像処理を行い、全体の画像を再構成する。また、この演算装置2004からフォーカス情報を検出し、液晶駆動装置2005を介して液晶レンズアレイ2002の各液晶レンズを駆動して、オートフォーカスを行う。このように、特許文献1の撮像レンズ装置においては、液晶レンズと固体レンズを組み合わせることにより、オートフォーカス機能やズーム機能を有し、かつ小型化を実現することができる。
【0005】
また、1つの非固体レンズ(液体レンズ、液晶レンズ)と固体レンズアレイと1つの撮像素子から構成された撮像装置もある(例えば、特許文献2)。図39に示すように、液晶レンズ2131と、複眼光学系2120と、画像合成器2115と、駆動電圧演算部2142から構成されている。特許文献1と同様、単一の撮像素子2105上に、レンズアレイの数と同数の画像を結像させて、画像処理で画像を再構成する。このように、特許文献2の撮像装置においては、1つの非固体レンズ(液体レンズ、液晶レンズ)と固体レンズアレイを組み合わせることにより、小型、薄型で焦点調整機能を実現することができる。
【0006】
また、撮像素子である検出器アレイと撮像レンズアレイから構成されたサブピクセル解像度を有する薄型カメラにおいて、2つのサブカメラ上の画像の相対的な位置ずれを変化させて、合成画像の解像度を増大させる方法が知られている(例えば、特許文献3)。この方法では、片方のサブカメラに絞りを設けて、この絞りによって半画素分の光を遮断することで、被写体距離によって解像度が改善できなくなる課題を解決している。また、特許文献3は、外部から電圧を与えることで焦点距離を制御することが可能な液体レンズを組み合わせて、焦点距離を変更することで画像の結像位置と画素の位相も同時に変更することで、合成画像の解像度を増大させている。このように、特許文献3の薄型カメラでは、撮像レンズアレイと、遮光手段を持つ撮像素子を組み合わせることにとより、合成画像の高精細化を実現している。また、撮像レンズアレイと撮像素子に液体レンズを組み合わせることで、合成画像の高精細化を実現することができる。
【特許文献1】特開2006−251613号公報
【特許文献2】特開2006−217131号公報
【特許文献3】特表2007−520166号公報
【発明の開示】
【発明が解決しようとする課題】
【0007】
しかしながら、特許文献1〜3の撮像レンズ装置では、光学系と撮像素子の相対位置の調整の精度が画質に影響するため、組み立て時に正確に調整する必要があるという問題がある。また、相対位置の調整を機械的精度だけで調整を行う場合は、高精度な非固体レンズ等が必要となり、コストが高くなるという問題がある。また、装置の組立て時に正確に調整されたとしても、経時変化等により光学系と撮像素子との相対位置が変わり、画質劣化が生じることもある。再度位置調整をすれば画質が良くなるが、組立て時と同様の調整を行わなければならないという問題がある。さらに、光学系や撮像素子を数多く備えている装置においては調整するべき箇所が数多くなるため、多大な作業時間を要するという問題もある。
【0008】
本発明は、このような事情に鑑みてなされたもので、高画質な撮像装置を実現するために、光学系と撮像素子の相対位置の調整を人手作業を必要とすることなく、容易に行うことができる撮像装置及び光軸制御方法を提供することを目的とする。
【課題を解決するための手段】
【0009】
本発明は、複数の撮像素子と、前記撮像素子のそれぞれに像を結像させる複数の固体レンズと、前記撮像素子にそれぞれに入射する光の光軸の方向を制御する複数の光軸制御部とを備えることを特徴とする。
【0010】
本発明は、前記光軸制御部は、屈折率分布を変化させることが可能な非固体レンズで構成され、前記非固体レンズの屈折率分布を変化させることにより、前記撮像素子に入射する光の光軸を偏向させることを特徴とする。
【0011】
本発明は、前記光軸制御部は、屈折板と該屈折板の傾斜角を変える傾斜角変更手段とから構成され、前記傾斜角変更手段によって、前記屈折板の傾斜角を変えることにより、前記撮像素子に入射する光の光軸を偏向させることを特徴とする。
【0012】
本発明は、前記光軸制御部は、可変頂角プリズムから構成され、前記可変頂角プリズムの頂角を変えることにより、前記撮像素子に入射する光の光軸を偏向させることを特徴とする。
【0013】
本発明は、前記光軸制御部は、前記固体レンズを移動させる移動手段で構成され、前記固体レンズを移動させることにより、前記撮像素子に入射する光の光軸を偏向させることを特徴とする。
【0014】
本発明は、前記光軸制御部は、前記撮像素子を移動させる移動手段で構成され、前記撮像素子を移動させることにより、前記撮像素子に入射する光の光軸を制御することを特徴とする。
【0015】
本発明は、前記光軸制御部は、既知の撮像対象との相対位置関係に基づいて前記光軸の方向を制御することを特徴とする。
【0016】
本発明は、前記複数の撮像素子のそれぞれは、画素のピッチが異なることを特徴とする。
【0017】
本発明は、前記複数の固体レンズのそれぞれは、焦点距離が異なることを特徴とする。
【0018】
本発明は、前記複数の撮像装置は、光軸周りにそれぞれ異なる角度で回転させて配置したことを特徴とする。
【0019】
本発明は、複数の撮像素子と、前記撮像素子のそれぞれに像を結像させる複数の固体レンズと、屈折率分布を変化させることが可能な非固体レンズで構成され、前記非固体レンズの屈折率分布を変化させることにより、前記固体レンズの焦点距離を変更する焦点制御部とを備えることを特徴とする。
【0020】
本発明は、複数の撮像素子と、前記撮像素子のそれぞれに像を結像させる複数の固体レンズと、前記撮像素子にそれぞれに入射する光の光軸の方向を制御する複数の光軸制御部とを備える撮像装置における光軸制御方法であって、前記光軸制御部が、既知の撮像対象と前記光軸制御部との相対位置関係に基づいて前記光軸の方向を制御することを特徴とする。
【0021】
本発明は、複数の撮像素子と、前記撮像素子のそれぞれに像を結像させる複数の固体レンズと、屈折率分布を変化させることが可能な非固体レンズで構成され、前記非固体レンズの屈折率分布を変化させることにより、前記固体レンズの焦点距離を変更する焦点制御部とを備える撮像装置における光軸制御方法であって、前記焦点制御部が、既知の撮像対象と前記撮像素子との相対位置関係に基づいて前記固体レンズの焦点距離を制御することを特徴とする。
【発明の効果】
【0022】
本発明によれば、複数の撮像素子と、撮像素子のそれぞれに像を結像させる複数の固体レンズと、撮像素子にそれぞれに入射する光の光軸を制御する複数の光軸制御部とを備えたため、光学系と撮像素子の相対位置の調整を人手作業を必要とすることなく、容易に行うことができ、高画質な撮像装置を実現することができるという効果が得られる。特に、入射する光の光軸を撮像素子面上の任意の位置に設定するように制御することが可能となるため、光学系と撮像素子間の位置調整を簡単に行うことができる高画質な撮像装置を実現することができる。また、撮像対象と複数の光軸制御部との相対位置に基づいて光軸の方向を制御するようにしたため、撮像素子面の任意の位置に光軸の設定を行うことが可能となり、焦点調整範囲が広い撮像装置を実現することができる。
【発明を実施するための最良の形態】
【0023】
以下に、本発明の実施形態について、図面を参照して詳細に説明する。図1は、本発明の第1の実施形態に係る、撮像装置の全体構成を示す機能ブロック図である。図1に示す撮像装置1は、6系統の単位撮像部2〜7を備えている。単位撮像部2は撮像レンズ8と撮像素子14から構成されている。同様に、単位撮像部3は撮像レンズ9と撮像素子15、単位撮像部4は撮像レンズ10と撮像素子16、単位撮像部5は撮像レンズ11と撮像素子17、単位撮像部6は撮像レンズ12と撮像素子18、及び単位撮像部7は撮像レンズ13と撮像素子19から構成されている。各撮像レンズ8〜13は撮影対象からの光を対応する各撮像素子14〜19上にそれぞれ結像する。図1に示す符号20〜25は、各撮像素子14〜19に入射する光の光軸を示している。
【0024】
以下、単位撮像部3を例にとり、信号の流れを説明する。撮像レンズ9によって結像した像を撮像素子15で光電変換し、光信号を電気信号に変換する。撮像素子15で変換された電気信号は、映像処理部27によって予め設定されたパラメータにより映像信号に変換する。映像処理部27は、変換した映像信号を映像合成処理部38へ出力する。映像合成処理部38は、他の単位撮像部2、4〜7から出力される電気信号を対応する各映像処理部26、28〜31により変換処理された映像信号を入力する。映像合成処理部38では、各単位撮像部2〜7において撮像された6つの映像信号を同期を取りながら1本の映像信号に合成し、高精細映像として出力する。また映像合成処理部38は、合成した高解像度映像が予め設定した判定値より劣化していた場合、その判定結果に基づいて、制御信号を生成して、6つの制御部32〜37へ出力する。各制御部32〜37は、入力した制御信号に基づいて、対応する各撮像レンズ8〜13の光軸制御を行う。そして、映像合成処理部38は、再度高精細映像の判定を行う。この判定結果が良ければ高精細映像を出力し、悪ければ再度、撮像レンズを制御するという動作を繰り返す。
【0025】
次に、図2を参照して、図1に示す単位撮像部3の撮像レンズ9及びこの撮像レンズ9を制御する制御部33の詳細な構成を説明する。単位撮像部3は、液晶レンズ(非固体レンズ)301及び光学レンズ(固体レンズ)302から構成されている。また、制御部33は、液晶レンズ301に印加する電圧を制御する4つの電圧制御部33a、33b、33c、33dから構成されている。電圧制御部33a、33b、33c、33dは、映像合成処理部38が生成した制御信号に基づいて、液晶レンズ301に印加する電圧を決定し、液晶レンズ301を制御する。図1に示す他の単位撮像部2、4〜7の撮像レンズ及び制御部も同様な構成であるため、ここでは詳細な説明を省略する。
【0026】
次に、図3を参照して、図2に示す液晶レンズ301の構成を説明する。本実施形態における液晶レンズ301は、透明な第1の電極303、第2の電極304、透明な第3の電極305、第2の電極304と第3の電極305との間に配置された液晶層306、第1の電極303と第2の電極304との間に配置された第1の絶縁層307、第2の電極304と第3の電極305の間に配置された第2の絶縁層308、第1の電極303の外側に配置された第3の絶縁層311、第3の電極305の外側に配置された第4の絶縁層312によって構成されている。ここで、第2の電極304は、円形の孔を有しており、図3の正面図に示すように縦、横に分割された4つの電極304a、304b、304c、304dによって構成されており、それぞれの電極に独立して電圧を印加することができる。また、液晶層306は第3の電極305に対向するように液晶分子を一方向に配向させており、液晶層306を挟む電極303、304、305の間に電圧を印加することで液晶分子の配向制御を行う。また、絶縁層308は大口径化のため例えば数百μm程度の厚さの透明な硝子等を用いている。
【0027】
一例として液晶レンズ301の寸法を以下に示す。第2の電極304の円形の孔のサイズは約φ2mmであり、第1の電極303との間隔は70μmであり、第2の絶縁層308の厚みは700μmである。液晶層306の厚さは60μmとしている。本実施の形態では第1の電極303と第2の電極304は異なった層となっているが、同一の面上に形成しても構わない。その場合、第1の電極303の形状は第2の電極304の円形の孔よりも小さなサイズの円形として第2の電極304の孔位置に配置し、第2の電極304の分割部分に電極取り出し部を設けた構成とする。このとき、第1の電極303と第2の電極を構成する電極304a、304b、304c、304dはそれぞれ独立に電圧制御が行える。このような構成をすることで全体の厚みを減少させることができる。
【0028】
次に、図3に示す液晶レンズ301の動作を説明する。図3に示す液晶レンズ301において、透明な第3の電極305とアルミニウム薄膜等で構成された第2の電極304との間に電圧を印加すると同時に、第1の電極303と第2の電極304の間にも電圧を印加することにより、円形の孔を有する第2の電極304の中心軸309に軸対象な電界勾配を形成することができる。このように形成された円形電極のエッジ周りの軸対象な電界勾配により、液晶層306の液晶分子が電界勾配の方向に配向する。その結果、液晶層306の配向分布の変化により、異常光の屈折率分布が円形の電極の中心から周辺まで変化するため、レンズとして機能させることができる。第1の電極303、第2の電極304への電圧の掛け方によってこの液晶層306の屈折率分布を自由に変化させることができ、凸レンズや凹レンズなど自由に光学的な特性の制御を行うことが可能である。
【0029】
本実施形態では、第1の電極303と第2の電極304の間に20Vrmsの実効電圧を印加し、また、第2の電極304と第3の電極305の間に70Vrmsの実効電圧を印加して、第1の電極303と第3の電極305の間には90Vrmsの実効電圧が印加されるようにして凸レンズとして機能させている。ここで、液晶駆動電圧(各電極間に印加する電圧)は正弦波、またはデューティ比50%の矩形波の交流波形である。印加する電圧値は実効電圧(rms:root mean square value)で表す。例えば100Vrmsの交流正弦波は、±144Vの尖頭値を有する電圧波形となる。また、交流電圧の周波数は例えば1kHzが用いられる。更に第2の電極304を構成する電極304a、304b、304c、304dと第3の電極305との間にそれぞれ異なった電圧を印加することにより、同一電圧を印加したときには軸対称であった屈折率分布が、円形の孔を有する第2の電極中心軸309に対して、軸のずれた非対称な分布となり、入射光が直進する方向から偏向するという効果が得られる。この場合、分割された第2の電極304と第3の電極305の間に印加する電圧を適宜変えることにより、入射光の偏向の方向を変化させることができる。例えば、電極304aと電極305間と、電極304cと電極305間にそれぞれ70Vrmsを、電極304bと電極305間と、電極304dと電極305間にそれぞれ71Vrmsを印加することで、符号309で示す光軸位置が符号310で示す位置にシフトする。そのシフト量は例えば3μmである。
【0030】
図4は、液晶レンズ301の光軸シフト機能を説明する模式図である。前述した通り第2の電極を構成する電極304a、304b、304c、304dと第3の電極305との間に印加する電圧を、電極304a、304b、304c、304d毎に制御することによって、撮像素子の中心軸と液晶レンズの屈折率分布の中心軸をずらすことが可能となる。これは撮像素子面に対してレンズがそのxy面内でずれたことに相当するため、撮像素子に入力する光線を、そのu、v面内で偏向することができる。
【0031】
図5に図2に示す単位撮像部3の詳細構成を示す。単位撮像部3の中の光学レンズ302は2つの光学レンズ302a、302bによって構成され、液晶レンズ301は光学レンズ302a、302bの間に配置している。光学レンズ302a、302bはそれぞれ1枚もしくは複数枚のレンズより構成されている。物体面から入射した光線は液晶レンズ301の物体面側に配置する光学レンズ302aによって集光され、スポットを小さくした状態で液晶レンズ301に入射される。このとき、液晶レンズ301への光線の入射角度は光軸に対して平行に近い状態となっている。液晶レンズ301から出射された光線は液晶レンズ301の撮像素子15側に配置する光学レンズ302bによって撮像素子15面上に結像される。このような構成とすることで液晶レンズ301の径を小さくすることが可能であり、液晶レンズ301へ印加する電圧の低減やレンズ効果の増大、第2の絶縁層308の厚さを薄くすることによるレンズ厚の低減が可能である。
【0032】
図1に示す撮像装置1では、1つの撮像素子に対して1つの撮像レンズを配置した構成としているが、液晶レンズ301において同一基板上に複数個の第2の電極304を構成し、複数の液晶レンズを一体化した構成でも構わない。すなわち液晶レンズ301は第2の電極304の孔の部分がレンズに相当するため、1枚の基板上に複数個の第2の電極304のパターンを配置することで、それぞれの第2の電極304の孔の部分がレンズ効果を有する。そのため、複数個の撮像素子の配置に合わせて同一基板上に複数の第2の電極304を配置することで単一の液晶レンズユニットで全ての撮像素子に対応することが可能である。
【0033】
なお、前述した説明においては液晶層の層数が1層であったが、1層の厚みを薄くして複数の層で構成することで同程度の集光性を保ったまま応答性を改善することも可能である。これは液晶層の厚みが増すほど応答速度が劣化する特徴によるものである。また、液晶層を複数の層で構成した場合、それぞれの液晶層間での偏光の向きを変えることで、液晶レンズへ入射した光線に対して全ての偏光方向でレンズ効果を得ることができる。さらに、電極分割数も1例として4分割のタイプを例示したが、移動したい方向に応じて電極の分割数を変更することも可能である。
【0034】
次に、図6及び図7を参照して、図1に示す撮像素子15の構成を説明する。本実施形態による撮像装置の撮像素子は、一例として、CMOS撮像素子を使用することができる。図6において、撮像素子15は、2次元配列の画素501から構成されている。本実施形態のCMOS撮像素子の画素サイズは5.6μm×5.6μm、画素ピッチは6μm×6μm、実効画素数は640(水平)×480(垂直)である。ここで画素とは、撮像素子が行う撮像動作の最小単位である。通常、1つの光電変換素子(例えばフォトダイオード)に1つの画素が対応している。5.6μm各の画素サイズのなかに、ある面積(空間的広がり)を持つ受光部があり、画素はその受光部に入射した光を平均化、積分して光の強度とし、電気信号に変換する。平均化する時間は電子式や機械式のシャッター等で制御されて、その動作周波数は一般的に撮像装置が出力するビデオ信号のフレーム周波数と一致し、例えば60Hzである。
【0035】
図7に撮像素子15の詳細な構成を示す。CMOS撮像素子15の画素501は、増幅器516によって、フォトダイオード515で光電変換された信号電荷を増幅する。各画素の信号は、垂直走査回路511及び水平走査回路512により、垂直水平アドレス方式で選択し、電圧または電流として取り出される。CDS(Correlated Double Sampling)518は相関2重サンプリングを行う回路であり、アンプ516等で発生するランダム雑音のうち1/f雑音を抑圧することができる。画素501以外の画素についても同様の構成、機能となっている。またCMOSロジックLSI製造プロセスの応用で大量生産が可能なため、高電圧アナログ回路を持つCCDイメージセンサと比較して安価であり、素子が小さいことから消費電力も少なく、原理的にスミアやブルーミングが発生しないという長所もある。本実施形態ではモノクロのCMOS撮像素子15を使用したが、各画素には個別にR,G,Bのカラーフィルタを取り付けたカラー対応のCMOS撮像素子も使用できる。R,G,G,Bの繰り返しを市松模様状に配置するベイヤー構造を用いて、1つの撮像素子でカラー化を簡易に達成できる。
【0036】
次に、図8を参照して、撮像装置1の全体の構成について説明する。図8において、図1に示す同一の部分には同一の符号を付し、その説明を省略する。図8において、P001は撮像装置1の処理動作を統括して制御するCPU(Central Processing Unit)であり、マイクロコントローラ(マイコン)と呼ばれる場合もある。P002は不揮発性メモリで構成するROM(Read Only Memory)であり、CPU・P001のプログラムや各処理部に必要な設定値を記憶する。P003はRAM(Random Access Memory)であり、CPUの一時的なデータを記憶する。P004はVideoRAMであり、主に演算途中の映像信号、画像信号を記憶するためのもので、SDRAM(Synchronous Dynamic RAM)などで構成される。
【0037】
図8はCPU・P001のプログラム格納用としてRAM・P003を、画像格納用としてVideoRAM・P004を持つ構成であるが、例えば2つのRAMブロックをVideoRAM・P004に統一する構成でもよい。P005はシステムバスであり、CPU・P001、ROM・P002、RAM・P003、VideoRAM・P004、映像処理部27、映像合成処理部38、制御部33が接続されている。またシステムバスP005は、後述する映像処理部27、映像合成処理部38、制御部33の各ブロックの内部ブロックにも接続される。CPU・P001がホストとしてシステムバスP005を制御しており、映像処理、画像処理及び光軸制御に必要な設定データが双方向に流れる。また、例えば映像合成処理部38の演算途中の画像をVideoRAM・P004に格納する際にこのシステムバスP005を使用する。高速転送速度が必要な画像信号用のバスと、低速のデータバスを異なるバスラインとしてもよい。システムバスP005には、図示しないUSBやフラッシュメモリカードのような外部とのインターフェースや、ビューファインダとしての液晶表示器の表示駆動コントローラが接続される。
【0038】
次に、図9、図10を参照して、映像処理部27と映像合成処理部38の処理動作を説明する。図9は、映像処理部27の構成を示すブロック図である。図9において、601は映像入力処理部、602は補正処理部、603は較正パラメータ記憶部である。映像入力処理部601は、単位撮像部3から取り込んだ映像信号を入力し、例えばニー処理やガンマ処理などの信号処理を施し、さらにホワイトバランス制御も実施する。映像入力処理部601の出力は補正処理部602に渡されて、後述するキャリブレーション手順によって得られた較正パラメータに基づく歪みの補正処理が施される。例えば撮像素子15の取り付け誤差に起因する歪みが較正される。較正パラメータ記憶部603はRAM(Random Access Memory)であり、キャリブレーション値(較正値)を記憶している。補正処理部602からの出力である補正済みの映像信号は、映像合成処理部38に出力される。較正パラメータ記憶部603に記憶されているデータは、例えば撮像装置の電源投入時にCPU・P001によって更新される。または、較正パラメータ記憶部603をROM(Read Only Memory)として、工場出荷時のキャリブレーション手順にて格納データを確定してROMに記憶するようにしてもよい。
【0039】
映像入力処理部601、補正処理部602及び較正パラメータ記憶部603は、それぞれシステムバスP005に接続されている。例えば映像入力処理部601の前述のガンマ処理の特性はROM・P002に格納されている。映像入力処理部601は、CPU・P001のプログラムによって、ROM・P002に格納されているデータをシステムバスP005を介して受け取る。また、補正処理部602は、演算途中の画像データをシステムバスP005を介してVideoRAM・P004に書き出し、またはVideoRAM・P004から読み出す。本実施形態ではモノクロのCMOSの撮像素子15を使用しているが、カラーのCMOS撮像素子を使用する場合、例えば撮像素子がベイヤ構造である場合は、映像処理部601でベイヤ補間処理を実施することになる。
【0040】
図10は、映像合成処理部38の構成を示すブロック図である。合成処理部701は、複数の単位撮像部2〜7の撮像結果を合成処理する。合成処理により、後述するように画像の解像度を改善することができる。合成パラメータ記憶部702は、例えば後述するキャリブレーションによって導出される単位撮像部間の3次元座標から求まる画像シフト量のデータを格納している。合成処理部701は、このシフト量を基に画像をシフトさせて合成する。判定部703は、合成処理の結果を例えばフーリエ変換することで、映像信号の高帯域成分のパワーを検出する。ここで、例えば4つの単位撮像部の合成処理を行う場合を仮定する。撮像素子はワイドVGA(854画素×480画素)であると仮定する。また、映像合成処理部38の出力であるビデオ出力がハイビジョン信号(1920画素×1080画素)であると仮定する。この場合、判定部703で判断する周波数帯域は、およそ20MHzから30MHzである。ワイドVGAの映像信号が再現可能な映像周波数の帯域上限はおよそ10MHz〜15MHzである。このワイドVGAの信号を用いて、合成処理部701で合成処理することにより、20MHz〜30MHzの成分を復元する。ここで、撮像素子はワイドVGAであるが、主に撮像レンズ8〜13からなる撮像光学系は、ハイビジョン信号の帯域を劣化させない特性を持つことが条件となる。
【0041】
この合成後のビデオ信号の周波数帯域(前述の例では20MHz〜30MHzの成分)のパワーが最大となるように、制御部32〜制御部37を制御する。周波数軸での判断のために、判定部703ではフーリエ変換処理を行い、その結果の、特定の周波数以上(例えば20MHz)のエネルギーの大きさを判断する。撮像素子の帯域を越える映像信号帯域の復元の効果は、撮像素子上に結像した像を画素の大きさで決まる範囲で標本化する際の、その位相によって変化する。この位相を最適な状態とするために、制御部32〜37を用いて、撮像レンズ8〜13を制御する。具体的には、制御部33は撮像レンズ9にある液晶レンズ301を制御する。液晶レンズ301の分割された電極304a、電極304b、電極304c、電極304dに印加する電圧のバランスを制御することで、図4に示した通り、撮像素子面上の画像が移動する。制御結果の理想的な状態は、各々の単位撮像部の撮像結果の標本化位相が、互いに画素サイズの1/2だけ、水平、垂直、斜め方向にシフトした状態である。そのような理想的な状態になった場合、フーリエ変換の結果の高帯域成分のエネルギーは最大となる。つまり、液晶レンズの制御と、その結果の合成処理の判定を行うフィードバックループにより、フーリエ変換の結果のエネルギーを最大となるよう制御する。
【0042】
以上説明した通り、この制御方法は、映像処理部27からの映像信号を基準として、制御部33以外の制御部32、34〜37を介して撮像レンズ2、撮像レンズ4〜7を制御する。この場合、撮像レンズ2は、制御部32によって光軸位相が制御される。その他の撮像レンズ4〜7についても同様に光軸位相が制御される。各撮像素子の画素より小さいサイズでの位相の制御がなされることで、撮像素子で平均化される位相のオフセットが最適化される。つまり、撮像素子上に結像した像を画素で標本化する際の、その標本化の位相を、光軸位相の制御により高精細化を行うために理想的な状態に制御する。その結果高精細、高画質な映像信号を合成することが可能となる。判定部703は、合成処理結果を判定し、高精細、高画質な映像信号が合成できていれば、その制御値を維持し、高精細、高画質な映像信号をビデオ出力する。一方、高精細、高画質な映像信号が合成できていなければ、再度撮像レンズの制御を行う。
【0043】
ここでは、撮像素子1の画素と撮像対象の結像の位相が、画素のサイズ以下となるために、サブ画素と名前をつけて定義するが、画素を分割するサブ画素の構造が撮像素子上に実在するものではない。また、映像合成処理部38の出力は、例えばビデオ信号であり、図示しないディスプレイに対して出力されたり、または図示しない画像記録部に渡されて、磁気テープやICカードに記録される。合成処理部701、合成パラメータ記憶部702、判定部703は、それぞれシステムバスP005に接続されている。合成パラメータ記憶部702はRAMで構成されている。例えば、撮像装置の電源投入時にCPU・P001によってシステムバスP005を介して更新される。また、合成処理部701は、演算途中の画像データを、システムバスP005を介してVideoRAM・P004に書き出し、またはVideoRAM・P004から読み出す。
【0044】
次に、図11を参照して、制御部33の構成を説明する。図11において、801は電圧制御部、802は液晶レンズパラメータ記憶部である。電圧制御部801は、映像合成処理部38の判定部703からの制御信号に従い、撮像レンズ9が備えている液晶レンズ301の各電極の電圧を制御する。制御される電圧は、液晶レンズパラメータ記憶部802から読み出すパラメータ値を基準に決定する。このような処理により、液晶レンズ301の電界分布が理想的に制御されて、図4に示すように光軸が制御されて、結果取り込み位相が補正された状態で撮像素子15において光電変換される。このような制御によって、画素の位相が理想的に制御されて、その結果ビデオ出力信号の解像度が改善される。制御部33の制御結果が理想的な状態であれば、判定部703の処理であるフーリエ変換の結果のエネルギー検出が最大となる。そのような状態となるように、制御部33は、撮像レンズ9、映像処理部27、映像合成処理部38によるフィードバックループを構成して、高域周波数のエネルギーが大きく得られるように、液晶レンズを制御する。電圧制御部801、液晶レンズパラメータ記憶部802は、それぞれシステムバスP005に接続されている。液晶レンズパラメータ記憶部802は例えばRAMで構成されており、撮像装置1の電源投入時にCPU・P001によってシステムバスP005を介して更新される。
【0045】
なお、図9〜図11に示す較正パラメータ記憶部603、合成パラメータ記憶部702及び液晶レンズパラメータ記憶部802は、同一のRAM、もしくはROMを用いて、記憶するアドレスで使い分ける構成にしてもよい。また、ROM・P002やRAM・P003の一部のアドレスを使用する構成でもよい。
【0046】
次に、撮像装置1の制御動作を説明する。図12は、撮像装置1の動作を示すフローチャートである。ここでは、映像合成処理において映像の空間周波数情報を使用する一例を示す。まず、CPU・P001が制御処理の開始を指示すると、補正処理部602は、較正パラメータ記憶部603から較正パラメータを読み込む(ステップS901)。補正処理部602は、読み取った較正パラメータを基に、単位撮像部2〜7毎の補正を行う(ステップS902)。この補正は、後述の単位撮像部2〜7毎の歪みを除去するものである。次に、合成処理部701は、合成パラメータ記憶部702から合成パラメータを読み込む(ステップS903)。そして、合成処理部701は読み込んだ合成パラメータを基にサブ画素映像合成高精細化処理を実行する(ステップS904)。後述するように、サブ画素単位での位相が異なる情報をもとに高精細画像を構築する。
【0047】
次に、判定部703は高精細判定を実行し(ステップS905)、高精細か否かを判定する(ステップS906)。判定部703は、内部に判定用の閾値を保持しており、高精細の度合いを判定して、この判定結果の情報を制御部32〜37のそれぞれに渡す。各制御部32〜37は、高精細が達成されている場合は制御電圧を変更せずに、液晶レンズパラメータは同一値を保持する(ステップS907)。一方、高精細ではないと判定された場合、制御部32〜37は、液晶レンズ301の制御電圧を変更する(ステップS908)。CPU・P001は、制御終了条件を管理しており、例えば装置のパワーオフの条件が成立したか否かを判定し(ステップS909)、制御終了条件が満たされていなければ、ステップS903へ戻り、処理を繰り返す。一方、制御終了条件を満たしていれば処理を終了する。なお、制御終了条件は、装置のパワーオン時に予め高精細判定回数を10回というように定めておき、指定回数分、ステップS903〜S909の処理を繰り返すようにしてもよい。
【0048】
次に、図13を参照して、図12に示すサブ画素映像合成高精細化処理(ステップS904)の動作を説明する。画像サイズ、倍率、回転量及びシフト量は合成パラメータであり、合成パラメータ読み込み処理(ステップS903)において合成パラメータ記憶部702から読み出されるパラメータである。ここでは、4つの単位撮像部から1つの高精細画像を得る場合を仮定する。個々の単位撮像部にて撮像した4つの画像から、回転量とシフト量のパラメータを使用して1つの座標系に重ねる。そして、4つの画像と距離による重み係数によってフィルタ演算を行う。例えばフィルタはキュービック(3次近似)を使用する。距離dにある画素から取得する重みwは次式となる。
w=1−2×d2+d3 (0≦d<1)
=4−8×d+5×d2−d3 (1≦d<2)
=0 (2≦d)
【0049】
次に、図14を参照して、図12に示す判定部703が行う高精細判定処理(ステップS905)の詳細動作を説明する。まず、判定部703は、定義範囲の信号を抽出する(ステップS1001)。例えばフレーム単位の1画面を定義範囲とした場合は別途図示しないフレームメモリブロックを持ち、あらかじめ1画面分の信号を記憶する。例えばVGA解像度であれば、1画面分は640×480画素からなる2次元の情報である。この2次元情報に対して、判定部703は、フーリエ変換を実行して、時間軸の情報を周波数軸の情報に変換する(ステップS1002)。次に、HPF(High pass filter:高域通過濾過器)によって、高域信号を抽出する(ステップS1003)。例えば、撮像素子9が、アスペクト比が4:3、60fps(Frame Per Second)(プログレッシブ)のVGA信号(640画素×480画素)であり、映像合成処理部の出力であるビデオ出力信号がQuad−VGAである場合を仮定する。VGA信号の限界解像度が約8MHzであり、合成処理にて10MHz〜16MHzの信号を再生する場合を仮定する。この場合、HPFは例えば10MHz以上の成分を通過させる特性を持つ。判定部703は、この10MHz以上の信号を閾値と比較して判定を行う(ステップS1004)。閾値は、例えばフーリエ変換した結果のDC(直流)成分を1とした場合の10MHz以上のエネルギーの閾値を0.5と設定して、その閾値との比較とする。
【0050】
前述した説明においては、ある解像度の撮像結果の1フレーム分の画像を基準にフーリエ変換する場合を説明したが、定義範囲をライン単位(水平同期繰り返しの単位、ハイビジョン信号であれば、有効画素数1920画素単位)で定義すれば、フレームメモリブロックが不要となり、回路規模を小さくすることが可能となる。この場合、例えばハイビジョン信号であれば、例えばライン数の1080回、フーリエ変換を繰り返し実行して、ライン単位の1080回分の閾値比較判定を総合して、一画面の高精細度合いを判断してもよい。また、画面単位の閾値比較判定結果を数フレーム分使用して判断してもよい。このように、複数の判定結果をもとに総合判定することで、突発的なノイズの影響などを除去可能となる。また、閾値判定は、固定の閾値を使用してもよいが、閾値を適応的に変更してもよい。判断している画像の特徴を別途抽出して、その結果をもとに閾値を切り替えてもよい。例えば、ヒストグラム検出で画像の特徴を抽出してもよい。また、過去の判定結果と連動して現在の閾値を変更してもよい。
【0051】
次に、図15を参照して、図12に示すは制御部32〜37が実行する制御電圧変更処理(ステップS908)の詳細動作を説明する。ここでは、制御部33の処理動作を例として説明するが、制御部32、34〜37の処理動作も同様である。まず、電圧制御部801は、液晶レンズパラメータ記憶部802から現在の液晶レンズのパラメータ値を読み出す(ステップS1101)。そして、電圧制御部801は、液晶レンズのパラメータ値を更新する(ステップS1102)。液晶レンズパラメータには過去の履歴を持たせておき、例えば現在4つの電圧制御部33a、33b、33c、33dに対して、電圧制御部33aの電圧を過去の履歴で40V、45V、50Vと5V置きに上昇させている最中である場合、履歴と今回の高精細ではないという判断から、さらに電圧を上げるべきと判断し、電圧制御部33b、電圧制御部33c、電圧制御部33dの電圧値を保持しながら、電圧制御部33aの電圧を55Vに更新する。このように、順次4つの液晶レンズの電極304a、304b、304c、304dに与える電圧値を更新する。また、更新した値は、履歴として液晶レンズパラメータの値を更新する。
【0052】
以上の処理動作により、複数の単位撮像部2〜7の撮像画像をサブ画素単位で合成して、その高精細の程度を判定して、高精細性能を維持するように制御電圧を変更することで、高画質な撮像装置を実現することが可能となる。分割された電極304a、電極304b、電極304c、電極304dに異なる電圧を印加することで、撮像レンズ8〜13によって撮像素子上に結像した像を撮像素子の画素で標本化する際の、標本化位相を変化させる。その制御の理想的な状態は、各々の単位撮像部の撮像結果の標本化位相が、互いに画素サイズの1/2だけ、水平、垂直、斜め方向にシフトした状態である。理想的な状態であるかどうかの判断は、判定部703で判断する。
【0053】
次に、図16を参照して、カメラキャリブレーションの処理動作を説明する。この処理動作は、例えば撮像装置1の工場生産時に行う処理であり、撮像装置の電源投入時に複数の操作ボタンを同時に押すなどの特定の操作を行うことでこのカメラキャリブレーションを実行する。このカメラキャリブレーション処理は、CPU・P001によって実行される。まず、撮像装置1を調整する作業者が、パターンピッチが既知のチェッカーパターンや市松模様のテストチャートを用意して、姿勢やアングルを変えながらチェッカーパターンの30種類の姿勢で撮像して画像を取得する(ステップS1201)。続いて、CPU・P001はこの撮像画像を、単位撮像部2〜7毎に解析して、単位撮像部2〜7毎の外部パラメータ値、内部パラメータ値を導出する(ステップS1202)。例えばピンホールカメラモデルと呼ばれるような一般的なカメラのモデルであれば、外部パラメータ値はカメラの姿勢の3次元での回転情報と並進情報の6つが外部パラメータとなる。また同様に内部パラメータは5つである。このようなパラメータを導出することが、較正(キャリブレーション)である。一般的なカメラモデルでは、外部パラメータは、世界座標に対してカメラの姿勢を示すヨー、ピッチ、ロールの3軸ベクトルと、平行移動成分を示す並進ベクトルの3軸成分の、合計6つである。また、内部パラメータは、カメラの光軸が撮像素子と交わる画像中心(u0,v0)、撮像素子上で仮定した座標の角度とアスペクト比、焦点距離の5つである。
【0054】
次に、CPU・P001は、得られたパラメータを較正パラメータ記憶部603に記憶する(ステップS1203)。前述の通り、本パラメータを単位撮像部2〜7の補正処理(図12に示すステップS902)で使用することで、単位撮像部2〜7の個別のカメラ歪みが補正されることになる。すなわち、本来直線であったチェッカーパターンがカメラの歪みで曲線となって撮像される場合があるので、これを直線に戻すためのパラメータをこのカメラキャリブレーション処理によって導出して、単位撮像部2〜7の補正を行う。
【0055】
次に、CPU・P001は、単位撮像部2〜7間のパラメータを単位撮像部2〜7間の外部パラメータを導出して(ステップS1204)、合成パラメータ記憶部702、液晶レンズパラメータ記憶部802に記憶されているパラメータを更新する(ステップS1205、S1206)。この値は、サブ画素映像合成高精細化処理S904、及び制御電圧変更S908で使用される。
【0056】
なお、ここでは撮像装置内のCPUまたはマイコンにカメラキャリブレーションの機能を持たせた場合を示したが、例えば別途パソコンを用意して、このパソコン上で同様の処理を実行させて、得られたパラメータのみを撮像装置にダウンロードするような構成でもよい。
【0057】
次に図17を参照して、単位撮像部2〜7のカメラキャリブレーションの原理について説明する。ここでは、カメラによる投影の様子について図17に示すようなピンホールカメラモデルを用いて考える。ピンホールカメラモデルにおいて、画像平面に至る光は全てレンズの中心の1点であるピンホールを通過し、画像平面と交差した位置で像を結ぶ。光軸と画像平面との交点を原点とし、カメラの素子の配置軸に合わせてx軸とy軸をとる座標系を画像座標系と呼び、カメラのレンズ中心を原点、光軸をZ軸とし、x軸とy軸に平行にX軸とY軸をとる座標系をカメラ座標系と呼ぶ。ここで、空間を表す座標系であるワールド座標系(Xw,Yw,Zw)での3次元座標M=[X,Y,Z]Tと、その投影である画像座標系(x,y)上の点m=[u,v]Tとの間には、(1)式のように関連付けられる。
【0058】
【数1】
ここで、Aは内部パラメータ行列といい、次の(2)式のような行列である。
【0059】
【数2】
α,βは画素の大きさと焦点距離との積からなるスケール係数、(u0,v0)は画像中心、γは画像の座標軸の歪みを表すパラメータである。また、[R t]は外部パラメータ行列といい、3×3の回転行列Rと平行移動ベクトルtを並べた4×3行列である。
【0060】
Zhangのキャリブレーション手法では、既知のパターンが貼り付けられた平板を動かしながら画像を(3回以上)撮影するだけで、内部パラメータ、外部パラメータ、レンズ歪みパラメータを求めることができる。この手法では、キャリブレーション平面をワールド座標系のZw=0の平面としてキャリブレーションする。(1)式で示したキャリブレーション平面上の点Mと、その平面を撮影した画像上の対応する点mとの関係は、次の(3)式のように書き変えることができる。
【数3】
平面上の点と画像上の点との関係は3×3のホモグラフィ行列Hで、(4)式のように記述できる。
【0061】
【数4】
キャリブレーション平面の画像が1つ与えられると、ホモグラフィ行列Hが1つ得られる。このホモグラフィH=[h1 h2 h3]が得られると、(4)式より次の(5)式が得られる。
【0062】
【数5】
Rが回転行列なのでr1とr2は直交であることから、次に示す内部パラメータに関する2つの拘束式である(6)、(7)式が得られる。
【0063】
【数6】
【数7】
【0064】
A−TA−1は(8)式のように、3×3の対象行列で6つの未知数を含んでおり、1つのHにつき2つの式を立てることができるので、Hが3つ以上得られれば内部パラメータAを決定することができる。ここで、A−TA−1は対象性を持っていることから
【数8】
とするBの要素を並べたベクトルを
【数9】
と定義する。ホモグラフィHのi番目の列ベクトルをhi=[hi1 hi2 hi3]T,(i=1,2,3)とすると、hiTBhjは
【数10】
【数11】
【0065】
と表せる。
【0066】
これにより、(6)式と(7)式は次式のようになる。
【数12】
【0067】
もし、n枚の画像が得られていれば、n個の上記の式を積み重ねることで、
【数13】
を得る。ここで、Vは2n×6の行列である。これより、bはVTVの最小固有値に対応する固有ベクトルとして求められる。この場合、n≧3であれば直接bに関する解を得ることができるが、n=2の場合は内部パラメータ中のγ=0とすることで、式[0 1 0 0 0 0]b=0を(13)式に加えることで解を得る。また、n=1であれば2つの内部パラメータしか求めることができないため、例えばαとβのみを未知とし、残りの内部パラメータを既知とすることで解を得る。bを求めることでBが求まれば、B=μA−TAからカメラの内部パラメータは(14)式で計算される。
【数14】
【0068】
また、これより内部パラメータAが求まれば、外部パラメータに関しても(5)式より、
【数15】
として求めることができ、ここまでで得られたパラメータを初期値とする非線形最小二乗法によってパラメータを最適化することで、最適な外部パラメータを得ることができる。
【0069】
以上のように、全ての内部パラメータが未知の場合においては、異なる視点から内部パラメータを固定した状態で撮影した3枚以上の画像を用いることでカメラキャリブレーションを行うことができる。この時、一般的には画像枚数が多いほどパラメータ推定精度は高くなる。また、キャリブレーションに用いる画像間における回転が小さい場合に誤差が大きくなる。
【0070】
次に、図18、図19を参照して、カメラキャリブレーションで求められるカメラ(撮像装置)の位置・姿勢を表すカメラパラメータから、各画像で同じ領域が写っている領域を、サブ画素の精度で対応づける方法について説明する。図18は、基本となる撮像素子15(これを基本カメラと称する)とそれと隣り合う隣接の撮像素子16(これを隣接カメラと称する)にて対象物体面上の点Mを前述の液晶レンズを介して各撮像素子上の点m1またはm2へ投影(撮影)する場合を示している。また、図19は図18を、図17に示すピンホールカメラモデルを用いて図示したものである。ワールド座標系上の点Mと画像座標系上の点mの関係は、カメラの移動性等から、中心射影行列Pを用いて表すと(1)式より、
【数16】
と表せる。
【0071】
算出されたPを用いることで、三次元空間中の点と二次元画像平面上の点との対応関係が記述できる。図19に示す構成において、基本カメラの中心射影行列をP1とし、隣接カメラの中心射影行列をP2とする。画像平面1上の点m1から、その点と対応する画像平面2上の点m2を求めるために、以下の方法を用いる。
(1)(16)式よりm1から三次元空間中の点Mを求める。中心射影行列Pは、3×4の行列であるため、Pの疑似逆行列を用いて求める。
【数17】
(2)算出された三次元位置より、隣接カメラの中心射影行列P2を用いて、隣接画像の対応点m2を求める。
【数18】
【0072】
カメラパラメータPはアナログの値を持っているので、算出された基本画像と隣接画像の対応点m2は、サブ画素単位で求まる。カメラパラメータを用いる対応点マッチングには、既にカメラパラメータが求まっているため、行列計算だけで対応点を瞬時に算出できる利点がある。
【0073】
次に、レンズの歪みとカメラキャリブレーションについて説明する。ここまではレンズを1つの点と見なすピンホールモデルで説明したが、実際にはレンズには有限の大きさがあるため、ピンホールモデルでは説明できない場合がある。このような場合の歪みの補正について、以下に説明する。凸レンズを使用する場合、入射光が屈折することによる歪みが発生する。このような放射方向の歪みに対する補正係数をk1、k2、k5と置く。また、レンズと撮像素子が平行に配置されない場合は、接線方向の歪みを生じる。この法線方向の歪みに対する補正係数をk3、k4と置く。これらの歪みを歪曲収差と呼ぶ。ここで、歪み補正式は下記となる。
【0074】
【数19】
【数20】
【数21】
【0075】
ここで、(xu,yu)は歪曲収差のない理想的なレンズの撮像結果の画像座標であり、(xd、yd)は歪曲収差のあるレンズの画像座標である。この座標の座標系は、双方とも前述の画像座標系x軸、y軸である。また、rは画像中心から(xu,yu)までの距離である。画像中心は、前述の内部パラメータu0,v0で定まる。以上のモデルを仮定して、係数k1〜k5や内部パラメータをキャリブレーションによって導出すれば、歪の有無による結像座標の差が求まり、実物レンズに起因する歪みを補正することが可能となる。
【0076】
図20は、撮像装置1の撮像の様子を示す模式図である。撮像素子15と撮像レンズ9からなる単位撮像部3は、撮像範囲aを撮像する。撮像素子16と撮像レンズ10からなる単位撮像部4は、撮像範囲bを撮像する。2つの単位撮像部3、4にて略同一の撮像範囲を撮像する。例えば撮像素子15、16の配置間隔を12mm、単位撮像部3、4の焦点距離が5mm、撮像範囲までの距離が600mm、単位撮像部3、4の光軸が各々平行である場合、撮像範囲a,bの異なる範囲のエリアはおよそ3%程度である。このように、同一部を撮像して合成処理部38で高精細化処理を行う。
【0077】
次に、図21、図22を参照して、撮像装置1の高精細化について説明する。図21の横軸は、空間の広がりを示す。この空間の広がりとは、現実の空間である場合と、撮像素子上の仮想空間広がりと、双方を示すものである。これらは、外部パラメータ、内部パラメータを用いれば相互に変換、換算が可能であるので同義である。また、撮像素子から順次読み出された映像信号をみなした場合は、図21の横軸は時間軸となるが、この場合もディスプレイに表示された場合は観察者の目において空間の広がりと認識されるため、映像信号の時間軸である場合も空間の広がりと同義である。図21の縦軸は振幅、強度である。物体反射光の強度を撮像素子の画素で光電変換して電圧レベルとして出力することから、振幅とみなしてよい。
【0078】
図21(a)は、現実空間での物体の輪郭である。この輪郭、すなわち物体の反射光の強度を撮像素子の画素の広がりで積分するため、単位撮像部2〜7にて図21(b)のように取り込まれる。積分は、一例として、LPF(Low Pass Filter:低域通過フィルタ)を用いて行う。図21(b)中の矢印が、撮像素子の画素の広がりである。図21(c)は異なる単位撮像部2〜7で撮像した結果であり、図21(c)中の矢印の画素の広がりで光を積分する。図21(b)、(c)にあるように、撮像素子の解像度(画素のサイズ)で定まる広がり以下の反射光の輪郭(プロファイル)は、撮像素子では再現できない。
【0079】
しかし、本発明の特徴とするところは、図21(b)、(c)において双方の位相関係にオフセットを持つことである。このようなオフセットを持って光を取り込み、合成処理部で最適に合成することで、図21(d)に示す輪郭を再現することが可能となる。図21(a)〜(d)から明らかなように、図21(a)の輪郭をもっとも再現できているのは図21(d)であり、図21(d)中の矢印の幅に相当する撮像素子の画素のサイズの性能と等価である。本実施形態は液晶レンズに代表される非固体レンズと、撮像素子からなる単位撮像部を複数使用して、上述の平均化(LPFを用いた積分)による解像限界を超えるビデオ出力を得ることが可能となる。
【0080】
図22は、2つの単位撮像部の相対的な位相関係を示す模式図である。後段の画像処理で高精細化を行う場合、撮像素子によるサンプリング位相の相対関係は等間隔であることが望ましい。ここで、サンプリングとは、標本化と同義であり、離散的な位置におけるアナログ信号を取り出す処理を指す。図22は2つの単位撮像部を使用する場合を仮定しているので、その位相関係は(a)のように、0.5画素サイズの位相関係が理想である。しかし、撮像距離や、装置の組み立ての関係で、図22(b)や(c)のようになる場合がある。この場合、平均化されたあとの映像信号のみを用いて画像処理演算を行っても、すでに図22(b)、(c)のような位相関係で平均化されてしまった信号は復元不可能である。そこで図22(b)、(c)の位相関係を、(d)に示すものに制御することが必須となる。本発明では、この制御を図4に示した液晶レンズによる光軸シフトで実現する。以上の処理により、常に理想的な位相関係が保たれるので、観察者に最適な画像を提供可能となる。
【0081】
ここで、図22においては1次元の位相関係について説明した。例えば4つの単位撮像部を用いて、各々水平、垂直、斜め45度の各方向の1次元シフトをすることで、図22に示した動作で2次元空間の位相制御が可能となる。また、例えば2つの単位撮像部を用いて、基準のものに対して片側の単位撮像部を2次元(水平、垂直、水平+垂直)に位相制御することで、2次元の位相制御を実現してもよい。
【0082】
例えば、4つの単位撮像部を用いて概略同一の撮像対象(被写体)を撮像して、4つの画像を得る場合を仮定する。ある画像を基準として、個々の画像をフーリエ変換して周波数軸で特徴点を判断して、基準画像に対する回転量とシフト量を算出して、その回転量、シフト量を用いて内挿フィルタリング処理することで高精細画像を得ることが可能となる。例えば撮像素子の画素数がVGA(640×480画素)であれば、4つのVGAの単位撮像部によってQuad−VGA(1280×960画素)の高精細画像が得られる。前述の内挿フィルタリング処理は、例えばキュービック(3次近似)法を用いる。内挿点までの距離による重み付けの処理である。撮像素子の解像度限界はVGAであるが、撮像レンズはQuad−VGAの帯域を通過させる能力を持ち、VGA以上のQuad−VGAの帯域成分は折り返し歪み(エイリアシング)としてVGA解像度で撮像される。この折り返し歪みを使用して、映像合成処理でQuad−VGAの高帯域成分を復元する。
【0083】
図23は、撮像対象(被写体)と結像の関係を示す図である。この図においては、レンズひずみを無視したピンホールモデルがベースになっている。レンズひずみが小さい撮像装置はこのモデルで説明可能であり、幾何光学のみで説明可能である。図23(a)において、P1は撮像対象であり、撮像距離H離れている。ピンホールO、O’が2つの単位撮像部の撮像レンズに相当して、撮像素子M、Nの2つの単位撮像部で1つの像を撮像している模式図である。図23(b)は、撮像素子の画素にP1の像が結像する様子である。このように、画素と結像した像の位相が定まる。この位相は、互いの撮像素子の位置関係(基線長B)、焦点距離f、撮像距離Hで決まる。
【0084】
すなわち、撮像素子の取り付け精度によって設計値と異なる場合があり、また撮像距離によっても関係は変化する。この場合、ある組み合わせによっては図23(c)のように、互いの位相が一致してしまう場合が発生する。図23(b)の光強度分布イメージは、ある広がりに対する光の強度を模式的に示したものである。このような光の入力に対して、撮像素子では、画素の広がりの範囲で平均化する。図23(b)にあるように、2つの単位撮像部で異なる位相で取り込んだ場合は、同一の光強度分布が異なる位相で平均化されるため、後段の合成処理で高帯域成分(例えば撮像素子がVGA解像度であれば、VGA解像度以上の高帯域)が再現できる。2つの単位撮像部であるので、0.5画素の位相ずれが理想である。
【0085】
しかし、図23(c)のように位相が一致してしまうと、互いの撮像素子で取り込む情報が同じものとなり、高解像化は不可能となる。そこで、図23(C)にあるように、光軸シフトで位相を最適な状態に制御することで、高解像化を達成する。最適な状態とは、図14での処理で実現する。位相関係は、使用する単位撮像部の位相が等間隔が望ましい。本発明は光軸シフト機能を持つため、そのような最適な状態を外部からの電圧制御で達成可能となる。
【0086】
図24は、撮像装置1の動作を説明する模式図である。2つの単位撮像部からなる撮像装置で撮像している様子を図示したものである。各々の撮像素子は、説明の便宜上、画素単位に拡大して記載している。撮像素子の平面をu,vの2次元で定義していて、図24はu軸の断面に相当する。撮像対象P0、P1は同一撮像距離Hにある。P0の像が、各々u0、u’0に結像する。u0,u’0は各々の光軸を基準とした撮像素子上の距離であり、図24ではP0は撮像素子Mの光軸上にあるので、u0=0である。また、P1の各々の像の、光軸からの距離がu1,u’1である。ここで、P0,P1が撮像素子M,N上に結像する位置の、撮像素子M,Nの画素に対する相対的な位相がイメージシフトの性能を左右する。この関係は、撮像距離H、焦点距離f、撮像素子の光軸の間の距離である基線長Bによって定まる。
【0087】
図24では、互いの結像する位置、すなわちu0とu’0は画素のサイズの半分だけシフトしている。u0(=0)は撮像素子Mの画素の中心に位置している。対してu’0は撮像素子Nの画素の周辺に結像している。すなわち、画素サイズの半画素分ずれた関係となっている。u1とu’1も同様に半画素のサイズだけシフトしている。図24(b)は、各々撮像した画像の同一画像同士を演算することで、1つの画像を復元・生成する動作の模式図である。Puがu方向の画素サイズを、Pvがv方向の画素サイズを示す。図24(b)では、互いに画素の半分だけシフトしている関係となり、イメージシフトを実施して高精細画像を生成するための理想的な状態である。
【0088】
図25は、図24に対して、例えば取り付け誤差により撮像素子Nが設計よりも画素サイズの半分だけずれて取り付けられた場合の模式図である。この場合、u1とu’1の互いの関係は、各々の撮像素子の画素に対して同一の位相となる。図25(a)では、双方とも、画素に対して左側に寄った位置に結像している。u0(=0)とu’0の関係も同様である。よって図25(b)のように、互いの位相は略一致する。
【0089】
図26は、図25に対して、本発明の光軸シフトを動作させた場合の模式図である。図26(a)中の光軸シフトという右方向の移動がその動作のイメージである。このように、光軸シフト手段を用いてピンホールO’をずらすことで、撮像対象が結像する位置が撮像素子の画素に対して制御可能となる。図26(b)のように理想的な位相関係が達成可能となる。
【0090】
次に、図27参照して、撮像距離と光軸シフトの関係について説明する。図27は、撮像距離H0でP0を撮像している状態から、距離H1にある物体P1に被写体を切り替えた場合を説明する模式図である。図27において、P0,P1はそれぞれ撮像素子M上の光軸上であると仮定しているので、u0=0であり、またu1=0である。P0、P1が撮像素子Nに結像する際の、撮像素子Bの画素とP0,P1の像の関係に注目する。P0は、撮像素子Mの画素の中心に結像している。対して撮像素子Nでは、画素の周囲に結像している。よってP0を撮像していたときは最適な位相関係であったといえる。図27(b)は、被写体がP1の場合の互いの撮像素子の位相関係を示す模式図である。図27(b)にあるように被写体をP1に変更したあとは、互いの位相が略一致してしまう。
【0091】
そこで、図28(a)にあるように、被写体P1撮像時に光軸シフト手段で光軸を動かすことで、図28(b)に示すように理想的な位相関係に制御することが可能となり、よってイメージシフトによる高精細化が達成できる。ここで、撮像距離の情報を得る方法は、距離を測定する測距手段を別途持てばよい。または、本発明の撮像装置で距離を測定してもよい。複数のカメラ(単位撮像部)を用いて距離を測定する例が、測量などでは一般的である。その測距性能は、カメラ間の距離である基線長とカメラの焦点距離に比例して、測距物体までの距離に反比例する。
【0092】
本発明の撮像装置を例えば8眼構成、すなわち8個の単位撮像部からなる構成とする。測定距離、すなわち被写体までの距離が500mmの場合は、8眼カメラのうち互いの光軸間距離(基線長)の短い4つのカメラで撮像、イメージシフト処理に割り当て、残りの互いに基線長の長い4つのカメラで被写体までの距離を測定する。また、被写体までの距離が2000mmと遠い場合は、8眼を使用してイメージシフトの高解像処理を行い、測距は例えば撮像した画像の解像度を解析することでボケ量を判定して、距離を推定するような処理で行うような構成にしてもよい。前述の500mmの場合にも、例えばTOF(Time of Flight)のような他の測距手段を併用することで、測距の精度を向上させてもよい。
【0093】
次に、図29を参照して、奥行きと光軸シフトによるイメージシフトの効果について説明する。図29(a)は、奥行きΔrを考えたP1,P2を撮像している模式である。各々の光軸からの距離の差(u1−u2)は(22)式となる。
(u1−u2)=Δr×u1/H ・・・(22)
【0094】
ここで、u1−u2は、基線長B、撮像距離H、焦点距離fによって定まる値である。ここでは、これらの条件B,H,fを固定して定数とみなす。また、光軸シフト手段により、理想的な光軸関係としていると仮定する。Δrと画素の位置(撮像素子に結像する像の、光軸からの距離)との関係は、(23)式となる。
Δr=(u1−u2)×H/u1 ・・・(23)
【0095】
すなわち、Δrはu1に対して反比例の関係となる。また、図29(b)は、一例として画素サイズ6μm、撮像距離600mm、焦点距離5mmの場合を仮定して、奥行きによる影響が1画素の範囲内に収まる条件を導出したものである。奥行きによる影響が1画素の範囲内に収まる条件下では、イメージシフトの効果が十分であるので、例えば画角を狭めるなど、アプリケーションによって使い分ければ、奥行きによるイメージシフト性能劣化を回避することが可能となる。
【0096】
以上、説明したように、液晶レンズの光軸シフト制御により、個別の撮像装置で得られる映像信号を高精細な映像に合成することが可能となる。
【0097】
前述した説明においては、撮像素子へ入射する光の光軸を制御するために、液晶レンズを用いた例を説明したが、撮像素子へ入射する光の光軸を制御する光軸シフト制御は、液晶レンズなどの非固体レンズ以外の手段でも達成することが可能であるため、以下、他のの実施形態について説明する。
【0098】
初めに、図30を参照して、第2の実施形態を説明する。第2の実施形態における撮像装置は、複数の固体レンズと複数の撮像素子のそれぞれの間に屈折板を配置したものである。図30は、図2に示す単位撮像部3の液晶レンズ301に替えて、入射面と出射面が平行であるような屈折板3001を固体レンズ302と撮像素子15の間に配置し、圧電素子3002を用いたアクチュエータなどの傾斜手段で傾斜させることにより光軸を制御する構成を示す図である。図30中の「屈折板の傾斜による光軸シフト原理図」に示すように傾斜角度により屈折板3001による光軸シフト量が変化するため、撮像素子15に入射する位置が変わり、光軸シフトが可能となる。ただし、屈折板3001を傾斜することにより発生することによる光軸シフトの方向は1軸方向(図中ではY方向)のみであるため、X方向に光軸シフトするような屈折板を別に配置することにより、2軸方向の光軸シフトが可能となり、撮像素子面内の任意の方向に光軸シフトをすることが可能となる。
【0099】
次に、図31を参照して、第3の実施形態を説明する。第3の実施形態における撮像装置は、複数の可変頂角プリズムと複数固体レンズと複数の撮像素子を用いたものである。図31に示すように、可変頂角プリズム3101の頂角を圧電素子3102を用いたアクチュエータなどの手段により変化させることにより、入射光が偏向するため、固体レンズ302によって結像する撮像素子15上の位置が変わり、光軸をシフトすることが可能となる。ただしこの場合も光軸シフトの方向は図31に示す通り1軸方向(図中ではY方向)のみであるため、X方向に光軸シフトするような可変頂角プリズムを、別に配置することにより、任意の方向に光軸シフトすることが可能となる。
【0100】
次に、図32を参照して、第4の実施形態を説明する。第4の実施形態における撮像装置は、複数の固体レンズと複数の撮像撮像素子を用い、固体レンズの全体或いは1部分を、複数の圧電素子を用いたアクチュエータなどによる移動手段により光軸と略垂直方向に移動させるものである。図32においては、撮像レンズ3209は、3つの固体レンズ3201、3202、3203で構成されており、その1部分である固体レンズ3202を、X方向に移動可能な圧電素子を用いたアクチュエータ3204による移動手段と、Y方向に移動可能な圧電素子3205を用いたアクチュエータによる移動手段によって移動させる。図32中の「固体レンズの移動による光軸シフトの原理図」に示すように、撮像レンズ3209の1部である固体レンズ3202が移動することにより、入射光が偏向し、撮像レンズ3209によって結像する撮像素子15上の位置が変わり、光軸をシフトすることが可能となる。これをX、Y方向に行うことにより、光軸を撮像素子面上でXY方向に独立してシフトすることが可能となる。
【0101】
次に、図33を参照して、第5の実施形態を説明する。第5の実施形態における撮像装置は、複数の固体レンズと複数の撮像素子を用い、複数の撮像素子を、圧電素子を用いたアクチュエータなどによる移動手段により直接移動させるものである。この場合、光軸シフト量の制御は撮像レンズではなく、撮像素子15に対して行われることになる。図1に示す6系統の単位撮像部2〜7の撮像素子のそれぞれを、圧電素子を用いたアクチュエータなどによる移動手段により直接移動させる構成を図33に示す。図33に示すように、撮像素子15を、X方向に移動する圧電素子3302を用いたアクチュエータによる移動手段と、Y方向に移動する圧電素子3303を用いたアクチュエータによる移動手段により移動させることにより、撮像素子15上の結像位置が移動するため、XY方向に独立して光軸シフトを行うことが可能となる。
【0102】
なお、図30〜図33において、移動手段として圧電素子をアクチュエータとして用いているが、これに限定するものではなく、電磁力を用いたソレノイドアクチュエータ、モータとギア機構を用いたアクチュエータ、圧力を用いたアクチュエータなどの手段を用いることもできる。また制御手段も電圧制御に限定するものではない。光軸シフト方向についても、1軸方向、2軸方向について述べたが、これに限定するものではない。
【0103】
このように、液晶レンズ等の非固体レンズに替えて、他の手法による光軸シフト制御を行うようにしたため、光軸制御を実現する構成の自由度を増すことが可能となる。特に、携帯電話端末のように、軽薄短小が要求される筐体においては、レンズ径を大きくすることができなかったり、焦点距離を十分に確保できないような場合に、携帯電話端末を構成する部品のレイアウトに応じて適切な手法を用いることが可能となる。
【0104】
次に、図34を参照して、第6の実施形態を説明する。前述した第1の実施形態において、撮影距離と撮像素子の画素ピッチの対応関係で高解像度化できない撮影距離が存在するが、前述したように光軸シフトを行うことで高解像度化できることを示した。ここで、撮影距離と撮像素子の画素ピッチの対応関係で高解像度化できない撮影距離において、光軸シフトと同様に焦点シフトを行うことにより高解像度化できることを説明する。
【0105】
図34は、被写体が、撮像距離H0で点P0にある状態から、距離H1にある点P1にある状態に変化した場合を説明する模式図である。図34(a)に示すように、焦点距離がfの場合、点P0は、撮像素子Mの画素Mnの中心部分に結像し、撮像素子Nにおいては画素Nnの端の部分に結像するため、半画素分(図34に示すu’0)ずれて結像することになる。一方、点P1の場合は、焦点距離がfであると、結像位置が1画素分(図34に示すu’1)ずれるため、撮像素子Mと撮像素子Nの画素の位相が略一致し、図34(b)の上の図に示す状態になる。従って、互いの画素の位相が略一致し、高解像度できなくなる。
【0106】
そこで、図34(a)に示すように、ピンホールO’の焦点を撮像素子Nの方向にシフトする(焦点距離fを短くする)ことにより、図34(b)の上の図に示す状態から下の図に示す状態に変化させることができるため、撮像素子Mと撮像素子Nの画素が半画素分ずれて、最適な位相関係にすることができる。ただし、最適な位相関係になるまで、ピンホールO’の焦点距離fを短くすると撮像素子N上の像がボケてしまう場合が生じる。ピンホールO’の焦点距離fを短くする目的は、撮像素子Mと撮像素子Nの画素の位相が略一致している状態を回避することであるため、撮像素子N上の像がボケない範囲で動かせば良い。
【0107】
ピンホールO’を光軸方向に移動しても(焦点距離を短くしたり、長くしたりしても)被写体の像にボケが生じない範囲を図35を参照して説明する。ピンホールO’移動量(撮像素子に近づく方向)、前方被写界深度及び倍率の関係は、以下の通りである。
ピンホールO’移動量(焦点距離を短くする)<前方被写界深度/倍率・・・(24)
ピンホールO’移動量(焦点距離を長くする)<後方被写界深度/倍率・・・(25)
ここで、
前方被写界深度=許容錯乱円径×絞り値×撮像距離2/(焦点距離2+許容錯乱円径×絞り値×撮像距離)
後方被写界深度=許容錯乱円径×絞り値×撮像距離2/(焦点距離2−許容錯乱円径×絞り値×撮像距離)
倍率=撮像距離/像点距離≒撮像距離/焦点距離
被写界深度=前方被写界深度+後方被写界深度
である。
【0108】
例えば、焦点距離5mm、撮像距離600mm、許容錯乱円径0.006mm、絞り値2mmとすれば、
前方被写界深度=132.2(mm)
後方被写界深度=242.7(mm)
倍率=120
となる。従って、(24)、(25)式は、
ピンホールO’移動量(焦点距離を短くする)<1.1(mm)
ピンホールO’移動量(焦点距離を長くする)<2.0(mm)
となる。
この移動量の範囲内でピンホールO’の焦点距離を制御することにより、光軸シフトのときと同様に高解像度化が可能となる。
【0109】
焦点距離の変更(焦点シフト)は、図3に示す液晶レンズ301によって実現可能であり、第1の電極303、第2の電極304への電圧の掛け方によって液晶層306の屈折率分布を自由に変化させればよい。この場合、図3に示す電極304a、304b、304c、304dは同一電圧を掛ける。これにより、液晶レンズ301が凸レンズとして働き、図2に示す光学レンズ302の焦点距離を変化させることが可能となる。
【0110】
なお、図1に示す撮像装置1において、各撮像素子14〜19及び映像処理部26〜31より得られた複数の映像を映像合成処理部38により画像処理を行い、全体の画像を再構成することでフォーカス情報を検出し、各制御部32〜37を介して各液晶レンズアレイの各液晶レンズを駆動して、オートフォーカス機能を動作させるようにしてもよい。オートフォーカス機能と連動させて、液晶レンズ301を制御することにより、動く被写体の高解像度画像を撮像することが可能となる。
【0111】
次に、図36を参照して、第7の実施形態を説明する。前述した実施形態においては、全ての撮像素子は同一仕様のものを使用する構成であり、図1に示す撮像素子14〜19の画素ピッチは等しかった。そのため、図34(b)の上の図に示す状態になり、互いの画素の位相が略一致してしまう頻度が高くなり、高解像度化ができなくなる場合がある。第7の実施形態においては、図1に示す6つの撮像素子14〜19それぞれについて、画素ピッチが異なる撮像素子を使用する。
【0112】
図36において、実線の交点が撮像素子Mの画素、点線の交点が撮像素子Nの画素を表している。高精細化するために必要な画素Puvの値は、画素Puvの周囲に位置する(画素Mi,j、Ni,j)、(画素Mi,j+1、Ni,j+1)、(画素Mi+1,j、Ni+1,j)、(画素Mi+1,j+1、Ni+1,j+1)のそれぞれと画素Puvとの距離による重み係数によってフィルタ演算を行うことによって求めることができる。例えばフィルタとして、キュービック(3次近似)を使用するとすれば、距離dにある画素から取得する重みwは次式となる。
w=1−2×d2+d3 (0≦d<1)
=4−8×d+5×d2−d3 (1≦d<2)
=0 (2≦d)
【0113】
次に、第7の実施形態の変形例を説明する。前述した第7の実施形態では、6つの撮像素子のそれぞれについて画素ピッチが異なる撮像素子を用いるようにしたが、同じ画素ピッチの6つの撮像素子を用いて、光学的に結像倍率を変えることによって、撮像素子の画素ピッチを変えるようにしてもよい。すなわち、撮像素子Nと撮像素子Nの画素ピッチが同じ場合に、撮像素子Mの撮像レンズの倍率を変える(拡大または縮小)ことにより、撮像素子M上に形成された像が大きく、または小さくなり、互いの画素の位相が略一致してしまうことを回避することが可能となる。
【0114】
次に、図37を参照して、第7の実施形態の他の変形例を説明する。図37に示す撮像素子は、一方の撮像素子(撮像素子N)を他方の撮像素子(撮像素子M)に対して、所定の位置を支点(例えば、撮像素子の左上の隅)として光軸と平行の軸周りに回転させて固定し配置している。この場合も図36に示す場合と同様に、u軸、v軸方向の画素位置が異なるため、互いの画素ピッチの位相が一致することを回避することができる。例えば、一方の撮像素子(撮像素子N)をθだけ、撮像素子受光面内で回転する場合、撮像素子Nのう’軸方向の画素ピッチをpとすると、撮像素子Mのu軸方向(撮像素子Nのu’軸方向)の画素ピッチp’は次式となる。
p’=p/cosθ
【0115】
なお、撮像素子Nの受光面に垂直な軸(光軸)とu’軸でなす平面内で回転させて配置するようにしてもよい。
【0116】
このように、図1に示す6つの撮像素子14〜19それぞれの画素ピッチが異なるようにすることで、互いの画素の位相が略一致してしまうことを回避することができ、高解像度化ができなくなることを防止することができる。
【0117】
また、図36、37に示すように、撮像素子14〜19のそれぞれの画素ピッチが異なるように撮像装置を配置するとともに、前述した光軸の方向を制御する動作を組み合わせて高解像度化を図るようにしてもよい。このようにすることにより、高解像度の画像を容易に得ることが可能となる。
【0118】
以上説明したように、従来、撮像素子上でのクロストークにより画質劣化が生じ、高画質化が難しかったが、本発明の撮像装置によれば、撮像素子に入射する光の光軸を制御することによりクロストークが無くすことができ、高画質を得ることができる撮像装置を実現することができる。また、従来の撮像装置では、画像処理によって、撮像素子上の結像したイメージを取り込むため、撮像素子の解像度を必要とする撮像解像度より大きくする必要があるが、本発明の撮像装置では、液晶レンズの光軸方向のみでなく、撮像素子に入射する光の光軸を任意の位置に設定する制御を行うことができるため、撮像素子のサイズを小さくすることができる、軽薄短小が要求される携帯端末等にも搭載することが可能となる。
【図面の簡単な説明】
【0119】
【図1】本発明の第1の実施の形態による撮像装置の構成を示すブロック図である。
【図2】図1に示した第1の実施の形態による撮像装置の単位撮像部の詳細な構成図である。
【図3】液晶レンズの構成図である。
【図4】第1の実施の形態による撮像装置に使用した液晶レンズの機能を説明する模式図である。
【図5】第1の実施の形態による撮像装置の液晶レンズを説明する模式図である。
【図6】図1に示した第1の実施の形態による撮像装置の撮像素子を説明する模式図である。
【図7】撮像素子の詳細な模式図である。
【図8】図1に示す撮像装置1の全体構成を示すブロック図である。
【図9】第1の実施の形態による撮像装置の映像処理部の詳細なブロック図である。
【図10】第1の実施の形態による撮像装置の映像処理の映像合成処理部の詳細なブロック図である。
【図11】第1の実施の形態による撮像装置の映像処理の制御部の詳細なブロック図である。
【図12】制御部の動作の一例を説明するフローチャートである。
【図13】図12に示すサブ画素映像合成高精細化処理の動作を示す説明図である。
【図14】高精細判定の一例を説明するフローチャートである。
【図15】制御電圧変更処理の一例を説明するフローチャートである。
【図16】カメラキャリブレーションの一例を説明するフローチャートである。
【図17】単位撮像部のカメラキャリブレーションを説明する模式図である。
【図18】複数の単位撮像部のカメラキャリブレーションを説明する模式図である。
【図19】複数の単位撮像部のカメラキャリブレーションを説明する別の模式図である。
【図20】撮像装置1の撮像の様子を示す模式図である。
【図21】高精細なサブ画素について説明する模式図である。
【図22】高精細なサブ画素について説明する別の模式図である。
【図23】撮像対象(被写体)と結像の関係を示す説明図である。
【図24】撮像装置1の動作を説明する模式図である。
【図25】取り付け誤差により撮像素子がずれて取り付けられた場合の模式図である。
【図26】光軸シフト制御の動作を示す模式図である。
【図27】撮像距離と光軸シフトの関係を示す説明図である。
【図28】撮像距離と光軸シフトの関係を示す説明図である。
【図29】奥行きと光軸シフトによるイメージシフトの効果を示す説明図である。
【図30】第2の実施の形態による光軸シフト制御を行う構成を示す構成図である。
【図31】第3の実施の形態による光軸シフト制御を行う構成を示す構成図である。
【図32】第4の実施の形態による光軸シフト制御を行う構成を示す構成図である。
【図33】第5の実施の形態による光軸シフト制御を行う構成を示す構成図である。
【図34】第6の実施の形態による焦点シフト制御を行う構成を示す構成図である。
【図35】第6の実施の形態による焦点シフト制御を行う構成を示す構成図である。
【図36】第7の実施の形態による撮像素子の構成を示す構成図である。
【図37】第7の実施の形態の変形例による撮像素子の構成を示す構成図である。
【図38】従来の撮像装置の構成を示すブロック図である。
【図39】他の従来の撮像装置の構成を示すブロック図である。
【符号の説明】
【0120】
1 撮像装置
2〜7 単位撮像部
8〜13 撮像レンズ
14〜19 撮像素子
20〜25 光軸
26〜31 映像処理部
32〜37 制御部
38 映像合成処理部
【特許請求の範囲】
【請求項1】
複数の撮像素子と、
前記撮像素子のそれぞれに像を結像させる複数の固体レンズと、
前記撮像素子にそれぞれに入射する光の光軸の方向を制御する複数の光軸制御部と
を備えることを特徴とする撮像装置。
【請求項2】
前記光軸制御部は、屈折率分布を変化させることが可能な非固体レンズで構成され、前記非固体レンズの屈折率分布を変化させることにより、前記撮像素子に入射する光の光軸を偏向させることを特徴とする請求項1に記載の撮像装置。
【請求項3】
前記光軸制御部は、屈折板と該屈折板の傾斜角を変える傾斜角変更手段とから構成され、前記傾斜角変更手段によって、前記屈折板の傾斜角を変えることにより、前記撮像素子に入射する光の光軸を偏向させることを特徴とする請求項1に記載の撮像装置。
【請求項4】
前記光軸制御部は、可変頂角プリズムから構成され、前記可変頂角プリズムの頂角を変えることにより、前記撮像素子に入射する光の光軸を偏向させることを特徴とする請求項1に記載の撮像装置。
【請求項5】
前記光軸制御部は、前記固体レンズを移動させる移動手段で構成され、前記固体レンズを移動させることにより、前記撮像素子に入射する光の光軸を偏向させることを特徴とする請求項1に記載の撮像装置。
【請求項6】
前記光軸制御部は、前記撮像素子を移動させる移動手段で構成され、前記撮像素子を移動させることにより、前記撮像素子に入射する光の光軸を制御することを特徴とする請求項1に記載の撮像装置。
【請求項7】
前記光軸制御部は、既知の撮像対象との相対位置関係に基づいて前記光軸の方向を制御することを特徴とする請求項1に記載の撮像装置。
【請求項8】
前記複数の撮像素子のそれぞれは、画素のピッチが異なることを特徴とする請求項1に記載の撮像装置。
【請求項9】
前記複数の固体レンズのそれぞれは、焦点距離が異なることを特徴とする請求項1に記載の撮像装置。
【請求項10】
前記複数の撮像装置は、光軸周りにそれぞれ異なる角度で回転させて配置したことを特徴とする請求項1に記載の撮像装置。
【請求項11】
複数の撮像素子と、
前記撮像素子のそれぞれに像を結像させる複数の固体レンズと、
屈折率分布を変化させることが可能な非固体レンズで構成され、前記非固体レンズの屈折率分布を変化させることにより、前記固体レンズの焦点距離を変更する焦点制御部と
を備えることを特徴とする撮像装置。
【請求項12】
複数の撮像素子と、
前記撮像素子のそれぞれに像を結像させる複数の固体レンズと、
前記撮像素子にそれぞれに入射する光の光軸の方向を制御する複数の光軸制御部と
を備える撮像装置における光軸制御方法であって、
前記光軸制御部が、既知の撮像対象と前記光軸制御部との相対位置関係に基づいて前記光軸の方向を制御することを特徴とする光軸制御方法。
【請求項13】
複数の撮像素子と、
前記撮像素子のそれぞれに像を結像させる複数の固体レンズと、
屈折率分布を変化させることが可能な非固体レンズで構成され、前記非固体レンズの屈折率分布を変化させることにより、前記固体レンズの焦点距離を変更する焦点制御部と
を備える撮像装置における光軸制御方法であって、
前記焦点制御部が、既知の撮像対象と前記撮像素子との相対位置関係に基づいて前記固体レンズの焦点距離を制御することを特徴とする光軸制御方法。
【請求項1】
複数の撮像素子と、
前記撮像素子のそれぞれに像を結像させる複数の固体レンズと、
前記撮像素子にそれぞれに入射する光の光軸の方向を制御する複数の光軸制御部と
を備えることを特徴とする撮像装置。
【請求項2】
前記光軸制御部は、屈折率分布を変化させることが可能な非固体レンズで構成され、前記非固体レンズの屈折率分布を変化させることにより、前記撮像素子に入射する光の光軸を偏向させることを特徴とする請求項1に記載の撮像装置。
【請求項3】
前記光軸制御部は、屈折板と該屈折板の傾斜角を変える傾斜角変更手段とから構成され、前記傾斜角変更手段によって、前記屈折板の傾斜角を変えることにより、前記撮像素子に入射する光の光軸を偏向させることを特徴とする請求項1に記載の撮像装置。
【請求項4】
前記光軸制御部は、可変頂角プリズムから構成され、前記可変頂角プリズムの頂角を変えることにより、前記撮像素子に入射する光の光軸を偏向させることを特徴とする請求項1に記載の撮像装置。
【請求項5】
前記光軸制御部は、前記固体レンズを移動させる移動手段で構成され、前記固体レンズを移動させることにより、前記撮像素子に入射する光の光軸を偏向させることを特徴とする請求項1に記載の撮像装置。
【請求項6】
前記光軸制御部は、前記撮像素子を移動させる移動手段で構成され、前記撮像素子を移動させることにより、前記撮像素子に入射する光の光軸を制御することを特徴とする請求項1に記載の撮像装置。
【請求項7】
前記光軸制御部は、既知の撮像対象との相対位置関係に基づいて前記光軸の方向を制御することを特徴とする請求項1に記載の撮像装置。
【請求項8】
前記複数の撮像素子のそれぞれは、画素のピッチが異なることを特徴とする請求項1に記載の撮像装置。
【請求項9】
前記複数の固体レンズのそれぞれは、焦点距離が異なることを特徴とする請求項1に記載の撮像装置。
【請求項10】
前記複数の撮像装置は、光軸周りにそれぞれ異なる角度で回転させて配置したことを特徴とする請求項1に記載の撮像装置。
【請求項11】
複数の撮像素子と、
前記撮像素子のそれぞれに像を結像させる複数の固体レンズと、
屈折率分布を変化させることが可能な非固体レンズで構成され、前記非固体レンズの屈折率分布を変化させることにより、前記固体レンズの焦点距離を変更する焦点制御部と
を備えることを特徴とする撮像装置。
【請求項12】
複数の撮像素子と、
前記撮像素子のそれぞれに像を結像させる複数の固体レンズと、
前記撮像素子にそれぞれに入射する光の光軸の方向を制御する複数の光軸制御部と
を備える撮像装置における光軸制御方法であって、
前記光軸制御部が、既知の撮像対象と前記光軸制御部との相対位置関係に基づいて前記光軸の方向を制御することを特徴とする光軸制御方法。
【請求項13】
複数の撮像素子と、
前記撮像素子のそれぞれに像を結像させる複数の固体レンズと、
屈折率分布を変化させることが可能な非固体レンズで構成され、前記非固体レンズの屈折率分布を変化させることにより、前記固体レンズの焦点距離を変更する焦点制御部と
を備える撮像装置における光軸制御方法であって、
前記焦点制御部が、既知の撮像対象と前記撮像素子との相対位置関係に基づいて前記固体レンズの焦点距離を制御することを特徴とする光軸制御方法。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【図18】
【図19】
【図20】
【図21】
【図22】
【図23】
【図24】
【図25】
【図26】
【図27】
【図28】
【図29】
【図30】
【図31】
【図32】
【図33】
【図34】
【図35】
【図36】
【図37】
【図38】
【図39】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【図18】
【図19】
【図20】
【図21】
【図22】
【図23】
【図24】
【図25】
【図26】
【図27】
【図28】
【図29】
【図30】
【図31】
【図32】
【図33】
【図34】
【図35】
【図36】
【図37】
【図38】
【図39】
【公開番号】特開2009−188973(P2009−188973A)
【公開日】平成21年8月20日(2009.8.20)
【国際特許分類】
【出願番号】特願2008−180689(P2008−180689)
【出願日】平成20年7月10日(2008.7.10)
【出願人】(000005049)シャープ株式会社 (33,933)
【Fターム(参考)】
【公開日】平成21年8月20日(2009.8.20)
【国際特許分類】
【出願日】平成20年7月10日(2008.7.10)
【出願人】(000005049)シャープ株式会社 (33,933)
【Fターム(参考)】
[ Back to top ]