説明

3次元撮像装置

【課題】カメラ自体を動かす仕組みが不要で、複数の組の複数視点画像を得ることができる撮像技術を提供する。
【解決手段】本発明の撮像装置は、結像レンズ3と、2つの偏光子を有する光透過部2と、光透過部2を回転させる回転駆動部2Aと、固体撮像素子1とを備える。固体撮像素子1は、複数の画素と、画素に対応する偏光フィルタを有している。第1の画素群W1に対応して第1の偏光フィルタ50aが配置され、第2の画素群W2に対応して第2の偏光フィルタ50bが配置されている。光透過部2における偏光領域P(1)、P(2)の透過軸の方向は互いに角度αだけ異なっている。また、偏光フィルタ50a、50bの透過軸の方向は互いに角度βだけ異なっている。回転駆動部2Aは、入射光の光軸の方向を回転軸の方向として透光板2を回転させることができる。これにより、複数の組の複数視点画像を得ることができる。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は1つの光学系と1つの撮像素子を用いて視差を有する複数の画像を取得する単眼の3次元撮像技術に関する。
【背景技術】
【0002】
近年、CCDやCMOS等の撮像素子を用いたデジタルカメラやデジタルムービーの高機能化、高性能化には目を見張るものがある。特に半導体製造技術の進歩により、高度な微細化が進み、高集積化が図られている。撮像素子としても100万画素から1000万画素へと多画素化が進み、撮像した画像も飛躍的に高画質化が図られている。また、表示装置も薄型の液晶やプラズマのディスプレイにより、場所を取らず、高解像度でコントラストの高い性能が実現されている。このような映像の高品質化の流れは、対象画像として2次元画像から3次元画像へと進みつつあり、昨今では偏光メガネを必要とするが、高画質の3次元表示装置が開発され始めている。
【0003】
3次元撮像技術に関して、単純な構成の代表的なものは、2つのカメラから構成される撮像系を用いて、右目用の画像及び左目用の画像それぞれを撮像するというものである。このような所謂2眼撮像方式の技術はカメラを2つ使うため、撮像装置の大型化やコスト高にもなり得る。そこで1つのカメラを利用する方法が研究されている。例えば、特許文献1では、互いに偏光方向が直交する偏光板2枚と回転する偏光フィルタを用いた方式が紹介されている。図10に当該方式における撮像系の構成を示す。
【0004】
図10において、11は0度偏光の偏光板、12は90度偏光の偏光板、13は反射鏡、14は偏光板12を透過した光と偏光板11を通して反射鏡13で反射された光を透過及び反射させるハーフミラー、15は円形の偏光フィルタ、16は円形の偏光フィルタを回転させる駆動装置、3は光学レンズ、9は光学レンズにより結像された像を撮像する撮像装置である。
【0005】
以上の構成で、入射光は異なった場所に配置された偏光板11と12を通り、その後、反射鏡とハーフミラーによりそれらの光軸を合わせられ、円形の偏光フィルタと光学レンズを通して1つの撮像装置で撮像される。この方式の撮像原理は、円形の偏光フィルタを回転することにより、2枚の偏光板に入射した光を別々のタイミングで捉え、視差を有する2つの画像を撮像するというものである。
【0006】
しかしながら、上記方式では円形の偏光フィルタを回転しながら、時間分割で異なる位置の画像を撮像するため、同時に視差を有する画像を撮れないという課題や機械的駆動を用いるため、耐久性に問題があり得る。その上、全入射光を偏光板及び偏光フィルタで受けるため、受光量が50%以上低下するという課題もある。
【0007】
上記方式に対して、機械的駆動を用いず視差を有する画像を同時に撮像する方式が特許文献2に紹介されている。この特許文献の方式では、2つの入射領域を作りそれらの領域から入射する光を集光し1つの撮像素子で撮像しているが、機械的駆動部は有していない。図11にこの方式の撮像系の構成を示し、以下に撮像原理を説明する。図11において、互いに偏光方向が直交する偏光板11と12、反射鏡13、光学レンズ3、撮像素子1が配置され、10は撮像素子の画素、17、18は撮像素子の画素に1対1で配置されている偏光フィルタで、偏光フィルタ17は偏光板11と、また偏光フィルタ18は偏光板12と同特性である。偏光フィルタ17、18は交互に配列され全画素上に配置されている。
【0008】
以上の構成で、入射光は偏光板11、12を透過し、反射鏡13、光学レンズ3を通り、撮像素子1上で結像する。結像の光電変換に関して、偏光板11を透過して入射した光は偏光フィルタ17を通してその直下の画素で光電変換され、偏光板12を透過して入射した光は偏光フィルタ18を通してその直下の画素で光電変換される。ここで、偏光板11からの入射光の画像を右目用画像、偏光板12からの入射光の画像を左目用画像とすると、偏光フィルタ17を通してその直下の画素群から得られる画像が右目用画像で、偏光フィルタ18を通してその直下の画素群から得られる画像が左目用画像となる。
【0009】
結局、特許文献2で示された方式は、特許文献1で示された回転する円形の偏光フィルタを用いる代わりに、撮像素子の画素上に特性の異なる偏光フィルタを交互に配置することにより、解像度は1/2になるが、右目用画像と左目用画像が同時に得られるというものである。
【0010】
しかしながら、上記の技術は、1つの撮像素子で視差を有する2つの画像を得ることができるが、入射光は偏光板を透過するため光量が低下し、さらに偏光フィルタを透過する場合も光量が低下するため、画像としては大きく感度が低下することになる。
【0011】
画像の感度低下の問題に対して、別なアプローチとして、視差を有する2つの画像の撮像と通常の画像撮像を機械的に切り替える手法が特許文献3に示されている。当該手法における撮像系の構成を図12に示し、その撮像基本原理を説明する。図12において、19は2つの偏光透過部20、21を有し、それらの透過部を通してのみ光学レンズ3からの入射光を透過させる光通過部、22は偏光透過部20及び21からの光を分離する特定成分透過フィルタ23とカラーフィルタ24とが1組になった受光部光学フィルタトレイ、25は光通過部19と特定成分透過フィルタ23を光路上から外しカラーフィルタ24を光路に挿入する、あるいはその逆の動作を行うフィルタ駆動部である。
【0012】
この手法では、フィルタ駆動部を動作させ、視差を有する画像の撮像では光通過部と特定成分透過フィルタを用い、通常の撮影では、カラーフィルタを用いる。視差を有する画像の撮像においては、基本的に特許文献2で示されているものと同じであり、画像としては大きく感度が低下するが、通常の撮影では、光通過部を光路から外し、また特定成分透過フィルタの代わりにカラーフィルタを挿入することにより、感度低下のないカラー画像を得ることができる。
【先行技術文献】
【特許文献】
【0013】
【特許文献1】特開昭62−291292号公報
【特許文献2】特開昭62−217790号公報
【特許文献3】特開2001-016611号公報
【発明の概要】
【発明が解決しようとする課題】
【0014】
結局、従来技術では、単眼カメラで視差を有する2つの画像を撮像できるが、各画像の感度が低くなる。また、被写体の奥行き情報の高精度化を目的として、同一被写体に対してさらに多くの視差情報を得るためには、カメラを移動させて撮像するか、あるいはカメラ自体を回転させて撮像する必要があり、いずれにしてもカメラ自体を動かす仕組みが必要である。
【0015】
本発明は上記の課題に鑑み、カメラ自体を動かす仕組みが不要で、かつ視差を有する2つの画像から得られる視差情報よりも多くの視差情報を得ることができる撮像技術を提供することを目的とする。なお、以下の説明において、視差を有する複数の画像を「複数視点画像」(multi-viewpoint images)と呼ぶ。
【課題を解決するための手段】
【0016】
本発明の3次元撮像装置は、少なくとも2つの偏光子を有する光透過部と、前記光透過部を透過した光を受ける固体撮像素子と、前記固体撮像素子の撮像面に像を形成する結像部と、入射光の光軸の方向を回転軸の方向として前記光透過部を回転させる回転駆動部とを備える。前記光透過部は、第1の偏光子と、前記第1の偏光子の透過軸に対してα(0°<α≦90°)の角度をなす透過軸を有する第2の偏光子とを有している。前記固体撮像素子は、各々が第1の画素および第2の画素を含む複数の画素ブロックと、各画素ブロックにおいて、前記第1の画素に対向して配置された第1偏光フィルタと、各画素ブロックにおいて、前記第2の画素に対向して配置され、前記第1偏光フィルタの透過軸に対してβ(0°<β≦90°)の角度をなす透過軸を有する第2偏光フィルタと、
を有している。前記第1偏光フィルタは、前記第1の偏光子を透過した光、および前記第2の偏光子を透過した光を受けるように配置され、前記第2偏光フィルタは、前記第1の偏光子を透過した光、および前記第2の偏光子を透過した光を受けるように配置されている。
【0017】
好ましい実施形態において、前記光透過部は、入射光を偏光方向によらずに透過させる透明領域を有し、各画素ブロックは、第3の画素を含み、前記第3の画素は、前記第1の偏光子を透過した光、前記第2の偏光子を透過した光、および前記透明領域を透過した光を受け、受けた光に応じた光電変換信号を出力する。
【0018】
好ましい実施形態において、前記第1偏光子、前記第2偏光子、前記第1偏光フィルタ、および前記第2偏光フィルタに非偏光が入射するときの透過率をT1とし、前記第1偏光フィルタの透過軸の向きに振動する偏光が前記第1偏光フィルタに入射するときの透過率、および前記第2偏光フィルタの透過軸の向きに振動する偏光が前記第2偏光フィルタに入射するときの透過率をT2とし、前記第1偏光フィルタの透過軸の向きに対して前記第1の偏光子の透過軸の向きがなす角度をφとするとき、行列式
【0019】
【数1】

【0020】
の値が0にならないように前記光透過部の回転角が設定される。
【0021】
好ましい実施形態において、
【0022】
【数2】

【0023】
の関係を満足し、φは、
0≦φ<π/2−α、π/2+β<φ<3π/2−α、3π/2+β<φ<2π
のいずれかの範囲に設定される。
【0024】
好ましい実施形態において、80°≦α≦90°が満足されている。
【0025】
好ましい実施形態において、各画素ブロックは、第4の画素をさらに含み、前記固体撮像素子は、各画素ブロックに含まれる前記第3の画素に対向して配置された第1の色成分の光を透過させる第1の色フィルタと、各画素ブロックに含まれる前記第4の画素に対向して配置された第2の色成分の光を透過させる第2の色フィルタとを有している。
【0026】
好ましい実施形態において、各画素ブロックにおいて、前記第1の画素、前記第2の画素、前記第3の画素、および前記第4の画素は、行列状に配置されており、前記第1の画素は1行1列目に配置され、前記第2の画素は2行2列目に配置され、前記第3の画素は1行2列目に配置され、前記第4の画素は2行1列目に配置されている。
【0027】
好ましい実施形態において、前記第1の色フィルタおよび前記第2の色フィルタの一方は、黄成分の光を透過させ、前記第1の色フィルタおよび前記第2の色フィルタの他方は、シアン成分の光を透過させる。
【0028】
好ましい実施形態において、前記第1偏光フィルタの透過軸の向きに対して前記第1の偏光子の透過軸の向きがなす角度をφとするとき、φ=φ1(0°≦φ1<360°)となる第1の状態、およびφ=φ1+180°となる第2の状態のそれぞれにおいて撮像を行う。
【0029】
好ましい実施形態において、画像処理部をさらに備え、前記画像処理部は、前記第1の画素および前記第2の画素から出力される光電変換信号を用いて視差を有する2つの画像の差分を示す画像を形成する。
【0030】
本発明の画像形成方法は、本発明の3次元撮像装置に用いられ、前記第1の画素から第1の光電変換信号を取得するステップと、前記第2の画素から第2の光電変換信号を取得するステップと、前記第1の光電変換信号および前記第2の光電変換信号に基づいて視差を有する2つの画像の差分を示す画像を形成するステップとを含んでいる。
【発明の効果】
【0031】
本発明の3次元撮像装置によれば、光の入射領域に関して少なくとも2つの偏光領域を有し、また撮像素子は偏光フィルタが配置された少なくとも2種類の画素群を有している。このため、2つの入射領域からの画像を2種類の画素群で撮像することになる。このことは、異なる入射光情報を特性の異なるセンサで捉えることと同じであり、2つの入力に対する2つの出力の関係を特定の数式で表すことができる。このため、逆に2つの入力情報を2つの出力結果から算出することが可能となる。すなわち、2つの偏光領域からの画像情報を得た上でそれらの差分処理を施すことにより、複数視点画像間の差分情報を得ることができる。さらに本発明の3次元撮像装置は、光の入射領域を回転させる回転駆動部を有するため、偏光領域の場所を変えて撮像できる。その結果、視点を変えた被写体の奥行き情報が得られるという効果がある。このことは被写体の奥行き情報の高精度化を可能にする。
【図面の簡単な説明】
【0032】
【図1】本発明の第1の実施形態における撮像装置の全体構成図
【図2】本発明の第1の実施形態における固体撮像素子に光が入射する様子を示す模式図
【図3】本発明の第1の実施形態における透光板の正面図
【図4】本発明の第1の実施形態における固体撮像素子の撮像部の基本画素構成図
【図5】本発明の第1の実施形態における回転角φと|D|の関係図
【図6】本発明の第2の実施形態における固体撮像素子の撮像部の基本色構成図
【図7】本発明の第2の実施形態における回転角φと|D|の関係図
【図8】本発明の第1の実施形態における他の固体撮像素子の基本画素構成図
【図9】本発明の第1の実施形態における他の透光板の正面図
【図10】特許文献1における撮像系の構成図
【図11】特許文献2における撮像系の構成図
【図12】特許文献3における撮像系の構成図
【発明を実施するための形態】
【0033】
以下、本発明の実施の形態について、図面を参照しながら説明する。全ての図にわたって共通する要素には同一の符号を付している。
【0034】
(実施形態1)
図1は、本発明の第1の実施形態における撮像装置の構成図である。1は光電変換する固体撮像素子、2は一部に偏光領域を有する透光板、2Aは光軸の方向を回転軸の方向として透光板2を回転させる回転駆動部、3は入射光を結像するための円形の光学レンズ、4は赤外カットフィルタ、5は固体撮像素子の駆動に使う原信号を発生させると共に固体撮像素子からの信号を受信する信号発生及び画像信号受信部、6は固体撮像素子を駆動するための信号を作り出す素子駆動部、7は画像信号を処理して複数視点画像、複数視点画像の差分を示す画像(差分画像)、および視差が無く感度上問題のない画像(通常画像)とを生成する画像処理部、8は生成した複数視点画像、差分画像、および通常画像の画像信号を外部に送出する画像インターフェース部である。なお、以下の説明において、複数視点画像および差分画像をまとめて「視差を示す画像」と呼ぶことがある。
【0035】
透光板2は、2つの偏光子が配置された偏光領域と、光を偏光方向によらず透過させる透明領域とを有している。固体撮像素子1(以下、「撮像素子」と呼ぶことがある)は、典型的にはCCDまたはCMOSセンサであり、公知の半導体技術によって製造される。固体撮像素子1の撮像面には、複数の画素(光感知セル)が2次元状に配列されている。各画素は、典型的にはフォトダイオードであり、光電変換によって入射光量に応じた電気信号(光電変換信号)を出力する。画像処理部7は、画像処理に用いる各種情報を記憶するメモリと、メモリから読み出したデータに基づいて画素ごとの画像信号を生成する画像信号生成部とを有している。
【0036】
このような構成により、入射光は透光板2、光学レンズ3、赤外カットフィルタ4を通して固体撮像素子1の撮像面に結像され、固体撮像素子1で光電変換される。光電変換によって生成した画像信号は画像信号受信部5を通して画像処理部7に送られ、ここで複数視点画像、差分画像、および視差が無く感度上問題のない通常画像が生成される。なお、回転駆動部2Aにより透光板2を回転させることによって、透光板2における2つの偏光領域はその位置を変えることができる。また、回転駆動部2Aは信号発生及び画像信号受信部5からの指令信号を素子駆動部6を介して受信することによって動作する。
【0037】
図2は、入射光が透光板2および光学レンズ3を透過して固体撮像素子1の撮像面に入射する様子を模式的に表している。図2において、透光板2、光学レンズ3、固体撮像素子1、回転駆動部2A以外の構成要素は省略されている。また、固体撮像素子1については撮像面の一部のみを図示している。図示されるように、透光板2は、偏光領域P(1)、P(2)および透明領域P(3)を有している。ここで、偏光領域P(1)、P(2)の透過軸の向きは互いに異なっている。また、固体撮像素子1の撮像面に配列された複数の画素は、3画素を1つの単位とする複数の画素ブロックを構成している。1つの画素ブロックに含まれる3つの画素をW1、W2、W3と呼ぶこととする。本実施形態において、画素W1、W2に対向して、偏光フィルタ50a、50bがそれぞれ配置されている。偏光フィルタ50a、50bの透過軸の向きは互いに異なっている。画素W3には対応する偏光フィルタは配置されていない。
【0038】
なお、図示される各構成要素の配置関係はあくまでも一例であって、本発明はこの配置関係に限られるものではない。例えば、光学レンズ3は、撮像面に像を形成できれば透光板2よりも撮像素子1から離れて配置されていてもよいし、複数配置されていてもよい。また、光学レンズ3と透光板2とは独立の構成要素である必要はなく、両者は一体化された1つの光学素子として構成されていてもよい。また、図2において、画素W1、W2、W3は、透光板2の偏光領域P(1)およびP(2)を結ぶ線分に平行な方向(X方向)に沿って順番に配列されているように描かれているが、必ずしもそのように配列されている必要はない。なお、撮像素子1の撮像面には、図2の紙面に垂直な方向(Y方向)にも複数の画素が配列されている。
【0039】
以下、透光板2の構成、および固体撮像素子1の画素構成についてより詳細に説明する。以下の説明において、図2と共通の座標系を用いる。
【0040】
図3は、本実施形態における透光板2の正面図である。透光板2の形状は光学レンズ3と同じ円形である。透光板2において、透過軸の方向が異なる2個の偏光領域P(1)、P(2)がX方向に離れて配置されている。透光板2においてP(1)、P(2)以外の領域は透明領域P(3)である。透光板2が回転していない状態において偏光領域P(1)の透過軸の方向は、X方向と一致している。偏光領域P(2)の透過軸の方向は、偏光領域P(1)の透過軸の方向に対して角度α(0°<α≦90°)だけ傾いている。
【0041】
本実施形態の撮像装置は、回転駆動部2Aによって透光板2を回転させることができる。透光板2の回転角がθ(0°≦θ<360°)であるとき、偏光領域P(1)の透過軸の方向がX方向に対してなす角度はθとなり、偏光領域P(2)の透過軸の方向がX方向に対してなす角度はθ+αとなる。なお、図3では透光板2の形状は円形であるが、必ずしも円形である必要はない。また、偏光領域P(1)、P(2)の形状については必ずしも長方形である必要はなく、どのような形状であってもよい。ただし、偏光領域P(1)、P(2)の面積および形状は互いに同一であることが好ましい。
【0042】
図4は、撮像素子1の撮像面における1つの画素ブロックを示している。3行1列を基本構成とする複数の画素が撮像面上に配列されている。上述のように、画素の基本構成は、偏光方向が互いに異なる2つの偏光フィルタ50a、50bがそれぞれ配置された画素W1、W2、および何も配置されない画素W3を含んでいる。1つの画素ブロックにおいて、W1、W2、W3は、Y軸に沿って配置されている。偏光フィルタの透過軸の方向について、1行1列目の偏光フィルタ50aの透過軸はX方向に対して角度γ(0°≦γ≦90°)傾き、2行1列目の偏光フィルタ50bの透過軸はX方向に対して角度γ+β(0°<β≦90°)傾いている。
【0043】
以上の構成により、撮像面上の各画素は偏光領域P(1)、P(2)、および透明領域P(3)を透過し光学レンズ3によって集光された光を受ける。以下、各画素における光電変換信号について説明する。
【0044】
まず偏光フィルタが配置されていない画素W3の光電変換信号について説明する。画素W3は、透光板2、光学レンズ3、赤外カットフィルタ4を通して入射する光を受け、受けた光に応じた光電変換信号を出力する。ここで、入射光が透光板2の偏光領域P(1)、P(2)を通過する際の透過率をT1とする。偏光領域P(1)、P(2)と透明領域P(3)に入射する光が減光されず撮像素子1によって光電変換されると仮定した場合の信号量を、添え字sを付けて、それぞれPs(1)、Ps(2)、Ps(3)と表現すると、画素W3における光電変換信号S3は次の式1で表される。
【0045】
(式1)S3=T1(Ps(1)+Ps(2))+Ps(3)
次に、偏光フィルタが配置された画素W1およびW2の光電変換信号について説明する。画素W1、W2に対向して偏光フィルタ50a、50bがそれぞれ配置されているため、基本的に画素W1、W2に入射する光の量は画素W3に入射する光の量よりも少ない。ここで、非偏光が偏光フィルタ50aまたは50bを透過する際の透過率を、偏光領域P(1)、P(2)における透過率と同様、T1とする。また、各偏光フィルタの透過軸の方向と同一の方向に振動する偏光が当該偏光フィルタを透過する際の透過率をT2とする。回転駆動部2Aによって透光板2が角度θだけ回転しているとき、画素W1及びW2における光電変換量に相当する信号S1、S2は、それぞれ以下の式2、3で表される。
【0046】
(式2)S1=T1(T2(Ps(1)|cos(θ−γ)|+Ps(2)|cos(θ+α−γ)|)+Ps(3))
(式3)
S2=T1(T2(Ps(1)|cos(θ−γ−β)|+Ps(2)|cos(θ+α−γ−β)|)+Ps(3))
ここで、φ=θ−γとおくと、式2及び式3はそれぞれ以下の式4及び式5で表される。
【0047】
(式4)S1=T1(T2(Ps(1)|cosφ|+Ps(2)|cos(φ+α)|)+Ps(3))
(式5)S2=T1(T2(Ps(1)|cos(φ−β)|+Ps(2)|cos(φ+α−β)|)+Ps(3))
φ=θ−γは、偏光フィルタ50aの透過軸の方向に対する透光板2の相対的な回転角である。ここで、上記の式1、式4、および式5からPs(3)を消去し、Ps(1)とPs(2)を計算すると、Ps(1)およびPs(2)は、それぞれ以下の式6および式7で表される。
【0048】
【数3】

【0049】
【数4】

【0050】
ここで、式6、7における分母の|D|は、次の式8で表される行列式である。
【0051】
【数5】

【0052】
式6、7により、偏光領域P(1)、P(2)を透過して撮像面に入射する光による画像を示す信号Ps(1)、Ps(2)を、S1、S2、S3から求めることができる。Ps(1)、Ps(2)は、視点の異なる2つの画像に対応しており、これらの差分を求めることによって被写体の奥行きに関する情報を得ることができる。本実施形態において、差分画像は、Ps(1)とPs(2)との差分によって得られる。以下、差分画像を示す信号をDsと表す。また、透明領域を透過した光による画像を示す信号Ps(3)は、式6と式7で示されるPs(1)とPs(2)とを式1に代入することにより求めることができる。
【0053】
以上のように、本実施形態の撮像装置によれば、複数視点画像、差分画像、および視差のない通常画像を得ることができる。回転駆動部2Aによって透光板2を回転させることにより、偏光領域P(1)、P(2)の位置を変え、視差の状態を変えて撮像することができる。偏光領域P(1)、P(2)の位置を変えて撮像し、上記の処理を行うことにより、複数の視差情報を得ることができる。その結果、1つの視差情報に基づいて被写体の奥行き情報を得る場合よりも被写体の奥行き情報の精度を向上させることが可能となる。
【0054】
なお、式8に示される行列式|D|の値が0である場合、式6、7で示されるPs(1)、Ps(2)の分母も0となるため、Ps(1)、Ps(2)を求めることができない。従って、本実施形態の撮像装置では、透光板2の回転角θは、式8に示す行列式|D|が0にならないように設定される。
【0055】
以下、透光板2の好ましい回転範囲を説明する。式8は、k=T1/T2とおくと、次の式9で表される。
【0056】
【数6】

【0057】
式9において、各cos項が全てプラスならば、符号はそのままで絶対値を外すことができ、式9は次の式10で表すことができる。
【0058】
【数7】

【0059】
式10を変形すると、以下の式11が得られる。
【0060】
【数8】

【0061】
また、式9において、各cos項が全てマイナスならば、正負の符号を逆にして絶対値を外すことができ、式9は式12で表される。
【0062】
【数9】

【0063】
本実施形態における撮像装置は、0<α≦90°、0<β≦90°を満足しているため、透光板2の回転角θを0°〜360°の範囲内に設定することを考えると、式11および式12は、以下の条件(式13)が成立する限り、常に正で0にはならない。
【0064】
(式13)cos(α/2)cos(β/2)>k(=T1/T2)
但し、式13は、式9において各cos項が全てプラスあるいは全てマイナスという前提条件から得られたものである。すなわち、この前提条件はcosφ、cos(φ+α)、cos(φ−β)、cos(φ+α−β)が全てプラスあるいは全てマイナスということである。このため、φの範囲が(90°−α)から(90°+β)までの範囲と(270°−α)から(270°+β)までの範囲とを除く全ての範囲において、式9で表される|D|は常に正であり、0にはならない。言い換えれば、0°≦φ<90°−α、90°+β<φ<270°−α、270°+β<φ<360°のいずれかを満足する限り、|D|は常に正であり、0にはならない。
【0065】
本実施形態における各パラメータ値の一例として、例えばT1=0.45、T2=0.9、α=60°、β=60°と設定することができる。γについては、上記の式群には表れてこないので、いずれの値でも問題ないが、ここではγ=0とする。以上の条件により、式13の左辺は3/4、右辺は1/2になるため、式13の関係式は成立する。また、この場合における角度φに対する|D|の値の依存性を図5に示す。図5に示すように、少なくともφが0≦φ<30°、150°<φ<210°、330°<φ<360°の範囲にあるとき、問題なく複数視点画像、差分画像、および視差のない通常画像が得られることがわかる。
【0066】
以上のように、本実施形態の撮像装置は、2つの偏光領域P(1)、P(2)と1つの透明領域P(3)とを有する透光板2を備えている。撮像素子1の撮像面における各画素ブロックは、透過軸の方向が互いに異なる2つの偏光フィルタ50a、50bがそれぞれ配置された画素W1、W2と、何も配置されていない画素W3とを含んでいる。偏光領域P(1)の透過軸の方向と偏光領域P(2)の透過軸の方向とがなす角度をα、偏光フィルタ50aの透過軸の方向と偏光フィルタ50bの透過軸の方向とがなす角度をβとするとき、透光板2の回転角θと偏光フィルタ50aの透過軸の向きがX方向に対してなす角度γとの差φが(90°−α)から(90°+β)までの範囲と(270°−α)から(270°+β)までの範囲とを除く範囲にある限り、複数視点画像、差分画像、および視差のない通常の2次元画像を得ることができる。特に、P(1)とP(2)の偏光領域を小さくするほど、感度的に問題のない2次元画像を得ることができる。また、透光板2をφの値が上記の許容範囲内になるように回転させ、その都度差分画像を算出することにより、視点を変えた被写体の奥行き情報が得られるという効果がある。このことは被写体の奥行き情報の高精度化を可能にする。
【0067】
上記の例では、α=60°、β=60°としたが、αおよびβはこの値に限るものではない。角度φ、α、βが、少なくとも0°≦φ<90°−α、90°+β<φ<270°−α、270°+β<φ<360°のいずれかを満足するように設定されていれば、式13が成立するため、問題なく複数視点画像および差分画像を得ることができる。また、仮にφが90°−α≦φ≦90°+β、または270°−α≦φ≦270°+βのいずれかの値に設定されていたとしても、式9の行列式|D|の値が0にならない限り、問題なく複数視点画像および差分画像を得ることができる。
【0068】
本実施形態における回転駆動部2Aは、上述のように、信号発生及び画像信号受信部5からの指令信号を素子駆動部6から受信することによって動作するが、本発明はこのような形態に限られない。例えば、回転駆動部2Aを手で動かすことによって透光板2を回転させるようにしてもよい。
【0069】
本実施形態では、感度的に問題のない2次元画像を画素間の演算によって透明領域P(3)のみを透過する光から得るものとしたが、本発明はこれに限るものではない。領域P(1)、P(2)、P(3)を透過した全ての光を用いて2次元画像を得る構成であってもよい。言い換えれば、Ps(1)、Ps(2)、Ps(3)で表される信号を合成することにより、2次元画像を生成してもよい。
【0070】
上記の説明において、透光板2に設けられる偏光領域(偏光子)は2つであるが、3つ以上の偏光領域が設けられていてもよい。また、θ=0°の状態における偏光領域P(1)の透過軸の方向はX方向に一致している必要はなく、任意の方向であってよい。
【0071】
また、図4に示す例では、画素W1、W2、W3の形状は正方形状であり、画素W1、W2、W3はY方向に隣接して配置されているが、本発明はこのような構成に限られない。各画素の形状はどのような形状でもよいし、画素W1、W2、W3は必ずしもY方向に隣接している必要はない。ただし、各画素は近接していることが好ましい。
【0072】
本実施形態の撮像装置では、図2に示すように、透光板2と撮像素子1の撮像面とは平行に配置されている。しかし、両者は必ずしも平行に配置される必要はない。例えば、両者の間にミラーやプリズムなどの光学素子を配置することにより、透光板2と撮像素子1の撮像面とが互いに交差する平面上に位置するように構成することができる。このような構成を採用する場合、角度α、βは、上記光学素子による光路の変化を考慮した上で、透光板2と撮像素子1の撮像面とが互いに平行であると仮定したときの偏光領域P(1)の透過軸の方向を基準にして決定すればよい。
【0073】
以上の説明において、撮像装置は、複数視点画像、差分画像、および通常画像を同時に得るように構成されている。しかしながら、本発明はこのような構成に限られず、通常画像を取得せず、複数視点画像、および差分画像を取得するように構成されていてもよい。このような目的で撮像装置を構成する場合、上記の説明における画素W3は不要であり、また、透明領域P(3)の代わりに光を透過しない遮光領域が設けられる。
【0074】
図6、図7は、それぞれ通常画像を取得せず、複数視点画像および差分画像を取得する撮像装置における透光板2の構成の一例、および基本画素構成の一例を示している。透光板2における偏光領域P(1)、P(2)以外の領域は、遮光領域である。このような撮像装置においても、回転駆動部2Aによって光軸を中心に透光板2を回転させることができる。また、撮像素子1の撮像面には、画素W1、W2を含む画素ブロックを単位として、複数の画素ブロックが配列される。
【0075】
以上の構成により、画素W1およびW2からそれぞれ出力される光電変換信号S1およびS2は、それぞれ以下の式14および式15で表すことができる。
【0076】
(式14) S1=T1T2(Ps(1)cosα+Ps(2)cos(α−θ))
(式15) S2=T1T2(Ps(1)cosβ+Ps(2)cos(β−θ))
式14、15より、Ps(1)、Ps(2)は、それぞれ以下の式16、17で表される。
【0077】
【数10】

【0078】
【数11】

【0079】
ここで、|D|は、以下の式18で表される行列式である。
【0080】
【数12】

【0081】
また、差分画像Dsは、Ps(1)とPs(2)との差分をとることにより、以下の式19で表される。
【0082】
【数13】

【0083】
式16〜19が示すように、画素W1、W2における光電変換信号S1、S2から、信号Ps(1)、Ps(2)、および差分画像を示す信号Dsを求めることができる。この構成によって視差を示す各画像を取得する場合、式18の行列式|D|の値が0に近い値とならないように角度θ、α、β、γが設定されることが好ましい。このような撮像装置によっても透光板2の回転角θを変えて撮像を行うことにより、複数の組の複数視点画像を得ることができる。
【0084】
(実施形態2)
次に図8、9を参照しながら本発明の第2の実施形態を説明する。本実施形態の撮像装置は、撮像素子1の基本画素構成、および視差を示す画像の取得方法が実施形態1の撮像装置と異なっている。以下、実施形態1の撮像装置との相違点のみを説明し、共通の事項についての説明は省略する。
【0085】
図8は、本実施形態における固体撮像素子1の撮像面における基本画素構成を示している。本実施形態においては、画素は2行2列を基本構成とする複数の画素ブロックから構成され、各画素に対向して色要素(色フィルタ)または偏光フィルタが配置されている。本実施形態における色要素は、特定の色成分の波長域を有する光のみを透過させる公知の色フィルタである。なお、以下の説明において、色成分Cの光のみを透過する色フィルタをC要素と呼ぶこととする。
【0086】
色要素に関して、1行1列目の画素に対向してシアン要素(Cy)が配置され、2行2列目の画素に対向して黄要素(Ye)が配置され、1行2列目および2行1列目の画素には色要素は配置されていない。1行2列目の画素には透過軸の方向がX方向に一致する偏光フィルタが配置され、2行1列目の画素には透過軸の方向がX方向に対して45°の角度をなす偏光フィルタが配置されている。なお、画素配列に関しては正方配列であり、2つの画素W1およびW2に対向して配置された2つの偏光フィルタの中心間を結ぶ線分の方向はX方向に対して45°の角度をなしている。
【0087】
一方、透光板2について、形状は実施形態1における透光板2の形状と同一である。ただし、本実施形態においては、偏光領域P(1)の透過軸の向きと偏光領域P(2)の透過軸の向きとがなす角度は90°に設定されている。すなわち、本実施形態においては、α=90°、β=45°、γ=0°、θ=φである。また、T1=0.45、T2=0.9とする。
【0088】
本実施形態の撮像装置は、φ1を任意の角度として、回転駆動部2Aによって透光板2を回転させ、φ=φ1の状態およびφ=φ1+180°の状態のそれぞれにおいて撮像を行い、実施形態1に示す処理演算を行う。例えば、φ=0°およびφ=180°の状態でそれぞれ撮像を行い、それぞれの状態における複数視点画像および差分画像を取得する。なお、本実施形態においては、実施形態1で示した許容回転範囲でない回転角度で撮像することもあり得るが、許容回転範囲外であっても式9に示す|D|が0にならないようにα、β、φが設定されていれば問題はない。実施形態1で示したα、β、φについての条件:0°≦φ<90°−α、90°+β<φ<270°−α、270°+β<φ<360°は、あくまでも式9の|D|が0にならないことを保証するものであり、保証範囲外の値であっても|D|が0にならない場合は存在する。
【0089】
本実施形態の撮像装置の主な特徴は次の3点である。第1点目は実施形態1で示した画素W3が無いことである。第2点目は偏光領域P(1)とP(2)の透過軸の方向が互いに直交しており、透光板2を回転させることによってφ=φ1およびφ=φ1+180°の2つの状態でそれぞれ撮像を行うことである。第3点目は撮像素子がカラー化されていることである。
【0090】
まず上記特徴の第1点目について説明する。図8に示す画素構成では、実施形態1における画素W3が無いため、実施形態1で示した計算は本来できない。しかしながら、無彩色に近い被写体を撮像する場合は、Cy+Ye=W+Gであるため、RGBの受光信号比率をKr、Kg、Kbとすると、画素W3からの画素信号S3に相当する信号はCy要素とYe要素を通して得られる信号の合算Scy+Syeに(Kr+Kg+Kb)/(Kr+2Kg+Kb)倍したものと考えられる。そこで、画素信号S3に相当する信号をこのような演算を行うことにより得る。そうすることにより、式9で示される|D|が0でなければ、実施形態1の場合と同じ処理で複数視点画像および差分画像を作ることができる。なお、上記の受光信号比率Kr、Kg、Kbは、撮像装置の内部パラメータとして、予め撮像装置内部の記憶媒体に記録されている。
【0091】
次に本実施形態の特徴の第2点目について説明する。図9は本実施形態における透光板の回転角θ(=φ)に対する|D|の値の依存性を表している。図9より、φが例えば0°または180°になるように透光板2を回転させたとしても|D|は0にならないことがわかる。他の例として、φが150°または330°になるように透光板2を回転させる場合でも|D|は0にならない。すなわち、φ=φ1の状態およびφ=φ1+180°の状態のいずれにおいても|D|が0にならなければ、両方の状態において実施形態1で示した演算処理が可能であり、偏光領域P(1)、P(2)、P(3)のそれぞれに入射する光による画像を算出できる。
【0092】
本実施形態では、偏光領域P(1)、P(2)に入射した光による画像を表す信号Ps(1)、Ps(2)に関して、φ=φ1およびφ=φ1+180°の2つの状態でそれぞれ撮像して得られる2組のデータに基づいて差分画像を得る。この処理において、φ=φ1における画像Ps(1)とφ=φ1+180°における画像Ps(2)とを2乗加算した結果に平方根処理を行うことによって第1の画像情報を得る。同様に、φ=φ1における画像Ps(2)とφ=φ1+180°における画像Ps(1)とを2乗加算した結果に平方根処理を行うことによって第2の画像情報を得る。φ=φ1における画像Ps(1)およびφ=φ1+180°における画像Ps(2)は、それぞれ同じ位置で観測した0度と90度の偏光特性の画像に対応するので、偏光特性を有する被写体を撮像した場合、上記処理によって被写体の偏光特性を打ち消すことができる。通常、偏光特性を有する被写体は、直交するフィルタを用いて撮像され、それぞれの偏光成分を2乗加算して得られる値を求めることによって被写体の光エネルギを測定するため、本実施形態でも同様の処理を実行する。
【0093】
最後に本実施形態の特徴の第3点目について説明する。カラー画像について、シアン要素を透過し光電変換される光に対応する信号量をScy、黄要素を透過し光電変換される光に対応する信号量をSye、画素W1および画素W2における光電変換信号を加算して得られる信号量をSwとする。すると、赤の色情報Srは(Sw−Scy)、青の色情報Sbは(Sw−Sye)により得られ、さらに(Sw−Sr−Sb)により緑の色情報が得られる。その結果、光量低下は透光板2の偏光領域P(1)、P(2)による低下分のみに抑えられ、入射光の光量低下を大幅に抑えたカラー画像が得られることになる。
【0094】
以上のように本実施形態によれば、第1に偏光領域P(1)、P(2)の透過軸の方向が互いに直交し、φ1を任意の角度として、φ=φ1およびφ=φ1+180°の2つの状態で撮像を行う。第2に固体撮像素子1の撮像面において2行2列を基本単位として画素を構成し、1行1列目の画素に対向してシアン要素(Cy)が配置され、2行2列目の画素に対向して黄要素(Ye)が配置され、1行2列目の画素に対向して透過軸の方向がX方向に一致する(γ=0)偏光フィルタが配置され、2行1列目の画素に対向して透過軸の方向がX方向に対して45°(β=45°)の角度をなす偏光フィルタが配置される。以上の構成及び回転駆動部2Aによる回転動作により、被写体が偏光特性を有していても複数視点画像、差分画像、およびカラー画像を得ることができる。なお、偏光領域P(1)、P(2)のサイズを透明領域P(3)に比べて十分小さくすることにより、感度低下を大幅に抑えたカラー画像を得ることができるという効果がある。
【0095】
上記の説明において、偏光フィルタの透過軸の方向を規定するパラメータγ、β、偏光領域の透過率T1、T2を限定したが、これらは上記の値のみに限られるものではない。本実施形態において、式9における|D|の値が0にならず、2つの偏光領域P(1)、P(2)の透過軸の方向が直交し、透光板を角度φ1および角度φ1+180°の各々の状態で撮像するように構成されていればよい。
【0096】
また、本実施形態における色フィルタは、必ずしもシアン要素と黄要素である必要はない。2種類の色フィルタは、第1の色成分を透過する色フィルタと第2の色成分を透過する色フィルタとが配置されていればよい。例えば、色フィルタとして赤要素および青要素を用いて、画素信号として直接赤信号と青信号とが得られる構成を採用することができる。
【0097】
本実施形態では、偏光領域P(1)の透過軸の方向に対して偏光領域P(2)の透過軸の方向がなす角度αを90°としたが、αは厳密に90°である必要はなく、多少の誤差が含まれていてもよい。αは、好ましくは70°≦α≦90°を満たすように設定され、さらに好ましくは80°≦α≦90°を満たすように設定される。また、本発明は、α=90°に限定されるものではなく、α≠90°であっても、式6、式7に基づいて視差情報を得ることができる。
【0098】
なお、画素は必ずしも正方格子状に配列されている必要はなく、各画素の形状は正方形である必要はない。1つの画素ブロックが4画素から構成され、そのうちの2画素に対向して透過軸の方向が異なる偏光フィルタがそれぞれ配置され、他の2画素に対向して異なる色フィルタが配置されていれば、本実施形態の効果を得ることが可能である。
【0099】
また、図8に示す画素構成の代わりに、他の画素構成を用いてもよい。例えば、図4または図7に示す画素構成を用いても、透光板2の回転角が180°異なる2つの状態で撮像を行うことにより、偏光特性を有する被写体に対して複数視点画像および差分画像を得ることができる。
【0100】
なお、以上の実施形態1、2において、撮像装置は複数視点画像および差分画像のいずれか一方を取得するように構成されていてもよい。例えば、撮像装置は複数視点画像のみを取得し、差分画像については撮像装置に有線または無線で接続された他の演算処理装置が求めてもよい。また、撮像装置は差分画像のみを取得し、他の装置が複数視点画像を取得してもよい。
【0101】
また、上記の実施形態1、2において、複数視点画像から各対応点の画像上の位置のずれの大きさを示す視差画像(disparity map)を求めることができる。この視差画像によって被写体の奥行き情報を求めることができる。
【産業上の利用可能性】
【0102】
本発明にかかる3次元撮像装置は、固体撮像素子を用いたすべてのカメラに有効である。例えば、デジタルスチルカメラやデジタルビデオカメラなどの民生用カメラや、産業用の固体監視カメラなどに有効である。
【符号の説明】
【0103】
1 固体撮像素子
2 透光板
2A 回転駆動部
3 光学レンズ
4 赤外カットフィルタ
5 信号発生及び画像信号受信部
6 素子駆動部
7 画像処理部
8 画像インターフェース部
9 撮像装置
10 画素
11 0度偏光の偏光板
12 90度偏光の偏光板
13 反射鏡
14 ハーフミラー
15 円形の偏光フィルタ
16 偏光フィルタを回転させる駆動装置
17、18 偏光フィルタ
19 光通過部
20、21 偏光透過部
22 受光部光学フィルタトレイ
23 特定成分透過フィルタ
24 カラーフィルタ
25 フィルタ駆動部
50a、50b 偏光フィルタ

【特許請求の範囲】
【請求項1】
少なくとも2つの偏光子を有する光透過部と、
前記光透過部を透過した光を受ける固体撮像素子と、
前記固体撮像素子の撮像面に像を形成する結像部と、
入射光の光軸の方向を回転軸の方向として前記光透過部を回転させる回転駆動部と、
を備える3次元撮像装置であって、
前記光透過部は、
第1の偏光子と、
前記第1の偏光子の透過軸に対してα(0°<α≦90°)の角度をなす透過軸を有する第2の偏光子と、
を有し、
前記固体撮像素子は、
各々が第1の画素および第2の画素を含む複数の画素ブロックと、
各画素ブロックにおいて、前記第1の画素に対向して配置された第1偏光フィルタと、
各画素ブロックにおいて、前記第2の画素に対向して配置され、前記第1偏光フィルタの透過軸に対してβ(0°<β≦90°)の角度をなす透過軸を有する第2偏光フィルタと、
を有し、
前記第1偏光フィルタは、前記第1の偏光子を透過した光、および前記第2の偏光子を透過した光を受けるように配置され、
前記第2偏光フィルタは、前記第1の偏光子を透過した光、および前記第2の偏光子を透過した光を受けるように配置されている、3次元撮像装置。
【請求項2】
前記光透過部は、入射光を偏光方向によらずに透過させる透明領域を有し、
各画素ブロックは、第3の画素を含み、
前記第3の画素は、前記第1の偏光子を透過した光、前記第2の偏光子を透過した光、および前記透明領域を透過した光を受け、受けた光に応じた光電変換信号を出力する、請求項1に記載の3次元撮像装置。
【請求項3】
前記第1偏光子、前記第2偏光子、前記第1偏光フィルタ、および前記第2偏光フィルタに非偏光が入射するときの透過率をT1とし、
前記第1偏光フィルタの透過軸の向きに振動する偏光が前記第1偏光フィルタに入射するときの透過率、および前記第2偏光フィルタの透過軸の向きに振動する偏光が前記第2偏光フィルタに入射するときの透過率をT2とし、
前記第1偏光フィルタの透過軸の向きに対して前記第1の偏光子の透過軸の向きがなす角度をφとするとき、
行列式
【数14】

の値が0にならないように前記光透過部の回転角が設定される、請求項2に記載の3次元撮像装置。
【請求項4】
【数15】

の関係を満足し、
φは、
0≦φ<π/2−α、π/2+β<φ<3π/2−α、3π/2+β<φ<2π
のいずれかの範囲に設定される、請求項3に記載の3次元撮像装置。
【請求項5】
80°≦α≦90°を満足する、請求項1から4のいずれかに記載の3次元撮像装置。
【請求項6】
各画素ブロックは、第4の画素をさらに含み、
前記固体撮像素子は、
各画素ブロックに含まれる前記第3の画素に対向して配置された第1の色成分の光を透過させる第1の色フィルタと、
各画素ブロックに含まれる前記第4の画素に対向して配置された第2の色成分の光を透過させる第2の色フィルタと、
を有している、請求項2から5のいずれかに記載の3次元撮像装置。
【請求項7】
各画素ブロックにおいて、前記第1の画素、前記第2の画素、前記第3の画素、および前記第4の画素は、行列状に配置されており、
前記第1の画素は1行1列目に配置され、
前記第2の画素は2行2列目に配置され、
前記第3の画素は1行2列目に配置され、
前記第4の画素は2行1列目に配置されている、
請求項6に記載の3次元撮像装置。
【請求項8】
前記第1の色フィルタおよび前記第2の色フィルタの一方は、黄成分の光を透過させ、
前記第1の色フィルタおよび前記第2の色フィルタの他方は、シアン成分の光を透過させる、請求項6または7に記載の3次元撮像装置。
【請求項9】
前記第1偏光フィルタの透過軸の向きに対して前記第1の偏光子の透過軸の向きがなす角度をφとするとき、
φ=φ1(0°≦φ1<360°)となる第1の状態、およびφ=φ1+180°となる第2の状態のそれぞれにおいて撮像を行う、請求項1から8のいずれかに記載の3次元撮像装置。
【請求項10】
画像処理部をさらに備え、
前記画像処理部は、前記第1の画素および前記第2の画素から出力される光電変換信号を用いて視差を有する2つの画像の差分を示す画像を形成する、請求項1から9のいずれかに記載の3次元撮像装置。
【請求項11】
第1の偏光子および第2の偏光子を有する光透過部と、
前記光透過部を透過した光を受ける固体撮像素子と、
入射光の光軸の方向を回転軸の方向として前記光透過部を回転させる回転駆動部と、
を備え、
前記第2の偏光子の透過軸の方向は、前記第1の偏光子の透過軸の方向に対してα(0°<α≦90°)の角度をなし、
前記固体撮像素子は、
第1の画素および第2の画素と、
前記第1の画素に対向して配置された第1偏光フィルタと、
前記第2の画素に対向して配置され、前記第1偏光フィルタの透過軸の方向に対してβ(0°<β≦90°)の角度をなす透過軸を有する第2偏光フィルタと、
を有している3次元撮像装置に用いられる画像形成方法であって、
前記第1の画素から第1の光電変換信号を取得するステップと、
前記第2の画素から第2の光電変換信号を取得するステップと、
前記第1の光電変換信号および前記第2の光電変換信号に基づいて視差を有する2つの画像の差分を示す画像を形成するステップと、
を含む画像形成方法。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7】
image rotate

【図8】
image rotate

【図9】
image rotate

【図10】
image rotate

【図11】
image rotate

【図12】
image rotate


【公開番号】特開2011−237646(P2011−237646A)
【公開日】平成23年11月24日(2011.11.24)
【国際特許分類】
【出願番号】特願2010−109654(P2010−109654)
【出願日】平成22年5月11日(2010.5.11)
【出願人】(000005821)パナソニック株式会社 (73,050)
【Fターム(参考)】