説明

固体撮像装置、カメラ、車両及び監視装置

【課題】距離情報を高精度かつ効率よく算出することができ、ノイズに対する耐性の高い固体撮像装置を提供する。
【解決手段】本発明に係る固体撮像装置は、第1撮像領域115と第2撮像領域116とを含む領域に行列状に配置された複数の光電変換素子111を備える撮像部110と、第1撮像領域115へ光を入射させる第1光入射部150と、第1光入射部150と離間して設けられ、第2撮像領域116へ光を入射させる第2光入射部151と、第1撮像領域115により光電変換された信号電荷を電圧又は電流に変換し第1映像信号として出力し、第2撮像領域116により光電変換された信号電荷を電圧又は電流に変換し第2映像信号として出力する出力部114と、第1映像信号及び第2映像信号から、被写体160までの距離に関する情報を算出する算出部120とを備え、撮像部110と、出力部114と、算出部120とは、同一の半導体基板に形成される。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、固体撮像装置、カメラ、車両及び監視装置に関し、特に、独立した複数の光入射経路から入射した光を撮像し、映像信号を出力する固体撮像装置に関する。
【背景技術】
【0002】
立体映像の撮像、又は、被写体までの距離に関する情報(以下、「距離情報」と記す。)を伴った映像情報を得るために、2つの撮像領域を備えるカメラが用いられている。距離情報を伴う映像情報を出力するカメラは、車載用カメラとして用いることで、前方の障害の大きさ及び距離を検知し、ドライバに警告を発することができる。さらに、障害物の検知にともない、自動的にエンジン、ブレーキ及びステアリング等を制御することで、障害物への衝突を回避することができる。さらに、車内に設けたカメラにより、乗員の大きさ(大人又は子供等)、及び乗員の頭部の位置等を検知し、エアバックのOpenスピード及び圧力等を制御することができる。
【0003】
また、距離情報を伴う映像情報を出力するカメラは、監視カメラ及びTV電話等のカメラとして用いた場合には、所定の距離内の被写体のみを撮像及び表示することで、映像情報のデータ量の削減及び視認性の向上を実現することができる。
【0004】
従来の立体映像の撮像を行うカメラとしては、2台のカメラを備えるステレオカメラが知られている。
【0005】
図19は、従来の立体映像を撮像する固体撮像装置の構成を示す図である。
図19に示す固体撮像装置1000は、ステレオカメラであり、カメラ1001及び1002を備える。カメラ1001及び1002は所定の距離を隔てて設置される。カメラ1001及び1002が撮像した映像信号より、立体映像が生成される。
【0006】
図19に示す従来の固体撮像装置1000は、2台のカメラ1001及び1002を用いるため、カメラ1001及び1002における製造ばらつき等の影響により、十分なエピポーラ性を保てない(2台のカメラが撮像した映像信号に位置的なズレが生じる)という問題と、2台のカメラ1001及び1002の撮像特性が同一ではないという問題と、2台のカメラから出力される信号の出力タイミングに時間的遅延が生じるという問題とにより、距離情報を算出するために多大な調整工数及び信号処理工程を必要とする。
【0007】
上記問題に対して、1チップのLSI(Large Scale Integration)として、2つの撮像領域を備えるステレオカメラが知られている(例えば、特許文献1参照。)。
【0008】
特許文献1記載のステレオカメラは、被写体を撮像する2つの撮像領域を1チップ化することにより、2つの撮像領域の製造ばらつきの影響を低減することができる。
【特許文献1】特開平9−74572号公報
【発明の開示】
【発明が解決しようとする課題】
【0009】
しかしながら、ステレオカメラ等の立体映像の撮像、又は、距離情報を伴った映像情報を出力するカメラにおいては、エピポーラ性、2つのカメラの撮像特性の同一性、及び信号出力タイミングの同期性等を向上させることで、距離情報を高精度かつ効率よく算出できることが望まれる。
【0010】
また、従来のステレオカメラは、撮像領域と、撮像領域で撮像された映像信号から距離情報を算出する信号処理部とは、異なる半導体基板に形成されており、撮像領域と信号処理部との配線が長くなる。これにより、映像信号の伝送速度が十分でないという問題がある。また、配線が長いため、ノイズの影響を受けやすいという問題がある。特に、車載用のカメラとして用いる場合には、ノイズに対し高い耐性が要求される。
【0011】
そこで、本発明は、距離情報を高精度かつ効率よく算出することができ、ノイズに対する耐性の高い固体撮像装置を提供することを目的とする。
【課題を解決するための手段】
【0012】
上記目的を達成するために、本発明に係る固体撮像装置は、第1撮像領域と第2撮像領域とを含む領域に行列状に配置された複数の光電変換素子を備える撮像部と、前記第1撮像領域へ光を導いて入射させる第1光入射部と、前記第1光入射部と離間して設けられ、前記第2撮像領域へ光を導いて入射させる第2光入射部と、前記第1撮像領域に配置された複数の光電変換素子が光電変換した信号電荷を電圧又は電流に変換し、変換した電圧又は電流を第1映像信号として出力し、前記第2撮像領域に配置された複数の光電変換素子が光電変換した信号電荷を電圧又は電流に変換し、変換した電圧又は電流を第2映像信号として出力する出力手段と、前記出力手段が出力する前記第1映像信号及び前記第2映像信号から、被写体までの距離に関する情報を算出する算出手段とを備え、前記撮像部と、前記出力手段と、前記算出手段とは、同一の半導体基板に形成される。
【0013】
この構成によれば、撮像部と、撮像部で撮像された第1映像信号及び第2映像信号から被写体までの距離に関する情報を算出する算出手段とが同一の半導体基板に形成される。これにより、撮像部と算出手段との間の配線を短くすることができる。よって、ノイズに対する耐性を向上させることができる。また、第1映像信号及び第2映像信号の伝送速度を向上させることができる。さらに、第1映像信号及び第2映像信号は、単一の撮像部により撮像されるので、第1映像信号と第2映像信号とのばらつきを低減することができる。これにより、算出手段は、被写体までの距離に関する情報を高精度かつ効率よく算出することができる。また、第1映像信号及び第2映像信号と、被写体までの距離に関する情報とを外部に出力することができる。
【0014】
また、前記算出手段は、前記出力手段が出力する前記第1映像信号及び前記第2映像信号を保持する第1保持手段と、前記第1保持手段が保持する前記第1映像信号及び前記第2映像信号から、前記被写体に対する視差を算出する視差算出手段と、前記視差算出手段が算出した前記視差を保持する第2保持手段とを備えてもよい。
【0015】
この構成によれば、本発明に係る固体撮像装置は、第1映像信号及び第2映像信号と、視差とを外部に出力することができる。
【0016】
また、前記視差算出手段は、前記第1保持手段が保持する前記第1映像信号のm(1以上の整数)行の画素を行方向に所定の画素分ずらす処理を所定の回数繰り返すずらし手段と、前記ずらし手段による所定の回数の前記処理毎に、前記ずらし手段がずらしたm行の映像信号と、前記第1保持手段が保持する前記第2映像信号のm行とに含まれる各画素の信号レベルの差分の絶対値を算出する差分算出手段と、前記ずらし手段による所定の回数の前記処理毎に、前記差分算出手段が算出した差分の絶対値の、n(1以上の整数)列毎の和を算出する加算手段と、前記ずらし手段による所定の回数の前記処理毎に、前記加算手段が算出した和が、前記第2保持手段が保持している和より小さい場合に、前記加算手段が算出した和と、前記ずらし手段による前記処理が実行された回数とを前記第2保持手段に保持する制御手段とを備え、前記第2保持手段は、前記ずらし手段による所定の回数の前記処理が終了した後に、保持する前記処理が実行された回数を、前記視差として出力してもよい。
【0017】
この構成によれば、映像信号のm行×n列毎に対する視差を算出することができる。
また、前記視差算出手段は、外部から入力されたm1(1以上の整数)行×n1(1以上の整数)列毎に、前記視差を算出し、前記ずらし手段は、前記第1保持手段が保持する前記第1映像信号のm1行の画素を行方向に所定の画素分ずらす処理を所定の回数繰り返し、前記差分算出手段は、前記ずらし手段による所定の回数の前記処理毎に、前記ずらし手段がずらしたm1行の映像信号と、前記第1保持手段が保持する前記第2映像信号のm1行とに含まれる各画素の信号レベルの差分の絶対値を算出し、前記加算手段は、前記ずらし手段による所定の回数の前記処理毎に、前記差分算出手段が算出した差分絶対値の、n1列毎の和を算出してもよい。
【0018】
この構成によれば、外部から視差算出を行うブロック単位(m1行×n1列)を任意に設定することができる。
【0019】
また、前記第1光入射部は、第1の周波数帯域の光を前記第1撮像領域に集光する第1集光手段と、前記第1撮像領域上に形成され、前記第1の周波数帯域に含まれる第3の周波数帯域の光を透過する第1のフィルタとを備え、前記第2光入射部は、前記第1の周波数帯域と異なる第2の周波数帯域の光を前記第2撮像領域に集光する第2集光手段と、前記第2撮像領域上に形成され、前記第2の周波数帯域に含まれる第4の周波数帯域の光を透過する第2のフィルタとを備えてもよい。
【0020】
この構成によれば、第1集光手段により集光された第1の周波数帯域の光は、第2のフィルタにより遮断されるので、第2撮像領域には照射されない。よって、第2撮像領域に対する第1の周波数帯域の光の干渉を低減することができる。また、第2集光手段により集光された第2の周波数帯域の光は、第1のフィルタにより遮断されるので、第1撮像領域には照射されない。よって、第1撮像領域に対する第2の周波数帯域の光の干渉を低減することができる。また、第1のフィルタ及び第2のフィルタを備えることで、遮光板等を設けなくともよいので、構造を簡略化することができる。
【0021】
また、前記固体撮像装置は、さらに、行列状に配置された複数の光電変換素子を備える第3撮像領域と、前記第3撮像領域へ光を導いて入射させる第3光入射部とを備え、前記第3光入射部は、前記第1の周波数帯域及び前記第2の周波数帯域を含む第5の周波数帯域の光を前記第3撮像領域に集光する第3集光手段と、前記第3撮像領域上に形成される第3のフィルタを備え、前記第3のフィルタは、前記第3撮像領域が備える前記複数の光電変換素子に含まれる複数の第1の光電変換素子上に形成され、前記第2の周波数帯域の光を遮断し、前記第3の周波数帯域の光を透過する第4のフィルタと、前記第3撮像領域が備える前記複数の光電変換素子に含まれる複数の第2の光電変換素子上に形成され、前記第1の周波数帯域の光を遮断し、前記第4の周波数帯域の光を透過する第5のフィルタとを含んでもよい。
【0022】
この構成によれば、第3撮像領域は、第1の周波数帯域の光を光電変換した信号と、第2の周波数帯域の光を光電変換した信号とを出力する。ここで、第1のフィルタ及び第2のフィルタを設け、第1撮像領域と第2撮像領域とに異なる周波数帯域の光を入射した場合、第1撮像領域と第2撮像領域とが出力する映像信号の信号レベルに差が生じる。第3撮像領域が出力する第1の周波数帯域の光を光電変換した信号と、第2の周波数帯域の光を光電変換した信号との比を用いて、第1撮像領域及び第2撮像領域が出力する映像信号を補正することで、周波数帯域の差による信号レベルの差を低減することができる。
【0023】
また、前記固体撮像装置は、さらに、前記複数の第1の光電変換素子が光電変換した信号の平均値である第1平均値と、前記複数の第2の光電変換素子が光電変換した信号の平均値である第2平均値とを算出する平均値算出手段と、前記平均値算出手段が算出した前記第1平均値及び第2平均値の比に基づき、前記第1映像信号及び前記第2映像信号を補正する補正手段とを備えてもよい。
【0024】
この構成によれば、補正手段は、平均値算出手段が算出した第1平均値と第2平均値との比を用いて、第1映像信号及び第2映像信号を補正する。これにより、第1撮像領域及び第2撮像領域に入射する光の周波数帯域の差による、第1映像信号と第2映像信号との信号レベルの差を低減することができる。
【0025】
また、前記第1のフィルタ及び前記第2のフィルタは、第1誘電体層及び第2誘電体層と、前記第1誘電体層と前記第2誘電体層との間に形成される絶縁体で構成される絶縁体層とを備え、前記絶縁体層の光学膜厚は、前記第1誘電体層及び前記第2誘電体層の光学膜厚と異なってもよい。
【0026】
この構成によれば、第1のフィルタ及び第2のフィルタに、耐光性及び耐熱性に優れた多層膜干渉フィルタが用いられる。これにより、無機材料のみを用いてフィルタを構成することができる。フィルタを無機材料のみで構成することで、高温及び高照射下で使用しても退色現象を生じない。よって、車載用途として車両の外部、エンジンルーム内又は車室内等の場所にも搭載することができる。
【0027】
また、前記固体撮像装置は、さらに、前記第1周波数帯域及び前記第2周波数帯域を含む周波数帯域の光を被写体に照射する光源を備えてもよい。
【0028】
この構成によれば、光源が被写体に照射した光の反射光を第1撮像領域及び第2撮像領域で受光することができる。これにより、夜間及び暗所での撮像を行うことができる。
【0029】
また、前記第1周波数帯域及び前記第2周波数帯域は、近赤外領域に含まれてもよい。
この構成によれば、近赤外領域の光を用いて、被写体の撮像を行うことができる。これにより、車載カメラ等として本発明の固体撮像装置を用いた場合に、視認性の向上と、対向車両及び歩行者に対する眩惑の防止とを実現することができる。
【0030】
また、前記出力手段は、各列の前記光電変換素子が光電変換した信号電荷を、それぞれデジタル信号に変換し前記第1映像信号又は前記第2映像信号として出力する複数の変換手段を備えてもよい。
【0031】
この構成によれば、各行の光電変換素子に蓄積された信号電荷を同時にデジタル信号に変換し(A/D変換し)、出力することができる。よって、第1映像信号及び第2映像信号の読出しを高速に行うことができる。
【0032】
また、前記算出手段は、さらに、前記第2保持手段が保持する前記視差と、所定の範囲とを比較し、前記視差が所定の範囲に含まれない場合には、該視差に対応する前記第1映像信号及び前記第2映像信号を所定の画像に置き換えて出力する置き換え手段を備えてもよい。
【0033】
この構成によれば、視差の値が所定の範囲外の場合(例えば、被写体が離れている場合)には、対応する画像を黒塗り等に置き換えることで、所定の距離内の対象物(被写体)のみが表示された画像が出力される。
【0034】
また、本発明に係るカメラは、前記固体撮像装置を備える。
この構成によれば、撮像部と、撮像部で撮像された第1映像信号及び第2映像信号から被写体までの距離に関する情報を算出する算出手段とが同一の半導体基板に形成される。これにより、ノイズに対する耐性を向上させることができる。さらに、第1映像信号及び第2映像信号は、単一の撮像部により撮像されるので、第1映像信号と第2映像信号とのばらつきを低減することができる。これにより、算出手段は、被写体までの距離に関する情報を高精度かつ効率よく算出することができる。よって、本発明は、ノイズに対する耐性が高く、被写体までの距離に関する情報を高精度かつ効率よく算出するカメラを実現することができる。
【0035】
また、本発明に係る車両は、前記カメラを備える。
この構成によれば、撮像部と、撮像部で撮像された第1映像信号及び第2映像信号から被写体までの距離に関する情報を算出する算出手段とが同一の半導体基板に形成される。これにより、ノイズに対する耐性を向上させることができる。さらに、第1映像信号及び第2映像信号は、単一の撮像部により撮像されるので、第1映像信号と第2映像信号とのばらつきを低減することができる。これにより、算出手段は、被写体までの距離に関する情報を高精度かつ効率よく算出することができる。よって、本発明は、ノイズに対する耐性が高く、被写体までの距離に関する情報を高精度かつ効率よく算出する車両を実現することができる。
【0036】
また、本発明に係る監視装置は、前記カメラを備える。
この構成によれば、撮像部と、撮像部で撮像された第1映像信号及び第2映像信号から被写体までの距離に関する情報を算出する算出手段とが同一の半導体基板に形成される。これにより、ノイズに対する耐性を向上させることができる。さらに、第1映像信号及び第2映像信号は、単一の撮像部により撮像されるので、第1映像信号と第2映像信号とのばらつきを低減することができる。これにより、算出手段は、被写体までの距離に関する情報を高精度かつ効率よく算出することができる。よって、本発明は、ノイズに対する耐性が高く、被写体までの距離に関する情報を高精度かつ効率よく算出する監視装置を実現することができる。
【発明の効果】
【0037】
本発明は、距離情報を高精度かつ効率よく算出することができ、ノイズに対する耐性の高い固体撮像装置を提供することができる。
【発明を実施するための最良の形態】
【0038】
以下、本発明に係る固体撮像装置の実施の形態について、図面を参照しながら詳細に説明する。
【0039】
(実施の形態1)
本発明の実施の形態1に係る固体撮像装置は、同一の半導体基板に撮像部と、撮像部で撮像した2つの映像信号から、被写体までの距離の情報を算出する信号処理部とが形成される。これにより、距離情報を高精度かつ効率よく算出することができ、ノイズに対する耐性の高い固体撮像装置を実現することができる。
【0040】
まず、本実施の形態に係る固体撮像装置の構成を説明する。
図1は、本発明の実施の形態1に係る固体撮像装置の構成を示す図である。
【0041】
図1に示す固体撮像装置100は、撮像の被写体160の映像情報及び距離情報を出力する。固体撮像装置100は、例えば、車両に搭載された近赤外領域の光(以下、「近赤外光」と記す。)を用いた暗視機能を有するカメラである。固体撮像装置100は、半導体装置101と、光源140と、レンズ150及び151とを備える。半導体装置101は、1チップの半導体集積回路である。半導体装置101は、撮像部110と、信号処理部120と、制御部130とを備える。すなわち、撮像部110と、信号処理部120と、制御部130とは、同一の半導体基板に形成される。
【0042】
光源140は、近赤外光(波長700nm〜1100nm)を被写体160に照射する。光源140は、例えば、LED(発光ダイオード)又は半導体レーザで構成される。
【0043】
レンズ150及び151は、被写体160からの反射光を撮像部110に集光する。レンズ150は、被写体160からの反射光を第1撮像領域115に集光する。レンズ151は、被写体160からの反射光を第2撮像領域116に集光する。レンズ151は、レンズ150と水平方向に離間して設けられる。
【0044】
撮像部110は、CMOSイメージセンサであり、入射光に応じた映像信号を出力する。撮像部110被写体160からの反射光を電気信号に変換し、変換した電気信号を2つの映像信号(左画像及び右画像)として出力する。具体的には、撮像部110は、レンズ150で集光された光を電気信号に変換し、変換した電気信号を左画像として出力する。撮像部110は、レンズ151で集光された光を電気信号に変換し、変換した電気信号を右画像として出力する。
【0045】
図2は、撮像部110及び信号処理部120の構成を示す図である。撮像部110は、複数の光電変換素子111と、垂直走査部112と、水平走査部113と、A/D変換部114とを備える。
【0046】
複数の光電変換素子111は、半導体基板上に行列状に配置される。複数の光電変換素子111は、受光量に応じた信号電荷を蓄積する。複数の光電変換素子111は、第1撮像領域115と第2撮像領域116とを含む領域に配置される。例えば、第1撮像領域115に含まれる光電変換素子111と、第2撮像領域116に含まれる光電変換素子111とは、同数である。第1撮像領域115に含まれる複数の光電変換素子111は、レンズ150で集光された光を光電変換する。第2撮像領域116に含まれる複数の光電変換素子111は、レンズ151で集光された光を光電変換する。なお、行列状に配置される複数の光電変換素子111の行方向は水平方向に対応し、列方向は垂直方向に対応する。また、図2において6行×6列の光電変換素子111が配置されているが、光電変換素子111の数は、これに限定されるものではない。
【0047】
垂直走査部112は、複数の光電変換素子111のうち各行に対応する光電変換素子111を順次選択する。
【0048】
水平走査部113は、複数の光電変換素子111のうち各列に対応する光電変換素子111を順次選択する。
【0049】
A/D変換部114は、垂直走査部112により行を選択され、かつ水平走査部113に列を選択された光電変換素子111に蓄積された信号電荷を、電圧又は電流に変換し、変換した電圧又は電流を映像信号として出力する。すなわち、A/D変換部114は、光電変換素子111に蓄積された信号電荷に基づくアナログ信号を、デジタル信号に変換し映像信号として出力する。また、A/D変換部114が出力する映像信号は、第1撮像領域115に含まれる光電変換素子111に蓄積された信号電荷を電圧又は電流に変換した左画像に対応する映像信号と、第2撮像領域116に含まれる光電変換素子111に蓄積された信号電荷を電圧又は電流に変換した右画像に対応する映像信号とが含まれる。
【0050】
制御部130は、撮像部110及び信号処理部120を制御する。具体的には、制御部130は、垂直走査部112の行の選択を開始させる垂直同期信号と、水平走査部113の列の選択を開始させる水平同期信号と、垂直走査部112の駆動タイミングを制御する電荷蓄積制御信号とを生成する。電荷蓄積制御信号は、複数の光電変換素子111の電荷蓄積時間(露光時間)を制御するための信号である。
【0051】
信号処理部120は、被写体までの距離情報を、撮像部110が出力する左画像と右画像とから算出し、映像信号121及び距離情報122を外部に出力する。信号処理部120は、映像信号保持部123と、距離情報算出部124と、距離情報保持部125とを備える。
【0052】
映像信号保持部123は、撮像部110が出力する映像信号である左画像及び右画像を保持する。また、映像信号保持部123は、保持する映像信号121を外部に出力する。
【0053】
距離情報算出部124は、映像信号保持部123が保持する左画像及び右画像から、被写体までの距離情報である視差を算出する。
【0054】
距離情報保持部125は、距離情報算出部124が算出した距離情報(視差)を保持する。また、距離情報保持部125は、保持する距離情報122を外部に出力する。
【0055】
図3は、撮像部110の第1撮像領域115及び第2撮像領域116の断面構造を模式的に示す図である。図3に示すように、固体撮像装置100は、さらに、フィルタ152、153、154及び155を備える。フィルタ152、153、154及び155は、例えば、多層膜干渉フィルタである。
【0056】
被写体160からの反射光は、フィルタ152、レンズ150及びフィルタ154からなる光入射経路により、第1撮像領域115に入射される。また、被写体160からの反射光は、フィルタ153、レンズ151及びフィルタ155からなる光入射経路により、第2撮像領域116に入射される。フィルタ152は、レンズ150の上部に形成され、第1の周波数帯域の光のみを透過する。すなわち、フィルタ152及びレンズ150により、第1の周波数帯域の光は第1撮像領域115に集光される。フィルタ153は、レンズ151の上部に形成され、第2の周波数帯域の光のみを透過する。すなわち、フィルタ153及びレンズ151により、第2の周波数帯域の光は第2撮像領域116に集光される。フィルタ154は、第1撮像領域115上に形成され、第1の周波数帯域の光のみを透過する。フィルタ155は、第2撮像領域116上に形成され、第2の周波数帯域の光のみを透過する。ここで、第1の周波数帯域及び第2の周波数帯域は、近赤外領域(波長700nm〜1100nm)内の、互いに重複しない異なる周波数帯域である。例えば、第1の周波数帯域は、波長750nm〜850nmの周波数帯域であり、第2の周波数帯域は、波長950nm〜1050nmの周波数帯域である。
【0057】
図4は、フィルタ152の断面構造を模式的に示す図である。なお、フィルタ153〜155の断面構造も図4と同様である。
【0058】
図4(a)に示すフィルタ152は、上部反射層161と、スペーサ層162と、下部反射層163とを備える。スペーサ層162は下部反射層163上に積層され、上部反射層161は、スペーサ層162上に積層される。
【0059】
上部反射層161及び下部反射層163は、3層の高屈折率材料で構成される層164と、3層の低屈折率材料で構成される層165とを、交互に積層した構造である。高屈折率材料で構成される層164は、例えば、酸化チタンTiO2(屈折率2.5)で構成される。低屈折率材料で構成される層165は、例えば、酸化シリコンSiO2(屈折率1.45)で構成される。スペーサ層162は、高屈折率材料で構成され、例えば、酸化チタンTiO2(屈折率2.5)で構成される。また、フィルタ152は、スペーサ層162を中心にして、光学膜厚λ/4(λ:設定中心波長)の多層膜構造の上部反射層161及び下部反射層163が対称となるように配置される。このような層構造により、反射帯域中に透過帯域領域が選択的に形成され、さらにスペーサ層162の膜厚を変化させることによって、その透過ピーク波長を変化させることができる。
【0060】
図5は、図4(a)に示すフィルタ152の光の波長に対する光の透過率の計算結果を示す図である。なお、透過率の計算には誘電体多層膜干渉フィルタにおいて広く知られている特性マトリクス法を用いた。図5に示すように、例えば、TiO2層164を90nmとし、SiO2層165を155nmとすることで、実線174で示す特性の設定中心波長900nmの多層膜干渉フィルタを構成することができる。また、TiO2層164を99nmとし、SiO2層165を171nmとすることで、破線175で示す設定中心波長1000nmの多層膜干渉フィルタを構成することができる。ここで、スペーサ層162は、光学膜厚をλ/2としている。また、図5に示すように、図4(a)に示すフィルタ152は、短波長帯(波長800nm以下)の光を透過する特性を有するが、短波長カット光学フィルタ(例えば朝日分光(株)LIO840等:図5の二点鎖線176)を併用することで、波長900nm又は1000nmの光のみを透過することができる。
【0061】
なお、フィルタ152の構成は、図4(b)に示すように、所定の膜厚及び層数のTiO2層とSiO2層とを積層した、反射層166と、反射層167と、多層膜干渉フィルタ168とを構成してもよい。
【0062】
図6は、図4(b)に示すフィルタ152の光の波長に対する光の透過率の計算結果を示す図である。なお、図4(b)に示す多層膜干渉フィルタ168は、例えば、図4(a)に示す構造である。多層膜干渉フィルタ168の上部反射層161と、スペーサ層162と、下部反射層163との膜厚及び層数を設定することで、設定中心波長をそれぞれ800nm、又は1000nmの多層膜干渉フィルタを構成する。さらに、多層膜干渉フィルタ168上に、反射層166及び167を積層することにより、短波長側の透過特性を抑圧する。これにより、図6に示す実線177で示す特性の設定中心波長800nmの多層膜干渉フィルタ及び破線178で示す設定中心波長1000nmの多層膜干渉フィルタを構成することができる。例えば、多層膜干渉フィルタ168に含まれるTiO2層164を79nmとし、SiO2層165を137nmとし、反射層167に含まれる最上層及び最下層のTiO2層164を20nmとし、それ以外のTiO2層164を40nmとし、SiO2層165を68nmとし、反射層166に含まれる最上層及び最下層のTiO2層164を27nmとし、それ以外のTiO2層164を54nmとし、SiO2層165を94nmとすることで、設定中心波長800nmの多層膜干渉フィルタを構成することができる。また、多層膜干渉フィルタ168に含まれるTiO2層164を99nmとし、SiO2層165を171nmとし、反射層167に含まれる最上層及び最下層のTiO2層164を25nmとし、それ以外のTiO2層164を50nmとし、SiO2層165を86nmとし、反射層166に含まれる最上層及び最下層のTiO2層164を35nmとし、それ以外のTiO2層164を70nmとし、SiO2層165を120nmとすることで、設定中心波長1000nmの多層膜干渉フィルタを構成することができる。
【0063】
なお、高屈折率材料で構成される層164は、酸化チタンTiO2で構成されるとしたが、窒化シリコン(SiN)、酸化タンタル(Ta25)、又は酸化ジルコニウム(ZrO2)等で構成してもよい。また、低屈折率材料で構成される層165は、酸化シリコンSiO2で構成されるとしたが用いたが、高屈折率材料として用いる誘電体と比較して屈折率が低ければ、酸化シリコンSiO2以外の材料を用いてもよい。
【0064】
また、上述した設定中心波長、スペーサ層の膜厚、ペア数は1例であり、所望の分光特性に合わせて設定すればよい。
【0065】
このように、誘電体多層膜干渉フィルタを用いることで、フィルタを通常の半導体プロセスで作製可能となり、従来の顔料フィルタのように固体撮像装置の受光部や配線部などを形成した後に、通常の半導体プロセスとは異なる工程、いわゆるオンチッププロセスでフィルタを形成する必要がない。よって、プロセスの安定化、及び生産性向上に伴う低コスト化を実現することができる。
【0066】
さらに、誘電体多層膜干渉フィルタを用いることにより、無機材料のみを用いてフィルタを構成することができる。これにより、高温及び高照射下で使用しても退色現象を生じないことから、車載用途として車両の外部、エンジンルーム内又は車室内等の場所にも搭載することができる。
【0067】
次に、本実施の形態に係る固体撮像装置100の動作を説明する。
光源140から照射された近赤外光は、被写体160で反射される。被写体160で反射した反射光は、フィルタ152により第1の周波数帯域の光のみが透過し、レンズ150で集光され、フィルタ154を介して第1撮像領域115に照射される。また、被写体160で反射した反射光は、フィルタ153により第2の周波数帯域の光のみが透過し、レンズ151で集光され、フィルタ155を介して第2撮像領域116に照射される。ここで、第1撮像領域115及び第2撮像領域116上にフィルタ154及び155を備えることにより、フィルタ152を介してレンズ150で集光された光は、フィルタ155で遮断されるので第2撮像領域116には入射せず第1撮像領域115のみに入射する。また、フィルタ153を介してレンズ151で集光された光は、フィルタ154で遮断されるので第1撮像領域115には入射せず、第2撮像領域116のみに入射する。すなわち、本発明の実施の形態1に係る固体撮像装置100は、第1撮像領域115及び第2撮像領域116に入射する光の干渉を防止することができる。また、フィルタ152〜154を備えることで、遮光板等を設けなくともよいので、構造を簡略化することができる。これにより、単一のCMOSイメージセンサで、2つのレンズから入射した光を互いに干渉させることなく容易に撮像することができる。
【0068】
第1撮像領域115に含まれる複数の光電変換素子111は、レンズ150で集光された第1の周波数帯域の光の入射光量に応じた信号電荷を蓄積する。第2撮像領域116に含まれる複数の光電変換素子111は、レンズ151で集光された第2の周波数帯域の光の入射光量に応じた信号電荷を蓄積する。制御部130は、垂直走査部112の行の選択を開始させる垂直同期信号と、水平走査部113の列の選択を開始させる水平同期信号と、垂直走査部112の駆動タイミングを制御する電荷蓄積制御信号とを生成する。垂直走査部112は、制御部130からの垂直同期信号により、行列状に配置された光電変換素子111の行を順次選択する。水平走査部113は、制御部130からの水平同期信号により、行列状に配置された光電変換素子111の列を順次選択する。A/D変換部114は、垂直走査部112により行を選択され、かつ水平走査部113に列を選択された光電変換素子111に蓄積された信号電荷を順次デジタル信号に変換し、デジタル化した映像信号を出力する。
【0069】
このように、本発明の実施の形態1に係る固体撮像装置100は、単一のCMOSイメージセンサで撮像した2つの映像信号(左画像及び右画像)を出力する。これにより、異なるCMOSイメージセンサで撮像した映像信号に比べて、ばらつきを低減し、エピポーラ性を向上させることができる。ここで、エピポーラ性が高いとは、2つの映像信号の垂直方向のずれ(差分)が少ないことを意味する。
【0070】
図7は、撮像部110が出力する映像信号の画像の一例を示す図である。図7において、画像171a及び171bは、第1撮像領域115で撮像された左画像であり、画像172a及び172bは、第2撮像領域116で撮像された右画像である。例えば、被写体160を撮像した場合、撮像部110は、図7(a)に示す画像171a及び172aを出力する。
【0071】
映像信号保持部123は、撮像部110が出力した左画像の映像信号及び右画像の映像信号を保持する。距離情報算出部124は、映像信号保持部123が保持する左画像の映像信号及び右画像の映像信号から、被写体160の距離情報を算出する。
【0072】
図8は、図7(a)に示す画像に対する距離情報算出部124の処理を説明するための図である。距離情報算出部124は、左画像171aと、右画像172aから被写体160の視差dを算出する。視差dは、左画像171aと、右画像172aにおける被写体160の水平方向のズレ(差分)である。例えば、距離情報算出部124は、左画像171aと、右画像172aの各行のデータを比較し、一致するか否かを判定する。次に、右画像172aの各行のデータを右側にシフトさせ、シフトさせたデータが左画像171aと一致するか否かを判定する。右画像172aの各行のデータを右側にシフトする動作及び左画像171aと一致を判定する処理を繰り返す。信号処理部120は、各行の左画像171aと右画像172aがもっとも類似したときの右画像172aのシフト数を視差dとして算出する。具体的には、距離情報算出部124は、映像信号保持部123が保持する左画像のm(1以上の整数)行の画素を行方向に所定の画素分ずらす処理を所定の回数繰り返す。距離情報算出部124は、所定の回数の処理毎に、ずらしたm行の左画像と、映像信号保持部123が保持する右画像のm行とに含まれる各画素の信号レベルの差分の絶対値を算出する。距離情報算出部124は、所定の回数の処理毎に、算出した差分の絶対値の、n(1以上の整数)列毎の和を算出する。距離情報算出部124は、所定の回数の前記処理毎に、算出した和が、距離情報保持部125が保持している和より小さい場合に、算出した和と、ずらし処理が実行された回数とを距離情報保持部125に保持する。距離情報保持部125は、距離情報算出部124による所定の回数のずらし処理が終了した後に、保持する処理が実行された回数を、視差として外部に出力する。例えば、ずらし処理によるずらし量(通常1画素)をn画素とし、ずらし処理が実行された回数をN回とし、画素ピッチをPxとした場合には、視差ZはZ=n×N×Pxで算出される。なお、距離情報算出部124のずらし処理によるずらし量は、外部からの入力により設定されてもよい。これにより、任意のずらし量を設定し、視差の精度及び処理時間を任意に設定することができる。
【0073】
以下に、信号処理部120の具体的な動作を説明する。
図9は、撮像部110の左画像及び右画像の光電変換に用いられる光電変換素子111の配置の一例を示す図である。図9に示すように、24行×24列の光電変換素子111に対し、第1列から第12列を、左画像を撮像する第1撮像領域115とし、第13列から第24列を、右画像を撮像する第2撮像領域116とした場合の信号処理部120の動作を説明する。図9に示すように、複数の光電変換素子111の第1列〜第12列が、左画像の第1列〜第12列に対応し、複数の光電変換素子111の第13列〜第24が、右画像の第1列〜第12列に対応する。
【0074】
まず、A/D変換部114は、第1行及び第2行の光電変換素子111の蓄積電荷をA/D変換し、映像信号保持部123に保持する。すなわち、映像信号保持部123は、左画像及び右画像の第1行及び第2行に対応する映像信号を保持する。
【0075】
次に、距離情報算出部124は、映像信号保持部123が保持する右画像及び左画像の第1行及び第2行の映像信号から、視差を算出する。
【0076】
図10は、信号処理部120による視差の算出の処理の流れを示すフローチャートである。図11及び図12は、距離情報算出部124による、視差の算出処理を説明するための図である。図11(a)に示すような右画像及び左画像の映像信号が読み出され、映像信号保持部123に保持された場合について説明する。なお、図中の枠内の数値は、映像信号の信号レベルを示し、例えば、入射光の輝度に対応した値である。
【0077】
距離情報算出部124は、例えば、2行の映像信号の12列の映像信号を4列毎の3つの領域A、B及びCに分割し、それぞれの領域に対して、視差を算出する。すなわち、距離情報算出部124は、2行×4列の画素毎に視差を算出する。まず、距離情報算出部124は、図12(a)に示すように、左画像の各画素の信号レベル301と、右画像の各画素の信号レベル302の差分の絶対値303を算出する(S101)。次に、距離情報算出部124は、各領域A、B及びCにおける差分の絶対値303の合計値304を算出する(S102)。例えば、図12(a)に示すように、各領域A、B及びCの合計値304として「6」、「14」及び「14」が算出される。距離情報算出部124は、算出した合計値304を距離情報保持部125に保持する(S103)。
【0078】
図13は、信号処理部120の視差の算出処理において、距離情報保持部125に保持されるデータの一例を示す図である。距離情報算出部124により、図12(a)に示す合計値304が算出された場合、距離情報保持部125に、図13(a)に示すクロック数311として「0」が保持され、各領域A、B及びCの合計値304の最小値312として「6」、「14」及び「14」が保持される。ここで、クロック数311は、左画像のシフト動作が行われた回数に対応する。
【0079】
次に、距離情報算出部124は、図11(b)に示すように、左画像を左方向(又は右画像を右方向)に1画素シフトさせる(S104)。距離情報算出部124は、右画像と、シフトさせた左画像との差分の絶対値を算出する(S105)。距離情報算出部124は、各領域A、B及びCにおける差分の絶対値303の合計値304を算出する(S106)。例えば、図12(b)に示すように、各領域A、B及びCの合計値304として「8」、「20」及び「20」が算出される。
【0080】
次に、距離情報算出部124は、距離情報保持部125に保持される各領域A、B及びCの合計値の最小値312(図13(a))と、算出した合計値304とを比較する。算出した各領域の合計値「8」、「20」及び「20」は、距離情報保持部125に保持される各領域の合計値「6」、「14」及び「14」より大きいので(S107でNo)、距離情報算出部124は、距離情報保持部125に保持されるクロック数311及び差分の合計値の最小値312を変更せずに、保持する。よって、距離情報保持部125には、図13(a)に示すクロック数311及び差分の合計値の最小値312が保持される(図13(b))。
【0081】
次に、距離情報算出部124は、所定の回数のシフト動作が行われたか否かを判定する。なお、ここでは、所定の回数が「4」の場合について説明する。シフト回数は「1」であり所定の回数(4回)のシフト動作が行われていないので(S109でNo)、距離情報算出部124は、図11(c)に示すように、左画像を左方向に1画素シフトさせる(S104)。距離情報算出部124は、右画像と、シフトさせた左画像との差分の絶対値を算出する(S105)。距離情報算出部124は、各領域A、B及びCにおける差分の絶対値303の合計値304を算出する(S106)。例えば、図12(c)に示すように、各領域A、B及びCの合計値304として「0」、「14」及び「20」が算出される。
【0082】
次に、距離情報算出部124は、距離情報保持部125に保持される各領域A、B及びCの合計値の最小値312(図13(b))と、算出した合計値304とを比較する。算出した領域Aの合計値「0」は、距離情報保持部125に保持される領域Aの合計値「6」より小さいので(S107でYes)、距離情報算出部124は、距離情報保持部125に保持される領域Aのクロック数311を、現在のクロック数(シフト回数)「2」に更新し、差分の合計値の最小値312を算出した合計値「0」に更新する。また、算出した領域Bの合計値「14」は、距離情報保持部125に保持される領域Bの合計値「14」と等しく、算出した領域Cの合計値「20」は、距離情報保持部125に保持される領域Cの合計値「14」より大きいので(S107でNo)、距離情報算出部124は、距離情報保持部125に保持される領域B及びCのクロック数311及び差分の合計値の最小値312を変更せずに、保持する。よって、距離情報保持部125には、図13(c)に示すクロック数311及び差分の合計値の最小値312が保持される。なお、距離情報算出部124が算出した合計値304と、距離情報保持部125に保持される合計値の最小値312が等しい場合に、距離情報保持部125に保持されるクロック数311を更新してもよい。
【0083】
シフト回数は「2」であり、所定の回数(4回)のシフト動作が行われていないので(S109でNo)、距離情報算出部124は、図11(d)に示すように、左画像を左方向に1画素シフトさせる(S104)。距離情報算出部124は、右画像と、シフトさせた左画像との差分の絶対値を算出する(S105)。距離情報算出部124は、各領域A、B及びCにおける差分の絶対値303の合計値304を算出する(S106)。例えば、図12(d)に示すように、各領域A、B及びCの合計値304として「8」、「0」及び「0」が算出される。
【0084】
次に、距離情報算出部124は、距離情報保持部125に保持される各領域A、B及びCの合計値の最小値312(図13(c))と、算出した合計値304とを比較する。算出した領域Aの合計値「8」は、距離情報保持部125に保持される領域Aの合計値「0」より大きいので(S107でNo)、距離情報算出部124は、距離情報保持部125に保持される領域Aのクロック数311及び差分の合計値の最小値312を変更せずに、保持する。また、算出した領域B及びCの合計値「0」及び「0」は、距離情報保持部125に保持される領域B及びCの合計値「14」及び「14」より小さいので(S107でYes)、距離情報算出部124は、距離情報保持部125に保持される領域B及びCのクロック数311を、現在のクロック数(シフト回数)を「3」に更新し、差分の合計値の最小値312を算出した合計値「0」に更新する。よって、距離情報保持部125には、図13(d)に示すクロック数311及び差分の合計値の最小値312が保持される。
【0085】
シフト数は「3」であり、所定の回数(4回)のシフト動作が行われていないので(S109でNo)、距離情報算出部124は、図11(e)に示すように、左画像を左方向にシフト1画素させる(S104)。距離情報算出部124は、右画像と、シフトさせた左画像との差分の絶対値を算出する(S105)。距離情報算出部124は、各領域A、B及びCにおける差分の絶対値303の合計値304を算出する(S106)。例えば、図12(e)に示すように、各領域A、B及びCの合計値304として「13」、「20」及び「10」が算出される。
【0086】
次に、距離情報算出部124は、距離情報保持部125に保持される各領域A、B及びCの合計値(図13(d))と、算出した合計値304とを比較する。算出した各領域の合計値「13」、「20」及び「10」は、距離情報保持部125に保持される各領域の合計値「0」、「0」及び「0」より大きいので(S107でNo)、距離情報算出部124は、距離情報保持部125に保持される各領域のクロック数311及び差分の合計値の最小値312を変更せずに、保持する。よって、距離情報保持部125には、図13(e)に示すクロック数311及び差分の合計値の最小値312が保持される。
【0087】
シフト数は「4」であり、所定の回数(4回)のシフト動作が行われたので(S109でYes)、距離情報保持部125は、保持するクロック数311を、視差として出力する。
【0088】
次に、信号処理部120は、右画像及び左画像の第3行及び第4行の映像信号を読出し、読出した映像信号に対して同様の視差算出処理を行う。さらに、信号処理部120は、右画像及び左画像の第5行〜第24行の映像信号を読出し、読出した映像信号に対して同様の視差算出処理を行う。
【0089】
以上の処理により、信号処理部120は、右画像及び左画像から2行×4列の画素毎に視差を算出し出力する。
【0090】
以上より、本発明の実施の形態1に係る固体撮像装置100は、撮像部110と、撮像部で撮像された第1映像信号及び第2映像信号から被写体までの距離に関する情報を算出する信号処理部120とが同一の半導体基板に形成される。これにより、撮像部110と信号処理部120との間の配線を短くすることができる。よって、ノイズに対する耐性を向上させることができる。また、撮像部110が出力する映像信号(右画像及び左画像)の伝送速度を向上させることができる。さらに、右画像及び左画像は、単一の撮像部110により撮像されるので、右画像と左画像とのばらつきを低減することができる。これにより、信号処理部120は、被写体までの距離に関する情報を高精度かつ効率よく算出することができる。また、映像信号(右画像及び左画像)と、被写体までの距離に関する情報(視差)とを外部に出力することができる。
【0091】
なお、信号処理部120は、映像信号121及び距離情報122をパラレルに出力してもよいし、共通の端子からシリアルに出力してもよい。さらに、信号処理部120は、映像信号121及び距離情報(視差)122とを個別に出力しているが、左画像又は右画像に視差の情報を付与して出力してもよい。さらに、左画像及び右画像を合成して出力してもよい。さらに、信号処理部120は、算出した視差とから固体撮像装置100から被写体160への距離を算出し、距離情報122として出力してもよい。
【0092】
また、上記説明では、24行×24列の光電変換素子111が配置された場合について説明したが、光電変換素子111の数(画素数)は、これに限定されるものではない。
【0093】
また、上記説明では、2行×4列の画素毎に、視差を算出する例について説明したが、視差を算出する画素の範囲は、これに限定されるものではない。
【0094】
また、上記説明では、ステップS101及びS105において、左画像と右画像との各画素の信号レベルの差分の絶対値を算出し、ステップS102及びS106において、各画素の差分の合計値を算出しているが、以下の処理に置き換えてもよい。各領域A、B及びC毎に、左画像の複数の画素の信号レベルを加算し、上述した信号レベル301に置き換える。右画像も同様に、各領域A、B及びC毎に、複数の画素の信号レベルを加算し、上述した信号レベル302に置き換える。各領域A、B及びC毎に、差分の絶対値を算出し、上述した合計値304に置き換えて、その後、同様の処理を行ってもよい。これにより、細密な高画素の撮像素子を用いた場合に、一定の距離情報の精度を保ちながら計算処理量を削減することができる。
【0095】
また、上記説明では、ステップS104において1画素ずつシフトさせる処理を行ったが複数画素ずつシフトさせる処理を行ってもよい。
【0096】
ここで、図7(b)に示すように、左画像171bと、右画像172bとが垂直方向にズレが生じている(エピポーラ性が悪い)場合、一致を比較する各行において、ズレにより画像が一致しないため、距離情報算出部124の視差dの算出処理における精度が低下する。また、左画像と右画像とが水平方向にずれている場合は、ズレに相当する画素分、視差dの精度が低下する。本発明の実施の形態1に係る固体撮像装置100では、上述したように、単一のCMOSイメージセンサで右画像と左画像とを撮像することで、右画像と左画像との水平方向及び垂直方向のズレを低減することができる。これにより、視差dの算出精度を向上させることができる。また、撮像面において高いエピポーラ性が得られるとともに、右画像及び左画像の光電変換特性も同じであるため視差dを精度高く容易に算出することができる。
【0097】
また、上記説明において、第1撮像領域115及び第2撮像領域116は、図2に示すよう複数の光電変換素子111を、右左(水平方向)に分割するように配置されているが、上下(垂直方向)に分割するように配置してもよい。
【0098】
また、上記説明において、フィルタ152はレンズ150の上部に形成され、フィルタ153は、レンズ151の上部に形成されるとしたが、フィルタ152はレンズ150の下部に形成され、フィルタ153は、レンズ151の下部に形成されてもよい。
【0099】
また、上記説明において、撮像部110及び信号処理部120の構成として、図2に示す構成を説明したが、図14に示す構成としてもよい。図14は、本発明の実施の形態1に係る固体撮像装置100の撮像部110及び信号処理部120の変形例の構成を示す図である。例えば、図14に示すように、撮像部110は、行列状に配置された光電変換素子111の各列の光電変換素子111が光電変換した信号電荷をそれぞれデジタル信号に変換するA/D変換部117を備えてもよい。すなわち、A/D変換部117は、各行に配置された複数の光電変換素子111が光電変換した信号電荷を同時にA/D変換する機能を有する。各列の信号電荷をデジタル信号に変換するA/D変換部117を備えることにより、高速にA/D変換を行うことができる。これにより、撮像部110からの読出し処理を高速に行うことができる。また、各行の信号電荷を同時に読み出すことができるので、信号処理部120における行単位の視差算出処理を効率よく行うことができる。
【0100】
また、上記説明において、フィルタ154は、第1の周波数帯域の光のみを透過するとしたが、第1の周波数帯域に含まれる周波数帯域のみを透過してもよい。すなわち、フィルタ152は、第1の周波数帯域(例えば、波長750nm〜850nm)の光のみを透過し、第1のフィルタ154は、第1の周波数帯域に含まれる周波数帯域(例えば、波長770nm〜830nm)の光のみを透過してもよい。さらに、フィルタ154は、透過率が低い周波数帯域として、第1の周波数帯域に含まれない周波数帯域を透過してもよい。例えば、フィルタ154は、透過率30%以下であれば、第1の周波数帯域(例えば、波長750nm〜850nm)に含まれない帯域を含む広帯域な周波数特性(例えば、波長700nm〜900nm)を有してもよい。
【0101】
同様に、フィルタ155は、第2の周波数帯域に含まれる周波数帯域のみを透過してもよい。さらに、フィルタ155は、透過率が低い周波数帯域として、第2の周波数帯域に含まれない周波数帯域を透過してもよい。
【0102】
また、上記説明では、第1の周波数帯域と、第2の周波数帯域とは、互いに重複しない異なる周波数帯域であるとしたが、第1の周波数帯域の一部と、第2の周波数帯域の一部とが重複してもよい。例えば、フィルタ152が透過する周波数帯域の透過率が50%以下の領域が、フィルタ153が透過する周波数帯域の一部に含まれてもよい。
【0103】
また、上記説明において、信号処理部120は、撮像部110で撮像された右画像及び左画像を出力するとしたが、算出した視差に基づき右画像及び左画像の一部を置き換えて出力してもよい。例えば、信号処理部120は、距離情報保持部125が保持する視差と、所定の範囲とを比較し、視差が所定の範囲に含まれない場合には、該視差に対応する右画像及び左画像を所定の画像(所定の画素信号又は固定値(黒又は白等))に置き換えて出力してもよい。これにより、視差の値が所定の範囲外の場合(例えば、被写体が離れている場合)には、対応する画像を黒塗り等に置き換えることで、所定の距離内の対象物(被写体)のみが表示された画像が出力される。
【0104】
(実施の形態2)
上述した実施の形態1に係る固体撮像装置100は、異なる波長の光を透過するフィルタ152〜155を用いることにより、第1撮像領域115及び第2撮像領域116に入射する光を制御している。しかしながら、2つの第1撮像領域115及び第2撮像領域116に入射する光は、それぞれ波長が異なるため、出力される映像信号の画像に差が生じる。
【0105】
本発明の実施の形態2に係る固体撮像装置は、2つの撮像領域に加え、さらに、補正を行うための撮像領域を備える。これにより、撮像した映像信号の補正を行い、2つの撮像領域が出力する画像の差を低減することができる。
【0106】
まず、本発明の実施の形態2に係る固体撮像装置の構成を説明する。
図15は、本発明の実施の形態2に係る固体撮像装置の構成を示す図である。なお、図1と同様の要素には同一の符号を付しており、詳細な説明は省略する。
【0107】
図15に示す固体撮像装置200は、図1に示す実施の形態1に係る固体撮像装置100に対して、半導体装置201の構成と、レンズ240とを備える点とが異なる。半導体装置201は、半導体装置101に対して、さらに、平均値算出部220と、画像補正部230とを備える。また、半導体装置201は、半導体装置101に対して、撮像部210の構成が異なる。
【0108】
図16は、撮像部210の構成を示す図である。撮像部210は、複数の光電変換素子111と、垂直走査部112と、水平走査部113と、A/D変換部114とを備える。なお、図2と同様の要素には同一の符号を付しており、詳細な説明は省略する。
【0109】
複数の光電変換素子111は、第1撮像領域115、第2撮像領域116又は第3撮像領域211に含まれる。例えば、第1撮像領域115に含まれる光電変換素子111と、第2撮像領域116に含まれる光電変換素子111と、第3撮像領域211に含まれる光電変換素子111とは、同数である。第1撮像領域115に含まれる複数の光電変換素子111は、レンズ150で集光された光を光電変換する。第2撮像領域116に含まれる複数の光電変換素子111は、レンズ151で集光された光を光電変換する。第3撮像領域211に含まれる光電変換素子111は、レンズ240で集光された光を光電変換する。なお、図16において6行×6列の光電変換素子111が配置されているが、光電変換素子111の数は、これに限定されるものではない。
【0110】
レンズ240は、被写体160からの反射光を第3撮像領域211に集光する。
図17は、第1撮像領域115、第2撮像領域116及び第3撮像領域211の断面構造を模式的に示す図である。なお、第1撮像領域115、第2撮像領域116、レンズ150、151及びフィルタ152〜155の構成は図3に示す実施の形態1の構成と同様であり、詳細な説明は省略する。図17に示すように、固体撮像装置200は、さらに、フィルタ241及び242を備える。また、第3撮像領域211は、第1撮像領域115と第2撮像領域116との間に配置される。
【0111】
フィルタ241及び242は、多層膜干渉フィルタであり、例えば、上述した実施の形態1と同様に図5に示す構造である。被写体160からの反射光は、フィルタ241、レンズ240及びフィルタ242からなる光入射経路により、第3撮像領域211に入射される。フィルタ241は、レンズ240の上部に形成される。フィルタ241は、フィルタ152及び154が透過する第1の周波数帯域(例えば、波長750nm〜850nm)と、フィルタ153及び155が透過する第2の周波数帯域(例えば、波長950nm〜1050nm)とを含む第3の周波数帯域(例えば、750nm〜1050nm)の光を透過する。すなわち、フィルタ241及びレンズ240により、第3の周波数帯域の光は第3撮像領域211に集光される。フィルタ242は、第3撮像領域211上に形成される。
【0112】
図18は、フィルタ242を上面から見た構成を模式的に示す図である。図18に示すようにフィルタ242は、第1の周波数帯域の光を透過するフィルタ243と、第2の周波数帯域の光を透過するフィルタ244とを含む。フィルタ243及び244は、例えば、格子状に配置される。なお、フィルタ243及び244の配置は、格子状に限定されるものではなく、例えば、行方向又は列方向にストライプ状であってもよいし、複数の光電変換素子111が配置される領域を2分するように配置してもよい(例えば、図18における右半分にフィルタ243を配置し、左半分にフィルタ244を配置してもよい。)。また、各フィルタ243及び244は、第3撮像領域211の複数の光電変換素子111にそれぞれ対応し、複数の光電変換素子111上にそれぞれ形成されている。
【0113】
平均値算出部220は、第3撮像領域211が出力する各画素の信号の平均値を算出する。具体的には、平均値算出部220は、フィルタ243に対応する光電変換素子111が光電変換した信号の平均値y1と、フィルタ244に対応する光電変換素子111が光電変換した信号の平均値y2とを算出する。
【0114】
画像補正部230は、平均値算出部220が算出した平均値y1及びy2に基づき、第1撮像領域115及び第2撮像領域116が出力する映像信号の各画素の信号を補正する。具体的には、画像補正部230は、第1撮像領域115が出力する映像信号の各画素の信号Y1に対して、下記(式1)で示される演算を行い補正後の各画素の信号Y11を算出する。
【0115】
Y11=Y1×(y2/y1) ・・・(式1)
【0116】
または、画像補正部230は、第2撮像領域116が出力する映像信号の各画素の信号Y2に対して、下記(式2)で示される演算を行い補正後の各画素の信号Y22を算出してもよい。
【0117】
Y22=Y2×(y1/y2) ・・・(式2)
【0118】
次に、固体撮像装置200の動作を説明する。
【0119】
光源140から照射された近赤外光は、被写体160で反射される。被写体160で反射した反射光は、フィルタ152により第1の周波数帯域の光のみが透過し、レンズ150で集光され、フィルタ154を介して第1撮像領域115に照射される。また、被写体160で反射した反射光は、フィルタ153により第2の周波数帯域の光のみが透過し、レンズ151で集光され、フィルタ155を介して第2撮像領域116に照射される。また、被写体160で反射した反射光は、フィルタ241により第1の周波数帯域及び第2の周波数帯域を含む第3の周波数帯域の光のみが透過し、レンズ240で集光され、フィルタ242を介して第3撮像領域211に照射される。
【0120】
第1撮像領域115は、第1の周波数帯域の光を光電変換し、映像信号Y1を出力する。第2撮像領域116は、第2の周波数帯域の光を光電変換し、映像信号Y2を出力する。第3撮像領域211のフィルタ243の下部に形成された光電変換素子111は、第1の周波数帯域の光を光電変換し、信号を出力する。第3撮像領域211のフィルタ244の下部に形成された光電変換素子111は、第2の周波数帯域の光を光電変換し、信号を出力する。
【0121】
平均値算出部220は、第3撮像領域211が出力するフィルタ243に対応する光電変換素子111の信号の平均値y1と、フィルタ244に対応する光電変換素子111の信号の平均値y2とを算出する。
【0122】
画像補正部230は、上記(式1)により、平均値算出部220が算出した平均値y1及びy2とから、第1撮像領域115が出力する映像信号Y1に補正を行い、補正後の映像信号Y11を出力する。なお、画像補正部230は、上記(式1)による補正を行わず、上記(式2)により、平均値算出部220が算出した平均値y1及びy2とから、第2撮像領域116が出力する映像信号Y2に補正を行い、補正後の映像信号Y22を出力してもよい。
【0123】
信号処理部120は、補正後の映像信号Y11を左画像とし、第2撮像領域116が出力する映像信号Y2を右画像として、左画像と右画像との視差dを算出する。なお、信号処理部120は、第1撮像領域115が出力する映像信号Y1を左画像とし、補正後の映像信号Y22を右画像として、左画像と右画像との視差dを算出もよい。また、信号処理部120における視差dの算出は、実施の形態1と同様であり、説明は省略する。信号処理部120は、左画像と、右画像と、算出した視差dの情報とを外部に出力する。
【0124】
以上より、本発明の実施の形態2に係る固体撮像装置200は、第3撮像領域211で光電変換した、第1の周波数帯域の光に対応する信号の平均値y1と、第2の周波数帯域の光に対応する信号の平均値y2とを用いて、第1撮像領域115及び第2撮像領域116で撮像された映像信号に補正を行う。これにより、第1撮像領域115及び第2撮像領域116に入射される光の周波数帯域の差により生じる、第1撮像領域115及び第2撮像領域116が出力する映像信号の差を低減することができる。
【0125】
なお、上記説明において、第3撮像領域211は、第1撮像領域115と第2撮像領域116との間に形成されるとしたが、第3撮像領域211を配置する位置はこれに限定されるものではない。例えば、図17における第1撮像領域115の左側、又は、図17における第2撮像領域116の右側に形成してもよい。
【0126】
また、上記説明において、第1撮像領域115、第2撮像領域116及び第3撮像領域211は、単一のCMOSイメージセンサとして形成される例を説明したが、第3撮像領域211は、第1撮像領域115及び第2撮像領域116とを含むCMOSイメージセンサとは、別のCMOSイメージセンサとして形成されてもよい。
【0127】
また、上記説明において、固体撮像装置200は、レンズ240の上部に第1の周波数帯域及び第2の周波数帯域を含む第3の周波数帯域の光を透過するフィルタ241を備えるとしたが、フィルタ241はレンズ240の下部に形成されてもよい。さらに、フィルタ241を備えなくともよい。
【0128】
また、上記説明において、画像補正部230は、上記(式1)又は(式2)に示す演算を行うとしたが、上記(式1)又は(式2)に示す演算に加え、所定の定数倍及び所定の値の加算のうち少なくとも一方を行ってもよい。
【0129】
また、上記説明において、平均値算出部220は、第3撮像領域211が出力するフィルタ243に対応する光電変換素子111の信号の平均値y1と、フィルタ244に対応する光電変換素子111の信号の平均値y2とを算出するとしたが、平均値算出部220は、第3撮像領域211が出力するフィルタ243に対応する光電変換素子111の信号のうち、最大及び最小の信号を除いた信号の平均値y11と、フィルタ244に対応する光電変換素子111の信号のうち、最大及び最小の信号を除いた信号の平均値y22とを算出してもよい。さらに、画像補正部230は、上記(式1)又は(式2)の平均値y1及びy2の代わりに最大及び最小の信号を除いた信号の平均値y11及びy22を用いて演算を行ってもよい。これにより、白キズ,黒キズなどの画素欠陥による精度の低下を低減することができる。
【0130】
また、上記説明において、第3撮像領域211の構成は、第1撮像領域115及び第2撮像領域116と同様であるとしたが、第3撮像領域211の構成は第1撮像領域115及び第2撮像領域116と異なってもよい。例えば、第3撮像領域211が備える光電変換素子111の数は、第1撮像領域115及び第2撮像領域116が備える光電変換素子111の数と異なってもよい。また、第3撮像領域211が備える光電変換素子111は、2次元状(行列状)に配置されず、1次元状に配置されてもよい。
【0131】
また、上記実施の形態1及び2における説明では、本発明を車両に搭載された近赤外光を用いた暗視機能を有するカメラに適用した実施例について説明したが、車両に搭載された近赤外光を用いた暗視機能を有するカメラ以外にも、撮像被写体までの距離情報を出力するカメラとして適用することができる。例えば、本発明に係る固体撮像装置は、監視装置に用いられるカメラ及びTV電話のカメラ等に適用することができる。
【0132】
また、上記実施の形態1及び2における説明では、固体撮像装置は、近赤外光を照射する光源140を備えるとしたが、光源140は、近赤外光以外の光を照射してもよい。例えば、光源140は、可視光を照射してもよい。この場合、上述した第1の周波数帯域及び第2の周波数帯域は、可視光内の、互いに重複しない異なる周波数帯域であればよい。さらに、暗視機能を必要としない場合には、固体撮像装置は、光源140を備えなくともよい。
【産業上の利用可能性】
【0133】
本発明は、固体撮像装置に適用でき、特に、車載用のカメラ、監視カメラ及びTV電話のカメラ等に適用できる。
【図面の簡単な説明】
【0134】
【図1】本発明の実施の形態1に係る固体撮像装置の構成を示す図である。
【図2】本発明の実施の形態1に係る固体撮像装置の撮像部及び信号処理部の構成を示す図である。
【図3】本発明の実施の形態1に係る固体撮像装置の撮像部の断面構造を模式的に示す図である。
【図4】本発明の実施の形態1に係る固体撮像装置のフィルタの断面構造を模して気的に示す図である。
【図5】本発明の実施の形態1に係る固体撮像装置のフィルタの光の波長に対する光の透過率を示す図である。
【図6】本発明の実施の形態1に係る固体撮像装置のフィルタの光の波長に対する光の透過率を示す図である。
【図7】本発明の実施の形態1に係る固体撮像装置の撮像部が出力する映像信号の一例を示す図である。
【図8】本発明の実施の形態1に係る固体撮像装置の信号処理部の処理を説明するための図である。
【図9】本発明の実施の形態1に係る固体撮像装置の左画像及び右画像の光電変換に用いられる光電変換素子の配置の一例を示す図である。
【図10】本発明の実施の形態1に係る固体撮像装置の信号処理部による距離情報の算出の処理の流れを示すフローチャートである。
【図11】本発明の実施の形態1に係る固体撮像装置の距離情報算出部による距離情報の算出処理を説明するための図である。
【図12】本発明の実施の形態1に係る固体撮像装置の距離情報算出部による距離情報の算出処理を説明するための図である。
【図13】本発明の実施の形態1に係る固体撮像装置の距離情報算出部の距離情報の算出処理において距離情報保持部に保持されるデータの一例を示す図である。
【図14】本発明の実施の形態1に係る固体撮像装置の撮像部及び信号処理部の変形例の構成を示す図である。
【図15】本発明の実施の形態2に係る固体撮像装置の構成を示す図である。
【図16】本発明の実施の形態2に係る固体撮像装置の撮像部の構成を示す図である。
【図17】本発明の実施の形態2に係る固体撮像装置の撮像部の断面構造を模式的に示す図である。
【図18】本発明の実施の形態2に係る固体撮像装置のフィルタ242の構成を示す図である。
【図19】従来の固体撮像装置の構成を示す図である。
【符号の説明】
【0135】
100、200、1000 固体撮像装置
101、201 半導体装置
110、210 撮像部
111 光電変換素子
112 垂直走査部
113 水平走査部
114、117 A/D変換部
115 第1撮像領域
116 第2撮像領域
120 信号処理部
121 映像信号
122 距離情報
123 映像信号保持部
124 距離情報算出部
125 距離情報保持部
130 制御部
140 光源
150、151、240 レンズ
152、153、154、155、241、242、243、244 フィルタ
160 被写体
161 上部反射層
162 スペーサ層
163 下部反射層
164 TiO2
165 SiO2
166、167 反射層
168 多層膜干渉フィルタ
171a、171b 左画像
172a、172b 右画像
211 第3撮像領域
220 平均値算出部
230 画像補正部
1001、1002 カメラ

【特許請求の範囲】
【請求項1】
第1撮像領域と第2撮像領域とを含む領域に行列状に配置された複数の光電変換素子を備える撮像部と、
前記第1撮像領域へ光を導いて入射させる第1光入射部と、
前記第1光入射部と離間して設けられ、前記第2撮像領域へ光を導いて入射させる第2光入射部と、
前記第1撮像領域に配置された複数の光電変換素子が光電変換した信号電荷を電圧又は電流に変換し、変換した電圧又は電流を第1映像信号として出力し、前記第2撮像領域に配置された複数の光電変換素子が光電変換した信号電荷を電圧又は電流に変換し、変換した電圧又は電流を第2映像信号として出力する出力手段と、
前記出力手段が出力する前記第1映像信号及び前記第2映像信号から、被写体までの距離に関する情報を算出する算出手段とを備え、
前記撮像部と、前記出力手段と、前記算出手段とは、同一の半導体基板に形成される
ことを特徴とする固体撮像装置。
【請求項2】
前記算出手段は、
前記出力手段が出力する前記第1映像信号及び前記第2映像信号を保持する第1保持手段と、
前記第1保持手段が保持する前記第1映像信号及び前記第2映像信号から、前記被写体に対する視差を算出する視差算出手段と、
前記視差算出手段が算出した前記視差を保持する第2保持手段とを備える
ことを特徴とする請求項1記載の固体撮像装置。
【請求項3】
前記視差算出手段は、
前記第1保持手段が保持する前記第1映像信号のm(1以上の整数)行の画素を行方向に所定の画素分ずらす処理を所定の回数繰り返すずらし手段と、
前記ずらし手段による所定の回数の前記処理毎に、前記ずらし手段がずらしたm行の映像信号と、前記第1保持手段が保持する前記第2映像信号のm行とに含まれる各画素の信号レベルの差分の絶対値を算出する差分算出手段と、
前記ずらし手段による所定の回数の前記処理毎に、前記差分算出手段が算出した差分の絶対値の、n(1以上の整数)列毎の和を算出する加算手段と、
前記ずらし手段による所定の回数の前記処理毎に、前記加算手段が算出した和が、前記第2保持手段が保持している和より小さい場合に、前記加算手段が算出した和と、前記ずらし手段による前記処理が実行された回数とを前記第2保持手段に保持する制御手段とを備え、
前記第2保持手段は、前記ずらし手段による所定の回数の前記処理が終了した後に、保持する前記処理が実行された回数を、前記視差として出力する
ことを特徴とする請求項2記載の固体撮像装置。
【請求項4】
前記視差算出手段は、外部から入力されたm1(1以上の整数)行×n1(1以上の整数)列毎に、前記視差を算出し、
前記ずらし手段は、前記第1保持手段が保持する前記第1映像信号のm1行の画素を行方向に所定の画素分ずらす処理を所定の回数繰り返し、
前記差分算出手段は、前記ずらし手段による所定の回数の前記処理毎に、前記ずらし手段がずらしたm1行の映像信号と、前記第1保持手段が保持する前記第2映像信号のm1行とに含まれる各画素の信号レベルの差分の絶対値を算出し、
前記加算手段は、前記ずらし手段による所定の回数の前記処理毎に、前記差分算出手段が算出した差分絶対値の、n1列毎の和を算出する
ことを特徴とする請求項3記載の固体撮像装置。
【請求項5】
前記第1光入射部は、
第1の周波数帯域の光を前記第1撮像領域に集光する第1集光手段と、
前記第1撮像領域上に形成され、前記第1の周波数帯域に含まれる第3の周波数帯域の光を透過する第1のフィルタとを備え、
前記第2光入射部は、
前記第1の周波数帯域と異なる第2の周波数帯域の光を前記第2撮像領域に集光する第2集光手段と、
前記第2撮像領域上に形成され、前記第2の周波数帯域に含まれる第4の周波数帯域の光を透過する第2のフィルタとを備える
ことを特徴とする請求項1〜4のいずれか1項に記載の固体撮像装置。
【請求項6】
前記固体撮像装置は、さらに、
行列状に配置された複数の光電変換素子を備える第3撮像領域と、
前記第3撮像領域へ光を導いて入射させる第3光入射部とを備え、
前記第3光入射部は、
前記第1の周波数帯域及び前記第2の周波数帯域を含む第5の周波数帯域の光を前記第3撮像領域に集光する第3集光手段と、
前記第3撮像領域上に形成される第3のフィルタを備え、
前記第3のフィルタは、
前記第3撮像領域が備える前記複数の光電変換素子に含まれる複数の第1の光電変換素子上に形成され、前記第2の周波数帯域の光を遮断し、前記第3の周波数帯域の光を透過する第4のフィルタと、
前記第3撮像領域が備える前記複数の光電変換素子に含まれる複数の第2の光電変換素子上に形成され、前記第1の周波数帯域の光を遮断し、前記第4の周波数帯域の光を透過する第5のフィルタとを含む
ことを特徴とする請求項5記載の固体撮像装置。
【請求項7】
前記固体撮像装置は、さらに、
前記複数の第1の光電変換素子が光電変換した信号の平均値である第1平均値と、前記複数の第2の光電変換素子が光電変換した信号の平均値である第2平均値とを算出する平均値算出手段と、
前記平均値算出手段が算出した前記第1平均値及び第2平均値の比に基づき、前記第1映像信号及び前記第2映像信号を補正する補正手段とを備える
ことを特徴とする請求項6記載の固体撮像装置。
【請求項8】
前記第1のフィルタ及び前記第2のフィルタは、
第1誘電体層及び第2誘電体層と、
前記第1誘電体層と前記第2誘電体層との間に形成される絶縁体で構成される絶縁体層とを備え、
前記絶縁体層の光学膜厚は、前記第1誘電体層及び前記第2誘電体層の光学膜厚と異なる
ことを特徴とする請求項5記載の固体撮像装置。
【請求項9】
前記固体撮像装置は、さらに、
前記第1周波数帯域及び前記第2周波数帯域を含む周波数帯域の光を被写体に照射する光源を備える
ことを特徴とする請求項5記載の固体撮像装置。
【請求項10】
前記第1周波数帯域及び前記第2周波数帯域は、近赤外領域に含まれる
ことを特徴とする請求項5〜9のいずれか1項に記載の固体撮像装置。
【請求項11】
前記出力手段は、各列の前記光電変換素子が光電変換した信号電荷を、それぞれデジタル信号に変換し前記第1映像信号又は前記第2映像信号として出力する複数の変換手段を備える
ことを特徴とする請求項1〜10のいずれか1項に記載の固体撮像装置。
【請求項12】
前記算出手段は、さらに、
前記第2保持手段が保持する前記視差と、所定の範囲とを比較し、前記視差が所定の範囲に含まれない場合には、該視差に対応する前記第1映像信号及び前記第2映像信号を所定の画像に置き換えて出力する置き換え手段を備える
ことを特徴とする請求項2記載の固体撮像装置。
【請求項13】
請求項1〜12のいずれか1項に記載の固体撮像装置を備える
ことを特徴とするカメラ。
【請求項14】
請求項13記載のカメラを備える
ことを特徴とする車両。
【請求項15】
請求項13記載のカメラを備える
ことを特徴とする監視装置。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7】
image rotate

【図8】
image rotate

【図9】
image rotate

【図10】
image rotate

【図11】
image rotate

【図12】
image rotate

【図13】
image rotate

【図14】
image rotate

【図15】
image rotate

【図16】
image rotate

【図17】
image rotate

【図18】
image rotate

【図19】
image rotate


【公開番号】特開2008−164367(P2008−164367A)
【公開日】平成20年7月17日(2008.7.17)
【国際特許分類】
【出願番号】特願2006−352644(P2006−352644)
【出願日】平成18年12月27日(2006.12.27)
【出願人】(000005821)松下電器産業株式会社 (73,050)
【Fターム(参考)】