撮像方法および撮像装置
【課題】奥行計測用に発光させた光の反射光から被写体を撮像する場合、簡単な回路構成で外光や雑音の影響をなくし計測精度を向上させること。
【解決手段】1フレーム期間内に、2つの露光期間A,Bと、一方の露光期間Bに一致する1つの発光期間と、3つの出力期間C,A,Bを設ける。出力期間Cでは、映像信号を含まないランダム雑音を出力し、出力期間Aでは、露光期間Aの映像信号とランダム雑音とを出力し、出力期間Bでは、露光期間Aの映像信号と露光期間Bの映像信号とランダム雑音とを出力する。出力された3つの期間の信号を演算して、外光による映像信号とランダム雑音を除去して発光のみによる映像信号を取得する。
【解決手段】1フレーム期間内に、2つの露光期間A,Bと、一方の露光期間Bに一致する1つの発光期間と、3つの出力期間C,A,Bを設ける。出力期間Cでは、映像信号を含まないランダム雑音を出力し、出力期間Aでは、露光期間Aの映像信号とランダム雑音とを出力し、出力期間Bでは、露光期間Aの映像信号と露光期間Bの映像信号とランダム雑音とを出力する。出力された3つの期間の信号を演算して、外光による映像信号とランダム雑音を除去して発光のみによる映像信号を取得する。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、撮像方法および撮像装置に係り、特に、発光した光を被写体に照射しその反射光から被写体を撮像する際に好適な撮像方法および撮像装置に関する。
【背景技術】
【0002】
近年、平面パターンを発光させて被写体に照射し、その反射光を撮像して被写体の奥行を計測する装置が商用化され家庭用ゲーム機などに使われている。このような奥行計測装置を車載物体認識装置などとして屋外で使用しようとすると、外光による妨害が大きくなる。さらに遠くの物体では、発光した平面パターンからの照射光および被写体からの反射光が弱くなるため、ランダム雑音などの雑音の影響が無視できなくなる。外光に対するSN比を改善する一般的な方法として、発光をパルス状にしてピークの発光量を増やし、撮像装置のシャッタ機能により発光している期間のみを撮像する方法がある。一般に発光期間を短くするほどその期間の発光量を増すことができるので、その期間のみ受光すれば外光に対するSN比を改善することができる。
【0003】
このパルス発光による撮像方法では、行ごとに露光タイミングがずれるローリングシャッタ機能の撮像装置は使えず、全画素が同じタイミングで露光するグローバルシャッタ機能が必要である。近年、このようなグローバルシャッタ機能を有するCMOS型撮像装置が開発され、例えば特許文献1には、グローバルシャッタ機能を実現する場合に、露光時間が受ける制約を軽減し、迅速な動作で十分な露光時間を確保するための技術が開示されている。
【先行技術文献】
【特許文献】
【0004】
【特許文献1】特開2004−140149号公報
【発明の概要】
【発明が解決しようとする課題】
【0005】
初めに、従来知られているグローバルシャッタ機能について説明する。
図11は、グローバルシャッタ機能を有するCMOS型の撮像装置の第1の従来例を示す回路構成図で、画素部100を中心に描いたものである。フォトダイオード(PD)101で光電変換した信号電荷は、転送ゲート(TG)103を介して浮遊拡散層(FD)102に完全転送される。そして、ソースホロワ増幅器105と行選択ゲート(LS)106により、信号電荷に比例した信号電圧が、電流源201につながっている垂直信号線200に読み出される。その後、AD変換器(ADC)300でディジタル信号に変換され、水平出力回路に出力される。図11の例では、ブルーミング掃き出しゲート(BG)107が設けられており、このゲートの電圧(BG電圧)を高くすることによりフォトダイオード101の信号電荷を掃き出すことができる。その後、転送ゲート103の電圧(TG電圧)にパルスを印加して信号電荷を浮遊拡散層102に転送するが、それまでの期間が露光期間である。BG電圧とTG電圧を、全画素同じパルスで制御することにより全画素の露光タイミングを等しくすることができ、すなわちグローバルシャッタ機能を実現する。リセットゲート(RG)104は、浮遊拡散層102に蓄積されている電荷をリセットするためのものである。
【0006】
図12は、図11の撮像装置の動作の一例を示すタイミングチャートである。時間T1から時間T6が1フレーム期間(例えば17msec)であり、動画像の中の1枚の映像を撮像する期間である。この中で、BGパルスを立ち下げた時間T3からフォトダイオード101へ信号電荷の蓄積が開始し、TGパルスを立ち上げた時に蓄積された信号電荷は浮遊拡散層102に転送され始め、TGパルスが立ち下がった時間T4で転送が完了する。この時、浮遊拡散層102に転送され保持されている信号電荷の露光期間は、T3からT4までの期間ということになる。この浮遊拡散層102の保持する信号電荷の情報は、その後、行毎に順次垂直信号線200に電圧の形で伝送される。すなわち、n行目の画素部100では行選択ゲートLS(n)にパルスが入ったとき、(n+1)行目の画素部100では行選択ゲートLS(n+1)にパルスが入ったとき、順次垂直信号線200にそれぞれの信号情報が伝わり、AD変換器300でディジタル信号に変換された後、水平出力回路を介して出力される。出力は行毎に順番になされるが、露光期間は全ての画素について等しく、グローバルシャッタ機能が実現されている。
【0007】
このようにして、グローバルシャッタ機能を有する撮像装置を用いて露光時間を短くすることにより相対的に外光に対するSN比を改善することができる。しかしながら晴天時の昼間など外光が強い場合に、上記シャッタ動作だけでは外光の影響が無視できず、さらに高性能の外光除去の工夫が必要になる場合がある。また、一般に高速シャッタに伴って信号量が減少するので、ランダム雑音などの雑音をさらに減じる必要が生じる。発光をパルス状にする場合、パルス幅を短くするとピーク光量を増すことができるが、通常、面積は減ることになって、トータルの信号量は減少する。なお、図11の回路で発生するランダム雑音のうち原理的な雑音は、浮遊拡散層102をRGパルスでリセットするときに発生するいわゆる「kTC雑音」である。ここにkはボルツマン定数、Tは絶対温度、Cは浮遊拡散層102の容量であり、ランダム雑音電荷の分散の自乗がkTCという式になることから一般に「kTC雑音」と呼ばれている。
【0008】
図13は、グローバルシャッタ機能を有するCMOS型撮像装置の第2の従来例を示す回路構成図で、前記kTC雑音を抑圧する構成としたものである。前記図11の構成において、フォトダイオード(PD)101と浮遊拡散層(FD)102の間に第2のフォトダイオード(PD2)108と第2の転送ゲート(TG2)109を配している。また垂直信号線200とAD変換器300の間に、第1、第2のサンプルホールド回路(SH1,SH2)202,203と、差動増幅器(AMP)204を配している。この構成では、トランジスタ数が増えて開口率は下がるが、下記のような動作でkTC雑音を抑圧することができる。なお、追加した第2のフォトダイオード(PD2)108は上部を遮光されていて光電変換が行われないが、空乏化して次段に電荷を完全転送できる点でフォトダイオード101と類似の構造になっている。
【0009】
図14は、図13の撮像装置の動作の一例を示すタイミングチャートである。BGパルスを立ち下げた時間T3からフォトダイオード(PD)101へ信号電荷が蓄積し、TGパルスを印加すると蓄積された信号電荷は第2のフォトダイオード(PD2)108に転送され、TGパルスが立ち下がった時間T4では信号電荷の転送が終わって第2のフォトダイオード108で保持されている。時間T3からT4までの期間が露光期間で全画素共通である。この後行毎に順次浮遊拡散層(FD)102、垂直信号線200へと信号を読み出していく。n行目の画素部100では、まず、時間T7までにリセットゲートRG(n)104が低電位になって、順次浮遊拡散層102にkTC雑音が保持されている。そのとき行選択ゲートLS(n)106を高電位にすることにより、このkTC雑音の電圧情報がソースホロワ増幅器105を介して垂直信号線200に伝わる。この時間T7のタイミングにおいて、第1のサンプルホールド回路(SH1)202でサンプルホールドすることによりkTC雑音の電圧情報が保持される。次に、第2の転送ゲートTG2(n)109にパルスを印加することにより、第2のフォトダイオード(PD2)108の信号電荷が浮遊拡散層102に転送され、保持されているkTC雑音電荷と加算される。次の時間T8のタイミングで、この信号+雑音の電圧情報が垂直信号線200に伝わるので、これを第2のサンプルホールド回路(SH2)203でサンプルホールドする。差動増幅器(AMP)204で両者の差を取ることにより、kTC雑音が取り除かれて信号情報だけを出力することができる。
【0010】
以上説明した第1の従来例(図11,図12)によれば、発光パルスの時間幅を狭めて外光の影響を減らすものであるが、kTC雑音などの雑音の影響を減じる必要がある。また第2の従来例(図13、図14)によればkTC雑音を抑圧することができるが、回路構成が複雑でありまた複雑なタイミング制御が必要であった。
【0011】
本発明の目的は、奥行計測用に発光させた光の反射光から被写体を撮像する場合、簡単な回路構成で外光や雑音の影響をなくし計測精度を向上させる撮像方法と撮像装置を提供することにある。
【課題を解決するための手段】
【0012】
本発明は、発光させた光を被写体に照射しその反射光から該被写体を撮像する撮像方法において、1フレーム期間内に複数の露光期間を設けてそれぞれの期間にて露光し、該複数の露光期間の中の1つの露光期間に一致する発光期間を設けて発光させ、前記複数の露光期間にて得られたそれぞれの映像信号を出力し、該出力された複数の映像信号を演算して、外光による映像信号を除去し発光のみによる映像信号を取得するものである。
【0013】
また本発明の撮像方法は、1フレーム期間内に露光期間および発光期間を設け、1フレーム期間内に複数の出力期間を設けてそれぞれの期間に得られた信号を出力するものであって、前記複数の出力期間の中の最初の出力期間では、映像信号を含まないランダム雑音を出力し、2回目以降の出力期間では、前記露光期間に得られる映像信号とランダム雑音とを出力し、該出力された複数の出力期間の信号を演算して、ランダム雑音を除去した映像信号を取得するものである。
【0014】
本発明は、発光させた光を被写体に照射しその反射光から該被写体を撮像する撮像装置において、前記被写体からの反射光を光電変換して信号電荷を生成するアレイ状に配置されたフォトダイオード群と、該フォトダイオード群で生成された信号電荷から映像信号を順次読み出す出力回路と、該出力回路からの出力信号を演算する演算回路と、前記フォトダイオード群の露光動作と前記出力回路の読出し動作を制御するパルス群を発生するとともに、発光装置の発光動作を制御するパルス発生回路とを備え、該パルス発生回路は、前記フォトダイオード群に対し1フレーム期間内に複数の露光期間を設けてそれぞれの期間にて露光させ、前記発光装置に対し該複数の露光期間の中の1つの露光期間に一致する発光期間を設けて発光させ、前記出力回路に対し前記複数の露光期間にて得られたそれぞれの映像信号を出力させ、前記演算回路は、前記出力回路から出力された複数の映像信号を演算して、外光による映像信号を除去し発光のみによる映像信号を取得するものである。
【発明の効果】
【0015】
本発明によれば、発光させた光を被写体に照射しその反射光から被写体を撮像する際に、外光の影響を除去し発光のみによる映像信号を取得することができる。さらには、ランダム雑音の影響を簡単な回路構成で除去し、高いSN比の映像信号を取得することができる。これより、屋外にある被写体や遠方の被写体の奥行を精度良く計測することができる。
【図面の簡単な説明】
【0016】
【図1】本発明による撮像方法の典型的な実施例を示すタイミングチャート。
【図2】本発明による撮像装置の典型的な実施例を示す回路構成図。
【図3】撮像方法の第1の実施例を示すタイミングチャート(実施例1)。
【図4】撮像方法の第2の実施例を示すタイミングチャート(実施例2)。
【図5】撮像方法の第3の実施例を示すタイミングチャート(実施例3)。
【図6】実施例3の信号伝送動作を示すポテンシャル図。
【図7】撮像方法の第4の実施例を示すタイミングチャート(実施例4)。
【図8】撮像装置の第5の実施例を示す構成図(実施例5)。
【図9】図8の撮像装置における撮像方法の一実施例を示すタイミングチャート。
【図10】図9のタイミングチャートをより詳細に示した図。
【図11】撮像装置の第1の従来例を示す回路構成図。
【図12】図11の撮像装置の動作の一例を示すタイミングチャート。
【図13】撮像装置の第2の従来例を示す回路構成図。
【図14】図13の撮像装置の動作の一例を示すタイミングチャート。
【発明を実施するための形態】
【0017】
本発明では、撮像装置における映像信号読み出しの際、1フレーム中で発光させた期間に露光した映像信号と、発光させない期間に露光した映像信号とを取得し、それらの演算により外光の影響をなくし、発光させた光の反射だけによる映像を求めるようにした。
【0018】
図1は、本発明による撮像方法の典型的な実施例を示すタイミングチャートである。1フレーム期間(時間T1からT6まで)の中に、1つの発光期間(時間T4からT5まで)と2つの露光期間A(時間T3からT4まで)、B(時間T4からT5まで)を設ける。また信号を出力する期間として、出力期間A(時間T4からT5まで)、出力期間B(時間T5からT6まで)、出力期間C(時間T2からT4まで)の3つを設ける。
【0019】
図1の例では露光期間Aは非発光期間であり、露光期間Aで得られる信号Aは外光のみによる映像信号である。露光期間Bは発光期間に一致させているので、露光期間Bで得られる信号Bは外光および発光による映像信号である。出力に関しては、時間T2で浮遊拡散層102をリセットした後、出力期間Cでランダム雑音(kTC雑音)のみを出力し、時間T4で信号Aを浮遊拡散層102に転送した後、出力期間AでkTC雑音に信号Aを加えた信号を出力し、時間T5で信号Bを浮遊拡散層102に転送した後、出力期間BでkTC雑音と信号Aに信号Bを加えた信号を出力する。
【0020】
これらの出力信号から次のような演算を行う。出力期間Aの出力信号から出力期間Cの出力信号を差し引くことにより、kTC雑音を除いた外光のみによる信号A(露光期間Aの信号)が得られる。また、出力期間Bの出力信号から出力期間Aの出力信号を差し引くことにより、kTC雑音と信号Aを除いた、外光および発光による信号B(露光期間Bの信号)が得られる。信号Aと信号Bの演算により発光のみによる映像信号が得られるが、演算の際には、各出力期間の信号に適度な係数を乗じて差し引けば良く、例えば露光期間Aと露光期間Bの長さが等しい場合には各係数は1になる。なお、発光期間を露光期間Aに一致させた場合も同様の演算で所望の情報を得ることができる。
【0021】
図2は、本発明による撮像装置の典型的な実施例を示す回路構成図である。画素部100の内部構成は前記図11に示した構成と同様であり、画素当たり1個のフォトダイオード(PD)101を有する。撮像素子は、このような画素部(フォトダイオード)がアレイ状に配置されている。各画素から映像信号を読み出す制御機能として、パルス発生回路600を設け画素内にパルス群601を供給する。パルス群601にはBG,TG,RG,LS(n)などのゲート制御パルスを含む。またパルス発生回路600は発光装置700に対し、所定の発光期間だけ発光するように制御信号を送る。発光装置700は撮像装置に内蔵しても外付けでも良い。
【0022】
水平出力回路400は、各列でAD変換した信号を順次出力する。演算回路500は、各画素から出力される複数の映像信号の演算を行い、外光の影響やランダム雑音(kTC雑音)を除去し、奥行計測に必要な発光のみによる映像信号を得る。また場合によっては、外光のみによる映像信号を得て、被写体認識等に用いることもできる。
以下、本発明による複数の実施例を具体的に詳細に説明する。
【実施例1】
【0023】
図3は、本発明の撮像方法の第1の実施例を示すタイミングチャートである。撮像装置は図2の構成とし、パルス発生回路600からゲート制御用のパルス群601を供給する。ゲート制御パルスには、BG(ブルーミング掃き出しゲート)パルス、TG(転送ゲート)パルス、RG(リセットゲート)パルス、LS(行選択ゲート)パルスなどが含まれる。これらのゲートパルスの機能は図11、図12と同様であり、繰り返しの説明は省略する。本実施例では、1フレーム中に2回の露光期間A,Bを設けてそれぞれ独立に読み出すようにした。
【0024】
まず、1回目の露光期間Aとその出力期間Aを説明する。時間T3においてBGパルスを立ち下げて、フォトダイオード101に信号電荷を蓄積し始め、時間T4においてTGパルスを立ち下げて、フォトダイオード101から浮遊拡散層102への信号電荷転送を完了する。この時間T3からT4までの期間が1回目の露光期間(露光期間A)になる。浮遊拡散層102へ転送された信号電荷は、時間T4からT5の期間(出力期間A)において、各画素の対応する行選択ゲートLS(n),LS(n+1),・・・を順次高レベルにすることにより順次垂直信号線200に電圧の形で伝達され、AD変換器300、水平出力回路400を経て出力される。なお、浮遊拡散層102に残留している電荷は、一連の垂直信号線200への信号伝達完了後、適当な時間T9にRGパルスを印加してリセットする。
【0025】
次に、2回目の露光期間Bとその出力期間Bを説明する。時間T4において、フォトダイオード101には新たに信号電荷が蓄積され始め、時間T5において再度TGパルスを立ち下げて、フォトダイオード101から浮遊拡散層102への信号電荷転送を完了する。この時間T4からT5までの期間が2回目の露光期間(露光期間B)となる。浮遊拡散層102へ転送された信号電荷は、時間T5からT6の期間(出力期間B)において、1回目と同様に、LS(n),LS(n+1),・・・を順次高レベルにすることにより順次垂直信号線200に電圧の形で伝達され、AD変換器300、水平出力回路を経て出力される。浮遊拡散層102に残留している電荷は、一連の垂直信号線200への信号伝達完了後、適当な時間T2にRGパルスを印加してリセットする。
【0026】
このように図3の実施例では、1フレーム期間に2つの露光期間A,Bを設定し、それぞれの信号情報を2つの出力期間A,Bに出力する。そして発光期間を例えば露光期間Bに一致させると、出力期間Aの出力信号からは露光期間Aの外光のみによる映像信号が得られ、出力期間Bの出力信号からは露光期間Bの外光と発光による映像信号が得られる。これら2つの出力信号を演算回路500で演算(減算)することにより、外光による映像信号を除去し、発光のみによる映像信号を得ることができる。すなわち、発光期間の反射光を撮像して被写体の奥行を計測する際に、その奥行情報を正確に取得することができる。さらに付随する効果として、露光期間Aの信号から発光の影響のない外光のみによる映像も得られるので、被写体の認識に好適となる。
【実施例2】
【0027】
図4は、本発明の撮像方法の第2の実施例を示すタイミングチャートである。前記実施例1(図3)との変更箇所は、出力期間Aと出力期間Bの間でリセットゲートRGを低レベルのままにして、浮遊拡散層102のリセットを行わない点である。これにより露光期間Aの信号電荷は、出力期間Aで出力した後もリセットされず浮遊拡散層102に保持され、出力期間Bでも再び読み出されることになる。すなわち、出力期間Aの出力信号は露光期間Aの外光による映像信号であるのに対し、出力期間Bの出力信号は、露光期間Bの発光による映像信号と露光期間Bの外光による映像信号に露光期間Aの外光による映像信号が加算されたものになる。実施例1(図3)の場合と同様に、演算回路500によりこれら2つの出力信号を所定の係数を乗じて演算(減算)することで、外光による映像信号を除去し、発光のみによる映像信号を得ることができる。さらに、外光のみによる映像信号も得られるという付随効果もある。本実施例の構成では、RGパルスを1個減らすことによりタイミング設定の余裕度が増すメリットがある。
【実施例3】
【0028】
図5は、本発明の撮像方法の第3の実施例を示すタイミングチャートである。実施例2(図4)との変更箇所は、時間T2からT4までの間にさらに出力期間Cを追加してkTC雑音を出力させる点である。具体的には、時間T2でRGパルスを印加して浮遊拡散層102をリセットした後、LS(n),LS(n+1),・・・に順次パルスを印加して、浮遊拡散層102で発生するkTC雑音の電圧情報を垂直信号線200へ伝達する。すなわち、この出力期間Cでは映像信号が存在せずkTC雑音のみを出力する。この後実施例2(図4)と同様に、出力期間Aでは露光期間Aの外光による映像信号を、出力期間Bでは露光期間Bの発光および外光による映像信号に露光期間Aの外光による映像信号が加算されたものを出力する。
【0029】
出力期間A、BにおいてkTC雑音を考慮すると、時間T4でTGパルスを印加してフォトダイオード101の信号電荷を浮遊拡散層102に転送したとき、浮遊拡散層102には露光期間Aの信号電荷とkTC雑音が保持される。すなわち出力期間Aでは、上記映像信号(露光期間Aの外光による映像信号)の他にkTC雑音が出力される。同様に出力期間Bでは、上記映像信号(露光期間Bの発光および外光による映像信号、露光期間Aの外光による映像信号)の他にkTC雑音が出力される。これら出力期間A,B,Cの3つの出力信号を演算することにより、kTC雑音を除去した状態で発光のみによる映像信号と外光のみによる映像信号を得ることができる。
【0030】
図6は、本実施例の信号伝送動作を示すポテンシャル図で、図5のタイミングチャートの各時間における撮像素子内部のポテンシャル分布を示す。
【0031】
時間T2ではRGパルスを立ち下げて、FD(浮遊拡散層102)を電源Vddから切断する。このときFDにはkTC雑音404が残留する。この状態でLSパルスを印加しFDから信号を読み出すのが出力期間Cである。またPD(フォトダイオード101)には光電変換により信号電荷401が生成・蓄積されている。
時間T3ではBGパルスを印加し、PDを空乏化させて信号電荷401を電源に掃き出す。BGパルスを立ち下げると、PDには新たに信号電荷402の蓄積が始まる(露光期間A)。
【0032】
時間T4では、TGパルスを印加しPDを空乏化させ、前記T3以降(露光期間A)にPDにて生成された信号電荷402をFDに移送する。この結果FDにはkTC雑音404と信号電荷402が保持される。この状態でLSパルスを印加しFDから信号を読み出すのが出力期間Aである。信号電荷402のFDへの移送が完了すると、PDには新たに信号電荷403の蓄積が始まる(露光期間B)。
時間T5では、再度TGパルスを印加してPDを空乏化させ、前記T4以降(露光期間B)にPDにて生成された信号電荷403をFDに移送する。この結果FDにはkTC雑音404と信号電荷402と信号電荷403が保持される。この状態でLSパルスを印加しFDから信号を読み出すのが出力期間Bである。
【0033】
このようにして、出力期間CではkTC雑音404を、出力期間AではkTC雑音404と信号電荷402を、出力期間BではkTC雑音404と信号電荷402と信号電荷403をそれぞれ出力することができ、後段の演算でそれぞれの信号電荷の情報を分離して取得することができる。
なお、本実施例の撮像方法は前記図1にて典型的な例として説明した通りである。
【実施例4】
【0034】
本発明は、前記図13で述べた画素当たり2個のフォトダイオードを有する構成の撮像装置においても適用できる。
図7は、本発明の撮像方法の第4の実施例を示すタイミングチャートであり、図13の撮像装置に適用した場合である。撮像装置には第2のフォトダイオード(PD2)108と第2の転送ゲート(TG2)109を有するとともに、第1、第2のサンプルホールド回路(SH1,SH2)202,203と差動増幅器(AMP)204により、kTC雑音を取り除いて信号情報だけを出力することができる。
【0035】
本実施例は図14のタイミングチャートと比較し、1フレーム期間に2回の露光期間A,Bとこれに対応する出力期間A,Bを設けている点が異なる。なお図7では、図14で示したRGパルスとTG2パルスとLSパルスの表示を省略している。例えば発光期間を露光期間Bに一致させると、出力期間Aの信号からは外光のみによる映像信号が得られ、出力期間Bの信号からは発光による映像信号と外光による映像信号が得られる。これらの映像信号では、差分増幅器204によりkTC雑音が除去されている。これら2つの出力信号を演算することにより、外光による映像を除去し、発光のみによる映像を得ることができ、より正確な奥行情報を得ることができる。さらに付随する効果として、露光期間Aの信号から発光の影響のない外光のみによる映像も得られるので、被写体の認識に好適である。
【実施例5】
【0036】
図8は、本発明による撮像装置の第5の実施例を示す構成図である。本実施例でも2個のフォトダイオードを有するが、前記図13の撮像装置と比較して、第2の転送ゲート(TG2)109とリセットゲート(RG)104を全画素共通のパルスで駆動するようにしている。またkTC雑音は、実施例3(図5)のように、同じ経路で先に読み出しておいて、後段の処理で差し引くので、AD変換器300の前のサンプルホールド回路(SH1,SH2)202,203や差動増幅器204が不要になる。第2のフォトダイオード(PD2)108は図13と同じく遮光されていて、信号電荷を保持することができる。
【0037】
本実施例でも2回の露光期間を設定するが、その期間は、フォトダイオード(PD)101の信号電荷をブルーミング掃き出しゲート(BG)107から掃き出した後、転送ゲート103から第2のフォトダイオード(PD2)108に転送するまでの期間であり、他の動作と関係なく自由に選ぶことができる。さらに第2のフォトダイオード108は、信号電荷を浮遊拡散層102に転送した後に、別の信号電荷をフォトダイオード101から転送して保持しておくことで、合わせて2回の露光期間を重ならない範囲で自由に設定することができる。以下に述べるタイミングで動作させることにより、極めて高精度に外光の影響を抑圧することができる。
【0038】
図9は、図8の撮像装置における撮像方法の一実施例を示すタイミングチャートである。前記図1と同様に1フレームに2回の露光期間A,Bと、3回の出力期間C,A,Bを設ける。それぞれの出力期間C,A,Bでは、kTC雑音、信号A(露光期間Aの信号)、信号B(露光期間Bの信号)を加算しながら出力する。この例でも、発光期間は露光期間Bに一致させている。
【0039】
図1との違いは、2つの露光期間A,Bを重ならない範囲で自由に設定できる点で、例えば露光期間Aと露光期間Bの時間差(T3とT4の時間差)を30μsec程度に設定する。これは時速100kmで走行している車が1mm動く時間に相当し、露光期間Aと露光期間Bとで外光によって得られる映像が実質的に同じ映像になる(強度は露光時間に比例する)。従って、日常見かける速い動きのある被写体でも、後段での演算により外光の影響をほぼ完全に除去することができる。なお発光期間の設定は、厳密には光の速度を考慮する必要があるが、1μsecで300m移動するので、露光期間Bに一致させて構わない。最大認識距離仕様が例えば150mと長い場合は、光速を考慮して発光期間の終了時間を露光期間Bの終了時間よりも1μsecだけ早く設定すると若干発光強度を増すことができる。
【0040】
図10は、図9のタイミングチャートにゲートパルスを追加しより詳細に示した図である。
【0041】
時間T2でRGパルスを立ち下げ浮遊拡散層102を分離した後、出力期間Cに入る。ここではLS(n),LS(n+1),・・・に順次パルスを印加して、kTC雑音の電圧情報を垂直信号線200へ伝達して出力する。
時間T3でBGパルスを立ち下げて露光期間Aが始まる。この時間T3は任意に選ぶことができるが、露光時間を短くする場合には出力期間Cの後半にする。この後、時間T11でTGパルスを印加して信号電荷を第2のフォトダイオード108に転送し終えると、露光時間Aが終了し代わりに露光期間Bが始まる。時間T11でTGパルスが立ち下がった後、すぐTG2パルスを印加して、露光期間Aの信号電荷を第2のフォトダイオード108から浮遊拡散層102に転送する。
【0042】
時間T4ではTG2パルスが立ち下がり、第2のフォトダイオード108は空になっているので、この後任意の時間T12に再びTGパルスを印加してフォトダイオード101から第2のフォトダイオード108に信号電荷を転送する。この時点で露光期間Bが終了する。
時間T4では、露光期間Aの信号電荷が浮遊拡散層102に転送され、kTC雑音電荷と合わさる。この後出力期間Aに入るが、ここではLS(n),LS(n+1),・・・に順次パルスを印加して、雑音と信号を垂直信号線200へ伝達して出力する。
【0043】
出力期間Aが完了した後、時間T5では再びTG2パルスを印加して、露光期間Bの信号電荷を第2のフォトダイオード108から浮遊拡散層102に転送する。このとき浮遊拡散層102には、kTC雑音電荷と2つの露光期間A,Bの信号電荷の全てが保持される。この後出力期間Bに入るが、ここではLS(n),LS(n+1),・・・に順次パルスを印加して、雑音と信号を垂直信号線200へ伝達して出力する。
【0044】
このように本実施例では連続する2つの露光期間A,Bをきわめて短く設定することができ、従って2つの露光期間のタイミング差もきわめて小さくでき、日常に見かける被写体がほとんど動かない状態で2つの映像を得ることができる。後段での演算は図1と同様であるが、外光による映像は2つの露光期間でほぼ同じなので、外光による影響をほぼ完全に除去することができ、屋外でも遠くの被写体でも精度良く奥行計測することができる。
【0045】
なお、以上の実施例では露光期間が2つの場合のみを説明したが、ダイナミックレンジ拡大等のためにさらに多くの露光期間を設ける構成も可能である。その場合にも、複数の露光期間の一部の期間でのみ発光させることにより、同様に奥行計測の精度を向上することができる。
【符号の説明】
【0046】
100…画素部、
101…フォトダイオード(PD)、
102…浮遊拡散層(FD)、
103…転送ゲート(TG)、
104…リセットゲート(RG)、
105…ソースホロワ増幅器、
106…行選択ゲート(LS)、
107…ブルーミング掃き出しゲート(BG)、
108…第2のフォトダイオード(PD2)、
109…第2の転送ゲート(TG2)、
200…垂直信号線、
201…電流源、
202…第1のサンプルホールド回路(SH1)、
203…第2のサンプルホールド回路(SH2)、
204…差動増幅器(AMP)、
300…AD変換器(ADC)、
400…水平出力回路、
401,402,403…信号電荷、
404…雑音電荷、
500…演算回路、
600…パルス発生回路、
700…発光装置。
【技術分野】
【0001】
本発明は、撮像方法および撮像装置に係り、特に、発光した光を被写体に照射しその反射光から被写体を撮像する際に好適な撮像方法および撮像装置に関する。
【背景技術】
【0002】
近年、平面パターンを発光させて被写体に照射し、その反射光を撮像して被写体の奥行を計測する装置が商用化され家庭用ゲーム機などに使われている。このような奥行計測装置を車載物体認識装置などとして屋外で使用しようとすると、外光による妨害が大きくなる。さらに遠くの物体では、発光した平面パターンからの照射光および被写体からの反射光が弱くなるため、ランダム雑音などの雑音の影響が無視できなくなる。外光に対するSN比を改善する一般的な方法として、発光をパルス状にしてピークの発光量を増やし、撮像装置のシャッタ機能により発光している期間のみを撮像する方法がある。一般に発光期間を短くするほどその期間の発光量を増すことができるので、その期間のみ受光すれば外光に対するSN比を改善することができる。
【0003】
このパルス発光による撮像方法では、行ごとに露光タイミングがずれるローリングシャッタ機能の撮像装置は使えず、全画素が同じタイミングで露光するグローバルシャッタ機能が必要である。近年、このようなグローバルシャッタ機能を有するCMOS型撮像装置が開発され、例えば特許文献1には、グローバルシャッタ機能を実現する場合に、露光時間が受ける制約を軽減し、迅速な動作で十分な露光時間を確保するための技術が開示されている。
【先行技術文献】
【特許文献】
【0004】
【特許文献1】特開2004−140149号公報
【発明の概要】
【発明が解決しようとする課題】
【0005】
初めに、従来知られているグローバルシャッタ機能について説明する。
図11は、グローバルシャッタ機能を有するCMOS型の撮像装置の第1の従来例を示す回路構成図で、画素部100を中心に描いたものである。フォトダイオード(PD)101で光電変換した信号電荷は、転送ゲート(TG)103を介して浮遊拡散層(FD)102に完全転送される。そして、ソースホロワ増幅器105と行選択ゲート(LS)106により、信号電荷に比例した信号電圧が、電流源201につながっている垂直信号線200に読み出される。その後、AD変換器(ADC)300でディジタル信号に変換され、水平出力回路に出力される。図11の例では、ブルーミング掃き出しゲート(BG)107が設けられており、このゲートの電圧(BG電圧)を高くすることによりフォトダイオード101の信号電荷を掃き出すことができる。その後、転送ゲート103の電圧(TG電圧)にパルスを印加して信号電荷を浮遊拡散層102に転送するが、それまでの期間が露光期間である。BG電圧とTG電圧を、全画素同じパルスで制御することにより全画素の露光タイミングを等しくすることができ、すなわちグローバルシャッタ機能を実現する。リセットゲート(RG)104は、浮遊拡散層102に蓄積されている電荷をリセットするためのものである。
【0006】
図12は、図11の撮像装置の動作の一例を示すタイミングチャートである。時間T1から時間T6が1フレーム期間(例えば17msec)であり、動画像の中の1枚の映像を撮像する期間である。この中で、BGパルスを立ち下げた時間T3からフォトダイオード101へ信号電荷の蓄積が開始し、TGパルスを立ち上げた時に蓄積された信号電荷は浮遊拡散層102に転送され始め、TGパルスが立ち下がった時間T4で転送が完了する。この時、浮遊拡散層102に転送され保持されている信号電荷の露光期間は、T3からT4までの期間ということになる。この浮遊拡散層102の保持する信号電荷の情報は、その後、行毎に順次垂直信号線200に電圧の形で伝送される。すなわち、n行目の画素部100では行選択ゲートLS(n)にパルスが入ったとき、(n+1)行目の画素部100では行選択ゲートLS(n+1)にパルスが入ったとき、順次垂直信号線200にそれぞれの信号情報が伝わり、AD変換器300でディジタル信号に変換された後、水平出力回路を介して出力される。出力は行毎に順番になされるが、露光期間は全ての画素について等しく、グローバルシャッタ機能が実現されている。
【0007】
このようにして、グローバルシャッタ機能を有する撮像装置を用いて露光時間を短くすることにより相対的に外光に対するSN比を改善することができる。しかしながら晴天時の昼間など外光が強い場合に、上記シャッタ動作だけでは外光の影響が無視できず、さらに高性能の外光除去の工夫が必要になる場合がある。また、一般に高速シャッタに伴って信号量が減少するので、ランダム雑音などの雑音をさらに減じる必要が生じる。発光をパルス状にする場合、パルス幅を短くするとピーク光量を増すことができるが、通常、面積は減ることになって、トータルの信号量は減少する。なお、図11の回路で発生するランダム雑音のうち原理的な雑音は、浮遊拡散層102をRGパルスでリセットするときに発生するいわゆる「kTC雑音」である。ここにkはボルツマン定数、Tは絶対温度、Cは浮遊拡散層102の容量であり、ランダム雑音電荷の分散の自乗がkTCという式になることから一般に「kTC雑音」と呼ばれている。
【0008】
図13は、グローバルシャッタ機能を有するCMOS型撮像装置の第2の従来例を示す回路構成図で、前記kTC雑音を抑圧する構成としたものである。前記図11の構成において、フォトダイオード(PD)101と浮遊拡散層(FD)102の間に第2のフォトダイオード(PD2)108と第2の転送ゲート(TG2)109を配している。また垂直信号線200とAD変換器300の間に、第1、第2のサンプルホールド回路(SH1,SH2)202,203と、差動増幅器(AMP)204を配している。この構成では、トランジスタ数が増えて開口率は下がるが、下記のような動作でkTC雑音を抑圧することができる。なお、追加した第2のフォトダイオード(PD2)108は上部を遮光されていて光電変換が行われないが、空乏化して次段に電荷を完全転送できる点でフォトダイオード101と類似の構造になっている。
【0009】
図14は、図13の撮像装置の動作の一例を示すタイミングチャートである。BGパルスを立ち下げた時間T3からフォトダイオード(PD)101へ信号電荷が蓄積し、TGパルスを印加すると蓄積された信号電荷は第2のフォトダイオード(PD2)108に転送され、TGパルスが立ち下がった時間T4では信号電荷の転送が終わって第2のフォトダイオード108で保持されている。時間T3からT4までの期間が露光期間で全画素共通である。この後行毎に順次浮遊拡散層(FD)102、垂直信号線200へと信号を読み出していく。n行目の画素部100では、まず、時間T7までにリセットゲートRG(n)104が低電位になって、順次浮遊拡散層102にkTC雑音が保持されている。そのとき行選択ゲートLS(n)106を高電位にすることにより、このkTC雑音の電圧情報がソースホロワ増幅器105を介して垂直信号線200に伝わる。この時間T7のタイミングにおいて、第1のサンプルホールド回路(SH1)202でサンプルホールドすることによりkTC雑音の電圧情報が保持される。次に、第2の転送ゲートTG2(n)109にパルスを印加することにより、第2のフォトダイオード(PD2)108の信号電荷が浮遊拡散層102に転送され、保持されているkTC雑音電荷と加算される。次の時間T8のタイミングで、この信号+雑音の電圧情報が垂直信号線200に伝わるので、これを第2のサンプルホールド回路(SH2)203でサンプルホールドする。差動増幅器(AMP)204で両者の差を取ることにより、kTC雑音が取り除かれて信号情報だけを出力することができる。
【0010】
以上説明した第1の従来例(図11,図12)によれば、発光パルスの時間幅を狭めて外光の影響を減らすものであるが、kTC雑音などの雑音の影響を減じる必要がある。また第2の従来例(図13、図14)によればkTC雑音を抑圧することができるが、回路構成が複雑でありまた複雑なタイミング制御が必要であった。
【0011】
本発明の目的は、奥行計測用に発光させた光の反射光から被写体を撮像する場合、簡単な回路構成で外光や雑音の影響をなくし計測精度を向上させる撮像方法と撮像装置を提供することにある。
【課題を解決するための手段】
【0012】
本発明は、発光させた光を被写体に照射しその反射光から該被写体を撮像する撮像方法において、1フレーム期間内に複数の露光期間を設けてそれぞれの期間にて露光し、該複数の露光期間の中の1つの露光期間に一致する発光期間を設けて発光させ、前記複数の露光期間にて得られたそれぞれの映像信号を出力し、該出力された複数の映像信号を演算して、外光による映像信号を除去し発光のみによる映像信号を取得するものである。
【0013】
また本発明の撮像方法は、1フレーム期間内に露光期間および発光期間を設け、1フレーム期間内に複数の出力期間を設けてそれぞれの期間に得られた信号を出力するものであって、前記複数の出力期間の中の最初の出力期間では、映像信号を含まないランダム雑音を出力し、2回目以降の出力期間では、前記露光期間に得られる映像信号とランダム雑音とを出力し、該出力された複数の出力期間の信号を演算して、ランダム雑音を除去した映像信号を取得するものである。
【0014】
本発明は、発光させた光を被写体に照射しその反射光から該被写体を撮像する撮像装置において、前記被写体からの反射光を光電変換して信号電荷を生成するアレイ状に配置されたフォトダイオード群と、該フォトダイオード群で生成された信号電荷から映像信号を順次読み出す出力回路と、該出力回路からの出力信号を演算する演算回路と、前記フォトダイオード群の露光動作と前記出力回路の読出し動作を制御するパルス群を発生するとともに、発光装置の発光動作を制御するパルス発生回路とを備え、該パルス発生回路は、前記フォトダイオード群に対し1フレーム期間内に複数の露光期間を設けてそれぞれの期間にて露光させ、前記発光装置に対し該複数の露光期間の中の1つの露光期間に一致する発光期間を設けて発光させ、前記出力回路に対し前記複数の露光期間にて得られたそれぞれの映像信号を出力させ、前記演算回路は、前記出力回路から出力された複数の映像信号を演算して、外光による映像信号を除去し発光のみによる映像信号を取得するものである。
【発明の効果】
【0015】
本発明によれば、発光させた光を被写体に照射しその反射光から被写体を撮像する際に、外光の影響を除去し発光のみによる映像信号を取得することができる。さらには、ランダム雑音の影響を簡単な回路構成で除去し、高いSN比の映像信号を取得することができる。これより、屋外にある被写体や遠方の被写体の奥行を精度良く計測することができる。
【図面の簡単な説明】
【0016】
【図1】本発明による撮像方法の典型的な実施例を示すタイミングチャート。
【図2】本発明による撮像装置の典型的な実施例を示す回路構成図。
【図3】撮像方法の第1の実施例を示すタイミングチャート(実施例1)。
【図4】撮像方法の第2の実施例を示すタイミングチャート(実施例2)。
【図5】撮像方法の第3の実施例を示すタイミングチャート(実施例3)。
【図6】実施例3の信号伝送動作を示すポテンシャル図。
【図7】撮像方法の第4の実施例を示すタイミングチャート(実施例4)。
【図8】撮像装置の第5の実施例を示す構成図(実施例5)。
【図9】図8の撮像装置における撮像方法の一実施例を示すタイミングチャート。
【図10】図9のタイミングチャートをより詳細に示した図。
【図11】撮像装置の第1の従来例を示す回路構成図。
【図12】図11の撮像装置の動作の一例を示すタイミングチャート。
【図13】撮像装置の第2の従来例を示す回路構成図。
【図14】図13の撮像装置の動作の一例を示すタイミングチャート。
【発明を実施するための形態】
【0017】
本発明では、撮像装置における映像信号読み出しの際、1フレーム中で発光させた期間に露光した映像信号と、発光させない期間に露光した映像信号とを取得し、それらの演算により外光の影響をなくし、発光させた光の反射だけによる映像を求めるようにした。
【0018】
図1は、本発明による撮像方法の典型的な実施例を示すタイミングチャートである。1フレーム期間(時間T1からT6まで)の中に、1つの発光期間(時間T4からT5まで)と2つの露光期間A(時間T3からT4まで)、B(時間T4からT5まで)を設ける。また信号を出力する期間として、出力期間A(時間T4からT5まで)、出力期間B(時間T5からT6まで)、出力期間C(時間T2からT4まで)の3つを設ける。
【0019】
図1の例では露光期間Aは非発光期間であり、露光期間Aで得られる信号Aは外光のみによる映像信号である。露光期間Bは発光期間に一致させているので、露光期間Bで得られる信号Bは外光および発光による映像信号である。出力に関しては、時間T2で浮遊拡散層102をリセットした後、出力期間Cでランダム雑音(kTC雑音)のみを出力し、時間T4で信号Aを浮遊拡散層102に転送した後、出力期間AでkTC雑音に信号Aを加えた信号を出力し、時間T5で信号Bを浮遊拡散層102に転送した後、出力期間BでkTC雑音と信号Aに信号Bを加えた信号を出力する。
【0020】
これらの出力信号から次のような演算を行う。出力期間Aの出力信号から出力期間Cの出力信号を差し引くことにより、kTC雑音を除いた外光のみによる信号A(露光期間Aの信号)が得られる。また、出力期間Bの出力信号から出力期間Aの出力信号を差し引くことにより、kTC雑音と信号Aを除いた、外光および発光による信号B(露光期間Bの信号)が得られる。信号Aと信号Bの演算により発光のみによる映像信号が得られるが、演算の際には、各出力期間の信号に適度な係数を乗じて差し引けば良く、例えば露光期間Aと露光期間Bの長さが等しい場合には各係数は1になる。なお、発光期間を露光期間Aに一致させた場合も同様の演算で所望の情報を得ることができる。
【0021】
図2は、本発明による撮像装置の典型的な実施例を示す回路構成図である。画素部100の内部構成は前記図11に示した構成と同様であり、画素当たり1個のフォトダイオード(PD)101を有する。撮像素子は、このような画素部(フォトダイオード)がアレイ状に配置されている。各画素から映像信号を読み出す制御機能として、パルス発生回路600を設け画素内にパルス群601を供給する。パルス群601にはBG,TG,RG,LS(n)などのゲート制御パルスを含む。またパルス発生回路600は発光装置700に対し、所定の発光期間だけ発光するように制御信号を送る。発光装置700は撮像装置に内蔵しても外付けでも良い。
【0022】
水平出力回路400は、各列でAD変換した信号を順次出力する。演算回路500は、各画素から出力される複数の映像信号の演算を行い、外光の影響やランダム雑音(kTC雑音)を除去し、奥行計測に必要な発光のみによる映像信号を得る。また場合によっては、外光のみによる映像信号を得て、被写体認識等に用いることもできる。
以下、本発明による複数の実施例を具体的に詳細に説明する。
【実施例1】
【0023】
図3は、本発明の撮像方法の第1の実施例を示すタイミングチャートである。撮像装置は図2の構成とし、パルス発生回路600からゲート制御用のパルス群601を供給する。ゲート制御パルスには、BG(ブルーミング掃き出しゲート)パルス、TG(転送ゲート)パルス、RG(リセットゲート)パルス、LS(行選択ゲート)パルスなどが含まれる。これらのゲートパルスの機能は図11、図12と同様であり、繰り返しの説明は省略する。本実施例では、1フレーム中に2回の露光期間A,Bを設けてそれぞれ独立に読み出すようにした。
【0024】
まず、1回目の露光期間Aとその出力期間Aを説明する。時間T3においてBGパルスを立ち下げて、フォトダイオード101に信号電荷を蓄積し始め、時間T4においてTGパルスを立ち下げて、フォトダイオード101から浮遊拡散層102への信号電荷転送を完了する。この時間T3からT4までの期間が1回目の露光期間(露光期間A)になる。浮遊拡散層102へ転送された信号電荷は、時間T4からT5の期間(出力期間A)において、各画素の対応する行選択ゲートLS(n),LS(n+1),・・・を順次高レベルにすることにより順次垂直信号線200に電圧の形で伝達され、AD変換器300、水平出力回路400を経て出力される。なお、浮遊拡散層102に残留している電荷は、一連の垂直信号線200への信号伝達完了後、適当な時間T9にRGパルスを印加してリセットする。
【0025】
次に、2回目の露光期間Bとその出力期間Bを説明する。時間T4において、フォトダイオード101には新たに信号電荷が蓄積され始め、時間T5において再度TGパルスを立ち下げて、フォトダイオード101から浮遊拡散層102への信号電荷転送を完了する。この時間T4からT5までの期間が2回目の露光期間(露光期間B)となる。浮遊拡散層102へ転送された信号電荷は、時間T5からT6の期間(出力期間B)において、1回目と同様に、LS(n),LS(n+1),・・・を順次高レベルにすることにより順次垂直信号線200に電圧の形で伝達され、AD変換器300、水平出力回路を経て出力される。浮遊拡散層102に残留している電荷は、一連の垂直信号線200への信号伝達完了後、適当な時間T2にRGパルスを印加してリセットする。
【0026】
このように図3の実施例では、1フレーム期間に2つの露光期間A,Bを設定し、それぞれの信号情報を2つの出力期間A,Bに出力する。そして発光期間を例えば露光期間Bに一致させると、出力期間Aの出力信号からは露光期間Aの外光のみによる映像信号が得られ、出力期間Bの出力信号からは露光期間Bの外光と発光による映像信号が得られる。これら2つの出力信号を演算回路500で演算(減算)することにより、外光による映像信号を除去し、発光のみによる映像信号を得ることができる。すなわち、発光期間の反射光を撮像して被写体の奥行を計測する際に、その奥行情報を正確に取得することができる。さらに付随する効果として、露光期間Aの信号から発光の影響のない外光のみによる映像も得られるので、被写体の認識に好適となる。
【実施例2】
【0027】
図4は、本発明の撮像方法の第2の実施例を示すタイミングチャートである。前記実施例1(図3)との変更箇所は、出力期間Aと出力期間Bの間でリセットゲートRGを低レベルのままにして、浮遊拡散層102のリセットを行わない点である。これにより露光期間Aの信号電荷は、出力期間Aで出力した後もリセットされず浮遊拡散層102に保持され、出力期間Bでも再び読み出されることになる。すなわち、出力期間Aの出力信号は露光期間Aの外光による映像信号であるのに対し、出力期間Bの出力信号は、露光期間Bの発光による映像信号と露光期間Bの外光による映像信号に露光期間Aの外光による映像信号が加算されたものになる。実施例1(図3)の場合と同様に、演算回路500によりこれら2つの出力信号を所定の係数を乗じて演算(減算)することで、外光による映像信号を除去し、発光のみによる映像信号を得ることができる。さらに、外光のみによる映像信号も得られるという付随効果もある。本実施例の構成では、RGパルスを1個減らすことによりタイミング設定の余裕度が増すメリットがある。
【実施例3】
【0028】
図5は、本発明の撮像方法の第3の実施例を示すタイミングチャートである。実施例2(図4)との変更箇所は、時間T2からT4までの間にさらに出力期間Cを追加してkTC雑音を出力させる点である。具体的には、時間T2でRGパルスを印加して浮遊拡散層102をリセットした後、LS(n),LS(n+1),・・・に順次パルスを印加して、浮遊拡散層102で発生するkTC雑音の電圧情報を垂直信号線200へ伝達する。すなわち、この出力期間Cでは映像信号が存在せずkTC雑音のみを出力する。この後実施例2(図4)と同様に、出力期間Aでは露光期間Aの外光による映像信号を、出力期間Bでは露光期間Bの発光および外光による映像信号に露光期間Aの外光による映像信号が加算されたものを出力する。
【0029】
出力期間A、BにおいてkTC雑音を考慮すると、時間T4でTGパルスを印加してフォトダイオード101の信号電荷を浮遊拡散層102に転送したとき、浮遊拡散層102には露光期間Aの信号電荷とkTC雑音が保持される。すなわち出力期間Aでは、上記映像信号(露光期間Aの外光による映像信号)の他にkTC雑音が出力される。同様に出力期間Bでは、上記映像信号(露光期間Bの発光および外光による映像信号、露光期間Aの外光による映像信号)の他にkTC雑音が出力される。これら出力期間A,B,Cの3つの出力信号を演算することにより、kTC雑音を除去した状態で発光のみによる映像信号と外光のみによる映像信号を得ることができる。
【0030】
図6は、本実施例の信号伝送動作を示すポテンシャル図で、図5のタイミングチャートの各時間における撮像素子内部のポテンシャル分布を示す。
【0031】
時間T2ではRGパルスを立ち下げて、FD(浮遊拡散層102)を電源Vddから切断する。このときFDにはkTC雑音404が残留する。この状態でLSパルスを印加しFDから信号を読み出すのが出力期間Cである。またPD(フォトダイオード101)には光電変換により信号電荷401が生成・蓄積されている。
時間T3ではBGパルスを印加し、PDを空乏化させて信号電荷401を電源に掃き出す。BGパルスを立ち下げると、PDには新たに信号電荷402の蓄積が始まる(露光期間A)。
【0032】
時間T4では、TGパルスを印加しPDを空乏化させ、前記T3以降(露光期間A)にPDにて生成された信号電荷402をFDに移送する。この結果FDにはkTC雑音404と信号電荷402が保持される。この状態でLSパルスを印加しFDから信号を読み出すのが出力期間Aである。信号電荷402のFDへの移送が完了すると、PDには新たに信号電荷403の蓄積が始まる(露光期間B)。
時間T5では、再度TGパルスを印加してPDを空乏化させ、前記T4以降(露光期間B)にPDにて生成された信号電荷403をFDに移送する。この結果FDにはkTC雑音404と信号電荷402と信号電荷403が保持される。この状態でLSパルスを印加しFDから信号を読み出すのが出力期間Bである。
【0033】
このようにして、出力期間CではkTC雑音404を、出力期間AではkTC雑音404と信号電荷402を、出力期間BではkTC雑音404と信号電荷402と信号電荷403をそれぞれ出力することができ、後段の演算でそれぞれの信号電荷の情報を分離して取得することができる。
なお、本実施例の撮像方法は前記図1にて典型的な例として説明した通りである。
【実施例4】
【0034】
本発明は、前記図13で述べた画素当たり2個のフォトダイオードを有する構成の撮像装置においても適用できる。
図7は、本発明の撮像方法の第4の実施例を示すタイミングチャートであり、図13の撮像装置に適用した場合である。撮像装置には第2のフォトダイオード(PD2)108と第2の転送ゲート(TG2)109を有するとともに、第1、第2のサンプルホールド回路(SH1,SH2)202,203と差動増幅器(AMP)204により、kTC雑音を取り除いて信号情報だけを出力することができる。
【0035】
本実施例は図14のタイミングチャートと比較し、1フレーム期間に2回の露光期間A,Bとこれに対応する出力期間A,Bを設けている点が異なる。なお図7では、図14で示したRGパルスとTG2パルスとLSパルスの表示を省略している。例えば発光期間を露光期間Bに一致させると、出力期間Aの信号からは外光のみによる映像信号が得られ、出力期間Bの信号からは発光による映像信号と外光による映像信号が得られる。これらの映像信号では、差分増幅器204によりkTC雑音が除去されている。これら2つの出力信号を演算することにより、外光による映像を除去し、発光のみによる映像を得ることができ、より正確な奥行情報を得ることができる。さらに付随する効果として、露光期間Aの信号から発光の影響のない外光のみによる映像も得られるので、被写体の認識に好適である。
【実施例5】
【0036】
図8は、本発明による撮像装置の第5の実施例を示す構成図である。本実施例でも2個のフォトダイオードを有するが、前記図13の撮像装置と比較して、第2の転送ゲート(TG2)109とリセットゲート(RG)104を全画素共通のパルスで駆動するようにしている。またkTC雑音は、実施例3(図5)のように、同じ経路で先に読み出しておいて、後段の処理で差し引くので、AD変換器300の前のサンプルホールド回路(SH1,SH2)202,203や差動増幅器204が不要になる。第2のフォトダイオード(PD2)108は図13と同じく遮光されていて、信号電荷を保持することができる。
【0037】
本実施例でも2回の露光期間を設定するが、その期間は、フォトダイオード(PD)101の信号電荷をブルーミング掃き出しゲート(BG)107から掃き出した後、転送ゲート103から第2のフォトダイオード(PD2)108に転送するまでの期間であり、他の動作と関係なく自由に選ぶことができる。さらに第2のフォトダイオード108は、信号電荷を浮遊拡散層102に転送した後に、別の信号電荷をフォトダイオード101から転送して保持しておくことで、合わせて2回の露光期間を重ならない範囲で自由に設定することができる。以下に述べるタイミングで動作させることにより、極めて高精度に外光の影響を抑圧することができる。
【0038】
図9は、図8の撮像装置における撮像方法の一実施例を示すタイミングチャートである。前記図1と同様に1フレームに2回の露光期間A,Bと、3回の出力期間C,A,Bを設ける。それぞれの出力期間C,A,Bでは、kTC雑音、信号A(露光期間Aの信号)、信号B(露光期間Bの信号)を加算しながら出力する。この例でも、発光期間は露光期間Bに一致させている。
【0039】
図1との違いは、2つの露光期間A,Bを重ならない範囲で自由に設定できる点で、例えば露光期間Aと露光期間Bの時間差(T3とT4の時間差)を30μsec程度に設定する。これは時速100kmで走行している車が1mm動く時間に相当し、露光期間Aと露光期間Bとで外光によって得られる映像が実質的に同じ映像になる(強度は露光時間に比例する)。従って、日常見かける速い動きのある被写体でも、後段での演算により外光の影響をほぼ完全に除去することができる。なお発光期間の設定は、厳密には光の速度を考慮する必要があるが、1μsecで300m移動するので、露光期間Bに一致させて構わない。最大認識距離仕様が例えば150mと長い場合は、光速を考慮して発光期間の終了時間を露光期間Bの終了時間よりも1μsecだけ早く設定すると若干発光強度を増すことができる。
【0040】
図10は、図9のタイミングチャートにゲートパルスを追加しより詳細に示した図である。
【0041】
時間T2でRGパルスを立ち下げ浮遊拡散層102を分離した後、出力期間Cに入る。ここではLS(n),LS(n+1),・・・に順次パルスを印加して、kTC雑音の電圧情報を垂直信号線200へ伝達して出力する。
時間T3でBGパルスを立ち下げて露光期間Aが始まる。この時間T3は任意に選ぶことができるが、露光時間を短くする場合には出力期間Cの後半にする。この後、時間T11でTGパルスを印加して信号電荷を第2のフォトダイオード108に転送し終えると、露光時間Aが終了し代わりに露光期間Bが始まる。時間T11でTGパルスが立ち下がった後、すぐTG2パルスを印加して、露光期間Aの信号電荷を第2のフォトダイオード108から浮遊拡散層102に転送する。
【0042】
時間T4ではTG2パルスが立ち下がり、第2のフォトダイオード108は空になっているので、この後任意の時間T12に再びTGパルスを印加してフォトダイオード101から第2のフォトダイオード108に信号電荷を転送する。この時点で露光期間Bが終了する。
時間T4では、露光期間Aの信号電荷が浮遊拡散層102に転送され、kTC雑音電荷と合わさる。この後出力期間Aに入るが、ここではLS(n),LS(n+1),・・・に順次パルスを印加して、雑音と信号を垂直信号線200へ伝達して出力する。
【0043】
出力期間Aが完了した後、時間T5では再びTG2パルスを印加して、露光期間Bの信号電荷を第2のフォトダイオード108から浮遊拡散層102に転送する。このとき浮遊拡散層102には、kTC雑音電荷と2つの露光期間A,Bの信号電荷の全てが保持される。この後出力期間Bに入るが、ここではLS(n),LS(n+1),・・・に順次パルスを印加して、雑音と信号を垂直信号線200へ伝達して出力する。
【0044】
このように本実施例では連続する2つの露光期間A,Bをきわめて短く設定することができ、従って2つの露光期間のタイミング差もきわめて小さくでき、日常に見かける被写体がほとんど動かない状態で2つの映像を得ることができる。後段での演算は図1と同様であるが、外光による映像は2つの露光期間でほぼ同じなので、外光による影響をほぼ完全に除去することができ、屋外でも遠くの被写体でも精度良く奥行計測することができる。
【0045】
なお、以上の実施例では露光期間が2つの場合のみを説明したが、ダイナミックレンジ拡大等のためにさらに多くの露光期間を設ける構成も可能である。その場合にも、複数の露光期間の一部の期間でのみ発光させることにより、同様に奥行計測の精度を向上することができる。
【符号の説明】
【0046】
100…画素部、
101…フォトダイオード(PD)、
102…浮遊拡散層(FD)、
103…転送ゲート(TG)、
104…リセットゲート(RG)、
105…ソースホロワ増幅器、
106…行選択ゲート(LS)、
107…ブルーミング掃き出しゲート(BG)、
108…第2のフォトダイオード(PD2)、
109…第2の転送ゲート(TG2)、
200…垂直信号線、
201…電流源、
202…第1のサンプルホールド回路(SH1)、
203…第2のサンプルホールド回路(SH2)、
204…差動増幅器(AMP)、
300…AD変換器(ADC)、
400…水平出力回路、
401,402,403…信号電荷、
404…雑音電荷、
500…演算回路、
600…パルス発生回路、
700…発光装置。
【特許請求の範囲】
【請求項1】
発光させた光を被写体に照射しその反射光から該被写体を撮像する撮像方法において、
1フレーム期間内に複数の露光期間を設けてそれぞれの期間にて露光し、
該複数の露光期間の中の1つの露光期間に一致する発光期間を設けて発光させ、
前記複数の露光期間にて得られたそれぞれの映像信号を出力し、
該出力された複数の映像信号を演算して、外光による映像信号を除去し発光のみによる映像信号を取得することを特徴とする撮像方法。
【請求項2】
発光させた光を被写体に照射しその反射光から該被写体を撮像する撮像方法において、
1フレーム期間内に露光期間および発光期間を設け、
1フレーム期間内に複数の出力期間を設けてそれぞれの期間に得られた信号を出力するものであって、
前記複数の出力期間の中の最初の出力期間では、映像信号を含まないランダム雑音を出力し、
2回目以降の出力期間では、前記露光期間に得られる映像信号とランダム雑音とを出力し、
該出力された複数の出力期間の信号を演算して、ランダム雑音を除去した映像信号を取得することを特徴とする撮像方法。
【請求項3】
発光させた光を被写体に照射しその反射光から該被写体を撮像する撮像方法において、
1フレーム期間内に、第1、第2の露光期間と、該第1、第2の露光期間の一方に一致する1つの発光期間と、第1、第2、第3の出力期間を設け、
前記第1の出力期間では、映像信号を含まないランダム雑音を出力し、
前記第2の出力期間では、前記第1の露光期間の映像信号とランダム雑音とを出力し、
前記第3の出力期間では、前記第1の露光期間の映像信号と前記第2の露光期間の映像信号とランダム雑音とを出力し、
該出力された複数の出力期間の信号を演算して、外光による映像信号とランダム雑音を除去して発光のみによる映像信号を取得することを特徴とする撮像方法。
【請求項4】
請求項1または3に記載の撮像方法において、
前記演算にて、さらに外光のみによる映像信号を取得することを特徴とする撮像方法。
【請求項5】
発光させた光を被写体に照射しその反射光から該被写体を撮像する撮像装置において、
前記被写体からの反射光を光電変換して信号電荷を生成するアレイ状に配置されたフォトダイオード群と、
該フォトダイオード群で生成された信号電荷から映像信号を順次読み出す出力回路と、
該出力回路からの出力信号を演算する演算回路と、
前記フォトダイオード群の露光動作と前記出力回路の読出し動作を制御するパルス群を発生するとともに、発光装置の発光動作を制御するパルス発生回路とを備え、
該パルス発生回路は、前記フォトダイオード群に対し1フレーム期間内に複数の露光期間を設けてそれぞれの期間にて露光させ、前記発光装置に対し該複数の露光期間の中の1つの露光期間に一致する発光期間を設けて発光させ、前記出力回路に対し前記複数の露光期間にて得られたそれぞれの映像信号を出力させ、
前記演算回路は、前記出力回路から出力された複数の映像信号を演算して、外光による映像信号を除去し発光のみによる映像信号を取得することを特徴とする撮像装置。
【請求項6】
発光させた光を被写体に照射しその反射光から該被写体を撮像する撮像装置において、
前記被写体からの反射光を光電変換して信号電荷を生成するアレイ状に配置されたフォトダイオード群と、
該フォトダイオード群で生成された信号電荷から映像信号を順次読み出す出力回路と、
該出力回路からの出力信号を演算する演算回路と、
前記フォトダイオード群の露光動作と前記出力回路の読出し動作を制御するパルス群を発生するとともに、発光装置の発光動作を制御するパルス発生回路とを備え、
該パルス発生回路は1フレーム期間内において、前記フォトダイオード群に対し露光期間を設けて露光させ、前記発光装置に対し発光期間を設けて発光させ、前記出力回路に対し複数の出力期間を設けてそれぞれの期間に得られた信号を出力させ、
前記出力回路は、前記複数の出力期間の中の最初の出力期間では、映像信号を含まないランダム雑音を出力し、2回目以降の出力期間では、前記露光期間に得られる映像信号とランダム雑音とを出力し、
前記演算回路は、該出力された複数の出力期間の信号を演算して、ランダム雑音を除去した映像信号を取得することを特徴とする撮像装置。
【請求項7】
発光させた光を被写体に照射しその反射光から該被写体を撮像する撮像装置において、
前記被写体からの反射光を光電変換して信号電荷を生成するアレイ状に配置されたフォトダイオード群と、
該フォトダイオード群で生成された信号電荷から映像信号を順次読み出す出力回路と、
該出力回路からの出力信号を演算する演算回路と、
前記フォトダイオード群の露光動作と前記出力回路の読出し動作を制御するパルス群を発生するとともに、発光装置の発光動作を制御するパルス発生回路とを備え、
該パルス発生回路は、前記フォトダイオード群に対し1フレーム期間内に第1、第2の露光期間を設けて露光させ、前記発光装置に対し該第1、第2の露光期間の一方に一致する1つの発光期間を設けて発光させ、前記出力回路に対し第1、第2、第3の出力期間を設けてそれぞれの期間に得られた信号を出力させ、
前記出力回路は、前記第1の出力期間では、映像信号を含まないランダム雑音を出力し、前記第2の出力期間では、前記第1の露光期間の映像信号とランダム雑音とを出力し、前記第3の出力期間では、前記第1の露光期間の映像信号と前記第2の露光期間の映像信号とランダム雑音とを出力し、
前記演算回路は、該出力された複数の出力期間の信号を演算して、外光による映像信号とランダム雑音を除去して発光のみによる映像信号を取得することを特徴とする撮像装置。
【請求項8】
請求項5または7に記載の撮像装置において、
前記演算回路は、前記出力された複数の信号を演算して、さらに外光のみによる映像信号を取得することを特徴とする撮像装置。
【請求項1】
発光させた光を被写体に照射しその反射光から該被写体を撮像する撮像方法において、
1フレーム期間内に複数の露光期間を設けてそれぞれの期間にて露光し、
該複数の露光期間の中の1つの露光期間に一致する発光期間を設けて発光させ、
前記複数の露光期間にて得られたそれぞれの映像信号を出力し、
該出力された複数の映像信号を演算して、外光による映像信号を除去し発光のみによる映像信号を取得することを特徴とする撮像方法。
【請求項2】
発光させた光を被写体に照射しその反射光から該被写体を撮像する撮像方法において、
1フレーム期間内に露光期間および発光期間を設け、
1フレーム期間内に複数の出力期間を設けてそれぞれの期間に得られた信号を出力するものであって、
前記複数の出力期間の中の最初の出力期間では、映像信号を含まないランダム雑音を出力し、
2回目以降の出力期間では、前記露光期間に得られる映像信号とランダム雑音とを出力し、
該出力された複数の出力期間の信号を演算して、ランダム雑音を除去した映像信号を取得することを特徴とする撮像方法。
【請求項3】
発光させた光を被写体に照射しその反射光から該被写体を撮像する撮像方法において、
1フレーム期間内に、第1、第2の露光期間と、該第1、第2の露光期間の一方に一致する1つの発光期間と、第1、第2、第3の出力期間を設け、
前記第1の出力期間では、映像信号を含まないランダム雑音を出力し、
前記第2の出力期間では、前記第1の露光期間の映像信号とランダム雑音とを出力し、
前記第3の出力期間では、前記第1の露光期間の映像信号と前記第2の露光期間の映像信号とランダム雑音とを出力し、
該出力された複数の出力期間の信号を演算して、外光による映像信号とランダム雑音を除去して発光のみによる映像信号を取得することを特徴とする撮像方法。
【請求項4】
請求項1または3に記載の撮像方法において、
前記演算にて、さらに外光のみによる映像信号を取得することを特徴とする撮像方法。
【請求項5】
発光させた光を被写体に照射しその反射光から該被写体を撮像する撮像装置において、
前記被写体からの反射光を光電変換して信号電荷を生成するアレイ状に配置されたフォトダイオード群と、
該フォトダイオード群で生成された信号電荷から映像信号を順次読み出す出力回路と、
該出力回路からの出力信号を演算する演算回路と、
前記フォトダイオード群の露光動作と前記出力回路の読出し動作を制御するパルス群を発生するとともに、発光装置の発光動作を制御するパルス発生回路とを備え、
該パルス発生回路は、前記フォトダイオード群に対し1フレーム期間内に複数の露光期間を設けてそれぞれの期間にて露光させ、前記発光装置に対し該複数の露光期間の中の1つの露光期間に一致する発光期間を設けて発光させ、前記出力回路に対し前記複数の露光期間にて得られたそれぞれの映像信号を出力させ、
前記演算回路は、前記出力回路から出力された複数の映像信号を演算して、外光による映像信号を除去し発光のみによる映像信号を取得することを特徴とする撮像装置。
【請求項6】
発光させた光を被写体に照射しその反射光から該被写体を撮像する撮像装置において、
前記被写体からの反射光を光電変換して信号電荷を生成するアレイ状に配置されたフォトダイオード群と、
該フォトダイオード群で生成された信号電荷から映像信号を順次読み出す出力回路と、
該出力回路からの出力信号を演算する演算回路と、
前記フォトダイオード群の露光動作と前記出力回路の読出し動作を制御するパルス群を発生するとともに、発光装置の発光動作を制御するパルス発生回路とを備え、
該パルス発生回路は1フレーム期間内において、前記フォトダイオード群に対し露光期間を設けて露光させ、前記発光装置に対し発光期間を設けて発光させ、前記出力回路に対し複数の出力期間を設けてそれぞれの期間に得られた信号を出力させ、
前記出力回路は、前記複数の出力期間の中の最初の出力期間では、映像信号を含まないランダム雑音を出力し、2回目以降の出力期間では、前記露光期間に得られる映像信号とランダム雑音とを出力し、
前記演算回路は、該出力された複数の出力期間の信号を演算して、ランダム雑音を除去した映像信号を取得することを特徴とする撮像装置。
【請求項7】
発光させた光を被写体に照射しその反射光から該被写体を撮像する撮像装置において、
前記被写体からの反射光を光電変換して信号電荷を生成するアレイ状に配置されたフォトダイオード群と、
該フォトダイオード群で生成された信号電荷から映像信号を順次読み出す出力回路と、
該出力回路からの出力信号を演算する演算回路と、
前記フォトダイオード群の露光動作と前記出力回路の読出し動作を制御するパルス群を発生するとともに、発光装置の発光動作を制御するパルス発生回路とを備え、
該パルス発生回路は、前記フォトダイオード群に対し1フレーム期間内に第1、第2の露光期間を設けて露光させ、前記発光装置に対し該第1、第2の露光期間の一方に一致する1つの発光期間を設けて発光させ、前記出力回路に対し第1、第2、第3の出力期間を設けてそれぞれの期間に得られた信号を出力させ、
前記出力回路は、前記第1の出力期間では、映像信号を含まないランダム雑音を出力し、前記第2の出力期間では、前記第1の露光期間の映像信号とランダム雑音とを出力し、前記第3の出力期間では、前記第1の露光期間の映像信号と前記第2の露光期間の映像信号とランダム雑音とを出力し、
前記演算回路は、該出力された複数の出力期間の信号を演算して、外光による映像信号とランダム雑音を除去して発光のみによる映像信号を取得することを特徴とする撮像装置。
【請求項8】
請求項5または7に記載の撮像装置において、
前記演算回路は、前記出力された複数の信号を演算して、さらに外光のみによる映像信号を取得することを特徴とする撮像装置。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【公開番号】特開2012−244357(P2012−244357A)
【公開日】平成24年12月10日(2012.12.10)
【国際特許分類】
【出願番号】特願2011−111669(P2011−111669)
【出願日】平成23年5月18日(2011.5.18)
【出願人】(000233136)株式会社日立アドバンストデジタル (76)
【Fターム(参考)】
【公開日】平成24年12月10日(2012.12.10)
【国際特許分類】
【出願日】平成23年5月18日(2011.5.18)
【出願人】(000233136)株式会社日立アドバンストデジタル (76)
【Fターム(参考)】
[ Back to top ]