距離画像生成装置
【課題】光飛行時間型距離画像センサを用いて撮影空間の距離画像生成する際、撮影空間内の状況によらず、距離計測の精度を高める。
【解決手段】距離画像と同タイミングで生成した同撮像空間の照射光強度画像を用い、撮影空間に他の画素の画素値算出に影響を与える程入射光(反射光)強度の強い領域があるか否かを判別する。反射光の強い領域がある場合、その領域への照射と他の領域への照射とを独立して制御する分割照射を行うよう光源を制御する。判別は、照射光強度画像の各画素値を予め定めた閾値と比較することにより行う。
【解決手段】距離画像と同タイミングで生成した同撮像空間の照射光強度画像を用い、撮影空間に他の画素の画素値算出に影響を与える程入射光(反射光)強度の強い領域があるか否かを判別する。反射光の強い領域がある場合、その領域への照射と他の領域への照射とを独立して制御する分割照射を行うよう光源を制御する。判別は、照射光強度画像の各画素値を予め定めた閾値と比較することにより行う。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、距離画像生成技術に関し、特に、光飛行時間型距離画像センサを用いた距離画像生成技術に関する。
【背景技術】
【0002】
光飛行時間型距離画像センサを用いて、撮影空間の対象物の、当該センサからの距離を画素値とする距離画像を生成する距離画像生成装置がある。光飛行時間型距離画像センサでは、光源から照射した変調光と、当該変調光の対象物による反射光との位相差を用いて、画素毎に対象物の距離を算出する。位相差は、画素毎に用意された撮像素子でレンズを介して受光した反射光を光量に応じた電荷量に変換し、この電荷量に所定の演算を施すことにより算出される(例えば、特許文献1参照)。
【0003】
光飛行時間型距離画像センサを用いた距離画像生成装置は、上述のように画素毎に受光した反射光を基に距離値を算出している。しかし、極端に近い距離の対象物が撮影対象空間にある場合、また、極端に反射率の高い物体が撮影対象空間にある場合など、強い反射光がレンズに入射すると、レンズの解像力などの性能によって、本来結像する画素以外の画素に反射光が回り込み、フレアと呼ばれる現象が発生することがある。フレアが発生すると、距離を算出する上での正確な光量が得られず、それに従って算出される距離値も不正確となる。
【0004】
フレアを減少させるため、光源を分割し、対応する領域毎に照射する手法がある。
【先行技術文献】
【特許文献】
【0005】
【特許文献1】特開2008−241435号公報
【発明の概要】
【発明が解決しようとする課題】
【0006】
光源を分割し対応する領域毎に照射すると、各領域では、変調光が照射されない時間(非照射時間)が発生する。各領域において、非照射時間中は周辺光のみの受光となる。周辺光には距離算出に必要な変調光の情報が含まれないため、算出距離の精度を悪化させる。特に日中の屋外での使用時に顕著に悪化する。
【0007】
さらに、距離算出に必要な変調光成分と周辺光成分との比率が時間に応じて変化する。これにより距離画像のSN比が下がり、得られる距離画像の距離値の精度も悪化する。さらに、分割照射を複数のフレームに渡って行うと、時間的に連続した距離画像が取得できず、フレームレートが低下する。
【0008】
本発明は、上記事情に鑑みてなされたもので、光飛行時間型距離画像センサを用いて撮影空間の距離画像生成する際、撮影空間内に反射光の強い領域がある場合であっても、フレームレートを維持しながら距離計測の精度を高める技術を提供することを目的とする。
【課題を解決するための手段】
【0009】
本発明は、変調光の分割照射と、受光した反射光から得た電荷の蓄積とを、同期制御する。
【0010】
具体的には、撮影空間を2つ以上の単位照射領域に分割して変調光を照射する空間分割照射手段と、前記変調光が前記撮影空間内の対象物で反射した反射光を受光して受光光量に応じた電荷に変換後蓄積する複数の撮像素子と、前記複数の撮像素子それぞれに蓄積された電荷から距離値を画素値とする前記撮影空間の距離画像を生成する距離画像生成手段と、前記空間分割照射手段および前記撮像素子の動作を制御する制御手段と、を備える距離画像生成装置であって、前記撮像素子は、前記撮像素子毎に前記反射光を受光して電荷に変換する光電変換素子と、前記光電変換素子で変換した電荷を蓄積する電荷蓄積手段と、を備え、前記制御手段は、前記空間分割照射手段による前記単位照射領域への照射と、当該単位照射領域からの反射光を受光する前記撮像素子の前記電荷蓄積手段における電荷の蓄積とが同期するよう制御することを特徴とする距離画像生成装置を提供する。
【0011】
また、撮影空間を2つ以上の単位照射領域に分割して変調光を照射する空間分割照射手段と、前記変調光が前記撮影空間内の対象物で反射した反射光を受光して受光光量に応じた電荷に変換後蓄積する複数の撮像素子と、前記複数の撮像素子それぞれに蓄積された電荷から距離値を画素値とする前記撮影空間の距離画像を生成する距離画像生成手段と、を備える距離画像生成装置における照射および電荷蓄積制御方法であって、前記空間分割照射手段による前記単位照射領域への照射と、当該単位照射領域からの反射光を受光する前記撮像素子における電荷の蓄積と、を同期させる同期制御ステップを備えることを特徴とする照射および電荷蓄積制御方法を提供する。
【発明の効果】
【0012】
本発明によれば、光飛行時間型距離画像センサを用いて撮影空間の距離画像生成する際、撮影空間内に反射光の強い領域がある場合であっても、フレームレートを維持しながら撮影対象空間全体の物体の距離計測の精度が高まる。
【図面の簡単な説明】
【0013】
【図1】第一の実施形態の距離画像生成装置のブロック図である。
【図2】第一の実施形態の分割照射部による撮影空間の分割照射の様子を説明するための説明図である。
【図3】第一の実施形態の撮像素子のブロック図である。
【図4】距離画像生成の原理を説明するための説明図である。
【図5】(a)は、グローバルシャッタ方式を、(b)は、ローリングシャッタ方式を説明するための説明図である。
【図6】(a)は、電荷蓄積期間を最大にした場合の、(b)は、電荷蓄積期間を(a)の半分にした場合の、それぞれローリングシャッタ方式による電荷蓄積タイミングを説明するための説明図である。
【図7】第一の実施形態の蓄積制御部および照射制御部による制御を説明するための説明図である。
【図8】第一の実施形態の光源の変形例を説明するための説明図である。
【図9】(a)は、第一の実施形態の変形例の分割照射を説明するための説明図であり、(b)は、第一の実施形態の変形例の蓄積制御部および照射制御部による制御を説明するための説明図である。
【図10】第二の実施形態の距離画像生成装置のブロック図である。
【図11】(a)は、第二の実施形態の分割照射を説明するための説明図であり、(b)は、第二の実施形態の蓄積制御部および照射制御部による制御を説明するための説明図である。
【図12】第二の実施形態の制御部による照射および電荷蓄積制御のフローチャートである。
【図13】第二の実施形態の変形例の制御部による照射および電荷蓄積制御のフローチャートである。
【発明を実施するための形態】
【0014】
<<第一の実施形態>>
以下、本発明を適用する実施形態について説明する。以下、本発明の実施形態を説明するための全図において、同一機能を有するものは同一符号を付し、その繰り返しの説明は省略する。
【0015】
まず、本実施形態で用いる距離画像生成装置の構成を説明する。図1は、本実施形態の距離画像生成装置100のブロック図である。
【0016】
図1に示すように、距離画像生成装置100は、照射光と入射光との位相差を用いて距離画像を生成する光飛行時間型距離画像センサを用いるもので、光源110と、受光部120と、画像生成部130と、制御部140と、を備える。
【0017】
光源110は、撮影空間に変調した光(例えば、正弦波もしくは矩形波等で高速に変調させた赤外光もしくは可視光;以下、変調光と呼ぶ。)151を照射する。光源110には、LED、レーザ等の高速変調が可能なデバイスが用いられる。本実施形態の光源110は、LED等の発光体がアレイ状に配置されたものとする。ただし、これに限られない。個々の発光体がそれぞれ異なる照射領域を照射可能で、かつ、発光量を独立に制御可能なものであればよい。
【0018】
本実施形態の光源110は、各LEDからの変調光の照射タイミングを制御することにより、撮影空間210を、図2に示すように、空間的に複数の領域(単位照射領域;本図では、211、212、213、214の4つの場合を例示する。)に分割して照射する。各単位照射領域に照射するLED群を分割照射部111と呼ぶ。各分割照射部111の照射タイミングは、制御部140から出力される照射制御信号により制御される。
【0019】
受光部120は、光源110から照射された変調光151が撮影空間内の物体200で反射された反射光を含む入射光152を受光し、電荷に変換する。受光部120は、図1に示すように、画像生成部130が生成する画像の各画素に対応する複数の撮像素子121を備える。複数の撮像素子121は、画像生成部130が生成する距離画像の各画素に対応づけて規則的に配列される。図1には、4×4の場合を例示する。なお、各撮像素子121は、主として撮影空間の対応する領域からの入射光152を受光する。
【0020】
各撮像素子121は、図3に示すように、光電変換素子122と、電荷蓄積部123と読出部124と、を備える。光電変換素子122は、入射光152を受光し、受光量に応じた電荷に変換する。電荷蓄積部123は、光電変換素子122により得られた電荷を蓄積する。電荷蓄積部123は、複数の単位蓄積部と振分部とを備える。電荷は、振分部により予め定めた規則に従って、各単位蓄積部に振り分けられ、蓄積される。読出部124は、電荷蓄積部123に蓄積された電荷を読み出し、画像生成部130へ出力する。
【0021】
なお、単位蓄積部は、電荷蓄積部123毎に、少なくとも2以上設けられる。これは、変調光151と入射光152との位相差を算出するためには、少なくとも2以上の位相情報(単位蓄積部に蓄積された電荷)が必要となるためである。画像生成部130では、この位相差を用いて、画素毎の対象物の距離を算出する。
【0022】
また、電荷蓄積部123への電荷の蓄積開始、終了、および読出部124からの電荷の読み出しは、制御部140からの制御信号により制御される。制御信号には、蓄積された電荷をリセットし、蓄積開始を指示するリセット信号と、蓄積終了を指示するサンプリング信号と、読出部124に電荷の読出しを指示する電荷読出信号と、の3種がある。
【0023】
制御部140からリセット信号を受信すると、電荷蓄積部123は、電荷のリセットを行い、光電変換素子122で受光されて変換された電荷の蓄積を開始する。また、制御部140からサンプリング信号を受信すると、電荷蓄積部123は、電荷の蓄積を停止する。さらに、制御部140から電荷読出信号を受信すると、読出部124は、電荷蓄積部123に蓄積された電荷を読み出し、画像生成部130へ出力する。
【0024】
なお、本実施形態では、読出部124による電荷の読み出しは、横一列の画素群に対応する撮像素子121の電荷蓄積部123群(Vライン)毎に行う。また、電荷蓄積部123は、サンプリング容量を備え、読出部124による電荷の読出しの前にサンプリング容量に一旦保持するよう構成してもよい。この場合、読出部124は、サンプリング容量から、電荷を読み出す。
【0025】
画像生成部130は、受光部120が所定期間電荷を蓄積する毎に、蓄積した電荷から、距離値を画素値とする距離画像を生成する距離画像生成部131を備える。
【0026】
距離画像生成部131は、各単位蓄積部に振り分けられた電荷量に所定の演算を施し、変調光151と入射光152との位相差を求め、各画素位置に対応する撮影空間の距離値を算出する。
【0027】
ここで、距離画像生成の原理を、図4を用いて説明する。光源110から出射される変調光151の強度が本図のような正弦曲線を描くように変化する場合、受光部120への入射光152の強度も同様に正弦曲線を描くよう変化する。
【0028】
ただし、変調光151と入射光152とには、光が物体200まで往復する飛行時間による位相の遅延(位相差φ)が生じる。光の速度cは既知であるため、この位相差φと変調周波数fとを用い、対象物までの距離値Dは、以下の式(1)で求めることができる。
【数1】
【0029】
ここで、変調光151と入射光152との位相差φは、変調光151の1周期を4等分した各期間をT1、T2、T3、T4とし、それぞれの期間に蓄積される電荷量をC1、C2、C3、C4とすると、以下の式(2)で表される。
【数2】
【0030】
なお、1周期を4等分した各期間T1、T2、T3、T4は、例えば、0度から90度の間、90度から180度の間、180度から270度の間、270度から0度の間とする。
【0031】
また、光源110の変調周波数は数十MHzである。従って、変調の1周期は数十ns程度である。このため、距離画像を得るためには、数百〜数十万周期の電荷蓄積期間を要する。本実施形態の距離画像生成部131は、この電荷蓄積期間Δt間隔で電荷蓄積部に蓄積された各電荷量C1、C2、C3、C4を用い、画素毎に、式(2)に従って位相差φを求め、式(1)に従って、対象物までの距離値Dを求め、距離値を画素値とする距離画像を生成する。生成した距離画像は、例えば、外部出力端子から出力される。
【0032】
制御部140は、距離画像生成装置100全体の動作を制御する。本実施形態では、ユーザから処理開始の指示(例えば、電源ON)を受け付けると、光源110から変調光151を照射させるとともに受光部120で入射光(反射光)152を受光させるとともに電荷として蓄積させ、所定の時間ごとに受光した入射光(反射光)152から距離画像を生成させる。
【0033】
このとき、本実施形態の制御部140は、光源110からの分割照射と受光部120における電荷の蓄積とを同期制御する。同期制御とは、単位照射領域毎に、当該単位照射領域への変調光151の分割照射と、当該単位照射領域からの入射光152を変換した電荷を蓄積する時間とを合致させる制御である。
【0034】
これを実現するため、本実施形態の制御部140は、図1に示すように、照射制御部141と蓄積制御部142とを備える。
【0035】
照射制御部141は、所定の単位照射領域への照射、非照射を制御する。制御は、予め定めたタイミングで、光源110に照射制御信号を送信し、各分割照射部111を構成するLEDの照射、非照射を制御することにより行う。光源110は、照射制御部141が出力する照射制御信号に従って、所定の分割照射部111を構成するLEDを発光させ、撮影空間の対応する単位照射領域に変調光151を照射する。
【0036】
蓄積制御部142は、予め定めたタイミングで、所定の撮像素子121の電荷蓄積部123における電荷の蓄積タイミングおよび電荷読み出しタイミングをそれぞれ制御するリセット信号、サンプリング信号、電荷読出信号を出力する。受光部120では、蓄積制御部142が出力するリセット信号に従って、所定の撮像素子121の電荷蓄積部123が電荷の蓄積を開始する。電荷の蓄積は、振分部が予め定められた規則に従って各電荷蓄積部123の単位蓄積部にそれぞれ振分けながら行われる。本実施形態では、上述のように、変調の1周期を4等分した期間毎に、これらの4つの単位蓄積部に振り分ける。なお、単位蓄積部には、電荷量そのものを蓄積してもよいし、この電荷量をAD変換して得たデータを蓄積してもよい。また、受光部120では、蓄積制御部142が出力するサンプリング信号に従って、電荷の蓄積を停止する。さらに、受光部120では、蓄積制御部142が出力する電荷読出信号に従って、読出部124が電荷蓄積部123の各単位蓄積部から電荷を読み出す。
【0037】
ここで、受光部120における、電荷の蓄積と読み出しの方式について説明する。
【0038】
光飛行時間型距離画像センサを含む、受光した入射光から画像を作成するセンサを一般にイメージセンサと呼ぶ。このイメージセンサでは、画素毎に用意された光電変換素子で受光した入射光を電荷量に変換し、画素毎に用意された電荷蓄積部に蓄積し、所定のタイミングで読出し、読み出した電荷に演算を施して各画素の画素値を得る。
【0039】
イメージセンサでは、電荷蓄積部への電荷の蓄積は、電荷蓄積部単位で時間の制約なく行うことができるが、電荷の読み出しは、Vラインと呼ばれる横一列の単位で行われる。電荷の蓄積および電荷の読み出し方法には、大きく分けて、グローバルシャッタ方式とローリングシャッタ方式がある。両方式の特徴を、図5を用いて説明する。
【0040】
図5は、グローバルシャッタ方式とローリングシャッタ方式の読み出し方法の違いを示した図であり、図5(a)は、グローバルシャッタ方式の、図5(b)は、ローリングシャッタ方式の、それぞれ読み出し方法を説明するための図である。ここでは、Vライン数が16(L0〜L15)の場合を例にあげて説明する。
【0041】
グローバルシャッタ方式は、全ての画素(全てのVライン)の電荷の蓄積を終えた後、Vライン毎に電荷の読み出しを行う。このとき、電荷の蓄積は、全Vライン、同時に行う。以下、方式の説明においては、Vラインに対応する電荷蓄積部123のことを、単にVラインと呼ぶ。また、n番目(nは自然数)のフレームの電荷蓄積開始時間をTr_n、同電荷蓄積終了時間をTs_nと表す。また、n番目(nは自然数)のフレームのVラインLkの電荷蓄積開始時間をTr_n_k、同電荷蓄積終了時間をTs_n_kと表す。
【0042】
グローバルシャッタ方式では、図5(a)に示すように、n番目のフレームの電荷を蓄積する際、時刻Tr_nで全Vラインの電荷の蓄積を同時に開始する。その後、時刻Ts_nで全Vラインの電荷の蓄積を終了する。電荷蓄積期間は、Ts_nからTr_nまでである。時刻Ts_nにおいて電荷の蓄積を終了すると、VラインL0から順に、L1、L2、・・・と電荷の読み出しを行う。最終のVラインL15まで読み出しを終えると、次のフレーム(n+1番目のフレーム)のために、時刻Tr_n+1に全Vラインにリセット信号を送信し、電荷の蓄積を開始する。
【0043】
このように、グローバルシャッタ方式では、全ての画素で、同じタイミングで電荷が蓄積される。このため、画像全体(特に縦方向)で、受光タイミングの時間差が発生しない。また、電荷蓄積期間と電荷読み出し時間とが完全に分離している。従って、電荷蓄積期間を電荷読出し時間とは独立に設定できるため、電荷蓄積期間を任意の長さに設定できる。
【0044】
しかし、電荷蓄積期間と電荷読み出し時間とが分離しているため、後述のローリングシャッタ方式に比べ、フレームレートが低下する。例えば、電荷蓄積期間を10ms、電荷読み出し時間を30msとすると、1フレーム分の電荷読み出しを終えるまでに係る時間は、10ms+30ms=40msとなる。従って、フレームレートは、その逆数となり、25fpsとなる。
【0045】
また、グローバルシャッタ方式では、電荷蓄積後、電荷読出し開始までの時間が、読み出すVライン順に徐々に長くなる。たとえサンプリング信号により電荷の蓄積を終了したとしても、この間に環境光が入射することがあり、その場合、SN比が下がり、距離が測れなくなる。
【0046】
一方、ローリングシャッタ方式は、1つのVラインの電荷の読み出しが行われている間に、他のVラインの電荷の蓄積を行う方式である。ローリングシャッタ方式では、Vライン毎に電荷の蓄積と電荷の読み出しとは、独立して制御される。
【0047】
ローリングシャッタ方式では、図5(b)に示すように、各Vラインについて、電荷の読み出し時間が重ならないように制御される。すなわち、VラインL0について、時刻Ts_n−1_0から時刻Tr_n_0まで電荷の読み出しを行い、VラインL1は、時刻Tr_n_0から電荷の読み出しを開始する。各Vラインは、電荷の読み出し時間に合わせ、電荷の蓄積の終了、開始時刻が決定される。
【0048】
例えば、VラインL0については、n−1番目のフレームの電荷読み出し終了後、時刻Tr_n_0にn番目のフレームの電荷の蓄積を開始し、時刻Ts_n_0に電荷の蓄積を終了し、その後、電荷の読み出しを開始する。VラインLk(kは、0≦k≦15を満たす整数)の場合、n−1番目のフレームの電荷読み出し終了後、時刻Tr_n_kにn番目のフレームの電荷の蓄積を開始し、時刻Ts_n_kに電荷の蓄積を終了し、電荷の読み出しを開始する。
【0049】
このように、ローリングシャッタ方式では、あるVラインの電荷読み出し時に、他のVラインの電荷蓄積を行うことができ、フレームレートを高めることができる。従って、ローリングシャッタ方式では、1フレーム分の電荷読み出しに必要な時間の最小値は、1Vライン分の電荷読み出しにかかる時間のVライン数倍、すなわち、全Vライン分の電荷読み出し時間である。従って、フレームレートは、最大で、全ラインの電荷読み出し時間の逆数となる。例えば、電荷読み出し時間を30msとすると、フレームレートは30msの逆数となり、33.333fpsとなる。
【0050】
また、ローリングシャッタ方式では、異なるVラインの電荷蓄積と電荷読み出しとを同時に行うことができるため、Vライン毎に電荷蓄積と電荷読み出しとを独立して制御できる。
【0051】
また、イメージングセンサでは、いずれの方式であっても、電荷蓄積期間を任意に変更できる。電荷蓄積期間の変更は、蓄積開始時間を変更することにより行う。蓄積開始時間は、リセット信号の送信タイミングにより変更する。ローリングシャッタ方式を例にあげて、この、電荷蓄積期間を変更する様子を説明する。
【0052】
図6(a)は、電荷蓄積期間を最大にした場合の例である。VラインL0のサンプリング(電荷蓄積終了)時刻Ts_n−1_0の直後に電荷の読み出しを開始し、電荷の読み出し終了直後に時刻Tr_n_0にリセットを行い、電荷蓄積を開始する。このとき、VラインL1のサンプリング(電荷蓄積終了)時刻Ts_n−1_1とし、VラインL1の電荷の読み出しを開始する。
【0053】
図6(b)は、光蓄積時間を、図6(a)の光蓄積時間の半分に設定した場合である。この場合、VラインL0の、n番目のフレーム用のリセット(電荷蓄積開始)時刻Tr_n_0を、n−1番目のフレームのサンプリング(電荷蓄積終了)時刻Ts_n−1_0と次フレーム(n番目のフレーム)のサンプリング時間Ts_n_0の中間に設定する。
【0054】
さらに、ローリングシャッタ方式では、リセット時間は、電荷読み出し時間が重ならない限り、Vライン毎に独自に設定できる。すなわち、全Vライン同じにすることもできるし、Vライン毎に時間を異なるものにすることもできる。
【0055】
次に、本実施形態の制御部140の光源110からの照射と受光部120における電荷の蓄積の制御を説明する。本実施形態では、ローリングシャッタ方式を用いる場合を例にあげて説明する。
【0056】
本実施形態では、上述のように、分割照射部111による単位照射領域への照射と、当該単位照射領域からの入射光152を変換した電荷の蓄積とを同期制御する。本実施形態では、この同期制御を、蓄積制御部142が出力するリセット信号、サンプリング信号、電荷読出信号に基づき、照射制御部141が照射制御信号を出力することにより実現する。
【0057】
すなわち、本実施形態では、蓄積制御部142は、予め定められたタイミングに従って、各Vラインを構成する電荷蓄積部123に、リセット信号、サンプリング信号、電荷読出信号を送信する。一方、照射制御部141は、蓄積制御部142が送信する各信号のタイミングに従って、分割照射部111に照射制御信号を送信する。
【0058】
例えば、撮影空間が、M個(Mは自然数)の単位照射領域に分割されて照射されるものとする。すなわち、光源110は、M個の分割照射部111を備えるものとする。各分割照射部111を、順に、1番目、2番目、・・・m番目、・・・M番目と呼ぶ(mは、1≦m≦Mを満たす自然数)。また、各単位照射領域を受光する受光部120のVライン数はK本(Kは自然数)とする。各Vラインは順に、1番目、2番目、・・・k番目、・・・K番目と呼ぶ(kは、1≦k≦Kを満たす自然数)。
【0059】
各Vラインの電荷読出し時間が重ならないよう、電荷蓄積開始時刻(リセット信号送信時刻;リセット時刻)と電荷蓄積終了時刻(サンプリング信号送信時刻:サンプリング時刻)とは、定められる。蓄積制御部142は、定められた時刻に、各Vラインに各信号を送信する。
【0060】
この場合、m番目の分割照射部111は、m番目の単位照射領域に対応する撮像素子121の、1番目のVラインのリセット時刻から、K番目のVラインのサンプリング時刻までの間、照射するよう制御される。なお、m番目のVラインは、最初から数えて(m−1)K+1番目のVラインとなる。このように、照射制御部141は、m番目の分割照射部111に、(m−1)K+1番目のVラインのリセット時刻から、mK番目のVラインのサンプリング時刻までの間、対応する変調光151を照射するよう、照射制御信号を送信する。
【0061】
本制御を、図7に示す具体例を用いて説明する。撮像空間は、図2に示すように、4つの単位照射領域に分割されて照射されるものとする。また、各単位照射領域からの入射光152を受光するVライン数を4本とする。ここでは、第nフレーム分の電荷を蓄積するタイミングを例にあげて説明する。
【0062】
照射制御部141は、1番目の分割照射部111が、1番目の単位照射領域からの入射光152を受光するVラインの中の1番目のVラインL0のリセット時間Tr_n_0から、4番目のVラインL3のサンプリング時間Ts_n_3までの時間、変調光151を照射するよう照射制御信号を送信する。
【0063】
同様に、照射制御部141は、2番目の分割照射部111が、2番目の単位照射領域に対応する1番目のVラインL4のリセット時間Tr_n_4から4番目のVラインL7のサンプリング時間Ts_n_7までの時間、3番目の分割照射部111が、3番目の単位照射領域に対応する1番目のVラインL8のリセット時間Tr_n_8から4番目のVラインL11のサンプリング時間Ts_n_11までの時間、4番目の分割照射部111が、4番目の単位照射領域に対応する1番目のVラインL12のリセット時間Tr_n_11から4番目のVラインL15のサンプリング時間Ts_n_15までの時間、変調光151を照射するよう照射制御信号を送信する。
【0064】
これにより、本実施形態では、図7に示すように、各Vラインに対応する電荷蓄積部123が電荷を蓄積している間、対応する単位照射領域を照射するよう制御できる。
【0065】
なお、本実施形態の距離画像生成装置100は、CPUとメモリと記憶装置とを備え、記憶装置に格納されたプログラムを実行することにより、画像生成部130および制御部140の機能を実現する。
【0066】
以上説明したように、本実施形態によれば、制御部140は、分割照射部111による単位照射領域への照射と、当該単位照射領域からの反射光を受光する撮像素子121の電荷蓄積部123における電荷の蓄積とが同期するよう制御する。
【0067】
従って、本実施形態によれば、光源110を分割して領域毎に照射し、受光部120では、照射時間のみ電荷を蓄積するため、距離算出に必要な変調光の情報が含まれない周辺光のみの受光を抑えることができるとともに、距離算出に必要な変調光成分と周辺光成分との比率の変化を抑えることができ、フレームレートの低下を抑えることができる。これにより、撮影空間内に反射光の強い領域がある場合であっても、フレームレートを維持しながら、算出される距離値の精度を高めることができる。
【0068】
また、本実施形態によれば、制御部140は、分割照射部111による単位照射領域への照射を制御する照射制御部141と、電荷蓄積部123による電荷の蓄積を制御する蓄積制御部142と、を備え、照射制御部141が、蓄積制御部142による前記電荷の蓄積の制御に従って、分割照射部111による照射を制御することにより、同期制御を実現する。
【0069】
このため、本実施形態によれば、各電荷蓄積部123において、距離画像生成部131が距離画像を算出するために必要な電荷を十分に蓄積できる。
【0070】
なお、上記実施形態では、蓄積制御部142による電荷蓄積タイミングの制御に応じて照射制御部141が分割照射を制御しているが、これに限られない。同期制御は、照射制御部141による分割照射タイミングの制御に応じて、蓄積制御部142が電荷蓄積期間を制御するよう構成してもよい。
【0071】
この場合、照射制御部141は、予め定められた分割照射期間、各分割照射部111が、それぞれ対応する単位照射領域を照射するよう照射制御信号を送信する。一方、蓄積制御部142は、分割照射期間に応じて、対応するVラインの電荷蓄積開始時刻、電荷蓄積終了時刻、電荷読出し時刻をそれぞれ決定し、各電荷蓄積部123に、各信号を送信する。
【0072】
例えば、図7の例では、1番目の単位照射領域に対応する1番目のVラインのリセット時間を、1番目の分割照射部111の分割照射開始時間に設定し、4番目のVラインのサンプリング時間を、同分割照射部111の分割照射終了時間になるよう、各Vラインの電荷蓄積開始時間、終了時間を決定する。
【0073】
このように構成することで、光源110の照射制御が簡易になる。例えば、上記実施形態では、光源110が複数のLEDで構成されている場合を例にあげて説明しているが、その他の構成の光源110も利用可能である。
【0074】
例えば、図8に示すように、光源110として、点光源であるレーザ光源300を用いるものであってもよい。
【0075】
この場合、光源110は、レーザ光源300とスキャン手段320とを備える。照射制御部141は、スキャン手段320を制御し、レーザ光源300から出射した光を、図中、x方向およびy方向に走査する。スキャン手段320には、ミラーを回転させて変調光を走査するガルバノミラー、ミラーを振動させて変調光を走査するMEMSなどが用いられる。なお、走査方向が1軸方向(例えば、y軸方向)のみの場合、拡散板330を用い、レーザ光源300から出射した光をx軸方向に拡散する(図8:340)。
【0076】
点光源であるレーザ光源300を用いる場合の、レーザ光源300が照射する領域と、対応するVラインとを図9(a)に示す。スキャンの周期Tscan毎に、撮影空間は、図9(a)の上方(VラインL0)から下方(VラインL15)に向かって照射される。
【0077】
図9(b)は、光源110の照射タイミング(スキャンタイミング)に応じて、撮像素子121の電荷蓄積部123の電荷蓄積タイミングを制御する様子を説明するための図である。
【0078】
VラインL0が対応する撮影空間の領域を照射し始める時間Tr_n_0に、VラインL0にリセット信号を送信する。光源110のスキャンが進み、VラインL0が対応する撮影空間の領域の照射が終わるタイミングTs_n_0に、VラインL0にサンプリング信号を送信するとともに、電荷読出信号を送信する。同様に、VラインL1が対応する撮影空間の領域の照射が始まるタイミングTr_n_1に、VラインL1にリセット信号を送信し、照射が終わる時間Ts_n_1に、サンプリング信号と電荷読出信号とを送信する。
【0079】
このように制御することにより、電荷蓄積期間と光源照射時間とを合致させることができ、よりフレアを抑えることができるとともに、蓄積する電荷の信頼性を高めることができる。
【0080】
なお、光源110の照射タイミングと、受光部120における電荷蓄積タイミングとの制御は、いずれかに依存して行うものには限られない。例えば、予め定められたパラメータから、各単位照射領域への照射タイミング、各電荷蓄積部123の電荷の蓄積タイミングが一意に決定する場合、決定するタイミングに従って制御を行う。
【0081】
例えば、電荷蓄積期間は、一般に算出される画素値の精度を高めるため、一定であることが望ましい。このように、電荷蓄積期間が一定である場合、各電荷蓄積部123の蓄積タイミングは一意に決定する。このような場合、予め、電荷蓄積タイミングおよび照射タイミングを決定し、それに従って、制御することができる。
【0082】
電荷蓄積期間をTQ、電荷読出し時間をTR、照射領域の分割数(単位照射領域数)をM、1つの単位照射領域からの入射光152を受光するVライン数をKとする。M、Kは自然数である。また、ローリングシャッタ方式を用い、電荷蓄積終了と同時に電荷の読出しを開始するものとする。
【0083】
電荷読出し時間TRは定まっているため、最初のVラインのサンプリング信号送信時刻(サンプリング時刻)をTs1とすると、2番目のVラインのサンプリング時刻はTs1+TRとなる。電荷蓄積期間TQも定まっているため、最初のVラインのリセット信号送信時刻(リセット時刻)をTr1とすると、2番目のVラインのリセット時刻Tr2はTr1+TRとなる。従って、K番目のVラインのリセット時刻TrKは、Tr1+(K−1)TRとなる。
【0084】
また、最初のVラインのサンプリング時刻Ts1は、Tr1+TQである。また、K番目のVラインのサンプリング時刻Trsは、Tr1+(K-1)TR+TQとなる。
【0085】
蓄積制御部142は、各Vラインに対応する電荷蓄積部123に、1番目のVラインのリセット時刻Tr1から、TR毎に順に各Vラインにリセット信号を送信し、Ts1(=Tr1+TQ)から、TR毎に順にVラインにサンプリング信号、電荷読出信号を送信する。
【0086】
また、1つの単位照射領域に対応するVライン数はKであるため、1番目の分割照射部111が1番目のVラインの電荷蓄積開始時刻Tr1から、K番目のVラインの電荷蓄積終了時刻(サンプリング時刻)Tr1+(K-1)TR+TQまで照射するよう制御する。照射期間は、Tr1+(K-1)TR+TQ―Tr=(K-1)TR+TQである。
【0087】
また、2番目の分割照射部111の1番目のVラインは、K+1番目のVラインであるため、そのリセット時刻TrK+1は、Tr1+KTRである。従って、1番目のVラインのリセット時刻との差分は、Tr1+KTR−Tr1=KTRとなる。
【0088】
よって、照射制御部141は、Tr1からkTR毎に、各分割照射部111に順に、(K-1)TR+TQ間照射するよう照射制御信号を出力する。
【0089】
以上説明したように、本実施形態によれば、各Vラインは、電荷蓄積期間中、対応する単位照射領域に変調光が照射されていることになる。すなわち、各Vラインを構成する電荷蓄積部123は、対応する単位照射領域が照射されている間のみ電荷を蓄積する。言い換えれば、各Vラインの電荷蓄積部123は、変調光が照射されていない時には電荷の蓄積を行わない。従って、各撮像素子121において、環境光の混入を最小限にすることができる。これにより、高い精度の距離値を得ることができる。
【0090】
<<第二の実施形態>>
次に、本発明を適用する第二の実施形態を説明する。上記実施形態では、変調光の照射タイミングと、電荷の蓄積タイミングとを、同期制御している。一方、本実施形態では、照射光強度画像を併用し、照射光強度の強弱に応じた制御を加える。以下、本実施形態について、第一の実施形態と異なる構成に主眼をおいて説明する。
【0091】
図10は、本実施形態の距離画像生成装置600のブロック図である。本図に示すように、本実施形態の距離画像生成装置600は、第一の実施形態同様、変調光151と入射光152との位相差を用いて距離画像を生成する光飛行時間型距離画像センサを用いるもので、光源110と、受光部120と、画像生成部630と、制御部640と、を備える。
【0092】
本実施形態の光源110、受光部120は、第一の実施形態の同名の構成と基本的に同様の構成を有する。一方、本実施形態の画像生成部630は、上記各実施形態のように、距離画像生成部131に加え、照射光強度画像生成部132を備える。
【0093】
照射光強度画像生成部132は、各単位蓄積部に振り分けられた電荷量に所定の演算を施し、各画素の位置に対応する撮影空間の照射光強度値を算出する。このとき、距離画像生成部131が距離値を算出するために用いる上記各電荷量C1、C2、C3、C4をそのまま用いる。これを用い、照射強度画像生成部132は、画素毎に以下の式(3)に従って、電荷蓄積期間Δt毎に、照射光強度値Bを算出し、照射光強度値を画素値とする照射光強度画像を生成する。
【数3】
【0094】
なお、一般に輝度画像の画素値として用いられるのは、以下の式(4)に従って、4つの電荷蓄積部に振り分けられた電荷の平均値Aである。
【数4】
【0095】
本実施形態では、照射光強度画像生成部132による照射光強度画像の、画素値(照射光強度値)に応じて、電荷蓄積期間を調整する。
【0096】
これを実現するため、本実施形態の制御部640は、照射制御部141と、蓄積制御部142に加え、強度判別部143を備える。
【0097】
強度判別部143は、照射光強度画像生成部132が照射光強度画像を生成する毎に、各単位照射領域の照射光強度の強弱を判別する。判別は、予め定めた手法により行う。例えば、各単位照射領域に対応する画素群の画素値の平均値を計算し、予め定めた閾値を超える場合、当該単位照射領域の照射光強度が強い高強度領域と判別する。また、予め定めた閾値以上の強度を持つ画素が一定数以上ある単位照射領域を高強度領域と判別してもよい。
【0098】
本実施形態の照射制御部141は、強度判別部143による判別結果を受け、照射を制御する。例えば、高強度領域と判別された単位照射領域については、当該単位照射領域への照射を、他の単位照射領域への照射と重ならないよう制御する。
【0099】
この場合の、単位照射領域と照射時間との関係を図11(a)に示す。ここでは、一例として、単位照射領域数が4の場合を示す。また、4番目の単位照射領域が、高強度領域と判別されたものとする。
【0100】
なお、このとき、蓄積制御部142は、図11(b)に示すように、各単位照射領域に対応するVラインの電荷の蓄積が、照射時間内に行われるよう、各Vラインの蓄積開始時刻(リセット信号送信時刻)、蓄積終了時刻(サンプリング信号送信時刻)、および、電荷読出し時刻(読出信号送信時刻)を決定する。
【0101】
本実施形態の制御部640による照射、電荷蓄積制御の流れを図12を用いて説明する。ここでは、単位照射領域数をMとする。mは、1≦m≦Mを満たすカウンタとする。
【0102】
まず、制御部640は、予め定めた条件に従って、各単位照射領域の照射タイミングを決定する(ステップS2101)。また、各単位照射領域の照射タイミングに応じて、対応するVライン群の電荷蓄積タイミングを決定する(ステップS2102)。このとき、各単位照射領域への分割照射部111による照射時間に、当該単位照射領域に対応するVライン群の全ての電荷蓄積部123の電荷蓄積期間が含まれるよう、各電荷蓄積タイミングを決定する。
【0103】
そして、制御部640は、カウンタmを1とし(ステップS2103)、照射制御部141および蓄積制御部142に、決定したタイミングに応じて、照射制御信号、リセット信号、サンプリング信号、電荷読出信号を出力させ、照射および電荷の蓄積を行う(ステップS2104)。
【0104】
ステップS2104の処理を、全単位照射領域数、繰り返す(ステップS2106、2107)。
【0105】
m番目の単位照射領域分の電荷の読み出しを終えると、照射および電荷の蓄積とは独立して、距離画像生成部131と、照射光強度画像生成部132とは、それぞれ、距離画像および照射光強度画像を生成する。そして、強度判別部143は、当該単位照射領域が高強度領域であるか否かを判別し、判別結果を制御部640に通知する。制御部640は、高強度領域との判別結果を得た場合、当該単位照射領域への照射タイミングおよび次の単位照射領域への照射タイミングを変更する。高強度領域との判別結果を得ない場合は、照射タイミングは変更しない。
【0106】
全ての単位照射領域数Mだけ、照射および電荷の蓄積を終えると、制御部640は、次のフレーム用の照射および電荷の蓄積を開始する。このとき、制御部640は、照射タイミングの変更の有無を判別する(ステップS2108)。
【0107】
照射タイミングが変更されている場合、制御部640は、ステップS2102にもどり、変更後の照射タイミングに応じた、電荷蓄積タイミングを決定する。一方、変更されていない場合、制御部640は、ステップS2103へもどり、終了の指示を受け付けるまで(ステップS2105)、処理を繰り返す。
【0108】
なお、本実施形態の距離画像生成装置600は、CPUとメモリと記憶装置とを備え、記憶装置に格納されたプログラムを実行することにより、画像生成部630および制御部640の機能を実現する。
【0109】
以上説明したように、本実施形態によれば、第一の実施形態の構成に加え、照射光強度を画素値とする前記撮影空間の照射光強度画像を生成する照射光強度画像生成部132を備え、制御部640は、各単位照射領域に対応する照射光強度画像の画素群の画素値を用いて、各単位照射領域が高強度領域であるか否かを判別する強度判別部143をさらに備える。そして、照射制御部141が、強度判別部143が高強度領域と判別した単位照射領域への照射を、他の単位照射領域への照射と時間的に重ならないよう制御する。
【0110】
このように、本実施形態によれば、高強度領域への照射時間を、他の単位照射領域の照射と重ならないよう制御する。従って、撮影空間内に反射光の強い領域がある場合であっても、フレアの発生を抑えることができる。さらに、受光部120では、照射時間のみ電荷を蓄積するため、距離算出に必要な変調光の情報が含まれない周辺光のみの受光を抑えることができるとともに、距離算出に必要な変調光成分と周辺光成分との比率の変化を抑えることができ、フレームレートの低下を抑えることができる。これにより、撮影空間内に反射光の強い領域がある場合であっても、フレームレートを維持しながら、算出される距離値の精度を高めることができる。
【0111】
なお、上記実施形態では、単位照射領域のうち、高強度領域については、照射時間が他の単位照射領域への照射と重ならないよう、光源110側の照射を制御しているが、これに限られない。例えば、高強度領域について、電荷蓄積期間を短くするよう受光部120側を制御するよう構成してもよい。
【0112】
このときの、制御部640による照射、電荷蓄積制御の流れを図13を用いて説明する。ここでは、単位照射領域数をMとする。mは、1≦m≦Mを満たすカウンタとする。
【0113】
まず、制御部640は、予め定めた条件に従って、各Vラインの電荷蓄積タイミング(電荷蓄積開始時刻、電荷蓄積終了時刻、読み出し開始時刻)を決定する(ステップS2201)。ここでは、各Vラインの電荷蓄積期間には予め定めた初期値を用いる。次に、制御部640は、各単位照射領域に対応するVライン数、各Vラインの電荷蓄積開始時刻、電荷蓄積終了時刻に応じて、照射タイミングを決定する(ステップS2202)。
【0114】
そして、制御部640は、カウンタmを1とし(ステップS2203)、照射制御部141および蓄積制御部142に、決定したタイミングに応じて、照射制御信号、リセット信号、サンプリング信号、電荷読出信号を出力させ、照射および電荷の蓄積を行う(ステップS2204)。
【0115】
ステップS2204の処理を、全単位照射領域数、繰り返す(ステップS2206、S2207)。
【0116】
m番目の単位照射領域分の電荷の読み出しを終えると、照射および電荷の蓄積とは独立して、距離画像生成部131と、照射光強度画像生成部132とは、それぞれ、距離画像および照射光強度画像を生成する。そして、強度判別部143は、当該単位照射領域が高強度領域であるか否かを判別し、判別結果を制御部640に通知する。制御部640は、高強度領域との判別結果を得た場合、当該単位照射領域に対するVライン群の電荷蓄積期間を予め定めた規則に従って、短くする。高強度領域との判別結果を得ない場合は、電荷蓄積期間には初期値を用いる。
【0117】
全ての単位照射領域数Mだけ、照射および電荷の蓄積を終えると、制御部640は、次のフレーム用の照射および電荷の蓄積を開始する。このとき、制御部640は、電荷蓄積期間の変更の有無を判別する(ステップS2208)。
【0118】
電荷蓄積期間が変更されている場合、制御部640は、ステップS2202にもどり、変更後の電荷蓄積期間に応じた、照射タイミングを決定する。一方、変更されていない場合、制御部640は、ステップS2203へもどり、終了の指示を受け付けるまで(ステップS2205)、処理を繰り返す。
【0119】
なお、上記各実施形態では、電荷蓄積および読み出し方式として、ローリングシャッタ方式を用いる場合を例にあげて説明したが、これに限られない。グローバルシャッタ方式を用いてもよい。この場合、図5(a)に示す電荷蓄積および読み出しを、単位照射領域毎に行うよう制御する。
【符号の説明】
【0120】
100:距離画像生成装置、110:光源、111:分割照射部、120:受光部、121:撮像素子、122:光電変換素子、123:電荷蓄積部、124:読出部、130:画像生成部、131:距離画像生成部、132:照射光強度画像生成部、140:制御部、141:照射制御部、142:蓄積制御部、143:強度判別部、151:変調光、152:反射光、200:物体、210:撮影空間、211:単位照射領域、212:単位照射領域、213:単位照射領域、214:単位照射領域、300:レーザ光源、320:スキャン手段、330:拡散板、600:距離画像生成装置、630:画像生成部、640:制御部
【技術分野】
【0001】
本発明は、距離画像生成技術に関し、特に、光飛行時間型距離画像センサを用いた距離画像生成技術に関する。
【背景技術】
【0002】
光飛行時間型距離画像センサを用いて、撮影空間の対象物の、当該センサからの距離を画素値とする距離画像を生成する距離画像生成装置がある。光飛行時間型距離画像センサでは、光源から照射した変調光と、当該変調光の対象物による反射光との位相差を用いて、画素毎に対象物の距離を算出する。位相差は、画素毎に用意された撮像素子でレンズを介して受光した反射光を光量に応じた電荷量に変換し、この電荷量に所定の演算を施すことにより算出される(例えば、特許文献1参照)。
【0003】
光飛行時間型距離画像センサを用いた距離画像生成装置は、上述のように画素毎に受光した反射光を基に距離値を算出している。しかし、極端に近い距離の対象物が撮影対象空間にある場合、また、極端に反射率の高い物体が撮影対象空間にある場合など、強い反射光がレンズに入射すると、レンズの解像力などの性能によって、本来結像する画素以外の画素に反射光が回り込み、フレアと呼ばれる現象が発生することがある。フレアが発生すると、距離を算出する上での正確な光量が得られず、それに従って算出される距離値も不正確となる。
【0004】
フレアを減少させるため、光源を分割し、対応する領域毎に照射する手法がある。
【先行技術文献】
【特許文献】
【0005】
【特許文献1】特開2008−241435号公報
【発明の概要】
【発明が解決しようとする課題】
【0006】
光源を分割し対応する領域毎に照射すると、各領域では、変調光が照射されない時間(非照射時間)が発生する。各領域において、非照射時間中は周辺光のみの受光となる。周辺光には距離算出に必要な変調光の情報が含まれないため、算出距離の精度を悪化させる。特に日中の屋外での使用時に顕著に悪化する。
【0007】
さらに、距離算出に必要な変調光成分と周辺光成分との比率が時間に応じて変化する。これにより距離画像のSN比が下がり、得られる距離画像の距離値の精度も悪化する。さらに、分割照射を複数のフレームに渡って行うと、時間的に連続した距離画像が取得できず、フレームレートが低下する。
【0008】
本発明は、上記事情に鑑みてなされたもので、光飛行時間型距離画像センサを用いて撮影空間の距離画像生成する際、撮影空間内に反射光の強い領域がある場合であっても、フレームレートを維持しながら距離計測の精度を高める技術を提供することを目的とする。
【課題を解決するための手段】
【0009】
本発明は、変調光の分割照射と、受光した反射光から得た電荷の蓄積とを、同期制御する。
【0010】
具体的には、撮影空間を2つ以上の単位照射領域に分割して変調光を照射する空間分割照射手段と、前記変調光が前記撮影空間内の対象物で反射した反射光を受光して受光光量に応じた電荷に変換後蓄積する複数の撮像素子と、前記複数の撮像素子それぞれに蓄積された電荷から距離値を画素値とする前記撮影空間の距離画像を生成する距離画像生成手段と、前記空間分割照射手段および前記撮像素子の動作を制御する制御手段と、を備える距離画像生成装置であって、前記撮像素子は、前記撮像素子毎に前記反射光を受光して電荷に変換する光電変換素子と、前記光電変換素子で変換した電荷を蓄積する電荷蓄積手段と、を備え、前記制御手段は、前記空間分割照射手段による前記単位照射領域への照射と、当該単位照射領域からの反射光を受光する前記撮像素子の前記電荷蓄積手段における電荷の蓄積とが同期するよう制御することを特徴とする距離画像生成装置を提供する。
【0011】
また、撮影空間を2つ以上の単位照射領域に分割して変調光を照射する空間分割照射手段と、前記変調光が前記撮影空間内の対象物で反射した反射光を受光して受光光量に応じた電荷に変換後蓄積する複数の撮像素子と、前記複数の撮像素子それぞれに蓄積された電荷から距離値を画素値とする前記撮影空間の距離画像を生成する距離画像生成手段と、を備える距離画像生成装置における照射および電荷蓄積制御方法であって、前記空間分割照射手段による前記単位照射領域への照射と、当該単位照射領域からの反射光を受光する前記撮像素子における電荷の蓄積と、を同期させる同期制御ステップを備えることを特徴とする照射および電荷蓄積制御方法を提供する。
【発明の効果】
【0012】
本発明によれば、光飛行時間型距離画像センサを用いて撮影空間の距離画像生成する際、撮影空間内に反射光の強い領域がある場合であっても、フレームレートを維持しながら撮影対象空間全体の物体の距離計測の精度が高まる。
【図面の簡単な説明】
【0013】
【図1】第一の実施形態の距離画像生成装置のブロック図である。
【図2】第一の実施形態の分割照射部による撮影空間の分割照射の様子を説明するための説明図である。
【図3】第一の実施形態の撮像素子のブロック図である。
【図4】距離画像生成の原理を説明するための説明図である。
【図5】(a)は、グローバルシャッタ方式を、(b)は、ローリングシャッタ方式を説明するための説明図である。
【図6】(a)は、電荷蓄積期間を最大にした場合の、(b)は、電荷蓄積期間を(a)の半分にした場合の、それぞれローリングシャッタ方式による電荷蓄積タイミングを説明するための説明図である。
【図7】第一の実施形態の蓄積制御部および照射制御部による制御を説明するための説明図である。
【図8】第一の実施形態の光源の変形例を説明するための説明図である。
【図9】(a)は、第一の実施形態の変形例の分割照射を説明するための説明図であり、(b)は、第一の実施形態の変形例の蓄積制御部および照射制御部による制御を説明するための説明図である。
【図10】第二の実施形態の距離画像生成装置のブロック図である。
【図11】(a)は、第二の実施形態の分割照射を説明するための説明図であり、(b)は、第二の実施形態の蓄積制御部および照射制御部による制御を説明するための説明図である。
【図12】第二の実施形態の制御部による照射および電荷蓄積制御のフローチャートである。
【図13】第二の実施形態の変形例の制御部による照射および電荷蓄積制御のフローチャートである。
【発明を実施するための形態】
【0014】
<<第一の実施形態>>
以下、本発明を適用する実施形態について説明する。以下、本発明の実施形態を説明するための全図において、同一機能を有するものは同一符号を付し、その繰り返しの説明は省略する。
【0015】
まず、本実施形態で用いる距離画像生成装置の構成を説明する。図1は、本実施形態の距離画像生成装置100のブロック図である。
【0016】
図1に示すように、距離画像生成装置100は、照射光と入射光との位相差を用いて距離画像を生成する光飛行時間型距離画像センサを用いるもので、光源110と、受光部120と、画像生成部130と、制御部140と、を備える。
【0017】
光源110は、撮影空間に変調した光(例えば、正弦波もしくは矩形波等で高速に変調させた赤外光もしくは可視光;以下、変調光と呼ぶ。)151を照射する。光源110には、LED、レーザ等の高速変調が可能なデバイスが用いられる。本実施形態の光源110は、LED等の発光体がアレイ状に配置されたものとする。ただし、これに限られない。個々の発光体がそれぞれ異なる照射領域を照射可能で、かつ、発光量を独立に制御可能なものであればよい。
【0018】
本実施形態の光源110は、各LEDからの変調光の照射タイミングを制御することにより、撮影空間210を、図2に示すように、空間的に複数の領域(単位照射領域;本図では、211、212、213、214の4つの場合を例示する。)に分割して照射する。各単位照射領域に照射するLED群を分割照射部111と呼ぶ。各分割照射部111の照射タイミングは、制御部140から出力される照射制御信号により制御される。
【0019】
受光部120は、光源110から照射された変調光151が撮影空間内の物体200で反射された反射光を含む入射光152を受光し、電荷に変換する。受光部120は、図1に示すように、画像生成部130が生成する画像の各画素に対応する複数の撮像素子121を備える。複数の撮像素子121は、画像生成部130が生成する距離画像の各画素に対応づけて規則的に配列される。図1には、4×4の場合を例示する。なお、各撮像素子121は、主として撮影空間の対応する領域からの入射光152を受光する。
【0020】
各撮像素子121は、図3に示すように、光電変換素子122と、電荷蓄積部123と読出部124と、を備える。光電変換素子122は、入射光152を受光し、受光量に応じた電荷に変換する。電荷蓄積部123は、光電変換素子122により得られた電荷を蓄積する。電荷蓄積部123は、複数の単位蓄積部と振分部とを備える。電荷は、振分部により予め定めた規則に従って、各単位蓄積部に振り分けられ、蓄積される。読出部124は、電荷蓄積部123に蓄積された電荷を読み出し、画像生成部130へ出力する。
【0021】
なお、単位蓄積部は、電荷蓄積部123毎に、少なくとも2以上設けられる。これは、変調光151と入射光152との位相差を算出するためには、少なくとも2以上の位相情報(単位蓄積部に蓄積された電荷)が必要となるためである。画像生成部130では、この位相差を用いて、画素毎の対象物の距離を算出する。
【0022】
また、電荷蓄積部123への電荷の蓄積開始、終了、および読出部124からの電荷の読み出しは、制御部140からの制御信号により制御される。制御信号には、蓄積された電荷をリセットし、蓄積開始を指示するリセット信号と、蓄積終了を指示するサンプリング信号と、読出部124に電荷の読出しを指示する電荷読出信号と、の3種がある。
【0023】
制御部140からリセット信号を受信すると、電荷蓄積部123は、電荷のリセットを行い、光電変換素子122で受光されて変換された電荷の蓄積を開始する。また、制御部140からサンプリング信号を受信すると、電荷蓄積部123は、電荷の蓄積を停止する。さらに、制御部140から電荷読出信号を受信すると、読出部124は、電荷蓄積部123に蓄積された電荷を読み出し、画像生成部130へ出力する。
【0024】
なお、本実施形態では、読出部124による電荷の読み出しは、横一列の画素群に対応する撮像素子121の電荷蓄積部123群(Vライン)毎に行う。また、電荷蓄積部123は、サンプリング容量を備え、読出部124による電荷の読出しの前にサンプリング容量に一旦保持するよう構成してもよい。この場合、読出部124は、サンプリング容量から、電荷を読み出す。
【0025】
画像生成部130は、受光部120が所定期間電荷を蓄積する毎に、蓄積した電荷から、距離値を画素値とする距離画像を生成する距離画像生成部131を備える。
【0026】
距離画像生成部131は、各単位蓄積部に振り分けられた電荷量に所定の演算を施し、変調光151と入射光152との位相差を求め、各画素位置に対応する撮影空間の距離値を算出する。
【0027】
ここで、距離画像生成の原理を、図4を用いて説明する。光源110から出射される変調光151の強度が本図のような正弦曲線を描くように変化する場合、受光部120への入射光152の強度も同様に正弦曲線を描くよう変化する。
【0028】
ただし、変調光151と入射光152とには、光が物体200まで往復する飛行時間による位相の遅延(位相差φ)が生じる。光の速度cは既知であるため、この位相差φと変調周波数fとを用い、対象物までの距離値Dは、以下の式(1)で求めることができる。
【数1】
【0029】
ここで、変調光151と入射光152との位相差φは、変調光151の1周期を4等分した各期間をT1、T2、T3、T4とし、それぞれの期間に蓄積される電荷量をC1、C2、C3、C4とすると、以下の式(2)で表される。
【数2】
【0030】
なお、1周期を4等分した各期間T1、T2、T3、T4は、例えば、0度から90度の間、90度から180度の間、180度から270度の間、270度から0度の間とする。
【0031】
また、光源110の変調周波数は数十MHzである。従って、変調の1周期は数十ns程度である。このため、距離画像を得るためには、数百〜数十万周期の電荷蓄積期間を要する。本実施形態の距離画像生成部131は、この電荷蓄積期間Δt間隔で電荷蓄積部に蓄積された各電荷量C1、C2、C3、C4を用い、画素毎に、式(2)に従って位相差φを求め、式(1)に従って、対象物までの距離値Dを求め、距離値を画素値とする距離画像を生成する。生成した距離画像は、例えば、外部出力端子から出力される。
【0032】
制御部140は、距離画像生成装置100全体の動作を制御する。本実施形態では、ユーザから処理開始の指示(例えば、電源ON)を受け付けると、光源110から変調光151を照射させるとともに受光部120で入射光(反射光)152を受光させるとともに電荷として蓄積させ、所定の時間ごとに受光した入射光(反射光)152から距離画像を生成させる。
【0033】
このとき、本実施形態の制御部140は、光源110からの分割照射と受光部120における電荷の蓄積とを同期制御する。同期制御とは、単位照射領域毎に、当該単位照射領域への変調光151の分割照射と、当該単位照射領域からの入射光152を変換した電荷を蓄積する時間とを合致させる制御である。
【0034】
これを実現するため、本実施形態の制御部140は、図1に示すように、照射制御部141と蓄積制御部142とを備える。
【0035】
照射制御部141は、所定の単位照射領域への照射、非照射を制御する。制御は、予め定めたタイミングで、光源110に照射制御信号を送信し、各分割照射部111を構成するLEDの照射、非照射を制御することにより行う。光源110は、照射制御部141が出力する照射制御信号に従って、所定の分割照射部111を構成するLEDを発光させ、撮影空間の対応する単位照射領域に変調光151を照射する。
【0036】
蓄積制御部142は、予め定めたタイミングで、所定の撮像素子121の電荷蓄積部123における電荷の蓄積タイミングおよび電荷読み出しタイミングをそれぞれ制御するリセット信号、サンプリング信号、電荷読出信号を出力する。受光部120では、蓄積制御部142が出力するリセット信号に従って、所定の撮像素子121の電荷蓄積部123が電荷の蓄積を開始する。電荷の蓄積は、振分部が予め定められた規則に従って各電荷蓄積部123の単位蓄積部にそれぞれ振分けながら行われる。本実施形態では、上述のように、変調の1周期を4等分した期間毎に、これらの4つの単位蓄積部に振り分ける。なお、単位蓄積部には、電荷量そのものを蓄積してもよいし、この電荷量をAD変換して得たデータを蓄積してもよい。また、受光部120では、蓄積制御部142が出力するサンプリング信号に従って、電荷の蓄積を停止する。さらに、受光部120では、蓄積制御部142が出力する電荷読出信号に従って、読出部124が電荷蓄積部123の各単位蓄積部から電荷を読み出す。
【0037】
ここで、受光部120における、電荷の蓄積と読み出しの方式について説明する。
【0038】
光飛行時間型距離画像センサを含む、受光した入射光から画像を作成するセンサを一般にイメージセンサと呼ぶ。このイメージセンサでは、画素毎に用意された光電変換素子で受光した入射光を電荷量に変換し、画素毎に用意された電荷蓄積部に蓄積し、所定のタイミングで読出し、読み出した電荷に演算を施して各画素の画素値を得る。
【0039】
イメージセンサでは、電荷蓄積部への電荷の蓄積は、電荷蓄積部単位で時間の制約なく行うことができるが、電荷の読み出しは、Vラインと呼ばれる横一列の単位で行われる。電荷の蓄積および電荷の読み出し方法には、大きく分けて、グローバルシャッタ方式とローリングシャッタ方式がある。両方式の特徴を、図5を用いて説明する。
【0040】
図5は、グローバルシャッタ方式とローリングシャッタ方式の読み出し方法の違いを示した図であり、図5(a)は、グローバルシャッタ方式の、図5(b)は、ローリングシャッタ方式の、それぞれ読み出し方法を説明するための図である。ここでは、Vライン数が16(L0〜L15)の場合を例にあげて説明する。
【0041】
グローバルシャッタ方式は、全ての画素(全てのVライン)の電荷の蓄積を終えた後、Vライン毎に電荷の読み出しを行う。このとき、電荷の蓄積は、全Vライン、同時に行う。以下、方式の説明においては、Vラインに対応する電荷蓄積部123のことを、単にVラインと呼ぶ。また、n番目(nは自然数)のフレームの電荷蓄積開始時間をTr_n、同電荷蓄積終了時間をTs_nと表す。また、n番目(nは自然数)のフレームのVラインLkの電荷蓄積開始時間をTr_n_k、同電荷蓄積終了時間をTs_n_kと表す。
【0042】
グローバルシャッタ方式では、図5(a)に示すように、n番目のフレームの電荷を蓄積する際、時刻Tr_nで全Vラインの電荷の蓄積を同時に開始する。その後、時刻Ts_nで全Vラインの電荷の蓄積を終了する。電荷蓄積期間は、Ts_nからTr_nまでである。時刻Ts_nにおいて電荷の蓄積を終了すると、VラインL0から順に、L1、L2、・・・と電荷の読み出しを行う。最終のVラインL15まで読み出しを終えると、次のフレーム(n+1番目のフレーム)のために、時刻Tr_n+1に全Vラインにリセット信号を送信し、電荷の蓄積を開始する。
【0043】
このように、グローバルシャッタ方式では、全ての画素で、同じタイミングで電荷が蓄積される。このため、画像全体(特に縦方向)で、受光タイミングの時間差が発生しない。また、電荷蓄積期間と電荷読み出し時間とが完全に分離している。従って、電荷蓄積期間を電荷読出し時間とは独立に設定できるため、電荷蓄積期間を任意の長さに設定できる。
【0044】
しかし、電荷蓄積期間と電荷読み出し時間とが分離しているため、後述のローリングシャッタ方式に比べ、フレームレートが低下する。例えば、電荷蓄積期間を10ms、電荷読み出し時間を30msとすると、1フレーム分の電荷読み出しを終えるまでに係る時間は、10ms+30ms=40msとなる。従って、フレームレートは、その逆数となり、25fpsとなる。
【0045】
また、グローバルシャッタ方式では、電荷蓄積後、電荷読出し開始までの時間が、読み出すVライン順に徐々に長くなる。たとえサンプリング信号により電荷の蓄積を終了したとしても、この間に環境光が入射することがあり、その場合、SN比が下がり、距離が測れなくなる。
【0046】
一方、ローリングシャッタ方式は、1つのVラインの電荷の読み出しが行われている間に、他のVラインの電荷の蓄積を行う方式である。ローリングシャッタ方式では、Vライン毎に電荷の蓄積と電荷の読み出しとは、独立して制御される。
【0047】
ローリングシャッタ方式では、図5(b)に示すように、各Vラインについて、電荷の読み出し時間が重ならないように制御される。すなわち、VラインL0について、時刻Ts_n−1_0から時刻Tr_n_0まで電荷の読み出しを行い、VラインL1は、時刻Tr_n_0から電荷の読み出しを開始する。各Vラインは、電荷の読み出し時間に合わせ、電荷の蓄積の終了、開始時刻が決定される。
【0048】
例えば、VラインL0については、n−1番目のフレームの電荷読み出し終了後、時刻Tr_n_0にn番目のフレームの電荷の蓄積を開始し、時刻Ts_n_0に電荷の蓄積を終了し、その後、電荷の読み出しを開始する。VラインLk(kは、0≦k≦15を満たす整数)の場合、n−1番目のフレームの電荷読み出し終了後、時刻Tr_n_kにn番目のフレームの電荷の蓄積を開始し、時刻Ts_n_kに電荷の蓄積を終了し、電荷の読み出しを開始する。
【0049】
このように、ローリングシャッタ方式では、あるVラインの電荷読み出し時に、他のVラインの電荷蓄積を行うことができ、フレームレートを高めることができる。従って、ローリングシャッタ方式では、1フレーム分の電荷読み出しに必要な時間の最小値は、1Vライン分の電荷読み出しにかかる時間のVライン数倍、すなわち、全Vライン分の電荷読み出し時間である。従って、フレームレートは、最大で、全ラインの電荷読み出し時間の逆数となる。例えば、電荷読み出し時間を30msとすると、フレームレートは30msの逆数となり、33.333fpsとなる。
【0050】
また、ローリングシャッタ方式では、異なるVラインの電荷蓄積と電荷読み出しとを同時に行うことができるため、Vライン毎に電荷蓄積と電荷読み出しとを独立して制御できる。
【0051】
また、イメージングセンサでは、いずれの方式であっても、電荷蓄積期間を任意に変更できる。電荷蓄積期間の変更は、蓄積開始時間を変更することにより行う。蓄積開始時間は、リセット信号の送信タイミングにより変更する。ローリングシャッタ方式を例にあげて、この、電荷蓄積期間を変更する様子を説明する。
【0052】
図6(a)は、電荷蓄積期間を最大にした場合の例である。VラインL0のサンプリング(電荷蓄積終了)時刻Ts_n−1_0の直後に電荷の読み出しを開始し、電荷の読み出し終了直後に時刻Tr_n_0にリセットを行い、電荷蓄積を開始する。このとき、VラインL1のサンプリング(電荷蓄積終了)時刻Ts_n−1_1とし、VラインL1の電荷の読み出しを開始する。
【0053】
図6(b)は、光蓄積時間を、図6(a)の光蓄積時間の半分に設定した場合である。この場合、VラインL0の、n番目のフレーム用のリセット(電荷蓄積開始)時刻Tr_n_0を、n−1番目のフレームのサンプリング(電荷蓄積終了)時刻Ts_n−1_0と次フレーム(n番目のフレーム)のサンプリング時間Ts_n_0の中間に設定する。
【0054】
さらに、ローリングシャッタ方式では、リセット時間は、電荷読み出し時間が重ならない限り、Vライン毎に独自に設定できる。すなわち、全Vライン同じにすることもできるし、Vライン毎に時間を異なるものにすることもできる。
【0055】
次に、本実施形態の制御部140の光源110からの照射と受光部120における電荷の蓄積の制御を説明する。本実施形態では、ローリングシャッタ方式を用いる場合を例にあげて説明する。
【0056】
本実施形態では、上述のように、分割照射部111による単位照射領域への照射と、当該単位照射領域からの入射光152を変換した電荷の蓄積とを同期制御する。本実施形態では、この同期制御を、蓄積制御部142が出力するリセット信号、サンプリング信号、電荷読出信号に基づき、照射制御部141が照射制御信号を出力することにより実現する。
【0057】
すなわち、本実施形態では、蓄積制御部142は、予め定められたタイミングに従って、各Vラインを構成する電荷蓄積部123に、リセット信号、サンプリング信号、電荷読出信号を送信する。一方、照射制御部141は、蓄積制御部142が送信する各信号のタイミングに従って、分割照射部111に照射制御信号を送信する。
【0058】
例えば、撮影空間が、M個(Mは自然数)の単位照射領域に分割されて照射されるものとする。すなわち、光源110は、M個の分割照射部111を備えるものとする。各分割照射部111を、順に、1番目、2番目、・・・m番目、・・・M番目と呼ぶ(mは、1≦m≦Mを満たす自然数)。また、各単位照射領域を受光する受光部120のVライン数はK本(Kは自然数)とする。各Vラインは順に、1番目、2番目、・・・k番目、・・・K番目と呼ぶ(kは、1≦k≦Kを満たす自然数)。
【0059】
各Vラインの電荷読出し時間が重ならないよう、電荷蓄積開始時刻(リセット信号送信時刻;リセット時刻)と電荷蓄積終了時刻(サンプリング信号送信時刻:サンプリング時刻)とは、定められる。蓄積制御部142は、定められた時刻に、各Vラインに各信号を送信する。
【0060】
この場合、m番目の分割照射部111は、m番目の単位照射領域に対応する撮像素子121の、1番目のVラインのリセット時刻から、K番目のVラインのサンプリング時刻までの間、照射するよう制御される。なお、m番目のVラインは、最初から数えて(m−1)K+1番目のVラインとなる。このように、照射制御部141は、m番目の分割照射部111に、(m−1)K+1番目のVラインのリセット時刻から、mK番目のVラインのサンプリング時刻までの間、対応する変調光151を照射するよう、照射制御信号を送信する。
【0061】
本制御を、図7に示す具体例を用いて説明する。撮像空間は、図2に示すように、4つの単位照射領域に分割されて照射されるものとする。また、各単位照射領域からの入射光152を受光するVライン数を4本とする。ここでは、第nフレーム分の電荷を蓄積するタイミングを例にあげて説明する。
【0062】
照射制御部141は、1番目の分割照射部111が、1番目の単位照射領域からの入射光152を受光するVラインの中の1番目のVラインL0のリセット時間Tr_n_0から、4番目のVラインL3のサンプリング時間Ts_n_3までの時間、変調光151を照射するよう照射制御信号を送信する。
【0063】
同様に、照射制御部141は、2番目の分割照射部111が、2番目の単位照射領域に対応する1番目のVラインL4のリセット時間Tr_n_4から4番目のVラインL7のサンプリング時間Ts_n_7までの時間、3番目の分割照射部111が、3番目の単位照射領域に対応する1番目のVラインL8のリセット時間Tr_n_8から4番目のVラインL11のサンプリング時間Ts_n_11までの時間、4番目の分割照射部111が、4番目の単位照射領域に対応する1番目のVラインL12のリセット時間Tr_n_11から4番目のVラインL15のサンプリング時間Ts_n_15までの時間、変調光151を照射するよう照射制御信号を送信する。
【0064】
これにより、本実施形態では、図7に示すように、各Vラインに対応する電荷蓄積部123が電荷を蓄積している間、対応する単位照射領域を照射するよう制御できる。
【0065】
なお、本実施形態の距離画像生成装置100は、CPUとメモリと記憶装置とを備え、記憶装置に格納されたプログラムを実行することにより、画像生成部130および制御部140の機能を実現する。
【0066】
以上説明したように、本実施形態によれば、制御部140は、分割照射部111による単位照射領域への照射と、当該単位照射領域からの反射光を受光する撮像素子121の電荷蓄積部123における電荷の蓄積とが同期するよう制御する。
【0067】
従って、本実施形態によれば、光源110を分割して領域毎に照射し、受光部120では、照射時間のみ電荷を蓄積するため、距離算出に必要な変調光の情報が含まれない周辺光のみの受光を抑えることができるとともに、距離算出に必要な変調光成分と周辺光成分との比率の変化を抑えることができ、フレームレートの低下を抑えることができる。これにより、撮影空間内に反射光の強い領域がある場合であっても、フレームレートを維持しながら、算出される距離値の精度を高めることができる。
【0068】
また、本実施形態によれば、制御部140は、分割照射部111による単位照射領域への照射を制御する照射制御部141と、電荷蓄積部123による電荷の蓄積を制御する蓄積制御部142と、を備え、照射制御部141が、蓄積制御部142による前記電荷の蓄積の制御に従って、分割照射部111による照射を制御することにより、同期制御を実現する。
【0069】
このため、本実施形態によれば、各電荷蓄積部123において、距離画像生成部131が距離画像を算出するために必要な電荷を十分に蓄積できる。
【0070】
なお、上記実施形態では、蓄積制御部142による電荷蓄積タイミングの制御に応じて照射制御部141が分割照射を制御しているが、これに限られない。同期制御は、照射制御部141による分割照射タイミングの制御に応じて、蓄積制御部142が電荷蓄積期間を制御するよう構成してもよい。
【0071】
この場合、照射制御部141は、予め定められた分割照射期間、各分割照射部111が、それぞれ対応する単位照射領域を照射するよう照射制御信号を送信する。一方、蓄積制御部142は、分割照射期間に応じて、対応するVラインの電荷蓄積開始時刻、電荷蓄積終了時刻、電荷読出し時刻をそれぞれ決定し、各電荷蓄積部123に、各信号を送信する。
【0072】
例えば、図7の例では、1番目の単位照射領域に対応する1番目のVラインのリセット時間を、1番目の分割照射部111の分割照射開始時間に設定し、4番目のVラインのサンプリング時間を、同分割照射部111の分割照射終了時間になるよう、各Vラインの電荷蓄積開始時間、終了時間を決定する。
【0073】
このように構成することで、光源110の照射制御が簡易になる。例えば、上記実施形態では、光源110が複数のLEDで構成されている場合を例にあげて説明しているが、その他の構成の光源110も利用可能である。
【0074】
例えば、図8に示すように、光源110として、点光源であるレーザ光源300を用いるものであってもよい。
【0075】
この場合、光源110は、レーザ光源300とスキャン手段320とを備える。照射制御部141は、スキャン手段320を制御し、レーザ光源300から出射した光を、図中、x方向およびy方向に走査する。スキャン手段320には、ミラーを回転させて変調光を走査するガルバノミラー、ミラーを振動させて変調光を走査するMEMSなどが用いられる。なお、走査方向が1軸方向(例えば、y軸方向)のみの場合、拡散板330を用い、レーザ光源300から出射した光をx軸方向に拡散する(図8:340)。
【0076】
点光源であるレーザ光源300を用いる場合の、レーザ光源300が照射する領域と、対応するVラインとを図9(a)に示す。スキャンの周期Tscan毎に、撮影空間は、図9(a)の上方(VラインL0)から下方(VラインL15)に向かって照射される。
【0077】
図9(b)は、光源110の照射タイミング(スキャンタイミング)に応じて、撮像素子121の電荷蓄積部123の電荷蓄積タイミングを制御する様子を説明するための図である。
【0078】
VラインL0が対応する撮影空間の領域を照射し始める時間Tr_n_0に、VラインL0にリセット信号を送信する。光源110のスキャンが進み、VラインL0が対応する撮影空間の領域の照射が終わるタイミングTs_n_0に、VラインL0にサンプリング信号を送信するとともに、電荷読出信号を送信する。同様に、VラインL1が対応する撮影空間の領域の照射が始まるタイミングTr_n_1に、VラインL1にリセット信号を送信し、照射が終わる時間Ts_n_1に、サンプリング信号と電荷読出信号とを送信する。
【0079】
このように制御することにより、電荷蓄積期間と光源照射時間とを合致させることができ、よりフレアを抑えることができるとともに、蓄積する電荷の信頼性を高めることができる。
【0080】
なお、光源110の照射タイミングと、受光部120における電荷蓄積タイミングとの制御は、いずれかに依存して行うものには限られない。例えば、予め定められたパラメータから、各単位照射領域への照射タイミング、各電荷蓄積部123の電荷の蓄積タイミングが一意に決定する場合、決定するタイミングに従って制御を行う。
【0081】
例えば、電荷蓄積期間は、一般に算出される画素値の精度を高めるため、一定であることが望ましい。このように、電荷蓄積期間が一定である場合、各電荷蓄積部123の蓄積タイミングは一意に決定する。このような場合、予め、電荷蓄積タイミングおよび照射タイミングを決定し、それに従って、制御することができる。
【0082】
電荷蓄積期間をTQ、電荷読出し時間をTR、照射領域の分割数(単位照射領域数)をM、1つの単位照射領域からの入射光152を受光するVライン数をKとする。M、Kは自然数である。また、ローリングシャッタ方式を用い、電荷蓄積終了と同時に電荷の読出しを開始するものとする。
【0083】
電荷読出し時間TRは定まっているため、最初のVラインのサンプリング信号送信時刻(サンプリング時刻)をTs1とすると、2番目のVラインのサンプリング時刻はTs1+TRとなる。電荷蓄積期間TQも定まっているため、最初のVラインのリセット信号送信時刻(リセット時刻)をTr1とすると、2番目のVラインのリセット時刻Tr2はTr1+TRとなる。従って、K番目のVラインのリセット時刻TrKは、Tr1+(K−1)TRとなる。
【0084】
また、最初のVラインのサンプリング時刻Ts1は、Tr1+TQである。また、K番目のVラインのサンプリング時刻Trsは、Tr1+(K-1)TR+TQとなる。
【0085】
蓄積制御部142は、各Vラインに対応する電荷蓄積部123に、1番目のVラインのリセット時刻Tr1から、TR毎に順に各Vラインにリセット信号を送信し、Ts1(=Tr1+TQ)から、TR毎に順にVラインにサンプリング信号、電荷読出信号を送信する。
【0086】
また、1つの単位照射領域に対応するVライン数はKであるため、1番目の分割照射部111が1番目のVラインの電荷蓄積開始時刻Tr1から、K番目のVラインの電荷蓄積終了時刻(サンプリング時刻)Tr1+(K-1)TR+TQまで照射するよう制御する。照射期間は、Tr1+(K-1)TR+TQ―Tr=(K-1)TR+TQである。
【0087】
また、2番目の分割照射部111の1番目のVラインは、K+1番目のVラインであるため、そのリセット時刻TrK+1は、Tr1+KTRである。従って、1番目のVラインのリセット時刻との差分は、Tr1+KTR−Tr1=KTRとなる。
【0088】
よって、照射制御部141は、Tr1からkTR毎に、各分割照射部111に順に、(K-1)TR+TQ間照射するよう照射制御信号を出力する。
【0089】
以上説明したように、本実施形態によれば、各Vラインは、電荷蓄積期間中、対応する単位照射領域に変調光が照射されていることになる。すなわち、各Vラインを構成する電荷蓄積部123は、対応する単位照射領域が照射されている間のみ電荷を蓄積する。言い換えれば、各Vラインの電荷蓄積部123は、変調光が照射されていない時には電荷の蓄積を行わない。従って、各撮像素子121において、環境光の混入を最小限にすることができる。これにより、高い精度の距離値を得ることができる。
【0090】
<<第二の実施形態>>
次に、本発明を適用する第二の実施形態を説明する。上記実施形態では、変調光の照射タイミングと、電荷の蓄積タイミングとを、同期制御している。一方、本実施形態では、照射光強度画像を併用し、照射光強度の強弱に応じた制御を加える。以下、本実施形態について、第一の実施形態と異なる構成に主眼をおいて説明する。
【0091】
図10は、本実施形態の距離画像生成装置600のブロック図である。本図に示すように、本実施形態の距離画像生成装置600は、第一の実施形態同様、変調光151と入射光152との位相差を用いて距離画像を生成する光飛行時間型距離画像センサを用いるもので、光源110と、受光部120と、画像生成部630と、制御部640と、を備える。
【0092】
本実施形態の光源110、受光部120は、第一の実施形態の同名の構成と基本的に同様の構成を有する。一方、本実施形態の画像生成部630は、上記各実施形態のように、距離画像生成部131に加え、照射光強度画像生成部132を備える。
【0093】
照射光強度画像生成部132は、各単位蓄積部に振り分けられた電荷量に所定の演算を施し、各画素の位置に対応する撮影空間の照射光強度値を算出する。このとき、距離画像生成部131が距離値を算出するために用いる上記各電荷量C1、C2、C3、C4をそのまま用いる。これを用い、照射強度画像生成部132は、画素毎に以下の式(3)に従って、電荷蓄積期間Δt毎に、照射光強度値Bを算出し、照射光強度値を画素値とする照射光強度画像を生成する。
【数3】
【0094】
なお、一般に輝度画像の画素値として用いられるのは、以下の式(4)に従って、4つの電荷蓄積部に振り分けられた電荷の平均値Aである。
【数4】
【0095】
本実施形態では、照射光強度画像生成部132による照射光強度画像の、画素値(照射光強度値)に応じて、電荷蓄積期間を調整する。
【0096】
これを実現するため、本実施形態の制御部640は、照射制御部141と、蓄積制御部142に加え、強度判別部143を備える。
【0097】
強度判別部143は、照射光強度画像生成部132が照射光強度画像を生成する毎に、各単位照射領域の照射光強度の強弱を判別する。判別は、予め定めた手法により行う。例えば、各単位照射領域に対応する画素群の画素値の平均値を計算し、予め定めた閾値を超える場合、当該単位照射領域の照射光強度が強い高強度領域と判別する。また、予め定めた閾値以上の強度を持つ画素が一定数以上ある単位照射領域を高強度領域と判別してもよい。
【0098】
本実施形態の照射制御部141は、強度判別部143による判別結果を受け、照射を制御する。例えば、高強度領域と判別された単位照射領域については、当該単位照射領域への照射を、他の単位照射領域への照射と重ならないよう制御する。
【0099】
この場合の、単位照射領域と照射時間との関係を図11(a)に示す。ここでは、一例として、単位照射領域数が4の場合を示す。また、4番目の単位照射領域が、高強度領域と判別されたものとする。
【0100】
なお、このとき、蓄積制御部142は、図11(b)に示すように、各単位照射領域に対応するVラインの電荷の蓄積が、照射時間内に行われるよう、各Vラインの蓄積開始時刻(リセット信号送信時刻)、蓄積終了時刻(サンプリング信号送信時刻)、および、電荷読出し時刻(読出信号送信時刻)を決定する。
【0101】
本実施形態の制御部640による照射、電荷蓄積制御の流れを図12を用いて説明する。ここでは、単位照射領域数をMとする。mは、1≦m≦Mを満たすカウンタとする。
【0102】
まず、制御部640は、予め定めた条件に従って、各単位照射領域の照射タイミングを決定する(ステップS2101)。また、各単位照射領域の照射タイミングに応じて、対応するVライン群の電荷蓄積タイミングを決定する(ステップS2102)。このとき、各単位照射領域への分割照射部111による照射時間に、当該単位照射領域に対応するVライン群の全ての電荷蓄積部123の電荷蓄積期間が含まれるよう、各電荷蓄積タイミングを決定する。
【0103】
そして、制御部640は、カウンタmを1とし(ステップS2103)、照射制御部141および蓄積制御部142に、決定したタイミングに応じて、照射制御信号、リセット信号、サンプリング信号、電荷読出信号を出力させ、照射および電荷の蓄積を行う(ステップS2104)。
【0104】
ステップS2104の処理を、全単位照射領域数、繰り返す(ステップS2106、2107)。
【0105】
m番目の単位照射領域分の電荷の読み出しを終えると、照射および電荷の蓄積とは独立して、距離画像生成部131と、照射光強度画像生成部132とは、それぞれ、距離画像および照射光強度画像を生成する。そして、強度判別部143は、当該単位照射領域が高強度領域であるか否かを判別し、判別結果を制御部640に通知する。制御部640は、高強度領域との判別結果を得た場合、当該単位照射領域への照射タイミングおよび次の単位照射領域への照射タイミングを変更する。高強度領域との判別結果を得ない場合は、照射タイミングは変更しない。
【0106】
全ての単位照射領域数Mだけ、照射および電荷の蓄積を終えると、制御部640は、次のフレーム用の照射および電荷の蓄積を開始する。このとき、制御部640は、照射タイミングの変更の有無を判別する(ステップS2108)。
【0107】
照射タイミングが変更されている場合、制御部640は、ステップS2102にもどり、変更後の照射タイミングに応じた、電荷蓄積タイミングを決定する。一方、変更されていない場合、制御部640は、ステップS2103へもどり、終了の指示を受け付けるまで(ステップS2105)、処理を繰り返す。
【0108】
なお、本実施形態の距離画像生成装置600は、CPUとメモリと記憶装置とを備え、記憶装置に格納されたプログラムを実行することにより、画像生成部630および制御部640の機能を実現する。
【0109】
以上説明したように、本実施形態によれば、第一の実施形態の構成に加え、照射光強度を画素値とする前記撮影空間の照射光強度画像を生成する照射光強度画像生成部132を備え、制御部640は、各単位照射領域に対応する照射光強度画像の画素群の画素値を用いて、各単位照射領域が高強度領域であるか否かを判別する強度判別部143をさらに備える。そして、照射制御部141が、強度判別部143が高強度領域と判別した単位照射領域への照射を、他の単位照射領域への照射と時間的に重ならないよう制御する。
【0110】
このように、本実施形態によれば、高強度領域への照射時間を、他の単位照射領域の照射と重ならないよう制御する。従って、撮影空間内に反射光の強い領域がある場合であっても、フレアの発生を抑えることができる。さらに、受光部120では、照射時間のみ電荷を蓄積するため、距離算出に必要な変調光の情報が含まれない周辺光のみの受光を抑えることができるとともに、距離算出に必要な変調光成分と周辺光成分との比率の変化を抑えることができ、フレームレートの低下を抑えることができる。これにより、撮影空間内に反射光の強い領域がある場合であっても、フレームレートを維持しながら、算出される距離値の精度を高めることができる。
【0111】
なお、上記実施形態では、単位照射領域のうち、高強度領域については、照射時間が他の単位照射領域への照射と重ならないよう、光源110側の照射を制御しているが、これに限られない。例えば、高強度領域について、電荷蓄積期間を短くするよう受光部120側を制御するよう構成してもよい。
【0112】
このときの、制御部640による照射、電荷蓄積制御の流れを図13を用いて説明する。ここでは、単位照射領域数をMとする。mは、1≦m≦Mを満たすカウンタとする。
【0113】
まず、制御部640は、予め定めた条件に従って、各Vラインの電荷蓄積タイミング(電荷蓄積開始時刻、電荷蓄積終了時刻、読み出し開始時刻)を決定する(ステップS2201)。ここでは、各Vラインの電荷蓄積期間には予め定めた初期値を用いる。次に、制御部640は、各単位照射領域に対応するVライン数、各Vラインの電荷蓄積開始時刻、電荷蓄積終了時刻に応じて、照射タイミングを決定する(ステップS2202)。
【0114】
そして、制御部640は、カウンタmを1とし(ステップS2203)、照射制御部141および蓄積制御部142に、決定したタイミングに応じて、照射制御信号、リセット信号、サンプリング信号、電荷読出信号を出力させ、照射および電荷の蓄積を行う(ステップS2204)。
【0115】
ステップS2204の処理を、全単位照射領域数、繰り返す(ステップS2206、S2207)。
【0116】
m番目の単位照射領域分の電荷の読み出しを終えると、照射および電荷の蓄積とは独立して、距離画像生成部131と、照射光強度画像生成部132とは、それぞれ、距離画像および照射光強度画像を生成する。そして、強度判別部143は、当該単位照射領域が高強度領域であるか否かを判別し、判別結果を制御部640に通知する。制御部640は、高強度領域との判別結果を得た場合、当該単位照射領域に対するVライン群の電荷蓄積期間を予め定めた規則に従って、短くする。高強度領域との判別結果を得ない場合は、電荷蓄積期間には初期値を用いる。
【0117】
全ての単位照射領域数Mだけ、照射および電荷の蓄積を終えると、制御部640は、次のフレーム用の照射および電荷の蓄積を開始する。このとき、制御部640は、電荷蓄積期間の変更の有無を判別する(ステップS2208)。
【0118】
電荷蓄積期間が変更されている場合、制御部640は、ステップS2202にもどり、変更後の電荷蓄積期間に応じた、照射タイミングを決定する。一方、変更されていない場合、制御部640は、ステップS2203へもどり、終了の指示を受け付けるまで(ステップS2205)、処理を繰り返す。
【0119】
なお、上記各実施形態では、電荷蓄積および読み出し方式として、ローリングシャッタ方式を用いる場合を例にあげて説明したが、これに限られない。グローバルシャッタ方式を用いてもよい。この場合、図5(a)に示す電荷蓄積および読み出しを、単位照射領域毎に行うよう制御する。
【符号の説明】
【0120】
100:距離画像生成装置、110:光源、111:分割照射部、120:受光部、121:撮像素子、122:光電変換素子、123:電荷蓄積部、124:読出部、130:画像生成部、131:距離画像生成部、132:照射光強度画像生成部、140:制御部、141:照射制御部、142:蓄積制御部、143:強度判別部、151:変調光、152:反射光、200:物体、210:撮影空間、211:単位照射領域、212:単位照射領域、213:単位照射領域、214:単位照射領域、300:レーザ光源、320:スキャン手段、330:拡散板、600:距離画像生成装置、630:画像生成部、640:制御部
【特許請求の範囲】
【請求項1】
撮影空間を2つ以上の単位照射領域に分割して変調光を照射する空間分割照射手段と、前記変調光が前記撮影空間内の対象物で反射した反射光を受光して受光光量に応じた電荷に変換後蓄積する複数の撮像素子と、前記複数の撮像素子それぞれに蓄積された電荷から距離値を画素値とする前記撮影空間の距離画像を生成する距離画像生成手段と、前記空間分割照射手段および前記撮像素子の動作を制御する制御手段と、を備える距離画像生成装置であって、
前記撮像素子は、
前記撮像素子毎に前記反射光を受光して電荷に変換する光電変換素子と、
前記光電変換素子で変換した電荷を蓄積する電荷蓄積手段と、を備え、
前記制御手段は、前記空間分割照射手段による前記単位照射領域への照射と、当該単位照射領域からの反射光を受光する前記撮像素子の前記電荷蓄積手段における電荷の蓄積とが同期するよう制御すること
を特徴とする距離画像生成装置。
【請求項2】
請求項1記載の距離画像生成装置であって、
前記制御手段は、
前記空間分割照射手段による前記単位照射領域への照射を制御する照射制御手段と、
前記電荷蓄積手段による電荷の蓄積を制御する蓄積制御手段と、を備え、
前記照射制御手段は、前記蓄積制御手段による前記電荷の蓄積の制御に従って、前記空間分割手段の照射を制御すること
を特徴とする距離画像生成装置。
【請求項3】
請求項1記載の距離画像生成装置であって、
前記制御手段は、
前記空間分割照射手段による前記単位照射領域への照射を制御する照射制御手段と、
前記電荷蓄積手段による電荷の蓄積を制御する蓄積制御手段と、を備え、
前記蓄積制御手段は、前記照射制御手段による照射の制御に従って、前記電荷蓄積手段における電荷の蓄積を制御すること
を特徴とする距離画像生成装置。
【請求項4】
請求項2記載の距離画像生成装置であって、
前記複数の撮像素子それぞれに蓄積された電荷から、照射光強度を画素値とする前記撮影空間の照射光強度画像を生成する照射光強度画像生成手段をさらに備え、
前記制御手段は、
前記各単位照射領域に対応する前記照射光強度画像の画素群の画素値を用いて、当該各単位照射領域が高強度領域であるか否かを判別する判別手段をさらに備え、
前記蓄積制御手段は、前記判別手段が高強度領域と判別した単位照射領域に対応する前記撮像素子の前記電荷蓄積手段の、電荷蓄積期間を、予め定めた電荷蓄積期間より短くすること
を特徴とする距離画像生成装置。
【請求項5】
請求項3記載の距離画像生成装置であって、
前記複数の撮像素子それぞれに蓄積された電荷から、照射光強度を画素値とする前記撮影空間の照射光強度画像を生成する照射光強度画像生成手段をさらに備え、
前記制御手段は、
前記各単位照射領域に対応する前記照射光強度画像の画素群の画素値を用いて、当該各単位照射領域が高強度領域であるか否かを判別する判別手段をさらに備え、
前記照射制御手段は、前記判別手段が高強度領域と判別した単位照射領域への照射を、他の単位照射領域への照射と時間的に重ならないよう制御すること
を特徴とする距離画像生成装置。
【請求項6】
請求項1から5いずれか1項記載の距離画像生成装置であって、
前記電荷蓄積手段における電荷の蓄積は、ローリングシャッタ方式により行われること
を特徴とする距離画像生成装置。
【請求項7】
撮影空間を2つ以上の単位照射領域に分割して変調光を照射する空間分割照射手段と、前記変調光が前記撮影空間内の対象物で反射した反射光を受光して受光光量に応じた電荷に変換後蓄積する複数の撮像素子と、前記複数の撮像素子それぞれに蓄積された電荷から距離値を画素値とする前記撮影空間の距離画像を生成する距離画像生成手段と、を備える距離画像生成装置における照射および電荷蓄積制御方法であって、
前記空間分割照射手段による前記単位照射領域への照射と、当該単位照射領域からの反射光を受光する前記撮像素子における電荷の蓄積とを同期させる同期制御ステップを備えること
を特徴とする照射および電荷蓄積制御方法。
【請求項1】
撮影空間を2つ以上の単位照射領域に分割して変調光を照射する空間分割照射手段と、前記変調光が前記撮影空間内の対象物で反射した反射光を受光して受光光量に応じた電荷に変換後蓄積する複数の撮像素子と、前記複数の撮像素子それぞれに蓄積された電荷から距離値を画素値とする前記撮影空間の距離画像を生成する距離画像生成手段と、前記空間分割照射手段および前記撮像素子の動作を制御する制御手段と、を備える距離画像生成装置であって、
前記撮像素子は、
前記撮像素子毎に前記反射光を受光して電荷に変換する光電変換素子と、
前記光電変換素子で変換した電荷を蓄積する電荷蓄積手段と、を備え、
前記制御手段は、前記空間分割照射手段による前記単位照射領域への照射と、当該単位照射領域からの反射光を受光する前記撮像素子の前記電荷蓄積手段における電荷の蓄積とが同期するよう制御すること
を特徴とする距離画像生成装置。
【請求項2】
請求項1記載の距離画像生成装置であって、
前記制御手段は、
前記空間分割照射手段による前記単位照射領域への照射を制御する照射制御手段と、
前記電荷蓄積手段による電荷の蓄積を制御する蓄積制御手段と、を備え、
前記照射制御手段は、前記蓄積制御手段による前記電荷の蓄積の制御に従って、前記空間分割手段の照射を制御すること
を特徴とする距離画像生成装置。
【請求項3】
請求項1記載の距離画像生成装置であって、
前記制御手段は、
前記空間分割照射手段による前記単位照射領域への照射を制御する照射制御手段と、
前記電荷蓄積手段による電荷の蓄積を制御する蓄積制御手段と、を備え、
前記蓄積制御手段は、前記照射制御手段による照射の制御に従って、前記電荷蓄積手段における電荷の蓄積を制御すること
を特徴とする距離画像生成装置。
【請求項4】
請求項2記載の距離画像生成装置であって、
前記複数の撮像素子それぞれに蓄積された電荷から、照射光強度を画素値とする前記撮影空間の照射光強度画像を生成する照射光強度画像生成手段をさらに備え、
前記制御手段は、
前記各単位照射領域に対応する前記照射光強度画像の画素群の画素値を用いて、当該各単位照射領域が高強度領域であるか否かを判別する判別手段をさらに備え、
前記蓄積制御手段は、前記判別手段が高強度領域と判別した単位照射領域に対応する前記撮像素子の前記電荷蓄積手段の、電荷蓄積期間を、予め定めた電荷蓄積期間より短くすること
を特徴とする距離画像生成装置。
【請求項5】
請求項3記載の距離画像生成装置であって、
前記複数の撮像素子それぞれに蓄積された電荷から、照射光強度を画素値とする前記撮影空間の照射光強度画像を生成する照射光強度画像生成手段をさらに備え、
前記制御手段は、
前記各単位照射領域に対応する前記照射光強度画像の画素群の画素値を用いて、当該各単位照射領域が高強度領域であるか否かを判別する判別手段をさらに備え、
前記照射制御手段は、前記判別手段が高強度領域と判別した単位照射領域への照射を、他の単位照射領域への照射と時間的に重ならないよう制御すること
を特徴とする距離画像生成装置。
【請求項6】
請求項1から5いずれか1項記載の距離画像生成装置であって、
前記電荷蓄積手段における電荷の蓄積は、ローリングシャッタ方式により行われること
を特徴とする距離画像生成装置。
【請求項7】
撮影空間を2つ以上の単位照射領域に分割して変調光を照射する空間分割照射手段と、前記変調光が前記撮影空間内の対象物で反射した反射光を受光して受光光量に応じた電荷に変換後蓄積する複数の撮像素子と、前記複数の撮像素子それぞれに蓄積された電荷から距離値を画素値とする前記撮影空間の距離画像を生成する距離画像生成手段と、を備える距離画像生成装置における照射および電荷蓄積制御方法であって、
前記空間分割照射手段による前記単位照射領域への照射と、当該単位照射領域からの反射光を受光する前記撮像素子における電荷の蓄積とを同期させる同期制御ステップを備えること
を特徴とする照射および電荷蓄積制御方法。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【公開番号】特開2013−50310(P2013−50310A)
【公開日】平成25年3月14日(2013.3.14)
【国際特許分類】
【出願番号】特願2011−186831(P2011−186831)
【出願日】平成23年8月30日(2011.8.30)
【出願人】(000002303)スタンレー電気株式会社 (2,684)
【Fターム(参考)】
【公開日】平成25年3月14日(2013.3.14)
【国際特許分類】
【出願日】平成23年8月30日(2011.8.30)
【出願人】(000002303)スタンレー電気株式会社 (2,684)
【Fターム(参考)】
[ Back to top ]