距離画像生成装置および距離画像生成方法
【課題】光飛行時間型距離画像センサを用いて撮影空間の距離画像生成する際、撮影空間内の状況によらず、距離計測の精度を高める。
【解決手段】距離画像と同タイミングで生成した同撮像空間の照射光強度画像を用い、撮影空間に他の画素の画素値算出に影響を与える程入射光(反射光)強度の強い領域があるか否かを判別する。反射光の強い領域がある場合、その領域への照射と他の領域への照射とを独立して制御する分割照射を行うよう光源を制御する。判別は、照射光強度画像の各画素値を予め定めた閾値と比較することにより行う。
【解決手段】距離画像と同タイミングで生成した同撮像空間の照射光強度画像を用い、撮影空間に他の画素の画素値算出に影響を与える程入射光(反射光)強度の強い領域があるか否かを判別する。反射光の強い領域がある場合、その領域への照射と他の領域への照射とを独立して制御する分割照射を行うよう光源を制御する。判別は、照射光強度画像の各画素値を予め定めた閾値と比較することにより行う。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、距離画像生成技術に関し、特に、光飛行時間型距離画像センサを用いた距離画像生成技術に関する。
【背景技術】
【0002】
光飛行時間型距離画像センサを用いて、撮影空間の対象物の、当該センサからの距離を画素値とする距離画像を生成する距離画像生成装置がある。光飛行時間型距離画像センサでは、光源から照射した変調光と、当該変調光の対象物による反射光との位相差を用いて、画素毎に対象物の距離を算出する。位相差は、画素毎に用意された撮像素子でレンズを介して受光した反射光を光量に応じた電荷量に変換し、この電荷量に所定の演算を施すことにより算出される(例えば、特許文献1参照。)。
【先行技術文献】
【特許文献】
【0003】
【特許文献1】特開2008−241435号公報
【発明の概要】
【発明が解決しようとする課題】
【0004】
光飛行時間型距離画像センサを用いた距離画像生成装置は、上述のように画素毎に受光した反射光を基に距離値を算出している。しかし、極端に近い距離の対象物が撮影対象空間にある場合、極端に反射率の高い物体が撮影対象空間にある場合など、強い反射光がレンズに入射すると、レンズの解像力などの性能によって、本来結像する画素以外の画素に反射光が回り込み、フレアと呼ばれる現象が発生することがある。
【0005】
フレアが発生すると、距離を算出する上での正確な光量が得られず、それに従って算出される距離値も不正確となる。
【0006】
本発明は、上記事情に鑑みてなされたもので、光飛行時間型距離画像センサを用いて撮影空間の距離画像生成する際、撮影空間内の状況によらず、距離計測の精度を高める技術を提供することを目的とする。
【課題を解決するための手段】
【0007】
本発明は、距離画像と同タイミングで生成した同撮像空間の照射光強度画像を用い、撮影空間に他の画素の画素値算出に影響を与える程、入射光(反射光)強度の強い領域があるか否かを判別し、ある場合、その領域への照射と他の領域への照射とを独立して制御する分割照射を行う。判別は、照射光強度画像の各画素値を予め定めた閾値と比較することにより行う。
【0008】
具体的には、撮影空間に変調光を照射する光源と、前記光源から照射され前記撮影空間内の対象物で反射した反射光を受光して電荷に変換する複数の光電変換素子、前記光電変換素子ごとに設けられた複数の電荷蓄積部、及び、前記光源の変調に同期して、前記光電変換素子により変換された電荷を前記複数の電荷蓄積部に振り分ける振分手段と、を備える受光手段と、所定の時間毎に、前記複数の電荷蓄積部に蓄積された電荷から画素値が距離値である前記撮影空間の距離画像を生成する距離画像生成手段と、画素値が照射光強度である当該撮影空間の照射光強度画像を生成する照射光強度画像生成手段と、を備える距離画像生成装置であって、前記照射光強度画像に、予め定めた閾値以上の画素値を有する画素があるか否かを判別する判別手段と、前記光源の照射を制御する光源制御手段と、を備え、前記光源制御手段は、前記判別手段が有りと判別した場合、前記撮影空間を複数の単位照射領域に分割して前記変調光を照射するよう前記光源の照射を制御することを特徴とする距離画像生成装置を提供する。
【0009】
また、撮影空間に変調光を照射する光源と、前記光源から照射され前記撮影空間内の対象物で反射した反射光を受光して電荷に変換する複数の光電変換素子、前記光電変換素子ごとに設けられた複数の電荷蓄積部、及び、前記光源の変調に同期して、前記光電変換素子により変換された電荷を前記複数の電荷蓄積部に振り分ける振分手段と、を備える受光手段と、を備える距離画像生成装置における距離画像生成方法であって、所定の時間毎に、前記複数の電荷蓄積部に蓄積された電荷から画素値が距離値である前記撮影空間の距離画像を生成する距離画像生成ステップと、画素値が照射光強度である前記撮影空間の照射光強度画像を生成する照射光強度画像生成ステップと、前記照射光強度画像が生成される毎に、当該照射強度画像の各画素に、予め定めた閾値以上の画素値を有する画素があるか否かを判別する判別ステップと、前記判別ステップで、有りと判別された場合、前記対象空間を複数の照射領域に分割して照射するよう前記光源の発光を制御する発光制御ステップと、を備えることを特徴とする距離画像生成方法を提供する。
【発明の効果】
【0010】
本発明によれば、光飛行時間型距離画像センサを用いて撮影空間の距離画像生成する際、撮影空間内の状況によらず、撮影対象空間全体の物体の距離計測の精度が高まる。
【図面の簡単な説明】
【0011】
【図1】第一の実施形態の距離画像生成装置のブロック図である。
【図2】距離画像生成の原理を説明するための説明図である。
【図3】(a)および(b)は、第一の実施形態の分割照射を説明するための説明図である。
【図4】第一の実施形態の光源制御手法を説明するための説明図である。
【図5】(a)は、第一の実施形態の分割照射のタイミングを説明するための説明図であり、(b)は、第一の実施形態と第二の実施形態とを組み合わせた場合の分割照射のタイミングを説明するための説明図である。
【図6】第一の実施形態の画像合成を説明するための説明図である。
【図7】第一の実施形態の画像生成処理のフローチャートである。
【図8】第一の実施形態の判別処理のフローチャートである。
【図9】第一の実施形態の分割照射処理のフローチャートである。
【図10】第二の実施形態の画像生成処理のフローチャートである。
【図11】(a)および(b)は、第二の実施形態の判別処理のフローチャートである。
【発明を実施するための形態】
【0012】
<<第一の実施形態>>
以下、本発明を適用する実施形態について説明する。以下、本発明の実施形態を説明するための全図において、同一機能を有するものは同一符号を付し、その繰り返しの説明は省略する。
【0013】
まず、本実施形態で用いる距離画像生成装置の構成を説明する。図1は、本実施形態の距離画像生成装置100のブロック図である。
【0014】
図1に示すように、距離画像生成装置100は、照射光と入射光との位相差を用いて距離画像を生成する光飛行時間型距離画像センサを用いるもので、光源110と、受光部120と、画像生成部130と、制御部140と、を備える。
【0015】
光源110は、撮影空間に変調した光(例えば、正弦波もしくは矩形波等で高速に変調させた赤外光もしくは可視光;以下、変調光と呼ぶ。)111を照射する。光源110には、LED、レーザ等の高速変調が可能なデバイスが用いられる。また、本実施形態の光源110は、制御部140の制御により、距離画像を生成する撮影空間を、複数の領域に分割して照射する分割照射機能を備える。
【0016】
受光部120は、光源110から照射された変調光111が撮影空間内の物体200で反射された反射光を含む入射光112を受光し、電荷に変換する撮像素子である。これを実現するため、受光部120は、入射光112を受光し、受光量を電荷量に変換する複数の光電変換素子と、光電変換素子により得られた電荷量を蓄積する電荷蓄積部と、電荷を各電荷蓄積部に振り分ける振分部と、を備える。また、受光部120の前には、レンズ(不図示)が配置される。
【0017】
この光電変換素子により画素が形成される。従って、各光電変換素子は、距離画像の各画素に対応づけて規則的に配列される。また、距離情報である変調光111と入射光112の位相差は、電荷蓄積部に蓄積された電荷を用いて算出する。この位相差を算出するためには、少なくとも2以上の位相情報(電荷蓄積部に蓄積された電荷)が必要である。このため、電荷蓄積部は、光電変換素子毎に、少なくとも2以上設けられる。以下、本実施形態では、4つ用いる場合を例にあげて説明する。
【0018】
なお、光源110と受光部120とは制御部140により同期制御される。光源110は、制御部140が出力する同期信号に従って、対象空間に変調光111を照射する。また、受光部120では、この同期信号に従って、光電変換素子が、物体200により反射された反射光を含む入射光112を電荷量に変換する。そして、振分部が、得られた電荷量を、この同期信号に従って、各光電変換素子に対応づけて設けられる4つの電荷蓄積部それぞれに振り分ける。ここでは、変調の1周期を4等分した期間毎に、これらの4つの電荷蓄積部に振り分ける。なお、電荷蓄積部には、電荷量そのものを蓄積してもよいし、この電荷量をAD変換後のデータを蓄積してもよい。
【0019】
画像生成部130は、受光部120が所定期間電荷を蓄積する毎に、蓄積した電荷から、距離値を画素値とする距離画像と、照射光強度を画素値とする照射光強度画像とを生成する。このため、本実施形態の画像生成部130は、撮影空間の距離画像を生成する距離画像生成部131と、撮影空間の照射光強度画像を生成する照射光強度画像生成部132と、を備える。
【0020】
距離画像生成部131は、各電荷蓄積部に振り分けられた電荷量に所定の演算を施し、変調光111と入射光112との位相差から、各画素の位置に対応する撮影空間の距離値を算出する。
【0021】
図2は、距離画像生成の原理を説明するための図である。光源110から出射される変調光111の強度が本図のような正弦曲線を描くように変化する場合、受光部120への入射光112の強度も同様に正弦曲線を描くよう変化する。
【0022】
ただし、変調光111と入射光112とには、光が物体200まで往復する飛行時間による位相の遅延(位相差φ)が生じる。光の速度cは既知であるため、この位相差φと変調周波数fとを用い、対象物までの距離値Dは、以下の式(1)で求めることができる。
【数1】
【0023】
ここで、変調光111と入射光112との位相差φは、変調光111の1周期を4等分した各期間をT1、T2、T3、T4とし、それぞれの期間に蓄積される電荷量をC1、C2、C3、C4とすると、以下の式(2)で表される。
【数2】
【0024】
なお、1周期を4等分した各期間T1、T2、T3、T4は、例えば、0度から90度の間、90度から180度の間、180度から270度の間、270度から0度の間とする。
【0025】
また、光源110の変調周波数は数十MHzである。従って、変調の1周期は数十ns程度である。このため、距離画像を得るためには、数百〜数十万周期の電荷蓄積時間を要する。本実施形態の距離画像生成部131は、この電荷蓄積時間Δt間隔で電荷蓄積部に蓄積された各電荷量C1、C2、C3、C4を用い、画素毎に、式(2)に従って位相差φを求め、式(1)に従って、対象物までの距離値Dを求め、距離値を画素値とする距離画像を生成する。生成した距離画像は、例えば、外部出力端子から出力される。
【0026】
照射光強度画像生成部132は、各電荷蓄積部に振り分けられた電荷量に所定の演算を施し、各画素の位置に対応する撮影空間の照射光強度値を算出する。このとき、距離画像生成部131が距離値を算出するために用いる上記各電荷量C1、C2、C3、C4をそのまま用いる。これを用い、照度光強度画像生成部132は、画素毎に以下の式(3)に従って、電荷蓄積時間Δt毎に、照射光強度値Bを算出し、照射光強度値を画素値とする照射光強度画像を生成する。
【数3】
【0027】
なお、一般に輝度画像の画素値として用いられるのは、以下の式(4)に従って、4つの電荷蓄積部に振り分けられた電荷の平均値Aである。
【数4】
【0028】
制御部140は、距離画像生成装置100全体の動作を制御する。本実施形態では、ユーザから処理開始の指示(例えば、電源ON)を受け付けると、光源110から変調光を照射させるとともに受光部120で入射光(反射光)を受光させ、所定の時間ごとに受光した入射光(反射光)から距離画像および照射光強度画像を生成させる。本実施形態の制御部140は、この制御に加え、撮影空間に所定の光量以上の入射光(反射光)を射出している領域がある場合、光源110に分割照射を行わせる。これを実現するため、光源制御部141と、判別部142と、合成部143とを備える。
【0029】
判別部142は、照射光強度画像が生成される毎に、照射光強度画像に予め定めた閾値以上の画素があるか否かを判別する。本実施形態では、閾値以上の画素があると判別した場合、分割フラグを有効化する。
【0030】
光源制御部141は、分割フラグの状態に応じて、光源110の動作を制御する。分割フラグが無効化されている場合は、撮影空間全体に変調光を連続して照射するよう光源110を制御する。これを通常照射と呼ぶ。また、分割フラグが有効化されると、撮影空間を複数の領域(単位照射領域)に分割して照射する分割照射を行うよう制御する。
【0031】
図3(a)は、本実施形態の分割照射を説明するための説明図である。ここでは、一例として、撮影空間210を、4つの単位照射領域211、212、213、214に分割して照射する場合を例示する。なお、撮影空間(照射領域)210を二次元に投影した面が、距離画像、照射光強度画像の画像領域に対応する。
【0032】
光源制御部141は、例えば、光源110に用いる発光体がアレイ状に配置されるLED素子で構成される場合、各LED素子を独立して駆動することにより、分割照射を実現する。本実施形態では、各単位照射領域に対応するLED素子群毎に照射を制御する。なお、この場合、照射、非照射の制御だけでなく、LED素子群毎に、照射強度の変更も行うことができる。
【0033】
また、光源110に用いる発光体がレーザ等の点光源の場合、光源制御部141は、スキャン手段により光源110を分割照射させる。図4は、このときの制御を説明するための図である。本図に示すように、光源制御部141は、スキャン手段320を制御し、点光源110から出射した光を、図中、xおよびy方向に走査する。スキャン手段320には、ミラーを回転させて変調光を走査するガルバノミラー、ミラーを振動させて変調光を走査するMEMSなどが用いられる。
【0034】
なお、走査方向は一軸方向としてもよい。この場合、光源制御部141は、図4に示すように、スキャン手段320に加え、拡散板330を用い、光源110の制御を行う。拡散板330は、光源110から照射された光を、走査方向と直交する方向に拡散(図4:340)するよう配置される。
【0035】
なお、分割照射による撮影空間(照射領域)210の分割は、図3(a)に示すものに限られない。例えば、図3(b)に示すように、x方向およびy方向に分割してもよい。図3(b)では、撮影空間210を、x方向に4分割、y方向に2分割し、8つの単位照射領域221、222、223、224、225、226、227、228とする場合を例示する。
【0036】
本実施形態では、光源制御部141は、各単位照射領域を、電荷蓄積時間Δt毎に、電荷蓄積時間Δt間、順に照射するよう光源110を制御する。撮影空間210を4つの単位照射領域211、212、213、214に分割して照射する場合の分割照射のタイミングを図5(a)に示す。
【0037】
合成部143は、分割照射を行っている間に得られた複数の距離画像を合成する。撮影空間210を4つの単位照射領域211、212、213、214に分割して照射する場合の画像合成の様子を図6に示す。単位照射領域211、212、213、214に照射した際に得られる画像を、それぞれ、411、412、413、414とする。これらを合成し、画像450を生成する。
【0038】
画像合成においては、全画像の画素値を加算してもよいし、各画像から、照射領域に対応する画素の画素値を抽出してもよい。境界の画素は、照射光強度画像の画素値の大きい方を用いるよう構成してもよい。
【0039】
なお、本実施形態の距離画像生成装置100は、CPUとメモリと記憶装置とを備え、記憶装置に格納されたプログラムを実行することにより、上記各部の機能を実現する。
【0040】
次に、本実施形態の、制御部140による画像生成時の処理(画像生成処理)の流れを説明する。
【0041】
制御部140は、光源110、受光部120、画像生成部130を制御し、電荷蓄積時間Δt毎に距離画像と照射光強度画像とを生成する処理を継続する。本実施形態では、照射光強度画像が生成される毎に、分割照射を行うか否かを判別する判別処理を行い、判別結果に応じて光源110の照射を制御する。
【0042】
図7は、本実施形態の画像生成処理の処理フローである。制御部140は、処理開始の指示(例えば、電源ON)を受け付けると、処理を開始する。まず、分割をするか否かを示す、分割フラグを無効化する(ステップS1101)。
【0043】
そして、制御部140は、光源110に変調光の照射を、受光部120に入射光(反射光)の受光、光電変換、電荷の蓄積を開始させる(ステップS1102)。このとき、電荷蓄積時間をカウントするクロックtを初期化(t=0)とする。
【0044】
次に、制御部140は、分割フラグが有効か否かを判別する(ステップS1103)。無効であれば、光源制御部141に通常照射を行わせる(ステップS1104)。この指示を受け、光源制御部141は、通常照射を行うよう光源110を制御する。そして、制御部140は、受光部120に入射光(反射光)を光電変換して得た電荷を電荷蓄積時間Δt間蓄積させ(ステップS1105、S1106)、画像生成部130に、その電荷から距離画像および照射光強度画像を生成させる(ステップS1107)。
【0045】
一方、ステップS1103で分割フラグが有効であれば、制御部140は、光源制御部141に分割照射を行わせる分割照射処理を行う(ステップS1108)。分割照射処理の詳細は後述する。
【0046】
照射光強度画像が生成されると、制御部140は、判別部142に、分割照射の要否を判別する判別処理を開始させる(ステップS1109)。判別処理の詳細も後述する。
【0047】
その後、終了の指示(例えば、電源OFF)を受け付けるまで、制御部140は、ステップS1103からの処理を繰り返す(ステップS1110)。
【0048】
次に、上記ステップS1109の、判別部142による判別処理の流れを説明する。判別処理では、生成された照射光強度画像を用いて、撮影空間210に、他の画素の画素値算出に影響を与える程、入射光(反射光)強度の強い領域(高反射領域)があるか否かを判別し、ある場合、光源110を分割照射させるよう分割フラグを有効化する。判別は、生成された照射光強度画像の画素毎に、画素値と予め定めた閾値とを比較することにより行う。
【0049】
図8は、本実施形態の判別処理の処理フローである。判別部142は、まず、分割フラグを無効化する(ステップS1201)。そして、全画素について、それぞれ、画素値と閾値とを比較し、閾値以上の画素値を持つ画素の有無を判別する(ステップS1202)。閾値以上の画素値を持つ画素がある場合、分割照射が必要と判断し、分割フラグを有効化する(ステップS1203)。そして、処理を終了する。一方、全ての画素の画素値が閾値より小さい場合は、分割フラグは無効のままとし、処理を終了する。
【0050】
以上の判別処理により、照射光強度画像に、閾値以上の値を持つ画素値がある場合、分割フラグが有効化され、その他の場合は、分割フラグが無効化される。
【0051】
次に、ステップS1108の分割照射処理の流れを説明する。本実施形態では、制御部140は、分割フラグが有効な場合、光源制御部141に、分割照射を行わせる。この指示を受け、光源制御部141は、光源110に分割照射を行わせる。
【0052】
図9は、本実施形態の分割照射処理の処理フローである。ここでは、撮影空間(照射領域)210をN分割(Nは自然数)して照射するものとし、各単位照射領域をR(n)と表す(nは1≦n≦Nを満たす自然数)。
【0053】
判別部142は、判別処理開始の指示を受け付けると、nを初期化(n=1)する(ステップS1301)。光源制御部141は、n番目の単位照射領域R(n)を照射するよう光源110を制御する(ステップS1302)。照射が開始されると、制御部140は、通常どおり、受光部120に入射光(反射光)を受光させて光電変換後の電荷を蓄積させる。そして、電荷蓄積時間Δt毎に、画像生成部130に、距離画像および照射光強度画像を生成させる(ステップS1303、S1304、S1305)。
【0054】
そして、光源制御部141は、順に単位照射領域R(n)を変更しながら全ての領域について照射し終えるまで、ステップS1302からS1305の処理を繰り返す(ステップS1306、S1307)。
【0055】
全単位照射領域R(n)の照射を終え、それぞれN枚の距離画像および照射光強度画像が生成されると、制御部140は、合成部143に、それぞれ合成させ(画像合成;ステップS1308)、撮影空間210全体が照射された画像を生成する。
【0056】
画像合成後は図7の画像生成処理に戻り、距離画像は、例えば、外部出力端子から出力され、照射光強度画像は、ステップS1109の判別処理に用いられる。
【0057】
以上説明したように、本実施形態によれば、距離画像を生成する撮影空間と同範囲の照射光強度画像の画素値を用い、高反射領域の有無を判別する。そして、直前に生成された照射光強度画像に高反射領域がある場合、撮影範囲(照射領域)を分割し、単位照射領域毎に異なるタイミングで変調光を照射する。そして得られた入射光(反射光)から生成した画像を合成して距離画像を生成する。
【0058】
従って、高反射領域がある場合であっても、その影響が、当該領域を含む単位照射領域に対応する画素領域に限られ、全画素に影響を与えることを防ぐことができる。このため、画像全体としてみれば、高い精度で距離値が算出された距離画像を得ることができる。
【0059】
<<第二の実施形態>>
次に、本発明を適用する第二の実施形態について説明する。第一の実施形態では、所定強度以上の入射光(反射光)がある場合、撮影範囲(照射領域)を分割して、異なるタイミングで照射し、得られた画像を合成して距離画像を生成している。本実施形態では、所定強度以上の入射光(反射光)がある場合、撮影範囲(照射領域)を分割して照射するが、各分割照射領域を照射するタイミングは同一とし、照射光の光量のみを変化させる。
【0060】
本実施形態の距離画像生成装置100の構成は、基本的に第一の実施形態と同様である。ただし、上述のように、各分割領域に同時に照射しつつ、分割領域毎に照射する光量を変えるため、制御部140の構成が異なる。また、光源110は、単位照射領域毎に照射光量の変更が可能なものとする。
【0061】
実現可能な光源110としては、例えば、LED等の発光体がアレイ状に配置されたものとする。個々の発光体がそれぞれ異なる照射領域を照射可能で、かつ、発光量を独立に制御可能なものであればよい。
【0062】
本実施形態の判別部142は、照射光強度画像が生成される毎に、照射光強度画像に予め定めた閾値以上の画素があるか否かを判別するとともに、閾値以上の画素がある領域に対応する単位照射領域を特定する。本実施形態では、判別部142は、閾値以上の画素があると判別した場合、本実施形態では、分割フラグを用いず、当該画素がある領域に対応する単位照射領域を特定する情報を光量変更指示として出力する。
【0063】
本実施形態の光源制御部141は、光量変更指示の有無に応じて光源110の動作を制御する。光量変更指示が出力されていない場合、撮影空間全体を同一の光量で照射するよう制御し、出力されている場合、当該単位照射領域への照射光量を低減するよう光源110を制御する。本実施形態では、撮影空間全体を同一の光量で照射するよう光源110を制御するものを通常照射と呼び、少なくとも1つの単位照射領域を、他の単位照射領域とは異なる光量で照射するよう制御するものを分割照射と呼ぶ。
【0064】
光量の低減は、光源110から出射する変調光の強度を低減することにより実現する。低減する光量は、予め定めておく。
【0065】
なお、本実施形態では、分割照射時も同一タイミングで撮影空間に照射するため、合成部143は備えない。
【0066】
以下、本実施形態の制御部140による画像生成処理の流れを説明する。図10は、本実施形態の画像生成処理の処理フローである。
【0067】
制御部140は、処理開始の指示(たとえば、電源ON)を受け付けると、処理を開始する。制御部140は、光源110に変調光の照射を、受光部120に入射光(反射光)の受光、光電変換、電荷の蓄積を開始させる(ステップS2101)。このとき、電荷蓄積時間をカウントするクロックtを初期化(t=0)とする。なお、制御部140は、このとき、光源制御部141に、通常照射制御をさせる。これを受け、光源制御部141は、撮影空間全体(全単位照射領域)に対し、同じ光量で照射するよう光源110を制御する。
【0068】
そして、制御部140は、光量変更指示の有無を判別する(ステップS2102)。光量変更指示があれば、制御部140は、その旨、光源制御部141に通知する。それを受け、光源制御部141は、光量変更指示が出力されている単位照射領域の光量を変更(低減)する(ステップS2103)。一方、光量変更指示が出力されていない場合は、光源110の照射状態を変更しない。
【0069】
そして、電荷蓄積時間Δt間、電荷を蓄積すると(ステップS2104)、制御部140は、時刻カウンタtを初期化し(ステップS2105)、画像生成部130に距離画像および照射光強度画像を生成させる(ステップS2106)。
【0070】
照射光強度画像が生成されると、制御部140は、判別部142に、分割照射の要否を判別する判別処理を開始させる(ステップS2107)。本実施形態の判別処理の詳細は後述する。
【0071】
その後、終了の指示(例えば、電源OFF)を受け付けるまで、制御部140は、ステップS2102からの処理を繰り返す(ステップS2108)。
【0072】
次に、本実施形態の、ステップS2107の、判別部142による判別処理について説明する。図11(a)は、本実施形態の判別処理の処理フローである。本実施形態では、照射光強度画像の、各単位照射領域に対応する画素領域内に、高反射領域があるか否かを判別し、ある場合、光量変更指示として、対応する単位照射領域を特定する情報を出力する。
【0073】
ここでは、撮影範囲(照射領域)210を、N分割(Nは自然数)して照射するものとし、各単位照射領域をR(n)と表す(nは1≦n≦Nを満たす自然数)。
【0074】
判別部142は、判別処理開始の指示を受け付けると、nを初期化(n=1)する(ステップS2201)。そして、領域R(n)に対応する照射光強度画像の画素領域内に、画素値Psが予め定めた閾値Ts以上の画素があるか否かを判別する(ステップS2202)。有る場合のみ、当該単位照射領域R(n)に対する光量変更指示として、単位照射領域R(n)を出力する(ステップS2203)。
【0075】
ステップS2202およびS2203の処理を全領域について繰り返す(ステップS2204、S2205)。
【0076】
以上の判別処理の結果、1以上の分割照射領域R(n)に対して光量変更指示が出力されると、それを受け、光源制御部141は、光源110の照射を制御する。受光部120では、制御された変調光の照射による入射光(反射光)を受光し、画像生成部130は、蓄積された電荷から距離画像、照射光強度画像を生成する。
【0077】
以上説明したように、本実施形態によれば、撮影範囲(照射領域)を複数の単位照射領域に分割し、高反射領域には、光量を低減して変調光を照射する。各単位照射領域の光量は、距離画像を生成する撮影範囲と同範囲の照射光強度画像の画素値を用いて制御する。制御は、照射光強度画像内に、周囲の画素値の算出に影響を与える程高強度な入射光(反射光)を受光した画素の有無を判別し、有りと判別された場合、当該画素を含む領域に対応する単位照射領域への照射光量を低減するようになされる。
【0078】
従って、本実施形態によれば、撮影範囲内に、高反射領域がある場合であっても、当該領域のみ光量を低減させて変調光を照射する。従って、撮像範囲(照射領域)に応じて、光量を最適なものに調整できるため、距離値算出精度が高まり、高精度な距離画像を得ることができる。このため、本実施形態によれば、撮影環境によらず、高精度な距離画像を得ることができる。
【0079】
なお、上記実施形態では、閾値以上の画素値を有する画素のある領域のみ光量を低減するよう光量変更指示を出力しているが、光量変更指示はこれに限られない。例えば、判別対象の単位照射領域R(n)に対応する画素領域の全画素値が閾値より小さい場合、当該領域への照射光量を、最大値まで段階的に増大させるよう構成してもよい。
【0080】
この場合の判別部142による判別処理の処理フローを図11(b)に示す。図11(a)と同様に、判別部142は、判別処理開始の指示を受け付けると、nを初期化(n=1)する(ステップS2201)。そして、領域R(n)に対応する照射光強度画像の画素領域内に、画素値Psが予め定めた閾値Ts以上の画素があるか否かを判別する(ステップS2202)。有る場合、当該単位照射領域R(n)に対する光量変更指示として、単位照射領域R(n)および当該単位照射領域の光量を低減する指示を出力する(ステップS2203)。
【0081】
一方、ステップS2201で、照射光強度画像内に閾値Ts以上の画素値を有する画素がない場合、図11(a)とは異なり、その時点での、当該領域R(n)への照射光度が最大であるか否かを判別し(ステップS2206)、最大であれば、そのまま、最大でなければ、単位照射領域R(n)および当該単位照射領域の光量を増大する指示を出力する(ステップS2207)。
【0082】
この場合、光量変更指示として、該当する単位照射領域を特定する情報だけでなく、低減するか、増大するかを示す情報も同時に出力する。なお、低減量、増大量は予め定めておく。
【0083】
このように構成することにより、上述のように、光量を増大させた分、SN比が向上し、他に影響を与えるほどの強い入射光(反射光)を受けることなく、距離画像の精度を向上させることができる。
【0084】
なお、本実施形態の手法と第一の実施形態の手法とを組み合わせてもよい。すなわち、直前に生成された照射光強度画像に高反射領域がある場合、撮影範囲(照射領域)を分割し、第一の実施形態同様、単位照射領域毎に異なるタイミングで変調光を照射するとともに、第二の実施形態同様、高反射領域に対応する単位照射領域には光量を低減して変調光を照射する。
【0085】
この場合の画像生成処理は、基本的に図7に示す第一の実施形態の画像生成処理と同じ手順となる。
【0086】
一方、判別処理は、図11(a)または図11(b)に示す、第二の実施形態の判別処理と基本的に同様の手順となる。ただし、図8に示す第一の実施形態の判別処理同様、判別処理開始時には分割フラグを無効化し、また、ステップS2202において、閾値Ts以上の画素が有りと判別された場合、分割フラグを有効化する。
【0087】
また、分割照射処理は、基本的に図9に示す第一の実施形態の分割照射処理と同じ手順となる。ただし、ステップS1302の前に単位照射領域R(n)毎に、光量変更指示の有無を確認し、あれば、光量を変更(低減または増大)する。
【0088】
光源制御部141は、光量の低減または増大を、該当領域に照射する光源110からの変調光の強度を低減または増大することにより実現してもよいし、照射時間を短縮または延長することにより実現してもよい。照射時間を変更することにより実現する場合の、分割照射の様子を図5(b)に示す。
【0089】
このように構成することにより、高反射領域からの入射光(反射光)を低減させることができる。従って、高反射領域があったとしても、他領域への影響を防ぐことができるだけでなく、高反射領域の強い反射光自体を低減することができる。このため、当該領域内でも、フレアを抑制することができ、さらに得られる距離画像の距離値の精度が向上する。
【0090】
また、照射光強度値が閾値以上の領域以外の領域について、光量を最大値まで、順次増大させるよう構成すると、上述の効果に加え、さらに、十分なSN比を得ることができ、さらに算出される距離値の精度が向上する。
【0091】
なお、上記各実施形態では、照射光強度画像は、距離画像を生成する際に用いる電荷を用い、式(3)の演算を行って照射光強度画像を生成しているが、照射光強度画像の生成手法は、これに限られない。例えば、光の照射時と非照射時との入射光(反射光)の光量の差分をとって画素値としてもよい。
【符号の説明】
【0092】
100:距離画像生成装置、110:光源、110:点光源、111:変調光、112:入射光、120:受光部、130:画像生成部、131:距離画像生成部、132:照射光強度画像生成部、140:制御部、141:光源制御部、142:判別部、143:合成部、200:物体、210:撮影空間、211:単位照射領域、212:単位照射領域、213:単位照射領域、214:単位照射領域、221:単位照射領域、222:単位照射領域、223:単位照射領域、224:単位照射領域、225:単位照射領域、226:単位照射領域、227:単位照射領域、228:単位照射領域、320:スキャン手段、330:拡散板、411:画像412:画像413:画像414:画像450:画像
【技術分野】
【0001】
本発明は、距離画像生成技術に関し、特に、光飛行時間型距離画像センサを用いた距離画像生成技術に関する。
【背景技術】
【0002】
光飛行時間型距離画像センサを用いて、撮影空間の対象物の、当該センサからの距離を画素値とする距離画像を生成する距離画像生成装置がある。光飛行時間型距離画像センサでは、光源から照射した変調光と、当該変調光の対象物による反射光との位相差を用いて、画素毎に対象物の距離を算出する。位相差は、画素毎に用意された撮像素子でレンズを介して受光した反射光を光量に応じた電荷量に変換し、この電荷量に所定の演算を施すことにより算出される(例えば、特許文献1参照。)。
【先行技術文献】
【特許文献】
【0003】
【特許文献1】特開2008−241435号公報
【発明の概要】
【発明が解決しようとする課題】
【0004】
光飛行時間型距離画像センサを用いた距離画像生成装置は、上述のように画素毎に受光した反射光を基に距離値を算出している。しかし、極端に近い距離の対象物が撮影対象空間にある場合、極端に反射率の高い物体が撮影対象空間にある場合など、強い反射光がレンズに入射すると、レンズの解像力などの性能によって、本来結像する画素以外の画素に反射光が回り込み、フレアと呼ばれる現象が発生することがある。
【0005】
フレアが発生すると、距離を算出する上での正確な光量が得られず、それに従って算出される距離値も不正確となる。
【0006】
本発明は、上記事情に鑑みてなされたもので、光飛行時間型距離画像センサを用いて撮影空間の距離画像生成する際、撮影空間内の状況によらず、距離計測の精度を高める技術を提供することを目的とする。
【課題を解決するための手段】
【0007】
本発明は、距離画像と同タイミングで生成した同撮像空間の照射光強度画像を用い、撮影空間に他の画素の画素値算出に影響を与える程、入射光(反射光)強度の強い領域があるか否かを判別し、ある場合、その領域への照射と他の領域への照射とを独立して制御する分割照射を行う。判別は、照射光強度画像の各画素値を予め定めた閾値と比較することにより行う。
【0008】
具体的には、撮影空間に変調光を照射する光源と、前記光源から照射され前記撮影空間内の対象物で反射した反射光を受光して電荷に変換する複数の光電変換素子、前記光電変換素子ごとに設けられた複数の電荷蓄積部、及び、前記光源の変調に同期して、前記光電変換素子により変換された電荷を前記複数の電荷蓄積部に振り分ける振分手段と、を備える受光手段と、所定の時間毎に、前記複数の電荷蓄積部に蓄積された電荷から画素値が距離値である前記撮影空間の距離画像を生成する距離画像生成手段と、画素値が照射光強度である当該撮影空間の照射光強度画像を生成する照射光強度画像生成手段と、を備える距離画像生成装置であって、前記照射光強度画像に、予め定めた閾値以上の画素値を有する画素があるか否かを判別する判別手段と、前記光源の照射を制御する光源制御手段と、を備え、前記光源制御手段は、前記判別手段が有りと判別した場合、前記撮影空間を複数の単位照射領域に分割して前記変調光を照射するよう前記光源の照射を制御することを特徴とする距離画像生成装置を提供する。
【0009】
また、撮影空間に変調光を照射する光源と、前記光源から照射され前記撮影空間内の対象物で反射した反射光を受光して電荷に変換する複数の光電変換素子、前記光電変換素子ごとに設けられた複数の電荷蓄積部、及び、前記光源の変調に同期して、前記光電変換素子により変換された電荷を前記複数の電荷蓄積部に振り分ける振分手段と、を備える受光手段と、を備える距離画像生成装置における距離画像生成方法であって、所定の時間毎に、前記複数の電荷蓄積部に蓄積された電荷から画素値が距離値である前記撮影空間の距離画像を生成する距離画像生成ステップと、画素値が照射光強度である前記撮影空間の照射光強度画像を生成する照射光強度画像生成ステップと、前記照射光強度画像が生成される毎に、当該照射強度画像の各画素に、予め定めた閾値以上の画素値を有する画素があるか否かを判別する判別ステップと、前記判別ステップで、有りと判別された場合、前記対象空間を複数の照射領域に分割して照射するよう前記光源の発光を制御する発光制御ステップと、を備えることを特徴とする距離画像生成方法を提供する。
【発明の効果】
【0010】
本発明によれば、光飛行時間型距離画像センサを用いて撮影空間の距離画像生成する際、撮影空間内の状況によらず、撮影対象空間全体の物体の距離計測の精度が高まる。
【図面の簡単な説明】
【0011】
【図1】第一の実施形態の距離画像生成装置のブロック図である。
【図2】距離画像生成の原理を説明するための説明図である。
【図3】(a)および(b)は、第一の実施形態の分割照射を説明するための説明図である。
【図4】第一の実施形態の光源制御手法を説明するための説明図である。
【図5】(a)は、第一の実施形態の分割照射のタイミングを説明するための説明図であり、(b)は、第一の実施形態と第二の実施形態とを組み合わせた場合の分割照射のタイミングを説明するための説明図である。
【図6】第一の実施形態の画像合成を説明するための説明図である。
【図7】第一の実施形態の画像生成処理のフローチャートである。
【図8】第一の実施形態の判別処理のフローチャートである。
【図9】第一の実施形態の分割照射処理のフローチャートである。
【図10】第二の実施形態の画像生成処理のフローチャートである。
【図11】(a)および(b)は、第二の実施形態の判別処理のフローチャートである。
【発明を実施するための形態】
【0012】
<<第一の実施形態>>
以下、本発明を適用する実施形態について説明する。以下、本発明の実施形態を説明するための全図において、同一機能を有するものは同一符号を付し、その繰り返しの説明は省略する。
【0013】
まず、本実施形態で用いる距離画像生成装置の構成を説明する。図1は、本実施形態の距離画像生成装置100のブロック図である。
【0014】
図1に示すように、距離画像生成装置100は、照射光と入射光との位相差を用いて距離画像を生成する光飛行時間型距離画像センサを用いるもので、光源110と、受光部120と、画像生成部130と、制御部140と、を備える。
【0015】
光源110は、撮影空間に変調した光(例えば、正弦波もしくは矩形波等で高速に変調させた赤外光もしくは可視光;以下、変調光と呼ぶ。)111を照射する。光源110には、LED、レーザ等の高速変調が可能なデバイスが用いられる。また、本実施形態の光源110は、制御部140の制御により、距離画像を生成する撮影空間を、複数の領域に分割して照射する分割照射機能を備える。
【0016】
受光部120は、光源110から照射された変調光111が撮影空間内の物体200で反射された反射光を含む入射光112を受光し、電荷に変換する撮像素子である。これを実現するため、受光部120は、入射光112を受光し、受光量を電荷量に変換する複数の光電変換素子と、光電変換素子により得られた電荷量を蓄積する電荷蓄積部と、電荷を各電荷蓄積部に振り分ける振分部と、を備える。また、受光部120の前には、レンズ(不図示)が配置される。
【0017】
この光電変換素子により画素が形成される。従って、各光電変換素子は、距離画像の各画素に対応づけて規則的に配列される。また、距離情報である変調光111と入射光112の位相差は、電荷蓄積部に蓄積された電荷を用いて算出する。この位相差を算出するためには、少なくとも2以上の位相情報(電荷蓄積部に蓄積された電荷)が必要である。このため、電荷蓄積部は、光電変換素子毎に、少なくとも2以上設けられる。以下、本実施形態では、4つ用いる場合を例にあげて説明する。
【0018】
なお、光源110と受光部120とは制御部140により同期制御される。光源110は、制御部140が出力する同期信号に従って、対象空間に変調光111を照射する。また、受光部120では、この同期信号に従って、光電変換素子が、物体200により反射された反射光を含む入射光112を電荷量に変換する。そして、振分部が、得られた電荷量を、この同期信号に従って、各光電変換素子に対応づけて設けられる4つの電荷蓄積部それぞれに振り分ける。ここでは、変調の1周期を4等分した期間毎に、これらの4つの電荷蓄積部に振り分ける。なお、電荷蓄積部には、電荷量そのものを蓄積してもよいし、この電荷量をAD変換後のデータを蓄積してもよい。
【0019】
画像生成部130は、受光部120が所定期間電荷を蓄積する毎に、蓄積した電荷から、距離値を画素値とする距離画像と、照射光強度を画素値とする照射光強度画像とを生成する。このため、本実施形態の画像生成部130は、撮影空間の距離画像を生成する距離画像生成部131と、撮影空間の照射光強度画像を生成する照射光強度画像生成部132と、を備える。
【0020】
距離画像生成部131は、各電荷蓄積部に振り分けられた電荷量に所定の演算を施し、変調光111と入射光112との位相差から、各画素の位置に対応する撮影空間の距離値を算出する。
【0021】
図2は、距離画像生成の原理を説明するための図である。光源110から出射される変調光111の強度が本図のような正弦曲線を描くように変化する場合、受光部120への入射光112の強度も同様に正弦曲線を描くよう変化する。
【0022】
ただし、変調光111と入射光112とには、光が物体200まで往復する飛行時間による位相の遅延(位相差φ)が生じる。光の速度cは既知であるため、この位相差φと変調周波数fとを用い、対象物までの距離値Dは、以下の式(1)で求めることができる。
【数1】
【0023】
ここで、変調光111と入射光112との位相差φは、変調光111の1周期を4等分した各期間をT1、T2、T3、T4とし、それぞれの期間に蓄積される電荷量をC1、C2、C3、C4とすると、以下の式(2)で表される。
【数2】
【0024】
なお、1周期を4等分した各期間T1、T2、T3、T4は、例えば、0度から90度の間、90度から180度の間、180度から270度の間、270度から0度の間とする。
【0025】
また、光源110の変調周波数は数十MHzである。従って、変調の1周期は数十ns程度である。このため、距離画像を得るためには、数百〜数十万周期の電荷蓄積時間を要する。本実施形態の距離画像生成部131は、この電荷蓄積時間Δt間隔で電荷蓄積部に蓄積された各電荷量C1、C2、C3、C4を用い、画素毎に、式(2)に従って位相差φを求め、式(1)に従って、対象物までの距離値Dを求め、距離値を画素値とする距離画像を生成する。生成した距離画像は、例えば、外部出力端子から出力される。
【0026】
照射光強度画像生成部132は、各電荷蓄積部に振り分けられた電荷量に所定の演算を施し、各画素の位置に対応する撮影空間の照射光強度値を算出する。このとき、距離画像生成部131が距離値を算出するために用いる上記各電荷量C1、C2、C3、C4をそのまま用いる。これを用い、照度光強度画像生成部132は、画素毎に以下の式(3)に従って、電荷蓄積時間Δt毎に、照射光強度値Bを算出し、照射光強度値を画素値とする照射光強度画像を生成する。
【数3】
【0027】
なお、一般に輝度画像の画素値として用いられるのは、以下の式(4)に従って、4つの電荷蓄積部に振り分けられた電荷の平均値Aである。
【数4】
【0028】
制御部140は、距離画像生成装置100全体の動作を制御する。本実施形態では、ユーザから処理開始の指示(例えば、電源ON)を受け付けると、光源110から変調光を照射させるとともに受光部120で入射光(反射光)を受光させ、所定の時間ごとに受光した入射光(反射光)から距離画像および照射光強度画像を生成させる。本実施形態の制御部140は、この制御に加え、撮影空間に所定の光量以上の入射光(反射光)を射出している領域がある場合、光源110に分割照射を行わせる。これを実現するため、光源制御部141と、判別部142と、合成部143とを備える。
【0029】
判別部142は、照射光強度画像が生成される毎に、照射光強度画像に予め定めた閾値以上の画素があるか否かを判別する。本実施形態では、閾値以上の画素があると判別した場合、分割フラグを有効化する。
【0030】
光源制御部141は、分割フラグの状態に応じて、光源110の動作を制御する。分割フラグが無効化されている場合は、撮影空間全体に変調光を連続して照射するよう光源110を制御する。これを通常照射と呼ぶ。また、分割フラグが有効化されると、撮影空間を複数の領域(単位照射領域)に分割して照射する分割照射を行うよう制御する。
【0031】
図3(a)は、本実施形態の分割照射を説明するための説明図である。ここでは、一例として、撮影空間210を、4つの単位照射領域211、212、213、214に分割して照射する場合を例示する。なお、撮影空間(照射領域)210を二次元に投影した面が、距離画像、照射光強度画像の画像領域に対応する。
【0032】
光源制御部141は、例えば、光源110に用いる発光体がアレイ状に配置されるLED素子で構成される場合、各LED素子を独立して駆動することにより、分割照射を実現する。本実施形態では、各単位照射領域に対応するLED素子群毎に照射を制御する。なお、この場合、照射、非照射の制御だけでなく、LED素子群毎に、照射強度の変更も行うことができる。
【0033】
また、光源110に用いる発光体がレーザ等の点光源の場合、光源制御部141は、スキャン手段により光源110を分割照射させる。図4は、このときの制御を説明するための図である。本図に示すように、光源制御部141は、スキャン手段320を制御し、点光源110から出射した光を、図中、xおよびy方向に走査する。スキャン手段320には、ミラーを回転させて変調光を走査するガルバノミラー、ミラーを振動させて変調光を走査するMEMSなどが用いられる。
【0034】
なお、走査方向は一軸方向としてもよい。この場合、光源制御部141は、図4に示すように、スキャン手段320に加え、拡散板330を用い、光源110の制御を行う。拡散板330は、光源110から照射された光を、走査方向と直交する方向に拡散(図4:340)するよう配置される。
【0035】
なお、分割照射による撮影空間(照射領域)210の分割は、図3(a)に示すものに限られない。例えば、図3(b)に示すように、x方向およびy方向に分割してもよい。図3(b)では、撮影空間210を、x方向に4分割、y方向に2分割し、8つの単位照射領域221、222、223、224、225、226、227、228とする場合を例示する。
【0036】
本実施形態では、光源制御部141は、各単位照射領域を、電荷蓄積時間Δt毎に、電荷蓄積時間Δt間、順に照射するよう光源110を制御する。撮影空間210を4つの単位照射領域211、212、213、214に分割して照射する場合の分割照射のタイミングを図5(a)に示す。
【0037】
合成部143は、分割照射を行っている間に得られた複数の距離画像を合成する。撮影空間210を4つの単位照射領域211、212、213、214に分割して照射する場合の画像合成の様子を図6に示す。単位照射領域211、212、213、214に照射した際に得られる画像を、それぞれ、411、412、413、414とする。これらを合成し、画像450を生成する。
【0038】
画像合成においては、全画像の画素値を加算してもよいし、各画像から、照射領域に対応する画素の画素値を抽出してもよい。境界の画素は、照射光強度画像の画素値の大きい方を用いるよう構成してもよい。
【0039】
なお、本実施形態の距離画像生成装置100は、CPUとメモリと記憶装置とを備え、記憶装置に格納されたプログラムを実行することにより、上記各部の機能を実現する。
【0040】
次に、本実施形態の、制御部140による画像生成時の処理(画像生成処理)の流れを説明する。
【0041】
制御部140は、光源110、受光部120、画像生成部130を制御し、電荷蓄積時間Δt毎に距離画像と照射光強度画像とを生成する処理を継続する。本実施形態では、照射光強度画像が生成される毎に、分割照射を行うか否かを判別する判別処理を行い、判別結果に応じて光源110の照射を制御する。
【0042】
図7は、本実施形態の画像生成処理の処理フローである。制御部140は、処理開始の指示(例えば、電源ON)を受け付けると、処理を開始する。まず、分割をするか否かを示す、分割フラグを無効化する(ステップS1101)。
【0043】
そして、制御部140は、光源110に変調光の照射を、受光部120に入射光(反射光)の受光、光電変換、電荷の蓄積を開始させる(ステップS1102)。このとき、電荷蓄積時間をカウントするクロックtを初期化(t=0)とする。
【0044】
次に、制御部140は、分割フラグが有効か否かを判別する(ステップS1103)。無効であれば、光源制御部141に通常照射を行わせる(ステップS1104)。この指示を受け、光源制御部141は、通常照射を行うよう光源110を制御する。そして、制御部140は、受光部120に入射光(反射光)を光電変換して得た電荷を電荷蓄積時間Δt間蓄積させ(ステップS1105、S1106)、画像生成部130に、その電荷から距離画像および照射光強度画像を生成させる(ステップS1107)。
【0045】
一方、ステップS1103で分割フラグが有効であれば、制御部140は、光源制御部141に分割照射を行わせる分割照射処理を行う(ステップS1108)。分割照射処理の詳細は後述する。
【0046】
照射光強度画像が生成されると、制御部140は、判別部142に、分割照射の要否を判別する判別処理を開始させる(ステップS1109)。判別処理の詳細も後述する。
【0047】
その後、終了の指示(例えば、電源OFF)を受け付けるまで、制御部140は、ステップS1103からの処理を繰り返す(ステップS1110)。
【0048】
次に、上記ステップS1109の、判別部142による判別処理の流れを説明する。判別処理では、生成された照射光強度画像を用いて、撮影空間210に、他の画素の画素値算出に影響を与える程、入射光(反射光)強度の強い領域(高反射領域)があるか否かを判別し、ある場合、光源110を分割照射させるよう分割フラグを有効化する。判別は、生成された照射光強度画像の画素毎に、画素値と予め定めた閾値とを比較することにより行う。
【0049】
図8は、本実施形態の判別処理の処理フローである。判別部142は、まず、分割フラグを無効化する(ステップS1201)。そして、全画素について、それぞれ、画素値と閾値とを比較し、閾値以上の画素値を持つ画素の有無を判別する(ステップS1202)。閾値以上の画素値を持つ画素がある場合、分割照射が必要と判断し、分割フラグを有効化する(ステップS1203)。そして、処理を終了する。一方、全ての画素の画素値が閾値より小さい場合は、分割フラグは無効のままとし、処理を終了する。
【0050】
以上の判別処理により、照射光強度画像に、閾値以上の値を持つ画素値がある場合、分割フラグが有効化され、その他の場合は、分割フラグが無効化される。
【0051】
次に、ステップS1108の分割照射処理の流れを説明する。本実施形態では、制御部140は、分割フラグが有効な場合、光源制御部141に、分割照射を行わせる。この指示を受け、光源制御部141は、光源110に分割照射を行わせる。
【0052】
図9は、本実施形態の分割照射処理の処理フローである。ここでは、撮影空間(照射領域)210をN分割(Nは自然数)して照射するものとし、各単位照射領域をR(n)と表す(nは1≦n≦Nを満たす自然数)。
【0053】
判別部142は、判別処理開始の指示を受け付けると、nを初期化(n=1)する(ステップS1301)。光源制御部141は、n番目の単位照射領域R(n)を照射するよう光源110を制御する(ステップS1302)。照射が開始されると、制御部140は、通常どおり、受光部120に入射光(反射光)を受光させて光電変換後の電荷を蓄積させる。そして、電荷蓄積時間Δt毎に、画像生成部130に、距離画像および照射光強度画像を生成させる(ステップS1303、S1304、S1305)。
【0054】
そして、光源制御部141は、順に単位照射領域R(n)を変更しながら全ての領域について照射し終えるまで、ステップS1302からS1305の処理を繰り返す(ステップS1306、S1307)。
【0055】
全単位照射領域R(n)の照射を終え、それぞれN枚の距離画像および照射光強度画像が生成されると、制御部140は、合成部143に、それぞれ合成させ(画像合成;ステップS1308)、撮影空間210全体が照射された画像を生成する。
【0056】
画像合成後は図7の画像生成処理に戻り、距離画像は、例えば、外部出力端子から出力され、照射光強度画像は、ステップS1109の判別処理に用いられる。
【0057】
以上説明したように、本実施形態によれば、距離画像を生成する撮影空間と同範囲の照射光強度画像の画素値を用い、高反射領域の有無を判別する。そして、直前に生成された照射光強度画像に高反射領域がある場合、撮影範囲(照射領域)を分割し、単位照射領域毎に異なるタイミングで変調光を照射する。そして得られた入射光(反射光)から生成した画像を合成して距離画像を生成する。
【0058】
従って、高反射領域がある場合であっても、その影響が、当該領域を含む単位照射領域に対応する画素領域に限られ、全画素に影響を与えることを防ぐことができる。このため、画像全体としてみれば、高い精度で距離値が算出された距離画像を得ることができる。
【0059】
<<第二の実施形態>>
次に、本発明を適用する第二の実施形態について説明する。第一の実施形態では、所定強度以上の入射光(反射光)がある場合、撮影範囲(照射領域)を分割して、異なるタイミングで照射し、得られた画像を合成して距離画像を生成している。本実施形態では、所定強度以上の入射光(反射光)がある場合、撮影範囲(照射領域)を分割して照射するが、各分割照射領域を照射するタイミングは同一とし、照射光の光量のみを変化させる。
【0060】
本実施形態の距離画像生成装置100の構成は、基本的に第一の実施形態と同様である。ただし、上述のように、各分割領域に同時に照射しつつ、分割領域毎に照射する光量を変えるため、制御部140の構成が異なる。また、光源110は、単位照射領域毎に照射光量の変更が可能なものとする。
【0061】
実現可能な光源110としては、例えば、LED等の発光体がアレイ状に配置されたものとする。個々の発光体がそれぞれ異なる照射領域を照射可能で、かつ、発光量を独立に制御可能なものであればよい。
【0062】
本実施形態の判別部142は、照射光強度画像が生成される毎に、照射光強度画像に予め定めた閾値以上の画素があるか否かを判別するとともに、閾値以上の画素がある領域に対応する単位照射領域を特定する。本実施形態では、判別部142は、閾値以上の画素があると判別した場合、本実施形態では、分割フラグを用いず、当該画素がある領域に対応する単位照射領域を特定する情報を光量変更指示として出力する。
【0063】
本実施形態の光源制御部141は、光量変更指示の有無に応じて光源110の動作を制御する。光量変更指示が出力されていない場合、撮影空間全体を同一の光量で照射するよう制御し、出力されている場合、当該単位照射領域への照射光量を低減するよう光源110を制御する。本実施形態では、撮影空間全体を同一の光量で照射するよう光源110を制御するものを通常照射と呼び、少なくとも1つの単位照射領域を、他の単位照射領域とは異なる光量で照射するよう制御するものを分割照射と呼ぶ。
【0064】
光量の低減は、光源110から出射する変調光の強度を低減することにより実現する。低減する光量は、予め定めておく。
【0065】
なお、本実施形態では、分割照射時も同一タイミングで撮影空間に照射するため、合成部143は備えない。
【0066】
以下、本実施形態の制御部140による画像生成処理の流れを説明する。図10は、本実施形態の画像生成処理の処理フローである。
【0067】
制御部140は、処理開始の指示(たとえば、電源ON)を受け付けると、処理を開始する。制御部140は、光源110に変調光の照射を、受光部120に入射光(反射光)の受光、光電変換、電荷の蓄積を開始させる(ステップS2101)。このとき、電荷蓄積時間をカウントするクロックtを初期化(t=0)とする。なお、制御部140は、このとき、光源制御部141に、通常照射制御をさせる。これを受け、光源制御部141は、撮影空間全体(全単位照射領域)に対し、同じ光量で照射するよう光源110を制御する。
【0068】
そして、制御部140は、光量変更指示の有無を判別する(ステップS2102)。光量変更指示があれば、制御部140は、その旨、光源制御部141に通知する。それを受け、光源制御部141は、光量変更指示が出力されている単位照射領域の光量を変更(低減)する(ステップS2103)。一方、光量変更指示が出力されていない場合は、光源110の照射状態を変更しない。
【0069】
そして、電荷蓄積時間Δt間、電荷を蓄積すると(ステップS2104)、制御部140は、時刻カウンタtを初期化し(ステップS2105)、画像生成部130に距離画像および照射光強度画像を生成させる(ステップS2106)。
【0070】
照射光強度画像が生成されると、制御部140は、判別部142に、分割照射の要否を判別する判別処理を開始させる(ステップS2107)。本実施形態の判別処理の詳細は後述する。
【0071】
その後、終了の指示(例えば、電源OFF)を受け付けるまで、制御部140は、ステップS2102からの処理を繰り返す(ステップS2108)。
【0072】
次に、本実施形態の、ステップS2107の、判別部142による判別処理について説明する。図11(a)は、本実施形態の判別処理の処理フローである。本実施形態では、照射光強度画像の、各単位照射領域に対応する画素領域内に、高反射領域があるか否かを判別し、ある場合、光量変更指示として、対応する単位照射領域を特定する情報を出力する。
【0073】
ここでは、撮影範囲(照射領域)210を、N分割(Nは自然数)して照射するものとし、各単位照射領域をR(n)と表す(nは1≦n≦Nを満たす自然数)。
【0074】
判別部142は、判別処理開始の指示を受け付けると、nを初期化(n=1)する(ステップS2201)。そして、領域R(n)に対応する照射光強度画像の画素領域内に、画素値Psが予め定めた閾値Ts以上の画素があるか否かを判別する(ステップS2202)。有る場合のみ、当該単位照射領域R(n)に対する光量変更指示として、単位照射領域R(n)を出力する(ステップS2203)。
【0075】
ステップS2202およびS2203の処理を全領域について繰り返す(ステップS2204、S2205)。
【0076】
以上の判別処理の結果、1以上の分割照射領域R(n)に対して光量変更指示が出力されると、それを受け、光源制御部141は、光源110の照射を制御する。受光部120では、制御された変調光の照射による入射光(反射光)を受光し、画像生成部130は、蓄積された電荷から距離画像、照射光強度画像を生成する。
【0077】
以上説明したように、本実施形態によれば、撮影範囲(照射領域)を複数の単位照射領域に分割し、高反射領域には、光量を低減して変調光を照射する。各単位照射領域の光量は、距離画像を生成する撮影範囲と同範囲の照射光強度画像の画素値を用いて制御する。制御は、照射光強度画像内に、周囲の画素値の算出に影響を与える程高強度な入射光(反射光)を受光した画素の有無を判別し、有りと判別された場合、当該画素を含む領域に対応する単位照射領域への照射光量を低減するようになされる。
【0078】
従って、本実施形態によれば、撮影範囲内に、高反射領域がある場合であっても、当該領域のみ光量を低減させて変調光を照射する。従って、撮像範囲(照射領域)に応じて、光量を最適なものに調整できるため、距離値算出精度が高まり、高精度な距離画像を得ることができる。このため、本実施形態によれば、撮影環境によらず、高精度な距離画像を得ることができる。
【0079】
なお、上記実施形態では、閾値以上の画素値を有する画素のある領域のみ光量を低減するよう光量変更指示を出力しているが、光量変更指示はこれに限られない。例えば、判別対象の単位照射領域R(n)に対応する画素領域の全画素値が閾値より小さい場合、当該領域への照射光量を、最大値まで段階的に増大させるよう構成してもよい。
【0080】
この場合の判別部142による判別処理の処理フローを図11(b)に示す。図11(a)と同様に、判別部142は、判別処理開始の指示を受け付けると、nを初期化(n=1)する(ステップS2201)。そして、領域R(n)に対応する照射光強度画像の画素領域内に、画素値Psが予め定めた閾値Ts以上の画素があるか否かを判別する(ステップS2202)。有る場合、当該単位照射領域R(n)に対する光量変更指示として、単位照射領域R(n)および当該単位照射領域の光量を低減する指示を出力する(ステップS2203)。
【0081】
一方、ステップS2201で、照射光強度画像内に閾値Ts以上の画素値を有する画素がない場合、図11(a)とは異なり、その時点での、当該領域R(n)への照射光度が最大であるか否かを判別し(ステップS2206)、最大であれば、そのまま、最大でなければ、単位照射領域R(n)および当該単位照射領域の光量を増大する指示を出力する(ステップS2207)。
【0082】
この場合、光量変更指示として、該当する単位照射領域を特定する情報だけでなく、低減するか、増大するかを示す情報も同時に出力する。なお、低減量、増大量は予め定めておく。
【0083】
このように構成することにより、上述のように、光量を増大させた分、SN比が向上し、他に影響を与えるほどの強い入射光(反射光)を受けることなく、距離画像の精度を向上させることができる。
【0084】
なお、本実施形態の手法と第一の実施形態の手法とを組み合わせてもよい。すなわち、直前に生成された照射光強度画像に高反射領域がある場合、撮影範囲(照射領域)を分割し、第一の実施形態同様、単位照射領域毎に異なるタイミングで変調光を照射するとともに、第二の実施形態同様、高反射領域に対応する単位照射領域には光量を低減して変調光を照射する。
【0085】
この場合の画像生成処理は、基本的に図7に示す第一の実施形態の画像生成処理と同じ手順となる。
【0086】
一方、判別処理は、図11(a)または図11(b)に示す、第二の実施形態の判別処理と基本的に同様の手順となる。ただし、図8に示す第一の実施形態の判別処理同様、判別処理開始時には分割フラグを無効化し、また、ステップS2202において、閾値Ts以上の画素が有りと判別された場合、分割フラグを有効化する。
【0087】
また、分割照射処理は、基本的に図9に示す第一の実施形態の分割照射処理と同じ手順となる。ただし、ステップS1302の前に単位照射領域R(n)毎に、光量変更指示の有無を確認し、あれば、光量を変更(低減または増大)する。
【0088】
光源制御部141は、光量の低減または増大を、該当領域に照射する光源110からの変調光の強度を低減または増大することにより実現してもよいし、照射時間を短縮または延長することにより実現してもよい。照射時間を変更することにより実現する場合の、分割照射の様子を図5(b)に示す。
【0089】
このように構成することにより、高反射領域からの入射光(反射光)を低減させることができる。従って、高反射領域があったとしても、他領域への影響を防ぐことができるだけでなく、高反射領域の強い反射光自体を低減することができる。このため、当該領域内でも、フレアを抑制することができ、さらに得られる距離画像の距離値の精度が向上する。
【0090】
また、照射光強度値が閾値以上の領域以外の領域について、光量を最大値まで、順次増大させるよう構成すると、上述の効果に加え、さらに、十分なSN比を得ることができ、さらに算出される距離値の精度が向上する。
【0091】
なお、上記各実施形態では、照射光強度画像は、距離画像を生成する際に用いる電荷を用い、式(3)の演算を行って照射光強度画像を生成しているが、照射光強度画像の生成手法は、これに限られない。例えば、光の照射時と非照射時との入射光(反射光)の光量の差分をとって画素値としてもよい。
【符号の説明】
【0092】
100:距離画像生成装置、110:光源、110:点光源、111:変調光、112:入射光、120:受光部、130:画像生成部、131:距離画像生成部、132:照射光強度画像生成部、140:制御部、141:光源制御部、142:判別部、143:合成部、200:物体、210:撮影空間、211:単位照射領域、212:単位照射領域、213:単位照射領域、214:単位照射領域、221:単位照射領域、222:単位照射領域、223:単位照射領域、224:単位照射領域、225:単位照射領域、226:単位照射領域、227:単位照射領域、228:単位照射領域、320:スキャン手段、330:拡散板、411:画像412:画像413:画像414:画像450:画像
【特許請求の範囲】
【請求項1】
撮影空間に変調光を照射する光源と、前記光源から照射され前記撮影空間内の対象物で反射した反射光を受光して電荷に変換する複数の光電変換素子、前記光電変換素子ごとに設けられた複数の電荷蓄積部、及び、前記光源の変調に同期して、前記光電変換素子により変換された電荷を前記複数の電荷蓄積部に振り分ける振分手段と、を備える受光手段と、所定の時間毎に、前記複数の電荷蓄積部に蓄積された電荷から画素値が距離値である前記撮影空間の距離画像を生成する距離画像生成手段と、画素値が照射光強度である当該撮影空間の照射光強度画像を生成する照射光強度画像生成手段と、を備える距離画像生成装置であって、
前記照射光強度画像に、予め定めた閾値以上の画素値を有する画素があるか否かを判別する判別手段と、
前記光源の照射を制御する光源制御手段と、を備え、
前記光源制御手段は、前記判別手段が有りと判別した場合、前記撮影空間を複数の単位照射領域に分割して前記変調光を照射するよう前記光源の照射を制御すること
を特徴とする距離画像生成装置。
【請求項2】
請求項1記載の距離画像生成装置であって、
前記光源制御手段は、前記各単位照射領域を、予め定めた照射時間毎に順に照射するよう前記光源の照射を制御すること
を特徴とする距離画像生成装置。
【請求項3】
請求項2記載の距離画像生成装置であって、
複数の距離画像を合成する合成手段をさらに備え、
前記距離画像生成手段は、前記光源が前記単位照射領域を前記所定の時間照射する毎に距離画像を生成し、
前記合成手段は、全撮影空間分の前記単位照射領域を照射することにより得た距離画像を合成すること
を特徴とする距離画像生成装置。
【請求項4】
請求項1記載の距離画像生成装置であって、
前記判別手段は、予め定めた閾値以上の画素値を有する画素に対応する単位領域を光量低減領域として特定し、
前記光源制御手段は、前記各単位照射領域に同時に変調光を照射し、かつ、前記単位照射領域に照射する前記変調光の強度を、他の単位領域に照射する強度より小さくするよう前記光源の照射を制御すること
を特徴とする距離画像生成装置。
【請求項5】
請求項1から3いずれか1項記載の距離画像生成装置であって、
前記判別手段は、予め定めた閾値以上の画素値を有する画素に対応する単位領域を光量低減領域として特定し、
前記光源制御手段は、前記光量低減領域に照射する前記変調光の光量を、他の単位領域に照射する光量より小さくすること
を特徴とする距離画像生成装置。
【請求項6】
請求項2または3記載の距離画像生成装置であって、
前記判別手段は、予め定めた閾値以上の画素値を有する画素に対応する単位領域を光量低減領域として特定し、
前記光源制御手段は、前記光量低減領域に照射する前記照射時間を、他の単位領域に照射する前記照射時間より短くすること
を特徴とする距離画像生成装置。
【請求項7】
撮影空間に変調光を照射する光源と、前記光源から照射され前記撮影空間内の対象物で反射した反射光を受光して電荷に変換する複数の光電変換素子、前記光電変換素子ごとに設けられた複数の電荷蓄積部、及び、前記光源の変調に同期して、前記光電変換素子により変換された電荷を前記複数の電荷蓄積部に振り分ける振分手段と、を備える受光手段と、を備える距離画像生成装置における距離画像生成方法であって、
所定の時間毎に、前記複数の電荷蓄積部に蓄積された電荷から画素値が距離値である前記撮影空間の距離画像を生成する距離画像生成ステップと、
画素値が照射光強度である前記撮影空間の照射光強度画像を生成する照射光強度画像生成ステップと、
前記照射光強度画像が生成される毎に、当該照射強度画像の各画素に、予め定めた閾値以上の画素値を有する画素があるか否かを判別する判別ステップと、
前記判別ステップで、有りと判別された場合、前記対象空間を複数の照射領域に分割して照射するよう前記光源の発光を制御する発光制御ステップと、を備えること
を特徴とする距離画像生成方法。
【請求項1】
撮影空間に変調光を照射する光源と、前記光源から照射され前記撮影空間内の対象物で反射した反射光を受光して電荷に変換する複数の光電変換素子、前記光電変換素子ごとに設けられた複数の電荷蓄積部、及び、前記光源の変調に同期して、前記光電変換素子により変換された電荷を前記複数の電荷蓄積部に振り分ける振分手段と、を備える受光手段と、所定の時間毎に、前記複数の電荷蓄積部に蓄積された電荷から画素値が距離値である前記撮影空間の距離画像を生成する距離画像生成手段と、画素値が照射光強度である当該撮影空間の照射光強度画像を生成する照射光強度画像生成手段と、を備える距離画像生成装置であって、
前記照射光強度画像に、予め定めた閾値以上の画素値を有する画素があるか否かを判別する判別手段と、
前記光源の照射を制御する光源制御手段と、を備え、
前記光源制御手段は、前記判別手段が有りと判別した場合、前記撮影空間を複数の単位照射領域に分割して前記変調光を照射するよう前記光源の照射を制御すること
を特徴とする距離画像生成装置。
【請求項2】
請求項1記載の距離画像生成装置であって、
前記光源制御手段は、前記各単位照射領域を、予め定めた照射時間毎に順に照射するよう前記光源の照射を制御すること
を特徴とする距離画像生成装置。
【請求項3】
請求項2記載の距離画像生成装置であって、
複数の距離画像を合成する合成手段をさらに備え、
前記距離画像生成手段は、前記光源が前記単位照射領域を前記所定の時間照射する毎に距離画像を生成し、
前記合成手段は、全撮影空間分の前記単位照射領域を照射することにより得た距離画像を合成すること
を特徴とする距離画像生成装置。
【請求項4】
請求項1記載の距離画像生成装置であって、
前記判別手段は、予め定めた閾値以上の画素値を有する画素に対応する単位領域を光量低減領域として特定し、
前記光源制御手段は、前記各単位照射領域に同時に変調光を照射し、かつ、前記単位照射領域に照射する前記変調光の強度を、他の単位領域に照射する強度より小さくするよう前記光源の照射を制御すること
を特徴とする距離画像生成装置。
【請求項5】
請求項1から3いずれか1項記載の距離画像生成装置であって、
前記判別手段は、予め定めた閾値以上の画素値を有する画素に対応する単位領域を光量低減領域として特定し、
前記光源制御手段は、前記光量低減領域に照射する前記変調光の光量を、他の単位領域に照射する光量より小さくすること
を特徴とする距離画像生成装置。
【請求項6】
請求項2または3記載の距離画像生成装置であって、
前記判別手段は、予め定めた閾値以上の画素値を有する画素に対応する単位領域を光量低減領域として特定し、
前記光源制御手段は、前記光量低減領域に照射する前記照射時間を、他の単位領域に照射する前記照射時間より短くすること
を特徴とする距離画像生成装置。
【請求項7】
撮影空間に変調光を照射する光源と、前記光源から照射され前記撮影空間内の対象物で反射した反射光を受光して電荷に変換する複数の光電変換素子、前記光電変換素子ごとに設けられた複数の電荷蓄積部、及び、前記光源の変調に同期して、前記光電変換素子により変換された電荷を前記複数の電荷蓄積部に振り分ける振分手段と、を備える受光手段と、を備える距離画像生成装置における距離画像生成方法であって、
所定の時間毎に、前記複数の電荷蓄積部に蓄積された電荷から画素値が距離値である前記撮影空間の距離画像を生成する距離画像生成ステップと、
画素値が照射光強度である前記撮影空間の照射光強度画像を生成する照射光強度画像生成ステップと、
前記照射光強度画像が生成される毎に、当該照射強度画像の各画素に、予め定めた閾値以上の画素値を有する画素があるか否かを判別する判別ステップと、
前記判別ステップで、有りと判別された場合、前記対象空間を複数の照射領域に分割して照射するよう前記光源の発光を制御する発光制御ステップと、を備えること
を特徴とする距離画像生成方法。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【公開番号】特開2012−168049(P2012−168049A)
【公開日】平成24年9月6日(2012.9.6)
【国際特許分類】
【出願番号】特願2011−30037(P2011−30037)
【出願日】平成23年2月15日(2011.2.15)
【出願人】(000002303)スタンレー電気株式会社 (2,684)
【Fターム(参考)】
【公開日】平成24年9月6日(2012.9.6)
【国際特許分類】
【出願日】平成23年2月15日(2011.2.15)
【出願人】(000002303)スタンレー電気株式会社 (2,684)
【Fターム(参考)】
[ Back to top ]