距離推定装置、距離推定方法、プログラム、集積回路およびカメラ
【課題】対象空間に存在する対象物までの距離画像をTOF方式で推定する際、距離画像の高解像度化や高フレームレート化を実現しようとすると、ショットノイズや環境光等の影響でCCD飽和が発生し、距離精度の低下を招く恐れがある。
【解決手段】所定の発光周波数(光(電磁波)の周波数)を持つ光を照射できる光源から距離推定用照明光を対象物に対して照射し、距離推定用照射光の反射光を受光し、距離推定装置から対象物までの距離情報を取得し、取得した距離情報に基づいて距離画像データを生成し、距離推定用照射光の反射光と同期して得られる可視光成分より得られたカラー画像の輪郭情報を抽出し、抽出した輪郭情報に基づいて、距離画像上の対応部分において周囲の距離情報より、距離画像上の対応部分の距離情報を補正することによって距離推定を行う。
【解決手段】所定の発光周波数(光(電磁波)の周波数)を持つ光を照射できる光源から距離推定用照明光を対象物に対して照射し、距離推定用照射光の反射光を受光し、距離推定装置から対象物までの距離情報を取得し、取得した距離情報に基づいて距離画像データを生成し、距離推定用照射光の反射光と同期して得られる可視光成分より得られたカラー画像の輪郭情報を抽出し、抽出した輪郭情報に基づいて、距離画像上の対応部分において周囲の距離情報より、距離画像上の対応部分の距離情報を補正することによって距離推定を行う。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、ムービーあるいはDSC(Digital Still Camera)等の撮像装置で撮影された画像の奥行き感・立体感を向上させるために、対象空間を撮像し、対象空間に存在する対象物までの距離を推定する装置および方法に関するものである。
【背景技術】
【0002】
空間の3次元計測技術は、多くの分野において応用が期待されており、種々の手法を用いて実用化が試みられている。その手法の中で代表的な手法として、レーザスリット光のスキャンによる光切断方法や、ステレオ視による方法に代表される三角測量法や、あるいは、照明光を測定対象物体に照射し、照射した光が測定対象物体から戻ってくるまでの時間TOF(Time Of Flight)を計測することによって距離を測定するTOF法等がある。
三角測量法を用いて空間の3次元計測を行う場合、対象空間(撮像する対象である3次元空間)の3次元情報を得るために対象空間において光を走査する必要があり、対象空間全体について3次元情報が得られるまでには比較的長い時間が必要となる。このため、三角測量法は、移動物体を追跡するような用途には不向きであるとされている。
【0003】
これに対して、TOF法を用いて空間の3次元計測を行う場合、三角測定法のようなレーザービーム走査を行う必要がない。このため、TOF法による空間の3次元計測では、テレビ画像(撮像画像)の画素単位で被写体までの距離(撮像装置から被写体までの距離)を高速に検出でき、また、距離測定範囲も比較的広く設定することができる(距離測定範囲を約3m以上に設定することができる)。さらに、TOF法による空間の3次元計測では、レーザ光源の代わりに、LED光源を使用できるため、人物も安全に撮影することができる。このような利点より、TOF法による3次元計測技術について、種々の方法が報告されるとともに、距離センサとして製品化された例も報告されている。
TOF法は、(数式1)を用いて3次元空間内の距離を測定する。測定基準ポイント−被測定ポイント間の距離Lは、次式を用いて求められる。
【0004】
【数1】
【0005】
ここで、cは光の速度であり、c=3.0×10^8[m/sec]である。Δtは、測定基準ポイントに存在する光源から照射された光が、被測定ポイントにある測定対象に照射され、測定対象からの反射光が測定基準ポイントである光源まで戻ってくるまでの時間である。すなわち、Δtは、光源から測定対象までの、光の往復時間である。
TOF法の方法として多くの方式があり、代表的なものとして、位相TOF方式とパルスTOF方式とがある。
位相TOF方式は、主に強度変調された光線を、測定対象に照射して、対象物からの反射光を検出して光電子変換を行い、変換された光電子を複数の蓄積部のいずれかに時間的にずらして蓄積し、これらの蓄積部に蓄積された光電子数に応じて距離情報を生成する方式である。
【0006】
パルスTOF方式は、パルス状の光線を測定対象物に照射して、測定対象物からの反射光と測定光線との位相差に基づいて距離を求める方式であり、測定光線を2次元的に走査し、各点の距離を測定して3次元の形状を測定する方式である。
位相TOF方式では、(数式1)におけるΔtの代わりに、位相量Δφを用いて距離の測定を行う。位相TOF方式では、最大検出距離Lmaxは、位相量Δφが2πとなる場合(ΔtでいえばT:変調強度の1周期時間)に相当し、次式を用いて求められる。つまり、最大検出距離Lmaxは、測定光線の変調周波数fに依存し、次式によって決定される。
【0007】
【数2】
【0008】
そして、位相量Δφにおける検出距離Lは、(数式3)のようになる。
【0009】
【数3】
【0010】
この場合、(数式2)により、測定対象物までの距離が、測定光線の強度変調の周期に対応する波長以上の場合には、原理的に距離算出結果を一意に決定できない(すなわち、測定対象物までの距離を特定することができない)という問題がある。
一方、パルスTOF方式では、測定光線を2次元で走査して距離画像を得るためには、光源から発光されるレーザ光等の測定光線を揺動ミラーあるいはポリゴンミラーを用いて上下左右に物理的に走査する必要があるため、距離画像の取得時間が長くなるという問題がある。
現状では、位相TOF方式に類する方式を用いて空間の3次元計測を実行する技術が多く存在する(例えば、特許文献1、2参照)。以下、位相TOF方式を利用した従来の距離推定装置(従来例1および従来例2)について説明する。
【0011】
≪従来例1≫
まず、従来例1(特許文献1の技術)について、説明する。
図18は、従来例1の距離推定装置900の構成を示すブロック図である。距離推定装置900は、振幅変調された照明光S906で被写体OBJ1を照明することが可能な投光部902と、撮像利得を時間とともに変化させて被写体からの反射光S907を受光し、被写体の光学像を撮像することが可能な撮像部903と、を備える。また、距離推定装置900は、撮像部903からの映像信号S904を立体情報信号S905に変換するための信号処理部904と、照明光変調信号S901、撮像利得変調信号S902、制御信号S903aおよびS903bを発生するための信号発生部901と、を備える。
図19は、従来例1の距離推定装置900での距離検出処理の概要を模式的に示した図である。
【0012】
図19に示すように、距離推定装置900では、高速に光強度が変調された赤外光を被写体に照射し、被写体からの反射光を超高速シャッターで撮影する。
図19の上側部分(図19のEx901)に模式的に示すように、距離推定装置900は、時間が経過するにつれ光強度が減少するように変調された照明光(測定光線)(例えば、図19においてtr1で示す期間において光強度変調された照明光)を被写体O1およびO2に対して照射する。そして、距離推定装置900は、被写体O1およびO2からの反射光を、距離推定装置900において、所定のシャッタータイミングおよびシャッター時間(図19にts1として示したシャッター時間)において取得し、撮像画像に変換する。被写体O1およびO2からの反射光は、光強度が時間に対して減少するように変調されているので、距離推定装置(カメラ)900に近い被写体O1からの反射光の光強度は大きく、距離推定装置900から遠い被写体O2からの反射光の光強度は小さい。照明光は、光強度が時間に対して減少するように変調されているので、光の飛行時間(距離推定装置900から照射された光が被写体O1で反射し、距離推定装置900に戻ってくるまでの時間)が短い被写体O1からの反射光の光強度は大きく(光強度の減少量が小さく)、光の飛行時間が長い被写体O2からの反射光の光強度は小さい(光強度の減少量が大きい)。
【0013】
このため、被写体O1およびO2からの反射光を、距離推定装置900において、所定のシャッタータイミングおよびシャッター時間(図19にts1で示したシャッター時間)において取得し、撮像画像Aにおいて、照明光の飛行時間が短い被写体O1の像I1は明るく、被写体O2の像I2は暗くなる。つまり、撮像画像Aにおいて、距離情報が画像の輝度として表現される。
しかし、この撮像画像Aの輝度は、被写体の反射率あるいは照射光量の空間的ムラ、また拡散反射光量の距離による減衰効果などの影響を受けている。
そこで、距離推定装置900では、これらの影響を補正するために、以下の処理を行う。
図19の下側部分(図19のEx902)に模式的に示すように、距離推定装置900は、時間が経過するにつれ光強度が増加するように変調された照明光(測定光線)(例えば、図19においてtr2で示す期間において光強度変調された照明光)を被写体O1およびO2に対して照射する。そして、距離推定装置900は、被写体O1およびO2からの反射光を、距離推定装置900において、所定のシャッタータイミングおよびシャッター時間(図19にts2で示したシャッター時間)において取得し、撮像画像に変換する。被写体O1およびO2からの反射光は、光強度が時間に対して増加するように変調されているので、距離推定装置(カメラ)900に近い被写体O1からの反射光の光強度は小さく、距離推定装置900から遠い被写体O2からの反射光の光強度は大きい。
【0014】
このため、被写体O1およびO2からの反射光を、距離推定装置900において、所定のシャッタータイミングおよびシャッター時間(図19にts2で示したシャッター時間)において取得し、撮像画像Bにおいて、照明光の飛行時間が短い被写体O1の像I1は暗く、被写体O2の像I2は明るくなる。つまり、撮像画像Bにおいて、距離情報が画像の輝度として表現される。
距離推定装置900では、上記のようにして取得した撮像画像Aと撮像画像Bとの間の輝度比をとることによって、反射率等の影響を補正した距離画像(図19の距離画像C)を生成する。
距離推定装置900では、このように、撮影された2枚の画像の除算によりTOFを求めることができるため、理論的には、赤外光の拡散、被写体の反射率、反射方向の向きあるいは背景光の影響をキャンセルすることができる。しかし、距離推定装置900では、被写体からの反射光の光強度をある程度確保する必要があるため、複数の発光ダイオードからなる発光ダイオードアレイによる光源等を用いる必要があり、装置の構成が大きくなるという欠点がある。
【0015】
≪従来例2≫
次に、従来例2(特許文献2の技術)について、説明する。
図20は、従来例2の距離推定装置950の構成を示すブロック図である。距離推定装置950は、対象空間に照明光S9511を照射する発光源951と、対象空間からの光を受光し受光光量を反映した出力値の電気信号を出力する光検出素子952と、発光源951および光検出素子952を制御する制御回路部953と、光検出素子952からの出力に対して画像生成処理を行う画像生成部954と、を備える。また、距離推定装置950は、受光光学系955を備える。光検出素子952は、図20に示すように、複数の感光部9521、複数の感度制御部9522、複数の電荷集積部9523および電荷取出部9524を有している。
【0016】
発光源951は、対象空間に所定周期の変調信号で変調された光を照射し、光検出素子952は、対象空間を撮像する。画像生成部954は、発光源951から対象空間に照射された光と、対象空間内の対象物OBJ2で反射され光検出素子952で受光される反射光との変調信号の位相差に基づいて対象物OBJ2までの距離を求める。
光検出素子952に設けた各感光部9521は、制御回路部953によって対象空間からの光を受光する受光期間が制御される。各感光部9521では、変調信号の異なる位相に同期した受光期間に受光する。光検出素子952からは変調信号の1周期以上の期間である検出期間ごとに集積した電荷が画像生成部954に与えられ、画像生成部954は、複数の検出期間の電荷量を受光期間別に積算した電荷量を用いて距離を求める。
図21は、従来例2の距離推定装置950の距離検出方法を模式的に示すものである。
【0017】
従来例2の距離推定装置950では、正弦波y(t)=a×sin(2πt/T)+bに光強度変調された赤外光(照明波)の変調周期に同期させて、所定のタイミングで受光信号(反射波)をサンプリングすることにより、受光信号の位相量を導出するものである。つまり、従来例2の距離推定装置950では、変調周期1周期あたり4点(例えば、図21のA0点,A1点,A2点,A3点の4点)のサンプリングを行い、(数式4)を用いて、位相シフト量Ψを導出する。
【0018】
【数4】
【0019】
従来例2の距離推定装置950では、上記の位相シフト量Ψの導出処理を、受光部と復調部を一体化した特殊CCD撮像素子を用い、その駆動方法を工夫することにより、高い開口率による距離検出処理を実現している。従来例2の距離推定装置950は、小型で高分解能であるが、撮像画像(映像)が低解像度・低フレームレートであるという欠点を持つ。
【先行技術文献】
【特許文献】
【0020】
【特許文献1】特開2000−121339号公報
【特許文献2】特開2006−84429号公報
【発明の概要】
【発明が解決しようとする課題】
【0021】
TOF方式を用いて距離画像の高精度化を実現する場合、距離推定装置において、光検出素子を増やすことによって、距離推定装置において取得される距離画像の高解像度化等を実現することが考えられる。しかし、この場合、光検出素子を構成する1つ1つの感光部に入射する光(反射光)の量が少なくなるので(撮像素子(CCD等)の各画素への入射光量が少なくなるので)、光検出素子を構成する各感光部において取得される信号の信号レベルが小さくなる。
また、光電効果に対応した電荷量に含まれるランダムノイズ(ショットノイズ)Ss(光電変換により発生するショットノイズSs)は、電荷量Nsの1/2乗に比例することから、撮像素子(CCD等)の各画素への入射光量が少なくなると、撮像素子の各画素において取得される電荷量に含まれるノイズ(ショットノイズ)の比率が高くなる。つまり、撮像素子(CCD等)の各画素への入射光量が少なくなると、撮像素子の各画素において取得される信号のS/N比は低下することとなる。その結果、距離精度の低下が生じることとなる。
【0022】
これに対して、以下の対応策が考えられる。
(1)LED(照明光の発光源)の発光量を大きくする。
(2)電荷の検出期間(1周期以上)を長くして、撮像素子の各画素において確保される光電荷量を増やす。
これらの対応策を行った場合、撮像素子の各画素の蓄積電荷量は大きくなる。この場合、ショットノイズも上記で説明した原理に基づき増えるが、電荷量Ns(被写体からの反射光を光電変換して取得される電荷量(信号成分の電荷量))とショットノイズSsとの比率SN=Ns/Ssは、電荷量Nsが大きいほど大きくなる。
撮像素子の各画素に蓄積される電荷量において、環境光等は、撮像素子において光電変換されることにより、電荷量に依存しない定常ノイズとなる。したがって、電荷量のS/N比は、電荷量Ns(信号成分の電荷量)と、電荷量Nsの1/2乗に比例するショットノイズSsと、環境光等に対応する定常ノイズと、により決定される。このため、電荷量Nsが大きくなるほど、電荷量のS/N比が良くなり、撮像素子において取得される信号のS/Nも良くなる。その結果、距離推定装置における距離測定の距離分解能が向上する。
【0023】
しかし、環境光等の定常ノイズは、反射光の電荷量(電荷量Ns)よりもずっと大きい値になるため、距離推定装置の光源の発光量を大きくした場合、撮像素子(CCD等)の各画素において、飽和が発生しやすくなる。また、実用上の制約(規模・電力等)の問題が発生する。
さらに、撮像素子(CCD等)の各画素での電荷蓄積期間を延ばした場合、定常ノイズ成分が大きくなる。このため、各画素において電荷蓄積された電荷量のS/N比は低くなり、多量のノイズ成分の中に微小量の信号成分(電荷量Nsに相当)が存在することとなる。
また、光検出素子を構成する撮像素子の各画素(感光部)において、電荷蓄積に対するキャパシティには限界があるため、飽和が発生する可能性が高くなる。光検出素子において飽和現象が発生すると、感光部の受光光量は、光強度変調した光との相関性がなくなるので、当該感光部に対応する画素から取得される信号に基づいて距離を正確に求めることができなくなる。
【0024】
本発明は、上記問題点に鑑み、画素数の少ない撮像素子(CCD等)を用いて取得した距離情報に基づいて、撮像素子(CCD等)の画素間での距離情報を補間・推定することによって、TOF方式による距離画像の高解像度化を実現する距離推定装置、距離推定方法、プログラムおよび集積回路を実現することを目的とする。また、反射光の振幅もしくは距離画像データ自体の値をもとに、精度の不足した画素での距離情報を補正することによって、距離画像データの精度改善を行うことができる距離推定装置、距離推定方法、プログラムおよび集積回路を実現することを目的とする。
【課題を解決するための手段】
【0025】
第1の発明は、光強度変調された光を対象物に照射し、対象物からの反射光を用いて対象物までの距離を推定する距離推定装置であって、光源と、発光源制御部と、受光光学系と、色分解部と、受光素子部と、電荷集積部と、信号演算部と、距離画像生成部と、撮像素子部と、高解像度画像生成部と、輪郭情報抽出部と、距離画像補正部と、を備える。
光源は、光強度変調可能な光を照射する。発光源制御部は、光源を制御する。受光光学系は、対象物からの光を集光する。色分解部は、受光光学系で受光した光を、周波数に基づき、第1光成分の光と、第2光成分の光とに分離する。受光素子部は、色分解部により分離された第2光成分の光を電荷に変換する。電荷集積部は、受光素子部で取得された電荷を集積し、電荷信号を取得する。信号演算部は、電荷信号に基づいて、距離情報を算出する。距離画像生成部は、距離情報に基づいて、第1の画素数を持つ距離画像を生成する。撮像素子部は、色分解部により分離された第2光成分の光を画像生成用電荷信号に変換する。高解像度画像生成部は、撮像素子部により変換された画像生成用電荷信号に基づいて第1の画素数より多い画素数の高解像度画像を生成する。輪郭情報抽出部は、高解像度生成部により生成された高解像度画像から輪郭情報を抽出する。距離画像補正部は、距離画像の注目画素の距離情報を、距離画像において注目画素の周辺に存在する画素である周辺画素および輪郭情報抽出部により抽出された輪郭情報に基づいて、補正する。
【0026】
この距離推定装置では、受光素子部により取得された画素数の少ない距離画像の距離情報において、画素数の多い高解像画像の輪郭情報を用いて、距離画像の画素間での距離情報を補間・推定することで、高精度の距離画像を取得することができる。これにより、受光素子部で用いられる撮像素子(CCD等)の画素数を増やすことなく、距離推定精度を高めることができる。
なお、「注目画素」とは、距離推定装置において、処理対象となっている画素のことをいう。
第2の発明は、第1の発明であって、距離画像補正部は、距離画像の注目画素に相当する高解像度画像の画像領域内に輪郭情報がある場合、距離画像中の輪郭情報がある位置情報Pos(x,y)を特定し、位置情報Pos(x,y)と周辺画素との位置関係に基づき周辺画素の距離情報に重み付けを行い、さらに、重み付けをした周辺画素の距離情報を用いて、位置情報Pos(x,y)の距離情報を算出し、算出した位置情報Pos(x,y)の距離情報を、注目画素の距離情報に置換することによって、距離画像の注目画素の距離情報を補正する。
【0027】
この距離推定装置では、距離画像の注目画素内に高解像度画像から抽出した輪郭情報がある場合、当該注目画素の距離情報は、精度が低い可能性があるので、注目画素の周囲の画素の距離情報に基づいて補間した距離情報(補間距離情報)を求め、当該注目画素の距離情報として採用する。
したがって、この距離推定装置では、受光素子部の撮像素子(距離推定用の撮像素子)の画素数を増やすことなく、高精度の距離画像(距離情報)を取得することができる。
第3の発明は、第1の発明であって、距離画像補正部は、距離画像の注目画素に相当する高解像度画像の画像領域内に輪郭情報がある場合、距離画像中の輪郭情報に基づいて、注目画素を分割し、分割した画素に対して、それぞれ、距離画像上の位置が近い注目画素の周辺画素の距離情報を用いて、注目画素を分割した画素の距離情報を算出することによって、距離画像の注目画素の距離情報を補正する。
【0028】
この距離推定装置では、輪郭情報がある注目画素において、輪郭情報に基づいて、画素分割を行い、分割した画素の距離情報を、それぞれ、相関性の高い隣接画素の距離情報に基づいて補間した値とするので、この距離推定装置により取得される距離情報(距離画像)の精度を向上させることができる。
第4の発明は、光強度変調された光を対象物に照射し、対象物からの反射光を用いて対象物までの距離を推定する距離推定装置であって、光源と、発光源制御部と、受光光学系と、色分解部と、受光素子部と、電荷集積部と、信号演算部と、距離画像生成部と、距離画像記憶部と、撮像素子部と、高解像度画像生成部と、高解像度画像記憶部と、ベクトル検出部と、距離画像補正部と、を備える。
光源は、光強度変調可能な光を照射する。発光源制御部は、光源を制御する。受光光学系は、対象物からの光を集光する。色分解部は、受光光学系で受光した光を、周波数に基づき、第1光成分の光と、第2光成分の光とに分離する。受光素子部は、色分解部により分離された第2光成分の光を電荷に変換する。電荷集積部は、受光素子部で取得された電荷を集積し、電荷信号を取得する。信号演算部は、電荷信号に基づいて、距離情報を算出する。距離画像生成部は、距離情報に基づいて、第1の画素数を持つ距離画像を生成する。距離画像記憶部は、距離画像を記憶する。撮像素子部は、色分解部により分離された第2光成分の光を画像生成用電荷信号に変換する。高解像度画像生成部は、撮像素子部により変換された画像生成用電荷信号に基づいて第1の画素数より多い画素数の高解像度画像を生成する。高解像度画像記憶部は、高解像度画像を記憶する。動きベクトル検出部は、高解像度画像生成部により、所定の単位時刻tに取得された高解像度画像Img_color(t)と、高解像度画像記憶部に記憶されている所定の単位時刻tより前の時刻(t−α)に取得された高解像度画像Img_color(t−α)と、を比較することにより動きベクトルを検出する。距離画像補正部は、距離画像生成部により、所定の単位時刻tに取得された距離画像Img_distance(t)と、距離画像記憶部に記憶されている所定の単位時刻tより前の時刻(t−α)に取得された距離画像Img_distance(t−α)と、動きベクトル検出部により検出された動きベクトルに基づいて、距離画像の注目画素の距離情報を補正する。
【0029】
この距離推定装置では、高解像度画像に基づいて求めた動きベクトルに基づいて、現時刻の距離画像を補正することができるので、受光素子部2の撮像素子(距離推定用の撮像素子)の画素数を増やすことなく、距離画像の高精度化を実現することができる。
なお、「所定の単位時刻」とは、例えば、フレーム単位で動きベクトルの検出処理を行う場合、1フレームに相当する時間のことをいう。また、フレーム単位で動きベクトルの検出処理を行う場合、「Img_color(t)」は、時刻tでのフレーム画像を意味し、「Img_color(t−α)」は、時刻tからαフレーム時間前のフレーム画像を意味する(距離画像についても同様)。
第5の発明は、光強度変調された光を対象物に照射し、対象物からの反射光を用いて対象物までの距離を推定する距離推定装置であって、光源と、発光源制御部と、受光光学系と、受光素子部と、電荷集積部と、信号演算部と、距離画像生成部と、距離信頼度算出部と、距離画像補正部と、を備える。
【0030】
光源は、光強度変調可能な光を照射する。発光源制御部は、光源を制御する。受光光学系は、対象物からの光を集光する。受光素子部は、受光光学系により受光した光を電荷に変換する。電荷集積部は、受光素子部で取得された電荷を集積し、電荷信号を取得する。信号演算部は、電荷信号に基づいて、距離情報を算出する。距離画像生成部は、距離情報に基づいて、距離画像を生成する。距離信頼度算出部は、少なくとも距離情報および電荷信号のいずれか一方に基づいて、距離画像の各画素の信頼度を算出する。距離画像補正部は、距離信頼度算出部により算出された信頼度に基づいて、距離画像の各画素の距離情報を補正する。
この距離推定装置では、距離画像の各画素の距離情報あるいは反射光の強度に応じて、距離画像の当該画素における距離情報(距離画像データの値)の確からしさを表す信頼度を算出し、算出した信頼度をもとに距離画像データを補正することによって、最適距離画像を取得することができる。したがって、この距離推定装置では、受光素子部の撮像素子の画素において取得された反射光のレベル(反射波の振幅)が小さい場合であっても、その受光素子部の撮像素子の画素に相当する距離画像の画素において、距離情報を信頼度に基づいて補正することができるので、距離画像における距離推定精度の低下を効果的に抑制することができる。
【0031】
第6の発明は、第5の発明であって、信頼度算出部は、注目画素の距離情報が大きい値であるほど、信頼度の値が小さくなるように、信頼度を算出する。
第7の発明は、第5または第6の発明であって、信頼度算出部は、注目画素に対応する電荷信号の振幅値が小さいほど、信頼度の値が小さくなるように、信頼度を算出する。
第8の発明は、光強度変調された光を対象物に照射し、対象物からの反射光を用いて対象物までの距離を推定する距離推定方法であり、光強度変調可能な光を照射する光源と、対象物からの光を集光する受光光学系と、受光光学系で受光した光を、周波数に基づき、第1光成分の光と、第2光成分の光とに分離する色分解部と、色分解部により分離された第2光成分の光を電荷に変換する受光素子部と、受光素子部において取得された電荷を集積し、電荷信号を取得する電荷集積部と、色分解部により分離された前記第2光成分の光を画像生成用電荷信号に変換する撮像素子部と、を備える、距離推定装置に用いられる距離推定方法である。そして、当該距離推定方法は、発光源制御ステップと、信号演算ステップと、距離画像生成ステップと、高解像度画像生成ステップと、輪郭情報抽出ステップと、距離画像補正ステップと、を備える。
【0032】
発光源制御ステップでは、光源を制御する。信号演算ステップでは、電荷信号に基づいて、距離情報を算出する。距離画像生成ステップでは、距離情報に基づいて、第1の画素数を持つ距離画像を生成する。高解像度画像生成ステップでは、撮像素子部により変換された画像生成用電荷信号に基づいて第1の画素数より多い画素数の高解像度画像を生成する。輪郭情報抽出ステップでは、高解像度画像生成ステップにより生成された高解像度画像から輪郭情報を抽出する。距離画像補正ステップでは、距離画像の注目画素の距離情報を、距離画像において注目画素の周辺に存在する画素である周辺画素および輪郭情報抽出ステップにより抽出された輪郭情報に基づいて、補正する。
これにより、第1の発明と同様の効果を奏する距離推定方法を実現することができる。
第9の発明は、光強度変調された光を対象物に照射し、対象物からの反射光を用いて対象物までの距離を推定する距離推定方法であり、光強度変調可能な光を照射する光源と、対象物からの光を集光する受光光学系と、受光光学系で受光した光を、周波数に基づき、第1光成分の光と、第2光成分の光とに分離する色分解部と、色分解部により分離された第2光成分の光を電荷に変換する受光素子部と、受光素子部で取得された電荷を集積し、電荷信号を取得する電荷集積部と、色分解部により分離された前記第2光成分の光を画像生成用電荷信号に変換する撮像素子部と、を備える距離推定装置に用いられる距離推定方法である。この距離推定方法は、発光源制御ステップと、信号演算ステップと、距離画像生成ステップと、距離画像記憶ステップと、高解像度画像生成ステップと、高解像度画像記憶ステップと、動きベクトル検出ステップと、距離画像補正ステップと、を備える。発光源制御ステップでは、光源を制御する。信号演算ステップでは、電荷信号に基づいて、距離情報を算出する。距離画像生成ステップでは、距離情報に基づいて、第1の画素数を持つ距離画像を生成する。距離画像記憶ステップでは、距離画像を記憶する。高解像度画像生成ステップでは、撮像素子部により変換された画像生成用電荷信号に基づいて第1の画素数より多い画素数の高解像度画像を生成する。高解像度画像記憶ステップでは、高解像度画像を記憶する。動きベクトル検出ステップでは、高解像度画像生成ステップにより、所定の単位時刻tに取得された高解像度画像Img_color(t)と、高解像度画像記憶ステップで記憶された所定の単位時刻tより前の時刻(t−α)に取得された高解像度画像Img_color(t−α)と、を比較することにより動きベクトルを検出する。距離画像補正ステップは、距離画像生成ステップにより、所定の単位時刻tに取得された距離画像Img_distance(t)と、距離画像記憶ステップで記憶された所定の単位時刻tより前の時刻(t−α)に取得された距離画像Img_distance(t−α)と、動きベクトル検出ステップにより検出された動きベクトルに基づいて、距離画像の注目画素の距離情報を補正する。
【0033】
これにより、第4の発明と同様の効果を奏する距離推定方法を実現することができる。
第10の発明は、光強度変調された光を対象物に照射し、対象物からの反射光を用いて対象物までの距離を推定する距離推定方法であり、光強度変調可能な光を照射する光源と、対象物からの光を集光する受光光学系と、受光光学系により受光した光を電荷に変換する受光素子部と、受光素子部で取得された電荷を集積し、電荷信号を取得する電荷集積部と、を備える距離推定装置に用いられる距離推定方法である。この距離推定装置方法は、発光源制御ステップと、信号演算ステップと、距離画像生成ステップと、距離信頼度算出ステップと、距離画像補正ステップと、を備える。
発光源制御ステップでは、光源を制御する。信号演算ステップでは、電荷信号に基づいて、距離情報を算出する。距離画像生成ステップでは、距離情報に基づいて、距離画像を生成する。距離信頼度算出ステップでは、少なくとも距離情報および電荷信号のいずれか一方に基づいて、距離画像の各画素の信頼度を算出する。距離画像補正ステップでは、距離信頼度算出ステップにより算出された信頼度に基づいて、距離画像の各画素の距離情報を補正する。
【0034】
これにより、第5の発明と同様の効果を奏する距離推定方法を実現することができる。
第11の発明は、第8の発明の距離推定方法を、コンピュータに実行させるプログラムである。
これにより、第1の発明と同様の効果を奏するプログラムを実現することができる。
第12の発明は、第9の発明の距離推定方法を、コンピュータに実行させるプログラムである。
これにより、第4の発明と同様の効果を奏するプログラムを実現することができる。
第13の発明は、第10の発明の距離推定方法を、コンピュータに実行させるプログラムである。
これにより、第5の発明と同様の効果を奏するプログラムを実現することができる。
【0035】
第14の発明は、光強度変調された光を対象物に照射し、対象物からの反射光を用いて対象物までの距離を推定する距離推定装置に用いられる集積回路であり、光強度変調可能な光を照射する光源と、対象物からの光を集光する受光光学系と、受光光学系で受光した光を、周波数に基づき、第1光成分の光と、第2光成分の光とに分離する色分解部と、色分解部により分離された第2光成分の光を電荷に変換する受光素子部と、受光素子部で取得された電荷を集積し、電荷信号を取得する電荷集積部と、色分解部により分離された前記第2光成分の光を画像生成用電荷信号に変換する撮像素子部と、を備える距離推定装置に用いられる集積回路である。この集積回路は、発光源制御部と、信号演算部と、距離画像生成部と、高解像度画像生成部と、輪郭情報抽出部と、距離画像補正部と、を備える。
発光源制御部は、光源を制御する。信号演算部は、電荷信号に基づいて、距離情報を算出する。距離画像生成部は、距離情報に基づいて、第1の画素数を持つ距離画像を生成する。高解像度画像生成部は、撮像素子部により変換された画像生成用電荷信号に基づいて第1の画素数より多い画素数の高解像度画像を生成する。輪郭情報抽出部は、高解像度生成部により生成された高解像度画像から輪郭情報を抽出する。距離画像補正部は、距離画像の注目画素の距離情報を、距離画像において注目画素の周辺に存在する画素である周辺画素および輪郭情報抽出部により抽出された輪郭情報に基づいて、補正する。
【0036】
これにより、第1の発明と同様の効果を奏する集積回路を実現することができる。
第15の発明は、光強度変調された光を対象物に照射し、対象物からの反射光を用いて対象物までの距離を推定する距離推定装置に用いられる集積回路であり、光強度変調可能な光を照射する光源と、対象物からの光を集光する受光光学系と、受光光学系で受光した光を、周波数に基づき、第1光成分の光と、第2光成分の光とに分離する色分解部と、色分解部により分離された第2光成分の光を電荷に変換する受光素子部と、受光素子部で取得された電荷を集積し、電荷信号を取得する電荷集積部と、色分解部により分離された前記第2光成分の光を画像生成用電荷信号に変換する撮像素子部と、を備える距離推定装置に用いられる集積回路である。この集積回路は、発光源制御部と、信号演算部と、距離画像生成部と、距離画像記憶部と、高解像度画像生成部と、高解像度画像記憶部と、ベクトル検出部と、距離画像補正部と、を備える。
【0037】
発光源制御部は、光源を制御する。信号演算部は、電荷信号に基づいて、距離情報を算出する。距離画像生成部は、距離情報に基づいて、第1の画素数を持つ距離画像を生成する。距離画像記憶部は、距離画像を記憶する。高解像度画像生成部は、撮像素子部により変換された画像生成用電荷信号に基づいて第1の画素数より多い画素数の高解像度画像を生成する。高解像度画像記憶部は、高解像度画像を記憶する。動きベクトル検出部は、高解像度画像生成部により、所定の単位時刻tに取得された高解像度画像Img_color(t)と、高解像度画像記憶部に記憶されている所定の単位時刻tより前の時刻(t−α)に取得された高解像度画像Img_color(t−α)と、を比較することにより動きベクトルを検出する。距離画像補正部は、距離画像生成部により、所定の単位時刻tに取得された距離画像Img_distance(t)と、距離画像記憶部に記憶されている所定の単位時刻tより前の時刻(t−α)に取得された距離画像Img_distance(t−α)と、動きベクトル検出部により検出された動きベクトルに基づいて、距離画像の注目画素の距離情報を補正する。
【0038】
これにより、第4の発明と同様の効果を奏する集積回路を実現することができる。
第16の発明は、光強度変調された光を対象物に照射し、対象物からの反射光を用いて対象物までの距離を推定する距離推定装置に用いられる集積回路であり、光強度変調可能な光を照射する光源と、対象物からの光を集光する受光光学系と、受光光学系により受光した光を電荷に変換する受光素子部と、受光素子部で取得された電荷を集積し、電荷信号を取得する電荷集積部と、を備える距離推定装置に用いられる集積回路である。この集積回路は、発光源制御部と、信号演算部と、距離画像生成部と、距離信頼度算出部と、距離画像補正部と、を備える。
発光源制御部は、光源を制御する。信号演算部は、電荷信号に基づいて、距離情報を算出する。距離画像生成部は、距離情報に基づいて、距離画像を生成する。距離信頼度算出部は、少なくとも距離情報および電荷信号にいずれか一方に基づいて、距離画像の各画素の信頼度を算出する。距離画像補正部は、距離信頼度算出部により算出された信頼度に基づいて、距離画像の各画素の距離情報を補正する。
【0039】
これにより、第5の発明と同様の効果を奏する集積回路を実現することができる。
第17の発明は、第1から第7のいずれかの発明である距離推定装置を含むカメラである。
これにより、第1〜第7の発明と同様の効果を奏する距離測定装置を搭載したカメラを実現することができる。
なお、「カメラ」とは、静止画を取得するスチルカメラや、動画像を取得する撮像装置(ムービー)や、静止画および動画の両方を撮像することできる撮像装置や、取得した撮像画像(映像)から3D表示用画像(映像)を生成する機能を備える撮像装置を含む概念である。
また、第17の発明のカメラにおいて、撮像画像は、カメラに含まれる距離測定装置の高解像度画像生成部により生成される高解像度画像を用いるものであってもよいし、距離測定装置とは別に、撮像素子をさらに追加し、追加した当該撮像素子から撮像画像を取得するものであってもよい。
【発明の効果】
【0040】
本発明によれば、画素数の少ない撮像素子(CCD等)を用いて取得した距離情報に基づいて、撮像素子(CCD等)の画素間での距離情報を補間・推定することによって、TOF方式による距離画像の高解像度化を実現する距離推定装置、距離推定方法、プログラムおよび集積回路を実現することができる。また、本発明によれば、反射光の振幅もしくは距離画像データ自体の値をもとに、精度の不足した画素での距離情報を補正することで、距離画像データの精度改善を行うことができる距離推定装置、距離推定方法、プログラムおよび集積回路を実現することができる。
【図面の簡単な説明】
【0041】
【図1】本発明における第1実施形態に係る距離推定装置の構成を示すブロック図。
【図2】本発明における第1実施形態に係る最適距離情報取得部の構成を示すブロック図。
【図3A】本発明における第1実施形態に係る距離推定方法における距離画像補間方法の概要を示す図。
【図3B】本発明における第1実施形態に係る距離推定方法における距離画像補間方法の概要を示す図。
【図4】本発明における第1実施形態に係る距離推定方法における処理フローチャートを示す図。
【図5A】本発明における第1実施形態に係る距離推定方法における第2の距離画像補間方法(第1変形例)の概要を示す図。
【図5B】本発明における第1実施形態に係る距離推定方法における第3の距離画像補間方法(第2変形例)の概要を示す図。
【図6】本発明における第2実施形態に係る距離推定装置の構成を示すブロック図。
【図7】本発明における第2実施形態に係る距離推定装置の動きベクトル検出部のブロック図。
【図8】本発明における第2実施形態に係る距離推定方法における動きベクトルを用いた距離画像補正方法の概要を示す図。
【図9】本発明における第2実施形態に係る距離推定方法の処理フローチャートを示す図。
【図10】本発明における第2実施形態に係る距離推定方法での動きベクトル検出の概要を示す図。
【図11】本発明における第3実施形態に係る距離推定装置の構成を示すブロック図。
【図12】本発明における第3実施形態に係る距離推定装置の距離信頼度算出部の構成を示すブロック図。
【図13】本発明における第3実施形態における距離信頼度算出方法の概要を示す図。
【図14】距離画像補正部32における補正処理の一例を説明するための図。
【図15A】本発明における第3実施形態における距離信頼度を決定する関数例を示す図。
【図15B】本発明における第3実施形態における距離信頼度を決定する関数例を示す図。
【図16A】本発明における第4実施形態における距離信頼度を決定する関数例2を示す図。
【図16B】本発明における第4実施形態における距離信頼度を決定する関数例2を示す図。
【図17】本発明における第4実施形態に係る距離推定方法の処理フローチャート図。
【図18】従来例1の距離推定装置の構成を示すブロック図。
【図19】従来例1の距離推定方法の概要を示す図。
【図20】従来例2の距離推定装置の構成を示すブロック図。
【図21】従来例2の距離推定方法の概要を示す図。
【発明を実施するための形態】
【0042】
以下、本発明の最良の形態としての第1〜第3実施形態について説明する。
第1実施形態では、所定の発光周波数(光(電磁波)の周波数)を持つ光を照射できる光源から距離推定用照明光を対象物に対して照射し、距離推定用照射光の反射光を受光し、距離推定装置から対象物までの距離情報を取得し、取得した距離情報に基づいて距離画像データを生成し、距離推定用照射光の反射光と同期して得られる可視光成分より得られたカラー画像の輪郭情報を抽出し、抽出した輪郭情報に基づいて、距離画像上の対応部分において周囲の距離情報より、距離画像上の対応部分の距離情報を補正することによって距離推定を行う装置および方法について説明する。
第2実施形態では、所定の発光周波数を持つ光を照射できる光源から距離推定用照明光を対象物に対して照射し、距離推定用照射光の反射光を受光し、距離推定装置から対象物までの距離情報を取得し、取得した距離情報に基づいて距離画像データを生成し、距離推定用照射光の反射光と同期して得られる可視光成分より得られたカラー画像の動きベクトル検出を行い、検出した動きベクトル情報と、当該動きベクトルに対応する距離画像上の部分の1単位時刻前の距離情報より、当該部分の対象時刻の距離情報を補正することによって距離推定を行う装置および方法について説明する。
【0043】
第3実施形態では、所定の発光周波数を持つ光を照射できる光源から距離推定用照明光を対象物に対して照射し、距離推定用照射光の反射光を受光し、距離推定装置から対象物までの距離情報を取得し、取得した距離情報に基づいて距離画像データを生成し、距離画像データの値あるいは反射光の強度に応じて、距離画像データの値の確からしさを表す信頼度を算出し、算出した信頼度をもとに距離画像データを補正することによって距離推定を行う装置および方法について説明する。
[第1実施形態]
図1から図5Bを用いて、本発明の第1実施形態について、説明する。
図1は、本発明の第1実施形態に係る距離推定装置100の概略構成図である。
また、図2は、本発明の第1実施形態に係る距離推定装置100内の最適距離情報取得部7の概略構成図である。
【0044】
図3は、第1実施形態に係る距離推定方法における画像補間方法の概要を模式的に示した図である。
図4は、第1実施形態に係る距離推定方法の処理フローチャートを示す図である。
また、図5Aと図5Bは、第1実施形態に係る距離推定方法における第2の画像補間方法の概要(第1変形例および第2変形例)を模式的に示した図である。
本発明の距離推定装置は、ムービーあるいはDSC(Digital Still Camera)等の撮像装置によって撮影された画像の奥行き感・立体感を向上させるために、対象空間を撮像し、撮像装置から対象空間に存在する対象物までの距離を推定する方法・装置に関するものであり、例えば、デジタルスチルカメラあるいはデジタルビデオカメラのような撮影機器、あるいは、モバイル環境下において使用する携帯電話あるいはカーモバイル機器・PDA等へ搭載される。また、本発明の距離推定方法は、上記した機器等において実行される。
【0045】
<1.1:距離推定装置の構成>
図1に示すように、距離推定装置100は、光強度変調可能な発光源10と、発光源10の発光制御を行う発光源制御部9と、被写体(対象物)からの光を集光する受光光学系1と、受光光学系1で受光した光を可視光成分の光と赤外光成分(距離測定用の光成分)の光に分離する色分解プリズム11と、色分解プリズム11で分離された赤外光成分の光を光電変換する素子(撮像素子)を有する受光素子部2と、受光素子部2で変換された電荷を集積し、電荷信号として出力する電荷集積部3と、画像生成部6で生成された距離画像を記憶・保持する距離画像保持メモリ部8と、を備える。また、距離推定装置100は、色分解プリズム11で分離された可視光成分の光を光電変換し画像用電荷信号を取得する撮像素子部12と、撮像素子部12により取得された画像用電荷信号に基づいて画像を生成するカラー画像生成部13と、カラー画像生成部13により生成された画像から輪郭情報を抽出する輪郭情報抽出部14と、を備える。また、距離推定装置100は、輪郭情報抽出部14により抽出された輪郭情報に基づいて、距離画像保持メモリ部8に記憶・保持されている距離情報から最適距離情報を取得する最適距離情報取得部7と、最適距離情報取得部7により取得された最適距離情報に基づき、最適距離画像を生成する最適距離画像生成部15と、を備える。
【0046】
発光源10は、発光源制御部9により発光制御される発光源である。発光源10から発光される照明光S1は、発光源制御部9の発光制御により、光強度変調された光とすることができる。なお、発光源10は、距離測定用の光を発光する光源であり、発光源10から発光される距離測定用光は、赤外光(なお、「X^Y」は、「XのY乗」を表している。以下同様。)であることが好ましい。したがって、発光源10として、赤外光領域の周波数(例えば、1×10^6[MHz]〜1×10^9[MHz])(なお、「X^Y」は、「XのY乗」を表している。以下同様。)の電磁波(赤外光)を発光する光源を用いることが好ましい。また、赤外光領域の周波数を用いる場合、発光源として、赤外領域の周波数の光を発光するLED光源を用いることが好ましい。
以下では、発光源10から発光される距離測定用光が赤外光であるものとして、説明する。
【0047】
発光源制御部9は、発光源10の発光制御を行う。また、発光源制御部9は、制御部4から出力される光強度変調制御信号に基づいて、発光源10から発光される照明光S1の光強度変調を行う。
受光光学系1は、撮像対象空間からの光を集光する光学系であり、光学レンズ、光学フィルタ等から構成される。
色分解プリズム11は、光(電磁波)の周波数に基づき、その光路を分離する(その光成分を分離する)光学プリズムであり、距離推定装置100では、受光光学系1で集光された反射光S2を、距離推定用赤外光成分とカラー画像用可視光成分とに分離する。そして、色分解プリズム11で分離された距離推定用赤外光成分の光(電磁波)は、受光素子部2に入射される。また、色分解プリズム11で分離されたカラー画像用可視光成分の光(電磁波)は、撮像素子部12に入射される。
【0048】
受光素子部2は、複数の画素からなる撮像素子を有しており、各画素は、フォトダイオード等の光電変換素子を含んでいる。受光素子部2では、各画素において、光電変換された受光光量に応じた電荷が取得される。受光素子部2において取得された電荷は、電荷集積部3に出力される。なお、発光源10から発光させる光が赤外光である場合、受光素子部2の撮像素子は、赤外光用CCDを用いることが好ましい。また、受光素子部2の撮像素子の前段に、赤外領域外の電磁波を遮断するために、赤外光用のフィルタ(光学フィルタ)等を設置するようにしてもよい。
電荷集積部3は、制御部4から設定された所定の電荷蓄積時間に基づいて、受光素子部2において光電変換された電荷を集積し、電荷信号Diを取得する。電荷集積部3は、取得した電荷信号Diを、制御部4の指令に基づいて、信号演算部5に出力する。
【0049】
信号演算部5は、電荷集積部3から出力される電荷信号Diに対して、例えば、(数式4)の処理を行い、距離情報Liを算出する。なお、受光素子部2の撮像素子の画素iに対応する電荷信号Diとし、画素iに対応する距離情報をLiと表記することとする。信号演算部5は、算出した距離情報Liを画像生成部6に出力する。
制御部4は、光強度変調制御信号を発光源制御部9に出力し、発光源制御部9を介して、発光源10から発光される光の強度を光強度変調制御信号に基づいて変調させる。そして、制御部4は、光強度変調制御信号に基づいて光強度変調させた照明光S1の変調周期に同期させて、所定のタイミングにおいて電荷集積部3に集積された電荷量を取得させ、電荷信号Diとして、信号演算部5に出力させる。そして、制御部4は、信号演算部5に対して、例えば、(数式4)に相当する処理を実行するように制御する。
【0050】
なお、ここで、「所定のタイミング」とは、例えば、光強度変調制御信号に基づいて光強度変調させた照明光S1の変調周期の1周期あたり4点(例えば、上記(数式4)のA0点〜A4点の4点に相当。)をサンプリングすることに相当するタイミングのことをいう。なお、照明光S1の変調周期1周期あたりのサンプリング数は、4点に限定されないことは、言うまでもない。
照明光S1の変調周期1周期あたりのサンプリング数が4点である場合、信号演算部5では、電荷集積部3から出力された電荷信号Diに対して、(数式4)に相当する処理を行うことによって、位相シフト量Ψを求め、さらに、距離情報Liを簡単に求めることができる。
画像生成部6は、信号演算部5により算出された距離情報Liを入力とし、距離情報Liに基づいて、距離画像を生成する。ここで、「距離画像」とは、受光素子部2の撮像素子の画素iに対応させた2次元画像であり、距離画像上の画素iに対応する位置の値は、画素iに相当する距離情報を表す値となっている。つまり、距離画像上の画素iに対応する位置の値は、画素iに対応する撮像対象空間内の対象物と距離推定装置100との距離を表す値となっている。この値は、必ずしも、当該距離の値そのものである必要はなく、当該距離と相関のある値であってもよい。
【0051】
距離画像保持メモリ部8は、画像生成部6で生成された距離画像を入力とし、その距離画像を記憶・保持する。
撮像素子部12は、複数の画素からなる撮像素子を有しており、各画素は、フォトダイオード等の光電変換素子を含んでいる。撮像素子部12では、各画素において、光電変換された受光光量に応じた電荷が取得・蓄積される。そして、撮像素子部12は、蓄積した電荷をカラー画像生成部13に出力する。なお、撮像素子部12として、例えば、CCD型イメージセンサあるいはCMOS型イメージセンサを用いるとよい。
カラー画像生成部13は、撮像素子部12から、各画素に対応して出力される電荷を入力とし、当該電荷に基づいてカラー画像信号を生成する。そして、カラー画像生成部13は、生成したカラー画像信号を、輪郭情報抽出部14に出力する。
【0052】
輪郭情報抽出部14は、カラー画像生成部13により生成されたカラー画像信号から輪郭画素抽出を行い、輪郭情報を取得(抽出)する。そして、輪郭情報抽出部14は、抽出した輪郭情報を最適距離情報取得部7に出力する。
最適距離情報取得部7は、輪郭情報抽出部14から出力される輪郭情報と、距離画像保持メモリ部8から出力される注目画素の周囲画素の距離情報と、画像生成部6から出力される注目画素の距離情報および注目画素の画素位置についての情報と、を入力とする。最適距離情報取得部7は、入力された輪郭情報、注目画素の画素位置情報、注目画素の距離情報および注目画素の周囲画素の距離情報に基づいて、最適距離情報を取得し、取得した最適距離情報を最適距離画像生成部15に出力する。なお、ここで、「注目画素」とは、距離情報を求める対象(処理対象)となっている画素(距離画像上の画素)のことをいう。
【0053】
最適距離情報取得部7は、例えば、図2に示す構成とすることができる。図2に示すように、最適距離情報取得部7は、輪郭判定部71と、補間位置算出部72と、周囲距離情報検出部73と、距離情報補間値算出部74と、切換器75と、を備える。
輪郭判定部71は、輪郭情報抽出部14から出力される輪郭情報と、画像生成部6から出力される注目画素の画素位置情報を入力とし、輪郭情報に基づいて注目画素内に輪郭があるか否かを検出する。具体的には、輪郭判定部71は、カラー画像生成部13により生成されたカラー画像信号より形成される画像上において、距離画像における注目画素に相当する画像領域に輪郭があるか否かを検出する。そして、輪郭判定部71は、距離画像における注目画素に相当する画像領域に輪郭があると判断した場合、輪郭判定結果を「1」として出力し、距離画像における注目画素に相当する画像領域に輪郭がないと判断した場合、輪郭判定結果を「0」として出力する。輪郭判定部71は、輪郭判定結果を補間位置算出部72および切換器75に出力する。なお、輪郭判定結果は、周囲距離情報検出部73および距離情報補間値算出部74に出力するようにしてもよい。
【0054】
補間位置算出部72は、輪郭情報抽出部14から出力される輪郭情報と、画像生成部6から出力される注目画素の画素位置情報と、輪郭判定部から出力される輪郭判定結果を入力とする。補間位置算出部72は、輪郭判定結果が「1」である場合(輪郭ありの場合)のみ動作し、輪郭情報および注目画素の画素位置情報に基づいて輪郭画素位置情報を算出する。そして、補間位置算出部72は、算出した輪郭画素位置情報を距離情報補間値算出部74に出力する。
周囲距離情報検出部73は、画像生成部6から出力される注目画素の画素位置情報と、距離画像保持メモリ部8から出力される注目画素の周囲画素の距離情報と、を入力とし、補間値算出用周囲距離情報を取得する。そして、周囲距離情報検出部73は、取得した補間値算出用周囲距離情報を距離情報補間値算出部74に出力する。
【0055】
距離情報補間値算出部74は、補間位置算出部72から出力される輪郭画素位置情報と、周囲距離情報検出部73から出力される補間値算出用周囲距離情報と、を入力とする。距離情報補間値算出部74は、輪郭画素位置情報および補間値算出用周囲距離情報に基づいて、補間距離情報Li’を算出する。そして、距離情報補間値算出部74は、補間距離情報Li’を切換器75に出力する。
切換器75は、距離情報補間値算出部74から出力される補間距離情報Li’と、画像生成部6から出力される注目画素の距離情報Liと、を入力とし、輪郭判定部71から出力される輪郭判定結果に基づいて、その出力を切り替える。具体的には、切換器75は、輪郭判定結果が「1」である場合(輪郭ありの場合)、注目画素の補間距離情報Li’を出力し、輪郭判定結果が「0」である場合(輪郭なしの場合)、注目画素の距離情報Liを出力する。
【0056】
最適距離情報取得部7は、切換器75からの出力を、最適距離情報として、最適距離画像生成部15に出力する。
最適距離画像生成部15は、最適距離情報取得部7から出力される最適距離情報を入力とし、最適距離情報に基づいて最適距離画像を生成する。そして、最適距離画像生成部15は、生成した最適距離画像を出力する。
<1.2:距離推定装置の動作>
以上のように構成された距離推定装置100の動作および距離推定装置100において実行される距離推定方法について、図1から図5を用いて、説明する。
距離推定装置100において、
まず、発光源制御部9により、発光源10を発光させた状態にする。その状態で、対象物体OBJ10からの光を、受光光学系1に入射させる。
【0057】
受光光学系1に入射された光は、色分解プリズム11により、距離推定用赤外光成分の光とカラー画像用可視光成分の光に分離される。
受光素子部2では、各画素において、距離推定用赤外光成分の光が光電変換され、電荷として取得される。
受光素子部2において取得された電荷は、電荷集積部により集積され、電荷信号Diとして信号演算部5に出力される。具体的には、制御部4からの指令に従い、光強度変調制御信号に基づいて光強度変調させた照明光S1の変調周期に同期した所定のタイミングにおいて電荷集積部3に集積された電荷量が取得され、電荷信号Diとして、信号演算部5に出力される。なお、ここでの「所定のタイミング」は、例えば、光強度変調制御信号に基づいて光強度変調させた照明光S1の変調周期の1周期あたり4点(例えば、上記(数式4)のA0点〜A4点の4点に相当。)をサンプリングすることに相当するタイミングである。以下では、説明便宜のため、照明光S1の変調周期1周期あたりのサンプリング数が4点である場合について説明する。
【0058】
信号演算部5では、入力された電荷信号Di(照明光S1の変調周期1周期あたりに4点のサンプリングをされた電荷信号Di)に対して、(数式4)に相当する処理を行い、位相シフト量Ψを求める。さらに、信号演算部5では、位相シフト量Ψに対して、(数式3)に相当する処理を行い、画素iの距離情報Liを取得する。
信号演算部5により取得された距離情報Liは、画像生成部6に出力される。
画像生成部6では、信号演算部5により算出された距離情報Liに基づいて、距離画像が生成される。
まとめると、距離推定装置100では、反射光S2を受光素子部2において受け、受光素子部2および電荷集積部3により変換・集積された電荷信号Diを、制御部4で制御して、信号演算部5により、対応する画素iの距離情報値Liに変換する。
【0059】
この際、従来例2と同様に、距離推定装置100では、図19で示される変調周期1周期あたり4点(A0点,A1点,A2点およびA3点の4点)の電荷信号Diのサンプリングを行い、(数式4)を用いて位相シフト量Ψを導出する。そして、距離推定装置100では、その導出した位相量Ψ(A0〜A3の4点により求めた位相量)を、(数式3)に当てはめることで、画素iの距離情報値Liを求める。
距離画像保持メモリ部8では、画像生成部6により生成された距離画像が記憶・保持される。
一方、色分解プリズム11で分離されたカラー画像用可視光成分の光は、撮像素子部12により受光・集積されて、カラー画像生成部13でカラー画像信号(画像データ)に変換される。そして、カラー画像生成部13で取得されたカラー画像信号は、輪郭情報抽出部14に出力される。
【0060】
輪郭情報抽出部14では、(数式5)で示される3×3の大きさをもつ2次元フィルタによる2次元フィルタ処理((数式6)による処理)を用いて、画像内の各画素(i,j)の微分ベクトルvd(i,j)(xd(i,j),yd(i,j))を求める。また、輪郭情報抽出部14では、微分ベクトルvd(i,j)の大きさstv(ij)を、
stv(ij)=(xd(i,j)×xd(i,j)+yd(i,j)×yd(i,j))^0.5
を用いて求める。
輪郭情報抽出部14では、各画素(i,j)のstv(i,j)を、所定のしきい値TH2を使って、(数式7)のように比較することで、輪郭画素抽出を行う。なお(数式7)は、カラー画像信号により形成される画像上の画素が、輪郭に含まれる画素かどうかを示すための2値化を行うものであり、E(i,j)=1は、画素(i,j)が輪郭に含まれる画素であることを表している。
【0061】
【数5】
【0062】
【数6】
【0063】
【数7】
【0064】
このようにして、輪郭情報抽出部14により求められた輪郭情報E(i,j)(以下では、単に「輪郭情報Ei」と表記することもある。)は、最適距離情報取得部7に出力される。
なお、カラー画像生成部13で生成される画像(カラー画像信号により形成される画像)の解像度は、画像生成部6で生成される距離画像の解像度よりも高解像度であるものとする。距離推定装置100において、受光素子部2は、距離推定用であるので、受光素子部2の撮像素子の画素数は、カラー画像生成用である撮像素子部12の撮像素子の画素数に比べて少ない。つまり、距離推定装置100において、距離推定用の撮像素子の解像度は、カラー画像生成用の撮像素子の解像度ほど高解像度を求められないので、受光素子部2の撮像素子の画素数を、カラー画像生成用である撮像素子部12の撮像素子の画素数より少なくしても問題ない。
【0065】
また、受光素子部2の受光素子数(受光素子部2の撮像素子の画素数)を多くして距離画像の高解像度化を行った場合に発生するショットノイズあるいは環境光等の影響による推定(測定)距離精度の低下を抑えるために、受光素子部2の素子数(距離画像の解像度)を小さくすることが望ましい。
以上より、距離推定装置100では、受光素子部2の撮像素子の画素数が、撮像素子部12の撮像素子の画素数よりも少ないものとして、以下、説明する。
最適距離情報取得部7は、例えば、図2のように構成される。また、図3Aは、距離画像の画素内に輪郭情報がある場合における最適距離情報取得部7の処理概要を模式的に示した図である。図3Bは、距離画像の画素内に輪郭情報がない場合における最適距離情報取得部7の処理概要を模式的に示した図である。なお、図3Aおよび図3Bの距離画像において、画素が明るい(輝度が高い)程、当該画素が示す距離情報は、近い距離であることを示している。つまり、当該画素に相当する撮像空間(対象物)と距離推定装置との3次元空間内の距離が短いということを示している。
【0066】
まず、距離画像の画素内に輪郭情報がある場合における最適距離情報取得部7の処理について説明する。
図3Aのカラー画像Img_colorは、カラー画像生成部13により生成されたカラー画像信号により形成される画像において、輪郭情報抽出部14により抽出された輪郭情報を示している。また、図3Aのカラー画像Img_color中のブロックは、距離画像1画素に相当する画像領域を示している。具体的には、カラー画像Img_color中の画像領域blk1は、距離画像の1画素に対応する画像領域を示している。そして、画像領域blk1内には、カラー画像の画素が複数存在している。つまり、カラー画像の画素数の方が、距離画像の画素数よりも多い。言い換えると、カラー画像の画素の大きさは、距離画像の画素の大きさよりも小さい。
【0067】
図3Aのカラー画像Img_colorにおいて、距離画像Img_distanceの画素は、細分化されたブロック(カラー画像Img_colorを構成する複数の画素からなるブロック)として表現される。この場合、TOF方式によって得られる距離画像Img_distanceの画素は、カラー画像Img_colorのブロックに相当することになり、距離情報もカラー画像Img_colorのブロックに相当する単位で取得されることとなる。つまり、距離画像は、カラー画像に比べて粗い画像となる。
図3Aの距離画像Img_distanceは、画像生成部6により生成された距離画像であり、各画素中のL1〜L10は、画素P1〜P10の距離情報Liを示している。なお、図3Aの距離画像Img_distanceにおいて、距離情報がL1〜L10である画素を、画素P1〜P10とする。
【0068】
(1.2.1:距離画像の注目画素内に輪郭情報がある場合の処理)
まず、距離画像の注目画素内に輪郭情報がある場合の処理について説明する。
以下、注目画素をP5として、図2および図3Aを用いて、説明する。
注目画素がP5である場合、輪郭判定部71は、注目画素P5の画素位置情報と、注目画素P5に相当するカラー画像の画像領域内の輪郭情報E(i,j)と、に基づいて、注目画素P5内に輪郭情報があるか否か(すなわち、輪郭があるか否か)を判断する。この場合、注目画素P5内には、輪郭情報があるので、輪郭判定部71は、輪郭判定結果を「1」にして出力する。
次に、補間位置算出部72では、輪郭情報の画素位置Pedg(s,t)が求められる。補間位置算出部72により求められた輪郭情報の画素位置Pedg(s,t)は、距離情報補間値算出部74に出力される。
【0069】
そして、周囲距離情報検出部73では、距離画像Img_distance内の注目画素P5に隣接する画素P1、P2、P3、P4、P6、P7、P8、P9を用いて、注目画素P5の4隅に相当する距離情報L1d、L3d、L7dおよびL9dを求める。これについて、具体的に、図3Aの領域R1の場合を例に、説明する。
図3Aに示すように、注目画素P1の距離情報L1と、注目画素P5に隣接する画素P1、P2およびP4の距離情報L1、L2およびL4を用いて、領域R1の中心位置、つまり、注目画素P5の左上隅に相当する距離情報L1dを、(数式8)により求める。
同様に、注目画素P5の右上隅の距離情報L3d、左下隅の距離情報L7dおよび右下隅の距離情報L9dを、(数式8)を用いて求める。
【0070】
【数8】
【0071】
周囲距離情報検出部73により、求められた注目画素P5の4隅に相当する距離情報L1d、L3d、L7dおよびL9d(これを、「補間値算出用周囲距離情報」という。)は、距離情報補間値算出部74に出力される。
距離情報補間値算出部74では、補間値算出用周囲距離情報L1d、L3d、L7dおよびL9dと、輪郭情報の画素位置Pedg(s,t)と、を用いて、注目画素P5の補間距離情報L’を求める。
図3Aに示すように、注目画素端Pos(L1d)とPos(L7d)を結ぶ垂線から補間位置(輪郭情報の画素位置)Pedg(s,t)までの水平方向距離をbとし、Pos(L1d)とPos(L3d)を結ぶ水平線からPedg(s,t)までの垂直方向距離をaとした場合、Pedg(s,t)における補間値L’は、(数式9)のように求めることができる。なお、a,bともに距離受光用素子画素間を「1」に正規化した場合の値となる。したがって、0≦a≦1、0≦b≦1である。また、Pos(L1d)、Pos(L3d)、Pos(L7d)およびPos(L9d)は、注目画素P5の4隅の画像上の位置を表すものとする。
【0072】
【数9】
【0073】
このようにして求めた補間距離情報L’は、補間値算出用周囲距離情報(注目画素P5の4隅の距離情報に相当。)を2次元で線形補間した値に相当する。
距離情報補間値算出部74により求められた補間距離情報L’は、切換器75に出力される。
そして、注目画素が図3AのP5である場合は、注目画素P5内に輪郭情報があり、輪郭判定部71から出力される輪郭判定結果が「1」であるので、切換器75からは、距離情報補間値算出部74により求められた補間距離情報L’が、最適距離情報Lbestとして出力される。
(1.2.2:距離画像の注目画素内に輪郭情報がない場合の処理)
次に、距離画像の注目画素内に輪郭情報がない場合の処理について説明する。
【0074】
以下、注目画素をP10として、図2および図3Bを用いて、説明する。図3Bにおいて、図3Aと同様の部分については、同様の表記を行い、説明を省略する。
注目画素がP10である場合、輪郭判定部71は、注目画素P10の画素位置情報と、注目画素P10に相当するカラー画像の画像領域内の輪郭情報E(i,j)と、に基づいて、注目画素P10内に輪郭情報があるか否か(すなわち、輪郭があるか否か)を判断する。この場合、注目画素P10内には、輪郭情報がないので、輪郭判定部71は、輪郭判定結果を「0」にして出力する。
図2に示すように、輪郭判定結果が「0」である場合、最適距離情報取得部7の切換器75の出力からは、注目画素Piの距離情報Liがそのまま出力される。つまり、この場合、注目画素がP10であるので、最適距離情報取得部7の切換器75の出力からは、注目画素P10の距離情報L10がそのまま出力される。すなわち、この場合、最適距離情報取得部7から出力される最適距離情報Lbest=L10(=Li)となる。
【0075】
なお、上記の場合、注目画素P10に対応するカラー画像の画像領域は、平坦であるので、距離画像の画素P10の距離情報L10は、精度の良いものであると考えられるので、上記のような処理により、最適距離情報Lbestを出力することで、距離推定装置100において、距離推定精度を維持することができる。
以上のように、最適距離情報取得部7により求めた最適距離情報Lbestは、最適距離画像生成部15に出力される。
最適距離画像生成部15では、最適距離情報Lbestに基づいて、最適距離画像が生成され、出力される。
このように、距離推定装置100では、距離画像の注目画素内(距離画像の注目画素に対応するカラー画像内の画像領域)に輪郭(カラー画像から検出される輪郭)があるか否かを判定し、輪郭画像がある場合、当該距離画像の注目画素の距離情報を、その注目画素の周囲の距離情報を用いた補間値にすげ替えることで、部分的に距離画像の解像度向上を実現することができる。つまり、距離画像の解像度が低いことにより、中間の距離情報を表現することができないという欠点を、距離推定装置100では、上記の処理を行うことによって補うことができる。特に、距離画像の注目画素内に輪郭(エッジ)が存在する部分では、当該注目画素の距離情報の精度が悪くなっている可能性が高く、距離推定装置100では、上記の処理により、このような場合であっても一定の距離推定精度を維持することができる。
【0076】
なお、上記では、注目画素の画素位置情報は、画像生成部6から出力される場合について説明したが、注目画素の画素位置情報を、距離画像保持メモリ部8から出力するようにしてもよい。
なお、図3Aでは、2次元線形補間により、距離情報補間値算出部74で補間距離情報L’を算出したが、以下のようにして、補間距離情報L’を算出するようにしてもよい。
距離情報補間値算出部74において、
PedgとP(L1d)との距離: len1=sqrt(a^2+b^2)
PedgとP(L3d)との距離: len2=sqrt(a^2+(1−b)^2)
PedgとP(L7d)との距離: len3=sqrt((1−a)^2+b^2)
PedgとP(L9d)との距離: len4=sqrt((1−a)^2+(1−b)^2)
(「sqrt(x)」は、xの平方根を表す。「x^y」は、xのy乗を表す。)
を、(数式10)に示すような所定の非線形重み関数weight(len)に、代入して得られる、重み係数w1,w2,w3,w4を求める。そして、求めた重み係数w1,w2,w3,w4を、それぞれ、L1d,L2d,L3d,L4dの重み付けとして、重付平均値を求め、求めた重付平均値を補間距離情報L’として用いてもよい。
【0077】
【数10】
【0078】
なお、(数式10)で、keisuは所定の正定数を表す。
また、最適距離情報取得部7において、len1,len2,len3,len4,L1〜L9を変数にもつテーブル(例えば、LUT(ルック・アップ・テーブル))を用意しておき、そのテーブルを参照することによって、補間距離情報L’を求めるようにしてもよい。
さらに、上記説明では、距離推定装置100において、周囲画素として、注目画素に隣接する8画素を設定し、補間距離情報L’を求めるようにしたが、これに限定されることはない。例えば、距離画像の注目画素(対象距離画素)の上下左右の4画素を周囲画素に設定し、当該4画素による補間処理により、補間距離情報L’を求めるようにしてもよい。この場合、補間処理において、距離画像の注目画素(図3Aの領域R1を処理対象とする場合、注目画素P5の距離情報L5)を用いてもよい。
【0079】
また、距離推定装置100において、距離画像の注目画素の周囲画素を選択的に用いる補間処理により補間距離情報L’を求めるようにしてもよい。例えば、図3AのP5を注目画素とし、図3Aのaが「0.5」より小さく、bが「0.5」より小さい場合、つまり、輪郭情報の画素位置Pedg(s,t)が、注目画素P5内において、左上の領域に存在する場合、輪郭情報の画素位置Pedg(s,t)と相関性が高い周囲画素であるP2とP4を用いて補間処理を行う。
具体的には、周囲画素P2の距離情報L2と注目画素P5の距離情報L5の垂直方向での1次元補間値VL1dを求める。この際、周囲画素の距離情報L2と注目画素の距離情報L5は、それぞれ、画素P2とP5の画素中心にあるものとして、補間処理(距離情報の補間値の算出処理)を行う。
【0080】
さらに、周囲画素P4と注目画素P5において、水平方向での1次元補間値HD1dを求める。この場合も、周囲画素P4の距離情報L4と注目画素P5の距離情報L5は、それぞれ、画素P4とP5の画素中心にあるものとして、補間処理(距離情報の補間値の算出処理)を行う。
そして、求めた垂直方向での1次元補間値VL1dおよび水平方向での1次元補間値HD1dの2つの値の平均値を補間距離情報L’とする。
距離推定装置100において、上記のように、注目画素内での輪郭情報の画素位置Pedg(s,t)が存在する位置に基づき、相関性の高い隣接画素を選択的に用いて、補間距離情報L’を求めるようにしてもよい。
なお、上記では、輪郭情報の画素位置Pedg(s,t)を1点として、補間処理を行う場合について説明したが、これに限定されることはない。例えば、距離画像の注目画素内において、複数の輪郭情報の画素位置Pedg(s,t)が存在する場合、距離推定装置100では、複数の輪郭情報の画素位置Pedg(s,t)から所定の点を抽出し(例えば、複数の輪郭情報の画素位置Pedg(s,t)の中心点等)、その所定の点に基づいて、上記と同様の処理を行うようにしてもよい。
【0081】
また、図4に示した処理フローチャートにおいて、ステップF1およびF2は、ステップF15までに実行されれば、いずれのタイミングで実行されるものであってもよい。
以上のように、距離推定装置100では、距離画像の注目画素内にカラー画像から抽出した輪郭情報がない場合、当該注目画素の距離情報は、精度の高いものであると推測されるので、最適距離情報Lbestとして、当該注目画素の距離情報を採用する。一方で、距離画像の注目画素内にカラー画像から抽出した輪郭情報がある場合、当該注目画素の距離情報は、精度が低い可能性があるので、注目画素の周囲の画素の距離情報に基づいて補間した距離情報(補間距離情報)を求め、最適距離情報Lbestとして、当該補間距離情報を採用する。
したがって、距離推定装置100では、受光素子部2の撮像素子(距離推定用の撮像素子)の画素数を増やすことなく、高精度の距離画像(距離情報)を取得することができる。これにより、距離推定装置100では、受光素子部2の撮像素子(距離推定用の撮像素子)の画素数を単純に増やした場合に、電荷信号のS/N比低下し、その結果、取得される距離画像において距離分解能が低下することを効果的に抑えることができる。
【0082】
≪第1変形例≫
また、距離推定装置100の距離情報補間処理において、図3Aおよび図3Bを用いて説明した上記方法の代わりに、次の方法を用いることも可能である。これについて、図5Aを用いて説明する。なお、図5Aにおいて、図3Aおよび図3Bと同様の部分について、同様の表記を行い、説明を省略する。
距離推定装置100において、図5Aに示すように、まず、距離画像の注目画素(対象距離受光素子画素)に相当するカラー画像内のブロック(画像領域)内に輪郭情報があるか否かを判定する。
そして、(B)距離画像の注目画素内に輪郭情報がないと判定された場合、当該注目画素の部分は平坦領域に属するものとして、距離画像の注目画素の距離情報を、そのまま出力する処理を行う。つまり、最適距離情報Lbestとして、注目画素の距離情報Liを採用する。
【0083】
一方、(A)距離画像の注目画素内に輪郭情報があると判定された場合、距離画像の注目画素の輪郭部(エッジ部)で2分割する処理を実施する。
図5A(c)に、その2分割処理の一例を示す。なお、注目画素をP5として説明する。
注目画素(対象距離画素)P5で、輪郭(図5A(c)における家の屋根の部分(エッジ))より左上側では、注目画素P5の周囲画素P2およびP4の距離情報であるL2およびL4を使って、(数式11)を用いて、距離情報の補間値L2dが生成される。そして、距離推定装置100では、注目画素を2分割して得られた左上部分の分割画素の距離情報を補間値L2dとする。
一方、注目画素P5の輪郭(図5A(c)における家の屋根の部分(エッジ))より右下側では、注目画素P5の周囲画素P6およびP8の値であるL6とL8を使って、(数式11)を用いて、距離情報の補間値L6dが生成される。そして、距離推定装置100では、注目画素を2分割して得られた右下部分の分割画素の距離情報を補間値L6dとする。
【0084】
【数11】
【0085】
以上のように、距離推定装置100において、輪郭情報がある注目画素では、輪郭情報に基づいて、画素分割を行い、分割した画素の距離情報を、それぞれ、隣接画素の距離情報に基づいて補間した値とすることによって、距離推定装置100において取得される距離画像の精度を向上させることができる。
上記では、距離推定装置100において、カラー画像における輪郭部(図5Aでは、家の屋根の部分(エッジ))を2分割する場合の処理について説明したが、これに限定されることはない。例えば、輪郭部で最も大きい(最も急な)輪郭部分(すなわち、エッジ量が最も高い輪郭部分)を中心に、当該輪郭部が含まれている距離画像の注目画素を4分割もしくはそれ以上に分割して、上記同様の処理を行い、距離画像を取得するようにしてもよい。
【0086】
≪第2変形例≫
また、距離推定装置100の距離情報補間処理において、図3Aおよび図3Bを用いて説明した上記方法の代わりに、次の方法を用いることも可能である。これについて、図5Bを用いて説明する。なお、図5Bにおいて、図3Aおよび図3Bと同様の部分について、同様の表記を行い、説明を省略する。
距離推定装置100において、図5Bに示すように、まず、距離画像の注目画素(対象距離受光素子画素)に相当するカラー画像内のブロック(画像領域)内に輪郭情報があるか否かを判定する。
そして、(B)距離画像の注目画素内に輪郭情報がないと判定された場合、当該注目画素の部分は平坦領域に属するものとして、距離画像の注目画素の距離情報を、そのまま出力する処理を行う。つまり、最適距離情報Lbestとして、注目画素の距離情報Liを採用する。
【0087】
一方、(A)距離画像の注目画素内に輪郭情報があると判定された場合、距離画像の注目画素の輪郭部(エッジ部)を抽出し、微分量による補間を行い、距離情報を取得する。
図5B(c)に、微分量による補間処理の一例を示す。なお、以下では、微分量による補間処理の一例について、注目画素をP5として、(ステップ1)および(ステップ2)に分けて、説明する。
(ステップ1):
まず、注目画素(対象距離画素)P5内において、微分量が最大となる点を抽出する。具体的には、注目画素(対象距離画素)P5に対応するカラー画像内において、微分量が最大となる点を抽出する。なお、この処理は、輪郭情報抽出部14により実行するようにすればよい。
【0088】
また、微分量の算出は、例えば、以下のように行えばよい。
微分量をdiff(i,j)とすると、カラー画像上の座標位置(i,j)におけるX軸方向の差分値をfxとし、座標位置(i,j)におけるY軸方向の差分値をfyとしたとき、
diff(i,j)=sqrt(fx^2+fy^2)
(sqrt(x)は、xの平方根を表す。)
また、簡易的に、X軸方向のみ差分値の絶対値を微分量diff(i,j)としてもよいし(すなわち、diff(i,j)=abs(fx)(abs(x)は、xの絶対値を表す。))、あるいは、Y軸方向のみ差分値の絶対値を微分量diff(i,j)としてもよいし(すなわち、diff(i,j)=abs(fy))としてもよく、また、カラー画像上の斜め方向の差分値の絶対値を微分量diff(i,j)として用いるようにしてもよい。
【0089】
なお、微分量の算出方法は、上記に限定されることはなく、他の方法であってもよい。例えば、Robertのエッジ検出オペレータ、Prewittのエッジ検出オペレータ、Sobelのエッジ検出オペレータ等により微分量diff(i,j)を算出するようにしてもよい。
以下では、図5Bのケース(A−1)および(A−2)について、説明する。なお、図5Bに示すC点が、微分量が最大となる点であるものとし、C点より左上方向に存在するK点の距離情報Lkを補間処理により求める場合(ケース(A−1))およびC点より右下方向に存在するM点の距離情報Lmを補間処理により求める場合(ケース(A−2))ついて、説明する。
(ステップ2):
ケース(A−1)の場合、K点の微分量をEkとすると、本変形例に係る距離測定装置では、N点(注目画素P5の左上隅の点)の距離情報L2dおよびC点の距離情報Lcを、
L2d=(L2+L4)/2
Lc=(L2+L4+L6+L8)/4
とし、K点の距離情報Lkを、
Lk=L2d+(Lc−L2d)×(Ek/Ec)
として算出する。なお、微分量Ecは、注目画素P5に相当するカラー画像上の画像領域における最大の微分量であるため、0≦(Ek/Ec)≦1である。したがって、上式により、微分量を用いた補間を行うことができる。なお、上式において、Lc=L5としてもよい。
【0090】
ケース(A−2)の場合、M点の微分量をEmとすると、本変形例に係る距離測定装置では、O点(注目画素P5の右下隅の点)の距離情報L6dおよびC点の距離情報Lcを、
L6d=(L6+L8)/2
Lc=(L2+L4+L6+L8)/4
とし、M点の距離情報Lmを、
Lm=L6d+(Lc−L6d)×(Em/Ec)
として算出する。なお、微分量Ecは、注目画素P5に相当するカラー画像上の画像領域における最大の微分量であるため、0≦(Em/Ec)≦1である。したがって、上式により、微分量を用いた補間を行うことができる。なお、上式において、Lc=L5としてもよい。
【0091】
なお、上記処理(ステップ2の処理)は、輪郭情報抽出部14により上記各微分量を算出し、輪郭情報抽出部14算出された微分量を用いて、最適距離情報取得部が実行するようにすればよい。
以上により、本変形例の距離測定装置によれば、注目画素において、エッジがある部分において、さらに高精細な距離画像を、微分量を用いた補間処理により求めることができる。
[第2実施形態]
図6から図10を用いて、本発明の第2実施形態として、現フレームに対して1フレーム前の距離画像と、現フレームカラー画像および現フレームに対して1フレーム前のカラー画像に基づいて求めた動きベクトルに基づいて、現フレームの距離画像を補正する距離推定装置および方法について説明する。
【0092】
図6は、本発明の第2実施形態に係る距離推定装置200の概略構成図である。図8は、本発明の第2実施形態に係る距離推定装置200および距離推定方法における距離画像補正処理の概要を模式的に示した図である。また、図9は、本発明の第2実施形態に係る距離推定方法の処理フローチャートを示す図である。図10は、動きベクトル検出処理におけるブロックマッチング方法を説明するための模式図である。なお、第1実施形態と同様な構成要素については、同じ符号を付し、詳細な説明を省略する。また、第1実施形態と同様の部分については、説明を省略する。
図6〜図9に従い、本発明の第2実施形態である距離推定方法および装置について説明する。
<2.1:距離推定装置の構成>
本実施形態に係る距離推定装置200は、図6に示すように、第1実施形態に係る距離推定装置100において、最適距離情報取得部7および最適距離画像生成部15を、距離画像補正部23に置換し、輪郭情報抽出部14を削除し、さらに、カラー画像保持メモリ部21および動きベクトル検出部22を追加した構成となっている。
【0093】
それ以外については、距離推定装置200は、距離推定装置100と同様である。
カラー画像保持メモリ部21は、カラー画像生成部13により生成された画像(カラー画像)をフレーム単位に記憶保持する。そして、カラー画像保持メモリ部21は、動きベクトル検出部22からの要求に従い、フレーム単位でカラー画像を出力する。
動きベクトル検出部22は、図7に示すように、輪郭情報抽出部14Aおよび14Bと、動きベクトル算出部221と、を有する。
輪郭情報抽出部14Aおよび14Bは、第1実施形態の輪郭情報抽出部14と同様のものである。
輪郭情報抽出部14Aは、カラー画像生成部13から出力される現時刻tのフレーム画像Img_color(t)を入力とし、入力された現フレーム画像Img_color(t)から輪郭情報を抽出する。そして、輪郭情報抽出部14Aは、抽出した輪郭情報を動きベクトル算出部に出力する。
【0094】
輪郭情報抽出部14Bは、カラー画像保持メモリ部21から読み出した現フレーム時刻tより1フレーム前の時刻であるフレーム時刻(t−1)のフレーム画像Img_color(t−1)を入力とし、入力された現フレームの1フレーム前のフレーム画像Img_color(t−1)から輪郭情報を抽出する。そして、輪郭情報抽出部14Bは、抽出した輪郭情報を動きベクトル算出部に出力する。
なお、説明便宜のため、以下では、現フレーム画像Img_color(t)および現フレームから1フレーム前のフレーム画像Img_color(t−1)を用いて処理する場合に限定して説明する。
動きベクトル検出部22は、輪郭情報抽出部14Aおよび14Bから出力される現フレーム画像Img_color(t)の輪郭情報および現フレームから1フレーム前の画像Img_color(t−1)の輪郭情報を入力とし、入力された2つのフレーム画像の輪郭情報に基づいて動きベクトルを算出する。そして、動きベクトル検出部22は、算出した動きベクトルを距離画像補正部23に出力する。
【0095】
距離画像補正部23は、動きベクトル検出部22から出力される動きベクトルと、画像生成部6から出力される現フレーム時刻tの距離画像Img_distance(t)と、距離画像保持メモリ部8から出力される現フレーム時刻tから1フレーム前の距離画像Img_distance(t−1)と、を入力とする。距離画像補正部23は、動きベクトルに基づいて、距離画像の画素の値(距離情報)を補正し、最適距離画像を取得する。
<2.2:距離推定装置の動作>
以上のように構成された距離推定装置200の動作について、以下説明する。なお、第1実施形態と同様の部分については、説明を省略する。
カラー画像生成部13では、現フレーム時刻tにおけるカラー画像Img_color(t)=(C1(i,j,t),C2(i,j,t),C3(i,j,t))が生成され、生成されたカラー画像Img_color(t)が動きベクトル検出部22に出力される。ここで、(i,j)は、カラー画像における画素位置を示し、C1(i,j,t)は、フレーム時刻tでのカラー画像上の画素位置(i,j)における色情報成分C1を表すものとする。カラー画像の画素(i,j)における色情報成分は、通常3成分で表現されることが多い。例えば、RGB色空間におけるレッドR、グリーンG、ブルーBを表す信号成分あるいは、YCC色空間における輝度成分Y,色差成分CbおよびCrが、これに相当する。
【0096】
また、カラー画像保持メモリ部21内に保持されている現フレーム時刻より1フレーム前の時刻(t−1)のカラー画像Img_color(t−1)=(C1(i,j,t−1),C2(i,j,t−1),C3(i,j,t−1))が動きベクトル検出部22に出力される。
動きベクトル検出部22では、現フレーム画像Img_color(t−1)および1フレーム前の画像Img_color(t−1)の比較により、動きベクトルを検出する。
動きベクトル検出部22で実行される動きベクトル検出方法としては多くの手法があるが、ここでは、映像符号化処理で用いられるブロックマッチング方式を用いた処理について説明する。
【0097】
ブロックマッチング方式を用いた動きベクトル検出処理では、例えば、カラー画像を8画素×8画素のブロック領域(画像領域)に分割し、ブロック領域の相関演算により2つのフレーム間の動きベクトル検出を行う。
まず、輪郭情報抽出部14Aおよび14Bで、第1実施形態の場合と同様にして、輪郭抽出が行われる。輪郭情報抽出部14Aおよび14Bにより抽出された輪郭情報を、8画素×8画素単位の画像ブロックに分割し、分割した画像ブロックに対して、ブロックマッチング処理を行う。
ブロックマッチング処理では、現フレームから1フレーム時刻前のカラー画像内の輪郭情報E(i,j,t−1)が「1」の画素P(i,j,t−1)に対して、(数式12)による評価値est(x,y)を求める。そして、評価値est(x,y)が最小値となる(x,y)を求め、その(x,y)を画素P(i,j,t−1)にベクトル加算した点(画素)Q(i+x,j+y,t)を、1フレーム前の画素P(i,j,t−1)に対応する現フレームの画素点として検出する。
【0098】
その結果、画素Pにおける動きベクトルv(i,j)は、
v(i,j)=(vx,vy)=(x,y)
(vxおよびvyは、動きベクトルのx成分およびy成分を表す。)
として求めることができる。
【0099】
【数12】
【0100】
ここで、Nはブロックサイズを表す。また、以上の処理概要を、図10に模式的に示す。なお、図10では、画素点P、画素点Qともに、画像ブロックの左上に設定した場合について図示しているが、画素点PおよびQを、画像ブロックの中心におくことも可能である。
以上のようにして、動きベクトル検出部22で求めた動きベクトルは、距離画像補正部23に出力される。
距離画像補正部23では、動きベクトル検出部22により検出された動きベクトルを受けて、図8に示すように、補正処理が実施される。
図8(a)は、1フレーム前のカラー画像Img_color(t−1)の模式図であり、図8(b)は、現フレームのカラー画像Img_color(t)の模式図である。そして、図8(c)は、1フレーム前の距離画像Img_distance(t−1)の模式図であり、図8(d)は、現フレームのカラー画像Img_distance(t)の模式図である。また、距離画像の注目画素(処理対象画素)を、図8の画素PPとして、以下説明する。
【0101】
距離画像の注目画素PPに対応するカラー画像内のブロックにおいて、図8(b)において矢印のような動きベクトルv(PP)(v(PP)は、距離画像の画素PPに相当するカラー画像の画像ブロックから検出された動きベクトルを表すものとする)が、動きベクトル検出部22により検出されたとする。この場合、距離画像補正部23は、この動きベクトルv(PP)をもとに、距離画像の距離情報(距離画像の画素値)を補正する。
図8(b)に示すように、動きベクトルv(PP)は、左下方向のベクトルとなっているので、1フレーム前のカラー画像Img_color(t−1)の画素PPに対応する画像ブロックに存在していた車のボディー部分が、現フレームのカラー画像Img_color(t)の画素PPに対応する画像ブロックでは、当該画像ブロックの下の部分に存在すると推定される。また、図8(b)から分かるように、当該画像ブロックの上部分は、車の背景となっている。このため、現フレームの距離画像の画素PPから取得される距離情報は、精度が悪い可能性がある。つまり、車のボディー部分(距離の近い部分)と背景(距離の遠い部分)が、画素PPに混在しているので、画素PPの距離情報は、その両者の中間の値となっている可能性が高い。
【0102】
したがって、距離画像補正部23では、動きベクトルv(PP)から、画素PPの下部分の距離情報は、1フレーム前の距離画像Img_distance(t−1)の画素PPの距離情報と相関が高いと判断できる。これにより、距離画像補正部23では、現フレームの距離画像の画素PPの下部分の距離情報を、1フレーム前の距離画像Img_distance(t−1)の画素PPの距離情報に基づき補間する(あるいは、1フレーム前の距離画像Img_distance(t−1)の画素PPの距離情報に置き換える)。
一方、画素PPの上部分の距離情報は、動きベクトルv(PP)から、1フレーム前の距離画像Img_distance(t−1)の画素PPの上の画素の距離情報と相関が高いと判断できる。これにより、距離画像補正部23では、現フレームの距離画像の画素PPの上部分の距離情報を、1フレーム前の距離画像Img_distance(t−1)の画素PPの上の画素の距離情報に基づき補間する(あるいは、1フレーム前の距離画像Img_distance(t−1)の画素PPの上の画素の距離情報に置き換える)。
【0103】
以上により、距離画像補正部23では、動きベクトルに基づいて、距離画像の精度を向上させるように補間処理を行うことによって、最適距離画像を取得する。
なお、上記では、動きベクトルが検出された場合(動きベクトルの大きさ(スカラー値)が「0」でない場合)、距離画像の注目画素を2分割して(図8の注目画素PPの場合、上下2分割)、距離画像の注目画素を、1フレーム前の画素を用いて、補間(あるいは置換)する処理について説明したが、これに限定されることはない。動きベクトルの状況に応じて、さらに多分割して、距離画像の所定の画素の距離情報の精度を向上させるようにしてもよい。
また、図8では、動きベクトルv(PP)で得られた1フレーム前の距離画像Img_distance(t−1)内での対応部分の距離情報(距離画像の輝度に相当。)で置き換える処理を行っているが、これ以外にも、動きベクトルv(PP)で得られた1フレーム前の距離画像Img_distance(t−1)内での対応部分の距離情報(輝度値)と現フレームでの該当部分の距離情報(輝度値)との平均値を用いて、現フレームの距離画像Img_distance(t)の注目画素の距離情報を置き換えるようにしてもよい。
【0104】
このように距離推定装置200では、距離推定用の受光素子部2の撮像素子の画素数が少ないことによって、距離情報の精度が低くなってしまった部分を、さらに細分化し、さらに動きベクトルを用いて距離精度を改善することが可能となる。
このように本実施形態の距離推定装置200では、受光素子部2の撮像素子(距離推定用の撮像素子)の画素数を増やすことなく、1フレーム前の距離画像と、カラー画像から求めた動きベクトルとに基づいて、現フレーム時刻の距離画像を補正することによって、距離画像の高精度化を実現することができる。これにより、距離推定装置200では、受光素子部2の撮像素子(距離推定用の撮像素子)の画素数を単純に増やした場合に、電荷信号のS/N比低下し、その結果、取得される距離画像において距離分解能が低下することを効果的に抑えることができる。
【0105】
なお、上記において、動きベクトル検出部22では、ブロックマッチング処理による動きベクトルを検出する場合について説明したが、これに限定されることはない。例えば、勾配に注目した方法を用いて動きベクトルを検出することも可能である。
また、距離推定装置200において、距離画像の画素の細分化をして距離情報(距離値)を補正する場合、動きベクトルの大きさに基づき得られる値を用いて、距離画像の画素の分割数あるいは分割領域の決定方法等を制御することも可能である。
また、図9に示した処理フローチャートにおいて、ステップF13およびF14は、ステップF21までに実行されれば、いずれのタイミングにおいて実行されるものであってもよい。
[第3実施形態]
図11から図17を用いて、本発明の第3実施形態として、距離画像データの値(距離画像の距離情報)あるいは対象物からの反射光の強度に応じて、距離画像データの値(距離情報)の確からしさを表す信頼度を算出し、前記信頼度をもとに距離画像データ(距離情報)を補正することによって、距離推定処理を行う距離推定装置および方法について説明する。
【0106】
図11は、本発明の第3実施形態に係る距離推定装置300の概略構成図である。
図12は、距離推定装置300内の距離信頼度算出部31の概略構成図である。図13は、第3実施形態に係る距離推定装置および方法における距離信頼度による補正の方法を模式的に示した図である。
また、図15、図16は、第3実施形態に係る距離推定装置300および距離推定方法において用いられる距離信頼度を決定する関数例を示す図である。
図17は、第3実施形態に係る距離推定方法の処理フローチャートを示す図である。
なお、前述の実施形態と同様な構成要素については、同じ番号を付し、詳細な説明を省略する。また、前述の実施形態と同様の部分については、説明を省略する。
図11から図17に従い、本発明の第3実施形態である距離推定方法および装置について説明する。
【0107】
<3.1:距離推定装置の構成>
図11に示すように、本実施形態の距離推定装置300は、前述の実施形態に係る距離推定装置において、画像生成部6以降の信号処理を行う機能部が異なる点に特徴がある。つまり、距離推定装置300では、前述の実施形態に係る距離推定装置において、画像生成部6以降の信号処理を行う機能部として、距離信頼度算出部31および距離画像補正部32を追加した構成となっている。また、距離推定装置300は、前述の実施形態に係る距離推定装置において、色分解プリズム11、撮像素子部12以降の可視光成分の光に対する信号処理を行う機能部が省略されている。
それ以外については、前述の実施形態に係る距離推定装置と同様である。
距離信頼度算出部31は、画像生成部6により生成された距離画像の画素PP(i,j)に相当する距離情報L(i,j)と、電荷集積部3から出力される画素PP(i,j)に相当する電荷信号D(i,j)と、を入力とし、距離情報L(i,j)および電荷信号D(i,j)に基づいて、画素PP(i,j)における距離信頼度R(i,j)を求める。そして、距離信頼度算出部31は、求めた距離信頼度R(i,j)を距離画像補正部32に出力する。
【0108】
距離画像補正部32は、距離信頼度算出部31から出力される距離信頼度R(i,j)と、画像生成部6から出力される距離画像と、を入力とし、距離信頼度R(i,j)に基づいて距離画像に対して補正処理を行い、最適距離画像を取得する。
なお、距離推定装置300において、発光源10として、赤外光を発光する光源を用いる場合、受光素子部2の撮像素子として、赤外光用CCDを用いることが好ましい。また、この場合、受光光学系1において、例えば、赤外光用の光学フィルタを設け、受光素子部2に、赤外領域以外の光が入射されないようにすることが好ましい。
<3.2:距離推定装置の動作>
以上のように構成された距離推定装置300の動作について説明する。なお、前述の実施形態と同様の部分については、説明を省略する。
【0109】
距離信頼度算出部31では、画像生成部6で得られた距離画像の各画素PP(i,j)での距離値L(i,j)の信頼度を検出する処理を行う。
距離推定装置300では、次のことを考慮して、信頼度R(i,j)を決定する。
(S1)対象物からの反射波(反射光)の振幅があまり大きくない(環境光等のノイズと比較して小さい)ため、距離推定装置300と対象物との距離が大きい(つまり、遠い)ほど、距離推定装置300で取得される距離情報の精度が低い(環境光等のノイズの影響を受けやすい)。
(S2)対象物からの反射波(反射光)の振幅があまり大きくない(環境光等のノイズと比較して小さい)ので、受光素子部2の撮像素子(例えば、赤外光用CCD撮像素子)で受光された反射波(反射光)の振幅が小さいほど、距離推定装置300で取得される距離情報の精度が低い(環境光等のノイズの影響を受けやすい)。
【0110】
以上に基づいて、距離信頼度算出部31での信頼度R(i,j)の算出処理について、以下、具体的に説明する。
図15Aは、(S1)に基づいて、設定した推定距離L(i,j)−信頼度R(i,j)特性(関数により当該特性を実現。)の一例を示すグラフである。この場合、信頼度R(i,j)は、推定距離L(i,j)のみをパラメータとして、1次元で制御されることになる。
図15Bは、(S2)に基づいて、設定した反射波振幅D(i,j)−信頼度R(i,j)特性(関数により当該特性を実現。)の一例を示すグラフである。この場合、信頼度R(i,j)は、反射波振幅D(i,j)のみをパラメータとして、1次元で制御されることになる。なお、下記(数式14)のR2(L)は、図15Aの特性を実現する関数例を示している。
【0111】
また、図16Aおよび図16Bは、(S1)および(S2)に基づいて、信頼度R(i,j)を、2つのパラメータである反射波振幅D(i,j)および推定距離(距離情報)L(i,j)に基づき決定する場合の特性を、グラフを用いて示した図である。なお、反射波振幅D(i,j)−信頼度R1(i,j)特性および推定距離(距離情報)L(i,j)−信頼度R2(i,j)特性は、関数により実現してもよい。つまり、この場合、信頼度R(i,j)は、2つのパラメータである反射波振幅D(i,j)と推定距離L(i,j)に基づき、2次元で制御される。
(数式13)に、図15Bの特性を実現する関数例を示す。また、(数式14)に、図16Aの特性を実現する関数例を示す。また、(数式15)に図16Bの特性を実現する関数例を示す。なお、以下の数式において、便宜上、画素の画像上の位置情報(位置座標)を示す(i,j)は省略している。上記では、注目画素P(i,j)の信頼度をR(i,j)と表記したが、例えば、下記(数式13)では、信頼度が変数dの関数であることを明示するために、単に、R(d)と表記している。なお、他の関数についても同様に(i,j)を省略している部分がある。
【0112】
【数13】
【0113】
なお、(数式13)において、dは、反射波振幅(図16AのD(i,j)に相当。)である。
【0114】
【数14】
【0115】
【数15】
【0116】
なお、(数式14)において、dは反射波振幅(図16AのD(i,j)に相当。)であり、Lは距離情報(推定距離)(図16AのL(i,j)に相当。)である。
また、(数式13)、(数式14)において、keisuN、keisu1,keisu2,offset1,offset2は所定の正定数を表す。
また、(数15)において、deltaは所定の正定数を表す。
図15Bおよび図16Aは、offset1として最大推定距離MaxLを代入し、offset2として最大反射振幅MaxDを代入するとともに、傾きkeisu1とkeisu2に、keisuN=keisu1=3.0、keisu2=4.5の値を代入した場合を示している。
なお、傾きkeisu1の値とkeisu2の値としては、どちらも正定数であれば問題ないが、通常は1.0≦keisu1≦10.0、1.0≦keisu2≦10.0の値を使うことが好ましい。keisu1、keisu2ともに「1」より小さい値が採用された場合、変化は線形的になる。一方、keisu1、keisu2ともに大きくなるにつれて非線形性が増すようになる。
また、(数15)において、deltaは、図16Bの信頼度関数における「1.0」の領域を制御する値である。この値が小さいほど、信頼度R(i、j)は、「1.0」になる領域が小さくなり、この値が大きいほど、R(i、j)は、「1.0」になる領域が大きくなる。通常は、1.0≦delta≦Delmax、(DelmaxはMaxL、MaxD最小値)の値を使うことが好ましい。
【0117】
以上のようにして、距離信頼度算出部31で求められた信頼度R(i,j)は、距離画像補正部32に出力される。
次に、距離画像補正部32における補正処理の一例を、図14を用いて説明する。
図14は、距離画像の注目画素P(i,j)を中心として、距離画像から所定サイズの画素領域(複数の距離画像の画素からなる領域)を抽出して、模式的に示した図である。また、図13に、距離画像補正部32における補正処理の処理概要を周辺の機能部とともに、模式的に示す。
距離画像補正部32では、距離画像の補正として、例えば、図14に示すように、距離画像の注目画素(対象距離画素)P(i,j)を中心に、所定のサイズの画素領域AREA1(図14では、5画素×5画素の画素領域)を設定し、距離画像の画素領域AREA1内の各画素の距離情報(距離データ)に対して、各画素の信頼度を重み係数としたフィルタ処理を行った値dL(i,j)を求める。そして、その求めた値(フィルタ処理結果)dL(i,j)を改めて、距離画像の注目画素P(i,j)の距離情報(推定距離)とする(つまり、dL(i,j)を注目画素P(i,j)の距離情報とする)ことによって、距離情報(距離データ)の補正処理を実施する。
【0118】
距離画像補正部32により、以上の処理を距離画像の全画素に対して実行することで、補正後の距離画像、すなわち、最適距離画像が取得される。なお、図14では、距離画像の所定サイズの画素領域を、5画素×5画素として説明したが、これに限定されることはなく、他のサイズの画素領域を設定し、各画素の信頼度を用いたフィルタ処理を行ってもよいことは言うまでもない。
なお、距離画像補正部32での距離補正方法として、以下の方法を用いて補正処理を行ってもよい。
距離画像補正部32において、距離画像の注目画素(対象距離画素)P(i,j)を中心にもつ所定サイズの画素領域(距離画像上の画素領域)内の画素の距離情報(距離データ)に対して、最大の信頼度をもつ画素の距離情報(距離データ)を改めて注目画素P(i,j)の距離情報として採用することで補正処理を実行する。
【0119】
また、距離画像補正部32において、距離画像の注目画素(処理対象距離画素)P(i,j)を中心にもつ所定サイズの画素領域(距離画像上の画素領域)内の画素の距離情報(距離データ)の信頼度を重みとした平均値(重付平均値)AveL(i,j)と、注目画素の距離情報L(i,j)とを2変数にもつ所定の非線形関数を用いて求めた値を、改めて注目画素の距離情報として採用することによって補正処理を実行するようにしてもよい。
以上のように、距離推定装置300では、距離画像の各画素の距離情報あるいは反射光の強度に応じて、距離画像の当該画素における距離情報(距離画像データの値)の確からしさを表す信頼度を算出し、算出した信頼度をもとに距離画像データを補正することによって、最適距離画像を取得することができる。したがって、距離推定装置300では、受光素子部3の撮像素子の画素で取得された反射光のレベル(反射波の振幅)が小さい場合であっても、その受光素子部3の撮像素子の画素に相当する距離画像の画素において、距離情報を信頼度に基づいて補正することができるので、距離画像における距離推定精度の低下を効果的に抑制することができる。
【0120】
以上により、距離推定装置300では、精度の高い距離画像を取得することができる。
[他の実施形態]
上記実施形態を任意に組み合わせて本発明を実施してもよい。
例えば、(1)空間方向での補正処理(空間方向での相関性を利用した補正処理)を実現する上記第1実施形態の距離推定装置と、(2)時間方向での補正処理(時間方向での相関性を利用した補正処理(動きベクトルを用いた補正処理))を実現する上記第2実施形態の距離推定装置と、(3)さらに、信頼度を用いた処理を行う上記第3実施形態の距離推定装置を組み合わせることによって、本発明を実施してもよい。
このように上記第1〜第3実施形態の機能を組み合わせた距離推定装置では、距離分解能精度の低い画素(距離画像の画素)を信頼度に基づき自動判別して、時間・空間方向での補正処理(フィルタ処理等)を行うことによって、注目画素(対象画素)の周辺画素の距離情報を用いて、注目画素の距離情報を補正することができる。これにより、距離分解能精度の低い画素(距離画像画素)の距離精度(距離推定精度)を向上させることができる。
【0121】
また、上記実施形態では、受光素子部および撮像素子部の撮像素子として、CCDを用いる場合を想定しているが、これに限定されることはなく、例えば、CMOS型イメージセンサ等を用いてもよい。
また、本願発明により取得された距離画像に基づいて、左目用視差画像(ステレオ画像の左目用視差画像)および右目用視差画像(ステレオ画像の右目用視差画像)を生成し、生成した左目用視差画像および右目用視差画像により3次元表示装置等において、3次元画像(映像)表示を行うようにしてもよい。また、本願発明の距離測定装置と、3次元表示装置と、を備える3次元表示システムにおいて、本願発明の距離測定装置により取得した距離画像に基づいて、左目用視差画像(ステレオ画像の左目用視差画像)および右目用視差画像(ステレオ画像の右目用視差画像)を生成し、生成した左目用視差画像および右目用視差画像により3次元表示装置において、画像(映像)を3次元表示するようにしてもよい。
【0122】
また、本願発明の距離測定装置に、3次元画像生成部を追加し、3次元画像生成部において、本願発明の距離測定装置により取得した距離画像に基づいて、左目用視差画像(ステレオ画像の左目用視差画像)および右目用視差画像(ステレオ画像の右目用視差画像)を生成し、生成した左目用視差画像および右目用視差画像を出力するようにしてもよい。これにより、3次元画像生成部を追加した距離測定装置から出力される左目用視差画像および右目用視差画像を用いて、例えば、3次元表示装置により、3次元画像(映像)表示を行うことができる。
ここで、左目用視差画像(ステレオ画像の左目用視差画像)および右目用視差画像(ステレオ画像の右目用視差画像)は、距離情報が判明している場合、参照とする画像内の画素位置(x,y)における画素p(x,y)の距離情報z(x,y)に応じて、画素pを左右にずらすことにより生成することが可能である。なお、距離情報z(x,y)は所定の基準からの相対距離(奥行き値)でもよい。また、所定の基準点と各画像内の画素の距離情報との関係をもとに、三角測量等の幾何学的手法で対応する画素の視差量を求めることもできる。
【0123】
また、上記実施形態において説明した本発明の距離推定方法および距離推定装置は、例えば、コンピュータ、テレビ、デジタルカメラ、携帯電話、PDA、カーTVなど、画像を取り扱う機器に内臓、あるいは接続して用いられる装置であり、LSIなどの集積回路として実現される。
より詳しくは、上記各実施形態の距離推定装置は、個別に1チップ化させてもよいし、一部または全てを含むように1チップ化されてもよい。なお、ここでは、LSIとしたが、集積度の違いに基づき、IC、システムLSI、スーパーLSI、ウルトラLSIと呼称されることもある。
また、集積回路の手法にはLSIに限るものではなく、専用回路または汎用プロセッサを用いて実現することも可能である。LSI製造後に、プログラムすることが可能なFPGA(Field Programmable Gate Array)あるいは、LSI内部の回路セルの接続あるいは設定を再構成可能なリコンフィギュラブル・プロセッサを利用することも可能である。
【0124】
さらに、半導体技術の進歩または派生する別技術を用いてLSIに置き換わる集積回路化の技術が登場すれば、当然、その技術を用いて機能ブロックの集積化を行ってもよい。バイオ技術の適用等が可能性としてありえる。
また、上記各実施形態の各機能ブロックの処理は、プログラムを用いて実現されるものであってもよい。上記実施形態の各機能ブロックの処理は、例えば、コンピュータにおいて、中央演算装置(CPU)を用いて行われる。また、それぞれの処理を行うためのプログラムは、ハードディスク、ROMなどの記憶装置に格納されており、ROMにおいて、あるいはRAMに読み出されて実行される。
また、上記実施形態の各処理をハードウェアにより実現してもよいし、ソフトウェアにより実現してもよい。さらに、ソフトウェアおよびハードウェアの混在処理により実現してもよい。なお、上記実施形態に係る距離推定装置をハードウェアにより実現する場合、各処理を行うためのタイミング調整を行う必要があるのは言うまでもない。上記実施形態においては、説明便宜のため、実際のハードウェア設計で生じる各種信号のタイミング調整の詳細については省略している。
【0125】
なお、本発明の具体的な構成は、前述の実施形態に限られるものではなく、発明の要旨を逸脱しない範囲で種々の変更および修正が可能である。
【産業上の利用可能性】
【0126】
本発明の距離推定装置、距離推定方法、プログラム、集積回路およびカメラは、画素数の少ない撮像素子(CCD等)により取得した距離情報に基づいて、撮像素子(CCD等)の画素間での距離情報を補間・推定することで、TOF方式による距離画像の高解像度化(高精度化)を実現することができる。そして、得られた距離情報は、ムービーあるいはDSC等で撮影された画像表示のより自然な立体感表示目的に有効である。したがって、本発明は、映像関連分野において有用であり、当該分野において実施することができる。
【符号の説明】
【0127】
100、200、300 距離推定装置
10 発光源
9 発光源制御部
1 受光光学系
11 色分解プリズム
2 受光素子部
3 電荷集積部
4 制御部
5 信号演算部
6画像生成部
7 最適距離情報取得部
8 距離画像保持メモリ部
12 撮像素子部
13 カラー画像生成部
14 輪郭抽出部
15 最適距離画像生成部
21 カラー画像保持メモリ部
22 動きベクトル検出部
23 距離画像補正部
31 距離信頼度算出部
32 距離画像補正部
【技術分野】
【0001】
本発明は、ムービーあるいはDSC(Digital Still Camera)等の撮像装置で撮影された画像の奥行き感・立体感を向上させるために、対象空間を撮像し、対象空間に存在する対象物までの距離を推定する装置および方法に関するものである。
【背景技術】
【0002】
空間の3次元計測技術は、多くの分野において応用が期待されており、種々の手法を用いて実用化が試みられている。その手法の中で代表的な手法として、レーザスリット光のスキャンによる光切断方法や、ステレオ視による方法に代表される三角測量法や、あるいは、照明光を測定対象物体に照射し、照射した光が測定対象物体から戻ってくるまでの時間TOF(Time Of Flight)を計測することによって距離を測定するTOF法等がある。
三角測量法を用いて空間の3次元計測を行う場合、対象空間(撮像する対象である3次元空間)の3次元情報を得るために対象空間において光を走査する必要があり、対象空間全体について3次元情報が得られるまでには比較的長い時間が必要となる。このため、三角測量法は、移動物体を追跡するような用途には不向きであるとされている。
【0003】
これに対して、TOF法を用いて空間の3次元計測を行う場合、三角測定法のようなレーザービーム走査を行う必要がない。このため、TOF法による空間の3次元計測では、テレビ画像(撮像画像)の画素単位で被写体までの距離(撮像装置から被写体までの距離)を高速に検出でき、また、距離測定範囲も比較的広く設定することができる(距離測定範囲を約3m以上に設定することができる)。さらに、TOF法による空間の3次元計測では、レーザ光源の代わりに、LED光源を使用できるため、人物も安全に撮影することができる。このような利点より、TOF法による3次元計測技術について、種々の方法が報告されるとともに、距離センサとして製品化された例も報告されている。
TOF法は、(数式1)を用いて3次元空間内の距離を測定する。測定基準ポイント−被測定ポイント間の距離Lは、次式を用いて求められる。
【0004】
【数1】
【0005】
ここで、cは光の速度であり、c=3.0×10^8[m/sec]である。Δtは、測定基準ポイントに存在する光源から照射された光が、被測定ポイントにある測定対象に照射され、測定対象からの反射光が測定基準ポイントである光源まで戻ってくるまでの時間である。すなわち、Δtは、光源から測定対象までの、光の往復時間である。
TOF法の方法として多くの方式があり、代表的なものとして、位相TOF方式とパルスTOF方式とがある。
位相TOF方式は、主に強度変調された光線を、測定対象に照射して、対象物からの反射光を検出して光電子変換を行い、変換された光電子を複数の蓄積部のいずれかに時間的にずらして蓄積し、これらの蓄積部に蓄積された光電子数に応じて距離情報を生成する方式である。
【0006】
パルスTOF方式は、パルス状の光線を測定対象物に照射して、測定対象物からの反射光と測定光線との位相差に基づいて距離を求める方式であり、測定光線を2次元的に走査し、各点の距離を測定して3次元の形状を測定する方式である。
位相TOF方式では、(数式1)におけるΔtの代わりに、位相量Δφを用いて距離の測定を行う。位相TOF方式では、最大検出距離Lmaxは、位相量Δφが2πとなる場合(ΔtでいえばT:変調強度の1周期時間)に相当し、次式を用いて求められる。つまり、最大検出距離Lmaxは、測定光線の変調周波数fに依存し、次式によって決定される。
【0007】
【数2】
【0008】
そして、位相量Δφにおける検出距離Lは、(数式3)のようになる。
【0009】
【数3】
【0010】
この場合、(数式2)により、測定対象物までの距離が、測定光線の強度変調の周期に対応する波長以上の場合には、原理的に距離算出結果を一意に決定できない(すなわち、測定対象物までの距離を特定することができない)という問題がある。
一方、パルスTOF方式では、測定光線を2次元で走査して距離画像を得るためには、光源から発光されるレーザ光等の測定光線を揺動ミラーあるいはポリゴンミラーを用いて上下左右に物理的に走査する必要があるため、距離画像の取得時間が長くなるという問題がある。
現状では、位相TOF方式に類する方式を用いて空間の3次元計測を実行する技術が多く存在する(例えば、特許文献1、2参照)。以下、位相TOF方式を利用した従来の距離推定装置(従来例1および従来例2)について説明する。
【0011】
≪従来例1≫
まず、従来例1(特許文献1の技術)について、説明する。
図18は、従来例1の距離推定装置900の構成を示すブロック図である。距離推定装置900は、振幅変調された照明光S906で被写体OBJ1を照明することが可能な投光部902と、撮像利得を時間とともに変化させて被写体からの反射光S907を受光し、被写体の光学像を撮像することが可能な撮像部903と、を備える。また、距離推定装置900は、撮像部903からの映像信号S904を立体情報信号S905に変換するための信号処理部904と、照明光変調信号S901、撮像利得変調信号S902、制御信号S903aおよびS903bを発生するための信号発生部901と、を備える。
図19は、従来例1の距離推定装置900での距離検出処理の概要を模式的に示した図である。
【0012】
図19に示すように、距離推定装置900では、高速に光強度が変調された赤外光を被写体に照射し、被写体からの反射光を超高速シャッターで撮影する。
図19の上側部分(図19のEx901)に模式的に示すように、距離推定装置900は、時間が経過するにつれ光強度が減少するように変調された照明光(測定光線)(例えば、図19においてtr1で示す期間において光強度変調された照明光)を被写体O1およびO2に対して照射する。そして、距離推定装置900は、被写体O1およびO2からの反射光を、距離推定装置900において、所定のシャッタータイミングおよびシャッター時間(図19にts1として示したシャッター時間)において取得し、撮像画像に変換する。被写体O1およびO2からの反射光は、光強度が時間に対して減少するように変調されているので、距離推定装置(カメラ)900に近い被写体O1からの反射光の光強度は大きく、距離推定装置900から遠い被写体O2からの反射光の光強度は小さい。照明光は、光強度が時間に対して減少するように変調されているので、光の飛行時間(距離推定装置900から照射された光が被写体O1で反射し、距離推定装置900に戻ってくるまでの時間)が短い被写体O1からの反射光の光強度は大きく(光強度の減少量が小さく)、光の飛行時間が長い被写体O2からの反射光の光強度は小さい(光強度の減少量が大きい)。
【0013】
このため、被写体O1およびO2からの反射光を、距離推定装置900において、所定のシャッタータイミングおよびシャッター時間(図19にts1で示したシャッター時間)において取得し、撮像画像Aにおいて、照明光の飛行時間が短い被写体O1の像I1は明るく、被写体O2の像I2は暗くなる。つまり、撮像画像Aにおいて、距離情報が画像の輝度として表現される。
しかし、この撮像画像Aの輝度は、被写体の反射率あるいは照射光量の空間的ムラ、また拡散反射光量の距離による減衰効果などの影響を受けている。
そこで、距離推定装置900では、これらの影響を補正するために、以下の処理を行う。
図19の下側部分(図19のEx902)に模式的に示すように、距離推定装置900は、時間が経過するにつれ光強度が増加するように変調された照明光(測定光線)(例えば、図19においてtr2で示す期間において光強度変調された照明光)を被写体O1およびO2に対して照射する。そして、距離推定装置900は、被写体O1およびO2からの反射光を、距離推定装置900において、所定のシャッタータイミングおよびシャッター時間(図19にts2で示したシャッター時間)において取得し、撮像画像に変換する。被写体O1およびO2からの反射光は、光強度が時間に対して増加するように変調されているので、距離推定装置(カメラ)900に近い被写体O1からの反射光の光強度は小さく、距離推定装置900から遠い被写体O2からの反射光の光強度は大きい。
【0014】
このため、被写体O1およびO2からの反射光を、距離推定装置900において、所定のシャッタータイミングおよびシャッター時間(図19にts2で示したシャッター時間)において取得し、撮像画像Bにおいて、照明光の飛行時間が短い被写体O1の像I1は暗く、被写体O2の像I2は明るくなる。つまり、撮像画像Bにおいて、距離情報が画像の輝度として表現される。
距離推定装置900では、上記のようにして取得した撮像画像Aと撮像画像Bとの間の輝度比をとることによって、反射率等の影響を補正した距離画像(図19の距離画像C)を生成する。
距離推定装置900では、このように、撮影された2枚の画像の除算によりTOFを求めることができるため、理論的には、赤外光の拡散、被写体の反射率、反射方向の向きあるいは背景光の影響をキャンセルすることができる。しかし、距離推定装置900では、被写体からの反射光の光強度をある程度確保する必要があるため、複数の発光ダイオードからなる発光ダイオードアレイによる光源等を用いる必要があり、装置の構成が大きくなるという欠点がある。
【0015】
≪従来例2≫
次に、従来例2(特許文献2の技術)について、説明する。
図20は、従来例2の距離推定装置950の構成を示すブロック図である。距離推定装置950は、対象空間に照明光S9511を照射する発光源951と、対象空間からの光を受光し受光光量を反映した出力値の電気信号を出力する光検出素子952と、発光源951および光検出素子952を制御する制御回路部953と、光検出素子952からの出力に対して画像生成処理を行う画像生成部954と、を備える。また、距離推定装置950は、受光光学系955を備える。光検出素子952は、図20に示すように、複数の感光部9521、複数の感度制御部9522、複数の電荷集積部9523および電荷取出部9524を有している。
【0016】
発光源951は、対象空間に所定周期の変調信号で変調された光を照射し、光検出素子952は、対象空間を撮像する。画像生成部954は、発光源951から対象空間に照射された光と、対象空間内の対象物OBJ2で反射され光検出素子952で受光される反射光との変調信号の位相差に基づいて対象物OBJ2までの距離を求める。
光検出素子952に設けた各感光部9521は、制御回路部953によって対象空間からの光を受光する受光期間が制御される。各感光部9521では、変調信号の異なる位相に同期した受光期間に受光する。光検出素子952からは変調信号の1周期以上の期間である検出期間ごとに集積した電荷が画像生成部954に与えられ、画像生成部954は、複数の検出期間の電荷量を受光期間別に積算した電荷量を用いて距離を求める。
図21は、従来例2の距離推定装置950の距離検出方法を模式的に示すものである。
【0017】
従来例2の距離推定装置950では、正弦波y(t)=a×sin(2πt/T)+bに光強度変調された赤外光(照明波)の変調周期に同期させて、所定のタイミングで受光信号(反射波)をサンプリングすることにより、受光信号の位相量を導出するものである。つまり、従来例2の距離推定装置950では、変調周期1周期あたり4点(例えば、図21のA0点,A1点,A2点,A3点の4点)のサンプリングを行い、(数式4)を用いて、位相シフト量Ψを導出する。
【0018】
【数4】
【0019】
従来例2の距離推定装置950では、上記の位相シフト量Ψの導出処理を、受光部と復調部を一体化した特殊CCD撮像素子を用い、その駆動方法を工夫することにより、高い開口率による距離検出処理を実現している。従来例2の距離推定装置950は、小型で高分解能であるが、撮像画像(映像)が低解像度・低フレームレートであるという欠点を持つ。
【先行技術文献】
【特許文献】
【0020】
【特許文献1】特開2000−121339号公報
【特許文献2】特開2006−84429号公報
【発明の概要】
【発明が解決しようとする課題】
【0021】
TOF方式を用いて距離画像の高精度化を実現する場合、距離推定装置において、光検出素子を増やすことによって、距離推定装置において取得される距離画像の高解像度化等を実現することが考えられる。しかし、この場合、光検出素子を構成する1つ1つの感光部に入射する光(反射光)の量が少なくなるので(撮像素子(CCD等)の各画素への入射光量が少なくなるので)、光検出素子を構成する各感光部において取得される信号の信号レベルが小さくなる。
また、光電効果に対応した電荷量に含まれるランダムノイズ(ショットノイズ)Ss(光電変換により発生するショットノイズSs)は、電荷量Nsの1/2乗に比例することから、撮像素子(CCD等)の各画素への入射光量が少なくなると、撮像素子の各画素において取得される電荷量に含まれるノイズ(ショットノイズ)の比率が高くなる。つまり、撮像素子(CCD等)の各画素への入射光量が少なくなると、撮像素子の各画素において取得される信号のS/N比は低下することとなる。その結果、距離精度の低下が生じることとなる。
【0022】
これに対して、以下の対応策が考えられる。
(1)LED(照明光の発光源)の発光量を大きくする。
(2)電荷の検出期間(1周期以上)を長くして、撮像素子の各画素において確保される光電荷量を増やす。
これらの対応策を行った場合、撮像素子の各画素の蓄積電荷量は大きくなる。この場合、ショットノイズも上記で説明した原理に基づき増えるが、電荷量Ns(被写体からの反射光を光電変換して取得される電荷量(信号成分の電荷量))とショットノイズSsとの比率SN=Ns/Ssは、電荷量Nsが大きいほど大きくなる。
撮像素子の各画素に蓄積される電荷量において、環境光等は、撮像素子において光電変換されることにより、電荷量に依存しない定常ノイズとなる。したがって、電荷量のS/N比は、電荷量Ns(信号成分の電荷量)と、電荷量Nsの1/2乗に比例するショットノイズSsと、環境光等に対応する定常ノイズと、により決定される。このため、電荷量Nsが大きくなるほど、電荷量のS/N比が良くなり、撮像素子において取得される信号のS/Nも良くなる。その結果、距離推定装置における距離測定の距離分解能が向上する。
【0023】
しかし、環境光等の定常ノイズは、反射光の電荷量(電荷量Ns)よりもずっと大きい値になるため、距離推定装置の光源の発光量を大きくした場合、撮像素子(CCD等)の各画素において、飽和が発生しやすくなる。また、実用上の制約(規模・電力等)の問題が発生する。
さらに、撮像素子(CCD等)の各画素での電荷蓄積期間を延ばした場合、定常ノイズ成分が大きくなる。このため、各画素において電荷蓄積された電荷量のS/N比は低くなり、多量のノイズ成分の中に微小量の信号成分(電荷量Nsに相当)が存在することとなる。
また、光検出素子を構成する撮像素子の各画素(感光部)において、電荷蓄積に対するキャパシティには限界があるため、飽和が発生する可能性が高くなる。光検出素子において飽和現象が発生すると、感光部の受光光量は、光強度変調した光との相関性がなくなるので、当該感光部に対応する画素から取得される信号に基づいて距離を正確に求めることができなくなる。
【0024】
本発明は、上記問題点に鑑み、画素数の少ない撮像素子(CCD等)を用いて取得した距離情報に基づいて、撮像素子(CCD等)の画素間での距離情報を補間・推定することによって、TOF方式による距離画像の高解像度化を実現する距離推定装置、距離推定方法、プログラムおよび集積回路を実現することを目的とする。また、反射光の振幅もしくは距離画像データ自体の値をもとに、精度の不足した画素での距離情報を補正することによって、距離画像データの精度改善を行うことができる距離推定装置、距離推定方法、プログラムおよび集積回路を実現することを目的とする。
【課題を解決するための手段】
【0025】
第1の発明は、光強度変調された光を対象物に照射し、対象物からの反射光を用いて対象物までの距離を推定する距離推定装置であって、光源と、発光源制御部と、受光光学系と、色分解部と、受光素子部と、電荷集積部と、信号演算部と、距離画像生成部と、撮像素子部と、高解像度画像生成部と、輪郭情報抽出部と、距離画像補正部と、を備える。
光源は、光強度変調可能な光を照射する。発光源制御部は、光源を制御する。受光光学系は、対象物からの光を集光する。色分解部は、受光光学系で受光した光を、周波数に基づき、第1光成分の光と、第2光成分の光とに分離する。受光素子部は、色分解部により分離された第2光成分の光を電荷に変換する。電荷集積部は、受光素子部で取得された電荷を集積し、電荷信号を取得する。信号演算部は、電荷信号に基づいて、距離情報を算出する。距離画像生成部は、距離情報に基づいて、第1の画素数を持つ距離画像を生成する。撮像素子部は、色分解部により分離された第2光成分の光を画像生成用電荷信号に変換する。高解像度画像生成部は、撮像素子部により変換された画像生成用電荷信号に基づいて第1の画素数より多い画素数の高解像度画像を生成する。輪郭情報抽出部は、高解像度生成部により生成された高解像度画像から輪郭情報を抽出する。距離画像補正部は、距離画像の注目画素の距離情報を、距離画像において注目画素の周辺に存在する画素である周辺画素および輪郭情報抽出部により抽出された輪郭情報に基づいて、補正する。
【0026】
この距離推定装置では、受光素子部により取得された画素数の少ない距離画像の距離情報において、画素数の多い高解像画像の輪郭情報を用いて、距離画像の画素間での距離情報を補間・推定することで、高精度の距離画像を取得することができる。これにより、受光素子部で用いられる撮像素子(CCD等)の画素数を増やすことなく、距離推定精度を高めることができる。
なお、「注目画素」とは、距離推定装置において、処理対象となっている画素のことをいう。
第2の発明は、第1の発明であって、距離画像補正部は、距離画像の注目画素に相当する高解像度画像の画像領域内に輪郭情報がある場合、距離画像中の輪郭情報がある位置情報Pos(x,y)を特定し、位置情報Pos(x,y)と周辺画素との位置関係に基づき周辺画素の距離情報に重み付けを行い、さらに、重み付けをした周辺画素の距離情報を用いて、位置情報Pos(x,y)の距離情報を算出し、算出した位置情報Pos(x,y)の距離情報を、注目画素の距離情報に置換することによって、距離画像の注目画素の距離情報を補正する。
【0027】
この距離推定装置では、距離画像の注目画素内に高解像度画像から抽出した輪郭情報がある場合、当該注目画素の距離情報は、精度が低い可能性があるので、注目画素の周囲の画素の距離情報に基づいて補間した距離情報(補間距離情報)を求め、当該注目画素の距離情報として採用する。
したがって、この距離推定装置では、受光素子部の撮像素子(距離推定用の撮像素子)の画素数を増やすことなく、高精度の距離画像(距離情報)を取得することができる。
第3の発明は、第1の発明であって、距離画像補正部は、距離画像の注目画素に相当する高解像度画像の画像領域内に輪郭情報がある場合、距離画像中の輪郭情報に基づいて、注目画素を分割し、分割した画素に対して、それぞれ、距離画像上の位置が近い注目画素の周辺画素の距離情報を用いて、注目画素を分割した画素の距離情報を算出することによって、距離画像の注目画素の距離情報を補正する。
【0028】
この距離推定装置では、輪郭情報がある注目画素において、輪郭情報に基づいて、画素分割を行い、分割した画素の距離情報を、それぞれ、相関性の高い隣接画素の距離情報に基づいて補間した値とするので、この距離推定装置により取得される距離情報(距離画像)の精度を向上させることができる。
第4の発明は、光強度変調された光を対象物に照射し、対象物からの反射光を用いて対象物までの距離を推定する距離推定装置であって、光源と、発光源制御部と、受光光学系と、色分解部と、受光素子部と、電荷集積部と、信号演算部と、距離画像生成部と、距離画像記憶部と、撮像素子部と、高解像度画像生成部と、高解像度画像記憶部と、ベクトル検出部と、距離画像補正部と、を備える。
光源は、光強度変調可能な光を照射する。発光源制御部は、光源を制御する。受光光学系は、対象物からの光を集光する。色分解部は、受光光学系で受光した光を、周波数に基づき、第1光成分の光と、第2光成分の光とに分離する。受光素子部は、色分解部により分離された第2光成分の光を電荷に変換する。電荷集積部は、受光素子部で取得された電荷を集積し、電荷信号を取得する。信号演算部は、電荷信号に基づいて、距離情報を算出する。距離画像生成部は、距離情報に基づいて、第1の画素数を持つ距離画像を生成する。距離画像記憶部は、距離画像を記憶する。撮像素子部は、色分解部により分離された第2光成分の光を画像生成用電荷信号に変換する。高解像度画像生成部は、撮像素子部により変換された画像生成用電荷信号に基づいて第1の画素数より多い画素数の高解像度画像を生成する。高解像度画像記憶部は、高解像度画像を記憶する。動きベクトル検出部は、高解像度画像生成部により、所定の単位時刻tに取得された高解像度画像Img_color(t)と、高解像度画像記憶部に記憶されている所定の単位時刻tより前の時刻(t−α)に取得された高解像度画像Img_color(t−α)と、を比較することにより動きベクトルを検出する。距離画像補正部は、距離画像生成部により、所定の単位時刻tに取得された距離画像Img_distance(t)と、距離画像記憶部に記憶されている所定の単位時刻tより前の時刻(t−α)に取得された距離画像Img_distance(t−α)と、動きベクトル検出部により検出された動きベクトルに基づいて、距離画像の注目画素の距離情報を補正する。
【0029】
この距離推定装置では、高解像度画像に基づいて求めた動きベクトルに基づいて、現時刻の距離画像を補正することができるので、受光素子部2の撮像素子(距離推定用の撮像素子)の画素数を増やすことなく、距離画像の高精度化を実現することができる。
なお、「所定の単位時刻」とは、例えば、フレーム単位で動きベクトルの検出処理を行う場合、1フレームに相当する時間のことをいう。また、フレーム単位で動きベクトルの検出処理を行う場合、「Img_color(t)」は、時刻tでのフレーム画像を意味し、「Img_color(t−α)」は、時刻tからαフレーム時間前のフレーム画像を意味する(距離画像についても同様)。
第5の発明は、光強度変調された光を対象物に照射し、対象物からの反射光を用いて対象物までの距離を推定する距離推定装置であって、光源と、発光源制御部と、受光光学系と、受光素子部と、電荷集積部と、信号演算部と、距離画像生成部と、距離信頼度算出部と、距離画像補正部と、を備える。
【0030】
光源は、光強度変調可能な光を照射する。発光源制御部は、光源を制御する。受光光学系は、対象物からの光を集光する。受光素子部は、受光光学系により受光した光を電荷に変換する。電荷集積部は、受光素子部で取得された電荷を集積し、電荷信号を取得する。信号演算部は、電荷信号に基づいて、距離情報を算出する。距離画像生成部は、距離情報に基づいて、距離画像を生成する。距離信頼度算出部は、少なくとも距離情報および電荷信号のいずれか一方に基づいて、距離画像の各画素の信頼度を算出する。距離画像補正部は、距離信頼度算出部により算出された信頼度に基づいて、距離画像の各画素の距離情報を補正する。
この距離推定装置では、距離画像の各画素の距離情報あるいは反射光の強度に応じて、距離画像の当該画素における距離情報(距離画像データの値)の確からしさを表す信頼度を算出し、算出した信頼度をもとに距離画像データを補正することによって、最適距離画像を取得することができる。したがって、この距離推定装置では、受光素子部の撮像素子の画素において取得された反射光のレベル(反射波の振幅)が小さい場合であっても、その受光素子部の撮像素子の画素に相当する距離画像の画素において、距離情報を信頼度に基づいて補正することができるので、距離画像における距離推定精度の低下を効果的に抑制することができる。
【0031】
第6の発明は、第5の発明であって、信頼度算出部は、注目画素の距離情報が大きい値であるほど、信頼度の値が小さくなるように、信頼度を算出する。
第7の発明は、第5または第6の発明であって、信頼度算出部は、注目画素に対応する電荷信号の振幅値が小さいほど、信頼度の値が小さくなるように、信頼度を算出する。
第8の発明は、光強度変調された光を対象物に照射し、対象物からの反射光を用いて対象物までの距離を推定する距離推定方法であり、光強度変調可能な光を照射する光源と、対象物からの光を集光する受光光学系と、受光光学系で受光した光を、周波数に基づき、第1光成分の光と、第2光成分の光とに分離する色分解部と、色分解部により分離された第2光成分の光を電荷に変換する受光素子部と、受光素子部において取得された電荷を集積し、電荷信号を取得する電荷集積部と、色分解部により分離された前記第2光成分の光を画像生成用電荷信号に変換する撮像素子部と、を備える、距離推定装置に用いられる距離推定方法である。そして、当該距離推定方法は、発光源制御ステップと、信号演算ステップと、距離画像生成ステップと、高解像度画像生成ステップと、輪郭情報抽出ステップと、距離画像補正ステップと、を備える。
【0032】
発光源制御ステップでは、光源を制御する。信号演算ステップでは、電荷信号に基づいて、距離情報を算出する。距離画像生成ステップでは、距離情報に基づいて、第1の画素数を持つ距離画像を生成する。高解像度画像生成ステップでは、撮像素子部により変換された画像生成用電荷信号に基づいて第1の画素数より多い画素数の高解像度画像を生成する。輪郭情報抽出ステップでは、高解像度画像生成ステップにより生成された高解像度画像から輪郭情報を抽出する。距離画像補正ステップでは、距離画像の注目画素の距離情報を、距離画像において注目画素の周辺に存在する画素である周辺画素および輪郭情報抽出ステップにより抽出された輪郭情報に基づいて、補正する。
これにより、第1の発明と同様の効果を奏する距離推定方法を実現することができる。
第9の発明は、光強度変調された光を対象物に照射し、対象物からの反射光を用いて対象物までの距離を推定する距離推定方法であり、光強度変調可能な光を照射する光源と、対象物からの光を集光する受光光学系と、受光光学系で受光した光を、周波数に基づき、第1光成分の光と、第2光成分の光とに分離する色分解部と、色分解部により分離された第2光成分の光を電荷に変換する受光素子部と、受光素子部で取得された電荷を集積し、電荷信号を取得する電荷集積部と、色分解部により分離された前記第2光成分の光を画像生成用電荷信号に変換する撮像素子部と、を備える距離推定装置に用いられる距離推定方法である。この距離推定方法は、発光源制御ステップと、信号演算ステップと、距離画像生成ステップと、距離画像記憶ステップと、高解像度画像生成ステップと、高解像度画像記憶ステップと、動きベクトル検出ステップと、距離画像補正ステップと、を備える。発光源制御ステップでは、光源を制御する。信号演算ステップでは、電荷信号に基づいて、距離情報を算出する。距離画像生成ステップでは、距離情報に基づいて、第1の画素数を持つ距離画像を生成する。距離画像記憶ステップでは、距離画像を記憶する。高解像度画像生成ステップでは、撮像素子部により変換された画像生成用電荷信号に基づいて第1の画素数より多い画素数の高解像度画像を生成する。高解像度画像記憶ステップでは、高解像度画像を記憶する。動きベクトル検出ステップでは、高解像度画像生成ステップにより、所定の単位時刻tに取得された高解像度画像Img_color(t)と、高解像度画像記憶ステップで記憶された所定の単位時刻tより前の時刻(t−α)に取得された高解像度画像Img_color(t−α)と、を比較することにより動きベクトルを検出する。距離画像補正ステップは、距離画像生成ステップにより、所定の単位時刻tに取得された距離画像Img_distance(t)と、距離画像記憶ステップで記憶された所定の単位時刻tより前の時刻(t−α)に取得された距離画像Img_distance(t−α)と、動きベクトル検出ステップにより検出された動きベクトルに基づいて、距離画像の注目画素の距離情報を補正する。
【0033】
これにより、第4の発明と同様の効果を奏する距離推定方法を実現することができる。
第10の発明は、光強度変調された光を対象物に照射し、対象物からの反射光を用いて対象物までの距離を推定する距離推定方法であり、光強度変調可能な光を照射する光源と、対象物からの光を集光する受光光学系と、受光光学系により受光した光を電荷に変換する受光素子部と、受光素子部で取得された電荷を集積し、電荷信号を取得する電荷集積部と、を備える距離推定装置に用いられる距離推定方法である。この距離推定装置方法は、発光源制御ステップと、信号演算ステップと、距離画像生成ステップと、距離信頼度算出ステップと、距離画像補正ステップと、を備える。
発光源制御ステップでは、光源を制御する。信号演算ステップでは、電荷信号に基づいて、距離情報を算出する。距離画像生成ステップでは、距離情報に基づいて、距離画像を生成する。距離信頼度算出ステップでは、少なくとも距離情報および電荷信号のいずれか一方に基づいて、距離画像の各画素の信頼度を算出する。距離画像補正ステップでは、距離信頼度算出ステップにより算出された信頼度に基づいて、距離画像の各画素の距離情報を補正する。
【0034】
これにより、第5の発明と同様の効果を奏する距離推定方法を実現することができる。
第11の発明は、第8の発明の距離推定方法を、コンピュータに実行させるプログラムである。
これにより、第1の発明と同様の効果を奏するプログラムを実現することができる。
第12の発明は、第9の発明の距離推定方法を、コンピュータに実行させるプログラムである。
これにより、第4の発明と同様の効果を奏するプログラムを実現することができる。
第13の発明は、第10の発明の距離推定方法を、コンピュータに実行させるプログラムである。
これにより、第5の発明と同様の効果を奏するプログラムを実現することができる。
【0035】
第14の発明は、光強度変調された光を対象物に照射し、対象物からの反射光を用いて対象物までの距離を推定する距離推定装置に用いられる集積回路であり、光強度変調可能な光を照射する光源と、対象物からの光を集光する受光光学系と、受光光学系で受光した光を、周波数に基づき、第1光成分の光と、第2光成分の光とに分離する色分解部と、色分解部により分離された第2光成分の光を電荷に変換する受光素子部と、受光素子部で取得された電荷を集積し、電荷信号を取得する電荷集積部と、色分解部により分離された前記第2光成分の光を画像生成用電荷信号に変換する撮像素子部と、を備える距離推定装置に用いられる集積回路である。この集積回路は、発光源制御部と、信号演算部と、距離画像生成部と、高解像度画像生成部と、輪郭情報抽出部と、距離画像補正部と、を備える。
発光源制御部は、光源を制御する。信号演算部は、電荷信号に基づいて、距離情報を算出する。距離画像生成部は、距離情報に基づいて、第1の画素数を持つ距離画像を生成する。高解像度画像生成部は、撮像素子部により変換された画像生成用電荷信号に基づいて第1の画素数より多い画素数の高解像度画像を生成する。輪郭情報抽出部は、高解像度生成部により生成された高解像度画像から輪郭情報を抽出する。距離画像補正部は、距離画像の注目画素の距離情報を、距離画像において注目画素の周辺に存在する画素である周辺画素および輪郭情報抽出部により抽出された輪郭情報に基づいて、補正する。
【0036】
これにより、第1の発明と同様の効果を奏する集積回路を実現することができる。
第15の発明は、光強度変調された光を対象物に照射し、対象物からの反射光を用いて対象物までの距離を推定する距離推定装置に用いられる集積回路であり、光強度変調可能な光を照射する光源と、対象物からの光を集光する受光光学系と、受光光学系で受光した光を、周波数に基づき、第1光成分の光と、第2光成分の光とに分離する色分解部と、色分解部により分離された第2光成分の光を電荷に変換する受光素子部と、受光素子部で取得された電荷を集積し、電荷信号を取得する電荷集積部と、色分解部により分離された前記第2光成分の光を画像生成用電荷信号に変換する撮像素子部と、を備える距離推定装置に用いられる集積回路である。この集積回路は、発光源制御部と、信号演算部と、距離画像生成部と、距離画像記憶部と、高解像度画像生成部と、高解像度画像記憶部と、ベクトル検出部と、距離画像補正部と、を備える。
【0037】
発光源制御部は、光源を制御する。信号演算部は、電荷信号に基づいて、距離情報を算出する。距離画像生成部は、距離情報に基づいて、第1の画素数を持つ距離画像を生成する。距離画像記憶部は、距離画像を記憶する。高解像度画像生成部は、撮像素子部により変換された画像生成用電荷信号に基づいて第1の画素数より多い画素数の高解像度画像を生成する。高解像度画像記憶部は、高解像度画像を記憶する。動きベクトル検出部は、高解像度画像生成部により、所定の単位時刻tに取得された高解像度画像Img_color(t)と、高解像度画像記憶部に記憶されている所定の単位時刻tより前の時刻(t−α)に取得された高解像度画像Img_color(t−α)と、を比較することにより動きベクトルを検出する。距離画像補正部は、距離画像生成部により、所定の単位時刻tに取得された距離画像Img_distance(t)と、距離画像記憶部に記憶されている所定の単位時刻tより前の時刻(t−α)に取得された距離画像Img_distance(t−α)と、動きベクトル検出部により検出された動きベクトルに基づいて、距離画像の注目画素の距離情報を補正する。
【0038】
これにより、第4の発明と同様の効果を奏する集積回路を実現することができる。
第16の発明は、光強度変調された光を対象物に照射し、対象物からの反射光を用いて対象物までの距離を推定する距離推定装置に用いられる集積回路であり、光強度変調可能な光を照射する光源と、対象物からの光を集光する受光光学系と、受光光学系により受光した光を電荷に変換する受光素子部と、受光素子部で取得された電荷を集積し、電荷信号を取得する電荷集積部と、を備える距離推定装置に用いられる集積回路である。この集積回路は、発光源制御部と、信号演算部と、距離画像生成部と、距離信頼度算出部と、距離画像補正部と、を備える。
発光源制御部は、光源を制御する。信号演算部は、電荷信号に基づいて、距離情報を算出する。距離画像生成部は、距離情報に基づいて、距離画像を生成する。距離信頼度算出部は、少なくとも距離情報および電荷信号にいずれか一方に基づいて、距離画像の各画素の信頼度を算出する。距離画像補正部は、距離信頼度算出部により算出された信頼度に基づいて、距離画像の各画素の距離情報を補正する。
【0039】
これにより、第5の発明と同様の効果を奏する集積回路を実現することができる。
第17の発明は、第1から第7のいずれかの発明である距離推定装置を含むカメラである。
これにより、第1〜第7の発明と同様の効果を奏する距離測定装置を搭載したカメラを実現することができる。
なお、「カメラ」とは、静止画を取得するスチルカメラや、動画像を取得する撮像装置(ムービー)や、静止画および動画の両方を撮像することできる撮像装置や、取得した撮像画像(映像)から3D表示用画像(映像)を生成する機能を備える撮像装置を含む概念である。
また、第17の発明のカメラにおいて、撮像画像は、カメラに含まれる距離測定装置の高解像度画像生成部により生成される高解像度画像を用いるものであってもよいし、距離測定装置とは別に、撮像素子をさらに追加し、追加した当該撮像素子から撮像画像を取得するものであってもよい。
【発明の効果】
【0040】
本発明によれば、画素数の少ない撮像素子(CCD等)を用いて取得した距離情報に基づいて、撮像素子(CCD等)の画素間での距離情報を補間・推定することによって、TOF方式による距離画像の高解像度化を実現する距離推定装置、距離推定方法、プログラムおよび集積回路を実現することができる。また、本発明によれば、反射光の振幅もしくは距離画像データ自体の値をもとに、精度の不足した画素での距離情報を補正することで、距離画像データの精度改善を行うことができる距離推定装置、距離推定方法、プログラムおよび集積回路を実現することができる。
【図面の簡単な説明】
【0041】
【図1】本発明における第1実施形態に係る距離推定装置の構成を示すブロック図。
【図2】本発明における第1実施形態に係る最適距離情報取得部の構成を示すブロック図。
【図3A】本発明における第1実施形態に係る距離推定方法における距離画像補間方法の概要を示す図。
【図3B】本発明における第1実施形態に係る距離推定方法における距離画像補間方法の概要を示す図。
【図4】本発明における第1実施形態に係る距離推定方法における処理フローチャートを示す図。
【図5A】本発明における第1実施形態に係る距離推定方法における第2の距離画像補間方法(第1変形例)の概要を示す図。
【図5B】本発明における第1実施形態に係る距離推定方法における第3の距離画像補間方法(第2変形例)の概要を示す図。
【図6】本発明における第2実施形態に係る距離推定装置の構成を示すブロック図。
【図7】本発明における第2実施形態に係る距離推定装置の動きベクトル検出部のブロック図。
【図8】本発明における第2実施形態に係る距離推定方法における動きベクトルを用いた距離画像補正方法の概要を示す図。
【図9】本発明における第2実施形態に係る距離推定方法の処理フローチャートを示す図。
【図10】本発明における第2実施形態に係る距離推定方法での動きベクトル検出の概要を示す図。
【図11】本発明における第3実施形態に係る距離推定装置の構成を示すブロック図。
【図12】本発明における第3実施形態に係る距離推定装置の距離信頼度算出部の構成を示すブロック図。
【図13】本発明における第3実施形態における距離信頼度算出方法の概要を示す図。
【図14】距離画像補正部32における補正処理の一例を説明するための図。
【図15A】本発明における第3実施形態における距離信頼度を決定する関数例を示す図。
【図15B】本発明における第3実施形態における距離信頼度を決定する関数例を示す図。
【図16A】本発明における第4実施形態における距離信頼度を決定する関数例2を示す図。
【図16B】本発明における第4実施形態における距離信頼度を決定する関数例2を示す図。
【図17】本発明における第4実施形態に係る距離推定方法の処理フローチャート図。
【図18】従来例1の距離推定装置の構成を示すブロック図。
【図19】従来例1の距離推定方法の概要を示す図。
【図20】従来例2の距離推定装置の構成を示すブロック図。
【図21】従来例2の距離推定方法の概要を示す図。
【発明を実施するための形態】
【0042】
以下、本発明の最良の形態としての第1〜第3実施形態について説明する。
第1実施形態では、所定の発光周波数(光(電磁波)の周波数)を持つ光を照射できる光源から距離推定用照明光を対象物に対して照射し、距離推定用照射光の反射光を受光し、距離推定装置から対象物までの距離情報を取得し、取得した距離情報に基づいて距離画像データを生成し、距離推定用照射光の反射光と同期して得られる可視光成分より得られたカラー画像の輪郭情報を抽出し、抽出した輪郭情報に基づいて、距離画像上の対応部分において周囲の距離情報より、距離画像上の対応部分の距離情報を補正することによって距離推定を行う装置および方法について説明する。
第2実施形態では、所定の発光周波数を持つ光を照射できる光源から距離推定用照明光を対象物に対して照射し、距離推定用照射光の反射光を受光し、距離推定装置から対象物までの距離情報を取得し、取得した距離情報に基づいて距離画像データを生成し、距離推定用照射光の反射光と同期して得られる可視光成分より得られたカラー画像の動きベクトル検出を行い、検出した動きベクトル情報と、当該動きベクトルに対応する距離画像上の部分の1単位時刻前の距離情報より、当該部分の対象時刻の距離情報を補正することによって距離推定を行う装置および方法について説明する。
【0043】
第3実施形態では、所定の発光周波数を持つ光を照射できる光源から距離推定用照明光を対象物に対して照射し、距離推定用照射光の反射光を受光し、距離推定装置から対象物までの距離情報を取得し、取得した距離情報に基づいて距離画像データを生成し、距離画像データの値あるいは反射光の強度に応じて、距離画像データの値の確からしさを表す信頼度を算出し、算出した信頼度をもとに距離画像データを補正することによって距離推定を行う装置および方法について説明する。
[第1実施形態]
図1から図5Bを用いて、本発明の第1実施形態について、説明する。
図1は、本発明の第1実施形態に係る距離推定装置100の概略構成図である。
また、図2は、本発明の第1実施形態に係る距離推定装置100内の最適距離情報取得部7の概略構成図である。
【0044】
図3は、第1実施形態に係る距離推定方法における画像補間方法の概要を模式的に示した図である。
図4は、第1実施形態に係る距離推定方法の処理フローチャートを示す図である。
また、図5Aと図5Bは、第1実施形態に係る距離推定方法における第2の画像補間方法の概要(第1変形例および第2変形例)を模式的に示した図である。
本発明の距離推定装置は、ムービーあるいはDSC(Digital Still Camera)等の撮像装置によって撮影された画像の奥行き感・立体感を向上させるために、対象空間を撮像し、撮像装置から対象空間に存在する対象物までの距離を推定する方法・装置に関するものであり、例えば、デジタルスチルカメラあるいはデジタルビデオカメラのような撮影機器、あるいは、モバイル環境下において使用する携帯電話あるいはカーモバイル機器・PDA等へ搭載される。また、本発明の距離推定方法は、上記した機器等において実行される。
【0045】
<1.1:距離推定装置の構成>
図1に示すように、距離推定装置100は、光強度変調可能な発光源10と、発光源10の発光制御を行う発光源制御部9と、被写体(対象物)からの光を集光する受光光学系1と、受光光学系1で受光した光を可視光成分の光と赤外光成分(距離測定用の光成分)の光に分離する色分解プリズム11と、色分解プリズム11で分離された赤外光成分の光を光電変換する素子(撮像素子)を有する受光素子部2と、受光素子部2で変換された電荷を集積し、電荷信号として出力する電荷集積部3と、画像生成部6で生成された距離画像を記憶・保持する距離画像保持メモリ部8と、を備える。また、距離推定装置100は、色分解プリズム11で分離された可視光成分の光を光電変換し画像用電荷信号を取得する撮像素子部12と、撮像素子部12により取得された画像用電荷信号に基づいて画像を生成するカラー画像生成部13と、カラー画像生成部13により生成された画像から輪郭情報を抽出する輪郭情報抽出部14と、を備える。また、距離推定装置100は、輪郭情報抽出部14により抽出された輪郭情報に基づいて、距離画像保持メモリ部8に記憶・保持されている距離情報から最適距離情報を取得する最適距離情報取得部7と、最適距離情報取得部7により取得された最適距離情報に基づき、最適距離画像を生成する最適距離画像生成部15と、を備える。
【0046】
発光源10は、発光源制御部9により発光制御される発光源である。発光源10から発光される照明光S1は、発光源制御部9の発光制御により、光強度変調された光とすることができる。なお、発光源10は、距離測定用の光を発光する光源であり、発光源10から発光される距離測定用光は、赤外光(なお、「X^Y」は、「XのY乗」を表している。以下同様。)であることが好ましい。したがって、発光源10として、赤外光領域の周波数(例えば、1×10^6[MHz]〜1×10^9[MHz])(なお、「X^Y」は、「XのY乗」を表している。以下同様。)の電磁波(赤外光)を発光する光源を用いることが好ましい。また、赤外光領域の周波数を用いる場合、発光源として、赤外領域の周波数の光を発光するLED光源を用いることが好ましい。
以下では、発光源10から発光される距離測定用光が赤外光であるものとして、説明する。
【0047】
発光源制御部9は、発光源10の発光制御を行う。また、発光源制御部9は、制御部4から出力される光強度変調制御信号に基づいて、発光源10から発光される照明光S1の光強度変調を行う。
受光光学系1は、撮像対象空間からの光を集光する光学系であり、光学レンズ、光学フィルタ等から構成される。
色分解プリズム11は、光(電磁波)の周波数に基づき、その光路を分離する(その光成分を分離する)光学プリズムであり、距離推定装置100では、受光光学系1で集光された反射光S2を、距離推定用赤外光成分とカラー画像用可視光成分とに分離する。そして、色分解プリズム11で分離された距離推定用赤外光成分の光(電磁波)は、受光素子部2に入射される。また、色分解プリズム11で分離されたカラー画像用可視光成分の光(電磁波)は、撮像素子部12に入射される。
【0048】
受光素子部2は、複数の画素からなる撮像素子を有しており、各画素は、フォトダイオード等の光電変換素子を含んでいる。受光素子部2では、各画素において、光電変換された受光光量に応じた電荷が取得される。受光素子部2において取得された電荷は、電荷集積部3に出力される。なお、発光源10から発光させる光が赤外光である場合、受光素子部2の撮像素子は、赤外光用CCDを用いることが好ましい。また、受光素子部2の撮像素子の前段に、赤外領域外の電磁波を遮断するために、赤外光用のフィルタ(光学フィルタ)等を設置するようにしてもよい。
電荷集積部3は、制御部4から設定された所定の電荷蓄積時間に基づいて、受光素子部2において光電変換された電荷を集積し、電荷信号Diを取得する。電荷集積部3は、取得した電荷信号Diを、制御部4の指令に基づいて、信号演算部5に出力する。
【0049】
信号演算部5は、電荷集積部3から出力される電荷信号Diに対して、例えば、(数式4)の処理を行い、距離情報Liを算出する。なお、受光素子部2の撮像素子の画素iに対応する電荷信号Diとし、画素iに対応する距離情報をLiと表記することとする。信号演算部5は、算出した距離情報Liを画像生成部6に出力する。
制御部4は、光強度変調制御信号を発光源制御部9に出力し、発光源制御部9を介して、発光源10から発光される光の強度を光強度変調制御信号に基づいて変調させる。そして、制御部4は、光強度変調制御信号に基づいて光強度変調させた照明光S1の変調周期に同期させて、所定のタイミングにおいて電荷集積部3に集積された電荷量を取得させ、電荷信号Diとして、信号演算部5に出力させる。そして、制御部4は、信号演算部5に対して、例えば、(数式4)に相当する処理を実行するように制御する。
【0050】
なお、ここで、「所定のタイミング」とは、例えば、光強度変調制御信号に基づいて光強度変調させた照明光S1の変調周期の1周期あたり4点(例えば、上記(数式4)のA0点〜A4点の4点に相当。)をサンプリングすることに相当するタイミングのことをいう。なお、照明光S1の変調周期1周期あたりのサンプリング数は、4点に限定されないことは、言うまでもない。
照明光S1の変調周期1周期あたりのサンプリング数が4点である場合、信号演算部5では、電荷集積部3から出力された電荷信号Diに対して、(数式4)に相当する処理を行うことによって、位相シフト量Ψを求め、さらに、距離情報Liを簡単に求めることができる。
画像生成部6は、信号演算部5により算出された距離情報Liを入力とし、距離情報Liに基づいて、距離画像を生成する。ここで、「距離画像」とは、受光素子部2の撮像素子の画素iに対応させた2次元画像であり、距離画像上の画素iに対応する位置の値は、画素iに相当する距離情報を表す値となっている。つまり、距離画像上の画素iに対応する位置の値は、画素iに対応する撮像対象空間内の対象物と距離推定装置100との距離を表す値となっている。この値は、必ずしも、当該距離の値そのものである必要はなく、当該距離と相関のある値であってもよい。
【0051】
距離画像保持メモリ部8は、画像生成部6で生成された距離画像を入力とし、その距離画像を記憶・保持する。
撮像素子部12は、複数の画素からなる撮像素子を有しており、各画素は、フォトダイオード等の光電変換素子を含んでいる。撮像素子部12では、各画素において、光電変換された受光光量に応じた電荷が取得・蓄積される。そして、撮像素子部12は、蓄積した電荷をカラー画像生成部13に出力する。なお、撮像素子部12として、例えば、CCD型イメージセンサあるいはCMOS型イメージセンサを用いるとよい。
カラー画像生成部13は、撮像素子部12から、各画素に対応して出力される電荷を入力とし、当該電荷に基づいてカラー画像信号を生成する。そして、カラー画像生成部13は、生成したカラー画像信号を、輪郭情報抽出部14に出力する。
【0052】
輪郭情報抽出部14は、カラー画像生成部13により生成されたカラー画像信号から輪郭画素抽出を行い、輪郭情報を取得(抽出)する。そして、輪郭情報抽出部14は、抽出した輪郭情報を最適距離情報取得部7に出力する。
最適距離情報取得部7は、輪郭情報抽出部14から出力される輪郭情報と、距離画像保持メモリ部8から出力される注目画素の周囲画素の距離情報と、画像生成部6から出力される注目画素の距離情報および注目画素の画素位置についての情報と、を入力とする。最適距離情報取得部7は、入力された輪郭情報、注目画素の画素位置情報、注目画素の距離情報および注目画素の周囲画素の距離情報に基づいて、最適距離情報を取得し、取得した最適距離情報を最適距離画像生成部15に出力する。なお、ここで、「注目画素」とは、距離情報を求める対象(処理対象)となっている画素(距離画像上の画素)のことをいう。
【0053】
最適距離情報取得部7は、例えば、図2に示す構成とすることができる。図2に示すように、最適距離情報取得部7は、輪郭判定部71と、補間位置算出部72と、周囲距離情報検出部73と、距離情報補間値算出部74と、切換器75と、を備える。
輪郭判定部71は、輪郭情報抽出部14から出力される輪郭情報と、画像生成部6から出力される注目画素の画素位置情報を入力とし、輪郭情報に基づいて注目画素内に輪郭があるか否かを検出する。具体的には、輪郭判定部71は、カラー画像生成部13により生成されたカラー画像信号より形成される画像上において、距離画像における注目画素に相当する画像領域に輪郭があるか否かを検出する。そして、輪郭判定部71は、距離画像における注目画素に相当する画像領域に輪郭があると判断した場合、輪郭判定結果を「1」として出力し、距離画像における注目画素に相当する画像領域に輪郭がないと判断した場合、輪郭判定結果を「0」として出力する。輪郭判定部71は、輪郭判定結果を補間位置算出部72および切換器75に出力する。なお、輪郭判定結果は、周囲距離情報検出部73および距離情報補間値算出部74に出力するようにしてもよい。
【0054】
補間位置算出部72は、輪郭情報抽出部14から出力される輪郭情報と、画像生成部6から出力される注目画素の画素位置情報と、輪郭判定部から出力される輪郭判定結果を入力とする。補間位置算出部72は、輪郭判定結果が「1」である場合(輪郭ありの場合)のみ動作し、輪郭情報および注目画素の画素位置情報に基づいて輪郭画素位置情報を算出する。そして、補間位置算出部72は、算出した輪郭画素位置情報を距離情報補間値算出部74に出力する。
周囲距離情報検出部73は、画像生成部6から出力される注目画素の画素位置情報と、距離画像保持メモリ部8から出力される注目画素の周囲画素の距離情報と、を入力とし、補間値算出用周囲距離情報を取得する。そして、周囲距離情報検出部73は、取得した補間値算出用周囲距離情報を距離情報補間値算出部74に出力する。
【0055】
距離情報補間値算出部74は、補間位置算出部72から出力される輪郭画素位置情報と、周囲距離情報検出部73から出力される補間値算出用周囲距離情報と、を入力とする。距離情報補間値算出部74は、輪郭画素位置情報および補間値算出用周囲距離情報に基づいて、補間距離情報Li’を算出する。そして、距離情報補間値算出部74は、補間距離情報Li’を切換器75に出力する。
切換器75は、距離情報補間値算出部74から出力される補間距離情報Li’と、画像生成部6から出力される注目画素の距離情報Liと、を入力とし、輪郭判定部71から出力される輪郭判定結果に基づいて、その出力を切り替える。具体的には、切換器75は、輪郭判定結果が「1」である場合(輪郭ありの場合)、注目画素の補間距離情報Li’を出力し、輪郭判定結果が「0」である場合(輪郭なしの場合)、注目画素の距離情報Liを出力する。
【0056】
最適距離情報取得部7は、切換器75からの出力を、最適距離情報として、最適距離画像生成部15に出力する。
最適距離画像生成部15は、最適距離情報取得部7から出力される最適距離情報を入力とし、最適距離情報に基づいて最適距離画像を生成する。そして、最適距離画像生成部15は、生成した最適距離画像を出力する。
<1.2:距離推定装置の動作>
以上のように構成された距離推定装置100の動作および距離推定装置100において実行される距離推定方法について、図1から図5を用いて、説明する。
距離推定装置100において、
まず、発光源制御部9により、発光源10を発光させた状態にする。その状態で、対象物体OBJ10からの光を、受光光学系1に入射させる。
【0057】
受光光学系1に入射された光は、色分解プリズム11により、距離推定用赤外光成分の光とカラー画像用可視光成分の光に分離される。
受光素子部2では、各画素において、距離推定用赤外光成分の光が光電変換され、電荷として取得される。
受光素子部2において取得された電荷は、電荷集積部により集積され、電荷信号Diとして信号演算部5に出力される。具体的には、制御部4からの指令に従い、光強度変調制御信号に基づいて光強度変調させた照明光S1の変調周期に同期した所定のタイミングにおいて電荷集積部3に集積された電荷量が取得され、電荷信号Diとして、信号演算部5に出力される。なお、ここでの「所定のタイミング」は、例えば、光強度変調制御信号に基づいて光強度変調させた照明光S1の変調周期の1周期あたり4点(例えば、上記(数式4)のA0点〜A4点の4点に相当。)をサンプリングすることに相当するタイミングである。以下では、説明便宜のため、照明光S1の変調周期1周期あたりのサンプリング数が4点である場合について説明する。
【0058】
信号演算部5では、入力された電荷信号Di(照明光S1の変調周期1周期あたりに4点のサンプリングをされた電荷信号Di)に対して、(数式4)に相当する処理を行い、位相シフト量Ψを求める。さらに、信号演算部5では、位相シフト量Ψに対して、(数式3)に相当する処理を行い、画素iの距離情報Liを取得する。
信号演算部5により取得された距離情報Liは、画像生成部6に出力される。
画像生成部6では、信号演算部5により算出された距離情報Liに基づいて、距離画像が生成される。
まとめると、距離推定装置100では、反射光S2を受光素子部2において受け、受光素子部2および電荷集積部3により変換・集積された電荷信号Diを、制御部4で制御して、信号演算部5により、対応する画素iの距離情報値Liに変換する。
【0059】
この際、従来例2と同様に、距離推定装置100では、図19で示される変調周期1周期あたり4点(A0点,A1点,A2点およびA3点の4点)の電荷信号Diのサンプリングを行い、(数式4)を用いて位相シフト量Ψを導出する。そして、距離推定装置100では、その導出した位相量Ψ(A0〜A3の4点により求めた位相量)を、(数式3)に当てはめることで、画素iの距離情報値Liを求める。
距離画像保持メモリ部8では、画像生成部6により生成された距離画像が記憶・保持される。
一方、色分解プリズム11で分離されたカラー画像用可視光成分の光は、撮像素子部12により受光・集積されて、カラー画像生成部13でカラー画像信号(画像データ)に変換される。そして、カラー画像生成部13で取得されたカラー画像信号は、輪郭情報抽出部14に出力される。
【0060】
輪郭情報抽出部14では、(数式5)で示される3×3の大きさをもつ2次元フィルタによる2次元フィルタ処理((数式6)による処理)を用いて、画像内の各画素(i,j)の微分ベクトルvd(i,j)(xd(i,j),yd(i,j))を求める。また、輪郭情報抽出部14では、微分ベクトルvd(i,j)の大きさstv(ij)を、
stv(ij)=(xd(i,j)×xd(i,j)+yd(i,j)×yd(i,j))^0.5
を用いて求める。
輪郭情報抽出部14では、各画素(i,j)のstv(i,j)を、所定のしきい値TH2を使って、(数式7)のように比較することで、輪郭画素抽出を行う。なお(数式7)は、カラー画像信号により形成される画像上の画素が、輪郭に含まれる画素かどうかを示すための2値化を行うものであり、E(i,j)=1は、画素(i,j)が輪郭に含まれる画素であることを表している。
【0061】
【数5】
【0062】
【数6】
【0063】
【数7】
【0064】
このようにして、輪郭情報抽出部14により求められた輪郭情報E(i,j)(以下では、単に「輪郭情報Ei」と表記することもある。)は、最適距離情報取得部7に出力される。
なお、カラー画像生成部13で生成される画像(カラー画像信号により形成される画像)の解像度は、画像生成部6で生成される距離画像の解像度よりも高解像度であるものとする。距離推定装置100において、受光素子部2は、距離推定用であるので、受光素子部2の撮像素子の画素数は、カラー画像生成用である撮像素子部12の撮像素子の画素数に比べて少ない。つまり、距離推定装置100において、距離推定用の撮像素子の解像度は、カラー画像生成用の撮像素子の解像度ほど高解像度を求められないので、受光素子部2の撮像素子の画素数を、カラー画像生成用である撮像素子部12の撮像素子の画素数より少なくしても問題ない。
【0065】
また、受光素子部2の受光素子数(受光素子部2の撮像素子の画素数)を多くして距離画像の高解像度化を行った場合に発生するショットノイズあるいは環境光等の影響による推定(測定)距離精度の低下を抑えるために、受光素子部2の素子数(距離画像の解像度)を小さくすることが望ましい。
以上より、距離推定装置100では、受光素子部2の撮像素子の画素数が、撮像素子部12の撮像素子の画素数よりも少ないものとして、以下、説明する。
最適距離情報取得部7は、例えば、図2のように構成される。また、図3Aは、距離画像の画素内に輪郭情報がある場合における最適距離情報取得部7の処理概要を模式的に示した図である。図3Bは、距離画像の画素内に輪郭情報がない場合における最適距離情報取得部7の処理概要を模式的に示した図である。なお、図3Aおよび図3Bの距離画像において、画素が明るい(輝度が高い)程、当該画素が示す距離情報は、近い距離であることを示している。つまり、当該画素に相当する撮像空間(対象物)と距離推定装置との3次元空間内の距離が短いということを示している。
【0066】
まず、距離画像の画素内に輪郭情報がある場合における最適距離情報取得部7の処理について説明する。
図3Aのカラー画像Img_colorは、カラー画像生成部13により生成されたカラー画像信号により形成される画像において、輪郭情報抽出部14により抽出された輪郭情報を示している。また、図3Aのカラー画像Img_color中のブロックは、距離画像1画素に相当する画像領域を示している。具体的には、カラー画像Img_color中の画像領域blk1は、距離画像の1画素に対応する画像領域を示している。そして、画像領域blk1内には、カラー画像の画素が複数存在している。つまり、カラー画像の画素数の方が、距離画像の画素数よりも多い。言い換えると、カラー画像の画素の大きさは、距離画像の画素の大きさよりも小さい。
【0067】
図3Aのカラー画像Img_colorにおいて、距離画像Img_distanceの画素は、細分化されたブロック(カラー画像Img_colorを構成する複数の画素からなるブロック)として表現される。この場合、TOF方式によって得られる距離画像Img_distanceの画素は、カラー画像Img_colorのブロックに相当することになり、距離情報もカラー画像Img_colorのブロックに相当する単位で取得されることとなる。つまり、距離画像は、カラー画像に比べて粗い画像となる。
図3Aの距離画像Img_distanceは、画像生成部6により生成された距離画像であり、各画素中のL1〜L10は、画素P1〜P10の距離情報Liを示している。なお、図3Aの距離画像Img_distanceにおいて、距離情報がL1〜L10である画素を、画素P1〜P10とする。
【0068】
(1.2.1:距離画像の注目画素内に輪郭情報がある場合の処理)
まず、距離画像の注目画素内に輪郭情報がある場合の処理について説明する。
以下、注目画素をP5として、図2および図3Aを用いて、説明する。
注目画素がP5である場合、輪郭判定部71は、注目画素P5の画素位置情報と、注目画素P5に相当するカラー画像の画像領域内の輪郭情報E(i,j)と、に基づいて、注目画素P5内に輪郭情報があるか否か(すなわち、輪郭があるか否か)を判断する。この場合、注目画素P5内には、輪郭情報があるので、輪郭判定部71は、輪郭判定結果を「1」にして出力する。
次に、補間位置算出部72では、輪郭情報の画素位置Pedg(s,t)が求められる。補間位置算出部72により求められた輪郭情報の画素位置Pedg(s,t)は、距離情報補間値算出部74に出力される。
【0069】
そして、周囲距離情報検出部73では、距離画像Img_distance内の注目画素P5に隣接する画素P1、P2、P3、P4、P6、P7、P8、P9を用いて、注目画素P5の4隅に相当する距離情報L1d、L3d、L7dおよびL9dを求める。これについて、具体的に、図3Aの領域R1の場合を例に、説明する。
図3Aに示すように、注目画素P1の距離情報L1と、注目画素P5に隣接する画素P1、P2およびP4の距離情報L1、L2およびL4を用いて、領域R1の中心位置、つまり、注目画素P5の左上隅に相当する距離情報L1dを、(数式8)により求める。
同様に、注目画素P5の右上隅の距離情報L3d、左下隅の距離情報L7dおよび右下隅の距離情報L9dを、(数式8)を用いて求める。
【0070】
【数8】
【0071】
周囲距離情報検出部73により、求められた注目画素P5の4隅に相当する距離情報L1d、L3d、L7dおよびL9d(これを、「補間値算出用周囲距離情報」という。)は、距離情報補間値算出部74に出力される。
距離情報補間値算出部74では、補間値算出用周囲距離情報L1d、L3d、L7dおよびL9dと、輪郭情報の画素位置Pedg(s,t)と、を用いて、注目画素P5の補間距離情報L’を求める。
図3Aに示すように、注目画素端Pos(L1d)とPos(L7d)を結ぶ垂線から補間位置(輪郭情報の画素位置)Pedg(s,t)までの水平方向距離をbとし、Pos(L1d)とPos(L3d)を結ぶ水平線からPedg(s,t)までの垂直方向距離をaとした場合、Pedg(s,t)における補間値L’は、(数式9)のように求めることができる。なお、a,bともに距離受光用素子画素間を「1」に正規化した場合の値となる。したがって、0≦a≦1、0≦b≦1である。また、Pos(L1d)、Pos(L3d)、Pos(L7d)およびPos(L9d)は、注目画素P5の4隅の画像上の位置を表すものとする。
【0072】
【数9】
【0073】
このようにして求めた補間距離情報L’は、補間値算出用周囲距離情報(注目画素P5の4隅の距離情報に相当。)を2次元で線形補間した値に相当する。
距離情報補間値算出部74により求められた補間距離情報L’は、切換器75に出力される。
そして、注目画素が図3AのP5である場合は、注目画素P5内に輪郭情報があり、輪郭判定部71から出力される輪郭判定結果が「1」であるので、切換器75からは、距離情報補間値算出部74により求められた補間距離情報L’が、最適距離情報Lbestとして出力される。
(1.2.2:距離画像の注目画素内に輪郭情報がない場合の処理)
次に、距離画像の注目画素内に輪郭情報がない場合の処理について説明する。
【0074】
以下、注目画素をP10として、図2および図3Bを用いて、説明する。図3Bにおいて、図3Aと同様の部分については、同様の表記を行い、説明を省略する。
注目画素がP10である場合、輪郭判定部71は、注目画素P10の画素位置情報と、注目画素P10に相当するカラー画像の画像領域内の輪郭情報E(i,j)と、に基づいて、注目画素P10内に輪郭情報があるか否か(すなわち、輪郭があるか否か)を判断する。この場合、注目画素P10内には、輪郭情報がないので、輪郭判定部71は、輪郭判定結果を「0」にして出力する。
図2に示すように、輪郭判定結果が「0」である場合、最適距離情報取得部7の切換器75の出力からは、注目画素Piの距離情報Liがそのまま出力される。つまり、この場合、注目画素がP10であるので、最適距離情報取得部7の切換器75の出力からは、注目画素P10の距離情報L10がそのまま出力される。すなわち、この場合、最適距離情報取得部7から出力される最適距離情報Lbest=L10(=Li)となる。
【0075】
なお、上記の場合、注目画素P10に対応するカラー画像の画像領域は、平坦であるので、距離画像の画素P10の距離情報L10は、精度の良いものであると考えられるので、上記のような処理により、最適距離情報Lbestを出力することで、距離推定装置100において、距離推定精度を維持することができる。
以上のように、最適距離情報取得部7により求めた最適距離情報Lbestは、最適距離画像生成部15に出力される。
最適距離画像生成部15では、最適距離情報Lbestに基づいて、最適距離画像が生成され、出力される。
このように、距離推定装置100では、距離画像の注目画素内(距離画像の注目画素に対応するカラー画像内の画像領域)に輪郭(カラー画像から検出される輪郭)があるか否かを判定し、輪郭画像がある場合、当該距離画像の注目画素の距離情報を、その注目画素の周囲の距離情報を用いた補間値にすげ替えることで、部分的に距離画像の解像度向上を実現することができる。つまり、距離画像の解像度が低いことにより、中間の距離情報を表現することができないという欠点を、距離推定装置100では、上記の処理を行うことによって補うことができる。特に、距離画像の注目画素内に輪郭(エッジ)が存在する部分では、当該注目画素の距離情報の精度が悪くなっている可能性が高く、距離推定装置100では、上記の処理により、このような場合であっても一定の距離推定精度を維持することができる。
【0076】
なお、上記では、注目画素の画素位置情報は、画像生成部6から出力される場合について説明したが、注目画素の画素位置情報を、距離画像保持メモリ部8から出力するようにしてもよい。
なお、図3Aでは、2次元線形補間により、距離情報補間値算出部74で補間距離情報L’を算出したが、以下のようにして、補間距離情報L’を算出するようにしてもよい。
距離情報補間値算出部74において、
PedgとP(L1d)との距離: len1=sqrt(a^2+b^2)
PedgとP(L3d)との距離: len2=sqrt(a^2+(1−b)^2)
PedgとP(L7d)との距離: len3=sqrt((1−a)^2+b^2)
PedgとP(L9d)との距離: len4=sqrt((1−a)^2+(1−b)^2)
(「sqrt(x)」は、xの平方根を表す。「x^y」は、xのy乗を表す。)
を、(数式10)に示すような所定の非線形重み関数weight(len)に、代入して得られる、重み係数w1,w2,w3,w4を求める。そして、求めた重み係数w1,w2,w3,w4を、それぞれ、L1d,L2d,L3d,L4dの重み付けとして、重付平均値を求め、求めた重付平均値を補間距離情報L’として用いてもよい。
【0077】
【数10】
【0078】
なお、(数式10)で、keisuは所定の正定数を表す。
また、最適距離情報取得部7において、len1,len2,len3,len4,L1〜L9を変数にもつテーブル(例えば、LUT(ルック・アップ・テーブル))を用意しておき、そのテーブルを参照することによって、補間距離情報L’を求めるようにしてもよい。
さらに、上記説明では、距離推定装置100において、周囲画素として、注目画素に隣接する8画素を設定し、補間距離情報L’を求めるようにしたが、これに限定されることはない。例えば、距離画像の注目画素(対象距離画素)の上下左右の4画素を周囲画素に設定し、当該4画素による補間処理により、補間距離情報L’を求めるようにしてもよい。この場合、補間処理において、距離画像の注目画素(図3Aの領域R1を処理対象とする場合、注目画素P5の距離情報L5)を用いてもよい。
【0079】
また、距離推定装置100において、距離画像の注目画素の周囲画素を選択的に用いる補間処理により補間距離情報L’を求めるようにしてもよい。例えば、図3AのP5を注目画素とし、図3Aのaが「0.5」より小さく、bが「0.5」より小さい場合、つまり、輪郭情報の画素位置Pedg(s,t)が、注目画素P5内において、左上の領域に存在する場合、輪郭情報の画素位置Pedg(s,t)と相関性が高い周囲画素であるP2とP4を用いて補間処理を行う。
具体的には、周囲画素P2の距離情報L2と注目画素P5の距離情報L5の垂直方向での1次元補間値VL1dを求める。この際、周囲画素の距離情報L2と注目画素の距離情報L5は、それぞれ、画素P2とP5の画素中心にあるものとして、補間処理(距離情報の補間値の算出処理)を行う。
【0080】
さらに、周囲画素P4と注目画素P5において、水平方向での1次元補間値HD1dを求める。この場合も、周囲画素P4の距離情報L4と注目画素P5の距離情報L5は、それぞれ、画素P4とP5の画素中心にあるものとして、補間処理(距離情報の補間値の算出処理)を行う。
そして、求めた垂直方向での1次元補間値VL1dおよび水平方向での1次元補間値HD1dの2つの値の平均値を補間距離情報L’とする。
距離推定装置100において、上記のように、注目画素内での輪郭情報の画素位置Pedg(s,t)が存在する位置に基づき、相関性の高い隣接画素を選択的に用いて、補間距離情報L’を求めるようにしてもよい。
なお、上記では、輪郭情報の画素位置Pedg(s,t)を1点として、補間処理を行う場合について説明したが、これに限定されることはない。例えば、距離画像の注目画素内において、複数の輪郭情報の画素位置Pedg(s,t)が存在する場合、距離推定装置100では、複数の輪郭情報の画素位置Pedg(s,t)から所定の点を抽出し(例えば、複数の輪郭情報の画素位置Pedg(s,t)の中心点等)、その所定の点に基づいて、上記と同様の処理を行うようにしてもよい。
【0081】
また、図4に示した処理フローチャートにおいて、ステップF1およびF2は、ステップF15までに実行されれば、いずれのタイミングで実行されるものであってもよい。
以上のように、距離推定装置100では、距離画像の注目画素内にカラー画像から抽出した輪郭情報がない場合、当該注目画素の距離情報は、精度の高いものであると推測されるので、最適距離情報Lbestとして、当該注目画素の距離情報を採用する。一方で、距離画像の注目画素内にカラー画像から抽出した輪郭情報がある場合、当該注目画素の距離情報は、精度が低い可能性があるので、注目画素の周囲の画素の距離情報に基づいて補間した距離情報(補間距離情報)を求め、最適距離情報Lbestとして、当該補間距離情報を採用する。
したがって、距離推定装置100では、受光素子部2の撮像素子(距離推定用の撮像素子)の画素数を増やすことなく、高精度の距離画像(距離情報)を取得することができる。これにより、距離推定装置100では、受光素子部2の撮像素子(距離推定用の撮像素子)の画素数を単純に増やした場合に、電荷信号のS/N比低下し、その結果、取得される距離画像において距離分解能が低下することを効果的に抑えることができる。
【0082】
≪第1変形例≫
また、距離推定装置100の距離情報補間処理において、図3Aおよび図3Bを用いて説明した上記方法の代わりに、次の方法を用いることも可能である。これについて、図5Aを用いて説明する。なお、図5Aにおいて、図3Aおよび図3Bと同様の部分について、同様の表記を行い、説明を省略する。
距離推定装置100において、図5Aに示すように、まず、距離画像の注目画素(対象距離受光素子画素)に相当するカラー画像内のブロック(画像領域)内に輪郭情報があるか否かを判定する。
そして、(B)距離画像の注目画素内に輪郭情報がないと判定された場合、当該注目画素の部分は平坦領域に属するものとして、距離画像の注目画素の距離情報を、そのまま出力する処理を行う。つまり、最適距離情報Lbestとして、注目画素の距離情報Liを採用する。
【0083】
一方、(A)距離画像の注目画素内に輪郭情報があると判定された場合、距離画像の注目画素の輪郭部(エッジ部)で2分割する処理を実施する。
図5A(c)に、その2分割処理の一例を示す。なお、注目画素をP5として説明する。
注目画素(対象距離画素)P5で、輪郭(図5A(c)における家の屋根の部分(エッジ))より左上側では、注目画素P5の周囲画素P2およびP4の距離情報であるL2およびL4を使って、(数式11)を用いて、距離情報の補間値L2dが生成される。そして、距離推定装置100では、注目画素を2分割して得られた左上部分の分割画素の距離情報を補間値L2dとする。
一方、注目画素P5の輪郭(図5A(c)における家の屋根の部分(エッジ))より右下側では、注目画素P5の周囲画素P6およびP8の値であるL6とL8を使って、(数式11)を用いて、距離情報の補間値L6dが生成される。そして、距離推定装置100では、注目画素を2分割して得られた右下部分の分割画素の距離情報を補間値L6dとする。
【0084】
【数11】
【0085】
以上のように、距離推定装置100において、輪郭情報がある注目画素では、輪郭情報に基づいて、画素分割を行い、分割した画素の距離情報を、それぞれ、隣接画素の距離情報に基づいて補間した値とすることによって、距離推定装置100において取得される距離画像の精度を向上させることができる。
上記では、距離推定装置100において、カラー画像における輪郭部(図5Aでは、家の屋根の部分(エッジ))を2分割する場合の処理について説明したが、これに限定されることはない。例えば、輪郭部で最も大きい(最も急な)輪郭部分(すなわち、エッジ量が最も高い輪郭部分)を中心に、当該輪郭部が含まれている距離画像の注目画素を4分割もしくはそれ以上に分割して、上記同様の処理を行い、距離画像を取得するようにしてもよい。
【0086】
≪第2変形例≫
また、距離推定装置100の距離情報補間処理において、図3Aおよび図3Bを用いて説明した上記方法の代わりに、次の方法を用いることも可能である。これについて、図5Bを用いて説明する。なお、図5Bにおいて、図3Aおよび図3Bと同様の部分について、同様の表記を行い、説明を省略する。
距離推定装置100において、図5Bに示すように、まず、距離画像の注目画素(対象距離受光素子画素)に相当するカラー画像内のブロック(画像領域)内に輪郭情報があるか否かを判定する。
そして、(B)距離画像の注目画素内に輪郭情報がないと判定された場合、当該注目画素の部分は平坦領域に属するものとして、距離画像の注目画素の距離情報を、そのまま出力する処理を行う。つまり、最適距離情報Lbestとして、注目画素の距離情報Liを採用する。
【0087】
一方、(A)距離画像の注目画素内に輪郭情報があると判定された場合、距離画像の注目画素の輪郭部(エッジ部)を抽出し、微分量による補間を行い、距離情報を取得する。
図5B(c)に、微分量による補間処理の一例を示す。なお、以下では、微分量による補間処理の一例について、注目画素をP5として、(ステップ1)および(ステップ2)に分けて、説明する。
(ステップ1):
まず、注目画素(対象距離画素)P5内において、微分量が最大となる点を抽出する。具体的には、注目画素(対象距離画素)P5に対応するカラー画像内において、微分量が最大となる点を抽出する。なお、この処理は、輪郭情報抽出部14により実行するようにすればよい。
【0088】
また、微分量の算出は、例えば、以下のように行えばよい。
微分量をdiff(i,j)とすると、カラー画像上の座標位置(i,j)におけるX軸方向の差分値をfxとし、座標位置(i,j)におけるY軸方向の差分値をfyとしたとき、
diff(i,j)=sqrt(fx^2+fy^2)
(sqrt(x)は、xの平方根を表す。)
また、簡易的に、X軸方向のみ差分値の絶対値を微分量diff(i,j)としてもよいし(すなわち、diff(i,j)=abs(fx)(abs(x)は、xの絶対値を表す。))、あるいは、Y軸方向のみ差分値の絶対値を微分量diff(i,j)としてもよいし(すなわち、diff(i,j)=abs(fy))としてもよく、また、カラー画像上の斜め方向の差分値の絶対値を微分量diff(i,j)として用いるようにしてもよい。
【0089】
なお、微分量の算出方法は、上記に限定されることはなく、他の方法であってもよい。例えば、Robertのエッジ検出オペレータ、Prewittのエッジ検出オペレータ、Sobelのエッジ検出オペレータ等により微分量diff(i,j)を算出するようにしてもよい。
以下では、図5Bのケース(A−1)および(A−2)について、説明する。なお、図5Bに示すC点が、微分量が最大となる点であるものとし、C点より左上方向に存在するK点の距離情報Lkを補間処理により求める場合(ケース(A−1))およびC点より右下方向に存在するM点の距離情報Lmを補間処理により求める場合(ケース(A−2))ついて、説明する。
(ステップ2):
ケース(A−1)の場合、K点の微分量をEkとすると、本変形例に係る距離測定装置では、N点(注目画素P5の左上隅の点)の距離情報L2dおよびC点の距離情報Lcを、
L2d=(L2+L4)/2
Lc=(L2+L4+L6+L8)/4
とし、K点の距離情報Lkを、
Lk=L2d+(Lc−L2d)×(Ek/Ec)
として算出する。なお、微分量Ecは、注目画素P5に相当するカラー画像上の画像領域における最大の微分量であるため、0≦(Ek/Ec)≦1である。したがって、上式により、微分量を用いた補間を行うことができる。なお、上式において、Lc=L5としてもよい。
【0090】
ケース(A−2)の場合、M点の微分量をEmとすると、本変形例に係る距離測定装置では、O点(注目画素P5の右下隅の点)の距離情報L6dおよびC点の距離情報Lcを、
L6d=(L6+L8)/2
Lc=(L2+L4+L6+L8)/4
とし、M点の距離情報Lmを、
Lm=L6d+(Lc−L6d)×(Em/Ec)
として算出する。なお、微分量Ecは、注目画素P5に相当するカラー画像上の画像領域における最大の微分量であるため、0≦(Em/Ec)≦1である。したがって、上式により、微分量を用いた補間を行うことができる。なお、上式において、Lc=L5としてもよい。
【0091】
なお、上記処理(ステップ2の処理)は、輪郭情報抽出部14により上記各微分量を算出し、輪郭情報抽出部14算出された微分量を用いて、最適距離情報取得部が実行するようにすればよい。
以上により、本変形例の距離測定装置によれば、注目画素において、エッジがある部分において、さらに高精細な距離画像を、微分量を用いた補間処理により求めることができる。
[第2実施形態]
図6から図10を用いて、本発明の第2実施形態として、現フレームに対して1フレーム前の距離画像と、現フレームカラー画像および現フレームに対して1フレーム前のカラー画像に基づいて求めた動きベクトルに基づいて、現フレームの距離画像を補正する距離推定装置および方法について説明する。
【0092】
図6は、本発明の第2実施形態に係る距離推定装置200の概略構成図である。図8は、本発明の第2実施形態に係る距離推定装置200および距離推定方法における距離画像補正処理の概要を模式的に示した図である。また、図9は、本発明の第2実施形態に係る距離推定方法の処理フローチャートを示す図である。図10は、動きベクトル検出処理におけるブロックマッチング方法を説明するための模式図である。なお、第1実施形態と同様な構成要素については、同じ符号を付し、詳細な説明を省略する。また、第1実施形態と同様の部分については、説明を省略する。
図6〜図9に従い、本発明の第2実施形態である距離推定方法および装置について説明する。
<2.1:距離推定装置の構成>
本実施形態に係る距離推定装置200は、図6に示すように、第1実施形態に係る距離推定装置100において、最適距離情報取得部7および最適距離画像生成部15を、距離画像補正部23に置換し、輪郭情報抽出部14を削除し、さらに、カラー画像保持メモリ部21および動きベクトル検出部22を追加した構成となっている。
【0093】
それ以外については、距離推定装置200は、距離推定装置100と同様である。
カラー画像保持メモリ部21は、カラー画像生成部13により生成された画像(カラー画像)をフレーム単位に記憶保持する。そして、カラー画像保持メモリ部21は、動きベクトル検出部22からの要求に従い、フレーム単位でカラー画像を出力する。
動きベクトル検出部22は、図7に示すように、輪郭情報抽出部14Aおよび14Bと、動きベクトル算出部221と、を有する。
輪郭情報抽出部14Aおよび14Bは、第1実施形態の輪郭情報抽出部14と同様のものである。
輪郭情報抽出部14Aは、カラー画像生成部13から出力される現時刻tのフレーム画像Img_color(t)を入力とし、入力された現フレーム画像Img_color(t)から輪郭情報を抽出する。そして、輪郭情報抽出部14Aは、抽出した輪郭情報を動きベクトル算出部に出力する。
【0094】
輪郭情報抽出部14Bは、カラー画像保持メモリ部21から読み出した現フレーム時刻tより1フレーム前の時刻であるフレーム時刻(t−1)のフレーム画像Img_color(t−1)を入力とし、入力された現フレームの1フレーム前のフレーム画像Img_color(t−1)から輪郭情報を抽出する。そして、輪郭情報抽出部14Bは、抽出した輪郭情報を動きベクトル算出部に出力する。
なお、説明便宜のため、以下では、現フレーム画像Img_color(t)および現フレームから1フレーム前のフレーム画像Img_color(t−1)を用いて処理する場合に限定して説明する。
動きベクトル検出部22は、輪郭情報抽出部14Aおよび14Bから出力される現フレーム画像Img_color(t)の輪郭情報および現フレームから1フレーム前の画像Img_color(t−1)の輪郭情報を入力とし、入力された2つのフレーム画像の輪郭情報に基づいて動きベクトルを算出する。そして、動きベクトル検出部22は、算出した動きベクトルを距離画像補正部23に出力する。
【0095】
距離画像補正部23は、動きベクトル検出部22から出力される動きベクトルと、画像生成部6から出力される現フレーム時刻tの距離画像Img_distance(t)と、距離画像保持メモリ部8から出力される現フレーム時刻tから1フレーム前の距離画像Img_distance(t−1)と、を入力とする。距離画像補正部23は、動きベクトルに基づいて、距離画像の画素の値(距離情報)を補正し、最適距離画像を取得する。
<2.2:距離推定装置の動作>
以上のように構成された距離推定装置200の動作について、以下説明する。なお、第1実施形態と同様の部分については、説明を省略する。
カラー画像生成部13では、現フレーム時刻tにおけるカラー画像Img_color(t)=(C1(i,j,t),C2(i,j,t),C3(i,j,t))が生成され、生成されたカラー画像Img_color(t)が動きベクトル検出部22に出力される。ここで、(i,j)は、カラー画像における画素位置を示し、C1(i,j,t)は、フレーム時刻tでのカラー画像上の画素位置(i,j)における色情報成分C1を表すものとする。カラー画像の画素(i,j)における色情報成分は、通常3成分で表現されることが多い。例えば、RGB色空間におけるレッドR、グリーンG、ブルーBを表す信号成分あるいは、YCC色空間における輝度成分Y,色差成分CbおよびCrが、これに相当する。
【0096】
また、カラー画像保持メモリ部21内に保持されている現フレーム時刻より1フレーム前の時刻(t−1)のカラー画像Img_color(t−1)=(C1(i,j,t−1),C2(i,j,t−1),C3(i,j,t−1))が動きベクトル検出部22に出力される。
動きベクトル検出部22では、現フレーム画像Img_color(t−1)および1フレーム前の画像Img_color(t−1)の比較により、動きベクトルを検出する。
動きベクトル検出部22で実行される動きベクトル検出方法としては多くの手法があるが、ここでは、映像符号化処理で用いられるブロックマッチング方式を用いた処理について説明する。
【0097】
ブロックマッチング方式を用いた動きベクトル検出処理では、例えば、カラー画像を8画素×8画素のブロック領域(画像領域)に分割し、ブロック領域の相関演算により2つのフレーム間の動きベクトル検出を行う。
まず、輪郭情報抽出部14Aおよび14Bで、第1実施形態の場合と同様にして、輪郭抽出が行われる。輪郭情報抽出部14Aおよび14Bにより抽出された輪郭情報を、8画素×8画素単位の画像ブロックに分割し、分割した画像ブロックに対して、ブロックマッチング処理を行う。
ブロックマッチング処理では、現フレームから1フレーム時刻前のカラー画像内の輪郭情報E(i,j,t−1)が「1」の画素P(i,j,t−1)に対して、(数式12)による評価値est(x,y)を求める。そして、評価値est(x,y)が最小値となる(x,y)を求め、その(x,y)を画素P(i,j,t−1)にベクトル加算した点(画素)Q(i+x,j+y,t)を、1フレーム前の画素P(i,j,t−1)に対応する現フレームの画素点として検出する。
【0098】
その結果、画素Pにおける動きベクトルv(i,j)は、
v(i,j)=(vx,vy)=(x,y)
(vxおよびvyは、動きベクトルのx成分およびy成分を表す。)
として求めることができる。
【0099】
【数12】
【0100】
ここで、Nはブロックサイズを表す。また、以上の処理概要を、図10に模式的に示す。なお、図10では、画素点P、画素点Qともに、画像ブロックの左上に設定した場合について図示しているが、画素点PおよびQを、画像ブロックの中心におくことも可能である。
以上のようにして、動きベクトル検出部22で求めた動きベクトルは、距離画像補正部23に出力される。
距離画像補正部23では、動きベクトル検出部22により検出された動きベクトルを受けて、図8に示すように、補正処理が実施される。
図8(a)は、1フレーム前のカラー画像Img_color(t−1)の模式図であり、図8(b)は、現フレームのカラー画像Img_color(t)の模式図である。そして、図8(c)は、1フレーム前の距離画像Img_distance(t−1)の模式図であり、図8(d)は、現フレームのカラー画像Img_distance(t)の模式図である。また、距離画像の注目画素(処理対象画素)を、図8の画素PPとして、以下説明する。
【0101】
距離画像の注目画素PPに対応するカラー画像内のブロックにおいて、図8(b)において矢印のような動きベクトルv(PP)(v(PP)は、距離画像の画素PPに相当するカラー画像の画像ブロックから検出された動きベクトルを表すものとする)が、動きベクトル検出部22により検出されたとする。この場合、距離画像補正部23は、この動きベクトルv(PP)をもとに、距離画像の距離情報(距離画像の画素値)を補正する。
図8(b)に示すように、動きベクトルv(PP)は、左下方向のベクトルとなっているので、1フレーム前のカラー画像Img_color(t−1)の画素PPに対応する画像ブロックに存在していた車のボディー部分が、現フレームのカラー画像Img_color(t)の画素PPに対応する画像ブロックでは、当該画像ブロックの下の部分に存在すると推定される。また、図8(b)から分かるように、当該画像ブロックの上部分は、車の背景となっている。このため、現フレームの距離画像の画素PPから取得される距離情報は、精度が悪い可能性がある。つまり、車のボディー部分(距離の近い部分)と背景(距離の遠い部分)が、画素PPに混在しているので、画素PPの距離情報は、その両者の中間の値となっている可能性が高い。
【0102】
したがって、距離画像補正部23では、動きベクトルv(PP)から、画素PPの下部分の距離情報は、1フレーム前の距離画像Img_distance(t−1)の画素PPの距離情報と相関が高いと判断できる。これにより、距離画像補正部23では、現フレームの距離画像の画素PPの下部分の距離情報を、1フレーム前の距離画像Img_distance(t−1)の画素PPの距離情報に基づき補間する(あるいは、1フレーム前の距離画像Img_distance(t−1)の画素PPの距離情報に置き換える)。
一方、画素PPの上部分の距離情報は、動きベクトルv(PP)から、1フレーム前の距離画像Img_distance(t−1)の画素PPの上の画素の距離情報と相関が高いと判断できる。これにより、距離画像補正部23では、現フレームの距離画像の画素PPの上部分の距離情報を、1フレーム前の距離画像Img_distance(t−1)の画素PPの上の画素の距離情報に基づき補間する(あるいは、1フレーム前の距離画像Img_distance(t−1)の画素PPの上の画素の距離情報に置き換える)。
【0103】
以上により、距離画像補正部23では、動きベクトルに基づいて、距離画像の精度を向上させるように補間処理を行うことによって、最適距離画像を取得する。
なお、上記では、動きベクトルが検出された場合(動きベクトルの大きさ(スカラー値)が「0」でない場合)、距離画像の注目画素を2分割して(図8の注目画素PPの場合、上下2分割)、距離画像の注目画素を、1フレーム前の画素を用いて、補間(あるいは置換)する処理について説明したが、これに限定されることはない。動きベクトルの状況に応じて、さらに多分割して、距離画像の所定の画素の距離情報の精度を向上させるようにしてもよい。
また、図8では、動きベクトルv(PP)で得られた1フレーム前の距離画像Img_distance(t−1)内での対応部分の距離情報(距離画像の輝度に相当。)で置き換える処理を行っているが、これ以外にも、動きベクトルv(PP)で得られた1フレーム前の距離画像Img_distance(t−1)内での対応部分の距離情報(輝度値)と現フレームでの該当部分の距離情報(輝度値)との平均値を用いて、現フレームの距離画像Img_distance(t)の注目画素の距離情報を置き換えるようにしてもよい。
【0104】
このように距離推定装置200では、距離推定用の受光素子部2の撮像素子の画素数が少ないことによって、距離情報の精度が低くなってしまった部分を、さらに細分化し、さらに動きベクトルを用いて距離精度を改善することが可能となる。
このように本実施形態の距離推定装置200では、受光素子部2の撮像素子(距離推定用の撮像素子)の画素数を増やすことなく、1フレーム前の距離画像と、カラー画像から求めた動きベクトルとに基づいて、現フレーム時刻の距離画像を補正することによって、距離画像の高精度化を実現することができる。これにより、距離推定装置200では、受光素子部2の撮像素子(距離推定用の撮像素子)の画素数を単純に増やした場合に、電荷信号のS/N比低下し、その結果、取得される距離画像において距離分解能が低下することを効果的に抑えることができる。
【0105】
なお、上記において、動きベクトル検出部22では、ブロックマッチング処理による動きベクトルを検出する場合について説明したが、これに限定されることはない。例えば、勾配に注目した方法を用いて動きベクトルを検出することも可能である。
また、距離推定装置200において、距離画像の画素の細分化をして距離情報(距離値)を補正する場合、動きベクトルの大きさに基づき得られる値を用いて、距離画像の画素の分割数あるいは分割領域の決定方法等を制御することも可能である。
また、図9に示した処理フローチャートにおいて、ステップF13およびF14は、ステップF21までに実行されれば、いずれのタイミングにおいて実行されるものであってもよい。
[第3実施形態]
図11から図17を用いて、本発明の第3実施形態として、距離画像データの値(距離画像の距離情報)あるいは対象物からの反射光の強度に応じて、距離画像データの値(距離情報)の確からしさを表す信頼度を算出し、前記信頼度をもとに距離画像データ(距離情報)を補正することによって、距離推定処理を行う距離推定装置および方法について説明する。
【0106】
図11は、本発明の第3実施形態に係る距離推定装置300の概略構成図である。
図12は、距離推定装置300内の距離信頼度算出部31の概略構成図である。図13は、第3実施形態に係る距離推定装置および方法における距離信頼度による補正の方法を模式的に示した図である。
また、図15、図16は、第3実施形態に係る距離推定装置300および距離推定方法において用いられる距離信頼度を決定する関数例を示す図である。
図17は、第3実施形態に係る距離推定方法の処理フローチャートを示す図である。
なお、前述の実施形態と同様な構成要素については、同じ番号を付し、詳細な説明を省略する。また、前述の実施形態と同様の部分については、説明を省略する。
図11から図17に従い、本発明の第3実施形態である距離推定方法および装置について説明する。
【0107】
<3.1:距離推定装置の構成>
図11に示すように、本実施形態の距離推定装置300は、前述の実施形態に係る距離推定装置において、画像生成部6以降の信号処理を行う機能部が異なる点に特徴がある。つまり、距離推定装置300では、前述の実施形態に係る距離推定装置において、画像生成部6以降の信号処理を行う機能部として、距離信頼度算出部31および距離画像補正部32を追加した構成となっている。また、距離推定装置300は、前述の実施形態に係る距離推定装置において、色分解プリズム11、撮像素子部12以降の可視光成分の光に対する信号処理を行う機能部が省略されている。
それ以外については、前述の実施形態に係る距離推定装置と同様である。
距離信頼度算出部31は、画像生成部6により生成された距離画像の画素PP(i,j)に相当する距離情報L(i,j)と、電荷集積部3から出力される画素PP(i,j)に相当する電荷信号D(i,j)と、を入力とし、距離情報L(i,j)および電荷信号D(i,j)に基づいて、画素PP(i,j)における距離信頼度R(i,j)を求める。そして、距離信頼度算出部31は、求めた距離信頼度R(i,j)を距離画像補正部32に出力する。
【0108】
距離画像補正部32は、距離信頼度算出部31から出力される距離信頼度R(i,j)と、画像生成部6から出力される距離画像と、を入力とし、距離信頼度R(i,j)に基づいて距離画像に対して補正処理を行い、最適距離画像を取得する。
なお、距離推定装置300において、発光源10として、赤外光を発光する光源を用いる場合、受光素子部2の撮像素子として、赤外光用CCDを用いることが好ましい。また、この場合、受光光学系1において、例えば、赤外光用の光学フィルタを設け、受光素子部2に、赤外領域以外の光が入射されないようにすることが好ましい。
<3.2:距離推定装置の動作>
以上のように構成された距離推定装置300の動作について説明する。なお、前述の実施形態と同様の部分については、説明を省略する。
【0109】
距離信頼度算出部31では、画像生成部6で得られた距離画像の各画素PP(i,j)での距離値L(i,j)の信頼度を検出する処理を行う。
距離推定装置300では、次のことを考慮して、信頼度R(i,j)を決定する。
(S1)対象物からの反射波(反射光)の振幅があまり大きくない(環境光等のノイズと比較して小さい)ため、距離推定装置300と対象物との距離が大きい(つまり、遠い)ほど、距離推定装置300で取得される距離情報の精度が低い(環境光等のノイズの影響を受けやすい)。
(S2)対象物からの反射波(反射光)の振幅があまり大きくない(環境光等のノイズと比較して小さい)ので、受光素子部2の撮像素子(例えば、赤外光用CCD撮像素子)で受光された反射波(反射光)の振幅が小さいほど、距離推定装置300で取得される距離情報の精度が低い(環境光等のノイズの影響を受けやすい)。
【0110】
以上に基づいて、距離信頼度算出部31での信頼度R(i,j)の算出処理について、以下、具体的に説明する。
図15Aは、(S1)に基づいて、設定した推定距離L(i,j)−信頼度R(i,j)特性(関数により当該特性を実現。)の一例を示すグラフである。この場合、信頼度R(i,j)は、推定距離L(i,j)のみをパラメータとして、1次元で制御されることになる。
図15Bは、(S2)に基づいて、設定した反射波振幅D(i,j)−信頼度R(i,j)特性(関数により当該特性を実現。)の一例を示すグラフである。この場合、信頼度R(i,j)は、反射波振幅D(i,j)のみをパラメータとして、1次元で制御されることになる。なお、下記(数式14)のR2(L)は、図15Aの特性を実現する関数例を示している。
【0111】
また、図16Aおよび図16Bは、(S1)および(S2)に基づいて、信頼度R(i,j)を、2つのパラメータである反射波振幅D(i,j)および推定距離(距離情報)L(i,j)に基づき決定する場合の特性を、グラフを用いて示した図である。なお、反射波振幅D(i,j)−信頼度R1(i,j)特性および推定距離(距離情報)L(i,j)−信頼度R2(i,j)特性は、関数により実現してもよい。つまり、この場合、信頼度R(i,j)は、2つのパラメータである反射波振幅D(i,j)と推定距離L(i,j)に基づき、2次元で制御される。
(数式13)に、図15Bの特性を実現する関数例を示す。また、(数式14)に、図16Aの特性を実現する関数例を示す。また、(数式15)に図16Bの特性を実現する関数例を示す。なお、以下の数式において、便宜上、画素の画像上の位置情報(位置座標)を示す(i,j)は省略している。上記では、注目画素P(i,j)の信頼度をR(i,j)と表記したが、例えば、下記(数式13)では、信頼度が変数dの関数であることを明示するために、単に、R(d)と表記している。なお、他の関数についても同様に(i,j)を省略している部分がある。
【0112】
【数13】
【0113】
なお、(数式13)において、dは、反射波振幅(図16AのD(i,j)に相当。)である。
【0114】
【数14】
【0115】
【数15】
【0116】
なお、(数式14)において、dは反射波振幅(図16AのD(i,j)に相当。)であり、Lは距離情報(推定距離)(図16AのL(i,j)に相当。)である。
また、(数式13)、(数式14)において、keisuN、keisu1,keisu2,offset1,offset2は所定の正定数を表す。
また、(数15)において、deltaは所定の正定数を表す。
図15Bおよび図16Aは、offset1として最大推定距離MaxLを代入し、offset2として最大反射振幅MaxDを代入するとともに、傾きkeisu1とkeisu2に、keisuN=keisu1=3.0、keisu2=4.5の値を代入した場合を示している。
なお、傾きkeisu1の値とkeisu2の値としては、どちらも正定数であれば問題ないが、通常は1.0≦keisu1≦10.0、1.0≦keisu2≦10.0の値を使うことが好ましい。keisu1、keisu2ともに「1」より小さい値が採用された場合、変化は線形的になる。一方、keisu1、keisu2ともに大きくなるにつれて非線形性が増すようになる。
また、(数15)において、deltaは、図16Bの信頼度関数における「1.0」の領域を制御する値である。この値が小さいほど、信頼度R(i、j)は、「1.0」になる領域が小さくなり、この値が大きいほど、R(i、j)は、「1.0」になる領域が大きくなる。通常は、1.0≦delta≦Delmax、(DelmaxはMaxL、MaxD最小値)の値を使うことが好ましい。
【0117】
以上のようにして、距離信頼度算出部31で求められた信頼度R(i,j)は、距離画像補正部32に出力される。
次に、距離画像補正部32における補正処理の一例を、図14を用いて説明する。
図14は、距離画像の注目画素P(i,j)を中心として、距離画像から所定サイズの画素領域(複数の距離画像の画素からなる領域)を抽出して、模式的に示した図である。また、図13に、距離画像補正部32における補正処理の処理概要を周辺の機能部とともに、模式的に示す。
距離画像補正部32では、距離画像の補正として、例えば、図14に示すように、距離画像の注目画素(対象距離画素)P(i,j)を中心に、所定のサイズの画素領域AREA1(図14では、5画素×5画素の画素領域)を設定し、距離画像の画素領域AREA1内の各画素の距離情報(距離データ)に対して、各画素の信頼度を重み係数としたフィルタ処理を行った値dL(i,j)を求める。そして、その求めた値(フィルタ処理結果)dL(i,j)を改めて、距離画像の注目画素P(i,j)の距離情報(推定距離)とする(つまり、dL(i,j)を注目画素P(i,j)の距離情報とする)ことによって、距離情報(距離データ)の補正処理を実施する。
【0118】
距離画像補正部32により、以上の処理を距離画像の全画素に対して実行することで、補正後の距離画像、すなわち、最適距離画像が取得される。なお、図14では、距離画像の所定サイズの画素領域を、5画素×5画素として説明したが、これに限定されることはなく、他のサイズの画素領域を設定し、各画素の信頼度を用いたフィルタ処理を行ってもよいことは言うまでもない。
なお、距離画像補正部32での距離補正方法として、以下の方法を用いて補正処理を行ってもよい。
距離画像補正部32において、距離画像の注目画素(対象距離画素)P(i,j)を中心にもつ所定サイズの画素領域(距離画像上の画素領域)内の画素の距離情報(距離データ)に対して、最大の信頼度をもつ画素の距離情報(距離データ)を改めて注目画素P(i,j)の距離情報として採用することで補正処理を実行する。
【0119】
また、距離画像補正部32において、距離画像の注目画素(処理対象距離画素)P(i,j)を中心にもつ所定サイズの画素領域(距離画像上の画素領域)内の画素の距離情報(距離データ)の信頼度を重みとした平均値(重付平均値)AveL(i,j)と、注目画素の距離情報L(i,j)とを2変数にもつ所定の非線形関数を用いて求めた値を、改めて注目画素の距離情報として採用することによって補正処理を実行するようにしてもよい。
以上のように、距離推定装置300では、距離画像の各画素の距離情報あるいは反射光の強度に応じて、距離画像の当該画素における距離情報(距離画像データの値)の確からしさを表す信頼度を算出し、算出した信頼度をもとに距離画像データを補正することによって、最適距離画像を取得することができる。したがって、距離推定装置300では、受光素子部3の撮像素子の画素で取得された反射光のレベル(反射波の振幅)が小さい場合であっても、その受光素子部3の撮像素子の画素に相当する距離画像の画素において、距離情報を信頼度に基づいて補正することができるので、距離画像における距離推定精度の低下を効果的に抑制することができる。
【0120】
以上により、距離推定装置300では、精度の高い距離画像を取得することができる。
[他の実施形態]
上記実施形態を任意に組み合わせて本発明を実施してもよい。
例えば、(1)空間方向での補正処理(空間方向での相関性を利用した補正処理)を実現する上記第1実施形態の距離推定装置と、(2)時間方向での補正処理(時間方向での相関性を利用した補正処理(動きベクトルを用いた補正処理))を実現する上記第2実施形態の距離推定装置と、(3)さらに、信頼度を用いた処理を行う上記第3実施形態の距離推定装置を組み合わせることによって、本発明を実施してもよい。
このように上記第1〜第3実施形態の機能を組み合わせた距離推定装置では、距離分解能精度の低い画素(距離画像の画素)を信頼度に基づき自動判別して、時間・空間方向での補正処理(フィルタ処理等)を行うことによって、注目画素(対象画素)の周辺画素の距離情報を用いて、注目画素の距離情報を補正することができる。これにより、距離分解能精度の低い画素(距離画像画素)の距離精度(距離推定精度)を向上させることができる。
【0121】
また、上記実施形態では、受光素子部および撮像素子部の撮像素子として、CCDを用いる場合を想定しているが、これに限定されることはなく、例えば、CMOS型イメージセンサ等を用いてもよい。
また、本願発明により取得された距離画像に基づいて、左目用視差画像(ステレオ画像の左目用視差画像)および右目用視差画像(ステレオ画像の右目用視差画像)を生成し、生成した左目用視差画像および右目用視差画像により3次元表示装置等において、3次元画像(映像)表示を行うようにしてもよい。また、本願発明の距離測定装置と、3次元表示装置と、を備える3次元表示システムにおいて、本願発明の距離測定装置により取得した距離画像に基づいて、左目用視差画像(ステレオ画像の左目用視差画像)および右目用視差画像(ステレオ画像の右目用視差画像)を生成し、生成した左目用視差画像および右目用視差画像により3次元表示装置において、画像(映像)を3次元表示するようにしてもよい。
【0122】
また、本願発明の距離測定装置に、3次元画像生成部を追加し、3次元画像生成部において、本願発明の距離測定装置により取得した距離画像に基づいて、左目用視差画像(ステレオ画像の左目用視差画像)および右目用視差画像(ステレオ画像の右目用視差画像)を生成し、生成した左目用視差画像および右目用視差画像を出力するようにしてもよい。これにより、3次元画像生成部を追加した距離測定装置から出力される左目用視差画像および右目用視差画像を用いて、例えば、3次元表示装置により、3次元画像(映像)表示を行うことができる。
ここで、左目用視差画像(ステレオ画像の左目用視差画像)および右目用視差画像(ステレオ画像の右目用視差画像)は、距離情報が判明している場合、参照とする画像内の画素位置(x,y)における画素p(x,y)の距離情報z(x,y)に応じて、画素pを左右にずらすことにより生成することが可能である。なお、距離情報z(x,y)は所定の基準からの相対距離(奥行き値)でもよい。また、所定の基準点と各画像内の画素の距離情報との関係をもとに、三角測量等の幾何学的手法で対応する画素の視差量を求めることもできる。
【0123】
また、上記実施形態において説明した本発明の距離推定方法および距離推定装置は、例えば、コンピュータ、テレビ、デジタルカメラ、携帯電話、PDA、カーTVなど、画像を取り扱う機器に内臓、あるいは接続して用いられる装置であり、LSIなどの集積回路として実現される。
より詳しくは、上記各実施形態の距離推定装置は、個別に1チップ化させてもよいし、一部または全てを含むように1チップ化されてもよい。なお、ここでは、LSIとしたが、集積度の違いに基づき、IC、システムLSI、スーパーLSI、ウルトラLSIと呼称されることもある。
また、集積回路の手法にはLSIに限るものではなく、専用回路または汎用プロセッサを用いて実現することも可能である。LSI製造後に、プログラムすることが可能なFPGA(Field Programmable Gate Array)あるいは、LSI内部の回路セルの接続あるいは設定を再構成可能なリコンフィギュラブル・プロセッサを利用することも可能である。
【0124】
さらに、半導体技術の進歩または派生する別技術を用いてLSIに置き換わる集積回路化の技術が登場すれば、当然、その技術を用いて機能ブロックの集積化を行ってもよい。バイオ技術の適用等が可能性としてありえる。
また、上記各実施形態の各機能ブロックの処理は、プログラムを用いて実現されるものであってもよい。上記実施形態の各機能ブロックの処理は、例えば、コンピュータにおいて、中央演算装置(CPU)を用いて行われる。また、それぞれの処理を行うためのプログラムは、ハードディスク、ROMなどの記憶装置に格納されており、ROMにおいて、あるいはRAMに読み出されて実行される。
また、上記実施形態の各処理をハードウェアにより実現してもよいし、ソフトウェアにより実現してもよい。さらに、ソフトウェアおよびハードウェアの混在処理により実現してもよい。なお、上記実施形態に係る距離推定装置をハードウェアにより実現する場合、各処理を行うためのタイミング調整を行う必要があるのは言うまでもない。上記実施形態においては、説明便宜のため、実際のハードウェア設計で生じる各種信号のタイミング調整の詳細については省略している。
【0125】
なお、本発明の具体的な構成は、前述の実施形態に限られるものではなく、発明の要旨を逸脱しない範囲で種々の変更および修正が可能である。
【産業上の利用可能性】
【0126】
本発明の距離推定装置、距離推定方法、プログラム、集積回路およびカメラは、画素数の少ない撮像素子(CCD等)により取得した距離情報に基づいて、撮像素子(CCD等)の画素間での距離情報を補間・推定することで、TOF方式による距離画像の高解像度化(高精度化)を実現することができる。そして、得られた距離情報は、ムービーあるいはDSC等で撮影された画像表示のより自然な立体感表示目的に有効である。したがって、本発明は、映像関連分野において有用であり、当該分野において実施することができる。
【符号の説明】
【0127】
100、200、300 距離推定装置
10 発光源
9 発光源制御部
1 受光光学系
11 色分解プリズム
2 受光素子部
3 電荷集積部
4 制御部
5 信号演算部
6画像生成部
7 最適距離情報取得部
8 距離画像保持メモリ部
12 撮像素子部
13 カラー画像生成部
14 輪郭抽出部
15 最適距離画像生成部
21 カラー画像保持メモリ部
22 動きベクトル検出部
23 距離画像補正部
31 距離信頼度算出部
32 距離画像補正部
【特許請求の範囲】
【請求項1】
光強度変調された光を対象物に照射し、前記対象物からの反射光を用いて対象物までの距離を推定する距離推定装置であって、
光強度変調可能な光を照射する光源と、
前記光源を制御する発光源制御部と、
前記対象物からの光を集光する受光光学系と、
前記受光光学系で受光した光を、周波数により、第1光成分の光と、第2光成分の光とに分離する色分解部と、
前記色分解部により分離された第2光成分の光を電荷に変換する受光素子部と、
前記受光素子部で取得された電荷を集積し、電荷信号を取得する電荷集積部と、
前記電荷信号に基づいて、距離情報を算出する信号演算部と、
前記距離情報に基づいて、第1の画素数を持つ距離画像を生成する距離画像生成部と、
前記色分解部により分離された前記第2光成分の光を画像生成用電荷信号に変換する撮像素子部と、
前記撮像素子部により変換された前記画像生成用電荷信号に基づいて前記第1の画素数より多い画素数の高解像度画像を生成する高解像度画像生成部と、
前記高解像度画像生成部により生成された前記高解像度画像から輪郭情報を抽出する輪郭情報抽出部と、
前記距離画像の注目画素の距離情報を、前記距離画像において前記注目画素の周辺に存在する画素である周辺画素および前記輪郭情報抽出部により抽出された前記輪郭情報に基づいて、補正する距離画像補正部と、
を備える距離推定装置。
【請求項2】
前記距離画像補正部は、
前記距離画像の前記注目画素に相当する前記高解像度画像の画像領域内に輪郭情報がある場合、前記距離画像中の前記輪郭情報がある位置情報Pos(x,y)を特定し、前記位置情報Pos(x,y)と前記周辺画素との位置関係に基づき前記周辺画素の距離情報に重み付けを行い、さらに、重み付けをした前記周辺画素の距離情報を用いて、前記位置情報Pos(x,y)の距離情報を算出し、算出した前記位置情報Pos(x,y)の距離情報を、前記注目画素の距離情報に置換することで、前記距離画像の注目画素の距離情報を補正する、
請求項1に記載の距離推定装置。
【請求項3】
前記距離画像補正部は、
前記距離画像の前記注目画素に相当する前記高解像度画像の画像領域内に輪郭情報がある場合、前記距離画像中の前記輪郭情報に基づいて、前記注目画素を分割し、分割した画素に対して、それぞれ、距離画像上の位置が近い前記注目画素の周辺画素の距離情報を用いて、前記注目画素を分割した画素の距離情報を算出することで、前記距離画像の注目画素の距離情報を補正する、
請求項1に記載の距離推定装置。
【請求項4】
光強度変調された光を対象物に照射し、前記対象物からの反射光を用いて対象物までの距離を推定する距離推定装置であって、
光強度変調可能な光を照射する光源と、
前記光源を制御する発光源制御部と、
前記対象物からの光を集光する受光光学系と、
前記受光光学系で受光した光を、周波数に基づき、第1光成分の光と、第2光成分の光とに分離する色分解部と、
前記色分解部により分離された第2光成分の光を電荷に変換する受光素子部と、
前記受光素子部で取得された電荷を集積し、電荷信号を取得する電荷集積部と、
前記電荷信号に基づいて、距離情報を算出する信号演算部と、
前記距離情報に基づいて、第1の画素数を持つ距離画像を生成する距離画像生成部と、
前記距離画像を記憶する距離画像記憶部と、
前記色分解部により分離された前記第2光成分の光を画像生成用電荷信号に変換する撮像素子部と、
前記撮像素子部により変換された前記画像生成用電荷信号に基づいて前記第1の画素数より多い画素数の高解像度画像を生成する高解像度画像生成部と、
前記高解像度画像を記憶する高解像度画像記憶部と、
前記高解像度画像生成部により、所定の単位時刻tに取得された前記高解像度画像Img_color(t)と、前記高解像度画像記憶部に記憶されている前記所定の単位時刻tより前の時刻(t−α)に取得された前記高解像度画像Img_color(t−α)と、を比較することにより動きベクトルを検出する動きベクトル検出部と、
前記距離画像生成部により、所定の単位時刻tに取得された前記距離画像Img_distance(t)と、前記距離画像記憶部に記憶されている前記所定の単位時刻tより前の時刻(t−α)に取得された前記距離画像Img_distance(t−α)と、前記動きベクトル検出部により検出された前記動きベクトルに基づいて、前記距離画像の注目画素の距離情報を補正する距離画像補正部と、
を備える距離推定装置。
【請求項5】
光強度変調された光を対象物に照射し、前記対象物からの反射光を用いて対象物までの距離を推定する距離推定装置であって、
光強度変調可能な光を照射する光源と、
前記光源を制御する発光源制御部と、
前記対象物からの光を集光する受光光学系と、
前記受光光学系により受光した光を電荷に変換する受光素子部と、
前記受光素子部で取得された電荷を集積し、電荷信号を取得する電荷集積部と、
前記電荷信号に基づいて、距離情報を算出する信号演算部と、
前記距離情報に基づいて、距離画像を生成する距離画像生成部と、
少なくとも前記距離情報および前記電荷信号のいずれか一方に基づいて、前記距離画像の各画素の信頼度を算出する距離信頼度算出部と、
前記距離信頼度算出部により算出された前記信頼度に基づいて、前記距離画像の各画素の前記距離情報を補正する距離画像補正部と、
を備える距離推定装置。
【請求項6】
前記信頼度算出部は、
前記距離画像の注目画素の距離情報が大きい値であるほど、前記信頼度の値が小さくなるように、前記信頼度を算出する、
請求項5に記載の距離推定装置。
【請求項7】
前記信頼度算出部は、
前記距離画像の注目画素に対応する前記電荷信号の振幅値が小さいほど、前記信頼度の値が小さくなるように、前記信頼度を算出する、
請求項5または6に記載の距離推定装置。
【請求項8】
光強度変調された光を対象物に照射し、前記対象物からの反射光を用いて対象物までの距離を推定する距離推定方法であり、
光強度変調可能な光を照射する光源と、
前記対象物からの光を集光する受光光学系と、
前記受光光学系で受光した光を、周波数に基づき、第1光成分の光と、第2光成分の光とに分離する色分解部と、
前記色分解部により分離された第2光成分の光を電荷に変換する受光素子部と、
前記受光素子部で取得された電荷を集積し、電荷信号を取得する電荷集積部と、
前記色分解部により分離された前記第2光成分の光を画像生成用電荷信号に変換する撮像素子部と、
を備える、距離推定装置に用いられる距離推定方法であって、
前記光源を制御する発光源制御ステップと、
前記電荷信号に基づいて、距離情報を算出する信号演算ステップと、
前記距離情報に基づいて、第1の画素数を持つ距離画像を生成する距離画像生成ステップと、
前記撮像素子部により変換された前記画像生成用電荷信号に基づいて前記第1の画素数より多い画素数の高解像度画像を生成する高解像度画像生成ステップと、
前記高解像度生成ステップにより生成された前記高解像度画像から輪郭情報を抽出する輪郭情報抽出ステップと、
前記距離画像の注目画素の距離情報を、前記距離画像において前記注目画素の周辺に存在する画素である周辺画素および前記輪郭情報抽出ステップにより抽出された前記輪郭情報に基づいて、補正する距離画像補正ステップと、
を備える距離推定方法。
【請求項9】
光強度変調された光を対象物に照射し、前記対象物からの反射光を用いて対象物までの距離を推定する距離推定方法であり、
光強度変調可能な光を照射する光源と、
前記対象物からの光を集光する受光光学系と、
前記受光光学系で受光した光を、周波数に基づき、第1光成分の光と、第2光成分の光とに分離する色分解部と、
前記色分解部により分離された第2光成分の光を電荷に変換する受光素子部と、
前記受光素子部で取得された電荷を集積し、電荷信号を取得する電荷集積部と、
前記色分解部により分離された前記第2光成分の光を画像生成用電荷信号に変換する撮像素子部と、
を備える距離推定装置に用いられる距離推定方法であって、
前記光源を制御する発光源制御ステップと、
前記電荷信号に基づいて、距離情報を算出する信号演算ステップと、
前記距離情報に基づいて、第1の画素数を持つ距離画像を生成する距離画像生成ステップと、
前記距離画像を記憶する距離画像記憶ステップと、
前記撮像素子部により変換された前記画像生成用電荷信号に基づいて前記第1の画素数より多い画素数の高解像度画像を生成する高解像度画像生成ステップと、
前記高解像度画像を記憶する高解像度画像記憶ステップと、
前記高解像度画像生成ステップにより、所定の単位時刻tに取得された前記高解像度画像Img_color(t)と、前記高解像度画像記憶ステップで記憶された前記所定の単位時刻tより前の時刻(t−α)に取得された前記高解像度画像Img_color(t−α)と、を比較することにより動きベクトルを検出する動きベクトル検出ステップと、
前記距離画像生成ステップにより、所定の単位時刻tに取得された前記距離画像Img_distance(t)と、前記距離画像記憶ステップで記憶された前記所定の単位時刻tより前の時刻(t−α)に取得された前記距離画像Img_distance(t−α)と、前記動きベクトル検出ステップにより検出された前記動きベクトルに基づいて、前記距離画像の注目画素の距離情報を補正する距離画像補正ステップと、
を備える距離推定方法。
【請求項10】
光強度変調された光を対象物に照射し、前記対象物からの反射光を用いて対象物までの距離を推定する距離推定方法であり、
光強度変調可能な光を照射する光源と、
前記対象物からの光を集光する受光光学系と、
前記受光光学系により受光した光を電荷に変換する受光素子部と、
前記受光素子部で取得された電荷を集積し、電荷信号を取得する電荷集積部と、
を備える距離推定装置に用いられる距離推定方法であって、
前記光源を制御する発光源制御ステップと、
前記電荷信号に基づいて、距離情報を算出する信号演算ステップと、
前記距離情報に基づいて、距離画像を生成する距離画像生成ステップと、
少なくとも前記距離情報および前記電荷信号のいずれか一方に基づいて、前記距離画像の各画素の信頼度を算出する距離信頼度算出ステップと、
前記距離信頼度算出ステップにより算出された前記信頼度に基づいて、前記前記距離画像の各画素の前記距離情報を補正する距離画像補正ステップと、
を備える距離推定方法。
【請求項11】
光強度変調された光を対象物に照射し、前記対象物からの反射光を用いて対象物までの距離を推定する距離推定処理用プログラムであり、
光強度変調可能な光を照射する光源と、
前記対象物からの光を集光する受光光学系と、
前記受光光学系で受光した光を、周波数に基づき、第1光成分の光と、第2光成分の光とに分離する色分解部と、
前記色分解部により分離された第2光成分の光を電荷に変換する受光素子部と、
前記受光素子部で取得された電荷を集積し、電荷信号を取得する電荷集積部と、
前記色分解部により分離された前記第2光成分の光を画像生成用電荷信号に変換する撮像素子部と、
を備える、距離推定装置に用いられる距離推定方法を、コンピュータに実行させるプログラムであって、
前記光源を制御する発光源制御ステップと、
前記電荷信号に基づいて、距離情報を算出する信号演算ステップと、
前記距離情報に基づいて、第1の画素数を持つ距離画像を生成する距離画像生成ステップと、
前記撮像素子部により変換された前記画像生成用電荷信号に基づいて前記第1の画素数より多い画素数の高解像度画像を生成する高解像度画像生成ステップと、
前記高解像度生成ステップにより生成された前記高解像度画像から輪郭情報を抽出する輪郭情報抽出ステップと、
前記距離画像の注目画素の距離情報を、前記距離画像において前記注目画素の周辺に存在する画素である周辺画素および前記輪郭情報抽出ステップにより抽出された前記輪郭情報に基づいて、補正する距離画像補正ステップと、
を備える距離推定方法を、コンピュータに実行させるプログラム。
【請求項12】
光強度変調された光を対象物に照射し、前記対象物からの反射光を用いて対象物までの距離を推定する距離推定処理用プログラムであり、
光強度変調可能な光を照射する光源と、
前記対象物からの光を集光する受光光学系と、
前記受光光学系で受光した光を、周波数に基づき、第1光成分の光と、第2光成分の光とに分離する色分解部と、
前記色分解部により分離された第2光成分の光を電荷に変換する受光素子部と、
前記受光素子部で取得された電荷を集積し、電荷信号を取得する電荷集積部と、
前記色分解部により分離された前記第2光成分の光を画像生成用電荷信号に変換する撮像素子部と、
を備える距離推定装置に用いられる距離推定方法を、コンピュータに実行させるプログラムであって、
前記光源を制御する発光源制御ステップと、
前記電荷信号に基づいて、距離情報を算出する信号演算ステップと、
前記距離情報に基づいて、第1の画素数を持つ距離画像を生成する距離画像生成ステップと、
前記距離画像を記憶する距離画像記憶ステップと、
前記撮像素子部により変換された前記画像生成用電荷信号に基づいて前記第1の画素数より多い画素数の高解像度画像を生成する高解像度画像生成ステップと、
前記高解像度画像を記憶する高解像度画像記憶ステップと、
前記高解像度画像生成ステップにより、所定の単位時刻tに取得された前記高解像度画像Img_color(t)と、前記高解像度画像記憶ステップで記憶された前記所定の単位時刻tより前の時刻(t−α)に取得された前記高解像度画像Img_color(t−α)と、を比較することにより動きベクトルを検出する動きベクトル検出ステップと、
前記距離画像生成ステップにより、所定の単位時刻tに取得された前記距離画像Img_distance(t)と、前記距離画像記憶ステップで記憶された前記所定の単位時刻tより前の時刻(t−α)に取得された前記距離画像Img_distance(t−α)と、前記動きベクトル検出ステップにより検出された前記動きベクトルに基づいて、前記距離画像の注目画素の距離情報を補正する距離画像補正ステップと、
を備える距離推定方法を、コンピュータに実行させるプログラム。
【請求項13】
光強度変調された光を対象物に照射し、前記対象物からの反射光を用いて対象物までの距離を推定する距離推定処理用プログラムであり、
光強度変調可能な光を照射する光源と、
前記対象物からの光を集光する受光光学系と、
前記受光光学系により受光した光を電荷に変換する受光素子部と、
前記受光素子部で取得された電荷を集積し、電荷信号を取得する電荷集積部と、
を備える距離推定装置に用いられる距離推定方法を、コンピュータに実行させるプログラムであって、
前記光源を制御する発光源制御ステップと、
前記電荷信号に基づいて、距離情報を算出する信号演算ステップと、
前記距離情報に基づいて、距離画像を生成する距離画像生成ステップと、
少なくとも前記距離情報および前記電荷信号のいずれか一方に基づいて、前記距離画像の各画素の信頼度を算出する距離信頼度算出ステップと、
前記距離信頼度算出ステップにより算出された前記信頼度に基づいて、前記前記距離画像の各画素の前記距離情報を補正する距離画像補正ステップと、
を備える距離推定方法を、コンピュータに実行させるプログラム。
【請求項14】
光強度変調された光を対象物に照射し、前記対象物からの反射光を用いて対象物までの距離を推定する距離推定装置に用いられる集積回路であり、
光強度変調可能な光を照射する光源と、
前記対象物からの光を集光する受光光学系と、
前記受光光学系で受光した光を、周波数に基づき、第1光成分の光と、第2光成分の光とに分離する色分解部と、
前記色分解部により分離された第2光成分の光を電荷に変換する受光素子部と、
前記受光素子部で取得された電荷を集積し、電荷信号を取得する電荷集積部と、
前記色分解部により分離された前記第2光成分の光を画像生成用電荷信号に変換する撮像素子部と、
を備える距離推定装置に用いられる集積回路であって、
前記光源を制御する発光源制御部と、
前記電荷信号に基づいて、距離情報を算出する信号演算部と、
前記距離情報に基づいて、第1の画素数を持つ距離画像を生成する距離画像生成部と、
前記撮像素子部により変換された前記画像生成用電荷信号に基づいて前記第1の画素数より多い画素数の高解像度画像を生成する高解像度画像生成部と、
前記高解像度生成部により生成された前記高解像度画像から輪郭情報を抽出する輪郭情報抽出部と、
前記距離画像の注目画素の距離情報を、前記距離画像において前記注目画素の周辺に存在する画素である周辺画素および前記輪郭情報抽出部により抽出された前記輪郭情報に基づいて、補正する距離画像補正部と、
を備える集積回路。
【請求項15】
光強度変調された光を対象物に照射し、前記対象物からの反射光を用いて対象物までの距離を推定する距離推定装置に用いられる集積回路であり、
光強度変調可能な光を照射する光源と、
前記対象物からの光を集光する受光光学系と、
前記受光光学系で受光した光を、周波数に基づき、第1光成分の光と、第2光成分の光とに分離する色分解部と、
前記色分解部により分離された第2光成分の光を電荷に変換する受光素子部と、
前記受光素子部で取得された電荷を集積し、電荷信号を取得する電荷集積部と、
前記色分解部により分離された前記第2光成分の光を画像生成用電荷信号に変換する撮像素子部と、
を備える距離推定装置に用いられる集積回路であって、
前記光源を制御する発光源制御部と、
前記電荷信号に基づいて、距離情報を算出する信号演算部と、
前記距離情報に基づいて、第1の画素数を持つ距離画像を生成する距離画像生成部と、
前記距離画像を記憶する距離画像記憶部と、
前記撮像素子部により変換された前記画像生成用電荷信号に基づいて前記第1の画素数より多い画素数の高解像度画像を生成する高解像度画像生成部と、
前記高解像度画像を記憶する高解像度画像記憶部と、
前記高解像度画像生成部により、所定の単位時刻tに取得された前記高解像度画像Img_color(t)と、前記高解像度画像記憶部に記憶されている前記所定の単位時刻tより前の時刻(t−α)に取得された前記高解像度画像Img_color(t−α)と、を比較することにより動きベクトルを検出する動きベクトル検出部と、
前記距離画像生成部により、所定の単位時刻tに取得された前記距離画像Img_distance(t)と、前記距離画像記憶部に記憶されている前記所定の単位時刻tより前の時刻(t−α)に取得された前記距離画像Img_distance(t−α)と、前記動きベクトル検出部により検出された前記動きベクトルに基づいて、前記距離画像の注目画素の距離情報を補正する距離画像補正部と、
を備える集積回路。
【請求項16】
光強度変調された光を対象物に照射し、前記対象物からの反射光を用いて対象物までの距離を推定する距離推定装置に用いられる集積回路であり、
光強度変調可能な光を照射する光源と、
前記対象物からの光を集光する受光光学系と、
前記受光光学系により受光した光を電荷に変換する受光素子部と、
前記受光素子部で取得された電荷を集積し、電荷信号を取得する電荷集積部と、
を備える距離推定装置に用いられる集積回路であって、
前記光源を制御する発光源制御部と、
前記電荷信号に基づいて、距離情報を算出する信号演算部と、
前記距離情報に基づいて、距離画像を生成する距離画像生成部と、
少なくとも前記距離情報および前記電荷信号にいずれか一方に基づいて、前記距離画像の各画素の信頼度を算出する距離信頼度算出部と、
前記距離信頼度算出部により算出された前記信頼度に基づいて、前記前記距離画像の各画素の前記距離情報を補正する距離画像補正部と、
を備える集積回路。
【請求項17】
請求項1から7のいずれかに記載の距離推定装置を含む、
カメラ。
【請求項1】
光強度変調された光を対象物に照射し、前記対象物からの反射光を用いて対象物までの距離を推定する距離推定装置であって、
光強度変調可能な光を照射する光源と、
前記光源を制御する発光源制御部と、
前記対象物からの光を集光する受光光学系と、
前記受光光学系で受光した光を、周波数により、第1光成分の光と、第2光成分の光とに分離する色分解部と、
前記色分解部により分離された第2光成分の光を電荷に変換する受光素子部と、
前記受光素子部で取得された電荷を集積し、電荷信号を取得する電荷集積部と、
前記電荷信号に基づいて、距離情報を算出する信号演算部と、
前記距離情報に基づいて、第1の画素数を持つ距離画像を生成する距離画像生成部と、
前記色分解部により分離された前記第2光成分の光を画像生成用電荷信号に変換する撮像素子部と、
前記撮像素子部により変換された前記画像生成用電荷信号に基づいて前記第1の画素数より多い画素数の高解像度画像を生成する高解像度画像生成部と、
前記高解像度画像生成部により生成された前記高解像度画像から輪郭情報を抽出する輪郭情報抽出部と、
前記距離画像の注目画素の距離情報を、前記距離画像において前記注目画素の周辺に存在する画素である周辺画素および前記輪郭情報抽出部により抽出された前記輪郭情報に基づいて、補正する距離画像補正部と、
を備える距離推定装置。
【請求項2】
前記距離画像補正部は、
前記距離画像の前記注目画素に相当する前記高解像度画像の画像領域内に輪郭情報がある場合、前記距離画像中の前記輪郭情報がある位置情報Pos(x,y)を特定し、前記位置情報Pos(x,y)と前記周辺画素との位置関係に基づき前記周辺画素の距離情報に重み付けを行い、さらに、重み付けをした前記周辺画素の距離情報を用いて、前記位置情報Pos(x,y)の距離情報を算出し、算出した前記位置情報Pos(x,y)の距離情報を、前記注目画素の距離情報に置換することで、前記距離画像の注目画素の距離情報を補正する、
請求項1に記載の距離推定装置。
【請求項3】
前記距離画像補正部は、
前記距離画像の前記注目画素に相当する前記高解像度画像の画像領域内に輪郭情報がある場合、前記距離画像中の前記輪郭情報に基づいて、前記注目画素を分割し、分割した画素に対して、それぞれ、距離画像上の位置が近い前記注目画素の周辺画素の距離情報を用いて、前記注目画素を分割した画素の距離情報を算出することで、前記距離画像の注目画素の距離情報を補正する、
請求項1に記載の距離推定装置。
【請求項4】
光強度変調された光を対象物に照射し、前記対象物からの反射光を用いて対象物までの距離を推定する距離推定装置であって、
光強度変調可能な光を照射する光源と、
前記光源を制御する発光源制御部と、
前記対象物からの光を集光する受光光学系と、
前記受光光学系で受光した光を、周波数に基づき、第1光成分の光と、第2光成分の光とに分離する色分解部と、
前記色分解部により分離された第2光成分の光を電荷に変換する受光素子部と、
前記受光素子部で取得された電荷を集積し、電荷信号を取得する電荷集積部と、
前記電荷信号に基づいて、距離情報を算出する信号演算部と、
前記距離情報に基づいて、第1の画素数を持つ距離画像を生成する距離画像生成部と、
前記距離画像を記憶する距離画像記憶部と、
前記色分解部により分離された前記第2光成分の光を画像生成用電荷信号に変換する撮像素子部と、
前記撮像素子部により変換された前記画像生成用電荷信号に基づいて前記第1の画素数より多い画素数の高解像度画像を生成する高解像度画像生成部と、
前記高解像度画像を記憶する高解像度画像記憶部と、
前記高解像度画像生成部により、所定の単位時刻tに取得された前記高解像度画像Img_color(t)と、前記高解像度画像記憶部に記憶されている前記所定の単位時刻tより前の時刻(t−α)に取得された前記高解像度画像Img_color(t−α)と、を比較することにより動きベクトルを検出する動きベクトル検出部と、
前記距離画像生成部により、所定の単位時刻tに取得された前記距離画像Img_distance(t)と、前記距離画像記憶部に記憶されている前記所定の単位時刻tより前の時刻(t−α)に取得された前記距離画像Img_distance(t−α)と、前記動きベクトル検出部により検出された前記動きベクトルに基づいて、前記距離画像の注目画素の距離情報を補正する距離画像補正部と、
を備える距離推定装置。
【請求項5】
光強度変調された光を対象物に照射し、前記対象物からの反射光を用いて対象物までの距離を推定する距離推定装置であって、
光強度変調可能な光を照射する光源と、
前記光源を制御する発光源制御部と、
前記対象物からの光を集光する受光光学系と、
前記受光光学系により受光した光を電荷に変換する受光素子部と、
前記受光素子部で取得された電荷を集積し、電荷信号を取得する電荷集積部と、
前記電荷信号に基づいて、距離情報を算出する信号演算部と、
前記距離情報に基づいて、距離画像を生成する距離画像生成部と、
少なくとも前記距離情報および前記電荷信号のいずれか一方に基づいて、前記距離画像の各画素の信頼度を算出する距離信頼度算出部と、
前記距離信頼度算出部により算出された前記信頼度に基づいて、前記距離画像の各画素の前記距離情報を補正する距離画像補正部と、
を備える距離推定装置。
【請求項6】
前記信頼度算出部は、
前記距離画像の注目画素の距離情報が大きい値であるほど、前記信頼度の値が小さくなるように、前記信頼度を算出する、
請求項5に記載の距離推定装置。
【請求項7】
前記信頼度算出部は、
前記距離画像の注目画素に対応する前記電荷信号の振幅値が小さいほど、前記信頼度の値が小さくなるように、前記信頼度を算出する、
請求項5または6に記載の距離推定装置。
【請求項8】
光強度変調された光を対象物に照射し、前記対象物からの反射光を用いて対象物までの距離を推定する距離推定方法であり、
光強度変調可能な光を照射する光源と、
前記対象物からの光を集光する受光光学系と、
前記受光光学系で受光した光を、周波数に基づき、第1光成分の光と、第2光成分の光とに分離する色分解部と、
前記色分解部により分離された第2光成分の光を電荷に変換する受光素子部と、
前記受光素子部で取得された電荷を集積し、電荷信号を取得する電荷集積部と、
前記色分解部により分離された前記第2光成分の光を画像生成用電荷信号に変換する撮像素子部と、
を備える、距離推定装置に用いられる距離推定方法であって、
前記光源を制御する発光源制御ステップと、
前記電荷信号に基づいて、距離情報を算出する信号演算ステップと、
前記距離情報に基づいて、第1の画素数を持つ距離画像を生成する距離画像生成ステップと、
前記撮像素子部により変換された前記画像生成用電荷信号に基づいて前記第1の画素数より多い画素数の高解像度画像を生成する高解像度画像生成ステップと、
前記高解像度生成ステップにより生成された前記高解像度画像から輪郭情報を抽出する輪郭情報抽出ステップと、
前記距離画像の注目画素の距離情報を、前記距離画像において前記注目画素の周辺に存在する画素である周辺画素および前記輪郭情報抽出ステップにより抽出された前記輪郭情報に基づいて、補正する距離画像補正ステップと、
を備える距離推定方法。
【請求項9】
光強度変調された光を対象物に照射し、前記対象物からの反射光を用いて対象物までの距離を推定する距離推定方法であり、
光強度変調可能な光を照射する光源と、
前記対象物からの光を集光する受光光学系と、
前記受光光学系で受光した光を、周波数に基づき、第1光成分の光と、第2光成分の光とに分離する色分解部と、
前記色分解部により分離された第2光成分の光を電荷に変換する受光素子部と、
前記受光素子部で取得された電荷を集積し、電荷信号を取得する電荷集積部と、
前記色分解部により分離された前記第2光成分の光を画像生成用電荷信号に変換する撮像素子部と、
を備える距離推定装置に用いられる距離推定方法であって、
前記光源を制御する発光源制御ステップと、
前記電荷信号に基づいて、距離情報を算出する信号演算ステップと、
前記距離情報に基づいて、第1の画素数を持つ距離画像を生成する距離画像生成ステップと、
前記距離画像を記憶する距離画像記憶ステップと、
前記撮像素子部により変換された前記画像生成用電荷信号に基づいて前記第1の画素数より多い画素数の高解像度画像を生成する高解像度画像生成ステップと、
前記高解像度画像を記憶する高解像度画像記憶ステップと、
前記高解像度画像生成ステップにより、所定の単位時刻tに取得された前記高解像度画像Img_color(t)と、前記高解像度画像記憶ステップで記憶された前記所定の単位時刻tより前の時刻(t−α)に取得された前記高解像度画像Img_color(t−α)と、を比較することにより動きベクトルを検出する動きベクトル検出ステップと、
前記距離画像生成ステップにより、所定の単位時刻tに取得された前記距離画像Img_distance(t)と、前記距離画像記憶ステップで記憶された前記所定の単位時刻tより前の時刻(t−α)に取得された前記距離画像Img_distance(t−α)と、前記動きベクトル検出ステップにより検出された前記動きベクトルに基づいて、前記距離画像の注目画素の距離情報を補正する距離画像補正ステップと、
を備える距離推定方法。
【請求項10】
光強度変調された光を対象物に照射し、前記対象物からの反射光を用いて対象物までの距離を推定する距離推定方法であり、
光強度変調可能な光を照射する光源と、
前記対象物からの光を集光する受光光学系と、
前記受光光学系により受光した光を電荷に変換する受光素子部と、
前記受光素子部で取得された電荷を集積し、電荷信号を取得する電荷集積部と、
を備える距離推定装置に用いられる距離推定方法であって、
前記光源を制御する発光源制御ステップと、
前記電荷信号に基づいて、距離情報を算出する信号演算ステップと、
前記距離情報に基づいて、距離画像を生成する距離画像生成ステップと、
少なくとも前記距離情報および前記電荷信号のいずれか一方に基づいて、前記距離画像の各画素の信頼度を算出する距離信頼度算出ステップと、
前記距離信頼度算出ステップにより算出された前記信頼度に基づいて、前記前記距離画像の各画素の前記距離情報を補正する距離画像補正ステップと、
を備える距離推定方法。
【請求項11】
光強度変調された光を対象物に照射し、前記対象物からの反射光を用いて対象物までの距離を推定する距離推定処理用プログラムであり、
光強度変調可能な光を照射する光源と、
前記対象物からの光を集光する受光光学系と、
前記受光光学系で受光した光を、周波数に基づき、第1光成分の光と、第2光成分の光とに分離する色分解部と、
前記色分解部により分離された第2光成分の光を電荷に変換する受光素子部と、
前記受光素子部で取得された電荷を集積し、電荷信号を取得する電荷集積部と、
前記色分解部により分離された前記第2光成分の光を画像生成用電荷信号に変換する撮像素子部と、
を備える、距離推定装置に用いられる距離推定方法を、コンピュータに実行させるプログラムであって、
前記光源を制御する発光源制御ステップと、
前記電荷信号に基づいて、距離情報を算出する信号演算ステップと、
前記距離情報に基づいて、第1の画素数を持つ距離画像を生成する距離画像生成ステップと、
前記撮像素子部により変換された前記画像生成用電荷信号に基づいて前記第1の画素数より多い画素数の高解像度画像を生成する高解像度画像生成ステップと、
前記高解像度生成ステップにより生成された前記高解像度画像から輪郭情報を抽出する輪郭情報抽出ステップと、
前記距離画像の注目画素の距離情報を、前記距離画像において前記注目画素の周辺に存在する画素である周辺画素および前記輪郭情報抽出ステップにより抽出された前記輪郭情報に基づいて、補正する距離画像補正ステップと、
を備える距離推定方法を、コンピュータに実行させるプログラム。
【請求項12】
光強度変調された光を対象物に照射し、前記対象物からの反射光を用いて対象物までの距離を推定する距離推定処理用プログラムであり、
光強度変調可能な光を照射する光源と、
前記対象物からの光を集光する受光光学系と、
前記受光光学系で受光した光を、周波数に基づき、第1光成分の光と、第2光成分の光とに分離する色分解部と、
前記色分解部により分離された第2光成分の光を電荷に変換する受光素子部と、
前記受光素子部で取得された電荷を集積し、電荷信号を取得する電荷集積部と、
前記色分解部により分離された前記第2光成分の光を画像生成用電荷信号に変換する撮像素子部と、
を備える距離推定装置に用いられる距離推定方法を、コンピュータに実行させるプログラムであって、
前記光源を制御する発光源制御ステップと、
前記電荷信号に基づいて、距離情報を算出する信号演算ステップと、
前記距離情報に基づいて、第1の画素数を持つ距離画像を生成する距離画像生成ステップと、
前記距離画像を記憶する距離画像記憶ステップと、
前記撮像素子部により変換された前記画像生成用電荷信号に基づいて前記第1の画素数より多い画素数の高解像度画像を生成する高解像度画像生成ステップと、
前記高解像度画像を記憶する高解像度画像記憶ステップと、
前記高解像度画像生成ステップにより、所定の単位時刻tに取得された前記高解像度画像Img_color(t)と、前記高解像度画像記憶ステップで記憶された前記所定の単位時刻tより前の時刻(t−α)に取得された前記高解像度画像Img_color(t−α)と、を比較することにより動きベクトルを検出する動きベクトル検出ステップと、
前記距離画像生成ステップにより、所定の単位時刻tに取得された前記距離画像Img_distance(t)と、前記距離画像記憶ステップで記憶された前記所定の単位時刻tより前の時刻(t−α)に取得された前記距離画像Img_distance(t−α)と、前記動きベクトル検出ステップにより検出された前記動きベクトルに基づいて、前記距離画像の注目画素の距離情報を補正する距離画像補正ステップと、
を備える距離推定方法を、コンピュータに実行させるプログラム。
【請求項13】
光強度変調された光を対象物に照射し、前記対象物からの反射光を用いて対象物までの距離を推定する距離推定処理用プログラムであり、
光強度変調可能な光を照射する光源と、
前記対象物からの光を集光する受光光学系と、
前記受光光学系により受光した光を電荷に変換する受光素子部と、
前記受光素子部で取得された電荷を集積し、電荷信号を取得する電荷集積部と、
を備える距離推定装置に用いられる距離推定方法を、コンピュータに実行させるプログラムであって、
前記光源を制御する発光源制御ステップと、
前記電荷信号に基づいて、距離情報を算出する信号演算ステップと、
前記距離情報に基づいて、距離画像を生成する距離画像生成ステップと、
少なくとも前記距離情報および前記電荷信号のいずれか一方に基づいて、前記距離画像の各画素の信頼度を算出する距離信頼度算出ステップと、
前記距離信頼度算出ステップにより算出された前記信頼度に基づいて、前記前記距離画像の各画素の前記距離情報を補正する距離画像補正ステップと、
を備える距離推定方法を、コンピュータに実行させるプログラム。
【請求項14】
光強度変調された光を対象物に照射し、前記対象物からの反射光を用いて対象物までの距離を推定する距離推定装置に用いられる集積回路であり、
光強度変調可能な光を照射する光源と、
前記対象物からの光を集光する受光光学系と、
前記受光光学系で受光した光を、周波数に基づき、第1光成分の光と、第2光成分の光とに分離する色分解部と、
前記色分解部により分離された第2光成分の光を電荷に変換する受光素子部と、
前記受光素子部で取得された電荷を集積し、電荷信号を取得する電荷集積部と、
前記色分解部により分離された前記第2光成分の光を画像生成用電荷信号に変換する撮像素子部と、
を備える距離推定装置に用いられる集積回路であって、
前記光源を制御する発光源制御部と、
前記電荷信号に基づいて、距離情報を算出する信号演算部と、
前記距離情報に基づいて、第1の画素数を持つ距離画像を生成する距離画像生成部と、
前記撮像素子部により変換された前記画像生成用電荷信号に基づいて前記第1の画素数より多い画素数の高解像度画像を生成する高解像度画像生成部と、
前記高解像度生成部により生成された前記高解像度画像から輪郭情報を抽出する輪郭情報抽出部と、
前記距離画像の注目画素の距離情報を、前記距離画像において前記注目画素の周辺に存在する画素である周辺画素および前記輪郭情報抽出部により抽出された前記輪郭情報に基づいて、補正する距離画像補正部と、
を備える集積回路。
【請求項15】
光強度変調された光を対象物に照射し、前記対象物からの反射光を用いて対象物までの距離を推定する距離推定装置に用いられる集積回路であり、
光強度変調可能な光を照射する光源と、
前記対象物からの光を集光する受光光学系と、
前記受光光学系で受光した光を、周波数に基づき、第1光成分の光と、第2光成分の光とに分離する色分解部と、
前記色分解部により分離された第2光成分の光を電荷に変換する受光素子部と、
前記受光素子部で取得された電荷を集積し、電荷信号を取得する電荷集積部と、
前記色分解部により分離された前記第2光成分の光を画像生成用電荷信号に変換する撮像素子部と、
を備える距離推定装置に用いられる集積回路であって、
前記光源を制御する発光源制御部と、
前記電荷信号に基づいて、距離情報を算出する信号演算部と、
前記距離情報に基づいて、第1の画素数を持つ距離画像を生成する距離画像生成部と、
前記距離画像を記憶する距離画像記憶部と、
前記撮像素子部により変換された前記画像生成用電荷信号に基づいて前記第1の画素数より多い画素数の高解像度画像を生成する高解像度画像生成部と、
前記高解像度画像を記憶する高解像度画像記憶部と、
前記高解像度画像生成部により、所定の単位時刻tに取得された前記高解像度画像Img_color(t)と、前記高解像度画像記憶部に記憶されている前記所定の単位時刻tより前の時刻(t−α)に取得された前記高解像度画像Img_color(t−α)と、を比較することにより動きベクトルを検出する動きベクトル検出部と、
前記距離画像生成部により、所定の単位時刻tに取得された前記距離画像Img_distance(t)と、前記距離画像記憶部に記憶されている前記所定の単位時刻tより前の時刻(t−α)に取得された前記距離画像Img_distance(t−α)と、前記動きベクトル検出部により検出された前記動きベクトルに基づいて、前記距離画像の注目画素の距離情報を補正する距離画像補正部と、
を備える集積回路。
【請求項16】
光強度変調された光を対象物に照射し、前記対象物からの反射光を用いて対象物までの距離を推定する距離推定装置に用いられる集積回路であり、
光強度変調可能な光を照射する光源と、
前記対象物からの光を集光する受光光学系と、
前記受光光学系により受光した光を電荷に変換する受光素子部と、
前記受光素子部で取得された電荷を集積し、電荷信号を取得する電荷集積部と、
を備える距離推定装置に用いられる集積回路であって、
前記光源を制御する発光源制御部と、
前記電荷信号に基づいて、距離情報を算出する信号演算部と、
前記距離情報に基づいて、距離画像を生成する距離画像生成部と、
少なくとも前記距離情報および前記電荷信号にいずれか一方に基づいて、前記距離画像の各画素の信頼度を算出する距離信頼度算出部と、
前記距離信頼度算出部により算出された前記信頼度に基づいて、前記前記距離画像の各画素の前記距離情報を補正する距離画像補正部と、
を備える集積回路。
【請求項17】
請求項1から7のいずれかに記載の距離推定装置を含む、
カメラ。
【図1】
【図2】
【図3A】
【図3B】
【図4】
【図5A】
【図5B】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15A】
【図15B】
【図16A】
【図16B】
【図17】
【図18】
【図19】
【図20】
【図21】
【図2】
【図3A】
【図3B】
【図4】
【図5A】
【図5B】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15A】
【図15B】
【図16A】
【図16B】
【図17】
【図18】
【図19】
【図20】
【図21】
【公開番号】特開2010−71976(P2010−71976A)
【公開日】平成22年4月2日(2010.4.2)
【国際特許分類】
【出願番号】特願2009−167810(P2009−167810)
【出願日】平成21年7月16日(2009.7.16)
【出願人】(000005821)パナソニック株式会社 (73,050)
【Fターム(参考)】
【公開日】平成22年4月2日(2010.4.2)
【国際特許分類】
【出願日】平成21年7月16日(2009.7.16)
【出願人】(000005821)パナソニック株式会社 (73,050)
【Fターム(参考)】
[ Back to top ]