距離計測装置、距離計測方法、およびプログラム
【課題】計測時間の長時間化や特殊な撮像素子を用いることなく、アクティブ型の距離計測装置における輝度ダイナミックレンジを拡大する。
【解決手段】計測対象物に対して投影される計測用のパターン光の輝度値を、当該パターン光の二次元位置ごとに所定の輝度値範囲で変調させる変調部と、変調部により変調されたパターン光を計測対象物に対して投影する投影部と、投影部によりパターン光が投影された計測対象物を撮像する撮像部と、撮像部により撮像された撮像画像に基づいて計測対象物までの距離を算出する距離算出部と、を備える。
【解決手段】計測対象物に対して投影される計測用のパターン光の輝度値を、当該パターン光の二次元位置ごとに所定の輝度値範囲で変調させる変調部と、変調部により変調されたパターン光を計測対象物に対して投影する投影部と、投影部によりパターン光が投影された計測対象物を撮像する撮像部と、撮像部により撮像された撮像画像に基づいて計測対象物までの距離を算出する距離算出部と、を備える。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、計測対象物の三次元的な距離を非接触で計測する距離計測装置、距離計測方法、およびプログラムに関し、特に、パターン光投影を用いる距離計測装置、距離計測方法、およびプログラムに関する。
【背景技術】
【0002】
距離計測法としては種々の手法が提案されている。大きく分類すると、照明装置を用いずに撮像装置だけで距離計測を行うパッシブ型と、照明装置と撮像装置を組み合わせて用いるアクティブ型がある。アクティブ型では照明装置によりパターン光を計測対象物に投影し、撮像装置で画像撮像をする。計測対象物の表面テクスチャが少ない場合でもパターン光を手がかりにして形状計測を行うことができる。アクティブ型の距離計測法としては空間符号化法、位相シフト法、グリッドパターン投影法、光切断法など種々の手法が提案されている。これらの手法は三角測量法に基づくため、パターン光の投影装置からの出射方向を得ることができれば距離計測を行うことができる。
【0003】
空間符号化法は、複数本のライン光から成るパターン光を計測対象物に投影する。複数本のライン光を識別するために各種符号化法を用いる。符号化法としてはグレイコード法が知られている。グレイコード法では周期の異なる2値パターン光を順番に計測対象物に投影し、復号することでライン光を識別し、出射方向を得る。
【0004】
位相シフト法は、正弦波状パターン光の位相をシフトさせながら計測対象物に複数回投影する。複数枚の撮影画像を利用して各画素での正弦波の位相を算出する。必要に応じて位相接続を行いパターン光の出射方向を一意に特定する。
【0005】
光切断法は、パターン光としてライン光を使用する。ライン光を走査させながら画像撮像を繰り返す。パターン光の出射方向は走査光学系などから得ることができる。
【0006】
グリッドパターン投影法は、M系列やde Bruijn系列などの符号化情報が埋め込まれた2次元格子状のパターンを計測対象物に投影する。撮影画像から符号化情報を復号することにより、少ない投影枚数で投影光の出射方向を得ることができる手法である。
【先行技術文献】
【特許文献】
【0007】
【特許文献1】特開2007−271530号公報
【特許文献2】特許4337281号公報
【発明の概要】
【発明が解決しようとする課題】
【0008】
前述のようにアクティブ型の距離計測装置には種々の手法が提案されているが、輝度ダイナミックレンジに制限があるという課題がある。主な理由は2つあり、パターン光が投影された計測対象物の撮影画像輝度が計測対象物の反射率に依存すること、撮像装置の輝度ダイナミックレンジに制限があることである。以下、具体的に説明する。
【0009】
反射率が高い計測対象物ではパターン光の画像輝度は明るくなる。一方、反射率が低い対象物ではパターン光の画像輝度は暗くなる。また、計測対象物の反射率には一般に角度特性があるので、パターン光の入射角と撮像装置の取り込み角にも依存する。撮像装置と投影装置に対して計測対象物の表面が正対している場合、パターン光の画像輝度は相対的に明るくなる。一方、対象物の表面が正対している状態から外れるほどパターン光の画像輝度は相対的に暗くなる。
【0010】
撮像装置に使用される撮像素子の輝度ダイナミックレンジは有限である。これは撮像素子に使われるフォトダイオードの蓄積電荷量に制限があるためである。そのため、パターン光の画像輝度が明るすぎる場合にはパターン光の画像輝度は飽和する。このような状況下ではパターン光のピーク位置を正しく算出することができないため、距離計測精度が低下する。また、空間符号化法においてはパターン光の誤識別をすることもあり、距離計測に大きな誤差を生じる。
【0011】
パターン光の画像輝度が暗すぎる場合には、パターン光の画像輝度は信号として検出できないレベルまで低下する。また、撮像素子のノイズに埋もれることもある。このような状況下では、距離計測精度が低下する。さらに、パターン光の検出ができない場合には、距離計測自体が不可能になる。
【0012】
以上、説明したようにアクティブ型の距離計測装置では、輝度ダイナミックレンジが制限される。そのため、同時に距離計測可能な計測対象物の反射率範囲と角度範囲が制限される。
【0013】
このような課題に対し、従来の距離計測装置では、露光条件の異なる撮像を複数回行い、それらを統合することで課題解決を図っているものがある(特許文献1参照)。ただし、この手法では撮像回数分だけ、計測時間が長くなるという問題がある。
【0014】
また、撮像素子のラインごと、あるいは、画素ごとに増幅率や透過率を変えることで課題解決を図っているものがある(特許文献2参照)。特許文献2では、奇数ラインと偶数ラインで増幅率を変えることで、輝度ダイナミックレンジの拡大を行う。ただし、この手法では奇数ラインと偶数ラインで増幅率の異なる特殊な撮像素子を用いる必要がある。
【0015】
上記の課題に鑑み、本発明は、計測時間の長時間化や特殊な撮像素子を用いることなく、アクティブ型の距離計測装置における輝度ダイナミックレンジを拡大することを目的とする。
【課題を解決するための手段】
【0016】
上記の目的を達成する本発明に係る距離計測装置は、
計測対象物に対して投影される計測用のパターン光の輝度値を、当該パターン光の二次元位置ごとに所定の輝度値範囲で変調させる変調手段と、
前記変調手段により変調された前記パターン光を前記計測対象物に対して投影する投影手段と、
前記投影手段により前記パターン光が投影された前記計測対象物を撮像する撮像手段と、
前記撮像手段により撮像された撮像画像に基づいて前記計測対象物までの距離を算出する距離算出手段と、
を備えることを特徴とする距離計測装置。
【発明の効果】
【0017】
本発明によれば、計測時間の長時間化や特殊な撮像素子を用いることなく、アクティブ型の距離計測装置における輝度ダイナミックレンジを拡大することができる。
【図面の簡単な説明】
【0018】
【図1】第1実施形態の距離計測装置の概略構成図。
【図2】従来の空間符号化法の投影パターンを示す図。
【図3】従来の空間符号化法の投影パターンの撮影画像輝度値を示す図。
【図4】計測精度と撮影画像輝度値差の関係性の説明図。
【図5】第1実施形態の投影パターンを示す図。
【図6】投影パターンの高輝度部における撮影画像輝度値を示す図。
【図7】投影パターンの中輝度部における撮影画像輝度値を示す図。
【図8】投影パターンの低輝度部における撮影画像輝度値を示す図。
【図9】第1実施形態の処理の手順を示すフローチャート。
【図10】第2実施形態の投影パターンを示す図。
【図11】第3実施形態の投影パターンを示す図。
【図12】第3実施形態の処理の手順を示すフローチャート。
【図13】第4実施形態の投影パターンを示す図。
【図14】第5実施形態の投影パターンを示す図。
【図15】第5実施形態の処理の手順を示すフローチャート。
【発明を実施するための形態】
【0019】
(第1実施形態)
図1を参照して、第1実施形態に係る距離計測装置100の概略構成を説明する。第1実施形態では空間符号化法に基づく距離計測を行う。距離計測装置100は、投影部1と、撮像部2と、制御・計算処理部3とを備える。投影部1は、パターン光を計測対象物5に投影する。撮像部2は、パターン光が投影された計測対象物5を撮像する。制御・計算処理部3は、投影部1と撮像部2とを制御し、撮像された画像データを計算処理して計測対象物5までの距離を計測する。
【0020】
投影部1は、光源11と、照明光学系12と、表示素子13と、投影光学系14とを備える。光源11は、ハロゲンランプ、LEDなど各種の発光素子である。照明光学系12は、光源11から出射した光を表示素子13へと導く機能を有する。このとき、光源11から出射した光を表示素子13上で照度が均一になるように導く。そのため、例えば、ケーラー照明や拡散板など照度の均一化に適した光学系が用いられる。表示素子13には、透過型LCDや反射型のLCOS・DMDなどが用いられる。表示素子13は、照明光学系12からの光を投影光学系14に導く際に、透過率、または、反射率を空間的に制御する機能を有する。投影光学系14は、表示素子13を計測対象物5の特定位置に結像させるように構成された光学系である。本実施形態では、表示素子13と投影光学系14とを備える構成を示したが、スポット光と2次元走査光学系とを備える構成を有する投影装置を用いることも可能である。さらには、ライン光と1次元走査光学系とを備える構成を有する投影装置を用いることも可能である。
【0021】
撮像部2は、撮像レンズ21と、撮像素子22とを備える。撮像レンズ21は、計測対象物5の特定位置を撮像素子22上に結像させるように構成された光学系である。撮像素子22には、CMOSセンサ、CCDセンサなど各種光電変換素子を用いることができる。
【0022】
制御・計算処理部3は、投影パターン制御部31と、画像取得部32と、距離算出部33と、パラメータ記憶部34と、二値化処理部35と、境界位置算出部36と、信頼度算出部37と、グレイコード算出部38と、変換処理部39とを備える。なお、位相算出部40、位相接続部41、ライン抽出部42、および要素情報抽出部43の各処理部は第1実施形態には必須の構成ではなく、距離計測方法が異なる後述の実施形態において用いられる。これらの機能については後述する。
【0023】
制御・計算処理部3のハードウェアは、CPU、メモリ、ハードディスクなどの記憶装置、入出力用の各種インタフェース等を具備する汎用のコンピュータにより構成される。また、制御・計算処理部3のソフトウェアは、本発明にかかる距離計測方法をコンピュータに実行させる距離計測プログラムで構成される。
【0024】
前述した距離計測プログラムをCPUで実行することにより、投影パターン制御部31、画像取得部32、距離算出部33、パラメータ記憶部34、二値化処理部35、境界位置算出部36、信頼度算出部37、グレイコード算出部38、および変換処理部39の各処理部を実現している。
【0025】
投影パターン制御部31は、後述する投影パターンを生成して、記憶装置に予め記憶する。また、必要に応じて記憶した投影パターンのデータを読み出し、例えば、DVIのような汎用的なディスプレイ用インタフェースを介して投影パターンのデータを投影部1に伝送する。さらにRS232CやIEEE488などの汎用の通信インタフェースを介して投影部1の動作を制御する機能を有している。なお、投影パターン制御部31は、投影パターンデータに基づいて投影部1が備える表示素子13に投影パターンを表示する。
【0026】
画像取得部32は、撮像部2で標本化ならびに量子化されたディジタルの画像信号を取り込む。さらに、取り込んだ画像信号から各画素の輝度値で表される画像データを取得してメモリに記憶する機能を有する。なお、画像取得部32は、RS232CやIEEE488などの汎用の通信インタフェースを介して撮像部2の動作(撮像のタイミングなど)を制御する機能を有する。
【0027】
画像取得部32と投影パターン制御部31とは互いに連携して動作する。表示素子13へのパターン表示が完了すると、投影パターン制御部31は、画像取得部32に信号を送る。画像取得部32は、投影パターン制御部31から信号を受信すると撮像部2を動作させ、画像撮像を実施する。画像撮像が完了すると、画像取得部32は、投影パターン制御部31に信号を送る。投影パターン制御部31は、画像取得部32から信号を受信すると、表示素子13に表示する投影パターンを次の投影パターンに切り替える。これを順次繰り返すことで、全ての投影パターンの撮像を実施する。距離算出部33は、投影パターンの撮像画像と、パラメータ記憶部34に格納されているパラメータとを用いて計測対象物までの距離を算出する。
【0028】
パラメータ記憶部34には、三次元的な距離を算出するのに必要なパラメータが格納される。パラメータとしては、投影部1と撮像部と2の機器パラメータ、投影部1と撮像部2との内部パラメータ、投影部1と撮像部2との外部パラメータなどがある。
【0029】
機器パラメータは、表示素子の画素数、撮像素子の画素数などである。投影部1と撮像部2の内部パラメータは、焦点距離、画像中心、ディストーションによる画像歪みの係数などである。投影部1と撮像部2の外部パラメータは、投影部1と撮像部2の相対位置関係を表す並進行列と回転行列などである。二値化処理部35は、空間符号化法において、ポジティブパターンの撮像画像の画素とネガティブパターンの撮像画像の画素とで輝度値の比較を行い、ポジティブパターンの撮像画像の輝度値がネガティブパターンの撮像画像の輝度値以上であればバイナリ値として1を、そうでなければ0を与えて二値化する。
【0030】
境界位置算出部36は、バイナリ値が0から1、または、1から0に切り替わる位置を境界位置として算出する。
【0031】
信頼度算出部37は、各種信頼度を算出する。信頼度の算出の詳細については、後述する。グレイコード算出部38は、二値化処理部35により算出された各ビットにおけるバイナリ値を結合し、グレイコードを算出する。変換処理部39は、グレイコード算出部38により算出されたグレイコードを投影部1の表示素子座標の値に変換する。
【0032】
計測対象物5は、反射率が高い高反射率領域51、反射率が中程度の中反射率領域52、および、反射率が低い低反射率領域53の3つの領域を有するものとした。以上が第1実施形態の距離計測装置の基本構成に関する説明である。次に、空間符号化法の原理を説明する。図2は、従来の空間符号化法で用いる投影パターンの例を示す。図2(a)が投影パターン輝度であり、図2(b)乃至(d)がグレイコードパターン光である。図2(b)が1bit、図2(c)が2bit、図2(d)が3bitのグレイコードパターンを示している。4bit以降のグレイコードパターンについては省略する。
【0033】
図2(a)の横軸は投影パターン輝度を表し、縦軸は投影パターンのy座標を表している。図2(a)中の輝度Ibは、図2(b)乃至(d)の明領域の垂直線Lbの投影パターン輝度を表している。また、図2(a)中の輝度Idは、図2(b)乃至(d)の暗領域の垂直線Ldの輝度を表している。従来の空間符号化法で用いる投影パターンは、輝度Ib、Idがともにy座標方向に一定である。
【0034】
空間符号化法では、図2(b)乃至(d)のグレイコードパターンを順番に投影しながら画像撮像を行う。そして、各ビットでバイナリ値を算出する。具体的には、各ビットで撮像画像の画像輝度が閾値以上であれば、その領域のバイナリ値を1とする。撮影画像の画像輝度が閾値未満であれば、その領域のバイナリ値を0とする。各ビットでのバイナリ値を順に並べ、その領域のグレイコードとする。グレイコードを空間コードに変換し、距離計測を行う。
【0035】
閾値の決定方法としては、平均値法と相補パターン投影法が知られている。平均値法では、全領域が明パターンの撮影画像と、全領域が暗パターンの撮影画像を予め取得しておく。そして、2つの画像輝度の平均値を閾値とする方法である。一方、相補パターン投影法は、各ビットのグレイコードパターン(ポジティブパターン)の明位置と暗位置を反転させたネガティブパターン(第2のグレイコードパターン)を投影し、画像撮像する。そして、ネガティブパターンの画像輝度値を閾値とする手法である。
【0036】
通常、空間符号化法では最下位ビットの幅の分だけ位置の曖昧さを持つ。しかし、バイナリ値が0から1、あるいは、バイナリ値が1から0に切り替わる境界位置を撮影画像上で検出することで、ビット幅よりも曖昧さを低下させることができ、距離計測精度は高まる。本発明は平均値法と相補パターン投影法のいずれの手法にも適用可能であるが、以下では相補パターン投影法を適用した場合を例として説明する。
【0037】
次に、図3を参照して、従来の空間符号化法における問題点を説明する。図3(a)、図3(b)で表現される投影パターンを計測対象物5に投影したときの撮影画像輝度値を模式的に表したものを図3(c)乃至(e)に示す。図3(a)は図2(a)と、図3(b)は図2(d)と同一の図である。通常、撮像素子面に入射する光の物理量は照度である。撮像素子面上の照度は、撮像素子の各画素のフォトダイオードで光電変換された後に、A/D変換され、量子化された値となる。図3(c)乃至(e)に示される撮像画像輝度値は、この量子化された値に対応する。
【0038】
前述したように、計測対象物5には、反射率が高い高反射率領域51、反射率が中程度の中反射率領域52、反射率が低い低反射率領域53の3つの領域が存在する。図3(c)乃至(e)は、撮像画像の画像輝度を縦軸とし、x座標を横軸としたものである。図3(c)が高反射率領域、図3(d)が中反射率領域、図3(e)が低反射率領域の画像輝度に対応する。撮像素子で受光される輝度は、一般に投影パターン輝度、撮像対象物の反射率、露光時間に比例する。ただし、撮像素子で有効な信号として受光可能な輝度は撮像素子の輝度ダイナミックレンジにより制限される。撮像素子の輝度ダイナミックレンジDRcは撮像素子で受光可能な最大輝度をIcmax、最低輝度をIcminとすると以下の式(1)で記述される。
【0039】
DRc = 20log(Icmax/Icmin) ・・・ (1)
上記式(1)で算出される輝度ダイナミックレンジDRcの単位はdB(デシベル)単位であり、一般的な撮像素子では60dB程度とされる。つまり、最大輝度と最低輝度との比が1000程度までしか信号として検出することができないことになる。言い換えると、撮像対象物の反射率比が1000倍以上あるシーンの撮影ができないことになる。
【0040】
図3(c)の高反射率領域では、反射率が高いため、撮像画像輝度値が飽和する。Wphはポジティブパターンの画像輝度波形、Wnhはネガティブパターンの画像輝度波形である。画像輝度が飽和すると、検出されるパターン境界位置Beと真のパターン境界位置Btの間にずれが生じる。ずれにより計測誤差が発生する。さらに、ずれ量がパターンの最小ビット幅よりも大きくなると符号値誤りが発生し、大きな計測誤差を発生させる。
【0041】
図3(d)の中反射率領域では、撮像画像輝度値は適切となる。Wpcはポジティブパターンの画像輝度波形、Wncはネガティブパターンの画像輝度波形である。画像輝度の飽和が起こらないため、検出されるパターン境界位置Beと真のパターン境界位置Btの間に大きなずれが生じない。また、投影パターンのコントラストを高く撮像しているため、境界位置の推定精度は高い。一般に境界位置の推定精度は、境界位置近傍の画像輝度値の差に依存する。
【0042】
ここで、図4を参照して、これらの関係を説明する。図4は横軸にx座標、縦軸に撮像画像輝度値をとったものである。ディジタル画像として撮像されていることを明示するために、画素による空間方向の量子化と、輝度方向の量子化を格子で表現している。空間方向の量子化誤差値はΔx、輝度方向の量子化画素値はΔIである。ポジティブパターンの波形Wpcとネガティブパターンの波形Wncはアナログの波形として図示した。ポジティブパターン波形Wpcにおいて、境界位置において隣接する左側の画像輝度値をILp、右側の画像輝度値をIRpとする。このとき境界位置は以下の式(2)で求められる曖昧さΔBeで推定される。
【0043】
ΔBe=ΔI・Δx/abs(ILp−IRp)・・・(2)
ここで、abs()は()内の絶対値を出力する関数である。上記式(2)は画像ノイズが実効的に無視できる場合の式である。ノイズが存在する場合にはΔNだけの曖昧さが輝度方向に加算されるため、境界位置の曖昧さΔBeは以下の式(3)ように増加する。
【0044】
ΔBe=(ΔI+ΔN)・Δx/abs(ILp−IRp)・・・(3)
式(2)、式(3)から、境界位置近傍の2画素間での画像輝度値の差が大きいほど境界位置推定の曖昧さΔBeは小さくなり、計測精度も高くなる。
【0045】
図3(e)の低反射率領域では、撮像画像輝度値は低レベルとなる。Wplはポジティブパターンの画像輝度波形、Wnlはネガティブパターンの画像輝度波形である。パターン光を低コントラストな波形でしか取得できないため、境界位置近傍の2画素間での画像輝度の差が小さくなる。つまり、境界位置の曖昧さΔBeが大きくなり、低精度となる。計測対象物5の反射率がさらに低い場合には、パターン光を信号として受光できなくなり、距離計測不能となる。
【0046】
このように従来の空間符号化法パターンでは、撮像素子の輝度ダイナミックレンジの制約により、高精度に計測可能な反射率範囲が限られる。
【0047】
次に、本発明の説明を行う。図5は、第1実施形態で用いる投影パターンの例を示す。第1実施形態では、基本となるグレイコードパターンの投影パターン輝度を投影部1と撮像部2とを結ぶ基線方向と略垂直な方向に変える(輝度変調する)。すなわち、計測対象物に対して投影されるパターン光の輝度値を、当該パターン光が投影される二次元位置ごとに所定の輝度値範囲で変調させる。これにより、撮像素子でパターン光として受光可能な計測対象物5の反射率の範囲を拡大することができる。さらに、パターン光の撮像素子上でのコントラストを調整する作用もあるため、計測精度を向上させることもできる。
【0048】
図5のパターンは、図2で示した従来の空間符号化で用いる投影パターンをy座標方向の1次元方向に対して所定の輝度値範囲で輝度変調させたものである。図5(a)と図5(b)が計測用パターンに対する輝度変調の波形を表している。図5(a)の横軸は投影パターン輝度であり、縦軸は投影パターンのy座標である。図5(b)の横軸はx座標であり、縦軸はy座標である。図5(c)乃至(e)が図5(a)と図5(b)の輝度変調波形で輝度変調したグレイコードパターンである。図5(c)が1bit、図5(d)が2bit、図5(e)が3bitのグレイコードパターンである。4bit以降のグレイコードパターンについては省略する。
【0049】
ここで、表示素子のy座標方向は投影部1と撮像部2とを結ぶ基線方向に対して、略垂直な方向に対応する。輝度変調を行う方向は、投影部1と撮像部2と計測対象物5との空間的な配置関係から決まるエピポーラライン方向と垂直なときに最大の性能が得られる。ただし、輝度変調方向がエピポーラライン方向と垂直でない場合でも本発明の効果は十分に得られる。
【0050】
また、図5では輝度変調の波形が、所定の輝度値周期として、三角波形状である例を示したが、輝度変調波形は三角波に限られない。ステップ波形状、正弦波形状、ノコギリ波(鋸波)形状のような三角波以外の周期性を有する輝度変調波形を適用しても構わない。さらには、必ずしも周期性を有する必要はなく、ランダム性を有した輝度変調波形であっても構わない。
【0051】
周期性を有する輝度変調波形の場合には、変調の周期を計測対象物5のサイズに応じて適切に選択するとよい。例えば計測対象物5の短辺の長さをS、撮像距離をZ、投影光学系の焦点距離をfpとすると表示素子上での1周期の幅wが以下の式(4)を満たすように設定する。
【0052】
w < S・fp/Z・・・(4)
上記式(4)を満たすことで計測対象物5の少なくとも1点は計測可能となる。輝度変調の振幅により、輝度ダイナミックレンジ拡大の効果を調整できる。輝度変調の最大輝度をImmax、最小輝度をImminとするとダイナミックレンジの拡大幅DRmは以下の式(5)で表される。
【0053】
DRm = 20log(Immax/Immin) ・・・(5)
本発明によるトータルのダイナミックレンジDRは前述した撮像素子の輝度ダイナミックレンジDRcを用いると以下の式(6)で表される。
【0054】
DR = DRc+DRm ・・・ (6)
図6乃至図8を参照して、図5の投影パターンによりダイナミックレンジを拡大する原理を模式的に説明する。
【0055】
図6(a)、図7(a)、および図8(a)は、それぞれ図5(a)と同一の図である。また、図6(b)、図7(b)、および図8(b)は、図5(e)と同一の図である。図6(c)、図7(c)、および図8(c)が高反射率領域、図6(d)、図7(d)、および図8(d)が中反射率領域、図6(e)、図7(e)、および図8(e)が低反射率領域の撮像画像輝度値を示している。さらに、図6は投影パターン輝度の高輝度部、図7は中輝度部、図8は低輝度部の撮像画像輝度値にそれぞれ対応する。
【0056】
図6のように投影パターン輝度が高輝度部である場合、図6(c)に示す高反射率領域では、ポジティブパターン波形Wphとネガティブパターン波形Wnhとが飽和する。また、図6(d)に示す中反射率領域でもポジティブパターン波形Wpcとネガティブパターン波形Wncが飽和する。そのため、高反射率領域、中反射率領域ともに計測誤差が大きくなる。図6(e)に示す低反射率領域ではポジティブパターン波形Wplとネガティブパターン波形Wnlとが高コントラストな波形となるため、高精度な計測が可能となる。図7のように投影パターン輝度が中輝度部である場合、図7(c)に示す高反射率領域では、ポジティブパターン波形Wphとネガティブパターン波形Wnhとが飽和する。そのため、計測誤差が大きくなる。図7(d)に示す中反射率領域ではポジティブパターン波形Wpcとネガティブパターン波形Wncが高コントラストな波形となるため、高精度な計測が可能となる。図7(e)に示す低反射率領域ではポジティブパターン波形Wplとネガティブパターン波形Wnlとが低コントラストな波形となるため、計測精度は低い。
【0057】
図8のように投影パターン輝度が低輝度部である場合、図8(c)に示す高反射率領域ではポジティブパターン波形Wphとネガティブパターン波形Wnhとが高コントラストな波形となるため、高精度計測が可能となる。図8(d)に示す中反射率領域ではポジティブパターン波形Wpcとネガティブパターン波形Wncが低コントラストな波形となるため、計測精度は低い。また、図8(e)に示す低反射率領域では、ポジティブパターン波形Wplとネガティブパターン波形Wnlとがさらに低コントラストな波形となるため、計測精度はさらに低くなる。
【0058】
以上をまとめると表1のようになる。従来の空間符号化法では高精度な計測が可能な反射率が中反射率領域に限定される。それに対し、本発明では基本となる計測用パターンの輝度を場所によって変えることにより、低反射率領域、中反射率領域、高反射率領域の全ての反射率領域で高精度な計測が可能なことがわかる。
【0059】
【表1】
【0060】
以上が本発明により距離計測の輝度ダイナミックレンジを拡大する原理の説明である。
【0061】
次に、図9のフローチャートを参照して、第1実施形態の処理の手順を説明する。第1実施形態では、Nビットのグレイコードパターンの投影を行うこととする。
【0062】
S101において、投影パターン制御部31は、ビット数nを初期化するために、nに1を代入する。S102において、投影部1は、nビットのポジティブパターンを投影する。
【0063】
S103において、撮像部2は、nビットのポジティブパターンが投影された計測対象物5の画像撮像を行う。S104において、投影部1は、nビットのネガティブパターンを投影する。S105において、撮像部2は、nビットのネガティブパターンが投影された計測対象物5の画像撮像を行う。
【0064】
S106において、二値化処理部35は、バイナリ値の算出のために、2値化処理を行う。具体的には、ポジティブパターンの撮像画像の画素とネガティブパターンの撮像画像の画素とで輝度値の比較を行う。ポジティブパターンの撮像画像の輝度値がネガティブパターンの撮像画像の輝度値以上であればバイナリ値として1を、そうでなければ0を与える。
【0065】
S107において、境界位置算出部36は、境界位置の算出を行う。バイナリ値が0から1、または、1から0に切り替わる位置を境界位置として算出する。境界位置をサブピクセル精度で求めたい場合には、境界位置近傍の撮像画像輝度値から直線フィッティングや高次の関数フィッティングなどにより求めることができる。
【0066】
S108において、信頼度算出部37は、各境界位置における信頼度を算出する。信頼度としては、例えば式(2)または式(3)を用いて算出される境界位置の曖昧さΔBeに基づいて算出することができる。境界位置の曖昧さΔBeが大きいほど、信頼度は低いと考えられるので信頼度の算出にはその逆数をとった以下の式(7)を用いることができる。
【0067】
Cf = 1/ΔBe ・・・ (7)
境界位置が存在しない画素については信頼度を0としてもよい。
【0068】
S109において、投影パターン制御部31は、ビット数nがNビットに達しているか否かの判定を行う。Nビットに達していないと判定された場合(S109;YES)、S110に進み、nに1を加算する。一方、Nビットに達していると判定された場合(S109;NO)、S111に進む。
【0069】
S111において、グレイコード算出部38は、S106で算出された各ビットにおけるバイナリ値を結合し、グレイコードを算出する。S112において、変換処理部39は、グレイコードを投影部1の表示素子座標の値に変換する。投影部1の表示素子座標に変換されると投影部1からの出射方向がわかるため、距離計測を行うことができるようになる。
【0070】
S113において、信頼度算出部37は、撮像画像の画素ごとに信頼度が閾値よりも大きいか否かの判定を行う。信頼度が閾値よりも大きいと判定された場合(S113;YES)、S114に進む。一方、信頼度が閾値より以下であると判定された場合(S113;NO)、S115に進む。
【0071】
S114において、距離算出部33は、三角測量法により距離計測処理を適用する。その後、処理を終了する。S115において、距離算出部33は距離計測処理を適用せずに処理を終了する。
【0072】
信頼度の閾値は、例えば距離計測装置が保証する計測精度を信頼度に換算することで決定できる。以上が第1実施形態の処理手順の説明である。
【0073】
信頼度が閾値よりも低く、距離計測されなかった領域に関しては信頼度の高い領域の距離計測結果を補間処理することで穴埋めすることもできる。以上が本発明の第1実施形態に関する説明である。
【0074】
第1実施形態によれば、計測時間の長時間化をもたらすことなく、また特殊な撮像素子を用いることなく、アクティブ型の距離計測装置における輝度ダイナミックレンジを拡大することが可能となる。
【0075】
(第2実施形態)
本発明の第2実施形態に係る距離計測装置の概略構成は第1実施形態の概略構成である図1と同様である。
【0076】
第1実施形態では、投影パターンの輝度を変調する方向をy座標方向のみとしていた。そのため、計測可能な反射率範囲が1次元的に分布していた。第2実施形態では、パターンをx座標方向とy座標方向の2次元方向に変調させることで、計測可能な反射率範囲を2次元的に分布させる。
【0077】
図10は、第2実施形態で用いる投影パターンを示す。第2実施形態では、図10(a)乃至(c)に示すように、x座標方向とy座標方向との2次元方向に輝度変調させた輝度変調波形で計測用パターンを変調する。これにより、計測可能な反射率範囲を2次元的に分布させることが可能になる。図10(a)の横軸は投影パターン輝度を表しており、縦軸は投影パターンのy座標を表している。図10(b)は横軸をx座標、縦軸をy座標とした投影パターンである。図10(c)は横軸をx座標、縦軸を投影パターン輝度としたグラフである。図10(d)、(e)、(f)はそれぞれ第2実施形態で用いる1ビット、2ビット、3ビットのグレイコードパターンに対応する。4bit以降のグレイコードパターンについては省略する。
【0078】
図10(b)中の垂直線Lmby1とLmby2とのそれぞれの投影パターン輝度が図10(a)中の波形Imby1とImby2とのそれぞれに対応している。また、図10(b)中の水平線Lmbx1とLmbx2とのそれぞれの投影パターン輝度が図10(c)の波形Imbx1とImbx2とのそれぞれに対応している。x座標方向とy座標方向との2次元方向に投影パターンを輝度変調させていることがわかる。
【0079】
第2実施形態の処理の手順は、図9で示した第1実施形態の処理の手順と同一である。そのため、処理手順の説明は省略する。以上が第2実施形態に関する説明である。
【0080】
第2実施形態によれば、パターンをx座標方向とy座標方向の2次元方向に変調させることにより、計測可能な反射率範囲を2次元的に分布させ、アクティブ型の距離計測装置における輝度ダイナミックレンジを拡大することが可能となる。
【0081】
(第3実施形態)
本発明の第3実施形態に係る距離計測装置の概略構成は、第1実施形態の概略構成である図1と同様である。ただし、第3実施形態では、図1における位相算出部40と、位相接続部41とが機能する。各処理部の機能については後述する。第1実施形態および第2実施形態では、距離計測手法として空間符号化法を用いた。一方、第3実施形態では距離計測手法として4ステップの位相シフト法を用いる。位相シフト法では正弦波形状のパターン(正弦波パターン光)を投影する。4ステップの位相シフト法では、正弦波の位相をπ/2ずつシフトさせた4枚のパターンを投影する。第3実施形態の投影パターンを図11に示す。図11(a)は横軸を投影パターン輝度、縦軸をy座標として描画したグラフである。図11(b)、(d)、(f)、および(h)は横軸をx座標、縦座標をy軸とした投影パターンである。図11(c)、(e)、(g)、および(i)は横軸をx座標、縦軸を投影パターン輝度として描画したグラフである。
【0082】
図11(b)および(c)は位相シフト量が0、図11(d)および(e)は位相シフト量がπ/2、図11(f)および(g)は位相シフト量がπ、図11(h)および(i)は位相シフト量が3π/2の投影パターンである。
【0083】
図11(b)の垂直線Lsby11とLsby21とは、図11(a)の波形Isby11とIsby21にそれぞれ対応する。第2実施形態では位相シフト法の正弦波パターンをy座標方向の1次元方向に三角波形状で輝度変調させている。図11(b)、(d)、(f)、および(h)の水平線Lsbx11、Lsbx12、Lsbx13、およびLsbx14は、図11(c)、(e)、(g)、および(i)の波形Isbx11、Isbx12、Isbx13、およびIsbx14に対応している。また、図11(b)、(d)、(f)、および(h)の水平線Lsbx21、Lsbx22、Lsbx23、およびLsbx24は、図11(c)、(e)、(g)、および(i)の波形Isbx21、Isbx22、Isbx23、およびIsbx24に対応している。これらのx座標方向の波形から正弦波の位相をπ/2ずつシフトさせていることがわかる。また、y座標位置に応じて正弦波の振幅が異なることもわかる。
【0084】
次に、図12を参照して、第3実施形態の処理の手順を説明する。
【0085】
S301において、投影パターン制御部31は、位相シフト量Psの初期化のために、Psに0を代入する。
【0086】
S302において、投影部1は、位相シフト量Psのパターン投影を行う。S303において、撮像部2は、位相シフト量Psのパターンが投影された計測対象物5の画像撮像を行う。
【0087】
S304において、投影パターン制御部31は、位相シフト量Psが3π/2に達しているか否かの判定を行う。Psが3π/2に達していると判定された場合(S304;YES)、S306に進む。一方、Psが3π/2に達していないと判定された場合(S304;NO)、S305に進み、Psにπ/2を加算する。その後、S302へ戻る。S306において、位相算出部40は、位相の算出を行う。各画素で以下の式(8)の演算を行い、位相φを算出する。
【0088】
φ=tan−1((I3−I1)/(I0−I2)) ・・・ (8)
ここで、I0はPs=0のときの画像輝度値、I1はPs=π/2のときの画像輝度値、I2はPs=πのときの画像輝度値、I4はPs=3π/2のときの画像輝度値である。
【0089】
S307において、信頼度算出部37は、信頼度の算出を行う。位相シフト法では画像信号として受光される正弦波の振幅が大きいほど算出される位相の算出精度が高い。従って、正弦波の振幅を計算する以下の式(9)で信頼度Cfを算出することができる。
【0090】
Cf = (I0−I2)/2cosφ・・・ (9)
また、4枚の撮像画像のいずれかが飽和している、あるいは、低レベルであると波形が正弦波から崩れるため、位相の算出精度が低下する。そこで、そのような場合にはCfを0とすると良い。
【0091】
S308において、位相接続部41は、算出された位相に基づいて位相接続を行う。位相接続には種々の手法が提案されている。例えば表面の連続性を利用した方法、空間符号化法を併用する方法などを用いることができる。
【0092】
S309において、変換処理部39は、位相接続された位相に基づいて投影部1の表示素子座標へ変換する。投影部1の表示素子座標に変換されると投影部1からの出射方向がわかるため、距離計測を行うことができるようになる。
【0093】
S310において、信頼度算出部37は、撮像画像の画素ごとに信頼度が閾値よりも大きいか否かの判定を行う。信頼度が閾値よりも大きいと判定された場合(S310;YES)、S311に進む。一方、信頼度が閾値以下であると判定された場合(S310;NO)、S312に進む。
【0094】
S311において、距離算出部33は、距離計測処理を適用する。その後、処理を終了する。
【0095】
S312において、距離算出部33は、距離計測処理を適用せずに処理を終了する。閾値は、例えば距離計測装置が保証する計測精度を信頼度に換算することで決定できる。以上が第3実施形態の処理手順の説明である。
【0096】
第3実施形態によれば、位相シフト法の投影パターンを1次元方向に輝度変調することで、計測可能な輝度ダイナミックレンジを拡大することができる。
【0097】
(第4実施形態)
本発明の第4実施形態に係る距離計測装置の概略構成は、第1実施形態の概略構成である図1と同様である。第4実施形態では距離計測手法として第3実施形態と同様に4ステップの位相シフト法を用いる。第4実施形態では位相シフト法の投影パターンとしてランダムに変調させた投影パターンを用いる。
【0098】
図13は、第4実施形態の投影パターンを示す。図13(a)がランダムな輝度変調パターンを示したものである。ここでは、投影パターンを矩形領域に区切り、それぞれの矩形領域で輝度をランダムに設定している。図1の概略構成のように投影部1に表示素子を用いる場合、矩形領域のサイズは表示素子の1画素以上であれば良い。矩形領域ごとに輝度が異なるため、輝度が明るい矩形領域は暗い計測対象物に適している。一方、輝度が暗い矩形領域は明るい計測対象物に適している。第4実施形態では、輝度がランダムに設定されているので、計測可能な計測対象物の反射率の分布を空間的に均一化することができる。
【0099】
図13(b)乃至(f)に、位相シフト法の投影パターンの位相シフト量が0の場合の例を示す。図13(b)および(c)は横軸を投影パターン輝度、縦軸をy座標として描画したグラフである。図13(d)は横軸をx座標、縦軸をy座標とした投影パターンである。図13(e)および(f)は横軸をx座標、縦軸を投影パターン輝度として描画したグラフである。
【0100】
図13(d)の垂直線Lsry11とLsry21とは、図13(b)の波形Isry11と図13(c)の波形Isry21とにそれぞれ対応している。図13(d)の水平線Lsrx11とLsrx21とは、図13(e)の波形Isrx11と図13(f)の波形Isrx21とにそれぞれ対応している。第4実施形態では、位相シフト法の正弦波パターンを矩形領域に区切り、それぞれの矩形領域で輝度をランダムに設定し、輝度変調させていることがわかる。図13(e)と(f)とから、x座標方向には正弦波を領域ごとにランダムに設定した輝度で、輝度変調していることがわかる。
【0101】
図13では位相シフト量がπ/2、π、および3π/2の投影パターンの図示は省略したが、図13と同様に輝度変調させた投影パターンを用意しておく。そして、図12のフローチャートを参照して説明した第3実施形態と同様の処理手順で距離計測を行う。処理手順の説明は、図12の説明と同一であるため省略する。以上が第4実施形態に関する説明である。
【0102】
第4実施形態によれば、位相シフト法の投影パターンとしてランダムに変調させた投影パターンを用いて、位相シフト法の投影パターンを2次元方向に輝度変調することにより、計測可能な輝度ダイナミックレンジを拡大することができる。
【0103】
(第5実施形態)
本発明の第5実施形態に係る距離計測装置の概略構成は、第1実施形態の概略構成である図1と同様である。ただし、第5実施形態では、図1におけるライン抽出部42と、要素情報抽出部43とが機能する。各処理部の機能については後述する。第5実施形態では、距離計測手法としてグリッドパターン投影法を用いる。そして、グリッドパターン投影法の投影パターンを矩形領域に区切り、領域ごとに輝度変調させた投影パターンを用いる。
【0104】
図14は、第5実施形態で用いるグリッドパターン投影法のパターンを示す。図14(a)は従来のグリッドパターン法で用いる投影パターンの一例である。グリッドパターン投影法では縦ラインおよび横ラインの有無を、M系列やde Bruijn系列などに基づいて決定し、符号化する方式である。図14(a)は、M系列に基づくグリッド状パターン光の例を示している。x座標方向は4次のM系列であり、y座標方向は3次のM系列である。M系列がn次の場合、nビット分の系列情報を抽出すると、その並びの系列は、系列中に1度しか発生しない。その性質を利用して、nビット分の系列情報の抽出により、表示素子中の座標を一意に特定する。図14(a)中では、要素が0の場合はライン無しとし、要素が1の場合はライン有りとしている。要素1が隣り合う場合を明確に区別できるように、それぞれの要素間に0と同一輝度の領域を設けている。
【0105】
図14(b)は、図14(a)の投影パターンに対する輝度変調パターンを示したものである。図14(b)では、矩形領域ごとに輝度を変えている。矩形領域のサイズはx座標とy座標ともにnビット分の系列情報を同一矩形領域に含むように設定する必要がある。図14(b)では、それぞれの矩形領域がx座標方向に4ビット分の系列情報を、y座標方向に3ビット分の系列情報を含むように設定している。図14(c)は横軸を投影パターン輝度、縦軸をy座標として描画したグラフである。図14(b)の垂直線Lsgy11が図14(c)の波形Isgy11に対応する。図14(c)から、矩形領域ごとに輝度を変えているため、ステップ波形状で輝度変調していることがわかる。
【0106】
図14(d)が第5実施形態で用いる投影パターンであり、図14(b)の輝度変調パターンにより図14(a)の投影パターンを輝度変調したものである。図14(e)は横軸を投影パターン輝度、縦軸をy座標として描画したグラフである。投影パターンの輝度が矩形領域ごとに異なることがわかる。このように領域に応じて投影パターン輝度を変調させることで、領域内で計測可能な計測対象物の反射率を任意に設定することができる。また、矩形領域のサイズをM系列の次数に対応するビットを含むように設定しているので、距離計測処理が破綻することもない。
【0107】
次に、図15のフローチャートを参照して、第5実施形態の処理手順を説明する。S501において、投影部1は、図14(d)で示した投影パターンを計測対象物に投影する。S502において、撮像部2は、投影パターンが投影された計測対象物の画像撮像を行う。その後、S503およびS507へ進む。
【0108】
S503において、ライン抽出部42は、撮像画像から横ラインを抽出する。横ラインの抽出にはSobelフィルタなどの各種エッジ検出フィルタを用いる。S504において、信頼度算出部37は、ラインの抽出時に用いたフィルタの出力値に応じて信頼度を算出する。通常、撮像画像のパターンのコントラストが高いほど、フィルタの出力値が高くなるため、フィルタの出力値を信頼度として用いることができる。
【0109】
S505において、要素情報抽出部43は、要素情報を抽出する。画像の各部位ごとにラインの有無に基づいて1と0の値を割り当てる。
【0110】
S506において、変換処理部39は、抽出された要素情報から表示素子のy座標への変換を行う。要素情報が抽出され、M系列の次数分だけつなげると、それぞれの要素が全系列中のどの位置に対応するのかを一意に特定できる。これにより、表示素子のy座標へ変換することができる。S507において、ライン抽出部42は、撮像画像から縦ラインを抽出する。縦ラインの抽出にはSobelフィルタなどの各種エッジ検出フィルタを用いる。
【0111】
S508において、信頼度算出部37は、ラインの検出時に用いたフィルタの出力値に応じて信頼度を算出する。通常、撮影画像のパターンのコントラストが高いほど、フィルタの出力値が高くなるため、フィルタの出力値を信頼度として用いることができる。
【0112】
S509において、要素情報抽出部43は、要素情報を抽出する。画像の各部位ごとにラインの有無に基づいて1と0の値を割り当てる。S510において、変換処理部39は、抽出された要素情報から表示素子のx座標への変換を行う。要素情報が抽出され、M系列の次数分だけつなげると、それぞれの要素が全系列中のどの位置に対応するのかを一意に特定できる。これにより、表示素子のx座標へ変換することができる。
【0113】
S511において、信頼度算出部37は、算出された縦ラインと横ラインとののいずれかの信頼度が閾値以上であるか否かを判定する。縦ラインと横ラインのいずれかの信頼度が閾値よりも大きいと判定された場合(S511;YES)、S512に進む。一方、縦ラインおよび横ラインの信頼度がともに閾値以下であると判定された場合(S511;NO)、S513に進む。
【0114】
S512において、距離算出部33は、表示素子のx座標、または、y座標に基づいて三角測量法で距離計測を行う。その後、処理を終了する。S513において、距離算出部33は、距離計測処理を適用せずに、処理を終了する。
【0115】
以上が第5実施形態の処理手順の説明である。第5実施形態では、M系列に基づくグリッドパターン投影法に本発明を適用した例を説明した。ただし、本発明はde Brujin系列を含む他の系列に基づくグリッドパターン投影法にも適用できる。
【0116】
第5実施形態によれば、グリッドパターン投影法の投影パターンを矩形領域に区切り、領域ごとに輝度変調させた投影パターンを用いることにより、計測可能な輝度ダイナミックレンジを拡大することができる。
【0117】
以上、第1実施形態および第2実施形態では、本発明を空間符号化法に適用した例を、第3実施形態および第4実施形態では、本発明を位相シフト法に適用した例を説明した。また、第5実施形態では、本発明をグリッドパターン投影法に適用した例を説明した。ただし、本発明が適用できるのは各実施形態で説明した3手法に限られるものではなく、光切断法を含む各種パターン投影法に適用可能である。
【0118】
(その他の実施形態)
また、本発明は、以下の処理を実行することによっても実現される。即ち、上述した実施形態の機能を実現するソフトウェア(プログラム)を、ネットワーク又は各種記憶媒体を介してシステム或いは装置に供給し、そのシステム或いは装置のコンピュータ(またはCPUやMPU等)がプログラムを読み出して実行する処理である。
【技術分野】
【0001】
本発明は、計測対象物の三次元的な距離を非接触で計測する距離計測装置、距離計測方法、およびプログラムに関し、特に、パターン光投影を用いる距離計測装置、距離計測方法、およびプログラムに関する。
【背景技術】
【0002】
距離計測法としては種々の手法が提案されている。大きく分類すると、照明装置を用いずに撮像装置だけで距離計測を行うパッシブ型と、照明装置と撮像装置を組み合わせて用いるアクティブ型がある。アクティブ型では照明装置によりパターン光を計測対象物に投影し、撮像装置で画像撮像をする。計測対象物の表面テクスチャが少ない場合でもパターン光を手がかりにして形状計測を行うことができる。アクティブ型の距離計測法としては空間符号化法、位相シフト法、グリッドパターン投影法、光切断法など種々の手法が提案されている。これらの手法は三角測量法に基づくため、パターン光の投影装置からの出射方向を得ることができれば距離計測を行うことができる。
【0003】
空間符号化法は、複数本のライン光から成るパターン光を計測対象物に投影する。複数本のライン光を識別するために各種符号化法を用いる。符号化法としてはグレイコード法が知られている。グレイコード法では周期の異なる2値パターン光を順番に計測対象物に投影し、復号することでライン光を識別し、出射方向を得る。
【0004】
位相シフト法は、正弦波状パターン光の位相をシフトさせながら計測対象物に複数回投影する。複数枚の撮影画像を利用して各画素での正弦波の位相を算出する。必要に応じて位相接続を行いパターン光の出射方向を一意に特定する。
【0005】
光切断法は、パターン光としてライン光を使用する。ライン光を走査させながら画像撮像を繰り返す。パターン光の出射方向は走査光学系などから得ることができる。
【0006】
グリッドパターン投影法は、M系列やde Bruijn系列などの符号化情報が埋め込まれた2次元格子状のパターンを計測対象物に投影する。撮影画像から符号化情報を復号することにより、少ない投影枚数で投影光の出射方向を得ることができる手法である。
【先行技術文献】
【特許文献】
【0007】
【特許文献1】特開2007−271530号公報
【特許文献2】特許4337281号公報
【発明の概要】
【発明が解決しようとする課題】
【0008】
前述のようにアクティブ型の距離計測装置には種々の手法が提案されているが、輝度ダイナミックレンジに制限があるという課題がある。主な理由は2つあり、パターン光が投影された計測対象物の撮影画像輝度が計測対象物の反射率に依存すること、撮像装置の輝度ダイナミックレンジに制限があることである。以下、具体的に説明する。
【0009】
反射率が高い計測対象物ではパターン光の画像輝度は明るくなる。一方、反射率が低い対象物ではパターン光の画像輝度は暗くなる。また、計測対象物の反射率には一般に角度特性があるので、パターン光の入射角と撮像装置の取り込み角にも依存する。撮像装置と投影装置に対して計測対象物の表面が正対している場合、パターン光の画像輝度は相対的に明るくなる。一方、対象物の表面が正対している状態から外れるほどパターン光の画像輝度は相対的に暗くなる。
【0010】
撮像装置に使用される撮像素子の輝度ダイナミックレンジは有限である。これは撮像素子に使われるフォトダイオードの蓄積電荷量に制限があるためである。そのため、パターン光の画像輝度が明るすぎる場合にはパターン光の画像輝度は飽和する。このような状況下ではパターン光のピーク位置を正しく算出することができないため、距離計測精度が低下する。また、空間符号化法においてはパターン光の誤識別をすることもあり、距離計測に大きな誤差を生じる。
【0011】
パターン光の画像輝度が暗すぎる場合には、パターン光の画像輝度は信号として検出できないレベルまで低下する。また、撮像素子のノイズに埋もれることもある。このような状況下では、距離計測精度が低下する。さらに、パターン光の検出ができない場合には、距離計測自体が不可能になる。
【0012】
以上、説明したようにアクティブ型の距離計測装置では、輝度ダイナミックレンジが制限される。そのため、同時に距離計測可能な計測対象物の反射率範囲と角度範囲が制限される。
【0013】
このような課題に対し、従来の距離計測装置では、露光条件の異なる撮像を複数回行い、それらを統合することで課題解決を図っているものがある(特許文献1参照)。ただし、この手法では撮像回数分だけ、計測時間が長くなるという問題がある。
【0014】
また、撮像素子のラインごと、あるいは、画素ごとに増幅率や透過率を変えることで課題解決を図っているものがある(特許文献2参照)。特許文献2では、奇数ラインと偶数ラインで増幅率を変えることで、輝度ダイナミックレンジの拡大を行う。ただし、この手法では奇数ラインと偶数ラインで増幅率の異なる特殊な撮像素子を用いる必要がある。
【0015】
上記の課題に鑑み、本発明は、計測時間の長時間化や特殊な撮像素子を用いることなく、アクティブ型の距離計測装置における輝度ダイナミックレンジを拡大することを目的とする。
【課題を解決するための手段】
【0016】
上記の目的を達成する本発明に係る距離計測装置は、
計測対象物に対して投影される計測用のパターン光の輝度値を、当該パターン光の二次元位置ごとに所定の輝度値範囲で変調させる変調手段と、
前記変調手段により変調された前記パターン光を前記計測対象物に対して投影する投影手段と、
前記投影手段により前記パターン光が投影された前記計測対象物を撮像する撮像手段と、
前記撮像手段により撮像された撮像画像に基づいて前記計測対象物までの距離を算出する距離算出手段と、
を備えることを特徴とする距離計測装置。
【発明の効果】
【0017】
本発明によれば、計測時間の長時間化や特殊な撮像素子を用いることなく、アクティブ型の距離計測装置における輝度ダイナミックレンジを拡大することができる。
【図面の簡単な説明】
【0018】
【図1】第1実施形態の距離計測装置の概略構成図。
【図2】従来の空間符号化法の投影パターンを示す図。
【図3】従来の空間符号化法の投影パターンの撮影画像輝度値を示す図。
【図4】計測精度と撮影画像輝度値差の関係性の説明図。
【図5】第1実施形態の投影パターンを示す図。
【図6】投影パターンの高輝度部における撮影画像輝度値を示す図。
【図7】投影パターンの中輝度部における撮影画像輝度値を示す図。
【図8】投影パターンの低輝度部における撮影画像輝度値を示す図。
【図9】第1実施形態の処理の手順を示すフローチャート。
【図10】第2実施形態の投影パターンを示す図。
【図11】第3実施形態の投影パターンを示す図。
【図12】第3実施形態の処理の手順を示すフローチャート。
【図13】第4実施形態の投影パターンを示す図。
【図14】第5実施形態の投影パターンを示す図。
【図15】第5実施形態の処理の手順を示すフローチャート。
【発明を実施するための形態】
【0019】
(第1実施形態)
図1を参照して、第1実施形態に係る距離計測装置100の概略構成を説明する。第1実施形態では空間符号化法に基づく距離計測を行う。距離計測装置100は、投影部1と、撮像部2と、制御・計算処理部3とを備える。投影部1は、パターン光を計測対象物5に投影する。撮像部2は、パターン光が投影された計測対象物5を撮像する。制御・計算処理部3は、投影部1と撮像部2とを制御し、撮像された画像データを計算処理して計測対象物5までの距離を計測する。
【0020】
投影部1は、光源11と、照明光学系12と、表示素子13と、投影光学系14とを備える。光源11は、ハロゲンランプ、LEDなど各種の発光素子である。照明光学系12は、光源11から出射した光を表示素子13へと導く機能を有する。このとき、光源11から出射した光を表示素子13上で照度が均一になるように導く。そのため、例えば、ケーラー照明や拡散板など照度の均一化に適した光学系が用いられる。表示素子13には、透過型LCDや反射型のLCOS・DMDなどが用いられる。表示素子13は、照明光学系12からの光を投影光学系14に導く際に、透過率、または、反射率を空間的に制御する機能を有する。投影光学系14は、表示素子13を計測対象物5の特定位置に結像させるように構成された光学系である。本実施形態では、表示素子13と投影光学系14とを備える構成を示したが、スポット光と2次元走査光学系とを備える構成を有する投影装置を用いることも可能である。さらには、ライン光と1次元走査光学系とを備える構成を有する投影装置を用いることも可能である。
【0021】
撮像部2は、撮像レンズ21と、撮像素子22とを備える。撮像レンズ21は、計測対象物5の特定位置を撮像素子22上に結像させるように構成された光学系である。撮像素子22には、CMOSセンサ、CCDセンサなど各種光電変換素子を用いることができる。
【0022】
制御・計算処理部3は、投影パターン制御部31と、画像取得部32と、距離算出部33と、パラメータ記憶部34と、二値化処理部35と、境界位置算出部36と、信頼度算出部37と、グレイコード算出部38と、変換処理部39とを備える。なお、位相算出部40、位相接続部41、ライン抽出部42、および要素情報抽出部43の各処理部は第1実施形態には必須の構成ではなく、距離計測方法が異なる後述の実施形態において用いられる。これらの機能については後述する。
【0023】
制御・計算処理部3のハードウェアは、CPU、メモリ、ハードディスクなどの記憶装置、入出力用の各種インタフェース等を具備する汎用のコンピュータにより構成される。また、制御・計算処理部3のソフトウェアは、本発明にかかる距離計測方法をコンピュータに実行させる距離計測プログラムで構成される。
【0024】
前述した距離計測プログラムをCPUで実行することにより、投影パターン制御部31、画像取得部32、距離算出部33、パラメータ記憶部34、二値化処理部35、境界位置算出部36、信頼度算出部37、グレイコード算出部38、および変換処理部39の各処理部を実現している。
【0025】
投影パターン制御部31は、後述する投影パターンを生成して、記憶装置に予め記憶する。また、必要に応じて記憶した投影パターンのデータを読み出し、例えば、DVIのような汎用的なディスプレイ用インタフェースを介して投影パターンのデータを投影部1に伝送する。さらにRS232CやIEEE488などの汎用の通信インタフェースを介して投影部1の動作を制御する機能を有している。なお、投影パターン制御部31は、投影パターンデータに基づいて投影部1が備える表示素子13に投影パターンを表示する。
【0026】
画像取得部32は、撮像部2で標本化ならびに量子化されたディジタルの画像信号を取り込む。さらに、取り込んだ画像信号から各画素の輝度値で表される画像データを取得してメモリに記憶する機能を有する。なお、画像取得部32は、RS232CやIEEE488などの汎用の通信インタフェースを介して撮像部2の動作(撮像のタイミングなど)を制御する機能を有する。
【0027】
画像取得部32と投影パターン制御部31とは互いに連携して動作する。表示素子13へのパターン表示が完了すると、投影パターン制御部31は、画像取得部32に信号を送る。画像取得部32は、投影パターン制御部31から信号を受信すると撮像部2を動作させ、画像撮像を実施する。画像撮像が完了すると、画像取得部32は、投影パターン制御部31に信号を送る。投影パターン制御部31は、画像取得部32から信号を受信すると、表示素子13に表示する投影パターンを次の投影パターンに切り替える。これを順次繰り返すことで、全ての投影パターンの撮像を実施する。距離算出部33は、投影パターンの撮像画像と、パラメータ記憶部34に格納されているパラメータとを用いて計測対象物までの距離を算出する。
【0028】
パラメータ記憶部34には、三次元的な距離を算出するのに必要なパラメータが格納される。パラメータとしては、投影部1と撮像部と2の機器パラメータ、投影部1と撮像部2との内部パラメータ、投影部1と撮像部2との外部パラメータなどがある。
【0029】
機器パラメータは、表示素子の画素数、撮像素子の画素数などである。投影部1と撮像部2の内部パラメータは、焦点距離、画像中心、ディストーションによる画像歪みの係数などである。投影部1と撮像部2の外部パラメータは、投影部1と撮像部2の相対位置関係を表す並進行列と回転行列などである。二値化処理部35は、空間符号化法において、ポジティブパターンの撮像画像の画素とネガティブパターンの撮像画像の画素とで輝度値の比較を行い、ポジティブパターンの撮像画像の輝度値がネガティブパターンの撮像画像の輝度値以上であればバイナリ値として1を、そうでなければ0を与えて二値化する。
【0030】
境界位置算出部36は、バイナリ値が0から1、または、1から0に切り替わる位置を境界位置として算出する。
【0031】
信頼度算出部37は、各種信頼度を算出する。信頼度の算出の詳細については、後述する。グレイコード算出部38は、二値化処理部35により算出された各ビットにおけるバイナリ値を結合し、グレイコードを算出する。変換処理部39は、グレイコード算出部38により算出されたグレイコードを投影部1の表示素子座標の値に変換する。
【0032】
計測対象物5は、反射率が高い高反射率領域51、反射率が中程度の中反射率領域52、および、反射率が低い低反射率領域53の3つの領域を有するものとした。以上が第1実施形態の距離計測装置の基本構成に関する説明である。次に、空間符号化法の原理を説明する。図2は、従来の空間符号化法で用いる投影パターンの例を示す。図2(a)が投影パターン輝度であり、図2(b)乃至(d)がグレイコードパターン光である。図2(b)が1bit、図2(c)が2bit、図2(d)が3bitのグレイコードパターンを示している。4bit以降のグレイコードパターンについては省略する。
【0033】
図2(a)の横軸は投影パターン輝度を表し、縦軸は投影パターンのy座標を表している。図2(a)中の輝度Ibは、図2(b)乃至(d)の明領域の垂直線Lbの投影パターン輝度を表している。また、図2(a)中の輝度Idは、図2(b)乃至(d)の暗領域の垂直線Ldの輝度を表している。従来の空間符号化法で用いる投影パターンは、輝度Ib、Idがともにy座標方向に一定である。
【0034】
空間符号化法では、図2(b)乃至(d)のグレイコードパターンを順番に投影しながら画像撮像を行う。そして、各ビットでバイナリ値を算出する。具体的には、各ビットで撮像画像の画像輝度が閾値以上であれば、その領域のバイナリ値を1とする。撮影画像の画像輝度が閾値未満であれば、その領域のバイナリ値を0とする。各ビットでのバイナリ値を順に並べ、その領域のグレイコードとする。グレイコードを空間コードに変換し、距離計測を行う。
【0035】
閾値の決定方法としては、平均値法と相補パターン投影法が知られている。平均値法では、全領域が明パターンの撮影画像と、全領域が暗パターンの撮影画像を予め取得しておく。そして、2つの画像輝度の平均値を閾値とする方法である。一方、相補パターン投影法は、各ビットのグレイコードパターン(ポジティブパターン)の明位置と暗位置を反転させたネガティブパターン(第2のグレイコードパターン)を投影し、画像撮像する。そして、ネガティブパターンの画像輝度値を閾値とする手法である。
【0036】
通常、空間符号化法では最下位ビットの幅の分だけ位置の曖昧さを持つ。しかし、バイナリ値が0から1、あるいは、バイナリ値が1から0に切り替わる境界位置を撮影画像上で検出することで、ビット幅よりも曖昧さを低下させることができ、距離計測精度は高まる。本発明は平均値法と相補パターン投影法のいずれの手法にも適用可能であるが、以下では相補パターン投影法を適用した場合を例として説明する。
【0037】
次に、図3を参照して、従来の空間符号化法における問題点を説明する。図3(a)、図3(b)で表現される投影パターンを計測対象物5に投影したときの撮影画像輝度値を模式的に表したものを図3(c)乃至(e)に示す。図3(a)は図2(a)と、図3(b)は図2(d)と同一の図である。通常、撮像素子面に入射する光の物理量は照度である。撮像素子面上の照度は、撮像素子の各画素のフォトダイオードで光電変換された後に、A/D変換され、量子化された値となる。図3(c)乃至(e)に示される撮像画像輝度値は、この量子化された値に対応する。
【0038】
前述したように、計測対象物5には、反射率が高い高反射率領域51、反射率が中程度の中反射率領域52、反射率が低い低反射率領域53の3つの領域が存在する。図3(c)乃至(e)は、撮像画像の画像輝度を縦軸とし、x座標を横軸としたものである。図3(c)が高反射率領域、図3(d)が中反射率領域、図3(e)が低反射率領域の画像輝度に対応する。撮像素子で受光される輝度は、一般に投影パターン輝度、撮像対象物の反射率、露光時間に比例する。ただし、撮像素子で有効な信号として受光可能な輝度は撮像素子の輝度ダイナミックレンジにより制限される。撮像素子の輝度ダイナミックレンジDRcは撮像素子で受光可能な最大輝度をIcmax、最低輝度をIcminとすると以下の式(1)で記述される。
【0039】
DRc = 20log(Icmax/Icmin) ・・・ (1)
上記式(1)で算出される輝度ダイナミックレンジDRcの単位はdB(デシベル)単位であり、一般的な撮像素子では60dB程度とされる。つまり、最大輝度と最低輝度との比が1000程度までしか信号として検出することができないことになる。言い換えると、撮像対象物の反射率比が1000倍以上あるシーンの撮影ができないことになる。
【0040】
図3(c)の高反射率領域では、反射率が高いため、撮像画像輝度値が飽和する。Wphはポジティブパターンの画像輝度波形、Wnhはネガティブパターンの画像輝度波形である。画像輝度が飽和すると、検出されるパターン境界位置Beと真のパターン境界位置Btの間にずれが生じる。ずれにより計測誤差が発生する。さらに、ずれ量がパターンの最小ビット幅よりも大きくなると符号値誤りが発生し、大きな計測誤差を発生させる。
【0041】
図3(d)の中反射率領域では、撮像画像輝度値は適切となる。Wpcはポジティブパターンの画像輝度波形、Wncはネガティブパターンの画像輝度波形である。画像輝度の飽和が起こらないため、検出されるパターン境界位置Beと真のパターン境界位置Btの間に大きなずれが生じない。また、投影パターンのコントラストを高く撮像しているため、境界位置の推定精度は高い。一般に境界位置の推定精度は、境界位置近傍の画像輝度値の差に依存する。
【0042】
ここで、図4を参照して、これらの関係を説明する。図4は横軸にx座標、縦軸に撮像画像輝度値をとったものである。ディジタル画像として撮像されていることを明示するために、画素による空間方向の量子化と、輝度方向の量子化を格子で表現している。空間方向の量子化誤差値はΔx、輝度方向の量子化画素値はΔIである。ポジティブパターンの波形Wpcとネガティブパターンの波形Wncはアナログの波形として図示した。ポジティブパターン波形Wpcにおいて、境界位置において隣接する左側の画像輝度値をILp、右側の画像輝度値をIRpとする。このとき境界位置は以下の式(2)で求められる曖昧さΔBeで推定される。
【0043】
ΔBe=ΔI・Δx/abs(ILp−IRp)・・・(2)
ここで、abs()は()内の絶対値を出力する関数である。上記式(2)は画像ノイズが実効的に無視できる場合の式である。ノイズが存在する場合にはΔNだけの曖昧さが輝度方向に加算されるため、境界位置の曖昧さΔBeは以下の式(3)ように増加する。
【0044】
ΔBe=(ΔI+ΔN)・Δx/abs(ILp−IRp)・・・(3)
式(2)、式(3)から、境界位置近傍の2画素間での画像輝度値の差が大きいほど境界位置推定の曖昧さΔBeは小さくなり、計測精度も高くなる。
【0045】
図3(e)の低反射率領域では、撮像画像輝度値は低レベルとなる。Wplはポジティブパターンの画像輝度波形、Wnlはネガティブパターンの画像輝度波形である。パターン光を低コントラストな波形でしか取得できないため、境界位置近傍の2画素間での画像輝度の差が小さくなる。つまり、境界位置の曖昧さΔBeが大きくなり、低精度となる。計測対象物5の反射率がさらに低い場合には、パターン光を信号として受光できなくなり、距離計測不能となる。
【0046】
このように従来の空間符号化法パターンでは、撮像素子の輝度ダイナミックレンジの制約により、高精度に計測可能な反射率範囲が限られる。
【0047】
次に、本発明の説明を行う。図5は、第1実施形態で用いる投影パターンの例を示す。第1実施形態では、基本となるグレイコードパターンの投影パターン輝度を投影部1と撮像部2とを結ぶ基線方向と略垂直な方向に変える(輝度変調する)。すなわち、計測対象物に対して投影されるパターン光の輝度値を、当該パターン光が投影される二次元位置ごとに所定の輝度値範囲で変調させる。これにより、撮像素子でパターン光として受光可能な計測対象物5の反射率の範囲を拡大することができる。さらに、パターン光の撮像素子上でのコントラストを調整する作用もあるため、計測精度を向上させることもできる。
【0048】
図5のパターンは、図2で示した従来の空間符号化で用いる投影パターンをy座標方向の1次元方向に対して所定の輝度値範囲で輝度変調させたものである。図5(a)と図5(b)が計測用パターンに対する輝度変調の波形を表している。図5(a)の横軸は投影パターン輝度であり、縦軸は投影パターンのy座標である。図5(b)の横軸はx座標であり、縦軸はy座標である。図5(c)乃至(e)が図5(a)と図5(b)の輝度変調波形で輝度変調したグレイコードパターンである。図5(c)が1bit、図5(d)が2bit、図5(e)が3bitのグレイコードパターンである。4bit以降のグレイコードパターンについては省略する。
【0049】
ここで、表示素子のy座標方向は投影部1と撮像部2とを結ぶ基線方向に対して、略垂直な方向に対応する。輝度変調を行う方向は、投影部1と撮像部2と計測対象物5との空間的な配置関係から決まるエピポーラライン方向と垂直なときに最大の性能が得られる。ただし、輝度変調方向がエピポーラライン方向と垂直でない場合でも本発明の効果は十分に得られる。
【0050】
また、図5では輝度変調の波形が、所定の輝度値周期として、三角波形状である例を示したが、輝度変調波形は三角波に限られない。ステップ波形状、正弦波形状、ノコギリ波(鋸波)形状のような三角波以外の周期性を有する輝度変調波形を適用しても構わない。さらには、必ずしも周期性を有する必要はなく、ランダム性を有した輝度変調波形であっても構わない。
【0051】
周期性を有する輝度変調波形の場合には、変調の周期を計測対象物5のサイズに応じて適切に選択するとよい。例えば計測対象物5の短辺の長さをS、撮像距離をZ、投影光学系の焦点距離をfpとすると表示素子上での1周期の幅wが以下の式(4)を満たすように設定する。
【0052】
w < S・fp/Z・・・(4)
上記式(4)を満たすことで計測対象物5の少なくとも1点は計測可能となる。輝度変調の振幅により、輝度ダイナミックレンジ拡大の効果を調整できる。輝度変調の最大輝度をImmax、最小輝度をImminとするとダイナミックレンジの拡大幅DRmは以下の式(5)で表される。
【0053】
DRm = 20log(Immax/Immin) ・・・(5)
本発明によるトータルのダイナミックレンジDRは前述した撮像素子の輝度ダイナミックレンジDRcを用いると以下の式(6)で表される。
【0054】
DR = DRc+DRm ・・・ (6)
図6乃至図8を参照して、図5の投影パターンによりダイナミックレンジを拡大する原理を模式的に説明する。
【0055】
図6(a)、図7(a)、および図8(a)は、それぞれ図5(a)と同一の図である。また、図6(b)、図7(b)、および図8(b)は、図5(e)と同一の図である。図6(c)、図7(c)、および図8(c)が高反射率領域、図6(d)、図7(d)、および図8(d)が中反射率領域、図6(e)、図7(e)、および図8(e)が低反射率領域の撮像画像輝度値を示している。さらに、図6は投影パターン輝度の高輝度部、図7は中輝度部、図8は低輝度部の撮像画像輝度値にそれぞれ対応する。
【0056】
図6のように投影パターン輝度が高輝度部である場合、図6(c)に示す高反射率領域では、ポジティブパターン波形Wphとネガティブパターン波形Wnhとが飽和する。また、図6(d)に示す中反射率領域でもポジティブパターン波形Wpcとネガティブパターン波形Wncが飽和する。そのため、高反射率領域、中反射率領域ともに計測誤差が大きくなる。図6(e)に示す低反射率領域ではポジティブパターン波形Wplとネガティブパターン波形Wnlとが高コントラストな波形となるため、高精度な計測が可能となる。図7のように投影パターン輝度が中輝度部である場合、図7(c)に示す高反射率領域では、ポジティブパターン波形Wphとネガティブパターン波形Wnhとが飽和する。そのため、計測誤差が大きくなる。図7(d)に示す中反射率領域ではポジティブパターン波形Wpcとネガティブパターン波形Wncが高コントラストな波形となるため、高精度な計測が可能となる。図7(e)に示す低反射率領域ではポジティブパターン波形Wplとネガティブパターン波形Wnlとが低コントラストな波形となるため、計測精度は低い。
【0057】
図8のように投影パターン輝度が低輝度部である場合、図8(c)に示す高反射率領域ではポジティブパターン波形Wphとネガティブパターン波形Wnhとが高コントラストな波形となるため、高精度計測が可能となる。図8(d)に示す中反射率領域ではポジティブパターン波形Wpcとネガティブパターン波形Wncが低コントラストな波形となるため、計測精度は低い。また、図8(e)に示す低反射率領域では、ポジティブパターン波形Wplとネガティブパターン波形Wnlとがさらに低コントラストな波形となるため、計測精度はさらに低くなる。
【0058】
以上をまとめると表1のようになる。従来の空間符号化法では高精度な計測が可能な反射率が中反射率領域に限定される。それに対し、本発明では基本となる計測用パターンの輝度を場所によって変えることにより、低反射率領域、中反射率領域、高反射率領域の全ての反射率領域で高精度な計測が可能なことがわかる。
【0059】
【表1】
【0060】
以上が本発明により距離計測の輝度ダイナミックレンジを拡大する原理の説明である。
【0061】
次に、図9のフローチャートを参照して、第1実施形態の処理の手順を説明する。第1実施形態では、Nビットのグレイコードパターンの投影を行うこととする。
【0062】
S101において、投影パターン制御部31は、ビット数nを初期化するために、nに1を代入する。S102において、投影部1は、nビットのポジティブパターンを投影する。
【0063】
S103において、撮像部2は、nビットのポジティブパターンが投影された計測対象物5の画像撮像を行う。S104において、投影部1は、nビットのネガティブパターンを投影する。S105において、撮像部2は、nビットのネガティブパターンが投影された計測対象物5の画像撮像を行う。
【0064】
S106において、二値化処理部35は、バイナリ値の算出のために、2値化処理を行う。具体的には、ポジティブパターンの撮像画像の画素とネガティブパターンの撮像画像の画素とで輝度値の比較を行う。ポジティブパターンの撮像画像の輝度値がネガティブパターンの撮像画像の輝度値以上であればバイナリ値として1を、そうでなければ0を与える。
【0065】
S107において、境界位置算出部36は、境界位置の算出を行う。バイナリ値が0から1、または、1から0に切り替わる位置を境界位置として算出する。境界位置をサブピクセル精度で求めたい場合には、境界位置近傍の撮像画像輝度値から直線フィッティングや高次の関数フィッティングなどにより求めることができる。
【0066】
S108において、信頼度算出部37は、各境界位置における信頼度を算出する。信頼度としては、例えば式(2)または式(3)を用いて算出される境界位置の曖昧さΔBeに基づいて算出することができる。境界位置の曖昧さΔBeが大きいほど、信頼度は低いと考えられるので信頼度の算出にはその逆数をとった以下の式(7)を用いることができる。
【0067】
Cf = 1/ΔBe ・・・ (7)
境界位置が存在しない画素については信頼度を0としてもよい。
【0068】
S109において、投影パターン制御部31は、ビット数nがNビットに達しているか否かの判定を行う。Nビットに達していないと判定された場合(S109;YES)、S110に進み、nに1を加算する。一方、Nビットに達していると判定された場合(S109;NO)、S111に進む。
【0069】
S111において、グレイコード算出部38は、S106で算出された各ビットにおけるバイナリ値を結合し、グレイコードを算出する。S112において、変換処理部39は、グレイコードを投影部1の表示素子座標の値に変換する。投影部1の表示素子座標に変換されると投影部1からの出射方向がわかるため、距離計測を行うことができるようになる。
【0070】
S113において、信頼度算出部37は、撮像画像の画素ごとに信頼度が閾値よりも大きいか否かの判定を行う。信頼度が閾値よりも大きいと判定された場合(S113;YES)、S114に進む。一方、信頼度が閾値より以下であると判定された場合(S113;NO)、S115に進む。
【0071】
S114において、距離算出部33は、三角測量法により距離計測処理を適用する。その後、処理を終了する。S115において、距離算出部33は距離計測処理を適用せずに処理を終了する。
【0072】
信頼度の閾値は、例えば距離計測装置が保証する計測精度を信頼度に換算することで決定できる。以上が第1実施形態の処理手順の説明である。
【0073】
信頼度が閾値よりも低く、距離計測されなかった領域に関しては信頼度の高い領域の距離計測結果を補間処理することで穴埋めすることもできる。以上が本発明の第1実施形態に関する説明である。
【0074】
第1実施形態によれば、計測時間の長時間化をもたらすことなく、また特殊な撮像素子を用いることなく、アクティブ型の距離計測装置における輝度ダイナミックレンジを拡大することが可能となる。
【0075】
(第2実施形態)
本発明の第2実施形態に係る距離計測装置の概略構成は第1実施形態の概略構成である図1と同様である。
【0076】
第1実施形態では、投影パターンの輝度を変調する方向をy座標方向のみとしていた。そのため、計測可能な反射率範囲が1次元的に分布していた。第2実施形態では、パターンをx座標方向とy座標方向の2次元方向に変調させることで、計測可能な反射率範囲を2次元的に分布させる。
【0077】
図10は、第2実施形態で用いる投影パターンを示す。第2実施形態では、図10(a)乃至(c)に示すように、x座標方向とy座標方向との2次元方向に輝度変調させた輝度変調波形で計測用パターンを変調する。これにより、計測可能な反射率範囲を2次元的に分布させることが可能になる。図10(a)の横軸は投影パターン輝度を表しており、縦軸は投影パターンのy座標を表している。図10(b)は横軸をx座標、縦軸をy座標とした投影パターンである。図10(c)は横軸をx座標、縦軸を投影パターン輝度としたグラフである。図10(d)、(e)、(f)はそれぞれ第2実施形態で用いる1ビット、2ビット、3ビットのグレイコードパターンに対応する。4bit以降のグレイコードパターンについては省略する。
【0078】
図10(b)中の垂直線Lmby1とLmby2とのそれぞれの投影パターン輝度が図10(a)中の波形Imby1とImby2とのそれぞれに対応している。また、図10(b)中の水平線Lmbx1とLmbx2とのそれぞれの投影パターン輝度が図10(c)の波形Imbx1とImbx2とのそれぞれに対応している。x座標方向とy座標方向との2次元方向に投影パターンを輝度変調させていることがわかる。
【0079】
第2実施形態の処理の手順は、図9で示した第1実施形態の処理の手順と同一である。そのため、処理手順の説明は省略する。以上が第2実施形態に関する説明である。
【0080】
第2実施形態によれば、パターンをx座標方向とy座標方向の2次元方向に変調させることにより、計測可能な反射率範囲を2次元的に分布させ、アクティブ型の距離計測装置における輝度ダイナミックレンジを拡大することが可能となる。
【0081】
(第3実施形態)
本発明の第3実施形態に係る距離計測装置の概略構成は、第1実施形態の概略構成である図1と同様である。ただし、第3実施形態では、図1における位相算出部40と、位相接続部41とが機能する。各処理部の機能については後述する。第1実施形態および第2実施形態では、距離計測手法として空間符号化法を用いた。一方、第3実施形態では距離計測手法として4ステップの位相シフト法を用いる。位相シフト法では正弦波形状のパターン(正弦波パターン光)を投影する。4ステップの位相シフト法では、正弦波の位相をπ/2ずつシフトさせた4枚のパターンを投影する。第3実施形態の投影パターンを図11に示す。図11(a)は横軸を投影パターン輝度、縦軸をy座標として描画したグラフである。図11(b)、(d)、(f)、および(h)は横軸をx座標、縦座標をy軸とした投影パターンである。図11(c)、(e)、(g)、および(i)は横軸をx座標、縦軸を投影パターン輝度として描画したグラフである。
【0082】
図11(b)および(c)は位相シフト量が0、図11(d)および(e)は位相シフト量がπ/2、図11(f)および(g)は位相シフト量がπ、図11(h)および(i)は位相シフト量が3π/2の投影パターンである。
【0083】
図11(b)の垂直線Lsby11とLsby21とは、図11(a)の波形Isby11とIsby21にそれぞれ対応する。第2実施形態では位相シフト法の正弦波パターンをy座標方向の1次元方向に三角波形状で輝度変調させている。図11(b)、(d)、(f)、および(h)の水平線Lsbx11、Lsbx12、Lsbx13、およびLsbx14は、図11(c)、(e)、(g)、および(i)の波形Isbx11、Isbx12、Isbx13、およびIsbx14に対応している。また、図11(b)、(d)、(f)、および(h)の水平線Lsbx21、Lsbx22、Lsbx23、およびLsbx24は、図11(c)、(e)、(g)、および(i)の波形Isbx21、Isbx22、Isbx23、およびIsbx24に対応している。これらのx座標方向の波形から正弦波の位相をπ/2ずつシフトさせていることがわかる。また、y座標位置に応じて正弦波の振幅が異なることもわかる。
【0084】
次に、図12を参照して、第3実施形態の処理の手順を説明する。
【0085】
S301において、投影パターン制御部31は、位相シフト量Psの初期化のために、Psに0を代入する。
【0086】
S302において、投影部1は、位相シフト量Psのパターン投影を行う。S303において、撮像部2は、位相シフト量Psのパターンが投影された計測対象物5の画像撮像を行う。
【0087】
S304において、投影パターン制御部31は、位相シフト量Psが3π/2に達しているか否かの判定を行う。Psが3π/2に達していると判定された場合(S304;YES)、S306に進む。一方、Psが3π/2に達していないと判定された場合(S304;NO)、S305に進み、Psにπ/2を加算する。その後、S302へ戻る。S306において、位相算出部40は、位相の算出を行う。各画素で以下の式(8)の演算を行い、位相φを算出する。
【0088】
φ=tan−1((I3−I1)/(I0−I2)) ・・・ (8)
ここで、I0はPs=0のときの画像輝度値、I1はPs=π/2のときの画像輝度値、I2はPs=πのときの画像輝度値、I4はPs=3π/2のときの画像輝度値である。
【0089】
S307において、信頼度算出部37は、信頼度の算出を行う。位相シフト法では画像信号として受光される正弦波の振幅が大きいほど算出される位相の算出精度が高い。従って、正弦波の振幅を計算する以下の式(9)で信頼度Cfを算出することができる。
【0090】
Cf = (I0−I2)/2cosφ・・・ (9)
また、4枚の撮像画像のいずれかが飽和している、あるいは、低レベルであると波形が正弦波から崩れるため、位相の算出精度が低下する。そこで、そのような場合にはCfを0とすると良い。
【0091】
S308において、位相接続部41は、算出された位相に基づいて位相接続を行う。位相接続には種々の手法が提案されている。例えば表面の連続性を利用した方法、空間符号化法を併用する方法などを用いることができる。
【0092】
S309において、変換処理部39は、位相接続された位相に基づいて投影部1の表示素子座標へ変換する。投影部1の表示素子座標に変換されると投影部1からの出射方向がわかるため、距離計測を行うことができるようになる。
【0093】
S310において、信頼度算出部37は、撮像画像の画素ごとに信頼度が閾値よりも大きいか否かの判定を行う。信頼度が閾値よりも大きいと判定された場合(S310;YES)、S311に進む。一方、信頼度が閾値以下であると判定された場合(S310;NO)、S312に進む。
【0094】
S311において、距離算出部33は、距離計測処理を適用する。その後、処理を終了する。
【0095】
S312において、距離算出部33は、距離計測処理を適用せずに処理を終了する。閾値は、例えば距離計測装置が保証する計測精度を信頼度に換算することで決定できる。以上が第3実施形態の処理手順の説明である。
【0096】
第3実施形態によれば、位相シフト法の投影パターンを1次元方向に輝度変調することで、計測可能な輝度ダイナミックレンジを拡大することができる。
【0097】
(第4実施形態)
本発明の第4実施形態に係る距離計測装置の概略構成は、第1実施形態の概略構成である図1と同様である。第4実施形態では距離計測手法として第3実施形態と同様に4ステップの位相シフト法を用いる。第4実施形態では位相シフト法の投影パターンとしてランダムに変調させた投影パターンを用いる。
【0098】
図13は、第4実施形態の投影パターンを示す。図13(a)がランダムな輝度変調パターンを示したものである。ここでは、投影パターンを矩形領域に区切り、それぞれの矩形領域で輝度をランダムに設定している。図1の概略構成のように投影部1に表示素子を用いる場合、矩形領域のサイズは表示素子の1画素以上であれば良い。矩形領域ごとに輝度が異なるため、輝度が明るい矩形領域は暗い計測対象物に適している。一方、輝度が暗い矩形領域は明るい計測対象物に適している。第4実施形態では、輝度がランダムに設定されているので、計測可能な計測対象物の反射率の分布を空間的に均一化することができる。
【0099】
図13(b)乃至(f)に、位相シフト法の投影パターンの位相シフト量が0の場合の例を示す。図13(b)および(c)は横軸を投影パターン輝度、縦軸をy座標として描画したグラフである。図13(d)は横軸をx座標、縦軸をy座標とした投影パターンである。図13(e)および(f)は横軸をx座標、縦軸を投影パターン輝度として描画したグラフである。
【0100】
図13(d)の垂直線Lsry11とLsry21とは、図13(b)の波形Isry11と図13(c)の波形Isry21とにそれぞれ対応している。図13(d)の水平線Lsrx11とLsrx21とは、図13(e)の波形Isrx11と図13(f)の波形Isrx21とにそれぞれ対応している。第4実施形態では、位相シフト法の正弦波パターンを矩形領域に区切り、それぞれの矩形領域で輝度をランダムに設定し、輝度変調させていることがわかる。図13(e)と(f)とから、x座標方向には正弦波を領域ごとにランダムに設定した輝度で、輝度変調していることがわかる。
【0101】
図13では位相シフト量がπ/2、π、および3π/2の投影パターンの図示は省略したが、図13と同様に輝度変調させた投影パターンを用意しておく。そして、図12のフローチャートを参照して説明した第3実施形態と同様の処理手順で距離計測を行う。処理手順の説明は、図12の説明と同一であるため省略する。以上が第4実施形態に関する説明である。
【0102】
第4実施形態によれば、位相シフト法の投影パターンとしてランダムに変調させた投影パターンを用いて、位相シフト法の投影パターンを2次元方向に輝度変調することにより、計測可能な輝度ダイナミックレンジを拡大することができる。
【0103】
(第5実施形態)
本発明の第5実施形態に係る距離計測装置の概略構成は、第1実施形態の概略構成である図1と同様である。ただし、第5実施形態では、図1におけるライン抽出部42と、要素情報抽出部43とが機能する。各処理部の機能については後述する。第5実施形態では、距離計測手法としてグリッドパターン投影法を用いる。そして、グリッドパターン投影法の投影パターンを矩形領域に区切り、領域ごとに輝度変調させた投影パターンを用いる。
【0104】
図14は、第5実施形態で用いるグリッドパターン投影法のパターンを示す。図14(a)は従来のグリッドパターン法で用いる投影パターンの一例である。グリッドパターン投影法では縦ラインおよび横ラインの有無を、M系列やde Bruijn系列などに基づいて決定し、符号化する方式である。図14(a)は、M系列に基づくグリッド状パターン光の例を示している。x座標方向は4次のM系列であり、y座標方向は3次のM系列である。M系列がn次の場合、nビット分の系列情報を抽出すると、その並びの系列は、系列中に1度しか発生しない。その性質を利用して、nビット分の系列情報の抽出により、表示素子中の座標を一意に特定する。図14(a)中では、要素が0の場合はライン無しとし、要素が1の場合はライン有りとしている。要素1が隣り合う場合を明確に区別できるように、それぞれの要素間に0と同一輝度の領域を設けている。
【0105】
図14(b)は、図14(a)の投影パターンに対する輝度変調パターンを示したものである。図14(b)では、矩形領域ごとに輝度を変えている。矩形領域のサイズはx座標とy座標ともにnビット分の系列情報を同一矩形領域に含むように設定する必要がある。図14(b)では、それぞれの矩形領域がx座標方向に4ビット分の系列情報を、y座標方向に3ビット分の系列情報を含むように設定している。図14(c)は横軸を投影パターン輝度、縦軸をy座標として描画したグラフである。図14(b)の垂直線Lsgy11が図14(c)の波形Isgy11に対応する。図14(c)から、矩形領域ごとに輝度を変えているため、ステップ波形状で輝度変調していることがわかる。
【0106】
図14(d)が第5実施形態で用いる投影パターンであり、図14(b)の輝度変調パターンにより図14(a)の投影パターンを輝度変調したものである。図14(e)は横軸を投影パターン輝度、縦軸をy座標として描画したグラフである。投影パターンの輝度が矩形領域ごとに異なることがわかる。このように領域に応じて投影パターン輝度を変調させることで、領域内で計測可能な計測対象物の反射率を任意に設定することができる。また、矩形領域のサイズをM系列の次数に対応するビットを含むように設定しているので、距離計測処理が破綻することもない。
【0107】
次に、図15のフローチャートを参照して、第5実施形態の処理手順を説明する。S501において、投影部1は、図14(d)で示した投影パターンを計測対象物に投影する。S502において、撮像部2は、投影パターンが投影された計測対象物の画像撮像を行う。その後、S503およびS507へ進む。
【0108】
S503において、ライン抽出部42は、撮像画像から横ラインを抽出する。横ラインの抽出にはSobelフィルタなどの各種エッジ検出フィルタを用いる。S504において、信頼度算出部37は、ラインの抽出時に用いたフィルタの出力値に応じて信頼度を算出する。通常、撮像画像のパターンのコントラストが高いほど、フィルタの出力値が高くなるため、フィルタの出力値を信頼度として用いることができる。
【0109】
S505において、要素情報抽出部43は、要素情報を抽出する。画像の各部位ごとにラインの有無に基づいて1と0の値を割り当てる。
【0110】
S506において、変換処理部39は、抽出された要素情報から表示素子のy座標への変換を行う。要素情報が抽出され、M系列の次数分だけつなげると、それぞれの要素が全系列中のどの位置に対応するのかを一意に特定できる。これにより、表示素子のy座標へ変換することができる。S507において、ライン抽出部42は、撮像画像から縦ラインを抽出する。縦ラインの抽出にはSobelフィルタなどの各種エッジ検出フィルタを用いる。
【0111】
S508において、信頼度算出部37は、ラインの検出時に用いたフィルタの出力値に応じて信頼度を算出する。通常、撮影画像のパターンのコントラストが高いほど、フィルタの出力値が高くなるため、フィルタの出力値を信頼度として用いることができる。
【0112】
S509において、要素情報抽出部43は、要素情報を抽出する。画像の各部位ごとにラインの有無に基づいて1と0の値を割り当てる。S510において、変換処理部39は、抽出された要素情報から表示素子のx座標への変換を行う。要素情報が抽出され、M系列の次数分だけつなげると、それぞれの要素が全系列中のどの位置に対応するのかを一意に特定できる。これにより、表示素子のx座標へ変換することができる。
【0113】
S511において、信頼度算出部37は、算出された縦ラインと横ラインとののいずれかの信頼度が閾値以上であるか否かを判定する。縦ラインと横ラインのいずれかの信頼度が閾値よりも大きいと判定された場合(S511;YES)、S512に進む。一方、縦ラインおよび横ラインの信頼度がともに閾値以下であると判定された場合(S511;NO)、S513に進む。
【0114】
S512において、距離算出部33は、表示素子のx座標、または、y座標に基づいて三角測量法で距離計測を行う。その後、処理を終了する。S513において、距離算出部33は、距離計測処理を適用せずに、処理を終了する。
【0115】
以上が第5実施形態の処理手順の説明である。第5実施形態では、M系列に基づくグリッドパターン投影法に本発明を適用した例を説明した。ただし、本発明はde Brujin系列を含む他の系列に基づくグリッドパターン投影法にも適用できる。
【0116】
第5実施形態によれば、グリッドパターン投影法の投影パターンを矩形領域に区切り、領域ごとに輝度変調させた投影パターンを用いることにより、計測可能な輝度ダイナミックレンジを拡大することができる。
【0117】
以上、第1実施形態および第2実施形態では、本発明を空間符号化法に適用した例を、第3実施形態および第4実施形態では、本発明を位相シフト法に適用した例を説明した。また、第5実施形態では、本発明をグリッドパターン投影法に適用した例を説明した。ただし、本発明が適用できるのは各実施形態で説明した3手法に限られるものではなく、光切断法を含む各種パターン投影法に適用可能である。
【0118】
(その他の実施形態)
また、本発明は、以下の処理を実行することによっても実現される。即ち、上述した実施形態の機能を実現するソフトウェア(プログラム)を、ネットワーク又は各種記憶媒体を介してシステム或いは装置に供給し、そのシステム或いは装置のコンピュータ(またはCPUやMPU等)がプログラムを読み出して実行する処理である。
【特許請求の範囲】
【請求項1】
計測対象物に対して投影される計測用のパターン光の輝度値を、当該パターン光の二次元位置ごとに所定の輝度値範囲で変調させる変調手段と、
前記変調手段により変調された前記パターン光を前記計測対象物に対して投影する投影手段と、
前記投影手段により前記パターン光が投影された前記計測対象物を撮像する撮像手段と、
前記撮像手段により撮像された撮像画像に基づいて前記計測対象物までの距離を算出する距離算出手段と、
を備えることを特徴とする距離計測装置。
【請求項2】
前記変調手段は、前記パターン光の輝度値を、当該パターン光が投影される二次元位置ごとに所定の輝度値範囲で、前記投影手段と前記撮像手段とを結ぶ基線方向とは異なる方向に変調させることを特徴とする請求項1に記載の距離計測装置。
【請求項3】
前記変調手段は、所定の輝度値周期で、前記基線方向とは異なる方向に前記パターン光の輝度値を変調させることを特徴とする請求項2に記載の距離計測装置。
【請求項4】
前記所定の輝度値周期は、三角波、ステップ波、および鋸波のうちの何れか1つの輝度値周期であることを特徴とする請求項3に記載の距離計測装置。
【請求項5】
前記変調手段は、前記パターン光の輝度値をランダムに変調させることを特徴とする請求項2に記載の距離計測装置。
【請求項6】
前記基線方向とは異なる方向は、前記基線方向と垂直な方向であることを特徴とする請求項2乃至5の何れか1項に記載の距離計測装置。
【請求項7】
前記基線方向は、前記投影手段と前記撮像手段と前記計測対象物との空間的な配置関係により決定されるエピポーラライン方向であることを特徴とする請求項2乃至5の何れか1項に記載の距離計測装置。
【請求項8】
前記計測用のパターン光は、グレイコードパターン光であり、
前記距離算出手段は、前記撮像画像に基づいて、空間符号化法を用いて距離を算出することを特徴とする請求項1に記載の距離計測装置。
【請求項9】
前記計測用のパターン光は、正弦波パターン光であり、
前記距離算出手段は、前記撮像画像に基づいて、位相シフト法を用いて距離を算出することを特徴とする請求項1に記載の距離計測装置。
【請求項10】
前記計測用のパターン光は、グリッド状パターンであり、
前記距離算出手段は、前記撮像画像に基づいて、グリッドパターン投影法を用いて距離を算出することを特徴とする請求項1に記載の距離計測装置。
【請求項11】
変調手段と、投影手段と、撮像手段と、距離算出手段とを備える距離計測装置における距離計測方法であって、
前記変調手段が、計測対象物に対して投影される計測用のパターン光の輝度値を、当該パターン光が投影される二次元位置ごとに所定の輝度値範囲で変調させる変調工程と、
前記投影手段が、前記変調工程により変調された前記パターン光を前記計測対象物に対して投影する投影工程と、
前記撮像手段が、前記投影工程により前記パターン光が投影された前記計測対象物を撮像する撮像工程と、
前記距離算出手段が、前記撮像工程により撮像された撮像画像に基づいて前記計測対象物までの距離を算出する距離算出工程と、
を備えることを特徴とする距離計測方法。
【請求項12】
請求項11に記載の距離計測方法における各工程をコンピュータに実行させるためのプログラム。
【請求項1】
計測対象物に対して投影される計測用のパターン光の輝度値を、当該パターン光の二次元位置ごとに所定の輝度値範囲で変調させる変調手段と、
前記変調手段により変調された前記パターン光を前記計測対象物に対して投影する投影手段と、
前記投影手段により前記パターン光が投影された前記計測対象物を撮像する撮像手段と、
前記撮像手段により撮像された撮像画像に基づいて前記計測対象物までの距離を算出する距離算出手段と、
を備えることを特徴とする距離計測装置。
【請求項2】
前記変調手段は、前記パターン光の輝度値を、当該パターン光が投影される二次元位置ごとに所定の輝度値範囲で、前記投影手段と前記撮像手段とを結ぶ基線方向とは異なる方向に変調させることを特徴とする請求項1に記載の距離計測装置。
【請求項3】
前記変調手段は、所定の輝度値周期で、前記基線方向とは異なる方向に前記パターン光の輝度値を変調させることを特徴とする請求項2に記載の距離計測装置。
【請求項4】
前記所定の輝度値周期は、三角波、ステップ波、および鋸波のうちの何れか1つの輝度値周期であることを特徴とする請求項3に記載の距離計測装置。
【請求項5】
前記変調手段は、前記パターン光の輝度値をランダムに変調させることを特徴とする請求項2に記載の距離計測装置。
【請求項6】
前記基線方向とは異なる方向は、前記基線方向と垂直な方向であることを特徴とする請求項2乃至5の何れか1項に記載の距離計測装置。
【請求項7】
前記基線方向は、前記投影手段と前記撮像手段と前記計測対象物との空間的な配置関係により決定されるエピポーラライン方向であることを特徴とする請求項2乃至5の何れか1項に記載の距離計測装置。
【請求項8】
前記計測用のパターン光は、グレイコードパターン光であり、
前記距離算出手段は、前記撮像画像に基づいて、空間符号化法を用いて距離を算出することを特徴とする請求項1に記載の距離計測装置。
【請求項9】
前記計測用のパターン光は、正弦波パターン光であり、
前記距離算出手段は、前記撮像画像に基づいて、位相シフト法を用いて距離を算出することを特徴とする請求項1に記載の距離計測装置。
【請求項10】
前記計測用のパターン光は、グリッド状パターンであり、
前記距離算出手段は、前記撮像画像に基づいて、グリッドパターン投影法を用いて距離を算出することを特徴とする請求項1に記載の距離計測装置。
【請求項11】
変調手段と、投影手段と、撮像手段と、距離算出手段とを備える距離計測装置における距離計測方法であって、
前記変調手段が、計測対象物に対して投影される計測用のパターン光の輝度値を、当該パターン光が投影される二次元位置ごとに所定の輝度値範囲で変調させる変調工程と、
前記投影手段が、前記変調工程により変調された前記パターン光を前記計測対象物に対して投影する投影工程と、
前記撮像手段が、前記投影工程により前記パターン光が投影された前記計測対象物を撮像する撮像工程と、
前記距離算出手段が、前記撮像工程により撮像された撮像画像に基づいて前記計測対象物までの距離を算出する距離算出工程と、
を備えることを特徴とする距離計測方法。
【請求項12】
請求項11に記載の距離計測方法における各工程をコンピュータに実行させるためのプログラム。
【図1】
【図2】
【図3】
【図4】
【図9】
【図12】
【図15】
【図5】
【図6】
【図7】
【図8】
【図10】
【図11】
【図13】
【図14】
【図2】
【図3】
【図4】
【図9】
【図12】
【図15】
【図5】
【図6】
【図7】
【図8】
【図10】
【図11】
【図13】
【図14】
【公開番号】特開2012−127821(P2012−127821A)
【公開日】平成24年7月5日(2012.7.5)
【国際特許分類】
【出願番号】特願2010−279875(P2010−279875)
【出願日】平成22年12月15日(2010.12.15)
【出願人】(000001007)キヤノン株式会社 (59,756)
【Fターム(参考)】
【公開日】平成24年7月5日(2012.7.5)
【国際特許分類】
【出願日】平成22年12月15日(2010.12.15)
【出願人】(000001007)キヤノン株式会社 (59,756)
【Fターム(参考)】
[ Back to top ]