説明

計測装置及び計測方法

【解決課題】全ての回転量及び移動量を高精度に計測することができるようにする。
【解決手段】レーザレーダで得られた複数の点の3次元座標を、第1の画像の画像座標に変換して、第1の画像上の点に投影し(104)、撮像対象物の境界上の点に対応する複数の投影点を少なくとも3個選択し(106)、選択された第1の画像上の複数の投影点に対応する点を、第2の画像上で検索して追跡し、各投影点に対応する第2の画像の画像座標を検出する(110)。そして、選択された複数の投影点の第1の画像上の画像座標と、検出された第2の画像上の複数の画像座標と、選択された複数の投影点の3次元座標とに基づいて、第1の画像を撮像したときの画像撮像装置の第1の位置及び第1の姿勢と第2の画像を撮像したときの画像撮像装置の第2の位置及び第2の姿勢との変化を、XYZ軸方向の移動量及びXYZ軸を基準とする回転量として算出する。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、計測装置及び計測方法に係り、特に、画像撮像手段の移動量及び回転量を計測する計測装置及び計測方法に関する。
【背景技術】
【0002】
従来より、レーザ計測装置を搭載した移動物体の姿勢を計測する姿勢計測装置が知られている(例えば、特許文献1)。この姿勢計測装置では、レーザ計測装置により道路までの距離を計測することで姿勢を測定する。
【0003】
また、画像センサ及びレーザ計測装置を用いて、移動体の位置を特定する自己位置特定方法が知られている(例えば、特許文献2)。この方法では、画像センサで得られた画像から計測目標を決定し、レーザ計測装置で計測目標の距離を計測することで移動物体の相対的な位置を計測する。
【特許文献1】特開2004−177252号
【特許文献2】特開2006−31642号
【発明の開示】
【発明が解決しようとする課題】
【0004】
しかしながら、特許文献1に記載の技術では、レーザセンサのみを用いて、道路面との距離を計測しているため、一部の回転成分のみが推定できるのであって、他の回転成分や、移動量を推定することができない、という問題がある。
【0005】
また、特許文献2に記載の技術では、画像に写っている物体との距離のみを計測し、他の角度センサで得られた回転成分を用いて、移動量を計算するものであり、画像センサとレーザセンサのみでは全ての回転成分を計算することができず、また、画像にノイズがある場合には、計算精度が低下してしまう、という問題がある。
【0006】
本発明は、上記の問題点を解決するためになされたもので、全ての回転量及び移動量を高精度に計測することができる計測装置及び計測方法を提供することを目的とする。
【課題を解決するための手段】
【0007】
上記の目的を達成するために本発明に係る計測装置は、移動体に搭載され、前記移動体から撮像対象物を撮像する撮像手段と、前記移動体に搭載され、レーザを走査することにより、前記撮像対象物上の複数の点の3次元座標を計測する3次元座標計測手段と、前記撮像手段が第1の位置及び第1の姿勢となっているときに前記3次元座標計測手段によって3次元座標が計測された複数の点の各々を、前記第1の位置及び前記第1の姿勢で前記撮像手段によって撮像された第1の画像上に投影する投影手段と、前記投影された複数の点から少なくとも3個の特徴点を選択する選択手段と、前記選択手段によって選択された前記特徴点の各々に対応する点を、前記第1の位置及び第1の姿勢と異なる第2の位置及び第2の姿勢で前記撮像手段によって撮像された第2の画像から検索する検索手段と、前記選択手段によって選択された前記特徴点、前記検索手段によって検索された点、及び前記3次元座標計測手段によって計測された該特徴点の各々に対応する3次元座標に基づいて、前記第1の位置から前記第2の位置への3軸方向の移動量及び前記第1の姿勢を基準とした前記第2の姿勢の3軸を基準とする回転量を算出する算出手段とを含んで構成されている。
【0008】
また、本発明に係る計測方法は、移動体に搭載され、前記移動体から撮像対象物を撮像する撮像手段と、前記移動体に搭載され、レーザを走査することにより、前記撮像対象物上の複数の点の3次元座標を計測する3次元座標計測手段とを備えた計測装置の計測方法であって、前記撮像手段が第1の位置及び第1の姿勢となっているときに前記3次元座標計測手段によって3次元座標が計測された複数の点の各々を、前記第1の位置及び前記第1の姿勢で前記撮像手段によって撮像された第1の画像上に投影し、前記投影された複数の点から少なくとも3個の特徴点を選択し、前記選択された前記特徴点の各々に対応する点を、前記第1の位置及び第1の姿勢と異なる第2の位置及び第2の姿勢で前記撮像手段によって撮像された第2の画像から検索し、前記選択された前記特徴点、前記検索された点、及び前記3次元座標計測手段によって計測された該特徴点の各々に対応する3次元座標に基づいて、前記第1の位置から前記第2の位置への3軸方向の移動量及び前記第1の姿勢を基準とした前記第2の姿勢の3軸を基準とする回転量を算出することを特徴としている。
【0009】
本発明によれば、第1の位置及び第1の姿勢で、撮像手段によって、移動体から第1の画像を撮像し、撮像手段が第1の位置及び第1の姿勢となっているときに、3次元座標計測手段によって、レーザを走査することにより、撮像対象物上の複数の点の3次元座標を計測する。
【0010】
また、第1の位置及び第1の姿勢と異なる第2の位置及び第2の姿勢で、撮像手段によって第2の画像を撮像する。
【0011】
そして、3次元座標計測手段によって3次元座標が計測された複数の点の各々を、第1の画像上に投影し、投影された複数の点から少なくとも3個の特徴点を選択する。そして、選択された特徴点の各々に対応する点を、第2の画像から検索する。
【0012】
選択された特徴点、検索された点、及び3次元座標計測手段によって計測された特徴点の各々に対応する3次元座標に基づいて、画像撮像手段の第1の位置から第2の位置への3軸方向の移動量及び画像撮像手段の第1の姿勢を基準とした第2の姿勢の3軸を基準とする回転量を算出する。
【0013】
従って、第1の画像と第2の画像とで対応する点を検索しやすい特徴点を選択し、選択された特徴点、検索された点、及び特徴点の各々に対応する3次元座標に基づいて、画像撮像手段の3軸方向の移動量及び3軸を基準とする回転量を算出するため、全ての回転量及び移動量を高精度に計測することができる。
【0014】
本発明に係る選択手段は、3次元座標計測手段によって計測された3次元座標に基づいて、投影された複数の点から、第1の画像に撮像された撮像対象物の境界上の点を少なくとも3個選択することができる。これにより、撮像対象物の境界上の点を特徴点として選択するため、第1の画像と第2の画像とで対応する点を高精度に検索することができる。
【0015】
また、本発明に係る選択手段は、第1の画像の各画素の輝度値に基づいて、投影された複数の点から、コーナー強度が周囲の点より高い点を少なくとも3個選択することができる。これにより、コーナー強度が高い点を特徴点として選択するため、第1の画像と第2の画像とで対応する点を高精度に検索することができる。
【0016】
なお、コーナー強度とは、輝度の2次元的変化による勾配の大きさを表す値であり、輝度の水平方向の勾配値、及び垂直方向の勾配値に基づいて計算される。
【発明の効果】
【0017】
以上説明したように、本発明の計測装置及び計測方法によれば、第1の画像と第2の画像とで対応する点を検索しやすい特徴点を選択し、選択された特徴点、検索された点、及び特徴点の各々に対応する3次元座標に基づいて、画像撮像手段の3軸方向の移動量及び3軸を基準とする回転量を算出するため、全ての回転量及び移動量を高精度に計測することができる、という効果が得られる。
【発明を実施するための最良の形態】
【0018】
以下、図面を参照して本発明の実施の形態を詳細に説明する。
【0019】
図1に示すように、本実施の形態に係る計測装置10は、車両(図示省略)に搭載され、かつ、撮像対象物を撮像して画像を生成する画像撮像装置12と、車両に搭載され、かつ、レーザを走査することにより、撮像対象物上の複数の点の3次元座標を計測するレーザレーダ14と、画像撮像装置12から得られる画像及びレーザレーダ14から得られる複数の点の3次元座標に基づいて、画像撮像装置12の移動量及び回転量を計測する計測プログラムを格納したコンピュータ16とを備えている。
【0020】
画像撮像装置12は、撮像対象物を撮像し、画像の画像信号を生成する撮像部18と、撮像部18で生成された画像信号をA/D変換するA/D変換部20と、A/D変換された画像信号を一時的に格納するための画像メモリ22とを備えている。
【0021】
また、レーザレーダ14は、撮像対象物に対してレーザ光を走査するように発光するレーザ発光部24と、レーザ光の反射光を受光するレーザ受光部26と、レーザ光を走査した撮像対象物上の複数の点に対して、レーザ発光部24によってレーザ光を発光してから、レーザ受光部26によって受光するまでの時間によって、距離を算出すると共に、算出された距離及びレーザ光の走査位置に基づいて、複数の点の3次元座標を演算する3次元座標演算部28とを備えている。
【0022】
コンピュータ16に格納されている計測プログラムは、画像撮像装置12により得られた第1の画像及びレーザレーダ14により得られた複数の点の3次元座標を入力として、3次元座標を画像座標に変換して、画像上の点に投影する3次元点投影部30と、画像座標へ変換された投影点から、画像上で追跡しやすい特徴点として、撮像対象物の境界上の点を選択する投影点選択部32と、第1の画像を撮像した第1の位置及び第1の姿勢と異なる第2の位置及び第2の姿勢で撮像して画像撮像装置12により得られた第2の画像、及び投影点選択部32によって選択された第1の画像上の投影点を入力として、第1の画像の投影点を追跡し、各投影点に対応する点を第2の画像上で追跡して、各投影点に対応する点の画像座標を検出する投影点追跡部34と、投影点追跡部34で得られた各点における第1の画像及び第2の画像での画像座標の組、及びレーザレーダ14により得られた3次元座標を入力として、第1の画像を撮像したときの第1の位置から第2の画像を撮像したときの第2の位置への変化を、画像撮像装置12の運動の3軸方向の移動量として推定すると共に、第1の画像を撮像したときの第1の姿勢を基準とした第2の画像を撮像したときの第2の姿勢への変化を、画像撮像装置12の運動の3軸を基準とする回転量として推定する運動推定部36と、運動推定部36の結果を出力する出力部38とで構成されている。
【0023】
次に、本実施の形態に係る計測装置10の作用について説明する。
【0024】
まず、計測する画像撮像装置12の運動開始時である第1の位置及び第1の姿勢で、画像撮像装置12によって、撮像対象物が撮像されて第1の画像が生成されると共に、レーザレーダ14によって、レーザ光が走査された撮像対象物の位置の複数の点の3次元座標が計測される。そして、計測する画像撮像装置12の運動終了時であって、かつ、第1の位置及び第1の姿勢と異なる第2の位置及び第2の姿勢で、画像撮像装置12によって、撮像対象物が撮像されて第2の画像が生成されると、コンピュータ16において、図2に示す移動量及び回転量を計測するための処理が行われる。
【0025】
まず、ステップ100において、レーザレーダ14から複数の点の3次元座標を取得し、ステップ102で、画像撮像装置12から第1の画像を取得する。
【0026】
次のステップ104では、ステップ100で得られた複数の点の3次元座標を、第1の画像の画像座標に変換して、第1の画像上の点に投影する。この第1の画像の画像座標への変換は、予め計測しておいた画像撮像装置12とレーザレーダ14との位置関係に基づいて、各3次元座標(X、Y、Z)を以下の式によって画像座標(x、y)に変換する。
【0027】
【数1】

ここで、Pを以下の式とする。
【0028】
【数2】

【0029】
また、Kは画像撮像装置12のキャリブレーション行列、Rはレーザレーダ14によって計測される3次元座標から画像撮像装置12の画像座標への変換を表す回転行列、tはレーザレーダ14によって計測される3次元座標から画像撮像装置12の画像座標への変換を表す並進ベクトルである。K、R、tは、画像撮像装置12とレーザレーダ14との位置関係に基づいて、予め求めておく。
【0030】
そして、ステップ106で、レーザレーダ14によって得られた3次元座標に基づいて、画像撮像装置12との距離が不連続となる撮像対象物の境界上の点に対応する複数の投影点を、ステップ104で投影された複数の投影点の中から少なくとも3個選択し、ステップ108で、第1の位置及び第1の姿勢と異なる第2の位置及び第2の姿勢で画像撮像装置12によって撮像された第2の画像を取得する。
【0031】
次のステップ110では、ステップ106で選択された第1の画像上の複数の投影点に対応する点を、ステップ108で得られた第2の画像上で検索して追跡し、各投影点に対応する第2の画像の画像座標を検出する。なお、第1の画像と第2の画像とで対応する点を検索するときには、第1の画像と第2の画像とで対応する点とその周囲の点の輝度は変化しないという仮定を用いて、第1の画像と第2の画像との輝度のマッチングを行えばよく、例えば、Lucas−Kanade法を用いて、第1の画像上の選択された投影点に対応する点を、第2の画像上から検索する。
【0032】
Lucas−Kanade法では、第1の画像の座標(x、y)の輝度値をI(x、y)、第2の画像の座標(x、y)の輝度値をJ(x、y)と表すとき、第1の画像の座標(p、p)に対応する第2の画像の座標(p+u、p+v)を、以下の数式で表される関数を最小化する(u、v)を求めることにより、求める。
【0033】
【数3】

【0034】
ここで、Ωは(p、p)を中心とするウィンドウ、w(x、y)は重み関数であり、ウィンドウの中心であるほど大きい値をとる(ガウシアン関数など)。また、I(x、y)はI(x、y)をx軸方向に微分した値、I(x、y)はy軸方向に微分した値である。
【0035】
そして、ステップ112では、選択された複数の投影点の第1の画像上の画像座標と、ステップ110で検出された第2の画像上の複数の画像座標と、ステップ100で得られた3次元座標であって、選択された複数の投影点の3次元座標とに基づいて、第1の画像を撮像したときの画像撮像装置12の第1の位置及び第1の姿勢と第2の画像を撮像したときの画像撮像装置12の第2の位置及び第2の姿勢との変化を、画像撮像装置12の運動のXYZ軸方向の移動量及びXYZ軸を基準とする回転量として算出する。算出される位置及び姿勢の変化は、図3に示すような、回転量としての第1の画像から第2の画像への回転行列R(X軸を基準とする回転量、Y軸を基準とする回転量、Z軸を基準とする回転量)と、移動量としての並進ベクトルt(X軸方向の移動量、Y軸方向の移動量、Z軸方向の移動量)との6要素から構成される運動であり、この移動量及び回転量の算出方法には、2枚の画像間での対応する画像座標の組と、3次元座標とが既知となっている3点について、P3P(Perspective 3−Point)問題を解く手法を用いることができる(X.Gao,X.Hou,J.Tang,and H.Cheng,“Complete solution classification for the perspective−three−point problem,”IEEE Trans. on Pattern Analysis and Machine Intelligence,vol.25,no.8,pp.930−943,August 2003)。
【0036】
P3P問題を解く手法では、第1の位置及び第1の姿勢における3点の3次元座標を(X、Y、Z)、(X、Y、Z)、(X、Y、Z)、第2の画像における3点の座標を(u、v)、(u、v)、(u、v)とするとき、以下を満たす回転行列Rと並進ベクトルtとを求める。
【0037】
全てのi=1、2、3について、
【0038】
【数4】

ただし、
【0039】
【数5】

【0040】
次のステップ114では、運動推定結果として、ステップ112で算出された画像撮像装置12の移動量及び回転量をコンピュータ16のディスプレイ(図示省略)に表示して、移動量及び回転量を計測するための処理を終了する。
【0041】
以上説明したように、第1の実施の形態に係る計測装置によれば、運動開始時の第1の画像と運動終了時の第2の画像とで対応する点を検索しやすい点として撮像対象物の境界上の投影点を選択し、選択された第1の画像上の投影点の画像座標、第2の画像上で対応する点として検索された点の画像座標、及び選択された投影点の各々に対応する3次元座標に基づいて、画像撮像装置のXYZ軸方向の移動量及びXYZ軸を基準とする回転量を算出するため、全ての回転量及び移動量を高精度に計測することができる。
【0042】
次に、第2の実施の形態について説明する。なお、第1の実施の形態と同様の構成になっているため、第2の実施の形態に係る画像撮像装置、レーザレーダ、及びコンピュータの構成について、同一符号を付して説明を省略する。
【0043】
第2の実施の形態では、画像上で追跡しやすい投影点として、コーナー強度が周囲より高い点を選択している点が第1の実施の形態と異なっている。なお、コーナー強度とは、輝度の2次元的変化による勾配の大きさを表す値である。
【0044】
次に、第2の実施の形態に係るコンピュータ16おける移動量及び回転量を計測するための処理について図4を用いて説明する。なお、第1の実施の形態と同様の処理については、同一符号を付して、詳細な説明を省略する。
【0045】
まず、ステップ100において、レーザレーダ14から複数の点の3次元座標を取得し、ステップ102で、画像撮像装置12から第1の画像を取得し、次のステップ104では、ステップ100で得られた複数の点の3次元座標を、第1の画像の画像座標に変換して、第1の画像上の点に投影する。
【0046】
そして、ステップ200で、レーザレーダ14によって得られた3次元座標の3次元点が投影された投影点の各々について、第1の画像の各画素の輝度値からコーナー強度を計算し、周囲の予め定められた距離内で最もコーナー強度が大きくなる投影点を、画像上で追跡しやすい点として少なくとも3個選択する。
【0047】
なお、コーナー強度は、Harrisオペレータなどを用いて計算される。例えば、まず、画像の輝度をI(x、y)と表すとき、以下の数式で表される行列Mを求める。
【0048】
【数6】

【0049】
ここで、I、Iは、それぞれ水平方向、垂直方向の微分、Gσは標準偏差σのガウス分布による平滑化を表す。
【0050】
そして、行列Mの固有値をλ、λとしたとき、コーナー強度を、以下の式で計算する。
λ・λ−k・(λ+λ
ただし、kは定数であり、0.04〜0.06の値が一般に用いられる。
【0051】
次のステップ108では、第1の位置及び第1の姿勢と異なる第2の位置及び第2の姿勢で画像撮像装置12によって撮像された第2の画像を取得し、ステップ110において、ステップ200で選択された第1の画像上の複数の投影点を、ステップ108で得られた第2の画像上で検索して追跡し、各投影点に対応する第2の画像の画像座標を検出する。
【0052】
そして、ステップ112では、選択された複数の投影点の第1の画像の画像座標と、ステップ110で検出された第2の画像上の複数の画像座標と、ステップ100で得られた投影点の3次元座標であって、選択された複数の投影点の3次元座標とに基づいて、第1の画像を撮像したときの画像撮像装置12の第1の位置から第2の画像を撮像したときの画像撮像装置12の第2の位置へのXYZ軸方向の移動量、及び第1の姿勢を基準とした第2の姿勢のXYZ軸を基準とする回転量を算出し、ステップ114で、運動推定結果として、ステップ112で算出された移動量及び回転量をコンピュータ16のディスプレイ(図示省略)に表示して、移動量及び回転量を計測するための処理を終了する。
【0053】
以上説明したように、第2の実施の形態に係る計測装置によれば、運動開始時の第1の画像と運動終了時の第2の画像とで対応する点を検索しやすい点として、コーナー強度が周囲の点より高い投影点を選択し、選択された第1の画像上の投影点の画像座標、第2の画像上で対応する点として検索された点の画像座標、及び選択された投影点の各々に対応する3次元座標に基づいて、画像撮像装置のXYZ軸方向の移動量及びXYZ軸を基準とする回転量を算出するため、全ての回転量及び移動量を高精度に計測することができる。
【0054】
なお、上記の実施の形態では、異なる2つの画像で対応する点を検索しやすい点として、コーナー強度が高い投影点を選択する場合を例に説明したが、第1の実施の形態で説明した撮像対象物の境界上の投影点とコーナー強度が高い投影点との両方を選択するようにしてもよい。
【図面の簡単な説明】
【0055】
【図1】本発明の第1の実施の形態に係る計測装置を示すブロック図である。
【図2】本発明の第1の実施の形態に係る計測装置における画像撮像装置の移動量及び回転量を計測するための処理の内容を示す流れ図である。
【図3】移動量としての並進ベクトル及び回転量として回転行列を説明するための図である。
【図4】本発明の第2の実施の形態に係る計測装置における画像撮像装置の移動量及び回転量を計測するための処理の内容を示す流れ図である。
【符号の説明】
【0056】
10 計測装置
12 画像撮像装置
14 レーザレーダ
16 コンピュータ
28 3次元座標演算部
30 3次元点投影部
32 投影点選択部
34 投影点追跡部
36 運動推定部

【特許請求の範囲】
【請求項1】
移動体に搭載され、前記移動体から撮像対象物を撮像する撮像手段と、
前記移動体に搭載され、レーザを走査することにより、前記撮像対象物上の複数の点の3次元座標を計測する3次元座標計測手段と、
前記撮像手段が第1の位置及び第1の姿勢となっているときに前記3次元座標計測手段によって3次元座標が計測された複数の点の各々を、前記第1の位置及び前記第1の姿勢で前記撮像手段によって撮像された第1の画像上に投影する投影手段と、
前記投影された複数の点から少なくとも3個の特徴点を選択する選択手段と、
前記選択手段によって選択された前記特徴点の各々に対応する点を、前記第1の位置及び第1の姿勢と異なる第2の位置及び第2の姿勢で前記撮像手段によって撮像された第2の画像から検索する検索手段と、
前記選択手段によって選択された前記特徴点、前記検索手段によって検索された点、及び前記3次元座標計測手段によって計測された該特徴点の各々に対応する3次元座標に基づいて、前記第1の位置から前記第2の位置への3軸方向の移動量及び前記第1の姿勢を基準とした前記第2の姿勢の3軸を基準とする回転量を算出する算出手段と、
を含む計測装置。
【請求項2】
前記選択手段は、前記3次元座標計測手段によって計測された3次元座標に基づいて、前記投影された複数の点から、前記第1の画像に撮像された前記撮像対象物の境界上の点を少なくとも3個選択する請求項1記載の計測装置。
【請求項3】
前記選択手段は、前記第1の画像の各画素の輝度値に基づいて、前記投影された複数の点から、コーナー強度が周囲の点より高い点を少なくとも3個選択する請求項1記載の計測装置。
【請求項4】
移動体に搭載され、前記移動体から撮像対象物を撮像する撮像手段と、前記移動体に搭載され、レーザを走査することにより、前記撮像対象物上の複数の点の3次元座標を計測する3次元座標計測手段とを備えた計測装置の計測方法であって、
前記撮像手段が第1の位置及び第1の姿勢となっているときに前記3次元座標計測手段によって3次元座標が計測された複数の点の各々を、前記第1の位置及び前記第1の姿勢で前記撮像手段によって撮像された第1の画像上に投影し、
前記投影された複数の点から少なくとも3個の特徴点を選択し、
前記選択された前記特徴点の各々に対応する点を、前記第1の位置及び第1の姿勢と異なる第2の位置及び第2の姿勢で前記撮像手段によって撮像された第2の画像から検索し、
前記選択された前記特徴点、前記検索された点、及び前記3次元座標計測手段によって計測された該特徴点の各々に対応する3次元座標に基づいて、前記第1の位置から前記第2の位置への3軸方向の移動量及び前記第1の姿勢を基準とした前記第2の姿勢の3軸を基準とする回転量を算出することを特徴とする計測方法。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate


【公開番号】特開2008−9916(P2008−9916A)
【公開日】平成20年1月17日(2008.1.17)
【国際特許分類】
【出願番号】特願2006−182208(P2006−182208)
【出願日】平成18年6月30日(2006.6.30)
【出願人】(000003609)株式会社豊田中央研究所 (4,200)
【Fターム(参考)】