説明

モーショントラッカシステム及びその座標系設定方法

【課題】カメラ装置の撮影領域にカメラ座標系を再設定する際に、カメラ装置の撮影領域にカメラ座標系を短時間で簡単に正確に設定することができるモーショントラッカシステムの提供。
【解決手段】モーショントラッカシステムであって、基準対象物30に取り付けられた少なくとも3個の光学マーカー4を備え、カメラ装置2の撮影領域にカメラ座標系を設定する座標系設定部27と、カメラ座標系における少なくとも3個の光学マーカー4の位置であるキャリブレーション情報を作成してキャリブレーション情報記憶部47に記憶させるキャリブレーション情報記憶制御部31と、基準対象物30に取り付けられた光学マーカー4を撮影することで得られた光学マーカー位置情報と、キャリブレーション情報記憶部47に記憶されたキャリブレーション情報とに基づいて、カメラ装置2の撮影領域にカメラ座標系を再設定する座標系再設定部32とを備える。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、カメラ装置の撮影領域にカメラ座標系を設定することにより、カメラ座標系に対する測定対象物の現在位置や現在角度を測定するためのモーショントラッカシステム(以下、MTシステムともいう)及びその座標系設定方法に関する。本発明は、特にゲーム機や乗物等の移動体に配置されたカメラ装置の撮影領域にカメラ座標系を設定することにより、カメラ座標系に対する搭乗者に装着される頭部装着型表示装置付ヘルメットの現在位置や現在角度(すなわち、頭部の現在位置や現在角度)を常に測定するために、角速度センサや加速度センサを組み合わせたヘッドモーショントラッカシステム(以下、HMTシステムともいう)及びその座標系設定方法等に利用される。
【背景技術】
【0002】
時々刻々と変動する物体(測定対象物)の現在位置や現在角度を正確に測定する技術は、様々な分野で利用されている。例えば、ゲーム機ではバーチャルリアリティ(VR)を実現するために、頭部装着型表示装置付ヘルメットを用いることにより、映像を表示することがなされている。このとき、頭部装着型表示装置付ヘルメットの現在位置や現在角度に合わせて、映像を変化させる必要がある。よって、頭部装着型表示装置付ヘルメットの現在位置や現在角度を測定するために、ヘッドモーショントラッカ装置(以下、HMT装置ともいう)が利用されている。
【0003】
また、救難飛行艇による救難活動において、発見した救難目標を見失うことがないようにするため、頭部装着型表示装置付ヘルメットにより表示される照準画像と救難目標とが対応した時にロックすることにより、ロックされた救難目標の位置を演算することが行われている。このとき、その救難目標の位置を演算するために、飛行体(救難飛行艇)の緯度、経度、高度、姿勢に加えて、飛行体に対するパイロットの頭部の現在角度及び現在位置を測定している。このため、HMT装置が利用されている。
【0004】
頭部装着型表示装置付ヘルメットに利用されるHMT装置としては、光学的に頭部装着型表示装置付ヘルメットの現在位置や現在角度を測定するものが開示されている(例えば、特許文献1参照)。具体的には、複数の反射板を頭部装着型表示装置付ヘルメットの外周面上に取り付けるとともに、光源とカメラ装置(第一カメラ及び第二カメラ)とを飛行体に固定することにより、光源から光を照射したときの反射板からの反射光をカメラ装置でモニタする。また、発光体を互いに離隔するようにして複数箇所に取り付けた光学方式のHMT装置もある(例えば、特許文献2参照)。具体的には、頭部装着型表示装置付ヘルメットの外周面上に、発光体であるLED(発光ダイオード)を互いに離隔するようにして3箇所に取り付け、これら3個のLEDの位置関係をHMT装置に予め記憶させておく。そして、これら3個のLEDを、立体視が可能でかつ飛行体に固定された第一カメラ及び第二カメラで同時に撮影することで、所謂、三角測量の原理により、現在の3個のLEDの位置関係を測定している。これにより、カメラ装置に対する頭部装着型表示装置付ヘルメットの現在位置や現在角度を特定している。
【特許文献1】特表平9−506194号公報
【特許文献2】特願2006−284442号公報
【発明の開示】
【発明が解決しようとする課題】
【0005】
さらに、本出願人は、ジャイロセンサ(角速度センサ)や加速度センサを組み合わせたHMT装置を開発した。これにより、第一カメラ及び第二カメラによる撮影と撮影との間隔時間にも、ジャイロセンサや加速度センサの測定結果を用いて、飛行体に対する頭部装着型表示装置付ヘルメットの現在位置や現在角度を算出することができるようにした。
ところで、上述したようなHMT装置では、カメラ装置で測定された現在の3個のLEDの位置関係を空間座標で表現するために、予めカメラ装置の撮影領域にカメラ座標系が設定されて用いられている。ここで、カメラ装置2(第一カメラ2a及び第二カメラ2b)の撮影領域にカメラ座標系を設定する従来の設定方法について図9及び図10を用いて説明する。
カメラ座標系は、原点及び各XYZ座標軸の方向を、飛行体に予め設定された基準座標系と一致するように設定される。これにより、頭部装着型表示装置付ヘルメットの外周面上に取り付けられた反射板やLEDの位置をカメラ座標系で表現するとともに、そのままの値を用いて基準座標系で表現することができるようになっている。また、ジャイロセンサや加速度センサを組み合わせたHMT装置においても、ジャイロセンサや加速度センサも基準座標系と位置合わせされて固定されているので、ジャイロセンサや加速度センサの測定結果と、カメラ装置での測定結果とを容易に組み合わせることが可能になっている。
【0006】
そこで、カメラ装置2の撮影領域に、基準座標系と一致したカメラ座標系を設定するために、図9に示すような各頂点にLED61a〜61hが配置されかつ各辺62a〜62lが設定距離となる立方格子60を作製して用いている。このような立方格子60を飛行体に予め定められた設定位置に取り付けることにより、LED61aの位置からLED61bの位置への方向をX軸方向とし、LED61aの位置からLED61dの位置への方向をY軸方向とし、LED61aの位置からLED61hの位置への方向をZ軸方向とするように設定している。また、LED61aの位置からLED61bの位置までの距離と、LED61aの位置からLED61dの位置までの距離と、LED61aの位置からLED61hの位置までの距離とが各座標軸における基準距離となるように設定している。
【0007】
しかしながら、立方格子60を作製する際に使用した設計情報(設定距離等の立方格子の大きさ情報)を用いて各LED61a〜61hの位置関係を記憶させることになるが、カメラ座標系と基準座標系とが完全に一致しないという問題があった。
ここで、図11は、一般的なLEDの概略構成を示す断面図である。LED61は、半導体部71と、反射板72と、レンズ73とを有する。図11に示すように、LED61の外形形状から求めた中心と、実際にLED61が発光している中心とに、LED61の製造の際に生じた差異が存在する。そして、LED61の位置を記憶させるときには、カメラ装置2でLED61から出射された光線を検出するため、LED61が発光している中心がLED61の位置として記憶されることになる。一方、立方格子60は、LED61の製造の際に生じた差異を容易に確認することができず、LED61の外形形状の中心を容易に確認することができるため、LED61の外形形状の中心が立方格子60の頂点となるように作製されている。よって、設計情報を用いてLED61の位置関係を記憶させても、カメラ座標系と基準座標系との位置がずれることになっていた。
【0008】
そこで、本出願人は、カメラ装置の撮影領域にカメラ座標系を正確に設定することができるキャリブレーション装置を開発した。図3は、キャリブレーション装置の概略構成を示す図であり、図4は、飛行体の設定位置にキャリブレーション装置を取り付けた図である。キャリブレーション装置50は、LED51と、LED51をXYZ方向に移動させるステージ機構52とを備える。これにより、キャリブレーション装置50のLED51をX方向に設定距離で移動させた後と、Y方向に設定距離で移動させた後と、Z方向に設定距離で移動させた後と、LED51を移動させる前とに、それぞれカメラ装置2で撮影することにより、カメラ装置2の撮影領域にカメラ座標系を設定する。その結果、LED51の外形形状から求めた中心と、実際にLED51が発光している中心とに、LED51の製造の際に生じた差異が存在することがあっても、移動方向や移動量には差異は生じないので、カメラ装置2の撮影領域にカメラ座標系を正確に設定することができる。
【0009】
ところで、カメラ装置2の撮影領域にカメラ座標系を設定するためには、立方格子60やキャリブレーション装置50を飛行体の予め定められた設定位置に正確に取り付ける(アライメントを取る)必要がある。そのため、飛行体を長時間拘束してしまうということがある。
そして、飛行体に取り付けられた第一カメラ2a若しくは第二カメラ2bのいずれかを交換したときには、カメラ装置2の撮影領域にカメラ座標系を再設定することになるが、再度、立方格子60やキャリブレーション装置50を飛行体の予め定められた設定位置に正確に取り付ける必要があり、飛行体を長時間拘束してしまうという問題点があった。
そこで、本発明は、カメラ装置の撮影領域にカメラ座標系を再設定する際に、カメラ装置の撮影領域にカメラ座標系を短時間で簡単に正確に設定することができるモーショントラッカシステムを提供することを目的とする。
【課題を解決するための手段】
【0010】
上記課題を解決するためになされた本発明のモーショントラッカシステムは、少なくとも3個の光学マーカーが取り付けられた測定対象物と、前記光学マーカーを撮影する第一カメラと、前記第一カメラと異なる方向から光学マーカーを撮影する第二カメラとを有するカメラ装置が取り付けられた基準対象物と、前記第一カメラにより撮影された第一画像と、前記第一カメラが撮影すると同時に第二カメラにより撮影された第二画像とを取得するカメラ装置制御部と、前記第一画像及び第二画像に基づいて、前記カメラ装置に対する光学マーカーの現在位置である光学マーカー位置情報を算出する光学マーカー位置情報算出部と、前記光学マーカー位置情報に基づいて、前記基準対象物に対する測定対象物の現在位置及び現在角度を含む相対情報を算出する相対情報算出部とを備えるモーショントラッカシステムであって、前記基準対象物中の設定位置に取り付け取り外し可能とされるとともに、光学マーカーと、当該光学マーカーをXYZ方向に移動させるステージ機構とを備えるキャリブレーション装置と、前記基準対象物中に取り付けられた少なくとも3個の光学マーカーとを備え、前記キャリブレーション装置の光学マーカーを撮影することで得られた光学マーカー位置情報に基づいて、前記カメラ装置の撮影領域にカメラ座標系を設定する座標系設定部と、前記カメラ装置の撮影領域にカメラ座標系を設定した後に、前記基準対象物に取り付けられた光学マーカーを撮影することで得られた光学マーカー位置情報に基づいて、前記カメラ座標系における少なくとも3個の光学マーカーの座標位置であるキャリブレーション情報を作成してキャリブレーション情報記憶部に記憶させるキャリブレーション情報記憶制御部と、前記カメラ装置の撮影領域にカメラ座標系を再設定する際に、前記基準対象物に取り付けられた光学マーカーを撮影することで得られた光学マーカー位置情報と、前記キャリブレーション情報記憶部に記憶されたキャリブレーション情報とに基づいて、前記カメラ装置の撮影領域にカメラ座標系を設定する座標系再設定部とを備えるようにしている。
【0011】
ここで、「光学マーカー」としては、例えば、発光体(ランプ、LED等)、反射体、蛍光体等が挙げられる。
本発明のMTシステムによれば、少なくとも3個の光学マーカーが、基準対象物におけるカメラ装置の撮影領域中に取り付けられている。
そして、カメラ装置の撮影領域にカメラ座標系を1回目に設定する際に、まず、光学マーカーをXYZ方向に移動させることが可能なキャリブレーション装置を、カメラ装置の撮影領域中の設定位置に取り付ける。次に、カメラ装置制御部はキャリブレーション装置の光学マーカーを撮影することで、第一画像と第二画像とを取得する。これにより、光学マーカー位置情報算出部はカメラ装置に対する光学マーカーの現在位置である光学マーカー位置情報を算出して記憶させる。次に、光学マーカーをX方向に設定距離で移動させた後、カメラ装置制御部はキャリブレーション装置の光学マーカーを撮影することで、第一画像と第二画像とを取得する。これにより、光学マーカー位置情報算出部はカメラ装置に対する光学マーカーの現在位置である光学マーカー位置情報を算出して記憶させる。次に、光学マーカーをY方向に設定距離で移動させた後、カメラ装置制御部はキャリブレーション装置の光学マーカーを撮影することで、第一画像と第二画像とを取得する。これにより、光学マーカー位置情報算出部はカメラ装置に対する光学マーカーの現在位置である光学マーカー位置情報を算出して記憶させる。次に、光学マーカーをZ方向に設定距離で移動させた後、カメラ装置制御部はキャリブレーション装置の光学マーカーを撮影することで、第一画像と第二画像とを取得する。これにより、光学マーカー位置情報算出部はカメラ装置に対する光学マーカーの現在位置である光学マーカー位置情報を算出して記憶させる。その結果、座標系設定部は、記憶された光学マーカー位置情報に基づいて、カメラ装置の撮影領域にカメラ座標系を設定する。次に、カメラ装置の撮影領域にカメラ座標系を設定した後、キャリブレーション装置を設定位置から取り外す。
【0012】
ところで、本発明のMTシステムでは、カメラ装置の撮影領域にカメラ座標系を再設定する際に、立方格子やキャリブレーション装置等を基準対象物の予め定められた設定位置に取り付ける必要がないようにしている。そこで、本発明のMTシステムにおいて、キャリブレーション装置を設定位置から取り外した後に、カメラ装置制御部は、基準対象物中に取り付けられた少なくとも3個の光学マーカーを撮影することで、第一画像と第二画像とを取得する。これにより、光学マーカー位置情報算出部はカメラ装置に対する光学マーカーの現在位置である光学マーカー位置情報を算出し、さらにキャリブレーション情報記憶制御部は、光学マーカー位置情報に基づいて、カメラ座標系に対する光学マーカーの座標位置であるキャリブレーション情報を算出してキャリブレーション情報記憶部に記憶させる。
【0013】
その後、基準対象物に取り付けられた第一カメラ若しくは第二カメラの少なくともいずれかが交換されたとき等に、カメラ装置の撮影領域にカメラ座標系を再設定する必要ができた場合には、キャリブレーション情報記憶部に記憶されたキャリブレーション情報を用いる。
ここで、基準対象物中に取り付けられた少なくとも3個の光学マーカーの位置は、変動することがない。つまり、カメラ装置の撮影領域にカメラ座標系を再設定するときにも、カメラ座標系を1回目に設定したときと同様に設定するので、再設定されたカメラ座標系における光学マーカーの座標位置は、1回目に設定されたカメラ座標系における光学マーカーの座標位置と同一となることになる。逆に言えば、再設定されたカメラ座標系における光学マーカーの座標位置と、1回目に設定されたカメラ座標系における光学マーカーの座標位置とが同一になっていれば、再設定されたカメラ座標系と、1回目に設定されたカメラ座標系とも同一に設定されていることになる。
そこで、本発明のMTシステムにおいて、カメラ装置制御部は、基準対象物中に取り付けられた少なくとも3個の光学マーカーを撮影することで、第一画像及び第二画像を取得する。これにより、光学マーカー位置情報算出部はカメラ装置に対する光学マーカーの現在位置である光学マーカー位置情報を算出し、さらに座標系再設定部は、光学マーカー位置情報と、キャリブレーション情報記憶部に記憶されたキャリブレーション情報とに基づいて、カメラ装置の撮影領域にカメラ座標系を設定する。このとき、1回目に設定されたカメラ座標系における各光学マーカーの座標位置と、得られた各光学マーカーの座標位置とがそれぞれ同一になるように、カメラ座標系を設定する。
【発明の効果】
【0014】
以上のように、本発明のMTシステムによれば、カメラ装置の撮影領域にカメラ座標系を再設定する際に、立方格子やキャリブレーション装置を基準対象物の予め定められた設定位置に正確に取り付ける必要もなく、カメラ装置の撮影領域にカメラ座標系を短時間で簡単に正確に設定することができる。その結果、基準対象物を長時間拘束してしまうことがなくなる。
【0015】
(他の課題を解決するための手段および効果)
また、本発明のMTシステムは、前記座標系設定部は、前記キャリブレーション装置の光学マーカーをX方向に設定距離で移動させた後と、Y方向に設定距離で移動させた後と、Z方向に設定距離で移動させた後と、前記光学マーカーを移動させる前とに、それぞれ第一画像及び第二画像を取得することにより得られた光学マーカー位置情報に基づいて、前記カメラ装置の撮影領域にカメラ座標系を設定するようにしてもよい。
また、本発明のMTシステムは、前記座標系再設定部は、前記基準対象物に取り付けられた第一カメラ若しくは第二カメラの少なくともいずれかが交換されたときに、前記カメラ装置の撮影領域にカメラ座標系を再設定するようにしてもよい。
【0016】
また、本発明のMTシステムは、前記測定対象物に取り付けられた少なくとも3個の光学マーカーと、前記キャリブレーション装置に取り付けられた光学マーカーと、前記基準対象物中に取り付けられた少なくとも3個の光学マーカーとは、同一の波長の赤外光を発光するようにしてもよい。
そして、本発明のMTシステムは、前記基準対象物中には、少なくとも4個の光学マーカーが取り付けられ、少なくとも4個の光学マーカーは、同一の平面上には存在しないようにしてもよい。
【0017】
さらに、本発明の座標系設定方法は、少なくとも3個の光学マーカーが取り付けられた測定対象物と、前記光学マーカーを撮影する第一カメラと、前記第一カメラと異なる方向から光学マーカーを撮影する第二カメラとを有するカメラ装置が取り付けられた基準対象物と、前記第一カメラにより撮影された第一画像と、前記第一カメラが撮影すると同時に第二カメラにより撮影された第二画像とを取得するカメラ装置制御部と、前記第一画像及び第二画像に基づいて、前記カメラ装置に対する光学マーカーの現在位置である光学マーカー位置情報を算出する光学マーカー位置情報算出部と、前記光学マーカー位置情報に基づいて、前記基準対象物に対する測定対象物の現在位置及び現在角度を含む相対情報を算出する相対情報算出部と、前記基準対象物中に取り付けられた少なくとも3個の光学マーカーと、前記基準対象物中の設定位置に取り付け取り外し可能とされるとともに、光学マーカーと、当該光学マーカーをXYZ方向に移動させるステージ機構とを備えるキャリブレーション装置とを備えるモーショントラッカシステムに用いられるカメラ装置の撮影領域にカメラ座標系を設定する座標系設定方法であって、前記キャリブレーション装置の光学マーカーを撮影することで得られた光学マーカー位置情報に基づいて、前記カメラ装置の撮影領域にカメラ座標系を設定する座標系設定工程と、前記カメラ装置の撮影領域にカメラ座標系を設定した後に、前記基準対象物に取り付けられた光学マーカーを撮影することで得られた光学マーカー位置情報に基づいて、前記カメラ座標系における少なくとも3個の光学マーカーの座標位置であるキャリブレーション情報を作成してキャリブレーション情報記憶部に記憶させるキャリブレーション情報記憶制御工程と、前記カメラ装置の撮影領域にカメラ座標系を再設定する際に、前記基準対象物に取り付けられた光学マーカーを撮影することで得られた光学マーカー位置情報と、前記キャリブレーション情報記憶部に記憶されたキャリブレーション情報とに基づいて、前記カメラ装置の撮影領域にカメラ座標系を設定する座標系再設定工程とを含むようにしている。
【発明を実施するための最良の形態】
【0018】
以下、本発明の実施形態について図面を用いて説明する。なお、本発明は、以下に説明するような実施形態に限定されるものではなく、本発明の趣旨を逸脱しない範囲で種々の態様が含まれることはいうまでもない。
【0019】
本発明の一実施形態であるHMTシステムは、HMT装置1とキャリブレーション装置50とからなる。図1は、本発明に係るHMT装置1の概略構成を示す図であり、図2は、図1に示す頭部装着型表示装置付ヘルメット(測定対象物)10の平面図である。また、図3は、本発明に係るキャリブレーション装置50の概略構成を示す図であり、図4は、HMT装置1の設定位置にキャリブレーション装置50を取り付けた図である。
なお、HMT装置1は、カメラ装置2に設定されるカメラ座標系(XYZ座標系)に対するパイロット(搭乗者)3の頭部位置(Xh、Yh、Zh)及び頭部角度(Θh、Φh、Ψh)を含む相対情報を算出するものである。つまり、搭乗体30(基準対象物)に設定されたカメラ座標系(XYZ座標系)に対する、パイロット3が着用する頭部装着型表示装置付ヘルメット10に設定されたヘルメット座標系(X’Y’Z’座標系)の位置及び角度を算出する。
また、キャリブレーション装置50は、パイロット3の頭部位置(Xh、Yh、Zh)及び頭部角度(Θh、Φh、Ψh)を含む相対情報を算出するために、搭乗体30に配置されるカメラ装置2の撮影領域にカメラ座標系(XYZ座標系)を設定するためのものである。本実施形態では、1回目のカメラ座標系(XYZ座標系)を設定する際には、キャリブレーション装置50を用い、カメラ座標系(XYZ座標系)を再設定する際には、キャリブレーション装置50を用いず、LED群4を用いることになる。
【0020】
HMT装置1は、パイロット3の頭部に装着される頭部装着型表示装置付ヘルメット10と、搭乗体30に固定されたカメラ装置2と、搭乗体30に取り付けられたLED群4と、コンピュータにより構成される制御部20とから構成される。
頭部装着型表示装置付ヘルメット10は、表示器(図示せず)と、表示器から出射される画像表示光を反射することにより、パイロット3の目に導くコンバイナ8と、外周面上に取り付けられたLED群7とを有する。なお、頭部装着型表示装置付ヘルメット10を装着したパイロット3は、表示器による表示画像とコンバイナ8の前方実在物とを視認することが可能となっている。
【0021】
LED群7は、図2に示すように、互いに異なる波長の赤外光を発光する3個のLED7a、7b、7cが互いに離隔するようにして、頭部装着型表示装置付ヘルメット10の外周面上に取り付けられたものである。
ここで、ヘルメット座標系(X’Y’Z’座標系)は、原点及び各座標軸の方向を任意に定めることができるが、本実施形態では図2に示すように、原点をLED7aの位置とし、前方方向をX’軸方向とし、前方方向に垂直方向をY’軸方向とし、X’軸方向及びY’軸方向に垂直方向をZ’軸方向とするように定義するように、後述するデータ記憶部45に設定されている。また、ヘルメット座標系(X’Y’Z’座標系)上での3個のLED7a、7b、7cの位置関係(初期データ)も、データ記憶部45に記憶されている。これにより、後述する三角測量の手法で、現時点における3個のLED7a、7b、7cの位置を算出し、初期データを参照することで、頭部装着型表示装置ヘルメット10の現在位置及び現在角度が、ヘルメット座標系(X’Y’Z’座標系)を用いて表現されるようになっている。
【0022】
搭乗体30は、パイロット3が搭乗する飛行体のコックピットであり、パイロット3が着席する座席30aを備え、キャリブレーション装置50を取り付けるための設定位置(後述する)が定められている。
カメラ装置2は、第一カメラ2aと第二カメラ2bとからなる。第一カメラ2aと第二カメラ2bとは、撮影方向が異なりかつ立体視が可能な一定の距離(d1)を隔てるように、座席30aに固定されている。
ここで、図5に示すように、カメラ装置2に対するLED7aの位置は、第一カメラ2aと第二カメラ2bとに撮影された第一画像と第二画像中に映し出されているLED7aの位置を抽出し、さらに第一カメラ2aからの方向角度(α)と第二カメラ2bからの方向角度(β)とを抽出し、第一カメラ2aと第二カメラ2bとの間の距離(d1)を用いることにより、三角測量の手法で算出することができる。他のLED7b、7cのカメラ装置2に対する位置についても、同様に算出される。
【0023】
このときの各LED7a、7b、7cの位置を、空間座標で表現することができるようにするために、キャリブレーション装置50やLED群4等を用いてカメラ装置2の撮影領域にカメラ座標系(XYZ座標系)を設定している。なお、キャリブレーション装置50を用いてカメラ座標系を設定する設定方法や、LED群4を用いてカメラ座標系を再設定する再設定方法や、カメラ座標系の具体的な原点位置やXYZ軸方向等の説明については後述する。
カメラ装置2の撮影領域にカメラ座標系が設定されていれば、上述したように三角測量の手法で算出することにより、LED7a、7b、7cの座標位置は、カメラ座標系を用いて表現できる。そして、3個のLED7a、7b、7cの座標位置が特定されれば、LED7a、7b、7cが位置決めされて取り付けられている頭部装着型表示装置付ヘルメット10の位置及び角度は、カメラ座標系(XYZ座標系)に対するヘルメット座標系(X’Y’Z’座標系)の位置(Xh、Yh、Zh)及び角度(Θh、Φh、Ψh)を用いて表現できるようになる。なお、角度(Θh)は、ロール方向(X軸に対する回転)の角度であり、角度(Φh)は、エレベーション方向(Y軸に対する回転)の角度であり、角度(Ψh)は、アジマス方向(Z軸に対する回転)の角度である。また、頭部装着型表示装置付ヘルメット10の位置(Xh、Yh、Zh)は、ヘルメット座標系(X’Y’Z’座標系)の原点であるLED7aの現在の座標位置で表現することとする。
なお、本実施形態では、後述する設定方法でカメラ座標系を設定するため、搭乗体30に予め設定されている基準座標系とカメラ座標系とが完全に一致している。このため、カメラ座標系に対するヘルメット座標系の位置(Xh、Yh、Zh)及び角度(Θh、Φh、Ψh)は、そのままの値を用いて、基準座標系に対するヘルメット座標系の位置(Xh、Yh、Zh)及び角度(Θh、Φh、Ψh)として表現することができるようになる。
【0024】
LED群4は、図1、図4及び図7に示すように、互いに異なる波長の赤外光を発光する9個のLED4a〜4iが互いに離隔するようにして、搭乗体30に取り付けられたものである。なお、9個のLED4a〜4iは同一の平面に存在しないように搭乗体30に取り付けられている。
そして、カメラ座標系(XYZ座標系)上での9個のLED4a〜4iの位置関係であるキャリブレーション情報が、キャリブレーション情報記憶部47に記憶されることになり、これにより、LED群4を用いてカメラ座標系をカメラ装置2に再設定することができるようになっている。
【0025】
制御部20は、CPU21、メモリ41等からなるコンピュータにより構成され、各種の制御や演算処理を行う。制御部20のCPU21が実行する処理を、機能ブロックごとに分けて説明すると、カメラ装置制御部28と、光学マーカー位置情報算出部22と、相対情報算出部23と、座標系設定部27と、駆動信号発生部26と、映像表示部25と、キャリブレーション情報記憶制御部31と、座標系再設定部32とからなる。
また、メモリ41は、制御部20が処理を実行するために必要な種々のデータを蓄積する領域が形成してあり、基準座標系を記憶する基準座標系記憶部43と、カメラ座標系(XYZ座標系)を記憶するカメラ座標系記憶部44と、ヘルメット座標系(X’Y’Z’座標系)を記憶するデータ記憶部45と、光学マーカー位置情報を順次記憶する光学マーカー位置情報記憶部46と、キャリブレーション情報を記憶するキャリブレーション情報記憶部47とを有する。
なお、データ記憶部45は、ヘルメット座標系(X’Y’Z’座標系)を記憶し、さらに、X’Y’Z’座標系上での3個のLED7a、7b、7cの位置関係(初期データ)も記憶している。
【0026】
ここで、基準座標系は、搭乗体30とともに移動する座標系であり、原点及び各座標軸の方向を任意に予め定められているが、本実施形態では、キャリブレーション装置50を取り付けるための設定位置のある点を原点とし、前方方向をX軸方向とし、前方方向に垂直方向をY軸方向とし、X軸方向及びY軸方向に垂直方向をZ軸方向とするように、基準座標系記憶部43に予め設定されているものとする。
そして、カメラ座標系(XYZ座標系)は、原点及び各XYZ座標軸の方向を、搭乗体30に設定された基準座標系と一致するように設定される。これにより、搭乗体30に設定された基準座標系と位置合わせされたジャイロセンサや加速度センサ(図示せず)の測定結果と組み合わせることが可能となる。
【0027】
カメラ装置制御部28は、第一カメラ2aにより撮影された第一画像と、第一カメラ2aが撮影すると同時に第二カメラ2bにより撮影された第二画像とを取得する制御を行う。
光学マーカー位置情報算出部22は、第一画像と第二画像とに基づいて、カメラ装置2に対するLED群7やLED群4やLED51(後述する)の現在位置である光学マーカー位置情報を算出して、光学マーカー位置情報を光学マーカー位置情報記憶部46に順次記憶させる制御を行う。
例えば、LED7aのカメラ装置2に対する位置は、第一カメラ2aと第二カメラ2bとに撮影された第一画像と第二画像中に映し出されているLED7aの位置を抽出し、さらに第一カメラ2aからの方向角度(α)と第二カメラ2bからの方向角度(β)とを抽出し、第一カメラ2aと第二カメラ2bとの間の距離(d1)を用いることにより、三角測量の手法で算出する。
【0028】
相対情報算出部23は、カメラ装置2に対するLED7a、7b、7cの現在位置である光学マーカー位置情報を用いて、カメラ座標系に対する頭部装着型表示装置付ヘルメット10の現在位置(Xh、Yh、Zh)及び現在角度(Θh、Φh、Ψh)を含む相対情報を算出する制御を行う。
具体的には、座標系設定部27や座標系再設定部32でカメラ装置2の撮影領域にカメラ座標系(XYZ座標系)を設定した後に、カメラ装置制御部28に第一画像と第二画像とを取得させる。カメラ装置2の撮影領域にカメラ座標系が設定されているので、カメラ装置2に対するLED7a、7b、7cの現在位置である光学マーカー位置情報を用いて、カメラ座標系に対するLED7a、7b、7cの現在の座標位置を作成する。そして、カメラ座標系に対するLED7a、7b、7cの現在の座標位置と、データ記憶部45に記憶されている初期データとを比較することにより、LED群7が固定された頭部装着型表示装置付ヘルメット10のカメラ座標系に対する位置(Xh、Yh、Zh)及び角度(Θh、Φh、Ψh)を算出する。
映像表示部25は、頭部装着型表示装置付ヘルメット10の位置(Xh、Yh、Zh)及び角度(Θh、Φh、Ψh)を含む相対情報に基づいて、表示器から画像表示光を出射する制御を行う。これにより、パイロット3は、表示器による表示画像を視認することになる。
【0029】
次に、キャリブレーション装置50を用いてカメラ装置2の撮影領域にカメラ座標系(XYZ座標系)を設定する設定方法や、LED群4を用いてカメラ装置2の撮影領域にカメラ座標系(XYZ座標系)を再設定する再設定方法について図3、図4、図6及び図7を用いて説明する。
本実施形態では、1回目のカメラ座標系(XYZ座標系)を設定する際には、キャリブレーション装置50を用い、カメラ座標系(XYZ座標系)を再設定する際には、キャリブレーション装置50を用いず、LED群4を用いることになる。
【0030】
まず、カメラ装置2の撮影領域にカメラ座標系(XYZ座標系)を設定するためのキャリブレーション装置50について説明する。
キャリブレーション装置50は、赤外光を発光する1個のLED51と、1個のLED51をXYZ方向に移動させることが可能なステージ機構52とを備える。
ステージ機構52は、上部板状体52aと中軸体52bと下部板状体52cと設置部材52dとからなる。LED51は、上部板状体52a上に固定されている。上部板状体52aは、中軸体52bに対してZ方向に並進移動が可能となるようにしてあり、上部板状体52aに固定されたLED51をZ方向に移動させることができる。また、中軸体62bは、上部板状体52aとともに下部板状体52cに対してX方向への並進移動が可能となるようにしてあり、上部板状体52aに固定されたLED51をX方向に移動させることができる。さらに、下部板状体52cは、上部板状体52aと中軸体62bとともに設置部材52dに対してY方向への並進移動が可能となるようにしてあり、上部板状体52aに固定されたLED51をY方向に移動させることができる。そして、設置部材52dは、設定位置に位置決めされて取り付け取り外し可能に形成されている。
なお、ステージ機構52の制御は、キャリブレーション装置50とコンピュータ20とを配線コード53で連結することで、コンピュータ20の駆動信号発生部26から出力された駆動信号が与えられることによって実行される。
【0031】
そして、キャリブレーション装置50により、カメラ装置2の撮影領域にカメラ座標系(XYZ座標系)を設定する際には、図4に示すように、カメラ装置2の撮影領域中にキャリブレーション装置50を取り付けることになる。このとき、基準座標系の原点にLED51が配置され、基準座標系のX軸方向とステージ機構52のX方向とが位置合わせされ、基準座標系のY軸方向とステージ機構52のY方向とが位置合わせされ、基準座標系のZ軸方向とステージ機構52のZ方向とが位置合わせされて取り付けられる。そして、キャリブレーション装置50により、カメラ装置2の撮影領域にカメラ座標系(XYZ座標系)を設定した後には、カメラ装置2の撮影領域中からキャリブレーション装置50を取り外すことになる。
【0032】
駆動信号発生部26は、入力装置(図示せず)等によるキャリブレーション信号を受信することによって、キャリブレーション装置50のステージ機構52に駆動信号を出力する制御を行う。
例えば、図6に示すように、キャリブレーション信号を受信することによって、まず、LED51の初期位置51aとして、カメラ装置制御部28に第一画像と第二画像とを取得させる。次に、ステージ機構62にLED51をX方向に設定距離で移動させる駆動信号を出力した後、LED51の第二位置51bとして、カメラ装置制御部28に第一画像と第二画像とを取得させる。このように、LED51を予め定められた位置に移動させる駆動信号を出力した後、LED51の各位置として、カメラ装置制御部28に第一画像と第二画像とを順に取得させていき、立方格子の各頂点に対応する合計8箇所の位置51a〜51hのLED51を撮影することにより、第一画像と第二画像とを取得していく。
【0033】
座標系設定部27は、カメラ装置2に対するLED51の各位置である光学マーカー位置情報に基づいて、カメラ装置2の撮影領域にカメラ座標系(XYZ座標系)を設定する制御を行う。
具体的には、LED51の初期位置51aからLED51の第二位置51bへの方向をX軸方向とし、LED51の初期位置51aからLED51の第四位置51dへの方向をY軸方向とし、LED51の初期位置51aからLED51の第八位置51hへの方向をZ軸方向とするように設定する。また、LED51の初期位置51aからLED51の第二位置51bまでの距離と、LED51の初期位置51aからLED51の第四位置51dまでの距離と、LED51の初期位置からLED51の第八位置51hまでの距離とが各座標軸における基準距離となるように設定する。
【0034】
キャリブレーション情報記憶制御部31は、座標系設定部27でカメラ装置2の撮影領域にカメラ座標系(XYZ座標系)を設定した後に、LED群4を撮影することで得られた光学マーカー位置情報に基づいて、カメラ座標系における9個のLED4a〜4iの座標位置であるキャリブレーション情報を作成してキャリブレーション情報記憶部47に記憶させる制御を行う。
具体的には、図7に示すように、座標系設定部27でカメラ装置2の撮影領域にカメラ座標系(XYZ座標系)を設定した後に、カメラ装置制御部28に第一画像と第二画像とを取得させる。カメラ装置2の撮影領域にカメラ座標系が設定されているので、カメラ装置2に対する9個のLED4a〜4iの位置である光学マーカー位置情報を用いて、カメラ座標系に対する9個のLED4a〜4iの座標位置であるキャリブレーション情報を作成する。そして、キャリブレーション情報をキャリブレーション情報記憶部47に記憶させる。
これにより、カメラ装置2の撮影領域にカメラ座標系を再設定する際に、立方格子60やキャリブレーション装置50等を搭乗体30の予め定められた設定位置に取り付ける必要がないようにしている。
【0035】
座標系再設定部31は、カメラ装置2の撮影領域にカメラ座標系(XYZ座標系)を再設定する際に、LED群4を撮影することで得られた光学マーカー位置情報と、キャリブレーション情報記憶部47に記憶されたキャリブレーション情報とに基づいて、カメラ装置2の撮影領域にカメラ座標系を設定する制御を行う。
例えば、搭乗体30に取り付けられた第一カメラ2a若しくは第二カメラ2bのいずれかを交換したときに、カメラ装置2の撮影領域にカメラ座標系を再設定する必要ができた場合に、まず、9個のLED4a〜4iを撮影することで、カメラ装置制御部28に第一画像と第二画像とを取得させる。これにより、カメラ装置2に対する9個のLED4a〜4iの位置である光学マーカー位置情報を得る。一方、キャリブレーション情報記憶部47に記憶されたキャリブレーション情報に基づいて、1回目に設定したカメラ座標系に対する9個のLED4a〜4iの座標位置であるキャリブレーション情報を得る。そして、1回目に設定されたカメラ座標系における各LEDの座標位置と、得られた各LEDの座標位置とがそれぞれ同一になるように、カメラ座標系を設定する。
これにより、立方格子60やキャリブレーション装置50を搭乗体30の予め定められた設定位置に正確に取り付ける必要もなく、再設定されたカメラ座標系と、1回目に設定されたカメラ座標系とが同一となるように設定されるようになっている。
【0036】
ここで、HMTシステムにより、キャリブレーション装置50を用いてカメラ装置2の撮影領域にカメラ座標系(XYZ座標系)を設定する設定方法と、LED群4を用いてカメラ装置2の撮影領域にカメラ座標系(XYZ座標系)を再設定する再設定方法とについて説明する。図8は、設定方法と再設定方法とについて説明するためのフローチャートである。
まず、ステップS101の処理において、搭乗体30にカメラ装置2を取り付ける。
次に、ステップS102の処理において、搭乗体30レベリング(飛行体レベリング)を実行する。
【0037】
次に、ステップS103の処理において、設定位置にキャリブレーション装置50を取り付ける。
次に、ステップS104の処理において、キャリブレーション装置50取付アライメントを実行する。
次に、ステップS105の処理において、駆動信号発生部26は、入力装置等によるキャリブレーション信号を受信することによって、キャリブレーション装置50のステージ機構52に駆動信号を出力するとともに、カメラ装置制御部28は、LED51を撮影する。
【0038】
次に、ステップS106の処理において、座標系設定部27は、カメラ装置2に対するLED51の各位置である光学マーカー位置情報に基づいて、カメラ装置2の撮影領域にカメラ座標系(XYZ座標系)を設定する(座標系設定工程)。
次に、ステップS107の処理において、設定位置からキャリブレーション装置50を取り外す。
次に、ステップS108の処理において、キャリブレーション情報記憶制御部31は、LED群4を撮影することで得られた光学マーカー位置情報に基づいて、カメラ座標系における9個のLED4a〜4iの座標位置であるキャリブレーション情報を作成してキャリブレーション情報記憶部47に記憶させる(キャリブレーション情報記憶制御工程)。
【0039】
次に、ステップS109の処理において、相対情報算出部23は、LED群7を撮影することで得られたカメラ装置2に対するLED7a、7b、7cの現在位置である光学マーカー位置情報を用いて、カメラ座標系に対する頭部装着型表示装置付ヘルメット10の現在位置(Xh、Yh、Zh)及び現在角度(Θh、Φh、Ψh)を含む相対情報を算出する。
次に、ステップS110の処理において、映像表示部25は、頭部装着型表示装置付ヘルメット10の位置(Xh、Yh、Zh)及び角度(Θh、Φh、Ψh)を含む相対情報に基づいて、表示器から画像表示光を出射する。
次に、ステップS111の処理において、カメラ装置2を交換するか否かを判断する。カメラ装置2を交換すると判断したときには、ステップS112の処理において、搭乗体30にカメラ装置2を取り付ける。つまり、カメラ装置2の撮影領域にカメラ座標系を再設定しなければならなくなる。
【0040】
次に、ステップS113の処理において、カメラ装置制御部28は、LED群4を撮影する。
次に、ステップS114の処理において、座標系再設定部31は、LED群4を撮影することで得られた光学マーカー位置情報と、キャリブレーション情報記憶部47に記憶されたキャリブレーション情報とに基づいて、カメラ装置2の撮影領域にカメラ座標系を設定して(座標系再設定工程)、ステップS109の処理に戻る。つまり、立方格子60やキャリブレーション装置50を搭乗体30の予め定められた設定位置に正確に取り付ける必要がなく、カメラ装置2の撮影領域にカメラ座標系を設定することができる。
一方、カメラ装置2を交換しないと判断したときには、ステップS109の処理に戻る。
【0041】
以上のように、本発明のHMTシステムによれば、カメラ装置2の撮影領域にカメラ座標系(XYZ座標系)を再設定する際に、立方格子60やキャリブレーション装置50を搭乗体30の予め定められた設定位置に正確に取り付ける必要もなく、カメラ装置2の撮影領域にカメラ座標系を短時間で簡単に正確に設定することができる。その結果、搭乗体30を長時間拘束してしまうことがなくなる。
【0042】
(他の実施形態)
(1)上述したHMTシステムにおいて、LED群7は互いに異なる波長の赤外光を発光する3個のLED7a〜7cや、LED群4は互いに異なる波長の赤外光を発光する9個のLED4a〜4iが取り付けられた構成としたが、全て同一の波長の赤外光を発光するような構成としてもよい。
(2)上述したHMTシステムにおいて、LED群4は、9個のLED4a〜4iが取り付けられた構成としたが、3個以上のLEDが取り付けられたような構成としてもよい。
【産業上の利用可能性】
【0043】
本発明は、飛行体等に設定された基準座標系に対する頭部角度や頭部位置を測定するためのヘッドモーショントラッカ装置等に利用することができる。
【図面の簡単な説明】
【0044】
【図1】本発明に係るHMT装置の概略構成を示す図である。
【図2】図1に示す頭部装着型表示装置付ヘルメットの平面図である。
【図3】本発明に係るキャリブレーション装置の概略構成を示す図である。
【図4】HMT装置の設定位置にキャリブレーション装置を取り付けた図である。
【図5】カメラ装置に対するLEDの位置を算出する算出方法を説明するための図である。
【図6】カメラ装置の撮影領域にカメラ座標系を設定する設定方法について説明するための図である。
【図7】カメラ装置の撮影領域にカメラ座標系を再設定する再設定方法について説明するための図である。
【図8】設定方法と再設定方法とについて説明するためのフローチャートである。
【図9】カメラ装置の撮影領域にカメラ座標系を設定する従来の設定方法について説明するための図である。
【図10】カメラ装置の撮影領域にカメラ座標系を設定する従来の設定方法について説明するための図である。
【図11】LEDの概略構成を示す断面図である。
【符号の説明】
【0045】
1 ヘッドモーショントラッカ装置(HMT装置)
2 カメラ装置
2a 第一カメラ
2b 第二カメラ
3 パイロット
4、7 LED群(光学マーカー群)
10 頭部装着型表示装置付ヘルメット(測定対象物)
22 光学マーカー位置情報算出部
23 相対情報算出部
27 座標系設定部
28 カメラ装置制御部
30 搭乗体(基準対象物)
31 キャリブレーション情報記憶制御部
32 座標系再設定部
46 光学マーカー位置情報記憶部
47 キャリブレーション情報記憶部
50 キャリブレーション装置
51 LED(光学マーカー)
52 ステージ機構

【特許請求の範囲】
【請求項1】
少なくとも3個の光学マーカーが取り付けられた測定対象物と、
前記光学マーカーを撮影する第一カメラと、前記第一カメラと異なる方向から光学マーカーを撮影する第二カメラとを有するカメラ装置が取り付けられた基準対象物と、
前記第一カメラにより撮影された第一画像と、前記第一カメラが撮影すると同時に第二カメラにより撮影された第二画像とを取得するカメラ装置制御部と、
前記第一画像及び第二画像に基づいて、前記カメラ装置に対する光学マーカーの現在位置である光学マーカー位置情報を算出する光学マーカー位置情報算出部と、
前記光学マーカー位置情報に基づいて、前記基準対象物に対する測定対象物の現在位置及び現在角度を含む相対情報を算出する相対情報算出部とを備えるモーショントラッカシステムであって、
前記基準対象物中の設定位置に取り付け取り外し可能とされるとともに、光学マーカーと、当該光学マーカーをXYZ方向に移動させるステージ機構とを備えるキャリブレーション装置と、
前記基準対象物中に取り付けられた少なくとも3個の光学マーカーとを備え、
前記キャリブレーション装置の光学マーカーを撮影することで得られた光学マーカー位置情報に基づいて、前記カメラ装置の撮影領域にカメラ座標系を設定する座標系設定部と、
前記カメラ装置の撮影領域にカメラ座標系を設定した後に、前記基準対象物に取り付けられた光学マーカーを撮影することで得られた光学マーカー位置情報に基づいて、前記カメラ座標系における少なくとも3個の光学マーカーの座標位置であるキャリブレーション情報を作成してキャリブレーション情報記憶部に記憶させるキャリブレーション情報記憶制御部と、
前記カメラ装置の撮影領域にカメラ座標系を再設定する際に、前記基準対象物に取り付けられた光学マーカーを撮影することで得られた光学マーカー位置情報と、前記キャリブレーション情報記憶部に記憶されたキャリブレーション情報とに基づいて、前記カメラ装置の撮影領域にカメラ座標系を設定する座標系再設定部とを備えることを特徴とするモーショントラッカシステム。
【請求項2】
前記座標系設定部は、前記キャリブレーション装置の光学マーカーをX方向に設定距離で移動させた後と、Y方向に設定距離で移動させた後と、Z方向に設定距離で移動させた後と、前記光学マーカーを移動させる前とに、それぞれ第一画像及び第二画像を取得することにより得られた光学マーカー位置情報に基づいて、前記カメラ装置の撮影領域にカメラ座標系を設定することを特徴とする請求項1に記載のモーショントラッカシステム。
【請求項3】
前記座標系再設定部は、前記基準対象物に取り付けられた第一カメラ若しくは第二カメラの少なくともいずれかが交換されたときに、前記カメラ装置の撮影領域にカメラ座標系を再設定することを特徴とする請求項1又は請求項2に記載のモーショントラッカシステム。
【請求項4】
前記測定対象物に取り付けられた少なくとも3個の光学マーカーと、前記キャリブレーション装置に取り付けられた光学マーカーと、前記基準対象物中に取り付けられた少なくとも3個の光学マーカーとは、同一の波長の赤外光を発光することを特徴とする請求項1〜請求項3のいずれかに記載のモーショントラッカシステム。
【請求項5】
前記基準対象物中には、少なくとも4個の光学マーカーが取り付けられ、
少なくとも4個の光学マーカーは、同一の平面上には存在しないことを特徴とする請求項1〜請求項4のいずれかに記載のモーショントラッカシステム。
【請求項6】
少なくとも3個の光学マーカーが取り付けられた測定対象物と、
前記光学マーカーを撮影する第一カメラと、前記第一カメラと異なる方向から光学マーカーを撮影する第二カメラとを有するカメラ装置が取り付けられた基準対象物と、
前記第一カメラにより撮影された第一画像と、前記第一カメラが撮影すると同時に第二カメラにより撮影された第二画像とを取得するカメラ装置制御部と、
前記第一画像及び第二画像に基づいて、前記カメラ装置に対する光学マーカーの現在位置である光学マーカー位置情報を算出する光学マーカー位置情報算出部と、
前記光学マーカー位置情報に基づいて、前記基準対象物に対する測定対象物の現在位置及び現在角度を含む相対情報を算出する相対情報算出部と、
前記基準対象物中に取り付けられた少なくとも3個の光学マーカーと、
前記基準対象物中の設定位置に取り付け取り外し可能とされるとともに、光学マーカーと、当該光学マーカーをXYZ方向に移動させるステージ機構とを備えるキャリブレーション装置とを備えるモーショントラッカシステムに用いられるカメラ装置の撮影領域にカメラ座標系を設定する座標系設定方法であって、
前記キャリブレーション装置の光学マーカーを撮影することで得られた光学マーカー位置情報に基づいて、前記カメラ装置の撮影領域にカメラ座標系を設定する座標系設定工程と、
前記カメラ装置の撮影領域にカメラ座標系を設定した後に、前記基準対象物に取り付けられた光学マーカーを撮影することで得られた光学マーカー位置情報に基づいて、前記カメラ座標系における少なくとも3個の光学マーカーの座標位置であるキャリブレーション情報を作成してキャリブレーション情報記憶部に記憶させるキャリブレーション情報記憶制御工程と、
前記カメラ装置の撮影領域にカメラ座標系を再設定する際に、前記基準対象物に取り付けられた光学マーカーを撮影することで得られた光学マーカー位置情報と、前記キャリブレーション情報記憶部に記憶されたキャリブレーション情報とに基づいて、前記カメラ装置の撮影領域にカメラ座標系を設定する座標系再設定工程とを含むことを特徴とする座標系設定方法。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7】
image rotate

【図8】
image rotate

【図9】
image rotate

【図10】
image rotate

【図11】
image rotate


【公開番号】特開2010−38847(P2010−38847A)
【公開日】平成22年2月18日(2010.2.18)
【国際特許分類】
【出願番号】特願2008−204945(P2008−204945)
【出願日】平成20年8月8日(2008.8.8)
【出願人】(000001993)株式会社島津製作所 (3,708)
【Fターム(参考)】