無線通信システムおよび送信出力制御方法
【課題】受信側の無線端末で常に通信品質をモニタリングすることなく安定した無線通信を可能とする送信出力制御を提供する。
【解決手段】第1の装置と第2の装置が無線通信により接続された無線通信システムにおいて、第1及び第2の装置のいずれかにおいて、第1の装置が備える撮像装置によって撮影された画像に基づいて第1の装置の3次元位置を検出し、第1及び第2の装置のいずれかにおいて、検出された3次元位置に基づいて第1の装置と第2の装置の間の装置間距離を算出する。第1及び第2の装置のうちの距離算出を行なった装置から他方の装置へ、装置間距離を無線通信を介して送信する。第1及び第2の装置のそれぞれは、上記装置間距離に基づいて無線通信のための送信出力を制御する。
【解決手段】第1の装置と第2の装置が無線通信により接続された無線通信システムにおいて、第1及び第2の装置のいずれかにおいて、第1の装置が備える撮像装置によって撮影された画像に基づいて第1の装置の3次元位置を検出し、第1及び第2の装置のいずれかにおいて、検出された3次元位置に基づいて第1の装置と第2の装置の間の装置間距離を算出する。第1及び第2の装置のうちの距離算出を行なった装置から他方の装置へ、装置間距離を無線通信を介して送信する。第1及び第2の装置のそれぞれは、上記装置間距離に基づいて無線通信のための送信出力を制御する。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は無線データ通信技術に関し、特に三次元位置情報から得られる送受信間の距離情報に基づき、無線の送信出力を制御する無線通信システム、画像提示システム、並びに送信出力制御方法に関するものである。
【背景技術】
【0002】
近年、無線通信システムの分野では、無線端末の高機能化に伴う消費電力の増大が懸念されており、省電力化技術が重要視されている。従来、無線端末の省電力化を実現する方法として、受信側の無線端末で受信状態(品質)を測定し、それらの変化に応じて送信制御を行う方法が提案されている。
【0003】
図16は、無線通信システムにおいて、電波強度を測定し、電波強度に応じて送信出力の制御を行う無線端末の概略的な機能構成を示すブロック図である(特許文献1、特許文献2参照)。
【0004】
無線端末は受信器1601で電波を受信すると、電波強度測定部1602で受信電波強度の測定を行う。送信制御部1603は、電波強度測定部1602において測定された電波強度の大きさに基づき、自身の無線送信出力の大きさを決定し、送信器1604より決定された出力でもってデータの送信を行う。送信制御部1603における送信出力制御では、例えば、電波強度測定部1602において測定された受信電波強度が小さい場合には送受信間の空間の伝搬損失が大きいと判断され、自身の送信出力を大きくするよう制御される。反対に電波強度測定部1602において測定された受信電波強度が大きい場合は、伝搬損失が小さいと判断され、自身の送信出力を小さくするといった制御を行う。これにより、伝搬損失が小さいときにも、大きな出力で送信するような無駄な電力消費を抑えることが可能となる。
【0005】
或いは、電波強度の測定ではなく、無線端末が受信したデータの全ビット数のうちのエラービット数の割合を表すBER(Bit Error Rate:ビット誤り率)を算出して送信電力を制御する手法も提案されている。この場合、BERが高いときには自身の送信出力を大きくし、BERがある基準値よりも低いときには自身の送信出力が小さくなるように制御が行われる(特許文献3)。
【0006】
どちらの方法も、受信側の無線端末で通信品質をモニタリングし、送信制御を行うという点では同じである。
【0007】
図17はGPSにより取得した位置情報を用いて、無線I/F部の電源制御を行う無線端末の簡単な機能ブロック図である(特許文献4参照)。
【0008】
制御部1701は受信電波の強度を測定し、GPS受信機1702によって取得された位置座標情報との関連付けを行った後、メモリ1703に位置座標と受信電波強度の情報を格納する。この作業を移動中に繰り返し行うことにより、無線端末が移動した軌跡上の受信電波強度情報が、位置座標情報とともにメモリ1703に蓄積される。データ蓄積後は、再度受信電波強度を測定することなく、GPS受信機1702によって取得された無線端末の位置情報に基づき、メモリ1703内のデータベースを参照して、無線端末が存在する位置座標の電波強度を把握することができる。例えば、GPS受信機1702において取得された位置情報とメモリ1703内のデータベースから、制御部1701は、当該無線端末が電波強度が非常に小さく、安定した通信が行えない位置座標に存在していると判定する。そして、この場合、制御部1701は、第1の電源部1704から供給する無線I/F部1705の無線回路ブロックへの電源や、第2の電源部1706から供給するベースバンドコーデック部1707への電源を遮断するといった制御が可能となる。また、安定して通信可能な電波強度をもつ位置座標に無線端末が存在すると判定した場合には、制御部1701は各部への電源供給を再開する。電源供給の再開においては、第1の電源部1704から無線I/F部1705の無線回路ブロックへの電力供給、第2の電源部1706からベースバンドコーデック部1707への電力供給が開始される。このような構成によれば、通信圏外時の無駄な電力消費を抑えることができる。
【先行技術文献】
【特許文献】
【0009】
【特許文献1】特開2004−193745号公報
【特許文献2】特開平7−212303号公報
【特許文献3】特開平5−22211号公報
【特許文献4】特開2002−246977号公報
【発明の概要】
【発明が解決しようとする課題】
【0010】
しかしながら上述した従来の技術においては、以下のような問題があった。
【0011】
図2は理想環境下とフェージング環境下における電波強度と距離および電波強度と時間との関係を示した図である。
【0012】
図2の(a)および(b)において破線で示しているのは、理想環境下における電波強度と距離、電波強度と時間との関係である。しかしながら、現実空間では送信器から送信された電波は周囲の構造や地形、移動体などによって反射・回折を繰り返し、複数の経路に分散して伝搬する。その結果、受信器では、各経路の距離差によって位相がずれた複数の電波が重ね合わされた合成波を受信することになる。これをフェージングといい、図2(a)および(b)中に実線で示したように、距離的にも時間的にも非常に複雑な電波強度変化が生じることになる。
【0013】
上記フェージング環境下における無線通信を考えた場合、受信側の無線端末側で受信電波強度やBERなどの通信状態(品質)を測定し、それらの変化に応じて送信制御を行う方法の場合を考える。この方法では、無線端末側で常に激しく変動している通信品質を測定し続け、制御に反映させるため、無線端末の処理負荷が高くなり、省電力の効果は低くなる。また、位置座標と電波強度を対応付けてメモリに蓄積し、無線端末のメモリ内の情報を用いて送信制御を行う方法では、測定時に取得された電波強度に基づき、送信出力の制御が行われてしまう。そのため、同じ位置においても激しく強度が変動しているフェージング環境下では安定した通信を行うことが困難である。また、無線端末側でGPS情報を取得し続けるという点では上記方法と同様、省電力効果は低くなる。また、GPSによる位置計測は屋外でしか使用できない上に、位置計測誤差が数十メートルと大きい。そのため、屋内で使用される無線端末の送信制御や、WPANの無線規格に含まれるUWBのような、最大伝送距離が10メートル程度の近距離無線通信の送信制御には利用できない。尚、WPANとはWireless Personal Area Networkであり、UWBとはUltra Wide Band(超広帯域無線)である。
【0014】
本発明はかかる課題に鑑みなされたものであり、受信側の無線端末で常に通信品質をモニタリングすることなく安定した無線通信を可能とする送信出力制御を提供することを目的とする。
【課題を解決するための手段】
【0015】
上記の目的を達成するための本発明の一態様による無線通信システムは以下の構成を備える。すなわち、
第1の装置と第2の装置が無線通信により接続された無線通信システムであって、
前記第1及び第2の装置のいずれかにおいて、前記第1の装置が備える撮像装置によって撮影された画像に基づいて、前記第1の装置の3次元位置を検出する位置検出手段と、
前記第1及び第2の装置のいずれかにおいて、前記位置検出手段で検出された3次元位置に基づいて、前記第1の装置と前記第2の装置の間の装置間距離を算出する距離算出手段と、
前記第1及び第2の装置のうちの前記距離算出手段を有する装置から他方の装置へ、前記装置間距離を前記無線通信を介して送信する距離送信手段と、
前記第1及び第2の装置のそれぞれにおいて、前記装置間距離に基づいて、前記無線通信のための送信出力を制御する出力制御手段とを備える。
【発明の効果】
【0016】
本発明によれば、受信側の無線端末で常に通信品質をモニタリングすることなく安定した無線通信を実現できる。
【図面の簡単な説明】
【0017】
【図1】第1実施形態におけるシステム構成例を示した機能ブロック図である。
【図2】(a)は電波強度と距離との関係を示した図であり、(b)は電波強度と時間との関係を示した図である。
【図3】第1実施形態におけるMRシステムの構成例を示した図である。
【図4】第1実施形態における処理の流れを示したフローチャートである。
【図5】(a)は第1実施形態における電波強度と距離の関係を示した図であり、(b)は第1実施形態における電波強度と時間との関係を示した図である。
【図6】第1実施形態における画像情報を用いた3次元位置情報の生成を説明する図である。
【図7】第2実施形態における送信レベル制御の概念を示した図である。
【図8】第2実施形態におけるBER測定による送信レベル制御を行うシステム構成を示した機能ブロック図である。
【図9】第2実施形態におけるBER測定による送信レベル制御を行うシステムにおける処理の流れを示したフローチャートである。
【図10】第3実施形態における電波強度測定による送信レベル制御を行うシステム構成を示した機能ブロック図である。
【図11】第3実施形態における電波強度測定による送信レベル制御を行うシステムの処理の流れを示したフローチャートである。
【図12】第4実施形態におけるシステム構成の機能ブロック図である。
【図13】第4実施形態におけるシステムの処理の流れを示したフローチャートである。
【図14】第5実施形態におけるシステム構成の機能ブロック図である。
【図15】第5実施形態におけるシステムの処理の流れを示したフローチャートである。
【図16】一般的な、電波強度測定による送信制御を行うシステム構成の例を示した機能ブロック図である。
【図17】一般的な、GPSを用いた位置計測による送信制御を行うシステム構成の例を示した機能ブロック図である。
【発明を実施するための形態】
【0018】
以下、本発明の実施の形態について添付の図面を参照して説明する。
【0019】
[第1実施形態]
本発明を実現する第1実施形態を図に従って説明する。以下の説明では、MR(MixedReality:複合現実感)システムに、本発明の実施形態に係る無線通信システムを適用した場合について説明する。
【0020】
MRとは、現実空間(現実画像)と仮想空間(仮想画像)をリアルタイムかつシームレスに融合して画像提示する映像技術である。MRシステムは、撮像部と表示部とを有するHMD(Head Mounted Display:頭部装着型画像表示装置)を通して、MR空間を提供するシステムである。ここで、HMDの撮像部は、装着者の視点で左右それぞれの目の画像を取得し、表示部は、装着者の左右それぞれの目に画像を表示する。より具体的には、HMDの装着者が観察している現実空間の画像をHMDの撮像部で取得し、撮像された現実空間画像に仮想空間のCG画像を重畳し、生成された合成画像をHMDの表示部に表示することにより、HMDの装着者にMR空間が提供される。
【0021】
図3は、第1実施形態におけるシステム構成例を示した図である。
【0022】
図3において、HMD301は、装着者の観察している左目、右目それぞれの画像を取得するための撮像部と、MR空間を構成する左目、右目用のステレオ画像を装着者に提供するための画像表示部を有する。HMD301は、有線接続された中継器302を介して、撮像画像をコントローラ303に無線で伝送する。中継器302は、HMD301と同様に使用者の身体の一部に装着して使用される。HMD301および中継器302はバッテリーで駆動される。コントローラ303と有線接続されたPC304は、HMD301で撮像された現実空間の画像にCGを重畳する画像処理部を有する。PC304はコントローラ303を介し、CGが重畳された合成画像を中継器302に無線で伝送する。中継器302で受信された合成画像は、HMD301の画像表示部で表示され、装着者に提供される。本実施形態では、HMD301と中継器302を個々のハードウェアとしているが、中継器302の持つ機能を全てHMD301内に実装し、一体型の装置とすることも可能である。同様に、PC304とコントローラ303についても、コントローラ303の持つ機能をすべてPC304内に実装して、一体化することや、PC304とコントローラ303がそれぞれ有する機能を集め、専用の処理装置を構成することも可能である。
【0023】
以下の説明では、機能的な観点から、HMD301と中継器302がそれぞれ有する機能を組み合わせたものをクライアント、PC304とコントローラ303がそれぞれ有する機能を組み合わせたものをサーバと分類して説明する。
【0024】
図1は、本発明の特徴を説明する第1の実施の形態における機能ブロック図である。クライアントとサーバは各々の送信部及び受信部により通信可能に接続されている。
【0025】
第1の装置としてのクライアントは画像入力部101により撮影した現実空間画像を取得し、送信部102から、初期設定で与えられた送信出力で第2の装置としてのサーバに送信する。サーバでは、受信部103で受信した現実空間画像の画像情報を用いて、位置情報生成部104が、サーバとクライアントの相対的な3次元位置情報を生成する。なお、位置情報生成部104は、MR処理を行うためのクライアント(撮像装置)の3次元位置姿勢を生成する位置姿勢検出部として機能するが、距離算出部106が用いるのはこのうちの3次元位置である。生成された3次元位置情報は、画像処理部105においては、現実空間画像(現実画像)上にCG(仮想画像)を描画する位置、大きさ、向きを決定するために利用される。また、3次元位置情報は、距離算出部106においては、サーバとクライアント間の距離(装置間距離)を算出するために利用される。画像処理部105で生成された合成画像および、距離算出部106で生成されたサーバとクライアント間の距離情報は、送信制御部107に送られる。送信制御部107は、距離情報に基づいて送信部108の送信出力を制御し、上記合成画像および距離情報を含むデータを送信部108を介して送信する。この点において、送信部108は、クライアントとサーバ間の装置間距離を送信する距離送信部として機能するものである。
【0026】
クライアントの受信部109は、サーバ(送信部108)より受信した受信データの中から、合成画像データを画像出力部110に、距離情報を送信制御部111に送る。画像出力部110は、受信部109より送られてきた合成画像を、HMD装着者に提供するべく表示する。送信制御部111は、送られてきた距離情報に基づき、画像入力部101で取得された撮像画像を送信部102が送信する際の送信制御を行う。なお、上記送信部102,108と受信部103,109における通信、すなわち、サーバおよびクライアント間の無線通信には、例えば、WPAN規格に含まれる無線通信方式を利用することができる。
【0027】
図4は、第1実施形態におけるMRシステムの処理の流れを説明するフローチャートである。
【0028】
通信が開始されると、まずステップS401において、クライアント側の画像入力部101が、HMD装着者の視点で撮像された現実空間画像を取得する。続くステップS402において、クライアント側の送信部102がステップS401で取得された現実空間画像を、初期設定で与えられた送信出力でサーバに送信する。なお、初期設定の値は任意である。ステップS403において、サーバ側の受信部103が現実空間画像を受信する。ステップS404において、位置情報生成部104は、受信した現実空間画像の画像情報からクライアントの三次元位置情報を生成する。本実施形態において、位置情報生成部104は、通信前の初期設定の段階でシステム使用空間におけるサーバの位置情報が与えられることにより、サーバとクライアントの相対位置関係を算出することができる。また、相対位置関係だけでなく、それぞれの位置情報を絶対座標に合わせることも可能である。
【0029】
画像処理部105は、ステップS405において、ステップS404で生成された位置情報を参照し、ステップS406において現実空間画像にCG画像の重畳を行い、合成画像を生成する。ステップS407において、距離算出部106は、参照した位置情報をもとに、サーバとクライアント間の距離を算出する。送信制御部107は、ステップS408において、距離算出部106が算出した距離情報を参照する。そして、ステップS409において、送信制御部107は、参照した距離情報に基づき、サーバから合成画像および距離情報のデータを送信する際の送信部108の送信出力を制御し、ステップS410でそれらデータを送信する。クライアント側では、ステップS411で受信部109が合成画像と距離情報を受信する。そして、ステップS412において、クライアント側の送信制御部111は、合成画像とともに受信部109が受信した距離情報を参照する。ステップS413において、送信制御部111は、参照した距離情報に基づき、現実空間画像をクライアントからサーバに送信する際の送信部102における送信出力の制御を行う。
【0030】
ステップS414において、クライアントは、送信すべき次の撮像画像があるか否かの判断を行う。撮像画像があると判断された場合は、処理はステップS401に戻り、上述の処理が繰り返される。ステップS401で取得された画像は、ステップS413で決定された送信出力に基づいて、ステップS402において送信部102から送信される。ステップS414で、送信すべき次の撮像画像がないと判断された場合には、通信を終了し本処理を抜ける。
【0031】
図5は、第1実施形態における送信制御部107,111による送信部108,102の送信出力制御について説明する図である。以下、送信部102,108を総称して送信器、受信部103,109を総称して受信器という。
【0032】
図5の(a)は、時刻Tにおける電波強度と距離の関係を示したグラフである。破線は理想環境下において、送信器からの距離がDの位置に存在する受信器においてあるビットレートを維持するために必要な送信出力P1で送信を行った際の電波強度と距離の関係を示している。実線はフェージング環境下において送信出力をP2としたときの電波強度と距離の関係を示している。図5の(b)は、送信器からの距離がDの位置に存在する受信器における電波強度の時間変化を示したグラフである。破線は距離Dにおいて所望のビットレートを維持するために必要な電波強度を、実線はフェージング環境下において送信出力をP2Dしたときの電波強度の時間変化を示している。
【0033】
図5の(a)より、理想環境下であれば、送信器の送信出力をP1に設定することにより、距離Dの位置であるビットレートでの通信を維持可能な受信電波強度P1Dを実現できることが分かる。しかし、フェージング環境下においては電波強度が非常に激しく変動するため、所望のビットレートを維持するためには、図5の(b)において実線で示されている電波強度の最低値が破線の示す電波強度P1Dよりも高くなるように送信出力を設定する必要がある。したがって、本実施形態における送信制御は、
1.送信器からの距離がDの地点において、送信出力がフェージングの影響によって最も電波強度の低い状態になった際にも、所望のビットレートを維持することが可能な受信電波強度P1Dを実現し、かつ、
2.受信電波強度の最低値がP1Dに対して十分なマージンを持つことができる、
ような送信出力P2を選択することを特徴としている。
【0034】
送信器と受信器との間の距離ごとの送信出力P2の設定値は、実際に無線通信システムを使用する環境において事前にデータを取得して、設定しておく。本実施形態においては、想定している最大通信距離は10数メートル程度であり、フェージングの影響による受信電波強度の変化は微小時間で取得できるため、事前の設定は容易に行うことができる。また、送信出力P2の設定は、任意の距離範囲ごとに設定することが可能である。距離範囲を細かく、例えばセンチメートル単位で送信出力P2を設定すれば極めて高精度な送信出力制御が可能となる。また、反対に、距離範囲を大きく、例えばメートル単位で送信出力P2を設定すれば、送信制御部の制御情報格納用のメモリ容量を減らすことができる。このように、第1実施形態では、送受信間距離に応じて必要な電波強度を得るための、送受信間距離と送信出力との関係を示す制御情報を例えばテーブルの形態で保持しておく。そして、このテーブルを参照することにより距離算出部106によって算出された装置間距離に対して適切な送信出力が決定される。
【0035】
図6は、第1実施形態における位置情報について説明する図である。
【0036】
マーカ603は、あらかじめサーバと相対的位置関係を対応付けられているものとする。現実空間画像601にマーカ603が表示されている場合、位置情報生成部104は、画像データ中からマーカ603を検出する。そして、位置情報生成部104は、マーカ603の大きさや形、塗りつぶしのパターンなどの情報から、マーカ603とHMD本体の相対的位置関係およびHMD装着者がマーカを観察している方向に関する三次元位置情報を算出することができる。ここで、マーカ603とサーバの相対的位置関係は既に対応付けられているため、マーカ603とクライアントとの位置関係から、サーバとクライアントの相対的位置関係が求められる。これにより、サーバとクライアント間の距離を算出することができる。
【0037】
図6中では、例として、マーカ603の中心部を原点とする3次元座標系を想定している。但し、座標系の原点はマーカ603上に設定する必要はなく、座標系の原点とマーカ603との相対的位置関係を対応付けることにより、座標系の原点を任意の位置に設定することができる。
【0038】
また、位置情報生成に用いるマーカは単独ではなく、複数のマーカを同時に用いることも可能である。複数のマーカを同時に用いる場合、各マーカの位置関係をあらかじめ定義しておくことによって、それらの相対的位置関係から、マーカを観察しているHMD(HMD装着者)方向を算出することが可能となる。その場合、図6に示したような内部の塗りつぶしパターンによって方向まで識別が可能なマーカではなく、例えば、特定色を用いたカラーマーカや、LEDなどの発光素子のような方向性のない印を利用することも可能となる。
【0039】
また、用意されたマーカではなく、テーブルの輪郭線604のような現実空間画像601の中の特徴点や、画像中の任意の色を抽出し、それらを用いて位置情報を生成することもできる。同一種類のマーカを複数用いたり、数種類のマーカを同時に用いたり、マーカ情報と画像中の特徴点の情報を組み合わせて用いたりすることによって、より高い精度の位置情報も生成できる。さらに、複数のマーカや特徴点の位置関係が対応付けられているため、全てのマーカや特徴点が画像内に表示されていなくても、それぞれのマーカや特徴点の位置を推定することが可能である。
【0040】
本実施形態では、上記の位置情報を用いて算出されるサーバとクライアント間の距離に基づいて送信制御を行う。クライアント側がHMD301と中継器302の別々の装置で構成されている場合、位置情報生成に用いる現実空間画像の撮像を行うHMD内の撮像部と、無線伝送を行う中継器の送受信アンテナは空間的に離れた位置に存在することになる。そのため、上記の位置情報を用いて算出される距離には、わずかながら誤差が生じることになる。その場合、HMD301内の撮像部と中継器302の送受信アンテナの相対的位置関係を補正することにより、サーバと送受信アンテナの相対的位置関係を把握することができ、距離精度の誤差を軽減することが可能となる。但し、より精度の高い制御を行うためには、クライアント側のHMD301と中継器302とを一体化し、HMD301内の撮像部と送受信アンテナの相対的位置関係が常に一定となるように構成することが好ましい。
【0041】
以上説明してきたように、上記システム構成を用いることにより、サーバとクライアントの3次元位置情報から送受信間の距離を高精度に把握することが可能となり、距離情報に基づいた精度の高い送信出力制御を実現できる。また、クライアント側での通信品質のモニタリングを行わないため、消費電力が減少し、バッテリーによる長時間駆動が可能となる。さらに、システム使用前の測定によって、フェージング影響下においても所望のビットレートを維持可能な送信出力を把握し、これを初期設定で与えることにより、安定した通信を実現できる。
【0042】
[第2実施形態]
第2実施形態では、第1の実施形態で説明したサーバとクライアント間の距離情報に加えて、補助的にクライアント側における通信品質の測定結果を用いた送信レベル制御を実施する。これにより、システム使用中の障害物、移動体の増加や他の無線機器による干渉などの影響によって電波環境が悪化し、予め設定された送信出力では所望のビットレートを維持することができない状態に陥った際にも、安定した通信を行うことが可能となる。以下、通信品質の測定としてBERを用いた第2実施形態について図面を参照して説明する。
【0043】
図7は、第2実施形態による送信レベル制御を説明する図である。
【0044】
図7において、破線の直線は理想環境下において、送信器からの距離がDの位置に存在する受信器で所望のビットレートを維持するために必要な電波強度P1Dを得ることのできる送信出力P1で送信を行った際の電波強度と距離の関係を示す。また、破線の曲線はフェージング環境下において送信出力をP2としたときの電波強度と距離の関係を、実線の曲線はフェージング環境下において送信出力をP3としたときの電波強度と距離の関係をそれぞれ示している。また、P1D、P2D、P3Dは送信器からの距離がDの位置での、上記3種類の送信出力におけるそれぞれの受信電波強度を示している。
【0045】
通常、システム使用前の初期設定によって、P2は送信器からの距離がDの位置に設置された受信器において、所望のビットレートを維持するために必要な電波強度P1Dに対して十分なマージンを持った電波強度を実現するように設定されている。しかし、システム使用中に周囲環境に障害物や移動体の増加や、他の無線機器の使用により、電波環境が悪化し、送信出力をP2としたときの電波強度が図7に示したように低下することがある。本実施形態では、このような電波強度の低下を、クライアント側(送信制御部111)でBERや電波強度を測定することにより検知する。そして、距離Dの位置においてP1Dに対し十分なマージンを持つ受信電波強度P3Dを実現する送信出力P3へと送信レベルを引き上げる制御を行う。反対に初期設定時よりも、システム使用中に電波環境が良好になった場合、BERや電波強度を測定することにより過剰な送信出力を検知し、送信レベルを引き下げる制御を行う。
【0046】
以下にBER測定を用いた送信レベル制御について説明する。
【0047】
図8は、第2実施形態におけるBER測定を用いた送信レベル制御について説明する機能ブロック図である。
【0048】
クライアントは画像入力部801により撮像した現実空間画像を取得し、送信部802を介してサーバに送信する。送信部802は、後述の送信レベル制御情報をサーバに送信する制御情報送信部としての機能も有している。初期状態ではサーバとクライアント間の距離情報および送信レベル制御情報を持っていないため、初期設定で与えられた送信出力で送信を行う。
【0049】
サーバでは、受信部803が受信した画像情報を用いて、位置情報生成部804が、サーバとクライアントの相対的な3次元位置情報を生成する。生成された3次元位置情報は、画像処理部805においては現実空間画像上にCGを描画する位置、大きさ、向きの決定に利用される。また、3次元位置情報は、距離算出部806においてはサーバとクライアント間の距離を算出するために利用される。画像処理部805で生成された合成画像、距離算出部806で生成されたサーバとクライアント間の距離情報およびクライアントから送信された送信レベル制御情報は、送信制御部807に送られる。送信制御部807では距離情報と送信レベル制御情報に基づいて、送信部808においてデータ送信を行う際の送信出力を制御する。誤り制御部812では合成画像と距離情報を含む送信データに対して誤り制御を行う。誤り制御が実施された送信データ(合成画像と距離情報)は、上記制御された送信出力でもって送信部808からクライアントに送信される。
【0050】
クライアントにおいて、受信部809は送信部808から送信されたデータを受信する。BER測定部813は、受信部809で受信したデータに対してBER測定を行い、測定されたBERに応じて送信レベル制御情報を生成し、送信制御部811に送る。更にBER測定部813は、受信データの中から、合成画像データを画像出力部810に、距離情報を送信制御部811に送る。画像出力部810は、送られてきた合成画像をHMD装着者に提供するべく表示する。送信制御部811は、BER測定部813から送られてき送信レベル制御情報とた距離情報とに基づき、画像入力部801で取得された撮像画像を送信する際の送信制御を行う。
【0051】
図9は、第2実施形態におけるBER測定を用いた送信レベル制御における処理の流れを説明するフローチャートである。
【0052】
通信が開始されると、まずクライアント側では、ステップS901において、画像入力部801がHMD装着者の視点による現実空間画像を取得する。続くステップS902において、送信部802は、ステップS901で取得された現実空間画像および初期設定で与えられた送信レベル制御情報を、初期設定で与えられた送信出力でサーバに送信する。なお、初期設定の値は任意である。
【0053】
サーバ側では、ステップS903において受信部803がデータを受信すると、ステップS904において、位置情報生成部804は、画像情報からクライアントの3次元位置情報を生成する。本実施形態においては、通信前の初期設定の段階でシステム使用空間におけるサーバの位置情報を与えることにより、サーバとクライアントの相対位置関係を算出することができる。また、相対位置関係だけでなく、それぞれの位置情報を絶対座標に合わせることも可能である。画像処理部805は、ステップS905において位置情報を参照し、ステップS906でその位置情報に基づいて現実空間画像にCG画像の重畳を行い、合成画像を生成する。ステップS907において、距離算出部806は、ステップS904で参照した位置情報をもとに、サーバとクライアント間の距離を算出する。送信制御部807は、ステップS908で算出された距離情報を参照し、ステップS909でクライアントから送られた送信レベル制御情報を参照する。そして、送信制御部807は、ステップS910において、参照した距離情報と送信レベル制御情報に基づき、サーバの送信部808から合成画像および距離情報を送信する際の送信出力を制御する。ステップS911において、誤り制御部812は、ステップS910で生成された、画像情報と距離情報および送信レベル制御情報を含むデータに対して、一般的な誤り検出符号、誤り訂正符号を付加する誤り制御を行う。そして、ステップS912で、送信部808は上記誤り訂正符号が付加されたデータを送信する。
【0054】
クライアント側では、ステップS913で受信部809がデータを受信する。そして、ステップS914において、BER測定部813がBERの測定を行う。ステップS915において、BER測定部813は、ステップS914で測定されたBERが現在の送信レベルで定められたBERの範囲以上であるか否かを判断する。測定されたBERが既定の範囲以上であった場合は、ステップS916において、送信レベルを増加する指示が送られる。ステップS915でBERが既定の範囲以上でないと判断されたときは、ステップ917でBERが既定の範囲以下であるか否かを判断する。測定されたBERが既定の範囲以下であった場合は、ステップS918において、送信レベルを減少する指示が送られる。ステップS917でBERが既定の範囲以下でないと判断されたときは、そのままステップS919の処理に移る。ステップS919において、BER測定部813は、送信レベルの指示に基づいて、送信レベル制御情報を生成し、送信制御部811に送る。ステップS919では、送信レベルの増加或いは減少の指示に応じて、所定量だけ送信出力を増加或いは減少させる。この結果、例えば、送信出力が図7のP2の状態で送信レベルを増加する指示を受けた場合に、図7のP3の送信出力が選択される。送信制御部811は、ステップS920において距離情報を、ステップ921において送信レベル制御情報を参照する。そして、ステップ922において、送信制御部811は、参照した情報に基づき、クライアントから次の撮像画像および送信レベル制御情報を送信する際の送信部802の送信出力を制御する。
【0055】
ステップS923では送信すべき次の画像があるか否かの判断を行い、画像があると判断された場合は、ステップS901に戻り、上記処理を繰り返す。ステップS901取得された画像は、ステップS922で決定された送信出力に基づいて、ステップS902で送信部802から送信される。すなわち、ステップS902において、送信部802は、ステップS901で取得された現実空間画像およびステップS921で設定された送信レベル制御情報を、ステップS922で制御された送信出力でサーバに送信する。ステップS923で、送信すべき次の画像がないと判断された場合には通信を終了し処理を抜ける。
【0056】
[第3実施形態]
第3実施形態では、通信品質の測定として、BER測定の代わりに電波強度測定を行い、その測定結果に基づいて送信出力(送信レベル)を制御する構成について説明する。以下に受信電波強度測定を用いた送信レベル制御について説明する。
【0057】
図10は、第3実施形態における電波強度測定を用いた送信レベル制御を実現するシステムの構成を表す機能ブロック図である。
【0058】
クライアントは画像入力部1001により撮像した現実空間画像を取得し、送信部1002を介して画像を送信する。初期状態ではサーバとクライアント間の距離情報および送信レベル制御情報を持っていないため、送信部1002は初期設定で与えられた送信出力で送信を行う。
【0059】
サーバでは、受信部1003で受信した画像情報を用いて、位置情報生成部1004が、サーバとクライアントの相対的な3次元位置情報を生成する。生成された3次元位置情報は、画像処理部1005において現実空間画像上にCGを描画する際の位置、大きさ、向きの決定に利用される。また、距離算出部1006においては、3次元位置情報は、サーバとクライアント間の距離を算出するために利用される。画像処理部1005で処理された合成画像、距離算出部1006で生成されたサーバとクライアント間の距離情報、およびクライアントから送信された送信レベル制御情報は、送信制御部1007に送られる。送信制御部1007は、距離情報と送信レベル制御情報に基づいて、合成画像および距離情報を含むデータ送信を行う際の送信出力を制御し、送信部1008を介してデータを送信する。送信部1008から送信されたデータは、クライアントの受信部1009で受信される。電波強度測定部1012は、受信されたデータについて受信時の電波強度測定を行い、測定された電波強度に応じて送信レベル制御情報を生成する。また、電波強度測定部1012は、受信データの中から、合成画像データを画像出力部1010に、距離情報および生成した送信レベル制御情報を送信制御部1011に送る。画像出力部1010は、送られてきた合成画像をHMD装着者に提供するべく表示する。送信制御部1011は、電波強度測定部1012から送られてきた距離情報と送信レベル制御情報に基づき、画像入力部1001で取得された撮像画像を送信する際の送信部1002の送信出力を制御する。
【0060】
図11は、第3実施形態による、電波強度測定を用いた送信レベル制御の処理の流れを説明するフローチャートである。
【0061】
通信が開始されると、まずステップS1101において、クライアント側の画像入力部1001がHMD装着者の視点による現実空間画像を取得する。続くステップS1102において、送信部1002は、ステップS1101で取得した現実空間画像および初期設定で与えられた送信レベル制御情報を、初期設定で与えられた送信出力でサーバに送信する。
【0062】
サーバ側ではステップS1103において受信部1003がデータを受信すると、ステップ1104において、位置情報生成部1004が受信した現実空間画像情報からクライアントの3次元位置情報を生成する。本実施形態においては、通信前の初期設定の段階でシステム使用空間におけるサーバの位置情報を与えることにより、サーバとクライアントの相対位置関係を算出することができる。また、相対位置関係だけでなく、それぞれの位置情報を絶対座標に合わせることも可能である。画像処理部1005は、ステップS1105において位置情報を参照し、ステップS1106において現実空間画像に参照した位置情報に基づいてCG画像の重畳を行い、合成画像を生成する。ステップ1107において、距離算出部1006は、参照した位置情報をもとに、サーバとクライアント間の距離を算出する。送信制御部1007は、ステップ1108で距離算出部1006が算出した距離情報を、ステップ1109でクライアントから送られた送信レベル制御情報を参照する。そして、ステップ1110において、送信制御部1007は、それらの参照された情報に基づき、サーバから合成画像および距離情報を送信する際の送信部1008の送信出力を制御する。ステップ1111で、送信部1008はクライアントへデータを送信する。
【0063】
クライアント側では、ステップ1112で受信部1009がデータを受信する。そして、ステップ1113で、電波強度測定部1012は、受信電波強度を測定する。ステップ1114において、電波強度測定部1012は、ステップ1113で測定された電波強度が現在の送信レベルで定められた範囲以上であるか否かを判断する。測定された電波強度が既定の範囲以上であった場合は、ステップS1115において、送信レベルを減少する指示が送られる。ステップS1114で電波強度が既定の範囲以上でないと判断されたときは、ステップS1116で電波強度が既定の範囲以下であるか否かを判断する。測定された電波強度が既定の範囲以下であった場合は、ステップS1117において、送信レベルを増加する指示が送られる。ステップ1116で電波強度が既定の範囲以下でないと判断されたときは、そのままステップS1118の処理に移る。
【0064】
ステップ1118において、電波強度測定部1012は、送信レベルの指示に基づいて、送信レベル制御情報を生成し、送信制御部1011に送る。ステップS1118では、送信レベルの増加或いは減少の指示に応じて、所定量だけ送信出力を増加或いは減少させる。この結果、例えば、送信出力が図7のP2の状態で送信レベルを増加する指示を受けた場合にP3の送信出力が選択される。送信制御部1011は、ステップS1119で距離情報を、ステップS1120で送信レベル制御情報を参照する。そして、ステップ1121において、送信制御部1011は、参照した距離情報及び送信レベル制御情報に基づき、クライアントから次の撮像画像および送信レベル制御情報を送信する際の送信部1002における送信出力を制御する。
【0065】
ステップS1122において、クライアントは送信すべき次の画像があるか否かの判断を行う。次の画像があると判断された場合は、ステップS1101に処理を戻し、画像を取得する。取得された画像は、ステップ1121で決定された送信出力に基づいて、ステップ1102で送信される。ステップ1122で送信すべき次の画像がないと判断された場合には、通信を終了し処理を抜ける。
【0066】
尚、第2及び第3実施形態では、図9および図11のフローチャートで示されるように、1フレーム画像の送受信ごとに通信品質(BERまたは電波強度)を測定し、送信レベル制御を行っている。しかしながら、実際にはシステム使用中には、1フレーム画像の送受信ごとに電波環境が大きく変化することはないと考えられる。したがって、第2、第3実施形態において、BERまたは電波強度の測定回数は任意の時間毎もしくは任意の送受信回数毎に実行するように構成することが現実的である。さらに、使用者が画質の低下を感じた際に、任意のタイミングで送信レベル制御を実行できるような外部入力、送信レベル制御の実行指示をユーザが行うためのユーザインターフェースを持たせることも可能である。
【0067】
また、図8〜図11に示されるシステム構成およびフローチャートでは、クライアント側でBERまたは電波強度を測定し、送信レベル制御を行っている。しかしながら、これらの測定機能および送信レベル制御機能をサーバ側に実装することも可能である。これらの機能をサーバ側に実装した場合、クライアント側の処理負荷が軽減しバッテリー消費を抑えることができるため、クライアント側の無線端末の長時間駆動が可能となる。
【0068】
以上説明してきたように、第2、第3実施形態によれば、第1実施形態の構成に加えて、補助的にBERまたは電波強度の測定結果を用いて送信レベル制御が実施される。これにより、システム使用中の障害物、移動体の増加や他の無線機器による干渉などの影響によって電波環境が悪化し、あらかじめ設定された送信出力では所望のビットレートを維持することができない状態に陥った際にも、安定した通信を行うことが可能となる。
【0069】
なお、上記第2、第3実施形態では、通信品質検出部としてのBER測定部813や電波強度測定部1012で得られた通信品質から派生した送信制御情報(送信レベル制御情報)を、他方の装置へ送信している。しかしながら、これに限られるものではなく、通信品質検出部で得られた通信品質(BER測定部813や電波強度測定部1012の測定結果)を他方の装置へ送信し、各装置で別個に通信品質に基づいて送信レベル制御情報を生成するように構成しても良い。
【0070】
[第4実施形態]
次に、第4実施形態を図に従って説明する。
【0071】
上述の第1乃至第3実施形態では、クライアント側で撮像された画像情報からサーバとクライアントの3次元位置情報を生成した。これに対して、第4実施形態では、クライアント側もしくは外部に設置された、3次元位置或いは3次元位置姿勢を検出可能な3次元位置姿勢センサによって取得されたセンシング情報から、サーバとクライアントの3次元位置情報を生成する。以下、この点を中心に第4実施形態を説明する。
【0072】
MRシステムの3次元位置情報の生成には、HMDに内蔵された主観カメラ(内部イメージセンサ)で撮像した画像情報を用いる方法の他に、各種センシングデバイスによるセンシング情報を用いる方法がある。3次元位置姿勢センサとしてのセンシングデバイスの例としては、磁気センサ、ジャイロセンサ等のHMD自身に取り付けて使用するタイプのデバイスや、客観カメラ(外部イメージセンサ)等のHMDの外部に取り付けて使用するタイプのデバイスが挙げられる。これらのセンシングデバイスは一種類のみで使用することも、複数の種類のデバイスを組み合わせて使用することも可能である。また、第1実施形態で使用したHMDに内蔵された主観カメラで撮像した画像情報と、センシングデバイスで取得したセンシング情報を組み合わせて3次元位置情報の生成を行うことによって、より高い精度の3次元位置情報を得ることが可能となる。以下では、センシングデバイスで取得したセンシング情報のみを用いて3次元位置情報を生成する場合について説明する。
【0073】
図12は、第4実施形態におけるMRシステムの機能構成を示すブロック図である。
【0074】
クライアントにおいて、送信部1202は、画像入力部1201が取得した現実空間画像と、センシング部1212が撮像のタイミングと同期して取得したセンシング情報を、初期設定で与えられた送信出力でサーバに送信する。尚、センシング部1212におけるセンシングデバイスの種類は一種類とは限らず、複数種類のセンシングデバイスを同時に使用することが可能である。
【0075】
サーバにおいて、受信部1203は送信部1202から送信されたデータを受信する。位置情報生成部1204は、センシング部1212で取得された各種センシング情報を用いて、サーバとクライアントの相対的な3次元位置情報を生成する。生成された位置情報は、画像処理部1205において現実空間画像上にCGを描画する際の位置、大きさ、向きの決定に利用される。また、位置情報生成部1204で生成された3次元位置情報は、距離算出部1206においてサーバとクライアント間の距離を算出するために利用される。
【0076】
画像処理部1205で生成された合成画像および、距離算出部1206で生成されたサーバとクライアント間の距離情報は、送信制御部1207に送られる。送信制御部1207は、距離情報に基づいて、合成画像および距離情報を含むデータ送信を行う際の送信部1208の送信出力を制御する。送信部1208は、送信制御部1207によって制御された送信出力でもってデータを送信する。
【0077】
クライアントの受信部1209は、送信部1208から送信された受信データの中から、合成画像データを画像出力部1210に、距離情報を送信制御部1211に送る。画像出力部1210は、送られてきた合成画像をHMD装着者に提供するべく表示する。送信制御部1211は、送られてきた距離情報に基づき、画像入力部1201で取得された撮像画像を送信する際の送信部1202における送信出力を制御する。
【0078】
図13は、第4実施の形態における処理の流れを説明するフローチャートである。
【0079】
通信が開始されると、まずクライアント側ではステップS1301において、センシング部1212は各種センシングデバイスからセンシング情報を取得し、画像入力部1201はHMD装着者の視点による現実空間画像情報を取得する。ステップS1302において、送信部1202は、ステップS1301で取得されたセンシング情報および画像情報を、初期設定で与えられた送信出力でサーバに送信する。
【0080】
サーバ側では、ステップ1303において、受信部1203がデータを受信する。位置情報生成部1204は、ステップS1304において、ステップS1303で受信した各種センシング情報を参照し、ステップS1305において、それらのセンシング情報からクライアントの3次元位置情報を生成する。本実施形態においては、通信前の初期設定の段階でシステム使用空間におけるサーバの位置情報を与えることにより、サーバとクライアントの相対位置関係を算出することができる。また、相対位置関係だけでなく、それぞれの位置情報を絶対座標に合わせることも可能である。画像処理部1205は、ステップS1306において上記生成された位置情報を参照し、ステップ1307において、その位置情報を用いて現実空間画像にCG画像の重畳を行い、合成画像を生成する。
【0081】
ステップ1308において、距離算出部1206は、位置情報生成部1204が生成した位置情報をもとに、サーバとクライアント間の距離を算出する。送信制御部1207は、ステップS1309において上記算出された距離情報を参照し、ステップS1310において上記距離情報に基づいて、サーバから合成画像および距離情報を送信する際の送信部1208の送信出力を制御する。そして、ステップ1311において、送信部1208は、送信制御部1207によって制御された送信出力でもってデータを送信する。
【0082】
クライアント側では、ステップS1312において、受信部1209はデータを受信し、画像出力部1210は受信された画像データを表示する。ステップS1313において、送信制御部1211は、合成画像とともに受信された距離情報を参照する。ステップS1314において、送信制御部1211は、参照した距離情報に基づき、撮像画像をクライアントからサーバに送信する際の送信部1202の送信出力を制御する。
【0083】
ステップS1315において送信すべき次の撮像画像があるか否かの判断を行い、撮像画像があると判断された場合は、ステップS1301に戻り、次の撮像画像を取得する。そして、上記の処理を繰り返す。尚、取得された画像は、ステップ1314で決定された送信出力でもって、ステップ1302で送信部1202から送信される。一方、ステップS1315で、送信すべき次の画像がないと判断された場合には、通信を終了し処理を抜ける。
【0084】
尚、図12および図13に記載の構成およびフローチャートでは、クライアント側にセンシング部1212を有するシステムとなっているが、サーバ側に設ける構成としても良い。例えば、客観カメラのようなセンシングを利用する場合には、センシング情報をサーバ側に直接入力することにより、クライアントからサーバに送信するデータ量を減らすことができ、さらなる省電力化が実現できる。
【0085】
さらに、第2及び第3実施形態と同様に、第4実施形態ではサーバとクライアント間の距離情報に加えて、サーバ側またはクライアント側におけるBERや電波強度の測定結果を用いた送信レベル制御を実施するようにしてもよい。この構成によれば、システム使用中の障害物、移動体の増加や他の無線機器による干渉などの影響によって電波環境が悪化し、予め設定された送信出力では所望のビットレートを維持することができない状態に陥った際にも、安定した通信を行うことが可能となる。尚、BERや電波強度の測定結果を用いた送信レベル制御を実装したシステムについては、3次元位置情報の生成にセンシング情報を用いる点の他には、第2及び第3実施形態と大きな差異はないため、ここでは説明を省略する。
【0086】
以上説明してきたように、センシング情報を用いてサーバとクライアントの3次元位置情報を生成する記載のシステム構成を用いても、第1乃至第3実施形態と同様に、安定した通信品質の維持と省電力化を実現できる。また、BERや電波強度の測定結果を用いて送信レベル制御を行うことも可能である。さらに、第1実施形態で利用したHMDでの撮像画像情報と組み合わせて3次元位置情報を生成することが可能である。このような構成によれば、より精度の高い距離情報を得ることができるため、送信制御の精度も向上させることができる。
【0087】
[第5実施形態]
次に第5実施形態を説明する。
【0088】
第1乃至第4実施形態では、サーバ側で3次元位置情報を生成する構成を説明したが、第5実施形態では、3次元位置情報を生成する構成をクライアント側に設けた構成を説明する。
【0089】
図14は、本発明の特徴を説明する第3の実施の形態におけるシステム構成を示した図である。
【0090】
クライアントは画像入力部1401により撮像した現実空間画像を取得し、フレームメモリ1421に画像データを格納する。位置情報生成部1404は、フレームメモリ1421内の画像情報およびセンシング部1412で取得された各種センシング情報、またはそれら情報のどちらか一方を用いて、サーバとクライアントの相対的な3次元位置情報を生成する。距離算出部1406は、位置情報生成部1404が生成した位置情報からサーバとクライアント間の距離を算出する。送信制御部1411は、算出された距離情報に基づき、クライアントからサーバに3次元位置情報および距離情報を含むデータを送信する際の送信部1402の送信出力を制御する。送信部1402は、送信制御部1411によって制御された送信出力でもって3次元位置情報および距離情報を含むデータをサーバに送信する。従って、第5実施形態では、送信部1402が、クライアントとサーバ間の装置間距離を送信する距離送信部として機能する。
【0091】
サーバは受信部1403でクライアントから送信されたデータを受信する。受信されたデータに含まれる位置情報は、CG描画部1422においてCG画像を描画する際の位置、大きさ、向きの決定に利用される。送信制御部1407は、受信データに含まれる距離情報を参照し、サーバからクライアントにCG画像を送信する際の送信部1408の送信出力を制御する。送信部1408は、送信制御部1407によって制御された送信出力でもってCG画像を送信する。
【0092】
クライアントの受信部1409で受信されたCG画像は、画像合成部1423に送られる。画像合成部1423は、CG画像をフレームメモリ1421に格納されている現実空間画像と合成する。画像出力部1410は、画像合成部1423で生成された合成画像をHMD装着者に提供するべく表示する。
【0093】
図15は、第5実施形態による処理の流れを説明するフローチャートである。
【0094】
通信が開始されると、まずステップS1501において、クライアント側の画像入力部1401が、HMD装着者の視点で撮像された現実空間画像を取得する。ステップ1502において、クライアントは、画像入力部1401が取得した画像データをフレームメモリ1421に格納する。位置情報生成部1404は、ステップS1503で画像情報を参照し、ステップ1504でセンシング部1412からのセンシング情報を取得する。そして、ステップ1505において、位置情報生成部1404は、画像情報とセンシング情報に基づいてクライアントの三次元位置情報を生成する。本実施形態においては、通信前の初期設定の段階でシステム使用空間におけるサーバの位置情報を与えることにより、サーバとクライアントの相対位置関係を算出することができる。また、相対位置関係だけでなく、それぞれの位置情報を絶対座標に合わせることも可能である。
【0095】
ステップ1506において、距離算出部1406は、位置情報生成部1404で生成された位置情報をもとに、サーバとクライアント間の距離を算出する。送信制御部1411は、ステップ1507で、距離算出部1406が算出した距離情報を参照し、ステップ1508で、その距離情報に基づいてクライアントから3次元位置情報および距離情報を送信する際の送信出力を制御する。ステップS1509において、送信部1402は、送信制御部1411がステップS1508で制御した送信出力でもって、3次元位置情報および距離情報を含むデータを送信する。
【0096】
ステップS1510において、サーバ側の受信部1403は、ステップS1509において送信部1402が送信したデータを受信する。CG描画部1422は、ステップ1511で、ステップS1510で受信した3次元位置情報を参照し、ステップS1512で、その3次元位置情報に基づいてCG画像を描画する。送信制御部1407は、ステップS1513で、受信部1403が受信した距離情報を参照し、ステップ1514で、その距離情報に基づいて、サーバからクライアントにCG画像を送信する際の送信部1408の送信出力を制御する。ステップS1515において、送信部1408は、送信制御部1407によって制御された送信出力でもって、CG描画部1422が生成したCG画像を送信する。
【0097】
ステップ1516において、クライアント側の受信部1409は、サーバ側の送信部1408が送信したCG画像を受信する。ステップS1517において、画像合成部1423は、受信データに含まれるCG画像に対応する現実空間画像をフレームメモリ1421から読込み、現実空間画像とCG画像を合成し、MR画像を生成する。そして、画像出力部1410は、このMR画像を表示する。
【0098】
ステップS1519において、クライアントは、次の撮像画像があるか否かの判断を行い、次の画像があると判断されると、処理をステップS1501に戻し、上記の処理を繰り返す。一方、ステップS1519において次の画像がないと判断された場合には、通信を終了し処理を抜ける。
【0099】
以上のように、第5実施形態によれば、クライアントから送信されるデータは、位置情報および距離情報であり、画像データが含まれない。そのため、クライアントからサーバへ送信される情報量は非常に小さくなる。したがって、送信に要する消費電力を大幅に減らすことができ、バッテリーによるクライアント側の無線端末の長時間駆動が実現できる。
【0100】
さらに、第2乃至第4実施形態と同様に、第5実施形態でもサーバとクライアント間の距離情報に加えて、サーバ側またはクライアント側におけるBERや電波強度の測定結果を用いた送信レベル制御を実施することができる。このような構成とすることで、システム使用中の障害物、移動体の増加や他の無線機器による干渉などの影響によって電波環境が悪化し、予め設定された送信出力では所望のビットレートを維持することができない状態に陥った際にも、安定した通信を行える。なお、BERや電波強度の測定結果を用いた送信レベル制御を実装したシステムについては、クライアント側に3次元位置情報生成機能を有する点の他には、第2、第3実施形態により上述した構成と大きな差異はないため、ここでは説明を省略する。
【0101】
以上説明してきたように、第5実施形態によれば、クライアント側に3次元位置情報生成機能を有するシステム構成を用いても、第1乃至第4実施形態と同様に、安定した通信品質の維持と省電力化を実現できる。また、BERや電波強度の測定結果を用いて送信レベル制御を行うことも可能である。また、第4実施形態と同様に、HMDでの撮像画像情報とセンシングデバイスでのセンシング情報を組み合わせて3次元位置情報を生成することが可能であり、より精度の高い距離情報を得ることができるため、送信制御の精度も向上させることができる。さらに、クライアントからサーバに送信するデータ量が大幅に減少するため、送信に要するバッテリー消費量を押さえ、長時間駆動が可能となる。
【0102】
以上のように第1乃至第5実施形態によれば、送受信間の距離を3次元位置情報を用いて高精度で把握することにより、送信制御による省電力化と安定した通信品質の維持を可能とする無線通信システムを実現することができる。また、受信側の無線端末で常に通信品質を常時モニタリングすることなく送信制御を行えるため、無線端末の処理負荷、消費電力を抑えることが可能となる。また、フェージング環境下においても、一定のビットレートを維持して安定した通信が可能となる。また、屋内での近距離無線通信方式使用時においても、省電力化と安定したビットレートによるデータ通信を実現する無線通信システムを提供することができる。
【0103】
以上のように、第1乃至第5実施形態では、MR画像を提示するシステムにおいて、MR画像の生成に必要な観察者の3次元的な位置姿勢検出の結果を、無線の送信出力の制御に利用している。すなわち、3次元位置検出結果を効果的に利用することができる。
【0104】
以上、実施形態を詳述したが、本発明は、例えば、システム、装置、方法、プログラムもしくは記憶媒体等としての実施態様をとることが可能である。具体的には、複数の機器から構成されるシステムに適用しても良いし、また、一つの機器からなる装置に適用しても良い。
【0105】
尚、本発明は、ソフトウェアのプログラムをシステム或いは装置に直接或いは遠隔から供給し、そのシステム或いは装置のコンピュータが該供給されたプログラムコードを読み出して実行することによって前述した実施形態の機能が達成される場合を含む。この場合、供給されるプログラムは実施形態で図に示したフローチャートに対応したコンピュータプログラムである。
【0106】
従って、本発明の機能処理をコンピュータで実現するために、該コンピュータにインストールされるプログラムコード自体も本発明を実現するものである。つまり、本発明は、本発明の機能処理を実現するためのコンピュータプログラム自体も含まれる。
【0107】
その場合、プログラムの機能を有していれば、オブジェクトコード、インタプリタにより実行されるプログラム、OSに供給するスクリプトデータ等の形態であっても良い。
【0108】
コンピュータプログラムを供給するためのコンピュータ読み取り可能な記憶媒体としては以下が挙げられる。例えば、フロッピー(登録商標)ディスク、ハードディスク、光ディスク、光磁気ディスク、MO、CD−ROM、CD−R、CD−RW、磁気テープ、不揮発性のメモリカード、ROM、DVD(DVD−ROM,DVD−R)などである。
【0109】
その他、プログラムの供給方法としては、クライアントコンピュータのブラウザを用いてインターネットのホームページに接続し、該ホームページから本発明のコンピュータプログラムをハードディスク等の記録媒体にダウンロードすることが挙げられる。この場合、ダウンロードされるプログラムは、圧縮され自動インストール機能を含むファイルであってもよい。また、本発明のプログラムを構成するプログラムコードを複数のファイルに分割し、それぞれのファイルを異なるホームページからダウンロードすることによっても実現可能である。つまり、本発明の機能処理をコンピュータで実現するためのプログラムファイルを複数のユーザに対してダウンロードさせるWWWサーバも、本発明に含まれるものである。
【0110】
また、本発明のプログラムを暗号化してCD−ROM等の記憶媒体に格納してユーザに配布するという形態をとることもできる。この場合、所定の条件をクリアしたユーザに、インターネットを介してホームページから暗号を解く鍵情報をダウンロードさせ、その鍵情報を使用して暗号化されたプログラムを実行し、プログラムをコンピュータにインストールさせるようにもできる。
【0111】
また、コンピュータが、読み出したプログラムを実行することによって、前述した実施形態の機能が実現される他、そのプログラムの指示に基づき、コンピュータ上で稼動しているOSなどとの協働で実施形態の機能が実現されてもよい。この場合、OSなどが、実際の処理の一部または全部を行ない、その処理によって前述した実施形態の機能が実現される。
【0112】
さらに、記録媒体から読み出されたプログラムが、コンピュータに挿入された機能拡張ボードやコンピュータに接続された機能拡張ユニットに備わるメモリに書き込まれて前述の実施形態の機能の一部或いは全てが実現されてもよい。この場合、機能拡張ボードや機能拡張ユニットにプログラムが書き込まれた後、そのプログラムの指示に基づき、その機能拡張ボードや機能拡張ユニットに備わるCPUなどが実際の処理の一部または全部を行なう。
【技術分野】
【0001】
本発明は無線データ通信技術に関し、特に三次元位置情報から得られる送受信間の距離情報に基づき、無線の送信出力を制御する無線通信システム、画像提示システム、並びに送信出力制御方法に関するものである。
【背景技術】
【0002】
近年、無線通信システムの分野では、無線端末の高機能化に伴う消費電力の増大が懸念されており、省電力化技術が重要視されている。従来、無線端末の省電力化を実現する方法として、受信側の無線端末で受信状態(品質)を測定し、それらの変化に応じて送信制御を行う方法が提案されている。
【0003】
図16は、無線通信システムにおいて、電波強度を測定し、電波強度に応じて送信出力の制御を行う無線端末の概略的な機能構成を示すブロック図である(特許文献1、特許文献2参照)。
【0004】
無線端末は受信器1601で電波を受信すると、電波強度測定部1602で受信電波強度の測定を行う。送信制御部1603は、電波強度測定部1602において測定された電波強度の大きさに基づき、自身の無線送信出力の大きさを決定し、送信器1604より決定された出力でもってデータの送信を行う。送信制御部1603における送信出力制御では、例えば、電波強度測定部1602において測定された受信電波強度が小さい場合には送受信間の空間の伝搬損失が大きいと判断され、自身の送信出力を大きくするよう制御される。反対に電波強度測定部1602において測定された受信電波強度が大きい場合は、伝搬損失が小さいと判断され、自身の送信出力を小さくするといった制御を行う。これにより、伝搬損失が小さいときにも、大きな出力で送信するような無駄な電力消費を抑えることが可能となる。
【0005】
或いは、電波強度の測定ではなく、無線端末が受信したデータの全ビット数のうちのエラービット数の割合を表すBER(Bit Error Rate:ビット誤り率)を算出して送信電力を制御する手法も提案されている。この場合、BERが高いときには自身の送信出力を大きくし、BERがある基準値よりも低いときには自身の送信出力が小さくなるように制御が行われる(特許文献3)。
【0006】
どちらの方法も、受信側の無線端末で通信品質をモニタリングし、送信制御を行うという点では同じである。
【0007】
図17はGPSにより取得した位置情報を用いて、無線I/F部の電源制御を行う無線端末の簡単な機能ブロック図である(特許文献4参照)。
【0008】
制御部1701は受信電波の強度を測定し、GPS受信機1702によって取得された位置座標情報との関連付けを行った後、メモリ1703に位置座標と受信電波強度の情報を格納する。この作業を移動中に繰り返し行うことにより、無線端末が移動した軌跡上の受信電波強度情報が、位置座標情報とともにメモリ1703に蓄積される。データ蓄積後は、再度受信電波強度を測定することなく、GPS受信機1702によって取得された無線端末の位置情報に基づき、メモリ1703内のデータベースを参照して、無線端末が存在する位置座標の電波強度を把握することができる。例えば、GPS受信機1702において取得された位置情報とメモリ1703内のデータベースから、制御部1701は、当該無線端末が電波強度が非常に小さく、安定した通信が行えない位置座標に存在していると判定する。そして、この場合、制御部1701は、第1の電源部1704から供給する無線I/F部1705の無線回路ブロックへの電源や、第2の電源部1706から供給するベースバンドコーデック部1707への電源を遮断するといった制御が可能となる。また、安定して通信可能な電波強度をもつ位置座標に無線端末が存在すると判定した場合には、制御部1701は各部への電源供給を再開する。電源供給の再開においては、第1の電源部1704から無線I/F部1705の無線回路ブロックへの電力供給、第2の電源部1706からベースバンドコーデック部1707への電力供給が開始される。このような構成によれば、通信圏外時の無駄な電力消費を抑えることができる。
【先行技術文献】
【特許文献】
【0009】
【特許文献1】特開2004−193745号公報
【特許文献2】特開平7−212303号公報
【特許文献3】特開平5−22211号公報
【特許文献4】特開2002−246977号公報
【発明の概要】
【発明が解決しようとする課題】
【0010】
しかしながら上述した従来の技術においては、以下のような問題があった。
【0011】
図2は理想環境下とフェージング環境下における電波強度と距離および電波強度と時間との関係を示した図である。
【0012】
図2の(a)および(b)において破線で示しているのは、理想環境下における電波強度と距離、電波強度と時間との関係である。しかしながら、現実空間では送信器から送信された電波は周囲の構造や地形、移動体などによって反射・回折を繰り返し、複数の経路に分散して伝搬する。その結果、受信器では、各経路の距離差によって位相がずれた複数の電波が重ね合わされた合成波を受信することになる。これをフェージングといい、図2(a)および(b)中に実線で示したように、距離的にも時間的にも非常に複雑な電波強度変化が生じることになる。
【0013】
上記フェージング環境下における無線通信を考えた場合、受信側の無線端末側で受信電波強度やBERなどの通信状態(品質)を測定し、それらの変化に応じて送信制御を行う方法の場合を考える。この方法では、無線端末側で常に激しく変動している通信品質を測定し続け、制御に反映させるため、無線端末の処理負荷が高くなり、省電力の効果は低くなる。また、位置座標と電波強度を対応付けてメモリに蓄積し、無線端末のメモリ内の情報を用いて送信制御を行う方法では、測定時に取得された電波強度に基づき、送信出力の制御が行われてしまう。そのため、同じ位置においても激しく強度が変動しているフェージング環境下では安定した通信を行うことが困難である。また、無線端末側でGPS情報を取得し続けるという点では上記方法と同様、省電力効果は低くなる。また、GPSによる位置計測は屋外でしか使用できない上に、位置計測誤差が数十メートルと大きい。そのため、屋内で使用される無線端末の送信制御や、WPANの無線規格に含まれるUWBのような、最大伝送距離が10メートル程度の近距離無線通信の送信制御には利用できない。尚、WPANとはWireless Personal Area Networkであり、UWBとはUltra Wide Band(超広帯域無線)である。
【0014】
本発明はかかる課題に鑑みなされたものであり、受信側の無線端末で常に通信品質をモニタリングすることなく安定した無線通信を可能とする送信出力制御を提供することを目的とする。
【課題を解決するための手段】
【0015】
上記の目的を達成するための本発明の一態様による無線通信システムは以下の構成を備える。すなわち、
第1の装置と第2の装置が無線通信により接続された無線通信システムであって、
前記第1及び第2の装置のいずれかにおいて、前記第1の装置が備える撮像装置によって撮影された画像に基づいて、前記第1の装置の3次元位置を検出する位置検出手段と、
前記第1及び第2の装置のいずれかにおいて、前記位置検出手段で検出された3次元位置に基づいて、前記第1の装置と前記第2の装置の間の装置間距離を算出する距離算出手段と、
前記第1及び第2の装置のうちの前記距離算出手段を有する装置から他方の装置へ、前記装置間距離を前記無線通信を介して送信する距離送信手段と、
前記第1及び第2の装置のそれぞれにおいて、前記装置間距離に基づいて、前記無線通信のための送信出力を制御する出力制御手段とを備える。
【発明の効果】
【0016】
本発明によれば、受信側の無線端末で常に通信品質をモニタリングすることなく安定した無線通信を実現できる。
【図面の簡単な説明】
【0017】
【図1】第1実施形態におけるシステム構成例を示した機能ブロック図である。
【図2】(a)は電波強度と距離との関係を示した図であり、(b)は電波強度と時間との関係を示した図である。
【図3】第1実施形態におけるMRシステムの構成例を示した図である。
【図4】第1実施形態における処理の流れを示したフローチャートである。
【図5】(a)は第1実施形態における電波強度と距離の関係を示した図であり、(b)は第1実施形態における電波強度と時間との関係を示した図である。
【図6】第1実施形態における画像情報を用いた3次元位置情報の生成を説明する図である。
【図7】第2実施形態における送信レベル制御の概念を示した図である。
【図8】第2実施形態におけるBER測定による送信レベル制御を行うシステム構成を示した機能ブロック図である。
【図9】第2実施形態におけるBER測定による送信レベル制御を行うシステムにおける処理の流れを示したフローチャートである。
【図10】第3実施形態における電波強度測定による送信レベル制御を行うシステム構成を示した機能ブロック図である。
【図11】第3実施形態における電波強度測定による送信レベル制御を行うシステムの処理の流れを示したフローチャートである。
【図12】第4実施形態におけるシステム構成の機能ブロック図である。
【図13】第4実施形態におけるシステムの処理の流れを示したフローチャートである。
【図14】第5実施形態におけるシステム構成の機能ブロック図である。
【図15】第5実施形態におけるシステムの処理の流れを示したフローチャートである。
【図16】一般的な、電波強度測定による送信制御を行うシステム構成の例を示した機能ブロック図である。
【図17】一般的な、GPSを用いた位置計測による送信制御を行うシステム構成の例を示した機能ブロック図である。
【発明を実施するための形態】
【0018】
以下、本発明の実施の形態について添付の図面を参照して説明する。
【0019】
[第1実施形態]
本発明を実現する第1実施形態を図に従って説明する。以下の説明では、MR(MixedReality:複合現実感)システムに、本発明の実施形態に係る無線通信システムを適用した場合について説明する。
【0020】
MRとは、現実空間(現実画像)と仮想空間(仮想画像)をリアルタイムかつシームレスに融合して画像提示する映像技術である。MRシステムは、撮像部と表示部とを有するHMD(Head Mounted Display:頭部装着型画像表示装置)を通して、MR空間を提供するシステムである。ここで、HMDの撮像部は、装着者の視点で左右それぞれの目の画像を取得し、表示部は、装着者の左右それぞれの目に画像を表示する。より具体的には、HMDの装着者が観察している現実空間の画像をHMDの撮像部で取得し、撮像された現実空間画像に仮想空間のCG画像を重畳し、生成された合成画像をHMDの表示部に表示することにより、HMDの装着者にMR空間が提供される。
【0021】
図3は、第1実施形態におけるシステム構成例を示した図である。
【0022】
図3において、HMD301は、装着者の観察している左目、右目それぞれの画像を取得するための撮像部と、MR空間を構成する左目、右目用のステレオ画像を装着者に提供するための画像表示部を有する。HMD301は、有線接続された中継器302を介して、撮像画像をコントローラ303に無線で伝送する。中継器302は、HMD301と同様に使用者の身体の一部に装着して使用される。HMD301および中継器302はバッテリーで駆動される。コントローラ303と有線接続されたPC304は、HMD301で撮像された現実空間の画像にCGを重畳する画像処理部を有する。PC304はコントローラ303を介し、CGが重畳された合成画像を中継器302に無線で伝送する。中継器302で受信された合成画像は、HMD301の画像表示部で表示され、装着者に提供される。本実施形態では、HMD301と中継器302を個々のハードウェアとしているが、中継器302の持つ機能を全てHMD301内に実装し、一体型の装置とすることも可能である。同様に、PC304とコントローラ303についても、コントローラ303の持つ機能をすべてPC304内に実装して、一体化することや、PC304とコントローラ303がそれぞれ有する機能を集め、専用の処理装置を構成することも可能である。
【0023】
以下の説明では、機能的な観点から、HMD301と中継器302がそれぞれ有する機能を組み合わせたものをクライアント、PC304とコントローラ303がそれぞれ有する機能を組み合わせたものをサーバと分類して説明する。
【0024】
図1は、本発明の特徴を説明する第1の実施の形態における機能ブロック図である。クライアントとサーバは各々の送信部及び受信部により通信可能に接続されている。
【0025】
第1の装置としてのクライアントは画像入力部101により撮影した現実空間画像を取得し、送信部102から、初期設定で与えられた送信出力で第2の装置としてのサーバに送信する。サーバでは、受信部103で受信した現実空間画像の画像情報を用いて、位置情報生成部104が、サーバとクライアントの相対的な3次元位置情報を生成する。なお、位置情報生成部104は、MR処理を行うためのクライアント(撮像装置)の3次元位置姿勢を生成する位置姿勢検出部として機能するが、距離算出部106が用いるのはこのうちの3次元位置である。生成された3次元位置情報は、画像処理部105においては、現実空間画像(現実画像)上にCG(仮想画像)を描画する位置、大きさ、向きを決定するために利用される。また、3次元位置情報は、距離算出部106においては、サーバとクライアント間の距離(装置間距離)を算出するために利用される。画像処理部105で生成された合成画像および、距離算出部106で生成されたサーバとクライアント間の距離情報は、送信制御部107に送られる。送信制御部107は、距離情報に基づいて送信部108の送信出力を制御し、上記合成画像および距離情報を含むデータを送信部108を介して送信する。この点において、送信部108は、クライアントとサーバ間の装置間距離を送信する距離送信部として機能するものである。
【0026】
クライアントの受信部109は、サーバ(送信部108)より受信した受信データの中から、合成画像データを画像出力部110に、距離情報を送信制御部111に送る。画像出力部110は、受信部109より送られてきた合成画像を、HMD装着者に提供するべく表示する。送信制御部111は、送られてきた距離情報に基づき、画像入力部101で取得された撮像画像を送信部102が送信する際の送信制御を行う。なお、上記送信部102,108と受信部103,109における通信、すなわち、サーバおよびクライアント間の無線通信には、例えば、WPAN規格に含まれる無線通信方式を利用することができる。
【0027】
図4は、第1実施形態におけるMRシステムの処理の流れを説明するフローチャートである。
【0028】
通信が開始されると、まずステップS401において、クライアント側の画像入力部101が、HMD装着者の視点で撮像された現実空間画像を取得する。続くステップS402において、クライアント側の送信部102がステップS401で取得された現実空間画像を、初期設定で与えられた送信出力でサーバに送信する。なお、初期設定の値は任意である。ステップS403において、サーバ側の受信部103が現実空間画像を受信する。ステップS404において、位置情報生成部104は、受信した現実空間画像の画像情報からクライアントの三次元位置情報を生成する。本実施形態において、位置情報生成部104は、通信前の初期設定の段階でシステム使用空間におけるサーバの位置情報が与えられることにより、サーバとクライアントの相対位置関係を算出することができる。また、相対位置関係だけでなく、それぞれの位置情報を絶対座標に合わせることも可能である。
【0029】
画像処理部105は、ステップS405において、ステップS404で生成された位置情報を参照し、ステップS406において現実空間画像にCG画像の重畳を行い、合成画像を生成する。ステップS407において、距離算出部106は、参照した位置情報をもとに、サーバとクライアント間の距離を算出する。送信制御部107は、ステップS408において、距離算出部106が算出した距離情報を参照する。そして、ステップS409において、送信制御部107は、参照した距離情報に基づき、サーバから合成画像および距離情報のデータを送信する際の送信部108の送信出力を制御し、ステップS410でそれらデータを送信する。クライアント側では、ステップS411で受信部109が合成画像と距離情報を受信する。そして、ステップS412において、クライアント側の送信制御部111は、合成画像とともに受信部109が受信した距離情報を参照する。ステップS413において、送信制御部111は、参照した距離情報に基づき、現実空間画像をクライアントからサーバに送信する際の送信部102における送信出力の制御を行う。
【0030】
ステップS414において、クライアントは、送信すべき次の撮像画像があるか否かの判断を行う。撮像画像があると判断された場合は、処理はステップS401に戻り、上述の処理が繰り返される。ステップS401で取得された画像は、ステップS413で決定された送信出力に基づいて、ステップS402において送信部102から送信される。ステップS414で、送信すべき次の撮像画像がないと判断された場合には、通信を終了し本処理を抜ける。
【0031】
図5は、第1実施形態における送信制御部107,111による送信部108,102の送信出力制御について説明する図である。以下、送信部102,108を総称して送信器、受信部103,109を総称して受信器という。
【0032】
図5の(a)は、時刻Tにおける電波強度と距離の関係を示したグラフである。破線は理想環境下において、送信器からの距離がDの位置に存在する受信器においてあるビットレートを維持するために必要な送信出力P1で送信を行った際の電波強度と距離の関係を示している。実線はフェージング環境下において送信出力をP2としたときの電波強度と距離の関係を示している。図5の(b)は、送信器からの距離がDの位置に存在する受信器における電波強度の時間変化を示したグラフである。破線は距離Dにおいて所望のビットレートを維持するために必要な電波強度を、実線はフェージング環境下において送信出力をP2Dしたときの電波強度の時間変化を示している。
【0033】
図5の(a)より、理想環境下であれば、送信器の送信出力をP1に設定することにより、距離Dの位置であるビットレートでの通信を維持可能な受信電波強度P1Dを実現できることが分かる。しかし、フェージング環境下においては電波強度が非常に激しく変動するため、所望のビットレートを維持するためには、図5の(b)において実線で示されている電波強度の最低値が破線の示す電波強度P1Dよりも高くなるように送信出力を設定する必要がある。したがって、本実施形態における送信制御は、
1.送信器からの距離がDの地点において、送信出力がフェージングの影響によって最も電波強度の低い状態になった際にも、所望のビットレートを維持することが可能な受信電波強度P1Dを実現し、かつ、
2.受信電波強度の最低値がP1Dに対して十分なマージンを持つことができる、
ような送信出力P2を選択することを特徴としている。
【0034】
送信器と受信器との間の距離ごとの送信出力P2の設定値は、実際に無線通信システムを使用する環境において事前にデータを取得して、設定しておく。本実施形態においては、想定している最大通信距離は10数メートル程度であり、フェージングの影響による受信電波強度の変化は微小時間で取得できるため、事前の設定は容易に行うことができる。また、送信出力P2の設定は、任意の距離範囲ごとに設定することが可能である。距離範囲を細かく、例えばセンチメートル単位で送信出力P2を設定すれば極めて高精度な送信出力制御が可能となる。また、反対に、距離範囲を大きく、例えばメートル単位で送信出力P2を設定すれば、送信制御部の制御情報格納用のメモリ容量を減らすことができる。このように、第1実施形態では、送受信間距離に応じて必要な電波強度を得るための、送受信間距離と送信出力との関係を示す制御情報を例えばテーブルの形態で保持しておく。そして、このテーブルを参照することにより距離算出部106によって算出された装置間距離に対して適切な送信出力が決定される。
【0035】
図6は、第1実施形態における位置情報について説明する図である。
【0036】
マーカ603は、あらかじめサーバと相対的位置関係を対応付けられているものとする。現実空間画像601にマーカ603が表示されている場合、位置情報生成部104は、画像データ中からマーカ603を検出する。そして、位置情報生成部104は、マーカ603の大きさや形、塗りつぶしのパターンなどの情報から、マーカ603とHMD本体の相対的位置関係およびHMD装着者がマーカを観察している方向に関する三次元位置情報を算出することができる。ここで、マーカ603とサーバの相対的位置関係は既に対応付けられているため、マーカ603とクライアントとの位置関係から、サーバとクライアントの相対的位置関係が求められる。これにより、サーバとクライアント間の距離を算出することができる。
【0037】
図6中では、例として、マーカ603の中心部を原点とする3次元座標系を想定している。但し、座標系の原点はマーカ603上に設定する必要はなく、座標系の原点とマーカ603との相対的位置関係を対応付けることにより、座標系の原点を任意の位置に設定することができる。
【0038】
また、位置情報生成に用いるマーカは単独ではなく、複数のマーカを同時に用いることも可能である。複数のマーカを同時に用いる場合、各マーカの位置関係をあらかじめ定義しておくことによって、それらの相対的位置関係から、マーカを観察しているHMD(HMD装着者)方向を算出することが可能となる。その場合、図6に示したような内部の塗りつぶしパターンによって方向まで識別が可能なマーカではなく、例えば、特定色を用いたカラーマーカや、LEDなどの発光素子のような方向性のない印を利用することも可能となる。
【0039】
また、用意されたマーカではなく、テーブルの輪郭線604のような現実空間画像601の中の特徴点や、画像中の任意の色を抽出し、それらを用いて位置情報を生成することもできる。同一種類のマーカを複数用いたり、数種類のマーカを同時に用いたり、マーカ情報と画像中の特徴点の情報を組み合わせて用いたりすることによって、より高い精度の位置情報も生成できる。さらに、複数のマーカや特徴点の位置関係が対応付けられているため、全てのマーカや特徴点が画像内に表示されていなくても、それぞれのマーカや特徴点の位置を推定することが可能である。
【0040】
本実施形態では、上記の位置情報を用いて算出されるサーバとクライアント間の距離に基づいて送信制御を行う。クライアント側がHMD301と中継器302の別々の装置で構成されている場合、位置情報生成に用いる現実空間画像の撮像を行うHMD内の撮像部と、無線伝送を行う中継器の送受信アンテナは空間的に離れた位置に存在することになる。そのため、上記の位置情報を用いて算出される距離には、わずかながら誤差が生じることになる。その場合、HMD301内の撮像部と中継器302の送受信アンテナの相対的位置関係を補正することにより、サーバと送受信アンテナの相対的位置関係を把握することができ、距離精度の誤差を軽減することが可能となる。但し、より精度の高い制御を行うためには、クライアント側のHMD301と中継器302とを一体化し、HMD301内の撮像部と送受信アンテナの相対的位置関係が常に一定となるように構成することが好ましい。
【0041】
以上説明してきたように、上記システム構成を用いることにより、サーバとクライアントの3次元位置情報から送受信間の距離を高精度に把握することが可能となり、距離情報に基づいた精度の高い送信出力制御を実現できる。また、クライアント側での通信品質のモニタリングを行わないため、消費電力が減少し、バッテリーによる長時間駆動が可能となる。さらに、システム使用前の測定によって、フェージング影響下においても所望のビットレートを維持可能な送信出力を把握し、これを初期設定で与えることにより、安定した通信を実現できる。
【0042】
[第2実施形態]
第2実施形態では、第1の実施形態で説明したサーバとクライアント間の距離情報に加えて、補助的にクライアント側における通信品質の測定結果を用いた送信レベル制御を実施する。これにより、システム使用中の障害物、移動体の増加や他の無線機器による干渉などの影響によって電波環境が悪化し、予め設定された送信出力では所望のビットレートを維持することができない状態に陥った際にも、安定した通信を行うことが可能となる。以下、通信品質の測定としてBERを用いた第2実施形態について図面を参照して説明する。
【0043】
図7は、第2実施形態による送信レベル制御を説明する図である。
【0044】
図7において、破線の直線は理想環境下において、送信器からの距離がDの位置に存在する受信器で所望のビットレートを維持するために必要な電波強度P1Dを得ることのできる送信出力P1で送信を行った際の電波強度と距離の関係を示す。また、破線の曲線はフェージング環境下において送信出力をP2としたときの電波強度と距離の関係を、実線の曲線はフェージング環境下において送信出力をP3としたときの電波強度と距離の関係をそれぞれ示している。また、P1D、P2D、P3Dは送信器からの距離がDの位置での、上記3種類の送信出力におけるそれぞれの受信電波強度を示している。
【0045】
通常、システム使用前の初期設定によって、P2は送信器からの距離がDの位置に設置された受信器において、所望のビットレートを維持するために必要な電波強度P1Dに対して十分なマージンを持った電波強度を実現するように設定されている。しかし、システム使用中に周囲環境に障害物や移動体の増加や、他の無線機器の使用により、電波環境が悪化し、送信出力をP2としたときの電波強度が図7に示したように低下することがある。本実施形態では、このような電波強度の低下を、クライアント側(送信制御部111)でBERや電波強度を測定することにより検知する。そして、距離Dの位置においてP1Dに対し十分なマージンを持つ受信電波強度P3Dを実現する送信出力P3へと送信レベルを引き上げる制御を行う。反対に初期設定時よりも、システム使用中に電波環境が良好になった場合、BERや電波強度を測定することにより過剰な送信出力を検知し、送信レベルを引き下げる制御を行う。
【0046】
以下にBER測定を用いた送信レベル制御について説明する。
【0047】
図8は、第2実施形態におけるBER測定を用いた送信レベル制御について説明する機能ブロック図である。
【0048】
クライアントは画像入力部801により撮像した現実空間画像を取得し、送信部802を介してサーバに送信する。送信部802は、後述の送信レベル制御情報をサーバに送信する制御情報送信部としての機能も有している。初期状態ではサーバとクライアント間の距離情報および送信レベル制御情報を持っていないため、初期設定で与えられた送信出力で送信を行う。
【0049】
サーバでは、受信部803が受信した画像情報を用いて、位置情報生成部804が、サーバとクライアントの相対的な3次元位置情報を生成する。生成された3次元位置情報は、画像処理部805においては現実空間画像上にCGを描画する位置、大きさ、向きの決定に利用される。また、3次元位置情報は、距離算出部806においてはサーバとクライアント間の距離を算出するために利用される。画像処理部805で生成された合成画像、距離算出部806で生成されたサーバとクライアント間の距離情報およびクライアントから送信された送信レベル制御情報は、送信制御部807に送られる。送信制御部807では距離情報と送信レベル制御情報に基づいて、送信部808においてデータ送信を行う際の送信出力を制御する。誤り制御部812では合成画像と距離情報を含む送信データに対して誤り制御を行う。誤り制御が実施された送信データ(合成画像と距離情報)は、上記制御された送信出力でもって送信部808からクライアントに送信される。
【0050】
クライアントにおいて、受信部809は送信部808から送信されたデータを受信する。BER測定部813は、受信部809で受信したデータに対してBER測定を行い、測定されたBERに応じて送信レベル制御情報を生成し、送信制御部811に送る。更にBER測定部813は、受信データの中から、合成画像データを画像出力部810に、距離情報を送信制御部811に送る。画像出力部810は、送られてきた合成画像をHMD装着者に提供するべく表示する。送信制御部811は、BER測定部813から送られてき送信レベル制御情報とた距離情報とに基づき、画像入力部801で取得された撮像画像を送信する際の送信制御を行う。
【0051】
図9は、第2実施形態におけるBER測定を用いた送信レベル制御における処理の流れを説明するフローチャートである。
【0052】
通信が開始されると、まずクライアント側では、ステップS901において、画像入力部801がHMD装着者の視点による現実空間画像を取得する。続くステップS902において、送信部802は、ステップS901で取得された現実空間画像および初期設定で与えられた送信レベル制御情報を、初期設定で与えられた送信出力でサーバに送信する。なお、初期設定の値は任意である。
【0053】
サーバ側では、ステップS903において受信部803がデータを受信すると、ステップS904において、位置情報生成部804は、画像情報からクライアントの3次元位置情報を生成する。本実施形態においては、通信前の初期設定の段階でシステム使用空間におけるサーバの位置情報を与えることにより、サーバとクライアントの相対位置関係を算出することができる。また、相対位置関係だけでなく、それぞれの位置情報を絶対座標に合わせることも可能である。画像処理部805は、ステップS905において位置情報を参照し、ステップS906でその位置情報に基づいて現実空間画像にCG画像の重畳を行い、合成画像を生成する。ステップS907において、距離算出部806は、ステップS904で参照した位置情報をもとに、サーバとクライアント間の距離を算出する。送信制御部807は、ステップS908で算出された距離情報を参照し、ステップS909でクライアントから送られた送信レベル制御情報を参照する。そして、送信制御部807は、ステップS910において、参照した距離情報と送信レベル制御情報に基づき、サーバの送信部808から合成画像および距離情報を送信する際の送信出力を制御する。ステップS911において、誤り制御部812は、ステップS910で生成された、画像情報と距離情報および送信レベル制御情報を含むデータに対して、一般的な誤り検出符号、誤り訂正符号を付加する誤り制御を行う。そして、ステップS912で、送信部808は上記誤り訂正符号が付加されたデータを送信する。
【0054】
クライアント側では、ステップS913で受信部809がデータを受信する。そして、ステップS914において、BER測定部813がBERの測定を行う。ステップS915において、BER測定部813は、ステップS914で測定されたBERが現在の送信レベルで定められたBERの範囲以上であるか否かを判断する。測定されたBERが既定の範囲以上であった場合は、ステップS916において、送信レベルを増加する指示が送られる。ステップS915でBERが既定の範囲以上でないと判断されたときは、ステップ917でBERが既定の範囲以下であるか否かを判断する。測定されたBERが既定の範囲以下であった場合は、ステップS918において、送信レベルを減少する指示が送られる。ステップS917でBERが既定の範囲以下でないと判断されたときは、そのままステップS919の処理に移る。ステップS919において、BER測定部813は、送信レベルの指示に基づいて、送信レベル制御情報を生成し、送信制御部811に送る。ステップS919では、送信レベルの増加或いは減少の指示に応じて、所定量だけ送信出力を増加或いは減少させる。この結果、例えば、送信出力が図7のP2の状態で送信レベルを増加する指示を受けた場合に、図7のP3の送信出力が選択される。送信制御部811は、ステップS920において距離情報を、ステップ921において送信レベル制御情報を参照する。そして、ステップ922において、送信制御部811は、参照した情報に基づき、クライアントから次の撮像画像および送信レベル制御情報を送信する際の送信部802の送信出力を制御する。
【0055】
ステップS923では送信すべき次の画像があるか否かの判断を行い、画像があると判断された場合は、ステップS901に戻り、上記処理を繰り返す。ステップS901取得された画像は、ステップS922で決定された送信出力に基づいて、ステップS902で送信部802から送信される。すなわち、ステップS902において、送信部802は、ステップS901で取得された現実空間画像およびステップS921で設定された送信レベル制御情報を、ステップS922で制御された送信出力でサーバに送信する。ステップS923で、送信すべき次の画像がないと判断された場合には通信を終了し処理を抜ける。
【0056】
[第3実施形態]
第3実施形態では、通信品質の測定として、BER測定の代わりに電波強度測定を行い、その測定結果に基づいて送信出力(送信レベル)を制御する構成について説明する。以下に受信電波強度測定を用いた送信レベル制御について説明する。
【0057】
図10は、第3実施形態における電波強度測定を用いた送信レベル制御を実現するシステムの構成を表す機能ブロック図である。
【0058】
クライアントは画像入力部1001により撮像した現実空間画像を取得し、送信部1002を介して画像を送信する。初期状態ではサーバとクライアント間の距離情報および送信レベル制御情報を持っていないため、送信部1002は初期設定で与えられた送信出力で送信を行う。
【0059】
サーバでは、受信部1003で受信した画像情報を用いて、位置情報生成部1004が、サーバとクライアントの相対的な3次元位置情報を生成する。生成された3次元位置情報は、画像処理部1005において現実空間画像上にCGを描画する際の位置、大きさ、向きの決定に利用される。また、距離算出部1006においては、3次元位置情報は、サーバとクライアント間の距離を算出するために利用される。画像処理部1005で処理された合成画像、距離算出部1006で生成されたサーバとクライアント間の距離情報、およびクライアントから送信された送信レベル制御情報は、送信制御部1007に送られる。送信制御部1007は、距離情報と送信レベル制御情報に基づいて、合成画像および距離情報を含むデータ送信を行う際の送信出力を制御し、送信部1008を介してデータを送信する。送信部1008から送信されたデータは、クライアントの受信部1009で受信される。電波強度測定部1012は、受信されたデータについて受信時の電波強度測定を行い、測定された電波強度に応じて送信レベル制御情報を生成する。また、電波強度測定部1012は、受信データの中から、合成画像データを画像出力部1010に、距離情報および生成した送信レベル制御情報を送信制御部1011に送る。画像出力部1010は、送られてきた合成画像をHMD装着者に提供するべく表示する。送信制御部1011は、電波強度測定部1012から送られてきた距離情報と送信レベル制御情報に基づき、画像入力部1001で取得された撮像画像を送信する際の送信部1002の送信出力を制御する。
【0060】
図11は、第3実施形態による、電波強度測定を用いた送信レベル制御の処理の流れを説明するフローチャートである。
【0061】
通信が開始されると、まずステップS1101において、クライアント側の画像入力部1001がHMD装着者の視点による現実空間画像を取得する。続くステップS1102において、送信部1002は、ステップS1101で取得した現実空間画像および初期設定で与えられた送信レベル制御情報を、初期設定で与えられた送信出力でサーバに送信する。
【0062】
サーバ側ではステップS1103において受信部1003がデータを受信すると、ステップ1104において、位置情報生成部1004が受信した現実空間画像情報からクライアントの3次元位置情報を生成する。本実施形態においては、通信前の初期設定の段階でシステム使用空間におけるサーバの位置情報を与えることにより、サーバとクライアントの相対位置関係を算出することができる。また、相対位置関係だけでなく、それぞれの位置情報を絶対座標に合わせることも可能である。画像処理部1005は、ステップS1105において位置情報を参照し、ステップS1106において現実空間画像に参照した位置情報に基づいてCG画像の重畳を行い、合成画像を生成する。ステップ1107において、距離算出部1006は、参照した位置情報をもとに、サーバとクライアント間の距離を算出する。送信制御部1007は、ステップ1108で距離算出部1006が算出した距離情報を、ステップ1109でクライアントから送られた送信レベル制御情報を参照する。そして、ステップ1110において、送信制御部1007は、それらの参照された情報に基づき、サーバから合成画像および距離情報を送信する際の送信部1008の送信出力を制御する。ステップ1111で、送信部1008はクライアントへデータを送信する。
【0063】
クライアント側では、ステップ1112で受信部1009がデータを受信する。そして、ステップ1113で、電波強度測定部1012は、受信電波強度を測定する。ステップ1114において、電波強度測定部1012は、ステップ1113で測定された電波強度が現在の送信レベルで定められた範囲以上であるか否かを判断する。測定された電波強度が既定の範囲以上であった場合は、ステップS1115において、送信レベルを減少する指示が送られる。ステップS1114で電波強度が既定の範囲以上でないと判断されたときは、ステップS1116で電波強度が既定の範囲以下であるか否かを判断する。測定された電波強度が既定の範囲以下であった場合は、ステップS1117において、送信レベルを増加する指示が送られる。ステップ1116で電波強度が既定の範囲以下でないと判断されたときは、そのままステップS1118の処理に移る。
【0064】
ステップ1118において、電波強度測定部1012は、送信レベルの指示に基づいて、送信レベル制御情報を生成し、送信制御部1011に送る。ステップS1118では、送信レベルの増加或いは減少の指示に応じて、所定量だけ送信出力を増加或いは減少させる。この結果、例えば、送信出力が図7のP2の状態で送信レベルを増加する指示を受けた場合にP3の送信出力が選択される。送信制御部1011は、ステップS1119で距離情報を、ステップS1120で送信レベル制御情報を参照する。そして、ステップ1121において、送信制御部1011は、参照した距離情報及び送信レベル制御情報に基づき、クライアントから次の撮像画像および送信レベル制御情報を送信する際の送信部1002における送信出力を制御する。
【0065】
ステップS1122において、クライアントは送信すべき次の画像があるか否かの判断を行う。次の画像があると判断された場合は、ステップS1101に処理を戻し、画像を取得する。取得された画像は、ステップ1121で決定された送信出力に基づいて、ステップ1102で送信される。ステップ1122で送信すべき次の画像がないと判断された場合には、通信を終了し処理を抜ける。
【0066】
尚、第2及び第3実施形態では、図9および図11のフローチャートで示されるように、1フレーム画像の送受信ごとに通信品質(BERまたは電波強度)を測定し、送信レベル制御を行っている。しかしながら、実際にはシステム使用中には、1フレーム画像の送受信ごとに電波環境が大きく変化することはないと考えられる。したがって、第2、第3実施形態において、BERまたは電波強度の測定回数は任意の時間毎もしくは任意の送受信回数毎に実行するように構成することが現実的である。さらに、使用者が画質の低下を感じた際に、任意のタイミングで送信レベル制御を実行できるような外部入力、送信レベル制御の実行指示をユーザが行うためのユーザインターフェースを持たせることも可能である。
【0067】
また、図8〜図11に示されるシステム構成およびフローチャートでは、クライアント側でBERまたは電波強度を測定し、送信レベル制御を行っている。しかしながら、これらの測定機能および送信レベル制御機能をサーバ側に実装することも可能である。これらの機能をサーバ側に実装した場合、クライアント側の処理負荷が軽減しバッテリー消費を抑えることができるため、クライアント側の無線端末の長時間駆動が可能となる。
【0068】
以上説明してきたように、第2、第3実施形態によれば、第1実施形態の構成に加えて、補助的にBERまたは電波強度の測定結果を用いて送信レベル制御が実施される。これにより、システム使用中の障害物、移動体の増加や他の無線機器による干渉などの影響によって電波環境が悪化し、あらかじめ設定された送信出力では所望のビットレートを維持することができない状態に陥った際にも、安定した通信を行うことが可能となる。
【0069】
なお、上記第2、第3実施形態では、通信品質検出部としてのBER測定部813や電波強度測定部1012で得られた通信品質から派生した送信制御情報(送信レベル制御情報)を、他方の装置へ送信している。しかしながら、これに限られるものではなく、通信品質検出部で得られた通信品質(BER測定部813や電波強度測定部1012の測定結果)を他方の装置へ送信し、各装置で別個に通信品質に基づいて送信レベル制御情報を生成するように構成しても良い。
【0070】
[第4実施形態]
次に、第4実施形態を図に従って説明する。
【0071】
上述の第1乃至第3実施形態では、クライアント側で撮像された画像情報からサーバとクライアントの3次元位置情報を生成した。これに対して、第4実施形態では、クライアント側もしくは外部に設置された、3次元位置或いは3次元位置姿勢を検出可能な3次元位置姿勢センサによって取得されたセンシング情報から、サーバとクライアントの3次元位置情報を生成する。以下、この点を中心に第4実施形態を説明する。
【0072】
MRシステムの3次元位置情報の生成には、HMDに内蔵された主観カメラ(内部イメージセンサ)で撮像した画像情報を用いる方法の他に、各種センシングデバイスによるセンシング情報を用いる方法がある。3次元位置姿勢センサとしてのセンシングデバイスの例としては、磁気センサ、ジャイロセンサ等のHMD自身に取り付けて使用するタイプのデバイスや、客観カメラ(外部イメージセンサ)等のHMDの外部に取り付けて使用するタイプのデバイスが挙げられる。これらのセンシングデバイスは一種類のみで使用することも、複数の種類のデバイスを組み合わせて使用することも可能である。また、第1実施形態で使用したHMDに内蔵された主観カメラで撮像した画像情報と、センシングデバイスで取得したセンシング情報を組み合わせて3次元位置情報の生成を行うことによって、より高い精度の3次元位置情報を得ることが可能となる。以下では、センシングデバイスで取得したセンシング情報のみを用いて3次元位置情報を生成する場合について説明する。
【0073】
図12は、第4実施形態におけるMRシステムの機能構成を示すブロック図である。
【0074】
クライアントにおいて、送信部1202は、画像入力部1201が取得した現実空間画像と、センシング部1212が撮像のタイミングと同期して取得したセンシング情報を、初期設定で与えられた送信出力でサーバに送信する。尚、センシング部1212におけるセンシングデバイスの種類は一種類とは限らず、複数種類のセンシングデバイスを同時に使用することが可能である。
【0075】
サーバにおいて、受信部1203は送信部1202から送信されたデータを受信する。位置情報生成部1204は、センシング部1212で取得された各種センシング情報を用いて、サーバとクライアントの相対的な3次元位置情報を生成する。生成された位置情報は、画像処理部1205において現実空間画像上にCGを描画する際の位置、大きさ、向きの決定に利用される。また、位置情報生成部1204で生成された3次元位置情報は、距離算出部1206においてサーバとクライアント間の距離を算出するために利用される。
【0076】
画像処理部1205で生成された合成画像および、距離算出部1206で生成されたサーバとクライアント間の距離情報は、送信制御部1207に送られる。送信制御部1207は、距離情報に基づいて、合成画像および距離情報を含むデータ送信を行う際の送信部1208の送信出力を制御する。送信部1208は、送信制御部1207によって制御された送信出力でもってデータを送信する。
【0077】
クライアントの受信部1209は、送信部1208から送信された受信データの中から、合成画像データを画像出力部1210に、距離情報を送信制御部1211に送る。画像出力部1210は、送られてきた合成画像をHMD装着者に提供するべく表示する。送信制御部1211は、送られてきた距離情報に基づき、画像入力部1201で取得された撮像画像を送信する際の送信部1202における送信出力を制御する。
【0078】
図13は、第4実施の形態における処理の流れを説明するフローチャートである。
【0079】
通信が開始されると、まずクライアント側ではステップS1301において、センシング部1212は各種センシングデバイスからセンシング情報を取得し、画像入力部1201はHMD装着者の視点による現実空間画像情報を取得する。ステップS1302において、送信部1202は、ステップS1301で取得されたセンシング情報および画像情報を、初期設定で与えられた送信出力でサーバに送信する。
【0080】
サーバ側では、ステップ1303において、受信部1203がデータを受信する。位置情報生成部1204は、ステップS1304において、ステップS1303で受信した各種センシング情報を参照し、ステップS1305において、それらのセンシング情報からクライアントの3次元位置情報を生成する。本実施形態においては、通信前の初期設定の段階でシステム使用空間におけるサーバの位置情報を与えることにより、サーバとクライアントの相対位置関係を算出することができる。また、相対位置関係だけでなく、それぞれの位置情報を絶対座標に合わせることも可能である。画像処理部1205は、ステップS1306において上記生成された位置情報を参照し、ステップ1307において、その位置情報を用いて現実空間画像にCG画像の重畳を行い、合成画像を生成する。
【0081】
ステップ1308において、距離算出部1206は、位置情報生成部1204が生成した位置情報をもとに、サーバとクライアント間の距離を算出する。送信制御部1207は、ステップS1309において上記算出された距離情報を参照し、ステップS1310において上記距離情報に基づいて、サーバから合成画像および距離情報を送信する際の送信部1208の送信出力を制御する。そして、ステップ1311において、送信部1208は、送信制御部1207によって制御された送信出力でもってデータを送信する。
【0082】
クライアント側では、ステップS1312において、受信部1209はデータを受信し、画像出力部1210は受信された画像データを表示する。ステップS1313において、送信制御部1211は、合成画像とともに受信された距離情報を参照する。ステップS1314において、送信制御部1211は、参照した距離情報に基づき、撮像画像をクライアントからサーバに送信する際の送信部1202の送信出力を制御する。
【0083】
ステップS1315において送信すべき次の撮像画像があるか否かの判断を行い、撮像画像があると判断された場合は、ステップS1301に戻り、次の撮像画像を取得する。そして、上記の処理を繰り返す。尚、取得された画像は、ステップ1314で決定された送信出力でもって、ステップ1302で送信部1202から送信される。一方、ステップS1315で、送信すべき次の画像がないと判断された場合には、通信を終了し処理を抜ける。
【0084】
尚、図12および図13に記載の構成およびフローチャートでは、クライアント側にセンシング部1212を有するシステムとなっているが、サーバ側に設ける構成としても良い。例えば、客観カメラのようなセンシングを利用する場合には、センシング情報をサーバ側に直接入力することにより、クライアントからサーバに送信するデータ量を減らすことができ、さらなる省電力化が実現できる。
【0085】
さらに、第2及び第3実施形態と同様に、第4実施形態ではサーバとクライアント間の距離情報に加えて、サーバ側またはクライアント側におけるBERや電波強度の測定結果を用いた送信レベル制御を実施するようにしてもよい。この構成によれば、システム使用中の障害物、移動体の増加や他の無線機器による干渉などの影響によって電波環境が悪化し、予め設定された送信出力では所望のビットレートを維持することができない状態に陥った際にも、安定した通信を行うことが可能となる。尚、BERや電波強度の測定結果を用いた送信レベル制御を実装したシステムについては、3次元位置情報の生成にセンシング情報を用いる点の他には、第2及び第3実施形態と大きな差異はないため、ここでは説明を省略する。
【0086】
以上説明してきたように、センシング情報を用いてサーバとクライアントの3次元位置情報を生成する記載のシステム構成を用いても、第1乃至第3実施形態と同様に、安定した通信品質の維持と省電力化を実現できる。また、BERや電波強度の測定結果を用いて送信レベル制御を行うことも可能である。さらに、第1実施形態で利用したHMDでの撮像画像情報と組み合わせて3次元位置情報を生成することが可能である。このような構成によれば、より精度の高い距離情報を得ることができるため、送信制御の精度も向上させることができる。
【0087】
[第5実施形態]
次に第5実施形態を説明する。
【0088】
第1乃至第4実施形態では、サーバ側で3次元位置情報を生成する構成を説明したが、第5実施形態では、3次元位置情報を生成する構成をクライアント側に設けた構成を説明する。
【0089】
図14は、本発明の特徴を説明する第3の実施の形態におけるシステム構成を示した図である。
【0090】
クライアントは画像入力部1401により撮像した現実空間画像を取得し、フレームメモリ1421に画像データを格納する。位置情報生成部1404は、フレームメモリ1421内の画像情報およびセンシング部1412で取得された各種センシング情報、またはそれら情報のどちらか一方を用いて、サーバとクライアントの相対的な3次元位置情報を生成する。距離算出部1406は、位置情報生成部1404が生成した位置情報からサーバとクライアント間の距離を算出する。送信制御部1411は、算出された距離情報に基づき、クライアントからサーバに3次元位置情報および距離情報を含むデータを送信する際の送信部1402の送信出力を制御する。送信部1402は、送信制御部1411によって制御された送信出力でもって3次元位置情報および距離情報を含むデータをサーバに送信する。従って、第5実施形態では、送信部1402が、クライアントとサーバ間の装置間距離を送信する距離送信部として機能する。
【0091】
サーバは受信部1403でクライアントから送信されたデータを受信する。受信されたデータに含まれる位置情報は、CG描画部1422においてCG画像を描画する際の位置、大きさ、向きの決定に利用される。送信制御部1407は、受信データに含まれる距離情報を参照し、サーバからクライアントにCG画像を送信する際の送信部1408の送信出力を制御する。送信部1408は、送信制御部1407によって制御された送信出力でもってCG画像を送信する。
【0092】
クライアントの受信部1409で受信されたCG画像は、画像合成部1423に送られる。画像合成部1423は、CG画像をフレームメモリ1421に格納されている現実空間画像と合成する。画像出力部1410は、画像合成部1423で生成された合成画像をHMD装着者に提供するべく表示する。
【0093】
図15は、第5実施形態による処理の流れを説明するフローチャートである。
【0094】
通信が開始されると、まずステップS1501において、クライアント側の画像入力部1401が、HMD装着者の視点で撮像された現実空間画像を取得する。ステップ1502において、クライアントは、画像入力部1401が取得した画像データをフレームメモリ1421に格納する。位置情報生成部1404は、ステップS1503で画像情報を参照し、ステップ1504でセンシング部1412からのセンシング情報を取得する。そして、ステップ1505において、位置情報生成部1404は、画像情報とセンシング情報に基づいてクライアントの三次元位置情報を生成する。本実施形態においては、通信前の初期設定の段階でシステム使用空間におけるサーバの位置情報を与えることにより、サーバとクライアントの相対位置関係を算出することができる。また、相対位置関係だけでなく、それぞれの位置情報を絶対座標に合わせることも可能である。
【0095】
ステップ1506において、距離算出部1406は、位置情報生成部1404で生成された位置情報をもとに、サーバとクライアント間の距離を算出する。送信制御部1411は、ステップ1507で、距離算出部1406が算出した距離情報を参照し、ステップ1508で、その距離情報に基づいてクライアントから3次元位置情報および距離情報を送信する際の送信出力を制御する。ステップS1509において、送信部1402は、送信制御部1411がステップS1508で制御した送信出力でもって、3次元位置情報および距離情報を含むデータを送信する。
【0096】
ステップS1510において、サーバ側の受信部1403は、ステップS1509において送信部1402が送信したデータを受信する。CG描画部1422は、ステップ1511で、ステップS1510で受信した3次元位置情報を参照し、ステップS1512で、その3次元位置情報に基づいてCG画像を描画する。送信制御部1407は、ステップS1513で、受信部1403が受信した距離情報を参照し、ステップ1514で、その距離情報に基づいて、サーバからクライアントにCG画像を送信する際の送信部1408の送信出力を制御する。ステップS1515において、送信部1408は、送信制御部1407によって制御された送信出力でもって、CG描画部1422が生成したCG画像を送信する。
【0097】
ステップ1516において、クライアント側の受信部1409は、サーバ側の送信部1408が送信したCG画像を受信する。ステップS1517において、画像合成部1423は、受信データに含まれるCG画像に対応する現実空間画像をフレームメモリ1421から読込み、現実空間画像とCG画像を合成し、MR画像を生成する。そして、画像出力部1410は、このMR画像を表示する。
【0098】
ステップS1519において、クライアントは、次の撮像画像があるか否かの判断を行い、次の画像があると判断されると、処理をステップS1501に戻し、上記の処理を繰り返す。一方、ステップS1519において次の画像がないと判断された場合には、通信を終了し処理を抜ける。
【0099】
以上のように、第5実施形態によれば、クライアントから送信されるデータは、位置情報および距離情報であり、画像データが含まれない。そのため、クライアントからサーバへ送信される情報量は非常に小さくなる。したがって、送信に要する消費電力を大幅に減らすことができ、バッテリーによるクライアント側の無線端末の長時間駆動が実現できる。
【0100】
さらに、第2乃至第4実施形態と同様に、第5実施形態でもサーバとクライアント間の距離情報に加えて、サーバ側またはクライアント側におけるBERや電波強度の測定結果を用いた送信レベル制御を実施することができる。このような構成とすることで、システム使用中の障害物、移動体の増加や他の無線機器による干渉などの影響によって電波環境が悪化し、予め設定された送信出力では所望のビットレートを維持することができない状態に陥った際にも、安定した通信を行える。なお、BERや電波強度の測定結果を用いた送信レベル制御を実装したシステムについては、クライアント側に3次元位置情報生成機能を有する点の他には、第2、第3実施形態により上述した構成と大きな差異はないため、ここでは説明を省略する。
【0101】
以上説明してきたように、第5実施形態によれば、クライアント側に3次元位置情報生成機能を有するシステム構成を用いても、第1乃至第4実施形態と同様に、安定した通信品質の維持と省電力化を実現できる。また、BERや電波強度の測定結果を用いて送信レベル制御を行うことも可能である。また、第4実施形態と同様に、HMDでの撮像画像情報とセンシングデバイスでのセンシング情報を組み合わせて3次元位置情報を生成することが可能であり、より精度の高い距離情報を得ることができるため、送信制御の精度も向上させることができる。さらに、クライアントからサーバに送信するデータ量が大幅に減少するため、送信に要するバッテリー消費量を押さえ、長時間駆動が可能となる。
【0102】
以上のように第1乃至第5実施形態によれば、送受信間の距離を3次元位置情報を用いて高精度で把握することにより、送信制御による省電力化と安定した通信品質の維持を可能とする無線通信システムを実現することができる。また、受信側の無線端末で常に通信品質を常時モニタリングすることなく送信制御を行えるため、無線端末の処理負荷、消費電力を抑えることが可能となる。また、フェージング環境下においても、一定のビットレートを維持して安定した通信が可能となる。また、屋内での近距離無線通信方式使用時においても、省電力化と安定したビットレートによるデータ通信を実現する無線通信システムを提供することができる。
【0103】
以上のように、第1乃至第5実施形態では、MR画像を提示するシステムにおいて、MR画像の生成に必要な観察者の3次元的な位置姿勢検出の結果を、無線の送信出力の制御に利用している。すなわち、3次元位置検出結果を効果的に利用することができる。
【0104】
以上、実施形態を詳述したが、本発明は、例えば、システム、装置、方法、プログラムもしくは記憶媒体等としての実施態様をとることが可能である。具体的には、複数の機器から構成されるシステムに適用しても良いし、また、一つの機器からなる装置に適用しても良い。
【0105】
尚、本発明は、ソフトウェアのプログラムをシステム或いは装置に直接或いは遠隔から供給し、そのシステム或いは装置のコンピュータが該供給されたプログラムコードを読み出して実行することによって前述した実施形態の機能が達成される場合を含む。この場合、供給されるプログラムは実施形態で図に示したフローチャートに対応したコンピュータプログラムである。
【0106】
従って、本発明の機能処理をコンピュータで実現するために、該コンピュータにインストールされるプログラムコード自体も本発明を実現するものである。つまり、本発明は、本発明の機能処理を実現するためのコンピュータプログラム自体も含まれる。
【0107】
その場合、プログラムの機能を有していれば、オブジェクトコード、インタプリタにより実行されるプログラム、OSに供給するスクリプトデータ等の形態であっても良い。
【0108】
コンピュータプログラムを供給するためのコンピュータ読み取り可能な記憶媒体としては以下が挙げられる。例えば、フロッピー(登録商標)ディスク、ハードディスク、光ディスク、光磁気ディスク、MO、CD−ROM、CD−R、CD−RW、磁気テープ、不揮発性のメモリカード、ROM、DVD(DVD−ROM,DVD−R)などである。
【0109】
その他、プログラムの供給方法としては、クライアントコンピュータのブラウザを用いてインターネットのホームページに接続し、該ホームページから本発明のコンピュータプログラムをハードディスク等の記録媒体にダウンロードすることが挙げられる。この場合、ダウンロードされるプログラムは、圧縮され自動インストール機能を含むファイルであってもよい。また、本発明のプログラムを構成するプログラムコードを複数のファイルに分割し、それぞれのファイルを異なるホームページからダウンロードすることによっても実現可能である。つまり、本発明の機能処理をコンピュータで実現するためのプログラムファイルを複数のユーザに対してダウンロードさせるWWWサーバも、本発明に含まれるものである。
【0110】
また、本発明のプログラムを暗号化してCD−ROM等の記憶媒体に格納してユーザに配布するという形態をとることもできる。この場合、所定の条件をクリアしたユーザに、インターネットを介してホームページから暗号を解く鍵情報をダウンロードさせ、その鍵情報を使用して暗号化されたプログラムを実行し、プログラムをコンピュータにインストールさせるようにもできる。
【0111】
また、コンピュータが、読み出したプログラムを実行することによって、前述した実施形態の機能が実現される他、そのプログラムの指示に基づき、コンピュータ上で稼動しているOSなどとの協働で実施形態の機能が実現されてもよい。この場合、OSなどが、実際の処理の一部または全部を行ない、その処理によって前述した実施形態の機能が実現される。
【0112】
さらに、記録媒体から読み出されたプログラムが、コンピュータに挿入された機能拡張ボードやコンピュータに接続された機能拡張ユニットに備わるメモリに書き込まれて前述の実施形態の機能の一部或いは全てが実現されてもよい。この場合、機能拡張ボードや機能拡張ユニットにプログラムが書き込まれた後、そのプログラムの指示に基づき、その機能拡張ボードや機能拡張ユニットに備わるCPUなどが実際の処理の一部または全部を行なう。
【特許請求の範囲】
【請求項1】
第1の装置と第2の装置が無線通信により接続された無線通信システムであって、
前記第1及び第2の装置のいずれかにおいて、前記第1の装置が備える撮像装置によって撮影された画像に基づいて、前記第1の装置の3次元位置を検出する位置検出手段と、
前記第1及び第2の装置のいずれかにおいて、前記位置検出手段で検出された3次元位置に基づいて、前記第1の装置と前記第2の装置の間の装置間距離を算出する距離算出手段と、
前記第1及び第2の装置のうちの前記距離算出手段を有する装置から他方の装置へ、前記装置間距離を前記無線通信を介して送信する距離送信手段と、
前記第1及び第2の装置のそれぞれにおいて、前記装置間距離に基づいて、前記無線通信のための送信出力を制御する出力制御手段とを備えることを特徴とする無線通信システム。
【請求項2】
前記位置検出手段は、前記画像からマーカ、或いは特徴点を抽出し、その大きさ、形、パターン、位置関係に基づいて、前記第1の装置の3次元位置を検出することを特徴とする請求項1に記載の無線通信システム。
【請求項3】
第1の装置と第2の装置が無線通信により接続された無線通信システムであって、
前記第1及び第2の装置のいずれかにおいて、前記第1の装置が備える3次元位置姿勢センサからの出力により、前記第1の装置の3次元位置を検出する位置検出手段と、
前記第1及び第2の装置のいずれかにおいて、前記位置検出手段で検出された3次元位置に基づいて、前記第1の装置と前記第2の装置の間の装置間距離を算出する距離算出手段と、
前記第1及び第2の装置のうちの前記距離算出手段を有する装置から他方の装置へ、前記装置間距離を前記無線通信を介して送信する距離送信手段と、
前記第1及び第2の装置のそれぞれにおいて、前記装置間距離に基づいて、前記無線通信のための送信出力を制御する出力制御手段とを備えることを特徴とする無線通信システム。
【請求項4】
第1の装置と第2の装置が無線通信により接続された無線通信システムにおける送信出力制御方法であって、
前記第1及び第2の装置のいずれかが、前記第1の装置が備える撮像装置によって撮影された画像に基づいて、前記第1の装置の3次元位置を検出する位置検出工程と、
前記第1及び第2の装置のいずれかが、前記位置検出工程で検出された3次元位置に基づいて、前記第1の装置と前記第2の装置の間の装置間距離を算出する距離算出工程と、
前記第1及び第2の装置のうちの前記距離算出工程を実行する装置から他方の装置へ、前記装置間距離を前記無線通信を介して送信する距離送信工程と、
前記第1及び第2の装置のそれぞれが、前記装置間距離に基づいて、前記無線通信のための送信出力を制御する出力制御工程とを備えることを特徴とする送信出力制御方法。
【請求項5】
第1の装置と第2の装置が無線通信により接続された無線通信システムにおける送信出力制御方法であって、
前記第1及び第2の装置のいずれかが、前記第1の装置が備える3次元位置姿勢センサからの出力により、前記第1の装置の3次元位置を検出する位置検出工程と、
前記第1及び第2の装置のいずれかが、前記位置検出工程で検出された3次元位置に基づいて、前記第1の装置と前記第2の装置の間の装置間距離を算出する距離算出工程と、
前記第1及び第2の装置のうちの前記距離算出工程を実行する装置から他方の装置へ、前記装置間距離を前記無線通信を介して送信する距離送信工程と、
前記第1及び第2の装置のそれぞれが、前記装置間距離に基づいて、前記無線通信のための送信出力を制御する出力制御工程とを備えることを特徴とする送信出力制御方法。
【請求項1】
第1の装置と第2の装置が無線通信により接続された無線通信システムであって、
前記第1及び第2の装置のいずれかにおいて、前記第1の装置が備える撮像装置によって撮影された画像に基づいて、前記第1の装置の3次元位置を検出する位置検出手段と、
前記第1及び第2の装置のいずれかにおいて、前記位置検出手段で検出された3次元位置に基づいて、前記第1の装置と前記第2の装置の間の装置間距離を算出する距離算出手段と、
前記第1及び第2の装置のうちの前記距離算出手段を有する装置から他方の装置へ、前記装置間距離を前記無線通信を介して送信する距離送信手段と、
前記第1及び第2の装置のそれぞれにおいて、前記装置間距離に基づいて、前記無線通信のための送信出力を制御する出力制御手段とを備えることを特徴とする無線通信システム。
【請求項2】
前記位置検出手段は、前記画像からマーカ、或いは特徴点を抽出し、その大きさ、形、パターン、位置関係に基づいて、前記第1の装置の3次元位置を検出することを特徴とする請求項1に記載の無線通信システム。
【請求項3】
第1の装置と第2の装置が無線通信により接続された無線通信システムであって、
前記第1及び第2の装置のいずれかにおいて、前記第1の装置が備える3次元位置姿勢センサからの出力により、前記第1の装置の3次元位置を検出する位置検出手段と、
前記第1及び第2の装置のいずれかにおいて、前記位置検出手段で検出された3次元位置に基づいて、前記第1の装置と前記第2の装置の間の装置間距離を算出する距離算出手段と、
前記第1及び第2の装置のうちの前記距離算出手段を有する装置から他方の装置へ、前記装置間距離を前記無線通信を介して送信する距離送信手段と、
前記第1及び第2の装置のそれぞれにおいて、前記装置間距離に基づいて、前記無線通信のための送信出力を制御する出力制御手段とを備えることを特徴とする無線通信システム。
【請求項4】
第1の装置と第2の装置が無線通信により接続された無線通信システムにおける送信出力制御方法であって、
前記第1及び第2の装置のいずれかが、前記第1の装置が備える撮像装置によって撮影された画像に基づいて、前記第1の装置の3次元位置を検出する位置検出工程と、
前記第1及び第2の装置のいずれかが、前記位置検出工程で検出された3次元位置に基づいて、前記第1の装置と前記第2の装置の間の装置間距離を算出する距離算出工程と、
前記第1及び第2の装置のうちの前記距離算出工程を実行する装置から他方の装置へ、前記装置間距離を前記無線通信を介して送信する距離送信工程と、
前記第1及び第2の装置のそれぞれが、前記装置間距離に基づいて、前記無線通信のための送信出力を制御する出力制御工程とを備えることを特徴とする送信出力制御方法。
【請求項5】
第1の装置と第2の装置が無線通信により接続された無線通信システムにおける送信出力制御方法であって、
前記第1及び第2の装置のいずれかが、前記第1の装置が備える3次元位置姿勢センサからの出力により、前記第1の装置の3次元位置を検出する位置検出工程と、
前記第1及び第2の装置のいずれかが、前記位置検出工程で検出された3次元位置に基づいて、前記第1の装置と前記第2の装置の間の装置間距離を算出する距離算出工程と、
前記第1及び第2の装置のうちの前記距離算出工程を実行する装置から他方の装置へ、前記装置間距離を前記無線通信を介して送信する距離送信工程と、
前記第1及び第2の装置のそれぞれが、前記装置間距離に基づいて、前記無線通信のための送信出力を制御する出力制御工程とを備えることを特徴とする送信出力制御方法。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【公開番号】特開2012−191661(P2012−191661A)
【公開日】平成24年10月4日(2012.10.4)
【国際特許分類】
【出願番号】特願2012−131383(P2012−131383)
【出願日】平成24年6月8日(2012.6.8)
【分割の表示】特願2007−146091(P2007−146091)の分割
【原出願日】平成19年5月31日(2007.5.31)
【出願人】(000001007)キヤノン株式会社 (59,756)
【Fターム(参考)】
【公開日】平成24年10月4日(2012.10.4)
【国際特許分類】
【出願日】平成24年6月8日(2012.6.8)
【分割の表示】特願2007−146091(P2007−146091)の分割
【原出願日】平成19年5月31日(2007.5.31)
【出願人】(000001007)キヤノン株式会社 (59,756)
【Fターム(参考)】
[ Back to top ]