説明

追跡システムにおける角度誤差の補正

【解決手段】角度の誤差を補正するために、追跡対象オブジェクトの参照フレームにおける、追跡対象オブジェクトに対応する加速度データが取得される。追跡対象尾オブジェクトの位置データが位置センサから取得され、取得された位置データから位置センサ加速度データが算出される。加速度データは、回転推定量を用いて、位置センサ参照フレームに変換される。変換された加速度データと位置センサ加速度データとの間の誤差の量が決定される。決定された誤差の量に応じて、回転推定量が更新される。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、一般に、追跡システムに関し、とくに、追跡システムの角度の誤差を補償することに関する。
【背景技術】
【0002】
コンピュータゲーム産業において、ユーザとゲームシステムとの間のインタラクションを増加させるゲームの開発がトレンドになっている。よりリッチな対話式の体験を達成するための一つの方法は、ゲームコントローラを用いて、ゲームシステムがゲームコントローラの動きを追跡することによりユーザの動きを追跡し、その動きをゲームの入力として用いることである。一般に、ジェスチャー入力は、コンピュータシステム、ビデオゲームコンソール、スマートアプライアンスなどの電子機器を、オブジェクトを追跡するビデオカメラ又は他の位置センサにより取得されたジェスチャーに反応させるために適用される。
【発明の概要】
【発明が解決しようとする課題】
【0003】
ユーザの位置及び動きの信頼できる測定を行うためには、一般に、ゲームシステムを較正する必要がある。このような較正は、ゲームシステムが使用されるたびに必要となる。較正プロセスは、位置センサに対するコントローラの角度(例えば、ヨー、ピッチ、及びロール)の初期値を決定する。ユーザは、一般に、コントローラを頻繁に移動させ、これらの動きは多数の異なる加速度により変化しうるので、これらの初期角度は頻繁に更新されなければならない。これらの更新された角度は、コントローラに設けられた慣性センサからの角速度測定値を積分することにより推定されうる。しかしながら、この積分が実行されるごとに、わずかな誤差が生じる。したがって、時間がたつにつれて角度の値はずれていき、角度の誤差が一定量に達する。
【0004】
特定の環境下において、ピッチ及びロール角は、コントローラが加速されないときに、重力の方向を測定することにより絶対的に決定しうる。絶対ヨー角を決定するために磁気計が用いられうるが、磁気計は金属及び磁気干渉により影響される。
【課題を解決するための手段】
【0005】
本発明は、本発明の実施の形態を説明するために用いられる、下記の説明及び添付の図面を参照することにより、最も良く理解されうる。
【図面の簡単な説明】
【0006】
【図1】本発明の一つの実施の形態における、追跡システムの透視図を示す図である。
【図2】図2(a)は、本発明の一つの実施の形態における、ボール部を有するゲームコントローラを示す図であり、図2(b)は、本発明の別の実施の形態における、ボール部を有する別のゲームコントローラを示す図であり、図2(c)は、本発明の一つの実施の形態における、ユーザに配置された複数のモーションキャプチャボールを示す図である。
【図3】本発明の一つの実施の形態における、経路に沿って移動されるオブジェクトの例を示す図である。
【図4】本発明の一つの実施の形態における、追跡システムのブロック図を示す図である。
【図5】本発明の一つの実施の形態における、マルチプレイヤー環境の概略図を示す図である。
【図6】本発明の一つの実施の形態に係る追跡システムにおける角度誤差の補償の方法の例を示すフロー図である。
【図7】本発明の一つの実施の形態における、変換された慣性データと位置センサ加速度データとの間の誤差の量を決定する一つの方法を示すフロー図である。
【図8】本発明の一つの実施の形態における、変換された慣性データと位置センサ加速度データとの間の誤差の量を決定する別の方法を示すフロー図である。
【図9】本発明の一つの実施の形態における、変換された慣性データと位置センサ加速度データとの間の誤差の量を決定する別の方法を示すフロー図である。
【図10】本発明の一つの実施の形態に関連して、コントローラの位置を決定するために用いられうるハードウェア及びユーザインタフェースを示す図である。
【図11】本発明の一つの実施の形態における、命令の処理に利用可能な追加のハードウェアを示す図である。
【発明を実施するための形態】
【0007】
本出願は、米国仮出願第61/138,516号(2008年12月17日出願)及び米国出願第12/435,285号(2009年5月4日出願)の優先権を主張し、これらの出願は本明細書に援用される。
【0008】
本明細書では、ゲームシステムにおいて利用される追跡システムにおいて、角度の誤差を補正するための方法及び装置が説明される。本発明の一つの実施の形態において、角度の誤差を補正するために、追跡対象オブジェクトの参照フレームにおける、追跡対象オブジェクトに対応する加速度データが取得される。追跡対象尾オブジェクトの位置データが位置センサから取得され、取得された位置データから位置センサ加速度データが算出される。加速度データは、回転推定量を用いて、位置センサ参照フレームに変換される。変換された加速度データと位置センサ加速度データとの間の誤差の量が決定される。決定された誤差の量に応じて、回転推定量が更新される。
【0009】
下記の説明においては、特定の数値的な詳細が示される。しかしながら、本発明の実施の形態が、これらの特定の詳細なしに実施されることが可能であることは、当業者には明らかである。別の例においては、既知の回路、構造、及び技術は、この説明の理解を不明瞭にしないために、詳細には示されない。
【0010】
下記の詳細な説明のいくつかの部分は、コンピュータメモリ内のデータビット上の演算のアルゴリズム及び記号表現の観点から示される。これらのアルゴリズムの記述及び表現は、その成果を最も効果的に他の当業者に伝えるために、データ処理の分野の当業者により用いられる手段である。アルゴリズムは、本明細書において、及び一般的に、所望の結果を達成する自己矛盾のない一連のステップであると理解されている。ステップは、物理量の必要な物理操作である。通常、必然的ではないが、これらの量は格納可能な電気的又は磁気的信号の形式をとり、変換され、結合され、比較され、及びその他の操作を受ける。これらの信号を、ビット、値、要素、記号、文字、項、数などと呼ぶことが、主に共通の使用のために、時に便利であることが立証されている。
【0011】
しかしながら、これらの語及び類義語の全ては、適当な物理量に関連付けられるもので、これらの量に適用される単なる便利なラベルであることに留意するべきである。以下の議論から明らかであるように、とくにそうではないと断らない限り、詳細な説明の全体にわたって、「処理」「計算」「変換」「調停」「決定」などの語を用いた議論は、物理的(例えば電気的)な量としてコンピュータシステムのレジスタ及びメモリ内で表現されるデータを操作し、コンピュータシステムのメモリ又はレジスタ、又は、他の同様な情報ストレージ、通信又は表示装置の中で物理量として同様に表現される他のデータに変換するコンピュータシステム又は同様の電気的計算装置の動作及び処理のことを指すことが理解される。
【0012】
本発明は、また、本明細書の手順を実行するための装置に関する。この装置は、要求される目的のために特別に構築されてもよいし、コンピュータに格納されたコンピュータプログラムにより選択的に作動された又は再構成された汎用コンピュータを備えてもよい。一つの実施の形態において、本明細書の手順を実行するための装置は、ゲームコンソール(例えば、ソニープレイステーション(登録商標)、ニンテンドーWii(登録商標)、マイクロソフトXbox(登録商標)など)を含む。コンピュータプログラムは、例えば、フロッピー(登録商標)ディスクを含む任意の種類のディスク、光ディスク(例えば、コンパクトディスクリードオンリーメモリ(CD−ROM)、ディジタルビデオディスク(DVD)、ブルーレイディスク(登録商標)など)、及び磁気光学ディスク、リードオンリーメモリ(ROM)、ランダムアクセスメモリ(RAM)、EPROM、EEPROM、磁気又は光学カード、又は電気的命令を格納するために適した任意の種類の媒体などのコンピュータ読み取り可能な記録媒体に格納されてもよい。
【0013】
マシン読み取り可能な媒体は、マシン(例えばコンピュータ)により読み取り可能な形式で情報を格納又は送信するための任意のメカニズムを含む。例えば、マシン読み取り可能な媒体は、マシン読み取り可能な記録媒体(例えば、リードオンリーメモリ(ROM)、ランダムアクセスメモリ(RAM)、磁気ディスク記録媒体、光記録媒体、フラッシュメモリ装置など)、マシン読み取り可能な通信媒体(電気、光、音響又は他の形式の伝送信号、例えば、搬送波、赤外線信号、ディジタル信号など)などを含む。
【0014】
図1は、本発明の一つの実施の形態における、追跡システム100の透視図を示す。追跡システム100は、位置センサ105、位置センサ105により追跡されるオブジェクト110、及び位置センサ105及びオブジェクト110により取得されたデータを処理する計算装置115を含む。一つの実施の形態において、追跡システム100は、ゲームシステムの構成要素である。または、追跡システム100は、モーションキャプチャシステムの構成要素であってもよい。
【0015】
位置センサ105は、二次元又は三次元空間におけるオブジェクト110の位置センサ105に対する位置を測定するセンサである。位置センサ105は、ビデオカメラ、Z−カメラ、ステレオカメラ、ウェブカメラ、超音波センサアレイ、光検出器、又はオブジェクト110の位置を測定可能な他の装置であってもよい。例えば、位置センサ105がカメラであれば、位置センサ105は、オブジェクト110が移動するときに、オブジェクトを含む複数の画像を生成する。
【0016】
位置センサ105による位置測定は、位置センサの測定平面及び位置センサの測定平面に垂直なベクトルにより定義される位置センサ105の参照フレーム150において行われる。本明細書では、参照フレームは、オブジェクトの位置、方向及び他のプロパティを測定するための座標系として定義される。参照フレーム及び座標系という語は、本出願を通して交換可能に用いられる。
【0017】
図示されるように、位置センサ105は、テレビジョンセット120の上面に、床150に対して負のピッチ145をもって設置される。ピッチ145は、位置センサ105の測定平面内にある位置センサの参照フレーム150の水平軸と重力135に垂直な平面との間の角である。ピッチ145がゼロでない値をとる限り、位置センサ105は、ワールド参照フレーム(重力135の向きに沿った軸(例えばy2)を有する参照フレームとして定義される)とは異なる参照フレーム150を有する。
【0018】
本発明の一つの実施の形態において、位置センサ105は標準的なビデオカメラである。この実施の形態において、位置センサ105は、深さ方向の情報(位置センサ105及びオブジェクト110の間の距離)を、オブジェクト110の大きさを特定する予め定義された情報及び/又は位置センサ105の視野(field of view:FOV)を特定する予め定義された情報に基づいて取得してもよい。視野125は、位置センサ105により撮像される所与のシーンの角度範囲である。視野は、カメラのレンズにより発生する画像の歪み(例えばズームの量)を定義する。オブジェクト110が位置センサ105から遠くへ移動するにつれて(すなわち、距離130が増加するにつれて)、位置センサ105により撮像されるオブジェクト110の画像は小さくなる。したがって、位置センサ105に対するオブジェクト110の距離130は、位置センサ105の視野125が既知であれば、追跡対象のオブジェクト110の画像の大きさ(例えば、ピクセルで測定される)の、追跡対象のオブジェクト110の既知の実際の大きさに対する比に基づいて決定できる。
【0019】
本発明の別の実施の形態において、位置センサ105は、Zカメラ(映像を深さ方向の情報とともに撮像可能な単一レンズのビデオカメラ)又はステレオカメラ(三次元画像を撮像可能な2以上のレンズを有するビデオカメラ)である。この実施の形態において、位置センサ105は、オブジェクト110の大きさを特定するための情報を予め設定することなく、深さ方向の情報を取得することができる。
【0020】
本発明の更に別の実施の形態において、位置センサ105は、超音波センサアレイ又は光検出器などのセンサアレイである。このような位置センサ105は、例えば光り又は音の飛行時間又は位相のコヒーレンスを用いて、位置センサ105とオブジェクト110の間の距離を検出し、三角測量を用いてオブジェクト110の垂直及び水平方向の位置を検出する。オブジェクト110は、1以上の慣性センサを含む電子機器である。慣性センサは、単一又は複数の軸に沿った加速度を測定可能でもよく、直線方向だけでなく角加速度を測定可能であってもよい。一つの実施の形態において、オブジェクト110は、図2(b)及び2(b)に示されたゲームコントローラなどの携帯型電子機器又は携帯型電子機器の一部である。別の実施の形態において、オブジェクト110は、図2(c)に示されたモーションキャプチャ(モーキャプ)ボールである。オブジェクト110は、正方形、球、三角形、又はより複雑な形状など、任意の形状を有してもよい。一つの実施の形態において、オブジェクト110は、球状の形状を有する。
【0021】
図2(a)は、本発明の一つの実施の形態における、ボール部205を有するゲームコントローラ200を示す。図2(b)は、本発明の別の実施の形態における、ボール部215を有する別のゲームコントローラ210を示す。ある実施の形態において、ボール部205及び215は、図1のオブジェクト110に相当する。
【0022】
ボール部205及び215は、異なる色であってもよく、一つの実施の形態において、ボール部205及び215は、発光してもよい。球状のボール部が示されているが、ボール205及び215は、球の一部、完全ではない球、アメリカンフットボール又はラグビーで使われるような引き伸ばされたボール、立方体状の形状など、視覚的に追跡する目的のために、他の形状を有していてもよい。一つの実施の形態において、ボール部205及び215は、直径4cmである。しかしながら、より大きい、又は、より小さい大きさであってもよい。より大きい場合は、視覚的に認識しやすい。例えば、直径が5cmのボールでは、4cmのボールに比べて、画像認識におけるピクセル数が約55パーセント多くなる。
【0023】
図2(c)は、本発明の一つの実施の形態における、ユーザ225に配置された複数のモーキャプボール220を示す。モーキャプボール220は、位置センサがモーキャプボール220の間の位置又は角度に基づいてユーザの動きを取得し認識するために、それぞれ近接して接合するようにユーザ225により装着されるマーカである。一つの実施の形態において、モーキャプボール220は、モーションキャプチャスーツに装着される。
【0024】
図1に戻り、オブジェクト110及び位置センサ105は、有線及び/又は無線接続を介して計算装置115に接続される。有線接続は、例えば、IEEE1394(ファイヤーワイヤー(登録商標))ケーブル、イーサネット(登録商標)ケーブル、及びユニバーサルシリアルバス(USB)ケーブルなどを介した接続を含む。無線接続は、例えば、無線忠実(WiFi)接続、ブルートゥース(登録商標)接続、ジグビー(登録商標)接続などを含む。図示された実施の形態において、オブジェクト110は、無線により計算装置115に接続し、位置センサ105は、有線により計算装置115に接続する。
【0025】
計算装置115は、ビデオゲームコンソール、パーソナルコンピュータ、ゲーム機、又は他の計算装置であってもよい。計算装置115は、オブジェクト110からのユーザ入力に応答可能なゲーム又は他のアプリケーションを実行してもよい。オブジェクト110は追跡され、オブジェクト110の動きはユーザ入力を提供する。
【0026】
追跡システム100がオブジェクト110を正確に追跡可能となる前に、追跡システム100は較正される必要がある。例えば、追跡システム100のキャリブレーションは、位置センサ105のピッチ145の算出及び位置センサ105とオブジェクト110との間の相対的なヨーの算出を含んでもよい。オブジェクト110と位置センサ105との間の相対ヨーは、オブジェクト110と位置センサ105の間の向きの差を表す。一つの実施の形態において、オブジェクトが位置センサ105の撮像平面に対して垂直な方向に向いているときに、位置センサ105とオブジェクト110との間のゼロヨーが達成されると定義される。または、オブジェクト110が位置センサ105の方へ真っ直ぐ向いているときに、ゼロヨーが達成されると定義されてもよい。位置センサ105が、視野125の不明なカメラである場合、追跡システム100のキャリブレーションは、位置センサ105の視野125の算出を含む。オブジェクト110の大きさが不明である場合、追跡システム100のキャリブレーションは、オブジェクト110の大きさの決定を含んでもよい。
【0027】
オブジェクト110の内部に配置された慣性センサがキャリブレーションのために十分な慣性データを収集可能とするために、オブジェクト110はユーザにより移動されるべきである。オブジェクト110は、それぞれの慣性データの測定が位置センサ105により測定される位置に対応することを保証するために、位置センサ105の視野125の範囲で移動されるべきである。キャリブレーションの効果は、最小限のしきい値を越え、少なくとも二次元(例えば平面)になるような、オブジェクト110を位置センサ105の視野125の内部の経路に沿って移動させることにより増大させることができる。経路は、位置センサ105に近づく及び/又は遠ざかるような動きを含んでもよい。後述するように、オブジェクト110に対応する慣性データは、追跡システムにおいて角度の誤差を補正するときにも必要となる。
【0028】
取得された慣性データは、慣性データに付随する信号ノイズの量により定義される不確定さを有する。オブジェクト110により測定された加速度の大きさが減少するにつれて、信号ノイズ比(信号を改悪するノイズ強度に対する信号強度の比)は増加する。信号ノイズ比の減少により、慣性データはより不正確になる。一つの実施の形態において、慣性データが最小限の信号ノイズ比を下回ることを防ぐために、最小限の加速度のしきい値が設定される。
【0029】
図3は、本発明の一つの実施の形態における、経路に沿って移動されるオブジェクトの例を示す。図示されるように、オブジェクトは、ゲームコントローラ310の端に取り付けられたボール305であり、経路315は、ユーザの頭の周囲の環状の経路である。環状の経路は、円内の動きが一定の加速度を提供する点で有利である。したがって、環状の経路は、増加された慣性データを提供する。経路315の全体は、位置センサの視野320の内部にあり、位置センサに近づく動き及び遠ざかる動きを含む。
【0030】
図4は、本発明の一つの実施の形態における、追跡システム400のブロック図を示す。追跡システム400は、位置センサ405に物理的に接続され、位置センサ405により追跡されるオブジェクト410に無線接続される計算装置415を含む。もちろん、本発明のある実施の形態において、位置センサ405は計算装置415に無線接続されることが理解されるべきである。一つの実施の形態において、追跡システム400は、図1の追跡システム100に相当する。
【0031】
本発明の一つの実施の形態において、オブジェクト410は、オブジェクト410の内部の固定的な位置に設けられた1以上の慣性センサ420を含むが、本発明の別の実施の形態において、慣性センサ420はオブジェクト410の外部(例えば、オブジェクト110に結合されたコントローラの内部)にある。一つの実施の形態において、慣性センサ420は、1以上のジャイロスコープ及び1以上の加速度計を含む。ジャイロスコープは、向きの変化(例えば、ピッチ、ロール、及びねじりの変化)を検出するために、角運動量を用いる。加速度計は、1以上の軸に沿った加速度を測定する。ジャイロスコープ及び加速度計は、分離された複数のセンサであってもよいし、一つのセンサに結合されていてもよい。一つの実施の形態において、ジャイロスコープ及び加速度計は、マイクロエレクトロメカニカルシステム(micro-electromechanical systems:MEMS)装置である。オブジェクト410が移動されるとき、慣性センサ420は、オブジェクト410に対応する慣性データ(例えば加速度データ)を収集し、計算装置415へデータを送信する。慣性センサ420により収集された慣性データは、オブジェクト410の参照フレーム内にある。
【0032】
オブジェクト410が移動されるとき、位置センサ405は、オブジェクト410の位置の測定値を取得する。測定値は、画像の大きさ及び画像の位置情報を含んでもよい。例えば、位置センサがカメラである場合、位置センサ405は、オブジェクトが移動されている間に、オブジェクトの410の複数の画像を生成する(もちろん、本発明の一つの実施の形態において、位置センサ405は、オブジェクト410が移動されているか否かにかかわらず、オブジェクト410の画像を生成することが理解されるべきである)。位置センサ405は、計算装置415に位置の測定値を送信する。一つの実施の形態において、位置センサ405は、測定値が取得されるとリアルタイムで計算装置415に位置の測定値を流す。
【0033】
本発明の一つの実施の形態において、オブジェクト410が位置センサ405により追跡されるとき、オブジェクト410の位置の変更は、ゲームやコンピュータアプリケーションなどを制御するために、計算装置415に対する入力として使用される。例えば、オブジェクト410の位置の変更は、一人称又は三人称の視点のゲームにおけるキャラクタを制御したり、画面上のマウスカーソルを移動させたりするために用いられてもよい。別の実施の形態において、オブジェクト410から取得された慣性データは、計算装置415に対する入力して使用される。または、慣性データは、計算装置415のための精密かつ正確な入力を提供するために、位置センサ405により得られた位置測定データと組み合わせて用いられてもよい。
【0034】
計算装置415は、ビデオゲームコンソール、パーソナルコンピュータ、ゲーム機などであってもよい。本発明の一つの実施の形態において、計算装置415は、それぞれが異なる演算を実行する、慣性データロジックコンポーネント425、位置測定ロジックコンポーネント430、及び角度誤差推定ロジックコンポーネント435を含む。
【0035】
位置測定ロジックコンポーネント430は、位置センサ405から取得した位置測定データ(例えば画像)を分析し、(例えば位置センサ参照フレーム150における)オブジェクト410の位置を検出する。例えば、位置センサ405がディジタルカメラである場合、位置測定ロジックコンポーネント430は、画像内のオブジェクト410を検出するために、取得した画像を分析する。本発明の一つの実施の形態において、オブジェクト410の画像の位置は、画像内のオブジェクト410を表すピクセルのグループを分析することにより決定され、オブジェクトの中心が検出される。一つの実施の形態において、それぞれのピクセルのガウス分布が算出され、中心位置のピクセル以下の正確さを提供するために用いられてもよい。
【0036】
本発明の一つの実施の形態において、位置測定ロジックコンポーネント430は、位置情報を位置センサ405の三次元座標系に変換する。位置測定データは、以下の数式を用いて、三次元座標系に変換されうる。
【数1】

【数2】

【数3】

ここで、Xwはオブジェクトの参照フレームにおける水平方向の位置、Ywはオブジェクトの参照フレームにおける垂直方向の位置、Xiは水平方向の位置、Yiは垂直方向の位置、Zwは位置センサとオブジェクトとの間の距離、fは位置センサの焦点距離(視野に比例する値)、Rはオブジェクトの大きさ(例えば球の半径をmmで表したもの)、rはオブジェクトの大きさ(例えば球の投影の半径をピクセルで表したもの)である。
【0037】
位置測定データが三次元座標系に変換されると、位置測定ロジックコンポーネント430は、時間に対する位置情報の二階微分をとり、オブジェクト410の位置の時間変化に基づいて、位置センサ405の三次元座標系におけるオブジェクト410の加速度を算出する。位置測定ロジックコンポーネント430は、算出された位置センサ加速度データを角度誤差推定ロジックコンポーネント435に提供する。
【0038】
慣性データロジックコンポーネント425は、慣性データを処理する。本発明の一つの実施の形態において、補正すべきそれぞれの角度について、慣性データロジックコンポーネント425は、慣性データから重力によって生じる加速度を除去し、残った加速度を、その角度についての回転推定量を用いて、オブジェクト410の参照フレームから位置センサ405の参照フレームに変換する。結果のデータは(変換された状態で)、角度誤差推定ロジックコンポーネント435に渡される。本発明の一つの実施の形態によれば、回転の推定量は、以前に決定された角度の値に基づく。例えば、最初に誤差補正処理が実行されると、回転の推定は角度の初期値に基づく。
【0039】
本発明の一つの実施の形態において、慣性データの、オブジェクトの参照フレームから位置センサの参照フレームへの変換は、取得した慣性データが特定のしきい値条件を満たす(例えば、データが所定のノイズフロアよりも大きな値を有する)場合にのみ実行される。慣性データが特定のしきい値条件を満たさない場合、変換は実行されず、誤差補正処理は続行されない。
【0040】
本発明の一つの実施の形態において、取得された慣性データは、その慣性データの大きさに基づいて重み付けされる。例えば、誤差補正の精度は、一般に、取得された加速度データの大きさが増大するにつれて向上する。したがって、オブジェクト410から(慣性センサ420を介して)取得された加速度データが値が大きい場合、取得された加速度データの値が小さい場合よりも重く重み付けされる。
【0041】
角度誤差推定ロジックコンポーネント435は、位置測定ロジックコンポーネント430により算出された加速度と、慣性データロジックコンポーネント425からの慣性データとを比較して、追跡システム400における角度(例えば、追跡対象オブジェクト410の位置センサ405に対するヨー角、ピッチ角、又はロール角)の誤差の量を推定する。それぞれの角度は初期値(例えば追跡システムのキャリブレーション中に算出される)を有することが理解されるべきである。例えば、ヨー角のドリフトを補正する場合、位置センサ405のピッチは既知であり、位置センサ405と追跡対象オブジェクト410との間の相対ヨーの初期値は既に決定されている。ユーザは、一般に、追跡対象オブジェクト410を頻繁に移動させ、これらの移動は多くの異なる加速度により変化するので、これらの初期角度は頻繁に更新される必要がある。本発明の一つの実施の形態において、更新された角度は、慣性センサ420からの角速度の測定値を積分することにより推定されうる。例えば、ヨー角の場合、追跡対象オブジェクト410のヨー角は、慣性センサ420からのデータを積分することにより継続的に算出されうる。しかしながら、この積分が実行されるごとに、わずかな誤差が生じる。こうして、時間を経ると、ヨー角の値はずれる。したがって、ヨー角は始めは既知(初期ヨー角)であるが、時間がたつとずれてくる。別の例として、傾き(ピッチ及びロール角)の場合、オブジェクト410の傾きは、オブジェクト410が所定の時間(例えば一般的には1秒未満)静止状態で保持されると、重力から継続的に決定されうる。しかしながら、オブジェクト410が移動されない(例えば、ユーザが一定の時間オブジェクト410が結合されたゲームコントローラを移動させない)場合、傾きを重力から決定することができない。
【0042】
変換された慣性データは、第1のベクトルセットにより表現され、位置センサの加速度データ(位置センサ405から収集された位置データから算出される)は、第2のベクトルセットとして表現される。位置センサ加速度データ及び変換された慣性データは、同じオブジェクトの動きの異なる測定値を表す。したがって、位置センサ加速度データ及び変換された慣性データは、第1のベクトルセットのそれぞれのベクトルが第2のベクトルセットのベクトルに対応する、合致したベクトルセットを含む。対応するベクトルは、同じ原点と同じ大きさを有する。したがって、変換された慣性データは、角度の誤差の量を決定するために、位置センサ加速度データと比較される(2つのデータセットが合致すれば、回転推定量は正確であり、角度は補正すべき誤差を有しない)。
【0043】
本発明の一つの実施の形態において、ドリフトによる角度(例えば、ヨー、ピッチ、又はロール)の誤差の量を決定するために、位置センサ加速度データは、複数の可能性のある角度により位置センサ加速度データのベクトルを回転させることにより変換され、その変換は、変換された慣性データベクトルと比較される。可能な角度の多数の異なる組み合わせが試されてもよい。位置センサ加速度の回転されたベクトルと変換された慣性データベクトルとの間の最小の差を与える可能な角度の組み合わせが、推定された正しい角度である。誤差の推定量は、慣性センサ420からの角速度測定値(慣性データ)を積分して推定された角度と、推定された正しい角度との間の差である。最急降下法、部分最小二乗法、最小二乗適合技術、又は他の誤差最小化技術が、推定された正しい角度を検出するために試される可能性のある角度の組み合わせの数を最小限にするために用いられてもよい。
【0044】
例えば、オブジェクトの動きを意味するそれぞれのベクトルViは、第1のベクトルセット(位置センサ加速度データベクトル)においてはVi1と表され、第2のベクトルセット(変換された慣性データベクトル)においてはVi2と表される。第1のベクトルセットにおける全てのベクトルVi1について、ベクトルVi1は、可能性のある角度に基づいて三次元回転により変換され、変換されたベクトルVi1’となる。それぞれのベクトルViについて、Vi1’とVi2との間の差Dθが算出される。第1のベクトルセットの回転されたVi1’ベクトルと、第2のベクトルセットのマッチしたVi2ベクトルとの間の差の和が、下記の数式を用いて算出される。
【数4】

【0045】
最小のDθを与える角θが、正しい推定された三次元の角度である。したがって、三次元の角度θを与える可能な角度が、推定された正しい角度を表す。推定された誤差の量は、慣性センサ410からの角速度測定値(慣性データ)の積分から推定された角度と、推定された正しい角度との差により決定されうる。位置センサ加速度データベクトルが変換され、変換された慣性データベクトルと比較される例について説明したが、いずれのセットのベクトルが回転されたとしても2つのベクトルセットの間の角度は同じになるから、いずれのセットのベクトルが回転されるかは問題ではないことが理解されるべきである。
【0046】
本発明の別の実施の形態において、ドリフトによる角度(例えば、ヨー、ピッチ、又はロール)の誤差の量を決定するために、変換された慣性データと位置センサ加速度データの座標系を揃える三次元回転が計算される。三次元回転は、軸及び角度により定義されうる。三次元回転の回転軸eは、下記のように、第1のベクトルセットVi1のベクトルと第2のベクトルセットVi2のベクトルとのクロス積(ベクトル積)をとることにより求められる。
【数5】

【0047】
下記のように、Vi1のVi2への投影を表すスカラーsを求めるために、Vi1とVi2のドット積(内積)もとられる。
【数6】

【0048】
三次元回転角θは、下記のように、回転軸及びスカラーを用いて求められる。
【数7】

【0049】
三次元回転は、いずれかの参照フレームに分解され、その参照フレームのそれぞれの軸の周りの回転角が決定されてもよい。例えば、三次元回転は、x軸の周りの回転量を決定するためにx軸に投影されてもよく、y軸の周りの回転量を決定するためのy軸に投影されてもよい。三次元の角度がオブジェクトの参照フレームに投影される場合、重力に沿った軸の周りの回転はヨーであり、重力に垂直で位置センサの位置検出平面内の軸の周りの回転はピッチである。三次元回転は、例えば、3つの直交する行列、回転行列、又は四元数を用いて、参照フレームの軸の周りの回転に分解されうる。
【0050】
四元数は、実数上の四次元のノルム多元体を形成する。四元数は、行列変換よりも高速に計算することができ、その直交性を失わないから、座標変換の有用な表現を提供する。回転の四元数表現は、四次元ベクトルとして記述される。
【数8】

【0051】
ワールド参照フレームにおいて、四元数の要素は下記のように表現される。
【数9】

【数10】

【数11】

【数12】

ここで、ex、ey、及びezは、それぞれ、オブジェクトの参照フレームのx、y、及びz軸に平行な単位ベクトルを表す。
【0052】
四元数は、参照フレームに合わせることが必要なヨー及びピッチ回転の双方を完全に表現する。しかしながら、さらに直感的な結果を提供するために、四元数は、下記の式によりピッチ及びヨーのオイラー角に変換されてもよい。
【数13】

【数14】

【0053】
分解された角は、推定された正しい角度に対応する。誤差の推定量は、慣性センサ410からの角速度の測定値(慣性データ)を積分して推定される角度と、推定された正しい角度との間の差を算出することにより決定されうる。
【0054】
本発明の別の実施の形態において、ベクトルセットは平面に投影され、二次元角を算出するための計算が実行されてもよい。例えば、位置センサ加速度データベクトル(Vi1)及び変換された慣性データベクトル(Vi2)が平面に投影され、平面内の2つのベクトルセットを揃える、平面の法線の周りの回転が計算される。例えば、ヨー角の補正のために、変換された慣性データベクトル(加速度データベクトル)及び位置センサ加速度データベクトルはXZ平面上に投影され、回転はY軸の周りで求められる。一般に、この計算は、少なくとも1つの角度が既知であるときに実行されうる。例えば、一般に、位置センサ405のピッチは、追跡システムの初期較正により既知である(すなわち、位置センサ405は一般に固定される)。位置センサ加速度データベクトル(Vi1)及び変換された慣性データベクトル(Vi2)を平面上に投影するために、平面の単位長法線ベクトルをgとして、下記の式が用いられうる。
【数15】

【数16】

【0055】
投影されたベクトルは、平面の法線の周りで回転される。例えば、数式9、10、及び11が、それぞれ、x、y、及びz軸の周りに投影されたベクトルを回転させるために用いられうる。投影されたベクトルは、推定された正しい角度を決定するために比較される。角度の誤差量は、推定された正しい角度と慣性データの積分から計算された角度との差に基づいて算出される。
【0056】
推定誤差が決定されると、回転推定量に対して補正が行われる。本発明の一つの実施の形態によれば、補正量は推定誤差の一部(例えば、推定誤差のパーセンテージ)である。したがって、オブジェクト410のセンサ420から取得した加速度をオブジェクト410の参照フレームから位置センサ405の参照フレームに変換するために用いられる回転推定量は、補正量に応じて更新される。
【0057】
本発明の一つの実施の形態によれば、補正量は、前回の補正から経過した時間の関数である。したがって、本発明の一つの実施の形態において、最後の補正から時間が経過するほど、補正量は大きくなる。例えば、ユーザが一定時間(例えば5〜10分)オブジェクト410を動かさなかった場合(例えば、ユーザがオブジェクト410が結合されたコントローラを下に置いていた場合)、かなりの量のドリフトが発生している。この場合、補正量は、推定された誤差の多くの割合を占め、推定された誤差の全てを占めることもある。本発明の一つの実施の形態によれば、ユーザがオブジェクト410を一定時間移動させなかった場合、ユーザは、加速度及び位置データの最小限のしきい値を与える移動経路においてユーザがオブジェクト410を移動させるまで、追跡システムにおけるオブジェクト410の使用をロックされる。本発明の一つの実施の形態において、オブジェクト410は、加速度及び位置データの最小限のしきい値を生成するためにユーザがオブジェクト410を移動させる必要があるとき、特定の色の光及び/又は音声を出力する。
【0058】
本発明の別の実施の形態において、補正量は、ベクトルセットの大きさの関数である。例えば、前述したように、本発明の一つの実施の形態において、ベクトルは重み付けされる(ベクトルの大きさが大きいほど、重く重み付けされる)。ベクトルの重み付けが大きいほど、補正量は大きい。もちろん、上述した実施の形態の任意の組み合わせ(例えば、推定された誤差の一部、経過時間の関数、及び/又はベクトルの大きさに関連した重みの関数)が用いられてもよいことが理解されるべきである。
【0059】
図5は、一つの実施の形態における、プレイヤーにより把持された異なるコントローラの位置を決定するために視覚情報が用いられる、マルチプレイヤー環境500の概略図を示す。マルチプレイヤー環境500において、位置センサ508(カメラとして図示され、以下に説明される)はプレイフィールド418の画像データを取得し、画像データはボールが設けられたコントローラC1、C2、C4、及びC5の位置を取得するために分析される。距離dz1、dz2、dz4、及びdz5は、取得された画像におけるそれぞれのボールの形状及び大きさを分析することにより推定される。計算装置502は、取得された座標及び距離を用いて、画面504におけるプレイヤーの表現としてアバター512a及び512bをそれぞれ生成する。良好な画像認識のための典型的な距離は、約10フィート(3メートル)である。視覚認識の一つの利点は、コントローラを変更する必要なく、画像取得及び画像認識の向上をシステムに取り込めることである。
【0060】
図6は、本発明の一つの実施の形態に係る追跡システムにおける角度誤差の補償の方法600の例を示すフロー図である。方法は、ハードウェア(例えば、回路、専用ロジック、プログラマブルロジック、マイクロコードなど)、ソフトウェア(例えば、処理装置上で実行される命令)、又はそれらの組み合わせを含む処理ロジックにより実行されてもよい。一つの実施の形態において、方法600は、図4の計算装置415により実行される。
【0061】
図6を参照して、ブロック605において、計算装置415は、追跡対象オブジェクト410が移動されるときに、位置センサ405から位置データを取得する。本発明の一つの実施の形態において、計算装置は、撮像装置の二次元参照フレームにおけるオブジェクトの画像を取得する。フローは、ブロック605からブロック610へ移る。
【0062】
ブロック610において、計算装置415は、追跡対象オブジェクトが移動されるときに、追跡対象オブジェクト410から(例えば、慣性センサ420を介して)慣性データを取得する。慣性データは、オブジェクト410の参照フレームにおけるデータである。フローは、ブロック610からブロック615へ移る。ブロック615において、計算装置415は、位置データを、位置センサ405の座標系に変換する。フローはブロック615から620へ移り、計算装置415は、位置データから、オブジェクト410の位置センサ加速度データを算出する。例えば、計算装置415は、位置データの時間変化の二階微分をとって、オブジェクト410の位置センサ加速度データを算出してもよい。本発明の一つの実施の形態において、位置センサ加速度データは、位置センサデータが取得されたときに、リアルタイムに算出される。または、位置センサ加速度データは、定期的に(例えば、10ミリ秒ごとに、0.5秒ごとになど)算出されてもよいし、移動が完了したときに算出されてもよい。フローは、ブロック620からブロック625へ移る。
【0063】
ブロック625において、計算装置415は、回転推定量を用いて、取得された慣性データを位置センサの参照フレームに変換する。本発明の一つの実施の形態によれば、回転推定量は、以前に決定された角度の値に基づく。例えば、誤差補正処理が最初に実行されるとき、回転推定量は、例えば、追跡システムの較正中に決定された角度の初期値に基づく。フローは、ブロック625からブロック630へ移る。
【0064】
ブロック630において、計算装置415は、変換された慣性データと、位置センサ加速度データとの間の誤差の量を決定する。図7は、本発明の一つの実施の形態における、変換された慣性データと位置センサ加速度データとの間の誤差の量を決定する一つの方法を示すフロー図である。したがって、図7の手順は、本発明の一つの実施の形態に係るブロック630の中で実行される。ブロック705において、計算装置415は、複数の可能性のある角度により位置センサ加速度データを変換する。フローはブロック705からブロック710へ移り、計算装置415は、変換された位置センサ加速度データと変換された慣性データベクトルとの間の差を決定する。フローはブロック710からブロック715へ移り、計算装置415は、最小であるベクトル間の差を推定された正しい角度と設定する。フローはブロック715からブロック720へ移り、計算装置415は、推定された正しい角度と、慣性センサ420からの角速度測定値(慣性データ)の積分から導出された角度との間の差に基づいて、角度の誤差の量を決定する。
【0065】
図8は、本発明の一つの実施の形態における、変換された慣性データと位置センサ加速度データとの間の誤差の量を決定する別の方法を示すフロー図である。したがって、図8の手順は、本発明の一つの実施の形態に係るブロック630の中で実行される。ブロック805において、計算装置415は、変換された慣性データと位置センサ加速度データとの座標系を揃える三次元回転を決定する。フローはブロック805からブロック810へ移り、計算装置415は、三次元角度を補正すべき角度に分解する。フローはブロック810からブロック815へ移り、計算装置415は、分解された角度を推定された正しい角度に設定する。フローはブロック815からブロック820へ移り、計算装置415は、推定された正しい角度と、慣性センサ420からの角速度測定値(慣性データ)の積分から導出された角度との間の差に基づいて、角度の誤差の量を決定する。
【0066】
図9は、本発明の一つの実施の形態における、変換された慣性データと位置センサ加速度データとの間の誤差の量を決定する更に別の方法を示すフロー図である。したがって、図9の手順は、本発明の一つの実施の形態に係るブロック630の中で実行される。ブロック905において、計算装置415は、位置センサ加速度データベクトルと、変換された慣性データベクトルを、(例えば、上述した数式15及び16を用いて)、同一の二次元平面上に投影する。ブローはブロック905からブロック910へ移り、計算装置415は、(例えば、上述した数式9、10、又は11のうちの一つを用いて)、平面の法線の周りで投影を回転する。フローはブロック910からブロック915へ移り、計算装置415は、推定された正しい角度と、慣性データの積分から算出された角度との間の差に基づいて、角度の誤差の量を決定する。
【0067】
図6に戻り、フローはブロック630からブロック635へ移る。ブロック635において、計算装置415は、決定された誤差に応じて回転推定量を更新する。こうして、ブロック625において説明した、取得された慣性データを位置センサの参照フレームに変換するために用いられる回転推定量は、決定された誤差の量に応じて更新される。本発明の一つの実施の形態によれば、更新される回転推定量は、推定された誤差の量の一部(例えば、決定された誤差推定量のパーセンテージ)である。
【0068】
本発明の一つの実施の形態によれば、補正量は、前回の回転推定量の更新から経過した時間の関数である。したがって、本発明の一つの実施の形態において、直近の更新から時間が経過するほど、補正量は大きい。例えば、ユーザが一定時間(例えば5〜10分)オブジェクト410を動かさなかった場合(例えば、ユーザがオブジェクト410が結合されたコントローラを下に置いていた場合)、かなりの量のドリフトが発生している可能性がある。この場合、補正量は、推定された誤差の多くの割合を占め、推定された誤差の全てを占めることもある。本発明の一つの実施の形態によれば、ユーザがオブジェクト410を一定時間移動させなかった場合、ユーザは、加速度及び位置データの最小限のしきい値を与える移動経路においてユーザがオブジェクト410を移動させるまで、追跡システムにおけるオブジェクト410の使用をロックされる。本発明の一つの実施の形態において、オブジェクト410は、加速度及び位置データの最小限のしきい値を生成するためにユーザがオブジェクト410を移動させる必要があるとき、特定の色の光及び/又は音声を出力する。
【0069】
本発明の別の実施の形態において、補正量は、ベクトルセットの大きさの関数である。例えば、前述したように、本発明の一つの実施の形態において、ベクトルは重み付けされる(ベクトルの大きさが大きいほど、重く重み付けされる)。ベクトルの大きさが大きいほど、ベクトルはノイズにより影響されにくい。ベクトルの重み付けが大きいほど、補正量は大きい。したがって、推定された誤差の精度は、ベクトルの重み付けにより向上する。もちろん、上述した実施の形態の任意の組み合わせ(例えば、推定された誤差の一部、経過時間の関数、及び/又はベクトルの大きさに関連した重みの関数)が用いられてもよいことが理解されるべきである。
【0070】
図10は、本発明の一つの実施の形態に関連して、コントローラの位置を決定するために用いられうるハードウェア及びユーザインタフェースを示す。図10は、本発明の一つの実施の形態に係る三次元コントローラ位置探索システムの実装に互換性のあるコンソールであるソニープレイステーション3(登録商標)エンタテインメント装置の全体システム構成を概略的に示す。システムユニット1400とともに、システムユニット1400に接続可能な種々の周辺装置が設けられる。システムユニット1400は、セルプロセッサ1428、ランバス(登録商標)ダイナミックランダムアクセスメモリ(XDRAM)ユニット1426、専用のビデオランダムアクセスメモリ(VRAM)ユニット1432とともに設けられたリアリティシンセサイザーグラフィックスユニット1430、及び入出力ブリッジ1434を備える。システムユニット1400は、さらに、入出力ブリッジ1434を介してアクセス可能な、ディスク1440Aから読み出すためのブルーレイ(登録商標)ディスクBD−ROM光ディスクリーダ1440及び脱着可能なスロットインハードディスクドライブ(HDD)1436を備える。システムユニット1400は、オプションで、入出力ブリッジ1434を介して同様にアクセス可能な、コンパクトフラッシュ(登録商標)メモリカード、メモリスティック(登録商標)メモリカードなどを読み出すためのメモリカードリーダ1438をさらに備える。
【0071】
入出力ブリッジ1434は、さらに、複数のユニバーサルシリアルバス(USB)2.0ポート1424、ギガビットイーサネット(登録商標)ポート1422、IEEE802.11b/g無線ネットワーク(Wi−Fi)ポート1420、7つのブルートゥース(登録商標)接続までサポート可能なブルートゥース無線リンクポート1418に接続する。
【0072】
動作中、入出力ブリッジ1434は、1以上のゲームコントローラ1402〜1403からのデータを含む全ての無線、USB及びイーサネット(登録商標)データを扱う。例えば、ユーザがゲームをプレーするとき、入出力ブリッジ1434は、ブルートゥースリンクを介してゲームコントローラ1402〜1403からデータを受信し、セルプロセッサ1428に伝える。セルプロセッサ1428は、ゲームの現在の状態をそのように更新する。
【0073】
無線、USB及びイーサネット(登録商標)ポートは、ゲームコントローラ1402〜1403に加えて、リモートコントローラ1404、キーボード1406、マウス1408、ソニープレイステーションポータブル(登録商標)エンタテインメント装置などの携帯型エンタテインメント装置1410、アイトイ(登録商標)ビデオカメラなどのビデオカメラ1412、マイクロフォンヘッドセット1414、及びマイクロフォン1415などの他の周辺装置との接続も提供する。これらの周辺装置は、原則として、システムユニット1400に無線で接続されてもよい。例えば、携帯型エンタテインメント装置1410は、Wi−Fiアドホック接続を介して通信してもよいし、マイクロフォンヘッドセット1414は、ブルートゥースリンクを介して通信してもよい。
【0074】
これらのインタフェースの提供は、プレイステーション3装置が、ディジタルビデオレコーダ(DVR)、セットトップボックス、ディジタルカメラ、携帯型メディアプレーヤ、ボイスオーバーIP電話、携帯電話、プリンタ、及びスキャナなどの他の周辺装置との互換性をも潜在的に有することを意味する。
【0075】
さらに、プレイステーション(登録商標)又はプレイステーション2(登録商標)装置により用いられる種類のメモリカード1448の読み出しを可能にするレガシーメモリカードリーダ1416が、USBポート1424を介してシステムユニットに接続されてもよい。
【0076】
ゲームコントローラ1402〜1403は、ブルートゥースリンクを介してシステムユニット1400と無線通信可能であるか、USBポートを介して接続して、ゲームコントローラ1402〜1403のバッテリを充電するための電源も提供可能である。ゲームコントローラ1402〜1403は、メモリ、プロセッサ、メモリカードリーダ、フラッシュメモリなどの永続メモリ、LED又は赤外光などの光照射部、超音波通信のためのマイクロフォン及びスピーカ、音響チャンバ、ディジタルカメラ、内部クロック、ゲームコンソールに面した球などの認識可能な形状、及びブルートゥース、WiFiなどのプロトコルを用いた無線通信を含んでもよい。
【0077】
図1A〜4Aにおいて前述したように、ゲームコントローラ1402は両手で用いられるように設計されたコントローラであり、ゲームコントローラ1403は、ボールが設けられた、片手で扱うコントローラである。1以上のアナログジョイスティック及び従来の制御ボタンに加えて、ゲームコントローラは、三次元位置決定が可能である。したがって、ゲームコントローラのユーザのジェスチャー及び動きが、従来のボタン又はジョイスティックのコマンドに加えて、又はそれに代えて、ゲームに対する入力として翻訳されてもよい。オプションとして、プレイステーションポータブル装置などの他の無線通信可能な周辺装置がコントローラとして用いられてもよい。プレイステーションポータブル装置の場合、装置の画面に、更なるゲーム又は制御情報(例えば、制御命令又はライフの数)が提供されてもよい。ダンスマット(図示せず)、光線銃(図示せず)、ステアリングホイール及びペダル(図示せず)、又は早押しクイズゲームのための単一又はいくつかの大きなボタンなどの専用コントローラ(図示せず)などの他の代替又は追加の制御装置が用いられてもよい。
【0078】
リモートコントローラ1404は、ブルートゥースリンクを介してシステムユニット1400と無線通信可能である。リモートコントローラ1404は、ブルーレイディスクBD−ROMリーダ1440の動作及びディスク内容のナビゲーションのために適した制御を備える。
【0079】
ブルーレイディスクBD−ROMリーダ1440は、従来の記録済み及び記録可能なCD及びいわゆるスーパーオーディオCDに加えて、プレイステーション及びプレイステーション2装置に互換なCD−ROMを読み出し可能である。リーダ1440は、従来の記録済み及び記録可能なDVDに加えて、プレイステーション2及びプレイステーション3装置に互換なDVD−ROMを更に読み出し可能である。リーダ1440は、さらに、従来の記録済み及び記録可能なブルーレイディスクだけでなく、プレイステーション3装置に互換なBD−ROMを読み出し可能である。
【0080】
システムユニット1400は、生成された、又は、リアリティシンセサイザーグラフィックスユニット1430を介してプレイステーション3装置によりデコードされた音声及び映像を、音声及び映像コネクタを介して、モニタ又はディスプレー1444と1以上のラウドスピーカ1446を有するテレビジョンセットなどの表示及び音声出力装置1442に対して供給可能である。音声コネクタ1450は、従来のアナログ及びディジタル出力を含んでもよく、映像コネクタ1452は、コンポーネントビデオ、S−ビデオ、コンポジットビデオ、及び1以上の高解像度マルチメディアインタフェース(HDMI)出力などを含んでもよい。結果として、映像出力は、PAL又はNTSC、又は、720p、1080i又は1080p高解像度の形式であってもよい。
【0081】
音声処理(生成、デコードなど)は、セルプロセッサ1428により実行される。プレイステーション3装置のオペレーティングシステムは、ドルビー(登録商標)5.1サラウンド音声、ドルビーシアターサラウンド(DTS)、及びブルーレイディスクからの7.1サラウンド音声のデコードをサポートする。
【0082】
本発明の一つの実施の形態によれば、ビデオカメラ1412は、単一の電荷結合素子(CCD)、LEDインジケータ、及びハードウェアベースのリアルタイムデータ圧縮エンコード装置を備え、圧縮されたビデオデータは、システムユニット1400によりデコードするために、画像間ベースのMPEG(motion picture expert group)スタンダードなどの適当な形式で送信されてもよい。カメラLEDインジケータは、例えば逆光条件を知らせるなどのシステムユニット1400からの適切な制御データに応答して光る。ビデオカメラ1412の実施の形態は、USB、ブルートゥース、又はWi−Fiの通信ポートを介してシステムユニット1400に接続してもよい。ビデオカメラの実施の形態は、1以上の結合されたマイクロフォンを含み、音声データを送信可能であってもよい。ビデオカメラの実施の形態において、CCDは、高精細ビデオキャプチャに適した解像度を有してもよい。使用中、ビデオカメラにより撮像された画像は、例えば、ゲーム内に組み込まれてもよいし、ゲーム制御入力として解釈されてもよい。カメラの別の実施の形態において、カメラは、赤外光を検出するのに適した赤外線カメラである。
【0083】
一般に、システムユニット1400の通信ポートの一つを介して、ビデオカメラ又はリモートコントローラなどの周辺装置との間で発生するデータ通信を成功させるために、デバイスドライバなどの適切なソフトウェアが提供されるべきである。デバイスドライバの技術は既知であり、ここでは詳述しないが、本実施の形態においてデバイスドライバ又は類似のソフトウェアインタフェースが要求されることは、当業者には理解されるところである。
【0084】
図11は、本発明の一つの実施の形態における、命令の処理に利用可能な追加のハードウェアを示す。図10のセルプロセッサ1428は、メモリコントローラ1560及びデュアルバスインタフェースコントローラ1570A、1570Bを備える外部入出力構成、パワープロセッシングエレメント(PPE)1550と呼ばれるメインプロセッサ、シナジスティックプロセッシングエレメント(SPE)1510A〜Hと呼ばれる8個のコプロセッサ、要素相互接続バス1580と呼ばれる、上記の要素を接続する環状データバスの4つの基本要素を備えた構成を有する。セルプロセッサの全体の浮動小数点演算は、プレイステーション2装置のエモーションエンジンの6.2Gフロップスであるのに対して、218Gフロップスである。
【0085】
パワープロセッシングエレメント(PPE)1550は、3.2GHzの内部クロックで動作するパワーPC(PowerPC)コア(PPU)1555に互換な、双方向平行マルチスレッドパワー1470に基づいている。これは、512kBのレベル2(L2)キャッシュ及び32kBのレベル1(L1)キャッシュを備える。PPE1550は、クロックサイクルごとに8つの単精度演算を行うことができ、これは3.2GHzにおいて25.6ギガフロップスにあたる。PPE1550の主要な役割は、ほとんどの計算作業負荷を扱うSPE1510A〜Hのためのコントローラとして機能することである。動作において、PPE1550は、ジョブのキューを保持し、SPE1510A〜Hのジョブをスケジューリングし、それらの進行を監視する。それぞれのSPE1510A〜Hは、ジョブを取ってきて実行するのが役割であるカーネルを実行し、PPE1550に同期される。
【0086】
それぞれのSPE1510A〜Hは、シナジスティックプロセッシングユニット(SPU)1520A〜Hを備え、それぞれのメモリフローコントローラ(MFC:Memory Flow Controller)1540A〜Hは、ダイナミックメモリアクセスコントローラ(DMAC:Dynamic Memory Access Controller)1542A〜H、メモリ管理ユニット(MMU)1544A〜H、及びバスインタフェース(図示せず)を備える。それぞれのSPU1520A〜Hは、クロックが3.2GHzで、原則として4GBまで拡張可能な256kBのローカルRAM1530A〜Hを備える、RISCプロセッサである。それぞれのSPEは、理論上、25.6GFLOPSの単精度性能を与える。SPUは、4つの単精度浮動小数演算、4つの32ビット演算、8つの16ビット整数演算、又は16の8ビット整数演算を、1つのクロックサイクルで実行可能である。同じクロックサイクルにて、メモリ命令を実行することもできる。SPU1520A〜Hは、システムメモリXDRAM1426に直接アクセスしない。SPU1520A〜Hにより生成される64ビットのアドレスは、MFC1540A〜Hに渡され、要素相互接続バス1580及びメモリコントローラ1560を介してメモリにアクセスするためのDMAコントローラ1542A〜Hに命令される。
【0087】
要素相互接続バス(EIB)1580は、セルプロセッサ1428の内部の論理的に巡回した通信バスである。EIBは、上述のプロセッサエレメント、すなわち、PPE1550、メモリコントローラ1560、デュアルバスインタフェース1570A、B、及び8つのSPE1510A〜Hの、合計12の要素を接続する。要素は、クロックサイクルごとに8バイトの速度でバスを同時に読み、及び書き込むことができる。前述したように、それぞれのSPE1510A〜Hは、より長いリード又はライトシーケンスをスケジュールするためのDMAC1542A〜Hを備える。EIBは4つのチャンネルを備え、2つは時計回りで、2つは反時計回りの方向である。12の要素の間で、任意の2つの要素の間のうち最も長いデータフローは、適切な方向に6ステップとなる。EIBの12スロットの帯域の理論上のピークの瞬間は、要素間の調停を通じて全てが利用されたとき、クロックごとに96バイトである。これは、クロックレートが3.2GHzのときの理論上のピークバンド幅の307.2GB/s(ギガバイト毎秒)と同じである。
【0088】
メモリコントローラ1560は、ランバス社により開発されたXDRAMインタフェース1562を備える。メモリコントローラは、理論上はピークバンド幅毎秒25.6ギガバイトで、ランバスXDRAM1426と接続する。
【0089】
デュアルバスインタフェース1570A、Bは、ランバスフレックスIO(登録商標)システムインタフェース1572A、Bを備える。インタフェースは、それぞれが8ビット幅である、入力5経路、出力7経路の12チャンネルに組織化される。これは、セルプロセッサ及びコントローラ170Aを介した入出力ブリッジ700及びコントローラ170Bを介したリアリティシミュレータグラフィックスユニット200の間の62.4GB/s(出力36.4GB/s、入力26GB/s)の理論的ピークバンド幅を提供する。
【0090】
セルプロセッサ1428によりリアリティシミュレータ(Reality Simulator)グラフィクスユニット1430に送られたデータは、典型的には、表示リスト、頂点の描画命令列、ポリゴンに対するテクスチャの適用、光条件の特定などを含む。
【0091】
図面のフロー図は、本発明の特定の実施の形態により実行される手順の特定の順序を示すが、そのような順序は例であり、例えば、別の実施の形態では、異なる順序で、特定の手順を組み合わせたり、特定の手順を重複したりして手順が実行されてもよい。
【0092】
単一の角度(例えば、ヨー、ピッチ、又はロール)の誤差を補正することに関する本発明の実施の形態が説明されたが、本発明の別の実施の形態において、複数の角度の誤差が同時に補正されてもよいことが理解されるべきである。
【0093】
上述の説明は、例示を意図しており、制限を意図していないことが理解されるべきである。上述の説明を読み、理解した当業者には、多数の別の実施の形態が明らかとなろう。本発明が、いくつかの特定の実施の形態に関して説明されたが、本発明は説明された実施の形態に限られず、添付された特許請求の範囲の精神及び範囲内で変更及び代替が可能であることは、当業者に認識されるところである。したがって、詳細な説明は、限定ではなく例示であるとみなされるべきである。本発明の範囲は、特許請求の範囲に与えられる全ての範囲の均等物とともに、特許請求の範囲を参照して決定されるべきである。

【特許請求の範囲】
【請求項1】
オブジェクトを追跡するときに、回転角度の誤差を補償する方法であって、
前記オブジェクトの参照フレームにおける、追跡される前記オブジェクトに対応する慣性データを取得するステップと、
回転推定量を用いて、前記慣性データを、位置センサの参照フレームに変換するステップと、
変換された慣性データと、位置センサから取得された位置データから導出された加速度データとの間の誤差の量を決定するステップと、
決定された誤差に応じて、前記回転推定量を更新するステップと、
を備えることを特徴とする方法。
【請求項2】
前記位置センサは、ディジタルカメラ、Z−カメラ、超音波センサ、及びフォトソニックセンサのうちの一つであることを特徴とする請求項1に記載の方法。
【請求項3】
前記オブジェクトは、ゲームコントローラに結合された球であり、
前記位置センサに対する前記球の位置により、ビデオゲームに関連付けられた関連性が制御されることを特徴とする請求項1に記載の方法。
【請求項4】
前記回転推定量を更新するステップは、決定された誤差の一部に基づいて前記回転推定量を更新するステップを含むことを特徴とする請求項1に記載の方法。
【請求項5】
前記回転推定量を更新するステップは、前記回転推定量の前回の更新から経過した時間に基づいて前記回転推定量を更新するステップを含むことを特徴とする請求項1に記載の方法。
【請求項6】
取得された前記慣性データは、追跡される前記オブジェクトの加速度データを含み、
追跡される前記オブジェクトの加速度データは、第1の複数のベクトルを含み、前記位置データから導出された加速度データは、第2の複数のベクトルを含む
ことを特徴とする請求項1に記載の方法。
【請求項7】
前記第1の複数のベクトルのそれぞれのベクトルについて、最小限のしきい値よりも小さい大きさを有するベクトルを除去するステップを更に備えることを特徴とする請求項6に記載の方法。
【請求項8】
前記第1の複数のベクトルのそれぞれについて、ベクトルの大きさに基づいてベクトルに重み付けを適用するステップを更に備え、
小さいベクトルよりも大きいベクトルにより重い重みが付けられることを特徴とする請求項6に記載の方法。
【請求項9】
前記誤差の量を決定するステップは、
複数の可能性のある角度を選択するステップと、
前記複数の可能性のある角度のそれぞれにより、前記第2の複数のベクトルを回転させるステップと、
前記複数の可能性のある角度のそれぞれについて、回転されたベクトルと、前記第1の複数のベクトルとの間の差を決定するステップと、
前記複数の可能性のある角度のうち、回転されたベクトルと、前記第1の複数のベクトルとの間の差を最小にする角度を特定するステップと、
特定された角度を、推定された正しい角度として設定するステップと、
前記推定された正しい角度と回転角との間の差に基づいて、推定された誤差の量を決定するステップと、
を含むことを特徴とする請求項6に記載の方法。
【請求項10】
前記誤差の量を決定するステップは、
前記第1の複数のベクトルと前記第2の複数のベクトルの向きを揃える、前記第1の複数のベクトルと前記第2の複数のベクトルとの間の三次元角度を含む三次元回転を決定するステップと、
前記三次元角度を、回転角と同じ形式の分解角度に分解するステップと、
前記分解角度を、推定された正しい角度として設定するステップと、
前記推定された正しい角度と前記回転角との間の差に基づいて、推定された誤差の量を決定するステップと、
を含むことを特徴とする請求項6に記載の方法。
【請求項11】
前記誤差の量を決定するステップは、
前記第1及び第2の複数のベクトルを平面に投影するステップと、
投影されたベクトルを、前記平面の法線の周りで回転させるステップと、
回転された投影されたベクトルの間の差に基づいて、推定された誤差の量を決定するステップと、
を含むことを特徴とする請求項6に記載の方法。
【請求項12】
前記回転推定量を更新するステップは、前記第1の複数のベクトルのそれぞれの大きさに基づいて前記回転の量を更新するステップを含むことを特徴とする請求項6に記載の方法。
【請求項13】
プロセッサにより実行されたときに、前記プロセッサに、オブジェクトを追跡するときに回転角度の誤差を補償する手順を実行させるための命令を提供するコンピュータ読み取り可能な記録媒体であって、
前記手順は、
前記オブジェクトの参照フレームにおける、追跡される前記オブジェクトに対応する慣性データを取得するステップと、
回転推定量を用いて、前記慣性データを、位置センサの参照フレームに変換するステップと、
変換された慣性データと、位置センサから取得された位置データから導出された加速度データとの間の誤差の量を決定するステップと、
決定された誤差に応じて、前記回転推定量を更新するステップと、
を備えることを特徴とする方法。
【請求項14】
前記位置センサは、ディジタルカメラ、Z−カメラ、超音波センサ、及びフォトソニックセンサのうちの一つであることを特徴とする請求項13に記載の記録媒体。
【請求項15】
前記オブジェクトは、ゲームコントローラに結合された球であり、
前記位置センサに対する前記球の位置により、ビデオゲームに関連付けられた関連性が制御されることを特徴とする請求項13に記載の記録媒体。
【請求項16】
前記回転推定量を更新するステップは、決定された誤差の一部に基づいて前記回転推定量を更新するステップを含むことを特徴とする請求項13に記載の記録媒体。
【請求項17】
前記回転推定量を更新するステップは、前記回転推定量の前回の更新から経過した時間に基づいて前記回転推定量を更新するステップを含むことを特徴とする請求項13に記載の記録媒体。
【請求項18】
取得された前記慣性データは、追跡される前記オブジェクトの加速度データを含み、
追跡される前記オブジェクトの加速度データは、第1の複数のベクトルを含み、前記位置データから導出された加速度データは、第2の複数のベクトルを含む
ことを特徴とする請求項13に記載の記録媒体。
【請求項19】
前記第1の複数のベクトルのそれぞれのベクトルについて、最小限のしきい値よりも小さい大きさを有するベクトルを除去するステップを更に備えることを特徴とする請求項18に記載の記録媒体。
【請求項20】
前記第1の複数のベクトルのそれぞれについて、ベクトルの大きさに基づいてベクトルに重み付けを適用するステップを更に備え、
小さいベクトルよりも大きいベクトルにより重い重みが付けられることを特徴とする請求項18に記載の記録媒体。
【請求項21】
前記誤差の量を決定するステップは、
複数の可能性のある角度を選択するステップと、
前記複数の可能性のある角度のそれぞれにより、前記第2の複数のベクトルを回転させるステップと、
前記複数の可能性のある角度のそれぞれについて、回転されたベクトルと、前記第1の複数のベクトルとの間の差を決定するステップと、
前記複数の可能性のある角度のうち、回転されたベクトルと、前記第1の複数のベクトルとの間の差を最小にする角度を特定するステップと、
特定された角度を、推定された正しい角度として設定するステップと、
前記推定された正しい角度と回転角との間の差に基づいて、推定された誤差の量を決定するステップと、
を含むことを特徴とする請求項18に記載の記録媒体。
【請求項22】
前記誤差の量を決定するステップは、
前記第1の複数のベクトルと前記第2の複数のベクトルの向きを揃える、前記第1の複数のベクトルと前記第2の複数のベクトルとの間の三次元角度を含む三次元回転を決定するステップと、
前記三次元角度を、回転角と同じ形式の分解角度に分解するステップと、
前記分解角度を、推定された正しい角度として設定するステップと、
前記推定された正しい角度と前記回転角との間の差に基づいて、推定された誤差の量を決定するステップと、
を含むことを特徴とする請求項18に記載の記録媒体。
【請求項23】
前記誤差の量を決定するステップは、
前記第1及び第2の複数のベクトルを平面に投影するステップと、
投影されたベクトルを、前記平面の法線の周りで回転させるステップと、
回転された投影されたベクトルの間の差に基づいて、推定された誤差の量を決定するステップと、
を含むことを特徴とする請求項18に記載の記録媒体。
【請求項24】
前記回転推定量を更新するステップは、前記第1の複数のベクトルのそれぞれの大きさに基づいて前記回転の量を更新するステップを含むことを特徴とする請求項18に記載の記録媒体。
【請求項25】
追跡対象オブジェクトが移動されるときに、計算装置に送信される慣性データを収集するための1以上の慣性センサを備える追跡対象オブジェクトと、
前記追跡対象オブジェクトが移動されるときに、前記計算装置に送信される前記追跡対象オブジェクトの位置データを収集するための位置センサと、
命令を実行するためのプロセッサと、実行されると前記プロセッサに演算を実行させる命令を有する前記プロセッサに結合されたメモリとを有する計算装置と、を備え、
前記演算は、
前記オブジェクトの参照フレームにおける、前記追跡対象オブジェクトに対応する慣性データを取得するステップと、
回転推定量を用いて、前記慣性データを、前記位置センサの参照フレームに変換するステップと、
変換された慣性データと、前記位置センサから取得された位置データから導出された加速度データとの間の誤差の量を決定するステップと、
決定された誤差に応じて、前記回転推定量を更新するステップと、
を含むことを特徴とする追跡装置。
【請求項26】
前記位置センサは、ディジタルカメラ、Z−カメラ、超音波センサ、及びフォトソニックセンサのうちの一つであることを特徴とする請求項25に記載の追跡装置。
【請求項27】
前記追跡対象オブジェクトは、ゲームコントローラに結合された球であり、
前記位置センサに対する前記球の位置により、前記計算装置上でプレイされるビデオゲームに関連付けられた関連性が制御されることを特徴とする請求項25に記載の追跡装置。
【請求項28】
前記回転推定量を更新するステップは、決定された誤差の一部に基づいて前記回転推定量を更新するステップを含むことを特徴とする請求項25に記載の追跡装置。
【請求項29】
前記回転推定量を更新するステップは、前記回転推定量の前回の更新から経過した時間に基づいて前記回転推定量を更新するステップを含むことを特徴とする請求項25に記載の追跡装置。
【請求項30】
取得された前記慣性データは、前記追跡対象オブジェクトの加速度データを含み、
前記追跡対象オブジェクトの加速度データは、第1の複数のベクトルを含み、前記位置データから導出された加速度データは、第2の複数のベクトルを含む
ことを特徴とする請求項25に記載の追跡装置。
【請求項31】
前記第1の複数のベクトルのそれぞれのベクトルについて、最小限のしきい値よりも小さい大きさを有するベクトルを除去するステップを更に備えることを特徴とする請求項30に記載の追跡装置。
【請求項32】
前記第1の複数のベクトルのそれぞれについて、ベクトルの大きさに基づいてベクトルに重み付けを適用するステップを更に備え、
小さいベクトルよりも大きいベクトルにより重い重みが付けられることを特徴とする請求項30に記載の追跡装置。
【請求項33】
前記誤差の量を決定するステップは、
複数の可能性のある角度を選択するステップと、
前記複数の可能性のある角度のそれぞれにより、前記第2の複数のベクトルを回転させるステップと、
前記複数の可能性のある角度のそれぞれについて、回転されたベクトルと、前記第1の複数のベクトルとの間の差を決定するステップと、
前記複数の可能性のある角度のうち、回転されたベクトルと、前記第1の複数のベクトルとの間の差を最小にする角度を特定するステップと、
特定された角度を、推定された正しい角度として設定するステップと、
前記推定された正しい角度と回転角との間の差に基づいて、推定された誤差の量を決定するステップと、
を含むことを特徴とする請求項30に記載の追跡装置。
【請求項34】
前記誤差の量を決定するステップは、
前記第1の複数のベクトルと前記第2の複数のベクトルの向きを揃える、前記第1の複数のベクトルと前記第2の複数のベクトルとの間の三次元角度を含む三次元回転を決定するステップと、
前記三次元角度を、回転角と同じ形式の分解角度に分解するステップと、
前記分解角度を、推定された正しい角度として設定するステップと、
前記推定された正しい角度と前記回転角との間の差に基づいて、推定された誤差の量を決定するステップと、
を含むことを特徴とする請求項30に記載の追跡装置。
【請求項35】
前記誤差の量を決定するステップは、
前記第1及び第2の複数のベクトルを平面に投影するステップと、
投影されたベクトルを、前記平面の法線の周りで回転させるステップと、
回転された投影されたベクトルの間の差に基づいて、推定された誤差の量を決定するステップと、
を含むことを特徴とする請求項30に記載の追跡装置。
【請求項36】
前記回転推定量を更新するステップは、前記第1の複数のベクトルのそれぞれの大きさに基づいて前記回転の量を更新するステップを含むことを特徴とする請求項30に記載の追跡装置。

【図1】
image rotate

【図2A】
image rotate

【図2B】
image rotate

【図2C】
image rotate

【図3】
image rotate

【図4】
image rotate

【図6】
image rotate

【図7】
image rotate

【図8】
image rotate

【図9】
image rotate

【図11】
image rotate

【図5】
image rotate

【図10】
image rotate


【公表番号】特表2012−511999(P2012−511999A)
【公表日】平成24年5月31日(2012.5.31)
【国際特許分類】
【出願番号】特願2011−542148(P2011−542148)
【出願日】平成21年7月10日(2009.7.10)
【国際出願番号】PCT/US2009/050312
【国際公開番号】WO2010/071695
【国際公開日】平成22年6月24日(2010.6.24)
【出願人】(310021766)株式会社ソニー・コンピュータエンタテインメント (417)
【Fターム(参考)】