説明

1次マーカ及び2次マーカを使用するモーションキャプチャ

ターゲットの動きを撮影する。一つの方法は:複数の1次マーカをターゲットに取り付けるステップと;少なくとも一つの2次マーカをターゲットに取り付けるステップと;複数の1次マーカデータポイントを、各1次マーカデータポイントが複数の1次マーカの一つの1次マーカに対応するように撮影するステップと;少なくとも一つの2次マーカ跡を、各マーカ跡が前記少なくとも一つの2次マーカの各2次マーカに対応し、かつ各マーカ跡によって各2次マーカを固有に特定する形で撮影するステップと;そして複数の1次マーカを、前記少なくとも一つの2次マーカ跡を使用して特定するステップと、を含む。

【発明の詳細な説明】
【技術分野】
【0001】
本出願は、「アクティブマーカ及びパッシブマーカを使用するモーションキャプチャ」と題する同時係属中の米国仮特許出願第60/711,923号、及び「モーションキャプチャに使用される個人携行可能なデジタイザ」と題する同時係属中の米国仮特許出願第60/711,905号の優先権の利益を主張するものであり、これらの米国仮特許出願は両方ともに2005年8月26日に出願されている。上記参照特許出願の開示内容は本明細書において参照することにより本明細書に組み込まれる。
【0002】
本発明は概して、モーションキャプチャ(motion capture)に関するものであり、特に1次マーカ及び2次マーカを使用して3次元グラフィックス及びアニメーションを作成するモーションキャプチャに関するものである。
【背景技術】
【0003】
モーションキャプチャシステムを使用して実際のオブジェクトの動きを撮影し、そしてこの動きをアニメートする方法として、この動きをコンピュータにより表現されるオブジェクトにマッピングする。このようなシステムは、コンピュータグラフィックス(CG)アニメーションを作成するためのソースデータとして使用する人のデジタル表現を生成して、動画及びビデオゲームの作成に使用されることが良くある。通常のシステムでは、アクターが、マーカを種々の位置に取り付けた(例えば、小さな光反射マーカを体及び四肢に取り付けた)衣服を纏い、そして複数のデジタルカメラがアクターの動きを異なるアングルから、マーカを照明しながら記録する。次に、システムは画像を分析してアクターの衣服に取り付けられたマーカの位置(例えば、空間座標として)及び向きを各フレームで求める。これらのマーカの位置をトラッキングすることにより、システムはこれらのマーカに関する時間軸を考慮した空間表示を行ない、そして動いているアクターのデジタル補表現を実現する。次に、この動きをデジタルモデルに適用し、次にこのデジタルモデルで質感を表現し、そしてモデルをレンダリングして、アクター及び/又は演技の完全なCG表示を実現することができる。この技法は、非常にリアルなアニメーションを多くの人気のある映画に収めるために特殊効果会社によって使用されている。
【0004】
或るモーションキャプチャシステムが、キーフレーミングのような従来のアニメーション技法よりも優れる利点は、可視化をリアルタイムに行なうことができることである。製品開発チームはアクターの動きの空間表示をリアルタイムまたはほぼリアルタイムに精査することができ、これによって、アクターは肉体的な演技を変更するので、最適データを撮影することができる。更に、モーションキャプチャシステムは他のアニメーション技法を使用して容易に再生することができない肉体的な動きの微妙な差異を検出することにより、自然な動きをより正確に表わすデータを生成する。その結果、モーションキャプチャシステムを使用して収集されるソース情報を使用するアニメーションが多くの場合、ずっと真に迫った外観を呈するようになる。
【発明の開示】
【発明が解決しようとする課題】
【0005】
モーションデータを撮影する従来の方法では、長い時間を要する手作業工程を採用する必要がある。例えば、或る方法では、小さな光反射球であるマーカを利用する。撮影空間のランプが光反射球を照明し、そして複数のカメラが、結果として発生する反射を撮影する。マーカが球体であるので、単一のランプからの光をほとんど全方向に、入射光に関与する半球によって反射することができ、その結果、反射を撮影空間の種々の位置に配置される多数のカメラによって撮影することができる。このようにして、マーカの空間座標を求めることができる。各データポイントはフレームごとに個々にトラッキングして、所望のアニメーションを作成するための基盤となるモーション履歴を作成する必要もある。このようにして球状マーカによって反射される光が、撮影空間における明瞭かつ正確なデータポイントとなるという同じ理由により、撮影データポイントが非常に小さくて、外見がほとんど同じになってしまう恐れもある。個々の撮影データポイントを区別する操作は非常に難しく、従って個々のデータポイントをフレームごとにトラッキングする操作は極めて複雑になる。自動トラッキング方法は、トラッキング対象の撮影データポイント(すなわち、マーカ)をほとんど見分けることができない場合に問題となるので、確実に、各撮影データポイントをフレームごとに正確に区別し、かつ当該ポイント自体に正しく関連付けるためには、当該方法ではなく、長時間を要し、かつ多量のリソースを消費する手作業処理が必要になる場合が多い。また、非常に多くのマーカが、アニメートされたCGアクターの表面を表わす高解像度の3次元表面メッシュの頂点に関連付けられる動きをできるだけ細かい要素に分解するために必要にもなるので、自動トラッキングの問題及び手動トラッキングの問題が膨大な量のデータによって悪化させてしまう。
【0006】
従って、必要なのは、従来のシステムにおいて見られるマーカの識別及びトラッキングに関するこれらの深刻な問題を解決する方法及びシステムである。
【課題を解決するための手段】
【0007】
本発明の実施形態では、動きを、1次マーカ及び2次マーカをモーションキャプチャカメラとともに使用して撮影する。
【0008】
一の実施形態では、一つの方法が提供され、本方法は:複数の1次マーカをターゲットに取り付けるステップと;少なくとも一つの2次マーカを前記ターゲットに取り付けるステップと;複数の1次マーカデータポイントを、各1次マーカデータポイントが複数の1次マーカの一つの1次マーカに対応するように撮影するステップと;少なくとも一つの2次マーカ跡を、各マーカ跡が少なくとも一つの2次マーカの各2次マーカに対応し、かつ各マーカ跡によって各2次マーカを固有に特定するように撮影するステップと;そして複数の1次マーカを、少なくとも一つの2次マーカ跡を使用して特定するステップと、を含む。
【0009】
別の実施形態では、少なくとも一つの2次マーカ跡を撮影する前記ステップは、少なくとも一つの2次マーカの固有属性を取得するステップを含む。
【0010】
更に別の実施形態では、照明を周期的なゲート期間の中で制御して、照明のオン状態及びオフ状態を生成し;そして照明に対する反射を照明のオン状態の間に撮影し;そして固有属性を照明のオフ状態の間に取得する。更に別の実施形態では、照明に対する反射は明るいマーカからの反射として撮影され;そして固有属性は暗いマーカから取得される。
【0011】
本発明の他の特徴及び利点は、この技術分野の当業者であれば、次の詳細な記述、及び添付の図を吟味することにより一層容易に理解できるものと思われる。
【発明を実施するための最良の形態】
【0012】
以下に更に詳細に説明するように、本発明は、マーカに対するフレームごとの一層確実なトラッキングを可能にするモーションキャプチャシステムに対する要求を満たす。以下に示す詳細な記述では、同様の要素番号を使用して、添付の図の内の一つ以上の図に示される同様の要素を指す。
【0013】
本記述を一読した後、この技術分野の当業者には、本発明をどのようにして種々の別の実施形態及び別のアプリケーションにおいて実施するかが明らかになるであろう。しかしながら、本発明の種々の実施形態についてここで説明するが、これらの実施形態は単なる例示として示され、制限的に解釈されるべきではないことを理解されたい。従って、種々の別の実施形態についてのこの詳細な記述は、添付の請求項に示す本発明の技術範囲または権利範囲を制限するものとして捉えられるべきではない。
【0014】
マーカは、ほとんどの形態のモーションキャプチャに不可欠な構成要素であり、そしておおまかに2つのカテゴリーに分けられる:すなわちアクティブマーカ及びパッシブマーカを含む。パッシブマーカの忠実度及び分解能は他のマーカよりも高いので、パッシブマーカを多くのアプリケーションにおいて使用することが好ましい。しかしながら、パッシブマーカを使用するためのデータ処理には困難が伴ない、かつマニュアル作業が必要になるので、2つの異なるタイプのマーカをハイブリッドシステムにおいて組み合わせることが有用である。
【0015】
例えば、或る実施形態では、モーションキャプチャによる所望の結果は、アクティブマーカ及びパッシブマーカの両方を含むハイブリッドシステムを使用することにより達成することができる。通常、パッシブマーカはトラッキングを必要とし、アクティブマーカはトラッキングを必要としない。他の実施形態では、1次マーカ及び2次マーカをハイブリッドシステムにおいて使用して、モーションキャプチャによる所望の結果を達成する。これらの他の実施形態では、1次マーカは、パッシブマーカと同様にトラッキングを必要とするマーカであり、そして2次マーカは、アクティブマーカと同様にトラッキングを必要としないマーカである。しかしながら、他の実施形態では、アクティブマーカが1次マーカとして使用され、そしてパッシブマーカが2次マーカとして使用される。
【0016】
アクティブマーカは普通、電源を使用して或るタイプのエネルギーを放出するものとして特徴付けられる。アクティブマーカまたはアクティブ要素の例として、LED,アクティブRFID(無線周波数識別情報)タグ、データグローブ、ポテンショメータ、加速度計、人体に装着可能な外骨格(exoskeleton)、及び超音波チャープ発信器を挙げることができる。パッシブマーカは通常、電源を必要としない。パッシブマーカまたはパッシブ要素の一つの例が、小さな光沢球をほぼ構成する再帰反射球であり、この球に眩しい光を浴びせると、光学手段によって容易に撮像される小さな高輝度の光ドットが形成される。パッシブマーカの他の例として、パッシブRFIDタグ、暗闇で光るパッチ、成形テープ、及び電磁的な痕跡を実現する電磁タグを挙げることができる。別の区別を、「明るい」マーカと「暗い」マーカとの間で行なうことができる。再帰反射球は、例えば「明るい」マーカとして特徴付けられ、そして暗闇で光るマーカは「暗い」マーカとして特徴付けられる。
【0017】
モーションキャプチャデータのリアルタイムの可視化はアクティブマーカによって実現し、次にこれらのマーカによって生成される骨格データを使用して、モーションキャプチャシステムによって生成されるパッシブマーカデータにラベル付けすることができる。これにより、事前の可視化がリアルタイムに行なわれ、事後処理における手動のクリーンアップ作業が大幅に減って、高品質の光学モーションキャプチャデータが生成される。従って、ハイブリッドシステムはリアルタイム機能を提供するとともに、動きに関する忠実度を高めることができる。
【0018】
図1を参照すると、本発明の一の実施形態によるハイブリッドモーションキャプチャシステム100は、ユーザワークステーション120に接続されるモーションキャプチャプロセッサ110を含む。図示の実施形態では、モーションキャプチャプロセッサ110は画像撮影モジュール112と、再構成モジュール114と、1次マーカトラッキングモジュール116と、デジタルモデリングモジュール118と、そしてストレージモジュール158と、を含む。モーションキャプチャプロセッサ110に接続されるのは、2つのモーションキャプチャカメラ130,132である。本発明の一の実施形態では、2台よりもずっと多いモーションキャプチャカメラが種々のユーザ要求及びアニメーション関連の要求に従って使用される。モーションキャプチャカメラ130,132は撮影空間140に焦点を合わせ、この空間では、ターゲット150(図1に任意の形状のオブジェクトとして示す)が空間座標によって定義される一つの位置を占める。
【0019】
図1に示す実施形態に示すように、ターゲット150には、複数の1次マーカ152A〜C、及び1つの2次マーカ154が取り付けられている。カメラ130,132を画像撮影モジュール112によって制御することにより、これらのカメラで1次マーカ152A〜C及び2次マーカ154のフレームごとの画像を撮影し、そしてこれらの画像をモーションキャプチャプロセッサ110の画像撮影モジュール112に渡すことができる。一の実施形態では、カメラ130,132は、1次マーカ152A〜Cの画像、及び2次マーカ154の画像を交互に画像フレームに撮影する。別の実施形態では、カメラ130,132は、1次マーカ152A〜Cの画像、及び2次マーカ154の画像を同じフレームに撮影する。このようにして撮影される画像フレームはストレージモジュール158に格納することができる。別の構成として、または上記構成と並行して、これらの画像フレームをリアルタイムでユーザがワークステーション120で閲覧することができる。
【0020】
一の実施形態では、カメラ130,132からのデータは、「ビート(beats)」と呼ばれるデータ集合に取り込まれる。一つのビートは、1シーンショット、または1シーンショットの一部分に対応する一つの期間に亘って撮影されるデータに対応する。各カメラ130,132は、一つの個別ファイルを各ビートに関して生成することができる。従って、単一のビートに関して、一つのファイルが一方のカメラ130及び他方のカメラ132の各々に対応して生成されることになる。ここで、非常に多くの台数のカメラ130,132が使用される場合、各ビートは該当する多数の個別データファイルを、各カメラに対して1個のファイルの割合で含むことになることが分かるであろう。更に、各カメラ130,132に、多数の校正データが対応することになり、これらの校正データとして、例えば撮影空間140におけるカメラの3次元位置、カメラの焦点方向(例えば、3次元「光線」であり、この3次元「光線」に沿って、カメラ130,132が焦点を合わせている)、及びカメラの現時点の被写界深度に関する情報を挙げることができる。ここで、校正データの他のアイテムを、ここで議論する例示としてのデータに付け加える、またはデータの代わりに用いることができることが分かるであろう。
【0021】
一の実施形態では、再構成モジュール114は、一つのビートに関して生成される複数のファイル(「ビートファイル」)の幾つか、または全て、及び適切なカメラ130,132に関する該当する校正データを読み込み、そしてカメラデータを統合して、ラベル付けされていないデータの生の3次元「ポイント集合(point clouds)」とするように動作することができる。これらのデータはストレージ158に保存することができる、または1次マーカトラッキングモジュール116に直接供給することができる。
【0022】
以下に更に詳細に説明するように、1次マーカトラッキングモジュール116は、生の3次元ポイント集合データフレームを受信する、または保存ポイント集合データフレームをストレージモジュール158から取り出す。1次マーカトラッキングモジュール116は更に、トラッキング処理をフレーム群に対して実行して、各フレームの1次マーカを当該フレームの前後両方のフレーム群に、2次マーカ識別情報を、個々の1次マーカをフレームごとにラベル付けするための支援手段として使用してマッピングする。一旦、ラベル付けが完了すると、ラベル付けされたデータをデジタルモデリングモジュール118に渡す。デジタルモデリングモジュール118は各フレームに関して、ターゲット150を表わすモデル化表面を含む頂点座標系を仮想空間に設定する。一つのフレームに撮像された1次マーカ152A〜Cは、次のフレームの同じ1次マーカ152A〜Cとして正しくラベル付けされるので、これらの1次マーカがこのようにしてフレームごとに関連付けられ、そしてモデル化された表面の動きをスムーズに与える(レンダリングする)ことができる。
【0023】
図1に示すように、本発明の少なくとも一つの実施形態によれば、2次マーカ154は、特定の1次マーカ152Bに非常に近接して配置することができる。別の実施形態では、2次マーカ154は、どの特定の1次マーカ152A〜Cとも近接して配置する必要はない。一の実施形態では、1次マーカ152A〜Cと2次マーカ154との間にそれぞれ、多数対1の対応付けが行なわれる。2次マーカ154に対する1次マーカ152の比は1対1から、現在の実施形態に適するいずれの比にも変化するようにすることができる。これらの比のような様々な態様をユーザが実行することにより、1次マーカ152を、一つのフレームから次のフレームにマッピングする(すなわち、トラッキングする)際に予測される容易さ、または難しさを調整することができる。例えば、一の実施形態では、数百個の1次マーカを使用してヒトの顔及び体のかすかな動きを撮影する。
【0024】
図2(a)は1次マーカデータポイント及び2次マーカ跡を撮影する一の実施形態による方法を示すフローチャートである。本方法では、1次マーカ152をターゲット150に、ステップ210で取り付ける。一つ以上の2次マーカをターゲット150に、ステップ212で取り付ける。一の実施形態では、ステップ210及び212での取り付ける操作では、塗料または他の反射コーティングをターゲット150に塗布する。次に、ステップ214では、現フレームを使用して1次マーカデータポイントを撮影する。一の実施形態では、1次マーカ152A〜Cは光反射球であり、そしてこれらの球の表面に位置して照明される反射ポイントがほぼ1次マーカデータポイントを構成する。すなわち、1次マーカ152Aからの一つの反射が、例えば一つの1次マーカデータポイントを構成する。2次マーカ跡の位置を含む2次マーカ154の跡をステップ216で撮影する。一の実施形態では、1次マーカデータポイント及び2次マーカ跡は、ほぼ同時に撮影される。
【0025】
通常、2次マーカは極めて固有の形で識別することができ、そして各2次マーカは、或る特徴付けモードに従って非常に珍しい跡を残す。例えば、一の実施形態では、2次マーカは一つの形状によって特徴付けられる。別の実施形態では、2次マーカは一つの色によって特徴付けられる。別の実施形態では、2次マーカは、当該マーカが暗闇で光るときの強度のような輝度によって特徴付けられる。更に、2次マーカは、LEDのような可視デバイス、超音波チャープ発信器またはアクティブRFID発信器のような不可視デバイスを含むアクティブマーカとすることができる。更に別の実施形態では、2次マーカは、形状、色、輝度、及び発信動作(チャープ信号の発信またはRFID発信器による識別信号の発信)のような上述のパッシブ特性及びアクティブ特性の幾つか、または全てのいずれかの組み合わせによって特徴付けられる。すなわち、2次マーカは、上述したものに類似するいずれかの固有に識別可能な跡だけでなく、高周波エネルギーの跡及び電磁的な痕跡のような他の不可視特性によって特徴付けることができる。更に、複数の異なるタイプの2次マーカを同時に単一の実施形態で使用することができる。
【0026】
1次マーカは、上に議論した種々のタイプのマーカのいずれかをユーザの要求に従って含むことができることも理解されたい。
【0027】
或る実施形態では、1次−2次、アクティブ−パッシブ、及び「明るい」−「暗い」のようなマーカのペアリングを使用して、一方を他方の基準とするのではなく、撮影対象の被写体の各部分または各領域を区別する。例えば、一の実施形態では、明るいマーカをボディ(body)の動きの撮影に使用し、そして暗いマーカを顔の動きの撮影に使用する。従って、この実施形態では、「明るい」−「暗い」というマーカのペアリングを使用して、顔及びボディの撮影データポイントを区別する。
【0028】
ステップ220で、現フレームが最後のフレームではないと判断される場合、ステップ222で次のフレームに進み、そして当該フレームが新規の現フレームとなる。次に、本方法をステップ214に進め、新規の現フレームを使用して次の一連の1次マーカデータポイントを撮影する。本方法では上述したように、現フレームが最後のフレームであると判断されるまで処理を進める。この実施形態によれば、1次マーカデータ及び2次マーカ跡がこのようにしてフレームごとに獲得される。
【0029】
図2(b)は、1次マーカデータポイント及び2次マーカ跡を撮影する別の実施形態による方法を示すフローチャートである。図2(a)において説明した方法と同様にして、本方法では、1次マーカ152A〜Cをターゲット150にステップ230で取り付ける。一つ以上の2次マーカ154をターゲット150にステップ232で取り付ける。ステップ234では、現フレームを使用して1次マーカデータポイントを撮影する。次に、ステップ240では、現フレームが最後のフレームであるかどうかを判断する。現フレームが最後のフレームではない場合、ステップ242において、次のフレームに進んで、当該フレームを新規の現フレームとする。ステップ244では、2次マーカ跡を撮影する。ステップ250で、現フレームが最後のフレームではないと判断される場合、ステップ252で次のフレームに進み、そして当該フレームが新規の現フレームとなる。次に、本方法をステップ234に進め、新規の現フレームを使用して次の一連の1次マーカデータポイントを撮影する。本方法では上述したように、現フレームが最後のフレームであるとステップ240,250で判断されるまで処理を進める。この実施形態によれば、1次マーカデータ及び2次マーカ跡がこのようにしてフレームごとに交互に獲得される。
【0030】
図3(a)は、一の実施形態による、2次マーカ識別情報を使用して1次マーカデータポイントにラベル付けする方法を示すフローチャートである。一の実施形態では、本方法は主として、データの事後処理中にステップ340で行なわれ、このステップは、図1の1次マーカトラッキングモジュール116が行なうラベリングタスクにほぼ相当する。図3(a)に示す方法では、ステップ310において、1次マーカデータポイント及び2次マーカ跡を、モーションキャプチャカメラを使用して考察対象のフレームについて撮影し、そして撮影データポイント及びマーカ跡を保存する。別の実施形態では、このようにして撮影されるデータの保存は、リアルタイムの処理、またはほぼリアルタイムの処理で同時に行なうことができる。別の構成として、撮影データはリアルタイムまたはほぼリアルタイムで同時に保存及び処理することができる。次に、再構成をステップ312で行なって、3次元生データポイント集合を生成する。
【0031】
ラベル付けは第1フレームをステップ314で現フレームとして選択することから始まる。1次マーカデータポイントの位置を現フレームでステップ316において特定する。2次マーカ識別情報(「IDs」)をステップ318で、フレームで撮影される2次マーカ跡の固有属性から求める。非常に独特の固有の2次マーカ識別情報(IDs)を使用することができるが、これは、これらの識別情報を求めるときの基礎となる2次マーカ跡自体が非常に独特で識別し易いからである。例えば、一の実施形態では、2次マーカは個々に固有のバーコードを含むことができる。次に、2次マーカ識別情報(IDs)をステップ320で、適切な1次マーカデータポイントに関連付ける。2次マーカ識別情報(ID)は固有の痕跡となるので、非常に容易にトラッキングすることができ、これに対して1次マーカデータポイントだけでは、これらのデータポイントを互いから区別することは難しい。一の実施形態では、1次マーカデータポイントとの関連付けは、1次マーカデータポイントに対する2次マーカの空間的近接性に従って行なわれる。別の実施形態では、一つの2次マーカを、近接1次マーカデータポイントグループに関する統一的な位置基準として使用する。従って、個々にはほとんど区別することができない1次マーカデータポイント群のグループは、更に別の位置情報が2次マーカ識別情報(ID)を追跡することにより推定されるので、一層容易にトラッキングすることができる。別の実施形態では、一つの1次マーカデータポイントは、当該1次マーカデータポイントの非常に近くに位置すると特定される2次マーカ群に対応する2つ以上の2次マーカ識別情報(IDs)に関連付けることができる。例えば、このようにして位置特定される2つ以上の2次マーカの識別情報(IDs)は非常にユニークであるので、表示される空間パターンによって特定することもできる。一つ以上の1次マーカデータポイントを一つ以上の2次マーカ識別情報(IDs)に、多数対1、多数対多数、及び1対多数の関係で、手動及び自動のどちらでも関連付けることができるためには他の手法を選択することができることを理解されたい。
【0032】
次に、1次マーカデータポイントに固有のラベル付けをステップ322で、関連付けされた一つ以上の2次マーカ識別情報(IDs)に従って行なう。更に、1次マーカデータポイントに、既にラベル付けされている一つ以上の他の1次マーカデータポイントに従ってラベル付けすることができる。次に、ステップ324で、ラベル付けされている1次データポイントを、現フレームに対応させて保存する。次に、ターゲット150の仮想モデルを1次マーカデータポイントに基づいてステップ326で構築する。別の構成として、1次マーカデータポイントを使用して既存のモデルをターゲット150に合わせることができる。ステップ330で、このフレームが考察対象の最後のフレームではないと判断される場合、ステップ332で次のフレームに進んで、当該フレームを新規の現フレームとする。次に、1次マーカデータポイントの位置をステップ316で新規の現フレームで特定し、そして本方法では、上に議論したように、最後のフレームであるとの判断が下されるまで処理を進める。
【0033】
図3(b)は、2次マーカ識別情報を使用して1次マーカに、フレームを交互に使用することによりラベル付けする別の実施形態による方法を示すフローチャートである。一の実施形態では、本方法は主として、事後処理390を行なっている間に行なわれ、この事後処理は、図1の1次マーカトラッキングモジュール116が行なうタスクにほぼ対応する。本方法では、ステップ310において、1次マーカデータポイント及び2次マーカ跡を、モーションキャプチャカメラを使用して考察対象のフレームについて撮影し、そして保存する。次に、再構成をステップ312で行なって、3次元生データポイント集合を生成する。
【0034】
第1フレームを現フレームとしてステップ352で選択する。現フレームの1次マーカデータポイントの位置をステップ354で特定する。ステップ360で、現フレームが考察対象の最後のフレームではないと判断される場合、ステップ362で次のフレームに進んで、当該フレームを新規の現フレームとする。2次マーカ識別情報(「IDs」)をステップ364で、フレームで撮影された2次マーカ跡の固有属性から求める。非常にユニークな2次マーカ識別情報(IDs)を使用することができるが、これは、これらの識別情報を求めるときの基礎となる2次マーカ跡自体が非常にユニークであるので識別することができるからである。次に、2次マーカ識別情報(IDs)をステップ366で、適切な1次マーカデータポイントに関連付ける。一の実施形態では、1次マーカデータポイントとの関連付けは、1次マーカデータポイントに対する2次マーカの空間的近接性に従って行なわれる。別の実施形態では、一つの1次マーカデータポイントを、当該1次マーカデータポイントの非常に近くに位置すると特定される2次マーカ群に対応する2つ以上の2次マーカ識別情報(IDs)に関連付けることができる。例えば、このようにして位置特定される2つ以上の2次マーカの識別情報(IDs)は非常にユニークであるので、これらの2次マーカが示す空間パターンによって特定することもできる。一つの1次マーカデータポイントを一つ以上の2次マーカ識別情報(IDs)に関連付けるためには多くの方法があることを理解されたい。次に、1次マーカデータポイントに対してステップ368で、各1次マーカデータポイントに関連付けられる一つ以上の2次マーカ識別情報(IDs)に従って固有のラベル付けを行なう。次に、ステップ370で、ラベル付けされている1次データポイントを、現フレームに対応させて保存する。次に、ターゲット150の仮想モデルを1次マーカデータポイントに基づいてステップ326で構築する。ステップ380で、現フレームが考察対象の最後のフレームではないと判断される場合、ステップ382で次のフレームに進んで、当該フレームを新規の現フレームとする。次に、1次マーカデータポイントの位置を新規の現フレームでステップ354において特定し、そして本方法では上に議論したように、最後のフレームであるとの判断がステップ360,380で下されるまで処理を進める。
【0035】
図4は、本発明の一の実施形態に従って、1次及び2次マーカを変形可能な表面に物理的に配置する様子を示している。表面は、例えばアクターがモーションキャプチャシーケンスにおいて装着するボディスーツの一部分とすることができる。表面は変形グリッド400によって表わされる。この実施形態におけるグリッド400の頂点は、1次マーカ410が表面に取り付けられる位置を定義する。図4では、図示される24個の1次マーカはほぼ同じ光反射球である。図を分かり易くするために、3つの球にのみインデックスを付けている。3つの2次マーカ420が同じ楕円として描かれている。図示のように、2次マーカ420は、1次マーカ410の間の空き領域に1対多数の対応関係でそれぞれ配置することができる。別の構成として、2次マーカ群420を一つの1次マーカ410に非常に近接して配置することができる。これまでに議論してきたように、2次マーカ420はいずれかのタイプのアクティブマーカ及びパッシブマーカ、またはアクティブマーカ及びパッシブマーカの組み合わせを含むことを理解されたい。
【0036】
一の実施形態では、一つのフレームの1次マーカ410及び2次マーカ420をステップ310で撮影する。再構成をステップ312で行なうことにより、上に議論したように、多数のカメラ130,132によって生成される統合ビートファイルを表わす生ポイント集合を3次元で生成する。3次元ポイント集合は、1次データポイント及び2次マーカ跡を含む。一の実施形態では、2次マーカ識別情報(IDs)を2次マーカ跡から求め(2次マーカ跡が種々の2次的な痕跡の中では非常にユニークであることを思い起こされたい)、そして該当する1次マーカデータポイントを、当該ポイントに最も近い(最近接近法に基づいて)2次マーカの識別情報(IDs)に関連付ける(ステップ320)。すなわち、一つの1次マーカデータポイントに一つのラベルを、1次マーカデータポイントを撮影した対象となった1次マーカ410に最も近い2次マーカ420の2次マーカ識別情報(ID)に従って割り当てる。別の実施形態では、2次マーカ420の固有空間パターンは、2次マーカ420の固有の特異性を、2次マーカの空間位置と組み合わせることにより生成することができる。従って、1次マーカ群は、単一の2次マーカ420に対するこれらの1次マーカの位置に従って特定することができるだけでなく、複数の2次マーカ420により形成される空間パターンに従って特定することができる。
【0037】
一の実施形態では、2次マーカの跡を固有の形状を使用することにより残す。図5は、1次マーカ510、及びこのような実施形態による形状属性を持つ2次マーカ522,524,526の物理的配置を示している。2次マーカ522は三角形であり、2次マーカ524は六角形であり、そして2次マーカ526は5極星形である。一つの表面は変形グリッド500により表現される。この例におけるグリッド500の頂点によって、1次マーカ510を表面に取り付ける位置も定義される。図4に示すように、24個の1次マーカがほぼ同じ光反射球として示されている。この例では、3個の2次マーカ522,524,526が1次マーカ群510の間の複数の領域に配置される。3個の2次マーカ522,524,526は全て、固有の形状に形成されるので、独特な光跡を残す。
【0038】
一の実施形態では、一つのフレームの1次マーカ510及び2次マーカ522,524,526をステップ310で撮影する。再構成をステップ312で行なうことにより、上に議論したように、多数のカメラ130,132によって生成される統合ビートファイルを表わす生ポイント集合を3次元で生成する。3次元ポイント集合は、1次マーカ510に対応する1次データポイント、及び2次マーカ522,524,526に対応する2次マーカ跡を含む。次に、2次マーカ識別情報(IDs)を、2次マーカ固有の形状を利用した光跡に従って割り当てることができる。次に、該当する1次マーカデータポイントを、1次マーカに最も近い(最近接近法に基づいて)2次マーカの識別情報(IDs)に関連付ける(ステップ320)。2次マーカ522,524,526は固有の特異性を示すので、1次マーカ510を更に、複数の2次マーカによって形成される固有の空間パターンを基準にして特定することができる。別の実施形態では、使用状態における2次マーカ522,524,526は個々に非常にユニークである訳ではないが、それでも、局所的に非常にユニークなパターンを形成し、これらのパターンを基準にして、1次マーカ510にラベル付けすることができる。
【0039】
図6は、幾つかの実施形態において使用される典型的なゲートトリガー信号600を示す図である。このようなゲートトリガー信号は公知である。図示のように、一つの信号はハイ状態610,620,630、及びロー状態612,622,632を有し、ハイ状態及びロー状態はON状態及びOFF状態にそれぞれ対応する。ゲートトリガーは、例えばストローブ光のような光源のON/OFFサイクル制御として使用される。
【0040】
図7は一の実施形態による撮影空間700を示す図であり、撮影空間700には、一つのゲート光源と、そして2台の同期ゲートモーションキャプチャカメラ720,730が含まれ、一方のカメラ720は1次マーカデータポイントを撮影し、そして他方のカメラ730は2次マーカ跡を撮影する。別の実施形態では、両方のカメラ720,730を使用して1次マーカデータポイント及び2次マーカ跡の両方を撮影することができる。
【0041】
図7に示す実施形態では、ゲート710は第1ゲート信号712及び第2ゲート信号714を供給する。第1ゲート信号712は、第2ゲート信号714と逆相で駆動するように作用する。第1ゲート信号712によって第1モーションキャプチャカメラ720及び照明光源722を駆動する。従って、第1ゲート信号712がON状態になると、照明光源722がONの半サイクルの期間に亘ってオンになり、そして第1モーションキャプチャカメラ720が撮影空間700の画像フレームを撮影する。第1ゲート信号712がON状態になっている間、第2ゲート信号714はOFF状態になっているので、信号714によって駆動される第2モーションキャプチャカメラ730はOFF状態になっている。これらの状態は、ゲート信号が半サイクルだけ進むと反転する。第1ゲート信号712がOFF状態に変化すると、照明光源722及び第1モーションキャプチャカメラ720がOFF状態になる。第2ゲート信号714がON状態に変化すると、これによって第2モーションキャプチャカメラ730が駆動されて撮影空間700の画像フレームを撮影する。従って、第1モーションキャプチャカメラ720は、撮影空間700を照明するときに画像フレームを撮影し、そして第2モーションキャプチャカメラ730は、撮影空間700を照明していないときに画像フレームを撮影する。
【0042】
一の実施形態では、ターゲット740には、1次マーカを構成する小さな光反射球750(9個の光反射球が示され、2個に参照番号を付けている)、及び2次マーカを構成し、かつ暗闇で光るパッチ752を取り付けている。図を分かり易くするために、図7に示す2次マーカ752が視覚的に同じように見えるようにしているが、2次マーカは本質的に、非常にユニークであるので識別することができることを思い起こされたい。この例では、暗闇で光る2次マーカは特異な痕跡を種々の形状、色、及び輝度を利用して残すことができ、更に2次マーカにバーコードのような可視パターンを用いることができる。
【0043】
図7に示す実施形態を参照すると、第1ゲート信号712がオンになると、照明光源722が作動し、そして撮影空間700を照明するので、光反射球750が小さな明るい光点を撮影空間700において反射するようになる。第1モーションカメラ720も同時に作動するので、明るい光点を画像フレームで撮影する。従って、第1モーションキャプチャカメラ720は、上に説明した1次マーカデータポイントを撮像する。第1ゲート信号712及び第2ゲート信号714が状態を次の反サイクルで反転させると、照明がオフになる。照明が消えると、光反射球が暗くなるが、暗闇で光る2次マーカ752は輝いて見えるようになる。第2モーションキャプチャカメラ730はこの半サイクルの間に同時に作動してON状態になるので、この時点で暗くなっている撮影空間700で輝く2次マーカ752を含む画像フレームを撮影する。すなわち、第2モーションキャプチャカメラは2次マーカ752の跡(例えば、輝き)を撮影する。従って、第1モーションキャプチャカメラ720及び第2モーションキャプチャカメラ730によって撮影される2つの画像フレーム列を統合して、1次マーカデータポイント及び2次マーカ跡を含む交互フレーム列を構成する。一の実施形態では、動きを撮影したこのフレーム列を次に、図3(b)に示す方法のような方法に従って処理する。
【0044】
図8は一の実施形態による撮影空間800を示す図であり、撮影空間800には、一つのゲート光源と、そして2台の同期ゲートモーションキャプチャカメラ820,830が含まれ、両方のカメラが同期して1次マーカデータポイント及び2次マーカ跡を撮影する。図8に示すように、ゲート810は第1ゲート信号812及び第2ゲート信号814を供給する。図7に示す実施形態と対比すると、この実施形態における第2ゲート信号814は第1ゲート信号812と位相が同じである。更に、モーションキャプチャカメラ820,830を作動させて、画像フレームを、第1ゲート信号812及び第2ゲート信号814のON状態及びOFF状態の両方で撮影させる。前の例と同じように、第1ゲート信号812は、照明光源822をON状態の間だけ作動させるように作用する。従って、第1ゲート信号812がON状態になると、照明光源822がONの半サイクルの期間に渡ってオンになり、そして第1モーションキャプチャカメラ820及び第2モーションキャプチャカメラ830の両方が、照明されている撮影空間800の画像フレームを撮影する。第1ゲート信号812及び第2ゲート信号814がOFF状態に変化すると、照明光源822がOFFの半サイクルの期間に渡ってオフになり、そして第1モーションキャプチャカメラ820及び第2モーションキャプチャカメラ830の両方が、暗くなった撮影空間800の画像フレームを撮影する。すなわち、第1ゲート信号812及び第2ゲート信号814の位相が同期することにより、第1モーションキャプチャカメラ820及び第2モーションキャプチャカメラ830が一斉に作動する。従って、モーションキャプチャカメラ820,830の両方で、撮影空間800の明るい図柄及び暗い図柄が交互に繰り返す構成のフレーム列を撮影する。
【0045】
本発明の一の実施形態では、ターゲット840には、1次マーカを構成する小さな光反射球850、及び2次マーカを構成し、かつ暗闇で光るパッチ852を取り付けている。図を分かり易くするために、図8に示す2次マーカ852が視覚的に同じように見えるようにしているが、2次マーカは通常、非常にユニークであるので識別することができることを思い起こされたい。この例では、図7に関連して示した2次マーカと同じように、暗闇で光る2次マーカは特異な痕跡を種々の形状、色、及び輝度を利用して残すことができる、または2次マーカにバーコードのような可視パターンを用いることができる。
【0046】
図8に示す実施形態では、第1ゲート信号812及び第2ゲート信号814が変化してオンになると、照明光源822が作動し、そして撮影空間800を照明する。これによって、光反射球850は小さな明るい光点を撮影空間800において反射するようになる。第1モーションカメラ820及び第2モーションカメラ830も同時に作動するので、明るい光点をそれぞれの画像フレームで撮影する。すなわち、第1モーションキャプチャカメラ820及び第2モーションキャプチャカメラ830は、上に説明した1次マーカデータポイントを撮像する。第1及び第2ゲート信号が状態を次の反サイクルで反転させると、照明光源822がオフになる。照明が消えると、光反射球850が暗くなるが、暗闇で光る2次マーカ852は輝いて見えるようになる。第1モーションキャプチャカメラ820及び第2モーションキャプチャカメラ830が同時にOFF状態によって、この半サイクルの間に作動するので別の画像フレームを撮影し、この場合は、この時点で暗くなっている撮影空間800で見ることができる2次マーカ852の跡を撮影する。すなわち、第1モーションキャプチャカメラ820及び第2モーションキャプチャカメラ830の両方で、1次マーカデータポイント及び2次マーカ跡を含み、かつ交互に繰り返す構成のフレーム列を撮影する。一の実施形態では、このフレーム列を次に、図3(a)に示す方法のような方法に従って処理する。
【0047】
更に別の実施形態では、モーションキャプチャに使用されるパーソナルウェアラブルデジタイザー(personal wearable digitizer)が開示される。パーソナルウェアラブルデジタイザーは、身体部位の動きを捕捉する要素を備えるスーツを含む。ウェアラブルデジタイザーは、ボディ表面(頭部、顔、体)のデジタル表示を光学撮影を行なうことなく提供することができる。例えば、圧電片(piezoelectric strips)を保持したボディスーツは、ボディ表面をデジタル処理するように機能する。別の例では、「シェイプテープ」を貼付したボディスーツがボディ表面をデジタル処理するように機能する。テープを曲げたときに光学特性を変える光ファイバを使用することができる。
【0048】
ウェアラブルデジタイザーによって取得される非光学データをモーションキャプチャ処理システムに渡し、モーションキャプチャ処理システムがこのデータを使用してターゲット(またはターゲット群)の動きを求める。処理システムは位置情報を使用して、ターゲット(群)を表わす3次元モデル(ポイント集合またはメッシュ)を構築し、そして更新する。
【0049】
本発明の種々の例示としての実施形態を開示してきた。しかしながら、この技術分野の当業者であれば、更に別の実施形態を本発明の技術範囲から逸脱しない限り用いることもできることが理解できるであろう。例えば、一つの変形例では、異なる方法を使用して1次マーカデータポイントを2次マーカ跡に、2つのデータセットの間の1対1、1対多数、及び多数対1の関係を使用して関連付けることができる。更に、図7及び8に示すシステムを種々の形で組み合わせることにより、ユーザからの種々の要求を満たすことができる。
【0050】
従って、本発明は、上に説明した実施形態のみに制限されるのではない。
【図面の簡単な説明】
【0051】
本発明の構造及び動作の両方に関する本発明の詳細は、添付の図を分析することにより部分的に明らかになり、これらの図では、同様の参照番号は同様の構成要素を指す。
【図1】一の実施形態によるモーションキャプチャシステムを示す図である。
【図2a】1次マーカデータポイント及び2次マーカ跡を撮影する、一の実施形態による方法を示すフローチャートである。
【図2b】交互フレームを使用して1次マーカデータポイント及び2次マーカ跡を撮影する、一の実施形態による方法を示すフローチャートである。
【図3a】2次マーカ識別情報を使用して1次マーカにラベル付けする、一の実施形態による方法を示すフローチャートである。
【図3b】2次マーカ識別情報を使用し、1次マーカに交互フレームの使用によりラベル付けする、一の実施形態による方法を示すフローチャートである。
【図4】一の実施形態による1次マーカ及び2次マーカの物理的配置を示す図である。
【図5】別の実施形態による形状属性を持つ1次マーカ及び2次マーカの物理的配置を示す図である。
【図6】異なる実施形態において使用される典型的なゲートトリガーを示す図である。
【図7】一の実施形態による撮影空間を示す図であり、撮影空間には、一つのゲート光源と、そして2台の同期ゲートモーションキャプチャカメラが含まれ、一方のカメラは1次マーカデータポイントを撮影し、そして他方のカメラは2次マーカデータポイントを撮影する。
【図8】一の実施形態による撮影空間を示す図であり、撮影空間には、一つのゲート光源と、そして2台の同期ゲートモーションキャプチャカメラが含まれ、両方のカメラが同期して1次マーカデータポイント及び2次マーカデータポイントを撮影する。

【特許請求の範囲】
【請求項1】
複数の1次マーカをターゲットに取り付けるステップと;
少なくとも一つの2次マーカを前記ターゲットに取り付けるステップと;
複数の1次マーカデータポイントを撮影するステップであって、各1次マーカデータポイントが前記複数の1次マーカの一つの1次マーカに対応するものである、ステップと、;
少なくとも一つの2次マーカ跡を、各マーカ跡が前記少なくとも一つの2次マーカの各2次マーカに対応し、かつ各マーカ跡によって各2次マーカを固有に特定する形で撮影するステップと;
前記複数の1次マーカを、少なくとも一つの2次マーカ跡を使用して特定するステップと、を含む方法。
【請求項2】
前記複数の1次マーカデータポイントを撮影するステップは:
前記複数の1次マーカを照明するステップと;
前記照明に対する前記複数の1次マーカの反応を撮影するステップと、を含む、請求項1記載の方法。
【請求項3】
前記複数の1次マーカは複数の光反射マーカを含み;
前記反応は、前記照明に対する前記複数の光反射マーカからの反射を含む、請求項2記載の方法。
【請求項4】
前記少なくとも一つの2次マーカ跡を撮影するステップは:
前記少なくとも一つの2次マーカの固有属性を撮像するステップを含む、請求項3記載の方法。
【請求項5】
前記固有属性は形状である、請求項4記載の方法。
【請求項6】
前記固有属性は色である、請求項4記載の方法。
【請求項7】
前記固有属性は電磁的な痕跡である、請求項4記載の方法。
【請求項8】
前記固有属性は高周波エネルギーの跡である、請求項4記載の方法。
【請求項9】
前記固有属性はバーコードである、請求項4記載の方法。
【請求項10】
前記照明は、前記照明のオン状態及びオフ状態を形成するための周期的なゲートにしたがって制御され、;
前記照明の反射は、前記照明のオン状態の間に撮影され、;
前記固有属性は、前記照明のオフ状態の間に撮像される、請求項3記載の方法。
【請求項11】
前記照明の反射は明るいマーカから撮影され;
前記固有属性は暗いマーカから撮像される、請求項10記載の方法。
【請求項12】
少なくとも一つのセンサが前記照明の反射、及び前記固有属性を撮像し;
前記少なくとも一つのセンサは、前記周期的なゲートと同期しており、前記少なくとも一つのセンサが明るい前記マーカからのデータフレームをオン状態の間に撮影し、そして暗い前記マーカからのデータフレームを前記オフ状態の間に撮影するようにする、請求項11記載の方法。
【請求項13】
前記少なくとも一つのセンサは、少なくとも一つのモーションキャプチャカメラを含む、請求項12記載の方法。
【請求項14】
前記少なくとも一つのセンサの第1センサは、前記周期的なゲートと同期し、前記照明の反射を、前記複数のオン状態の各オン状態の間に撮影し;
前記少なくとも一つのセンサの第2センサは、前記周期的なゲートと同期し、前記固有属性を、前記複数のオフ状態の各オフ状態の間に撮像する、請求項12記載の方法。
【請求項15】
前記第1センサは、前記複数の光反射マーカからの前記反射を撮影するように構成される第1モーションキャプチャカメラを含み;
前記第2センサは、前記固有属性を撮像するように構成される第2モーションキャプチャカメラを含む、請求項14記載の方法。
【請求項16】
前記照明はストローブ光によって行なわれる、請求項10記載の方法。
【請求項17】
ターゲットに取り付けられる複数の1次マーカと;
前記ターゲットに取り付けられる少なくとも一つの2次マーカであって、前記少なくとも一つの2次マーカの各マーカが2次マーカ跡によって固有に特定される構成の少なくとも一つの2次マーカと;
複数の1次マーカデータポイントを、各1次マーカデータポイントが前記複数の1次マーカの一つの1次マーカに対応するように撮影するように構成される画像撮影モジュールであって、少なくとも一つの2次マーカ跡を、各2次マーカ跡が前記少なくとも一つの2次マーカの各2次マーカに対応し、かつ各2次マーカ跡によって各2次マーカを固有に特定する形で撮影するように構成される画像撮影モジュールと;
前記複数の1次マーカを、前記少なくとも一つの2次マーカ跡を使用して特定するように構成される1次マーカトラッキングモジュールと、を備えるシステム。
【請求項18】
前記少なくとも一つの2次マーカは、暗闇で光るマーカを含む、請求項17記載のシステム。
【請求項19】
前記複数の1次マーカは複数のパッシブマーカを含み、
前記少なくとも一つの2次マーカは、少なくとも一つのアクティブマーカを含む、請求項17記載のシステム。
【請求項20】
前記複数の1次マーカは複数のアクティブマーカを含み、
前記少なくとも一つの2次マーカは、少なくとも一つのパッシブマーカを含む、請求項17記載のシステム。
【請求項21】
前記複数のアクティブマーカは、LED,アクティブRFIDタグ、ポテンショメータ、データグローブ、加速度計、人体に装着可能な外骨格、及び超音波チャープ発信器の内の少なくとも一つを含む、請求項20記載のシステム。
【請求項22】
前記少なくとも一つのパッシブマーカは、パッシブRFIDタグ、暗闇で光るパッチ、シェイプテープ、及び電磁タグの内の少なくとも一つを含む、請求項20記載のシステム。
【請求項23】
更に、前記ターゲットを表わすモデル化表面を含む頂点座標系を仮想空間に設定するように構成されるデジタルモデリングモジュールを備える、請求項17記載のシステム。
【請求項24】
コンピュータ読み取り可能な記憶媒体に格納されてターゲットの動きを撮影するコンピュータプログラムであって、プログラムは実行可能命令を含み、実行可能命令によってコンピュータは:
複数の1次マーカデータポイントを撮影する処理であって、各1次マーカデータポイントが、前記ターゲットに取り付けられる複数の1次マーカの一つの1次マーカに対応するものである、処理を実行し;
少なくとも一つの2次マーカ跡を撮影する処理であって、各2次マーカ跡が、前記ターゲットに取り付けられる前記少なくとも一つの2次マーカの各2次マーカに対応し、かつ各2次マーカ跡によって各2次マーカを固有に特定するものである、処理を実行し;
前記複数の1次マーカを、前記少なくとも一つの2次マーカ跡を使用して特定する処理を実行する、コンピュータプログラム。
【請求項25】
複数の1次マーカデータポイントを撮影する手段であって、各1次マーカデータポイントが、ターゲットに取り付けられる複数の1次マーカの一つの1次マーカに対応するものである、手段と;
少なくとも一つの2次マーカ跡を撮影する手段であって、各2次マーカ跡が、前記ターゲットに取り付けられる前記少なくとも一つの2次マーカの各2次マーカに対応し、かつ各2次マーカ跡によって各2次マーカを固有に特定するものである、手段と;
前記複数の1次マーカを、前記少なくとも一つの2次マーカ跡を使用して特定する手段と、を備える装置。

【図1】
image rotate

【図2a】
image rotate

【図2b】
image rotate

【図3a】
image rotate

【図3b】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7】
image rotate

【図8】
image rotate


【公表番号】特表2009−508193(P2009−508193A)
【公表日】平成21年2月26日(2009.2.26)
【国際特許分類】
【出願番号】特願2008−528256(P2008−528256)
【出願日】平成18年8月28日(2006.8.28)
【国際出願番号】PCT/US2006/033715
【国際公開番号】WO2007/025301
【国際公開日】平成19年3月1日(2007.3.1)
【出願人】(000002185)ソニー株式会社 (34,172)
【出願人】(507103905)ソニー ピクチャーズ エンターテイメント インコーポレーテッド (28)
【Fターム(参考)】