モーションピクチャにおけるセグメント追跡
【課題】モーションマーカデータを用いるセグメント追跡に関する。
【解決手段】モーションキャプチャにおけるセグメント追跡は、既知のパターンを有するマーキング材料を表面に付すステップと、表面を覆う既知のパターンの複数の画像をそれぞれが含む画像フレームのシーケンスを取得するステップと、シーケンスの各画像フレームについて、既知のパターンに関する位置及び向き情報を導出するステップと、位置及び向き情報を組み込んだアニメーションデータを生成するステップとを有する。
【解決手段】モーションキャプチャにおけるセグメント追跡は、既知のパターンを有するマーキング材料を表面に付すステップと、表面を覆う既知のパターンの複数の画像をそれぞれが含む画像フレームのシーケンスを取得するステップと、シーケンスの各画像フレームについて、既知のパターンに関する位置及び向き情報を導出するステップと、位置及び向き情報を組み込んだアニメーションデータを生成するステップとを有する。
【発明の詳細な説明】
【技術分野】
【0001】
本出願は、米国特許法第119条に基づき、2006年11月1日に出願された同時係属中の米国仮出願番号60/856,201、発明の名称「Segment Tracking in Motion Picture」の優先権の利益を主張し、この文献の開示内容は、引用によって本願に援用される。
【0002】
更に、本出願は、同じ譲受人に譲渡されている2003年5月1日に出願された米国特許出願10/427,114、発明の名称「System and Method for Capturing Facial and Body Motion」、2006年8月25日に出願された米国特許出願11/467,503、発明の名称「Labeling Used in Motion Capture」、2007年7月27日に出願された米国特許出願11/829,711、発明の名称「FACS Cleaning in Motion Capture」、2007年7月11日に出願された米国特許出願11/776,358、発明の名称「Motion Capture Using Quantum Nano Dots」を引用によって組込み、これらの文献の開示内容は、引用によって本願に援用される。
【0003】
本発明は、包括的には、モーションキャプチャに関し、より詳しくは、モーションマーカデータを用いるセグメント追跡に関する。
【背景技術】
【0004】
モーションキャプチャシステムは、演技者又はオブジェクトの運動をキャプチャし、演技者又はオブジェクトをアニメーション化する手法として、この運動をコンピュータが生成した演技者/オブジェクトにマッピングするために使用されている。これらのシステムは、モーションピクチャ及びビデオゲームの生成において、ソースデータとしての使用のために演技者又はオブジェクトのデジタル表現を作成し、コンピュータグラフィクス(「CG」)アニメーションを作成するために頻繁に用いられている。典型的なシステムでは、演技者は、マーカが様々な位置に取り付けられたスーツを着用する(例えば、胴体及び肢に小さい反射マーカが取り付けられる)。そして、適切に配置されたデジタルカメラが、マーカを照射しながら、異なる角度からキャプチャボリューム内の演技者の体の運動を記録する。後に、システムは、画像を分析し、各フレームにおいて、演技者のスーツ上のマーカの位置(例えば、空間座標)を判定する。システムは、マーカの位置を追跡することによって時間の経過に伴うマーカの空間的表現を作成し、動いている演技者のデジタル表現を構築する。そして、この動きを仮想空間においてデジタルモデルに適用し、場合によっては、このデジタルモデルをテクスチャリング及びレンダリングして、演技者及び/又は演技の完全なCG表現が生成される。特殊効果の担当業者は、この技術を用いて、多くの大衆映画の現実感があるアニメーションを制作してきた。
【発明の概要】
【課題を解決するための手段】
【0005】
本明細書に開示する具体例は、モーションキャプチャにおけるセグメント追跡を提供する方法、システム及びコンピュータプログラムを提供する。
【0006】
一側面として、本発明は、セグメント追跡のための方法を開示する。この方法は、既知のパターンを有するマーキング材料を表面に付すステップと、表面を覆う既知のパターンの複数の画像をそれぞれが含む画像フレームのシーケンスを取得するステップと、シーケンスの各画像フレームについて、既知のパターンに関する位置及び向き情報を導出するステップと、位置及び向き情報を組み込んだアニメーションデータを生成するステップとを有する。
【0007】
他の側面として、セグメント追跡のためのシステムを開示する。システムは、表面上に配置された既知のパターンの複数の同期された画像をそれぞれが含む画像フレームのシーケンスを生成する画像取得モジュールと、画像フレームのシーケンスを受け取り、表面上に配置された既知のパターンに基づいて、アニメーションデータを生成するセグメント追跡モジュールとを備える。
【0008】
以下の詳述及び添付の図面によって、本発明の他の特徴及び利点が当業者にとって明らかとなる。
【0009】
本発明の構造及び動作の両方についての詳細は、添付の図面を読むことによっても部分的に知ることができる。
【図面の簡単な説明】
【0010】
【図1】一具体例に基づくモーションキャプチャシステムのブロック図である。
【図2】本発明の具体例に基づくマーカのサンプルの集合を示す図である。
【図3】人体を一具体例に基づくマーカ配設位置と共に示す図である。
【図4】マーカを装着した人体モデルの正面図である。
【図5】マーカを装着した人体モデルの斜め背面図である。
【図6】セグメント追跡方法のフローチャートである。
【図7A】大文字Aを表すようにラベルリング又はパターン化されたマーカを示す図である。
【図7B】パターンとして文字Aを形成する複数のマーカを含む既知のパターンを示す図である。
【図7C】文字Aの文字通りの表現を有するマーカを示す図である。
【図8】マーキング材料のストリップを使用する方法のフローチャートである。
【図9】セグメント追跡システムの具体例の機能的ブロック図である。
【図10A】コンピュータシステム及びユーザの表現を示す図である。
【図10B】セグメント追跡システムをホストするコンピュータシステムを示す機能的ブロック図である。
【図11】セグメント追跡モジュールの具体例を示す機能的ブロック図である。
【発明を実施するための形態】
【0011】
本明細書に開示する具体例は、モーションキャプチャにおけるセグメント追跡を提供する。具体例は、演技者及び/又はオブジェクトに付されたマーカの1つ以上の既知のパターンを使用することを含む。パターンを構成するマーカは、個々にではなく、グループとして追跡される。したがって、パターンは、識別、位置/並進及び向き/回転等の情報を提供でき、これは、マーカ追跡に著しく役立つ。
【0012】
この説明によって、様々な他の具体例及び代替となるアプリケーションにおいて本発明を実施する手法が当業者にとって明らかになる。なお、ここには、本発明の様々な具体例を説明するが、これらの実施の形態は、例示的なものであり、限定的なものではないことは明らかである。したがって、様々な他の具体例に関するこの詳述は、添付の特許請求の範囲に定義されている本発明の範囲又は幅を制限するものとは解釈されない。
【0013】
本発明の具体例では、既知のパターンで符号化されたマーカを演技者及び/又はオブジェクトに付し、通常、演技者及び/又はオブジェクトの様々な表面を覆う。演技者及び/又はオブジェクトの識別、位置/並進及び向き/回転は、パターンの画像を記録して、デジタル化することによって得られる。マーカのパターンは、モーションキャプチャにおいて、マーカ遮蔽(marker occlusion)の間、「マーカ見失い(missing-marker)」効果を緩和するように選択できる。他の具体例では、識別可能なランダムパターンを「既知のパターン」として用いる。
【0014】
既知の(ランダム)パターンは、例えば、量子ナノドット、暗闇で発光する(すなわち、蛍光の)材料、タトゥ、仮想的にあらゆる可視光線、赤外線の又は紫外線のインク、塗料を含む材料、又は十分に識別可能なパターンで付すことができる材料を用いて生成することができる。また、パターンは、演技者及び/又はオブジェクトの生来的な特徴のパターン(例えば、ほくろ又はしわ)であってもよい。
【0015】
一具体例では、パターンは、演技者の体に結合された複数のマーカ又は特徴を含む。他の具体例では、パターンは、単一のマーカ(例えば、マーカストリップ)又は特徴を含む。パターンは、演技者の肢、手及び足の表面の上又は周りに付し又は取り付けてもよい。一具体例においては、肢(すなわち、体肢)に巻回されたパターンストリップの円形の配置からパターンに関連する重心情報を導出できる。演技者及び/又はオブジェクトに既知のパターンを付し、そして、これらの運動をカメラで記録することによって、位置だけではなく、マーカの識別及び空間の向きに関する情報を得ることができる。
【0016】
図1は、一具体例に基づくモーションキャプチャシステム100の機能的ブロック図である。モーションキャプチャシステム100は、モーションキャプチャプロセッサ110と、モーションキャプチャカメラ120、122、124と、ユーザワークステーション130と、演技者の体140及び顔150とを含み、演技者の体140及び顔150には、所定のパターンのマーカ材料160が適切に付されている。図1では、13個のマーカ160A〜160Fのみを示しているが、体140及び顔150において実質的により多くのマーカを用いてもよい。モーションキャプチャプロセッサ110は、有線又は無線によって、ワークステーション130に接続されている。モーションキャプチャプロセッサ110は、通常、ワークステーション130から制御データパケットを受信するように構成されている。
【0017】
ここに示すように、3個のモーションキャプチャカメラ120、122、124がモーションキャプチャプロセッサ110に接続されている。通常、様々なユーザ及びアニメーションに関連するニーズ及び要求に基づき、3個より多くのモーションキャプチャカメラが必要である。モーションキャプチャカメラ120、122、124は、マーカ160A〜160Fが付されている演技者の体140及び顔150にフォーカスされる。
【0018】
マーカ160A〜160Fの配置は、例えば、演技者の体140、顔150、手170、腕172、脚174、178及び足176等の対象となる動きがキャプチャされるように構成されている。図1に示す具体例では、マーカ160Aは、顔150の動きをキャプチャし、マーカ160Bは、腕172の動きをキャプチャし、マーカ160Cは、体140の動きをキャプチャし、マーカ160D、160Eは、脚174の動きをキャプチャし、マーカ160Fは、足176の動きをキャプチャする。更に、マーカ160A〜160Fのパターンの一意性は、マーカを識別し、及びマーカの向きを知るために用いることができる情報を提供する。マーカ160Dは、演技者の脚に巻回されるパターンのストリップ(帯状のもの)として構成されている。
【0019】
モーションキャプチャカメラ120、122、124は、モーションキャプチャプロセッサ110によって制御され、マーカの2次元(2D)画像の同期シーケンスをキャプチャする。同期画像は、画像フレームに統合され、各画像フレームは、画像フレームの時間的シーケンスの1つのフレームを表す。すなわち、個々の画像フレームのそれぞれは、統合された複数の同時に取得された2D画像を含み、各2D画像は、個々のモーションキャプチャカメラ120、122又は124によって生成されている。このようにしてキャプチャされた2D画像は、通常、ユーザワークステーション130において保存され、又はリアルタイムで表示され、又はこの両方が行われる。
【0020】
モーションキャプチャプロセッサ110は、2D画像の統合を実行し(すなわち、「再構築」を実行し)、3次元(「3D」又は「立体)」)マーカデータのフレームシーケンスを生成する。立体フレームのこのシーケンスは、「ビート(beat)」と呼ばれることも多く、これは、映画撮影における「テイク(take)」と同様のものと考えることができる。従来、マーカは、離散的オブジェクト又はビジュアルポイントであり、再構築されたマーカデータは、複数の離散的マーカデータ点を含み、各マーカデータ点は、演技者140等のターゲットに連結されたマーカの空間的な(すなわち、3Dの)位置を表す。したがって、各立体フレームは、ターゲットの空間モデルを表す複数のマーカデータ点を含む。モーションキャプチャプロセッサ110は、立体フレームシーケンスを読み出し、追跡機能を実行し、各フレームのマーカデータ点に、シーケンス内の前フレーム及び次フレームのマーカデータ点を正確に関連付ける(「マッピングする」)。
【0021】
例えば、第1の立体フレームにおける個々のマーカデータ点は、演技者の体140に配置された単一のマーカに対応している。第1の立体フレームのこのようなマーカデータ点のそれぞれには、一意的ラベルが割り当てられる。そして、マーカデータ点は、第2の立体フレーム内の対応するマーカデータ点に関連付けられ、第1の立体フレームのマーカデータ点のための一意的ラベルは、第2の立体フレームの対応するマーカデータ点に割り当てられる。立体フレームシーケンスの全体についてラベリング(すなわち、追跡)処理が完了すると、シーケンスに亘って、第1の立体フレームのマーカデータ点がトレース可能になり、各マーカデータ点について、個々の軌道が得られる。
【0022】
従来より、硬いオブジェクト、若しくはオブジェクト又は体のセグメントの動きをキャプチャするために、離散的マーカが使用されている。例えば、肘及び手首に取り付けられた硬いマーカは、前腕の各端部の位置を定義する。前腕が動くと、肘及び手首のマーカの動きは、上述のように、立体フレームのシーケンスにおいて、追跡され、決定(resolved)される。このようにして、前腕の動きは、肘マーカ及び手首マーカによって定義されている端部のみによって、剛体(例えば、ロッド)としてモデル化される。ここで、前腕の並進運動は、肘マーカ及び手首マーカの空間的位置の変化を分析することによって容易に解決できるが、捻転は、手首又は肘を実質的に移動させずに行うことができるので、前腕の共通の捻転運動は、検出することが難しい。
【0023】
一具体例では、従来の離散的なマーカの使用とは異なり、パターンとして配置されたマーカを使用し、これによって、モーションキャプチャプロセッサ110は、個別にマーカを追跡するのではなく、パターンをグループとして追跡することができる。パターンは、識別情報を提供するので、あるパターンの他のパターンに対するマーカの運動を算出できる。一具体例では、このようにして追跡されたパターンは、各立体フレームにおいて、空間的な位置情報を有する個々のオブジェクトとして再構築される。オブジェクトは、立体フレームのシーケンスに亘って追跡され、例えば、パターンが付されている演技者の一部分の様々な空間的並進、回転及び捻転を表す仮想アニメーションが得られる。
【0024】
一具体例では、ストリップ160Dに1つ以上の既知のパターンを印刷する。そして、演技者の各肢(すなわち、体肢)に2つのストリップが取り付けられるように、ストリップ160Dを各肢に巻回する。例えば、図1では、2つのストリップ160Dが演技者の左の大腿部178に巻回されている。一方、端部エフェクタ(例えば、手、足、頭)は、1つのストリップだけで十分にマークできる。上述したように、巻回されたストリップ160Dの印刷されたパターンが一旦キャプチャされると、これにより、モーションキャプチャプロセッサ110は、演技者の肢を表す各「セグメント」の位置及び向きを、如何なる角度からも、可視のセグメント上の1つだけのマーカによって追跡することができる。図1に示す演技者の大腿部178は、モーションキャプチャプロセッサ110において、セグメントとして扱われる。複数のマーカを有するパターン化されたストリップ160Dを肢の周りに実質的に円形に巻回することによって、肢(すなわち、セグメント)の「重心」を判定できる。マーカの複数のパターン化されたストリップ160Dを用いて重心を判定し、肢内の骨の推定値又はモデルを提供してもよい。更に、セグメントに付された1つ(又は可視であれば2つ以上)のマーカ及び/又はストリップから、セグメントの全体に関する向き、並進及び回転情報を判定することもできる。
【0025】
一具体例では、モーションキャプチャプロセッサ110は、ここに開示する技術に基づいてセグメント追跡を実行し、これにより、マーカ(又はマークされた領域)のグループについて、識別、位置/並進及び向き/回転情報を生成する。従来の光学的モーションキャプチャシステムは、通常、マーカの位置のみを記録するが、セグメント追跡によって、モーションキャプチャプロセッサ110は、どのマーカがキャプチャされているかを識別し、セグメントのキャプチャされたマーカの位置及び向きを特定することができる。一旦、マーカが検出及び特定されると、特定されたマーカから、セグメントに関する位置及び向き/回転情報を導出できる。セグメントの位置及び向き情報の判定の信頼度は、検出されるマーカの数が多くなるほど高くなる。
【0026】
既知のパターン(及び識別可能なランダムパターン)で付されるマーカ又はマーキング材料は、本質的に、識別及び向き情報を符号化し、効率的なセグメント追跡の補助となる。一具体例では、より小さいマーカの既知のパターンが単一のマーカ又はマーキング領域を構成する。例えば、図7Aに示す大文字Aを表すようにラベリング又はパターン化されたマーカは、実際には、6個のより小さいマーカA、B、C、D、E、Fから構成されている。他の具体例では、図7Bに示すように、既知のパターンは、パターンとして文字Aを形成する複数のマーカ又はマーキング領域を含む。文字Aを形成する8個のドットは、単一のより大きいマーカとして機能する。これに代えて、図7Cに示すように、マーカは、文字Aの文字通りの表現であってもよい。図7A〜図7Cに示すマーカの共通の特徴は、これらが全て識別可能な向きを有するという点である。何れの場合も、マーカは、回転できるが、回転しても文字Aとして識別でき、これにより、キャプチャされた画像データのフレーム間でマーカが容易に「追跡可能」になるので、マーカ追跡効率が著しく高まる。識別に加えて、各マーカの向きも、フレーム間で判定できる。例えば、マーカ160B(図1参照)が演技者の前腕に取り付けられている場合、演技者が前腕を下ろしている位置から頭上に上げている位置に移動させると、マーカ160Bは、実質的に180度回転する。マーカの追跡によって、頭上の位置への空間的並進だけではなく、前腕セグメントが、前の位置から180度異なる向きを向いていることが明らかになる。このように、マーカ追跡は、識別及び向き情報を符号化するマーカ又はマーカのグループを用いることによって、拡張され、改善される。
【0027】
図2は、本発明の具体例に基づくマーカのサンプルの集合を示している。各マーカは、小さい白色及び黒色の正方形の6×6マトリクスから構成されている。各マーカにおいて、識別及び向き情報は、6×6マトリクス内の白色の正方形の一意的な配置によって符号化されている。何れの場合も、マーカを回転させても、マーカの識別及び向きの判定に関して多義性が生じることはなく、これにより、情報を符号化するための、このスキームの有効性が示されている。なお、ここに例示的に開示した白色及び黒色の要素の6×6マトリクス以外の構成を用いる符号化スキームを採用してもよいことは明らかである。
【0028】
図3は、人体を一具体例に基づくマーカ配設位置と共に示している。ここに示すマーカは、図2に示すスキームと同様のスキームを用いて、識別及び向き情報を符号化している。これらのマーカは、体の主要な末端(すなわち、セグメント)が少なくとも1つのマーカによって定義されるように、実質的に対称的に配置されている。図示するマーカの約半分は、ここに示す正面図では可視でない体の表面に配置され、これらのマーカについては、隠れている位置を概略的に指す矢印を示している。図1に示すように、モーションキャプチャカメラ120、122、124(通常、より多くのカメラを用いるが、これらのカメラを代表している)は、演技者の体140及び顔150が動くキャプチャ空間を取り囲む。モーションキャプチャカメラ120、122、124のあるサブセットから、マーカの何れかのビューが隠れても、他のサブセットが視野を維持し、この隠れたマーカの動きをキャプチャする。したがって、このようなマーカを装着した演技者による殆ど全ての運動は、図1に関連して説明したシステムを用いてキャプチャすることでき、セグメント追跡方法を用いて追跡することができる。
【0029】
図4は、図3について説明したマーカを装着した人体モデルの正面図を示している。ここに示すように、モデルの前面の表面上のマーカだけが可視である。マーカの残りは部分的又は完全に隠れている。図5は、図4に示すものと実質的に同じポーズの同じ人体モデルの斜め背面図である。この視点からは、全面に配置されたマーカは、隠れているが、図4では隠れていたマーカの多くが可視になっている。このように、如何なる任意の時点においても、キャプチャ空間の周りに配置された複数のモーションキャプチャカメラ120、122、124の何れかのサブセットにとっては、実質的に全てのマーカが可視である。
【0030】
また、図4及び図5に示す3Dモデル上のマーカ配置は、動きを明確にする体の主要な末端(セグメント)及び領域(例えば、頭、肩、尻、足首等)を実質的に定義する。キャプチャされたデータに関してセグメント追跡を実行すると、マーカが配設されている体の部分の位置を特定することができ、また、これらの向きも判定することができる。更に、マーカ配置によって定義されている体のセグメント、例えば、肘と肩との間の上腕セグメントは、そのセグメントの実質的に各端部に配置されたマーカによって、その位置を特定することができる。また、上腕を定義する個々のマーカから導出される向きから、上腕セグメントの位置及び向きも判定できる。
【0031】
図6は、具体例に基づくセグメント追跡方法600を説明するフローチャートである。610では、既知のパターン又は識別可能なランダムパターンを有するマーキング材料を表面に付す。一具体例では、表面は、演技者の体の表面であり、パターンは、演技者の体に取り付けられた複数のマーカを含む。他の具体例では、パターンは、演技者の体に取り付けられた単一のマーカ(例えば、マーカストリップ)からなる。また、図1に関連して説明したように、パターンは、演技者の肢、手及び足の周りに固定されたストリップ160Dとして形成してもよい。また、マーカは、反射性の球、演技者の体に貼り付けられたタトゥ(タトゥシール)、演技者の体に塗布された材料又は演技者の生来的な特徴(例えば、ほくろ又はしわ)を含む。一具体例では、一時的タトゥを用いて、マーカのパターンを演技者に付してもよい。
【0032】
次に、620において、ここ開示し、図1に関連して説明したモーションキャプチャのための方法及びシステムに基づいて、画像フレームのシーケンスを取得する。画像データは、キャプチャされた後、例えば、マーカを備える演技者又はオブジェクトの3Dモデルを再構築するために使用される。一具体例では、この処理は、630において、各画像フレームについて、マーカパターンの位置及び向き情報を導出(生成)することを含む。位置情報は、図4及び図5に関して説明したように、特徴的な回転不変性を用いるパターンによって提供されるマーカに符号化されている一意的な識別情報によって得られる。向き情報は、パターンを構成するマーカの回転の量を判定することによって導出することができる。マーカの総合的な回転及び向きは、3D空間におけるアフィン(affine)表現によって定義することができ、これにより、マーカ追跡が容易になる。例えば、向きは、3D空間内のオブジェクトの6自由度(six degrees of freedom:6DOF)を表す値によって表現することができる。したがって、向きは、座標系(例えば、ユークリッド空間)の原点からの何らかの位置の移動(並進)を表す3つの値と、座標系の基本的な軸に対する角変位(回転)を表す3つの値とを有することができる。
【0033】
640では、マーカの運動に基づくアニメーションデータを生成する。例えば、仮想デジタルモデルは、画像データにおいてキャプチャされた演技者の運動から導出されたデータによってアクティブ化される。演技の間、演技者は、台本に従って、脚を揺らす。演技者の脚は、例えば、主要な各関節、すなわち、尻、ひざ及び足首にマーカを備えている。マーカの運動を判定し、これを用いて、演技者の脚のセグメントの運動を定義する。演技者の脚のセグメントは、デジタルモデルの脚のセグメントに対応し、したがって、仮想デジタルモデルをアニメーション化するために、演技者の脚のセグメントの運動は、仮想デジタルモデルの脚にマッピングされる。
【0034】
図6に関連して説明したように、610では、パターンをストリップ160D(図1参照)として形成し、これを演技者の肢、手及び足の周りに取り付けてもよい。そして、肢に巻回されたストリップの円形の配置から重心を判定してもよい。そして、例えば、肢の各端部に配設されたこのような2つのストリップを用いて、肢(セグメント)に対して長手方向の重心を判定し、基底にある骨格要素を概算してもよい。
【0035】
図8は、マーキング材料のストリップを使用する方法800を説明するフローチャートを示している。810では、既知のパターンを有するマーキング材料のストリップを演技者の肢に付し、これは、通常、ストリップを肢に巻回することによって行われる。巻回されたマーキング材料のストリップは、実質的に円形の形状に配置されるので、ストリップの重心を判定し、この重心を用いて、ストリップが巻回された体の領域の運動を表現することができる。更に、このようにして肢の骨格要素の動きを概算し、骨格モデリングのために使用してもよい。
【0036】
次に、820において、図1に関連して上述したモーションキャプチャの方法及びシステムに基づいて、画像フレームのシーケンスを取得する。画像データは、図6の620に関して説明したものと基本的に同様の手法で、キャプチャされた後、例えば、マーカを備える演技者の3Dモデルを再構築するために使用される。一具体例では、この処理は、830において、図6の630に関して説明した処理と基本的に同様の手法で、各画像フレームにおける各ストリップについて、既知のパターンの位置及び向き情報を導出することを含む。
【0037】
840では、位置及び向き情報から、1つ以上のストリップを備える演技者の肢の重心情報を導出する。上述のように、2つ以上のストリップの重心を用いて、演技者の肢内の骨格構造(すなわち、骨)を概算することができる。そして、マーカストリップの重心の運動を用いて、骨格構造の運動、したがって、肢の運動を表現する。
【0038】
850では、マーカストリップの運動に基づくアニメーションデータを生成する。例えば、演技の間、演技者は、台本に従って、脚を揺らす。演技者の脚には、上述のように、マーカ材料のストリップが巻回されている。すなわち、例えば、太股の上部にあるストリップを巻回し、ひざの近傍に他のストリップを巻回してもよい。そして、マーカストリップの重心の運動を判定し、これを用いて、上脚の骨格構造、すなわち、演技者に対応する仮想デジタルモデルの上脚の内部の骨格要素を定義する。したがって、重心の運動を用いて、仮想デジタルモデルの脚をアニメーション化することができる。
【0039】
一具体例では、量子ナノドット(又は「量子ドット」又は「QD」とも呼ばれる。)を用いてマーカを印刷又は形成する。このシステムは、従来の再帰性反射システム(retro-reflective system)と略々同様の構成を有するが、特定の周波数の励起光源(例えば、既存のフィルタリングされたリングライト又は他の光源)と、既存のカメラのレンズの背後に配置され、これによってQDが放射する光の波長にカメラをチューニングする狭帯域フィルタとが追加される。
【0040】
QDは、特定の波長の光によって励起され、異なる波長の光(すなわち、蛍光)を発するように構成されている。QDは、励起波長からスペクトル的に上に量子シフトされている光を発するため、カメラから励起光をフィルタリングすることができる。これにより、QDの特定の放射スペクトルの範囲の外にある全ての光を、カメラにおいて実質的にブロックすることができる。
【0041】
QDは、仮想的に、可視又は不可視のスペクトル内の如何なる波長にもチューニングできる。これは、マーカの特定のグループだけが見え、それ以外が見えないようにカメラのグループをフィルタリングすることができることを意味し、これによって、要求される所定のカメラの動作負荷が軽減され、カメラは、QDの狭い応答範囲において「全開(wide open)」で動作することができる。
【0042】
一具体例では、量子ナノドットは、インク、塗料、プラスチック、一時的タトゥブランク(temporary tattoo blanks)等の媒体に加えられる。
【0043】
図9は、セグメント追跡システム900の具体例の機能的ブロック図である。画像取得モジュール910は、モーションキャプチャ画像データの画像フレームを生成し、セグメント追跡モジュール920は、画像フレームを受け取って、アニメーションデータを生成する。
【0044】
画像取得モジュール910は、図1に示すモーションキャプチャシステム100に関連して上述した方法に基づいて動作する。一具体例では、画像フレームは、追跡されていないマーカデータを含む立体的データを含む。すなわち、マーカデータは、ラベリングていない空間データとして各フレームに存在し、他のフレームのマーカデータと統合されていない。
【0045】
セグメント追跡モジュール920は、図2〜図9に関連して上述した方法及びスキームに基づいて動作する。
【0046】
図11は、セグメント追跡モジュール920の例示的構成を示す機能的ブロック図である。ここに示すように、セグメント追跡モジュール920は、識別モジュール1100、向きモジュール1110、追跡モジュール1120及びアニメーションモジュール1130を含む。
【0047】
識別モジュール1100は、図1に示すマーカ160A〜160F等の既知のパターンを有するマーカを特定する能力を備える。一具体例では、識別モジュール1100は、フレーム間でマーカ160の既知のパターン及びランダムパターンの位置を特定するパターン照合を実行する。他の具体例では、識別モジュール1100は、図7A〜図7Cに関連して説明したように、より小さいマーカのグループから構成される単一のより大きいマーカを識別するように構成されている。マーカ160は、その回転の状態にかかわらず識別可能となるように設計されており、これに応じて、識別モジュール1100は、マーカ160の回転に対して不変の識別を実行するように構成されている。一旦、マーカ160が一意的に識別されると、マーカ160は、演技者の体の特定の部分、例えば、マーカ160が取り付けられている部分に適切に関連付けられる。図1に示すように、マーカ160Bは、演技者の上腕172に関連付けられ、マーカ160Dは、上下の大腿部178(脚セグメントに巻回されたマーカストリップ)に関連付けられ、マーカ160Cは、胴部に関連付けられる。そして、識別情報は、向きモジュール1110及び追跡モジュール1120に渡される。
【0048】
図11に示す例示的構成では、向きモジュール1110は、識別情報を受け取り、向き情報を生成する。一具体例においては、向き情報は、6DOFデータを含む。そして、マーカ160は、各フレームにおいて分析され、マーカ160の時間の経過に伴う位置及び回転(すなわち、アフィン)状態が判定される。一具体例では、各マーカ160について、フレーム間におけるこれらの状態の変化を記述する3Dアフィン変換を展開する。ストリップマーカ160Dが演技者の肢のセグメントの各端部、例えば大腿部178等(図1参照)に巻回される場合、その手足セグメントの重心を判定し、基本的な骨格構造(すなわち、骨)を概算してもよい。向き情報(6DOF、アフィン変換)は、アニメーションモジュール1130に渡される。
【0049】
追跡モジュール1120は、識別情報を受け取り、マーカ軌道情報を生成する。すなわちマーカは、画像フレームのシーケンスに亘って追跡され、ラベリングされ、軌道が判定される。一具体例では、2006年8月25日に出願された米国特許出願11/467,503、発明の名称「Labeling Used in Motion Capture」及び2007年7月27日に出願された米国特許出願11/829,711、発明の名称「FACS Cleaning in Motion Capture」に基づくラベリング及びFACSの手法を採用する。ラベリング情報(すなわち、軌道データ)は、アニメーションモジュール1130に渡される。
【0050】
アニメーションモジュール1130は、向き及びラベリング情報を受け取り、アニメーションデータを生成する。一具体例では、マーカの位置及び向きは、マーカが取り付けられた演技者上の位置に対応する(仮想)デジタルキャラクタモデル上の位置にマッピングされる。同様に、演技者の体の上のマーカによって定義されているセグメントは、デジタルキャラクタモデル上の対応する部分にマッピングされる。例えば、演技者の肢の骨格構造に近似する重心の運動は、演技者の体のその部分の運動もモデル化する。そして、マーカ160及び関連する重心の運動を記述する変換が適切にフォーマットされ、デジタルキャラクタの対応するセグメントをアニメーション化するためのアニメーションデータとして生成される。
【0051】
アニメーションモジュール1130は、アニメーション情報を受け取り、これをデジタルキャラクタに適用し、デジタルキャラクタをアニメーション化する。通常、所望の結果を得るために何らかの再処理が必要であるか、及びどれ程の再処理が必要かを判定するために、演技者の運動に対するアニメーションの忠実度が調べられる。
【0052】
図10Aは、コンピュータシステム1000及びユーザ1002の表現を示している。ユーザ1002は、コンピュータシステム1000を使用して、セグメント追跡を実行する。コンピュータシステム1000は、画像フレームデータを処理するセグメント追跡システム1090を保存し、実行する。
【0053】
図10Bは、セグメント追跡システム1090をホストするコンピュータシステム1000を示す機能的ブロック図である。コントローラ1010は、コンピュータシステム1000及びそのコンポーネントの動作を制御するプログラマブルプロセッサである。コントローラ1010は、メモリ1020又は埋め込まれたコントローラメモリ(図示せず)から命令をロードし、これらの命令を実行してシステムを制御する。実行時には、コントローラ1010は、セグメント追跡システム1090をソフトウェアシステムとして提供する。これに代えて、このサービスは、コントローラ1010又はコンピュータシステム1000における独立したコンポーネントとして実装してもよい。
【0054】
メモリ1020は、コンピュータシステム1000の他のコンポーネントによる使用のために一時的にデータを保存する。一具体例では、メモリ1020は、RAMとして実装される。他の具体例では、メモリ1020は、フラッシュメモリ及び/又はROM等の長期的又は持続的メモリを含む。
【0055】
ストレージ1030は、コンピュータシステム1000の他のコンポーネントによる使用のために、一時的に又は長期間、データを保存し、例えば、セグメント追跡システム1090によって用いられるデータを保存する。一具体例では、ストレージ1030は、ハードディスクドライブである。
【0056】
媒体装置1040には、リムーバブル媒体が挿入され、挿入された媒体からデータを読み出し及び/又は媒体にデータを書き込む。一具体例では、媒体装置1040は、光ディスクドライブである。
【0057】
ユーザインタフェース1050は、コンピュータシステム1000のユーザからユーザ入力を受け付け、ユーザに情報を提供するコンポーネントを含む。一具体例では、ユーザインタフェース1050は、キーボード、マウス、オーディオスピーカ及びディスプレイを含む。コントローラ1010は、ユーザからの入力に基づいて、コンピュータシステム1000の動作を調整する。
【0058】
入出力(I/O)インタフェース1060は、例えば、外部ストレージ装置又は補助装置(例えば、プリンタ又はPDA)等の対応する入出力装置に接続する1つ以上の入出力ポートを含む。一具体例では、入出力インタフェース1060のポートは、USBポート、PCMCIAポート、シリアルポート及び/又はパラレルポートを含む。他の具体例では、入出力インタフェース1060は、外部機器と無線で通信するための無線インタフェースを含む。
【0059】
ネットワークインタフェース1070は、例えば、イーサネット(登録商標)接続をサポートするRJ−45又は「Wi−Fi」インタフェース(これに限定されるものではないが、802.11を含む。)等の有線及び/又は無線ネットワーク接続を含む。
【0060】
コンピュータシステム1000は、通常のコンピュータシステムが備える更なるハードウェア及びソフトウェア(例えば、電源、冷却装置、オペレーティングシステム)を含むが、図10Bでは、簡潔性のためにこれらのコンポーネントを示していない。他の具体例では、異なる構成(例えば、異なるバス又はストレージ構成、又はマルチプロセッサ構成)を有するコンピュータシステムを用いてもよい。
【0061】
本発明の様々な例示的な具体例について説明した。但し、他の具体例も可能であり、これらも本発明の範囲内に含まれる当業者にとって明らかである。例えば、既知のパターン及び識別可能なランダムパターンは、演技者又はオブジェクトの表面に印刷、塗布又はインク書きしてもよい。更に、所望のパターンを得るために、印刷、塗布、インク書き、タトゥ、量子ナノドット及び生来的な肉体的特徴の如何なる組合せを用いてもよい。
【0062】
更に、説明を簡潔にするために、モジュール又はブロック内に機能をグループ化している。特定の機能は、本発明から逸脱することなく、あるモジュール又はブロックから他のモジュール又はブロックに移行させることができる。
【0063】
したがって、本発明は、上述した実施の形態のみには限定されない。
【技術分野】
【0001】
本出願は、米国特許法第119条に基づき、2006年11月1日に出願された同時係属中の米国仮出願番号60/856,201、発明の名称「Segment Tracking in Motion Picture」の優先権の利益を主張し、この文献の開示内容は、引用によって本願に援用される。
【0002】
更に、本出願は、同じ譲受人に譲渡されている2003年5月1日に出願された米国特許出願10/427,114、発明の名称「System and Method for Capturing Facial and Body Motion」、2006年8月25日に出願された米国特許出願11/467,503、発明の名称「Labeling Used in Motion Capture」、2007年7月27日に出願された米国特許出願11/829,711、発明の名称「FACS Cleaning in Motion Capture」、2007年7月11日に出願された米国特許出願11/776,358、発明の名称「Motion Capture Using Quantum Nano Dots」を引用によって組込み、これらの文献の開示内容は、引用によって本願に援用される。
【0003】
本発明は、包括的には、モーションキャプチャに関し、より詳しくは、モーションマーカデータを用いるセグメント追跡に関する。
【背景技術】
【0004】
モーションキャプチャシステムは、演技者又はオブジェクトの運動をキャプチャし、演技者又はオブジェクトをアニメーション化する手法として、この運動をコンピュータが生成した演技者/オブジェクトにマッピングするために使用されている。これらのシステムは、モーションピクチャ及びビデオゲームの生成において、ソースデータとしての使用のために演技者又はオブジェクトのデジタル表現を作成し、コンピュータグラフィクス(「CG」)アニメーションを作成するために頻繁に用いられている。典型的なシステムでは、演技者は、マーカが様々な位置に取り付けられたスーツを着用する(例えば、胴体及び肢に小さい反射マーカが取り付けられる)。そして、適切に配置されたデジタルカメラが、マーカを照射しながら、異なる角度からキャプチャボリューム内の演技者の体の運動を記録する。後に、システムは、画像を分析し、各フレームにおいて、演技者のスーツ上のマーカの位置(例えば、空間座標)を判定する。システムは、マーカの位置を追跡することによって時間の経過に伴うマーカの空間的表現を作成し、動いている演技者のデジタル表現を構築する。そして、この動きを仮想空間においてデジタルモデルに適用し、場合によっては、このデジタルモデルをテクスチャリング及びレンダリングして、演技者及び/又は演技の完全なCG表現が生成される。特殊効果の担当業者は、この技術を用いて、多くの大衆映画の現実感があるアニメーションを制作してきた。
【発明の概要】
【課題を解決するための手段】
【0005】
本明細書に開示する具体例は、モーションキャプチャにおけるセグメント追跡を提供する方法、システム及びコンピュータプログラムを提供する。
【0006】
一側面として、本発明は、セグメント追跡のための方法を開示する。この方法は、既知のパターンを有するマーキング材料を表面に付すステップと、表面を覆う既知のパターンの複数の画像をそれぞれが含む画像フレームのシーケンスを取得するステップと、シーケンスの各画像フレームについて、既知のパターンに関する位置及び向き情報を導出するステップと、位置及び向き情報を組み込んだアニメーションデータを生成するステップとを有する。
【0007】
他の側面として、セグメント追跡のためのシステムを開示する。システムは、表面上に配置された既知のパターンの複数の同期された画像をそれぞれが含む画像フレームのシーケンスを生成する画像取得モジュールと、画像フレームのシーケンスを受け取り、表面上に配置された既知のパターンに基づいて、アニメーションデータを生成するセグメント追跡モジュールとを備える。
【0008】
以下の詳述及び添付の図面によって、本発明の他の特徴及び利点が当業者にとって明らかとなる。
【0009】
本発明の構造及び動作の両方についての詳細は、添付の図面を読むことによっても部分的に知ることができる。
【図面の簡単な説明】
【0010】
【図1】一具体例に基づくモーションキャプチャシステムのブロック図である。
【図2】本発明の具体例に基づくマーカのサンプルの集合を示す図である。
【図3】人体を一具体例に基づくマーカ配設位置と共に示す図である。
【図4】マーカを装着した人体モデルの正面図である。
【図5】マーカを装着した人体モデルの斜め背面図である。
【図6】セグメント追跡方法のフローチャートである。
【図7A】大文字Aを表すようにラベルリング又はパターン化されたマーカを示す図である。
【図7B】パターンとして文字Aを形成する複数のマーカを含む既知のパターンを示す図である。
【図7C】文字Aの文字通りの表現を有するマーカを示す図である。
【図8】マーキング材料のストリップを使用する方法のフローチャートである。
【図9】セグメント追跡システムの具体例の機能的ブロック図である。
【図10A】コンピュータシステム及びユーザの表現を示す図である。
【図10B】セグメント追跡システムをホストするコンピュータシステムを示す機能的ブロック図である。
【図11】セグメント追跡モジュールの具体例を示す機能的ブロック図である。
【発明を実施するための形態】
【0011】
本明細書に開示する具体例は、モーションキャプチャにおけるセグメント追跡を提供する。具体例は、演技者及び/又はオブジェクトに付されたマーカの1つ以上の既知のパターンを使用することを含む。パターンを構成するマーカは、個々にではなく、グループとして追跡される。したがって、パターンは、識別、位置/並進及び向き/回転等の情報を提供でき、これは、マーカ追跡に著しく役立つ。
【0012】
この説明によって、様々な他の具体例及び代替となるアプリケーションにおいて本発明を実施する手法が当業者にとって明らかになる。なお、ここには、本発明の様々な具体例を説明するが、これらの実施の形態は、例示的なものであり、限定的なものではないことは明らかである。したがって、様々な他の具体例に関するこの詳述は、添付の特許請求の範囲に定義されている本発明の範囲又は幅を制限するものとは解釈されない。
【0013】
本発明の具体例では、既知のパターンで符号化されたマーカを演技者及び/又はオブジェクトに付し、通常、演技者及び/又はオブジェクトの様々な表面を覆う。演技者及び/又はオブジェクトの識別、位置/並進及び向き/回転は、パターンの画像を記録して、デジタル化することによって得られる。マーカのパターンは、モーションキャプチャにおいて、マーカ遮蔽(marker occlusion)の間、「マーカ見失い(missing-marker)」効果を緩和するように選択できる。他の具体例では、識別可能なランダムパターンを「既知のパターン」として用いる。
【0014】
既知の(ランダム)パターンは、例えば、量子ナノドット、暗闇で発光する(すなわち、蛍光の)材料、タトゥ、仮想的にあらゆる可視光線、赤外線の又は紫外線のインク、塗料を含む材料、又は十分に識別可能なパターンで付すことができる材料を用いて生成することができる。また、パターンは、演技者及び/又はオブジェクトの生来的な特徴のパターン(例えば、ほくろ又はしわ)であってもよい。
【0015】
一具体例では、パターンは、演技者の体に結合された複数のマーカ又は特徴を含む。他の具体例では、パターンは、単一のマーカ(例えば、マーカストリップ)又は特徴を含む。パターンは、演技者の肢、手及び足の表面の上又は周りに付し又は取り付けてもよい。一具体例においては、肢(すなわち、体肢)に巻回されたパターンストリップの円形の配置からパターンに関連する重心情報を導出できる。演技者及び/又はオブジェクトに既知のパターンを付し、そして、これらの運動をカメラで記録することによって、位置だけではなく、マーカの識別及び空間の向きに関する情報を得ることができる。
【0016】
図1は、一具体例に基づくモーションキャプチャシステム100の機能的ブロック図である。モーションキャプチャシステム100は、モーションキャプチャプロセッサ110と、モーションキャプチャカメラ120、122、124と、ユーザワークステーション130と、演技者の体140及び顔150とを含み、演技者の体140及び顔150には、所定のパターンのマーカ材料160が適切に付されている。図1では、13個のマーカ160A〜160Fのみを示しているが、体140及び顔150において実質的により多くのマーカを用いてもよい。モーションキャプチャプロセッサ110は、有線又は無線によって、ワークステーション130に接続されている。モーションキャプチャプロセッサ110は、通常、ワークステーション130から制御データパケットを受信するように構成されている。
【0017】
ここに示すように、3個のモーションキャプチャカメラ120、122、124がモーションキャプチャプロセッサ110に接続されている。通常、様々なユーザ及びアニメーションに関連するニーズ及び要求に基づき、3個より多くのモーションキャプチャカメラが必要である。モーションキャプチャカメラ120、122、124は、マーカ160A〜160Fが付されている演技者の体140及び顔150にフォーカスされる。
【0018】
マーカ160A〜160Fの配置は、例えば、演技者の体140、顔150、手170、腕172、脚174、178及び足176等の対象となる動きがキャプチャされるように構成されている。図1に示す具体例では、マーカ160Aは、顔150の動きをキャプチャし、マーカ160Bは、腕172の動きをキャプチャし、マーカ160Cは、体140の動きをキャプチャし、マーカ160D、160Eは、脚174の動きをキャプチャし、マーカ160Fは、足176の動きをキャプチャする。更に、マーカ160A〜160Fのパターンの一意性は、マーカを識別し、及びマーカの向きを知るために用いることができる情報を提供する。マーカ160Dは、演技者の脚に巻回されるパターンのストリップ(帯状のもの)として構成されている。
【0019】
モーションキャプチャカメラ120、122、124は、モーションキャプチャプロセッサ110によって制御され、マーカの2次元(2D)画像の同期シーケンスをキャプチャする。同期画像は、画像フレームに統合され、各画像フレームは、画像フレームの時間的シーケンスの1つのフレームを表す。すなわち、個々の画像フレームのそれぞれは、統合された複数の同時に取得された2D画像を含み、各2D画像は、個々のモーションキャプチャカメラ120、122又は124によって生成されている。このようにしてキャプチャされた2D画像は、通常、ユーザワークステーション130において保存され、又はリアルタイムで表示され、又はこの両方が行われる。
【0020】
モーションキャプチャプロセッサ110は、2D画像の統合を実行し(すなわち、「再構築」を実行し)、3次元(「3D」又は「立体)」)マーカデータのフレームシーケンスを生成する。立体フレームのこのシーケンスは、「ビート(beat)」と呼ばれることも多く、これは、映画撮影における「テイク(take)」と同様のものと考えることができる。従来、マーカは、離散的オブジェクト又はビジュアルポイントであり、再構築されたマーカデータは、複数の離散的マーカデータ点を含み、各マーカデータ点は、演技者140等のターゲットに連結されたマーカの空間的な(すなわち、3Dの)位置を表す。したがって、各立体フレームは、ターゲットの空間モデルを表す複数のマーカデータ点を含む。モーションキャプチャプロセッサ110は、立体フレームシーケンスを読み出し、追跡機能を実行し、各フレームのマーカデータ点に、シーケンス内の前フレーム及び次フレームのマーカデータ点を正確に関連付ける(「マッピングする」)。
【0021】
例えば、第1の立体フレームにおける個々のマーカデータ点は、演技者の体140に配置された単一のマーカに対応している。第1の立体フレームのこのようなマーカデータ点のそれぞれには、一意的ラベルが割り当てられる。そして、マーカデータ点は、第2の立体フレーム内の対応するマーカデータ点に関連付けられ、第1の立体フレームのマーカデータ点のための一意的ラベルは、第2の立体フレームの対応するマーカデータ点に割り当てられる。立体フレームシーケンスの全体についてラベリング(すなわち、追跡)処理が完了すると、シーケンスに亘って、第1の立体フレームのマーカデータ点がトレース可能になり、各マーカデータ点について、個々の軌道が得られる。
【0022】
従来より、硬いオブジェクト、若しくはオブジェクト又は体のセグメントの動きをキャプチャするために、離散的マーカが使用されている。例えば、肘及び手首に取り付けられた硬いマーカは、前腕の各端部の位置を定義する。前腕が動くと、肘及び手首のマーカの動きは、上述のように、立体フレームのシーケンスにおいて、追跡され、決定(resolved)される。このようにして、前腕の動きは、肘マーカ及び手首マーカによって定義されている端部のみによって、剛体(例えば、ロッド)としてモデル化される。ここで、前腕の並進運動は、肘マーカ及び手首マーカの空間的位置の変化を分析することによって容易に解決できるが、捻転は、手首又は肘を実質的に移動させずに行うことができるので、前腕の共通の捻転運動は、検出することが難しい。
【0023】
一具体例では、従来の離散的なマーカの使用とは異なり、パターンとして配置されたマーカを使用し、これによって、モーションキャプチャプロセッサ110は、個別にマーカを追跡するのではなく、パターンをグループとして追跡することができる。パターンは、識別情報を提供するので、あるパターンの他のパターンに対するマーカの運動を算出できる。一具体例では、このようにして追跡されたパターンは、各立体フレームにおいて、空間的な位置情報を有する個々のオブジェクトとして再構築される。オブジェクトは、立体フレームのシーケンスに亘って追跡され、例えば、パターンが付されている演技者の一部分の様々な空間的並進、回転及び捻転を表す仮想アニメーションが得られる。
【0024】
一具体例では、ストリップ160Dに1つ以上の既知のパターンを印刷する。そして、演技者の各肢(すなわち、体肢)に2つのストリップが取り付けられるように、ストリップ160Dを各肢に巻回する。例えば、図1では、2つのストリップ160Dが演技者の左の大腿部178に巻回されている。一方、端部エフェクタ(例えば、手、足、頭)は、1つのストリップだけで十分にマークできる。上述したように、巻回されたストリップ160Dの印刷されたパターンが一旦キャプチャされると、これにより、モーションキャプチャプロセッサ110は、演技者の肢を表す各「セグメント」の位置及び向きを、如何なる角度からも、可視のセグメント上の1つだけのマーカによって追跡することができる。図1に示す演技者の大腿部178は、モーションキャプチャプロセッサ110において、セグメントとして扱われる。複数のマーカを有するパターン化されたストリップ160Dを肢の周りに実質的に円形に巻回することによって、肢(すなわち、セグメント)の「重心」を判定できる。マーカの複数のパターン化されたストリップ160Dを用いて重心を判定し、肢内の骨の推定値又はモデルを提供してもよい。更に、セグメントに付された1つ(又は可視であれば2つ以上)のマーカ及び/又はストリップから、セグメントの全体に関する向き、並進及び回転情報を判定することもできる。
【0025】
一具体例では、モーションキャプチャプロセッサ110は、ここに開示する技術に基づいてセグメント追跡を実行し、これにより、マーカ(又はマークされた領域)のグループについて、識別、位置/並進及び向き/回転情報を生成する。従来の光学的モーションキャプチャシステムは、通常、マーカの位置のみを記録するが、セグメント追跡によって、モーションキャプチャプロセッサ110は、どのマーカがキャプチャされているかを識別し、セグメントのキャプチャされたマーカの位置及び向きを特定することができる。一旦、マーカが検出及び特定されると、特定されたマーカから、セグメントに関する位置及び向き/回転情報を導出できる。セグメントの位置及び向き情報の判定の信頼度は、検出されるマーカの数が多くなるほど高くなる。
【0026】
既知のパターン(及び識別可能なランダムパターン)で付されるマーカ又はマーキング材料は、本質的に、識別及び向き情報を符号化し、効率的なセグメント追跡の補助となる。一具体例では、より小さいマーカの既知のパターンが単一のマーカ又はマーキング領域を構成する。例えば、図7Aに示す大文字Aを表すようにラベリング又はパターン化されたマーカは、実際には、6個のより小さいマーカA、B、C、D、E、Fから構成されている。他の具体例では、図7Bに示すように、既知のパターンは、パターンとして文字Aを形成する複数のマーカ又はマーキング領域を含む。文字Aを形成する8個のドットは、単一のより大きいマーカとして機能する。これに代えて、図7Cに示すように、マーカは、文字Aの文字通りの表現であってもよい。図7A〜図7Cに示すマーカの共通の特徴は、これらが全て識別可能な向きを有するという点である。何れの場合も、マーカは、回転できるが、回転しても文字Aとして識別でき、これにより、キャプチャされた画像データのフレーム間でマーカが容易に「追跡可能」になるので、マーカ追跡効率が著しく高まる。識別に加えて、各マーカの向きも、フレーム間で判定できる。例えば、マーカ160B(図1参照)が演技者の前腕に取り付けられている場合、演技者が前腕を下ろしている位置から頭上に上げている位置に移動させると、マーカ160Bは、実質的に180度回転する。マーカの追跡によって、頭上の位置への空間的並進だけではなく、前腕セグメントが、前の位置から180度異なる向きを向いていることが明らかになる。このように、マーカ追跡は、識別及び向き情報を符号化するマーカ又はマーカのグループを用いることによって、拡張され、改善される。
【0027】
図2は、本発明の具体例に基づくマーカのサンプルの集合を示している。各マーカは、小さい白色及び黒色の正方形の6×6マトリクスから構成されている。各マーカにおいて、識別及び向き情報は、6×6マトリクス内の白色の正方形の一意的な配置によって符号化されている。何れの場合も、マーカを回転させても、マーカの識別及び向きの判定に関して多義性が生じることはなく、これにより、情報を符号化するための、このスキームの有効性が示されている。なお、ここに例示的に開示した白色及び黒色の要素の6×6マトリクス以外の構成を用いる符号化スキームを採用してもよいことは明らかである。
【0028】
図3は、人体を一具体例に基づくマーカ配設位置と共に示している。ここに示すマーカは、図2に示すスキームと同様のスキームを用いて、識別及び向き情報を符号化している。これらのマーカは、体の主要な末端(すなわち、セグメント)が少なくとも1つのマーカによって定義されるように、実質的に対称的に配置されている。図示するマーカの約半分は、ここに示す正面図では可視でない体の表面に配置され、これらのマーカについては、隠れている位置を概略的に指す矢印を示している。図1に示すように、モーションキャプチャカメラ120、122、124(通常、より多くのカメラを用いるが、これらのカメラを代表している)は、演技者の体140及び顔150が動くキャプチャ空間を取り囲む。モーションキャプチャカメラ120、122、124のあるサブセットから、マーカの何れかのビューが隠れても、他のサブセットが視野を維持し、この隠れたマーカの動きをキャプチャする。したがって、このようなマーカを装着した演技者による殆ど全ての運動は、図1に関連して説明したシステムを用いてキャプチャすることでき、セグメント追跡方法を用いて追跡することができる。
【0029】
図4は、図3について説明したマーカを装着した人体モデルの正面図を示している。ここに示すように、モデルの前面の表面上のマーカだけが可視である。マーカの残りは部分的又は完全に隠れている。図5は、図4に示すものと実質的に同じポーズの同じ人体モデルの斜め背面図である。この視点からは、全面に配置されたマーカは、隠れているが、図4では隠れていたマーカの多くが可視になっている。このように、如何なる任意の時点においても、キャプチャ空間の周りに配置された複数のモーションキャプチャカメラ120、122、124の何れかのサブセットにとっては、実質的に全てのマーカが可視である。
【0030】
また、図4及び図5に示す3Dモデル上のマーカ配置は、動きを明確にする体の主要な末端(セグメント)及び領域(例えば、頭、肩、尻、足首等)を実質的に定義する。キャプチャされたデータに関してセグメント追跡を実行すると、マーカが配設されている体の部分の位置を特定することができ、また、これらの向きも判定することができる。更に、マーカ配置によって定義されている体のセグメント、例えば、肘と肩との間の上腕セグメントは、そのセグメントの実質的に各端部に配置されたマーカによって、その位置を特定することができる。また、上腕を定義する個々のマーカから導出される向きから、上腕セグメントの位置及び向きも判定できる。
【0031】
図6は、具体例に基づくセグメント追跡方法600を説明するフローチャートである。610では、既知のパターン又は識別可能なランダムパターンを有するマーキング材料を表面に付す。一具体例では、表面は、演技者の体の表面であり、パターンは、演技者の体に取り付けられた複数のマーカを含む。他の具体例では、パターンは、演技者の体に取り付けられた単一のマーカ(例えば、マーカストリップ)からなる。また、図1に関連して説明したように、パターンは、演技者の肢、手及び足の周りに固定されたストリップ160Dとして形成してもよい。また、マーカは、反射性の球、演技者の体に貼り付けられたタトゥ(タトゥシール)、演技者の体に塗布された材料又は演技者の生来的な特徴(例えば、ほくろ又はしわ)を含む。一具体例では、一時的タトゥを用いて、マーカのパターンを演技者に付してもよい。
【0032】
次に、620において、ここ開示し、図1に関連して説明したモーションキャプチャのための方法及びシステムに基づいて、画像フレームのシーケンスを取得する。画像データは、キャプチャされた後、例えば、マーカを備える演技者又はオブジェクトの3Dモデルを再構築するために使用される。一具体例では、この処理は、630において、各画像フレームについて、マーカパターンの位置及び向き情報を導出(生成)することを含む。位置情報は、図4及び図5に関して説明したように、特徴的な回転不変性を用いるパターンによって提供されるマーカに符号化されている一意的な識別情報によって得られる。向き情報は、パターンを構成するマーカの回転の量を判定することによって導出することができる。マーカの総合的な回転及び向きは、3D空間におけるアフィン(affine)表現によって定義することができ、これにより、マーカ追跡が容易になる。例えば、向きは、3D空間内のオブジェクトの6自由度(six degrees of freedom:6DOF)を表す値によって表現することができる。したがって、向きは、座標系(例えば、ユークリッド空間)の原点からの何らかの位置の移動(並進)を表す3つの値と、座標系の基本的な軸に対する角変位(回転)を表す3つの値とを有することができる。
【0033】
640では、マーカの運動に基づくアニメーションデータを生成する。例えば、仮想デジタルモデルは、画像データにおいてキャプチャされた演技者の運動から導出されたデータによってアクティブ化される。演技の間、演技者は、台本に従って、脚を揺らす。演技者の脚は、例えば、主要な各関節、すなわち、尻、ひざ及び足首にマーカを備えている。マーカの運動を判定し、これを用いて、演技者の脚のセグメントの運動を定義する。演技者の脚のセグメントは、デジタルモデルの脚のセグメントに対応し、したがって、仮想デジタルモデルをアニメーション化するために、演技者の脚のセグメントの運動は、仮想デジタルモデルの脚にマッピングされる。
【0034】
図6に関連して説明したように、610では、パターンをストリップ160D(図1参照)として形成し、これを演技者の肢、手及び足の周りに取り付けてもよい。そして、肢に巻回されたストリップの円形の配置から重心を判定してもよい。そして、例えば、肢の各端部に配設されたこのような2つのストリップを用いて、肢(セグメント)に対して長手方向の重心を判定し、基底にある骨格要素を概算してもよい。
【0035】
図8は、マーキング材料のストリップを使用する方法800を説明するフローチャートを示している。810では、既知のパターンを有するマーキング材料のストリップを演技者の肢に付し、これは、通常、ストリップを肢に巻回することによって行われる。巻回されたマーキング材料のストリップは、実質的に円形の形状に配置されるので、ストリップの重心を判定し、この重心を用いて、ストリップが巻回された体の領域の運動を表現することができる。更に、このようにして肢の骨格要素の動きを概算し、骨格モデリングのために使用してもよい。
【0036】
次に、820において、図1に関連して上述したモーションキャプチャの方法及びシステムに基づいて、画像フレームのシーケンスを取得する。画像データは、図6の620に関して説明したものと基本的に同様の手法で、キャプチャされた後、例えば、マーカを備える演技者の3Dモデルを再構築するために使用される。一具体例では、この処理は、830において、図6の630に関して説明した処理と基本的に同様の手法で、各画像フレームにおける各ストリップについて、既知のパターンの位置及び向き情報を導出することを含む。
【0037】
840では、位置及び向き情報から、1つ以上のストリップを備える演技者の肢の重心情報を導出する。上述のように、2つ以上のストリップの重心を用いて、演技者の肢内の骨格構造(すなわち、骨)を概算することができる。そして、マーカストリップの重心の運動を用いて、骨格構造の運動、したがって、肢の運動を表現する。
【0038】
850では、マーカストリップの運動に基づくアニメーションデータを生成する。例えば、演技の間、演技者は、台本に従って、脚を揺らす。演技者の脚には、上述のように、マーカ材料のストリップが巻回されている。すなわち、例えば、太股の上部にあるストリップを巻回し、ひざの近傍に他のストリップを巻回してもよい。そして、マーカストリップの重心の運動を判定し、これを用いて、上脚の骨格構造、すなわち、演技者に対応する仮想デジタルモデルの上脚の内部の骨格要素を定義する。したがって、重心の運動を用いて、仮想デジタルモデルの脚をアニメーション化することができる。
【0039】
一具体例では、量子ナノドット(又は「量子ドット」又は「QD」とも呼ばれる。)を用いてマーカを印刷又は形成する。このシステムは、従来の再帰性反射システム(retro-reflective system)と略々同様の構成を有するが、特定の周波数の励起光源(例えば、既存のフィルタリングされたリングライト又は他の光源)と、既存のカメラのレンズの背後に配置され、これによってQDが放射する光の波長にカメラをチューニングする狭帯域フィルタとが追加される。
【0040】
QDは、特定の波長の光によって励起され、異なる波長の光(すなわち、蛍光)を発するように構成されている。QDは、励起波長からスペクトル的に上に量子シフトされている光を発するため、カメラから励起光をフィルタリングすることができる。これにより、QDの特定の放射スペクトルの範囲の外にある全ての光を、カメラにおいて実質的にブロックすることができる。
【0041】
QDは、仮想的に、可視又は不可視のスペクトル内の如何なる波長にもチューニングできる。これは、マーカの特定のグループだけが見え、それ以外が見えないようにカメラのグループをフィルタリングすることができることを意味し、これによって、要求される所定のカメラの動作負荷が軽減され、カメラは、QDの狭い応答範囲において「全開(wide open)」で動作することができる。
【0042】
一具体例では、量子ナノドットは、インク、塗料、プラスチック、一時的タトゥブランク(temporary tattoo blanks)等の媒体に加えられる。
【0043】
図9は、セグメント追跡システム900の具体例の機能的ブロック図である。画像取得モジュール910は、モーションキャプチャ画像データの画像フレームを生成し、セグメント追跡モジュール920は、画像フレームを受け取って、アニメーションデータを生成する。
【0044】
画像取得モジュール910は、図1に示すモーションキャプチャシステム100に関連して上述した方法に基づいて動作する。一具体例では、画像フレームは、追跡されていないマーカデータを含む立体的データを含む。すなわち、マーカデータは、ラベリングていない空間データとして各フレームに存在し、他のフレームのマーカデータと統合されていない。
【0045】
セグメント追跡モジュール920は、図2〜図9に関連して上述した方法及びスキームに基づいて動作する。
【0046】
図11は、セグメント追跡モジュール920の例示的構成を示す機能的ブロック図である。ここに示すように、セグメント追跡モジュール920は、識別モジュール1100、向きモジュール1110、追跡モジュール1120及びアニメーションモジュール1130を含む。
【0047】
識別モジュール1100は、図1に示すマーカ160A〜160F等の既知のパターンを有するマーカを特定する能力を備える。一具体例では、識別モジュール1100は、フレーム間でマーカ160の既知のパターン及びランダムパターンの位置を特定するパターン照合を実行する。他の具体例では、識別モジュール1100は、図7A〜図7Cに関連して説明したように、より小さいマーカのグループから構成される単一のより大きいマーカを識別するように構成されている。マーカ160は、その回転の状態にかかわらず識別可能となるように設計されており、これに応じて、識別モジュール1100は、マーカ160の回転に対して不変の識別を実行するように構成されている。一旦、マーカ160が一意的に識別されると、マーカ160は、演技者の体の特定の部分、例えば、マーカ160が取り付けられている部分に適切に関連付けられる。図1に示すように、マーカ160Bは、演技者の上腕172に関連付けられ、マーカ160Dは、上下の大腿部178(脚セグメントに巻回されたマーカストリップ)に関連付けられ、マーカ160Cは、胴部に関連付けられる。そして、識別情報は、向きモジュール1110及び追跡モジュール1120に渡される。
【0048】
図11に示す例示的構成では、向きモジュール1110は、識別情報を受け取り、向き情報を生成する。一具体例においては、向き情報は、6DOFデータを含む。そして、マーカ160は、各フレームにおいて分析され、マーカ160の時間の経過に伴う位置及び回転(すなわち、アフィン)状態が判定される。一具体例では、各マーカ160について、フレーム間におけるこれらの状態の変化を記述する3Dアフィン変換を展開する。ストリップマーカ160Dが演技者の肢のセグメントの各端部、例えば大腿部178等(図1参照)に巻回される場合、その手足セグメントの重心を判定し、基本的な骨格構造(すなわち、骨)を概算してもよい。向き情報(6DOF、アフィン変換)は、アニメーションモジュール1130に渡される。
【0049】
追跡モジュール1120は、識別情報を受け取り、マーカ軌道情報を生成する。すなわちマーカは、画像フレームのシーケンスに亘って追跡され、ラベリングされ、軌道が判定される。一具体例では、2006年8月25日に出願された米国特許出願11/467,503、発明の名称「Labeling Used in Motion Capture」及び2007年7月27日に出願された米国特許出願11/829,711、発明の名称「FACS Cleaning in Motion Capture」に基づくラベリング及びFACSの手法を採用する。ラベリング情報(すなわち、軌道データ)は、アニメーションモジュール1130に渡される。
【0050】
アニメーションモジュール1130は、向き及びラベリング情報を受け取り、アニメーションデータを生成する。一具体例では、マーカの位置及び向きは、マーカが取り付けられた演技者上の位置に対応する(仮想)デジタルキャラクタモデル上の位置にマッピングされる。同様に、演技者の体の上のマーカによって定義されているセグメントは、デジタルキャラクタモデル上の対応する部分にマッピングされる。例えば、演技者の肢の骨格構造に近似する重心の運動は、演技者の体のその部分の運動もモデル化する。そして、マーカ160及び関連する重心の運動を記述する変換が適切にフォーマットされ、デジタルキャラクタの対応するセグメントをアニメーション化するためのアニメーションデータとして生成される。
【0051】
アニメーションモジュール1130は、アニメーション情報を受け取り、これをデジタルキャラクタに適用し、デジタルキャラクタをアニメーション化する。通常、所望の結果を得るために何らかの再処理が必要であるか、及びどれ程の再処理が必要かを判定するために、演技者の運動に対するアニメーションの忠実度が調べられる。
【0052】
図10Aは、コンピュータシステム1000及びユーザ1002の表現を示している。ユーザ1002は、コンピュータシステム1000を使用して、セグメント追跡を実行する。コンピュータシステム1000は、画像フレームデータを処理するセグメント追跡システム1090を保存し、実行する。
【0053】
図10Bは、セグメント追跡システム1090をホストするコンピュータシステム1000を示す機能的ブロック図である。コントローラ1010は、コンピュータシステム1000及びそのコンポーネントの動作を制御するプログラマブルプロセッサである。コントローラ1010は、メモリ1020又は埋め込まれたコントローラメモリ(図示せず)から命令をロードし、これらの命令を実行してシステムを制御する。実行時には、コントローラ1010は、セグメント追跡システム1090をソフトウェアシステムとして提供する。これに代えて、このサービスは、コントローラ1010又はコンピュータシステム1000における独立したコンポーネントとして実装してもよい。
【0054】
メモリ1020は、コンピュータシステム1000の他のコンポーネントによる使用のために一時的にデータを保存する。一具体例では、メモリ1020は、RAMとして実装される。他の具体例では、メモリ1020は、フラッシュメモリ及び/又はROM等の長期的又は持続的メモリを含む。
【0055】
ストレージ1030は、コンピュータシステム1000の他のコンポーネントによる使用のために、一時的に又は長期間、データを保存し、例えば、セグメント追跡システム1090によって用いられるデータを保存する。一具体例では、ストレージ1030は、ハードディスクドライブである。
【0056】
媒体装置1040には、リムーバブル媒体が挿入され、挿入された媒体からデータを読み出し及び/又は媒体にデータを書き込む。一具体例では、媒体装置1040は、光ディスクドライブである。
【0057】
ユーザインタフェース1050は、コンピュータシステム1000のユーザからユーザ入力を受け付け、ユーザに情報を提供するコンポーネントを含む。一具体例では、ユーザインタフェース1050は、キーボード、マウス、オーディオスピーカ及びディスプレイを含む。コントローラ1010は、ユーザからの入力に基づいて、コンピュータシステム1000の動作を調整する。
【0058】
入出力(I/O)インタフェース1060は、例えば、外部ストレージ装置又は補助装置(例えば、プリンタ又はPDA)等の対応する入出力装置に接続する1つ以上の入出力ポートを含む。一具体例では、入出力インタフェース1060のポートは、USBポート、PCMCIAポート、シリアルポート及び/又はパラレルポートを含む。他の具体例では、入出力インタフェース1060は、外部機器と無線で通信するための無線インタフェースを含む。
【0059】
ネットワークインタフェース1070は、例えば、イーサネット(登録商標)接続をサポートするRJ−45又は「Wi−Fi」インタフェース(これに限定されるものではないが、802.11を含む。)等の有線及び/又は無線ネットワーク接続を含む。
【0060】
コンピュータシステム1000は、通常のコンピュータシステムが備える更なるハードウェア及びソフトウェア(例えば、電源、冷却装置、オペレーティングシステム)を含むが、図10Bでは、簡潔性のためにこれらのコンポーネントを示していない。他の具体例では、異なる構成(例えば、異なるバス又はストレージ構成、又はマルチプロセッサ構成)を有するコンピュータシステムを用いてもよい。
【0061】
本発明の様々な例示的な具体例について説明した。但し、他の具体例も可能であり、これらも本発明の範囲内に含まれる当業者にとって明らかである。例えば、既知のパターン及び識別可能なランダムパターンは、演技者又はオブジェクトの表面に印刷、塗布又はインク書きしてもよい。更に、所望のパターンを得るために、印刷、塗布、インク書き、タトゥ、量子ナノドット及び生来的な肉体的特徴の如何なる組合せを用いてもよい。
【0062】
更に、説明を簡潔にするために、モジュール又はブロック内に機能をグループ化している。特定の機能は、本発明から逸脱することなく、あるモジュール又はブロックから他のモジュール又はブロックに移行させることができる。
【0063】
したがって、本発明は、上述した実施の形態のみには限定されない。
【特許請求の範囲】
【請求項1】
複数のマーカを表面の異なる位置に付すステップと、ここで、前記複数のマーカのそれぞれは一意的な既知のパターンを含んでおり、
前記表面を覆う一意的な既知のパターンの複数の画像をそれぞれが含む画像フレームのシーケンスを取得するステップと、
シーケンスの各画像フレームにおいて一意的に識別可能な既知のパターンの位置及び回転の向き情報を分析することにより、前記表面の前記異なる位置の部分についての位置及び回転の向き情報を導出するステップと、ここで、前記異なる位置の部分についての回転の向き情報は、各マーカから生成される一意的な既知のパターンから導出され、
前記位置及び向き情報を組み込んだアニメーションデータを生成するステップとを有する方法。
【請求項2】
前記複数のマーカは、表面に適合する請求項1記載の方法。
【請求項3】
前記既知のパターンは、量子ナノドットによって複数のマーカ上に配置される請求項1記載の方法。
【請求項4】
前記量子ナノドットは、インク、塗料及びプラスチックを含む媒体内に支持されている請求項3記載の方法。
【請求項5】
前記複数のマーカは、一時的タトゥを含む請求項1記載の方法。
【請求項6】
前記一時的タトゥには、顔のタトゥが含まれる請求項5記載の方法。
【請求項7】
前記顔のタトゥには、複数の別々のタトゥが含まれる、請求項6に記載の方法。
【請求項8】
前記複数のマーカには、反射材料が含まれる、請求項1に記載の方法。
【請求項9】
前記複数のマーカは、蛍光材料を含む請求項1記載の方法。
【請求項10】
前記表面は、人体の表面を含む請求項1記載の方法。
【請求項11】
前記人体の表面は、顔、体、手、足、腕及び脚の少なくとも1つを含む請求項10記載の方法。
【請求項12】
前記表面は、オブジェクトの表面を含む請求項1記載の方法。
【請求項13】
前記オブジェクトは、舞台セット及び舞台小道具の少なくとも1つを含む請求項12記載の方法。
【請求項14】
前記パターンは、所定のパターンである請求項1記載の方法。
【請求項15】
前記パターンは、ランダムパターンである請求項1記載の方法。
【請求項16】
前記既知のパターンを有する複数のマーカを表面に付すステップは、前記既知のパターンが印刷されている少なくとも1つのストリップを演技者の体肢の周りに巻回するステップを含む請求項1記載の方法。
【請求項17】
前記位置及び向き情報を導出するステップは、ストリップの重心を判定するステップを含む請求項16記載の方法。
【請求項18】
前記既知のパターンを有する複数のマーカを表面に付すステップは、前記既知のパターンが印刷されている少なくとも2つのストリップを演技者の体肢の周りに巻回するステップを含む請求項1記載の方法。
【請求項19】
前記位置及び向き情報を導出するステップは、演技者の体肢の重心を判定するステップを含む請求項18記載の方法。
【請求項20】
表面上に配置された既知のパターンを有する複数のマーカの複数の同期された画像をそれぞれが含む画像フレームのシーケンスを生成する画像取得モジュールと、
前記画像フレームのシーケンスを受け取り、前記表面上に配置された既知のパターンに基づいて、アニメーションデータを生成するセグメント追跡モジュールとを備え、
前記セグメント追跡モジュールは、
前記画像フレームのシーケンスを受け取り、前記シーケンスの各画像フレーム内において識別可能な一意的な既知のパターンに関する識別情報を生成する識別モジュールと、
前記画像フレームのシーケンス及び前記識別情報を受け取り、各画像フレーム内において識別可能な一意的な既知のパターンの回転の旨を決定することによって表面の異なる位置についての回転の向き情報を生成する向きモジュールと、ここで、表面の各位置についての回転の向き情報は、単一の一意的な既知のパターンから導出され、
前記識別情報を受け取り、各画像フレーム内で識別される一意的な既知のパターンについての軌道情報を決定することにより表面の異なる位置についてマーカ軌道情報を生成する追跡モジュールと、
前記向き情報及び前記マーカ軌道情報を受け取り、アニメーションデータを生成するアニメーションモジュールと、
を有するシステム。
【請求項21】
コンピュータ読み取り可能な記録媒体に記録された、実行可能な命令を含んだコンピュータプログラムであって、コンピュータに、
前記表面を覆う一意的な既知のパターンの複数の画像をそれぞれが含む画像フレームのシーケンスを取得させ、
前記既知のパターンに関する位置及び回転の向き情報を導出させ、ここで、表面の各位置についての回転の向き情報は、単一の一意的な既知のパターンから導出され、
前記位置及び向き情報を組み込んだアニメーションデータを生成させる、
コンピュータプログラム。
【請求項22】
前記複数のマーカのパターンのそれぞれは、他のどのマーカからも一意的に区別される、請求項1記載の方法。
【請求項23】
前記複数のマーカのパターンの少なくとも一部は、前記複数のマーカのパターンの他の部分からも一意的に区別される、請求項1に記載の方法。
【請求項1】
複数のマーカを表面の異なる位置に付すステップと、ここで、前記複数のマーカのそれぞれは一意的な既知のパターンを含んでおり、
前記表面を覆う一意的な既知のパターンの複数の画像をそれぞれが含む画像フレームのシーケンスを取得するステップと、
シーケンスの各画像フレームにおいて一意的に識別可能な既知のパターンの位置及び回転の向き情報を分析することにより、前記表面の前記異なる位置の部分についての位置及び回転の向き情報を導出するステップと、ここで、前記異なる位置の部分についての回転の向き情報は、各マーカから生成される一意的な既知のパターンから導出され、
前記位置及び向き情報を組み込んだアニメーションデータを生成するステップとを有する方法。
【請求項2】
前記複数のマーカは、表面に適合する請求項1記載の方法。
【請求項3】
前記既知のパターンは、量子ナノドットによって複数のマーカ上に配置される請求項1記載の方法。
【請求項4】
前記量子ナノドットは、インク、塗料及びプラスチックを含む媒体内に支持されている請求項3記載の方法。
【請求項5】
前記複数のマーカは、一時的タトゥを含む請求項1記載の方法。
【請求項6】
前記一時的タトゥには、顔のタトゥが含まれる請求項5記載の方法。
【請求項7】
前記顔のタトゥには、複数の別々のタトゥが含まれる、請求項6に記載の方法。
【請求項8】
前記複数のマーカには、反射材料が含まれる、請求項1に記載の方法。
【請求項9】
前記複数のマーカは、蛍光材料を含む請求項1記載の方法。
【請求項10】
前記表面は、人体の表面を含む請求項1記載の方法。
【請求項11】
前記人体の表面は、顔、体、手、足、腕及び脚の少なくとも1つを含む請求項10記載の方法。
【請求項12】
前記表面は、オブジェクトの表面を含む請求項1記載の方法。
【請求項13】
前記オブジェクトは、舞台セット及び舞台小道具の少なくとも1つを含む請求項12記載の方法。
【請求項14】
前記パターンは、所定のパターンである請求項1記載の方法。
【請求項15】
前記パターンは、ランダムパターンである請求項1記載の方法。
【請求項16】
前記既知のパターンを有する複数のマーカを表面に付すステップは、前記既知のパターンが印刷されている少なくとも1つのストリップを演技者の体肢の周りに巻回するステップを含む請求項1記載の方法。
【請求項17】
前記位置及び向き情報を導出するステップは、ストリップの重心を判定するステップを含む請求項16記載の方法。
【請求項18】
前記既知のパターンを有する複数のマーカを表面に付すステップは、前記既知のパターンが印刷されている少なくとも2つのストリップを演技者の体肢の周りに巻回するステップを含む請求項1記載の方法。
【請求項19】
前記位置及び向き情報を導出するステップは、演技者の体肢の重心を判定するステップを含む請求項18記載の方法。
【請求項20】
表面上に配置された既知のパターンを有する複数のマーカの複数の同期された画像をそれぞれが含む画像フレームのシーケンスを生成する画像取得モジュールと、
前記画像フレームのシーケンスを受け取り、前記表面上に配置された既知のパターンに基づいて、アニメーションデータを生成するセグメント追跡モジュールとを備え、
前記セグメント追跡モジュールは、
前記画像フレームのシーケンスを受け取り、前記シーケンスの各画像フレーム内において識別可能な一意的な既知のパターンに関する識別情報を生成する識別モジュールと、
前記画像フレームのシーケンス及び前記識別情報を受け取り、各画像フレーム内において識別可能な一意的な既知のパターンの回転の旨を決定することによって表面の異なる位置についての回転の向き情報を生成する向きモジュールと、ここで、表面の各位置についての回転の向き情報は、単一の一意的な既知のパターンから導出され、
前記識別情報を受け取り、各画像フレーム内で識別される一意的な既知のパターンについての軌道情報を決定することにより表面の異なる位置についてマーカ軌道情報を生成する追跡モジュールと、
前記向き情報及び前記マーカ軌道情報を受け取り、アニメーションデータを生成するアニメーションモジュールと、
を有するシステム。
【請求項21】
コンピュータ読み取り可能な記録媒体に記録された、実行可能な命令を含んだコンピュータプログラムであって、コンピュータに、
前記表面を覆う一意的な既知のパターンの複数の画像をそれぞれが含む画像フレームのシーケンスを取得させ、
前記既知のパターンに関する位置及び回転の向き情報を導出させ、ここで、表面の各位置についての回転の向き情報は、単一の一意的な既知のパターンから導出され、
前記位置及び向き情報を組み込んだアニメーションデータを生成させる、
コンピュータプログラム。
【請求項22】
前記複数のマーカのパターンのそれぞれは、他のどのマーカからも一意的に区別される、請求項1記載の方法。
【請求項23】
前記複数のマーカのパターンの少なくとも一部は、前記複数のマーカのパターンの他の部分からも一意的に区別される、請求項1に記載の方法。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7A】
【図7B】
【図7C】
【図8】
【図9】
【図10A】
【図10B】
【図11】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7A】
【図7B】
【図7C】
【図8】
【図9】
【図10A】
【図10B】
【図11】
【公開番号】特開2012−248233(P2012−248233A)
【公開日】平成24年12月13日(2012.12.13)
【国際特許分類】
【出願番号】特願2012−208869(P2012−208869)
【出願日】平成24年9月21日(2012.9.21)
【分割の表示】特願2009−535469(P2009−535469)の分割
【原出願日】平成19年11月1日(2007.11.1)
【出願人】(000002185)ソニー株式会社 (34,172)
【出願人】(596102126)ソニー ピクチャーズ エンターテインメント インコーポレイテッド (46)
【Fターム(参考)】
【公開日】平成24年12月13日(2012.12.13)
【国際特許分類】
【出願日】平成24年9月21日(2012.9.21)
【分割の表示】特願2009−535469(P2009−535469)の分割
【原出願日】平成19年11月1日(2007.11.1)
【出願人】(000002185)ソニー株式会社 (34,172)
【出願人】(596102126)ソニー ピクチャーズ エンターテインメント インコーポレイテッド (46)
【Fターム(参考)】
[ Back to top ]