画像編集システム、画像編集方法、像生成装置、及び、プログラム
【課題】 撮影される画像の編集に関する指示を撮影される側からできるようにすることにより、編集作業に要する人的な手間を削減する。
【解決手段】 アイテム32は、画像編集システム20のカメラ22〜25が撮像する画像の編集情報を記憶するデータ記憶部324と、外部からの操作を検出するスイッチ状態検出部325と、このスイッチ検出部325によって検出された操作内容に基づいてデータ記憶部324から読み出された編集情報をを時間的に変化する情報に変調する制御部326と、この変調された情報に基づいて、発光部323が発光する光について時間的に輝度が変化するように制御する駆動部327とを備える。画像編集システム20は、発光部323により生成された時間的に輝度が変化する光の像を受光して編集情報へ復号し、光の像の位置と編集情報とに基づいて、撮像された画像を編集する。
【解決手段】 アイテム32は、画像編集システム20のカメラ22〜25が撮像する画像の編集情報を記憶するデータ記憶部324と、外部からの操作を検出するスイッチ状態検出部325と、このスイッチ検出部325によって検出された操作内容に基づいてデータ記憶部324から読み出された編集情報をを時間的に変化する情報に変調する制御部326と、この変調された情報に基づいて、発光部323が発光する光について時間的に輝度が変化するように制御する駆動部327とを備える。画像編集システム20は、発光部323により生成された時間的に輝度が変化する光の像を受光して編集情報へ復号し、光の像の位置と編集情報とに基づいて、撮像された画像を編集する。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、撮影された画像を編集する画像編集システム、画像編集方法、像生成装置、及び、プログラムに関する。
【背景技術】
【0002】
撮影された画像の編集方法の一種として、モーションキャプチャを用いた編集方法が従来より存在する。このモーションキャプチャとは、三次元コンピュータグラフィックス(以下、3DCGと略す。)の分野において、複数台のカメラで様々な角度から人物の動きを撮影して三次元的な動き情報を得、その動き情報をデジタルデータに変換してコンピュータに取り込む技術のことをいう。取り込まれたデータを元に例えば仮想的な三次元キャラクタ等のオブジェクト(以下、オブジェクト)の動作を構成していくことにより、リアルな動きを持つオブジェクトを作成できる。
【0003】
このような従来のモーションキャプチャの方法の一つに、動き検出対象人物(以下、演者という。)の各部(たとえば、頭部や胴体、関節及び手足など)にマーカと呼ばれる発光体を取り付け、その発光体の動き(軌跡)をカメラで追いながら、デジタルデータに変換してコンピュータに取り込むというものがある。
【0004】
上記の技術においては、コンピュータ上でのマーカと人体各部との対応付けは、たとえば、各マーカの発光色を異ならせておき、それぞれの色ごとに人体各部を対応付けする(例:赤色は頭、青色は右手、緑色は左手・・・・等)ということが行われていた(非特許文献1参照)。しかしながらこの技術では、発光色の色数限界により、多くのマーカを用いることができないという欠点があった。これは、マーカの色は光の三原色を混ぜ合わせることによって原理的には三原色+α(αは混合された中間色の数)の多色を表現できるものの、似たような中間色はカメラ側で識別困難になり、結果としてマーカの誤認識を引き起こすことがあるからである。
【0005】
そこで、発光色の色数限界を受けることなく、マーカの数を大幅に増やすことができる技術(以下、従来技術)として、たとえば、下記の特許文献1に記載のものが知られている。この従来技術では、応答性のよい発光体(典型的にはLED)でマーカを構成すると共に、その発光体の点滅パターンにより、予め各々のマーカに割り当てられていた識別情報(以下、ID)を送信する。これによれば、たとえば、8ビット構成のIDとすると、28=256個のIDを生成することができ、したがって、最大で256個もの多くのマーカを使用することができる。
【0006】
【非特許文献1】木田他:“没入仮想空間体験システムCAVEにおけるリアルタイム人物動作認識”,信学技報,PRMU99−102(1999−11)
【0007】
【特許文献1】特開2003−35515号公報
【発明の開示】
【発明が解決しようとする課題】
【0008】
しかしながら、前記の従来技術にあっては、マーカの数を増大できる点で有益であるものの、撮影した画像を用いた編集については何ら考慮されていなかった。例えば、演出上の要求からオブジェクトを適宜に変更したり、場面を切り換えたり、あるいは、任意のタイミングで特殊効果を入れたりするといった編集を行う場合には、その都度、編集のために人手(専任の編集要員の手)を借りなければならず、編集作業の柔軟性が損なわれるばかりか、人的コストを削減できないという問題点がある。
【0009】
このことを図面を用いて説明する。
図10は、従来例のモーションキャプチャシステムを示す構成図である。この図において、スタジオ1にはキャプチャ用の数台のカメラ2〜5が取り付けられており、このカメラ2〜5によって多方向から撮影される位置には、モーションキャプチャの対象である人物(以下、演者)6が位置している。
【0010】
図11は、演者6を示す図であり、この図に示すように、演者6の各部には、LEDからなる複数のマーカ6a〜6rが取り付けられている。
【0011】
カメラ2〜5によって取り込まれたマーカ6a〜6rの動き(輝点の動き)は、画像統合部7により、複数のカメラ画像系列として統合され、その複数のカメラ画像系列は対象3Dモデル化部8において、マーカ6a〜6rの個々に識別(ラベリングともいう)された各マーカ点を含む対象3Dモデルデータとして生成される。
【0012】
図12は、対象3Dモデルデータを示す図である。図示の対象3Dモデル9は、前記の演者6の姿勢に対応してワイヤフレーム化されたもの、すなわち、マーカ6a〜6rの位置をそれぞれノードとし、それらのノード間を直線で結んだデータであり、この対象3Dモデル9の時系列データは、図10に示す対象3Dモデルの時系列データ記憶部11に記憶保存される。
【0013】
一般的に、映像編集等の分野では、対象3Dモデル9のデータと、対応させるべきオブジェクト(3Dキャラクタのデータ)とのマッピングを行う必要がある。これは、対象3Dモデル9の動きを、そのままオブジェクトの動きとして取り扱いできるようにするためである。図10に示す合成・制御・編集部13は、そのためのマッピング作業を行う部分であり、且つ、図10に示す操作者14は、そのマッピング作業を行うための専任の編集要員である。
【0014】
図13は、対応させるべきオブジェクトの一例を示す図であり、図示のオブジェクト10は、図12の対象3Dモデル9(つまり、図11の演者6をワイヤフレーム化したもの)と同じ姿勢を持つ三次元で表現可能なCGの一例である。ちなみに、このオブジェクト10は、図10に示すオブジェクト記憶部12に予め記憶保存されていたものである。
【0015】
ここで、単に、あらかじめ対応付けしたオブジェクトを動かすだけの場合には、対応させるべきオブジェクトは一つ(たとえば、図13の3DCGモデル10)であるから、操作者14を介在させることなく、合成・制御・編集部13を制御させてオブジェクトの動き制御を連続して行うことが可能であるが、映像編集等の分野では、しばしば、オブジェクトの変身(オブジェクトの差し替え)などといった場面が求められることがあり、このような場合は、合成・制御・編集部13を操作するための人手(操作者14)が必要不可欠である。
【0016】
図14は、オブジェクトの差し替え前と後の例を示す図である。便宜的に示すこれら二つのオブジェクト15、16は、所望により、図13のオブジェクト10に置き換わるものであり、変身前のオブジェクト10と同様に、図10に示すオブジェクト記憶部12に予め記憶保存されていたものである。
【0017】
操作者14は、製作するストーリー上、何かの契機で、図12の対象3Dモデル9に割り付けられるオブジェクト10を、図14のオブジェクト15、16のいずれかに一気に差し替える必要があるとき、合成・制御・編集部13を操作して、所望のオブジェクト(図14のオブジェクト15、16のいずれか)をオブジェクト記憶部12から読み出し、上記のオブジェクト10を、これらのオブジェクト15、16のいずれかに変更するよう操作するという手順を踏むことになる。
【0018】
このように、従来、モーションキャプチャシステムを映像編集等の分野に適用する際には、専任の操作者(図10の操作者14)が不可欠であり、それゆえ、編集作業の柔軟性が損なわれるばかりか、人的コストを削減できないという問題点があるのである。
【0019】
また、演者6の動きに合わせて(たとえば、演者6が手にした任意のアイテムを操ったりするタイミングに合わせて)、周囲の状況を一気に変えるといった特殊効果を入れるなどの編集作業を行う場合にも、専任の操作者(図10の操作者14)が必要になる。これは、タイミングの特定が、対象の3Dモデルの動き情報のみから行うことが困難だからである。
【0020】
以上の問題点の根本原因は、要するに、演者6の側からCG制御に関する指示命令が全く行えない仕組みになっていることにある。つまり、前記の従来技術では、単にマーカごとのIDを送信しているに過ぎず、CG制御に関する指示命令を、演者6の側から送信するという技術思想が全くなかったからである。
【0021】
そこで、本発明の目的は、撮影される画像の編集に関する指示を、撮影される側からできるようにすることにより、編集作業に要する人的な手間を削減することができる画像編集システム、画像編集方法、像生成装置、及び、プログラムを提供することにある。
【課題を解決するための手段】
【0022】
請求項1記載の発明は、発光装置と、当該発光装置が発光する光の像を含む画像を撮像する撮像手段を備えた画像編集装置とを備える画像編集システムにおいて、前記画像編集装置が撮像する画像の編集情報を記憶する編集情報記憶手段と、外部からの操作を検出する操作検出手段と、この操作検出手段によって検出された操作内容に基づいて、前記編集情報記憶手段から編集情報を読み出す読出手段と、この読出手段によって読み出された編集情報を時間的に変化する情報に変調する変調手段と、この変調手段によって変調された情報に基づいて、前記発光装置が発光する光について時間的に輝度が変化するように制御する駆動制御手段とを備えた制御装置を備え、前記画像編集装置は、前記撮像手段によって前記駆動制御手段により時間的に輝度が変化する光の像を含む画像を撮像すると、この時間的に輝度が変化する光から前記編集情報へ復号する復号手段と、前記撮像手段によって撮像された撮像画像における前記時間的に輝度が変化した光の像の位置を検出する位置検出手段と、前記復号手段によって復号された編集情報と前記位置検出手段によって検出された位置とに基づいて、前記撮像された画像を編集する画像編集手段とを備えることを特徴とする。
【0023】
請求項2記載の発明は、上記請求項1記載の発明において、前記画像編集装置は、オブジェクト情報を記憶するオブジェクト記憶手段を更に備えるとともに、前記編集情報は、前記オブジェクト情報記憶手段に記憶されるオブジェクト情報と前記撮像された画像との合成を指示する情報を含むことを特徴とする。
【0024】
請求項3記載の発明は、上記請求項1又は2記載の発明において、前記画像編集装置は、前記撮像画像に付与する特殊効果情報を記憶する特殊効果記憶手段を更に備えるとともに、前記編集情報は、前記特殊効果記憶手段に記憶される特殊効果情報に基づく前記撮像された画像の加工を指示する情報を含むことを特徴とする。
【0025】
請求項4記載の発明は、発光装置と、当該発光装置が発光する光の像を含む画像を撮像する撮像部を備えた画像編集装置とを備えるシステムの画像編集方法であって、外部からの操作を検出する操作検出ステップと、この操作検出ステップにて検出された操作内容に基づいて、前記画像編集装置が撮像する画像の編集情報を記憶する編集情報記憶部から編集情報を読み出す読出ステップと、この読出ステップにて読み出された編集情報を時間的に変化する情報に変調する変調ステップと、この変調ステップにて変調された情報に基づいて前記発光装置が発光する光について時間的に輝度が変化するように制御する駆動制御ステップとを含み、前記画像編集装置は、前記撮像部にて前記駆動制御ステップにて時間的に輝度が変化する光の像を含む画像を撮像すると、この時間的に輝度が変化した光から前記編集情報へ復号する復号ステップと、前記撮像部にて撮像された撮像画像における前記時間的に輝度が変化した光の像の位置を検出する位置検出ステップと、前記復号ステップにて復号された編集情報と前記位置検出ステップにて検出された位置とに基づいて、前記撮像された画像を編集する画像編集ステップとを含むことを特徴とする。
【0026】
請求項5記載の発明は、撮像手段を備えた画像編集装置に撮像される光の像を生成する像生成装置において、前記撮像手段によって撮像される画像の編集情報を記憶する編集情報記憶手段と、外部からの操作を検出する操作検出手段と、この操作検出手段によって検出された操作内容に基づいて、前記編集情報記憶手段から編集情報を読み出す読出手段と、この読出手段によって読み出された編集情報を時間的に変化する情報に変調する変調手段と、この変調手段によって変調された情報に基づいて時間的に輝度が変化するように当該装置が生成する光の像を制御する制御手段とを備えることを特徴とする。
【0027】
請求項6記載の発明は、上記請求項5記載の発明において、オブジェクト情報を記憶するオブジェクト記憶手段を更に備えるとともに、前記編集情報は、前記オブジェクト情報記憶手段に記憶されるオブジェクト情報と前記撮像された画像との合成を指示する情報を含み、前記読出手段は前記操作検出手段によって検出された操作内容に基づいて、更に前記オブジェクト記憶手段からオブジェクト情報を読出し、前記変調手段は、前記読出手段によって読み出された編集情報に加え前記オブジェクト情報を時間的に変化する情報に変調することを特徴とする。
【0028】
請求項7記載の発明は、上記請求項5又は6記載の発明において、前記撮像画像に付与する特殊効果情報を記憶する特殊効果記憶手段を更に備えるとともに、前記編集情報は、前記特殊効果記憶手段に記憶される特殊効果情報に基づく前記撮像された画像の加工を指示する情報を含み、前記読出手段は前記操作検出手段によって検出された操作内容に基づいて、更に前記特殊効果記憶手段から特殊効果情報を読出し、前記変調手段は、前記読出手段によって読み出された編集情報に加え前記特殊効果情報を時間的に変化する情報に変調することを特徴とする。
【0029】
請求項8記載の発明は、上記請求項5乃至7の何れか記載の発明において、発光手段と、前記制御手段による制御に基づいて前記発光手段の駆動を制御する駆動制御手段とを更に備えることを特徴とする。
【0030】
請求項9記載の発明は、撮像部を備えた画像編集装置に撮像される光の像を生成する装置が有するコンピュータを、外部からの操作を検出する操作検出手段、この操作検出手段によって検出された操作内容に基づいて、前記撮像手段によって撮像される画像の編集情報を記憶する編集情報記憶部から編集情報を読み出す読出手段、この読出手段によって読み出された編集情報を時間的に変化する情報に変調する変調手段、この変調手段によって変調された情報に基づいて時間的に輝度が変化するように当該装置が生成する光の像を制御する制御手段として機能させることを特徴とする。
【発明の効果】
【0031】
本発明によれば、撮影される画像の編集に関する指示を、撮影される側からできるようにすることにより、編集作業に要する人的な手間を削減することができる。
【発明を実施するための最良の形態】
【0032】
以下、本発明の実施形態を、モーションキャプチャシステムへの適用を例にして、図面を参照しながら説明する。なお、以下の説明における様々な細部の特定ないし実例および数値や文字列その他の記号の例示は、本発明の思想を明瞭にするための、あくまでも参考であって、それらのすべてまたは一部によって本発明の思想が限定されないことは明らかである。また、周知の手法、周知の手順、周知のアーキテクチャおよび周知の回路構成等(以下「周知事項」)についてはその細部にわたる説明を避けるが、これも説明を簡潔にするためであって、これら周知事項のすべてまたは一部を意図的に排除するものではない。かかる周知事項は本発明の出願時点で当業者の知り得るところであるので、以下の説明に当然含まれている。
【0033】
図1は、実施の形態に係る画像編集システムの全体構成図である。この図において、画像編集システム20は、スタジオ21と、このスタジオ21の内部の動画像を多方向から撮影する撮像手段(撮像部)としての複数(図では便宜的に4個)のカメラ22〜25と、パーソナルコンピュータ26とを含む。
【0034】
パーソナルコンピュータ26は、このパーソナルコンピュータ26を構成するCPUやメモリ及びハードディスクなどのハードウェア資産と、そのハードディスクに格納されたOS(オペレーティングシステム)や本発明を実現するプログラムなどのソフトウェア資産との有機的結合により、たとえば、注目物体抽出部27、制御情報復号部28、オブジェクト指定部29及びオブジェクト記憶部30などの各機能部を実現する。
【0035】
注目物体抽出部27は、カメラ22〜25によって取り込まれた光タグ(演者31の各部に取り付けられた便宜的に黒丸で示すもの及び/または演者31が手にしたアイテム32の先端に取り付けられたもの;詳細は後述する。)の動き(光の像の動き)を上記の複数のカメラ22〜25で時間的に連続して撮像・取り込むと共に、その時間的に連続して取り込まれた画像から、後述のオブジェクトと置き換えるための注目物体(ここではアイテム32を保持した演者31)を抽出する。同様に制御情報復号部28も時間的に連続した画像を取り込むが、この制御情報復号部28では、上記撮像した画像に含まれるアイテム32の先端にある光の像である光タグの時間的な輝度の変化から所要の制御情報を復号し、キャラクタ指定部29は、制御情報復号部28で復号された制御情報に従い、所要のオブジェクトをオブジェクト記憶部30から読み出し、そのオブジェクトを、注目物体と置き換えるために、注目物体抽出部27に出力し、注目物体抽出部27は、そのオブジェクトで注目物体を置き換えた編集データとして外部装置(たとえば、図10の従来のモーションキャプチャシステム)に出力する。
【0036】
図2は、光タグを示す図である。この図において、演者31の各部には複数の光タグ31a〜31rが取り付けられている。これらの光タグ31a〜31rは、光の像を生成するためのものであり、単なる輝点であってもよく、または、取り付け位置に対応した発光色を持つものであってもよい。あるいは、冒頭で説明した従来技術のマーカ6a〜6r(図10参照)のように、LED等の応答性のよい発光体を点滅させることにより、可視光通信によって個々の識別情報(ID)を空間送信できるものであってもよい。
【0037】
本実施の形態におけるポイントの一つは、演者31が手にする発光装置として機能するアイテム32にある。このアイテム32について、以下、詳しく説明する。
【0038】
図3は、アイテム32の外観図及び内部ブロック図である。図3(a)に図示するように、アイテム32は、任意の形状(演技内容に適合した特定の意匠形状を有するもの。ここでは、便宜的に「魔法の杖」状のものとする。)を持つ本体部320と、この本体部320の側面に取り付けられ、演者31が操作するための第1スイッチ321、第2スイッチ322と、この本体部320の先端に取り付けられた応答性のよい発光素子(典型的には、LED)からなる発光部323とを備える。
【0039】
また、図3(b)に示すように、本体部320の内部には、データ記憶部324と、スイッチ状態検出部325と、このアイテム32の全体の動作を制御する制御部326と、発光部323を駆動させる駆動部327とが実装されている。スイッチ状態検出部325は、演者31の操作に基づく第1スイッチ321と第2スイッチ322のオンオフ状態を個別に検出し、制御部326は、このスイッチ状態検出部325によって検出された第1スイッチ321と第2スイッチ322のオンオフ状態に対応した、パーソナルコンピュータ26における撮像画像の編集情報としての制御データ(第1制御データ、第2制御データ)をデータ記憶部324から読み出し、その制御データに従って発光部323を駆動するための変調信号を生成し、駆動部327に出力する。
【0040】
ここで、上記変調方式としては、たとえば、可視光通信の変調方式、具体的には、本件発明者らが提案している特開2007−272511号公報などを利用することができる。
【0041】
図4は、制御部326における変調データのフォーマット図である。この図において、変調データ40は、光源ID設定部41と制御データ設定部42の両端にヘッダ部43、44を設け、それらをセットにして繰り返すという構造を有している。なお、特に限定しないが、変調データ40の1セットは固定長(たとえば、64ビット)になっている。光源ID設定部41にはアイテム32に固有の識別情報(ID)が設定される。ただし、この光源ID設定部41は必須な要素ではなく、カメラ22〜25が同時に発光部323の発光により生成された光の像を複数撮像した場合、これらを個別に認識させるためのものである。したがって、発光部323によって生成される光の像が一つしか存在し得ない場合は、この光源ID設定部41は不要である。制御データ設定部42には、所要の制御データ(データ記憶部37から読み出された第1制御データまたは第2制御データ)、典型的にはパーソナルコンピュータ26における編集処理のマクロ的コマンドNo.が埋め込まれている。なお、上記の光源ID設定部41や制御データ設定部42だけでなく、たとえば、誤り検出や訂正のためのデータが埋め込まれてもよい。
【0042】
本実施の形態における画像編集システム20では、演者31が、アイテム32のスイッチ(第1スイッチ321、第2スイッチ322)を操作することによって、その演者31の側から所望の画像編集処理を行わせることができる。これにより、たとえば、編集処理としてオブジェクト合成や特殊効果の付与に演者31の意思を反映させたり、あるいは、収録の際の編集タイミング等を指定するなどの操作を、人手(専任の操作者14)を要することなく、自由に行うことができるようになる。
【0043】
ここで、説明の便宜上、アイテム32のスイッチ(第1スイッチ321、第2スイッチ322)は、以下の三つの状態を示すものとする。
(1)第1スイッチ321及び第2スイッチ322が共にOFFのとき:何も押していない状態であり、CG制御指示なしの状態である(初期状態)。
(2)第1スイッチ321が押し下げられているとき:押している間、データ記憶部37から読み出された第1制御データを時間的に変化する情報に変調し、この情報に従い発光部36を時間的に輝度を変化させるように発光駆動させる。
(3)第2スイッチ322が押し下げられているとき:押している間、データ記憶部37から読み出された第2制御データに従いを時間的に変化する情報に変調し、この情報に従い発光部36を時間的に輝度を変化させるように発光駆動させる。
【0044】
本実施の形態のアイテム32によって実現可能な編集処理の実例を以下に示す。
図5〜図7は、CG効果の実例の説明中に用いるCG画像を示す図である。
<第1の実例>
初期状態では、カメラ22〜25にて時間的に連続して撮像される演者31の位置には、その体の各部位に設置された光タグ31a〜31rの輝点により生成された光の像が撮像されることで、これらに対応するオブジェクトとして図5(a)に図示されるフレーム46とテクスチャ45とからなる3DCG映像が図5(b)に図示する予め設定された背景用CGに合成されるという編集処置が実行される。尚、演者31はアイテム32を所持しているものとする。
【0045】
<第2の実例>
演者31は、任意のタイミングでアイテム32をふりかざして変身の演技を行うと同時に、アイテム32の第1スイッチ321を押し下げる。すると、データ記憶部37から読み出された第1制御データを時間的に変化する情報に変調し、この情報に従い発光部323を時間的に輝度を変化させるように発光駆動させる。また、カメラ22〜25は、この発光による光の像を時間的に連続して撮像することにより第1制御データに復号し、この復号された第1制御データに基づいた編集処理として、魔法に合わせた効果音を出力させると共に、杖の先に相当する発光部323による光の像の箇所に、この杖から放たれた光のCG48を合成し(図6(a)参照)、更に、このCG48が広がって演者31(詳細にはアイテム32と演者31の体の各部位に設置された光タグ31a〜31rによる光の像を受光した範囲)を包み、この後、魔法使いのフレームとテクスチャとからなる3DCG映像49が、フレーム46とテクスチャ45とからなる3DCG映像に差し替えられるという編集処理を行う(図6(b)参照)。これ以降、カメラ22〜25にて時間的に連続して撮像される演者31の位置には、その体の各部位に設置された光タグ31a〜31rの輝点により生成された光の像が撮像されることで、これらに対応するオブジェクトとして図6(b)に図示される3DCG映像49が図5(b)に図示する予め設定された背景用CGに合成されるという編集処置が実行される。
【0046】
<第3の実例>
演者31は、任意のタイミングでアイテム32をふりかざして変身の演技を行うと同時に、アイテム32の第1スイッチ322を押し下げる。すると、データ記憶部37から読み出された第2制御データを時間的に変化する情報に変調し、この情報に従い発光部323を時間的に輝度を変化させるように発光駆動させる。また、カメラ22〜25は、この発光による光の像を時間的に連続して撮像することにより第2制御データに復号し、この復号された第2制御データに基づいた編集処理として、魔法に合わせた効果音を出力させると共に、杖の先に相当する発光部323による光の像を中心とし、その周囲に広がるような光のCG50を合成し(図6(b)参照)、更に、図5(b)に図示する予め設定された背景用CGが、他の背景CG51(図7(b)参照)に切り替わるという編集処置が実行される。
【0047】
カメラ22〜25は、本実施の形態では、四つ図示されているが、これに限定されない。四つ以下又は四つ以上であってもよいが、特に、隠れの問題(いわゆるオクルージョン、特徴点となるべきポイント(光源)が何かにさえぎられて死角となり見えないこと。)への対処を考えると、その数は多いほど望ましい。
【0048】
光タグの捕捉技術については、本発明者らが先に提案している様々な技術(たとえば、特開2007−272511号公報等)に詳しく述べられているが、要するに、1個のカメラ様の装置の中に、CMOSイメージセンサ等の撮像手段と、複数画像フレームバッファと、その処理手段とを備えているというものであり、撮像手段によって時系列的に撮像された画像(時系列画像)を処理することにより、その時系列画像の中かから受信対象となる信号光(特に、アイテム32の発光部36の輝点)の座標を特定し、その光信号の点滅によって送出されるバイナリデータ(図4の変調データ40参照)をデコードする機能を持っていればよい。
【0049】
以上のとおりであるから、本実施の形態によれば、既存のモーションキャプチャシステム(図10参照)に、本発明を実施するための機能を有するパーソナルコンピュータ26を追加するだけでよく、編集処理を、人手を要することなく自由に行うことができるようになるという効果が得られる。
また、演者側で任意にタイミングを決めて編集処理を実行することができるので、演者の所望するタイミングで撮影される映像(画像)に演出効果を付与することができる。
【0050】
以上の実施の形態におけるアイテム32は、図2や図3に示すように、演者31に手持ちされる携帯型であって、且つ、先端の発光部323が発光するタイプのものであったが、これに限定されない。たとえば、以下のようにしてもよい。
【0051】
図8は、アイテムの他の例を示す図である。このアイテム52は、任意の形状(演技内容に適合した特定の意匠形状を有するもの、ここでは、拳銃型の形状)を持つ本体部520と、この本体部520に取り付けられた把持部521と、拳銃の引き金を模し図中Aの方向に操作されたことを検出するスイッチ321とを備えると共に、さらに、本体部520の先端(拳銃の銃口に相当)からスポット光Pを照射する発光部323を備える。
【0052】
このように、発光部323を制御する制御装置はスポット光照射型のアイテム52としてもよい。ただし、実際には、光IDを備えること以外、アイテムの形状は任意である。ここでは演技にできるだけ自然になるように、それに応じた形状が選択されるとする。
【0053】
図9は、スポット光照射型のアイテム52の使い方を示す図である。この図において、任意形状の本体部57の、たとえば、先端部に発光部1323、スイッチ状態検出部325に代えてその周囲に接触センサー58を取り付けた光IDアイテム59は、スタジオ21の内部の演者(不図示)から離れた適当な位置に固定的な光IDアイテムとして設置される。
【0054】
このような光IDアイテム59に対して、スポット光照射型のアイテム52からスポット光Pを照射すると、その対象(光IDアイテム59)に図示のような光の像60ができ、この光の像60の位置が複数のカメラ22〜25で捕捉されるので、CGのための演技において重要な要素(たとえば、光線銃の向きと打ち込み位置についての情報)を取得できる。しかも、演技上の目標物(ここでは光IDアイテム59)が存在するので、演者にとっては演技をしやすくすることができる。
【0055】
さらに、光IDアイテム59の接触センサー58に演者が触れることにより、発光部1323が時間的に輝度を変化させて発光するようにすれば、演者が所望する任意のタイミングで編集処理を行うことができる。
【0056】
尚、本実施の形態においては、コンピュータ26には、予めソフトウェア資産としての、注目物体抽出部27、制御情報復号部28、オブジェクト指定部29及びオブジェクト記憶部30を備えるものとしたが、少なくとも、オブジェクト記憶部30のみをコンピュータ26と着脱可能な外部記録媒体に記憶させ、種々の特殊効果情報を含むオブジェクトを記憶した複数の外部記録媒体を交換できるようにしても良い。このようにすることで、例えば上記のアイテム32(52、59)と上記の外部記録媒体とをセットにして有償もしくは無償で頒布することができ、演者の趣向に沿った編集処理を実現することができる編集システムの一部を提供することができる。
【0057】
また、上記アイテム32(52、59)そのものに上記外部記録媒体に書き込まれるべき情報を記憶する記憶部を備えさせ、撮影を行う前にコンピュータ26にこの上記アイテムをパーソナルコンピュータ26に接続して上記記憶部に記憶された情報を読み込ませるようにしても良い。
【0058】
更に、上記アイテム32(52、59)は、第1制御データ、第2制御データといった編集処理内容のみをデータ記憶部324に記憶させていたが、これに限ることなく種々の特殊効果情報を含むオブジェクト(CG)を記憶させ、第1制御データ、第2制御データのみでなく、オブジェクトデータや付与すべき特殊効果情報を時間的に変化する情報として変調させ、発光させるようにしても良い。
このようにすればコンピュータ26に予めオブジェクトや特殊効果情報を記憶させる手間を省くことができる。
【0059】
なお、これらのアイテムの送出IDを全て別にすれば、前記実施の形態のアイテム32と同時にこれらのアイテム52、59を使ったり、あるいは、しまったり取り出したりは自由である。
【0060】
その他、演者自体に、光IDアイテムを貼り付ける形(それを触れて、送出制御するか、ひそかに手元に小型制御スイッチを引き出しておく)等の有効な演技パターンもある。
【図面の簡単な説明】
【0061】
【図1】実施の形態に係る画像編集システムの全体構成図である。
【図2】光タグを示す図である。
【図3】アイテム32の外観図及び内部ブロック図である。
【図4】変調データのフォーマット図である。
【図5】実例の説明中に用いるCG画像を示す図(その1)である。
【図6】実例の説明中に用いるCG画像を示す図(その2)である。
【図7】実例の説明中に用いるCG画像を示す図(その3)である。
【図8】アイテムの他の例を示す図である。
【図9】スポット光照射型のアイテム52の使い方を示す図である。
【図10】従来例のモーションキャプチャシステムを示す構成図である。
【図11】演者6を示す図である。
【図12】対象3Dモデルを示す図である。
【図13】対応させるべきオブジェクトの一例を示す図である。
【図14】対応させるべきオブジェクトの例を示す図である。
【符号の説明】
【0062】
20 画像編集システム
27 注目物体抽出部
28 制御情報復号部
31 演者
32 アイテム
320 本体部
321 第1スイッチ
322 第2スイッチ
323 発光部
324 データ記憶部
325 スイッチ状態検出部
326 制御部
327 駆動部
【技術分野】
【0001】
本発明は、撮影された画像を編集する画像編集システム、画像編集方法、像生成装置、及び、プログラムに関する。
【背景技術】
【0002】
撮影された画像の編集方法の一種として、モーションキャプチャを用いた編集方法が従来より存在する。このモーションキャプチャとは、三次元コンピュータグラフィックス(以下、3DCGと略す。)の分野において、複数台のカメラで様々な角度から人物の動きを撮影して三次元的な動き情報を得、その動き情報をデジタルデータに変換してコンピュータに取り込む技術のことをいう。取り込まれたデータを元に例えば仮想的な三次元キャラクタ等のオブジェクト(以下、オブジェクト)の動作を構成していくことにより、リアルな動きを持つオブジェクトを作成できる。
【0003】
このような従来のモーションキャプチャの方法の一つに、動き検出対象人物(以下、演者という。)の各部(たとえば、頭部や胴体、関節及び手足など)にマーカと呼ばれる発光体を取り付け、その発光体の動き(軌跡)をカメラで追いながら、デジタルデータに変換してコンピュータに取り込むというものがある。
【0004】
上記の技術においては、コンピュータ上でのマーカと人体各部との対応付けは、たとえば、各マーカの発光色を異ならせておき、それぞれの色ごとに人体各部を対応付けする(例:赤色は頭、青色は右手、緑色は左手・・・・等)ということが行われていた(非特許文献1参照)。しかしながらこの技術では、発光色の色数限界により、多くのマーカを用いることができないという欠点があった。これは、マーカの色は光の三原色を混ぜ合わせることによって原理的には三原色+α(αは混合された中間色の数)の多色を表現できるものの、似たような中間色はカメラ側で識別困難になり、結果としてマーカの誤認識を引き起こすことがあるからである。
【0005】
そこで、発光色の色数限界を受けることなく、マーカの数を大幅に増やすことができる技術(以下、従来技術)として、たとえば、下記の特許文献1に記載のものが知られている。この従来技術では、応答性のよい発光体(典型的にはLED)でマーカを構成すると共に、その発光体の点滅パターンにより、予め各々のマーカに割り当てられていた識別情報(以下、ID)を送信する。これによれば、たとえば、8ビット構成のIDとすると、28=256個のIDを生成することができ、したがって、最大で256個もの多くのマーカを使用することができる。
【0006】
【非特許文献1】木田他:“没入仮想空間体験システムCAVEにおけるリアルタイム人物動作認識”,信学技報,PRMU99−102(1999−11)
【0007】
【特許文献1】特開2003−35515号公報
【発明の開示】
【発明が解決しようとする課題】
【0008】
しかしながら、前記の従来技術にあっては、マーカの数を増大できる点で有益であるものの、撮影した画像を用いた編集については何ら考慮されていなかった。例えば、演出上の要求からオブジェクトを適宜に変更したり、場面を切り換えたり、あるいは、任意のタイミングで特殊効果を入れたりするといった編集を行う場合には、その都度、編集のために人手(専任の編集要員の手)を借りなければならず、編集作業の柔軟性が損なわれるばかりか、人的コストを削減できないという問題点がある。
【0009】
このことを図面を用いて説明する。
図10は、従来例のモーションキャプチャシステムを示す構成図である。この図において、スタジオ1にはキャプチャ用の数台のカメラ2〜5が取り付けられており、このカメラ2〜5によって多方向から撮影される位置には、モーションキャプチャの対象である人物(以下、演者)6が位置している。
【0010】
図11は、演者6を示す図であり、この図に示すように、演者6の各部には、LEDからなる複数のマーカ6a〜6rが取り付けられている。
【0011】
カメラ2〜5によって取り込まれたマーカ6a〜6rの動き(輝点の動き)は、画像統合部7により、複数のカメラ画像系列として統合され、その複数のカメラ画像系列は対象3Dモデル化部8において、マーカ6a〜6rの個々に識別(ラベリングともいう)された各マーカ点を含む対象3Dモデルデータとして生成される。
【0012】
図12は、対象3Dモデルデータを示す図である。図示の対象3Dモデル9は、前記の演者6の姿勢に対応してワイヤフレーム化されたもの、すなわち、マーカ6a〜6rの位置をそれぞれノードとし、それらのノード間を直線で結んだデータであり、この対象3Dモデル9の時系列データは、図10に示す対象3Dモデルの時系列データ記憶部11に記憶保存される。
【0013】
一般的に、映像編集等の分野では、対象3Dモデル9のデータと、対応させるべきオブジェクト(3Dキャラクタのデータ)とのマッピングを行う必要がある。これは、対象3Dモデル9の動きを、そのままオブジェクトの動きとして取り扱いできるようにするためである。図10に示す合成・制御・編集部13は、そのためのマッピング作業を行う部分であり、且つ、図10に示す操作者14は、そのマッピング作業を行うための専任の編集要員である。
【0014】
図13は、対応させるべきオブジェクトの一例を示す図であり、図示のオブジェクト10は、図12の対象3Dモデル9(つまり、図11の演者6をワイヤフレーム化したもの)と同じ姿勢を持つ三次元で表現可能なCGの一例である。ちなみに、このオブジェクト10は、図10に示すオブジェクト記憶部12に予め記憶保存されていたものである。
【0015】
ここで、単に、あらかじめ対応付けしたオブジェクトを動かすだけの場合には、対応させるべきオブジェクトは一つ(たとえば、図13の3DCGモデル10)であるから、操作者14を介在させることなく、合成・制御・編集部13を制御させてオブジェクトの動き制御を連続して行うことが可能であるが、映像編集等の分野では、しばしば、オブジェクトの変身(オブジェクトの差し替え)などといった場面が求められることがあり、このような場合は、合成・制御・編集部13を操作するための人手(操作者14)が必要不可欠である。
【0016】
図14は、オブジェクトの差し替え前と後の例を示す図である。便宜的に示すこれら二つのオブジェクト15、16は、所望により、図13のオブジェクト10に置き換わるものであり、変身前のオブジェクト10と同様に、図10に示すオブジェクト記憶部12に予め記憶保存されていたものである。
【0017】
操作者14は、製作するストーリー上、何かの契機で、図12の対象3Dモデル9に割り付けられるオブジェクト10を、図14のオブジェクト15、16のいずれかに一気に差し替える必要があるとき、合成・制御・編集部13を操作して、所望のオブジェクト(図14のオブジェクト15、16のいずれか)をオブジェクト記憶部12から読み出し、上記のオブジェクト10を、これらのオブジェクト15、16のいずれかに変更するよう操作するという手順を踏むことになる。
【0018】
このように、従来、モーションキャプチャシステムを映像編集等の分野に適用する際には、専任の操作者(図10の操作者14)が不可欠であり、それゆえ、編集作業の柔軟性が損なわれるばかりか、人的コストを削減できないという問題点があるのである。
【0019】
また、演者6の動きに合わせて(たとえば、演者6が手にした任意のアイテムを操ったりするタイミングに合わせて)、周囲の状況を一気に変えるといった特殊効果を入れるなどの編集作業を行う場合にも、専任の操作者(図10の操作者14)が必要になる。これは、タイミングの特定が、対象の3Dモデルの動き情報のみから行うことが困難だからである。
【0020】
以上の問題点の根本原因は、要するに、演者6の側からCG制御に関する指示命令が全く行えない仕組みになっていることにある。つまり、前記の従来技術では、単にマーカごとのIDを送信しているに過ぎず、CG制御に関する指示命令を、演者6の側から送信するという技術思想が全くなかったからである。
【0021】
そこで、本発明の目的は、撮影される画像の編集に関する指示を、撮影される側からできるようにすることにより、編集作業に要する人的な手間を削減することができる画像編集システム、画像編集方法、像生成装置、及び、プログラムを提供することにある。
【課題を解決するための手段】
【0022】
請求項1記載の発明は、発光装置と、当該発光装置が発光する光の像を含む画像を撮像する撮像手段を備えた画像編集装置とを備える画像編集システムにおいて、前記画像編集装置が撮像する画像の編集情報を記憶する編集情報記憶手段と、外部からの操作を検出する操作検出手段と、この操作検出手段によって検出された操作内容に基づいて、前記編集情報記憶手段から編集情報を読み出す読出手段と、この読出手段によって読み出された編集情報を時間的に変化する情報に変調する変調手段と、この変調手段によって変調された情報に基づいて、前記発光装置が発光する光について時間的に輝度が変化するように制御する駆動制御手段とを備えた制御装置を備え、前記画像編集装置は、前記撮像手段によって前記駆動制御手段により時間的に輝度が変化する光の像を含む画像を撮像すると、この時間的に輝度が変化する光から前記編集情報へ復号する復号手段と、前記撮像手段によって撮像された撮像画像における前記時間的に輝度が変化した光の像の位置を検出する位置検出手段と、前記復号手段によって復号された編集情報と前記位置検出手段によって検出された位置とに基づいて、前記撮像された画像を編集する画像編集手段とを備えることを特徴とする。
【0023】
請求項2記載の発明は、上記請求項1記載の発明において、前記画像編集装置は、オブジェクト情報を記憶するオブジェクト記憶手段を更に備えるとともに、前記編集情報は、前記オブジェクト情報記憶手段に記憶されるオブジェクト情報と前記撮像された画像との合成を指示する情報を含むことを特徴とする。
【0024】
請求項3記載の発明は、上記請求項1又は2記載の発明において、前記画像編集装置は、前記撮像画像に付与する特殊効果情報を記憶する特殊効果記憶手段を更に備えるとともに、前記編集情報は、前記特殊効果記憶手段に記憶される特殊効果情報に基づく前記撮像された画像の加工を指示する情報を含むことを特徴とする。
【0025】
請求項4記載の発明は、発光装置と、当該発光装置が発光する光の像を含む画像を撮像する撮像部を備えた画像編集装置とを備えるシステムの画像編集方法であって、外部からの操作を検出する操作検出ステップと、この操作検出ステップにて検出された操作内容に基づいて、前記画像編集装置が撮像する画像の編集情報を記憶する編集情報記憶部から編集情報を読み出す読出ステップと、この読出ステップにて読み出された編集情報を時間的に変化する情報に変調する変調ステップと、この変調ステップにて変調された情報に基づいて前記発光装置が発光する光について時間的に輝度が変化するように制御する駆動制御ステップとを含み、前記画像編集装置は、前記撮像部にて前記駆動制御ステップにて時間的に輝度が変化する光の像を含む画像を撮像すると、この時間的に輝度が変化した光から前記編集情報へ復号する復号ステップと、前記撮像部にて撮像された撮像画像における前記時間的に輝度が変化した光の像の位置を検出する位置検出ステップと、前記復号ステップにて復号された編集情報と前記位置検出ステップにて検出された位置とに基づいて、前記撮像された画像を編集する画像編集ステップとを含むことを特徴とする。
【0026】
請求項5記載の発明は、撮像手段を備えた画像編集装置に撮像される光の像を生成する像生成装置において、前記撮像手段によって撮像される画像の編集情報を記憶する編集情報記憶手段と、外部からの操作を検出する操作検出手段と、この操作検出手段によって検出された操作内容に基づいて、前記編集情報記憶手段から編集情報を読み出す読出手段と、この読出手段によって読み出された編集情報を時間的に変化する情報に変調する変調手段と、この変調手段によって変調された情報に基づいて時間的に輝度が変化するように当該装置が生成する光の像を制御する制御手段とを備えることを特徴とする。
【0027】
請求項6記載の発明は、上記請求項5記載の発明において、オブジェクト情報を記憶するオブジェクト記憶手段を更に備えるとともに、前記編集情報は、前記オブジェクト情報記憶手段に記憶されるオブジェクト情報と前記撮像された画像との合成を指示する情報を含み、前記読出手段は前記操作検出手段によって検出された操作内容に基づいて、更に前記オブジェクト記憶手段からオブジェクト情報を読出し、前記変調手段は、前記読出手段によって読み出された編集情報に加え前記オブジェクト情報を時間的に変化する情報に変調することを特徴とする。
【0028】
請求項7記載の発明は、上記請求項5又は6記載の発明において、前記撮像画像に付与する特殊効果情報を記憶する特殊効果記憶手段を更に備えるとともに、前記編集情報は、前記特殊効果記憶手段に記憶される特殊効果情報に基づく前記撮像された画像の加工を指示する情報を含み、前記読出手段は前記操作検出手段によって検出された操作内容に基づいて、更に前記特殊効果記憶手段から特殊効果情報を読出し、前記変調手段は、前記読出手段によって読み出された編集情報に加え前記特殊効果情報を時間的に変化する情報に変調することを特徴とする。
【0029】
請求項8記載の発明は、上記請求項5乃至7の何れか記載の発明において、発光手段と、前記制御手段による制御に基づいて前記発光手段の駆動を制御する駆動制御手段とを更に備えることを特徴とする。
【0030】
請求項9記載の発明は、撮像部を備えた画像編集装置に撮像される光の像を生成する装置が有するコンピュータを、外部からの操作を検出する操作検出手段、この操作検出手段によって検出された操作内容に基づいて、前記撮像手段によって撮像される画像の編集情報を記憶する編集情報記憶部から編集情報を読み出す読出手段、この読出手段によって読み出された編集情報を時間的に変化する情報に変調する変調手段、この変調手段によって変調された情報に基づいて時間的に輝度が変化するように当該装置が生成する光の像を制御する制御手段として機能させることを特徴とする。
【発明の効果】
【0031】
本発明によれば、撮影される画像の編集に関する指示を、撮影される側からできるようにすることにより、編集作業に要する人的な手間を削減することができる。
【発明を実施するための最良の形態】
【0032】
以下、本発明の実施形態を、モーションキャプチャシステムへの適用を例にして、図面を参照しながら説明する。なお、以下の説明における様々な細部の特定ないし実例および数値や文字列その他の記号の例示は、本発明の思想を明瞭にするための、あくまでも参考であって、それらのすべてまたは一部によって本発明の思想が限定されないことは明らかである。また、周知の手法、周知の手順、周知のアーキテクチャおよび周知の回路構成等(以下「周知事項」)についてはその細部にわたる説明を避けるが、これも説明を簡潔にするためであって、これら周知事項のすべてまたは一部を意図的に排除するものではない。かかる周知事項は本発明の出願時点で当業者の知り得るところであるので、以下の説明に当然含まれている。
【0033】
図1は、実施の形態に係る画像編集システムの全体構成図である。この図において、画像編集システム20は、スタジオ21と、このスタジオ21の内部の動画像を多方向から撮影する撮像手段(撮像部)としての複数(図では便宜的に4個)のカメラ22〜25と、パーソナルコンピュータ26とを含む。
【0034】
パーソナルコンピュータ26は、このパーソナルコンピュータ26を構成するCPUやメモリ及びハードディスクなどのハードウェア資産と、そのハードディスクに格納されたOS(オペレーティングシステム)や本発明を実現するプログラムなどのソフトウェア資産との有機的結合により、たとえば、注目物体抽出部27、制御情報復号部28、オブジェクト指定部29及びオブジェクト記憶部30などの各機能部を実現する。
【0035】
注目物体抽出部27は、カメラ22〜25によって取り込まれた光タグ(演者31の各部に取り付けられた便宜的に黒丸で示すもの及び/または演者31が手にしたアイテム32の先端に取り付けられたもの;詳細は後述する。)の動き(光の像の動き)を上記の複数のカメラ22〜25で時間的に連続して撮像・取り込むと共に、その時間的に連続して取り込まれた画像から、後述のオブジェクトと置き換えるための注目物体(ここではアイテム32を保持した演者31)を抽出する。同様に制御情報復号部28も時間的に連続した画像を取り込むが、この制御情報復号部28では、上記撮像した画像に含まれるアイテム32の先端にある光の像である光タグの時間的な輝度の変化から所要の制御情報を復号し、キャラクタ指定部29は、制御情報復号部28で復号された制御情報に従い、所要のオブジェクトをオブジェクト記憶部30から読み出し、そのオブジェクトを、注目物体と置き換えるために、注目物体抽出部27に出力し、注目物体抽出部27は、そのオブジェクトで注目物体を置き換えた編集データとして外部装置(たとえば、図10の従来のモーションキャプチャシステム)に出力する。
【0036】
図2は、光タグを示す図である。この図において、演者31の各部には複数の光タグ31a〜31rが取り付けられている。これらの光タグ31a〜31rは、光の像を生成するためのものであり、単なる輝点であってもよく、または、取り付け位置に対応した発光色を持つものであってもよい。あるいは、冒頭で説明した従来技術のマーカ6a〜6r(図10参照)のように、LED等の応答性のよい発光体を点滅させることにより、可視光通信によって個々の識別情報(ID)を空間送信できるものであってもよい。
【0037】
本実施の形態におけるポイントの一つは、演者31が手にする発光装置として機能するアイテム32にある。このアイテム32について、以下、詳しく説明する。
【0038】
図3は、アイテム32の外観図及び内部ブロック図である。図3(a)に図示するように、アイテム32は、任意の形状(演技内容に適合した特定の意匠形状を有するもの。ここでは、便宜的に「魔法の杖」状のものとする。)を持つ本体部320と、この本体部320の側面に取り付けられ、演者31が操作するための第1スイッチ321、第2スイッチ322と、この本体部320の先端に取り付けられた応答性のよい発光素子(典型的には、LED)からなる発光部323とを備える。
【0039】
また、図3(b)に示すように、本体部320の内部には、データ記憶部324と、スイッチ状態検出部325と、このアイテム32の全体の動作を制御する制御部326と、発光部323を駆動させる駆動部327とが実装されている。スイッチ状態検出部325は、演者31の操作に基づく第1スイッチ321と第2スイッチ322のオンオフ状態を個別に検出し、制御部326は、このスイッチ状態検出部325によって検出された第1スイッチ321と第2スイッチ322のオンオフ状態に対応した、パーソナルコンピュータ26における撮像画像の編集情報としての制御データ(第1制御データ、第2制御データ)をデータ記憶部324から読み出し、その制御データに従って発光部323を駆動するための変調信号を生成し、駆動部327に出力する。
【0040】
ここで、上記変調方式としては、たとえば、可視光通信の変調方式、具体的には、本件発明者らが提案している特開2007−272511号公報などを利用することができる。
【0041】
図4は、制御部326における変調データのフォーマット図である。この図において、変調データ40は、光源ID設定部41と制御データ設定部42の両端にヘッダ部43、44を設け、それらをセットにして繰り返すという構造を有している。なお、特に限定しないが、変調データ40の1セットは固定長(たとえば、64ビット)になっている。光源ID設定部41にはアイテム32に固有の識別情報(ID)が設定される。ただし、この光源ID設定部41は必須な要素ではなく、カメラ22〜25が同時に発光部323の発光により生成された光の像を複数撮像した場合、これらを個別に認識させるためのものである。したがって、発光部323によって生成される光の像が一つしか存在し得ない場合は、この光源ID設定部41は不要である。制御データ設定部42には、所要の制御データ(データ記憶部37から読み出された第1制御データまたは第2制御データ)、典型的にはパーソナルコンピュータ26における編集処理のマクロ的コマンドNo.が埋め込まれている。なお、上記の光源ID設定部41や制御データ設定部42だけでなく、たとえば、誤り検出や訂正のためのデータが埋め込まれてもよい。
【0042】
本実施の形態における画像編集システム20では、演者31が、アイテム32のスイッチ(第1スイッチ321、第2スイッチ322)を操作することによって、その演者31の側から所望の画像編集処理を行わせることができる。これにより、たとえば、編集処理としてオブジェクト合成や特殊効果の付与に演者31の意思を反映させたり、あるいは、収録の際の編集タイミング等を指定するなどの操作を、人手(専任の操作者14)を要することなく、自由に行うことができるようになる。
【0043】
ここで、説明の便宜上、アイテム32のスイッチ(第1スイッチ321、第2スイッチ322)は、以下の三つの状態を示すものとする。
(1)第1スイッチ321及び第2スイッチ322が共にOFFのとき:何も押していない状態であり、CG制御指示なしの状態である(初期状態)。
(2)第1スイッチ321が押し下げられているとき:押している間、データ記憶部37から読み出された第1制御データを時間的に変化する情報に変調し、この情報に従い発光部36を時間的に輝度を変化させるように発光駆動させる。
(3)第2スイッチ322が押し下げられているとき:押している間、データ記憶部37から読み出された第2制御データに従いを時間的に変化する情報に変調し、この情報に従い発光部36を時間的に輝度を変化させるように発光駆動させる。
【0044】
本実施の形態のアイテム32によって実現可能な編集処理の実例を以下に示す。
図5〜図7は、CG効果の実例の説明中に用いるCG画像を示す図である。
<第1の実例>
初期状態では、カメラ22〜25にて時間的に連続して撮像される演者31の位置には、その体の各部位に設置された光タグ31a〜31rの輝点により生成された光の像が撮像されることで、これらに対応するオブジェクトとして図5(a)に図示されるフレーム46とテクスチャ45とからなる3DCG映像が図5(b)に図示する予め設定された背景用CGに合成されるという編集処置が実行される。尚、演者31はアイテム32を所持しているものとする。
【0045】
<第2の実例>
演者31は、任意のタイミングでアイテム32をふりかざして変身の演技を行うと同時に、アイテム32の第1スイッチ321を押し下げる。すると、データ記憶部37から読み出された第1制御データを時間的に変化する情報に変調し、この情報に従い発光部323を時間的に輝度を変化させるように発光駆動させる。また、カメラ22〜25は、この発光による光の像を時間的に連続して撮像することにより第1制御データに復号し、この復号された第1制御データに基づいた編集処理として、魔法に合わせた効果音を出力させると共に、杖の先に相当する発光部323による光の像の箇所に、この杖から放たれた光のCG48を合成し(図6(a)参照)、更に、このCG48が広がって演者31(詳細にはアイテム32と演者31の体の各部位に設置された光タグ31a〜31rによる光の像を受光した範囲)を包み、この後、魔法使いのフレームとテクスチャとからなる3DCG映像49が、フレーム46とテクスチャ45とからなる3DCG映像に差し替えられるという編集処理を行う(図6(b)参照)。これ以降、カメラ22〜25にて時間的に連続して撮像される演者31の位置には、その体の各部位に設置された光タグ31a〜31rの輝点により生成された光の像が撮像されることで、これらに対応するオブジェクトとして図6(b)に図示される3DCG映像49が図5(b)に図示する予め設定された背景用CGに合成されるという編集処置が実行される。
【0046】
<第3の実例>
演者31は、任意のタイミングでアイテム32をふりかざして変身の演技を行うと同時に、アイテム32の第1スイッチ322を押し下げる。すると、データ記憶部37から読み出された第2制御データを時間的に変化する情報に変調し、この情報に従い発光部323を時間的に輝度を変化させるように発光駆動させる。また、カメラ22〜25は、この発光による光の像を時間的に連続して撮像することにより第2制御データに復号し、この復号された第2制御データに基づいた編集処理として、魔法に合わせた効果音を出力させると共に、杖の先に相当する発光部323による光の像を中心とし、その周囲に広がるような光のCG50を合成し(図6(b)参照)、更に、図5(b)に図示する予め設定された背景用CGが、他の背景CG51(図7(b)参照)に切り替わるという編集処置が実行される。
【0047】
カメラ22〜25は、本実施の形態では、四つ図示されているが、これに限定されない。四つ以下又は四つ以上であってもよいが、特に、隠れの問題(いわゆるオクルージョン、特徴点となるべきポイント(光源)が何かにさえぎられて死角となり見えないこと。)への対処を考えると、その数は多いほど望ましい。
【0048】
光タグの捕捉技術については、本発明者らが先に提案している様々な技術(たとえば、特開2007−272511号公報等)に詳しく述べられているが、要するに、1個のカメラ様の装置の中に、CMOSイメージセンサ等の撮像手段と、複数画像フレームバッファと、その処理手段とを備えているというものであり、撮像手段によって時系列的に撮像された画像(時系列画像)を処理することにより、その時系列画像の中かから受信対象となる信号光(特に、アイテム32の発光部36の輝点)の座標を特定し、その光信号の点滅によって送出されるバイナリデータ(図4の変調データ40参照)をデコードする機能を持っていればよい。
【0049】
以上のとおりであるから、本実施の形態によれば、既存のモーションキャプチャシステム(図10参照)に、本発明を実施するための機能を有するパーソナルコンピュータ26を追加するだけでよく、編集処理を、人手を要することなく自由に行うことができるようになるという効果が得られる。
また、演者側で任意にタイミングを決めて編集処理を実行することができるので、演者の所望するタイミングで撮影される映像(画像)に演出効果を付与することができる。
【0050】
以上の実施の形態におけるアイテム32は、図2や図3に示すように、演者31に手持ちされる携帯型であって、且つ、先端の発光部323が発光するタイプのものであったが、これに限定されない。たとえば、以下のようにしてもよい。
【0051】
図8は、アイテムの他の例を示す図である。このアイテム52は、任意の形状(演技内容に適合した特定の意匠形状を有するもの、ここでは、拳銃型の形状)を持つ本体部520と、この本体部520に取り付けられた把持部521と、拳銃の引き金を模し図中Aの方向に操作されたことを検出するスイッチ321とを備えると共に、さらに、本体部520の先端(拳銃の銃口に相当)からスポット光Pを照射する発光部323を備える。
【0052】
このように、発光部323を制御する制御装置はスポット光照射型のアイテム52としてもよい。ただし、実際には、光IDを備えること以外、アイテムの形状は任意である。ここでは演技にできるだけ自然になるように、それに応じた形状が選択されるとする。
【0053】
図9は、スポット光照射型のアイテム52の使い方を示す図である。この図において、任意形状の本体部57の、たとえば、先端部に発光部1323、スイッチ状態検出部325に代えてその周囲に接触センサー58を取り付けた光IDアイテム59は、スタジオ21の内部の演者(不図示)から離れた適当な位置に固定的な光IDアイテムとして設置される。
【0054】
このような光IDアイテム59に対して、スポット光照射型のアイテム52からスポット光Pを照射すると、その対象(光IDアイテム59)に図示のような光の像60ができ、この光の像60の位置が複数のカメラ22〜25で捕捉されるので、CGのための演技において重要な要素(たとえば、光線銃の向きと打ち込み位置についての情報)を取得できる。しかも、演技上の目標物(ここでは光IDアイテム59)が存在するので、演者にとっては演技をしやすくすることができる。
【0055】
さらに、光IDアイテム59の接触センサー58に演者が触れることにより、発光部1323が時間的に輝度を変化させて発光するようにすれば、演者が所望する任意のタイミングで編集処理を行うことができる。
【0056】
尚、本実施の形態においては、コンピュータ26には、予めソフトウェア資産としての、注目物体抽出部27、制御情報復号部28、オブジェクト指定部29及びオブジェクト記憶部30を備えるものとしたが、少なくとも、オブジェクト記憶部30のみをコンピュータ26と着脱可能な外部記録媒体に記憶させ、種々の特殊効果情報を含むオブジェクトを記憶した複数の外部記録媒体を交換できるようにしても良い。このようにすることで、例えば上記のアイテム32(52、59)と上記の外部記録媒体とをセットにして有償もしくは無償で頒布することができ、演者の趣向に沿った編集処理を実現することができる編集システムの一部を提供することができる。
【0057】
また、上記アイテム32(52、59)そのものに上記外部記録媒体に書き込まれるべき情報を記憶する記憶部を備えさせ、撮影を行う前にコンピュータ26にこの上記アイテムをパーソナルコンピュータ26に接続して上記記憶部に記憶された情報を読み込ませるようにしても良い。
【0058】
更に、上記アイテム32(52、59)は、第1制御データ、第2制御データといった編集処理内容のみをデータ記憶部324に記憶させていたが、これに限ることなく種々の特殊効果情報を含むオブジェクト(CG)を記憶させ、第1制御データ、第2制御データのみでなく、オブジェクトデータや付与すべき特殊効果情報を時間的に変化する情報として変調させ、発光させるようにしても良い。
このようにすればコンピュータ26に予めオブジェクトや特殊効果情報を記憶させる手間を省くことができる。
【0059】
なお、これらのアイテムの送出IDを全て別にすれば、前記実施の形態のアイテム32と同時にこれらのアイテム52、59を使ったり、あるいは、しまったり取り出したりは自由である。
【0060】
その他、演者自体に、光IDアイテムを貼り付ける形(それを触れて、送出制御するか、ひそかに手元に小型制御スイッチを引き出しておく)等の有効な演技パターンもある。
【図面の簡単な説明】
【0061】
【図1】実施の形態に係る画像編集システムの全体構成図である。
【図2】光タグを示す図である。
【図3】アイテム32の外観図及び内部ブロック図である。
【図4】変調データのフォーマット図である。
【図5】実例の説明中に用いるCG画像を示す図(その1)である。
【図6】実例の説明中に用いるCG画像を示す図(その2)である。
【図7】実例の説明中に用いるCG画像を示す図(その3)である。
【図8】アイテムの他の例を示す図である。
【図9】スポット光照射型のアイテム52の使い方を示す図である。
【図10】従来例のモーションキャプチャシステムを示す構成図である。
【図11】演者6を示す図である。
【図12】対象3Dモデルを示す図である。
【図13】対応させるべきオブジェクトの一例を示す図である。
【図14】対応させるべきオブジェクトの例を示す図である。
【符号の説明】
【0062】
20 画像編集システム
27 注目物体抽出部
28 制御情報復号部
31 演者
32 アイテム
320 本体部
321 第1スイッチ
322 第2スイッチ
323 発光部
324 データ記憶部
325 スイッチ状態検出部
326 制御部
327 駆動部
【特許請求の範囲】
【請求項1】
発光装置と、当該発光装置が発光する光の像を含む画像を撮像する撮像手段を備えた画像編集装置とを備える画像編集システムにおいて、
前記画像編集装置が撮像する画像の編集情報を記憶する編集情報記憶手段と、
外部からの操作を検出する操作検出手段と、
この操作検出手段によって検出された操作内容に基づいて、前記編集情報記憶手段から編集情報を読み出す読出手段と、
この読出手段によって読み出された編集情報を時間的に変化する情報に変調する変調手段と、
この変調手段によって変調された情報に基づいて、前記発光装置が発光する光について時間的に輝度が変化するように制御する駆動制御手段と
を備えた制御装置を備え、
前記画像編集装置は、
前記撮像手段によって前記駆動制御手段により時間的に輝度が変化する光の像を含む画像を撮像すると、この時間的に輝度が変化する光から前記編集情報へ復号する復号手段と、
前記撮像手段によって撮像された撮像画像における前記時間的に輝度が変化した光の像の位置を検出する位置検出手段と、
前記復号手段によって復号された編集情報と前記位置検出手段によって検出された位置とに基づいて、前記撮像された画像を編集する画像編集手段と
を備えることを特徴とする画像編集システム。
【請求項2】
前記画像編集装置は、オブジェクト情報を記憶するオブジェクト記憶手段を更に備えるとともに、前記編集情報は、前記オブジェクト情報記憶手段に記憶されるオブジェクト情報と前記撮像された画像との合成を指示する情報を含むことを特徴とする請求項1記載の画像編集システム。
【請求項3】
前記画像編集装置は、前記撮像画像に付与する特殊効果情報を記憶する特殊効果記憶手段を更に備えるとともに、前記編集情報は、前記特殊効果記憶手段に記憶される特殊効果情報に基づく前記撮像された画像の加工を指示する情報を含むことを特徴とする請求項1又は2記載の画像編集システム。
【請求項4】
発光装置と、当該発光装置が発光する光の像を含む画像を撮像する撮像部を備えた画像編集装置とを備えるシステムの画像編集方法であって、
外部からの操作を検出する操作検出ステップと、
この操作検出ステップにて検出された操作内容に基づいて、前記画像編集装置が撮像する画像の編集情報を記憶する編集情報記憶部から編集情報を読み出す読出ステップと、
この読出ステップにて読み出された編集情報を時間的に変化する情報に変調する変調ステップと、
この変調ステップにて変調された情報に基づいて前記発光装置が発光する光について時間的に輝度が変化するように制御する駆動制御ステップと
を含み、
前記画像編集装置は、
前記撮像部にて前記駆動制御ステップにて時間的に輝度が変化する光の像を含む画像を撮像すると、この時間的に輝度が変化した光から前記編集情報へ復号する復号ステップと、
前記撮像部にて撮像された撮像画像における前記時間的に輝度が変化した光の像の位置を検出する位置検出ステップと、
前記復号ステップにて復号された編集情報と前記位置検出ステップにて検出された位置とに基づいて、前記撮像された画像を編集する画像編集ステップと
を含むことを特徴とする画像編集方法。
【請求項5】
撮像手段を備えた画像編集装置に撮像される光の像を生成する像生成装置において、
前記撮像手段によって撮像される画像の編集情報を記憶する編集情報記憶手段と、
外部からの操作を検出する操作検出手段と、
この操作検出手段によって検出された操作内容に基づいて、前記編集情報記憶手段から編集情報を読み出す読出手段と、
この読出手段によって読み出された編集情報を時間的に変化する情報に変調する変調手段と、
この変調手段によって変調された情報に基づいて時間的に輝度が変化するように当該装置が生成する光の像を制御する制御手段と
を備えることを特徴とする像生成装置。
【請求項6】
オブジェクト情報を記憶するオブジェクト記憶手段を更に備えるとともに、前記編集情報は、前記オブジェクト情報記憶手段に記憶されるオブジェクト情報と前記撮像された画像との合成を指示する情報を含み、
前記読出手段は前記操作検出手段によって検出された操作内容に基づいて、更に前記オブジェクト記憶手段からオブジェクト情報を読出し、
前記変調手段は、前記読出手段によって読み出された編集情報に加え前記オブジェクト情報を時間的に変化する情報に変調することを特徴とする請求項5記載の像生成装置。
【請求項7】
前記撮像画像に付与する特殊効果情報を記憶する特殊効果記憶手段を更に備えるとともに、前記編集情報は、前記特殊効果記憶手段に記憶される特殊効果情報に基づく前記撮像された画像の加工を指示する情報を含み、
前記読出手段は前記操作検出手段によって検出された操作内容に基づいて、更に前記特殊効果記憶手段から特殊効果情報を読出し、
前記変調手段は、前記読出手段によって読み出された編集情報に加え前記特殊効果情報を時間的に変化する情報に変調することを特徴とする請求項5又は6記載の像生成装置。
【請求項8】
発光手段と、
前記制御手段による制御に基づいて前記発光手段の駆動を制御する駆動制御手段と
を更に備えることを特徴とする請求項5乃至7の何れか記載の像生成装置。
【請求項9】
撮像部を備えた画像編集装置に撮像される光の像を生成する装置が有するコンピュータを、
外部からの操作を検出する操作検出手段、
この操作検出手段によって検出された操作内容に基づいて、前記撮像手段によって撮像される画像の編集情報を記憶する編集情報記憶部から編集情報を読み出す読出手段、
この読出手段によって読み出された編集情報を時間的に変化する情報に変調する変調手段、
この変調手段によって変調された情報に基づいて時間的に輝度が変化するように当該装置が生成する光の像を制御する制御手段
として機能させることを特徴とするプログラム。
【請求項1】
発光装置と、当該発光装置が発光する光の像を含む画像を撮像する撮像手段を備えた画像編集装置とを備える画像編集システムにおいて、
前記画像編集装置が撮像する画像の編集情報を記憶する編集情報記憶手段と、
外部からの操作を検出する操作検出手段と、
この操作検出手段によって検出された操作内容に基づいて、前記編集情報記憶手段から編集情報を読み出す読出手段と、
この読出手段によって読み出された編集情報を時間的に変化する情報に変調する変調手段と、
この変調手段によって変調された情報に基づいて、前記発光装置が発光する光について時間的に輝度が変化するように制御する駆動制御手段と
を備えた制御装置を備え、
前記画像編集装置は、
前記撮像手段によって前記駆動制御手段により時間的に輝度が変化する光の像を含む画像を撮像すると、この時間的に輝度が変化する光から前記編集情報へ復号する復号手段と、
前記撮像手段によって撮像された撮像画像における前記時間的に輝度が変化した光の像の位置を検出する位置検出手段と、
前記復号手段によって復号された編集情報と前記位置検出手段によって検出された位置とに基づいて、前記撮像された画像を編集する画像編集手段と
を備えることを特徴とする画像編集システム。
【請求項2】
前記画像編集装置は、オブジェクト情報を記憶するオブジェクト記憶手段を更に備えるとともに、前記編集情報は、前記オブジェクト情報記憶手段に記憶されるオブジェクト情報と前記撮像された画像との合成を指示する情報を含むことを特徴とする請求項1記載の画像編集システム。
【請求項3】
前記画像編集装置は、前記撮像画像に付与する特殊効果情報を記憶する特殊効果記憶手段を更に備えるとともに、前記編集情報は、前記特殊効果記憶手段に記憶される特殊効果情報に基づく前記撮像された画像の加工を指示する情報を含むことを特徴とする請求項1又は2記載の画像編集システム。
【請求項4】
発光装置と、当該発光装置が発光する光の像を含む画像を撮像する撮像部を備えた画像編集装置とを備えるシステムの画像編集方法であって、
外部からの操作を検出する操作検出ステップと、
この操作検出ステップにて検出された操作内容に基づいて、前記画像編集装置が撮像する画像の編集情報を記憶する編集情報記憶部から編集情報を読み出す読出ステップと、
この読出ステップにて読み出された編集情報を時間的に変化する情報に変調する変調ステップと、
この変調ステップにて変調された情報に基づいて前記発光装置が発光する光について時間的に輝度が変化するように制御する駆動制御ステップと
を含み、
前記画像編集装置は、
前記撮像部にて前記駆動制御ステップにて時間的に輝度が変化する光の像を含む画像を撮像すると、この時間的に輝度が変化した光から前記編集情報へ復号する復号ステップと、
前記撮像部にて撮像された撮像画像における前記時間的に輝度が変化した光の像の位置を検出する位置検出ステップと、
前記復号ステップにて復号された編集情報と前記位置検出ステップにて検出された位置とに基づいて、前記撮像された画像を編集する画像編集ステップと
を含むことを特徴とする画像編集方法。
【請求項5】
撮像手段を備えた画像編集装置に撮像される光の像を生成する像生成装置において、
前記撮像手段によって撮像される画像の編集情報を記憶する編集情報記憶手段と、
外部からの操作を検出する操作検出手段と、
この操作検出手段によって検出された操作内容に基づいて、前記編集情報記憶手段から編集情報を読み出す読出手段と、
この読出手段によって読み出された編集情報を時間的に変化する情報に変調する変調手段と、
この変調手段によって変調された情報に基づいて時間的に輝度が変化するように当該装置が生成する光の像を制御する制御手段と
を備えることを特徴とする像生成装置。
【請求項6】
オブジェクト情報を記憶するオブジェクト記憶手段を更に備えるとともに、前記編集情報は、前記オブジェクト情報記憶手段に記憶されるオブジェクト情報と前記撮像された画像との合成を指示する情報を含み、
前記読出手段は前記操作検出手段によって検出された操作内容に基づいて、更に前記オブジェクト記憶手段からオブジェクト情報を読出し、
前記変調手段は、前記読出手段によって読み出された編集情報に加え前記オブジェクト情報を時間的に変化する情報に変調することを特徴とする請求項5記載の像生成装置。
【請求項7】
前記撮像画像に付与する特殊効果情報を記憶する特殊効果記憶手段を更に備えるとともに、前記編集情報は、前記特殊効果記憶手段に記憶される特殊効果情報に基づく前記撮像された画像の加工を指示する情報を含み、
前記読出手段は前記操作検出手段によって検出された操作内容に基づいて、更に前記特殊効果記憶手段から特殊効果情報を読出し、
前記変調手段は、前記読出手段によって読み出された編集情報に加え前記特殊効果情報を時間的に変化する情報に変調することを特徴とする請求項5又は6記載の像生成装置。
【請求項8】
発光手段と、
前記制御手段による制御に基づいて前記発光手段の駆動を制御する駆動制御手段と
を更に備えることを特徴とする請求項5乃至7の何れか記載の像生成装置。
【請求項9】
撮像部を備えた画像編集装置に撮像される光の像を生成する装置が有するコンピュータを、
外部からの操作を検出する操作検出手段、
この操作検出手段によって検出された操作内容に基づいて、前記撮像手段によって撮像される画像の編集情報を記憶する編集情報記憶部から編集情報を読み出す読出手段、
この読出手段によって読み出された編集情報を時間的に変化する情報に変調する変調手段、
この変調手段によって変調された情報に基づいて時間的に輝度が変化するように当該装置が生成する光の像を制御する制御手段
として機能させることを特徴とするプログラム。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【公開番号】特開2009−276955(P2009−276955A)
【公開日】平成21年11月26日(2009.11.26)
【国際特許分類】
【出願番号】特願2008−126669(P2008−126669)
【出願日】平成20年5月14日(2008.5.14)
【出願人】(000001443)カシオ計算機株式会社 (8,748)
【Fターム(参考)】
【公開日】平成21年11月26日(2009.11.26)
【国際特許分類】
【出願日】平成20年5月14日(2008.5.14)
【出願人】(000001443)カシオ計算機株式会社 (8,748)
【Fターム(参考)】
[ Back to top ]