説明

マルチメディアコンテンツ同期システム及び方法

【課題】 映像と音のメディア同期のみでなく、マルチメディアコンテンツを演出するために必要となる照明の切替などのタイミングも同期させる。
【解決手段】 本発明は、送信地側から演出制御信号と遅延測定用の音を受信地側システムに送信することで、該コンテンツと演出制御情報の遅延の測定を指示し、受信地側が、送信地側から受信した遅延測定用の音に基づいて、コンテンツと演出制御情報との遅延を測定し、遅延値を該送信地側に送信する。送信地側は、受信地側から取得した遅延値を該コンテンツの演出制御情報に付加し、該コンテンツと遅延値を付加した演出制御情報を該受信地側に送信し、受信地側が、送信地側からコンテンツと遅延値を付加された演出制御情報を受信し、コンテンツを再生する。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、マルチメディアコンテンツ同期システム及び方法に係り、特に、ネットワークに接続された複数地点の映像コンテンツ(蓄積ならびにライブのコンテンツ)を互いに共有、または、コンテンツ自身をライブで製作して協調動作を行う応用において、映像や音と照明の切替などのタイミングが、コンテンツ制作者の意図に合うように適切な時間遅れを保ちながら同期し、または、これらの信号(映像や音と照明の切替など)がコンテンツ視聴者に適切な範囲で同期して到達するように調整するための計測と制御の仕組みを有するマルチメディアコンテンツ同期システム及び方法に関する。
【背景技術】
【0002】
従来、映像コンテンツを再生する場合、特にネットワークで他地点から送信する場合、映像送信に関わるシステムの要素の処理時間などにより、映像と音の周期が、オリジナルのコンテンツにおける時間関係からずれてしまう問題があった。
【0003】
これはいわゆるリップシンクといわれ、通常は映像処理時間の方が音の処理時間より長いために、音を遅延させる必要がある。
【0004】
送信側から映像と音を同期して伝送し、受信側では映像と音の出力時の遅延差を計測し、計測した遅延分、受信側のサウンドシステムに計測した遅延差を遅延させることによって同期を実現してきた(例えば、特許文献1参照)。
【0005】
近年、ネットワークにより複数地点との高精細なコンテンツ共有や、遠隔協調作業、双方向ライブパフォーマンスなどの応用が注目されている。このような状況から、単にリップシンクだけでなく、照明の切替などのタイミングが、映像、音と容易に同期できる仕組みが必要となる。
【先行技術文献】
【特許文献】
【0006】
【特許文献1】特開平10−285483号公報
【発明の概要】
【発明が解決しようとする課題】
【0007】
上記のように、従来はマルチメディアコンテンツを演出するための制御をマルチメディアコンテンツと容易に同期する仕組みが存在しなかった。
【0008】
本発明は、上記の点に鑑みなされたもので、映像と音のメディア同期のみでなく、マルチメディアコンテンツを演出するために必要となる照明の切替などのタイミングが、容易に同期することが可能なマルチメディアコンテンツ同期システム及び方法を提供することを目的とする。
【課題を解決するための手段】
【0009】
上記の課題を解決するため、本発明(請求項1)は、ネットワークにより接続された送信地側システムと受信地側システム間において、マルチメディアコンテンツを演出するための制御を該マルチメディアコンテンツと同期させるためのマルチメディアコンテンツ同期システムであって、
前記送信地側システムは、
遅延測定用の音と演出制御情報を前記受信地側システムに送信することで、マルチメディアコンテンツと演出制御情報の遅延の測定を指示する遅延測定指示手段と、
前記受信地側システムから取得した遅延値を該マルチメディアコンテンツの演出制御情報に付加し、該マルチメディアコンテンツと、該遅延値を付加した演出制御情報を該受信地側システムに送信する遅延制御手段と、
を有し、
前記受信地側システムは、
前記送信地側システムから受信した前記遅延測定用の音と前記演出制御情報に基づいて、前記マルチメディアコンテンツと演出制御情報との遅延を測定し、測定結果である前記遅延値を該送信地側システムに送信する遅延値測定手段と、
前記送信地側システムから前記マルチメディアコンテンツと前記遅延値を付加された前記演出制御情報を受信し、該演出制御情報に基づいて該マルチメディアコンテンツを再生する再生手段と、を有する。
【0010】
また、本発明(請求項2)は、前記遅延測定指示手段に、
前記演出制御情報と、当該送信地側システムの被制御装置を操作することにより発生する遅延測定用の音Aを前記受信地側システムに送信する手段を含み、
前記遅延値測定手段は、
前記遅延測定用の音Aを音声出力手段から出力すると共に、前記演出制御情報を当該受信地側システムの被制御装置に出力すると同時に音Bを発生させ、該音Aと該音Bが出力された時間差を計測し、その差を前記遅延値とする手段を含む。
【0011】
また、本発明(請求項3)は、前記演出制御信号は、照明装置を制御するための照明制御信号、または、オーディオシステムを制御するための特殊効果サウンドを含む。
【0012】
本発明(請求項4)は、ネットワークにより接続された送信地側システムと受信地側システム間において、マルチメディアコンテンツを演出するための制御を該マルチメディアコンテンツと同期させるためのマルチメディアコンテンツ同期方法であって、
前記送信地側システムは、
遅延測定指示手段が、遅延測定用の音と演出制御情報を前記受信地側システムに送信することで、マルチメディアコンテンツと演出制御情報の遅延の測定を指示する遅延測定指示ステップと、を行い、
前記受信地側システムは、
遅延値測定手段が、前記送信地側システムから受信した前記遅延測定用の音と前記演出制御情報に基づいて、前記マルチメディアコンテンツと演出制御情報との遅延を測定し、測定結果である前記遅延値を該送信地側システムに送信する遅延値測定を行い、
前記送信地側システムは、
遅延制御手段が、前記受信地側システムから取得した前記遅延値を該マルチメディアコンテンツの演出制御情報に付加し、該マルチメディアコンテンツと該遅延値を付加した演出制御情報を該受信地側システムに送信する遅延制御ステップを行い、
前記受信地側システムは、
再生手段が、前記送信地側システムから前記マルチメディアコンテンツと前記遅延値を付加された前記演出制御情報を受信し、該演出制御情報に基づいて該マルチメディアコンテンツを再生する再生ステップを行う。
【0013】
また、本発明(請求項5)は、前記遅延測定指示ステップにおいて、
前記演出制御情報と、当該送信地側システムの被制御装置を操作することにより発生する遅延測定用の音Aを前記受信地側システムに送信し、
前記遅延値測定ステップにおいて、
前記遅延測定用の音Aを音声出力手段から出力すると共に、前記演出制御情報を当該受信地側システムの被制御装置に出力すると同時に音Bを発生させ、該音Aと該音Bが出力された時間差を計測し、その差を前記遅延値とする。
【0014】
また、本発明(請求項6)は、前記演出制御信号は、照明装置を制御するための照明制御信号、または、オーディオシステムを制御するための特殊効果サウンドを含む。
【発明の効果】
【0015】
本発明は、被演出制御地(受信地)側で、音に基づいてマルチメディアコンテンツと演出制御情報との遅延を測定し、その測定結果を演出制御地(送信地)側に送信し、演出制御地側で演出制御情報にだけ上記測定結果分の遅延を付加し、マルチメディアコンテンツと演出制御情報を被演出制御地に送信することにより、各拠点において、マルチメディアコンテンツの演出とマルチメディアコンテンツとをコンテンツ製作者の意図に合うように同期させることが可能となる。
【図面の簡単な説明】
【0016】
【図1】本発明の一実施の形態におけるマルチメディアコンテンツ同期システムの構成図である。
【図2】本発明の一実施の形態における送信地側システム・受信地側システム間のシーケンスチャートである。
【図3】本発明の一実施の形態における送信側キューシステムの構成図である。
【図4】本発明の一実施の形態における受信地側キューシステムの構成図である。
【図5】本発明の一実施の形態における遅延値の測定のシーケンスチャートである。
【図6】本発明の一実施の形態における遅延地測定機能を示す図である。
【発明を実施するための形態】
【0017】
以下図面と共に、本発明の実施の形態を説明する。
【0018】
図1は、本発明の一実施の形態におけるマルチメディアコンテンツ同期システムの構成を示す。
【0019】
同図に示すシステムは、送信地側システム100と受信地側システム200及びそれらを接続するネットワーク300から構成される。
【0020】
送信地側システム100は、カメラ110、エンコーダ120、マイク130、オーディオシステム140、照明制御用PC150、キューシステム160、照明制御装置170、照明器具180を有する。
【0021】
受信地側システム200は、デコーダ210、映像表示装置220、オーディオシステム230、スピーカ240、キューシステム250、照明制御装置260、照明器具270、遅延値通知部280、遅延値計算手段290を有する。
【0022】
本発明では、照明の切替を映像と音に同期させるために、送受信側双方にキューシステム160を導入していることが特徴である。
【0023】
図1に示す構成では、特許文献1等の方法により、受信地側システム200の映像表示装置220の映像と、スピーカ240から出力される音声の遅延差Dsを測定し、受信地側システム200に送信する。受信地側のシステム200はオーディオシステム230に受信した遅延Dsを挿入する。これにより、受信地側システム200では、映像と音声が同期して出力される。
【0024】
また、送信地側システム100、受信地側システム200の照明器具180,270のオン/オフ、調光の制御は、送信地側システム100では、照明制御装置170を照明制御用PC150から制御信号を送ることにより制御する。受信地側システム200では、キューシステム250から出力された制御信号により照明制御装置260が照明器具270を制御する。
【0025】
送信地側システム100では、照明制御用PC150から出力された照明の切替を制御する制御信号は分岐され、照明制御装置170とキューシステム160の両方に入力される。
【0026】
図2は、本発明の一実施の形態における送信地側システム・受信地側システム間のシーケンスチャートである。
【0027】
ステップ100) 送信地側システム100と受信地側システム200との間で遅延値測定を行う。詳細については後述する。
【0028】
ステップ110) 受信地側システム200の遅延値通知部280において、測定された遅延値を送信地側システム100のキューシステム160に送信する。
【0029】
ステップ120) 送信地側システム100のキューシステム160は、遅延値を受信する。
【0030】
ステップ130) 照明制御用PC150は、照明の演出制御情報を照明制御装置170とキューシステム160に出力する。照明制御装置170は、演出制御情報に基づいて照明器具180のオン/オフを行う。
【0031】
ステップ140) キューシステム160は、照明制御用PC150から取得した演出制御信号にステップ120で受信地側システム200から受信した遅延値分の遅延を付加して受信地側システム200のキューシステム250に制御情報を送信する。
【0032】
図3は、本発明の一実施の形態における送信側キューシステムの構成を示す。
【0033】
送信側キューシステム160は、入力側ネットワークインタフェース161、遅延付加部162、出力側インタフェース163から構成される。
【0034】
キューシステム160は、照明制御用PC150から入力された制御信号を受信地側システム200のキューシステム250に送信する。そのときに、設定した遅延値だけを遅延を付加して送信する。設定する遅延値については後述する。
【0035】
図4は、本発明の一実施の形態における受信側キーシステムの構成を示す。
【0036】
受信側キューシステム250は、入力側ネットワークインタフェース251、出力側ネットワークインタフェース252、音発生装置253から構成される。
【0037】
受信側キューシステム250では、受け取った制御信号を受信地の照明制御装置260に送る。また、送信側のキューシステム100に設定する遅延値を決定するための制御信号を送るときに、遅延値計測手段290の音発生装置253において音を発生させる。なお、音を発生させるか否かは、切り替えることができ、遅延値を決定するときだけ音を発生させるものとする。
【0038】
送信地側のキューシステム160に設定する遅延値は、送信地の映像と音声が受信地側システム200に伝送され出力される時間と、送信地側システム100の照明の演出制御信号が受信地側システム200に送信され、キューシステム250から照明制御装置260に送信されるまでの時間差である。この時間差の測定は、以下の方法で行う。
【0039】
図5は、本発明の一実施の形態における遅延値の測定のシーケンスチャートであり、図6は、遅延値測定機能を示す図である。
【0040】
送信地側システム100のキューシステム160から、演出制御信号を受信地側システム200に送信する(ステップ101)。受信地側システム200の遅延値計測手段290は、キューシステム250から入力された当該演出制御信号による音(B)を発生させる。
【0041】
照明制御用PC150において、上記のステップ101の処理に対する操作時のキーボード、または、マウスのボタンを打つことによって入力された音(A)が、当該PC150の近くに設置されたマイク130で集音され(ステップ103)、受信地側システム200に送られる(ステップ104)。このとき、キューシステム160に設定する遅延値は0とする。
【0042】
受信地側システム200では、送られたキーボードのキーやマウスボタンを打つ音(A)を受信地システム200のオーディオシステム230を用いてスピーカ240から出力する(ステップ105)
遅延値計測手段290のマイク291で音(A)と音(B)を集音して電気変換部292で電気信号に変換する(ステップ106)。その電気信号をオシロスコープ293に入力し、スピーカ240が出力した音の波形とキューシステム250が発生させた音の波形を観測することにより、音の発生時間の差を計測する(ステップ107)。その計測した差の値が、送信側のキューシステム160に設定する遅延値となる。なお、本実施の形態では、当該オシロスコープの計測は人が行うものであり、観測された遅延値は計測値入力部294から遅延値通知部280に入力されるものとする(ステップ108)。遅延値通知部280は、遅延値を送信地側システム100のキューシステム160に送信する。
【0043】
また、照明の制御だけではなく、特殊効果サウンドの制御等もPCから制御されている場合は、同じ構成のキューシステムで受信側でも同期をとることができる。
【0044】
なお、本発明は、上記の実施の形態に限定されることなく、特許請求の範囲内において種々変更・応用が可能である。
【符号の説明】
【0045】
100 装置地側システム
110 カメラ
120 エンコーダ
130 マイク
140 オーディオシステム
150 照明制御用PC
160 キューシステム
161 ネットワークインタフェース(入力側)
162 遅延付加部
163 ネットワークインタフェース(出力側)
170 照明制御装置
180 照明器具
230 オーディオシステム
240 スピーカ
250 キューシステム
251 ネットワークインタフェース(入力側)
252 ネットワークインタフェース(出力側)
253 音発生装置
260 照明制御装置
280 遅延値通知部
290 遅延地計測手段
291 マイク
292 変換部
293 オシロスコープ
294 計測値入力部

【特許請求の範囲】
【請求項1】
ネットワークにより接続された送信地側システムと受信地側システム間において、マルチメディアコンテンツを演出するための制御を該マルチメディアコンテンツと同期させるためのマルチメディアコンテンツ同期システムであって、
前記送信地側システムは、
遅延測定用の音と演出制御情報を前記受信地側システムに送信することで、該マルチメディアコンテンツと演出制御情報の遅延の測定を指示する遅延測定指示手段と、
前記受信地側システムから取得した遅延値を該マルチメディアコンテンツの演出制御情報に付加し、該マルチメディアコンテンツと遅延値が付加された演出制御情報を該受信地側システムに送信する遅延制御手段と、
を有し、
前記受信地側システムは、
前記送信地側システムから受信した前記遅延測定用の音と前記演出制御情報に基づいて、前記マルチメディアコンテンツと該演出制御情報との遅延を測定し、測定結果である前記遅延値を該送信地側システムに送信する遅延値測定手段と、
前記送信地側システムから前記マルチメディアコンテンツと前記遅延値を付加された前記演出制御情報を受信し、該演出制御情報に基づいて該マルチメディアコンテンツを再生する再生手段と、
を有することを特徴とするマルチメディアコンテンツ同期システム。
【請求項2】
前記遅延測定指示手段は、
前記演出制御情報と、当該送信地側システムの被制御装置を操作することにより発生する遅延測定用の音Aを前記受信地側システムに送信する手段を含み、
前記遅延値測定手段は、
前記遅延測定用の音Aを音声出力手段から出力すると共に、前記演出制御情報を当該受信地側システムの被制御装置に出力すると同時に音Bを発生させ、該音Aと該音Bが出力された時間差を計測し、その差を前記遅延値とする手段を含む
請求項1記載のマルチメディアコンテンツ同期システム。
【請求項3】
前記演出制御信号は、照明装置を制御するための照明制御信号、または、オーディオシステムを制御するための特殊効果サウンドを含む
請求項1または2記載のマルチメディアコンテンツ同期システム。
【請求項4】
ネットワークにより接続された送信地側システムと受信地側システム間において、マルチメディアコンテンツを演出するための制御を該マルチメディアコンテンツと同期させるためのマルチメディアコンテンツ同期方法であって、
前記送信地側システムは、
遅延測定指示手段が、遅延測定用の音と演出制御情報を前記受信地側システムに送信することで、該マルチメディアコンテンツと演出制御情報の遅延の測定を指示する遅延測定指示ステップと、を行い、
前記受信地側システムは、
遅延値測定手段が、前記送信地側システムから受信した前記遅延測定用の音と前記演出制御情報に基づいて、前記マルチメディアコンテンツと演出制御情報との遅延を測定し、測定結果である前記遅延値を該送信地側システムに送信する遅延値測定を行う遅延測定ステップと、
前記送信地側システムは、
遅延制御手段が、前記受信地側システムから取得した前記遅延値を該マルチメディアコンテンツの演出制御情報に付加し、該マルチメディアコンテンツと遅延値を付加した演出制御情報を該受信地側システムに送信する遅延制御ステップを行い、
前記受信地側システムは、
再生手段が、前記送信地側システムから前記マルチメディアコンテンツと前記遅延値を付加された前記演出制御情報を受信し、該演出制御情報に基づいて該マルチメディアコンテンツを再生する再生ステップを行う
をことを特徴とするマルチメディアコンテンツ同期方法。
【請求項5】
前記遅延測定指示ステップにおいて、
前記演出制御情報と、当該送信地側システムの被制御装置を操作することにより発生する遅延測定用の音Aを前記受信地側システムに送信し、
前記遅延値測定ステップにおいて、
前記遅延測定用の音Aを音声出力手段から出力すると共に、前記演出制御情報を当該受信地側システムの被制御装置に出力すると同時に音Bを発生させ、該音Aと該音Bが出力された時間差を計測し、その差を前記遅延値とする
請求項4記載のマルチメディアコンテンツ同期方法。
【請求項6】
前記演出制御信号は、照明装置を制御するための照明制御信号、または、オーディオシステムを制御するための特殊効果サウンドを含む
請求項4または5記載のマルチメディアコンテンツ同期方法。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate