メディア同期再生システム
【課題】同期再生のための時刻配信サーバといった構成を必要とせず、柔軟に同期再生のための構成を実現することのできるメディア同期再生システムを得る。
【解決手段】任意の端末装置1を基準端末装置1aとし、これ以外の端末装置1を従属端末装置1bとする。基準端末装置1aは、基準システムクロックと、従属端末装置1bより問い合わせを受けてから基準システムクロックを出力するまでの応答処理時間とを同期情報として出力する。従属端末装置1bは、基準端末装置1aからの同期情報の基準システムクロックおよび応答処理時間と、自身のシステムクロックとに基づいて、同期再生のための待機時間を決定する。
【解決手段】任意の端末装置1を基準端末装置1aとし、これ以外の端末装置1を従属端末装置1bとする。基準端末装置1aは、基準システムクロックと、従属端末装置1bより問い合わせを受けてから基準システムクロックを出力するまでの応答処理時間とを同期情報として出力する。従属端末装置1bは、基準端末装置1aからの同期情報の基準システムクロックおよび応答処理時間と、自身のシステムクロックとに基づいて、同期再生のための待機時間を決定する。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、配信装置からネットワークを介して映像や音声、テキスト、画像等のメディアデータを複数の端末装置に配信し、これら端末装置間で同期再生させるためのメディア同期再生システムに関するものである。
【背景技術】
【0002】
今日、配信サーバから配信される映像を同時に再生する映像コミュニケ−ションシステムが存在する。このような映像コミュニケーションシステムにおけるメディア同期再生システムとして、従来では、時刻配信サーバからの時刻情報に合わせて、映像配信サーバから、映像データと配信時刻を示す情報を含むマルチキャストパケットを各端末装置に配送するようにしたものがあった(例えば、特許文献1参照)。このシステムは、各端末装置でマルチキャストパケットを受信し、配信時刻と受信時刻の情報を一つの端末装置に集め、最大の配信遅延時間を算出し、この最大の配信遅延時間を基準として、各端末装置の再生タイミング制御部が映像データの再生タイミングを調整するものであった。
【先行技術文献】
【特許文献】
【0003】
【特許文献1】特開2003−235027号公報
【発明の概要】
【発明が解決しようとする課題】
【0004】
しかしながら、従来のメディア同期再生システムでは、配信時刻と受信時刻の情報を一つの端末装置に集めるが、配信装置と端末装置で時刻情報を合わせるために、別途、時刻配信サーバを使用しなければならないという問題があった。また、配信時刻と受信時刻の情報を集計する端末装置が稼動し続ける必要があり、この端末装置が故障などにより停止すると、同期再生を継続することができなくなるという問題点もあった。更に、同期再生中にこの端末装置を任意に停止させることができないといった制限もあった。
【0005】
また、同期再生する端末装置の数が多くなると、配信時刻と受信時刻の情報を集計する端末装置には負荷が集中することで多くの資源(ネットワークの伝送資源、計算資源、記憶資源)を要するという問題がある。最大の負荷を想定した資源を確保する必要があり、スケーラビリティの面で柔軟性がないという問題があった。
【0006】
この発明は上記のような課題を解決するためになされたもので、同期再生のための時刻配信サーバといった構成を必要とせず、柔軟に同期再生のための構成を実現することのできるメディア同期再生システムを得ることを目的とする。
【課題を解決するための手段】
【0007】
この発明に係るメディア同期再生システムは、ネットワークを介してメディアデータを配信する配信装置と、配信装置からメディアデータを受信し、メディアデータの同期再生を行う複数の端末装置からなるメディア同期再生システムであって、複数の端末装置のうち、任意の端末装置を基準端末装置、基準端末装置以外の端末装置を従属端末装置とし、基準端末装置は、従属端末装置から、複数の端末装置の同期再生の基準となる基準システムクロックの問い合わせを受けた場合、基準システムクロックと、問い合わせを受けてから基準システムクロックを出力するまでの応答処理時間とを同期情報として出力すると共に、基準システムクロックと自身のシステムクロックとの差分を同期再生のための待機時間とし、従属端末装置は、基準端末装置に対して、基準システムクロックを問い合わせ、その結果、応答として得られた同期情報の基準システムクロックおよび応答処理時間と、自身のシステムクロックとに基づいて、同期再生のための待機時間を決定するようにしたものである。
【発明の効果】
【0008】
この発明のメディア同期再生システムは、各端末装置間で同期再生の基準となる基準システムクロックを基準端末装置で生成し、従属端末装置は、基準端末装置における基準システムクロックと応答処理時間と、自身のシステムクロックとに基づいて、同期再生のための待機時間を決定するようにしたので、同期再生のための時刻配信サーバといった構成を必要とせず、柔軟に同期再生のための構成を実現することができる。
【図面の簡単な説明】
【0009】
【図1】この発明の実施の形態1によるメディア同期再生システムを示す全体構成図である。
【図2】この発明の実施の形態1によるメディア同期再生システムの同期の原理を示す説明図である。
【図3】この発明の実施の形態1によるメディア同期再生システムの基準STCの問い合わせのシーケンスを示す説明図である。
【図4】この発明の実施の形態1によるメディア同期再生システムの端末装置を示す構成図である。
【図5】この発明の実施の形態1によるメディア同期再生システムの同期調整部の構成図である。
【図6】この発明の実施の形態1によるメディア同期再生システムの基準端末装置として振る舞う場合の同期調整部を示す構成図である。
【図7】この発明の実施の形態1によるメディア同期再生システムの従属端末装置として振る舞う場合の同期調整部を示す構成図である。
【図8】この発明の実施の形態1によるメディア同期再生システムの同期グループへの端末装置の参加のシーケンスを示す説明図である。
【図9】この発明の実施の形態1によるメディア同期再生システムの端末装置の初回同期のシーケンスを示す説明図である。
【図10】この発明の実施の形態1によるメディア同期再生システムのスケジュール生成を示すフローチャートである。
【図11】この発明の実施の形態1によるメディア同期再生システムの端末装置の再同期のシーケンスを示す説明図である。
【図12】この発明の実施の形態1によるメディア同期再生システムの端末装置の同期グループからの離脱のシーケンスを示す説明図である。
【図13】この発明の実施の形態1によるメディア同期再生システムの新しい基準端末装置を指定するシーケンスを示す説明図である。
【図14】この発明の実施の形態1によるメディア同期再生システムの基準端末装置の選出を示すフローチャートである。
【図15】この発明の実施の形態1によるメディア同期再生システムの基準端末装置の選出における他の例を示すフローチャートである。
【図16】この発明の実施の形態2によるメディア同期再生システムを示す構成図である。
【発明を実施するための形態】
【0010】
実施の形態1.
図1は、この発明の実施の形態1によるメディア同期再生システムの全体構成図である。
メディア同期再生システムは、端末装置1(基準端末装置1a、従属端末装置1b)と配信装置2がネットワーク3で相互に接続され構成されている。また、端末装置1(基準端末装置1a、従属端末装置1b)と配信装置2は、一つの同期グループ4aを構成しており、この同期グループ4a内で同期再生を行う。更に、この同期グループ4aとは異なる同期グループ4bも存在する。同期グループ4a,4bでは、同期再生の基準となる一つの端末装置1を基準端末装置1aとし、基準端末装置1aに同期するその他の端末装置1を従属端末装置1bとする。
【0011】
このようなメディア同期再生システムにおける同期再生の原理について先ず説明する。
図2は、同期再生の原理を示す説明図である。
この図は、配信装置からメディアデータが配信され、各端末装置A,B,Cで表示されるまでに要する時間を示している。
配信装置からマルチキャスト送信されるメディアデータが各端末装置A,B,Cに到達する時間T(伝送時間)は、ネットワークの伝送状況により異なる。
T1≠T2≠T3
各端末装置A,B,Cがメディアデータをデコード処理して得られたフレームを表示可能となるまでの時間D(再生処理時間)は、端末装置の性能により異なる。
D1≠D2≠D3
端末装置A,B,C間で同タイミングにフレームを表示できるように、表示が可能になった時刻から実際に表示するまでに待機時間Wを設ける。
T1+D1+W1=T2+D2+W2=T3+D3+W3
【0012】
次に、待機時間の求め方について説明する。
端末装置1のシステムクロックはメディアデータを再生処理することで得られるフレームに付加されたタイムスタンプなど(設定すべきシステムクロックの値を定義する情報でもよい)により初期化するが、伝送時間と再生処理時間が端末装置間で異なるため、あるタイミングの各端末装置のシステムクロックの値は同じにはならない。ここで基準とする仮想のシステムクロック(基準STC)を生成し、基準STCに従ってフレームを表示することを考える。端末装置1のシステムクロックと基準STCとの差分が待機時間となる。
基準STCを管理する端末装置(基準端末装置1a)を決定し、他の端末装置(従属端末装置1b)は、基準端末装置1aに基準STCを問い合わせることで同期する。図3は、この問い合わせを示す説明図である。
【0013】
端末装置1はネットワーク3を介して接続されるため、問い合わせが基準端末装置1aに到達する時間(T10)と問い合わせに応答する時間(T11)、応答が従属端末装置1bに到達する時間(T12)が発生する。T10、T11、T12を考慮し、より正確な同期再生を実現する。
T10、T11、T12の合計は、従属端末装置1bで問い合わせた時刻(stc10)と応答された時刻(stc11)の差分と同じである。
T10+T11+T12=stc11−stc10
stc11に相当する基準STCの値として、従属端末装置1bに応答されるstc20を補正する値を考える。
補正値=T11+T12
問い合わせが伝送される時間(T10)と応答が伝送される時間(T12)が等しいとみなす。
T12≒(T10+T12)/2
よって、補正値を次のようにみなす。
補正値≒T11+(T10+T12)/2
≒T11+((stc11−stc10)−T11)/2
【0014】
T11は基準端末装置1aが計測することでき、従属端末装置1bへの応答にstc20とT11を含めることとする。従属端末装置1bでの待機時間は次のように求められる。
待機時間=stc11−(stc20+補正値)
=stc11−(stc20+(T11+((stc11−stc10)−T11)/2)
=(stc10+stc11−stc20*2+T11)/2
なお、基準端末装置1aの待機時間は次のように求められる。
待機時間=システムクロック値−基準STC値
【0015】
以下、基準端末装置1a,従属端末装置1bと配信装置2の細部について説明する。
配信装置2は、同期グループ4a(4b)に登録した端末装置1のアドレスを保持しており、メディアデータを同期グループ4a(4b)に含まれる端末装置1にマルチキャストで配信する。メディアデータの全フレームに重複のないタイムスタンプを付加し、同期の調整をするためのフレームにはフラグ(同期調整フラグ)を付加する。端末装置1では、同期調整フラグがONであるフレームに対して、表示中のフレームを複数フレームの期間表示させるフレームポーズ制御と、連続してフレームを出力させることでフレームを表示させないフレームスキップ制御を実施する。即ち、配信装置2は、各端末装置1で再生されるメディアデータにおいて、不連続にフレームを表示しても知覚されにくいフレームを予め決定し、このフレームの同期調整フラグをONとする。そして、各端末装置1は、同期調整フラグがONであるフレームを表示するときに待機時間の変更を実施する。
【0016】
端末装置1はネットワーク3に接続するとアドレスを解決し、同期グループ4a(4b)に参加すると配信装置2からメディアデータを受信する。次に、メディアデータをデコードしてフレームとタイムスタンプを得る。フレームはタイムスタンプのタイミングで表示される。
端末装置1は、同期グループ4a(4b)に参加すると、先ず、従属端末装置1bとして振る舞う。基準端末装置1aは、任意の従属端末装置1bを指定して基準端末装置1aの役割を引き継がせることができ、引き継ぎが完了した基準端末装置1aは従属端末装置1bとして振る舞う。以下、図4を用いて端末装置1の構成を説明する。
【0017】
図4に示すように、端末装置1は、通信部10、接続管理部11、デコーダ12、フレームバッファ13、表示器14、システムクロック部15、同期調整部16を備えている。
通信部10は、配信装置2と他の端末装置1とネットワーク3を介して接続し、接続情報と同期情報を送受信し、メディアデータを受信する。また、端末装置1内部の接続管理部11と接続され、接続情報を入出力すると共に、同期調整部16と接続され、接続情報および同期情報を入出力する。更に、デコーダ12と接続され、デコーダ12に対してメディアデータを出力する。
【0018】
接続管理部11は、接続情報を管理し、配信装置2のアドレスと基準端末装置1aのアドレスを保持する。デコーダ12は、入力されたメディアデータをデコードし、フレームをフレームバッファ13に出力する。フレームバッファ13は、入力されたフレームを一時的に保持し、フレームのタイムスタンプを同期調整部16に出力する。また、同期調整部16からのフレーム出力制御により、フレームを表示器14に出力する。表示器14は、フレームバッファ13から入力されたフレームを即座に表示する。
【0019】
システムクロック部15は、周期的にカウントアップするカウンタであり、同期調整部16により初期値をセットされ、同期調整部16にSTC値を供給する。同期調整部16は、通信部10と接続して同期情報を送受信し、システムクロック部15におけるシステムクロックを設定してシステムクロック部15からSTC値を供給させ、フレームバッファ13内のフレームのタイムスタンプを参照してフレーム出力制御を行う。この同期調整部16は、基準端末装置1aと従属端末装置1bとでその機能が異なるものであり、以下、それぞれの構成について説明する。
【0020】
図5は、基準端末装置1a及び従属端末装置1bの両対応の同期調整部16を示す構成図である。図示のように、同期調整部16は、同期情報受信部160、同期管理部161(同期情報蓄積部162、スケジュール部163、基準STC生成部164、応答処理時間計測部165)、待機時間算出部166、同期情報送信部167、フレーム出力制御部168から構成される。
また、図6は、端末装置1が基準端末装置1aとして動作する場合の同期調整部16を示すブロック図であり、同期管理部161が有効となる。一方、図7は、端末装置1が従属端末装置1bとして動作する場合の同期調整部16を示すブロック図であり、同期管理部161が無効となる。以下、各部の詳細について説明する。
【0021】
同期情報受信部160は、基準端末装置1aであるか従属端末装置1bであるかで動作が異なる。図6に示すような基準端末装置1aであるとき、通信部10から受信した同期情報を判別し、従属端末装置1bからの同期情報(例えば、送信元アドレス、STC値と待機時間)を同期情報蓄積部162に出力して応答処理時間計測部165に開始情報を伝える。一方、図7に示すような従属端末装置1bであるとき、受信した同期情報を判別し、基準端末装置1aからの同期情報(例えば、基準STCと応答処理時間)を待機時間算出部166に出力する。また、受信した同期情報の送信元アドレスを同期情報送信部167に通知する。
【0022】
同期情報蓄積部162は、基準端末装置1aであるとき有効となり、端末装置1毎の同期情報を蓄積し、基準STC生成部164とスケジュール部163に任意の同期情報を出力する。また、スケジュール部163により生成されたスケジュールを端末装置1毎に蓄積する。スケジュール部163は、基準端末装置1aであるとき有効となり、同期情報蓄積部162の同期情報を参照して端末装置1を同期させるスケジュールを生成し、同期情報蓄積部162と同期情報送信部167に出力する。また、スケジュール部163は、基準端末装置1aの同期処理による負荷に配慮し、同期処理ができるだけ同時に発生しないようにスケジュールを生成する。また、同期処理による待機時間の調整幅を考慮して優先的に再同期する端末装置1を決定する。尚、スケジュール生成については後述する。
【0023】
基準STC生成部164は、基準端末装置1aであるとき有効となり、同期情報蓄積部162の同期情報の中で最も大きく遅延している端末装置1の待機時間から基準STCを生成し、基準STC値を待機時間算出部166と同期情報送信部167に出力する。基準STCの値は、同期する全ての端末装置1のシステムクロックよりも遅れている必要があり、基準STCの値は全ての端末装置のシステムクロックの値(最遅延システムクロック)以下であることが条件となる。
基準STC≦最遅延システムクロック
例として、同期グループ4a(4b)に端末装置1が追加されることに配慮し、最遅延システムクロックから余裕をもたせた値(余裕値)を設定する。
基準STC=最遅延システムクロック−余裕値
【0024】
応答処理時間計測部165は、基準端末装置1aであるとき有効となり、システムクロック部15から入力されるSTC値を参照して開始情報により計測を開始し、終了情報により計測を終了して同期情報送信部167に応答処理時間を出力する。
待機時間算出部166は、入力されたSTC値と基準STC値、応答処理時間から待機時間を算出し、同期情報送信部167とフレーム出力制御部168に出力する。
フレーム出力制御部168は、システムクロック部15のシステムクロックを最初に入力されたタイムスタンプにより設定し、フレーム出力制御を行う。以降はシステムクロック部15のSTC値を監視し、フレームバッファ13から入力されたタイムスタンプに待機時間を加えた時刻にフレームを出力するように制御する。同期処理などにより待機時間が更新されると、同期調整フラグがONになったフレームに対して、フレームポーズとフレームスキップの制御を行う。
【0025】
同期情報送信部167は、基準端末装置1aであるか従属端末装置1bであるかで動作が異なる。基準端末装置1aであるとき、システムクロック部15から入力されたSTC値と、待機時間算出部166から入力された待機時間から同期情報を生成して同期情報蓄積部162に出力し、基準STC生成部164から出力された基準STC値と、応答処理時間計測部165に終了情報を伝えて出力させた応答処理時間から同期情報を生成して通信部10に送信する。一方、従属端末装置1bであるとき、システムクロック部15から入力されたSTC値と、待機時間算出部166から入力された待機時間から同期情報を生成して通信部10に送信する。また、同期情報受信部160から通知された端末装置アドレスが通信部10に送信する同期情報の送信先となる。
【0026】
同期情報は送信される方向により含まれる情報が異なるので次のように細分化する。
基準端末装置1aから従属端末装置1bに送信される同期情報を、基準同期情報、スケジュール情報、同期グループ情報とする。基準同期情報には、送信元の端末装置1のアドレスと基準STC、応答処理時間などが含まれる。スケジュール情報には、送信元の端末装置1のアドレスとスケジュール(次に同期処理を実施する時刻)などが含まれる。同期グループ情報には、基準端末装置1aが保持している同期グループ内に存在する全ての端末装置1の同期情報などが含まれる。一方、従属端末装置1bから基準端末装置1aに送信される同期情報を従属同期情報とする。従属同期情報には、送信元の端末装置のアドレスとSTC値、待機時間などが含まれる。
【0027】
接続情報は送信方向により内容が異なる。基準端末装置1aから従属端末装置1bに送信される接続情報を基準接続情報とする。基準接続情報には、配信装置2のアドレスと基準端末装置1aのアドレス(送信元の端末装置1のアドレス)などが含まれる。一方、従属端末装置1bから基準端末装置1aと配信装置2に送信される接続情報を従属接続情報とする。従属接続情報には、同期グループに追加する端末装置1のアドレス(送信元の端末装置1のアドレス)などが含まれる。
【0028】
次に、このように構成されたメディア同期再生システムの動作について説明する。
先ず、端末装置1が同期グループに参加すると従属端末装置1bとして振る舞う。この動作シーケンスを図8に示す。即ち、ある同期グループの基準端末装置1aは、ネットワーク3に一定期間毎に基準接続情報をブロードキャストしている。参加する端末装置1は従属端末装置1bとして振る舞い、基準接続情報を受信するまでは待機状態となる。基準接続情報を受信した場合は、その基準接続情報から、同期グループに属する配信装置2のアドレスを取得する。そして、従属端末装置1bは従属接続情報を配信装置2に対してユニキャスト送信し、メディアデータの受信処理を開始する。配信装置2では従属接続情報を受け取ると、端末装置1のアドレスを取得し、配信先アドレスのリストに追加する。
【0029】
次に、基準端末装置1aと従属端末装置1bの初回同期について説明する。図9は、その動作シーケンスである。同期グループに参加した端末装置1は、従属端末装置1bとして振る舞い、最初に基準端末装置1aと同期する。基準端末装置1aは次に同期すべき時刻をスケジュール情報として従属端末装置1bに送信する。
即ち、従属端末装置1bは、配信装置2よりメディアデータを受信すると、メディアデータをデコードし、フレームとタイムスタンプを取得する。そして、タイムスタンプによりシステムクロックを設定する。その後は、先頭フレームの表示制御を行うと共に、STC値と待機時間から従属同期情報を生成して基準端末装置1aに対してユニキャスト送信し基準同期情報の受信待ちとなる。
基準端末装置1aでは、受信した従属同期情報に基づいて基準STCを更新し、基準同期情報を、従属同期情報を送信した従属端末装置1b宛にユニキャスト送信する。
従属端末装置1bでは、伝送遅延を考慮して待機時間を算出し、STC値と待機時間から従属同期情報を生成して基準端末装置1aにユニキャスト送信する。その後は、スケジュール情報の受信待ちとなる。
基準端末装置1aでは、受信した従属同期情報に基づいてスケジュール生成を行い、生成したスケジュール情報をユニキャスト送信する。
【0030】
次に、基準端末装置1aにおけるスケジュール生成について説明する。
図10は、スケジュール部163におけるスケジュール生成を示すフローチャートである。
スケジュール部163は同期情報蓄積部162の同期グループ情報を参照して(ステップST1)、前回の調整幅から同期処理を行う従属端末装置1bの優先度を決定する(ステップST2)。即ち、同期する前と同期した後の待機時間の差分が大きい従属端末装置1bほど優先度が高くなるようにする。次に、ステップST2で決定した優先度に応じて同期処理の間隔を決定する(ステップST3)。また、各端末装置1の次に同期処理を実施する時刻から、重複しない時刻を抽出し(ステップST4)、同期処理の間隔に最も近い重複しない時刻を選択して、次に同期処理する時刻を決定する(ステップST5)。そして、次に同期処理する時刻からスケジュール情報を生成して出力する(ステップST6)。
【0031】
従属端末装置1bは、基準端末装置1aからの指示(スケジュール情報)に従い、基準端末装置1aとの再同期(スケジュール同期)を実施する。図11はこの再度同期処理の動作シーケンスである。
従属端末装置1bではスケジュール情報に従い、再同期処理を開始する。この再同期処理は、上述した初回同期処理と同様に、STC値と待機時間から従属同期情報を生成し、これを基準端末装置1aにユニキャスト送信する。その後の基準端末装置1aと従属端末装置1bの処理は初回同期の場合と同様である。
【0032】
次に、従属端末装置1bの同期グループからの離脱について説明する。
従属端末装置1bは任意に同期グループから外れることができる。図12はその動作シーケンスである。
即ち、従属端末装置1bは、同期グループから離脱する場合は、スケジュールを破棄して再同期を実施しない。一方、基準端末装置1aでは、スケジュールに従い、従属端末装置1bの再同期が行われないことを検出すると、スケジュールを破棄した従属端末装置1bを同期グループ情報から削除し、配信装置2に対して、同期グループ情報から削除した従属端末装置1bのアドレスを通知する。配信装置2では、保持している同期グループに登録した端末装置1のアドレスを更新する。
尚、基準端末装置1aが同期グループから離脱する場合は、新しい基準端末装置1aを指定し、基準端末装置1aから従属端末装置1bになる。
【0033】
次に、新しい基準端末装置1aの指定について説明する。
基準端末装置1aは、同期グループ内の従属端末装置1bを新しい基準端末装置1aに指定する。その動作シーケンスを図13に示す。
即ち、基準端末装置1aは、従属端末装置1bの中から新しい基準端末装置1aを選出すると、その従属端末装置1bに対して同期グループ情報を送信する。その後、基準端末装置1aは基準接続情報がブロードキャスト送信されるのを待機する。尚、新たな基準端末装置1aの選出処理については後述する。
同期グループ情報を受信した従属端末装置1bは、同期グループ情報を保持し、同期管理部161を有効化し、以降、基準端末装置1aとして振る舞う。新たな基準端末装置1aは、基準接続情報をブロードキャスト送信し、これを受信した旧基準端末装置1aは、同期管理部161を無効化し、同期グループ情報を破棄し、以降、従属端末装置1bとして振る舞う。
【0034】
次に、基準端末装置の選出について説明する。
基準端末装置1aは、ネットワーク3の接続状況や端末装置1の性能を考慮して新たな基準端末装置1aを決定する。
基準端末装置1aを決定する一つの例として、あるタイミングのシステムクロックの値が最大となる従属端末装置1bの負荷が最も低いと見込み、新しい基準端末装置1aの候補とする。そのフローを図14に示す。
即ち、基準端末装置1aでは、同期情報蓄積部162の同期グループ情報を参照して(ステップST11)、各従属端末装置1bの待機時間などからシステムクロックの値を推測する(ステップST12)。そして、推測したシステムクロックの値が最大となる従属端末装置1bを選択し(ステップST13)、選択した従属端末装置1bを新たな基準端末装置1aとして選出する(ステップST14)。
【0035】
また、新たな基準端末装置1aを決定する別の例として、あるタイミングのシステムクロックの値が最小となる従属端末装置1bの負荷が最も高いと見込み、この従属端末装置1bを除いた従属端末装置1bからランダムで新たな基準端末装置1aを選択する。そのフローを図15に示す。
即ち、基準端末装置1aでは、同期情報蓄積部162の同期グループ情報を参照して(ステップST21)、各従属端末装置1bの待機時間などからシステムクロックの値を推測する(ステップST22)。次に、推測したシステムクロックの値が最小となる従属端末装置1bを除外した従属端末装置1bのリストを生成し(ステップST23)、このリストからランダムに端末装置を選択する(ステップST24)。そして、選択した端末装置を新たな基準端末装置1aとして選出する(ステップST25)。
【0036】
以上のように、実施の形態1のメディア同期再生システムによれば、ネットワークを介してメディアデータを配信する配信装置と、配信装置からメディアデータを受信し、メディアデータの同期再生を行う複数の端末装置からなるメディア同期再生システムであって、複数の端末装置のうち、任意の端末装置を基準端末装置、基準端末装置以外の端末装置を従属端末装置とし、基準端末装置は、従属端末装置から、複数の端末装置の同期再生の基準となる基準システムクロックの問い合わせを受けた場合、基準システムクロックと、問い合わせを受けてから基準システムクロックを出力するまでの応答処理時間とを同期情報として出力すると共に、基準システムクロックと自身のシステムクロックとの差分を同期再生のための待機時間とし、従属端末装置は、基準端末装置に対して、基準システムクロックを問い合わせ、その結果、応答として得られた同期情報の基準システムクロックおよび応答処理時間と、自身のシステムクロックとに基づいて、同期再生のための待機時間を決定するようにしたので、同期再生のための時刻配信サーバといった構成を必要とせず、柔軟に同期再生のための構成を実現することができる。
【0037】
また、実施の形態1のメディア同期再生システムによれば、基準端末装置は、従属端末装置の中から新たな基準端末装置を選択し、新たな基準端末装置となる従属端末装置が基準端末装置としての処理を開始した後、旧基準端末装置は従属端末装置として振る舞うようにしたので、各端末装置の負荷の変化等に対しても柔軟に対応することができる。
【0038】
また、実施の形態1のメディア同期再生システムによれば、特定のタイミングで従属端末装置のシステムクロックを比較し、システムクロックが最も大きい従属端末装置を新たな基準端末装置として選択するようにしたので、各端末装置の負荷を適切に分散することができる。
【0039】
また、実施の形態1のメディア同期再生システムによれば、特定のタイミングで従属端末装置のシステムクロックを比較し、システムクロックが最も小さい従属端末装置を除外して残りの従属端末装置からランダムに新たな基準端末装置を選択するようにしたので、各端末装置の負荷を適切に分散することができる。
【0040】
また、実施の形態1のメディア同期再生システムによれば、基準端末装置は、同期する前と同期した後の待機時間の差分が大きい従属端末装置を優先的に次回の同期処理の対象として選択するようにしたので、同期する端末装置の数が多い場合でも適切に同期を行うことができる。
【0041】
また、実施の形態1のメディア同期再生システムによれば、配信装置は、配信するメディアデータ中、特定のフレームを予め決定してそのフレームにフラグを付与し、端末装置は、フラグが付与されたフレームを再生するときに待機時間の変更を実施するようにしたので、メディアデータの再生において同期処理を意識させない表示を行うことができる。
【0042】
実施の形態2.
実施の形態2は、実施の形態1における同期グループを複数の同期グループに分割し、同期グループ間で同期再生するようにしたものである。
同期再生の基準となる同期グループを基準同期グループとし、基準同期グループに同期する同期グループを従属同期グループとする。基準同期グループに対して従属同期グループは複数存在してよい。また、従属同期グループは、異なる同期グループの基準同期グループとして振る舞っても構わない。図16に実施の形態2のメディア同期再生システムを示す。
【0043】
図示の同期グループAは、同期グループBの基準同期グループである。また、同期グループBは同期グループAの従属同期グループであり、かつ、同期グループCの基準同期グループである。更に、同期グループCは、同期グループBの従属同期グループである。図中の矢印が指す方向が従属から基準への方向を指している。
ここで、基準同期グループとして振る舞う同期グループは、実施の形態1における同期グループ4a(4b)と同じ構成、振る舞いをする。ただし、基準同期グループの従属端末装置1bは、異なる同期グループの基準端末装置1aとして振る舞ってもよい。
【0044】
また、従属同期グループの基準端末装置1aは、基準同期グループの従属端末装置1bとして振る舞う。従属同期グループの従属端末装置1bは、実施の形態1と同じである。
従属同期グループは配信装置を含まなくてよく、このときの従属同期グループの基準端末装置1aの基準同期情報の配信装置のアドレスには、基準同期グループの基準端末装置1aからブロードキャストされた配信装置のアドレスを使用する。
従属同期グループが配信装置を含むときは、基準同期グループに含まれる配信装置と同等の配信装置である必要がある。同等の配信装置であるとは、同一内容のメディアデータを配信することができることを意味する。
【0045】
以上のように、実施の形態2のメディア同期再生システムによれば、同期再生する複数の端末装置を一つの同期グループとし、かつ、複数の同期グループが存在するメディア同期再生システムであって、複数の同期グループのうち、任意の同期グループの従属端末装置として振る舞い、かつ、異なる同期グループの基準端末装置として振る舞う端末装置を備えたので、複数の異なる同期グループが存在する場合でも各端末装置の負荷を適切に分散させることができる。
【符号の説明】
【0046】
1 端末装置、1a 基準端末装置、1b 従属端末装置、2 配信装置、3 ネットワーク、4a,4b 同期グループ、11 接続管理部、15 システムクロック部、16 同期調整部、160 同期情報受信部、161 同期管理部、162 同期情報蓄積部、163 スケジュール部、164 基準STC生成部、165 応答処理時間計測部、166 待機時間算出部、167 同期情報送信部、168 フレーム出力制御部。
【技術分野】
【0001】
本発明は、配信装置からネットワークを介して映像や音声、テキスト、画像等のメディアデータを複数の端末装置に配信し、これら端末装置間で同期再生させるためのメディア同期再生システムに関するものである。
【背景技術】
【0002】
今日、配信サーバから配信される映像を同時に再生する映像コミュニケ−ションシステムが存在する。このような映像コミュニケーションシステムにおけるメディア同期再生システムとして、従来では、時刻配信サーバからの時刻情報に合わせて、映像配信サーバから、映像データと配信時刻を示す情報を含むマルチキャストパケットを各端末装置に配送するようにしたものがあった(例えば、特許文献1参照)。このシステムは、各端末装置でマルチキャストパケットを受信し、配信時刻と受信時刻の情報を一つの端末装置に集め、最大の配信遅延時間を算出し、この最大の配信遅延時間を基準として、各端末装置の再生タイミング制御部が映像データの再生タイミングを調整するものであった。
【先行技術文献】
【特許文献】
【0003】
【特許文献1】特開2003−235027号公報
【発明の概要】
【発明が解決しようとする課題】
【0004】
しかしながら、従来のメディア同期再生システムでは、配信時刻と受信時刻の情報を一つの端末装置に集めるが、配信装置と端末装置で時刻情報を合わせるために、別途、時刻配信サーバを使用しなければならないという問題があった。また、配信時刻と受信時刻の情報を集計する端末装置が稼動し続ける必要があり、この端末装置が故障などにより停止すると、同期再生を継続することができなくなるという問題点もあった。更に、同期再生中にこの端末装置を任意に停止させることができないといった制限もあった。
【0005】
また、同期再生する端末装置の数が多くなると、配信時刻と受信時刻の情報を集計する端末装置には負荷が集中することで多くの資源(ネットワークの伝送資源、計算資源、記憶資源)を要するという問題がある。最大の負荷を想定した資源を確保する必要があり、スケーラビリティの面で柔軟性がないという問題があった。
【0006】
この発明は上記のような課題を解決するためになされたもので、同期再生のための時刻配信サーバといった構成を必要とせず、柔軟に同期再生のための構成を実現することのできるメディア同期再生システムを得ることを目的とする。
【課題を解決するための手段】
【0007】
この発明に係るメディア同期再生システムは、ネットワークを介してメディアデータを配信する配信装置と、配信装置からメディアデータを受信し、メディアデータの同期再生を行う複数の端末装置からなるメディア同期再生システムであって、複数の端末装置のうち、任意の端末装置を基準端末装置、基準端末装置以外の端末装置を従属端末装置とし、基準端末装置は、従属端末装置から、複数の端末装置の同期再生の基準となる基準システムクロックの問い合わせを受けた場合、基準システムクロックと、問い合わせを受けてから基準システムクロックを出力するまでの応答処理時間とを同期情報として出力すると共に、基準システムクロックと自身のシステムクロックとの差分を同期再生のための待機時間とし、従属端末装置は、基準端末装置に対して、基準システムクロックを問い合わせ、その結果、応答として得られた同期情報の基準システムクロックおよび応答処理時間と、自身のシステムクロックとに基づいて、同期再生のための待機時間を決定するようにしたものである。
【発明の効果】
【0008】
この発明のメディア同期再生システムは、各端末装置間で同期再生の基準となる基準システムクロックを基準端末装置で生成し、従属端末装置は、基準端末装置における基準システムクロックと応答処理時間と、自身のシステムクロックとに基づいて、同期再生のための待機時間を決定するようにしたので、同期再生のための時刻配信サーバといった構成を必要とせず、柔軟に同期再生のための構成を実現することができる。
【図面の簡単な説明】
【0009】
【図1】この発明の実施の形態1によるメディア同期再生システムを示す全体構成図である。
【図2】この発明の実施の形態1によるメディア同期再生システムの同期の原理を示す説明図である。
【図3】この発明の実施の形態1によるメディア同期再生システムの基準STCの問い合わせのシーケンスを示す説明図である。
【図4】この発明の実施の形態1によるメディア同期再生システムの端末装置を示す構成図である。
【図5】この発明の実施の形態1によるメディア同期再生システムの同期調整部の構成図である。
【図6】この発明の実施の形態1によるメディア同期再生システムの基準端末装置として振る舞う場合の同期調整部を示す構成図である。
【図7】この発明の実施の形態1によるメディア同期再生システムの従属端末装置として振る舞う場合の同期調整部を示す構成図である。
【図8】この発明の実施の形態1によるメディア同期再生システムの同期グループへの端末装置の参加のシーケンスを示す説明図である。
【図9】この発明の実施の形態1によるメディア同期再生システムの端末装置の初回同期のシーケンスを示す説明図である。
【図10】この発明の実施の形態1によるメディア同期再生システムのスケジュール生成を示すフローチャートである。
【図11】この発明の実施の形態1によるメディア同期再生システムの端末装置の再同期のシーケンスを示す説明図である。
【図12】この発明の実施の形態1によるメディア同期再生システムの端末装置の同期グループからの離脱のシーケンスを示す説明図である。
【図13】この発明の実施の形態1によるメディア同期再生システムの新しい基準端末装置を指定するシーケンスを示す説明図である。
【図14】この発明の実施の形態1によるメディア同期再生システムの基準端末装置の選出を示すフローチャートである。
【図15】この発明の実施の形態1によるメディア同期再生システムの基準端末装置の選出における他の例を示すフローチャートである。
【図16】この発明の実施の形態2によるメディア同期再生システムを示す構成図である。
【発明を実施するための形態】
【0010】
実施の形態1.
図1は、この発明の実施の形態1によるメディア同期再生システムの全体構成図である。
メディア同期再生システムは、端末装置1(基準端末装置1a、従属端末装置1b)と配信装置2がネットワーク3で相互に接続され構成されている。また、端末装置1(基準端末装置1a、従属端末装置1b)と配信装置2は、一つの同期グループ4aを構成しており、この同期グループ4a内で同期再生を行う。更に、この同期グループ4aとは異なる同期グループ4bも存在する。同期グループ4a,4bでは、同期再生の基準となる一つの端末装置1を基準端末装置1aとし、基準端末装置1aに同期するその他の端末装置1を従属端末装置1bとする。
【0011】
このようなメディア同期再生システムにおける同期再生の原理について先ず説明する。
図2は、同期再生の原理を示す説明図である。
この図は、配信装置からメディアデータが配信され、各端末装置A,B,Cで表示されるまでに要する時間を示している。
配信装置からマルチキャスト送信されるメディアデータが各端末装置A,B,Cに到達する時間T(伝送時間)は、ネットワークの伝送状況により異なる。
T1≠T2≠T3
各端末装置A,B,Cがメディアデータをデコード処理して得られたフレームを表示可能となるまでの時間D(再生処理時間)は、端末装置の性能により異なる。
D1≠D2≠D3
端末装置A,B,C間で同タイミングにフレームを表示できるように、表示が可能になった時刻から実際に表示するまでに待機時間Wを設ける。
T1+D1+W1=T2+D2+W2=T3+D3+W3
【0012】
次に、待機時間の求め方について説明する。
端末装置1のシステムクロックはメディアデータを再生処理することで得られるフレームに付加されたタイムスタンプなど(設定すべきシステムクロックの値を定義する情報でもよい)により初期化するが、伝送時間と再生処理時間が端末装置間で異なるため、あるタイミングの各端末装置のシステムクロックの値は同じにはならない。ここで基準とする仮想のシステムクロック(基準STC)を生成し、基準STCに従ってフレームを表示することを考える。端末装置1のシステムクロックと基準STCとの差分が待機時間となる。
基準STCを管理する端末装置(基準端末装置1a)を決定し、他の端末装置(従属端末装置1b)は、基準端末装置1aに基準STCを問い合わせることで同期する。図3は、この問い合わせを示す説明図である。
【0013】
端末装置1はネットワーク3を介して接続されるため、問い合わせが基準端末装置1aに到達する時間(T10)と問い合わせに応答する時間(T11)、応答が従属端末装置1bに到達する時間(T12)が発生する。T10、T11、T12を考慮し、より正確な同期再生を実現する。
T10、T11、T12の合計は、従属端末装置1bで問い合わせた時刻(stc10)と応答された時刻(stc11)の差分と同じである。
T10+T11+T12=stc11−stc10
stc11に相当する基準STCの値として、従属端末装置1bに応答されるstc20を補正する値を考える。
補正値=T11+T12
問い合わせが伝送される時間(T10)と応答が伝送される時間(T12)が等しいとみなす。
T12≒(T10+T12)/2
よって、補正値を次のようにみなす。
補正値≒T11+(T10+T12)/2
≒T11+((stc11−stc10)−T11)/2
【0014】
T11は基準端末装置1aが計測することでき、従属端末装置1bへの応答にstc20とT11を含めることとする。従属端末装置1bでの待機時間は次のように求められる。
待機時間=stc11−(stc20+補正値)
=stc11−(stc20+(T11+((stc11−stc10)−T11)/2)
=(stc10+stc11−stc20*2+T11)/2
なお、基準端末装置1aの待機時間は次のように求められる。
待機時間=システムクロック値−基準STC値
【0015】
以下、基準端末装置1a,従属端末装置1bと配信装置2の細部について説明する。
配信装置2は、同期グループ4a(4b)に登録した端末装置1のアドレスを保持しており、メディアデータを同期グループ4a(4b)に含まれる端末装置1にマルチキャストで配信する。メディアデータの全フレームに重複のないタイムスタンプを付加し、同期の調整をするためのフレームにはフラグ(同期調整フラグ)を付加する。端末装置1では、同期調整フラグがONであるフレームに対して、表示中のフレームを複数フレームの期間表示させるフレームポーズ制御と、連続してフレームを出力させることでフレームを表示させないフレームスキップ制御を実施する。即ち、配信装置2は、各端末装置1で再生されるメディアデータにおいて、不連続にフレームを表示しても知覚されにくいフレームを予め決定し、このフレームの同期調整フラグをONとする。そして、各端末装置1は、同期調整フラグがONであるフレームを表示するときに待機時間の変更を実施する。
【0016】
端末装置1はネットワーク3に接続するとアドレスを解決し、同期グループ4a(4b)に参加すると配信装置2からメディアデータを受信する。次に、メディアデータをデコードしてフレームとタイムスタンプを得る。フレームはタイムスタンプのタイミングで表示される。
端末装置1は、同期グループ4a(4b)に参加すると、先ず、従属端末装置1bとして振る舞う。基準端末装置1aは、任意の従属端末装置1bを指定して基準端末装置1aの役割を引き継がせることができ、引き継ぎが完了した基準端末装置1aは従属端末装置1bとして振る舞う。以下、図4を用いて端末装置1の構成を説明する。
【0017】
図4に示すように、端末装置1は、通信部10、接続管理部11、デコーダ12、フレームバッファ13、表示器14、システムクロック部15、同期調整部16を備えている。
通信部10は、配信装置2と他の端末装置1とネットワーク3を介して接続し、接続情報と同期情報を送受信し、メディアデータを受信する。また、端末装置1内部の接続管理部11と接続され、接続情報を入出力すると共に、同期調整部16と接続され、接続情報および同期情報を入出力する。更に、デコーダ12と接続され、デコーダ12に対してメディアデータを出力する。
【0018】
接続管理部11は、接続情報を管理し、配信装置2のアドレスと基準端末装置1aのアドレスを保持する。デコーダ12は、入力されたメディアデータをデコードし、フレームをフレームバッファ13に出力する。フレームバッファ13は、入力されたフレームを一時的に保持し、フレームのタイムスタンプを同期調整部16に出力する。また、同期調整部16からのフレーム出力制御により、フレームを表示器14に出力する。表示器14は、フレームバッファ13から入力されたフレームを即座に表示する。
【0019】
システムクロック部15は、周期的にカウントアップするカウンタであり、同期調整部16により初期値をセットされ、同期調整部16にSTC値を供給する。同期調整部16は、通信部10と接続して同期情報を送受信し、システムクロック部15におけるシステムクロックを設定してシステムクロック部15からSTC値を供給させ、フレームバッファ13内のフレームのタイムスタンプを参照してフレーム出力制御を行う。この同期調整部16は、基準端末装置1aと従属端末装置1bとでその機能が異なるものであり、以下、それぞれの構成について説明する。
【0020】
図5は、基準端末装置1a及び従属端末装置1bの両対応の同期調整部16を示す構成図である。図示のように、同期調整部16は、同期情報受信部160、同期管理部161(同期情報蓄積部162、スケジュール部163、基準STC生成部164、応答処理時間計測部165)、待機時間算出部166、同期情報送信部167、フレーム出力制御部168から構成される。
また、図6は、端末装置1が基準端末装置1aとして動作する場合の同期調整部16を示すブロック図であり、同期管理部161が有効となる。一方、図7は、端末装置1が従属端末装置1bとして動作する場合の同期調整部16を示すブロック図であり、同期管理部161が無効となる。以下、各部の詳細について説明する。
【0021】
同期情報受信部160は、基準端末装置1aであるか従属端末装置1bであるかで動作が異なる。図6に示すような基準端末装置1aであるとき、通信部10から受信した同期情報を判別し、従属端末装置1bからの同期情報(例えば、送信元アドレス、STC値と待機時間)を同期情報蓄積部162に出力して応答処理時間計測部165に開始情報を伝える。一方、図7に示すような従属端末装置1bであるとき、受信した同期情報を判別し、基準端末装置1aからの同期情報(例えば、基準STCと応答処理時間)を待機時間算出部166に出力する。また、受信した同期情報の送信元アドレスを同期情報送信部167に通知する。
【0022】
同期情報蓄積部162は、基準端末装置1aであるとき有効となり、端末装置1毎の同期情報を蓄積し、基準STC生成部164とスケジュール部163に任意の同期情報を出力する。また、スケジュール部163により生成されたスケジュールを端末装置1毎に蓄積する。スケジュール部163は、基準端末装置1aであるとき有効となり、同期情報蓄積部162の同期情報を参照して端末装置1を同期させるスケジュールを生成し、同期情報蓄積部162と同期情報送信部167に出力する。また、スケジュール部163は、基準端末装置1aの同期処理による負荷に配慮し、同期処理ができるだけ同時に発生しないようにスケジュールを生成する。また、同期処理による待機時間の調整幅を考慮して優先的に再同期する端末装置1を決定する。尚、スケジュール生成については後述する。
【0023】
基準STC生成部164は、基準端末装置1aであるとき有効となり、同期情報蓄積部162の同期情報の中で最も大きく遅延している端末装置1の待機時間から基準STCを生成し、基準STC値を待機時間算出部166と同期情報送信部167に出力する。基準STCの値は、同期する全ての端末装置1のシステムクロックよりも遅れている必要があり、基準STCの値は全ての端末装置のシステムクロックの値(最遅延システムクロック)以下であることが条件となる。
基準STC≦最遅延システムクロック
例として、同期グループ4a(4b)に端末装置1が追加されることに配慮し、最遅延システムクロックから余裕をもたせた値(余裕値)を設定する。
基準STC=最遅延システムクロック−余裕値
【0024】
応答処理時間計測部165は、基準端末装置1aであるとき有効となり、システムクロック部15から入力されるSTC値を参照して開始情報により計測を開始し、終了情報により計測を終了して同期情報送信部167に応答処理時間を出力する。
待機時間算出部166は、入力されたSTC値と基準STC値、応答処理時間から待機時間を算出し、同期情報送信部167とフレーム出力制御部168に出力する。
フレーム出力制御部168は、システムクロック部15のシステムクロックを最初に入力されたタイムスタンプにより設定し、フレーム出力制御を行う。以降はシステムクロック部15のSTC値を監視し、フレームバッファ13から入力されたタイムスタンプに待機時間を加えた時刻にフレームを出力するように制御する。同期処理などにより待機時間が更新されると、同期調整フラグがONになったフレームに対して、フレームポーズとフレームスキップの制御を行う。
【0025】
同期情報送信部167は、基準端末装置1aであるか従属端末装置1bであるかで動作が異なる。基準端末装置1aであるとき、システムクロック部15から入力されたSTC値と、待機時間算出部166から入力された待機時間から同期情報を生成して同期情報蓄積部162に出力し、基準STC生成部164から出力された基準STC値と、応答処理時間計測部165に終了情報を伝えて出力させた応答処理時間から同期情報を生成して通信部10に送信する。一方、従属端末装置1bであるとき、システムクロック部15から入力されたSTC値と、待機時間算出部166から入力された待機時間から同期情報を生成して通信部10に送信する。また、同期情報受信部160から通知された端末装置アドレスが通信部10に送信する同期情報の送信先となる。
【0026】
同期情報は送信される方向により含まれる情報が異なるので次のように細分化する。
基準端末装置1aから従属端末装置1bに送信される同期情報を、基準同期情報、スケジュール情報、同期グループ情報とする。基準同期情報には、送信元の端末装置1のアドレスと基準STC、応答処理時間などが含まれる。スケジュール情報には、送信元の端末装置1のアドレスとスケジュール(次に同期処理を実施する時刻)などが含まれる。同期グループ情報には、基準端末装置1aが保持している同期グループ内に存在する全ての端末装置1の同期情報などが含まれる。一方、従属端末装置1bから基準端末装置1aに送信される同期情報を従属同期情報とする。従属同期情報には、送信元の端末装置のアドレスとSTC値、待機時間などが含まれる。
【0027】
接続情報は送信方向により内容が異なる。基準端末装置1aから従属端末装置1bに送信される接続情報を基準接続情報とする。基準接続情報には、配信装置2のアドレスと基準端末装置1aのアドレス(送信元の端末装置1のアドレス)などが含まれる。一方、従属端末装置1bから基準端末装置1aと配信装置2に送信される接続情報を従属接続情報とする。従属接続情報には、同期グループに追加する端末装置1のアドレス(送信元の端末装置1のアドレス)などが含まれる。
【0028】
次に、このように構成されたメディア同期再生システムの動作について説明する。
先ず、端末装置1が同期グループに参加すると従属端末装置1bとして振る舞う。この動作シーケンスを図8に示す。即ち、ある同期グループの基準端末装置1aは、ネットワーク3に一定期間毎に基準接続情報をブロードキャストしている。参加する端末装置1は従属端末装置1bとして振る舞い、基準接続情報を受信するまでは待機状態となる。基準接続情報を受信した場合は、その基準接続情報から、同期グループに属する配信装置2のアドレスを取得する。そして、従属端末装置1bは従属接続情報を配信装置2に対してユニキャスト送信し、メディアデータの受信処理を開始する。配信装置2では従属接続情報を受け取ると、端末装置1のアドレスを取得し、配信先アドレスのリストに追加する。
【0029】
次に、基準端末装置1aと従属端末装置1bの初回同期について説明する。図9は、その動作シーケンスである。同期グループに参加した端末装置1は、従属端末装置1bとして振る舞い、最初に基準端末装置1aと同期する。基準端末装置1aは次に同期すべき時刻をスケジュール情報として従属端末装置1bに送信する。
即ち、従属端末装置1bは、配信装置2よりメディアデータを受信すると、メディアデータをデコードし、フレームとタイムスタンプを取得する。そして、タイムスタンプによりシステムクロックを設定する。その後は、先頭フレームの表示制御を行うと共に、STC値と待機時間から従属同期情報を生成して基準端末装置1aに対してユニキャスト送信し基準同期情報の受信待ちとなる。
基準端末装置1aでは、受信した従属同期情報に基づいて基準STCを更新し、基準同期情報を、従属同期情報を送信した従属端末装置1b宛にユニキャスト送信する。
従属端末装置1bでは、伝送遅延を考慮して待機時間を算出し、STC値と待機時間から従属同期情報を生成して基準端末装置1aにユニキャスト送信する。その後は、スケジュール情報の受信待ちとなる。
基準端末装置1aでは、受信した従属同期情報に基づいてスケジュール生成を行い、生成したスケジュール情報をユニキャスト送信する。
【0030】
次に、基準端末装置1aにおけるスケジュール生成について説明する。
図10は、スケジュール部163におけるスケジュール生成を示すフローチャートである。
スケジュール部163は同期情報蓄積部162の同期グループ情報を参照して(ステップST1)、前回の調整幅から同期処理を行う従属端末装置1bの優先度を決定する(ステップST2)。即ち、同期する前と同期した後の待機時間の差分が大きい従属端末装置1bほど優先度が高くなるようにする。次に、ステップST2で決定した優先度に応じて同期処理の間隔を決定する(ステップST3)。また、各端末装置1の次に同期処理を実施する時刻から、重複しない時刻を抽出し(ステップST4)、同期処理の間隔に最も近い重複しない時刻を選択して、次に同期処理する時刻を決定する(ステップST5)。そして、次に同期処理する時刻からスケジュール情報を生成して出力する(ステップST6)。
【0031】
従属端末装置1bは、基準端末装置1aからの指示(スケジュール情報)に従い、基準端末装置1aとの再同期(スケジュール同期)を実施する。図11はこの再度同期処理の動作シーケンスである。
従属端末装置1bではスケジュール情報に従い、再同期処理を開始する。この再同期処理は、上述した初回同期処理と同様に、STC値と待機時間から従属同期情報を生成し、これを基準端末装置1aにユニキャスト送信する。その後の基準端末装置1aと従属端末装置1bの処理は初回同期の場合と同様である。
【0032】
次に、従属端末装置1bの同期グループからの離脱について説明する。
従属端末装置1bは任意に同期グループから外れることができる。図12はその動作シーケンスである。
即ち、従属端末装置1bは、同期グループから離脱する場合は、スケジュールを破棄して再同期を実施しない。一方、基準端末装置1aでは、スケジュールに従い、従属端末装置1bの再同期が行われないことを検出すると、スケジュールを破棄した従属端末装置1bを同期グループ情報から削除し、配信装置2に対して、同期グループ情報から削除した従属端末装置1bのアドレスを通知する。配信装置2では、保持している同期グループに登録した端末装置1のアドレスを更新する。
尚、基準端末装置1aが同期グループから離脱する場合は、新しい基準端末装置1aを指定し、基準端末装置1aから従属端末装置1bになる。
【0033】
次に、新しい基準端末装置1aの指定について説明する。
基準端末装置1aは、同期グループ内の従属端末装置1bを新しい基準端末装置1aに指定する。その動作シーケンスを図13に示す。
即ち、基準端末装置1aは、従属端末装置1bの中から新しい基準端末装置1aを選出すると、その従属端末装置1bに対して同期グループ情報を送信する。その後、基準端末装置1aは基準接続情報がブロードキャスト送信されるのを待機する。尚、新たな基準端末装置1aの選出処理については後述する。
同期グループ情報を受信した従属端末装置1bは、同期グループ情報を保持し、同期管理部161を有効化し、以降、基準端末装置1aとして振る舞う。新たな基準端末装置1aは、基準接続情報をブロードキャスト送信し、これを受信した旧基準端末装置1aは、同期管理部161を無効化し、同期グループ情報を破棄し、以降、従属端末装置1bとして振る舞う。
【0034】
次に、基準端末装置の選出について説明する。
基準端末装置1aは、ネットワーク3の接続状況や端末装置1の性能を考慮して新たな基準端末装置1aを決定する。
基準端末装置1aを決定する一つの例として、あるタイミングのシステムクロックの値が最大となる従属端末装置1bの負荷が最も低いと見込み、新しい基準端末装置1aの候補とする。そのフローを図14に示す。
即ち、基準端末装置1aでは、同期情報蓄積部162の同期グループ情報を参照して(ステップST11)、各従属端末装置1bの待機時間などからシステムクロックの値を推測する(ステップST12)。そして、推測したシステムクロックの値が最大となる従属端末装置1bを選択し(ステップST13)、選択した従属端末装置1bを新たな基準端末装置1aとして選出する(ステップST14)。
【0035】
また、新たな基準端末装置1aを決定する別の例として、あるタイミングのシステムクロックの値が最小となる従属端末装置1bの負荷が最も高いと見込み、この従属端末装置1bを除いた従属端末装置1bからランダムで新たな基準端末装置1aを選択する。そのフローを図15に示す。
即ち、基準端末装置1aでは、同期情報蓄積部162の同期グループ情報を参照して(ステップST21)、各従属端末装置1bの待機時間などからシステムクロックの値を推測する(ステップST22)。次に、推測したシステムクロックの値が最小となる従属端末装置1bを除外した従属端末装置1bのリストを生成し(ステップST23)、このリストからランダムに端末装置を選択する(ステップST24)。そして、選択した端末装置を新たな基準端末装置1aとして選出する(ステップST25)。
【0036】
以上のように、実施の形態1のメディア同期再生システムによれば、ネットワークを介してメディアデータを配信する配信装置と、配信装置からメディアデータを受信し、メディアデータの同期再生を行う複数の端末装置からなるメディア同期再生システムであって、複数の端末装置のうち、任意の端末装置を基準端末装置、基準端末装置以外の端末装置を従属端末装置とし、基準端末装置は、従属端末装置から、複数の端末装置の同期再生の基準となる基準システムクロックの問い合わせを受けた場合、基準システムクロックと、問い合わせを受けてから基準システムクロックを出力するまでの応答処理時間とを同期情報として出力すると共に、基準システムクロックと自身のシステムクロックとの差分を同期再生のための待機時間とし、従属端末装置は、基準端末装置に対して、基準システムクロックを問い合わせ、その結果、応答として得られた同期情報の基準システムクロックおよび応答処理時間と、自身のシステムクロックとに基づいて、同期再生のための待機時間を決定するようにしたので、同期再生のための時刻配信サーバといった構成を必要とせず、柔軟に同期再生のための構成を実現することができる。
【0037】
また、実施の形態1のメディア同期再生システムによれば、基準端末装置は、従属端末装置の中から新たな基準端末装置を選択し、新たな基準端末装置となる従属端末装置が基準端末装置としての処理を開始した後、旧基準端末装置は従属端末装置として振る舞うようにしたので、各端末装置の負荷の変化等に対しても柔軟に対応することができる。
【0038】
また、実施の形態1のメディア同期再生システムによれば、特定のタイミングで従属端末装置のシステムクロックを比較し、システムクロックが最も大きい従属端末装置を新たな基準端末装置として選択するようにしたので、各端末装置の負荷を適切に分散することができる。
【0039】
また、実施の形態1のメディア同期再生システムによれば、特定のタイミングで従属端末装置のシステムクロックを比較し、システムクロックが最も小さい従属端末装置を除外して残りの従属端末装置からランダムに新たな基準端末装置を選択するようにしたので、各端末装置の負荷を適切に分散することができる。
【0040】
また、実施の形態1のメディア同期再生システムによれば、基準端末装置は、同期する前と同期した後の待機時間の差分が大きい従属端末装置を優先的に次回の同期処理の対象として選択するようにしたので、同期する端末装置の数が多い場合でも適切に同期を行うことができる。
【0041】
また、実施の形態1のメディア同期再生システムによれば、配信装置は、配信するメディアデータ中、特定のフレームを予め決定してそのフレームにフラグを付与し、端末装置は、フラグが付与されたフレームを再生するときに待機時間の変更を実施するようにしたので、メディアデータの再生において同期処理を意識させない表示を行うことができる。
【0042】
実施の形態2.
実施の形態2は、実施の形態1における同期グループを複数の同期グループに分割し、同期グループ間で同期再生するようにしたものである。
同期再生の基準となる同期グループを基準同期グループとし、基準同期グループに同期する同期グループを従属同期グループとする。基準同期グループに対して従属同期グループは複数存在してよい。また、従属同期グループは、異なる同期グループの基準同期グループとして振る舞っても構わない。図16に実施の形態2のメディア同期再生システムを示す。
【0043】
図示の同期グループAは、同期グループBの基準同期グループである。また、同期グループBは同期グループAの従属同期グループであり、かつ、同期グループCの基準同期グループである。更に、同期グループCは、同期グループBの従属同期グループである。図中の矢印が指す方向が従属から基準への方向を指している。
ここで、基準同期グループとして振る舞う同期グループは、実施の形態1における同期グループ4a(4b)と同じ構成、振る舞いをする。ただし、基準同期グループの従属端末装置1bは、異なる同期グループの基準端末装置1aとして振る舞ってもよい。
【0044】
また、従属同期グループの基準端末装置1aは、基準同期グループの従属端末装置1bとして振る舞う。従属同期グループの従属端末装置1bは、実施の形態1と同じである。
従属同期グループは配信装置を含まなくてよく、このときの従属同期グループの基準端末装置1aの基準同期情報の配信装置のアドレスには、基準同期グループの基準端末装置1aからブロードキャストされた配信装置のアドレスを使用する。
従属同期グループが配信装置を含むときは、基準同期グループに含まれる配信装置と同等の配信装置である必要がある。同等の配信装置であるとは、同一内容のメディアデータを配信することができることを意味する。
【0045】
以上のように、実施の形態2のメディア同期再生システムによれば、同期再生する複数の端末装置を一つの同期グループとし、かつ、複数の同期グループが存在するメディア同期再生システムであって、複数の同期グループのうち、任意の同期グループの従属端末装置として振る舞い、かつ、異なる同期グループの基準端末装置として振る舞う端末装置を備えたので、複数の異なる同期グループが存在する場合でも各端末装置の負荷を適切に分散させることができる。
【符号の説明】
【0046】
1 端末装置、1a 基準端末装置、1b 従属端末装置、2 配信装置、3 ネットワーク、4a,4b 同期グループ、11 接続管理部、15 システムクロック部、16 同期調整部、160 同期情報受信部、161 同期管理部、162 同期情報蓄積部、163 スケジュール部、164 基準STC生成部、165 応答処理時間計測部、166 待機時間算出部、167 同期情報送信部、168 フレーム出力制御部。
【特許請求の範囲】
【請求項1】
ネットワークを介してメディアデータを配信する配信装置と、当該配信装置からメディアデータを受信し、当該メディアデータの同期再生を行う複数の端末装置からなるメディア同期再生システムであって、
前記複数の端末装置のうち、任意の端末装置を基準端末装置、当該基準端末装置以外の端末装置を従属端末装置とし、
前記基準端末装置は、
前記従属端末装置から、前記複数の端末装置の同期再生の基準となる基準システムクロックの問い合わせを受けた場合、当該基準システムクロックと、前記問い合わせを受けてから前記基準システムクロックを出力するまでの応答処理時間とを同期情報として出力すると共に、前記基準システムクロックと自身のシステムクロックとの差分を同期再生のための待機時間とし、
前記従属端末装置は、
前記基準端末装置に対して、前記基準システムクロックを問い合わせ、その結果、応答として得られた同期情報の基準システムクロックおよび応答処理時間と、自身のシステムクロックとに基づいて、同期再生のための待機時間を決定することを特徴とするメディア同期再生システム。
【請求項2】
基準端末装置は、従属端末装置の中から新たな基準端末装置を選択し、当該新たな基準端末装置となる従属端末装置が基準端末装置としての処理を開始した後、旧基準端末装置は従属端末装置として振る舞うことを特徴とする請求項1記載のメディア同期再生システム。
【請求項3】
特定のタイミングで従属端末装置のシステムクロックを比較し、当該システムクロックが最も大きい従属端末装置を新たな基準端末装置として選択することを特徴とする請求項2記載のメディア同期再生システム。
【請求項4】
特定のタイミングで従属端末装置のシステムクロックを比較し、当該システムクロックが最も小さい従属端末装置を除外して残りの従属端末装置からランダムに新たな基準端末装置を選択することを特徴とする請求項2記載のメディア同期再生システム。
【請求項5】
基準端末装置は、同期する前と同期した後の待機時間の差分が大きい従属端末装置を優先的に次回の同期処理の対象として選択することを特徴とする請求項1から請求項4のうちのいずれか1項記載のメディア同期再生システム。
【請求項6】
配信装置は、配信するメディアデータ中、特定のフレームを予め決定して当該フレームにフラグを付与し、
端末装置は、前記フラグが付与されたフレームを再生するときに待機時間の変更を実施することを特徴とする請求項1から請求項5のうちのいずれか1項記載のメディア同期再生システム。
【請求項7】
同期再生する複数の端末装置を一つの同期グループとし、かつ、複数の同期グループが存在するメディア同期再生システムであって、
複数の同期グループのうち、任意の同期グループの従属端末装置として振る舞い、かつ、異なる同期グループの基準端末装置として振る舞う端末装置を備えたことを特徴とする請求項1から請求項6のうちのいずれか1項記載のメディア同期再生システム。
【請求項1】
ネットワークを介してメディアデータを配信する配信装置と、当該配信装置からメディアデータを受信し、当該メディアデータの同期再生を行う複数の端末装置からなるメディア同期再生システムであって、
前記複数の端末装置のうち、任意の端末装置を基準端末装置、当該基準端末装置以外の端末装置を従属端末装置とし、
前記基準端末装置は、
前記従属端末装置から、前記複数の端末装置の同期再生の基準となる基準システムクロックの問い合わせを受けた場合、当該基準システムクロックと、前記問い合わせを受けてから前記基準システムクロックを出力するまでの応答処理時間とを同期情報として出力すると共に、前記基準システムクロックと自身のシステムクロックとの差分を同期再生のための待機時間とし、
前記従属端末装置は、
前記基準端末装置に対して、前記基準システムクロックを問い合わせ、その結果、応答として得られた同期情報の基準システムクロックおよび応答処理時間と、自身のシステムクロックとに基づいて、同期再生のための待機時間を決定することを特徴とするメディア同期再生システム。
【請求項2】
基準端末装置は、従属端末装置の中から新たな基準端末装置を選択し、当該新たな基準端末装置となる従属端末装置が基準端末装置としての処理を開始した後、旧基準端末装置は従属端末装置として振る舞うことを特徴とする請求項1記載のメディア同期再生システム。
【請求項3】
特定のタイミングで従属端末装置のシステムクロックを比較し、当該システムクロックが最も大きい従属端末装置を新たな基準端末装置として選択することを特徴とする請求項2記載のメディア同期再生システム。
【請求項4】
特定のタイミングで従属端末装置のシステムクロックを比較し、当該システムクロックが最も小さい従属端末装置を除外して残りの従属端末装置からランダムに新たな基準端末装置を選択することを特徴とする請求項2記載のメディア同期再生システム。
【請求項5】
基準端末装置は、同期する前と同期した後の待機時間の差分が大きい従属端末装置を優先的に次回の同期処理の対象として選択することを特徴とする請求項1から請求項4のうちのいずれか1項記載のメディア同期再生システム。
【請求項6】
配信装置は、配信するメディアデータ中、特定のフレームを予め決定して当該フレームにフラグを付与し、
端末装置は、前記フラグが付与されたフレームを再生するときに待機時間の変更を実施することを特徴とする請求項1から請求項5のうちのいずれか1項記載のメディア同期再生システム。
【請求項7】
同期再生する複数の端末装置を一つの同期グループとし、かつ、複数の同期グループが存在するメディア同期再生システムであって、
複数の同期グループのうち、任意の同期グループの従属端末装置として振る舞い、かつ、異なる同期グループの基準端末装置として振る舞う端末装置を備えたことを特徴とする請求項1から請求項6のうちのいずれか1項記載のメディア同期再生システム。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【公開番号】特開2012−19456(P2012−19456A)
【公開日】平成24年1月26日(2012.1.26)
【国際特許分類】
【出願番号】特願2010−156827(P2010−156827)
【出願日】平成22年7月9日(2010.7.9)
【出願人】(000006013)三菱電機株式会社 (33,312)
【Fターム(参考)】
【公開日】平成24年1月26日(2012.1.26)
【国際特許分類】
【出願日】平成22年7月9日(2010.7.9)
【出願人】(000006013)三菱電機株式会社 (33,312)
【Fターム(参考)】
[ Back to top ]