端末装置
【課題】テレビ電話機能の利用時且つストリームデータを他の端末装置に送信中に、上記他の端末装置から、ストリームデータの再生出力の一時停止要求メッセージを受信した場合でも、通信中の全ての端末装置と同期して同一時刻のタイムスタンプ値を有するデータから再生出力を再開できるよう制御する端末装置を提供すること。
【解決手段】再生されたストリームデータを所定量だけバッファリングする再生済データバッファ部223と、上記ストリームデータの再生再開タイミングを調整する再生再開制御部と、上記他の端末装置と同期して上記他の端末装置における再生再開時のデータと同一時刻のタイムスタンプ値を有するデータから再生を再開させる制御を行う再生再開制御部とを具備する端末装置。
【解決手段】再生されたストリームデータを所定量だけバッファリングする再生済データバッファ部223と、上記ストリームデータの再生再開タイミングを調整する再生再開制御部と、上記他の端末装置と同期して上記他の端末装置における再生再開時のデータと同一時刻のタイムスタンプ値を有するデータから再生を再開させる制御を行う再生再開制御部とを具備する端末装置。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、端末装置に関し、特にデータのネットワーク伝送時間に基づいた制御を行う端末装置に関する。
【背景技術】
【0002】
近年、テレビ電話機能を有する端末装置が一般に普及している。そして、このような端末装置を利用して、メディアデータ等であるストリームデータの送受信を複数多地点間で行う技術として、例えば特許文献1には以下のような技術が開示されている。
【0003】
すなわち、特許文献1には、ストリームデータの送信側(以下、送信装置と称する)において同時刻に送信された当該ストリームデータを、ストリームデータの受信側(以下、受信装置と称する)において同時刻に再生出力させる為の技術が開示されている。
【0004】
具体的には、送信装置は、同期メディアから生成した同期信号のタイミングに一致させて同一の時刻にストリームデータを受信装置へ出力し、これに当該現在時刻のタイムコードを付加し、ネットワークを介して受信側に伝送する。一方、受信装置は、ストリームデータを受信して上記タイムコードを読み出し、このタイムコードと受信時刻を変換したタイムコードとから、ストリームデータの伝送時間(遅延時間)を測定する。さらに、遅延時間管理装置が、各々の受信装置での遅延時間を受け取り、それら遅延時間のうち最大の遅延時間を決定し、その他の遅延時間との差を計算する。そして、各々の受信装置は、上記の最大の遅延時間との差に応じて、ストリームデータの出力のタイミングを調整し、送信側から同一の時刻に出力されたストリームデータとして出力させる。
【特許文献1】特開2004−254149号公報
【発明の開示】
【発明が解決しようとする課題】
【0005】
ここで、上記特許文献1に開示された技術では、送信装置が、複数の受信装置に対して同時刻にデータを送信し、受信装置がそれぞれ異なるネットワーク伝送遅延時間で当該ストリームデータを受信した場合であっても、同期信号により識別可能なタイムスタンプを送信装置にて付加することによって、受信装置において当該ストリームデータの再生出力のタイミングを調節している。
【0006】
しかしながら、上記特許文献1に開示された技術では、上記受信装置のうちのある受信装置が、上記送信装置及び他の受信装置に対して、再生出力を一時停止する要求メッセージを送信した場合、各々の受信装置におけるネットワーク伝送遅延時間が各装置間で異なることに起因して次のような問題が生じる。
【0007】
すなわち、上記のように一時停止要求メッセージを送信した受信装置と他の受信装置との間で、再生出力を一時停止する時刻が異なってしまい、再生再開時に、未再生の受信データを再生しても同一時刻のタイムスタンプ値を有するデータから再生出力をすることができないという問題が生じる。
【0008】
本発明は、上記の事情に鑑みて為されたもので、複数多地点間でのストリームデータの送受信が可能な端末装置であって、ストリームデータを他の端末装置に送信中に、当該ストリームデータの受信側の端末装置からストリームデータの再生出力の一時停止要求メッセージを受信すると、再生出力再開時に当該ストリームデータを再送信することなく、通信中の全ての端末装置と同期して同一時刻のタイムスタンプ値を有するデータから再生出力を再開できる端末装置を提供することを目的とする。
【課題を解決するための手段】
【0009】
上記の目的を達成するために、本発明の第1の態様による端末装置は、外部から入力されるクロックにより他の端末装置と同期してストリームデータの再生を行う端末装置であって、上記ストリームデータを受信するストリームデータ受信部と、上記ストリームデータ受信部によって受信したストリームデータをバッファリングする未再生データバッファ部と、上記ストリームデータを再生する為のデータ再生部と、上記データ再生部によって再生された上記ストリームデータを所定量だけバッファリングする再生済データバッファ部と、上記他の端末装置と同期して上記データ再生部によって上記ストリームデータを再生中に、当該ストリームデータの再生一時停止操作が行われ且つ再生再開操作が行われた場合に、上記再生済データバッファ部にバッファリングされたストリームデータを用いて、上記ストリームデータの再生再開タイミングを調整する再生再開制御部と、上記再生一時停止操作の時刻を管理する停止時刻管理部と、を具備し、上記再生再開制御部は、上記停止時刻管理部が管理する再生一時停止操作の時刻に基づいて上記再生再開タイミングの調整を行うことで、上記他の端末装置と同期して、上記他の端末装置における再生再開時のデータと同一時刻のタイムスタンプ値を有するデータから再生を再開させる制御を行うことを特徴とする。
【発明の効果】
【0010】
本発明によれば、複数多地点間でのストリームデータの送受信が可能な端末装置であって、ストリームデータを他の端末装置に送信中に、当該ストリームデータの受信側の端末装置からストリームデータの再生出力の一時停止要求メッセージを受信すると、再生出力再開時に当該ストリームデータを再送信することなく、通信中の全ての端末装置と同期して同一時刻のタイムスタンプ値を有するデータから再生出力を再開できるよう制御する端末装置を提供することができる。
【発明を実施するための最良の形態】
【0011】
以下、図面を参照して本発明の一実施形態に係る携帯端末を説明する。
【0012】
図1は、この発明の一実施形態に係わる通信ネットワークシステムの概略構成図である。このシステムは、携帯端末間でIP(Internet Protocol)網を介してテレビジョン電話通信を可能にするもので、携帯端末MSa及びMSb,MSc,MSdはそれぞれ携帯網MNW1及びMNW2を介してIP網INWに接続される。IP網INWにはSIP(Session Initiation Protocol)サーバSSVが接続されている。SIPサーバSSVは、上記携帯端末MSa〜MSdの居所を表すIPアドレスを記憶し、送信元の携帯端末から送信されたSIPメッセージを上記IPアドレスに基づいて宛先の携帯端末へ中継転送する機能を有する。また、携帯端末MSa〜MSdの中は、例えばパーソナル・コンピュータ等のコンテンツサーバCSVに対し無線LAN(Local Area Network)又はBluetooth(登録商標)等の短距離データ通信ネットワークを介して接続可能され、上記コンテンツサーバCSVから例えばストリーム画像データからなるコンテンツデータを取得可能である。
【0013】
ところで、携帯端末MSa〜MSdはSIPによるテレビジョン電話通信機能を備えた携帯端末からなり、例えば次のように構成される。図2はその構成を示すブロック図である。
【0014】
携帯端末MSa〜MSdは、無線ユニット1と、ベースバンドユニット2と、入出力ユニット3と、電源ユニット4と、近距離無線ユニット5とから構成される。
【0015】
同図において、入出力ユニット3のマイクロホン32により検出されたユーザの送話音声に対応する音声信号は、ベースバンドユニット2に入力される。ベースバンドユニット2はマイクロホンインタフェース(マイクロホンI/F)25を備え、上記送話音声信号をこのマイクロホンI/F25で増幅したのちディジタル信号に変換してマルチメディアエンコーダ23に入力する。マルチメディアエンコーダ23はオーディオエンコーダを有する。そして、上記送話音声信号をGSM−AMR形式などの所定の符号化形式で符号化し、この符号化音声データを制御部21へ出力する。
【0016】
またカメラ(CAM)31から出力された映像信号もベースバンドユニット2に入力される。ベースバンドユニット2はカメラインタフェース(カメラI/F)24を備え、上記映像信号をディジタル映像信号に変換してマルチメディアエンコーダ23に入力する。マルチメディアエンコーダ23はビデオエンコーダを有する。そして、上記ディジタル映像信号を、例えばMPEG4(Moving Picture Coding Experts Group 4)形式又はH.264形式、或いはJPEG(Joint Photographic Coding Experts Group)形式に従い符号化処理し、この符号化された映像データを制御部21へ出力する。
【0017】
制御部21は、上記マルチメディアエンコーダ23から出力された送話音声データ及び映像データをパケットに変換し、この変換されたパケットを無線ユニット1の送信回路(TX)15へ出力する。送信回路15は、変調器、周波数変換器及び送信電力増幅器を備える。上記送信データは、変調器でディジタル変調されたのち、周波数変換器により周波数シンセサイザ14から発生された送信局ユニット発振信号とミキシングされて無線周波信号に周波数変換される。変調方式としては、QPSK(Quadriphase Phase Shift Keying)方式及び拡散符号を使用するスペクトラム拡散方式が用いられる。そして、この生成された送信無線周波信号は、送信電力増幅器で所定の送信レベルに増幅されたのち、アンテナ共用器(DUP)12を介してアンテナ11に供給され、このアンテナ11から携帯網MNW1,MNW2に向け送信される。
【0018】
近距離無線ユニット5は、無線LAN又はBluetooth(登録商標)を使用して周辺機器との間で無線データ通信を行うもので、例えばコンテンツサーバCSVから送信されたコンテンツデータをアンテナ5Aを介して受信して上記制御部21に入力する。制御部21は、上記近距離無線ユニット5により受信されたコンテンツデータをメモリ28に一旦格納する。そして、マルチメディアエンコーダ23で符号化したのちパケットに変換し、このパケットを無線ユニット1の送信回路15へ出力して送信させる。
【0019】
一方、携帯網MNW1,MNW2から無線チャネルを介して到来した無線周波信号は、アンテナ11で受信されたのちアンテナ共用器12を介して受信回路(RX)13に入力される。受信回路13は、高周波増幅器、周波数変換器及び復調器を備える。そして、上記無線周波信号を低雑音増幅器で低雑音増幅したのち、周波数変換器において周波数シンセサイザ(SYN)14から発生された受信局ユニット発振信号とミキシングして受信中間周波信号又は受信ベースバンド信号に周波数変換し、その出力信号を復調器でディジタル復調して受信パケットを再生する。復調方式としては、例えばQPSK方式に対応した直交復調方式と、拡散符号を使用したスペクトラム逆拡散方式が用いられる。なお、上記周波数シンセサイザ14から発生される受信局ユニット発振信号周波数は、ベースバンドユニット2に設けられた制御部21から指示される。
【0020】
上記復調器において再生された受信パケットはベースバンドユニット2の制御部21に入力される。制御部21は、上記入力された受信パケットをデパケットして音声データ、映像データ及びコンテンツ画像データを抽出し、これらのデータをマルチメディアデコーダ22に供給する。
【0021】
マルチメディアデコーダ22は、オーディオデコーダ及びビデオデコーダを有する。これらのデコーダは、例えば図3に示すようにコンテンツを復号処理するコンテンツ再生部221と、その前後に設けられた未再生データバッファ部222及び再生済データバッファ部223とを備えている。未再生データバッファ部222は、受信データの復号再生タイミングを調整するべく未再生の受信データを一時保存するために使用される。再生済データバッファ部223は、コンテンツデータの再生が一時停止された場合に、データ再生再開時にデータの再生再開位置を各携帯端末間で一致させるべく、再生済のデータを一部保存するために使用される。
【0022】
上記オーディオデコーダにより復号された音声データはスピーカインタフェース(スピーカI/F)27に、またビデオデコーダにより復号された映像データ及びコンテンツ画像データは表示インタフェース(表示I/F)26にそれぞれ入力される。スピーカI/F27は、上記音声データをアナログ信号に変換したのち適切な音量レベルに増幅してスピーカ34から出力させる。表示I/F26はビデオRAMを有し、上記マルチメディアデコーダ22により復号された映像データ及びコンテンツ画像データを合成して1画面の表示データを生成し、この表示データを表示器33に供給して表示させる。表示器33は、例えば液晶表示器(LCD)からなる。
【0023】
なお、キー入力部35はダイヤルキー群及び機能キー群からなり、その入力データは制御部21に入力される。またメモリ(MEM)28は記憶媒体としてハードディスク又はNAND型フラッシュメモリを使用したもので、受信メールやコンテンツデータ、電話帳データ、送受信履歴データ等を記憶するために用いられる。
【0024】
また、電源ユニット4には、リチウムイオン電池等のバッテリ41と、このバッテリ41を商用電源出力をもとに充電するための充電回路(CHG)42と、電圧生成回路(PS)43とが設けられている。電圧生成回路43は、例えばDC/DCコンバータからなり、バッテリ41の出力電圧をもとに所定の電源電圧Vccを生成する。
【0025】
ところで、制御部21はマイクロプロセッサと、ROM及びRAM等からなる内部メモリとを備えたもので、この発明に係わる制御機能として、テレビジョン電話通信制御機能211と、コンテンツ配信制御機能212と、コンテンツ再生制御機能213と、再生一時停止/再開制御機能214と、バッファ量決定制御機能215とを有している。これらの制御機能はいずれも、ROMに格納されたアプリケーション・プログラムをマイクロプロセッサに実行させることにより実現される。
【0026】
テレビジョン電話通信制御機能211は、呼制御プロトコルとしてのSIPを用いて通信相手となる一つ又は複数の携帯端末との間にテレビジョン電話通信のためのセッションを確立する。そして、データ伝送プロトコルとしてのRTP(Real−time transport Protocol)を用いて、テレビジョン通信相手となる各携帯端末との間でテレビジョン電話通信を行う。
【0027】
コンテンツ配信制御機能212は、コンテンツサーバCSVに対し近距離無線ユニット5を介してアクセスし、コンテンツサーバCSVからコンテンツデータを取得してメモリ28に保存するための制御を実行する。また、上記テレビジョン電話通信制御機能211によるテレビジョン電話通信中にキー入力部35においてコンテンツデータの配信要求が入力された場合に、SIPで規定されたSDP(Session Description Protocol)を用いてコンテンツ再生開始時刻等の制御パラメータを上記テレビジョン電話通信中の相手携帯端末に通知し、続いてRTPを用いてコンテンツデータを上記各相手携帯端末へ送信する制御を実行する。
【0028】
コンテンツ再生制御機能213は、コンテンツ送信元の携帯端末からSDPにより通知されるコンテンツ再生開始時刻に応じて、マルチメディアデコーダ22内の未再生データバッファ部222のバッファ量を決める。そして、RTPにより伝送されたコンテンツデータを上記マルチメディアデコーダ22に復号再生させる。
【0029】
一時停止/再開制御機能214は、自端末においてコンテンツの一時停止/再開操作が行われた場合と、他の端末においてコンテンツの一時停止/再開操作が行われた場合とで異なる制御を実行する。
【0030】
すなわち、自端末においてコンテンツの一時停止/再開操作が行われた場合には、マルチメディアデコーダ22内の未再生データバッファ部222を用いてコンテンツデータの再生再開タイミングを調整する。これに対し他の端末においてコンテンツの一時停止/再開操作が行われた場合には、マルチメディアデコーダ22内の未再生データバッファ部222及び再生済データバッファ部223をそれぞれ用いてコンテンツデータの再生再開タイミングを調整する。
【0031】
バッファ量決定制御機能215は、コンテンツデータの配信に先立ち、RTCP(RTP Control Protocol)パケットの送受信を利用してコンテンツデータの配信先となる各携帯端末とコンテンツデータの送信元となる携帯端末との間の伝送遅延時間及びジッタを算出し、この算出結果をもとに各携帯端末の再生済データバッファ部223に設定すべきバッファ量を決定する。
【0032】
次に、以上のように構成された携帯端末MSa〜MSdの動作を説明する。なお、ここでは、携帯端末MSaが携帯端末MSb〜MSdとの間で同時にテレビジョン電話通信を行っている状態で、携帯端末MSaが各携帯端末MSb〜MSdに対しさらにストリームデータからなるコンテンツデータを配信する場合を例にとって説明を行う。なお、各携帯端末における上述した各構成部材の詳細な動作制御は上述した通りであるのでその説明は省略し、説明の便宜上、各携帯端末間の処理及び動作制御に焦点を当てて説明する。
【0033】
[コンテンツ視聴開始前の動作]
携帯端末MSaは、例えばSIPサーバSSVによってSIP等の呼制御プロトコルを用いて、携帯端末MSb,MSc,MSdとテレビ電話のセッションを確立する。そして、映像・音声データの伝送プロトコルとしてRTPを用いてテレビ電話通話を開始する。
【0034】
このとき、携帯端末MSaの表示器33は、例えば図4に示すような画面を表示する。すなわち、表示器33には、携帯端末MSaのユーザを示す画像である自画像33A、携帯端末MSbのユーザを示す画像である相手画像33B、携帯端末MScのユーザを示す画像である相手画像33C、及び携帯端末MSdのユーザを示す画像である相手画像33Dが表示される。なお、上記自画像33A及び相手画像33B,33C,33Dは、それぞれ、携帯端末MSa,MSb,MSc,MSdの有するカメラ31によって撮影され取得される。
【0035】
ところで、携帯端末MSaは携帯端末MSb,MSc,MSdとの間で、RTPパケットを送受信する為、RTCPを用いてRTP送受信パケットの統計情報を遣り取りするものとする。以下、携帯端末MSa,MSb,MSb,MSc,MSdにおけるRTCP処理のフローを説明する。
【0036】
(ステップ1)
携帯端末MSaは、携帯端末MSb,MSc,MSdそれぞれに対して、SR(Sender Report)を格納したRTCPパケットを送信する。なお、図5はSRのフォーマットを示す図である。ここで、同図に示すように、SR50は、NTPタイムスタンプフィールド51と、RTPスタンプフィールド52と、送信側のパケットカウントフィールド53と、送信側のオクテットカウントフィールド54とで構成される。なお、上記NTPタイムスタンプフィールド51には、網クロックから取得した時刻に基づいて、RTCPパケット送信時刻が設定される。
【0037】
(ステップ2)
図6は、RR(Receiver Report)のフォーマットを示す図であり、同図に示すようにRR60は、レポート対象者のSSRCフィールド61と、欠落率フィールド62Aと、累積欠落パケット数フィールド62Bと、最大拡張シーケンス番号フィールド63と、パケット間隔ジッタフィールド64と、最新送信レポートのタイムスタンプ((Last Sender Report;LSR)フィールド65と、最新送信レポート経過時間(DLSR)フィールド66とで構成される。
【0038】
ここで、携帯端末MSb,MSc,MSdは、携帯端末MSaから送信されたRTCPパケットのSR50から、携帯端末MSaに送信するRR60のLSRフィールド65を生成する。
【0039】
(ステップ3)
携帯端末MSb,MSc,MSdは、携帯端末MSaから受信したRTPパケットの到着時刻からジッタを計測し、その統計結果に基づいて、携帯端末MSaに送信するRRのパケット間隔ジッタフィールド64を生成する。
【0040】
(ステップ4)
携帯端末MSb,MSc,MSdは、上記(ステップ2)及び(ステップ3)にて生成したフィールドを含むRR60と、網クロックから取得した時刻に基づいてRTCPパケット送信時刻を設定したNTPタイムスタンプフィールド51を含むSR50とを同一のパケットに格納したRTCPパケットを携帯端末MSaへ送信する。
【0041】
(ステップ5)
携帯端末MSaの制御部21は、携帯端末MSb,MSc,MSdから受信したRTCPパケットのそれぞれに格納されているRR60及びSR50から、携帯端末MSaとそれぞれのRTCPパケット送信元の各携帯端末について、それぞれのネットワーク伝送遅延時間及びジッタを、次の方法によって算出する。ただし、本方法では外部から入力されるクロックにより各端末装置が同期しているものとする。
【0042】
<伝送遅延の算出>
伝送遅延時間=
SRのNTPタイムスタンプフィールド値(相手携帯端末のRCTPパケットの送信時刻)
−RRのLSRフィールド値(携帯端末MSaのRTCPパケットの送信時刻)
−RRのDLSR(Delay since Last Report)フィールド値(相手携帯端末でのRTCPパケット受信から送信までの時間)
<ジッタの算出>
ジッタ=RRのパケット間隔ジッタフィールド値
(ステップ6)
携帯端末MSaは、上記(ステップ5)における算出したネットワーク伝送遅延及びジッタを、それぞれ最大伝送遅延時間、最大ジッタとして保持する。さらに、ネットワーク伝送遅延時間に関しては、RTCPパケットの送信元の各携帯端末に保持するとする。
【0043】
(ステップ7)
上記(ステップ6)以降、携帯端末MSaは、携帯端末MSb,MSc,MSdから定期的にRTCPパケットを受信し、それぞれの携帯端末ごとにネットワーク伝送遅延時間及びジッタを算出して取得する。
【0044】
(ステップ8)
上記(ステップ7)におけるネットワーク伝送遅延時間及びジッタの取得の結果、ネットワーク伝送遅延時間またはジッタが、携帯端末MSaで保持している最大伝送遅延時間または最大ジッタよりも大きい値である場合には、その保持している値を更新する。
【0045】
このように本一実施形態においては、テレビ電話機能利用時に取得することができ且つRTCPによって一定周期で更新される統計情報を利用することで、通信中の各携帯端末のネットワーク伝送遅延時間及びジッタを算出する。
【0046】
以上説明した(ステップ1)乃至(ステップ8)によって、携帯端末MSaは、携帯端末MSb,MSc,MSdとの間でのIPパケットの最大伝送遅延時間及び最大ジッタを保持することができ、且つそれらの値を定期的に更新することができる。
【0047】
続いて、上記携帯端末MSaによって携帯端末MSb,MSc,MSdに送信されるコンテンツデータを実際に携帯端末MSa,MSb,MSc,MSdにて同時刻で視聴する際の、各携帯端末の動作制御を説明する。
【0048】
[コンテンツ視聴時の動作]
前提条件として、携帯端末MSaは、携帯端末MSb,MSc,MSdのユーザに対して視聴してもらいたい映像コンテンツ等の所定のコンテンツがあることを、図4に示すようにテレビ電話によって伝える。
【0049】
なお、上記所定のコンテンツとしては、携帯端末MSaのユーザが、予めコンテンツサーバSより取得して携帯端末MSaに格納したコンテンツ、または携帯端末MSa自体が有するコンテンツを携帯端末MSb,MSc,MSdへ配信するとする。
【0050】
以下、コンテンツ視聴時の動作として、2通りの処理フローを説明する。
【0051】
≪方法1;携帯端末MSaにてコンテンツデータ送出時刻を調整しない場合≫
携帯端末MSaは、配信するコンテンツ情報であるSDPを、テレビ電話通話で制御プロトコルとして用いているSIPにより携帯端末MSb,MSc,MSdに通知することが可能である。このSDPによって、Tフィールドにコンテンツデータ再生開始時刻を記述し、RTPタイムスタンプをマッピングすることにより、コンテンツデータ送信端末(携帯端末MSa)と全てのコンテンツデータ受信端末(携帯端末MSb,MSc,MSd)とでコンテンツデータを同時に再生開始することができる。以下、コンテンツデータ送出時刻を調整しない場合の携帯端末間の処理フローを示す図7を参照して参照して詳細に説明する。
【0052】
(ステップ11)
携帯端末MSaの制御部21は、携帯端末MSb,MSc,MSdを一つのグループとして、これに対してRTCPによって計測し且つ保持している最大伝送遅延時間及び最大ジッタを用いて、次のようにしてコンテンツデータ再生開始時刻を算出する。
【0053】
コンテンツデータ再生開始時刻 = 端末MSaのコンテンツ送出開始時刻 + 最大伝送遅延 + 最大ジッタ
(ステップ12)
携帯端末MSaは、上記のように算出したコンテンツデータ再生開始時刻を、携帯端末MSb,MSc,MSdに送信する全てのSDPにおけるTフィールドに記述する。
【0054】
(ステップ13)
携帯端末MSaは、SIPを用いて携帯端末MSb,MSc,MSdへ配信するコンテンツ情報であるSDPを通知する。
【0055】
(ステップ14)
一定時間経過後、携帯端末MSaは、携帯端末MSb,MSc,MSdに対して同時に、コンテンツデータの送信を開始する。
【0056】
(ステップ15)
携帯端末MSb,MSc,MSdは、コンテンツデータを受信すると、SDPに記述されているコンテンツデータ再生開始時刻まで、当該コンテンツデータをバッファリングする。
【0057】
(ステップ16)
携帯端末MSa,MSb,MSc,MSdは、コンテンツデータ再生開始時刻になると同時に、当該コンテンツデータの再生を開始する。
【0058】
≪方法2;携帯端末MSaにてコンテンツデータ送出時刻を調整する場合≫
携帯端末MSaは、送信するコンテンツデータが携帯端末MSb,MSc,MSdに到達する時刻を同時刻とする為に、コンテンツデータ送信開始時刻を各携帯端末ごとの伝送遅延に応じて決定する。これにより、携帯端末MSb,MSc,MSdにおけるコンテンツデータのバッファ量を最小にして、コンテンツ送信端末である携帯端末MSaと、コンテンツ受信端末である携帯端末MSb,MSc,MSdにて同時にコンテンツデータの再生出力を開始させることが可能となる。以下、コンテンツデータ送出時刻を調整する場合の携帯端末間の処理フローを示す図8を参照して詳細に説明する。
【0059】
(ステップ21)
携帯端末MSaの制御部21は、携帯端末MSb,MSc,MSdを一つのグループとして、それに対してRTCPによって計測し且つ保持している最大伝送遅延時間及び最大ジッタを用いて、次のようにしてコンテンツデータ再生開始時刻を算出する。
【0060】
コンテンツデータ再生開始時刻 = 端末MSaのコンテンツ送出開始時刻 + 最大伝送遅延 + 最大ジッタ
(ステップ22)
携帯端末MSaは、上記のように算出したコンテンツデータ再生開始時刻を、携帯端末MSb,MSc,MSdに送信する全てのSDPにおいてTフィールド等に記述する。ここでSDPのフィールド値の使用方法についは各端末間であらかじめ決定されているものとする。
【0061】
(ステップ23)
携帯端末MSaは、SIPを用いて携帯端末MSb,MSc,MSdへ配信するコンテンツ情報であるSDPを通知する。
【0062】
(ステップ24)
携帯端末MSaは、携帯端末MSb,MSc,MSdごとに、コンテンツデータの送信を開始する時刻を、次のようにして算出する。
【0063】
コンテンツデータ送信開始時刻 = コンテンツ再生開始時刻 − 端末Xの最大伝送遅延 − 端末Xの最大ジッタ (端末XはMSb、MScまたはMSd)
(ステップ25)
携帯端末MSaは、携帯端末MSb,MSc,MSdごとに算出した上記のコンテンツデータ送信開始時刻に、コンテンツデータの送信を開始する。
【0064】
(ステップS26)
携帯端末MSb,MSc,MSdは、携帯端末MSaから送信されたコンテンツデータを受信すると、上記(ステップS23)にて通知されたSDPに記述されているコンテンツ再生開始時刻まで、コンテンツデータをバッファリングする。
【0065】
(ステップS27)
携帯端末MSa,MSb,MSc,MSdは、コンテンツデータの再生開始時刻になると同時に、コンテンツデータの再生を開始する。
【0066】
以上、[コンテンツデータ視聴時の動作]として2通りの方法を説明したが、上記≪方法1≫よりも上記≪方法2≫の方が、携帯端末MSb,MSc,MSdにとってコンテンツデータのバッファリングの量をより少量にして、上述したようなコンテンツデータの各携帯端末における同時再生を実現することが可能となる。
【0067】
また、上述のようにして開始したコンテンツデータの視聴時には、例えば携帯端末MSaの表示器33には、図9に示すような画面が表示される。すなわち、例えば携帯端末MSaの表示器33には、図3を参照して説明した表示画面の他に、コンテンツ映像33Eが表示される。
【0068】
なお、上述したように、本一実施形態においては、コンテンツデータ再生開始時刻及びコンテンツデータの受信端末(携帯端末MSb,MSc,MSd)におけるコンテンツデータのバッファリング量等は、コンテンツデータの送信端末(携帯端末MSa)によって算出され指定される。つまり、本一実施形態に係る携帯端末間における統計情報は、コンテンツデータを送信する端末(携帯端末MSa)によって取り扱われる。なお、本一実施形態に係る携帯端末は全て、コンテンツデータの送信機能及び受信機能の双方を有しており、統計情報の取り扱いが可能であることは勿論である。
【0069】
ところで、上述したようにテレビ電話機能を利用すると同時に、コンテンツデータの再生を行う場合は、テレビ電話機能による音声とコンテンツデータの再生による音声とをミキシング処理する必要が生じる。このミキシング処理は、例えば各携帯端末またはサーバによって行う必要がある。
【0070】
なお、上記のミキシング処理においては、例えばテレビ電話機能による音声の音量とコンテンツデータの再生による音声の音量とが同程度の場合には、通常のミキシング処理では双方の音声が聞き取りづらくなる可能性が高いことを考慮して、次のような処理を行う。すなわち、このような場合、例えばテレビ電話機能による音声の優先度を高くして、コンテンツデータによる音声よりも聞き取りやすくすることで、よりスムーズに会話を楽しめるようにする。
【0071】
以下、携帯端末MSaが、テレビ電話機能の利用時であってコンテンツデータを携帯端末MSb,MSc,MSdに送信中に、受信側の携帯端末からコンテンツデータの再生出力の一時停止要求メッセージを受信して再生出力の一時停止をした場合に、その後再生出力再開時に当該コンテンツデータを再送信することなく、通信中の全ての携帯端末で同一時刻のタイムスタンプ値を有するストリームデータから再生出力を再開できるにする為の各携帯端末における動作制御について説明する。
【0072】
[コンテンツ視聴を一時停止する時の動作]
まず、コンテンツデータの視聴を一時停止させる場合には、通常次のような問題が生じる。
【0073】
例えば、携帯端末MSbによってコンテンツデータ再生の一時停止が実行された場合、携帯端末MSbにおけるコンテンツデータの再生は即座に停止する。しかしながら、コンテンツデータ再生の一時停止要求が、携帯端末MSbから携帯端末MSaへ到達するまでは、携帯端末MSaは、コンテンツデータの再生を停止せずに、携帯端末MSb,MSc,MSdへコンテンツデータを送信し続ける。
【0074】
したがって、その後一時停止を解除してコンテンツデータの再生を再開させる場合に、携帯端末MSb,MSc,MSdにてコンテンツデータの再バッファリングをせずに、同一時刻のタイムスタンプ値を有するコンテンツデータから再生を再開させる為には、携帯端末MSb,MSc,MSdは、上記の一時停止時にバッファに残っているコンテンツデータと一時停止後に携帯端末MSaが送信したコンテンツデータとをバッファに保持しておく必要がある。
【0075】
また、携帯端末MSaは、携帯端末MSbが一時停止を実行し携帯端末MSaに一時停止要求を送信してから携帯端末MSaに一時停止要求が到達するまでの間に、コンテンツデータの再生を継続してしまっている。
【0076】
したがって、この間の再生済みコンテンツデータを、携帯端末MSb,MSc,MSdは、再生済データバッファ部223に保持する必要がある。以下、図10及び図11を参照して、コンテンツデータの再生の一時停止を実行する場合の各携帯端末の動作制御を詳細に説明する。
【0077】
ここで、図10はコンテンツデータの再生の一時停止を実行する場合の各携帯端末における動作を示す図であり、図11はコンテンツデータの再生の一時停止を実行する場合の各携帯端末におけるコンテンツデータのバッファ量を示す図である。
【0078】
≪携帯端末MSbの動作(一時停止を実行する端末の動作)≫
(ステップ31)
コンテンツデータの再生の一時停止を実行する。
【0079】
(ステップ32)
コンテンツデータの再生を一時停止し、SIPを用いて携帯端末MSaへコンテンツデータの一時停止要求を送信する。
【0080】
(ステップ33)
コンテンツデータの再生の一時停止時刻を記憶し、且つ一時停止時にバッファリングされている未再生のコンテンツデータ(b1)を未再生データバッファ部222に保持する。
【0081】
(ステップ34)
コンテンツデータの一時停止を実行して(ステップ31)から、携帯端末MSaがコンテンツデータの送信を停止するまでの間に、当該携帯端末MSbに対して携帯端末MSaが送信したコンテンツデータ(b2)を、上記(ステップ33)で保持したコンテンツデータに追加して未再生データバッファ部222に保持する。
【0082】
≪携帯端末MSaの動作(コンテンツデータ配信端末の動作)≫
(ステップ41)
携帯端末MSbからのコンテンツデータ再生の一時停止要求を受信すると、コンテンツデータの再生を一時停止すると同時にコンテンツデータの送信を停止し、更に携帯端末MSc,MSdに対して一時停止要求を転送する。
【0083】
(ステップ42)
携帯端末MSbから送信された一時停止要求に含まれる携帯端末MSbの一時停止時刻(以降、停止要求端末一時停止時刻と称する)を記憶する。
【0084】
(ステップ43)
上記停止要求端末一時停止時刻から一時停止要求受信時刻までの間に再生したコンテンツデータ(a2)を抽出して、再生済データバッファ部223に保持する。
【0085】
(ステップ44)
一時停止時において未再生データバッファ部222に残っているコンテンツデータ(a1)をそのまま保持する。
【0086】
≪携帯端末MSc,MSdの動作≫
(ステップ51)
携帯端末MSaからコンテンツ再生一時停止要求を受信すると、コンテンツ再生を一時停止する。
【0087】
(ステップ52)
携帯端末MSaから送信された一時停止要求に含まれる上記停止要求端末一時停止時刻を記憶する。
【0088】
(ステップ53)
携帯端末MSaと同様、予め再生済データバッファ部223に保持していた再生済みコンテンツデータにおいて上記停止要求端末一時停止時刻から一時停止要求受信時刻までの間に再生したコンテンツデータ(c2,d2)を抽出して、再生済みデータバッファに保持する。
【0089】
(ステップ54)
一時停止時に未再生データバッファ部に残っているコンテンツデータ(c1,d1)をそのまま保持する。
【0090】
以上説明したように、各携帯端末にバッファリングされるコンテンツデータのデータ量は、図10及び図11に示すように各携帯端末のネットワーク伝送遅延時間に応じて算出する為、再生済みのコンテンツデータも含めてバッファに保持するデータ量を必要最小限にし、且つ再生出力再開時に当該コンテンツデータを再送信することなく、通信中の全ての携帯端末で同一時刻のタイムスタンプ値を有するデータから再生出力を再開することができる。
【0091】
以下、コンテンツデータの再生再開時の各携帯端末における動作制御を示す図である図12を参照して、その動作制御を説明する。
【0092】
[コンテンツ視聴再開(再生再開)時の動作]
ここでは、携帯端末MScによってコンテンツ再生の再開操作が実行される場合を想定する。この携帯端末MScは、当然ながら各携帯端末間の伝送遅延時間を管理していない。したがって、まず携帯端末MScは、再生再開要求を携帯端末MSaに送信し、携帯端末MSaが各携帯端末との最大伝送遅延時間に基づいて、全ての携帯端末が再生再開する時刻を決定する。そして、携帯端末MSaが、この再生再開時刻を各携帯端末に通知することによって、各携帯端末は未再生データバッファ部222または再生済データバッファ部223にバッファリングされている一時停止時刻に対応するデータから、上記再生開始時刻に同時に再生を再開することができる。
【0093】
以下、図12を参照して、コンテンツデータの再生再開時の各携帯端末における動作制御を詳細に説明する。
【0094】
≪携帯端末MScの動作(再生再開を実行する端末の動作)≫
(ステップ61)
携帯端末MScは、再生再開が選択されると、携帯端末MSaへSIPあるいはRTSP等の制御プロトコルを用いて再生再開要求を携帯端末MSaへ送信し、携帯端末MSaからの再生再開要求を待つ。
【0095】
(ステップ62)
携帯端末MSaから再生再開時刻を通知する再生再開要求を受信すると、この再生再開時刻を、一時停止時に記憶してある上記停止要求端末一時停止時刻にマッピングする為に、再生済データバッファ部223から一時停止時刻に対応するコンテンツデータを検索する。
【0096】
(ステップ63)
携帯端末MSaから通知された上記再生再開時刻になると、再生済データバッファ部223に保持されているコンテンツデータを、上記停止要求端末一時停止時刻に対応する時点から再生する。
【0097】
≪携帯端末MSaの動作(コンテンツデータを送信する端末)≫
(ステップ71)
携帯端末MScからの再生再開要求を受信すると、再生再開要求受信時刻にコンテンツ送信先端末(携帯端末MSb,MSc,MSd)に対する最大伝送遅延時間を加算して再生再開時刻を算出する。
【0098】
(ステップ72)
コンテンツ送信先の全ての携帯端末に対して再生再開要求を送信し、これにより算出した再生再開時刻を通知する。
【0099】
(ステップ73)
上記(ステップ72)において算出した再生再開時刻を一時停止時に記憶してある上記停止要求端末一時停止時刻にマッピングする為に、再生済データバッファ部223から一時停止時刻に対応するコンテンツデータを検索する。
【0100】
(ステップ74)
上記(ステップ72)において算出した再生再開時刻になると、再生済データバッファ部223に保持されているコンテンツデータを、上記停止要求端末一時停止時刻に対応する時点から再生する。
【0101】
≪携帯端末MSb,MSdの動作≫
(ステップ81)
携帯端末MSaから再生再開時刻を通知する再生再開要求を受信すると、この再生再開時刻を一時停止時に記憶してある上記停止要求端末一時停止時刻にマッピングする為に、再生済データバッファ部223から一時停止時刻に対応するコンテンツデータを検索する。
【0102】
(ステップ82)
携帯端末MSaから通知された上記再生再開時刻になると、未再生データバッファ部222または再生済データバッファ部223に保持されているコンテンツデータを、上記停止要求端末一時停止時刻に対応する時点から再生する。
【0103】
以下、上述した本一実施形態に係る携帯端末に特有の主な特徴を、従来より存在した技術と比較しながら説明する。
【0104】
まず、従来よりある端末から他の端末へテレビ電話映像及び音声に加えてストリームデータを送信する場合、ストリームデータを受信している端末では再生出力していないデータをそれぞれのネットワーク伝送遅延時間に応じて算出した量だけバッファリングすることによって同時再生出力させることは可能であった。
【0105】
しかしながら、一時停止要求メッセージを伝送する場合のように、ある受信側の端末装置から送信側の端末装置及び他の受信側の端末装置へ要求メッセージを伝送する場合には、要求メッセージにネットワーク伝送遅延が発生する為、全ての端末装置で再生出力を同時に停止することが困難であり、再生再開時には各端末装置で異なる時刻のデータから再生出力するしかない。
【0106】
そこで、本一実施形態に係る携帯端末では、再生再開時に全ての携帯端末で同一時刻のタイムスタンプ値を有するストリームデータから再生出力を再開できるようにする為に、未再生のストリームデータに加えて再生出力済みのストリームデータも、上述のようにして算出した所定量だけバッファリングする。
【0107】
より詳しくは、再生出力済みのストリームデータのバッファ量を、必要最小限のバッファ量とする為に、一時停止要求メッセージを送信した携帯端末とストリームデータを送信している携帯端末との間のネットワーク伝送遅延時間、及びストリームデータを送信している携帯端末と他の携帯端末間のネットワーク伝送遅延時間に基づいて算出する。
【0108】
ここで、上述したように携帯端末間のネットワーク伝送遅延時間(ストリームデータを送信する携帯端末と、ストリームデータを受信する他の携帯端末との間のネットワーク伝送遅延時間)は、テレビ電話における映像データまたは音声データのネットワーク伝送遅延時間を測定することにより予め取得できる。
【0109】
なお、ネットワーク伝送遅延時間情報を、テレビ電話の通話セッションにおける制御情報として送受信することも可能である。
【0110】
以上説明したように、本一実施形態によれば、テレビ電話機能を有し且つ複数多地点間でのストリームデータの送受信が可能な端末装置であって、テレビ電話機能の利用時且つストリームデータを他の端末装置に送信中に、当該ストリームデータの受信側の端末装置からストリームデータの再生出力の一時停止要求メッセージを受信すると、再生出力再開時に当該ストリームデータを再送信することなく、通信中の全ての端末装置と同期して同一時刻のタイムスタンプ値を有するデータから再生出力を再開できるよう制御する端末装置を提供することができる。
【0111】
具体的には、テレビ電話機能利用時に映像データ及び音声データを伝送するために各端末装置間で送受信される統計情報を上述したように用いること等によって、次のことが可能となる。すなわち、本一実施形態に係る端末装置によれば、テレビ電話で通話をしながらコンテンツを視聴する際に通話者全員の端末装置におけるコンテンツデータの再生時刻を同一にして、通話者全員が違和感なく映像コンテンツを視聴しながら会話することができ、且つコンテンツ視聴中においてコンテンツデータの再生を一時停止した場合であっても、再生再開時には通話者全ての端末装置において同一の箇所から再生を再開することができる。
【0112】
つまり、本一実施形態に係る端末装置によれば、図9に示すように、通話者全員が同一のコンテンツを同一時刻で鑑賞しながら、テレビ電話によるコミュニケーションをとることが可能となる。
【0113】
より詳細には、本一実施形態に係る端末装置によれば、以下のような効果を得ることができる。
【0114】
まず、再生済データバッファ部223によってコンテンツデータの再生の一時停止時刻以降のデータは全てバッファリングされる為、コンテンツデータの再生再開時に、一時停止時刻のデータから再生を再開できる。
【0115】
また、上述したように伝送遅延時間に基づいて、再生済データバッファ部223にバッファリングしなければならない最小のデータ量を算出することができる為、このデータ量サイズのバッファだけを確保してリソースを最小にすることができる。
【0116】
ところで、テレビ電話の通話においては映像データ及び音声データを双方向で送受信しているので、ストリームデータの送受信に関わらず伝送遅延時間を常時計測することが可能であることを利用する。すなわち、伝送遅延時間を以ってストリームデータの伝送遅延時間とみなすことで、ストリームデータの送信開始直後からストリームデータの再生の一時停止操作が可能となる。
【0117】
そして、テレビ電話通話においては、映像データ及び音声データを双方向で送受信する為にセッションを確立しており、このセッション上で統計情報の交換等を行っていることを利用する。つまり、ストリームデータの送受信を片方向しか行わなくても、テレビ電話のセッションを利用して、端末装置間で相互に伝送遅延時間情報を交換することができる。
【0118】
以上、一実施形態に基づいて本発明を説明したが、本発明は上述した実施形態に限定されるものではなく、本発明の要旨の範囲内で種々の変形及び応用が可能なことは勿論である。
【0119】
例えば、上記一実施形態においては、携帯端末MSaから携帯端末MSb,MSc,MSdへのSDP通知にはSIPを用いたが、SIP以外にも例えばコンテンツ配信情報制御プロトコルであるFLUTE(RFC3926)を用いることも可能である。
【0120】
また、上記一実施形態においては、コンテンツの再生及び一時停止等の制御プロトコルにはテレビ電話通話で利用しているSIPを利用するとして説明したが、RTSPを用いて制御することも勿論可能である。
【0121】
なお、上記コンテンツデータとしては、地上波デジタル放送の映像データ及び音声データ等、様々なデータを用いることができるのは勿論である。
【0122】
なお、上記一実施形態においては、説明の便宜上4人によるテレビ電話を想定して説明したが、テレビ電話による通話人数は4人に限定されないことは勿論良いことは言うまでも無い。
【0123】
さらに、上述した実施形態には種々の段階の発明が含まれており、開示される複数の構成要件の適当な組み合わせにより種々の発明が抽出され得る。例えば、実施形態に示される全構成要件からいくつかの構成要件が削除されても、発明が解決しようとする課題の欄で述べた課題が解決でき、発明の効果の欄で述べられている効果が得られる場合には、この構成要件が削除された構成も発明として抽出され得る。
【図面の簡単な説明】
【0124】
【図1】本発明の一実施形態に係る携帯端末を利用して、複数多地点間でテレビ電話機能によりリアルタイムにコミュニケーションを取りながら、ストリームデータの送受信を行う場合のシステム構成の一例を示す図である。
【図2】本発明の一実施形態に係る携帯端末の構成の一例を示すブロック図である。
【図3】マルチメディアデコーダの構成の一例を示す図である。
【図4】テレビ電話機能利用時の表示器における表示画面の一例を示す図である。
【図5】SRのフォーマットを示す図である。
【図6】RRのフォーマットを示す図である。
【図7】コンテンツデータ送出時刻を調整しない場合の携帯端末間の処理フローを示す図である。
【図8】コンテンツデータ送出時刻を調整する場合の携帯端末間の処理フローを示す図である。
【図9】コンテンツデータ視聴時の表示器における表示画面の一例を示す図である。
【図10】コンテンツデータの再生の一時停止を実行する場合の各携帯端末における動作を示す図である。
【図11】コンテンツデータの再生の一時停止を実行する場合の各携帯端末におけるバッファ量を示す図である。
【図12】コンテンツデータの再生再開時の各携帯端末における動作を示す図である。
【符号の説明】
【0125】
MSa,MSb,MSc,MSd…携帯端末、 INW…IP網、 SSV…SIPサーバ、 CSV…コンテンツサーバ、 S…コンテンツサーバ、 MNW1,MNW2…携帯網、 2…ベースバンドユニット、 3…入出力ユニット、 4…電源ユニット、 5…近距離無線ユニット、 5A,11…アンテナ、 12…アンテナ共用器、 13…受信回路、 14…周波数シンセサイザ、 15…送信回路、 21…制御部、 22…マルチメディアデコーダ、 23…マルチメディアエンコーダ、 24…カメラインタフェース、 25…マイクロホンインタフェース、 26…表示インタフェース、 27…スピーカインタフェース、 28…メモリ、 31…カメラ、 32…マイクロホン、 33…表示器、 33A,33B,33C,33D…相手画像、 33E…コンテンツ映像、 34…スピーカ、 35…キー入力部、 41…バッテリ、 42…充電回路、 43…電圧生成回路、 50…SR、 51…NTPタイムスタンプフィールド、 52…RTPスタンプフィールド、 53…パケットカウントフィールド、 54…オクテットカウントフィールド、 60…RR、 61…SSRCフィールド、 62A…欠落率フィールド、 62B…累積欠落パケット数フィールド、 63…最大拡張シーケンス番号フィールド、 64…パケット間隔ジッタフィールド、 65…タイムスタンプフィールド、 66…最新送信レポート経過時間フィールド、 211…テレビジョン電話通信制御機能、 212…コンテンツ配信制御機能、 213…コンテンツ再生制御機能、 214…再開制御機能、 215…バッファ量決定制御機能、 221…コンテンツ再生部、 222…未再生データバッファ部、 223…再生済データバッファ部。
【技術分野】
【0001】
本発明は、端末装置に関し、特にデータのネットワーク伝送時間に基づいた制御を行う端末装置に関する。
【背景技術】
【0002】
近年、テレビ電話機能を有する端末装置が一般に普及している。そして、このような端末装置を利用して、メディアデータ等であるストリームデータの送受信を複数多地点間で行う技術として、例えば特許文献1には以下のような技術が開示されている。
【0003】
すなわち、特許文献1には、ストリームデータの送信側(以下、送信装置と称する)において同時刻に送信された当該ストリームデータを、ストリームデータの受信側(以下、受信装置と称する)において同時刻に再生出力させる為の技術が開示されている。
【0004】
具体的には、送信装置は、同期メディアから生成した同期信号のタイミングに一致させて同一の時刻にストリームデータを受信装置へ出力し、これに当該現在時刻のタイムコードを付加し、ネットワークを介して受信側に伝送する。一方、受信装置は、ストリームデータを受信して上記タイムコードを読み出し、このタイムコードと受信時刻を変換したタイムコードとから、ストリームデータの伝送時間(遅延時間)を測定する。さらに、遅延時間管理装置が、各々の受信装置での遅延時間を受け取り、それら遅延時間のうち最大の遅延時間を決定し、その他の遅延時間との差を計算する。そして、各々の受信装置は、上記の最大の遅延時間との差に応じて、ストリームデータの出力のタイミングを調整し、送信側から同一の時刻に出力されたストリームデータとして出力させる。
【特許文献1】特開2004−254149号公報
【発明の開示】
【発明が解決しようとする課題】
【0005】
ここで、上記特許文献1に開示された技術では、送信装置が、複数の受信装置に対して同時刻にデータを送信し、受信装置がそれぞれ異なるネットワーク伝送遅延時間で当該ストリームデータを受信した場合であっても、同期信号により識別可能なタイムスタンプを送信装置にて付加することによって、受信装置において当該ストリームデータの再生出力のタイミングを調節している。
【0006】
しかしながら、上記特許文献1に開示された技術では、上記受信装置のうちのある受信装置が、上記送信装置及び他の受信装置に対して、再生出力を一時停止する要求メッセージを送信した場合、各々の受信装置におけるネットワーク伝送遅延時間が各装置間で異なることに起因して次のような問題が生じる。
【0007】
すなわち、上記のように一時停止要求メッセージを送信した受信装置と他の受信装置との間で、再生出力を一時停止する時刻が異なってしまい、再生再開時に、未再生の受信データを再生しても同一時刻のタイムスタンプ値を有するデータから再生出力をすることができないという問題が生じる。
【0008】
本発明は、上記の事情に鑑みて為されたもので、複数多地点間でのストリームデータの送受信が可能な端末装置であって、ストリームデータを他の端末装置に送信中に、当該ストリームデータの受信側の端末装置からストリームデータの再生出力の一時停止要求メッセージを受信すると、再生出力再開時に当該ストリームデータを再送信することなく、通信中の全ての端末装置と同期して同一時刻のタイムスタンプ値を有するデータから再生出力を再開できる端末装置を提供することを目的とする。
【課題を解決するための手段】
【0009】
上記の目的を達成するために、本発明の第1の態様による端末装置は、外部から入力されるクロックにより他の端末装置と同期してストリームデータの再生を行う端末装置であって、上記ストリームデータを受信するストリームデータ受信部と、上記ストリームデータ受信部によって受信したストリームデータをバッファリングする未再生データバッファ部と、上記ストリームデータを再生する為のデータ再生部と、上記データ再生部によって再生された上記ストリームデータを所定量だけバッファリングする再生済データバッファ部と、上記他の端末装置と同期して上記データ再生部によって上記ストリームデータを再生中に、当該ストリームデータの再生一時停止操作が行われ且つ再生再開操作が行われた場合に、上記再生済データバッファ部にバッファリングされたストリームデータを用いて、上記ストリームデータの再生再開タイミングを調整する再生再開制御部と、上記再生一時停止操作の時刻を管理する停止時刻管理部と、を具備し、上記再生再開制御部は、上記停止時刻管理部が管理する再生一時停止操作の時刻に基づいて上記再生再開タイミングの調整を行うことで、上記他の端末装置と同期して、上記他の端末装置における再生再開時のデータと同一時刻のタイムスタンプ値を有するデータから再生を再開させる制御を行うことを特徴とする。
【発明の効果】
【0010】
本発明によれば、複数多地点間でのストリームデータの送受信が可能な端末装置であって、ストリームデータを他の端末装置に送信中に、当該ストリームデータの受信側の端末装置からストリームデータの再生出力の一時停止要求メッセージを受信すると、再生出力再開時に当該ストリームデータを再送信することなく、通信中の全ての端末装置と同期して同一時刻のタイムスタンプ値を有するデータから再生出力を再開できるよう制御する端末装置を提供することができる。
【発明を実施するための最良の形態】
【0011】
以下、図面を参照して本発明の一実施形態に係る携帯端末を説明する。
【0012】
図1は、この発明の一実施形態に係わる通信ネットワークシステムの概略構成図である。このシステムは、携帯端末間でIP(Internet Protocol)網を介してテレビジョン電話通信を可能にするもので、携帯端末MSa及びMSb,MSc,MSdはそれぞれ携帯網MNW1及びMNW2を介してIP網INWに接続される。IP網INWにはSIP(Session Initiation Protocol)サーバSSVが接続されている。SIPサーバSSVは、上記携帯端末MSa〜MSdの居所を表すIPアドレスを記憶し、送信元の携帯端末から送信されたSIPメッセージを上記IPアドレスに基づいて宛先の携帯端末へ中継転送する機能を有する。また、携帯端末MSa〜MSdの中は、例えばパーソナル・コンピュータ等のコンテンツサーバCSVに対し無線LAN(Local Area Network)又はBluetooth(登録商標)等の短距離データ通信ネットワークを介して接続可能され、上記コンテンツサーバCSVから例えばストリーム画像データからなるコンテンツデータを取得可能である。
【0013】
ところで、携帯端末MSa〜MSdはSIPによるテレビジョン電話通信機能を備えた携帯端末からなり、例えば次のように構成される。図2はその構成を示すブロック図である。
【0014】
携帯端末MSa〜MSdは、無線ユニット1と、ベースバンドユニット2と、入出力ユニット3と、電源ユニット4と、近距離無線ユニット5とから構成される。
【0015】
同図において、入出力ユニット3のマイクロホン32により検出されたユーザの送話音声に対応する音声信号は、ベースバンドユニット2に入力される。ベースバンドユニット2はマイクロホンインタフェース(マイクロホンI/F)25を備え、上記送話音声信号をこのマイクロホンI/F25で増幅したのちディジタル信号に変換してマルチメディアエンコーダ23に入力する。マルチメディアエンコーダ23はオーディオエンコーダを有する。そして、上記送話音声信号をGSM−AMR形式などの所定の符号化形式で符号化し、この符号化音声データを制御部21へ出力する。
【0016】
またカメラ(CAM)31から出力された映像信号もベースバンドユニット2に入力される。ベースバンドユニット2はカメラインタフェース(カメラI/F)24を備え、上記映像信号をディジタル映像信号に変換してマルチメディアエンコーダ23に入力する。マルチメディアエンコーダ23はビデオエンコーダを有する。そして、上記ディジタル映像信号を、例えばMPEG4(Moving Picture Coding Experts Group 4)形式又はH.264形式、或いはJPEG(Joint Photographic Coding Experts Group)形式に従い符号化処理し、この符号化された映像データを制御部21へ出力する。
【0017】
制御部21は、上記マルチメディアエンコーダ23から出力された送話音声データ及び映像データをパケットに変換し、この変換されたパケットを無線ユニット1の送信回路(TX)15へ出力する。送信回路15は、変調器、周波数変換器及び送信電力増幅器を備える。上記送信データは、変調器でディジタル変調されたのち、周波数変換器により周波数シンセサイザ14から発生された送信局ユニット発振信号とミキシングされて無線周波信号に周波数変換される。変調方式としては、QPSK(Quadriphase Phase Shift Keying)方式及び拡散符号を使用するスペクトラム拡散方式が用いられる。そして、この生成された送信無線周波信号は、送信電力増幅器で所定の送信レベルに増幅されたのち、アンテナ共用器(DUP)12を介してアンテナ11に供給され、このアンテナ11から携帯網MNW1,MNW2に向け送信される。
【0018】
近距離無線ユニット5は、無線LAN又はBluetooth(登録商標)を使用して周辺機器との間で無線データ通信を行うもので、例えばコンテンツサーバCSVから送信されたコンテンツデータをアンテナ5Aを介して受信して上記制御部21に入力する。制御部21は、上記近距離無線ユニット5により受信されたコンテンツデータをメモリ28に一旦格納する。そして、マルチメディアエンコーダ23で符号化したのちパケットに変換し、このパケットを無線ユニット1の送信回路15へ出力して送信させる。
【0019】
一方、携帯網MNW1,MNW2から無線チャネルを介して到来した無線周波信号は、アンテナ11で受信されたのちアンテナ共用器12を介して受信回路(RX)13に入力される。受信回路13は、高周波増幅器、周波数変換器及び復調器を備える。そして、上記無線周波信号を低雑音増幅器で低雑音増幅したのち、周波数変換器において周波数シンセサイザ(SYN)14から発生された受信局ユニット発振信号とミキシングして受信中間周波信号又は受信ベースバンド信号に周波数変換し、その出力信号を復調器でディジタル復調して受信パケットを再生する。復調方式としては、例えばQPSK方式に対応した直交復調方式と、拡散符号を使用したスペクトラム逆拡散方式が用いられる。なお、上記周波数シンセサイザ14から発生される受信局ユニット発振信号周波数は、ベースバンドユニット2に設けられた制御部21から指示される。
【0020】
上記復調器において再生された受信パケットはベースバンドユニット2の制御部21に入力される。制御部21は、上記入力された受信パケットをデパケットして音声データ、映像データ及びコンテンツ画像データを抽出し、これらのデータをマルチメディアデコーダ22に供給する。
【0021】
マルチメディアデコーダ22は、オーディオデコーダ及びビデオデコーダを有する。これらのデコーダは、例えば図3に示すようにコンテンツを復号処理するコンテンツ再生部221と、その前後に設けられた未再生データバッファ部222及び再生済データバッファ部223とを備えている。未再生データバッファ部222は、受信データの復号再生タイミングを調整するべく未再生の受信データを一時保存するために使用される。再生済データバッファ部223は、コンテンツデータの再生が一時停止された場合に、データ再生再開時にデータの再生再開位置を各携帯端末間で一致させるべく、再生済のデータを一部保存するために使用される。
【0022】
上記オーディオデコーダにより復号された音声データはスピーカインタフェース(スピーカI/F)27に、またビデオデコーダにより復号された映像データ及びコンテンツ画像データは表示インタフェース(表示I/F)26にそれぞれ入力される。スピーカI/F27は、上記音声データをアナログ信号に変換したのち適切な音量レベルに増幅してスピーカ34から出力させる。表示I/F26はビデオRAMを有し、上記マルチメディアデコーダ22により復号された映像データ及びコンテンツ画像データを合成して1画面の表示データを生成し、この表示データを表示器33に供給して表示させる。表示器33は、例えば液晶表示器(LCD)からなる。
【0023】
なお、キー入力部35はダイヤルキー群及び機能キー群からなり、その入力データは制御部21に入力される。またメモリ(MEM)28は記憶媒体としてハードディスク又はNAND型フラッシュメモリを使用したもので、受信メールやコンテンツデータ、電話帳データ、送受信履歴データ等を記憶するために用いられる。
【0024】
また、電源ユニット4には、リチウムイオン電池等のバッテリ41と、このバッテリ41を商用電源出力をもとに充電するための充電回路(CHG)42と、電圧生成回路(PS)43とが設けられている。電圧生成回路43は、例えばDC/DCコンバータからなり、バッテリ41の出力電圧をもとに所定の電源電圧Vccを生成する。
【0025】
ところで、制御部21はマイクロプロセッサと、ROM及びRAM等からなる内部メモリとを備えたもので、この発明に係わる制御機能として、テレビジョン電話通信制御機能211と、コンテンツ配信制御機能212と、コンテンツ再生制御機能213と、再生一時停止/再開制御機能214と、バッファ量決定制御機能215とを有している。これらの制御機能はいずれも、ROMに格納されたアプリケーション・プログラムをマイクロプロセッサに実行させることにより実現される。
【0026】
テレビジョン電話通信制御機能211は、呼制御プロトコルとしてのSIPを用いて通信相手となる一つ又は複数の携帯端末との間にテレビジョン電話通信のためのセッションを確立する。そして、データ伝送プロトコルとしてのRTP(Real−time transport Protocol)を用いて、テレビジョン通信相手となる各携帯端末との間でテレビジョン電話通信を行う。
【0027】
コンテンツ配信制御機能212は、コンテンツサーバCSVに対し近距離無線ユニット5を介してアクセスし、コンテンツサーバCSVからコンテンツデータを取得してメモリ28に保存するための制御を実行する。また、上記テレビジョン電話通信制御機能211によるテレビジョン電話通信中にキー入力部35においてコンテンツデータの配信要求が入力された場合に、SIPで規定されたSDP(Session Description Protocol)を用いてコンテンツ再生開始時刻等の制御パラメータを上記テレビジョン電話通信中の相手携帯端末に通知し、続いてRTPを用いてコンテンツデータを上記各相手携帯端末へ送信する制御を実行する。
【0028】
コンテンツ再生制御機能213は、コンテンツ送信元の携帯端末からSDPにより通知されるコンテンツ再生開始時刻に応じて、マルチメディアデコーダ22内の未再生データバッファ部222のバッファ量を決める。そして、RTPにより伝送されたコンテンツデータを上記マルチメディアデコーダ22に復号再生させる。
【0029】
一時停止/再開制御機能214は、自端末においてコンテンツの一時停止/再開操作が行われた場合と、他の端末においてコンテンツの一時停止/再開操作が行われた場合とで異なる制御を実行する。
【0030】
すなわち、自端末においてコンテンツの一時停止/再開操作が行われた場合には、マルチメディアデコーダ22内の未再生データバッファ部222を用いてコンテンツデータの再生再開タイミングを調整する。これに対し他の端末においてコンテンツの一時停止/再開操作が行われた場合には、マルチメディアデコーダ22内の未再生データバッファ部222及び再生済データバッファ部223をそれぞれ用いてコンテンツデータの再生再開タイミングを調整する。
【0031】
バッファ量決定制御機能215は、コンテンツデータの配信に先立ち、RTCP(RTP Control Protocol)パケットの送受信を利用してコンテンツデータの配信先となる各携帯端末とコンテンツデータの送信元となる携帯端末との間の伝送遅延時間及びジッタを算出し、この算出結果をもとに各携帯端末の再生済データバッファ部223に設定すべきバッファ量を決定する。
【0032】
次に、以上のように構成された携帯端末MSa〜MSdの動作を説明する。なお、ここでは、携帯端末MSaが携帯端末MSb〜MSdとの間で同時にテレビジョン電話通信を行っている状態で、携帯端末MSaが各携帯端末MSb〜MSdに対しさらにストリームデータからなるコンテンツデータを配信する場合を例にとって説明を行う。なお、各携帯端末における上述した各構成部材の詳細な動作制御は上述した通りであるのでその説明は省略し、説明の便宜上、各携帯端末間の処理及び動作制御に焦点を当てて説明する。
【0033】
[コンテンツ視聴開始前の動作]
携帯端末MSaは、例えばSIPサーバSSVによってSIP等の呼制御プロトコルを用いて、携帯端末MSb,MSc,MSdとテレビ電話のセッションを確立する。そして、映像・音声データの伝送プロトコルとしてRTPを用いてテレビ電話通話を開始する。
【0034】
このとき、携帯端末MSaの表示器33は、例えば図4に示すような画面を表示する。すなわち、表示器33には、携帯端末MSaのユーザを示す画像である自画像33A、携帯端末MSbのユーザを示す画像である相手画像33B、携帯端末MScのユーザを示す画像である相手画像33C、及び携帯端末MSdのユーザを示す画像である相手画像33Dが表示される。なお、上記自画像33A及び相手画像33B,33C,33Dは、それぞれ、携帯端末MSa,MSb,MSc,MSdの有するカメラ31によって撮影され取得される。
【0035】
ところで、携帯端末MSaは携帯端末MSb,MSc,MSdとの間で、RTPパケットを送受信する為、RTCPを用いてRTP送受信パケットの統計情報を遣り取りするものとする。以下、携帯端末MSa,MSb,MSb,MSc,MSdにおけるRTCP処理のフローを説明する。
【0036】
(ステップ1)
携帯端末MSaは、携帯端末MSb,MSc,MSdそれぞれに対して、SR(Sender Report)を格納したRTCPパケットを送信する。なお、図5はSRのフォーマットを示す図である。ここで、同図に示すように、SR50は、NTPタイムスタンプフィールド51と、RTPスタンプフィールド52と、送信側のパケットカウントフィールド53と、送信側のオクテットカウントフィールド54とで構成される。なお、上記NTPタイムスタンプフィールド51には、網クロックから取得した時刻に基づいて、RTCPパケット送信時刻が設定される。
【0037】
(ステップ2)
図6は、RR(Receiver Report)のフォーマットを示す図であり、同図に示すようにRR60は、レポート対象者のSSRCフィールド61と、欠落率フィールド62Aと、累積欠落パケット数フィールド62Bと、最大拡張シーケンス番号フィールド63と、パケット間隔ジッタフィールド64と、最新送信レポートのタイムスタンプ((Last Sender Report;LSR)フィールド65と、最新送信レポート経過時間(DLSR)フィールド66とで構成される。
【0038】
ここで、携帯端末MSb,MSc,MSdは、携帯端末MSaから送信されたRTCPパケットのSR50から、携帯端末MSaに送信するRR60のLSRフィールド65を生成する。
【0039】
(ステップ3)
携帯端末MSb,MSc,MSdは、携帯端末MSaから受信したRTPパケットの到着時刻からジッタを計測し、その統計結果に基づいて、携帯端末MSaに送信するRRのパケット間隔ジッタフィールド64を生成する。
【0040】
(ステップ4)
携帯端末MSb,MSc,MSdは、上記(ステップ2)及び(ステップ3)にて生成したフィールドを含むRR60と、網クロックから取得した時刻に基づいてRTCPパケット送信時刻を設定したNTPタイムスタンプフィールド51を含むSR50とを同一のパケットに格納したRTCPパケットを携帯端末MSaへ送信する。
【0041】
(ステップ5)
携帯端末MSaの制御部21は、携帯端末MSb,MSc,MSdから受信したRTCPパケットのそれぞれに格納されているRR60及びSR50から、携帯端末MSaとそれぞれのRTCPパケット送信元の各携帯端末について、それぞれのネットワーク伝送遅延時間及びジッタを、次の方法によって算出する。ただし、本方法では外部から入力されるクロックにより各端末装置が同期しているものとする。
【0042】
<伝送遅延の算出>
伝送遅延時間=
SRのNTPタイムスタンプフィールド値(相手携帯端末のRCTPパケットの送信時刻)
−RRのLSRフィールド値(携帯端末MSaのRTCPパケットの送信時刻)
−RRのDLSR(Delay since Last Report)フィールド値(相手携帯端末でのRTCPパケット受信から送信までの時間)
<ジッタの算出>
ジッタ=RRのパケット間隔ジッタフィールド値
(ステップ6)
携帯端末MSaは、上記(ステップ5)における算出したネットワーク伝送遅延及びジッタを、それぞれ最大伝送遅延時間、最大ジッタとして保持する。さらに、ネットワーク伝送遅延時間に関しては、RTCPパケットの送信元の各携帯端末に保持するとする。
【0043】
(ステップ7)
上記(ステップ6)以降、携帯端末MSaは、携帯端末MSb,MSc,MSdから定期的にRTCPパケットを受信し、それぞれの携帯端末ごとにネットワーク伝送遅延時間及びジッタを算出して取得する。
【0044】
(ステップ8)
上記(ステップ7)におけるネットワーク伝送遅延時間及びジッタの取得の結果、ネットワーク伝送遅延時間またはジッタが、携帯端末MSaで保持している最大伝送遅延時間または最大ジッタよりも大きい値である場合には、その保持している値を更新する。
【0045】
このように本一実施形態においては、テレビ電話機能利用時に取得することができ且つRTCPによって一定周期で更新される統計情報を利用することで、通信中の各携帯端末のネットワーク伝送遅延時間及びジッタを算出する。
【0046】
以上説明した(ステップ1)乃至(ステップ8)によって、携帯端末MSaは、携帯端末MSb,MSc,MSdとの間でのIPパケットの最大伝送遅延時間及び最大ジッタを保持することができ、且つそれらの値を定期的に更新することができる。
【0047】
続いて、上記携帯端末MSaによって携帯端末MSb,MSc,MSdに送信されるコンテンツデータを実際に携帯端末MSa,MSb,MSc,MSdにて同時刻で視聴する際の、各携帯端末の動作制御を説明する。
【0048】
[コンテンツ視聴時の動作]
前提条件として、携帯端末MSaは、携帯端末MSb,MSc,MSdのユーザに対して視聴してもらいたい映像コンテンツ等の所定のコンテンツがあることを、図4に示すようにテレビ電話によって伝える。
【0049】
なお、上記所定のコンテンツとしては、携帯端末MSaのユーザが、予めコンテンツサーバSより取得して携帯端末MSaに格納したコンテンツ、または携帯端末MSa自体が有するコンテンツを携帯端末MSb,MSc,MSdへ配信するとする。
【0050】
以下、コンテンツ視聴時の動作として、2通りの処理フローを説明する。
【0051】
≪方法1;携帯端末MSaにてコンテンツデータ送出時刻を調整しない場合≫
携帯端末MSaは、配信するコンテンツ情報であるSDPを、テレビ電話通話で制御プロトコルとして用いているSIPにより携帯端末MSb,MSc,MSdに通知することが可能である。このSDPによって、Tフィールドにコンテンツデータ再生開始時刻を記述し、RTPタイムスタンプをマッピングすることにより、コンテンツデータ送信端末(携帯端末MSa)と全てのコンテンツデータ受信端末(携帯端末MSb,MSc,MSd)とでコンテンツデータを同時に再生開始することができる。以下、コンテンツデータ送出時刻を調整しない場合の携帯端末間の処理フローを示す図7を参照して参照して詳細に説明する。
【0052】
(ステップ11)
携帯端末MSaの制御部21は、携帯端末MSb,MSc,MSdを一つのグループとして、これに対してRTCPによって計測し且つ保持している最大伝送遅延時間及び最大ジッタを用いて、次のようにしてコンテンツデータ再生開始時刻を算出する。
【0053】
コンテンツデータ再生開始時刻 = 端末MSaのコンテンツ送出開始時刻 + 最大伝送遅延 + 最大ジッタ
(ステップ12)
携帯端末MSaは、上記のように算出したコンテンツデータ再生開始時刻を、携帯端末MSb,MSc,MSdに送信する全てのSDPにおけるTフィールドに記述する。
【0054】
(ステップ13)
携帯端末MSaは、SIPを用いて携帯端末MSb,MSc,MSdへ配信するコンテンツ情報であるSDPを通知する。
【0055】
(ステップ14)
一定時間経過後、携帯端末MSaは、携帯端末MSb,MSc,MSdに対して同時に、コンテンツデータの送信を開始する。
【0056】
(ステップ15)
携帯端末MSb,MSc,MSdは、コンテンツデータを受信すると、SDPに記述されているコンテンツデータ再生開始時刻まで、当該コンテンツデータをバッファリングする。
【0057】
(ステップ16)
携帯端末MSa,MSb,MSc,MSdは、コンテンツデータ再生開始時刻になると同時に、当該コンテンツデータの再生を開始する。
【0058】
≪方法2;携帯端末MSaにてコンテンツデータ送出時刻を調整する場合≫
携帯端末MSaは、送信するコンテンツデータが携帯端末MSb,MSc,MSdに到達する時刻を同時刻とする為に、コンテンツデータ送信開始時刻を各携帯端末ごとの伝送遅延に応じて決定する。これにより、携帯端末MSb,MSc,MSdにおけるコンテンツデータのバッファ量を最小にして、コンテンツ送信端末である携帯端末MSaと、コンテンツ受信端末である携帯端末MSb,MSc,MSdにて同時にコンテンツデータの再生出力を開始させることが可能となる。以下、コンテンツデータ送出時刻を調整する場合の携帯端末間の処理フローを示す図8を参照して詳細に説明する。
【0059】
(ステップ21)
携帯端末MSaの制御部21は、携帯端末MSb,MSc,MSdを一つのグループとして、それに対してRTCPによって計測し且つ保持している最大伝送遅延時間及び最大ジッタを用いて、次のようにしてコンテンツデータ再生開始時刻を算出する。
【0060】
コンテンツデータ再生開始時刻 = 端末MSaのコンテンツ送出開始時刻 + 最大伝送遅延 + 最大ジッタ
(ステップ22)
携帯端末MSaは、上記のように算出したコンテンツデータ再生開始時刻を、携帯端末MSb,MSc,MSdに送信する全てのSDPにおいてTフィールド等に記述する。ここでSDPのフィールド値の使用方法についは各端末間であらかじめ決定されているものとする。
【0061】
(ステップ23)
携帯端末MSaは、SIPを用いて携帯端末MSb,MSc,MSdへ配信するコンテンツ情報であるSDPを通知する。
【0062】
(ステップ24)
携帯端末MSaは、携帯端末MSb,MSc,MSdごとに、コンテンツデータの送信を開始する時刻を、次のようにして算出する。
【0063】
コンテンツデータ送信開始時刻 = コンテンツ再生開始時刻 − 端末Xの最大伝送遅延 − 端末Xの最大ジッタ (端末XはMSb、MScまたはMSd)
(ステップ25)
携帯端末MSaは、携帯端末MSb,MSc,MSdごとに算出した上記のコンテンツデータ送信開始時刻に、コンテンツデータの送信を開始する。
【0064】
(ステップS26)
携帯端末MSb,MSc,MSdは、携帯端末MSaから送信されたコンテンツデータを受信すると、上記(ステップS23)にて通知されたSDPに記述されているコンテンツ再生開始時刻まで、コンテンツデータをバッファリングする。
【0065】
(ステップS27)
携帯端末MSa,MSb,MSc,MSdは、コンテンツデータの再生開始時刻になると同時に、コンテンツデータの再生を開始する。
【0066】
以上、[コンテンツデータ視聴時の動作]として2通りの方法を説明したが、上記≪方法1≫よりも上記≪方法2≫の方が、携帯端末MSb,MSc,MSdにとってコンテンツデータのバッファリングの量をより少量にして、上述したようなコンテンツデータの各携帯端末における同時再生を実現することが可能となる。
【0067】
また、上述のようにして開始したコンテンツデータの視聴時には、例えば携帯端末MSaの表示器33には、図9に示すような画面が表示される。すなわち、例えば携帯端末MSaの表示器33には、図3を参照して説明した表示画面の他に、コンテンツ映像33Eが表示される。
【0068】
なお、上述したように、本一実施形態においては、コンテンツデータ再生開始時刻及びコンテンツデータの受信端末(携帯端末MSb,MSc,MSd)におけるコンテンツデータのバッファリング量等は、コンテンツデータの送信端末(携帯端末MSa)によって算出され指定される。つまり、本一実施形態に係る携帯端末間における統計情報は、コンテンツデータを送信する端末(携帯端末MSa)によって取り扱われる。なお、本一実施形態に係る携帯端末は全て、コンテンツデータの送信機能及び受信機能の双方を有しており、統計情報の取り扱いが可能であることは勿論である。
【0069】
ところで、上述したようにテレビ電話機能を利用すると同時に、コンテンツデータの再生を行う場合は、テレビ電話機能による音声とコンテンツデータの再生による音声とをミキシング処理する必要が生じる。このミキシング処理は、例えば各携帯端末またはサーバによって行う必要がある。
【0070】
なお、上記のミキシング処理においては、例えばテレビ電話機能による音声の音量とコンテンツデータの再生による音声の音量とが同程度の場合には、通常のミキシング処理では双方の音声が聞き取りづらくなる可能性が高いことを考慮して、次のような処理を行う。すなわち、このような場合、例えばテレビ電話機能による音声の優先度を高くして、コンテンツデータによる音声よりも聞き取りやすくすることで、よりスムーズに会話を楽しめるようにする。
【0071】
以下、携帯端末MSaが、テレビ電話機能の利用時であってコンテンツデータを携帯端末MSb,MSc,MSdに送信中に、受信側の携帯端末からコンテンツデータの再生出力の一時停止要求メッセージを受信して再生出力の一時停止をした場合に、その後再生出力再開時に当該コンテンツデータを再送信することなく、通信中の全ての携帯端末で同一時刻のタイムスタンプ値を有するストリームデータから再生出力を再開できるにする為の各携帯端末における動作制御について説明する。
【0072】
[コンテンツ視聴を一時停止する時の動作]
まず、コンテンツデータの視聴を一時停止させる場合には、通常次のような問題が生じる。
【0073】
例えば、携帯端末MSbによってコンテンツデータ再生の一時停止が実行された場合、携帯端末MSbにおけるコンテンツデータの再生は即座に停止する。しかしながら、コンテンツデータ再生の一時停止要求が、携帯端末MSbから携帯端末MSaへ到達するまでは、携帯端末MSaは、コンテンツデータの再生を停止せずに、携帯端末MSb,MSc,MSdへコンテンツデータを送信し続ける。
【0074】
したがって、その後一時停止を解除してコンテンツデータの再生を再開させる場合に、携帯端末MSb,MSc,MSdにてコンテンツデータの再バッファリングをせずに、同一時刻のタイムスタンプ値を有するコンテンツデータから再生を再開させる為には、携帯端末MSb,MSc,MSdは、上記の一時停止時にバッファに残っているコンテンツデータと一時停止後に携帯端末MSaが送信したコンテンツデータとをバッファに保持しておく必要がある。
【0075】
また、携帯端末MSaは、携帯端末MSbが一時停止を実行し携帯端末MSaに一時停止要求を送信してから携帯端末MSaに一時停止要求が到達するまでの間に、コンテンツデータの再生を継続してしまっている。
【0076】
したがって、この間の再生済みコンテンツデータを、携帯端末MSb,MSc,MSdは、再生済データバッファ部223に保持する必要がある。以下、図10及び図11を参照して、コンテンツデータの再生の一時停止を実行する場合の各携帯端末の動作制御を詳細に説明する。
【0077】
ここで、図10はコンテンツデータの再生の一時停止を実行する場合の各携帯端末における動作を示す図であり、図11はコンテンツデータの再生の一時停止を実行する場合の各携帯端末におけるコンテンツデータのバッファ量を示す図である。
【0078】
≪携帯端末MSbの動作(一時停止を実行する端末の動作)≫
(ステップ31)
コンテンツデータの再生の一時停止を実行する。
【0079】
(ステップ32)
コンテンツデータの再生を一時停止し、SIPを用いて携帯端末MSaへコンテンツデータの一時停止要求を送信する。
【0080】
(ステップ33)
コンテンツデータの再生の一時停止時刻を記憶し、且つ一時停止時にバッファリングされている未再生のコンテンツデータ(b1)を未再生データバッファ部222に保持する。
【0081】
(ステップ34)
コンテンツデータの一時停止を実行して(ステップ31)から、携帯端末MSaがコンテンツデータの送信を停止するまでの間に、当該携帯端末MSbに対して携帯端末MSaが送信したコンテンツデータ(b2)を、上記(ステップ33)で保持したコンテンツデータに追加して未再生データバッファ部222に保持する。
【0082】
≪携帯端末MSaの動作(コンテンツデータ配信端末の動作)≫
(ステップ41)
携帯端末MSbからのコンテンツデータ再生の一時停止要求を受信すると、コンテンツデータの再生を一時停止すると同時にコンテンツデータの送信を停止し、更に携帯端末MSc,MSdに対して一時停止要求を転送する。
【0083】
(ステップ42)
携帯端末MSbから送信された一時停止要求に含まれる携帯端末MSbの一時停止時刻(以降、停止要求端末一時停止時刻と称する)を記憶する。
【0084】
(ステップ43)
上記停止要求端末一時停止時刻から一時停止要求受信時刻までの間に再生したコンテンツデータ(a2)を抽出して、再生済データバッファ部223に保持する。
【0085】
(ステップ44)
一時停止時において未再生データバッファ部222に残っているコンテンツデータ(a1)をそのまま保持する。
【0086】
≪携帯端末MSc,MSdの動作≫
(ステップ51)
携帯端末MSaからコンテンツ再生一時停止要求を受信すると、コンテンツ再生を一時停止する。
【0087】
(ステップ52)
携帯端末MSaから送信された一時停止要求に含まれる上記停止要求端末一時停止時刻を記憶する。
【0088】
(ステップ53)
携帯端末MSaと同様、予め再生済データバッファ部223に保持していた再生済みコンテンツデータにおいて上記停止要求端末一時停止時刻から一時停止要求受信時刻までの間に再生したコンテンツデータ(c2,d2)を抽出して、再生済みデータバッファに保持する。
【0089】
(ステップ54)
一時停止時に未再生データバッファ部に残っているコンテンツデータ(c1,d1)をそのまま保持する。
【0090】
以上説明したように、各携帯端末にバッファリングされるコンテンツデータのデータ量は、図10及び図11に示すように各携帯端末のネットワーク伝送遅延時間に応じて算出する為、再生済みのコンテンツデータも含めてバッファに保持するデータ量を必要最小限にし、且つ再生出力再開時に当該コンテンツデータを再送信することなく、通信中の全ての携帯端末で同一時刻のタイムスタンプ値を有するデータから再生出力を再開することができる。
【0091】
以下、コンテンツデータの再生再開時の各携帯端末における動作制御を示す図である図12を参照して、その動作制御を説明する。
【0092】
[コンテンツ視聴再開(再生再開)時の動作]
ここでは、携帯端末MScによってコンテンツ再生の再開操作が実行される場合を想定する。この携帯端末MScは、当然ながら各携帯端末間の伝送遅延時間を管理していない。したがって、まず携帯端末MScは、再生再開要求を携帯端末MSaに送信し、携帯端末MSaが各携帯端末との最大伝送遅延時間に基づいて、全ての携帯端末が再生再開する時刻を決定する。そして、携帯端末MSaが、この再生再開時刻を各携帯端末に通知することによって、各携帯端末は未再生データバッファ部222または再生済データバッファ部223にバッファリングされている一時停止時刻に対応するデータから、上記再生開始時刻に同時に再生を再開することができる。
【0093】
以下、図12を参照して、コンテンツデータの再生再開時の各携帯端末における動作制御を詳細に説明する。
【0094】
≪携帯端末MScの動作(再生再開を実行する端末の動作)≫
(ステップ61)
携帯端末MScは、再生再開が選択されると、携帯端末MSaへSIPあるいはRTSP等の制御プロトコルを用いて再生再開要求を携帯端末MSaへ送信し、携帯端末MSaからの再生再開要求を待つ。
【0095】
(ステップ62)
携帯端末MSaから再生再開時刻を通知する再生再開要求を受信すると、この再生再開時刻を、一時停止時に記憶してある上記停止要求端末一時停止時刻にマッピングする為に、再生済データバッファ部223から一時停止時刻に対応するコンテンツデータを検索する。
【0096】
(ステップ63)
携帯端末MSaから通知された上記再生再開時刻になると、再生済データバッファ部223に保持されているコンテンツデータを、上記停止要求端末一時停止時刻に対応する時点から再生する。
【0097】
≪携帯端末MSaの動作(コンテンツデータを送信する端末)≫
(ステップ71)
携帯端末MScからの再生再開要求を受信すると、再生再開要求受信時刻にコンテンツ送信先端末(携帯端末MSb,MSc,MSd)に対する最大伝送遅延時間を加算して再生再開時刻を算出する。
【0098】
(ステップ72)
コンテンツ送信先の全ての携帯端末に対して再生再開要求を送信し、これにより算出した再生再開時刻を通知する。
【0099】
(ステップ73)
上記(ステップ72)において算出した再生再開時刻を一時停止時に記憶してある上記停止要求端末一時停止時刻にマッピングする為に、再生済データバッファ部223から一時停止時刻に対応するコンテンツデータを検索する。
【0100】
(ステップ74)
上記(ステップ72)において算出した再生再開時刻になると、再生済データバッファ部223に保持されているコンテンツデータを、上記停止要求端末一時停止時刻に対応する時点から再生する。
【0101】
≪携帯端末MSb,MSdの動作≫
(ステップ81)
携帯端末MSaから再生再開時刻を通知する再生再開要求を受信すると、この再生再開時刻を一時停止時に記憶してある上記停止要求端末一時停止時刻にマッピングする為に、再生済データバッファ部223から一時停止時刻に対応するコンテンツデータを検索する。
【0102】
(ステップ82)
携帯端末MSaから通知された上記再生再開時刻になると、未再生データバッファ部222または再生済データバッファ部223に保持されているコンテンツデータを、上記停止要求端末一時停止時刻に対応する時点から再生する。
【0103】
以下、上述した本一実施形態に係る携帯端末に特有の主な特徴を、従来より存在した技術と比較しながら説明する。
【0104】
まず、従来よりある端末から他の端末へテレビ電話映像及び音声に加えてストリームデータを送信する場合、ストリームデータを受信している端末では再生出力していないデータをそれぞれのネットワーク伝送遅延時間に応じて算出した量だけバッファリングすることによって同時再生出力させることは可能であった。
【0105】
しかしながら、一時停止要求メッセージを伝送する場合のように、ある受信側の端末装置から送信側の端末装置及び他の受信側の端末装置へ要求メッセージを伝送する場合には、要求メッセージにネットワーク伝送遅延が発生する為、全ての端末装置で再生出力を同時に停止することが困難であり、再生再開時には各端末装置で異なる時刻のデータから再生出力するしかない。
【0106】
そこで、本一実施形態に係る携帯端末では、再生再開時に全ての携帯端末で同一時刻のタイムスタンプ値を有するストリームデータから再生出力を再開できるようにする為に、未再生のストリームデータに加えて再生出力済みのストリームデータも、上述のようにして算出した所定量だけバッファリングする。
【0107】
より詳しくは、再生出力済みのストリームデータのバッファ量を、必要最小限のバッファ量とする為に、一時停止要求メッセージを送信した携帯端末とストリームデータを送信している携帯端末との間のネットワーク伝送遅延時間、及びストリームデータを送信している携帯端末と他の携帯端末間のネットワーク伝送遅延時間に基づいて算出する。
【0108】
ここで、上述したように携帯端末間のネットワーク伝送遅延時間(ストリームデータを送信する携帯端末と、ストリームデータを受信する他の携帯端末との間のネットワーク伝送遅延時間)は、テレビ電話における映像データまたは音声データのネットワーク伝送遅延時間を測定することにより予め取得できる。
【0109】
なお、ネットワーク伝送遅延時間情報を、テレビ電話の通話セッションにおける制御情報として送受信することも可能である。
【0110】
以上説明したように、本一実施形態によれば、テレビ電話機能を有し且つ複数多地点間でのストリームデータの送受信が可能な端末装置であって、テレビ電話機能の利用時且つストリームデータを他の端末装置に送信中に、当該ストリームデータの受信側の端末装置からストリームデータの再生出力の一時停止要求メッセージを受信すると、再生出力再開時に当該ストリームデータを再送信することなく、通信中の全ての端末装置と同期して同一時刻のタイムスタンプ値を有するデータから再生出力を再開できるよう制御する端末装置を提供することができる。
【0111】
具体的には、テレビ電話機能利用時に映像データ及び音声データを伝送するために各端末装置間で送受信される統計情報を上述したように用いること等によって、次のことが可能となる。すなわち、本一実施形態に係る端末装置によれば、テレビ電話で通話をしながらコンテンツを視聴する際に通話者全員の端末装置におけるコンテンツデータの再生時刻を同一にして、通話者全員が違和感なく映像コンテンツを視聴しながら会話することができ、且つコンテンツ視聴中においてコンテンツデータの再生を一時停止した場合であっても、再生再開時には通話者全ての端末装置において同一の箇所から再生を再開することができる。
【0112】
つまり、本一実施形態に係る端末装置によれば、図9に示すように、通話者全員が同一のコンテンツを同一時刻で鑑賞しながら、テレビ電話によるコミュニケーションをとることが可能となる。
【0113】
より詳細には、本一実施形態に係る端末装置によれば、以下のような効果を得ることができる。
【0114】
まず、再生済データバッファ部223によってコンテンツデータの再生の一時停止時刻以降のデータは全てバッファリングされる為、コンテンツデータの再生再開時に、一時停止時刻のデータから再生を再開できる。
【0115】
また、上述したように伝送遅延時間に基づいて、再生済データバッファ部223にバッファリングしなければならない最小のデータ量を算出することができる為、このデータ量サイズのバッファだけを確保してリソースを最小にすることができる。
【0116】
ところで、テレビ電話の通話においては映像データ及び音声データを双方向で送受信しているので、ストリームデータの送受信に関わらず伝送遅延時間を常時計測することが可能であることを利用する。すなわち、伝送遅延時間を以ってストリームデータの伝送遅延時間とみなすことで、ストリームデータの送信開始直後からストリームデータの再生の一時停止操作が可能となる。
【0117】
そして、テレビ電話通話においては、映像データ及び音声データを双方向で送受信する為にセッションを確立しており、このセッション上で統計情報の交換等を行っていることを利用する。つまり、ストリームデータの送受信を片方向しか行わなくても、テレビ電話のセッションを利用して、端末装置間で相互に伝送遅延時間情報を交換することができる。
【0118】
以上、一実施形態に基づいて本発明を説明したが、本発明は上述した実施形態に限定されるものではなく、本発明の要旨の範囲内で種々の変形及び応用が可能なことは勿論である。
【0119】
例えば、上記一実施形態においては、携帯端末MSaから携帯端末MSb,MSc,MSdへのSDP通知にはSIPを用いたが、SIP以外にも例えばコンテンツ配信情報制御プロトコルであるFLUTE(RFC3926)を用いることも可能である。
【0120】
また、上記一実施形態においては、コンテンツの再生及び一時停止等の制御プロトコルにはテレビ電話通話で利用しているSIPを利用するとして説明したが、RTSPを用いて制御することも勿論可能である。
【0121】
なお、上記コンテンツデータとしては、地上波デジタル放送の映像データ及び音声データ等、様々なデータを用いることができるのは勿論である。
【0122】
なお、上記一実施形態においては、説明の便宜上4人によるテレビ電話を想定して説明したが、テレビ電話による通話人数は4人に限定されないことは勿論良いことは言うまでも無い。
【0123】
さらに、上述した実施形態には種々の段階の発明が含まれており、開示される複数の構成要件の適当な組み合わせにより種々の発明が抽出され得る。例えば、実施形態に示される全構成要件からいくつかの構成要件が削除されても、発明が解決しようとする課題の欄で述べた課題が解決でき、発明の効果の欄で述べられている効果が得られる場合には、この構成要件が削除された構成も発明として抽出され得る。
【図面の簡単な説明】
【0124】
【図1】本発明の一実施形態に係る携帯端末を利用して、複数多地点間でテレビ電話機能によりリアルタイムにコミュニケーションを取りながら、ストリームデータの送受信を行う場合のシステム構成の一例を示す図である。
【図2】本発明の一実施形態に係る携帯端末の構成の一例を示すブロック図である。
【図3】マルチメディアデコーダの構成の一例を示す図である。
【図4】テレビ電話機能利用時の表示器における表示画面の一例を示す図である。
【図5】SRのフォーマットを示す図である。
【図6】RRのフォーマットを示す図である。
【図7】コンテンツデータ送出時刻を調整しない場合の携帯端末間の処理フローを示す図である。
【図8】コンテンツデータ送出時刻を調整する場合の携帯端末間の処理フローを示す図である。
【図9】コンテンツデータ視聴時の表示器における表示画面の一例を示す図である。
【図10】コンテンツデータの再生の一時停止を実行する場合の各携帯端末における動作を示す図である。
【図11】コンテンツデータの再生の一時停止を実行する場合の各携帯端末におけるバッファ量を示す図である。
【図12】コンテンツデータの再生再開時の各携帯端末における動作を示す図である。
【符号の説明】
【0125】
MSa,MSb,MSc,MSd…携帯端末、 INW…IP網、 SSV…SIPサーバ、 CSV…コンテンツサーバ、 S…コンテンツサーバ、 MNW1,MNW2…携帯網、 2…ベースバンドユニット、 3…入出力ユニット、 4…電源ユニット、 5…近距離無線ユニット、 5A,11…アンテナ、 12…アンテナ共用器、 13…受信回路、 14…周波数シンセサイザ、 15…送信回路、 21…制御部、 22…マルチメディアデコーダ、 23…マルチメディアエンコーダ、 24…カメラインタフェース、 25…マイクロホンインタフェース、 26…表示インタフェース、 27…スピーカインタフェース、 28…メモリ、 31…カメラ、 32…マイクロホン、 33…表示器、 33A,33B,33C,33D…相手画像、 33E…コンテンツ映像、 34…スピーカ、 35…キー入力部、 41…バッテリ、 42…充電回路、 43…電圧生成回路、 50…SR、 51…NTPタイムスタンプフィールド、 52…RTPスタンプフィールド、 53…パケットカウントフィールド、 54…オクテットカウントフィールド、 60…RR、 61…SSRCフィールド、 62A…欠落率フィールド、 62B…累積欠落パケット数フィールド、 63…最大拡張シーケンス番号フィールド、 64…パケット間隔ジッタフィールド、 65…タイムスタンプフィールド、 66…最新送信レポート経過時間フィールド、 211…テレビジョン電話通信制御機能、 212…コンテンツ配信制御機能、 213…コンテンツ再生制御機能、 214…再開制御機能、 215…バッファ量決定制御機能、 221…コンテンツ再生部、 222…未再生データバッファ部、 223…再生済データバッファ部。
【特許請求の範囲】
【請求項1】
外部から入力されるクロックにより他の端末装置と同期してストリームデータの再生を行う端末装置であって、
上記ストリームデータを受信するストリームデータ受信部と、
上記ストリームデータ受信部によって受信したストリームデータをバッファリングする未再生データバッファ部と、
上記ストリームデータを再生する為のデータ再生部と、
上記データ再生部によって再生された上記ストリームデータを所定量だけバッファリングする再生済データバッファ部と、
上記他の端末装置と同期して上記データ再生部によって上記ストリームデータを再生中に、当該ストリームデータの再生一時停止操作が行われ且つ再生再開操作が行われた場合に、上記再生済データバッファ部にバッファリングされたストリームデータを用いて、上記ストリームデータの再生再開タイミングを調整する再生再開制御部と、
上記再生一時停止操作の時刻を管理する停止時刻管理部と、
を具備し、
上記再生再開制御部は、上記停止時刻管理部が管理する再生一時停止操作の時刻に基づいて上記再生再開タイミングの調整を行うことで、上記他の端末装置と同期して、上記他の端末装置における再生再開時のデータと同一時刻のタイムスタンプ値を有するデータから再生を再開させる制御を行うことを特徴とする端末装置。
【請求項2】
ストリームデータを上記他の端末装置へ送信するストリームデータ送信部と、
当該端末装置が上記他の端末装置へストリームデータを送信するモードであるストリームデータ送信モードに設定されている場合には、上記他の端末装置と当該端末装置との間のネットワーク伝送遅延時間を算出し、該算出結果に基づいて上記他の端末装置における上記再生済データバッファ部がバッファリングする上記所定量を算出して上記他の端末装置へ通知するバッファ量決定部と、
を含むことを特徴とする請求項1に記載の端末装置。
【請求項3】
通話に使用する映像データまたは音声データの、上記他の端末装置と当該端末装置との間におけるネットワーク伝送遅延時間を測定するネットワーク伝送遅延時間取得部を更に含むことを特徴とする請求項2に記載の端末装置。
【請求項4】
通話に使用するデータを伝送する為に確立されているセッションを伝送路として、上記ネットワーク伝送遅延時間取得部による上記測定の結果を上記他の端末装置と互いに伝送する遅延時間伝送部を更に含むことを特徴とする請求項3に記載の端末装置。
【請求項1】
外部から入力されるクロックにより他の端末装置と同期してストリームデータの再生を行う端末装置であって、
上記ストリームデータを受信するストリームデータ受信部と、
上記ストリームデータ受信部によって受信したストリームデータをバッファリングする未再生データバッファ部と、
上記ストリームデータを再生する為のデータ再生部と、
上記データ再生部によって再生された上記ストリームデータを所定量だけバッファリングする再生済データバッファ部と、
上記他の端末装置と同期して上記データ再生部によって上記ストリームデータを再生中に、当該ストリームデータの再生一時停止操作が行われ且つ再生再開操作が行われた場合に、上記再生済データバッファ部にバッファリングされたストリームデータを用いて、上記ストリームデータの再生再開タイミングを調整する再生再開制御部と、
上記再生一時停止操作の時刻を管理する停止時刻管理部と、
を具備し、
上記再生再開制御部は、上記停止時刻管理部が管理する再生一時停止操作の時刻に基づいて上記再生再開タイミングの調整を行うことで、上記他の端末装置と同期して、上記他の端末装置における再生再開時のデータと同一時刻のタイムスタンプ値を有するデータから再生を再開させる制御を行うことを特徴とする端末装置。
【請求項2】
ストリームデータを上記他の端末装置へ送信するストリームデータ送信部と、
当該端末装置が上記他の端末装置へストリームデータを送信するモードであるストリームデータ送信モードに設定されている場合には、上記他の端末装置と当該端末装置との間のネットワーク伝送遅延時間を算出し、該算出結果に基づいて上記他の端末装置における上記再生済データバッファ部がバッファリングする上記所定量を算出して上記他の端末装置へ通知するバッファ量決定部と、
を含むことを特徴とする請求項1に記載の端末装置。
【請求項3】
通話に使用する映像データまたは音声データの、上記他の端末装置と当該端末装置との間におけるネットワーク伝送遅延時間を測定するネットワーク伝送遅延時間取得部を更に含むことを特徴とする請求項2に記載の端末装置。
【請求項4】
通話に使用するデータを伝送する為に確立されているセッションを伝送路として、上記ネットワーク伝送遅延時間取得部による上記測定の結果を上記他の端末装置と互いに伝送する遅延時間伝送部を更に含むことを特徴とする請求項3に記載の端末装置。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【公開番号】特開2008−167351(P2008−167351A)
【公開日】平成20年7月17日(2008.7.17)
【国際特許分類】
【出願番号】特願2007−200(P2007−200)
【出願日】平成19年1月4日(2007.1.4)
【出願人】(000003078)株式会社東芝 (54,554)
【Fターム(参考)】
【公開日】平成20年7月17日(2008.7.17)
【国際特許分類】
【出願日】平成19年1月4日(2007.1.4)
【出願人】(000003078)株式会社東芝 (54,554)
【Fターム(参考)】
[ Back to top ]