説明

送信装置、送信方法、及びプログラム

【課題】データ伝送路から伝送される画像を低遅延で表示する際に生じる画像の乱れ等を抑止する。
【解決手段】RTP通信部は、画像のキャプチャを開始するキャプチャタイミングを調整するための調整量を取得し、キャプチャ調整部は、調整量に基づいて、キャプキャプチャタイミングを調整し、キャプチャ部は、調整されたキャプチャタイミングに同期して画像をキャプチャし、RTP通信部は、キャプチャされた画像を受信装置に送信する。本技術は、例えば、画像をキャプチャして送信する送信装置に適用できる。

【発明の詳細な説明】
【技術分野】
【0001】
本開示は、送信装置、送信方法、及びプログラムに関し、特に、例えば、送信装置からネットワーク等のデータ伝送路を介して伝送される画像を低遅延で表示する際に生じる画像の乱れ等を抑止できるようにした送信装置、送信方法、及びプログラムに関する。
【背景技術】
【0002】
近年、例えば、遠隔地においてロボットアームを操作して患者を手術する遠隔手術が行われつつある。この遠隔手術では、手術の様子を撮像して得られる動画像を見ながら、執刀医がロボットアームを操作するため、数フレーム(又は数フィールド)以下の低遅延(ほぼリアルタイム)で、動画像が伝送されることが望ましい。
【0003】
そこで、動画像を構成する各ピクチャの数ラインをブロックデータとし、各ブロックデータ毎に、ウェーブレット変換による符号化(圧縮)を行う符号化技術が提案されている(例えば、特許文献1参照)。
【0004】
この符号化技術によれば、送信装置において、ピクチャ内の各ブロックデータ全ての入力を待つことなく符号化を開始し、その結果得られる符号化データを送信し、受信装置において、送信装置からの符号化データ全てを受信する前に復号(伸張)を開始することになる。
【0005】
このため、受信装置では、予め決められた、ピクチャを表示すべき表示タイミングまでに、符号化データを復号してピクチャを表示可能な状態にすることができる。よって、受信装置は、表示タイミングに同期してピクチャをモニタに表示させることができる。
【先行技術文献】
【特許文献】
【0006】
【特許文献1】特開2007−311924号公報
【発明の概要】
【発明が解決しようとする課題】
【0007】
しかしながら、例えば、ネットワーク等のデータ伝送路に輻輳が生じている場合、送信装置は、数フレーム以下の低遅延で動画像を送信できないことが生じ得る。
【0008】
この場合、受信装置では、予め決められた表示タイミングまでに、ピクチャを表示可能な状態にすることができなくなってしまう。表示タイミングまでに表示可能な状態とされなかったピクチャは、例えばモニタに表示されずにスキップされるため、モニタに表示される画像に乱れ等が生じ得る。
【0009】
本開示は、このような状況に鑑みてなされたものであり、データ伝送路から伝送される画像を低遅延で表示する際に生じる画像の乱れ等を抑止するものである。
【課題を解決するための手段】
【0010】
本開示の一側面の送信装置は、画像のキャプチャを開始するキャプチャタイミングを調整するための調整量を取得する取得部と、前記調整量に基づいて、前記キャプキャプチャタイミングを調整するキャプチャ調整部と、調整された前記キャプチャタイミングに同期して前記画像をキャプチャするキャプチャ部と、キャプチャされた前記画像を受信装置に送信する送信部とを含む送信装置である。
【0011】
前記受信装置は、前記画像を一時的に保持する保持部を有し、前記保持部に対して、前記送信部から受信した前記画像の書込みを行い、前記保持部に書き込まれた前記画像を、予め決められた表示タイミングに同期して表示させ、前記取得部には、前記保持部に対する前記画像の書込みが開始された書込み開始時刻から、予め決められた所要時間で書込みを終了できないときに許容される遅延時間を表す許容遅延時間と、前記許容遅延時間以下の遅延時間で書き込まれた前記画像の前記書込み開始時刻から、前記表示タイミングまでに少なくとも要する必要時間との比較結果に基づいて算出される前記調整量を取得させることができる。
【0012】
前記許容遅延時間を算出する第1の算出部と、前記必要時間を算出する第2の算出部と、前記許容遅延時間と前記必要時間とを比較する比較部と、前記比較部の比較結果に基づいて、前記調整量を算出する調整量算出部とをさらに設けることができ、前記取得部には、前記調整量算出部により算出された前記調整量を取得させることができる。
【0013】
前記調整量算出部には、前記必要時間が前記許容遅延時間よりも長いとの比較結果を得た場合、前記必要時間が前記許容遅延時間よりも長いという条件を満たす範囲内で、前記必要時間が短くなるように前記キャプチャタイミングを調整するための前記調整量を算出させることができる。
【0014】
前記調整量算出部には、前記必要時間が前記許容遅延時間よりも長くないとの比較結果を得た場合、前記必要時間が前記許容遅延時間よりも長くなるように前記キャプチャタイミングを調整するための前記調整量を算出させることができる。
【0015】
前記取得部には、前記受信装置からの前記調整量を受信することにより取得させることができる。
【0016】
前記受信装置の前記保持部に対する前記画像の書込みに要する書込み時間を測定する第1の測定部をさらに設けることができ、前記第1の算出部には、前記書込み時間の分布に基づいて、前記許容遅延時間を算出させることができる。
【0017】
前記受信装置の前記保持部に対する前記画像の書込みの開始に要する書込み準備時間を測定する第2の測定部をさらに設けることができ、前記第2の算出部には、前記書込み準備時間の分布に基づいて、前記必要時間を算出させることができる。
【0018】
本開示の一側面の送信方法は、画像をキャプチャして送信する送信装置の送信方法であって、前記送信装置による、画像のキャプチャを開始するキャプチャタイミングを調整するための調整量を取得する取得ステップと、前記調整量に基づいて、前記キャプキャプチャタイミングを調整するキャプチャ調整ステップと、調整された前記キャプチャタイミングに同期して前記画像をキャプチャするキャプチャステップと、キャプチャされた前記画像を受信装置に送信する送信ステップとを含む送信方法である。
【0019】
本開示の一側面のプログラムは、コンピュータを、画像のキャプチャを開始するキャプチャタイミングを調整するための調整量を取得する取得部と、前記調整量に基づいて、前記キャプキャプチャタイミングを調整するキャプチャ調整部と、調整された前記キャプチャタイミングに同期して前記画像をキャプチャするキャプチャ部と、キャプチャされた前記画像を受信装置に送信させる送信制御部として機能させるためのプログラムである。
【0020】
本開示の一側面によれば、画像のキャプチャを開始するキャプチャタイミングを調整するための調整量が取得され、前記調整量に基づいて、前記キャプキャプチャタイミングが調整され、調整された前記キャプチャタイミングに同期して前記画像がキャプチャされ、キャプチャされた前記画像が受信装置に送信される。
【発明の効果】
【0021】
本開示によれば、データ伝送路から伝送される画像を低遅延で表示する際に生じる画像の乱れ等を抑止することが可能となる。
【図面の簡単な説明】
【0022】
【図1】本開示における送受信システムの構成例を示すブロック図である。
【図2】表示タイミングに同期して画像を表示するときの一例を示す図である。
【図3】書込み情報を測定する測定方法の一例を示す図である。
【図4】書込み準備時間の分布の一例を示す図である。
【図5】バッファ書込み時間の分布の一例を示す図である。
【図6】必要時間及び許容遅延時間を算出する算出方法の一例を示す図である。
【図7】キャプチャタイミングに応じて、画像の書込みを開始する書込み開始時刻が変化する場合の一例を示す第1の図である。
【図8】キャプチャタイミングを調整する様子の一例を示す第1の図である。
【図9】調整後のキャプチャタイミングにより、画像の書込みを開始する書込み開始時刻が変化した場合の一例を示す第1の図である。
【図10】キャプチャタイミングに応じて、画像の書込みを開始する書込み開始時刻が変化する場合の一例を示す第2の図である。
【図11】キャプチャタイミングを調整する様子の一例を示す第2の図である。
【図12】調整後のキャプチャタイミングにより、画像の書込みを開始する書込み開始時刻が変化した場合の一例を示す第2の図である。
【図13】伝送時間が変化する様子の一例を示す第1の図である。
【図14】伝送時間が変化する様子の一例を示す第2の図である。
【図15】送信装置が行う送信処理を説明するためのフローチャートである。
【図16】図15におけるステップS6のキャプチャ調整処理を説明するためのフローチャートである。
【図17】受信装置が行う調整量算出処理を説明するためのフローチャートである。
【図18】奇数フィールド画像の書込み情報を測定する測定方法の一例を示す図である。
【図19】プログレッシブ画像の書込み情報を測定する測定方法の一例を示す図である。
【図20】コンピュータの構成例を示すブロック図である。
【発明を実施するための形態】
【0023】
以下、本開示における実施の形態(以下、本実施の形態という)について説明する。なお、説明は以下の順序で行う。
1.本実施の形態(キャプチャタイミングVblankを調整するようにして、画像の乱れ等を抑止するときの一例)
2.変形例
【0024】
<1.本実施の形態>
[送受信システムの構成例]
図1は、本開示における送受信システムを示している。
【0025】
この送受信システムは、送信装置21、受信装置22、及びインターネット等のネットワーク23から構成される。
【0026】
なお、この送受信システムは、送信装置21において、例えば、画像のキャプチャ(取得)を開始するキャプチャタイミングVblankを調整するようにして、調整後のキャプチャタイミングでキャプチャした画像を、受信装置22に送信する。
【0027】
これにより、受信装置22では、送信装置21から受信した画像に乱れ等を生じさせることなく、低遅延で表示できるようになる。
【0028】
[送信装置21の構成例]
送信装置21は、キャプチャ部41、符号化部42、パケット構成部43、RTP(real-time transport protocol)通信部44、キャプチャ調整部45、操作部46、及び制御部47から構成される。
【0029】
キャプチャ部41は、キャプチャ調整部45により調整されたキャプチャタイミングVblankに同期して、外部から入力される画像データ(ビデオINに対応)を取得(キャプチャ)し、符号化部42に供給する。なお、画像データとしては、例えば、複数のラインにより構成されるフレーム画像を採用することができる。その他、例えば、複数のラインのうち、奇数ライン又は偶数ラインの一方により構成されるフィールド画像を採用することができる。
【0030】
本実施の形態において、図1乃至図18を参照して行う説明では、画像データは、フィールド画像であるものとして説明する。この場合、キャプチャ部41は、キャプチャ調整部45により調整されたキャプチャタイミングVblankに同期して、画像データとして、奇数フィールド画像及び偶数フィールド画像を交互に取得し、符号化部42に供給する。
【0031】
なお、奇数フィールド画像とは、複数のラインのうち、奇数ラインにより構成されるフィールド画像をいう。また、偶数フィールド画像とは、複数のラインのうち、偶数ラインにより構成されるフィールド画像をいう。
【0032】
さらに、画像データとして、フレーム画像を採用する場合については、図19を参照して説明する。
【0033】
符号化部42は、キャプチャ部41からの画像データを符号化する符号化処理を行い、その符号化処理により得られる符号化データを、パケット構成部43に供給する。
【0034】
なお、符号化処理としては、画像データに対して、例えばウェーブレット変換を用いた符号化を施して圧縮するウェーブレット符号化処理を採用することができる。
【0035】
パケット構成部43は、符号化部42からの符号化データを、複数のRTPパケットにパケット化(変換)してRTP通信部44に出力する。なお、RTPパケットとは、IETF RFC3550に記載のRTPに則った形式のパケットを表す。
【0036】
RTP通信部44は、RTPに従って、パケット構成部43からのRTPパケットに対して、タイムスタンプとして、例えばRTPパケットを受信装置22に送信する際の送信時刻等を付加する。そして、RTP通信部44は、タイムスタンプを付加したRTPパケットを、ネットワーク23を介して受信装置22に送信する。
【0037】
また、RTP通信部44は、RTPに従って、受信装置22からネットワーク23を介して供給されるRTCPメッセージを受信し、キャプチャ調整部45に供給する。
【0038】
ここで、RTCPメッセージには、キャプチャタイミングVblankを調整するための調整量Zforward及びZbackwardが含まれている。調整量Zforward及びZbackwardは、例えば、受信装置22により算出されて送信される。なお、調整量Zforward又はZbackwardの一方は、例えば0とされる。
【0039】
キャプチャ調整部45は、RTP通信部44からの調整量Zforward及びZbackwardに基づいて、キャプチャ部41のキャプチャタイミングVblankを調整するキャプチャ調整処理を行う。
【0040】
すなわち、例えば、キャプチャ調整部45は、調整量Zforward=0である場合、キャプチャタイミングVblankを、調整量Zbackwardだけ早めるように調整する。また、例えば、キャプチャ調整部45は、調整量Zbackward=0である場合、キャプチャタイミングVblankを、調整量Zforwardだけ遅れるように調整する。なお、キャプチャ調整部45が行うキャプチャ調整処理の詳細は、図16を参照して後述する。
【0041】
操作部46は、ユーザにより操作される操作ボタン等であり、ユーザ操作に応じた操作信号を、制御部47に供給する。
【0042】
制御部47は、例えば、操作部46からの操作信号に基づいて、キャプチャ部41、符号化部42、パケット構成部43、及びRTP通信部44の各部を制御する。
【0043】
[受信装置22の構成例]
受信装置22は、RTP通信部61、パケット組立部62、復号部63、書込制御部64、バッファ65、表示制御部66、表示部67、書込情報測定部68、書込情報記憶部69、調整量算出部70、操作部71、及び制御部72から構成される。
【0044】
RTP通信部61は、RTP通信部44からネットワーク23を介して送信されてくるRTPパケットを受信し、パケット組立部62に供給する。また、RTP通信部61は、調整量算出部70からの調整量に基づいて、その調整量を含むRTCPメッセージを生成し、ネットワーク23を介して、RTP通信部44に送信する。
【0045】
パケット組立部62は、RTP通信部61からのRTPパケットを組み立てることにより、復号対象とされる符号化データを生成し、復号部63に供給する。
【0046】
復号部63は、パケット組立部62からの符号化データに対して、符号化部42で行なわれる符号化処理に対応する復号処理を行い、その結果得られる画像データを、書込制御部64に供給する。ここで、復号処理としては、例えば、ウェーブレット変換の逆変換による復号により伸張する復号処理等が採用される。
【0047】
書込制御部64は、復号部63からの画像データを、バッファ65に供給して記憶させる(書き込ませる)。また、書込制御部64は、各画像データ毎に、バッファ65に書込みを開始した書込み開始時刻Ts、及び書込みを終了した書込み終了時刻Teを、書込情報測定部68に供給する。
【0048】
バッファ65は、書込制御部64からの画像データを一時的に保持する。
【0049】
表示制御部66は、バッファ65から画像データを読み出し、表示部67に供給する。そして、表示制御部66は、予め決められた表示タイミングVblankに同期して、バッファ65から読み出した画像データを、表示部67に表示させる。
【0050】
次に、図2は、表示制御部66が、予め決められた表示タイミングVblankで各画像データを表示させる場合の一例を示している。
【0051】
なお、画像データは、例えば、フィールド画像であり、複数のラインのうち、奇数番目のラインにより構成される奇数フィールド画像nodd、又は複数のラインのうち、偶数番目のラインにより構成される偶数フィールド画像nevenの一方である。
【0052】
また、図2において、横軸は時刻を表し、縦軸は、対応する時刻において表示されるラインのライン番号を表す。ここで、奇数フィールド画像nodd及び偶数フィールド画像nevenは、それぞれ、540ラインで構成されているものとする。
【0053】
表示タイミングVblank(nodd)は、奇数フィールド画像noddの表示を開始する時刻を表す。また、表示タイミングVblank(neven)は、偶数フィールド画像nevenの表示を開始する時刻を表す。
【0054】
表示制御部66は、奇数フィールド画像noddをバッファ65から読み出し、予め決められた表示タイミングVblank(nodd)に同期して、表示部67に表示させる。また、表示制御部66は、偶数フィールド画像nevenをバッファ65から読み出し、予め決められた表示タイミングVblank(neven)に同期して、表示部67に表示させる。
【0055】
表示部67は、例えばインタレース方式により、各画像データを表示する。すなわち、例えば、表示部67は、表示制御部66からの制御にしたがって、各画像データとして、奇数フィールド画像noddと偶数フィールド画像nevenとを交互に表示する。なお、表示部67は、図1に示されるように、受信装置22の構成部分とされる他、受信装置22の構成部分に含めずに、独立して設けるようにしてもよい。この場合、受信装置22内の表示制御部66と、受信装置22の外部に設けられた表示部67とは、例えばケーブル等により接続される。
【0056】
書込情報測定部68は、バッファ65に書き込まれた偶数フィールド画像nevenの書込み情報を測定する。なお、書込情報測定部68は、偶数フィールド画像nevenの書込み情報に代えて、又は偶数フィールド画像nevenの書込み情報とともに、バッファ65に書き込まれた奇数フィールド画像noddの書込み情報を測定するようにしてもよい。このことは、図18を参照して後述する。
【0057】
また、例えば、画像データとしてフレーム画像が採用され、表示部67が、プログレッシブ方式により各画像データを表示するものである場合、書込情報測定部68は、各画像データを、フレーム画像とし、そのフレーム画像の書込み情報を測定することとなる。このことは、図19を参照して後述する。
【0058】
以下では、書込情報測定部68は、バッファ65に書き込まれた偶数フィールド画像nevenの書込み情報を測定するものとして説明する。
【0059】
書込情報測定部68は、バッファ65に書き込まれた偶数フィールド画像nevenの書込み情報として、例えば、偶数フィールド画像nevenの書き込みが開始されるまでに必要とされる書込み準備時間Xn、及び偶数フィールド画像nevenの書き込みに要するバッファ書込み時間Pnを測定する。
【0060】
次に、図3は、書込情報測定部68が、偶数フィールド画像nevenの書込み準備時間Xn及びバッファ書込み時間Pnを測定する場合の一例を示している。
【0061】
ここで、図3において、書込み開始時刻Tsは、バッファ65に対して偶数フィールド画像nevenの書込みが開始された時刻を表す。また、書込み終了時刻Teは、バッファ65に対して偶数フィールド画像nevenの書込みが終了された時刻を表す。
【0062】
なお、書込情報測定部68には、書込制御部64から、偶数フィールド画像nevenの書込み開始時刻Ts及び書き込み終了時刻Teが供給される。
【0063】
書込情報測定部68は、図3に示されるように、書込制御部64からの書込み開始時刻Tsと、予め決められた表示タイミングVblank(n-1even)とに基づいて、書込み準備時間Xn(=Vblank(n-1even)-Ts)を測定する。
【0064】
また、例えば、書込情報測定部68は、図3に示されるように、書込制御部64からの書込み開始時刻Ts及び書込み終了時刻Teに基づいて、バッファ書込み時間Pn(=Te-Ts)を測定する。
【0065】
書込情報測定部68は、偶数フィールド画像neven毎に測定した書込み準備時間Xn及びバッファ書込み時間Pnを、書込情報記憶部69に供給して記憶させる。
【0066】
図1に戻り、書込情報記憶部69は、書込情報測定部68からの書込み準備時間Xn及びバッファ書込み時間Pnを、書込み情報として記憶する。
【0067】
調整量算出部70は、書込情報記憶部69に記憶されている書込み情報に基づいて、送信装置21のキャプチャ部41におけるキャプチャタイミングVblankを調整するための調整量Zforward及びZbackwardを算出する調整量算出処理を行う。なお、この調整量算出処理については、例えば、図17を参照して詳述する。
【0068】
そして、調整量算出部70は、調整量算出処理により算出した調整量Zforward及びZbackwardを、RTP通信部61に供給する。
【0069】
操作部71は、ユーザにより操作される操作ボタン等であり、ユーザ操作に応じた操作信号を、制御部72に供給する。
【0070】
制御部72は、例えば、操作部71からの操作信号に基づいて、RTP通信部61、パケット組立部62、復号部63、書込制御部64、表示制御部66、書込情報測定部68、及び調整量算出部70の各部を制御する。
【0071】
[調整量算出処理及びキャプチャ調整処理の詳細]
次に、図4乃至図12を参照して、受信装置22の調整量算出部70が行う調整量算出処理、及び送信装置21のキャプチャ調整部45が行うキャプチャ調整処理について説明する。
【0072】
図4は、書込情報記憶部69に記憶されている書込み準備時間Xnの分布の一例を示している。
【0073】
図4において、横軸は書込み準備時間Xnを示しており、縦軸は書込み準備時間Xnの度数を示す。
【0074】
調整量算出部70は、書込情報記憶部69に記憶されている書込み準備時間Xnに基づいて、図4に示されるような書込み準備時間Xnの分布を表すX分布情報を生成する。
【0075】
そして、調整量算出部70は、書込み準備時間XnのX分布情報に基づいて、書込み準備時間Xnを昇順に並べたときの上位α(例えば、α=95)パーセントの書込み準備時間Xnと、残りの下位(100-α)パーセントの書込み準備時間Xnとを区別するための閾値Xthを算出する。
【0076】
ここで、この閾値Xthは、書込み準備時間Xnを昇順に並べたときの上位α(例えば、α=95)パーセントの書込み準備時間Xnの最大値以上であって、下位(100-α)パーセントの書込み準備時間Xnの最小値未満の値とされる。なお、値αは、例えば、ユーザ操作により予め決定される。
【0077】
次に、図5は、書込情報記憶部69に記憶されているバッファ書込み時間Pnの分布の一例を示している。
【0078】
図5において、横軸はバッファ書込み時間Pnを示しており、縦軸はバッファ書込み時間Pnの度数を示す。
【0079】
調整量算出部70は、書込情報記憶部69に記憶されている複数のバッファ書込み時間Pnに基づいて、図5に示されるようなバッファ書込み時間Pnの分布を表すP分布情報を生成する。
【0080】
そして、調整量算出部70は、バッファ書込み時間PnのP分布情報に基づいて、バッファ書込み時間Pnを昇順に並べたときの上位αパーセントのバッファ書込み時間Pnと、下位(100-α)パーセントのバッファ書込み時間Pnとを区別するための閾値Pthを算出する。
【0081】
ここで、この閾値Pthは、バッファ書込み時間Pnを昇順に並べたときの上位αパーセントのバッファ書込み時間Pnの最大値以上であって、下位(100-α)パーセントのバッファ書込み時間Pnの最小値未満の値とされる。
【0082】
次に、図6は、調整量算出部70が、閾値Pthに基づいて許容遅延時間Ythを、閾値Xthに基づいて必要時間Yをそれぞれ算出する場合の一例を示している。
【0083】
調整量算出部70は、図6に示されるように、バッファ書込み時間PnのP分布情報から算出した閾値Pthに基づいて、式(1)により許容遅延時間Ythを算出する。
Yth = Pth -(1/60) ・・・(1)
【0084】
ここで、許容遅延時間Ythとは、偶数フィールド画像nevenの書込みを開始した書込み開始時刻Tsから、予め決められた期待書込み時間1/60で書込みを終了できないときの遅延時間であって、少なくともαパーセントの確率で、偶数フィールド画像nevenに乱れ等を生じさせることなく表示させるために許容される遅延時間をいう。
【0085】
なお、期待書込み時間1/60は、書込制御部64において、データの書込みに遅延等が生じていない場合に期待される、偶数フィールド画像neven(又は奇数フィールド画像nodd)の書込み時間を表す。
【0086】
この期待書込み時間1/60は、例えば、偶数フィールド画像neven(又は奇数フィールド画像nodd)の表示に要する時間に応じて決定される。いまの場合、表示部67は、奇数フィールド画像と偶数フィールド画像をそれぞれ表示時間1/60で表示するようにしている。したがって、例えば、期待書込み時間も同様にして1/60とされる。なお、表示部67が、奇数フィールド画像と偶数フィールド画像をそれぞれ表示時間1/mで表示する場合、例えば期待書込み時間は1/mとされる。
【0087】
また、例えば、調整量算出部70は、書込み準備時間XnのX分布情報から算出した閾値Xthに基づいて、αパーセントの確率で受信される偶数フィールド画像neven、すなわち、許容遅延時間Yth以下の遅延時間で書き込まれる偶数フィールド画像nevenの必要時間Yを算出する。
【0088】
ここで、必要時間Yとは、許容遅延時間Yth以下の遅延時間でバッファ65に書き込まれる偶数フィールド画像nevenにおいて、書込み開始時刻Tsから表示タイミング(neven)までに少なくとも要する時間を表す。
【0089】
すなわち、例えば、調整量算出部70は、図6に示されるように、表示タイミングVblank(n-1even)と表示タイミング(neven)の表示間隔Vblank Interval、及び閾値Xthに基づいて、次式(2)により必要時間Yを算出する。
Y = Vblank Interval -Xth ・・・(2)
【0090】
調整量算出部70は、算出した必要時間Yが、次式(3)を満たすか否かに基づいて、少なくともαパーセントの確率で、偶数フィールド画像nevenに乱れ等を発生させることなく表示できるか否かを判定する。
Y > Yth ・・・(3)
【0091】
そして、調整量算出部70は、その判定結果に基づいて、調整量Zforward及びZbackwardを算出する。すなわち、例えば、調整量算出部70は、式(3)を満たす場合、図6に示されるように、調整量Zforward(=Y-Yth)を算出する。そして、調整量算出部70は、算出した調整量Zforwardと、0とされた調整量Zbackwardを、RTP通信部61に供給する。
【0092】
次に、図7乃至図9を参照して、式(3)を満たす場合に、調整量算出部70が行う調整量算出処理及びキャプチャ調整部45が行うキャプチャ調整処理について説明する。
【0093】
なお、以下では、受信装置22側の表示タイミングは、送信装置21側のキャプチャタイミングに同期しているものとして説明するが、表示タイミングは、キャプチャタイミングに同期していなくてもよい。
【0094】
図7Aに示されるように、送信装置21側では、キャプチャタイミングVblank(neven)に同期して、偶数フィールド画像nevenのキャプチャが開始される。
【0095】
受信装置22側において、式(3)を満たす場合、図7Bに示されるように、偶数フィールド画像nevenにおいて、書込み開始時刻Tsでバッファ65に対する書き込みが開始される。そして、ライン番号iのライン(i)は、ライン(i)の表示タイミングよりも前に、バッファ65に書き込まれることとなる。
【0096】
この場合、調整量算出部70は、図7Bに示されるように、調整量Zforward(=Y-Yth)を算出し、調整量Zbackward=0として、調整量Zforward及びZbackwardを、RTP通信部61に供給する。RTP通信部61は、調整量算出部70からの調整量Zforward及びZbackwardを含むRTCPメッセージを生成し、ネットワーク23を介して、送信装置21のRTP通信部44に送信する。
【0097】
送信装置21のRTP通信部44は、RTP通信部61からネットワーク23を介して受信したRTCPメッセージを、キャプチャ調整部45に供給する。
【0098】
キャプチャ調整部45は、RTP通信部44からのRTCPメッセージに含まれる調整量Zforward及びZbackwardに基づいて、キャプチャ部41のキャプチャタイミングVblankを調整する。
【0099】
いまの場合、RTCPメッセージに含まれる調整量Zbackward=0である。したがって、キャプチャ調整部45は、図8Aに示されるような現在のキャプチャタイミングVblankを、調整量Zforwardだけ遅れるようにして、図8Bに示されるようなキャプチャタイミングVblankに調整する。
【0100】
これにより、キャプチャ部41は、例えば、図9Aに示されるように、調整量Zforwardだけ遅れるように調整されたキャプチャタイミングVblankで、外部からの偶数フィールド画像nevenをキャプチャすることとなる。
【0101】
このため、受信装置22の書込制御部64は、図9Bに示されるように、調整量Zforwardだけ遅れた書込み開始時刻Ts'(=Ts+Zforward)から、偶数フィールド画像nevenの書込みを開始することとなる。この場合、式(3)を満たす範囲内で、必要時間Yは限りなく小さくされる。
【0102】
次に、図10乃至図12を参照して、式(3)を満たさない場合に、調整量算出部70が行う調整量算出処理及びキャプチャ調整部45が行うキャプチャ調整処理について説明する。
【0103】
なお、図10Aに示されるように、送信装置21側では、キャプチャタイミングVblank(neven)に同期して、偶数フィールド画像nevenのキャプチャが開始される。
【0104】
受信装置22側において、式(3)を満たさない場合、図10Bに示されるように、偶数フィールド画像nevenにおいて、書込み開始時刻Tsでバッファ65に対する書き込みが開始される。そして、ライン番号iのライン(i)のうち、例えばライン番号L以降のライン(i≧L)が、ライン(i≧L)の表示タイミング以降に、バッファ65に書き込まれることとなる。
【0105】
なお、ライン番号Lのラインとは、図10Bにおいて、偶数フィールド画像nevenの各ラインの書込みタイミングを表す太い点線と、偶数フィールド画像nevenの各ラインの表示タイミングを表す実線とが交差するときのラインを表す。
【0106】
この場合、調整量算出部70は、図10Bに示されるように、調整量Zbackward(=Yth-Y)を算出し、調整量Zforward=0として、調整量Zforward及びZbackwardを、RTP通信部61に供給する。RTP通信部61は、調整量算出部70からの調整量Zforward及びZbackwardを含むRTCPメッセージを生成し、ネットワーク23を介して、送信装置21のRTP通信部44に送信する。
【0107】
送信装置21のRTP通信部44は、RTP通信部61からネットワーク23を介して受信したRTCPメッセージを、キャプチャ調整部45に供給する。
【0108】
キャプチャ調整部45は、RTP通信部44からのRTCPメッセージに含まれる調整量Zforward及びZbackwardに基づいて、キャプチャ部41のキャプチャタイミングVblankを調整する。
【0109】
いまの場合、RTCPメッセージに含まれる調整量Zforward=0である。したがって、キャプチャ調整部45は、図11Aに示されるような現在のキャプチャタイミングVblankを、調整量Zbackwardだけ早めるようにして、図11Bに示されるようなキャプチャタイミングVblankに調整する。
【0110】
これにより、キャプチャ部41は、例えば、図12Aに示されるように、調整量Zforwardだけ早めるように調整されたキャプチャタイミングVblankで、外部からの偶数フィールド画像nevenをキャプチャすることとなる。
【0111】
このため、受信装置22の書込制御部64は、図12Bに示されるように、書込み開始時刻Tsよりも調整量Zbackwardだけ早めた書込み開始時刻Ts'(Ts-Zbackward)から、偶数フィールド画像nevenの書込みを開始することとなる。この場合、図12Bに示されるように、式(3)は満たすものとなる。
【0112】
なお、調整量算出部70は、適宜、調整量算出処理を行う。これは、ネットワーク23の輻輳状況等に応じて、画像データの伝送時間が変化することにより、調整後のキャプチャタイミングVblankにおいても、図7A及び図7Bや、図10A及び図10Bに示されるような状態が生じることによる。
【0113】
次に、図13及び図14は、それぞれ、ネットワーク23の輻輳状況等に応じて伝送時間が変化する様子の一例を示している。
【0114】
図13及び図14において、縦軸は、画像データの各RTPパケットをそれぞれ表すパケット番号を示している。また、横軸は、画像データを構成するデータに対して、キャプチャ部41が行う「キャプチャ」処理、符号化部42が行う「符号化」処理、パケット構成部43が行う「パケット構成」処理、RTP通信部44とRTP通信部61との間でネットワーク23を介して行われるRTPパケットの「転送」処理、パケット組立部62が行う「パケット組立」処理、及び復号部63が行う「復号」処理にそれぞれ要する時間を示す。
【0115】
図13及び図14に示されるように、ネットワーク23の状況に応じて、「転送」処理に要する時間が大きく異なるものとなる。すなわち、ネットワーク23の輻輳が比較的小さい場合、図13に示されるように、「転送」処理に要する時間は短くなり、ネットワーク23の輻輳が比較的大きい場合、図14に示されるように、「転送」処理に要する時間は長いものとなる。
【0116】
したがって、ネットワーク23の輻輳状況等に応じて、「転送」処理に要する時間、ひいては伝送時間が変化することにより、図7A及び図7Bや、図10A及び図10Bに示されるような状態が生じるため、調整量算出部70は、適宜、調整量算出処理を行う必要がある。
【0117】
そして、キャプチャ調整部45は、調整量算出部70から、RTP通信部61、ネットワーク23及びRTP通信部44を介して供給される調整量Zforward及びZbackwardに基づいて、キャプチャ部41のキャプチャタイミングVblankを調整する必要がある。
【0118】
[送信装置21の動作説明]
次に、図15のフローチャートを参照して、送信装置21が行う送信処理について説明する。
【0119】
この送信処理は、例えば、画像データをキャプチャして送信するように、操作部46が操作されたときに開始される。このとき、制御部47は、操作部46からの操作信号に応じて、キャプチャ部41乃至キャプチャ調整部45を制御して送信処理を行う。
【0120】
すなわち、ステップS1において、キャプチャ部41は、制御部47からの制御にしたがって、後述するステップS6のキャプチャ調整処理で調整されたキャプチャタイミングVblankに同期して、外部から入力される画像データを取得し、符号化部42に供給する。
【0121】
なお、キャプチャ部41は、ステップS6のキャプチャ調整処理がまだ行われていない場合には、例えば、予め決められたキャプチャタイミングVblankに同期して、外部から入力される画像データを取得し、符号化部42に供給する。
【0122】
ステップS2において、符号化部42は、キャプチャ部41からの画像データを符号化する符号化処理を行い、その符号化処理により得られる符号化データを、パケット構成部43に供給する。
【0123】
ステップS3において、パケット構成部43は、符号化部42からの符号化データを、複数のRTPパケットにパケット化(変換)してRTP通信部44に出力する。
【0124】
ステップS4において、RTP通信部44は、RTPに従って、パケット構成部43からのRTPパケットに対して、タイムスタンプとして、例えばRTPパケットを受信装置22に送信する際の送信時刻等を付加する。そして、RTP通信部44は、タイムスタンプを付加したRTPパケットを、ネットワーク23を介して受信装置22に送信する。
【0125】
ステップS5において、RTP通信部44は、受信装置22からネットワーク23を介して、調整量Zforward及びZbackwardを含むRTCPメッセージを受信したか否かを判定し、受信していないと判定した場合、処理をステップS1に戻し、それ以降同様の処理が行われる。
【0126】
また、ステップS5において、RTP通信部44は、受信装置22からネットワーク23を介して、調整量Zforward及びZbackwardを含むRTCPメッセージを受信したと判定した場合、そのRTCPメッセージをキャプチャ調整部45に供給する。
【0127】
そして、ステップS6では、キャプチャ調整部45は、RTP通信部44からのRTCPメッセージに基づいて、キャプチャタイミングVblankを調整するキャプチャ調整処理を行う。また、ステップS6では、キャプチャ調整部45は、キャプチャ調整処理の終了後、処理をステップS1に戻し、それ以降同様の処理が行われる。なお、この送信処理は、例えば、画像データの送信を停止するように、ユーザにより、操作部46が操作されたときに終了される。
【0128】
次に、図16のフローチャートを参照して、図15のステップS6におけるキャプチャ調整処理について説明する。
【0129】
上述のように、キャプチャ調整部45には、RTP通信部44からRTCPメッセージが供給される。
【0130】
ステップS21において、キャプチャ調整部45は、RTP通信部44から供給されるRTCPメッセージから、そのRTCPメッセージに含まれる調整量Zforward及びZbackwardを取得(抽出)する。
【0131】
ステップS22において、キャプチャ調整部45は、取得した調整量Zbackwardが0であるか否かを判定し、調整量Zbackwardが0であると判定した場合、処理をステップS23に進める。
【0132】
ステップS23では、キャプチャ調整部45は、キャプチャ部41を制御し、キャプチャ部41のキャプチャタイミングVblankを、取得した他の調整量Zforwardだけ遅れるように調整する。
【0133】
すなわち、例えば、キャプチャ調整部45は、図8Aに示されるような現在のキャプチャタイミングVblankを、図8Bに示されるようなキャプチャタイミングVblankに調整する。
【0134】
これにより、キャプチャ部41は、図9Aに示されるような調整後のキャプチャタイミングVblankに同期して、各画像データをキャプチャする。そして、受信装置22の表示制御部66は、図9Bに示されるように、式(3)を満たす範囲内で、必要時間Yが可能な限り短くされた表示タイミングVblankで、画像データを表示するものとなる。
【0135】
また、ステップS22において、キャプチャ調整部45は、取得した調整量Zbackwardが0であるか否かを判定し、調整量Zbackwardが0ではないと判定した場合、つまり、調整量Zforwardが0であると判定した場合、処理をステップS24に進める。
【0136】
ステップS24では、キャプチャ調整部45は、キャプチャ部41を制御し、キャプチャ部41のキャプチャタイミングVblankを、取得した他の調整量Zbackwardだけ早めるように調整する。
【0137】
すなわち、例えば、キャプチャ調整部45は、図11Aに示されるような現在のキャプチャタイミングVblankを、図11Bに示されるようなキャプチャタイミングVblankに調整する。これにより、キャプチャ部41は、図12Aに示されるような調整後のキャプチャタイミングVblankに同期して、各画像データをキャプチャする。そして、受信装置22の表示制御部66は、図12Bに示されるように、式(3)を満たす表示タイミングVblankで、画像データを表示するものとなる。
【0138】
以上で、キャプチャ調整処理は終了され、図15のステップS6にリターンされ、処理はステップS1に戻される。そして、ステップS1では、キャプチャ部41は、キャプチャ調整処理により調整後のキャプチャタイミングVblankに同期して、各画像データをキャプチャする。
【0139】
以上説明したように、キャプチャ調整処理によれば、ステップS24において、キャプチャ調整部45は、式(3)を満たさない場合、式(3)が満たされるように、キャプチャタイミングVblankを調整するようにした。
【0140】
このため、受信装置22において、画像の一部分がスキップされることにより、画像に乱れ等が生じる事態を抑止することが可能となる。
【0141】
また、例えば、ステップS23において、キャプチャ調整部45は、式(3)を満たす場合でも、式(3)を満たす範囲内で、必要時間Yが可能な限り短くなるように、キャプチャタイミングVblankを調整するようにした。
【0142】
このため、奇数フィールド画像nodd及び偶数フィールド画像nevenにおいて、書込み開始時間から表示タイミングまでに要する時間が全体的に短くなるため、最小限の低遅延で画像を表示することが可能となる。
【0143】
[受信装置22の動作説明]
次に、図17のフローチャートを参照して、受信装置22が行う調整量算出処理について説明する。
【0144】
この調整量算出処理は、例えば、送信装置21からネットワーク23を介して、RTPパケットが送信されたときに開始される。このとき、RTP通信部61は、RTP通信部44からネットワーク23を介して送信されてくるRTPパケットを受信し、パケット組立部62に供給する。パケット組立部62は、RTP通信部61からのRTPパケットを組み立てることにより、復号対象とされる符号化データを生成し、復号部63に供給する。復号部63は、パケット組立部62からの符号化データに対して、符号化部42で行なわれる符号化処理に対応する復号処理を行い、その結果得られる画像データを書込制御部64に供給する。
【0145】
書込制御部64は、復号部63からの画像データ(奇数フィールド画像及び偶数フィールド画像)を、バッファ65に供給して記憶させる(書き込ませる)。また、書込制御部64は、偶数フィールド画像neven毎に、バッファ65に書込みを開始した書込み開始時刻Ts、及び書込みを終了した書込み終了時刻Teを、書込情報測定部68に供給する。
【0146】
表示制御部66は、バッファ65から、画像データとしての奇数フィールド画像及び偶数フィールド画像を読み出し、予め決められた表示タイミングVblankに同期して、表示部67に表示させる。
【0147】
ステップS41において、書込情報測定部68は、書込制御部64からの書込み開始時刻Ts、及び予め決められた表示タイミングVblankに基づいて、偶数フィールド画像nevenの書込み準備時間Xnを測定し、書込情報記憶部69に供給して記憶させる。
【0148】
ステップS42において、書込情報測定部68は、書込制御部64からの開示時刻Ts及び終了時間Teに基づいて、偶数フィールド画像nevenのバッファ書込み時間Pnを測定し、書込情報記憶部69に供給して記憶させる。
【0149】
ステップS43において、調整量算出部70は、内蔵する計時部(図示せず)により計時された計時時間が、所定の時間を経過したか否かを判定し、計時時間が所定の時間を経過していないと判定した場合、処理をステップS41に戻し、それ以降同様の処理が行われる。
【0150】
また、ステップS43において、調整量算出部70は、計時時間が所定の時間を経過したと判定した場合、処理をステップS44に進める。
【0151】
ステップS44において、調整量算出部70は、書込情報記憶部69から書込み準備時間Xnを読み出し、読み出した書込み準備時間Xnの分布を表すX分布情報を算出する。
【0152】
ステップS45では、調整量算出部70は、ステップS44で算出したX分布情報に基づいて、閾値Xthを算出する。
【0153】
ステップS46では、調整量算出部70は、表示間隔Vblank Intervalと閾値Xthに基づいて、式(2)により必要時間Yを算出する。
【0154】
ステップS47では、調整量算出部70は、書込情報記憶部69からバッファ書込み時間Pnを読み出し、読み出したバッファ書込み時間Pnの分布を表すP分布情報を算出する。
【0155】
ステップS48では、調整量算出部70は、ステップS47で算出したP分布情報に基づいて、閾値Pthを算出する。
【0156】
ステップS49では、調整量算出部70は、ステップS48で算出した閾値Pthと、期待書込み時間1/60に基づいて、式(1)により許容遅延時間Ythを算出する。
【0157】
ステップS50では、調整量算出部70は、ステップS46で算出した必要時間Yと、ステップS49で算出した許容遅延時間Ythに基づいて、式(3)を満たすか否かを判定し、式(3)を満たすと判定した場合、処理をステップS51に進める。
【0158】
ステップS51では、調整量算出部70は、図7Bに示したように、必要時間Yと許容遅延時間Ythに基づいて、調整量Zforward(=Y-Yth)を算出する。この調整量Zforwardは、式(3)を満たす範囲内で、必要時間Yが短くなるようにキャプチャタイミングVblankを調整するための調整量となる。
【0159】
ステップS52では、調整量算出部70は、調整量Zbackward=0とし、調整量Zforward及びZbackwardを、RTP通信部61に供給して、処理をステップS53に進める。
【0160】
そして、ステップS53において、RTP通信部61は、調整量算出部70からの調整量Zforward及びZbackwardを含むRTCPメッセージを生成し、ネットワーク23を介して、送信装置21のRTP通信部44に送信する。
【0161】
また、ステップS50では、調整量算出部70は、ステップS46で算出した必要時間Yと、ステップS49で算出した許容遅延時間Ythに基づいて、式(3)を満たしていないと判定した場合、処理をステップS54に進める。
【0162】
ステップS54では、調整量算出部70は、図10Bに示したように、必要時間Yと許容遅延時間Ythに基づいて、調整量Zbackward(=Yth-Y)を算出する。この調整量Zbackwardは、式(3)を満たすように、キャプチャタイミングVblankを調整するための調整量となる。
【0163】
ステップS55では、調整量算出部70は、調整量Zforward=0とし、調整量Zforward及びZbackwardを、RTP通信部61に供給して、処理をステップS53に進め、上述したステップS53の処理が行われる。以上で調整量算出処理は終了される。
【0164】
以上説明したように、調整量算出処理によれば、例えば、偶数フィールド画像nevenの書込み情報に応じて、式(3)を満たすようなキャプチャタイミングVblankとするための調整量Zforward及びZbackwardを算出するようにした。
【0165】
そして、キャプチャ調整処理において、調整量算出処理により算出された調整量Zforward及びZbackwardに基づいて、キャプチャタイミングVblankを調整するようにした。
【0166】
このため、受信装置22では、式(3)を満たした状態で、画像の書込みが行われることになるので、画像の一部分がスキップされることにより、画像に乱れ等が生じる事態を抑止することが可能となる。
【0167】
また、例えば、調整量算出処理によれば、式(3)を満たしている場合でも、式(3)を満たす範囲内で、必要時間Yが可能な限り短くなるように、キャプチャタイミングVblankを調整するための調整量Zforward及びZbackwardを算出するようにした。
【0168】
このため、奇数フィールド画像nodd及び偶数フィールド画像nevenにおいて、書込み開始時間から表示タイミングまでに要する時間が全体的に短くなるため、最小限の低遅延で画像を表示することが可能となる。
【0169】
<2.変形例>
なお、キャプチャ調整処理では、ステップS22において、調整量Zbackward=0である場合に、処理をステップS23に進めて、キャプチャタイミングVblankを、調整量Zforwardだけ早めるようにしたが、これに限定されない。
【0170】
すなわち、例えば、調整量Zbackward=0である場合には、式(3)を満たしているので、キャプチャタイミングVblankを調整せずに、そのままとするようにしてもよい。この場合、図7Bに示されるようにして、偶数フィールド画像nevenが、表示タイミングVblank(neven)に同期して表示されることとなる。
【0171】
また、受信装置22の調整量算出部70は、調整量Zforward及びZbackwardを算出するようにしたが、キャプチャタイミングの調整に用いる調整量のみを算出するようにしてもよい。この場合、RTP通信部61は、0とされる調整量の送信を行わずに、キャプチャタイミングの調整に用いる調整量のみを送信することとなる。
【0172】
そして、送信装置21のキャプチャ調整部45では、RTP通信部61から、ネットワーク23及びRTP通信部44を介して取得される調整量を用いて、キャプチャタイミングを調整することとなる。
【0173】
なお、本実施の形態では、受信装置22の調整量算出部70が、調整量Zforward及びZbackwardを算出するようにした。しかしながら、例えば、送信装置21に、書込情報測定部68乃至調整量算出部70を設けるようにして、送信装置21側で調整量Zforward及びZbackwardを算出するようにしてもよい。
【0174】
この場合、キャプチャ調整部45は、送信装置21側の調整量算出部70で算出された調整量Zforward及びZbackwardに基づいて、キャプチャタイミングを調整する。
【0175】
送信装置21に、書込情報測定部68乃至調整量算出部70を設ける場合、受信装置22の書込制御部64は、各画像データ毎の書込み開始時刻Tsと書込み終了時刻Te、及び表示タイミングVblankを、RTP通信部61に供給する。そして、RTP通信部61は、書込制御部64からの書込み開始時刻Ts、書込み終了時刻Te、及び表示タイミングVblankを、ネットワーク23を介して、送信装置21側の書込情報測定部68に供給することとなる。
【0176】
なお、送信装置21に、書込情報測定部68乃至調整量算出部70を設ける場合、受信装置22において、書込情報測定部68乃至調整量算出部70を設ける必要がなくなる。
【0177】
本実施の形態では、偶数フィールド画像nevenの書込み情報に基づいて、必要時間Y及び許容遅延時間Ythを算出するようにしたが、その他、例えば、図18に示されるように、奇数フィールド画像noddの書込み情報に基づいて、必要時間Y及び許容遅延時間Ythを算出することができる。また、例えば、奇数フィールド画像noddの書込み情報、及び偶数フィールド画像nevenの書込み情報に基づいて、必要時間Y及び許容遅延時間Ythを算出するようにしてもよい。
【0178】
また、例えば、表示部67において、プログレッシブ方式で画像を表示する場合には、図19に示されるように、各画像をプログレッシブ画像(フレーム画像)とし、プログレッシブ画像の書込み情報に基づいて、必要時間Y及び許容遅延時間Ythを算出するものとなる。そして、算出した必要時間Y及び許容遅延時間Ythに基づいて、調整量Zforward(=Y-Yth)又は調整量Zbackward(=Yth-Y)が算出される。
【0179】
さらに、調整量算出部70は、図4に示されるような書込み準備時間Xnの分布を表すX分布情報を生成する際に、書込み準備時間Xnの測定された時期に拘らず、書込み準備時間Xnの度数を1として、X分布情報を生成するようにした。
【0180】
しかしながら、調整量算出部70は、測定された時期が直近であるほどに、書込み準備時間Xnの度数を多く加算するようにして、X分布情報を生成するようにしてもよい。これは、直近に測定された書込み準備時間Xnほど、これから受信される画像の書込み準備時間をより正確に表していると考えられるからである。
【0181】
このことは、図5に示されるようなバッファ書込み時間Pnの分布を表すP分布情報を生成する際についても同様である。
【0182】
これにより、調整量算出部70では、これから受信される画像の書込み準備時間を、より正確に反映したX分布情報を生成できるとともに、これから受信される画像のバッファ書込み時間を、より正確に反映したP分布情報を生成できるようになる。
【0183】
このため、調整量算出部70は、そのようなX分布情報及びP分布情報から、これから受信される画像の必要時間Y及び許容遅延時間Ythを、より正確に算出することができるようになる。よって、調整量算出部70において、必要時間Yと許容遅延時間Ythとの比較結果(式(3)を満たすか否か野判定結果)に基づいて、より正確な調整量を算出できるようになる。このため、送信装置21のキャプチャ調整部45において、調整量算出部70で算出された調整量に基づいて、キャプチャタイミングVblankの調整をより適切に行うことが可能となる。
【0184】
なお、本技術は以下のような構成もとることができる。
(1)画像のキャプチャを開始するキャプチャタイミングを調整するための調整量を取得する取得部と、前記調整量に基づいて、前記キャプキャプチャタイミングを調整するキャプチャ調整部と、調整された前記キャプチャタイミングに同期して前記画像をキャプチャするキャプチャ部と、キャプチャされた前記画像を受信装置に送信する送信部とを含む送信装置。
(2)前記受信装置は、前記画像を一時的に保持する保持部を有し、前記保持部に対して、前記送信部から受信した前記画像の書込みを行い、前記保持部に書き込まれた前記画像を、予め決められた表示タイミングに同期して表示させ、前記取得部は、前記保持部に対する前記画像の書込みが開始された書込み開始時刻から、予め決められた所要時間で書込みを終了できないときに許容される遅延時間を表す許容遅延時間と、前記許容遅延時間以下の遅延時間で書き込まれた前記画像の前記書込み開始時刻から、前記表示タイミングまでに少なくとも要する必要時間との比較結果に基づいて算出される前記調整量を取得する前記(1)に記載の送信装置。
(3)前記許容遅延時間を算出する第1の算出部と、前記必要時間を算出する第2の算出部と、前記許容遅延時間と前記必要時間とを比較する比較部と、前記比較部の比較結果に基づいて、前記調整量を算出する調整量算出部とをさらに含み、前記取得部は、前記調整量算出部により算出された前記調整量を取得する前記(2)に記載の送信装置。
(4)前記調整量算出部は、前記必要時間が前記許容遅延時間よりも長いとの比較結果を得た場合、前記必要時間が前記許容遅延時間よりも長いという条件を満たす範囲内で、前記必要時間が短くなるように前記キャプチャタイミングを調整するための前記調整量を算出する前記(3)に記載の送信装置。
(5)前記調整量算出部は、前記必要時間が前記許容遅延時間よりも長くないとの比較結果を得た場合、前記必要時間が前記許容遅延時間よりも長くなるように前記キャプチャタイミングを調整するための前記調整量を算出する前記(3)又は(4)に記載の送信装置。
(6)前記取得部は、前記受信装置からの前記調整量を受信することにより取得する前記(2)に記載の送信装置。
(7)前記受信装置の前記保持部に対する前記画像の書込みに要する書込み時間を測定する第1の測定部をさらに含み、前記第1の算出部は、前記書込み時間の分布に基づいて、前記許容遅延時間を算出する前記(3)に記載の送信装置。
(8)前記受信装置の前記保持部に対する前記画像の書込みの開始に要する書込み準備時間を測定する第2の測定部をさらに含み、前記第2の算出部は、前記書込み準備時間の分布に基づいて、前記必要時間を算出する前記(3)又は(7)に記載の送信装置。
【0185】
ところで、上述した一連の処理は、ハードウェアにより実行することもできるし、ソフトウェアにより実行することもできる。一連の処理をソフトウェアにより実行する場合には、そのソフトウェアを構成するプログラムが、専用のハードウェアに組み込まれているコンピュータ、又は、各種のプログラムをインストールすることで、各種の機能を実行することが可能な、例えば汎用のコンピュータなどに、プログラム記録媒体からインストールされる。
【0186】
[コンピュータの構成例]
図20は、上述した一連の処理をプログラムにより実行するコンピュータのハードウェアの構成例を示すブロック図である。
【0187】
CPU(Central Processing Unit)201は、ROM(Read Only Memory)202、又は記憶部208に記憶されているプログラムに従って各種の処理を実行する。RAM(Random Access Memory)203には、CPU201が実行するプログラムやデータ等が適宜記憶される。これらのCPU201、ROM202、及びRAM203は、バス204により相互に接続されている。
【0188】
CPU201にはまた、バス204を介して入出力インタフェース205が接続されている。入出力インタフェース205には、キーボード、マウス、マイクロホン等よりなる入力部206、ディスプレイ、スピーカ等よりなる出力部207が接続されている。CPU201は、入力部206から入力される指令に対応して各種の処理を実行する。そして、CPU201は、処理の結果を出力部207に出力する。
【0189】
入出力インタフェース205に接続されている記憶部208は、例えばハードディスクからなり、CPU201が実行するプログラムや各種のデータを記憶する。通信部209は、インターネットやローカルエリアネットワーク等のネットワークを介して外部の装置と通信する。
【0190】
また、通信部209を介してプログラムを取得し、記憶部208に記憶してもよい。
【0191】
入出力インタフェース205に接続されているドライブ210は、磁気ディスク、光ディスク、光磁気ディスク、或いは半導体メモリ等のリムーバブルメディア211が装着されたとき、それらを駆動し、そこに記録されているプログラムやデータ等を取得する。取得されたプログラムやデータは、必要に応じて記憶部208に転送され、記憶される。
【0192】
コンピュータにインストールされ、コンピュータによって実行可能な状態とされるプログラムを記録(記憶)する記録媒体は、図20に示すように、磁気ディスク(フレキシブルディスクを含む)、光ディスク(CD-ROM(Compact Disc-Read Only Memory),DVD(Digital Versatile Disc)を含む)、光磁気ディスク(MD(Mini-Disc)を含む)、もしくは半導体メモリ等よりなるパッケージメディアであるリムーバブルメディア211、又は、プログラムが一時的もしくは永続的に格納されるROM202や、記憶部208を構成するハードディスク等により構成される。記録媒体へのプログラムの記録は、必要に応じてルータ、モデム等のインタフェースである通信部209を介して、ローカルエリアネットワーク、インターネット、デジタル衛星放送といった、有線又は無線の通信媒体を利用して行われる。
【0193】
なお、本明細書において、上述した一連の処理を記述するステップは、記載された順序に沿って時系列的に行われる処理はもちろん、必ずしも時系列的に処理されなくとも、並列的あるいは個別に実行される処理をも含むものである。
【0194】
また、本明細書において、システムとは、複数の装置により構成される装置全体を表すものである。
【0195】
なお、本開示における実施の形態は、上述した本実施の形態に限定されるものではなく、本開示の要旨を逸脱しない範囲において種々の変更が可能である。
【符号の説明】
【0196】
21 送信装置, 22 受信装置, 23 ネットワーク, 41 キャプチャ部, 42 符号化部, 43 パケット構成部, 44 RTP通信部, 45 キャプチャ調整部, 46 操作部, 47 制御部, 61 RTP通信部, 62 パケット組立部, 63 復号部, 64 書込制御部, 65 バッファ, 66 表示制御部, 67 表示部, 68 書込情報測定部, 69 書込情報記憶部, 70 調整量算出部, 71 操作部, 72 制御部

【特許請求の範囲】
【請求項1】
画像のキャプチャを開始するキャプチャタイミングを調整するための調整量を取得する取得部と、
前記調整量に基づいて、前記キャプキャプチャタイミングを調整するキャプチャ調整部と、
調整された前記キャプチャタイミングに同期して前記画像をキャプチャするキャプチャ部と、
キャプチャされた前記画像を受信装置に送信する送信部と
を含む送信装置。
【請求項2】
前記受信装置は、前記画像を一時的に保持する保持部を有し、
前記保持部に対して、前記送信部から受信した前記画像の書込みを行い、
前記保持部に書き込まれた前記画像を、予め決められた表示タイミングに同期して表示させ、
前記取得部は、
前記保持部に対する前記画像の書込みが開始された書込み開始時刻から、予め決められた所要時間で書込みを終了できないときに許容される遅延時間を表す許容遅延時間と、
前記許容遅延時間以下の遅延時間で書き込まれた前記画像の前記書込み開始時刻から、前記表示タイミングまでに少なくとも要する必要時間と
の比較結果に基づいて算出される前記調整量を取得する
請求項1に記載の送信装置。
【請求項3】
前記許容遅延時間を算出する第1の算出部と、
前記必要時間を算出する第2の算出部と、
前記許容遅延時間と前記必要時間とを比較する比較部と、
前記比較部の比較結果に基づいて、前記調整量を算出する調整量算出部と
をさらに含み、
前記取得部は、前記調整量算出部により算出された前記調整量を取得する
請求項2に記載の送信装置。
【請求項4】
前記調整量算出部は、前記必要時間が前記許容遅延時間よりも長いとの比較結果を得た場合、前記必要時間が前記許容遅延時間よりも長いという条件を満たす範囲内で、前記必要時間が短くなるように前記キャプチャタイミングを調整するための前記調整量を算出する
請求項3に記載の送信装置。
【請求項5】
前記調整量算出部は、前記必要時間が前記許容遅延時間よりも長くないとの比較結果を得た場合、前記必要時間が前記許容遅延時間よりも長くなるように前記キャプチャタイミングを調整するための前記調整量を算出する
請求項4に記載の送信装置。
【請求項6】
前記取得部は、前記受信装置からの前記調整量を受信することにより取得する
請求項2に記載の送信装置。
【請求項7】
前記受信装置の前記保持部に対する前記画像の書込みに要する書込み時間を測定する第1の測定部をさらに含み、
前記第1の算出部は、前記書込み時間の分布に基づいて、前記許容遅延時間を算出する
請求項3に記載の送信装置。
【請求項8】
前記受信装置の前記保持部に対する前記画像の書込みの開始に要する書込み準備時間を測定する第2の測定部をさらに含み、
前記第2の算出部は、前記書込み準備時間の分布に基づいて、前記必要時間を算出する
請求項3に記載の送信装置。
【請求項9】
画像をキャプチャして送信する送信装置の送信方法において、
前記送信装置による、
画像のキャプチャを開始するキャプチャタイミングを調整するための調整量を取得する取得ステップと、
前記調整量に基づいて、前記キャプキャプチャタイミングを調整するキャプチャ調整ステップと、
調整された前記キャプチャタイミングに同期して前記画像をキャプチャするキャプチャステップと、
キャプチャされた前記画像を受信装置に送信する送信ステップと
を含む送信方法。
【請求項10】
コンピュータを、
画像のキャプチャを開始するキャプチャタイミングを調整するための調整量を取得する取得部と、
前記調整量に基づいて、前記キャプキャプチャタイミングを調整するキャプチャ調整部と、
調整された前記キャプチャタイミングに同期して前記画像をキャプチャするキャプチャ部と、
キャプチャされた前記画像を受信装置に送信させる送信制御部と
して機能させるためのプログラム。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7】
image rotate

【図8】
image rotate

【図9】
image rotate

【図10】
image rotate

【図11】
image rotate

【図12】
image rotate

【図13】
image rotate

【図14】
image rotate

【図15】
image rotate

【図16】
image rotate

【図17】
image rotate

【図18】
image rotate

【図19】
image rotate

【図20】
image rotate


【公開番号】特開2013−5064(P2013−5064A)
【公開日】平成25年1月7日(2013.1.7)
【国際特許分類】
【出願番号】特願2011−131672(P2011−131672)
【出願日】平成23年6月13日(2011.6.13)
【出願人】(000002185)ソニー株式会社 (34,172)
【Fターム(参考)】