説明

テレビ電話装置、テレビ電話装置における映像データ処理方法

【課題】通話時または録音した通話の再生時に、映像を迅速に表示することができるテレビ電話装置を提供する。
【解決手段】テレビ電話装置1Aは、時刻t2において、テレビ電話装置1Bとのセッションを確立するためのシグナリング処理が終了すると、テレビ電話装置1Bへの映像データの送信を開始する。このとき、テレビ電話装置1Aは、セッション確立後の一定期間(時刻t3から時刻t5までの期間)では、イントラフレームの送信間隔を短くする。これにより、時刻t3でイントラフレームがネットワークのトラフィック負荷により消失したとしても、テレビ電話装置1B側では、時刻t4においてテレビ電話装置1Aから送信されたイントラフレームをすぐに受信し、受信したイントラフレームをキーにして、テレビ電話装置1Aからの映像を迅速に表示することができる。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、映像データおよび音声データを送受信するテレビ電話装置、テレビ電話装置における映像データ処理方法に関し、特に、映像データをフレーム間符号化されたインターフレームまたはフレーム間符号化されたイントラフレームとして送受信するテレビ電話装置、テレビ電話装置における映像データ処理方法に関する。
【背景技術】
【0002】
テレビ電話装置においては、相手装置に映像データを送信する場合、フレーム内符号化されたイントラフレームを所定の間隔(例えば、10秒ごと)で送信し、イントラフレームを送信する合間に、フレーム間符号化されたインターフレームを連続して送信する(例えば、特許文献1参照)。
【0003】
ここで、イントラフレームとは、キーフレームやIフレーム等とも呼ばれ、自己完結された映像データである。すなわち、イントラフレームは、他のフレームに基づかずに復号化を行うことが可能である。
【0004】
一方、インターフレームは、デルタフレームやPフレーム等とも呼ばれ、その前のフレームを基準として、その前のフレームからの変化が符号化された映像データである。よって、インターフレームは、その前のフレームを基準にして復号化が行われる。
【0005】
そのため、テレビ電話装置において、イントラフレームとインターフレームを用いた映像データを表示する場合、インターフレームを最初に受信しても、その前のフレームからの差分情報しかないため、完全な映像を生成(復元)することが不可能である。
【0006】
従って、テレビ電話装置においては、相手装置から受信した映像データを表示する場合、最初にイントラフレームを受信してから、そのイントラフレームをキーにして映像データを表示する必要がある。
【先行技術文献】
【特許文献】
【0007】
【特許文献1】特開2001−157183号公報
【発明の概要】
【発明が解決しようとする課題】
【0008】
しかしながら、従来のテレビ電話装置においては、イントラフレームをキーにして映像データを表示するため、通話を開始しようとしても、イントラフレームを受信するまでは映像データを表示することができず、通話を開始するまでに時間がかかってしまうという課題がある。以下、この課題について図7を参照して詳細に説明する。
【0009】
図7を参照すると、時刻t1において、テレビ電話装置Aは、テレビ電話装置Bに対して呼接続要求を行う。すると、テレビ電話装置Bは、着信音を鳴らし、時刻t2において、オフフック状態になると、テレビ電話装置Aとの接続を許可する。これにより、テレビ電話装置A,B間のセッション(呼接続)が確立する。
【0010】
以上でシグナリング処理が終了し、以降、テレビ電話装置A,B間では、音声データおよび映像データを送受信する。
【0011】
なお、テレビ電話装置においては、通話時には、マイク等で集音した音声データを圧縮して映像データと共に相手装置に送信し、相手装置から映像データと共に受信した音声データを伸長してスピーカ等から出力する。また、通話録音時には、相手装置から映像データと共に受信した音声データをHDD(Hard Disk Drive)に保存し、通話再生時には、HDDから映像データと共に読み出した音声データを再生する。このような音声データの処理は一般に行われるものであり、本発明の本質的部分ではない。そのため、以下の記載では、音声データの処理は、上記のように行われるものとして説明を省略する。
【0012】
テレビ電話装置Bとのセッションが確立すると、テレビ電話装置Aは映像データの送信を開始する。このとき、テレビ電話装置Aは、時刻t3において、まず、イントラフレームを送信し、続けて、インターフレームを連続して送信する。テレビ電話装置Aは、時刻t3から一定時間後の時刻t4において、再度、イントラフレームを送信し、続けて、インターフレームを連続して送信する。このように、テレビ電話装置Aは、所定の間隔でイントラフレームを送信し、その合間にインターフレームを連続して送信する。
【0013】
ところが、時刻t3において、テレビ電話装置Aからテレビ電話装置Bに送信されたイントラフレーム(直後に送信したインターフレームも同様)が、ネットワークのトラフィックなどが原因で消失している(パケットロス)。
【0014】
テレビ電話装置Bは、テレビ電話装置Aからの映像データを表示する際には、イントラフレームをキーにして映像データを表示する。しかし、テレビ電話装置Bは、時刻t4まではイントラフレームを受信しないため、時刻t4までにインターフレームを受信したとしても、そのインターフレームを表示することはできない。このときは、テレビ電話装置Bは無映像状態となる。
【0015】
すなわち、テレビ電話装置Bは、時刻t4までは相手装置からの映像データを表示することはできず、時刻t4でイントラフレームを受信した時点で、映像データの表示すなわち相手との通話が可能となるため、通話を開始するまでに時間がかかってしまう。
【0016】
また、従来のテレビ電話装置においては、イントラフレームをキーにして映像データを表示するため、録音した通話を再生しようとしても、イントラフレームを読み出すまでは映像データを表示することができず、通話の再生を開始するまでに時間がかかってしまうという課題もある。以下、この課題について図8を参照して詳細に説明する。なお、図8は、テレビ電話装置A,B間で行うシグナリング処理については省略している。
【0017】
テレビ電話装置Aは、時刻t1,t3において、イントラフレームを所定の間隔で送信し、その合間にインターフレームを連続して送信している。
【0018】
テレビ電話装置Bは、時刻t2において、ユーザからの通話録音開始の指示(録音ボタン押下等)を受けると、通話の録音を開始し、時刻t2以降にテレビ電話装置Aから受信した映像データをHDDに保存する。
【0019】
一方、テレビ電話装置Bは、ユーザからの通話再生開始の指示(再生ボタン押下等)を受けると、HDDに保存した映像データを、イントラフレームをキーにして表示する。しかし、テレビ電話装置Bは、時刻t3で受信したイントラフレームを読み出すまでは、時刻t2〜t3までの間に受信したインターフレームを読み出したとしても、そのインターフレームを表示することはできない。
【0020】
すなわち、テレビ電話装置Bは、時刻t3で受信したイントラフレームを読み出すまでは映像データを表示することはできず、時刻t3で受信したイントラフレームを読み出した時点で、映像データの表示すなわち通話の再生が可能となるため、通話の再生を開始するまでに時間がかかってしまう。
【0021】
このように、従来のテレビ電話装置においては、通話をしようとする場合や録音した通話を再生しようとする場合、映像データを迅速に表示することができないために、通話や通話の再生を開始するまでに時間がかかってしまうおそれがあるという課題がある。
【0022】
そこで、本発明の目的は、通話時または録音した通話の再生時に、映像を迅速に表示することができるテレビ電話装置、テレビ電話装置における映像データ処理方法を提供することにある。
【課題を解決するための手段】
【0023】
本発明のテレビ電話装置は、
映像データをフレーム内符号化されたイントラフレームまたはフレーム間符号化されたインターフレームとして相手装置に送信するテレビ電話装置であって、
相手装置とのセッションを確立するためのシグナリング処理を行うシグナリング処理手段と、
イントラフレームを相手装置に送信し、該イントラフレームを送信する合間には、インターフレームを相手装置に送信するデータ送信手段とを有し、
前記データ送信手段は、相手装置とのセッション確立後の一定期間では、該一定期間経過後よりも短い間隔でイントラフレームを相手装置に送信するものである。
【0024】
この構成によれば、セッション確立後の一定期間において相手装置から送信されてきたイントラフレームが消失したとしても、その後すぐに短い間隔で送信されてくるイントラフレームを受信し、このイントラフレームをキーにして、相手装置からの映像を迅速に表示することができるため、通話を開始するまでの時間を短縮することができる。
【0025】
本発明の別の態様によるテレビ電話装置は、
映像データをフレーム内符号化されたイントラフレームまたはフレーム間符号化されたインターフレームとして相手装置から受信するテレビ電話装置であって、
相手装置からイントラフレームを所定の間隔で受信し、該イントラフレームを受信する合間には、相手装置からインターフレームを受信するデータ受信手段と、
相手装置からイントラフレームを受信すると、該イントラフレーム以降に受信した映像データの格納を開始し、該イントラフレームを受信してから一定期間の経過前に通話録音開始の指示を受けた場合、以降に通話録音停止の指示を受けたタイミングで、格納している映像データのうち通話録音開始の指示を受ける直前にイントラフレームを受信してから通話録音停止の指示を受けるまでに受信した映像データを出力するバッファと、
通話録音停止の指示を受けたタイミングで、前記バッファから出力された映像データを保存する記憶手段と、
通話再生開始の指示を受けた場合に、前記記憶手段から読み出した映像データを復号化する復号化手段とを有するものである。
【0026】
あるいは、映像データをフレーム内符号化されたイントラフレームまたはフレーム間符号化されたインターフレームとして相手装置から受信するテレビ電話装置であって、
相手装置からイントラフレームを所定の間隔で受信し、該イントラフレームを受信する合間には、相手装置からインターフレームを受信するデータ受信手段と、
相手装置からイントラフレームを受信すると、該イントラフレーム以降に受信した映像データの格納を開始し、該イントラフレームを受信してから一定期間の経過前に通話録音開始の指示を受けた場合、通話録音開始の指示を受けたタイミングで、格納している映像データのうち通話録音開始の指示を受ける直前にイントラフレームを受信してから通話録音開始の指示を受けるまでに受信した映像データを出力するバッファと、
通話録音開始の指示を受けたタイミングで、以降に通話録音停止の指示を受けるまでに受信する映像データの保存を開始するとともに、該映像データの先頭部分に、前記バッファから出力された映像データを付加するように保存する記憶手段と、
通話再生開始の指示を受けた場合に、前記記憶手段から読み出した映像データを復号化する復号化手段とを有するものである。
【0027】
これらの構成によれば、記憶手段に保存される映像データの先頭部分は、通話録音開始の指示を受ける前に受信したイントラフレームとなるため、通話再生開始の指示を受けた場合、記憶手段の先頭に保存されているイントラフレームを読み出し、このイントラフレームをキーにして、映像データを表示することができる。すなわち、通話録音開始の指示を受けた後に受信したイントラフレームを記憶手段から読み出すのを待たずに、映像データを迅速に表示することができるため、録音した通話の再生を開始するまでの時間を短縮することができる。
【0028】
また、前記記憶手段は、保存している映像データの先頭部分のイントラフレームを受信してから通話録音開始の指示を受けるまでの時間を示す時間差情報も保存し、
前記復号化手段は、通話再生開始の指示を受けた場合、前記記憶手段からの映像データの読み出しを開始し、前記時間差情報で示される時間の経過後に読み出した映像データを復号化した映像から表示部への出力を開始することとしても良い。
【0029】
この構成によれば、通話再生開始の指示を受けた後に受信した映像データから復号化を開始するため、通話録音開始の指示を受ける前に受信した映像データを再生表示してしまうことを防止することができる。
【0030】
本発明のさらに別の態様によるテレビ電話装置は、
映像データをフレーム内符号化されたイントラフレームまたはフレーム間符号化されたインターフレームとして相手装置から受信するテレビ電話装置であって、
相手装置からイントラフレームを所定の間隔で受信し、該イントラフレームを受信する合間には、相手装置からインターフレームを受信するデータ受信手段と、
通話録音開始の指示を受けた場合に、その直後に相手装置から受信した映像データに基づいてイントラフレームを生成するイントラフレーム生成手段と、
通話録音開始の指示を受けた場合に、それ以降に相手装置から受信する映像データの先頭部分に、前記イントラフレーム生成手段にて生成されたイントラフレームがマージされたものを保存する記憶手段と、
通話再生開始の指示を受けた場合に、前記記憶手段から読み出した映像データを復号化する復号化手段とを有するものである。
【0031】
この構成によれば、記憶手段に保存される映像データの先頭部分は、通話録音開始の指示を受けた直後に受信した映像データから生成されたイントラフレームとなるため、通話再生開始の指示を受けた場合、記憶手段の先頭に保存されているイントラフレームを読み出し、このイントラフレームをキーにして、映像データを表示することができる。すなわち、通話録音開始の指示を受けた後に受信したイントラフレームを記憶手段から読み出すのを待たずに、映像データを迅速に表示することができるため、録音した通話の再生を開始するまでの時間を短縮することができる。
【発明の効果】
【0032】
本発明によれば、セッション確立後の一定期間では、イントラフレームを短い間隔で送信するため、相手装置から送信されてきたイントラフレームが消失したとしても、その後すぐに送信されてくるイントラフレームを受信することができ、このイントラフレームをキーにして、相手装置からの映像を迅速に表示することができるという効果を奏する。
【図面の簡単な説明】
【0033】
【図1】本発明の第1の実施形態によるテレビ電話装置の構成を説明するブロック図である。
【図2】図1に示したテレビ電話装置の動作を説明する図である。
【図3】本発明の第2の実施形態によるテレビ電話装置の構成を説明するブロック図である。
【図4】図3に示したテレビ電話装置の動作を説明する図である。
【図5】本発明の第3の実施形態によるテレビ電話装置の構成を説明するブロック図である。
【図6】図5に示したテレビ電話装置の動作を説明する図である。
【図7】従来のテレビ電話装置の課題を説明する図である。
【図8】従来のテレビ電話装置の別の課題を説明する図である。
【発明を実施するための形態】
【0034】
以下に、本発明を実施するための最良の形態について図面を参照して説明する。
(第1の実施形態)
図1は、本発明の第1の実施形態によるテレビ電話装置の構成を示すブロック図である。ただし、図1は、本実施形態の本質的部分のみを示すものであり、実際には、当然ながらモニタ、マイク、スピーカ等のテレビ電話装置を構成する一般的な構成要素も設けられている。
【0035】
図1を参照すると、本実施形態のテレビ電話装置1は、本体部101およびカメラ102から構成されている。本体部101は、NIC(Network Interface Card)103、シグナリング処理部104、データ送信手段であるRTP(Real-time Transport Protocol)処理部105、符号化手段であるビデオエンコーダ106、ビデオデコーダ107、ビデオI/O(Input/Output)108、および制御部109を有している。制御部109は、タイマ110および映像データ制御部111を含んでいる。なお、図1の破線部は、相手装置に送信される映像データの流れを示している。
【0036】
NIC103は、LAN(Local Area Network)やWAN(Wide Area Network)であるネットワークとのインターフェース部分である。
【0037】
シグナリング処理部104は、相手装置とのセッションを確立するためのシグナリング処理を行う。シグナリング処理には、相手装置に対して呼接続要求を行う処理、相手装置から呼接続要求を受けた場合に着信音を鳴らす処理、オフフック状態になった時に相手装置との接続を許可する処理などが含まれる。
【0038】
カメラ102は、自装置を使用するユーザの映像を撮影し、ビデオI/O108は、カメラ102にて撮影された映像データの入力処理を行う。
【0039】
タイマ110は、相手装置とのセッション確立後に時間計測を開始し、映像データ制御部111は、タイマ110にて計測された時間に基づき、ビデオエンコーダ106に対してイントラフレームの生成を指示する。その際、映像データ制御部111は、セッション確立後の一定期間では、該一定期間経過後よりも短い間隔でイントラフレームの生成を指示する。なお、セッション確立後の一定期間とは、映像データ制御部111がシグナリング処理部104から相手装置とのセッションが確立した旨の情報を受けてからの一定期間であっても良く、または、映像データ制御部111が所定の映像に対するイントラフレームの生成をビデオエンコーダ106に指示してからの一定期間であっても良い。
【0040】
ビデオエンコーダ106は、映像データ制御部111からイントラフレームの生成指示を受けたタイミングで、カメラ102にて撮影されビデオI/O108から入力された映像データに対してフレーム内符号化を行ってイントラフレームを生成する。なお、ビデオエンコーダ106は、上記以外のタイミングでは、入力された映像データに対してフレーム間符号化を行ってインターフレームを生成する。
【0041】
RTP処理部105は、ビデオエンコーダ106にて生成されたイントラフレームまたはインターフレームにRTPヘッダを付加し、NIC103からネットワーク経由で相手装置に対して送信する。なお、インターフレームの送信は、イントラフレームを所定の間隔で送信する合間に行われるが、後にイントラフレームを送信しなくても、インターフレームの送信が行われる場合もある(以下、同じ)。また、本実施形態では、通信用プロトコルとしてRTPを使用しているが、本発明で使用する通信用プロトコルはRTPに限定されない。
【0042】
なお、相手装置からネットワーク経由で送信されてきた映像データは、RTP処理部105でRTPヘッダが除去され、ビデオデコーダ107で復号化され、ビデオI/O108で不図示のモニタへ出力され、そのモニタにて表示される。
【0043】
以下、本実施形態のテレビ電話装置の動作について図2を参照して説明する。ここでは、本実施形態のテレビ電話装置1A,1Bが通話を行う場合のテレビ電話装置1A側の動作を中心に説明する。
【0044】
図2を参照すると、時刻t1において、テレビ電話装置1Aのシグナリング処理部104は、テレビ電話装置1Bとのセッションを確立するためのシグナリング処理を開始し、時刻t2において、シグナリング処理が終了すると、その旨を制御部109に通知する。すると、制御部109では、タイマ110による時間計測を開始する。なお、シグナリング処理は図7に示したものと同様であるため、詳細な説明は省略する。
【0045】
セッション確立後の一定期間(時刻t3から時刻t5までの期間。例えば、10秒)では、テレビ電話装置1Aの映像データ制御部111は、ビデオエンコーダ106に対して短い間隔でイントラフレームの生成を指示する。従って、セッション確立後の一定期間は、テレビ電話装置1AのRTP処理部105から送信されるイントラフレームの送信間隔は短くなる。
【0046】
よって、時刻t3においてテレビ電話装置1Aから送信されたイントラフレームがネットワークのトラフィック負荷により消失したとしても、次にイントラフレームを送信する時刻t4までの間隔が短いため、テレビ電話装置1B側では、時刻t4においてテレビ電話装置1Aから送信されたイントラフレームをすぐに受信することができる。
【0047】
このように、テレビ電話装置1B側では、時刻t3において送信したイントラフレームが消失したとしても、その後すぐに時刻t4でイントラフレームを受信し、そのイントラフレームをキーにして、テレビ電話装置1Aからの映像を迅速に表示することができるため、テレビ電話装置1A,1B間で通話を開始するまでの時間を短縮することができる。
【0048】
一方、セッション確立後の一定期間経過後(時刻t5以降)は、その一定期間内に通常よりも多くのイントラフレームを送信しているため、テレビ電話装置1B側でイントラフレームを既に受信していて映像が表示されている可能性が高い。そこで、テレビ電話装置1Aの映像データ制御部111は、セッション確立後の一定期間経過後は、その一定期間中よりも長い間隔でビデオエンコーダ106に対してイントラフレームの生成を指示する。従って、セッション確立後の一定期間経過後は、テレビ電話装置1AのRTP処理部105から送信されるイントラフレームの送信間隔は長くなる。
【0049】
このように、テレビ電話装置1Aからテレビ電話装置1Bに対して、インターフレームと比較して相対的に容量が大きなイントラフレームを送信する回数が少なくなるため、ネットワークのトラフィック負荷を低減することができる。
【0050】
なお、本実施形態においては、セッション確立後の一定期間のイントラフレームの送信間隔は、該一定期間経過後の送信間隔よりも短くなっていれば、どのような間隔としても良い。例えば、以下の例1,例2のような間隔とすることができる。
(例1)
0.1s→0.2s→0.4s→0.8s→1.0s→1.5s→2.0s・・・
(例2)
0.5s→0.5s→0.5s→0.5s→1.0s→1.0s→1.0s・・・
(第2の実施形態)
図3は、本発明の第2の実施形態によるテレビ電話装置の構成を示すブロック図である。ただし、図3は、本実施形態の本質的部分のみを示すものであり、実際には、当然ながらカメラ、マイク、スピーカ等のテレビ電話装置を構成する一般的な構成要素も設けられている。
【0051】
図3を参照すると、本実施形態のテレビ電話装置2は、本体部201およびモニタ202から構成されている。本体部201は、NIC203、シグナリング処理部204、データ受信手段であるRTP処理部205、ビデオエンコーダ206、復号化手段であるビデオデコーダ207、ビデオI/O208、記憶手段であるHDD209、および制御部210を有している。制御部210は、イントラフレーム判定部211およびバッファ212を含んでいる。なお、図3の破線部は、相手装置から受信した映像データの流れを示している。
【0052】
NIC203は、LANやWANであるネットワークとのインターフェース部分である。
【0053】
シグナリング処理部204は、相手装置とのセッションを確立するためのシグナリング処理を行う。シグナリング処理には、相手装置に対して呼接続要求を行う処理、相手装置から呼接続要求を受けた場合に着信音を鳴らす処理、オフフック状態になった時に相手装置との接続を許可する処理などが含まれる。
【0054】
RTP処理部205は、相手装置からネットワーク経由で受信した映像データからRTPヘッダを除去する。
【0055】
イントラフレーム判定部211は、受信された映像データがイントラフレームであるかを判定する。
【0056】
バッファ212は、相手装置から受信したイントラフレームから、次のイントラフレームの前に受信するインターフレームまでの映像データを格納する容量がある。バッファ212は、イントラフレームが受信されたとイントラフレーム判定部211にて判定されると、該イントラフレーム以降に受信する映像データの格納を開始し、イントラフレームを受信してから一定期間経過後に映像データを破棄する。なお、イントラフレームを受信してから一定期間とは、次にイントラフレームを受信するまでの期間、または、バッファ212に格納している映像データが一定量に達するまでの期間である。後者の場合は、バッファ212に格納している全ての映像データを破棄するのではなく、直前に受信したイントラフレームよりも前に受信した映像データのみを破棄することになる。
【0057】
ただし、バッファ212は、上記一定期間経過前に、ユーザからの通話録音開始の指示(録音ボタン押下等)を受けた場合、映像データの格納を継続して行い、ユーザからの通話録音停止の指示(録音ボタン押下解除等)を受けたタイミングで、格納している映像データのうち通話録音開始の指示を受ける直前にイントラフレームを受信してから通話録音停止の指示を受けるまでに受信した映像データをHDD209に出力してから、その映像データを破棄する。この場合、HDD209は、通話録音停止の指示を受けたタイミングで、バッファ212から出力された映像データを保存する。
【0058】
または、バッファ212は、上記一定期間経過前に、ユーザからの通話録音開始の指示を受けた場合、通話録音開始の指示を受けたタイミングで、格納している映像データのうち通話録音開始の指示を受ける直前にイントラフレームを受信してから通話録音開始の指示を受けるまでに受信した映像データをHDD209に出力してから、その映像データを破棄する。この場合、HDD209は、通話録音開始の指示を受けたタイミングで、以降、通話録音停止の指示を受けるまでに受信した映像データの保存を開始し、その映像データの先頭部分に、バッファ212から出力された映像データを付加するように保存する。なお、通話録音開始の指示を受けた以降に受信した映像データについては、バッファ212以外のバッファ(不図示)を介してHDD209に保存しても良い。
【0059】
なお、バッファ212は、映像データをHDD209に出力する際には、格納している映像データの先頭部分のイントラフレームを受信してから通話録音開始の指示を受けるまでの時間を示す時間差情報も併せて出力し、HDD209は、バッファ212から出力された時間差情報を映像データと共に保存する。
【0060】
ビデオデコーダ207は、通話時には、RTP処理部105から出力された映像データを復号化し、録音した通話の再生時には、ユーザからの通話再生開始の指示(再生ボタン押下等)を受けて、HDD209から読み出した映像データを復号化する。
【0061】
ただし、ビデオデコーダ207は、録音した通話の再生時に、映像データを復号化する場合、HDD209から読み出したイントラフレームから復号化を開始するのではなく、イントラフレームの読み出しを開始してから上記の時間差情報で示される時間の経過後に読み出した映像データから復号化を開始する。それにより、ユーザから通話録音開始の指示を受けた時間の映像から再生を開始することができる。
【0062】
ビデオI/O208は、ビデオデコーダ207にて復号化された映像データのモニタ202への出力処理を行い、モニタ202は、ビデオI/O208から出力された映像データを表示する。
【0063】
なお、相手装置へ送信する映像データは、不図示のカメラにて撮影され、ビデオI/O208で入力処理され、ビデオエンコーダ206で符号化され、RTP処理部205でRTPヘッダが付加されて、NIC203からネットワーク経由で送信される。
【0064】
以下、本実施形態のテレビ電話装置の動作について図4を参照して説明する。ここでは、本実施形態のテレビ電話装置2A,2Bが通話を行う場合のテレビ電話装置2B側の動作を中心に説明する。なお、図4は、テレビ電話装置2A,2B間で行うシグナリング処理については省略している。
【0065】
通話時には、時刻t1において、テレビ電話装置2Bのイントラフレーム判定部211にてイントラフレームが受信されたと判定されると、テレビ電話装置2Bのバッファ212は、時刻t1で受信されたイントラフレーム以降の映像データの格納を開始する。
【0066】
時刻t2において、ユーザからの通話録音開始の指示を受けると、時刻t2の直前にイントラフレームを受信した時刻t1から、以降に通話録音停止の指示を受けるまでに受信する映像データをテレビ電話装置2BのHDD209に保存する処理を開始する。
【0067】
具体的には、時刻t1から通話録音停止の指示を受けるまでの間に受信する全ての映像データをバッファ212に格納し、通話録音停止の指示を受けたタイミングで、バッファ212格納している映像データをHDD209に出力し、HDD209に保存する。
【0068】
または、時刻t1から時刻t2までの間に受信する映像データをバッファ212に格納し、時刻t2で通話録音開始の指示を受けたタイミングで、バッファ212格納している映像データをHDD209に出力する。そして、時刻t2で通話録音開始の指示を受けたタイミングで、以降、通話録音停止の指示を受けるまでに受信した映像データのHDD209への保存を開始し、その映像データの先頭部分に付加するように、バッファ212から出力された映像データをHDD209に保存する。
【0069】
なお、HDD209には、時刻t1でイントラフレームを受信してから時刻t2で通話録音開始の指示を受けるまでの時間(ここでは、時刻t1から時刻t2までの時間)を示す時間差情報も併せて保存される。
【0070】
一方、通話再生時には、テレビ電話装置2Bのビデオデコーダ207は、ユーザからの通話再生開始の指示を受けて、HDD209に保存された映像データを、イントラフレームをキーにして復号化する。ここでは、時刻t1で受信したイントラフレームがHDD209の先頭部分に保存されているため、ビデオデコーダ207は、このイントラフレームをキーにして時刻t1から時刻t2までに受信した映像データを復号化し、モニタ202に表示することも可能である。しかし、そうすると、時刻t2で通話録音開始の指示を受ける前に受信した映像データについても再生表示してしまうことになる。
【0071】
そこで、ビデオデコーダ207は、ユーザからの通話再生開始の指示を受けて、HDD209に保存された映像データの読み出し、復号化を開始するが、HDD209からイントラフレームの読み出しを開始してから上記の時間差情報で示される時間までの映像データの復号化された映像はモニタへ出力せずに、上記の時間差情報で示される時間の経過後に読み出した映像データ、すなわち時刻t2で受信した映像データを復号化した映像からモニタ202へ出力し、表示を開始する。
【0072】
このように、テレビ電話装置2B側では、時刻t2でユーザからの通話録音開始の指示を受けたとしても、HDD209に保存される映像データの先頭部分は、その前の時刻t1で受信したイントラフレームとなるため、通話再生開始の指示を受けた場合、HDD209の先頭に保存されているイントラフレームを読み出し、このイントラフレーム以降のフレームを用いて時刻t2以降に受信したインターフレームを復号化でき、映像データを表示することができる。
【0073】
すなわち、テレビ電話装置2B側では、時刻t3で受信したイントラフレームをHDD209から読み出すのを待たずに、録音した映像データを迅速に表示することができるため、録音した通話の再生を開始するまでの時間を短縮することができる。
【0074】
また、テレビ電話装置2B側では、HDD209からのイントラフレームの読み出しを開始してから上記の時間差情報で示される時間の経過後に読み出した映像データすなわち時刻t2で受信した映像データから表示を開始するため、通話録音開始の指示を受ける前に受信した映像データを再生表示してしまうことを防止することができる。
【0075】
(第3の実施形態)
図5は、本発明の第3の実施形態によるテレビ電話装置の構成を示すブロック図である。ただし、図5は、本実施形態の本質的部分のみを示すものであり、実際には、当然ながらカメラ、マイク、スピーカ等のテレビ電話装置を構成する一般的な構成要素も設けられている。
【0076】
図5を参照すると、本実施形態のテレビ電話装置3は、本体部301およびモニタ302から構成されている。本体部301は、NIC303、シグナリング処理部304、データ受信手段であるRTP処理部305、イントラデータ生成手段であるビデオエンコーダ306、復号化手段であるビデオデコーダ307、ビデオI/O308、記憶手段であるHDD309、および制御部310を有している。制御部310は、コピー部311、バッファ312、およびマージ部313を含んでいる。なお、図5の破線部は、相手装置から受信した映像データの流れを示している。
【0077】
NIC303は、LANやWANであるネットワークとのインターフェース部分である。
【0078】
シグナリング処理部304は、相手装置とのセッションを確立するためのシグナリング処理を行う。シグナリング処理には、相手装置に対して呼接続要求を行う処理、相手装置から呼接続要求を受けた場合に着信音を鳴らす処理、オフフック状態になった時に相手装置との接続を許可する処理などが含まれる。
【0079】
RTP処理部305は、相手装置からネットワーク経由で受信した映像データからRTPヘッダを除去する。
【0080】
コピー部311は、受信された映像データをスルーしてビデオデコーダ207に対して出力するが、ユーザからの通話録音開始の指示(録音ボタン押下等)を受けると、受信された映像データをコピーして、バッファ312に一時的に格納する。
【0081】
ビデオデコーダ307は、通話時には、コピー部311からスルーで出力された映像データを復号化し、録音した通話の再生時には、ユーザからの通話再生開始の指示(再生ボタン押下等)を受けて、HDD309から読み出した映像データを復号化する。
【0082】
ビデオエンコーダ306は、ユーザからの通話録音開始の指示を受けると、通話録音開始の指示を受けた直後に相手装置から受信した映像データ(例えば、2〜3フレーム)を復号化したものをビデオデコーダ307から制御部310経由で取得し、取得した映像データを符号化してイントラフレームを生成する。
【0083】
マージ部313は、ビデオエンコーダ306にて生成されたイントラフレームを、バッファ312に一時的に格納された映像データの先頭部分にマージしてHDD309に出力し、以降、バッファ312に一時的に格納された映像データを順次HDD309に出力する。
【0084】
HDD309は、マージ部313から出力された映像データを保存する。
【0085】
ビデオI/O308は、ビデオデコーダ307にて復号化された映像データのモニタ302への出力処理を行い、モニタ302は、ビデオI/O308から出力された映像データを表示する。
【0086】
なお、相手装置へ送信する映像データは、不図示のカメラにて撮影され、ビデオI/O308で入力処理され、ビデオエンコーダ306で符号化され、RTP処理部305でRTPヘッダが付加されて、NIC303からネットワーク経由で送信される。
【0087】
以下、本実施形態のテレビ電話装置の動作について図6を参照して説明する。ここでは、本実施形態のテレビ電話装置3A,3Bが通話を行う場合のテレビ電話装置3B側の動作を中心に説明する。なお、図6は、テレビ電話装置3A,3B間で行うシグナリング処理については省略している。
【0088】
通話録音時には、時刻t2において、ユーザからの通話録音開始の指示を受けると、テレビ電話装置3Bのコピー部311は、時刻t2以降にテレビ電話装置3Aから受信した映像データをコピーして、バッファ312に一時的に格納する。
【0089】
また、テレビ電話装置3Bのビデオエンコーダ306は、時刻t2以降にテレビ電話装置3Aから受信した映像データ(例えば、2〜3フレーム)を復号化したものをビデオデコーダ307から制御部310経由で取得し、取得した映像データを符号化してイントラフレームを生成する。
【0090】
そして、マージ部313は、ビデオエンコーダ306にて生成されたイントラフレームを、バッファ312に一時的に格納された映像データの先頭部分にマージしてHDD309に出力し、以降、バッファ312に一時的に格納された映像データを順次HDD309に出力する。HDD309には、マージ部313から出力された映像データが保存される。
【0091】
よって、HDD309には、時刻t2で通話録音開始の指示を受けた後に受信した映像データだけでなく、その直後に受信された映像データから生成されて先頭にマージされたイントラフレームも保存されることになる。
【0092】
一方、通話再生時には、テレビ電話装置3Bのビデオデコーダ307は、ユーザからの通話再生開始の指示を受けて、HDD309に保存された映像データを、イントラフレームをキーにして復号化する。ここでは、ビデオエンコーダ306にて生成されたイントラフレームがHDD309の先頭部分に保存されているため、ビデオデコーダ307は、このイントラフレームをキーにして、時刻t2以降に受信した映像データの復号化を開始する。
【0093】
このように、テレビ電話装置3B側では、時刻t2でユーザからの通話録音開始の指示を受けたとしても、HDD309に保存される映像データの先頭部分は、時刻t2の直後に受信された映像データから生成されたイントラフレームとなるため、通話再生開始の指示を受けた場合、HDD309の先頭に保存されているイントラフレームを読み出し、このイントラフレームをキーにして時刻t2以降に受信した映像データを表示することができる。
【0094】
すなわち、テレビ電話装置3B側では、時刻t3で受信したイントラフレームをHDD309から読み出すのを待たずに、録音した映像データを表示することができるため、録音した通話の再生を開始するまでの時間を短縮することができる。
【0095】
なお、上述した第1〜第3の実施形態において、特に記述しなかった処理については各実施形態の制御部が指示や処理を行っており、制御部が各種映像やデータ等を処理するために一時記憶部等を設ける場合があるものとする。
【符号の説明】
【0096】
1,1A,1B テレビ電話装置
2,2A,2B テレビ電話装置
3,3A,3B テレビ電話装置
101 本体部
102 カメラ
103 NIC
104 シグナリング処理部
105 RTP処理部
106 ビデオエンコーダ
107 ビデオデコーダ
108 ビデオI/F
109 制御部
110 タイマ
111 映像データ制御部
201 本体部
202 モニタ
203 NIC
204 シグナリング処理部
205 RTP処理部
206 ビデオエンコーダ
207 ビデオデコーダ
208 ビデオI/O
209 HDD
210 制御部
211 イントラフレーム判定部
212 バッファ
301 本体部
302 モニタ
303 NIC
304 シグナリング処理部
305 RTP処理部
306 ビデオエンコーダ
307 ビデオデコーダ
308 ビデオI/O
309 HDD
310 制御部
311 コピー部
312 バッファ
313 マージ部

【特許請求の範囲】
【請求項1】
映像データをフレーム内符号化されたイントラフレームまたはフレーム間符号化されたインターフレームとして相手装置から受信するテレビ電話装置であって、
相手装置からイントラフレームを所定の間隔で受信し、該イントラフレームを受信する合間には、相手装置からインターフレームを受信するデータ受信手段と、
相手装置からイントラフレームを受信すると、該イントラフレーム以降に受信した映像データの格納を開始し、該イントラフレームを受信してから一定期間の経過前に通話録音開始の指示を受けた場合、以降に通話録音停止の指示を受けたタイミングで、格納している映像データのうち通話録音開始の指示を受ける直前にイントラフレームを受信してから通話録音停止の指示を受けるまでに受信した映像データを出力するバッファと、
通話録音停止の指示を受けたタイミングで、前記バッファから出力された映像データを保存する記憶手段と、
通話再生開始の指示を受けた場合に、前記記憶手段から読み出した映像データを復号化する復号化手段とを有するテレビ電話装置。
【請求項2】
映像データをフレーム内符号化されたイントラフレームまたはフレーム間符号化されたインターフレームとして相手装置から受信するテレビ電話装置であって、
相手装置からイントラフレームを所定の間隔で受信し、該イントラフレームを受信する合間には、相手装置からインターフレームを受信するデータ受信手段と、
相手装置からイントラフレームを受信すると、該イントラフレーム以降に受信した映像データの格納を開始し、該イントラフレームを受信してから一定期間の経過前に通話録音開始の指示を受けた場合、通話録音開始の指示を受けたタイミングで、格納している映像データのうち通話録音開始の指示を受ける直前にイントラフレームを受信してから通話録音開始の指示を受けるまでに受信した映像データを出力するバッファと、
通話録音開始の指示を受けたタイミングで、以降に通話録音停止の指示を受けるまでに受信する映像データの保存を開始するとともに、該映像データの先頭部分に、前記バッファから出力された映像データを付加するように保存する記憶手段と、
通話再生開始の指示を受けた場合に、前記記憶手段から読み出した映像データを復号化する復号化手段とを有するテレビ電話装置。
【請求項3】
イントラフレームを受信してからの一定期間とは、次にイントラフレームを受信するまでの期間である、請求項1または2に記載のテレビ電話装置。
【請求項4】
イントラフレームを受信してからの一定期間とは、前記バッファに格納している映像データが一定量に達するまでの期間である、請求項1または2に記載のテレビ電話装置。
【請求項5】
前記記憶手段は、保存している映像データの先頭部分のイントラフレームを受信してから通話録音開始の指示を受けるまでの時間を示す時間差情報も保存し、
前記復号化手段は、通話再生開始の指示を受けた場合、前記記憶手段からの映像データの読み出しを開始し、前記時間差情報で示される時間の経過後に読み出した映像データを復号化した映像から表示部への出力を開始する、請求項1から4のいずれか1項に記載のテレビ電話装置。
【請求項6】
映像データをフレーム内符号化されたイントラフレームまたはフレーム間符号化されたインターフレームとして相手装置から受信するテレビ電話装置であって、
相手装置からイントラフレームを所定の間隔で受信し、該イントラフレームを受信する合間には、相手装置からインターフレームを受信するデータ受信手段と、
通話録音開始の指示を受けた場合に、その直後に相手装置から受信した映像データに基づいてイントラフレームを生成するイントラフレーム生成手段と、
通話録音開始の指示を受けた場合に、それ以降に相手装置から受信する映像データの先頭部分に、前記イントラフレーム生成手段にて生成されたイントラフレームがマージされたものを保存する記憶手段と、
通話再生開始の指示を受けた場合に、前記記憶手段から読み出した映像データを復号化する復号化手段とを有するテレビ電話装置。
【請求項7】
相手装置から受信する映像データの復号化を行う復号化手段をさらに有し、
前記イントラフレーム生成手段は、通話録音開始の指示を受けた場合に、その直後に相手装置から受信した映像データを復号化したものを前記復号化手段から取得し、取得した映像データを符号化してイントラフレームを生成する、請求項6に記載のテレビ電話装置。
【請求項8】
通話録音開始の指示を受けた場合に、相手装置から受信する映像データの格納を開始するバッファと、
前記イントラフレーム生成手段にて生成されたイントラフレームを、前記バッファに格納された映像データの先頭部分にマージして出力し、以降、前記バッファに格納された映像データを順次出力するマージ手段とをさらに有し、
前記記憶手段は、前記マージ手段から出力された映像データを順次保存する、請求項6または7に記載のテレビ電話装置。
【請求項9】
映像データをフレーム内符号化されたイントラフレームまたはフレーム間符号化されたインターフレームとして相手装置から受信するテレビ電話装置による映像データの処理方法であって、
相手装置からイントラフレームを所定の間隔で受信し、該イントラフレームを受信する合間には、相手装置からインターフレームを受信するステップと、
相手装置からイントラフレームを受信すると、該イントラフレーム以降に受信した映像データのバッファへの格納を開始し、該イントラフレームを受信してから一定期間の経過前に通話録音開始の指示を受けた場合、以降に通話録音停止の指示を受けたタイミングで、前記バッファに格納している映像データのうち通話録音開始の指示を受ける直前にイントラフレームを受信してから通話録音停止の指示を受けるまでに受信した映像データを前記バッファから出力するステップと、
通話録音停止の指示を受けたタイミングで、前記バッファから出力された映像データを記憶手段に保存するステップと、
通話再生開始の指示を受けた場合に、前記記憶手段から読み出した映像データを復号化するステップとを有する方法。
【請求項10】
映像データをフレーム内符号化されたイントラフレームまたはフレーム間符号化されたインターフレームとして相手装置から受信するテレビ電話装置による映像データの処理方法であって、
相手装置からイントラフレームを所定の間隔で受信し、該イントラフレームを受信する合間には、相手装置からインターフレームを受信するステップと、
相手装置からイントラフレームを受信すると、該イントラフレーム以降に受信した映像データのバッファへの格納を開始し、該イントラフレームを受信してから一定期間の経過前に通話録音開始の指示を受けた場合、通話録音開始の指示を受けたタイミングで、前記バッファに格納している映像データのうち通話録音開始の指示を受ける直前にイントラフレームを受信してから通話録音開始の指示を受けるまでに受信した映像データを前記バッファから出力するステップと、
通話録音開始の指示を受けたタイミングで、以降に通話録音停止の指示を受けるまでに受信する映像データの記憶手段への保存を開始するとともに、該映像データの先頭部分に、前記バッファから出力された映像データを付加するように前記記憶手段に保存するステップと、
通話再生開始の指示を受けた場合に、前記記憶手段から読み出した映像データを復号化するステップとを有する方法。
【請求項11】
イントラフレームを受信してからの一定期間とは、次にイントラフレームを受信するまでの期間である、請求項9または10に記載の方法。
【請求項12】
イントラフレームを受信してからの一定期間とは、前記バッファに格納している映像データが一定量に達するまでの期間である、請求項9または10に記載の方法。
【請求項13】
前記記憶手段に映像データを保存するステップでは、該記憶手段に保存している映像データの先頭部分のイントラフレームを受信してから通話録音開始の指示を受けるまでの時間を示す時間差情報も前記記憶手段に保存し、
映像データを復号化するステップでは、通話再生開始の指示を受けた場合に、前記記憶手段からの映像データの読み出しを開始し、前記時間差情報で示される時間の経過後に読み出した映像データを復号化した映像から表示部への出力を開始する、請求項9から12のいずれか1項に記載の方法。
【請求項14】
映像データをフレーム内符号化されたイントラフレームまたはフレーム間符号化されたインターフレームとして相手装置から受信するテレビ電話装置による映像データの処理方法であって、
相手装置からイントラフレームを所定の間隔で受信し、該イントラフレームを受信する合間には、相手装置からインターフレームを受信するステップと、
通話録音開始の指示を受けた場合に、その直後に相手装置から受信した映像データに基づいてイントラフレームを生成するステップと、
通話録音開始の指示を受けた場合に、それ以降に相手装置から受信する映像データの先頭部分に、前記イントラフレーム生成手段にて生成されたイントラフレームがマージされたものを記憶手段に保存するステップと、
通話再生開始の指示を受けた場合に、前記記憶手段から読み出した映像データを復号化するステップとを有する方法。
【請求項15】
相手装置から受信する映像データの復号化を行うステップをさらに有し、
イントラフレームを生成するステップでは、通話録音開始の指示を受けた場合に、その直後に相手装置から受信した映像データを復号化したものを取得し、取得した映像データを符号化してイントラフレームを生成する、請求項14に記載の方法。
【請求項16】
通話録音開始の指示を受けた場合に、相手装置から受信する映像データのバッファへの格納を開始するステップと、
前記生成されたイントラフレームを、前記バッファに格納された映像データの先頭部分にマージして出力し、以降、前記バッファに格納された映像データを順次出力するステップとをさらに有し、
前記記憶手段に映像データを保存するステップでは、前記出力された映像データを順次保存する、請求項14または15に記載の方法。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7】
image rotate

【図8】
image rotate


【公開番号】特開2011−66944(P2011−66944A)
【公開日】平成23年3月31日(2011.3.31)
【国際特許分類】
【出願番号】特願2011−199(P2011−199)
【出願日】平成23年1月4日(2011.1.4)
【分割の表示】特願2005−243872(P2005−243872)の分割
【原出願日】平成17年8月25日(2005.8.25)
【出願人】(302069930)NECパーソナルプロダクツ株式会社 (738)
【Fターム(参考)】