再生装置及び再生方法
【課題】 コスト及び消費電力を抑えつつ、不自然な音声の途切れ及び表示装置の復号器の破綻を防止する、MPEGデータ等のマルチメディアデータの特殊再生を可能にする技術を提供すること。
【解決手段】 データ伝送再生装置140にストリーム切替スイッチ111を設け、MPEGデータの特殊再生時はオーディオESとしてミュート発生器110の生成するミュートオーディオESを使用するか、オーディオESをTSに多重化しない。また、ビデオ簡易符号器106は復号化されたビデオESを再符号化するが、フレーム内符号化画像としてのみ符号化できる単純な構成である。
【解決手段】 データ伝送再生装置140にストリーム切替スイッチ111を設け、MPEGデータの特殊再生時はオーディオESとしてミュート発生器110の生成するミュートオーディオESを使用するか、オーディオESをTSに多重化しない。また、ビデオ簡易符号器106は復号化されたビデオESを再符号化するが、フレーム内符号化画像としてのみ符号化できる単純な構成である。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、ビデオデータ及びオーディオデータを含むマルチメディアデータを再生して伝送するデータ再生伝送装置及びデータ再生伝送方法に関する。
【背景技術】
【0002】
従来、MPEGなどの符号化方式で符号化された動画像データや音声データを記録媒体から再生し、符号化されたままの状態で外部の表示装置などに伝送し、これを復号して表示する技術が知られている。この様に、符号化された動画像データなどを送受信するためのデジタルインタフェースとして、IEEE1394(Institute of Electrical and Electronics Engineers 1394)がしばしば使用される。
【0003】
この様に、MPEGデータを表示装置に送信して復号、表示するシステムにおいて、スロー、スチル、コマ送り等の特殊再生を実現する場合、次のようにして実現することができる。例えば、これらの特殊再生を示す特定の付加情報をMPEGデータに付加して送信し、復号器においてこの付加情報に従って復号することで実現可能である。
【0004】
具体的には、PES(Packetized Elementary Stream)パケットのヘッダ情報内のDSM_trick_modeフィールドに、特殊再生に関する情報を記述する。
【0005】
しかし、デコーダの中には、この様な特殊再生用の付加情報である、PESパケットのヘッダ情報のDSM_trick_modeに従ってデコード処理を行うことができないものが多数存在する。そこで、そのような表示装置でもMPEGデータの特殊再生を可能にするデータ再生伝送装置が提案されている。
【0006】
例えば、特許文献1では、記録媒体から再生された全てのMPEGデータを一旦復号化した後、再符号化して送信する構成である。
【特許文献1】特開2001−28748号公報
【発明の開示】
【発明が解決しようとする課題】
【0007】
しかしながら、特許文献1では、再生伝送装置に完全な符号器(エンコーダ)を設ける必要がある。「完全な符号器」とは、フレーム内符号化画像(Iピクチャ)、フレーム間予測符号化画像(Pピクチャ)、双方向予測符号化画像(Bピクチャ)のすべてのピクチャを生成可能な符号器という意味である。このような符号器では、例えば予測符号化のためのフレームメモリが必要となるなど、回路構成が複雑化し、コスト及び消費電力が増大するという問題がある。
【0008】
また、特許文献1では、MPEGデータのIピクチャのフレームでしか画像の更新が行われないため、特殊再生時に画像の追従性が悪化するという問題がある。したがって、例えばスロー再生時において、画像の更新頻度が低くなり、滑らかにスロー再生を行うことができない。
【0009】
さらに、特許文献1では、表示装置がダミーパケット情報またはDIT情報を受け取った場合の復号動作等に関する明確な規定がなく、表示装置ごとに振る舞いが異なりうるため、表示装置が適切に特殊再生を行える保証がない。なお、DIT情報は符号化ビットストリーム(データストリーム)の不連続を示す情報であり、Discontinuity Information Tableの略である。
【0010】
本発明はこのような状況に鑑みてなされたものであり、特別な復号機能を持たない復号器を使用した場合にも、特殊再生を実現可能な技術を提供することを目的とする。
【課題を解決するための手段】
【0011】
上記課題を解決するために、本発明の再生装置は、フレーム内符号化とフレーム間予測符号化とを用いて符号化された動画像データを含む符号化データ列を記録媒体から再生する再生手段と、前記再生手段より再生された動画像データを復号する復号手段と、前記復号手段により復号された動画像データを前記フレーム内符号化のみにより符号化した符号化動画像データを出力する符号化手段と、前記再生手段により再生された動画像データまたは前記符号化手段より出力された符号化動画像データのうちの一方を選択し、選択した動画像データを符号化された形態で外部装置に送信する送信手段と、前記動画像データを通常再生速度で再生し、前記送信手段が前記再生手段により再生された動画像データを送信する通常再生モードと、前記動画像データを通常再生速度とは異なる速度で再生し、前記送信手段が前記符号化手段より出力された動画像データを送信する特殊再生モードとを切り替えるモード切り替え手段とを備えることを特徴とする。
【0012】
また、本発明の他の再生装置は、フレーム内符号化とフレーム間予測符号化とを用いて符号化された動画像データを含む符号化データ列を記録媒体から再生する再生手段と、前記再生手段より再生された動画像データを復号する復号手段と、前記復号手段により復号された動画像データをフレーム内符号化データ及び参照フレームと同一のデータを復号するためのコピーピクチャデータとからなる符号化動画像データに変換して出力する符号化手段と、前記再生手段により再生された動画像データまたは前記符号化手段より出力された符号化動画像データのうちの一方を選択し、選択した動画像データを符号化された形態で外部装置に送信する送信手段と、前記動画像データを通常再生速度で再生し、前記送信手段が前記再生手段により再生された動画像データを送信する通常再生モードと、前記動画像データを通常再生速度とは異なる速度で再生し、前記送信手段が前記符号化手段より出力された動画像データを送信する特殊再生モードとを切り替えるモード切り替え手段とを備えることを特徴とする。
【0013】
なお、その他の本発明の特徴は、添付図面及び以下の発明を実施するための最良の形態の記載によっていっそう明らかになるものである。
【発明の効果】
【0014】
以上の構成により、本発明によれば、コスト及び消費電力を抑えつつ、特殊な機能を持たない復号器を用いた場合でも特殊再生を実現することが可能となる。
【発明を実施するための最良の形態】
【0015】
以下、添付図面を参照して、本発明の好適な実施形態を説明する。
【0016】
なお、以下の各実施形態においては、ビデオデータ及びオーディオデータを含むマルチメディアデータの一例としてMPEGデータを対象に説明するが、それ以外の形式のマルチメディアデータにも本発明を適用可能である。
【0017】
また、特殊再生の一例としてスロー再生、スチル再生、コマ送り再生を対象に説明するが、それ以外の特殊再生(例えば早送り再生や巻戻し再生)にも本発明を適用可能である。
【0018】
[第1の実施形態]
<装置の構成>
図1は、本発明を適用可能なデータ伝送再生装置140及び外部装置としての表示装置141の構成を示す機能ブロック図である。データ伝送再生装置140及び表示装置141はIEEE1394ケーブル117で接続され、データ伝送再生装置140から表示装置141へ、MPEGデータがトランスポートストリーム(以下、「TS」と呼ぶ)として伝送される。
【0019】
まず、データ伝送再生装置140の構成を説明する。
【0020】
記憶媒体100は、伝送対象となるMPEGデータを保存するためのものであり、HDD(ハードディスク)、DVD、フラッシュメモリなど、いかなる種類の媒体であってもよい。
【0021】
バッファメモリ101は、記憶媒体100から取得したMPEGデータを一時的に保存するためのメモリである。
【0022】
DEMUX102は、記憶媒体100から取得したMPEGデータに含まれる画像(ビデオ)データと音声(オーディオ)データが多重化されている場合に、エレメンタリーストリーム(以下、「ES」と呼ぶ)に変換するためのものである。なお、「DEMUX」はデマルチプレクサを意味する。多重化MPEGデータは、ビデオESとオーディオESに変換される。
【0023】
ビデオESメモリ103は、DEMUX102によって得られたビデオESを一時的に保存するためのメモリである。
【0024】
ビデオ復号器104は、ビデオESを復号化してモニタ105に表示可能なデータ形式にする復号器である。
【0025】
ビデオ簡易符号器106は、ビデオ復号器104が復号化したビデオデータを再度符号化するための符号器である。ビデオ簡易符号器106はMPEG規格の通常のビデオ符号器と異なり、Iピクチャしか生成することができない。したがって、予測符号化のためのフレームメモリなどは不要であり、簡易的なものとすることができる。
【0026】
オーディオESメモリ107は、DEMUX102によって得られたオーディオESを一時的に保存するためのメモリである。
【0027】
オーディオ復号器108は、オーディオESを復号化してスピーカ109で出力可能なデータ形式にする復号器である。
【0028】
ミュート発生器110は、無音のオーディオES(以下、「ミュートオーディオES」と呼ぶ)を出力するためのものである。
【0029】
ストリーム切替スイッチ111は、出力(伝送)するTSを通常再生用と特殊再生用とで切り替えるためのものである。
【0030】
TS_MUX112は、ビデオESとオーディオESを多重化してTSを生成するためのものである。なお、「MUX」はマルチプレクサを意味する。
【0031】
外部I/F113は、IEEE1394のインタフェースである。
【0032】
CPU114は、データ伝送再生装置140全体の動作を制御するためのものであり、ROM115に格納されるプログラム(ファームウェア)を実行することにより機能する。
【0033】
ROM115は、CPU114が実行するプログラムを格納するための不揮発性メモリである。
【0034】
RAM116は、CPU114がROM115に格納されるプログラムを実行する際に作業領域として使用する揮発性メモリである。
【0035】
また、この他にもデータ伝送再生装置140は不図示の操作部を備え、ユーザはこれを介してデータ伝送再生装置140に指示を与えることができる。
【0036】
次に、表示装置141の構成を説明する。
【0037】
外部I/F118は、IEEE1394のインタフェースである。
【0038】
TS_DEMUX119は、データ伝送再生装置140から伝送されてきたTSをビデオESとオーディオESに変換するデマルチプレクサである。
【0039】
ビデオ復号器120は、TS_DEMUX119が変換したビデオESを復号化してモニタ121に表示可能なデータ形式にする復号器である。
【0040】
オーディオ復号器122は、TS_DEMUX119が変換したオーディオESを復号化してスピーカ123で出力可能なデータ形式にする復号器である。
【0041】
CPU124は、表示装置141全体の動作を制御するためのものであり、ROM125に格納されるプログラム(ファームウェア)を実行することにより機能する。
【0042】
ROM125は、CPU124が実行するプログラムを格納するための不揮発性メモリである。
【0043】
RAM126は、CPU124がROM125に格納されるプログラムを実行する際に作業領域として使用する揮発性メモリである。
【0044】
また、この他にも表示装置141は不図示の操作部を備え、ユーザはこれを介して表示装置141に指示を与えることができる。
【0045】
<通常再生時と特殊再生時のTS>
図2は、MPEGデータの通常再生時及び特殊再生時のTSと、モニタ105等に出力される画像等を模式的に示す図である。以下、図2及び図3乃至図6を参照して、通常再生時のデータ伝送再生装置140の動作、表示装置141の動作、特殊再生時のデータ伝送再生装置140の動作、特殊再生から通常再生へ切り替える際のデータ伝送再生装置140の動作を説明する。
【0046】
<通常再生時のデータ伝送再生装置140の動作>
図3は、MPEGデータの通常再生時における、データ伝送再生装置140のデータ伝送処理の流れを示すフローチャートである。データ伝送再生装置140がMPEGデータの通常再生の指示を受けると、本フローチャートの処理が開始する。データ伝送再生装置140は、通常再生の指示を、データ伝送再生装置140の不図示の操作部や、IEEE1394ケーブル117等を介して受けることができる。
【0047】
なお、通常再生時は、図1のストリーム切替スイッチ111のビデオ側(左)は「a」に、オーディオ側(右)は「c」に接続される。
【0048】
ステップS301で、図1のCPU114は記憶媒体100に保存されているMPEGデータを読み出し、バッファメモリ101に格納する。一時的に格納されるMPEGデータの形式は、TSやPS(プログラムストリーム)、またはビデオデータとオーディオデータが多重化されていないESのいずれでもよい。
【0049】
ステップS302で、CPU114はバッファメモリ101に格納した多重化MPEGデータが、ビデオデータとオーディオデータが多重化されているTSまたはPSであるかどうかを判定する。多重化されている場合はステップS303に進み、多重化されていない場合はステップS304に進む。
【0050】
ステップS303で、DEMUX102はバッファメモリ101に格納したMPEGデータをビデオES及びオーディオESに変換する。
【0051】
ステップS304で、CPU114はバッファメモリ101に格納されているビデオES及びオーディオESを、ビデオESメモリ103及びオーディオESメモリ107に格納する。
【0052】
ステップS305で、ビデオ復号器104はビデオESメモリ103に格納されているビデオESを復号化し、モニタ105に出力する。また、オーディオ復号器108はオーディオESメモリ107に格納されているオーディオESを復号化し、スピーカ109に出力する。ここで出力されるビデオフレーム(ピクチャ)及びオーディオの例を示すものが、図2(a)上段である。
【0053】
ステップS306で、TS_MUX112はビデオESメモリ103及びオーディオESメモリ107に格納されているビデオES及びオーディオESを多重化し、TSを生成する。IEEE1394上のストリーム形式はTSなので、MPEGデータを表示装置141へ伝送可能にするためである。
【0054】
ステップS307で、外部I/F113はIEEE1394ケーブル117を介して、ステップS306で生成したTSを表示装置141に伝送する。伝送されるTSの例を示すものが、図2(a)中段である。
【0055】
ステップS308で、CPU114はMPEGデータの再生が終了したかどうかを判定する。再生の終了は、例えばデータ伝送再生装置140が伝送中のMPEGデータを最後まで伝送した場合や、不図示の操作部等から再生終了の指示を受けた場合に発生する。再生が終了した場合は本フローチャートの処理を終了する。再生が終了していない場合はステップS301に戻り、上述の処理を繰り返す。
【0056】
<表示装置141の動作>
図4は、MPEGデータの通常再生時及び特殊再生時に共通する、表示装置141のデータ再生処理の流れを示すフローチャートである。通常再生時及び特殊再生時の処理が共通なのは、データ伝送再生装置140は再生の種類に応じて異なるTSを伝送するが、いずれの再生においてもパケット形式は共通だからである。外部I/F118がIEEE1394ケーブル117を介してTSが送られてきたことを検知すると、本フローチャートの処理が開始する。
【0057】
ステップS401で、外部I/F118はIEEE1394ケーブル117を介してTSを受信する。
【0058】
ステップS402で、TS_DEMUX119はTSをビデオES及びオーディオESに変換する。
【0059】
ステップS403で、ビデオ復号器120はビデオESを復号化し、モニタ121に出力する。また、オーディオ復号器122はオーディオESを復号化し、スピーカ123に出力する。通常再生の場合にここで出力されるビデオフレーム(ピクチャ)及びオーディオの例を示すものが、図2(a)下段である。特殊再生の場合に出力されるビデオフレーム(ピクチャ)及びオーディオの例を示すものは図2(b)下段であり、詳細は後述する。
【0060】
<特殊再生時のデータ伝送再生装置140の動作>
図5は、MPEGデータの特殊再生時における、データ伝送再生装置140のデータ伝送処理の流れを示すフローチャートである。図3の通常再生時と同一の処理を行うステップには同一の符号を付し、説明を省略する。データ伝送再生装置140がMPEGデータの特殊再生の指示を受けたり、通常再生時に特殊再生への変更指示を受けたりすると、本フローチャートの処理が開始する。
【0061】
本実施形態では、通常再生時にスチル再生への変更指示を受けたものとして説明する。ここでは、データ伝送再生装置140が、図2(b)の上段で「フリーズ画」と表示される区間の先頭のタイミングでスチル再生の指示を受けたものとする。
【0062】
ステップS501で、図1のCPU114は、ストリーム切替スイッチ111のビデオ側(左)を「b」に、オーディオ側(右)を「d」に接続する。また、CPU114は外部I/F118からストリームの不連続を示すDIT情報を発行して、ストリームが分断されることを表示装置141に通知する。さらに、CPU114は、ビデオESメモリ103から復号化前のビデオESのビットレートを取得し、ビデオ簡易符号器106に通知する。また、CPU114は、オーディオESメモリ107からオーディオESのビットレート、サンプリング周波数、及びMPEG1オーディオ、AC3などの符号化のモードを取得し、ミュート発生器110に通知する。
【0063】
ステップS502で、CPU114は記憶媒体100に保存されているMPEGデータを取得し(読み出し)、バッファメモリ101に格納する。ただし、ここでの読み出しはステップS301と異なり、特殊再生の種類に応じてMPEGデータから読み出す画像フレームの間隔が異なる。例えば、スチル再生であればビデオフレームが次のフレームに進まないため、スチル再生中は新たに画像フレームを読み出すことはしない。また、スロー再生であれば、記憶媒体100から全てのMPEGデータを順に読み出すが、所定の符号化単位(GOP)を単位として読み出し、その読み出し間隔は再生速度に応じたものとなる。また、早送り再生であれば、所定のフレーム数おきに画像フレームを読み出す。したがって、前述のように本実施形態ではスチル再生の場合について説明するが、読み出す画像フレームの間隔を調整すれば他の種類の特殊再生であっても同じことが言える。
【0064】
ステップS503で、ビデオ簡易符号器106は、ビデオ復号器104で復号化されたビデオ信号の各フレームをIピクチャのみからなるビデオESとして再符号化する。ここでの再符号化は、再生モードによっては同じ画像フレームに対して複数回行われることもある。例えば、スチル再生であれば、それが解除されるまで、ビデオ簡易符号器106は特定の画像フレームを再符号化し続ける。また、例えば1/3倍のスロー再生では、ビデオ簡易符号器106は各々の画像フレームを3回ずつ再符号化して再生速度を調整する。再符号化のアルゴリズムは通常のMPEG符号化と同様であり、DCT(離散コサイン変換)、量子化、ジグザグスキャンなどを組み合わせて可変長符号化する。なお、ビデオ簡易符号器106は、再符号化されたビデオESがステップS501で通知されたビットレート以下とすることを目標に量子化ステップなどを決定する。
【0065】
ステップS503ではまた、ミュート発生器110が、ステップS501で通知された形式と一致するミュートオーディオESを生成する。ミュートオーディオESは、無音を所定のサンプリング周波数でサンプリングし、所定の形式で符号化したものである。したがって、サンプリング周波数が不定であればリアルタイムに生成するが、サンプリング周波数が固定で予め特定可能であれば、ミュートオーディオESは固定的なデータとなるため、予めROM115等に用意したものを利用してもよい。
【0066】
ステップS504で、TS_MUX112はビデオ簡易符号器106が生成したビデオES及びミュート発生器110が生成したミュートオーディオESを多重化し、TSを生成する。
【0067】
なお、スチル再生時に伝送されるTSの例を示すものが、図2(b)中段の、左側の「DIT」表示から4フレーム続くIピクチャと、それに対応するミュートデータである。また、前述のように、表示装置141に出力されるビデオフレーム(ピクチャ)及びオーディオの例を示すものが図2(b)下段であり、図2(b)中段の、左側の「DIT」表示から4フレーム続くIピクチャに対応する部分である。
【0068】
<特殊再生から通常再生に切り替える時のデータ伝送再生装置140の動作>
図6は、MPEGデータの再生方式を特殊再生から通常再生に切り替える時における、データ伝送再生装置140のデータ伝送処理の流れを示すフローチャートである。図3の通常再生時と同一の処理を行うステップには同一の符号を付し、説明を省略する。データ伝送再生装置140がMPEGデータの特殊再生時に通常再生への変更指示を受けると、本フローチャートの処理が開始する。
【0069】
ステップS601で、図1のCPU114は、ストリーム切替スイッチ111のオーディオ側(右)を「c」に接続する。これにより、オーディオESがミュート発生器110の生成するものから記憶媒体100に保存されているMPEGデータに含まれるものに切り替わる。一方、ストリーム切替スイッチ111のビデオ側(左)は切り替えない。表示装置141のビデオ復号器120は、Iピクチャから開始するビデオESでなければ復号化できないので、ビデオESメモリ103にIピクチャが入るまではビデオ簡易符号器106によるIピクチャを使用するためである。
【0070】
ステップS602で、CPU114は、ビデオESメモリ103に格納されているビデオESから得られるピクチャがIピクチャであるかどうかを判断する。IピクチャであればステップS605に進み、IピクチャでなければステップS603に進む。
【0071】
ステップS603では、図5のステップS503と同様、ビデオ簡易符号器106は、ビデオ復号器104で復号化されたビデオ信号の各フレームをIピクチャのみからなるビデオESとして再符号化する。ただし、ステップS503と異なり、ミュート発生器110はミュートオーディオESを生成しない。
【0072】
ステップS604で、TS_MUX112はビデオ簡易符号器106が生成したビデオES及びオーディオESメモリ107に格納されているオーディオESを多重化し、TSを生成する。
【0073】
ステップS602において、ビデオESメモリ103に格納されているビデオESから得られるピクチャがIピクチャであった場合は、前述の通りステップS605に進む。
【0074】
ステップS605で、CPU114は、ストリーム切替スイッチ111のビデオ側(左)を「a」に接続する。また、CPU114は外部I/F118からストリームの不連続を示すDIT情報を発行して、ストリームが分断されることを表示装置141に通知する。次いで、通常再生の処理(図3)に戻る。
【0075】
データ伝送再生装置140を特殊再生から通常再生に切り替える時のモニタ105等の出力やTSを示すものが、図2(b)である。図2(b)中段の右側の「DIT」表示から左へ3つ並ぶIピクチャと時間的に対応する部分が本フローチャートの処理に相当する。
【0076】
本実施形態では特殊再生の種類をスチル再生としたが、図5を参照して説明したように、他の種類の特殊再生(例えばスロー再生やコマ送り再生)でも図6のフローチャートを適用できる。CPU114は、通常再生への変更と同時にストリーム切替スイッチ111のオーディオ側(右)を「c」に接続する。また、ビデオESメモリ103に格納されているビデオESから得られるピクチャがIピクチャになった時点でビデオ側(左)を「a」に接続する。この点で、特殊再生の種類による違いはないからである。
【0077】
<第1の実施形態のまとめ>
以上説明したように、本実施形態によれば、データ伝送再生装置140はMPEGデータの特殊再生時に、ビデオ簡易符号器106がビデオESをIピクチャのみからなるものに再符号化する。また、ミュート発生器110がミュートオーディオESを生成する。TS_MUX112は、ビデオ簡易符号器106によるビデオESとミュート発生器110によるミュートオーディオESを多重化してTSを生成する。
【0078】
MPEGデータの再生方式を特殊再生から通常再生に切り替える時は、直ちにオーディオESをミュート発生器110が生成するものから記憶媒体100に保存されているMPEGデータによるものに切り替える。しかし、ビデオESはCPU114がビデオESメモリ103に格納されているビデオESから得られるピクチャがIピクチャになるまでは、ビデオ簡易符号器106が生成するものを使い続ける。
【0079】
これにより、特殊再生時はミュートオーディオESを使用するため、無音状態となり、音声の不自然な途切れは発生しない。また、ビデオ簡易符号器106がIピクチャのみからなるビデオESを生成する際に、復号器の仮想入力バッファの蓄積量を示すデータを無効化する必要がないため、表示装置141の復号器の破綻を防止できる。さらに、ビデオ簡易符号器106はフレーム間予測を行わないため、単純な構成とすることができ、コスト及び消費電力を抑えることができる。
【0080】
[第2の実施形態]
第1の実施形態では、MPEGデータの特殊再生時に、図1のビデオ簡易符号器106は、IピクチャのみからなるビデオESを生成した。第2の実施形態では、MPEGデータの特殊再生時に、ビデオ簡易符号器106が、Iピクチャに加えてコピーピクチャを含むビデオESを生成する形態を説明する。コピーピクチャとはPピクチャの一種であり、直前のピクチャが表現する画像と同一の画像を表現するものである。
【0081】
なお、本実施形態において、データ伝送再生装置140及び表示装置141の構成は第1の実施形態(図1)と同様でよいため、その説明を省略する。また、MPEGデータの通常再生時におけるデータ伝送再生装置140のデータ伝送処理の流れ、及び、表示装置141によるMPEGデータの再生処理の流れも、第1の実施形態(図3、図4)と同様のため、説明を省略する。
【0082】
<コピーピクチャの構成>
図7は、コピーピクチャの構成を示す図である。図7の各々のブロックがマクロブロック(MB)を示す。コピーピクチャは、直前のピクチャが表現する画像と同一の画像を表現するものであるため、MBの大半がスキップドマクロブロック(SMB)で構成される。ただし、スライスの両端のMBには、MPEGの規定によりSMBを使用できないため、macroblock_typeをMC、NotCodedとしたMB(MBH)を使用する。MBHは、MBアドレス情報と、(0,0)の動きベクトルを持ち、DCT係数を持たないMBである。
【0083】
コピーピクチャは、大部分が固定されたデータであるため、予め図1のROM115等に保存しておき、MPEGデータの特殊再生時にはビデオ簡易符号器106はこれを使用してビデオESを生成してもよい。または、CPU114がビデオESのシーケンスヘッダを解析してピクチャのサイズを調べ、それに則してビデオ簡易符号器106がコピーピクチャを生成してもよい。ビデオ簡易符号器106は前述のように、フレームメモリを備えず、原則としてPピクチャを生成することはできないが、コピーピクチャは動き補償を行わないため、ビデオ簡易符号器106はこれを生成できる。
【0084】
なお、コピーピクチャは、Pピクチャの形式ではなく、Bピクチャの形式で構成されてもよい。この場合でも、Bピクチャの一種であるコピーピクチャは、直前のピクチャが表現する画像と同一の画像を表現するものである。
【0085】
コピーピクチャはIピクチャに比べてデータ量が小さいため、IピクチャのみでビデオESを生成する第1の実施形態と異なり、データ伝送のビットレートを高くしなくても、多くの符号量をIピクチャにより割り当てることができる。したがって、MPEGデータを特殊再生する際に、画質を向上させることができる。
【0086】
<通常再生時と特殊再生時のTS>
図8は、MPEGデータの通常再生時及び特殊再生時のTSと、モニタ105等に出力される画像等を模式的に示す図である。以下、図8及び図9乃至図12を参照して、特殊再生時のデータ伝送再生装置140の動作及び特殊再生から通常再生へ切り替える際のデータ伝送再生装置140の動作を説明する。
【0087】
<特殊再生時のデータ伝送再生装置140の動作>
図9は、MPEGデータの特殊再生時における、データ伝送再生装置140のデータ伝送処理の流れを示すフローチャートである。第1の実施形態(図5)と同一の処理を行うステップには同一の符号を付し、説明を省略する。データ伝送再生装置140がMPEGデータの特殊再生の指示を受けたり、通常再生時に特殊再生への変更指示を受けたりすると、本フローチャートの処理が開始する。
【0088】
本実施形態では、第1の実施形態と同様、通常再生時にスチル再生への変更指示を受けたものとして説明する。データ伝送再生装置140は、図8(b)の上段で「フリーズ画」と表示される区間の先頭のタイミングでスチル再生の指示を受ける。
【0089】
ステップS901で、図1のCPU114は、ステップS501において行われる初期化設定と同様の処理を行い、加えて、変数mを定数nに初期化する。定数nは、IピクチャとコピーピクチャからなるビデオESにおいて、何ピクチャおきにIピクチャが表れるかを示す値である。定数nの値は、MPEGデータの特殊再生時においてモニタ121等が出力する画像の更新頻度を定めるため、特殊再生の種類に応じてCPU114が定数nの値を決定する。定数nの値と特殊再生の種類の関係は、図10及び図11を参照して後述する。
【0090】
ステップS902で、CPU114はm<nであるかどうかを判定する。m<nでなければ、次のピクチャはIピクチャであるため、ステップS903に進む。m<nであれば、次のピクチャはコピーピクチャであるため、ステップS904に進む。
【0091】
ステップS903で、ビデオ簡易符号器106は、ビデオ復号器104で復号化された1枚のピクチャをIピクチャとして再符号化する。また、ミュート発生器110が、ミュートオーディオESを生成する。さらに、変数mを0にする。
【0092】
ステップS904で、ビデオ簡易符号器106は、コピーピクチャを生成するか、または、ROM115に予め保存されているコピーピクチャを取得する。また、ミュート発生器110が、ミュートオーディオESを生成する。さらに、変数mに1を加える。
【0093】
ステップS903及びステップS904で生成されたピクチャを含むビデオESは、第1の実施形態と同様、ビデオ簡易符号器106がステップS901で通知されたビットレート以下となることを目標に生成される。ここで、コピーピクチャのデータ量は一定であるため、ビデオ簡易符号器106は、
(((Iピクチャのデータ量)+(コピーピクチャのデータ量)×(n−1))/n)
×(フレームレート)=(目標とするビットレート)
となるように、量子化ステップなどを定め、Iピクチャを生成する。
【0094】
なお、スチル再生時に伝送されるTSの例を示すものが、図8(b)中段の、左側の「DIT」表示から4フレーム続く「I、C、C、I」ピクチャと、それに対応するミュートデータである。
【0095】
また、第1の実施形態と同様、図9のフローチャートの処理は、スチル再生以外の特殊再生にも適用することができる。
【0096】
<定数nの決定>
前述のように、定数nの値は、MPEGデータの特殊再生時においてモニタ121等が出力する画像の更新頻度を定めるため、特殊再生の種類に応じてCPU114が定数nの値を決定する。
【0097】
特殊再生の種類がスチル再生の場合、出力画像を更新する必要はないため、CPU114は定数nの値を大きく定める。この値は、事実上無限でよく、例えば、n=0の場合、定数nは無限であるとみなすようにデータ伝送再生装置140を構成してもよい。
【0098】
特殊再生の種類がスロー再生の場合、CPU114は何倍速のスロー再生か、換言すれば同一の画像を何フレーム連続出力するか、に基づいて定数nを定める。図10は、1/3倍速のスロー再生において、n=3及びn=2の時のTSと、モニタ105等に出力される画像を模式的に示す図である。
【0099】
このとき、データ伝送再生装置140のモニタ105には、更新された画像1枚につき、フリーズ画像(直前の画像と同一の画像)が2枚続けて出力される。そこで、図10の上に示すように、n=3とすると、表示装置141のモニタ121に出力される画像が最も適切な頻度で更新される。換言すれば、スロー再生における画像更新周期に一致するように定数nの値を定めると、表示装置141のモニタ121に出力される画像の追従性が最良となる。
【0100】
特殊再生の種類がコマ送り再生の場合、更新された画像1枚に続くフリーズ画像の数が一定ではない。したがって、図11に示すように、コマ送り再生におけるフリーズ画像の最小枚数に1を加えた値、またはそれ以下の自然数を定数nとすると、表示装置141のモニタ121に出力される画像の追従性が向上する。
【0101】
なお、特殊再生の種類が早送り再生の場合のように、MPEGデータに含まれる画像フレームを所定のフレーム数おきに表示する再生モードの場合、ビデオ簡易符号器106はn=1としてコピーピクチャを使用しない。さらに、第1の実施形態と同様、CPU114は記憶媒体100に保存されているMPEGデータを所定のフレーム数おきに取得する(読み出す)。
【0102】
<特殊再生から通常再生に切り替える時のデータ伝送再生装置140の動作>
図12は、MPEGデータの再生方式を特殊再生から通常再生に切り替える時における、データ伝送再生装置140のデータ伝送処理の流れを示すフローチャートである。第1の実施形態(図6)と同一の処理を行うステップには同一の符号を付し、説明を省略する。データ伝送再生装置140がMPEGデータの特殊再生時に通常再生への変更指示を受けると、本フローチャートの処理が開始する。
【0103】
ステップS1201で、CPU114はステップS902と同様、m<nであるかどうかを判定する。ここで、変数m及び定数nの値は、データ伝送再生装置140が通常再生への変更指示を受ける前の、特殊再生時の値をそのまま引き継いだものである。m<nでなければ、次のピクチャはIピクチャであるため、ステップS1202に進む。m<nであれば、次のピクチャはコピーピクチャであるため、ステップS1203に進む。
【0104】
ステップS1202で、ビデオ簡易符号器106はステップS903と同様、ビデオ復号器104で復号化された1枚のピクチャをIピクチャとして再符号化する。また、変数mを0にする。ただし、ステップS903と異なり、ミュート発生器110はミュートオーディオESを生成しない。
【0105】
ステップS1203で、ビデオ簡易符号器106はステップS904と同様、コピーピクチャを生成するか、または、ROM115に予め保存されているコピーピクチャを取得する。また、変数mに1を加える。ただし、ステップS904と異なり、ミュート発生器110はミュートオーディオESを生成しない。
【0106】
データ伝送再生装置140を特殊再生から通常再生に切り替える時のモニタ105等の出力やTSを示すものが、図8(b)である。図8(b)中段の右側の「DIT」表示の左に3つ並ぶ「C、C、I」ピクチャと時間的に対応する部分が本フローチャートの処理に相当する。
【0107】
このように、データ伝送再生装置140は特殊再生時に通常再生への変更指示を受けると、オーディオの再生を直ちに通常再生に戻す。しかし、ビデオの再生は、ビデオESメモリ103に格納されているビデオESから得られるピクチャがIピクチャになるまで特殊再生を続ける。
【0108】
本実施形態では特殊再生の種類をスチル再生としたが、第1の実施形態と同様、他の種類の特殊再生(例えばスロー再生やコマ送り再生)でも図12のフローチャートを適用できる。CPU114は、通常再生への変更と同時にストリーム切替スイッチ111のオーディオ側(右)を「c」に接続する。また、ビデオESメモリ103に格納されているビデオESから得られるピクチャがIピクチャになった時点でビデオ側(左)を「a」に接続する。この点で、特殊再生の種類による違いはないからである。
【0109】
<第2の実施形態のまとめ>
以上説明したように、本実施形態によれば、MPEGデータの特殊再生時に、データ伝送再生装置140はIピクチャに加えてコピーピクチャを含むビデオESを生成する。
【0110】
これにより、表示装置141がMPEGデータを特殊再生する際に、画質を向上させることができる。なぜなら、コピーピクチャはIピクチャに比べてデータ量が少ないため、伝送するTSのビットレートを増大させなくても、より多くの符号量をIピクチャに割り当てることができるからである。
【0111】
[その他の実施形態]
<特殊再生時のオーディオESの破棄>
上述した各実施形態において、MPEGデータの特殊再生時は、ミュート発生器110がミュートオーディオESを生成し、TS_MUX112がこれをビデオESと多重化してTSを生成することにより、音声の不自然な途切れを防止した。
【0112】
しかし、ミュートオーディオESを使用せず、MPEGデータに含まれるオーディオESを破棄することによっても、同様の効果が得られる。
【0113】
図13は、MPEGデータの特殊再生時にオーディオESを破棄する場合の、TSと、モニタ105等に出力される画像等を模式的に示す図である。図13(b)中段に示すように、ビデオESが再符号化されている間は、オーディオESが破棄される。第1及び第2の実施形態と異なり、データ伝送再生装置140が通常再生への変更指示を受けても、ビデオESメモリ103に格納されているビデオESから得られるピクチャがIピクチャになるまではオーディオESは破棄される。オーディオESの破棄によりストリームの分断が発生するため、「DIT」が発行されるまではTS_MUX112がTSに多重化するストリームを変更することは好ましくないからである。
【0114】
<インタレース形式のプログレッシブ形式への変換>
上述した各実施形態において、記憶媒体100に記録されているMPEGデータに含まれるビデオデータがインタレース形式の場合、これを特殊再生する際にプログレッシブ形式に変換してもよい。この場合、ビデオ簡易符号器106がビデオ復号器104の復号化したインタレース形式のビデオデータをプログレッシブ形式に変換してから再符号化し、ビデオESを生成する。
【0115】
インタレース形式をプログレッシブ形式に変換すると、MPEGデータの特殊再生時の画質を向上させることができる。なぜなら、インタレース形式の場合、同一のフレームを連続してモニタ121に表示すると、時間的に前後するフィールドを交互に表示することになり、ちらつきが発生するからである。それに対し、プログレッシブ形式の場合、各々のフレームは単一の時刻における画像データから構成されるため、同一のフレームを連続してモニタ121に表示しても、ちらつきは発生しない。
【0116】
ビデオデータがインタレース形式であるか、プログレッシブ形式であるかの判断は、CPU114がビデオESのヘッダ情報であるProgressive Frame(PF)を参照して行うことができる。PF=1であればそのビデオデータはプログレッシブ形式、PF=0であればインタレース形式である。
【0117】
ビデオデータをインタレース形式からプログレッシブ形式に変換することは、任意の公知の技術を用いて行うことができる。ここでは、変換時の基準フィールドの決定方法を説明する。
【0118】
変換時の基準フィールドは、MPEGデータの通常再生時の最終フィールドを用いる。図14は、MPEGデータの通常再生時の最終フィールドを判定する際に使用するテーブルを示す図である。
【0119】
Repeat First Field(RF)が0の場合、そのフレームは2フィールドから構成される。そこで、Top Field First(TF)の逆の値が最終フィールドとなる。すなわち、TF=1(Top Field First)の場合はBottom Fieldが最終フィールドとなる。TF=0(Bottom Field First)の場合はTop Filedが最終フィールドとなる。
【0120】
RFが1の場合は逆に、TF=1の場合はTop Fieldが、TF=0の場合はBottom Filedが最終フィールドとなる。
【0121】
<その他>
上述した各実施の形態の処理は、各機能を具現化したソフトウェアのプログラムコードを記録した記憶媒体をシステム或は装置に提供してもよい。そして、そのシステム或は装置のコンピュータ(又はCPUやMPU)が記憶媒体に格納されたプログラムコードを読み出し実行することによって、前述した実施形態の機能を実現することができる。この場合、記憶媒体から読み出されたプログラムコード自体が前述した実施形態の機能を実現することになり、そのプログラムコードを記憶した記憶媒体は本発明を構成することになる。このようなプログラムコードを供給するための記憶媒体としては、例えば、フロッピィ(登録商標)ディスク、ハードディスク、光ディスク、光磁気ディスクなどを用いることができる。或いは、CD−ROM、CD−R、磁気テープ、不揮発性のメモリカード、ROMなどを用いることもできる。
【0122】
また、コンピュータが読み出したプログラムコードを実行することにより、前述した各実施の形態の機能が実現されるだけではない。そのプログラムコードの指示に基づき、コンピュータ上で稼動しているOS(オペレーティングシステム)などが実際の処理の一部又は全部を行い、その処理によって前述した各実施の形態の機能が実現される場合も含まれている。
【0123】
さらに、記憶媒体から読み出されたプログラムコードが、コンピュータに挿入された機能拡張ボードやコンピュータに接続された機能拡張ユニットに備わるメモリに書きこまれてもよい。その後、そのプログラムコードの指示に基づき、その機能拡張ボードや機能拡張ユニットに備わるCPUなどが実際の処理の一部又は全部を行い、その処理によって前述した各実施の形態の機能が実現される場合も含むものである。
【図面の簡単な説明】
【0124】
【図1】本発明を適用可能なデータ伝送再生装置140及び外部装置としての表示装置141の構成を示す機能ブロック図である。
【図2】MPEGデータの通常再生時及び特殊再生時のTSと、モニタ105等に出力される画像等を模式的に示す図である。
【図3】MPEGデータの通常再生時における、データ伝送再生装置140のデータ伝送処理の流れを示すフローチャートである。
【図4】MPEGデータの通常再生時及び特殊再生時に共通する、表示装置141のデータ再生処理の流れを示すフローチャートである。
【図5】MPEGデータの特殊再生時における、データ伝送再生装置140のデータ伝送処理の流れを示すフローチャートである。
【図6】MPEGデータの再生方式を特殊再生から通常再生に切り替える時における、データ伝送再生装置140のデータ伝送処理の流れを示すフローチャートである。
【図7】コピーピクチャの構成を示す図である。
【図8】MPEGデータの通常再生時及び特殊再生時のTSと、モニタ105等に出力される画像等を模式的に示す図である。
【図9】MPEGデータの特殊再生時における、データ伝送再生装置140のデータ伝送処理の流れを示すフローチャートである。
【図10】1/3倍速のスロー再生において、n=3及びn=2の時のTSと、モニタ105等に出力されるフレームを模式的に示す図である。
【図11】フリーズ画像の最小枚数が2のコマ送り再生において、n=3及びn=4の時のTSと、モニタ105等に出力されるフレームを模式的に示す図である。
【図12】MPEGデータの再生方式を特殊再生から通常再生に切り替える時における、データ伝送再生装置140のデータ伝送処理の流れを示すフローチャートである。
【図13】MPEGデータの特殊再生時にオーディオESを破棄する場合の、TSと、モニタ105等に出力される画像等を模式的に示す図である。
【図14】MPEGデータの通常再生時の最終フィールドを判定する際に使用するテーブルを示す図である。
【符号の説明】
【0125】
106 ビデオ簡易符号器
110 ミュート発生器
111 ストリーム切替スイッチ
140 データ伝送再生装置
141 表示装置
【技術分野】
【0001】
本発明は、ビデオデータ及びオーディオデータを含むマルチメディアデータを再生して伝送するデータ再生伝送装置及びデータ再生伝送方法に関する。
【背景技術】
【0002】
従来、MPEGなどの符号化方式で符号化された動画像データや音声データを記録媒体から再生し、符号化されたままの状態で外部の表示装置などに伝送し、これを復号して表示する技術が知られている。この様に、符号化された動画像データなどを送受信するためのデジタルインタフェースとして、IEEE1394(Institute of Electrical and Electronics Engineers 1394)がしばしば使用される。
【0003】
この様に、MPEGデータを表示装置に送信して復号、表示するシステムにおいて、スロー、スチル、コマ送り等の特殊再生を実現する場合、次のようにして実現することができる。例えば、これらの特殊再生を示す特定の付加情報をMPEGデータに付加して送信し、復号器においてこの付加情報に従って復号することで実現可能である。
【0004】
具体的には、PES(Packetized Elementary Stream)パケットのヘッダ情報内のDSM_trick_modeフィールドに、特殊再生に関する情報を記述する。
【0005】
しかし、デコーダの中には、この様な特殊再生用の付加情報である、PESパケットのヘッダ情報のDSM_trick_modeに従ってデコード処理を行うことができないものが多数存在する。そこで、そのような表示装置でもMPEGデータの特殊再生を可能にするデータ再生伝送装置が提案されている。
【0006】
例えば、特許文献1では、記録媒体から再生された全てのMPEGデータを一旦復号化した後、再符号化して送信する構成である。
【特許文献1】特開2001−28748号公報
【発明の開示】
【発明が解決しようとする課題】
【0007】
しかしながら、特許文献1では、再生伝送装置に完全な符号器(エンコーダ)を設ける必要がある。「完全な符号器」とは、フレーム内符号化画像(Iピクチャ)、フレーム間予測符号化画像(Pピクチャ)、双方向予測符号化画像(Bピクチャ)のすべてのピクチャを生成可能な符号器という意味である。このような符号器では、例えば予測符号化のためのフレームメモリが必要となるなど、回路構成が複雑化し、コスト及び消費電力が増大するという問題がある。
【0008】
また、特許文献1では、MPEGデータのIピクチャのフレームでしか画像の更新が行われないため、特殊再生時に画像の追従性が悪化するという問題がある。したがって、例えばスロー再生時において、画像の更新頻度が低くなり、滑らかにスロー再生を行うことができない。
【0009】
さらに、特許文献1では、表示装置がダミーパケット情報またはDIT情報を受け取った場合の復号動作等に関する明確な規定がなく、表示装置ごとに振る舞いが異なりうるため、表示装置が適切に特殊再生を行える保証がない。なお、DIT情報は符号化ビットストリーム(データストリーム)の不連続を示す情報であり、Discontinuity Information Tableの略である。
【0010】
本発明はこのような状況に鑑みてなされたものであり、特別な復号機能を持たない復号器を使用した場合にも、特殊再生を実現可能な技術を提供することを目的とする。
【課題を解決するための手段】
【0011】
上記課題を解決するために、本発明の再生装置は、フレーム内符号化とフレーム間予測符号化とを用いて符号化された動画像データを含む符号化データ列を記録媒体から再生する再生手段と、前記再生手段より再生された動画像データを復号する復号手段と、前記復号手段により復号された動画像データを前記フレーム内符号化のみにより符号化した符号化動画像データを出力する符号化手段と、前記再生手段により再生された動画像データまたは前記符号化手段より出力された符号化動画像データのうちの一方を選択し、選択した動画像データを符号化された形態で外部装置に送信する送信手段と、前記動画像データを通常再生速度で再生し、前記送信手段が前記再生手段により再生された動画像データを送信する通常再生モードと、前記動画像データを通常再生速度とは異なる速度で再生し、前記送信手段が前記符号化手段より出力された動画像データを送信する特殊再生モードとを切り替えるモード切り替え手段とを備えることを特徴とする。
【0012】
また、本発明の他の再生装置は、フレーム内符号化とフレーム間予測符号化とを用いて符号化された動画像データを含む符号化データ列を記録媒体から再生する再生手段と、前記再生手段より再生された動画像データを復号する復号手段と、前記復号手段により復号された動画像データをフレーム内符号化データ及び参照フレームと同一のデータを復号するためのコピーピクチャデータとからなる符号化動画像データに変換して出力する符号化手段と、前記再生手段により再生された動画像データまたは前記符号化手段より出力された符号化動画像データのうちの一方を選択し、選択した動画像データを符号化された形態で外部装置に送信する送信手段と、前記動画像データを通常再生速度で再生し、前記送信手段が前記再生手段により再生された動画像データを送信する通常再生モードと、前記動画像データを通常再生速度とは異なる速度で再生し、前記送信手段が前記符号化手段より出力された動画像データを送信する特殊再生モードとを切り替えるモード切り替え手段とを備えることを特徴とする。
【0013】
なお、その他の本発明の特徴は、添付図面及び以下の発明を実施するための最良の形態の記載によっていっそう明らかになるものである。
【発明の効果】
【0014】
以上の構成により、本発明によれば、コスト及び消費電力を抑えつつ、特殊な機能を持たない復号器を用いた場合でも特殊再生を実現することが可能となる。
【発明を実施するための最良の形態】
【0015】
以下、添付図面を参照して、本発明の好適な実施形態を説明する。
【0016】
なお、以下の各実施形態においては、ビデオデータ及びオーディオデータを含むマルチメディアデータの一例としてMPEGデータを対象に説明するが、それ以外の形式のマルチメディアデータにも本発明を適用可能である。
【0017】
また、特殊再生の一例としてスロー再生、スチル再生、コマ送り再生を対象に説明するが、それ以外の特殊再生(例えば早送り再生や巻戻し再生)にも本発明を適用可能である。
【0018】
[第1の実施形態]
<装置の構成>
図1は、本発明を適用可能なデータ伝送再生装置140及び外部装置としての表示装置141の構成を示す機能ブロック図である。データ伝送再生装置140及び表示装置141はIEEE1394ケーブル117で接続され、データ伝送再生装置140から表示装置141へ、MPEGデータがトランスポートストリーム(以下、「TS」と呼ぶ)として伝送される。
【0019】
まず、データ伝送再生装置140の構成を説明する。
【0020】
記憶媒体100は、伝送対象となるMPEGデータを保存するためのものであり、HDD(ハードディスク)、DVD、フラッシュメモリなど、いかなる種類の媒体であってもよい。
【0021】
バッファメモリ101は、記憶媒体100から取得したMPEGデータを一時的に保存するためのメモリである。
【0022】
DEMUX102は、記憶媒体100から取得したMPEGデータに含まれる画像(ビデオ)データと音声(オーディオ)データが多重化されている場合に、エレメンタリーストリーム(以下、「ES」と呼ぶ)に変換するためのものである。なお、「DEMUX」はデマルチプレクサを意味する。多重化MPEGデータは、ビデオESとオーディオESに変換される。
【0023】
ビデオESメモリ103は、DEMUX102によって得られたビデオESを一時的に保存するためのメモリである。
【0024】
ビデオ復号器104は、ビデオESを復号化してモニタ105に表示可能なデータ形式にする復号器である。
【0025】
ビデオ簡易符号器106は、ビデオ復号器104が復号化したビデオデータを再度符号化するための符号器である。ビデオ簡易符号器106はMPEG規格の通常のビデオ符号器と異なり、Iピクチャしか生成することができない。したがって、予測符号化のためのフレームメモリなどは不要であり、簡易的なものとすることができる。
【0026】
オーディオESメモリ107は、DEMUX102によって得られたオーディオESを一時的に保存するためのメモリである。
【0027】
オーディオ復号器108は、オーディオESを復号化してスピーカ109で出力可能なデータ形式にする復号器である。
【0028】
ミュート発生器110は、無音のオーディオES(以下、「ミュートオーディオES」と呼ぶ)を出力するためのものである。
【0029】
ストリーム切替スイッチ111は、出力(伝送)するTSを通常再生用と特殊再生用とで切り替えるためのものである。
【0030】
TS_MUX112は、ビデオESとオーディオESを多重化してTSを生成するためのものである。なお、「MUX」はマルチプレクサを意味する。
【0031】
外部I/F113は、IEEE1394のインタフェースである。
【0032】
CPU114は、データ伝送再生装置140全体の動作を制御するためのものであり、ROM115に格納されるプログラム(ファームウェア)を実行することにより機能する。
【0033】
ROM115は、CPU114が実行するプログラムを格納するための不揮発性メモリである。
【0034】
RAM116は、CPU114がROM115に格納されるプログラムを実行する際に作業領域として使用する揮発性メモリである。
【0035】
また、この他にもデータ伝送再生装置140は不図示の操作部を備え、ユーザはこれを介してデータ伝送再生装置140に指示を与えることができる。
【0036】
次に、表示装置141の構成を説明する。
【0037】
外部I/F118は、IEEE1394のインタフェースである。
【0038】
TS_DEMUX119は、データ伝送再生装置140から伝送されてきたTSをビデオESとオーディオESに変換するデマルチプレクサである。
【0039】
ビデオ復号器120は、TS_DEMUX119が変換したビデオESを復号化してモニタ121に表示可能なデータ形式にする復号器である。
【0040】
オーディオ復号器122は、TS_DEMUX119が変換したオーディオESを復号化してスピーカ123で出力可能なデータ形式にする復号器である。
【0041】
CPU124は、表示装置141全体の動作を制御するためのものであり、ROM125に格納されるプログラム(ファームウェア)を実行することにより機能する。
【0042】
ROM125は、CPU124が実行するプログラムを格納するための不揮発性メモリである。
【0043】
RAM126は、CPU124がROM125に格納されるプログラムを実行する際に作業領域として使用する揮発性メモリである。
【0044】
また、この他にも表示装置141は不図示の操作部を備え、ユーザはこれを介して表示装置141に指示を与えることができる。
【0045】
<通常再生時と特殊再生時のTS>
図2は、MPEGデータの通常再生時及び特殊再生時のTSと、モニタ105等に出力される画像等を模式的に示す図である。以下、図2及び図3乃至図6を参照して、通常再生時のデータ伝送再生装置140の動作、表示装置141の動作、特殊再生時のデータ伝送再生装置140の動作、特殊再生から通常再生へ切り替える際のデータ伝送再生装置140の動作を説明する。
【0046】
<通常再生時のデータ伝送再生装置140の動作>
図3は、MPEGデータの通常再生時における、データ伝送再生装置140のデータ伝送処理の流れを示すフローチャートである。データ伝送再生装置140がMPEGデータの通常再生の指示を受けると、本フローチャートの処理が開始する。データ伝送再生装置140は、通常再生の指示を、データ伝送再生装置140の不図示の操作部や、IEEE1394ケーブル117等を介して受けることができる。
【0047】
なお、通常再生時は、図1のストリーム切替スイッチ111のビデオ側(左)は「a」に、オーディオ側(右)は「c」に接続される。
【0048】
ステップS301で、図1のCPU114は記憶媒体100に保存されているMPEGデータを読み出し、バッファメモリ101に格納する。一時的に格納されるMPEGデータの形式は、TSやPS(プログラムストリーム)、またはビデオデータとオーディオデータが多重化されていないESのいずれでもよい。
【0049】
ステップS302で、CPU114はバッファメモリ101に格納した多重化MPEGデータが、ビデオデータとオーディオデータが多重化されているTSまたはPSであるかどうかを判定する。多重化されている場合はステップS303に進み、多重化されていない場合はステップS304に進む。
【0050】
ステップS303で、DEMUX102はバッファメモリ101に格納したMPEGデータをビデオES及びオーディオESに変換する。
【0051】
ステップS304で、CPU114はバッファメモリ101に格納されているビデオES及びオーディオESを、ビデオESメモリ103及びオーディオESメモリ107に格納する。
【0052】
ステップS305で、ビデオ復号器104はビデオESメモリ103に格納されているビデオESを復号化し、モニタ105に出力する。また、オーディオ復号器108はオーディオESメモリ107に格納されているオーディオESを復号化し、スピーカ109に出力する。ここで出力されるビデオフレーム(ピクチャ)及びオーディオの例を示すものが、図2(a)上段である。
【0053】
ステップS306で、TS_MUX112はビデオESメモリ103及びオーディオESメモリ107に格納されているビデオES及びオーディオESを多重化し、TSを生成する。IEEE1394上のストリーム形式はTSなので、MPEGデータを表示装置141へ伝送可能にするためである。
【0054】
ステップS307で、外部I/F113はIEEE1394ケーブル117を介して、ステップS306で生成したTSを表示装置141に伝送する。伝送されるTSの例を示すものが、図2(a)中段である。
【0055】
ステップS308で、CPU114はMPEGデータの再生が終了したかどうかを判定する。再生の終了は、例えばデータ伝送再生装置140が伝送中のMPEGデータを最後まで伝送した場合や、不図示の操作部等から再生終了の指示を受けた場合に発生する。再生が終了した場合は本フローチャートの処理を終了する。再生が終了していない場合はステップS301に戻り、上述の処理を繰り返す。
【0056】
<表示装置141の動作>
図4は、MPEGデータの通常再生時及び特殊再生時に共通する、表示装置141のデータ再生処理の流れを示すフローチャートである。通常再生時及び特殊再生時の処理が共通なのは、データ伝送再生装置140は再生の種類に応じて異なるTSを伝送するが、いずれの再生においてもパケット形式は共通だからである。外部I/F118がIEEE1394ケーブル117を介してTSが送られてきたことを検知すると、本フローチャートの処理が開始する。
【0057】
ステップS401で、外部I/F118はIEEE1394ケーブル117を介してTSを受信する。
【0058】
ステップS402で、TS_DEMUX119はTSをビデオES及びオーディオESに変換する。
【0059】
ステップS403で、ビデオ復号器120はビデオESを復号化し、モニタ121に出力する。また、オーディオ復号器122はオーディオESを復号化し、スピーカ123に出力する。通常再生の場合にここで出力されるビデオフレーム(ピクチャ)及びオーディオの例を示すものが、図2(a)下段である。特殊再生の場合に出力されるビデオフレーム(ピクチャ)及びオーディオの例を示すものは図2(b)下段であり、詳細は後述する。
【0060】
<特殊再生時のデータ伝送再生装置140の動作>
図5は、MPEGデータの特殊再生時における、データ伝送再生装置140のデータ伝送処理の流れを示すフローチャートである。図3の通常再生時と同一の処理を行うステップには同一の符号を付し、説明を省略する。データ伝送再生装置140がMPEGデータの特殊再生の指示を受けたり、通常再生時に特殊再生への変更指示を受けたりすると、本フローチャートの処理が開始する。
【0061】
本実施形態では、通常再生時にスチル再生への変更指示を受けたものとして説明する。ここでは、データ伝送再生装置140が、図2(b)の上段で「フリーズ画」と表示される区間の先頭のタイミングでスチル再生の指示を受けたものとする。
【0062】
ステップS501で、図1のCPU114は、ストリーム切替スイッチ111のビデオ側(左)を「b」に、オーディオ側(右)を「d」に接続する。また、CPU114は外部I/F118からストリームの不連続を示すDIT情報を発行して、ストリームが分断されることを表示装置141に通知する。さらに、CPU114は、ビデオESメモリ103から復号化前のビデオESのビットレートを取得し、ビデオ簡易符号器106に通知する。また、CPU114は、オーディオESメモリ107からオーディオESのビットレート、サンプリング周波数、及びMPEG1オーディオ、AC3などの符号化のモードを取得し、ミュート発生器110に通知する。
【0063】
ステップS502で、CPU114は記憶媒体100に保存されているMPEGデータを取得し(読み出し)、バッファメモリ101に格納する。ただし、ここでの読み出しはステップS301と異なり、特殊再生の種類に応じてMPEGデータから読み出す画像フレームの間隔が異なる。例えば、スチル再生であればビデオフレームが次のフレームに進まないため、スチル再生中は新たに画像フレームを読み出すことはしない。また、スロー再生であれば、記憶媒体100から全てのMPEGデータを順に読み出すが、所定の符号化単位(GOP)を単位として読み出し、その読み出し間隔は再生速度に応じたものとなる。また、早送り再生であれば、所定のフレーム数おきに画像フレームを読み出す。したがって、前述のように本実施形態ではスチル再生の場合について説明するが、読み出す画像フレームの間隔を調整すれば他の種類の特殊再生であっても同じことが言える。
【0064】
ステップS503で、ビデオ簡易符号器106は、ビデオ復号器104で復号化されたビデオ信号の各フレームをIピクチャのみからなるビデオESとして再符号化する。ここでの再符号化は、再生モードによっては同じ画像フレームに対して複数回行われることもある。例えば、スチル再生であれば、それが解除されるまで、ビデオ簡易符号器106は特定の画像フレームを再符号化し続ける。また、例えば1/3倍のスロー再生では、ビデオ簡易符号器106は各々の画像フレームを3回ずつ再符号化して再生速度を調整する。再符号化のアルゴリズムは通常のMPEG符号化と同様であり、DCT(離散コサイン変換)、量子化、ジグザグスキャンなどを組み合わせて可変長符号化する。なお、ビデオ簡易符号器106は、再符号化されたビデオESがステップS501で通知されたビットレート以下とすることを目標に量子化ステップなどを決定する。
【0065】
ステップS503ではまた、ミュート発生器110が、ステップS501で通知された形式と一致するミュートオーディオESを生成する。ミュートオーディオESは、無音を所定のサンプリング周波数でサンプリングし、所定の形式で符号化したものである。したがって、サンプリング周波数が不定であればリアルタイムに生成するが、サンプリング周波数が固定で予め特定可能であれば、ミュートオーディオESは固定的なデータとなるため、予めROM115等に用意したものを利用してもよい。
【0066】
ステップS504で、TS_MUX112はビデオ簡易符号器106が生成したビデオES及びミュート発生器110が生成したミュートオーディオESを多重化し、TSを生成する。
【0067】
なお、スチル再生時に伝送されるTSの例を示すものが、図2(b)中段の、左側の「DIT」表示から4フレーム続くIピクチャと、それに対応するミュートデータである。また、前述のように、表示装置141に出力されるビデオフレーム(ピクチャ)及びオーディオの例を示すものが図2(b)下段であり、図2(b)中段の、左側の「DIT」表示から4フレーム続くIピクチャに対応する部分である。
【0068】
<特殊再生から通常再生に切り替える時のデータ伝送再生装置140の動作>
図6は、MPEGデータの再生方式を特殊再生から通常再生に切り替える時における、データ伝送再生装置140のデータ伝送処理の流れを示すフローチャートである。図3の通常再生時と同一の処理を行うステップには同一の符号を付し、説明を省略する。データ伝送再生装置140がMPEGデータの特殊再生時に通常再生への変更指示を受けると、本フローチャートの処理が開始する。
【0069】
ステップS601で、図1のCPU114は、ストリーム切替スイッチ111のオーディオ側(右)を「c」に接続する。これにより、オーディオESがミュート発生器110の生成するものから記憶媒体100に保存されているMPEGデータに含まれるものに切り替わる。一方、ストリーム切替スイッチ111のビデオ側(左)は切り替えない。表示装置141のビデオ復号器120は、Iピクチャから開始するビデオESでなければ復号化できないので、ビデオESメモリ103にIピクチャが入るまではビデオ簡易符号器106によるIピクチャを使用するためである。
【0070】
ステップS602で、CPU114は、ビデオESメモリ103に格納されているビデオESから得られるピクチャがIピクチャであるかどうかを判断する。IピクチャであればステップS605に進み、IピクチャでなければステップS603に進む。
【0071】
ステップS603では、図5のステップS503と同様、ビデオ簡易符号器106は、ビデオ復号器104で復号化されたビデオ信号の各フレームをIピクチャのみからなるビデオESとして再符号化する。ただし、ステップS503と異なり、ミュート発生器110はミュートオーディオESを生成しない。
【0072】
ステップS604で、TS_MUX112はビデオ簡易符号器106が生成したビデオES及びオーディオESメモリ107に格納されているオーディオESを多重化し、TSを生成する。
【0073】
ステップS602において、ビデオESメモリ103に格納されているビデオESから得られるピクチャがIピクチャであった場合は、前述の通りステップS605に進む。
【0074】
ステップS605で、CPU114は、ストリーム切替スイッチ111のビデオ側(左)を「a」に接続する。また、CPU114は外部I/F118からストリームの不連続を示すDIT情報を発行して、ストリームが分断されることを表示装置141に通知する。次いで、通常再生の処理(図3)に戻る。
【0075】
データ伝送再生装置140を特殊再生から通常再生に切り替える時のモニタ105等の出力やTSを示すものが、図2(b)である。図2(b)中段の右側の「DIT」表示から左へ3つ並ぶIピクチャと時間的に対応する部分が本フローチャートの処理に相当する。
【0076】
本実施形態では特殊再生の種類をスチル再生としたが、図5を参照して説明したように、他の種類の特殊再生(例えばスロー再生やコマ送り再生)でも図6のフローチャートを適用できる。CPU114は、通常再生への変更と同時にストリーム切替スイッチ111のオーディオ側(右)を「c」に接続する。また、ビデオESメモリ103に格納されているビデオESから得られるピクチャがIピクチャになった時点でビデオ側(左)を「a」に接続する。この点で、特殊再生の種類による違いはないからである。
【0077】
<第1の実施形態のまとめ>
以上説明したように、本実施形態によれば、データ伝送再生装置140はMPEGデータの特殊再生時に、ビデオ簡易符号器106がビデオESをIピクチャのみからなるものに再符号化する。また、ミュート発生器110がミュートオーディオESを生成する。TS_MUX112は、ビデオ簡易符号器106によるビデオESとミュート発生器110によるミュートオーディオESを多重化してTSを生成する。
【0078】
MPEGデータの再生方式を特殊再生から通常再生に切り替える時は、直ちにオーディオESをミュート発生器110が生成するものから記憶媒体100に保存されているMPEGデータによるものに切り替える。しかし、ビデオESはCPU114がビデオESメモリ103に格納されているビデオESから得られるピクチャがIピクチャになるまでは、ビデオ簡易符号器106が生成するものを使い続ける。
【0079】
これにより、特殊再生時はミュートオーディオESを使用するため、無音状態となり、音声の不自然な途切れは発生しない。また、ビデオ簡易符号器106がIピクチャのみからなるビデオESを生成する際に、復号器の仮想入力バッファの蓄積量を示すデータを無効化する必要がないため、表示装置141の復号器の破綻を防止できる。さらに、ビデオ簡易符号器106はフレーム間予測を行わないため、単純な構成とすることができ、コスト及び消費電力を抑えることができる。
【0080】
[第2の実施形態]
第1の実施形態では、MPEGデータの特殊再生時に、図1のビデオ簡易符号器106は、IピクチャのみからなるビデオESを生成した。第2の実施形態では、MPEGデータの特殊再生時に、ビデオ簡易符号器106が、Iピクチャに加えてコピーピクチャを含むビデオESを生成する形態を説明する。コピーピクチャとはPピクチャの一種であり、直前のピクチャが表現する画像と同一の画像を表現するものである。
【0081】
なお、本実施形態において、データ伝送再生装置140及び表示装置141の構成は第1の実施形態(図1)と同様でよいため、その説明を省略する。また、MPEGデータの通常再生時におけるデータ伝送再生装置140のデータ伝送処理の流れ、及び、表示装置141によるMPEGデータの再生処理の流れも、第1の実施形態(図3、図4)と同様のため、説明を省略する。
【0082】
<コピーピクチャの構成>
図7は、コピーピクチャの構成を示す図である。図7の各々のブロックがマクロブロック(MB)を示す。コピーピクチャは、直前のピクチャが表現する画像と同一の画像を表現するものであるため、MBの大半がスキップドマクロブロック(SMB)で構成される。ただし、スライスの両端のMBには、MPEGの規定によりSMBを使用できないため、macroblock_typeをMC、NotCodedとしたMB(MBH)を使用する。MBHは、MBアドレス情報と、(0,0)の動きベクトルを持ち、DCT係数を持たないMBである。
【0083】
コピーピクチャは、大部分が固定されたデータであるため、予め図1のROM115等に保存しておき、MPEGデータの特殊再生時にはビデオ簡易符号器106はこれを使用してビデオESを生成してもよい。または、CPU114がビデオESのシーケンスヘッダを解析してピクチャのサイズを調べ、それに則してビデオ簡易符号器106がコピーピクチャを生成してもよい。ビデオ簡易符号器106は前述のように、フレームメモリを備えず、原則としてPピクチャを生成することはできないが、コピーピクチャは動き補償を行わないため、ビデオ簡易符号器106はこれを生成できる。
【0084】
なお、コピーピクチャは、Pピクチャの形式ではなく、Bピクチャの形式で構成されてもよい。この場合でも、Bピクチャの一種であるコピーピクチャは、直前のピクチャが表現する画像と同一の画像を表現するものである。
【0085】
コピーピクチャはIピクチャに比べてデータ量が小さいため、IピクチャのみでビデオESを生成する第1の実施形態と異なり、データ伝送のビットレートを高くしなくても、多くの符号量をIピクチャにより割り当てることができる。したがって、MPEGデータを特殊再生する際に、画質を向上させることができる。
【0086】
<通常再生時と特殊再生時のTS>
図8は、MPEGデータの通常再生時及び特殊再生時のTSと、モニタ105等に出力される画像等を模式的に示す図である。以下、図8及び図9乃至図12を参照して、特殊再生時のデータ伝送再生装置140の動作及び特殊再生から通常再生へ切り替える際のデータ伝送再生装置140の動作を説明する。
【0087】
<特殊再生時のデータ伝送再生装置140の動作>
図9は、MPEGデータの特殊再生時における、データ伝送再生装置140のデータ伝送処理の流れを示すフローチャートである。第1の実施形態(図5)と同一の処理を行うステップには同一の符号を付し、説明を省略する。データ伝送再生装置140がMPEGデータの特殊再生の指示を受けたり、通常再生時に特殊再生への変更指示を受けたりすると、本フローチャートの処理が開始する。
【0088】
本実施形態では、第1の実施形態と同様、通常再生時にスチル再生への変更指示を受けたものとして説明する。データ伝送再生装置140は、図8(b)の上段で「フリーズ画」と表示される区間の先頭のタイミングでスチル再生の指示を受ける。
【0089】
ステップS901で、図1のCPU114は、ステップS501において行われる初期化設定と同様の処理を行い、加えて、変数mを定数nに初期化する。定数nは、IピクチャとコピーピクチャからなるビデオESにおいて、何ピクチャおきにIピクチャが表れるかを示す値である。定数nの値は、MPEGデータの特殊再生時においてモニタ121等が出力する画像の更新頻度を定めるため、特殊再生の種類に応じてCPU114が定数nの値を決定する。定数nの値と特殊再生の種類の関係は、図10及び図11を参照して後述する。
【0090】
ステップS902で、CPU114はm<nであるかどうかを判定する。m<nでなければ、次のピクチャはIピクチャであるため、ステップS903に進む。m<nであれば、次のピクチャはコピーピクチャであるため、ステップS904に進む。
【0091】
ステップS903で、ビデオ簡易符号器106は、ビデオ復号器104で復号化された1枚のピクチャをIピクチャとして再符号化する。また、ミュート発生器110が、ミュートオーディオESを生成する。さらに、変数mを0にする。
【0092】
ステップS904で、ビデオ簡易符号器106は、コピーピクチャを生成するか、または、ROM115に予め保存されているコピーピクチャを取得する。また、ミュート発生器110が、ミュートオーディオESを生成する。さらに、変数mに1を加える。
【0093】
ステップS903及びステップS904で生成されたピクチャを含むビデオESは、第1の実施形態と同様、ビデオ簡易符号器106がステップS901で通知されたビットレート以下となることを目標に生成される。ここで、コピーピクチャのデータ量は一定であるため、ビデオ簡易符号器106は、
(((Iピクチャのデータ量)+(コピーピクチャのデータ量)×(n−1))/n)
×(フレームレート)=(目標とするビットレート)
となるように、量子化ステップなどを定め、Iピクチャを生成する。
【0094】
なお、スチル再生時に伝送されるTSの例を示すものが、図8(b)中段の、左側の「DIT」表示から4フレーム続く「I、C、C、I」ピクチャと、それに対応するミュートデータである。
【0095】
また、第1の実施形態と同様、図9のフローチャートの処理は、スチル再生以外の特殊再生にも適用することができる。
【0096】
<定数nの決定>
前述のように、定数nの値は、MPEGデータの特殊再生時においてモニタ121等が出力する画像の更新頻度を定めるため、特殊再生の種類に応じてCPU114が定数nの値を決定する。
【0097】
特殊再生の種類がスチル再生の場合、出力画像を更新する必要はないため、CPU114は定数nの値を大きく定める。この値は、事実上無限でよく、例えば、n=0の場合、定数nは無限であるとみなすようにデータ伝送再生装置140を構成してもよい。
【0098】
特殊再生の種類がスロー再生の場合、CPU114は何倍速のスロー再生か、換言すれば同一の画像を何フレーム連続出力するか、に基づいて定数nを定める。図10は、1/3倍速のスロー再生において、n=3及びn=2の時のTSと、モニタ105等に出力される画像を模式的に示す図である。
【0099】
このとき、データ伝送再生装置140のモニタ105には、更新された画像1枚につき、フリーズ画像(直前の画像と同一の画像)が2枚続けて出力される。そこで、図10の上に示すように、n=3とすると、表示装置141のモニタ121に出力される画像が最も適切な頻度で更新される。換言すれば、スロー再生における画像更新周期に一致するように定数nの値を定めると、表示装置141のモニタ121に出力される画像の追従性が最良となる。
【0100】
特殊再生の種類がコマ送り再生の場合、更新された画像1枚に続くフリーズ画像の数が一定ではない。したがって、図11に示すように、コマ送り再生におけるフリーズ画像の最小枚数に1を加えた値、またはそれ以下の自然数を定数nとすると、表示装置141のモニタ121に出力される画像の追従性が向上する。
【0101】
なお、特殊再生の種類が早送り再生の場合のように、MPEGデータに含まれる画像フレームを所定のフレーム数おきに表示する再生モードの場合、ビデオ簡易符号器106はn=1としてコピーピクチャを使用しない。さらに、第1の実施形態と同様、CPU114は記憶媒体100に保存されているMPEGデータを所定のフレーム数おきに取得する(読み出す)。
【0102】
<特殊再生から通常再生に切り替える時のデータ伝送再生装置140の動作>
図12は、MPEGデータの再生方式を特殊再生から通常再生に切り替える時における、データ伝送再生装置140のデータ伝送処理の流れを示すフローチャートである。第1の実施形態(図6)と同一の処理を行うステップには同一の符号を付し、説明を省略する。データ伝送再生装置140がMPEGデータの特殊再生時に通常再生への変更指示を受けると、本フローチャートの処理が開始する。
【0103】
ステップS1201で、CPU114はステップS902と同様、m<nであるかどうかを判定する。ここで、変数m及び定数nの値は、データ伝送再生装置140が通常再生への変更指示を受ける前の、特殊再生時の値をそのまま引き継いだものである。m<nでなければ、次のピクチャはIピクチャであるため、ステップS1202に進む。m<nであれば、次のピクチャはコピーピクチャであるため、ステップS1203に進む。
【0104】
ステップS1202で、ビデオ簡易符号器106はステップS903と同様、ビデオ復号器104で復号化された1枚のピクチャをIピクチャとして再符号化する。また、変数mを0にする。ただし、ステップS903と異なり、ミュート発生器110はミュートオーディオESを生成しない。
【0105】
ステップS1203で、ビデオ簡易符号器106はステップS904と同様、コピーピクチャを生成するか、または、ROM115に予め保存されているコピーピクチャを取得する。また、変数mに1を加える。ただし、ステップS904と異なり、ミュート発生器110はミュートオーディオESを生成しない。
【0106】
データ伝送再生装置140を特殊再生から通常再生に切り替える時のモニタ105等の出力やTSを示すものが、図8(b)である。図8(b)中段の右側の「DIT」表示の左に3つ並ぶ「C、C、I」ピクチャと時間的に対応する部分が本フローチャートの処理に相当する。
【0107】
このように、データ伝送再生装置140は特殊再生時に通常再生への変更指示を受けると、オーディオの再生を直ちに通常再生に戻す。しかし、ビデオの再生は、ビデオESメモリ103に格納されているビデオESから得られるピクチャがIピクチャになるまで特殊再生を続ける。
【0108】
本実施形態では特殊再生の種類をスチル再生としたが、第1の実施形態と同様、他の種類の特殊再生(例えばスロー再生やコマ送り再生)でも図12のフローチャートを適用できる。CPU114は、通常再生への変更と同時にストリーム切替スイッチ111のオーディオ側(右)を「c」に接続する。また、ビデオESメモリ103に格納されているビデオESから得られるピクチャがIピクチャになった時点でビデオ側(左)を「a」に接続する。この点で、特殊再生の種類による違いはないからである。
【0109】
<第2の実施形態のまとめ>
以上説明したように、本実施形態によれば、MPEGデータの特殊再生時に、データ伝送再生装置140はIピクチャに加えてコピーピクチャを含むビデオESを生成する。
【0110】
これにより、表示装置141がMPEGデータを特殊再生する際に、画質を向上させることができる。なぜなら、コピーピクチャはIピクチャに比べてデータ量が少ないため、伝送するTSのビットレートを増大させなくても、より多くの符号量をIピクチャに割り当てることができるからである。
【0111】
[その他の実施形態]
<特殊再生時のオーディオESの破棄>
上述した各実施形態において、MPEGデータの特殊再生時は、ミュート発生器110がミュートオーディオESを生成し、TS_MUX112がこれをビデオESと多重化してTSを生成することにより、音声の不自然な途切れを防止した。
【0112】
しかし、ミュートオーディオESを使用せず、MPEGデータに含まれるオーディオESを破棄することによっても、同様の効果が得られる。
【0113】
図13は、MPEGデータの特殊再生時にオーディオESを破棄する場合の、TSと、モニタ105等に出力される画像等を模式的に示す図である。図13(b)中段に示すように、ビデオESが再符号化されている間は、オーディオESが破棄される。第1及び第2の実施形態と異なり、データ伝送再生装置140が通常再生への変更指示を受けても、ビデオESメモリ103に格納されているビデオESから得られるピクチャがIピクチャになるまではオーディオESは破棄される。オーディオESの破棄によりストリームの分断が発生するため、「DIT」が発行されるまではTS_MUX112がTSに多重化するストリームを変更することは好ましくないからである。
【0114】
<インタレース形式のプログレッシブ形式への変換>
上述した各実施形態において、記憶媒体100に記録されているMPEGデータに含まれるビデオデータがインタレース形式の場合、これを特殊再生する際にプログレッシブ形式に変換してもよい。この場合、ビデオ簡易符号器106がビデオ復号器104の復号化したインタレース形式のビデオデータをプログレッシブ形式に変換してから再符号化し、ビデオESを生成する。
【0115】
インタレース形式をプログレッシブ形式に変換すると、MPEGデータの特殊再生時の画質を向上させることができる。なぜなら、インタレース形式の場合、同一のフレームを連続してモニタ121に表示すると、時間的に前後するフィールドを交互に表示することになり、ちらつきが発生するからである。それに対し、プログレッシブ形式の場合、各々のフレームは単一の時刻における画像データから構成されるため、同一のフレームを連続してモニタ121に表示しても、ちらつきは発生しない。
【0116】
ビデオデータがインタレース形式であるか、プログレッシブ形式であるかの判断は、CPU114がビデオESのヘッダ情報であるProgressive Frame(PF)を参照して行うことができる。PF=1であればそのビデオデータはプログレッシブ形式、PF=0であればインタレース形式である。
【0117】
ビデオデータをインタレース形式からプログレッシブ形式に変換することは、任意の公知の技術を用いて行うことができる。ここでは、変換時の基準フィールドの決定方法を説明する。
【0118】
変換時の基準フィールドは、MPEGデータの通常再生時の最終フィールドを用いる。図14は、MPEGデータの通常再生時の最終フィールドを判定する際に使用するテーブルを示す図である。
【0119】
Repeat First Field(RF)が0の場合、そのフレームは2フィールドから構成される。そこで、Top Field First(TF)の逆の値が最終フィールドとなる。すなわち、TF=1(Top Field First)の場合はBottom Fieldが最終フィールドとなる。TF=0(Bottom Field First)の場合はTop Filedが最終フィールドとなる。
【0120】
RFが1の場合は逆に、TF=1の場合はTop Fieldが、TF=0の場合はBottom Filedが最終フィールドとなる。
【0121】
<その他>
上述した各実施の形態の処理は、各機能を具現化したソフトウェアのプログラムコードを記録した記憶媒体をシステム或は装置に提供してもよい。そして、そのシステム或は装置のコンピュータ(又はCPUやMPU)が記憶媒体に格納されたプログラムコードを読み出し実行することによって、前述した実施形態の機能を実現することができる。この場合、記憶媒体から読み出されたプログラムコード自体が前述した実施形態の機能を実現することになり、そのプログラムコードを記憶した記憶媒体は本発明を構成することになる。このようなプログラムコードを供給するための記憶媒体としては、例えば、フロッピィ(登録商標)ディスク、ハードディスク、光ディスク、光磁気ディスクなどを用いることができる。或いは、CD−ROM、CD−R、磁気テープ、不揮発性のメモリカード、ROMなどを用いることもできる。
【0122】
また、コンピュータが読み出したプログラムコードを実行することにより、前述した各実施の形態の機能が実現されるだけではない。そのプログラムコードの指示に基づき、コンピュータ上で稼動しているOS(オペレーティングシステム)などが実際の処理の一部又は全部を行い、その処理によって前述した各実施の形態の機能が実現される場合も含まれている。
【0123】
さらに、記憶媒体から読み出されたプログラムコードが、コンピュータに挿入された機能拡張ボードやコンピュータに接続された機能拡張ユニットに備わるメモリに書きこまれてもよい。その後、そのプログラムコードの指示に基づき、その機能拡張ボードや機能拡張ユニットに備わるCPUなどが実際の処理の一部又は全部を行い、その処理によって前述した各実施の形態の機能が実現される場合も含むものである。
【図面の簡単な説明】
【0124】
【図1】本発明を適用可能なデータ伝送再生装置140及び外部装置としての表示装置141の構成を示す機能ブロック図である。
【図2】MPEGデータの通常再生時及び特殊再生時のTSと、モニタ105等に出力される画像等を模式的に示す図である。
【図3】MPEGデータの通常再生時における、データ伝送再生装置140のデータ伝送処理の流れを示すフローチャートである。
【図4】MPEGデータの通常再生時及び特殊再生時に共通する、表示装置141のデータ再生処理の流れを示すフローチャートである。
【図5】MPEGデータの特殊再生時における、データ伝送再生装置140のデータ伝送処理の流れを示すフローチャートである。
【図6】MPEGデータの再生方式を特殊再生から通常再生に切り替える時における、データ伝送再生装置140のデータ伝送処理の流れを示すフローチャートである。
【図7】コピーピクチャの構成を示す図である。
【図8】MPEGデータの通常再生時及び特殊再生時のTSと、モニタ105等に出力される画像等を模式的に示す図である。
【図9】MPEGデータの特殊再生時における、データ伝送再生装置140のデータ伝送処理の流れを示すフローチャートである。
【図10】1/3倍速のスロー再生において、n=3及びn=2の時のTSと、モニタ105等に出力されるフレームを模式的に示す図である。
【図11】フリーズ画像の最小枚数が2のコマ送り再生において、n=3及びn=4の時のTSと、モニタ105等に出力されるフレームを模式的に示す図である。
【図12】MPEGデータの再生方式を特殊再生から通常再生に切り替える時における、データ伝送再生装置140のデータ伝送処理の流れを示すフローチャートである。
【図13】MPEGデータの特殊再生時にオーディオESを破棄する場合の、TSと、モニタ105等に出力される画像等を模式的に示す図である。
【図14】MPEGデータの通常再生時の最終フィールドを判定する際に使用するテーブルを示す図である。
【符号の説明】
【0125】
106 ビデオ簡易符号器
110 ミュート発生器
111 ストリーム切替スイッチ
140 データ伝送再生装置
141 表示装置
【特許請求の範囲】
【請求項1】
フレーム内符号化とフレーム間予測符号化とを用いて符号化された動画像データを含む符号化データ列を記録媒体から再生する再生手段と、
前記再生手段より再生された動画像データを復号する復号手段と、
前記復号手段により復号された動画像データを前記フレーム内符号化のみにより符号化した符号化動画像データを出力する符号化手段と、
前記再生手段により再生された動画像データまたは前記符号化手段より出力された符号化動画像データのうちの一方を選択し、選択した動画像データを符号化された形態で外部装置に送信する送信手段と、
前記動画像データを通常再生速度で再生し、前記送信手段が前記再生手段により再生された動画像データを送信する通常再生モードと、前記動画像データを通常再生速度とは異なる速度で再生し、前記送信手段が前記符号化手段より出力された動画像データを送信する特殊再生モードとを切り替えるモード切り替え手段とを備える再生装置。
【請求項2】
フレーム内符号化とフレーム間予測符号化とを用いて符号化された動画像データを含む符号化データ列を記録媒体から再生する再生手段と、
前記再生手段より再生された動画像データを復号する復号手段と、
前記復号手段により復号された動画像データをフレーム内符号化データ及び参照フレームと同一のデータを復号するためのコピーピクチャデータとからなる符号化動画像データに変換して出力する符号化手段と、
前記再生手段により再生された動画像データまたは前記符号化手段より出力された符号化動画像データのうちの一方を選択し、選択した動画像データを符号化された形態で外部装置に送信する送信手段と、
前記動画像データを通常再生速度で再生し、前記送信手段が前記再生手段により再生された動画像データを送信する通常再生モードと、前記動画像データを通常再生速度とは異なる速度で再生し、前記送信手段が前記符号化手段より出力された動画像データを送信する特殊再生モードとを切り替えるモード切り替え手段とを備える再生装置。
【請求項3】
前記特殊再生モードはスロー再生モードを含み、前記符号化手段は、前記スロー再生モードにおける再生速度に応じて前記フレーム内符号化データの挿入タイミングを決定することを特徴とする請求項2記載の再生装置。
【請求項4】
前記送信手段は、前記特殊再生モードから通常再生モードへの切り替えの際、前記動画像データ中、前記フレーム内符号化されたフレームのデータから送信を開始することを特徴とする請求項1乃至3のいずれか1項に記載の再生装置。
【請求項5】
前記送信手段は、前記通常再生モードと特殊再生モードの切り替えに応じて、符号化データの不連続を示す不連続情報を送信することを特徴とする請求項1乃至4のいずれか1項に記載の再生装置。
【請求項6】
前記符号化データ列はさらに、音声データを含み、前記送信手段は、前記通常再生モードにおいては前記再生された動画像データと共に前記音声データを送信し、前記特殊再生モードにおいては、前記符号化手段から出力された動画像データと共にミュートデータを送信することを特徴とする請求項1乃至5のいずれか1項に記載の再生装置。
【請求項7】
前記動画像データがインタレース形式かプログレッシブ形式かを判定する判定手段と、前記判定手段による判定に基づいて、前記復号手段により復号されたインタレース形式の前記動画像データをプログレッシブ形式に変換する変換手段とを備え、前記符号化手段は前記変換手段により変換された動画像データを符号化することを特徴とする請求項1乃至6のいずれか1項に記載の再生装置。
【請求項8】
フレーム内符号化とフレーム間予測符号化とを用いて符号化された動画像データを含む符号化データ列を記録媒体から再生する再生工程と、
前記再生工程より再生された動画像データを復号する復号工程と、
前記復号工程により復号された動画像データを前記フレーム内符号化のみにより符号化した符号化動画像データを出力する符号化工程と、
前記再生工程により再生された動画像データまたは前記符号化工程より出力された符号化動画像データのうちの一方を選択し、選択した動画像データを符号化された形態で外部装置に送信する送信工程と、
前記動画像データを通常再生速度で再生し、前記送信工程が前記再生工程により再生された動画像データを送信する通常再生モードと、前記動画像データを通常再生速度とは異なる速度で再生し、前記送信工程が前記符号化工程より出力された動画像データを送信する特殊再生モードとを切り替えるモード切り替え工程とを備える再生方法。
【請求項9】
フレーム内符号化とフレーム間予測符号化とを用いて符号化された動画像データを含む符号化データ列を記録媒体から再生する再生工程と、
前記再生工程より再生された動画像データを復号する復号工程と、
前記復号工程により復号された動画像データをフレーム内符号化データ及び参照フレームと同一のデータを復号するためのコピーピクチャデータとからなる符号化動画像データに変換して出力する符号化工程と、
前記再生工程により再生された動画像データまたは前記符号化工程より出力された符号化動画像データのうちの一方を選択し、選択した動画像データを符号化された形態で外部装置に送信する送信工程と、
前記動画像データを通常再生速度で再生し、前記送信工程が前記再生工程により再生された動画像データを送信する通常再生モードと、前記動画像データを通常再生速度とは異なる速度で再生し、前記送信工程が前記符号化工程より出力された動画像データを送信する特殊再生モードとを切り替えるモード切り替え工程とを備える再生方法。
【請求項10】
コンピュータに、
フレーム内符号化とフレーム間予測符号化とを用いて符号化された動画像データを含む符号化データ列を記録媒体から再生する再生工程と、
前記再生工程より再生された動画像データを復号する復号工程と、
前記復号工程により復号された動画像データを前記フレーム内符号化のみにより符号化した符号化動画像データを出力する符号化工程と、
前記再生工程により再生された動画像データまたは前記符号化工程より出力された符号化動画像データのうちの一方を選択し、選択した動画像データを符号化された形態で外部装置に送信する送信工程と、
前記動画像データを通常再生速度で再生し、前記送信工程が前記再生工程により再生された動画像データを送信する通常再生モードと、前記動画像データを通常再生速度とは異なる速度で再生し、前記送信工程が前記符号化工程より出力された動画像データを送信する特殊再生モードとを切り替えるモード切り替え工程と
を実行させるためのプログラム。
【請求項11】
コンピュータに、
フレーム内符号化とフレーム間予測符号化とを用いて符号化された動画像データを含む符号化データ列を記録媒体から再生する再生工程と、
前記再生工程より再生された動画像データを復号する復号工程と、
前記復号工程により復号された動画像データをフレーム内符号化データ及び参照フレームと同一のデータを復号するためのコピーピクチャデータとからなる符号化動画像データに変換して出力する符号化工程と、
前記再生工程により再生された動画像データまたは前記符号化工程より出力された符号化動画像データのうちの一方を選択し、選択した動画像データを符号化された形態で外部装置に送信する送信工程と、
前記動画像データを通常再生速度で再生し、前記送信工程が前記再生工程により再生された動画像データを送信する通常再生モードと、前記動画像データを通常再生速度とは異なる速度で再生し、前記送信工程が前記符号化工程より出力された動画像データを送信する特殊再生モードとを切り替えるモード切り替え工程と、
を実行させるためのプログラム。
【請求項12】
請求項11又は12に記載のプログラムを記憶したコンピュータ可読記憶媒体。
【請求項1】
フレーム内符号化とフレーム間予測符号化とを用いて符号化された動画像データを含む符号化データ列を記録媒体から再生する再生手段と、
前記再生手段より再生された動画像データを復号する復号手段と、
前記復号手段により復号された動画像データを前記フレーム内符号化のみにより符号化した符号化動画像データを出力する符号化手段と、
前記再生手段により再生された動画像データまたは前記符号化手段より出力された符号化動画像データのうちの一方を選択し、選択した動画像データを符号化された形態で外部装置に送信する送信手段と、
前記動画像データを通常再生速度で再生し、前記送信手段が前記再生手段により再生された動画像データを送信する通常再生モードと、前記動画像データを通常再生速度とは異なる速度で再生し、前記送信手段が前記符号化手段より出力された動画像データを送信する特殊再生モードとを切り替えるモード切り替え手段とを備える再生装置。
【請求項2】
フレーム内符号化とフレーム間予測符号化とを用いて符号化された動画像データを含む符号化データ列を記録媒体から再生する再生手段と、
前記再生手段より再生された動画像データを復号する復号手段と、
前記復号手段により復号された動画像データをフレーム内符号化データ及び参照フレームと同一のデータを復号するためのコピーピクチャデータとからなる符号化動画像データに変換して出力する符号化手段と、
前記再生手段により再生された動画像データまたは前記符号化手段より出力された符号化動画像データのうちの一方を選択し、選択した動画像データを符号化された形態で外部装置に送信する送信手段と、
前記動画像データを通常再生速度で再生し、前記送信手段が前記再生手段により再生された動画像データを送信する通常再生モードと、前記動画像データを通常再生速度とは異なる速度で再生し、前記送信手段が前記符号化手段より出力された動画像データを送信する特殊再生モードとを切り替えるモード切り替え手段とを備える再生装置。
【請求項3】
前記特殊再生モードはスロー再生モードを含み、前記符号化手段は、前記スロー再生モードにおける再生速度に応じて前記フレーム内符号化データの挿入タイミングを決定することを特徴とする請求項2記載の再生装置。
【請求項4】
前記送信手段は、前記特殊再生モードから通常再生モードへの切り替えの際、前記動画像データ中、前記フレーム内符号化されたフレームのデータから送信を開始することを特徴とする請求項1乃至3のいずれか1項に記載の再生装置。
【請求項5】
前記送信手段は、前記通常再生モードと特殊再生モードの切り替えに応じて、符号化データの不連続を示す不連続情報を送信することを特徴とする請求項1乃至4のいずれか1項に記載の再生装置。
【請求項6】
前記符号化データ列はさらに、音声データを含み、前記送信手段は、前記通常再生モードにおいては前記再生された動画像データと共に前記音声データを送信し、前記特殊再生モードにおいては、前記符号化手段から出力された動画像データと共にミュートデータを送信することを特徴とする請求項1乃至5のいずれか1項に記載の再生装置。
【請求項7】
前記動画像データがインタレース形式かプログレッシブ形式かを判定する判定手段と、前記判定手段による判定に基づいて、前記復号手段により復号されたインタレース形式の前記動画像データをプログレッシブ形式に変換する変換手段とを備え、前記符号化手段は前記変換手段により変換された動画像データを符号化することを特徴とする請求項1乃至6のいずれか1項に記載の再生装置。
【請求項8】
フレーム内符号化とフレーム間予測符号化とを用いて符号化された動画像データを含む符号化データ列を記録媒体から再生する再生工程と、
前記再生工程より再生された動画像データを復号する復号工程と、
前記復号工程により復号された動画像データを前記フレーム内符号化のみにより符号化した符号化動画像データを出力する符号化工程と、
前記再生工程により再生された動画像データまたは前記符号化工程より出力された符号化動画像データのうちの一方を選択し、選択した動画像データを符号化された形態で外部装置に送信する送信工程と、
前記動画像データを通常再生速度で再生し、前記送信工程が前記再生工程により再生された動画像データを送信する通常再生モードと、前記動画像データを通常再生速度とは異なる速度で再生し、前記送信工程が前記符号化工程より出力された動画像データを送信する特殊再生モードとを切り替えるモード切り替え工程とを備える再生方法。
【請求項9】
フレーム内符号化とフレーム間予測符号化とを用いて符号化された動画像データを含む符号化データ列を記録媒体から再生する再生工程と、
前記再生工程より再生された動画像データを復号する復号工程と、
前記復号工程により復号された動画像データをフレーム内符号化データ及び参照フレームと同一のデータを復号するためのコピーピクチャデータとからなる符号化動画像データに変換して出力する符号化工程と、
前記再生工程により再生された動画像データまたは前記符号化工程より出力された符号化動画像データのうちの一方を選択し、選択した動画像データを符号化された形態で外部装置に送信する送信工程と、
前記動画像データを通常再生速度で再生し、前記送信工程が前記再生工程により再生された動画像データを送信する通常再生モードと、前記動画像データを通常再生速度とは異なる速度で再生し、前記送信工程が前記符号化工程より出力された動画像データを送信する特殊再生モードとを切り替えるモード切り替え工程とを備える再生方法。
【請求項10】
コンピュータに、
フレーム内符号化とフレーム間予測符号化とを用いて符号化された動画像データを含む符号化データ列を記録媒体から再生する再生工程と、
前記再生工程より再生された動画像データを復号する復号工程と、
前記復号工程により復号された動画像データを前記フレーム内符号化のみにより符号化した符号化動画像データを出力する符号化工程と、
前記再生工程により再生された動画像データまたは前記符号化工程より出力された符号化動画像データのうちの一方を選択し、選択した動画像データを符号化された形態で外部装置に送信する送信工程と、
前記動画像データを通常再生速度で再生し、前記送信工程が前記再生工程により再生された動画像データを送信する通常再生モードと、前記動画像データを通常再生速度とは異なる速度で再生し、前記送信工程が前記符号化工程より出力された動画像データを送信する特殊再生モードとを切り替えるモード切り替え工程と
を実行させるためのプログラム。
【請求項11】
コンピュータに、
フレーム内符号化とフレーム間予測符号化とを用いて符号化された動画像データを含む符号化データ列を記録媒体から再生する再生工程と、
前記再生工程より再生された動画像データを復号する復号工程と、
前記復号工程により復号された動画像データをフレーム内符号化データ及び参照フレームと同一のデータを復号するためのコピーピクチャデータとからなる符号化動画像データに変換して出力する符号化工程と、
前記再生工程により再生された動画像データまたは前記符号化工程より出力された符号化動画像データのうちの一方を選択し、選択した動画像データを符号化された形態で外部装置に送信する送信工程と、
前記動画像データを通常再生速度で再生し、前記送信工程が前記再生工程により再生された動画像データを送信する通常再生モードと、前記動画像データを通常再生速度とは異なる速度で再生し、前記送信工程が前記符号化工程より出力された動画像データを送信する特殊再生モードとを切り替えるモード切り替え工程と、
を実行させるためのプログラム。
【請求項12】
請求項11又は12に記載のプログラムを記憶したコンピュータ可読記憶媒体。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【公開番号】特開2007−28212(P2007−28212A)
【公開日】平成19年2月1日(2007.2.1)
【国際特許分類】
【出願番号】特願2005−207545(P2005−207545)
【出願日】平成17年7月15日(2005.7.15)
【出願人】(000001007)キヤノン株式会社 (59,756)
【Fターム(参考)】
【公開日】平成19年2月1日(2007.2.1)
【国際特許分類】
【出願日】平成17年7月15日(2005.7.15)
【出願人】(000001007)キヤノン株式会社 (59,756)
【Fターム(参考)】
[ Back to top ]