データ処理装置
【課題】オーディオとビデオとを同期して再生する。
【解決手段】データ処理装置は、データストリームを受信してオリジナルストリームとして、および複製後に複製ストリームとして出力する受信部と、オリジナルストリームから第1データとその第1時刻情報、第2データとその第2時刻情報を抽出し、複製ストリームから第1データとその第1時刻情報、第2データとその第2時刻情報を抽出する分離部と、各ストリームに関し、第1データをデコードして第1時刻情報に基づいて出力する第1デコード部と、第2時刻情報に基づいて第2データを出力する第2デコード部とを有する。さらに、第1および第2データの同期再生のため、各ストリームの再生時刻の遅延量情報を保持し、かつ、その情報に基づいて第2時刻情報を修正し、第2データの再生時刻を遅延させる遅延設定部を有する。
【解決手段】データ処理装置は、データストリームを受信してオリジナルストリームとして、および複製後に複製ストリームとして出力する受信部と、オリジナルストリームから第1データとその第1時刻情報、第2データとその第2時刻情報を抽出し、複製ストリームから第1データとその第1時刻情報、第2データとその第2時刻情報を抽出する分離部と、各ストリームに関し、第1データをデコードして第1時刻情報に基づいて出力する第1デコード部と、第2時刻情報に基づいて第2データを出力する第2デコード部とを有する。さらに、第1および第2データの同期再生のため、各ストリームの再生時刻の遅延量情報を保持し、かつ、その情報に基づいて第2時刻情報を修正し、第2データの再生時刻を遅延させる遅延設定部を有する。
【発明の詳細な説明】
【技術分野】
【0001】
圧縮符号化されたオーディオデータおよびビデオデータを再生する際に、オーディオとビデオとを同期して再生する技術に関する。
【背景技術】
【0002】
従来、圧縮符号化されて記録されたビデオ信号およびオーディオ信号をCD−ROM、DVD−ROM、ハードディスク等の記録媒体から読み出し、デコード(伸張)して出力するデータ再生装置が知られている。データ再生装置が伸張されたデータをその装置に接続されたモニタ、音響スピーカ等に送ることにより、ビデオおよびオーディオの再生が実現される。
【0003】
圧縮符号化に関しては、多くの規格が規定されている。例えばMPEG(Motion Picture Experts Group)は、ビデオ信号およびオーディオ信号の両方を圧縮符号化する規格として知られている。MPEG規格では、ビデオ信号が表すビデオおよびオーディオ信号が表すオーディオが同期して再生されることを保証するために、オーディオ信号およびビデオ信号のそれぞれに再生されるべき時刻を表す時刻情報が付加される。これにより、伸張時にはシステム機器が有するシステム時刻基準参照値に対し、これらの時刻情報を参照してオーディオ信号とビデオ信号とを同期させて再生することができる。
【0004】
以下従来の再生方法について説明する。なお、出願人は、特許文献1に開示されている信号再生装置を認識しており、本発明の課題を明確にするために、先行技術の内容を従来例として、簡単に説明する。この方法では、音声の遅延及び画像の遅延用として各々デコードに遅延部を設け、所定の遅延を行ってリップシンクをとりながら再生を実現する。
【0005】
以下従来の信号再生装置について説明する。図11は、従来の信号再生装置の実装形態を示す。図11を参照して、オーディオ遅延部187は、制御部194から入力されるオフセット幅をビデオ遅延部190と共通の所定の遅延時間に加算した時間だけ、オーディオデコーダ186から入力される音声信号を遅延した後、オーディオディジタルアナログコンバータ(ADACと略)188に出力する。ビデオ遅延部190は、ビデオデコーダ189から入力される映像信号を所定時間だけ遅延した後、ミキサ191に出力し、ビデオディジタルアナログコンバータ(VDACと略)192に出力する。制御部194は、コマンド入力部193から遅延コマンド等を受け付け指定されるリップシンクのオフセット幅等を設定する。
【0006】
オーディオの再生と、ビデオの表示タイミングの同期がずれると、視聴者は、違和感を覚える。特に、オーディオ再生がビデオ再生よりも一定時間(概ね30ミリ秒)以上先行すると、映像中の人物の口の動きと音声の同期のずれが目立ち、視聴者に違和感を与える。また接続する外部機器の処理において、さらに時間を要する処理を行うとさらにビデオおよびオーディオの再生タイミングがずれてしまう。そこで、ビデオ遅延部190及びオーディオ遅延部187を用いて、出力タイミングを調整する。
【0007】
この従来の信号再生装置の構成を用い、第1の出力部だけでなく、第2の出力部を追加した場合について、図12を用いて説明する。図12は、複数の出力経路を有する従来の信号再生装置の構成を示す。例えば第1の出力は大画面のシアター向けの高精細画像及び外部オーディオアンプに接続される系として、第2の出力は、標準画質でビデオデッキなどの録画機や手元のモニタ出力に接続される系を想定する。図15において、201のオーディオデコーダは、オーディオデコーダ186と同等の機能を有する。202のビデオデコーダは、ビデオデコーダ189と同等。203のオーディオ遅延部Aは、オーディオ遅延部187と同等、204のビデオ遅延部Aは、ビデオ遅延部190と同等、205のADACは、ADAC188と同等。206のVDACは、VDAC192と同等。さらにエンコーダ209に入力するために各々を遅延させるオーディオ遅延部B207と、ビデオ遅延部B208から構成される。
【0008】
ビデオデコーダ202における標準画質用の画像処理時間と、高精細画質用の画像処理時間とは、遅延設定に違いが生じる。さらに、IP変換(インタレースからプログレッシブ)などを行う場合の遅延設定、サラウンド音声処理の有無に伴う場合の遅延設定など、各々の出力のための処理内容に適した遅延設定が必要である。制御部から各々の遅延部の設定を行うことにより、オーディオとビデオとを同期させることができる。遅延部として半導体メモリを設けることで、複数の出力部を有していてもこれに対応できる。
【特許文献1】特開2001−101803号公報(第3−5頁、第1図、第2図)
【発明の開示】
【発明が解決しようとする課題】
【0009】
従来の信号再生装置のように遅延部に半導体メモリを用いると、遅延量を多くとるためには半導体メモリのメモリサイズを大きくせざるを得ない。しかし、一般にはメモリサイズが大きくなると半導体メモリのコストが増加し、信号再生装置の価格にも大きな影響を与える。よって、できるだけメモリサイズを小さくすることが必要である。
【0010】
本発明の目的は、メモリコストの増加を極力抑えながら、当初意図されたとおりにオーディオとビデオとを同期して再生することである。特に、オーディオとビデオの出力経路が複数存在し、出力先の外部接続機器の相違、処理種別の相違等によって出力経路の遅延量が異なる場合であっても、各出力経路について当初意図されたとおりにオーディオとビデオとを同期して再生することである。
【課題を解決するための手段】
【0011】
本発明によるデータ処理装置は、データストリームを受信してオリジナルストリームとして出力するとともに、受信された前記データストリームを複製して複製ストリームとして出力し、かつ、出力に際して前記オリジナルストリームおよび前記複製ストリームの各々を識別可能な識別情報を付与する受信部を備えている。前記データストリームは、圧縮符号化されたビデオコンテンツに関する第1データ、前記第1データの再生時刻を規定する第1時刻情報、前記ビデオコンテンツと異なるコンテンツに関する第2データおよび前記第2データの再生時刻を規定する第2時刻情報を有する。またデータ処理装置は、前記オリジナルストリームから、前記第1データ、前記第1時刻情報、前記第2データおよび前記第2時刻情報を抽出し、前記複製ストリームから、前記第1データ、前記第1時刻情報、前記第2データおよび前記第2時刻情報を抽出する分離部と、前記オリジナルストリームに関し、前記第1データをデコードして、前記第1時刻情報に基づいて出力する第1デコード部と、前記オリジナルストリームに関し、第2時刻情報に基づいて前記第2データを出力する第2デコード部と、前記複製ストリームに関し、前記第1データをデコードして、前記第1時刻情報に基づいて出力する第3デコード部と、前記複製ストリームに関し、前記第2時刻情報に基づいて前記第2データを出力する第4デコード部と、第1遅延設定部および第2遅延設定部とを有する。
【0012】
前記第1時刻情報および前記第2時刻情報が前記第1データおよび前記第2データを同期して再生する時刻を規定している場合において、前記第1遅延設定部は、前記オリジナルストリームの再生時刻の遅延量を規定する第1遅延情報を保持し、かつ、前記第1遅延情報に基づいて前記第2時刻情報を修正し、前記第2データの再生時刻を遅延させ、前記第2遅延設定部は、前記複製ストリームの再生時刻の遅延量を規定する第2遅延情報を保持し、かつ、前記第2遅延情報に基づいて前記第2時刻情報を修正し、前記第2データの再生時刻を遅延させる。
【0013】
前記データ処理装置は、前記オリジナルストリームの第2データ、および、前記複製ストリームの第2データの各々を格納する少なくとも1つのデータバッファをさらに備えていてもよい。前記オリジナルストリームの前記第2データは圧縮符号化されており、前記少なくとも1つのデータバッファは、修正された第2時刻情報によって規定される再生時刻の前に前記圧縮符号化された第2データを取り出し、前記第2デコード部および前記第4デコード部に出力してもよい。
【0014】
前記少なくとも1つのデータバッファは、前記オリジナルストリームの第2データを格納する第1バッファと、前記複製ストリームの第2データを格納する第2バッファとから構成されていてもよい。前記第1バッファは、前記第1遅延設定部によって修正された第2時刻情報によって規定される再生時刻の前に、前記オリジナルストリームの第2データを取り出して前記第2デコード部に出力し、前記第2バッファは、前記第2遅延設定部によって修正された第2時刻情報によって規定される再生時刻の前に、前記複製ストリームの第2データを取り出して前記第4デコード部に出力してもよい。
【0015】
本発明によるデータ処理装置は、データストリームを受信してオリジナルストリームとして出力する受信部を有している。前記データストリームは、圧縮符号化されたビデオコンテンツに関する第1データ、前記第1データの再生時刻を規定する第1時刻情報、前記ビデオコンテンツと異なるコンテンツに関する第2データおよび前記第2データの再生時刻を規定する第2時刻情報を有する。またデータ処理装置は、前記オリジナルストリームから、前記第1データ、前記第1時刻情報、前記第2データおよび前記第2時刻情報を抽出する分離部と、前記第1データ、前記第1時刻情報、前記第2データおよび前記第2時刻情報を複製する複製部と、前記オリジナルストリームに関し、前記第1データをデコードして、前記第1時刻情報に基づいて出力する第1デコード部と、前記オリジナルストリームに関し、第2時刻情報に基づいて前記第2データを出力する第2デコード部と、複製された第1データをデコードして、複製された第1時刻情報に基づいて出力する第3デコード部と、複製された第2時刻情報に基づいて、複製された第2データを出力する第4デコード部と、第1遅延設定部および第2遅延設定部とを有している。前記オリジナルストリームから抽出された前記第1時刻情報および前記第2時刻情報が前記第1データおよび前記第2データを同期して再生する時刻を規定している場合において、前記第1遅延設定部は、前記オリジナルストリームの再生時刻の遅延量を規定する第1遅延情報を保持し、かつ、前記第1遅延情報に基づいて前記第2時刻情報を修正し、前記第2データの再生時刻を遅延させ、前記第2遅延設定部は、複製された第1データの再生時刻の遅延量を規定する第2遅延情報を保持し、かつ、前記第2遅延情報に基づいて前記第2時刻情報を修正し、前記第2データの再生時刻を遅延させる。
【0016】
前記オリジナルストリームの前記第2データは圧縮符号化されている。前記データ処理装置は、前記オリジナルストリームの第2データ、および、複製された第2データの各々を格納する少なくとも1つのデータバッファをさらに備えていてもよい。前記少なくとも1つのデータバッファは、修正された第2時刻情報によって規定される再生時刻の前に前記圧縮符号化された第2データを取り出し、前記第2デコード部および前記第4デコード部に出力する。
【0017】
前記少なくとも1つのデータバッファは、前記オリジナルストリームの第2データを格納する第1バッファと、複製された第2データを格納する第2バッファとから構成されていてもよい。
【発明の効果】
【0018】
本発明によれば、入力されたビデオ及びオーディオのデータを含む圧縮符号化されたコンテンツデータに基づいて、オリジナルのデータと複製後のデータを作成する。圧縮符号化されたままのデータを遅延出力のために保持させることにより、各々の同期信号に基づいて、別々にデコードされた映像と音声に対し、経路毎の遅延を独自に設定して同期再生を実行できるという利点がある。
【発明を実施するための最良の形態】
【0019】
以下、添付の図面を参照しながら、本発明によるデータ処理装置の実施形態を説明する。
【0020】
(実施形態1)
まず図1を主として参照しながら、本発明の実施形態1によるデータ処理装置の構成を説明する。図1は、本実施形態によるデータ処理装置100の機能ブロックの構成を示す。図1はまた、データ処理装置100と接続された映像/音響機器13〜16を示す。データ処理装置100は、DVD−ROM等の光ディスクから光ピックアップを介して読み出されたデータストリームに2値化処理等を行って、デジタルデータストリームとして出力する。その後で、このストリームをビデオデータおよびオーディオデータに分離し、各々をデコードして映像音響機器に出力する。
【0021】
データ処理装置100は、DVDプレーヤ、DVDレコーダ、PC等であるが、光ディスクに代えてハードディスクを用いたときはハードディスクレコーダである。または、アンテナ等を介してデジタル放送のデータストリームを受け取るときには、データ処理装置100はセットトップボックス、デジタル衛星放送受像機等として実現される。一方、映像音響機器は、例えばTV等のモニタ出力機器、オーディオ出力アンプ、AVセレクタ機能を有するAVアンプ等のインタフェース機器である。図1では映像を表示する機器、音声等を出力する機器等が複数存在している例を示している。
【0022】
各種符号化方式されたコンテンツや、デジタル放送等のデジタル圧縮符号化されたオーディオ・ビデオ信号を格納する光ディスク装置等や、デジタル放送チューナ装置等からデータの供給を受ける受信部1、多重化されて記録されているオーディオ・ビデオ信号を分離し、圧縮ビデオデータ及び圧縮オーディオデータの分離とビデオ再生時刻情報とオーディオ再生時刻情報を抽出する入力解析を行う分離部2を有する。
【0023】
MPEGでは、ビデオおよびオーディオの同期再生を実現するために、ビデオとオーディオの各アクセスユニットと呼ばれるデコードの単位ごと(ビデオは1フレーム、オーディオは1オーディオフレーム)に、いつ再生すべきかの時刻を管理するためのタイムスタンプ値が付加されている。このタイムスタンプ値は、PTS(Presentation Time Stamp)と呼ばれ、オーディオ用はオーディオPTS(以下「APTS」と記述する)およびビデオ用はビデオPTS(以下「VPTS」と記述する)が規定されている。なお、本明細書では、オーディオとビデオとが同期している状態を「AV同期」と称する。
【0024】
PTSが上述のシステム時刻基準STCに一致したときに、そのPTSが付加されたアクセスユニットが再生のために出力される。PTSの精度は、SCRと同様、90kHzのクロックで計測した値であり、33ビット長で表されている。90kHzで計測する理由は、NTSC、PALの両方のビデオ方式のフレーム周波数の公倍数であることと、オーディオの1サンプル周期よりも高い精度を得るためである。
【0025】
本実施形態によるデータ処理装置100の特徴のひとつは、映像音響機器において行われる種々の演算処理等により、本来同期して再生すべきビデオおよびオーディオがずれて再生されてしまう場合に、先行する出力を遅延して出力することにある。例えば、映像音響機器においてビデオデータのインターレース/プログレッシブ変換を行うためにビデオデータの再生がオーディオの再生よりも遅延してしまう場合に、ビデオデータの再生時刻の遅延量相当時間だけ、先行するオーディオデータを遅延して出力する。これにより、ビデオデータとオーディオデータとの同期再生が可能になる。なお、オーディオデータの遅延出力は、オーディオデータの再生時刻を規定するPTSを修正することによって実現される。遅延量は、予想される時間、ユーザによって設定された時間、映像音響機器を特定して判断することができる映像音響機器におけるビデオ処理の所要時間等に基づいて設定される。
【0026】
上述のデータ処理装置100の特徴は、主としてデータ処理装置100のデコード部101によって実現される。以下、デコード部101を詳細に説明する。
【0027】
図2は、デコード部101の詳細な機能ブロックの構成例を示す。デコード部101は、分離部2からの入力により、ビデオバッファ部(図示せず)と、ビデオ再生時刻情報管理部A301と、システム時刻参照部11と、圧縮ビデオバッファ部A17と、ビデオデコード部A3と、圧縮オーディオバッファ部A7と、オーディオ再生時刻情報管理部A401と、オーディオデコード部A4と、オーディオ遅延設定部A9とを有する。
【0028】
分離部2は、データストリームから、デジタル圧縮符号化されたオーディオおよびビデオデータを分離して抽出するとともに、ビデオパックに付加されたPTSをビデオ再生時刻情報として抽出し、オーディオパックに付加されたPTSをオーディオ再生時刻情報として抽出する。
【0029】
まず、ビデオ処理に関する構成要素を説明する。圧縮ビデオバッファ部A17は、分離部2によって分離されたビデオデータを一次格納する。ビデオ再生時刻情報管理部A301は、圧縮ビデオバッファ部A17に格納されたビデオデータとビデオ再生時刻情報を関連づけたテーブルを生成し、管理する。
【0030】
ビデオデコード部A3は、圧縮符号化されたビデオデータの属性情報(ビデオヘッダ情報)を解析するとともに、圧縮ビデオバッファ部A17に格納されているビデオデータをビデオ再生時刻情報に従ってデコードする。ビデオデコード部A3にはフレームバッファ部303およびビデオ出力部304が設けられている。フレームバッファ部303は、デコードしたビデオデータを格納する。ビデオ出力部304は、外部へビデオデータを出力する。このビデオデータは、さらにデータ処理装置100に接続された映像音響機器(例えば外部映像機器13)に出力される。
【0031】
次に、オーディオ処理に関する構成要素を説明する。圧縮オーディオバッファ部A7は、分離部2によって分離されたオーディオデータを格納することができる半導体メモリである。そのバッファサイズは、取り扱う符号化オーディオデータの圧縮率等によって異なり、例えば数キロバイトから数十キロバイト程度である。オーディオ再生時刻情報管理部A401は、圧縮オーディオバッファ部A7に格納されたオーディオデータとオーディオ再生時刻情報を関連づけるテーブルを生成し、管理する。このテーブルは後に図5を参照しながら詳述する。
【0032】
遅延設定部A9は、オーディオの再生時刻の遅延量を規定する遅延情報を保持し、かつ、遅延情報に基づいてオーディオの再生時刻情報を修正して、その再生時刻を遅延させる。遅延設定部A9は、例えば遅延情報を保持するメモリ(図示せず)を有しており、映像音響機器の処理に鑑みて想定される時間が予め設定されている。そしてさらに、ユーザによって設定された数ミリ秒単位またはビデオフレーム単位の遅延時間に関する情報も保持できる。これにより、映像音響機器において発生する処理遅延に応じた微調整が可能になる。
【0033】
オーディオデコード部A4は、圧縮符号化されたオーディオデータの属性情報(オーディオヘッダ情報)を解析するとともに、圧縮オーディオバッファ部A7に格納されているオーディオデータをオーディオ再生時刻情報に従ってデコードする。オーディオデコード部A4にはPCMバッファ部403およびオーディオ出力部404が設けられている。PCMバッファ部403は、デコードしたオーディオデータを格納する。オーディオ出力部404は、外部へオーディオデータを出力する。このオーディオデータは、さらにデータ処理装置100に接続された映像音響機器(例えば外部音響機器14)に出力される。
【0034】
なお、上述のビデオデコード部A3およびオーディオデコード部A4は、各々別々の半導体集積回路等とその制御用のプログラムにより実現することができる。しかし、それぞれの機能を実現できる限り、1つの半導体集積回路等とその制御用のプログラムによって実現してもよい。
【0035】
次に、ビデオ出力部304およびオーディオ出力部404から出力されるビデオデータおよびオーディオデータを、同期して再生するための構成を説明する。デコードタイミングおよび再生タイミングは、システム時刻参照部A11によって実現される。システム時刻参照部A11は、MPEGシステムのデータ処理装置100の内部においてシステム時刻基準STCを生成する。データ処理装置100側でSTCを生成するためには、DVDディスク等で使用されるプログラムストリーム(PS)に規定されるSCR(System Clock Reference;システム時刻基準参照値)の値を用いる。SCRはパックヘッダに記述されている。なお、入力されるデータストリームがBSデジタル放送で使用されるトランスポートストリーム(TS)のときは、PCR(Program Clock Reference:プログラム時刻基準参照値)が用いられる。
【0036】
システム時刻参照部A11は、ビデオデータの最終バイトの到着時に、SCRの値をシステム時刻基準STCと同じ値に設定する。これにより基準となる時刻を設定することができる。さらに、このSTCの値の設定と、PLL(位相ロックループ)回路(図示せず)を組み合わせることにより、デコード部60の基準時刻用システムクロックと完全に周波数が一致したSTCをもつことができる。システム時刻基準STCのシステムクロックの周波数は27MHzである。このSTCからカウンタ等により分周することにより、各PTS(周波数:90kHz)が参照される。
【0037】
データ処理装置100が従来の処理を行う場合には、ビデオデコード部A3は、システム時刻基準STCがVPTSに一致したときそのPTSが付加されていたアクセスユニットを出力し再生させる。またオーディオデコード部A4は、STCがAPTSに一致したときにそのPTSが付加されていたアクセスユニットを出力し再生させる。PTSの周波数は90kHzであるから、この精度の範囲内で、STCとVPTSおよびAPTSとの同期をとれるようにビデオデータおよびオーディオデータの各々をデコードする。これにより、ビデオおよびオーディオの同期再生を実現できる。
【0038】
一方、本実施形態による処理によれば、映像音響機器におけるビデオ処理の遅延を考慮した上で、データ処理装置100はビデオおよびオーディオの同期再生を実現する。以下、図3を参照しながらその概略を説明し、その後、図4を参照しながらその動作を実現するための処理の手順を説明する。
【0039】
図3は、ビデオとオーディオとの同期再生を実現する再生タイミングを示す。再生タイミングは、ビデオ再生時刻情報およびオーディオ再生時刻情報に基づいて規定される。図3では、再生時刻情報によって示されるタイミングが4段に分けて記載されている。1段目は、データストリームに規定されていたビデオ再生時刻情報(VPTS)のタイミングを示す。データストリームを生成したエンコーダ(図示せず)では、時刻Tv1、Tv2、・・・において、ビデオが再生されることを意図して圧縮符号化を行っている。また、データストリームには時刻Ta1、Ta2、・・・において再生されるべきオーディオの再生時刻情報(APTS)も存在している。エンコーダは、ビデオとオーディオについて各々VPTS、APTSを付すことにより、システムクロックSTCに同期して再生されることを要求している。
【0040】
次に、図3の2段目は、映像音響機器におけるビデオ処理によって遅延したビデオの再生タイミングを示す。例えば、最初に表示されるビデオについてみると、ビデオ処理に起因する遅延により、本来時刻Tv1で表示されるはずの映像が、時刻Tv1より後の時刻Tp1において再生されている。その時間差をΔtとする。
【0041】
次に、4段目は、本実施形態の遅延設定部A9が元の再生時刻情報(APTS)を修正した後の、オーディオの再生タイミングを示す。オーディオ遅延設定部9は、時刻Ta1において再生されるべきことを示すオーディオの再生時刻情報(APTS)を、ビデオが遅延する時間(Δt)だけずらした時刻情報(NAPTS)に修正し、オーディオの再生時刻を遅延させている。したがって、ビデオ出力は2段目のタイミング(時刻Tp1、Tp2、・・・)において再生され、オーディオ出力は4段目のタイミング(時刻Tna1、Tna2、・・・)において出力されて再生される。これにより、ビデオとオーディオの同期再生を実現できる。
【0042】
なお、ビデオおよびオーディオの「同期再生」とは、ビデオの再生タイミングがオーディオの再生タイミングに対して、一定の時間範囲(例えば50ミリ秒先行から30ミリ秒遅延の間)に入っていることをいう。ビデオおよびオーディオのPTSが一致している場合に限られない。
【0043】
図4は、本実施形態によるデコード処理手順を示す。まず分離部1にて、符号化データストリームを符号化ビデオデータおよび符号化オーディオデータに分離し、ステップS101及びステップS102において、符号化データ(ビデオ/オーディオ)から、符号化フレームデータおよび再生時刻情報(VPTS/APTS)を抽出する。ビデオおよびオーディオの各符号化フレームデータは、それぞれ圧縮ビデオバッファ部A17および圧縮オーディオバッファ部A7に格納され、再生時刻情報(VPTS/APTS)はビデオ再生時刻情報管理部A301およびオーディオ再生時刻情報管理部A401に送られる。
【0044】
図5は、オーディオ再生時刻情報管理部A401において生成されるテーブルの構成を示す。このテーブルは、圧縮オーディオバッファ部7に格納されたオーディオデータとオーディオ再生時刻情報とを関連づける。まず、オーディオ再生時刻情報管理部A401は、例えばAPTSごとにスロットという単位に分割する。そして、各スロットとオーディオアドレス情報とを対応付ける。オーディオアドレス情報は、オーディオバッファ部A7に格納されたオーディオデータの先頭アドレスを参照するデータとして、各スロットに対応づけられて格納される。そして、格納されたオーディオデータのデータ配置と、オーディオアドレス情報によって参照されるデータ位置の関係を示す。
【0045】
更に圧縮オーディオバッファ部A7は、圧縮オーディオデータを書き込んだ最後の位置(バッファ内のアドレス)を特定するライトポインタを有している。ライトポインタが示す位置はデータの書き込みが行われるとその最後の位置を示すように更新される。圧縮オーディオバッファA7はデータをバッファの最終アドレスまで書き込むと、書き込み位置を最初のアドレスまで戻す。すなわちバッファのアドレス管理はリング状(ラップアラウンド状)に行われる。
【0046】
また圧縮オーディオバッファ部A7は、圧縮オーディオデータを読み出した最終位置(バッファ内の最終アドレス)を特定するリードポインタを有している。オーディオデコード部A4によって圧縮オーディオデータが読み出されると、圧縮オーディオデータのリードポインタが示す位置を更新する。従って、読み出された位置までは、後続のデータを書き込むことができる。ライトポインタの位置がリードポインタの位置を追い越さないよう管理しながら、保持された圧縮オーディオデータが読み出され、分離部2によって分離された後続の圧縮オーディオデータが書き込まれる。
【0047】
再び図4を参照する。ステップS103において、ビデオデコード部A3は、VPTSがシステム時刻基準STCに達する前に、ビデオの符号化フレームデータをデコードし、デコードされたビデオデータをフレームバッファ部303に格納する。
【0048】
次にステップS104及びステップS105において、遅延設定部A9は、予め設定された遅延時間に対応するPTS値ΔtをAPTSの値に加算し、新たなオーディオ再生時刻情報NAPTS値を求める(NAPTS=APTS+Δt)。以上の処理によって、オーディオの再生時刻情報(APTS)を修正した新たな再生時刻情報(NAPTS)が得られる。本実施形態においては、遅延時間は利用者により予め設定される場合を想定して説明する。利用者は、遅延設定部A9として設けられた入力ボタン、リモコン(図示せず)等によって設定したい項目を選択することができる。例えば、遅延させたい時間が“60ms”と設定する。PTS値Δtは設定された遅延時間に基づいて得ることができる。
【0049】
なお、遅延時間の設定はAV同期を実現するために必要であるが、現実の再生前に遅延時間を予め設定することができる根拠は以下のとおりである。すなわちビデオデコード部A3においては、例えば標準画質の映像を出力するための処理時間は概ね一定であり、また高精細画質の映像を出力するための処理時間もまた概ね一定である(ただし両方の処理時間は異なっていてもよい)。よって、どの程度オーディオを遅延させればよいかは、映像の処理内容に応じて予めほぼ特定できるといえる。この結果、利用者が現実の再生前に遅延時間を予め設定できる。
【0050】
ステップS106において、オーディオデコード部A4は、NAPTSがシステム時刻基準STCに達する前に、オーディオの符号化フレームデータをデコードし、ステップS108において、デコードされたオーディオデータをPCMバッファ部403に格納する。
【0051】
ステップS107において、ビデオデコード部A3は、システム時刻基準STCがVPTSに達したか否かを判断する。「達した」とは、STCがVPTSに一致したとき、またはSTCがVPTSを超過したときを示す。達していれば、ステップS107においてビデオ出力部304はフレームバッファからビデオデータを出力する。達していなければ、達するまで待つ。
【0052】
次に、ステップS108において、オーディオデコード部A4は、STCがNAPTSに達したか否かを判断する。ここでいう「達した」もビデオと同様であり、STCがNAPTSに一致したとき、またはSTCがNAPTSを超過したときを示す。達していれば、オーディオ出力部404はPCMバッファからオーディオデータを出力する。達していなければ、達するまで待つ。
【0053】
そして、ステップS109において、ビデオデコード部A3およびオーディオデコード部A4はデコードが終了したか否かを判断する。終了したときは処理を終了し、していなければステップS101もしくはステップS102に戻って処理を継続する。なお、ユーザから再生の停止が指示された場合にも処理は終了する。なお、ステップS101とS102は、どちらの入力が先かで適時順序が変更になる。
【0054】
なお、装置によっては、光出力端子からドルビーデジタル等のストリームのままで出力する場合もある。このような場合、ストリームバッファ(図示せず)に一旦蓄えて、STCを参照し、NAPTSが一致もしくは超過した時点で、オーディオ出力する。
【0055】
STCに対して、VPTS及びNAPTSを同期させるよう、ビデオデコード及びオーディオデコードを実施する。特に、NAPTSにVPTSが、50ミリ秒先行から、30ミリ秒遅延までの間にあわせれば、リップシンクのずれは気にならない程度に収まる。
【0056】
次に、データ処理装置100と複数種類の外部映像機器、外部音響機器等との接続について説明する。各種符号化方式によって(圧縮)符号化されたコンテンツデータ、デジタル放送等のデジタル圧縮符号化されたオーディオ・ビデオデータ等は、データ処理装置100において復号化され、外部映像機器、外部音響機器等において再生される。
【0057】
まず、デジタル圧縮符号化されたオーディオ/ビデオデータストリームを供給される受信部1の処理を以下に説明する。以下では、受信部1は、例えばオーディオデータストリームとビデオデータストリームとを含むトランスポートストリーム(TS)を受信するとして説明する。
【0058】
受信部1に入力されるオーディオデータストリームとビデオデータストリームには、各々のストリームを識別するための識別番号(以下IDと略す)が付されている。従来の衛星放送用のセットトップボックスに内蔵される受信部1は、衛星放送等を受信する場合においては、利用者が選択した番組を特定する番組IDに基づいて、その番組に関するオーディオ/ビデオデータストリームのIDを特定する。そして、特定されたIDを有するオーディオ/ビデオデータストリームを、複数のデータストリームの中から抽出して分離部2に供給する。
【0059】
本実施形態による受信部1は、上記動作に加えてさらに、抽出したオーディオ/ビデオデータストリームのデータストリームの複製を作成するとともに、複製されたデータストリームに対して先のデータストリームの抽出時に特定したIDとは異なるIDを作成し、複製されたデータストリームに付与する。すなわち複製の対象となるオリジナルのデータストリームのIDと、複製されたデータストリームのIDとは異なっている。
【0060】
次に分離部2は、IDを利用して映像データストリームおよび音声データストリームを分離し、圧縮ビデオデータ及び圧縮オーディオデータの分離とビデオ再生時刻情報とオーディオ再生時刻情報を抽出する入力解析を行う。
【0061】
分離部2においても、複数の圧縮オーディオデータと複数の圧縮ビデオデータを扱い、複数のデコード部に対して、各データを供給する働きを有する。分離部2は、データ処理装置の中の複数のデコード部の各々に対し、指定されたIDを有する圧縮データを供給する。
【0062】
よって、分離部2に対して、下記の2つは区別なく処理できるようになり、複数のデコード部によって、別々のデコード処理が行われる。
【0063】
(1)利用者が同時に複数の番組再生を指定した場合で、複数の番組IDが指定されて複数番組のデータストリームが供給される。
【0064】
(2)利用者が単一の番組のIDを指定することにより、結果として受信部1が複製前及びの複製後の各々のデータストリームが供給される。
【0065】
本実施形態のデータ処理装置100は、複数の外部接続機器への出力経路が設けられている場合においても、各々の外部接続機器において、AV同期をとりながらコンテンツを再生することができる。例えば、一方の端子からBSデジタル放送のハイビジョン放送を高画質で再生出力しながら、標準画質のビデオレコーダに接続されたもう一方の端子から、録画のための再生出力することができる。この例では、ハイビジョン放送画面(第1画面)を作成するには、より高画質で表示するための画像処理を行う必要がありその分ビデオ出力処理に時間がかかる。一方標準画質のビデオレコーダへの出力映像画面(第2画面)を作成するためには、ハイビジョン映像を標準の映像にフォーマット変換するための画像処理を行う必要がある。第1画面と第2画面の各々の画像処理時間は、外部接続機器に接続する形態において各々設定され、同一である必要はない。従って先に説明したオーディオ再生を遅延させる処理を行い、各々AV同期をはかったうえで、ビデオとオーディオ信号を出力する。
【0066】
本実施形態によるデータ処理装置の特徴は、受信部1を従来の指定IDを有するデータストリームのみを分離部2へ通過させるだけでなく、指定IDのデータストリームの複製を作成し、かつ異なるIDを複製データストリームに付与し、異なるID情報を分離部2へ通知することにより、分離部2より後処理は、複数の番組のデコード処理と全く同一の処理を行うところにある。
【0067】
さらに、データ処理装置の一方の出力を記録処理装置(内蔵ビデオ装置等)に接続し、残りの出力を外部接続機器用に準備する場合においても同様な構成で対応できる。またデータ処理装置がデジタル放送受信機で、デジタル放送のトランスポートストリーム形式であるデータストリームを再生しながら、内部にDVD記録用にプログラムストリーム方式にエンコードしながらDVD記録するためのエンコード装置を有する場合に対しても同様な構成で対応できる。
【0068】
エンコード装置でDVDなどのメディアに記録する際には、AV同期が必ずあっていないといけない。これは記録したメディアが、エンコード記録した機器と同じ機器でデコード再生するとは限らないからである。AV同期がずれた状態で、ビデオ用のVPTSと、オーディオ用のAPTSをつけてしまうと、再生側では、ずれた状態のPTSを正規の時刻情報と思って再生するからである。
【0069】
上述のように、外部接続した映像機器と音響機器に出力するために設定した遅延時間と、内部エンコード用の遅延時間とはそれぞれ異なっている。利用者が外部接続機器を利用する場合には、AV同期が実現されているか否かは、ニュース番組などでアナウンサーの映像(口の動き)と音声とが合致しているかなどに基づいて確認することができる。しかし内部エンコード用の映像及び音声は、それらの映像や音声をモニタ出力しない限り、AV同期が実現されているかどうかを直に確認することはできない。特に、衛星デジタル放送を受信記録する場合などで、デコードするデータストリームの元々の画質が、番組途中などで、放送局側の都合により変更される場合がある。ハイビジョン画質(以下高精細画質)から標準画質へ、もしくはその逆の場合もある。
【0070】
このような場合には、画質を変換するために現実に要する画像処理時間と当初想定していた処理時間とは相違する。この画像処理時間の相違を考慮せずにそのままの同じ遅延時間を設定し続ければ、番組途中の画質が変わった時点から後はAV同期が図れていない状態が継続する。
【0071】
そこで本実施形態では、画像処理の遅延情報を取得した時点で遅延情報を変更し、再度遅延設定を行い直す。これにより、変更発生後においてもAV同期を図ることができる。なお外部接続に出力する経路においても、画像処理内容がかわり遅延時間の変更が認知されれば、遅延時間の変更を実行すればよい。
【0072】
上述の説明では、圧縮符号化されたオーディオデータをデコードした後PCMデータをバッファするとした。これはオーディオ出力部へ出力するための出力信号の準備処理に相当する。オーディオ信号を遅延するためには、従来例のデコードされたPCMデータを遅延させるオーディオ遅延部187(図11)の構成と比較すると、本実施形態によるオーディオバッファ部A7(図1)はデコード前の圧縮符号化された状態のオーディオデータを保持しているためデータ量が小さく、バッファサイズが少なくてすむ。
【0073】
オーディオバッファ部A7に必要なバッファ容量は、当初のAPTSによって規定される再生時刻の到達前までに受け取る符号化オーディオデータのデータ量と、再生時刻の遅延量(Δt)に応じた時間の経過までに受け取る符号化オーディオデータのデータ量との和以上である。例えば、遅延のために必要なバッファとして、最大100ミリ秒のデータを追加的に格納できる追加バッファが必要である場合を考える。これは、遅延時間が最大100ミリ秒の場合に相当し、ビデオではNTSC方式出力のときのビデオ約3フレームの表示時間に相当する。この場合に必要な追加バッファの容量は、BSデジタル放送で使用されているオーディオ圧縮フォーマットのAAC方式では約22キロバイトである(1チャンネルあたり288キロビット秒として6チャンネル分のデータ量を算出した)。この容量は、デコード後のPCMデータを追加的に保存するときの容量の数分の1ですむ。
【0074】
本実施形態では、ビデオデコード部A3およびオーディオデコード部A4は、圧縮符号化されたビデオデータおよびオーディオデータをデコードして、フレームバッファ部303およびPCMバッファ部403に保持しておくとした。しかし、例えばDVDにはリニアPCMデータがオーディオデータとして含まれている場合には、デコード動作は不要である。リニアPCMデータは、符号化はされているが圧縮はされていないからである。ただし、オーディオデータがリニアPCMデータであっても、ストリームに含まれる同期情報に従ってビデオと同期して再生されるため、先の説明をそのまま適用できる。また、データ処理装置100が光出力端子からドルビーデジタル等の符号化ストリームをそのまま出力する場合には、ストリームバッファ(図示せず)に一旦蓄えて、STCを参照し、NAPTSがSTCに達した時点で、オーディオ出力部404から出力すればよい。
【0075】
次に、オーディオの遅延を発生させる外部映像機器13への出力のためのビデオ処理の具体例を説明する。想定されるビデオ処理は、
(1)毎秒24フレームのフィルム素材から毎秒30フレームのビデオ素材への変換処理、
(2)インターレース走査・プログレッシブ走査間の変換処理、標準画質(Standard Definition;SD)のD1規格信号・高精細画質(High Definition;HD)のD3規格信号間の変換処理、NTSC方式・PAL方式間の変換処理
(3)ユーザからの指示等に基づく映像の拡大、縮小、編集処理
(4)複数の映像の合成処理
等である。上述の処理が不要な通常の再生時には、オーディオデータを遅延して出力する必要はない。しかし、ビデオ処理のオン/オフによって遅延が発生しうるため、遅延量の設定およびその設定に基づくオーディオデータの遅延出力が必要になる。
【0076】
そのようなときは、遅延設定部A9に遅延時間が異なる複数の遅延情報を設け、行われる処理種別に応じて対応付けておくことが好ましい。さらに、外部映像機器13で実行される画像処理の種別をユーザが入力すると、その種別応じて遅延時間を変えるように構成すればよい。
【0077】
図6は、ビデオ処理を行う処理回路を搭載したビデオ出力部304の機能ブロックの構成を示す。ビデオ出力部304は、フレームバッファ部303からデコードされたフレームデータを受け取り、所定のビデオ処理を行ったビデオデータを出力する。ビデオ出力部304は、IP変換部371と、フォーマット変換部372と、拡大縮小部373と、他画面合成部374と、GUI重畳部375と、出力部376とを有する。これらの構成要素に関連して、ビデオデコード部A3には外部映像入力部377およびGUIデータ生成部378とが別途設けられる。
【0078】
IP変換部371は、インターレース走査・プログレッシブ走査間の変換処理を行う。フォーマット変換部372は、480iビデオ信号・1080iビデオ信号間の変換処理およびNTSC方式・PAL方式間の変換処理を行う。拡大縮小部373は、ユーザからの指示等に基づく映像の拡大、縮小、編集処理を行う。他画面合成部374は、デコードされたビデオと外部映像入力部377から入力されるビデオとを合成する。GUI重畳部375は、これまでの処理によって得られたビデオに、GUIデータ生成部378によって生成されたGUIデータを重畳する。そして出力部376は、最終的に得られたビデオデータを出力する。この出力は、外部映像機器13に送られる。ビデオデコード部A3は、ビデオデータが得られたときの時刻をSTCに基づいて取得し、そのビデオデータのVPTSと比較することによって、遅延時間を特定することができる。
【0079】
さらに、図7に示すように、データ処理装置100と映像音響機器120との接続およびそれらの間で授受されるデータの種類を示す。図7の例では、HDMI規格に従ってデータが授受される。まずHDMIトランスミッタ480は、映像音響機器120のHDMIレシーバ430に対して、映像音響機器120を特定する情報(機器固有情報)を求める制御コマンドを送信する。HDMIレシーバ430は、その制御コマンドに基づいて、自己の装置の機器IDを機器固有情報としてHDMIトランスミッタ480に送信する。機器IDは、例えば映像音響機器120内のROM431にメーカー固有情報(Vendor Specific Data)として格納されており、メーカー名、機種名等を特定することができる。
【0080】
HDMIトランスミッタ480は、機器IDを受け取る。遅延設定部A9は、機器IDを受け取ると、内部メモリまたは外部のメモリカード等に規定されたテーブルを参照する。テーブルには、機器IDと遅延設定との対応が記述されている。そして、機器IDおよびそのテーブルに基づいて、映像音響機器120が実行するビデオ処理に起因する遅延時間を得ることができる。これにより、その遅延時間を特定できる。これら獲得した情報は、データ処理装置内でデフォルト設定値として保存しておく構成にしておけば、機器接続が変わらない限りいつも同じ状態でのAV鑑賞を行うことができる。接続機器ID等の変更があれば、その都度相手機器側の情報を受け、設定を変更すればよい。
【0081】
これらの外部接続機器には、TVなどのモニタ出力機器や、オーディオ出力アンプ、AVセレクタ機能を有するAVアンプなどのインタフェース機器、携帯型出力機器、車載用AV再生機器などが想定される。
【0082】
なお、実施形態1においては、複数の出力経路のそれぞれのAV同期を合わせるために、各々の圧縮前のバッファ部とデコード部を設ける構成としている。これは、デコード後に出力経路ごとにバッファ部用のメモリを有する場合より、半導体コストが安い場合に有効である。例えば、マイクロプロセッサが高機能となり、複数のデコード機能を同一の半導体により実現可能である場合を想定する。すると、出力経路ごとに、デコード後にバッファメモリをおくよりも、デコード前に圧縮された状態でバッファする方が装置全体のコストを低減できる。
【0083】
他にも、1台のデータ処理装置に複数のデコード部が必要な場合がある。例えば、BSデジタル放送の圧縮符号化データストリームを再エンコードしてハードディスクや光ディスク等に書き込みつつ、そのデータストリームをその放送時刻よりも遅い時刻に再生する場合である。再エンコード処理は、圧縮符号化データストリームをデコード部において一旦復号化し、圧縮率をさらに高めてエンコード(圧縮符号化)する処理であり、復号化処理を含んでいる。また再生処理は、圧縮符号化データストリームをデコード部において復号化して出力する処理である。上述の例では同時に2つのデコード部が必要とされ、各々の出力用にAV同期用の遅延設定が必要となる。従って、デジタル放送を追いかけ再生する機能を有するデータ処理装置においては、複数のデコード部が必要となるため、実施形態1の複数の出力用の遅延設定を実現するために、特別のデコード部を追加する必要はない。遅延用のバッファのためのメモリサイズを低減することにより、コストの低減を図ることが第1の効果である。
【0084】
(実施形態2)
図8は、本実施形態によるデータ処理装置102の構成を示すブロック図である。以下、実施形態1によるデータ処理装置100との相違点を中心に説明する。なお図8には、実施形態1における圧縮ビデオバッファ部AおよびBに相当する構成要素は記載されていないが、この相違は簡略化のためであり本質的ではない。
【0085】
受信部21は、ビデオのデータストリームのみ複製を行い、複製前のデータストリームと複製後のデータストリームとを識別するIDを付与する。一方オーディオのデータストリームの複製は行わない。
【0086】
従って分離部22は、IDの異なるビデオストリームデータをビデオデコード部A23と、ビデオデコード部B26に分割して供給するともに、オーディオストリームデータは、圧縮オーディオ共通バッファ部27に供給する。
【0087】
圧縮オーディオ共通バッファ部27は、圧縮オーディオデータを書き込むことにより、書き込んだ最終点まで最新の書き込み位置を移動するライトポインタを有している。また圧縮オーディオ共通バッファ部27はリードポインタAおよびBも有している。オーディオデコード部A24によって圧縮オーディオデータが読み出されることにより、圧縮オーディオデータのリードポインタAを更新する。またオーディオデコード部B25によって圧縮オーディオデータが読み出されることにより、圧縮オーディオデータのリードポインタBを更新する構成をとる。圧縮オーディオ共通バッファ部27は、最終アドレスまで書き込んでいけば、また最初のアドレスまで書き込み位置をもどす。すなわちバッファのアドレス管理はリング状(ラップアラウンド状)に行われる。従って、読み出された位置まで、次の書き込みが可能となり、分離部2によって、ライトポインタが2つのリードポインタのうちのまだ読み込みが完了していないほうのリードポインタを追い越さないようにしながら、次の圧縮オーディオデータの書きこみがバッファ管理される。上述のライトポインタおよびリードポインタの機能は実施形態1におけるライトポインタおよびリードポインタと同じである。
【0088】
実施形態1に比べ、実施形態2には、圧縮オーディオデータのバッファ容量がおよそ半分ですむ。これは、実施形態1においては、各々のデコード部それぞれに固有のオーディオバッファを有していた。しかし、実施形態2では、このオーディオバッファに格納されるデータそのものは同一であり、各々の遅延時間の設定の差により、複数の読み出し位置の制御を行うことにより、バッファの共通利用を図っている。
【0089】
(実施形態3)
図9は、本実施形態によるデータ処理装置104の構成を示すブロック図である。以下、実施形態1との相違点を中心に説明する。なお図9には、実施形態1における圧縮ビデオバッファ部AおよびBに相当する構成要素は記載されていないが、この相違は簡略化のためであり本質的ではない。
【0090】
受信部41は、利用者の指定した番組に対応するIDを有するビデオのデータストリームとオーディオのデータストリームを取得し、分離部42へ渡す。分離部42のあとにデータ複製部53を設け入力されたデータストリームの複製を行う。データ複製部53前のデータを第1のデコーダ部(ビデオデコード部A43及び圧縮オーディオバッファ部A47)へ、データ複製部53にて複製されたデータストリームを第2のデコーダ部(ビデオデコード部B45及び圧縮オーディオバッファ部B48)へ供給する。
【0091】
その後の処理については、実施形態1と同様である。これは、データ複製部53を設けることにより、データ処理装置104を半導体で構成する場合において、受信部41、分離部42と、デコーダ部には、手を加えなくても、実施形態1と同等の効果が得られる。
【0092】
(実施形態4)
図10は、本実施形態によるデータ処理装置106の構成を示すブロック図である。以下、実施形態3によるデータ処理装置104との相違点を中心に説明する。
【0093】
受信部81は、利用者の指定した番組に対応するIDを有するビデオのデータストリームとオーディオのデータストリームを取得し、分離部82へ渡す。分離部82のあとにデータ複製部93を設け入力されたビデオデータのデータストリームの複製を行う。データ複製前のデータを第1のデコーダ部(ビデオデコード部A83)へ、データ複製部93にて複製されたデータストリームを第2のデコーダ部(ビデオデコード部B85)へ供給する。
【0094】
従って分離部82は、オーディオストリームデータは、圧縮オーディオ共通バッファ部87に供給する。
【0095】
圧縮オーディオ共通バッファ部87へは、圧縮オーディオデータを書き込むことにより、書き込んだ最終点まで最新の書き込み位置を移動するライトポインタを有している。そして、オーディオデコード部A84によって圧縮オーディオデータが読み出されることにより、圧縮オーディオデータのリードポインタAを更新する構成をとる。またオーディオデコード部B86によって圧縮オーディオデータが読み出されることにより、圧縮オーディオデータのリードポインタBを更新する構成をとる。圧縮オーディオ共通バッファ部87は、最終アドレスまで書き込んでいけば、また最初のアドレスまで書き込み位置がもどるリング状の使用形態とする。従って、読み出された位置まで、次の書き込みが可能となり、分離部2によって、ライトポインタが2つのリードポインタのうちのまだ読み込みが完了していないほうのリードポインタを追い越さないようにしながら、次の圧縮オーディオデータの書きこみがバッファ管理される。
【0096】
実施形態3に比べ、実施形態4には、圧縮オーディオデータのバッファ容量がおよそ半分ですむ。これは、実施形態1においては、各々のデコード部それぞれに固有のオーディオバッファを有していた。しかし、実施形態4では、このオーディオバッファに格納されるデータそのものは同一であり、各々の遅延時間の設定の差により、複数の読み出し位置の制御を行うことにより、バッファの共通利用を図っている。その後の処理は実施形態1によるデータ処理装置100の処理と同様である。
【0097】
なお上述の各実施形態においては、入力データは、外部から入力されるデータ、外部記録媒体から入力されるデータとして説明してきたが、予め機器内に存在するデータであってもよい。
【0098】
また上述の実施形態においては、分離部がビデオ信号とオーディオ信号とを分離するとして説明した。しかし、あらかじめ各々が分離されているファイルデータであってもよい。圧縮ビデオデータと関連する再生時刻情報、圧縮オーディオデータと再生時刻情報を入力とし、各々の再生時刻情報に対し、同期情報とともに再生できる構成であれば、上述の各実施形態によるデータ処理装置を構成することができる。これは、ビデオカメラ等で撮影した信号をパーソナルコンピュータ上で編集した結果として、AV及びデータの混合ファイルもしくは、AVデータ独立のファイルどちらの場合でも、圧縮ビデオデータと関連する再生時刻情報、圧縮オーディオデータと再生時刻情報、ファイル上のデータ情報を互いに関連づけた同期をとって再生する場合すべてに適応される。
【0099】
上述の実施形態によるデータ処理装置の適用例としては、セットトップボックス、デジタル衛星放送受像機及びその記録機器、DVDプレーヤもしくはDVDレコーダの関連機器、ハードディスクレコーダ、パーソナルコンピュータなどがある。
【産業上の利用可能性】
【0100】
本発明におけるデータ処理装置は、デジタル符号化された映像信号と音声信号の同期信号を元に、表示などの目的で複数の出力経路を持つ場合に、各々の経路の遅延を、圧縮データのままバッファメモリに蓄え、さらに各々の信号処理による遅延時間を独自に設定することにより、各経路のAV同期を動的に合わす用途に使用することができる。
【図面の簡単な説明】
【0101】
【図1】実施形態1によるデータ処理装置100の機能ブロックの構成を示す図である。
【図2】デコード部101の詳細な機能ブロックの構成例を示す図である。
【図3】ビデオとオーディオとの同期再生を実現する再生タイミングを示す図である。
【図4】実施形態1によるデコード処理手順を示すフローチャートである。
【図5】オーディオ再生時刻情報管理部A401において生成されるテーブルの構成を示す図である。
【図6】ビデオ処理を行う処理回路を搭載したビデオ出力部304の機能ブロックの構成を示す図である。
【図7】データ処理装置100と映像音響機器120との接続およびそれらの間で授受されるデータの種類を示す図である。
【図8】実施形態2によるデータ処理装置102の構成を示すブロック図である。
【図9】実施形態3によるデータ処理装置104の構成を示すブロック図である。
【図10】実施形態4によるデータ処理装置106の構成を示すブロック図である。
【図11】従来の信号再生装置の実装形態を示すブロック図である。
【図12】複数の出力経路を有する従来の信号再生装置の構成を示すブロック図である。
【符号の説明】
【0102】
1 受信部
2 入力部
3 ビデオデコード部A
4 オーディオデコード部A
5 ビデオデコード部B
6 オーディオデコード部B
7 圧縮オーディオバッファ部A
8 圧縮オーディオバッファ部B
9 遅延設定部A
10 遅延設定部B
11 システム時刻参照部A
12 システム時刻参照部B
13、16 外部映像機器
14、15 外部音響機器
17、18 圧縮ビデオバッファ部
100、102、104、106 データ処理装置
101 デコード部
【技術分野】
【0001】
圧縮符号化されたオーディオデータおよびビデオデータを再生する際に、オーディオとビデオとを同期して再生する技術に関する。
【背景技術】
【0002】
従来、圧縮符号化されて記録されたビデオ信号およびオーディオ信号をCD−ROM、DVD−ROM、ハードディスク等の記録媒体から読み出し、デコード(伸張)して出力するデータ再生装置が知られている。データ再生装置が伸張されたデータをその装置に接続されたモニタ、音響スピーカ等に送ることにより、ビデオおよびオーディオの再生が実現される。
【0003】
圧縮符号化に関しては、多くの規格が規定されている。例えばMPEG(Motion Picture Experts Group)は、ビデオ信号およびオーディオ信号の両方を圧縮符号化する規格として知られている。MPEG規格では、ビデオ信号が表すビデオおよびオーディオ信号が表すオーディオが同期して再生されることを保証するために、オーディオ信号およびビデオ信号のそれぞれに再生されるべき時刻を表す時刻情報が付加される。これにより、伸張時にはシステム機器が有するシステム時刻基準参照値に対し、これらの時刻情報を参照してオーディオ信号とビデオ信号とを同期させて再生することができる。
【0004】
以下従来の再生方法について説明する。なお、出願人は、特許文献1に開示されている信号再生装置を認識しており、本発明の課題を明確にするために、先行技術の内容を従来例として、簡単に説明する。この方法では、音声の遅延及び画像の遅延用として各々デコードに遅延部を設け、所定の遅延を行ってリップシンクをとりながら再生を実現する。
【0005】
以下従来の信号再生装置について説明する。図11は、従来の信号再生装置の実装形態を示す。図11を参照して、オーディオ遅延部187は、制御部194から入力されるオフセット幅をビデオ遅延部190と共通の所定の遅延時間に加算した時間だけ、オーディオデコーダ186から入力される音声信号を遅延した後、オーディオディジタルアナログコンバータ(ADACと略)188に出力する。ビデオ遅延部190は、ビデオデコーダ189から入力される映像信号を所定時間だけ遅延した後、ミキサ191に出力し、ビデオディジタルアナログコンバータ(VDACと略)192に出力する。制御部194は、コマンド入力部193から遅延コマンド等を受け付け指定されるリップシンクのオフセット幅等を設定する。
【0006】
オーディオの再生と、ビデオの表示タイミングの同期がずれると、視聴者は、違和感を覚える。特に、オーディオ再生がビデオ再生よりも一定時間(概ね30ミリ秒)以上先行すると、映像中の人物の口の動きと音声の同期のずれが目立ち、視聴者に違和感を与える。また接続する外部機器の処理において、さらに時間を要する処理を行うとさらにビデオおよびオーディオの再生タイミングがずれてしまう。そこで、ビデオ遅延部190及びオーディオ遅延部187を用いて、出力タイミングを調整する。
【0007】
この従来の信号再生装置の構成を用い、第1の出力部だけでなく、第2の出力部を追加した場合について、図12を用いて説明する。図12は、複数の出力経路を有する従来の信号再生装置の構成を示す。例えば第1の出力は大画面のシアター向けの高精細画像及び外部オーディオアンプに接続される系として、第2の出力は、標準画質でビデオデッキなどの録画機や手元のモニタ出力に接続される系を想定する。図15において、201のオーディオデコーダは、オーディオデコーダ186と同等の機能を有する。202のビデオデコーダは、ビデオデコーダ189と同等。203のオーディオ遅延部Aは、オーディオ遅延部187と同等、204のビデオ遅延部Aは、ビデオ遅延部190と同等、205のADACは、ADAC188と同等。206のVDACは、VDAC192と同等。さらにエンコーダ209に入力するために各々を遅延させるオーディオ遅延部B207と、ビデオ遅延部B208から構成される。
【0008】
ビデオデコーダ202における標準画質用の画像処理時間と、高精細画質用の画像処理時間とは、遅延設定に違いが生じる。さらに、IP変換(インタレースからプログレッシブ)などを行う場合の遅延設定、サラウンド音声処理の有無に伴う場合の遅延設定など、各々の出力のための処理内容に適した遅延設定が必要である。制御部から各々の遅延部の設定を行うことにより、オーディオとビデオとを同期させることができる。遅延部として半導体メモリを設けることで、複数の出力部を有していてもこれに対応できる。
【特許文献1】特開2001−101803号公報(第3−5頁、第1図、第2図)
【発明の開示】
【発明が解決しようとする課題】
【0009】
従来の信号再生装置のように遅延部に半導体メモリを用いると、遅延量を多くとるためには半導体メモリのメモリサイズを大きくせざるを得ない。しかし、一般にはメモリサイズが大きくなると半導体メモリのコストが増加し、信号再生装置の価格にも大きな影響を与える。よって、できるだけメモリサイズを小さくすることが必要である。
【0010】
本発明の目的は、メモリコストの増加を極力抑えながら、当初意図されたとおりにオーディオとビデオとを同期して再生することである。特に、オーディオとビデオの出力経路が複数存在し、出力先の外部接続機器の相違、処理種別の相違等によって出力経路の遅延量が異なる場合であっても、各出力経路について当初意図されたとおりにオーディオとビデオとを同期して再生することである。
【課題を解決するための手段】
【0011】
本発明によるデータ処理装置は、データストリームを受信してオリジナルストリームとして出力するとともに、受信された前記データストリームを複製して複製ストリームとして出力し、かつ、出力に際して前記オリジナルストリームおよび前記複製ストリームの各々を識別可能な識別情報を付与する受信部を備えている。前記データストリームは、圧縮符号化されたビデオコンテンツに関する第1データ、前記第1データの再生時刻を規定する第1時刻情報、前記ビデオコンテンツと異なるコンテンツに関する第2データおよび前記第2データの再生時刻を規定する第2時刻情報を有する。またデータ処理装置は、前記オリジナルストリームから、前記第1データ、前記第1時刻情報、前記第2データおよび前記第2時刻情報を抽出し、前記複製ストリームから、前記第1データ、前記第1時刻情報、前記第2データおよび前記第2時刻情報を抽出する分離部と、前記オリジナルストリームに関し、前記第1データをデコードして、前記第1時刻情報に基づいて出力する第1デコード部と、前記オリジナルストリームに関し、第2時刻情報に基づいて前記第2データを出力する第2デコード部と、前記複製ストリームに関し、前記第1データをデコードして、前記第1時刻情報に基づいて出力する第3デコード部と、前記複製ストリームに関し、前記第2時刻情報に基づいて前記第2データを出力する第4デコード部と、第1遅延設定部および第2遅延設定部とを有する。
【0012】
前記第1時刻情報および前記第2時刻情報が前記第1データおよび前記第2データを同期して再生する時刻を規定している場合において、前記第1遅延設定部は、前記オリジナルストリームの再生時刻の遅延量を規定する第1遅延情報を保持し、かつ、前記第1遅延情報に基づいて前記第2時刻情報を修正し、前記第2データの再生時刻を遅延させ、前記第2遅延設定部は、前記複製ストリームの再生時刻の遅延量を規定する第2遅延情報を保持し、かつ、前記第2遅延情報に基づいて前記第2時刻情報を修正し、前記第2データの再生時刻を遅延させる。
【0013】
前記データ処理装置は、前記オリジナルストリームの第2データ、および、前記複製ストリームの第2データの各々を格納する少なくとも1つのデータバッファをさらに備えていてもよい。前記オリジナルストリームの前記第2データは圧縮符号化されており、前記少なくとも1つのデータバッファは、修正された第2時刻情報によって規定される再生時刻の前に前記圧縮符号化された第2データを取り出し、前記第2デコード部および前記第4デコード部に出力してもよい。
【0014】
前記少なくとも1つのデータバッファは、前記オリジナルストリームの第2データを格納する第1バッファと、前記複製ストリームの第2データを格納する第2バッファとから構成されていてもよい。前記第1バッファは、前記第1遅延設定部によって修正された第2時刻情報によって規定される再生時刻の前に、前記オリジナルストリームの第2データを取り出して前記第2デコード部に出力し、前記第2バッファは、前記第2遅延設定部によって修正された第2時刻情報によって規定される再生時刻の前に、前記複製ストリームの第2データを取り出して前記第4デコード部に出力してもよい。
【0015】
本発明によるデータ処理装置は、データストリームを受信してオリジナルストリームとして出力する受信部を有している。前記データストリームは、圧縮符号化されたビデオコンテンツに関する第1データ、前記第1データの再生時刻を規定する第1時刻情報、前記ビデオコンテンツと異なるコンテンツに関する第2データおよび前記第2データの再生時刻を規定する第2時刻情報を有する。またデータ処理装置は、前記オリジナルストリームから、前記第1データ、前記第1時刻情報、前記第2データおよび前記第2時刻情報を抽出する分離部と、前記第1データ、前記第1時刻情報、前記第2データおよび前記第2時刻情報を複製する複製部と、前記オリジナルストリームに関し、前記第1データをデコードして、前記第1時刻情報に基づいて出力する第1デコード部と、前記オリジナルストリームに関し、第2時刻情報に基づいて前記第2データを出力する第2デコード部と、複製された第1データをデコードして、複製された第1時刻情報に基づいて出力する第3デコード部と、複製された第2時刻情報に基づいて、複製された第2データを出力する第4デコード部と、第1遅延設定部および第2遅延設定部とを有している。前記オリジナルストリームから抽出された前記第1時刻情報および前記第2時刻情報が前記第1データおよび前記第2データを同期して再生する時刻を規定している場合において、前記第1遅延設定部は、前記オリジナルストリームの再生時刻の遅延量を規定する第1遅延情報を保持し、かつ、前記第1遅延情報に基づいて前記第2時刻情報を修正し、前記第2データの再生時刻を遅延させ、前記第2遅延設定部は、複製された第1データの再生時刻の遅延量を規定する第2遅延情報を保持し、かつ、前記第2遅延情報に基づいて前記第2時刻情報を修正し、前記第2データの再生時刻を遅延させる。
【0016】
前記オリジナルストリームの前記第2データは圧縮符号化されている。前記データ処理装置は、前記オリジナルストリームの第2データ、および、複製された第2データの各々を格納する少なくとも1つのデータバッファをさらに備えていてもよい。前記少なくとも1つのデータバッファは、修正された第2時刻情報によって規定される再生時刻の前に前記圧縮符号化された第2データを取り出し、前記第2デコード部および前記第4デコード部に出力する。
【0017】
前記少なくとも1つのデータバッファは、前記オリジナルストリームの第2データを格納する第1バッファと、複製された第2データを格納する第2バッファとから構成されていてもよい。
【発明の効果】
【0018】
本発明によれば、入力されたビデオ及びオーディオのデータを含む圧縮符号化されたコンテンツデータに基づいて、オリジナルのデータと複製後のデータを作成する。圧縮符号化されたままのデータを遅延出力のために保持させることにより、各々の同期信号に基づいて、別々にデコードされた映像と音声に対し、経路毎の遅延を独自に設定して同期再生を実行できるという利点がある。
【発明を実施するための最良の形態】
【0019】
以下、添付の図面を参照しながら、本発明によるデータ処理装置の実施形態を説明する。
【0020】
(実施形態1)
まず図1を主として参照しながら、本発明の実施形態1によるデータ処理装置の構成を説明する。図1は、本実施形態によるデータ処理装置100の機能ブロックの構成を示す。図1はまた、データ処理装置100と接続された映像/音響機器13〜16を示す。データ処理装置100は、DVD−ROM等の光ディスクから光ピックアップを介して読み出されたデータストリームに2値化処理等を行って、デジタルデータストリームとして出力する。その後で、このストリームをビデオデータおよびオーディオデータに分離し、各々をデコードして映像音響機器に出力する。
【0021】
データ処理装置100は、DVDプレーヤ、DVDレコーダ、PC等であるが、光ディスクに代えてハードディスクを用いたときはハードディスクレコーダである。または、アンテナ等を介してデジタル放送のデータストリームを受け取るときには、データ処理装置100はセットトップボックス、デジタル衛星放送受像機等として実現される。一方、映像音響機器は、例えばTV等のモニタ出力機器、オーディオ出力アンプ、AVセレクタ機能を有するAVアンプ等のインタフェース機器である。図1では映像を表示する機器、音声等を出力する機器等が複数存在している例を示している。
【0022】
各種符号化方式されたコンテンツや、デジタル放送等のデジタル圧縮符号化されたオーディオ・ビデオ信号を格納する光ディスク装置等や、デジタル放送チューナ装置等からデータの供給を受ける受信部1、多重化されて記録されているオーディオ・ビデオ信号を分離し、圧縮ビデオデータ及び圧縮オーディオデータの分離とビデオ再生時刻情報とオーディオ再生時刻情報を抽出する入力解析を行う分離部2を有する。
【0023】
MPEGでは、ビデオおよびオーディオの同期再生を実現するために、ビデオとオーディオの各アクセスユニットと呼ばれるデコードの単位ごと(ビデオは1フレーム、オーディオは1オーディオフレーム)に、いつ再生すべきかの時刻を管理するためのタイムスタンプ値が付加されている。このタイムスタンプ値は、PTS(Presentation Time Stamp)と呼ばれ、オーディオ用はオーディオPTS(以下「APTS」と記述する)およびビデオ用はビデオPTS(以下「VPTS」と記述する)が規定されている。なお、本明細書では、オーディオとビデオとが同期している状態を「AV同期」と称する。
【0024】
PTSが上述のシステム時刻基準STCに一致したときに、そのPTSが付加されたアクセスユニットが再生のために出力される。PTSの精度は、SCRと同様、90kHzのクロックで計測した値であり、33ビット長で表されている。90kHzで計測する理由は、NTSC、PALの両方のビデオ方式のフレーム周波数の公倍数であることと、オーディオの1サンプル周期よりも高い精度を得るためである。
【0025】
本実施形態によるデータ処理装置100の特徴のひとつは、映像音響機器において行われる種々の演算処理等により、本来同期して再生すべきビデオおよびオーディオがずれて再生されてしまう場合に、先行する出力を遅延して出力することにある。例えば、映像音響機器においてビデオデータのインターレース/プログレッシブ変換を行うためにビデオデータの再生がオーディオの再生よりも遅延してしまう場合に、ビデオデータの再生時刻の遅延量相当時間だけ、先行するオーディオデータを遅延して出力する。これにより、ビデオデータとオーディオデータとの同期再生が可能になる。なお、オーディオデータの遅延出力は、オーディオデータの再生時刻を規定するPTSを修正することによって実現される。遅延量は、予想される時間、ユーザによって設定された時間、映像音響機器を特定して判断することができる映像音響機器におけるビデオ処理の所要時間等に基づいて設定される。
【0026】
上述のデータ処理装置100の特徴は、主としてデータ処理装置100のデコード部101によって実現される。以下、デコード部101を詳細に説明する。
【0027】
図2は、デコード部101の詳細な機能ブロックの構成例を示す。デコード部101は、分離部2からの入力により、ビデオバッファ部(図示せず)と、ビデオ再生時刻情報管理部A301と、システム時刻参照部11と、圧縮ビデオバッファ部A17と、ビデオデコード部A3と、圧縮オーディオバッファ部A7と、オーディオ再生時刻情報管理部A401と、オーディオデコード部A4と、オーディオ遅延設定部A9とを有する。
【0028】
分離部2は、データストリームから、デジタル圧縮符号化されたオーディオおよびビデオデータを分離して抽出するとともに、ビデオパックに付加されたPTSをビデオ再生時刻情報として抽出し、オーディオパックに付加されたPTSをオーディオ再生時刻情報として抽出する。
【0029】
まず、ビデオ処理に関する構成要素を説明する。圧縮ビデオバッファ部A17は、分離部2によって分離されたビデオデータを一次格納する。ビデオ再生時刻情報管理部A301は、圧縮ビデオバッファ部A17に格納されたビデオデータとビデオ再生時刻情報を関連づけたテーブルを生成し、管理する。
【0030】
ビデオデコード部A3は、圧縮符号化されたビデオデータの属性情報(ビデオヘッダ情報)を解析するとともに、圧縮ビデオバッファ部A17に格納されているビデオデータをビデオ再生時刻情報に従ってデコードする。ビデオデコード部A3にはフレームバッファ部303およびビデオ出力部304が設けられている。フレームバッファ部303は、デコードしたビデオデータを格納する。ビデオ出力部304は、外部へビデオデータを出力する。このビデオデータは、さらにデータ処理装置100に接続された映像音響機器(例えば外部映像機器13)に出力される。
【0031】
次に、オーディオ処理に関する構成要素を説明する。圧縮オーディオバッファ部A7は、分離部2によって分離されたオーディオデータを格納することができる半導体メモリである。そのバッファサイズは、取り扱う符号化オーディオデータの圧縮率等によって異なり、例えば数キロバイトから数十キロバイト程度である。オーディオ再生時刻情報管理部A401は、圧縮オーディオバッファ部A7に格納されたオーディオデータとオーディオ再生時刻情報を関連づけるテーブルを生成し、管理する。このテーブルは後に図5を参照しながら詳述する。
【0032】
遅延設定部A9は、オーディオの再生時刻の遅延量を規定する遅延情報を保持し、かつ、遅延情報に基づいてオーディオの再生時刻情報を修正して、その再生時刻を遅延させる。遅延設定部A9は、例えば遅延情報を保持するメモリ(図示せず)を有しており、映像音響機器の処理に鑑みて想定される時間が予め設定されている。そしてさらに、ユーザによって設定された数ミリ秒単位またはビデオフレーム単位の遅延時間に関する情報も保持できる。これにより、映像音響機器において発生する処理遅延に応じた微調整が可能になる。
【0033】
オーディオデコード部A4は、圧縮符号化されたオーディオデータの属性情報(オーディオヘッダ情報)を解析するとともに、圧縮オーディオバッファ部A7に格納されているオーディオデータをオーディオ再生時刻情報に従ってデコードする。オーディオデコード部A4にはPCMバッファ部403およびオーディオ出力部404が設けられている。PCMバッファ部403は、デコードしたオーディオデータを格納する。オーディオ出力部404は、外部へオーディオデータを出力する。このオーディオデータは、さらにデータ処理装置100に接続された映像音響機器(例えば外部音響機器14)に出力される。
【0034】
なお、上述のビデオデコード部A3およびオーディオデコード部A4は、各々別々の半導体集積回路等とその制御用のプログラムにより実現することができる。しかし、それぞれの機能を実現できる限り、1つの半導体集積回路等とその制御用のプログラムによって実現してもよい。
【0035】
次に、ビデオ出力部304およびオーディオ出力部404から出力されるビデオデータおよびオーディオデータを、同期して再生するための構成を説明する。デコードタイミングおよび再生タイミングは、システム時刻参照部A11によって実現される。システム時刻参照部A11は、MPEGシステムのデータ処理装置100の内部においてシステム時刻基準STCを生成する。データ処理装置100側でSTCを生成するためには、DVDディスク等で使用されるプログラムストリーム(PS)に規定されるSCR(System Clock Reference;システム時刻基準参照値)の値を用いる。SCRはパックヘッダに記述されている。なお、入力されるデータストリームがBSデジタル放送で使用されるトランスポートストリーム(TS)のときは、PCR(Program Clock Reference:プログラム時刻基準参照値)が用いられる。
【0036】
システム時刻参照部A11は、ビデオデータの最終バイトの到着時に、SCRの値をシステム時刻基準STCと同じ値に設定する。これにより基準となる時刻を設定することができる。さらに、このSTCの値の設定と、PLL(位相ロックループ)回路(図示せず)を組み合わせることにより、デコード部60の基準時刻用システムクロックと完全に周波数が一致したSTCをもつことができる。システム時刻基準STCのシステムクロックの周波数は27MHzである。このSTCからカウンタ等により分周することにより、各PTS(周波数:90kHz)が参照される。
【0037】
データ処理装置100が従来の処理を行う場合には、ビデオデコード部A3は、システム時刻基準STCがVPTSに一致したときそのPTSが付加されていたアクセスユニットを出力し再生させる。またオーディオデコード部A4は、STCがAPTSに一致したときにそのPTSが付加されていたアクセスユニットを出力し再生させる。PTSの周波数は90kHzであるから、この精度の範囲内で、STCとVPTSおよびAPTSとの同期をとれるようにビデオデータおよびオーディオデータの各々をデコードする。これにより、ビデオおよびオーディオの同期再生を実現できる。
【0038】
一方、本実施形態による処理によれば、映像音響機器におけるビデオ処理の遅延を考慮した上で、データ処理装置100はビデオおよびオーディオの同期再生を実現する。以下、図3を参照しながらその概略を説明し、その後、図4を参照しながらその動作を実現するための処理の手順を説明する。
【0039】
図3は、ビデオとオーディオとの同期再生を実現する再生タイミングを示す。再生タイミングは、ビデオ再生時刻情報およびオーディオ再生時刻情報に基づいて規定される。図3では、再生時刻情報によって示されるタイミングが4段に分けて記載されている。1段目は、データストリームに規定されていたビデオ再生時刻情報(VPTS)のタイミングを示す。データストリームを生成したエンコーダ(図示せず)では、時刻Tv1、Tv2、・・・において、ビデオが再生されることを意図して圧縮符号化を行っている。また、データストリームには時刻Ta1、Ta2、・・・において再生されるべきオーディオの再生時刻情報(APTS)も存在している。エンコーダは、ビデオとオーディオについて各々VPTS、APTSを付すことにより、システムクロックSTCに同期して再生されることを要求している。
【0040】
次に、図3の2段目は、映像音響機器におけるビデオ処理によって遅延したビデオの再生タイミングを示す。例えば、最初に表示されるビデオについてみると、ビデオ処理に起因する遅延により、本来時刻Tv1で表示されるはずの映像が、時刻Tv1より後の時刻Tp1において再生されている。その時間差をΔtとする。
【0041】
次に、4段目は、本実施形態の遅延設定部A9が元の再生時刻情報(APTS)を修正した後の、オーディオの再生タイミングを示す。オーディオ遅延設定部9は、時刻Ta1において再生されるべきことを示すオーディオの再生時刻情報(APTS)を、ビデオが遅延する時間(Δt)だけずらした時刻情報(NAPTS)に修正し、オーディオの再生時刻を遅延させている。したがって、ビデオ出力は2段目のタイミング(時刻Tp1、Tp2、・・・)において再生され、オーディオ出力は4段目のタイミング(時刻Tna1、Tna2、・・・)において出力されて再生される。これにより、ビデオとオーディオの同期再生を実現できる。
【0042】
なお、ビデオおよびオーディオの「同期再生」とは、ビデオの再生タイミングがオーディオの再生タイミングに対して、一定の時間範囲(例えば50ミリ秒先行から30ミリ秒遅延の間)に入っていることをいう。ビデオおよびオーディオのPTSが一致している場合に限られない。
【0043】
図4は、本実施形態によるデコード処理手順を示す。まず分離部1にて、符号化データストリームを符号化ビデオデータおよび符号化オーディオデータに分離し、ステップS101及びステップS102において、符号化データ(ビデオ/オーディオ)から、符号化フレームデータおよび再生時刻情報(VPTS/APTS)を抽出する。ビデオおよびオーディオの各符号化フレームデータは、それぞれ圧縮ビデオバッファ部A17および圧縮オーディオバッファ部A7に格納され、再生時刻情報(VPTS/APTS)はビデオ再生時刻情報管理部A301およびオーディオ再生時刻情報管理部A401に送られる。
【0044】
図5は、オーディオ再生時刻情報管理部A401において生成されるテーブルの構成を示す。このテーブルは、圧縮オーディオバッファ部7に格納されたオーディオデータとオーディオ再生時刻情報とを関連づける。まず、オーディオ再生時刻情報管理部A401は、例えばAPTSごとにスロットという単位に分割する。そして、各スロットとオーディオアドレス情報とを対応付ける。オーディオアドレス情報は、オーディオバッファ部A7に格納されたオーディオデータの先頭アドレスを参照するデータとして、各スロットに対応づけられて格納される。そして、格納されたオーディオデータのデータ配置と、オーディオアドレス情報によって参照されるデータ位置の関係を示す。
【0045】
更に圧縮オーディオバッファ部A7は、圧縮オーディオデータを書き込んだ最後の位置(バッファ内のアドレス)を特定するライトポインタを有している。ライトポインタが示す位置はデータの書き込みが行われるとその最後の位置を示すように更新される。圧縮オーディオバッファA7はデータをバッファの最終アドレスまで書き込むと、書き込み位置を最初のアドレスまで戻す。すなわちバッファのアドレス管理はリング状(ラップアラウンド状)に行われる。
【0046】
また圧縮オーディオバッファ部A7は、圧縮オーディオデータを読み出した最終位置(バッファ内の最終アドレス)を特定するリードポインタを有している。オーディオデコード部A4によって圧縮オーディオデータが読み出されると、圧縮オーディオデータのリードポインタが示す位置を更新する。従って、読み出された位置までは、後続のデータを書き込むことができる。ライトポインタの位置がリードポインタの位置を追い越さないよう管理しながら、保持された圧縮オーディオデータが読み出され、分離部2によって分離された後続の圧縮オーディオデータが書き込まれる。
【0047】
再び図4を参照する。ステップS103において、ビデオデコード部A3は、VPTSがシステム時刻基準STCに達する前に、ビデオの符号化フレームデータをデコードし、デコードされたビデオデータをフレームバッファ部303に格納する。
【0048】
次にステップS104及びステップS105において、遅延設定部A9は、予め設定された遅延時間に対応するPTS値ΔtをAPTSの値に加算し、新たなオーディオ再生時刻情報NAPTS値を求める(NAPTS=APTS+Δt)。以上の処理によって、オーディオの再生時刻情報(APTS)を修正した新たな再生時刻情報(NAPTS)が得られる。本実施形態においては、遅延時間は利用者により予め設定される場合を想定して説明する。利用者は、遅延設定部A9として設けられた入力ボタン、リモコン(図示せず)等によって設定したい項目を選択することができる。例えば、遅延させたい時間が“60ms”と設定する。PTS値Δtは設定された遅延時間に基づいて得ることができる。
【0049】
なお、遅延時間の設定はAV同期を実現するために必要であるが、現実の再生前に遅延時間を予め設定することができる根拠は以下のとおりである。すなわちビデオデコード部A3においては、例えば標準画質の映像を出力するための処理時間は概ね一定であり、また高精細画質の映像を出力するための処理時間もまた概ね一定である(ただし両方の処理時間は異なっていてもよい)。よって、どの程度オーディオを遅延させればよいかは、映像の処理内容に応じて予めほぼ特定できるといえる。この結果、利用者が現実の再生前に遅延時間を予め設定できる。
【0050】
ステップS106において、オーディオデコード部A4は、NAPTSがシステム時刻基準STCに達する前に、オーディオの符号化フレームデータをデコードし、ステップS108において、デコードされたオーディオデータをPCMバッファ部403に格納する。
【0051】
ステップS107において、ビデオデコード部A3は、システム時刻基準STCがVPTSに達したか否かを判断する。「達した」とは、STCがVPTSに一致したとき、またはSTCがVPTSを超過したときを示す。達していれば、ステップS107においてビデオ出力部304はフレームバッファからビデオデータを出力する。達していなければ、達するまで待つ。
【0052】
次に、ステップS108において、オーディオデコード部A4は、STCがNAPTSに達したか否かを判断する。ここでいう「達した」もビデオと同様であり、STCがNAPTSに一致したとき、またはSTCがNAPTSを超過したときを示す。達していれば、オーディオ出力部404はPCMバッファからオーディオデータを出力する。達していなければ、達するまで待つ。
【0053】
そして、ステップS109において、ビデオデコード部A3およびオーディオデコード部A4はデコードが終了したか否かを判断する。終了したときは処理を終了し、していなければステップS101もしくはステップS102に戻って処理を継続する。なお、ユーザから再生の停止が指示された場合にも処理は終了する。なお、ステップS101とS102は、どちらの入力が先かで適時順序が変更になる。
【0054】
なお、装置によっては、光出力端子からドルビーデジタル等のストリームのままで出力する場合もある。このような場合、ストリームバッファ(図示せず)に一旦蓄えて、STCを参照し、NAPTSが一致もしくは超過した時点で、オーディオ出力する。
【0055】
STCに対して、VPTS及びNAPTSを同期させるよう、ビデオデコード及びオーディオデコードを実施する。特に、NAPTSにVPTSが、50ミリ秒先行から、30ミリ秒遅延までの間にあわせれば、リップシンクのずれは気にならない程度に収まる。
【0056】
次に、データ処理装置100と複数種類の外部映像機器、外部音響機器等との接続について説明する。各種符号化方式によって(圧縮)符号化されたコンテンツデータ、デジタル放送等のデジタル圧縮符号化されたオーディオ・ビデオデータ等は、データ処理装置100において復号化され、外部映像機器、外部音響機器等において再生される。
【0057】
まず、デジタル圧縮符号化されたオーディオ/ビデオデータストリームを供給される受信部1の処理を以下に説明する。以下では、受信部1は、例えばオーディオデータストリームとビデオデータストリームとを含むトランスポートストリーム(TS)を受信するとして説明する。
【0058】
受信部1に入力されるオーディオデータストリームとビデオデータストリームには、各々のストリームを識別するための識別番号(以下IDと略す)が付されている。従来の衛星放送用のセットトップボックスに内蔵される受信部1は、衛星放送等を受信する場合においては、利用者が選択した番組を特定する番組IDに基づいて、その番組に関するオーディオ/ビデオデータストリームのIDを特定する。そして、特定されたIDを有するオーディオ/ビデオデータストリームを、複数のデータストリームの中から抽出して分離部2に供給する。
【0059】
本実施形態による受信部1は、上記動作に加えてさらに、抽出したオーディオ/ビデオデータストリームのデータストリームの複製を作成するとともに、複製されたデータストリームに対して先のデータストリームの抽出時に特定したIDとは異なるIDを作成し、複製されたデータストリームに付与する。すなわち複製の対象となるオリジナルのデータストリームのIDと、複製されたデータストリームのIDとは異なっている。
【0060】
次に分離部2は、IDを利用して映像データストリームおよび音声データストリームを分離し、圧縮ビデオデータ及び圧縮オーディオデータの分離とビデオ再生時刻情報とオーディオ再生時刻情報を抽出する入力解析を行う。
【0061】
分離部2においても、複数の圧縮オーディオデータと複数の圧縮ビデオデータを扱い、複数のデコード部に対して、各データを供給する働きを有する。分離部2は、データ処理装置の中の複数のデコード部の各々に対し、指定されたIDを有する圧縮データを供給する。
【0062】
よって、分離部2に対して、下記の2つは区別なく処理できるようになり、複数のデコード部によって、別々のデコード処理が行われる。
【0063】
(1)利用者が同時に複数の番組再生を指定した場合で、複数の番組IDが指定されて複数番組のデータストリームが供給される。
【0064】
(2)利用者が単一の番組のIDを指定することにより、結果として受信部1が複製前及びの複製後の各々のデータストリームが供給される。
【0065】
本実施形態のデータ処理装置100は、複数の外部接続機器への出力経路が設けられている場合においても、各々の外部接続機器において、AV同期をとりながらコンテンツを再生することができる。例えば、一方の端子からBSデジタル放送のハイビジョン放送を高画質で再生出力しながら、標準画質のビデオレコーダに接続されたもう一方の端子から、録画のための再生出力することができる。この例では、ハイビジョン放送画面(第1画面)を作成するには、より高画質で表示するための画像処理を行う必要がありその分ビデオ出力処理に時間がかかる。一方標準画質のビデオレコーダへの出力映像画面(第2画面)を作成するためには、ハイビジョン映像を標準の映像にフォーマット変換するための画像処理を行う必要がある。第1画面と第2画面の各々の画像処理時間は、外部接続機器に接続する形態において各々設定され、同一である必要はない。従って先に説明したオーディオ再生を遅延させる処理を行い、各々AV同期をはかったうえで、ビデオとオーディオ信号を出力する。
【0066】
本実施形態によるデータ処理装置の特徴は、受信部1を従来の指定IDを有するデータストリームのみを分離部2へ通過させるだけでなく、指定IDのデータストリームの複製を作成し、かつ異なるIDを複製データストリームに付与し、異なるID情報を分離部2へ通知することにより、分離部2より後処理は、複数の番組のデコード処理と全く同一の処理を行うところにある。
【0067】
さらに、データ処理装置の一方の出力を記録処理装置(内蔵ビデオ装置等)に接続し、残りの出力を外部接続機器用に準備する場合においても同様な構成で対応できる。またデータ処理装置がデジタル放送受信機で、デジタル放送のトランスポートストリーム形式であるデータストリームを再生しながら、内部にDVD記録用にプログラムストリーム方式にエンコードしながらDVD記録するためのエンコード装置を有する場合に対しても同様な構成で対応できる。
【0068】
エンコード装置でDVDなどのメディアに記録する際には、AV同期が必ずあっていないといけない。これは記録したメディアが、エンコード記録した機器と同じ機器でデコード再生するとは限らないからである。AV同期がずれた状態で、ビデオ用のVPTSと、オーディオ用のAPTSをつけてしまうと、再生側では、ずれた状態のPTSを正規の時刻情報と思って再生するからである。
【0069】
上述のように、外部接続した映像機器と音響機器に出力するために設定した遅延時間と、内部エンコード用の遅延時間とはそれぞれ異なっている。利用者が外部接続機器を利用する場合には、AV同期が実現されているか否かは、ニュース番組などでアナウンサーの映像(口の動き)と音声とが合致しているかなどに基づいて確認することができる。しかし内部エンコード用の映像及び音声は、それらの映像や音声をモニタ出力しない限り、AV同期が実現されているかどうかを直に確認することはできない。特に、衛星デジタル放送を受信記録する場合などで、デコードするデータストリームの元々の画質が、番組途中などで、放送局側の都合により変更される場合がある。ハイビジョン画質(以下高精細画質)から標準画質へ、もしくはその逆の場合もある。
【0070】
このような場合には、画質を変換するために現実に要する画像処理時間と当初想定していた処理時間とは相違する。この画像処理時間の相違を考慮せずにそのままの同じ遅延時間を設定し続ければ、番組途中の画質が変わった時点から後はAV同期が図れていない状態が継続する。
【0071】
そこで本実施形態では、画像処理の遅延情報を取得した時点で遅延情報を変更し、再度遅延設定を行い直す。これにより、変更発生後においてもAV同期を図ることができる。なお外部接続に出力する経路においても、画像処理内容がかわり遅延時間の変更が認知されれば、遅延時間の変更を実行すればよい。
【0072】
上述の説明では、圧縮符号化されたオーディオデータをデコードした後PCMデータをバッファするとした。これはオーディオ出力部へ出力するための出力信号の準備処理に相当する。オーディオ信号を遅延するためには、従来例のデコードされたPCMデータを遅延させるオーディオ遅延部187(図11)の構成と比較すると、本実施形態によるオーディオバッファ部A7(図1)はデコード前の圧縮符号化された状態のオーディオデータを保持しているためデータ量が小さく、バッファサイズが少なくてすむ。
【0073】
オーディオバッファ部A7に必要なバッファ容量は、当初のAPTSによって規定される再生時刻の到達前までに受け取る符号化オーディオデータのデータ量と、再生時刻の遅延量(Δt)に応じた時間の経過までに受け取る符号化オーディオデータのデータ量との和以上である。例えば、遅延のために必要なバッファとして、最大100ミリ秒のデータを追加的に格納できる追加バッファが必要である場合を考える。これは、遅延時間が最大100ミリ秒の場合に相当し、ビデオではNTSC方式出力のときのビデオ約3フレームの表示時間に相当する。この場合に必要な追加バッファの容量は、BSデジタル放送で使用されているオーディオ圧縮フォーマットのAAC方式では約22キロバイトである(1チャンネルあたり288キロビット秒として6チャンネル分のデータ量を算出した)。この容量は、デコード後のPCMデータを追加的に保存するときの容量の数分の1ですむ。
【0074】
本実施形態では、ビデオデコード部A3およびオーディオデコード部A4は、圧縮符号化されたビデオデータおよびオーディオデータをデコードして、フレームバッファ部303およびPCMバッファ部403に保持しておくとした。しかし、例えばDVDにはリニアPCMデータがオーディオデータとして含まれている場合には、デコード動作は不要である。リニアPCMデータは、符号化はされているが圧縮はされていないからである。ただし、オーディオデータがリニアPCMデータであっても、ストリームに含まれる同期情報に従ってビデオと同期して再生されるため、先の説明をそのまま適用できる。また、データ処理装置100が光出力端子からドルビーデジタル等の符号化ストリームをそのまま出力する場合には、ストリームバッファ(図示せず)に一旦蓄えて、STCを参照し、NAPTSがSTCに達した時点で、オーディオ出力部404から出力すればよい。
【0075】
次に、オーディオの遅延を発生させる外部映像機器13への出力のためのビデオ処理の具体例を説明する。想定されるビデオ処理は、
(1)毎秒24フレームのフィルム素材から毎秒30フレームのビデオ素材への変換処理、
(2)インターレース走査・プログレッシブ走査間の変換処理、標準画質(Standard Definition;SD)のD1規格信号・高精細画質(High Definition;HD)のD3規格信号間の変換処理、NTSC方式・PAL方式間の変換処理
(3)ユーザからの指示等に基づく映像の拡大、縮小、編集処理
(4)複数の映像の合成処理
等である。上述の処理が不要な通常の再生時には、オーディオデータを遅延して出力する必要はない。しかし、ビデオ処理のオン/オフによって遅延が発生しうるため、遅延量の設定およびその設定に基づくオーディオデータの遅延出力が必要になる。
【0076】
そのようなときは、遅延設定部A9に遅延時間が異なる複数の遅延情報を設け、行われる処理種別に応じて対応付けておくことが好ましい。さらに、外部映像機器13で実行される画像処理の種別をユーザが入力すると、その種別応じて遅延時間を変えるように構成すればよい。
【0077】
図6は、ビデオ処理を行う処理回路を搭載したビデオ出力部304の機能ブロックの構成を示す。ビデオ出力部304は、フレームバッファ部303からデコードされたフレームデータを受け取り、所定のビデオ処理を行ったビデオデータを出力する。ビデオ出力部304は、IP変換部371と、フォーマット変換部372と、拡大縮小部373と、他画面合成部374と、GUI重畳部375と、出力部376とを有する。これらの構成要素に関連して、ビデオデコード部A3には外部映像入力部377およびGUIデータ生成部378とが別途設けられる。
【0078】
IP変換部371は、インターレース走査・プログレッシブ走査間の変換処理を行う。フォーマット変換部372は、480iビデオ信号・1080iビデオ信号間の変換処理およびNTSC方式・PAL方式間の変換処理を行う。拡大縮小部373は、ユーザからの指示等に基づく映像の拡大、縮小、編集処理を行う。他画面合成部374は、デコードされたビデオと外部映像入力部377から入力されるビデオとを合成する。GUI重畳部375は、これまでの処理によって得られたビデオに、GUIデータ生成部378によって生成されたGUIデータを重畳する。そして出力部376は、最終的に得られたビデオデータを出力する。この出力は、外部映像機器13に送られる。ビデオデコード部A3は、ビデオデータが得られたときの時刻をSTCに基づいて取得し、そのビデオデータのVPTSと比較することによって、遅延時間を特定することができる。
【0079】
さらに、図7に示すように、データ処理装置100と映像音響機器120との接続およびそれらの間で授受されるデータの種類を示す。図7の例では、HDMI規格に従ってデータが授受される。まずHDMIトランスミッタ480は、映像音響機器120のHDMIレシーバ430に対して、映像音響機器120を特定する情報(機器固有情報)を求める制御コマンドを送信する。HDMIレシーバ430は、その制御コマンドに基づいて、自己の装置の機器IDを機器固有情報としてHDMIトランスミッタ480に送信する。機器IDは、例えば映像音響機器120内のROM431にメーカー固有情報(Vendor Specific Data)として格納されており、メーカー名、機種名等を特定することができる。
【0080】
HDMIトランスミッタ480は、機器IDを受け取る。遅延設定部A9は、機器IDを受け取ると、内部メモリまたは外部のメモリカード等に規定されたテーブルを参照する。テーブルには、機器IDと遅延設定との対応が記述されている。そして、機器IDおよびそのテーブルに基づいて、映像音響機器120が実行するビデオ処理に起因する遅延時間を得ることができる。これにより、その遅延時間を特定できる。これら獲得した情報は、データ処理装置内でデフォルト設定値として保存しておく構成にしておけば、機器接続が変わらない限りいつも同じ状態でのAV鑑賞を行うことができる。接続機器ID等の変更があれば、その都度相手機器側の情報を受け、設定を変更すればよい。
【0081】
これらの外部接続機器には、TVなどのモニタ出力機器や、オーディオ出力アンプ、AVセレクタ機能を有するAVアンプなどのインタフェース機器、携帯型出力機器、車載用AV再生機器などが想定される。
【0082】
なお、実施形態1においては、複数の出力経路のそれぞれのAV同期を合わせるために、各々の圧縮前のバッファ部とデコード部を設ける構成としている。これは、デコード後に出力経路ごとにバッファ部用のメモリを有する場合より、半導体コストが安い場合に有効である。例えば、マイクロプロセッサが高機能となり、複数のデコード機能を同一の半導体により実現可能である場合を想定する。すると、出力経路ごとに、デコード後にバッファメモリをおくよりも、デコード前に圧縮された状態でバッファする方が装置全体のコストを低減できる。
【0083】
他にも、1台のデータ処理装置に複数のデコード部が必要な場合がある。例えば、BSデジタル放送の圧縮符号化データストリームを再エンコードしてハードディスクや光ディスク等に書き込みつつ、そのデータストリームをその放送時刻よりも遅い時刻に再生する場合である。再エンコード処理は、圧縮符号化データストリームをデコード部において一旦復号化し、圧縮率をさらに高めてエンコード(圧縮符号化)する処理であり、復号化処理を含んでいる。また再生処理は、圧縮符号化データストリームをデコード部において復号化して出力する処理である。上述の例では同時に2つのデコード部が必要とされ、各々の出力用にAV同期用の遅延設定が必要となる。従って、デジタル放送を追いかけ再生する機能を有するデータ処理装置においては、複数のデコード部が必要となるため、実施形態1の複数の出力用の遅延設定を実現するために、特別のデコード部を追加する必要はない。遅延用のバッファのためのメモリサイズを低減することにより、コストの低減を図ることが第1の効果である。
【0084】
(実施形態2)
図8は、本実施形態によるデータ処理装置102の構成を示すブロック図である。以下、実施形態1によるデータ処理装置100との相違点を中心に説明する。なお図8には、実施形態1における圧縮ビデオバッファ部AおよびBに相当する構成要素は記載されていないが、この相違は簡略化のためであり本質的ではない。
【0085】
受信部21は、ビデオのデータストリームのみ複製を行い、複製前のデータストリームと複製後のデータストリームとを識別するIDを付与する。一方オーディオのデータストリームの複製は行わない。
【0086】
従って分離部22は、IDの異なるビデオストリームデータをビデオデコード部A23と、ビデオデコード部B26に分割して供給するともに、オーディオストリームデータは、圧縮オーディオ共通バッファ部27に供給する。
【0087】
圧縮オーディオ共通バッファ部27は、圧縮オーディオデータを書き込むことにより、書き込んだ最終点まで最新の書き込み位置を移動するライトポインタを有している。また圧縮オーディオ共通バッファ部27はリードポインタAおよびBも有している。オーディオデコード部A24によって圧縮オーディオデータが読み出されることにより、圧縮オーディオデータのリードポインタAを更新する。またオーディオデコード部B25によって圧縮オーディオデータが読み出されることにより、圧縮オーディオデータのリードポインタBを更新する構成をとる。圧縮オーディオ共通バッファ部27は、最終アドレスまで書き込んでいけば、また最初のアドレスまで書き込み位置をもどす。すなわちバッファのアドレス管理はリング状(ラップアラウンド状)に行われる。従って、読み出された位置まで、次の書き込みが可能となり、分離部2によって、ライトポインタが2つのリードポインタのうちのまだ読み込みが完了していないほうのリードポインタを追い越さないようにしながら、次の圧縮オーディオデータの書きこみがバッファ管理される。上述のライトポインタおよびリードポインタの機能は実施形態1におけるライトポインタおよびリードポインタと同じである。
【0088】
実施形態1に比べ、実施形態2には、圧縮オーディオデータのバッファ容量がおよそ半分ですむ。これは、実施形態1においては、各々のデコード部それぞれに固有のオーディオバッファを有していた。しかし、実施形態2では、このオーディオバッファに格納されるデータそのものは同一であり、各々の遅延時間の設定の差により、複数の読み出し位置の制御を行うことにより、バッファの共通利用を図っている。
【0089】
(実施形態3)
図9は、本実施形態によるデータ処理装置104の構成を示すブロック図である。以下、実施形態1との相違点を中心に説明する。なお図9には、実施形態1における圧縮ビデオバッファ部AおよびBに相当する構成要素は記載されていないが、この相違は簡略化のためであり本質的ではない。
【0090】
受信部41は、利用者の指定した番組に対応するIDを有するビデオのデータストリームとオーディオのデータストリームを取得し、分離部42へ渡す。分離部42のあとにデータ複製部53を設け入力されたデータストリームの複製を行う。データ複製部53前のデータを第1のデコーダ部(ビデオデコード部A43及び圧縮オーディオバッファ部A47)へ、データ複製部53にて複製されたデータストリームを第2のデコーダ部(ビデオデコード部B45及び圧縮オーディオバッファ部B48)へ供給する。
【0091】
その後の処理については、実施形態1と同様である。これは、データ複製部53を設けることにより、データ処理装置104を半導体で構成する場合において、受信部41、分離部42と、デコーダ部には、手を加えなくても、実施形態1と同等の効果が得られる。
【0092】
(実施形態4)
図10は、本実施形態によるデータ処理装置106の構成を示すブロック図である。以下、実施形態3によるデータ処理装置104との相違点を中心に説明する。
【0093】
受信部81は、利用者の指定した番組に対応するIDを有するビデオのデータストリームとオーディオのデータストリームを取得し、分離部82へ渡す。分離部82のあとにデータ複製部93を設け入力されたビデオデータのデータストリームの複製を行う。データ複製前のデータを第1のデコーダ部(ビデオデコード部A83)へ、データ複製部93にて複製されたデータストリームを第2のデコーダ部(ビデオデコード部B85)へ供給する。
【0094】
従って分離部82は、オーディオストリームデータは、圧縮オーディオ共通バッファ部87に供給する。
【0095】
圧縮オーディオ共通バッファ部87へは、圧縮オーディオデータを書き込むことにより、書き込んだ最終点まで最新の書き込み位置を移動するライトポインタを有している。そして、オーディオデコード部A84によって圧縮オーディオデータが読み出されることにより、圧縮オーディオデータのリードポインタAを更新する構成をとる。またオーディオデコード部B86によって圧縮オーディオデータが読み出されることにより、圧縮オーディオデータのリードポインタBを更新する構成をとる。圧縮オーディオ共通バッファ部87は、最終アドレスまで書き込んでいけば、また最初のアドレスまで書き込み位置がもどるリング状の使用形態とする。従って、読み出された位置まで、次の書き込みが可能となり、分離部2によって、ライトポインタが2つのリードポインタのうちのまだ読み込みが完了していないほうのリードポインタを追い越さないようにしながら、次の圧縮オーディオデータの書きこみがバッファ管理される。
【0096】
実施形態3に比べ、実施形態4には、圧縮オーディオデータのバッファ容量がおよそ半分ですむ。これは、実施形態1においては、各々のデコード部それぞれに固有のオーディオバッファを有していた。しかし、実施形態4では、このオーディオバッファに格納されるデータそのものは同一であり、各々の遅延時間の設定の差により、複数の読み出し位置の制御を行うことにより、バッファの共通利用を図っている。その後の処理は実施形態1によるデータ処理装置100の処理と同様である。
【0097】
なお上述の各実施形態においては、入力データは、外部から入力されるデータ、外部記録媒体から入力されるデータとして説明してきたが、予め機器内に存在するデータであってもよい。
【0098】
また上述の実施形態においては、分離部がビデオ信号とオーディオ信号とを分離するとして説明した。しかし、あらかじめ各々が分離されているファイルデータであってもよい。圧縮ビデオデータと関連する再生時刻情報、圧縮オーディオデータと再生時刻情報を入力とし、各々の再生時刻情報に対し、同期情報とともに再生できる構成であれば、上述の各実施形態によるデータ処理装置を構成することができる。これは、ビデオカメラ等で撮影した信号をパーソナルコンピュータ上で編集した結果として、AV及びデータの混合ファイルもしくは、AVデータ独立のファイルどちらの場合でも、圧縮ビデオデータと関連する再生時刻情報、圧縮オーディオデータと再生時刻情報、ファイル上のデータ情報を互いに関連づけた同期をとって再生する場合すべてに適応される。
【0099】
上述の実施形態によるデータ処理装置の適用例としては、セットトップボックス、デジタル衛星放送受像機及びその記録機器、DVDプレーヤもしくはDVDレコーダの関連機器、ハードディスクレコーダ、パーソナルコンピュータなどがある。
【産業上の利用可能性】
【0100】
本発明におけるデータ処理装置は、デジタル符号化された映像信号と音声信号の同期信号を元に、表示などの目的で複数の出力経路を持つ場合に、各々の経路の遅延を、圧縮データのままバッファメモリに蓄え、さらに各々の信号処理による遅延時間を独自に設定することにより、各経路のAV同期を動的に合わす用途に使用することができる。
【図面の簡単な説明】
【0101】
【図1】実施形態1によるデータ処理装置100の機能ブロックの構成を示す図である。
【図2】デコード部101の詳細な機能ブロックの構成例を示す図である。
【図3】ビデオとオーディオとの同期再生を実現する再生タイミングを示す図である。
【図4】実施形態1によるデコード処理手順を示すフローチャートである。
【図5】オーディオ再生時刻情報管理部A401において生成されるテーブルの構成を示す図である。
【図6】ビデオ処理を行う処理回路を搭載したビデオ出力部304の機能ブロックの構成を示す図である。
【図7】データ処理装置100と映像音響機器120との接続およびそれらの間で授受されるデータの種類を示す図である。
【図8】実施形態2によるデータ処理装置102の構成を示すブロック図である。
【図9】実施形態3によるデータ処理装置104の構成を示すブロック図である。
【図10】実施形態4によるデータ処理装置106の構成を示すブロック図である。
【図11】従来の信号再生装置の実装形態を示すブロック図である。
【図12】複数の出力経路を有する従来の信号再生装置の構成を示すブロック図である。
【符号の説明】
【0102】
1 受信部
2 入力部
3 ビデオデコード部A
4 オーディオデコード部A
5 ビデオデコード部B
6 オーディオデコード部B
7 圧縮オーディオバッファ部A
8 圧縮オーディオバッファ部B
9 遅延設定部A
10 遅延設定部B
11 システム時刻参照部A
12 システム時刻参照部B
13、16 外部映像機器
14、15 外部音響機器
17、18 圧縮ビデオバッファ部
100、102、104、106 データ処理装置
101 デコード部
【特許請求の範囲】
【請求項1】
データストリームを受信してオリジナルストリームとして出力するとともに、受信された前記データストリームを複製して複製ストリームとして出力し、かつ、出力に際して前記オリジナルストリームおよび前記複製ストリームの各々を識別可能な識別情報を付与する受信部であって、前記データストリームは、圧縮符号化されたビデオコンテンツに関する第1データ、前記第1データの再生時刻を規定する第1時刻情報、前記ビデオコンテンツと異なるコンテンツに関する第2データおよび前記第2データの再生時刻を規定する第2時刻情報を有する、受信部と、
前記オリジナルストリームから、前記第1データ、前記第1時刻情報、前記第2データおよび前記第2時刻情報を抽出し、前記複製ストリームから、前記第1データ、前記第1時刻情報、前記第2データおよび前記第2時刻情報を抽出する分離部と、
前記オリジナルストリームに関し、前記第1データをデコードして、前記第1時刻情報に基づいて出力する第1デコード部と、
前記オリジナルストリームに関し、第2時刻情報に基づいて前記第2データを出力する第2デコード部と、
前記複製ストリームに関し、前記第1データをデコードして、前記第1時刻情報に基づいて出力する第3デコード部と、
前記複製ストリームに関し、前記第2時刻情報に基づいて前記第2データを出力する第4デコード部と、
第1遅延設定部および第2遅延設定部と
を有するデータ処理装置であって、
前記第1時刻情報および前記第2時刻情報が前記第1データおよび前記第2データを同期して再生する時刻を規定している場合において、
前記第1遅延設定部は、前記オリジナルストリームの再生時刻の遅延量を規定する第1遅延情報を保持し、かつ、前記第1遅延情報に基づいて前記第2時刻情報を修正し、前記第2データの再生時刻を遅延させ、
前記第2遅延設定部は、前記複製ストリームの再生時刻の遅延量を規定する第2遅延情報を保持し、かつ、前記第2遅延情報に基づいて前記第2時刻情報を修正し、前記第2データの再生時刻を遅延させる、データ処理装置。
【請求項2】
前記オリジナルストリームの第2データ、および、前記複製ストリームの第2データの各々を格納する少なくとも1つのデータバッファをさらに備え、
前記オリジナルストリームの前記第2データは圧縮符号化されており、
前記少なくとも1つのデータバッファは、修正された第2時刻情報によって規定される再生時刻の前に前記圧縮符号化された第2データを取り出し、前記第2デコード部および前記第4デコード部に出力する、請求項1に記載のデータ処理装置。
【請求項3】
前記少なくとも1つのデータバッファは、前記オリジナルストリームの第2データを格納する第1バッファと、前記複製ストリームの第2データを格納する第2バッファとから構成され、
前記第1バッファは、前記第1遅延設定部によって修正された第2時刻情報によって規定される再生時刻の前に、前記オリジナルストリームの第2データを取り出して前記第2デコード部に出力し、
前記第2バッファは、前記第2遅延設定部によって修正された第2時刻情報によって規定される再生時刻の前に、前記複製ストリームの第2データを取り出して前記第4デコード部に出力する、請求項2に記載のデータ処理装置。
【請求項4】
データストリームを受信してオリジナルストリームとして出力する受信部であって、前記データストリームは、圧縮符号化されたビデオコンテンツに関する第1データ、前記第1データの再生時刻を規定する第1時刻情報、前記ビデオコンテンツと異なるコンテンツに関する第2データおよび前記第2データの再生時刻を規定する第2時刻情報を有する、受信部と、
前記オリジナルストリームから、前記第1データ、前記第1時刻情報、前記第2データおよび前記第2時刻情報を抽出する分離部と、
前記第1データ、前記第1時刻情報、前記第2データおよび前記第2時刻情報を複製する複製部と、
前記オリジナルストリームに関し、前記第1データをデコードして、前記第1時刻情報に基づいて出力する第1デコード部と、
前記オリジナルストリームに関し、第2時刻情報に基づいて前記第2データを出力する第2デコード部と、
複製された第1データをデコードして、複製された第1時刻情報に基づいて出力する第3デコード部と、
複製された第2時刻情報に基づいて、複製された第2データを出力する第4デコード部と、
第1遅延設定部および第2遅延設定部と
を有するデータ処理装置であって、
前記オリジナルストリームから抽出された前記第1時刻情報および前記第2時刻情報が前記第1データおよび前記第2データを同期して再生する時刻を規定している場合において、
前記第1遅延設定部は、前記オリジナルストリームの再生時刻の遅延量を規定する第1遅延情報を保持し、かつ、前記第1遅延情報に基づいて前記第2時刻情報を修正し、前記第2データの再生時刻を遅延させ、
前記第2遅延設定部は、複製された第1データの再生時刻の遅延量を規定する第2遅延情報を保持し、かつ、前記第2遅延情報に基づいて前記第2時刻情報を修正し、前記第2データの再生時刻を遅延させる、データ処理装置。
【請求項5】
前記オリジナルストリームの前記第2データは圧縮符号化されており、
前記オリジナルストリームの第2データ、および、複製された第2データの各々を格納する少なくとも1つのデータバッファをさらに備え、前記少なくとも1つのデータバッファは、修正された第2時刻情報によって規定される再生時刻の前に前記圧縮符号化された第2データを取り出し、前記第2デコード部および前記第4デコード部に出力する、請求項4に記載のデータ処理装置。
【請求項6】
前記少なくとも1つのデータバッファは、前記オリジナルストリームの第2データを格納する第1バッファと、複製された第2データを格納する第2バッファとから構成される、請求項5に記載のデータ処理装置。
【請求項1】
データストリームを受信してオリジナルストリームとして出力するとともに、受信された前記データストリームを複製して複製ストリームとして出力し、かつ、出力に際して前記オリジナルストリームおよび前記複製ストリームの各々を識別可能な識別情報を付与する受信部であって、前記データストリームは、圧縮符号化されたビデオコンテンツに関する第1データ、前記第1データの再生時刻を規定する第1時刻情報、前記ビデオコンテンツと異なるコンテンツに関する第2データおよび前記第2データの再生時刻を規定する第2時刻情報を有する、受信部と、
前記オリジナルストリームから、前記第1データ、前記第1時刻情報、前記第2データおよび前記第2時刻情報を抽出し、前記複製ストリームから、前記第1データ、前記第1時刻情報、前記第2データおよび前記第2時刻情報を抽出する分離部と、
前記オリジナルストリームに関し、前記第1データをデコードして、前記第1時刻情報に基づいて出力する第1デコード部と、
前記オリジナルストリームに関し、第2時刻情報に基づいて前記第2データを出力する第2デコード部と、
前記複製ストリームに関し、前記第1データをデコードして、前記第1時刻情報に基づいて出力する第3デコード部と、
前記複製ストリームに関し、前記第2時刻情報に基づいて前記第2データを出力する第4デコード部と、
第1遅延設定部および第2遅延設定部と
を有するデータ処理装置であって、
前記第1時刻情報および前記第2時刻情報が前記第1データおよび前記第2データを同期して再生する時刻を規定している場合において、
前記第1遅延設定部は、前記オリジナルストリームの再生時刻の遅延量を規定する第1遅延情報を保持し、かつ、前記第1遅延情報に基づいて前記第2時刻情報を修正し、前記第2データの再生時刻を遅延させ、
前記第2遅延設定部は、前記複製ストリームの再生時刻の遅延量を規定する第2遅延情報を保持し、かつ、前記第2遅延情報に基づいて前記第2時刻情報を修正し、前記第2データの再生時刻を遅延させる、データ処理装置。
【請求項2】
前記オリジナルストリームの第2データ、および、前記複製ストリームの第2データの各々を格納する少なくとも1つのデータバッファをさらに備え、
前記オリジナルストリームの前記第2データは圧縮符号化されており、
前記少なくとも1つのデータバッファは、修正された第2時刻情報によって規定される再生時刻の前に前記圧縮符号化された第2データを取り出し、前記第2デコード部および前記第4デコード部に出力する、請求項1に記載のデータ処理装置。
【請求項3】
前記少なくとも1つのデータバッファは、前記オリジナルストリームの第2データを格納する第1バッファと、前記複製ストリームの第2データを格納する第2バッファとから構成され、
前記第1バッファは、前記第1遅延設定部によって修正された第2時刻情報によって規定される再生時刻の前に、前記オリジナルストリームの第2データを取り出して前記第2デコード部に出力し、
前記第2バッファは、前記第2遅延設定部によって修正された第2時刻情報によって規定される再生時刻の前に、前記複製ストリームの第2データを取り出して前記第4デコード部に出力する、請求項2に記載のデータ処理装置。
【請求項4】
データストリームを受信してオリジナルストリームとして出力する受信部であって、前記データストリームは、圧縮符号化されたビデオコンテンツに関する第1データ、前記第1データの再生時刻を規定する第1時刻情報、前記ビデオコンテンツと異なるコンテンツに関する第2データおよび前記第2データの再生時刻を規定する第2時刻情報を有する、受信部と、
前記オリジナルストリームから、前記第1データ、前記第1時刻情報、前記第2データおよび前記第2時刻情報を抽出する分離部と、
前記第1データ、前記第1時刻情報、前記第2データおよび前記第2時刻情報を複製する複製部と、
前記オリジナルストリームに関し、前記第1データをデコードして、前記第1時刻情報に基づいて出力する第1デコード部と、
前記オリジナルストリームに関し、第2時刻情報に基づいて前記第2データを出力する第2デコード部と、
複製された第1データをデコードして、複製された第1時刻情報に基づいて出力する第3デコード部と、
複製された第2時刻情報に基づいて、複製された第2データを出力する第4デコード部と、
第1遅延設定部および第2遅延設定部と
を有するデータ処理装置であって、
前記オリジナルストリームから抽出された前記第1時刻情報および前記第2時刻情報が前記第1データおよび前記第2データを同期して再生する時刻を規定している場合において、
前記第1遅延設定部は、前記オリジナルストリームの再生時刻の遅延量を規定する第1遅延情報を保持し、かつ、前記第1遅延情報に基づいて前記第2時刻情報を修正し、前記第2データの再生時刻を遅延させ、
前記第2遅延設定部は、複製された第1データの再生時刻の遅延量を規定する第2遅延情報を保持し、かつ、前記第2遅延情報に基づいて前記第2時刻情報を修正し、前記第2データの再生時刻を遅延させる、データ処理装置。
【請求項5】
前記オリジナルストリームの前記第2データは圧縮符号化されており、
前記オリジナルストリームの第2データ、および、複製された第2データの各々を格納する少なくとも1つのデータバッファをさらに備え、前記少なくとも1つのデータバッファは、修正された第2時刻情報によって規定される再生時刻の前に前記圧縮符号化された第2データを取り出し、前記第2デコード部および前記第4デコード部に出力する、請求項4に記載のデータ処理装置。
【請求項6】
前記少なくとも1つのデータバッファは、前記オリジナルストリームの第2データを格納する第1バッファと、複製された第2データを格納する第2バッファとから構成される、請求項5に記載のデータ処理装置。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【公開番号】特開2006−148679(P2006−148679A)
【公開日】平成18年6月8日(2006.6.8)
【国際特許分類】
【出願番号】特願2004−337508(P2004−337508)
【出願日】平成16年11月22日(2004.11.22)
【出願人】(000005821)松下電器産業株式会社 (73,050)
【Fターム(参考)】
【公開日】平成18年6月8日(2006.6.8)
【国際特許分類】
【出願日】平成16年11月22日(2004.11.22)
【出願人】(000005821)松下電器産業株式会社 (73,050)
【Fターム(参考)】
[ Back to top ]