画像データ記録装置及び画像データ符号化装置
【課題】IDRピクチャあるいはIピクチャを使った追加記録や編集を行う場合、CPB値(CPBのバッファ占有値)が編集点の前後で不連続になるため、CPBがオーバーフローしたり、アンダーフローしたりする。
【解決手段】画像符号化器15は、画像信号に対してH.264符号化方式に従って初期値から圧縮符号化を開始してビットストリームを生成する。画像符号化器15では符号化を行いながら、IDRピクチャの1フレーム前の符号化終了時点での発生符号量とCPB値を、IDRピクチャを生成する都度毎回出力する。アクセス情報作成部16では、入力された発生符号量値とCPB値から、入力されたCPB値がビットストリームのどの時点でのCPB値であるかを示すアドレス情報とCPB値とからなるアクセス情報を作成する。ビットストリームとアクセス情報は記録媒体11の異なる領域に書き込まれる。
【解決手段】画像符号化器15は、画像信号に対してH.264符号化方式に従って初期値から圧縮符号化を開始してビットストリームを生成する。画像符号化器15では符号化を行いながら、IDRピクチャの1フレーム前の符号化終了時点での発生符号量とCPB値を、IDRピクチャを生成する都度毎回出力する。アクセス情報作成部16では、入力された発生符号量値とCPB値から、入力されたCPB値がビットストリームのどの時点でのCPB値であるかを示すアドレス情報とCPB値とからなるアクセス情報を作成する。ビットストリームとアクセス情報は記録媒体11の異なる領域に書き込まれる。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は画像データ記録装置及び画像データ符号化装置に係り、特にH.264符号化方式で画像データを圧縮符号化して記録媒体に記録する画像データ記録装置、及びその画像データを生成する画像データ符号化装置に関する。
【背景技術】
【0002】
時間軸上に連続する動画像をディジタル信号の情報として取り扱い、その際、効率の高い情報の放送、伝送又は蓄積等を目的とし、時間方向の冗長性を利用して動き補償予測を用い、空間方向の冗長性を利用して離散コサイン変換等の直交変換を用いて符号化圧縮するMPEG(Moving Picture Experts Group)1,2などの符号化方式が提案され、また、従来より実用化されているが、近年、国際標準化機構(ISO)と国際電気標準会議(IEC)のジョイント技術委員会(ISO/IEC)と、国際電気通信連合電気通信標準化部門(ITU−T)の共同チームであるJVT(Joint Video Team)での規格化作業によって、MPEG−4 AVC/H.264と呼ばれる符号化方式(ISO/IECでは14496−10、ITU‐TではH.264の規格番号がつけられている。以下、本明細書ではこれをH.264符号化方式と呼ぶ)が国際標準として制定された。
【0003】
このH.264符号化方式では、圧縮アルゴリズムの原理は従来のMPEG1,2などと基本的には同様で、離散コサイン変換(DCT)やフレーム間予測、量子化、ハフマン符号などによるエントロピー符号化を採用している。また、H.264符号化方式では、これらのツールに対して非常に多数の改良が施されており、算術符号化やデブロッキングフィルタなどのツールも追加されており、更に、画像特徴に応じて多彩なモードを適応的に使い分けることで、従来のMPEG−2ビデオやMPEG−4ビジュアル等の符号化方式に比べ、遥かに高い符号化効率を実現している。
【0004】
また、記録用途なども考慮されており、ディスクなどに記録されたH.264符号化方式により符号化された画像データを、ビットストリームの先頭から再生するだけでなく、途中の見たい場面から再生できる機能(ランダム・アクセス)をサポートしている。その一つが、IDR(Instantaneous Decoder Refresh)ピクチャである。このIDRピクチャは、そのピクチャより前のピクチャの情報を使わなくても、それ以後ピクチャが正しく復号できることを意味するデコーダ動作瞬時リフレッシュ用の特別なピクチャである。
【0005】
H.264符号化方式では復号画像を出力する際に符号化順序から復号画像の出力順序(出力先の表示装置等で表示する際に望ましい順序)に並び替えるために、参照ピクチャと、非参照ピクチャの両方をメモリに格納する必要があり、符号化された符号化列(ビットストリーム)には、画像毎にPOC(Picture Order Count;ピクチャの表示順序を示す)と呼ばれる出力順序を示す情報が符号化されており、復号画像の出力順序で番号がつけられている。
【0006】
上記のIDRピクチャではすべての参照ピクチャが開放されて参照不可能になり、POCやフレーム番号も”0”にリセットされる。IDRピクチャでは復号に必要な情報が初期化されるため、任意のIDRピクチャから再生を開始でき、ランダム・アクセスの開始位置となる。このため、定期的にIDRピクチャとして符号化を行うことによって、ビットストリームの中の任意のピクチャの近くから、再生可能なビットストリームを生成することができる。
【0007】
また、同様な理由でIDRピクチャは編集点となる。IDRピクチャの位置で編集を行うと、図13にて示すようにシームレスな再生が可能である。また、フレーム間予測を使わず、前後の画面とは関係なくその画面内(イントラ)だけで独立して符号化されるIピクチャにおいても、予め編集点を考慮した符号化を行えば、シームレスな再生が可能である。
【0008】
一方、H.264符号化方式では、符号化して得られた画像データ等からなるビットストリームを、伝送路を介してデコーダ側のバッファに一旦蓄積してからそのバッファから読み出して復号し画像再生するので、デコーダ側のバッファをオーバーフロー及びアンダーフローさせないように(デコーダを破綻させないように)、エンコーダ側でビットストリームを生成するため、仮想参照デコーダ(HRD;Hypothetical Reference Decoder)の概念を導入し、HRDを破綻させないように、エンコーダが生成するビットストリームに制限を加えている。
【0009】
このHRDには、デコーダに入力される前のビットストリームを保存する符号化ピクチャバッファ(CPB;Coded Picture Buffer)と、デコーダが復号したピクチャを保存する復号ピクチャバッファ(DPB;Decoded Picture Buffer)の2つの仮想バッファが規定されている。このうち、CPBの説明が特許文献1になされており、リカバリ・ポイントSEI(特許文献1中には、ランダムアクセスSEIと書かれているが、標準化前のドラフトの内容であり、標準(規格)の中にはランダムアクセスSEIはない)を使ったランダムアクセス方法が特許文献1に開示されている。
【0010】
【特許文献1】特開2004−186840号公報
【発明の開示】
【発明が解決しようとする課題】
【0011】
IDRピクチャあるいはIピクチャを使った追加記録や編集を行う場合、図13のようにシームレスに再生できるが、CPB値(CPBのバッファ占有値)が編集点の前後で不連続になるため、CPBがオーバーフローしたり、アンダーフローしたりする。しかるに、この対策については上記の特許文献1には全く記載がない。上記の状態は本来、標準(規格)で認められていない状態であり、デコーダがユーザ(編集者)の意図通りに再生しないことが考えられる。
【0012】
本発明は上記の点に鑑みなされたもので、追加記録・編集した場合でも、再生時にCPBのオーバーフロー・アンダーフローの矛盾なく再生することが可能な符号化や記録を行い得る画像データ記録装置及び画像データ符号化装置を提供することを目的とする。
【課題を解決するための手段】
【0013】
上記の目的を達成するため、第1の発明は、画像信号をH.264符号化方式で圧縮符号化して得たH.264画像データのビットストリームを記録媒体に記録する画像データ記録装置において、H.264符号化方式で規定された仮想参照デコーダに入力される前のビットストリームを保存する符号化ピクチャバッファにおいて、この符号化ピクチャバッファの容量に対して保存されるビットストリームの占有値を示すCPB値に応じて設定されたパラメータを用いて、画像信号のH.264符号化方式での圧縮符号化を開始し、それぞれH.264画像データによる複数のピクチャからなるデータグループ単位で合成されており、データグループの各々は先頭のピクチャが他のピクチャを参照しないで符号化したIピクチャ又はデコーダ動作瞬時リフレッシュ用のIDRピクチャが配置されたビットストリームを生成する符号化手段と、符号化手段からIピクチャ又はIDRピクチャを生成する都度出力される、ビットストリームにおけるIピクチャ又はIDRピクチャの1画像単位前の符号化終了時点での発生符号量とCPB値とに基づいて、CPB値とそのCPB値がビットストリームにおけるどの時点でのCPB値であるかを示すアドレス情報とからなるアクセス情報を作成するアクセス情報作成手段と、符号化手段から出力されたビットストリームと、アクセス情報作成手段で作成されたアクセス情報とを、記録媒体の異なる領域にそれぞれ記録する記録手段とを有することを特徴とする。
【0014】
この発明では、ビットストリームにおけるIピクチャ又はIDRピクチャの1画像単位前の符号化終了時点での発生符号量とCPB値とに基づいて、CPB値とそのCPB値がビットストリームにおけるどの時点でのCPB値であるかを示すアドレス情報とからなるアクセス情報をビットストリームと共に記録媒体に記録するようにしたため、IDRピクチャあるいはIピクチャを使った追加記録や編集を行う場合、再生したアクセス情報から得られるCPB値を用いて追加記録や編集する画像信号の符号化ができる。
【0015】
また、上記の目的を達成するため、第2の発明は、画像信号をH.264符号化方式で圧縮符号化して得たH.264画像データのビットストリームを記録媒体に記録する画像データ記録装置において、H.264符号化方式で規定された仮想参照デコーダに入力される前のビットストリームを保存する符号化ピクチャバッファにおいて、この符号化ピクチャバッファの容量に対して保存されるビットストリームの占有値を示すCPB値に応じて設定されたパラメータを用いて、画像信号のH.264符号化方式での圧縮符号化を開始し、それぞれH.264画像データによる複数のピクチャからなるデータグループ単位で合成されており、データグループの各々は先頭のピクチャが他のピクチャを参照しないで符号化したIピクチャ又はデコーダ動作瞬時リフレッシュ用のIDRピクチャが配置されたビットストリームを生成する符号化手段と、符号化手段からIピクチャ又はIDRピクチャを生成する都度出力される、ビットストリームにおけるIピクチャ又はIDRピクチャの1画像単位前の符号化終了時点でのCPB値を、そのCPB値に対応するIピクチャ又はIDRピクチャを先頭とするデータグループの先頭に、ピクチャの復号に直接関係のない付加情報SEIとして合成する合成手段と、この合成手段から出力される付加情報SEIが合成されたビットストリーム中のH.264画像データの数をカウントしていくと共に、付加情報SEIを検出し、この検出時点のカウント値をアドレスとするアクセス情報を作成するアクセス情報作成手段と、合成手段から出力された付加情報SEIが合成されたビットストリームと、アクセス情報作成手段で作成されたアクセス情報とを、記録媒体の異なる領域にそれぞれ記録する記録手段とを有することを特徴とする。
【0016】
この発明では、ビットストリームにおけるIピクチャ又はIDRピクチャの1画像単位前の符号化終了時点でのCPB値を、そのCPB値に対応するIピクチャ又はIDRピクチャを先頭とするデータグループの先頭に付加情報SEIとして合成したビットストリームと、付加情報SEIとして合成されたCPB値がビットストリームのどの時点におけるCPB値であるかを示すアドレス情報とを記録媒体に記録するようにしたため、IDRピクチャあるいはIピクチャを使った追加記録や編集を行う場合、再生したCPB値を用いて追加記録や編集する画像信号の符号化ができる。また、CPB値はビットストリーム中の付加情報SEIから得ることができる。
【0017】
また、上記の目的を達成するため、第3の発明は、画像信号をH.264符号化方式で圧縮符号化してH.264画像データのビットストリームを生成する画像データ符号化装置において、H.264符号化方式で規定された仮想参照デコーダに入力される前のビットストリームを保存する符号化ピクチャバッファにおいて、この符号化ピクチャバッファの容量に対して保存されるビットストリームの占有値を示すCPB値に応じて設定されたパラメータを用いて、画像信号のH.264符号化方式での圧縮符号化を開始し、それぞれH.264画像データによる複数のピクチャからなるデータグループ単位で合成されており、データグループの各々は先頭のピクチャが他のピクチャを参照しないで符号化したIピクチャ又はデコーダ動作瞬時リフレッシュ用のIDRピクチャが配置されたビットストリームを生成する符号化手段と、符号化手段からIピクチャ又はIDRピクチャを生成する都度出力される、ビットストリームにおけるIピクチャ又はIDRピクチャの1画像単位前の符号化終了時点でのCPB値を、そのCPB値に対応するIピクチャ又はIDRピクチャを先頭とするデータグループの先頭に、ピクチャの復号に直接関係のない付加情報SEIとして合成したビットストリームを生成する合成手段とを有することを特徴とする。この発明では、第2の発明で記録媒体に記録するビットストリームを生成することができる。
【発明の効果】
【0018】
本発明によれば、ビットストリームにおけるIピクチャ又はIDRピクチャの1画像単位前の符号化終了時点でのCPB値(CPBのバッファ占有値)と、そのCPB値がビットストリームにおけるどの時点でのCPB値であるかを示すアドレス情報とからなるアクセス情報をビットストリームと共に記録媒体に記録することにより、IDRピクチャあるいはIピクチャを使った追加記録や編集を行う場合、記録媒体から再生したアクセス情報から得られるCPB値を用いて追加記録や編集する画像信号の符号化を行うことができ、これによりCPB値が編集点の前後で不連続になることを回避できるため、符号化ピクチャバッファ(CPB)のオーバーフローやアンダーフローに基づく、再生画像の破綻、システムの破綻を防止することができる。
【0019】
また、本発明によれば、ビットストリームにおけるIピクチャ又はIDRピクチャの1画像単位前の符号化終了時点でのCPB値を、そのCPB値に対応するIピクチャ又はIDRピクチャを先頭とするデータグループの先頭に付加情報SEIとして合成したビットストリームを記録媒体に記録するようにしたため、上記の記録媒体から再生したCPB値が合成されたビットストリームを別の記録装置で別の記録媒体に記録する場合に、新たにビットストリームを復号してCPB値を検出する手段を不要にできる。
【発明を実施するための最良の形態】
【0020】
次に、本発明の実施の形態について図面と共に説明する。
【0021】
(第1の実施の形態)
図1は本発明になる画像データ記録装置の第1の実施の形態のブロック図を示す。同図において、光ディスク等の記録媒体11には、H.264符号化方式で圧縮符号化された画像データであるH.264画像データが記録される。このH.264画像データは、定期的にフレームをIDRピクチャとして符号化されており、図2に模式的に示すように、一回の記録単位で符号化生成された連続再生可能なデータが複数連続して連なったビットストリームとして、記録媒体11のデータ領域に記録される。
【0022】
なお、図2において、IDRはIDRピクチャを示し、その先頭位置がIDRアドレスによって識別される。また、図2において、Pは符号化対象の当該フレームのブロックと当該フレームよりも時間軸上で過去に存在するフレーム(IDRピクチャ、Iピクチャ又はPピクチャ)の参照ブロックとの間の動きベクトルに基づく順方向予測符号化によって符号化されたPピクチャ、Bは符号化対象の当該フレームのブロックと当該フレームよりも時間軸上で過去と未来の制約にとらわれず、過去と未来のどちらか一方又は両方の最大2枚のフレームの参照ブロックとの間の動きベクトルに基づく双予測符号化によって符号化されたBピクチャである。
【0023】
本実施の形態は、記録媒体11上の図2に示したビットストリームの記録領域とは別の領域に、図3(A)に示すように、ビットストリーム中のIDRピクチャのアクセス情報をIDRピクチャの記録数だけ連なって記録する点に特徴がある。ここで、図3(A)に示すIDRアクセス情報の各々は、図2のIDRピクチャに1対1に対応しており、そのデータ構造は図3(B)に示すように、対応するIDRピクチャの記録媒体11上での記録開始位置を示すIDRアドレスと、対応するIDRピクチャの1フレーム前のピクチャの符号化終了時点でのCPB値(CPBのバッファ占有値)とを少なくとも有する。
【0024】
また、IDRアクセス情報の各々には、上記以外にもIDRピクチャに係る情報として、例えば、図3(B)に示すPTM(Presentation Time)値などが記述される。このPTM値は、IDRピクチャが表示されるべき時間を示す情報であり、これらのIDRアクセス情報が記録されていると、図示せぬユーザーインターフェース手段から時間情報をもとにユーザーが編集点を指定することができる。
【0025】
次に、図1の画像データ記録装置が、H.264符号化方式で画像データを符号化しながらアクセス情報を作成して記録する動作を説明する。まず、記録媒体11に符号化データが全く記録されていない状態、すなわち、初めて符号化する場合の動作について説明する。この場合には、記録媒体11の記録データを読み取るデータ読み取り部12は、記録データが存在しないので、記録データが存在しないという情報をアクセス情報検出器13に供給する。アクセス情報検出器13はデータ読み取り部12からの情報に基づいて記録データが存在しないことを判別した時は、パラメータ設定器14に予め設定した初期値を設定する。パラメータ設定器14は、設定された初期値を画像符号化器15に供給する。
【0026】
画像符号化器15は、外部から入力される記録すべき画像信号に対して、H.264符号化方式に従って初期値から圧縮符号化を開始して、図2に示したような各ピクチャ(画像データ)が時系列的に合成されたビットストリームを生成してデータ書き込み部18へ出力する。また、画像符号化器15では上記の符号化を行いながら、ビットストリームのIDRピクチャの1フレーム前の符号化終了時点での発生符号量とCPB値を、IDRピクチャを生成する都度毎回、アクセス情報作成部16へ供給する。
【0027】
アクセス情報作成部16では、入力された発生符号量値とCPB値から図3(A)、(B)に示す構造のアクセス情報のデータを作成するか、もしくはそのデータ構造を作成するのに必要なデータをメモリして所定のフォーマットで記録保持する。図3(B)のIDRアドレスは、入力された発生符号量値に基づいて作成された、入力されたCPB値がビットストリームのどの時点でのCPB値であるかを示すアドレス情報である。アクセス情報作成部16で作成されたアクセス情報は、データ書き込み部18によりビットストリームが記録媒体11に書き込まれているときに、同時にバースト的にビットストリーム記録領域とは異なる領域に書き込まれる。
【0028】
なお、アクセス情報作成部16で作成されたアクセス情報は、ビットストリームが記録媒体11に書き込み終わったときに、すなわち、ユーザーが画像圧縮記録を一時停止、もしくは終了した後に所定のフォーマットで記録保持されたいデータから、図3(A)、(B)の構造に変換してデータ書き込み部18により記録媒体11に書き込みを行ってもよい。
【0029】
記録の終了タイミングはIDRピクチャの直前とすると、特殊再生等に都合がよい。図2で説明すると、IDR3の符号化から後に、記録終了の指示があった場合にはIDR4直前のBピクチャまで画像データは記録し、またアクセス情報はIDR4の分まで記録する。
【0030】
次に、記録媒体11に前記したアクセス情報と共に既に記録されているビットストリームに対して、ビットストリーム中の任意の位置から追加して新たな画像データを記録する場合について説明する。記録媒体11には既にビットストリームとアクセス情報とが記録されている。従って、データ読み取り部12ではアクセス情報を記録媒体11から読み取り、IDRピクチャのアドレス値とIDRピクチャの1フレーム前のピクチャの符号化終了時点でのCPB値を得る。
【0031】
追加記録が既に記録されているビットストリームの一番最後から行われる場合には、記録媒体11から再生したアクセス情報の一番最後のアドレス値とCPB値を参照する。記録媒体11上において、新たなH.264画像データが追加記録される位置は、既に記録されているH.264画像データの記録部分に続く位置でもよいし、全く別の位置でもよい。
【0032】
一方、既に記録されているビットストリームの途中から追加書き込みをする場合には、図示せぬ、ユーザーインターフェースから、既に記録されている画像データのどのポイント(IDRピクチャ)から追加記録するかを指定してもらい、そのIDRピクチャのアクセス情報を読み取り、CPB値、アドレスを得る。これらの値はパラメータ設定器14に入力されてパラメータが設定され、画像符号化器15においてその設定値から、追加記録する画像信号のH.264符号化方式による符号化が開始される。
【0033】
一方、符号化データサーチ器17では途中追加記録を開始する位置を、データ読み取り部12からの再生信号に基づいて、既に記録してあるビットストリームに対してサーチする。サーチは再生したデータの相対アドレスを用いて、そのビットストリームファイルの頭からの位置にポインタを設定する。
【0034】
画像符号化器15では画像信号の符号化を行い、それにより得られるH.264画像データをデータ書き込み部18へ出力しながら、ビットストリームのIDRピクチャの1フレーム前のピクチャ符号化終了時点での発生符号量とCPB値を、IDRピクチャの符号化の都度毎回、アクセス情報作成部16へ供給する。
【0035】
アクセス情報作成部16は、入力された発生符号量値とCPB値から図3(A)、(B)に示すアクセス情報のデータを作成する。もしくはそのデータ構造を作成するのに必要なデータをメモリして所定のフォーマットで記録保持する。アクセス情報作成部16で作成されたアクセス情報は、データ書き込み部18によりH.264画像データが記録媒体11の所定領域に書き込まれている時に、同時にバースト的に上記の所定領域とは異なる領域に書き込まれる。
【0036】
このように、本実施の形態によれば、既に記録されているビットストリームの途中から追加書き込みをする場合には、追加記録開始位置として指定されたIDRピクチャのアクセス情報を記録媒体11から読み取り、ビットストリームのIDRピクチャの1フレーム前のピクチャ符号化終了時点での発生符号量とCPB値を得て、パラメータ設定器14に入力してパラメータを設定し、画像符号化器15においてその設定値から、追加記録する画像信号のH.264符号化方式による符号化を開始するようにしたため、CPB値が不連続になることはなく、CPBのオーバーフロー・アンダーフローの矛盾なくビットストリームを再生することが可能な符号化や記録ができる。
【0037】
なお、アクセス情報作成部16で作成されたアクセス情報は、H.264画像データが記録媒体11に書き込み終わったときに、すなわち、ユーザが画像圧縮記録を一時停止、もしくは終了した後に所定のフォーマットで記録保持されていたデータから、図3(A)、(B)の構造に変換してデータ書き込み部18により記録媒体11に書き込みを行ってもよい。このようにして、新たに生成されたH.264画像データは、既に記録されているビットストリームの途中の追加記録するポイントから、追加記録される。
【0038】
なお、既に記録されているビットストリームの途中部分に追加記録される新たなH.264画像データは、記録媒体11上に既に記録されている部分に上書きされるように記録されてもよいし、既にビットストリームが記録されている記録媒体11上の部分とは全く別の部分に記録されてもよい。
【0039】
また、上記説明では、H.264符号化方式による符号化をフレーム単位で行う方法を前提としているが、勿論フィールド単位で行ってもよく、その場合フレームをフィールドと読み替える。また、IDRピクチャを使って説明を行ったが、参照ピクチャを制限したり、デコードの順番を制限したりすることでIピクチャを用いても同様にシームレスな再生が可能である。
【0040】
(第2の実施の形態)
図4は本発明になる画像データ記録装置の第2の実施の形態のブロック図を示す。同図中、図1と同一構成部分には同一符号を付してある。前記の第1の実施の形態では、アクセス情報(CPB値)をビットストリームと別ファイルとしているため、機器から機器へビットストリームだけが伝送されるアプリケーションでは、受信側でビットストリームをデコードするなりして、再度アクセス情報を作り直さなければならない。そこで、本実施の形態は、ビットストリーム中にCPB値を埋め込む構成としたものである。
【0041】
H.264符号化方式のビットストリームは図5に示すような、ネットワーク抽象レイヤ(NAL;Network Abstraction Layer)ユニット(NAL_unit)という単位で構成されている。NALユニットはNALヘッダと、rbsp(Raw byte sequence payload)バイトとデータを含むが、その内容は参照ピクチャであるかどうかを示すフラグ(nal_ref_idc)と、NALユニットの種類を示す識別子(nal_unit_type)の値で識別される。
【0042】
図6はデータがsei_rbsp(supplement enhancement information RBSP)のときの表現規則(シンタックス:syntax)を示し、図7はsei_rbspの中のsei_messageのシンタックス(syntax)を示す。sei_messageの中には各ピクチャのタイミング情報やランダムアクセス用の情報などピクチャの復号に直接関係のない付加情報が格納される。
【0043】
図8はH.264勧告で定義されているSEIメッセージ(sei_message)の一部を示す。sei_messageは、sei_payload中のpayloadTypeの値でその中身が判断される。図8に示すように、「payloadType=5」は「user_date_unregistered」と定義されている。「user_data_unregistered」は、ユーザが独自に定義する情報を格納することができる。前述したCPB値は「user_data_unregisterd」と呼ばれる。そこで、本実施の形態では、SEIメッセージの形式を使用して画像データと共に記録する。
【0044】
図9は上記のCPB SEIメッセージの形式を示す。図9において、「uuid_iso_iec_11578」は128ビットの固定値であり、使用するユーザが定義する。また、インジケータ(indeicator)は32ビットの固定値であり、ユーザが複数定義したユーザーデータのうちCPB SEIメッセージであることを識別するのに使われる。マーカビット(marker_bit)は単純に“1”が1ビット挿入される。また、図9の「CPB_occupancy」は、前述したIDRピクチャの1フレーム前のピクチャの符号化終了時点でのCPB値(CPBのバッファ占有値)である。以上の情報がCPB SEIメッセージとしてビットストリーム中に挿入される。
【0045】
CPB値の挿入位置について、図10を使って更に説明をする。ビットストリームはIピクチャ(IDRピクチャでもよい)から始まるデータグループ単位で時系列的に合成されている。また、Iピクチャは、AUデリミタ(Access Unit Delimiter)31を先頭にSPS(Sequence Parameter Set)32,PPS(Picture Parameter Set)33,SEI(Supplemental Enhancement Information)34,Iピクチャ35の順で構成されている。アクセスユニットの先頭を示す開始符号であるAUデリミタ31と、シーケンス全体の符号化に関する情報を含むヘッダであるSPS32と、ピクチャ全体の符号化モードを示すヘッダであるPPS33と、各ピクチャのタイミング情報やランダムアクセス情報などの付加情報を含むヘッダであるSEI34とはそれぞれH.264勧告で定義されているNALユニットを構成している。また、Iピクチャ、Pピクチャ、BピクチャはスライスNALユニットで構成されており、符号化の基本単位である一つのスライスに1枚のピクチャが含まれている。本実施の形態ではNALユニットのSEI34中のSEIメッセージに図9に示したCPB SEIメッセージの形式で前述のCPB値が挿入される。
【0046】
また、本実施の形態では、アクセス情報は図11(A)、(B)に示す構造体とされて記録される。図11(A)に示すアクセス情報の各々は、図10のデータグループ毎に存在し、そのデータ構造は図11(B)に示すように、対応するデータグループの先頭のIピクチャ(またはIDRピクチャ)の表示時刻を示すPTM(Presentation TiMe)と、対応するデータグループの先頭のIピクチャ(またはIDRピクチャ)のアドレスとからなる。
【0047】
次に、図4に示した本実施の形態の画像データ記録装置が、H.264符号化方式で画像データを符号化しながらアクセス情報を作成して記録する動作を説明する。まず、記録媒体11に符号化データが全く記録されていない状態、すなわち、初めて符号化する場合の動作について説明する。この場合には、記録媒体11の記録データを読み取るデータ読み取り部12は、記録データが存在しないので、記録データが存在しないという情報をアクセス情報検出器20に供給する。アクセス情報検出器20はデータ読み取り部12からの情報に基づいて記録データが存在しないことを判別した時は、パラメータ設定器14に予め設定した初期値を設定する。パラメータ設定器14は、設定された初期値を画像符号化器21に供給する。
【0048】
画像符号化器21は、外部から入力される記録すべき画像信号に対して、H.264符号化方式に従って初期値から圧縮符号化を開始して、各ピクチャ(画像データ)が時系列的に合成されたビットストリームを生成して合成器22へ出力する。また、画像符号化器21では上記の符号化を行いながら、ビットストリームのIピクチャの1フレーム前の符号化終了時点でのCPB値をIピクチャの符号化を行う都度合成器22へ出力する。
【0049】
合成器22は、画像符号化器21と共に画像データ符号化装置を構成しており、上記のCPB値を、図9に示したCPB SEIメッセージの形式で上記のビットストリーム中の各Iピクチャの直前に挿入したビットストリームを生成し、そのビットストリームをアクセス情報作成部23とデータ書き込み部25へ供給する。
【0050】
アクセス情報作成部23では、入力されたビットストリームのH.264画像データをカウントしていくと共に、上記のCPB SEIメッセージを検出し、検出したCPB SEIメッセージの先頭のカウント値をアドレスとして、図11(A)、(B)に示した構造のアクセス情報を作成するか、もしくはそのデータ構造を作成するのに必要なデータをメモリして所定のフォーマットで記録保持する。アクセス情報作成部23で作成されたアクセス情報は、データ書き込み部25によりH.264画像データが記録媒体11の所定領域に書き込まれている時に、同時にバースト的に上記の所定領域とは異なる領域に書き込まれる。
【0051】
なお、アクセス情報作成部23で作成されたアクセス情報は、ビットストリームが記録媒体11に書き込み終わったときに、すなわち、ユーザが画像圧縮記録を一時停止、もしくは終了した後に所定のフォーマットで記録保持されたいデータから、図11(A)、(B)の構造に変換してデータ書き込み部25により記録媒体11に書き込みを行ってもよい。
【0052】
記録の終了タイミングはIピクチャの直前とすると、特殊再生等に都合がよい。図10で説明すると、IピクチャI3の符号化から後に、記録終了の指示があった場合にはIピクチャI4直前のBピクチャまで画像データは記録し、またアクセス情報はI4の分まで記録する。
【0053】
次に、記録媒体11に前記したアクセス情報と共に既に記録されているビットストリームに対して、ビットストリーム中の任意の位置から追加して新たな画像データを記録する場合について説明する。記録媒体11には既にビットストリームとアクセス情報とが記録されている。従って、データ読み取り部12ではアクセス情報を記録媒体11から読み取り、Iピクチャのアドレス値を得る。追加記録が既に記録されているビットストリームの一番最後から行われる場合には、記録媒体11から再生したアクセス情報の一番最後のアドレス値を参照する。記録媒体11上において、新たなH.264画像データが追加記録される位置は、既に記録されているH.264画像データの記録部分に続く位置でもよいし、全く別の位置でもよい。
【0054】
一方、既に記録されているビットストリームの途中から追加書き込みをする場合には、図示せぬ、ユーザーインターフェースから、既に記録されている画像データのどのポイント(Iピクチャ)から追加記録するかを指定してもらい、そのIピクチャのアクセス情報を読み取り、アドレスを得る。アドレス値は符号化データサーチ器26に供給される。符号化データサーチ器26は、途中追加記録を開始する位置を、データ読み取り部12からの再生信号に基づいて、既に記録してあるビットストリームに対してサーチする。サーチは再生したデータの相対アドレスとアクセス情報検出器20からのアドレス値とを用いて、追加記録するポイント(Iピクチャ)の頭からの位置にポインタを設定する。
【0055】
再びデータ読み取り部12は、記録媒体11に記録されているビットストリームのうち、符号化データサーチ器26からの指示されたアドレスよりデータを読み出し、CPB SEIメッセージをアクセス情報検出器20に供給する。アクセス情報検出器20はCPB SEIメッセージからCPB値を抜き出し、パラメータ設定器14に供給し、画像符号化器21においてその設定値から、追加記録する画像信号のH.264符号化方式による符号化を開始させる。
【0056】
画像符号化器21では符号化を行って生成したビットストリームを合成器22へ供給しながら、そのIピクチャの1フレーム前の符号化終了時点でのCPB値を合成器22に供給する。合成器22は画像符号化器21からのビットストリーム中に、画像符号化器21からのCPB値を図9に示したCPB SEIメッセージの形式で毎回、Iピクチャの直前に挿入し、得られた合成ビットストリームをアクセス情報作成器23とデータ書き込み部25へ供給する。
【0057】
以下、上記の記録媒体11に、最初にH.264画像データを記録する場合と同様にして、CPB値がCPB SEIメッセージの形式で挿入されたビットストリームが生成される。このビットストリームは、既に記録されているH.264画像データの途中追加記録するポイントからデータ書き込み部25により記録媒体11に書き込まれると共に、それと同時にバースト的にアクセス情報が記録媒体11の別の領域に書き込まれる。このようにして、新たに生成されたH.264画像データは、既に記録されているビットストリームの途中の追加記録するポイントから追加記録される。
【0058】
このように、本実施の形態によれば、既に記録されているビットストリームの途中から追加書き込みをする場合には、追加記録開始位置として指定されたIピクチャのアドレスを記録媒体11から読み取ってポインタを設定した後、その指定されたIピクチャを再生してその1フレーム前のピクチャ符号化終了時点でのCPB値を得て、パラメータ設定器14に入力してパラメータを設定し、画像符号化器15においてその設定値から画像信号のH.264符号化方式による符号化を開始して生成したH.264画像データを追加記録するようにしたため、既に記録されているビットストリームの途中追加記録するポイントから書き込まれるH.264画像データのCPB値が不連続になることはなく、CPBのオーバーフロー・アンダーフローの矛盾なくビットストリームを再生することが可能な符号化や記録ができる。
【0059】
なお、アクセス情報作成部23で作成されたアクセス情報は、H.264画像データが記録媒体11に書き込み終わったときに、すなわち、ユーザが画像圧縮記録を一時停止、もしくは終了した後に所定のフォーマットで記録保持されていたデータから、図11(A)、(B)の構造に変換してデータ書き込み部25により記録媒体11に書き込みを行ってもよい。
【0060】
また、既に記録されているビットストリームの途中部分に追加記録される新たなH.264画像データは、記録媒体11上に既に記録されている部分に上書きされるように記録されてもよいし、既にビットストリームが記録されている記録媒体11上の部分とは全く別の部分に記録されてもよい。更に、上記説明では、H.264符号化をフレーム単位で行う方法を前提としているが、勿論フィールド単位で行ってもよく、その場合フレームをフィールドと読み替える。
【0061】
次に、上記のように作成したH.264画像データを、伝送路を使って別の装置に記録する場合について、図4及び図12のブロック図と共に説明する。図12において、記録媒体41に記録されているH.264画像データを含むビットストリームは、再生装置42によって再生された後、伝送路を介して記録装置43に供給される。この記録装置43に供給されるビットストリームには、CPB SEIメッセージに前述したCPB値が埋め込まれている。
【0062】
記録装置43は図4のブロック図に示した構成であり、伝送路を介して入力されたビットストリームは、ビットストリーム受信部24により受信された後、アクセス情報作成部23及びデータ書き込み部25に送られる。アクセス情報作成部23では、入力されたビットストリームのH.264画像データをカウントしていくと共に、CPB SEIメッセージを検出し、検出したCPB SEIメッセージの先頭のカウント値をアドレスとして、図11(A)、(B)に示す構造のアクセス情報を作成するか、又はそのデータ構造を作成するのに必要なデータをメモリして所定のフォーマットで記録保持する。アクセス情報作成部23で作成されたアクセス情報は、データ書き込み部25に供給される。
【0063】
図4のアクセス情報作成部23で作成されたアクセス情報は、ビットストリーム受信部24により受信された、CPB値が埋め込まれているビットストリームが、データ書き込み部25により図12の記録媒体44の所定領域に書き込まれている時に、同時にバースト的に上記の所定領域とは異なる領域に書き込まれる。このように、本実施の形態では、ビットストリームだけが伝送されるアプリケーションであっても、受信したビットストリームにCPB値を埋め込んでおくことにより、ビットストリームをデコードしてCPB値を生成しなくても、CPB値を含むビットストリームを記録媒体44に記録できると共に、Iピクチャの先頭アドレスを示すアクセス情報も新たに生成して同時に記録できる。
【0064】
なお、アクセス情報作成部23で作成されたアクセス情報は、ビットストリームが記録媒体44に書き込み終わったときに、すなわち、ユーザが画像圧縮記録を一時停止、もしくは終了した後に所定のフォーマットで記録保持されたいデータから、図11(A)、(B)の構造に変換してデータ書き込み部25により記録媒体44に書き込みを行ってもよい。
【0065】
記録の終了タイミングはIピクチャの直前とすると、特殊再生等に都合がよい。図10で説明すると、IピクチャI3の符号化から後に、記録終了の指示があった場合にはIピクチャI4直前のBピクチャまで画像データは記録し、またアクセス情報はI4の分まで記録する。また、本実施の形態では、CPB値がIピクチャ内のCPB SEIメッセージに埋め込まれているものとして説明したが、IDRピクチャでも同様にCPB値を埋め込むことが可能である。
【0066】
なお、以上の実施の形態の説明はH.264画像データを記録する場合についてであるが、実際にはオーディオデータなどと混在したデータを記録することになるかもしれない。たとえば、勧告H.222は多重化についての手段が規定されている。この場合基本的にはH.264画像データはパケット化されてオーディオデータと多重化されて記録される。この場合でもアクセス情報構造体に格納するアドレスをデータグループの先頭のデータを含むパケットのアドレスとすることで、以上の説明と同様に記録、編集、追記が可能となる。
【図面の簡単な説明】
【0067】
【図1】本発明の画像データ記録装置の第1の実施の形態のブロック図である。
【図2】図1の画像データ記録装置で記録されるビットストリームの一例の構造を示す図である。
【図3】図1の画像データ記録装置で記録されるアクセス情報の構造を示す図である。
【図4】本発明の画像データ記録装置の第2の実施の形態のブロック図である。
【図5】NALユニットの構成を示す図である。
【図6】データがsei_rbspのときのシンタックスを示す図である。
【図7】sei_rbspの中のsei_messageのシンタックスを示す図である。
【図8】H.264勧告で定義されているSEIメッセージの一部を示す図である。
【図9】CPB SEIメッセージを示す図である。
【図10】H.264符号化方式のビットストリームの構成とNALユニットを示す図である。
【図11】図4の画像データ記録装置が生成して記録するアクセス情報の一例の構造を示す図である。
【図12】本発明の画像データ記録装置の第2の実施の形態を含む記録再生システムの一例を示すブロック図である。
【図13】IDRピクチャの位置で編集を行うことにより、シームレスな再生が可能になることを説明する図である。
【符号の説明】
【0068】
11 記録媒体
12 データ読み取り部
13、20 アクセス情報検出器
14 パラメータ設定器
15、21 画像符号化器
16、23 アクセス情報作成部
17、26 符号化データサーチ器
18、25 データ書き込み部
22 合成器
24 ビットストリーム受信部
【技術分野】
【0001】
本発明は画像データ記録装置及び画像データ符号化装置に係り、特にH.264符号化方式で画像データを圧縮符号化して記録媒体に記録する画像データ記録装置、及びその画像データを生成する画像データ符号化装置に関する。
【背景技術】
【0002】
時間軸上に連続する動画像をディジタル信号の情報として取り扱い、その際、効率の高い情報の放送、伝送又は蓄積等を目的とし、時間方向の冗長性を利用して動き補償予測を用い、空間方向の冗長性を利用して離散コサイン変換等の直交変換を用いて符号化圧縮するMPEG(Moving Picture Experts Group)1,2などの符号化方式が提案され、また、従来より実用化されているが、近年、国際標準化機構(ISO)と国際電気標準会議(IEC)のジョイント技術委員会(ISO/IEC)と、国際電気通信連合電気通信標準化部門(ITU−T)の共同チームであるJVT(Joint Video Team)での規格化作業によって、MPEG−4 AVC/H.264と呼ばれる符号化方式(ISO/IECでは14496−10、ITU‐TではH.264の規格番号がつけられている。以下、本明細書ではこれをH.264符号化方式と呼ぶ)が国際標準として制定された。
【0003】
このH.264符号化方式では、圧縮アルゴリズムの原理は従来のMPEG1,2などと基本的には同様で、離散コサイン変換(DCT)やフレーム間予測、量子化、ハフマン符号などによるエントロピー符号化を採用している。また、H.264符号化方式では、これらのツールに対して非常に多数の改良が施されており、算術符号化やデブロッキングフィルタなどのツールも追加されており、更に、画像特徴に応じて多彩なモードを適応的に使い分けることで、従来のMPEG−2ビデオやMPEG−4ビジュアル等の符号化方式に比べ、遥かに高い符号化効率を実現している。
【0004】
また、記録用途なども考慮されており、ディスクなどに記録されたH.264符号化方式により符号化された画像データを、ビットストリームの先頭から再生するだけでなく、途中の見たい場面から再生できる機能(ランダム・アクセス)をサポートしている。その一つが、IDR(Instantaneous Decoder Refresh)ピクチャである。このIDRピクチャは、そのピクチャより前のピクチャの情報を使わなくても、それ以後ピクチャが正しく復号できることを意味するデコーダ動作瞬時リフレッシュ用の特別なピクチャである。
【0005】
H.264符号化方式では復号画像を出力する際に符号化順序から復号画像の出力順序(出力先の表示装置等で表示する際に望ましい順序)に並び替えるために、参照ピクチャと、非参照ピクチャの両方をメモリに格納する必要があり、符号化された符号化列(ビットストリーム)には、画像毎にPOC(Picture Order Count;ピクチャの表示順序を示す)と呼ばれる出力順序を示す情報が符号化されており、復号画像の出力順序で番号がつけられている。
【0006】
上記のIDRピクチャではすべての参照ピクチャが開放されて参照不可能になり、POCやフレーム番号も”0”にリセットされる。IDRピクチャでは復号に必要な情報が初期化されるため、任意のIDRピクチャから再生を開始でき、ランダム・アクセスの開始位置となる。このため、定期的にIDRピクチャとして符号化を行うことによって、ビットストリームの中の任意のピクチャの近くから、再生可能なビットストリームを生成することができる。
【0007】
また、同様な理由でIDRピクチャは編集点となる。IDRピクチャの位置で編集を行うと、図13にて示すようにシームレスな再生が可能である。また、フレーム間予測を使わず、前後の画面とは関係なくその画面内(イントラ)だけで独立して符号化されるIピクチャにおいても、予め編集点を考慮した符号化を行えば、シームレスな再生が可能である。
【0008】
一方、H.264符号化方式では、符号化して得られた画像データ等からなるビットストリームを、伝送路を介してデコーダ側のバッファに一旦蓄積してからそのバッファから読み出して復号し画像再生するので、デコーダ側のバッファをオーバーフロー及びアンダーフローさせないように(デコーダを破綻させないように)、エンコーダ側でビットストリームを生成するため、仮想参照デコーダ(HRD;Hypothetical Reference Decoder)の概念を導入し、HRDを破綻させないように、エンコーダが生成するビットストリームに制限を加えている。
【0009】
このHRDには、デコーダに入力される前のビットストリームを保存する符号化ピクチャバッファ(CPB;Coded Picture Buffer)と、デコーダが復号したピクチャを保存する復号ピクチャバッファ(DPB;Decoded Picture Buffer)の2つの仮想バッファが規定されている。このうち、CPBの説明が特許文献1になされており、リカバリ・ポイントSEI(特許文献1中には、ランダムアクセスSEIと書かれているが、標準化前のドラフトの内容であり、標準(規格)の中にはランダムアクセスSEIはない)を使ったランダムアクセス方法が特許文献1に開示されている。
【0010】
【特許文献1】特開2004−186840号公報
【発明の開示】
【発明が解決しようとする課題】
【0011】
IDRピクチャあるいはIピクチャを使った追加記録や編集を行う場合、図13のようにシームレスに再生できるが、CPB値(CPBのバッファ占有値)が編集点の前後で不連続になるため、CPBがオーバーフローしたり、アンダーフローしたりする。しかるに、この対策については上記の特許文献1には全く記載がない。上記の状態は本来、標準(規格)で認められていない状態であり、デコーダがユーザ(編集者)の意図通りに再生しないことが考えられる。
【0012】
本発明は上記の点に鑑みなされたもので、追加記録・編集した場合でも、再生時にCPBのオーバーフロー・アンダーフローの矛盾なく再生することが可能な符号化や記録を行い得る画像データ記録装置及び画像データ符号化装置を提供することを目的とする。
【課題を解決するための手段】
【0013】
上記の目的を達成するため、第1の発明は、画像信号をH.264符号化方式で圧縮符号化して得たH.264画像データのビットストリームを記録媒体に記録する画像データ記録装置において、H.264符号化方式で規定された仮想参照デコーダに入力される前のビットストリームを保存する符号化ピクチャバッファにおいて、この符号化ピクチャバッファの容量に対して保存されるビットストリームの占有値を示すCPB値に応じて設定されたパラメータを用いて、画像信号のH.264符号化方式での圧縮符号化を開始し、それぞれH.264画像データによる複数のピクチャからなるデータグループ単位で合成されており、データグループの各々は先頭のピクチャが他のピクチャを参照しないで符号化したIピクチャ又はデコーダ動作瞬時リフレッシュ用のIDRピクチャが配置されたビットストリームを生成する符号化手段と、符号化手段からIピクチャ又はIDRピクチャを生成する都度出力される、ビットストリームにおけるIピクチャ又はIDRピクチャの1画像単位前の符号化終了時点での発生符号量とCPB値とに基づいて、CPB値とそのCPB値がビットストリームにおけるどの時点でのCPB値であるかを示すアドレス情報とからなるアクセス情報を作成するアクセス情報作成手段と、符号化手段から出力されたビットストリームと、アクセス情報作成手段で作成されたアクセス情報とを、記録媒体の異なる領域にそれぞれ記録する記録手段とを有することを特徴とする。
【0014】
この発明では、ビットストリームにおけるIピクチャ又はIDRピクチャの1画像単位前の符号化終了時点での発生符号量とCPB値とに基づいて、CPB値とそのCPB値がビットストリームにおけるどの時点でのCPB値であるかを示すアドレス情報とからなるアクセス情報をビットストリームと共に記録媒体に記録するようにしたため、IDRピクチャあるいはIピクチャを使った追加記録や編集を行う場合、再生したアクセス情報から得られるCPB値を用いて追加記録や編集する画像信号の符号化ができる。
【0015】
また、上記の目的を達成するため、第2の発明は、画像信号をH.264符号化方式で圧縮符号化して得たH.264画像データのビットストリームを記録媒体に記録する画像データ記録装置において、H.264符号化方式で規定された仮想参照デコーダに入力される前のビットストリームを保存する符号化ピクチャバッファにおいて、この符号化ピクチャバッファの容量に対して保存されるビットストリームの占有値を示すCPB値に応じて設定されたパラメータを用いて、画像信号のH.264符号化方式での圧縮符号化を開始し、それぞれH.264画像データによる複数のピクチャからなるデータグループ単位で合成されており、データグループの各々は先頭のピクチャが他のピクチャを参照しないで符号化したIピクチャ又はデコーダ動作瞬時リフレッシュ用のIDRピクチャが配置されたビットストリームを生成する符号化手段と、符号化手段からIピクチャ又はIDRピクチャを生成する都度出力される、ビットストリームにおけるIピクチャ又はIDRピクチャの1画像単位前の符号化終了時点でのCPB値を、そのCPB値に対応するIピクチャ又はIDRピクチャを先頭とするデータグループの先頭に、ピクチャの復号に直接関係のない付加情報SEIとして合成する合成手段と、この合成手段から出力される付加情報SEIが合成されたビットストリーム中のH.264画像データの数をカウントしていくと共に、付加情報SEIを検出し、この検出時点のカウント値をアドレスとするアクセス情報を作成するアクセス情報作成手段と、合成手段から出力された付加情報SEIが合成されたビットストリームと、アクセス情報作成手段で作成されたアクセス情報とを、記録媒体の異なる領域にそれぞれ記録する記録手段とを有することを特徴とする。
【0016】
この発明では、ビットストリームにおけるIピクチャ又はIDRピクチャの1画像単位前の符号化終了時点でのCPB値を、そのCPB値に対応するIピクチャ又はIDRピクチャを先頭とするデータグループの先頭に付加情報SEIとして合成したビットストリームと、付加情報SEIとして合成されたCPB値がビットストリームのどの時点におけるCPB値であるかを示すアドレス情報とを記録媒体に記録するようにしたため、IDRピクチャあるいはIピクチャを使った追加記録や編集を行う場合、再生したCPB値を用いて追加記録や編集する画像信号の符号化ができる。また、CPB値はビットストリーム中の付加情報SEIから得ることができる。
【0017】
また、上記の目的を達成するため、第3の発明は、画像信号をH.264符号化方式で圧縮符号化してH.264画像データのビットストリームを生成する画像データ符号化装置において、H.264符号化方式で規定された仮想参照デコーダに入力される前のビットストリームを保存する符号化ピクチャバッファにおいて、この符号化ピクチャバッファの容量に対して保存されるビットストリームの占有値を示すCPB値に応じて設定されたパラメータを用いて、画像信号のH.264符号化方式での圧縮符号化を開始し、それぞれH.264画像データによる複数のピクチャからなるデータグループ単位で合成されており、データグループの各々は先頭のピクチャが他のピクチャを参照しないで符号化したIピクチャ又はデコーダ動作瞬時リフレッシュ用のIDRピクチャが配置されたビットストリームを生成する符号化手段と、符号化手段からIピクチャ又はIDRピクチャを生成する都度出力される、ビットストリームにおけるIピクチャ又はIDRピクチャの1画像単位前の符号化終了時点でのCPB値を、そのCPB値に対応するIピクチャ又はIDRピクチャを先頭とするデータグループの先頭に、ピクチャの復号に直接関係のない付加情報SEIとして合成したビットストリームを生成する合成手段とを有することを特徴とする。この発明では、第2の発明で記録媒体に記録するビットストリームを生成することができる。
【発明の効果】
【0018】
本発明によれば、ビットストリームにおけるIピクチャ又はIDRピクチャの1画像単位前の符号化終了時点でのCPB値(CPBのバッファ占有値)と、そのCPB値がビットストリームにおけるどの時点でのCPB値であるかを示すアドレス情報とからなるアクセス情報をビットストリームと共に記録媒体に記録することにより、IDRピクチャあるいはIピクチャを使った追加記録や編集を行う場合、記録媒体から再生したアクセス情報から得られるCPB値を用いて追加記録や編集する画像信号の符号化を行うことができ、これによりCPB値が編集点の前後で不連続になることを回避できるため、符号化ピクチャバッファ(CPB)のオーバーフローやアンダーフローに基づく、再生画像の破綻、システムの破綻を防止することができる。
【0019】
また、本発明によれば、ビットストリームにおけるIピクチャ又はIDRピクチャの1画像単位前の符号化終了時点でのCPB値を、そのCPB値に対応するIピクチャ又はIDRピクチャを先頭とするデータグループの先頭に付加情報SEIとして合成したビットストリームを記録媒体に記録するようにしたため、上記の記録媒体から再生したCPB値が合成されたビットストリームを別の記録装置で別の記録媒体に記録する場合に、新たにビットストリームを復号してCPB値を検出する手段を不要にできる。
【発明を実施するための最良の形態】
【0020】
次に、本発明の実施の形態について図面と共に説明する。
【0021】
(第1の実施の形態)
図1は本発明になる画像データ記録装置の第1の実施の形態のブロック図を示す。同図において、光ディスク等の記録媒体11には、H.264符号化方式で圧縮符号化された画像データであるH.264画像データが記録される。このH.264画像データは、定期的にフレームをIDRピクチャとして符号化されており、図2に模式的に示すように、一回の記録単位で符号化生成された連続再生可能なデータが複数連続して連なったビットストリームとして、記録媒体11のデータ領域に記録される。
【0022】
なお、図2において、IDRはIDRピクチャを示し、その先頭位置がIDRアドレスによって識別される。また、図2において、Pは符号化対象の当該フレームのブロックと当該フレームよりも時間軸上で過去に存在するフレーム(IDRピクチャ、Iピクチャ又はPピクチャ)の参照ブロックとの間の動きベクトルに基づく順方向予測符号化によって符号化されたPピクチャ、Bは符号化対象の当該フレームのブロックと当該フレームよりも時間軸上で過去と未来の制約にとらわれず、過去と未来のどちらか一方又は両方の最大2枚のフレームの参照ブロックとの間の動きベクトルに基づく双予測符号化によって符号化されたBピクチャである。
【0023】
本実施の形態は、記録媒体11上の図2に示したビットストリームの記録領域とは別の領域に、図3(A)に示すように、ビットストリーム中のIDRピクチャのアクセス情報をIDRピクチャの記録数だけ連なって記録する点に特徴がある。ここで、図3(A)に示すIDRアクセス情報の各々は、図2のIDRピクチャに1対1に対応しており、そのデータ構造は図3(B)に示すように、対応するIDRピクチャの記録媒体11上での記録開始位置を示すIDRアドレスと、対応するIDRピクチャの1フレーム前のピクチャの符号化終了時点でのCPB値(CPBのバッファ占有値)とを少なくとも有する。
【0024】
また、IDRアクセス情報の各々には、上記以外にもIDRピクチャに係る情報として、例えば、図3(B)に示すPTM(Presentation Time)値などが記述される。このPTM値は、IDRピクチャが表示されるべき時間を示す情報であり、これらのIDRアクセス情報が記録されていると、図示せぬユーザーインターフェース手段から時間情報をもとにユーザーが編集点を指定することができる。
【0025】
次に、図1の画像データ記録装置が、H.264符号化方式で画像データを符号化しながらアクセス情報を作成して記録する動作を説明する。まず、記録媒体11に符号化データが全く記録されていない状態、すなわち、初めて符号化する場合の動作について説明する。この場合には、記録媒体11の記録データを読み取るデータ読み取り部12は、記録データが存在しないので、記録データが存在しないという情報をアクセス情報検出器13に供給する。アクセス情報検出器13はデータ読み取り部12からの情報に基づいて記録データが存在しないことを判別した時は、パラメータ設定器14に予め設定した初期値を設定する。パラメータ設定器14は、設定された初期値を画像符号化器15に供給する。
【0026】
画像符号化器15は、外部から入力される記録すべき画像信号に対して、H.264符号化方式に従って初期値から圧縮符号化を開始して、図2に示したような各ピクチャ(画像データ)が時系列的に合成されたビットストリームを生成してデータ書き込み部18へ出力する。また、画像符号化器15では上記の符号化を行いながら、ビットストリームのIDRピクチャの1フレーム前の符号化終了時点での発生符号量とCPB値を、IDRピクチャを生成する都度毎回、アクセス情報作成部16へ供給する。
【0027】
アクセス情報作成部16では、入力された発生符号量値とCPB値から図3(A)、(B)に示す構造のアクセス情報のデータを作成するか、もしくはそのデータ構造を作成するのに必要なデータをメモリして所定のフォーマットで記録保持する。図3(B)のIDRアドレスは、入力された発生符号量値に基づいて作成された、入力されたCPB値がビットストリームのどの時点でのCPB値であるかを示すアドレス情報である。アクセス情報作成部16で作成されたアクセス情報は、データ書き込み部18によりビットストリームが記録媒体11に書き込まれているときに、同時にバースト的にビットストリーム記録領域とは異なる領域に書き込まれる。
【0028】
なお、アクセス情報作成部16で作成されたアクセス情報は、ビットストリームが記録媒体11に書き込み終わったときに、すなわち、ユーザーが画像圧縮記録を一時停止、もしくは終了した後に所定のフォーマットで記録保持されたいデータから、図3(A)、(B)の構造に変換してデータ書き込み部18により記録媒体11に書き込みを行ってもよい。
【0029】
記録の終了タイミングはIDRピクチャの直前とすると、特殊再生等に都合がよい。図2で説明すると、IDR3の符号化から後に、記録終了の指示があった場合にはIDR4直前のBピクチャまで画像データは記録し、またアクセス情報はIDR4の分まで記録する。
【0030】
次に、記録媒体11に前記したアクセス情報と共に既に記録されているビットストリームに対して、ビットストリーム中の任意の位置から追加して新たな画像データを記録する場合について説明する。記録媒体11には既にビットストリームとアクセス情報とが記録されている。従って、データ読み取り部12ではアクセス情報を記録媒体11から読み取り、IDRピクチャのアドレス値とIDRピクチャの1フレーム前のピクチャの符号化終了時点でのCPB値を得る。
【0031】
追加記録が既に記録されているビットストリームの一番最後から行われる場合には、記録媒体11から再生したアクセス情報の一番最後のアドレス値とCPB値を参照する。記録媒体11上において、新たなH.264画像データが追加記録される位置は、既に記録されているH.264画像データの記録部分に続く位置でもよいし、全く別の位置でもよい。
【0032】
一方、既に記録されているビットストリームの途中から追加書き込みをする場合には、図示せぬ、ユーザーインターフェースから、既に記録されている画像データのどのポイント(IDRピクチャ)から追加記録するかを指定してもらい、そのIDRピクチャのアクセス情報を読み取り、CPB値、アドレスを得る。これらの値はパラメータ設定器14に入力されてパラメータが設定され、画像符号化器15においてその設定値から、追加記録する画像信号のH.264符号化方式による符号化が開始される。
【0033】
一方、符号化データサーチ器17では途中追加記録を開始する位置を、データ読み取り部12からの再生信号に基づいて、既に記録してあるビットストリームに対してサーチする。サーチは再生したデータの相対アドレスを用いて、そのビットストリームファイルの頭からの位置にポインタを設定する。
【0034】
画像符号化器15では画像信号の符号化を行い、それにより得られるH.264画像データをデータ書き込み部18へ出力しながら、ビットストリームのIDRピクチャの1フレーム前のピクチャ符号化終了時点での発生符号量とCPB値を、IDRピクチャの符号化の都度毎回、アクセス情報作成部16へ供給する。
【0035】
アクセス情報作成部16は、入力された発生符号量値とCPB値から図3(A)、(B)に示すアクセス情報のデータを作成する。もしくはそのデータ構造を作成するのに必要なデータをメモリして所定のフォーマットで記録保持する。アクセス情報作成部16で作成されたアクセス情報は、データ書き込み部18によりH.264画像データが記録媒体11の所定領域に書き込まれている時に、同時にバースト的に上記の所定領域とは異なる領域に書き込まれる。
【0036】
このように、本実施の形態によれば、既に記録されているビットストリームの途中から追加書き込みをする場合には、追加記録開始位置として指定されたIDRピクチャのアクセス情報を記録媒体11から読み取り、ビットストリームのIDRピクチャの1フレーム前のピクチャ符号化終了時点での発生符号量とCPB値を得て、パラメータ設定器14に入力してパラメータを設定し、画像符号化器15においてその設定値から、追加記録する画像信号のH.264符号化方式による符号化を開始するようにしたため、CPB値が不連続になることはなく、CPBのオーバーフロー・アンダーフローの矛盾なくビットストリームを再生することが可能な符号化や記録ができる。
【0037】
なお、アクセス情報作成部16で作成されたアクセス情報は、H.264画像データが記録媒体11に書き込み終わったときに、すなわち、ユーザが画像圧縮記録を一時停止、もしくは終了した後に所定のフォーマットで記録保持されていたデータから、図3(A)、(B)の構造に変換してデータ書き込み部18により記録媒体11に書き込みを行ってもよい。このようにして、新たに生成されたH.264画像データは、既に記録されているビットストリームの途中の追加記録するポイントから、追加記録される。
【0038】
なお、既に記録されているビットストリームの途中部分に追加記録される新たなH.264画像データは、記録媒体11上に既に記録されている部分に上書きされるように記録されてもよいし、既にビットストリームが記録されている記録媒体11上の部分とは全く別の部分に記録されてもよい。
【0039】
また、上記説明では、H.264符号化方式による符号化をフレーム単位で行う方法を前提としているが、勿論フィールド単位で行ってもよく、その場合フレームをフィールドと読み替える。また、IDRピクチャを使って説明を行ったが、参照ピクチャを制限したり、デコードの順番を制限したりすることでIピクチャを用いても同様にシームレスな再生が可能である。
【0040】
(第2の実施の形態)
図4は本発明になる画像データ記録装置の第2の実施の形態のブロック図を示す。同図中、図1と同一構成部分には同一符号を付してある。前記の第1の実施の形態では、アクセス情報(CPB値)をビットストリームと別ファイルとしているため、機器から機器へビットストリームだけが伝送されるアプリケーションでは、受信側でビットストリームをデコードするなりして、再度アクセス情報を作り直さなければならない。そこで、本実施の形態は、ビットストリーム中にCPB値を埋め込む構成としたものである。
【0041】
H.264符号化方式のビットストリームは図5に示すような、ネットワーク抽象レイヤ(NAL;Network Abstraction Layer)ユニット(NAL_unit)という単位で構成されている。NALユニットはNALヘッダと、rbsp(Raw byte sequence payload)バイトとデータを含むが、その内容は参照ピクチャであるかどうかを示すフラグ(nal_ref_idc)と、NALユニットの種類を示す識別子(nal_unit_type)の値で識別される。
【0042】
図6はデータがsei_rbsp(supplement enhancement information RBSP)のときの表現規則(シンタックス:syntax)を示し、図7はsei_rbspの中のsei_messageのシンタックス(syntax)を示す。sei_messageの中には各ピクチャのタイミング情報やランダムアクセス用の情報などピクチャの復号に直接関係のない付加情報が格納される。
【0043】
図8はH.264勧告で定義されているSEIメッセージ(sei_message)の一部を示す。sei_messageは、sei_payload中のpayloadTypeの値でその中身が判断される。図8に示すように、「payloadType=5」は「user_date_unregistered」と定義されている。「user_data_unregistered」は、ユーザが独自に定義する情報を格納することができる。前述したCPB値は「user_data_unregisterd」と呼ばれる。そこで、本実施の形態では、SEIメッセージの形式を使用して画像データと共に記録する。
【0044】
図9は上記のCPB SEIメッセージの形式を示す。図9において、「uuid_iso_iec_11578」は128ビットの固定値であり、使用するユーザが定義する。また、インジケータ(indeicator)は32ビットの固定値であり、ユーザが複数定義したユーザーデータのうちCPB SEIメッセージであることを識別するのに使われる。マーカビット(marker_bit)は単純に“1”が1ビット挿入される。また、図9の「CPB_occupancy」は、前述したIDRピクチャの1フレーム前のピクチャの符号化終了時点でのCPB値(CPBのバッファ占有値)である。以上の情報がCPB SEIメッセージとしてビットストリーム中に挿入される。
【0045】
CPB値の挿入位置について、図10を使って更に説明をする。ビットストリームはIピクチャ(IDRピクチャでもよい)から始まるデータグループ単位で時系列的に合成されている。また、Iピクチャは、AUデリミタ(Access Unit Delimiter)31を先頭にSPS(Sequence Parameter Set)32,PPS(Picture Parameter Set)33,SEI(Supplemental Enhancement Information)34,Iピクチャ35の順で構成されている。アクセスユニットの先頭を示す開始符号であるAUデリミタ31と、シーケンス全体の符号化に関する情報を含むヘッダであるSPS32と、ピクチャ全体の符号化モードを示すヘッダであるPPS33と、各ピクチャのタイミング情報やランダムアクセス情報などの付加情報を含むヘッダであるSEI34とはそれぞれH.264勧告で定義されているNALユニットを構成している。また、Iピクチャ、Pピクチャ、BピクチャはスライスNALユニットで構成されており、符号化の基本単位である一つのスライスに1枚のピクチャが含まれている。本実施の形態ではNALユニットのSEI34中のSEIメッセージに図9に示したCPB SEIメッセージの形式で前述のCPB値が挿入される。
【0046】
また、本実施の形態では、アクセス情報は図11(A)、(B)に示す構造体とされて記録される。図11(A)に示すアクセス情報の各々は、図10のデータグループ毎に存在し、そのデータ構造は図11(B)に示すように、対応するデータグループの先頭のIピクチャ(またはIDRピクチャ)の表示時刻を示すPTM(Presentation TiMe)と、対応するデータグループの先頭のIピクチャ(またはIDRピクチャ)のアドレスとからなる。
【0047】
次に、図4に示した本実施の形態の画像データ記録装置が、H.264符号化方式で画像データを符号化しながらアクセス情報を作成して記録する動作を説明する。まず、記録媒体11に符号化データが全く記録されていない状態、すなわち、初めて符号化する場合の動作について説明する。この場合には、記録媒体11の記録データを読み取るデータ読み取り部12は、記録データが存在しないので、記録データが存在しないという情報をアクセス情報検出器20に供給する。アクセス情報検出器20はデータ読み取り部12からの情報に基づいて記録データが存在しないことを判別した時は、パラメータ設定器14に予め設定した初期値を設定する。パラメータ設定器14は、設定された初期値を画像符号化器21に供給する。
【0048】
画像符号化器21は、外部から入力される記録すべき画像信号に対して、H.264符号化方式に従って初期値から圧縮符号化を開始して、各ピクチャ(画像データ)が時系列的に合成されたビットストリームを生成して合成器22へ出力する。また、画像符号化器21では上記の符号化を行いながら、ビットストリームのIピクチャの1フレーム前の符号化終了時点でのCPB値をIピクチャの符号化を行う都度合成器22へ出力する。
【0049】
合成器22は、画像符号化器21と共に画像データ符号化装置を構成しており、上記のCPB値を、図9に示したCPB SEIメッセージの形式で上記のビットストリーム中の各Iピクチャの直前に挿入したビットストリームを生成し、そのビットストリームをアクセス情報作成部23とデータ書き込み部25へ供給する。
【0050】
アクセス情報作成部23では、入力されたビットストリームのH.264画像データをカウントしていくと共に、上記のCPB SEIメッセージを検出し、検出したCPB SEIメッセージの先頭のカウント値をアドレスとして、図11(A)、(B)に示した構造のアクセス情報を作成するか、もしくはそのデータ構造を作成するのに必要なデータをメモリして所定のフォーマットで記録保持する。アクセス情報作成部23で作成されたアクセス情報は、データ書き込み部25によりH.264画像データが記録媒体11の所定領域に書き込まれている時に、同時にバースト的に上記の所定領域とは異なる領域に書き込まれる。
【0051】
なお、アクセス情報作成部23で作成されたアクセス情報は、ビットストリームが記録媒体11に書き込み終わったときに、すなわち、ユーザが画像圧縮記録を一時停止、もしくは終了した後に所定のフォーマットで記録保持されたいデータから、図11(A)、(B)の構造に変換してデータ書き込み部25により記録媒体11に書き込みを行ってもよい。
【0052】
記録の終了タイミングはIピクチャの直前とすると、特殊再生等に都合がよい。図10で説明すると、IピクチャI3の符号化から後に、記録終了の指示があった場合にはIピクチャI4直前のBピクチャまで画像データは記録し、またアクセス情報はI4の分まで記録する。
【0053】
次に、記録媒体11に前記したアクセス情報と共に既に記録されているビットストリームに対して、ビットストリーム中の任意の位置から追加して新たな画像データを記録する場合について説明する。記録媒体11には既にビットストリームとアクセス情報とが記録されている。従って、データ読み取り部12ではアクセス情報を記録媒体11から読み取り、Iピクチャのアドレス値を得る。追加記録が既に記録されているビットストリームの一番最後から行われる場合には、記録媒体11から再生したアクセス情報の一番最後のアドレス値を参照する。記録媒体11上において、新たなH.264画像データが追加記録される位置は、既に記録されているH.264画像データの記録部分に続く位置でもよいし、全く別の位置でもよい。
【0054】
一方、既に記録されているビットストリームの途中から追加書き込みをする場合には、図示せぬ、ユーザーインターフェースから、既に記録されている画像データのどのポイント(Iピクチャ)から追加記録するかを指定してもらい、そのIピクチャのアクセス情報を読み取り、アドレスを得る。アドレス値は符号化データサーチ器26に供給される。符号化データサーチ器26は、途中追加記録を開始する位置を、データ読み取り部12からの再生信号に基づいて、既に記録してあるビットストリームに対してサーチする。サーチは再生したデータの相対アドレスとアクセス情報検出器20からのアドレス値とを用いて、追加記録するポイント(Iピクチャ)の頭からの位置にポインタを設定する。
【0055】
再びデータ読み取り部12は、記録媒体11に記録されているビットストリームのうち、符号化データサーチ器26からの指示されたアドレスよりデータを読み出し、CPB SEIメッセージをアクセス情報検出器20に供給する。アクセス情報検出器20はCPB SEIメッセージからCPB値を抜き出し、パラメータ設定器14に供給し、画像符号化器21においてその設定値から、追加記録する画像信号のH.264符号化方式による符号化を開始させる。
【0056】
画像符号化器21では符号化を行って生成したビットストリームを合成器22へ供給しながら、そのIピクチャの1フレーム前の符号化終了時点でのCPB値を合成器22に供給する。合成器22は画像符号化器21からのビットストリーム中に、画像符号化器21からのCPB値を図9に示したCPB SEIメッセージの形式で毎回、Iピクチャの直前に挿入し、得られた合成ビットストリームをアクセス情報作成器23とデータ書き込み部25へ供給する。
【0057】
以下、上記の記録媒体11に、最初にH.264画像データを記録する場合と同様にして、CPB値がCPB SEIメッセージの形式で挿入されたビットストリームが生成される。このビットストリームは、既に記録されているH.264画像データの途中追加記録するポイントからデータ書き込み部25により記録媒体11に書き込まれると共に、それと同時にバースト的にアクセス情報が記録媒体11の別の領域に書き込まれる。このようにして、新たに生成されたH.264画像データは、既に記録されているビットストリームの途中の追加記録するポイントから追加記録される。
【0058】
このように、本実施の形態によれば、既に記録されているビットストリームの途中から追加書き込みをする場合には、追加記録開始位置として指定されたIピクチャのアドレスを記録媒体11から読み取ってポインタを設定した後、その指定されたIピクチャを再生してその1フレーム前のピクチャ符号化終了時点でのCPB値を得て、パラメータ設定器14に入力してパラメータを設定し、画像符号化器15においてその設定値から画像信号のH.264符号化方式による符号化を開始して生成したH.264画像データを追加記録するようにしたため、既に記録されているビットストリームの途中追加記録するポイントから書き込まれるH.264画像データのCPB値が不連続になることはなく、CPBのオーバーフロー・アンダーフローの矛盾なくビットストリームを再生することが可能な符号化や記録ができる。
【0059】
なお、アクセス情報作成部23で作成されたアクセス情報は、H.264画像データが記録媒体11に書き込み終わったときに、すなわち、ユーザが画像圧縮記録を一時停止、もしくは終了した後に所定のフォーマットで記録保持されていたデータから、図11(A)、(B)の構造に変換してデータ書き込み部25により記録媒体11に書き込みを行ってもよい。
【0060】
また、既に記録されているビットストリームの途中部分に追加記録される新たなH.264画像データは、記録媒体11上に既に記録されている部分に上書きされるように記録されてもよいし、既にビットストリームが記録されている記録媒体11上の部分とは全く別の部分に記録されてもよい。更に、上記説明では、H.264符号化をフレーム単位で行う方法を前提としているが、勿論フィールド単位で行ってもよく、その場合フレームをフィールドと読み替える。
【0061】
次に、上記のように作成したH.264画像データを、伝送路を使って別の装置に記録する場合について、図4及び図12のブロック図と共に説明する。図12において、記録媒体41に記録されているH.264画像データを含むビットストリームは、再生装置42によって再生された後、伝送路を介して記録装置43に供給される。この記録装置43に供給されるビットストリームには、CPB SEIメッセージに前述したCPB値が埋め込まれている。
【0062】
記録装置43は図4のブロック図に示した構成であり、伝送路を介して入力されたビットストリームは、ビットストリーム受信部24により受信された後、アクセス情報作成部23及びデータ書き込み部25に送られる。アクセス情報作成部23では、入力されたビットストリームのH.264画像データをカウントしていくと共に、CPB SEIメッセージを検出し、検出したCPB SEIメッセージの先頭のカウント値をアドレスとして、図11(A)、(B)に示す構造のアクセス情報を作成するか、又はそのデータ構造を作成するのに必要なデータをメモリして所定のフォーマットで記録保持する。アクセス情報作成部23で作成されたアクセス情報は、データ書き込み部25に供給される。
【0063】
図4のアクセス情報作成部23で作成されたアクセス情報は、ビットストリーム受信部24により受信された、CPB値が埋め込まれているビットストリームが、データ書き込み部25により図12の記録媒体44の所定領域に書き込まれている時に、同時にバースト的に上記の所定領域とは異なる領域に書き込まれる。このように、本実施の形態では、ビットストリームだけが伝送されるアプリケーションであっても、受信したビットストリームにCPB値を埋め込んでおくことにより、ビットストリームをデコードしてCPB値を生成しなくても、CPB値を含むビットストリームを記録媒体44に記録できると共に、Iピクチャの先頭アドレスを示すアクセス情報も新たに生成して同時に記録できる。
【0064】
なお、アクセス情報作成部23で作成されたアクセス情報は、ビットストリームが記録媒体44に書き込み終わったときに、すなわち、ユーザが画像圧縮記録を一時停止、もしくは終了した後に所定のフォーマットで記録保持されたいデータから、図11(A)、(B)の構造に変換してデータ書き込み部25により記録媒体44に書き込みを行ってもよい。
【0065】
記録の終了タイミングはIピクチャの直前とすると、特殊再生等に都合がよい。図10で説明すると、IピクチャI3の符号化から後に、記録終了の指示があった場合にはIピクチャI4直前のBピクチャまで画像データは記録し、またアクセス情報はI4の分まで記録する。また、本実施の形態では、CPB値がIピクチャ内のCPB SEIメッセージに埋め込まれているものとして説明したが、IDRピクチャでも同様にCPB値を埋め込むことが可能である。
【0066】
なお、以上の実施の形態の説明はH.264画像データを記録する場合についてであるが、実際にはオーディオデータなどと混在したデータを記録することになるかもしれない。たとえば、勧告H.222は多重化についての手段が規定されている。この場合基本的にはH.264画像データはパケット化されてオーディオデータと多重化されて記録される。この場合でもアクセス情報構造体に格納するアドレスをデータグループの先頭のデータを含むパケットのアドレスとすることで、以上の説明と同様に記録、編集、追記が可能となる。
【図面の簡単な説明】
【0067】
【図1】本発明の画像データ記録装置の第1の実施の形態のブロック図である。
【図2】図1の画像データ記録装置で記録されるビットストリームの一例の構造を示す図である。
【図3】図1の画像データ記録装置で記録されるアクセス情報の構造を示す図である。
【図4】本発明の画像データ記録装置の第2の実施の形態のブロック図である。
【図5】NALユニットの構成を示す図である。
【図6】データがsei_rbspのときのシンタックスを示す図である。
【図7】sei_rbspの中のsei_messageのシンタックスを示す図である。
【図8】H.264勧告で定義されているSEIメッセージの一部を示す図である。
【図9】CPB SEIメッセージを示す図である。
【図10】H.264符号化方式のビットストリームの構成とNALユニットを示す図である。
【図11】図4の画像データ記録装置が生成して記録するアクセス情報の一例の構造を示す図である。
【図12】本発明の画像データ記録装置の第2の実施の形態を含む記録再生システムの一例を示すブロック図である。
【図13】IDRピクチャの位置で編集を行うことにより、シームレスな再生が可能になることを説明する図である。
【符号の説明】
【0068】
11 記録媒体
12 データ読み取り部
13、20 アクセス情報検出器
14 パラメータ設定器
15、21 画像符号化器
16、23 アクセス情報作成部
17、26 符号化データサーチ器
18、25 データ書き込み部
22 合成器
24 ビットストリーム受信部
【特許請求の範囲】
【請求項1】
画像信号をH.264符号化方式で圧縮符号化して得たH.264画像データのビットストリームを記録媒体に記録する画像データ記録装置において、
前記H.264符号化方式で規定された仮想参照デコーダに入力される前の前記ビットストリームを保存する符号化ピクチャバッファにおいて、この符号化ピクチャバッファの容量に対して保存される前記ビットストリームの占有値を示すCPB値に応じて設定されたパラメータを用いて、前記画像信号の前記H.264符号化方式での圧縮符号化を開始し、それぞれ前記H.264画像データによる複数のピクチャからなるデータグループ単位で合成されており、前記データグループの各々は先頭のピクチャが他のピクチャを参照しないで符号化したIピクチャ又はデコーダ動作瞬時リフレッシュ用のIDRピクチャが配置された前記ビットストリームを生成する符号化手段と、
前記符号化手段から前記Iピクチャ又は前記IDRピクチャを生成する都度出力される、前記ビットストリームにおける前記Iピクチャ又は前記IDRピクチャの1画像単位前の符号化終了時点での発生符号量と前記CPB値とに基づいて、前記CPB値とそのCPB値が前記ビットストリームにおけるどの時点でのCPB値であるかを示すアドレス情報とからなるアクセス情報を作成するアクセス情報作成手段と、
前記符号化手段から出力された前記ビットストリームと、前記アクセス情報作成手段で作成された前記アクセス情報とを、前記記録媒体の異なる領域にそれぞれ記録する記録手段と
を有することを特徴とする画像データ記録装置。
【請求項2】
画像信号をH.264符号化方式で圧縮符号化して得たH.264画像データのビットストリームを記録媒体に記録する画像データ記録装置において、
前記H.264符号化方式で規定された仮想参照デコーダに入力される前の前記ビットストリームを保存する符号化ピクチャバッファにおいて、この符号化ピクチャバッファの容量に対して保存される前記ビットストリームの占有値を示すCPB値に応じて設定されたパラメータを用いて、前記画像信号の前記H.264符号化方式での圧縮符号化を開始し、それぞれ前記H.264画像データによる複数のピクチャからなるデータグループ単位で合成されており、前記データグループの各々は先頭のピクチャが他のピクチャを参照しないで符号化したIピクチャ又はデコーダ動作瞬時リフレッシュ用のIDRピクチャが配置された前記ビットストリームを生成する符号化手段と、
前記符号化手段から前記Iピクチャ又は前記IDRピクチャを生成する都度出力される、前記ビットストリームにおける前記Iピクチャ又は前記IDRピクチャの1画像単位前の符号化終了時点での前記CPB値を、そのCPB値に対応する前記Iピクチャ又は前記IDRピクチャを先頭とする前記データグループの先頭に、ピクチャの復号に直接関係のない付加情報SEIとして合成する合成手段と、
前記合成手段から出力される前記付加情報SEIが合成された前記ビットストリーム中の前記H.264画像データの数をカウントしていくと共に、前記付加情報SEIを検出し、この検出時点のカウント値をアドレスとするアクセス情報を作成するアクセス情報作成手段と、
前記合成手段から出力された前記付加情報SEIが合成された前記ビットストリームと、前記アクセス情報作成手段で作成された前記アクセス情報とを、前記記録媒体の異なる領域にそれぞれ記録する記録手段と
を有することを特徴とする画像データ記録装置。
【請求項3】
画像信号をH.264符号化方式で圧縮符号化してH.264画像データのビットストリームを生成する画像データ符号化装置において、
前記H.264符号化方式で規定された仮想参照デコーダに入力される前の前記ビットストリームを保存する符号化ピクチャバッファにおいて、この符号化ピクチャバッファの容量に対して保存される前記ビットストリームの占有値を示すCPB値に応じて設定されたパラメータを用いて、前記画像信号の前記H.264符号化方式での圧縮符号化を開始し、それぞれ前記H.264画像データによる複数のピクチャからなるデータグループ単位で合成されており、前記データグループの各々は先頭のピクチャが他のピクチャを参照しないで符号化したIピクチャ又はデコーダ動作瞬時リフレッシュ用のIDRピクチャが配置された前記ビットストリームを生成する符号化手段と、
前記符号化手段から前記Iピクチャ又は前記IDRピクチャを生成する都度出力される、前記ビットストリームにおける前記Iピクチャ又は前記IDRピクチャの1画像単位前の符号化終了時点での前記CPB値を、そのCPB値に対応する前記Iピクチャ又は前記IDRピクチャを先頭とする前記データグループの先頭に、ピクチャの復号に直接関係のない付加情報SEIとして合成したビットストリームを生成する合成手段と
を有することを特徴とする画像データ符号化装置。
【請求項1】
画像信号をH.264符号化方式で圧縮符号化して得たH.264画像データのビットストリームを記録媒体に記録する画像データ記録装置において、
前記H.264符号化方式で規定された仮想参照デコーダに入力される前の前記ビットストリームを保存する符号化ピクチャバッファにおいて、この符号化ピクチャバッファの容量に対して保存される前記ビットストリームの占有値を示すCPB値に応じて設定されたパラメータを用いて、前記画像信号の前記H.264符号化方式での圧縮符号化を開始し、それぞれ前記H.264画像データによる複数のピクチャからなるデータグループ単位で合成されており、前記データグループの各々は先頭のピクチャが他のピクチャを参照しないで符号化したIピクチャ又はデコーダ動作瞬時リフレッシュ用のIDRピクチャが配置された前記ビットストリームを生成する符号化手段と、
前記符号化手段から前記Iピクチャ又は前記IDRピクチャを生成する都度出力される、前記ビットストリームにおける前記Iピクチャ又は前記IDRピクチャの1画像単位前の符号化終了時点での発生符号量と前記CPB値とに基づいて、前記CPB値とそのCPB値が前記ビットストリームにおけるどの時点でのCPB値であるかを示すアドレス情報とからなるアクセス情報を作成するアクセス情報作成手段と、
前記符号化手段から出力された前記ビットストリームと、前記アクセス情報作成手段で作成された前記アクセス情報とを、前記記録媒体の異なる領域にそれぞれ記録する記録手段と
を有することを特徴とする画像データ記録装置。
【請求項2】
画像信号をH.264符号化方式で圧縮符号化して得たH.264画像データのビットストリームを記録媒体に記録する画像データ記録装置において、
前記H.264符号化方式で規定された仮想参照デコーダに入力される前の前記ビットストリームを保存する符号化ピクチャバッファにおいて、この符号化ピクチャバッファの容量に対して保存される前記ビットストリームの占有値を示すCPB値に応じて設定されたパラメータを用いて、前記画像信号の前記H.264符号化方式での圧縮符号化を開始し、それぞれ前記H.264画像データによる複数のピクチャからなるデータグループ単位で合成されており、前記データグループの各々は先頭のピクチャが他のピクチャを参照しないで符号化したIピクチャ又はデコーダ動作瞬時リフレッシュ用のIDRピクチャが配置された前記ビットストリームを生成する符号化手段と、
前記符号化手段から前記Iピクチャ又は前記IDRピクチャを生成する都度出力される、前記ビットストリームにおける前記Iピクチャ又は前記IDRピクチャの1画像単位前の符号化終了時点での前記CPB値を、そのCPB値に対応する前記Iピクチャ又は前記IDRピクチャを先頭とする前記データグループの先頭に、ピクチャの復号に直接関係のない付加情報SEIとして合成する合成手段と、
前記合成手段から出力される前記付加情報SEIが合成された前記ビットストリーム中の前記H.264画像データの数をカウントしていくと共に、前記付加情報SEIを検出し、この検出時点のカウント値をアドレスとするアクセス情報を作成するアクセス情報作成手段と、
前記合成手段から出力された前記付加情報SEIが合成された前記ビットストリームと、前記アクセス情報作成手段で作成された前記アクセス情報とを、前記記録媒体の異なる領域にそれぞれ記録する記録手段と
を有することを特徴とする画像データ記録装置。
【請求項3】
画像信号をH.264符号化方式で圧縮符号化してH.264画像データのビットストリームを生成する画像データ符号化装置において、
前記H.264符号化方式で規定された仮想参照デコーダに入力される前の前記ビットストリームを保存する符号化ピクチャバッファにおいて、この符号化ピクチャバッファの容量に対して保存される前記ビットストリームの占有値を示すCPB値に応じて設定されたパラメータを用いて、前記画像信号の前記H.264符号化方式での圧縮符号化を開始し、それぞれ前記H.264画像データによる複数のピクチャからなるデータグループ単位で合成されており、前記データグループの各々は先頭のピクチャが他のピクチャを参照しないで符号化したIピクチャ又はデコーダ動作瞬時リフレッシュ用のIDRピクチャが配置された前記ビットストリームを生成する符号化手段と、
前記符号化手段から前記Iピクチャ又は前記IDRピクチャを生成する都度出力される、前記ビットストリームにおける前記Iピクチャ又は前記IDRピクチャの1画像単位前の符号化終了時点での前記CPB値を、そのCPB値に対応する前記Iピクチャ又は前記IDRピクチャを先頭とする前記データグループの先頭に、ピクチャの復号に直接関係のない付加情報SEIとして合成したビットストリームを生成する合成手段と
を有することを特徴とする画像データ符号化装置。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【公開番号】特開2008−35294(P2008−35294A)
【公開日】平成20年2月14日(2008.2.14)
【国際特許分類】
【出願番号】特願2006−207263(P2006−207263)
【出願日】平成18年7月29日(2006.7.29)
【出願人】(000004329)日本ビクター株式会社 (3,896)
【Fターム(参考)】
【公開日】平成20年2月14日(2008.2.14)
【国際特許分類】
【出願日】平成18年7月29日(2006.7.29)
【出願人】(000004329)日本ビクター株式会社 (3,896)
【Fターム(参考)】
[ Back to top ]