説明

動画像の多重化方法とファイル読み込み方法及び装置,並びにそのプログラムとコンピュータ読み取り可能な記録媒体

【課題】異なる色空間等を持つ複数の動画像の間で予測符号化して作成された符号化データを多重化して格納しているファイルから所望の色空間等の動画像の符号化データを取り出すときの負荷を低減する。
【解決手段】多重化装置10は,フレーム先頭位置情報設定部114が設定した動画像のフレーム先頭のファイル中の位置情報と,動画像番号設定部112が設定した動画像を区別する動画像番号と,色空間情報設定部113が設定したフレームの色空間を示す色空間情報を,管理情報多重化部116によって多重化し,符号化データの特定の位置に設定する。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は,フレーム間予測符号化方式を使った画像符号化データの多重化に関する技術である。
【背景技術】
【0002】
映像符号化には,スケーラブル符号化や多視点映像符号化といった,レイヤ符号化を適用する符号化方式がある。スケーラブル符号化では,SNRスケーラビリティや空間スケーラビリティ等の機能を実現できる。SNRスケーラビリティとは,ベースレイヤの符号化データに対して符号化データを追加することで画像の画品質を向上する機能であり,空間スケーラビリティとは,ベースレイヤの符号化データに対して符号化データを追加することで画像の空間解像度を向上する機能である。
【0003】
スケーラブル符号化の概念図を図13に示す。図13に示すように,復号画像あるいは符号化情報をレイヤ間で再利用することにより,符号量の削減が図られている。
【0004】
近年では,映像符号化方式H.264の拡張方式としてSVCと呼ぶ方式がAnnexGとして標準化されている(非特許文献1参照)。
【0005】
また,多視点映像符号化においてもレイヤ符号化が適用される。近年では,やはり映像符号化方式H.264の拡張方式としてMVCと呼ぶ方式が標準化されようとしている。MVCでは,複数の視点映像をまとめて符号化する仕組みが採用されている。動画像の符号化では動き補償符号化が利用されるが,多視点映像の場合には,動き補償に加えて,視点映像間でフレーム間予測符号化を適用する視差補償符号化を利用する。MVCでは視差補償を利用することで,個別に視点映像を符号化するよりも圧縮効率を向上できる。また,MVCでは,アプリケーションとして自由視点映像といった,視聴者が自由に視点位置を選択できる映像表現を想定している(非特許文献2,非特許文献3参照)。
【0006】
このため,映像シーンを非常に多くのカメラで撮影しておき,視聴者が見たい視点位置の映像を選択するような利用方法が想定されている。すなわち,撮影した多くの視点映像データのうち,いくつかを選択して復号して再生することが想定されている。このように非常に多くの視点映像からいくつかの視点映像を選択して復号する機能を視点映像スケーラビリティと呼ぶ。MVCは多視点映像を想定した符号化方式ではあるが,まとめて符号化する対象はカメラ映像に限定されない。すなわち,一般的に複数の動画像をまとめて圧縮する符号化方式と考えることができる。
【0007】
このMVCでは,前述のとおり,非常に多くの動画像からいくつかの動画像を選択して復号することを実現するため,スケーラブル符号化のように1つのベースレイヤに対してレイヤ構造を持つのではなく,複数のベースレイヤに対してレイヤ構造を持つような構成となる。
【0008】
図14はMVCの参照関係の例,図15はMVCの符号化データの構成例を示す図である。例えば,図14に示すような参照関係がある場合には,MVCの符号化データは同じ時刻のフレームについて図15に示すような構成になる。この同じ時刻のフレームの固まりをアクセスユニットと呼ぶ。MVCではベースレイヤに相当するレイヤが複数存在する。MVCでは動画像間の参照関係をサブセットSPS(subset_seq _parameter _set )の中のMVC拡張部分で記述する。サブセットSPSは符号化データ中に含まれ,複数設定できる。各フレームでは,利用するサブセットSPSを指定することができる。
【0009】
さらに,MVCでは非常に多くの視点映像を扱うため,高い圧縮効率が望まれる。撮影した映像を圧縮するのではなく,ある一部の視点映像の空間解像度やビット深度を小さくすることで情報量を減らして圧縮できれば,圧縮効率を向上できる。また,色空間についても,全ての視点映像で同一にする必要はない。撮影に利用するカメラによっては,得られる映像信号の色空間は異なる場合がある。ここで想定する「色空間が異なる」ことの意味は,3色であればRGBやYUV等で色空間が正に異なることや,また,グレースケールと3色のように色数が異なることや,色が同じであっても特定の色だけサンプリング周波数が異なることを指す。このように,MVCでは,空間解像度,ビット深度,色空間の異なる複数の視点映像をまとめて符号化する場合がある。視点映像ごとに空間解像度やビット深度や色空間を指定できるが,このような映像信号の表現情報はパラメータセットとして符号化データの中に含まれる(非特許文献4参照)。
【0010】
一方,このような映像符号化データをファイル化して保存するために,ファイルフォーマット技術が利用される。ファイルフォーマットとは,符号化データを多重化するための技術でもあり,符号化データストリームを構造化しておくことで,特定の情報に関する符号化データを低遅延で取り出す機能を有する。一般的にファイルフォーマットでは,各種のデータストリームをトラックに格納して,トラックの情報を特定の時刻を単位に分割して多重化する。各トラックには,映像または音声の符号化データの他に,CGデータや著作権情報などのメタデータが格納される。
【0011】
もっとも簡単なファイルフォーマットとしては,AVIフォーマットが挙げられる。AVIフォーマットは,映像データと音声データを1フレーム単位に多重化する。そのほかにも国際標準化されているフォーマットとして,ISOメディアファイルフォーマットが挙げられる。ISOフォーマットでは,フレームに相当するものとしてサンプルを定義し,サンプルを単位にトラックを分割して多重化する。
【0012】
ISOメディアファイルフォーマットでは,符号化データの他に,フレーム番号等の時刻情報とフレーム先頭のファイル中の位置情報を管理情報として,別のトラックとして構成することができる。ファイルを再生する場合には,この管理情報を記録したトラックを調べることで,フレームの先頭位置情報を知ることができ,所望のフレームの先頭に低遅延でアクセスすることが可能となる。
【0013】
ファイル中におけるトラックや管理情報の関係の例を図16に示す。符号化データトラックには,各動画像の符号化データが格納され,管理情報トラックには,各時刻におけるフレームの位置情報等が格納される。前述したSVC用にもファイルフォーマットが提案されている。SVCもトラックを単位にファイルを構成する(非特許文献5参照)。
【非特許文献1】Heiko Schwarz, Detlev Marpe, and Thomas Wiegand,“Overview of the Scalable Video Coding Extension of the H.264/AVC Standard ”, IEEE TRANSACTIONS ON CIRCUITS AND SYSTEMS FOR VIDEO TECHNOLOGY, VOL.17, NO.9, SEPTEMBER 2007, pp.1103-1120.
【非特許文献2】木全英明,“MPEG 3DAV 国際標準化の動向”, 映像情報メディア学会誌 60, 2, pp.143-149, (2006).
【非特許文献3】木全英明,“多視点映像符号化MVCの国際標準化動向”,映像情報メディア学会誌 61, 4, pp.426-430, (April 2007).
【非特許文献4】木全英明, 志水信哉, 上倉一人, 八島由幸, “縮小参照画像を用いた多視点映像符号化の一検討”, 信学技報 MVE2007-25, pp.13-18, 2007 .
【非特許文献5】Peter Amon, Thomas Rathgen, and David Singer, “File Format for Scalable Video Coding ”, IEEE TRANSACTIONS ON CIRCUITS AND SYSTEMS FOR VIDEO TECHNOLOGY, VOL.17, NO.9, SEPTEMBER 2007, pp.1174-1185.
【発明の開示】
【発明が解決しようとする課題】
【0014】
MVCで空間解像度やビット深度や色空間が異なる視点映像がある場合に,特定の空間解像度やビット深度や色空間の視点映像のみを取り出すことができることは好適である。例えば,特定の空間解像度やビット深度や色空間の符号化データのみを復号できるような復号器を持っている場合に,一部の視点映像だけでも復号して画像を表示できるからである。
【0015】
各視点映像の空間解像度やビット深度や色空間の情報はパラメータセットに記述されて符号化データの中に多重化されている。したがって,所望の空間解像度やビット深度や色空間の視点映像の符号化データを取り出す場合には,該当するパラメータセットの情報を符号化データ中から探し出す必要がある。このため,特にファイルに蓄積されている場合には,ファイルの先頭からパラメータセットを順次探して復号する必要があり,大きな負荷がかかっていた。
【0016】
すなわち,本発明の課題は以下のとおりである。複数の動画像をまとめて符号化する場合に,色空間や空間解像度やビット深度の異なる動画像をまとめて符号化することを想定する。例えば撮影されるカメラの性能によって,これらの値は異なることがあり得る。このような動画像の符号化において,符号化データ中に個々の色空間や空間解像度やビット深度の情報を含めることができる。しかしながら,従来の符号化データの構成では,復号側では,これらの情報は符号化データを復号しなければ分からないため,所望の色空間や空間解像度やビット深度の動画像の符号化データを取り出すためには,大きな負荷がかかるという問題があった。
【0017】
本発明は,このような所望の色空間や空間解像度やビット深度の動画像の符号化データを取り出すときの負荷を低減する新しい技術手段を提供することを目的とする。
【課題を解決するための手段】
【0018】
本発明は,以上の課題を次のように解決する。符号化データを多重化するファイルフォーマット技術がある。このファイルフォーマット技術では,符号化データと管理情報に分けて,管理情報に各フレームの先頭位置情報を格納することが行われている。本発明では,このような管理情報に,フレーム先頭位置情報のほかに,色空間情報や空間解像度情報やビット深度情報も含める。これにより,管理情報を読み取るだけで,所望の色空間や空間解像度やビット深度のフレームの先頭位置を知ることができるため,そのようなフレームの符号化データを低負荷で取り出すことができる。
【0019】
具体的には,本発明は,異なる色空間を持つ複数の動画像の間で予測符号化して作成された符号化データを多重化してファイルを構成する多重化方法であって,動画像のフレーム先頭のファイル中の位置情報と,動画像を区別する動画像番号と,該フレームの色空間を示す色空間情報とを多重化し,符号化データの特定の位置に設定することを特徴とする。
【0020】
この多重化方法によれば,符号化データ中の特定の位置にある情報を復号することで,すべての符号化データを復号することなく,ファイルから所望の色空間の動画像のフレームの先頭位置を求めて,そのフレームの符号化データを取り出すことができる。同時に,符号化データを復号することなく,その動画像の動画像番号も求めることができる。これにより,所望の色空間の動画像の動画像番号が予め分かっている場合に,符号化データ中に含まれる色空間情報を探索して復号することなく,低遅延で,所望の動画像の符号化データを復号して再生することができる。
【0021】
また,本発明は,異なる色空間を持つ複数の動画像の間で予測符号化して作成された符号化データを多重化してファイルを構成する多重化方法であって,動画像のフレーム先頭のファイル中の位置情報と,動画像を区別する動画像番号と,該フレームの色空間を示す色空間情報を第一のトラックとし,符号化データを第二のトラックとして,第一のトラックと第二のトラックをそれぞれ独立に多重化することを特徴とする。
【0022】
この多重化方法によれば,第一トラックに含まれる色空間情報を復号することで,第二トラックの符号化データを復号することなく,ファイルから所望の色空間の動画像のフレームの先頭位置を求めて,そのフレームの符号化データを取り出すことができる。同時に,符号化データを復号することなく,その動画像の動画像番号も求めることができる。これにより,所望の色空間の動画像の動画像番号が予め分かっている場合に,符号化データ中に含まれる色空間情報を復号することなく,低遅延で,所望の動画像の符号化データを復号して再生することができる。
【0023】
また,本発明は,異なる空間解像度を持つ複数の動画像の間で予測符号化して作成された符号化データを多重化してファイルを構成する多重化方法であって,動画像のフレーム先頭のファイル中の位置情報と,動画像を区別する動画像番号と,該フレームの空間解像度情報を多重化し,符号化データの特定の位置に設定することを特徴とする。
【0024】
この多重化方法によれば,符号化データ中の特定の位置にある情報を復号することで,すべての符号化データを復号することなく,ファイルから所望の空間解像度の動画像のフレームの先頭位置を求めて,そのフレームの符号化データを取り出すことができる。同時に,符号化データを復号することなく,その動画像の動画像番号も求めることができる。これにより,所望の空間解像度の動画像の動画像番号が予め分かっている場合に,符号化データ中に含まれる空間解像度情報を探索して復号することなく,低遅延で,所望の動画像の符号化データを復号して再生することができる。
【0025】
また,本発明は,異なる空間解像度を持つ複数の動画像の間で予測符号化して作成された符号化データを多重化してファイルを構成する多重化方法であって,動画像のフレーム先頭のファイル中の位置情報と,動画像を区別する動画像番号と,該フレームの空間解像度情報を第一のトラックとし,符号化データを第二のトラックとして,第一のトラックと第二のトラックをそれぞれ独立に多重化することを特徴とする。
【0026】
この多重化方法によれば,第一トラックに含まれる空間解像度情報を復号することで,第二トラックの符号化データを復号することなく,ファイルから所望の空間解像度の動画像のフレームの先頭位置を求めて,そのフレームの符号化データを取り出すことができる。同時に,符号化データを復号することなく,その動画像の動画像番号も求めることができる。これにより,所望の空間解像度の動画像の動画像番号が予め分かっている場合に,符号化データ中に含まれる空間解像度情報を復号することなく,低遅延で,所望の動画像の符号化データを復号して再生することができる。
【0027】
また,本発明は,異なるビット深度を持つ複数の動画像の間で予測符号化して作成された符号化データを 多重化してファイルを構成する多重化方法であって,動画像のフレーム先頭のファイル中の位置情報と,動画像を区別する動画像番号と,該フレームのビット深度情報を多重化し,符号化データの特定の位置に設定することを特徴とする。
【0028】
この多重化方法によれば,符号化データ中の特定の位置にある情報を復号することで,すべての符号化データを復号することなく,ファイルから所望のビット深度の動画像のフレームの先頭位置を求めて,そのフレームの符号化データを取り出すことができる。同時に,符号化データを復号することなく,その動画像の動画像番号も求めることができる。これにより,所望のビット深度の動画像の動画像番号が予め分かっている場合に,符号化データ中に含まれるビット深度情報を探索して復号することなく,低遅延で,所望の動画像の符号化データを復号して再生することができる。
【0029】
また,本発明は,異なるビット深度を持つ複数の動画像の間で予測符号化して作成された符号化データを多重化してファイルを構成する多重化方法であって,動画像のフレーム先頭のファイル中の位置情報と,動画像を区別する動画像番号と,該フレームのビット深度情報を第一のトラックとし,符号化データを第二のトラックとして,第一のトラックと第二のトラックをそれぞれ独立に多重化することを特徴とする。
【0030】
この多重化方法によれば,第一トラックに含まれるビット深度情報を復号することで,第二トラックの符号化データを復号することなく,ファイルから所望のビット深度の動画像のフレームの先頭位置を求めて,そのフレームの符号化データを取り出すことができる。同時に,符号化データを復号することなく,その動画像の動画像番号も求めることができる。これにより,所望のビット深度の動画像の動画像番号が予め分かっている場合に,符号化データ中に含まれるビット深度情報を復号することなく,低遅延で,所望の動画像の符号化データを復号して再生することができる。
【0031】
なお,以上では,フレーム単位に管理情報を設定する例について説明したが,本発明において,フレームを分割したスライス単位に管理情報を設定してもよい。この場合には,管理情報はフレーム先頭位置の代わりに,スライス先頭位置情報を含む。また,多重化や読み取りもフレーム単位ではなく,スライス単位で行う。
【発明の効果】
【0032】
本発明によれば,色空間や空間解像度やビット深度の異なる複数の動画像をまとめて符号化した符号化データを多重化したファイルの中から,符号化データを復号することなく低演算負荷で,特定の色空間や空間解像度やビット深度の動画像の符号化データを取り出すことができる。
【発明を実施するための最良の形態】
【0033】
以下,図面を用いて本発明の多重化方法と,多重化されたファイルを読み込んで再生する方法の実施例を説明する。
【0034】
第1の実施例では,フレーム先頭の位置情報と動画像番号と色空間情報を管理情報として多重化し,全ての符号化データを多重化した最後に設定する場合の例を示す。動画像はA,B,C,Dの4つあり,予め符号化されていて,各動画像におけるフレーム先頭の位置情報は分かっているものとする。
【0035】
図1に多重化装置の構成を示す。図1に示す多重化装置10は,動画像A,B,C,Dの符号化データをそれぞれ入力する動画像A符号化データ入力部101,動画像B符号化データ入力部102,動画像C符号化データ入力部103,動画像D符号化データ入力部104と,各動画像のフレーム先頭の動画像中の位置情報をそれぞれ入力する動画像Aフレーム位置情報入力部106,動画像Bフレーム位置情報入力部107,動画像Cフレーム位置情報入力部108,動画像Dフレーム位置情報入力部109と,動画像間の参照関係を示す情報を入力する参照関係データ入力部105と,動画像の色空間情報を入力する色空間データ入力部117と,動画像の符号化データやフレーム位置情報の入力を切り替えるデータ切り替え部110と,符号化データを多重化する符号化データ多重化部111と,動画像番号を設定する動画像番号設定部112と,色空間情報を設定する色空間情報設定部113と,フレーム位置の先頭情報を設定するフレーム先頭位置情報設定部114と,管理情報を多重化する管理情報多重化部116と,符号化データと管理情報を多重化するファイル多重化部115とから構成される。
【0036】
以上のうち,動画像番号設定部112では,動画像A,B,C,Dに対してそれぞれ動画像番号0,1,2,3を設定するものとする。動画像AからDまでのフレーム位置情報入力部106〜109は,次のフレームの位置情報を入力するものとする。フレーム先頭位置情報設定部114は,各動画像のフレーム位置情報をカウントし,符号化データ多重化部111で符号化データを多重化した後における各フレームの位置情報を設定するものとする。色空間情報設定部113は,色空間がYUVの3色の場合には色空間情報として1を設定し,グレースケールの場合には色空間情報として0を設定するものとする。ファイル多重化部115は,符号化データ多重化部111で作成された符号化データの後に,管理情報多重化部116で作成された管理情報を設定するものとする。符号化データ多重化部111は,参照関係データがある場合には各動画像の符号化データの前に多重化するものとする。
【0037】
データ切り替え部110は,参照関係データに従い,次のように符号化データとファイル先頭位置情報を切り替えるものとする。動画像AからDまで順に,まず独立して復号できる動画像かどうかを判定する。独立して復号できる場合には,そのまま選択する。独立して復号できない場合には,参照する動画像の符号化データを既に選択したかどうかを判定する。既に選択した場合には,そのまま選択し,まだ選択していない場合には,参照する動画像が全て選択されるまで,その動画像を選択しない。
【0038】
動画像間の参照関係は全て動画像AとCは独立して復号でき,動画像Bは動画像Aを参照し,動画像Dは動画像Cを参照するものとする。
【0039】
動画像の色空間は動画像AとBはYUV3色であり,動画像CとDはグレースケールであるとする。
【0040】
以上の前提で動画像A,B,C,Dの各フレームを多重化する場合には,動画像の各フレームは,次のように多重化される。
【0041】
まず,先頭フレームについては,次のように多重化される。参照関係データ入力部105は,動画像間の参照関係データを入力する。データ切り替え部110は,参照関係データに従って符号化データを多重化する順序を決定する。ここでは,次の順序に決定する。動画像Aは独立して復号できるため,まず動画像Aを選択する。動画像Bは動画像Aのみを参照するため,次に動画像Bを選択する。動画像Cは独立して復号できるため,次に動画像Cを選択する。そして動画像Dを選択する。符号化データ多重化部111は,参照関係データを多重化する。フレーム先頭位置情報設定部114は,参照関係データのデータサイズ分だけファイルサイズを加算する。
【0042】
多重化する順序に従い,データ切り替え部110は,符号化データとフレーム先頭位置情報を切り替える。まず動画像Aを選択する。動画像A符号化データ入力部101は,符号化データを1フレーム分入力し,動画像Aフレーム位置情報入力部106は,次のフレームのフレーム位置情報を入力する。符号化データ多重化部111は,符号化データを多重化する。フレーム先頭位置情報設定部114は,入力されたフレーム位置情報をファイルサイズに加算し,ファイルのフレーム位置情報として設定する。動画像番号設定部112は,動画像番号0を設定する。色空間情報設定部113は,色空間データ入力部117からの入力に基づき,色空間情報として1を設定する。管理情報多重化部116は,フレーム位置情報と動画像番号と色空間情報を多重化する。
【0043】
続いてデータ切り替え部110は,動画像Bを選択する。動画像B符号化データ入力部102は,符号化データを1フレーム分入力し,動画像Bフレーム位置情報入力部107は,次のフレームのフレーム位置情報を入力する。符号化データ多重化部111は,符号化データを多重化する。フレーム先頭位置情報設定部114は,入力されたフレーム位置情報をファイルサイズに加算し,ファイルのフレーム位置情報として設定する。動画像番号設定部112は,動画像番号1を設定する。色空間情報設定部113は,色空間情報として1を設定する。管理情報多重化部116は,フレーム位置情報と動画像番号と色空間情報を多重化する。
【0044】
続いてデータ切り替え部110は,動画像Cを選択する。動画像C符号化データ入力部103は,符号化データを1フレーム分入力し,動画像Cフレーム位置情報入力部108は,次のフレームのフレーム位置情報を入力する。符号化データ多重化部111は,符号化データを多重化する。フレーム先頭位置情報設定部114は,入力されたフレーム位置情報をファイルサイズに加算し,ファイルのフレーム位置情報として設定する。動画像番号設定部112は,動画像番号2を設定する。色空間情報設定部113は,色空間情報として0を設定する。管理情報多重化部116は,フレーム位置情報と動画像番号と色空間情報を多重化する。
【0045】
続いてデータ切り替え部110は,動画像Dを選択する。動画像D符号化データ入力部104は,符号化データを1フレーム分入力し,動画像Dフレーム位置情報入力部109は,次のフレームのフレーム位置情報を入力する。符号化データ多重化部111は,符号化データを多重化する。フレーム先頭位置情報設定部114は,入力されたフレーム位置情報をファイルサイズに加算し,ファイルのフレーム位置情報として設定する。動画像番号設定部112は,動画像番号3を設定する。色空間情報設定部113は,色空間情報として0を設定する。管理情報多重化部116は,フレーム位置情報と動画像番号と色空間情報を多重化する。
【0046】
以上の動画像A,B,C,Dの処理を多重化するフレーム全てについて続ける。最後に,ファイル多重化部115は,符号化データ多重化部111で得られる符号化データと,管理情報多重化部116で得られる管理情報を多重化してファイルを作成する。以上の処理でファイルに多重化することができる。
【0047】
本実施例では,予め符号化して得られた符号化データとファイル先頭位置情報から多重化してファイルを作成する例を示したが,符号化データを作成しつつファイルを構成してもよい。
【0048】
次に,多重化されたファイルから特定の動画像で所望の色空間の符号化データを取り出すファイル読み込み方法について動作を説明する。図2にファイル読み込み装置の構成を示す。図2に示すように,ファイル読み込み装置20は,ファイルを読み込むファイル入力部201と,管理情報を読み取る管理情報読み取り部202と,管理情報から所望の色空間情報を探索する色空間情報探索部204と,管理情報から動画像番号を判定する動画像番号判定部203と,管理情報からフレーム先頭位置情報を読み取るフレーム先頭位置情報設定部205と,フレーム先頭位置情報に従ってファイルから符号化データを読み取る符号化データ読み取り部206とで構成される。
【0049】
図1の多重化装置10で作成されたファイルからグレースケールの動画像Cの符号化データを読み取る場合の動作を示す。
【0050】
ファイル入力部201は,ファイルを入力する。管理情報読み取り部202は,ファイルの後半にある管理情報を読み取る。色空間情報探索部204は,第1フレームで色空間情報がグレースケールの動画像の管理情報を探索する。動画像番号判定部203は,探索して得られた管理情報の動画像番号が2であるかどうかを判定する。最初に探索される動画像番号は2であるので,フレーム先頭位置情報設定部205は,このフレームのフレーム先頭位置情報を設定する。符号化データ読み取り部206は,設定されたファイル位置から符号化データを読み取る。このとき,フレーム先頭位置情報設定部205で得られる次のフレームの先頭位置までを読み取る。次に第1フレームで色空間情報探索部204で探索されて動画像番号判定部203で判定される管理情報の動画像番号は3であるので,そのフレームは復号しない。
【0051】
以後のフレームについても,同様に動画像Cの符号化データを読み取る。
【0052】
ここで動画像Cの符号化データのみを読み取るようにしたが,特定の色空間の動画像の符号化データを全て読み取るようにしてもよい。この場合のファイル読み込み装置の構成は図3のファイル読み込み装置21のようになり,図2の構成から動画像番号判定部203を省いた構成となる。この場合に,グレースケールの動画像の符号化データを読み取るときには,次のように処理される。
【0053】
ファイル入力部201は,ファイルを入力する。管理情報読み取り部202は,ファイルの後半にある管理情報を読み取る。色空間情報探索部204は,第1フレームで色空間情報がグレースケールの動画像の管理情報を探索する。最初に探索される動画像番号2のフレームについて,フレーム先頭位置情報設定部205は,このフレームのフレーム先頭位置情報を設定する。符号化データ読み取り部206は,設定されたファイル位置から符号化データを読み取る。このとき,フレーム先頭位置情報設定部205で得られる次のフレームの先頭位置までを読み取る。次に第1フレームで探索される動画像番号3のフレームについて,フレーム先頭位置情報設定部205は,このフレームのフレーム先頭位置情報を設定する。符号化データ読み取り部206は,設定されたファイル位置から符号化データを読み取る。このとき,フレーム先頭位置情報設定部205で得られる次のフレームの先頭位置までを読み取る。
【0054】
以後のフレームについても,同様にグレースケールの動画像の符号化データを読み取る。
【0055】
このように本実施例によれば,符号化データ中に含まれる色空間情報を復号することなく,特定の色空間情報の符号化データを取り出すことができる。
【0056】
なお本実施例では,グレースケールの動画像の符号化データを読み込む場合の処理を示したが,YUV3色の動画像の符号化データを読み込むようにしてもよい。
【0057】
なお,本実施例の多重化装置10では,符号化データの後に管理情報を設定したが,ファイルにトラックの構造が設定されている場合には,管理情報を第一トラックに設定し,符号化データを第二トラックに設定してもよい。
【0058】
図4に,ファイル中におけるトラックや管理情報の構成例を示す。作成されたファイルには,符号化データトラック30と管理情報トラック40とがあり,符号化データトラック30には,動画像A符号化データ31,動画像B符号化データ32,…が格納される。また,管理情報トラック40には,各時刻Tnごとの管理情報41,42,43,…が格納され,これらには各々,フレーム先頭位置情報,動画像番号,色空間情報などの情報が格納される。
【0059】
第2の実施例では,異なる空間解像度の動画像データを多重化し,特定の空間解像度の符号化データを読み込む場合の例を示す。第2の実施例では,フレーム先頭の位置情報と動画像番号と空間解像度情報を管理情報として多重化し,全ての符号化データを多重化した最後に設定する場合の例を示す。第1の実施例と同様に,動画像はA,B,C,Dの4つあり,予め符号化されていて,各動画像におけるフレーム先頭の位置情報は分かっているものとする。
【0060】
図5に多重化装置の構成を示す。図5に示す多重化装置11は,動画像A,B,C,Dの符号化データをそれぞれ入力する動画像A符号化データ入力部101,動画像B符号化データ入力部102,動画像C符号化データ入力部103,動画像D符号化データ入力部104と,各動画像のフレーム先頭の動画像中の位置情報をそれぞれ入力する動画像Aフレーム位置情報入力部106,動画像Bフレーム位置情報入力部107,動画像Cフレーム位置情報入力部108,動画像Dフレーム位置情報入力部109と,動画像間の参照関係を示す情報を入力する参照関係データ入力部105と,動画像の空間解像度情報を入力する空間解像度データ入力部119と,動画像の符号化データやフレーム位置情報の入力を切り替えるデータ切り替え部110と,符号化データを多重化する符号化データ多重化部111と,動画像番号を設定する動画像番号設定部112と,空間解像度情報を設定する空間解像度情報設定部118と,フレーム位置の先頭情報を設定するフレーム先頭位置情報設定部114と,管理情報を多重化する管理情報多重化部116と,符号化データと管理情報を多重化するファイル多重化部115とから構成される。
【0061】
以上のうち,動画像番号設定部112では,動画像A,B,C,Dに対してそれぞれ動画像番号0,1,2,3を設定するものとする。動画像AからDまでのフレーム位置情報入力部106〜109は,次のフレームの位置情報を入力するものとする。フレーム先頭位置情報設定部114は,各動画像のフレーム位置情報をカウントし,符号化データ多重化部111で符号化データを多重化した後における各フレームの位置情報を設定するものとする。空間解像度情報設定部118は,空間解像度がVGA(横640縦480画素)の場合には空間解像度情報として1を設定し,QVGA(横320縦240画素)の場合には空間解像度情報として0を設定するものとする。ファイル多重化部115は,符号化データ多重化部111で作成された符号化データの後に,管理情報多重化部116で作成された管理情報を設定するものとする。符号化データ多重化部111は,参照関係データがある場合には各動画像の符号化データの前に多重化するものとする。
【0062】
データ切り替え部110は,参照関係データに従い,次のように符号化データとファイル先頭位置情報を切り替えるものとする。動画像AからDまで順に,まず独立して復号できる動画像かどうかを判定する。独立して復号できる場合には,そのまま選択する。独立して復号できない場合には,参照する動画像の符号化データを既に選択したかどうかを判定する。既に選択した場合には,そのまま選択し,まだ選択していない場合には,参照する動画像が全て選択されるまで,その動画像を選択しない。
【0063】
動画像間の参照関係は,全て動画像AとCは独立して復号でき,動画像Bは動画像Aを参照し,動画像Dは動画像Cを参照するものとする。
【0064】
動画像の空間解像度は動画像AとBはVGAであり,動画像CとDはQVGAであるとする。
【0065】
以上の前提で動画像A,B,C,Dの各フレームを多重化する場合には,動画像の各フレームは,次のように多重化される。
【0066】
まず,先頭フレームについては,次のように多重化される。参照関係データ入力部105は,動画像間の参照関係データを入力する。データ切り替え部110は,参照関係データに従って符号化データを多重化する順序を決定する。ここでは,次の順序に決定する。動画像Aは独立して復号できるため,まず動画像Aを選択する。動画像Bは動画像Aのみを参照するため,次に動画像Bを選択する。動画像Cは独立して復号できるため,次に動画像Cを選択する。そして動画像Dを選択する。符号化データ多重化部111は,参照関係データを多重化する。フレーム先頭位置情報設定部114は,参照関係データのデータサイズ分だけファイルサイズを加算する。
【0067】
多重化する順序に従い,データ切り替え部110は,符号化データとフレーム先頭位置情報を切り替える。まず動画像Aを選択する。動画像A符号化データ入力部101は,符号化データを1フレーム分入力し,動画像Aフレーム位置情報入力部106は,次のフレームのフレーム位置情報を入力する。符号化データ多重化部111は,符号化データを多重化する。フレーム先頭位置情報設定部114は,入力されたフレーム位置情報をファイルサイズに加算し,ファイルのフレーム位置情報として設定する。動画像番号設定部112は,動画像番号0を設定する。空間解像度情報設定部118は,空間解像度データ入力部119からの入力に基づき,空間解像度情報として1を設定する。管理情報多重化部116は,フレーム位置情報と動画像番号と空間解像度情報を多重化する。
【0068】
続いてデータ切り替え部110は,動画像Bを選択する。動画像B符号化データ入力部102は,符号化データを1フレーム分入力し,動画像Bフレーム位置情報入力部107は,次のフレームのフレーム位置情報を入力する。符号化データ多重化部111は,符号化データを多重化する。フレーム先頭位置情報設定部114は,入力されたフレーム位置情報をファイルサイズに加算し,ファイルのフレーム位置情報として設定する。動画像番号設定部112は,動画像番号1を設定する。空間解像度情報設定部118は,空間解像度情報として1を設定する。管理情報多重化部116は,フレーム位置情報と動画像番号と空間解像度情報を多重化する。
【0069】
続いてデータ切り替え部110は,動画像Cを選択する。動画像C符号化データ入力部103は,符号化データを1フレーム分入力し,動画像Cフレーム位置情報入力部108は,次のフレームのフレーム位置情報を入力する。符号化データ多重化部111は,符号化データを多重化する。フレーム先頭位置情報設定部114は,入力されたフレーム位置情報をファイルサイズに加算し,ファイルのフレーム位置情報として設定する。動画像番号設定部112は,動画像番号2を設定する。空間解像度情報設定部118は,空間解像度情報として0を設定する。管理情報多重化部116は,フレーム位置情報と動画像番号と空間解像度情報を多重化する。
【0070】
続いてデータ切り替え部110は,動画像Dを選択する。動画像D符号化データ入力部104は,符号化データを1フレーム分入力し,動画像Dフレーム位置情報入力部109は,次のフレームのフレーム位置情報を入力する。符号化データ多重化部111は,符号化データを多重化する。フレーム先頭位置情報設定部114は,入力されたフレーム位置情報をファイルサイズに加算し,ファイルのフレーム位置情報として設定する。動画像番号設定部112は,動画像番号3を設定する。空間解像度情報設定部118は,空間解像度情報として0を設定する。管理情報多重化部116は,フレーム位置情報と動画像番号と空間解像度情報を多重化する。
【0071】
以上の動画像A,B,C,Dの処理を多重化するフレーム全てについて続ける。最後に,ファイル多重化部115は,符号化データ多重化部111で得られる符号化データと,管理情報多重化部116で得られる管理情報を多重化してファイルを作成する。以上の処理でファイルに多重化することができる。
【0072】
本実施例では,予め符号化して得られた符号化データとファイル先頭位置情報から多重化してファイルを作成する例を示したが,符号化データを作成しつつファイルを構成してもよい。
【0073】
次に,多重化されたファイルから特定の動画像で所望の空間解像度の符号化データを取り出すファイル読み込み方法について動作を説明する。図6にファイル読み込み装置の構成を示す。図6に示すファイル読み込み装置22は,ファイルを読み込むファイル入力部201と,管理情報を読み取る管理情報読み取り部202と,管理情報から所望の空間解像度情報を探索する空間解像度情報探索部207と,管理情報から動画像番号を判定する動画像番号判定部203と,管理情報からフレーム先頭位置情報を読み取るフレーム先頭位置情報設定部205と,フレーム先頭位置情報に従ってファイルから符号化データを読み取る符号化データ読み取り部206とで構成される。
【0074】
図5の多重化装置11で作成されたファイルからQVGAの動画像Cの符号化データを読み取る場合の動作を示す。
【0075】
ファイル入力部201は,ファイルを入力する。管理情報読み取り部202は,ファイルの後半にある管理情報を読み取る。空間解像度情報探索部207は,第1フレームで空間解像度情報がQVGAの動画像の管理情報を探索する。動画像番号判定部203は,探索して得られた管理情報の動画像番号が2であるかどうかを判定する。最初に探索される動画像番号は2であるので,フレーム先頭位置情報設定部205は,このフレームのフレーム先頭位置情報を設定する。符号化データ読み取り部206は,設定されたファイル位置から符号化データを読み取る。このとき,フレーム先頭位置情報設定部205で得られる次のフレームの先頭位置までを読み取る。次に第1フレームで空間解像度情報探索部207で探索されて動画像番号判定部203で判定される管理情報の動画像番号は3であるので,そのフレームは復号しない。
【0076】
以後のフレームについても,同様に動画像Cの符号化データを読み取る。
【0077】
ここで動画像Cの符号化データのみを読み取るようにしたが,特定の空間解像度の動画像の符号化データを全て読み取るようにしてもよい。この場合のファイル読み込み装置の構成は図7のファイル読み込み装置23のようになり,図6の構成から動画像番号判定部203を省いた構成となる。この場合に,QVGAの動画像の符号化データを読み取るときには,次のように処理される。
【0078】
ファイル入力部201は,ファイルを入力する。管理情報読み取り部202は,ファイルの後半にある管理情報を読み取る。空間解像度情報探索部207は,第1フレームで空間解像度情報がQVGAの動画像の管理情報を探索する。最初に探索される動画像番号2のフレームについて,フレーム先頭位置情報設定部205は,このフレームのフレーム先頭位置情報を設定する。符号化データ読み取り部206は,設定されたファイル位置から符号化データを読み取る。このとき,フレーム先頭位置情報設定部205で得られる次のフレームの先頭位置までを読み取る。次に第1フレームで探索される動画像番号3のフレームについて,フレーム先頭位置情報設定部205は,このフレームのフレーム先頭位置情報を設定する。符号化データ読み取り部206は,設定されたファイル位置から符号化データを読み取る。このとき,フレーム先頭位置情報設定部205で得られる次のフレームの先頭位置までを読み取る。
【0079】
以後のフレームについても,同様にQVGAの動画像の符号化データを読み取る。
【0080】
このように本実施例によれば,符号化データ中に含まれる空間解像度情報を復号することなく,特定の空間解像度情報の符号化データを取り出すことができる。
【0081】
なお本実施例では,QVGAの動画像の符号化データを読み込む場合の処理を示したが,VGAの動画像の符号化データを読み込むようにしてもよい。
【0082】
なお,本実施例の多重化装置11では,符号化データの後に管理情報を設定したが,ファイルにトラックの構造が設定されている場合には,管理情報を第一トラックに設定し,符号化データを第二トラックに設定してもよい。
【0083】
図8に,ファイル中におけるトラックや管理情報の構成例を示す。作成されたファイルには,符号化データトラック30と管理情報トラック40とがあり,符号化データトラック30には,動画像A符号化データ31,動画像B符号化データ32,…が格納される。また,管理情報トラック40には,各時刻Tnごとの管理情報41,42,43,…が格納され,これらには各々,フレーム先頭位置情報,動画像番号,空間解像度情報などの情報が格納される。
【0084】
第3の実施例では,異なるビット深度の動画像データを多重化し,特定のビット深度の符号化データを読み込む場合の例を示す。第3の実施例では,フレーム先頭の位置情報と動画像番号とビット深度情報を管理情報として多重化し,全ての符号化データを多重化した最後に設定する場合の例を示す。第1の実施例と同様に,動画像はA,B,C,Dの4つあり,予め符号化されていて,各動画像におけるフレーム先頭の位置情報は分かっているものとする。
【0085】
図9に多重化装置の構成を示す。図9に示す多重化装置12は,動画像A,B,C,Dの符号化データをそれぞれ入力する動画像A符号化データ入力部101,動画像B符号化データ入力部102,動画像C符号化データ入力部103,動画像D符号化データ入力部104と,各動画像のフレーム先頭の動画像中の位置情報をそれぞれ入力する動画像Aフレーム位置情報入力部106,動画像Bフレーム位置情報入力部107,動画像Cフレーム位置情報入力部108,動画像Dフレーム位置情報入力部109と,動画像間の参照関係を示す情報を入力する参照関係データ入力部105と,動画像のビット深度情報を入力するビット深度データ入力部121と,動画像の符号化データやフレーム位置情報の入力を切り替えるデータ切り替え部110と,符号化データを多重化する符号化データ多重化部111と,動画像番号を設定する動画像番号設定部112と,ビット深度情報を設定するビット深度情報設定部120と,フレーム位置の先頭情報を設定するフレーム先頭位置情報設定部114と,管理情報を多重化する管理情報多重化部116と,符号化データと管理情報を多重化するファイル多重化部115とから構成される。
【0086】
以上のうち,動画像番号設定部112では,動画像A,B,C,Dに対してそれぞれ動画像番号0,1,2,3を設定するものとする。動画像AからDまでのフレーム位置情報入力部106〜109は,次のフレームの位置情報を入力するものとする。フレーム先頭位置情報設定部114は,各動画像のフレーム位置情報をカウントし,符号化データ多重化部111で符号化データを多重化した後における各フレームの位置情報を設定するものとする。ビット深度情報設定部120は,ビット深度が10ビットの場合にはビット深度情報として1を設定し,8ビットの場合にはビット深度情報として0を設定するものとする。ファイル多重化部115は,符号化データ多重化部111で作成された符号化データの後に,管理情報多重化部116で作成された管理情報を設定するものとする。符号化データ多重化部111は,参照関係データがある場合には各動画像の符号化データの前に多重化するものとする。
【0087】
データ切り替え部110は,参照関係データに従い,次のように符号化データとファイル先頭位置情報を切り替えるものとする。動画像AからDまで順に,まず独立して復号できる動画像かどうかを判定する。独立して復号できる場合には,そのまま選択する。独立して復号できない場合には,参照する動画像の符号化データを既に選択したかどうかを判定する。既に選択した場合には,そのまま選択し,まだ選択していない場合には,参照する動画像が全て選択されるまで,その動画像を選択しない。
【0088】
動画像間の参照関係は,全て動画像AとCは独立して復号でき,動画像Bは動画像Aを参照し,動画像Dは動画像Cを参照するものとする。
【0089】
動画像のビット深度は動画像AとBは10ビットであり,動画像CとDは8ビットであるとする。
【0090】
以上の前提で動画像A,B,C,Dの各フレームを多重化する場合には,次のように多重化される。
【0091】
まず,先頭フレームについては次のように多重化される。参照関係データ入力部105は,動画像間の参照関係データを入力する。データ切り替え部110は,参照関係データに従って符号化データを多重化する順序を決定する。ここでは,次の順序に決定する。動画像Aは独立して復号できるため,まず動画像Aを選択する。動画像Bは動画像Aのみを参照するため,次に動画像Bを選択する。動画像Cは独立して復号できるため,次に動画像Cを選択する。そして動画像Dを選択する。符号化データ多重化部111は,参照関係データを多重化する。フレーム先頭位置情報設定部114は,参照関係データのデータサイズ分だけファイルサイズを加算する。
【0092】
多重化する順序に従い,データ切り替え部110は,符号化データとフレーム先頭位置情報を切り替える。まず動画像Aを選択する。動画像A符号化データ入力部101は,符号化データを1フレーム分入力し,動画像Aフレーム位置情報入力部106は,次のフレームのフレーム位置情報を入力する。符号化データ多重化部111は,符号化データを多重化する。フレーム先頭位置情報設定部114は,入力されたフレーム位置情報をファイルサイズに加算し,ファイルのフレーム位置情報として設定する。動画像番号設定部112は,動画像番号0を設定する。ビット深度情報設定部120は,ビット深度データ入力部121からの入力に基づき,ビット深度情報として1を設定する。管理情報多重化部116は,フレーム位置情報と動画像番号とビット深度情報を多重化する。
【0093】
続いてデータ切り替え部110は,動画像Bを選択する。動画像B符号化データ入力部102は,符号化データを1フレーム分入力し,動画像Bフレーム位置情報入力部107は,次のフレームのフレーム位置情報を入力する。符号化データ多重化部111は,符号化データを多重化する。フレーム先頭位置情報設定部114は,入力されたフレーム位置情報をファイルサイズに加算し,ファイルのフレーム位置情報として設定する。動画像番号設定部112は,動画像番号1を設定する。ビット深度情報設定部120は,ビット深度情報として1を設定する。管理情報多重化部116は,フレーム位置情報と動画像番号とビット深度情報を多重化する。
【0094】
続いてデータ切り替え部110は,動画像Cを選択する。動画像C符号化データ入力部103は,符号化データを1フレーム分入力し,動画像Cフレーム位置情報入力部108は,次のフレームのフレーム位置情報を入力する。符号化データ多重化部111は,符号化データを多重化する。フレーム先頭位置情報設定部114は,入力されたフレーム位置情報をファイルサイズに加算し,ファイルのフレーム位置情報として設定する。動画像番号設定部112は,動画像番号2を設定する。ビット深度情報設定部120は,ビット深度情報として0を設定する。管理情報多重化部116は,フレーム位置情報と動画像番号とビット深度情報を多重化する。
【0095】
続いてデータ切り替え部110は,動画像Dを選択する。動画像D符号化データ入力部104は,符号化データを1フレーム分入力し,動画像Dフレーム位置情報入力部109は,次のフレームのフレーム位置情報を入力する。符号化データ多重化部111は,符号化データを多重化する。フレーム先頭位置情報設定部114は,入力されたフレーム位置情報をファイルサイズに加算し,ファイルのフレーム位置情報として設定する。動画像番号設定部112は,動画像番号3を設定する。ビット深度情報設定部120は,ビット深度情報として0を設定する。管理情報多重化部116は,フレーム位置情報と動画像番号とビット深度情報を多重化する。
【0096】
以上の動画像A,B,C,Dの処理を多重化するフレーム全てについて続ける。最後に,ファイル多重化部115は,符号化データ多重化部111で得られる符号化データと,管理情報多重化部116で得られる管理情報を多重化してファイルを作成する。以上の処理でファイルに多重化することができる。
【0097】
本実施例では,予め符号化して得られた符号化データとファイル先頭位置情報から多重化してファイルを作成する例を示したが,符号化データを作成しつつファイルを構成してもよい。
【0098】
次に,多重化されたファイルから特定の動画像で所望のビット深度の符号化データを取り出すファイル読み込み方法について動作を説明する。図10にファイル読み込み装置の構成を示す。図10に示すファイル読み込み装置24は,ファイルを読み込むファイル入力部201と,管理情報を読み取る管理情報読み取り部202と,管理情報から所望のビット深度情報を探索するビット深度情報探索部208と,管理情報から動画像番号を判定する動画像番号判定部203と,管理情報からフレーム先頭位置情報を読み取るフレーム先頭位置情報設定部205と,フレーム先頭位置情報に従ってファイルから符号化データを読み取る符号化データ読み取り部206とで構成される。
【0099】
図9の多重化装置12で作成されたファイルから8ビットの動画像Cの符号化データを読み取る場合の動作を示す。
【0100】
ファイル入力部201は,ファイルを入力する。管理情報読み取り部202は,ファイルの後半にある管理情報を読み取る。ビット深度情報探索部208は,第1フレームでビット深度情報が8ビットの動画像の管理情報を探索する。動画像番号判定部203は,探索して得られた管理情報の動画像番号が2であるかどうかを判定する。最初に探索される動画像番号は2であるので,フレーム先頭位置情報設定部205は,このフレームのフレーム先頭位置情報を設定する。符号化データ読み取り部206は,設定されたファイル位置から符号化データを読み取る。このとき,フレーム先頭位置情報設定部205で得られる次のフレームの先頭位置までを読み取る。次に第1フレームでビット深度情報探索部208で探索されて動画像番号判定部203で判定される管理情報の動画像番号は3であるので,そのフレームは復号しない。
【0101】
以後のフレームについても,同様に動画像Cの符号化データを読み取る。
【0102】
ここで動画像Cの符号化データのみを読み取るようにしたが,特定のビット深度の動画像の符号化データを全て読み取るようにしてもよい。この場合のファイル読み込み装置の構成は図11のファイル読み込み装置25のようになり,図10の構成から動画像番号判定部203を省いた構成となる。この場合に,8ビットの動画像の符号化データを読み取るときには,次のように処理される。
【0103】
ファイル入力部201は,ファイルを入力する。管理情報読み取り部202は,ファイルの後半にある管理情報を読み取る。ビット深度情報探索部208は,第1フレームでビット深度情報が8ビットの動画像の管理情報を探索する。最初に探索される動画像番号2のフレームについて,フレーム先頭位置情報設定部205は,このフレームのフレーム先頭位置情報を設定する。符号化データ読み取り部206は,設定されたファイル位置から符号化データを読み取る。このとき,フレーム先頭位置情報設定部205で得られる次のフレームの先頭位置までを読み取る。次に第1フレームで探索される動画像番号3のフレームについて,フレーム先頭位置情報設定部205は,このフレームのフレーム先頭位置情報を設定する。符号化データ読み取り部206は,設定されたファイル位置から符号化データを読み取る。このとき,フレーム先頭位置情報設定部205で得られる次のフレームの先頭位置までを読み取る。
【0104】
以後のフレームについても,同様に8ビットの動画像の符号化データを読み取る。
【0105】
このように本実施例によれば,符号化データ中に含まれるビット深度情報を復号することなく,特定のビット深度情報の符号化データを取り出すことができる。
【0106】
なお本実施例では,8ビットの動画像の符号化データを読み込む場合の処理を示したが,10ビットの動画像の符号化データを読み込むようにしてもよい。
【0107】
なお,本実施例の多重化装置12では,符号化データの後に管理情報を設定したが,ファイルにトラックの構造が設定されている場合には,管理情報を第一トラックに設定し,符号化データを第二トラックに設定してもよい。
【0108】
図12に,ファイル中におけるトラックや管理情報の構成例を示す。作成されたファイルには,符号化データトラック30と管理情報トラック40とがあり,符号化データトラック30には,動画像A符号化データ31,動画像B符号化データ32,…が格納される。また,管理情報トラック40には,各時刻Tnごとの管理情報41,42,43,…が格納され,これらには各々,フレーム先頭位置情報,動画像番号,ビット深度情報などの情報が格納される。
【0109】
以上の実施例で異なる色空間や空間解像度やビット深度の動画像の符号化データを多重化する装置と,特定の動画像を読み取る装置の動作の例を示した。本発明は,色空間や空間解像度やビット深度のうち,いずれかが異なるのではなく,組み合わせて異なる場合にも適用できる。例えば,色空間と空間解像度が同時に異なる場合の動画像の符号化データを多重化してもよい。この場合の多重化では,管理情報として,色空間情報と空間解像度情報が同時に多重化される。
【0110】
また,以上の実施例の説明では,フレーム単位に管理情報を設定する例について説明したが,フレームを分割したスライス単位に管理情報を設定してもよい。この場合には,管理情報はフレーム先頭位置の代わりに,スライス先頭位置情報を含む。また,多重化や読み取りもフレーム単位ではなく,スライス単位で行う。すなわち,上記実施例の説明において,フレームをスライスに読み替えて本発明を実施することも可能である。
【0111】
以上の多重化装置およびファイル読み込み装置による処理は,コンピュータとソフトウェアプログラムとによって実現することもでき,そのプログラムをコンピュータ読み取り可能な記録媒体に記録して提供することも,ネットワークを通して提供することも可能である。
【図面の簡単な説明】
【0112】
【図1】第1の実施例における多重化装置の構成を示す図である。
【図2】第1の実施例におけるファイル読み込み装置の構成1を示す図である。
【図3】第1の実施例におけるファイル読み込み装置の構成2を示す図である。
【図4】第1の実施例のファイル中におけるトラックと管理情報の構成例を示す図である。
【図5】第2の実施例における多重化装置の構成を示す図である。
【図6】第2の実施例におけるファイル読み込み装置の構成1を示す図である。
【図7】第2の実施例におけるファイル読み込み装置の構成2を示す図である。
【図8】第2の実施例のファイル中におけるトラックと管理情報の構成例を示す図である。
【図9】第3の実施例における多重化装置の構成を示す図である。
【図10】第3の実施例におけるファイル読み込み装置の構成1を示す図である。
【図11】第3の実施例におけるファイル読み込み装置の構成2を示す図である。
【図12】第3の実施例のファイル中におけるトラックと管理情報の構成例を示す図である。
【図13】スケーラブル符号化の概念を示す図である。
【図14】MVCの参照関係の例を示す図である。
【図15】MVCの符号化データの構成例を示す図である。
【図16】ファイル中におけるトラックや管理情報の構成例を示す図である。
【符号の説明】
【0113】
10,11,12 多重化装置
101 動画像A符号化データ入力部
102 動画像B符号化データ入力部
103 動画像C符号化データ入力部
104 動画像D符号化データ入力部
105 参照関係データ入力部
106 動画像Aフレーム位置情報入力部
107 動画像Bフレーム位置情報入力部
108 動画像Cフレーム位置情報入力部
109 動画像Dフレーム位置情報入力部
110 データ切り替え部
111 符号化データ多重化部
112 動画像番号設定部
113 色空間情報設定部
114 フレーム先頭位置情報設定部
115 ファイル多重化部
116 管理情報多重化部
117 色空間データ入力部
118 空間解像度情報設定部
119 空間解像度データ入力部
120 ビット深度情報設定部
121 ビット深度データ入力部
20,21,22,23,24,25 ファイル読み込み装置
201 ファイル入力部
202 管理情報読み取り部
203 動画像番号判定部
204 色空間情報探索部
205 フレーム先頭位置情報設定部
206 符号化データ読み取り部
207 空間解像度情報探索部
208 ビット深度情報探索部

【特許請求の範囲】
【請求項1】
異なる色空間を持つ複数の動画像の間で予測符号化して作成された符号化データを多重化してファイルを構成する多重化方法であって,
動画像のフレームまたはスライス先頭のファイル中の位置情報と,動画像を区別する動画像番号と,該フレームまたはスライスの色空間を示す色空間情報を多重化する過程と,
前記多重化した情報を,各動画像のフレームまたはスライスの復号対象となる符号化データとは別の特定の位置に設定してファイルを構成する過程と,
を有することを特徴とする動画像の多重化方法。
【請求項2】
異なる色空間を持つ複数の動画像の間で予測符号化して作成された符号化データを多重化してファイルを構成する多重化方法であって,
動画像のフレームまたはスライス先頭のファイル中の位置情報と,動画像を区別する動画像番号と,該フレームまたはスライスの色空間を示す色空間情報を第一のトラックとし,
各フレームまたはスライスの符号化データを第二のトラックとして,
前記第一のトラックと前記第二のトラックとをそれぞれ独立に多重化してファイルを構成する
ことを特徴とする動画像の多重化方法。
【請求項3】
異なる空間解像度を持つ複数の動画像の間で予測符号化して作成された符号化データを多重化してファイルを構成する多重化方法であって,
動画像のフレームまたはスライス先頭のファイル中の位置情報と,動画像を区別する動画像番号と,該フレームまたはスライスの空間解像度情報を多重化する過程と,
前記多重化した情報を,各動画像のフレームまたはスライスの復号対象となる符号化データとは別の特定の位置に設定してファイルを構成する過程と,
を有することを特徴とする動画像の多重化方法。
【請求項4】
異なる空間解像度を持つ複数の動画像の間で予測符号化して作成された符号化データを多重化してファイルを構成する多重化方法であって,
動画像のフレームまたはスライス先頭のファイル中の位置情報と,動画像を区別する動画像番号と,該フレームまたはスライスの空間解像度情報を第一のトラックとし,
各フレームまたはスライスの符号化データを第二のトラックとして,
前記第一のトラックと前記第二のトラックとをそれぞれ独立に多重化してファイルを構成する
ことを特徴とする動画像の多重化方法。
【請求項5】
異なるビット深度を持つ複数の動画像の間で予測符号化して作成された符号化データを多重化してファイルを構成する多重化方法であって,
動画像のフレームまたはスライス先頭のファイル中の位置情報と,動画像を区別する動画像番号と,該フレームまたはスライスのビット深度情報を多重化する過程と,
前記多重化した情報を,各動画像のフレームまたはスライスの復号対象となる符号化データとは別の特定の位置に設定してファイルを構成する過程と,
を有することを特徴とする動画像の多重化方法。
【請求項6】
異なるビット深度を持つ複数の動画像の間で予測符号化して作成された符号化データを多重化してファイルを構成する多重化方法であって,
動画像のフレームまたはスライス先頭のファイル中の位置情報と,動画像を区別する動画像番号と,該フレームまたはスライスのビット深度情報を第一のトラックとし,
各フレームまたはスライスの符号化データを第二のトラックとして,
前記第一のトラックと前記第二のトラックとをそれぞれ独立に多重化してファイルを構成する
ことを特徴とする動画像の多重化方法。
【請求項7】
異なる色空間を持つ複数の動画像の間で予測符号化して作成された符号化データを多重化してファイルを構成する多重化装置であって,
動画像のフレームまたはスライス先頭のファイル中の位置情報と,動画像を区別する動画像番号と,該フレームまたはスライスの色空間を示す色空間情報を多重化した管理情報を作成する管理情報多重化部と,
各動画像のフレームまたはスライスの復号対象となる符号化データとは別の特定の位置に前記管理情報多重化部で作成された管理情報を設定するファイル多重化部と,
を備えることを特徴とする動画像の多重化装置。
【請求項8】
異なる色空間を持つ複数の動画像の間で予測符号化して作成された符号化データを多重化してファイルを構成する多重化装置であって,
動画像のフレームまたはスライス先頭のファイル中の位置情報と,動画像を区別する動画像番号と,該フレームまたはスライスの色空間を示す色空間情報を第一のトラックとして多重化する管理情報多重化部と,
各フレームまたはスライスの符号化データを第二のトラックとして多重化する符号化データ多重化部と,
前記第一のトラックと前記第二のトラックとを多重化してファイルを構成するファイル多重化部と,
を備えることを特徴とする動画像の多重化装置。
【請求項9】
異なる空間解像度を持つ複数の動画像の間で予測符号化して作成された符号化データを多重化してファイルを構成する多重化装置であって,
動画像のフレームまたはスライス先頭のファイル中の位置情報と,動画像を区別する動画像番号と,該フレームまたはスライスの空間解像度情報を多重化した管理情報を作成する管理情報多重化部と,
各動画像のフレームまたはスライスの復号対象となる符号化データとは別の特定の位置に前記管理情報多重化部で作成された管理情報を設定するファイル多重化部と,
を備えることを特徴とする動画像の多重化装置。
【請求項10】
異なる空間解像度を持つ複数の動画像の間で予測符号化して作成された符号化データを多重化してファイルを構成する多重化装置であって,
動画像のフレームまたはスライス先頭のファイル中の位置情報と,動画像を区別する動画像番号と,該フレームまたはスライスの空間解像度情報を第一のトラックとして多重化する管理情報多重化部と,
各フレームまたはスライスの符号化データを第二のトラックとして多重化する符号化データ多重化部と,
前記第一のトラックと前記第二のトラックとを多重化してファイルを構成するファイル多重化部と,
を備えることを特徴とする動画像の多重化装置。
【請求項11】
異なるビット深度を持つ複数の動画像の間で予測符号化して作成された符号化データを多重化してファイルを構成する多重化装置であって,
動画像のフレームまたはスライス先頭のファイル中の位置情報と,動画像を区別する動画像番号と,該フレームまたはスライスのビット深度情報を多重化した管理情報を作成する管理情報多重化部と,
各動画像のフレームまたはスライスの復号対象となる符号化データとは別の特定の位置に前記管理情報多重化部で作成された管理情報を設定するファイル多重化部と,
を備えることを特徴とする動画像の多重化装置。
【請求項12】
異なるビット深度を持つ複数の動画像の間で予測符号化して作成された符号化データを多重化してファイルを構成する多重化装置であって,
動画像のフレームまたはスライス先頭のファイル中の位置情報と,動画像を区別する動画像番号と,該フレームまたはスライスのビット深度情報を第一のトラックとして多重化する管理情報多重化部と,
各フレームまたはスライスの符号化データを第二のトラックとして多重化する符号化データ多重化部と,
前記第一のトラックと前記第二のトラックとを多重化してファイルを構成するファイル多重化部と,
を備えることを特徴とする動画像の多重化装置。
【請求項13】
異なる色空間を持つ複数の動画像の間で予測符号化して作成された符号化データとその管理情報データとが多重化されて格納されているファイルから復号対象となる符号化データを読み込む方法であって,
前記ファイルから,動画像のフレームまたはスライス先頭のファイル中の位置情報と,動画像を区別する動画像番号と,該フレームまたはスライスの色空間を示す色空間情報とが含まれる管理情報データを読み込む過程と,
予め設定した色空間情報を持つ管理情報を前記管理情報データから探索する過程と,
探索した管理情報中の予め設定した色空間情報となるフレームまたはスライスの先頭位置情報を読み取る過程と,
読み取ったフレームまたはスライス先頭位置の符号化データを読み取る過程と,
を有することを特徴とする動画像のファイル読み込み方法。
【請求項14】
異なる空間解像度を持つ複数の動画像の間で予測符号化して作成された符号化データとその管理情報データとが多重化されて格納されているファイルから復号対象となる符号化データを読み込む方法であって,
前記ファイルから,動画像のフレームまたはスライス先頭のファイル中の位置情報と,動画像を区別する動画像番号と,該フレームまたはスライスの空間解像度を示す空間解像度情報とが含まれる管理情報データを読み込む過程と,
予め設定した空間解像度情報を持つ管理情報を前記管理情報データから探索する過程と,
探索した管理情報中の予め設定した空間解像度情報となるフレームまたはスライスの先頭位置情報を読み取る過程と,
読み取ったフレームまたはスライス先頭位置の符号化データを読み取る過程と,
を有することを特徴とする動画像のファイル読み込み方法。
【請求項15】
異なるビット深度を持つ複数の動画像の間で予測符号化して作成された符号化データとその管理情報データとが多重化されて格納されているファイルから復号対象となる符号化データを読み込む方法であって,
前記ファイルから,動画像のフレームまたはスライス先頭のファイル中の位置情報と,動画像を区別する動画像番号と,該フレームまたはスライスのビット深度を示すビット深度情報とが含まれる管理情報データを読み込む過程と,
予め設定したビット深度情報を持つ管理情報を前記管理情報データから探索する過程と,
探索した管理情報中の予め設定したビット深度情報となるフレームまたはスライスの先頭位置情報を読み取る過程と,
読み取ったフレームまたはスライス先頭位置の符号化データを読み取る過程と,
を有することを特徴とする動画像のファイル読み込み方法。
【請求項16】
異なる色空間を持つ複数の動画像の間で予測符号化して作成された符号化データとその管理情報データとが多重化されて格納されているファイルから復号対象となる符号化データを読み込む装置であって,
前記ファイルから,動画像のフレームまたはスライス先頭のファイル中の位置情報と,動画像を区別する動画像番号と,該フレームまたはスライスの色空間を示す色空間情報とが含まれる管理情報データを読み込む管理情報読み取り部と,
予め設定した色空間情報を持つ管理情報を前記管理情報データから探索する色空間情報探索部と,
探索した管理情報中の予め設定した色空間情報となるフレームまたはスライスの先頭位置情報を読み取るフレームまたはスライス先頭位置情報設定部と,
読み取ったフレームまたはスライス先頭位置の符号化データを読み取る符号化データ読み取り部と,
を備えることを特徴とする動画像のファイル読み込み装置。
【請求項17】
異なる空間解像度を持つ複数の動画像の間で予測符号化して作成された符号化データとその管理情報データとが多重化されて格納されているファイルから復号対象となる符号化データを読み込む装置であって,
前記ファイルから,動画像のフレームまたはスライス先頭のファイル中の位置情報と,動画像を区別する動画像番号と,該フレームまたはスライスの空間解像度を示す空間解像度情報とが含まれる管理情報データを読み込む管理情報読み取り部と,
予め設定した空間解像度情報を持つ管理情報を前記管理情報データから探索する空間解像度情報探索部と,
探索した管理情報中の予め設定した空間解像度情報となるフレームまたはスライスの先頭位置情報を読み取るフレームまたはスライス先頭位置情報設定部と,
読み取ったフレームまたはスライス先頭位置の符号化データを読み取る符号化データ読み取り部と,
を備えることを特徴とする動画像のファイル読み込み装置。
【請求項18】
異なるビット深度を持つ複数の動画像の間で予測符号化して作成された符号化データとその管理情報データとが多重化されて格納されているファイルから復号対象となる符号化データを読み込む装置であって,
前記ファイルから,動画像のフレームまたはスライス先頭のファイル中の位置情報と,動画像を区別する動画像番号と,該フレームまたはスライスのビット深度を示すビット深度情報とが含まれる管理情報データを読み込む管理情報読み取り部と,
予め設定したビット深度情報を持つ管理情報を前記管理情報データから探索するビット深度情報探索部と,
探索した管理情報中の予め設定したビット深度情報となるフレームまたはスライスの先頭位置情報を読み取るフレームまたはスライス先頭位置情報設定部と,
読み取ったフレームまたはスライス先頭位置の符号化データを読み取る符号化データ読み取り部と,
を備えることを特徴とする動画像のファイル読み込み装置。
【請求項19】
請求項1から請求項6までのいずれか1項に記載の動画像の多重化方法を,コンピュータに実行させるための動画像の多重化プログラム。
【請求項20】
請求項19に記載の動画像の多重化プログラムを記録したコンピュータ読み取り可能な記録媒体。
【請求項21】
請求項13から請求項15までのいずれか1項に記載の動画像のファイル読み込み方法を,コンピュータに実行させるための動画像のファイル読み込みプログラム。
【請求項22】
請求項21に記載の動画像のファイル読み込みプログラムを記録したコンピュータ読み取り可能な記録媒体。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7】
image rotate

【図8】
image rotate

【図9】
image rotate

【図10】
image rotate

【図11】
image rotate

【図12】
image rotate

【図13】
image rotate

【図14】
image rotate

【図15】
image rotate

【図16】
image rotate


【公開番号】特開2009−164937(P2009−164937A)
【公開日】平成21年7月23日(2009.7.23)
【国際特許分類】
【出願番号】特願2008−1010(P2008−1010)
【出願日】平成20年1月8日(2008.1.8)
【出願人】(000004226)日本電信電話株式会社 (13,992)
【Fターム(参考)】