符号化システム
【課題】ビデオ・データがいくつかの層により、スケーラブルに符号化されると、受信端末は、端末のプロファイルに応じてデータの一部分を、受信されたビットストリームから抽出することを可能にする。
【解決手段】自身のネットワーク抽象化層(「NAL」)ユニット・タイプを有し、SVC環境において非ベース層の層依存性パラメータの伝送を可能にする補助シーケンス・パラメータ・セット(「SPS」)構造を提供する。補助SPS情報構造は更に、MVC情報におけるビュー情報に使用することができる。一般的な局面では、(1)画像系列の第1の層の符号化の復号化に使用するためのパラメータを表す、SPS NALユニットからの情報、及び(2)SPS NALユニットとは別の構造を有する補助SPS NALユニットからの情報であって、画像系列の第2の層の符号化の復号化において使用するためのパラメータを表す情報を含む構造が提供される。
【解決手段】自身のネットワーク抽象化層(「NAL」)ユニット・タイプを有し、SVC環境において非ベース層の層依存性パラメータの伝送を可能にする補助シーケンス・パラメータ・セット(「SPS」)構造を提供する。補助SPS情報構造は更に、MVC情報におけるビュー情報に使用することができる。一般的な局面では、(1)画像系列の第1の層の符号化の復号化に使用するためのパラメータを表す、SPS NALユニットからの情報、及び(2)SPS NALユニットとは別の構造を有する補助SPS NALユニットからの情報であって、画像系列の第2の層の符号化の復号化において使用するためのパラメータを表す情報を含む構造が提供される。
【発明の詳細な説明】
【技術分野】
【0001】
本出願は、(1)「Supplemental Sequence Parameter Set for Scalable Video Coding or Multi−view Video Coding」と題する、西暦2007年4月18日付け出願の米国特許仮出願第60/923993号明細書(代理人整理番号PU070101)、及び(2)「Supplemental Sequence Parameter Set for Scalable Video Coding or Multi−view Video Coding」と題する、西暦2007年6月28日付け出願の米国特許仮出願第11/824006号明細書PA070032)それぞれの利益を主張し、上記(1)及び(2)それぞれの全部の内容を全ての目的で本明細書及び特許請求の範囲に援用する。
【0002】
少なくとも1つの実現形態は、ビデオ・データをスケーラブルに符号化し、復号化する方法に関する。
【背景技術】
【0003】
データが向けられる端末が、種々の容量を有し、よって、完全なデータ・ストリームを復号化しないが、完全なデータ・ストリームの一部のみを復号化する場合に、いくつかの層によるビデオ・データの符号化が有用であり得る。
【発明の概要】
【発明が解決しようとする課題】
【0004】
ビデオ・データがいくつかの層により、スケーラブルに符号化されると、受信端末は、端末のプロファイルに応じてデータの一部分を、受信されたビットストリームから抽出することが可能である。完全なデータ・ストリームは、端末において層それぞれの復号化を容易にするために、サポートされた層それぞれのオーバヘッド情報も伝送することができる。
【課題を解決するための手段】
【0005】
上記課題を解決するため、本発明に係る方法は、シーケンス・パラメータ・セット(「SPS」)ネットワーク抽象化層(「NAL」)ユニットからの情報にアクセスする工程であって、情報が、画像系列内の画像の第1の層の符号化の復号化に使用するためのパラメータを表す工程と、SPS NALユニットのNALユニット・タイプ符号とは別のNALユニット・タイプ符号を有し、SPS NALユニットとは別の構文構造を有する補助SPS NALユニットからの補助情報にアクセスする工程であって、補助SPS NALユニットからの補助情報は、画像系列内の画像の第2の層の符号化の復号化に使用するためのパラメータを表す工程と、SPS NALユニットからのアクセスされた情報、及び補助SPS NALユニットからのアクセスされた補助情報それぞれに基づいて第1の層の符号化及び第2の層の符号化を復号化する工程とを含むようにしている。
さらに、本発明に係る方法は、SPS NALユニットは、H.264/MPEG−4AVC標準又は関係する標準に準拠し、補助SPS NALユニットは、H.264/MPEG−4AVC標準又は関係する標準のスケーラブルなビデオ符号化(「SVC」)拡張に準拠するようにしている。
さらに、本発明に係る方法は、補助SPS NALユニットは専用のNALユニット・タイプを有し、標準はそれにより、補助SPS NALユニット・タイプを有するNALユニットをAVC復号化器が無視することを可能にし、補助SPS NALユニット・タイプを有するNALユニットに応じてSVC復号化器が動作することを必要とすることにより、AVC復号化器とSVC復号化器との間と互換性を可能にするようにしている。
さらに、本発明に係る方法は、補助SPS NALユニットの構文は層依存性パラメータを定めるようにしている。
さらに、本発明に係る方法は、補助SPS NALユニットは、少なくとも1つの層の層依存性情報を含むようにしている。
さらに、本発明に係る方法は、第2の層の符号化の復号化に使用するためのパラメータはビデオ有用性情報(「VUI」)パラメータを含むようにしている。
さらに、本発明に係る方法は、第2の層の符号化の復号化に使用するためのパラメータは仮想参照復号化器(「HRD」)パラメータを含むようにしている。
さらに、本発明に係る方法は、SPS NALユニットは、H.264/MPEG−4 AVC標準又は関連した標準におけるSPS NALユニットに準拠し、補助SPS NALユニットは、H.264/MPEG−4 AVC標準又は関連した標準のSVC拡張におけるサブセットSPS NALユニットに準拠するようにしている。
さらに、本発明に係る方法は、補助SPS NALユニットは、補助SPS NALユニットにおいて受信された情報に応じて復号化器が動作することが必要な標準に準拠するようにしている。
さらに、本発明に係る方法は、第1の層の符号化は、空間レベル、品質レベル及び時間レベルのうちの1つ又は複数について、第2の層の符号化とは異なるレベルを有するようにしている。
さらに、本発明に係る方法は、SPS NALユニットからの情報及び補助SPS NALユニットからの情報は、伝送チャネルを介して受信されたビットストリームからアクセスされるようにしている。
さらに、本発明に係る方法は、SPS NALユニットからの情報へのアクセス、補助SPS NALユニットからの情報へのアクセス、及び復号化の生成は、復号化器で行われるようにしている。
さらに、本発明に係る方法は、SPS NALユニットからの情報へのアクセス、補助SPS NALユニットからの情報へのアクセス、及び復号化は、符号化器で行われるようにしている。
上記課題を解決するため、本発明に係る装置は、少なくとも、シーケンス・パラメータ・セット(「SPS」)ネットワーク抽象化層(「NAL」)ユニットからの情報にアクセスする機能であって、情報が、画像系列内の画像の第1の層の符号化の復号化に使用するためのパラメータを表す機能と、SPS NALユニットのNALユニット・タイプ符号とは別のNALユニット・タイプ符号を有し、SPS NALユニットとは別の構文構造を有する補助SPS NALユニットからの補助情報にアクセスする機能であって、補助SPS NALユニットからの補助情報は、画像系列内の画像の第2の層の符号化の復号化に使用するためのパラメータを表す機能と、SPS NALユニットからのアクセスされた情報、及び補助SPS NALユニットからのアクセスされた補助情報それぞれに基づいて第1の層の符号化及び第2の層の符号化を復号化する機能を行うための、プロセッサ読み取り可能な媒体上に記憶された命令を含むプロセッサ読み取り可能な媒体を備えるようにしている。
さらに、本発明に係る装置は、シーケンス・パラメータ・セット(「SPS」)ネットワーク抽象化層(「NAL」)ユニットからの情報にアクセスする手段であって、情報が、画像系列内の画像の第1の層の符号化の復号化に使用するためのパラメータを表わす手段と、SPS NALユニットのNALユニット・タイプ符号とは別のNALユニット・タイプ符号を有し、SPS NALユニットとは別の構文構造を有する補助SPS NALユニットからの補助情報にアクセスする手段であって、補助SPS NALユニットからの補助情報は、画像系列内の画像の第2の層の符号化の復号化に使用するためのパラメータを表す手段と、SPS NALユニットからのアクセスされた情報、及び補助SPS NALユニットからのアクセスされた補助情報それぞれに基づいて第1の層の符号化及び第2の層の符号化を復号化する手段と、を備えるようにしている。
さらに、本発明に係る装置は、シーケンス・パラメータ・セット(「SPS」)ネットワーク抽象化層(「NAL」)ユニットからの情報にアクセスする機能であって、画像の系列内の画像の第1の層の符号化の復号化において使用するためのパラメータを表す機能と、SPS NALユニットのNALユニット・タイプとは別のNALユニット・タイプ符号を有し、SPS NALユニットとは別の構文構造を有する補助SPS NALユニットからの補助情報にアクセスする機能であって、補助SPS NALユニットからの補助情報は、画像系列内の画像の第2の層の符号化の復号化に使用するためのパラメータを表す機能と、SPS NALユニットからのアクセスされた情報、及び補助SPS NALユニットからのアクセスされた補助情報それぞれに基づいて第1の層の符号化及び第2の層の符号化を復号化する機能と、を実行するよう構成されたプロセッサを備えるようにしている。
さらに、本発明に係る装置は、ビデオ・データを記憶するメモリを更に備えるようにしている。
上記課題を解決するため、本発明に係る装置は、シーケンス・パラメータ・セット(「SPS」)ネットワーク抽象化層(「NAL」)ユニットからの情報にアクセスし、情報が、画像系列内の画像の第1の層の符号化の復号化に使用するためのパラメータを表し、SPS NALユニットのNALユニット・タイプ符号とは別のNALユニット・タイプ符号を有し、SPS NALユニットとは別の構文構造を有する補助SPS NALユニットからの補助情報にアクセスするよう構成された解析ユニットであって、補助SPS NALユニットからの補助情報は、画像系列内の画像の第2の層の符号化の復号化に使用するためのパラメータを表す解析ユニットと、SPS NALユニットからのアクセスされた補助情報を使用して第1の層の符号化を復号化し、補助SPS NALユニットからのアクセスされた補助情報を使用して第2の層の符号化を復号化し、第1の層の符号化の復号化、及び第2の層の符号化の復号化のうちの1つ又は複数に基づいて画像系列内の画像の再構成を生成するよう構成された復号化器と、を備えるようにしている。
さらに、本発明に係る装置は、SPS NALユニットは、H.264/MPEG−4 AVC標準又は関連した標準におけるSPS NALユニットに実質的に準拠するようにしている。
さらに、本発明に係る装置は、画像の第2の層の符号化の復号化において使用するためのパラメータは、スケーラブル・ビデオ符号化(「SVC」)ビデオ有用性情報(「VUI」)パラメータを含み、別の構文構造は、SVC VUIパラメータが画像の第2の層の符号化に適用される旨を示す時間、依存性、及び品質の指標を含む補助情報に反映されるようにしている。
さらに、本発明に係る装置は、SPS NALユニットからの情報によって表されるパラメータは、第2の層の符号化を復号化するためにも必要であるようにしている。
【0006】
一般的な局面によれば、情報が、シーケンス・パラメータ・セット(「SPS」)ネットワーク抽象化層(「NAL」)ユニットからアクセスされる。上記情報は、画像系列の第1の層の符号化の復号化において使用するためのパラメータを表す。情報は、SPS NALユニットとは別の構造を有する補助SPS NALユニットからもアクセスされる。補助SPS NALユニットからの情報は、画像系列の第2の層の符号化の復号化において使用するためのパラメータを表す。画像系列の復号化は、第1の層の符号化、第2の層の符号化、SPS NALユニットからのアクセス情報、及び補助SPS NALユニットからのアクセス情報に基づいて生成される。
【0007】
別の一般的な局面によれば、複数の層における画像系列の復号化を定める構文構造が使用される。構文構造は、画像系列の第1の層の符号化の復号化に使用するためのパラメータを表す情報を含むSPS NALユニットの構文を含む。構文構造は、SPS NAL ユニットとは別の構造を有する補助SPS NALユニットの構文も含む。補助SPS NALユニットは、画像系列の第2の層の符号化の復号化において使用するためのパラメータを表す情報を含む。画像系列の復号化は、第1の層の符号化、第2の層の符号化、SPS NALユニットからの情報、及び補助SPS NALユニットからの情報に基づいて生成され得る。
【0008】
別の一般的な局面によれば、信号はSPS NALユニットからの情報を含めるようフォーマッティングされる。上記情報は、画像系列の第1の層の符号化の復号化において使用するためのパラメータを表す。信号は、SPS NALユニットとは別の構造を有する補助SPS NALユニットからの情報を含めるよう更にフォーマッティングされる。補助SPS NALユニットからの情報は、画像系列の第2の層の符号化の復号化において使用するためのパラメータを表す。
【0009】
別の一般的な局面によれば、画像系列の第1の層の符号化の復号化に使用するためのパラメータを表す情報を含むSPS NALユニットが生成される。SPS NALユニットと構造が別の補助SPS NALユニットが生成される。補助SPS NALユニットは、画像系列の第2の層の符号化の復号化において使用するためのパラメータを表す情報を含む。画像系列の第1の層の符号化、画像系列の第2の層の符号化、SPS NALユニット、及び補助SPS NALユニットを含むデータの組が供給される。
【0010】
別の一般的な局面によれば、複数の層における画像系列の符号化を定める構文構造が使用される。構文構造は、SPS NALユニットの構文を含む。SPS NALユニットは、画像系列の第1の層の符号化の復号化において使用するためのパラメータを表す情報を含む。構文構造は、補助SPS NALユニットの構文を含む。補助SPS NALユニットは、SPS NAL ユニットとは別の構造を有する。補助SPS NALユニットは、画像系列の第2の層の符号化の復号化において使用するためのパラメータを表す情報を含む。画像系列の第1の層の符号化、画像系列の第2の層の符号化、SPS NALユニット、及び補助SPS NALユニットを含むデータの組を供給することができる。
【0011】
別の一般的な局面によれば、第1の層に依存する情報は、第1の規範的パラメータ・セットにおいてアクセスされる。アクセスされた、第1の層に依存する情報は、画像系列の第1の層の符号化の復号化において使用するためのものである。第2の層に依存する情報は、第2の規範的パラメータ・セットにおいてアクセスされる。第2の規範的パラメータ・セットは、第1の規範的パラメータ・セットとは別の構造を有する。アクセスされた、第2の層に依存する情報は、画像系列の第2の層の符号化の復号化において使用するためのものである。画像の系列は、アクセスされた、第1の層に依存する情報、及びアクセスされた、第2の層に依存する情報のうちの1つ又は複数に基づいて復号化される。
【0012】
別の一般的な局面では、第1の層に依存する情報を含む第1の規範的パラメータ・セットが生成される。第1の層に依存する情報は、画像系列の第1の層の符号化の復号化において使用するためのものである。第1の規範的パラメータ・セットとは別の構造を有する第2の規範的パラメータ・セットが生成される。第2の規範的パラメータ・セットは、画像系列の第2の層の符号化の復号化において使用するための第2の層に依存する情報を含む。第1の規範的パラメータ・セット及び第2の規範的パラメータ・セットを含むデータの組が提供される。
【図面の簡単な説明】
【0013】
【図1】符号化器の実現形態のブロック図である。
【図1a】符号化器の別の実現形態のブロック図である。
【図2】復号化器の実現形態のブロック図である。
【図2a】復号化器の別の実現形態のブロック図である。
【図3】単一層シーケンス・パラメータ・セット(「SPS」)ネットワーク抽象化層(「NAL」)ユニットの実現形態の構造を示す図である。
【図4】SPS NALユニットの使用を例証するデータ・ストリームの一部分の例のブロック図である。
【図5】補助SPS(「SUP SPS」)NALユニットの実現形態の構造を示す図である。
【図6】SPSユニット及び複数のSUP SPS ユニットの間の組織階層の実現形態を示す図である。
【図7】SUP SPS NALユニットの別の実現形態の構造を示す図である。
【図8】SUP SPSユニットを生成するスケーラブルなビデオ符号化器の実現形態を示す機能図である。
【図9】SUP SPSユニットを含むデータ・ストリームの生成の実現形態を示す階層図である。
【図10】図9の実現形態によって生成されるデータ・ストリームの例を示すブロック図である。
【図11】符号化器の実現形態のブロック図である。
【図12】符号化器の別の実現形態のブロック図である。
【図13】図11又は図12の符号化器によって使用される符号化処理の実現形態を示すフローチャートである。
【図14】図13の処理によって生成されるデータ・ストリームの例を示すブロック図である。
【図15】復号化器の実現形態を示すブロック図である。
【図16】復号化器の別の実現形態を示すブロック図である。
【図17】図15又は図16の復号化器によって使用される復号化処理の実現形態を示すフローチャートである。
【発明を実施するための形態】
【0014】
1つ又は複数の実現形態の詳細を添付図面及び以下明細書において記載する。1つの特定のやり方で記載されていても、実現形態は、種々のやり方で構成又は実施することができる。例えば、実現形態は、方法として実行するか、例えば、動作の組を行うよう構成された装置や、動作の組を行うための命令を記憶する装置などの装置として実施するか、又は信号として実施することができる。他の局面及び特徴は、以下の詳細な説明を添付図面及び特許請求の範囲とともに考察することにより、明らかになるであろう。
【実施例】
【0015】
別々の層及び/又はプロファイルに応じてビデオ・データを符号化することが可能ないくつかのビデオ符号化標準が今日、存在している。このうち、the International Organization for Standardization/International Electrotechnical Commission (ISO/IEC) Moving Picture Experts Group−4 (MPEG−4) Part 10 Advanced Video Coding (AVC) standard/International Telecommunication Union, Telecommunication Sector (ITU−T) H.264勧告としても表されるH.264/MPEG−4AVC(「AVC標準」)を挙げることが可能である。更に、AVC標準に対する拡張が存在している。前述の第1の拡張は、H.264/MPEG−4 AVC、スケーラブル・ビデオ符号化拡張(「SVC 拡張」)として表されるスケーラブル・ビデオ符号化(「SVC」)拡張(アネックスG)である。前述の第2の拡張は、H.264/MPEG−4 AVC、MVC拡張(「MVC 拡張」)として表されるマルチビュー・ビデオ符号化(「MVC」)拡張(アネックスH)である。
【0016】
本明細書及び特許請求の範囲に記載した少なくとも1つの実現形態は、AVC標準、並びにSVC拡張及びMVC拡張に使用することができる。上記実現形態は、補助(「SUP」)シーケンス・パラメータ・セット(「SPS」)ネットワーク抽象化層(「NAL」)ユニット(SPS NALユニットとは別のNALユニット・タイプを有する)を提供する。SPSユニットは、少なくとも単一の層の情報を含むが、上記情報を含まなくてよい。更に、SUP SPS NALユニットは、少なくとも1つの更なる層の層依存性情報を含む。よって、SPSユニット及びSUP SPSユニットにアクセスすることにより、復号化器は、ビットストリームを復号化するために必要な利用可能な特定の(、及び通常、全ての)層に依存する情報を有する。
【0017】
AVCシステムにおける前述の実現形態を使用すれば、SUP SPS NALユニットを送信しなくてよく、単一層SPS NALユニット(後述する)を送信することができる。SVC(又はMVC)システムにおいて前述の実現形態を使用すれば、SUP SPS NALユニットは、SPS NALユニットに加えて、所望の更なる層(又はビュー)について送信することができる。AVC互換復号化器及びSVC互換復号化器(又はMVC互換復号化器)を含むシステムにおいて前述の実現形態を使用すれば、AVC互換復号化器は、NALユニット・タイプを検出することにより、SUP SPS NALユニットを無視し得る。何れの場合にも、効率及び互換性が達成される。
【0018】
上記実現形態は、例えば、SPS、又はSPSに通常収容される特定の情報などのヘッダ情報を特定層が共有する旨の要件を課すシステムの利点(標準他)ももたらす。例えば、ベース層及びその複合時間層がSPSを共有したい場合、層依存性情報を共有SPSとともに送信することは可能でない。しかし、SUP SPSは、層依存性情報を伝送する機構を提供する。
【0019】
種々の実現形態のSUP SPSは、SUS SPS がSPSにおけるパラメータ全てを含まなくてよく、よって、反復しなくてよいという効率的な利点も提供する。SUP SPSは通常、層依存性パラメータを対象とする。しかし、種々の実現形態は、層に依存しないパラメータを含み、又はSPS構造全てを反復するSUP SPS構造を含む。
【0020】
種々の実現形態はSVC拡張に関する。SVC拡張は、いくつかの空間レベル、時間レベル及び品質レベルに応じたビデオ・データの伝送を提案している。一空間レベルの場合、いくつかの時間レベルに応じて符号化することが可能であり、いくつかの品質レベルに応じた時間レベル毎に符号化することが可能である。したがって、m個の空間レベル、n個の時間レベル、及びO個の品質レベルが規定されている場合、ビデオ・データは、m*n*O個の別々の組合せによって符号化することが可能である。前述の組合せは、層又はインターオペラビリティ・ポイント(「IOP」)として表す。復号化器(受信器又はクライアントとしても表す)の機能によれば、別々の層を、クライアント機能の最大値に対応する特定の層まで伝送することができる。
【0021】
本明細書及び特許請求の範囲記載の「層依存性」情報は、単一層に特に関係する情報を表す。すなわち、名称が示唆するように、上記情報は特定層に依存する。前述の情報は、層間で必ずしも異ならなくてよいが、通常、層毎に別個に供給される。
【0022】
本明細書及び特許請求の範囲では、「高位構文」は、階層的にマクロブロック層の上の、ビットストリーム内に存在している構文を表す。例えば、本明細書及び特許請求の範囲記載の高位構文は、スライス・ヘッダ・レベル、付加拡張情報(SEI)レベル、ピクチャ・パラメータ・セット(PPS)レベル、シーケンス・パラメータ・セット(SPS)レベル、及びネットワーク抽象化層(NAL)ユニット・ヘッダ・レベルを表し得るが、それらに限定されない。
【0023】
図1を参照すれば、例示的なSVC符号化器は全体を参照符号100で示す。SVC符号化器100は、AVC符号化にも(すなわち、単一層(例えば、ベース層)にも)使用することができる。更に、SVC符号化器100は、当業者が認識するようにMVC符号化に使用することができる。例えば、SVC符号化器100の種々の構成部分、又は前述の構成部分の変形を複数のビューの符号化に使用することができる。
【0024】
時間分解モジュール142の第1の出力は、イントラ・ブロック・モジュール146のイントラ予測の第1の入力と信号通信で接続される。時間分解モジュール142の第2の出力は動き符号化モジュール144の第1の入力と信号通信で接続される。イントラ・ブロック・モジュール146のイントラ予測の出力は、変換/エントロピ符号化器(信号対雑音比(SNR)スケーラブル)149の入力と信号通信で接続される。変換/エントロピ符号化器149の第1の出力は多重化器170の第1の入力と信号通信で接続される。
【0025】
時間分解モジュール132の第1の出力は、イントラ・ブロック・モジュール136のイントラ予測の第1の入力と信号通信で接続される。時間分解モジュール132の第2の出力は、動き符号化モジュール134の第1の入力と信号通信で接続される。イントラ・ブロック・モジュール136のイントラ予測の出力は、変換/エントロピ符号化器(信号対雑音比(SNR)スケーラブル)139の入力と信号通信で接続される。変換/エントロピ符号化器139の第1の出力は多重化器170の第1の入力と信号通信で接続される。
【0026】
変換/エントロピ符号化器149の第2の出力は、2D空間補間モジュール138の入力と信号通信で接続される。2D空間補間モジュール138の出力は、イントラ・ブロック・モジュール136のイントラ予測の第2の入力と信号通信で接続される。動き符号化モジュール144の第2の出力は、動き符号化モジュール134の入力と信号通信で接続される。
【0027】
時間分解モジュール122の第1の出力は、イントラ予測器126の第1の入力と信号通信で接続される。時間分解モジュール122の第2の出力は動き符号化モジュール124の第1の入力と信号通信で接続される。イントラ予測器126の出力は、変換/エントロピ符号化器(信号対雑音比(SNR)スケーラブル)129の入力と信号通信で接続される。変換/エントロピ符号化器129の出力は多重化器170の第1の入力と信号通信で接続される。
【0028】
変換/エントロピ符号化器139の第2の出力は、2D空間補間モジュール128の入力と信号通信で接続される。2D空間補間モジュール128の出力は、イントラ予測器モジュール126の第2の入力と信号通信で接続される。動き符号化モジュール134の第2の出力は、動き符号化モジュール124の入力と信号通信で接続される。
【0029】
動き符号化モジュール124の第1の出力、動き符号化モジュール134の第1の出力、及び動き符号化モジュール144の第1の出力はそれぞれ、多重化器170の第2の入力と信号通信で接続される。
【0030】
2D空間デシメーション・モジュール104の第1の出力は、時間分解モジュール132の入力と信号通信で接続される。2D空間デシメーション・モジュール104の第2の出力は、時間分解モジュール142の入力と信号通信で接続される
時間分解モジュール122の入力及び2D空間デシメーション・モジュール104の入力は、入力ビデオ102を受信するために符号化器100の入力として利用可能である。
【0031】
多重化器170の出力は、ビットストリーム180を供給するために、符号化器100の出力として利用可能である。
【0032】
時間分解モジュール122、時間分解モジュール132、時間分解モジュール142、動き符号化モジュール124、動き符号化モジュール134、動き符号化モジュール144、イントラ予測器126、イントラ予測器136、イントラ予測器146、変換/エントロピ符号化器129、変換/エントロピ符号化器139、変換/エントロピ符号化器149、2D空間補間モジュール128、及び2D空間補間モジュール138は、符号化器100のコア符号化器部分187に含まれる。
【0033】
図1は3つのコア符号化器187を含む。図示した実現形態では、一番下のコア符号化器187はベース層を符号化し、中央のコア符号化器及び一番上のコア符号化器187は、より高い層を符号化することができる。
【0034】
図2を参照すれば、例示的なSVC復号化器は全体を参照符号200で示す。SVC復号化器200は、AVC復号化にも(すなわち、単一層にも)使用することができる。更に、SVC復号化器200は、当業者が認識するようにMVC復号化に使用することができる。例えば、SVC復号化器200の種々の構成部分、又は前述の構成部分の変形を複数のビューの復号化に使用することができる。
【0035】
符号化器100及び復号化器200、並びに、本出願に開示された他の符号化器及び復号化器は、本出願記載の種々の方法を行うよう構成することが可能である。符号化動作の実行に加えて、本明細書及び特許請求の範囲記載の符号化器は、復号化器の期待された動作をミラーイングするために再構成処理中に種々の復号化動作を行うことができる。例えば、符号化器は、更なるビデオ・データの予測において使用するために符号化ビデオ・データの再構成を行うために符号化ビデオ・データを復号化するためのSUP SPSユニットを復号化することができる。よって、符号化器は、復号化器によって行われる動作のほぼ全部を行うことができる。
【0036】
逆多重化器202の入力は、スケーラブルなビットストリームを受信するために、スケーラブル・ビデオ復号化器200への入力として利用可能である。逆多重化器202の第1の出力は、空間逆変換SNRスケーラブル・エントロピ復号化器204の入力と信号通信で接続される。空間逆変換SNRスケーラブル・エントロピ復号化器204の第1の出力は予測モジュール206の第1の入力と信号通信で接続される。予測モジュール206の出力は合成器230の第1の入力と信号通信で接続される。
【0037】
空間逆変換SNRスケーラブル・エントロピ復号化器204の第2の出力は動きベクトル(MV)復号化器210の第1の入力と信号通信で接続される。MV復号化器210の出力は動き補償器232の入力と信号通信で接続される。動き補償器232の出力は合成器230の第2の入力と信号通信で接続される。
【0038】
逆多重化器202の第2の出力は、空間逆変換SNRスケーラブル・エントロピ復号化器212の入力と信号通信で接続される。空間逆変換SNRスケーラブル・エントロピ復号化器212の第1の出力は予測モジュール214の第1の入力と信号通信で接続される。予測モジュール214の第1の出力は、補間モジュール216の入力と信号通信で接続される。補間モジュール216の出力は予測モジュール206の第2の入力と信号通信で接続される。予測モジュール214の第2の出力は合成器240の第1の入力と信号通信で接続される。
【0039】
空間逆変換SNRスケーラブル・エントロピ復号化器212の第2の出力はMV復号化器220の第1の入力と信号通信で接続される。MV復号化器220の第1の出力はMV復号化器210の第2の入力と信号通信で接続される。MV復号化器220の第2の出力は動き補償器242の入力と信号通信で接続される。動き補償器242の出力は合成器240の第2の入力と信号通信で接続される。
【0040】
逆多重化器202の第3の出力は空間逆変換SNRスケーラブル・エントロピ復号化器222の入力と信号通信で接続される。空間逆変換SNRスケーラブル・エントロピ復号化器222の第1の出力は予測モジュール224の入力と信号通信で接続される。予測モジュール224の第1の出力は、補間モジュール226の入力と信号通信で接続される。補間モジュール226の出力は予測モジュール214の第2の入力と信号通信で接続される。
【0041】
予測モジュール224の第2の出力は合成器250の第1の入力と信号通信で接続される。空間逆変換スケーラブル・エントロピ復号化器222の第2の出力はMV復号化器230の入力と信号通信で接続される。MV復号化器230の第1の出力はMV復号化器220の第2の入力と信号通信で接続される。MV復号化器230の第2の出力は動き補償器252の入力と信号通信で接続される。動き補償器252の出力は合成器250の第2の入力と信号通信で接続される。
【0042】
合成器250の出力は、レイヤ0信号を出力するために、復号化器200の出力として利用可能である。合成器240の出力は、レイヤ1信号を出力するために、復号化器200の出力として利用可能である。合成器230の出力は、レイヤ2信号を出力するために、復号化器200の出力として利用可能である。
【0043】
図1aを参照すれば、例示的なAVC符号化器は全体を参照符号2100で示す。AVC符号化器2100は、例えば、単一層(例えば、ベース層)を符号化するために使用することができる。
【0044】
ビデオ符号化器2100は、合成器2185の非反転入力と信号通信する出力を有するフレーム配列バッファ2110を含む。合成器2185の出力は、変換器及び量子化器2125の第1の入力と信号通信で接続される。変換器及び量子化器2125の出力は、エントロピ符号化器2145の第1の入力及び逆変換器及び逆量子化器2150の第1の入力と信号通信で接続される。エントロピ符号化器2145の出力は、合成器2190の第1の非反転入力と信号通信で接続される。合成器2190の出力は、出力バッファ2135の第1の入力と信号通信で接続される。
【0045】
符号化器コントローラ2105の第1の出力は、フレーム配列バッファ2110の第2の入力、逆変換器及び逆量子化器2150の第2の入力、ピクチャタイプ決定モジュール2115の入力、マクロブロックタイプ(MBタイプ)決定モジュール2120の入力、イントラ予測モジュール2160の第2の入力、デブロッキング・フィルタ2165の第2の入力、動き補償2170の第1の入力、動き推定器2175の第1の入力、及び参照ピクチャ・バッファ2180の第2の入力と信号通信で接続される。
【0046】
符号化器コントローラ2105の第2の出力は、付加拡張情報(「SEI」)挿入器2130の第1の入力、変換器及び量子化器2125の第2の入力、エントロピ符号化器2145の第2の入力、出力バッファ2135の第2の入力、並びに、シーケンス・パラメータ・セット(SPS)及びピクチャ・パラメータ・セット(PPS)挿入器2140の入力と信号通信で接続される。
【0047】
ピクチャタイプ決定モジュール2115の第1の出力は、フレーム配列バッファ2110の第3の入力と信号通信で接続される。ピクチャタイプ決定モジュール2115の第2の出力は、マクロブロックタイプ決定モジュール2120の第2の入力と信号通信で接続される。
【0048】
シーケンス・パラメータ・セット(「SPS」)及びピクチャ・パラメータ・セット(「PPS」)挿入器2140の出力は合成器2190の第3の非反転入力と信号通信で接続される。SEI挿入器2130の出力は合成器2190の第2の非反転入力と信号通信で接続される。
【0049】
逆量子化器及び逆変換器2150の出力は合成器2127の第1の非反転入力と信号通信で接続される。合成器2127の出力はイントラ予測モジュール2160の第1の入力及びデブロッキング・フィルタ2165の第1の入力と信号通信で接続される。デブロッキング・フィルタ2165の出力は参照ピクチャ・バッファ2180の第1の入力と信号通信で接続される。参照ピクチャ・バッファ2180の出力は動き推定器2175の第2の入力及び動き補償器2170の第1の入力と信号通信で接続される。動き推定器2175の第1の出力は、動き補償器2170の第2の入力と信号通信で接続される。動き推定器2175の第2の出力は、エントロピ符号化器2145の第3の入力と信号通信で接続される。
【0050】
動き補償器2170の出力は、スイッチ2197の第1の入力と信号通信で接続される。イントラ予測モジュール2160の出力は、スイッチ2197の第2の入力と信号通信で接続される。マクロブロックタイプ決定モジュール2120の出力は、スイッチ2197に制御入力を供給するために、スイッチ2197の第3の入力と信号通信で接続される。スイッチ2197の出力は、合成器2127の第2の非反転入力及び合成器2185の反転入力と信号通信で接続される。
【0051】
フレーム配列バッファ2110及び符号化器コントローラ2105の入力は、入力ピクチャ2101を受信するために、符号化器2100の入力として利用可能である。更に、SEI挿入器2130の入力は、メタデータを受信するために、符号化器2100の入力として利用可能である。出力バッファ2135の出力は、ビットストリームを出力するために、符号化器2100の出力として利用可能である。
【0052】
図2aを参照すれば、MPEG−4AVC標準によるビデオ復号化を行うことができるビデオ復号化器は全体を参照符号2200で示す。
【0053】
ビデオ復号化器2200は、エントロピ復号化器2245の第1の入力と信号通信で接続された出力を有する入力バッファ2210を含む。エントロピ復号化器2245の第1の出力は、逆変換器及び逆量子化器2250の第1の入力と信号通信で接続される。逆変換器及び逆量子化器2250の出力は合成器2225の第2の非反転入力と信号通信で接続される。合成器2225の出力はデブロッキング・フィルタ2265の第2の入力及びイントラ予測モジュール2260の第1の入力と信号通信で接続される。デブロッキング・フィルタ2265の第2の出力は参照ピクチャ・バッファ2280の第1の入力と信号通信で接続される。参照ピクチャ・バッファ2280の出力は動き補償2270の第2の入力と信号通信で接続される。
【0054】
エントロピ復号化器2245の第2の出力は動き補償器2270の第3の入力及びデブロッキング・フィルタ2265の第1の入力と信号通信で接続される。エントロピ復号化器2245の第3の出力は復号化器コントローラ2205の入力と信号通信で接続される。復号化器コントローラ2205の第1の出力はエントロピ復号化器2245の第2の入力と信号通信で接続される。復号化器コントローラ2205の第2の出力は、逆変換器及び逆量子化器2250の第2の入力と信号通信で接続される。復号化器コントローラ2205の第3の出力はデブロッキング・フィルタ2265の第3の入力と信号通信で接続される。復号化器コントローラ2205の第4の出力は、イントラ予測モジュール2260の第2の入力、動き補償器2270の第1の入力、及び参照ピクチャ・バッファ2280の第2の入力と信号通信で接続される。
【0055】
動き補償器2270の出力はスイッチ2297の第1の入力と信号通信で接続される。イントラ予測モジュール2260の出力はスイッチ2297の第2の入力と信号通信で接続される。スイッチ2297の出力は合成器2225の第1の非反転入力と信号通信で接続される。
【0056】
入力バッファ2210の入力は、入力ビットストリームを受信するために、復号化器2200の入力として利用可能である。デブロッキング・フィルタ2265の第1の出力は、出力ピクチャを出力するために、復号化器2200の出力として利用可能である。
【0057】
図3を参照すれば、単一層SPS300の構造を示す。SPSは、ゼロ以上の全体が符号化されたビデオ系列に施される構文要素を一般に含む構文構造である。SVC拡張では、SPSにおいて伝達される一部の構文要素の値は層依存性を有する。前述の層依存性構文要素は、タイミング情報、HRD(「仮想参照復号化器」の略である)パラメータ、及びビットストリーム制限情報を含むが、それらに限定されない。HRDパラメータは例えば、バッファ・サイズ、最大ビット・レート、及び初期遅延の指標を含み得る。HRDパラメータは、受信システムが、例えば、受信されたビットストリームのインテグリティを検証し、かつ/又は、受信システム(例えば、復号化器)がビットストリームを復号化することが可能であるかを判定することを可能にし得る。したがって、システムは、層毎の前述の構文要素の伝送を定めることができる。
【0058】
単一層SPS300は、SPSの識別子を備えるSPS−ID310を含む。単一層SPS300は、単一層のVUI(ビデオ有用性情報の略)パラメータ320も含む。VUIパラメータは、例えば、ベース層などの単一層のHRDパラメータ330を含む。単一層SPS300は、更なるパラメータ340も含み得るが、実現形態は、更なるパラメータ340を何ら含まなくてよい。
【0059】
図4を参照すれば、データ・ストリーム400のブロック図は、単一層SPS300の通常の使用を示す。AVC標準では、例えば、通常のデータ・ストリームは、他の構成部分の中でも、SPSユニット、特定のピクチャのパラメータを備える複数のPPS(ピクチャ・パラメータ・シーケンス)ユニット、及び符号化ピクチャ・データの複数のユニットを含み得る。次に、前述の一般的なフレームワークを図4に示す。図4は、SPS300、PPS−1 410、符号化されたピクチャ1のデータを含む1つ又は複数のユニット420、PPS−2 430、及び符号化されたピクチャ2のデータを含む1つ又は複数のユニット440を含む。PPS−1 410は、符号化されたピクチャ1のデータ420のパラメータを含み、PPS―2 430は、符号化されたピクチャ2のデータ440のパラメータを含む。
【0060】
符号化されたピクチャ1のデータ420、及び符号化されたピクチャ2のデータ440はそれぞれ、特定のSPS(図4の実現形態におけるSPS300)と関連付けられる。このことは、次に説明するように、ポインタを使用することによって達成される。符号化されたピクチャ1のデータ420は、矢印450で示すように、PPS−1 410を識別するPPS−ID(図示せず)を含む。PPS−IDは例えば、スライス・ヘッダに記憶することができる。符号化されたピクチャ−2のデータ440は、矢印460に示すように、PPS−2 430を識別するPPS−ID(図示せず)を含む。PPSー1 410及びPPS―2 430はそれぞれ、矢印470及び480それぞれで示すように、SPS300を識別するSPS−ID(図示せず)を含む。
【0061】
図5を参照すれば、SUP SPS500の構造を示す。SUP SPS 500は、SPS ID510と、「(D2,T2,Q2)」で表す単一の更なる層のHRDパラメータ530を含むVUI520と、任意の更なるパラメータ540とを含む。「D2,T2,Q2」は、空間(D)レベル2、時間(T)レベル2、及び品質(Q)レベル2を有する第2の層を表す。
【0062】
種々の番号付け手法を使用して層を表すことができる。1つの番号付け手法では、ベース層は、0、x、0(ゼロの空間レベル、何れでもよい時間レベル、及びゼロの品質レベルを意味する)のD、T、Qを有する。前述の番号付け手法では、エンハンスメント層は、D又はQがゼロよりも大きなD、T、Qを有する。
【0063】
SUP SPS500の使用は例えば、単一層のパラメータのみを含むか、又は層依存性情報を何ら含まないSPS構造をシステムが使用することを可能にする。前述のシステムは、ベース層を越える更なる層毎に別個のSUP SPSを作成することができる。更なる層は、SPS ID510の使用によって関連付けられたSPSを識別することが可能である。明らかに、いくつかの層が、共通のSPS IDをそれぞれのSUP SPSユニットにおいて使用することにより、単一のSPSを共有することが可能である。
【0064】
図6を参照すれば、SPSユニット605並びに、複数のSUP SPSユニット610及び620の間の組織階層600を示す。SUP SPSユニット610及び620は、単一層のSUP SPSユニットとして示しているが、他の実現形態は、単一層のSUP SPSユニットに加えて、又は単一層のSUP SPSユニットの代わりに1つ又は複数の複数層SUP SPSユニットを使用することができる。階層600は、通常のシナリオにおいて、複数のSUP SPSユニットを単一のSPSユニットと関連付けることができることを示す。当然、実現形態は複数のSPSユニットを含み得、SPSユニットそれぞれは、関連付けられたSUP SPSユニットを有し得る。
【0065】
図7を参照すれば、別のSUP SPS700の構造を示す。SUP SPS700は複数層のパラメータを含む一方、SUP SPS500は単一層のパラメータを含む。SUP SPS700は、SPS ID710と、VUI720と、任意の更なるパラメータ740とを含む。VUI720は、第1の更なる層(D2,T2,Q2)、及び層(Dn,Tn,Qn)までの他の更なる層のHRDパラメータ730を含む。
【0066】
もう一度図6を参照すれば、階層600は、複数層のSUP SPSを使用するよう修正することができる。例えば、SUP SPS610及び620の組合せは、SUP SPS610及び620が、同じSPS IDを含む場合、SUP SPS 700で置き換えることができる。
【0067】
更に、SUP SPS 700は例えば、単一層のパラメータを含むか、若しくは複数層のパラメータを含むSPS、又は何れの層の層依存性パラメータも含まないSPSとともに使用することができる。SUP SPS700は、わずかのオーバヘッドで複数層のパラメータをシステムが提供することを可能にする。
【0068】
他の実現形態は例えば、考えられる層全てに必要なパラメータ全てを含むSPSに基づき得る。すなわち、前述の実現形態のSPSは、層全てが送信されるか否かにかかわらず、送信に利用可能な対応する空間レベル(Di)、時間レベル(Ti)、及び品質レベル(Qi)全てを含む。しかし、前述のシステムでも、SUP SPSを使用して、もう一度SPS全体を送信することなく1つ又は複数の層のパラメータを変える機能を提供することができる。
【0069】
表1を参照すれば、単一層のSUP SPSの特定の実現形態の構文を提供する。構文は、関連付けられたSPSを識別するためのsequence_parameter_set_id、並びに、スケーラブル層を識別するための、temporal_level、dependency_id及びquality_levelの識別子を含む。VUIパラメータは、hrd_parameters()の使用によるHRDパラメータを含む、svc_vui_parameters()(表2を参照されたい)の使用によって含まれる。以下の構文は、各層が、例えばHRDパラメータなどのそれ自身の層に依存するパラメータを特定することを可能にする。
【0070】
【表1】
sup_seq_parameter_set_svc()の構文の意味規則は以下の通りである。
【0071】
sequence_parameter_set_id は、現在の層について現在のSUP SPSがマッピングするシーケンス・パラメータ・セットを識別する。
【0072】
temporal_level、dependency_id及びquality_levelは、現在の層の時間レベル、依存性識別子及び品質レベルを規定する。Dependency_idは一般に、空間レベルを示す。しかし、dependency_idは、空間及びSNRスケーラビリティを含む粗い粒状スケーラビリティ(「CGS」)階層を示すために使用され、SNRスケーラビリティは、伝統的な品質スケーラビリティである。よって、quality_level及びdependency_idはともに、品質レベルを区別するために使用することができる。
【0073】
vui_parameters_present_svc_flagが1に等しいことは、以下に定義するsvc_vui_parameters()構文構造が存在していることを規定する。vui_parameters_present_svc_flagが0に等しいことは、svc_vui_parameters()構文構造が存在していないことを規定する。
【0074】
表2は、svc_vui_parameters()の構文を表す。VUIパラメータはしたがって、層毎に分離され、個々のSUP SPSユニットに入れられる。しかし、他の実現形態は、複数層のVUIパラメータを単一のSUP SPSにグループ化する。
【0075】
【表2】
表2のsvc_vui_parameters()構文のフィールドは、JVT−U201 annex E E.1の下で西暦2007年4月に存在したSVS拡張のバージョンに規定されている。特に、hrd_parameters()は、AVC標準について規定された通りである。更に、svc_vui_parameters()は、HRD関連パラメータを含む種々の層依存性情報を含む。HRD関連パラメータは、num_units_in_tick、 time_scale、 fixed_frame_rate_flag、 nal_hrd_parameters_present_flag、 vcl_hrd_parameters_present_flag、 hrd_parameters()、 low_delay_hrd_flag及びpic_struct_present_flagを含む。更に、bitsream_restriction_flagのifループにおける構文要素は、HRD関連でないが、層に依存する。
【0076】
前述の通り、SUP SPSは新たなタイプのNALユニットとして定義される。表3は、標準JVT−U201で規定された通りであるが、SUP SPSにタイプ24を割り当てるよう修正されたNALユニット・コードの一部を挙げている。NALユニット1とNALユニット16との間、及びNALユニット18とNALユニット24との間の省略符号は、前述のタイプが変わらないことを示す。NALユニット・タイプ25とNALユニット・タイプ31との間の省略記号は、前述のタイプが全て未規定であることを意味している。以下の表3の実現形態は、標準のタイプ24を「未規定」から「sup_seq_parameter_set_svc()」に変えている。「未規定」は一般に、ユーザ・アプリケーション用に予約されている。一方、「予約済」は、一般に、将来の標準的な修正用に予約されている。よって、別の実現形態は、「予約済」タイプ(例えば、タイプ16、17又は18)の1つを「sup_seq_parameter_set_svc()」に変える。「未規定」タイプの変更は特定のユーザの実現形態をもたらす一方、「予約済」タイプの変更は、ユーザ全ての標準を変更する実現形態をもたらす。
【0077】
【表3】
図8は、SUP SPSユニットを生成するスケーラブルなビデオ符号化器800の実現形態を示す機能図である。ビデオが、スケーラブルなビデオ符号化器1の入力で受信される。ビデオは、種々の空間レベルに応じて符号化される。空間レベルは主に、同じビデオの、異なる分解能レベルを表す。例えば、スケーラブルなビデオ符号化器の入力として、一空間レベルそれぞれを表すCIF系列(288毎に352)又はQCIF系列(144毎に176)を有し得る。
【0078】
空間レベルそれぞれは符号化器に送出される。空間レベル1が符号化器2”に送出され、空間レベル2が符号化器2’に送出され、空間レベルmが符号化器2に送出される。
【0079】
空間レベルは、dependency_idを使用して、3ビットで符号化される。したがって、この実現形態における最大空間レベル数は8である。
【0080】
符号化器2、2’及び2”は、示された空間レベルを有する1つ又は複数の層を符号化する。符号化器2、2’及び2”は、特定の品質レベル及び時間レベルを有するよう企図することができるか、又は品質レベル及び時間レベルは構成可能であり得る。図8から分かるように、符号化器2、2’及び2”は、階層的に構成される。すなわち、符号化器2”は符号化器2’をフィードし、符号化器2’は同様に、符号化器2をフィードする。階層的な構成は、高位層が低位層を参照として使用する通常のシナリオを示す。
【0081】
符号化後、ヘッダが、層毎に作成される。示した実現形態では、空間レベル毎に、SPSメッセージ、PPSメッセージ、及び複数のSUP_SPSメッセージが作成される。SUP SPSメッセージ(又はユニット)は、例えば、各種品質レベル及び時間レベルに対応する層について作成することができる。
【0082】
空間レベル1の場合、SPS及びPPS 5”が作成され、
【数1】
の組も作成される。
【0083】
空間レベル2の場合、SPS及びPPS 5’が作成され、
【数2】
の組も作成される。
【0084】
空間レベルmの場合、SPS及びPPS 5が作成され、
【数3】
の組も作成される。
【0085】
符号化器2、2’及び2”によって符号化されたビットストリーム7,7’及び7”は通常、大局ビットストリームにおいて複数のSPS、PPS及びSUP_SPS(ヘッダ、ユニット、又はメッセージとしても表す)に続く。
【0086】
ビットストリーム8”は、SPS及びPPS 5”、
【数4】
及び符号化されたビデオ・ビットストリーム7”(空間レベル1に関連付けられた符号化データ全てを構成する)を含む。
【0087】
ビットストリーム8’は、SPS及びPPS 5’、
【数5】
及び符号化されたビデオ・ビットストリーム7’(空間レベル2に関連付けられた符号化データ全てを構成する)を含む。
【0088】
ビットストリーム8は、SPS及びPPS 5、
【数6】
及び符号化されたビデオ・ビットストリーム7(空間レベルmに関連付けられた符号化データ全てを構成する)を含む。
【0089】
別々のSUP_SPSヘッダは、表1乃至3に表したヘッダに準拠する。
【0090】
図8に表す符号化器800は、空間レベル毎に1つのSPSを生成する。しかし、他の実現形態は、空間レベル毎に複数のSPS300を生成することができるか、又は複数の空間レベルに対応するSPSを生成することができる。
【0091】
ビットストリーム8、8’及び8”は、図8に示すように、SVCビットストリームを生成する多重化器9において合成される。
【0092】
図9を参照すれば、階層ビュー900は、SUP SPSユニットを含むデータ・ストリームの生成を示す。ビュー900は、図8のスケーラブルなビデオ符号化器800によって生成される考えられるビットストリームを例証するために使用することができる。ビュー900は、SVCビットストリームを伝送インタフェース17に供給する。
【0093】
SVCビットストリームは、例えば、図8の実現形態によって生成することができ、空間レベル毎に1つのSPSを含む。m個の空間レベルが符号化されると、SVCビットストリームは、図9の10、10’及び10”において表すSPS1、SPS2及びSPSmを備える。
【0094】
SVCビットストリームでは、各SPSは、空間レベルに対する一般的な情報を符号化する。SPSには、 SUP_SPSタイプのヘッダ11、11’、11”、13、13’、13”、15、15’及び15”が続く。SUP_SPSには、対応する符号化ビデオ・データ12、12’、12”、14、14’、14”、16、16’及び16”(それぞれは、1つの時間レベル(n)及び1つの一品質レベル(O)に対応する)が続く。
【0095】
したがって、1つの層が伝送されない場合、対応するSUP_SPSも伝送されない。これは、各層に対応するSUP_SPSヘッダが通常1つであるからである。
【0096】
通常の実現形態は、ベース層がゼロのD及びQを有する層の番号付け手法を使用する。前述の番号付け手法がビュー900に使用された場合、ビュー900はベース層を明示的に示さない。これは、ベース層を使用することを排除するものでない。しかし、更に、ビュー900は、ベース層のビットストリーム、及び、例えば、ベース層の別個のSPS300を明示的に示すよう増強することができる。更に、ビュー900は、ビットストリーム(1,1,1)乃至(m,n,O)の1つ又は複数がベース層を表す、ベース層の別の番号付け手法を使用することができる。
【0097】
図10を参照すれば、図8及び図9の実現形態によって生成されるデータ・ストリーム1000のブロック図を備える。図10は、
層(1,1,1):空間レベル1、時間レベル1、品質レベル1(ブロック10、11及び12の伝送を含む)、
層(1,2,1):品質レベル1、時間レベル2、品質レベル1(ブロック11’及び12’の更なる伝送を含む)、
層(2,1,1):品質レベル2、時間レベル1、品質レベル1(ブロック10’、13及び14の更なる伝送を含む)、
層(3,1,1):空間レベル3、時間レベル1、品質レベル1(ブロック10”,15及び16の更なる伝送を含む)、
層(3,2,1)、空間レベル3、時間レベル2、品質レベル1(ブロック15’及び16’の更なる伝送を含む)、
層(3,3,1)、空間レベル3、時間レベル3、品質レベル1(ブロック15”及び16”の更なる伝送を含む)
の層の伝送を示す。
【0098】
データ・ストリーム1000のブロック図は、SPS10は一回のみ送出され、層(1,1,1)及び層(1,2,1)によって使用され、SPS10”は一回のみ送出され、層(3,1,1)、層(3,2,1)及び層(3,3,1)それぞれによって使用される。更に、データ・ストリーム1000は、層全てのパラメータが送信される訳でなく、送信層に対応するパラメータのみが送信される。例えば、
【数7】
に対応する、層(2,2,1)のパラメータは、前述の層が送信されないので送信されない。このことにより、前述の実現形態の効率がもたらされる。
【0099】
図11を参照すれば、符号化器1100は、SPS生成装置1110と、ビデオ符号化器1120と、フォーマッティング器1130とを備える。ビデオ符号化器1120は、入力ビデオを受信し、入力ビデオを符号化し、符号化入力ビデオをフォーマッティング器1130に供給する。符号化入力ビデオは例として、例えば符号化ベース層や符号化エンハンスメント層などの複数の層を含み得る。SPS生成装置1110は、例えば、SPSユニットやSUP SPSユニットなどのヘッダ情報を生成し、ヘッダ情報をフォーマッティング器1130に供給する。SPS生成装置1110は更に、入力ビデオの符号化においてビデオ符号化器1120によって使用されるパラメータを供給するためにビデオ符号化器1120と通信する。
【0100】
SPS生成装置1110は例えば、SPS NALユニットを生成するよう構成することができる。SPS NALユニットは、画像系列の第1の層の符号化の復号化において使用するためのパラメータを表す情報を含み得る。SPS生成装置1110は、例えば、SPS NALユニットとは別の構造を有するSUP NALユニットを生成するよう構成することもできる。SUP SPS NALユニットは、画像系列の第2の層の符号化の復号化において使用するためのパラメータを表す情報を含み得る。第1の層の符号化及び第2の層の符号化は、ビデオ符号化器1120によってもたらされ得る。
【0101】
フォーマッティング器1130は、ビデオ符号化器1120からの符号化ビデオ、及びSPS生成装置1110からのヘッダ情報を多重化して、出力符号化されたビットストリームを生成する。符号化されたビットストリームは、画像系列の第1の層の符号化、画像系列の第2の層の符号化、SPS NALユニット、及びSUP SPS NALユニットを含むデータの組であり得る。
【0102】
符号化器1100の構成部分1110、1120及び1130は多くの形態をとり得る。構成部分1110、1120及び1130のうちの1つ又は複数は、ハードウェア、ソフトウェア、ファームウェア、又は組合せを含み得、例えば、符号化器として機能するようソフトウェアによって構成された汎用プロセッサ又は専用符号化器などの種々のプラットフォームから動作させることができる。
【0103】
図8及び図11を比較することができる。SPS生成装置1110は、図8に示す種々の
【数8】
及びSPSを生成することができる。ビデオ符号化器1120は、図8に示すビットストリーム7、7’、7”(入力ビデオの符号化である)を生成することができる。ビデオ符号化器1120は例えば、符号化器2、2’又は2”のうちの1つ又は複数に相当し得る。フォーマッティング器1130は、参照符号8、8’、8”によって示す階層的に構成されたデータを生成し、図8のSVCビットストリームを生成するよう多重化器9の動作を行うことができる。
【0104】
図1及び図11も比較することができる。ビデオ符号化器1120は、例えば、図1のブロック104及び187に対応し得る。フォーマッティング器1130は例えば、多重化器170に対応し得る。SPS生成装置1110は図1に明示的に示していないが、SPS生成装置1110の機能は例えば、多重化器170によって行うことができる。
【0105】
符号化器1100の他の実現形態は、例えば、データが予め符号化されているので、ビデオ符号化器1120を含まない。符号化器1100は、更なる出力を備え、構成部分間の更なる通信を備えることもできる。符号化器1100は、例えば、既存の構成部分間に配置され得る更なる構成部分を備えるよう修正することもできる。
【0106】
図12を参照すれば、符号化器1100と同様に動作する符号化器1200を示す。符号化器1200は、プロセッサ1220と通信するメモリ1210を含む。メモリ1210は例えば、入力ビデオを記憶し、符号化若しくは復号化パラメータを記憶し、符号化処理中に中間結果若しくは最終結果を記憶し、又は、符号化方法を実行するための命令を記憶するために使用することができる。前述の記憶装置は、一時的なものであっても永久的なものであってもよい。
【0107】
プロセッサ1220は、入力ビデオを受信し、入力ビデオを符号化する。プロセッサ1220は更に、ヘッダ情報を生成し、ヘッダ情報及び符号化入力ビデオを含む符号化ビットストリームをフォーマッティングする。符号化器1100と同様に、プロセッサ1220によって供給されるヘッダ情報は、複数の層のヘッダ情報を伝えるための別個の構造を含み得る。プロセッサ1220は、例えば、プロセッサ1220又はメモリ1210に記憶されているか、プロセッサ1220又はメモリ1210に他の方法で常駐しているか、又は、プロセッサ1220又はメモリ1210の一部である命令に応じて動作し得る。
【0108】
図13を参照すれば、入力ビデオを符号化するための処理1300を示す。処理1300は例えば、符号化器1100又は1200によって行うことができる。
【0109】
処理1300は、SPS NALユニットを生成する工程(1310)を含む。SPS NALユニットは、画像系列の第1の層の符号化の復号化において使用するためのパラメータを表す情報を含む。SPS NALユニットは符号化標準によって規定してもしなくてもよい。SPS NALユニットが符号化標準によって規定される場合、符号化標準は、復号化器が、受信されたSPS NALユニットに応じて動作することを必要とし得る。前述の要件は、一般に、SPS NALユニットが「規範的である」と示すことによって表される。例えば、SPSはAVC標準において規範的である一方、例えば、付加拡張情報(「SEI」)メッセージは規範的でない。よって、AVC互換復号化器は、受信SEIメッセージを無視し得るが、受信SPSに応じて動作しなければならない。
【0110】
SPS NALユニットは、第1の層を復号化するための1つ又は複数のパラメータを表す情報を含む。パラメータは例えば、層に依存する情報であっても層に依存しない情報であってもよい。通常、層に依存するパラメータの例には、VUIパラメータ又はHRDパラメータが含まれる。
【0111】
動作1310は例えば、SPS生成装置1110、プロセッサ1220、又はSPS及びPPS挿入器2140によって行うことができる。動作1310は更に、図8中のブロック5、5’、5”の何れかにおけるSPSの生成に対応し得る。
【0112】
よって、動作1310、すなわち、SPS NALユニットの生成、を行う手段は種々の構成部分を含み得る。例えば、前述の手段は、SPS5、5’、5”を生成するモジュール、図1、8、11若しくは12の符号化器システム全体、SPS生成装置1110、プロセッサ1220、又はSPS及びPPS挿入器2140、あるいは、既知の符号化器及び将来開発される符号化器を含むそれらの均等物を含み得る。
【0113】
処理1300は、SPS NALユニットとは別の構造を有する補助(「SUP」)SPS NALユニットを生成する工程(1302)を含む。SUP SPS NALユニットは、画像系列の第2の層の符号化の復号化において使用するためのパラメータを表す情報を含む。SUP SPS NALユニットは符号化標準によって規定してもしなくてもよい。SUP SPS NALユニットが符号化標準によって規定される場合、符号化標準は、復号化器が、受信されたSUP SPS NALユニットに応じて動作することを必要とし得る。同亜1310に関して上述した通り、前述の要件は、一般に、SUP SPS NALユニットが「規範的である」旨を示すことによって表される。
【0114】
種々の実現形態は、規範的SUP SPSメッセージを含む。例えば、SUP SPSメッセージは、2つ以上の層を復号化する復号化器(例えば、SVC互換復号化器)について規範的であり得る。前述のマルチレイヤ復号化器(例えば、SVC互換復号化器)は、SUP SPS メッセージにおいて伝えられた情報に応じて動作することが必要になる。しかし、単一層復号化器(例えば、AVC互換復号化器)は、SUP SPSメッセージを無視し得る。別の例として、SUP SPSメッセージは、単一層及び複数層の復号化器を含む復号化器全てについて規範的であり得る。SUP SPS メッセージが概ね、SPSメッセージに基づいており、SPSメッセージがAVC標準並びにSVC及びMVC拡張において規範的であるので、多くの実現形態が、規範的SUP SPSメッセージを含むことは、驚くほどでない。すなわち、SUP SPS メッセージは、同様のデータをSPSメッセージとして収容し、SPSメッセージと同様な目的を担い、SPSメッセージのタイプとみなし得る。規範的SUP SPS メッセージを有する実現形態は互換性の利点をもたらし、例えば、AVC及びSVC復号化器が、共通のデータ・ストリームを受信することを可能にし得る。
【0115】
(SUP SPSメッセージとしても表す)SUP SPS NALユニットは、第2の層を復号化するための1つ又は複数のパラメータを含む。パラメータは例えば、層に依存する情報であっても層に依存しない情報であってもよい。特定の例には、VUIパラメータやHRDパラメータがある。SUP SPSは、第2の層の復号化に使用されることに加え、第1の層の復号化にも使用することができる。
【0116】
動作1320は例えば、SPS生成装置1110、プロセッサ1220、又はSPS及びPPS挿入器2140と同様なモジュールよって行うことができる。動作1320は更に、図8中のブロック6、6’、6”の何れかにおけるSUP_SPS の生成に相当し得る。
【0117】
よって、動作1320、すなわち、SUP SPS NALユニットの生成、を行う手段は種々の構成部分を含み得る。例えば、前述の手段は、SUP_SPS6、6’又は6”を生成するモジュール、図1、図8、図11若しくは図12の符号化器システム全体、SPS生成装置1110、プロセッサ1220、又はSPS及びPPS挿入器2140と同様のモジュール、あるいは、既知の符号化器及び将来開発される符号化器を含むそれらの均等物を含み得る。
【0118】
処理1300は、画像系列の第1の層の符号化(例えば、ベース層)の符号化、及び画像系列の第2の層の符号化(1330)を含む。画像系列の前述の符号化は、第1の層の符号化及び第2の層の符号化をもたらす。第1の層の符号化は、第1の層の符号化ユニットとして表す一連のユニットにフォーマッティングすることができ、第2の層の符号化は、第2の層の符号化ユニットとして表す一連のユニットにフォーマッティングすることができる。動作1330は、例えば、ビデオ符号化器1120、プロセッサ1220、図8の符号化器2,2’、2”、又は図1の実現形態によって行うことができる。
【0119】
よって、動作1330を行う手段は種々の構成部分を含み得る。例えば、前述の手段は、符号化器2、2’若しくは2”、図1、8、11若しくは12の符号化器システム全体、ビデオ符号化器1120、プロセッサ1220、又は1つ若しくは複数のコア符号化器187(場合によっては、デシメーション・モジュール104を含む)、あるいは既知の符号化器及び将来開発される符号化器を含む均等物を含み得る。
【0120】
処理1300は、データの組を供給する工程(1340)を含む。上記データの組は、画像系列の第1の層の符号化、画像系列の第2の層の符号化、SPS NALユニット、及びSUP SPS NALユニットを含む。上記データの組は、例えば、メモリに記憶されるか、あるいは1つ又は複数の復号化器に送信されるよう、既知の標準に応じて符号化され得る。動作1340は例えば、図1のフォーマッティング器1130、プロセッサ1220又は多重化器170によって行うことができる。動作1340は、ビットストリーム 8、 8’若しくは8”の何れかの生成、並びに多重化されたSVCビットストリームの生成により、図8において行うこともできる。
【0121】
よって、動作1340(すなわち、データの組の供給)を行う手段は種々の構成部分を含み得る。例えば、前述の手段は、8、8’若しくは8”を生成するモジュール、多重化器9、図1、8、11若しくは12の符号化器システム全体、フォーマッティング器1130、プロセッサ1220、又は多重化器170、あるいは既知の符号化器及び将来開発される符号化器を含むそれらの均等物を含み得る。
【0122】
処理1300は種々のやり方で修正することができる。例えば、動作1330は、例えば、データが予め符号化されている実現形態において処理1300から除外することができる。更に、動作1330の除外に加え、動作1340は、複数の層の記述ユニットの生成に関する処理を提供するよう除外することができる。
【0123】
図14を参照すれば、例えば、処理1300によって生成することができるデータ・ストリーム1400を示す。データ・ストリーム1400は、SPS NALユニットの一部分1410と、SUP SPS NALユニットの一部分1420と、第1の層の符号化データの一部分1430と、第2の層の符号化データの一部分1440とを含む。第1の層の符号化データ1430は、第1の層の符号化ユニットとしてフォーマッティングすることができる第1の層の符号化である。第2の層の符号化データ1440は、第2の層の符号化ユニットとしてフォーマッティングすることができる第2の層の符号化である。データ・ストリーム1400は、部分1440後に付加するか、部分1410ー1440間で分散させることができる更なる部分を含み得る。更に、他の実現形態は部分1410乃至1440のうちの1つ又は複数を修正することができる。
【0124】
データ・ストリーム1400は、図9及び図10と比較することができる。SPS NALユニット1410は例えば、SPS1 10、 SPS2 10’及びSPSm 10”の何れかであり得る。SUP SPS NALユニット1420は例えば、SUP_SPSヘッダ11、11’、11”、13、13’、13”、15、15’及び15”の何れかであり得る。第1の層の符号化データ1430及び第2の層の符号化データ1440は、層ビットストリーム(1,1,1)12乃至(m,n,O)16”として示し、ビットストリーム12、12’、12”、14、14’、14”、16、16’及び16”のビットストリームを含む、個々の層のビットストリームの何れかであり得る。第1の層の符号化データ1430が、第2の層の符号化データ1440よりも高いレベルの組を備えたビットストリームであることが考えられる。例えば、第1の層の符号化データ1430は、層ビットストリーム(2,2,1)14’であり得、第2の層の符号化データ1440は、層ビットストリーム(1,1,1)12であり得る。
【0125】
データ・ストリーム1400の実現形態はデ―タ・ストリーム1000にも対応し得る。SPS NALユニット1410はデータ・ストリーム1000のSPSモジュール10に対応し得る。SUP SPS NALユニット1420はデータ・ストリーム1000のSUP_SPSモジュール11に対応し得る。第1の層の符号化データ1430は、データ・ストリーム1000の層ビットストリーム(1,1,1)に対応し得る。第2の層の符号化データ1440はデータ・ストリーム1000の層ビットストリーム(1,2,1)12’に対応し得る。データ・ストリーム1000のSUP_SPSモジュール11’は、第1の層の符号化データ1430と第2の層の符号化データ1440との間で分散し得る。データ・ストリーム1000に示す残りのブロック(10’乃至16”)は、データ・ストリーム1000に示す順序と同じ順序でデータ・ストリーム1400に付加し得る。
【0126】
図9及び図10は、SPSモジュールが層特有パラメータを何ら含まないことを示唆し得る。種々の実現形態は、実際にこのようにして動作し、通常、層毎にSUP_SPSを必要とする。しかし、他の実現形態は、SPSが、1つ又は複数の層の層特有パラメータを含めることを可能にし、よって、SUP_SPSを必要とすることなく1つ又は複数の層を伝送することを可能にする。
【0127】
図9及び図10は、各空間レベルがそれ自身のSPSを有することを示唆している。他の実現形態はこの構成を変えている。例えば、他の実現形態は、時間レベル毎に、又は品質レベル毎に別個のSPSを備える。なお他の実現形態は層毎の別個のSPSを備え、他の実現形態は、層全てを扱う単一のSPSを備える。
【0128】
図15を参照すれば、復号化器1500は、例えば、符号化器1100、符号化器1200、処理1300によって供給される符号化ビットストリームやデータ・ストリーム1400などを受信する解析装置1510を含む。解析装置1510は復号化器1520に結合される。
【0129】
解析装置1510は、SPS NALユニットからの情報にアクセスするよう構成される。SPS NALユニットからの情報は、画像系列の第1の層の符号化の復号化において使用するためのパラメータを表す。解析装置1510は、SPS NALユニットとは別の構造を有するSUP SPS NALユニットからの情報にアクセスするよう更に構成される。SUP SPS NALユニットからの情報は、画像系列の第2の層の符号化の復号化において使用するためのパラメータを表す。図13に関して上述したように、パラメータは層に依存するものであってもなくてもよい。
【0130】
解析装置1510は、解析されたヘッダ・データを出力として供給する。ヘッダ・データは、SPS NALユニットからアクセスされた情報を含み、SUP SPS NALユニットからアクセスされた情報も含む。解析装置1510は更に、解析された符号化ビデオ・データを出力として供給する。符号化ビデオ・データは、第1の層の符号化及び第2の層の符号化を含む。ヘッダ・データ及び符号化ビデオ・データは復号化器1520に供給される。
【0131】
復号化器1520は、SPS NALユニットからアクセスされる情報を使用して第1の層の符号化を復号化する。復号化器1520は更に、SUP SPS NALユニットからアクセスされた情報を使用して第2の層の符号化を復号化する。復号化器1520は更に、復号化された第1の層及び/又は復号化された第2の層に基づいて画像系列の再構成を更に生成する。復号化器1520は、再構成されたビデオを出力として供給する。再構成されたビデオは例えば、第1の層の符号化の再構成、又は第2の層の符号化の再構成であり得る。
【0132】
図15、図2及び図2aを比較すれば、解析装置1510は例えば、一部の実現形態では、逆多重化器202、並びに/又は、エントロピ復号化器204、212、222若しくは2245のうちの1つ若しくは複数に対応し得る。復号化器1520は、例えば、図2中の残りのブロックに対応し得る。
【0133】
復号化器1500は更に、更なる出力を備え、構成部分間の更なる通信を備えることもできる。復号化器1500は更に、例えば、既存の構成部分間に配置し得る更なる構成部分を設けるよう修正することができる。
【0134】
復号化器1500の構成部分1510及び1520は多くの形態をとり得る。構成部分1510及び1520の1つ又は複数はハードウェア、ソフトウェア、ファームウェア、又は組合せを含み得、例えば、専用復号化器、又は、復号化器として機能するようソフトウェアによって構成された汎用プロセッサなどの種々のプラットフォームから動作させることができる。
【0135】
図16を参照すれば、復号化器1500と同様に動作する復号化器1600を示す。復号化器1600は、プロセッサ1620と通信するメモリ1610を含む。メモリ1610は例えば、入力された符号化ビットストリームを記憶し、復号化若しくは符号化パラメータを記憶し、復号化処理中に中間結果若しくは最終結果を記憶し、又は、復号化方法を実行するための命令を記憶するために使用することができる。前述の記憶装置は、一時的なものであっても永久的なものであってもよい。
【0136】
プロセッサ1620は、符号化ビットストリームを受信し、符号化ビットストリームを再構成ビデオに復号化する。符号化ビットストリームは例えば、(1)画像系列の第1の層の符号化と、(2)画像系列の第2の層の符号化と、(3)第1の層の符号化の復号化に使用するためのパラメータを表す情報を有するSPS NALユニットと、(4)SPS NALユニットと別の構造を有し、第2の層の符号化の復号化に使用するためのパラメータを表す情報を有するSUP SPS NALユニットとを含む。
【0137】
プロセッサ1620は、少なくとも、第1の層の符号化、第2の層の符号化、SPS NALユニットからの情報、及びSUP SPS NALユニットからの情報に基づいて再構成ビデオを生成する。再構成されたビデオは例えば、第1の層の符号化の再構成、又は第2の層の符号化の再構成であり得る。プロセッサ1620は、例えば、プロセッサ1620又はメモリ1610に記憶されているか、プロセッサ1620又はメモリ1610に他の方法で常駐しているか、又は、プロセッサ1620又はメモリ1610の一部である命令に応じて動作し得る。
【0138】
図17を参照すれば、符号化ビットストリームを復号化するための処理1700を示す。処理1700は例えば、復号化器1500又は1600によって行うことができる。
【0139】
処理1700は、SPS NALユニットからの情報にアクセスする工程(1710)を含む。アクセスされた情報は、画像系列の第1の層の符号化の復号化において使用するためのパラメータを表す。
【0140】
SPS NALユニットは、図13に関して上述したようなものであり得る。更に、アクセス情報は例えば、HRDパラメータであり得る。動作1710は例えば、解析装置1510、プロセッサ1620、エントロピ復号化器204、212、222、若しくは2245、又は復号化器制御2205によって行うことができる。動作1710は更に、符号化器の1つ又は複数の構成部分により、符号化器で再構成処理において行うことができる。
【0141】
よって、動作1710、すなわち、SPS NALユニットからの情報へのアクセス、を行う手段は種々の構成部分を含み得る。例えば、前述の手段は、解析装置1510、プロセッサ1620、単一層復号化器、図2、図15若しくは図16の復号化器システム全体、又は、復号化器の1つ若しくは複数の構成部分、あるいは、符号化器800、1110若しくは1200の1つ又は複数の構成部分、あるいは、既知の復号化器及び符号化器、並びに将来に開発される復号化器及び符号化器を含むそれらの均等物を含み得る。
【0142】
処理1700は、SPS NALユニットとは別の構造を有するSUP SPS NALユニットからの情報にアクセスする工程(1720)を含む。SUP SPS NALユニットからアクセスされた情報は、画像系列の第2の層の符号化の復号化において使用するためのパラメータを表す。
【0143】
SUP SPS NALユニットは、図13に関して上述したようなものであり得る。更に、アクセス情報は例えば、HRDパラメータであり得る。動作1720は例えば、解析装置1510、プロセッサ1620、エントロピ復号化器204、212、222、若しくは2245、又は復号化器制御2205によって行うことができる。動作1720は更に、符号化器の1つ又は複数の構成部分により、符号化器で再構成処理において行うことができる。
【0144】
よって、動作1720、すなわち、SUP SPS NALユニットからの情報へのアクセス、を行う手段は種々の構成部分を含み得る。例えば、前述の手段は、解析装置1510、プロセッサ1620、逆多重化器202、エントロピ復号化器204、212若しくは222、単一層復号化器、又は、復号化器システム200、1500若しくは1600全体、あるいは符号化器800、1100若しくは1200の1つ若しくは複数の構成部分、あるいは既知の復号化器及び符号化器を含むそれらの均等物を含み得る。
【0145】
動作1700は、画像系列の第1の層の符号化及び第2の層の符号化にアクセスする工程(1730)を含む。第1の層の符号化は第1の層の符号化ユニットにフォーマッティングされていることがあり得、第2の層の符号化は第2の層の符号化ユニットにフォーマッティングされていることがあり得る。動作1730は例えば、解析装置1510、復号化器1520、プロセッサ1620、エントロピ復号化器204、212、222若しくは2245、又はエントロピ復号化器の下流の種々の他のブロックによって行うことができる。動作1730は更に、符号化器の1つ又は複数の構成部分により、符号化器での再構成処理において行うことができる。
【0146】
よって、動作1730を行う手段は種々の構成部分を含み得る。例えば、前述の手段は、解析装置1510、復号化器1520、プロセッサ1620、逆多重化器202、エントロピ復号化器204、212若しくは222、単一層復号化器、ビットストリーム受信器、受信装置、又は、復号化器システム200、1500又は1600の全体、あるいは、復号化器の1つ若しくは複数の構成部分、あるいは、符号化器800、1110若しくは1200の1つ又は複数の構成部分、あるいは、既知の復号化器及び符号化器、並びに将来に開発される復号化器及び符号化器を含むそれらの均等物を含み得る。
【0147】
処理1700は、画像の系列の復号化を生成する工程(1740)を含む。画像系列の復号化は、第1の層の符号化、第2の層の符号化、SPS NALユニットからのアクセス情報、及びSUP SPS NALユニットからのアクセス情報に基づき得る。動作1740は例えば、復号化器1520、プロセッサ1620、又は逆多重化器202及び入力バッファ2210の下流の種々のブロックによって行うことができる。動作1740は更に、符号化器の1つ又は複数の構成部分により、符号化器で再構成処理において行うことができる。
【0148】
よって、動作1740を行う手段は種々の構成部分を含み得る。例えば、前述の手段は、復号化器1530、プロセッサ1620、単一層復号化器、復号化器システム200、1500若しくは1600の全体、又は再構成を行う符号化器、復号化器のうちの1つ又は複数の構成部分、あるいは、符号化器800、1100及び1200の1つ又は複数の構成部分、あるいは、既知の復号化器若しくは符号化器、及び将来開発される復号化器若しくは符号化器を含むそれらの均等物を含み得る。
【0149】
別の実現形態は、第1の規範的パラメータ・セットにおける第1の層に依存する情報にアクセスする工程を含む符号化方法を行う。アクセスされた、第1の層に依存する情報は、画像系列の第1の層の符号化の復号化において使用するためのものである。第1の規範的パラメータ・セットは例えば、HRD関連パラメータ又は他の層依存性情報を含むSPSであり得る。しかし、第1の規範的パラメータ・セットはSPSでなくてよく、H.264標準に関係していなくてよい。
【0150】
当該パラメータ・セットが受信された場合に第1のパラメータ・セットに応じて復号化器が動作することを必要とする、第1のパラメータ・セットが規範的であることに加えて、第1のパラメータ・セットは、実現形態において受信されることも必要とし得る。すなわち、実現形態は、第1のパラメータ・セットを復号化器に供給することを必要とし得る。
【0151】
この実現形態の符号化方法は、第2の規範的パラメータ・セットにおける第2の層に依存する情報にアクセスする工程を更に含む。第2の規範的パラメータ・セットは、第1の規範的パラメータ・セットとは別の構造を有する。更に、アクセスされた、第2の層に依存する情報は、画像系列の第2の層の符号化の復号化において使用するためのものである。第2の規範的パラメータ・セットは例えば、補助SPSであり得る。補助SPSは、例えばSPSとは別の構造を有する。補助SPSは、(第1の層とは別の)第2の層のHRDパラメータ又は他の層依存性情報を更に含む。
【0152】
この実現形態の符号化方法は更に、アクセスされた、第1の層に依存する情報、及びアクセスされた、第2の層に依存する情報のうちの1つ又は複数に基づいて画像系列を復号化する工程を更に含む。これは例えば、ベース層又はエンハンスメント層の復号化を含み得る。
【0153】
対応する装置は、この実現形態の符号化手法を実現するために他の実現形態においても備えられる。前述の装置は例えば、プログラムされた符号化器、プログラムされたプロセッサ、ハードウェア実現形態、又は、符号化方法を行うための命令を有するプロセッサ読み取り可能な媒体を含む。システム1100及び1200は例えば、この実現形態の符号化方法を実現することができる。
【0154】
対応する信号、及び前述の信号又は前述の信号のデータを記憶する媒体も提供される。前述の信号は、例えば、この実現形態の符号化方法を行う符号化器によって生成される。
【0155】
別の実現形態は、上記符号化方法と同様な復号化手法を行う。復号化方法は、第1の層に依存する情報を含む第1の規範的パラメータ・セットを生成する工程を含む。第1の層に依存する情報は、画像系列の第1の層の符号化の復号化において使用するためのものである。復号化方法は、第1の規範的パラメータ・セットとは別の構造を有する第2の規範的パラメータ・セットを生成する工程も含む。第2の規範的パラメータ・セットは、画像系列の第2の層の符号化の復号化において使用するための第2の層に依存する情報を含む。復号化方法は、第1の規範的パラメータ・セット及び第2の規範的パラメータ・セットを含むデータの組を供給する工程を更に含む。
【0156】
対応する装置は、この実現形態の上記符号化手法を実現するために他の実現形態においても備えられる。前述の装置は例えば、プログラムされた復号化器、プログラムされたプロセッサ、ハードウェア実現形態、又は、復号化方法を行うための命令を有するプロセッサ読み取り可能な媒体を含む。システム1500及び1600は例えば、この実現形態の復号化方法を実現することができる。
【0157】
例えば、「補助SPS」を表す場合に、上記「補助」の語は、説明的な語である。そういうものとして、「補助SPS」は、ユニット名において「補助」の語を含まないユニットを排除するものでない。よって、かつ例として、SVC拡張の現在のドラフトは、「サブセットSPS」構文構造を規定しており、「サブセットSPS」構文構造は、記述的な語「補助」によって完全に包含される。現在のSVC拡張の「サブセットSPS」は、本明細書及び特許請求の範囲記載のSUP SPSの一実現形態である。
【0158】
実現形態は、SPS NALユニット及び/若しくはSUP SPS NALユニットに加えて、又はSPS NALユニット及び/若しくはSUP SPS NALユニットの代わりとして他のタイプのメッセージを使用することができる。例えば、少なくとも1つの実現形態は、層依存性情報を有する他のパラメータ・セットを生成し、送信し、受信し、上記他のパラメータ・セットにアクセスし、上記他のパラメータ・セットを解析する。
【0159】
更に、SPS及び補助SPSは、概ねH.264標準の意味合いで説明しているが、他の標準は更に、SPS、補助SPS、又は、SPS若しくは補助SPSの変形を含み得る。よって、他の標準(既存又は将来開発される)は、SPS又は補助SPSとして表す構造を含み得、前述の構造は、本明細書及び特許請求の範囲記載のSPS及び補助SPSと同一であるか、上記SPS及び補助SPSの変形であり得る。前述の他の標準は例えば、現在のH.264標準に関係し得る(例えば、既存のH.264標準に対する修正)か、又は全く新たな標準であり得る。あるいは、他の標準(既存又は将来開発される)は、SPS又は補助SPSとして表さない構造を含み得るが、前述の構造は、本明細書及び特許請求の範囲記載のSPS及び補助SPSと同一であるか、上記SPS及び補助SPSの変形であり得る。
【0160】
パラメータ・セットは、パラメータを含むデータの組(例えば、SPS、PPS、又は補助SPS)である。
【0161】
種々の実現形態では、データに「アクセスされる」としている。データに「アクセスする」工程は例えば、データを受信する工程、データを記憶する工程、データを送信する工程、又はデータを処理する工程を含み得る。
【0162】
種々の実現形態を記載し、説明している。前述の実現形態は、種々の課題を解決するために使用することが可能である。(層としても表す)複数のインターオペラビリティ・ポイント(IOP)が、SPSに通常収容されるパラメータの種々の値を必要とする場合に、前述の課題の1つが生じる。同じSPS識別子を有する別々の層についてSPSにおいて層依存性構文要素を送信する方法で適切なものは存在していない。前述の層毎の別個のSPSデータを送出することは問題となる。例えば、多くの既存のシステムでは、ベース層及びその複合時間層は同じSPS識別子を共有する。
【0163】
いくつかの実現形態は、補助SPSデータについて別のNALユニット・タイプを備える。よって、複数のNALユニットを送出することができ、各NALユニットは別のSVC層の補助SPS情報を含み得るが、各NALユニットは同じNALユニット・タイプによって識別することができる。補助SPS情報は、一実現形態では、現在のSVC拡張の「サブセットSPS」NALユニット・タイプにおいて供給することができる。
【0164】
本明細書及び特許請求の範囲記載の実現形態は、SVC拡張又は何れかの他の標準に制限されるものでない。本明細書及び特許請求の範囲記載の概念及び特徴は、現在存在しているか、若しくは将来開発される他の標準に使用することができるか、又は、何れの標準にも準拠しないシステムに使用することができる。一例として、本明細書及び特許請求の範囲記載の概念及び構成は、MVC拡張の環境において動作する実現形態について使用することができる。例えば、MVCビューは別々のSPS情報を必要とし得るか、又はMVC拡張内でサポートされるSVC層は別々のSPS情報を必要とし得る。更に、本明細書及び特許請求の範囲記載の構成及び局面は、更に他の実現形態にも適合させることができる。よって、本明細書及び特許請求の範囲記載の実現形態はSVC層のSPSの意味合いで記載している場合があるが、前述の記載は、前述の実現形態又は意味合いに上記構成及び概念を限定するものと解するべきでない。
【0165】
本明細書及び特許請求の範囲記載の実現形態は、例えば、方法若しくは処理、装置、又はソフトウェア・プログラムで実現することができる。単一の形式の実現形態の意味合いでしか(例えば、方法としてしか)記載されてない場合でも、記載された構成の実現形態は、他の形式(例えば、装置又はプログラム)で実現することもできる。装置は例えば、適切なハードウェア、ソフトウェア及びファームウェアにおいて実現することができる。方法は例えば、コンピュータ、マイクロプロセッサ、集積回路や、プログラマブル論理装置を含む、一般に処理装置を表す装置(例えば、プロセッサ)で実現することができる。プロセッサは更に、例えば、コンピュータ、携帯電話機、ポータブル/ディジタル携帯情報端末(「PDA」)、及びエンドユーザ間で情報の通信を容易にする他の装置などの通信装置も含む。
【0166】
本明細書及び特許請求の範囲記載の種々の処理及び特徴の実現形態は、例えば、各種機器又はアプリケーションにおいて、特に、例えば、データ符号化及び復号化に関連付けられた機器又はアプリケーションにおいて実施することができる。機器の例には、ビデオ符号化器、ビデオ復号化器、ビデオ・コデック、ウェブ・サーバ、セットトップ・ボックス、ラップトップ、パソコン、携帯電話機、PDA、及び他の通信装置を含む。機器は、モバイルであり得、移動車両に設置することもできる。
【0167】
更に、方法は、プロセッサによって行われる命令によって実現することができ、前述の命令は、プロセッサ読み取り可能な媒体(例えば、集積回路、ソフトウェア担体や他の記憶装置(例えば、ハード・ディスク、コンパクト・ディスケット、ランダム・アクセス・メモリ(「RAM」)やリードオンリー・メモリ「ROM」)など)上に記憶することができる。命令は、プロセッサ読み取り可能な媒体上に有形に実施されたアプリケーション・プログラムを構成することができる。命令は例えば、ハードウェア、ファームウェア、ソフトウェア、又は組合せであり得る。命令は例えば、オペレーティング・システム、別個のアプリケーション、又は2つの組合せであり得る。よって、プロセッサは、例えば、処理を行うための命令を有するコンピュータ読み取り可能な媒体を含む装置及び処理を行うよう構成された装置として特徴付けることができる。
【0168】
当業者に分かるように、実現形態は、例えば、記憶又は伝送することができる情報を搬送するようフォーマッティングされた種々の信号を生成することができる。情報は例えば、前述の実現形態のうちの1つによって生成されるデータ、又は方法を行うための命令を含み得る。例えば、信号は、記載された実施例の構文を読み書きするための規則をデータとして搬送するか、又は記載された実施例によって書き込まれる実際の構文値をデータとして搬送するようフォーマッティングすることができる。前述の信号は例えば、電磁波(例えば、スペクトルの無線周波数部分を使用して)として、又はベースバンド信号としてフォーマッティングすることが可能である。フォーマッティングは例えば、データ・ストリームの符号化、及び符号化データ・ストリームによる搬送波の変調を含み得る。信号が搬送する情報は例えば、アナログ情報又はディジタル情報であり得る。信号は、知られているように、各種有線リンク又は無線リンクを介して伝送することができる。
【0169】
いくつかの実現形態を説明してきた。しかし、種々の修正を行うことができることが理解されるであろう。例えば、別々の実現形態の構成要素を合成し、補完し、修正し、又は除外して他の実現形態を生成することができる。更に、他の構造及び処理を、開示されたものと置き換えることができ、結果として生じる実現形態は少なくとも実質的に同じ機能を少なくとも実質的に同じやり方で行って、開示された実現形態と、少なくとも実質的に同じ結果を達成することを当業者は理解するであろう。よって、前述及び他の実現形態は、本出願によって想定されており、特許請求の範囲記載の範囲内に収まる。
【技術分野】
【0001】
本出願は、(1)「Supplemental Sequence Parameter Set for Scalable Video Coding or Multi−view Video Coding」と題する、西暦2007年4月18日付け出願の米国特許仮出願第60/923993号明細書(代理人整理番号PU070101)、及び(2)「Supplemental Sequence Parameter Set for Scalable Video Coding or Multi−view Video Coding」と題する、西暦2007年6月28日付け出願の米国特許仮出願第11/824006号明細書PA070032)それぞれの利益を主張し、上記(1)及び(2)それぞれの全部の内容を全ての目的で本明細書及び特許請求の範囲に援用する。
【0002】
少なくとも1つの実現形態は、ビデオ・データをスケーラブルに符号化し、復号化する方法に関する。
【背景技術】
【0003】
データが向けられる端末が、種々の容量を有し、よって、完全なデータ・ストリームを復号化しないが、完全なデータ・ストリームの一部のみを復号化する場合に、いくつかの層によるビデオ・データの符号化が有用であり得る。
【発明の概要】
【発明が解決しようとする課題】
【0004】
ビデオ・データがいくつかの層により、スケーラブルに符号化されると、受信端末は、端末のプロファイルに応じてデータの一部分を、受信されたビットストリームから抽出することが可能である。完全なデータ・ストリームは、端末において層それぞれの復号化を容易にするために、サポートされた層それぞれのオーバヘッド情報も伝送することができる。
【課題を解決するための手段】
【0005】
上記課題を解決するため、本発明に係る方法は、シーケンス・パラメータ・セット(「SPS」)ネットワーク抽象化層(「NAL」)ユニットからの情報にアクセスする工程であって、情報が、画像系列内の画像の第1の層の符号化の復号化に使用するためのパラメータを表す工程と、SPS NALユニットのNALユニット・タイプ符号とは別のNALユニット・タイプ符号を有し、SPS NALユニットとは別の構文構造を有する補助SPS NALユニットからの補助情報にアクセスする工程であって、補助SPS NALユニットからの補助情報は、画像系列内の画像の第2の層の符号化の復号化に使用するためのパラメータを表す工程と、SPS NALユニットからのアクセスされた情報、及び補助SPS NALユニットからのアクセスされた補助情報それぞれに基づいて第1の層の符号化及び第2の層の符号化を復号化する工程とを含むようにしている。
さらに、本発明に係る方法は、SPS NALユニットは、H.264/MPEG−4AVC標準又は関係する標準に準拠し、補助SPS NALユニットは、H.264/MPEG−4AVC標準又は関係する標準のスケーラブルなビデオ符号化(「SVC」)拡張に準拠するようにしている。
さらに、本発明に係る方法は、補助SPS NALユニットは専用のNALユニット・タイプを有し、標準はそれにより、補助SPS NALユニット・タイプを有するNALユニットをAVC復号化器が無視することを可能にし、補助SPS NALユニット・タイプを有するNALユニットに応じてSVC復号化器が動作することを必要とすることにより、AVC復号化器とSVC復号化器との間と互換性を可能にするようにしている。
さらに、本発明に係る方法は、補助SPS NALユニットの構文は層依存性パラメータを定めるようにしている。
さらに、本発明に係る方法は、補助SPS NALユニットは、少なくとも1つの層の層依存性情報を含むようにしている。
さらに、本発明に係る方法は、第2の層の符号化の復号化に使用するためのパラメータはビデオ有用性情報(「VUI」)パラメータを含むようにしている。
さらに、本発明に係る方法は、第2の層の符号化の復号化に使用するためのパラメータは仮想参照復号化器(「HRD」)パラメータを含むようにしている。
さらに、本発明に係る方法は、SPS NALユニットは、H.264/MPEG−4 AVC標準又は関連した標準におけるSPS NALユニットに準拠し、補助SPS NALユニットは、H.264/MPEG−4 AVC標準又は関連した標準のSVC拡張におけるサブセットSPS NALユニットに準拠するようにしている。
さらに、本発明に係る方法は、補助SPS NALユニットは、補助SPS NALユニットにおいて受信された情報に応じて復号化器が動作することが必要な標準に準拠するようにしている。
さらに、本発明に係る方法は、第1の層の符号化は、空間レベル、品質レベル及び時間レベルのうちの1つ又は複数について、第2の層の符号化とは異なるレベルを有するようにしている。
さらに、本発明に係る方法は、SPS NALユニットからの情報及び補助SPS NALユニットからの情報は、伝送チャネルを介して受信されたビットストリームからアクセスされるようにしている。
さらに、本発明に係る方法は、SPS NALユニットからの情報へのアクセス、補助SPS NALユニットからの情報へのアクセス、及び復号化の生成は、復号化器で行われるようにしている。
さらに、本発明に係る方法は、SPS NALユニットからの情報へのアクセス、補助SPS NALユニットからの情報へのアクセス、及び復号化は、符号化器で行われるようにしている。
上記課題を解決するため、本発明に係る装置は、少なくとも、シーケンス・パラメータ・セット(「SPS」)ネットワーク抽象化層(「NAL」)ユニットからの情報にアクセスする機能であって、情報が、画像系列内の画像の第1の層の符号化の復号化に使用するためのパラメータを表す機能と、SPS NALユニットのNALユニット・タイプ符号とは別のNALユニット・タイプ符号を有し、SPS NALユニットとは別の構文構造を有する補助SPS NALユニットからの補助情報にアクセスする機能であって、補助SPS NALユニットからの補助情報は、画像系列内の画像の第2の層の符号化の復号化に使用するためのパラメータを表す機能と、SPS NALユニットからのアクセスされた情報、及び補助SPS NALユニットからのアクセスされた補助情報それぞれに基づいて第1の層の符号化及び第2の層の符号化を復号化する機能を行うための、プロセッサ読み取り可能な媒体上に記憶された命令を含むプロセッサ読み取り可能な媒体を備えるようにしている。
さらに、本発明に係る装置は、シーケンス・パラメータ・セット(「SPS」)ネットワーク抽象化層(「NAL」)ユニットからの情報にアクセスする手段であって、情報が、画像系列内の画像の第1の層の符号化の復号化に使用するためのパラメータを表わす手段と、SPS NALユニットのNALユニット・タイプ符号とは別のNALユニット・タイプ符号を有し、SPS NALユニットとは別の構文構造を有する補助SPS NALユニットからの補助情報にアクセスする手段であって、補助SPS NALユニットからの補助情報は、画像系列内の画像の第2の層の符号化の復号化に使用するためのパラメータを表す手段と、SPS NALユニットからのアクセスされた情報、及び補助SPS NALユニットからのアクセスされた補助情報それぞれに基づいて第1の層の符号化及び第2の層の符号化を復号化する手段と、を備えるようにしている。
さらに、本発明に係る装置は、シーケンス・パラメータ・セット(「SPS」)ネットワーク抽象化層(「NAL」)ユニットからの情報にアクセスする機能であって、画像の系列内の画像の第1の層の符号化の復号化において使用するためのパラメータを表す機能と、SPS NALユニットのNALユニット・タイプとは別のNALユニット・タイプ符号を有し、SPS NALユニットとは別の構文構造を有する補助SPS NALユニットからの補助情報にアクセスする機能であって、補助SPS NALユニットからの補助情報は、画像系列内の画像の第2の層の符号化の復号化に使用するためのパラメータを表す機能と、SPS NALユニットからのアクセスされた情報、及び補助SPS NALユニットからのアクセスされた補助情報それぞれに基づいて第1の層の符号化及び第2の層の符号化を復号化する機能と、を実行するよう構成されたプロセッサを備えるようにしている。
さらに、本発明に係る装置は、ビデオ・データを記憶するメモリを更に備えるようにしている。
上記課題を解決するため、本発明に係る装置は、シーケンス・パラメータ・セット(「SPS」)ネットワーク抽象化層(「NAL」)ユニットからの情報にアクセスし、情報が、画像系列内の画像の第1の層の符号化の復号化に使用するためのパラメータを表し、SPS NALユニットのNALユニット・タイプ符号とは別のNALユニット・タイプ符号を有し、SPS NALユニットとは別の構文構造を有する補助SPS NALユニットからの補助情報にアクセスするよう構成された解析ユニットであって、補助SPS NALユニットからの補助情報は、画像系列内の画像の第2の層の符号化の復号化に使用するためのパラメータを表す解析ユニットと、SPS NALユニットからのアクセスされた補助情報を使用して第1の層の符号化を復号化し、補助SPS NALユニットからのアクセスされた補助情報を使用して第2の層の符号化を復号化し、第1の層の符号化の復号化、及び第2の層の符号化の復号化のうちの1つ又は複数に基づいて画像系列内の画像の再構成を生成するよう構成された復号化器と、を備えるようにしている。
さらに、本発明に係る装置は、SPS NALユニットは、H.264/MPEG−4 AVC標準又は関連した標準におけるSPS NALユニットに実質的に準拠するようにしている。
さらに、本発明に係る装置は、画像の第2の層の符号化の復号化において使用するためのパラメータは、スケーラブル・ビデオ符号化(「SVC」)ビデオ有用性情報(「VUI」)パラメータを含み、別の構文構造は、SVC VUIパラメータが画像の第2の層の符号化に適用される旨を示す時間、依存性、及び品質の指標を含む補助情報に反映されるようにしている。
さらに、本発明に係る装置は、SPS NALユニットからの情報によって表されるパラメータは、第2の層の符号化を復号化するためにも必要であるようにしている。
【0006】
一般的な局面によれば、情報が、シーケンス・パラメータ・セット(「SPS」)ネットワーク抽象化層(「NAL」)ユニットからアクセスされる。上記情報は、画像系列の第1の層の符号化の復号化において使用するためのパラメータを表す。情報は、SPS NALユニットとは別の構造を有する補助SPS NALユニットからもアクセスされる。補助SPS NALユニットからの情報は、画像系列の第2の層の符号化の復号化において使用するためのパラメータを表す。画像系列の復号化は、第1の層の符号化、第2の層の符号化、SPS NALユニットからのアクセス情報、及び補助SPS NALユニットからのアクセス情報に基づいて生成される。
【0007】
別の一般的な局面によれば、複数の層における画像系列の復号化を定める構文構造が使用される。構文構造は、画像系列の第1の層の符号化の復号化に使用するためのパラメータを表す情報を含むSPS NALユニットの構文を含む。構文構造は、SPS NAL ユニットとは別の構造を有する補助SPS NALユニットの構文も含む。補助SPS NALユニットは、画像系列の第2の層の符号化の復号化において使用するためのパラメータを表す情報を含む。画像系列の復号化は、第1の層の符号化、第2の層の符号化、SPS NALユニットからの情報、及び補助SPS NALユニットからの情報に基づいて生成され得る。
【0008】
別の一般的な局面によれば、信号はSPS NALユニットからの情報を含めるようフォーマッティングされる。上記情報は、画像系列の第1の層の符号化の復号化において使用するためのパラメータを表す。信号は、SPS NALユニットとは別の構造を有する補助SPS NALユニットからの情報を含めるよう更にフォーマッティングされる。補助SPS NALユニットからの情報は、画像系列の第2の層の符号化の復号化において使用するためのパラメータを表す。
【0009】
別の一般的な局面によれば、画像系列の第1の層の符号化の復号化に使用するためのパラメータを表す情報を含むSPS NALユニットが生成される。SPS NALユニットと構造が別の補助SPS NALユニットが生成される。補助SPS NALユニットは、画像系列の第2の層の符号化の復号化において使用するためのパラメータを表す情報を含む。画像系列の第1の層の符号化、画像系列の第2の層の符号化、SPS NALユニット、及び補助SPS NALユニットを含むデータの組が供給される。
【0010】
別の一般的な局面によれば、複数の層における画像系列の符号化を定める構文構造が使用される。構文構造は、SPS NALユニットの構文を含む。SPS NALユニットは、画像系列の第1の層の符号化の復号化において使用するためのパラメータを表す情報を含む。構文構造は、補助SPS NALユニットの構文を含む。補助SPS NALユニットは、SPS NAL ユニットとは別の構造を有する。補助SPS NALユニットは、画像系列の第2の層の符号化の復号化において使用するためのパラメータを表す情報を含む。画像系列の第1の層の符号化、画像系列の第2の層の符号化、SPS NALユニット、及び補助SPS NALユニットを含むデータの組を供給することができる。
【0011】
別の一般的な局面によれば、第1の層に依存する情報は、第1の規範的パラメータ・セットにおいてアクセスされる。アクセスされた、第1の層に依存する情報は、画像系列の第1の層の符号化の復号化において使用するためのものである。第2の層に依存する情報は、第2の規範的パラメータ・セットにおいてアクセスされる。第2の規範的パラメータ・セットは、第1の規範的パラメータ・セットとは別の構造を有する。アクセスされた、第2の層に依存する情報は、画像系列の第2の層の符号化の復号化において使用するためのものである。画像の系列は、アクセスされた、第1の層に依存する情報、及びアクセスされた、第2の層に依存する情報のうちの1つ又は複数に基づいて復号化される。
【0012】
別の一般的な局面では、第1の層に依存する情報を含む第1の規範的パラメータ・セットが生成される。第1の層に依存する情報は、画像系列の第1の層の符号化の復号化において使用するためのものである。第1の規範的パラメータ・セットとは別の構造を有する第2の規範的パラメータ・セットが生成される。第2の規範的パラメータ・セットは、画像系列の第2の層の符号化の復号化において使用するための第2の層に依存する情報を含む。第1の規範的パラメータ・セット及び第2の規範的パラメータ・セットを含むデータの組が提供される。
【図面の簡単な説明】
【0013】
【図1】符号化器の実現形態のブロック図である。
【図1a】符号化器の別の実現形態のブロック図である。
【図2】復号化器の実現形態のブロック図である。
【図2a】復号化器の別の実現形態のブロック図である。
【図3】単一層シーケンス・パラメータ・セット(「SPS」)ネットワーク抽象化層(「NAL」)ユニットの実現形態の構造を示す図である。
【図4】SPS NALユニットの使用を例証するデータ・ストリームの一部分の例のブロック図である。
【図5】補助SPS(「SUP SPS」)NALユニットの実現形態の構造を示す図である。
【図6】SPSユニット及び複数のSUP SPS ユニットの間の組織階層の実現形態を示す図である。
【図7】SUP SPS NALユニットの別の実現形態の構造を示す図である。
【図8】SUP SPSユニットを生成するスケーラブルなビデオ符号化器の実現形態を示す機能図である。
【図9】SUP SPSユニットを含むデータ・ストリームの生成の実現形態を示す階層図である。
【図10】図9の実現形態によって生成されるデータ・ストリームの例を示すブロック図である。
【図11】符号化器の実現形態のブロック図である。
【図12】符号化器の別の実現形態のブロック図である。
【図13】図11又は図12の符号化器によって使用される符号化処理の実現形態を示すフローチャートである。
【図14】図13の処理によって生成されるデータ・ストリームの例を示すブロック図である。
【図15】復号化器の実現形態を示すブロック図である。
【図16】復号化器の別の実現形態を示すブロック図である。
【図17】図15又は図16の復号化器によって使用される復号化処理の実現形態を示すフローチャートである。
【発明を実施するための形態】
【0014】
1つ又は複数の実現形態の詳細を添付図面及び以下明細書において記載する。1つの特定のやり方で記載されていても、実現形態は、種々のやり方で構成又は実施することができる。例えば、実現形態は、方法として実行するか、例えば、動作の組を行うよう構成された装置や、動作の組を行うための命令を記憶する装置などの装置として実施するか、又は信号として実施することができる。他の局面及び特徴は、以下の詳細な説明を添付図面及び特許請求の範囲とともに考察することにより、明らかになるであろう。
【実施例】
【0015】
別々の層及び/又はプロファイルに応じてビデオ・データを符号化することが可能ないくつかのビデオ符号化標準が今日、存在している。このうち、the International Organization for Standardization/International Electrotechnical Commission (ISO/IEC) Moving Picture Experts Group−4 (MPEG−4) Part 10 Advanced Video Coding (AVC) standard/International Telecommunication Union, Telecommunication Sector (ITU−T) H.264勧告としても表されるH.264/MPEG−4AVC(「AVC標準」)を挙げることが可能である。更に、AVC標準に対する拡張が存在している。前述の第1の拡張は、H.264/MPEG−4 AVC、スケーラブル・ビデオ符号化拡張(「SVC 拡張」)として表されるスケーラブル・ビデオ符号化(「SVC」)拡張(アネックスG)である。前述の第2の拡張は、H.264/MPEG−4 AVC、MVC拡張(「MVC 拡張」)として表されるマルチビュー・ビデオ符号化(「MVC」)拡張(アネックスH)である。
【0016】
本明細書及び特許請求の範囲に記載した少なくとも1つの実現形態は、AVC標準、並びにSVC拡張及びMVC拡張に使用することができる。上記実現形態は、補助(「SUP」)シーケンス・パラメータ・セット(「SPS」)ネットワーク抽象化層(「NAL」)ユニット(SPS NALユニットとは別のNALユニット・タイプを有する)を提供する。SPSユニットは、少なくとも単一の層の情報を含むが、上記情報を含まなくてよい。更に、SUP SPS NALユニットは、少なくとも1つの更なる層の層依存性情報を含む。よって、SPSユニット及びSUP SPSユニットにアクセスすることにより、復号化器は、ビットストリームを復号化するために必要な利用可能な特定の(、及び通常、全ての)層に依存する情報を有する。
【0017】
AVCシステムにおける前述の実現形態を使用すれば、SUP SPS NALユニットを送信しなくてよく、単一層SPS NALユニット(後述する)を送信することができる。SVC(又はMVC)システムにおいて前述の実現形態を使用すれば、SUP SPS NALユニットは、SPS NALユニットに加えて、所望の更なる層(又はビュー)について送信することができる。AVC互換復号化器及びSVC互換復号化器(又はMVC互換復号化器)を含むシステムにおいて前述の実現形態を使用すれば、AVC互換復号化器は、NALユニット・タイプを検出することにより、SUP SPS NALユニットを無視し得る。何れの場合にも、効率及び互換性が達成される。
【0018】
上記実現形態は、例えば、SPS、又はSPSに通常収容される特定の情報などのヘッダ情報を特定層が共有する旨の要件を課すシステムの利点(標準他)ももたらす。例えば、ベース層及びその複合時間層がSPSを共有したい場合、層依存性情報を共有SPSとともに送信することは可能でない。しかし、SUP SPSは、層依存性情報を伝送する機構を提供する。
【0019】
種々の実現形態のSUP SPSは、SUS SPS がSPSにおけるパラメータ全てを含まなくてよく、よって、反復しなくてよいという効率的な利点も提供する。SUP SPSは通常、層依存性パラメータを対象とする。しかし、種々の実現形態は、層に依存しないパラメータを含み、又はSPS構造全てを反復するSUP SPS構造を含む。
【0020】
種々の実現形態はSVC拡張に関する。SVC拡張は、いくつかの空間レベル、時間レベル及び品質レベルに応じたビデオ・データの伝送を提案している。一空間レベルの場合、いくつかの時間レベルに応じて符号化することが可能であり、いくつかの品質レベルに応じた時間レベル毎に符号化することが可能である。したがって、m個の空間レベル、n個の時間レベル、及びO個の品質レベルが規定されている場合、ビデオ・データは、m*n*O個の別々の組合せによって符号化することが可能である。前述の組合せは、層又はインターオペラビリティ・ポイント(「IOP」)として表す。復号化器(受信器又はクライアントとしても表す)の機能によれば、別々の層を、クライアント機能の最大値に対応する特定の層まで伝送することができる。
【0021】
本明細書及び特許請求の範囲記載の「層依存性」情報は、単一層に特に関係する情報を表す。すなわち、名称が示唆するように、上記情報は特定層に依存する。前述の情報は、層間で必ずしも異ならなくてよいが、通常、層毎に別個に供給される。
【0022】
本明細書及び特許請求の範囲では、「高位構文」は、階層的にマクロブロック層の上の、ビットストリーム内に存在している構文を表す。例えば、本明細書及び特許請求の範囲記載の高位構文は、スライス・ヘッダ・レベル、付加拡張情報(SEI)レベル、ピクチャ・パラメータ・セット(PPS)レベル、シーケンス・パラメータ・セット(SPS)レベル、及びネットワーク抽象化層(NAL)ユニット・ヘッダ・レベルを表し得るが、それらに限定されない。
【0023】
図1を参照すれば、例示的なSVC符号化器は全体を参照符号100で示す。SVC符号化器100は、AVC符号化にも(すなわち、単一層(例えば、ベース層)にも)使用することができる。更に、SVC符号化器100は、当業者が認識するようにMVC符号化に使用することができる。例えば、SVC符号化器100の種々の構成部分、又は前述の構成部分の変形を複数のビューの符号化に使用することができる。
【0024】
時間分解モジュール142の第1の出力は、イントラ・ブロック・モジュール146のイントラ予測の第1の入力と信号通信で接続される。時間分解モジュール142の第2の出力は動き符号化モジュール144の第1の入力と信号通信で接続される。イントラ・ブロック・モジュール146のイントラ予測の出力は、変換/エントロピ符号化器(信号対雑音比(SNR)スケーラブル)149の入力と信号通信で接続される。変換/エントロピ符号化器149の第1の出力は多重化器170の第1の入力と信号通信で接続される。
【0025】
時間分解モジュール132の第1の出力は、イントラ・ブロック・モジュール136のイントラ予測の第1の入力と信号通信で接続される。時間分解モジュール132の第2の出力は、動き符号化モジュール134の第1の入力と信号通信で接続される。イントラ・ブロック・モジュール136のイントラ予測の出力は、変換/エントロピ符号化器(信号対雑音比(SNR)スケーラブル)139の入力と信号通信で接続される。変換/エントロピ符号化器139の第1の出力は多重化器170の第1の入力と信号通信で接続される。
【0026】
変換/エントロピ符号化器149の第2の出力は、2D空間補間モジュール138の入力と信号通信で接続される。2D空間補間モジュール138の出力は、イントラ・ブロック・モジュール136のイントラ予測の第2の入力と信号通信で接続される。動き符号化モジュール144の第2の出力は、動き符号化モジュール134の入力と信号通信で接続される。
【0027】
時間分解モジュール122の第1の出力は、イントラ予測器126の第1の入力と信号通信で接続される。時間分解モジュール122の第2の出力は動き符号化モジュール124の第1の入力と信号通信で接続される。イントラ予測器126の出力は、変換/エントロピ符号化器(信号対雑音比(SNR)スケーラブル)129の入力と信号通信で接続される。変換/エントロピ符号化器129の出力は多重化器170の第1の入力と信号通信で接続される。
【0028】
変換/エントロピ符号化器139の第2の出力は、2D空間補間モジュール128の入力と信号通信で接続される。2D空間補間モジュール128の出力は、イントラ予測器モジュール126の第2の入力と信号通信で接続される。動き符号化モジュール134の第2の出力は、動き符号化モジュール124の入力と信号通信で接続される。
【0029】
動き符号化モジュール124の第1の出力、動き符号化モジュール134の第1の出力、及び動き符号化モジュール144の第1の出力はそれぞれ、多重化器170の第2の入力と信号通信で接続される。
【0030】
2D空間デシメーション・モジュール104の第1の出力は、時間分解モジュール132の入力と信号通信で接続される。2D空間デシメーション・モジュール104の第2の出力は、時間分解モジュール142の入力と信号通信で接続される
時間分解モジュール122の入力及び2D空間デシメーション・モジュール104の入力は、入力ビデオ102を受信するために符号化器100の入力として利用可能である。
【0031】
多重化器170の出力は、ビットストリーム180を供給するために、符号化器100の出力として利用可能である。
【0032】
時間分解モジュール122、時間分解モジュール132、時間分解モジュール142、動き符号化モジュール124、動き符号化モジュール134、動き符号化モジュール144、イントラ予測器126、イントラ予測器136、イントラ予測器146、変換/エントロピ符号化器129、変換/エントロピ符号化器139、変換/エントロピ符号化器149、2D空間補間モジュール128、及び2D空間補間モジュール138は、符号化器100のコア符号化器部分187に含まれる。
【0033】
図1は3つのコア符号化器187を含む。図示した実現形態では、一番下のコア符号化器187はベース層を符号化し、中央のコア符号化器及び一番上のコア符号化器187は、より高い層を符号化することができる。
【0034】
図2を参照すれば、例示的なSVC復号化器は全体を参照符号200で示す。SVC復号化器200は、AVC復号化にも(すなわち、単一層にも)使用することができる。更に、SVC復号化器200は、当業者が認識するようにMVC復号化に使用することができる。例えば、SVC復号化器200の種々の構成部分、又は前述の構成部分の変形を複数のビューの復号化に使用することができる。
【0035】
符号化器100及び復号化器200、並びに、本出願に開示された他の符号化器及び復号化器は、本出願記載の種々の方法を行うよう構成することが可能である。符号化動作の実行に加えて、本明細書及び特許請求の範囲記載の符号化器は、復号化器の期待された動作をミラーイングするために再構成処理中に種々の復号化動作を行うことができる。例えば、符号化器は、更なるビデオ・データの予測において使用するために符号化ビデオ・データの再構成を行うために符号化ビデオ・データを復号化するためのSUP SPSユニットを復号化することができる。よって、符号化器は、復号化器によって行われる動作のほぼ全部を行うことができる。
【0036】
逆多重化器202の入力は、スケーラブルなビットストリームを受信するために、スケーラブル・ビデオ復号化器200への入力として利用可能である。逆多重化器202の第1の出力は、空間逆変換SNRスケーラブル・エントロピ復号化器204の入力と信号通信で接続される。空間逆変換SNRスケーラブル・エントロピ復号化器204の第1の出力は予測モジュール206の第1の入力と信号通信で接続される。予測モジュール206の出力は合成器230の第1の入力と信号通信で接続される。
【0037】
空間逆変換SNRスケーラブル・エントロピ復号化器204の第2の出力は動きベクトル(MV)復号化器210の第1の入力と信号通信で接続される。MV復号化器210の出力は動き補償器232の入力と信号通信で接続される。動き補償器232の出力は合成器230の第2の入力と信号通信で接続される。
【0038】
逆多重化器202の第2の出力は、空間逆変換SNRスケーラブル・エントロピ復号化器212の入力と信号通信で接続される。空間逆変換SNRスケーラブル・エントロピ復号化器212の第1の出力は予測モジュール214の第1の入力と信号通信で接続される。予測モジュール214の第1の出力は、補間モジュール216の入力と信号通信で接続される。補間モジュール216の出力は予測モジュール206の第2の入力と信号通信で接続される。予測モジュール214の第2の出力は合成器240の第1の入力と信号通信で接続される。
【0039】
空間逆変換SNRスケーラブル・エントロピ復号化器212の第2の出力はMV復号化器220の第1の入力と信号通信で接続される。MV復号化器220の第1の出力はMV復号化器210の第2の入力と信号通信で接続される。MV復号化器220の第2の出力は動き補償器242の入力と信号通信で接続される。動き補償器242の出力は合成器240の第2の入力と信号通信で接続される。
【0040】
逆多重化器202の第3の出力は空間逆変換SNRスケーラブル・エントロピ復号化器222の入力と信号通信で接続される。空間逆変換SNRスケーラブル・エントロピ復号化器222の第1の出力は予測モジュール224の入力と信号通信で接続される。予測モジュール224の第1の出力は、補間モジュール226の入力と信号通信で接続される。補間モジュール226の出力は予測モジュール214の第2の入力と信号通信で接続される。
【0041】
予測モジュール224の第2の出力は合成器250の第1の入力と信号通信で接続される。空間逆変換スケーラブル・エントロピ復号化器222の第2の出力はMV復号化器230の入力と信号通信で接続される。MV復号化器230の第1の出力はMV復号化器220の第2の入力と信号通信で接続される。MV復号化器230の第2の出力は動き補償器252の入力と信号通信で接続される。動き補償器252の出力は合成器250の第2の入力と信号通信で接続される。
【0042】
合成器250の出力は、レイヤ0信号を出力するために、復号化器200の出力として利用可能である。合成器240の出力は、レイヤ1信号を出力するために、復号化器200の出力として利用可能である。合成器230の出力は、レイヤ2信号を出力するために、復号化器200の出力として利用可能である。
【0043】
図1aを参照すれば、例示的なAVC符号化器は全体を参照符号2100で示す。AVC符号化器2100は、例えば、単一層(例えば、ベース層)を符号化するために使用することができる。
【0044】
ビデオ符号化器2100は、合成器2185の非反転入力と信号通信する出力を有するフレーム配列バッファ2110を含む。合成器2185の出力は、変換器及び量子化器2125の第1の入力と信号通信で接続される。変換器及び量子化器2125の出力は、エントロピ符号化器2145の第1の入力及び逆変換器及び逆量子化器2150の第1の入力と信号通信で接続される。エントロピ符号化器2145の出力は、合成器2190の第1の非反転入力と信号通信で接続される。合成器2190の出力は、出力バッファ2135の第1の入力と信号通信で接続される。
【0045】
符号化器コントローラ2105の第1の出力は、フレーム配列バッファ2110の第2の入力、逆変換器及び逆量子化器2150の第2の入力、ピクチャタイプ決定モジュール2115の入力、マクロブロックタイプ(MBタイプ)決定モジュール2120の入力、イントラ予測モジュール2160の第2の入力、デブロッキング・フィルタ2165の第2の入力、動き補償2170の第1の入力、動き推定器2175の第1の入力、及び参照ピクチャ・バッファ2180の第2の入力と信号通信で接続される。
【0046】
符号化器コントローラ2105の第2の出力は、付加拡張情報(「SEI」)挿入器2130の第1の入力、変換器及び量子化器2125の第2の入力、エントロピ符号化器2145の第2の入力、出力バッファ2135の第2の入力、並びに、シーケンス・パラメータ・セット(SPS)及びピクチャ・パラメータ・セット(PPS)挿入器2140の入力と信号通信で接続される。
【0047】
ピクチャタイプ決定モジュール2115の第1の出力は、フレーム配列バッファ2110の第3の入力と信号通信で接続される。ピクチャタイプ決定モジュール2115の第2の出力は、マクロブロックタイプ決定モジュール2120の第2の入力と信号通信で接続される。
【0048】
シーケンス・パラメータ・セット(「SPS」)及びピクチャ・パラメータ・セット(「PPS」)挿入器2140の出力は合成器2190の第3の非反転入力と信号通信で接続される。SEI挿入器2130の出力は合成器2190の第2の非反転入力と信号通信で接続される。
【0049】
逆量子化器及び逆変換器2150の出力は合成器2127の第1の非反転入力と信号通信で接続される。合成器2127の出力はイントラ予測モジュール2160の第1の入力及びデブロッキング・フィルタ2165の第1の入力と信号通信で接続される。デブロッキング・フィルタ2165の出力は参照ピクチャ・バッファ2180の第1の入力と信号通信で接続される。参照ピクチャ・バッファ2180の出力は動き推定器2175の第2の入力及び動き補償器2170の第1の入力と信号通信で接続される。動き推定器2175の第1の出力は、動き補償器2170の第2の入力と信号通信で接続される。動き推定器2175の第2の出力は、エントロピ符号化器2145の第3の入力と信号通信で接続される。
【0050】
動き補償器2170の出力は、スイッチ2197の第1の入力と信号通信で接続される。イントラ予測モジュール2160の出力は、スイッチ2197の第2の入力と信号通信で接続される。マクロブロックタイプ決定モジュール2120の出力は、スイッチ2197に制御入力を供給するために、スイッチ2197の第3の入力と信号通信で接続される。スイッチ2197の出力は、合成器2127の第2の非反転入力及び合成器2185の反転入力と信号通信で接続される。
【0051】
フレーム配列バッファ2110及び符号化器コントローラ2105の入力は、入力ピクチャ2101を受信するために、符号化器2100の入力として利用可能である。更に、SEI挿入器2130の入力は、メタデータを受信するために、符号化器2100の入力として利用可能である。出力バッファ2135の出力は、ビットストリームを出力するために、符号化器2100の出力として利用可能である。
【0052】
図2aを参照すれば、MPEG−4AVC標準によるビデオ復号化を行うことができるビデオ復号化器は全体を参照符号2200で示す。
【0053】
ビデオ復号化器2200は、エントロピ復号化器2245の第1の入力と信号通信で接続された出力を有する入力バッファ2210を含む。エントロピ復号化器2245の第1の出力は、逆変換器及び逆量子化器2250の第1の入力と信号通信で接続される。逆変換器及び逆量子化器2250の出力は合成器2225の第2の非反転入力と信号通信で接続される。合成器2225の出力はデブロッキング・フィルタ2265の第2の入力及びイントラ予測モジュール2260の第1の入力と信号通信で接続される。デブロッキング・フィルタ2265の第2の出力は参照ピクチャ・バッファ2280の第1の入力と信号通信で接続される。参照ピクチャ・バッファ2280の出力は動き補償2270の第2の入力と信号通信で接続される。
【0054】
エントロピ復号化器2245の第2の出力は動き補償器2270の第3の入力及びデブロッキング・フィルタ2265の第1の入力と信号通信で接続される。エントロピ復号化器2245の第3の出力は復号化器コントローラ2205の入力と信号通信で接続される。復号化器コントローラ2205の第1の出力はエントロピ復号化器2245の第2の入力と信号通信で接続される。復号化器コントローラ2205の第2の出力は、逆変換器及び逆量子化器2250の第2の入力と信号通信で接続される。復号化器コントローラ2205の第3の出力はデブロッキング・フィルタ2265の第3の入力と信号通信で接続される。復号化器コントローラ2205の第4の出力は、イントラ予測モジュール2260の第2の入力、動き補償器2270の第1の入力、及び参照ピクチャ・バッファ2280の第2の入力と信号通信で接続される。
【0055】
動き補償器2270の出力はスイッチ2297の第1の入力と信号通信で接続される。イントラ予測モジュール2260の出力はスイッチ2297の第2の入力と信号通信で接続される。スイッチ2297の出力は合成器2225の第1の非反転入力と信号通信で接続される。
【0056】
入力バッファ2210の入力は、入力ビットストリームを受信するために、復号化器2200の入力として利用可能である。デブロッキング・フィルタ2265の第1の出力は、出力ピクチャを出力するために、復号化器2200の出力として利用可能である。
【0057】
図3を参照すれば、単一層SPS300の構造を示す。SPSは、ゼロ以上の全体が符号化されたビデオ系列に施される構文要素を一般に含む構文構造である。SVC拡張では、SPSにおいて伝達される一部の構文要素の値は層依存性を有する。前述の層依存性構文要素は、タイミング情報、HRD(「仮想参照復号化器」の略である)パラメータ、及びビットストリーム制限情報を含むが、それらに限定されない。HRDパラメータは例えば、バッファ・サイズ、最大ビット・レート、及び初期遅延の指標を含み得る。HRDパラメータは、受信システムが、例えば、受信されたビットストリームのインテグリティを検証し、かつ/又は、受信システム(例えば、復号化器)がビットストリームを復号化することが可能であるかを判定することを可能にし得る。したがって、システムは、層毎の前述の構文要素の伝送を定めることができる。
【0058】
単一層SPS300は、SPSの識別子を備えるSPS−ID310を含む。単一層SPS300は、単一層のVUI(ビデオ有用性情報の略)パラメータ320も含む。VUIパラメータは、例えば、ベース層などの単一層のHRDパラメータ330を含む。単一層SPS300は、更なるパラメータ340も含み得るが、実現形態は、更なるパラメータ340を何ら含まなくてよい。
【0059】
図4を参照すれば、データ・ストリーム400のブロック図は、単一層SPS300の通常の使用を示す。AVC標準では、例えば、通常のデータ・ストリームは、他の構成部分の中でも、SPSユニット、特定のピクチャのパラメータを備える複数のPPS(ピクチャ・パラメータ・シーケンス)ユニット、及び符号化ピクチャ・データの複数のユニットを含み得る。次に、前述の一般的なフレームワークを図4に示す。図4は、SPS300、PPS−1 410、符号化されたピクチャ1のデータを含む1つ又は複数のユニット420、PPS−2 430、及び符号化されたピクチャ2のデータを含む1つ又は複数のユニット440を含む。PPS−1 410は、符号化されたピクチャ1のデータ420のパラメータを含み、PPS―2 430は、符号化されたピクチャ2のデータ440のパラメータを含む。
【0060】
符号化されたピクチャ1のデータ420、及び符号化されたピクチャ2のデータ440はそれぞれ、特定のSPS(図4の実現形態におけるSPS300)と関連付けられる。このことは、次に説明するように、ポインタを使用することによって達成される。符号化されたピクチャ1のデータ420は、矢印450で示すように、PPS−1 410を識別するPPS−ID(図示せず)を含む。PPS−IDは例えば、スライス・ヘッダに記憶することができる。符号化されたピクチャ−2のデータ440は、矢印460に示すように、PPS−2 430を識別するPPS−ID(図示せず)を含む。PPSー1 410及びPPS―2 430はそれぞれ、矢印470及び480それぞれで示すように、SPS300を識別するSPS−ID(図示せず)を含む。
【0061】
図5を参照すれば、SUP SPS500の構造を示す。SUP SPS 500は、SPS ID510と、「(D2,T2,Q2)」で表す単一の更なる層のHRDパラメータ530を含むVUI520と、任意の更なるパラメータ540とを含む。「D2,T2,Q2」は、空間(D)レベル2、時間(T)レベル2、及び品質(Q)レベル2を有する第2の層を表す。
【0062】
種々の番号付け手法を使用して層を表すことができる。1つの番号付け手法では、ベース層は、0、x、0(ゼロの空間レベル、何れでもよい時間レベル、及びゼロの品質レベルを意味する)のD、T、Qを有する。前述の番号付け手法では、エンハンスメント層は、D又はQがゼロよりも大きなD、T、Qを有する。
【0063】
SUP SPS500の使用は例えば、単一層のパラメータのみを含むか、又は層依存性情報を何ら含まないSPS構造をシステムが使用することを可能にする。前述のシステムは、ベース層を越える更なる層毎に別個のSUP SPSを作成することができる。更なる層は、SPS ID510の使用によって関連付けられたSPSを識別することが可能である。明らかに、いくつかの層が、共通のSPS IDをそれぞれのSUP SPSユニットにおいて使用することにより、単一のSPSを共有することが可能である。
【0064】
図6を参照すれば、SPSユニット605並びに、複数のSUP SPSユニット610及び620の間の組織階層600を示す。SUP SPSユニット610及び620は、単一層のSUP SPSユニットとして示しているが、他の実現形態は、単一層のSUP SPSユニットに加えて、又は単一層のSUP SPSユニットの代わりに1つ又は複数の複数層SUP SPSユニットを使用することができる。階層600は、通常のシナリオにおいて、複数のSUP SPSユニットを単一のSPSユニットと関連付けることができることを示す。当然、実現形態は複数のSPSユニットを含み得、SPSユニットそれぞれは、関連付けられたSUP SPSユニットを有し得る。
【0065】
図7を参照すれば、別のSUP SPS700の構造を示す。SUP SPS700は複数層のパラメータを含む一方、SUP SPS500は単一層のパラメータを含む。SUP SPS700は、SPS ID710と、VUI720と、任意の更なるパラメータ740とを含む。VUI720は、第1の更なる層(D2,T2,Q2)、及び層(Dn,Tn,Qn)までの他の更なる層のHRDパラメータ730を含む。
【0066】
もう一度図6を参照すれば、階層600は、複数層のSUP SPSを使用するよう修正することができる。例えば、SUP SPS610及び620の組合せは、SUP SPS610及び620が、同じSPS IDを含む場合、SUP SPS 700で置き換えることができる。
【0067】
更に、SUP SPS 700は例えば、単一層のパラメータを含むか、若しくは複数層のパラメータを含むSPS、又は何れの層の層依存性パラメータも含まないSPSとともに使用することができる。SUP SPS700は、わずかのオーバヘッドで複数層のパラメータをシステムが提供することを可能にする。
【0068】
他の実現形態は例えば、考えられる層全てに必要なパラメータ全てを含むSPSに基づき得る。すなわち、前述の実現形態のSPSは、層全てが送信されるか否かにかかわらず、送信に利用可能な対応する空間レベル(Di)、時間レベル(Ti)、及び品質レベル(Qi)全てを含む。しかし、前述のシステムでも、SUP SPSを使用して、もう一度SPS全体を送信することなく1つ又は複数の層のパラメータを変える機能を提供することができる。
【0069】
表1を参照すれば、単一層のSUP SPSの特定の実現形態の構文を提供する。構文は、関連付けられたSPSを識別するためのsequence_parameter_set_id、並びに、スケーラブル層を識別するための、temporal_level、dependency_id及びquality_levelの識別子を含む。VUIパラメータは、hrd_parameters()の使用によるHRDパラメータを含む、svc_vui_parameters()(表2を参照されたい)の使用によって含まれる。以下の構文は、各層が、例えばHRDパラメータなどのそれ自身の層に依存するパラメータを特定することを可能にする。
【0070】
【表1】
sup_seq_parameter_set_svc()の構文の意味規則は以下の通りである。
【0071】
sequence_parameter_set_id は、現在の層について現在のSUP SPSがマッピングするシーケンス・パラメータ・セットを識別する。
【0072】
temporal_level、dependency_id及びquality_levelは、現在の層の時間レベル、依存性識別子及び品質レベルを規定する。Dependency_idは一般に、空間レベルを示す。しかし、dependency_idは、空間及びSNRスケーラビリティを含む粗い粒状スケーラビリティ(「CGS」)階層を示すために使用され、SNRスケーラビリティは、伝統的な品質スケーラビリティである。よって、quality_level及びdependency_idはともに、品質レベルを区別するために使用することができる。
【0073】
vui_parameters_present_svc_flagが1に等しいことは、以下に定義するsvc_vui_parameters()構文構造が存在していることを規定する。vui_parameters_present_svc_flagが0に等しいことは、svc_vui_parameters()構文構造が存在していないことを規定する。
【0074】
表2は、svc_vui_parameters()の構文を表す。VUIパラメータはしたがって、層毎に分離され、個々のSUP SPSユニットに入れられる。しかし、他の実現形態は、複数層のVUIパラメータを単一のSUP SPSにグループ化する。
【0075】
【表2】
表2のsvc_vui_parameters()構文のフィールドは、JVT−U201 annex E E.1の下で西暦2007年4月に存在したSVS拡張のバージョンに規定されている。特に、hrd_parameters()は、AVC標準について規定された通りである。更に、svc_vui_parameters()は、HRD関連パラメータを含む種々の層依存性情報を含む。HRD関連パラメータは、num_units_in_tick、 time_scale、 fixed_frame_rate_flag、 nal_hrd_parameters_present_flag、 vcl_hrd_parameters_present_flag、 hrd_parameters()、 low_delay_hrd_flag及びpic_struct_present_flagを含む。更に、bitsream_restriction_flagのifループにおける構文要素は、HRD関連でないが、層に依存する。
【0076】
前述の通り、SUP SPSは新たなタイプのNALユニットとして定義される。表3は、標準JVT−U201で規定された通りであるが、SUP SPSにタイプ24を割り当てるよう修正されたNALユニット・コードの一部を挙げている。NALユニット1とNALユニット16との間、及びNALユニット18とNALユニット24との間の省略符号は、前述のタイプが変わらないことを示す。NALユニット・タイプ25とNALユニット・タイプ31との間の省略記号は、前述のタイプが全て未規定であることを意味している。以下の表3の実現形態は、標準のタイプ24を「未規定」から「sup_seq_parameter_set_svc()」に変えている。「未規定」は一般に、ユーザ・アプリケーション用に予約されている。一方、「予約済」は、一般に、将来の標準的な修正用に予約されている。よって、別の実現形態は、「予約済」タイプ(例えば、タイプ16、17又は18)の1つを「sup_seq_parameter_set_svc()」に変える。「未規定」タイプの変更は特定のユーザの実現形態をもたらす一方、「予約済」タイプの変更は、ユーザ全ての標準を変更する実現形態をもたらす。
【0077】
【表3】
図8は、SUP SPSユニットを生成するスケーラブルなビデオ符号化器800の実現形態を示す機能図である。ビデオが、スケーラブルなビデオ符号化器1の入力で受信される。ビデオは、種々の空間レベルに応じて符号化される。空間レベルは主に、同じビデオの、異なる分解能レベルを表す。例えば、スケーラブルなビデオ符号化器の入力として、一空間レベルそれぞれを表すCIF系列(288毎に352)又はQCIF系列(144毎に176)を有し得る。
【0078】
空間レベルそれぞれは符号化器に送出される。空間レベル1が符号化器2”に送出され、空間レベル2が符号化器2’に送出され、空間レベルmが符号化器2に送出される。
【0079】
空間レベルは、dependency_idを使用して、3ビットで符号化される。したがって、この実現形態における最大空間レベル数は8である。
【0080】
符号化器2、2’及び2”は、示された空間レベルを有する1つ又は複数の層を符号化する。符号化器2、2’及び2”は、特定の品質レベル及び時間レベルを有するよう企図することができるか、又は品質レベル及び時間レベルは構成可能であり得る。図8から分かるように、符号化器2、2’及び2”は、階層的に構成される。すなわち、符号化器2”は符号化器2’をフィードし、符号化器2’は同様に、符号化器2をフィードする。階層的な構成は、高位層が低位層を参照として使用する通常のシナリオを示す。
【0081】
符号化後、ヘッダが、層毎に作成される。示した実現形態では、空間レベル毎に、SPSメッセージ、PPSメッセージ、及び複数のSUP_SPSメッセージが作成される。SUP SPSメッセージ(又はユニット)は、例えば、各種品質レベル及び時間レベルに対応する層について作成することができる。
【0082】
空間レベル1の場合、SPS及びPPS 5”が作成され、
【数1】
の組も作成される。
【0083】
空間レベル2の場合、SPS及びPPS 5’が作成され、
【数2】
の組も作成される。
【0084】
空間レベルmの場合、SPS及びPPS 5が作成され、
【数3】
の組も作成される。
【0085】
符号化器2、2’及び2”によって符号化されたビットストリーム7,7’及び7”は通常、大局ビットストリームにおいて複数のSPS、PPS及びSUP_SPS(ヘッダ、ユニット、又はメッセージとしても表す)に続く。
【0086】
ビットストリーム8”は、SPS及びPPS 5”、
【数4】
及び符号化されたビデオ・ビットストリーム7”(空間レベル1に関連付けられた符号化データ全てを構成する)を含む。
【0087】
ビットストリーム8’は、SPS及びPPS 5’、
【数5】
及び符号化されたビデオ・ビットストリーム7’(空間レベル2に関連付けられた符号化データ全てを構成する)を含む。
【0088】
ビットストリーム8は、SPS及びPPS 5、
【数6】
及び符号化されたビデオ・ビットストリーム7(空間レベルmに関連付けられた符号化データ全てを構成する)を含む。
【0089】
別々のSUP_SPSヘッダは、表1乃至3に表したヘッダに準拠する。
【0090】
図8に表す符号化器800は、空間レベル毎に1つのSPSを生成する。しかし、他の実現形態は、空間レベル毎に複数のSPS300を生成することができるか、又は複数の空間レベルに対応するSPSを生成することができる。
【0091】
ビットストリーム8、8’及び8”は、図8に示すように、SVCビットストリームを生成する多重化器9において合成される。
【0092】
図9を参照すれば、階層ビュー900は、SUP SPSユニットを含むデータ・ストリームの生成を示す。ビュー900は、図8のスケーラブルなビデオ符号化器800によって生成される考えられるビットストリームを例証するために使用することができる。ビュー900は、SVCビットストリームを伝送インタフェース17に供給する。
【0093】
SVCビットストリームは、例えば、図8の実現形態によって生成することができ、空間レベル毎に1つのSPSを含む。m個の空間レベルが符号化されると、SVCビットストリームは、図9の10、10’及び10”において表すSPS1、SPS2及びSPSmを備える。
【0094】
SVCビットストリームでは、各SPSは、空間レベルに対する一般的な情報を符号化する。SPSには、 SUP_SPSタイプのヘッダ11、11’、11”、13、13’、13”、15、15’及び15”が続く。SUP_SPSには、対応する符号化ビデオ・データ12、12’、12”、14、14’、14”、16、16’及び16”(それぞれは、1つの時間レベル(n)及び1つの一品質レベル(O)に対応する)が続く。
【0095】
したがって、1つの層が伝送されない場合、対応するSUP_SPSも伝送されない。これは、各層に対応するSUP_SPSヘッダが通常1つであるからである。
【0096】
通常の実現形態は、ベース層がゼロのD及びQを有する層の番号付け手法を使用する。前述の番号付け手法がビュー900に使用された場合、ビュー900はベース層を明示的に示さない。これは、ベース層を使用することを排除するものでない。しかし、更に、ビュー900は、ベース層のビットストリーム、及び、例えば、ベース層の別個のSPS300を明示的に示すよう増強することができる。更に、ビュー900は、ビットストリーム(1,1,1)乃至(m,n,O)の1つ又は複数がベース層を表す、ベース層の別の番号付け手法を使用することができる。
【0097】
図10を参照すれば、図8及び図9の実現形態によって生成されるデータ・ストリーム1000のブロック図を備える。図10は、
層(1,1,1):空間レベル1、時間レベル1、品質レベル1(ブロック10、11及び12の伝送を含む)、
層(1,2,1):品質レベル1、時間レベル2、品質レベル1(ブロック11’及び12’の更なる伝送を含む)、
層(2,1,1):品質レベル2、時間レベル1、品質レベル1(ブロック10’、13及び14の更なる伝送を含む)、
層(3,1,1):空間レベル3、時間レベル1、品質レベル1(ブロック10”,15及び16の更なる伝送を含む)、
層(3,2,1)、空間レベル3、時間レベル2、品質レベル1(ブロック15’及び16’の更なる伝送を含む)、
層(3,3,1)、空間レベル3、時間レベル3、品質レベル1(ブロック15”及び16”の更なる伝送を含む)
の層の伝送を示す。
【0098】
データ・ストリーム1000のブロック図は、SPS10は一回のみ送出され、層(1,1,1)及び層(1,2,1)によって使用され、SPS10”は一回のみ送出され、層(3,1,1)、層(3,2,1)及び層(3,3,1)それぞれによって使用される。更に、データ・ストリーム1000は、層全てのパラメータが送信される訳でなく、送信層に対応するパラメータのみが送信される。例えば、
【数7】
に対応する、層(2,2,1)のパラメータは、前述の層が送信されないので送信されない。このことにより、前述の実現形態の効率がもたらされる。
【0099】
図11を参照すれば、符号化器1100は、SPS生成装置1110と、ビデオ符号化器1120と、フォーマッティング器1130とを備える。ビデオ符号化器1120は、入力ビデオを受信し、入力ビデオを符号化し、符号化入力ビデオをフォーマッティング器1130に供給する。符号化入力ビデオは例として、例えば符号化ベース層や符号化エンハンスメント層などの複数の層を含み得る。SPS生成装置1110は、例えば、SPSユニットやSUP SPSユニットなどのヘッダ情報を生成し、ヘッダ情報をフォーマッティング器1130に供給する。SPS生成装置1110は更に、入力ビデオの符号化においてビデオ符号化器1120によって使用されるパラメータを供給するためにビデオ符号化器1120と通信する。
【0100】
SPS生成装置1110は例えば、SPS NALユニットを生成するよう構成することができる。SPS NALユニットは、画像系列の第1の層の符号化の復号化において使用するためのパラメータを表す情報を含み得る。SPS生成装置1110は、例えば、SPS NALユニットとは別の構造を有するSUP NALユニットを生成するよう構成することもできる。SUP SPS NALユニットは、画像系列の第2の層の符号化の復号化において使用するためのパラメータを表す情報を含み得る。第1の層の符号化及び第2の層の符号化は、ビデオ符号化器1120によってもたらされ得る。
【0101】
フォーマッティング器1130は、ビデオ符号化器1120からの符号化ビデオ、及びSPS生成装置1110からのヘッダ情報を多重化して、出力符号化されたビットストリームを生成する。符号化されたビットストリームは、画像系列の第1の層の符号化、画像系列の第2の層の符号化、SPS NALユニット、及びSUP SPS NALユニットを含むデータの組であり得る。
【0102】
符号化器1100の構成部分1110、1120及び1130は多くの形態をとり得る。構成部分1110、1120及び1130のうちの1つ又は複数は、ハードウェア、ソフトウェア、ファームウェア、又は組合せを含み得、例えば、符号化器として機能するようソフトウェアによって構成された汎用プロセッサ又は専用符号化器などの種々のプラットフォームから動作させることができる。
【0103】
図8及び図11を比較することができる。SPS生成装置1110は、図8に示す種々の
【数8】
及びSPSを生成することができる。ビデオ符号化器1120は、図8に示すビットストリーム7、7’、7”(入力ビデオの符号化である)を生成することができる。ビデオ符号化器1120は例えば、符号化器2、2’又は2”のうちの1つ又は複数に相当し得る。フォーマッティング器1130は、参照符号8、8’、8”によって示す階層的に構成されたデータを生成し、図8のSVCビットストリームを生成するよう多重化器9の動作を行うことができる。
【0104】
図1及び図11も比較することができる。ビデオ符号化器1120は、例えば、図1のブロック104及び187に対応し得る。フォーマッティング器1130は例えば、多重化器170に対応し得る。SPS生成装置1110は図1に明示的に示していないが、SPS生成装置1110の機能は例えば、多重化器170によって行うことができる。
【0105】
符号化器1100の他の実現形態は、例えば、データが予め符号化されているので、ビデオ符号化器1120を含まない。符号化器1100は、更なる出力を備え、構成部分間の更なる通信を備えることもできる。符号化器1100は、例えば、既存の構成部分間に配置され得る更なる構成部分を備えるよう修正することもできる。
【0106】
図12を参照すれば、符号化器1100と同様に動作する符号化器1200を示す。符号化器1200は、プロセッサ1220と通信するメモリ1210を含む。メモリ1210は例えば、入力ビデオを記憶し、符号化若しくは復号化パラメータを記憶し、符号化処理中に中間結果若しくは最終結果を記憶し、又は、符号化方法を実行するための命令を記憶するために使用することができる。前述の記憶装置は、一時的なものであっても永久的なものであってもよい。
【0107】
プロセッサ1220は、入力ビデオを受信し、入力ビデオを符号化する。プロセッサ1220は更に、ヘッダ情報を生成し、ヘッダ情報及び符号化入力ビデオを含む符号化ビットストリームをフォーマッティングする。符号化器1100と同様に、プロセッサ1220によって供給されるヘッダ情報は、複数の層のヘッダ情報を伝えるための別個の構造を含み得る。プロセッサ1220は、例えば、プロセッサ1220又はメモリ1210に記憶されているか、プロセッサ1220又はメモリ1210に他の方法で常駐しているか、又は、プロセッサ1220又はメモリ1210の一部である命令に応じて動作し得る。
【0108】
図13を参照すれば、入力ビデオを符号化するための処理1300を示す。処理1300は例えば、符号化器1100又は1200によって行うことができる。
【0109】
処理1300は、SPS NALユニットを生成する工程(1310)を含む。SPS NALユニットは、画像系列の第1の層の符号化の復号化において使用するためのパラメータを表す情報を含む。SPS NALユニットは符号化標準によって規定してもしなくてもよい。SPS NALユニットが符号化標準によって規定される場合、符号化標準は、復号化器が、受信されたSPS NALユニットに応じて動作することを必要とし得る。前述の要件は、一般に、SPS NALユニットが「規範的である」と示すことによって表される。例えば、SPSはAVC標準において規範的である一方、例えば、付加拡張情報(「SEI」)メッセージは規範的でない。よって、AVC互換復号化器は、受信SEIメッセージを無視し得るが、受信SPSに応じて動作しなければならない。
【0110】
SPS NALユニットは、第1の層を復号化するための1つ又は複数のパラメータを表す情報を含む。パラメータは例えば、層に依存する情報であっても層に依存しない情報であってもよい。通常、層に依存するパラメータの例には、VUIパラメータ又はHRDパラメータが含まれる。
【0111】
動作1310は例えば、SPS生成装置1110、プロセッサ1220、又はSPS及びPPS挿入器2140によって行うことができる。動作1310は更に、図8中のブロック5、5’、5”の何れかにおけるSPSの生成に対応し得る。
【0112】
よって、動作1310、すなわち、SPS NALユニットの生成、を行う手段は種々の構成部分を含み得る。例えば、前述の手段は、SPS5、5’、5”を生成するモジュール、図1、8、11若しくは12の符号化器システム全体、SPS生成装置1110、プロセッサ1220、又はSPS及びPPS挿入器2140、あるいは、既知の符号化器及び将来開発される符号化器を含むそれらの均等物を含み得る。
【0113】
処理1300は、SPS NALユニットとは別の構造を有する補助(「SUP」)SPS NALユニットを生成する工程(1302)を含む。SUP SPS NALユニットは、画像系列の第2の層の符号化の復号化において使用するためのパラメータを表す情報を含む。SUP SPS NALユニットは符号化標準によって規定してもしなくてもよい。SUP SPS NALユニットが符号化標準によって規定される場合、符号化標準は、復号化器が、受信されたSUP SPS NALユニットに応じて動作することを必要とし得る。同亜1310に関して上述した通り、前述の要件は、一般に、SUP SPS NALユニットが「規範的である」旨を示すことによって表される。
【0114】
種々の実現形態は、規範的SUP SPSメッセージを含む。例えば、SUP SPSメッセージは、2つ以上の層を復号化する復号化器(例えば、SVC互換復号化器)について規範的であり得る。前述のマルチレイヤ復号化器(例えば、SVC互換復号化器)は、SUP SPS メッセージにおいて伝えられた情報に応じて動作することが必要になる。しかし、単一層復号化器(例えば、AVC互換復号化器)は、SUP SPSメッセージを無視し得る。別の例として、SUP SPSメッセージは、単一層及び複数層の復号化器を含む復号化器全てについて規範的であり得る。SUP SPS メッセージが概ね、SPSメッセージに基づいており、SPSメッセージがAVC標準並びにSVC及びMVC拡張において規範的であるので、多くの実現形態が、規範的SUP SPSメッセージを含むことは、驚くほどでない。すなわち、SUP SPS メッセージは、同様のデータをSPSメッセージとして収容し、SPSメッセージと同様な目的を担い、SPSメッセージのタイプとみなし得る。規範的SUP SPS メッセージを有する実現形態は互換性の利点をもたらし、例えば、AVC及びSVC復号化器が、共通のデータ・ストリームを受信することを可能にし得る。
【0115】
(SUP SPSメッセージとしても表す)SUP SPS NALユニットは、第2の層を復号化するための1つ又は複数のパラメータを含む。パラメータは例えば、層に依存する情報であっても層に依存しない情報であってもよい。特定の例には、VUIパラメータやHRDパラメータがある。SUP SPSは、第2の層の復号化に使用されることに加え、第1の層の復号化にも使用することができる。
【0116】
動作1320は例えば、SPS生成装置1110、プロセッサ1220、又はSPS及びPPS挿入器2140と同様なモジュールよって行うことができる。動作1320は更に、図8中のブロック6、6’、6”の何れかにおけるSUP_SPS の生成に相当し得る。
【0117】
よって、動作1320、すなわち、SUP SPS NALユニットの生成、を行う手段は種々の構成部分を含み得る。例えば、前述の手段は、SUP_SPS6、6’又は6”を生成するモジュール、図1、図8、図11若しくは図12の符号化器システム全体、SPS生成装置1110、プロセッサ1220、又はSPS及びPPS挿入器2140と同様のモジュール、あるいは、既知の符号化器及び将来開発される符号化器を含むそれらの均等物を含み得る。
【0118】
処理1300は、画像系列の第1の層の符号化(例えば、ベース層)の符号化、及び画像系列の第2の層の符号化(1330)を含む。画像系列の前述の符号化は、第1の層の符号化及び第2の層の符号化をもたらす。第1の層の符号化は、第1の層の符号化ユニットとして表す一連のユニットにフォーマッティングすることができ、第2の層の符号化は、第2の層の符号化ユニットとして表す一連のユニットにフォーマッティングすることができる。動作1330は、例えば、ビデオ符号化器1120、プロセッサ1220、図8の符号化器2,2’、2”、又は図1の実現形態によって行うことができる。
【0119】
よって、動作1330を行う手段は種々の構成部分を含み得る。例えば、前述の手段は、符号化器2、2’若しくは2”、図1、8、11若しくは12の符号化器システム全体、ビデオ符号化器1120、プロセッサ1220、又は1つ若しくは複数のコア符号化器187(場合によっては、デシメーション・モジュール104を含む)、あるいは既知の符号化器及び将来開発される符号化器を含む均等物を含み得る。
【0120】
処理1300は、データの組を供給する工程(1340)を含む。上記データの組は、画像系列の第1の層の符号化、画像系列の第2の層の符号化、SPS NALユニット、及びSUP SPS NALユニットを含む。上記データの組は、例えば、メモリに記憶されるか、あるいは1つ又は複数の復号化器に送信されるよう、既知の標準に応じて符号化され得る。動作1340は例えば、図1のフォーマッティング器1130、プロセッサ1220又は多重化器170によって行うことができる。動作1340は、ビットストリーム 8、 8’若しくは8”の何れかの生成、並びに多重化されたSVCビットストリームの生成により、図8において行うこともできる。
【0121】
よって、動作1340(すなわち、データの組の供給)を行う手段は種々の構成部分を含み得る。例えば、前述の手段は、8、8’若しくは8”を生成するモジュール、多重化器9、図1、8、11若しくは12の符号化器システム全体、フォーマッティング器1130、プロセッサ1220、又は多重化器170、あるいは既知の符号化器及び将来開発される符号化器を含むそれらの均等物を含み得る。
【0122】
処理1300は種々のやり方で修正することができる。例えば、動作1330は、例えば、データが予め符号化されている実現形態において処理1300から除外することができる。更に、動作1330の除外に加え、動作1340は、複数の層の記述ユニットの生成に関する処理を提供するよう除外することができる。
【0123】
図14を参照すれば、例えば、処理1300によって生成することができるデータ・ストリーム1400を示す。データ・ストリーム1400は、SPS NALユニットの一部分1410と、SUP SPS NALユニットの一部分1420と、第1の層の符号化データの一部分1430と、第2の層の符号化データの一部分1440とを含む。第1の層の符号化データ1430は、第1の層の符号化ユニットとしてフォーマッティングすることができる第1の層の符号化である。第2の層の符号化データ1440は、第2の層の符号化ユニットとしてフォーマッティングすることができる第2の層の符号化である。データ・ストリーム1400は、部分1440後に付加するか、部分1410ー1440間で分散させることができる更なる部分を含み得る。更に、他の実現形態は部分1410乃至1440のうちの1つ又は複数を修正することができる。
【0124】
データ・ストリーム1400は、図9及び図10と比較することができる。SPS NALユニット1410は例えば、SPS1 10、 SPS2 10’及びSPSm 10”の何れかであり得る。SUP SPS NALユニット1420は例えば、SUP_SPSヘッダ11、11’、11”、13、13’、13”、15、15’及び15”の何れかであり得る。第1の層の符号化データ1430及び第2の層の符号化データ1440は、層ビットストリーム(1,1,1)12乃至(m,n,O)16”として示し、ビットストリーム12、12’、12”、14、14’、14”、16、16’及び16”のビットストリームを含む、個々の層のビットストリームの何れかであり得る。第1の層の符号化データ1430が、第2の層の符号化データ1440よりも高いレベルの組を備えたビットストリームであることが考えられる。例えば、第1の層の符号化データ1430は、層ビットストリーム(2,2,1)14’であり得、第2の層の符号化データ1440は、層ビットストリーム(1,1,1)12であり得る。
【0125】
データ・ストリーム1400の実現形態はデ―タ・ストリーム1000にも対応し得る。SPS NALユニット1410はデータ・ストリーム1000のSPSモジュール10に対応し得る。SUP SPS NALユニット1420はデータ・ストリーム1000のSUP_SPSモジュール11に対応し得る。第1の層の符号化データ1430は、データ・ストリーム1000の層ビットストリーム(1,1,1)に対応し得る。第2の層の符号化データ1440はデータ・ストリーム1000の層ビットストリーム(1,2,1)12’に対応し得る。データ・ストリーム1000のSUP_SPSモジュール11’は、第1の層の符号化データ1430と第2の層の符号化データ1440との間で分散し得る。データ・ストリーム1000に示す残りのブロック(10’乃至16”)は、データ・ストリーム1000に示す順序と同じ順序でデータ・ストリーム1400に付加し得る。
【0126】
図9及び図10は、SPSモジュールが層特有パラメータを何ら含まないことを示唆し得る。種々の実現形態は、実際にこのようにして動作し、通常、層毎にSUP_SPSを必要とする。しかし、他の実現形態は、SPSが、1つ又は複数の層の層特有パラメータを含めることを可能にし、よって、SUP_SPSを必要とすることなく1つ又は複数の層を伝送することを可能にする。
【0127】
図9及び図10は、各空間レベルがそれ自身のSPSを有することを示唆している。他の実現形態はこの構成を変えている。例えば、他の実現形態は、時間レベル毎に、又は品質レベル毎に別個のSPSを備える。なお他の実現形態は層毎の別個のSPSを備え、他の実現形態は、層全てを扱う単一のSPSを備える。
【0128】
図15を参照すれば、復号化器1500は、例えば、符号化器1100、符号化器1200、処理1300によって供給される符号化ビットストリームやデータ・ストリーム1400などを受信する解析装置1510を含む。解析装置1510は復号化器1520に結合される。
【0129】
解析装置1510は、SPS NALユニットからの情報にアクセスするよう構成される。SPS NALユニットからの情報は、画像系列の第1の層の符号化の復号化において使用するためのパラメータを表す。解析装置1510は、SPS NALユニットとは別の構造を有するSUP SPS NALユニットからの情報にアクセスするよう更に構成される。SUP SPS NALユニットからの情報は、画像系列の第2の層の符号化の復号化において使用するためのパラメータを表す。図13に関して上述したように、パラメータは層に依存するものであってもなくてもよい。
【0130】
解析装置1510は、解析されたヘッダ・データを出力として供給する。ヘッダ・データは、SPS NALユニットからアクセスされた情報を含み、SUP SPS NALユニットからアクセスされた情報も含む。解析装置1510は更に、解析された符号化ビデオ・データを出力として供給する。符号化ビデオ・データは、第1の層の符号化及び第2の層の符号化を含む。ヘッダ・データ及び符号化ビデオ・データは復号化器1520に供給される。
【0131】
復号化器1520は、SPS NALユニットからアクセスされる情報を使用して第1の層の符号化を復号化する。復号化器1520は更に、SUP SPS NALユニットからアクセスされた情報を使用して第2の層の符号化を復号化する。復号化器1520は更に、復号化された第1の層及び/又は復号化された第2の層に基づいて画像系列の再構成を更に生成する。復号化器1520は、再構成されたビデオを出力として供給する。再構成されたビデオは例えば、第1の層の符号化の再構成、又は第2の層の符号化の再構成であり得る。
【0132】
図15、図2及び図2aを比較すれば、解析装置1510は例えば、一部の実現形態では、逆多重化器202、並びに/又は、エントロピ復号化器204、212、222若しくは2245のうちの1つ若しくは複数に対応し得る。復号化器1520は、例えば、図2中の残りのブロックに対応し得る。
【0133】
復号化器1500は更に、更なる出力を備え、構成部分間の更なる通信を備えることもできる。復号化器1500は更に、例えば、既存の構成部分間に配置し得る更なる構成部分を設けるよう修正することができる。
【0134】
復号化器1500の構成部分1510及び1520は多くの形態をとり得る。構成部分1510及び1520の1つ又は複数はハードウェア、ソフトウェア、ファームウェア、又は組合せを含み得、例えば、専用復号化器、又は、復号化器として機能するようソフトウェアによって構成された汎用プロセッサなどの種々のプラットフォームから動作させることができる。
【0135】
図16を参照すれば、復号化器1500と同様に動作する復号化器1600を示す。復号化器1600は、プロセッサ1620と通信するメモリ1610を含む。メモリ1610は例えば、入力された符号化ビットストリームを記憶し、復号化若しくは符号化パラメータを記憶し、復号化処理中に中間結果若しくは最終結果を記憶し、又は、復号化方法を実行するための命令を記憶するために使用することができる。前述の記憶装置は、一時的なものであっても永久的なものであってもよい。
【0136】
プロセッサ1620は、符号化ビットストリームを受信し、符号化ビットストリームを再構成ビデオに復号化する。符号化ビットストリームは例えば、(1)画像系列の第1の層の符号化と、(2)画像系列の第2の層の符号化と、(3)第1の層の符号化の復号化に使用するためのパラメータを表す情報を有するSPS NALユニットと、(4)SPS NALユニットと別の構造を有し、第2の層の符号化の復号化に使用するためのパラメータを表す情報を有するSUP SPS NALユニットとを含む。
【0137】
プロセッサ1620は、少なくとも、第1の層の符号化、第2の層の符号化、SPS NALユニットからの情報、及びSUP SPS NALユニットからの情報に基づいて再構成ビデオを生成する。再構成されたビデオは例えば、第1の層の符号化の再構成、又は第2の層の符号化の再構成であり得る。プロセッサ1620は、例えば、プロセッサ1620又はメモリ1610に記憶されているか、プロセッサ1620又はメモリ1610に他の方法で常駐しているか、又は、プロセッサ1620又はメモリ1610の一部である命令に応じて動作し得る。
【0138】
図17を参照すれば、符号化ビットストリームを復号化するための処理1700を示す。処理1700は例えば、復号化器1500又は1600によって行うことができる。
【0139】
処理1700は、SPS NALユニットからの情報にアクセスする工程(1710)を含む。アクセスされた情報は、画像系列の第1の層の符号化の復号化において使用するためのパラメータを表す。
【0140】
SPS NALユニットは、図13に関して上述したようなものであり得る。更に、アクセス情報は例えば、HRDパラメータであり得る。動作1710は例えば、解析装置1510、プロセッサ1620、エントロピ復号化器204、212、222、若しくは2245、又は復号化器制御2205によって行うことができる。動作1710は更に、符号化器の1つ又は複数の構成部分により、符号化器で再構成処理において行うことができる。
【0141】
よって、動作1710、すなわち、SPS NALユニットからの情報へのアクセス、を行う手段は種々の構成部分を含み得る。例えば、前述の手段は、解析装置1510、プロセッサ1620、単一層復号化器、図2、図15若しくは図16の復号化器システム全体、又は、復号化器の1つ若しくは複数の構成部分、あるいは、符号化器800、1110若しくは1200の1つ又は複数の構成部分、あるいは、既知の復号化器及び符号化器、並びに将来に開発される復号化器及び符号化器を含むそれらの均等物を含み得る。
【0142】
処理1700は、SPS NALユニットとは別の構造を有するSUP SPS NALユニットからの情報にアクセスする工程(1720)を含む。SUP SPS NALユニットからアクセスされた情報は、画像系列の第2の層の符号化の復号化において使用するためのパラメータを表す。
【0143】
SUP SPS NALユニットは、図13に関して上述したようなものであり得る。更に、アクセス情報は例えば、HRDパラメータであり得る。動作1720は例えば、解析装置1510、プロセッサ1620、エントロピ復号化器204、212、222、若しくは2245、又は復号化器制御2205によって行うことができる。動作1720は更に、符号化器の1つ又は複数の構成部分により、符号化器で再構成処理において行うことができる。
【0144】
よって、動作1720、すなわち、SUP SPS NALユニットからの情報へのアクセス、を行う手段は種々の構成部分を含み得る。例えば、前述の手段は、解析装置1510、プロセッサ1620、逆多重化器202、エントロピ復号化器204、212若しくは222、単一層復号化器、又は、復号化器システム200、1500若しくは1600全体、あるいは符号化器800、1100若しくは1200の1つ若しくは複数の構成部分、あるいは既知の復号化器及び符号化器を含むそれらの均等物を含み得る。
【0145】
動作1700は、画像系列の第1の層の符号化及び第2の層の符号化にアクセスする工程(1730)を含む。第1の層の符号化は第1の層の符号化ユニットにフォーマッティングされていることがあり得、第2の層の符号化は第2の層の符号化ユニットにフォーマッティングされていることがあり得る。動作1730は例えば、解析装置1510、復号化器1520、プロセッサ1620、エントロピ復号化器204、212、222若しくは2245、又はエントロピ復号化器の下流の種々の他のブロックによって行うことができる。動作1730は更に、符号化器の1つ又は複数の構成部分により、符号化器での再構成処理において行うことができる。
【0146】
よって、動作1730を行う手段は種々の構成部分を含み得る。例えば、前述の手段は、解析装置1510、復号化器1520、プロセッサ1620、逆多重化器202、エントロピ復号化器204、212若しくは222、単一層復号化器、ビットストリーム受信器、受信装置、又は、復号化器システム200、1500又は1600の全体、あるいは、復号化器の1つ若しくは複数の構成部分、あるいは、符号化器800、1110若しくは1200の1つ又は複数の構成部分、あるいは、既知の復号化器及び符号化器、並びに将来に開発される復号化器及び符号化器を含むそれらの均等物を含み得る。
【0147】
処理1700は、画像の系列の復号化を生成する工程(1740)を含む。画像系列の復号化は、第1の層の符号化、第2の層の符号化、SPS NALユニットからのアクセス情報、及びSUP SPS NALユニットからのアクセス情報に基づき得る。動作1740は例えば、復号化器1520、プロセッサ1620、又は逆多重化器202及び入力バッファ2210の下流の種々のブロックによって行うことができる。動作1740は更に、符号化器の1つ又は複数の構成部分により、符号化器で再構成処理において行うことができる。
【0148】
よって、動作1740を行う手段は種々の構成部分を含み得る。例えば、前述の手段は、復号化器1530、プロセッサ1620、単一層復号化器、復号化器システム200、1500若しくは1600の全体、又は再構成を行う符号化器、復号化器のうちの1つ又は複数の構成部分、あるいは、符号化器800、1100及び1200の1つ又は複数の構成部分、あるいは、既知の復号化器若しくは符号化器、及び将来開発される復号化器若しくは符号化器を含むそれらの均等物を含み得る。
【0149】
別の実現形態は、第1の規範的パラメータ・セットにおける第1の層に依存する情報にアクセスする工程を含む符号化方法を行う。アクセスされた、第1の層に依存する情報は、画像系列の第1の層の符号化の復号化において使用するためのものである。第1の規範的パラメータ・セットは例えば、HRD関連パラメータ又は他の層依存性情報を含むSPSであり得る。しかし、第1の規範的パラメータ・セットはSPSでなくてよく、H.264標準に関係していなくてよい。
【0150】
当該パラメータ・セットが受信された場合に第1のパラメータ・セットに応じて復号化器が動作することを必要とする、第1のパラメータ・セットが規範的であることに加えて、第1のパラメータ・セットは、実現形態において受信されることも必要とし得る。すなわち、実現形態は、第1のパラメータ・セットを復号化器に供給することを必要とし得る。
【0151】
この実現形態の符号化方法は、第2の規範的パラメータ・セットにおける第2の層に依存する情報にアクセスする工程を更に含む。第2の規範的パラメータ・セットは、第1の規範的パラメータ・セットとは別の構造を有する。更に、アクセスされた、第2の層に依存する情報は、画像系列の第2の層の符号化の復号化において使用するためのものである。第2の規範的パラメータ・セットは例えば、補助SPSであり得る。補助SPSは、例えばSPSとは別の構造を有する。補助SPSは、(第1の層とは別の)第2の層のHRDパラメータ又は他の層依存性情報を更に含む。
【0152】
この実現形態の符号化方法は更に、アクセスされた、第1の層に依存する情報、及びアクセスされた、第2の層に依存する情報のうちの1つ又は複数に基づいて画像系列を復号化する工程を更に含む。これは例えば、ベース層又はエンハンスメント層の復号化を含み得る。
【0153】
対応する装置は、この実現形態の符号化手法を実現するために他の実現形態においても備えられる。前述の装置は例えば、プログラムされた符号化器、プログラムされたプロセッサ、ハードウェア実現形態、又は、符号化方法を行うための命令を有するプロセッサ読み取り可能な媒体を含む。システム1100及び1200は例えば、この実現形態の符号化方法を実現することができる。
【0154】
対応する信号、及び前述の信号又は前述の信号のデータを記憶する媒体も提供される。前述の信号は、例えば、この実現形態の符号化方法を行う符号化器によって生成される。
【0155】
別の実現形態は、上記符号化方法と同様な復号化手法を行う。復号化方法は、第1の層に依存する情報を含む第1の規範的パラメータ・セットを生成する工程を含む。第1の層に依存する情報は、画像系列の第1の層の符号化の復号化において使用するためのものである。復号化方法は、第1の規範的パラメータ・セットとは別の構造を有する第2の規範的パラメータ・セットを生成する工程も含む。第2の規範的パラメータ・セットは、画像系列の第2の層の符号化の復号化において使用するための第2の層に依存する情報を含む。復号化方法は、第1の規範的パラメータ・セット及び第2の規範的パラメータ・セットを含むデータの組を供給する工程を更に含む。
【0156】
対応する装置は、この実現形態の上記符号化手法を実現するために他の実現形態においても備えられる。前述の装置は例えば、プログラムされた復号化器、プログラムされたプロセッサ、ハードウェア実現形態、又は、復号化方法を行うための命令を有するプロセッサ読み取り可能な媒体を含む。システム1500及び1600は例えば、この実現形態の復号化方法を実現することができる。
【0157】
例えば、「補助SPS」を表す場合に、上記「補助」の語は、説明的な語である。そういうものとして、「補助SPS」は、ユニット名において「補助」の語を含まないユニットを排除するものでない。よって、かつ例として、SVC拡張の現在のドラフトは、「サブセットSPS」構文構造を規定しており、「サブセットSPS」構文構造は、記述的な語「補助」によって完全に包含される。現在のSVC拡張の「サブセットSPS」は、本明細書及び特許請求の範囲記載のSUP SPSの一実現形態である。
【0158】
実現形態は、SPS NALユニット及び/若しくはSUP SPS NALユニットに加えて、又はSPS NALユニット及び/若しくはSUP SPS NALユニットの代わりとして他のタイプのメッセージを使用することができる。例えば、少なくとも1つの実現形態は、層依存性情報を有する他のパラメータ・セットを生成し、送信し、受信し、上記他のパラメータ・セットにアクセスし、上記他のパラメータ・セットを解析する。
【0159】
更に、SPS及び補助SPSは、概ねH.264標準の意味合いで説明しているが、他の標準は更に、SPS、補助SPS、又は、SPS若しくは補助SPSの変形を含み得る。よって、他の標準(既存又は将来開発される)は、SPS又は補助SPSとして表す構造を含み得、前述の構造は、本明細書及び特許請求の範囲記載のSPS及び補助SPSと同一であるか、上記SPS及び補助SPSの変形であり得る。前述の他の標準は例えば、現在のH.264標準に関係し得る(例えば、既存のH.264標準に対する修正)か、又は全く新たな標準であり得る。あるいは、他の標準(既存又は将来開発される)は、SPS又は補助SPSとして表さない構造を含み得るが、前述の構造は、本明細書及び特許請求の範囲記載のSPS及び補助SPSと同一であるか、上記SPS及び補助SPSの変形であり得る。
【0160】
パラメータ・セットは、パラメータを含むデータの組(例えば、SPS、PPS、又は補助SPS)である。
【0161】
種々の実現形態では、データに「アクセスされる」としている。データに「アクセスする」工程は例えば、データを受信する工程、データを記憶する工程、データを送信する工程、又はデータを処理する工程を含み得る。
【0162】
種々の実現形態を記載し、説明している。前述の実現形態は、種々の課題を解決するために使用することが可能である。(層としても表す)複数のインターオペラビリティ・ポイント(IOP)が、SPSに通常収容されるパラメータの種々の値を必要とする場合に、前述の課題の1つが生じる。同じSPS識別子を有する別々の層についてSPSにおいて層依存性構文要素を送信する方法で適切なものは存在していない。前述の層毎の別個のSPSデータを送出することは問題となる。例えば、多くの既存のシステムでは、ベース層及びその複合時間層は同じSPS識別子を共有する。
【0163】
いくつかの実現形態は、補助SPSデータについて別のNALユニット・タイプを備える。よって、複数のNALユニットを送出することができ、各NALユニットは別のSVC層の補助SPS情報を含み得るが、各NALユニットは同じNALユニット・タイプによって識別することができる。補助SPS情報は、一実現形態では、現在のSVC拡張の「サブセットSPS」NALユニット・タイプにおいて供給することができる。
【0164】
本明細書及び特許請求の範囲記載の実現形態は、SVC拡張又は何れかの他の標準に制限されるものでない。本明細書及び特許請求の範囲記載の概念及び特徴は、現在存在しているか、若しくは将来開発される他の標準に使用することができるか、又は、何れの標準にも準拠しないシステムに使用することができる。一例として、本明細書及び特許請求の範囲記載の概念及び構成は、MVC拡張の環境において動作する実現形態について使用することができる。例えば、MVCビューは別々のSPS情報を必要とし得るか、又はMVC拡張内でサポートされるSVC層は別々のSPS情報を必要とし得る。更に、本明細書及び特許請求の範囲記載の構成及び局面は、更に他の実現形態にも適合させることができる。よって、本明細書及び特許請求の範囲記載の実現形態はSVC層のSPSの意味合いで記載している場合があるが、前述の記載は、前述の実現形態又は意味合いに上記構成及び概念を限定するものと解するべきでない。
【0165】
本明細書及び特許請求の範囲記載の実現形態は、例えば、方法若しくは処理、装置、又はソフトウェア・プログラムで実現することができる。単一の形式の実現形態の意味合いでしか(例えば、方法としてしか)記載されてない場合でも、記載された構成の実現形態は、他の形式(例えば、装置又はプログラム)で実現することもできる。装置は例えば、適切なハードウェア、ソフトウェア及びファームウェアにおいて実現することができる。方法は例えば、コンピュータ、マイクロプロセッサ、集積回路や、プログラマブル論理装置を含む、一般に処理装置を表す装置(例えば、プロセッサ)で実現することができる。プロセッサは更に、例えば、コンピュータ、携帯電話機、ポータブル/ディジタル携帯情報端末(「PDA」)、及びエンドユーザ間で情報の通信を容易にする他の装置などの通信装置も含む。
【0166】
本明細書及び特許請求の範囲記載の種々の処理及び特徴の実現形態は、例えば、各種機器又はアプリケーションにおいて、特に、例えば、データ符号化及び復号化に関連付けられた機器又はアプリケーションにおいて実施することができる。機器の例には、ビデオ符号化器、ビデオ復号化器、ビデオ・コデック、ウェブ・サーバ、セットトップ・ボックス、ラップトップ、パソコン、携帯電話機、PDA、及び他の通信装置を含む。機器は、モバイルであり得、移動車両に設置することもできる。
【0167】
更に、方法は、プロセッサによって行われる命令によって実現することができ、前述の命令は、プロセッサ読み取り可能な媒体(例えば、集積回路、ソフトウェア担体や他の記憶装置(例えば、ハード・ディスク、コンパクト・ディスケット、ランダム・アクセス・メモリ(「RAM」)やリードオンリー・メモリ「ROM」)など)上に記憶することができる。命令は、プロセッサ読み取り可能な媒体上に有形に実施されたアプリケーション・プログラムを構成することができる。命令は例えば、ハードウェア、ファームウェア、ソフトウェア、又は組合せであり得る。命令は例えば、オペレーティング・システム、別個のアプリケーション、又は2つの組合せであり得る。よって、プロセッサは、例えば、処理を行うための命令を有するコンピュータ読み取り可能な媒体を含む装置及び処理を行うよう構成された装置として特徴付けることができる。
【0168】
当業者に分かるように、実現形態は、例えば、記憶又は伝送することができる情報を搬送するようフォーマッティングされた種々の信号を生成することができる。情報は例えば、前述の実現形態のうちの1つによって生成されるデータ、又は方法を行うための命令を含み得る。例えば、信号は、記載された実施例の構文を読み書きするための規則をデータとして搬送するか、又は記載された実施例によって書き込まれる実際の構文値をデータとして搬送するようフォーマッティングすることができる。前述の信号は例えば、電磁波(例えば、スペクトルの無線周波数部分を使用して)として、又はベースバンド信号としてフォーマッティングすることが可能である。フォーマッティングは例えば、データ・ストリームの符号化、及び符号化データ・ストリームによる搬送波の変調を含み得る。信号が搬送する情報は例えば、アナログ情報又はディジタル情報であり得る。信号は、知られているように、各種有線リンク又は無線リンクを介して伝送することができる。
【0169】
いくつかの実現形態を説明してきた。しかし、種々の修正を行うことができることが理解されるであろう。例えば、別々の実現形態の構成要素を合成し、補完し、修正し、又は除外して他の実現形態を生成することができる。更に、他の構造及び処理を、開示されたものと置き換えることができ、結果として生じる実現形態は少なくとも実質的に同じ機能を少なくとも実質的に同じやり方で行って、開示された実現形態と、少なくとも実質的に同じ結果を達成することを当業者は理解するであろう。よって、前述及び他の実現形態は、本出願によって想定されており、特許請求の範囲記載の範囲内に収まる。
【特許請求の範囲】
【請求項1】
多視点映像符号化、すなわちMVCの処理のための方法において、
シーケンス・パラメータ・セット・ネットワーク抽象化層ユニット、すなわちSPS NALユニットからの情報にアクセスするステップであって、前記情報が、画像系列内の第1のMVC層の符号化の復号化に少なくとも使用するためのパラメータを表す、前記ステップと、
前記SPS NALユニットのNALユニット・タイプ符号とは別のNALユニット・タイプ符号を有し、前記SPS NALユニットとは別のシンタックス構造を有する補助SPS NALユニットからの補助情報にアクセスするステップであって、前記補助SPS NALユニットからの前記補助情報は、前記画像系列内の第2のMVC層の符号化の復号化に使用するためのMVC・ビデオ有用性情報、すなわちVUI・パラメータを表し、前記別の構造は、前記MVC・VUI・パラメータを前記第2のMVC層の符号化に適用される旨を示す時間の指標を含む前記補助情報に反映される、前記ステップと、
前記SPS NALユニットからのアクセスされた情報に基づいて、前記第1のMVC層の符号化を復号化し、そして前記補助SPS NALユニットからのアクセスされた補助情報に基づいて前記第2のMVC層の符号化を復号化するステップと、を含む方法。
【請求項1】
多視点映像符号化、すなわちMVCの処理のための方法において、
シーケンス・パラメータ・セット・ネットワーク抽象化層ユニット、すなわちSPS NALユニットからの情報にアクセスするステップであって、前記情報が、画像系列内の第1のMVC層の符号化の復号化に少なくとも使用するためのパラメータを表す、前記ステップと、
前記SPS NALユニットのNALユニット・タイプ符号とは別のNALユニット・タイプ符号を有し、前記SPS NALユニットとは別のシンタックス構造を有する補助SPS NALユニットからの補助情報にアクセスするステップであって、前記補助SPS NALユニットからの前記補助情報は、前記画像系列内の第2のMVC層の符号化の復号化に使用するためのMVC・ビデオ有用性情報、すなわちVUI・パラメータを表し、前記別の構造は、前記MVC・VUI・パラメータを前記第2のMVC層の符号化に適用される旨を示す時間の指標を含む前記補助情報に反映される、前記ステップと、
前記SPS NALユニットからのアクセスされた情報に基づいて、前記第1のMVC層の符号化を復号化し、そして前記補助SPS NALユニットからのアクセスされた補助情報に基づいて前記第2のMVC層の符号化を復号化するステップと、を含む方法。
【図1】
【図1a】
【図2】
【図2a】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【図1a】
【図2】
【図2a】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【公開番号】特開2013−13113(P2013−13113A)
【公開日】平成25年1月17日(2013.1.17)
【国際特許分類】
【出願番号】特願2012−177850(P2012−177850)
【出願日】平成24年8月10日(2012.8.10)
【分割の表示】特願2012−133610(P2012−133610)の分割
【原出願日】平成20年4月7日(2008.4.7)
【出願人】(501263810)トムソン ライセンシング (2,848)
【氏名又は名称原語表記】Thomson Licensing
【住所又は居所原語表記】1−5, rue Jeanne d’Arc, 92130 ISSY LES MOULINEAUX, France
【Fターム(参考)】
【公開日】平成25年1月17日(2013.1.17)
【国際特許分類】
【出願日】平成24年8月10日(2012.8.10)
【分割の表示】特願2012−133610(P2012−133610)の分割
【原出願日】平成20年4月7日(2008.4.7)
【出願人】(501263810)トムソン ライセンシング (2,848)
【氏名又は名称原語表記】Thomson Licensing
【住所又は居所原語表記】1−5, rue Jeanne d’Arc, 92130 ISSY LES MOULINEAUX, France
【Fターム(参考)】
[ Back to top ]