情報処理装置、情報処理方法、再生装置、再生方法、およびプログラム
【課題】複数視点のビデオデータを符号化する符号化方式を用いて、複数種類の機能を実現することができるようにする。
【解決手段】情報処理装置1においては、入力されたビデオストリームがMPEG4 AVC H.264規格を拡張したMVC規格に従って符号化される。符号化によって得られたBase view videoストリームとDependent view videoストリームは、MVCアプリケーションタイプと対応付けて出力される。MVCアプリケーションタイプは、MVCストリームを復号して得られたデータを用いて実現する機能を表す。再生装置2においては、MVCストリームを復号して得られたデータを用いて、MVCアプリケーションタイプにより指定される機能が実現される。本発明は、MVC規格のストリームを処理する装置に適用することができる。
【解決手段】情報処理装置1においては、入力されたビデオストリームがMPEG4 AVC H.264規格を拡張したMVC規格に従って符号化される。符号化によって得られたBase view videoストリームとDependent view videoストリームは、MVCアプリケーションタイプと対応付けて出力される。MVCアプリケーションタイプは、MVCストリームを復号して得られたデータを用いて実現する機能を表す。再生装置2においては、MVCストリームを復号して得られたデータを用いて、MVCアプリケーションタイプにより指定される機能が実現される。本発明は、MVC規格のストリームを処理する装置に適用することができる。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、情報処理装置、情報処理方法、再生装置、再生方法、およびプログラムに関し、特に、複数視点のビデオデータを符号化する符号化方式を用いて、複数種類の機能を実現することができるようにした情報処理装置、情報処理方法、再生装置、再生方法、およびプログラムに関する。
【背景技術】
【0002】
近年、画像を3D(三次元)で収録した3Dコンテンツが注目されている。3Dコンテンツの画像を見ることによって、視聴者は被写体を立体的に認識することが可能になる。
【0003】
画像を3Dで表示する方式も複数提案されている。例えば、視差のある左目用の画像(L画像)と右目用の画像(R画像)を交互に表示し、アクティブシャッタメガネをかけた視聴者の左目と右目にそれぞれ届けることによって被写体を立体的に認識させる方式がある。
【0004】
L画像とR画像の符号化方式の1つとしてMPEG4 AVC H.264規格(H.264/AVC規格)を拡張したMVC(Multi-view Video Coding)規格がある。MVC規格では、Base view videoストリームと呼ばれるビデオストリームと、Dependent view videoストリームと呼ばれるビデオストリームが定義されている。
【0005】
図1は、Base view videoストリームとDependent view videoストリームの例を示す図である。
【0006】
図1の矢印で示すように、Base view videoには他のviewのストリームを参照画像とする予測符号化が許されていないが、Dependent view videoには、Base view videoを参照画像とする予測符号化が許されている。
【0007】
例えば、L画像をBase viewとするとともにR画像をDependent viewとして符号化を行った場合、その結果得られるBase view videoストリームとDependent view videoストリームのデータ量は、それぞれをH.264/AVC規格で符号化した場合のデータ量と較べて少なくなる。
【0008】
なお、H.264/AVC規格での符号化であるから、Base view videoストリームの符号化において、時間方向の予測は行われている。また、Dependent view videoストリームについても、view間の予測とともに、時間方向の予測が行われている。Dependent view videoをデコードするには、エンコード時に参照先とした、対応するBase view videoのデコードが先に終了している必要があることになる。
【先行技術文献】
【特許文献】
【0009】
【特許文献1】特開2009−100070号公報
【発明の概要】
【発明が解決しようとする課題】
【0010】
一般的に、MVC規格は複数視点のビデオデータの符号化に用いられるものであるが、他の機能を実現するために用いることも考えられる。
【0011】
本発明はこのような状況に鑑みてなされたものであり、複数視点のビデオデータを符号化する符号化方式を用いて、複数種類の機能を実現することができるようにするものである。
【課題を解決するための手段】
【0012】
本発明の一側面の情報処理装置は、複数のビデオストリームを、所定のビデオストリームを基本のストリームとして符号化するとともに他のビデオストリームを前記所定のビデオストリームを参照して予測符号化することが可能な符号化方式で符号化し、前記所定のビデオストリームを符号化して得られた基本ストリームと、前記他のビデオストリームを符号化して得られた拡張ストリームを生成する符号化手段と、前記基本ストリームと前記拡張ストリームを復号して得られたデータを用いて実現する機能の種類を表す属性情報を生成する生成手段と、前記基本ストリームと前記拡張ストリームを、前記属性情報と対応付けて出力する出力手段とを備える。
【0013】
前記符号化手段には、左目用画像のストリームと右目用画像のストリームを前記符号化方式で符号化させ、前記生成手段には、前記基本ストリームと前記拡張ストリームを復号して得られたデータを用いて、左目用画像と右目用画像を交互に表示する機能を表す前記属性情報を生成させることができる。
【0014】
前記符号化手段には、前記他のビデオストリームについては前記所定のビデオストリームを参照しないで、視点の異なる複数のビデオストリームを前記符号化方式で符号化させ、前記生成手段には、前記基本ストリームと前記拡張ストリームのうちのいずれかのストリームを復号して得られたデータを用いて、1つの視点の画像を表示する機能を表す前記属性情報を生成させることができる。
【0015】
入力されたビデオストリームを、奇数フレームからなるストリームと偶数フレームからなるストリームに分割する処理手段をさらに設けることができる。この場合、前記符号化手段には、前記奇数フレームからなるストリームと前記偶数フレームからなるストリームを前記符号化方式で符号化させ、前記生成手段には、前記基本ストリームと前記拡張ストリームを復号して得られたデータを用いて、前記奇数フレームと前記偶数フレームを交互に、前記基本ストリームと前記拡張ストリームのフレームレートの2倍のフレームレートで表示する機能を表す前記属性情報を生成させることができる。
【0016】
入力されたビデオストリームを複製する処理手段をさらに設けることができる。この場合、前記符号化手段には、複製元のビデオストリームと複製して得られたビデオストリームを前記符号化方式で符号化させ、前記生成手段には、前記基本ストリームと前記拡張ストリームを復号して得られたデータを用いて、前記基本ストリームを復号して得られた画像と前記拡張ストリームを復号して得られた画像を交互に表示する機能を表す前記属性情報を生成させることができる。
【0017】
前記符号化方式は、MVC規格の符号化方式であるようにすることができる。
【0018】
本発明の一側面の情報処理方法は、複数のビデオストリームを、所定のビデオストリームを基本のストリームとして符号化するとともに他のビデオストリームを前記所定のビデオストリームを参照して予測符号化することが可能な符号化方式で符号化し、前記所定のビデオストリームを符号化して得られた基本ストリームと、前記他のビデオストリームを符号化して得られた拡張ストリームを生成し、前記基本ストリームと前記拡張ストリームを復号して得られたデータを用いて実現する機能の種類を表す属性情報を生成し、前記基本ストリームと前記拡張ストリームを、前記属性情報と対応付けて出力するステップを含む。
【0019】
本発明の一側面のプログラムは、複数のビデオストリームを、所定のビデオストリームを基本のストリームとして符号化するとともに他のビデオストリームを前記所定のビデオストリームを参照して予測符号化することが可能な符号化方式で符号化し、前記所定のビデオストリームを符号化して得られた基本ストリームと、前記他のビデオストリームを符号化して得られた拡張ストリームを生成し、前記基本ストリームと前記拡張ストリームを復号して得られたデータを用いて実現する機能の種類を表す属性情報を生成し、前記基本ストリームと前記拡張ストリームを、前記属性情報と対応付けて出力するステップを含む処理をコンピュータに実行させる。
【0020】
本発明の他の側面の再生装置は、複数のビデオストリームのうちの所定のビデオストリームを基本のストリームとして符号化するとともに他のビデオストリームを前記所定のビデオストリームを参照して予測符号化することが可能な符号化方式で、前記所定のビデオストリームを符号化して得られた基本ストリームと、前記他のビデオストリームを符号化して得られた拡張ストリームとを取得するとともに、前記基本ストリームと前記拡張ストリームを復号して得られたデータを用いて実現する機能の種類を表す属性情報を取得する取得手段と、前記基本ストリームと前記拡張ストリームを復号する復号手段と、前記基本ストリームと前記拡張ストリームを復号して得られた画像の表示方式を、前記属性情報により表される種類に応じて切り替える表示制御手段とを備える。
【0021】
前記基本ストリームと前記拡張ストリームは、左目用画像のストリームと右目用画像のストリームを前記符号化方式で符号化して得られたストリームであり、前記表示制御手段には、前記基本ストリームと前記拡張ストリームを復号して得られたデータを用いて、左目用画像と右目用画像を交互に表示させることができる。
【0022】
前記基本ストリームと前記拡張ストリームは、視点の異なる複数のビデオストリームを、前記他のビデオストリームについては基本のビデオストリームを参照しないで前記符号化方式で符号化して得られたストリームであり、前記表示制御手段には、前記基本ストリームと前記拡張ストリームのうちのいずれかのストリームを復号して得られたデータを用いて、1つの視点の画像を表示させることができる。
【0023】
前記基本ストリームと前記拡張ストリームは、入力されたビデオストリームの奇数フレームからなるストリームと偶数フレームからなるストリームを前記符号化方式で符号化して得られたストリームであり、前記表示制御手段には、前記基本ストリームと前記拡張ストリームを復号して得られたデータを用いて、前記奇数フレームと前記偶数フレームを交互に、前記基本ストリームと前記拡張ストリームのフレームレートの2倍のフレームレートで表示させることができる。
【0024】
前記基本ストリームと前記拡張ストリームは、入力されたビデオストリームと、そのビデオストリームを複製して得られたビデオストリームを前記符号化方式で符号化して得られたストリームであり、前記表示制御手段には、前記基本ストリームと前記拡張ストリームを復号して得られたデータを用いて、前記基本ストリームを復号して得られた画像と前記拡張ストリームを復号して得られた画像を交互に表示させることができる。
【0025】
前記符号化方式は、MVC規格の符号化方式であるようにすることができる。
【0026】
本発明の他の側面の再生方法は、複数のビデオストリームのうちの所定のビデオストリームを基本のストリームとして符号化するとともに他のビデオストリームを前記所定のビデオストリームを参照して予測符号化することが可能な符号化方式で、前記所定のビデオストリームを符号化して得られた基本ストリームと、前記他のビデオストリームを符号化して得られた拡張ストリームとを取得するとともに、前記基本ストリームと前記拡張ストリームを復号して得られたデータを用いて実現する機能の種類を表す属性情報を取得し、前記基本ストリームと前記拡張ストリームを復号し、前記基本ストリームと前記拡張ストリームを復号して得られた画像の表示方式を、前記属性情報により表される種類に応じて切り替えるステップを含む。
【0027】
本発明の他の側面のプログラムは、複数のビデオストリームのうちの所定のビデオストリームを基本のストリームとして符号化するとともに他のビデオストリームを前記所定のビデオストリームを参照して予測符号化することが可能な符号化方式で、前記所定のビデオストリームを符号化して得られた基本ストリームと、前記他のビデオストリームを符号化して得られた拡張ストリームとを取得するとともに、前記基本ストリームと前記拡張ストリームを復号して得られたデータを用いて実現する機能の種類を表す属性情報を取得し、前記基本ストリームと前記拡張ストリームを復号し、前記基本ストリームと前記拡張ストリームを復号して得られた画像の表示方式を、前記属性情報により表される種類に応じて切り替えるステップを含む処理をコンピュータに実行させる。
【0028】
本発明の一側面においては、複数のビデオストリームが、所定のビデオストリームを基本のストリームとして符号化するとともに他のビデオストリームを前記所定のビデオストリームを参照して予測符号化することが可能な符号化方式で符号化され、前記所定のビデオストリームを符号化して得られた基本ストリームと、前記他のビデオストリームを符号化して得られた拡張ストリームが生成され、前記基本ストリームと前記拡張ストリームを復号して得られたデータを用いて実現する機能の種類を表す属性情報が生成され、前記基本ストリームと前記拡張ストリームが、前記属性情報と対応付けて出力される。
【0029】
本発明の他の側面においては、複数のビデオストリームのうちの所定のビデオストリームを基本のストリームとして符号化するとともに他のビデオストリームを前記所定のビデオストリームを参照して予測符号化することが可能な符号化方式で、前記所定のビデオストリームを符号化して得られた基本ストリームと、前記他のビデオストリームを符号化して得られた拡張ストリームとが取得されるとともに、前記基本ストリームと前記拡張ストリームを復号して得られたデータを用いて実現する機能の種類を表す属性情報が取得される。また、前記基本ストリームと前記拡張ストリームが復号され、前記基本ストリームと前記拡張ストリームを復号して得られた画像の表示方式が、前記属性情報により表される種類に応じて切り替えられる。
【発明の効果】
【0030】
本発明によれば、複数視点のビデオデータを符号化する符号化方式を用いて、複数種類の機能を実現することができる。
【図面の簡単な説明】
【0031】
【図1】Base view videoストリームとDependent view videoストリームの例を示す図である。
【図2】本発明の一実施形態に係る情報処理システムを示す図である。
【図3】MVCストリームの構成例を示す図である。
【図4】MVCアプリケーションタイプにより表される機能の例を示す図である。
【図5】3Dビデオアプリケーションについて説明する図である。
【図6】2視点アプリケーションについて説明する図である。
【図7】Highフレームレートアプリケーションについて説明する図である。
【図8】2Dビデオアプリケーションについて説明する図である。
【図9】情報処理装置の構成例を示すブロック図である。
【図10】再生装置の構成例を示すブロック図である。
【図11】情報処理装置の処理について説明するフローチャートである。
【図12】再生装置の処理について説明するフローチャートである。
【図13】コンピュータのハードウェアの構成例を示すブロック図である。
【発明を実施するための形態】
【0032】
[情報処理システムの構成]
図2は、本発明の一実施形態に係る情報処理システムを示す図である。
【0033】
図2に示す情報処理システムは、情報処理装置1と再生装置2から構成される。再生装置2には、再生装置2から出力された画像を表示するLCD(Liquid Crystal Display)などのディスプレイが接続される。
【0034】
情報処理装置1は、入力されたビデオストリームをMVC規格に従って符号化し、MVCストリームを生成する。MVCストリームには、図3に示すように、Base view videoストリームのデータとDependent view videoストリームのデータが含まれる。
【0035】
図3の例においては、Base view videoストリーム全体とDependent view videoストリーム全体がそれぞれ所定の区間毎に分割され、各区間が混在するように1本のストリームが構成されている。図3において「B」の文字を付して示す区間はBase view videoストリームの区間を表し、「D」の文字を付して示す区間はDependent view videoストリームの区間を表す。
【0036】
また、情報処理装置1は、MVCストリームを復号して得られたデータを用いて実現する機能を表す属性情報であるMVCアプリケーションタイプ(MVC application type)を生成する。情報処理装置1は、生成したMVCアプリケーションタイプをMVCストリームと対応付けて出力する。MVCアプリケーションタイプは、MVCストリームのファイルと別ファイルのデータによって定義されるようにしてもよいし、TS(Transport Stream)の伝送制御情報であるPMT(Program Map Table)のdescriptorによって定義されるようにしてもよい。
【0037】
情報処理装置1により生成されたMVCストリームとMVCアプリケーションタイプは、Blu-ray(商標)ディスクなどの記録媒体に記録されて、あるいは、放送波やネットワークを介して、再生装置2に提供される。
【0038】
再生装置2は、情報処理装置1から出力されたMVCストリームとMVCアプリケーションタイプを取得する。再生装置2は、MVCストリームを復号し、復号して得られたデータを用いて、MVCアプリケーションタイプにより表される機能を実現するための処理を行う。具体的には、再生装置2は、MVCストリームに含まれるBase view videoストリームを復号して得られた画像と、Dependent view videoストリームを復号して得られた画像の表示方式をMVCアプリケーションタイプの値に応じて切り替える。
【0039】
図4は、MVCアプリケーションタイプにより表される機能(アプリケーション)の例を示す図である。
【0040】
図4に示すように、MVCアプリケーションタイプの値が1であることは3Dビデオアプリケーションを表し、MVCアプリケーションタイプの値が2であることは2視点アプリケーションを表す。MVCアプリケーションタイプの値が3であることはHighフレームレートアプリケーションを表し、MVCアプリケーションタイプの値が4であることは2Dビデオアプリケーションを表す。各アプリケーションについて説明する。
【0041】
[3Dビデオアプリケーション]
図5は、3Dビデオアプリケーションについて説明する図である。
【0042】
3Dビデオアプリケーション(Stereo 3D video application)は3D画像を表示する機能である。
【0043】
図5に示すように、符号化対象のビデオストリームとして、L画像のストリームとR画像のストリームが情報処理装置1に入力される。情報処理装置1においては、矢印#1の先に示すように、例えばL画像をBase view、R画像をDependent viewとして、L画像のストリームとR画像のストリームがMVC規格に従って符号化される。R画像の符号化には、適宜、L画像が参照される。
【0044】
L画像のストリームを符号化して得られたBase view videoストリームと、R画像のストリームを符号化して得られたDependent view videoストリームを含むMVCストリームは再生装置2に提供される。
【0045】
再生装置2においては、MVCストリームが復号され、矢印#2の先に示すように、Base view videoストリームを復号して得られたL画像と、Dependent view videoストリームを復号して得られたR画像が交互に、いわゆるフレームシーケンシャル方式で表示される。再生装置2により再生された画像をアクティブシャッタメガネをかけて見ている視聴者には、その画像が3Dで見えることになる。
【0046】
[2視点アプリケーション]
図6は、2視点アプリケーションについて説明する図である。
【0047】
2視点アプリケーション(Two views application)は視点の異なる2つの画像のうちのいずれか一方を表示する機能である。
【0048】
図6に示すように、符号化対象のビデオストリームとして、視点1(view-1)の画像のストリームと、視点1と異なる視点である視点2(view-2)の画像のストリームが情報処理装置1に入力される。情報処理装置1においては、矢印#1の先に示すように、例えば視点1の画像をBase view、視点2の画像をDependent viewとして、視点1の画像のストリームと視点2の画像のストリームがMVC規格に従って符号化される。視点2の画像の符号化には、視点1の画像が参照されない。
【0049】
視点1の画像のストリームを符号化して得られたBase view videoストリームと、視点2の画像のストリームを符号化して得られたDependent view videoストリームを含むMVCストリームは再生装置2に提供される。視点1の画像を参照しないで符号化されているから、Dependent view videoストリームは単独での復号が可能なストリームになっている。
【0050】
再生装置2においては、MVCストリームが復号され、矢印#2の先に示すように、Base view videoストリームを復号して得られた視点1の画像と、Dependent view videoストリームを復号して得られた視点2の画像のうちのいずれかが表示される。再生装置2により再生された画像(2Dの画像)を見ている視聴者は、視点1の画像か、視点2の画像を見ることになる。
【0051】
視点の切り替えは、例えば視聴者による指示に応じて、または、MVCストリームのコンテンツの制作者であるオーサによる指示に応じて行われる。視点の切り替えがMVCストリームのオーサによる指示に応じて行われる場合、その指示を表す情報は、MVCストリームを再生するときに再生装置1により参照される再生制御情報に含まれる。
【0052】
[Highフレームレートアプリケーション]
図7は、Highフレームレートアプリケーションについて説明する図である。
【0053】
Highフレームレートアプリケーション(High frame-rate application)は、Base view videoストリームとDependent view videoストリームのフレームレートの2倍のフレームレートの画像を表示する機能である。
【0054】
図7に示すように、符号化対象のビデオストリームとして、例えば60Hz(60フレーム/秒)のフレームレートのストリームであるHighフレームレートストリームが情報処理装置1に入力される。Highフレームレートストリームに含まれる各画像は同じ視点の画像である。
【0055】
情報処理装置1においては、矢印#1の先に示すように、Highフレームレートストリームに含まれる各画像(フレーム)が、先頭のフレームから表示順に、奇数番目のフレームと偶数番目のフレームに分割される。
【0056】
また、矢印#2の先に示すように、例えば奇数番目のフレームをBase view、偶数番目のフレームをDependent viewとして、奇数番目のフレームからなるストリームと偶数番目のフレームからなるストリームがMVC規格に従って符号化される。偶数番目のフレームの符号化には、適宜、奇数番目のフレームが参照される。
【0057】
奇数番目のフレームからなるストリームを符号化して得られたBase view videoストリームと、偶数番目のフレームからなるストリームを符号化して得られたDependent view videoストリームを含むMVCストリームは再生装置2に提供される。Base view videoストリームとDependent view videoストリームのフレームレートは、Highフレームレートストリームのフレームレートの1/2の30Hzになっている。
【0058】
再生装置2においては、MVCストリームが復号され、矢印#3の先に示すように、Base view videoストリームを復号して得られたフレームを奇数番目、Dependent view videoストリームを復号して得られたフレームを偶数番目のフレームとして交互に表示される。奇数番目のフレームと偶数番目のフレームは、Base view videoストリームとDependent view videoストリームのフレームレートの2倍のフレームレートで表示される。
【0059】
再生装置2により再生された画像を見ている視聴者は、符号化対象として情報処理装置1に入力されたHighフレームレートストリームの画像を見ることになる。
【0060】
[2Dビデオアプリケーション]
図8は、2Dビデオアプリケーションについて説明する図である。
【0061】
2Dビデオアプリケーション(2D video application)は、Base view videoストリームとDependent view videoストリームの両方の復号結果を用いて2D画像を表示する機能である。
【0062】
図8に示すように、符号化対象のビデオストリームとして、2D画像ストリームが情報処理装置1に入力される。2D画像ストリームに含まれる各画像は同じ視点の画像である。
【0063】
情報処理装置1においては、入力された2D画像ストリームのコピーが生成される。
【0064】
また、矢印#1の先に示すようにオリジナルの2D画像ストリームの画像をBase view、矢印#2の先に示すようにコピーの画像をDependent viewとして、オリジナルの2D画像ストリームとそのコピーがMVC規格に従って符号化される。コピーの符号化にオリジナルの2D画像ストリームを参照することによって、Dependent viewの各画像の、Base viewの各画像からのビュー間予測(inter view prediction)の差分値はゼロとして符号化される。
【0065】
オリジナルの2D画像ストリームを符号化して得られたBase view videoストリームと、コピーの2D画像ストリームを符号化して得られたDependent view videoストリームを含むMVCストリームは、再生装置2に提供される。
【0066】
再生装置2においては、MVCストリームが復号され、矢印#3の先に示すように、Base view videoストリームを復号して得られた2D画像と、Dependent view videoストリームを復号して得られた2D画像のコピーが交互に表示される。同じ画像が2フレームずつ表示されることにより、それを見ている視聴者は、アクティブシャッタメガネをかけていてもかけていなくても、画像を2Dで見ることになる。
【0067】
例えば以上のような4つの機能のうちのいずれかの機能がMVCアプリケーションタイプによって指定され、再生装置2において実現される。
【0068】
[各装置の構成例]
図9は、情報処理装置1の構成例を示すブロック図である。
【0069】
図9に示すように、情報処理装置1は、MVCアプリケーションタイプ生成部11、前処理部12、MVC符号化部13、多重化部14、および出力部15から構成される。
【0070】
情報処理装置1のユーザ(コンテンツの制作者)により選択されたアプリケーションを表す情報はMVCアプリケーションタイプ生成部11、前処理部12、およびMVC符号化部13に入力される。
【0071】
また、符号化対象のビデオストリームは前処理部12とMVC符号化部13に入力される。上述したように、例えば3Dビデオアプリケーションが選択されている場合、符号化対象のビデオストリームとしてL画像のストリームとR画像のストリームが入力される。また、2視点アプリケーションが選択されている場合、符号化対象のビデオストリームとして視点1の画像のストリームと、視点2の画像のストリームが入力される。
【0072】
同様に、Highフレームレートアプリケーションが選択されている場合、符号化対象のビデオストリームとしてHighフレームレートストリームが入力される。2Dビデオアプリケーションが選択されている場合、符号化対象のビデオストリームとして2Dビデオストリームが入力される。情報処理装置1のユーザは、所定のアプリケーションを選択するとともに、選択したアプリケーションに応じたビデオストリームを符号化対象として情報処理装置1に入力することになる。
【0073】
MVCアプリケーションタイプ生成部11は、情報処理装置1のユーザによる入力に応じて、MVCアプリケーションタイプに図4を参照して説明した値を設定し、多重化部14に出力する。
【0074】
前処理部12は、選択されているアプリケーションに応じて、適宜、前処理を行う。
【0075】
例えば、前処理部12は、Highフレームレートアプリケーションが選択されている場合、入力されたHighフレームレートストリームに含まれる各フレームを、先頭のフレームから表示順に、奇数番目のフレームと偶数番目のフレームに分割する。前処理部12は、奇数番目のフレームからなるストリームと偶数番目のフレームからなるストリームをMVC符号化部13に出力する。
【0076】
また、前処理部12は、2Dビデオアプリケーションが選択されている場合、入力された2D画像ストリームをコピーする。前処理部12は、オリジナルの2D画像ストリームとコピーをMVC符号化部13に出力する。
【0077】
MVC符号化部13は、情報処理装置1の外部から直接供給された符号化対象のビデオストリーム、または前処理部12から供給されたビデオストリームをMVC規格に従って符号化する。
【0078】
例えば、MVC符号化部13は、3Dビデオアプリケーションが選択されている場合、L画像をBase view、R画像をDependent viewとして、L画像のストリームとR画像のストリームを符号化する。また、MVC符号化部13は、2視点アプリケーションが選択されている場合、視点1の画像をBase view、視点2の画像をDependent viewとして、視点1の画像のストリームと視点2の画像のストリームを符号化する。
【0079】
MVC符号化部13は、Highフレームレートアプリケーションが選択されている場合、奇数番目のフレームをBase view、偶数番目の画像をDependent viewとして、前処理部12から供給された奇数番目のフレームからなるストリームと偶数番目のフレームからなるストリームを符号化する。MVC符号化部13は、2Dビデオアプリケーションが選択されている場合、オリジナルの2D画像ストリームの画像をBase view、コピーの画像をDependent viewとして、前処理部12から供給されたオリジナルの2D画像ストリームとそのコピーを符号化する。
【0080】
MVC符号化部13は、符号化することによって得られたBase view videoストリームとDependent view videoストリームを含むMVCストリームを多重化部14に出力する。
【0081】
多重化部14は、MVCアプリケーションタイプ生成部11から供給されたMVCアプリケーションタイプと、MVC符号化部13から供給されたMVCストリームを多重化し、多重化することによって得られたTSを出力部15に出力する。この例においては、MVCアプリケーションタイプがMVCストリームとともにTSに多重化されるものとされている。
【0082】
出力部15は、多重化部14から供給されたTSを出力する。例えば、MVCストリームとMVCアプリケーションタイプが記録媒体に記録された状態で提供される場合、出力部15は、MVCストリームとMVCアプリケーションタイプが多重化されたTSを記録媒体に記録する。また、MVCストリームとMVCアプリケーションタイプが放送波またはネットワークを介して提供される場合、出力部15は、MVCストリームとMVCアプリケーションタイプが多重化されたTSを再生装置2に送信する。
【0083】
図10は、再生装置2の構成例を示すブロック図である。
【0084】
図10に示すように、再生装置2は、取得部21、分離部22、MVC復号部23、および表示制御部24から構成される。
【0085】
取得部21は、情報処理装置1から提供されたTSを取得する。例えば、取得部21は、再生装置2に装着された記録媒体から読み出すことによってTSを取得する。また、出力部15は、情報処理装置1から送信されたデータを受信することによってTSを取得する。取得部21は、取得したTSを分離部22に出力する。
【0086】
分離部22は、取得部21から供給されたTSから、MVCストリームとMVCアプリケーションタイプを抽出する。分離部22は、抽出したMVCストリームをMVC復号部23に出力し、MVCアプリケーションタイプを表示制御部24に出力する。
【0087】
MVC復号部23は、分離部22から供給されたMVCストリームに含まれるBase view videoストリームとDependent view videoストリームを復号する。MVC復号部23は、Base view videoストリームを復号して得られた画像と、Dependent view videoストリームを復号して得られた画像を表示制御部24に出力する。
【0088】
表示制御部24は、分離部22から供給されたMVCアプリケーションタイプに応じて表示方式を切り替えて、MVC復号部23から供給された画像をディスプレイに表示する。
【0089】
例えば、表示制御部24は、3Dビデオアプリケーションが選択されている場合、Base view videoストリームを復号して得られたL画像と、Dependent view videoストリームを復号して得られたR画像を交互に表示する。また、表示制御部24は、2視点アプリケーションが選択されている場合、Base view videoストリームを復号して得られた視点1の画像と、Dependent view videoストリームを復号して得られた視点2の画像のうち、ユーザにより選択された画像を表示する。
【0090】
同様に、表示制御部24は、Highフレームレートアプリケーションが選択されている場合、Base view videoストリームを復号して得られた奇数番目のフレームと、Dependent view videoストリームを復号して得られた偶数番目のフレームを交互に2倍のフレームレートで表示する。表示制御部24は、2Dビデオアプリケーションが選択されている場合、Base view videoストリームを復号して得られた2D画像と、Dependent view videoストリームを復号して得られた2D画像のコピーを交互に表示する。
【0091】
[各装置の動作]
ここで、図11のフローチャートを参照して、情報処理装置1の処理について説明する。
【0092】
ステップS1において、情報処理装置1のMVCアプリケーションタイプ生成部11は、情報処理装置1のユーザによる入力に応じた値をMVCアプリケーションタイプに設定する。
【0093】
ステップS2において、前処理部12は、符号化対象のビデオストリームに対して、選択されているアプリケーションに応じた前処理を適宜行う。
【0094】
ステップS3において、MVC符号化部13は、情報処理装置1の外部から直接供給された符号化対象のビデオストリーム、または前処理部12から供給されたビデオストリームを、上述したようにしてMVC規格に従って符号化する。
【0095】
ステップS4において、多重化部14は、MVCアプリケーションタイプ生成部11から供給されたMVCアプリケーションタイプと、MVC符号化部13から供給されたMVCストリームを多重化する。
【0096】
ステップS5において、出力部15は、多重化部14から供給されたTSを出力する。その後、処理は終了される。
【0097】
次に、図12のフローチャートを参照して、再生装置2の処理について説明する。
【0098】
ステップS11において、再生装置2の取得部21は、情報処理装置1から提供されたTSを取得する。
【0099】
ステップS12において、分離部22は、取得部21により取得されたTSから、MVCストリームとMVCアプリケーションタイプを抽出する。
【0100】
ステップS13において、MVC復号部23は、MVCストリームに含まれるBase view videoストリームとDependent view videoストリームを復号する。
【0101】
ステップS14において、表示制御部24は、MVCアプリケーションタイプに応じて表示方式を切り替え、MVC復号部23から供給された画像をディスプレイに表示する。その後、処理は終了される。
【0102】
以上の一連の処理により、MVC規格のBase view videoストリームとDependent view videoストリームを用いて複数の機能を実現することができる。
【0103】
MVC規格で複数の機能を実現しようとした場合、情報処理装置1は、自身が生成したBase view videoストリームとDependent view videoストリームが、どの機能を実現するためのものであるのかを再生装置2に伝達する必要がある。MVCアプリケーションタイプを定義することによってそれを実現することが可能になる。
【0104】
また、複数の機能を実現するためのデコーダ(MVC復号部)を再生装置2にそれぞれ設ける必要がないことから、再生装置2の構成を簡略化することが可能になる。
【0105】
[コンピュータの構成例]
上述した一連の処理は、ハードウェアにより実行することもできるし、ソフトウェアにより実行することもできる。一連の処理をソフトウェアにより実行する場合には、そのソフトウェアを構成するプログラムが、専用のハードウェアに組み込まれているコンピュータ、または汎用のパーソナルコンピュータなどに、プログラム記録媒体からインストールされる。
【0106】
図13は、上述した一連の処理をプログラムにより実行するコンピュータのハードウェアの構成例を示すブロック図である。
【0107】
CPU(Central Processing Unit)51、ROM(Read Only Memory)52、RAM(Random Access Memory)53は、バス54により相互に接続されている。
【0108】
バス54には、さらに、入出力インタフェース55が接続されている。入出力インタフェース55には、キーボード、マウスなどよりなる入力部56、ディスプレイ、スピーカなどよりなる出力部57が接続される。また、入出力インタフェース55には、ハードディスクや不揮発性のメモリなどよりなる記憶部58、ネットワークインタフェースなどよりなる通信部59、リムーバブルメディア61を駆動するドライブ60が接続される。
【0109】
以上のように構成されるコンピュータでは、CPU51が、例えば、記憶部58に記憶されているプログラムを入出力インタフェース55及びバス54を介してRAM53にロードして実行することにより、上述した一連の処理が行われる。
【0110】
CPU51が実行するプログラムは、例えばリムーバブルメディア61に記録して、あるいは、ローカルエリアネットワーク、インターネット、デジタル放送といった、有線または無線の伝送媒体を介して提供され、記憶部58にインストールされる。
【0111】
なお、コンピュータが実行するプログラムは、本明細書で説明する順序に沿って時系列に処理が行われるプログラムであっても良いし、並列に、あるいは呼び出しが行われたとき等の必要なタイミングで処理が行われるプログラムであっても良い。
【0112】
本発明の実施の形態は、上述した実施の形態に限定されるものではなく、本発明の要旨を逸脱しない範囲において種々の変更が可能である。
【符号の説明】
【0113】
1 情報処理装置, 2 再生装置, 11 MVCアプリケーションタイプ生成部, 12 前処理部, 13 MVC符号化部, 14 多重化部, 15 出力部, 21 取得部, 22 分離部, 23 MVC復号部, 24 表示制御部
【技術分野】
【0001】
本発明は、情報処理装置、情報処理方法、再生装置、再生方法、およびプログラムに関し、特に、複数視点のビデオデータを符号化する符号化方式を用いて、複数種類の機能を実現することができるようにした情報処理装置、情報処理方法、再生装置、再生方法、およびプログラムに関する。
【背景技術】
【0002】
近年、画像を3D(三次元)で収録した3Dコンテンツが注目されている。3Dコンテンツの画像を見ることによって、視聴者は被写体を立体的に認識することが可能になる。
【0003】
画像を3Dで表示する方式も複数提案されている。例えば、視差のある左目用の画像(L画像)と右目用の画像(R画像)を交互に表示し、アクティブシャッタメガネをかけた視聴者の左目と右目にそれぞれ届けることによって被写体を立体的に認識させる方式がある。
【0004】
L画像とR画像の符号化方式の1つとしてMPEG4 AVC H.264規格(H.264/AVC規格)を拡張したMVC(Multi-view Video Coding)規格がある。MVC規格では、Base view videoストリームと呼ばれるビデオストリームと、Dependent view videoストリームと呼ばれるビデオストリームが定義されている。
【0005】
図1は、Base view videoストリームとDependent view videoストリームの例を示す図である。
【0006】
図1の矢印で示すように、Base view videoには他のviewのストリームを参照画像とする予測符号化が許されていないが、Dependent view videoには、Base view videoを参照画像とする予測符号化が許されている。
【0007】
例えば、L画像をBase viewとするとともにR画像をDependent viewとして符号化を行った場合、その結果得られるBase view videoストリームとDependent view videoストリームのデータ量は、それぞれをH.264/AVC規格で符号化した場合のデータ量と較べて少なくなる。
【0008】
なお、H.264/AVC規格での符号化であるから、Base view videoストリームの符号化において、時間方向の予測は行われている。また、Dependent view videoストリームについても、view間の予測とともに、時間方向の予測が行われている。Dependent view videoをデコードするには、エンコード時に参照先とした、対応するBase view videoのデコードが先に終了している必要があることになる。
【先行技術文献】
【特許文献】
【0009】
【特許文献1】特開2009−100070号公報
【発明の概要】
【発明が解決しようとする課題】
【0010】
一般的に、MVC規格は複数視点のビデオデータの符号化に用いられるものであるが、他の機能を実現するために用いることも考えられる。
【0011】
本発明はこのような状況に鑑みてなされたものであり、複数視点のビデオデータを符号化する符号化方式を用いて、複数種類の機能を実現することができるようにするものである。
【課題を解決するための手段】
【0012】
本発明の一側面の情報処理装置は、複数のビデオストリームを、所定のビデオストリームを基本のストリームとして符号化するとともに他のビデオストリームを前記所定のビデオストリームを参照して予測符号化することが可能な符号化方式で符号化し、前記所定のビデオストリームを符号化して得られた基本ストリームと、前記他のビデオストリームを符号化して得られた拡張ストリームを生成する符号化手段と、前記基本ストリームと前記拡張ストリームを復号して得られたデータを用いて実現する機能の種類を表す属性情報を生成する生成手段と、前記基本ストリームと前記拡張ストリームを、前記属性情報と対応付けて出力する出力手段とを備える。
【0013】
前記符号化手段には、左目用画像のストリームと右目用画像のストリームを前記符号化方式で符号化させ、前記生成手段には、前記基本ストリームと前記拡張ストリームを復号して得られたデータを用いて、左目用画像と右目用画像を交互に表示する機能を表す前記属性情報を生成させることができる。
【0014】
前記符号化手段には、前記他のビデオストリームについては前記所定のビデオストリームを参照しないで、視点の異なる複数のビデオストリームを前記符号化方式で符号化させ、前記生成手段には、前記基本ストリームと前記拡張ストリームのうちのいずれかのストリームを復号して得られたデータを用いて、1つの視点の画像を表示する機能を表す前記属性情報を生成させることができる。
【0015】
入力されたビデオストリームを、奇数フレームからなるストリームと偶数フレームからなるストリームに分割する処理手段をさらに設けることができる。この場合、前記符号化手段には、前記奇数フレームからなるストリームと前記偶数フレームからなるストリームを前記符号化方式で符号化させ、前記生成手段には、前記基本ストリームと前記拡張ストリームを復号して得られたデータを用いて、前記奇数フレームと前記偶数フレームを交互に、前記基本ストリームと前記拡張ストリームのフレームレートの2倍のフレームレートで表示する機能を表す前記属性情報を生成させることができる。
【0016】
入力されたビデオストリームを複製する処理手段をさらに設けることができる。この場合、前記符号化手段には、複製元のビデオストリームと複製して得られたビデオストリームを前記符号化方式で符号化させ、前記生成手段には、前記基本ストリームと前記拡張ストリームを復号して得られたデータを用いて、前記基本ストリームを復号して得られた画像と前記拡張ストリームを復号して得られた画像を交互に表示する機能を表す前記属性情報を生成させることができる。
【0017】
前記符号化方式は、MVC規格の符号化方式であるようにすることができる。
【0018】
本発明の一側面の情報処理方法は、複数のビデオストリームを、所定のビデオストリームを基本のストリームとして符号化するとともに他のビデオストリームを前記所定のビデオストリームを参照して予測符号化することが可能な符号化方式で符号化し、前記所定のビデオストリームを符号化して得られた基本ストリームと、前記他のビデオストリームを符号化して得られた拡張ストリームを生成し、前記基本ストリームと前記拡張ストリームを復号して得られたデータを用いて実現する機能の種類を表す属性情報を生成し、前記基本ストリームと前記拡張ストリームを、前記属性情報と対応付けて出力するステップを含む。
【0019】
本発明の一側面のプログラムは、複数のビデオストリームを、所定のビデオストリームを基本のストリームとして符号化するとともに他のビデオストリームを前記所定のビデオストリームを参照して予測符号化することが可能な符号化方式で符号化し、前記所定のビデオストリームを符号化して得られた基本ストリームと、前記他のビデオストリームを符号化して得られた拡張ストリームを生成し、前記基本ストリームと前記拡張ストリームを復号して得られたデータを用いて実現する機能の種類を表す属性情報を生成し、前記基本ストリームと前記拡張ストリームを、前記属性情報と対応付けて出力するステップを含む処理をコンピュータに実行させる。
【0020】
本発明の他の側面の再生装置は、複数のビデオストリームのうちの所定のビデオストリームを基本のストリームとして符号化するとともに他のビデオストリームを前記所定のビデオストリームを参照して予測符号化することが可能な符号化方式で、前記所定のビデオストリームを符号化して得られた基本ストリームと、前記他のビデオストリームを符号化して得られた拡張ストリームとを取得するとともに、前記基本ストリームと前記拡張ストリームを復号して得られたデータを用いて実現する機能の種類を表す属性情報を取得する取得手段と、前記基本ストリームと前記拡張ストリームを復号する復号手段と、前記基本ストリームと前記拡張ストリームを復号して得られた画像の表示方式を、前記属性情報により表される種類に応じて切り替える表示制御手段とを備える。
【0021】
前記基本ストリームと前記拡張ストリームは、左目用画像のストリームと右目用画像のストリームを前記符号化方式で符号化して得られたストリームであり、前記表示制御手段には、前記基本ストリームと前記拡張ストリームを復号して得られたデータを用いて、左目用画像と右目用画像を交互に表示させることができる。
【0022】
前記基本ストリームと前記拡張ストリームは、視点の異なる複数のビデオストリームを、前記他のビデオストリームについては基本のビデオストリームを参照しないで前記符号化方式で符号化して得られたストリームであり、前記表示制御手段には、前記基本ストリームと前記拡張ストリームのうちのいずれかのストリームを復号して得られたデータを用いて、1つの視点の画像を表示させることができる。
【0023】
前記基本ストリームと前記拡張ストリームは、入力されたビデオストリームの奇数フレームからなるストリームと偶数フレームからなるストリームを前記符号化方式で符号化して得られたストリームであり、前記表示制御手段には、前記基本ストリームと前記拡張ストリームを復号して得られたデータを用いて、前記奇数フレームと前記偶数フレームを交互に、前記基本ストリームと前記拡張ストリームのフレームレートの2倍のフレームレートで表示させることができる。
【0024】
前記基本ストリームと前記拡張ストリームは、入力されたビデオストリームと、そのビデオストリームを複製して得られたビデオストリームを前記符号化方式で符号化して得られたストリームであり、前記表示制御手段には、前記基本ストリームと前記拡張ストリームを復号して得られたデータを用いて、前記基本ストリームを復号して得られた画像と前記拡張ストリームを復号して得られた画像を交互に表示させることができる。
【0025】
前記符号化方式は、MVC規格の符号化方式であるようにすることができる。
【0026】
本発明の他の側面の再生方法は、複数のビデオストリームのうちの所定のビデオストリームを基本のストリームとして符号化するとともに他のビデオストリームを前記所定のビデオストリームを参照して予測符号化することが可能な符号化方式で、前記所定のビデオストリームを符号化して得られた基本ストリームと、前記他のビデオストリームを符号化して得られた拡張ストリームとを取得するとともに、前記基本ストリームと前記拡張ストリームを復号して得られたデータを用いて実現する機能の種類を表す属性情報を取得し、前記基本ストリームと前記拡張ストリームを復号し、前記基本ストリームと前記拡張ストリームを復号して得られた画像の表示方式を、前記属性情報により表される種類に応じて切り替えるステップを含む。
【0027】
本発明の他の側面のプログラムは、複数のビデオストリームのうちの所定のビデオストリームを基本のストリームとして符号化するとともに他のビデオストリームを前記所定のビデオストリームを参照して予測符号化することが可能な符号化方式で、前記所定のビデオストリームを符号化して得られた基本ストリームと、前記他のビデオストリームを符号化して得られた拡張ストリームとを取得するとともに、前記基本ストリームと前記拡張ストリームを復号して得られたデータを用いて実現する機能の種類を表す属性情報を取得し、前記基本ストリームと前記拡張ストリームを復号し、前記基本ストリームと前記拡張ストリームを復号して得られた画像の表示方式を、前記属性情報により表される種類に応じて切り替えるステップを含む処理をコンピュータに実行させる。
【0028】
本発明の一側面においては、複数のビデオストリームが、所定のビデオストリームを基本のストリームとして符号化するとともに他のビデオストリームを前記所定のビデオストリームを参照して予測符号化することが可能な符号化方式で符号化され、前記所定のビデオストリームを符号化して得られた基本ストリームと、前記他のビデオストリームを符号化して得られた拡張ストリームが生成され、前記基本ストリームと前記拡張ストリームを復号して得られたデータを用いて実現する機能の種類を表す属性情報が生成され、前記基本ストリームと前記拡張ストリームが、前記属性情報と対応付けて出力される。
【0029】
本発明の他の側面においては、複数のビデオストリームのうちの所定のビデオストリームを基本のストリームとして符号化するとともに他のビデオストリームを前記所定のビデオストリームを参照して予測符号化することが可能な符号化方式で、前記所定のビデオストリームを符号化して得られた基本ストリームと、前記他のビデオストリームを符号化して得られた拡張ストリームとが取得されるとともに、前記基本ストリームと前記拡張ストリームを復号して得られたデータを用いて実現する機能の種類を表す属性情報が取得される。また、前記基本ストリームと前記拡張ストリームが復号され、前記基本ストリームと前記拡張ストリームを復号して得られた画像の表示方式が、前記属性情報により表される種類に応じて切り替えられる。
【発明の効果】
【0030】
本発明によれば、複数視点のビデオデータを符号化する符号化方式を用いて、複数種類の機能を実現することができる。
【図面の簡単な説明】
【0031】
【図1】Base view videoストリームとDependent view videoストリームの例を示す図である。
【図2】本発明の一実施形態に係る情報処理システムを示す図である。
【図3】MVCストリームの構成例を示す図である。
【図4】MVCアプリケーションタイプにより表される機能の例を示す図である。
【図5】3Dビデオアプリケーションについて説明する図である。
【図6】2視点アプリケーションについて説明する図である。
【図7】Highフレームレートアプリケーションについて説明する図である。
【図8】2Dビデオアプリケーションについて説明する図である。
【図9】情報処理装置の構成例を示すブロック図である。
【図10】再生装置の構成例を示すブロック図である。
【図11】情報処理装置の処理について説明するフローチャートである。
【図12】再生装置の処理について説明するフローチャートである。
【図13】コンピュータのハードウェアの構成例を示すブロック図である。
【発明を実施するための形態】
【0032】
[情報処理システムの構成]
図2は、本発明の一実施形態に係る情報処理システムを示す図である。
【0033】
図2に示す情報処理システムは、情報処理装置1と再生装置2から構成される。再生装置2には、再生装置2から出力された画像を表示するLCD(Liquid Crystal Display)などのディスプレイが接続される。
【0034】
情報処理装置1は、入力されたビデオストリームをMVC規格に従って符号化し、MVCストリームを生成する。MVCストリームには、図3に示すように、Base view videoストリームのデータとDependent view videoストリームのデータが含まれる。
【0035】
図3の例においては、Base view videoストリーム全体とDependent view videoストリーム全体がそれぞれ所定の区間毎に分割され、各区間が混在するように1本のストリームが構成されている。図3において「B」の文字を付して示す区間はBase view videoストリームの区間を表し、「D」の文字を付して示す区間はDependent view videoストリームの区間を表す。
【0036】
また、情報処理装置1は、MVCストリームを復号して得られたデータを用いて実現する機能を表す属性情報であるMVCアプリケーションタイプ(MVC application type)を生成する。情報処理装置1は、生成したMVCアプリケーションタイプをMVCストリームと対応付けて出力する。MVCアプリケーションタイプは、MVCストリームのファイルと別ファイルのデータによって定義されるようにしてもよいし、TS(Transport Stream)の伝送制御情報であるPMT(Program Map Table)のdescriptorによって定義されるようにしてもよい。
【0037】
情報処理装置1により生成されたMVCストリームとMVCアプリケーションタイプは、Blu-ray(商標)ディスクなどの記録媒体に記録されて、あるいは、放送波やネットワークを介して、再生装置2に提供される。
【0038】
再生装置2は、情報処理装置1から出力されたMVCストリームとMVCアプリケーションタイプを取得する。再生装置2は、MVCストリームを復号し、復号して得られたデータを用いて、MVCアプリケーションタイプにより表される機能を実現するための処理を行う。具体的には、再生装置2は、MVCストリームに含まれるBase view videoストリームを復号して得られた画像と、Dependent view videoストリームを復号して得られた画像の表示方式をMVCアプリケーションタイプの値に応じて切り替える。
【0039】
図4は、MVCアプリケーションタイプにより表される機能(アプリケーション)の例を示す図である。
【0040】
図4に示すように、MVCアプリケーションタイプの値が1であることは3Dビデオアプリケーションを表し、MVCアプリケーションタイプの値が2であることは2視点アプリケーションを表す。MVCアプリケーションタイプの値が3であることはHighフレームレートアプリケーションを表し、MVCアプリケーションタイプの値が4であることは2Dビデオアプリケーションを表す。各アプリケーションについて説明する。
【0041】
[3Dビデオアプリケーション]
図5は、3Dビデオアプリケーションについて説明する図である。
【0042】
3Dビデオアプリケーション(Stereo 3D video application)は3D画像を表示する機能である。
【0043】
図5に示すように、符号化対象のビデオストリームとして、L画像のストリームとR画像のストリームが情報処理装置1に入力される。情報処理装置1においては、矢印#1の先に示すように、例えばL画像をBase view、R画像をDependent viewとして、L画像のストリームとR画像のストリームがMVC規格に従って符号化される。R画像の符号化には、適宜、L画像が参照される。
【0044】
L画像のストリームを符号化して得られたBase view videoストリームと、R画像のストリームを符号化して得られたDependent view videoストリームを含むMVCストリームは再生装置2に提供される。
【0045】
再生装置2においては、MVCストリームが復号され、矢印#2の先に示すように、Base view videoストリームを復号して得られたL画像と、Dependent view videoストリームを復号して得られたR画像が交互に、いわゆるフレームシーケンシャル方式で表示される。再生装置2により再生された画像をアクティブシャッタメガネをかけて見ている視聴者には、その画像が3Dで見えることになる。
【0046】
[2視点アプリケーション]
図6は、2視点アプリケーションについて説明する図である。
【0047】
2視点アプリケーション(Two views application)は視点の異なる2つの画像のうちのいずれか一方を表示する機能である。
【0048】
図6に示すように、符号化対象のビデオストリームとして、視点1(view-1)の画像のストリームと、視点1と異なる視点である視点2(view-2)の画像のストリームが情報処理装置1に入力される。情報処理装置1においては、矢印#1の先に示すように、例えば視点1の画像をBase view、視点2の画像をDependent viewとして、視点1の画像のストリームと視点2の画像のストリームがMVC規格に従って符号化される。視点2の画像の符号化には、視点1の画像が参照されない。
【0049】
視点1の画像のストリームを符号化して得られたBase view videoストリームと、視点2の画像のストリームを符号化して得られたDependent view videoストリームを含むMVCストリームは再生装置2に提供される。視点1の画像を参照しないで符号化されているから、Dependent view videoストリームは単独での復号が可能なストリームになっている。
【0050】
再生装置2においては、MVCストリームが復号され、矢印#2の先に示すように、Base view videoストリームを復号して得られた視点1の画像と、Dependent view videoストリームを復号して得られた視点2の画像のうちのいずれかが表示される。再生装置2により再生された画像(2Dの画像)を見ている視聴者は、視点1の画像か、視点2の画像を見ることになる。
【0051】
視点の切り替えは、例えば視聴者による指示に応じて、または、MVCストリームのコンテンツの制作者であるオーサによる指示に応じて行われる。視点の切り替えがMVCストリームのオーサによる指示に応じて行われる場合、その指示を表す情報は、MVCストリームを再生するときに再生装置1により参照される再生制御情報に含まれる。
【0052】
[Highフレームレートアプリケーション]
図7は、Highフレームレートアプリケーションについて説明する図である。
【0053】
Highフレームレートアプリケーション(High frame-rate application)は、Base view videoストリームとDependent view videoストリームのフレームレートの2倍のフレームレートの画像を表示する機能である。
【0054】
図7に示すように、符号化対象のビデオストリームとして、例えば60Hz(60フレーム/秒)のフレームレートのストリームであるHighフレームレートストリームが情報処理装置1に入力される。Highフレームレートストリームに含まれる各画像は同じ視点の画像である。
【0055】
情報処理装置1においては、矢印#1の先に示すように、Highフレームレートストリームに含まれる各画像(フレーム)が、先頭のフレームから表示順に、奇数番目のフレームと偶数番目のフレームに分割される。
【0056】
また、矢印#2の先に示すように、例えば奇数番目のフレームをBase view、偶数番目のフレームをDependent viewとして、奇数番目のフレームからなるストリームと偶数番目のフレームからなるストリームがMVC規格に従って符号化される。偶数番目のフレームの符号化には、適宜、奇数番目のフレームが参照される。
【0057】
奇数番目のフレームからなるストリームを符号化して得られたBase view videoストリームと、偶数番目のフレームからなるストリームを符号化して得られたDependent view videoストリームを含むMVCストリームは再生装置2に提供される。Base view videoストリームとDependent view videoストリームのフレームレートは、Highフレームレートストリームのフレームレートの1/2の30Hzになっている。
【0058】
再生装置2においては、MVCストリームが復号され、矢印#3の先に示すように、Base view videoストリームを復号して得られたフレームを奇数番目、Dependent view videoストリームを復号して得られたフレームを偶数番目のフレームとして交互に表示される。奇数番目のフレームと偶数番目のフレームは、Base view videoストリームとDependent view videoストリームのフレームレートの2倍のフレームレートで表示される。
【0059】
再生装置2により再生された画像を見ている視聴者は、符号化対象として情報処理装置1に入力されたHighフレームレートストリームの画像を見ることになる。
【0060】
[2Dビデオアプリケーション]
図8は、2Dビデオアプリケーションについて説明する図である。
【0061】
2Dビデオアプリケーション(2D video application)は、Base view videoストリームとDependent view videoストリームの両方の復号結果を用いて2D画像を表示する機能である。
【0062】
図8に示すように、符号化対象のビデオストリームとして、2D画像ストリームが情報処理装置1に入力される。2D画像ストリームに含まれる各画像は同じ視点の画像である。
【0063】
情報処理装置1においては、入力された2D画像ストリームのコピーが生成される。
【0064】
また、矢印#1の先に示すようにオリジナルの2D画像ストリームの画像をBase view、矢印#2の先に示すようにコピーの画像をDependent viewとして、オリジナルの2D画像ストリームとそのコピーがMVC規格に従って符号化される。コピーの符号化にオリジナルの2D画像ストリームを参照することによって、Dependent viewの各画像の、Base viewの各画像からのビュー間予測(inter view prediction)の差分値はゼロとして符号化される。
【0065】
オリジナルの2D画像ストリームを符号化して得られたBase view videoストリームと、コピーの2D画像ストリームを符号化して得られたDependent view videoストリームを含むMVCストリームは、再生装置2に提供される。
【0066】
再生装置2においては、MVCストリームが復号され、矢印#3の先に示すように、Base view videoストリームを復号して得られた2D画像と、Dependent view videoストリームを復号して得られた2D画像のコピーが交互に表示される。同じ画像が2フレームずつ表示されることにより、それを見ている視聴者は、アクティブシャッタメガネをかけていてもかけていなくても、画像を2Dで見ることになる。
【0067】
例えば以上のような4つの機能のうちのいずれかの機能がMVCアプリケーションタイプによって指定され、再生装置2において実現される。
【0068】
[各装置の構成例]
図9は、情報処理装置1の構成例を示すブロック図である。
【0069】
図9に示すように、情報処理装置1は、MVCアプリケーションタイプ生成部11、前処理部12、MVC符号化部13、多重化部14、および出力部15から構成される。
【0070】
情報処理装置1のユーザ(コンテンツの制作者)により選択されたアプリケーションを表す情報はMVCアプリケーションタイプ生成部11、前処理部12、およびMVC符号化部13に入力される。
【0071】
また、符号化対象のビデオストリームは前処理部12とMVC符号化部13に入力される。上述したように、例えば3Dビデオアプリケーションが選択されている場合、符号化対象のビデオストリームとしてL画像のストリームとR画像のストリームが入力される。また、2視点アプリケーションが選択されている場合、符号化対象のビデオストリームとして視点1の画像のストリームと、視点2の画像のストリームが入力される。
【0072】
同様に、Highフレームレートアプリケーションが選択されている場合、符号化対象のビデオストリームとしてHighフレームレートストリームが入力される。2Dビデオアプリケーションが選択されている場合、符号化対象のビデオストリームとして2Dビデオストリームが入力される。情報処理装置1のユーザは、所定のアプリケーションを選択するとともに、選択したアプリケーションに応じたビデオストリームを符号化対象として情報処理装置1に入力することになる。
【0073】
MVCアプリケーションタイプ生成部11は、情報処理装置1のユーザによる入力に応じて、MVCアプリケーションタイプに図4を参照して説明した値を設定し、多重化部14に出力する。
【0074】
前処理部12は、選択されているアプリケーションに応じて、適宜、前処理を行う。
【0075】
例えば、前処理部12は、Highフレームレートアプリケーションが選択されている場合、入力されたHighフレームレートストリームに含まれる各フレームを、先頭のフレームから表示順に、奇数番目のフレームと偶数番目のフレームに分割する。前処理部12は、奇数番目のフレームからなるストリームと偶数番目のフレームからなるストリームをMVC符号化部13に出力する。
【0076】
また、前処理部12は、2Dビデオアプリケーションが選択されている場合、入力された2D画像ストリームをコピーする。前処理部12は、オリジナルの2D画像ストリームとコピーをMVC符号化部13に出力する。
【0077】
MVC符号化部13は、情報処理装置1の外部から直接供給された符号化対象のビデオストリーム、または前処理部12から供給されたビデオストリームをMVC規格に従って符号化する。
【0078】
例えば、MVC符号化部13は、3Dビデオアプリケーションが選択されている場合、L画像をBase view、R画像をDependent viewとして、L画像のストリームとR画像のストリームを符号化する。また、MVC符号化部13は、2視点アプリケーションが選択されている場合、視点1の画像をBase view、視点2の画像をDependent viewとして、視点1の画像のストリームと視点2の画像のストリームを符号化する。
【0079】
MVC符号化部13は、Highフレームレートアプリケーションが選択されている場合、奇数番目のフレームをBase view、偶数番目の画像をDependent viewとして、前処理部12から供給された奇数番目のフレームからなるストリームと偶数番目のフレームからなるストリームを符号化する。MVC符号化部13は、2Dビデオアプリケーションが選択されている場合、オリジナルの2D画像ストリームの画像をBase view、コピーの画像をDependent viewとして、前処理部12から供給されたオリジナルの2D画像ストリームとそのコピーを符号化する。
【0080】
MVC符号化部13は、符号化することによって得られたBase view videoストリームとDependent view videoストリームを含むMVCストリームを多重化部14に出力する。
【0081】
多重化部14は、MVCアプリケーションタイプ生成部11から供給されたMVCアプリケーションタイプと、MVC符号化部13から供給されたMVCストリームを多重化し、多重化することによって得られたTSを出力部15に出力する。この例においては、MVCアプリケーションタイプがMVCストリームとともにTSに多重化されるものとされている。
【0082】
出力部15は、多重化部14から供給されたTSを出力する。例えば、MVCストリームとMVCアプリケーションタイプが記録媒体に記録された状態で提供される場合、出力部15は、MVCストリームとMVCアプリケーションタイプが多重化されたTSを記録媒体に記録する。また、MVCストリームとMVCアプリケーションタイプが放送波またはネットワークを介して提供される場合、出力部15は、MVCストリームとMVCアプリケーションタイプが多重化されたTSを再生装置2に送信する。
【0083】
図10は、再生装置2の構成例を示すブロック図である。
【0084】
図10に示すように、再生装置2は、取得部21、分離部22、MVC復号部23、および表示制御部24から構成される。
【0085】
取得部21は、情報処理装置1から提供されたTSを取得する。例えば、取得部21は、再生装置2に装着された記録媒体から読み出すことによってTSを取得する。また、出力部15は、情報処理装置1から送信されたデータを受信することによってTSを取得する。取得部21は、取得したTSを分離部22に出力する。
【0086】
分離部22は、取得部21から供給されたTSから、MVCストリームとMVCアプリケーションタイプを抽出する。分離部22は、抽出したMVCストリームをMVC復号部23に出力し、MVCアプリケーションタイプを表示制御部24に出力する。
【0087】
MVC復号部23は、分離部22から供給されたMVCストリームに含まれるBase view videoストリームとDependent view videoストリームを復号する。MVC復号部23は、Base view videoストリームを復号して得られた画像と、Dependent view videoストリームを復号して得られた画像を表示制御部24に出力する。
【0088】
表示制御部24は、分離部22から供給されたMVCアプリケーションタイプに応じて表示方式を切り替えて、MVC復号部23から供給された画像をディスプレイに表示する。
【0089】
例えば、表示制御部24は、3Dビデオアプリケーションが選択されている場合、Base view videoストリームを復号して得られたL画像と、Dependent view videoストリームを復号して得られたR画像を交互に表示する。また、表示制御部24は、2視点アプリケーションが選択されている場合、Base view videoストリームを復号して得られた視点1の画像と、Dependent view videoストリームを復号して得られた視点2の画像のうち、ユーザにより選択された画像を表示する。
【0090】
同様に、表示制御部24は、Highフレームレートアプリケーションが選択されている場合、Base view videoストリームを復号して得られた奇数番目のフレームと、Dependent view videoストリームを復号して得られた偶数番目のフレームを交互に2倍のフレームレートで表示する。表示制御部24は、2Dビデオアプリケーションが選択されている場合、Base view videoストリームを復号して得られた2D画像と、Dependent view videoストリームを復号して得られた2D画像のコピーを交互に表示する。
【0091】
[各装置の動作]
ここで、図11のフローチャートを参照して、情報処理装置1の処理について説明する。
【0092】
ステップS1において、情報処理装置1のMVCアプリケーションタイプ生成部11は、情報処理装置1のユーザによる入力に応じた値をMVCアプリケーションタイプに設定する。
【0093】
ステップS2において、前処理部12は、符号化対象のビデオストリームに対して、選択されているアプリケーションに応じた前処理を適宜行う。
【0094】
ステップS3において、MVC符号化部13は、情報処理装置1の外部から直接供給された符号化対象のビデオストリーム、または前処理部12から供給されたビデオストリームを、上述したようにしてMVC規格に従って符号化する。
【0095】
ステップS4において、多重化部14は、MVCアプリケーションタイプ生成部11から供給されたMVCアプリケーションタイプと、MVC符号化部13から供給されたMVCストリームを多重化する。
【0096】
ステップS5において、出力部15は、多重化部14から供給されたTSを出力する。その後、処理は終了される。
【0097】
次に、図12のフローチャートを参照して、再生装置2の処理について説明する。
【0098】
ステップS11において、再生装置2の取得部21は、情報処理装置1から提供されたTSを取得する。
【0099】
ステップS12において、分離部22は、取得部21により取得されたTSから、MVCストリームとMVCアプリケーションタイプを抽出する。
【0100】
ステップS13において、MVC復号部23は、MVCストリームに含まれるBase view videoストリームとDependent view videoストリームを復号する。
【0101】
ステップS14において、表示制御部24は、MVCアプリケーションタイプに応じて表示方式を切り替え、MVC復号部23から供給された画像をディスプレイに表示する。その後、処理は終了される。
【0102】
以上の一連の処理により、MVC規格のBase view videoストリームとDependent view videoストリームを用いて複数の機能を実現することができる。
【0103】
MVC規格で複数の機能を実現しようとした場合、情報処理装置1は、自身が生成したBase view videoストリームとDependent view videoストリームが、どの機能を実現するためのものであるのかを再生装置2に伝達する必要がある。MVCアプリケーションタイプを定義することによってそれを実現することが可能になる。
【0104】
また、複数の機能を実現するためのデコーダ(MVC復号部)を再生装置2にそれぞれ設ける必要がないことから、再生装置2の構成を簡略化することが可能になる。
【0105】
[コンピュータの構成例]
上述した一連の処理は、ハードウェアにより実行することもできるし、ソフトウェアにより実行することもできる。一連の処理をソフトウェアにより実行する場合には、そのソフトウェアを構成するプログラムが、専用のハードウェアに組み込まれているコンピュータ、または汎用のパーソナルコンピュータなどに、プログラム記録媒体からインストールされる。
【0106】
図13は、上述した一連の処理をプログラムにより実行するコンピュータのハードウェアの構成例を示すブロック図である。
【0107】
CPU(Central Processing Unit)51、ROM(Read Only Memory)52、RAM(Random Access Memory)53は、バス54により相互に接続されている。
【0108】
バス54には、さらに、入出力インタフェース55が接続されている。入出力インタフェース55には、キーボード、マウスなどよりなる入力部56、ディスプレイ、スピーカなどよりなる出力部57が接続される。また、入出力インタフェース55には、ハードディスクや不揮発性のメモリなどよりなる記憶部58、ネットワークインタフェースなどよりなる通信部59、リムーバブルメディア61を駆動するドライブ60が接続される。
【0109】
以上のように構成されるコンピュータでは、CPU51が、例えば、記憶部58に記憶されているプログラムを入出力インタフェース55及びバス54を介してRAM53にロードして実行することにより、上述した一連の処理が行われる。
【0110】
CPU51が実行するプログラムは、例えばリムーバブルメディア61に記録して、あるいは、ローカルエリアネットワーク、インターネット、デジタル放送といった、有線または無線の伝送媒体を介して提供され、記憶部58にインストールされる。
【0111】
なお、コンピュータが実行するプログラムは、本明細書で説明する順序に沿って時系列に処理が行われるプログラムであっても良いし、並列に、あるいは呼び出しが行われたとき等の必要なタイミングで処理が行われるプログラムであっても良い。
【0112】
本発明の実施の形態は、上述した実施の形態に限定されるものではなく、本発明の要旨を逸脱しない範囲において種々の変更が可能である。
【符号の説明】
【0113】
1 情報処理装置, 2 再生装置, 11 MVCアプリケーションタイプ生成部, 12 前処理部, 13 MVC符号化部, 14 多重化部, 15 出力部, 21 取得部, 22 分離部, 23 MVC復号部, 24 表示制御部
【特許請求の範囲】
【請求項1】
複数のビデオストリームを、所定のビデオストリームを基本のストリームとして符号化するとともに他のビデオストリームを前記所定のビデオストリームを参照して予測符号化することが可能な符号化方式で符号化し、前記所定のビデオストリームを符号化して得られた基本ストリームと、前記他のビデオストリームを符号化して得られた拡張ストリームを生成する符号化手段と、
前記基本ストリームと前記拡張ストリームを復号して得られたデータを用いて実現する機能の種類を表す属性情報を生成する生成手段と、
前記基本ストリームと前記拡張ストリームを、前記属性情報と対応付けて出力する出力手段と
を備える情報処理装置。
【請求項2】
前記符号化手段は、左目用画像のストリームと右目用画像のストリームを前記符号化方式で符号化し、
前記生成手段は、前記基本ストリームと前記拡張ストリームを復号して得られたデータを用いて、左目用画像と右目用画像を交互に表示する機能を表す前記属性情報を生成する
請求項1に記載の情報処理装置。
【請求項3】
前記符号化手段は、前記他のビデオストリームについては前記所定のビデオストリームを参照しないで、視点の異なる複数のビデオストリームを前記符号化方式で符号化し、
前記生成手段は、前記基本ストリームと前記拡張ストリームのうちのいずれかのストリームを復号して得られたデータを用いて、1つの視点の画像を表示する機能を表す前記属性情報を生成する
請求項1に記載の情報処理装置。
【請求項4】
入力されたビデオストリームを、奇数フレームからなるストリームと偶数フレームからなるストリームに分割する処理手段をさらに備え、
前記符号化手段は、前記奇数フレームからなるストリームと前記偶数フレームからなるストリームを前記符号化方式で符号化し、
前記生成手段は、前記基本ストリームと前記拡張ストリームを復号して得られたデータを用いて、前記奇数フレームと前記偶数フレームを交互に、前記基本ストリームと前記拡張ストリームのフレームレートの2倍のフレームレートで表示する機能を表す前記属性情報を生成する
請求項1に記載の情報処理装置。
【請求項5】
入力されたビデオストリームを複製する処理手段をさらに備え、
前記符号化手段は、複製元のビデオストリームと複製して得られたビデオストリームを前記符号化方式で符号化し、
前記生成手段は、前記基本ストリームと前記拡張ストリームを復号して得られたデータを用いて、前記基本ストリームを復号して得られた画像と前記拡張ストリームを復号して得られた画像を交互に表示する機能を表す前記属性情報を生成する
請求項1に記載の情報処理装置。
【請求項6】
前記符号化方式は、MVC規格の符号化方式である
請求項1に記載の情報処理装置。
【請求項7】
複数のビデオストリームを、所定のビデオストリームを基本のストリームとして符号化するとともに他のビデオストリームを前記所定のビデオストリームを参照して予測符号化することが可能な符号化方式で符号化し、前記所定のビデオストリームを符号化して得られた基本ストリームと、前記他のビデオストリームを符号化して得られた拡張ストリームを生成し、
前記基本ストリームと前記拡張ストリームを復号して得られたデータを用いて実現する機能の種類を表す属性情報を生成し、
前記基本ストリームと前記拡張ストリームを、前記属性情報と対応付けて出力する
ステップを含む情報処理方法。
【請求項8】
複数のビデオストリームを、所定のビデオストリームを基本のストリームとして符号化するとともに他のビデオストリームを前記所定のビデオストリームを参照して予測符号化することが可能な符号化方式で符号化し、前記所定のビデオストリームを符号化して得られた基本ストリームと、前記他のビデオストリームを符号化して得られた拡張ストリームを生成し、
前記基本ストリームと前記拡張ストリームを復号して得られたデータを用いて実現する機能の種類を表す属性情報を生成し、
前記基本ストリームと前記拡張ストリームを、前記属性情報と対応付けて出力する
ステップを含む処理をコンピュータに実行させるプログラム。
【請求項9】
複数のビデオストリームのうちの所定のビデオストリームを基本のストリームとして符号化するとともに他のビデオストリームを前記所定のビデオストリームを参照して予測符号化することが可能な符号化方式で、前記所定のビデオストリームを符号化して得られた基本ストリームと、前記他のビデオストリームを符号化して得られた拡張ストリームとを取得するとともに、前記基本ストリームと前記拡張ストリームを復号して得られたデータを用いて実現する機能の種類を表す属性情報を取得する取得手段と、
前記基本ストリームと前記拡張ストリームを復号する復号手段と、
前記基本ストリームと前記拡張ストリームを復号して得られた画像の表示方式を、前記属性情報により表される種類に応じて切り替える表示制御手段と
を備える再生装置。
【請求項10】
前記基本ストリームと前記拡張ストリームは、左目用画像のストリームと右目用画像のストリームを前記符号化方式で符号化して得られたストリームであり、
前記表示制御手段は、前記基本ストリームと前記拡張ストリームを復号して得られたデータを用いて、左目用画像と右目用画像を交互に表示する
請求項9に記載の再生装置。
【請求項11】
前記基本ストリームと前記拡張ストリームは、視点の異なる複数のビデオストリームを、前記他のビデオストリームについては基本のビデオストリームを参照しないで前記符号化方式で符号化して得られたストリームであり、
前記表示制御手段は、前記基本ストリームと前記拡張ストリームのうちのいずれかのストリームを復号して得られたデータを用いて、1つの視点の画像を表示する
請求項9に記載の再生装置。
【請求項12】
前記基本ストリームと前記拡張ストリームは、入力されたビデオストリームの奇数フレームからなるストリームと偶数フレームからなるストリームを前記符号化方式で符号化して得られたストリームであり、
前記表示制御手段は、前記基本ストリームと前記拡張ストリームを復号して得られたデータを用いて、前記奇数フレームと前記偶数フレームを交互に、前記基本ストリームと前記拡張ストリームのフレームレートの2倍のフレームレートで表示する
請求項9に記載の再生装置。
【請求項13】
前記基本ストリームと前記拡張ストリームは、入力されたビデオストリームと、そのビデオストリームを複製して得られたビデオストリームを前記符号化方式で符号化して得られたストリームであり、
前記表示制御手段は、前記基本ストリームと前記拡張ストリームを復号して得られたデータを用いて、前記基本ストリームを復号して得られた画像と前記拡張ストリームを復号して得られた画像を交互に表示する
請求項9に記載の再生装置。
【請求項14】
前記符号化方式は、MVC規格の符号化方式である
請求項9に記載の再生装置。
【請求項15】
複数のビデオストリームのうちの所定のビデオストリームを基本のストリームとして符号化するとともに他のビデオストリームを前記所定のビデオストリームを参照して予測符号化することが可能な符号化方式で、前記所定のビデオストリームを符号化して得られた基本ストリームと、前記他のビデオストリームを符号化して得られた拡張ストリームとを取得するとともに、前記基本ストリームと前記拡張ストリームを復号して得られたデータを用いて実現する機能の種類を表す属性情報を取得し、
前記基本ストリームと前記拡張ストリームを復号し、
前記基本ストリームと前記拡張ストリームを復号して得られた画像の表示方式を、前記属性情報により表される種類に応じて切り替える
ステップを含む再生方法。
【請求項16】
複数のビデオストリームのうちの所定のビデオストリームを基本のストリームとして符号化するとともに他のビデオストリームを前記所定のビデオストリームを参照して予測符号化することが可能な符号化方式で、前記所定のビデオストリームを符号化して得られた基本ストリームと、前記他のビデオストリームを符号化して得られた拡張ストリームとを取得するとともに、前記基本ストリームと前記拡張ストリームを復号して得られたデータを用いて実現する機能の種類を表す属性情報を取得し、
前記基本ストリームと前記拡張ストリームを復号し、
前記基本ストリームと前記拡張ストリームを復号して得られた画像の表示方式を、前記属性情報により表される種類に応じて切り替える
ステップを含む処理をコンピュータに実行させるプログラム。
【請求項1】
複数のビデオストリームを、所定のビデオストリームを基本のストリームとして符号化するとともに他のビデオストリームを前記所定のビデオストリームを参照して予測符号化することが可能な符号化方式で符号化し、前記所定のビデオストリームを符号化して得られた基本ストリームと、前記他のビデオストリームを符号化して得られた拡張ストリームを生成する符号化手段と、
前記基本ストリームと前記拡張ストリームを復号して得られたデータを用いて実現する機能の種類を表す属性情報を生成する生成手段と、
前記基本ストリームと前記拡張ストリームを、前記属性情報と対応付けて出力する出力手段と
を備える情報処理装置。
【請求項2】
前記符号化手段は、左目用画像のストリームと右目用画像のストリームを前記符号化方式で符号化し、
前記生成手段は、前記基本ストリームと前記拡張ストリームを復号して得られたデータを用いて、左目用画像と右目用画像を交互に表示する機能を表す前記属性情報を生成する
請求項1に記載の情報処理装置。
【請求項3】
前記符号化手段は、前記他のビデオストリームについては前記所定のビデオストリームを参照しないで、視点の異なる複数のビデオストリームを前記符号化方式で符号化し、
前記生成手段は、前記基本ストリームと前記拡張ストリームのうちのいずれかのストリームを復号して得られたデータを用いて、1つの視点の画像を表示する機能を表す前記属性情報を生成する
請求項1に記載の情報処理装置。
【請求項4】
入力されたビデオストリームを、奇数フレームからなるストリームと偶数フレームからなるストリームに分割する処理手段をさらに備え、
前記符号化手段は、前記奇数フレームからなるストリームと前記偶数フレームからなるストリームを前記符号化方式で符号化し、
前記生成手段は、前記基本ストリームと前記拡張ストリームを復号して得られたデータを用いて、前記奇数フレームと前記偶数フレームを交互に、前記基本ストリームと前記拡張ストリームのフレームレートの2倍のフレームレートで表示する機能を表す前記属性情報を生成する
請求項1に記載の情報処理装置。
【請求項5】
入力されたビデオストリームを複製する処理手段をさらに備え、
前記符号化手段は、複製元のビデオストリームと複製して得られたビデオストリームを前記符号化方式で符号化し、
前記生成手段は、前記基本ストリームと前記拡張ストリームを復号して得られたデータを用いて、前記基本ストリームを復号して得られた画像と前記拡張ストリームを復号して得られた画像を交互に表示する機能を表す前記属性情報を生成する
請求項1に記載の情報処理装置。
【請求項6】
前記符号化方式は、MVC規格の符号化方式である
請求項1に記載の情報処理装置。
【請求項7】
複数のビデオストリームを、所定のビデオストリームを基本のストリームとして符号化するとともに他のビデオストリームを前記所定のビデオストリームを参照して予測符号化することが可能な符号化方式で符号化し、前記所定のビデオストリームを符号化して得られた基本ストリームと、前記他のビデオストリームを符号化して得られた拡張ストリームを生成し、
前記基本ストリームと前記拡張ストリームを復号して得られたデータを用いて実現する機能の種類を表す属性情報を生成し、
前記基本ストリームと前記拡張ストリームを、前記属性情報と対応付けて出力する
ステップを含む情報処理方法。
【請求項8】
複数のビデオストリームを、所定のビデオストリームを基本のストリームとして符号化するとともに他のビデオストリームを前記所定のビデオストリームを参照して予測符号化することが可能な符号化方式で符号化し、前記所定のビデオストリームを符号化して得られた基本ストリームと、前記他のビデオストリームを符号化して得られた拡張ストリームを生成し、
前記基本ストリームと前記拡張ストリームを復号して得られたデータを用いて実現する機能の種類を表す属性情報を生成し、
前記基本ストリームと前記拡張ストリームを、前記属性情報と対応付けて出力する
ステップを含む処理をコンピュータに実行させるプログラム。
【請求項9】
複数のビデオストリームのうちの所定のビデオストリームを基本のストリームとして符号化するとともに他のビデオストリームを前記所定のビデオストリームを参照して予測符号化することが可能な符号化方式で、前記所定のビデオストリームを符号化して得られた基本ストリームと、前記他のビデオストリームを符号化して得られた拡張ストリームとを取得するとともに、前記基本ストリームと前記拡張ストリームを復号して得られたデータを用いて実現する機能の種類を表す属性情報を取得する取得手段と、
前記基本ストリームと前記拡張ストリームを復号する復号手段と、
前記基本ストリームと前記拡張ストリームを復号して得られた画像の表示方式を、前記属性情報により表される種類に応じて切り替える表示制御手段と
を備える再生装置。
【請求項10】
前記基本ストリームと前記拡張ストリームは、左目用画像のストリームと右目用画像のストリームを前記符号化方式で符号化して得られたストリームであり、
前記表示制御手段は、前記基本ストリームと前記拡張ストリームを復号して得られたデータを用いて、左目用画像と右目用画像を交互に表示する
請求項9に記載の再生装置。
【請求項11】
前記基本ストリームと前記拡張ストリームは、視点の異なる複数のビデオストリームを、前記他のビデオストリームについては基本のビデオストリームを参照しないで前記符号化方式で符号化して得られたストリームであり、
前記表示制御手段は、前記基本ストリームと前記拡張ストリームのうちのいずれかのストリームを復号して得られたデータを用いて、1つの視点の画像を表示する
請求項9に記載の再生装置。
【請求項12】
前記基本ストリームと前記拡張ストリームは、入力されたビデオストリームの奇数フレームからなるストリームと偶数フレームからなるストリームを前記符号化方式で符号化して得られたストリームであり、
前記表示制御手段は、前記基本ストリームと前記拡張ストリームを復号して得られたデータを用いて、前記奇数フレームと前記偶数フレームを交互に、前記基本ストリームと前記拡張ストリームのフレームレートの2倍のフレームレートで表示する
請求項9に記載の再生装置。
【請求項13】
前記基本ストリームと前記拡張ストリームは、入力されたビデオストリームと、そのビデオストリームを複製して得られたビデオストリームを前記符号化方式で符号化して得られたストリームであり、
前記表示制御手段は、前記基本ストリームと前記拡張ストリームを復号して得られたデータを用いて、前記基本ストリームを復号して得られた画像と前記拡張ストリームを復号して得られた画像を交互に表示する
請求項9に記載の再生装置。
【請求項14】
前記符号化方式は、MVC規格の符号化方式である
請求項9に記載の再生装置。
【請求項15】
複数のビデオストリームのうちの所定のビデオストリームを基本のストリームとして符号化するとともに他のビデオストリームを前記所定のビデオストリームを参照して予測符号化することが可能な符号化方式で、前記所定のビデオストリームを符号化して得られた基本ストリームと、前記他のビデオストリームを符号化して得られた拡張ストリームとを取得するとともに、前記基本ストリームと前記拡張ストリームを復号して得られたデータを用いて実現する機能の種類を表す属性情報を取得し、
前記基本ストリームと前記拡張ストリームを復号し、
前記基本ストリームと前記拡張ストリームを復号して得られた画像の表示方式を、前記属性情報により表される種類に応じて切り替える
ステップを含む再生方法。
【請求項16】
複数のビデオストリームのうちの所定のビデオストリームを基本のストリームとして符号化するとともに他のビデオストリームを前記所定のビデオストリームを参照して予測符号化することが可能な符号化方式で、前記所定のビデオストリームを符号化して得られた基本ストリームと、前記他のビデオストリームを符号化して得られた拡張ストリームとを取得するとともに、前記基本ストリームと前記拡張ストリームを復号して得られたデータを用いて実現する機能の種類を表す属性情報を取得し、
前記基本ストリームと前記拡張ストリームを復号し、
前記基本ストリームと前記拡張ストリームを復号して得られた画像の表示方式を、前記属性情報により表される種類に応じて切り替える
ステップを含む処理をコンピュータに実行させるプログラム。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【公開番号】特開2011−216965(P2011−216965A)
【公開日】平成23年10月27日(2011.10.27)
【国際特許分類】
【出願番号】特願2010−80520(P2010−80520)
【出願日】平成22年3月31日(2010.3.31)
【出願人】(000002185)ソニー株式会社 (34,172)
【Fターム(参考)】
【公開日】平成23年10月27日(2011.10.27)
【国際特許分類】
【出願日】平成22年3月31日(2010.3.31)
【出願人】(000002185)ソニー株式会社 (34,172)
【Fターム(参考)】
[ Back to top ]