再生装置、再生方法、およびプログラム
【課題】二次元映像の表示から三次元映像の表示へなめらかに切り替えること。
【解決手段】第1デコーダによって、圧縮符号化されている映像データをデコードすることによって、第1画像フレームを生成し、三次元画像生成処理の非実行から実行に切り替えるための実行命令を発行し、実行命令が発行された場合に、第2デコーダに対して映像データの他の画像フレームと依存関係が無く単独で画像フレームを生成できるピクチャからのデコードを命令し、第2デコーダによって、映像データをデコードすることによって、第1画像フレームに対応する第2画像フレームを生成し、奥行きマップ生成手段によって、第2画像フレームに含まれる複数の画素に対応する複数の奥行き値を推定することによって奥行きマップを生成し、三次元画像生成手段によって、奥行きマップと第1画像フレームとに基づいて、左目用画像データと右目用画像データとを生成する。
【解決手段】第1デコーダによって、圧縮符号化されている映像データをデコードすることによって、第1画像フレームを生成し、三次元画像生成処理の非実行から実行に切り替えるための実行命令を発行し、実行命令が発行された場合に、第2デコーダに対して映像データの他の画像フレームと依存関係が無く単独で画像フレームを生成できるピクチャからのデコードを命令し、第2デコーダによって、映像データをデコードすることによって、第1画像フレームに対応する第2画像フレームを生成し、奥行きマップ生成手段によって、第2画像フレームに含まれる複数の画素に対応する複数の奥行き値を推定することによって奥行きマップを生成し、三次元画像生成手段によって、奥行きマップと第1画像フレームとに基づいて、左目用画像データと右目用画像データとを生成する。
【発明の詳細な説明】
【技術分野】
【0001】
本発明の実施形態は、二次元映像から三次元映像を生成する再生装置、再生方法、およびプログラムに関する。
【背景技術】
【0002】
近年、三次元映像を観賞するための様々な映像表示装置が提供されている。このような映像表示装置では、例えば、両眼視差に基づく左眼用映像と右眼用映像とを用いて、ユーザに三次元映像(立体映像)を知覚させる。
【0003】
一般に、放送やネットワークを介して受信される映像コンテンツのほとんどは、二次元映像を含む映像コンテンツデータである。そのような映像コンテンツデータを用いて三次元映像を観賞するために、二次元映像を三次元映像に変換する種々の2D−3D変換技術が提案されている。
【先行技術文献】
【特許文献】
【0004】
【特許文献1】特開2010−177795号公報
【発明の概要】
【発明が解決しようとする課題】
【0005】
二次元映像から三次元映像を生成するためには、二次元映像内の複数の画素に対して奥行き値を推定し、奥行きマップを生成する。この奥行き値を推定する処理の演算量が多いので、奥行き値を推定する処理は、CPUやGPUとは異なるプロセッサで行わせることが望まれている。奥行き値を推定する処理を実行するために、奥行き値を推定するために映像データをデコードすることによって得られる画像フレームを必要とするが、メモリとプロセッサとの間のデータの転送量を抑制するために、圧縮符号化された映像データをメモリとプロセッサとの間と異なるバスでプロセッサと接続されたデコーダに転送し、デコーダによって映像データをデコードさせることが好ましい。
【0006】
また、奥行き値を推定する処理の負荷が高いので、三次元映像を生成する処理は、マルチメディアプロセッサとは異なる、プロセッサに行わせることが望まれている。また、三次元映像を生成する処理にも映像データをデコードすることによって得られる画像フレームが必要となるが、データの転送量を抑制するために、奥行き値の推定に用いられる画像フレームを生成するデコーダとことなるデコーダによって映像データをデコードさせることが好ましい。
【0007】
奥行き値を演算する処理に必要な画像フレームを生成するプロセッサと、三次元映像を生成する処理を実行するために必要な画像フレームを生成するプロセッサが異なると、二次元映像の表示から三次元映像の表示へ切り替えると、なめらかに切り替えられないことがある。そのため、二次元映像の表示から三次元映像の表示へなめらかに切り替えられるようにすることが望まれている。
【0008】
本発明の目的は、二次元映像の表示から三次元映像の表示へなめらかに切り替えることが可能な再生装置、再生方法、およびプログラムを提供することを目的とする。
【課題を解決するための手段】
【0009】
実施形態によれば、再生装置は、第1のデコーダと、第2のデコーダと、奥行きマップ生成手段と、三次元画像生成手段と、発行手段と、切替手段とを具備する。第1のデコーダは、圧縮符号化されている映像データをデコードすることによって、第1の画像フレームを生成する。第2のデコーダは、三次元画像生成処理の実行時に前記映像データをデコードすることによって、前記第1の画像フレームに対応する第2の画像フレームを生成する。奥行きマップ生成手段は、前記第2の画像フレームに含まれる複数の画素に対応する複数の奥行き値を推定することによって奥行きマップを生成する。三次元画像生成手段は、前記奥行きマップと、前記第1の画像フレームとに基づいて、左目用画像データと右目用画像データとを生成する。発行手段は、前記三次元画像生成処理の非実行から実行に切り替えるための実行命令を発行する。切替手段は、前記発行手段が前記実行命令を発行した場合に、前記第2のデコーダに対して前記映像データの、他の画像フレームと依存関係が無く単独で画像フレームを生成できるピクチャからのデコードを命令する。
【図面の簡単な説明】
【0010】
【図1】第1の実施形態の再生装置の構成の一例を示す斜視図。
【図2】第1の実施形態の再生装置の構成の一例を示すブロック図。
【図3】図2に示すマルチメディアプロセッサの構成の一例を示すブロック図。
【図4】第1の実施形態の再生装置によって実行される映像コンテンツ再生プログラムの機能構成の例を示すブロック図。
【図5】図4に示すコントロールパネル表示部によって表示されるコントロールパネルの一例を示す図。
【図6】図4に示す切替命令発行部によって行われる処理の手順を示すフローチャートの一例を示す図。
【図7】第1の実施形態の再生装置によって実行される二次元映像の表示と三次元映像の表示とを切り替える手順を示すフローチャート。
【図8】第2の実施形態の再生装置によって実行される映像コンテンツ再生プログラムの機能構成の例を示すブロック図。
【図9】図8に示す切替命令発行部によって行われる処理の手順を示すフローチャートの一例を示す図。
【図10】第2の実施形態の再生装置によって実行される二次元映像の表示と三次元映像の表示とを切り替える手順を示すフローチャート。
【発明を実施するための形態】
【0011】
(第1の実施形態)
以下、実施の形態について図面を参照して説明する。
図1は、一実施形態に係る再生装置の外観を示す斜視図である。この電子機器は、例えばノートブックタイプのパーソナルコンピュータ1として実現される。また、この再生装置は、テレビジョン受信機、映像データを保存するためのレコーダ(例えば、ハードディスクレコーダ、DVDレコーダ)、タブレットPC、スレートPC、PDA、カーナビゲーション装置、スマートフォン等として実現され得る。
【0012】
図1に示すように、本コンピュータ1は、コンピュータ本体2と、ディスプレイユニット3とから構成される。
ディスプレイユニット3には、三次元ディスプレイ(3Dディスプレイ)15が組み込まれている。ディスプレイユニット3は、コンピュータ本体2の上面が露出される開放位置とコンピュータ本体2の上面を覆う閉塞位置との間を回動自在にコンピュータ本体2に取り付けられている。また、3Dディスプレイ15は、LCD(liquid crystal display)パネル15Aとレンズユニット15Bとを備える。レンズユニット15Bは、LCDパネル15A上にはり合わせられている。レンズユニット15Bは、LCDパネル15Aに表示される映像に含まれる複数の画素に対応する複数の光線をそれぞれ所定の方向に射出するための複数のレンズ機構を含む。レンズユニット15Bは、例えば、三次元映像表示に必要な機能を電気的にスイッチングできる液晶GRIN(gradient index)レンズである。
【0013】
3Dディスプレイ15は、三次元映像を表示する場合、左眼用映像と右眼用画像とを表示する。そのためユーザは、三次元映像を知覚することができる。
【0014】
コンピュータ本体2は、薄い箱形の筐体を有しており、その上面には、キーボード26、本コンピュータ1を電源オン/電源オフするためのパワーボタン28、入力操作パネル29、ポインティングデバイス27、スピーカ18A,18Bなどが配置されている。入力操作パネル29上には、各種操作ボタンが設けられている。これらボタン群には、TV機能(視聴、録画、録画された放送番組データ/ビデオデータの再生)を制御するための操作ボタン群も含まれている。
【0015】
コンピュータ本体2の例えば右側面には、TV放送用のアンテナ端子30Aが設けられている。
【0016】
図2は、本コンピュータ1のシステム構成を示す図である。
本コンピュータ1は、図2に示すように、CPU11、ノースブリッジ12、主メモリ13、GPU(Graphics Processing Unit)14、ビデオメモリ(VRAM)14A、3Dディスプレイ15、サウスブリッジ16、サウンドコントローラ17、スピーカ18A,18B、BIOS−ROM19、LANコントローラ20、ハードディスクドライブ(HDD)21、光ディスクドライブ(ODD)22、無線LANコントローラ23、USBコントローラ24、エンベデッドコントローラ/キーボードコントローラ(EC/KBC)25、キーボード(KB)26、ポインティングデバイス27、TVチューナ30、マルチメディアプロセッサ31、およびメモリ31A等を備えている。
【0017】
CPU11は、本コンピュータ1の動作を制御するプロセッサである。CPU11は、HDD21から主メモリ13にロードされる、オペレーティングシステム(OS)13A、及び映像コンテンツ再生プログラム13B等のようなアプリケーションプログラムを実行する。映像コンテンツ再生プログラム13Bは、映像コンテンツデータを視聴するための機能を有するソフトウェアである。この映像コンテンツ再生プログラム13Bは、TVチューナ30によって受信された放送番組データを視聴するためのライブ再生処理、受信された放送番組データをHDD21に記録する録画処理、HDD21に記録された放送番組データ/ビデオデータを再生する再生処理、ネットワークを介して受信された映像コンテンツデータを再生する再生処理等を実行する。また、映像コンテンツ再生プログラム13Bは、DVDのような記憶メディアやハードディスクのような記憶装置に格納された映像コンテンツデータを再生することもできる。
【0018】
さらに、映像コンテンツ再生プログラム13Bは、三次元映像を視聴するための機能を有する。映像コンテンツ再生プログラム13Bは、映像コンテンツデータに含まれる二次元映像を三次元映像にリアルタイムで変換して画面(3Dディスプレイの画面)15上に表示する。映像コンテンツ再生プログラム13Bは、様々な映像コンテンツデータ(たとえば、放送番組データ、記憶メディアや記憶装置に格納されたビデオデータ、インターネット上のサーバから受信したビデオデータ、等)を2D−3D変換することができる。
【0019】
三次元映像の表示には、裸眼立体視方式(例えば、インテグラルイメージング方式、レンチキュラ方式、パララックスバリア方式等)による3Dディスプレイ15が用いられる。ユーザは、裸眼立体視方式による3Dディスプレイ15に表示された映像を見ることにより、三次元映像を裸眼で知覚することができる。なお、裸眼立体視方式以外のアクティブシャッター方式や偏光フィルム方式を用いて三次元映像を知覚させても良い。
【0020】
また、CPU11は、BIOS−ROM19に格納されたBIOS(Basic Input/Output System)も実行する。BIOSは、ハードウェア制御のためのプログラムである。
【0021】
ノースブリッジ12は、CPU11のローカルバスとサウスブリッジ16との間を接続するブリッジデバイスである。ノースブリッジ12には、主メモリ13をアクセス制御するメモリコントローラも内蔵されている。また、ノースブリッジ12は、GPU14との通信を実行する機能も有している。
【0022】
GPU14は、本コンピュータ1のディスプレイモニタとして使用されるLCDパネル15Aを制御する表示コントローラである。このGPU14によって生成される表示信号はLCDパネル15Aに送られる。
【0023】
GPU14は、複数の演算プロセッサを有し、表示信号を生成すると同時に、複数の演算プロセッサの少なくとも一部を用いてピクセルシェーダを実行することが可能である。また、GPU14は、プログラミングされたピクセルシェーダを実行することができる。例えば、ピクセルシェーダによってビデオデータのMPEG-2によって圧縮符号化された映像データをデコードする処理が行われる。また例えば、ピクセルシェーダによってデコードされた映像データと後述する奥行きマップとに基づいて左目用画像データおよび右目用画像データを生成する処理を実行する。
【0024】
サウスブリッジ16は、PCI(Peripheral Component Interconnect) Express(PCIe)バス上及びLPC(Low Pin Count)バス上の各デバイスを制御する。また、サウスブリッジ16は、HDD21及びODD22を制御するためのSerial ATA(Advanced Technology Attachment)コントローラ、及びBIOS−ROM19をアクセス制御するメモリコントローラが内蔵されている。さらに、サウスブリッジ16は、サウンドコントローラ17及びLANコントローラ20との通信を実行する機能も有している。
【0025】
また、サウスブリッジ16は、映像コンテンツ再生プログラム13Bによる要求等に応じて、レンズユニット15Bが三次元映像表示と二次元映像表示のいずれか一方に設定されるように制御するための制御信号を、レンズユニット15Bに出力することができる。レンズユニット15Bは、サウスブリッジ16によって出力された制御信号に応じて、例えば、液晶層内の部分の屈折率を変更することにより、三次元映像表示と二次元映像表示のいずれか一方に設定する。
【0026】
サウンドコントローラ17は音源デバイスであり、再生対象のオーディオデータをスピーカ18A,18Bに出力する。LANコントローラ20は、例えばEthernet(登録商標)規格の有線通信を実行する有線通信デバイスであり、無線LANコントローラ23は、例えばIEEE 802.11規格の無線通信を実行する無線通信デバイスである。また、USBコントローラ24は、例えばUSB2.0規格のケーブルを介して外部機器との通信を実行する。
【0027】
またさらに、サウスブリッジ16には、PCI EXPRESS(PCIe)規格のシリアルバスなどを介してマルチメディアプロセッサ31が接続されている。メモリ31Aは、マルチメディアプロセッサ31の作業メモリとして用いられる。
【0028】
マルチメディアプロセッサ31は、図3に示すように、圧縮符号化されているビデオデータをデコードするために設けられたMPEG−2デコード回路101、および4個の演算コア111A〜111D等が1チップに搭載されている。それぞれの演算コア111A〜111Dは、メディア処理性能が高く、性能対消費電力が高い。映像コンテンツ再生プログラム13Bがコンテンツを再生する際、MPEG−2デコード回路101は映像データのデコードを行う。また、4個の演算コア111A〜111Dは、MPEG−2デコード回路101によってデコードされた映像データの内の各画像フレームの奥行きマップを生成する処理を行う。本実施形態においては、CPU11とは異なる専用のプロセッサであるマルチメディアプロセッサ31の演算コア111A〜111Dがバックエンドプロセッサとして使用され、このマルチメディアプロセッサ31によって奥行きマップ生成処理が実行される。よって、CPU11の負荷の増加を招くことなく、奥行きマップを生成する処理を実行することが出来る。
【0029】
EC/KBC25は、電力管理を行うためのエンベデッドコントローラと、キーボード(KB)26、及びポインティングデバイス27を制御するためのキーボードコントローラとが集積された1チップマイクロコンピュータである。このEC/KBC25は、ユーザの操作に応じて本コンピュータ1をパワーオン/パワーオフする機能を有している。
【0030】
TVチューナ30はテレビジョン(TV)放送信号によって放送される放送番組データを受信する受信装置であり、アンテナ端子30Aに接続されている。このTVチューナ30は、例えば、地上波デジタルTV放送のようなデジタル放送番組データを受信可能なデジタルTVチューナとして実現されている。また、TVチューナ30は、外部機器から入力されるビデオデータをキャプチャする機能も有している。
【0031】
図4は、映像コンテンツ再生プログラム13Bの機能構成を示す。映像コンテンツ再生プログラム13Bは、二次元映像から三次元映像を生成する機能を有し、二次元映像の表示と三次元映像の表示とを切り替える機能を有する。図4に示す例では、映像コンテンツ再生プログラム13Bとディスプレイドライバプログラム13Cとによって、三次元映像が3Dディスプレイ15に表示される。二次元映像の表示と三次元映像の表示との切替は、三次元画像生成処理の実行と非実行との切り替えと言い換えることもできる。
【0032】
映像コンテンツ再生プログラム13Bは、コントロールパネル表示部201、切替命令発行部202、切替情報記録部203、切替判断部204、デコーダ205、および視差画像生成部206を備えている。映像コンテンツ再生プログラム13Bは、マルチメディアプロセッサ31に、圧縮符号化されている映像データをデコードさせる機能と、奥行きマップを生成させる機能とを有する。マルチメディアプロセッサ31は、MPEG−2デコード回路101によって圧縮符号化されている映像データする。マルチメディアプロセッサ31は、演算コア111A〜111Dによって実現される奥行きマップ生成部121によって奥行きマップを生成する。
【0033】
コントロールパネル表示部201は、図5に示すコントロールパネル300を3Dディスプレイ15に表示する。コントロールパネル300は、二元映像の表示と三次元映像の表示との間を切り替える切替ボタン301を有する。
【0034】
切替命令発行部202は、3Dディスプレイ15に表示されている切替ボタン301に対するユーザの操作に応じて、2D表示切替命令(非実行命令)または3D表示切替命令(実行命令)を発行する。2D表示切替命令は三次元映像の表示から二次元映像の表示に切り替えるための命令であり、3D表示切替命令は三次元映像の表示から二次元映像の表示に切り替えるための命令である。
【0035】
切替情報記録部203は、2D表示切替命令または3D表示切替命令に応じて、映像データのストリームを構成するパケット内の不連続フラグをイネーブル(不連続情報)にすると共に、当該パケットに3D表示切替情報または2D表示切替情報とを記録する。
【0036】
切替判断部204には、映像データのストリームを構成するパケットが順次入力される。判定処理を行った後に、切替判断部204は、各パケットをデコーダ205およびマルチメディアプロセッサ31の少なくともデコーダ205に出力する。
【0037】
判定処理では、映像データのストリームを構成するパケットの不連続フラグがイネーブルであるかを判定する。不連続フラグがイネーブルであると判定した場合、切替判断部204は、3D表示切替情報および2D表示切替情報の何れが記録されているかを判定する。
【0038】
3D表示切替情報が記録されていると判定した場合、切替判断部204は、映像データのストリームを構成するパケットをマルチメディアプロセッサ31およびデコーダに出力すると共に、MPEG−2デコード回路101に、他の画像フレームと依存関係が無く単独で画像フレームを生成できるIピクチャからデコードを開始するように命令する。
【0039】
発明者の鋭意研究により、二次元映像の表示から三次元映像の表示になめらかに切り替わらないのは、MPEG−2デコード回路101が他のフレームに依存し、単独でデコードすることができないBピクチャからデコードを開始した場合に起こることが判明した。切替判断部204は、二次元映像の表示から三次元映像の表示になめらかに切り替るために、Iピクチャからデコードを開始するようにMPEG−2デコード回路101に命令する。
【0040】
2D表示切替情報が記録されていると判定した場合、切替判断部204は、映像データのストリームを構成するパケットをデコーダのみに出力する。そして、切替判断部204は、マルチメディアプロセッサ31に、メモリ31A内にバッファリングされている全ての奥行きマップの視差画像生成部への出力を命令する。
【0041】
切替判断部204が行う処理の手順を図6のフローチャートを参照して説明する。
切替判断部204に映像データのストリームを構成するパケットが入力されると(ステップ401)、切替判断部204は、パケット内の不連続フラグがイネーブルであるかを判定する(ステップ402)。不連続フラグがイネーブルではないと判定した場合(ステップ402のNo)、前のパケットの出力先に入力されたパケットを出力する(ステップ408)。不連続フラグがイネーブルであると判定した場合(ステップ402のYes)、切替判断部204は、パケット内に3D表示切替情報が記録されているかを判定する(ステップ403)。3D表示切替情報が記録されていると判定した場合(ステップ403のYes)。切替判断部204は、映像データのストリームをデコーダ205およびマルチメディアプロセッサ31の両方に出力する(ステップ404)。そして、切替判断部204は、マルチメディアプロセッサ31に対してIピクチャからデコードを始めるように命令する(ステップ405)。ステップ403において、3D表示切替情報が記録されていないと判定した場合(ステップ403のNo)、切替判断部204は、映像データのストリームをデコーダ205のみに出力する(ステップ406)。そして、切替判断部204は、マルチメディアプロセッサ31に対してメモリ31A内の全ての奥行きマップを視差画像生成部206に出力するように命令する(ステップ407)。
【0042】
デコーダ205は、GPU14のデコード支援機能を用いて映像データをデコードすることによって、複数の画像フレームデータを生成する。
【0043】
三次元映像を表示する場合、マルチメディアプロセッサ31は、デコード回路101を用いて映像データをIピクチャからデコードして、複数の画像フレームを生成する。マルチメディアプロセッサ内の奥行きマップ生成部121は、後述する奥行きマップを生成する。
【0044】
奥行きマップ生成部121は、複数の画像フレームの内の処理対象の画像フレーム(二次元画像)を用いて、当該画像フレームに含まれる複数の画素の奥行き値(奥行き位置)を推定することによって、奥行きマップ(depth map)を生成する。奥行きマップは、処理対象の画像フレームに含まれる複数の画素に対応する複数の奥行き値を含む。奥行き値は、例えば、−127から128までの整数値である。奥行きマップ生成部121は、生成した奥行きマップはメモリ31Aのバッファ領域に格納する。通常、参照画像フレームになっている画像フレームや奥行き推定のために遅延している画像フレームの奥行きマップは、次の画像フレームが入力されるまで、出力されることは無い。
【0045】
奥行きマップ生成部121は、奥行き値を推定する複数の手法を用いて画像フレームに含まれる複数の画素の奥行き値を推定する。奥行きマップ生成部121は、例えば、画像フレームを複数の領域に分割し、分割された領域間の前後関係(背景の領域であるか、他の領域よりも前に存在するか等)を判定することによって、画素の奥行き値を決定する。また、奥行きマップ生成部121は、手前の物体ほど動きが速いという基本原理から画素の奥行き値を推定する。また、奥行きマップ生成部121は、画像フレームから人物の顔位置を検出し、検出された顔位置を基準に人型の奥行き値を割り当てることによって、画素の奥行き値を推定する。
【0046】
奥行きマップ生成部121は、生成された奥行きマップを視差画像生成部206に出力する。視差画像生成部206は、視差を算出することによって、視差マップを生成する。視差マップは、奥行きマップに含まれる複数の奥行き値に対応する複数の視差を含む。
【0047】
三次元映像を表示する場合、視差画像生成部206は、出力された視差マップと、視差マップを生成した画像フレームデータに対応するデコーダ205によって生成された画像フレームとを用いて、左眼用映像データと右眼用映像データとを含む三次元映像データを生成する。生成された三次元画像データは、3Dディスプレイ15に表示される。なお、視差画像生成部206は、GPU14に設けられた複数の演算プロセッサの一部を用いて三次元映像データを生成する処理を行う。
【0048】
次に、図7のフローチャートを参照して、二次元映像の表示と三次元映像の表示とを切り替える手順を説明する。
3Dディスプレイ15に二次元映像が表示されている。ユーザが切替ボタン301を操作すると、切替命令発行部202が3D表示切替命令を発行する(ステップ501)。切替情報記録部203は、3D表示切替命令に応じて、映像データのストリームを構成するパケットのヘッダ内の不連続フラグをイネーブルに書き替えると共に、ヘッダ内に3D表示切替情報を記録する(ステップ502)。切替判断部204は、不連続フラグがイネーブルであるパケットを検出すると、当該パケット内に3D表示切替情報が記録されているかを判定する。切替判断部204は、3D表示切替情報が記録されていると判定する(ステップ503)。切替判断部204は、映像データのストリームをデコーダ205およびマルチメディアプロセッサ31の両方に出力する(ステップ504)。そして、切替判断部204は、マルチメディアプロセッサ31に対してIピクチャからデコードを始めるように命令する(ステップ505)。MPEG−2デコード回路101は、入力された映像データのストリームに対しIピクチャからデコードを開始する。デコードによって、複数の画像フレームが生成される。奥行きマップ生成部121が画像フレームに対して奥行きマップを生成する。視差画像生成部206が、奥行きマップとデコーダ205によって生成された画像フレームとに基づいて三次元画像データを生成し、3Dディスプレイ15に三次元映像が表示される(ステップ506)。
【0049】
三次元映像の表示時に、ユーザが切替ボタン301を操作すると、切替命令発行部202が2D表示切替命令を発行する(ステップ507)。切替情報記録部203は、2D表示切替命令に応じて、映像データのストリームを構成するパケットのヘッダ内の不連続フラグをイネーブルに書き替えると共に、ヘッダ内に2D表示切替情報を記録する(ステップ508)。切替判断部204は、不連続フラグがイネーブルであるパケットを検出すると、当該パケット内に3D表示切替情報が記録されているかを判定する。切替判断部204は、3D表示切替情報が記録されていない、2D表示切替情報が記録されていると判定する(ステップ509)。切替判断部204は、映像データのストリームをデコーダ205のみに出力する(ステップ510)。そして、切替判断部204は、マルチメディアプロセッサ31に対してメモリ31A内の全ての奥行きマップを視差画像生成部206に出力するように命令する(ステップ511)。視差画像生成部206が、全ての奥行きマップを使用して三次元画像データを生成した後、デコーダ205によって生成された画像フレームをそのまま出力することで、二次元映像が表示される(ステップ512)。
【0050】
以上説明したように、切替判断部204がMPEG−2デコード回路101にIピクチャからのデコードを命令することで、二次元映像の表示から三次元映像の表示になめらかに切り替えることができる。
【0051】
(第2の実施形態)
図8は、映像コンテンツ再生プログラム13Bの第1の実施形態とは異なる機能構成を示す。
【0052】
映像コンテンツ再生プログラム13Bは、コントロールパネル表示部201、切替命令発行部602、不連続情報記録部603、切替判断部604、デコーダ205、および視差画像生成部206を備えている。
【0053】
切替命令発行部602は、3Dディスプレイ15に表示されている切替ボタン301に対するユーザの操作に応じて、2D表示切替命令または3D表示切替命令を不連続情報記録部603および切替判断部604に発行する。
【0054】
不連続情報記録部603は、2D表示切替命令または3D表示切替命令に応じて、映像データのストリームを構成するパケット内の不連続フラグをイネーブルにする。
【0055】
切替判断部604には、映像データのストリームを構成するパケットが順次入力される。判定処理を行った後に、切替判断部604は、各パケットをデコーダ205およびマルチメディアプロセッサ31の少なくともデコーダ205に出力する。
【0056】
判定処理では、映像データのストリームを構成するパケットの不連続フラグがイネーブルであるかを判定する。不連続フラグがイネーブルであると判定した場合、切替判断部604は、切替命令発行部602が2D表示切替命令または3D表示切替命令の何れの命令を発行したかを判定する。
【0057】
3D表示切替命令が発行されたと判定した場合、切替判断部604は、映像データのストリームを構成するパケットをマルチメディアプロセッサ31およびデコーダに出力すると共に、マルチメディアプロセッサ31にIピクチャからデコードを開始するように命令する。
【0058】
2D表示切替命令が発行されたと判定した場合、切替判断部604は、映像データのストリームを構成するパケットをデコーダのみに出力する。そして、切替判断部604は、マルチメディアプロセッサ31に、メモリ31A内にバッファリングされている全ての奥行きマップの視差画像生成部への出力を命令する。
【0059】
切替判断部604が行う処理の手順を図9のフローチャートを参照して説明する。
切替判断部604に映像データのストリームを構成するパケットが入力されると(ステップ701)、切替判断部604は、パケット内の不連続フラグがイネーブルであるかを判定する(ステップ702)。不連続フラグがイネーブルではないと判定した場合(ステップ702のNo)、前のパケットの出力先に入力されたパケットを出力する。不連続フラグがイネーブルであると判定した場合(ステップ702のYes)、切替判断部604は、切替命令発行部602が3D表示切替命令を発行したかを判定する(ステップ703)。3D表示切替命令を発行したと判定した場合(ステップ703のYes)。切替判断部604は、映像データのストリームをデコーダ205およびマルチメディアプロセッサ31の両方に出力する(ステップ704)。そして、切替判断部604は、マルチメディアプロセッサ31に対してIピクチャからデコードを始めるように命令する(ステップ705)。ステップ703において、3D表示切替情報を発行していないと判定した場合(ステップ703のNo)、切替判断部604は、映像データのストリームをデコーダ205のみに出力する(ステップ706)。そして、切替判断部604は、マルチメディアプロセッサ31に対してメモリ31A内の全ての奥行きマップを視差画像生成部206に出力するように命令する(ステップ707)。
【0060】
デコーダ205、奥行きマップ生成部121、および視差画像生成部206の機能は第1の実施形態と同様なので説明を省略する。
【0061】
次に、図10のフローチャートを参照して、二次元映像の表示と三次元映像の表示とを切り替える手順を説明する。
3Dディスプレイ15に二次元映像が表示されている。ユーザが切替ボタン301を操作すると、切替命令発行部602が3D表示切替命令を発行する(ステップ801)。不連続情報記録部603は、3D表示切替命令に応じて、映像データのストリームを構成するパケットのヘッダ内の不連続フラグをイネーブルに書き替える(ステップ802)。切替判断部604は、不連続フラグがイネーブルであるパケットを検出すると、切替命令発行部602から出力された命令が3D表示切替命令であるかを判定する。切替判断部604は、3D表示切替命令が発行されたと判定する(ステップ803)。切替判断部604は、映像データのストリームをデコーダ205およびマルチメディアプロセッサ31の両方に出力する(ステップ804)。そして、切替判断部604は、マルチメディアプロセッサ31に対してIピクチャからデコードを始めるように命令する(ステップ805)。MPEG−2デコード回路101は、入力された映像データのストリームに対しIピクチャからデコードを開始する。デコードによって、複数の画像フレームが生成される。奥行きマップ生成部121が画像フレームに対して奥行きマップを生成する。視差画像生成部206が、奥行きマップとデコーダ205によって生成された画像フレームとに基づいて三次元画像データを生成し、3Dディスプレイ15に三次元映像が表示される(ステップ806)。
【0062】
三次元映像の表示時に、ユーザが切替ボタン301を操作すると、切替命令発行部202が2D表示切替命令を発行する(ステップ807)。不連続情報記録部603は、2D表示切替命令に応じて、映像データのストリームを構成するパケットのヘッダ内の不連続フラグをイネーブルにする(ステップ808)。切替判断部604は、不連続フラグがイネーブルであるパケットを検出すると、切替命令発行部602から出力された命令が3D表示切替命令であるかを判定する。切替判断部604は、3D表示切替命令が発行されていない、則ち2D表示切替命令が発行されたと判定する(ステップ809)。切替判断部604は、映像データのストリームをデコーダ205のみに出力する(ステップ810)。そして、切替判断部604は、マルチメディアプロセッサ31に対してメモリ31A内の全ての奥行きマップを視差画像生成部206に出力するように命令する(ステップ811)。視差画像生成部206が、全ての奥行きマップを使用して三次元画像データを生成した後、デコーダ205によって生成された画像フレームをそのまま出力することで、二次元映像が表示される(ステップ812)。
【0063】
以上説明したように、切替命令発行部602が切替命令を切替判断部604に発行し、切替判断部604がMPEG−2デコード回路101にIピクチャからのデコードを命令することで、二次元映像の表示から三次元映像の表示になめらかに切り替えることができる。
【0064】
なお、本実施形態の映像再生処理の手順は全てソフトウェアによって実行することができる。このため、映像再生処理の手順を実行するプログラムを格納したコンピュータ読み取り可能な記憶媒体を通じてこのプログラムを通常のコンピュータにインストールして実行するだけで、本実施形態と同様の効果を容易に実現することができる。
【0065】
上記実施形態では、MPEG−2方式で圧縮符号化された映像データを例に説明したが、MPEG−1,MPEG−4,H.264/MPEG−4 AVC,VC−1,DivX等の方式で圧縮符号化された映像データに対しても上述した処理を実施することが可能である。
【0066】
本発明のいくつかの実施形態を説明したが、これらの実施形態は、例として提示したものであり、発明の範囲を限定することは意図していない。これら新規な実施形態は、その他の様々な形態で実施されることが可能であり、発明の要旨を逸脱しない範囲で、種々の省略、置き換え、変更を行うことができる。これら実施形態やその変形は、発明の範囲や要旨に含まれるとともに、特許請求の範囲に記載された発明とその均等の範囲に含まれる。
【符号の説明】
【0067】
13B…映像コンテンツ再生プログラム,31…マルチメディアプロセッサ,101…MPEG−2デコード回路,111A〜111D…演算コア,121…奥行きマップ生成部,201…コントロールパネル表示部,202…切替命令発行部,203…切替情報記録部,204…切替判断部,205…デコーダ,206…視差画像生成部,300…コントロールパネル,301…切替ボタン。
【技術分野】
【0001】
本発明の実施形態は、二次元映像から三次元映像を生成する再生装置、再生方法、およびプログラムに関する。
【背景技術】
【0002】
近年、三次元映像を観賞するための様々な映像表示装置が提供されている。このような映像表示装置では、例えば、両眼視差に基づく左眼用映像と右眼用映像とを用いて、ユーザに三次元映像(立体映像)を知覚させる。
【0003】
一般に、放送やネットワークを介して受信される映像コンテンツのほとんどは、二次元映像を含む映像コンテンツデータである。そのような映像コンテンツデータを用いて三次元映像を観賞するために、二次元映像を三次元映像に変換する種々の2D−3D変換技術が提案されている。
【先行技術文献】
【特許文献】
【0004】
【特許文献1】特開2010−177795号公報
【発明の概要】
【発明が解決しようとする課題】
【0005】
二次元映像から三次元映像を生成するためには、二次元映像内の複数の画素に対して奥行き値を推定し、奥行きマップを生成する。この奥行き値を推定する処理の演算量が多いので、奥行き値を推定する処理は、CPUやGPUとは異なるプロセッサで行わせることが望まれている。奥行き値を推定する処理を実行するために、奥行き値を推定するために映像データをデコードすることによって得られる画像フレームを必要とするが、メモリとプロセッサとの間のデータの転送量を抑制するために、圧縮符号化された映像データをメモリとプロセッサとの間と異なるバスでプロセッサと接続されたデコーダに転送し、デコーダによって映像データをデコードさせることが好ましい。
【0006】
また、奥行き値を推定する処理の負荷が高いので、三次元映像を生成する処理は、マルチメディアプロセッサとは異なる、プロセッサに行わせることが望まれている。また、三次元映像を生成する処理にも映像データをデコードすることによって得られる画像フレームが必要となるが、データの転送量を抑制するために、奥行き値の推定に用いられる画像フレームを生成するデコーダとことなるデコーダによって映像データをデコードさせることが好ましい。
【0007】
奥行き値を演算する処理に必要な画像フレームを生成するプロセッサと、三次元映像を生成する処理を実行するために必要な画像フレームを生成するプロセッサが異なると、二次元映像の表示から三次元映像の表示へ切り替えると、なめらかに切り替えられないことがある。そのため、二次元映像の表示から三次元映像の表示へなめらかに切り替えられるようにすることが望まれている。
【0008】
本発明の目的は、二次元映像の表示から三次元映像の表示へなめらかに切り替えることが可能な再生装置、再生方法、およびプログラムを提供することを目的とする。
【課題を解決するための手段】
【0009】
実施形態によれば、再生装置は、第1のデコーダと、第2のデコーダと、奥行きマップ生成手段と、三次元画像生成手段と、発行手段と、切替手段とを具備する。第1のデコーダは、圧縮符号化されている映像データをデコードすることによって、第1の画像フレームを生成する。第2のデコーダは、三次元画像生成処理の実行時に前記映像データをデコードすることによって、前記第1の画像フレームに対応する第2の画像フレームを生成する。奥行きマップ生成手段は、前記第2の画像フレームに含まれる複数の画素に対応する複数の奥行き値を推定することによって奥行きマップを生成する。三次元画像生成手段は、前記奥行きマップと、前記第1の画像フレームとに基づいて、左目用画像データと右目用画像データとを生成する。発行手段は、前記三次元画像生成処理の非実行から実行に切り替えるための実行命令を発行する。切替手段は、前記発行手段が前記実行命令を発行した場合に、前記第2のデコーダに対して前記映像データの、他の画像フレームと依存関係が無く単独で画像フレームを生成できるピクチャからのデコードを命令する。
【図面の簡単な説明】
【0010】
【図1】第1の実施形態の再生装置の構成の一例を示す斜視図。
【図2】第1の実施形態の再生装置の構成の一例を示すブロック図。
【図3】図2に示すマルチメディアプロセッサの構成の一例を示すブロック図。
【図4】第1の実施形態の再生装置によって実行される映像コンテンツ再生プログラムの機能構成の例を示すブロック図。
【図5】図4に示すコントロールパネル表示部によって表示されるコントロールパネルの一例を示す図。
【図6】図4に示す切替命令発行部によって行われる処理の手順を示すフローチャートの一例を示す図。
【図7】第1の実施形態の再生装置によって実行される二次元映像の表示と三次元映像の表示とを切り替える手順を示すフローチャート。
【図8】第2の実施形態の再生装置によって実行される映像コンテンツ再生プログラムの機能構成の例を示すブロック図。
【図9】図8に示す切替命令発行部によって行われる処理の手順を示すフローチャートの一例を示す図。
【図10】第2の実施形態の再生装置によって実行される二次元映像の表示と三次元映像の表示とを切り替える手順を示すフローチャート。
【発明を実施するための形態】
【0011】
(第1の実施形態)
以下、実施の形態について図面を参照して説明する。
図1は、一実施形態に係る再生装置の外観を示す斜視図である。この電子機器は、例えばノートブックタイプのパーソナルコンピュータ1として実現される。また、この再生装置は、テレビジョン受信機、映像データを保存するためのレコーダ(例えば、ハードディスクレコーダ、DVDレコーダ)、タブレットPC、スレートPC、PDA、カーナビゲーション装置、スマートフォン等として実現され得る。
【0012】
図1に示すように、本コンピュータ1は、コンピュータ本体2と、ディスプレイユニット3とから構成される。
ディスプレイユニット3には、三次元ディスプレイ(3Dディスプレイ)15が組み込まれている。ディスプレイユニット3は、コンピュータ本体2の上面が露出される開放位置とコンピュータ本体2の上面を覆う閉塞位置との間を回動自在にコンピュータ本体2に取り付けられている。また、3Dディスプレイ15は、LCD(liquid crystal display)パネル15Aとレンズユニット15Bとを備える。レンズユニット15Bは、LCDパネル15A上にはり合わせられている。レンズユニット15Bは、LCDパネル15Aに表示される映像に含まれる複数の画素に対応する複数の光線をそれぞれ所定の方向に射出するための複数のレンズ機構を含む。レンズユニット15Bは、例えば、三次元映像表示に必要な機能を電気的にスイッチングできる液晶GRIN(gradient index)レンズである。
【0013】
3Dディスプレイ15は、三次元映像を表示する場合、左眼用映像と右眼用画像とを表示する。そのためユーザは、三次元映像を知覚することができる。
【0014】
コンピュータ本体2は、薄い箱形の筐体を有しており、その上面には、キーボード26、本コンピュータ1を電源オン/電源オフするためのパワーボタン28、入力操作パネル29、ポインティングデバイス27、スピーカ18A,18Bなどが配置されている。入力操作パネル29上には、各種操作ボタンが設けられている。これらボタン群には、TV機能(視聴、録画、録画された放送番組データ/ビデオデータの再生)を制御するための操作ボタン群も含まれている。
【0015】
コンピュータ本体2の例えば右側面には、TV放送用のアンテナ端子30Aが設けられている。
【0016】
図2は、本コンピュータ1のシステム構成を示す図である。
本コンピュータ1は、図2に示すように、CPU11、ノースブリッジ12、主メモリ13、GPU(Graphics Processing Unit)14、ビデオメモリ(VRAM)14A、3Dディスプレイ15、サウスブリッジ16、サウンドコントローラ17、スピーカ18A,18B、BIOS−ROM19、LANコントローラ20、ハードディスクドライブ(HDD)21、光ディスクドライブ(ODD)22、無線LANコントローラ23、USBコントローラ24、エンベデッドコントローラ/キーボードコントローラ(EC/KBC)25、キーボード(KB)26、ポインティングデバイス27、TVチューナ30、マルチメディアプロセッサ31、およびメモリ31A等を備えている。
【0017】
CPU11は、本コンピュータ1の動作を制御するプロセッサである。CPU11は、HDD21から主メモリ13にロードされる、オペレーティングシステム(OS)13A、及び映像コンテンツ再生プログラム13B等のようなアプリケーションプログラムを実行する。映像コンテンツ再生プログラム13Bは、映像コンテンツデータを視聴するための機能を有するソフトウェアである。この映像コンテンツ再生プログラム13Bは、TVチューナ30によって受信された放送番組データを視聴するためのライブ再生処理、受信された放送番組データをHDD21に記録する録画処理、HDD21に記録された放送番組データ/ビデオデータを再生する再生処理、ネットワークを介して受信された映像コンテンツデータを再生する再生処理等を実行する。また、映像コンテンツ再生プログラム13Bは、DVDのような記憶メディアやハードディスクのような記憶装置に格納された映像コンテンツデータを再生することもできる。
【0018】
さらに、映像コンテンツ再生プログラム13Bは、三次元映像を視聴するための機能を有する。映像コンテンツ再生プログラム13Bは、映像コンテンツデータに含まれる二次元映像を三次元映像にリアルタイムで変換して画面(3Dディスプレイの画面)15上に表示する。映像コンテンツ再生プログラム13Bは、様々な映像コンテンツデータ(たとえば、放送番組データ、記憶メディアや記憶装置に格納されたビデオデータ、インターネット上のサーバから受信したビデオデータ、等)を2D−3D変換することができる。
【0019】
三次元映像の表示には、裸眼立体視方式(例えば、インテグラルイメージング方式、レンチキュラ方式、パララックスバリア方式等)による3Dディスプレイ15が用いられる。ユーザは、裸眼立体視方式による3Dディスプレイ15に表示された映像を見ることにより、三次元映像を裸眼で知覚することができる。なお、裸眼立体視方式以外のアクティブシャッター方式や偏光フィルム方式を用いて三次元映像を知覚させても良い。
【0020】
また、CPU11は、BIOS−ROM19に格納されたBIOS(Basic Input/Output System)も実行する。BIOSは、ハードウェア制御のためのプログラムである。
【0021】
ノースブリッジ12は、CPU11のローカルバスとサウスブリッジ16との間を接続するブリッジデバイスである。ノースブリッジ12には、主メモリ13をアクセス制御するメモリコントローラも内蔵されている。また、ノースブリッジ12は、GPU14との通信を実行する機能も有している。
【0022】
GPU14は、本コンピュータ1のディスプレイモニタとして使用されるLCDパネル15Aを制御する表示コントローラである。このGPU14によって生成される表示信号はLCDパネル15Aに送られる。
【0023】
GPU14は、複数の演算プロセッサを有し、表示信号を生成すると同時に、複数の演算プロセッサの少なくとも一部を用いてピクセルシェーダを実行することが可能である。また、GPU14は、プログラミングされたピクセルシェーダを実行することができる。例えば、ピクセルシェーダによってビデオデータのMPEG-2によって圧縮符号化された映像データをデコードする処理が行われる。また例えば、ピクセルシェーダによってデコードされた映像データと後述する奥行きマップとに基づいて左目用画像データおよび右目用画像データを生成する処理を実行する。
【0024】
サウスブリッジ16は、PCI(Peripheral Component Interconnect) Express(PCIe)バス上及びLPC(Low Pin Count)バス上の各デバイスを制御する。また、サウスブリッジ16は、HDD21及びODD22を制御するためのSerial ATA(Advanced Technology Attachment)コントローラ、及びBIOS−ROM19をアクセス制御するメモリコントローラが内蔵されている。さらに、サウスブリッジ16は、サウンドコントローラ17及びLANコントローラ20との通信を実行する機能も有している。
【0025】
また、サウスブリッジ16は、映像コンテンツ再生プログラム13Bによる要求等に応じて、レンズユニット15Bが三次元映像表示と二次元映像表示のいずれか一方に設定されるように制御するための制御信号を、レンズユニット15Bに出力することができる。レンズユニット15Bは、サウスブリッジ16によって出力された制御信号に応じて、例えば、液晶層内の部分の屈折率を変更することにより、三次元映像表示と二次元映像表示のいずれか一方に設定する。
【0026】
サウンドコントローラ17は音源デバイスであり、再生対象のオーディオデータをスピーカ18A,18Bに出力する。LANコントローラ20は、例えばEthernet(登録商標)規格の有線通信を実行する有線通信デバイスであり、無線LANコントローラ23は、例えばIEEE 802.11規格の無線通信を実行する無線通信デバイスである。また、USBコントローラ24は、例えばUSB2.0規格のケーブルを介して外部機器との通信を実行する。
【0027】
またさらに、サウスブリッジ16には、PCI EXPRESS(PCIe)規格のシリアルバスなどを介してマルチメディアプロセッサ31が接続されている。メモリ31Aは、マルチメディアプロセッサ31の作業メモリとして用いられる。
【0028】
マルチメディアプロセッサ31は、図3に示すように、圧縮符号化されているビデオデータをデコードするために設けられたMPEG−2デコード回路101、および4個の演算コア111A〜111D等が1チップに搭載されている。それぞれの演算コア111A〜111Dは、メディア処理性能が高く、性能対消費電力が高い。映像コンテンツ再生プログラム13Bがコンテンツを再生する際、MPEG−2デコード回路101は映像データのデコードを行う。また、4個の演算コア111A〜111Dは、MPEG−2デコード回路101によってデコードされた映像データの内の各画像フレームの奥行きマップを生成する処理を行う。本実施形態においては、CPU11とは異なる専用のプロセッサであるマルチメディアプロセッサ31の演算コア111A〜111Dがバックエンドプロセッサとして使用され、このマルチメディアプロセッサ31によって奥行きマップ生成処理が実行される。よって、CPU11の負荷の増加を招くことなく、奥行きマップを生成する処理を実行することが出来る。
【0029】
EC/KBC25は、電力管理を行うためのエンベデッドコントローラと、キーボード(KB)26、及びポインティングデバイス27を制御するためのキーボードコントローラとが集積された1チップマイクロコンピュータである。このEC/KBC25は、ユーザの操作に応じて本コンピュータ1をパワーオン/パワーオフする機能を有している。
【0030】
TVチューナ30はテレビジョン(TV)放送信号によって放送される放送番組データを受信する受信装置であり、アンテナ端子30Aに接続されている。このTVチューナ30は、例えば、地上波デジタルTV放送のようなデジタル放送番組データを受信可能なデジタルTVチューナとして実現されている。また、TVチューナ30は、外部機器から入力されるビデオデータをキャプチャする機能も有している。
【0031】
図4は、映像コンテンツ再生プログラム13Bの機能構成を示す。映像コンテンツ再生プログラム13Bは、二次元映像から三次元映像を生成する機能を有し、二次元映像の表示と三次元映像の表示とを切り替える機能を有する。図4に示す例では、映像コンテンツ再生プログラム13Bとディスプレイドライバプログラム13Cとによって、三次元映像が3Dディスプレイ15に表示される。二次元映像の表示と三次元映像の表示との切替は、三次元画像生成処理の実行と非実行との切り替えと言い換えることもできる。
【0032】
映像コンテンツ再生プログラム13Bは、コントロールパネル表示部201、切替命令発行部202、切替情報記録部203、切替判断部204、デコーダ205、および視差画像生成部206を備えている。映像コンテンツ再生プログラム13Bは、マルチメディアプロセッサ31に、圧縮符号化されている映像データをデコードさせる機能と、奥行きマップを生成させる機能とを有する。マルチメディアプロセッサ31は、MPEG−2デコード回路101によって圧縮符号化されている映像データする。マルチメディアプロセッサ31は、演算コア111A〜111Dによって実現される奥行きマップ生成部121によって奥行きマップを生成する。
【0033】
コントロールパネル表示部201は、図5に示すコントロールパネル300を3Dディスプレイ15に表示する。コントロールパネル300は、二元映像の表示と三次元映像の表示との間を切り替える切替ボタン301を有する。
【0034】
切替命令発行部202は、3Dディスプレイ15に表示されている切替ボタン301に対するユーザの操作に応じて、2D表示切替命令(非実行命令)または3D表示切替命令(実行命令)を発行する。2D表示切替命令は三次元映像の表示から二次元映像の表示に切り替えるための命令であり、3D表示切替命令は三次元映像の表示から二次元映像の表示に切り替えるための命令である。
【0035】
切替情報記録部203は、2D表示切替命令または3D表示切替命令に応じて、映像データのストリームを構成するパケット内の不連続フラグをイネーブル(不連続情報)にすると共に、当該パケットに3D表示切替情報または2D表示切替情報とを記録する。
【0036】
切替判断部204には、映像データのストリームを構成するパケットが順次入力される。判定処理を行った後に、切替判断部204は、各パケットをデコーダ205およびマルチメディアプロセッサ31の少なくともデコーダ205に出力する。
【0037】
判定処理では、映像データのストリームを構成するパケットの不連続フラグがイネーブルであるかを判定する。不連続フラグがイネーブルであると判定した場合、切替判断部204は、3D表示切替情報および2D表示切替情報の何れが記録されているかを判定する。
【0038】
3D表示切替情報が記録されていると判定した場合、切替判断部204は、映像データのストリームを構成するパケットをマルチメディアプロセッサ31およびデコーダに出力すると共に、MPEG−2デコード回路101に、他の画像フレームと依存関係が無く単独で画像フレームを生成できるIピクチャからデコードを開始するように命令する。
【0039】
発明者の鋭意研究により、二次元映像の表示から三次元映像の表示になめらかに切り替わらないのは、MPEG−2デコード回路101が他のフレームに依存し、単独でデコードすることができないBピクチャからデコードを開始した場合に起こることが判明した。切替判断部204は、二次元映像の表示から三次元映像の表示になめらかに切り替るために、Iピクチャからデコードを開始するようにMPEG−2デコード回路101に命令する。
【0040】
2D表示切替情報が記録されていると判定した場合、切替判断部204は、映像データのストリームを構成するパケットをデコーダのみに出力する。そして、切替判断部204は、マルチメディアプロセッサ31に、メモリ31A内にバッファリングされている全ての奥行きマップの視差画像生成部への出力を命令する。
【0041】
切替判断部204が行う処理の手順を図6のフローチャートを参照して説明する。
切替判断部204に映像データのストリームを構成するパケットが入力されると(ステップ401)、切替判断部204は、パケット内の不連続フラグがイネーブルであるかを判定する(ステップ402)。不連続フラグがイネーブルではないと判定した場合(ステップ402のNo)、前のパケットの出力先に入力されたパケットを出力する(ステップ408)。不連続フラグがイネーブルであると判定した場合(ステップ402のYes)、切替判断部204は、パケット内に3D表示切替情報が記録されているかを判定する(ステップ403)。3D表示切替情報が記録されていると判定した場合(ステップ403のYes)。切替判断部204は、映像データのストリームをデコーダ205およびマルチメディアプロセッサ31の両方に出力する(ステップ404)。そして、切替判断部204は、マルチメディアプロセッサ31に対してIピクチャからデコードを始めるように命令する(ステップ405)。ステップ403において、3D表示切替情報が記録されていないと判定した場合(ステップ403のNo)、切替判断部204は、映像データのストリームをデコーダ205のみに出力する(ステップ406)。そして、切替判断部204は、マルチメディアプロセッサ31に対してメモリ31A内の全ての奥行きマップを視差画像生成部206に出力するように命令する(ステップ407)。
【0042】
デコーダ205は、GPU14のデコード支援機能を用いて映像データをデコードすることによって、複数の画像フレームデータを生成する。
【0043】
三次元映像を表示する場合、マルチメディアプロセッサ31は、デコード回路101を用いて映像データをIピクチャからデコードして、複数の画像フレームを生成する。マルチメディアプロセッサ内の奥行きマップ生成部121は、後述する奥行きマップを生成する。
【0044】
奥行きマップ生成部121は、複数の画像フレームの内の処理対象の画像フレーム(二次元画像)を用いて、当該画像フレームに含まれる複数の画素の奥行き値(奥行き位置)を推定することによって、奥行きマップ(depth map)を生成する。奥行きマップは、処理対象の画像フレームに含まれる複数の画素に対応する複数の奥行き値を含む。奥行き値は、例えば、−127から128までの整数値である。奥行きマップ生成部121は、生成した奥行きマップはメモリ31Aのバッファ領域に格納する。通常、参照画像フレームになっている画像フレームや奥行き推定のために遅延している画像フレームの奥行きマップは、次の画像フレームが入力されるまで、出力されることは無い。
【0045】
奥行きマップ生成部121は、奥行き値を推定する複数の手法を用いて画像フレームに含まれる複数の画素の奥行き値を推定する。奥行きマップ生成部121は、例えば、画像フレームを複数の領域に分割し、分割された領域間の前後関係(背景の領域であるか、他の領域よりも前に存在するか等)を判定することによって、画素の奥行き値を決定する。また、奥行きマップ生成部121は、手前の物体ほど動きが速いという基本原理から画素の奥行き値を推定する。また、奥行きマップ生成部121は、画像フレームから人物の顔位置を検出し、検出された顔位置を基準に人型の奥行き値を割り当てることによって、画素の奥行き値を推定する。
【0046】
奥行きマップ生成部121は、生成された奥行きマップを視差画像生成部206に出力する。視差画像生成部206は、視差を算出することによって、視差マップを生成する。視差マップは、奥行きマップに含まれる複数の奥行き値に対応する複数の視差を含む。
【0047】
三次元映像を表示する場合、視差画像生成部206は、出力された視差マップと、視差マップを生成した画像フレームデータに対応するデコーダ205によって生成された画像フレームとを用いて、左眼用映像データと右眼用映像データとを含む三次元映像データを生成する。生成された三次元画像データは、3Dディスプレイ15に表示される。なお、視差画像生成部206は、GPU14に設けられた複数の演算プロセッサの一部を用いて三次元映像データを生成する処理を行う。
【0048】
次に、図7のフローチャートを参照して、二次元映像の表示と三次元映像の表示とを切り替える手順を説明する。
3Dディスプレイ15に二次元映像が表示されている。ユーザが切替ボタン301を操作すると、切替命令発行部202が3D表示切替命令を発行する(ステップ501)。切替情報記録部203は、3D表示切替命令に応じて、映像データのストリームを構成するパケットのヘッダ内の不連続フラグをイネーブルに書き替えると共に、ヘッダ内に3D表示切替情報を記録する(ステップ502)。切替判断部204は、不連続フラグがイネーブルであるパケットを検出すると、当該パケット内に3D表示切替情報が記録されているかを判定する。切替判断部204は、3D表示切替情報が記録されていると判定する(ステップ503)。切替判断部204は、映像データのストリームをデコーダ205およびマルチメディアプロセッサ31の両方に出力する(ステップ504)。そして、切替判断部204は、マルチメディアプロセッサ31に対してIピクチャからデコードを始めるように命令する(ステップ505)。MPEG−2デコード回路101は、入力された映像データのストリームに対しIピクチャからデコードを開始する。デコードによって、複数の画像フレームが生成される。奥行きマップ生成部121が画像フレームに対して奥行きマップを生成する。視差画像生成部206が、奥行きマップとデコーダ205によって生成された画像フレームとに基づいて三次元画像データを生成し、3Dディスプレイ15に三次元映像が表示される(ステップ506)。
【0049】
三次元映像の表示時に、ユーザが切替ボタン301を操作すると、切替命令発行部202が2D表示切替命令を発行する(ステップ507)。切替情報記録部203は、2D表示切替命令に応じて、映像データのストリームを構成するパケットのヘッダ内の不連続フラグをイネーブルに書き替えると共に、ヘッダ内に2D表示切替情報を記録する(ステップ508)。切替判断部204は、不連続フラグがイネーブルであるパケットを検出すると、当該パケット内に3D表示切替情報が記録されているかを判定する。切替判断部204は、3D表示切替情報が記録されていない、2D表示切替情報が記録されていると判定する(ステップ509)。切替判断部204は、映像データのストリームをデコーダ205のみに出力する(ステップ510)。そして、切替判断部204は、マルチメディアプロセッサ31に対してメモリ31A内の全ての奥行きマップを視差画像生成部206に出力するように命令する(ステップ511)。視差画像生成部206が、全ての奥行きマップを使用して三次元画像データを生成した後、デコーダ205によって生成された画像フレームをそのまま出力することで、二次元映像が表示される(ステップ512)。
【0050】
以上説明したように、切替判断部204がMPEG−2デコード回路101にIピクチャからのデコードを命令することで、二次元映像の表示から三次元映像の表示になめらかに切り替えることができる。
【0051】
(第2の実施形態)
図8は、映像コンテンツ再生プログラム13Bの第1の実施形態とは異なる機能構成を示す。
【0052】
映像コンテンツ再生プログラム13Bは、コントロールパネル表示部201、切替命令発行部602、不連続情報記録部603、切替判断部604、デコーダ205、および視差画像生成部206を備えている。
【0053】
切替命令発行部602は、3Dディスプレイ15に表示されている切替ボタン301に対するユーザの操作に応じて、2D表示切替命令または3D表示切替命令を不連続情報記録部603および切替判断部604に発行する。
【0054】
不連続情報記録部603は、2D表示切替命令または3D表示切替命令に応じて、映像データのストリームを構成するパケット内の不連続フラグをイネーブルにする。
【0055】
切替判断部604には、映像データのストリームを構成するパケットが順次入力される。判定処理を行った後に、切替判断部604は、各パケットをデコーダ205およびマルチメディアプロセッサ31の少なくともデコーダ205に出力する。
【0056】
判定処理では、映像データのストリームを構成するパケットの不連続フラグがイネーブルであるかを判定する。不連続フラグがイネーブルであると判定した場合、切替判断部604は、切替命令発行部602が2D表示切替命令または3D表示切替命令の何れの命令を発行したかを判定する。
【0057】
3D表示切替命令が発行されたと判定した場合、切替判断部604は、映像データのストリームを構成するパケットをマルチメディアプロセッサ31およびデコーダに出力すると共に、マルチメディアプロセッサ31にIピクチャからデコードを開始するように命令する。
【0058】
2D表示切替命令が発行されたと判定した場合、切替判断部604は、映像データのストリームを構成するパケットをデコーダのみに出力する。そして、切替判断部604は、マルチメディアプロセッサ31に、メモリ31A内にバッファリングされている全ての奥行きマップの視差画像生成部への出力を命令する。
【0059】
切替判断部604が行う処理の手順を図9のフローチャートを参照して説明する。
切替判断部604に映像データのストリームを構成するパケットが入力されると(ステップ701)、切替判断部604は、パケット内の不連続フラグがイネーブルであるかを判定する(ステップ702)。不連続フラグがイネーブルではないと判定した場合(ステップ702のNo)、前のパケットの出力先に入力されたパケットを出力する。不連続フラグがイネーブルであると判定した場合(ステップ702のYes)、切替判断部604は、切替命令発行部602が3D表示切替命令を発行したかを判定する(ステップ703)。3D表示切替命令を発行したと判定した場合(ステップ703のYes)。切替判断部604は、映像データのストリームをデコーダ205およびマルチメディアプロセッサ31の両方に出力する(ステップ704)。そして、切替判断部604は、マルチメディアプロセッサ31に対してIピクチャからデコードを始めるように命令する(ステップ705)。ステップ703において、3D表示切替情報を発行していないと判定した場合(ステップ703のNo)、切替判断部604は、映像データのストリームをデコーダ205のみに出力する(ステップ706)。そして、切替判断部604は、マルチメディアプロセッサ31に対してメモリ31A内の全ての奥行きマップを視差画像生成部206に出力するように命令する(ステップ707)。
【0060】
デコーダ205、奥行きマップ生成部121、および視差画像生成部206の機能は第1の実施形態と同様なので説明を省略する。
【0061】
次に、図10のフローチャートを参照して、二次元映像の表示と三次元映像の表示とを切り替える手順を説明する。
3Dディスプレイ15に二次元映像が表示されている。ユーザが切替ボタン301を操作すると、切替命令発行部602が3D表示切替命令を発行する(ステップ801)。不連続情報記録部603は、3D表示切替命令に応じて、映像データのストリームを構成するパケットのヘッダ内の不連続フラグをイネーブルに書き替える(ステップ802)。切替判断部604は、不連続フラグがイネーブルであるパケットを検出すると、切替命令発行部602から出力された命令が3D表示切替命令であるかを判定する。切替判断部604は、3D表示切替命令が発行されたと判定する(ステップ803)。切替判断部604は、映像データのストリームをデコーダ205およびマルチメディアプロセッサ31の両方に出力する(ステップ804)。そして、切替判断部604は、マルチメディアプロセッサ31に対してIピクチャからデコードを始めるように命令する(ステップ805)。MPEG−2デコード回路101は、入力された映像データのストリームに対しIピクチャからデコードを開始する。デコードによって、複数の画像フレームが生成される。奥行きマップ生成部121が画像フレームに対して奥行きマップを生成する。視差画像生成部206が、奥行きマップとデコーダ205によって生成された画像フレームとに基づいて三次元画像データを生成し、3Dディスプレイ15に三次元映像が表示される(ステップ806)。
【0062】
三次元映像の表示時に、ユーザが切替ボタン301を操作すると、切替命令発行部202が2D表示切替命令を発行する(ステップ807)。不連続情報記録部603は、2D表示切替命令に応じて、映像データのストリームを構成するパケットのヘッダ内の不連続フラグをイネーブルにする(ステップ808)。切替判断部604は、不連続フラグがイネーブルであるパケットを検出すると、切替命令発行部602から出力された命令が3D表示切替命令であるかを判定する。切替判断部604は、3D表示切替命令が発行されていない、則ち2D表示切替命令が発行されたと判定する(ステップ809)。切替判断部604は、映像データのストリームをデコーダ205のみに出力する(ステップ810)。そして、切替判断部604は、マルチメディアプロセッサ31に対してメモリ31A内の全ての奥行きマップを視差画像生成部206に出力するように命令する(ステップ811)。視差画像生成部206が、全ての奥行きマップを使用して三次元画像データを生成した後、デコーダ205によって生成された画像フレームをそのまま出力することで、二次元映像が表示される(ステップ812)。
【0063】
以上説明したように、切替命令発行部602が切替命令を切替判断部604に発行し、切替判断部604がMPEG−2デコード回路101にIピクチャからのデコードを命令することで、二次元映像の表示から三次元映像の表示になめらかに切り替えることができる。
【0064】
なお、本実施形態の映像再生処理の手順は全てソフトウェアによって実行することができる。このため、映像再生処理の手順を実行するプログラムを格納したコンピュータ読み取り可能な記憶媒体を通じてこのプログラムを通常のコンピュータにインストールして実行するだけで、本実施形態と同様の効果を容易に実現することができる。
【0065】
上記実施形態では、MPEG−2方式で圧縮符号化された映像データを例に説明したが、MPEG−1,MPEG−4,H.264/MPEG−4 AVC,VC−1,DivX等の方式で圧縮符号化された映像データに対しても上述した処理を実施することが可能である。
【0066】
本発明のいくつかの実施形態を説明したが、これらの実施形態は、例として提示したものであり、発明の範囲を限定することは意図していない。これら新規な実施形態は、その他の様々な形態で実施されることが可能であり、発明の要旨を逸脱しない範囲で、種々の省略、置き換え、変更を行うことができる。これら実施形態やその変形は、発明の範囲や要旨に含まれるとともに、特許請求の範囲に記載された発明とその均等の範囲に含まれる。
【符号の説明】
【0067】
13B…映像コンテンツ再生プログラム,31…マルチメディアプロセッサ,101…MPEG−2デコード回路,111A〜111D…演算コア,121…奥行きマップ生成部,201…コントロールパネル表示部,202…切替命令発行部,203…切替情報記録部,204…切替判断部,205…デコーダ,206…視差画像生成部,300…コントロールパネル,301…切替ボタン。
【特許請求の範囲】
【請求項1】
圧縮符号化されている映像データをデコードすることによって、第1の画像フレームを生成する第1のデコーダと、
三次元画像生成処理の実行時に前記映像データをデコードすることによって、前記第1の画像フレームに対応する第2の画像フレームを生成する第2のデコーダと、
前記第2の画像フレームに含まれる複数の画素に対応する複数の奥行き値を推定することによって奥行きマップを生成する奥行きマップ生成手段と、
前記奥行きマップと、前記第1の画像フレームとに基づいて、左目用画像データと右目用画像データとを生成する三次元画像生成手段と、
前記三次元画像生成処理の非実行から実行に切り替えるための実行命令を発行する発行手段と、
前記発行手段が前記実行命令を発行した場合に、前記第2のデコーダに対して前記映像データの、他の画像フレームと依存関係が無く単独で画像フレームを生成できるピクチャからのデコードを命令する切替手段と
を具備する再生装置。
【請求項2】
前記発行手段は、前記三次元画像生成処理の実行から非実行に切り替えるための非実行命令を発行し、
前記切替手段は、前記発行手段が前記非実行命令を発行した場合に、前記奥行きマップ生成手段に対して、前記奥行きマップ生成手段によって推定された奥行きマップの前記三次元画像生成手段への出力を命令する
請求項1に記載の再生装置。
【請求項3】
前記発行手段が前記実行命令を発行した場合に、前記映像データを構成するパケットに不連続情報および実行情報を記録し、前記発行手段が前記非実行命令を発行した場合に、前記映像データを構成するパケットに不連続情報および非実行情報を記録する記録手段を更に具備し、
前記切替手段は、
前記映像データを構成するパケットに前記不連続情報が記録されているかを判定し、
前記不連続情報が記録されていると判定した場合に、前記実行情報および前記非実行情報の何れが前記パケットに記録されているかを判定し、
前記実行情報が記録されていると判定した場合に、前記第2のデコーダに対して前記映像データの他の画像フレームと依存関係が無く単独で画像フレームを生成できるピクチャからのデコードを命令し、
前記非実行情報が記録されていると判定した場合に、前記奥行きマップ生成手段に対して、前記奥行きマップ生成手段によって推定された奥行きマップの前記三次元画像生成手段への出力を命令する
請求項2に記載の再生装置。
【請求項4】
前記発行手段が前記実行命令または前記非実行命令を発行した場合に、前記映像データを構成するパケットに不連続情報を記録する不連続情報記録手段を更に具備し、
前記切替手段は、
前記パケットに記録されている不連続情報を検出した場合に、前記発行手段が前記実行命令および前記非実行命令の何れかを発行したかを判定し、
前記発行手段が前記実行命令を発行したと判定した場合、前記第2のデコーダに対して前記映像データの他の画像フレームと依存関係が無く単独で画像フレームを生成できるピクチャからのデコードを命令し、
前記発行手段が前記非実行命令を発行したと判定した場合、前記パケットに記録されている不連続情報を検出した場合に、前記奥行きマップ生成手段に対して、前記奥行きマップ生成手段によって推定された奥行きマップの前記三次元画像生成手段への出力を命令する
請求項2に記載の再生装置。
【請求項5】
前記第2のデコーダと、前記奥行きマップ生成手段として使用される複数の演算プロセッサとを有するプロセッサを更に具備する
請求項1に記載の再生装置。
【請求項6】
表示装置に表示される映像信号を生成するグラフィックプロセッシングユニットを更に具備し、
前記グラフィックプロセッシングユニットによって前記第1のデコーダが実現され、
前記グラフィックプロセッシングユニットによって前記三次元画像生成手段が実現される
請求項1に記載の再生装置。
【請求項7】
前記奥行きマップ生成手段は、奥行きを推定する複数の手法を用いて前記複数の奥行き値を推定する請求項1に記載の再生装置。
【請求項8】
第1のデコーダによって、圧縮符号化されている映像データをデコードすることによって、第1の画像フレームを生成し、
三次元画像生成処理の非実行から実行に切り替えるための実行命令を発行し、
前記実行命令が発行された場合に、第2のデコーダに対して前記映像データの他の画像フレームと依存関係が無く単独で画像フレームを生成できるピクチャからのデコードを命令し、
前記第2のデコーダによって、前記映像データをデコードすることによって、前記第1の画像フレームに対応する第2の画像フレームを生成し、
奥行きマップ生成手段によって、前記第2の画像フレームに含まれる複数の画素に対応する複数の奥行き値を推定することによって奥行きマップを生成し、
三次元画像生成手段によって、前記奥行きマップと、前記第1の画像フレームとに基づいて、左目用画像データと右目用画像データとを生成する
再生方法。
【請求項9】
前記三次元画像生成処理の実行から非実行に切り替えるための非実行命令を発行し、
前記非実行命令が発行された場合に、前記奥行きマップ生成手段に対して、前記奥行きマップ生成手段によって推定された奥行きマップの前記三次元画像生成手段への出力を命令する
請求項8に記載の再生方法。
【請求項10】
圧縮符号化されている映像データを再生する処理を実行するプログラムであって、
第1のデコーダに前記映像データをデコードさせることによって、第1の画像フレームを生成する手順と、
三次元画像生成処理の非実行から実行に切り替えるための実行命令を発行する手順と、
前記実行命令が発行された場合に、第2のデコーダに対して前記映像データの他の画像フレームと依存関係が無く単独で画像フレームを生成できるピクチャからのデコードを命令する手順と、
前記第2のデコーダに前記映像データをデコードさせることによって、前記第1の画像フレームに対応する第2の画像フレームを生成する手順と、
奥行きマップ生成手段に前記第2の画像フレームに含まれる複数の画素に対応する複数の奥行き値を推定させることによって奥行きマップを生成する手順と、
三次元画像生成手段に、前記奥行きマップと、前記第1の画像フレームとに基づいて、左目用画像データと右目用画像データとを生成させる手順と、
をコンピュータに実行させるプログラム。
【請求項11】
前記三次元画像生成処理の実行から非実行に切り替えるための非実行命令を発行する手順と、
前記非実行命令が発行された場合に、前記奥行きマップ生成手段に対して、前記奥行きマップ生成手段によって推定された奥行きマップの前記三次元画像生成手段への出力を命令する手順と
を前記コンピュータに実行させるプログラム。
【請求項1】
圧縮符号化されている映像データをデコードすることによって、第1の画像フレームを生成する第1のデコーダと、
三次元画像生成処理の実行時に前記映像データをデコードすることによって、前記第1の画像フレームに対応する第2の画像フレームを生成する第2のデコーダと、
前記第2の画像フレームに含まれる複数の画素に対応する複数の奥行き値を推定することによって奥行きマップを生成する奥行きマップ生成手段と、
前記奥行きマップと、前記第1の画像フレームとに基づいて、左目用画像データと右目用画像データとを生成する三次元画像生成手段と、
前記三次元画像生成処理の非実行から実行に切り替えるための実行命令を発行する発行手段と、
前記発行手段が前記実行命令を発行した場合に、前記第2のデコーダに対して前記映像データの、他の画像フレームと依存関係が無く単独で画像フレームを生成できるピクチャからのデコードを命令する切替手段と
を具備する再生装置。
【請求項2】
前記発行手段は、前記三次元画像生成処理の実行から非実行に切り替えるための非実行命令を発行し、
前記切替手段は、前記発行手段が前記非実行命令を発行した場合に、前記奥行きマップ生成手段に対して、前記奥行きマップ生成手段によって推定された奥行きマップの前記三次元画像生成手段への出力を命令する
請求項1に記載の再生装置。
【請求項3】
前記発行手段が前記実行命令を発行した場合に、前記映像データを構成するパケットに不連続情報および実行情報を記録し、前記発行手段が前記非実行命令を発行した場合に、前記映像データを構成するパケットに不連続情報および非実行情報を記録する記録手段を更に具備し、
前記切替手段は、
前記映像データを構成するパケットに前記不連続情報が記録されているかを判定し、
前記不連続情報が記録されていると判定した場合に、前記実行情報および前記非実行情報の何れが前記パケットに記録されているかを判定し、
前記実行情報が記録されていると判定した場合に、前記第2のデコーダに対して前記映像データの他の画像フレームと依存関係が無く単独で画像フレームを生成できるピクチャからのデコードを命令し、
前記非実行情報が記録されていると判定した場合に、前記奥行きマップ生成手段に対して、前記奥行きマップ生成手段によって推定された奥行きマップの前記三次元画像生成手段への出力を命令する
請求項2に記載の再生装置。
【請求項4】
前記発行手段が前記実行命令または前記非実行命令を発行した場合に、前記映像データを構成するパケットに不連続情報を記録する不連続情報記録手段を更に具備し、
前記切替手段は、
前記パケットに記録されている不連続情報を検出した場合に、前記発行手段が前記実行命令および前記非実行命令の何れかを発行したかを判定し、
前記発行手段が前記実行命令を発行したと判定した場合、前記第2のデコーダに対して前記映像データの他の画像フレームと依存関係が無く単独で画像フレームを生成できるピクチャからのデコードを命令し、
前記発行手段が前記非実行命令を発行したと判定した場合、前記パケットに記録されている不連続情報を検出した場合に、前記奥行きマップ生成手段に対して、前記奥行きマップ生成手段によって推定された奥行きマップの前記三次元画像生成手段への出力を命令する
請求項2に記載の再生装置。
【請求項5】
前記第2のデコーダと、前記奥行きマップ生成手段として使用される複数の演算プロセッサとを有するプロセッサを更に具備する
請求項1に記載の再生装置。
【請求項6】
表示装置に表示される映像信号を生成するグラフィックプロセッシングユニットを更に具備し、
前記グラフィックプロセッシングユニットによって前記第1のデコーダが実現され、
前記グラフィックプロセッシングユニットによって前記三次元画像生成手段が実現される
請求項1に記載の再生装置。
【請求項7】
前記奥行きマップ生成手段は、奥行きを推定する複数の手法を用いて前記複数の奥行き値を推定する請求項1に記載の再生装置。
【請求項8】
第1のデコーダによって、圧縮符号化されている映像データをデコードすることによって、第1の画像フレームを生成し、
三次元画像生成処理の非実行から実行に切り替えるための実行命令を発行し、
前記実行命令が発行された場合に、第2のデコーダに対して前記映像データの他の画像フレームと依存関係が無く単独で画像フレームを生成できるピクチャからのデコードを命令し、
前記第2のデコーダによって、前記映像データをデコードすることによって、前記第1の画像フレームに対応する第2の画像フレームを生成し、
奥行きマップ生成手段によって、前記第2の画像フレームに含まれる複数の画素に対応する複数の奥行き値を推定することによって奥行きマップを生成し、
三次元画像生成手段によって、前記奥行きマップと、前記第1の画像フレームとに基づいて、左目用画像データと右目用画像データとを生成する
再生方法。
【請求項9】
前記三次元画像生成処理の実行から非実行に切り替えるための非実行命令を発行し、
前記非実行命令が発行された場合に、前記奥行きマップ生成手段に対して、前記奥行きマップ生成手段によって推定された奥行きマップの前記三次元画像生成手段への出力を命令する
請求項8に記載の再生方法。
【請求項10】
圧縮符号化されている映像データを再生する処理を実行するプログラムであって、
第1のデコーダに前記映像データをデコードさせることによって、第1の画像フレームを生成する手順と、
三次元画像生成処理の非実行から実行に切り替えるための実行命令を発行する手順と、
前記実行命令が発行された場合に、第2のデコーダに対して前記映像データの他の画像フレームと依存関係が無く単独で画像フレームを生成できるピクチャからのデコードを命令する手順と、
前記第2のデコーダに前記映像データをデコードさせることによって、前記第1の画像フレームに対応する第2の画像フレームを生成する手順と、
奥行きマップ生成手段に前記第2の画像フレームに含まれる複数の画素に対応する複数の奥行き値を推定させることによって奥行きマップを生成する手順と、
三次元画像生成手段に、前記奥行きマップと、前記第1の画像フレームとに基づいて、左目用画像データと右目用画像データとを生成させる手順と、
をコンピュータに実行させるプログラム。
【請求項11】
前記三次元画像生成処理の実行から非実行に切り替えるための非実行命令を発行する手順と、
前記非実行命令が発行された場合に、前記奥行きマップ生成手段に対して、前記奥行きマップ生成手段によって推定された奥行きマップの前記三次元画像生成手段への出力を命令する手順と
を前記コンピュータに実行させるプログラム。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【公開番号】特開2012−227724(P2012−227724A)
【公開日】平成24年11月15日(2012.11.15)
【国際特許分類】
【出願番号】特願2011−93414(P2011−93414)
【出願日】平成23年4月19日(2011.4.19)
【出願人】(000003078)株式会社東芝 (54,554)
【Fターム(参考)】
【公開日】平成24年11月15日(2012.11.15)
【国際特許分類】
【出願日】平成23年4月19日(2011.4.19)
【出願人】(000003078)株式会社東芝 (54,554)
【Fターム(参考)】
[ Back to top ]