電子機器及び表示制御方法
【課題】 三次元映像上に表示される二次元映像のオブジェクトを適切に認識できる電子機器及び表示制御方法を提供すること。
【解決手段】 実施形態によれば、電子機器は、フォーマット変換手段、映像合成手段、視差画像生成手段及び表示画像生成手段を具備する。フォーマット変換手段は、第1解像度を有する複数の画像を含む第1フォーマットの映像フレームを第2フォーマットの映像フレームに変換する。映像合成手段は、前記第2フォーマットの映像フレームに二次元映像のオブジェクトを合成することによって合成映像フレームを生成する。視差画像生成手段は、前記合成映像フレーム内の前記複数の画像に対応する複数の領域を用いて、前記第1解像度よりも高い第2解像度を有する複数の視差画像を生成する。表示画像生成手段は、前記生成された第2解像度を有する複数の視差画像に含まれる画素を所定のパターンで配置して表示画像を生成する。
【解決手段】 実施形態によれば、電子機器は、フォーマット変換手段、映像合成手段、視差画像生成手段及び表示画像生成手段を具備する。フォーマット変換手段は、第1解像度を有する複数の画像を含む第1フォーマットの映像フレームを第2フォーマットの映像フレームに変換する。映像合成手段は、前記第2フォーマットの映像フレームに二次元映像のオブジェクトを合成することによって合成映像フレームを生成する。視差画像生成手段は、前記合成映像フレーム内の前記複数の画像に対応する複数の領域を用いて、前記第1解像度よりも高い第2解像度を有する複数の視差画像を生成する。表示画像生成手段は、前記生成された第2解像度を有する複数の視差画像に含まれる画素を所定のパターンで配置して表示画像を生成する。
【発明の詳細な説明】
【技術分野】
【0001】
本発明の実施形態は、三次元映像を表示する電子機器及び該機器に適用される表示制御方法に関する。
【背景技術】
【0002】
近年、三次元映像を観賞するための様々な電子機器が提供されている。このような電子機器の一つに、裸眼立体視方式(裸眼3D方式)による電子機器がある。裸眼立体視方式では、例えば、液晶ディスプレイ(LCD)の画面に左眼用映像と右眼用映像とを表示し、LCD上に配置されたレンズによって、それら映像内の画素に対応する光線が射出される方向を制御する。
【0003】
画面には、左眼用映像に含まれる画素と右眼用映像に含まれる画素とが所定の順序で配置される。例えば、左眼用映像に含まれる画素と右眼用映像に含まれる画素とは、画面に交互に配置される。LCD上のレンズは、配置された画素に対応する光線が射出される方向を制御する。これによりユーザは、左眼用映像の画素を左眼で、右眼用映像の画素を右眼で見ることができるので、三次元映像(立体映像)を知覚することができる。
【先行技術文献】
【特許文献】
【0004】
【特許文献1】特開平10−124701号公報
【発明の概要】
【発明が解決しようとする課題】
【0005】
ところで、三次元映像を表示する電子機器には、画面内に、三次元映像を表示する三次元映像表示領域と二次元映像を表示する二次元映像表示領域とを設けることができるものがある。例えば、パーソナルコンピュータのような電子機器では、画面内に、デスクトップ画面のような二次元映像を表示するための領域と、三次元映像を表示するための領域(三次元映像データを再生するアプリケーションプログラムのウィンドウ)とが設けられる。
【0006】
画面内には、さらに、マウスのようなポインティングデバイスによって指示される位置を示すカーソルが表示される。このカーソルは、二次元映像のオブジェクトであるが、二次元映像であるデスクトップ画面内だけでなく、三次元映像表示領域内を指示することも想定される。上述のように、三次元映像表示領域では、左眼用映像に含まれる画素と右眼用映像に含まれる画素とが所定の順序で画面に配置される。三次元映像表示領域内のカーソルに含まれる画素は、左眼用映像及び右眼用映像に含まれる画素と同様に画面上に配置される。そのため、カーソルは、本来とは異なる位置に異なる形状で表示されてしまう。したがってユーザは、三次元映像表示領域内に表示される、カーソルのような二次元映像のオブジェクトを正しく認識することが困難になる可能性がある。
【0007】
本発明は、三次元映像上に表示される二次元映像のオブジェクトを適切に認識できる電子機器及び表示制御方法を提供することを目的とする。
【課題を解決するための手段】
【0008】
実施形態によれば、電子機器は、フォーマット変換手段、映像合成手段、視差画像生成手段、及び表示画像生成手段を具備する。フォーマット変換手段は、三次元映像データに含まれる、第1解像度を有する複数の画像を含む第1フォーマットの映像フレームを、第2フォーマットの映像フレームに変換する。映像合成手段は、前記第2フォーマットの映像フレームに二次元映像のオブジェクトを合成することによって、合成映像フレームを生成する。視差画像生成手段は、前記合成映像フレームを用いて、前記第1解像度よりも高い第2解像度を有する複数の視差画像を生成する。表示画像生成手段は、前記生成された第2解像度を有する複数の視差画像に含まれる画素を所定のパターンで配置することによって、画面に表示するための表示画像を生成する。
【図面の簡単な説明】
【0009】
【図1】実施形態に係る電子機器の外観の例を示す斜視図。
【図2】同実施形態の電子機器のシステム構成の例を示すブロック図。
【図3】同実施形態の電子機器によって表示される画面の例を示す図。
【図4】同実施形態の電子機器によって実行される映像コンテンツ再生プログラムの構成例を示すブロック図。
【図5】同実施形態の電子機器によって用いられる三次元映像データに含まれるサイドバイサイドフォーマットの映像フレームと、カーソルとを含む映像の例を示す図。
【図6】図5に示す映像を用いて生成される左眼用画像と右眼用画像との例を示す図。
【図7】同実施形態の電子機器によって生成される、インターリーブ形式の映像フレームとカーソルとを含む映像の例を示す図。
【図8】同実施形態の電子機器によって用いられる三次元映像データに含まれるトップアンドボトムフォーマットの映像フレームと、カーソルとを含む映像の例を示す図。
【図9】図8に示す映像を用いて生成される左眼用画像と右眼用画像との例を示す図。
【図10】同実施形態の電子機器によって生成される、インターリーブ形式の映像フレームとカーソルとを含む映像の別の例を示す図。
【図11】同実施形態の電子機器によって生成される、2視点の視差画像に含まれる画素が格子状に配置された映像フレームとカーソルとを含む映像の例を示す図。
【図12】同実施形態の電子機器によって用いられる三次元映像データに含まれる4視点の視差画像を含む映像フレームと、カーソルとを含む映像の例を示す図。
【図13】同実施形態の電子機器によって生成される、4視点の視差画像に含まれる画素が格子状に配置された映像フレームとカーソルとを含む映像の例を示す図。
【図14】同実施形態の電子機器によって実行される表示制御処理の手順の例を示すフローチャート。
【発明を実施するための形態】
【0010】
以下、実施の形態について図面を参照して説明する。
図1は、実施形態に係る電子機器の外観を示す斜視図である。この電子機器は、例えばノートブックタイプのパーソナルコンピュータ1として実現される。また、この電子機器は、テレビジョン受信機、映像データを記録・再生するためのパーソナルビデオレコーダ(例えば、ハードディスクレコーダ、DVDレコーダ)、タブレットPC、スレートPC、PDA、カーナビゲーション装置、スマートフォン、ゲーム機等として実現され得る。
【0011】
図1に示すように、本コンピュータ1は、コンピュータ本体2と、ディスプレイユニット3とから構成される。
ディスプレイユニット3には、三次元ディスプレイ(3Dディスプレイ)15が組み込まれている。ディスプレイユニット3は、コンピュータ本体2の上面が露出される開放位置とコンピュータ本体2の上面を覆う閉塞位置との間を回動自在にコンピュータ本体2に取り付けられている。また、3Dディスプレイ15は、LCD(liquid crystal display)15Aとレンズユニット15Bとを備える。レンズユニット15Bは、LCD15A上にはり合わせられている。レンズユニット15Bは、LCD15Aに表示される映像に含まれる複数の画素に対応する複数の光線をそれぞれ所定の方向に射出するための複数のレンズ機構を含む。レンズユニット15Bは、例えば、三次元映像表示に必要な機能を電気的にスイッチングできる液晶GRIN(gradient index)レンズである。この液晶GRINレンズでは、平坦な液晶層を用いて電極で屈折率分布を作るので、例えば、画面内の指定した領域で三次元映像を表示し、他の領域で二次元映像を表示することができる。つまり、三次元映像を表示する領域と二次元映像を表示する領域とでレンズの屈折率を変えることにより、三次元映像を表示するための三次元映像表示モードと、二次元映像を表示するための二次元映像表示モードとを、画面内で部分的に切り替えることができる。三次元映像表示モードに設定された領域では、その領域に表示される左眼用映像と右眼用映像とを含む三次元映像が眼間距離や観視距離等に応じた視差を有するように、屈折率が変更される。二次元映像表示モードに設定された領域では、その領域に表示される二次元映像が屈折されることなくそのまま表示されるように、屈折率が変更される。3Dディスプレイ15では、画面内に設定された、任意の位置及びサイズを有する複数の領域それぞれを、三次元映像表示モードと二次元映像表示モードのいずれか一方に設定できる。
【0012】
3Dディスプレイ15は、三次元映像表示モードの領域では左眼用映像と右眼用画像とを表示し、二次元映像表示モードの領域では二次元映像を表示する。そのためユーザは、画面内の三次元映像表示モードに設定された領域を見たとき三次元映像を知覚し、二次元映像表示モードに設定された領域を見たとき二次元映像を知覚することができる。
【0013】
コンピュータ本体2は、薄い箱形の筐体を有しており、その上面には、キーボード26、本コンピュータ1を電源オン/電源オフするためのパワーボタン28、入力操作パネル29、タッチパッド27、スピーカ18A,18Bなどが配置されている。入力操作パネル29上には、各種操作ボタンが設けられている。これらボタン群には、TV機能(視聴、録画、録画された放送番組データ/ビデオデータの再生)を制御するための操作ボタン群も含まれている。
【0014】
コンピュータ本体2の例えば右側面には、TV放送用のアンテナ端子30Aが設けられている。また、コンピュータ本体2の例えば背面には、例えばHDMI(high-definition multimedia interface)規格に対応した外部ディスプレイ接続端子が設けられている。この外部ディスプレイ接続端子は、放送番組データのような映像コンテンツデータに含まれる映像データ(動画像データ)を外部ディスプレイに出力するために用いられる。
【0015】
図2は、本コンピュータ1のシステム構成を示す図である。
本コンピュータ1は、図2に示すように、CPU11、ノースブリッジ12、主メモリ13、表示コントローラ14、ビデオメモリ(VRAM)14A、3Dディスプレイ15、サウスブリッジ16、サウンドコントローラ17、スピーカ18A,18B、BIOS−ROM19、LANコントローラ20、ハードディスクドライブ(HDD)21、光ディスクドライブ(ODD)22、無線LANコントローラ23、USBコントローラ24、エンベデッドコントローラ/キーボードコントローラ(EC/KBC)25、キーボード(KB)26、ポインティングデバイス27、TVチューナ30等を備えている。
【0016】
CPU11は、本コンピュータ1の動作を制御するプロセッサである。CPU11は、HDD21から主メモリ13にロードされる、オペレーティングシステム(OS)13A、ディスプレイドライバプログラム13Cのようなドライバプログラム、及び映像コンテンツ再生プログラム13B等のようなアプリケーションプログラムを実行する。
【0017】
映像コンテンツ再生プログラム13Bは、映像コンテンツデータを視聴するための機能を有するソフトウェアである。この映像コンテンツ再生プログラム13Bは、TVチューナ30によって受信された放送番組データを視聴するためのライブ再生処理、受信された放送番組データをHDD21に記録する録画処理、HDD21に記録された放送番組データ/ビデオデータを再生する再生処理、ネットワークを介して受信された映像コンテンツデータを再生する再生処理等を実行する。また、映像コンテンツ再生プログラム13Bは、DVDやBD(登録商標)のような記憶メディアやハードディスクのような記憶装置に格納された映像コンテンツデータを再生することもできる。
【0018】
さらに、映像コンテンツ再生プログラム13Bは、三次元映像を視聴するための機能も有する。映像コンテンツ再生プログラム13Bは、再生対象の映像コンテンツデータ(又は放送番組データ)に含まれる三次元映像を3Dディスプレイ15の画面に表示する。具体的には、映像コンテンツ再生プログラム13Bは、再生対象の映像コンテンツデータを用いて、三次元映像を表示するための映像フレームを生成する。この映像フレームのフォーマットには、例えば、サイドバイサイドフォーマット又はトップアンドボトムフォーマット等が用いられる。サイドバイサイドフォーマットの映像フレームは、左眼用画像と右眼用画像とが左右に並べて配置された映像フレームである。サイドバイサイドフォーマットの映像フレーム内の左眼用画像と右眼用画像の各々の水平方向の解像度(幅)は、例えば、映像フレームの水平方向の解像度の1/2である。トップアンドボトムフォーマットの映像フレームは、左眼用画像と右眼用画像とが上下に並べて配置された映像フレームである。また、トップアンドボトムフォーマットの映像フレーム内の左眼用画像と右眼用画像の各々の垂直方向の解像度(高さ)は、例えば、映像フレームの垂直方向の解像度の1/2である。
【0019】
また、映像コンテンツ再生プログラム13Bは、映像コンテンツデータに含まれる二次元映像を三次元映像にリアルタイムで変換して画面に表示することもできる。映像コンテンツ再生プログラム13Bは、様々な映像コンテンツデータ(例えば、放送番組データ、記憶メディアや記憶装置に格納されたビデオデータ、インターネット上のサーバから受信したビデオデータ、等)を2Dto3D変換することができる。つまり、映像コンテンツ再生プログラム13Bは、2Dto3D変換によって、三次元映像を表示するための映像フレームを生成する。
【0020】
三次元映像の表示には、例えば、裸眼立体視方式(例えば、インテグラルイメージング方式、レンチキュラ方式、パララックスバリア方式等)による3Dディスプレイ15が用いられる。ユーザは、裸眼立体視方式による3Dディスプレイ15に表示された映像を見ることにより、三次元映像を裸眼で知覚することができる。
【0021】
また、CPU11は、BIOS−ROM19に格納されたBIOS(Basic Input/Output System)も実行する。BIOSは、ハードウェア制御のためのプログラムである。
【0022】
ノースブリッジ12は、CPU11のローカルバスとサウスブリッジ16との間を接続するブリッジデバイスである。ノースブリッジ12には、主メモリ13をアクセス制御するメモリコントローラも内蔵されている。また、ノースブリッジ12は、表示コントローラ14との通信を実行する機能も有している。
【0023】
表示コントローラ14は、本コンピュータ1のディスプレイとして使用されるLCD15Aを制御するデバイスである。この表示コントローラ14によって生成される表示信号はLCD15Aに送られる。LCD15Aは、表示信号に基づいて映像を表示する。
【0024】
サウスブリッジ16は、PCI(Peripheral Component Interconnect)バス上及びLPC(Low Pin Count)バス上の各デバイスを制御する。また、サウスブリッジ16は、HDD21及びODD22を制御するためのIDE(Integrated Drive Electronics)コントローラ、及びBIOS−ROM19をアクセス制御するメモリコントローラが内蔵されている。さらに、サウスブリッジ16は、サウンドコントローラ17及びLANコントローラ20との通信を実行する機能も有している。
【0025】
また、サウスブリッジ16は、映像コンテンツ再生プログラム13Bによる要求等に応じて、レンズユニット15B内の複数の領域がそれぞれ三次元映像表示モードと二次元映像表示モードのいずれか一方に設定されるように制御するための制御信号を、レンズユニット15Bに出力することができる。レンズユニット15Bは、サウスブリッジ16によって出力された制御信号に応じて、例えば、複数の領域それぞれに対応する液晶層内の部分の屈折率を変更することにより、その領域を三次元映像表示モードと二次元映像表示モードのいずれか一方に設定する。
【0026】
サウンドコントローラ17は音源デバイスであり、再生対象のオーディオデータをスピーカ18A,18Bに出力する。LANコントローラ20は、例えばEthernet(登録商標)規格の有線通信を実行する有線通信デバイスであり、無線LANコントローラ23は、例えばIEEE 802.11規格の無線通信を実行する無線通信デバイスである。また、USBコントローラ24は、例えばUSB2.0規格のケーブルを介して外部機器との通信を実行する。
【0027】
EC/KBC25は、電力管理を行うためのエンベデッドコントローラと、キーボード(KB)26及びポインティングデバイス27を制御するためのキーボードコントローラとが集積された1チップマイクロコンピュータである。このEC/KBC25は、ユーザによる操作に応じて本コンピュータ1をパワーオン/パワーオフする機能を有している。
【0028】
TVチューナ30はテレビジョン(TV)放送信号によって放送される放送番組データを受信する受信装置であり、アンテナ端子30Aに接続されている。このTVチューナ30は、例えば、地上波デジタルTV放送のようなデジタル放送番組データを受信可能なデジタルTVチューナとして実現されている。また、TVチューナ30は、外部機器から入力されるビデオデータをキャプチャする機能も有している。
【0029】
図3に示すように、3Dディスプレイ15には、二次元映像表示領域51と三次元映像表示領域52とを設けることができる。3Dディスプレイ15では、LCD15A上の二次元映像表示領域51に二次元映像が表示され、三次元映像表示領域52に三次元映像を表示するための映像(例えば、左眼用画像と右眼用画像)が表示される。そして、二次元映像表示領域51に対応するレンズユニット15Bが二次元映像表示モードに設定され、三次元映像表示領域52に対応するレンズユニット15Bが三次元映像表示モードに設定される。これによりユーザは、二次元映像表示領域51を見た際には二次元映像を知覚し、三次元映像表示領域52を見た際には三次元映像を知覚することができる。
【0030】
二次元映像表示領域51には、例えば、背景、アイコン、タスクバー、ツールバー、ダイアログ、実行中のアプリケーションプログラムに対応するウィンドウ等の二次元映像53が表示される。三次元映像表示領域52には、例えば、映像コンテンツ再生プログラム13Bによって再生される三次元映像が表示される。また、二次元映像表示領域51と三次元映像表示領域52とには、マウスやタッチパッド等のポインティングデバイス27によって指示される位置を示す、カーソルのような二次元映像(以下、二次元映像オブジェクトとも称する)54が表示される。つまり、カーソルのような二次元映像オブジェクト54は、二次元映像表示領域51内だけでなく、三次元映像表示領域52内にも表示され得る。
【0031】
図4は、3Dディスプレイ15に二次元映像と三次元映像とを表示するための構成例を示す。3Dディスプレイ15には、映像コンテンツ再生プログラム13Bによって生成された三次元映像を表示するための映像と、OS13Aによって生成された二次元映像を表示するための映像とが、ディスプレイドライバプログラム13Cによって合成され、表示される。
【0032】
具体的には、OS13Aは、二次元映像生成部133を備える。二次元映像生成部133は、二次元映像表示領域51に表示するための二次元映像を生成する。二次元映像生成部133は、例えば、背景、アイコン、タスクバー、ツールバー、ダイアログ、実行中のアプリケーションプログラムに対応するウィンドウ等の二次元映像53を生成する。また、二次元映像生成部133は、マウスやタッチパッド等のポインティングデバイス27によって指示される位置を示すカーソルのような二次元映像オブジェクト54も生成する。二次元映像生成部133は、生成された二次元映像53,54をディスプレイドライバプログラム13Cに出力する。カーソルのように、画面15上での位置やサイズを変更可能な二次元映像オブジェクト54は、三次元映像表示領域52内にも表示され得る。なお、ウィンドウ等の他の二次元映像も、画面15上での位置やサイズが変更可能である場合、二次元映像オブジェクト54に含まれる。
【0033】
また、映像コンテンツ再生プログラム13Bは、映像リード部131とフォーマット変換部132とを備える。
映像リード部131は、例えば、HDD21から再生対象の映像コンテンツデータを読み出す。また、映像リード部131は、ODD22に格納されたDVDやBDから映像コンテンツデータを読み出してもよい。映像リード部131は、さらに、ネットワークを介して映像コンテンツデータを受信してもよい。この映像コンテンツデータは、例えば、三次元映像を表示するための複数の映像フレームに対応する三次元映像データを含む。この複数の映像フレームの各々は、第1解像度を有する複数の視差画像が、第1フォーマットに基づいて配置された映像フレームである。より具体的には、この複数の映像フレームの各々は、例えば、サイドバイサイドフォーマットやトップアンドボトムフォーマット(ハーフフォーマット)のように、映像フレームに設けられた2つの領域に、2視点の視差画像(例えば、左眼用画像と右眼用画像)が配置された画像である。なお、複数の映像フレームの各々は、例えば、4視点の視差画像が2×2の領域に並べられた画像や、9視点の視差画像が3×3の領域に並べられた画像のように、より多くの視点に対応する視差画像が並べられた画像であってもよい。
【0034】
映像リード部131は、複数の映像フレームを先頭から順次、処理対象の映像フレームに設定する。そして、映像リード部131は、処理対象の映像フレームをフォーマット変換部132に出力する。
【0035】
フォーマット変換部132は、映像リード部131によって出力された処理対象の映像フレームを第1フォーマットから第2フォーマットに変換する。フォーマット変換部132は、例えば、サイドバイサイドフォーマットやトップアンドボトムフォーマットである処理対象の映像フレームを、インターリーブフォーマットの映像フレームに変換する。
【0036】
具体的には、フォーマット変換部132は、例えば、サイドバイサイドフォーマットの映像フレームに含まれる左眼用画像と右眼用画像とを検出し、左眼用画像に含まれる垂直方向の画素のラインと、右眼用画像に含まれる垂直方向の画素のラインとが交互に配置(インターリーブ)された映像フレームを生成する。また、フォーマット変換部132は、例えば、トップアンドボトムフォーマットの映像フレームに含まれる左眼用画像と右眼用画像とを検出し、左眼用画像に含まれる水平方向の画素のライン(走査線)と、右眼用画像に含まれる水平方向の画素のラインとが交互に配置(インターリーブ)された映像フレームを生成する。そして、フォーマット変換部132は、フォーマットが変換された映像フレームをディスプレイドライバプログラム13Cに出力する。なお、フォーマット変換部132は、2Dto3D変換によって生成された映像フレームを、第2フォーマットの映像フレームに変換することもできる。
【0037】
ディスプレイドライバプログラム13Cは、映像合成部134を備える。映像合成部134は、二次元映像生成部133によって出力された二次元映像と、フォーマット変換部132によって出力された映像フレームとが合成された映像(合成映像フレーム)を生成する。上述のように、二次元映像は、画面に表示される背景、アイコン、タスクバー、ツールバー、ダイアログ、実行中のアプリケーションプログラムに対応するウィンドウ等の画像を含む。二次元映像はさらに、ポインティングデバイス27によって指示される位置を示すカーソルのような画像(二次元映像オブジェクト)を含む。また、映像合成部134は、フォーマット変換部132によって出力された映像フレーム(第2フォーマットに変換された三次元映像表示のための映像フレーム)も通常の二次元映像と同様に扱う。
【0038】
映像合成部134は、二次元映像表示領域51に二次元映像が配置され、且つ三次元映像表示領域52にフォーマットが変換された映像フレームが配置された合成映像フレームを生成する。そして、映像合成部134は、生成された合成映像フレーム上にさらに、二次元映像オブジェクトを合成する。二次元映像オブジェクトは、ポインティングデバイス27によって指示されている位置に応じて、二次元映像表示領域51内に限らず、三次元映像表示領域52内にも合成され得る。映像合成部134は、合成された映像(合成映像フレーム)を3Dディスプレイ15に出力する。
【0039】
3Dディスプレイ15は、画像補間部151と表示画像生成部152とを備える。
画像補間部151は、映像合成部134によって出力された合成映像フレーム内の、三次元映像表示領域52に対応する映像を用いて、補間された視差画像を生成する。三次元映像表示領域52に対応する映像内には、複数の視差画像に対応する複数の領域が含まれている。画像補間部151は、複数の視差画像に対応する複数の領域を用いて、第1解像度よりも高い第2解像度を有する複数の視差画像を生成する。
【0040】
より具体的には、三次元映像表示領域52に対応する映像内には、例えば、左眼用画像(第1画像)に含まれる画素ラインと右眼用画像(第2画像)に含まれる画素ラインとが垂直方向(又は水平方向)に交互に配置されている。また、それら配置された画素ライン上に、カーソルのような二次元映像オブジェクトが合成(描画)されている。
【0041】
画像補間部151は、三次元映像表示領域52に対応する映像から、左眼用画像に対応する画素ラインと右眼用画像に対応する画素ラインとを検出する。画像補間部151は、左眼用画像に対応する画素ラインと右眼用画像に対応する画素ラインとの上に合成されている二次元映像オブジェクト(二次元映像のオブジェクトの一部)も、左眼用画像に対応する画素ライン及び右眼用画像に対応する画素ラインと見なして検出する。画像補間部151は、左眼用画像に対応する画素ラインを用いて、3Dディスプレイ15に三次元映像を表示するための左眼用画像(すなわち、第2解像度を有する第1視差画像)を生成し、右眼用画像に対応する画素ラインを用いて、3Dディスプレイ15に三次元映像を表示するための右眼用画像(すなわち、第2解像度を有する第2視差画像)を生成する。
【0042】
左眼用画像(第1画像)に対応する画素ライン及び右眼用画像(第2画像)に対応する画素ラインはそれぞれ、3Dディスプレイ15に三次元映像を表示するための左眼用画像(第1視差画像)及び右眼用画像(第2視差画像)に対して、水平方向又は垂直方向に1/2の解像度を有する。そのため、画像補間部151は、第1解像度の左眼用画像に対応する画素ラインを補間することによって、第1解像度よりも大きい第2解像度の左眼用画像(例えば、水平方向又は垂直方向に2倍の解像度を有する左眼用画像)を生成する。同様に、画像補間部151は、第1解像度の右眼用画像に対応する画素ラインを補間することによって、第2解像度の右眼用画像(例えば、水平方向又は垂直方向に2倍の解像度を有する右眼用画像)を生成する。上述のように、第1解像度の左眼用画像に対応する画素ラインと、第2解像度の右眼用画像に対応する画素ラインとには、二次元映像のオブジェクトの一部が合成されている。そのため、画像補間部151は、二次元映像のオブジェクトに対応する画素も補間することによって、第2解像度の左眼用画像と第2解像度の右眼用画像とを生成する。すなわち、画像補間部151は、左眼用画像に対応する画素ラインと右眼用画像に対応する画素ラインとを用いて、引き伸ばされた左眼用画像と右眼用画像とを生成する。画像補間部151は、映像合成部134によって出力された映像内の、二次元映像表示領域51に対応する映像と、三次元映像を表示するための左眼用画像及び右眼用画像とを表示画像生成部152に出力する。
【0043】
表示画像生成部152は、画像補間部151によって出力された二次元映像表示領域51に対応する映像と、左眼用画像及び右眼用画像とを用いて、LCD15Aに表示される表示画像を生成する。表示画像生成部152は、画像補間部151によって出力された映像を用いて、LCD15Aでのピクセル(サブピクセル)の配置に応じて、サブピクセル単位で画素が並び換えられた表示画像を生成する。具体的には、表示画像生成部152は、二次元映像表示領域51に対応する映像に含まれる画素を、表示画像内の対応する領域(ピクセル)に配置する。そして、表示画像生成部152は、左眼用画像に含まれる画素と右眼用画像に含まれる画素とを所定のパターン(三次元映像表示のためのパターン)で配置する。表示画像生成部152は、例えば、レンズユニット15Bによって左眼で知覚されるように制御される領域(ピクセル)に、左眼用画像の画素を配置し、レンズユニット15Bによって右眼で知覚されるように制御される領域(ピクセル)に、右眼用画像の画素を配置する。表示画像生成部152は、生成された表示画像をLCD15Aに出力する。
【0044】
LCD15Aは、表示画像生成部152によって出力された表示画像を画面に表示する。表示された画像に含まれる複数の画素に対応する複数の光線は、レンズユニット15Bによってそれぞれ所定の方向に射出されるように制御される。これによりユーザは、二次元映像表示領域51に表示された二次元映像と、三次元映像表示領域52に表示された三次元映像とを知覚することができる。なお、上述の画像補間部151と表示画像生成部152とは、3Dディスプレイ15内ではなく、表示コントローラ14内に設けられてもよい。
【0045】
以下では、図5から図13を参照して、フォーマット変換部132によるフォーマットの変換について説明する。
図5は、映像合成部134によって生成された合成映像フレームの内の、三次元映像表示領域52に対応する映像61の例を示す。図5に示す例では、フォーマット変換部132によって、三次元映像を表示するための映像フレームが第2フォーマットに変換されていないことを想定する。そのため、映像61には、サイドバイサイドフォーマット(第1フォーマット)の映像フレームに含まれる左眼用画像61Lと右眼用画像61Rとが含まれ、右眼用画像61Rの上に二次元映像オブジェクト541が合成されている。
【0046】
図6は、画像補間部151が、左眼用画像(第1画像)61Lと右眼用画像(第2画像)61Rとを用いて、3Dディスプレイ15に三次元映像を表示するための左眼用画像62Lと右眼用画像62Rとを生成した例を示す。画像補間部151は、左眼用画像61Lを引き伸ばすことによって(左眼用画像61Lを補間することによって)、3Dディスプレイ15に三次元映像を表示するための左眼用画像62Lを生成する。また、画像補間部151は、右眼用画像61Rを引き伸ばすことによって(右眼用画像61Rを補間することによって)、3Dディスプレイ15に三次元映像を表示するための右眼用画像62Rを生成する。そして、表示画像生成部152は、左眼用画像62Lに含まれる画素と右眼用画像62Rに含まれる画素とを所定のパターンで配置することによって、LCD15Aに表示される表示画像を生成する。
【0047】
しかし、右眼用画像61Rが引き伸ばされたことによって、図5に示す映像61上の二次元映像オブジェクト541と図6に示す右眼用画像62R上の二次元映像オブジェクト542とでは、そのサイズや位置が異なっている。そのため、3Dディスプレイ15には、二次元映像オブジェクト541が適切に表示されない。したがってユーザは、3Dディスプレイ15の三次元映像表示領域52内に表示される、カーソルのような二次元映像オブジェクトを適切な位置及びサイズで認識することができず、カーソル等を使用できなくなる。
【0048】
そのため本実施形態では、上述のように、フォーマット変換部132によって、三次元映像を表示するための映像フレームが第1フォーマットから第2フォーマットに変換される。
図7は、図5に示すサイドバイサイドフォーマットの映像フレームが、フォーマット変換部132によってインターリーブフォーマットの映像フレームに変換された例を示す。映像63では、左眼用画像(第1画像)に対応する垂直方向の画素ライン63Lと右眼用画像(第2画像)に対応する垂直方向の画素ライン63Rとが交互に配置されている。そして、交互に配置された画素ライン63L,63Rの上に二次元映像オブジェクト(カーソル)541が合成されている。そのため、二次元映像オブジェクト541に対応する画素は、左眼用画像に対応する領域(画素ライン群)63Lと右眼用画像に対応する領域(画素ライン群)63Rの両方に含まれている。
【0049】
画像補間部151は、左眼用画像(第1画像)に対応する画素ライン群63Lを用いて、3Dディスプレイ15に三次元映像を表示するための左眼用画像(第1視差画像)を生成する。画像補間部151は、右眼用画像(第2画像)に対応する画素ライン群63Rを用いて、3Dディスプレイ15に三次元映像を表示するための右眼用画像(第2視差画像)を生成する。そして、表示画像生成部152は、生成された左眼用画像(第1視差画像)に含まれる画素と右眼用画像(第2視差画像)に含まれる画素とを所定のパターンで配置することによって、LCD15Aに表示される表示画像を生成する。これにより、三次元映像表示領域52内に表示されるカーソルのような二次元映像オブジェクト541を適切な位置に適切なサイズで表示することができる。
【0050】
フォーマット変換部132によって、左眼用画像61Lと右眼用画像61Rとが画素ライン毎にインターリーブされた映像63では、左眼用画像61Lに対応する画素ライン63Lと右眼用画像61Rに対応する画素ライン63Rとの上に、二次元映像オブジェクト541の一部がそれぞれ合成される。換言すると、左眼用画像61Lに対応する画素ライン63Lと右眼用画像61Rに対応する画素ライン63Rの各々では、二次元映像オブジェクト541の一部が欠落している。そのため、3Dディスプレイ15によって三次元映像表示領域52に表示される画像では、二次元映像オブジェクト541の一部が欠けているように見える可能性がある。しかしながら、三次元映像表示領域52に表示される二次元映像オブジェクト541は適切な位置及びサイズに維持されているので、ユーザは、三次元映像表示領域52内でも、カーソル等の二次元映像オブジェクト541を、本来の位置及びサイズで認識することができる。ユーザは、例えば、カーソル541によって指示される位置にずれがなくなるので、カーソル541を適切に認識できる。
【0051】
また、図8は、映像合成部134によって生成された合成映像フレームの内の、三次元映像表示領域52に対応する映像64の例を示す。図8に示す例では、フォーマット変換部132によって、三次元映像を表示するための映像フレームが第2フォーマットに変換されていないことを想定する。そのため、映像64には、トップアンドボトムフォーマット(第1フォーマット)の映像フレームに含まれる左眼用画像64Lと右眼用画像64Rとが含まれ、右眼用画像64Rの上に二次元映像オブジェクト541が合成されている。
【0052】
図9は、画像補間部151が、左眼用画像(第1画像)64Lと右眼用画像(第2画像)64Rとを用いて、3Dディスプレイ15に三次元映像を表示するための左眼用画像65Lと右眼用画像65Rとを生成した例を示す。画像補間部151は、左眼用画像64Lを引き伸ばすことによって、3Dディスプレイ15に三次元映像を表示するための左眼用画像65Lを生成する。また、画像補間部151は、右眼用画像64Rを引き伸ばすことによって、3Dディスプレイ15に三次元映像を表示するための右眼用画像65Rを生成する。そして、表示画像生成部152は、左眼用画像65Lに含まれる画素と右眼用画像65Rに含まれる画素とを所定のパターンで配置することによって、LCD15Aに表示される表示画像を生成する。
【0053】
しかし、右眼用画像64Rが引き伸ばされたことによって、図8に示す映像64上の二次元映像オブジェクト541と図9に示す右眼用画像65R内の二次元映像オブジェクト543とでは、そのサイズや位置が異なっている。そのため、3Dディスプレイ15には二次元映像オブジェクト541が適切に表示されない。したがってユーザは、3Dディスプレイ15の三次元映像表示領域52内に表示される、カーソルのような二次元映像オブジェクトを適切な位置及びサイズで認識することができず、カーソル等を使用できなくなる。
【0054】
そのため本実施形態では、上述のように、フォーマット変換部132によって、三次元映像を表示するための映像フレームが第1フォーマットから第2フォーマットに変換される。
図10は、図8に示すトップアンドボトムフォーマットの映像フレームが、フォーマット変換部132によってインターリーブフォーマットの映像フレームに変換された例を示す。映像66では、左眼用画像に対応する水平方向の画素ライン66Lと右眼用画像に対応する水平方向の画素ライン66Rとが交互に配置されている。そして、交互に配置された画素ライン66L,66Rの上に二次元映像オブジェクト(カーソル)541が合成されている。そのため、二次元映像オブジェクト541に対応する画素は、左眼用画像に対応する領域(画素ライン群)66Lと右眼用画像に対応する領域(画素ライン群)66Rの両方に含まれている。
【0055】
画像補間部151は、左眼用画像(第1画像)に対応する画素ライン群66Lを用いて、3Dディスプレイ15に三次元映像を表示するための左眼用画像(第1視差画像)を生成する。画像補間部151は、右眼用画像(第2画像)に対応する画素ライン群66Rを用いて、3Dディスプレイ15に三次元映像を表示するための右眼用画像(第2視差画像)を生成する。そして、表示画像生成部152は、生成された左眼用画像(第1視差画像)に含まれる画素と右眼用画像(第2視差画像)に含まれる画素とを所定のパターンで配置することによって、LCD15Aに表示される表示画像を生成する。これにより、三次元映像表示領域52内に表示されるカーソルのような二次元映像オブジェクト541を適切な位置に適切なサイズで表示することができる。
【0056】
また、図11は、図5又は図8に示す映像フレームが、フォーマット変換部132によって、画素が格子状に配置されるフォーマットに変換された例を示す。映像67では、左眼用画像61L(又は64L)に含まれる画素67Lと右眼用画像61R(又は64R)に含まれる画素67Rとが格子状に配置されている。そして、格子状に配置された画素67L,67Rの上に二次元映像オブジェクト(カーソル)541が合成されている。そのため、二次元映像オブジェクト541に対応する画素は、左眼用画像に対応する画素67Lと右眼用画像に対応する画素67Rの両方に含まれている。画像補間部151は、左眼用画像(第1画像)に対応する画素群67Lを用いて、3Dディスプレイ15に三次元映像を表示するための左眼用画像(第1視差画像)を生成する。画像補間部151は、右眼用画像(第2画像)に対応する画素群67Rを用いて、3Dディスプレイ15に三次元映像を表示するための右眼用画像(第2視差画像)を生成する。そして、表示画像生成部152は、生成された左眼用画像(第1視差画像)に含まれる画素と右眼用画像(第2視差画像)に含まれる画素とを所定のパターンで配置することによって、LCD15Aに表示される表示画像を生成する。これにより、三次元映像表示領域52内に表示されるカーソルのような二次元映像オブジェクト541を適切な位置に適切なサイズで表示することができる。
【0057】
なお、再生対象の映像コンテンツデータ(三次元映像データ)には、4視点に対応する視差画像を含む映像フレームが含まれてもよい。
図12は、映像合成部134によって生成された合成映像フレームの内の、三次元映像表示領域52に対応する映像68の例を示す。図12に示す例では、フォーマット変換部132によって、三次元映像を表示するための映像フレームのフォーマットが変換されていないことを想定する。そのため、映像68には、4視点に対応する視差画像681,682,683,684が含まれ、視差画像684の上に二次元映像オブジェクト541が合成されている。
【0058】
そして、図13は、図12に示す映像フレームが、フォーマット変換部132によって第2フォーマットに変換された例を示す。映像69では、視差画像681,682,683,684それぞれに含まれる画素691,692,693,694が格子状に配置されている。そして、格子状に配置された画素691,692,693,694の上に二次元映像オブジェクト(カーソル)541が合成されている。そのため、二次元映像オブジェクト541に対応する画素は、視差画像681,682,683,684それぞれに対応する画素691,692,693,694に含まれている。画像補間部151は、視差画像681に対応する画素群691を用いて、3Dディスプレイ15に三次元映像を表示するための視差画像を生成する。画像補間部151は、視差画像682に対応する画素群692を用いて、3Dディスプレイ15に三次元映像を表示するための視差画像を生成する。画像補間部151は、視差画像683に対応する画素群693を用いて、3Dディスプレイ15に三次元映像を表示するための視差画像を生成する。また、画像補間部151は、視差画像684に対応する画素群694を用いて、3Dディスプレイ15に三次元映像を表示するための視差画像を生成する。そして、表示画像生成部152は、生成された視差画像それぞれに含まれる画素を所定のパターンで配置することによって、LCD15Aに表示される表示画像を生成する。これにより、三次元映像表示領域52内に表示されるカーソルのような二次元映像オブジェクト541を適切な位置に適切なサイズで表示することができる。
【0059】
次いで、図14のフローチャートを参照して、コンピュータ1によって実行される表示制御処理の手順について説明する。
まず、映像リード部131は、三次元映像の再生が要求されているか否かを判定する(ブロックB101)。三次元映像の再生が要求されていない場合(ブロックB101のNO)、ブロックB101に戻り、再度、三次元映像の再生が要求されているか否かが判定される。
【0060】
三次元映像の再生が要求されている場合(ブロックB101のYES)、映像リード部131は、三次元映像データを含む映像コンテンツデータを読み出す(ブロックB102)。三次元映像データは、例えば、複数の映像フレームに対応するデータである。この複数の映像フレームの各々は、例えば、第1フォーマット(例えば、サイドバイサイドフォーマットやトップアンドボトムフォーマット)で、2視点の視差画像(例えば、左眼用画像と右眼用画像)が並べられた画像である。なお、複数の映像フレームの各々は、例えば、4視点の視差画像が並べられた画像のように、より多くの視点に対応する視差画像が並べられた画像であってもよい。
【0061】
映像リード部131は、三次元映像データに含まれる複数の映像フレームの内の先頭の映像フレームを処理対象の映像フレームに設定する(ブロックB103)。そして、フォーマット変換部132は、処理対象の映像フレームのフォーマットを変換する(ブロックB104)。フォーマット変換部132は、例えば、第1フォーマットである処理対象の映像フレームを、第2フォーマット(例えば、インターリーブフォーマット)の映像フレームに変換する。フォーマット変換部132は、例えば、処理対象のフレームに含まれる左眼用画像と右眼用画像とを検出し、左眼用画像に対応する画素ラインと右眼用画像に対応する画素ラインとが交互に配置された映像フレームを、第2フォーマットの映像フレームとして生成する。
【0062】
次いで、映像合成部134は、OS13A(二次元映像生成部133)によって生成されたデスクトップ画像のような二次元映像と、フォーマットが変換された映像フレームとを合成することによって、合成映像フレームを生成する(ブロックB105)。二次元映像は、画面に表示される背景、アイコン、タスクバー、ツールバー、ダイアログ、実行中のアプリケーションプログラムに対応するウィンドウ等の画像を含む。二次元映像はさらに、ポインティングデバイス27によって指示される位置を示すカーソルのような二次元映像オブジェクトを含む。映像合成部134は、例えば、二次元映像と、フォーマットが変更された映像フレームとを合成する。そして、二次元映像合成部134は、合成された映像上に二次元映像オブジェクトを合成する。
【0063】
そして、画像補間部151は、合成映像フレーム内の、三次元映像表示領域52に対応する映像を用いて、補間された視差画像を生成する(ブロックB106)。具体的には、例えば、画像補間部151は、三次元映像表示領域52に対応する映像から、左眼用画像に対応する画素ラインと右眼用画像に対応する画素ラインとを検出する。左眼用画像に対応する画素ラインと右眼用画像に対応する画素ラインとの上に合成されている二次元映像オブジェクト(二次元映像のオブジェクトの一部)も、左眼用画像に対応する画素ライン及び右眼用画像に対応する画素ラインと見なして検出される。画像補間部151は、左眼用画像(第1画像)に対応する画素ラインを用いて、3Dディスプレイ15に三次元映像を表示するための左眼用画像(第1視差画像)を生成し、右眼用画像(第2画像)に対応する画素ラインを用いて、3Dディスプレイ15に三次元映像を表示するための右眼用画像(第2視差画像)を生成する。
【0064】
次いで、表示画像生成部152は、合成映像フレーム内の二次元映像表示領域51に対応する映像と、生成された視差画像(第1視差画像及び第2視差画像)とを用いて、3Dディスプレイ15でのピクセル(サブピクセル)の配置に応じて、画素が配置された表示画像を生成する(ブロックB107)。具体的には、表示画像生成部152は、二次元映像表示領域51に対応する映像に含まれる画素を、表示画像内の対応する領域に配列する。そして、表示画像生成部152は、左眼用画像(第1視差画像)に含まれる画素と右眼用画像(第2視差画像)に含まれる画素とを所定のパターン(三次元映像表示のためのパターン)で配列する。そして、LCD15Aは、生成された表示画像を画面に表示する(ブロックB108)。
【0065】
次いで、映像リード部131は、処理対象の映像フレームに後続する映像フレームがあるか否かを判定する(ブロックB109)。後続する映像フレームがある場合(ブロックB109のYES)、映像リード部131は、その後続する映像フレームを新たな処理対象の映像フレームに設定し(ブロックB110)、新たに設定された処理対象の映像フレームに対して、ブロックB104以降の処理を施す。一方、後続する映像フレームがない場合(ブロックB109のNO)、処理を終了する。
【0066】
以上説明したように、本実施形態によれば、三次元映像上に表示される二次元映像のオブジェクトを適切に認識できる。フォーマット変換部132は、三次元映像データに含まれる第1フォーマット(例えば、サイドバイサイドフォーマットやトップアンドボトムフォーマット)の映像フレームを第2フォーマット(例えば、インターリーブフォーマット)の映像フレームに変換する。映像フレームを第2フォーマットに変換することによって、その三次元映像のための映像フレーム上に描画される、カーソルのような二次元映像のオブジェクトを、3Dディスプレイ15上の適切な位置に適切なサイズで表示することができる。これによりユーザは、3Dディスプレイ15上の三次元映像表示領域52内でも、カーソル等の二次元映像オブジェクト541を適切に認識し、使用することができる。
【0067】
なお、本実施形態の表示制御処理の手順は全てソフトウェアによって実行することができる。このため、表示制御処理の手順を実行するプログラムを格納したコンピュータ読み取り可能な記憶媒体を通じてこのプログラムを通常のコンピュータにインストールして実行するだけで、本実施形態と同様の効果を容易に実現することができる。
【0068】
本発明のいくつかの実施形態を説明したが、これらの実施形態は、例として提示したものであり、発明の範囲を限定することは意図していない。これら新規な実施形態は、その他の様々な形態で実施されることが可能であり、発明の要旨を逸脱しない範囲で、種々の省略、置き換え、変更を行うことができる。これら実施形態やその変形は、発明の範囲や要旨に含まれるとともに、特許請求の範囲に記載された発明とその均等の範囲に含まれる。
【符号の説明】
【0069】
13A…OS、13B…映像コンテンツ再生プログラム、13C…ディスプレイドライバプログラム、131…映像リード部、132…フォーマット変換部、133…二次元映像生成部、134…映像合成部、15…3Dディスプレイ、151…画像補間部、152…表示画像生成部、15A…LCD。
【技術分野】
【0001】
本発明の実施形態は、三次元映像を表示する電子機器及び該機器に適用される表示制御方法に関する。
【背景技術】
【0002】
近年、三次元映像を観賞するための様々な電子機器が提供されている。このような電子機器の一つに、裸眼立体視方式(裸眼3D方式)による電子機器がある。裸眼立体視方式では、例えば、液晶ディスプレイ(LCD)の画面に左眼用映像と右眼用映像とを表示し、LCD上に配置されたレンズによって、それら映像内の画素に対応する光線が射出される方向を制御する。
【0003】
画面には、左眼用映像に含まれる画素と右眼用映像に含まれる画素とが所定の順序で配置される。例えば、左眼用映像に含まれる画素と右眼用映像に含まれる画素とは、画面に交互に配置される。LCD上のレンズは、配置された画素に対応する光線が射出される方向を制御する。これによりユーザは、左眼用映像の画素を左眼で、右眼用映像の画素を右眼で見ることができるので、三次元映像(立体映像)を知覚することができる。
【先行技術文献】
【特許文献】
【0004】
【特許文献1】特開平10−124701号公報
【発明の概要】
【発明が解決しようとする課題】
【0005】
ところで、三次元映像を表示する電子機器には、画面内に、三次元映像を表示する三次元映像表示領域と二次元映像を表示する二次元映像表示領域とを設けることができるものがある。例えば、パーソナルコンピュータのような電子機器では、画面内に、デスクトップ画面のような二次元映像を表示するための領域と、三次元映像を表示するための領域(三次元映像データを再生するアプリケーションプログラムのウィンドウ)とが設けられる。
【0006】
画面内には、さらに、マウスのようなポインティングデバイスによって指示される位置を示すカーソルが表示される。このカーソルは、二次元映像のオブジェクトであるが、二次元映像であるデスクトップ画面内だけでなく、三次元映像表示領域内を指示することも想定される。上述のように、三次元映像表示領域では、左眼用映像に含まれる画素と右眼用映像に含まれる画素とが所定の順序で画面に配置される。三次元映像表示領域内のカーソルに含まれる画素は、左眼用映像及び右眼用映像に含まれる画素と同様に画面上に配置される。そのため、カーソルは、本来とは異なる位置に異なる形状で表示されてしまう。したがってユーザは、三次元映像表示領域内に表示される、カーソルのような二次元映像のオブジェクトを正しく認識することが困難になる可能性がある。
【0007】
本発明は、三次元映像上に表示される二次元映像のオブジェクトを適切に認識できる電子機器及び表示制御方法を提供することを目的とする。
【課題を解決するための手段】
【0008】
実施形態によれば、電子機器は、フォーマット変換手段、映像合成手段、視差画像生成手段、及び表示画像生成手段を具備する。フォーマット変換手段は、三次元映像データに含まれる、第1解像度を有する複数の画像を含む第1フォーマットの映像フレームを、第2フォーマットの映像フレームに変換する。映像合成手段は、前記第2フォーマットの映像フレームに二次元映像のオブジェクトを合成することによって、合成映像フレームを生成する。視差画像生成手段は、前記合成映像フレームを用いて、前記第1解像度よりも高い第2解像度を有する複数の視差画像を生成する。表示画像生成手段は、前記生成された第2解像度を有する複数の視差画像に含まれる画素を所定のパターンで配置することによって、画面に表示するための表示画像を生成する。
【図面の簡単な説明】
【0009】
【図1】実施形態に係る電子機器の外観の例を示す斜視図。
【図2】同実施形態の電子機器のシステム構成の例を示すブロック図。
【図3】同実施形態の電子機器によって表示される画面の例を示す図。
【図4】同実施形態の電子機器によって実行される映像コンテンツ再生プログラムの構成例を示すブロック図。
【図5】同実施形態の電子機器によって用いられる三次元映像データに含まれるサイドバイサイドフォーマットの映像フレームと、カーソルとを含む映像の例を示す図。
【図6】図5に示す映像を用いて生成される左眼用画像と右眼用画像との例を示す図。
【図7】同実施形態の電子機器によって生成される、インターリーブ形式の映像フレームとカーソルとを含む映像の例を示す図。
【図8】同実施形態の電子機器によって用いられる三次元映像データに含まれるトップアンドボトムフォーマットの映像フレームと、カーソルとを含む映像の例を示す図。
【図9】図8に示す映像を用いて生成される左眼用画像と右眼用画像との例を示す図。
【図10】同実施形態の電子機器によって生成される、インターリーブ形式の映像フレームとカーソルとを含む映像の別の例を示す図。
【図11】同実施形態の電子機器によって生成される、2視点の視差画像に含まれる画素が格子状に配置された映像フレームとカーソルとを含む映像の例を示す図。
【図12】同実施形態の電子機器によって用いられる三次元映像データに含まれる4視点の視差画像を含む映像フレームと、カーソルとを含む映像の例を示す図。
【図13】同実施形態の電子機器によって生成される、4視点の視差画像に含まれる画素が格子状に配置された映像フレームとカーソルとを含む映像の例を示す図。
【図14】同実施形態の電子機器によって実行される表示制御処理の手順の例を示すフローチャート。
【発明を実施するための形態】
【0010】
以下、実施の形態について図面を参照して説明する。
図1は、実施形態に係る電子機器の外観を示す斜視図である。この電子機器は、例えばノートブックタイプのパーソナルコンピュータ1として実現される。また、この電子機器は、テレビジョン受信機、映像データを記録・再生するためのパーソナルビデオレコーダ(例えば、ハードディスクレコーダ、DVDレコーダ)、タブレットPC、スレートPC、PDA、カーナビゲーション装置、スマートフォン、ゲーム機等として実現され得る。
【0011】
図1に示すように、本コンピュータ1は、コンピュータ本体2と、ディスプレイユニット3とから構成される。
ディスプレイユニット3には、三次元ディスプレイ(3Dディスプレイ)15が組み込まれている。ディスプレイユニット3は、コンピュータ本体2の上面が露出される開放位置とコンピュータ本体2の上面を覆う閉塞位置との間を回動自在にコンピュータ本体2に取り付けられている。また、3Dディスプレイ15は、LCD(liquid crystal display)15Aとレンズユニット15Bとを備える。レンズユニット15Bは、LCD15A上にはり合わせられている。レンズユニット15Bは、LCD15Aに表示される映像に含まれる複数の画素に対応する複数の光線をそれぞれ所定の方向に射出するための複数のレンズ機構を含む。レンズユニット15Bは、例えば、三次元映像表示に必要な機能を電気的にスイッチングできる液晶GRIN(gradient index)レンズである。この液晶GRINレンズでは、平坦な液晶層を用いて電極で屈折率分布を作るので、例えば、画面内の指定した領域で三次元映像を表示し、他の領域で二次元映像を表示することができる。つまり、三次元映像を表示する領域と二次元映像を表示する領域とでレンズの屈折率を変えることにより、三次元映像を表示するための三次元映像表示モードと、二次元映像を表示するための二次元映像表示モードとを、画面内で部分的に切り替えることができる。三次元映像表示モードに設定された領域では、その領域に表示される左眼用映像と右眼用映像とを含む三次元映像が眼間距離や観視距離等に応じた視差を有するように、屈折率が変更される。二次元映像表示モードに設定された領域では、その領域に表示される二次元映像が屈折されることなくそのまま表示されるように、屈折率が変更される。3Dディスプレイ15では、画面内に設定された、任意の位置及びサイズを有する複数の領域それぞれを、三次元映像表示モードと二次元映像表示モードのいずれか一方に設定できる。
【0012】
3Dディスプレイ15は、三次元映像表示モードの領域では左眼用映像と右眼用画像とを表示し、二次元映像表示モードの領域では二次元映像を表示する。そのためユーザは、画面内の三次元映像表示モードに設定された領域を見たとき三次元映像を知覚し、二次元映像表示モードに設定された領域を見たとき二次元映像を知覚することができる。
【0013】
コンピュータ本体2は、薄い箱形の筐体を有しており、その上面には、キーボード26、本コンピュータ1を電源オン/電源オフするためのパワーボタン28、入力操作パネル29、タッチパッド27、スピーカ18A,18Bなどが配置されている。入力操作パネル29上には、各種操作ボタンが設けられている。これらボタン群には、TV機能(視聴、録画、録画された放送番組データ/ビデオデータの再生)を制御するための操作ボタン群も含まれている。
【0014】
コンピュータ本体2の例えば右側面には、TV放送用のアンテナ端子30Aが設けられている。また、コンピュータ本体2の例えば背面には、例えばHDMI(high-definition multimedia interface)規格に対応した外部ディスプレイ接続端子が設けられている。この外部ディスプレイ接続端子は、放送番組データのような映像コンテンツデータに含まれる映像データ(動画像データ)を外部ディスプレイに出力するために用いられる。
【0015】
図2は、本コンピュータ1のシステム構成を示す図である。
本コンピュータ1は、図2に示すように、CPU11、ノースブリッジ12、主メモリ13、表示コントローラ14、ビデオメモリ(VRAM)14A、3Dディスプレイ15、サウスブリッジ16、サウンドコントローラ17、スピーカ18A,18B、BIOS−ROM19、LANコントローラ20、ハードディスクドライブ(HDD)21、光ディスクドライブ(ODD)22、無線LANコントローラ23、USBコントローラ24、エンベデッドコントローラ/キーボードコントローラ(EC/KBC)25、キーボード(KB)26、ポインティングデバイス27、TVチューナ30等を備えている。
【0016】
CPU11は、本コンピュータ1の動作を制御するプロセッサである。CPU11は、HDD21から主メモリ13にロードされる、オペレーティングシステム(OS)13A、ディスプレイドライバプログラム13Cのようなドライバプログラム、及び映像コンテンツ再生プログラム13B等のようなアプリケーションプログラムを実行する。
【0017】
映像コンテンツ再生プログラム13Bは、映像コンテンツデータを視聴するための機能を有するソフトウェアである。この映像コンテンツ再生プログラム13Bは、TVチューナ30によって受信された放送番組データを視聴するためのライブ再生処理、受信された放送番組データをHDD21に記録する録画処理、HDD21に記録された放送番組データ/ビデオデータを再生する再生処理、ネットワークを介して受信された映像コンテンツデータを再生する再生処理等を実行する。また、映像コンテンツ再生プログラム13Bは、DVDやBD(登録商標)のような記憶メディアやハードディスクのような記憶装置に格納された映像コンテンツデータを再生することもできる。
【0018】
さらに、映像コンテンツ再生プログラム13Bは、三次元映像を視聴するための機能も有する。映像コンテンツ再生プログラム13Bは、再生対象の映像コンテンツデータ(又は放送番組データ)に含まれる三次元映像を3Dディスプレイ15の画面に表示する。具体的には、映像コンテンツ再生プログラム13Bは、再生対象の映像コンテンツデータを用いて、三次元映像を表示するための映像フレームを生成する。この映像フレームのフォーマットには、例えば、サイドバイサイドフォーマット又はトップアンドボトムフォーマット等が用いられる。サイドバイサイドフォーマットの映像フレームは、左眼用画像と右眼用画像とが左右に並べて配置された映像フレームである。サイドバイサイドフォーマットの映像フレーム内の左眼用画像と右眼用画像の各々の水平方向の解像度(幅)は、例えば、映像フレームの水平方向の解像度の1/2である。トップアンドボトムフォーマットの映像フレームは、左眼用画像と右眼用画像とが上下に並べて配置された映像フレームである。また、トップアンドボトムフォーマットの映像フレーム内の左眼用画像と右眼用画像の各々の垂直方向の解像度(高さ)は、例えば、映像フレームの垂直方向の解像度の1/2である。
【0019】
また、映像コンテンツ再生プログラム13Bは、映像コンテンツデータに含まれる二次元映像を三次元映像にリアルタイムで変換して画面に表示することもできる。映像コンテンツ再生プログラム13Bは、様々な映像コンテンツデータ(例えば、放送番組データ、記憶メディアや記憶装置に格納されたビデオデータ、インターネット上のサーバから受信したビデオデータ、等)を2Dto3D変換することができる。つまり、映像コンテンツ再生プログラム13Bは、2Dto3D変換によって、三次元映像を表示するための映像フレームを生成する。
【0020】
三次元映像の表示には、例えば、裸眼立体視方式(例えば、インテグラルイメージング方式、レンチキュラ方式、パララックスバリア方式等)による3Dディスプレイ15が用いられる。ユーザは、裸眼立体視方式による3Dディスプレイ15に表示された映像を見ることにより、三次元映像を裸眼で知覚することができる。
【0021】
また、CPU11は、BIOS−ROM19に格納されたBIOS(Basic Input/Output System)も実行する。BIOSは、ハードウェア制御のためのプログラムである。
【0022】
ノースブリッジ12は、CPU11のローカルバスとサウスブリッジ16との間を接続するブリッジデバイスである。ノースブリッジ12には、主メモリ13をアクセス制御するメモリコントローラも内蔵されている。また、ノースブリッジ12は、表示コントローラ14との通信を実行する機能も有している。
【0023】
表示コントローラ14は、本コンピュータ1のディスプレイとして使用されるLCD15Aを制御するデバイスである。この表示コントローラ14によって生成される表示信号はLCD15Aに送られる。LCD15Aは、表示信号に基づいて映像を表示する。
【0024】
サウスブリッジ16は、PCI(Peripheral Component Interconnect)バス上及びLPC(Low Pin Count)バス上の各デバイスを制御する。また、サウスブリッジ16は、HDD21及びODD22を制御するためのIDE(Integrated Drive Electronics)コントローラ、及びBIOS−ROM19をアクセス制御するメモリコントローラが内蔵されている。さらに、サウスブリッジ16は、サウンドコントローラ17及びLANコントローラ20との通信を実行する機能も有している。
【0025】
また、サウスブリッジ16は、映像コンテンツ再生プログラム13Bによる要求等に応じて、レンズユニット15B内の複数の領域がそれぞれ三次元映像表示モードと二次元映像表示モードのいずれか一方に設定されるように制御するための制御信号を、レンズユニット15Bに出力することができる。レンズユニット15Bは、サウスブリッジ16によって出力された制御信号に応じて、例えば、複数の領域それぞれに対応する液晶層内の部分の屈折率を変更することにより、その領域を三次元映像表示モードと二次元映像表示モードのいずれか一方に設定する。
【0026】
サウンドコントローラ17は音源デバイスであり、再生対象のオーディオデータをスピーカ18A,18Bに出力する。LANコントローラ20は、例えばEthernet(登録商標)規格の有線通信を実行する有線通信デバイスであり、無線LANコントローラ23は、例えばIEEE 802.11規格の無線通信を実行する無線通信デバイスである。また、USBコントローラ24は、例えばUSB2.0規格のケーブルを介して外部機器との通信を実行する。
【0027】
EC/KBC25は、電力管理を行うためのエンベデッドコントローラと、キーボード(KB)26及びポインティングデバイス27を制御するためのキーボードコントローラとが集積された1チップマイクロコンピュータである。このEC/KBC25は、ユーザによる操作に応じて本コンピュータ1をパワーオン/パワーオフする機能を有している。
【0028】
TVチューナ30はテレビジョン(TV)放送信号によって放送される放送番組データを受信する受信装置であり、アンテナ端子30Aに接続されている。このTVチューナ30は、例えば、地上波デジタルTV放送のようなデジタル放送番組データを受信可能なデジタルTVチューナとして実現されている。また、TVチューナ30は、外部機器から入力されるビデオデータをキャプチャする機能も有している。
【0029】
図3に示すように、3Dディスプレイ15には、二次元映像表示領域51と三次元映像表示領域52とを設けることができる。3Dディスプレイ15では、LCD15A上の二次元映像表示領域51に二次元映像が表示され、三次元映像表示領域52に三次元映像を表示するための映像(例えば、左眼用画像と右眼用画像)が表示される。そして、二次元映像表示領域51に対応するレンズユニット15Bが二次元映像表示モードに設定され、三次元映像表示領域52に対応するレンズユニット15Bが三次元映像表示モードに設定される。これによりユーザは、二次元映像表示領域51を見た際には二次元映像を知覚し、三次元映像表示領域52を見た際には三次元映像を知覚することができる。
【0030】
二次元映像表示領域51には、例えば、背景、アイコン、タスクバー、ツールバー、ダイアログ、実行中のアプリケーションプログラムに対応するウィンドウ等の二次元映像53が表示される。三次元映像表示領域52には、例えば、映像コンテンツ再生プログラム13Bによって再生される三次元映像が表示される。また、二次元映像表示領域51と三次元映像表示領域52とには、マウスやタッチパッド等のポインティングデバイス27によって指示される位置を示す、カーソルのような二次元映像(以下、二次元映像オブジェクトとも称する)54が表示される。つまり、カーソルのような二次元映像オブジェクト54は、二次元映像表示領域51内だけでなく、三次元映像表示領域52内にも表示され得る。
【0031】
図4は、3Dディスプレイ15に二次元映像と三次元映像とを表示するための構成例を示す。3Dディスプレイ15には、映像コンテンツ再生プログラム13Bによって生成された三次元映像を表示するための映像と、OS13Aによって生成された二次元映像を表示するための映像とが、ディスプレイドライバプログラム13Cによって合成され、表示される。
【0032】
具体的には、OS13Aは、二次元映像生成部133を備える。二次元映像生成部133は、二次元映像表示領域51に表示するための二次元映像を生成する。二次元映像生成部133は、例えば、背景、アイコン、タスクバー、ツールバー、ダイアログ、実行中のアプリケーションプログラムに対応するウィンドウ等の二次元映像53を生成する。また、二次元映像生成部133は、マウスやタッチパッド等のポインティングデバイス27によって指示される位置を示すカーソルのような二次元映像オブジェクト54も生成する。二次元映像生成部133は、生成された二次元映像53,54をディスプレイドライバプログラム13Cに出力する。カーソルのように、画面15上での位置やサイズを変更可能な二次元映像オブジェクト54は、三次元映像表示領域52内にも表示され得る。なお、ウィンドウ等の他の二次元映像も、画面15上での位置やサイズが変更可能である場合、二次元映像オブジェクト54に含まれる。
【0033】
また、映像コンテンツ再生プログラム13Bは、映像リード部131とフォーマット変換部132とを備える。
映像リード部131は、例えば、HDD21から再生対象の映像コンテンツデータを読み出す。また、映像リード部131は、ODD22に格納されたDVDやBDから映像コンテンツデータを読み出してもよい。映像リード部131は、さらに、ネットワークを介して映像コンテンツデータを受信してもよい。この映像コンテンツデータは、例えば、三次元映像を表示するための複数の映像フレームに対応する三次元映像データを含む。この複数の映像フレームの各々は、第1解像度を有する複数の視差画像が、第1フォーマットに基づいて配置された映像フレームである。より具体的には、この複数の映像フレームの各々は、例えば、サイドバイサイドフォーマットやトップアンドボトムフォーマット(ハーフフォーマット)のように、映像フレームに設けられた2つの領域に、2視点の視差画像(例えば、左眼用画像と右眼用画像)が配置された画像である。なお、複数の映像フレームの各々は、例えば、4視点の視差画像が2×2の領域に並べられた画像や、9視点の視差画像が3×3の領域に並べられた画像のように、より多くの視点に対応する視差画像が並べられた画像であってもよい。
【0034】
映像リード部131は、複数の映像フレームを先頭から順次、処理対象の映像フレームに設定する。そして、映像リード部131は、処理対象の映像フレームをフォーマット変換部132に出力する。
【0035】
フォーマット変換部132は、映像リード部131によって出力された処理対象の映像フレームを第1フォーマットから第2フォーマットに変換する。フォーマット変換部132は、例えば、サイドバイサイドフォーマットやトップアンドボトムフォーマットである処理対象の映像フレームを、インターリーブフォーマットの映像フレームに変換する。
【0036】
具体的には、フォーマット変換部132は、例えば、サイドバイサイドフォーマットの映像フレームに含まれる左眼用画像と右眼用画像とを検出し、左眼用画像に含まれる垂直方向の画素のラインと、右眼用画像に含まれる垂直方向の画素のラインとが交互に配置(インターリーブ)された映像フレームを生成する。また、フォーマット変換部132は、例えば、トップアンドボトムフォーマットの映像フレームに含まれる左眼用画像と右眼用画像とを検出し、左眼用画像に含まれる水平方向の画素のライン(走査線)と、右眼用画像に含まれる水平方向の画素のラインとが交互に配置(インターリーブ)された映像フレームを生成する。そして、フォーマット変換部132は、フォーマットが変換された映像フレームをディスプレイドライバプログラム13Cに出力する。なお、フォーマット変換部132は、2Dto3D変換によって生成された映像フレームを、第2フォーマットの映像フレームに変換することもできる。
【0037】
ディスプレイドライバプログラム13Cは、映像合成部134を備える。映像合成部134は、二次元映像生成部133によって出力された二次元映像と、フォーマット変換部132によって出力された映像フレームとが合成された映像(合成映像フレーム)を生成する。上述のように、二次元映像は、画面に表示される背景、アイコン、タスクバー、ツールバー、ダイアログ、実行中のアプリケーションプログラムに対応するウィンドウ等の画像を含む。二次元映像はさらに、ポインティングデバイス27によって指示される位置を示すカーソルのような画像(二次元映像オブジェクト)を含む。また、映像合成部134は、フォーマット変換部132によって出力された映像フレーム(第2フォーマットに変換された三次元映像表示のための映像フレーム)も通常の二次元映像と同様に扱う。
【0038】
映像合成部134は、二次元映像表示領域51に二次元映像が配置され、且つ三次元映像表示領域52にフォーマットが変換された映像フレームが配置された合成映像フレームを生成する。そして、映像合成部134は、生成された合成映像フレーム上にさらに、二次元映像オブジェクトを合成する。二次元映像オブジェクトは、ポインティングデバイス27によって指示されている位置に応じて、二次元映像表示領域51内に限らず、三次元映像表示領域52内にも合成され得る。映像合成部134は、合成された映像(合成映像フレーム)を3Dディスプレイ15に出力する。
【0039】
3Dディスプレイ15は、画像補間部151と表示画像生成部152とを備える。
画像補間部151は、映像合成部134によって出力された合成映像フレーム内の、三次元映像表示領域52に対応する映像を用いて、補間された視差画像を生成する。三次元映像表示領域52に対応する映像内には、複数の視差画像に対応する複数の領域が含まれている。画像補間部151は、複数の視差画像に対応する複数の領域を用いて、第1解像度よりも高い第2解像度を有する複数の視差画像を生成する。
【0040】
より具体的には、三次元映像表示領域52に対応する映像内には、例えば、左眼用画像(第1画像)に含まれる画素ラインと右眼用画像(第2画像)に含まれる画素ラインとが垂直方向(又は水平方向)に交互に配置されている。また、それら配置された画素ライン上に、カーソルのような二次元映像オブジェクトが合成(描画)されている。
【0041】
画像補間部151は、三次元映像表示領域52に対応する映像から、左眼用画像に対応する画素ラインと右眼用画像に対応する画素ラインとを検出する。画像補間部151は、左眼用画像に対応する画素ラインと右眼用画像に対応する画素ラインとの上に合成されている二次元映像オブジェクト(二次元映像のオブジェクトの一部)も、左眼用画像に対応する画素ライン及び右眼用画像に対応する画素ラインと見なして検出する。画像補間部151は、左眼用画像に対応する画素ラインを用いて、3Dディスプレイ15に三次元映像を表示するための左眼用画像(すなわち、第2解像度を有する第1視差画像)を生成し、右眼用画像に対応する画素ラインを用いて、3Dディスプレイ15に三次元映像を表示するための右眼用画像(すなわち、第2解像度を有する第2視差画像)を生成する。
【0042】
左眼用画像(第1画像)に対応する画素ライン及び右眼用画像(第2画像)に対応する画素ラインはそれぞれ、3Dディスプレイ15に三次元映像を表示するための左眼用画像(第1視差画像)及び右眼用画像(第2視差画像)に対して、水平方向又は垂直方向に1/2の解像度を有する。そのため、画像補間部151は、第1解像度の左眼用画像に対応する画素ラインを補間することによって、第1解像度よりも大きい第2解像度の左眼用画像(例えば、水平方向又は垂直方向に2倍の解像度を有する左眼用画像)を生成する。同様に、画像補間部151は、第1解像度の右眼用画像に対応する画素ラインを補間することによって、第2解像度の右眼用画像(例えば、水平方向又は垂直方向に2倍の解像度を有する右眼用画像)を生成する。上述のように、第1解像度の左眼用画像に対応する画素ラインと、第2解像度の右眼用画像に対応する画素ラインとには、二次元映像のオブジェクトの一部が合成されている。そのため、画像補間部151は、二次元映像のオブジェクトに対応する画素も補間することによって、第2解像度の左眼用画像と第2解像度の右眼用画像とを生成する。すなわち、画像補間部151は、左眼用画像に対応する画素ラインと右眼用画像に対応する画素ラインとを用いて、引き伸ばされた左眼用画像と右眼用画像とを生成する。画像補間部151は、映像合成部134によって出力された映像内の、二次元映像表示領域51に対応する映像と、三次元映像を表示するための左眼用画像及び右眼用画像とを表示画像生成部152に出力する。
【0043】
表示画像生成部152は、画像補間部151によって出力された二次元映像表示領域51に対応する映像と、左眼用画像及び右眼用画像とを用いて、LCD15Aに表示される表示画像を生成する。表示画像生成部152は、画像補間部151によって出力された映像を用いて、LCD15Aでのピクセル(サブピクセル)の配置に応じて、サブピクセル単位で画素が並び換えられた表示画像を生成する。具体的には、表示画像生成部152は、二次元映像表示領域51に対応する映像に含まれる画素を、表示画像内の対応する領域(ピクセル)に配置する。そして、表示画像生成部152は、左眼用画像に含まれる画素と右眼用画像に含まれる画素とを所定のパターン(三次元映像表示のためのパターン)で配置する。表示画像生成部152は、例えば、レンズユニット15Bによって左眼で知覚されるように制御される領域(ピクセル)に、左眼用画像の画素を配置し、レンズユニット15Bによって右眼で知覚されるように制御される領域(ピクセル)に、右眼用画像の画素を配置する。表示画像生成部152は、生成された表示画像をLCD15Aに出力する。
【0044】
LCD15Aは、表示画像生成部152によって出力された表示画像を画面に表示する。表示された画像に含まれる複数の画素に対応する複数の光線は、レンズユニット15Bによってそれぞれ所定の方向に射出されるように制御される。これによりユーザは、二次元映像表示領域51に表示された二次元映像と、三次元映像表示領域52に表示された三次元映像とを知覚することができる。なお、上述の画像補間部151と表示画像生成部152とは、3Dディスプレイ15内ではなく、表示コントローラ14内に設けられてもよい。
【0045】
以下では、図5から図13を参照して、フォーマット変換部132によるフォーマットの変換について説明する。
図5は、映像合成部134によって生成された合成映像フレームの内の、三次元映像表示領域52に対応する映像61の例を示す。図5に示す例では、フォーマット変換部132によって、三次元映像を表示するための映像フレームが第2フォーマットに変換されていないことを想定する。そのため、映像61には、サイドバイサイドフォーマット(第1フォーマット)の映像フレームに含まれる左眼用画像61Lと右眼用画像61Rとが含まれ、右眼用画像61Rの上に二次元映像オブジェクト541が合成されている。
【0046】
図6は、画像補間部151が、左眼用画像(第1画像)61Lと右眼用画像(第2画像)61Rとを用いて、3Dディスプレイ15に三次元映像を表示するための左眼用画像62Lと右眼用画像62Rとを生成した例を示す。画像補間部151は、左眼用画像61Lを引き伸ばすことによって(左眼用画像61Lを補間することによって)、3Dディスプレイ15に三次元映像を表示するための左眼用画像62Lを生成する。また、画像補間部151は、右眼用画像61Rを引き伸ばすことによって(右眼用画像61Rを補間することによって)、3Dディスプレイ15に三次元映像を表示するための右眼用画像62Rを生成する。そして、表示画像生成部152は、左眼用画像62Lに含まれる画素と右眼用画像62Rに含まれる画素とを所定のパターンで配置することによって、LCD15Aに表示される表示画像を生成する。
【0047】
しかし、右眼用画像61Rが引き伸ばされたことによって、図5に示す映像61上の二次元映像オブジェクト541と図6に示す右眼用画像62R上の二次元映像オブジェクト542とでは、そのサイズや位置が異なっている。そのため、3Dディスプレイ15には、二次元映像オブジェクト541が適切に表示されない。したがってユーザは、3Dディスプレイ15の三次元映像表示領域52内に表示される、カーソルのような二次元映像オブジェクトを適切な位置及びサイズで認識することができず、カーソル等を使用できなくなる。
【0048】
そのため本実施形態では、上述のように、フォーマット変換部132によって、三次元映像を表示するための映像フレームが第1フォーマットから第2フォーマットに変換される。
図7は、図5に示すサイドバイサイドフォーマットの映像フレームが、フォーマット変換部132によってインターリーブフォーマットの映像フレームに変換された例を示す。映像63では、左眼用画像(第1画像)に対応する垂直方向の画素ライン63Lと右眼用画像(第2画像)に対応する垂直方向の画素ライン63Rとが交互に配置されている。そして、交互に配置された画素ライン63L,63Rの上に二次元映像オブジェクト(カーソル)541が合成されている。そのため、二次元映像オブジェクト541に対応する画素は、左眼用画像に対応する領域(画素ライン群)63Lと右眼用画像に対応する領域(画素ライン群)63Rの両方に含まれている。
【0049】
画像補間部151は、左眼用画像(第1画像)に対応する画素ライン群63Lを用いて、3Dディスプレイ15に三次元映像を表示するための左眼用画像(第1視差画像)を生成する。画像補間部151は、右眼用画像(第2画像)に対応する画素ライン群63Rを用いて、3Dディスプレイ15に三次元映像を表示するための右眼用画像(第2視差画像)を生成する。そして、表示画像生成部152は、生成された左眼用画像(第1視差画像)に含まれる画素と右眼用画像(第2視差画像)に含まれる画素とを所定のパターンで配置することによって、LCD15Aに表示される表示画像を生成する。これにより、三次元映像表示領域52内に表示されるカーソルのような二次元映像オブジェクト541を適切な位置に適切なサイズで表示することができる。
【0050】
フォーマット変換部132によって、左眼用画像61Lと右眼用画像61Rとが画素ライン毎にインターリーブされた映像63では、左眼用画像61Lに対応する画素ライン63Lと右眼用画像61Rに対応する画素ライン63Rとの上に、二次元映像オブジェクト541の一部がそれぞれ合成される。換言すると、左眼用画像61Lに対応する画素ライン63Lと右眼用画像61Rに対応する画素ライン63Rの各々では、二次元映像オブジェクト541の一部が欠落している。そのため、3Dディスプレイ15によって三次元映像表示領域52に表示される画像では、二次元映像オブジェクト541の一部が欠けているように見える可能性がある。しかしながら、三次元映像表示領域52に表示される二次元映像オブジェクト541は適切な位置及びサイズに維持されているので、ユーザは、三次元映像表示領域52内でも、カーソル等の二次元映像オブジェクト541を、本来の位置及びサイズで認識することができる。ユーザは、例えば、カーソル541によって指示される位置にずれがなくなるので、カーソル541を適切に認識できる。
【0051】
また、図8は、映像合成部134によって生成された合成映像フレームの内の、三次元映像表示領域52に対応する映像64の例を示す。図8に示す例では、フォーマット変換部132によって、三次元映像を表示するための映像フレームが第2フォーマットに変換されていないことを想定する。そのため、映像64には、トップアンドボトムフォーマット(第1フォーマット)の映像フレームに含まれる左眼用画像64Lと右眼用画像64Rとが含まれ、右眼用画像64Rの上に二次元映像オブジェクト541が合成されている。
【0052】
図9は、画像補間部151が、左眼用画像(第1画像)64Lと右眼用画像(第2画像)64Rとを用いて、3Dディスプレイ15に三次元映像を表示するための左眼用画像65Lと右眼用画像65Rとを生成した例を示す。画像補間部151は、左眼用画像64Lを引き伸ばすことによって、3Dディスプレイ15に三次元映像を表示するための左眼用画像65Lを生成する。また、画像補間部151は、右眼用画像64Rを引き伸ばすことによって、3Dディスプレイ15に三次元映像を表示するための右眼用画像65Rを生成する。そして、表示画像生成部152は、左眼用画像65Lに含まれる画素と右眼用画像65Rに含まれる画素とを所定のパターンで配置することによって、LCD15Aに表示される表示画像を生成する。
【0053】
しかし、右眼用画像64Rが引き伸ばされたことによって、図8に示す映像64上の二次元映像オブジェクト541と図9に示す右眼用画像65R内の二次元映像オブジェクト543とでは、そのサイズや位置が異なっている。そのため、3Dディスプレイ15には二次元映像オブジェクト541が適切に表示されない。したがってユーザは、3Dディスプレイ15の三次元映像表示領域52内に表示される、カーソルのような二次元映像オブジェクトを適切な位置及びサイズで認識することができず、カーソル等を使用できなくなる。
【0054】
そのため本実施形態では、上述のように、フォーマット変換部132によって、三次元映像を表示するための映像フレームが第1フォーマットから第2フォーマットに変換される。
図10は、図8に示すトップアンドボトムフォーマットの映像フレームが、フォーマット変換部132によってインターリーブフォーマットの映像フレームに変換された例を示す。映像66では、左眼用画像に対応する水平方向の画素ライン66Lと右眼用画像に対応する水平方向の画素ライン66Rとが交互に配置されている。そして、交互に配置された画素ライン66L,66Rの上に二次元映像オブジェクト(カーソル)541が合成されている。そのため、二次元映像オブジェクト541に対応する画素は、左眼用画像に対応する領域(画素ライン群)66Lと右眼用画像に対応する領域(画素ライン群)66Rの両方に含まれている。
【0055】
画像補間部151は、左眼用画像(第1画像)に対応する画素ライン群66Lを用いて、3Dディスプレイ15に三次元映像を表示するための左眼用画像(第1視差画像)を生成する。画像補間部151は、右眼用画像(第2画像)に対応する画素ライン群66Rを用いて、3Dディスプレイ15に三次元映像を表示するための右眼用画像(第2視差画像)を生成する。そして、表示画像生成部152は、生成された左眼用画像(第1視差画像)に含まれる画素と右眼用画像(第2視差画像)に含まれる画素とを所定のパターンで配置することによって、LCD15Aに表示される表示画像を生成する。これにより、三次元映像表示領域52内に表示されるカーソルのような二次元映像オブジェクト541を適切な位置に適切なサイズで表示することができる。
【0056】
また、図11は、図5又は図8に示す映像フレームが、フォーマット変換部132によって、画素が格子状に配置されるフォーマットに変換された例を示す。映像67では、左眼用画像61L(又は64L)に含まれる画素67Lと右眼用画像61R(又は64R)に含まれる画素67Rとが格子状に配置されている。そして、格子状に配置された画素67L,67Rの上に二次元映像オブジェクト(カーソル)541が合成されている。そのため、二次元映像オブジェクト541に対応する画素は、左眼用画像に対応する画素67Lと右眼用画像に対応する画素67Rの両方に含まれている。画像補間部151は、左眼用画像(第1画像)に対応する画素群67Lを用いて、3Dディスプレイ15に三次元映像を表示するための左眼用画像(第1視差画像)を生成する。画像補間部151は、右眼用画像(第2画像)に対応する画素群67Rを用いて、3Dディスプレイ15に三次元映像を表示するための右眼用画像(第2視差画像)を生成する。そして、表示画像生成部152は、生成された左眼用画像(第1視差画像)に含まれる画素と右眼用画像(第2視差画像)に含まれる画素とを所定のパターンで配置することによって、LCD15Aに表示される表示画像を生成する。これにより、三次元映像表示領域52内に表示されるカーソルのような二次元映像オブジェクト541を適切な位置に適切なサイズで表示することができる。
【0057】
なお、再生対象の映像コンテンツデータ(三次元映像データ)には、4視点に対応する視差画像を含む映像フレームが含まれてもよい。
図12は、映像合成部134によって生成された合成映像フレームの内の、三次元映像表示領域52に対応する映像68の例を示す。図12に示す例では、フォーマット変換部132によって、三次元映像を表示するための映像フレームのフォーマットが変換されていないことを想定する。そのため、映像68には、4視点に対応する視差画像681,682,683,684が含まれ、視差画像684の上に二次元映像オブジェクト541が合成されている。
【0058】
そして、図13は、図12に示す映像フレームが、フォーマット変換部132によって第2フォーマットに変換された例を示す。映像69では、視差画像681,682,683,684それぞれに含まれる画素691,692,693,694が格子状に配置されている。そして、格子状に配置された画素691,692,693,694の上に二次元映像オブジェクト(カーソル)541が合成されている。そのため、二次元映像オブジェクト541に対応する画素は、視差画像681,682,683,684それぞれに対応する画素691,692,693,694に含まれている。画像補間部151は、視差画像681に対応する画素群691を用いて、3Dディスプレイ15に三次元映像を表示するための視差画像を生成する。画像補間部151は、視差画像682に対応する画素群692を用いて、3Dディスプレイ15に三次元映像を表示するための視差画像を生成する。画像補間部151は、視差画像683に対応する画素群693を用いて、3Dディスプレイ15に三次元映像を表示するための視差画像を生成する。また、画像補間部151は、視差画像684に対応する画素群694を用いて、3Dディスプレイ15に三次元映像を表示するための視差画像を生成する。そして、表示画像生成部152は、生成された視差画像それぞれに含まれる画素を所定のパターンで配置することによって、LCD15Aに表示される表示画像を生成する。これにより、三次元映像表示領域52内に表示されるカーソルのような二次元映像オブジェクト541を適切な位置に適切なサイズで表示することができる。
【0059】
次いで、図14のフローチャートを参照して、コンピュータ1によって実行される表示制御処理の手順について説明する。
まず、映像リード部131は、三次元映像の再生が要求されているか否かを判定する(ブロックB101)。三次元映像の再生が要求されていない場合(ブロックB101のNO)、ブロックB101に戻り、再度、三次元映像の再生が要求されているか否かが判定される。
【0060】
三次元映像の再生が要求されている場合(ブロックB101のYES)、映像リード部131は、三次元映像データを含む映像コンテンツデータを読み出す(ブロックB102)。三次元映像データは、例えば、複数の映像フレームに対応するデータである。この複数の映像フレームの各々は、例えば、第1フォーマット(例えば、サイドバイサイドフォーマットやトップアンドボトムフォーマット)で、2視点の視差画像(例えば、左眼用画像と右眼用画像)が並べられた画像である。なお、複数の映像フレームの各々は、例えば、4視点の視差画像が並べられた画像のように、より多くの視点に対応する視差画像が並べられた画像であってもよい。
【0061】
映像リード部131は、三次元映像データに含まれる複数の映像フレームの内の先頭の映像フレームを処理対象の映像フレームに設定する(ブロックB103)。そして、フォーマット変換部132は、処理対象の映像フレームのフォーマットを変換する(ブロックB104)。フォーマット変換部132は、例えば、第1フォーマットである処理対象の映像フレームを、第2フォーマット(例えば、インターリーブフォーマット)の映像フレームに変換する。フォーマット変換部132は、例えば、処理対象のフレームに含まれる左眼用画像と右眼用画像とを検出し、左眼用画像に対応する画素ラインと右眼用画像に対応する画素ラインとが交互に配置された映像フレームを、第2フォーマットの映像フレームとして生成する。
【0062】
次いで、映像合成部134は、OS13A(二次元映像生成部133)によって生成されたデスクトップ画像のような二次元映像と、フォーマットが変換された映像フレームとを合成することによって、合成映像フレームを生成する(ブロックB105)。二次元映像は、画面に表示される背景、アイコン、タスクバー、ツールバー、ダイアログ、実行中のアプリケーションプログラムに対応するウィンドウ等の画像を含む。二次元映像はさらに、ポインティングデバイス27によって指示される位置を示すカーソルのような二次元映像オブジェクトを含む。映像合成部134は、例えば、二次元映像と、フォーマットが変更された映像フレームとを合成する。そして、二次元映像合成部134は、合成された映像上に二次元映像オブジェクトを合成する。
【0063】
そして、画像補間部151は、合成映像フレーム内の、三次元映像表示領域52に対応する映像を用いて、補間された視差画像を生成する(ブロックB106)。具体的には、例えば、画像補間部151は、三次元映像表示領域52に対応する映像から、左眼用画像に対応する画素ラインと右眼用画像に対応する画素ラインとを検出する。左眼用画像に対応する画素ラインと右眼用画像に対応する画素ラインとの上に合成されている二次元映像オブジェクト(二次元映像のオブジェクトの一部)も、左眼用画像に対応する画素ライン及び右眼用画像に対応する画素ラインと見なして検出される。画像補間部151は、左眼用画像(第1画像)に対応する画素ラインを用いて、3Dディスプレイ15に三次元映像を表示するための左眼用画像(第1視差画像)を生成し、右眼用画像(第2画像)に対応する画素ラインを用いて、3Dディスプレイ15に三次元映像を表示するための右眼用画像(第2視差画像)を生成する。
【0064】
次いで、表示画像生成部152は、合成映像フレーム内の二次元映像表示領域51に対応する映像と、生成された視差画像(第1視差画像及び第2視差画像)とを用いて、3Dディスプレイ15でのピクセル(サブピクセル)の配置に応じて、画素が配置された表示画像を生成する(ブロックB107)。具体的には、表示画像生成部152は、二次元映像表示領域51に対応する映像に含まれる画素を、表示画像内の対応する領域に配列する。そして、表示画像生成部152は、左眼用画像(第1視差画像)に含まれる画素と右眼用画像(第2視差画像)に含まれる画素とを所定のパターン(三次元映像表示のためのパターン)で配列する。そして、LCD15Aは、生成された表示画像を画面に表示する(ブロックB108)。
【0065】
次いで、映像リード部131は、処理対象の映像フレームに後続する映像フレームがあるか否かを判定する(ブロックB109)。後続する映像フレームがある場合(ブロックB109のYES)、映像リード部131は、その後続する映像フレームを新たな処理対象の映像フレームに設定し(ブロックB110)、新たに設定された処理対象の映像フレームに対して、ブロックB104以降の処理を施す。一方、後続する映像フレームがない場合(ブロックB109のNO)、処理を終了する。
【0066】
以上説明したように、本実施形態によれば、三次元映像上に表示される二次元映像のオブジェクトを適切に認識できる。フォーマット変換部132は、三次元映像データに含まれる第1フォーマット(例えば、サイドバイサイドフォーマットやトップアンドボトムフォーマット)の映像フレームを第2フォーマット(例えば、インターリーブフォーマット)の映像フレームに変換する。映像フレームを第2フォーマットに変換することによって、その三次元映像のための映像フレーム上に描画される、カーソルのような二次元映像のオブジェクトを、3Dディスプレイ15上の適切な位置に適切なサイズで表示することができる。これによりユーザは、3Dディスプレイ15上の三次元映像表示領域52内でも、カーソル等の二次元映像オブジェクト541を適切に認識し、使用することができる。
【0067】
なお、本実施形態の表示制御処理の手順は全てソフトウェアによって実行することができる。このため、表示制御処理の手順を実行するプログラムを格納したコンピュータ読み取り可能な記憶媒体を通じてこのプログラムを通常のコンピュータにインストールして実行するだけで、本実施形態と同様の効果を容易に実現することができる。
【0068】
本発明のいくつかの実施形態を説明したが、これらの実施形態は、例として提示したものであり、発明の範囲を限定することは意図していない。これら新規な実施形態は、その他の様々な形態で実施されることが可能であり、発明の要旨を逸脱しない範囲で、種々の省略、置き換え、変更を行うことができる。これら実施形態やその変形は、発明の範囲や要旨に含まれるとともに、特許請求の範囲に記載された発明とその均等の範囲に含まれる。
【符号の説明】
【0069】
13A…OS、13B…映像コンテンツ再生プログラム、13C…ディスプレイドライバプログラム、131…映像リード部、132…フォーマット変換部、133…二次元映像生成部、134…映像合成部、15…3Dディスプレイ、151…画像補間部、152…表示画像生成部、15A…LCD。
【特許請求の範囲】
【請求項1】
三次元映像データに含まれる、第1解像度を有する複数の画像を含む第1フォーマットの映像フレームを、第2フォーマットの映像フレームに変換するフォーマット変換手段と、
前記第2フォーマットの映像フレームに二次元映像のオブジェクトを合成することによって、合成映像フレームを生成する映像合成手段と、
前記合成映像フレームを用いて、前記第1解像度よりも高い第2解像度を有する複数の視差画像を生成する視差画像生成手段と、
前記生成された第2解像度を有する複数の視差画像に含まれる画素を所定のパターンで配置することによって、画面に表示するための表示画像を生成する表示画像生成手段とを具備する電子機器。
【請求項2】
前記第1フォーマットの映像フレームは、当該映像フレーム内に設けられた二つの領域に第1画像と第2画像とが配置され、
前記第2フォーマットの映像フレームは、当該映像フレーム内に、前記第1画像に対応する画素ラインと前記第2画像に対応する画素ラインとが交互に配置される請求項1記載の電子機器。
【請求項3】
前記第1フォーマットの映像フレームは、当該映像フレーム内に設けられた二つの領域に第1画像と第2画像とが配置され、
前記第2フォーマットの映像フレームは、当該映像フレーム内に、前記第1画像に含まれる画素と前記第2画像に含まれる画素とが格子状に配置される請求項1記載の電子機器。
【請求項4】
前記視差画像生成手段は、前記合成映像フレームを用いて、前記第2解像度を有する第1視差画像と前記第2解像度を有する第2視差画像とを生成し、
前記表示画像生成手段は、前記第1視差画像に含まれる画素と前記第2視差画像に含まれる画素とを前記所定のパターンで配置することによって、前記表示画像を生成する請求項2又は請求項3記載の電子機器。
【請求項5】
前記二次元映像のオブジェクトは、ポインティングデバイスによって指示される位置を示すカーソルを含む請求項1記載の電子機器。
【請求項6】
前記二次元映像のオブジェクトは、ウィンドウを含む請求項1記載の電子機器。
【請求項7】
前記表示画像を前記画面に表示するよう制御する表示制御手段をさらに具備する請求項1記載の電子機器。
【請求項8】
前記画面に表示された、前記表示画像に含まれる複数の画素に対応する複数の光線をそれぞれ所定の方向に射出するための複数のレンズを含むレンズユニットをさらに具備する請求項7記載の電子機器。
【請求項9】
三次元映像データに含まれる、第1解像度を有する複数の画像を含む第1フォーマットの映像フレームを、第2フォーマットの映像フレームに変換し、
前記第2フォーマットの映像フレームに二次元映像のオブジェクトを合成することによって、合成映像フレームを生成し、
前記合成映像フレームを用いて、前記第1解像度よりも高い第2解像度を有する複数の視差画像を生成し、
前記生成された第2解像度を有する複数の視差画像に含まれる画素を所定のパターンで配置することによって、画面に表示するための表示画像を生成する表示制御方法。
【請求項10】
コンピュータにより実行されるプログラムであって、前記プログラムは前記コンピュータに、
三次元映像データに含まれる、第1解像度を有する複数の画像を含む第1フォーマットの映像フレームを、第2フォーマットの映像フレームに変換する手順と、
前記第2フォーマットの映像フレームに二次元映像のオブジェクトを合成することによって、合成映像フレームを生成する手順と、
前記合成映像フレームを用いて、前記第1解像度よりも高い第2解像度を有する複数の視差画像を生成する手順と、
前記生成された第2解像度を有する複数の視差画像に含まれる画素を所定のパターンで配置することによって、画面に表示するための表示画像を生成する手順とを実行させるプログラム。
【請求項1】
三次元映像データに含まれる、第1解像度を有する複数の画像を含む第1フォーマットの映像フレームを、第2フォーマットの映像フレームに変換するフォーマット変換手段と、
前記第2フォーマットの映像フレームに二次元映像のオブジェクトを合成することによって、合成映像フレームを生成する映像合成手段と、
前記合成映像フレームを用いて、前記第1解像度よりも高い第2解像度を有する複数の視差画像を生成する視差画像生成手段と、
前記生成された第2解像度を有する複数の視差画像に含まれる画素を所定のパターンで配置することによって、画面に表示するための表示画像を生成する表示画像生成手段とを具備する電子機器。
【請求項2】
前記第1フォーマットの映像フレームは、当該映像フレーム内に設けられた二つの領域に第1画像と第2画像とが配置され、
前記第2フォーマットの映像フレームは、当該映像フレーム内に、前記第1画像に対応する画素ラインと前記第2画像に対応する画素ラインとが交互に配置される請求項1記載の電子機器。
【請求項3】
前記第1フォーマットの映像フレームは、当該映像フレーム内に設けられた二つの領域に第1画像と第2画像とが配置され、
前記第2フォーマットの映像フレームは、当該映像フレーム内に、前記第1画像に含まれる画素と前記第2画像に含まれる画素とが格子状に配置される請求項1記載の電子機器。
【請求項4】
前記視差画像生成手段は、前記合成映像フレームを用いて、前記第2解像度を有する第1視差画像と前記第2解像度を有する第2視差画像とを生成し、
前記表示画像生成手段は、前記第1視差画像に含まれる画素と前記第2視差画像に含まれる画素とを前記所定のパターンで配置することによって、前記表示画像を生成する請求項2又は請求項3記載の電子機器。
【請求項5】
前記二次元映像のオブジェクトは、ポインティングデバイスによって指示される位置を示すカーソルを含む請求項1記載の電子機器。
【請求項6】
前記二次元映像のオブジェクトは、ウィンドウを含む請求項1記載の電子機器。
【請求項7】
前記表示画像を前記画面に表示するよう制御する表示制御手段をさらに具備する請求項1記載の電子機器。
【請求項8】
前記画面に表示された、前記表示画像に含まれる複数の画素に対応する複数の光線をそれぞれ所定の方向に射出するための複数のレンズを含むレンズユニットをさらに具備する請求項7記載の電子機器。
【請求項9】
三次元映像データに含まれる、第1解像度を有する複数の画像を含む第1フォーマットの映像フレームを、第2フォーマットの映像フレームに変換し、
前記第2フォーマットの映像フレームに二次元映像のオブジェクトを合成することによって、合成映像フレームを生成し、
前記合成映像フレームを用いて、前記第1解像度よりも高い第2解像度を有する複数の視差画像を生成し、
前記生成された第2解像度を有する複数の視差画像に含まれる画素を所定のパターンで配置することによって、画面に表示するための表示画像を生成する表示制御方法。
【請求項10】
コンピュータにより実行されるプログラムであって、前記プログラムは前記コンピュータに、
三次元映像データに含まれる、第1解像度を有する複数の画像を含む第1フォーマットの映像フレームを、第2フォーマットの映像フレームに変換する手順と、
前記第2フォーマットの映像フレームに二次元映像のオブジェクトを合成することによって、合成映像フレームを生成する手順と、
前記合成映像フレームを用いて、前記第1解像度よりも高い第2解像度を有する複数の視差画像を生成する手順と、
前記生成された第2解像度を有する複数の視差画像に含まれる画素を所定のパターンで配置することによって、画面に表示するための表示画像を生成する手順とを実行させるプログラム。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【公開番号】特開2013−88524(P2013−88524A)
【公開日】平成25年5月13日(2013.5.13)
【国際特許分類】
【出願番号】特願2011−227201(P2011−227201)
【出願日】平成23年10月14日(2011.10.14)
【出願人】(000003078)株式会社東芝 (54,554)
【Fターム(参考)】
【公開日】平成25年5月13日(2013.5.13)
【国際特許分類】
【出願日】平成23年10月14日(2011.10.14)
【出願人】(000003078)株式会社東芝 (54,554)
【Fターム(参考)】
[ Back to top ]