説明

表示制御装置および表示制御方法、並びに画像生成装置および画像生成方法

【課題】左目用の2D画像と右目用の2D画像が、互いに逆の位相が間引かれて多重化される場合において、復元後の左目用の2D画像と右目用の2D画像の画質をより向上させる。
【解決手段】フレームシーケンス表示制御部73は、2Dシーンフラグが、入力画像が2D画像であることを示す場合、ゼロ補間後の多重化画像の左半分の領域の画像を左目用の表示画像とし、ゼロ補間後の多重化画像の右半分の領域の画像を右目用の表示画像として、高速で交互に表示させる。3Dメガネ制御部74は、2Dシーンフラグが、入力画像が2D画像であることを示す情報である場合、ユーザが装着する3Dメガネの左目用のシャッタと右目用のシャッタの両方を開くように、3Dメガネを制御する。本発明は、例えば復号装置に適用することができる。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、表示制御装置および表示制御方法、並びに画像生成装置および画像生成方法に関し、特に、左目用の2D画像と右目用の2D画像が、互いに逆の位相が間引かれて多重化される場合において、復元後の左目用の2D画像と右目用の2D画像の画質をより向上させることができるようにした表示制御装置および表示制御方法、並びに画像生成装置および画像生成方法に関する。
【背景技術】
【0002】
近年、3D画像の視聴が話題であり、3D画像の処理方法が多く提案されている。例えば、3D画像の符号化方法および復号方法として、多視点の画像用の方法が提案されている(例えば、特許文献1参照)。
【0003】
また、3D画像を構成する左目用の画像と右目用の画像を1フレームのHD(High Definition)画像に多重化する方法も提案されている。多重化方式としては、3D画像を構成する左目用の画像と右目用の画像を画面上の左右に分割して配置するサイドバイサイド方式、左目用の画像と右目用の画像を画面上の上下に分割して配置するオーバーアンドアンダー方式などがある。
【0004】
3D画像が1フレームのHD画像に多重化される場合、2D画像と同一のビデオレートで3D画像を伝送したり、蓄積したりすることができる。また、符号化方式として、2D画像と同一の、既存のAVC(Advanced Video Coding)方式やMPEG2(Moving Picture Experts Group phase 2)方式などを用いることができるため、既存の符号化装置や復号装置で3D画像を取り扱うことができる。
【0005】
一方、1本のビデオストリームは3D画像と2D画像から構成される場合がある。例えば、放送用のビデオストリームにおいて、3Dの制作画像と2Dのコマーシャル画像が混在する場合や、映画のビデオストリームにおいて、製作者の意図により、3D画像のシーンと2D画像のシーンが混在する場合などがある。
【0006】
図1は、2D画像と3D画像が混在する1本のビデオストリームを符号化し復号する従来の画像処理システムの構成の一例を示すブロック図である。
【0007】
図1の画像処理システム1は、符号化装置11と復号装置12により構成される。符号化装置11は、画像多重化部21および画像符号化部22により構成される。
【0008】
符号化装置11の画像多重化部21には、2D画像と3D画像が混在する1本のビデオストリームが入力され、画像多重化部21は、2D画像と3D画像を入力画像として取得する。なお、2D画像は、同一の視点の左目用の画像と右目用の画像により構成され、3D画像は、異なる視点の左目用の画像と右目用の画像により構成される。
【0009】
画像多重化部21は、サイドバイサイド方式で入力画像を多重化する多重化処理を行う。具体的には、画像多重化部21は、入力画像に対してローパスフィルタ処理を施し、入力画像の帯域を半分にする。そして、画像多重化部21は、ローパスフィルタ処理後の入力画像のうちの左目用の画像の水平方向の位置が偶数位置である画素を抽出することにより、その左目用の画像を1/2に縮小し、多重化画像の左半分の領域の画像とする。また、画像多重化部21は、ローパスフィルタ処理の結果得られる右目用の画像の水平方向の位置が奇数位置である画素を抽出することにより、その右目用の画像を1/2に縮小し、多重化画像の右半分の領域の画像とする。そして、画像多重化部21は、多重化処理の結果得られる入力画像と同一のサイズの多重化画像を画像符号化部22に供給する。
【0010】
画像符号化部22は、画像多重化部21から供給される多重化画像を、AVC等の符号化方式で符号化し、その結果得られる符号化ストリームを復号装置12に供給する。
【0011】
復号装置12は、画像復号部31、画像分離部32、フレームシーケンス表示制御部33、および3Dメガネ制御部34により構成される。
【0012】
復号装置12の画像復号部31は、画像符号化部22から供給される符号化ストリームを、画像符号化部22における符号化方式に対応する方式で復号し、その結果得られる多重化画像を画像分離部32に供給する。
【0013】
画像分離部32は、画像復号部31から供給される多重化画像の左右半分の領域を分離する分離処理を行う。具体的には、画像分離部32は、多重化画像の左半分の領域の各画素を、水平方向の位置が偶数位置である画素とし、水平方向の位置が奇数位置である画素を0で補間することにより、入力画像と同一のサイズの画像を生成する。そして、画像分離部32は、生成された画像に対してローパスフィルタ処理を施すことにより、その画像の帯域を入力画像の半分にする。画像分離部32は、ローパスフィルタ処理の結果得られる画像を、左目用の表示画像としてフレームシーケンス表示制御部33に供給する。
【0014】
また、画像分離部32は、多重化画像の右半分の領域の各画素を、水平方向の位置が奇数位置である画素とし、水平方向の位置が偶数位置である画素を0で補間することにより、入力画像と同一のサイズの画像を生成する。そして、画像分離部32は、生成された画像に対してローパスフィルタ処理を施すことにより、その画像の帯域を入力画像の半分にする。画像分離部32は、ローパスフィルタ処理の結果得られる画像を、右目用の表示画像としてフレームシーケンス表示制御部33に供給する。
【0015】
フレームシーケンス表示制御部33(表示制御手段)は、画像分離部32から供給される左目用の表示画像と右目用の表示画像を、交互に図示せぬ表示装置に表示させる。また、フレームシーケンス表示制御部33は、表示対象が左目用の表示画像であるか、または、右目用の表示画像であるかを表す表示情報を、3Dメガネ制御部34に供給する。
【0016】
3Dメガネ制御部34(メガネ制御手段)は、フレームシーケンス表示制御部33から供給される表示情報に基づいて、左目用の表示画像の表示時に図示せぬ3Dメガネの左目用のシャッタが開き、右目用の表示画像の表示時に右目用のシャッタが開くように、3Dメガネを制御する。これにより、3Dメガネを装着したユーザは、図示せぬ表示装置に表示される左目用の表示画像を左目だけで見て、右目用の表示画像を右目だけで見ることができる。その結果、左目用の表示画像と右目用の表示画像が異なる視点の画像である場合、ユーザは、3D画像を見ることができ、左目用の表示画像と右目用の画像が同一の視点の画像である場合、ユーザは、2D画像を見ることができる。
【0017】
以上のように、画像多重化部21は、間引き前にローパスフィルタ処理を施すので、縮小による折り返り歪みを防止することができる。また、画像分離部32は、補間後の画像に対してローパスフィルタ処理を施すので、補間により発生するイメージング成分を除去することができる。
【先行技術文献】
【特許文献】
【0018】
【特許文献1】特開2008−182669号公報
【発明の概要】
【発明が解決しようとする課題】
【0019】
しかしながら、ローパスフィルタ処理により、処理後の画像の帯域は処理前の帯域の半分になるため、図示せぬ表示装置に表示される2D画像の帯域は、入力画像の帯域の半分になる。即ち、図示せぬ表示装置に表示される2D画像の表示解像度は、入力画像の表示解像度の半分になる。
【0020】
本発明は、このような状況に鑑みてなされたものであり、左目用の2D画像と右目用の2D画像が、互いに逆の位相が間引かれて多重化される場合において、復元後の左目用の2D画像と右目用の2D画像の画質をより向上させることができるようにするものである。
【課題を解決するための手段】
【0021】
本発明の第1の側面の表示制御装置は、所定の位相の間引き後の左目用の画像と、前記所定の位相と逆の位相の間引き後の右目用の画像が多重化された多重化画像を、前記間引き後の左目用の画像と前記間引き後の右目用の画像に分離し、前記間引き後の左目用の画像の前記所定の位相を0で補間し、前記間引き後の右目用の画像の前記所定の位相と逆の位相を0で補間する分離手段と、前記左目用の画像と前記右目用の画像により構成される画像が2D画像である場合、前記間引き後の左目用の画像の補間後の画像である補間左目画像を左目用の表示画像とし、前記間引き後の右目用の画像の補間後の画像である補間右目画像を右目用の表示画像として、交互に表示させる表示制御手段と、前記左目用の画像と前記右目用の画像により構成される画像が2D画像である場合、メガネの左目用のシャッタと右目用のシャッタの両方を開くように、前記メガネを制御するメガネ制御手段とを備える表示制御装置である。
【0022】
本発明の第1の側面の表示制御方法は、本発明の第1の側面の表示制御装置に対応する。
【0023】
本発明の第1の側面においては、所定の位相の間引き後の左目用の画像と、前記所定の位相と逆の位相の間引き後の右目用の画像が多重化された多重化画像が、前記間引き後の左目用の画像と前記間引き後の右目用の画像に分離され、前記間引き後の左目用の画像の前記所定の位相が0で補間され、前記間引き後の右目用の画像の前記所定の位相と逆の位相が0で補間され、前記左目用の画像と前記右目用の画像により構成される画像が2D画像である場合、前記間引き後の左目用の画像の補間後の画像である補間左目画像が左目用の表示画像とされ、前記間引き後の右目用の画像の補間後の画像である補間右目画像が右目用の表示画像とされて、交互に表示させられ、前記左目用の画像と前記右目用の画像により構成される画像が2D画像である場合、メガネの左目用のシャッタと右目用のシャッタの両方を開くように、前記メガネが制御される。
【0024】
本発明の第2の側面の表示制御装置は、左目用の画像の所定の位相と、右目用の画像の前記所定の位相と逆の位相を間引き、間引き後の前記左目用の画像と前記右目用の画像を多重化する多重化手段と、前記多重化手段による多重化の結果得られる多重化画像における折り返り歪みに関する情報である歪み関連情報を生成する歪み関連情報生成手段と、前記多重化画像および前記歪み関連情報を送信する送信手段とを備える画像生成装置である。
【0025】
本発明の第2の側面の画像生成方法は、本発明の第2の側面の画像生成装置に対応する。
【0026】
本発明の第2の側面においては、左目用の画像の所定の位相と、右目用の画像の前記所定の位相と逆の位相が間引かれ、間引き後の前記左目用の画像と前記右目用の画像が多重化され、多重化の結果得られる多重化画像における折り返り歪みに関する情報である歪み関連情報が生成され、前記多重化画像および前記歪み関連情報が送信される。
【0027】
本発明の第3の側面の表示制御装置は、所定の位相の間引き後の左目用の画像と、前記所定の位相と逆の位相の間引き後の右目用の画像が多重化された多重化画像の元となる前記左目用の画像と前記右目用の画像により構成される画像が2D画像である場合、前記多重化画像を、前記間引き後の左目用の画像と前記間引き後の右目用の画像に分離し、前記間引き後の左目用の画像に対して前記間引き後の右目用の画像を用いてインターリーブ処理し、前記間引き後の右目用の画像に対して前記間引き後の左目用の画像を用いてインターリーブ処理する分離手段と、前記左目用の画像と前記右目用の画像により構成される画像が2D画像である場合、前記間引き後の左目用の画像のインターリーブ処理後の画像である処理後左目画像を左目用の表示画像とし、前記間引き後の右目用の画像のインターリーブ処理後の画像である処理後右目画像を右目用の表示画像として、交互に表示させる表示制御手段と、前記左目用の表示画像の表示時にメガネの左目用のシャッタを開き、前記右目用の表示画像の表示時に前記メガネの右目用のシャッタを開くように、前記メガネを制御するメガネ制御手段とを備える表示制御装置である。
【0028】
本発明の第3の側面の表示制御方法は、本発明の第3の側面の表示制御装置に対応する。
【0029】
本発明の第3の側面においては、所定の位相の間引き後の左目用の画像と、前記所定の位相と逆の位相の間引き後の右目用の画像が多重化された多重化画像の元となる前記左目用の画像と前記右目用の画像により構成される画像が2D画像である場合、前記多重化画像が、前記間引き後の左目用の画像と前記間引き後の右目用の画像に分離され、前記間引き後の左目用の画像に対して前記間引き後の右目用の画像を用いてインターリーブ処理が行われ、前記間引き後の右目用の画像に対して前記間引き後の左目用の画像を用いてインターリーブ処理が行われ、前記左目用の画像と前記右目用の画像により構成される画像が2D画像である場合、前記間引き後の左目用の画像のインターリーブ処理後の画像である処理後左目画像が左目用の表示画像とされ、前記間引き後の右目用の画像のインターリーブ処理後の画像である処理後右目画像が右目用の表示画像とされて、交互に表示させられ、
前記左目用の表示画像の表示時にメガネの左目用のシャッタを開き、前記右目用の表示画像の表示時に前記メガネの右目用のシャッタを開くように、前記メガネが制御される。
【0030】
第1および第3の側面の表示制御装置並びに第2の側面の画像生成装置は、独立した装置であっても良いし、1つの装置を構成している内部ブロックであってもよい。
【発明の効果】
【0031】
本発明の第1および第3の側面によれば、左目用の2D画像と右目用の2D画像が、互いに逆の位相が間引かれて多重化される場合において、復元後の左目用の2D画像と右目用の2D画像の画質をより向上させることができる。
【0032】
また、本発明の第2の側面によれば、左目用の2D画像と右目用の2D画像が、互いに逆の位相が間引かれて多重化される場合において、復元後の左目用の2D画像と右目用の2D画像の画質をより向上させるための情報を送信することができる。
【図面の簡単な説明】
【0033】
【図1】従来の画像処理システムの構成の一例を示すブロック図である。
【図2】本発明を適用した画像処理システムの第1実施の形態の構成例を示すブロック図である。
【図3】多重化画像を説明する図である。
【図4】フレームパッキングアレンジメントSEIの記述例を示す図である。
【図5】2Dシーン情報SEIの記述例を示す図である。
【図6】入力画像が2D画像である場合の多重化処理を説明する図である。
【図7】入力画像が2D画像である場合の分離処理を説明する図である。
【図8】入力画像が2D画像である場合の帯域を示す図である。
【図9】入力画像が3D画像である場合の多重化処理を説明する図である。
【図10】入力画像が3D画像である場合の分離処理を説明する図である。
【図11】入力画像が3D画像である場合の帯域を示す図である。
【図12】符号化処理を説明するフローチャートである。
【図13】復号処理を説明するフローチャートである。
【図14】本発明を適用した画像処理システムの第2実施の形態の構成例を示すブロック図である。
【図15】入力画像が2D画像である場合の分離処理を説明する図である。
【図16】復号処理を説明するフローチャートである。
【図17】本発明を適用した画像処理システムの第3実施の形態の構成例を示すブロック図である。
【図18】2Dシーン情報SEIの記述例を示す図である。
【図19】符号化処理を説明するフローチャートである。
【図20】復号処理を説明するフローチャートである。
【図21】コンピュータの一実施の形態の構成例を示す図である。
【発明を実施するための形態】
【0034】
<第1実施の形態>
[画像処理システムの第1実施の形態の構成例]
図2は、本発明を適用した画像処理システムの第1実施の形態の構成例を示すブロック図である。
【0035】
図2の画像処理システム50は、符号化装置51と復号装置52により構成される。画像処理システム50は、入力画像が2D画像である場合には、多重化前および分離後にローパスフィルタ処理を行わず、入力画像が3D画像である場合には、多重化前および分離後にローパスフィルタ処理を行う。
【0036】
具体的には、符号化装置51は、2Dシーン判定部61、画像多重化部62、および画像符号化部63により構成される。
【0037】
符号化装置51の2Dシーン判定部61には、2D画像と3D画像が混在する1本のビットストリームが入力され、2Dシーン判定部61は、その2D画像や3D画像を入力画像として取得する。
【0038】
2Dシーン判定部61は、入力画像が2D画像であるかどうかを判定する。この判定方法としては、例えば、入力画像を構成する左目用の画像と右目用の画像が同一であるかどうかを判定する方法、外部から入力画像が2D画像であるかどうかを示す情報を取得し、その情報に基づいて判定する方法などがある。2Dシーン判定部61(2D情報生成手段)は、判定結果を示すフラグである2Dシーンフラグ(2D情報)を生成し、画像多重化部62および画像符号化部63に供給する。また、2Dシーン判定部61は、入力画像を画像多重化部62に供給する。
【0039】
画像多重化部62は、2Dシーン判定部61から供給される2Dシーンフラグに基づいて、サイドバイサイド方式で入力画像を多重化する多重化処理を行う。
【0040】
具体的には、画像多重化部62は、2Dシーンフラグが、入力画像が2D画像であることを示す場合、入力画像に対してローパスフィルタ処理を行わず、入力画像そのものに対して、図1の画像多重化部21による多重化と同様の多重化を行う。一方、画像多重化部62は、2Dシーンフラグが、入力画像が2D画像ではないことを示す場合、画像多重化部21による処理と同様に、入力画像に対してローパスフィルタ処理と多重化を行う。そして、画像多重化部62は、多重化処理の結果得られる多重化画像を画像符号化部63に供給する。
【0041】
画像符号化部63は、画像多重化部62から供給される多重化画像と2Dシーン判定部61から供給される2Dシーンフラグを用いて、AVC方式にしたがって符号化を行う。画像符号化部63は、その結果得られる符号化ストリームを復号装置52に送信する。
【0042】
復号装置52は、画像復号部71、画像分離部72、フレームシーケンス表示制御部73、および3Dメガネ制御部74により構成される。
【0043】
復号装置52の画像復号部71(取得手段)は、符号化装置51の画像符号化部63から符号化ストリームを取得し、その符号化ストリームから、符号化された多重化画像、2Dシーンフラグなどを抽出する。画像復号部71は、符号化された多重化画像を、AVC方式に対応する方式で復号し、その結果得られる多重化画像を画像分離部72に供給する。また、画像復号部71は、2Dシーンフラグを画像分離部72および3Dメガネ制御部74に供給する。
【0044】
画像分離部72(分離手段)は、画像復号部71から供給される2Dシーンフラグに基づいて、画像復号部71から供給される多重化画像の左右半分の領域を分離する分離処理を行う。具体的には、2Dシーンフラグが、入力画像が2D画像であることを示す場合、画像分離部72は、図1の画像分離部32と同様に、多重化画像の左半分の領域と右半分の領域から、それぞれ、入力画像と同一のサイズの画像を生成する。そして、画像分離部72は、生成された画像に対してローパスフィルタ処理を施さず、左半分の領域から生成された画像をそのまま左目用の表示画像とし、右半分の領域から生成された画像をそのまま右目用の表示画像とする。
【0045】
一方、2Dシーンフラグが、入力画像が2D画像ではないことを示す場合、画像分離部72は、画像分離部32の分離処理と同様の分離処理を行う。そして、画像分離部72は、分離処理の結果得られる左目用の表示画像と右目用の表示画像をフレームシーケンス表示制御部73に供給する。
【0046】
フレームシーケンス表示制御部73(表示制御手段)は、画像分離部72から供給される左目用の表示画像と右目用の表示画像を、ハイフレームレート(例えば、240p)で交互に図示せぬ表示装置に表示させる。また、フレームシーケンス表示制御部73は、表示情報を3Dメガネ制御部74に供給する。
【0047】
3Dメガネ制御部74(メガネ制御手段)は、画像復号部71から供給される2Dシーンフラグが、入力画像が2D画像であることを示す場合、フレームシーケンス表示制御部73から供給される表示情報に基づいて、図示せぬ3Dメガネの左目用のシャッタと右目用のシャッタの両方が開くように、3Dメガネを制御する。これにより、3Dメガネを装着したユーザは、図示せぬ表示装置に表示される同一の視点の左目用の表示画像と右目用の表示画像の両方を、両目で見ることができる。その結果、左目用の表示画像を左目で見て、右目用の表示画像を右目で見る場合に比べて、ユーザの両目に入る光の量が増加し、ユーザは明るい2D画像を見ることができる。
【0048】
一方、2Dシーンフラグが、入力画像が2D画像ではないことを示す場合、3Dメガネ制御部74は、図1の3Dメガネ制御部34と同様に、フレームシーケンス表示制御部73から供給される表示情報に基づいて、左目用の表示画像の表示時に左目用のシャッタが開き、右目用の表示画像の表示時に右目用のシャッタが開くように、3Dメガネを制御する。これにより、3Dメガネを装着したユーザは、図示せぬ表示装置に表示される左目用の表示画像を左目だけで見て、左目用の表示画像と異なる視点の右目用の表示画像を右目だけで見ることができる。その結果、ユーザは、3D画像を見ることができる。
【0049】
[多重化画像の説明]
図3は、図2の画像多重化部62で生成される多重化画像を説明する図である。
【0050】
図3に示すように、入力画像が3D画像である場合、入力画像は、異なる視点の左目用の画像(LEFT)と右目用の画像(RIGHT)により構成される。一方、入力画像が2D画像である場合、入力画像は、同一の視点の左目用の画像(2D)と右目用の画像(2D)により構成される。
【0051】
そして、図3に示すように、入力画像のうちの左目用の画像の1/2縮小画像が左半分に配置され、右目用の画像の1/2縮小画像が右半分に配置された多重化画像が生成される。
【0052】
[符号化ストリームのSEIの説明]
図4および図5は、画像符号化部63により得られる符号化ストリームに含まれるSEI(Supplemental Enhancement Information)の記述例を示す図である。
【0053】
図4は、符号化ストリームに含まれるフレームパッキングアレンジメントSEIの記述例を示す図である。
【0054】
図4の第5行目に示すように、フレームパッキングアレンジメントSEIには、多重化方式を表す情報(frame_packing_arrangement_type)が配置される。また、第15行目に示すように、フレームパッキングアレンジメントSEIには、多重化処理において左目用の画像を縮小する際に間引かない画素の水平方向の位置が、奇数位置であるか、または、偶数位置であるかを表す情報(frame0_grid_position_x)が配置される。
【0055】
さらに、第16行目に示すように、フレームパッキングアレンジメントSEIには、多重化処理において左目用の画像を縮小する際に間引かない画素の垂直方向の位置が、奇数位置であるか、または、偶数位置であるかを表す情報(frame0_grid_position_y)が配置される。
【0056】
また、第17行目に示すように、フレームパッキングアレンジメントSEIには、多重化処理において右目用の画像を縮小する際に間引かない画素の水平方向の位置が、奇数位置であるか、または、偶数位置であるかを表す情報(frame1_grid_position_x)が配置される。さらに、第18行目に示すように、フレームパッキングアレンジメントSEIには、多重化処理において左目用の画像を縮小する際に間引かない画素の垂直方向の位置が、奇数位置であるか、または、偶数位置であるかを表す情報(frame1_grid_position_y)が配置される。
【0057】
なお、本実施の形態では、多重化処理において垂直方向の位置によって画素は間引かれないので、情報(frame0_grid_position_y)および情報(frame1_grid_position_y)は、奇数位置および偶数位置のいずれも表さない情報となる。
【0058】
図5は、符号化ストリームに含まれる2Dシーン情報SEIの記述例を示す図である。
【0059】
図5の第2行目に示すように、2Dシーン情報SEIには、2Dシーンフラグ(2d_scene_flag)が配置される。
【0060】
[2D画像に対する処理の説明]
図6は、入力画像が2D画像である場合の多重化処理を説明する図である。
【0061】
図6に示すように、入力画像が2D画像である場合、画像多重化部62は、まず、入力画像のうちの左目用の画像の水平方向の位置が偶数位置である画素を抽出して、その左目用の画像を1/2に縮小する。即ち、画像多重化部62は、左目用の画像の水平方向の位置が奇数位置である画素を間引く。
【0062】
また、画像多重化部62は、入力画像のうちの右目用の画像の水平方向の位置が奇数位置である画素を抽出して、その右目用の画像を1/2に縮小する。即ち、画像多重化部62は、左目用の画像の水平方向の位置が偶数位置である画素を間引く。次に、画像多重化部62は、左目用の画像の1/2縮小画像を左半分の領域に配置し、右目用の画像の1/2縮小画像を右半分に配置することにより多重化を行い、多重化画像を得る。
【0063】
図7は、多重化画像の元となる入力画像が2D画像である場合の分離処理を説明する図である。
【0064】
図7に示すように、多重化画像の元となる入力画像が2D画像である場合、画像分離部72は、まず、多重化画像を左半分の領域と右半分の領域に分離する。次に、画像分離部72は、左半分の領域の各画素を水平方向の位置が偶数位置である画素とし、水平方向の位置が奇数位置である画素を0で補間することにより、入力画像と同一のサイズの画像を生成し、左目用の表示画像とする。また、画像分離部72は、右半分の領域の各画素を水平方向の位置が奇数位置である画素とし、水平方向の位置が偶数位置である画素を0で補間することにより、入力画像と同一のサイズの画像を生成し、右目用の表示画像とする。
【0065】
図8は、入力画像が2D画像である場合の入力画像、1/2縮小画像、および、図示せぬ表示装置に表示され、ユーザにより知覚される画像(以下、知覚画像という)の帯域を示す図である。なお、図8のグラフにおいて、横軸は正規化周波数(f)を表し、縦軸はエネルギー(X(z))を表している。
【0066】
図8の例では、入力画像の帯域は、図8の左側に示すようになっている。図8の例において、入力画像の最高の正規化周波数はπであり、サンプリング周波数は2πである。
【0067】
入力画像の帯域が図8の左側に示すようになる場合、左目用の画像の1/2縮小画像と右目用の画像の1/2縮小画像の帯域は、図8の中央に示すようになる。即ち、ローパスフィルタ処理により縮小前に帯域が半分にされていないため、縮小による折り返り歪みはあるが、帯域は入力画像の帯域と同一である。
【0068】
そして、左目用の画像の1/2縮小画像と右目用の画像の1/2縮小画像が多重化されて符号化され、復号されて分離処理が行われることにより得られる左目用の表示画像と右目用の表示画像の両方が、ユーザにより両目で見られるとき、知覚画像の帯域は、図8の右側に示すようになる。即ち、知覚画像の帯域は、入力画像の帯域と同一であり、折り返り歪みが発生していない。
【0069】
折り返り歪みが発生しない理由を以下に説明する。
【0070】
フレームシーケンス表示制御部73は、左目用の表示画像と右目用の表示画像をハイフレームレートで交互に表示させるので、連続で表示される左目用の表示画像と右目用の表示画像の時間的な距離が極めて短い。その結果、ユーザは、図示せぬ表示装置に表示された画像を両目で見ることにより、時間的に隣接する左目用の表示画像と右目用の表示画像が合成された画像を知覚することができる。
【0071】
そして、左目用の画像と右目用の画像では、逆位相の画素が間引かれるので、間引かれた画素が補間された左目用の表示画像と右目用の表示画像が合成されると、間引きにより生じた折り返り歪みが打ち消し合う。その結果、知覚画像には折り返り歪みが発生しない。
【0072】
[3D画像に対する処理の説明]
図9は、入力画像が3D画像である場合の多重化処理を説明する図である。
【0073】
図9に示すように、入力画像が3D画像である場合、画像多重化部62は、まず、入力画像のうちの左目用の画像に対してローパスフィルタ処理を行い、帯域を半分にする。また、画像多重化部62は、入力画像のうちの右目用の画像に対してローパスフィルタ処理を行い、帯域を半分にする。
【0074】
次に、画像多重化部62は、ローパスフィルタ処理後の左目用の画像の水平方向の位置が偶数位置である画素を抽出して、その左目用の画像を1/2に縮小する。また、画像多重化部62は、ローパスフィルタ処理後の右目用の画像の水平方向の位置が奇数位置である画素を抽出して、その右目用の画像を1/2に縮小する。そして、画像多重化部62は、左目用の画像の1/2縮小画像を左半分の領域に配置し、右目用の画像の1/2縮小画像を右半分に配置することにより多重化を行い、多重化画像を得る。
【0075】
図10は、多重化画像の元となる入力画像が3D画像である場合の分離処理を説明する図である。
【0076】
図10に示すように、多重化画像の元となる入力画像が3D画像である場合、画像分離部72は、まず、多重化画像の左半分の領域と左半分の領域に分離する。次に、画像分離部72は、左半分の領域の各画素を水平方向の位置が偶数位置である画素とし、水平方向の位置が奇数位置である画素を0で補間することにより、入力画像と同一のサイズの画像を生成する。また、画像分離部72は、右半分の領域の各画素を水平方向が奇数位置である画素とし、水平方向の位置が偶数位置である画素を0で補間することにより、入力画像と同一のサイズの画像を生成する。
【0077】
そして、画像分離部72は、多重化画像の左半分の領域から生成された入力画像と同一のサイズの画像に対してローパスフィルタ処理を行い、その結果得られる画像を左目用の表示画像とする。また、画像分離部72は、多重化画像の右半分の領域から生成された入力画像と同一のサイズの画像に対してローパスフィルタ処理を行い、その結果得られる画像を右目用の表示画像とする。
【0078】
図11は、入力画像が3D画像である場合の入力画像、1/2縮小画像、および、知覚画像の帯域を示す図である。なお、図11のグラフにおいて、横軸は正規化周波数(f)を表し、縦軸はエネルギー(X(z))を表している。
【0079】
図11の例では、入力画像の帯域は、図11の左側に示すようになっている。図11の例において、入力画像の最高の正規化周波数はπであり、サンプリング周波数は2πである。
【0080】
入力画像の帯域が図11の左側に示すようになる場合、左目用の画像の1/2縮小画像と右目用の画像の1/2縮小画像の帯域は、図11の中央に示すようになる。即ち、ローパスフィルタ処理により縮小前に帯域が半分にされているため、帯域は入力画像の帯域の半分であるが、縮小による折り返り歪みがない。なお、理論上、折り返り歪みはないが、実際には、折り返り歪みは少ないが発生する。
【0081】
そして、左目用の画像の1/2縮小画像と右目用の画像の1/2縮小画像が多重化されて符号化され、復号されて分離処理が行われることにより得られる左目用の表示画像と右目用の表示画像が、それぞれ、ユーザにより左目、右目だけで見られるとき、知覚画像の帯域は、図11の右側に示すようになる。即ち、知覚画像の帯域は、入力画像の帯域の半分になるが、折り返り歪みは理論上発生しない。
【0082】
[画像処理システムの処理の説明]
図12は、図2の画像処理システム50の符号化装置51による符号化処理を説明するフローチャートである。この符号化処理は、例えば、符号化装置51に2D画像と3D画像が混在する1本のビットストリームが入力されたとき開始される。
【0083】
図12のステップS11において、2Dシーン判定部61は、符号化装置51に入力されたビットストリームに含まれる2D画像や3D画像を入力画像として取得し、入力画像を画像多重化部62に供給する。なお、後述するステップS12乃至S18の処理は、1フレームの左目用の画像と右目用の画像から構成される入力画像ごとに行われる。
【0084】
ステップS12において、2Dシーン判定部61は、入力画像が2D画像であるかどうかを判定する。ステップS12で入力画像が2D画像であると判定された場合、ステップS13において、2Dシーン判定部61は、2Dシーンフラグを、入力画像が2D画像であることを示す1に設定し、画像多重化部62および画像符号化部63に供給する。
【0085】
ステップS14において、画像多重化部62は、2Dシーン判定部61から供給される1に設定された2Dシーンフラグに基づいて、入力画像に対して、図1の画像多重化部21による多重化と同様の多重化を行う。そして、画像多重化部62は、多重化の結果得られる多重化画像を画像符号化部63に供給し、処理をステップS18に進める。
【0086】
一方、ステップS12で入力画像が2D画像ではないと判定された場合、即ち入力画像が3D画像である場合、処理はステップS15に進む。ステップS15において、2Dシーン判定部61は、2Dシーンフラグを入力画像が2D画像ではないことを示す0に設定し、画像多重化部62および画像符号化部63に供給する。
【0087】
ステップS16において、画像多重化部62は、2Dシーン判定部61から供給される0に設定された2Dシーンフラグに基づいて、入力画像に対して、画像多重化部21と同様にローパスフィルタ処理を行う。
【0088】
ステップS17において、画像多重化部62は、ローパスフィルタ処理後の入力画像に対して、画像多重化部21と同様に多重化を行う。そして、画像多重化部62は、多重化の結果得られる多重化画像を画像符号化部63に供給し、処理をステップS18に進める。
【0089】
ステップS18において、画像符号化部63は、画像多重化部62から供給される多重化画像と2Dシーン判定部61から供給される2Dシーンフラグを用いて、AVC方式にしたがって符号化を行う。画像符号化部63は、その結果得られる符号化ストリームを復号装置52に送信し、処理を終了する。
【0090】
以上のように、符号化装置51は、入力画像が2D画像である場合、入力画像に対してローパスフィルタ処理を施さずに多重化を行うので、復号装置52において表示される2D画像の表示解像度を、入力画像の表示解像度と同一にすることができる。また、ローパスフィルタ処理分の演算量を削減することができる。さらに、符号化装置51は、2Dシーンフラグを復号装置52に送信することができる。
【0091】
図13は、図2の画像処理システム50の復号装置52による復号処理を説明するフローチャートである。この復号処理は、画像処理システム50の符号化装置51から符号化ストリームが送信されてきたとき、ピクチャ単位で行われる。
【0092】
図13のステップS31において、復号装置52の画像復号部71は、符号化装置51から送信されてきた符号化ストリームを取得し、その符号化ストリームから、符号化された多重化画像、2Dシーンフラグなどを抽出する。そして、画像復号部71は、2Dシーンフラグを画像分離部72および3Dメガネ制御部74に供給する。
【0093】
ステップS32において、画像復号部71は、符号化された多重化画像を、AVC方式に対応する方式で復号し、その結果得られる多重化画像を画像分離部72に供給する。
【0094】
ステップS33において、画像分離部72は、多重化画像を左半分の領域と右半分の領域に分離する。ステップS34において、画像分離部72は、分離された左半分の領域の画素を水平方向の位置が偶数位置である画素とし、水平方向の位置が奇数位置である画素を0で補間することにより、入力画像と同一のサイズの画像を生成する。ステップS35において、画像分離部72は、分離された右半分の領域の画素を水平方向の位置が奇数位置である画素とし、水平方向の位置が偶数位置である画素を0で補間することにより、入力画像と同一のサイズの画像を生成する。
【0095】
ステップS36において、画像分離部72は、画像復号部71から供給される2Dシーンフラグが1であるかどうかを判定する。
【0096】
ステップS36で2Dシーンフラグが1であると判定された場合、画像分離部72は、ステップS34で生成された画像をそのまま左目用の表示画像とし、ステップS35で生成された画像をそのまま右目用の表示画像として、フレームシーケンス表示制御部73に供給する。そして、フレームシーケンス表示制御部73は、表示対象が左目用の表示画像であることを表す表示情報を、3Dメガネ制御部74に供給する。そして、ステップS37において、3Dメガネ制御部74は、図示せぬ3Dメガネの左目用のシャッタと右目用のシャッタの両方が開くように、3Dメガネを制御する。
【0097】
ステップS38において、フレームシーケンス表示制御部73は、画像分離部72から供給される左目用の表示画像を図示せぬ表示装置に表示させる。そして、フレームシーケンス表示制御部73は、表示対象が右目用の表示画像であることを表す表示情報を、3Dメガネ制御部74に供給する。ステップS39において、フレームシーケンス表示制御部73は、画像分離部72から供給される右目用の表示画像を図示せぬ表示装置に表示させ、処理を終了する。
【0098】
一方、ステップS36で2Dシーンフラグが1ではないと判定された場合、即ち2Dシーンフラグが0である場合、処理はステップS40に進む。
【0099】
ステップS40において、画像分離部72は、ステップS34で生成された画像およびステップS35で生成された画像に対してローパスフィルタ処理を行う。そして、画像分離部72は、ステップS34で生成された画像に対してローパスフィルタ処理を行った結果得られる画像を左目用の表示画像とする。また、画像分離部72は、ステップS35で生成された画像に対してローパスフィルタ処理を行った結果得られる画像を右目用の表示画像とする。そして、画像分離部72は、左目用の表示画像と右目用の表示画像をフレームシーケンス表示制御部73に供給し、フレームシーケンス表示制御部73は、表示対象が左目用の表示画像であることを表す表示情報を、3Dメガネ制御部74に供給する。
【0100】
ステップS41において、3Dメガネ制御部74は、フレームシーケンス表示制御部73から供給される表示情報に基づいて、図示せぬ3Dメガネの左目用のシャッタが開くように、3Dメガネを制御する。
【0101】
ステップS42において、フレームシーケンス表示制御部73は、画像分離部72から供給される左目用の表示画像を図示せぬ表示装置に表示させる。そして、フレームシーケンス表示制御部73は、表示対象が右目用の表示画像であることを表す表示情報を、3Dメガネ制御部74に供給する。
【0102】
ステップS43において、3Dメガネ制御部74は、フレームシーケンス表示制御部73から供給される表示情報に基づいて、図示せぬ3Dメガネの右目用のシャッタが開くように、3Dメガネを制御する。
【0103】
ステップS44において、フレームシーケンス表示制御部73は、画像分離部72から供給される右目用の表示画像を図示せぬ表示装置に表示させ、処理を終了する。
【0104】
以上のように、復号装置52は、多重化画像の元となる入力画像が2D画像である場合、多重化画像の分離後にローパスフィルタ処理を施さず、分離後の画像をそのまま表示画像とする。従って、2D画像の表示解像度を入力画像の表示解像度と同一にすることができる。また、ローパスフィルタ処理分の演算量を削減することができる。
【0105】
さらに、復号装置52は、左目用の表示画像と右目用の表示画像をハイフレームレートで交互に表示させ、3Dメガネの左目用のシャッタと右目用のシャッタの両方を開くように3Dメガネを制御するので、左目用の表示画像と右目用の表示画像に発生している折り返り歪みを打ち消し、ユーザに折り返り歪みを知覚させないようにすることができる。
【0106】
<第2実施の形態>
[画像処理システムの第2実施の形態の構成例]
図14は、本発明を適用した画像処理システムの第2実施の形態の構成例を示すブロック図である。
【0107】
図14に示す構成のうち、図1や図2の構成と同じ構成には同じ符号を付してある。重複する説明については適宜省略する。
【0108】
図14の画像処理システム100の構成は、主に、復号装置52の代わりに復号装置101が設けられている点が図2の構成と異なる。画像処理システム100は、復号装置101において、2D画像の左目用の表示画像および右目用の表示画像として同一の画像を生成し、表示対象が3D画像であっても2D画像であっても、3Dメガネの左目用のシャッタと右目用のシャッタを交互に開閉させる。
【0109】
具体的には、復号装置101は、フレームシーケンス表示制御部33、3Dメガネ制御部34、画像復号部111、および画像分離部112により構成される。
【0110】
復号装置101の画像復号部111(取得手段)は、図2の画像復号部71と同様に、符号化装置51の画像符号化部63から符号化ストリームを取得し、その符号化ストリームから、符号化された多重化画像、2Dシーンフラグなどを抽出する。画像復号部111は、画像復号部71と同様に、符号化された多重化画像を、AVC方式に対応する方式で復号し、その結果得られる多重化画像を画像分離部112に供給する。また、画像復号部111は、2Dシーンフラグを画像分離部112に供給する。
【0111】
画像分離部112は、画像復号部111から供給される2Dシーンフラグに基づいて、画像復号部111から供給される多重化画像の左右半分の領域を分離する分離処理を行う。
【0112】
具体的には、2Dシーンフラグが、入力画像が2D画像であることを示す場合、画像分離部112(分離手段)は、図1の画像分離部32と同様に、多重化画像の左半分の領域と右半分の領域から、それぞれ、入力画像と同一のサイズの画像を生成する。そして、画像分離部112は、生成された画像に対してローパスフィルタ処理を施さず、多重化画像の左半分の領域から生成された画像に対して、右半分の領域から生成された画像を用いて垂直ラインインターリーブ処理を行い、その結果得られる画像を左目用の表示画像とする。また、画像分離部112は、多重化画像の右半分の領域から生成された画像に対して、左半分の領域から生成された画像を用いて垂直ラインインターリーブ処理を行い、その結果得られる画像を右目用の表示画像とする。
【0113】
一方、2Dシーンフラグが、入力画像が2D画像ではないことを示す場合、画像分離部112は、画像分離部32の分離処理と同様の分離処理を行う。そして、画像分離部112は、分離処理の結果得られる左目用の表示画像と右目用の表示画像をフレームシーケンス表示制御部33に供給する。
【0114】
[2D画像に対する処理の説明]
図15は、多重化画像の元となる入力画像が2D画像である場合の分離処理を説明する図である。
【0115】
図15に示すように、多重化画像に対応する入力画像が2D画像である場合、画像分離部112は、まず、多重化画像の左半分の領域と右半分の領域に分離する。次に、画像分離部112は、左半分の領域の各画素を水平方向の位置が偶数位置である画素とし、水平方向の位置が奇数位置である画素を0で補間することにより、入力画像と同一のサイズの画像を生成する。また、画像分離部72は、右半分の領域の各画素を水平方向の位置が奇数位置である画素とし、水平方向の位置が偶数位置である画素を0で補間することにより、入力画像と同一のサイズの画像を生成する。
【0116】
そして、画像分離部112は、多重化画像の左半分の領域から生成された画像に対して、右半分の領域から生成された画像を用いて垂直ラインインターリーブ処理を行う。その結果、多重化画像の左半分の領域から生成された画像の水平方向の位置が奇数位置である画素が、右半分の領域から生成された画像の水平方向の位置が奇数位置である画素に置換され、左目用の表示画像とされる。
【0117】
また、画像分離部112は、多重化画像の右半分の領域から生成された画像に対して、左半分の領域から生成された画像を用いて垂直ラインインターリーブ処理を行う。その結果、多重化画像の右半分の領域から生成された画像の水平方向の位置が偶数位置である画素が、左半分の領域から生成された画像の水平方向の位置が偶数位置である画素に置換され、右目用の表示画像とされる。
【0118】
従って、左目用の表示画像と右目用の表示画像において、多重化画像の左半分の領域から生成された画像と右半分の領域から生成された画像の両方に発生していた折り返り歪みが打ち消しあう。よって、3Dメガネの左目用のシャッタと右目用のシャッタが交互に開閉され、左目用の表示画像と右目用の表示画像のいずれか一方しか1つの目で見ることができない場合であっても、ユーザに折り返り歪みを知覚させないようにすることができる。
【0119】
[画像処理システムの処理の説明]
図16は、図14の画像処理システム100の復号装置101による復号処理を説明するフローチャートである。この復号処理は、画像処理システム100の符号化装置51から符号化ストリームが送信されてきたとき、ピクチャ単位で行われる。
【0120】
図16のステップS51乃至S56の処理は、図13のステップS31乃至S36の処理と同様であるので、説明は省略する。
【0121】
ステップS56で2Dシーンフラグが1であると判定された場合、処理はステップS57に進む。ステップS57において、画像分離部112は、ステップS54で生成された画像に対して、ステップS55で生成された画像を用いて垂直ラインインターリーブ処理を行い、その結果得られる画像を左目用の表示画像とする。また、画像分離部112は、ステップS55で生成された画像に対して、ステップS54で生成された画像を用いて垂直ラインインターリーブ処理を行い、その結果得られる画像を右目用の表示画像とする。そして、画像分離部112は、左目用の表示画像と右目用の表示画像をフレームシーケンス表示制御部33に供給し、フレームシーケンス表示制御部33は、表示対象が左目用の表示画像であることを表す表示情報を、3Dメガネ制御部34に供給する。そして、処理はステップS59に進む。
【0122】
一方、ステップS56で2Dシーンフラグが1ではないと判定された場合、処理はステップS58に進む。ステップS58において、画像分離部112は、図13のステップS40の処理と同様に、ステップS54で生成された画像およびステップS55で生成された画像に対してローパスフィルタ処理を行う。そして、画像分離部112は、ステップS54で生成された画像に対してローパスフィルタ処理を行った結果得られる画像を左目用の表示画像とする。また、画像分離部112は、ステップS55で生成された画像に対してローパスフィルタ処理を行った結果得られる画像を右目用の表示画像とする。そして、画像分離部112は、左目用の表示画像と右目用の表示画像をフレームシーケンス表示制御部33に供給し、フレームシーケンス表示制御部33は、表示対象が左目用の表示画像であることを表す表示情報を、3Dメガネ制御部34に供給する。そして、処理はステップS59に進む。
【0123】
ステップS59乃至S62の処理は、図13のステップS41乃至S44の処理と同様であるので、説明は省略する。
【0124】
以上のように、画像処理システム100の復号装置101は、多重化画像の元となる画像が2D画像である場合、多重化画像から分離され、ゼロ補間された、折り返り歪みが発生している2フレームの画像の一方に対して、他方を用いて垂直ラインインターリーブ処理を施す。
【0125】
従って、垂直ラインインターリーブ処理の結果得られる左目用の表示画像と右目用の表示画像において、折り返り歪みが打ち消される。その結果、3Dメガネの左目用のシャッタと右目用のシャッタが交互に開閉される場合であっても、ユーザに折り返り歪みを知覚させないようにすることができる。
【0126】
また、復号装置101は、多重化画像の元となる画像が2D画像である場合、多重化画像の分離後にローパスフィルタ処理を施さないので、2D画像の表示解像度を符号化前の入力画像の表示解像度と同一にすることができる。
【0127】
なお、第1および第2実施の形態では、入力画像が2D画像である場合、多重化前および分離後にローパスフィルタ処理が行われなかったが、入力画像が3D画像である場合に行われるローパスフィルタ処理に比べて高周波数成分を通過させる通過域の広いローパスフィルタ処理が行われるようにしてもよい。この場合、2D画像の表示解像度は、入力画像の表示解像度と同一にはならないが、ローパスフィルタ処理により入力画像の帯域が半分にされる場合に比べて向上する。
【0128】
<第3実施の形態>
[画像処理システムの第3実施の形態の構成例]
図17は、本発明を適用した画像処理システムの第3実施の形態の構成例を示すブロック図である。
【0129】
図17に示す構成のうち、図2の構成と同じ構成には同じ符号を付してある。重複する説明については適宜省略する。
【0130】
図17の画像処理システム150は、符号化装置151と復号装置152により構成される。画像処理システム150は、2D画像の多重化画像に含まれる折り返り歪みの有無、および、表示時のフレームレート(以下、表示フレームレートという)に基づいて、3Dメガネのシャッタを制御する。
【0131】
具体的には、符号化装置151の構成は、主に、画像多重化部62、画像符号化部63の代わりに、画像多重化部161、画像符号化部162が設けられる点、および、新たに付加部163が設けられる点が図2の構成と異なる。
【0132】
符号化装置151の画像多重化部161は、2Dシーン判定部61から供給される2Dシーンフラグに基づいて、サイドバイサイド方式で入力画像を多重化する多重化処理を行う。
【0133】
具体的には、画像多重化部161は、2Dシーンフラグが、入力画像が2D画像であることを示す場合、入力画像に対して、入力画像が3D画像である場合に行われるローパスフィルタ処理に比べて高周波数成分を通過させる通過域の広いローパスフィルタ処理を行う。そして、画像多重化部161(多重化手段)は、ローパスフィルタ処理後の入力画像に対して、図1の画像多重化部21による多重化と同様の多重化を行う。
【0134】
一方、画像多重化部161は、2Dシーンフラグが、入力画像が2D画像ではないことを示す場合、画像多重化部21による処理と同様に、入力画像に対してローパスフィルタ処理と多重化を行う。そして、画像多重化部161は、多重化処理の結果得られる多重化画像を画像符号化部162に供給する。
【0135】
画像符号化部162は、画像多重化部161から供給される多重化画像、2Dシーン判定部61から供給される2Dシーンフラグ、並びに付加部163から供給される歪みフラグおよび最小表示フレームレート情報などを用いて、AVC方式で符号化を行う。なお、歪みフラグ(歪み情報)とは、多重化画像に折り返り歪みがあるかどうかを表す情報である。また、最小表示フレームレート情報とは、復号装置152で知覚画像に折り返り歪みがなくなると推測される表示フレームレート(表示速度)の最小値を表す情報である。画像符号化部162(送信手段)は、その結果得られる符号化ストリームを復号装置152に送信する。
【0136】
付加部163(歪み関連情報生成手段)は、入力画像が2D画像である場合に、ユーザからの指示に応じて、多重化画像における折り返り歪みに関する情報(以下、歪み関連情報という)としての歪みフラグを生成する。
【0137】
具体的には、入力画像が2D画像である場合、ユーザは、例えば、画像多重化部161により得られた多重化画像を図示せぬ表示装置に表示させ、多重化画像に所定量以上の折り返り歪みが発生しているかどうかを判断する。そして、ユーザは、多重化画像に所定量以上の折り返り歪みが発生していると判断した場合、折り返り歪みの有りを指示し、所定量以上の折り返り歪みが発生していないと判断した場合、折り返り歪みの無しを指示する。付加部163は、その指示に応じて、歪みフラグを生成する。
【0138】
また、付加部163は、折り返り歪みがあることを表す歪みフラグを生成する場合、ユーザからの指示に応じて、歪み関連情報としての最小表示フレームレート情報を生成する。具体的には、ユーザは、多重化画像に所定量以上の折り返り歪みが発生していると判断した場合、その折り返り歪みの量などに基づいて、復号装置152で知覚画像に折り返り歪みがなくなると推測される表示フレームレートの最小値(例えば、120Hz)を決定し、指示する。付加部163は、その指示に応じて、最小表示フレームレート情報を生成する。
【0139】
付加部163は、生成された歪みフラグおよび最小表示フレームレートを画像符号化部162に供給する。
【0140】
復号装置152の構成は、画像復号部71、画像分離部72、3Dメガネ制御部74の代わりに、画像復号部171、画像分離部172、3Dメガネ制御部173が設けられる点、および、判定部174が新たに設けられる点が図2の構成と異なる。
【0141】
復号装置152の画像復号部171は、符号化装置151の画像符号化部162から符号化ストリームを取得し、符号化ストリームから、符号化された多重化画像、2Dシーンフラグ、歪みフラグ、最小表示フレームレートなどを抽出する。画像復号部171は、図2の画像復号部71と同様に、符号化された多重化画像を、AVC方式に対応する方式で復号し、その結果得られる多重化画像を画像分離部172に供給する。また、画像復号部171は、画像復号部71と同様に、2Dシーンフラグを画像分離部172および3Dメガネ制御部173に供給する。さらに、画像復号部171は、歪みフラグおよび最小表示フレームレートを判定部174に供給する。
【0142】
画像分離部172は、画像復号部171から供給される2Dシーンフラグに基づいて、画像復号部171から供給される多重化画像の左右半分の領域を分離する分離処理を行う。具体的には、2Dシーンフラグが、入力画像が2D画像であることを示す場合、画像分離部172は、図1の画像分離部32と同様に、多重化画像の左半分の領域と右半分の領域から、それぞれ、入力画像と同一のサイズの画像を生成する。そして、画像分離部172は、生成された画像に対して、2Dシーンフラグが、入力画像が2D画像ではないことを示す場合に行われるローパスフィルタ処理に比べて通過域の広いローパスフィルタ処理を行う。そして、画像分離部172は、ローパスフィルタ処理後の左半分の領域から生成された画像を左目用の表示画像とし、ローパスフィルタ処理後の右半分の領域から生成された画像を右目用の表示画像とする。
【0143】
一方、2Dシーンフラグが、入力画像が2D画像ではないことを示す場合、画像分離部172は、画像分離部32の分離処理と同様の分離処理を行う。そして、画像分離部172は、分離処理の結果得られる左目用の表示画像と右目用の表示画像をフレームシーケンス表示制御部73に供給する。
【0144】
3Dメガネ制御部173は、画像復号部171から供給される2Dシーンフラグが、入力画像が2D画像であることを示す場合、判定部174からの指示に応じて、フレームシーケンス表示制御部73から供給される表示情報に基づいて、図示せぬ3Dメガネの左目用のシャッタと右目用のシャッタの両方が開くように、3Dメガネを制御する。または、3Dメガネ制御部173は、判定部174からの指示に応じて、フレームシーケンス表示制御部73から供給される表示情報に基づいて、左目用の表示画像の表示時に左目用のシャッタが開き、右目用の表示画像の表示時に右目用のシャッタが開くように、3Dメガネを制御する。
【0145】
一方、2Dシーンフラグが、入力画像が2D画像ではないことを示す場合、3Dメガネ制御部173は、フレームシーケンス表示制御部73から供給される表示情報に基づいて、左目用の表示画像の表示時に左目用のシャッタが開き、右目用の表示画像の表示時に右目用のシャッタが開くように、3Dメガネを制御する。
【0146】
判定部174は、画像復号部171から供給される歪みフラグに基づいて、3Dメガネの左目用のシャッタと右目用のシャッタを両方開かせるか、または、交互に開かせるかを判定し、3Dメガネ制御部173に指示する。なお、画像復号部171から最小表示フレームレート情報が供給される場合には、歪みフラグだけでなく、その最小表示フレームレート情報が表す最小値とフレームシーケンス表示制御部73における表示フレームレートとにも基づいて、判定が行われる。
【0147】
[符号化ストリームのSEIの説明]
図18は、画像符号化部162により得られる符号化ストリームに含まれる2Dシーン情報SEIの記述例を示す図である。
【0148】
図18の第2行目に示すように、2Dシーン情報SEIには、2Dシーンフラグ(2d_scene_flag)が配置される。また、第3および第4行目に示すように、2Dシーンフラグが1である場合、即ち入力画像が2D画像である場合、2Dシーン情報SEIには、歪みフラグ(aliasing_remain_flag)が配置される。また、第5および第6行目に示すように、歪みフラグが、折り返り歪みがあることを表す1である場合、2Dシーン情報SEIには、最小表示フレームレート(minimum_display_frame_rate)が配置される。
【0149】
[画像処理システムの処理の説明]
図19は、図17の画像処理システム150の符号化装置151による符号化処理を説明するフローチャートである。この符号化処理は、例えば、符号化装置151に2D画像と3D画像が混在する1本のビットストリームが入力されたとき開始される。
【0150】
図19のステップS111乃至S113の処理は、図12のステップS11乃至S13の処理と同様であり、ステップS120乃至S122の処理は、図12のステップS15乃至17の処理と同様であるので、説明は省略する。
【0151】
ステップS113の処理後、ステップS114において、画像多重化部161は、入力画像に対して、ステップS121で行われるローパスフィルタ処理におけるフィルタ係数とは異なるフィルタ係数を用いることにより、ステップS121で行われるローパスフィルタ処理に比べて通過域の広いローパスフィルタ処理を行う。
【0152】
ステップS115において、画像多重化部161は、ステップS114のローパスフィルタ処理の結果得られる入力画像に対して、図1の画像多重化部21による多重化と同様の多重化を行う。そして、画像多重化部161は、多重化の結果得られる多重化画像を画像符号化部162に供給する。
【0153】
ステップS116において、付加部163は、ユーザからの折り返り歪みの有りが指示されたかどうかを判定する。ステップS116で折り返り歪みの有りが指示されたと判定された場合、ステップS117において、付加部163は、歪みフラグを1に設定し、その歪みフラグを画像符号化部162に供給する。
【0154】
ステップS118において、付加部163は、ユーザからの指示に応じて、最小表示フレームレート情報を生成し、画像符号化部162に供給する。
【0155】
一方、ステップS116で折り返り歪みの有りが指示されていないと判定された場合、即ちユーザから折り返り歪みの無しが指示された場合。ステップS188において、付加部163は、歪みフラグを0に設定し、その歪みフラグを画像符号化部162に供給する。
【0156】
ステップS118,S119、またはS122の処理後、ステップS123において、画像符号化部162は、画像多重化部161から供給される多重化画像と2Dシーン判定部61から供給される2Dシーンフラグを用いて、AVC方式で符号化を行う。なお、付加部163から歪みフラグが供給される場合、その歪みフラグも用いて符号化が行われ、付加部163から最小表示フレームレート情報が供給される場合、その最小表示フレームレート情報も用いて符号化が行われる。そして、処理は終了する。
【0157】
以上のように、符号化装置151は、符号化ストリームに歪みフラグを含める。これにより、復号装置152において、その歪みフラグに基づいて、2D画像の多重化画像に所定量以上の折り返り歪みが発生していない場合、3Dメガネのシャッタの制御を2D画像と3D画像の間で変更しないようにすることができる。その結果、2D画像の多重化画像に所定量以上の折り返り歪みが発生していない場合に、無駄に3Dメガネのシャッタの制御が変更されることを防止することができる。
【0158】
また、符号化装置151は、符号化ストリームに最小表示フレームレート情報を含める。これにより、復号装置152において、最小表示フレームレート情報に基づいて、表示フレームレートが、最小表示フレームレート情報が表す最小値より小さい場合、3Dメガネのシャッタの制御を2D画像と3D画像の間で変更しないようにすることができる。その結果、左目用のシャッタと右目用のシャッタを両方開くことにより折り返り歪みが打ち消されない場合に、無駄に3Dメガネのシャッタの制御が変更されることを防止することができる。
【0159】
図20は、図17の画像処理システム150の復号装置152による復号処理を説明するフローチャートである。この復号処理は、符号化装置151から符号化ストリームが送信されてきたとき、ピクチャ単位で行われる。
【0160】
図20のステップS131において、復号装置52の画像復号部171は、符号化装置151から送信されてきた符号化ストリームを取得し、その符号化ストリームから、符号化された多重化画像、2Dシーンフラグなどを抽出する。そして、画像復号部171は、2Dシーンフラグを画像分離部172および3Dメガネ制御部173に供給する。
【0161】
ステップS132において、画像復号部171は、抽出された2Dシーンフラグが1であるかどうかを判定する。ステップS132で2Dシーンフラグが1であると判定された場合、ステップS133において、画像復号部171は、符号化ストリームの2Dシーン情報SEIから歪みフラグを抽出し、判定部174に供給する。
【0162】
ステップS134において、画像復号部171は、歪みフラグが1であるかどうかを判定する。ステップS134で歪みフラグが1であると判定された場合、ステップS135において、画像復号部171は、符号化ストリームの2Dシーン情報SEIから最小表示フレームレート情報を抽出し、判定部174に供給する。そして、処理はステップS136に進む。
【0163】
一方、ステップS132で2Dシーンフラグが1ではないと判定された場合、または、ステップS134で歪みフラグが1ではないと判定された場合、処理はステップS136に進む。
【0164】
ステップS136乃至S140の処理は、図13のステップS32乃至S36の処理と同様であるので、説明は省略する。
【0165】
ステップS140で2Dシーンフラグが1であると判定された場合、処理はステップS141に進む。ステップS141において、画像分離部172は、ステップS138で生成された画像およびステップS139で生成された画像に対して、ステップS147で行われるローパスフィルタ処理におけるフィルタ係数とは異なるフィルタ係数を用いることにより、ステップS147で行われるローパスフィルタ処理に比べて通過域の広いローパスフィルタ処理を行う。そして、画像分離部172は、ローパスフィルタ処理後のステップS138で生成された画像を左目用の表示画像としてフレームシーケンス表示制御部73に供給する。また、画像分離部172は、ローパスフィルタ処理後のステップS139で生成された画像を右目用の表示画像としてフレームシーケンス表示制御部73に供給する。そして、フレームシーケンス表示制御部73は、表示対象が左目用の表示画像であることを表す表示情報を、3Dメガネ制御部173に供給する。
【0166】
ステップS142において、判定部174は、画像復号部171から供給される歪みフラグが1であるかどうかを判定する。ステップS142で歪みフラグが1であると判定された場合、ステップS143において、フレームシーケンス表示制御部73における表示フレームレートが、画像復号部171から供給される最小表示フレームレート情報が表す最小値以上であるかどうかを判定する。
【0167】
ステップS143で表示フレームレートが最小値以上であると判定された場合、処理はステップS144に進む。
【0168】
ステップS144乃至S146の処理は、図13のステップS37乃至S39の処理と同様であるので説明は省略する。
【0169】
一方、ステップS140で2Dシーンフラグは1ではないと判定された場合、処理はステップS147に進む。ステップS147において、画像分離部172は、ステップS138で生成された画像およびステップS139で生成された画像に対してローパスフィルタ処理を行う。そして、画像分離部172は、ステップS138で生成された画像に対してローパスフィルタ処理を行った結果得られる画像を左目用の表示画像とする。また、画像分離部172は、ステップS139で生成された画像に対してローパスフィルタ処理を行った結果得られる画像を右目用の表示画像とする。そして、画像分離部172は、左目用の表示画像と右目用の表示画像をフレームシーケンス表示制御部73に供給し、フレームシーケンス表示制御部73は、表示対象が左目用の表示画像であることを表す表示情報を、3Dメガネ制御部74に供給する。そして、処理はステップS148に進む。
【0170】
また、ステップS142で歪みフラグが1ではないと判定された場合、または、ステップS143で表示フレームレートが最小値以上ではないと判定された場合、処理はステップS148に進む。
【0171】
ステップS148乃至S151の処理は、図13のステップS41乃至S44の処理と同様であるので説明は省略する。
【0172】
以上のように、復号装置152は、歪みフラグに基づいて、多重化画像に所定量以上の折り返り歪みが発生している場合にのみ、3Dメガネのシャッタの制御を2D画像と3D画像の間で変更するようにする。従って、多重化画像に所定量以上の折り返り歪みが発生していない場合に、無駄に3Dメガネのシャッタの制御が変更されることを防止することができる。
【0173】
また、復号装置152は、最小表示フレームレート情報に基づいて、表示フレームレートが、最小表示フレームレート情報が表す最小値より大きい場合にのみ、3Dメガネのシャッタの制御を2D画像と3D画像の間で変更するようにする。従って、左目用のシャッタと右目用のシャッタを両方開くことにより折り返り歪みが打ち消されない場合に、無駄に3Dメガネのシャッタの制御が変更されることを防止することができる。
【0174】
なお、第3実施の形態では、折り返り歪みの有りまたは無しがユーザにより指示されたが、多重化画像を用いて自動的に折り返り歪みの有りまたは無しを判定するようにしてもよい。同様に、最小表示フレームレートは、多重化画像を用いて自動的に決定されるようにしてもよい。
【0175】
また、第3実施の形態では、入力画像が2D画像である場合に、符号化ストリームに歪みフラグが含まれ、歪みフラグが1である場合に、符号化ストリームに最小表示フレームレート情報が含まれるようにしたが、歪みフラグと最小表示フレームレート情報は常に含まれるようにしてもよい。この場合、最小表示フレームレート情報は、多重化画像に発生する折り返り歪みの量に対応する値ではなく、固定値である。また、この場合、歪みフラグと最小表示フレームレート情報のいずれか一方のみが符号化ストリームに含まれるようにしてもよい。
【0176】
さらに、多重化の方式としては、サイドバイサイド方式ではなく、オーバーアンドアンダー方式などが用いられるようにしてもよい。この場合、垂直方向の位置によって入力画像の画素が間引かれる。
【0177】
また、本発明は、MPEG2方式等のAVC方式以外の方式で符号化を行う画像処理システムにも適用することができる。
【0178】
[本発明を適用したコンピュータの説明]
次に、上述した一連の処理は、ハードウェアにより行うこともできるし、ソフトウェアにより行うこともできる。一連の処理をソフトウェアによって行う場合には、そのソフトウェアを構成するプログラムが、汎用のコンピュータ等にインストールされる。
【0179】
そこで、図21は、上述した一連の処理を実行するプログラムがインストールされるコンピュータの一実施の形態の構成例を示している。
【0180】
プログラムは、コンピュータに内蔵されている記録媒体としての記憶部208やROM(Read Only Memory)202に予め記録しておくことができる。
【0181】
あるいはまた、プログラムは、リムーバブルメディア211に格納(記録)しておくことができる。このようなリムーバブルメディア211は、いわゆるパッケージソフトウエアとして提供することができる。ここで、リムーバブルメディア211としては、例えば、フレキシブルディスク、CD-ROM(Compact Disc Read Only Memory),MO(Magneto Optical)ディスク,DVD(Digital Versatile Disc)、磁気ディスク、半導体メモリ等がある。
【0182】
なお、プログラムは、上述したようなリムーバブルメディア211からドライブ210を介してコンピュータにインストールする他、通信網や放送網を介して、コンピュータにダウンロードし、内蔵する記憶部208にインストールすることができる。すなわち、プログラムは、例えば、ダウンロードサイトから、ディジタル衛星放送用の人工衛星を介して、コンピュータに無線で転送したり、LAN(Local Area Network)、インターネットといったネットワークを介して、コンピュータに有線で転送することができる。
【0183】
コンピュータは、CPU(Central Processing Unit)201を内蔵しており、CPU201には、バス204を介して、入出力インタフェース205が接続されている。
【0184】
CPU201は、入出力インタフェース205を介して、ユーザによって、入力部206が操作等されることにより指令が入力されると、それに従って、ROM202に格納されているプログラムを実行する。あるいは、CPU201は、記憶部208に格納されたプログラムを、RAM(Random Access Memory)203にロードして実行する。
【0185】
これにより、CPU201は、上述したフローチャートにしたがった処理、あるいは上述したブロック図の構成により行われる処理を行う。そして、CPU201は、その処理結果を、必要に応じて、例えば、入出力インタフェース205を介して、出力部207から出力、あるいは、通信部209から送信、さらには、記憶部208に記録等させる。
【0186】
なお、入力部206は、キーボードや、マウス、マイク等で構成される。また、出力部207は、LCD(Liquid Crystal Display)やスピーカ等で構成される。
【0187】
ここで、本明細書において、コンピュータがプログラムに従って行う処理は、必ずしもフローチャートとして記載された順序に沿って時系列に行われる必要はない。すなわち、コンピュータがプログラムに従って行う処理は、並列的あるいは個別に実行される処理(例えば、並列処理あるいはオブジェクトによる処理)も含む。
【0188】
また、プログラムは、1のコンピュータ(プロセッサ)により処理されるものであっても良いし、複数のコンピュータによって分散処理されるものであっても良い。さらに、プログラムは、遠方のコンピュータに転送されて実行されるものであっても良い。
【0189】
なお、本明細書において、システムとは、複数の装置により構成される装置全体を表すものである。
【0190】
また、本発明の実施の形態は、上述した実施の形態に限定されるものではなく、本発明の要旨を逸脱しない範囲において種々の変更が可能である。
【符号の説明】
【0191】
33 フレームシーケンス表示部, 34 3Dメガネ制御部, 51 符号化装置, 52 復号装置, 61 2Dシーン判定部, 62 画像多重化部, 63 画像符号化部, 71 画像復号部, 72 画像分離部, 73 フレームシーケンス表示制御部, 74 3Dメガネ制御部, 101 復号装置, 111 画像復号部, 112 画像分離部, 151 符号化装置, 152 復号装置, 161 画像多重化部, 162 画像符号化部, 163 付加部, 171 画像復号部, 172 画像分離部, 173 メガネ制御部

【特許請求の範囲】
【請求項1】
所定の位相の間引き後の左目用の画像と、前記所定の位相と逆の位相の間引き後の右目用の画像が多重化された多重化画像を、前記間引き後の左目用の画像と前記間引き後の右目用の画像に分離し、前記間引き後の左目用の画像の前記所定の位相を0で補間し、前記間引き後の右目用の画像の前記所定の位相と逆の位相を0で補間する分離手段と、
前記左目用の画像と前記右目用の画像により構成される画像が2D画像である場合、前記間引き後の左目用の画像の補間後の画像である補間左目画像を左目用の表示画像とし、前記間引き後の右目用の画像の補間後の画像である補間右目画像を右目用の表示画像として、交互に表示させる表示制御手段と、
前記左目用の画像と前記右目用の画像により構成される画像が2D画像である場合、メガネの左目用のシャッタと右目用のシャッタの両方を開くように、前記メガネを制御するメガネ制御手段と
を備える表示制御装置。
【請求項2】
前記分離手段は、前記左目用の画像と前記右目用の画像により構成される画像が2D画像ではない場合、前記補間左目画像と前記補間右目画像のそれぞれに対して第1のローパスフィルタ処理を行い、
前記表示制御手段は、前記左目用の画像と前記右目用の画像により構成される画像が2D画像ではない場合、前記第1のローパスフィルタ処理後の前記補間左目画像を前記左目用の表示画像とし、前記第1のローパスフィルタ処理後の前記補間右目画像を前記右目用の表示画像として、交互に表示させ、
前記メガネ制御手段は、前記左目用の画像と前記右目用の画像により構成される画像が2D画像ではない場合、前記左目用の表示画像の表示時に前記左目用のシャッタを開き、前記右目用の表示画像の表示時に前記右目用のシャッタを開くように、前記メガネを制御する
請求項1に記載の表示制御装置。
【請求項3】
前記左目用の画像と前記右目用の画像により構成される画像が2D画像ではない場合、間引き前に前記左目用の画像と前記右目用の画像のそれぞれに対して第2のローパスフィルタ処理が行われ、
前記左目用の画像と前記右目用の画像により構成される画像が2D画像である場合、間引き前に前記左目用の画像と前記右目用の画像のそれぞれに対して、前記第2のローパスフィルタ処理に比べて通過域の広い第3のローパスフィルタ処理が行われ、
前記分離手段は、前記左目用の画像と前記右目用の画像により構成される画像が2D画像である場合、前記補間左目画像と前記補間右目画像のそれぞれに対して、前記第1のローパスフィルタ処理に比べて通過域の広い第4のローパスフィルタ処理を行い、
前記表示制御手段は、前記左目用の画像と前記右目用の画像により構成される画像が2D画像である場合、前記第4のローパスフィルタ処理後の前記補間左目画像を前記左目用の表示画像とし、前記第4のローパスフィルタ処理後の前記補間右目画像を前記右目用の表示画像として、交互に表示させる
請求項2に記載の表示制御装置。
【請求項4】
前記多重化画像に折り返り歪みがあるかどうかを示す情報である歪み情報を取得する取得手段
をさらに備え、
前記メガネ制御手段は、前記左目用の画像と前記右目用の画像により構成される画像が2D画像であり、かつ、前記歪み情報が前記折り返り歪みがあることを示す情報である場合、前記左目用のシャッタと前記右目用のシャッタの両方を開くように、前記メガネを制御する
請求項3に記載の表示制御装置。
【請求項5】
前記左目用の画像と前記右目用の画像により構成される画像が2D画像である場合に、前記左目用の表示画像と前記右目用の表示画像によりユーザに知覚される画像に折り返り歪みがなくなると推測される表示速度の最小値を取得する取得手段
をさらに備え、
前記メガネ制御手段は、前記左目用の画像と前記右目用の画像により構成される画像が2D画像であり、かつ、前記左目用の表示画像と前記右目用の表示画像の表示速度が前記最小値以上である場合、前記左目用のシャッタと前記右目用のシャッタの両方を開くように、前記メガネを制御する
請求項1に記載の表示制御装置。
【請求項6】
前記多重化画像と、前記多重化画像の元となる前記左目用の画像と前記右目用の画像により構成される画像が2D画像であるかどうかを示す情報である2D情報を取得する取得手段
をさらに備え、
前記表示制御手段は、前記2D情報が2D画像であることを示す情報である場合、前記補間左目画像を左目用の表示画像とし、前記補間右目画像を右目用の表示画像として、交互に表示させ、
前記メガネ制御手段は、前記2D情報が2D画像であることを示す情報である場合、前記左目用のシャッタと前記右目用のシャッタの両方を開くように、前記メガネを制御する
請求項1に記載の表示制御装置。
【請求項7】
表示制御装置が、
所定の位相の間引き後の左目用の画像と、前記所定の位相と逆の位相の間引き後の右目用の画像が多重化された多重化画像を、前記間引き後の左目用の画像と前記間引き後の右目用の画像に分離し、前記間引き後の左目用の画像の前記所定の位相を0で補間し、前記間引き後の右目用の画像の前記所定の位相と逆の位相を0で補間する分離ステップと、
前記左目用の画像と前記右目用の画像により構成される画像が2D画像である場合、前記間引き後の左目用の画像の補間後の画像である補間左目画像を左目用の表示画像とし、前記間引き後の右目用の画像の補間後の画像である補間右目画像を右目用の表示画像として、交互に表示させる表示制御ステップと、
前記左目用の画像と前記右目用の画像により構成される画像が2D画像である場合、メガネの左目用のシャッタと右目用のシャッタの両方を開くように、前記メガネを制御するメガネ制御ステップと
を含む表示制御方法。
【請求項8】
左目用の画像の所定の位相と、右目用の画像の前記所定の位相と逆の位相を間引き、間引き後の前記左目用の画像と前記右目用の画像を多重化する多重化手段と、
前記多重化手段による多重化の結果得られる多重化画像における折り返り歪みに関する情報である歪み関連情報を生成する歪み関連情報生成手段と、
前記多重化画像および前記歪み関連情報を送信する送信手段と
を備える画像生成装置。
【請求項9】
前記多重化手段は、前記左目用の画像と前記右目用の画像により構成される画像が2D画像ではない場合、前記間引き前に前記左目用の画像と前記右目用の画像のそれぞれに対して第1のローパスフィルタ処理を行う
請求項8に記載の画像生成装置。
【請求項10】
前記多重化手段は、前記左目用の画像と前記右目用の画像により構成される画像が2D画像である場合、前記間引き前に前記左目用の画像と前記右目用の画像のそれぞれに対して、前記第1のローパスフィルタ処理に比べて通過域の広い第2のローパスフィルタ処理を行う
請求項9に記載の画像生成装置。
【請求項11】
前記歪み関連情報生成手段は、前記多重化画像に折り返り歪みがあるかどうかを示す情報である歪み情報を前記歪み関連情報として生成する
請求項10に記載の画像生成装置。
【請求項12】
前記歪み関連情報生成手段は、前記左目用の画像と前記右目用の画像により構成される画像が2D画像である場合、前記多重化画像を前記間引き後の前記左目用の画像と前記右目用の画像に分離し、前記間引き後の前記左目用の画像の前記所定の位相を0で補間することによって得られる左目用の表示画像と、前記間引き後の前記右目用の画像の前記所定の位相の逆の位相を0で補間することによって得られる右目用の表示画像によりユーザに知覚される画像に折り返り歪みがなくなると推測される表示速度の最小値を、前記歪み関連情報として生成する
請求項8に記載の画像生成装置。
【請求項13】
前記多重化画像の元となる前記左目用の画像と前記右目用の画像により構成される画像が2D画像であるかどうかを示す情報である2D情報を生成する2D情報生成手段
をさらに備える
請求項8に記載の画像生成装置。
【請求項14】
画像生成装置が、
左目用の画像の所定の位相と、右目用の画像の前記所定の位相と逆の位相を間引き、間引き後の前記左目用の画像と前記右目用の画像を多重化する多重化ステップと、
前記多重化ステップの処理による多重化の結果得られる多重化画像における折り返り歪みに関する情報である歪み関連情報を生成する歪み関連情報生成ステップと、
前記多重化画像および前記歪み関連情報を送信する送信ステップと
を含む画像生成方法。
【請求項15】
所定の位相の間引き後の左目用の画像と、前記所定の位相と逆の位相の間引き後の右目用の画像が多重化された多重化画像の元となる前記左目用の画像と前記右目用の画像により構成される画像が2D画像である場合、前記多重化画像を、前記間引き後の左目用の画像と前記間引き後の右目用の画像に分離し、前記間引き後の左目用の画像に対して前記間引き後の右目用の画像を用いてインターリーブ処理し、前記間引き後の右目用の画像に対して前記間引き後の左目用の画像を用いてインターリーブ処理する分離手段と、
前記左目用の画像と前記右目用の画像により構成される画像が2D画像である場合、前記間引き後の左目用の画像のインターリーブ処理後の画像である処理後左目画像を左目用の表示画像とし、前記間引き後の右目用の画像のインターリーブ処理後の画像である処理後右目画像を右目用の表示画像として、交互に表示させる表示制御手段と、
前記左目用の表示画像の表示時にメガネの左目用のシャッタを開き、前記右目用の表示画像の表示時に前記メガネの右目用のシャッタを開くように、前記メガネを制御するメガネ制御手段と
を備える表示制御装置。
【請求項16】
前記分離手段は、前記左目用の画像と前記右目用の画像により構成される画像が2D画像ではない場合、前記多重化画像を、前記間引き後の左目用の画像と前記間引き後の右目用の画像に分離して、前記間引き後の左目用の画像の前記所定の位相を0で補間し、前記間引き後の右目用の画像の前記所定の位相と逆の位相を0で補間し、補間後の左目用の画像と右目用の画像のそれぞれに対して第1のローパスフィルタ処理を行い、
前記表示制御手段は、前記左目用の画像と前記右目用の画像により構成される画像が2D画像ではない場合、前記第1のローパスフィルタ処理後の前記左目用の画像を前記左目用の表示画像とし、前記第1のローパスフィルタ処理後の前記右目用の画像を前記右目用の表示画像として、交互に表示させる
請求項15に記載の表示制御装置。
【請求項17】
前記左目用の画像と前記右目用の画像により構成される画像が2D画像ではない場合、間引き前に前記左目用の画像と前記右目用の画像のそれぞれに対して第2のローパスフィルタ処理が行われ、
前記左目用の画像と前記右目用の画像により構成される画像が2D画像である場合、間引き前に前記左目用の画像と前記右目用の画像のそれぞれに対して、前記第2のローパスフィルタ処理に比べて通過域の広い第3のローパスフィルタ処理が行われ、
前記分離手段は、前記左目用の画像と前記右目用の画像により構成される画像が2D画像である場合、前記処理後左目画像と前記処理後右目画像のそれぞれに対して、前記第1のローパスフィルタ処理に比べて通過域の広い第4のローパスフィルタ処理を行い、
前記表示制御手段は、前記左目用の画像と前記右目用の画像により構成される画像が2D画像である場合、前記第4のローパスフィルタ処理後の前記処理後左目画像を前記左目用の表示画像とし、前記第4のローパスフィルタ処理後の前記処理後右目画像を前記右目用の表示画像として、交互に表示させる
請求項16に記載の表示制御装置。
【請求項18】
前記多重化画像と、前記多重化画像の元となる前記左目用の画像と前記右目用の画像により構成される画像が2D画像であるかどうかを示す情報である2D情報を取得する取得手段
をさらに備え、
前記分離手段は、前記2D情報が2D画像であることを示す情報である場合、前記多重化画像を、前記間引き後の左目用の画像と前記間引き後の右目用の画像に分離し、前記間引き後の左目用の画像に対して前記間引き後の右目用の画像を用いてインターリーブ処理し、前記間引き後の右目用の画像に対して前記間引き後の左目用の画像を用いてインターリーブ処理し、
前記表示制御手段は、前記2D情報が2D画像であることを示す情報である場合、前記処理後左目画像を左目用の表示画像とし、前記処理後右目画像を右目用の表示画像として、交互に表示させる
請求項15に記載の表示制御装置。
【請求項19】
表示制御装置が、
所定の位相の間引き後の左目用の画像と、前記所定の位相と逆の位相の間引き後の右目用の画像が多重化された多重化画像の元となる前記左目用の画像と前記右目用の画像により構成される画像が2D画像である場合、前記多重化画像を、前記間引き後の左目用の画像と前記間引き後の右目用の画像に分離し、前記間引き後の左目用の画像に対して前記間引き後の右目用の画像を用いてインターリーブ処理し、前記間引き後の右目用の画像に対して前記間引き後の左目用の画像を用いてインターリーブ処理する分離ステップと、
前記左目用の画像と前記右目用の画像により構成される画像が2D画像である場合、前記間引き後の左目用の画像のインターリーブ処理後の画像である処理後左目画像を左目用の表示画像とし、前記間引き後の右目用の画像のインターリーブ処理後の画像である処理後右目画像を右目用の表示画像として、交互に表示させる表示制御ステップと、
前記左目用の表示画像の表示時にメガネの左目用のシャッタを開き、前記右目用の表示画像の表示時に前記メガネの右目用のシャッタを開くように、前記メガネを制御するメガネ制御ステップと
を含む表示制御方法。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7】
image rotate

【図8】
image rotate

【図9】
image rotate

【図10】
image rotate

【図11】
image rotate

【図12】
image rotate

【図13】
image rotate

【図14】
image rotate

【図15】
image rotate

【図16】
image rotate

【図17】
image rotate

【図18】
image rotate

【図19】
image rotate

【図20】
image rotate

【図21】
image rotate


【公開番号】特開2012−49658(P2012−49658A)
【公開日】平成24年3月8日(2012.3.8)
【国際特許分類】
【出願番号】特願2010−187822(P2010−187822)
【出願日】平成22年8月25日(2010.8.25)
【出願人】(000002185)ソニー株式会社 (34,172)
【Fターム(参考)】