説明

画像処理装置及び画像処理方法、表示システム、映像生成装置、並びに再生装置

【課題】動画表示時においても正しく視差を表示できるよう時分割表示される複数の視差画像を処理する。
【解決手段】映像信号処理部120への入力信号の複数の画像ストリームが同一タイミングで撮像又は生成されたものである場合には、複数の画像ストリームのうち少なくとも1つに対して時間的な補間画像を生成する補間処理を行ない、見かけ上の視差の変化を抑制するようにする。具体的には、複数の画像ストリームの補間画像を生成する時刻の時間差が、対応する視差画像を分離する動作の時間差と等しくなるよう、時間的な補間処理を行なう。

【発明の詳細な説明】
【技術分野】
【0001】
本明細書で開示する技術は、時分割表示される複数の視差画像を処理する画像処理装置及び画像処理方法、複数の視差画像を表示する表示システム、映像生成装置、並びに再生装置に係り、特に、動画表示時においても正しく視差を表示できるよう時分割表示される複数の視差画像を処理する画像処理装置及び画像処理方法、動画表示時においても複数の視差画像の視差を正しく表示する表示システム、映像生成装置、並びに再生装置に関する。
【背景技術】
【0002】
左右の眼に視差のある画像を表示することで、観察者に立体的に見える立体視画像を提示することができる。立体視画像技術は、テレビ放送、映画、遠隔通信、遠隔医療など、さまざまな分野において適用が期待されている。
【0003】
例えば、時分割立体視画像表示システムは、視差のある左眼用画像及び右眼用画像を非常に短い周期で交互に画面表示する表示装置と、左眼用画像及び右眼用画像の表示周期に同期して左眼用画像と右眼用画像を分離する機構からなる。観察者の左眼に左眼用画像を、右眼に右眼用画像をそれぞれ独立して視認させると、観察者の脳内ではこれらが融像され、立体的に認識される。
【0004】
シャッター眼鏡式の時分割立体視画像表示システムの場合、観察者が装着したシャッター眼鏡は、左眼部及び右眼部にそれぞれ液晶レンズなどで構成されるシャッター機構を備え、シャッター眼鏡は、左眼用画像がディスプレイされる間に、シャッター眼鏡の左眼部が光を透過させ、右眼部が遮光する。また、右眼用画像がディスプレイされる間に、シャッター眼鏡の右眼部が光を透過させ、左眼部が遮光する(例えば、特許文献1〜3を参照のこと)。すなわち、表示装置が左眼用画像及び右眼用画像を時分割表示するとともに、表示装置の表示切り換えに同期してシャッター眼鏡がシャッター機構により画像選択を行なうことで、観察者に左眼用画像と右眼用画像を分離して視認させることができる。
【0005】
また、アクティブ・リターダー式の時分割立体視画像表示システムの場合、ディスプレイ側に時分割で偏光を制御する機構を備えている。偏光制御機構は、表示画面に備えられた液晶シャッターと位相差フィルム又は位相差板からなり、左眼用画像及び右眼用画像の表示周期に同期して左右それぞれの偏光方向に変更する。そして、観察者は、左右それぞれの偏光方向に対応した偏光眼鏡を掛けることで、左眼用画像と右眼用画像を分離して視認することができる。
【0006】
また、時分割立体視画像表示システムは、眼鏡式に限定されるものでなく、例えば裸眼式でも解像度の低下を防ぐためにディスプレイ側にシャッターを備えるものも考案されている。
【0007】
しかしながら、上記のように、左眼用画像と右眼用画像を時分割で表示する表示装置には、概して、動画表示時に視差量が変化してしまうという問題がある。この問題点について、以下で考察してみる。
【0008】
立体視画像表示装置に入力される立体視画像は、多くの場合、左眼用画像と右眼用画像が同一時刻で撮像又は生成されたものである。表示装置には、図9に示すように、左眼用画像及び右眼用画像の各信号L0R0−L1R1−L2R2−…が入力されるとする。ここで、Lは左眼用画像、Rは右眼用画像を示し、L並びにRに付された数字はシーケンス番号である。シーケンス番号は、画像を撮像又は生成時刻に相当し、時間軸上での表示順序でもある。
【0009】
表示装置が左眼用画像及び右眼用画像を時分割方式で表示する場合、上記の入力信号を、各時刻で左眼用画像、右眼用画像の順、すなわち、図10に示すようにL0−R0−L1−R1−L2−R2−…のように並べ替えて表示する。例えば、左眼用画像及び右眼用画像の表示周期に同期して、シャッター眼鏡の左右の液晶レンズを開閉動作させることで、観察者の左眼に左眼用画像を、右眼に右眼用画像を、分離して視認させることができる。
【0010】
ところが、本来は左右の眼で同時に視認されるべきL0R0、L1R1、…の各フレームが、厳密には、R0がL0よりも0.5フレーム分だけ遅れ、R1がL1よりも0.5フレーム分だけ遅れて、視認されてしまう。この結果、視差物体の動く向きや速度によっては、見かけ上の視差が変化してしまう。
【0011】
例えば、図11Aに示すように、左眼用画像ストリームLが右眼用画像ストリームRより先に表示される場合(L0−R0−L1−R1−…)において、左眼用画像Lと右眼用画像Rとでd画素の視差がある物体が、フレーム周期当たりΔx画素の速度で画面の左から右へ移動する動画を上記の時分割方式で立体表示する場合について説明する。図11Bには、この動画を、図10のようにL0−R0−L1−R1−L2−R2−…と並べ替えて表示した様子を示している。上述したように、R0がL0よりも0.5フレーム分だけ遅れ、R1がL1よりも0.5フレーム分だけ遅れて、それぞれ視認される。L0とL1の間に、物体はΔx/2画素だけ右へ移動する。したがって、L0よりも0.5フレーム分だけ遅れてR0が表示される時刻には、観察者の頭の中では、左眼用画像フレームL0.5内の物体はグレーで示すようにΔx/2だけ右へ移動している。一方、L0よりも0.5フレームだけ遅れて表示される右眼用画像R0内の物体は、L0と比較してd画素だけ右側にあるが、観察者の頭の中で想起されている左眼用画像L0.5との間では視差が(d−Δx/2)画素、すなわち、Δx/2画素だけ視差が小さくなる。この結果、観察者は、物体が実際よりも近くにあると感じてしまうことになる。
【0012】
また、図12Aに示すように、左眼用画像ストリームLが右眼用画像ストリームRより先に表示される場合において、左眼用画像Lと右眼用画像Rとでd画素の視差がある物体が、フレーム周期当たりΔx画素の速度で画面の右から左へ移動する動画を上記の時分割方式で立体表示する場合について説明する。図12Bには、この動画を、図10のようにL0−R0−L1−R1−L2−R2−…と並べ替えて表示した様子を示している。上述したように、R0がL0よりも0.5フレーム分だけ遅れ、R1がL1よりも0.5フレーム分だけ遅れて、それぞれ視認される。L0とL1の間に、物体はΔx/2画素だけ左へ移動する。したがって、L0よりも0.5フレーム分だけ遅れてR0が表示される時刻には、観察者の頭の中では、左眼用画像フレーム内の物体はグレーで示すようにΔx/2だけ左へ移動している。一方、L0よりも0.5フレームだけ遅れて表示される右眼用画像R0内の物体は、L0と比較してd画素だけ右側にあるが、観察者の頭の中で想起されている左眼用画像との間では視差が(d+Δx/2)画素、すなわち、Δx/2画素だけ視差が大きくなる。この結果、観察者は、物体が実際よりも遠くにあると感じてしまうことになる。
【0013】
上記は、左眼用映像及び右眼用画像を時分割表示する場合の例である。また、複数の画像をそれぞれユーザー1用並びにユーザー2用として表示する場合(Dual View)においても、本来は双方のユーザーが同時に視認にすべきところ、同様の現象により、片方のユーザーが遅れた画像を視認することになる。これは、アクション性の高いゲームなどを行なう場合には好ましくない。
【先行技術文献】
【特許文献】
【0014】
【特許文献1】特開平9−138384号公報
【特許文献2】特開2000−36969号公報
【特許文献3】特開2003−45343号公報
【発明の概要】
【発明が解決しようとする課題】
【0015】
本明細書で開示する技術の目的は、時分割表示される複数の視差画像を好適に処理することができる優れた画像処理装置及び画像処理方法、複数の視差画像を好適に表示することができる優れた表示システム、映像生成装置、並びに再生装置を提供することにある。
【0016】
本明細書で開示する技術のさらなる目的は、動画表示時においても正しく視差を表示できるよう時分割表示される複数の視差画像を処理することができる優れた画像処理装置及び画像処理方法、動画表示時においても複数の視差画像の視差を正しく表示することができる優れた表示システム、映像生成装置、並びに再生装置を提供することにある。
【課題を解決するための手段】
【0017】
本願は、上記課題を参酌してなされたものであり、請求項1に記載の技術は、
複数の画像ストリームのうちの少なくとも1つの画像ストリームに対して時間的な補間画像を生成する補間処理部と、
前記複数の画像ストリームのうち前記補間処理部が補間処理しなかった各画像ストリーム並びに前記補間処理部が補間処理した後の各画像ストリームを、画像ストリームの順及び時間順で、時分割に切り換えて出力する出力部と、
を具備する画像処理装置である。
【0018】
また、本願の請求項2に記載の技術は、
複数の画像ストリームのうちの少なくとも1つの画像ストリームに対して時間的な補間画像を生成する補間処理ステップと、
前記複数の画像ストリームのうち前記補間処理ステップにおいて補間処理しなかった各画像ストリーム並びに前記補間処理ステップにおいて補間処理した後の各画像ストリームを、画像ストリームの順及び時間順で、時分割に切り換えて出力する出力ステップと、
を有する画像処理方法である。
【0019】
また、本願の請求項3に記載の技術は、
入力信号の複数の画像ストリームのうちの少なくとも1つの画像ストリームに対して時間的な補間画像を生成する補間処理部と、
前記複数の画像ストリームのうち前記補間処理部が補間処理しなかった各画像ストリーム並びに前記補間処理部が補間処理した後の各画像ストリームを、画像ストリームの順及び時間順で、時分割に切り換えて表示する表示部と、
前記表示部の表示切り換えに同期して各画像ストリームにそれぞれ対応する複数のシャッター機構の開閉動作を制御するシャッター制御部と、
を具備する表示システムである。
【0020】
本願の請求項4に記載の技術によれば、請求項3に記載の表示システムの補間処理部は、同一タイミングで撮像又は生成された複数の画像ストリームを入力し、画像ストリームの補間画像を生成する時刻の時間差が前記複数のシャッター機構の開閉動作の時間差と等しくなるよう、時間的な補間画像の生成を行なうように構成されている。
【0021】
本願の請求項5に記載の技術によれば、請求項3に記載の表示システムは、補間処理部が複数の画像ストリームのいずれに対してどの時刻の補間画像を生成するかを、入力信号に付加された情報、又は、ユーザーの選択に基づいて決定するように構成されている。
【0022】
本願の請求項6に記載の技術によれば、請求項3に記載の表示システムへの入力信号となる複数の画像ストリームは、互いに視差を有する左眼用画像ストリーム及び右眼用画像ストリームである。
【0023】
本願の請求項7に記載の技術によれば、請求項6に記載の表示システムにおいて、複数のシャッター機構は、左眼用シャッター及び右眼用シャッターを備えた、観察者が装着するシャッター眼鏡である。
【0024】
本願の請求項8に記載の技術によれば、請求項6に記載の表示システムにおいて、複数のシャッター機構は、前記表示部の表示画面に備えられた、各視差画像に対応した液晶シャッターである。
【0025】
本願の請求項9に記載の技術によれば、請求項6に記載の表示システムにおいて、複数のシャッター機構は、前記表示部の表示画面に備えられた液晶シャッターと位相差フィルム又は位相差板と、観察者が装着する偏光眼鏡からなる。
【0026】
また、本願の請求項10に記載の技術は、複数の画像ストリームを生成して、このうちの少なくとも1つの画像ストリームに対して時間的な補間画像を生成する映像生成装置である。
【0027】
本願の請求項11に記載の技術によれば、請求項10に記載の映像生成装置は、複数の画像ストリームを時分割表示する表示装置を接続し、前記表示装置における方式を取得するように構成されている。
【0028】
本願の請求項12に記載の技術によれば、請求項11に記載の映像生成装置は、表示装置側において複数の画像ストリームを分離する動作の時間差と等しくなるよう、複数の画像ストリームのうち少なくとも1つに対して時間的な補間画像を生成するように構成されている。
【0029】
また、本願の請求項13に記載の技術は、記録メディアから複数の画像ストリームを再生して、このうちの少なくとも1つの画像ストリームに対して時間的な補間画像を生成する再生装置である。
【0030】
本願の請求項14に記載の技術によれば、請求項13に記載の再生装置は、複数の画像ストリームを時分割表示する表示装置を接続し、前記表示装置における方式を取得するように構成されている。
【0031】
本願の請求項15に記載の技術によれば、請求項14に記載の再生装置表示装置側において複数の画像ストリームを分離する動作の時間差と等しくなるよう、複数の画像ストリームのうち少なくとも1つに対して時間的な補間画像を生成するように構成されている。
【発明の効果】
【0032】
本明細書で開示する技術によれば、時分割表示される複数の視差画像を好適に処理することができる優れた画像処理装置及び画像処理方法、複数の視差画像を好適に表示することができる優れた表示システム、映像生成装置、並びに再生装置を提供することができる。
【0033】
また、本明細書で開示する技術によれば、動画表示時においても正しく視差を表示できるよう時分割表示される複数の視差画像を処理することができる優れた画像処理装置及び画像処理方法、動画表示時においても複数の視差画像の視差を正しく表示することができる優れた表示システム、映像生成装置、並びに再生装置を提供することができる。
【0034】
本明細書で開示する技術のさらに他の目的、特徴や利点は、後述する実施形態や添付する図面に基づくより詳細な説明によって明らかになるであろう。
【図面の簡単な説明】
【0035】
【図1】図1は、複数の視差画像を時分割表示する表示装置100とシャッター眼鏡130からなる時分割表示システムの構成例を示した図である。
【図2】図2は、時間的な補間画像を生成する前のオリジナルの視差画像と、左眼用シャッター・レンズ308及び右眼用シャッター・レンズ309の開閉動作を示したタイミング・チャートである。
【図3】図3は、同一タイミングで撮像又は生成された左眼用画像及び右眼用画像のうち右眼用画像に対して時間的な補間画像を生成する様子を示した図である。
【図4A】図4Aは、左眼用画像Lと右眼用画像Rとでd画素の視差がある物体を示した図である。
【図4B】図4Bは、図4Aに示した物体が画面の左から右へ移動する様子を同一タイミングで撮影又は生成した左眼用画像及び右眼用画像のうち右眼用画像に対して時間的な補間画像を生成する例を示した図である。
【図5A】図5Aは、左眼用画像Lと右眼用画像Rとでd画素の視差がある物体を示した図である。
【図5B】図5Bは、図45に示した物体が画面の右から左へ移動する様子を同一タイミングで撮影又は生成した左眼用画像及び右眼用画像のうち右眼用画像に対して時間的な補間画像を生成する例を示した図である。
【図6】図6は、図4B並びに図5Bに示したように右眼用画像に対して時間的な補間画像を生成するための、映像信号処理部120内の機能ブロック図を示した図である。
【図7】図7は、同一タイミングで撮像又は生成された左眼用画像及び右眼用画像のうち左眼用画像及び右眼用画像の双方に対して時間的な補間画像を生成する様子を示した図である。
【図8】図8は、左眼用画像及び右眼用画像の各々に対して時間的な補間画像を生成するための、映像信号処理部120内の機能ブロック図を示した図である。
【図9】図9は、左眼用画像及び右眼用画像の各信号L0R0−L1R1−L2R2−…が入力される様子を示した図である。
【図10】図10は、入力信号L0R0−L1R1−L2R2−…を、L0−R0−L1−R1−L2−R2−…のように並べ替えて表示する様子を示した図である。
【図11A】図11Aは、左眼用画像Lと右眼用画像Rとでd画素の視差がある物体を示した図である。
【図11B】図11Bは、図11Aに示した物体が画面の左から右へ移動する様子を同一タイミングで撮影又は生成した左眼用画像及び右眼用画像を時分割で表示する例を示した図である。
【図12A】図12Aは、左眼用画像Lと右眼用画像Rとでd画素の視差がある物体を示した図である。
【図12B】図12Bは、図12Aに示した物体が画面の右から左へ移動する様子を同一タイミングで撮影又は生成した左眼用画像及び右眼用画像を時分割で表示する例を示した図である。
【発明を実施するための形態】
【0036】
以下、図面を参照しながら本明細書で開示する技術の実施形態について詳細に説明する。
【0037】
図1には、複数の視差画像を時分割表示することが可能な表示装置100とシャッター眼鏡130からなる時分割表示システムの構成例を示している。以下では、複数の視差画像として、立体視用の左眼用画像及び右眼用画像を例にとって説明する。
【0038】
表示装置100は、画像表示部110と、映像信号処理部120と、タイミング制御部140と、映像メモリー150と、シャッター制御部160を備えている。また、画像表示部110は、表示パネル112と、ゲート・ドライバー113と、データ・ドライバー114を備えている。
【0039】
映像信号処理部120は、映像信号処理部120の外部からの映像信号の伝送を受けると、画像表示部110における立体視画像の表示に適したものとなるように各種信号処理を実行して、映像メモリー150に出力する。ここで言う、映像信号の伝送元となる「外部」には、ディジタル放送の受信機や、ブルーレイ・ディスク・プレイヤーなどのコンテンツ再生装置を挙げることができる。
【0040】
本実施形態では、映像信号処理部120は、動画表示時において、同一タイミングで撮像又は生成された視差画像が時分割で表示されることに伴う見かけ上の視差の変化を抑制するために、時間的な補間画像を生成する補間処理を行なうが、この点の詳細については後述に譲る。
【0041】
また、映像信号処理部120は、立体視画像の映像信号の切り替えのタイミングに同期して、データ・ドライバー113及びゲート・ドライバー114が動作するように、所定の制御信号をタイミング制御部140へ供給する。
【0042】
ゲート・ドライバー113は、順次駆動するための信号を生成する駆動回路であり、タイミング制御部140から伝送された信号に応じて、表示パネル112内の各画素に接続されたゲート・バス・ラインへ、駆動電圧を出力する。また、データ・ドライバー114は、映像信号に基づく駆動電圧を出力する駆動回路であり、タイミング制御部140から伝送された信号並びに映像メモリー150から読み出された映像信号に基づいてデータ線へ印加する信号を生成して出力する。
【0043】
表示パネル112は、例えば格子状に配列された複数の画素を有するが、本明細書で開示する技術の要旨は特定の画素配列には限定されない。液晶表示パネルの場合し、ガラスなどの透明板の間に所定の配向状態を有する液晶分子が封入されており、外部からの信号の印加に応じて画像を表示する。上述したように、表示パネル112への信号の印加は、ゲート・ドライバー113、及び、データ・ドライバー114によって実行される。
【0044】
シャッター制御部160は、表示部112における左眼用画像L及び右眼用画像Rの表示切り換えに同期して、シャッター眼鏡130のシャッター機構の開閉動作を制御する。シャッター制御部160は、Wi−FiやIEEE802.15.4などのワイヤレス・ネットワークにおけるアクセスポイントとして動作する通信部(図示しない)を備えており、端末局として動作する1以上のシャッター眼鏡13を自分の基本サービスセット(Basic Service Set:BSS)に収容する。また、シャッター制御部160は、通信部から、シャッター眼鏡13に対して、左右のシャッター308、309の開閉タイミングを制御するために必要な情報を記載したパケットを送信する。
【0045】
表示パネル112で左眼用画像Lの表示期間には、シャッター眼鏡130側では、表示装置11側から無線伝送されるパケットに従って、左眼用シャッター・レンズ308を開成状態、右眼用シャッター・レンズ309を閉成状態とし、左眼用画像Lに基づく表示光がユーザーの左眼にのみ到達する。また、液晶パネル112で右眼用画像Rの表示期間には、右眼用シャッター・レンズ309を開成状態、左眼用シャッター・レンズ308を閉成状態とし、右眼用画像Rに基づく表示光がユーザーの右眼にのみ到達する。
【0046】
同一タイミングで撮像又は生成された複数の視差画像を表示装置100で時分割表示する際、動画表示時においては、図11B又は図12Bに示したように、視差物体の動く向きや速度によっては、見かけ上の視差が変化してしまう。そこで、本実施形態では、映像信号処理部120への入力信号の複数の画像ストリームが同一タイミングで撮像又は生成されたものである場合には、複数の画像ストリームのうち少なくとも1つに対して時間的な補間画像を生成する補間処理を行ない、見かけ上の視差の変化を抑制するようにする。すなわち、複数の画像ストリームの補間画像を生成する時刻の時間差が、対応する視差画像を分離する動作の時間差(例えば、シャッター眼鏡130の左右のシャッター・レンズ308、309を開閉動作する時間差)と等しくなるよう、時間的な補間処理を行なう。
【0047】
以下では、図1に示した時分割表示システムにおいて、視差のある左眼用画像L及び右眼用画像Rを時分割で表示し、シャッター眼鏡130のシャッター機構により表示切り換えに同期して画像選択を行なう場合を例にとり、時間的な補間画像を生成する仕組みについて説明する。
【0048】
図2には、時間的な補間画像を生成する前のオリジナルの視差画像と、左眼用シャッター・レンズ308及び右眼用シャッター・レンズ309の開閉動作を、示している。
【0049】
左眼用画像及び右眼用画像の各信号L0R0−L1R1−L2R2−…が入力されると、図示のように、L0−R0−L1−R1−L2−R2−…のように並べ替えて、表示パネル112に表示される。入力される左眼用画像及び右眼用画像の各信号L0R0、L1R1、L2R2、…は、それぞれ同一タイミングで撮像又は生成されたものである。
【0050】
一方、シャッター眼鏡130側では、表示パネル112で左眼用画像Lの表示期間には、左眼用シャッター・レンズ308を開成状態、右眼用シャッター・レンズ309を閉成状態とし、左眼用画像Lに基づく表示光がユーザーの左眼にのみ到達する。また、液晶パネル112で右眼用画像Rの表示期間には、右眼用シャッター・レンズ309を開成状態、左眼用シャッター・レンズ308を閉成状態とし、右眼用画像Rに基づく表示光がユーザーの右眼にのみ到達する。
【0051】
ところが、動画表示時においては、図11B又は図12Bに示したように、視差物体の動く向きや速度によっては、見かけ上の視差が変化してしまう。左眼用画像ストリームLが右眼用画像ストリームRより先に表示される場合(L0−R0−L1−R1−…)、物体が画面の左から右へ移動する動画では、観察者は、物体が実際よりも近くにあると感じてしまい、逆に、物体が画面の右から左へ移動する動画では、観察者は、物体が実際よりも遠くにあると感じてしまう。なお、右眼用画像ストリームRが左眼用画像ストリームLより先に表示される場合には(R0−L0−R1−L1−…)、逆の結果となる。
【0052】
そこで、右眼用画像Rに対して、時間的な補間画像を生成する補間処理を行ない、見かけ上の視差の変化を抑制するようにする。
【0053】
図3には、同一タイミングで撮像又は生成された左眼用画像及び右眼用画像のうち右眼用画像に対して時間的な補間画像を生成する様子を示している。
【0054】
左眼用画像及び右眼用画像の各信号L0R0−L1R1−L2R2−…が入力されると、各フレーム周期の右眼用画像R0、R1、R2、…から、0.5フレーム分だけ時間的に遅延した補間画像R0.5、R1.5、R2.5、…を順次生成する。図示のように、L0−R0.5−L1−R1.5−L2−R2.5−…のように並べ替えて、表示パネル112に表示する。
【0055】
ここで、右眼用画像についての補間画像R0.5、R1.5、R2.5、…を生成する時間差は0.5フレーム分であるが、これはシャッター眼鏡130の左右のシャッター・レンズ308、309を開閉動作する時間差に等しい。これにより、シャッター眼鏡130を掛けた観察者には視差量が正しく視認される。
【0056】
例えば、図4Aに示すように、左眼用画像Lと右眼用画像Rとでd画素の視差がある物体が、フレーム周期当たりΔx画素の速度で画面の左から右へ移動する動画について、右眼用画像に対して時間的な補間画像を生成する場合について考えてみる。図4Bには、同一タイミングで撮影又は生成した左眼用画像及び右眼用画像のうち右眼用画像に対して時間的な補間画像を生成する例を示している。
【0057】
上述したように、R0がL0よりも0.5フレーム分だけ遅れ、R1がL1よりも0.5フレーム分だけ遅れて、それぞれ視認される。L0とL1の間に、物体はΔx画素だけ右へ移動する。これに対し、L0よりも0.5フレーム分だけ遅れて、右眼用画像として、シャッター・レンズ308、309を開閉動作する時間差に等しい時間的な補間画像R0.5が表示される。観察者の頭の中では、左眼用画像フレームL0.5内の物体はグレーで示すようにΔx/2だけ右へ移動している。一方、時間的な補間画像R0.5内の物体も、本来の左眼用画像R0内の物体の位置からΔx/2だけ右へ移動している。観察者の頭の中で想起されている左眼用画像L0.5との間では視差はd画素のまま保たれている。したがって、動画においても見かけ上の視差は変化しない。
【0058】
また、図5Aに示すように、左眼用画像Lと右眼用画像Rとでd画素の視差がある物体が、フレーム周期当たりΔx画素の速度で画面の右から左へ移動する動画について、右眼用画像に対して時間的な補間画像を生成する場合について考えてみる。図5Bには、同一タイミングで撮影又は生成した左眼用画像及び右眼用画像のうち右眼用画像に対して時間的な補間画像を生成する例を示している。
【0059】
上述したように、R0がL0よりも0.5フレーム分だけ遅れ、R1がL1よりも0.5フレーム分だけ遅れて、それぞれ視認される。L0とL1の間に、物体はΔx/2画素だけ左へ移動する。これに対し、L0よりも0.5フレーム分だけ遅れて、右眼用画像として、シャッター・レンズ308、309を開閉動作する時間差に等しい時間的な補間画像R0.5が表示される。観察者の頭の中では、左眼用画像フレームL0.5内の物体はグレーで示すようにΔx/2だけ左へ移動している。一方、時間的な補間画像R0.5内の物体も、本来の左眼用画像R0内の物体の位置からΔx/2だけ左へ移動している。観察者の頭の中で想起されている左眼用画像L0.5との間では視差はd画素のまま保たれている。したがって、物体が右から左へ移動する場合も同様に、見かけ上の視差は変化しない。
【0060】
図6には、図4B並びに図5Bに示したように右眼用画像に対して時間的な補間画像を生成するための、映像信号処理部120内の機能ブロック図を示している。
【0061】
左眼用画像及び右眼用画像の各信号L0R0−L1R1−L2R2−…が入力されると、左右画像分離部601が、左眼用画像L0、L1、L2、…と右眼用画像R0、R1、R2、…に分離する。このうち右眼用画像R0、R1、R2、…はフレーム補間部602に入力される。フレーム補間部602は、各フレーム周期の右眼用画像R0、R1、R2、…から、0.5フレーム分だけ時間的に遅延した補間画像R0.5、R1.5、R2.5、…を順次生成する。そして、フレーム並べ替え部603は、左眼用画像L0、L1、L2、…と、時間的な補間画像R0.5、R1.5、R2.5、…を入力すると、L0−R0.5−L1−R1.5−L2−R2.5−…のように並べ替えて、画像メモリー150に順次書き込んでいく。
【0062】
図3〜図5に示した例では、左眼用画像及び右眼用画像からなる立体視動画のうち、右眼用画像に対してのみ時間的な補間画像を生成するものである。補間画像を生成する際は、前後2フレームの元画像の情報を基に処理する(例えば、R0.5はR0及びR1から生成し、R1.5はR1及びR2から生成する)。
【0063】
ここで、時間的な補間画像は、元画像に時間的に近い方が、より正確な補間を行なうことができるとともに処理時間が短くて済む、すなわち、破綻が少ないと言うことができる。例えば、元画像R1とR2から時間的な補間画像を生成する場合、R1.5を生成するよりも、R1.25やR1.75を生成する方が破綻は少ない。
【0064】
そこで、同一タイミングで撮像又は生成された左眼用画像及び右眼用画像のうち、右眼用画像に対してだけ時間的な補間画像を生成するのではなく、左眼用画像及び右眼用画像の双方に対して時間的な補間画像を生成することで、各補間画像を元画像に時間的に近づけるようにして、全体的な破綻を少なくする方法も考えられる。
【0065】
図7には、同一タイミングで撮像又は生成された左眼用画像及び右眼用画像のうち左眼用画像及び右眼用画像の双方に対して時間的な補間画像を生成する様子を示している。
【0066】
左眼用画像及び右眼用画像の各信号L0R0−L1R1−L2R2−…が入力されると、各フレーム周期の左眼用画像 L0、L1、L2、L3、…から0.25フレーム分だけ時間的に遅延した補間画像L0.25、L1.25、L2.25、…を順次生成するとともに、右眼用画像R0、R1、R2、R3、…から0.75フレーム分だけ時間的に遅延した補間画像R0.75、R1.75、R2.75、…を順次生成する。そして、図示のように、L0.25−R0.75−L1.25−R1.75−L2.25−R2.75−…のように並べ替えて、表示パネル112に表示する。
【0067】
ここで、左眼用画像についての補間画像L0.25、L1.25、L2.25、…を生成する時刻と右眼用画像についての補間画像R0.75、R1.75、R2.75、…を生成する時刻の時間差は0.5フレーム分であるが、これはシャッター眼鏡130の左右のシャッター・レンズ308、309を開閉動作する時間差に等しい。これにより、シャッター眼鏡130を掛けた観察者には視差量が正しく視認される。
【0068】
図8には、左眼用画像及び右眼用画像の各々に対して時間的な補間画像を生成するための、映像信号処理部120内の機能ブロック図を示している。
【0069】
左眼用画像及び右眼用画像の各信号L0R0−L1R1−L2R2−…が入力されると、左右画像分離部801が、左眼用画像L0、L1、L2、…と右眼用画像R0、R1、R2、…に分離する。このうち左眼用画像L0、L1、L2、…はフレーム補間部802Lに入力され、右眼用画像R0、R1、R2、…はフレーム補間部802Rに入力される。フレーム補間部802Lは、各フレーム周期の右眼用画像L0、L1、L2、…から、0.25フレーム分だけ時間的に遅延した補間画像R0.25、R1.25、R2.25、…を順次生成する。また、フレーム補間部802Rは、各フレーム周期の右眼用画像R0、R1、R2、…から、0.75フレーム分だけ時間的に遅延した補間画像R0.75、R1.75、R2.75、…を順次生成する。そして、フレーム並べ替え部803は、左眼用画像L0.25、L1.25、L2.25、…と、時間的な補間画像R0.75、R1.75、R2.75、…を入力すると、L0.25−R0.75−L1.25−R1.75−L2.25−R2.75−…のように並べ替えて、画像メモリー150に順次書き込んでいく。
【0070】
なお、図3や図7に示したように複数の視差画像のうち少なくとも一部の画像に対して時間的な補間画像を生成する際に、入力信号の画像ストリームが同一タイミングで撮像又は生成されたものであるかどうかを、入力信号に付与された情報により判断する。また、左眼用画像及び右眼用画像の各画像ストリームのうちいずれか(又は両方)から、どの時刻の補間画像を生成するかを、入力信号に付与された情報により判断する。入力信号にそのような情報が付与されていない場合には、ユーザーが選択するようにしてもよい。
【0071】
上述した実施形態は、モニターやプロジェクターなど、複数の視差画像を時分割表示する表示装置側で、動画表示時における見かけ上の視差の変化を防ぐための対策である。左眼用画像と右眼用画像を分離するシャッター機構が、図1に示したようなシャッター眼鏡の他に、表示パネル112の表示画面に備えられた液晶シャッターの場合(すなわち、時分割裸眼方式)、表示パネル112の表示画面に備えられた液晶シャッターと位相差フィルム又は位相差板と、観察者が装着する偏光眼鏡からなる場合(すなわち、アクティブ・リターダー方式)のいずれであっても、本明細書で開示する技術は、同様に、動画表示時における見かけ上の視差の変化を防ぐための対策となり得る。
【0072】
また、モニターやプロジェクターなどの表示装置に代えて、同一タイミングで複数の視差画像を生成するゲーム機を始めとする映像生成装置や、同一タイミングで複数の視差画像を再生するBDプレイヤーなどの再生装置側においても、上記と同様の対策を行なうことも考えられる。これらの映像生成装置又は再生装置に接続される表示装置が時分割表示装置である場合には、出力する複数の画像フレームが撮影又は生成された時刻の時間差を対応する複数のシャッター機構の開閉タイミングの時間差に等しくなるように与えてやればよい。
【0073】
映像生成装置であれば、複数の視差画像を生成した後、このうちの少なくとも1つの視差画像に対して時間的な補間画像を生成する補間処理を行ない、見かけ上の視差の変化を抑制するようにする。また、再生装置であれば、BDなどの記録メディアから再生した複数の視差画像のうちの少なくとも1つの視差画像に対して時間的な補間画像を生成する補間処理を行ない、見かけ上の視差の変化を抑制するようにする。
【0074】
このとき、映像生成装置又は再生装置は、接続された表示装置が時分割表示装置であるかどうかは、接続された表示装置からの信号で判断するようにしてもよいし、ユーザーが選択するようにしてよい。そして、映像生成装置又は再生装置は、接続された表示装置側において視差画像を分離する動作の時間差と等しくなるよう、複数の画像ストリームに対して時間的な補間画像を生成する。
【産業上の利用可能性】
【0075】
以上、特定の実施形態を参照しながら、本明細書で開示する技術について詳細に説明してきた。しかしながら、本明細書で開示する技術の要旨を逸脱しない範囲で当業者が該実施形態の修正や代用を成し得ることは自明である。
【0076】
本明細書では、液晶ディスプレイを表示装置に用いた実施形態について説明してきたが、本明細書で開示する技術の要旨は特定の表示デバイスに限定されるものではない。
【0077】
また、本明細書で開示する技術の適用範囲は、立体視画像には限定されず、時分割表示方式で複数の視差画像を表示するさまざまな表示装置に適用することができる。また、シャッター眼鏡を用いる方式、裸眼方式を問わない。
【0078】
要するに、例示という形態で本技術を開示してきたのであり、本明細書の記載内容を限定的に解釈するべきではない。本明細書で開示する技術の要旨を判断するためには、特許請求の範囲を参酌すべきである。
【符号の説明】
【0079】
100…立体表示装置
110…画像表示部
112…表示パネル
113…ゲート・ドライバー
114…データ・ドライバー
120…映像信号処理部
130…シャッター眼鏡
140…タイミング制御部
150…映像メモリー
160…シャッター制御部
308…左眼用シャッター・レンズ、309…右眼用シャッター・レンズ


【特許請求の範囲】
【請求項1】
複数の画像ストリームのうちの少なくとも1つの画像ストリームに対して時間的な補間画像を生成する補間処理部と、
前記複数の画像ストリームのうち前記補間処理部が補間処理しなかった各画像ストリーム並びに前記補間処理部が補間処理した後の各画像ストリームを、画像ストリームの順及び時間順で、時分割に切り換えて出力する出力部と、
を具備する画像処理装置。
【請求項2】
複数の画像ストリームのうちの少なくとも1つの画像ストリームに対して時間的な補間画像を生成する補間処理ステップと、
前記複数の画像ストリームのうち前記補間処理ステップにおいて補間処理しなかった各画像ストリーム並びに前記補間処理ステップにおいて補間処理した後の各画像ストリームを、画像ストリームの順及び時間順で、時分割に切り換えて出力する出力ステップと、
を有する画像処理方法。
【請求項3】
入力信号の複数の画像ストリームのうちの少なくとも1つの画像ストリームに対して時間的な補間画像を生成する補間処理部と、
前記複数の画像ストリームのうち前記補間処理部が補間処理しなかった各画像ストリーム並びに前記補間処理部が補間処理した後の各画像ストリームを、画像ストリームの順及び時間順で、時分割に切り換えて表示する表示部と、
前記表示部の表示切り換えに同期して各画像ストリームにそれぞれ対応する複数のシャッター機構の開閉動作を制御するシャッター制御部と、
を具備する表示システム。
【請求項4】
前記補間処理部は、同一タイミングで撮像又は生成された複数の画像ストリームを入力し、画像ストリームの補間画像を生成する時刻の時間差が前記複数のシャッター機構の開閉動作の時間差と等しくなるよう、時間的な補間画像の生成を行なう、
請求項3に記載の表示システム。
【請求項5】
前記補間処理部が複数の画像ストリームのいずれに対してどの時刻の補間画像を生成するかを、入力信号に付加された情報、又は、ユーザーの選択に基づいて決定する、
請求項3に記載の表示システム。
【請求項6】
前記複数の画像ストリームは、互いに視差を有する左眼用画像ストリーム及び右眼用画像ストリームである、
請求項3に記載の表示システム。
【請求項7】
前記複数のシャッター機構は、左眼用シャッター及び右眼用シャッターを備えた、観察者が装着するシャッター眼鏡である、
請求項6に記載の表示システム。
【請求項8】
前記複数のシャッター機構は、前記表示部の表示画面に備えられた、各視差画像に対応した液晶シャッターである、
請求項6に記載の表示システム。
【請求項9】
前記複数のシャッター機構は、前記表示部の表示画面に備えられた液晶シャッターと位相差フィルム又は位相差板と、観察者が装着する偏光眼鏡からなる、
請求項6に記載の表示システム。
【請求項10】
複数の画像ストリームを生成して、このうちの少なくとも1つの画像ストリームに対して時間的な補間画像を生成する、
映像生成装置。
【請求項11】
複数の画像ストリームを時分割表示する表示装置を接続し、前記表示装置における方式を取得する、
請求項10に記載の映像生成装置。
【請求項12】
前記表示装置側において複数の画像ストリームを分離する動作の時間差と等しくなるよう、複数の画像ストリームのうち少なくとも1つに対して時間的な補間画像を生成する、
請求項11に記載の映像生成装置。
【請求項13】
記録メディアから複数の画像ストリームを再生して、このうちの少なくとも1つの画像ストリームに対して時間的な補間画像を生成する、
再生装置。
【請求項14】
複数の画像ストリームを時分割表示する表示装置を接続し、前記表示装置における方式を取得する、
請求項13に記載の再生装置。
【請求項15】
前記表示装置側において複数の画像ストリームを分離する動作の時間差と等しくなるよう、複数の画像ストリームのうち少なくとも1つに対して時間的な補間画像を生成する、
請求項14に記載の再生装置。


【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4A】
image rotate

【図4B】
image rotate

【図5A】
image rotate

【図5B】
image rotate

【図6】
image rotate

【図7】
image rotate

【図8】
image rotate

【図9】
image rotate

【図10】
image rotate

【図11A】
image rotate

【図11B】
image rotate

【図12A】
image rotate

【図12B】
image rotate


【公開番号】特開2012−231275(P2012−231275A)
【公開日】平成24年11月22日(2012.11.22)
【国際特許分類】
【出願番号】特願2011−97916(P2011−97916)
【出願日】平成23年4月26日(2011.4.26)
【出願人】(000002185)ソニー株式会社 (34,172)
【Fターム(参考)】