画像データ出力装置および画像表示システム
【課題】複数の視差画像のデータを効率的に出力することができるようする。また、効率的に出力された複数の視差画像のデータに基づいて表示自由度の高い画像表示を行うことができるようにする。
【解決手段】画像圧縮部21において、立体画像の1フレーム期間内におけるn個の視差画像のうち、1つの特定の視差画像をベース画像としてそのまま(フレーム間相関処理を用いることなく)フレーム内圧縮する。他の(n−1)個の各視差画像については、各視差画像とベース画像とした特定の視差画像との差分を取って差分画像とした後に各視差画像ごとにフレーム内圧縮する。n個の視差画像は立体画像の特性上、互いに相関が高い画像であるから、(n−1)個の各視差画像について、特定の視差画像との差分を取った後にフレーム内圧縮することで立体画像の特性上、データが効率的に圧縮される。
【解決手段】画像圧縮部21において、立体画像の1フレーム期間内におけるn個の視差画像のうち、1つの特定の視差画像をベース画像としてそのまま(フレーム間相関処理を用いることなく)フレーム内圧縮する。他の(n−1)個の各視差画像については、各視差画像とベース画像とした特定の視差画像との差分を取って差分画像とした後に各視差画像ごとにフレーム内圧縮する。n個の視差画像は立体画像の特性上、互いに相関が高い画像であるから、(n−1)個の各視差画像について、特定の視差画像との差分を取った後にフレーム内圧縮することで立体画像の特性上、データが効率的に圧縮される。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、複数の視差画像のデータを出力する画像データ出力装置、および複数の視差画像のデータに基づいて画像表示を行う画像表示システムに関する。
【背景技術】
【0002】
従来より、光の偏光や液晶シャッタを利用した立体視用の特殊な眼鏡を装着させて観察者の両眼に視差のある別々の画像を見せることで、立体視を実現する眼鏡式の立体表示装置が知られている。また、特殊な眼鏡を装着する必要がなく、裸眼で立体視が可能な立体表示方式の一つとして、パララックスバリア方式やレンチキュラ方式の立体表示装置が知られている。パララックスバリア方式は、2次元表示パネルの前面に、光を透過するストライプ状のスリット部が複数設けられたパララックスバリアと呼ばれる構造物を対向配置したものである。レンチキュラ方式は、2次元表示パネルの前面に、レンチキュラレンズを対向配置したものである。レンチキュラレンズは、一次元方向にのみ屈折力を持つシリンドリカル状のレンズ(円筒レンズ)を一次元方向に多数並列配置したものである。
【0003】
立体視を実現するためには、左眼と右眼とに異なる視差画像を見せる必要があるため、少なくとも2つの視差画像が必要となる。3つ以上の視差画像を用いた場合には、多眼視を実現できる。視差画像の数が多いほど、観察者の視点位置の変化に応じた立体視を実現することができる。すなわち、運動視差が得られてよりリアルな立体感が得られる。
【先行技術文献】
【特許文献】
【0004】
【特許文献1】特開2000−11206号公報
【特許文献2】特開平7−23422号公報
【特許文献3】特開2004−80727号公報
【発明の概要】
【発明が解決しようとする課題】
【0005】
立体表示装置では、視差数分の複数の視差画像に基づいて生成された立体視用の合成画像を、2次元表示パネルに表示する。合成画像は、複数の視差画像を空間的に分割して所定の表示パターンで1画面内に合成することで生成される。パララックスバリア方式の場合、その合成画像を、パララックスバリアによって各視差画像に光学的に分離して観察者に提示することで、立体視が実現される。
【0006】
ここで、立体表示装置に対して立体表示用の画像データを供給する場合、立体表示装置とは別の画像データ出力装置側で立体表示装置の表示仕様に合わせた立体視用の合成画像を生成して、それを伝送手段を介して立体表示装置に直接、出力することが考えられる。または、一旦、記録媒体に記録して記録媒体から立体表示装置に合成画像を供給することが考えられる。しかしながら、このような合成画像を供給する方法では、その合成画像の仕様(各視差画像の分割数や分割幅等)に応じた立体表示装置でしか正しく立体表示できない問題があり、画像データの汎用性に欠ける。
【0007】
この問題を回避し、多様な仕様の立体表示装置に対応するために、立体表示用の画像データとして、図12に示したような2つの画像データを送る方法がある。2つの画像データは、1枚のベース画像201とこのベース画像201の奥行き情報を示す奥行き画像(グレー画像)202とからなる。例えば多眼視用の多視点合成画像を生成する場合、立体表示装置側において、ベース画像201と奥行き画像202とから画像処理により、立体表示装置の仕様に合わせて画像処理により合成画像を生成する。しかしながら、この方式による多視点合成画像では、1枚のベース画像201に対してのみにしか奥行き情報が与えられていないため、ベース画像201に対して周り込んだ画像(オクルージョン)が見えない不具合が発生する問題がある。
【0008】
そこで以上の問題を回避するために、立体表示装置には、伝送手段を介して、または記録媒体を介して、合成前の複数の視差画像を供給し、立体表示装置側で、立体表示装置の仕様に合わせた適切な合成画像を生成して表示する方法が考えられる。しかしながら、この方法の場合、多眼視に対応するためには多数の視差画像を供給するために画像データのデータ量が大きくなり、伝送のデータレートが高くなってしまう。または、記録媒体に記録するデータサイズが大きくなってしまう問題がある。従ってこの方法を用いる場合、データを圧縮するなどして効率的に伝送する手法を開発する必要がある。
【0009】
特許文献1には、三次元動画データを、基準フレームデータとこの基準フレームデータに続く複数のフレームを圧縮して形成した圧縮データ群とに変換して圧縮するようにした三次元動画データ圧縮方法の発明が開示されている。この三次元動画データ圧縮方法では、三次元座標上の複数の頂点を結ぶことで構成される三次元形状データから構成された、複数のフレームからなる三次元動画データを扱っている。この三次元動画データのフレームデータは、三次元座標データ(いわゆるポリゴン座標データ)であり、圧縮には三次元形状データの頂点のデータを用いている。すなわち、ポリゴン座標データの特性を利用した方法が用いられている。しかしながらこの圧縮方法では、三次元動画データが三次元座標データを用いない通常の画像データ(画像のピクセルデータ)である場合には対応できず、汎用性がない。
【0010】
特許文献2には、フレーム間での動き補償を用いて動画データを圧縮する方法の発明が開示されている。しかしながら、特許文献2には、立体表示用の画像データの圧縮に関しては開示されていない。すなわち、1フレーム期間内に複数の視差画像が時間順次で含まれている立体画像の画像データに対して、どのような圧縮を行うのかまったく開示されていない。特に、複数の視差画像に対して1フレーム期間内でどのような圧縮を行うのか開示されていない。
【0011】
特許文献3には、立体表示用の左眼用画像と右眼用画像とをコンピュータ上でフレーム単位に連結した2画面連結映像に変換して圧縮し、立体再生時にはその2画面連結映像を2画面に分離出力するようにした映像システムの発明が開示されている。特許文献3には、単純に2つの画像を画面連結して圧縮する方法が開示されているが、このような方法では、多眼視用に視差画像が増えた場合には十分に対応できない。
【0012】
本発明はかかる問題点に鑑みてなされたもので、その目的は、複数の視差画像のデータを効率的に出力することができるようにした画像データ出力装置、および効率的に出力された複数の視差画像のデータに基づいて表示自由度の高い画像表示を行うことができるようにした画像表示システムを提供することにある。
【課題を解決するための手段】
【0013】
本発明による画像データ出力装置は、1フレーム期間内にn(nは2以上の整数)個の視差画像が時間順次で含まれる立体画像の画像データを圧縮して出力する画像圧縮部を備え、画像圧縮部が、立体画像の1フレーム期間内におけるn個の視差画像のうち、1つの特定の視差画像をベース画像としてそのままフレーム内圧縮すると共に、他の(n−1)個の各視差画像については、各視差画像とベース画像とした特定の視差画像との差分を取って差分画像とした後に各視差画像ごとにフレーム内圧縮するようにしたものである。
【0014】
本発明による画像表示システムは、本発明による上記画像データ出力装置と、表示装置とを備えたものである。表示装置は、画像を表示する表示部と、画像解凍部を含む信号処理部とを有し、信号処理部が、圧縮された画像データを画像解凍部において解凍すると共に、解凍された画像データに基づいて表示部で表示する表示画像を生成するようになされている。
【0015】
本発明による画像データ出力装置では、立体画像の1フレーム期間内におけるn個の視差画像のうち、1つの特定の視差画像がベース画像としてそのまま(フレーム間相関処理を用いることなく)フレーム内圧縮される。他の(n−1)個の各視差画像については、各視差画像とベース画像とした特定の視差画像との差分を取って差分画像とした後に各視差画像ごとにフレーム内圧縮される。n個の視差画像は立体画像の特性上、互いに相関が高い画像であるから、(n−1)個の各視差画像について、特定の視差画像との差分を取った後にフレーム内圧縮することで立体画像の特性上、データが効率的に圧縮される。
【0016】
本発明による画像表示システムでは、画像データ出力装置から出力された画像データが、表示装置の画像解凍部で解凍される。信号処理部は、解凍された画像データに基づいて表示部で表示する表示画像を生成する。この画像表示システムでは、画像データ出力装置からn個の視差画像をすべて表示装置に出力し、表示装置側で表示画像を生成する方式なので、表示装置の仕様に合わせた適切な表示画像が得られる。
【発明の効果】
【0017】
本発明の画像データ出力装置によれば、1つの特定の視差画像をベース画像としてフレーム内圧縮し、他の(n−1)個の各視差画像については、各視差画像とベース画像との差分を取った後に各視差画像ごとにフレーム内圧縮するようにしたので、立体画像の特性上、画像データを効率的に圧縮することができる。これにより、複数の視差画像のデータを効率的に出力することができる。
【0018】
本発明の画像表示システムによれば、画像データ出力装置において効率的に立体画像の画像データを圧縮してn個の視差画像をすべて出力し、表示装置側で画像データを解凍して表示画像を生成するようにしたので、表示装置の仕様に合わせた適切な表示画像を得ることができる。また、n個の視差画像はそれぞれについて、独立した圧縮がなされたものなので、必要な視差画像だけを解凍して表示画像として用いることも容易にできる。これにより、効率的に出力された複数の視差画像のデータに基づいて表示自由度の高い画像表示を行うことができる。
【図面の簡単な説明】
【0019】
【図1】本発明の第1の実施の形態に係る画像表示システムの構成例を示すブロック図である。
【図2】第1の実施の形態に係る画像表示システムにおける画像圧縮部の構成例を示すブロック図である。
【図3】画像圧縮部から出力されるデータ構造の一例を示す説明図である。
【図4】画像圧縮部における画像圧縮の概念を模式的に示す説明図である。
【図5】画像送信部から出力されるストリームデータの構成例を示す説明図である。
【図6】第1の実施の形態に係る画像表示システムにおける画像解凍部の構成例を示すブロック図である。
【図7】第1の実施の形態に係る立体表示装置において、複数の視差画像から多視点合成画像を生成する過程を示す説明図である。
【図8】立体表示部をパララックスバリア方式で構成した例を示す構成図である。
【図9】立体表示部をレンチキュラ方式で構成した例を示す構成図である。
【図10】第2の実施の形態に係る画像表示システムにおける画像圧縮部の構成例を示すブロック図である。
【図11】第4の実施の形態に係る画像表示システムにおける画像データ出力装置の構成例を示すブロック図である。
【図12】従来の多眼視用のデータの構成例を示す説明図である。
【発明を実施するための形態】
【0020】
以下、本発明の実施の形態について図面を参照して詳細に説明する。
【0021】
<第1の実施の形態>
[画像表示システムの全体構成]
図1は、本発明の第1の実施の形態に係る画像表示システムの構成例を示している。この画像表示システムは、画像データ出力装置4と、立体表示装置5と、伝送ライン23と、データストレージ24とを備えている。画像データ出力装置4は、1フレーム期間内にn個の視差画像が時間順次で含まれる立体画像の画像データを圧縮して出力するものである。伝送ライン23は、画像データ出力装置4から出力された画像データを立体表示装置5に伝送するものである。データストレージ24は、画像データ出力装置4から出力された画像データを記録再生可能な記録媒体であり、例えばHDD(Hard Disk Drive)や光ディスクである。立体表示装置5は、伝送ライン23またはデータストレージ24を介して、画像データ出力装置4から出力された画像データを解凍すると共に、解凍した画像データに基づいて立体表示用の表示画像を生成して立体表示を行うものである。
【0022】
なお、本発明の画像表示システムは、立体画像の画像データが、2眼式用の2つの視差画像(n=2)で構成されている場合にも適用できるが、本実施の形態では多眼視が可能な画像データ(n=3以上)である場合について説明する。特に一例として、n=4の場合、すなわち、立体画像の画像データが、1フレーム期間内に第1ないし第4の4つの視差画像が時間順次で含まれる多眼視用の画像データである場合について説明する。
【0023】
[画像データ出力装置の構成]
画像データ出力装置4は、撮影部6と、画像圧縮部21と、画像送信部22とを備えている。撮影部6は、n個のカメラ、本実施の形態では第1ないし第4のカメラ61,62,63,64を有している。撮影部6は、第1ないし第4のカメラ61,62,63,64によって、互いに異なる第1ないし第4の位置から同時に被写体を撮影することで、立体画像の画像データとして、互いに視差のある多眼視用の第1ないし第4の視差画像を生成するようになっている。撮影部6は、生成した第1ないし第4の視差画像を画像圧縮部21に出力する。画像圧縮部21は、入力された第1ないし第4の視差画像を順に並べて、所定の画像圧縮処理を行い、圧縮後の画像を順に並べてストリーム化して画像送信部22に出力するようになっている。画像送信部22は、圧縮された立体画像の画像データからなる映像ストリームに対し、送信に必要な処理(所定の通信プロトコルに従った処理等)をした後に、伝送ライン23またはデータストレージ24に出力する処理を行うようになっている。
【0024】
図2は画像圧縮部21の構成例を示している。図3は画像圧縮部21から出力されるデータ構造の一例を示している。図4は画像圧縮部21における画像圧縮処理の概念を模式的に示している。図5は画像送信部22から出力される映像ストリームの構造を模式的に示している。
【0025】
画像圧縮部21は、図2に示したように、フレームメモリ41と、差分器42と、ストリームエンコーダ43と、ヘッダ作成器44とを有している。画像圧縮部21は、立体画像の1フレーム期間内におけるn個の視差画像のうち、1つの特定の視差画像をベース画像としてそのままフレーム内圧縮するようになっている。また、他の(n−1)個の各視差画像については、各視差画像とベース画像とした特定の視差画像との差分を取って差分画像とした後に各視差画像ごとにフレーム内圧縮するようになっている(図4参照)。本実施の形態では、立体画像の1フレーム期間内における時間的に1番目の視差画像をベース画像として処理するようになっている。具体的には、撮影部6から1番目に送られてきた画像データ、すなわち、第1のカメラ61から送られてきた第1の視差画像をベース画像として処理する。このような圧縮処理を立体画像の1フレームごとに行って画像圧縮部21から画像送信部22に順次出力することで、図5に示したような映像ストリームが得られる。すなわち、ベース画像と、それに続く圧縮された差分画像とからなるデータが順次連続する映像ストリームが得られる。
【0026】
フレームメモリ41は、1フレーム分の画像データを格納するものであり、立体画像の1フレームごとに、ベース画像を格納するようになっている。差分器42は、フレームメモリ41に格納されたベース画像と他の(n−1)個の各視差画像との差分をストリームエンコーダ43に出力するものである。ストリームエンコーダ43は、1つのベース画像と(n−1)個の差分画像とのそれぞれに対して、個々に所定のコーデックで画像データの圧縮処理を行うようになっている。立体画像の1フレーム期間内における複数の視差画像は、視差による違いがあるが画像としては大体の部分は似ていて、画像間の相関が強い。このため、ベース画像と差分を取った後に圧縮することで、効率的に圧縮することができる。
【0027】
ストリームエンコーダ43は、フレーム間相関の無いコーデックを使用したフレーム内圧縮による圧縮処理を行うようになっている。フレーム間相関の無いビデオコーデックとしては、例えばJPEG2000コーデックを用いることができる。この場合、ストリームエンコーダ43は、JPEG2000エンコーダで構成される。JPEG2000コーデックでは、入力画像信号に色空間座標の変換を必要に応じて行い、その信号の各々の色ごとにウェーブレット変換(DWT)を行い、その係数を独立に符号化する。DWTには,可逆変換が可能な回路構成が比較的簡易な整数型フィルタと、可逆変換はできないが整数型より画質が良い実数型フィルタとがある。本実施の形態では、不可逆圧縮(ロッシー)モード、あるいは可逆圧縮(ロスレス)モードのどちらを使用してもよい。またJPEG2000コーデックでは、DWT変換係数をビットプレーンに分解し、各サブバンドで一定サイズ(例えば64×64)の符号化ブロックに分割した上で2値算術符号化を行う。各符号化ブロック内の変換係数値はサインビット(正:0,負:1)と絶対値情報とに分け、絶対値は自然2進法で表現し、上位ビットプレーンから順に符号化する。画像の各サブバンド内の全体が黒に近くなった場合には、全てゼロのビットプレーンが上位ビットプレーンから連続するため、符号化が効率化される。具体的には、サインビットプレーンを除いた上位プレーンから全てゼロのビットプレーンのプレーン数を符号化ヘッダに格納しておき、全てゼロのビットプレーンの符号化をスキップする。そのために、黒に近い画像は単位時間あたりに必要な記録再生のデータ量が減少する。本実施の形態では、このデータ量が減少する特質を利用している。
【0028】
ヘッダ作成器44は、ストリームエンコーダ43によって圧縮処理されたベース画像と差分画像とのそれぞれについて、ヘッダ情報を付加するものである。図3はヘッダ情報を付加した後のデータ構造の一例を示している。図3に示したように、画像圧縮部21から出力されるデータは、ヘッダ情報(Header)とそれに続く実データ部分(Camera DATA)とからなるデータ構造を有している。ヘッダ情報としては、少なくとも、ベース画像と差分画像とを判別可能な情報を付加する。図3の例では、ヘッダ情報は、カメラ画像番号nを認識させる「Header = 0xfffffffn」の情報と、ヘッダ情報に続く実データ部分の圧縮データのバイトサイズ「Length= xx 」[Byte]の情報とで構成されている。「Header = 0xfffffffn」は、撮影部6の第1ないし第4のカメラ61,62,63,64のうち、どのカメラから出力された画像データであるかを示している。例えば「Header = 0xfffffff1」であれば、第1のカメラ61から出力された視差画像データであることを示している。なお、上述したように、本実施の形態では第1のカメラ61から送られてきた第1の視差画像をベース画像として処理するようになっているので、「Header = 0xfffffffn」の情報からベース画像であるか否かを判別することができる。
【0029】
[立体表示装置の構成]
立体表示装置5は、画像受信部30と、信号処理部3と、立体表示部100とを備えている。信号処理部3は、画像解凍部31と、合成画像生成部32と、駆動処理部33とを有している。
本実施の形態において、立体表示装置4が、本発明における「表示装置」の一具体例に対応する。また、立体表示部5が、本発明における「表示部」の一具体例に対応する。
【0030】
立体表示部100は、複数の視差画像が含まれる立体視用の表示画像に基づいて立体表示が可能なものであり、例えばパララックスバリア方式やレンチキュラ方式の表示装置である。図8は、立体表示部100をパララックスバリア方式で構成した例を示している。立体表示部100は、2次元表示パネル2と、2次元表示パネル2の表示面側に対向するように配置されたパララックスバリア1とを備えている。
【0031】
2次元表示パネル2は、複数の画素が2次元的に配列されて2次元的に画像表示を行うものであり、例えば有機EL(Electro-Luminescence)ディスプレイや液晶ディスプレイで構成されている。2次元表示パネル2は、信号処理部3から出力された多視点合成画像の表示を行うようになっている。
【0032】
パララックスバリア1は、2次元表示パネル2に表示された多視点合成画像に含まれる各視差画像を、多眼視が可能となるように光学的に分離するためのものである。パララックスバリア1は、2次元表示パネル2からの表示画像光を遮蔽する遮蔽部11と、2次元表示パネル2からの表示画像光を透過するストライプ状のスリット部12とが水平方向に交互に設けられたものである。スリット部12の幅は、所定の位置、所定の方向から観察者が立体表示装置を見たときに、観察者の左右の眼10L,10Rに互いに異なる視差画像の光が別々に入射されるような、適切な大きさに設定されている。
【0033】
図9は、レンチキュラ方式で構成された立体表示部100Aを示している。立体表示部100Aは、図9のパララックスバリア1に代えてレンチキュラレンズ1Aを2次元表示パネル2の表示面側に対向配置したものである。レンチキュラレンズ1Aは、例えば垂直方向に延在し、水平方向にのみ屈折力を持つシリンドリカル状のレンズ(円筒レンズ)13を、水平方向に多数並列配置したものである。シリンドリカル状のレンズ13のレンズピッチは、多眼視で表示する視差数に応じて適切に設定されている。例えば4視差での多眼視を行う場合、1つのシリンドリカル状のレンズ13に対して視差の異なる4つの分割画像が対応するように設定されている。このように設定することで、2次元表示パネル2からの表示画像光を、各視差画像ごとに異なる方向に偏向して出射させる。
【0034】
画像受信部30は、画像データ出力装置4の画像送信部22から出力された映像ストリームを伝送ライン23またはデータストレージ24を介して受信して信号処理部3の画像解凍部31に出力するものである。
【0035】
信号処理部3は、映像ストリームの中から、立体表示部100での立体表示に必要とされる視差数分の視差画像を抽出して画像合成することで、立体表示部100での立体表示が可能となる立体視用の表示画像を生成するものである。
【0036】
画像解凍部31は、図6に示したように、ヘッダ解析器51と、ストリームデコーダ52と、フレームメモリ53と、加算器54とを有している。画像解凍部31は、映像ストリームを構成する圧縮処理された立体画像の画像データを解凍処理するものである。ヘッダ解析器51は、送られてきた画像データのヘッダ情報を解析してベース画像であるか否か等を解析するようになっている。ストリームデコーダ52は、画像圧縮部21のストリームエンコーダ43のコーデックに対応したコーデックによって画像データを解凍処理するものである。例えばストリームエンコーダ43がJPEG2000エンコーダで構成されていれば、ストリームデコーダ52はJPEG2000デコーダで構成されている。
【0037】
画像解凍部31は、立体画像の1フレーム期間内におけるn個の視差画像のうち、フレーム内圧縮されたベース画像をストリームデコーダ52によってそのまま解凍して特定の視差画像を復元して合成画像生成部32に出力するようになっている。また、復元されたベース画像をフレームメモリ53に格納するようになっている。画像解凍部31はまた、他の(n−1)個の各視差画像については、各視差画像ごとに、フレーム内圧縮された差分画像をストリームデコーダ52によって解凍するようになっている。その後、その解凍後の差分画像に、フレームメモリ53に格納された復元されたベース画像を加算器54によって加算することにより(n−1)個の各視差画像の復元して合成画像生成部32に出力するようになっている。
【0038】
合成画像生成部32は、画像解凍部31から出力された多眼視用の各視差画像に基づいて多視点合成画像を生成するものである。駆動処理部33は、合成画像生成部32から出力された多視点合成画像に基づいて、立体表示部100の2次元表示パネル2の駆動信号を生成して2次元表示パネル2に多視点合成画像を表示させるものである。
【0039】
図7は、合成画像生成部32において多視点合成画像が生成されるまでの過程を模式的に示している。合成画像生成部32は、多眼視用の各視差画像から、垂直方向に延在する複数のストライプ状の分割画像を切り出す処理を行い、各分割画像を、各視差画像ごとに水平方向に交互に配列して多視点合成画像を生成する。図5では、第1ないし第4の4つの視差画像を用いた例を示している。合成画像生成部32には、図7上段に示したような第1ないし第4の視差画像が入力される。合成画像生成部32では、図7中段に示したように、第1ないし第4の視差画像からそれぞれストライプ状の分割画像を切り出す。次に、分割画像を、各視差画像ごとに水平方向に交互に配列して、図7下段に示したような多視点合成画像を生成する。結果的に、多視点合成画像は、第1ないし第4の視差画像からそれぞれ切り出されたストライプ状の分割画像が、第1、第2、第3および第4の視差画像の順に水平方向に交互に循環的に配列された合成画像となる。
【0040】
図7に示した多視点合成画像を2次元表示パネル2に表示してパララックスバリア1またはレンチキュラレンズ1Aを介して観察することで、多眼式の立体表示を行うことができる。例えばパララックスバリア1を介して観察することで、ある特定の視点位置から見たときに、左眼10Lと右眼10Rとにある特定の視差画像のみが見える状況となることで立体像が知覚される。例えばある特定の第1の視点位置から見たときには、左眼10Lには第3の視差画像からの光のみが認識され、右眼10Rには第2の視差画像からの光のみが認識される状況となることで、第3の視差画像と第2の視差画像とに基づく立体像が知覚される。また別の第2の視点位置から見たときには例えば、左眼10Lには第1の視差画像からの光のみが認識され、右眼10Rには第4の視差画像からの光のみが認識される状況となることで、第1の視差画像と第4の視差画像とに基づく立体像が知覚される。このように異なる視点位置から見たときに異なる視差画像が見えることによって運動視差が得られる。
【0041】
[画像表示システムの動作]
この画像表示システムにおける画像処理の全体の流れを以下に記す。
(A1) 撮影部6において、第1ないし第4のカメラ61,62,63,64によって、互いに異なる第1ないし第4の位置から同期を取って同時に被写体を撮影することで、互いに視差のある多眼視用の第1ないし第4の視差画像を、1フレーム分作成する。第1ないし第4の視差画像を、立体画像の1フレーム分の画像データとする。
(A2) 処理(A1)を繰り返し、立体画像の連続フレームを得る。
(A3) 得られた連続フレームを、画像圧縮部21で所定のコーデックに従って圧縮する。画像圧縮部21は、圧縮後の画像を順に並べてストリーム化して画像送信部22に出力する。
(A4) 圧縮された立体画像の画像データからなる映像ストリームデータを、画像送信部22で送信に必要な処理をした後に、伝送ライン23またはデータストレージ24に出力する。
(A5) 画像送信部22から出力された映像ストリームデータを、伝送ライン23またはデータストレージ24を介して立体表示装置5の画像受信部3で受信する。画像受信部3は受信した映像ストリームデータを画像解凍部31に出力する。
(A6) 圧縮された映像ストリームデータを、画像解凍部31で所定のコーデックに従って解凍し、復元された映像ストリームデータを得る。
(A7) 復元された映像ストリームデータから立体画像としての1フレーム分のデータ(第1ないし第4の視差画像)を取り出し、合成画像生成部32によって、多眼視用の多視点合成画像(図7参照)を生成する。
(A8) 生成された多視点合成画像に基づいて、駆動処理部33によって、立体表示部100の2次元表示パネル2の駆動信号を生成して2次元表示パネル2に多視点合成画像を表示する。
【0042】
[画像圧縮部21の動作]
画像圧縮部21(図6)における画像処理の流れを以下に記す。
(B1) 撮影部6の第1のカメラ61によって撮影されたカメラ画像1のデータ(第1の視差画像)は、フレームメモリ41に送られて、ベース画像として蓄積される。
(B2) また同時に、カメラ画像1のデータは、ストリームエンコーダ43に送られる。ストリームエンコーダ43に送られたカメラ画像1のデータは、所定のビデオコーデック(JPEG2000等)に従い、フレーム内圧縮される。
(B3) 圧縮されたカメラ画像1のデータは次段の画像送信部22に送られる。
(B4) 次に、撮影部6の第2のカメラ62によって撮影されたカメラ画像2のデータ(第2の視差画像)とフレームメモリ41内のベース画像(カメラ画像1のデータ)とのフレームのピクセルごとの差分を計算し、その差分画像のデータをストリームエンコーダ43に出力する。
(B5) ストリームエンコーダ43に送られたカメラ画像2に関する差分画像のデータは、所定のビデオコーデック(JPEG2000等)に従い、フレーム内圧縮される。
(B6) 圧縮されたカメラ画像2に関する差分画像のデータは次段の画像送信部22に送られる。
(B7) 第3のカメラ63によって撮影されたカメラ画像3のデータ(第3の視差画像)と、第4のカメラ64によって撮影されたカメラ画像4のデータ(第4の視差画像)とに対しても、処理(B4)ないし処理(B6)と同様の処理を行う。
(B8) 処理(B4)および処理(B6)において、圧縮されたカメラ画像を次段の画像送信部22に送る場合に、圧縮された各カメラ画像のデータに先行して、ヘッダ作成器44からヘッダ情報を送る。ヘッダ情報としては、カメラ画像番号nを認識させる「Header = 0xfffffffn」の情報と、ヘッダ情報に続く実データ部分の圧縮データのバイトサイズ「Length= xx 」[Byte]の情報とを付加する(図3参照)。
(B9) その後、処理(B1)ないし処理(B8)を繰り返し、次々に立体画像の各フレームデータを処理することで、図5のような映像ストリームデータを出力する。
【0043】
[画像解凍部31の動作]
画像解凍部31(図10)における画像処理の流れを以下に記す。
(C1) 画像受信部30から出力され、画像解凍部31に入力されたヘッダ情報をヘッダ解析器51で解析する。ヘッダ情報を構成する、「Header = 0xfffffffn」の情報と「Length= xx 」の情報から、カメラ画像番号nとその画像番号に対応する圧縮されたカメラ画像の実データのバイトサイズの情報を得る。
(C2) カメラ画像番号nで、n=1であることを確認する。これにより、そのヘッダ情報に続く実データの部分が、画像差分を取っていない、ベース画像であることを確認する。
(C3) ヘッダ情報に続く実データの部分、すなわち、処理(C1)で得られた「Length= xx 」[Byte]分のデータを、ストリームデコーダ52でデコードし、圧縮されていたカメラ画像1のデータの解凍データを得る。
(C4) 解凍されたカメラ画像1のデータを次段の合成画像生成部32に出力する。
(C5) また同時に、解凍されたカメラ画像1のデータをフレームメモリ53にも出力する。
(C6) 画像解凍部31に入力された、次のヘッダ情報をヘッダ解析器51で解析する。ヘッダ情報を構成する、「Header = 0xfffffffn」の情報と「Length= xx 」の情報から、カメラ画像番号nとその画像番号に対応する圧縮されたカメラ画像の実データのバイトサイズの情報を得る。
(C7) カメラ画像番号nで、n=2であることを確認する。これにより、そのヘッダ情報に続く実データの部分が、画像差分を取っている差分画像であることを確認する。
(C8) ヘッダ情報に続く実データの部分、すなわち、処理(C6)で得られた「Length= xx 」[Byte]分のデータを、ストリームデコーダ52でデコードし、圧縮されていたカメラ画像2に関する差分画像のデータの解凍データを得る。
(C9) 解凍されたカメラ画像2に関する差分画像のデータとフレームメモリ53に蓄積されているベース画像との、各々のピクセル値を加算することで、カメラ画像2のデータを復元し、を次段の合成画像生成部32に出力する。
(C10) ヘッダ情報がカメラ画像番号3、およびカメラ画像番号4となるデータに対しても、処理(C6)から処理(C9)と同様の処理を行う。
(C11) その後、処理(C1)ないし処理(C10)を繰り返し、次々に立体画像の各フレームデータを処理する。
【0044】
[第1の実施の形態による効果]
本実施の形態に係る画像データ出力装置4によれば、1つの特定の視差画像をベース画像としてフレーム内圧縮し、他の(n−1)個の各視差画像については、各視差画像とベース画像との差分を取った後に各視差画像ごとにフレーム内圧縮して出力するようにしたので、立体画像の特性上、画像データを効率的に圧縮することができる。これにより、複数の視差画像のデータを効率的に出力することができる。これにより、画像データ出力装置4からは立体画像の表示に必要とされるn個の視差画像を全て送っているにも関わらず、伝送ライン23に伝送するときのデータレートを抑えることができる。また、データストレージ24に記録するデータサイズを抑えることができる。
【0045】
また、本実施の形態に係る画像表示システムによれば、画像データ出力装置4において効率的に立体画像の画像データを圧縮してn個の視差画像をすべて出力し、立体表示装置5側で画像データを解凍して表示画像を生成するようにしたので、立体表示装置5の仕様に合わせた適切な表示画像を得ることができる。n個の視差画像はそれぞれについて、独立した圧縮がなされたものなので、必要な視差画像だけを解凍して表示画像として用いることも容易にできる。これにより、効率的に出力された複数の視差画像のデータに基づいて表示自由度の高い画像表示を行うことができる。
【0046】
また、画像データ出力装置4からは、立体画像の表示に必要とされるn個の視差画像を全て送るようにしたので、立体表示装置5側で立体表示したときに、図12に示したような画像データを送る方式に比べて、周り込んだ画像(オクルージョン)が見えない不具合が発生するのを抑えることができる。
【0047】
<第2の実施の形態>
次に、本発明の第2の実施の形態に係る立体表示装置について説明する。なお、上記第1の実施の形態に係る立体表示装置と実質的に同一の構成部分には同一の符号を付し、適宜説明を省略する。
【0048】
本実施の形態における画像表示システムの全体構成は、図1と同じであるが、図2の構成の画像圧縮部21に代えて、図10に示した構成の画像圧縮部21Aを備えている。画像圧縮部21Aは、ストリームデコーダ45を有している。ストリームデコーダ45は、立体表示装置5の画像解凍部31におけるストリームデコーダ52と同様のコーデックによって画像データを解凍処理するものである。
【0049】
図2の構成の画像圧縮部21では、第1のカメラ61から送られてきた第1の視差画像をベース画像としてそのままフレームメモリ41に格納するようにしている。これに対し、図10の画像圧縮部21Aでは、ストリームエンコーダ43によってフレーム内圧縮されたベース画像を、ストリームデコーダ45でそのまま解凍して第1の視差画像を復元し、その復元された第1の視差画像をフレームメモリ41に格納する。そして、フレームメモリ41に格納されたベース画像(復元された第1の視差画像)と他の(n−1)個の各視差画像との差分をストリームエンコーダ43に出力して圧縮処理する。
【0050】
本実施の形態によれば、ストリームデコーダ45によって、画像解凍部31におけるストリームデコーダ52と同様のコーデックによって解凍処理した後のベース画像がフレームメモリ41に格納される。従って、フレームメモリ41に格納されるベース画像と、画像解凍部31におけるフレームメモリ53(図6)に格納されるベース画像とを実質的に一致させることができる。これにより、画像圧縮部21Aと画像解凍部31とにおける差分処理の誤差を少なくすることができる。
【0051】
<第3の実施の形態>
次に、本発明の第3の実施の形態に係る立体表示装置について説明する。なお、上記第1または第2の実施の形態に係る立体表示装置と実質的に同一の構成部分には同一の符号を付し、適宜説明を省略する。
【0052】
上記第1の実施の形態では、立体表示装置5が多眼視での立体表示機能を有するものとして説明したが、本発明は、立体表示装置5が2眼式の機能を有するものである場合にも適用可能である。この場合、立体表示装置5側では、立体画像の画像データにn=3以上の視差画像が含まれていた場合には、信号処理部3において任意の2つの視差画像を抽出して、それら抽出された2つの視差画像に基づいて2眼式立体視用の表示画像を生成すれば良い。または、ベース画像と、ベース画像の次に圧縮処理された視差画像とを抽出し、それら抽出された2つの視差画像に基づいて2眼式立体視用の表示画像を生成するようにしても良い。
【0053】
また本発明は、立体表示装置5が、立体表示と2次元表示との切り換え機能を有する場合にも適用可能である。さらに、立体表示装置5に代えて、立体表示機能のない2次元表示専用の表示装置にも適用可能である。この場合、表示装置側では、信号処理部3において任意の1つの視差画像を抽出して、2次元表示用の表示画像を生成すれば良い。または、ベース画像を抽出して、2次元表示用の表示画像を生成すれば良い。
【0054】
また、2眼式の立体表示装置または2次元表示専用の表示装置での画像表示に対応させやすくするために、撮影部6の第1ないし第4のカメラ61,62,63,64からの画像データに対する画像処理の優先順位を変えるようにしても良い。すなわち、上記第1の実施の形態では、第1のカメラ61から出力されたカメラ画像を第1の視差画像(ベース画像)として最初に圧縮処理し、次に、第2ないし第4のカメラ62,63,64を第2ないし第4の視差画像として順次圧縮処理するようにした。これは、カメラの並び順に処理するようにしたものである。
【0055】
これに代えて、画像圧縮部21において、例えば撮影位置に応じて各視差画像の圧縮処理の順番を決定するようにしても良い。例えば中央の撮影位置(例えば第2のカメラ62)から撮影することによって得られたカメラ画像をベース画像として最初に圧縮処理する。次に、中央の撮影位置に対して2眼式の立体表示を行うのに最も適した視差となる撮影位置(例えば第3のカメラ63)から撮影することによって得られたカメラ画像を、ベース画像との差分を取る1番目の視差画像として圧縮処理する。以降、他の撮影位置から撮影することによって得られたカメラ画像を順次処理する。例えば第1のカメラ61による画像を処理し、次に第4のカメラ64による画像を処理する。
【0056】
このように、単純にカメラの並び順に処理するのではなく、2眼式の立体表示に適した画像を優先的に処理することで、例えば2眼式の立体表示装置において、ベース画像と、ベース画像の次に圧縮処理された視差画像とを抽出することで、2眼式の立体表示に適した表示画像を容易に生成することができる。
【0057】
<第4の実施の形態>
次に、本発明の第4の実施の形態に係る立体表示装置について説明する。なお、上記第1ないし第3の実施の形態に係る立体表示装置と実質的に同一の構成部分には同一の符号を付し、適宜説明を省略する。
【0058】
図11は、本発明の第4の実施の形態に係る画像表示システムにおける画像データ出力装置4Aの構成例を示している。図1に示した画像データ出力装置4では、撮影部6が、4台のカメラ61,62,63,64を有し、それらから直接、4つの視差画像を生成するようにした。これに対し、図11の画像データ出力装置4Aでは、撮影部6Aが2台のカメラ61,64のみで構成されている。また、画像データ出力装置4Aは、視差画像生成部25を備えている。視差画像生成部25は、撮影部6Aから出力された複数の視差画像に基づいて少なくとも1つの他の視差画像を画像処理(画像補間処理)により生成するものである。図11の例では、視差画像生成部25は、撮影部6Aから出力されたカメラ画像1とカメラ画像4とのデータから、2つの視差画像を生成している。
【0059】
例えば撮影部6Aから出力されたカメラ画像1のデータを第1の視差画像、カメラ画像4のデータを第4の視差画像とし、視差画像生成部25で生成した2つの視差画像を第2および第3の視差画像として、画像圧縮部21に入力する。画像圧縮部21以降の処理は上記第1の実施の形態と同様である。
【0060】
なお、撮影部6Aを3台のカメラで構成し、視差画像生成部25では1つの視差画像のみを生成するような構成であっても良い。
【0061】
本実施の形態によれば、一部の視差画像を画像処理によって生成するようにしたので、多眼視に必要な視差数分の台数のカメラを用意する必要が無くなり、カメラの台数を少なくすることができる。これにより、システムの構成を簡素化できる。
【0062】
<その他の実施の形態>
本発明は、上記各実施の形態に限定されず種々の変形実施が可能である。
例えば図3には、ヘッダ情報として、カメラ画像番号nを認識させる「Header = 0xfffffffn」の情報と、ヘッダ情報に続く実データ部分の圧縮データのバイトサイズ「Length= xx 」[Byte]の情報とを付加する例を示したが、その他のヘッダ情報を付加するようにしても良い。例えば、カメラの視差情報、カメラの並び順番号等の関連情報を追加しても良い。これにより、表示装置側での信号処理が容易になる。
【符号の説明】
【0063】
1…パララックスバリア、1A…レンチキュラレンズ、2…2次元表示パネル、3…信号処理部、4,4A…画像データ出力装置、5…立体表示装置、6,6A…撮影部、10L…左眼、10R…右眼、11…遮蔽部、12…スリット部、13…シリンドリカルレンズ、21,21A…画像圧縮部、22…画像送信部、23…伝送ライン、24…データストレージ、25…視差画像生成部、30…画像受信部、31…画像解凍部、32…合成画像生成部、33…駆動処理部、41…フレームメモリ、42…差分器、43…ストリームエンコーダ、44…ヘッダ作成器、45…ストリームデコーダ、51…ヘッダ解析器、52…ストリームデコーダ、53…フレームメモリ、54…加算器、61,62,63,64…カメラ、100,100A…立体表示部。
【技術分野】
【0001】
本発明は、複数の視差画像のデータを出力する画像データ出力装置、および複数の視差画像のデータに基づいて画像表示を行う画像表示システムに関する。
【背景技術】
【0002】
従来より、光の偏光や液晶シャッタを利用した立体視用の特殊な眼鏡を装着させて観察者の両眼に視差のある別々の画像を見せることで、立体視を実現する眼鏡式の立体表示装置が知られている。また、特殊な眼鏡を装着する必要がなく、裸眼で立体視が可能な立体表示方式の一つとして、パララックスバリア方式やレンチキュラ方式の立体表示装置が知られている。パララックスバリア方式は、2次元表示パネルの前面に、光を透過するストライプ状のスリット部が複数設けられたパララックスバリアと呼ばれる構造物を対向配置したものである。レンチキュラ方式は、2次元表示パネルの前面に、レンチキュラレンズを対向配置したものである。レンチキュラレンズは、一次元方向にのみ屈折力を持つシリンドリカル状のレンズ(円筒レンズ)を一次元方向に多数並列配置したものである。
【0003】
立体視を実現するためには、左眼と右眼とに異なる視差画像を見せる必要があるため、少なくとも2つの視差画像が必要となる。3つ以上の視差画像を用いた場合には、多眼視を実現できる。視差画像の数が多いほど、観察者の視点位置の変化に応じた立体視を実現することができる。すなわち、運動視差が得られてよりリアルな立体感が得られる。
【先行技術文献】
【特許文献】
【0004】
【特許文献1】特開2000−11206号公報
【特許文献2】特開平7−23422号公報
【特許文献3】特開2004−80727号公報
【発明の概要】
【発明が解決しようとする課題】
【0005】
立体表示装置では、視差数分の複数の視差画像に基づいて生成された立体視用の合成画像を、2次元表示パネルに表示する。合成画像は、複数の視差画像を空間的に分割して所定の表示パターンで1画面内に合成することで生成される。パララックスバリア方式の場合、その合成画像を、パララックスバリアによって各視差画像に光学的に分離して観察者に提示することで、立体視が実現される。
【0006】
ここで、立体表示装置に対して立体表示用の画像データを供給する場合、立体表示装置とは別の画像データ出力装置側で立体表示装置の表示仕様に合わせた立体視用の合成画像を生成して、それを伝送手段を介して立体表示装置に直接、出力することが考えられる。または、一旦、記録媒体に記録して記録媒体から立体表示装置に合成画像を供給することが考えられる。しかしながら、このような合成画像を供給する方法では、その合成画像の仕様(各視差画像の分割数や分割幅等)に応じた立体表示装置でしか正しく立体表示できない問題があり、画像データの汎用性に欠ける。
【0007】
この問題を回避し、多様な仕様の立体表示装置に対応するために、立体表示用の画像データとして、図12に示したような2つの画像データを送る方法がある。2つの画像データは、1枚のベース画像201とこのベース画像201の奥行き情報を示す奥行き画像(グレー画像)202とからなる。例えば多眼視用の多視点合成画像を生成する場合、立体表示装置側において、ベース画像201と奥行き画像202とから画像処理により、立体表示装置の仕様に合わせて画像処理により合成画像を生成する。しかしながら、この方式による多視点合成画像では、1枚のベース画像201に対してのみにしか奥行き情報が与えられていないため、ベース画像201に対して周り込んだ画像(オクルージョン)が見えない不具合が発生する問題がある。
【0008】
そこで以上の問題を回避するために、立体表示装置には、伝送手段を介して、または記録媒体を介して、合成前の複数の視差画像を供給し、立体表示装置側で、立体表示装置の仕様に合わせた適切な合成画像を生成して表示する方法が考えられる。しかしながら、この方法の場合、多眼視に対応するためには多数の視差画像を供給するために画像データのデータ量が大きくなり、伝送のデータレートが高くなってしまう。または、記録媒体に記録するデータサイズが大きくなってしまう問題がある。従ってこの方法を用いる場合、データを圧縮するなどして効率的に伝送する手法を開発する必要がある。
【0009】
特許文献1には、三次元動画データを、基準フレームデータとこの基準フレームデータに続く複数のフレームを圧縮して形成した圧縮データ群とに変換して圧縮するようにした三次元動画データ圧縮方法の発明が開示されている。この三次元動画データ圧縮方法では、三次元座標上の複数の頂点を結ぶことで構成される三次元形状データから構成された、複数のフレームからなる三次元動画データを扱っている。この三次元動画データのフレームデータは、三次元座標データ(いわゆるポリゴン座標データ)であり、圧縮には三次元形状データの頂点のデータを用いている。すなわち、ポリゴン座標データの特性を利用した方法が用いられている。しかしながらこの圧縮方法では、三次元動画データが三次元座標データを用いない通常の画像データ(画像のピクセルデータ)である場合には対応できず、汎用性がない。
【0010】
特許文献2には、フレーム間での動き補償を用いて動画データを圧縮する方法の発明が開示されている。しかしながら、特許文献2には、立体表示用の画像データの圧縮に関しては開示されていない。すなわち、1フレーム期間内に複数の視差画像が時間順次で含まれている立体画像の画像データに対して、どのような圧縮を行うのかまったく開示されていない。特に、複数の視差画像に対して1フレーム期間内でどのような圧縮を行うのか開示されていない。
【0011】
特許文献3には、立体表示用の左眼用画像と右眼用画像とをコンピュータ上でフレーム単位に連結した2画面連結映像に変換して圧縮し、立体再生時にはその2画面連結映像を2画面に分離出力するようにした映像システムの発明が開示されている。特許文献3には、単純に2つの画像を画面連結して圧縮する方法が開示されているが、このような方法では、多眼視用に視差画像が増えた場合には十分に対応できない。
【0012】
本発明はかかる問題点に鑑みてなされたもので、その目的は、複数の視差画像のデータを効率的に出力することができるようにした画像データ出力装置、および効率的に出力された複数の視差画像のデータに基づいて表示自由度の高い画像表示を行うことができるようにした画像表示システムを提供することにある。
【課題を解決するための手段】
【0013】
本発明による画像データ出力装置は、1フレーム期間内にn(nは2以上の整数)個の視差画像が時間順次で含まれる立体画像の画像データを圧縮して出力する画像圧縮部を備え、画像圧縮部が、立体画像の1フレーム期間内におけるn個の視差画像のうち、1つの特定の視差画像をベース画像としてそのままフレーム内圧縮すると共に、他の(n−1)個の各視差画像については、各視差画像とベース画像とした特定の視差画像との差分を取って差分画像とした後に各視差画像ごとにフレーム内圧縮するようにしたものである。
【0014】
本発明による画像表示システムは、本発明による上記画像データ出力装置と、表示装置とを備えたものである。表示装置は、画像を表示する表示部と、画像解凍部を含む信号処理部とを有し、信号処理部が、圧縮された画像データを画像解凍部において解凍すると共に、解凍された画像データに基づいて表示部で表示する表示画像を生成するようになされている。
【0015】
本発明による画像データ出力装置では、立体画像の1フレーム期間内におけるn個の視差画像のうち、1つの特定の視差画像がベース画像としてそのまま(フレーム間相関処理を用いることなく)フレーム内圧縮される。他の(n−1)個の各視差画像については、各視差画像とベース画像とした特定の視差画像との差分を取って差分画像とした後に各視差画像ごとにフレーム内圧縮される。n個の視差画像は立体画像の特性上、互いに相関が高い画像であるから、(n−1)個の各視差画像について、特定の視差画像との差分を取った後にフレーム内圧縮することで立体画像の特性上、データが効率的に圧縮される。
【0016】
本発明による画像表示システムでは、画像データ出力装置から出力された画像データが、表示装置の画像解凍部で解凍される。信号処理部は、解凍された画像データに基づいて表示部で表示する表示画像を生成する。この画像表示システムでは、画像データ出力装置からn個の視差画像をすべて表示装置に出力し、表示装置側で表示画像を生成する方式なので、表示装置の仕様に合わせた適切な表示画像が得られる。
【発明の効果】
【0017】
本発明の画像データ出力装置によれば、1つの特定の視差画像をベース画像としてフレーム内圧縮し、他の(n−1)個の各視差画像については、各視差画像とベース画像との差分を取った後に各視差画像ごとにフレーム内圧縮するようにしたので、立体画像の特性上、画像データを効率的に圧縮することができる。これにより、複数の視差画像のデータを効率的に出力することができる。
【0018】
本発明の画像表示システムによれば、画像データ出力装置において効率的に立体画像の画像データを圧縮してn個の視差画像をすべて出力し、表示装置側で画像データを解凍して表示画像を生成するようにしたので、表示装置の仕様に合わせた適切な表示画像を得ることができる。また、n個の視差画像はそれぞれについて、独立した圧縮がなされたものなので、必要な視差画像だけを解凍して表示画像として用いることも容易にできる。これにより、効率的に出力された複数の視差画像のデータに基づいて表示自由度の高い画像表示を行うことができる。
【図面の簡単な説明】
【0019】
【図1】本発明の第1の実施の形態に係る画像表示システムの構成例を示すブロック図である。
【図2】第1の実施の形態に係る画像表示システムにおける画像圧縮部の構成例を示すブロック図である。
【図3】画像圧縮部から出力されるデータ構造の一例を示す説明図である。
【図4】画像圧縮部における画像圧縮の概念を模式的に示す説明図である。
【図5】画像送信部から出力されるストリームデータの構成例を示す説明図である。
【図6】第1の実施の形態に係る画像表示システムにおける画像解凍部の構成例を示すブロック図である。
【図7】第1の実施の形態に係る立体表示装置において、複数の視差画像から多視点合成画像を生成する過程を示す説明図である。
【図8】立体表示部をパララックスバリア方式で構成した例を示す構成図である。
【図9】立体表示部をレンチキュラ方式で構成した例を示す構成図である。
【図10】第2の実施の形態に係る画像表示システムにおける画像圧縮部の構成例を示すブロック図である。
【図11】第4の実施の形態に係る画像表示システムにおける画像データ出力装置の構成例を示すブロック図である。
【図12】従来の多眼視用のデータの構成例を示す説明図である。
【発明を実施するための形態】
【0020】
以下、本発明の実施の形態について図面を参照して詳細に説明する。
【0021】
<第1の実施の形態>
[画像表示システムの全体構成]
図1は、本発明の第1の実施の形態に係る画像表示システムの構成例を示している。この画像表示システムは、画像データ出力装置4と、立体表示装置5と、伝送ライン23と、データストレージ24とを備えている。画像データ出力装置4は、1フレーム期間内にn個の視差画像が時間順次で含まれる立体画像の画像データを圧縮して出力するものである。伝送ライン23は、画像データ出力装置4から出力された画像データを立体表示装置5に伝送するものである。データストレージ24は、画像データ出力装置4から出力された画像データを記録再生可能な記録媒体であり、例えばHDD(Hard Disk Drive)や光ディスクである。立体表示装置5は、伝送ライン23またはデータストレージ24を介して、画像データ出力装置4から出力された画像データを解凍すると共に、解凍した画像データに基づいて立体表示用の表示画像を生成して立体表示を行うものである。
【0022】
なお、本発明の画像表示システムは、立体画像の画像データが、2眼式用の2つの視差画像(n=2)で構成されている場合にも適用できるが、本実施の形態では多眼視が可能な画像データ(n=3以上)である場合について説明する。特に一例として、n=4の場合、すなわち、立体画像の画像データが、1フレーム期間内に第1ないし第4の4つの視差画像が時間順次で含まれる多眼視用の画像データである場合について説明する。
【0023】
[画像データ出力装置の構成]
画像データ出力装置4は、撮影部6と、画像圧縮部21と、画像送信部22とを備えている。撮影部6は、n個のカメラ、本実施の形態では第1ないし第4のカメラ61,62,63,64を有している。撮影部6は、第1ないし第4のカメラ61,62,63,64によって、互いに異なる第1ないし第4の位置から同時に被写体を撮影することで、立体画像の画像データとして、互いに視差のある多眼視用の第1ないし第4の視差画像を生成するようになっている。撮影部6は、生成した第1ないし第4の視差画像を画像圧縮部21に出力する。画像圧縮部21は、入力された第1ないし第4の視差画像を順に並べて、所定の画像圧縮処理を行い、圧縮後の画像を順に並べてストリーム化して画像送信部22に出力するようになっている。画像送信部22は、圧縮された立体画像の画像データからなる映像ストリームに対し、送信に必要な処理(所定の通信プロトコルに従った処理等)をした後に、伝送ライン23またはデータストレージ24に出力する処理を行うようになっている。
【0024】
図2は画像圧縮部21の構成例を示している。図3は画像圧縮部21から出力されるデータ構造の一例を示している。図4は画像圧縮部21における画像圧縮処理の概念を模式的に示している。図5は画像送信部22から出力される映像ストリームの構造を模式的に示している。
【0025】
画像圧縮部21は、図2に示したように、フレームメモリ41と、差分器42と、ストリームエンコーダ43と、ヘッダ作成器44とを有している。画像圧縮部21は、立体画像の1フレーム期間内におけるn個の視差画像のうち、1つの特定の視差画像をベース画像としてそのままフレーム内圧縮するようになっている。また、他の(n−1)個の各視差画像については、各視差画像とベース画像とした特定の視差画像との差分を取って差分画像とした後に各視差画像ごとにフレーム内圧縮するようになっている(図4参照)。本実施の形態では、立体画像の1フレーム期間内における時間的に1番目の視差画像をベース画像として処理するようになっている。具体的には、撮影部6から1番目に送られてきた画像データ、すなわち、第1のカメラ61から送られてきた第1の視差画像をベース画像として処理する。このような圧縮処理を立体画像の1フレームごとに行って画像圧縮部21から画像送信部22に順次出力することで、図5に示したような映像ストリームが得られる。すなわち、ベース画像と、それに続く圧縮された差分画像とからなるデータが順次連続する映像ストリームが得られる。
【0026】
フレームメモリ41は、1フレーム分の画像データを格納するものであり、立体画像の1フレームごとに、ベース画像を格納するようになっている。差分器42は、フレームメモリ41に格納されたベース画像と他の(n−1)個の各視差画像との差分をストリームエンコーダ43に出力するものである。ストリームエンコーダ43は、1つのベース画像と(n−1)個の差分画像とのそれぞれに対して、個々に所定のコーデックで画像データの圧縮処理を行うようになっている。立体画像の1フレーム期間内における複数の視差画像は、視差による違いがあるが画像としては大体の部分は似ていて、画像間の相関が強い。このため、ベース画像と差分を取った後に圧縮することで、効率的に圧縮することができる。
【0027】
ストリームエンコーダ43は、フレーム間相関の無いコーデックを使用したフレーム内圧縮による圧縮処理を行うようになっている。フレーム間相関の無いビデオコーデックとしては、例えばJPEG2000コーデックを用いることができる。この場合、ストリームエンコーダ43は、JPEG2000エンコーダで構成される。JPEG2000コーデックでは、入力画像信号に色空間座標の変換を必要に応じて行い、その信号の各々の色ごとにウェーブレット変換(DWT)を行い、その係数を独立に符号化する。DWTには,可逆変換が可能な回路構成が比較的簡易な整数型フィルタと、可逆変換はできないが整数型より画質が良い実数型フィルタとがある。本実施の形態では、不可逆圧縮(ロッシー)モード、あるいは可逆圧縮(ロスレス)モードのどちらを使用してもよい。またJPEG2000コーデックでは、DWT変換係数をビットプレーンに分解し、各サブバンドで一定サイズ(例えば64×64)の符号化ブロックに分割した上で2値算術符号化を行う。各符号化ブロック内の変換係数値はサインビット(正:0,負:1)と絶対値情報とに分け、絶対値は自然2進法で表現し、上位ビットプレーンから順に符号化する。画像の各サブバンド内の全体が黒に近くなった場合には、全てゼロのビットプレーンが上位ビットプレーンから連続するため、符号化が効率化される。具体的には、サインビットプレーンを除いた上位プレーンから全てゼロのビットプレーンのプレーン数を符号化ヘッダに格納しておき、全てゼロのビットプレーンの符号化をスキップする。そのために、黒に近い画像は単位時間あたりに必要な記録再生のデータ量が減少する。本実施の形態では、このデータ量が減少する特質を利用している。
【0028】
ヘッダ作成器44は、ストリームエンコーダ43によって圧縮処理されたベース画像と差分画像とのそれぞれについて、ヘッダ情報を付加するものである。図3はヘッダ情報を付加した後のデータ構造の一例を示している。図3に示したように、画像圧縮部21から出力されるデータは、ヘッダ情報(Header)とそれに続く実データ部分(Camera DATA)とからなるデータ構造を有している。ヘッダ情報としては、少なくとも、ベース画像と差分画像とを判別可能な情報を付加する。図3の例では、ヘッダ情報は、カメラ画像番号nを認識させる「Header = 0xfffffffn」の情報と、ヘッダ情報に続く実データ部分の圧縮データのバイトサイズ「Length= xx 」[Byte]の情報とで構成されている。「Header = 0xfffffffn」は、撮影部6の第1ないし第4のカメラ61,62,63,64のうち、どのカメラから出力された画像データであるかを示している。例えば「Header = 0xfffffff1」であれば、第1のカメラ61から出力された視差画像データであることを示している。なお、上述したように、本実施の形態では第1のカメラ61から送られてきた第1の視差画像をベース画像として処理するようになっているので、「Header = 0xfffffffn」の情報からベース画像であるか否かを判別することができる。
【0029】
[立体表示装置の構成]
立体表示装置5は、画像受信部30と、信号処理部3と、立体表示部100とを備えている。信号処理部3は、画像解凍部31と、合成画像生成部32と、駆動処理部33とを有している。
本実施の形態において、立体表示装置4が、本発明における「表示装置」の一具体例に対応する。また、立体表示部5が、本発明における「表示部」の一具体例に対応する。
【0030】
立体表示部100は、複数の視差画像が含まれる立体視用の表示画像に基づいて立体表示が可能なものであり、例えばパララックスバリア方式やレンチキュラ方式の表示装置である。図8は、立体表示部100をパララックスバリア方式で構成した例を示している。立体表示部100は、2次元表示パネル2と、2次元表示パネル2の表示面側に対向するように配置されたパララックスバリア1とを備えている。
【0031】
2次元表示パネル2は、複数の画素が2次元的に配列されて2次元的に画像表示を行うものであり、例えば有機EL(Electro-Luminescence)ディスプレイや液晶ディスプレイで構成されている。2次元表示パネル2は、信号処理部3から出力された多視点合成画像の表示を行うようになっている。
【0032】
パララックスバリア1は、2次元表示パネル2に表示された多視点合成画像に含まれる各視差画像を、多眼視が可能となるように光学的に分離するためのものである。パララックスバリア1は、2次元表示パネル2からの表示画像光を遮蔽する遮蔽部11と、2次元表示パネル2からの表示画像光を透過するストライプ状のスリット部12とが水平方向に交互に設けられたものである。スリット部12の幅は、所定の位置、所定の方向から観察者が立体表示装置を見たときに、観察者の左右の眼10L,10Rに互いに異なる視差画像の光が別々に入射されるような、適切な大きさに設定されている。
【0033】
図9は、レンチキュラ方式で構成された立体表示部100Aを示している。立体表示部100Aは、図9のパララックスバリア1に代えてレンチキュラレンズ1Aを2次元表示パネル2の表示面側に対向配置したものである。レンチキュラレンズ1Aは、例えば垂直方向に延在し、水平方向にのみ屈折力を持つシリンドリカル状のレンズ(円筒レンズ)13を、水平方向に多数並列配置したものである。シリンドリカル状のレンズ13のレンズピッチは、多眼視で表示する視差数に応じて適切に設定されている。例えば4視差での多眼視を行う場合、1つのシリンドリカル状のレンズ13に対して視差の異なる4つの分割画像が対応するように設定されている。このように設定することで、2次元表示パネル2からの表示画像光を、各視差画像ごとに異なる方向に偏向して出射させる。
【0034】
画像受信部30は、画像データ出力装置4の画像送信部22から出力された映像ストリームを伝送ライン23またはデータストレージ24を介して受信して信号処理部3の画像解凍部31に出力するものである。
【0035】
信号処理部3は、映像ストリームの中から、立体表示部100での立体表示に必要とされる視差数分の視差画像を抽出して画像合成することで、立体表示部100での立体表示が可能となる立体視用の表示画像を生成するものである。
【0036】
画像解凍部31は、図6に示したように、ヘッダ解析器51と、ストリームデコーダ52と、フレームメモリ53と、加算器54とを有している。画像解凍部31は、映像ストリームを構成する圧縮処理された立体画像の画像データを解凍処理するものである。ヘッダ解析器51は、送られてきた画像データのヘッダ情報を解析してベース画像であるか否か等を解析するようになっている。ストリームデコーダ52は、画像圧縮部21のストリームエンコーダ43のコーデックに対応したコーデックによって画像データを解凍処理するものである。例えばストリームエンコーダ43がJPEG2000エンコーダで構成されていれば、ストリームデコーダ52はJPEG2000デコーダで構成されている。
【0037】
画像解凍部31は、立体画像の1フレーム期間内におけるn個の視差画像のうち、フレーム内圧縮されたベース画像をストリームデコーダ52によってそのまま解凍して特定の視差画像を復元して合成画像生成部32に出力するようになっている。また、復元されたベース画像をフレームメモリ53に格納するようになっている。画像解凍部31はまた、他の(n−1)個の各視差画像については、各視差画像ごとに、フレーム内圧縮された差分画像をストリームデコーダ52によって解凍するようになっている。その後、その解凍後の差分画像に、フレームメモリ53に格納された復元されたベース画像を加算器54によって加算することにより(n−1)個の各視差画像の復元して合成画像生成部32に出力するようになっている。
【0038】
合成画像生成部32は、画像解凍部31から出力された多眼視用の各視差画像に基づいて多視点合成画像を生成するものである。駆動処理部33は、合成画像生成部32から出力された多視点合成画像に基づいて、立体表示部100の2次元表示パネル2の駆動信号を生成して2次元表示パネル2に多視点合成画像を表示させるものである。
【0039】
図7は、合成画像生成部32において多視点合成画像が生成されるまでの過程を模式的に示している。合成画像生成部32は、多眼視用の各視差画像から、垂直方向に延在する複数のストライプ状の分割画像を切り出す処理を行い、各分割画像を、各視差画像ごとに水平方向に交互に配列して多視点合成画像を生成する。図5では、第1ないし第4の4つの視差画像を用いた例を示している。合成画像生成部32には、図7上段に示したような第1ないし第4の視差画像が入力される。合成画像生成部32では、図7中段に示したように、第1ないし第4の視差画像からそれぞれストライプ状の分割画像を切り出す。次に、分割画像を、各視差画像ごとに水平方向に交互に配列して、図7下段に示したような多視点合成画像を生成する。結果的に、多視点合成画像は、第1ないし第4の視差画像からそれぞれ切り出されたストライプ状の分割画像が、第1、第2、第3および第4の視差画像の順に水平方向に交互に循環的に配列された合成画像となる。
【0040】
図7に示した多視点合成画像を2次元表示パネル2に表示してパララックスバリア1またはレンチキュラレンズ1Aを介して観察することで、多眼式の立体表示を行うことができる。例えばパララックスバリア1を介して観察することで、ある特定の視点位置から見たときに、左眼10Lと右眼10Rとにある特定の視差画像のみが見える状況となることで立体像が知覚される。例えばある特定の第1の視点位置から見たときには、左眼10Lには第3の視差画像からの光のみが認識され、右眼10Rには第2の視差画像からの光のみが認識される状況となることで、第3の視差画像と第2の視差画像とに基づく立体像が知覚される。また別の第2の視点位置から見たときには例えば、左眼10Lには第1の視差画像からの光のみが認識され、右眼10Rには第4の視差画像からの光のみが認識される状況となることで、第1の視差画像と第4の視差画像とに基づく立体像が知覚される。このように異なる視点位置から見たときに異なる視差画像が見えることによって運動視差が得られる。
【0041】
[画像表示システムの動作]
この画像表示システムにおける画像処理の全体の流れを以下に記す。
(A1) 撮影部6において、第1ないし第4のカメラ61,62,63,64によって、互いに異なる第1ないし第4の位置から同期を取って同時に被写体を撮影することで、互いに視差のある多眼視用の第1ないし第4の視差画像を、1フレーム分作成する。第1ないし第4の視差画像を、立体画像の1フレーム分の画像データとする。
(A2) 処理(A1)を繰り返し、立体画像の連続フレームを得る。
(A3) 得られた連続フレームを、画像圧縮部21で所定のコーデックに従って圧縮する。画像圧縮部21は、圧縮後の画像を順に並べてストリーム化して画像送信部22に出力する。
(A4) 圧縮された立体画像の画像データからなる映像ストリームデータを、画像送信部22で送信に必要な処理をした後に、伝送ライン23またはデータストレージ24に出力する。
(A5) 画像送信部22から出力された映像ストリームデータを、伝送ライン23またはデータストレージ24を介して立体表示装置5の画像受信部3で受信する。画像受信部3は受信した映像ストリームデータを画像解凍部31に出力する。
(A6) 圧縮された映像ストリームデータを、画像解凍部31で所定のコーデックに従って解凍し、復元された映像ストリームデータを得る。
(A7) 復元された映像ストリームデータから立体画像としての1フレーム分のデータ(第1ないし第4の視差画像)を取り出し、合成画像生成部32によって、多眼視用の多視点合成画像(図7参照)を生成する。
(A8) 生成された多視点合成画像に基づいて、駆動処理部33によって、立体表示部100の2次元表示パネル2の駆動信号を生成して2次元表示パネル2に多視点合成画像を表示する。
【0042】
[画像圧縮部21の動作]
画像圧縮部21(図6)における画像処理の流れを以下に記す。
(B1) 撮影部6の第1のカメラ61によって撮影されたカメラ画像1のデータ(第1の視差画像)は、フレームメモリ41に送られて、ベース画像として蓄積される。
(B2) また同時に、カメラ画像1のデータは、ストリームエンコーダ43に送られる。ストリームエンコーダ43に送られたカメラ画像1のデータは、所定のビデオコーデック(JPEG2000等)に従い、フレーム内圧縮される。
(B3) 圧縮されたカメラ画像1のデータは次段の画像送信部22に送られる。
(B4) 次に、撮影部6の第2のカメラ62によって撮影されたカメラ画像2のデータ(第2の視差画像)とフレームメモリ41内のベース画像(カメラ画像1のデータ)とのフレームのピクセルごとの差分を計算し、その差分画像のデータをストリームエンコーダ43に出力する。
(B5) ストリームエンコーダ43に送られたカメラ画像2に関する差分画像のデータは、所定のビデオコーデック(JPEG2000等)に従い、フレーム内圧縮される。
(B6) 圧縮されたカメラ画像2に関する差分画像のデータは次段の画像送信部22に送られる。
(B7) 第3のカメラ63によって撮影されたカメラ画像3のデータ(第3の視差画像)と、第4のカメラ64によって撮影されたカメラ画像4のデータ(第4の視差画像)とに対しても、処理(B4)ないし処理(B6)と同様の処理を行う。
(B8) 処理(B4)および処理(B6)において、圧縮されたカメラ画像を次段の画像送信部22に送る場合に、圧縮された各カメラ画像のデータに先行して、ヘッダ作成器44からヘッダ情報を送る。ヘッダ情報としては、カメラ画像番号nを認識させる「Header = 0xfffffffn」の情報と、ヘッダ情報に続く実データ部分の圧縮データのバイトサイズ「Length= xx 」[Byte]の情報とを付加する(図3参照)。
(B9) その後、処理(B1)ないし処理(B8)を繰り返し、次々に立体画像の各フレームデータを処理することで、図5のような映像ストリームデータを出力する。
【0043】
[画像解凍部31の動作]
画像解凍部31(図10)における画像処理の流れを以下に記す。
(C1) 画像受信部30から出力され、画像解凍部31に入力されたヘッダ情報をヘッダ解析器51で解析する。ヘッダ情報を構成する、「Header = 0xfffffffn」の情報と「Length= xx 」の情報から、カメラ画像番号nとその画像番号に対応する圧縮されたカメラ画像の実データのバイトサイズの情報を得る。
(C2) カメラ画像番号nで、n=1であることを確認する。これにより、そのヘッダ情報に続く実データの部分が、画像差分を取っていない、ベース画像であることを確認する。
(C3) ヘッダ情報に続く実データの部分、すなわち、処理(C1)で得られた「Length= xx 」[Byte]分のデータを、ストリームデコーダ52でデコードし、圧縮されていたカメラ画像1のデータの解凍データを得る。
(C4) 解凍されたカメラ画像1のデータを次段の合成画像生成部32に出力する。
(C5) また同時に、解凍されたカメラ画像1のデータをフレームメモリ53にも出力する。
(C6) 画像解凍部31に入力された、次のヘッダ情報をヘッダ解析器51で解析する。ヘッダ情報を構成する、「Header = 0xfffffffn」の情報と「Length= xx 」の情報から、カメラ画像番号nとその画像番号に対応する圧縮されたカメラ画像の実データのバイトサイズの情報を得る。
(C7) カメラ画像番号nで、n=2であることを確認する。これにより、そのヘッダ情報に続く実データの部分が、画像差分を取っている差分画像であることを確認する。
(C8) ヘッダ情報に続く実データの部分、すなわち、処理(C6)で得られた「Length= xx 」[Byte]分のデータを、ストリームデコーダ52でデコードし、圧縮されていたカメラ画像2に関する差分画像のデータの解凍データを得る。
(C9) 解凍されたカメラ画像2に関する差分画像のデータとフレームメモリ53に蓄積されているベース画像との、各々のピクセル値を加算することで、カメラ画像2のデータを復元し、を次段の合成画像生成部32に出力する。
(C10) ヘッダ情報がカメラ画像番号3、およびカメラ画像番号4となるデータに対しても、処理(C6)から処理(C9)と同様の処理を行う。
(C11) その後、処理(C1)ないし処理(C10)を繰り返し、次々に立体画像の各フレームデータを処理する。
【0044】
[第1の実施の形態による効果]
本実施の形態に係る画像データ出力装置4によれば、1つの特定の視差画像をベース画像としてフレーム内圧縮し、他の(n−1)個の各視差画像については、各視差画像とベース画像との差分を取った後に各視差画像ごとにフレーム内圧縮して出力するようにしたので、立体画像の特性上、画像データを効率的に圧縮することができる。これにより、複数の視差画像のデータを効率的に出力することができる。これにより、画像データ出力装置4からは立体画像の表示に必要とされるn個の視差画像を全て送っているにも関わらず、伝送ライン23に伝送するときのデータレートを抑えることができる。また、データストレージ24に記録するデータサイズを抑えることができる。
【0045】
また、本実施の形態に係る画像表示システムによれば、画像データ出力装置4において効率的に立体画像の画像データを圧縮してn個の視差画像をすべて出力し、立体表示装置5側で画像データを解凍して表示画像を生成するようにしたので、立体表示装置5の仕様に合わせた適切な表示画像を得ることができる。n個の視差画像はそれぞれについて、独立した圧縮がなされたものなので、必要な視差画像だけを解凍して表示画像として用いることも容易にできる。これにより、効率的に出力された複数の視差画像のデータに基づいて表示自由度の高い画像表示を行うことができる。
【0046】
また、画像データ出力装置4からは、立体画像の表示に必要とされるn個の視差画像を全て送るようにしたので、立体表示装置5側で立体表示したときに、図12に示したような画像データを送る方式に比べて、周り込んだ画像(オクルージョン)が見えない不具合が発生するのを抑えることができる。
【0047】
<第2の実施の形態>
次に、本発明の第2の実施の形態に係る立体表示装置について説明する。なお、上記第1の実施の形態に係る立体表示装置と実質的に同一の構成部分には同一の符号を付し、適宜説明を省略する。
【0048】
本実施の形態における画像表示システムの全体構成は、図1と同じであるが、図2の構成の画像圧縮部21に代えて、図10に示した構成の画像圧縮部21Aを備えている。画像圧縮部21Aは、ストリームデコーダ45を有している。ストリームデコーダ45は、立体表示装置5の画像解凍部31におけるストリームデコーダ52と同様のコーデックによって画像データを解凍処理するものである。
【0049】
図2の構成の画像圧縮部21では、第1のカメラ61から送られてきた第1の視差画像をベース画像としてそのままフレームメモリ41に格納するようにしている。これに対し、図10の画像圧縮部21Aでは、ストリームエンコーダ43によってフレーム内圧縮されたベース画像を、ストリームデコーダ45でそのまま解凍して第1の視差画像を復元し、その復元された第1の視差画像をフレームメモリ41に格納する。そして、フレームメモリ41に格納されたベース画像(復元された第1の視差画像)と他の(n−1)個の各視差画像との差分をストリームエンコーダ43に出力して圧縮処理する。
【0050】
本実施の形態によれば、ストリームデコーダ45によって、画像解凍部31におけるストリームデコーダ52と同様のコーデックによって解凍処理した後のベース画像がフレームメモリ41に格納される。従って、フレームメモリ41に格納されるベース画像と、画像解凍部31におけるフレームメモリ53(図6)に格納されるベース画像とを実質的に一致させることができる。これにより、画像圧縮部21Aと画像解凍部31とにおける差分処理の誤差を少なくすることができる。
【0051】
<第3の実施の形態>
次に、本発明の第3の実施の形態に係る立体表示装置について説明する。なお、上記第1または第2の実施の形態に係る立体表示装置と実質的に同一の構成部分には同一の符号を付し、適宜説明を省略する。
【0052】
上記第1の実施の形態では、立体表示装置5が多眼視での立体表示機能を有するものとして説明したが、本発明は、立体表示装置5が2眼式の機能を有するものである場合にも適用可能である。この場合、立体表示装置5側では、立体画像の画像データにn=3以上の視差画像が含まれていた場合には、信号処理部3において任意の2つの視差画像を抽出して、それら抽出された2つの視差画像に基づいて2眼式立体視用の表示画像を生成すれば良い。または、ベース画像と、ベース画像の次に圧縮処理された視差画像とを抽出し、それら抽出された2つの視差画像に基づいて2眼式立体視用の表示画像を生成するようにしても良い。
【0053】
また本発明は、立体表示装置5が、立体表示と2次元表示との切り換え機能を有する場合にも適用可能である。さらに、立体表示装置5に代えて、立体表示機能のない2次元表示専用の表示装置にも適用可能である。この場合、表示装置側では、信号処理部3において任意の1つの視差画像を抽出して、2次元表示用の表示画像を生成すれば良い。または、ベース画像を抽出して、2次元表示用の表示画像を生成すれば良い。
【0054】
また、2眼式の立体表示装置または2次元表示専用の表示装置での画像表示に対応させやすくするために、撮影部6の第1ないし第4のカメラ61,62,63,64からの画像データに対する画像処理の優先順位を変えるようにしても良い。すなわち、上記第1の実施の形態では、第1のカメラ61から出力されたカメラ画像を第1の視差画像(ベース画像)として最初に圧縮処理し、次に、第2ないし第4のカメラ62,63,64を第2ないし第4の視差画像として順次圧縮処理するようにした。これは、カメラの並び順に処理するようにしたものである。
【0055】
これに代えて、画像圧縮部21において、例えば撮影位置に応じて各視差画像の圧縮処理の順番を決定するようにしても良い。例えば中央の撮影位置(例えば第2のカメラ62)から撮影することによって得られたカメラ画像をベース画像として最初に圧縮処理する。次に、中央の撮影位置に対して2眼式の立体表示を行うのに最も適した視差となる撮影位置(例えば第3のカメラ63)から撮影することによって得られたカメラ画像を、ベース画像との差分を取る1番目の視差画像として圧縮処理する。以降、他の撮影位置から撮影することによって得られたカメラ画像を順次処理する。例えば第1のカメラ61による画像を処理し、次に第4のカメラ64による画像を処理する。
【0056】
このように、単純にカメラの並び順に処理するのではなく、2眼式の立体表示に適した画像を優先的に処理することで、例えば2眼式の立体表示装置において、ベース画像と、ベース画像の次に圧縮処理された視差画像とを抽出することで、2眼式の立体表示に適した表示画像を容易に生成することができる。
【0057】
<第4の実施の形態>
次に、本発明の第4の実施の形態に係る立体表示装置について説明する。なお、上記第1ないし第3の実施の形態に係る立体表示装置と実質的に同一の構成部分には同一の符号を付し、適宜説明を省略する。
【0058】
図11は、本発明の第4の実施の形態に係る画像表示システムにおける画像データ出力装置4Aの構成例を示している。図1に示した画像データ出力装置4では、撮影部6が、4台のカメラ61,62,63,64を有し、それらから直接、4つの視差画像を生成するようにした。これに対し、図11の画像データ出力装置4Aでは、撮影部6Aが2台のカメラ61,64のみで構成されている。また、画像データ出力装置4Aは、視差画像生成部25を備えている。視差画像生成部25は、撮影部6Aから出力された複数の視差画像に基づいて少なくとも1つの他の視差画像を画像処理(画像補間処理)により生成するものである。図11の例では、視差画像生成部25は、撮影部6Aから出力されたカメラ画像1とカメラ画像4とのデータから、2つの視差画像を生成している。
【0059】
例えば撮影部6Aから出力されたカメラ画像1のデータを第1の視差画像、カメラ画像4のデータを第4の視差画像とし、視差画像生成部25で生成した2つの視差画像を第2および第3の視差画像として、画像圧縮部21に入力する。画像圧縮部21以降の処理は上記第1の実施の形態と同様である。
【0060】
なお、撮影部6Aを3台のカメラで構成し、視差画像生成部25では1つの視差画像のみを生成するような構成であっても良い。
【0061】
本実施の形態によれば、一部の視差画像を画像処理によって生成するようにしたので、多眼視に必要な視差数分の台数のカメラを用意する必要が無くなり、カメラの台数を少なくすることができる。これにより、システムの構成を簡素化できる。
【0062】
<その他の実施の形態>
本発明は、上記各実施の形態に限定されず種々の変形実施が可能である。
例えば図3には、ヘッダ情報として、カメラ画像番号nを認識させる「Header = 0xfffffffn」の情報と、ヘッダ情報に続く実データ部分の圧縮データのバイトサイズ「Length= xx 」[Byte]の情報とを付加する例を示したが、その他のヘッダ情報を付加するようにしても良い。例えば、カメラの視差情報、カメラの並び順番号等の関連情報を追加しても良い。これにより、表示装置側での信号処理が容易になる。
【符号の説明】
【0063】
1…パララックスバリア、1A…レンチキュラレンズ、2…2次元表示パネル、3…信号処理部、4,4A…画像データ出力装置、5…立体表示装置、6,6A…撮影部、10L…左眼、10R…右眼、11…遮蔽部、12…スリット部、13…シリンドリカルレンズ、21,21A…画像圧縮部、22…画像送信部、23…伝送ライン、24…データストレージ、25…視差画像生成部、30…画像受信部、31…画像解凍部、32…合成画像生成部、33…駆動処理部、41…フレームメモリ、42…差分器、43…ストリームエンコーダ、44…ヘッダ作成器、45…ストリームデコーダ、51…ヘッダ解析器、52…ストリームデコーダ、53…フレームメモリ、54…加算器、61,62,63,64…カメラ、100,100A…立体表示部。
【特許請求の範囲】
【請求項1】
画像圧縮部を有し、1フレーム期間内にn(nは2以上の整数)個の視差画像が時間順次で含まれる立体画像の画像データを、前記画像圧縮部で圧縮して出力する画像データ出力装置と、
画像を表示する表示部と、画像解凍部を含む信号処理部とを有し、前記信号処理部が前記圧縮された画像データを前記画像解凍部において解凍すると共に、解凍された画像データに基づいて前記表示部で表示する表示画像を生成するようになされた表示装置と
を備え、
前記画像圧縮部は、
前記立体画像の1フレーム期間内における前記n個の視差画像のうち、1つの特定の視差画像をベース画像としてそのままフレーム内圧縮すると共に、他の(n−1)個の各視差画像については、前記各視差画像と前記ベース画像とした前記特定の視差画像との差分を取って差分画像とした後に前記各視差画像ごとにフレーム内圧縮する
ようになされている画像表示システム。
【請求項2】
前記画像解凍部は、前記フレーム内圧縮されたベース画像をそのまま解凍して前記特定の視差画像を復元すると共に、前記他の(n−1)個の各視差画像については、前記各視差画像ごとに、前記フレーム内圧縮された差分画像を解凍した後、その解凍後の差分画像に前記復元された特定の視差画像を加算することにより復元を行う
ようになされている請求項1に記載の画像表示システム。
【請求項3】
前記画像圧縮部は、前記特定の視差画像をベース画像としてそのままフレーム内圧縮するエンコーダと、前記フレーム内圧縮されたベース画像をそのまま解凍して前記特定の視差画像を復元するデコーダと、復元された前記特定の視差画像を格納するフレームメモリとを含み、
前記他の(n−1)個の各視差画像については、前記各視差画像と前記フレームメモリに格納された前記特定の視差画像との差分を取って差分画像とした後に前記各視差画像ごとにフレーム内圧縮する
ようになされている請求項1に記載の画像表示システム。
【請求項4】
前記画像データ出力装置において圧縮処理される前記立体画像の画像データは、1フレーム期間内に3つ以上の視差画像が時間順次で含まれる多眼視用の画像データである
請求項1ないし3のいずれか1項に記載の画像表示システム。
【請求項5】
前記表示部は、複数の視差画像が含まれる立体視用の表示画像に基づいて立体表示が可能なものであり、
前記信号処理部は、
圧縮処理された前記立体画像の画像データの中から、前記表示部での立体表示に必要とされる視差数分の視差画像を抽出して画像合成することで、前記表示部での立体表示が可能となる立体視用の表示画像を生成する
ようになされている請求項4に記載の画像表示システム。
【請求項6】
前記表示部は、2つの視差画像が含まれる2眼式立体視用の表示画像に基づいて立体表示が可能なものであり、
前記画像データ出力装置は、互いに異なる3つ以上の位置から同時に被写体を撮影することで、前記立体画像の画像データとして、互いに視差のある多眼視用の3つ以上の視差画像を出力する撮影部をさらに有し、
前記画像圧縮部は、撮影位置に応じて各視差画像の圧縮処理の順番を決定し、中央の撮影位置から撮影することによって得られた特定の視差画像を前記ベース画像として最初に圧縮処理すると共に、次に、前記中央の撮影位置に対して2眼式の立体表示を行うのに最も適した視差となる撮影位置から撮影することによって得られた視差画像を、前記ベース画像との差分を取る1番目の視差画像として圧縮処理するようになされ、
前記信号処理部は、圧縮処理された前記立体画像の画像データの中から、前記ベース画像である特定の視差画像と、前記ベース画像の次に圧縮処理された視差画像とを抽出し、それら抽出された2つの視差画像に基づいて前記2眼式立体視用の表示画像を生成する
ようになされている請求項4に記載の画像表示システム。
【請求項7】
前記表示部は、2次元的な画像表示が可能なものであり、
前記信号処理部は、
圧縮処理された前記立体画像の画像データの中から、前記ベース画像のみを抽出して前記表示部での表示画像とする
ようになされている請求項4に記載の画像表示システム。
【請求項8】
前記画像データ出力装置は、
互いに異なる位置から同時に被写体を撮影することで、互いに視差のある複数の視差画像を出力する撮影部と、
前記撮影部から出力された複数の視差画像に基づいて少なくとも1つの他の視差画像を生成する視差画像生成部とをさらに有し、
前記画像圧縮部で圧縮処理される前記立体画像の画像データは、前記撮影部から出力された複数の視差画像と前記視差画像生成部で生成された他の視差画像とを1フレーム期間内に時間順次で含めた多眼視用の画像データである
ようになされている請求項4に記載の画像表示システム。
【請求項9】
前記画像圧縮部は、前記ベース画像と前記差分画像とのそれぞれについて、前記フレーム内圧縮後にヘッダ情報を付加するヘッダ作成器を含む、
ようになされている請求項1ないし3のいずれか1項に記載の画像表示システム。
【請求項10】
前記ヘッダ作成器は、前記ヘッダ情報として、少なくとも、前記ベース画像と前記差分画像とを判別可能な情報を付加する
ようになされている請求項9に記載の画像表示システム。
【請求項11】
1フレーム期間内にn(nは2以上の整数)個の視差画像が時間順次で含まれる立体画像の画像データを圧縮して出力する画像圧縮部を備え、
前記画像圧縮部は、
前記立体画像の1フレーム期間内における前記n個の視差画像のうち、1つの特定の視差画像をベース画像としてそのままフレーム内圧縮すると共に、他の(n−1)個の各視差画像については、前記各視差画像と前記ベース画像とした前記特定の視差画像との差分を取って差分画像とした後に前記各視差画像ごとにフレーム内圧縮する
ようになされている画像データ出力装置。
【請求項1】
画像圧縮部を有し、1フレーム期間内にn(nは2以上の整数)個の視差画像が時間順次で含まれる立体画像の画像データを、前記画像圧縮部で圧縮して出力する画像データ出力装置と、
画像を表示する表示部と、画像解凍部を含む信号処理部とを有し、前記信号処理部が前記圧縮された画像データを前記画像解凍部において解凍すると共に、解凍された画像データに基づいて前記表示部で表示する表示画像を生成するようになされた表示装置と
を備え、
前記画像圧縮部は、
前記立体画像の1フレーム期間内における前記n個の視差画像のうち、1つの特定の視差画像をベース画像としてそのままフレーム内圧縮すると共に、他の(n−1)個の各視差画像については、前記各視差画像と前記ベース画像とした前記特定の視差画像との差分を取って差分画像とした後に前記各視差画像ごとにフレーム内圧縮する
ようになされている画像表示システム。
【請求項2】
前記画像解凍部は、前記フレーム内圧縮されたベース画像をそのまま解凍して前記特定の視差画像を復元すると共に、前記他の(n−1)個の各視差画像については、前記各視差画像ごとに、前記フレーム内圧縮された差分画像を解凍した後、その解凍後の差分画像に前記復元された特定の視差画像を加算することにより復元を行う
ようになされている請求項1に記載の画像表示システム。
【請求項3】
前記画像圧縮部は、前記特定の視差画像をベース画像としてそのままフレーム内圧縮するエンコーダと、前記フレーム内圧縮されたベース画像をそのまま解凍して前記特定の視差画像を復元するデコーダと、復元された前記特定の視差画像を格納するフレームメモリとを含み、
前記他の(n−1)個の各視差画像については、前記各視差画像と前記フレームメモリに格納された前記特定の視差画像との差分を取って差分画像とした後に前記各視差画像ごとにフレーム内圧縮する
ようになされている請求項1に記載の画像表示システム。
【請求項4】
前記画像データ出力装置において圧縮処理される前記立体画像の画像データは、1フレーム期間内に3つ以上の視差画像が時間順次で含まれる多眼視用の画像データである
請求項1ないし3のいずれか1項に記載の画像表示システム。
【請求項5】
前記表示部は、複数の視差画像が含まれる立体視用の表示画像に基づいて立体表示が可能なものであり、
前記信号処理部は、
圧縮処理された前記立体画像の画像データの中から、前記表示部での立体表示に必要とされる視差数分の視差画像を抽出して画像合成することで、前記表示部での立体表示が可能となる立体視用の表示画像を生成する
ようになされている請求項4に記載の画像表示システム。
【請求項6】
前記表示部は、2つの視差画像が含まれる2眼式立体視用の表示画像に基づいて立体表示が可能なものであり、
前記画像データ出力装置は、互いに異なる3つ以上の位置から同時に被写体を撮影することで、前記立体画像の画像データとして、互いに視差のある多眼視用の3つ以上の視差画像を出力する撮影部をさらに有し、
前記画像圧縮部は、撮影位置に応じて各視差画像の圧縮処理の順番を決定し、中央の撮影位置から撮影することによって得られた特定の視差画像を前記ベース画像として最初に圧縮処理すると共に、次に、前記中央の撮影位置に対して2眼式の立体表示を行うのに最も適した視差となる撮影位置から撮影することによって得られた視差画像を、前記ベース画像との差分を取る1番目の視差画像として圧縮処理するようになされ、
前記信号処理部は、圧縮処理された前記立体画像の画像データの中から、前記ベース画像である特定の視差画像と、前記ベース画像の次に圧縮処理された視差画像とを抽出し、それら抽出された2つの視差画像に基づいて前記2眼式立体視用の表示画像を生成する
ようになされている請求項4に記載の画像表示システム。
【請求項7】
前記表示部は、2次元的な画像表示が可能なものであり、
前記信号処理部は、
圧縮処理された前記立体画像の画像データの中から、前記ベース画像のみを抽出して前記表示部での表示画像とする
ようになされている請求項4に記載の画像表示システム。
【請求項8】
前記画像データ出力装置は、
互いに異なる位置から同時に被写体を撮影することで、互いに視差のある複数の視差画像を出力する撮影部と、
前記撮影部から出力された複数の視差画像に基づいて少なくとも1つの他の視差画像を生成する視差画像生成部とをさらに有し、
前記画像圧縮部で圧縮処理される前記立体画像の画像データは、前記撮影部から出力された複数の視差画像と前記視差画像生成部で生成された他の視差画像とを1フレーム期間内に時間順次で含めた多眼視用の画像データである
ようになされている請求項4に記載の画像表示システム。
【請求項9】
前記画像圧縮部は、前記ベース画像と前記差分画像とのそれぞれについて、前記フレーム内圧縮後にヘッダ情報を付加するヘッダ作成器を含む、
ようになされている請求項1ないし3のいずれか1項に記載の画像表示システム。
【請求項10】
前記ヘッダ作成器は、前記ヘッダ情報として、少なくとも、前記ベース画像と前記差分画像とを判別可能な情報を付加する
ようになされている請求項9に記載の画像表示システム。
【請求項11】
1フレーム期間内にn(nは2以上の整数)個の視差画像が時間順次で含まれる立体画像の画像データを圧縮して出力する画像圧縮部を備え、
前記画像圧縮部は、
前記立体画像の1フレーム期間内における前記n個の視差画像のうち、1つの特定の視差画像をベース画像としてそのままフレーム内圧縮すると共に、他の(n−1)個の各視差画像については、前記各視差画像と前記ベース画像とした前記特定の視差画像との差分を取って差分画像とした後に前記各視差画像ごとにフレーム内圧縮する
ようになされている画像データ出力装置。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【公開番号】特開2010−283512(P2010−283512A)
【公開日】平成22年12月16日(2010.12.16)
【国際特許分類】
【出願番号】特願2009−134124(P2009−134124)
【出願日】平成21年6月3日(2009.6.3)
【出願人】(000002185)ソニー株式会社 (34,172)
【Fターム(参考)】
【公開日】平成22年12月16日(2010.12.16)
【国際特許分類】
【出願日】平成21年6月3日(2009.6.3)
【出願人】(000002185)ソニー株式会社 (34,172)
【Fターム(参考)】
[ Back to top ]