説明

立体画像補正装置およびそのプログラム、ならびに、立体画像表示装置

【課題】立体画像撮影装置のレンズ群と立体画像表示装置のレンズ群との間に相対的な位置ずれがある場合に、演算処理を用いて立体画像撮影装置で取得された立体情報を、立体画像として表示されたときに相対的な位置ずれが補正された再生像となる画像情報へと変換可能な技術を提供する。
【解決手段】立体画像補正装置10は、第1要素光学レンズ群の配置情報を取得し、この配置情報に従って第1要素画像群を要素画像毎に分配し、分配された要素画像の光波を第1の仮想的な開口群を通過した光波に変換し、この要素画像の光波を分配された数だけ加算し、さらに、第2要素光学レンズ群の配置情報を取得し、加算された要素画像の光波を、この配置情報に従って要素画像毎に再分配し、再分配された要素画像の光波を第2の仮想的な開口群を通過した光波に変換し、この要素画像の光波を再分配された数だけ結合することで第2要素画像群を生成する。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、立体像を表示するための画像を生成する技術及び立体像を表示する技術に係り、特に、IP(Integral Photography;インテグラルフォトグラフィ)方式の立体像を表示するための画像を生成する立体画像補正装置およびそのプログラム、ならびに、立体像を表示するための立体画像表示装置に関する。
【背景技術】
【0002】
一般に、レンズアレイや空間フィルタを通して被写体の三次元情報を取得する手法のうち、微小な光学素子アレイを用いて立体画像を撮像および表示する手法として、IP方式が知られている。
【0003】
ここで、図8(a)および図8(b)を用いてIP方式に基づく通常の立体画像撮影について説明する。図8(a)に示す立体画像撮影装置は、矢印で示す撮影方向114から、例えば、凸レンズで構成されたレンズ群112を通して被写体111を撮影する。ここで撮影方向114は、立体画像撮影装置がレンズ群112の前方(図8(a)では左方)に配置された被写体111を撮影する方向である。このときレンズ群112の後方(図8(a)では右方)の撮影板113には、レンズ群112を構成する凸レンズの個数と同じ個数だけ被写体111の像、例えば、像115が結像する。ここで、撮影板113は、基板上に配設された複数の撮像素子を備えて構成された情報取得デバイスである。各撮像素子は、例えば、CCD(Charge Coupled Device)撮像素子である。
【0004】
図8(b)には、一平面状に凸レンズを配列したレンズ群122と表示素子123により構成される立体画像表示装置、および立体像121、観察方向124、レンズ群の像125を示している。ここで、表示素子123には、図8(a)に示した立体画像撮影装置の撮影板113により撮影された像115に対応する像125を表示する。この表示素子123は、例えば液晶パネル等の情報表示デバイスから構成されている。立体画像表示装置から表示させた結果、図8(b)に示すように、被写体111が存在した場所と同じ場所に立体像121が生成される。ただし、立体像121は逆視像として生成される。すなわち、図8(a)に示すように、撮影方向114から見た場合には、被写体111の円柱が角柱に対して手前に存在している。ところが、図8(b)に示すように、被写体111に対応する立体像121では、観察方向124から見て、角柱が円柱の手前に生成されている。
【0005】
なお、図8(a)、図8(b)には微小な光学素子アレイとしてレンズ群を表示し、このレンズ群を用いて被写体の立体情報の取得および表示を行うものとして動作を説明したが、微小な光学素子アレイとしては微小開口アレイ(空間フィルタ)を使用しても良い。
【0006】
図8(a)において、被写体111の角柱の大きさ(高さ)をxc、レンズ群112から被写体111の角柱までの距離をzc、レンズ群112から像115が撮影される面までの距離をdc、レンズ群112を構成する凸レンズピッチをpc、レンズ群112を構成する凸レンズにより生成される被写体の像の大きさ(高さ)をkcとする。また、図8(b)において、立体像121の角柱の大きさ(高さ)をxr、レンズ群122から立体像121の角柱までの距離をzr、レンズ群122から像125が表示される面までの距離をd、レンズ群122を構成する凸レンズピッチをpr、表示素子123に表示される個々の像の大きさ(高さ)をkrとする。この場合、xcとxrの関係は、非特許文献1により式(101)で表される。
【0007】
【数1】

【0008】
前記した式(102a)〜式(102c)の関係から、図8(a)に示した立体画像撮影装置のレンズ群112を構成する凸レンズのピッチpcと、図8(b)に示した立体画像表示装置のレンズ群122を構成する凸レンズのピッチprとを異なるものとすることで、被写体111に対する立体像121の大きさの比率xr/xcを制御できることが導かれる。また、同様に、撮影された被写体の像115の大きさkcと、表示する像125の大きさkrとを変化させることで、被写体111に対する立体像121の大きさの比率xr/xを制御できることが導かれる。
【0009】
また、従来、被写体と比較して奥行きが反転した逆視像が生成される問題を解決するために、図8(a)に示した立体画像撮影装置で取得した情報を演算処理し、演算処理した後の情報を図8(b)に示す立体画像表示装置に入力し、最終的に正しい奥行きの立体像を生成する立体画像奥行き変換装置が開示されている(特許文献1参照)。
【0010】
特許文献1で開示されている立体画像奥行き変換装置について図9(a)および図9(b)を参照して説明する。図9(a)に示すのは、図8(a)で取得した像131、第1の仮想的なレンズアレイ132、仮想的に生成される立体像133、第2の仮想的なレンズアレイ134、第2の仮想的なレンズアレイ134により生成される像135(仮想的に生成された立体像133の像)である。ここで、像135は、光学的に生成されるものではなく、立体画像奥行き変換装置の演算処理により生成される。
【0011】
図9(b)に示すのは、図9(a)で演算処理により生成された像141(つまり図9(a)における像135)、一平面状に凸レンズを配列したレンズ群142、立体像143、観察方向144である。図9(b)に示すように、例えば図8(b)の立体画像表示装置の動作の結果、観察方向144から見て、円柱が角柱に対して手前に観察されることとなる。立体像143は、図8(a)における被写体の奥行き関係と等価である。
【0012】
特許文献1に記載された手法に、前記した式(102a)〜式(102c)の関係から導かれる立体像の大きさの比率を制御する方法を組み合わせれば、逆視像が生成される問題を解決しつつ、正しい奥行きの立体像を生成することが可能である。しかしながら、この場合には、被写体111に対する立体像121の大きさの比率xr/xcを変化させようとするときには、比率xr/xcに応じて光学系の装置を変更しなければならないため、実際上困難が伴う。そこで、従来、立体画像撮影装置や立体画像表示装置という光学的な装置に依存することなく、演算処理を用いて、被写体の凹凸と同じ再生像の比率を制御する立体画像変換装置が開示されている(特許文献2参照)。
【先行技術文献】
【特許文献】
【0013】
【特許文献1】特開2007−114483号公報
【特許文献2】特開2009−272922号公報
【非特許文献】
【0014】
【非特許文献1】J.Optical Society of America A, Vol. 21, pp.951-958, 2004
【発明の概要】
【発明が解決しようとする課題】
【0015】
このように、特許文献1あるいは特許文献2に記載されたような立体画像の変換方法を用いることで、立体画像撮影装置で取得した立体情報を、演算処理を用いて、立体画像表示装置で表示されたときに所望の再生像となるように変換することができる。
【0016】
しかしながら、非特許文献1において指摘されているように、立体画像撮影装置のレンズ群と、立体画像表示装置のレンズ群との間に相対的な位置ずれが生じていると、再生像の画質を劣化させる原因となってしまう。
例えば、図11(a)に示した立体画像撮影装置のレンズ群112と図11(b)に示した立体画像表示装置のレンズ群122では、レンズ群112を構成する凸レンズ112b1の位置と、レンズ群122において、凸レンズ122b1に対応して設けられる凸レンズ122b1の位置とがずれている。このような場合、立体画像撮影装置でレンズ群112を通して被写体を撮影して取得した立体画像を立体画像表示装置でレンズ群122を通して再生像として表示するときに、立体画像表示装置の凸レンズ122b1から出射された光線121b1の方向が、他の凸レンズから出射された光線の方向とずれてしまうので、立体像121にぶれやぼけ等が生じてしまい、立体像121の画質の劣化を生じてしまうことになる。
【0017】
この画質劣化は、特許文献1に記載された方法のように、演算処理により正しい奥行きの立体像を生成する場合においても生じる可能性がある。例えば、図12(a)、図12(b)に示すように、第1、第2の仮想的なレンズアレイ132、134と、レンズ群142bとの間に相対的な位置ずれが生じている場合、図11(b)に示すレンズ群142bを構成するレンズ142b1から出射される光線143b1の進む方向は、他のレンズから出射される光線でなる立体像143の結像位置からずれてしまい、その結果、立体像の画質の劣化を招いてしまうことになる。
またこの画質劣化は、特許文献2に記載された方法のように、演算処理により、被写体の大きさから変化させた立体像を生成する場合においても生じる可能性がある。
【0018】
かかる事情に鑑み、本発明は、被写体の撮影に用いる立体画像撮影装置のレンズ群と、被写体の表示に用いる立体画像表示装置のレンズ群との間に相対的な位置ずれがある場合に、これらの光学的な装置に依存することなく演算処理を用いて、立体画像撮影装置で取得された立体情報を、立体画像として表示されたときに相対的な位置ずれが補正された再生像となる画像情報へと変換することが可能な立体画像補正装置およびそのプログラム、ならびに、立体画像表示装置を提供することを課題とする。
【課題を解決するための手段】
【0019】
本発明は、前記課題を達成するために創案されたものであり、まず、請求項1に記載の立体画像補正装置は、第1要素光学レンズ群を通して被写体を撮影することにより取得された第1要素画像群の光波を補正し、第2要素光学レンズ群を通して立体像として表示される第2要素画像群を生成する立体画像補正装置であって、第1配置情報取得手段と、分配手段と、第1要素画像変換手段と、加算手段と、第2配置情報取得手段と、再分配手段と、第2要素画像変換手段と、を備えることとした。
【0020】
かかる構成によれば、立体画像補正装置は、第1配置情報取得手段によって、第1要素光学レンズ群を構成するそれぞれの第1要素光学レンズの配置情報を取得する。
次に、立体画像補正装置は、分配手段によって、第1配置情報取得手段で取得されたそれぞれの第1要素光学レンズの配置情報に従って、第1要素画像群の光波を、要素画像毎に分配する。ここで、光波とは、映像信号を光の波動として扱った場合の振幅と位相を複素数で表したものである。このように、第1要素画像群を分配するときに、立体画像撮影装置の第1要素光学レンズ群を構成するそれぞれの第1要素光学レンズの配置情報を用いることで、第1要素画像群を、それぞれの第1要素光学レンズの要素画像領域に属する要素画像毎に正確に分配することができる。
【0021】
また、立体画像補正装置は、第1要素画像変換手段によって、分配手段によって分配されたそれぞれの要素画像の光波を、第1の仮想的な開口群を通過して第2の仮想的な開口群へ伝搬する光波に変換する。この第1、第2の仮想的な開口群における開口とは、レンズ等の光学素子やピンホール等の空間フィルタのことをいう。第1要素画像変換手段に入力されるそれぞれの要素画像は、前記した分配手段において、第1要素画像群を、第1要素光学レンズ群を構成するそれぞれの第1要素光学レンズの要素画像領域に従って分配することにより得られたものである。したがって、第1要素画像変換手段によって、分配手段で分配されたそれぞれの要素画像の光波を、第1の仮想的な開口群を通過した光波に変換することで、それぞれの要素画像の光波を、あたかも、第1要素光学レンズ群を通過した光波に変換するような演算処理を実行する。
さらに、立体画像補正装置は、加算手段によって、第1要素画像変換手段で変換されたそれぞれの要素画像の光波を分配された数だけ加算する。したがって、第1要素画像群のそれぞれの要素画像が第1要素画像変換手段によって変化を受けた結果として、要素画像群の中間生成段階の状態となる。
【0022】
またさらに、立体画像補正装置は、第2配置情報取得手段によって、第2要素光学レンズ群を構成するそれぞれの第2要素光学レンズの配置情報を取得する。
次に、立体画像補正装置は、再分配手段によって、第2配置情報取得手段で取得されたそれぞれの第2要素光学レンズの配置情報に従って、加算手段によって加算された光波を、第2要素画像群を構成する要素画像毎に再分配する。
【0023】
そして、立体画像補正装置は、第2要素画像変換手段によって、再分配手段で分配されたそれぞれの要素画像の光波を、当該第2の仮想的な開口群を通過して結像するまでの距離だけ伝搬した光波に変換する。したがって、第2の仮想的な開口群を通過することで、それぞれの要素画像が変化を受けた結果として、いわば再撮影された要素画像の状態となる。ここで、第2要素画像変換手段に入力される要素画像の光波は、前記した再分配手段によって、加算手段で加算された要素画像の光波を第2要素光学レンズ群の配置情報に従って要素画像毎に再分配したものである。したがって、第2要素画像変換手段によって、この要素画像の光波を、第2の仮想的な開口群を通過した光波に変換することで、立体画像撮影装置で撮影された第1要素画像群を、あたかも、立体画像表示装置の第2要素光学レンズに光学的に表示して再撮影したかのような演算処理を実行する。
【0024】
そして、立体画像補正装置は、結合手段によって、第2要素画像変換手段で変換された要素画像の光波を、再分配された数だけ結合することで第2要素画像群を生成する。これにより、立体画像として表示されたときに、ぶれやぼけ等がない良好な画質の再生像となる第2要素画像群を生成することができる。
【0025】
また、請求項2の立体画像補正プログラムは、第1要素光学レンズ群を通して被写体を撮影することにより取得された第1要素画像群の光波を補正し、第2要素光学レンズ群を通して立体像として表示される第2要素画像群を生成するために、コンピュータを、第1配置情報取得手段、分配手段、第1要素画像変換手段、加算手段、第2配置情報取得手段、再分配手段、第2要素画像変換手段、結合手段、として機能させることとした。
【0026】
かかる構成によれば、立体画像補正プログラムは、第1配置情報取得手段によって、第1要素光学レンズ群を構成するそれぞれの第1要素光学レンズの配置情報を取得する。
次に、立体画像補正プログラムは、分配手段によって、第1配置情報取得手段で取得されたそれぞれの第1要素光学レンズの配置情報に従って、第1要素画像群の光波を、要素画像毎に分配する。
また、立体画像補正プログラムは、第1要素画像変換手段によって、分配手段によって分配されたそれぞれの要素画像の光波を、第1の仮想的な開口群を通過して第2の仮想的な開口群へ伝搬する光波に変換する。
さらに、立体画像補正プログラムは、加算手段によって、第1要素画像変換手段で変換されたそれぞれの要素画像の光波を分配された数だけ加算する。
またさらに、立体画像補正プログラムは、第2配置情報取得手段によって、第2要素光学レンズ群を構成するそれぞれの第2要素光学レンズの配置情報を取得する。
次に、立体画像補正プログラムは、再分配手段によって、第2配置情報取得手段で取得されたそれぞれの第2要素光学レンズの配置情報に従って、加算手段によって加算された光波を、第2要素画像群を構成する要素画像毎に再分配する。
そして、立体画像補正プログラムは、第2要素画像変換手段によって、再分配手段で分配されたそれぞれの要素画像の光波を、当該第2の仮想的な開口群を通過して結像するまでの距離だけ伝搬した光波に変換する。
そして、立体画像補正プログラムは、結合手段によって、第2要素画像変換手段で変換された要素画像の光波を、再分配された数だけ結合することで第2要素画像群を生成する。
【0027】
また、請求項3に記載の立体画像表示装置は、第1要素光学レンズ群を通して被写体を撮影することにより取得された第1要素画像群の光波を補正し、第2要素光学レンズ群を通して立体像として表示される第2要素画像群を生成し、この第2要素画像群を立体像として表示する立体画像表示装置であって、第1配置情報取得手段と、分配手段と、第1要素画像変換手段と、加算手段と、第2配置情報取得手段と、再分配手段と、第2要素画像変換手段と、結合手段と、表示素子と、第2要素光学レンズ群と、を備えることとした。
【0028】
かかる構成によれば、立体画像表示装置は、第1配置情報取得手段によって、第1要素光学レンズ群を構成するそれぞれの第1要素光学レンズの配置情報を取得する。
次に、立体画像表示装置は、分配手段によって、第1配置情報取得手段で取得されたそれぞれの第1要素光学レンズの配置情報に従って、第1要素画像群の光波を、要素画像毎に分配する。
また、立体画像表示装置は、第1要素画像変換手段によって、分配手段によって分配されたそれぞれの要素画像の光波を、第1の仮想的な開口群を通過して第2の仮想的な開口群へ伝搬する光波に変換する。
さらに、立体画像表示装置は、加算手段によって、第1要素画像変換手段で変換されたそれぞれの要素画像の光波を分配された数だけ加算する。
またさらに、立体画像表示装置は、第2配置情報取得手段によって、第2要素光学レンズ群を構成するそれぞれの第2要素光学レンズの配置情報を取得する。
次に、立体画像表示装置は、再分配手段によって、第2配置情報取得手段で取得されたそれぞれの第2要素光学レンズの配置情報に従って、加算手段によって加算された光波を、第2要素画像群を構成する要素画像毎に再分配する。
続いて、立体画像表示装置は、第2要素画像変換手段によって、再分配手段で分配されたそれぞれの要素画像の光波を、当該第2の仮想的な開口群を通過して結像するまでの距離だけ伝搬した光波に変換する。
そして、立体画像表示装置は、結合手段によって、第2要素画像変換手段で変換された要素画像の光波を、再分配された数だけ結合することで第2要素画像群を生成する。
そして、立体画像表示装置は、表示素子によって、結合手段で生成された第2要素画像群を表示し、第2要素光学レンズ群によって、この表示素子から出力された第2要素画像群の光波を通過させて再生像を結像する。これによれば、ぶれやぼけ等のない良好な画質の再生像を表示することができる。
【発明の効果】
【0029】
本発明は、以下に示す効果を奏するものである。
請求項1に記載の発明によれば、立体画像撮影装置の第1要素光学レンズ群と立体画像表示装置の第2要素光学レンズ群の相対的な位置ずれによって立体像として表示されたときに画質が劣化した再生像となる第1要素画像群を、この相対的な位置ずれに応じて補正することで、立体像として表示されたときに良好な画質の再生像となる第2要素画像群を生成することができる。
また、請求項2に記載の発明によれば、立体画像補正プログラムをインストールされたコンピュータは、このプログラムに基づいた各機能を実現することで、立体画像補正装置と同等の効果を奏することができる。
請求項3に記載の発明によれば、立体画像表示装置は、立体画像撮影装置の第1要素光学レンズ群と立体画像表示装置の第2要素光学レンズ群の相対的な位置ずれによって立体像として表示されたときに画質が劣化した再生像となる第1要素画像群を、この相対的な位置ずれに応じて補正することで、立体像として表示されたときに良好な画質の再生像となる第2要素画像群を生成し、この再生像を表示することができる。
【図面の簡単な説明】
【0030】
【図1】本発明の実施形態に係る立体画像補正装置の一例を模式的に示す構成図である。
【図2】(a)は、立体画像撮影装置の第1要素光学レンズ群の構成の一部を示す図であり、(b)は、立体画像表示装置の第2要素光学レンズ群の構成の一部を示す図である。
【図3】本発明の実施形態に係る立体画像補正装置の演算処理で想定する仮想的な開口群の一例を模式的に示す説明図である。
【図4】本発明の実施形態に係る立体画像補正装置の演算処理で用いる積分範囲の一例を模式的に示す説明図である。
【図5】(a)は、立体画像撮影装置で被写体を撮影する様子を模式的に示す説明図であり、(b)は、(a)で取得した第1要素画像群から、本発明の実施形態に係る立体画像補正装置で第2要素画像群を生成した後に、立体画像表示装置で再生像として表示する様子を模式的に示す説明図である。
【図6】本発明の実施形態に係る立体画像補正装置の演算処理で想定する仮想的な開口群の他の例を模式的に示す説明図である。
【図7】本発明の実施形態に係る立体画像補正装置の演算処理で想定する仮想的な開口群のさらに他の例を模式的に示す説明図である。
【図8】従来のIP方式による立体画像の撮影および再生を模式的に示す説明図であり、(a)は、立体画像撮影装置、(b)は、立体画像表示装置をそれぞれ示している。
【図9】図8において、立体画像撮影装置のレンズ群と立体画像表示装置のレンズ群との間に相対的な位置ずれが生じている場合を模式的に示す説明図である。
【図10】従来の逆視を回避する方法を模式的に示す説明図であり、(a)は、撮影で取得された情報を変換する立体画像奥行き変換装置、(b)は、変換された像を表示する立体画像表示装置をそれぞれ示している。
【図11】図10において、立体画像撮影装置のレンズ群と立体画像表示装置のレンズ群との間に相対的な位置ずれが生じている場合を模式的に示す説明図である。
【発明を実施するための形態】
【0031】
[立体画像補正装置の構成の概要]
まず、本実施形態の立体画像補正装置の構成の概要について図1および図2を参照して説明する。本実施形態の立体画像補正装置10は、立体画像撮影装置20において、図2(a)に示した第1要素光学レンズ群を通過して被写体を撮影することで取得した第1要素画像群の光波を、立体画像表示装置30において、図2(b)に示した第2要素光学レンズ群を通過して再生像として表示するために用いる第2要素画像群に変換するものである。
【0032】
ここで、図2(a)に示すように、立体画像撮影装置20の第1要素光学レンズ群は、複数の第1要素光学レンズが同一平面上に配列されて構成されており、また、図2(b)に示すように、立体画像表示装置30の第2要素光学レンズ群は、複数の第2要素光学レンズが同一平面上に配列されて構成されている。ここで、図2(a)および(b)に示すように、第1要素光学レンズ群は、第1要素光学レンズが隙間なく配列されて構成されている一方で、第2要素光学レンズ群は、1行目に配列された第2要素光学レンズと2行目に配列された第2要素光学レンズとの間に、隙間δが形成されていることにより、図2(a)に示した第1要素光学レンズ群と図2(b)に示した第2要素光学レンズ群との間には、相対的な位置ずれがあることになる。
【0033】
本実施形態の立体画像補正装置10は、このように、立体画像撮影装置20の第1要素光学レンズ群と、立体画像表示装置30の第2要素光学レンズ群との間に相対的な位置ずれがある場合に、立体画像として表示されたときに、劣化した再生像となる第1要素画像群の光波を、この相対的な位置ずれに応じて補正し、立体画像として表示されたときに、画質の良好な再生像となる第2要素画像群を生成するものである。
より具体的には、立体画像補正装置10は、立体画像撮影装置20において、被写体の像を形成する複数の第1要素光学レンズが同一平面上に配列された第1要素光学レンズ群を通過して被写体を撮影することで取得した第1要素画像群の光波を、立体画像表示装置30において、複数の第2要素光学レンズが同一平面上に配列された第2要素光学レンズ群を通過して再生像として表示するために用いる第2要素画像群に変換するものである。
【0034】
この立体画像補正装置10に入力される第1要素画像群は、立体画像撮影装置20において、CCD等の撮像素子によって撮影された映像信号である。そして、立体画像補正装置10で生成された第2要素画像群は、立体画像表示装置30において、液晶パネル等の情報表示デバイスに表示される。立体画像撮影装置20および立体画像表示装置30としては、例えば、図8(a)および図8(b)に例示したような構成を採用することができる。
【0035】
立体画像補正装置10は、例えば、CPU(Central Processing Unit)等の演算装置と、メモリ、ハードディスク等の記憶装置(記憶手段)と、マウスやキーボード等の外部から情報の入力を検出する入力装置と、LAN(Local Area Network)等の通信回線を介して各種情報の送受信を行うインタフェース装置と、LCD(Liquid Crystal Display)等の表示装置を備えたコンピュータと、このコンピュータにインストールされたプログラムとから構成される。この立体画像補正装置10は、ハードウェア装置とソフトウェアとが協働することによって、前記したハードウェア資源がプログラムによって制御されることにより、図1に示す第1配置情報取得手段11と、第2配置情報取得手段12と、分配手段13と、第1要素画像変換手段14と、加算手段15と、再分配手段16と、第2要素画像変換手段17と、結合手段18とが実現される。
【0036】
第1配置情報取得手段11は、立体画像撮影装置20の第1要素光学レンズ群を構成するそれぞれの第1要素光学レンズの配置情報を取得する。また、第2配置情報取得手段12は、立体画像表示装置30の第2要素光学レンズ群を構成するそれぞれの第2要素光学レンズの配置情報を取得する。ここでの配置情報とは、例えば、第1要素光学レンズ(第2要素光学レンズ)毎の要素画像領域である。但し、後記する分配手段13(再分配手段16)において、第1要素光学レンズ(第2要素光学レンズ)の大きさが既知の場合、第1要素光学レンズ(第2要素光学レンズ)の位置情報であってもよい。
【0037】
分配手段13は、第1要素画像群の光波を、第1配置情報取得手段11で取得された、第1要素光学レンズ群を構成するそれぞれの第1要素光学レンズの配置情報に従って要素画像毎に分配するものである。ここでは、分配された要素画像をm(−M≦m≦M)で識別することとする。第1要素画像変換手段14は、この分配された例えば(2M+1)個の要素画像毎に機能する。そして、分配された要素画像mは、その後、加算手段15で加算される。そして、再分配手段16は、加算された要素画像を、第2配置情報取得手段12で取得された、第2要素光学レンズ群を構成するそれぞれの第2要素光学レンズの配置情報に従って再び分配する。このとき再分配された要素画像をn(−N≦n≦N)で識別することとする。第2要素画像変換手段17は、この再分配された例えば(2N+1)個の要素画像毎に機能する。そして、再分配された要素画像nは、その後、結合手段18で結合され第2要素画像群が生成されることとなる。
【0038】
[立体画像補正装置の演算処理で想定する仮想的な開口群の概要]
次に、本実施形態の立体画像補正装置10の演算処理で想定する仮想的な開口群の概要について図3を参照(適宜図1参照)して説明する。図1に示す第1要素画像変換手段14は、分配手段13で分配された要素画像の光波を、第1の仮想的な開口群41を通過して第2の仮想的な開口群42へ伝搬する光波に変換する。ここで、光波とは、映像信号を光の波動として扱った場合の振幅と位相を複素数で表したものである。また、開口群を構成する要素(開口)は、レンズ等の光学素子やピンホール等の空間フィルタのことを意味する。以下では、開口を凸レンズ(要素レンズ)で表すこととする。また、第1の仮想的な開口群41と第2の仮想的な開口群42とは所定距離Lだけ離間している。また、第1の仮想的な開口群41が仮想的なレンズアレイであれば、この所定距離Lは、要素レンズの焦点距離とすることができる。なお、第1および第2の仮想的な開口群41,42は、実際には存在せず、立体画像補正装置10が演算処理を行うために想定したものである。
【0039】
図3において、第1要素画像群の光波は、第1の要素画像面43から出射して、図4において厚み方向を示した平面状の第1および第2の仮想的な開口群41,42を、左から右へ通過して第2の要素画像面44に入射する。また、kは第1要素画像群におけるm番目の要素画像の領域を示し、dは第1要素画像群(第1の要素画像面43)から第1の仮想的な開口群41までの距離を示す。同様に、kは第2要素画像群におけるn番目の要素画像の領域を示し、dは第2の仮想的な開口群42から第2要素画像群(第2の要素画像面44)までの距離を示す。
【0040】
また、図3において、pは第1の仮想的な開口群41を形成する要素レンズのピッチを示し、pは第2の仮想的な開口群42を形成する要素レンズのピッチを示す。本実施形態では、以下の式(1)で表されるピッチの比ΦをΦ=1として設定する。つまり、第1および第2の仮想的な開口群41,42の要素レンズ(開口)のピッチは同じである。なお、第1の仮想的な開口群41あるいは第2の仮想的な開口群42の要素レンズ(開口)のピッチにばらつきがある場合、各要素レンズ(開口)間のピッチの平均値あるいは他の統計量を代表することで、第1の仮想的な開口群41のピッチpあるいは第2の仮想的な開口群42のピッチpとみなすものとする。
【0041】
【数2】

【0042】
[立体画像補正装置の詳細な構成]
<第1配置情報取得手段>
第1配置情報取得手段11は、立体画像撮影装置20の第1要素光学レンズ群(図2(a)参照)を構成するそれぞれの第1要素光学レンズの配置情報を取得するものである。
例えば、第1配置情報取得手段11は、非特許文献3(非特許文献3:Proc. SPIE, vol.6803, pp.68030G1-68030G9, 2008)に記載された手法を用いて検出された第1要素光学レンズ群を構成するそれぞれの第1要素光学レンズの要素画像領域を配置情報として取得する。この手法によれば、立体画像撮影装置20の第1要素光学レンズ群に平行光線を入射し、それぞれの第1要素光学レンズにより生成される点像の位置を重心法により検出することにより、それぞれの第1要素光学レンズの要素画像領域を配置情報として取得する。第1配置情報取得手段11は、このようにして自ら配置情報を検出してもよいし、前記した手法を用いて他の装置によって検出された配置情報を取得してもよい。
例えば、前記した手法を用いて図示しない手段によって検出された配置情報が、図示しない記憶手段にメタデータとして予め記憶されている場合、第1配置情報取得手段11は、適宜のタイミングで図示しない記憶手段から配置情報を読み出すようにしてもよい。
【0043】
また例えば、立体画像撮影装置20が放送局のカメラである場合、放送局側で各カメラにおける配置情報を予め取得しておき、放送番組の配信時に、放送番組にその放送番組を撮影したカメラにおける配置情報を多重化して送信するようになっていてもよい。そして、例えば、立体画像表示装置30がテレビ受信機であり、立体画像補正装置10がテレビ受信機に組み込んで構成される場合、立体画像表示装置30において放送番組が受信されると、この放送番組に多重化された配置情報を第1配置情報取得手段11が取得するようにしてもよい。
【0044】
さらに例えば、放送局側で動画あるいは静止画等のデータフォーマット内にその動画あるいは静止画等を撮影した立体画像撮影装置20の第1要素光学レンズ群を構成するそれぞれの第1要素光学レンズの配置情報を埋め込んでおき、立体画像表示装置30において、動画あるいは静止画等のダウンロード時に、動画あるいは静止画等と共にダウンロードされた配置情報を第1配置情報取得手段11が取得するようにしてもよい。
第1配置情報取得手段11は、このようにして取得した配置情報を、分配手段13に出力する。
【0045】
<第2配置情報取得手段>
第2配置情報取得手段12は、立体画像表示装置30の第2要素光学レンズ群(図2(b)参照)を構成するそれぞれの第2要素光学レンズの配置情報を取得するものである。
第2配置情報取得手段12は、例えば、第1配置情報取得手段11において説明したのと同様に、非特許文献3(非特許文献3:Proc. SPIE, vol.6803, pp.68030G1-68030G9, 2008)に記載された手法を用いて第2要素光学レンズ群を構成するそれぞれの第2要素光学レンズの要素画像領域を配置情報として取得する。第2配置情報取得手段12は、このようにして自ら配置情報を検出してもよいし、前記した手法を用いて他の装置によって検出された配置情報を取得してもよい。例えば、前記した手法を用いて図示しない手段によって検出された配置情報が、図示しない記憶手段にメタデータとして予め記憶されている場合、第2配置情報取得手段12は、適宜のタイミングで図示しない記憶手段から配置情報を読み出すようにしてもよい。
【0046】
また例えば、製造メーカにおいて立体画像表示装置30毎に第2要素光学レンズ群を構成する第2要素光学レンズの配置情報が予め測定され、この配置情報が立体画像表示装置30毎に、自装置内の図示しない記憶手段に予め記憶されている場合、第2配置情報取得手段12は、適宜のタイミングで図示しない記憶手段からこの配置情報を読み出すようにしてもよい。あるいは、立体画像表示装置30の製造メーカが立体画像表示装置30毎の配置情報を保有しており、この配置情報のダウンロードが許可されている場合、第2配置情報取得手段12は、適宜のタイミングで自装置の配置情報をダウンロードするようにしてもよい。
第2配置情報取得手段12は、このようにして取得した第2要素光学レンズ群を構成するそれぞれの第2要素光学レンズの配置情報を、再分配手段16に出力する。
【0047】
なお、図1では、第1配置情報取得手段11と第2配置情報取得手段12が、それぞれ、外部から配置情報を取得する場合を例示したが、これに限定されず、前記したように、第1配置情報取得手段11が立体画像撮影装置20から、あるいは、第2配置情報取得手段12が立体画像表示装置30から直接配置情報を取得してもよいことはもちろんである。
【0048】
<分配手段>
分配手段13は、入力された映像信号(第1要素画像群の光波)を要素画像単位に分配するものである。入力された映像信号(第1の要素画像面43から出射する光波)は、第1要素画像群を構成する各要素画像の光波の束に相当し、これを第1要素画像群t1と表記することとする。この分配手段13は、入力された映像信号における第1要素画像群t1を、第1配置情報取得手段11で取得された配置情報に従って要素画像毎に分配する。つまり、分配手段13は、入力画像全体(第1要素画像群t1)から、例えば、第1配置情報取得手段11で取得されたm番目の第1要素レンズの要素画像領域に対応する領域を、m番目の要素画像として抽出する。これによれば、第1要素光学レンズ群を構成するそれぞれの第1要素光学レンズの配置情報に従って第1要素画像群t1を要素画像毎に分配するため、入力画像全体(第1要素画像群t1)を、それぞれの第1要素光学レンズが撮影した要素画像毎に正確に分配することができる。
【0049】
そして、分配手段13は、入力された映像信号における第1要素画像群t1のm番目の要素画像の光波(gs,m(xs,m,ys,m))を、このm番目の要素画像に予め対応付けられている第1要素画像変換手段14に出力する。ここで、xs,mは、入力画像全体(第1要素画像群)におけるm番目の要素画像の中心を原点とした場合のx座標を示す。同様に、ys,mは、入力画像全体(第1要素画像群)におけるm番目の要素画像の中心を原点とした場合のy座標を示す。
【0050】
<第1要素画像変換手段>
第1要素画像変換手段14は、図1に示すように、光波計算手段14aと、位相シフト手段14bと、光波計算手段14cとを備えている。
【0051】
≪光波計算手段14a≫
光波計算手段14aは、要素画像の光波から、フレネル近似(Fresnel diffraction)に基づいて、第1の仮想的な開口群41(図3参照)を構成する要素レンズに入射する光波を演算するものである。つまり、光波計算手段14aは、第1の仮想的な開口群41のm番目の要素レンズに到達する光波に相当する信号として、一般的なフレネル近似を用いて、以下の式(2)により要素画像毎の光波(Ri,m(xo,m,yo,m))を演算する。
【0052】
【数3】

【0053】
ここで、xo,mは、第1の仮想的な開口群41のm番目の要素レンズの光軸中心を原点とした場合のx座標である。同様に、yo,mは、第1の仮想的な開口群41の要素レンズ群のm番目の開口部の光軸中心を原点とした場合のy座標である。また、fは、第1の仮想的な開口群41の要素レンズの焦点距離を示す。また、kは、波数2π/λ(λは光波の波長)である。この要素画像毎の光波(Ri,m(xo,m,yo,m))は、位相シフト手段14bに出力される。
【0054】
≪位相シフト手段14b≫
位相シフト手段14bは、入力された要素画像の光波(Ri,m(xo,m,yo,m))から、位相を、第1の仮想的な開口群41の要素レンズに相当する位相分だけシフトさせた光波を演算するものである。すなわち、位相シフト手段14bは、以下の式(3)に示すように、光波(Ri,m(xo,m,yo,m))を、第1の仮想的な開口群41の要素レンズに相当する位相分だけシフトさせることで、第1の仮想的な開口群41の要素レンズから出射する光波に相当する信号(Ro,m(xo,m,yo,m))を演算する。この光波(Ro,m(xo,m,yo,m))は、光波計算手段14cへ出力される。
【0055】
【数4】

【0056】
≪光波計算手段14c≫
光波計算手段14cは、第1の仮想的な開口群41の要素レンズから出射する光波、すなわち、位相シフト手段14bから入力された要素画像の光波(Ro,m(xo,m,yo,m))をフレネル近似することで、第2の仮想的な開口群42(図3参照)の要素レンズに入射する光波を演算するものである。つまり、光波計算手段14cは、第2の仮想的な開口群42の要素レンズに到達する光波に相当する信号として、一般的なフレネル近似を用いて、以下の式(4)により要素画像毎の光波(Rd,m(xd,m,yd,m))を演算する。この要素画像毎の光波(Rd,m(xd,m,yd,m))は加算手段15へ出力される。
【0057】
【数5】

【0058】
式(4)において、xd,mは、第1の仮想的な開口群41のm番目の要素レンズの光軸中心を原点とした場合の、第2の仮想的な開口群42の入射面におけるx座標である。同様に、yd,mは、第1の仮想的な開口群41のm番目の要素レンズの光軸中心を原点とした場合の、第2の仮想的な開口群42の入射面におけるy座標を示す。また、Lは、第1の仮想的な開口群41と第2の仮想的な開口群42との距離である。また、積分計算を実施する範囲は、m番目の要素画像(要素画像(m))の拡がる範囲と等価に設定することとする。第1要素画像群におけるm番目の要素画像が広がる範囲wの一例を図4に示す。この場合、第1要素画像群におけるm番目の要素画像が広がる範囲wは式(5)で表わされる。なお、kは第1要素画像群におけるm番目の要素画像の領域を示し、dは第1要素画像群(第1の要素画像面43)から第1の仮想的な開口群41までの距離を示す。
【0059】
【数6】

【0060】
なお、前記したように、第1要素画像変換手段14に入力される要素画像の光波は、立体画像撮影装置20で取得された第1要素画像群t1を、分配手段13によって、第1要素光学レンズ群を構成する第1要素光学レンズの配置情報に従って要素画像毎に分配することで得られたものである。このため、第1要素画像変換手段14によって、例えばm番目の要素画像の光波を、第1の仮想的な開口群のm番目の開口を通過した光波に相当する光波に変換する処理は、このm番目の要素画像の光波を、第1要素光学レンズ群のm番目の第1要素光学レンズを通過した光波に変換することに相当することになる。
【0061】
<加算手段>
加算手段15は、第1要素画像変換手段14で変換されたそれぞれの要素画像の光波を、分配手段13で分配された数だけ、第2の仮想的な開口群42の入射面で加算するものである。この加算手段15では、それぞれの要素画像の光波を分配手段13で分配された数だけ加算することで、立体像を仮想的に再現した状態を算出している。加算手段15は、第1の仮想的な開口群41の要素レンズの画角に対応する光波を加算する。この加算手段15は、第1の仮想的な開口群42の要素レンズから出射されて第2の仮想的な開口群42の要素レンズの入射面に到達する光波(Rd,m(xd,m,yd,m))を、第2の仮想的な開口群42の領域内で加算する。つまり、第2の仮想的な開口群42の入射面での光波に相当する信号として、以下の式(6)により、第2の仮想的な開口群42の入射面での光波(R(x,y))を演算する。
【0062】
【数7】

【0063】
ここで、xは、第2の仮想的な開口群42の中心を原点とした場合のx座標であり、同様に、yは、第2の仮想的な開口群42の中心を原点とした場合のy座標である。この光波(R(x,y))は再分配手段16へ出力される。
【0064】
<再分配手段>
再分配手段16は、加算手段15で加算された光波を、第2要素画像群を構成する要素画像毎に再分配するものである。この再分配手段16は、加算手段15から入力された光波(R(x,y))を、第2配置情報取得手段12で取得された第2要素光学レンズ群の第2配置情報に従って、要素画像単位に分割する。つまり、再分配手段16は、例えば、第2配置情報取得手段12からn番目の第2要素レンズの要素画像領域が入力されると、加算手段15で加算された光波から、n番目の第2要素レンズの要素画像領域に対応する領域に属する光波を、n番目の要素画像として抽出する。
【0065】
光波(R(x,y))を再分配した要素画像ごとの光波として、第2の仮想的な開口群42を構成するn番目の要素レンズに対応する光波を、(Rp,n(xp,n,yp,n))とする。ここで、再分配手段16は、第2の仮想的な開口群42を構成する各要素レンズに入力された光波(Rp,n(xp,n,yp,n))を、第2の仮想的な開口群42を横成するn番目の要素レンズに予め対応付けられている第2要素画像変換手段17に出力する。
【0066】
<第2要素画像変換手段>
第2要素画像変換手段17は、再分配手段16で分配された要素画像の光波を、第2の仮想的な開口群42を通過して結像するまでの距離だけ伝搬した光波に変換するものである。つまり、第2要素画像変換手段17は、再分配手段16によって第2要素光学レンズの配置情報に基づいて要素画像毎に再分配されたそれぞれの要素画像の光波を、それぞれの第2要素光学レンズを通過して結像するまでの距離だけ伝搬した光波に変換するものである。
【0067】
この第2要素画像変換手段17は、再分配手段16から入力された光波を、第2の仮想的な開口群42の要素レンズ(焦点距離f)の開口領域に再分配した後、その要素レンズ(焦点距離f)を通過する光波に変換し、さらに、その要素レンズの焦点距離fだけ光波を伝搬させる。第2要素画像変換手段17は、例えば(2N+1)個の要素画像毎に機能することで、各要素画像の光波の束を伝搬させる。これら伝搬する各要素画像の光波の束から第2要素画像群が構成されることとなる。これを第2要素画像群t2と表記することとする。つまり、第2要素画像変換手段17は、第2要素画像群t2を演算する。第2要素画像変換手段17は、図1に示すように、位相シフト手段17aと、光波計算手段17bとを備えている。
【0068】
≪位相シフト手段17a≫
位相シフト手段17aは、再分配手段16から入力された光波(Rp,n(xp,n,yp,n))から、位相を、第2の仮想的な開口群42の要素レンズに相当する位相分だけシフトさせた光波を演算するものである。すなわち、位相シフト手段17aは、以下の式(7)に示すように、光波(Rp,n(xp,n,yp,n))を、第2の仮想的な開口群42の要素レンズに相当する位相分だけシフトさせることで、第2の仮想的な開口群42の要素レンズから出射する光波に相当する信号(Rr,n(xp,n,yp,n))を演算する。
【0069】
【数8】

【0070】
ここで、xp,nは、第2の仮想的な開口群42のn番目の要素レンズの光軸中心を原点とした場合のx座標である。同様に、yp,nは、第2の仮想的な開口群42のn番目の要素レンズの光軸中心を原点とした場合のy座標である。また、fは、第2の仮想的な開口群42の要素レンズの焦点距離である。この要素画像毎の光波(Rr,n(xp,n,yp,n))は、光波計算手段17bへ出力される。
【0071】
≪光波計算手段17b≫
光波計算手段17bは、第2の仮想的な開口群42の要素レンズ毎の光波をフレネル近似することで、第2の仮想的な開口群42の要素レンズから出射し、第2の要素画像面44(図4参照)に到達する光波を演算するものである。すなわち、光波計算手段17bは、以下の式(8)により、第2の仮想的な開口群42のn番目の要素レンズから出射されて第2の要素画像面44に到達する光波(Re,n(xe,n,ye,n))を演算する。
【0072】
【数9】

【0073】
ここで、xe,nは、出力画像全体(第2要素画像群)におけるn番目の要素画像の中心からのx座標である。同様に、ye,nは出力画像全体におけるn番目の要素画像の中心からのy座標である。この光波計算手段17bで演算された光波(Re,n(xe,n,ye,n))は結合手段18へ出力される。
【0074】
なお、前記したように、第2要素画像変換手段17に入力される要素画像の光波は、加算手段15から入力された要素画像の光波を、再分配手段16によって、第2要素光学レンズ群を構成する第2要素光学レンズの配置情報に従って要素画像毎に分配することで得られたものである。このため、第2要素画像変換手段17によって、例えばm番目の要素画像の光波を、第2の仮想的な開口群のm番目の開口を通過した光波に相当する光波に変換する処理は、このm番目の要素画像の光波を、あたかも、第2要素光学レンズ群のm番目の第2要素光学レンズに表示して再撮影する処理に相当することになる。
【0075】
<結合手段>
結合手段18は、第2要素画像変換手段17で変換された光波を、再分配手段16で再分配された数だけ結合することで、第2要素画像群を生成するものである。この結合手段18は、第2要素画像変換手段17から出力された要素画像毎の光波から、その光波の電力の総和を演算することで、立体像の大きさが変換処理された映像信号、すなわち、第2要素画像群t2となる映像信号を生成する。この結合手段18で得られた第2要素画像群t2は、立体画像表示装置30(図1参照)へ出力される。
【0076】
ここで、第2要素画像変換手段17から出力される第2の要素画像面44に到達する光波(Re,n(xe,n,ye,n))の電力は、光の振幅の2乗で表わすことができる。また、第1要素画像群t1の各要素画像として発せられた光波は、インコヒーレント(波長や位相が一定ではない)であるため、光波の位相は無相関であるとみなすことができる。そこで、結合手段18は、以下の式(9)に示すように、第2の要素画像面44に到達する各要素画像の光波(例えばn番目の要素画像であればその光波は(Re,n(xe,n,ye,n))である)の2乗を計算し、その和をとることで、第2要素画像群t2全体の映像信号を得る。
【0077】
【数10】

【0078】
この第2要素画像群t2は、立体画像表示装置30に出力される。
図5(b)に示すように、立体画像補正装置10の結合手段18から出力された第2要素画像群t2が立体画像表示装置30に入力されると、立体画像表示装置30は、表示素子によって、この第2要素画像群t2を表示する。そして、表示素子に表示された第2要素画像群t2の光波が、表示素子の前方に配置された第2要素光学レンズ群を通過することにより、第2要素画像群t2の光波が収束し、被写体が存在したのと同じ位置に再生像が生成される。
【0079】
ここで、本実施形態では、第1および第2の仮想的な開口群41,42のピッチの比ΦをΦ=1としている。被写体111の大きさをxとし、再生される立体像121の大きさをxとすると、両者の関係は、前記した式(101)の通りである。つまり、前記した式(101)において、α=γとすると、被写体111の大きさxと、再生される立体像121の大きさxとの関係は、以下の式(10)で表わされることとなる。
【0080】
【数11】

【0081】
したがって、立体画像撮影装置20における要素レンズのピッチp(図8(a)参照)と、立体画像表示装置30(図1参照)における要素レンズのピッチp(図8(b)参照)とが等しい場合には、被写体の大きさx(図8(a)参照)と、再生される立体像の大きさx(図8(b)参照)とが等しくなる。
【0082】
またここで、図5(a)および図5(b)に示すように、立体画像表示装置30の第2要素光学レンズ群と、立体画像撮影装置20の第1要素光学レンズ群との間で、相対的な位置ずれが生じている。しかし、立体画像補正装置10によって、前記したような演算処理を行って、立体画像撮影装置20で取得された第1要素画像群t1の光波を、相対的な位置ずれに応じて補正して第2要素画像群t2を生成したことにより、この第2要素画像群t2を立体画像表示装置30において再生像として表示すると、図5(b)に示すように、ぶれやぼけ等がない良好な画質の立体像121となる。
【0083】
つまり、立体画像補正装置10は、立体画像撮影装置20の第1要素光学レンズ群を通して被写体を撮影することで取得した第1要素画像群を、第1要素光学レンズ群を構成する第1要素光学レンズの要素画像領域毎に正確に分配し、このそれぞれの要素画像の光波を伝搬させて加算することで仮想的な立体像を作り出し、この仮想的に作り出した立体像を、第2要素光学レンズ群を構成する第2要素光学レンズの位置情報に基づいて再分配し、このそれぞれの要素画像の光波を伝搬させて加算することで第2要素画像群を生成しているため、生成された第2要素画像群を、第2要素光学レンズを通して立体像として表示したときに、ぶれやぼけ等がない良好な画質の立体像121が得られることになる。
【0084】
このように、本実施形態の立体画像補正装置10によれば、立体画像撮影装置20の第1要素光学レンズ群と立体画像表示装置30の第2要素光学レンズ群との間の相対的な位置ずれに応じて、立体画像撮影装置20で取得された第1要素画像群t1を補正し、立体像として表示されたときに、画質の良好な第2要素画像群t2を生成することができる。
【0085】
以上、本実施形態について説明したが、本発明はこれに限定されるものではなく、その趣旨を変えない範囲でさまざまに実施することができる。
【0086】
例えば、本実施形態では、図4に示したように、第1の仮想的な開口群41を形成する要素レンズのピッチpと、第2の仮想的な開口群42を形成する要素レンズのピッチpのピッチの比ΦをΦ=1として設定したがこれに限定されない。例えば、図6に示すように、第1の仮想的な開口群41を形成する要素レンズのピッチpと、第2の仮想的な開口群42を形成する要素レンズのピッチpのピッチの比ΦをΦ≠1としてもよい。つまり、第1および第2の仮想的な開口群41,42の要素レンズ(開口)のピッチを異ならせてもよい。なお、図6では、Φ<1の状態が図示されているが、Φ>1と設定してもよい。このように、前記した(1)で表されるピッチの比Φを予め設定しておくことで、再生像の大きさの比率を所望の値に制御することができる。
【0087】
図6に示すように第1および第2の仮想的な開口群41,42の要素レンズ(開口)のピッチを異ならせた場合、要素画像の光波は、開口のピッチが互いに異なる2つの仮想的な開口群を通過するので、第1要素画像群の領域の長さと第2要素画像群の領域の長さとが異なることとなる。そのため、この第2要素画像群が立体画像として表示された場合に、第1要素画像群が立体画像として表示された場合とは像の大きさが異なる再生像を表示することができる。
【0088】
ここで、第1および第2の仮想的な開口群41,42の要素レンズ(開口)のピッチを異ならせた場合、被写体111の大きさxと、再生される立体像121の大きさxとの関係は、以下の式(11)で表わされる。
【0089】
【数12】

【0090】
つまり、図1において、立体画像撮影装置20における要素レンズのピッチpと、立体画像表示装置30における要素レンズのピッチpとが仮に等しかったとしても、第1の仮想的な開口群41の要素レンズのピッチpと、第2の仮想的な開口群42の要素レンズのピッチpとを制御することで、被写体111の大きさxに対する再生される立体像121の大きさxを変化させることが可能となる。
【0091】
なお、説明の都合上、前記した式(10)および式(11)の説明において、前記した式(101)においてαとγとが等しい場合について記述したが、本発明では、前記した式(101)においてα≠γとしてもよい。同様に、立体画像撮影装置20における要素レンズのピッチpと、立体画像表示装置30における要素レンズのピッチpとが等しい場合について記述したが、p≠pとしてもよい。
【0092】
またさらに、本実施形態では、立体画像撮影装置20の第1要素光学レンズ群における第1要素光学レンズのピッチと、立体画像表示装置30の第2要素光学レンズ群における第2要素光学レンズのピッチとが同じであるものとして説明したが、これらが異なる場合には、例えば、第1の仮想的な開口群41のピッチに合わせて、第2の仮想的な開口群42のピッチを変えてもよい。
【0093】
例えば、立体画像撮影装置20における画面サイズが20インチで立体画像撮影装置20における画面サイズが50インチの場合、第1要素光学レンズ群における第1要素光学レンズの数と、第2要素光学レンズ群における第2要素光学レンズの数が同じであるとすると、第1要素光学レンズ群における第1要素光学レンズのピッチは1mmであり、第2要素光学レンズ群における第2要素光学レンズのピッチは2.5mmとなる。
このように立体画像撮影装置20と立体画像表示装置30との画面サイズが合致していない場合、立体画像撮影装置20で取得された第1要素画像群を、そのまま立体画像表示装置30に表示しようとすると、立体画像表示装置30の画面サイズに合致した適切な大きさで表示することができず、縮小されあるいは一部分のみが拡大された再生像となってしまう。
【0094】
そこで、第1の仮想的な開口群41のピッチに合わせて第2の仮想的な開口群42のピッチを変える、つまり、第2要素光学レンズ群における第2要素光学レンズが、第1要素光学レンズ群における第1要素光学レンズのピッチおよび数と同じピッチおよび数で配列された第2の仮想的な開口群42を作り出し、第1要素画像群の光波を、この第1および第2の仮想的な開口群41、42を通過した光波に変換して第2要素画像群を生成する。これにより、立体像として表示されたときに、画質が良好であり、かつ、立体画像表示装置30の画面サイズに応じた割合の再生像となる第2要素画像群を生成することができる。
【0095】
また、本実施形態では、前記した式(2)、式(4)および式(8)の演算において、フレネル近似を用いる式を示したが、ホイへンス・フレネル(Huygens-Fresnel)の原理による積分や、フランフォーファ近似(Fraunhofer diffraction)による積分を用いて演算してもよい。
【0096】
また、本実施形態では、前記した式(2)、式(3)、式(7)および式(8)の演算において、第1の仮想的な開口群41の要素レンズの焦点距離f、第2の仮想的な開口群42の要素レンズの焦点距離fをそれぞれ用いたが、これに限定されない。すなわち、焦点距離は、第1の仮想的な開口群41を構成する要素レンズ毎に異なっていてもよいし、第2の仮想的な開口群42を構成する要素レンズ毎に異なっていてもよい。
【0097】
また、本実施形態では、第1要素画像群を、立体像として表示されたときに、被写体の凹凸が反転した再生像となる複数の要素画像としたが、これに限定されない。例えば、第1要素画像群を、立体画像として表示されたときに、被写体の凹凸と同じ再生像となる複数の要素画像を用いてもよい。この場合、図示しない手段によって、立体像として表示されたときに被写体の凹凸と同じ再生像となる要素画像群を構成する個々の要素画像をそれぞれ点対称に反転させることで第1要素画像群を生成し、この第1要素画像群を、立体画像補正装置10の分配手段に出力する。
【0098】
また、本実施形態では、第1の仮想的な開口群41を構成する要素レンズの数や密度と、第2の仮想的な開口群42を構成する要素レンズの数や密度との関係について記述していないが、これらの関係は任意である。例えば、図7に示すように、第1の仮想的な開口群51を構成する要素レンズが粗に少ない数で配置され、第2の仮想的な開口群42を構成する要素レンズが密に多数で配置されていてもよい。この場合、第1の仮想的な開口群51を構成する要素レンズのピッチはpであり、図3に示した第1の仮想的な開口群41を構成する要素レンズのピッチpとは異なっている。
【0099】
また、立体画像補正装置10は、前記したようにハードウェア装置とソフトウェアとが協働することによって、前記したハードウェア資源がプログラムによって制御されることにより実現されるものとした。このプログラム(立体画像補正プログラム)は、通信回線を介して提供することも可能であるし、CD−ROM等の記録媒体に書き込んで配布することも可能である。また、立体画像補正装置10は、前記した各手段を演算回路によって実現することも可能である。
【0100】
また、本実施形態では、第1および第2の仮想的な開口群41,42を構成する開口を要素レンズとして説明したが、ピンホール等の空間フィルタに置き換えてもよい。この場合、要素レンズの焦点距離f,fに対応する距離は任意の距離とすることができる。
【0101】
また、本実施形態の立体画像補正装置10では、光波の伝搬に波動光学的な演算を適用したが、これに限定されない。例えば、特許文献2(特許文献2:特開2009−21708)に記載されたような幾何光学的な演算を適用してもよい。
【0102】
また、立体画像補正装置10は、立体画像撮影装置20や立体画像表示装置30に組み込んで構成することもできる。例えば、立体画像撮影装置20が放送局のカメラ等であり、立体画像表示装置30が放送局から提供された立体画像を受信して表示するテレビ受像機であるような場合、立体画像補正装置10を立体画像表示装置30に組み込んで構成すると好ましい。このような場合、立体画像補正装置10を立体画像撮影装置20に組み込んで構成すると、放送局側で、膨大な数のテレビ受像機からそれぞれ取得した配置情報とカメラの配置情報とに応じて、それぞれのテレビ受像機に応じた立体画像を生成しなければならないため放送局側の負担が大きくなってしまう。これに対し、立体画像補正装置10を立体画像表示装置30に組み込んで構成すると、膨大な数のテレビ受像機が、各々、放送局から立体画像と配置情報とを取得し、この配置情報と自装置の配置情報とに応じて立体画像を補正すればよいため、利便性が高くなる。
【符号の説明】
【0103】
10 立体画像補正装置
11 第1配置情報取得手段
12 第2配置情報取得手段
13 分配手段
14 第1要素画像変換手段
14a 光波計算手段
14b 位相シフト手段
14c 光波計算手段
15 加算手段
16 再分配手段
17 第2要素画像変換手段
17a 位相シフト手段
17b 光波計算手段
18 結合手段
20 立体画像撮影装置
30 立体画像表示装置

【特許請求の範囲】
【請求項1】
第1要素光学レンズ群を通して被写体を撮影することにより取得された第1要素画像群の光波を補正し、第2要素光学レンズ群を通して立体像として表示される第2要素画像群を生成する立体画像補正装置であって、
前記第1要素光学レンズ群を構成するそれぞれの第1要素光学レンズの配置情報を取得する第1配置情報取得手段と、
この第1配置情報取得手段で取得された前記それぞれの第1要素光学レンズの配置情報に従って、前記第1要素画像群の光波を、要素画像毎に分配する分配手段と、
この分配手段で分配されたそれぞれの要素画像の光波を、当該第1の仮想的な開口群を通過して第2の仮想的な開口群へ伝搬する光波に変換する第1要素画像変換手段と、
この第1要素画像変換手段で変換されたそれぞれの要素画像の光波を前記分配された数だけ加算する加算手段と、
前記第2要素光学レンズ群を構成するそれぞれの第2要素光学レンズの配置情報を取得する第2配置情報取得手段と、
この第2配置情報取得手段で取得された前記それぞれの第2要素光学レンズの配置情報に従って、前記加算手段によって加算された光波を、前記第2要素画像群を構成する要素画像毎に再分配する再分配手段と、
この再分配手段で分配されたそれぞれの要素画像の光波を、当該第2の仮想的な開口群を通過して結像するまでの距離だけ伝搬した光波に変換する第2要素画像変換手段と、
この第2要素画像変換手段で変換された光波を、前記再分配された数だけ結合することで、前記第2要素画像群を生成する結合手段と、を備える
ことを特徴とする立体画像補正装置。
【請求項2】
第1要素光学レンズ群を通して被写体を撮影することにより取得された第1要素画像群の光波を補正し、第2要素光学レンズ群を通して立体像として表示される第2要素画像群を生成するために、コンピュータを、
前記第1要素光学レンズ群を構成するそれぞれの第1要素光学レンズの配置情報を取得する第1配置情報取得手段、
この第1配置情報取得手段で取得された前記それぞれの第1要素光学レンズの配置情報に従って、前記第1要素画像群の光波を、要素画像毎に分配する分配手段、
この分配手段で分配されたそれぞれの要素画像の光波を、当該第1の仮想的な開口群を通過して第2の仮想的な開口群へ伝搬する光波に変換する第1要素画像変換手段、
この第1要素画像変換手段で変換されたそれぞれの要素画像の光波を前記分配された数だけ加算する加算手段、
前記第2要素光学レンズ群を構成するそれぞれの第2要素光学レンズの配置情報を取得する第2配置情報取得手段、
この第2配置情報取得手段で取得された前記それぞれの第2要素光学レンズの配置情報に従って、前記加算手段によって加算された光波を、前記第2要素画像群を構成する要素画像毎に再分配する再分配手段、
この再分配手段で分配されたそれぞれの要素画像の光波を、当該第2の仮想的な開口群を通過して結像するまでの距離だけ伝搬した光波に変換する第2要素画像変換手段、
この第2要素画像変換手段で変換された光波を、前記再分配された数だけ結合することで、前記第2要素画像群を生成する結合手段、として機能させる
ための立体画像補正プログラム。
【請求項3】
第1要素光学レンズ群を通して被写体を撮影することにより取得された第1要素画像群の光波を補正し、第2要素光学レンズ群を通して立体像として表示される第2要素画像群を生成し、この第2要素画像群を立体像として表示する立体画像表示装置であって、
前記第1要素光学レンズ群を構成するそれぞれの第1要素光学レンズの配置情報を取得する第1配置情報取得手段と、
この第1配置情報取得手段で取得された前記それぞれの第1要素光学レンズの配置情報に従って、前記第1要素画像群の光波を、要素画像毎に分配する分配手段と、
この分配手段で分配されたそれぞれの要素画像の光波を、当該第1の仮想的な開口群を通過して第2の仮想的な開口群へ伝搬する光波に変換する第1要素画像変換手段と、
この第1要素画像変換手段で変換されたそれぞれの要素画像の光波を前記分配された数だけ加算する加算手段と、
前記第2要素光学レンズ群を構成するそれぞれの第2要素光学レンズの配置情報を取得する第2配置情報取得手段と、
この第2配置情報取得手段で取得された前記それぞれの第2要素光学レンズの配置情報に従って、前記加算手段によって加算された光波を、前記第2要素画像群を構成する要素画像毎に再分配する再分配手段と、
この再分配手段で分配されたそれぞれの要素画像の光波を、当該第2の仮想的な開口群を通過して結像するまでの距離だけ伝搬した光波に変換する第2要素画像変換手段と、
この第2要素画像変換手段で変換された光波を、前記再分配された数だけ結合することで、前記第2要素画像群を生成する結合手段と、
この結合手段で生成された前記第2要素画像群を表示する表示素子と、
この表示素子から出力された要素画像の光波を通過させる前記第2要素光学レンズ群と、を備える
ことを特徴とする立体画像表示装置。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7】
image rotate

【図8】
image rotate

【図9】
image rotate

【図10】
image rotate

【図11】
image rotate


【公開番号】特開2012−220614(P2012−220614A)
【公開日】平成24年11月12日(2012.11.12)
【国際特許分類】
【出願番号】特願2011−84374(P2011−84374)
【出願日】平成23年4月6日(2011.4.6)
【出願人】(000004352)日本放送協会 (2,206)
【Fターム(参考)】