説明

画像表示装置、画像表示システム、及び3次元眼鏡

【課題】水平視差を利用した立体視画像の視聴において、視聴者が頭部を傾けると両目に縦方向の視差が生じ、疲労や立体視の異常を起こす。
【解決手段】画像表示システムは、視聴者の左目に提示する画像と右目に提示する画像を蓄積している画像蓄積部と、前記視聴者の左眼球と右眼球の位置と撮像時の左カメラと右カメラの位置の差分量を検出する左右眼球水平差分量検出部と、前記画像蓄積部で蓄積されている画像の奥行き情報と、前記左右眼球水平差分量検出部で検出された前記位置の差分量とを用いて、前記画像蓄積部で蓄積されている画像の補正量を決定する補正量決定部と、前記補正量決定部で決定された補正量に基づいて前記画像蓄積部で蓄積されている画像を補正する画像処理部とを有する。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、画像表示装置、画像表示システム、及び3次元眼鏡に関する。
【背景技術】
【0002】
近年、映画等を3次元映像で見る機会が増えている。3次元映像を視聴できる家庭用のテレビ及びコンピュータディスプレイの普及とともに、3次元映像のテレビコンテンツ又は3次元映像のゲームも広まりつつある。
【0003】
3次元映像は、右目に提示する画像と左目に提示する画像との間に視差を作ることで、視聴者に奥行きがあるように錯覚させる。1つのディスプレイで左右の目に異なる画像を提示する方法は、大きく分けて2種類ある。
【0004】
ディスプレイ面においたレンズ又はバリアにより、ディスプレイから出力する光の向きを調節して左右の目に異なる画像を提示する方法がある。この方法は、眼鏡を使用しない。
【0005】
また、専用の眼鏡を用いて、フィルタまたはシャッタにより左右の目に届く光を選択する方法がある。
【0006】
レンズやバリアによる方式は、右目用の画像、左目用の画像を垂直方向に細かく分割して、特定の視点の視聴者の右目に右目用の画像のみが提示され、左目に左目用の画像のみが提示される。
【0007】
レンティキュラレンズを利用する方法では、垂直方向に細かく分割された右目用画像と左目用画像とを水平方向に交互に並べて同時に提示し、レンズの屈折率の違いを利用して、水平方向に並べられた右目用画像と左目用画像をそれぞれ視聴者の右目方向と左目方向へ提示する。
【0008】
パララックスバリアと呼ばれる遮光バリアを利用する方式では、右目用画像と左目用画像を交互に提示し、右目用画像を提示する期間では、パララックスバリアにより視聴者の左目方向への光を遮断し、左目用画像を提示する期間では、パララックスバリアにより視聴者の右目方向への光を遮断する。
【0009】
左右の目への画像の提示を60Hz程度より早くすることで、視聴者は左右の画像の切り替えに気づかず、両目の情報を融像して立体視することができる。
【0010】
専用眼鏡のシャッタによる方式では、左右の画像を交互に提示し、右目用画像が提示されている期間は右目のみシャッタを開き、左目用画像が提示されている期間は左目のみシャッタを開くことで、右目用画像を右目のみに提示し、左目用画像を左目のみに提示する。
【0011】
左右画像の切り替えを60Hz程度以上の速さで行うことで、視聴者は左右の画像の時間差を感じることなく、左右の画像を融像して立体視することができる。
【0012】
図1(a)に、上記のような立体視の仕組みにおける、ディスプレイ表示と目の位置および知覚される奥行き、すなわち仮想位置を模式的に示したものである。
【0013】
左目及び右目に視差のある画像を提示することにより、人間はその画像を立体に見ることができる。「視差」とは、左右の目の間の距離により、同一対象物を見た場合に生じる画像の差である。
【0014】
現在の立体視画像による映画、ゲーム、又はビデオの映像コンテンツは、左右の視差を画面の水平軸方向に作っている。すなわち視聴者は図1(a)の右から見た配置および頭の後ろから透過した配置に示すように、画面の水平軸に両目を結んだ線をあわせて見ることで、立体映像を楽しむことができる。
【0015】
しかしながら、人間は頭の向きを長時間まっすぐに保っていることができない。視聴者は、映像コンテンツを見ている間、いすにもたれる、あるいは寄りかかる等、姿勢を変える。視聴者が体を傾けたり、首を傾けたりすることで、視聴者の両目を結んだ線は画面の水平軸とずれてしまう。
【0016】
また、ヨガやフィットネスやダンスの練習用コンテンツのように、視聴者が映像コンテンツにしたがって身体を動かすコンテンツもある。このようなコンテンツでは、映像コンテンツにあわせて視聴者が体や頭を傾けたり、横臥するため、視聴者の両目を結んだ線は画面の水平軸とずれてしまう。すなわち、リラックスした姿勢でコンテンツを視聴する場合や体を動かすためのコンテンツに従って体を動かす場合には、立体映像を視聴することができなくなる。
【0017】
図1(b)に、頭を画面に向かって左に傾けた状態で立体映像を見る状態を模式的に示す。図1(b)の右図の頭の後ろから透過した配置の図では、図1(a)に比べて、視聴者の右目が画面下方向へ移動し、視聴者の左目は画面上方向へ移動している。図1(b)の頭の後ろから透過した配置に示すとおり、視聴者の両目を結んだ線は画面の水平軸とずれている。頭を傾けても両目の間の距離は変わらないため、画面の水平方向と平行な方向では、視聴者の両目の間の距離は図1(a)の正しく立体視できる状態と比べて短くなる。また、図1(a)の正しく立体視できる状態では生じなかった視聴者の両目を結んだ線と垂直の方向、すなわち視聴者の頭の縦方向に画像のずれが生じる。すなわち、視聴者の右目に見える画像と左目に見える画像の上下位置がずれて見えることになる。実空間で1つの対象物を両目で見る場合には、左右の視差は目の位置の違いにのみ依存するため、同一の対象物は必ず両目を結んだ線上に見える。図1(b)に示すような、両目を結んだ線と垂直の方向のずれは、実空間でものを見る際には起こらない。そのため、両目を結んだ線と垂直の方向の画像のずれは視聴者にとって非常に不自然で負荷の高いものとなる。
【0018】
上記のような課題に対して、バーチャルリアリティを利用して遠隔操作を行うシステムでは特許文献1のように、視聴者に提供する画像の水平、垂直軸を視聴者の頭部姿勢にあわせて移動させ、画像の水平方向と視聴者の両目を結んだ線とのずれをなくす方法がある。
【0019】
特許文献2には、縦方向のずれを補正する方法が開示されている。具体的には、撮像時に、正確なフレーム位置等を記録し、それに基づいて出力画像をトリミングして縦ずれを補正する。
【0020】
特許文献3は、互いに異なる複数の位置から撮像した画像を用いて、視聴者の視聴姿勢に合わせて画像を提示する方法を開示している。
【先行技術文献】
【特許文献】
【0021】
【特許文献1】特開平9−066489号公報
【特許文献2】特開2006−128842号公報
【特許文献3】特開2010−258583号公報
【発明の概要】
【発明が解決しようとする課題】
【0022】
映像製作時、映像の配信時、あるいは映像の表示時に、立体映像として左右の画像の視差を正しく調整したとしても、映像を視聴する際の視聴者の頭部の傾きを予測することはできない。また、視聴者の頭部の傾きを計測し、左右の画像の水平方向を視聴者の両目を結んだ線とあわせて表示した場合には、画面は頭部とともに傾き、視聴者の両目に正しい視差で画像を表示することができる。しかしながら、画面が頭部とともに傾くと、画面の垂直軸と実際の視聴空間での垂直軸とがずれてしまう。人間は前庭器官により重力加速度を感じており、実際の空間の垂直軸と、画面の垂直軸のずれにより酔ってしまう。立体映像視聴時の視聴者の頭部の傾きに対して、実際の視聴空間の垂直軸を合わせると、正しい視差で左右の画像を提示することができないため視聴者にとって不自然な目の動きを強いることとなり、正しい視差で左右の画像を提示すると実空間との垂直軸のずれから映像酔いを誘発するという課題を有していた。
【課題を解決するための手段】
【0023】
視聴者の左目に提示する画像と右目に提示する画像を蓄積している画像蓄積部と、
前記視聴者の左眼球と右眼球の位置と撮像時の左カメラと右カメラの位置の差分量を検出する左右眼球水平差分量検出部と、前記画像蓄積部で蓄積されている画像の奥行き情報と、前記左右眼球水平差分量検出部で検出された前記位置の差分量とを用いて、前記画像蓄積部で蓄積されている画像の補正量を決定する補正量決定部と、前記補正量決定部で決定された補正量に基づいて前記画像蓄積部で蓄積されている画像を補正する画像処理部とを備える。これにより、撮像時に生成された両目の視差の方向と視聴時の視聴者の頭部の傾きすなわち、両目を結んだ直線の方向とを合致させることができ、視聴者の姿勢にかかわらず、適切な視差で画像を提示することで、疲労や立体視の異常を防ぐことができる。
【0024】
前記撮像時の左カメラと右カメラは水平面上に配置されており、前記視聴者の左眼球と右眼球の位置と撮像時の左カメラと右カメラの位置の差分量は前記視聴者の左眼球と右眼球の水平面からの位置の差分量であることを特徴とする。
【0025】
これにより、撮像時に生成された両目の視差の方向を求める必要がなく、視聴者の左右の眼球の位置のみから画像を補正することができる。
【0026】
前記視聴者の頭部に設置され、前記視聴者の頭部の傾きを測定する傾きセンサを備え、
前記視聴者の左眼球と右眼球の位置と撮像時の左カメラと右カメラの位置の差分量を検出する前記左右眼球水平差分量検出部は前記傾きセンサによって測定された前記視聴者の頭部の傾きを用いて左眼球と右眼球の位置と撮像時の左カメラと右カメラの位置の差分量を検出する。
【0027】
これにより、左右の眼球の位置を検出必要がなく、頭部の傾きから左右の目を結んだ線の傾きを得ることができる。
【0028】
前記左目に提示する画像を前記視聴者の左目のみに提示し、前記右目に提示する画像を前記視聴者の右目のみに提示するためのアクティブシャッタを眼鏡のレンズ部に設けた立体視用眼鏡を備え、前記傾きセンサは前記立体視用眼鏡に設置されている。
【0029】
これにより、傾きセンサを別途視聴者に設置する必要がなく、視聴者は負荷なく立体視画像の視聴を行う際に傾きセンサを装着できる。さらに、立体視画像の視聴時に傾きセンサの装着を忘れることがない。
【0030】
前記立体視用眼鏡は送信部を備え、前記傾きセンサは加速度情報または傾きベクトル情報を受信部を備えたテレビあるいはゲーム機あるいはパーソナルコンピュータに送信する。
【0031】
これにより、視聴者を拘束することなく、画像処理等を行うテレビあるいはゲーム機あるいはパーソナルコンピュータに傾きセンサの情報を伝達することができる。
【0032】
画像を表示する画面部を備え、前記左右眼球水平差分量検出部は前記傾きセンサにより測定された前記視聴者の頭部の傾き情報を用いて、前記画面部の表面の平面と前記視聴者の両目を結んだ線との角度を求め、前記視聴者の左右の眼球間距離の値を補正する。
【0033】
これにより視聴者の姿勢のみでなく、画面に対する顔面の向きによる、撮像時の量が視差と視聴時の両目視差の違いに対しても補正を行い、視聴者の顔面の画面に対する角度にかかわらず、適切な視差で画像を提示することで、疲労や立体視の異常を防ぐことができる。
【0034】
画像を焦点範囲とそれ以外とに分割する画像分割部を備え、前記補正量決定部は前記焦点範囲の前記奥行き情報に基づいて前記画像蓄積部で蓄積されている画像の補正量を決定する。
【0035】
これにより奥行きによって補正量が異なる場合でも、視聴者が注視する焦点範囲の補正を正しく行うことができ、視聴者の注視する範囲で適切な視差で画像を提示することで、疲労や立体視の異常を防ぐことができる。
【0036】
前記焦点範囲は画像の中心部を含む。
【0037】
これにより、視聴者が注視する画面の中心部を焦点範囲とすることができ、補正を正しく行うことができる。
【0038】
前記焦点範囲は画像中の奥行きの最も小さい部分を含む。
【0039】
これにより、視聴者が注視する画面の中心部を焦点範囲とすることができ、補正を正しく行うことができる。
【0040】
視聴者の左目に提示する画像と右目に提示する画像を蓄積している画像蓄積部であって、左目用視点と右目用視点の中点を中心とし、左目用視点と右目用視点の間の距離を直径とする円周上に、円の中心に対して点対象に配置した2視点からの画像を対にして蓄積し、前記視聴者の頭部に設置され、前記視聴者の頭部の傾きを測定する傾きセンサで測定した前記視聴者の頭部の傾きに基づいて、前記画像蓄積部で蓄積されている画像を選択する画像選択部とを備える。
【0041】
これにより、補正計算なしに撮像時に生成された両目の視差の方向と視聴時の視聴者の頭部の傾きすなわち、両目を結んだ直線の方向とをすばやく合致させることができ、視聴者の姿勢にかかわらず、適切な視差で画像を提示することで、疲労や立体視の異常を防ぐことができる。また、処理時間が短いため、速い姿勢の変動にも追随できる。
【0042】
前記視聴者の左眼球と右眼球の位置と撮像時の左カメラと右カメラの位置の差分量を検出する左右眼球水平差分量検出部と、前記画像蓄積部で蓄積されている画像の奥行き情報と、前記左右眼球水平差分量検出部で検出された前記位置の差分量とを用いて、前記画像蓄積部で蓄積されている画像の補正量を決定する補正量決定部と、前記補正量決定部で決定された補正量に基づいて前記画像蓄積部で蓄積されている画像を補正する画像処理部とを備え、前記画像選択部で選択部で選択された前記画像蓄積部で蓄積されている画像を前記画像処理部で補正する。
【0043】
これにより、視聴者の両目を結ぶ直線の傾きにより近い傾きで撮像された画像から補正を行うことができ、補正量が少なくなり、画像処理による画像の劣化を抑えて適切な視差で画像を提示することで、疲労や立体視の異常を防ぐことができる。
【発明の効果】
【0044】
本発明の画像表示装置によれば、頭部を傾けて視聴する場合において、視聴者の感じる疲労又は映像酔いを起こす可能性を低減することができる。すなわち、視聴者は、寝転がる又はもたれるなどの自由な姿勢で、立体視映像を楽しむことができる。
【図面の簡単な説明】
【0045】
【図1】目の位置とディスプレイ表面での対象物の画像の位置と対象物の仮想位置との関係を説明する模式図。
【図2A】視聴者が頭部を傾けて立体視を行う際に見られる左右の目で逆方向の目の動きの模式図。
【図2B】視聴者が正立した状態で立体画像を視聴した際の左右眼球の視点の動きを示す図。
【図2C】目の動きを示す目電位の一例を示すグラフと模式図。
【図3A】実施の形態1における画像表示装置の構成の一例を示すブロック図。
【図3B】視聴者が画像表示システムを利用している様子を示す図。
【図3C】画像表示装置を示す図。
【図3D】3次元眼鏡を装着した視聴者を示す図。
【図4】実施の形態1における画像表示装置を構成する立体視用アクティブシャッタつき眼鏡の一例を示す模式図。
【図5】実施の形態1における画像表示装置の詳細な構成の一例を示すブロック図。
【図6】実施の形態1における両目の垂直方向と水平方向のずれ量の求め方の一例を示す模式図。
【図7】実施の形態1における画像表示装置の詳細な構成の一例を示すブロック図。
【図8A】仮想位置と仮想カメラ位置とを説明する図。
【図8B】実施の形態1における視聴者が頭部を傾けて立体視を行う際の視聴者が注視している対象物の仮想位置と補正方向と補正量の関係を示す模式図。
【図9】実施の形態1における奥行き情報の一例を示す模式図。
【図10】実施の形態1における補正情報の一例を示す模式図。
【図11】実施の形態1における画像表示装置の詳細な構成の一例を示すブロック図。
【図12】実施の形態1にける画像表示装置の処理の流れの一例を示すフローチャート。
【図13A】実施の形態1における頭部傾き計測ステップの詳細な処理のながれの一例を示すフローチャート。
【図13B】実施の形態1における頭部傾き計算での座標系を示した模式図。
【図14】実施の形態1における眼球の垂直、水平のずれ量計算の詳細な処理の流れの一例を示すフローチャート。
【図15】実施の形態1における画面平面に対する視聴者の顔面の角度の関係を説明する模式図。
【図16】実施の形態1における領域分割ステップの詳細な処理のながれの一例を示すフローチャート。
【図17】実施の形態1における補正量決定ステップの詳細な処理のながれの一例を示すフローチャート。
【図18】実施の形態1における画像補正処理ステップの詳細な処理のながれの一例を示すフローチャート。
【図19】実施の形態2における画像表示装置の構成の一例を示すブロック図。
【図20】実施の形態2における画像データの一例を示す模式図。
【図21A】左右のカメラの位置が水平から傾いた画像の組を複数組一度に撮像するためのカメラシステムの一例を示す図。
【図21B】左右のカメラの位置が水平から傾いた状態で撮像した左右の画像と視聴者の頭部の傾きが合致する場合に正常な立体視のための両目視差を実現できることを模式的に示した図。
【図21C】実施の形態2における画像表示装置が蓄積する画像データを撮像するカメラシステムの一例を示す模式図とカメラの組により水平から傾いた方向の視差と視聴者の頭部の傾きの関係を説明する模式図。
【図22】実施の形態2にける画像表示装置の処理の流れの一例を示すフローチャート。
【図23】実施の形態3における画像表示装置の構成の一例を示すブロック図。
【図24】実施の形態3における奥行き情報の一例を示す模式図。
【図25】実施の形態2にける画像表示装置の処理の流れの一例を示すフローチャート。
【図26A】実施の形態4における画像表示システムの構成の一例を示すブロック図。
【図26B】実施の形態4における画像表示装置と3D眼鏡の間の通信手順を説明する図。
【図27】実施の形態4における3D眼鏡から画像表示装置へ送信されるデータの形式の一例を示した図。
【図28】実施の形態4における画像表示装置から3D眼鏡へ送信されるデータの形式の一例を示した図。
【図29】実施の形態4における画像表示システムにおいて3D眼鏡が複数ある場合の構成の一例を示すブロック図。
【図30】実施の形態4における画像表示システムにおいて画像表示装置からそれぞれの3D眼鏡へ送信されるデータの形式の一例を示す図。
【図31】画像表示システムのハードウェア構成を示す図。
【発明を実施するための形態】
【0046】
本願発明者らは、実験により、視聴者が頭を傾けて立体視を行う際に、左目及び右目が異なる上下の動きをするという新たな知見を明らかにした。従来、左目が上に動く時は、右目も上に動くと考えられてきた。しかし、本願発明者らは、視聴者が頭を傾けて立体視する際又は画像自体が傾いている際、視聴者の目は傾きによって生じた縦ずれを修正する方向に動くことを見出した。すなわち、頭を傾けたことにより下に位置する目は上向きに動き、上に位置する目は下向きに動く。
【0047】
図2Aは、視聴者が頭を傾けた場合に生じる頭の縦方向のずれに対して視聴者の目が動く方向を模式的に示す。
【0048】
図2Bは、右に10度回転させて表示した立体画像を、視聴者が正立した状態で、視聴した際の左右眼球の視点の動きを示す。図2Bは、視線検出装置で、視聴者の視点の動きを検出した結果である。
【0049】
図2Cは、視線検出装置の概略図と視線検出に用いる目の映像の例を示す。
【0050】
視線検出装置は、視聴者の眼球に向けて近赤外線を照射し、角膜表面での反射光と瞳孔中心位置を画像処理により求める。それらの相対位置の関係を利用することで、視線を検出する。
【0051】
視線位置が変わると反射光の位置は変わらないが、瞳孔中心位置が変わる。この両者の相対位置関係の変化を利用して、左右の視線を独立に検出する。
【0052】
図2Bに、4つの動きを示す。図2B(a)に、画像の傾きがなく、視聴者の両目を結ぶ線と立体画像の水平軸すなわち視差の方向が一致している際の水平方向の視線の動きを示す。図2B(b)に、垂直方向の視線の動きを示す。図2B(c)に画像が視聴者から見て右周りに10度回転し、視聴者の両目を結ぶ線と立体画像の水平軸が10度ずれた条件での水平方向の視線の動きを示す。図2B(d)に、垂直方向の視線の動きを示す。
【0053】
図2B(a)−(d)の縦軸はディスプレイ上位置に換算された視線の相対移動量である。図2Cのディスプレイの表示サイズを1とする。すなわち、水平方向の移動量はディスプレイの横幅を1とした比で表され、垂直方向の移動量はディスプレイの高さを1とした比で表される。何も出力されていない暗い画面を見ている状態(ターゲットなし)での視線位置の平均を0とする。
【0054】
図2B(a)及び(c)においては、左方向への移動が負の値、右方向への移動が正の値として示されている。
【0055】
図2B(b)及び(d)においては、上方向への移動が負の値、下方向への移動が正の値として示されている。図2Bの横軸は時間を表しており、単位は秒である。約17msごとに測定された左目の視線を○で示し、右目の視線を×で示している。
【0056】
データは40代女性のデータである。ディスプレイは視聴者顔面から90cmの位置に配置した。黒の背景に白抜きの十字図形をターゲットとして提示した。ターゲットは視聴者正面に提示され、立体画像として、図形の奥行きがディスプレイ面より奥30cm、10cm、ディスプレイ面より手前10cm、30cm、50cm、70cmとなるように視差を調節した。ターゲットなしの画面を5秒提示した後、上記の順で各奥行き設定の画面を5秒ずつ提示した。
【0057】
図2B(a)では、ディスプレイより奥のターゲットに対しては右目が右(負側)を、左目が左(正側)を見ている。ディスプレイより手前のターゲットに対しては右目が左(負側)を、左目が右(正側)を見ている。
【0058】
図2B(b)では、ターゲットが提示されている間は、奥行きにかかわらず両目の垂直方向の位置は一定である。
【0059】
画面の水平軸と視聴者の両目を結んだ線とが平行でない場合は、図2(c)に示した水平方向の視線は図2(a)の傾きがない場合に比べて移動量が減っている。
【0060】
図2B(d)に示した垂直方向の視線はディスプレイより奥ではわずかに右目が下(正側)を、左目が上(負側)を見ており、ディスプレイより手前では右目が上を、左目が下を見ている。
【0061】
ただし、ディスプレイの手前70cmでは左目の視線は右目と同様の位置を見ている。これはディスプレイの手前70cmの条件では左右画像の融像ができなかった(視聴者内観報告)ことと合致している。この実験により、視聴者が頭を傾ける等、画面の水平軸と視聴者の両目を結んだ線とが平行でない場合には、実空間あるいは平面画像を見る際には起こらない上下逆向きの目の動きが起こることが示された。これにより、頭を傾けて立体画像を視聴することの負荷が非常に高いことが示された。
【0062】
(実施の形態1)
図3Aは、本実施の形態による画像表示システム1の構成図である。
【0063】
画像表示システム1は、3次元眼鏡400と、左右眼球水平差分量検出部120と、画像蓄積部130と、情報記憶部140と、補正量決定部150と、画像処理部160と、画像提示部170とを備えている。それぞれの構成要素は、有線又は無線により接続されており、相互に情報を送受信する。説明の便宜上、視聴者100を記載している。
なお、画像表示システム1の3次元眼鏡400を除いた構成を、画像表示装置101とも表記する。
【0064】
3次元眼鏡400は、傾きセンサ110と、右目画像遮蔽部401と、左目画像遮蔽部402と、信号受信部403とを備える。3次元眼鏡400とは、3次元映像を視聴するために用いる眼鏡である。
【0065】
図3Bに、視聴者100が画像表示システム1を利用している様子を示す。
【0066】
視聴者100は、3次元眼鏡400を装着し、画像提示部170に提示される画像を視聴する。画像提示部170は、3次元画像及び2次元画像のいずれも表示する。
【0067】
図3C(a)及び(b)は、図3Bに示す画像表示部1を拡大した図である。図3C(a)は、画像表示装置101を正面から見た図であり、図3C(b)は、画像表示装置101を側面から見た図である。
【0068】
本明細書において、画像提示部170に含まれる表示画面の上端を通る方向を、「画面の水平軸」とも表記する。画面の水平軸は、表示画面の横方向と平行な軸である。図3C(a)に示す点線Aが画面の水平軸である。また、図3C(b)に示す紙面に直交する軸が画面の水平軸である。画面の水平軸は、画像表示装置101が設置されている面と平行な軸としても良い。
【0069】
画像提示部170に含まれる表示画面の側端を通る方向を、「画面の垂直軸」とも表記する。画面の垂直軸は、表示画面の縦方向と平行な軸である。図3C(a)及び(b)に示す点線Bが画面の垂直軸である。画面の垂直軸は、重力方向としても良い。画面の垂直軸は、画像表示装置101が設置されている面と垂直な軸としても良い。
【0070】
図3Dは、図3Bに示す3次元眼鏡400を装着した視聴者100を拡大した図である。本明細書において、視聴者100の顎の先から頭部の頂点を結ぶ方向を、視聴者100の頭部の上下軸とも表記する。頭部の上下軸は、正中線とも呼ばれる。正中線とは、
左右対称形の生物体で、前面・背面の中央を頭から縦にまっすぐ通る線である。
【0071】
図3Dに示す点線は、上下軸と、視聴者100の左目及び右目を結ぶ線とである。以下、視聴者100の頭部の傾きは、上下軸、又は視聴者100の左目及び右目を結ぶ線を用いて説明している。
【0072】
視聴者100の頭部が傾くことによって、上下軸と視聴者100の左目及び右目を結ぶ線とは同様に傾く。例えば、重力方向等の基準に対する、上下軸又は視聴者100の左目及び右目を結ぶ線の傾きにより、視聴者100の頭部の傾きを取得できる。
【0073】
以下、各構成要素について、説明する。
【0074】
傾きセンサ110は、視聴者100の頭部の傾きを測定する。図4に示すように、傾きセンサ110は、3次元眼鏡400に形成されている。
【0075】
左右眼球水平差分量検出部120は、視聴者100の頭部の傾きの情報に基づいて、視聴者100の左目及び右目を結ぶ線と、画面の水平軸と平行な軸との距離を計算する。
【0076】
画像蓄積部130は、視聴者100の左目に提示する画像と右目に提示する画像とを蓄積している。画像は、複数の領域を含んでいる。画像蓄積部130は、画像と、画像の領域毎の奥行き情報と対応付けて蓄積しても良い。
【0077】
画像蓄積部130は、複数の画像を含む映像情報を蓄積する。映像情報の例は、映画又はTV放送の番組である。画像蓄積部130は、放送波から映像情報を受信して、一時的に蓄積しても良い。
【0078】
奥行き情報記憶部140は、画像の奥行き情報を記憶する。画像蓄積部130が画像と奥行き情報と対応付けて蓄積している場合は、奥行き情報記憶部140から取得した奥行き情報を記憶する。
【0079】
補正量決定部150は、左右眼球水平差分量検出部120で求められた左目及び右目の垂直方向の距離と、奥行き情報記憶部140に記憶された画像の奥行き情報とに従って、提示する画像の補正方向と補正量とを決定する。
【0080】
画像処理部160は、補正量決定部150で決定された補正方向と補正量とにしたがって、画像蓄積部130に蓄積された画像を補正する。
【0081】
画像提示部170は、画像処理部160で処理された画像を表示する。画像提示部170は、ディスプレイ等の表示画面を含む。
【0082】
信号受信部403は、画像提示部170が右目に提示する画像及び左目に提示する画像を表示するタイミングを、画像表示装置101から受け付ける。例えば、画像表示装置101に含まれる画像提示部170から受け付ける。タイミングとは、提示する時刻でも良いし、提示するまでの時間等でも良い。
【0083】
左目画像遮蔽部401は、右目に提示する画像が提示されるタイミングにおいて、左目が画像を見えないように遮蔽する。一方、右目画像遮蔽部402は、左目に提示する画像が提示されるタイミングにおいて、右目が画像を見えないように遮蔽する。左目画像遮蔽部401及び右目画像遮蔽部402は、例えば、液晶シャッター等により構成される。
【0084】
図31は、画像表示装置101のハードウェア構成を示す。画像表示装置101は、CPU30と、メモリ31とを備えている。CPU30と、メモリ31とは、互いにバス34で接続されており、相互に情報を送受信する。
【0085】
CPU30は、メモリ31に格納されているコンピュータプログラム35を実行する。コンピュータプログラム35には、後述するフローチャートに示される処理手順が記述されている。左右眼球水平差分量検出部120と、補正量決定部150と、画像処理部160とは、CPU30とメモリ31で構成される。画像蓄積部130と奥行き情報記憶部140とは、メモリ31で構成される。メモリ31は、一次記録装置又は二次記録装置でも良い。
【0086】
複数のCPU30及び複数のメモリ31で構成されても良い。具体的には、左右眼球水平差分量検出部120、補正量決定部150、及び画像処理部160がそれぞれ異なるCPU30で構成され、画像蓄積部130及び奥行き情報記憶部140がそれぞれ異なるメモリ31で構成されても良い。
【0087】
図5は、画像表示システム1に含まれる傾きセンサ110の詳細な構成を示す。傾きセンサ110は、ジャイロセンサ111と、傾き計算部112と、送信部113とを備える。
【0088】
ジャイロセンサ111は、視聴者100の頭部の角速度を計測する。
【0089】
傾き計算部112は、ジャイロセンサ111から出力された加速度情報から視聴者の頭部の上下軸の傾きを計算する。
【0090】
送信部113は、傾き計算部112で計算された頭部の傾きの情報を、無線、赤外線、又は光通信を用いて、画像表示装置101に送信する。送信部113は、例えば、左右眼球水平差分量検出部120に、頭部の傾きの情報を送信する。
【0091】
傾き計算部112は、例えば、製造時、出荷時、又は販売時に、眼鏡の左右のレンズが水平である場合に、重力加速度方向を傾き−90度、かつ、重力加速度方向と逆向きを傾き90度として調整する。
【0092】
本実施の形態1では、視聴者100が3次元眼鏡400を正しくかけた場合に、眼鏡の水平軸が、視聴者100の両目を結んだ直線と平行になると仮定する。3次元眼鏡400の装着によるずれ又は傾きは無視しうる。
【0093】
図6は、画面平面の垂直軸方向に対して、視聴者100の右目と左目との距離の計算方法を示す。
【0094】
左右眼球水平差分量検出部120は、視聴者100の右目と左目との距離の情報を予め保持する。左右眼球水平差分量検出部120は、傾きセンサ112で計算した視聴者100の頭部の傾きの情報(θ)を受け付ける。視聴者100の右目と左目との距離の情報は、例えば、両目の瞳孔中心の間の距離(w)である。
【0095】
左右眼球水平差分量検出部120は、視聴者の頭部の傾きに基づいて、画面平面の垂直軸方向において視聴者100の右目と左目との距離を計算する。図6に示すように、画面平面の垂直軸方向において視聴者100の右目と左目との距離は、wsinθである。
【0096】
図7は、補正量決定部150の詳細な構成を示す。補正量決定部150は、焦点対象範囲決定部151と、補正領域分割部153と、補正量計算部152とを備える。
【0097】
焦点対象範囲決定部151は、奥行き情報記憶部140に記憶された奥行き情報に従って、焦点対象物の候補が提示されている画像範囲を決定する。
【0098】
「焦点対象物」とは、画像中の視聴者100が注視する対象物を指す。焦点対象物は、画面の中心にある対象物、又は、最も手前に見える対象物である。ここでは、画像中の最も手前、すなわち仮想位置が視聴者に近い位置に設定されている対象物を焦点対象物とする。
【0099】
図8A(a)及び(b)に、仮想位置と仮想カメラ位置と位置関係を示す。視聴者100を上面から見た図である。図8A(a)において、表示画面より視聴者100に近づいた位置に対象物80がある。これは、視聴者100は、表示画面から飛び出している対象物80が見えていることを意味する。図8A(b)において、表示画面より視聴者100に遠い位置に対象物80がある。これは、視聴者100は、表示画面より奥に対象物80が見えていることを意味する。
【0100】
本明細書では、対象物80の位置を「仮想位置」と表記する。視聴者100の目の位置を「仮想カメラ位置」と表記する。
【0101】
補正領域分割部153は、画面の全体を複数の領域に分割する。
【0102】
補正量計算部152は、左右眼球水平差分量検出部120で計算された両目の垂直軸方向の距離と焦点対象範囲の奥行き情報に基づいて焦点対象範囲の垂直方向の補正量を計算する。
【0103】
図8Bは、補正量の計算方法を模式的に示す。
【0104】
補正量決定部150は、左右眼球推定差分量検出部120で検出された両目の垂直方向の距離に基づいて、焦点対象物の表示位置の補正量を計算する。
【0105】
このとき、両目の視野中で視聴者の頭の上下軸の上で同じ高さに焦点対象物が提示されるには、画面表示位置を垂直にずらすことで、両目の垂直方向のずれ分を補償する必要がある。
【0106】
焦点対象物の仮想位置が画面より視聴者100に近い位置である場合には、視聴者100の左右の目の高さの位置関係とは逆方向に画面上の焦点対象部物を移動することで補正する。
【0107】
焦点対象物の仮想位置が画面より奥、すなわち画面より視聴者から遠い位置にある場合には、視聴者の左右の目の垂直方向の位置関係と同じ方向に画面上の焦点対象物を移動することで補正する。
【0108】
焦点対象物の補正量の計算は、両目の瞳孔中心の間の距離をwとすると図5に示したように垂直方向の両目間の距離はwsinθとなる。
【0109】
画面から視聴者の両目の中点までの距離をLとし、視聴者の顔面から立体画像で表示される焦点対象物の仮想位置までの距離をdとする。このとき補正量δはδ=wsinθ(L−d)/dで表される。
【0110】
図9(a)に、奥行き情報記憶部140が記憶する奥行き情報の一例を示す。画面を領域に分割し、撮像時のカメラ位置または想定カメラ位置から領域内の被写体までの距離情報が記憶されている。これはカメラ位置と視聴者の目の位置が同じとして、図8(d)にあたる。図9(a)の例では、画面から2.7m(2700mm)の位置を想定カメラ位置としている。画面から3mはなれた場所にいる視聴者100が、映像を視聴していることを想定している。
【0111】
画面の高さ対する3倍離れた位置で、視聴者は画面に表示された映像を視聴するのが良いとされている。
【0112】
図9(a)は、16:9の横と縦の比を有し、その縦の長さが約90cmである、70インチの大きさを有する画面の例である。これより小さい画面あるいは大きい画面においては、その画面サイズに合わせて、奥行き情報が記憶されている。
【0113】
図9(a)では、画面を16の領域に分割している。しかし、さらに細かく分割しても、あるいは1ピクセルごとに奥行き情報を蓄積してよい。
【0114】
奥行き情報は、例えば、画面上の位置を特定するインデックスと、領域内のカメラに近い点におけるカメラ位置から被写体までの距離と、表示画面平面からの相対位置とを含む。
【0115】
表示画面に平行な平面からの相対位置は、表示画面に平行な平面の位置を0として、視聴者から遠ざかる方向を正、視聴者に近づく方向を負の数値で表す。表示画面に平行な平面を、「表示画面平面」とも表記する。図8に示すL−dが相対位置の例である。
【0116】
領域内の距離の代表値は、領域内のカメラ位置から被写体までの距離の平均、中央値、最頻値でもよい。また領域内の最もカメラから遠い点におけるカメラ位置からの被写体までの距離としてもよい。
【0117】
焦点対象範囲決定部151は、図9に示された距離情報を用いて、最も奥行きすなわち視聴者からの距離が小さい領域21及び領域31を、焦点対象範囲として決定する。補正量計算部152は、焦点対象範囲決定部151が決定した焦点範囲である領域21及び領域31に対する補正量と、それ以外の領域に対する補正量とを決定する。
【0118】
図10は、補正計算部152が出力する補正量情報の一例を示す。画面を領域に分割し、焦点対象範囲として決定された領域とその領域に対応する補正量が補正量計算部152より出力される。
【0119】
図10に示す値は、視聴者の両目を結んだ線は画面平面に対して平行であり、画面の水平軸に対して10度の傾きがある場合の値である。
【0120】
図10は、補正計算部152が出力した値を、図9に示した奥行き情報記憶部140の領域分割に従って示す。奥行き情報の領域分割がより細かい場合には、奥行き情報の勾配に従って、領域分割しても良い。例えば、同様の奥行きを持つ領域をまとめて、新たな領域分割の境界を設定する。
【0121】
図10は、焦点対象範囲である領域21及び領域31に、同一の補正量を設定している。垂直方向と水平方向の補正量は領域21の奥行き情報に基づいて計算された値を適用する。図10では、垂直方向の補正量を22.57mmとし、水平方向の補正量を1.97mmとする。
【0122】
それ以外の領域については水平方向の補正量は1mmより小さく2.7m離れて見る視聴者への影響が小さいため0mmとする。領域11と領域22は表示内容が、表示画面より視聴者に近い位置にあり、領域21と領域31についで奥行きが小さく、補正量が大きい。そこで、領域11、領域12と領域22とを1つにまとめ、垂直方向の補正量はより奥行きの小さい領域11の奥行き情報に基づいて計算された値を適用する。例えば、最も小さい奥行き量から所定の範囲内の奥行き量を有する領域を1つにまとめる。
【0123】
表示内容までの距離が表示画面より遠い場合、遠ければ遠いほど画像位置のずれは計算上大きくなるが、実際には表示画面より遠い対象物におけるずれの影響は小さいことが知られている。そこで距離情報が無限遠となっている領域00、領域01、領域03では視聴者からの距離3700mmすなわち表示画面の後方約1mの位置の補正量にあわせて垂直方向の補正量を3mmとする。上記以外の領域は表示画面の前後1m程度であり、これらの領域のずれ量は比較的小さいため、垂直補正値、水平補正値とも0mmとする。
【0124】
なお、図9(a)に示す数値は一例であるので、これ以外の数値でもよい。焦点対象範囲とそれ以外に分割して補正値を決定するとしてもよい。また、焦点対象範囲の表示内容が表示画面より視聴者に近い位置にある場合は、領域を、焦点対象範囲と、焦点対象範囲以外で表示内容が表示画面より視聴者に近い位置にある領域と、表示内容が表示画面より視聴者から遠い位置にある領域との3つに分割して補正値を決定するとしてもよい。所定の基準により、表示画面の全領域を3つの領域に分割する。例えば、それぞれの領域に関する所定の割合に基づいて、
この場合、焦点対象範囲の表示内容が表示画面より視聴者から遠い位置にある場合には、焦点対象範囲とそれ以外の2つの領域に分割して補正値を決定する。
【0125】
なお、ここでは焦点対象範囲を表示内容が視聴者に最も近い位置にある領域としたが、焦点対象範囲を画面の中心部とした場合には、焦点対象範囲として取り扱う領域の広さを、表示内容の位置の分布より調節するとしてもよい。中心からの距離と表示内容の位置の分布とに従って領域を分割して補正値を決定するとしてもよい。
【0126】
図11は、本実施の形態による画像表示システム1の詳細な構成を示す構成図の一部である。画像処理部160は、画像蓄積部130に蓄積された画像に対して、補正量決定部150から出力された補正量情報に基づき、各領域の表示位置を補正する領域補正処理部161と、領域ごとに異なる補正量による表示位置の補正により発生した領域境界の空白部とその周辺に対して補間処理を行う境界領域処理部162により構成される。
【0127】
図12は、本実施の形態の画像表示システム1の処理手順を示すフローチャートである。図13A、図14は画像表示システム1の処理手順の一部を詳細に示したものである。以下処理手順を図11から図13Aに従って説明する。
【0128】
画像表示システム1に対して、図示しない入力部より、画像表示指示信号の入力に従って処理を開始する(S1010)。入力部は例えば視聴者が入力するボタン等である。画像表示指示信号は、例えば視聴者が入力するボタン等の信号やタイマーなどにより自動で生成された信号である。
【0129】
画像表示システム1の図示しない制御部は、画像表示終了信号の入力の有無を確認する。画像表示終了信号は、例えば視聴者が入力するボタン等の信号やタイマーなどにより自動で生成された信号である(S1020)。制御部が、画像表示終了信号の入力があると確認した場合、画像表示システム1は処理を終了する(S1100)。ステップS1020において、制御部が、画像表示終了信号の入力がないと確認した場合、ステップS1030に進む。
【0130】
傾きセンサ110が、視聴者100の頭部の傾きを計測する(S1030)。計測の手順については後述する。
【0131】
左右眼球水平差分量検出部120は、所定の基準を用いて、視聴者100の頭部が傾いているか否かを判断する(S1040)。例えば、所定の基準を5度とする。視聴者100の頭部が、視聴者100の両目を結ぶ直線が水平面から5度以上傾いている場合に、視聴者100の頭部が傾いていると判断する。所定の基準は、所定の閾値のみではなく、所定の範囲でも良い。
【0132】
左右眼球水平差分量検出部120は、視聴者100の頭部の傾きの情報を用いて、左右眼球の垂直方向と水平方向とのずれ量を計算する(S1050)。ずれ量の計算手順については後述する。
【0133】
補正量決定部150は、同一の補正処理を施す1つ以上の領域を決定する。補正量決定部150は、決定した領域を分割する(S1060)。補正量決定部150は、分割した領域ごとの補正量を決定する(S1070)。領域分割の方法と補正量の決定方法は後述する。
【0134】
画像処理部160は、ステップS1070で決定された領域ごとの補正量に基づいて画像の補正処理を行う(S1080)。画像の補正方法については後述する。
【0135】
画像提示部170は、ステップS1080で補正処理された画像を表示する(S1090)。ステップS1020からステップS1090を繰り返して画像表示終了信号が入力されるまで画像表示を継続する。
【0136】
図13Aに、ステップS1030の詳細な処理を示す。
【0137】
ジャイロセンサ111は、左目用と右目用の画像を分離するための眼鏡400にかかっている加速度を計測する(S1031)。加速度は、例えば眼鏡400のシャッタ面を構成する垂直の上下2軸と、水平の左右2軸と、さらにシャッタ面に直交する水平平面上で奥行き方向の2軸との、合わせて6軸の加速度を計測する。例えば、50ms毎に1回計測する。
【0138】
傾き計算部112は、ジャイロセンサ111で計測された加速度を蓄積する。例えば、10回分(0.5秒間)の各軸の加速度を、傾き計算部112が有する蓄積部に蓄積する。
【0139】
傾き計算部112は、0.5秒間の6軸それぞれに加えられた加速度の変動を求める。傾き計算部112は、所定の基準を用いて、変動が大きいか否かを判断する(S1032)。変動は、例えば加速度の分散、標準偏差または最大値と最小値の差分等である。
【0140】
本実施の形態では変動を示す値としてシャッタ面を構成する垂直の上下2軸における加速度を、上を正、下を負としてまとめ、標準偏差を計算する。例えばシャッタ面上下軸で、0.5秒間で計測された加速度の標準偏差が0.5Gを超える場合は変動が大きいと判断する。
【0141】
ステップS1032で変動が大きいと判断された場合は、ステップS1031に戻りジャイロセンサ111は、再度加速度を計測する。ステップS1032で変動が大きくないと判断された場合は、ステップS1033に進む。変動が大きくない場合、視聴者100の頭部の傾きが計算できる。
【0142】
傾き計算部112は、6軸それぞれに加えられた加速度から重力加速度のベクトルを合成する(S1033)。頭部にかかる加速度は、重力加速度と運動による加速度の2つである。計測される加速度は重力加速度と運動による加速度の合成ベクトルを6軸に分解される。激しい運動が行われていない場合、運動加速度は小さく、重力加速度1Gに対して無視できる。そこで、6軸の合成ベクトルを重力加速度ベクトルとする。
【0143】
このベクトル方向が鉛直方向である。傾き計算部112は、S1033で合成された重力加速度ベクトルと、眼鏡400のx軸、y軸、z軸との角度ωx、ωy、ωzを求める(S1034)。
【0144】
図13B(a)及び(b)に、ジャイロセンサ111の計測座標系及び重力加速度を基準として、計測されるユーザの頭部の傾きを模式的に示す。図13B(a)は、視聴者100を正面から見た図である。
【0145】
6軸に含まれるx軸は、眼鏡400のシャッタ面上の水平軸である。例えば、図13B(a)に示す視聴者100の右側(左目側)を正、視聴者100の左側(右目側)を負とする。
【0146】
6軸に含まれるy軸は、シャッタ面上の垂直軸である。例えば、視聴者100の頭部の上側(頭頂側)を正、視聴者100の下側(あご側)を負とする。
【0147】
6軸に含まれるz軸は、シャッタ面と直交する軸である。シャッタ面と直交する軸とは、視聴者100の身体の前後方向の軸である。例えば、視聴者100の前側を正、視聴者100の後ろ側を負とする。
【0148】
図13B(a)に、視聴者100の頭部が真っ直ぐ立っている状態を示す。図13B(a)に示す場合、重力加速度によりy軸方向に、1Gの力が働く。x軸及びz軸方向には、重力加速度により力が働かない。
【0149】
図13B(b)に、視聴者100の頭部が傾く状態を示す。図13B(b)に示す場合、視聴者100の頭部の傾きにより眼鏡が傾くと、眼鏡400に固定されたジャイロセンサ111の計測軸が傾く。
【0150】
重力加速度は一定であるため、傾いた計測軸と重力加速度との角度ができる。傾き計算部112は、重力加速度ベクトルと計測軸のx軸、y軸、z軸との角度ωx、ωy、ωzを求め、左右眼球水平差分量検出部120に出力する。
【0151】
図14に、ステップS1050の詳細な処理を示す。
【0152】
左右眼球水平差分量検出部120は、傾き計算部112より出力された視聴者の頭部の角度が表示画面に対して平行かどうかを判断する(S1051)。具体的には、視聴者100の両目を結んだ線と、表示画面に平行な面との角度が平行か否かを判断する。視聴者100の頭部が表示画面に対して平行な場合、視聴者100の頭部が表示画面に対して正面を向いているとみなせる。
【0153】
視聴者100が映像を視聴している際、通常、表示画面に対して視聴者100の頭部は正面を向いている。視聴者100が座っている椅子の配置、又は視聴者100の姿勢によって、表示画面に対して視聴者100の頭部が正面を向いていない場合がある。この場合は、表示画面に平行な平面から見た視聴者100の右目及び左目との距離は小さくなるため、右目と左目との間の距離補正を行う。
【0154】
ただし、以下の場合には、表示画面に対して視聴者100の頭部が正面を向いていない場合でも、視聴者100の両目間の距離を補正する必要が無い。例えば、視聴者100が表示画面に対して下を向いているとき、視聴者100が表示画面に対して上を向いている場合、視聴者100が表示画面を全く見ていない場合がある。また、視聴者100が表示画面を見ている場合でも、視聴者100が伏目になっている場合がある。この場合は、両目が視聴者100の顎に近づいている。しかし、表示画面に平行な面から見た両目の距離は変わらない。視聴者100が上目遣いになっている場合も同様である。
【0155】
左右眼球水平差分量検出部120は、視聴者100の頭部の前後方向の傾きωzが所定の基準を満たすか否かを判断する。例えば、所定の基準は、10度以上である。又は、所定の基準は、10度から30度の範囲である。
【0156】
傾きωzが10度以上である場合は、左右眼球水平差分量検出部120は、視聴者100の左右の眼球の間の距離を補正する(S1052)。
【0157】
図15に、表示画面と視聴者100の眼球とを上面から見た様子を示す。図15に示すように、表示画面に平行な面(1500)と、視聴者100の右目及び左目を結んだ線(1501)とが平行ではない。この場合、表示画面に平行な面と、視聴者100の両目を結んだ線とがなす角がωzである。よって、視聴者100の右目及び左目の距離はwcosωzとなる。
【0158】
w=6.5cmの場合、視聴者100の右目及び左目の距離は6.5×cosωz(cm)である。例えば、ωzが10度の場合の視聴者100の右目及び左目の距離は、ωzが0度の場合の視聴者100の右目及び左目の距離と比べて、約1.5%短い6.4cmとなる。
【0159】
ωzが10度以上である場合、視聴者100の右目及び左目の距離をwcosωzに補正する。ステップS1051においてωzが10度未満であれば、両目間距離の補正を行わず、ステップS1052へ進む。ステップS1052では、(表示画面と平行な面において、両目の位置が画面の水平方向、垂直方向からずれる距離を求める(S1053)。
【0160】
図6に示すように、画面垂直方向の左右の目の位置の差は両目の距離のsinωx倍すなわちwsinωxである。画面水平方向の左右の目の位置の差はw(1−cosωx)となる。ステップS1051でωzが10度以上であった場合は、垂直軸上の左右眼球の距離はwcosωz・sinωxとなる。水平方向の左右の目の位置の差はwcosωz(1−cosωx)となる。
【0161】
図16に、ステップS1060とステップS1070の詳細な処理を示す。
【0162】
焦点対象範囲決定部151は、奥行き情報記憶部140に記憶された奥行き情報に基づき、処理時点の映像中にある被写体のうち、仮想位置が最も視聴者に近い被写体が占める画面上の領域を焦点領域として決定する(S1061)。
【0163】
補正領域分割部153は、各領域内の被写体の仮想位置に従って、前方補正領域と後方補正領域とに映像領域を分割する(S1063)。
【0164】
補正領域分割部153が、表示画面の全領域のうち、焦点領域以外の領域を、前方補正領域又は後方補正領域と決定する(S1062)。
【0165】
所定の基準より小さい飛び出し量を有する領域を、前方補正領域と決定する。例えば、所定の基準は、1m未満である。
【0166】
所定の基準以上の飛び出し量を有する領域を、後方補正領域と決定する。例えば、所定の基準は、1m以上である。
【0167】
補正領域分割部153は、ステップS1061で決定した焦点領域を補正領域と決定する。表示画面の全領域のうち、焦点領域以外の領域(前方補正領域及び後方補正領域)を、非補正領域と決定する。非補正領域に存在する物体の仮想位置は、補正領域に存在する物体のより、表示画面に近いため、補正しない。
【0168】
非補正領域は仮想位置が表示画面平面から視聴者側へ1m飛び出した位置から表示画面より1m視聴者から遠ざかった位置までの領域である。
【0169】
図9(a)に示す例では、非補正領域は、領域02、10、12、13、20、23、30、32、33である。
【0170】
本実施の形態では、表示画面からの飛び出し1m未満と遠ざかる位置1m未満を非補正領域としたが、表示画面と視聴者100との距離(例えば、2.7m)にも基づいて決定してもよい。または、表示画面と視聴者100との所定の距離の割合の位置の比で設定しても良い。具体的には、表示画面と対象物との距離、及び対象物と視聴者100との距離の比である。
【0171】
奥行き情報記憶部140が、図9(a)に示すように、表示画面を16個に分割した領域毎に、奥行き情報を保持している場合について説明する。図9(b)に、各領域の奥行き情報の分布を示す。図9(b)の縦軸は、領域の数であり、横軸は、奥行き量である。
【0172】
図9(b)に示すように、2つの領域が有する500mm以上1000mm以下の奥行き量は、その他の領域が有する奥行き量に比べて小さい。小さい奥行き量を有する領域に存在する被写体は、その他の領域の被写体より仮想位置が視聴者に近い。
図9(a)の例では、領域21及び領域31の2つの領域を、焦点領域として決定する。小さい奥行き量を有する領域を抽出するために、奥行き量の分布を用いて行ったが、
奥行き情報記憶部140がより細かく分割した領域毎に奥行き量を有している場合には、最も小さい奥行き量を有する領域から順に所定の数の領域を、焦点領域と決定してもよい。所定の数ではなく、全ての領域の数に対する所定の割合としても良い。例えば、所定の割合を10%とする。
【0173】
また、最も小さい奥行き量を有する領域に基づいて、全ての領域の数に対する所定の割合の領域を補正領域と決定してもよい。具体的には、最も小さい奥行き量を有する領域を決定し、最も小さい奥行き量を有する領域と隣り合う領域のうち、最も小さい奥行き量を有する領域を決定する。次に、決定した領域と隣り合う領域のうち、最も小さい奥行き量を有する領域を決定する。
【0174】
最も小さい奥行き量を有する領域と加えた領域との数が、所定の割合と一致するように、領域決定する。または、最も小さい奥行き量を有する領域と加えた領域の面積が、全領域の面積に対して所定の割合になるように、領域を決定する。決定した領域を、補正領域とする。
【0175】
また、最も小さい奥行き量を有する領域から、同じ輻輳角で融像可能な奥行き範囲(立体視の深度)に基づき、最も奥行きの小さい領域を注視した際の輻輳角で融像可能な奥行き範囲を焦点領域として決定するとしても良い。
【0176】
ステップS1070では、補正量計算部152は、S1061で決定した焦点領域である領域21及び領域31と、前方補正領域及び後方補正領域とに対する垂直と水平の補正量とを決定する。
【0177】
図17に、ステップS1070の処理の詳細を示す。
【0178】
補正量計算部152は、焦点領域の補正量を決定するために、全ての焦点領域の奥行きの代表値を決定する(S1071)。
【0179】
図9に示す例では、領域21の奥行き情報を、領域21及び領域31の奥行き情報の代表値とする。
【0180】
従って、より小さい奥行き量を有する領域にあわせて、補正する。本実施の形態の例では、最も奥行きの小さい領域の奥行き情報に合わせて、焦点領域の補正値を定めるとしたが、焦点領域の奥行き分布を作成して、奥行きの最頻値を用いて補正値を定めるとしても良い。また、焦点領域の奥行きの平均あるいは中央値を用いるとしても良い。
【0181】
補正量計算部152は、焦点領域の奥行きとして設定された領域21の奥行きとステップS1050で求められた画面平面上での視聴者の両目の位置に対して、左右の画像の補正値を求める(S1072)。
【0182】
仮想カメラ位置、すなわち視聴者の眼球は、画面平面から2.7mの位置にあり、領域21の奥行きは眼球位置から900mm(図9中の代表値)である。よって、被写体の仮想位置は、画面平面より視聴者に近い。
【0183】
従って、垂直方向の補正値は、視聴者の目の上下位置とは反対の方向に行う。視聴者の頭部の傾きにより右目が左目より高い位置にある場合は右目用画像の垂直位置を下げ、左目用画像の垂直位置を上げる。ステップS1053で計算された頭部の傾き10度に従って図10中の領域21と領域31の垂直補正量22.57mm、水平補正量1.97mmを計算する。
【0184】
補正量計算部152は、前方補正領域の補正値を決定するための、奥行き情報の代表値を決定する(S1073)。前方補正領域は、領域11と領域22である。補正量計算部152は、領域22の奥行き情報を、領域22と領域11との奥行き情報の代表値とする。仮想位置の代表値がより視聴者に近い領域の代表値を、前方補正領域の代表値とする。本実施の形態では最も奥行きの小さい領域の奥行き情報に合わせて、焦点領域の補正値を定めるものとしたが、焦点領域の奥行き分布を作成して、奥行きの最頻値を用いて補正値を定めるとしても良い。
【0185】
補正量計算部152は、前方補正領域の補正値を決定する(S1074)。ステップS1073で決定された代表値と、ステップS1053で計算された頭部の傾き10度とに従って、領域11及び領域22の垂直補正量と水平補正量とを計算する。図10に計算した結果を示す。領域11及び領域22の垂直補正量6.63mm、水平補正量0.58mmである。
【0186】
水平補正量が1mmに満たず、2.7mはなれた位置から視聴する際の影響が無視できるため水平補正量を0とする。ここでは1mm未満の補正量を0としたが、視聴者と画面との距離に応じて基準を調整するあるいは、視聴者と画面との標準距離に対する比で基準を決定するとしても良い。
【0187】
さらに補正量計算部152は後方補正領域の補正値を計算する(S1074)。後方補正領域は本実施の形態では仮想位置が画面から奥へ1m以上離れた領域である。後方補正領域について、補正値は仮想位置が画面から奥へ1mの条件を固定して計算する。ステップS1053で計算された頭部の傾き10度に基づき、図10中の領域00、領域01、領域03の垂直補正量3.0mm、水平補正量0.26mmを計算する。水平補正量が1mmに満たないため水平補正量は0とする。
【0188】
ステップS1080の動作について、図18に従って詳細を説明する。領域補正処理部161は、後方補正領域を切り出す(S1081)。
【0189】
図10の例では、ステップS1060で決定された後方補正領域は領域00、領域01、領域03である。例えば、ステップS1053で計算された頭部の傾きが視聴者の右側が下がる方向に10度とすると、右目用の画面が左目用の画面より垂直方向に下がった位置になるように左右の画像の当該領域を移動する。
【0190】
図10の例では当該領域の垂直補正量は3.0mm、水平補正量は0なので、左右の画像で1.5mmずつ移動する。移動方向あるいは移動量の異なる他の領域との境界で、画像に隙間ができないよう、ステップS1081での領域の切り出しは、移動方向と反対向きに領域を移動量だけ拡張して切り出す。
【0191】
図10の例では当該領域はいずれも画像の上端部分であり、当該領域より垂直方向の上の位置には画像データが存在しない。本実施の形態の例では垂直方向下向きの移動の際には領域を拡張できないが、垂直方向上向きの移動では移動量に相当する部分を垂直方向下向きに拡張して画像を切り出す。
【0192】
領域補正処理部161は、ステップS1081で切り出した右目用画像を垂直方向下向きに1.5mm移動し、ステップ1081で切り出した左目用画像を垂直方向上向きに1.5mm移動する(S1082)。この際、右目用画像では垂直方向下向きに隣接する領域と当該領域が重なる。重なり部分についての処理は後述する。また、左目用画像では領域の上辺1.5mmは画面に提示されなくなる。
【0193】
さらに領域補正処理部161は、前方補正領域を切り出す(S1083)。後方補正領域と同様に移動方向と反対向きの領域を移動量だけ拡張して切り出す。
【0194】
図10の例では前方補正領域は領域11と領域22である。当該領域の補正量は垂直補正値が6.63mm、水平補正値が0である。前方補正領域では、被写体の仮想位置が画面平面より視聴者側にあるため、ステップS1053で計算された頭部の傾きが視聴者の右側が下がる方向に10度とすると、左目用の画面が右目用の画面より垂直方向に下がった位置になるように左右の画像の当該領域を移動する。
【0195】
本実施の形態の例では右目用の画像については領域を垂直方向下向きに3.315mm拡張した範囲を切り出す。左目用の画像については領域を垂直上向きに3.315mm拡張した範囲を切り出す。領域補正処理部161はステップS1083で切り出した右目用画像を垂直方向上向きに3.315mm移動し、ステップS1083で切り出した左目用画像を垂直方向下向きに3.315mm移動する(S1084)。
【0196】
さらに領域補正処理部161は焦点範囲を切り出す(S1085)。ステップS1081、ステップS1083と同様に移動方向と反対向きの領域を移動量だけ拡張して切り出す。図10の例では焦点範囲は領域21と領域31である。当該領域の補正量は垂直補正値が22.57mm、水平補正値が1.97mmである。
【0197】
本実施の形態では焦点範囲は仮想位置が画面平面より視聴者側にあるため、ステップS1053で計算された頭部の傾きが視聴者の右側が下がる方向に10度とすると、左目用の画面が右目用の画面より垂直方向に下がった位置になるように左右の画像の当該領域を移動する。
【0198】
右目用の画像については領域31が画面の下端であるため、垂直方向下向きへの拡張は不可能である。水平方向には右目用の画像を水平方向左へ0.985mm移動するため領域を右へ0.985mm拡張した範囲を切り出す。左目用の画像については垂直方向上向きに11.285mm拡張し、水平方向には左へ0.985mm拡張した範囲を切り出す。領域補正処理部161はステップS1085で切り出した右目用画像を垂直方向上向きに11.285mm移動し、水平方向左向きに0.985mm移動する(S1087)。
【0199】
境界領域処理部162は、各領域の移動により画像が重なった部分について仮想位置が視聴者からより遠い領域の画像を消去する(S1087)。
【0200】
本実施の形態では後方補正領域と他の領域との重なり部分は後方補正領域の画像を消去し、非補正領域と前方補正領域または焦点範囲との重なり部分は非補正領域の画像を消去する。
【0201】
前方補正領域と焦点範囲との重なり部分は前方補正領域の画像を消去する。境界領域処理部162は領域間の隙間部分が画面の4辺すなわち上端、下端、左端、右端のいずれかに接しているか否かを判断する(S1088)。ステップS1088で領域間の隙間部分が上端、下端、左端、右端のいずれかに接している場合、境界領域処理部162は隙間部分が接している端の画像のうち、隙間より外側にある部分を消去する(S1089)。ステップS1088で領域間の隙間部分が上端、下端、左端、右端のいずれかに接していない場合はステップS1091に進む。
【0202】
ステップS1091では、境界領域処理部162は画像の4辺に接していない隙間について、隣接する領域のうち仮想位置が視聴者からより遠い領域の画像により補完する(S1091)。
【0203】
境界領域処理部162はステップS1060で分割した各領域の領域間の境界を挟む部分に対して境界処理を行う(S1092)。
【0204】
なお、本実施の形態1では補正のための領域分割を焦点範囲と前方補正領域、後方補正領域、非補正領域に分割したが、焦点範囲のみ補正し、他の領域を補正しないものとしても良い。また、画像をあらかじめ定められた奥行き範囲ごとに分割し、奥行きに従って画像の移動および境界領域処理を行うとしても良い。
【0205】
以上のような立体視映像のための画像表示装置は、視聴者の頭部の傾きを計測して、頭部傾きによって視聴者の両目の左右軸と画面の水平軸とのずれをもとめ、頭部傾きによって生じる視聴者の目の上下方向の画像の位置ずれを計算して、被写体の奥行きごとに画像を傾けることなく表示位置を補正して、視差を視聴者の頭部の傾きに合わせてつけた左右映像を表示する。
【0206】
これにより、視聴者が横になったりもたれたりして、両目の左右軸が画面の水平軸とずれても、視聴者は正しい視差で映像を見ることができ、さらに、画像の水平軸と実環境の水平軸がずれないため、映像酔いを起こすことなく映像の視聴を続けることができる。
【0207】
また、ヨガや体操あるいはダンスのように体を視聴者がコンテンツの内容に合わせて身体や頭を傾けるコンテンツに対しても立体映像を利用することができ、身体の動作を習得する際に2次元画像より有効とされる立体映像の利点をより活かすことができる。
【0208】
なお、本実施の形態1では奥行き情報記憶部140に画像中の被写体ごとまたは画像領域ごとの奥行き情報が記憶され、この奥行き情報に基づいて領域を分割して画像に補正処理を施すとしたが、奥行き情報生成部を設けて、左右の画像の対応点の位置から画像中の被写体ごとまたは画像領域ごとの奥行き情報を生成するとしてもよい。
【0209】
(実施の形態2)
図19は、本実施の形態による画像表示装置2の構成図である。実施の形態1では、左目用の画像、右目用の画像に対して、奥行き情報を用いて画像処理を施すことで、視聴者の顔が傾いたときの映像を自動的に生成した。本実施の形態においては、撮影時において、事前に複数組のカメラで撮影された画像を用いて、視聴者の顔が傾いたときに違和感のない、適切な画像を提供するものである。
【0210】
実施の形態1と同一の構成については同一の記号を付して説明する。画像表示装置2は、傾きセンサ110と、画像蓄積部230と、画像選択部240と、画像提示部170とを備える。
【0211】
傾きセンサ110は、視聴者100の頭部の傾きを測定する。
【0212】
画像蓄積部230は、視聴者100の左目に提示する画像及び右目に提示する複数組の画像を、撮像時の左右のカメラの傾きの角度ごとに、蓄積している。
【0213】
画像選択部240は、視聴者100の頭部の傾きに従って、画像蓄積部230が蓄積している画像の組から視聴者100の頭部の傾きに最も近い撮像時の角度をもつ画像の組を選択する。
【0214】
画像提示部170は、画像選択部240で選択した1組の画像を、表示画面に表示する。
【0215】
画像選択部240は1つ以上のCPUと1つ以上のメモリとによって実現される。また、画像蓄積部230は1つ以上のメモリによって実現される。画像選択部240を実現するメモリと、画像蓄積部230とを実現するメモリは、独立のものであっても、共通のものであってもよい。
【0216】
図20は、画像蓄積部230が蓄積する画像データの一例を示す。図21Aは左右のカメラの位置が水平から傾いた画像の組を複数組一度に撮像するためのカメラシステムの一例である。図21Bは、左右のカメラの位置が水平から傾いた状態で撮像した左右の画像と視聴者の頭部の傾きが合致する場合に正常な立体視のための両目視差を実現できることを模式的に示した図である。
【0217】
画像蓄積部230は、左目用例えば図21Aのように両目間距離6.5cmを直径とする円周上に配置したカメラを用いて、円の中心に対して点対照の位置にある2つのカメラで撮像された画像を左目用、右目用各々の画像とする画像データの組を蓄積する。各画像の組のデータに加え、2つのカメラを結ぶ角度が、水平軸から何度傾いていたかもあわせて蓄積する。カメラは図21Aの例では12あり、各カメラの水平軸は、撮像空間の水平軸と平行である。カメラ30とカメラ24との組が傾き0であり、カメラ21と27が90度である。カメラ31とカメラ25との組が30度、カメラ32とカメラ26の組が60度のように30度ごとに配置されたカメラによって6組の画像が蓄積される。12のカメラは同時に撮像を行っており、どのシーンにおいてもカメラの位置が30度ごとに配置された6組の画像が蓄積されている。
【0218】
ここで注意しなければいけないのが、図21Cに示すようにカメラの画角は傾けることなく、図21Aに示すようにカメラの画角はすべてのカメラで同一になるようなカメラの設置を用いる。
【0219】
視聴者100は前庭器官で常に重力加速度を知覚しており、頭部を傾けても周辺環境の鉛直軸を基準として空間を認識している。すなわち、実空間において頭部を傾けて立体視する際に、人間は目の位置のみを斜めに配置して、それぞれの目から入力される視覚情報は鉛直軸を維持して処理されている。このような人間の視覚特性に合わせて、カメラの画角は鉛直軸をそろえて配置されるべきである。
【0220】
図22は、本実施の形態の画像表示装置2の処理手順を示すフォローチャートである。以下処理手順を図22に従って説明する。
【0221】
画像表示装置2に対して、図示しない入力部より、画像表示指示信号の入力に従って処理を開始する(S1010)。入力部は例えば視聴者100が入力するボタン等である。画像表示指示信号は、例えば視聴者100が入力するボタン等の信号やタイマーなどにより自動で生成された信号である。
【0222】
画像表示装置2の図示しない制御部は画像表示終了信号の入力の有無を確認する。画像表示終了信号は、例えば視聴者100が入力するボタン等の信号やタイマーなどにより自動で生成された信号である(S1020)。画像表示終了信号の入力がある場合、画像表示システム1は処理を終了する(S1100)。ステップS1020において画像表示終了信号の入力がない場合、ステップS1030に進む。ステップS1030では傾きセンサ110が視聴者100の頭部の傾きを計測する(S1030)。計測の手順については実施の形態1と同様である。次に画像選択部240はステップS1030で計測された視聴者100の頭部の傾きに最も近い傾きを持つ画像の組を1組、画像蓄積部230に蓄積された画像データの組から選択する。視聴者100の頭部の傾きに最も近い傾きを持つ画像の組とは、例えば図21Aのカメラシステムで撮像された6組の画像から、図21Bのように傾いた視聴者100の頭部の傾きと最も近い角度の傾きになるカメラの組によって撮像された画像データをさす。図21Bの例ではカメラ29とカメラ23により水平から30度傾いた画像の組である。視聴者100の頭部が傾いていない場合は、水平からの傾き0度の画像の組、図21Aの例ではカメラ30とカメラ24により撮像された画像の組を選択する。視聴者100の頭が完全に横になっており、90度傾いている場合には、水平からの傾き90度の画像の組、図21Aの例ではカメラ21とカメラ27により撮像された画像の組を選択する(S2060)。画像蓄積部230はステップS2060で選択された画像の組を画像提示部170に出力し、画像提示部170はその画像を表示する(S1090)。ステップS1020からステップS1090を繰り返して画像表示終了信号が入力されるまで画像表示を継続する。
【0223】
以上のような立体視映像のための画像表示装置は、視聴者の頭部の傾きを計測して、複数の傾きをもって撮像された画像の組のうち、視聴者の頭部の傾きに最も近い傾きを持ってあらかじめ撮像された左目用、右目用の画像の組を選択して表示することで、両目の視差を視聴者の頭部の傾きに合わせた左右映像を表示する。これにより、視聴者が横になったりもたれたりして、両目の左右軸が画面の水平軸とずれても、視聴者は正しい視差で映像を見ることができ、さらに、撮像時のカメラの水平軸は撮像する空間の水平軸と合致しているため、画像の水平軸と実環境の水平軸も合致し、映像酔いを起こすことなく映像の視聴を続けることができる。また、ヨガや体操あるいはダンスのように体を視聴者がコンテンツの内容に合わせて身体や頭を傾けるコンテンツに対しても立体映像を利用することができ、身体の動作を習得する際に2次元画像より有効とされる立体映像の利点をより活かすことができる。視聴者の頭部の傾きに最も近い傾きを持ってあらかじめ撮像された左目用、右目用の画像の組を選択して表示することで、画像処理を行わず瞬時に画像を切り替えることができ、頭部の運動が比較的速い場合にも追随して、視聴者の頭部の傾きに合わせた画像を提示することができる。
【0224】
(実施の形態3)
図23は、本実施の形態による画像表示装置3の構成図である。実施の形態2では、複数組の撮像装置で撮影された映像を用いて、視聴者の顔面の傾きに応じた映像提供を行った。しかしながら、事前に撮影する映像の組は、有限であるため、さらに詳細な顔の傾きに対応することが困難である。そこで、本実施の形態では、実施の形態2で述べたように、複数組の撮像装置で撮影した映像に対して、奥行き情報を付与し、実施の形態1で述べた画像処理を融合することで、視聴者にとって、さらに、違和感の少ない映像を提供するものである。
【0225】
実施の形態1および実施の形態2と同一の構成については同一の記号を付して説明する。画像表示装置3は視聴者100の頭部の傾きを測定する傾きセンサ110と、視聴者100の左目に提示する画像と右目に提示する画像を撮像時の左右のカメラの傾きの角度ごとに複数組蓄積している画像蓄積部230と、前記画像蓄積部230に蓄積されている画像の奥行き情報を抽出して記憶する奥行き情報記憶部340と、前記傾きセンサ110で測定された視聴者100の頭部の傾きに従って、前記画像蓄積部230が蓄積している画像の組から視聴者100の頭部の傾きに最も近い撮像時の角度をもつ画像の組を選択する画像選択部240と、前記画像選択部240が選択した前記画像蓄積部230に蓄積された画像の傾きと、前記傾きセンサ110で測定された視聴者100の頭部の傾きとの差より、前記画像選択部240が選択した前記画像蓄積部230に蓄積された画像の視差方向に対して視聴者100の左右それぞれの眼球が画面の水平軸と平行な軸からどれだけ離れているかを計算する左右眼球水平差分量検出部320と、前記左右眼球水平差分量検出部320で求められた左右の眼球の垂直方向の距離と、前記奥行き情報記憶部340に記憶された画像の奥行き情報に従って、提示する画像の補正方向と補正量を決定する補正量決定部350と、前記補正量決定部350で決定された補正方向と補正量にしたがって、前記画像蓄積部230に蓄積された画像を補正する画像処理部160と、前記画像処理部160で処理された画像を表示する画像提示部170とを備えている。画像選択部240、左右眼球水平差分量検出部320、補正量決定部350、画像処理部160は1つ以上のCPUと1つ以上のメモリとによって実現される。また、画像蓄積部230と奥行き情報記憶部340は1つ以上のメモリによって実現される。画像選択部240、左右眼球水平差分量検出部320、補正量決定部350、画像処理部160を実現するメモリと、画像蓄積部230と奥行き情報記憶部340を実現するメモリは、独立のものであっても、共通のものであってもよい。
図24は奥行き情報記憶部340に記憶する奥行き情報の一例である。奥行き情報記憶部340は、図9に示したような奥行き情報を記録時間ごと(サンプル点ごと)にもち、サンプルごとの奥行き情報を、画像蓄積部230が左右眼球用画像と合わせて蓄積している左右カメラの傾きごとに記憶する。
【0226】
図25は、本実施の形態の画像表示装置3の処理手順を示すフォローチャートである。以下処理手順を図25に従って説明する。
【0227】
画像表示装置3に対して、図示しない入力部より、画像表示指示信号の入力に従って処理を開始する(S1010)。
【0228】
入力部は、例えば、視聴者100が入力するボタン等である。画像表示指示信号は、例えば視聴者100が入力するボタン等の信号やタイマーなどにより自動で生成された信号である。
【0229】
画像表示装置3の図示しない制御部は、画像表示終了信号の入力の有無を確認する。画像表示終了信号は、例えば視聴者100が入力するボタン等の信号やタイマーなどにより自動で生成された信号である(S1020)。
【0230】
画像表示終了信号の入力がある場合、画像表示システム1は処理を終了する(S1100)。ステップS1020において画像表示終了信号の入力がない場合、ステップS1030に進む。ステップS1030では傾きセンサ110が視聴者100の頭部の傾きを計測する(S1030)。計測の手順については実施の形態1と同様である。
【0231】
次に画像選択部240はステップS1030で計測された視聴者100の頭部の傾きに最も近い傾きを持つ画像の組を1組、画像蓄積部230に蓄積された画像データの組から選択する(S2060)。左右眼球推定差分量検出部320は、ステップS1030で計測された視聴者100の頭部の傾きと、ステップS2060で選択された画像データの組のカメラ位置がなす角度とを比較する(S3070)。ステップS3070において視聴者100の頭部の傾きと画像データの組のカメラ位置がなす角度との差が、あらかじめ定められた角度未満、例えば5度未満、である場合に左右眼球推定差分量検出部320は視聴者100の頭部の傾きと画像データの組のカメラ位置がなす角度との間に差がないと判断し、ステップS1090へ進む。ステップS3070において、視聴者100の頭部の傾きと画像データの組のカメラ位置がなす角度との差が、あらかじめ定められた角度以上、例えば5度以上である場合に、左右眼球推定差分量検出部320は視聴者100の頭部の傾きと画像データの組のカメラ位置がなす角度との間に差があると判断する。ステップS3070において、視聴者100の頭部の傾きと画像データの組のカメラ位置がなす角度との間に差があると判断された場合は左右眼球推定差分量検出部320は左右眼球の垂直方向と水平方向の、ステップS2060で選択された画像組とのずれ量を計算する(S1050)。ずれ量の計算は実施の形態1のステップS1050と同様に行う。ただし、実施の形態1のS1050において、画面の水平方向に対して、視聴者100の左右眼球のずれ量を計算したのに対してここでは、ステップS2060で選択された画像組のカメラ位置がなす角度を基準として、カメラ位置がなす角度に対して視聴者100の左右眼球を結ぶ直線の角度を求め、カメラ位置がなす角度と平行な軸上でのずれ量を左右眼球の水平方向のずれ量とし、カメラ位置がなす角度と直行する軸上でのずれ量を左右眼球の垂直方向のずれ量として計算する。
【0232】
補正量決定部350は。同一の補正処理を施す領域を1つ以上決定して、領域を分割し(S1060)、さらにその領域ごとの補正量を決定する(S1070)。領域分割の方法と補正量の決定方法は実施の形態1と同様の処理で実現できる。画像処理部160はステップS1070で決定された領域ごとの補正量に基づいて画像の補正処理を行う(S1080)。画像の補正方法については後述する。画像提示部170はステップS1080で補正処理された画像を表示する(S1090)。ステップS1020からステップS1090を繰り返して画像表示終了信号が入力されるまで画像表示を継続する。
【0233】
以上のような立体視映像のための画像表示装置は、視聴者の頭部の傾きを計測して、複数の傾きをもって撮像された画像の組のうち、視聴者の頭部の傾きに最も近い傾きを持ってあらかじめ撮像された左目用、右目用の画像の組を選択し、さらに選択された画像の組の傾きと視聴者の頭部の傾きの差によって生じる視聴者の目の上下方向の画像のずれを計算して、表示位置を補正して視差を視聴者の頭部の傾きに合わせてつけた左右映像を表示する。これにより、視聴者が横になったりもたれたりして、両目の左右軸が画面の水平軸とずれても、視聴者は正しい視差で映像を見ることができ、さらに、画像の水平軸と実環境の水平軸がずれないため、映像酔いを起こすことなく映像の視聴を続けることができる。また、ヨガや体操あるいはダンスのように視聴者が画面表示の内容に合わせて身体や頭を傾けるコンテンツに対しても立体映像を利用することができ、身体の動作を習得する際に2次元画像より有効とされる立体映像の利点をより活かすことができる。また、視聴者の頭部の傾きに近い画像から補正を行うため、補正量が少なく、画像処理による画像の劣化を少なくすることができる。
【0234】
なお、実施の形態2および実施の形態3において、画像蓄積部230は左右のカメラの角度が異なる6組の画像を蓄積するものとしたが、コンテンツの継続時間すべてにおいて6組の画像を蓄積しておくとしてもよいし、コンテンツの継続時間中の特定の部分に対して特定の角度の範囲の画像を蓄積しておくとしてもよい。特に、ヨガや体操あるいはダンスのように視聴者が画面表示の内容に合わせて身体を動かすコンテンツにおいては、画面に身体あるいは頭部を傾けることを指示する内容が表示される時間区間のみ2つのカメラが水平以外の角度で撮像した画像を蓄積してもよい。さらに、画面で指示する角度あるいは指示する角度を含む一定の範囲の角度で撮像した画像を蓄積してもよい。また、戦闘機やロケットのように3次元に移動可能な乗り物のシミュレーション等、画像への反応として身体を傾けることが自然な画像の場合には、コンテンツの内容から、視聴者が身体を傾けることが予測される時間区間においてのみ2つのカメラが水平以外の角度で撮像した画像を蓄積してもよい。
【0235】
(実施の形態4)
本実施の形態では、3D眼鏡と画像を表示する装置とが双方向の通信を行う画像表示システム4の構成について説明する。図26Aに、画像表示システム4の構成の一例を示す。図26Aにおいては、実施の形態1で説明したブロックに関しては、同一の番号を付与している。
【0236】
画像表示システム4は、表示装置システム1の構成に加えて、傾き送信情報生成部2600と、傾き情報送信部2601と、傾き情報受信部2602と、同期信号送信部2603と、同期信号受信部2604と、シャッタ制御部2605とを備える。
【0237】
傾き送信情報生成部2600は、傾きセンサ110で測定された3D眼鏡の傾きデータを所定の送信フォーマットに加工する。
【0238】
傾き情報受信部2602は、傾き送信情報生成部2600で生成された3D眼鏡の傾き情報を送信する。
【0239】
同期信号送信部2603は、画像提示部170で提示される画像に対して、左目用画像と右目用画像の切替制御の同期信号を送信する。
【0240】
同期信号受信部2604は、テレビの同期信号送信部2603から送信された信号を受信する。
【0241】
シャッタ制御部2605は、同期信号受信部2604で受信した信号に基づき、3D眼鏡の右目のシャッタ及び左目のシャッタを制御する。右目のシャッタは、右目に画像が提示されないように右目への映像を遮蔽する。左目のシャッタは、左目に画像が提示されないように左目への映像を遮蔽する。
【0242】
上記のように構成されたシステムにおいては、実施の形態1で説明したモジュールについては、同様の動作を行う。
【0243】
本実施の形態においては、3D眼鏡とテレビとの通信内容をさらに説明する。本システムでの眼鏡とテレビとの通信は、BluetoothやZigBee、無線LAN等に代表されるような近距離の無線通信を想定している。図26Bは、画像表示装置と3D眼鏡の通信手順を示す。
【0244】
3D眼鏡の電源が入力されると同時に、3D眼鏡は自らのIDを発信し(通信1)、テレビに対して所定IDの眼鏡の電源が入力されたことを知らせる。
【0245】
その信号をテレビ側で受信し、3D眼鏡のIDが登録される。その後、登録された3D眼鏡に対して、眼鏡の液晶シャッタの開閉に関する制御信号が送信される(通信2)。
【0246】
このとき、実施の形態1でも述べたように、傾きセンサ110で検出された眼鏡の傾きデータを所定のタイミングでテレビ側に発信する(通信3)。
【0247】
傾き生成情報生成部2600は、図27に示すように、眼鏡ID、送信日時、送信時刻、送信先表示機器ID、X軸傾きデータ、Y軸傾きデータ、Z軸傾きデータを含む送信情報を生成する。
【0248】
傾き情報生成部2601は、傾き情報送信部2601では、傾き送信情報生成部2600で生成された、図27の情報をテレビに向けて送信する。
【0249】
図27に示すように、送信するデータについては、図27に示すようにバイナリデータやテキストデータ、または、XMLフォーマットで記述されているデータを送信する(通信3)。
【0250】
また、3Dテレビ等の表示装置は、画像提示部170の左目用画像、右目用画像の表示と同期させるためのタイミング信号を同期信号送信部2603から3D眼鏡に対して送信する。
【0251】
図28に示すように、送信する信号は、送信元のテレビID、送信日時、送信時刻、送信先眼鏡ID、シャッタの制御信号を含む。図28に示すように、バイナリデータ、テキストデータ、または、XMLフォーマットで記述されているデータとしてを送信する。このようにして、3D眼鏡と3Dテレビとの双方向の無線通信を利用することで、視聴者の眼鏡の傾き情報に応じた3Dテレビの画像の制御が可能になる。
【0252】
なお、3Dテレビを視聴するユーザは、一人とは限らない。複数人が視聴する場合もある。そのときは、図29に示すように、3D眼鏡4001と3D眼鏡4002がそれぞれ、3Dテレビと双方向通信を行うことになる。実施の形態1から3で述べてきたように、視聴者の眼鏡の傾きにより、提供する画像を修正する。しかしながら、複数の視聴者が閲覧している場合には、一人の視聴者の眼鏡の傾きが検出された場合に、その視聴者に応じて提供する画像を修正すると、もう一人の視聴者が正常に視聴できなくなる。
【0253】
そこで、本実施の形態においては、例えば、3D眼鏡4002からの傾き情報として、眼鏡の傾きが検出された場合には、3D眼鏡4002に対して、左目用の画像を提供しているときに、左目、右目のシャッタを開き、右目用の画像を提供しているときに、左目、右目のシャッタを閉じることで、2D映像を提供するようにする。そのときの通信内容を図30に示す。図30で示すように、眼鏡4001に対しては、左右のシャッタを交互に開くようにテレビが送信する一方、眼鏡4002に対しては、左右のシャッタを同期させて開閉するような内容の送信を行う。一方、眼鏡4001、眼鏡4002ともに同じくらいの角度だけ傾いている場合には、実施の形態1から3で述べてきたように、提供する画像を補正することで、同様の3D映像を提供する。これにより、複数のユーザが3D映像を視聴している場合でも、不具合映像を提供することなく、実現することが可能になる。
【産業上の利用可能性】
【0254】
本発明にかかる画像表示装置は、立体映像を表示する場合に広く利用可能であり、映画やビデオ等の収録済みコンテンツを視聴する際に有用である。特にコンテンツの内容に合わせて視聴者が身体や頭部を動かす、ヨガや体操あるいはダンスの練習用コンテンツや、3次元動作する乗り物のシミュレーション等に有用である。ゲームや教育、訓練用のシステム等の用途に応用できる。
【符号の説明】
【0255】
1 画像表示システム
110 傾きセンサ
111 ジャイロセンサ
112 傾き計算部
113 送信部
120、320 左右眼球水平差分量検出部
130、230 画像蓄積部
140、340 奥行き情報記憶部
150、350 補正量決定部
151 焦点対象範囲決定部
152 補正量計算部
153 補正領域分割部
160 画像処理部
161 領域補正処理部
162 境界領域処理部
170 画像提示部
240 画像選択部
2600 傾き送信情報生成部
2601 傾き情報送信部
2602 傾き情報受信部
2603 同期信号送信部
2604 同期信号受信部
2605 シャッタ制御部

【特許請求の範囲】
【請求項1】
視聴者の左目に提示する画像及び右目に提示する画像を蓄積している画像蓄積部と、
前記視聴者の左眼球及び右眼球の位置と、前記左目に提示する画像を撮像時の左カメラの想定位置及び前記右目に提示する画像を撮像時の右カメラの想定位置との差分量を検出する左右眼球水平差分量検出部と、
前記画像の奥行き情報と、前記左右眼球水平差分量検出部で検出された前記位置の差分量とを用いて、前記画像蓄積部で蓄積されている画像の補正量を決定する補正量決定部と、
前記補正量決定部で決定された補正量に基づいて、前記画像蓄積部で蓄積されている画像を補正する画像処理部と、
前記補正した画像を表示する画像提示部と
を備えた画像表示装置。
【請求項2】
前記撮像時の左カメラと右カメラは水平面上に配置されており、前記視聴者の左眼球と右眼球の位置と撮像時の左カメラと右カメラの位置の差分量は前記視聴者の左眼球と右眼球の水平面からの位置の差分量である、
請求項1に記載の画像表示装置。
【請求項3】
請求項1に記載の画像表示装置と、
前記視聴者の頭部に設置され、前記視聴者の頭部の傾きを測定する傾きセンサとを備え、
前記左右眼球水平差分量検出部は、前記傾きセンサによって測定された前記視聴者の頭部の傾きを用いて左眼球と右眼球の位置と撮像時の左カメラと右カメラの位置の差分量を検出する、
画像表示システム。
【請求項4】
前記左目に提示する画像を前記視聴者の左目のみに提示し、前記右目に提示する画像を前記視聴者の右目のみに提示するためのアクティブシャッタを有する立体視用眼鏡をさらに備え、
前記傾きセンサは前記立体視用眼鏡に設置されている、
請求項3に記載の画像表示システム。
【請求項5】
前記立体視用眼鏡は、さらに送信部を備え、
前記傾きセンサは、加速度情報または傾きベクトル情報を、受信部を備えた電子機器に送信する、
請求項4に記載の画像表示システム。
【請求項6】
画像を表示する画面部を備え、
前記左右眼球水平差分量検出部は前記傾きセンサにより測定された前記視聴者の頭部の傾き情報を用いて、前記画面部の表面の平面と前記視聴者の両目を結んだ線との角度を求め、前記視聴者の左右の眼球間距離の値を補正する、
請求項3に記載の画像表示装置。
【請求項7】
画像を焦点範囲とそれ以外とに分割する画像分割部を備え、
前記補正量決定部は前記焦点範囲の前記奥行き情報に基づいて前記画像蓄積部で蓄積されている画像の補正量を決定する、
請求項1に記載の画像表示システム。
【請求項8】
前記焦点範囲は画像の中心部を含む、
請求項7記載の画像表示システム。
【請求項9】
前記焦点範囲は画像中の奥行きの最も小さい部分を含む、
請求項7記載の画像表示システム。
【請求項10】
視聴者の左目に提示する画像と右目に提示する画像を蓄積している画像蓄積部と、
前記視聴者の頭部に設置され、前記視聴者の頭部の傾きを測定する傾きセンサで測定した前記視聴者の頭部の傾きに基づいて、前記画像蓄積部で蓄積されている画像を選択する画像選択部と、
前記画像蓄積部は、左目用視点と右目用視点の中点を中心とし、左目用視点と右目用視点の間の距離を直径とする円周上に、円の中心に対して点対象に配置した2視点からの画像であって、すべての視点の画像の画角は鉛直軸に対して一定である画像を対にして蓄積している、
画像表示装置。
【請求項11】
前記視聴者の左眼球と右眼球の位置と撮像時の左カメラと右カメラの位置の差分量を検出する左右眼球水平差分量検出部と、
前記画像蓄積部で蓄積されている画像の奥行き情報と、前記左右眼球水平差分量検出部で検出された前記位置の差分量とを用いて、前記画像蓄積部で蓄積されている画像の補正量を決定する補正量決定部と、
前記補正量決定部で決定された補正量に基づいて前記画像蓄積部で蓄積されている画像を補正する画像処理部とを備え、
前記画像選択部で選択された前記画像蓄積部で蓄積されている画像を前記画像処理部で補正する、
請求項10に記載の画像表示装置。
【請求項12】
視聴者に、左目に提示する画像及び右目に提示する画像を提示する画像提示部と、
前記視聴者の左目及び右目に提示する画像を、前記画像を構成する複数の領域毎の奥行き情報と対応付けて蓄積している画像蓄積部と、
前記視聴者が装着する眼鏡に形成されている、前記視聴者の頭部の傾きを計測する傾きセンサから前記視聴者の頭部の傾きを受信し、前記視聴者の頭部の傾きと、前記複数の領域毎の奥行き情報とを用いて、前記複数の領域毎に、補正量を決定する補正量決定部と、
前記補正量決定部で決定された補正量に基づいて、前記画像蓄積部で蓄積されている画像を補正する画像処理部と、
前記補正した画像を表示する画像提示部と
を備えた3次元眼鏡。
【請求項13】
3次元映像を表示する画像表示装置と、前記3次元映像を視聴するための3次元眼鏡とを備えた画像表示システムであって、
前記3次元眼鏡は、
前記3次元眼鏡の傾きを計測する傾きセンサと、
前記傾きセンサが計測した傾き情報を含む傾き情報を、前記3次元映像を表示する画像提示部を有する画像表示装置に送信する傾き情報送信部とを備え、
前記画像表示装置は、
視聴者の左目に提示する画像及び右目に提示する画像を蓄積している画像蓄積部と、
前記画像の奥行き情報と、前記左右眼球水平差分量検出部で検出された前記位置の差分量とを用いて、前記画像蓄積部で蓄積されている画像の補正量を決定する補正量決定部と、
前記補正量決定部で決定された補正量に基づいて、前記画像蓄積部で蓄積されている画像を補正する画像処理部と、
前記補正した画像を表示する画像提示部と
を備えた画像表示システム。
【請求項14】
左目に提示する画像及び右目に提示する画像を含む3次元映像を視聴するための3次元眼鏡であって、
左目に提示する画像及び右目に提示する画像の切換に関する信号を同期受信する同期信号受信部と、
前記同期信号に基づいて、右目のシャッタと左目のシャッタによる映像の遮蔽を切り替えるシャッタ制御部と、
前記3次元眼鏡の傾きを計測する傾きセンサと、
前記傾きセンサが計測した傾き情報を含む傾き情報を、前記3次元映像を表示する画像提示部を有する画像表示装置に送信する傾き情報送信部と
を備えた3次元眼鏡。

【図1】
image rotate

【図2A】
image rotate

【図2B】
image rotate

【図2C】
image rotate

【図3A】
image rotate

【図3B】
image rotate

【図3C】
image rotate

【図3D】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7】
image rotate

【図8A】
image rotate

【図8B】
image rotate

【図9】
image rotate

【図10】
image rotate

【図11】
image rotate

【図12】
image rotate

【図13A】
image rotate

【図13B】
image rotate

【図14】
image rotate

【図15】
image rotate

【図16】
image rotate

【図17】
image rotate

【図18】
image rotate

【図19】
image rotate

【図20】
image rotate

【図21A】
image rotate

【図21B】
image rotate

【図21C】
image rotate

【図22】
image rotate

【図23】
image rotate

【図24】
image rotate

【図25】
image rotate

【図26A】
image rotate

【図26B】
image rotate

【図27】
image rotate

【図28】
image rotate

【図29】
image rotate

【図30】
image rotate

【図31】
image rotate


【公開番号】特開2012−244453(P2012−244453A)
【公開日】平成24年12月10日(2012.12.10)
【国際特許分類】
【出願番号】特願2011−113163(P2011−113163)
【出願日】平成23年5月20日(2011.5.20)
【公序良俗違反の表示】
(特許庁注:以下のものは登録商標)
1.Bluetooth
2.ZIGBEE
【出願人】(000005821)パナソニック株式会社 (73,050)
【Fターム(参考)】