説明

画像処理装置、画像処理方法およびプログラム

【課題】コンテンツの閲覧者の眼に対する負担がより小さくなるように自動的に立体視画像の深度を調整することを可能にする。
【解決手段】コンテンツの表示領域内に配置される立体視画像の基準深度を決定する深度決定部と、前記コンテンツの表示領域の深度と決定された前記基準深度とが一致するように前記立体視画像の少なくとも一部の深度を変化させる深度変化部と、を備える画像処理装置が提供される。

【発明の詳細な説明】
【技術分野】
【0001】
本開示は、画像処理装置、画像処理方法およびプログラムに関する。
【背景技術】
【0002】
近年、立体的な視覚を閲覧者に提供する3次元ディスプレイが広く知られている。当該3次元ディスプレイでは、立体視画像は、左眼用の画像および右眼用の画像の組合せとして表示され、それにより閲覧者の両目に視差を生じさせる。その結果、閲覧者は、立体視画像の一部または全部が飛び出している、または引っ込んでいるように知覚する。
【0003】
立体視画像は、平面画像よりもより豊かな表現を可能にする一方で、閲覧者の眼に負担を与える。そのため、閲覧者の眼に負担を与えないように立体視画像の表示を制御する技術も存在する。
【0004】
例えば、特許文献1では、立体視画像の閲覧者の操作に応じて立体視画像の深度を変更する技術が開示されている。これにより、閲覧者に適した立体視表示が可能になる。
【先行技術文献】
【特許文献】
【0005】
【特許文献1】特開2007−37619号公報
【発明の概要】
【発明が解決しようとする課題】
【0006】
しかし、上記特許文献1の技術は、閲覧者の操作に応じて予め定められた段階で立体視画像の深度を調整することができるものの、閲覧者の眼に対する負担がより小さくなるように自動的に立体視画像の深度を調整することはできない。例えば、Webページのようなコンテンツの表示領域内に立体視画像が配置される場合、上記特許文献1の技術によると、閲覧者は、当該立体視画像全てを一括で、または当該立体視画像毎に個別に、操作により深度を調整し、適切な深度を判断しなければならない。そのため、閲覧の度に調整の手間が発生すると共に、眼に対する負担がより小さくなるように深度を適切に調整することは難しい。
【0007】
そこで、本開示では、コンテンツの閲覧者の眼に対する負担がより小さくなるように自動的に立体視画像の深度を調整することを可能にする、新規かつ改良された画像処理装置、画像処理方法およびプログラムを提案する。
【課題を解決するための手段】
【0008】
本開示によれば、コンテンツの表示領域内に配置される立体視画像の基準深度を決定する深度決定部と、前記コンテンツの表示領域の深度と決定された前記基準深度とが一致するように前記立体視画像の少なくとも一部の深度を変化させる深度変化部と、を備える画像処理装置が提供される。
【0009】
また、本開示によれば、コンテンツの表示領域内に配置される立体視画像の基準深度を決定することと、前記コンテンツの表示領域の深度と決定された前記基準深度とが一致するように前記立体視画像の少なくとも一部の深度を変化させることと、を含む画像処理方法が提供される。
【0010】
また、本開示によれば、コンピュータを、コンテンツの表示領域内に配置される立体視画像の基準深度を決定する深度決定部と、前記コンテンツの表示領域の深度と決定された前記基準深度とが一致するように前記立体視画像の少なくとも一部の深度を変化させる深度変化部と、として機能させるためのプログラムが提供される。
【発明の効果】
【0011】
本開示に係る画像処理装置、画像処理方法およびプログラムによれば、コンテンツの閲覧者の眼に対する負担がより小さくなるように自動的に立体視画像の深度を調整することが可能になる。
【図面の簡単な説明】
【0012】
【図1】本開示の一実施形態に係るコンテンツの一例を説明するための説明図である。
【図2】従来におけるコンテンツの表示の一例を説明するための説明図である。
【図3】コンテンツを閲覧する場合の視点移動の一例を説明するための説明図である。
【図4】従来におけるコンテンツを閲覧する場合の輻輳変動の一例を説明するための説明図である。
【図5】一実施形態に係る画像処理装置の論理的な構成の一例を示すブロック図である。
【図6】立体視画像内の深度の抽出結果の一例を説明するための説明図である。
【図7】深度別の画素数の一例を説明するための説明図である。
【図8】基準深度を決定するために利用する画素の範囲の一例を説明するための説明図である。
【図9】シフトによる立体視画像の深度の変化の一例を説明するための説明図である。
【図10】シフト後の立体視画像のトリミングの第1の例を説明するための説明図である。
【図11】シフト後の立体視画像のトリミングの第2の例を説明するための説明図である。
【図12】一実施形態により表示されるコンテンツの一例を説明するための説明図である。
【図13】一実施形態により表示されるコンテンツを閲覧する場合の視点移動の一例を説明するための説明図である。
【図14】一実施形態に係る画像処理装置のハードウェア構成の一例を示すブロック図である。
【図15】一実施形態に係るにおける画像処理の概略的な流れの一例を示すフローチャートである。
【発明を実施するための形態】
【0013】
以下に添付図面を参照しながら、本開示の好適な実施の形態について詳細に説明する。なお、本明細書及び図面において、実質的に同一の機能構成を有する構成要素については、同一の符号を付することにより重複説明を省略する。
【0014】
なお、説明は以下の順序で行うものとする。
1.はじめに
2.画像処理装置の構成
2.1.画像処理装置の論理的な構成
2.2.画像処理装置のハードウェア構成
3.処理の流れ
4.まとめ
【0015】
<1.はじめに>
まず、図1〜図4を参照して、本実施形態に係るコンテンツの一例、および従来における当該コンテンツの表示の問題点を説明する。
【0016】
(本実施形態に係るコンテンツ)
図1を参照して、本実施形態に係るコンテンツの一例を説明する。図1は、本実施形態に係るコンテンツの一例を説明するための説明図である。図1を参照すると、コンテンツは、表示装置10の画面内のコンテンツ表示領域20に表示されている。ここで、当該コンテンツは、例えば、HTML形式のWebページである。また、表示装置10は、立体的な視覚を閲覧者に提供する3次元ディスプレイである。また、コンテンツ表示領域20は、例えば、コンテンツがHTML形式のWebページである場合に、表示装置10の画面におけるWebブラウザの表示領域である。
【0017】
コンテンツ表示領域20は、所定の深度を有する。当該深度は、閲覧者により知覚される、閲覧対象の画面上からの飛び出しまたは引っ込みの程度である。より具体的に、本実施形態では、深度は、例えば、正の数であれば画面からの飛び出し量を示し、負の数であれば絶対値が画面からの引っ込み量を示す数値である。コンテンツ表示領域20の深度は、例えば0である。すなわち、コンテンツ表示領域20は、立体的に表示されることなく、表示装置10の画面上にあるように知覚される。
【0018】
また、コンテンツは、立体視画像40を含む。立体視画像40は、例えば、ステレオJPEG(JPS)フォーマット、ステレオPNG(PNS)フォーマット等の立体視画像である。立体視画像40は、コンテンツ表示領域20内で、立体視画像40のための表示区域30に配置される。例えば、図1を参照すると、コンテンツ表示領域20には、立体視画像40a、40b、40cおよび40dが、それぞれの表示区域30a、30b、30cおよび30dに配置されている。
【0019】
また、立体視画像40は、単一の深度の立体視画像であり、または異なる深度の複数の部分を含む立体視画像である。図1を参照すると、例えば、立体視画像40は、背景部分43、顔部分45および物体部分47を含む。そして、背景部分43の深度および顔部分45の深度は同一であり、物体部分47の深度は、背景部分43および顔部分45の深度とは異なる。
【0020】
また、コンテンツは、例えば、立体視画像以外のオブジェクトも含む。当該オブジェクトは、例えば、テキスト50である。テキスト50は、コンテンツ表示領域20内に配置される。また、テキスト50の深度は、コンテンツ表示領域20の深度と同一である。
【0021】
なお、コンテンツは、例えば、電子書籍、電子文書、電子アルバム、スライド、ゲーム画面等の立体視画像40を含む別のコンテンツであってもよい。また、コンテンツ表示領域20も、アプリケーション画面、デスクトップ画面等であってもよい。また、立体視画像40は、静止画像であってもよく、または動画像であってもよい。また、表示装置10は、いずれかの立体視方式の表示装置に限定されず、液晶シャッタ、偏光フィルタ等のメガネ方式、および、レンチキュラ、パララックスバリア等の裸眼方式を含む任意の立体視方式の表示装置であってもよい。
【0022】
(コンテンツの表示における問題点)
次に、図2〜図4を参照して、従来におけるコンテンツの表示の問題点を説明する。図2は、従来におけるコンテンツの表示の一例を説明するための説明図である。図2は、図1に示された各立体視画像40が、従来どおり表示された場合にどのような深度で閲覧者に知覚されるかをイメージとして示す。図2を参照すると、例えば、立体視画像40aのうち、背景部分43aおよび顔部分45aの深度は、コンテンツ表示領域20の深度よりも大きい。また、物体部分45aの深度は、背景部分43aおよび顔部分45aの深度よりもさらに大きい。このように、立体視画像40では、背景部分43および顔部分45の深度は、コンテンツ表示領域20の深度と異なり、さらに、物体部分45の深度は、背景部分43および顔部分45の深度と異なる。このように、コンテンツ表示領域20には、様々な深度の部分が存在する。
【0023】
図3は、コンテンツを閲覧する場合の視点移動の一例を説明するための説明図である。図3を参照すると、閲覧者は、例えば、コンテンツ表示領域20において、ポイントP、P、P、P、PおよびPを順に通過するように視点を移動させる。この場合に、閲覧者は、P〜Pで、表示区域30aに配置される立体視画像40aとテキスト50aとを閲覧し、P〜Pで、表示区域30bに配置される立体視画像40bとテキスト50bとを閲覧する。P〜PおよびP〜Pでも同様に、閲覧者は、立体視画像40c、40dとテキスト50c、50dとを閲覧する。
【0024】
図4は、従来におけるコンテンツを閲覧する場合の輻輳変動の一例を説明するための説明図である。図4を参照すると、視点が図3に示されるポイントP〜Pを順に通って移動する場合に、瞳孔間隔がLである閲覧者の両眼は、輻輳開散運動を行う。すなわち、閲覧者の両眼は、閲覧の対象に焦点を合わせるために、両眼をより内側に寄せる輻輳運動を行い、または両眼をより外側に開く開散運動を行う。例えば、ポイントP〜Pでは、立体視画像40aにおいて、閲覧者の両眼は、背景部分43aから物体部分47aに視点を移動させるために輻輳運動を行い、その後、物体部分47aから背景部分43aに移動させるために開散運動を行う。さらに、閲覧者の両眼は、立体視画像40aの背景部分43aからテキスト50aに視点を移動させるために開散運動を行う。このように、視点がP〜Pを順に通って移動する際に、閲覧者の両眼は頻繁に輻輳開散運動を行う。
【0025】
以上のように、従来におけるコンテンツの表示によれば、閲覧者の両眼が頻繁に輻輳開散運動を行うため、閲覧者の両眼に多大な負担を与える。
【0026】
さらに、従来におけるコンテンツの表示によれば、輻輳調節矛盾も頻繁に発生する。より詳細に説明すると、閲覧者は、輻輳開散運動に加えて、表示装置10の画面を見る場合に、両眼のレンズのピントを合わせる調節を行う。さらに、人間の立体視機能には、輻輳で知覚した深度の位置に調節を誘導する輻輳性調節と呼ばれる機能がある。しかし、立体視画像40は実際には左眼用画像および右眼用画像として画面上に表示されるため、閲覧者の両眼は、輻輳で知覚した深度の位置ではなく、表示装置10の画面上の位置にピントを合わせる。よって、輻輳と調節との間に矛盾が生じる。その結果、閲覧者の両眼に負担を与える。
【0027】
そこで、本実施形態は、輻輳開散運動および輻輳調節矛盾による閲覧者の眼に対する負担がより小さくなるように自動的に立体視画像40の深度を調整することを可能にする。以降、<2.画像処理装置の構成>、<3.処理の流れ>において、その具体的な内容を説明する。
【0028】
<2.画像処理装置の構成>
まず、図5〜図14を参照して、本実施形態に係る画像処理装置100の構成について説明する。
【0029】
[2.1 論理的な構成]
ここでは、図5〜図13を参照して、本実施形態に係る画像処理装置100の論理的な構成について説明する。図5は、本実施形態に係る画像処理装置100の論理的な構成の一例を示すブロック図である。図5を参照すると、画像処理装置100は、通信部110、記憶部120、解析部130、デコード部140、深度抽出部150、深度決定部160、深度変化部170および描画部180を備える。ここで、解析部120は、取得部の一例である。
【0030】
(通信部110)
通信部110は、ネットワークを介して他の装置と通信する。例えば、通信部110は、表示装置10の画面に表示するコンテンツを他の装置から受信する。より具体的には、例えば、コンテンツがHTML形式のWebページである場合に、通信部110は、HTMLドキュメントおよび立体視画像40等を含むWebページのデータを、Webサーバから受信する。そして、通信部110は、受信したコンテンツのデータを解析部130に出力する。
【0031】
(記憶部120)
記憶部120は、画像処理装置100において一時的にまたは恒久的に保持すべき情報を記憶する。例えば、記憶部120は、表示装置10の画面に表示するコンテンツのデータを記憶する。
【0032】
(解析部130)
解析部130は、表示装置10の画面に表示するコンテンツを解析する。例えば、解析部130は、まず、通信部110により出力されたコンテンツを取得し、または記憶部120に記憶されているコンテンツを取得する。次に、解析部130は、取得したコンテンツを解析する。ここで、解析部130は、コンテンツに含まれる立体視画像40を取得する。そして、解析部130は、取得した立体視画像40をデコード部140に出力する。
【0033】
ここで、立体視画像40の取得についてより具体的に説明する。例えば、コンテンツがHTML形式のWebページである場合に、解析部130は、コンテンツのドキュメントオブジェクトモデル(以下、DOM)を利用して立体視画像40を取得する。すなわち、解析部130は、HTMLドキュメントを取得すると、ドキュメントオブジェクトモデルを利用して当該HTMLドキュメントをツリー構造に展開する。次に、解析部130は、当該ツリー構造を参照して、ステレオJPEG(JPS)フォーマット、ステレオPNG(PNS)フォーマット等の立体視画像40を特定する。そして、解析部130は、Webページに含まれる立体視画像40を取得する。このようにコンテンツがHTML形式のWebページである場合に、解析部130は、例えば、HTMLパーサにより実装される。
【0034】
なお、解析部130は、例えば、コンテンツに含まれる平面画像も併せて取得し、デコード部140に出力する。また、解析部130は、コンテンツのうちの画像以外のオブジェクトを描画部180に出力する。また、解析部130は、コンテンツ単位でコンテンツ表示領域20の深度が設定されている場合に、当該コンテンツ表示領域20の深度の情報も併せて取得し、当該深度の情報を深度決定部160に出力する。
【0035】
(デコード部140)
デコード部140は、立体視画像40をデコードする。例えば、デコード部140は、まず、解析部130により出力された立体視画像40を取得する。次に、解析部130は、当該立体視画像40のフォーマットを識別し、フォーマットに応じて圧縮された当該立体視画像40を復元する。次に、デコード部140は、復元された立体視画像40を左眼用画像と右眼用画像とに分割する。そして、デコード部140は、左眼用画像および右眼用画像を深度抽出部150に出力する。なお、デコード部140は、平面画像も併せてデコードし、描画部180に出力する。
【0036】
(深度抽出部150)
深度抽出部150は、立体視画像40の左眼用画像および右眼用画像から、立体視画像40内の深度を抽出する。例えば、深度抽出部150は、デコード部140により出力された立体視画像40の左眼用画像および右眼用画像を取得する。次に、深度抽出部150は、ステレオマッチングにより、当該左眼用画像と右眼用画像との間の水平方向のずれを計測する。当該水平方向のずれは、画素の単位または所定の画素群の単位で計測される。さらに、深度抽出部150は、水平方向のずれ幅から、立体視画像40内の深度を特定する。そして、深度抽出部150は、このように抽出した立体視画像40内の深度を、深度決定部160に出力する。
【0037】
ここで、深度抽出部150は、例えば、抽出した立体視画像40内の深度をデプスマップの形式で出力する。当該デプスマップは、立体視画像40の深度を単色の階調で表現した画像である。一例として、デプスマップは、画面上に表示される場合に、より深度が大きい(すなわち、より飛び出している)部分をより白に近い色で表現し、より深度が小さい(すなわち、より引っ込んでいる)部分をより黒に近い色で表現する。以下、立体視画像40内の深度の抽出について、図6を参照して具体例を説明する。
【0038】
図6は、立体視画像40内の深度の抽出結果の一例を説明するための説明図である。図6を参照すると、例えば、立体視画像40d内で、背景部分43dの深度および顔部分45dの深度は同一であり、コンテンツ表示領域20の深度よりも小さい。また、物体部分45aの深度は、背景部分43aおよび顔部分45aの深度よりも大きい。したがって、立体視画像40dのデプスマップ60dでは、背景部分43dおよび顔部分45dに対応する部分63dおよび部分65dが、より黒に近い色で表現される。また、物体部分47dに対応する部分67dが、より白に近い色で表現される。
【0039】
(深度決定部160)
深度決定部160は、コンテンツの表示領域20内に配置される立体視画像40の基準深度を決定する。当該基準深度は、立体視画像40に含まれる部分の深度または当該深度に近い深度である。
【0040】
例えば、深度決定部160は、立体視画像40の深度別の画素数から、上記基準深度を決定する。例えば、深度決定部160は、まず、深度抽出部150により出力された立体視画像40のデプスマップを取得し、当該デプスマップから深度別の画素数をカウントする。そして、深度決定部160は、より多くの画素の深度が基準深度に近くなるように基準深度を決定する。当該基準深度の決定の具体例を、図7を参照して説明する。
【0041】
図7は、深度別の画素数の一例を説明するための説明図である。図7を参照すると、図6において説明された立体視画像40dのデプスマップ60dが示されている。当該デプスマップ60dは、より小さい深度Dを有する部分63dおよび65dと、より大きい深度Dを有する部分67dとを含む。深度決定部160は、当該デプスマップ60dから深度別の画素数をカウントする。その結果、多数の画素数が深度Dにカウントされ、より少数の画素数が深度Dにカウントされる。この深度別の画素数のカウント結果は、ヒストグラム70のように表される。当該深度別の画素数に基づいて、深度決定部160は、例えば、画素数が最も多い深度Dを基準深度として決定する。すなわち、深度決定部160は、立体視画像40d内の背景部分43dおよび顔部分45dの深度と同一の深度を、基準深度として決定する。なお、深度決定部160は、単一の深度のうちの画素数が最も多いものを基準深度として決定せずに、所定幅の深度(例えば、D〜D)のうちの画素数が最も多いものを特定し、特定された所定幅の深度のうちのいずれかの深度を基準深度として決定してもよい。また、深度決定部160は、画素数を重みとする深度の加重平均を基準深度として決定してもよい。
【0042】
このように、深度別の画素数を用いることにより、立体視画像40内のより多くの部分の深度に近い基準深度を得ることができる。換言すると、立体視画像40のうちの基準深度と同一の深度または近い深度の部分をより多くすることができる。
【0043】
なお、深度別の画素数から基準深度を決定する代わりに、深度決定部160は、立体視画像40の画素別の深度のうちの最大の深度と最小の深度とから、上記基準深度を決定してもよい。より具体的には、深度決定部160は、例えば、深度抽出部150により出力された立体視画像40のデプスマップを取得し、当該デプスマップから、最大の深度と最小の深度とを特定する。そして、深度決定部160は、最大の深度と最小の深度との間のいずれかの深度、例えば最大の深度と最小の深度との平均の深度を、基準深度として決定してもよい。
【0044】
このように、最大の深度または最小の深度から基準深度を決定することにより、立体視画像40内の深度にばらつきがある場合に、立体視画像40に含まれる部分の深度に近い深度を概算することができる。また、このような単純な概算により、基準深度の決定のための処理量を減らすことができる。
【0045】
また、基準深度の決定に用いる上記画素は、例えば、上記立体視画像40の縁部に含まれる画素であってもよい。すなわち、深度抽出部150は、例えば、立体視画像40全体の画素からではなく、立体視画像40の縁部に含まれる画素から、基準深度を決定する。当該縁部の具体例を図8を参照して説明する。
【0046】
図8は、基準深度を決定するために利用する画素の範囲の一例を説明するための説明図である。図8を参照すると、立体視画像40の縁部49は、例えば、立体視画像40の上下左右の各辺から所定の幅を有する範囲である。この場合に、深度決定部160は、縁部49に含まれる画素から、例えば、深度別の画素数をカウントし、または最大の深度および最小の深度を特定する。そして、深度決定部160は、当該深度別の画素数または最大の深度および最小の深度から、基準深度を決定する。
【0047】
このように、立体視画像40全体の画素ではなく、立体視画像40の縁部に含まれる画素を用いることにより、コンテンツ表示領域20と連続して位置する部分の深度に近い基準深度を得ることができる。換言すると、コンテンツ表示領域20と連続して位置する部分の深度は、基準深度に近い深度になる。
【0048】
以上のように、深度決定部160は基準深度を決定する。そして、深度決定部160は、決定した基準深度を深度変化部170に出力する。
【0049】
また、深度決定部160は、例えば、コンテンツ表示領域20の深度も決定する。例えば、深度決定部160は、まず、解析部130により出力されたコンテンツ表示領域20の深度の情報を取得する。そして、深度決定部160は、取得した情報に示されている深度を、コンテンツ表示領域20の深度として決定する。また、コンテンツ表示領域20の深度がコンテンツに設定されていない場合には、深度決定部160は、所定の深度(例えば0)をコンテンツ表示領域20の深度として決定する。そして、深度決定部160は、決定したコンテンツ表示領域20の深度を深度変化部170に出力する。
【0050】
(深度変化部170)
深度変化部170は、コンテンツの表示領域20の深度と決定された上記基準深度とが一致するように、立体視画像40の少なくとも一部の深度を変化させる。すなわち、深度変化部170は、立体視画像40の基準深度とコンテンツ表示領域20との差分だけ、立体視画像40の深度を変化させる。これにより、例えば、基準深度がコンテンツ表示領域20の深度よりも大きければ、立体視画像40の深度は上記差分だけ減少する。また、例えば、基準深度がコンテンツ表示領域20の深度よりも小さければ、立体視画像40の深度は上記差分だけ増加する。このような深度の変化により、立体視画像40のうちの基準深度と同一の深度または近い深度の部分(以下、「基準深度部分」)が、コンテンツ表示領域20と同一の深度または近い深度で知覚されるようになる。ここでは、コンテンツ表示領域20の深度が0である例を説明する。なお、本実施形態では、深度変化部170は、基本的には、立体視画像40の全体の深度を変化させる。ただし、深度変化部170は、立体視画像40の全体ではなく一部のみを変化させてもよい。
【0051】
より具体的には、深度変化部170は、立体視画像40の左眼用画像または右眼用画像を左右方向にシフトさせることにより、立体視画像40の深度を変化させる。すなわち、コンテンツ表示領域20の深度が0であるとすると、深度変化部170は、立体視画像40のうちの基準深度部分について、左眼用画像での位置と右眼用画像での位置とが一致し、または近づくように、左眼用画像および右眼用画像をシフトさせる。当該シフトの具体例を、図9を参照して説明する。
【0052】
図9は、シフトによる立体視画像40の深度の変化の一例を説明するための説明図である。図9を参照すると、立体視画像40の右眼用画像80および左眼用画像90が示されている。この例では、当該立体視画像40は、図6および図7で説明された立体視画像40dである。図7を参照して説明されたとおり、立体視画像40dのうちの背景部分43dおよび顔部分45dの深度が基準深度として決定されている。すなわち、立体視画像40dのうちの基準深度部分は、背景部分43dおよび顔部分45dである。そして、当該背景部分43dおよび顔部分45dは、右眼用画像80における右眼用背景部分83および右眼用顔部分85に対応し、左眼用画像90における左眼用背景部分93および左眼用顔部分95に対応する。
【0053】
この場合に、深度変化部170は、例えば、右眼用顔部分85における左眼の位置86と、左眼用顔部分95における左眼の位置96とを特徴点として特定する。次に、深度変化部170は、左眼の位置96から左眼の位置86への方向および距離を算出する。そして、深度変化部170は、算出された方向に算出された距離だけ左眼用画像をシフトする。その結果、右眼用背景部分83および右眼用顔部分85の位置と、左眼用背景部分93および左眼用顔部分95の位置とが一致する。すなわち、シフト後の背景部分43および顔部分85の深度がコンテンツ表示領域20の深度である0と一致する。ここでは、左眼用画素像90のみをシフトする例を示したが、当然ながら、右眼用画像80のみをシフトしてもよく、または右眼用画像80および左眼用画像90の両方をシフトしてもよい。
【0054】
このように、基準深度とコンテンツ表示領域20の深度とが一致するように深度を変化させることで、コンテンツ表示領域20の深度と立体視画像40内の基準深度部分の深度とが、一致し、または近くなる。その結果、コンテンツ表示領域20と立体視画像40内の基準深度部分との間で視点を移動させたとしても、輻輳開散運動はほとんど起こらない。また、コンテンツ表示領域20の深度が0である、すなわちコンテンツ表示領域20が画面上にあると閲覧者により知覚される場合には、輻輳調節矛盾の頻度を少なくすることもできる。よって、コンテンツの閲覧者の眼の負担を小さくすることができる。
【0055】
なお、コンテンツ表示領域20の深度が0であって、基準深度の特徴点が存在する場合について説明したが、コンテンツ表示領域20の深度が0でなく、特徴点が存在しない場合にも、同様に深度を変化させることができる。例えば、コンテンツ表示領域20の深度をDとし、基準深度をDとすると、深度変化部170が変化させるべき深度は、D−Dである。したがって、深度変化部170は、D−Dだけ深度を変化させるためのシフトの方向および距離を算出する。そして、深度変化部170は、算出された方向に算出された距離だけ左眼用画像または右眼用画像をシフトする。
【0056】
以上のように、シフトによる深度の変化について説明したが、右眼用画像80および左眼用画像90をシフトすることにより、シフト後の立体視画像40の幅が表示区域30の幅よりも大きくなる可能性がある。よって、深度変化部170は、例えば、コンテンツの表示領域20内で立体視画像40が配置される表示区域30の幅よりもシフト後の立体視画像40の幅の方が大きい場合に、表示区域30に合わせてシフト後の立体視画像40の一部をトリミングする。この点について、図10を参照して具体例を説明する。
【0057】
図10は、シフト後の立体視画像40のトリミングの第1の例を説明するための説明図である。図10を参照すると、立体視画像40の右眼用画像80とシフト後の左眼用画像90Sとが示されている。ここで、立体視画像40が配置される表示区域30の幅をWとする。ここで、シフト後の立体視画像40は、右眼用画像80とシフト後の左眼用画像90Sとの組合せであるため、シフト後の立体視画像40の幅は、表示区域30の幅Wよりも大きい。よって、深度変化部170は、例えば、シフト後の立体視画像40が表示区域30に収まるように、右眼用画像80の端部89とシフト後の左眼用画像90Sの端部99とをトリミングする。その結果、トリミング後の右眼用画像80Tおよび左眼用画像90Tは、表示区域30の幅Wに収まる。
【0058】
このようなトリミングにより、シフトにより立体視画像40の深度を変化させたとしても、シフト後の立体視画像40をコンテンツ表示領域20内の表示区域30に収めることができる。
【0059】
上記トリミングによると、左眼用画像または右眼用画像に含まれる飛び出し部分もトリミングされる場合がある。すなわち、立体視画像40のうちの飛び出し部分が一部欠損する場合がある。その結果、表示区域30の枠を画枠とする画枠ひずみが発生する。すなわち、閲覧者は、飛び出し部分が欠けているように見えるため違和感を覚える。また、左眼用画像または右眼用画像のうちの片方のみが欠落していれば、閲覧者のいずれか一方の眼のみで見える部分が存在するため、閲覧者は、当該部分にも違和感を覚える。よって、深度変化部170は、例えば、上記基準深度よりもより飛び出して見える部分以外の、シフト後の立体視画像40の一部をトリミングする。この点について、図11を参照して具体例を説明する。
【0060】
図11は、シフト後の立体視画像40のトリミングの第2の例を説明するための説明図である。図11を参照すると、図10と同様に、立体視画像40の右眼用画像80とシフト後の左眼用画像90Sとが示されている。しかし、これらの右眼用画像80を単純にトリミングすると、基準深度よりも大きい深度の左眼用物体部分87の一部88までトリミングされる。よって、深度変化部170は、左眼用物体部分87の一部88以外の部分をトリミングする。その結果、トリミング後の右眼用画像80Tは、左眼用物体部分87の一部88を含む。
【0061】
このようなトリミングにより、飛び出し部分の欠損を回避することができる。すなわち、シフトによる深度の変化に起因する画枠ひずみの発生を防ぐことができる。
【0062】
以上のようなトリミングの代わりに、深度変化部170は、コンテンツ表示領域20内で立体視画像40が配置される表示区域30の幅よりもシフト後の立体視画像40の幅の方が大きい場合に、表示区域30に合わせてシフト後の立体視画像40のサイズを縮小してもよい。このような縮小によっても、シフト後の立体視画像40をコンテンツ表示領域20内の表示区域30に収めることができる。
【0063】
また、深度変化部170は、必ずしも、コンテンツ表示領域20に配置される全ての立体視画像40の深度を変える必要はない。例えば、深度変化部170は、立体視画像40の基準深度とコンテンツ表示領域20の深度と差の大きさが所定の閾値を超える場合に、立体視画像40の少なくとも一部の深度を変化させる。すわなち、コンテンツ表示領域20の深度をDとし、基準深度をDとすると、|D−D|が所定の閾値を超える場合に、立体視画像40の深度を変化させ、|D−D|が所定の閾値以下である場合に、立体視画像40の深度を変化させない。このように、深度を変化させる立体視画像40を限定することにより、輻輳開散運動および輻輳調節矛盾をほとんど発生させない立体視画像40を処理対象から除外することができる。その結果、立体視画像40の深度の変化についての処理量を減らすことができる。
【0064】
以上のように、深度変化部170は立体視画像40の深度を変化させる。そして、例えば、深度変化部170は、深度の変化後の立体視画像40を描画部180に出力する。また、深度変化部170は、深度決定部160により決定されたコンテンツ表示領域20の深度も併せて描画部180に出力する。
【0065】
(描画部180)
描画部180は、コンテンツ表示領域20にコンテンツを描画する。例えば、描画部180は、コンテンツ表示領域20内の表示区域30に、深度の変化後の立体視画像40を描画する。描画されるコンテンツの例を、図12および図13を参照して説明する。
【0066】
図12は、本実施形態により表示されるコンテンツの一例を説明するための説明図である。図12は、図1に示された各立体視画像40が、本実施形態の画像処理により表示された場合にどのような深度で閲覧者に知覚されるかをイメージとして示す。図12を参照すると、例えば、立体視画像40のうちの基準深度部分である背景部分43および顔部分45の深度は、コンテンツ表示領域20およびテキスト50の深度と同一である。そして、立体視画像40のうちの物体部分47の深度のみが、コンテンツ表示領域20の深度と異なる。
【0067】
図13は、本実施形態により表示されるコンテンツを閲覧する場合の視点移動の一例を説明するための説明図である。図13を参照すると、視点が図3に示されるポイントP〜Pを順に通って移動する場合に、瞳孔間隔がLである閲覧者の両眼は、物体部分47からその他の部分へ視点を移動させ、またはその他の部分から物体部分47へ視点を移動させる際にのみ、輻輳開散運動を行う。このように、本実施形態に係る画像処理によりコンテンツが表示されると、図2および図4のように従来どおりにコンテンツが表示される場合よりも、輻輳開散運動の頻度を少なくすることができる。また、コンテンツ表示領域20の深度が0である、すなわちコンテンツ表示領域20が画面上にあると閲覧者により知覚される場合には、輻輳調節矛盾の頻度を少なくすることもできる。このように、本実施形態によれば、閲覧者の両眼に対する負担を小さくすることが可能になる。
【0068】
なお、図11を参照して説明されたように飛び出し部分以外をトリミングする場合に、描画部180は、例えば、コンテンツ表示領域20のうちの、立体視画像40以外の部分を描画した上で、トリミングされた立体視画像40を描画する。このような描画の順序により、トリミングされなかった飛び出し部分が、コンテンツ表示領域20に表示される他のオブジェクト(例えば、テキスト50)により上書きされることによって、飛び出し部分の欠損が発生することを防ぐことができる。
【0069】
なお、描画部180は、コンテンツがHTML形式のWebページである場合に、例えば、HTMLレンダラにより実装される。
【0070】
以上、画像処理装置100の論理的な構成について説明された。一例として、コンテンツがHTML形式のWebページである場合に、画像処理装置100の構成要素のうちの、解析部130、デコード部140、深度抽出部150、深度決定部160、深度変化部170および描画部180は、例えば、Webブラウザにより実装される。
【0071】
[2.2 ハードウェア構成]
次に、図14を参照して、本実施形態に係る画像処理装置100のハードウェア構成について説明する。図14は、本実施形態に係る画像処理装置100のハードウェア構成の一例を示すブロック図である。図14を参照すると、画像処理装置100は、CPU(Central Processing Unit)201、ROM(Read Only Memory)203、RAM(Random Access Memory)205、バス207、記憶装置209、通信装置211および入出力インターフェース213を備える。
【0072】
CPU201は、演算処理装置および制御装置として機能し、ROM203または記憶装置209に記録された各種プログラムに従って、画像処理装置100内の動作全般またはその一部を制御する。ROM203は、CPU201が使用するプログラムや演算パラメータ等を記憶する。RAM205は、CPU201が使用するプログラムや、プログラムの実行において適宜変化するパラメータ等を一次記憶する。バス207は、CPU201、ROM203およびRAM205を相互に接続する。バス207には、さらに、記憶装置209、通信装置211および入出力インターフェース213が接続される。
【0073】
記録媒体209は、例えば、OS(Operating System)などの基本ソフトウェアや、アプリケーションなど様々なデータを記憶する。ここで、記録媒体209としては、例えば、ハードディスク(Hard Disk)などの磁気記録媒体や、EEPROM(Electrically Erasable and Programmable Read Only Memory)、フラッシュメモリ(flash memory)、MRAM(Magnetoresistive Random Access Memory)、FeRAM(Ferroelectric Random Access Memory)、PRAM(Phase change Random Access Memory)などの不揮発性メモリ(nonvolatile memory)が挙げられるが、上記に限られない。
【0074】
通信装置211は、例えば、ネットワークに接続するための通信デバイス等で構成された通信インターフェースである。通信装置211は、例えば、有線または無線LAN(Local Area Network)、Bluetooth(登録商標)、またはWUSB(Wireless USB)用の通信カード等である。また、通信装置211は、光通信用のルータ、ADSL(Asymmetric Digital Subscriber Line)用のルータ、または、各種通信用のモデム等であってもよい。当該通信装置211は、他の通信機器との間で、例えばTCP/IP等の所定のプロトコルに則して信号等を送受信することができる。
【0075】
入出力インターフェース213は、例えば、画像処理装置100に表示装置10を接続する。ここで、入出力インターフェース213としては、例えば、USB(Universal Serial Bus)端子や、DVI(Digital Visual Interface)端子、HDMI(High-Definition Multimedia Interface)端子などが挙げられるが、上記に限られない。
【0076】
<3.処理の流れ>
以下では、図15を参照して、本実施形態に係る画像処理の一例について説明する。図15は、本実施形態に係るにおける画像処理の概略的な流れの一例を示すフローチャートである。
【0077】
まず、ステップS301で、解析部130は、通信部110により出力されたコンテンツを取得し、または記憶部120に記憶されているコンテンツを取得する。次に、ステップS303で、解析部130は、当該コンテンツを解析する。また、ステップS303で、解析部130は、解析するコンテンツに含まれる立体視画像40を取得する。そして、ステップS307で、処理済の立体視画像40をカウントするためのカウンタkが0に設定される。
【0078】
次に、ステップS309で、デコード部140は、立体視画像40をデコードする。そして、ステップS311で、深度抽出部150は、立体視画像40の左眼用画像および右眼用画像から、立体視画像40内の深度を抽出する。
【0079】
次に、ステップS313で、深度決定部160は、コンテンツの表示領域20内に配置される立体視画像40の基準深度を決定する。
【0080】
次に、ステップS315で、深度変化部170は、立体視画像40の基準深度とコンテンツ表示領域20の深度と差の大きさが所定の閾値Tを超えるか否かを判定する。当該差の大きさが閾値Tを超える場合には、処理はステップS317へ進む。一方、そうでなければ、処理はステップS323へ進む。
【0081】
ステップS317で、深度変化部170は、立体視画像40の右眼用画像80または左眼用画像90を左右方向にシフトさせることにより、立体視画像40の深度を変化させる。そして、ステップS319で、深度変化部170は、コンテンツの表示領域20内で立体視画像40が配置される表示区域30の幅よりもシフト後の立体視画像40の幅の方が大きいか否かを判定する。シフト後の立体視画像40の幅の方が大きい場合には、処理は、ステップS321へ進む。一方、そうでなければ、処理はステップS323へ進む。
【0082】
ステップS321で、深度変化部170は、表示区域30に合わせてシフト後の立体視画像40の一部をトリミングする
【0083】
ステップS323で、処理済の立体視画像40をカウントするためのカウンタkが1だけインクリメントされる。そして、ステップS325で、カウンタkがコンテンツ表示領域20に配置される立体視画像40の数と等しければ、処理は、ステップS327へ進む。そうでなければ、処理は、ステップS309へ戻る。
【0084】
ステップS327で、描画部180は、コンテンツ表示領域20のうちの、立体視画像40以外の部分を描画する。そして、ステップS329で、描画部180は、トリミングされた立体視画像40を含む立体視画像40を描画する。
【0085】
<4.まとめ>
ここまで、図1〜15を用いて、本開示の一実施形態に係る画像処理装置100について説明した。本実施形態によれば、基準深度とコンテンツ表示領域20の深度とが一致するように深度を変化させることで、コンテンツ表示領域20の深度と立体視画像40内の基準深度部分の深度とが、一致し、または近くなる。その結果、コンテンツ表示領域20と立体視画像40内の基準深度部分との間で視点を移動させたとしても、輻輳開散運動はほとんど起こらない。また、コンテンツ表示領域20の深度が0である、すなわちコンテンツ表示領域20が画面上にあると閲覧者により知覚される場合には、輻輳調節矛盾の頻度を少なくすることもできる。よって、コンテンツの閲覧者の眼の負担を小さくすることができる。
【0086】
また、基準深度の決定において深度別の画素数を用いることにより、立体視画像40内のより多くの部分の深度に近い基準深度を得ることができる。換言すると、立体視画像40のうちの基準深度と同一の深度または近い深度の部分、すなわち基準深度部分をより多くすることができる。その結果、深度を変化させた後に、コンテンツ表示領域20の深度と立体視画像40内のより多くの部分(基準深度部分)の深度とが、一致し、または近くなる。よって、輻輳開散運動の頻度をより小さくすることができる。
【0087】
また、立体視画像40全体の画素ではなく、立体視画像40の縁部に含まれる画素を用いることにより、コンテンツ表示領域20と連続して位置する部分の深度に近い基準深度を得ることができる。換言すると、コンテンツ表示領域20と連続して位置する部分の深度は、基準深度に近い深度になる。その結果、深度を変化させた後に、コンテンツ表示領域20の深度とそれに連続して位置する立体視画像40の部分の深度とが、一致し、または近くなる。よって、視点を順に移動させていく場合において、輻輳開散運動の頻度をより小さくすることができる。
【0088】
また、シフト後の立体視画像40のトリミングにより、シフト後の立体視画像40をコンテンツ表示領域20内の表示区域30に収めることができる。また、基準深度よりもより飛び出して見える部分以外をトリミングすることにより、立体視画像40における飛び出し部分の欠損を回避することができる。すなわち、シフトによる深度の変化に起因する画枠ひずみの発生を防ぐことができる。
【0089】
以上、添付図面を参照しながら本開示の好適な実施形態について詳細に説明したが、本開示の技術的範囲はかかる例に限定されない。本開示の技術分野における通常の知識を有する者であれば、特許請求の範囲に記載された技術的思想の範疇内において、各種の変更例または修正例に想到し得ることは明らかであり、これらについても、当然に本開示の技術的範囲に属するものと了解される。
【0090】
例えば、本明細書の画像処理における各ステップは、必ずしもフローチャートに記載された順序に沿って時系列に処理する必要はない。例えば、画像処理における各ステップは、フローチャートとして記載した順序と異なる順序で処理されても、並列的に処理されてもよい。
【0091】
また、画像処理装置に内蔵されるCPU、ROMおよびRAM等のハードウェアを、上記画像処理装置の各構成と同等の機能を発揮させるためのコンピュータプログラムも作成可能である。また、当該コンピュータプログラムを記憶させた記憶媒体も提供される。
【0092】
なお、以下のような構成も本開示の技術的範囲に属する。
(1)
コンテンツの表示領域内に配置される立体視画像の基準深度を決定する深度決定部と、
前記コンテンツの表示領域の深度と決定された前記基準深度とが一致するように前記立体視画像の少なくとも一部の深度を変化させる深度変化部と、
を備える画像処理装置。
(2)
前記深度変化部は、前記立体視画像の左眼用画像または右眼用画像を左右方向にシフトさせることにより、前記立体視画像の深度を変化させる、前記(1)に記載の画像処理装置。
(3)
前記深度変化部は、前記コンテンツの表示領域内で前記立体視画像が配置される表示区域の幅よりもシフト後の当該立体視画像の幅の方が大きい場合に、前記表示区域に合わせてシフト後の当該立体視画像の一部をトリミングする、前記(2)に記載の画像処理装置。
(4)
前記深度変化部は、前記基準深度よりもより飛び出して見える部分以外の、シフト後の前記立体視画像の一部をトリミングする、前記(3)に記載の画像処理装置。
(5)
前記コンテンツの表示領域のうちの、前記立体視画像以外の部分を描画した上で、トリミングされた前記立体視画像を描画する描画部をさらに備える、前記(4)に記載の画像処理装置。
(6)
前記深度変化部は、前記コンテンツの表示領域内で前記立体視画像が配置される表示区域の幅よりもシフト後の当該立体視画像の幅の方が大きい場合に、前記表示区域に合わせてシフト後の当該立体視画像のサイズを縮小する、前記(2)に記載の画像処理装置。
(7)
前記深度変化部は、前記立体視画像の前記基準深度と前記コンテンツの表示領域の前記深度と差の大きさが所定の閾値を超える場合に、当該立体視画像の少なくとも一部の深度を変化させる、前記(1)から(6)のいずれか1項に記載の画像処理装置。
(8)
前記深度決定部は、前記立体視画像の深度別の画素数から、前記基準深度を決定する、前記(1)から(7)のいずれか1項に記載の画像処理装置。
(9)
前記深度決定部は、前記立体視画像の画素別の深度のうちの最大の深度と最小の深度とから、前記基準深度を決定する、前記(1)から(7)のいずれか1項に記載の画像処理装置。
(10)
前記画素は、前記立体視画像の縁部に含まれる画素である、前記(8)または(9)に記載の画像処理装置。
(11)
前記コンテンツは、HTML形式のWebページであり、
前記画像処理装置は、前記コンテンツのドキュメントオブジェクトモデルを利用して前記立体視画像を取得する取得部をさらに備える、
前記(1)から(10)のいずれか1項に記載の画像処理装置。
(12)
コンテンツの表示領域内に配置される立体視画像の基準深度を決定することと、
前記コンテンツの表示領域の深度と決定された前記基準深度とが一致するように前記立体視画像の少なくとも一部の深度を変化させることと、
を含む画像処理方法。
(13)
コンピュータを、
コンテンツの表示領域内に配置される立体視画像の基準深度を決定する深度決定部と、
前記コンテンツの表示領域の深度と決定された前記基準深度とが一致するように前記立体視画像の少なくとも一部の深度を変化させる深度変化部と、
として機能させるためのプログラム。
【符号の説明】
【0093】
10 表示装置
20 コンテンツ表示領域
30 表示区域
40 立体視画像
60 デプスマップ
80 右眼用画像
90 左眼用画像
100 画像処理装置
110 通信部
120 記憶部
130 解析部
140 デコード部
150 深度抽出部
160 深度決定部
170 深度変化部
180 描画部



【特許請求の範囲】
【請求項1】
コンテンツの表示領域内に配置される立体視画像の基準深度を決定する深度決定部と、
前記コンテンツの表示領域の深度と決定された前記基準深度とが一致するように前記立体視画像の少なくとも一部の深度を変化させる深度変化部と、
を備える画像処理装置。
【請求項2】
前記深度変化部は、前記立体視画像の左眼用画像または右眼用画像を左右方向にシフトさせることにより、前記立体視画像の深度を変化させる、請求項1に記載の画像処理装置。
【請求項3】
前記深度変化部は、前記コンテンツの表示領域内で前記立体視画像が配置される表示区域の幅よりもシフト後の当該立体視画像の幅の方が大きい場合に、前記表示区域に合わせてシフト後の当該立体視画像の一部をトリミングする、請求項2に記載の画像処理装置。
【請求項4】
前記深度変化部は、前記基準深度よりもより飛び出して見える部分以外の、シフト後の前記立体視画像の一部をトリミングする、請求項3に記載の画像処理装置。
【請求項5】
前記コンテンツの表示領域のうちの、前記立体視画像以外の部分を描画した上で、トリミングされた前記立体視画像を描画する描画部をさらに備える、請求項4に記載の画像処理装置。
【請求項6】
前記深度変化部は、前記コンテンツの表示領域内で前記立体視画像が配置される表示区域の幅よりもシフト後の当該立体視画像の幅の方が大きい場合に、前記表示区域に合わせてシフト後の当該立体視画像のサイズを縮小する、請求項2に記載の画像処理装置。
【請求項7】
前記深度変化部は、前記立体視画像の前記基準深度と前記コンテンツの表示領域の前記深度と差の大きさが所定の閾値を超える場合に、当該立体視画像の少なくとも一部の深度を変化させる、請求項1に記載の画像処理装置。
【請求項8】
前記深度決定部は、前記立体視画像の深度別の画素数から、前記基準深度を決定する、請求項1に記載の画像処理装置。
【請求項9】
前記深度決定部は、前記立体視画像の画素別の深度のうちの最大の深度と最小の深度とから、前記基準深度を決定する、請求項1に記載の画像処理装置。
【請求項10】
前記画素は、前記立体視画像の縁部に含まれる画素である、請求項8に記載の画像処理装置。
【請求項11】
前記コンテンツは、HTML形式のWebページであり、
前記画像処理装置は、前記コンテンツのドキュメントオブジェクトモデルを利用して前記立体視画像を取得する取得部をさらに備える、
請求項1に記載の画像処理装置。
【請求項12】
コンテンツの表示領域内に配置される立体視画像の基準深度を決定することと、
前記コンテンツの表示領域の深度と決定された前記基準深度とが一致するように前記立体視画像の少なくとも一部の深度を変化させることと、
を含む画像処理方法。
【請求項13】
コンピュータを、
コンテンツの表示領域内に配置される立体視画像の基準深度を決定する深度決定部と、
前記コンテンツの表示領域の深度と決定された前記基準深度とが一致するように前記立体視画像の少なくとも一部の深度を変化させる深度変化部と、
として機能させるためのプログラム。


【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7】
image rotate

【図8】
image rotate

【図9】
image rotate

【図10】
image rotate

【図11】
image rotate

【図12】
image rotate

【図13】
image rotate

【図14】
image rotate

【図15】
image rotate


【公開番号】特開2013−90031(P2013−90031A)
【公開日】平成25年5月13日(2013.5.13)
【国際特許分類】
【出願番号】特願2011−226660(P2011−226660)
【出願日】平成23年10月14日(2011.10.14)
【出願人】(000002185)ソニー株式会社 (34,172)
【Fターム(参考)】