画像処理装置、画像処理方法及びプログラム
【課題】ユーザによる画面の操作と複数視点画像とが重なった場合に、ユーザに違和感を生じさせないようにする。
【解決手段】本発明に係る画像処理装置100は、複数視点画像による表示画像上で操作入力を行うことができる入力部118と、複数視点画像を構成する各画像の視差を検出する視差検出部106と、少なくとも入力部118により表示画像上での操作を行うことができる場合に、複数視点画像の視差を調整する視差制御部108と、を備える。これにより、ユーザによる画面の操作と複数視点画像とが重なった場合に、ユーザに違和感が生じてしまうことを確実に抑止することができる。
【解決手段】本発明に係る画像処理装置100は、複数視点画像による表示画像上で操作入力を行うことができる入力部118と、複数視点画像を構成する各画像の視差を検出する視差検出部106と、少なくとも入力部118により表示画像上での操作を行うことができる場合に、複数視点画像の視差を調整する視差制御部108と、を備える。これにより、ユーザによる画面の操作と複数視点画像とが重なった場合に、ユーザに違和感が生じてしまうことを確実に抑止することができる。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、画像処理装置、画像処理方法及びプログラムに関する。
【背景技術】
【0002】
従来から、左右の眼に異なる画像を表示することにより立体映像を提供するシステムが知られている。また、タッチパネル等を使用することにより表示画面上での操作を可能とした装置が知られている。
【先行技術文献】
【特許文献】
【0003】
【特許文献1】特開2002−92656号公報
【発明の概要】
【発明が解決しようとする課題】
【0004】
立体視画像の表示においては、物体を表示部より手前に(飛び出して)見えるようにすることができる。またタッチパネルなど表示部と入力部が一体となった入力装置では、ユーザは表示されたもの(オブジェクト)を直接操作している感覚が得られるので、操作感をより高めることができる。
【0005】
しかしながら、立体視画像をタッチパネルで操作する場合、立体視画像とタッチパネルを操作する指(またはペンなど)とが重なると、ユーザに不自然な感覚を与えたり、不愉快感、違和感を生じさせる場合がある。例えば、立体視画像により表示面よりも手前(使用者側)に飛び出して表示されている部分がある画像を操作する場合、指やペンなどを表示部に近づけると、本来は表示部より手前に表示される部分が、表示部上に位置する指やペンなどによって隠されてしまい、両眼の視差としては表示面よりも手前に位置する物体が、指との相互の隠蔽関係では指の背後に隠れてしまい、使用者に不快感を与えてしまう問題があった。
【0006】
また、タッチパネルの画面では、画面の拡大・縮小等を容易に行うことができるが、拡大時に、両眼の幅を超える視差が表示部で発生する可能性がある。この場合、本来は1つの物体である筈のものが、両目の幅を超える視差となったことにより、1つの物体として使用者が認識できず、2つの物体として認識されてしまい、使用者に不快感を与えてしまう問題があった。
【0007】
上記の特許文献1に記載には、マウスカーソルがアイコンと重なり且つマウスを押したときはアイコン画像を通常状態よりも引っ込ませることを意図した技術が記載されている。しかしながら、アイコンの場合は、所定の位置に所定の形状に表示されるため、予め表示部より手前に表示されないように設定することは可能であるが、画像の場合は、他の機器で撮影された画像であったり、使用者の設定によりディスプレイより手前に表示されるように撮影された画像であったり、映像ソースは多種多様である。このため、ユーザによる画像の操作と立体画像とが重なり、ユーザに不自然さ、違和感を与えてしまう問題が生じる。
【0008】
そこで、本発明は、上記問題に鑑みてなされたものであり、本発明の目的とするところは、ユーザによる画面の操作と複数視点画像とが重なった場合に、ユーザに違和感を生じさせないようにすることが可能な、新規かつ改良された画像処理装置、画像処理方法及びプログラムを提供することにある。
【課題を解決するための手段】
【0009】
上記課題を解決するために、本発明のある観点によれば、複数視点画像による表示画像上で操作入力を行うことができる入力部と、前記複数視点画像を構成する各画像の視差を検出する視差検出部と、少なくとも前記入力部により前記表示画像上での操作を行うことができる場合に、前記複数視点画像の視差を調整する視差制御部と、備える、画像処理装置が提供される。
【0010】
また、前記表示画像の光を出射して前記表示画像を表示する表示部を更に備えるものであってもよい。
【0011】
また、前記視差制御部は、前記視差検出部で検出された視差に基づいて、前記表示画像の光を出射する表示面よりも手前に見える画像が前記表示面上に見えるように視差を調整するものであってもよい。
【0012】
また、前記視差制御部は、前記表示面よりも手前に見える画像の視差を調整することに伴い、他の画像も前記表示面の奥側に移動するように視差を調整するものであってもよい。
【0013】
また、前記視差制御部は、前記表示面よりも手前に見える画像のみが前記表示面上に見えるように視差を変更し、他の画像については視差を制御しないものであってもよい。
【0014】
また、前記視差制御部は、前記視差検出部で検出された視差に基づいて、前記表示画像の光を出射する表示面よりも手前に見える画像が前記表示面よりも奥に見えるように調整するものであってもよい。
【0015】
また、前記視差制御部は、少なくとも前記入力部により前記表示画像上での操作を行うことができる場合に、前記複数視点画像の視差を0に調整して2次元の画像とするものであってもよい。
【0016】
また、前記表示画像の光を出射する表示面に操作者の指又は操作物が近接したことを検出する近接検出部を備え、前記視差制御部は、前記近接検出部により操作者の指又は操作物が近接したことが検出された場合に、前記複数視点画像の視差を調整するものであってもよい。
【0017】
また、前記入力部は前記表示面に設けられた静電容量式のタッチセンサから構成され、
前記近接検出部は、前記タッチセンサから構成され、静電容量の変化に基づいて前記操作者の指又は操作物が近接したことを検出するものであってもよい。
【0018】
また、前記視差検出部は、前記視差制御部による視差の調整の結果、正常な表示ができるか否かを判定し、前記視差検出部により正常な表示ができないと判定された場合に、前記表示画像を縮小する画像処理部を備えるものであってもよい。
【0019】
また、前記画像処理部は、前記表示判定部により正常な表示ができないと判定された場合に、視差が人間の両目の間隔以下となるように画像を縮小するものであってもよい。
【0020】
また、前記視差制御部は、前記入力部の操作により前記表示画像が拡大されることが検知された場合に、前記複数視点画像の視差を調整するものであってもよい。
【0021】
また、前記視差検出部は、前記視差制御部による視差の調整の結果、正常な表示ができるか否かを判定し、前記視差検出部により正常な表示ができないと判定された場合に、前記表示画像を縮小する画像処理部を備えるものであってもよい。
【0022】
また、上記課題を解決するために、本発明の別の観点によれば、複数視点画像による表示画像上で操作入力を行うことができる入力部と、前記複数視点画像を構成する各画像の視差を検出する視差検出部と、前記表示画像の大きさが所定値以下の場合に、前記複数視点画像の視差を調整して、前記表示画像の光を出射する表示面よりも手前に見える画像が前記表示面上に見えるように視差を調整する視差制御部と、を備える、画像処理装置が提供される。
【0023】
また、上記課題を解決するために、本発明の別の観点によれば、複数視点画像による表示画像の周囲で操作入力を行うことができる入力部と、前記複数視点画像を構成する各画像の視差を検出する視差検出部と、少なくとも前記入力部により前記表示画像上での操作を行うことができる場合に、前記表示画像の周囲に2次元画像により前記入力部を表示する画像処理部と、を備える、画像処理装置が提供される。
【0024】
また、上記課題を解決するために、本発明の別の観点によれば、表示部に表示された表示画像上で行われる操作入力を取得するステップと、前記複数視点画像を構成する各画像の視差を検出するステップと、少なくとも前記操作入力により前記表示画像上での操作を行うことができる場合に、前記複数視点画像の視差を調整するステップと、を備える、画像処理方法が提供される。
【0025】
また、上記課題を解決するために、本発明の別の観点によれば、表示部に表示された表示画像上で行われる操作入力を取得する手段、前記複数視点画像を構成する各画像の視差を検出する手段、少なくとも前記操作入力により前記表示画像上での操作を行うことができる場合に、前記複数視点画像の視差を調整する手段、をコンピュータに実行させるためのプログラムが提供される。
【発明の効果】
【0026】
本発明によれば、ユーザによる画面の操作と複数視点画像とが重なった場合に、ユーザに違和感を生じさせないようにすることが可能となる。
【図面の簡単な説明】
【0027】
【図1】本発明の一実施形態に係る画像処理装置の構成例を示す模式図である。
【図2】表示部に立体映像を表示し、表示部のタッチパネルをペンで操作した場合の理想的な表示状態を示す模式図である。
【図3】表示部に立体映像を表示し、表示部のタッチパネルをペンで操作した場合に、ユーザに実際に見える見え方を示す模式図である。
【図4】図3と同じ位置関係であるが、物体“B”とペンの位置関係について示す模式図である。
【図5】視差調整の例を示す模式図である。
【図6】図5と同様の方法で視差調整を行う場合であるが、ユーザに不自然さを与えてしまう例を示す模式図である。
【図7】図6の場合に、奥に見える物体Dの位置は調整せずに、手前に見える物体Cだけを視差調整する場合を示す模式図である。
【図8】手前に複数の物体が見えている場合を示す模式図である。
【図9】全ての物体をディスプレイ面上に表示して2次元画像を表示する場合を示す模式図である。
【図10】2次元表示する場合に、1つの視点の画像を使って表示する例を示す模式図である。
【図11】視差を調整した結果、視差が両眼の幅よりも広くなってしまう場合に、画像の縮小を行う例を示している。
【図12】視差を調整した結果、視差が両眼の幅よりも広くなってしまう場合に、画像の縮小を行う例を示している。
【図13】視差調整のための、視差量の検出方法の例を示す模式図である。
【図14】表示部の表示画面に表示される画像にタッチパネル操作用の操作枠をつけた例を示す模式図である。
【図15】図14の表示部を縦に配置した例を示す模式図である。
【図16】ペンがディスプレイ面に近接したことを検知する近接検知センサーを、タッチパネルで兼用する例を示す模式図である。
【図17】画像操作時の動作を示すフローチャートである。
【図18】タッチパネルを操作して画像の拡大する際の処理を示すフローチャートである。
【図19】図18の処理を行った場合に、拡大して3D表示ができなくなると、拡大できない旨の表示をして拡大率を制限する処理を示すフローチャートである。
【図20】視差調整を行い手前に表示される部分をなくした上で、両眼の幅よりすべての部分の視差が小さくなるように縮小し表示を行う処理を示すフローチャートである。
【図21】図17と図20の場合を切り替えて行う処理を示すフローチャートである。
【図22】画像の横幅が両眼の幅より小さい場合を示すフローチャートである。
【図23】タッチパネル等により画面を操作する表示となった場合に、視差変更を行うか、または2次元表示に切り換える処理を示すフローチャートである。
【図24】タッチパネル等による画面の操作が予想される場合に、視差変更を行うか、または2次元表示に切り換える処理を示すフローチャートである。
【図25】タッチパネル操作が可能な表示の場合に、画像が所定のサイズよりも小さい場合は、視差変更もしくは2次元表示にする処理を示すフローチャートである。
【図26】図14及び図15で説明したような操作枠を設けた場合の処理を示すフローチャートである。
【発明を実施するための形態】
【0028】
以下に添付図面を参照しながら、本発明の好適な実施の形態について詳細に説明する。なお、本明細書及び図面において、実質的に同一の機能構成を有する構成要素については、同一の符号を付することにより重複説明を省略する。
【0029】
なお、説明は以下の順序で行うものとする。
1.画像処理装置の構成例
2.本実施形態に係る画像処理装置の表示について
3.本実施形態の画像処理装置における処理
【0030】
[1.画像処理装置の構成例]
図1は、本発明の一実施形態に係る画像処理装置100の構成例を示す模式図である。画像処理装置100は、例えば比較的小型のディスプレイを備える装置であって、立体映像(3D映像)を表示可能なデバイスである。画像処理装置100に表示する画像としては、静止画、動画のいずれであっても良い。また、画像処理装置100は、表示画面に応じてユーザが画面を操作することによって、各種の入力が可能とされたものである。この画像表示装置100は、デジタルスチルカメラ、デジタルビデオカメラ、パーソナルコンピュータ(PC)、ゲーム機、テレビ受像機、電話、PDA、画像再生装置、画像記録装置、カーナビ、携帯端末、プリンターなどで実現することができる。
【0031】
なお、3Dの映像方式については特に限定されるものではない。例えば、左目用と右目用の映像を時系列的に交互に表示し、映像の表示と同期してユーザの左右の目に装着した眼鏡シャッターを開閉することにより、左目用と右目用の映像をユーザの左右の目にそれぞれ提供するシステムを用いることができる。また、眼鏡シャッターを用いることなく、偏光板の作用により左右の映像をユーザの左右の目にそれぞれ提供するシステムを用いてもよい。
【0032】
図1に示すように、画像処理装置100は、読み出し部102、画像処理部104、視差検出部106、視差制御部108、表示部110、制御部112、メモリ114、近接検出部116を備える。読み出し部102には、メディア200から立体映像を構成する右眼用画像及び左目用画像のデータが送られる。メディア200は、立体映像データを記録した記録媒体であり、一例として、画像処理装置100の外部から装着される。また、入力部118は、表示部110上に設けられたタッチパネルである。画像処理装置100には、入力部118を介してユーザによる操作情報が入力される。入力部118に入力された情報は、制御部112へ送られる。入力部118の操作に基づいて、現在のモードが画像自体を操作する画面(タッチパネル操作が可能な画面)であるか否かを制御部112で判断する。
【0033】
図1に基づいて、画像処理装置100における基本的な処理を説明すると、先ず、メディア200から画像処理装置100に送られた左右の映像データは、読み出し部102にて読み出され、画像処理部104にて画像処理が行われる。画像処理部104では、左右の画像データの大きさの適正化(リサイズ)、画質調整など、表示用の画像に加工する処理を行う。画像処理部104は、後述するように、視差を調整した結果、視差が両目の幅よりも大きくなる場合等において、画像を縮小する処理を行う。
【0034】
視差検出部106では、左右の画像データを比較し、動きベクトルの検出、ブロックマッチング等の手法により、左右映像の視差を検出する。そして、視差検出部106では、表示面よりも手前に位置する画像があるか否か、視線が交差しない部分があるか否かなどを検出する。
【0035】
視差制御部108は、表示部110のタッチパネル操作が行われる場合に、視差を変更する処理を行う。視差制御部108は、表示面よりも手前に位置する部分や視線が交差する部分がないように視差を調整する。
【0036】
表示部110は、立体映像を表示するディスプレイであり、液晶表示ディスプレイ(LCD)等から構成される。視線調整部108で視差が調整された画像は、表示部110に供給されて表示される。なお、表示部110は、画像処理装置100と一体であっても別体であっても良い。また、表示部110は、入力部118であるタッチパネル(タッチセンサ)を一体に備えている。ユーザは、表示部110に表示された立体映像を視認しながら、タッチパネル操作(入力部118の操作)を行うことができる。なお、表示部110へユーザの指、ペンなどが近接したことを判断する場合は、近接検出部116により近接したことの検出を行い、制御部112で判断を行う。入力部118として、近接を検知可能な静電容量式のタッチセンサ等を用いた場合、近接検出部116は表示部110と同一面にある入力部118と兼用することができる。
【0037】
制御部112は、画像処理装置100の全体を制御する構成要素であって、中央演算処理装置(CPU)等から構成される。メモリ114は、ハードディスク、RAM、ROM等から構成され、左右の映像データを格納する。また、メモリ114は、画像処理装置100を機能させるためのプログラムを格納することができる。近接検出部116は、ユーザによるタッチパネル操作が行われる場合に、ユーザの指、ペン(スタイラス)などが表示部110へ近接したことを検出する。なお、タッチパネルが静電容量を検出する静電容量式のタッチセンサで構成される場合、静電容量の変化により指、ペン等の近接を検出することができるため、近接検出部116はタッチパネルにより構成することができる。
【0038】
図1に示す各構成要素は、バス120によって接続されている。図1に示す各構成要素は、回路(ハードウェア)、または中央演算処理装置(CPU)とこれを機能させるためのプログラム(ソフトウェア)によって構成することができる。
【0039】
[2.本実施形態に係る画像処理装置の表示について]
図2は、表示部110に立体映像を表示し、表示部110のタッチパネルをペンで操作した場合の理想的な(自然な)表示状態を示す模式図である。図2(a)は、タッチパネルを操作するペンが表示部110の表示画面上に存在しない場合を示しており、表示部110の左側に3D表示物“A”が表示され、右側に3D表示物“B”が表示されている様子を示している。また、図2(b)は、図2(a)の立体映像を表示している際に、表示部110のタッチパネルをペンで操作している様子を示している。
【0040】
図2(a)及び図2(b)の場合、“B”の部分が表示部110の表示面(ディスプレイ面)よりも手前(飛び出して)に表示され、“A”の部分が表示面よりも奥に表示される。図2(b)は、表示面をペンで操作した場合に、本来の位置関係での理想的な見え方を示したもので、表示面を操作しているペンよりも“B”が手前に見えている。従って、ペンは“B”の背後に隠れている。一方、“A”は表示面よりも奥にあるため、“A”はペンの背後に隠れる。図2(C)は、図2(B)の“A”、“B”、ディスプレイ面及びペンの奥行き方向の位置関係を示す図であって、図2(b)を上側から見た状態を示す模式図である。図2(c)に示すように、位置関係としては奥から、“A”、ディスプレイ面、ペン、“B”の順になる。従って、本来の見え方は、図1(B)のようになるのが望ましい。
【0041】
図3は、表示部に立体映像を表示し、表示部のタッチパネルをペンで操作した場合に、ユーザに実際に見える見え方を示している。図3(a)及び図3(c)は、図2(a)及び図2(c)とそれぞれ同一である。図3(b)は、3D表示画面上にペンを置いた場合に、ユーザに実際に見える見え方を示している。図3(b)に示すように、本来“B”よりも奥にあるペンが“B”の手前に見えており、ペンが“B”を隠している。ペンが存在しない場合、ユーザには3D表示により“B”が手前に見えているが、実際の光は表示部110のディスプレイ面から発光されており、ディスプレイ面はペンより奥にあるため、このような現象が発生する。この場合、使用者は2つの矛盾する奥行き情報を受け取るため、不自然さを感じ、不快な印象を持つことになる。
【0042】
図4は、図3と同じ位置関係であるが、物体“B”とペンの位置関係について示す模式図である。図4(a)は、使用者からの見え方を示す模式図である。図4(b)及び図4(c)は、奥行き方向の位置関係を示す図であって、図4(a)を左側面から見た状態を示している。図4(b)は、ペンが無い場合の位置関係を示しており、図4(c)は、ペンがある場合の見え方の位置関係を示している。図4(c)に示すように、ペンがある場合は、本来ペンよりも手前に見える筈の“B”の映像が表示面上でペンに遮られてしまうため、表示面よりも手前に見える筈の“B”は、ペンの領域だけ凹んだように見えてしまう。このように、実際の物体を立体視する場合には、物体の位置とその物体が発する光の発生源とは同じ位置であるが、立体画像の場合は、物体の見かけ上の位置と光の発生源の位置とが一致しないため、このような現象が起きてしまい、ユーザは映像の不自然さを感じてしまう。
【0043】
本実施形態では、このような現象を解消するために、ユーザの指やペンが表示面上にある場合は、視差調整を行う。図5は、視差調整の例を示す模式図である。図5の上段の図は、図2(c)と同様に、表示面を上から見たときの奥行き方向の位置を模式的に示している。また、図5の下段の図は、左目用画像と右目用画像のそれぞれにおける物体の表示状態を示している。また、図5の左側の図は視差調整前を示しており、右側の図は視差調整後を示している。
【0044】
図5の左側の図は視差調整前の状態を示しており、手前と奥に1つずつ物体が見えている(物体C(●)、物体D(○))。これを視差調整して右図のようにして、手前に見える物体Cを表示部110の表示面と同じ位置か、もしくは表示面よりも奥になるようにする。これにより、表示面よりも手前に位置する物体が無くなるため、表示面上にペンを置いた場合であっても、ペンが映像よりも手前に位置するため、映像とペンとの位置関係で不自然さが生じることを回避できる。
【0045】
より詳細に説明すると、図5の上段に示す図は、ユーザと表示部110を上方から見た状態を示しており、ディスプレイ面、ユーザの右目、左目、物体C、物体Dの位置を示している。また、下段に示す図は、表示部110に表示される左目用画像と右目用画像を示している。上段の図に示すように、右目用画像の物体Cと右目を直線で結び、左目用画像の物体Cと左目を直線で結ぶと、2つの直線の交点が物体Cの奥行き方向の位置となる。同様に、右目用画像の物体Dと右目を直線で結び、左目用画像の物体Dと左目を直線で結ぶと、2つの直線の交点が物体Dの奥行き方向の位置となる。なお、物体の奥行き方向の位置は、左目用画像と右目用画像における物体の位置と、右目、左目の位置に基づいて、他の図においても同様に定められる。
【0046】
図5の右側の図では、物体Cについて、左目用画像と右目用画像の位置を同一とし、視差を0とすることで、物体Cが表示面上に表示される。また、これに伴い、物体Dについては左目用画像と右目用画像の視差が左側の図よりも大きくなるため、物体Dは表示面に対して左側の図より奥側に表示される。このように、図5に示す例では、物体C、物体Dの表示位置を共に奥側へ移動することで、物体Cは表示面上に表示され、物体Dは表示面に対してより奥の位置に表示される。従って、表示面上にペンが置かれた場合に、ペンよりも物体C、物体Dは奥に表示されるため、ユーザに不自然さや、違和感等が生じてしまうことを抑止できる。なお、物体Cについても、表示面よりも奥の位置に表示するようにしても良い。
【0047】
図6は、図5と同様の方法で視差調整を行う場合であるが、ユーザに不自然さを与えてしまう例を示している。図6の左側の図の位置関係に見える画像(物体C、物体D)を視差調整して、図5と同様の方法により物体Cをディスプレイ面に表示し、表示面よりも手前に物体が表示されないようにした場合、右側の図のようになり、両眼の幅よりも広い視差が生じてしまう部分が発生する。
【0048】
より詳細には、図6の右側の下段の図に示すように、物体Cの視差を0とするために、左目用画像の物体C、物体Dを左方向に移動すると、左目用画像と右目用画像における物体Dの視差が過度に大きくなり、両目の幅よりも大きな視差となってしまう。この場合、物体Dについては、左右の目の視線が交差しないため、ユーザは1つの物体として認識することができず、ユーザの目には物体Dが二重に見えてしまう。
【0049】
図7は、図6の場合に、奥に見える物体Dの位置は調整せずに、手前に見える物体Cだけを視差調整する場合を示す模式図である。左側の図では、物体Cは手前に見えており、物体Dは奥に見えている。この状態から、右目用画像と左目用画像のそれぞれにおいて、物体Cの位置のみを調整して、物体Cの視差が0となるようにする。具体的には、左側の図に示す左目用画像の物体Cを左方向に移動し、右目用画像の物体Cを右方向に移動する。一方、左目用画像と右目用画像における物体Dの位置は変更しない。これにより、手前に見えていた物体Cは、表示面上に見えるようになる。一方、物体Dは元の視差のままであり、表示面の奥の同じ位置に見えている。このように、手前に見える物体が1つだけであり、そのほかの物体が奥行き方向に離れている場合は、手前に見えている物体のみの位置を調整しても良い。
【0050】
図8は、手前に複数の物体が見えている場合を示している。図8の左側の図では、物体Cと物体Eが表示面よりも手前に見えており、物体Dが表示面よりも奥に見えている場合を示している。この場合、手前に見えている物体Cと物体Eのみの視差を調整して、物体Cと物体Eがディスプレイ面上に見えるようにすることで、ユーザの指やペンなどがディスプレイ面上に位置した場合にユーザに違和感が生じてしまうことを回避できる。ここで、全ての物体の視差を一律に調整することなく、手前に見えている物体の視差のみを調整することを、「視差変更」と称することとする。一方、図6などで既に説明した全ての物体の視差を調整することを、「視差調整」と称することとする。図8のような視差変更を行った場合、元々ディスプレイ面よりも手前の異なる奥行き位置に見えていた物体Cと物体Eがともにディスプレイ面上に位置するため、物体Cと物体Eの相互の奥行き感がなくなってしまう。
【0051】
図9は、全ての物体をディスプレイ面上に表示して2次元画像を表示する場合を示している。図6で説明したように、ディスプレイ面よりも手前に物体を表示しないように視差調整した際に、両眼の幅より視差が大きくなってしまう部分が発生する場合は、視差調整を行い、2次元で映像を表示するようにする。図9の例では、物体C、物体D、物体Eのそれぞれの視差を0とすることで、物体C、物体D及び物体Eを2次元で表示している。この場合、図9の下段に示すように、物体C、物体D及び物体Eのそれぞれについて、左目用画像と右目用画像の位置を調整して視差を0にする。
【0052】
図10は、2次元表示する場合に、1つの視点の画像を使って表示する例を示す模式図である。図10に示す例では、右側の図の下段に示すように、右目用画像として左目用画像と同一の画像を表示する。これにより、特に右目用画像と左目用画像の視差を調整することなく、2次元表示を行うことが可能である。従って、ブロックマッチング等により視差を検出する処理を行う必要がなく、図9の場合と比較すると、より簡素な処理で2次元画像を表示することが可能である。
【0053】
図11及び図12は、図6で説明したように、視差を調整した結果、視差が両眼の幅よりも広くなってしまう場合に、画像の縮小を行う例を示している。図11の右側は、左側に対して左右の画像をともに縮小した場合を示している。図11に示すように、画像の大きさは一定値以下となると、視線が交差しない画像を作成することができない。従って、図6の右側の図で説明したような、両眼の幅よりも広い視差が生じてしまう部分は発生しない。
【0054】
図12の左側の図は、図6の右側の図に対応しており、両眼の幅よりも広い視差が生じてしまう部分が発生した状態を示している。図12の右側の図は、図11の原理を用いて、図12の左側の図を縮小した状態を示している。図12の左側の図(図6の右側の図)に示すように、視差を調整した結果、両眼の幅よりも視差が大きくなると、3D画像を表示することはできないため、図12の右側の図に示すように、左右の画像を縮小して視差を両目の幅よりも狭くする。これにより、手前に表示されていた部分をディスプレイ面上に表示できるとともに、図6の右側の図のように視差が両眼の幅よりも大きくなってしまうことを回避できる。従って、縮小を行うことで、視差を両眼の幅よりも狭くすることができ、物体が二重に見えてしまうことを回避できる。
【0055】
図13は、視差調整のための、視差量の検出方法の例を示す模式図である。視差を求める2つの画像(左目用画像と右目用画像)の一方をブロックに分割して、各ブロックを他方の画像と比較した場合に、各ブロックが他方の画像のどの部分との間で誤差が最小になるかを求める。そして、他方の画像上での誤差が最小となる位置と、もともとのブロックの位置の差が視差量となる。図13に示すように、視差量は、ブロック毎にベクトル値として求められる。図13の例では、右目用画像をブロックに分割して、各ブロックを左目用画像と比較し、左目用画像と各ブロックとの間で誤差が最小になる位置を探索する。そして、誤差が最小となる位置とブロック抽出時の位置との差を動きベクトルとして、画面全体の各ブロックについての動きベクトルを算出する。
【0056】
図13に示す例では、右目用画像のブロックに対して、左目用画像の対応する位置が左側にずれている場合は、動きベクトルは右から左へ向かうベクトルとなる。図5の左側の図等に示すように、右目用画像のブロックに対して左目用画像の対応する位置が左側にずれている場合は、表示面よりも奥に物体が表示される(図5の左側の図に示す物体D)。一方、右目用画像のブロックに対して左目用画像の対応する位置が右側にずれている場合は、表示面よりも手前に物体が表示される(図5の左側の図に示す物体C)。従って、図13に示すように、各ブロックの動きベクトルを算出した場合に、動きベクトルが右から左へ向かうベクトルの場合は、そのブロックに対応する物体が表示面の奥に表示され、動きベクトルが左から右へ向かうベクトルの場合は、そのブロックに対応する物体が表示面の手前に表示されることが判る。また、動きベクトルが右から左へ向かうベクトルの場合、ベクトルの絶対値が大きいほど、そのブロックに対応する物体が表示面のより奥に表示される。動きベクトルが左から右へ向かうベクトルの場合、ベクトルの絶対値が大きいほど、そのブロックに対応する物体が表示面のより手前に表示される。なお、図13に示す処理は、図1に示す視差検出部106で行われる。
【0057】
視差を調整する際には、動きベクトルが左から右へ向かうベクトルのブロックの中から、その絶対値(=A)が最大のブロック(ここでは、ブロック1とする)を抽出する。この抽出されたブロック1の画像は、最も手前に位置するので、このブロックの動きベクトルの大きさを“0”に調整する。そして、他のブロックについては、各ブロックの動きベクトルからブロック1の動きベクトルだけ減算する処理を行う。これにより、図6で説明したように、全ての物体の奥行き方向の位置を一律に奥側へ移動することができる。なお、図8で説明したような視差変更を行う場合は、動きベクトルが左から右へ向かう全てのブロックの動きベクトルの大きさを“0”に調整する。なお、このような視差の調整は、図1に示す視差制御部108で行われる。
【0058】
図14は、表示部110の表示画面111に表示される画像にタッチパネル操作用の操作枠112をつけた例を示す模式図である。ここで、操作枠112は2次元画像で表示する。操作枠112を画像の外側に設けることで、ペンが操作枠112を操作した場合に、3D表示が行われている画像の表示領域と重なることがないため、3D表示されている画像とペンが重なることによる不自然さ、違和感を抑止できる。ここで、図14の上段は、表示画面1111内に複数の画像をサムネイルの状態で表示し、各画像の周囲に操作枠112を設けた例を示している。また、図14の下段は、表示画面111内に1の画像を表示し、1の画像の周囲に操作枠112を設けた例を示している。
【0059】
図15は、図14の表示部110を縦に配置した例を示す模式図である。図15の例においても、タッチパネル操作の際に指やペンが3Dの画像に直接触れることがないため、不快感を無くすことが可能である。
【0060】
図16は、ペンがディスプレイ面に近接したことを検知する近接検知センサーを、タッチパネルで兼用する例を示す模式図である。例えば、静電容量式のタッチパネルを用いた場合、近接検知センサー(近接検出部116)をタッチパネルで兼用することが可能である。
【0061】
図16の上段の図は、ディスプレイ面と平行な方向から見た状態を示しており、ディスプレイ面にペンが接近または接触した場合を示している。また、図16の中段の図は、ディスプレイ面の上側から状態を示しており、ディスプレイ面にペンが接近または接触した場合を示している。また、図16の下段の図は、ディスプレイ面にペンが接近または接触した場合に、タッチセンサで検出される静電容量の変化を示しており、ドットを付した領域の静電容量が高くなった状態を示している。
【0062】
図16の下段の図に示すように、ペンが近づいてくる過程では、ペンと近接している場所の静電容量が変化し、ペンが表示画面に接触すると静電容量の変化がより大きくなる。従って、これを用いてペンがどの程度近接しているか、あるいは接触しているかを判断することができる。
【0063】
[3.本実施形態の画像処理装置における処理について]
次に、本実施形態の画像処理装置100による処理について説明する。なお、以下に示す各処理は、制御部112の制御によって図1の各構成要素の機能を制御することによって実現することができる。図17は、画像操作時の動作を示すフローチャートである。先ず、ステップS101では、画像を読み出し、ステップS102で画像を操作可能な画面であるか否か判断する。すなわち、ステップS102では、タッチパネル操作により画面を操作できるモードであるか否かを判断する。この場合に、近接検出部116によりユーザの指またはペン等が表示面に近づいたことが検知された場合に、タッチパネル操作により画面を操作できるモードであると判断することができる。ステップS102において、操作可能な画面でない場合は、ステップS106へ進み、画面をそのまま表示する。
【0064】
一方、タッチパネルによる操作が可能な画面の場合は、ステップS103へ進み、表示面より手前になる部分があるか否かを判断する。モードの切り換えの設定がユーザの操作によって行われる場合、タッチパネル操作が可能な画面に設定されたときはステップS102からステップS103へ進み、タッチパネル操作ができない画面に設定されたときはステップS102からステップS106へ進む。
【0065】
ステップS103では、3D表示により表示面よりも手前に表示されている物があるか否かを判断する。そして、表示面よりも手前に表示される部分が存在しない場合は、ステップS106へ進み、画像をそのまま表示する。一方、表示面よりも手前に表示される物が存在する場合は、ステップS104へ進み、視差調整した場合に正しい表示になるか否かを判断する。すなわち、ステップS104では、視差調整をした場合に、図6の右側の図に示したように、両眼の幅より視差が大きくなる部分があるか否かを判断し、正しい表示になる場合、つまり、両目の幅よりも視差が大きくなる部分が無い場合は、ステップS105へ進む。ステップS105では、表示面よりも手前に位置する部分が表示面上に表示されるように視差調整を行う。これにより、ステップS106では、表示面よりも手前にある部分をなくした状態で画像が表示される。一方、ステップS104で正しい表示にならないと判断された場合は、ステップS107へ進み、視差変更を行うか、または、図10で説明したように、片側の視点の画像のみを用いて二次元表示を行う。ここで、視差変更とは、図7で説明したように、手前に見える部分のみを表示面上に移動する処理をいう。これにより、表示面よりも手前になる部分を無くした状態で3D画像を表示することができる。
【0066】
図18は、タッチパネルを操作して画像を拡大する際の処理を示すフローチャートである。画像の拡大が行われると、拡大に伴って左右の画像の視差が大きくなり、視差が両目の幅よりも大きくなると、図6で説明したように物が二重に見えてしまう事態が発生する。このため、図18の処理では、拡大操作が行われるたびに、正しい表示が行われるか否かを判定し(ステップS204)、正しい表示にならない場合は2次元画像で表示を行う。これにより、拡大操作が行われる場合に、正常な表示を維持するとともに、ユーザの指やペンが表示面の手間に表示される画像と重ならないようにすることができる。
【0067】
図17では、ステップS102で画像自体を操作する画面であるか否かを判定したが、図18のステップS202では、ステップS102の代わりに、画像の拡大操作が行われたか否かを判定する。画像の拡大操作が行われた場合は、ステップS203へ進み、拡大する画像に表示される物体が表示面よりも手前になるか否かを判定する。一方、画像の拡大操作が行われない場合は、ステップS206へ進む。ステップS203〜S207の処理は、図16のステップS103〜S107と同様である。そして、ステップS202からステップS206へ進んだ場合は、ステップS206にて拡大した画像を表示する。これにより、拡大された画像内で表示面よりも手前の位置に物体が表示されてしまうことを回避できる。
【0068】
また、画像の拡大率が大きく、ステップS204において、視差調整しても正しい表示にならない場合は、ステップS207へ進み、視差変更もしくは2Dによる表示を行う。従って、拡大が行われる毎に正しい表示になるか否かがステップS204で判断され、正しい表示ができない場合は視差変更もしくは2Dによる表示を行うことで、ユーザが不自然さを感じてしまうことを抑止できる。なお、視差変更を行う場合は、上述したように、表示面の手前に位置する物体の視差のみを変更するため、表示面よりも奥に位置する物体の視差は変更されない。従って、図6の右側の図に示したような、物体が2重に見えてしまう事態を回避することが可能である。
【0069】
また、図18では、ステップS206の後、ステップS208へ進み、画像の拡大・縮小操作が行われたか否かを更に判断する。そして、画像の拡大・縮小操作が行われた場合は、ステップS209へ進み、画像の拡大・縮小を行う。ステップS209の後はステップS203以降の処理へ戻り、拡大・縮小が行われた後の画像について、表示面よりも手前に位置する画像があるか否かを判断する。
【0070】
また、ステップS207の後はステップS211へ進み、画像の拡大・縮小操作が行われたか否かを判定する。そして、画像の拡大・縮小操作が行われた場合は、ステップS212へ進み、画像の拡大・縮小操作を行い、ステップS210で拡大・縮小後の画像を表示する。
【0071】
以上のように、図18の処理によれば、画像を拡大して3D表示ができなくなると、2D表示を行うことができる。従って、画像の拡大によって図6の右側の図に示すように3D表示ができなくなる場合は、2D表示に切り換えることができるため、拡大に起因して3D表示ができなくなることを回避できる。
【0072】
図19は、図18の処理を行った場合に、拡大して3D表示ができなくなると、拡大できない旨の表示をして拡大率を制限する処理を示している。図19では、図18に対して、ステップS204で“NO”判定がされた場合の処理が異なっている。ステップS204において、視差調整した場合に正しい表示にならないことが判定されると、ステップS213へ進む。ステップS213では、直前の拡大前の画像に戻す処理を行う。ステップS213の後はステップS214へ進み、拡大できない旨の表示を行う。これにより、ユーザは、更なる拡大ができないことを認識することができる。
【0073】
図20は、正しい表示ができない場合に、図17で説明した視差変更または二次元表示を行う代わりに、視差調整を行い手前に表示される部分をなくした上で、すべての部分の視差が両眼の幅より小さくなるように縮小し表示を行う処理を示すフローチャートである。この処理は、図12の表示処理に対応する。図20の処理は、ステップS307以外の処理は図17と同様であり、図20のステップS301〜S306は図17のステップS101〜S106に対応する。ステップS304で、視差調整をした場合に正しい表示にならないと判断された場合、ステップS307へ進む。ステップS307では、視差調整をして表示面よりも手前になる部分をなくし、更に、図12で説明したように、視差が交差しない部分がなくなるまで画像の表示部分を縮小する。そして、次のステップS306では、縮小した画像を表示する。この処理によれば、画像は縮小されるものの、多視点表示(立体映像表示)を維持することができる。
【0074】
図21は、図17と図20の場合を切り替えて行う処理を示すフローチャートである。ここでは、視差調整した場合に正しい表示にならない場合は、ステップS404に進み、表示サイズと3D表示のいずれが重要かを判断する。そして、3D表示の方が重要な場合は、ステップS405へ進み、視差調整を行うとともに、視線が交差しない部分がなくなる大きさへ縮小して表示を行う。つまり、この場合は図20のステップS307の処理を行う。これにより、画面のサイズは小さくなるが、3D表示を行うことができる。
【0075】
また、ステップS404において、3D表示よりも表示サイズの方が重要な場合は、ステップS408へ進み、視差を変更するか、もしくは片側の画像のみを抽出して2Dでの表示を行う。つまり、この場合は、図17のステップS107の処理を行う。このように、図21の処理によれば、3Dなどの多視点表示と、画像の大きさのどちらが重要か判断して、視差調整して縮小表示するか、2次元(または視差変更)で表示するかを決定する。この判断は使用者が入力部で設定してもよいし、画像処理装置100側で表示の状態に応じて判断してもよい。
【0076】
図22は、画像の横幅が両眼の幅より小さい場合を示すフローチャートである。人間の両目の幅は、通常、5cm〜7cm程度であるため、図22は、画像の横幅が5cm〜7cm程度以下の場合に該当する。この場合は、画像の幅が狭く、図6の右側の図に示したような状況が発生することがないため、視差調整により手前に表示する部分を表示面に移動するのみでよく、視差調整が可能である。換言すれば、図6の右側の図に示したような状況は発生しないため、図17のステップS104の処理が不要となる。その他の処理は、図17と同様である。なお、この場合、視差が交差しない部分は画像の横幅の外になるため、表示されることがない。
【0077】
図23は、タッチパネル等により画面を操作する表示となった場合に、視差変更を行うか、または2次元表示に切り換える処理を示すフローチャートである。ステップS602において、画面自体を操作する画面であることが判定されると、ステップS603へ進み、視差変更を行うか、または片側の画像のみを抽出して2次元での表示を行う。これにより、表示面よりも手前に表示される物体がなくなるため、タッチパネル操作の際にユーザに違和感が生じてしまうことを抑止できる。
【0078】
図24は、タッチパネル等による画面の操作が予想される場合に、視差変更を行うか、または2次元表示に切り換える処理を示すフローチャートである。ステップS702において、画面にペンや指が近づいたことが検出されると、ステップS703へ進み、視差変更を行うか、または片側の画像のみを抽出して2次元表示を行う。このように、実際に画面操作が行われていない場合においても、ユーザの指やペンなどの近接に応じて、画面の操作が予想される場合に視差変更または2次元での表示を行う。なお、上述したように、ペン、又は指などが近接したことは、近接検出部116や、静電容量式のタッチパネルにより検出する。
【0079】
図25は、タッチパネル操作が可能な表示の場合に、画像が所定のサイズよりも小さい場合は、視差変更もしくは2次元表示にする処理を示すフローチャートである。このように、例えばサムネイルなどの小さい画像の場合は立体感が弱くなり易いため、所定のサイズよりも小さい画像を表示することを条件として、視差変更または2次元表示にすることもできる。
【0080】
図26は、図14及び図15で説明したような操作枠112を設けた場合の処理を示すフローチャートである。ステップS902において、タッチパネルなどで画面自体を操作する画面であると判定された場合は、ステップS903にて画像と関連付けた2次元の操作枠112を表示する。これにより、ユーザは指やペンで操作枠112を操作し、3次元の画像上に指またはペンが位置することがないため、3D画像と指やペンなどが重なることにより違和感の発生を抑止できる。
【0081】
以上説明したように本実施形態によれば、手前に表示されるものがなくなるので、画像の中に指やペンと不自然な関係をもつ部分を無くすことができ、使用者に不快感を与えてしまうことを抑止できる。また、両眼の幅より広い視差を有する画像が表示されることがないため、同一物体が二重に見えてしまうことを抑止でき、使用者が違和感を感じることを確実に抑えることが可能となる。
【0082】
以上、添付図面を参照しながら本発明の好適な実施形態について詳細に説明したが、本発明はかかる例に限定されない。本発明の属する技術の分野における通常の知識を有する者であれば、特許請求の範囲に記載された技術的思想の範疇内において、各種の変更例または修正例に想到し得ることは明らかであり、これらについても、当然に本発明の技術的範囲に属するものと了解される。
【符号の説明】
【0083】
100 画像処理装置
104 画像処理部
106 視差検出部
108 視差制御部
110 表示部
116 近接検出部
118 入力部
【技術分野】
【0001】
本発明は、画像処理装置、画像処理方法及びプログラムに関する。
【背景技術】
【0002】
従来から、左右の眼に異なる画像を表示することにより立体映像を提供するシステムが知られている。また、タッチパネル等を使用することにより表示画面上での操作を可能とした装置が知られている。
【先行技術文献】
【特許文献】
【0003】
【特許文献1】特開2002−92656号公報
【発明の概要】
【発明が解決しようとする課題】
【0004】
立体視画像の表示においては、物体を表示部より手前に(飛び出して)見えるようにすることができる。またタッチパネルなど表示部と入力部が一体となった入力装置では、ユーザは表示されたもの(オブジェクト)を直接操作している感覚が得られるので、操作感をより高めることができる。
【0005】
しかしながら、立体視画像をタッチパネルで操作する場合、立体視画像とタッチパネルを操作する指(またはペンなど)とが重なると、ユーザに不自然な感覚を与えたり、不愉快感、違和感を生じさせる場合がある。例えば、立体視画像により表示面よりも手前(使用者側)に飛び出して表示されている部分がある画像を操作する場合、指やペンなどを表示部に近づけると、本来は表示部より手前に表示される部分が、表示部上に位置する指やペンなどによって隠されてしまい、両眼の視差としては表示面よりも手前に位置する物体が、指との相互の隠蔽関係では指の背後に隠れてしまい、使用者に不快感を与えてしまう問題があった。
【0006】
また、タッチパネルの画面では、画面の拡大・縮小等を容易に行うことができるが、拡大時に、両眼の幅を超える視差が表示部で発生する可能性がある。この場合、本来は1つの物体である筈のものが、両目の幅を超える視差となったことにより、1つの物体として使用者が認識できず、2つの物体として認識されてしまい、使用者に不快感を与えてしまう問題があった。
【0007】
上記の特許文献1に記載には、マウスカーソルがアイコンと重なり且つマウスを押したときはアイコン画像を通常状態よりも引っ込ませることを意図した技術が記載されている。しかしながら、アイコンの場合は、所定の位置に所定の形状に表示されるため、予め表示部より手前に表示されないように設定することは可能であるが、画像の場合は、他の機器で撮影された画像であったり、使用者の設定によりディスプレイより手前に表示されるように撮影された画像であったり、映像ソースは多種多様である。このため、ユーザによる画像の操作と立体画像とが重なり、ユーザに不自然さ、違和感を与えてしまう問題が生じる。
【0008】
そこで、本発明は、上記問題に鑑みてなされたものであり、本発明の目的とするところは、ユーザによる画面の操作と複数視点画像とが重なった場合に、ユーザに違和感を生じさせないようにすることが可能な、新規かつ改良された画像処理装置、画像処理方法及びプログラムを提供することにある。
【課題を解決するための手段】
【0009】
上記課題を解決するために、本発明のある観点によれば、複数視点画像による表示画像上で操作入力を行うことができる入力部と、前記複数視点画像を構成する各画像の視差を検出する視差検出部と、少なくとも前記入力部により前記表示画像上での操作を行うことができる場合に、前記複数視点画像の視差を調整する視差制御部と、備える、画像処理装置が提供される。
【0010】
また、前記表示画像の光を出射して前記表示画像を表示する表示部を更に備えるものであってもよい。
【0011】
また、前記視差制御部は、前記視差検出部で検出された視差に基づいて、前記表示画像の光を出射する表示面よりも手前に見える画像が前記表示面上に見えるように視差を調整するものであってもよい。
【0012】
また、前記視差制御部は、前記表示面よりも手前に見える画像の視差を調整することに伴い、他の画像も前記表示面の奥側に移動するように視差を調整するものであってもよい。
【0013】
また、前記視差制御部は、前記表示面よりも手前に見える画像のみが前記表示面上に見えるように視差を変更し、他の画像については視差を制御しないものであってもよい。
【0014】
また、前記視差制御部は、前記視差検出部で検出された視差に基づいて、前記表示画像の光を出射する表示面よりも手前に見える画像が前記表示面よりも奥に見えるように調整するものであってもよい。
【0015】
また、前記視差制御部は、少なくとも前記入力部により前記表示画像上での操作を行うことができる場合に、前記複数視点画像の視差を0に調整して2次元の画像とするものであってもよい。
【0016】
また、前記表示画像の光を出射する表示面に操作者の指又は操作物が近接したことを検出する近接検出部を備え、前記視差制御部は、前記近接検出部により操作者の指又は操作物が近接したことが検出された場合に、前記複数視点画像の視差を調整するものであってもよい。
【0017】
また、前記入力部は前記表示面に設けられた静電容量式のタッチセンサから構成され、
前記近接検出部は、前記タッチセンサから構成され、静電容量の変化に基づいて前記操作者の指又は操作物が近接したことを検出するものであってもよい。
【0018】
また、前記視差検出部は、前記視差制御部による視差の調整の結果、正常な表示ができるか否かを判定し、前記視差検出部により正常な表示ができないと判定された場合に、前記表示画像を縮小する画像処理部を備えるものであってもよい。
【0019】
また、前記画像処理部は、前記表示判定部により正常な表示ができないと判定された場合に、視差が人間の両目の間隔以下となるように画像を縮小するものであってもよい。
【0020】
また、前記視差制御部は、前記入力部の操作により前記表示画像が拡大されることが検知された場合に、前記複数視点画像の視差を調整するものであってもよい。
【0021】
また、前記視差検出部は、前記視差制御部による視差の調整の結果、正常な表示ができるか否かを判定し、前記視差検出部により正常な表示ができないと判定された場合に、前記表示画像を縮小する画像処理部を備えるものであってもよい。
【0022】
また、上記課題を解決するために、本発明の別の観点によれば、複数視点画像による表示画像上で操作入力を行うことができる入力部と、前記複数視点画像を構成する各画像の視差を検出する視差検出部と、前記表示画像の大きさが所定値以下の場合に、前記複数視点画像の視差を調整して、前記表示画像の光を出射する表示面よりも手前に見える画像が前記表示面上に見えるように視差を調整する視差制御部と、を備える、画像処理装置が提供される。
【0023】
また、上記課題を解決するために、本発明の別の観点によれば、複数視点画像による表示画像の周囲で操作入力を行うことができる入力部と、前記複数視点画像を構成する各画像の視差を検出する視差検出部と、少なくとも前記入力部により前記表示画像上での操作を行うことができる場合に、前記表示画像の周囲に2次元画像により前記入力部を表示する画像処理部と、を備える、画像処理装置が提供される。
【0024】
また、上記課題を解決するために、本発明の別の観点によれば、表示部に表示された表示画像上で行われる操作入力を取得するステップと、前記複数視点画像を構成する各画像の視差を検出するステップと、少なくとも前記操作入力により前記表示画像上での操作を行うことができる場合に、前記複数視点画像の視差を調整するステップと、を備える、画像処理方法が提供される。
【0025】
また、上記課題を解決するために、本発明の別の観点によれば、表示部に表示された表示画像上で行われる操作入力を取得する手段、前記複数視点画像を構成する各画像の視差を検出する手段、少なくとも前記操作入力により前記表示画像上での操作を行うことができる場合に、前記複数視点画像の視差を調整する手段、をコンピュータに実行させるためのプログラムが提供される。
【発明の効果】
【0026】
本発明によれば、ユーザによる画面の操作と複数視点画像とが重なった場合に、ユーザに違和感を生じさせないようにすることが可能となる。
【図面の簡単な説明】
【0027】
【図1】本発明の一実施形態に係る画像処理装置の構成例を示す模式図である。
【図2】表示部に立体映像を表示し、表示部のタッチパネルをペンで操作した場合の理想的な表示状態を示す模式図である。
【図3】表示部に立体映像を表示し、表示部のタッチパネルをペンで操作した場合に、ユーザに実際に見える見え方を示す模式図である。
【図4】図3と同じ位置関係であるが、物体“B”とペンの位置関係について示す模式図である。
【図5】視差調整の例を示す模式図である。
【図6】図5と同様の方法で視差調整を行う場合であるが、ユーザに不自然さを与えてしまう例を示す模式図である。
【図7】図6の場合に、奥に見える物体Dの位置は調整せずに、手前に見える物体Cだけを視差調整する場合を示す模式図である。
【図8】手前に複数の物体が見えている場合を示す模式図である。
【図9】全ての物体をディスプレイ面上に表示して2次元画像を表示する場合を示す模式図である。
【図10】2次元表示する場合に、1つの視点の画像を使って表示する例を示す模式図である。
【図11】視差を調整した結果、視差が両眼の幅よりも広くなってしまう場合に、画像の縮小を行う例を示している。
【図12】視差を調整した結果、視差が両眼の幅よりも広くなってしまう場合に、画像の縮小を行う例を示している。
【図13】視差調整のための、視差量の検出方法の例を示す模式図である。
【図14】表示部の表示画面に表示される画像にタッチパネル操作用の操作枠をつけた例を示す模式図である。
【図15】図14の表示部を縦に配置した例を示す模式図である。
【図16】ペンがディスプレイ面に近接したことを検知する近接検知センサーを、タッチパネルで兼用する例を示す模式図である。
【図17】画像操作時の動作を示すフローチャートである。
【図18】タッチパネルを操作して画像の拡大する際の処理を示すフローチャートである。
【図19】図18の処理を行った場合に、拡大して3D表示ができなくなると、拡大できない旨の表示をして拡大率を制限する処理を示すフローチャートである。
【図20】視差調整を行い手前に表示される部分をなくした上で、両眼の幅よりすべての部分の視差が小さくなるように縮小し表示を行う処理を示すフローチャートである。
【図21】図17と図20の場合を切り替えて行う処理を示すフローチャートである。
【図22】画像の横幅が両眼の幅より小さい場合を示すフローチャートである。
【図23】タッチパネル等により画面を操作する表示となった場合に、視差変更を行うか、または2次元表示に切り換える処理を示すフローチャートである。
【図24】タッチパネル等による画面の操作が予想される場合に、視差変更を行うか、または2次元表示に切り換える処理を示すフローチャートである。
【図25】タッチパネル操作が可能な表示の場合に、画像が所定のサイズよりも小さい場合は、視差変更もしくは2次元表示にする処理を示すフローチャートである。
【図26】図14及び図15で説明したような操作枠を設けた場合の処理を示すフローチャートである。
【発明を実施するための形態】
【0028】
以下に添付図面を参照しながら、本発明の好適な実施の形態について詳細に説明する。なお、本明細書及び図面において、実質的に同一の機能構成を有する構成要素については、同一の符号を付することにより重複説明を省略する。
【0029】
なお、説明は以下の順序で行うものとする。
1.画像処理装置の構成例
2.本実施形態に係る画像処理装置の表示について
3.本実施形態の画像処理装置における処理
【0030】
[1.画像処理装置の構成例]
図1は、本発明の一実施形態に係る画像処理装置100の構成例を示す模式図である。画像処理装置100は、例えば比較的小型のディスプレイを備える装置であって、立体映像(3D映像)を表示可能なデバイスである。画像処理装置100に表示する画像としては、静止画、動画のいずれであっても良い。また、画像処理装置100は、表示画面に応じてユーザが画面を操作することによって、各種の入力が可能とされたものである。この画像表示装置100は、デジタルスチルカメラ、デジタルビデオカメラ、パーソナルコンピュータ(PC)、ゲーム機、テレビ受像機、電話、PDA、画像再生装置、画像記録装置、カーナビ、携帯端末、プリンターなどで実現することができる。
【0031】
なお、3Dの映像方式については特に限定されるものではない。例えば、左目用と右目用の映像を時系列的に交互に表示し、映像の表示と同期してユーザの左右の目に装着した眼鏡シャッターを開閉することにより、左目用と右目用の映像をユーザの左右の目にそれぞれ提供するシステムを用いることができる。また、眼鏡シャッターを用いることなく、偏光板の作用により左右の映像をユーザの左右の目にそれぞれ提供するシステムを用いてもよい。
【0032】
図1に示すように、画像処理装置100は、読み出し部102、画像処理部104、視差検出部106、視差制御部108、表示部110、制御部112、メモリ114、近接検出部116を備える。読み出し部102には、メディア200から立体映像を構成する右眼用画像及び左目用画像のデータが送られる。メディア200は、立体映像データを記録した記録媒体であり、一例として、画像処理装置100の外部から装着される。また、入力部118は、表示部110上に設けられたタッチパネルである。画像処理装置100には、入力部118を介してユーザによる操作情報が入力される。入力部118に入力された情報は、制御部112へ送られる。入力部118の操作に基づいて、現在のモードが画像自体を操作する画面(タッチパネル操作が可能な画面)であるか否かを制御部112で判断する。
【0033】
図1に基づいて、画像処理装置100における基本的な処理を説明すると、先ず、メディア200から画像処理装置100に送られた左右の映像データは、読み出し部102にて読み出され、画像処理部104にて画像処理が行われる。画像処理部104では、左右の画像データの大きさの適正化(リサイズ)、画質調整など、表示用の画像に加工する処理を行う。画像処理部104は、後述するように、視差を調整した結果、視差が両目の幅よりも大きくなる場合等において、画像を縮小する処理を行う。
【0034】
視差検出部106では、左右の画像データを比較し、動きベクトルの検出、ブロックマッチング等の手法により、左右映像の視差を検出する。そして、視差検出部106では、表示面よりも手前に位置する画像があるか否か、視線が交差しない部分があるか否かなどを検出する。
【0035】
視差制御部108は、表示部110のタッチパネル操作が行われる場合に、視差を変更する処理を行う。視差制御部108は、表示面よりも手前に位置する部分や視線が交差する部分がないように視差を調整する。
【0036】
表示部110は、立体映像を表示するディスプレイであり、液晶表示ディスプレイ(LCD)等から構成される。視線調整部108で視差が調整された画像は、表示部110に供給されて表示される。なお、表示部110は、画像処理装置100と一体であっても別体であっても良い。また、表示部110は、入力部118であるタッチパネル(タッチセンサ)を一体に備えている。ユーザは、表示部110に表示された立体映像を視認しながら、タッチパネル操作(入力部118の操作)を行うことができる。なお、表示部110へユーザの指、ペンなどが近接したことを判断する場合は、近接検出部116により近接したことの検出を行い、制御部112で判断を行う。入力部118として、近接を検知可能な静電容量式のタッチセンサ等を用いた場合、近接検出部116は表示部110と同一面にある入力部118と兼用することができる。
【0037】
制御部112は、画像処理装置100の全体を制御する構成要素であって、中央演算処理装置(CPU)等から構成される。メモリ114は、ハードディスク、RAM、ROM等から構成され、左右の映像データを格納する。また、メモリ114は、画像処理装置100を機能させるためのプログラムを格納することができる。近接検出部116は、ユーザによるタッチパネル操作が行われる場合に、ユーザの指、ペン(スタイラス)などが表示部110へ近接したことを検出する。なお、タッチパネルが静電容量を検出する静電容量式のタッチセンサで構成される場合、静電容量の変化により指、ペン等の近接を検出することができるため、近接検出部116はタッチパネルにより構成することができる。
【0038】
図1に示す各構成要素は、バス120によって接続されている。図1に示す各構成要素は、回路(ハードウェア)、または中央演算処理装置(CPU)とこれを機能させるためのプログラム(ソフトウェア)によって構成することができる。
【0039】
[2.本実施形態に係る画像処理装置の表示について]
図2は、表示部110に立体映像を表示し、表示部110のタッチパネルをペンで操作した場合の理想的な(自然な)表示状態を示す模式図である。図2(a)は、タッチパネルを操作するペンが表示部110の表示画面上に存在しない場合を示しており、表示部110の左側に3D表示物“A”が表示され、右側に3D表示物“B”が表示されている様子を示している。また、図2(b)は、図2(a)の立体映像を表示している際に、表示部110のタッチパネルをペンで操作している様子を示している。
【0040】
図2(a)及び図2(b)の場合、“B”の部分が表示部110の表示面(ディスプレイ面)よりも手前(飛び出して)に表示され、“A”の部分が表示面よりも奥に表示される。図2(b)は、表示面をペンで操作した場合に、本来の位置関係での理想的な見え方を示したもので、表示面を操作しているペンよりも“B”が手前に見えている。従って、ペンは“B”の背後に隠れている。一方、“A”は表示面よりも奥にあるため、“A”はペンの背後に隠れる。図2(C)は、図2(B)の“A”、“B”、ディスプレイ面及びペンの奥行き方向の位置関係を示す図であって、図2(b)を上側から見た状態を示す模式図である。図2(c)に示すように、位置関係としては奥から、“A”、ディスプレイ面、ペン、“B”の順になる。従って、本来の見え方は、図1(B)のようになるのが望ましい。
【0041】
図3は、表示部に立体映像を表示し、表示部のタッチパネルをペンで操作した場合に、ユーザに実際に見える見え方を示している。図3(a)及び図3(c)は、図2(a)及び図2(c)とそれぞれ同一である。図3(b)は、3D表示画面上にペンを置いた場合に、ユーザに実際に見える見え方を示している。図3(b)に示すように、本来“B”よりも奥にあるペンが“B”の手前に見えており、ペンが“B”を隠している。ペンが存在しない場合、ユーザには3D表示により“B”が手前に見えているが、実際の光は表示部110のディスプレイ面から発光されており、ディスプレイ面はペンより奥にあるため、このような現象が発生する。この場合、使用者は2つの矛盾する奥行き情報を受け取るため、不自然さを感じ、不快な印象を持つことになる。
【0042】
図4は、図3と同じ位置関係であるが、物体“B”とペンの位置関係について示す模式図である。図4(a)は、使用者からの見え方を示す模式図である。図4(b)及び図4(c)は、奥行き方向の位置関係を示す図であって、図4(a)を左側面から見た状態を示している。図4(b)は、ペンが無い場合の位置関係を示しており、図4(c)は、ペンがある場合の見え方の位置関係を示している。図4(c)に示すように、ペンがある場合は、本来ペンよりも手前に見える筈の“B”の映像が表示面上でペンに遮られてしまうため、表示面よりも手前に見える筈の“B”は、ペンの領域だけ凹んだように見えてしまう。このように、実際の物体を立体視する場合には、物体の位置とその物体が発する光の発生源とは同じ位置であるが、立体画像の場合は、物体の見かけ上の位置と光の発生源の位置とが一致しないため、このような現象が起きてしまい、ユーザは映像の不自然さを感じてしまう。
【0043】
本実施形態では、このような現象を解消するために、ユーザの指やペンが表示面上にある場合は、視差調整を行う。図5は、視差調整の例を示す模式図である。図5の上段の図は、図2(c)と同様に、表示面を上から見たときの奥行き方向の位置を模式的に示している。また、図5の下段の図は、左目用画像と右目用画像のそれぞれにおける物体の表示状態を示している。また、図5の左側の図は視差調整前を示しており、右側の図は視差調整後を示している。
【0044】
図5の左側の図は視差調整前の状態を示しており、手前と奥に1つずつ物体が見えている(物体C(●)、物体D(○))。これを視差調整して右図のようにして、手前に見える物体Cを表示部110の表示面と同じ位置か、もしくは表示面よりも奥になるようにする。これにより、表示面よりも手前に位置する物体が無くなるため、表示面上にペンを置いた場合であっても、ペンが映像よりも手前に位置するため、映像とペンとの位置関係で不自然さが生じることを回避できる。
【0045】
より詳細に説明すると、図5の上段に示す図は、ユーザと表示部110を上方から見た状態を示しており、ディスプレイ面、ユーザの右目、左目、物体C、物体Dの位置を示している。また、下段に示す図は、表示部110に表示される左目用画像と右目用画像を示している。上段の図に示すように、右目用画像の物体Cと右目を直線で結び、左目用画像の物体Cと左目を直線で結ぶと、2つの直線の交点が物体Cの奥行き方向の位置となる。同様に、右目用画像の物体Dと右目を直線で結び、左目用画像の物体Dと左目を直線で結ぶと、2つの直線の交点が物体Dの奥行き方向の位置となる。なお、物体の奥行き方向の位置は、左目用画像と右目用画像における物体の位置と、右目、左目の位置に基づいて、他の図においても同様に定められる。
【0046】
図5の右側の図では、物体Cについて、左目用画像と右目用画像の位置を同一とし、視差を0とすることで、物体Cが表示面上に表示される。また、これに伴い、物体Dについては左目用画像と右目用画像の視差が左側の図よりも大きくなるため、物体Dは表示面に対して左側の図より奥側に表示される。このように、図5に示す例では、物体C、物体Dの表示位置を共に奥側へ移動することで、物体Cは表示面上に表示され、物体Dは表示面に対してより奥の位置に表示される。従って、表示面上にペンが置かれた場合に、ペンよりも物体C、物体Dは奥に表示されるため、ユーザに不自然さや、違和感等が生じてしまうことを抑止できる。なお、物体Cについても、表示面よりも奥の位置に表示するようにしても良い。
【0047】
図6は、図5と同様の方法で視差調整を行う場合であるが、ユーザに不自然さを与えてしまう例を示している。図6の左側の図の位置関係に見える画像(物体C、物体D)を視差調整して、図5と同様の方法により物体Cをディスプレイ面に表示し、表示面よりも手前に物体が表示されないようにした場合、右側の図のようになり、両眼の幅よりも広い視差が生じてしまう部分が発生する。
【0048】
より詳細には、図6の右側の下段の図に示すように、物体Cの視差を0とするために、左目用画像の物体C、物体Dを左方向に移動すると、左目用画像と右目用画像における物体Dの視差が過度に大きくなり、両目の幅よりも大きな視差となってしまう。この場合、物体Dについては、左右の目の視線が交差しないため、ユーザは1つの物体として認識することができず、ユーザの目には物体Dが二重に見えてしまう。
【0049】
図7は、図6の場合に、奥に見える物体Dの位置は調整せずに、手前に見える物体Cだけを視差調整する場合を示す模式図である。左側の図では、物体Cは手前に見えており、物体Dは奥に見えている。この状態から、右目用画像と左目用画像のそれぞれにおいて、物体Cの位置のみを調整して、物体Cの視差が0となるようにする。具体的には、左側の図に示す左目用画像の物体Cを左方向に移動し、右目用画像の物体Cを右方向に移動する。一方、左目用画像と右目用画像における物体Dの位置は変更しない。これにより、手前に見えていた物体Cは、表示面上に見えるようになる。一方、物体Dは元の視差のままであり、表示面の奥の同じ位置に見えている。このように、手前に見える物体が1つだけであり、そのほかの物体が奥行き方向に離れている場合は、手前に見えている物体のみの位置を調整しても良い。
【0050】
図8は、手前に複数の物体が見えている場合を示している。図8の左側の図では、物体Cと物体Eが表示面よりも手前に見えており、物体Dが表示面よりも奥に見えている場合を示している。この場合、手前に見えている物体Cと物体Eのみの視差を調整して、物体Cと物体Eがディスプレイ面上に見えるようにすることで、ユーザの指やペンなどがディスプレイ面上に位置した場合にユーザに違和感が生じてしまうことを回避できる。ここで、全ての物体の視差を一律に調整することなく、手前に見えている物体の視差のみを調整することを、「視差変更」と称することとする。一方、図6などで既に説明した全ての物体の視差を調整することを、「視差調整」と称することとする。図8のような視差変更を行った場合、元々ディスプレイ面よりも手前の異なる奥行き位置に見えていた物体Cと物体Eがともにディスプレイ面上に位置するため、物体Cと物体Eの相互の奥行き感がなくなってしまう。
【0051】
図9は、全ての物体をディスプレイ面上に表示して2次元画像を表示する場合を示している。図6で説明したように、ディスプレイ面よりも手前に物体を表示しないように視差調整した際に、両眼の幅より視差が大きくなってしまう部分が発生する場合は、視差調整を行い、2次元で映像を表示するようにする。図9の例では、物体C、物体D、物体Eのそれぞれの視差を0とすることで、物体C、物体D及び物体Eを2次元で表示している。この場合、図9の下段に示すように、物体C、物体D及び物体Eのそれぞれについて、左目用画像と右目用画像の位置を調整して視差を0にする。
【0052】
図10は、2次元表示する場合に、1つの視点の画像を使って表示する例を示す模式図である。図10に示す例では、右側の図の下段に示すように、右目用画像として左目用画像と同一の画像を表示する。これにより、特に右目用画像と左目用画像の視差を調整することなく、2次元表示を行うことが可能である。従って、ブロックマッチング等により視差を検出する処理を行う必要がなく、図9の場合と比較すると、より簡素な処理で2次元画像を表示することが可能である。
【0053】
図11及び図12は、図6で説明したように、視差を調整した結果、視差が両眼の幅よりも広くなってしまう場合に、画像の縮小を行う例を示している。図11の右側は、左側に対して左右の画像をともに縮小した場合を示している。図11に示すように、画像の大きさは一定値以下となると、視線が交差しない画像を作成することができない。従って、図6の右側の図で説明したような、両眼の幅よりも広い視差が生じてしまう部分は発生しない。
【0054】
図12の左側の図は、図6の右側の図に対応しており、両眼の幅よりも広い視差が生じてしまう部分が発生した状態を示している。図12の右側の図は、図11の原理を用いて、図12の左側の図を縮小した状態を示している。図12の左側の図(図6の右側の図)に示すように、視差を調整した結果、両眼の幅よりも視差が大きくなると、3D画像を表示することはできないため、図12の右側の図に示すように、左右の画像を縮小して視差を両目の幅よりも狭くする。これにより、手前に表示されていた部分をディスプレイ面上に表示できるとともに、図6の右側の図のように視差が両眼の幅よりも大きくなってしまうことを回避できる。従って、縮小を行うことで、視差を両眼の幅よりも狭くすることができ、物体が二重に見えてしまうことを回避できる。
【0055】
図13は、視差調整のための、視差量の検出方法の例を示す模式図である。視差を求める2つの画像(左目用画像と右目用画像)の一方をブロックに分割して、各ブロックを他方の画像と比較した場合に、各ブロックが他方の画像のどの部分との間で誤差が最小になるかを求める。そして、他方の画像上での誤差が最小となる位置と、もともとのブロックの位置の差が視差量となる。図13に示すように、視差量は、ブロック毎にベクトル値として求められる。図13の例では、右目用画像をブロックに分割して、各ブロックを左目用画像と比較し、左目用画像と各ブロックとの間で誤差が最小になる位置を探索する。そして、誤差が最小となる位置とブロック抽出時の位置との差を動きベクトルとして、画面全体の各ブロックについての動きベクトルを算出する。
【0056】
図13に示す例では、右目用画像のブロックに対して、左目用画像の対応する位置が左側にずれている場合は、動きベクトルは右から左へ向かうベクトルとなる。図5の左側の図等に示すように、右目用画像のブロックに対して左目用画像の対応する位置が左側にずれている場合は、表示面よりも奥に物体が表示される(図5の左側の図に示す物体D)。一方、右目用画像のブロックに対して左目用画像の対応する位置が右側にずれている場合は、表示面よりも手前に物体が表示される(図5の左側の図に示す物体C)。従って、図13に示すように、各ブロックの動きベクトルを算出した場合に、動きベクトルが右から左へ向かうベクトルの場合は、そのブロックに対応する物体が表示面の奥に表示され、動きベクトルが左から右へ向かうベクトルの場合は、そのブロックに対応する物体が表示面の手前に表示されることが判る。また、動きベクトルが右から左へ向かうベクトルの場合、ベクトルの絶対値が大きいほど、そのブロックに対応する物体が表示面のより奥に表示される。動きベクトルが左から右へ向かうベクトルの場合、ベクトルの絶対値が大きいほど、そのブロックに対応する物体が表示面のより手前に表示される。なお、図13に示す処理は、図1に示す視差検出部106で行われる。
【0057】
視差を調整する際には、動きベクトルが左から右へ向かうベクトルのブロックの中から、その絶対値(=A)が最大のブロック(ここでは、ブロック1とする)を抽出する。この抽出されたブロック1の画像は、最も手前に位置するので、このブロックの動きベクトルの大きさを“0”に調整する。そして、他のブロックについては、各ブロックの動きベクトルからブロック1の動きベクトルだけ減算する処理を行う。これにより、図6で説明したように、全ての物体の奥行き方向の位置を一律に奥側へ移動することができる。なお、図8で説明したような視差変更を行う場合は、動きベクトルが左から右へ向かう全てのブロックの動きベクトルの大きさを“0”に調整する。なお、このような視差の調整は、図1に示す視差制御部108で行われる。
【0058】
図14は、表示部110の表示画面111に表示される画像にタッチパネル操作用の操作枠112をつけた例を示す模式図である。ここで、操作枠112は2次元画像で表示する。操作枠112を画像の外側に設けることで、ペンが操作枠112を操作した場合に、3D表示が行われている画像の表示領域と重なることがないため、3D表示されている画像とペンが重なることによる不自然さ、違和感を抑止できる。ここで、図14の上段は、表示画面1111内に複数の画像をサムネイルの状態で表示し、各画像の周囲に操作枠112を設けた例を示している。また、図14の下段は、表示画面111内に1の画像を表示し、1の画像の周囲に操作枠112を設けた例を示している。
【0059】
図15は、図14の表示部110を縦に配置した例を示す模式図である。図15の例においても、タッチパネル操作の際に指やペンが3Dの画像に直接触れることがないため、不快感を無くすことが可能である。
【0060】
図16は、ペンがディスプレイ面に近接したことを検知する近接検知センサーを、タッチパネルで兼用する例を示す模式図である。例えば、静電容量式のタッチパネルを用いた場合、近接検知センサー(近接検出部116)をタッチパネルで兼用することが可能である。
【0061】
図16の上段の図は、ディスプレイ面と平行な方向から見た状態を示しており、ディスプレイ面にペンが接近または接触した場合を示している。また、図16の中段の図は、ディスプレイ面の上側から状態を示しており、ディスプレイ面にペンが接近または接触した場合を示している。また、図16の下段の図は、ディスプレイ面にペンが接近または接触した場合に、タッチセンサで検出される静電容量の変化を示しており、ドットを付した領域の静電容量が高くなった状態を示している。
【0062】
図16の下段の図に示すように、ペンが近づいてくる過程では、ペンと近接している場所の静電容量が変化し、ペンが表示画面に接触すると静電容量の変化がより大きくなる。従って、これを用いてペンがどの程度近接しているか、あるいは接触しているかを判断することができる。
【0063】
[3.本実施形態の画像処理装置における処理について]
次に、本実施形態の画像処理装置100による処理について説明する。なお、以下に示す各処理は、制御部112の制御によって図1の各構成要素の機能を制御することによって実現することができる。図17は、画像操作時の動作を示すフローチャートである。先ず、ステップS101では、画像を読み出し、ステップS102で画像を操作可能な画面であるか否か判断する。すなわち、ステップS102では、タッチパネル操作により画面を操作できるモードであるか否かを判断する。この場合に、近接検出部116によりユーザの指またはペン等が表示面に近づいたことが検知された場合に、タッチパネル操作により画面を操作できるモードであると判断することができる。ステップS102において、操作可能な画面でない場合は、ステップS106へ進み、画面をそのまま表示する。
【0064】
一方、タッチパネルによる操作が可能な画面の場合は、ステップS103へ進み、表示面より手前になる部分があるか否かを判断する。モードの切り換えの設定がユーザの操作によって行われる場合、タッチパネル操作が可能な画面に設定されたときはステップS102からステップS103へ進み、タッチパネル操作ができない画面に設定されたときはステップS102からステップS106へ進む。
【0065】
ステップS103では、3D表示により表示面よりも手前に表示されている物があるか否かを判断する。そして、表示面よりも手前に表示される部分が存在しない場合は、ステップS106へ進み、画像をそのまま表示する。一方、表示面よりも手前に表示される物が存在する場合は、ステップS104へ進み、視差調整した場合に正しい表示になるか否かを判断する。すなわち、ステップS104では、視差調整をした場合に、図6の右側の図に示したように、両眼の幅より視差が大きくなる部分があるか否かを判断し、正しい表示になる場合、つまり、両目の幅よりも視差が大きくなる部分が無い場合は、ステップS105へ進む。ステップS105では、表示面よりも手前に位置する部分が表示面上に表示されるように視差調整を行う。これにより、ステップS106では、表示面よりも手前にある部分をなくした状態で画像が表示される。一方、ステップS104で正しい表示にならないと判断された場合は、ステップS107へ進み、視差変更を行うか、または、図10で説明したように、片側の視点の画像のみを用いて二次元表示を行う。ここで、視差変更とは、図7で説明したように、手前に見える部分のみを表示面上に移動する処理をいう。これにより、表示面よりも手前になる部分を無くした状態で3D画像を表示することができる。
【0066】
図18は、タッチパネルを操作して画像を拡大する際の処理を示すフローチャートである。画像の拡大が行われると、拡大に伴って左右の画像の視差が大きくなり、視差が両目の幅よりも大きくなると、図6で説明したように物が二重に見えてしまう事態が発生する。このため、図18の処理では、拡大操作が行われるたびに、正しい表示が行われるか否かを判定し(ステップS204)、正しい表示にならない場合は2次元画像で表示を行う。これにより、拡大操作が行われる場合に、正常な表示を維持するとともに、ユーザの指やペンが表示面の手間に表示される画像と重ならないようにすることができる。
【0067】
図17では、ステップS102で画像自体を操作する画面であるか否かを判定したが、図18のステップS202では、ステップS102の代わりに、画像の拡大操作が行われたか否かを判定する。画像の拡大操作が行われた場合は、ステップS203へ進み、拡大する画像に表示される物体が表示面よりも手前になるか否かを判定する。一方、画像の拡大操作が行われない場合は、ステップS206へ進む。ステップS203〜S207の処理は、図16のステップS103〜S107と同様である。そして、ステップS202からステップS206へ進んだ場合は、ステップS206にて拡大した画像を表示する。これにより、拡大された画像内で表示面よりも手前の位置に物体が表示されてしまうことを回避できる。
【0068】
また、画像の拡大率が大きく、ステップS204において、視差調整しても正しい表示にならない場合は、ステップS207へ進み、視差変更もしくは2Dによる表示を行う。従って、拡大が行われる毎に正しい表示になるか否かがステップS204で判断され、正しい表示ができない場合は視差変更もしくは2Dによる表示を行うことで、ユーザが不自然さを感じてしまうことを抑止できる。なお、視差変更を行う場合は、上述したように、表示面の手前に位置する物体の視差のみを変更するため、表示面よりも奥に位置する物体の視差は変更されない。従って、図6の右側の図に示したような、物体が2重に見えてしまう事態を回避することが可能である。
【0069】
また、図18では、ステップS206の後、ステップS208へ進み、画像の拡大・縮小操作が行われたか否かを更に判断する。そして、画像の拡大・縮小操作が行われた場合は、ステップS209へ進み、画像の拡大・縮小を行う。ステップS209の後はステップS203以降の処理へ戻り、拡大・縮小が行われた後の画像について、表示面よりも手前に位置する画像があるか否かを判断する。
【0070】
また、ステップS207の後はステップS211へ進み、画像の拡大・縮小操作が行われたか否かを判定する。そして、画像の拡大・縮小操作が行われた場合は、ステップS212へ進み、画像の拡大・縮小操作を行い、ステップS210で拡大・縮小後の画像を表示する。
【0071】
以上のように、図18の処理によれば、画像を拡大して3D表示ができなくなると、2D表示を行うことができる。従って、画像の拡大によって図6の右側の図に示すように3D表示ができなくなる場合は、2D表示に切り換えることができるため、拡大に起因して3D表示ができなくなることを回避できる。
【0072】
図19は、図18の処理を行った場合に、拡大して3D表示ができなくなると、拡大できない旨の表示をして拡大率を制限する処理を示している。図19では、図18に対して、ステップS204で“NO”判定がされた場合の処理が異なっている。ステップS204において、視差調整した場合に正しい表示にならないことが判定されると、ステップS213へ進む。ステップS213では、直前の拡大前の画像に戻す処理を行う。ステップS213の後はステップS214へ進み、拡大できない旨の表示を行う。これにより、ユーザは、更なる拡大ができないことを認識することができる。
【0073】
図20は、正しい表示ができない場合に、図17で説明した視差変更または二次元表示を行う代わりに、視差調整を行い手前に表示される部分をなくした上で、すべての部分の視差が両眼の幅より小さくなるように縮小し表示を行う処理を示すフローチャートである。この処理は、図12の表示処理に対応する。図20の処理は、ステップS307以外の処理は図17と同様であり、図20のステップS301〜S306は図17のステップS101〜S106に対応する。ステップS304で、視差調整をした場合に正しい表示にならないと判断された場合、ステップS307へ進む。ステップS307では、視差調整をして表示面よりも手前になる部分をなくし、更に、図12で説明したように、視差が交差しない部分がなくなるまで画像の表示部分を縮小する。そして、次のステップS306では、縮小した画像を表示する。この処理によれば、画像は縮小されるものの、多視点表示(立体映像表示)を維持することができる。
【0074】
図21は、図17と図20の場合を切り替えて行う処理を示すフローチャートである。ここでは、視差調整した場合に正しい表示にならない場合は、ステップS404に進み、表示サイズと3D表示のいずれが重要かを判断する。そして、3D表示の方が重要な場合は、ステップS405へ進み、視差調整を行うとともに、視線が交差しない部分がなくなる大きさへ縮小して表示を行う。つまり、この場合は図20のステップS307の処理を行う。これにより、画面のサイズは小さくなるが、3D表示を行うことができる。
【0075】
また、ステップS404において、3D表示よりも表示サイズの方が重要な場合は、ステップS408へ進み、視差を変更するか、もしくは片側の画像のみを抽出して2Dでの表示を行う。つまり、この場合は、図17のステップS107の処理を行う。このように、図21の処理によれば、3Dなどの多視点表示と、画像の大きさのどちらが重要か判断して、視差調整して縮小表示するか、2次元(または視差変更)で表示するかを決定する。この判断は使用者が入力部で設定してもよいし、画像処理装置100側で表示の状態に応じて判断してもよい。
【0076】
図22は、画像の横幅が両眼の幅より小さい場合を示すフローチャートである。人間の両目の幅は、通常、5cm〜7cm程度であるため、図22は、画像の横幅が5cm〜7cm程度以下の場合に該当する。この場合は、画像の幅が狭く、図6の右側の図に示したような状況が発生することがないため、視差調整により手前に表示する部分を表示面に移動するのみでよく、視差調整が可能である。換言すれば、図6の右側の図に示したような状況は発生しないため、図17のステップS104の処理が不要となる。その他の処理は、図17と同様である。なお、この場合、視差が交差しない部分は画像の横幅の外になるため、表示されることがない。
【0077】
図23は、タッチパネル等により画面を操作する表示となった場合に、視差変更を行うか、または2次元表示に切り換える処理を示すフローチャートである。ステップS602において、画面自体を操作する画面であることが判定されると、ステップS603へ進み、視差変更を行うか、または片側の画像のみを抽出して2次元での表示を行う。これにより、表示面よりも手前に表示される物体がなくなるため、タッチパネル操作の際にユーザに違和感が生じてしまうことを抑止できる。
【0078】
図24は、タッチパネル等による画面の操作が予想される場合に、視差変更を行うか、または2次元表示に切り換える処理を示すフローチャートである。ステップS702において、画面にペンや指が近づいたことが検出されると、ステップS703へ進み、視差変更を行うか、または片側の画像のみを抽出して2次元表示を行う。このように、実際に画面操作が行われていない場合においても、ユーザの指やペンなどの近接に応じて、画面の操作が予想される場合に視差変更または2次元での表示を行う。なお、上述したように、ペン、又は指などが近接したことは、近接検出部116や、静電容量式のタッチパネルにより検出する。
【0079】
図25は、タッチパネル操作が可能な表示の場合に、画像が所定のサイズよりも小さい場合は、視差変更もしくは2次元表示にする処理を示すフローチャートである。このように、例えばサムネイルなどの小さい画像の場合は立体感が弱くなり易いため、所定のサイズよりも小さい画像を表示することを条件として、視差変更または2次元表示にすることもできる。
【0080】
図26は、図14及び図15で説明したような操作枠112を設けた場合の処理を示すフローチャートである。ステップS902において、タッチパネルなどで画面自体を操作する画面であると判定された場合は、ステップS903にて画像と関連付けた2次元の操作枠112を表示する。これにより、ユーザは指やペンで操作枠112を操作し、3次元の画像上に指またはペンが位置することがないため、3D画像と指やペンなどが重なることにより違和感の発生を抑止できる。
【0081】
以上説明したように本実施形態によれば、手前に表示されるものがなくなるので、画像の中に指やペンと不自然な関係をもつ部分を無くすことができ、使用者に不快感を与えてしまうことを抑止できる。また、両眼の幅より広い視差を有する画像が表示されることがないため、同一物体が二重に見えてしまうことを抑止でき、使用者が違和感を感じることを確実に抑えることが可能となる。
【0082】
以上、添付図面を参照しながら本発明の好適な実施形態について詳細に説明したが、本発明はかかる例に限定されない。本発明の属する技術の分野における通常の知識を有する者であれば、特許請求の範囲に記載された技術的思想の範疇内において、各種の変更例または修正例に想到し得ることは明らかであり、これらについても、当然に本発明の技術的範囲に属するものと了解される。
【符号の説明】
【0083】
100 画像処理装置
104 画像処理部
106 視差検出部
108 視差制御部
110 表示部
116 近接検出部
118 入力部
【特許請求の範囲】
【請求項1】
複数視点画像による表示画像上で操作入力を行うことができる入力部と、
前記複数視点画像を構成する各画像の視差を検出する視差検出部と、
少なくとも前記入力部により前記表示画像上での操作を行うことができる場合に、前記複数視点画像の視差を調整する視差制御部と、
を備える、画像処理装置。
【請求項2】
前記表示画像の光を出射して前記表示画像を表示する表示部を更に備える、請求項1に記載の画像処理装置。
【請求項3】
前記視差制御部は、前記視差検出部で検出された視差に基づいて、前記表示画像の光を出射する表示面よりも手前に見える画像が前記表示面上に見えるように視差を調整する、請求項1に記載の画像処理装置。
【請求項4】
前記視差制御部は、前記表示面よりも手前に見える画像の視差を調整することに伴い、他の画像も前記表示面の奥側に移動するように視差を調整する、請求項3に記載の画像処理装置。
【請求項5】
前記視差制御部は、前記表示面よりも手前に見える画像のみが前記表示面上に見えるように視差を変更し、他の画像については視差を制御しない、請求項3に記載の画像処理装置。
【請求項6】
前記視差制御部は、前記視差検出部で検出された視差に基づいて、前記表示画像の光を出射する表示面よりも手前に見える画像が前記表示面よりも奥に見えるように調整する、請求項1に記載の画像処理装置。
【請求項7】
前記視差制御部は、少なくとも前記入力部により前記表示画像上での操作を行うことができる場合に、前記複数視点画像の視差を0に調整して2次元の画像とする、請求項1に記載の画像処理装置。
【請求項8】
前記表示画像の光を出射する表示面に操作者の指又は操作物が近接したことを検出する近接検出部を備え、
前記視差制御部は、前記近接検出部により操作者の指又は操作物が近接したことが検出された場合に、前記複数視点画像の視差を調整する、請求項1に記載の画像処理装置。
【請求項9】
前記入力部は前記表示面に設けられた静電容量式のタッチセンサから構成され、
前記近接検出部は、前記タッチセンサから構成され、静電容量の変化に基づいて前記操作者の指又は操作物が近接したことを検出する、請求項8に記載の画像処理装置。
【請求項10】
前記視差検出部は、前記視差制御部による視差の調整の結果、正常な表示ができるか否かを判定し、
前記視差検出部により正常な表示ができないと判定された場合に、前記表示画像を縮小する画像処理部を備える、請求項1に記載の画像処理装置。
【請求項11】
前記画像処理部は、前記表示判定部により正常な表示ができないと判定された場合に、視差が人間の両目の間隔以下となるように画像を縮小する、請求項10に記載の画像処理装置。
【請求項12】
前記視差制御部は、前記入力部の操作により前記表示画像が拡大されることが検知された場合に、前記複数視点画像の視差を調整する、請求項1に記載の画像処理装置。
【請求項13】
前記視差検出部は、前記視差制御部による視差の調整の結果、正常な表示ができるか否かを判定し、
前記視差検出部により正常な表示ができないと判定された場合に、前記表示画像を縮小する画像処理部を備える、請求項12に記載の画像処理装置。
【請求項14】
複数視点画像による表示画像上で操作入力を行うことができる入力部と、
前記複数視点画像を構成する各画像の視差を検出する視差検出部と、
前記表示画像の大きさが所定値以下の場合に、前記複数視点画像の視差を調整して、前記表示画像の光を出射する表示面よりも手前に見える画像が前記表示面上に見えるように視差を調整する視差制御部と、
を備える、画像処理装置。
【請求項15】
複数視点画像による表示画像の周囲で操作入力を行うことができる入力部と、
前記複数視点画像を構成する各画像の視差を検出する視差検出部と、
少なくとも前記入力部により前記表示画像上での操作を行うことができる場合に、前記表示画像の周囲に2次元画像により前記入力部を表示する画像処理部と、
を備える、画像処理装置。
【請求項16】
表示部に表示された表示画像上で行われる操作入力を取得するステップと、
前記複数視点画像を構成する各画像の視差を検出するステップと、
少なくとも前記操作入力により前記表示画像上での操作を行うことができる場合に、前記複数視点画像の視差を調整するステップと、
を備える、画像処理方法。
【請求項17】
表示部に表示された表示画像上で行われる操作入力を取得する手段、
前記複数視点画像を構成する各画像の視差を検出する手段、
少なくとも前記操作入力により前記表示画像上での操作を行うことができる場合に、前記複数視点画像の視差を調整する手段、
をコンピュータに実行させるためのプログラム。
【請求項1】
複数視点画像による表示画像上で操作入力を行うことができる入力部と、
前記複数視点画像を構成する各画像の視差を検出する視差検出部と、
少なくとも前記入力部により前記表示画像上での操作を行うことができる場合に、前記複数視点画像の視差を調整する視差制御部と、
を備える、画像処理装置。
【請求項2】
前記表示画像の光を出射して前記表示画像を表示する表示部を更に備える、請求項1に記載の画像処理装置。
【請求項3】
前記視差制御部は、前記視差検出部で検出された視差に基づいて、前記表示画像の光を出射する表示面よりも手前に見える画像が前記表示面上に見えるように視差を調整する、請求項1に記載の画像処理装置。
【請求項4】
前記視差制御部は、前記表示面よりも手前に見える画像の視差を調整することに伴い、他の画像も前記表示面の奥側に移動するように視差を調整する、請求項3に記載の画像処理装置。
【請求項5】
前記視差制御部は、前記表示面よりも手前に見える画像のみが前記表示面上に見えるように視差を変更し、他の画像については視差を制御しない、請求項3に記載の画像処理装置。
【請求項6】
前記視差制御部は、前記視差検出部で検出された視差に基づいて、前記表示画像の光を出射する表示面よりも手前に見える画像が前記表示面よりも奥に見えるように調整する、請求項1に記載の画像処理装置。
【請求項7】
前記視差制御部は、少なくとも前記入力部により前記表示画像上での操作を行うことができる場合に、前記複数視点画像の視差を0に調整して2次元の画像とする、請求項1に記載の画像処理装置。
【請求項8】
前記表示画像の光を出射する表示面に操作者の指又は操作物が近接したことを検出する近接検出部を備え、
前記視差制御部は、前記近接検出部により操作者の指又は操作物が近接したことが検出された場合に、前記複数視点画像の視差を調整する、請求項1に記載の画像処理装置。
【請求項9】
前記入力部は前記表示面に設けられた静電容量式のタッチセンサから構成され、
前記近接検出部は、前記タッチセンサから構成され、静電容量の変化に基づいて前記操作者の指又は操作物が近接したことを検出する、請求項8に記載の画像処理装置。
【請求項10】
前記視差検出部は、前記視差制御部による視差の調整の結果、正常な表示ができるか否かを判定し、
前記視差検出部により正常な表示ができないと判定された場合に、前記表示画像を縮小する画像処理部を備える、請求項1に記載の画像処理装置。
【請求項11】
前記画像処理部は、前記表示判定部により正常な表示ができないと判定された場合に、視差が人間の両目の間隔以下となるように画像を縮小する、請求項10に記載の画像処理装置。
【請求項12】
前記視差制御部は、前記入力部の操作により前記表示画像が拡大されることが検知された場合に、前記複数視点画像の視差を調整する、請求項1に記載の画像処理装置。
【請求項13】
前記視差検出部は、前記視差制御部による視差の調整の結果、正常な表示ができるか否かを判定し、
前記視差検出部により正常な表示ができないと判定された場合に、前記表示画像を縮小する画像処理部を備える、請求項12に記載の画像処理装置。
【請求項14】
複数視点画像による表示画像上で操作入力を行うことができる入力部と、
前記複数視点画像を構成する各画像の視差を検出する視差検出部と、
前記表示画像の大きさが所定値以下の場合に、前記複数視点画像の視差を調整して、前記表示画像の光を出射する表示面よりも手前に見える画像が前記表示面上に見えるように視差を調整する視差制御部と、
を備える、画像処理装置。
【請求項15】
複数視点画像による表示画像の周囲で操作入力を行うことができる入力部と、
前記複数視点画像を構成する各画像の視差を検出する視差検出部と、
少なくとも前記入力部により前記表示画像上での操作を行うことができる場合に、前記表示画像の周囲に2次元画像により前記入力部を表示する画像処理部と、
を備える、画像処理装置。
【請求項16】
表示部に表示された表示画像上で行われる操作入力を取得するステップと、
前記複数視点画像を構成する各画像の視差を検出するステップと、
少なくとも前記操作入力により前記表示画像上での操作を行うことができる場合に、前記複数視点画像の視差を調整するステップと、
を備える、画像処理方法。
【請求項17】
表示部に表示された表示画像上で行われる操作入力を取得する手段、
前記複数視点画像を構成する各画像の視差を検出する手段、
少なくとも前記操作入力により前記表示画像上での操作を行うことができる場合に、前記複数視点画像の視差を調整する手段、
をコンピュータに実行させるためのプログラム。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【図18】
【図19】
【図20】
【図21】
【図22】
【図23】
【図24】
【図25】
【図26】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【図18】
【図19】
【図20】
【図21】
【図22】
【図23】
【図24】
【図25】
【図26】
【公開番号】特開2012−103980(P2012−103980A)
【公開日】平成24年5月31日(2012.5.31)
【国際特許分類】
【出願番号】特願2010−253149(P2010−253149)
【出願日】平成22年11月11日(2010.11.11)
【出願人】(000002185)ソニー株式会社 (34,172)
【Fターム(参考)】
【公開日】平成24年5月31日(2012.5.31)
【国際特許分類】
【出願日】平成22年11月11日(2010.11.11)
【出願人】(000002185)ソニー株式会社 (34,172)
【Fターム(参考)】
[ Back to top ]