説明

画像表示装置、画像加工方法、および、プログラム

【課題】表示部を透過したかのように見える画像を、観察者の位置に応じて適切に表示することのできる画像表示装置等を提供する。
【解決手段】画像取得部110は、外側カメラにより撮影された風景画像と、内側カメラにより撮影された検出用画像とをそれぞれ取得する。検出部120は、取得された検出用画像に基づいて、第1の表示部を観察する観察者(プレイヤ等)の存在を検出する。算定部130は、検出された観察者の顔面の特徴部位に基づいて、観察者の視線方向と、観察者までの距離とを算定する。画像加工部140は、算定された視線方向と外側カメラにおける光軸方向との関係、及び、算定された距離に基づいて、撮影された風景画像を加工する。そして、表示制御部150は、加工された風景画像を第1の表示部に表示する。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、表示部を透過したかのように見える画像を、観察者の位置に応じて適切に表示することのできる画像表示装置、画像加工方法、および、プログラムに関する。
【背景技術】
【0002】
近年、ノート型のパソコン(パーソナルコンピュータ)等において、カメラ(CCD等の撮像ユニット)を備えた製品が販売されている。このカメラは、例えば、表示部(液晶等のディスプレイ)を支える枠の上部や下部に組み込まれており、ユーザの顔等を撮影可能となっている。
このようなカメラは、例えば、ビデオチャット等を行う際に使用される。つまり、所定のネットワークを介して接続された各パソコンにおいて、カメラで撮影される自身の顔画像が相互に送られるため、各ユーザは相手の顔(表情)を見ながら、チャットを行うことができるようになっている。
【0003】
最近では、携帯型のゲーム装置等にも、このようなカメラが組み込まれている製品が販売されている。また、最初からカメラが組み込まれていなくとも、周辺機器のカメラをプレイヤが取り付けて使用できるゲーム装置も知られている。
【0004】
このようなカメラを用いたゲーム装置において、プレイヤの運動(動き)を撮影し、この運動に基づいてゲームキャラクタを動作させることのできる技術も開示されている(例えば、特許文献1参照)。
【先行技術文献】
【特許文献】
【0005】
【特許文献1】特開平7−185131号公報 (第3−7頁、第1図)
【発明の概要】
【発明が解決しようとする課題】
【0006】
上述したようなゲーム装置では、長時間に渡る連続プレイを防止するために、例えば、プレイ時間が一定時間を超えると一旦ゲームを中断し、ゲームとは異なる画像を表示部に表示するなどして、プレイヤに休憩を促すといった試みもなされている。その際に、ゲーム装置の存在を薄れさせるような画像を表示部に表示できたならば、より効果的に休憩を促すことが期待される。
例えば、カメラにより撮影した前方の風景画像等を表示部に表示することで、その表示部を透明なガラスのように思わせて、ゲーム装置の存在を薄れさせる等である。具体的には、図15(a)の側面図にて示すように、ゲーム装置Gの外側に向けたカメラCから前方(表示部Dを基準とした背面方向)を撮影する。この場合、図15(b)に示すような風景画像FGが撮影される。そして、ゲーム装置Gは、この風景画像FGを表示部Dに適宜表示する。これにより、プレイヤ(観察者)には、図15(c)に示すように、風景画像FGが、周囲の風景と連続し、あたかも透明なガラス等によって、表示部Dを透過したかのように見える。このような風景画像FGを表示することにより、ゲーム装置Gの存在が薄れ、プレイヤは、気持ちを切り換えて、休憩をとりやすくなる。
【0007】
しかしながら、図15(c)に示すような表示部Dを透過したかのように見える風景画像FGは、プレイヤが予め定められた固定位置から表示部Dを眺めた場合を想定している。具体的には、プレイヤが表示部Dの真正面から一定距離を隔てた固定位置にいて、そこから表示部Dを眺めた場合に限り、風景画像FGが表示部Dを透過したかのように見える。
そのため、実際のプレイヤの位置がそのような固定位置と異なっていると、そのプレイヤには、表示される風景画像FGが単に風景を映した画像としか見えないことになる。つまり、プレイヤが、表示部Dの真正面にいない場合や、真正面にいたとしても、固定位置よりも近すぎたり又は遠すぎたりする場合には、風景画像FGとその周囲の風景との連続性が極端に低下してしまい、その風景画像FGが表示部Dを透過したかのようには見えなくなってしまうという問題があった。
【0008】
このようなことから、固定位置に限らず、より広範囲に渡って、プレイヤの自由な位置から表示部を透過したかのように見える風景画像等を適切に表示できるゲーム装置(画像表示装置)の開発が求められていた。
【0009】
本発明は、上記実状に鑑みてなされたもので、表示部を透過したかのように見える画像を、観察者(プレイヤ等)の位置に応じて適切に表示することのできる画像表示装置、画像加工方法、および、プログラムを提供することを目的とする。
【課題を解決するための手段】
【0010】
本発明の第1の観点に係る画像表示装置は、画像を表示するための表示部と、当該表示部を基準として一定方向を撮影するための撮影部とを有する画像表示装置であって、画像取得部、検出部、画像加工部、及び、表示制御部を備えて構成される。
【0011】
まず、画像取得部は、例えば、表示部を基準とした背面方向を撮影する撮影部により撮影された画像(例えば、風景画像)を取得する。また、検出部は、表示部を観察する観察者(プレイヤ等)の位置(例えば、表示部を基準とした相対位置)を検出する。画像加工部は、検出された当該観察者の位置と撮影部による撮影方向との関係に基づいて、当該画像を加工する。例えば、画像加工部は、観察者の位置から表示部を結ぶ視線方向と撮影部の撮影方向(光軸方向)との関係から、撮影された画像を観察者の座標系に変換するなどの加工を行う。そして、表示制御部は、加工された当該画像を表示部に表示する。
【0012】
すなわち、本願発明では、観察者の位置から表示部への方向(例えば、視線方向)に合わせるように、撮影した画像を観察者の座標系に変換する加工を行う。そして、加工した画像を表示部に表示する。このため、観察者からは、表示される画像が、周囲の風景と連続しており、あたかも表示部を透過したかのように見える。
この結果、表示部を透過したかのように見える画像を、観察者の位置に応じて適切に表示することができる。
【0013】
本発明の第2の観点に係る画像表示装置は、画像を表示するための表示部と、第1の方向(例えば、当該表示部を基準とした背面方向)を撮影するための第1の撮影部と、当該第1の方向と異なる第2の方向(例えば、当該表示部を基準とした前面方向)を撮影するための第2の撮影部とを有する画像表示装置であって、画像取得部、検出部、算定部、画像加工部、及び、表示制御部を備えて構成される。
【0014】
まず、画像取得部は、第1の撮影部により撮影された第1の画像(例えば、風景画像)及び、第2の撮影部により撮影された第2の画像(例えば、検出用画像)をそれぞれ取得する。また、検出部は、取得された当該第2の画像に基づいて、表示部を観察する観察者の存在を検出する。例えば、検出部は、検出用画像から、人の顔面部を認識して観察者の存在を検出する。
また、算定部は、検出された当該観察者の顔面の特徴部位に基づいて、当該観察者の視線方向と、当該観察者までの距離とを算定する。例えば、算定部は、両眼の位置関係や口を含めた領域の形状や大きさに基づいて、観察者の視線方向と、観察者までの距離を算定する。
更に、画像加工部は、算定された当該視線方向と第1の撮影部における光軸方向との関係、及び、算定された当該距離に基づいて、当該第1の画像を加工する。例えば、画像加工部は、観察者の視線方向と第1の撮影部の光軸方向との関係から、撮影された第1の画像を観察者の座標系に変換し、更に、表示部から観察者までの距離に基づいて、第1の画像を拡縮する。
そして、表示制御部は、このように加工された当該第1の画像を表示部に表示する。
【0015】
すなわち、本願発明では、観察者の視線方向に合わせるように、撮影された第1の画像を観察者の座標系に変換するなどの加工を行う。そして、加工した第1の画像を表示部に表示する。このため、観察者からは、表示される第1の画像が、周囲の風景と連続しており、あたかも表示部を透過したかのように見える。
この結果、表示部を透過したかのように見える画像を、観察者の位置に応じて適切に表示することができる。
【0016】
検出部は、取得された当該第2の画像から人の顔面を認識できた場合に、観察者の存在を検出し、
算定部は、認識された当該顔面部における少なくとも両眼の位置関係に基づいて、当該観察者の視線方向と、当該観察者までの距離とを算定してもよい。
つまり、顔面が認識できた場合に、表示部を観察する観察者の存在が検出され、その顔面における、例えば、両眼の位置関係、若しくは、両眼と口とを結ぶ領域の形状や大きさに基づいて、観察者の視線方向と、表示部から観察者までの距離を算定する。
この場合、観察者の視線方向や距離を適切に算定することができる。
【0017】
画像加工部は、算定された当該視線方向と第1の撮影部における光軸方向との関係に基づいて、取得された当該第1の画像の座標系を変換し、算定された当該距離に基づいて当該第1の画像を拡縮してもよい。例えば、画像加工部は、観察者の視線方向に合わせるように、撮影された第1の画像の座標系を、射影変換やアフィン変換等により加工する。そして、加工された第1の画像を、表示部から観察者までの距離に基づいて拡縮する。
この場合、観察者の位置に応じて、第1の画像を適切に加工することができる。
【0018】
検出部は、取得された当該検出用画像から、周囲の明るさを更に検出し、
画像加工部は、検出された当該明るさに基づいて、当該第1の画像の少なくとも明度を更に増減させてもよい。例えば、画像加工部は、検出された周囲の明るさと、明るさの基準値とを比較して、その差分に応じて、第1の画像の明度や彩度を増減させる。
この場合、実際の周囲の明るさに応じて、第1の画像を適切に加工することができる。
【0019】
算定部は、検出部により複数の観察者(例えば、プレイヤやそのまわりにいる人等)の存在が検出された場合に、当該各観察者について、当該視線方向及び当該距離をそれぞれ算定し、
画像加工部は、算定されたそれぞれの当該視線方向及び当該距離の関係に基づいて1人の観察者を選択し、選択した当該観察者の視線方向と第1の撮影部における光軸方向との関係、及び、表示部から選択した当該観察者までの距離に基づいて、当該第1の画像を加工してもよい。つまり、複数の観察者が検出された場合に、画像加工部は、例えば、表示部までの距離が最も近い、若しくは、視線方向が第1の撮影部の光軸方向に最も沿っているなど、観察条件の最も良い観察者を選択し、その観察者に合わせるように、撮影された第1の画像を加工する。
この場合、観察条件の最も良い観察者に向けて、表示部を透過したかのように見える画像を適切に加工することができる。
【0020】
本発明の第3の観点に係る画像加工方法は、画像を表示するための表示部と、当該表示部を基準とした一定方向を撮影するための撮影部とを有する画像表示装置が実行する画像加工方法であって、画像取得ステップ、検出ステップ、画像加工ステップ、及び、表示制御ステップを備えて構成される。
【0021】
まず、画像取得ステップでは、例えば、表示部を基準とした背面方向を撮影する撮影部により撮影された画像(例えば、風景画像)を取得する。また、検出ステップでは、表示部を観察する観察者(プレイヤ等)の位置(例えば、表示部を基準とした相対位置)を検出する。画像加工ステップでは、検出された当該観察者の位置と撮影部による撮影方向との関係に基づいて、当該画像を加工する。例えば、画像加工ステップでは、観察者の位置から表示部を結ぶ視線方向と撮影部の撮影方向(光軸方向)との関係から、撮影された画像を観察者の座標系に変換する加工を行う。そして、表示制御ステップでは、加工された当該画像を表示部に表示する。
【0022】
すなわち、本願発明では、観察者の位置から表示部への方向(例えば、視線方向)に合わせるように、撮影した画像を観察者の座標系に変換する加工を行う。そして、加工した画像を表示部に表示する。このため、観察者からは、表示される画像が、周囲の風景と連続しており、あたかも表示部を透過したかのように見える。
この結果、表示部を透過したかのように見える画像を、観察者の位置に応じて適切に表示することができる。
【0023】
本発明の第4の観点に係るプログラムは、画像を表示するための表示部と、当該表示部を基準として一定方向を撮影するための撮影部とを有するコンピュータ(電子機器を含む。)を、上記の画像表示装置として機能させるように構成する。
【0024】
このプログラムは、コンパクトディスク、フレキシブルディスク、ハードディスク、光磁気ディスク、ディジタルビデオディスク、磁気テープ、半導体メモリ等のコンピュータ読取可能な情報記録媒体に記録することができる。
【0025】
上記プログラムは、当該プログラムが実行されるコンピュータとは独立して、コンピュータ通信網を介して配布・販売することができる。また、上記情報記録媒体は、当該コンピュータとは独立して配布・販売することができる。
【発明の効果】
【0026】
本発明によれば、表示部を透過したかのように見える画像を、観察者の位置に応じて適切に表示することができる。
【図面の簡単な説明】
【0027】
【図1】(a),(b)共に、本発明の原理を説明するための模式図である。
【図2】(a),(b)共に、本実施形態に係るゲーム装置の外観を示す模式図である。
【図3】(a),(b)共に、各カメラの撮影方向を説明するための模式図である。
【図4】本実施形態に係るゲーム装置の概要構成を示すブロック図である。
【図5】本実施形態に係る画像表示装置の構成を説明するためのブロック図である。
【図6】(a)が外側カメラの撮影について説明するための模式図であり、(b)が内側カメラの撮影について説明するための模式図である。
【図7】(a),(b)共に、顔認識を説明するための模式図である。
【図8】(a)〜(d)が、観察者の視線方向の算定手法を説明するための模式図であり、(e),(f)が、観察者までの距離の算定手法を説明するための模式図である。
【図9】観察者と第1の表示部との位置関係を示す模式図である。
【図10】(a)〜(c)全て、射影変換を説明するための模式図である。
【図11】(a)〜(c)全て、アフィン変換を説明するための模式図である。
【図12】(a),(b)共に、拡大について説明するための模式図である。
【図13】(a)が加工された風景画像の一例を示す模式図であり、(b)が加工された風景画像が表示されたゲーム装置の外観を示す模式図である。
【図14】本実施形態に係る画像加工処理を説明するためのフローチャートである。
【図15】(a)が画像表示装置の撮影方向を説明するための模式図であり、(b)が撮影された風景画像の一例を示す模式図であり、(c)が風景画像が表示されたゲーム装置の外観を示す模式図である。
【発明を実施するための形態】
【0028】
以下に本発明の実施形態を説明する。具体的な実施形態の説明に先立って、まず、本発明の原理について図1を参照して説明する。なお、原理の説明を容易にするために、以下の図1(a),(b)では、二次元の平面図として表している。
【0029】
図1(a),(b)は、画像表示装置G及び観察者P(プレイヤ等)の位置関係と、画像表示装置Gの表示部Dに表示すべき風景画像の範囲とを説明するための模式図である。この図1(a),(b)では、ノート型の画像表示装置G及び観察者Pを上から見た平面図として示している。
この画像表示装置Gには、一例として、表示部Dの背面にカメラCが組み込まれている。そして、このカメラCから前方(表示部Dを基準とした背面方向)を撮影可能となっている。なお、カメラCは、一例として、単焦点のレンズを備え、人間の視角θ(注視した際の視角)よりもある程度広い画角αの範囲を撮影できるものとする。
また、観察者Pの視線は、表示部Dに向けられているものとする。
【0030】
図1(a)に示すように、観察者Pが表示部Dの真正面から距離L1を隔てて位置している場合、表示部Dに範囲A1の風景画像を表示すると、観察者Pからは、あたかも表示部Dを透過したかのように見えることになる。つまり、観察者Pの視角θ内において、表示部Dによって隠れる範囲A1が表示すべき風景画像の範囲となる。
そのため、画像表示装置Gは、カメラCが撮影する画角α内の風景画像を、距離L1に応じて拡大したものを、表示部Dに表示する。つまり、観察者Pの視線方向glと、カメラCの光軸方向faとが一致しているため、カメラCが撮影する風景画像を、そのまま光軸方向faを中心に拡大することで、範囲A1の風景画像を得ることができる。
【0031】
一方、図1(b)に示すように、観察者Pが表示部Dの斜め方向に距離L2を隔てて位置している場合、表示部Dに範囲A2の風景画像を表示すると、観察者Pからは、表示部Dを透過したかのように見えることになる。なお、範囲A2は、観察者Pの視線方向glを基準とした範囲である。
そのため、画像表示装置Gは、まず、カメラCが撮影した画角α内の風景画像を、観察者Pの座標系に変換する必要がある。つまり、光軸方向faの風景画像を、視線方向glの風景画像に変換する。そして、画像表示装置Gは、変換した風景画像を、距離L2に応じて拡大したものを、表示部Dに表示する。つまり、変換した風景画像を、視線方向glを中心に拡大することで、範囲A2の風景画像を得ることができる。
【0032】
この図1(b)のように、表示すべき範囲A2がカメラCが撮影する画角α内に収まっている場合には、座標系の変換によって得ることができる。
それでも、観察者Pが表示部Dに対して、より急な斜め方向に位置している場合には、表示すべき範囲A2の一部が、カメラCの画角α内から外れてしまうことも起こり得る。なお、その場合には、表示部Dの視野角(表示角)の制限から、表示部Dに表示された画像の視認性が低下しており、画角αの範囲内で視線方向glに近づけた風景画像を表示することで、透過したかのように思わせることが期待できる。
【0033】
以下、このような原理に沿った本発明の実施形態について、より具体的に説明する。以下では、理解を容易にするため、携帯型ゲーム機(ゲーム装置)に本発明が適用される実施形態を説明するが、各種のコンピュータ、PDA、携帯電話などの情報処理装置においても同様に本発明を適用することができる。すなわち、以下に記載する実施形態は説明のためのものであり、本願発明の範囲を制限するものではない。したがって、当業者であればこれらの各要素または全要素をこれと均等なものに置換した実施形態を採用することが可能であるが、これらの実施形態も本発明の範囲に含まれる。
【実施例1】
【0034】
図2は、本発明の実施の形態に係る画像表示装置が実現される典型的なゲーム装置の外観を示す模式図である。このゲーム装置1は、一例として、携帯型のゲーム機器であり、図2(a)に示すように、上部シャーシJsと下部シャーシKsに各部位がそれぞれ組み込まれている。
例えば、上部シャーシJsには、第1の表示部18及び、内側カメラ22等が組み込まれている。一方、下部シャーシksには、第2の表示部19やタッチパネル20等が組み込まれている。
また、図2(b)に示すように、上部シャーシJsの裏面側には、外側カメラ21が組み込まれている。
【0035】
なお、上部シャーシJsと下部シャーシKsとは、接合部が軸支されており、通常のノート型のパソコン等のように、開閉可能となっている。
そのため、図3(a)の側面図にて示すように、上部シャーシJsを開いた状態で、外側カメラ21及び内側カメラ22がそれぞれの方向を撮影可能となっている。つまり、外側カメラ21が、第1の表示部18の背面方向(La)を撮影し、また、内側カメラ22が、第一の表示部18の前面方向(Lb)をそれぞれ撮影する。すなわち、図3(b)の平面図にて示すように、外側カメラ21は、光軸Laを中心とした上部シャーシJsの外側を撮影し、また、内側カメラ22は、光軸Lbを中心とした上部シャーシJsの内側を撮影する。なお、外側カメラ21及び、内側カメラ22は、一例として、単焦点のレンズを備え、人間の視角(注視した際の視角)よりもある程度広い画角αの範囲を撮影可能となっている。
【0036】
図4は、このゲーム装置1の概要構成を示す模式図である。以下、本図を参照してゲーム装置1について説明する。
【0037】
ゲーム装置1は、処理制御部10と、コネクタ11と、カートリッジ12と、無線通信部13と、通信コントローラ14と、サウンドアンプ15と、スピーカ16と、操作キー17と、第1の表示部18と、第2の表示部19と、タッチパネル20と、外側カメラ21と、内側カメラ22とを備える。
【0038】
処理制御部10は、CPU(Central Processing Unit)コア10aと、画像処理部10bと、DMA(Direct Memory Access)コントローラ10cと、VRAM(Video Random Access Memory)10dと、WRAM(Work RAM)10eと、LCD(Liquid Crystal Display)コントローラ10fと、タッチパネルコントローラ10gとを備える。
【0039】
CPUコア10aは、ゲーム装置1全体の動作を制御し、各構成要素と接続され制御信号やデータをやりとりする。具体的には、カートリッジ12がコネクタ11に装着された状態で、カートリッジ12内のROM(Read Only Memory)12aに記憶されたプログラムやデータを読み出して、所定の処理を実行する。
【0040】
画像処理部10bは、カートリッジ12内のROM 12aから読み出されたデータや、CPUコア10aにて処理されたデータを加工処理した後、これをVRAM 10dに格納する。例えば、WRAM 10eに記憶された画像を加工して、VRAM 10dに格納する。
【0041】
DMAコントローラ10cは、外側カメラ21及び内側カメラ22にて撮影された画像(後述する風景画像や検出用画像)を、WRAM 10e等に転送する。
【0042】
VRAM 10dは、表示用の情報を記憶するメモリであり、画像処理部10b等により加工された画像情報を記憶する。
WRAM 10eは、CPUコア10aがプログラムに従った各種処理を実行する際に必要となるワークデータ等を記憶する。
また、WRAM 10eは、DMAコントローラ10cから転送された画像を一時的に記憶する。
【0043】
LCDコントローラ10fは、第1の表示部18および、第2の表示部19を制御し、所定の表示用画像を表示させる。例えば、LCDコントローラ10fは、VRAM 10dに記憶された画像情報を、所定の同期タイミングで表示信号に変換し、第1の表示部18に出力する。また、LCDコントローラ10fは、同様に、第2の表示部19に所定の表示用画像を表示する。
【0044】
タッチパネルコントローラ10gは、タッチペンやプレイヤの指によって、タッチパネル20が押下されると、その座標(入力座標)を取得する。
【0045】
コネクタ11は、カートリッジ12と脱着自在に接続可能な端子であり、カートリッジ12が接続された際に、カートリッジ12との間で所定のデータを送受信する。
【0046】
カートリッジ12は、ROM 12aと、RAM(Random Access Memory)12bとを備える。
ROM 12aには、ゲームを実現するためのプログラムとゲームに付随する画像データや音声データ等が記録される。
RAM 12bには、ゲームの進行状況等を示す種々のデータが記憶される。
【0047】
無線通信部13は、他のゲーム装置1の無線通信部13との間で、無線通信を行うユニットであり、図示せぬアンテナ(内蔵アンテナ等)を介して所定のデータを送受信する。
なお、無線通信部13は、所定の無線アクセスポイントとの間で、無線通信を行うこともできる。また、無線通信部13には、固有のMAC(Media Access Control)アドレスが採番されている。
【0048】
通信コントローラ14は、無線通信部13を制御し、所定のプロトコルに沿って、処理制御部10と他のゲーム装置1の処理制御部10との間で行われる無線通信の仲立ちをする。
また、ゲーム装置1が、近傍の無線アクセスポイント等を介してインターネットに接続する際には、無線LANに準拠したプロトコルに沿って、処理制御部10と無線アクセスポイント等との間で行われる無線通信の仲立ちをする。
【0049】
サウンドアンプ15は、処理制御部10にて生成された音声信号を増幅し、スピーカ16に供給する。
スピーカ16は、例えば、ステレオスピーカ等からなり、サウンドアンプ15にて増幅された音声信号に従って、所定の楽曲音や効果音等を出力する。
【0050】
操作キー17は、ゲーム装置1に適宜配置された複数のキースイッチ等からなり、ユーザの操作に従って、所定の指示入力を受け付ける。
【0051】
第1の表示部18および、第2の表示部19は、LCD等からなり、LCDコントローラ10fに制御され、ゲーム画像等を適宜表示する。
【0052】
タッチパネル20は、第2の表示部19の前面に重畳して配置され、タッチペンやプレイヤの指による入力を検出する。
例えば、タッチパネル20は、抵抗膜方式のタッチセンサパネル等からなり、タッチペン等による押圧(押下)を検知し、その座標に応じた情報(信号等)を出力する。
【0053】
外側カメラ21は、上述した図3(a),(b)に示すように、上部シャーシJs(外側)に組み込まれており、第1の表示部18の背面方向(La)を撮影する。例えば、外側カメラ21は、第1の表示部18に表示するための風景画像を撮影する。
また、内側カメラ22は、同図3(a),(b)に示すように、上部シャーシJs(内側)に組み込まれており、第1の表示部18の前面方向(Lb)を撮影する。例えば、内側カメラ22は、プレイヤの位置等を検出するための検出用画像を撮影する。
なお、これらの外側カメラ21及び、内側カメラ22は、一例として、単焦点のレンズ及び、所定画素数の撮像素子(CMOSやCCD等)を含んで構成され、所定の焦点距離(画角α)にて、それぞれの光軸方向(La,Lb)を中心とした画像を撮影する。
【0054】
以下、このような構成のゲーム装置1によって実現される本発明の実施の形態に係る画像表示装置について説明する。
【0055】
(画像表示装置の概要)
図5は、本実施の形態に係る画像表示装置100の概要構成を示すブロック図である。この画像表示装置100は、一例として、ゲームの合間等に、プレイヤに対して休憩を促すための画像を適宜表示することを特徴とした装置である。より具体的には、表示部(上述した、第1の表示部18)に、その表示部を透過したかのように見える風景画像等を適宜表示し、プレイヤの気持ちを切り換えて、休憩をとりやすくさせる装置である。以下、本図を参照して画像表示装置100について説明する。
【0056】
図5に示すように、画像表示装置100は、画像取得部110と、検出部120と、算定部130と、画像加工部140と、表示制御部150とを備える。
【0057】
まず、画像取得部110は、外側カメラ21によって撮影された画像と、内側カメラ22によって撮影された画像とをそれぞれ取得する。
具体的に画像取得部110は、図6(a)の平面図にて示すように、外側カメラ21によって撮影された風景画像を取得する。つまり、外側カメラ21の撮影方向に、みかんの山(ざるZaに積まれた複数のみかんMi)が置かれている場合に、このみかんの山を含む風景画像を取得する。
また、画像取得部110は、図6(b)の平面図にて示すように、内側カメラ22によって撮影された検出用画像を取得する。つまり、内側カメラ22の撮影方向に、プレイヤPがいる場合(プレイヤPが内側カメラ22側に顔を向けている場合)に、このプレイヤPの顔面を含んだ検出用画像を取得する。
なお、外側カメラ21と、内側カメラ22とが同時に撮影することができない場合には、例えば、交互に撮影された風景画像及び検出用画像を、順次取得するようにしてもよい。
そして、上述した処理制御部10のDMAコントローラ10c等が、このような画像取得部110として機能しうる。
【0058】
図5に戻って、検出部120は、取得された検出用画像に基づいて、第1の表示部18を眺めるプレイヤ(つまり、観察者)の存在を検出する。
例えば、検出部120は、検出用画像について、所定の顔認識処理を施すにより、観察者の有無を検出する。具体的に検出部120は、図7(a)に示すような検出用画像KGから、肌色の領域A1〜A4をサーチし、それらの領域内から人間の顔の特徴部位が抽出できるかどうかを判断する。この場合、図7(b)に示すように、領域A1内から、少なくとも、両眼、口を含む特徴部位が抽出でき、人間の顔面として認識できるため、検出部120は、観察者の存在を検出する。
なお、このような観察者(プレイヤ)の存在を検出する手法は、一例であり、他の手法を用いてもよい。
そして、上述した処理制御部10のCPUコア10aやWRAM 10e等が、このような検出部120として機能しうる。
【0059】
算定部130は、検出された観察者の顔面における特徴部位に基づいて、観察者の視線方向と、観察者までの距離とを算定する。例えば、算定部130は、顔認識時に抽出した特徴部位の位置関係等から、観察者の視線方向及び、観察者までの距離を算定する。
【0060】
まず、観察者の視線方向の算定手法について、具体的に説明する。
算定部130は、人間が正面を向いた場合における特徴部位の位置関係を示す形状を予め記憶しておく。具体的に算定部130は、図8(a)に示すように、一例として、子供(所定年齢における標準的な発育の子供)の顔面を、一定距離を離れて正面から撮影した画像における、両眼と口とを直線で結んだ平面(具体的には三角形)の基準形状SFを予め記憶しておく。なお、この基準形状SFは、実際のプレイヤを正面から一定距離を隔てて撮影した画像から得たものであってもよい。
この基準形状SFを予め記憶した状態で、図8(b)に示すように、検出用画像KGにおける観察者の顔面における両眼と口とを直線で結んだ平面の形状Fを得ると、この形状Fと基準形状SFとを比較することにより、算定部130は、観察者の視線方向を算定する。
例えば、図8(c)のように、得られた形状F1が基準形状SFと相似形である場合に、算定部130は、真正面となる視線方向GL1を算定する。一方、図8(d)のように、得られた形状F2が、基準形状SFと相似形でない場合に、算定部130は、形状F2における各点の位置関係や各辺の長さから、形状F2の歪み(基準形状SFを基準とした歪み)を求める。そして、その歪みに基づいて、斜め方向となる視線方向GL2を算定する。
【0061】
なお、このような観察者の視線方向を算定する手法は、一例であり、他の手法を用いてもよい。
例えば、算定部130は、よりシンプルに、両眼の位置関係に基づいて、観察者の視線方向を簡易に算定してもよい。
更に、このような両眼の位置関係等によって視線方向を算定する代わりに、観察者が無条件に第1の表示部18へ視線を向けているものと仮定し、算定部130は、顔認識された観測者の位置を基準として、第1の表示部18までの視線方向を算定してもよい。
【0062】
次に、観察者までの距離の算定手法について、具体的に説明する。
算定部130は、得られた形状Fと、記憶している基準形状SFとの大きさの違い(比率)を得て、観察者までの距離を算定する。
例えば、算定部130は、図8(e)に示すように、基準形状SFと、得られた形状Fとの大きさを比較して、観察者までの距離を算定する。つまり、算定部130は、距離が分かっている基準形状SFと比べて、得られた形状Fが、どのくらいの比率であるかに従って、観測者までの距離を算定する。
【0063】
なお、このような観察者までの距離を算定する手法は、一例であり、他の手法を用いてもよい。
例えば、算定部130は、基準形状SFと、得られた形状Fとの大きさを比較する代わりに、図8(f)に示すように、検出用画像KGの全体幅Wと、観察者の頭部の幅dとの比率等から、観測者までの距離を算定してもよい。
そして、上述した処理制御部10のCPUコア10aやWRAM 10e等が、このような算定部130として機能しうる。
【0064】
図5に戻って、画像加工部140は、算定された視線方向と外側カメラ21の撮影方向との関係、及び、算定された距離に基づいて、撮影された風景画像を加工する。
例えば、画像加工部140は、観察者の視線方向と外側カメラ21の光軸方向との関係から、撮影された風景画像を観察者の座標系に変換し、更に、観察者までの距離に基づいて、変換した風景画像を拡大する。
具体的には、図9に示すように、観察者Pが第1の表示部18の斜め方向に距離Lを隔てて位置している場合、第1の表示部18に範囲Aの風景画像を表示すると、観察者Pからは、第1の表示部18を透過したかのように見えることになる。なお、範囲Aは、観察者Pの視線方向glを基準とした範囲である。
そのため、まず、画像加工部140は、外側カメラ21が撮影した画角α内の風景画像を、観察者Pの座標系に変換する必要がある。
【0065】
具体的に画像加工部140は、射影変換により、図10(a)に示すように、外側カメラ21の座標系の風景画像FG1を、観察者Pの座標系の風景画像FG2に変換する。一例として、画像加工部140は、図10(b)に示すみかんの山(ざるZaに積まれた複数のみかんMi)の風景画像FG1を、観察者の視線方向に合わせる射影変換により、図10(c)に示すような風景画像FG2に変換する。つまり、ざるZaやみかんMiが観察者Pの座標系に変換され、観察者Pから見た場合の風景画像FG2に加工される。
なお、このような射影変換によって、風景画像を加工する手法は、一例であり、他の手法を用いてもよい。
【0066】
例えば、画像加工部140は、射影変換の代わりにアフィン変換によって風景画像を加工してもよい。
具体的に画像加工部140は、アフィン変換により、図11(a)に示すように、外側カメラ21によって撮影された風景画像FG1を、台形形状に歪ませた風景画像FG2に変換する。つまり、撮影された風景画像FG1を、観察者の視線方向に応じたアフィン変換により台形形状に歪ませることで、観察者Pの座標系に近似する風景画像FG2に変換する。なお、表示される際には、台形形状内の矩形の範囲だけが表示対象となる。一例として、画像加工部140は、図11(b)に示すみかんの山の風景画像FG1を、観察者の視線方向に応じたアフィン変換により、図11(c)に示すような風景画像FG2に変換する。つまり、ざるZaやみかんMiが台形形状に歪まされた後に、矩形の表示範囲だけが表示されることで、観察者Pから見た場合の風景画像FG2に加工される。
【0067】
そして、画像加工部140は、変換した風景画像を、距離Lに応じて拡大する。例えば、画像加工部140は、図12(a)に示すみかんの山の風景画像F2を、視線方向を中心に、算定した観察者の距離に応じて拡大する。つまり、図12(b)に示すように、ざるZaやみかんMiが拡大された風景画像FG3に加工される。
なお、上述した処理制御部10の画像処理部10bが、このような画像加工部140として機能しうる。
【0068】
図5に戻って、表示制御部150は、画像加工部140によって加工された風景画像を第1の表示部18に表示する。
具体的に表示制御部150は、図13(a)に示すような加工された風景画像FG3を第1の表示部18に表示する。これにより、例えば、観察者が斜め方向から第1の表示部18を眺めた場合でも、図13(b)に示すように、第1の表示部18に表示される風景画像が、周囲の風景と連続しており、あたかも第1の表示部18を透過したかのように見える。
なお、上述したLCDコントローラ10f等が、このような表示制御部150として機能しうる。
【0069】
(画像表示装置の動作の概要)
以下、このような構成の画像表示装置100の動作について図面を参照して説明する。一例として、ゲームのプレイ時間が一定時間を超えた際に、休憩を促すための画像を表示する処理動作を、図14を参照して説明する。図14は、画像表示装置100にて実行される画像加工処理の流れを示すフローチャートである。
【0070】
まず、画像表示装置100は、風景画像及び、検出用画像を取得する(ステップS201)。
すなわち、画像取得部110は、外側カメラ21によって撮影された風景画像と、内側カメラ22によって撮影された検出用画像とをそれぞれ取得する。
【0071】
画像表示装置100は、観察者を検出したか否かを判別する(ステップS202)。
すなわち、検出部120は、取得された検出用画像に基づいて、第1の表示部18を眺める観察者の存在を検出したかどうかを判別する。例えば、検出部120は、検出用画像について、上述した図7(a),(b)に示すような顔認識処理を施すことにより、観察者の有無を検出する。
画像表示装置100は、観察者を検出していないと判別すると(ステップS202;No)、上述したステップS201に処理を戻す。
【0072】
一方、観察者を検出したと判別した場合(ステップS202;Yes)に、画像表示装置100は、観察者の視線方向、及び、観察者までの距離を算定する(ステップS203)。
すなわち、算定部130は、検出された観察者の顔面における特徴部位に基づいて、観察者の視線方向と、観察者までの距離とを算定する。
つまり、算定部130は、観察者の視線方向を、例えば、上述した図8(a)に示すような基準形状SFと、上述した図8(b)に示すような観察者の形状Fとを比較することによって算定する。
また、算定部130は、観察者までの距離を、例えば、上述した図8(e)に示すように、基準形状SFと、観察者の形状Fとの大きさを比較することによって算定する。
【0073】
画像表示装置100は、撮影された風景画像を観察者の座標系に変換する(ステップS204)。
すなわち、画像加工部140は、観察者の視線方向と外側カメラ21の光軸方向との関係から、撮影された風景画像を観察者の座標系に変換する。例えば、画像加工部140は、上述した図10(a)に示すように、射影変換によって、外側カメラ21の座標系の風景画像FG1を、観察者Pの座標系の風景画像FG2に変換する。
なお、観察者の視線方向と外側カメラ21の光軸方向とが一致している場合には、座標系の変換を省略してもよい。
【0074】
画像表示装置100は、変換した風景画像を、距離に応じて拡大する(ステップS205)。
すなわち、画像加工部140は、変換した風景画像を、第1の表示部18から観察者までの距離に応じて拡大する。例えば、画像加工部140は、上述した図12(a)に示すような風景画像F2(観察者の座標系に変換したもの)を、算定した観察者までの距離に応じて拡大して、上述した図12(b)に示すような風景画像FG3に加工する。
【0075】
画像表示装置100は、加工した風景画像を第1の表示部18に表示する(ステップS206)。
すなわち、表示制御部150は、画像加工部140によって加工された風景画像を第1の表示部18に表示する。例えば、表示制御部150は、上述した図13(a)に示すような加工された風景画像FG3を第1の表示部18に表示する。これにより、上述した図13(b)に示すように、例えば、観察者が斜め方向から第1の表示部18を眺めた場合でも、第1の表示部18に表示される風景画像が、周囲の風景と連続しており、あたかも第1の表示部18を透過したかのように見える。
【0076】
そして、画像表示装置100は、上述したステップS201に処理を戻す。
【0077】
このような画像加工処理により、観察者の視線方向に合わせるように、撮影された風景画像を観察者の座標系に変換するなどの加工を行う。そして、加工した風景画像を表示部に表示する。このため、観察者からは、表示される風景画像が、周囲の風景と連続しており、あたかも表示部を透過したかのように見える。
この結果、表示部を透過したかのように見える風景画像を、観察者の位置に応じて適切に表示することができる。
【0078】
(他の実施形態)
上記の実施形態では、画像加工部140が、座標系を変換した風景画像を、第1の表示部18から観察者までの距離に応じて拡大する場合について説明したが、外側カメラ21の撮像素子の画素数が充分に多く、そして、外側カメラ21に望遠レンズが装着されている場合等においては、座標系を変換した風景画像を縮小するようにしてもよい。
例えば、画像加工部140は、望遠レンズの望遠率(拡大率)と第1の表示部18から観察者までの距離との関係に応じて、風景画像を縮小する。この場合も、縮小した風景画像を第1の表示部18に表示することで、周囲の風景と連続し、観察者からはあたかも第1の表示部18を透過したかのように見える。
【0079】
また、上記の実施形態では、画像加工部140が座標系の変換及び拡縮(拡大・縮小)だけを行う場合について説明したが、周囲の明るさに応じて、風景画像の明度等を増減させる加工を更に行うようにしてもよい。
例えば、まず検出部120が、取得された検出用画像から、周囲の明るさを検出する。なお、その際、取得された風景画像から、周囲の明るさを検出するようにしてもよく、また、検出用画像及び風景画像の両方から、周囲の明るさを検出するようにしてもよい。
そして、画像加工部140は、検出された周囲の明るさと、例えば、明るさの基準値とを比較して、その差分に応じて、風景画像の明度を増減させる。なお、画像加工部140は、更に風景画像の彩度を増減させてもよい。
この場合、実際の周囲の明るさに応じて、風景画像を適切に加工することができる。
【0080】
また、上記の実施形態では、検出部120が、1人の観察者を検出する場合について説明したが、複数の観察者を検出する場合も起こり得る。例えば、リビング等で画像表示装置100(ゲーム装置1)が使用されている場合には、プレイヤの周りに家族等が存在し、検出部120が、プレイヤを含めて複数の観察者を検出することが考えられる。
この場合、検出部120は、第1の表示部18までの距離が最も近い、若しくは、視線方向が第1の撮影部の光軸方向に沿っているなど、観察条件の最も良い観察者を選択してもよい。
そして、算定部130は、選択された観察者の顔面における特徴部位に基づいて、その観察者の視線方向と、その観察者までの距離とを算定する。
すると、画像加工部140は、同様に、算定された視線方向と外側カメラ21の撮影方向との関係、及び、算定された距離に基づいて、撮影された風景画像を加工するため、観察条件の最も良い観察者に対して、表示部を透過したかのように見える風景画像を、その観察者の位置に応じて適切に生成することができる。
【0081】
上記の実施形態では、携帯型のゲーム装置1に、本願の画像表示装置100が適用される場合について説明したが、このような携帯型のゲーム装置1に限られず、例えば、ノート型のパソコン等であってもよい。
また、観察者の位置(視線方向や距離)を検出するために、内側カメラ22により撮影した検出用画像を用いる場合について説明したが、観察者の位置を検出する手法は、このような装置側から撮影した画像を用いる手法に限られず任意である。
例えば、位置検出可能なコントローラを、観察者(プレイヤ)が用いる場合では、このコントローラから得た観察者の位置に基づいて、算定部130が、観察者の視線方向(この場合観察者の位置から表示部までの方向)と、その観察者までの距離とを算定してもよい。
【産業上の利用可能性】
【0082】
以上説明したように、本発明によれば、表示部を透過したかのように見える画像を、観察者の位置に応じて適切に表示することのできる画像表示装置、画像加工方法、および、プログラムを提供することができる。
【符号の説明】
【0083】
1 ゲーム装置
10 処理制御部
11 コネクタ
12 カートリッジ
13 無線通信部
14 通信コントローラ
15 サウンドアンプ
16 スピーカ
17 操作キー
18 第1の表示部
19 第2の表示部
20 タッチパネル
21 外側カメラ
22 内側カメラ
100 画像表示装置
110 画像取得部
120 検出部
130 算定部
140 画像加工部
150 表示制御部

【特許請求の範囲】
【請求項1】
画像を表示するための表示部と、当該表示部を基準として一定方向を撮影するための撮影部とを有する画像表示装置であって、
前記撮影部により撮影された画像を取得する画像取得部と、
前記表示部を観察する観察者の位置を検出する検出部と、
検出された当該観察者の位置と前記撮影部による撮影方向との関係に基づいて、当該画像を加工する画像加工部と、
加工された当該画像を前記表示部に表示する表示制御部と、を備える、
ことを特徴とする画像表示装置。
【請求項2】
画像を表示するための表示部と、第1の方向を撮影するための第1の撮影部と、当該第1の方向と異なる第2の方向を撮影するための第2の撮影部とを有する画像表示装置であって、
前記第1の撮影部により撮影された第1の画像及び、前記第2の撮影部により撮影された第2の画像をそれぞれ取得する画像取得部と、
取得された当該第2の画像に基づいて、前記表示部を観察する観察者の存在を検出する検出部と、
検出された当該観察者の顔面の特徴部位に基づいて、当該観察者の視線方向と、前記表示部から当該観察者までの距離とを算定する算定部と、
算定された当該視線方向と前記第1の撮影部における光軸方向との関係、及び、算定された当該距離に基づいて、当該第1の画像を加工する画像加工部と、
加工された当該第1の画像を前記表示部に表示する表示制御部と、を備える、
ことを特徴とする画像表示装置。
【請求項3】
請求項2に記載の画像表示装置であって、
前記検出部は、取得された当該第2の画像から、人の顔面を認識できた場合に、観察者の存在を検出し、
前記算定部は、認識された当該顔面における少なくとも両眼の位置関係に基づいて、当該観察者の視線方向と、前記表示部から当該観察者までの距離とを算定する、
ことを特徴とする画像表示装置。
【請求項4】
請求項2又は3に記載の画像表示装置であって、
前記画像加工部は、算定された当該視線方向と前記第1の撮影部における光軸方向との関係に基づいて、取得された当該第1の画像の座標系を変換し、算定された当該距離に基づいて当該第1の画像を拡縮する、
ことを特徴とする画像表示装置。
【請求項5】
請求項2乃至4の何れか1項に記載の画像表示装置であって、
前記検出部は、取得された当該検出用画像から、周囲の明るさを更に検出し、
前記画像加工部は、検出された当該明るさに基づいて、当該第1の画像の少なくとも明度を増減させる、
ことを特徴とする画像表示装置。
【請求項6】
請求項2乃至5の何れか1項に記載の画像表示装置であって、
前記算定部は、前記検出部により複数の観察者の存在が検出された場合に、当該各観察者について、当該視線方向及び当該距離をそれぞれ算定し、
前記画像加工部は、算定されたそれぞれの当該視線方向及び当該距離の関係に基づいて1人の観察者を選択し、選択した当該観察者の視線方向と前記第1の撮影部における光軸方向との関係、及び、前記表示部から選択した当該観察者までの距離に基づいて、当該第1の画像を加工する、
ことを特徴とする画像表示装置。
【請求項7】
画像を表示するための表示部と、当該表示部を基準とした一定方向を撮影するための撮影部と、画像取得部と、検出部と、画像加工部と、表示制御部とを有する画像表示装置における画像加工方法であって、
前記画像取得部が、前記撮影部により撮影された画像を取得する画像取得ステップと、
前記検出部が、前記表示部を観察する観察者の位置を検出する検出ステップと、
前記画像加工部が、検出された当該観察者の位置と前記撮影部による撮影方向との関係に基づいて、当該画像を加工する画像加工ステップと、
表示制御部が、加工された当該画像を前記表示部に表示する表示制御ステップと、を備える、
ことを特徴とする画像加工方法。
【請求項8】
画像を表示するための表示部と、当該表示部を基準として一定方向を撮影するための撮影部とを有するコンピュータを、
前記撮影部により撮影された画像を取得する画像取得部、
前記表示部を観察する観察者の位置を検出する検出部、
検出された当該観察者の位置と前記撮影部による撮影方向との関係に基づいて、当該画像を加工する画像加工部、
加工された当該画像を前記表示部に表示する表示制御部、
として機能させることを特徴とするプログラム。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7】
image rotate

【図8】
image rotate

【図9】
image rotate

【図10】
image rotate

【図11】
image rotate

【図12】
image rotate

【図13】
image rotate

【図14】
image rotate

【図15】
image rotate


【公開番号】特開2011−151598(P2011−151598A)
【公開日】平成23年8月4日(2011.8.4)
【国際特許分類】
【出願番号】特願2010−11014(P2010−11014)
【出願日】平成22年1月21日(2010.1.21)
【出願人】(506113602)株式会社コナミデジタルエンタテインメント (1,441)
【Fターム(参考)】