映像表示機器及びプログラム
【課題】 外部との円滑で自然なコミュニケーションを実現する映像表示機器及びプログラム等を提供すること。
【解決手段】 映像表示機器は、第1の映像を取得する第1映像取得部11と、撮像部からの撮像画像又は通信部からの通信情報に基づいて生成された第2の映像を取得する第2映像取得部12と、処理部16と表示部15とを含み、処理部16は映像表示モードが視聴モードであるか、自身の映像表示機器とは異なる他の映像表示機器とのコミュニケーションを行うためのコミュニケーションモードであるかの判定を行う映像表示モード判定部13を含み、表示部15は、映像表示モード判定部13により映像表示モードが視聴モードであると判定された場合には第1の映像を表示し、映像表示モード判定部13により映像表示モードがコミュニケーションモードであると判定された場合には第2の映像を表示する。
【解決手段】 映像表示機器は、第1の映像を取得する第1映像取得部11と、撮像部からの撮像画像又は通信部からの通信情報に基づいて生成された第2の映像を取得する第2映像取得部12と、処理部16と表示部15とを含み、処理部16は映像表示モードが視聴モードであるか、自身の映像表示機器とは異なる他の映像表示機器とのコミュニケーションを行うためのコミュニケーションモードであるかの判定を行う映像表示モード判定部13を含み、表示部15は、映像表示モード判定部13により映像表示モードが視聴モードであると判定された場合には第1の映像を表示し、映像表示モード判定部13により映像表示モードがコミュニケーションモードであると判定された場合には第2の映像を表示する。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、映像表示機器及びプログラム等に関する。
【背景技術】
【0002】
例えば特許文献1には、いわゆるヴァーチャルリアリティ環境を構築して複数人でのコンテンツの共有体験を提供する技術が開示されている。また、特許文献2に示されているように、実空間の座標に鑑賞する映像があたかも固定されたように表示される技術が知られている。
【先行技術文献】
【特許文献】
【0003】
【特許文献1】特許3653463号公報
【特許文献2】特許3368672号公報
【発明の概要】
【発明が解決しようとする課題】
【0004】
従来技術は、頭部装着型表示機器を複数人でつけてコンテンツ視聴している際にコミュニケーションをとるための効果的な手法を実現できていなかった。
【0005】
本発明の幾つかの態様によれば、外部との円滑で自然なコミュニケーションを実現する映像表示機器及びプログラム等を提供することができる。
【課題を解決するための手段】
【0006】
本発明の一態様は、第1の映像を取得する第1映像取得部と、撮像部からの撮像画像又は通信部からの通信情報に基づいて生成された第2の映像を取得する第2映像取得部と、処理部と、表示部と、を含み、前記処理部は、映像表示モードが、視聴モードであるか、自身の映像表示機器とは異なる他の映像表示機器とのコミュニケーションを行うためのコミュニケーションモードであるかの判定を行う映像表示モード判定部を含み、前記表示部は、前記映像表示モード判定部により、前記映像表示モードが前記視聴モードであると判定された場合には、前記第1の映像を表示し、前記映像表示モード判定部により、前記映像表示モードが前記コミュニケーションモードであると判定された場合には、前記第2の映像を表示する映像表示機器に関係する。
【0007】
本発明の一態様では、第1の映像、第2の映像を取得した上で、映像視聴モードに応じて表示する映像を切り替えることができる。これにより、コミュニケーションを行うような状況では、コミュニケーション用の映像を表示することで、円滑なコミュニケーションを実現する。
【0008】
また、本発明の一態様では、前記映像表示モード判定部は、前記自身の映像表示機器と、前記他の映像表示機器との位置関係を表す位置関係情報に基づいて、前記映像表示モードが、前記視聴モードであるか、前記コミュニケーションモードであるかの判定を行うってもよい。
【0009】
これにより、自身の映像表示機器と、他の映像表示機器(あるいはそれらを装着したユーザ同士)の位置関係情報に基づいて映像表示モードの判定を行うことができる。よって、コミュニケーションが行われることが予想される位置関係の時にコミュニケーションモードに移行すること等が可能になる。
【0010】
また、本発明の一態様では、前記処理部は、前記撮像画像に基づいて画像認識処理を行う画像認識部を含み、前記映像表示モード判定部は、前記画像認識部による前記撮像画像の認識結果に基づいて、前記映像表示モードが、前記視聴モードであるか、前記コミュニケーションモードであるかの判定を行ってもよい。
【0011】
これにより、画像認識処理に基づいて映像表示モードの判定が可能になる。
【0012】
また、本発明の一態様では、前記映像表示モード判定部は、前記画像認識部での画像認識処理の結果、前記他の映像表示機器が、前記自身の映像表示機器から所与の距離よりも近い位置に存在すると判定された場合には、前記映像表示モードが、前記コミュニケーションモードであると判定してもよい。
【0013】
これにより、他の表示機器と自身の映像表示機器との距離情報に基づいて、コミュニケーションモードに移行すること等が可能になる。
【0014】
また、本発明の一態様では、前記画像認識部は、前記撮像画像において、前記他の映像表示機器の画像認識処理を行うことで、前記撮像画像における前記他の映像表示機器の大きさ情報を取得し、前記映像表示モード判定部は、前記他の映像表示機器の大きさ情報により表される大きさが、所与の閾値よりも大きい場合には、前記映像表示モードが、前記コミュニケーションモードであると判定してもよい。
【0015】
これにより、他の映像表示機器の撮像画像における大きさ情報に基づいて、コミュニケーションモードに移行すること等が可能になる。
【0016】
また、本発明の一態様では、前記画像認識部は、前記撮像画像において、前記他の映像表示機器に付与された識別マーカの画像認識処理を行うことで、前記撮像画像における前記識別マーカの大きさ情報を取得し、前記映像表示モード判定部は、前記識別マーカの大きさ情報により表される大きさが、所与の閾値よりも大きい場合には、前記映像表示モードが、前記コミュニケーションモードであると判定してもよい。
【0017】
これにより、他の映像表示機器に付与された識別マーカの、撮像画像における大きさ情報に基づいて、コミュニケーションモードに移行すること等が可能になる。
【0018】
また、本発明の一態様では、前記処理部は、センサからのセンサ情報を取得するセンサ情報取得部を含み、前記映像表示モード判定部は、前記センサ情報に基づいて、前記映像表示モードが、前記視聴モードであるか、前記コミュニケーションモードであるかの判定を行ってもよい。
【0019】
これにより、センサ情報に基づいて、映像表示モードの判定を行うことが可能になる。
【0020】
また、本発明の一態様では、前記センサ情報により、前記自身の映像表示機器に対して設定された所与の角度範囲内に、前記他の映像表示機器が存在すると判定された場合には、前記映像表示モード判定部は、前記映像表示モードが、前記コミュニケーションモードであると判定してもよい。
【0021】
これにより、他の映像表示機器が所与の角度範囲内にあるときにコミュニケーションモードに移行することが可能になる。
【0022】
また、本発明の一態様では、前記処理部は、前記他の映像表示機器が発信した位置発信情報を、指向性を有する受信範囲で受信する受信処理部を含み、前記映像表示モード判定部は、前記センサ情報取得部が、前記センサ情報として前記位置発信情報を取得した場合に、前記映像表示モードが、前記コミュニケーションモードであると判定してもよい。
【0023】
これにより、他の映像表示機器が所与の角度範囲にあるか否かの判定を、指向性を有する受信範囲で受信する受信処理部での受信結果に基づいて行うことが可能になる。
【0024】
また、本発明の一態様では、前記受信処理部は、前記ユーザの視野範囲に対応する受信範囲で前記位置発信情報を受信してもよい。
【0025】
これにより、ユーザの視野範囲に対応した処理が可能になる。
【0026】
また、本発明の一態様では、前記処理部は、指向性を有さない送信範囲で位置発信情報を発信する発信処理部を含んでもよい。
【0027】
これにより、位置発信情報の送信は指向性を有さない送信範囲で行うことが可能になる。
【0028】
また、本発明の一態様では、前記第1の映像、前記第2の映像の切り替え処理を行う映像切替部を含み、前記映像切替部は、前記映像表示モード判定部により、前記映像表示モードが前記視聴モードであると判定された場合には、前記第1の映像が前記表示部に表示されるように映像切り替え処理を行い、前記映像表示モード判定部により、前記映像表示モードが前記コミュニケーションモードであると判定された場合には、前記第2の映像が前記表示部に表示されるように映像切り替え処理を行ってもよい。
【0029】
これにより、映像表示モードの判定に基づいて、表示する映像を切り替えることが可能になる。
【0030】
また、本発明の一態様では、前記自身の映像表示機器を装着したユーザの周囲に第2の検出エリアが設定されるとともに、前記ユーザの視野範囲に対応した角度範囲に第1の検出エリアが設定され、前記処理部は、前記第2のエリアに前記他の映像表示機器が存在すると判定された場合には、負荷の軽い第2の処理を行い、前記第1のエリアに前記他の映像表示機器が存在すると判定された場合には、前記第2の処理に比べて負荷の重い第1の処理を行ってもよい。
【0031】
これにより、第2の検出エリアに他の映像表示機器が存在する場合には負荷の軽い第2の処理を行い、第1の検出エリアに他の映像表示機器が存在する場合には、第2の処理よりも負荷の重い第1の処理を行うことが可能になる。
【0032】
また、本発明の一態様では、前記処理部は、負荷の軽い前記第2の処理として、受信処理部による受信処理、送信処理部による送信処理及び画像認識部による識別マーカ認識処理の少なくとも1つの処理を行ってもよい。
【0033】
これにより、負荷の軽い第2の処理として、受信処理、送信処理及びマーカ認識処理を行うことが可能になる。
【0034】
また、本発明の一態様では、前記処理部は、負荷の重い前記第1の処理として、通信部から受信した前記他の映像表示機器を装着した他のユーザの情報である他ユーザ情報に基づく状態判定処理、前記通信部による通信の開始処理及び映像切替部による映像切替処理の少なくとも1つの処理を行ってもよい。
【0035】
これにより、第2の処理よりも負荷の重い第1の処理として、ユーザ情報に基づく状態判定処理、通信の開始処理及び映像切替処理を行うことが可能になる。
【0036】
また、本発明の一態様では、前記第2映像取得部は、前記他の映像表示機器から、前記他の映像表示機器を装着している他のユーザの情報である他ユーザ情報を取得し、前記第2の映像として、前記他ユーザ情報に基づいて生成された映像を取得してもよい。
【0037】
これにより、コミュニケーション用の映像である第2の映像として、他のユーザの情報に基づいて生成した映像を用いることが可能になる。
【0038】
また、本発明の一態様では、前記第2映像取得部は、前記第2の映像として、前記他ユーザ情報に基づいて生成された前記他のユーザのアバター映像を取得してもよい。
【0039】
これにより、第2の映像として、他のユーザのアバター映像を用いることが可能になり、より豊かなコミュニケーションを実現することができる。
【0040】
また、本発明の一態様では、前記第2映像取得部は、自身の映像表示機器を装着したユーザの情報である自ユーザ情報を取得するとともに、前記2の映像として、前記自ユーザ情報である発話情報と、前記他ユーザ情報である発話情報とを表すチャット映像を取得してもよい。
【0041】
これにより、第2の映像として、自ユーザと他ユーザの発話情報を表すチャット映像を用いることが可能になる。よって、第1の映像の音声コンテンツを遮ることなく、文字チャットでコミュニケーションを行うこと等ができる。
【0042】
また、本発明の一態様では、前記映像表示機は、ユーザの頭部に装着され、ユーザの視野の少なくとも一部に表示部を有する頭部装着型表示機器であってもよい。
【0043】
これにより、映像表示機器として、ユーザの頭部に装着される頭部装着型表示機器を用いることが可能になる。
【0044】
本発明の他の態様は、第1の映像を取得する第1映像取得部と、撮像部からの撮像画像又は通信部からの通信情報に基づいて生成された第2の映像を取得する第2映像取得部と、処理部と、表示部の表示制御を行う表示制御部として、コンピュータを機能させ、前記処理部は、映像表示モードが、視聴モードであるか、自身の映像表示機器とは異なる他の映像表示機器とのコミュニケーションを行うためのコミュニケーションモードであるかの判定を行う映像表示モード判定部を含み、前記表示制御部は、前記映像表示モード判定部により、前記映像表示モードが前記視聴モードであると判定された場合には、前記第1の映像を前記表示部に表示する制御を行い、前記映像表示モード判定部により、前記映像表示モードが前記コミュニケーションモードであると判定された場合には、前記第2の映像を前記表示部に表示する制御を行うプログラムに関係する。
【図面の簡単な説明】
【0045】
【図1】本実施形態のシステム構成例。
【図2】本実施形態に係る映像表示機器を用いる状況の例。
【図3】第1の映像の例。
【図4】第2の映像として撮像画像が表示される例。
【図5】本実施形態の詳細なシステム構成例。
【図6】第2の映像として映像表示機器のみが表示される例。
【図7】センサ情報を用いる場合のシステム構成例。
【図8】ビーコンの送受信範囲を説明する図。
【図9】ビーコンを用いた際に他の映像表示機器を検出することができる場合の例。
【図10】撮像画像に対して処理を行うことで第2の映像を生成する場合のシステム構成例。
【図11】第2の映像としてピクチャーインピクチャーの画像が表示される例。
【図12】第2の映像として重畳表示した画像が表示される例。
【図13】第2の実施形態におけるシステム構成例。
【図14】第2の映像としてアバター画像が表示される例。
【図15】第2の映像としてチャット画像が表示される例。
【図16】複数の検出エリアを設定する例。
【図17】複数の検出エリアを設定する他の例。
【図18】複数の検出エリアを実現するためのセンサの例
【図19】変形例における処理の詳細を説明するためのフローチャート。
【図20】本実施形態に係る映像表示機器として用いられる単眼の頭部装着型表示機器の例。
【発明を実施するための形態】
【0046】
以下、本実施形態について説明する。なお、以下に説明する本実施形態は、特許請求の範囲に記載された本発明の内容を不当に限定するものではない。また本実施形態で説明される構成の全てが、本発明の必須構成要件であるとは限らない。
【0047】
1.本実施形態の手法
【0048】
まず、本実施形態の手法について説明する。本実施形態にかかる映像表示機器は、例えば頭部装着型表示機器(HMD)である。本実施形態では特に、表示画角の広い(ユーザの視野範囲に占める映像表示範囲が広い)タイプであり、臨場感を持たせた映像表示を可能にするHMDを想定している。
【0049】
この場合に問題になるのは、HMDを装着していると外界はほとんど見ることができないという点である。ユーザの視野範囲のほとんどをHMDにより表示される映像(ここでは第1の映像とする)が占めてしまうため、例えば、そばにいる他のユーザとコミュニケーションをとろうと思っても、他のユーザの姿が見えないことになり、円滑なコミュニケーションは困難であるという問題が生じる。また、視野範囲が本実施形態のように広く無いタイプのHMDにおいても、視野範囲の一部にHMDの表示部が入るように表示部が保持されていると、その表示部に隠されるため他のユーザの姿確認するのが難しくなる問題が同様に生じる。
【0050】
そこで、本出願人は以下のような手法を提案する。つまり、HMDを装着したユーザが他のユーザ(他のユーザもHMDを装着していることを前提としている)の方向を向いたときには、第1の映像に代わり、他のユーザとのコミュニケーションの補助を行うような第2の映像を表示する。具体的には図4のように、他のユーザを撮像した撮像画像を第2の映像として表示してもよいし、図11のように、当該撮像画像と第1の画像とを適当な画像処理により合成したような画像を第2の映像として表示してもよい。このようにすることで、必要に応じて表示画像がコミュニケーション用の画像に切り替わるため、他のユーザとのコミュニケーションを円滑に行うことが可能になる。
【0051】
以下、第2の映像として撮像画像に基づく映像を用いる上述の手法について第1の実施形態で説明する。また、第2の映像として、他のユーザの情報に基づいて生成されたアバター画像やチャット画像を用いる手法について第2の実施形態で説明する。最後に、処理負荷の軽減等を目的とした変形例を説明する。
【0052】
2.第1の実施形態
【0053】
図1に本発明の映像表示機器の第1の実施形態を示す。この発明の実施の形態は次のように、少なくとも2つ以上の映像表示機器(頭部装着型表示機器、HMD)を有するシステムとして構築される。第1の映像表示機器10は、表示部15と、表示制御部17と、映像切替部14と、第1の映像取得部11と、第2の映像取得部12と、処理部16と、映像表示モード判定部13を有する。また、第2の映像表示機器20は、表示部25と、表示制御部27と、映像切替部24と、第1の映像取得部21と、第2の映像取得部22と、処理部26と、映像表示モード判定部23を有する。以下、第1の映像表示機器10と第2の映像表示機器20は、同一の構成となるため、第1の映像表示機器10について説明し、第2の映像表示機器20については詳細な説明は省略する。また、以下では第1の映像表示機器10を基準として考え、自身の映像表示機器とは第1の映像表示機器10を表し、他の映像表示機器とは第2の映像表示機器20(もしくは不図示の第3の映像表示機器等)を表すものとする。
【0054】
第1の映像取得部11は観賞用の映像、すなわち映画や、フォトアルバムなどのコンテンツを視聴するための映像を取得する。第2の映像取得部12はコミュニケーションのための映像を再生する。第1の実施形態では、外界の映像、もしくはその映像を加工した映像を取得する。
【0055】
複数のユーザ(ここでは2人のユーザだが、それに限定されるものではない)が、図2のような状況で頭部装着型表示機器を用いて、並んで映像を視聴している場合には、図3に示すように第1の映像取得部11からの映像信号(第1の映像)を表示部15に表示する。
【0056】
映像表示モード判定部13は、例えば自身の映像表示機器と他の映像表示機器との位置関係情報に基づいて、映像表示モードを判定する。具体的には、他の頭部装着型表示機器(例えば第2の映像表示機器20)が所定の範囲、例として自身の頭部装着型表示機器(第1の映像表示機器10)の正面左右15度の範囲であり、距離1.5m以内に入った場合に映像切替部14を作動させ、表示映像を第1の映像取得部11からの第1の映像から、第2の映像取得部12からの第2の映像に切り替える。これにより、図4に示すようにコミュニケーションのための映像に切り替えることが出来る。
【0057】
より詳細な構成として、図5以降を用いてより細かく説明する。図5に示すように第1の映像表示機器100(頭部装着型表示機器)は、撮像部106と、第2の映像取得部116と、処理部102と、映像切替部104と、映像再生部101と、第1映像取得部115と、表示部105と、表示制御部117からなる。また、処理部102は画像認識部107と、映像表示モード判定部103からなる。同様に、第2の映像表示機器200(頭部装着型表示機器)は、撮像部206と、第2の映像取得部216と、処理部202と、映像切替部204と、映像再生部201と、第1映像取得部215と、表示部205と、表示制御部217からなる。また、処理部202は画像認識部207と、映像表示モード判定部203からなる。以下、第1の映像表示機器100と第2の映像表示機器200は、同一の構成となるため、第1の映像表示機器100について説明し、第2の映像表示機器200については詳細な説明は省略する。また、以下では第1の映像表示機器100を基準として考え、自身の映像表示機器とは第1の映像表示機器100を表し、他の映像表示機器とは第2の映像表示機器200(もしくは不図示の第3の映像表示機器等)を表すものとする。図5以降のブロック図の説明においても同様である。
【0058】
撮像部106は、結像のための光学系、光量調整のためのシャッターや絞り、NDフィルターなど、CCDや、CMOSなどの撮像素子と、映像信号をNTSCやデジタル画像伝送により出力するための映像処理部(例えば映像処理回路)からなる。いわゆるビデオカメラやデジタルスチルカメラと同様の構成としてもよい。これらからの映像信号は、処理部102の画像認識部107に入力される。画像認識部107は、入力映像をデジタル変換するコンピュータプログラムを実装した計算機などで構成される。映像表示モード判定部103は、この計算機のプログラムとして実装されていてもよい。
【0059】
映像再生部101はビデオカセットレコーダーなどの旧来の映像ソースでもよいが、半導体メモリやHDD、ブルーレイディスクなどの媒体に記録された画像ファイルをデコード・再生する装置、また、オンラインの映像配信サービスに接続するコンピュータプログラムでもよい。映像切替部104は、撮像部106からの映像信号(第2の映像)と映像再生部101からの映像信号(第1の映像)を切り替える装置であり、例えば信号のスイッチング回路等で実装される。切り替えにより選択された映像信号は、表示制御部117を介して表示部105に接続される。
【0060】
表示部105は本実施形態では、左右両眼に表示パネルを設けたヘッドマウントディスプレイ(HMD)で示しているが、これは、単眼型のものや、近接視野に設置したミラーによるスクリーン虚像を観察するヘルメット型のディスプレイなどでもよい。なお、非拘束型のディスプレイの場合は、頭部の運動に連動して動作する撮像装置が設けられていればよい。
【0061】
次に、本実施形態の作用を説明する。図3に示すように通常は映像再生部101(例えばDVDプレイヤー等の映像再生機器)からの映像を視聴している場合には、図5の映像切替部104は映像再生部101からの第1の映像を表示部105(具体的にはHMDのパネル)に送り、表示する。
【0062】
ここで、図4に示すように、他のユーザ(HMD利用者)の方向を向くと、図5に示す撮像部106により、HMD画像(外界を撮影した画像であり、特に他のユーザが装着しているHMDを撮影した画像)が撮影される。画像認識部107は、このHMD画像を認識し、相手側の他のHMDの存在の有無、画面中のサイズなどを算出する。これらの物体認識については、一般的な物体認識技術を用いるため、割愛する。このような認識から、他のHMDが視野内に存在することを通知するHMD検出信号と、画面中のHMD認識領域の大きさを示すHMDサイズ信号が映像表示モード判定部103に送られる。
【0063】
映像表示モード判定部103は、受信した信号に基づいて自身の映像表示機器と他の映像表示機器との位置関係情報を取得し映像表示モードを判定する。具体的には、HMDサイズ信号が所定の大きさ、例えば自身の映像表示機器からの距離が50cm〜2mの範囲内に存在する場合の画面比率で撮像画像内に存在した場合、映像表示モード判定部103は、表示映像を第2の映像に切り替える切替信号を出力する。この信号は映像切替部104に入力され、映像再生部101からの第1の映像から、撮像部106で撮影された第2の映像に切り替わり、表示部105に表示される。
【0064】
この際、図4に示すように、撮像部106でとらえられた別のユーザの様子がビデオシースルーで表示され、コミュニケーション開始のきっかけをつかむことが出来ると共に、相手の状態をモニタリングできるようになる。
【0065】
したがって、本実施形態には上述の効果のほかに、次のような特有の効果がある。つまり、他のHMDの検出と計測処理、及び、表示部105に表示するコミュニケーションのための第2の映像信号取得処理の2つの処理を1つの撮像装置(撮像部116)により行うことが出来るため、構成が簡単になる。
【0066】
なお、本実施形態の各構成は、当然、各種の変形、変更が可能である。他のHMDの認識については、HMDに識別マーカを付与し、これを認識するようにしてもよい。この場合距離を知るための大きさの情報、向きを知るための幾何的な情報を持っている必要があり、例えば3点間所定距離だけ離れ、かつ、同一直線状に乗らないLED輝点マーカや、QRコードなどのように4点に1点特徴的なコードパターンを設けることで位置姿勢を示す平面マーカなどを用いてもよい。
【0067】
また、例えば、図6に示すように、HMD検出処理(位置関係情報判定処理)は、送受信部108において送受信されるビーコンの信号に基づいて行われてもよい。図7に示すようにビーコン信号の送受信を行う送受信部108は、映像表示モード判定部103に接続される。図8のようにビーコンの受信範囲に、他のHMDの送信範囲が入らない場合は、映像再生部101からの映像信号すなわち第1の映像が表示部105に表示される。また、図9に示すように送信範囲と受信範囲が重なると共に、HMD1の受信範囲に、HMD2が入った場合には映像表示モード判定部103は切替信号を出力し、映像切替部104は撮像部106からの映像信号(第2の映像)に映像を切り替える。本実施形態では電波強度と方位から対象のHMDがコミュニケーション範囲にHMDが存在するかしないかを判定することができる。
【0068】
この場合は、画像認識部107は無くても良いが、撮像部106の画角範囲と、ビーコンのHMD検出範囲がほぼ一致していることが望ましい。
【0069】
また、撮像部106からの映像をそのまま表示部105に出力するのではなく、図10に示すように映像生成部112を通して加工した映像を、映像切替部104への第2の映像として出力してもよい。この映像加工は、例えば図11に示すように子画面として撮像部106からの画像を表示するピクチャーインピクチャー表示(PinP)でも良く、もちろん、親子画面が逆になってもかまわない。また、図12に示すように背景として第1の映像のコントラストを落として表示した上で、第2の映像を重畳表示するようにしてもよい。
【0070】
以上の本実施形態では、映像表示機器(自身の映像表示機器である第1の映像表示機器10)は、図1に示したように、第1の映像を取得する第1映像取得部11と、第2の映像を取得する第2映像取得部12と、処理部16と、表示部15とを含む。そして、処理部16は、映像表示モードの判定を行う映像表示モード判定部13を含む。また、表示部15は、映像表示モード判定部13により、映像表示モードが視聴モードであると判定された場合には、第1の映像を表示し、映像表示モードがコミュニケーションモードであると判定された場合には、第2の映像を表示する。
【0071】
ここで、第1の映像とは例えば、DVDプレイヤー等の映像再生機器からの映像であり、具体的には例えば映画等のコンテンツが考えられる。なお、第1の映像はネットワーク型の配信サービスやテレビ放送等からの映像であってもよい。第2の映像とは、撮像部(図5の106に対応)からの撮像画像又は通信部(後述する図13の113に対応)からの通信情報に基づいて生成される映像である。映像という用語は、ここでは動画像と音声などのマルチモーダル情報を包含したコンテンツ全般を意味している。ただし、映像はマルチモーダルであってよいのはもちろんのこと、動画像単独や音声単独のようなシングルモーダルな信号であってもよい。
【0072】
また、映像表示モードには視聴モードとコミュニケーションモードがある。視聴モードは映画等のコンテンツの視聴を行うモードであり、コミュニケーションモードとは他のユーザとのコミュニケーションを行うためのモードである。コミュニケーションモードが実行される際のシチュエーションとしては図2のようなケースが考えられ、HMDを装着した複数のユーザが、例えば同一の室内のような限定された領域に存在する際のお互いのコミュニケーションを円滑にするためのものである。ただし、ユーザ同士が所与の距離内にいる必要はなく、また、具体的には同一の室内にいる必要もない。また、本実施形態においては、各ユーザはHMDを装着しているものとし、HMDを装着していない人とのコミュニケーションは考慮しなくてもよい。なお、本実施形態にかかる映像表示機器はHMDに限定されるものではなく、頭部の運動に連動する小型ディスプレイ等も含む。
【0073】
これにより、第1の映像と第2の映像を取得し、視聴モードでは第1の映像を表示し、コミュニケーションモードにおいては第2の映像を表示することが可能になる。よって、映像表示機器を用いている間でも、他のユーザとのコミュニケーションを円滑に行うことが可能になる。特に、映像表示機器が、HMD(特にユーザの視野範囲に対して表示画像の占める割合が大きいもの)等の外界視界が狭く限定されるような機器である場合に効果を発揮する。
【0074】
また、映像表示モード判定部13は、自身の映像表示機器と他の映像表示機器の位置関係を表す位置関係情報に基づいて、映像表示モードが視聴モードであるか、コミュニケーションモードであるかの判定を行ってもよい。
【0075】
これにより、映像表示機器同士(つまり、映像表示機器を装着したユーザ同士)の位置関係情報に基づいて、映像表示モードを判定することができる。よって、例えばコミュニケーションが行われることが想定されやすい位置関係において、コミュニケーションモードに移行するように設定しておけば、適切かつ効果的に、状況に合わせた映像表示モードの変更が可能になる。なお、位置関係情報は、具体的には後述するように、図5の撮像部106からの撮像画像や、センサ情報取得部(図7の送受信部108)からのセンサ情報等によって取得されることが考えられる。
【0076】
また、図5に示したように、処理部102は、撮像画像に基づいて画像認識処理を行う画像認識部107を含んでもよい。映像表示モード判定部103は、画像認識部107による撮像画像の認識結果に基づいて映像表示モードの判定を行う。
【0077】
ここでは特に、撮像画像の認識結果に基づいて、自身の映像表示機器と他の映像表示機器との位置関係情報を取得してもよい。そして映像表示モード判定部は、位置関係情報に基づいて映像表示モードの判定を行ってもよい。具体的には後述するように、対象となる映像表示機器(他の映像表示機器)の撮像画像における大きさ情報等により位置関係を判定することが考えられる。
【0078】
これにより、撮像画像に対する画像認識処理に基づいて、映像表示モードの切り替えを行うことが可能になる。ここで、第2の映像が撮像画像に基づいて取得される場合には、第2の映像の取得処理及び映像表示モード判定処理の2つの処理が、両方とも撮像画像に基づいて行うことが可能になる。よって、映像表示機器100の構成を簡略化することができる。
【0079】
また、映像表示モード判定部103は、画像認識部107による画像認識処理の結果、他の映像表示機器(例えば第2の映像表示機器200等)が自身の映像表示機器の近くにある(例えば所与の距離よりも近い位置に存在する)と判定された場合には、映像表示モードがコミュニケーションモードであると判定してもよい。
【0080】
これにより、画像認識処理に基づく映像表示モードの切り替え手法として、他の映像表示機器(またはそれを用いている他のユーザ)と自身の映像表示機器(または自ユーザ)が近くにあるか否かに基づく判断を行う手法を用いることが可能になる。
【0081】
また、画像認識部107は、撮像画像において、他の映像表示機器の画像認識処理を行うことで、撮像画像における他の映像表示機器の大きさ情報を取得してもよい。そして映像表示モード判定部103は、他の映像表示機器の大きさ情報により表される大きさが所与の閾値よりも大きい場合には、映像表示モードをコミュニケーションモードと判定する。
【0082】
これにより、撮像画像において、他の映像表示機器がある一定以上の大きさで撮像されていた場合には、コミュニケーションモードに切り替えることが可能になる。撮像画像において、他の映像表示機器が大きく撮像されるということは、当該他の映像表示機器は自身の映像表示機器から近い位置に存在することが想定される。さらに撮像画像を取得する撮像部106(撮像機器)の画角は魚眼レンズ等特殊な機器を用いない限り、ある程度の角度範囲に限定されることを鑑みれば、他の映像表示機器は自身の映像表示機器に対して設定された所与の角度範囲に位置することになる。撮像部の画角を自ユーザの視野範囲と同程度と見なせば、この条件を満たす場合とはつまり、自ユーザが近くにいる他ユーザの方向を見ているというシチュエーションに該当することになる。よって、通常、そのようなシチュエーションでは会話等のコミュニケーションが開始される可能性が高いことを考えれば、自然な状況でコミュニケーションモードに移行することが可能になると言える。なお、撮像画像上の見かけの大きさ(例えばピクセル数)と、当該映像表示機器の大きさ情報とは必ずしも1対1に対応するとは限らない。撮像部106がズーム機能を有している場合等には、大きさ情報はズーム倍率の大きさに連動して変更される必要が生じる。
【0083】
また、画像認識部107は、撮像画像において、他の映像表示機器に付与された識別マーカの画像認識処理を行うことで、撮像画像における識別マーカの大きさ情報を取得してもよい。そして映像表示モード判定部103は、識別マーカの大きさ情報により表される大きさが所与の閾値よりも大きい場合には、映像表示モードをコミュニケーションモードと判定する。
【0084】
これにより、撮像画像において、識別マーカがある一定以上の大きさで撮像されていた場合には、映像表示モードをコミュニケーションモードに切り替えることが可能になる。映像表示機器に付与された識別マーカの大きさを認識するということは、識別マーカまでの距離情報を取得していることに相当するため、つまりは、当該識別マーカが付与された他の映像表示機器までの距離情報が取得されることになる。以下の処理は上述の、直接他の映像表示機器の画像認識処理を行う場合と同様である。
【0085】
また、処理部102は、図7に示したように、センサからのセンサ情報を取得するセンサ情報取得部(送受信部108)を含んでもよい。そして、映像表示モード判定部103は、センサ情報に基づいて映像表示モードの判定を行う。
【0086】
ここでは特に、センサ情報に基づいて、自身の映像表示機器と他の映像表示機器との位置関係情報を取得してもよい。そして映像表示モード判定部は、位置関係情報に基づいて映像表示モードの判定を行ってもよい。具体的には図8、図9を用いて後述するように、ビーコン等を用いて位置関係を判定することが考えられる。
【0087】
これにより、センサ情報を用いて映像表示モードを判定することが可能になる。特に、位置関係情報を用いる場合には、位置関係情報を取得するセンサを用いて、複数の映像表示機器間の位置関係を把握し、コミュニケーションが行われる可能性が高いと判定された場合等にコミュニケーションモードに移行すること等が可能になる。センサによる情報を処理すれば足りるため、画像認識処理等に比べて処理が容易になる。
【0088】
また、センサ情報により、自身の映像表示機器(又は自身の映像表示機器を装着したユーザ)に対して設定された所与の角度範囲内に他の映像表示機器が存在すると判定された場合には、映像表示モード判定部103は、映像表示モードがコミュニケーションモードであると判定してもよい。
【0089】
これにより、単純に位置を検出するだけでなく、自ユーザに対してどの角度範囲に存在するかも検出することになるため、そのときの状況がコミュニケーションを行う状況であるのか否かという判断を適切に行うこと等が可能になる。
【0090】
また、処理部102は、図7に示したように、他の映像表示機器が発信した位置発信情報を、指向性を有する受信範囲で受信する受信処理部109を含んでもよい。そして、映像表示モード判定部103は、センサ情報取得部(送受信部108)が、前記センサ情報として位置発信情報を取得した場合に、映像表示モードをコミュニケーションモードと判定する。その際、前記受信範囲は、ユーザ(自ユーザ)の視野範囲に対応する角度範囲としてもよい。
【0091】
これにより、他の映像表示機器が発信した位置発信情報を、指向性を有する受信範囲で受信することにより、他の映像表示機器が自身の映像表示機器に対して所与の角度範囲内に存在するか否かの判定を行うことが可能になる。特に、受信範囲をユーザの視野範囲に対応付けておくことにより、ユーザの視野範囲内に他の映像表示機器があるか否かの判定を行うことが可能になる。よって、ユーザが他の映像表示機器の方向を見ているというシチュエーションにおいて、コミュニケーションモードに移行することが可能になり、自然な移行を行うことができる。
【0092】
また、処理部102は、指向性を有さない送信範囲で位置発信情報を発信する発信処理部110を含んでもよい。
【0093】
これにより、他の映像表示機器に自身の映像表示機器の位置を知らせることが可能になり、他の映像表示機器がコミュニケーションモードに移行することができる。
【0094】
また、図1に示したように、映像表示機器10は、第1の映像と第2の映像の映像切り替え処理を行う映像切替部14を含んでもよい。そして映像切替部14は、映像表示モードが視聴モードであるときに、表示部15に第1の映像が表示されるように映像切り替え処理を行う。また、映像表示モードがコミュニケーションモードであるときに、表示部15に第2の映像が表示されるように映像切り替え処理を行う。
【0095】
これにより、表示部15に表示される映像を、映像表示モードに基づいて切り替えることが可能になる。この切り替えは、後述するように、処理部16による他の映像表示機器(例えば第2の映像表示機器20)の検出と非検出により切り替えられる。ここで、自身の映像表示機器とは、現在の判断の基準となっている映像表示機器のことである。また、他の映像表示機器とは、前述の自身の映像表示機器以外の映像表示機器のことである。自身の映像表示機器を用いているユーザを単にユーザ或いは自ユーザと呼び、他の映像表示機器を用いているユーザを他のユーザ或いは他ユーザと呼ぶ。
【0096】
また、本実施形態にかかる映像表示機器は、ユーザの頭部に装着され、ユーザの視野の少なくとも一部に表示部を有する頭部装着型表示機器であってもよい。
【0097】
ここで頭部装着型表示機器とは、具体的には上述してきたようにHMD等である。ここでHMDは、図2に示すように、両目で表示画像を見るような、ユーザの視野に対して表示画像の占める割合が大きいものであってもよい。また、図20に示すように、片目で表示画像を見るような、ユーザの視野に対して表示画像の占める割合が小さいものであってもよい。
【0098】
これにより、本実施形態に係る映像表示機器として、頭部装着型表示機器を用いることが可能になる。
【0099】
また、本実施形態は、図1に示したように、第1の映像を取得する第1映像取得部11と、第2の映像を取得する第2映像取得部12と、処理部16と、表示制御部17としてコンピュータを機能させるプログラムに関係する。そして、処理部16は、映像表示モードの判定を行う映像表示モード判定部13を含む。また、表示制御部17は、映像表示モード判定部13により、映像表示モードが視聴モードであると判定された場合には、第1の映像を表示部15に表示する制御を行い、映像表示モードがコミュニケーションモードであると判定された場合には、第2の映像を表示部15に表示する制御を行う。
【0100】
これにより、本実施形態は、映像表示機器をハードウェア的に実現するケースにとどまらず、PC等のコンピュータシステムに対して、映像表示処理をソフトウェア的に実行させるものに対しても適用することが可能になる。そして、上記プログラムは、情報記憶媒体に記録される。ここで、情報記録媒体としては、DVDやCD等の光ディスク、光磁気ディスク、ハードディスク(HDD)、不揮発性メモリやRAM等のメモリなど、光学式検出システムによって読み取り可能な種々の記録媒体を想定できる。
【0101】
3.第2の実施形態
【0102】
次に、第2の実施形態について図13を用いて説明する。第1の実施形態に比べると、通信部113と映像生成部112の追加がなされることが特徴である。
【0103】
次に、第2の実施形態の作用を説明する。通信部113により、第1のHMDと第2のHMD間で、映像、音声、テキスト入力、などの情報を相互に通信する。なお、HMDの数は2つに限定されるものではない。映像の切り替えのための方式は、第1の実施の形態に示した各種の方法を用いることが出来る。
【0104】
第2の映像として、通信で得た情報を元に、アバター映像を生成する。このようにして生成した画像を第2の映像として、図14のように表示する。
【0105】
なお、本実施形態の各構成は、当然、各種の変形、変更が可能である。テキスト入力情報を、通信部113を介してやり取りすることでテキストチャットを実現し、第1の実施形態の切替条件による映像の切替で表示部105に表示するようにしてもよい。
【0106】
以上のような構成により、第2の映像への切替で適切なHMD装着者間のコミュニケーションを容易に実現することが可能となる。
【0107】
以上の本実施形態では、図13に示したように、第2映像取得部116(ここでも第1の実施形態と同様に、図13における第1の映像表示機器100を自身の映像表示機器として説明する)は、他の映像表示機器(第2の映像表示機器200)から他のユーザの情報である他ユーザ情報を取得し、第2の映像として他ユーザ情報に基づいて生成された映像を取得する。
【0108】
これにより、コミュニケーションのために調整した映像をやりとりすることになるため、より豊かなコミュニケーションを実現する。特に本実施形態では、各ユーザはHMDを装着していることが想定されるため、撮像画像を用いた場合には、ユーザの表情等の情報を得ることが困難であることから、コミュニケーション用の映像を用いることは特に効果を発揮する。
【0109】
また、第2映像取得部116は、第2の映像として、他ユーザ情報に基づいて生成された、他のユーザのアバター映像を取得してもよい。
【0110】
これにより、図14に示したようなアバターを用いたコミュニケーションが可能となる。アバターの表情や姿勢、動作等を適宜設定することにより、無味乾燥とした撮像画像に比べて、より豊かなコミュニケーションが可能になる。
【0111】
また、第2映像取得部116は、自身の映像表示機器(第1の映像表示機器100)を装着したユーザの情報である自ユーザ情報を取得するとともに、第2の映像として、自ユーザ情報である自ユーザの発話情報と、他ユーザ情報である他のユーザの発話情報とを表すチャット映像を取得してもよい。
【0112】
これにより、アバターの時と同様豊かなコミュニケーションを実現する。それとともに、図15のように発話音声がテキストとなり表示されることになるため、音声を中心とした第1の映像コンテンツの視聴を妨げることなく、適切なコミュニケーションを行うことが可能になる。
【0113】
4.変形例
【0114】
次に変形例について説明する。ここでは、他のHMDを検出するエリアを複数設けて、エリアごとにHMDを検出した際の処理を変更する。
【0115】
具体的には例えば、2つの検出エリアを設定する場合が考えられる。第1の検出エリアとして、図16に示したようにユーザの指向方向領域を設定し、第2の検出エリアとしてユーザの周囲の領域を設定する。ここで、第1の検出エリアは、HMDを装着したユーザの注視範囲(標準的な水平画角として40〜50°の範囲が一般的)であり、ユーザの視界ならびにHMDの表示部105(表示装置)の中心的な画角範囲に相当する。また、第2の検出エリアは、主にHMDを中心とした同一の室内(家庭であれば半径2m程度)の領域に相当する。また、第1の検出エリアを、第2の検出エリアと同様にHMDを中心とした距離を組み合わせて設定してもよい。
【0116】
第1の検出エリアで他のHMDが検出された場合には、相手の状態判定(姿勢、発話、表情など)、通信の開始処理(コミュニケーションの開始、映像の生成開始など)及び映像の切替処理(第2の映像の表示)等を行う。それに対して、第2の検出エリアで他のHMDが検出された場合には、処理部102は、HMDユーザの存在の判定、ビーコンの受信処理・発信処理及びマーカの認識処理等の負荷の軽い第2の処理を行う。この、第2の処理に比べて第1の処理は負荷の重い処理となる。
【0117】
このようにすることで、比較的HMDを装着したユーザから遠い検出エリアにおいて他のHMDが検出された場合、つまり、ユーザ間でのコミュニケーションの意志は強くないと判断することができる場合には、負荷の軽い処理を行う。そして、ユーザの指向方向領域において他のHMDが検出された場合、つまり、ユーザ間でコミュニケーションが行われることが想定される場合には、コミュニケーションのための負荷の重い処理を行う。よって、常時負荷の重い処理を行う場合に比べて、必要なときだけ当該重い処理を行えばよくなるため、全体として処理負荷を軽減することが可能になる。
【0118】
また、検出エリアは必ずしも2つに限定されるものではない。図17に示すようにパーソナルスペースを考慮して周囲半径1m以内に第3、第4の検出エリアを定義して強制的にコミュニケーションモードに移行するようにしてもよい。
【0119】
具体的には、図17において、4つの検知エリアに分けた場合には、第1の検出エリアでは相互にコミュニケーションを開始することの許諾を求めるダイアログを双方に通知する。第4の検出エリア(直径数十センチ程度)では、近接が著しいので強制的にコミュニケーションモードに移行する。第2の検出エリアでは、周囲に他のユーザが存在することを簡易なアイコンなどで目立たず表示する。第3の検出エリアでは背後から著しい近接をされているので、危険情報としてアラートアイコンなどで表示する。
【0120】
このようにすることで、さらに細かく検出エリアを分割して、それぞれ異なる処理を行うことが可能になる。
【0121】
また、誰が近接しているかなど、ユーザIDの登録をあらかじめしておき、その情報を事前表示してもよい。また、近接度が上がり、視野正面に対象が遷移するにしたがって、コミュニケーションモード、ならびにそれを通知、承諾を問いかける各種情報表示を段階的に変更させてもよい。
【0122】
さらに、方位情報を表示することもできる。あたかも目が後ろにもあるように、相手のHMDが右後方にいる場合にでも、第2の検出エリアにいる場合には気づきランプがHMDの画面の右側に点滅して知らせるなど、映像鑑賞画面の外周部にレーダー状に周囲のHMDの配置状況を表示するようにしてもよい。
【0123】
このように構成すれば、気付きランプに従ってそちらを振り向くことで第1の検出エリアに該当のHMDをとらえ、コミュニケーションモードへ移行することができる。このとき、同時に簡易的な相手の情報(アイコン、名前などのID情報)のプレ通信を実施し、その内容を表示部105に表示するようにしてもよい。
【0124】
映画鑑賞モード等における動作例としては、以下のような形態が考えられる。他のHMDの察知には鈍感になるようにすることで、ゆっくり鑑賞にひたってもらい、よりいっそうの没入感を演出する。具体的には、第1の映像として一定時間同じものを見ていること等を条件に、第1・2の検出エリアが狭くなる(感度が鈍くなる)よう構成しても良い。それと共に、いざ近接して呼びかけを行われた場合は応答が出来るようにするため、第1・2の検出エリアをなくすような処理は行わない。
【0125】
次に、このような変形例を実現するためのセンサの例について説明する。図18に示したように、受信に関しては指向性を有し、発信に関しては指向性を有さない(ただし、強度の判定は行う)。
【0126】
以下、赤外線の送受信モジュールを用いる例について説明する。送信部分は赤外線LEDに拡散のための乳白食のカバーや円錐や回転放物面ミラー、回転双曲線ミラーによる全方位拡散光学系を設けることで、少なくとも水平方向上下数十度の範囲に赤外線を投射する。一方、画角(表示装置の水平画角以下、例えば視野角とほぼ同じ40〜50°)を持つ集光レンズを介して装着者正面方向に光軸を向けて設置した赤外線受光部を設ける。
【0127】
これにより、他のHMDの発光部から拡散した赤外線は、装着者のHMDの受光範囲に他のHMDが存在する場合は受光されることになる。範囲外の場合は受光されないか、強度が反射を経ているので低い。距離は、この受光強度で判別することになる。
【0128】
また、第2の検出エリアを検知するためには、もう一段無指向性の赤外線受光部を設けることが必要となる。無指向性の赤外線発光部、受光部は図18ではパノラミックに上下画角の範囲が全周に回転した受光特性を持つが、魚眼レンズの組み合わせで360度全天周をカバーするように構成してもかまわない。より単純化するには、全方位結像光学系と赤外線分割受光素子を組み合わせ第1の検出エリア、第2の検出エリアで受光素子の検知強度を検出するようにしてもよい。
【0129】
また、撮像装置(撮像部106)をセンサとして兼用する場合は、撮像装置の画角により決定される角度範囲に対応する指向性を有することとなる。
【0130】
また、超音波の場合は無指向性のスピーカ(発信部)と無指向性マイク、指向性マイク(受信部)の組み合わせで上記構成と同等の効果を得るようにしてもよい。
【0131】
次に、上述のように複数の検出エリアを設定した場合の、処理の詳細について図19のフローチャートを用いて説明する。このフローチャートでは、周囲に近接すると、近くに他のHMDがいる場合その存在を通知する機能、コミュニケーションモードに切り替える機能及び近接かつ正面に他HMDが存在する場合には強制的にコミュニケーションモードに切り替わる機能を持つ。
【0132】
具体的には、この処理が開始されると、まず第1の映像を表示部105に表示する(S301)。次に視聴を終了するかの判定が行われ(S302)、Yesの場合は視聴を終了する。Noの場合は第1の検出エリア、第2の検出エリアに他のHMDが検出されたか否かの判定が行われ(S306)(S303)、Noの場合はS301に戻る。なお、第1の検出エリアでの検出処理及び第2の検出エリアでの検出処理は、例えばマルチスレッド等を用いて並列に行われるものとする。
【0133】
S303において、第2の検出エリアに他のHMDが検出された場合には、近くに他のユーザがいる旨を表示部に表示し(S304)、コミュニケーションモードに移行するか否かの判定を行う(S305)。Yesの場合には、S307に移行し、コミュニケーションモードが開始される。Noの場合には、S301に戻る。
【0134】
S305でYesと判定された場合には、S307からコミュニケーションモードが開始され、まず、他のHMDの情報を取得し(S307)、第2の映像を生成し(S308)、第2の映像を表示部105に表示する(S309)。そして、コミュニケーションモードを終了するかの判定が行われ(S310)、Noの場合はS307に戻りコミュニケーションモードが継続される。また、S310でYesの場合には、S301に戻ることになる。
【0135】
また、第2の検出エリアにおける検出処理と並列に、第1の検出エリアに他のHMDが検出されたか否かの判定が行われる(S306)。S306でNoの場合には、S301に戻り、Yesの場合にはS311に移行し、コミュニケーションモードが開始される。
【0136】
S306でYesと判定された場合の処理がS311〜S314となる。この処理は上述したS307〜S310の処理と同様であるため、詳細な説明は省略する。
【0137】
以上の本実施形態では、自身の映像表示機器(ここでも第1の映像表示機器100について説明する)を装着したユーザの視野範囲に対応した角度範囲に第1の検出エリアが設定され、ユーザの周囲に第2の検出エリアが設定されるとともに、前記処理部102は、第2の検出エリアに他の映像表示機器(第2の映像表示機器200等)が存在すると判定された場合には、処理の負荷が軽い第2の処理を行う。また、第1の検出エリアに他の映像表示機器が存在すると判定された場合には、第2の処理に比べて負荷の重い第1の処理を行う。
【0138】
ここで、第1の処理とは例えば、他ユーザ情報(通信部113から受信した他の映像表示機器を装着したユーザの情報)に基づく状態判定処理、通信部113による通信の開始処理及び映像切替部104による映像切替処理等である。また、第2の処理とは例えば、受信処理部109による受信処理、発信処理110部による発信処理及び画像認識部107により識別マーカ認識処理等である。
【0139】
これにより、自身の映像表示機器(第1の映像表示機器100)に対して、他の映像表示機器(第2の映像表示機器200)が存在する位置に応じて、行う処理を変更することが可能になる。その際の基準として、第1の検出エリアでは負荷の重い処理を行い、第2の検出エリアでは負荷の軽い処理を行う。これは、コミュニケーションモードの実現に必要な処理は、負荷が重いことによる。つまり、常時コミュニケーションモードのための処理を行っていたのでは、システムにかかる負荷が重く、かつ、視聴モードにおいては必要ない処理も含まれるため無駄が多い。そこで、普段は視聴モードの処理、及びコミュニケーションモードへの移行に必要な最低限の処理にとどめておく。そして、所与の角度範囲内(例えばユーザの視野範囲内)に他の映像表示機器が見つかった場合、つまりコミュニケーションが行われる可能性が高い場合にのみ、負荷の重い処理を行うことでシステムのリソースを効率的に利用することが可能になる。
【0140】
以上、本発明を適用した2つの実施の形態1〜2およびその変形例について説明したが、本発明は、各実施の形態1〜2やその変形例そのままに限定されるものではなく、実施段階では、発明の要旨を逸脱しない範囲内で構成要素を変形して具体化することができる。また、上記した各実施の形態1〜2や変形例に開示されている複数の構成要素を適宜組み合わせることによって、種々の発明を形成することができる。例えば、各実施の形態1〜2や変形例に記載した全構成要素からいくつかの構成要素を削除してもよい。さらに、異なる実施の形態や変形例で説明した構成要素を適宜組み合わせてもよい。このように、発明の主旨を逸脱しない範囲内において種々の変形や応用が可能である。
【符号の説明】
【0141】
10 映像表示機器、11 第1の映像取得部、12 第2の映像取得部、
13 映像表示モード判定部、14 映像切替部、15 表示部、16 処理部、
17 表示制御部、100 映像表示機器、101 映像再生部、102 処理部、
103 映像表示モード判定部、104 映像切替部、105 表示部、
106 撮像部、107 画像認識部、108 送受信部、109 受信処理部、
110 発信処理部、112 映像生成部、113 通信部
【技術分野】
【0001】
本発明は、映像表示機器及びプログラム等に関する。
【背景技術】
【0002】
例えば特許文献1には、いわゆるヴァーチャルリアリティ環境を構築して複数人でのコンテンツの共有体験を提供する技術が開示されている。また、特許文献2に示されているように、実空間の座標に鑑賞する映像があたかも固定されたように表示される技術が知られている。
【先行技術文献】
【特許文献】
【0003】
【特許文献1】特許3653463号公報
【特許文献2】特許3368672号公報
【発明の概要】
【発明が解決しようとする課題】
【0004】
従来技術は、頭部装着型表示機器を複数人でつけてコンテンツ視聴している際にコミュニケーションをとるための効果的な手法を実現できていなかった。
【0005】
本発明の幾つかの態様によれば、外部との円滑で自然なコミュニケーションを実現する映像表示機器及びプログラム等を提供することができる。
【課題を解決するための手段】
【0006】
本発明の一態様は、第1の映像を取得する第1映像取得部と、撮像部からの撮像画像又は通信部からの通信情報に基づいて生成された第2の映像を取得する第2映像取得部と、処理部と、表示部と、を含み、前記処理部は、映像表示モードが、視聴モードであるか、自身の映像表示機器とは異なる他の映像表示機器とのコミュニケーションを行うためのコミュニケーションモードであるかの判定を行う映像表示モード判定部を含み、前記表示部は、前記映像表示モード判定部により、前記映像表示モードが前記視聴モードであると判定された場合には、前記第1の映像を表示し、前記映像表示モード判定部により、前記映像表示モードが前記コミュニケーションモードであると判定された場合には、前記第2の映像を表示する映像表示機器に関係する。
【0007】
本発明の一態様では、第1の映像、第2の映像を取得した上で、映像視聴モードに応じて表示する映像を切り替えることができる。これにより、コミュニケーションを行うような状況では、コミュニケーション用の映像を表示することで、円滑なコミュニケーションを実現する。
【0008】
また、本発明の一態様では、前記映像表示モード判定部は、前記自身の映像表示機器と、前記他の映像表示機器との位置関係を表す位置関係情報に基づいて、前記映像表示モードが、前記視聴モードであるか、前記コミュニケーションモードであるかの判定を行うってもよい。
【0009】
これにより、自身の映像表示機器と、他の映像表示機器(あるいはそれらを装着したユーザ同士)の位置関係情報に基づいて映像表示モードの判定を行うことができる。よって、コミュニケーションが行われることが予想される位置関係の時にコミュニケーションモードに移行すること等が可能になる。
【0010】
また、本発明の一態様では、前記処理部は、前記撮像画像に基づいて画像認識処理を行う画像認識部を含み、前記映像表示モード判定部は、前記画像認識部による前記撮像画像の認識結果に基づいて、前記映像表示モードが、前記視聴モードであるか、前記コミュニケーションモードであるかの判定を行ってもよい。
【0011】
これにより、画像認識処理に基づいて映像表示モードの判定が可能になる。
【0012】
また、本発明の一態様では、前記映像表示モード判定部は、前記画像認識部での画像認識処理の結果、前記他の映像表示機器が、前記自身の映像表示機器から所与の距離よりも近い位置に存在すると判定された場合には、前記映像表示モードが、前記コミュニケーションモードであると判定してもよい。
【0013】
これにより、他の表示機器と自身の映像表示機器との距離情報に基づいて、コミュニケーションモードに移行すること等が可能になる。
【0014】
また、本発明の一態様では、前記画像認識部は、前記撮像画像において、前記他の映像表示機器の画像認識処理を行うことで、前記撮像画像における前記他の映像表示機器の大きさ情報を取得し、前記映像表示モード判定部は、前記他の映像表示機器の大きさ情報により表される大きさが、所与の閾値よりも大きい場合には、前記映像表示モードが、前記コミュニケーションモードであると判定してもよい。
【0015】
これにより、他の映像表示機器の撮像画像における大きさ情報に基づいて、コミュニケーションモードに移行すること等が可能になる。
【0016】
また、本発明の一態様では、前記画像認識部は、前記撮像画像において、前記他の映像表示機器に付与された識別マーカの画像認識処理を行うことで、前記撮像画像における前記識別マーカの大きさ情報を取得し、前記映像表示モード判定部は、前記識別マーカの大きさ情報により表される大きさが、所与の閾値よりも大きい場合には、前記映像表示モードが、前記コミュニケーションモードであると判定してもよい。
【0017】
これにより、他の映像表示機器に付与された識別マーカの、撮像画像における大きさ情報に基づいて、コミュニケーションモードに移行すること等が可能になる。
【0018】
また、本発明の一態様では、前記処理部は、センサからのセンサ情報を取得するセンサ情報取得部を含み、前記映像表示モード判定部は、前記センサ情報に基づいて、前記映像表示モードが、前記視聴モードであるか、前記コミュニケーションモードであるかの判定を行ってもよい。
【0019】
これにより、センサ情報に基づいて、映像表示モードの判定を行うことが可能になる。
【0020】
また、本発明の一態様では、前記センサ情報により、前記自身の映像表示機器に対して設定された所与の角度範囲内に、前記他の映像表示機器が存在すると判定された場合には、前記映像表示モード判定部は、前記映像表示モードが、前記コミュニケーションモードであると判定してもよい。
【0021】
これにより、他の映像表示機器が所与の角度範囲内にあるときにコミュニケーションモードに移行することが可能になる。
【0022】
また、本発明の一態様では、前記処理部は、前記他の映像表示機器が発信した位置発信情報を、指向性を有する受信範囲で受信する受信処理部を含み、前記映像表示モード判定部は、前記センサ情報取得部が、前記センサ情報として前記位置発信情報を取得した場合に、前記映像表示モードが、前記コミュニケーションモードであると判定してもよい。
【0023】
これにより、他の映像表示機器が所与の角度範囲にあるか否かの判定を、指向性を有する受信範囲で受信する受信処理部での受信結果に基づいて行うことが可能になる。
【0024】
また、本発明の一態様では、前記受信処理部は、前記ユーザの視野範囲に対応する受信範囲で前記位置発信情報を受信してもよい。
【0025】
これにより、ユーザの視野範囲に対応した処理が可能になる。
【0026】
また、本発明の一態様では、前記処理部は、指向性を有さない送信範囲で位置発信情報を発信する発信処理部を含んでもよい。
【0027】
これにより、位置発信情報の送信は指向性を有さない送信範囲で行うことが可能になる。
【0028】
また、本発明の一態様では、前記第1の映像、前記第2の映像の切り替え処理を行う映像切替部を含み、前記映像切替部は、前記映像表示モード判定部により、前記映像表示モードが前記視聴モードであると判定された場合には、前記第1の映像が前記表示部に表示されるように映像切り替え処理を行い、前記映像表示モード判定部により、前記映像表示モードが前記コミュニケーションモードであると判定された場合には、前記第2の映像が前記表示部に表示されるように映像切り替え処理を行ってもよい。
【0029】
これにより、映像表示モードの判定に基づいて、表示する映像を切り替えることが可能になる。
【0030】
また、本発明の一態様では、前記自身の映像表示機器を装着したユーザの周囲に第2の検出エリアが設定されるとともに、前記ユーザの視野範囲に対応した角度範囲に第1の検出エリアが設定され、前記処理部は、前記第2のエリアに前記他の映像表示機器が存在すると判定された場合には、負荷の軽い第2の処理を行い、前記第1のエリアに前記他の映像表示機器が存在すると判定された場合には、前記第2の処理に比べて負荷の重い第1の処理を行ってもよい。
【0031】
これにより、第2の検出エリアに他の映像表示機器が存在する場合には負荷の軽い第2の処理を行い、第1の検出エリアに他の映像表示機器が存在する場合には、第2の処理よりも負荷の重い第1の処理を行うことが可能になる。
【0032】
また、本発明の一態様では、前記処理部は、負荷の軽い前記第2の処理として、受信処理部による受信処理、送信処理部による送信処理及び画像認識部による識別マーカ認識処理の少なくとも1つの処理を行ってもよい。
【0033】
これにより、負荷の軽い第2の処理として、受信処理、送信処理及びマーカ認識処理を行うことが可能になる。
【0034】
また、本発明の一態様では、前記処理部は、負荷の重い前記第1の処理として、通信部から受信した前記他の映像表示機器を装着した他のユーザの情報である他ユーザ情報に基づく状態判定処理、前記通信部による通信の開始処理及び映像切替部による映像切替処理の少なくとも1つの処理を行ってもよい。
【0035】
これにより、第2の処理よりも負荷の重い第1の処理として、ユーザ情報に基づく状態判定処理、通信の開始処理及び映像切替処理を行うことが可能になる。
【0036】
また、本発明の一態様では、前記第2映像取得部は、前記他の映像表示機器から、前記他の映像表示機器を装着している他のユーザの情報である他ユーザ情報を取得し、前記第2の映像として、前記他ユーザ情報に基づいて生成された映像を取得してもよい。
【0037】
これにより、コミュニケーション用の映像である第2の映像として、他のユーザの情報に基づいて生成した映像を用いることが可能になる。
【0038】
また、本発明の一態様では、前記第2映像取得部は、前記第2の映像として、前記他ユーザ情報に基づいて生成された前記他のユーザのアバター映像を取得してもよい。
【0039】
これにより、第2の映像として、他のユーザのアバター映像を用いることが可能になり、より豊かなコミュニケーションを実現することができる。
【0040】
また、本発明の一態様では、前記第2映像取得部は、自身の映像表示機器を装着したユーザの情報である自ユーザ情報を取得するとともに、前記2の映像として、前記自ユーザ情報である発話情報と、前記他ユーザ情報である発話情報とを表すチャット映像を取得してもよい。
【0041】
これにより、第2の映像として、自ユーザと他ユーザの発話情報を表すチャット映像を用いることが可能になる。よって、第1の映像の音声コンテンツを遮ることなく、文字チャットでコミュニケーションを行うこと等ができる。
【0042】
また、本発明の一態様では、前記映像表示機は、ユーザの頭部に装着され、ユーザの視野の少なくとも一部に表示部を有する頭部装着型表示機器であってもよい。
【0043】
これにより、映像表示機器として、ユーザの頭部に装着される頭部装着型表示機器を用いることが可能になる。
【0044】
本発明の他の態様は、第1の映像を取得する第1映像取得部と、撮像部からの撮像画像又は通信部からの通信情報に基づいて生成された第2の映像を取得する第2映像取得部と、処理部と、表示部の表示制御を行う表示制御部として、コンピュータを機能させ、前記処理部は、映像表示モードが、視聴モードであるか、自身の映像表示機器とは異なる他の映像表示機器とのコミュニケーションを行うためのコミュニケーションモードであるかの判定を行う映像表示モード判定部を含み、前記表示制御部は、前記映像表示モード判定部により、前記映像表示モードが前記視聴モードであると判定された場合には、前記第1の映像を前記表示部に表示する制御を行い、前記映像表示モード判定部により、前記映像表示モードが前記コミュニケーションモードであると判定された場合には、前記第2の映像を前記表示部に表示する制御を行うプログラムに関係する。
【図面の簡単な説明】
【0045】
【図1】本実施形態のシステム構成例。
【図2】本実施形態に係る映像表示機器を用いる状況の例。
【図3】第1の映像の例。
【図4】第2の映像として撮像画像が表示される例。
【図5】本実施形態の詳細なシステム構成例。
【図6】第2の映像として映像表示機器のみが表示される例。
【図7】センサ情報を用いる場合のシステム構成例。
【図8】ビーコンの送受信範囲を説明する図。
【図9】ビーコンを用いた際に他の映像表示機器を検出することができる場合の例。
【図10】撮像画像に対して処理を行うことで第2の映像を生成する場合のシステム構成例。
【図11】第2の映像としてピクチャーインピクチャーの画像が表示される例。
【図12】第2の映像として重畳表示した画像が表示される例。
【図13】第2の実施形態におけるシステム構成例。
【図14】第2の映像としてアバター画像が表示される例。
【図15】第2の映像としてチャット画像が表示される例。
【図16】複数の検出エリアを設定する例。
【図17】複数の検出エリアを設定する他の例。
【図18】複数の検出エリアを実現するためのセンサの例
【図19】変形例における処理の詳細を説明するためのフローチャート。
【図20】本実施形態に係る映像表示機器として用いられる単眼の頭部装着型表示機器の例。
【発明を実施するための形態】
【0046】
以下、本実施形態について説明する。なお、以下に説明する本実施形態は、特許請求の範囲に記載された本発明の内容を不当に限定するものではない。また本実施形態で説明される構成の全てが、本発明の必須構成要件であるとは限らない。
【0047】
1.本実施形態の手法
【0048】
まず、本実施形態の手法について説明する。本実施形態にかかる映像表示機器は、例えば頭部装着型表示機器(HMD)である。本実施形態では特に、表示画角の広い(ユーザの視野範囲に占める映像表示範囲が広い)タイプであり、臨場感を持たせた映像表示を可能にするHMDを想定している。
【0049】
この場合に問題になるのは、HMDを装着していると外界はほとんど見ることができないという点である。ユーザの視野範囲のほとんどをHMDにより表示される映像(ここでは第1の映像とする)が占めてしまうため、例えば、そばにいる他のユーザとコミュニケーションをとろうと思っても、他のユーザの姿が見えないことになり、円滑なコミュニケーションは困難であるという問題が生じる。また、視野範囲が本実施形態のように広く無いタイプのHMDにおいても、視野範囲の一部にHMDの表示部が入るように表示部が保持されていると、その表示部に隠されるため他のユーザの姿確認するのが難しくなる問題が同様に生じる。
【0050】
そこで、本出願人は以下のような手法を提案する。つまり、HMDを装着したユーザが他のユーザ(他のユーザもHMDを装着していることを前提としている)の方向を向いたときには、第1の映像に代わり、他のユーザとのコミュニケーションの補助を行うような第2の映像を表示する。具体的には図4のように、他のユーザを撮像した撮像画像を第2の映像として表示してもよいし、図11のように、当該撮像画像と第1の画像とを適当な画像処理により合成したような画像を第2の映像として表示してもよい。このようにすることで、必要に応じて表示画像がコミュニケーション用の画像に切り替わるため、他のユーザとのコミュニケーションを円滑に行うことが可能になる。
【0051】
以下、第2の映像として撮像画像に基づく映像を用いる上述の手法について第1の実施形態で説明する。また、第2の映像として、他のユーザの情報に基づいて生成されたアバター画像やチャット画像を用いる手法について第2の実施形態で説明する。最後に、処理負荷の軽減等を目的とした変形例を説明する。
【0052】
2.第1の実施形態
【0053】
図1に本発明の映像表示機器の第1の実施形態を示す。この発明の実施の形態は次のように、少なくとも2つ以上の映像表示機器(頭部装着型表示機器、HMD)を有するシステムとして構築される。第1の映像表示機器10は、表示部15と、表示制御部17と、映像切替部14と、第1の映像取得部11と、第2の映像取得部12と、処理部16と、映像表示モード判定部13を有する。また、第2の映像表示機器20は、表示部25と、表示制御部27と、映像切替部24と、第1の映像取得部21と、第2の映像取得部22と、処理部26と、映像表示モード判定部23を有する。以下、第1の映像表示機器10と第2の映像表示機器20は、同一の構成となるため、第1の映像表示機器10について説明し、第2の映像表示機器20については詳細な説明は省略する。また、以下では第1の映像表示機器10を基準として考え、自身の映像表示機器とは第1の映像表示機器10を表し、他の映像表示機器とは第2の映像表示機器20(もしくは不図示の第3の映像表示機器等)を表すものとする。
【0054】
第1の映像取得部11は観賞用の映像、すなわち映画や、フォトアルバムなどのコンテンツを視聴するための映像を取得する。第2の映像取得部12はコミュニケーションのための映像を再生する。第1の実施形態では、外界の映像、もしくはその映像を加工した映像を取得する。
【0055】
複数のユーザ(ここでは2人のユーザだが、それに限定されるものではない)が、図2のような状況で頭部装着型表示機器を用いて、並んで映像を視聴している場合には、図3に示すように第1の映像取得部11からの映像信号(第1の映像)を表示部15に表示する。
【0056】
映像表示モード判定部13は、例えば自身の映像表示機器と他の映像表示機器との位置関係情報に基づいて、映像表示モードを判定する。具体的には、他の頭部装着型表示機器(例えば第2の映像表示機器20)が所定の範囲、例として自身の頭部装着型表示機器(第1の映像表示機器10)の正面左右15度の範囲であり、距離1.5m以内に入った場合に映像切替部14を作動させ、表示映像を第1の映像取得部11からの第1の映像から、第2の映像取得部12からの第2の映像に切り替える。これにより、図4に示すようにコミュニケーションのための映像に切り替えることが出来る。
【0057】
より詳細な構成として、図5以降を用いてより細かく説明する。図5に示すように第1の映像表示機器100(頭部装着型表示機器)は、撮像部106と、第2の映像取得部116と、処理部102と、映像切替部104と、映像再生部101と、第1映像取得部115と、表示部105と、表示制御部117からなる。また、処理部102は画像認識部107と、映像表示モード判定部103からなる。同様に、第2の映像表示機器200(頭部装着型表示機器)は、撮像部206と、第2の映像取得部216と、処理部202と、映像切替部204と、映像再生部201と、第1映像取得部215と、表示部205と、表示制御部217からなる。また、処理部202は画像認識部207と、映像表示モード判定部203からなる。以下、第1の映像表示機器100と第2の映像表示機器200は、同一の構成となるため、第1の映像表示機器100について説明し、第2の映像表示機器200については詳細な説明は省略する。また、以下では第1の映像表示機器100を基準として考え、自身の映像表示機器とは第1の映像表示機器100を表し、他の映像表示機器とは第2の映像表示機器200(もしくは不図示の第3の映像表示機器等)を表すものとする。図5以降のブロック図の説明においても同様である。
【0058】
撮像部106は、結像のための光学系、光量調整のためのシャッターや絞り、NDフィルターなど、CCDや、CMOSなどの撮像素子と、映像信号をNTSCやデジタル画像伝送により出力するための映像処理部(例えば映像処理回路)からなる。いわゆるビデオカメラやデジタルスチルカメラと同様の構成としてもよい。これらからの映像信号は、処理部102の画像認識部107に入力される。画像認識部107は、入力映像をデジタル変換するコンピュータプログラムを実装した計算機などで構成される。映像表示モード判定部103は、この計算機のプログラムとして実装されていてもよい。
【0059】
映像再生部101はビデオカセットレコーダーなどの旧来の映像ソースでもよいが、半導体メモリやHDD、ブルーレイディスクなどの媒体に記録された画像ファイルをデコード・再生する装置、また、オンラインの映像配信サービスに接続するコンピュータプログラムでもよい。映像切替部104は、撮像部106からの映像信号(第2の映像)と映像再生部101からの映像信号(第1の映像)を切り替える装置であり、例えば信号のスイッチング回路等で実装される。切り替えにより選択された映像信号は、表示制御部117を介して表示部105に接続される。
【0060】
表示部105は本実施形態では、左右両眼に表示パネルを設けたヘッドマウントディスプレイ(HMD)で示しているが、これは、単眼型のものや、近接視野に設置したミラーによるスクリーン虚像を観察するヘルメット型のディスプレイなどでもよい。なお、非拘束型のディスプレイの場合は、頭部の運動に連動して動作する撮像装置が設けられていればよい。
【0061】
次に、本実施形態の作用を説明する。図3に示すように通常は映像再生部101(例えばDVDプレイヤー等の映像再生機器)からの映像を視聴している場合には、図5の映像切替部104は映像再生部101からの第1の映像を表示部105(具体的にはHMDのパネル)に送り、表示する。
【0062】
ここで、図4に示すように、他のユーザ(HMD利用者)の方向を向くと、図5に示す撮像部106により、HMD画像(外界を撮影した画像であり、特に他のユーザが装着しているHMDを撮影した画像)が撮影される。画像認識部107は、このHMD画像を認識し、相手側の他のHMDの存在の有無、画面中のサイズなどを算出する。これらの物体認識については、一般的な物体認識技術を用いるため、割愛する。このような認識から、他のHMDが視野内に存在することを通知するHMD検出信号と、画面中のHMD認識領域の大きさを示すHMDサイズ信号が映像表示モード判定部103に送られる。
【0063】
映像表示モード判定部103は、受信した信号に基づいて自身の映像表示機器と他の映像表示機器との位置関係情報を取得し映像表示モードを判定する。具体的には、HMDサイズ信号が所定の大きさ、例えば自身の映像表示機器からの距離が50cm〜2mの範囲内に存在する場合の画面比率で撮像画像内に存在した場合、映像表示モード判定部103は、表示映像を第2の映像に切り替える切替信号を出力する。この信号は映像切替部104に入力され、映像再生部101からの第1の映像から、撮像部106で撮影された第2の映像に切り替わり、表示部105に表示される。
【0064】
この際、図4に示すように、撮像部106でとらえられた別のユーザの様子がビデオシースルーで表示され、コミュニケーション開始のきっかけをつかむことが出来ると共に、相手の状態をモニタリングできるようになる。
【0065】
したがって、本実施形態には上述の効果のほかに、次のような特有の効果がある。つまり、他のHMDの検出と計測処理、及び、表示部105に表示するコミュニケーションのための第2の映像信号取得処理の2つの処理を1つの撮像装置(撮像部116)により行うことが出来るため、構成が簡単になる。
【0066】
なお、本実施形態の各構成は、当然、各種の変形、変更が可能である。他のHMDの認識については、HMDに識別マーカを付与し、これを認識するようにしてもよい。この場合距離を知るための大きさの情報、向きを知るための幾何的な情報を持っている必要があり、例えば3点間所定距離だけ離れ、かつ、同一直線状に乗らないLED輝点マーカや、QRコードなどのように4点に1点特徴的なコードパターンを設けることで位置姿勢を示す平面マーカなどを用いてもよい。
【0067】
また、例えば、図6に示すように、HMD検出処理(位置関係情報判定処理)は、送受信部108において送受信されるビーコンの信号に基づいて行われてもよい。図7に示すようにビーコン信号の送受信を行う送受信部108は、映像表示モード判定部103に接続される。図8のようにビーコンの受信範囲に、他のHMDの送信範囲が入らない場合は、映像再生部101からの映像信号すなわち第1の映像が表示部105に表示される。また、図9に示すように送信範囲と受信範囲が重なると共に、HMD1の受信範囲に、HMD2が入った場合には映像表示モード判定部103は切替信号を出力し、映像切替部104は撮像部106からの映像信号(第2の映像)に映像を切り替える。本実施形態では電波強度と方位から対象のHMDがコミュニケーション範囲にHMDが存在するかしないかを判定することができる。
【0068】
この場合は、画像認識部107は無くても良いが、撮像部106の画角範囲と、ビーコンのHMD検出範囲がほぼ一致していることが望ましい。
【0069】
また、撮像部106からの映像をそのまま表示部105に出力するのではなく、図10に示すように映像生成部112を通して加工した映像を、映像切替部104への第2の映像として出力してもよい。この映像加工は、例えば図11に示すように子画面として撮像部106からの画像を表示するピクチャーインピクチャー表示(PinP)でも良く、もちろん、親子画面が逆になってもかまわない。また、図12に示すように背景として第1の映像のコントラストを落として表示した上で、第2の映像を重畳表示するようにしてもよい。
【0070】
以上の本実施形態では、映像表示機器(自身の映像表示機器である第1の映像表示機器10)は、図1に示したように、第1の映像を取得する第1映像取得部11と、第2の映像を取得する第2映像取得部12と、処理部16と、表示部15とを含む。そして、処理部16は、映像表示モードの判定を行う映像表示モード判定部13を含む。また、表示部15は、映像表示モード判定部13により、映像表示モードが視聴モードであると判定された場合には、第1の映像を表示し、映像表示モードがコミュニケーションモードであると判定された場合には、第2の映像を表示する。
【0071】
ここで、第1の映像とは例えば、DVDプレイヤー等の映像再生機器からの映像であり、具体的には例えば映画等のコンテンツが考えられる。なお、第1の映像はネットワーク型の配信サービスやテレビ放送等からの映像であってもよい。第2の映像とは、撮像部(図5の106に対応)からの撮像画像又は通信部(後述する図13の113に対応)からの通信情報に基づいて生成される映像である。映像という用語は、ここでは動画像と音声などのマルチモーダル情報を包含したコンテンツ全般を意味している。ただし、映像はマルチモーダルであってよいのはもちろんのこと、動画像単独や音声単独のようなシングルモーダルな信号であってもよい。
【0072】
また、映像表示モードには視聴モードとコミュニケーションモードがある。視聴モードは映画等のコンテンツの視聴を行うモードであり、コミュニケーションモードとは他のユーザとのコミュニケーションを行うためのモードである。コミュニケーションモードが実行される際のシチュエーションとしては図2のようなケースが考えられ、HMDを装着した複数のユーザが、例えば同一の室内のような限定された領域に存在する際のお互いのコミュニケーションを円滑にするためのものである。ただし、ユーザ同士が所与の距離内にいる必要はなく、また、具体的には同一の室内にいる必要もない。また、本実施形態においては、各ユーザはHMDを装着しているものとし、HMDを装着していない人とのコミュニケーションは考慮しなくてもよい。なお、本実施形態にかかる映像表示機器はHMDに限定されるものではなく、頭部の運動に連動する小型ディスプレイ等も含む。
【0073】
これにより、第1の映像と第2の映像を取得し、視聴モードでは第1の映像を表示し、コミュニケーションモードにおいては第2の映像を表示することが可能になる。よって、映像表示機器を用いている間でも、他のユーザとのコミュニケーションを円滑に行うことが可能になる。特に、映像表示機器が、HMD(特にユーザの視野範囲に対して表示画像の占める割合が大きいもの)等の外界視界が狭く限定されるような機器である場合に効果を発揮する。
【0074】
また、映像表示モード判定部13は、自身の映像表示機器と他の映像表示機器の位置関係を表す位置関係情報に基づいて、映像表示モードが視聴モードであるか、コミュニケーションモードであるかの判定を行ってもよい。
【0075】
これにより、映像表示機器同士(つまり、映像表示機器を装着したユーザ同士)の位置関係情報に基づいて、映像表示モードを判定することができる。よって、例えばコミュニケーションが行われることが想定されやすい位置関係において、コミュニケーションモードに移行するように設定しておけば、適切かつ効果的に、状況に合わせた映像表示モードの変更が可能になる。なお、位置関係情報は、具体的には後述するように、図5の撮像部106からの撮像画像や、センサ情報取得部(図7の送受信部108)からのセンサ情報等によって取得されることが考えられる。
【0076】
また、図5に示したように、処理部102は、撮像画像に基づいて画像認識処理を行う画像認識部107を含んでもよい。映像表示モード判定部103は、画像認識部107による撮像画像の認識結果に基づいて映像表示モードの判定を行う。
【0077】
ここでは特に、撮像画像の認識結果に基づいて、自身の映像表示機器と他の映像表示機器との位置関係情報を取得してもよい。そして映像表示モード判定部は、位置関係情報に基づいて映像表示モードの判定を行ってもよい。具体的には後述するように、対象となる映像表示機器(他の映像表示機器)の撮像画像における大きさ情報等により位置関係を判定することが考えられる。
【0078】
これにより、撮像画像に対する画像認識処理に基づいて、映像表示モードの切り替えを行うことが可能になる。ここで、第2の映像が撮像画像に基づいて取得される場合には、第2の映像の取得処理及び映像表示モード判定処理の2つの処理が、両方とも撮像画像に基づいて行うことが可能になる。よって、映像表示機器100の構成を簡略化することができる。
【0079】
また、映像表示モード判定部103は、画像認識部107による画像認識処理の結果、他の映像表示機器(例えば第2の映像表示機器200等)が自身の映像表示機器の近くにある(例えば所与の距離よりも近い位置に存在する)と判定された場合には、映像表示モードがコミュニケーションモードであると判定してもよい。
【0080】
これにより、画像認識処理に基づく映像表示モードの切り替え手法として、他の映像表示機器(またはそれを用いている他のユーザ)と自身の映像表示機器(または自ユーザ)が近くにあるか否かに基づく判断を行う手法を用いることが可能になる。
【0081】
また、画像認識部107は、撮像画像において、他の映像表示機器の画像認識処理を行うことで、撮像画像における他の映像表示機器の大きさ情報を取得してもよい。そして映像表示モード判定部103は、他の映像表示機器の大きさ情報により表される大きさが所与の閾値よりも大きい場合には、映像表示モードをコミュニケーションモードと判定する。
【0082】
これにより、撮像画像において、他の映像表示機器がある一定以上の大きさで撮像されていた場合には、コミュニケーションモードに切り替えることが可能になる。撮像画像において、他の映像表示機器が大きく撮像されるということは、当該他の映像表示機器は自身の映像表示機器から近い位置に存在することが想定される。さらに撮像画像を取得する撮像部106(撮像機器)の画角は魚眼レンズ等特殊な機器を用いない限り、ある程度の角度範囲に限定されることを鑑みれば、他の映像表示機器は自身の映像表示機器に対して設定された所与の角度範囲に位置することになる。撮像部の画角を自ユーザの視野範囲と同程度と見なせば、この条件を満たす場合とはつまり、自ユーザが近くにいる他ユーザの方向を見ているというシチュエーションに該当することになる。よって、通常、そのようなシチュエーションでは会話等のコミュニケーションが開始される可能性が高いことを考えれば、自然な状況でコミュニケーションモードに移行することが可能になると言える。なお、撮像画像上の見かけの大きさ(例えばピクセル数)と、当該映像表示機器の大きさ情報とは必ずしも1対1に対応するとは限らない。撮像部106がズーム機能を有している場合等には、大きさ情報はズーム倍率の大きさに連動して変更される必要が生じる。
【0083】
また、画像認識部107は、撮像画像において、他の映像表示機器に付与された識別マーカの画像認識処理を行うことで、撮像画像における識別マーカの大きさ情報を取得してもよい。そして映像表示モード判定部103は、識別マーカの大きさ情報により表される大きさが所与の閾値よりも大きい場合には、映像表示モードをコミュニケーションモードと判定する。
【0084】
これにより、撮像画像において、識別マーカがある一定以上の大きさで撮像されていた場合には、映像表示モードをコミュニケーションモードに切り替えることが可能になる。映像表示機器に付与された識別マーカの大きさを認識するということは、識別マーカまでの距離情報を取得していることに相当するため、つまりは、当該識別マーカが付与された他の映像表示機器までの距離情報が取得されることになる。以下の処理は上述の、直接他の映像表示機器の画像認識処理を行う場合と同様である。
【0085】
また、処理部102は、図7に示したように、センサからのセンサ情報を取得するセンサ情報取得部(送受信部108)を含んでもよい。そして、映像表示モード判定部103は、センサ情報に基づいて映像表示モードの判定を行う。
【0086】
ここでは特に、センサ情報に基づいて、自身の映像表示機器と他の映像表示機器との位置関係情報を取得してもよい。そして映像表示モード判定部は、位置関係情報に基づいて映像表示モードの判定を行ってもよい。具体的には図8、図9を用いて後述するように、ビーコン等を用いて位置関係を判定することが考えられる。
【0087】
これにより、センサ情報を用いて映像表示モードを判定することが可能になる。特に、位置関係情報を用いる場合には、位置関係情報を取得するセンサを用いて、複数の映像表示機器間の位置関係を把握し、コミュニケーションが行われる可能性が高いと判定された場合等にコミュニケーションモードに移行すること等が可能になる。センサによる情報を処理すれば足りるため、画像認識処理等に比べて処理が容易になる。
【0088】
また、センサ情報により、自身の映像表示機器(又は自身の映像表示機器を装着したユーザ)に対して設定された所与の角度範囲内に他の映像表示機器が存在すると判定された場合には、映像表示モード判定部103は、映像表示モードがコミュニケーションモードであると判定してもよい。
【0089】
これにより、単純に位置を検出するだけでなく、自ユーザに対してどの角度範囲に存在するかも検出することになるため、そのときの状況がコミュニケーションを行う状況であるのか否かという判断を適切に行うこと等が可能になる。
【0090】
また、処理部102は、図7に示したように、他の映像表示機器が発信した位置発信情報を、指向性を有する受信範囲で受信する受信処理部109を含んでもよい。そして、映像表示モード判定部103は、センサ情報取得部(送受信部108)が、前記センサ情報として位置発信情報を取得した場合に、映像表示モードをコミュニケーションモードと判定する。その際、前記受信範囲は、ユーザ(自ユーザ)の視野範囲に対応する角度範囲としてもよい。
【0091】
これにより、他の映像表示機器が発信した位置発信情報を、指向性を有する受信範囲で受信することにより、他の映像表示機器が自身の映像表示機器に対して所与の角度範囲内に存在するか否かの判定を行うことが可能になる。特に、受信範囲をユーザの視野範囲に対応付けておくことにより、ユーザの視野範囲内に他の映像表示機器があるか否かの判定を行うことが可能になる。よって、ユーザが他の映像表示機器の方向を見ているというシチュエーションにおいて、コミュニケーションモードに移行することが可能になり、自然な移行を行うことができる。
【0092】
また、処理部102は、指向性を有さない送信範囲で位置発信情報を発信する発信処理部110を含んでもよい。
【0093】
これにより、他の映像表示機器に自身の映像表示機器の位置を知らせることが可能になり、他の映像表示機器がコミュニケーションモードに移行することができる。
【0094】
また、図1に示したように、映像表示機器10は、第1の映像と第2の映像の映像切り替え処理を行う映像切替部14を含んでもよい。そして映像切替部14は、映像表示モードが視聴モードであるときに、表示部15に第1の映像が表示されるように映像切り替え処理を行う。また、映像表示モードがコミュニケーションモードであるときに、表示部15に第2の映像が表示されるように映像切り替え処理を行う。
【0095】
これにより、表示部15に表示される映像を、映像表示モードに基づいて切り替えることが可能になる。この切り替えは、後述するように、処理部16による他の映像表示機器(例えば第2の映像表示機器20)の検出と非検出により切り替えられる。ここで、自身の映像表示機器とは、現在の判断の基準となっている映像表示機器のことである。また、他の映像表示機器とは、前述の自身の映像表示機器以外の映像表示機器のことである。自身の映像表示機器を用いているユーザを単にユーザ或いは自ユーザと呼び、他の映像表示機器を用いているユーザを他のユーザ或いは他ユーザと呼ぶ。
【0096】
また、本実施形態にかかる映像表示機器は、ユーザの頭部に装着され、ユーザの視野の少なくとも一部に表示部を有する頭部装着型表示機器であってもよい。
【0097】
ここで頭部装着型表示機器とは、具体的には上述してきたようにHMD等である。ここでHMDは、図2に示すように、両目で表示画像を見るような、ユーザの視野に対して表示画像の占める割合が大きいものであってもよい。また、図20に示すように、片目で表示画像を見るような、ユーザの視野に対して表示画像の占める割合が小さいものであってもよい。
【0098】
これにより、本実施形態に係る映像表示機器として、頭部装着型表示機器を用いることが可能になる。
【0099】
また、本実施形態は、図1に示したように、第1の映像を取得する第1映像取得部11と、第2の映像を取得する第2映像取得部12と、処理部16と、表示制御部17としてコンピュータを機能させるプログラムに関係する。そして、処理部16は、映像表示モードの判定を行う映像表示モード判定部13を含む。また、表示制御部17は、映像表示モード判定部13により、映像表示モードが視聴モードであると判定された場合には、第1の映像を表示部15に表示する制御を行い、映像表示モードがコミュニケーションモードであると判定された場合には、第2の映像を表示部15に表示する制御を行う。
【0100】
これにより、本実施形態は、映像表示機器をハードウェア的に実現するケースにとどまらず、PC等のコンピュータシステムに対して、映像表示処理をソフトウェア的に実行させるものに対しても適用することが可能になる。そして、上記プログラムは、情報記憶媒体に記録される。ここで、情報記録媒体としては、DVDやCD等の光ディスク、光磁気ディスク、ハードディスク(HDD)、不揮発性メモリやRAM等のメモリなど、光学式検出システムによって読み取り可能な種々の記録媒体を想定できる。
【0101】
3.第2の実施形態
【0102】
次に、第2の実施形態について図13を用いて説明する。第1の実施形態に比べると、通信部113と映像生成部112の追加がなされることが特徴である。
【0103】
次に、第2の実施形態の作用を説明する。通信部113により、第1のHMDと第2のHMD間で、映像、音声、テキスト入力、などの情報を相互に通信する。なお、HMDの数は2つに限定されるものではない。映像の切り替えのための方式は、第1の実施の形態に示した各種の方法を用いることが出来る。
【0104】
第2の映像として、通信で得た情報を元に、アバター映像を生成する。このようにして生成した画像を第2の映像として、図14のように表示する。
【0105】
なお、本実施形態の各構成は、当然、各種の変形、変更が可能である。テキスト入力情報を、通信部113を介してやり取りすることでテキストチャットを実現し、第1の実施形態の切替条件による映像の切替で表示部105に表示するようにしてもよい。
【0106】
以上のような構成により、第2の映像への切替で適切なHMD装着者間のコミュニケーションを容易に実現することが可能となる。
【0107】
以上の本実施形態では、図13に示したように、第2映像取得部116(ここでも第1の実施形態と同様に、図13における第1の映像表示機器100を自身の映像表示機器として説明する)は、他の映像表示機器(第2の映像表示機器200)から他のユーザの情報である他ユーザ情報を取得し、第2の映像として他ユーザ情報に基づいて生成された映像を取得する。
【0108】
これにより、コミュニケーションのために調整した映像をやりとりすることになるため、より豊かなコミュニケーションを実現する。特に本実施形態では、各ユーザはHMDを装着していることが想定されるため、撮像画像を用いた場合には、ユーザの表情等の情報を得ることが困難であることから、コミュニケーション用の映像を用いることは特に効果を発揮する。
【0109】
また、第2映像取得部116は、第2の映像として、他ユーザ情報に基づいて生成された、他のユーザのアバター映像を取得してもよい。
【0110】
これにより、図14に示したようなアバターを用いたコミュニケーションが可能となる。アバターの表情や姿勢、動作等を適宜設定することにより、無味乾燥とした撮像画像に比べて、より豊かなコミュニケーションが可能になる。
【0111】
また、第2映像取得部116は、自身の映像表示機器(第1の映像表示機器100)を装着したユーザの情報である自ユーザ情報を取得するとともに、第2の映像として、自ユーザ情報である自ユーザの発話情報と、他ユーザ情報である他のユーザの発話情報とを表すチャット映像を取得してもよい。
【0112】
これにより、アバターの時と同様豊かなコミュニケーションを実現する。それとともに、図15のように発話音声がテキストとなり表示されることになるため、音声を中心とした第1の映像コンテンツの視聴を妨げることなく、適切なコミュニケーションを行うことが可能になる。
【0113】
4.変形例
【0114】
次に変形例について説明する。ここでは、他のHMDを検出するエリアを複数設けて、エリアごとにHMDを検出した際の処理を変更する。
【0115】
具体的には例えば、2つの検出エリアを設定する場合が考えられる。第1の検出エリアとして、図16に示したようにユーザの指向方向領域を設定し、第2の検出エリアとしてユーザの周囲の領域を設定する。ここで、第1の検出エリアは、HMDを装着したユーザの注視範囲(標準的な水平画角として40〜50°の範囲が一般的)であり、ユーザの視界ならびにHMDの表示部105(表示装置)の中心的な画角範囲に相当する。また、第2の検出エリアは、主にHMDを中心とした同一の室内(家庭であれば半径2m程度)の領域に相当する。また、第1の検出エリアを、第2の検出エリアと同様にHMDを中心とした距離を組み合わせて設定してもよい。
【0116】
第1の検出エリアで他のHMDが検出された場合には、相手の状態判定(姿勢、発話、表情など)、通信の開始処理(コミュニケーションの開始、映像の生成開始など)及び映像の切替処理(第2の映像の表示)等を行う。それに対して、第2の検出エリアで他のHMDが検出された場合には、処理部102は、HMDユーザの存在の判定、ビーコンの受信処理・発信処理及びマーカの認識処理等の負荷の軽い第2の処理を行う。この、第2の処理に比べて第1の処理は負荷の重い処理となる。
【0117】
このようにすることで、比較的HMDを装着したユーザから遠い検出エリアにおいて他のHMDが検出された場合、つまり、ユーザ間でのコミュニケーションの意志は強くないと判断することができる場合には、負荷の軽い処理を行う。そして、ユーザの指向方向領域において他のHMDが検出された場合、つまり、ユーザ間でコミュニケーションが行われることが想定される場合には、コミュニケーションのための負荷の重い処理を行う。よって、常時負荷の重い処理を行う場合に比べて、必要なときだけ当該重い処理を行えばよくなるため、全体として処理負荷を軽減することが可能になる。
【0118】
また、検出エリアは必ずしも2つに限定されるものではない。図17に示すようにパーソナルスペースを考慮して周囲半径1m以内に第3、第4の検出エリアを定義して強制的にコミュニケーションモードに移行するようにしてもよい。
【0119】
具体的には、図17において、4つの検知エリアに分けた場合には、第1の検出エリアでは相互にコミュニケーションを開始することの許諾を求めるダイアログを双方に通知する。第4の検出エリア(直径数十センチ程度)では、近接が著しいので強制的にコミュニケーションモードに移行する。第2の検出エリアでは、周囲に他のユーザが存在することを簡易なアイコンなどで目立たず表示する。第3の検出エリアでは背後から著しい近接をされているので、危険情報としてアラートアイコンなどで表示する。
【0120】
このようにすることで、さらに細かく検出エリアを分割して、それぞれ異なる処理を行うことが可能になる。
【0121】
また、誰が近接しているかなど、ユーザIDの登録をあらかじめしておき、その情報を事前表示してもよい。また、近接度が上がり、視野正面に対象が遷移するにしたがって、コミュニケーションモード、ならびにそれを通知、承諾を問いかける各種情報表示を段階的に変更させてもよい。
【0122】
さらに、方位情報を表示することもできる。あたかも目が後ろにもあるように、相手のHMDが右後方にいる場合にでも、第2の検出エリアにいる場合には気づきランプがHMDの画面の右側に点滅して知らせるなど、映像鑑賞画面の外周部にレーダー状に周囲のHMDの配置状況を表示するようにしてもよい。
【0123】
このように構成すれば、気付きランプに従ってそちらを振り向くことで第1の検出エリアに該当のHMDをとらえ、コミュニケーションモードへ移行することができる。このとき、同時に簡易的な相手の情報(アイコン、名前などのID情報)のプレ通信を実施し、その内容を表示部105に表示するようにしてもよい。
【0124】
映画鑑賞モード等における動作例としては、以下のような形態が考えられる。他のHMDの察知には鈍感になるようにすることで、ゆっくり鑑賞にひたってもらい、よりいっそうの没入感を演出する。具体的には、第1の映像として一定時間同じものを見ていること等を条件に、第1・2の検出エリアが狭くなる(感度が鈍くなる)よう構成しても良い。それと共に、いざ近接して呼びかけを行われた場合は応答が出来るようにするため、第1・2の検出エリアをなくすような処理は行わない。
【0125】
次に、このような変形例を実現するためのセンサの例について説明する。図18に示したように、受信に関しては指向性を有し、発信に関しては指向性を有さない(ただし、強度の判定は行う)。
【0126】
以下、赤外線の送受信モジュールを用いる例について説明する。送信部分は赤外線LEDに拡散のための乳白食のカバーや円錐や回転放物面ミラー、回転双曲線ミラーによる全方位拡散光学系を設けることで、少なくとも水平方向上下数十度の範囲に赤外線を投射する。一方、画角(表示装置の水平画角以下、例えば視野角とほぼ同じ40〜50°)を持つ集光レンズを介して装着者正面方向に光軸を向けて設置した赤外線受光部を設ける。
【0127】
これにより、他のHMDの発光部から拡散した赤外線は、装着者のHMDの受光範囲に他のHMDが存在する場合は受光されることになる。範囲外の場合は受光されないか、強度が反射を経ているので低い。距離は、この受光強度で判別することになる。
【0128】
また、第2の検出エリアを検知するためには、もう一段無指向性の赤外線受光部を設けることが必要となる。無指向性の赤外線発光部、受光部は図18ではパノラミックに上下画角の範囲が全周に回転した受光特性を持つが、魚眼レンズの組み合わせで360度全天周をカバーするように構成してもかまわない。より単純化するには、全方位結像光学系と赤外線分割受光素子を組み合わせ第1の検出エリア、第2の検出エリアで受光素子の検知強度を検出するようにしてもよい。
【0129】
また、撮像装置(撮像部106)をセンサとして兼用する場合は、撮像装置の画角により決定される角度範囲に対応する指向性を有することとなる。
【0130】
また、超音波の場合は無指向性のスピーカ(発信部)と無指向性マイク、指向性マイク(受信部)の組み合わせで上記構成と同等の効果を得るようにしてもよい。
【0131】
次に、上述のように複数の検出エリアを設定した場合の、処理の詳細について図19のフローチャートを用いて説明する。このフローチャートでは、周囲に近接すると、近くに他のHMDがいる場合その存在を通知する機能、コミュニケーションモードに切り替える機能及び近接かつ正面に他HMDが存在する場合には強制的にコミュニケーションモードに切り替わる機能を持つ。
【0132】
具体的には、この処理が開始されると、まず第1の映像を表示部105に表示する(S301)。次に視聴を終了するかの判定が行われ(S302)、Yesの場合は視聴を終了する。Noの場合は第1の検出エリア、第2の検出エリアに他のHMDが検出されたか否かの判定が行われ(S306)(S303)、Noの場合はS301に戻る。なお、第1の検出エリアでの検出処理及び第2の検出エリアでの検出処理は、例えばマルチスレッド等を用いて並列に行われるものとする。
【0133】
S303において、第2の検出エリアに他のHMDが検出された場合には、近くに他のユーザがいる旨を表示部に表示し(S304)、コミュニケーションモードに移行するか否かの判定を行う(S305)。Yesの場合には、S307に移行し、コミュニケーションモードが開始される。Noの場合には、S301に戻る。
【0134】
S305でYesと判定された場合には、S307からコミュニケーションモードが開始され、まず、他のHMDの情報を取得し(S307)、第2の映像を生成し(S308)、第2の映像を表示部105に表示する(S309)。そして、コミュニケーションモードを終了するかの判定が行われ(S310)、Noの場合はS307に戻りコミュニケーションモードが継続される。また、S310でYesの場合には、S301に戻ることになる。
【0135】
また、第2の検出エリアにおける検出処理と並列に、第1の検出エリアに他のHMDが検出されたか否かの判定が行われる(S306)。S306でNoの場合には、S301に戻り、Yesの場合にはS311に移行し、コミュニケーションモードが開始される。
【0136】
S306でYesと判定された場合の処理がS311〜S314となる。この処理は上述したS307〜S310の処理と同様であるため、詳細な説明は省略する。
【0137】
以上の本実施形態では、自身の映像表示機器(ここでも第1の映像表示機器100について説明する)を装着したユーザの視野範囲に対応した角度範囲に第1の検出エリアが設定され、ユーザの周囲に第2の検出エリアが設定されるとともに、前記処理部102は、第2の検出エリアに他の映像表示機器(第2の映像表示機器200等)が存在すると判定された場合には、処理の負荷が軽い第2の処理を行う。また、第1の検出エリアに他の映像表示機器が存在すると判定された場合には、第2の処理に比べて負荷の重い第1の処理を行う。
【0138】
ここで、第1の処理とは例えば、他ユーザ情報(通信部113から受信した他の映像表示機器を装着したユーザの情報)に基づく状態判定処理、通信部113による通信の開始処理及び映像切替部104による映像切替処理等である。また、第2の処理とは例えば、受信処理部109による受信処理、発信処理110部による発信処理及び画像認識部107により識別マーカ認識処理等である。
【0139】
これにより、自身の映像表示機器(第1の映像表示機器100)に対して、他の映像表示機器(第2の映像表示機器200)が存在する位置に応じて、行う処理を変更することが可能になる。その際の基準として、第1の検出エリアでは負荷の重い処理を行い、第2の検出エリアでは負荷の軽い処理を行う。これは、コミュニケーションモードの実現に必要な処理は、負荷が重いことによる。つまり、常時コミュニケーションモードのための処理を行っていたのでは、システムにかかる負荷が重く、かつ、視聴モードにおいては必要ない処理も含まれるため無駄が多い。そこで、普段は視聴モードの処理、及びコミュニケーションモードへの移行に必要な最低限の処理にとどめておく。そして、所与の角度範囲内(例えばユーザの視野範囲内)に他の映像表示機器が見つかった場合、つまりコミュニケーションが行われる可能性が高い場合にのみ、負荷の重い処理を行うことでシステムのリソースを効率的に利用することが可能になる。
【0140】
以上、本発明を適用した2つの実施の形態1〜2およびその変形例について説明したが、本発明は、各実施の形態1〜2やその変形例そのままに限定されるものではなく、実施段階では、発明の要旨を逸脱しない範囲内で構成要素を変形して具体化することができる。また、上記した各実施の形態1〜2や変形例に開示されている複数の構成要素を適宜組み合わせることによって、種々の発明を形成することができる。例えば、各実施の形態1〜2や変形例に記載した全構成要素からいくつかの構成要素を削除してもよい。さらに、異なる実施の形態や変形例で説明した構成要素を適宜組み合わせてもよい。このように、発明の主旨を逸脱しない範囲内において種々の変形や応用が可能である。
【符号の説明】
【0141】
10 映像表示機器、11 第1の映像取得部、12 第2の映像取得部、
13 映像表示モード判定部、14 映像切替部、15 表示部、16 処理部、
17 表示制御部、100 映像表示機器、101 映像再生部、102 処理部、
103 映像表示モード判定部、104 映像切替部、105 表示部、
106 撮像部、107 画像認識部、108 送受信部、109 受信処理部、
110 発信処理部、112 映像生成部、113 通信部
【特許請求の範囲】
【請求項1】
第1の映像を取得する第1映像取得部と、
撮像部からの撮像画像又は通信部からの通信情報に基づいて生成された第2の映像を取得する第2映像取得部と、
処理部と、
表示部と、
を含み、
前記処理部は、
映像表示モードが、視聴モードであるか、自身の映像表示機器とは異なる他の映像表示機器とのコミュニケーションを行うためのコミュニケーションモードであるかの判定を行う映像表示モード判定部を含み、
前記表示部は、
前記映像表示モード判定部により、前記映像表示モードが前記視聴モードであると判定された場合には、前記第1の映像を表示し、
前記映像表示モード判定部により、前記映像表示モードが前記コミュニケーションモードであると判定された場合には、前記第2の映像を表示することを特徴とする映像表示機器。
【請求項2】
請求項1において、
前記映像表示モード判定部は、
前記自身の映像表示機器と、前記他の映像表示機器との位置関係を表す位置関係情報に基づいて、前記映像表示モードが、前記視聴モードであるか、前記コミュニケーションモードであるかの判定を行うことを特徴とする映像表示機器。
【請求項3】
請求項1又は2において、
前記処理部は、
前記撮像画像に基づいて画像認識処理を行う画像認識部を含み、
前記映像表示モード判定部は、
前記画像認識部による前記撮像画像の認識結果に基づいて、前記映像表示モードが、前記視聴モードであるか、前記コミュニケーションモードであるかの判定を行うことを特徴とする映像表示機器。
【請求項4】
請求項3において、
前記映像表示モード判定部は、
前記画像認識部での画像認識処理の結果、前記他の映像表示機器が、前記自身の映像表示機器から所与の距離よりも近い位置に存在すると判定された場合には、前記映像表示モードが、前記コミュニケーションモードであると判定することを特徴とする映像表示機器。
【請求項5】
請求項3において、
前記画像認識部は、
前記撮像画像において、前記他の映像表示機器の画像認識処理を行うことで、前記撮像画像における前記他の映像表示機器の大きさ情報を取得し、
前記映像表示モード判定部は、
前記他の映像表示機器の大きさ情報により表される大きさが、所与の閾値よりも大きい場合には、前記映像表示モードが、前記コミュニケーションモードであると判定することを特徴とする映像表示機器。
【請求項6】
請求項3において、
前記画像認識部は、
前記撮像画像において、前記他の映像表示機器に付与された識別マーカの画像認識処理を行うことで、前記撮像画像における前記識別マーカの大きさ情報を取得し、
前記映像表示モード判定部は、
前記識別マーカの大きさ情報により表される大きさが、所与の閾値よりも大きい場合には、前記映像表示モードが、前記コミュニケーションモードであると判定することを特徴とする映像表示機器。
【請求項7】
請求項1又は2において、
前記処理部は、
センサからのセンサ情報を取得するセンサ情報取得部を含み、
前記映像表示モード判定部は、
前記センサ情報に基づいて、前記映像表示モードが、前記視聴モードであるか、前記コミュニケーションモードであるかの判定を行うことを特徴とする映像表示機器。
【請求項8】
請求項7において、
前記センサ情報により、前記自身の映像表示機器に対して設定された所与の角度範囲内に、前記他の映像表示機器が存在すると判定された場合には、
前記映像表示モード判定部は、
前記映像表示モードが、前記コミュニケーションモードであると判定することを特徴とする映像表示機器。
【請求項9】
請求項7又は8において、
前記処理部は、
前記他の映像表示機器が発信した位置発信情報を、指向性を有する受信範囲で受信する受信処理部を含み、
前記映像表示モード判定部は、
前記センサ情報取得部が、前記センサ情報として前記位置発信情報を取得した場合に、前記映像表示モードが、前記コミュニケーションモードであると判定することを特徴とする映像表示機器。
【請求項10】
請求項9において、
前記受信処理部は、
前記ユーザの視野範囲に対応する受信範囲で前記位置発信情報を受信することを特徴とする映像表示機器。
【請求項11】
請求項7又は8において、
前記処理部は、
指向性を有さない送信範囲で位置発信情報を発信する発信処理部を含むことを特徴とする映像表示機器。
【請求項12】
請求項1において、
前記第1の映像、前記第2の映像の映像切り替え処理を行う映像切替部を含み、
前記映像切替部は、
前記映像表示モード判定部により、前記映像表示モードが前記視聴モードであると判定された場合には、前記第1の映像が前記表示部に表示されるように映像切り替え処理を行い、
前記映像表示モード判定部により、前記映像表示モードが前記コミュニケーションモードであると判定された場合には、前記第2の映像が前記表示部に表示されるように映像切り替え処理を行うことを特徴とする映像表示機器。
【請求項13】
請求項1乃至12のいずれかにおいて、
前記自身の映像表示機器を装着したユーザの周囲に第2の検出エリアが設定されるとともに、前記ユーザの視野範囲に対応した角度範囲に第1の検出エリアが設定され、
前記処理部は、
前記第2のエリアに前記他の映像表示機器が存在すると判定された場合には、負荷の軽い第2の処理を行い、前記第1のエリアに前記他の映像表示機器が存在すると判定された場合には、前記第2の処理に比べて負荷の重い第1の処理を行うことを特徴とする映像表示機器。
【請求項14】
請求項13において、
前記処理部は、
負荷の軽い前記第2の処理として、受信処理部による受信処理、送信処理部による送信処理及び画像認識部による識別マーカ認識処理の少なくとも1つの処理を行うことを特徴とする映像表示機器。
【請求項15】
請求項13において、
前記処理部は、
負荷の重い前記第1の処理として、通信部から受信した前記他の映像表示機器を装着した他のユーザの情報である他ユーザ情報に基づく状態判定処理、前記通信部による通信の開始処理及び映像切替部による映像切替処理の少なくとも1つの処理を行うことを特徴とする映像表示機器。
【請求項16】
請求項1乃至15のいずれかにおいて、
前記第2映像取得部は、
前記他の映像表示機器から、前記他の映像表示機器を装着している他のユーザの情報である他ユーザ情報を取得し、前記第2の映像として、前記他ユーザ情報に基づいて生成された映像を取得することを特徴とする映像表示機器。
【請求項17】
請求項16において、
前記第2映像取得部は、
前記第2の映像として、前記他ユーザ情報に基づいて生成された前記他のユーザのアバター映像を取得することを特徴とする映像表示機器。
【請求項18】
請求項16において、
前記第2映像取得部は、
自身の映像表示機器を装着したユーザの情報である自ユーザ情報を取得するとともに、前記2の映像として、前記自ユーザ情報である発話情報と、前記他ユーザ情報である発話情報とを表すチャット映像を取得することを特徴とする映像表示機器。
【請求項19】
請求項1乃至18において、
前記映像表示機は、ユーザの頭部に装着され、ユーザの視野の少なくとも一部に表示部を有する頭部装着型表示機器であることを特徴とする映像表示機器。
【請求項20】
第1の映像を取得する第1映像取得部と、
撮像部からの撮像画像又は通信部からの通信情報に基づいて生成された第2の映像を取得する第2映像取得部と、
処理部と、
表示部の表示制御を行う表示制御部として、
コンピュータを機能させ、
前記処理部は、
映像表示モードが、視聴モードであるか、自身の映像表示機器とは異なる他の映像表示機器とのコミュニケーションを行うためのコミュニケーションモードであるかの判定を行う映像表示モード判定部を含み、
前記表示制御部は、
前記映像表示モード判定部により、前記映像表示モードが前記視聴モードであると判定された場合には、前記第1の映像を前記表示部に表示する制御を行い、
前記映像表示モード判定部により、前記映像表示モードが前記コミュニケーションモードであると判定された場合には、前記第2の映像を前記表示部に表示する制御を行うことを特徴とするプログラム。
【請求項1】
第1の映像を取得する第1映像取得部と、
撮像部からの撮像画像又は通信部からの通信情報に基づいて生成された第2の映像を取得する第2映像取得部と、
処理部と、
表示部と、
を含み、
前記処理部は、
映像表示モードが、視聴モードであるか、自身の映像表示機器とは異なる他の映像表示機器とのコミュニケーションを行うためのコミュニケーションモードであるかの判定を行う映像表示モード判定部を含み、
前記表示部は、
前記映像表示モード判定部により、前記映像表示モードが前記視聴モードであると判定された場合には、前記第1の映像を表示し、
前記映像表示モード判定部により、前記映像表示モードが前記コミュニケーションモードであると判定された場合には、前記第2の映像を表示することを特徴とする映像表示機器。
【請求項2】
請求項1において、
前記映像表示モード判定部は、
前記自身の映像表示機器と、前記他の映像表示機器との位置関係を表す位置関係情報に基づいて、前記映像表示モードが、前記視聴モードであるか、前記コミュニケーションモードであるかの判定を行うことを特徴とする映像表示機器。
【請求項3】
請求項1又は2において、
前記処理部は、
前記撮像画像に基づいて画像認識処理を行う画像認識部を含み、
前記映像表示モード判定部は、
前記画像認識部による前記撮像画像の認識結果に基づいて、前記映像表示モードが、前記視聴モードであるか、前記コミュニケーションモードであるかの判定を行うことを特徴とする映像表示機器。
【請求項4】
請求項3において、
前記映像表示モード判定部は、
前記画像認識部での画像認識処理の結果、前記他の映像表示機器が、前記自身の映像表示機器から所与の距離よりも近い位置に存在すると判定された場合には、前記映像表示モードが、前記コミュニケーションモードであると判定することを特徴とする映像表示機器。
【請求項5】
請求項3において、
前記画像認識部は、
前記撮像画像において、前記他の映像表示機器の画像認識処理を行うことで、前記撮像画像における前記他の映像表示機器の大きさ情報を取得し、
前記映像表示モード判定部は、
前記他の映像表示機器の大きさ情報により表される大きさが、所与の閾値よりも大きい場合には、前記映像表示モードが、前記コミュニケーションモードであると判定することを特徴とする映像表示機器。
【請求項6】
請求項3において、
前記画像認識部は、
前記撮像画像において、前記他の映像表示機器に付与された識別マーカの画像認識処理を行うことで、前記撮像画像における前記識別マーカの大きさ情報を取得し、
前記映像表示モード判定部は、
前記識別マーカの大きさ情報により表される大きさが、所与の閾値よりも大きい場合には、前記映像表示モードが、前記コミュニケーションモードであると判定することを特徴とする映像表示機器。
【請求項7】
請求項1又は2において、
前記処理部は、
センサからのセンサ情報を取得するセンサ情報取得部を含み、
前記映像表示モード判定部は、
前記センサ情報に基づいて、前記映像表示モードが、前記視聴モードであるか、前記コミュニケーションモードであるかの判定を行うことを特徴とする映像表示機器。
【請求項8】
請求項7において、
前記センサ情報により、前記自身の映像表示機器に対して設定された所与の角度範囲内に、前記他の映像表示機器が存在すると判定された場合には、
前記映像表示モード判定部は、
前記映像表示モードが、前記コミュニケーションモードであると判定することを特徴とする映像表示機器。
【請求項9】
請求項7又は8において、
前記処理部は、
前記他の映像表示機器が発信した位置発信情報を、指向性を有する受信範囲で受信する受信処理部を含み、
前記映像表示モード判定部は、
前記センサ情報取得部が、前記センサ情報として前記位置発信情報を取得した場合に、前記映像表示モードが、前記コミュニケーションモードであると判定することを特徴とする映像表示機器。
【請求項10】
請求項9において、
前記受信処理部は、
前記ユーザの視野範囲に対応する受信範囲で前記位置発信情報を受信することを特徴とする映像表示機器。
【請求項11】
請求項7又は8において、
前記処理部は、
指向性を有さない送信範囲で位置発信情報を発信する発信処理部を含むことを特徴とする映像表示機器。
【請求項12】
請求項1において、
前記第1の映像、前記第2の映像の映像切り替え処理を行う映像切替部を含み、
前記映像切替部は、
前記映像表示モード判定部により、前記映像表示モードが前記視聴モードであると判定された場合には、前記第1の映像が前記表示部に表示されるように映像切り替え処理を行い、
前記映像表示モード判定部により、前記映像表示モードが前記コミュニケーションモードであると判定された場合には、前記第2の映像が前記表示部に表示されるように映像切り替え処理を行うことを特徴とする映像表示機器。
【請求項13】
請求項1乃至12のいずれかにおいて、
前記自身の映像表示機器を装着したユーザの周囲に第2の検出エリアが設定されるとともに、前記ユーザの視野範囲に対応した角度範囲に第1の検出エリアが設定され、
前記処理部は、
前記第2のエリアに前記他の映像表示機器が存在すると判定された場合には、負荷の軽い第2の処理を行い、前記第1のエリアに前記他の映像表示機器が存在すると判定された場合には、前記第2の処理に比べて負荷の重い第1の処理を行うことを特徴とする映像表示機器。
【請求項14】
請求項13において、
前記処理部は、
負荷の軽い前記第2の処理として、受信処理部による受信処理、送信処理部による送信処理及び画像認識部による識別マーカ認識処理の少なくとも1つの処理を行うことを特徴とする映像表示機器。
【請求項15】
請求項13において、
前記処理部は、
負荷の重い前記第1の処理として、通信部から受信した前記他の映像表示機器を装着した他のユーザの情報である他ユーザ情報に基づく状態判定処理、前記通信部による通信の開始処理及び映像切替部による映像切替処理の少なくとも1つの処理を行うことを特徴とする映像表示機器。
【請求項16】
請求項1乃至15のいずれかにおいて、
前記第2映像取得部は、
前記他の映像表示機器から、前記他の映像表示機器を装着している他のユーザの情報である他ユーザ情報を取得し、前記第2の映像として、前記他ユーザ情報に基づいて生成された映像を取得することを特徴とする映像表示機器。
【請求項17】
請求項16において、
前記第2映像取得部は、
前記第2の映像として、前記他ユーザ情報に基づいて生成された前記他のユーザのアバター映像を取得することを特徴とする映像表示機器。
【請求項18】
請求項16において、
前記第2映像取得部は、
自身の映像表示機器を装着したユーザの情報である自ユーザ情報を取得するとともに、前記2の映像として、前記自ユーザ情報である発話情報と、前記他ユーザ情報である発話情報とを表すチャット映像を取得することを特徴とする映像表示機器。
【請求項19】
請求項1乃至18において、
前記映像表示機は、ユーザの頭部に装着され、ユーザの視野の少なくとも一部に表示部を有する頭部装着型表示機器であることを特徴とする映像表示機器。
【請求項20】
第1の映像を取得する第1映像取得部と、
撮像部からの撮像画像又は通信部からの通信情報に基づいて生成された第2の映像を取得する第2映像取得部と、
処理部と、
表示部の表示制御を行う表示制御部として、
コンピュータを機能させ、
前記処理部は、
映像表示モードが、視聴モードであるか、自身の映像表示機器とは異なる他の映像表示機器とのコミュニケーションを行うためのコミュニケーションモードであるかの判定を行う映像表示モード判定部を含み、
前記表示制御部は、
前記映像表示モード判定部により、前記映像表示モードが前記視聴モードであると判定された場合には、前記第1の映像を前記表示部に表示する制御を行い、
前記映像表示モード判定部により、前記映像表示モードが前記コミュニケーションモードであると判定された場合には、前記第2の映像を前記表示部に表示する制御を行うことを特徴とするプログラム。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【図18】
【図19】
【図20】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【図18】
【図19】
【図20】
【公開番号】特開2012−151668(P2012−151668A)
【公開日】平成24年8月9日(2012.8.9)
【国際特許分類】
【出願番号】特願2011−8908(P2011−8908)
【出願日】平成23年1月19日(2011.1.19)
【公序良俗違反の表示】
(特許庁注:以下のものは登録商標)
1.QRコード
【出願人】(000000376)オリンパス株式会社 (11,466)
【Fターム(参考)】
【公開日】平成24年8月9日(2012.8.9)
【国際特許分類】
【出願日】平成23年1月19日(2011.1.19)
【公序良俗違反の表示】
(特許庁注:以下のものは登録商標)
1.QRコード
【出願人】(000000376)オリンパス株式会社 (11,466)
【Fターム(参考)】
[ Back to top ]