情報提示装置
【課題】使用者の眼球の位置や向きを直接に測定することが不要でありながら、外部環境に対して違和感の少ない画像をスクリーンに提示する。
【解決手段】視点カメラ1は、使用者10の視点101と共役な位置に配置される。視点カメラ1は、視点101からスクリーン3の方向を見たときの画像を視点画像として取得する。背景カメラ2は、スクリーン3の後ろ側に存在する環境の画像を背景画像として取得する。プロジェクタ4は、視点101及び視点カメラ1と共役な位置に配置される。プロジェクタは、処理部5で生成された投影画像をスクリーン3に投影する。処理部5は、背景画像と視点画像とを対応させることにより、背景画像を、視点101からスクリーン3の後ろ側を見た場合の画像に変換する。これによって、投影画像を生成することができる。さらに、処理部5は、生成された投影画像をプロジェクタ4に送る。
【解決手段】視点カメラ1は、使用者10の視点101と共役な位置に配置される。視点カメラ1は、視点101からスクリーン3の方向を見たときの画像を視点画像として取得する。背景カメラ2は、スクリーン3の後ろ側に存在する環境の画像を背景画像として取得する。プロジェクタ4は、視点101及び視点カメラ1と共役な位置に配置される。プロジェクタは、処理部5で生成された投影画像をスクリーン3に投影する。処理部5は、背景画像と視点画像とを対応させることにより、背景画像を、視点101からスクリーン3の後ろ側を見た場合の画像に変換する。これによって、投影画像を生成することができる。さらに、処理部5は、生成された投影画像をプロジェクタ4に送る。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、情報提示装置に関するものである。より詳しくは、本発明は、スクリーンによって視野から隠蔽されている環境についての情報を、スクリーンに提示することができる装置に関するものである。
【背景技術】
【0002】
比較的に小型のスクリーンに画像を投影することにより、オーグメンティド・リアリティ(Augmented Reality: AR)あるいは複合現実感(Mixed Reality: MR)を提供しようとする技術が、下記特許文献1や下記非特許文献1に記載されている。
【0003】
これらの文献に記載の技術においては、小型のスクリーンに様々な画像を投射することにより、ARやMRを提供できるようになっている。また、これらの技術では、スクリーンの後ろ側にあると想像される環境の画像をスクリーンに投影することにより、スクリーンの存在を、使用者から認識されにくくすることもできる。つまり、この技術においては、スクリーンを構成する物体を、スクリーンとしてではなく、あたかも環境の一部であるかのように認識させることができる。
【0004】
具体的には、これらの技術では、スクリーンの周囲における環境(外部環境)の画像に対して違和感が少ない画像をスクリーンに提示する。これにより、あたかもスクリーンを外部環境に埋没させることができ、その結果、スクリーンの存在感を希薄とすることができる。なお、前記したようにスクリーンの存在感が希薄となることを、ARやMRの分野では、「透明化」と称することがある。
【0005】
ところで、従来の技術では、外部環境に対して違和感のない画像をスクリーンに投射するために、使用者における眼球の位置や視線の向きを常に測定している。そして、測定された位置や向きから見えるはずの画像と矛盾しない画像を生成して、スクリーンに投射する。これにより、スクリーンの透明化を適切に行うことができる。
【0006】
ここで、使用者の視線の向きを常に測定するためには、例えば使用者の頭部に、眼球位置や視線検出のための計測装置を取り付ける必要がある。この計測装置は、三次元な位置や向き(姿勢)を計測できるようになっている。このような計測装置は、例えば変位センサや加速度センサを用いて構成できる。
【特許文献1】特開2000−122176号公報
【非特許文献1】INAMI, M., KAWAKAMI, N., AND TACHI, S. 2003. Optical camouflage using retro-reflective projection technology. In Proc. of the 2nd ISMAR '03.
【発明の開示】
【発明が解決しようとする課題】
【0007】
しかしながら、使用者の頭部に計測装置を取り付けると、その使用者の動きが、計測装置自体やそのための配線によって制約されてしまう。また、従来の計測装置では、使用者の眼球の位置や向きを精度良く計測することが難しいという不都合もあった。眼球の位置や向きの測定精度が劣化すると、投射された画像と外部環境と間の違和感が大きくなり、その結果、スクリーンの透明化が妨げられるおそれがある。
【0008】
この問題を避けるため、環境中(例えば室内の天井など)に測定装置を取り付け、使用者の動きを観察することによって眼球の位置や向きを計測することも考えられる。しかしながら、このような技術では、使用者の移動可能な範囲が、計測可能な範囲(例えば室内)のみに制限されてしまう。また、この技術でも、眼球の位置や向きを精度良く計測することは依然として難しいという問題がある。しかも、外部に測定装置を設置すると、装置全体が大型化ないし複雑化し、装置コストや設置コストが増大するという問題もある。
【0009】
本発明は、このような状況に鑑みてなされたものである。本発明の主な目的は、使用者の眼球の位置や向きを直接に測定することを不要としながら、外部環境に対して違和感の少ない画像をスクリーンに提示することを可能にする技術を提供することである。
【課題を解決するための手段】
【0010】
本発明は、下記のいずれかの項目に記載の構成を備えている。
【0011】
(項目1)
視点カメラと、背景カメラと、スクリーンと、プロジェクタと、処理部とを備えており、
前記視点カメラは、使用者の視点と共役となる位置に配置されており、
かつ、前記視点カメラは、前記視点から前記スクリーンの方向を見たときの、前記スクリーン及びその周囲についての画像を視点画像として取得する構成となっており、
前記背景カメラは、前記視点から前記スクリーンを見たときに前記スクリーンの後ろ側に存在する環境についての画像を背景画像として取得する構成となっており、
前記スクリーンは、前記使用者の視野内において、背景と共に使用者に視認される程度に小さいサイズとされており、
かつ、前記スクリーンは、前記プロジェクタから投影された画像の少なくとも一部を、前記使用者の視点に向けて反射することができる構成となっており、
前記プロジェクタは、前記視点及び前記視点カメラと共役となる位置に配置されており、
かつ、前記プロジェクタは、前記処理部で生成された投影画像を前記スクリーンに投影する構成となっており、
前記処理部は、
前記背景カメラで取得した前記背景画像と、前記視点カメラで取得した前記視点画像とを対応させることにより、前記背景画像を、前記視点から前記スクリーンの後ろ側を見た場合の画像に変換し、これによって、投影画像を生成する処理を行う
構成となっており、
さらに、前記処理部は、生成された前記投影画像を前記プロジェクタに送る構成となっている
ことを特徴とする情報提示装置。
【0012】
視点カメラを使用者の視点と共役な位置に配置することにより、視点から見た画像を視点カメラで取得することができる。なお、この明細書では、視点カメラで得られた画像(この画像は、視点から見たときの画像に相当している)を視点画像と称している。
【0013】
また、この発明では、プロジェクタを、使用者の視点及び視点カメラと共役な位置に配置している。すると、視点カメラで取得した視点画像と同じ画像を仮にプロジェクタからスクリーンに投影すると、使用者は、その画像を違和感なく観察することが可能になる。
【0014】
本発明では、視点カメラで取得した視点画像を基準として、背景画像を変換し、これによって、投影画像を生成して、スクリーン上に提示することができる。生成された投影画像は、視点画像を基準として変換されているので、視点画像に対して違和感が少ないものとすることができる。一方、使用者は、スクリーンに提示された投影画像と、スクリーンの周囲の環境とを同時に観察することができる。このとき、使用者は、投影画像と周囲の環境との間における違和感をあまり感じないので、スクリーンが周囲環境に埋没しているかのように感じることができる。
【0015】
しかも、本発明では、視点画像を基準として背景画像を変換しているので、使用者の眼球の位置や姿勢を測定する必要がない。このため、眼球の位置や姿勢を測定する装置の設置を省略することが可能になり、使用者の移動を容易にすることができる。
【0016】
また、本発明では、視点画像を基準として背景画像を変換しているので、測定された眼球の位置や姿勢を基準にする場合に比較して、一層適切な投影画像を生成することが可能になる。
【0017】
(項目2)
前記背景カメラは、前記スクリーンの背面側の位置に配置されている、項目1に記載の情報提示装置。
【0018】
スクリーンの背面側に背景カメラを設置することにより、背景画像の取得が容易となる。
【0019】
(項目3)
前記背景カメラは、前記視点カメラとほぼ同じ向きに配置されている、項目2に記載の情報提示装置。
【0020】
背景カメラと視点カメラの向きが大きく異なると、遮蔽関係(いわゆるオクルージョン)において、背景画像と視点画像との間の矛盾を生じる可能性が高まる。これに対して、この項目の発明では、両カメラがの向きをほぼ同じとすることにより、このような問題の回避を容易とすることができる。
【0021】
(項目4)
前記スクリーンは、再帰性反射スクリーンとされている、項目1〜3のいずれか1項に記載の情報提示装置。
【0022】
スクリーンを拡散反射スクリーンとした場合には、スクリーンに投射された画像が、外乱光(例えば環境中に存在する光)の影響により、使用者からは見づらくなる可能性がある。これに対して、この項目の発明では、再帰性反射スクリーンを用いることにより、スクリーンに投射された画像の輝度は、外乱光に対して十分に強くなる。このため、スクリーンに提示される投射画像の視認性を向上させることができる。
【0023】
(項目5)
前記スクリーンは、外側に凸となる円弧面を備えている、項目1〜4のいずれか1項に記載の情報提示装置。
【0024】
外側に凸となる円弧面を備えたスクリーンとは、例えば、球状スクリーン、円筒状スクリーンであるが、これらには制限されない。
【0025】
円弧面上に投影画像を提示することにより、使用者が移動しても、投影画像を観察することが可能になる。使用者が移動することにより、視点画像や背景画像も変化する場合は、適宜な周期で投影画像を再生成することにより、違和感の少ない投影画像を使用者に提示することができる。
【0026】
(項目6)
前記背景カメラは、複数とされており、
かつ、前記背景カメラは、前記円弧面の後ろ側に存在する環境の画像を取得するように配置されており、
さらに、前記複数の背景カメラの向きは、互いに異なっている
項目5に記載の情報提示装置。
【0027】
互いに向きの異なる複数のカメラを用いることにより、使用者が移動しても、移動位置に応じた適切な背景画像を取得することが容易になる。例えば円筒状スクリーンを用いた場合は、スクリーンの外周面から、その外側の方向(半径の延長方向)に向けてカメラを設置することが好ましい。
【0028】
(項目7)
前記処理部において、前記投影画像を生成する処理は、以下の処理により行われる、項目1〜6のいずれか1項に記載の情報提示装置:
(1)前記背景画像と、前記視点画像との間における、対応点を取得する処理;
(2)前記対応点の情報に基づいて、前記背景画像を射影変換する処理。
【0029】
対応点の情報に基づいて、背景画像を射影変換することにより、視点から見た環境画像に対して違和感の少ない投影画像を生成することができる。しかも、この項目の発明では、立体構造モデルを生成しなくても、いわゆるイメージベースド・レンダリング(Image-Based Rendering: IBR)の手法により、投影画像を生成することができる。
【0030】
(項目8)
前記プロジェクタから投影される前記投影画像は、前記スクリーンと、前記スクリーンの外側とにわたって投影される構成となっている
項目1〜7のいずれか1項に記載の情報提示装置。
【0031】
投影画像を、スクリーンとそのスクリーンの周囲との両者にわたるように投影することができる。この場合には、スクリーンを移動させたり、使用者が移動した場合であっても、スクリーンがプロジェクタの投影範囲内にあれば、違和感の少ない投影画像をスクリーン上に提示することができる。
【0032】
また、この項目の発明では、プロジェクタの投影範囲(投影角)を予め広く設定することができる。プロジェクタの投影範囲をスクリーン上のみに制限しようとすると、そのための装置構成が必要になってしまう。これに対して、この項目の発明では、そのような装置構成が不要になり、装置コストや設置コストの低減を図ることができる。また、この発明では、視点画像に対して矛盾のない投影画像を生成して投影するので、広範囲に投影された画像が当該使用者に視認されても、支障は少ないと考えられる。
【0033】
(項目9)
前記視点カメラ及び/又は前記プロジェクタは、使用者の頭部に装着される構成となっている
項目1〜8のいずれか1項に記載の情報提示装置。
【0034】
カメラ及び/又はプロジェクタを使用者の頭部に設置することにより、使用者が移動しても、カメラ及びプロジェクタを使用者の視点と共役な位置に保つことが容易となる。また、視点カメラ及び/又はプロジェクタを、使用者の頭部に装着することにより、使用者の視点と、カメラやプロジェクタにおける共役点とを物理的に(例えば固定具により)接続することができる。このため、この項目の発明では、視点画像を精度良く生成することができる。さらには、使用者にとって、投影画像を正確に視認することが容易になる。
【0035】
(項目10)
以下のステップを備えることを特徴とする情報提示方法:
(a)使用者の視点からスクリーンの方向を見たときの、スクリーン及びその周囲についての画像を視点画像として取得するステップ;
(b)前記視点から前記スクリーンを見たときに前記スクリーンの後ろ側に存在する環境についての画像を背景画像として取得するステップ;
(c)前記背景カメラで取得した前記背景画像と、前記視点カメラで取得した前記視点画像とを対応させることにより、前記背景画像を、前記視点から前記スクリーンの後ろ側を見た場合の画像に変換し、これによって、投影画像を生成するステップ;
(d)前記処理部で生成された投影画像を、前記視点の位置から、前記スクリーンに投影するステップ。
【0036】
(項目11)
項目10に記載の各ステップをコンピュータに実行させるためのコンピュータプログラム。
【0037】
このコンピュータプログラムは、各種の記録媒体、例えば、磁気的記録媒体(ハードディスクなど)、電気的記録媒体(フラッシュメモリやDRAMなど)、光学的記録媒体(CDやDVDなど)、光磁気的記録媒体(MOなど)に記録することができる。記録媒体の種類はこれらに制約されない。また、このプログラムは、各種の媒体(光ファイバや銅線など)を介して、信号として伝達されることができる。
【0038】
このプログラムは、各種の言語(例えばC言語やアセンブリ言語)により記述されることができる。また、このプログラムは、実行前にコンパイルを要する言語で記述されてもよい。この場合において、このプログラムは、コンパイル前のものであっても、コンパイル後のものであってもよい。
【発明の効果】
【0039】
本発明によれば、使用者の眼球の位置や向きを直接に測定することを不要としながら、外部環境に対して違和感の少ない画像をスクリーンに提示することが可能になる。
【発明を実施するための最良の形態】
【0040】
(第1実施形態)
以下、本発明の第1実施形態に係る情報提示装置の構成を、図1及び図2に基づいて説明する。
【0041】
(第1実施形態の構成)
本実施形態に係る情報提示装置は、視点カメラ1と、背景カメラ2と、スクリーン3と、プロジェクタ4と、処理部5と、第1ハーフミラー6と、第2ハーフミラー7と、ケーシング8とを主要な構成として備えている(図1参照)。
【0042】
視点カメラ1は、使用者10の視点101と共役となる位置に配置されている。具体的には、視点カメラ1と視点101との間には、第1ハーフミラー6と第2ハーフミラー7とが配置されており、これによって、視点カメラ1と視点101とが共役となっている。
【0043】
視点カメラ1は、視点101からスクリーン3の方向を見たときの、スクリーン3及びその周囲についての画像を取得する構成となっている。このように取得された画像を、この明細書では視点画像と称している。
【0044】
視点カメラ1は、プロジェクタ4及び第1ハーフミラー6と共に、ケーシング8の内部に収納されている(ケーシング8については後述する)。
【0045】
この実施形態では、視点カメラ1の画角は、スクリーン3だけでなく、スクリーン3の周囲(外側)にわたる画像を撮影できるように設定されている。つまり、本実施形態における視点カメラ1は、スクリーン3の周囲における環境の画像も撮影できる構成となっている。
【0046】
視点カメラ1は、画像データを取得して処理部5に送ることができるように構成されている。視点カメラ1は、静止画に限らず、動画を取得するものであってもよい。動画は静止画の連続として把握できるので、本明細書の説明においては、静止画を前提として説明する。視点カメラ1は、既定の周期で、視点画像を取得するようになっている。既定の周期は、適宜に設定できる。例えば、1秒当たり10〜60枚程度の画像を取得することが好ましいが、処理部5の能力などの制約条件によって上限が決まる。
【0047】
背景カメラ2は、視点101からスクリーン3を見たときにスクリーン3の後ろ側に存在する環境についての画像を取得する構成となっている。このように取得された画像を、この明細書では背景画像と称している。
【0048】
背景カメラ2は、この実施形態では、円筒状に形成されたスクリーン3(後述)に取り付けられており、スクリーン3の外側方向に向けて設置されている。また、背景カメラ2は、使用者10から離間した位置(背面側の位置)に設置されている。
【0049】
背景カメラ2は、背景についての画像データを取得して処理部5に送ることができるように構成されている。背景カメラ2は、視点カメラ1と同様に、動画を取得するものであってもよいが、ここでは静止画を前提として説明する。また、背景カメラ2は、視点カメラ1と同期して、既定の周期で、背景画像を取得するようになっている。
【0050】
スクリーン3は、使用者10の視野内において、背景と共に使用者に視認される程度に小さいサイズとされている。すなわち、スクリーン3の大きさは、「スクリーン3を見たときに、スクリーン3の周囲に、スクリーン3の外部に存在する環境の画像を観察できる程度」とされている。視野の全体がスクリーンで覆われて、外部環境が観察できないような条件下では、本実施形態の技術を適用することは難しいと考えられる。
【0051】
スクリーン3は、プロジェクタ4から投影された画像の少なくとも一部を、使用者の視点に向けて反射することができる構成となっている。
【0052】
具体的には、この実施形態においては、スクリーン3は、再帰性反射スクリーンとされている。再帰性反射スクリーンとしては、再帰性反射機能を備えた各種の構成のものを利用することができる。例えば、基材(図示せず)の表面に再帰性反射材料(例えばガラスビーズ)を塗布した構成のものを利用できる。もちろん、この構成に制約される必要はない。再帰性反射スクリーンの基本的な構成としては、前記した特許文献1や非特許文献1に記載されたものと同様でよいので、これ以上詳しい説明は省略する。
【0053】
また、本実施形態におけるスクリーン3は、外側に凸となる円弧面を備えたものとなっている。具体的には、本実施形態のスクリーン3は、円筒状に形成されている。そして、その外周面が、外側に凸となる円弧面を備えたスクリーンとなっている。ただし、スクリーン3の形状としては、円筒状に限らず、例えば球状のものを用いることができる。なお、スクリーン3の形状は、プロジェクタ4の投影範囲内の大きさであれば、特に制約されない。スクリーン3の形状としては、平面,球体,円筒形のような単純な形状だけでなく、人の立体形状など、複雑な形状であってもよい。このような場合でも、プロジェクタ4によって、視点101と共役な点から画像を投影すれば、歪みの無い投影が可能になる。
【0054】
プロジェクタ4は、視点101及び視点カメラ1と共役となる位置に配置されている。具体的には、プロジェクタ4は、第1ハーフミラー6の作用により、視点101と共役となっている。さらに、プロジェクタ4は、第2ハーフミラー7の作用により、視点カメラ1と共役となっている。
【0055】
プロジェクタ4は、処理部5で生成された投影画像(後述)を、第1及び第2ハーフミラー6及び7を介して、スクリーン3に投影する構成となっている。
【0056】
この実施形態では、プロジェクタ4から投影される投影画像は、スクリーン3だけでなく、スクリーン3の周囲(外側)にわたって投影される構成となっている。つまり、本実施形態におけるプロジェクタ4の投影角は、スクリーン3の周囲にまで画像を投影できる大きさに設定されている。
【0057】
プロジェクタ4及び視点カメラ1は、前記したように、ケーシング8の内部に収納されている(図2参照)。ケーシング8は、図示しない固定具により、使用者の頭部(例えば側頭部)に固定されるようになっている。もちろん、固定を解除すれば、ケーシング8を頭部から除去することもできるようになっている。
【0058】
したがって、本実施形態においては、視点カメラ1とプロジェクタ4とが、ケーシング8を介して、使用者10の頭部に装着される構成となっている。
【0059】
処理部5は、まず、背景カメラ2で取得した背景画像と、視点カメラ1で取得した視点画像とを対応させる。これにより、背景画像を、視点101からスクリーン3の後ろ側を見た場合の画像に変換できる。処理部5では、この処理によって、投影画像を生成するようになっている。さらに、処理部5は、生成された投影画像をプロジェクタ4に送る構成となっている。
【0060】
より具体的には、本実施形態の処理部5においては、投影画像を生成する処理を、以下の処理により行っている:
(1)背景画像と視点画像との間における、対応点を取得する処理;
(2)対応点の情報に基づいて、背景画像を射影変換する処理。
【0061】
処理部5は、例えば、パーソナルコンピュータやワークステーションなどの適宜のハードウエアと、このハードウエアを動作させる適宜なプログラムによって構成することができる。処理部5における具体的な動作は後述する。
【0062】
(第1実施形態の動作)
次に、本実施形態に係る情報提示装置の動作を、図3に示すフローチャートを主に参照しながら説明する。また、使用者10とスクリーン3と環境との配置関係の一例を、図4に概略的に示す。図4において符号9は、外部環境(正確にはその一部)を示す。さらに、使用者10とスクリーン3との位置関係を、図5に概念的に示す。なお、処理部5と各カメラ及びプロジェクタとの間でデータ伝送を行うための通信路としては、無線あるいは有線を用いることができる。無線通信路を構成するためのプロトコルとしては、例えばBluetoothを用いることができるが、これには制約されない。
【0063】
(ステップSA−1及びSA−2)
背景カメラ2により、背景画像を撮影する。撮影した画像の一例を図6(a)に示す。その後、取得した背景画像におけるレンズ歪みを補正する。その結果得られた背景画像を図6(b)に示す。レンズ歪みを補正する技術については、既存技術を用いることができるので、詳細についての説明は省略する。
【0064】
(ステップSA−3及びSA−4)
前記したステップと前後して、あるいはこれらのステップと並行して、視点カメラ1により、視点画像を撮影する。撮影した画像の一例を図6(c)に示す。その後、前記したステップSA−2の場合と同様に、取得した視点画像におけるレンズ歪みを補正する。その結果得られた視点画像を図6(d)に示す。
【0065】
(ステップSA−5)
次に、補正後の背景画像と視点画像との間における対応点を探索する。対応点探索アルゴリズムの一例を、以下に詳しく説明する。
【0066】
異なる位置にあるカメラによって撮影された画像間の対応を得るのは、一般に難しい問題である。本実施形態では、背景物体が平面であるか、あるいは各カメラから十分に離れていると仮定した。その上で、背景画像と視点画像の対応を求めるために、Scale-Invariant Feature Transform(SIFT)と呼ばれる手法を用いる。SIFTとは、特徴点の検出と特徴量の記述を行うアルゴリズムである。SIFTは画像の回転・スケール変化・照明変化等に頑健な特徴量を記述する。このため、SIFTは、異なる視点から得られた画像の間の対応を求めるのに適している。また、SIFTは、画像の線形変換が行われた場合でも、画像間の対応を検出できるため、背景物体が平面であるか、もしくはカメラから十分に離れているという条件を満たせば、非常に精度よく対応を得ることができる。また、仮に、背景物体が平面である等の条件を満たさない場合でも、画像間で特徴的な点を対応付けるため、人間が見た場合において最適に近い投影画像を生成しうる技術であると考えられる。
【0067】
以下に、SIFTのアルゴリズムを概説する。SIFTの処理は、特徴点の検出と特徴量の記述の2段階から成る。
【0068】
(特徴点の検出)
特徴点の検出では、まず、スケールの異なる平滑化画像の差分である、Difference-of-Gaussian(DOG)画像から極値を探索する。これにより、候補点の位置とスケールとを決定する。次に、検出された候補点に対して、主曲率とコントラストによる絞り込みを行う。さらに、サブピクセル推定により特徴点の位置とスケールを算出する。
【0069】
(特徴量の記述)
次に、特徴量の記述を行う。まず、検出した特徴点近傍の輝度勾配から、オリエンテーションを求める。オリエンテーションの方向に回転して特徴量を記述することで、特徴量は、回転に不変となる。そして、特徴点を中心とした、その特徴点のスケールを半径とした円領域内の輝度勾配情報を、特徴ベクトルとして記述する。
【0070】
SIFTのアルゴリズムとしては、文献(例えばD. G. Lowe. Object recognition from local scaleinvariant features. In Proc. of IEEE International Conference on Computer Vision (ICCV), pp. 1150.1157, 1999.)に記載のものを用いることができるので、これ以上詳しい説明は省略する。
【0071】
特徴点を検出した結果の例を図7に示す。この図において符号11は視点画像、符号21は背景画像を示す。また、両画像間を結ぶ多数の線は、特徴点の対応関係を表している。
【0072】
(ステップSA−6)
ついで、対応点の探索結果に基づいて、射影変換行列を算出する。この算出アルゴリズムを以下に詳しく説明する。
【0073】
2台のカメラで1つの平面を撮影した場合、得られる2枚の画像間の対応は、平面射影変換によって関係づけられる。この対応関係を図8に概念的に示した。図8における符号Hが、射影変換行列である。
【0074】
2次元平面上の点
x = [x, y]T
から同じく2次元平面上の点
x′= [x′, y′]T
への射影変換は、[x1, x2, x3]T 〜 [x, y, 1]Tなる同値関係が成り立つような斉次座標
xチルダ = [x1, x2, x3]T
を用いれば、
【数1】
と書ける。ここで、s は任意の実数であり、Hは次のような3×3行列である。
【数2】
【0075】
Hを射影変換行列と呼ぶ。周期的に撮影した各画像(すなわち各フレーム)ごとに、行列Hを求める。背景カメラ2で撮影した画像を射影変換することによって、使用者10の視点101から見たときの画像が得られる。上に例示した射影変換行列Hの要素数は9であるが、全ての要素を定数倍しても同じ変換を表すため、自由度は8である。よってh33 = 1 としてもよい。対応点を1組与えれば、式1から、
【数3】
【数4】
が得られる。整理すると、
【数5】
【数6】
の2つの式が得られる。この結果、4組以上の対応が判れば、最小二乗法により、射影変換行列Hを求めることができる。
【0076】
しかし、SIFT特徴量を用いて検出した対応点には、誤対応が含まれている可能性がある。誤対応があると、外れ値の影響で射影変換後の画像が大きく歪んでしまう場合がある。そこで、RANSAC(RANdom SAmple Consensus)を用いて射影変換行列を求める。RANSACは、外れ値を含むデータの中から外れ値を排除してフィッティングを行う手法である。
【0077】
RANSACのアルゴリズムを以下に示す。
1. 幾つかの対応点をランダムに選択する。
2. 最小二乗法によりパラメータを計算する。
3. 求めたパラメータを適用したとき、設定した誤差範囲にある点の個数を評価値とする。
4. 評価値が十分に大きければ求めたパラメータを採用し、終了する。
5. 1〜4 を有限回繰り返す。
6. 十分大きな評価値が得られなければ失敗とみなし、終了する。
【0078】
こうして、正しいパラメータ(すなわち射影変換行列)を推定できる。RANSACのアルゴリズムについては、文献(例えばM. A. Fischler and R. C. Bolles. Random sample consensus: A paradigm for model fitting with applications to image analysis and automated cartography. In Commun. ACM, Vol. 6, pp. 381.395, 1981.)に記載のものを用いることができるので、これ以上詳細についての説明は省略する。
【0079】
本実施形態では、SIFT 特徴量に基づく対応点探索と、RANSAC による射影変換行列の算出を併用することによって、画像間の対応を非常に頑健とすることができる。
【0080】
(ステップSA−7)
ついで、算出された射影変換行列を用いて、背景画像に対して、射影変換を適用する。これにより、投影されるべき画像(投影画像)を生成することができる。変換の一例を図9に示す。図9(a)は背景画像の例を示す。図9(b)における枠Lで示した部分が、射影変換により生成された投影画像を示している。
【0081】
(ステップSA−8)
ついで、生成された投影画像を、プロジェクタ4からスクリーン3の方向へ投影することができる。
【0082】
スクリーン3に向けて投影された画像の例を図10に示す。図10(a)は、スクリーン(この例では円形の平面物体)に投影画像が照射され、それが、外部環境と共に視認される様子を示している。図10(b)は図10(a)における要部の拡大図である。
【0083】
図10の例では、スクリーンの周囲の画像は、現実の環境についての画像であり、スクリーン上の画像が、投影された画像である。しかし、この図に示されるように、投影画像は、環境画像と整合しているので、スクリーンは、あたかも環境中に埋没しているかのように認識される。
【0084】
視点を移動させ、それぞれの視点で得た投影画像を投影した例を図11に示す。図11(a)は、スクリーンから視点が離れた場合を示す。図11(b)は、視点がスクリーンに近付いた場合を示す。図11(c)は、斜め方向からスクリーンを見た場合を示す。図11(d)は、視点を回転させた場合を示す。
【0085】
本実施形態の装置では、視点カメラ1を使用者10の視点101と共役な位置に配置することにより、視点101から見た画像を視点カメラ1で取得することができる。
【0086】
また、この実施形態では、プロジェクタ4を、使用者10の視点101及び視点カメラ1と共役な位置に配置している。この場合、視点カメラ1で取得した視点画像と同じ画像をプロジェクタ4からスクリーンに投影すると、使用者10は、その画像を違和感なく観察することが可能になる。
【0087】
本実施形態では、視点カメラ1で取得した視点画像を基準として、背景画像を変換し、これによって、投影画像を生成して、スクリーン3に提示することができる。生成された投影画像は、視点画像を基準として変換されているので、視点画像に対して違和感が少ないものとすることができる。一方、使用者は、スクリーン3に提示された投影画像と、スクリーンの周囲の環境とを同時に観察することができる。このとき、使用者は、投影画像と周囲の環境との間における違和感をあまり感じないので、スクリーン3が周囲環境に埋没しているかのように感じることができる。つまり、この技術によれば、スクリーン3の透明化が可能になる。
【0088】
しかも、本実施形態では、視点画像を基準として背景画像を変換しているので、使用者の眼球の位置や姿勢を測定する必要がない。このため、眼球の位置や姿勢を測定する装置の設置を省略することが可能になり、使用者の移動を容易にすることができる。さらには、眼球の位置や姿勢を測定する装置の設置を省略することにより、本実施形態では、情報提示装置の製造コストや設置コストを低減しうるという利点もある。
【0089】
すなわち、本実施形態によれば、使用者の眼球の位置や向きを直接に測定することを不要としながら、外部環境に対して違和感の少ない画像をスクリーンに提示することが可能になる。
【0090】
また、測定装置により測定される眼球の位置や姿勢の精度は、使用者がどこを注視しているかを正確に推定するためには十分ではなく、このため、投影画像の精度を向上させることが難しいという問題があった。これに対して、本実施形態では、視点画像を基準として背景画像を変換しているので、測定された眼球の位置や姿勢を基準にする場合に比較して、高精度で適切な投影画像を生成することが可能になる。このため、環境に対して違和感の少ない投影画像をスクリーンに投影できるという利点がある。
【0091】
さらに、本実施形態では、スクリーン3の背面側に背景カメラ2を設置しているので、背景画像の取得が容易となるという利点もある。
【0092】
さらに、本実施形態では、背景カメラ2を、視点カメラ1とほぼ同じ向きに配置することが好ましい。背景カメラ2と視点カメラ1の向きが大きく異なると、遮蔽関係(いわゆるオクルージョン)において、背景画像と視点画像との間の矛盾を生じる可能性が高まる。これに対して、両者の向きをほぼ一致させることにより、このような問題の回避を容易とすることができる。
【0093】
また、スクリーン3を拡散反射スクリーンとした場合には、スクリーン3に投射された画像が、外乱光(例えば環境中に存在する光)の影響により、使用者10からは見づらくなる可能性がある。これに対して、本実施形態では、再帰性反射スクリーンを用いることにより、スクリーン3に投射された画像の輝度は、外乱光に対して十分に強くなる。このため、スクリーンに提示される投射画像の視認性を向上させることができる。
【0094】
スクリーン3を再帰性反射スクリーンとすることにより、さらに、以下の利点を発揮できる。
・視点位置から投影された光が視点に効率よく戻るので、投影光の光量を絞ることができる。したがって、プロジェクタを小型にし、さらに、その発熱量を低く抑えることができる。このため、プロジェクタを頭部に装着しやすくなる。
・投影光の光量を絞ることができるので、プロジェクタの焦点深度を深くすることができる。このため、プロジェクタの焦点位置の調整を厳密に行わなくとも、スクリーン上の画像を精度良く視認できる。
・スクリーンの形状がゆがんでいても、基本的に、投影された画像と同じ画像を使用者が視認できる。したがって、スクリーンの形状の自由度が高くなり、各種の形状を採用できる。
・別々の場所から投影された光は、それぞれ光源の方向に反射するため、1つのスクリーンでいくつもの映像を提示することができる。このため、同時に同じスクリーンを見ている複数の使用者に対して、それぞれの視点に対応した画像を提示できる。
【0095】
さらに、本実施形態のスクリーン3は、外側に凸となる円弧面を備えている。スクリーン3における円弧面の部分に投影画像を提示することにより、使用者10が移動しても、投影画像を観察することが可能になる。使用者10が移動した場合でも、適宜な周期で投影画像を生成し続けることによって、違和感の少ない投影画像を使用者に提示することができる。
【0096】
また、本実施形態では、投影画像を生成する処理を
(1)背景画像と、視点画像との間における、対応点を取得する処理;及び
(2)対応点の情報に基づいて、背景画像を射影変換する処理
により実施している。このように、対応点の情報に基づいて、背景画像を射影変換することにより、視点から見た環境画像に対して違和感の少ない投影画像を生成することができる。しかも、本実施形態では、立体構造モデルを生成しなくても、いわゆるイメージベースド・レンダリングの手法により、投影画像を生成することができる。したがって、処理部5への負担が軽くなり、背景画像を短い周期で生成することが可能になる。
【0097】
また、本実施形態では、投影画像を、スクリーン3とそのスクリーンの周囲との両者にわたるように投影している。したがって、本実施形態では、スクリーン3を移動させたり、使用者10が移動した場合であっても、スクリーン3がプロジェクタ4の投影範囲内にあれば、違和感の少ない投影画像をスクリーン上に提示することができる。
【0098】
また、本実施形態の装置では、プロジェクタ4の投影角を広く設定することができる。スクリーン3の外側に存在する、再帰性反射材ではない物体に投影される画像については、ほとんどの光が視点の方向に反射しないため、実質的に使用者には視認されない。
【0099】
また、プロジェクタ4の投影範囲をスクリーン上のみに制限しようとすると、そのための装置構成が必要になってしまう。これに対して、この実施形態では、そのような装置構成が不要になり、装置コストや設置コストの低減を図ることができる。また、この実施形態では、視点画像に対して矛盾のない投影画像を生成して投影するので、広範囲に投影された画像が当該使用者に視認されても、支障は少ないと考えられる。
【0100】
さらに、本実施形態では、視点カメラ1及びプロジェクタ4を、使用者10の頭部に装着している。これにより、使用者10が移動しても、視点カメラ1びプロジェクタ4を使用者10の視点と共役な位置に保つことが容易となる。また、視点カメラ1及びプロジェクタ4を、使用者10の頭部に装着することにより、使用者10の視点と、カメラ1及びプロジェクタ4における共役点とを物理的に(例えば固定具により)接続することができる。このため、この実施形態の装置では、視点画像を精度良く生成することができる。さらには、視点に共役となる位置にプロジェクタ4を精度良く取り付けることができるので、使用者10にとっては、投影画像を正確に視認することが容易になる。
【0101】
本実施形態における各種の処理は、適宜のコンピュータプログラムにより、コンピュータ上で実行することができる。例えば、処理部5における処理は、コンピュータプログラムによる処理が適切である。
【0102】
(第2実施形態)
次に、本発明の第2実施形態に係る情報提示装置を、図12に基づいて説明する。この第2実施形態の説明においては、前記した第1実施形態で説明した構成要素と基本的に共通する要素については、同一符号を付することにより、説明を簡略化する。
【0103】
第2実施形態においては、スクリーン3が、平板状に構成されている。そして、スクリーン3の前面(使用者側の面)が再帰性反射面とされている。また、背景カメラ2は、スクリーン3の背面側に取り付けられている。
【0104】
第2実施形態の装置では、スクリーン3を手で持ちながら、適宜の位置にスクリーン3を移動させることができる。その際、スクリーン3と使用者10との位置関係に応じた適切な投影画像をスクリーン3に投影することができる。その投影画像を使用者10が環境内で視認することにより、使用者10は、スクリーン3があたかも環境に埋没しているかのような感覚を受けることができる。また、投影画像の縮尺を拡大または縮小することにより、スクリーン3を、あたかも凸または凹レンズのように認識させることも可能である。
【0105】
第2実施形態における他の構成及び利点は、第1実施形態と基本的に同様なので、これ以上詳細な説明は省略する。
【0106】
(第3実施形態)
次に、本発明の第3実施形態に係る情報提示装置を、図13に基づいて説明する。この第3実施形態の説明においては、前記した第1実施形態で説明した構成要素と基本的に共通する要素については、同一符号を付することにより、説明を簡略化する。
【0107】
第3実施形態においては、スクリーン3が、球体状に構成されている。そして、スクリーン3の全面が再帰性反射面とされている。また、背景カメラ2は複数とされている。複数の背景カメラ2は、スクリーン3の周囲に、外側を向く状態で取り付けられている。
【0108】
第3実施形態の装置でも、スクリーン3を手で持ちながら、適宜の位置にスクリーン3を移動させることができる。その際、スクリーン3と使用者10との位置関係に応じた適切な投影画像をスクリーン3に投影することができる。
【0109】
さらに、第3実施形態の装置では、複数の背景カメラ2によって、広い範囲における背景を取得しておくことができる。したがって、使用者10がスクリーン3の側面や背面をのぞき込んだ場合でも、スクリーン3と使用者10との位置関係に応じた適切な投影画像をスクリーン3に投影することができる。
【0110】
第3実施形態における他の構成及び利点は、第1実施形態と基本的に同様なので、これ以上詳細な説明は省略する。
【0111】
(第4実施形態)
次に、本発明の第4実施形態に係る情報提示装置を、図14に基づいて説明する。この第4実施形態の説明においては、前記した第1実施形態で説明した構成要素と基本的に共通する要素については、同一符号を用いることにより、説明を簡略化する。
【0112】
第4実施形態においては、スクリーン3に投影された画像を再び取得することにより、投影画像に対してフィードバックをかける構成となっている。以下、図14に従って、フィードバックをかける処理について説明する。
【0113】
(ステップSB−1)
第1実施形態に従ってスクリーン3に投影された画像を、視点カメラ2によって再び取得する。
【0114】
(ステップSB−2)
ついで、視点カメラ2で取得された画像(つまりスクリーン上で表示された画像)と、プロジェクタ4から投影された画像(投影画像)とを、処理部5において比較する。
【0115】
(ステップSB−3)
表示された画像と投影された画像とが同じとなるように、投影画像を補正する。なお、このとき画像どうしを比較するための特徴量としては、色や輝度など、適宜のものを用いることができる。表示画像と投影画像とが十分に近い場合には、補正を省略することができる。
【0116】
(ステップSB−4)
補正された投影画像をスクリーン3に投影する。その後、さらに、視点カメラ2により、スクリーン上の画像と初期の投影画像とを再び比較することにより、投影画像を再び補正することができる。
【0117】
第4実施形態における他の構成及び利点は、第1実施形態と基本的に同様なので、これ以上詳細な説明は省略する。
【0118】
なお、前記実施形態及び実施例の記載は単なる一例に過ぎず、本発明に必須の構成を示したものではない。各部の構成は、本発明の趣旨を達成できるものであれば、上記に限らない。
【0119】
例えば、前記した各機能要素(例えば処理部5)は、機能ブロックとして存在していればよく、独立したハードウエアとして存在しなくても良い。また、実装方法としては、ハードウエアを用いてもコンピュータソフトウエアを用いても良い。さらに、本発明における一つの機能要素が複数の機能要素の集合によって実現されても良く、本発明における複数の機能要素が一つの機能要素により実現されても良い。
【0120】
また、機能要素は、物理的に離間した位置に配置されていてもよい。この場合、機能要素どうしがネットワークにより接続されていても良い。グリッドコンピューティングにより機能を実現し、あるいは機能要素を構成することも可能である。
【図面の簡単な説明】
【0121】
【図1】本発明の第1実施形態に係る情報提示装置の概略的な構成を説明するためのブロック図である。
【図2】図1の装置における要部の拡大図である。
【図3】図1に示される装置を用いた情報提示方法の一例を説明するためのフローチャートである。
【図4】使用者とスクリーンと外部環境との位置関係を説明するための説明図である。
【図5】使用者とスクリーンとの位置関係を説明するための説明図である。
【図6】カメラで取得したレンズの歪み補正の一例を説明するための図である。図(a)は、補正前の背景画像を示す。図(b)は、補正後の背景画像を示す。図(c)は、補正前の視点画像を示す。図(d)は、補正後の視点画像を示す。
【図7】背景画像と視点画像との間における対応点を説明するための説明図である。
【図8】射影変換の原理を説明するための説明図である。
【図9】射影変換行列を用いた射影変換の一例を示す図である。図(a)は、変換前の背景画像を示す。図(b)は、変換後の背景画像を示す。図(b)では、参考のため、枠で囲まれた背景画像の周囲に、視点画像を表している。
【図10】図(a)は、スクリーンに向けて投影画像を投影した状態を説明する図である。図(b)は図(a)の一部拡大図である。
【図11】視点を様々に変化させた状態で投影画像を生成し、投影した状態を説明する図である。図(a)は、スクリーンから視点が離れた場合を示す。図(b)は、視点がスクリーンに近付いた場合を示す。図(c)は、斜め方向からスクリーンを見た場合を示す。図(d)は、視点を回転させた場合を示す。
【図12】本発明の第2実施形態に係る情報提示装置を説明するための説明図である。
【図13】本発明の第3実施形態に係る情報提示装置を説明するための説明図である。
【図14】本発明の第4実施形態に係る情報提示装置を説明するためのフローチャートである。
【符号の説明】
【0122】
1 視点カメラ
11 視点画像
2 背景カメラ
21 背景画像
3 スクリーン
4 プロジェクタ
5 処理部
6 第1ハーフミラー
7 第2ハーフミラー
8 ケーシング
9 外部環境
10 使用者
101 使用者の視点
【技術分野】
【0001】
本発明は、情報提示装置に関するものである。より詳しくは、本発明は、スクリーンによって視野から隠蔽されている環境についての情報を、スクリーンに提示することができる装置に関するものである。
【背景技術】
【0002】
比較的に小型のスクリーンに画像を投影することにより、オーグメンティド・リアリティ(Augmented Reality: AR)あるいは複合現実感(Mixed Reality: MR)を提供しようとする技術が、下記特許文献1や下記非特許文献1に記載されている。
【0003】
これらの文献に記載の技術においては、小型のスクリーンに様々な画像を投射することにより、ARやMRを提供できるようになっている。また、これらの技術では、スクリーンの後ろ側にあると想像される環境の画像をスクリーンに投影することにより、スクリーンの存在を、使用者から認識されにくくすることもできる。つまり、この技術においては、スクリーンを構成する物体を、スクリーンとしてではなく、あたかも環境の一部であるかのように認識させることができる。
【0004】
具体的には、これらの技術では、スクリーンの周囲における環境(外部環境)の画像に対して違和感が少ない画像をスクリーンに提示する。これにより、あたかもスクリーンを外部環境に埋没させることができ、その結果、スクリーンの存在感を希薄とすることができる。なお、前記したようにスクリーンの存在感が希薄となることを、ARやMRの分野では、「透明化」と称することがある。
【0005】
ところで、従来の技術では、外部環境に対して違和感のない画像をスクリーンに投射するために、使用者における眼球の位置や視線の向きを常に測定している。そして、測定された位置や向きから見えるはずの画像と矛盾しない画像を生成して、スクリーンに投射する。これにより、スクリーンの透明化を適切に行うことができる。
【0006】
ここで、使用者の視線の向きを常に測定するためには、例えば使用者の頭部に、眼球位置や視線検出のための計測装置を取り付ける必要がある。この計測装置は、三次元な位置や向き(姿勢)を計測できるようになっている。このような計測装置は、例えば変位センサや加速度センサを用いて構成できる。
【特許文献1】特開2000−122176号公報
【非特許文献1】INAMI, M., KAWAKAMI, N., AND TACHI, S. 2003. Optical camouflage using retro-reflective projection technology. In Proc. of the 2nd ISMAR '03.
【発明の開示】
【発明が解決しようとする課題】
【0007】
しかしながら、使用者の頭部に計測装置を取り付けると、その使用者の動きが、計測装置自体やそのための配線によって制約されてしまう。また、従来の計測装置では、使用者の眼球の位置や向きを精度良く計測することが難しいという不都合もあった。眼球の位置や向きの測定精度が劣化すると、投射された画像と外部環境と間の違和感が大きくなり、その結果、スクリーンの透明化が妨げられるおそれがある。
【0008】
この問題を避けるため、環境中(例えば室内の天井など)に測定装置を取り付け、使用者の動きを観察することによって眼球の位置や向きを計測することも考えられる。しかしながら、このような技術では、使用者の移動可能な範囲が、計測可能な範囲(例えば室内)のみに制限されてしまう。また、この技術でも、眼球の位置や向きを精度良く計測することは依然として難しいという問題がある。しかも、外部に測定装置を設置すると、装置全体が大型化ないし複雑化し、装置コストや設置コストが増大するという問題もある。
【0009】
本発明は、このような状況に鑑みてなされたものである。本発明の主な目的は、使用者の眼球の位置や向きを直接に測定することを不要としながら、外部環境に対して違和感の少ない画像をスクリーンに提示することを可能にする技術を提供することである。
【課題を解決するための手段】
【0010】
本発明は、下記のいずれかの項目に記載の構成を備えている。
【0011】
(項目1)
視点カメラと、背景カメラと、スクリーンと、プロジェクタと、処理部とを備えており、
前記視点カメラは、使用者の視点と共役となる位置に配置されており、
かつ、前記視点カメラは、前記視点から前記スクリーンの方向を見たときの、前記スクリーン及びその周囲についての画像を視点画像として取得する構成となっており、
前記背景カメラは、前記視点から前記スクリーンを見たときに前記スクリーンの後ろ側に存在する環境についての画像を背景画像として取得する構成となっており、
前記スクリーンは、前記使用者の視野内において、背景と共に使用者に視認される程度に小さいサイズとされており、
かつ、前記スクリーンは、前記プロジェクタから投影された画像の少なくとも一部を、前記使用者の視点に向けて反射することができる構成となっており、
前記プロジェクタは、前記視点及び前記視点カメラと共役となる位置に配置されており、
かつ、前記プロジェクタは、前記処理部で生成された投影画像を前記スクリーンに投影する構成となっており、
前記処理部は、
前記背景カメラで取得した前記背景画像と、前記視点カメラで取得した前記視点画像とを対応させることにより、前記背景画像を、前記視点から前記スクリーンの後ろ側を見た場合の画像に変換し、これによって、投影画像を生成する処理を行う
構成となっており、
さらに、前記処理部は、生成された前記投影画像を前記プロジェクタに送る構成となっている
ことを特徴とする情報提示装置。
【0012】
視点カメラを使用者の視点と共役な位置に配置することにより、視点から見た画像を視点カメラで取得することができる。なお、この明細書では、視点カメラで得られた画像(この画像は、視点から見たときの画像に相当している)を視点画像と称している。
【0013】
また、この発明では、プロジェクタを、使用者の視点及び視点カメラと共役な位置に配置している。すると、視点カメラで取得した視点画像と同じ画像を仮にプロジェクタからスクリーンに投影すると、使用者は、その画像を違和感なく観察することが可能になる。
【0014】
本発明では、視点カメラで取得した視点画像を基準として、背景画像を変換し、これによって、投影画像を生成して、スクリーン上に提示することができる。生成された投影画像は、視点画像を基準として変換されているので、視点画像に対して違和感が少ないものとすることができる。一方、使用者は、スクリーンに提示された投影画像と、スクリーンの周囲の環境とを同時に観察することができる。このとき、使用者は、投影画像と周囲の環境との間における違和感をあまり感じないので、スクリーンが周囲環境に埋没しているかのように感じることができる。
【0015】
しかも、本発明では、視点画像を基準として背景画像を変換しているので、使用者の眼球の位置や姿勢を測定する必要がない。このため、眼球の位置や姿勢を測定する装置の設置を省略することが可能になり、使用者の移動を容易にすることができる。
【0016】
また、本発明では、視点画像を基準として背景画像を変換しているので、測定された眼球の位置や姿勢を基準にする場合に比較して、一層適切な投影画像を生成することが可能になる。
【0017】
(項目2)
前記背景カメラは、前記スクリーンの背面側の位置に配置されている、項目1に記載の情報提示装置。
【0018】
スクリーンの背面側に背景カメラを設置することにより、背景画像の取得が容易となる。
【0019】
(項目3)
前記背景カメラは、前記視点カメラとほぼ同じ向きに配置されている、項目2に記載の情報提示装置。
【0020】
背景カメラと視点カメラの向きが大きく異なると、遮蔽関係(いわゆるオクルージョン)において、背景画像と視点画像との間の矛盾を生じる可能性が高まる。これに対して、この項目の発明では、両カメラがの向きをほぼ同じとすることにより、このような問題の回避を容易とすることができる。
【0021】
(項目4)
前記スクリーンは、再帰性反射スクリーンとされている、項目1〜3のいずれか1項に記載の情報提示装置。
【0022】
スクリーンを拡散反射スクリーンとした場合には、スクリーンに投射された画像が、外乱光(例えば環境中に存在する光)の影響により、使用者からは見づらくなる可能性がある。これに対して、この項目の発明では、再帰性反射スクリーンを用いることにより、スクリーンに投射された画像の輝度は、外乱光に対して十分に強くなる。このため、スクリーンに提示される投射画像の視認性を向上させることができる。
【0023】
(項目5)
前記スクリーンは、外側に凸となる円弧面を備えている、項目1〜4のいずれか1項に記載の情報提示装置。
【0024】
外側に凸となる円弧面を備えたスクリーンとは、例えば、球状スクリーン、円筒状スクリーンであるが、これらには制限されない。
【0025】
円弧面上に投影画像を提示することにより、使用者が移動しても、投影画像を観察することが可能になる。使用者が移動することにより、視点画像や背景画像も変化する場合は、適宜な周期で投影画像を再生成することにより、違和感の少ない投影画像を使用者に提示することができる。
【0026】
(項目6)
前記背景カメラは、複数とされており、
かつ、前記背景カメラは、前記円弧面の後ろ側に存在する環境の画像を取得するように配置されており、
さらに、前記複数の背景カメラの向きは、互いに異なっている
項目5に記載の情報提示装置。
【0027】
互いに向きの異なる複数のカメラを用いることにより、使用者が移動しても、移動位置に応じた適切な背景画像を取得することが容易になる。例えば円筒状スクリーンを用いた場合は、スクリーンの外周面から、その外側の方向(半径の延長方向)に向けてカメラを設置することが好ましい。
【0028】
(項目7)
前記処理部において、前記投影画像を生成する処理は、以下の処理により行われる、項目1〜6のいずれか1項に記載の情報提示装置:
(1)前記背景画像と、前記視点画像との間における、対応点を取得する処理;
(2)前記対応点の情報に基づいて、前記背景画像を射影変換する処理。
【0029】
対応点の情報に基づいて、背景画像を射影変換することにより、視点から見た環境画像に対して違和感の少ない投影画像を生成することができる。しかも、この項目の発明では、立体構造モデルを生成しなくても、いわゆるイメージベースド・レンダリング(Image-Based Rendering: IBR)の手法により、投影画像を生成することができる。
【0030】
(項目8)
前記プロジェクタから投影される前記投影画像は、前記スクリーンと、前記スクリーンの外側とにわたって投影される構成となっている
項目1〜7のいずれか1項に記載の情報提示装置。
【0031】
投影画像を、スクリーンとそのスクリーンの周囲との両者にわたるように投影することができる。この場合には、スクリーンを移動させたり、使用者が移動した場合であっても、スクリーンがプロジェクタの投影範囲内にあれば、違和感の少ない投影画像をスクリーン上に提示することができる。
【0032】
また、この項目の発明では、プロジェクタの投影範囲(投影角)を予め広く設定することができる。プロジェクタの投影範囲をスクリーン上のみに制限しようとすると、そのための装置構成が必要になってしまう。これに対して、この項目の発明では、そのような装置構成が不要になり、装置コストや設置コストの低減を図ることができる。また、この発明では、視点画像に対して矛盾のない投影画像を生成して投影するので、広範囲に投影された画像が当該使用者に視認されても、支障は少ないと考えられる。
【0033】
(項目9)
前記視点カメラ及び/又は前記プロジェクタは、使用者の頭部に装着される構成となっている
項目1〜8のいずれか1項に記載の情報提示装置。
【0034】
カメラ及び/又はプロジェクタを使用者の頭部に設置することにより、使用者が移動しても、カメラ及びプロジェクタを使用者の視点と共役な位置に保つことが容易となる。また、視点カメラ及び/又はプロジェクタを、使用者の頭部に装着することにより、使用者の視点と、カメラやプロジェクタにおける共役点とを物理的に(例えば固定具により)接続することができる。このため、この項目の発明では、視点画像を精度良く生成することができる。さらには、使用者にとって、投影画像を正確に視認することが容易になる。
【0035】
(項目10)
以下のステップを備えることを特徴とする情報提示方法:
(a)使用者の視点からスクリーンの方向を見たときの、スクリーン及びその周囲についての画像を視点画像として取得するステップ;
(b)前記視点から前記スクリーンを見たときに前記スクリーンの後ろ側に存在する環境についての画像を背景画像として取得するステップ;
(c)前記背景カメラで取得した前記背景画像と、前記視点カメラで取得した前記視点画像とを対応させることにより、前記背景画像を、前記視点から前記スクリーンの後ろ側を見た場合の画像に変換し、これによって、投影画像を生成するステップ;
(d)前記処理部で生成された投影画像を、前記視点の位置から、前記スクリーンに投影するステップ。
【0036】
(項目11)
項目10に記載の各ステップをコンピュータに実行させるためのコンピュータプログラム。
【0037】
このコンピュータプログラムは、各種の記録媒体、例えば、磁気的記録媒体(ハードディスクなど)、電気的記録媒体(フラッシュメモリやDRAMなど)、光学的記録媒体(CDやDVDなど)、光磁気的記録媒体(MOなど)に記録することができる。記録媒体の種類はこれらに制約されない。また、このプログラムは、各種の媒体(光ファイバや銅線など)を介して、信号として伝達されることができる。
【0038】
このプログラムは、各種の言語(例えばC言語やアセンブリ言語)により記述されることができる。また、このプログラムは、実行前にコンパイルを要する言語で記述されてもよい。この場合において、このプログラムは、コンパイル前のものであっても、コンパイル後のものであってもよい。
【発明の効果】
【0039】
本発明によれば、使用者の眼球の位置や向きを直接に測定することを不要としながら、外部環境に対して違和感の少ない画像をスクリーンに提示することが可能になる。
【発明を実施するための最良の形態】
【0040】
(第1実施形態)
以下、本発明の第1実施形態に係る情報提示装置の構成を、図1及び図2に基づいて説明する。
【0041】
(第1実施形態の構成)
本実施形態に係る情報提示装置は、視点カメラ1と、背景カメラ2と、スクリーン3と、プロジェクタ4と、処理部5と、第1ハーフミラー6と、第2ハーフミラー7と、ケーシング8とを主要な構成として備えている(図1参照)。
【0042】
視点カメラ1は、使用者10の視点101と共役となる位置に配置されている。具体的には、視点カメラ1と視点101との間には、第1ハーフミラー6と第2ハーフミラー7とが配置されており、これによって、視点カメラ1と視点101とが共役となっている。
【0043】
視点カメラ1は、視点101からスクリーン3の方向を見たときの、スクリーン3及びその周囲についての画像を取得する構成となっている。このように取得された画像を、この明細書では視点画像と称している。
【0044】
視点カメラ1は、プロジェクタ4及び第1ハーフミラー6と共に、ケーシング8の内部に収納されている(ケーシング8については後述する)。
【0045】
この実施形態では、視点カメラ1の画角は、スクリーン3だけでなく、スクリーン3の周囲(外側)にわたる画像を撮影できるように設定されている。つまり、本実施形態における視点カメラ1は、スクリーン3の周囲における環境の画像も撮影できる構成となっている。
【0046】
視点カメラ1は、画像データを取得して処理部5に送ることができるように構成されている。視点カメラ1は、静止画に限らず、動画を取得するものであってもよい。動画は静止画の連続として把握できるので、本明細書の説明においては、静止画を前提として説明する。視点カメラ1は、既定の周期で、視点画像を取得するようになっている。既定の周期は、適宜に設定できる。例えば、1秒当たり10〜60枚程度の画像を取得することが好ましいが、処理部5の能力などの制約条件によって上限が決まる。
【0047】
背景カメラ2は、視点101からスクリーン3を見たときにスクリーン3の後ろ側に存在する環境についての画像を取得する構成となっている。このように取得された画像を、この明細書では背景画像と称している。
【0048】
背景カメラ2は、この実施形態では、円筒状に形成されたスクリーン3(後述)に取り付けられており、スクリーン3の外側方向に向けて設置されている。また、背景カメラ2は、使用者10から離間した位置(背面側の位置)に設置されている。
【0049】
背景カメラ2は、背景についての画像データを取得して処理部5に送ることができるように構成されている。背景カメラ2は、視点カメラ1と同様に、動画を取得するものであってもよいが、ここでは静止画を前提として説明する。また、背景カメラ2は、視点カメラ1と同期して、既定の周期で、背景画像を取得するようになっている。
【0050】
スクリーン3は、使用者10の視野内において、背景と共に使用者に視認される程度に小さいサイズとされている。すなわち、スクリーン3の大きさは、「スクリーン3を見たときに、スクリーン3の周囲に、スクリーン3の外部に存在する環境の画像を観察できる程度」とされている。視野の全体がスクリーンで覆われて、外部環境が観察できないような条件下では、本実施形態の技術を適用することは難しいと考えられる。
【0051】
スクリーン3は、プロジェクタ4から投影された画像の少なくとも一部を、使用者の視点に向けて反射することができる構成となっている。
【0052】
具体的には、この実施形態においては、スクリーン3は、再帰性反射スクリーンとされている。再帰性反射スクリーンとしては、再帰性反射機能を備えた各種の構成のものを利用することができる。例えば、基材(図示せず)の表面に再帰性反射材料(例えばガラスビーズ)を塗布した構成のものを利用できる。もちろん、この構成に制約される必要はない。再帰性反射スクリーンの基本的な構成としては、前記した特許文献1や非特許文献1に記載されたものと同様でよいので、これ以上詳しい説明は省略する。
【0053】
また、本実施形態におけるスクリーン3は、外側に凸となる円弧面を備えたものとなっている。具体的には、本実施形態のスクリーン3は、円筒状に形成されている。そして、その外周面が、外側に凸となる円弧面を備えたスクリーンとなっている。ただし、スクリーン3の形状としては、円筒状に限らず、例えば球状のものを用いることができる。なお、スクリーン3の形状は、プロジェクタ4の投影範囲内の大きさであれば、特に制約されない。スクリーン3の形状としては、平面,球体,円筒形のような単純な形状だけでなく、人の立体形状など、複雑な形状であってもよい。このような場合でも、プロジェクタ4によって、視点101と共役な点から画像を投影すれば、歪みの無い投影が可能になる。
【0054】
プロジェクタ4は、視点101及び視点カメラ1と共役となる位置に配置されている。具体的には、プロジェクタ4は、第1ハーフミラー6の作用により、視点101と共役となっている。さらに、プロジェクタ4は、第2ハーフミラー7の作用により、視点カメラ1と共役となっている。
【0055】
プロジェクタ4は、処理部5で生成された投影画像(後述)を、第1及び第2ハーフミラー6及び7を介して、スクリーン3に投影する構成となっている。
【0056】
この実施形態では、プロジェクタ4から投影される投影画像は、スクリーン3だけでなく、スクリーン3の周囲(外側)にわたって投影される構成となっている。つまり、本実施形態におけるプロジェクタ4の投影角は、スクリーン3の周囲にまで画像を投影できる大きさに設定されている。
【0057】
プロジェクタ4及び視点カメラ1は、前記したように、ケーシング8の内部に収納されている(図2参照)。ケーシング8は、図示しない固定具により、使用者の頭部(例えば側頭部)に固定されるようになっている。もちろん、固定を解除すれば、ケーシング8を頭部から除去することもできるようになっている。
【0058】
したがって、本実施形態においては、視点カメラ1とプロジェクタ4とが、ケーシング8を介して、使用者10の頭部に装着される構成となっている。
【0059】
処理部5は、まず、背景カメラ2で取得した背景画像と、視点カメラ1で取得した視点画像とを対応させる。これにより、背景画像を、視点101からスクリーン3の後ろ側を見た場合の画像に変換できる。処理部5では、この処理によって、投影画像を生成するようになっている。さらに、処理部5は、生成された投影画像をプロジェクタ4に送る構成となっている。
【0060】
より具体的には、本実施形態の処理部5においては、投影画像を生成する処理を、以下の処理により行っている:
(1)背景画像と視点画像との間における、対応点を取得する処理;
(2)対応点の情報に基づいて、背景画像を射影変換する処理。
【0061】
処理部5は、例えば、パーソナルコンピュータやワークステーションなどの適宜のハードウエアと、このハードウエアを動作させる適宜なプログラムによって構成することができる。処理部5における具体的な動作は後述する。
【0062】
(第1実施形態の動作)
次に、本実施形態に係る情報提示装置の動作を、図3に示すフローチャートを主に参照しながら説明する。また、使用者10とスクリーン3と環境との配置関係の一例を、図4に概略的に示す。図4において符号9は、外部環境(正確にはその一部)を示す。さらに、使用者10とスクリーン3との位置関係を、図5に概念的に示す。なお、処理部5と各カメラ及びプロジェクタとの間でデータ伝送を行うための通信路としては、無線あるいは有線を用いることができる。無線通信路を構成するためのプロトコルとしては、例えばBluetoothを用いることができるが、これには制約されない。
【0063】
(ステップSA−1及びSA−2)
背景カメラ2により、背景画像を撮影する。撮影した画像の一例を図6(a)に示す。その後、取得した背景画像におけるレンズ歪みを補正する。その結果得られた背景画像を図6(b)に示す。レンズ歪みを補正する技術については、既存技術を用いることができるので、詳細についての説明は省略する。
【0064】
(ステップSA−3及びSA−4)
前記したステップと前後して、あるいはこれらのステップと並行して、視点カメラ1により、視点画像を撮影する。撮影した画像の一例を図6(c)に示す。その後、前記したステップSA−2の場合と同様に、取得した視点画像におけるレンズ歪みを補正する。その結果得られた視点画像を図6(d)に示す。
【0065】
(ステップSA−5)
次に、補正後の背景画像と視点画像との間における対応点を探索する。対応点探索アルゴリズムの一例を、以下に詳しく説明する。
【0066】
異なる位置にあるカメラによって撮影された画像間の対応を得るのは、一般に難しい問題である。本実施形態では、背景物体が平面であるか、あるいは各カメラから十分に離れていると仮定した。その上で、背景画像と視点画像の対応を求めるために、Scale-Invariant Feature Transform(SIFT)と呼ばれる手法を用いる。SIFTとは、特徴点の検出と特徴量の記述を行うアルゴリズムである。SIFTは画像の回転・スケール変化・照明変化等に頑健な特徴量を記述する。このため、SIFTは、異なる視点から得られた画像の間の対応を求めるのに適している。また、SIFTは、画像の線形変換が行われた場合でも、画像間の対応を検出できるため、背景物体が平面であるか、もしくはカメラから十分に離れているという条件を満たせば、非常に精度よく対応を得ることができる。また、仮に、背景物体が平面である等の条件を満たさない場合でも、画像間で特徴的な点を対応付けるため、人間が見た場合において最適に近い投影画像を生成しうる技術であると考えられる。
【0067】
以下に、SIFTのアルゴリズムを概説する。SIFTの処理は、特徴点の検出と特徴量の記述の2段階から成る。
【0068】
(特徴点の検出)
特徴点の検出では、まず、スケールの異なる平滑化画像の差分である、Difference-of-Gaussian(DOG)画像から極値を探索する。これにより、候補点の位置とスケールとを決定する。次に、検出された候補点に対して、主曲率とコントラストによる絞り込みを行う。さらに、サブピクセル推定により特徴点の位置とスケールを算出する。
【0069】
(特徴量の記述)
次に、特徴量の記述を行う。まず、検出した特徴点近傍の輝度勾配から、オリエンテーションを求める。オリエンテーションの方向に回転して特徴量を記述することで、特徴量は、回転に不変となる。そして、特徴点を中心とした、その特徴点のスケールを半径とした円領域内の輝度勾配情報を、特徴ベクトルとして記述する。
【0070】
SIFTのアルゴリズムとしては、文献(例えばD. G. Lowe. Object recognition from local scaleinvariant features. In Proc. of IEEE International Conference on Computer Vision (ICCV), pp. 1150.1157, 1999.)に記載のものを用いることができるので、これ以上詳しい説明は省略する。
【0071】
特徴点を検出した結果の例を図7に示す。この図において符号11は視点画像、符号21は背景画像を示す。また、両画像間を結ぶ多数の線は、特徴点の対応関係を表している。
【0072】
(ステップSA−6)
ついで、対応点の探索結果に基づいて、射影変換行列を算出する。この算出アルゴリズムを以下に詳しく説明する。
【0073】
2台のカメラで1つの平面を撮影した場合、得られる2枚の画像間の対応は、平面射影変換によって関係づけられる。この対応関係を図8に概念的に示した。図8における符号Hが、射影変換行列である。
【0074】
2次元平面上の点
x = [x, y]T
から同じく2次元平面上の点
x′= [x′, y′]T
への射影変換は、[x1, x2, x3]T 〜 [x, y, 1]Tなる同値関係が成り立つような斉次座標
xチルダ = [x1, x2, x3]T
を用いれば、
【数1】
と書ける。ここで、s は任意の実数であり、Hは次のような3×3行列である。
【数2】
【0075】
Hを射影変換行列と呼ぶ。周期的に撮影した各画像(すなわち各フレーム)ごとに、行列Hを求める。背景カメラ2で撮影した画像を射影変換することによって、使用者10の視点101から見たときの画像が得られる。上に例示した射影変換行列Hの要素数は9であるが、全ての要素を定数倍しても同じ変換を表すため、自由度は8である。よってh33 = 1 としてもよい。対応点を1組与えれば、式1から、
【数3】
【数4】
が得られる。整理すると、
【数5】
【数6】
の2つの式が得られる。この結果、4組以上の対応が判れば、最小二乗法により、射影変換行列Hを求めることができる。
【0076】
しかし、SIFT特徴量を用いて検出した対応点には、誤対応が含まれている可能性がある。誤対応があると、外れ値の影響で射影変換後の画像が大きく歪んでしまう場合がある。そこで、RANSAC(RANdom SAmple Consensus)を用いて射影変換行列を求める。RANSACは、外れ値を含むデータの中から外れ値を排除してフィッティングを行う手法である。
【0077】
RANSACのアルゴリズムを以下に示す。
1. 幾つかの対応点をランダムに選択する。
2. 最小二乗法によりパラメータを計算する。
3. 求めたパラメータを適用したとき、設定した誤差範囲にある点の個数を評価値とする。
4. 評価値が十分に大きければ求めたパラメータを採用し、終了する。
5. 1〜4 を有限回繰り返す。
6. 十分大きな評価値が得られなければ失敗とみなし、終了する。
【0078】
こうして、正しいパラメータ(すなわち射影変換行列)を推定できる。RANSACのアルゴリズムについては、文献(例えばM. A. Fischler and R. C. Bolles. Random sample consensus: A paradigm for model fitting with applications to image analysis and automated cartography. In Commun. ACM, Vol. 6, pp. 381.395, 1981.)に記載のものを用いることができるので、これ以上詳細についての説明は省略する。
【0079】
本実施形態では、SIFT 特徴量に基づく対応点探索と、RANSAC による射影変換行列の算出を併用することによって、画像間の対応を非常に頑健とすることができる。
【0080】
(ステップSA−7)
ついで、算出された射影変換行列を用いて、背景画像に対して、射影変換を適用する。これにより、投影されるべき画像(投影画像)を生成することができる。変換の一例を図9に示す。図9(a)は背景画像の例を示す。図9(b)における枠Lで示した部分が、射影変換により生成された投影画像を示している。
【0081】
(ステップSA−8)
ついで、生成された投影画像を、プロジェクタ4からスクリーン3の方向へ投影することができる。
【0082】
スクリーン3に向けて投影された画像の例を図10に示す。図10(a)は、スクリーン(この例では円形の平面物体)に投影画像が照射され、それが、外部環境と共に視認される様子を示している。図10(b)は図10(a)における要部の拡大図である。
【0083】
図10の例では、スクリーンの周囲の画像は、現実の環境についての画像であり、スクリーン上の画像が、投影された画像である。しかし、この図に示されるように、投影画像は、環境画像と整合しているので、スクリーンは、あたかも環境中に埋没しているかのように認識される。
【0084】
視点を移動させ、それぞれの視点で得た投影画像を投影した例を図11に示す。図11(a)は、スクリーンから視点が離れた場合を示す。図11(b)は、視点がスクリーンに近付いた場合を示す。図11(c)は、斜め方向からスクリーンを見た場合を示す。図11(d)は、視点を回転させた場合を示す。
【0085】
本実施形態の装置では、視点カメラ1を使用者10の視点101と共役な位置に配置することにより、視点101から見た画像を視点カメラ1で取得することができる。
【0086】
また、この実施形態では、プロジェクタ4を、使用者10の視点101及び視点カメラ1と共役な位置に配置している。この場合、視点カメラ1で取得した視点画像と同じ画像をプロジェクタ4からスクリーンに投影すると、使用者10は、その画像を違和感なく観察することが可能になる。
【0087】
本実施形態では、視点カメラ1で取得した視点画像を基準として、背景画像を変換し、これによって、投影画像を生成して、スクリーン3に提示することができる。生成された投影画像は、視点画像を基準として変換されているので、視点画像に対して違和感が少ないものとすることができる。一方、使用者は、スクリーン3に提示された投影画像と、スクリーンの周囲の環境とを同時に観察することができる。このとき、使用者は、投影画像と周囲の環境との間における違和感をあまり感じないので、スクリーン3が周囲環境に埋没しているかのように感じることができる。つまり、この技術によれば、スクリーン3の透明化が可能になる。
【0088】
しかも、本実施形態では、視点画像を基準として背景画像を変換しているので、使用者の眼球の位置や姿勢を測定する必要がない。このため、眼球の位置や姿勢を測定する装置の設置を省略することが可能になり、使用者の移動を容易にすることができる。さらには、眼球の位置や姿勢を測定する装置の設置を省略することにより、本実施形態では、情報提示装置の製造コストや設置コストを低減しうるという利点もある。
【0089】
すなわち、本実施形態によれば、使用者の眼球の位置や向きを直接に測定することを不要としながら、外部環境に対して違和感の少ない画像をスクリーンに提示することが可能になる。
【0090】
また、測定装置により測定される眼球の位置や姿勢の精度は、使用者がどこを注視しているかを正確に推定するためには十分ではなく、このため、投影画像の精度を向上させることが難しいという問題があった。これに対して、本実施形態では、視点画像を基準として背景画像を変換しているので、測定された眼球の位置や姿勢を基準にする場合に比較して、高精度で適切な投影画像を生成することが可能になる。このため、環境に対して違和感の少ない投影画像をスクリーンに投影できるという利点がある。
【0091】
さらに、本実施形態では、スクリーン3の背面側に背景カメラ2を設置しているので、背景画像の取得が容易となるという利点もある。
【0092】
さらに、本実施形態では、背景カメラ2を、視点カメラ1とほぼ同じ向きに配置することが好ましい。背景カメラ2と視点カメラ1の向きが大きく異なると、遮蔽関係(いわゆるオクルージョン)において、背景画像と視点画像との間の矛盾を生じる可能性が高まる。これに対して、両者の向きをほぼ一致させることにより、このような問題の回避を容易とすることができる。
【0093】
また、スクリーン3を拡散反射スクリーンとした場合には、スクリーン3に投射された画像が、外乱光(例えば環境中に存在する光)の影響により、使用者10からは見づらくなる可能性がある。これに対して、本実施形態では、再帰性反射スクリーンを用いることにより、スクリーン3に投射された画像の輝度は、外乱光に対して十分に強くなる。このため、スクリーンに提示される投射画像の視認性を向上させることができる。
【0094】
スクリーン3を再帰性反射スクリーンとすることにより、さらに、以下の利点を発揮できる。
・視点位置から投影された光が視点に効率よく戻るので、投影光の光量を絞ることができる。したがって、プロジェクタを小型にし、さらに、その発熱量を低く抑えることができる。このため、プロジェクタを頭部に装着しやすくなる。
・投影光の光量を絞ることができるので、プロジェクタの焦点深度を深くすることができる。このため、プロジェクタの焦点位置の調整を厳密に行わなくとも、スクリーン上の画像を精度良く視認できる。
・スクリーンの形状がゆがんでいても、基本的に、投影された画像と同じ画像を使用者が視認できる。したがって、スクリーンの形状の自由度が高くなり、各種の形状を採用できる。
・別々の場所から投影された光は、それぞれ光源の方向に反射するため、1つのスクリーンでいくつもの映像を提示することができる。このため、同時に同じスクリーンを見ている複数の使用者に対して、それぞれの視点に対応した画像を提示できる。
【0095】
さらに、本実施形態のスクリーン3は、外側に凸となる円弧面を備えている。スクリーン3における円弧面の部分に投影画像を提示することにより、使用者10が移動しても、投影画像を観察することが可能になる。使用者10が移動した場合でも、適宜な周期で投影画像を生成し続けることによって、違和感の少ない投影画像を使用者に提示することができる。
【0096】
また、本実施形態では、投影画像を生成する処理を
(1)背景画像と、視点画像との間における、対応点を取得する処理;及び
(2)対応点の情報に基づいて、背景画像を射影変換する処理
により実施している。このように、対応点の情報に基づいて、背景画像を射影変換することにより、視点から見た環境画像に対して違和感の少ない投影画像を生成することができる。しかも、本実施形態では、立体構造モデルを生成しなくても、いわゆるイメージベースド・レンダリングの手法により、投影画像を生成することができる。したがって、処理部5への負担が軽くなり、背景画像を短い周期で生成することが可能になる。
【0097】
また、本実施形態では、投影画像を、スクリーン3とそのスクリーンの周囲との両者にわたるように投影している。したがって、本実施形態では、スクリーン3を移動させたり、使用者10が移動した場合であっても、スクリーン3がプロジェクタ4の投影範囲内にあれば、違和感の少ない投影画像をスクリーン上に提示することができる。
【0098】
また、本実施形態の装置では、プロジェクタ4の投影角を広く設定することができる。スクリーン3の外側に存在する、再帰性反射材ではない物体に投影される画像については、ほとんどの光が視点の方向に反射しないため、実質的に使用者には視認されない。
【0099】
また、プロジェクタ4の投影範囲をスクリーン上のみに制限しようとすると、そのための装置構成が必要になってしまう。これに対して、この実施形態では、そのような装置構成が不要になり、装置コストや設置コストの低減を図ることができる。また、この実施形態では、視点画像に対して矛盾のない投影画像を生成して投影するので、広範囲に投影された画像が当該使用者に視認されても、支障は少ないと考えられる。
【0100】
さらに、本実施形態では、視点カメラ1及びプロジェクタ4を、使用者10の頭部に装着している。これにより、使用者10が移動しても、視点カメラ1びプロジェクタ4を使用者10の視点と共役な位置に保つことが容易となる。また、視点カメラ1及びプロジェクタ4を、使用者10の頭部に装着することにより、使用者10の視点と、カメラ1及びプロジェクタ4における共役点とを物理的に(例えば固定具により)接続することができる。このため、この実施形態の装置では、視点画像を精度良く生成することができる。さらには、視点に共役となる位置にプロジェクタ4を精度良く取り付けることができるので、使用者10にとっては、投影画像を正確に視認することが容易になる。
【0101】
本実施形態における各種の処理は、適宜のコンピュータプログラムにより、コンピュータ上で実行することができる。例えば、処理部5における処理は、コンピュータプログラムによる処理が適切である。
【0102】
(第2実施形態)
次に、本発明の第2実施形態に係る情報提示装置を、図12に基づいて説明する。この第2実施形態の説明においては、前記した第1実施形態で説明した構成要素と基本的に共通する要素については、同一符号を付することにより、説明を簡略化する。
【0103】
第2実施形態においては、スクリーン3が、平板状に構成されている。そして、スクリーン3の前面(使用者側の面)が再帰性反射面とされている。また、背景カメラ2は、スクリーン3の背面側に取り付けられている。
【0104】
第2実施形態の装置では、スクリーン3を手で持ちながら、適宜の位置にスクリーン3を移動させることができる。その際、スクリーン3と使用者10との位置関係に応じた適切な投影画像をスクリーン3に投影することができる。その投影画像を使用者10が環境内で視認することにより、使用者10は、スクリーン3があたかも環境に埋没しているかのような感覚を受けることができる。また、投影画像の縮尺を拡大または縮小することにより、スクリーン3を、あたかも凸または凹レンズのように認識させることも可能である。
【0105】
第2実施形態における他の構成及び利点は、第1実施形態と基本的に同様なので、これ以上詳細な説明は省略する。
【0106】
(第3実施形態)
次に、本発明の第3実施形態に係る情報提示装置を、図13に基づいて説明する。この第3実施形態の説明においては、前記した第1実施形態で説明した構成要素と基本的に共通する要素については、同一符号を付することにより、説明を簡略化する。
【0107】
第3実施形態においては、スクリーン3が、球体状に構成されている。そして、スクリーン3の全面が再帰性反射面とされている。また、背景カメラ2は複数とされている。複数の背景カメラ2は、スクリーン3の周囲に、外側を向く状態で取り付けられている。
【0108】
第3実施形態の装置でも、スクリーン3を手で持ちながら、適宜の位置にスクリーン3を移動させることができる。その際、スクリーン3と使用者10との位置関係に応じた適切な投影画像をスクリーン3に投影することができる。
【0109】
さらに、第3実施形態の装置では、複数の背景カメラ2によって、広い範囲における背景を取得しておくことができる。したがって、使用者10がスクリーン3の側面や背面をのぞき込んだ場合でも、スクリーン3と使用者10との位置関係に応じた適切な投影画像をスクリーン3に投影することができる。
【0110】
第3実施形態における他の構成及び利点は、第1実施形態と基本的に同様なので、これ以上詳細な説明は省略する。
【0111】
(第4実施形態)
次に、本発明の第4実施形態に係る情報提示装置を、図14に基づいて説明する。この第4実施形態の説明においては、前記した第1実施形態で説明した構成要素と基本的に共通する要素については、同一符号を用いることにより、説明を簡略化する。
【0112】
第4実施形態においては、スクリーン3に投影された画像を再び取得することにより、投影画像に対してフィードバックをかける構成となっている。以下、図14に従って、フィードバックをかける処理について説明する。
【0113】
(ステップSB−1)
第1実施形態に従ってスクリーン3に投影された画像を、視点カメラ2によって再び取得する。
【0114】
(ステップSB−2)
ついで、視点カメラ2で取得された画像(つまりスクリーン上で表示された画像)と、プロジェクタ4から投影された画像(投影画像)とを、処理部5において比較する。
【0115】
(ステップSB−3)
表示された画像と投影された画像とが同じとなるように、投影画像を補正する。なお、このとき画像どうしを比較するための特徴量としては、色や輝度など、適宜のものを用いることができる。表示画像と投影画像とが十分に近い場合には、補正を省略することができる。
【0116】
(ステップSB−4)
補正された投影画像をスクリーン3に投影する。その後、さらに、視点カメラ2により、スクリーン上の画像と初期の投影画像とを再び比較することにより、投影画像を再び補正することができる。
【0117】
第4実施形態における他の構成及び利点は、第1実施形態と基本的に同様なので、これ以上詳細な説明は省略する。
【0118】
なお、前記実施形態及び実施例の記載は単なる一例に過ぎず、本発明に必須の構成を示したものではない。各部の構成は、本発明の趣旨を達成できるものであれば、上記に限らない。
【0119】
例えば、前記した各機能要素(例えば処理部5)は、機能ブロックとして存在していればよく、独立したハードウエアとして存在しなくても良い。また、実装方法としては、ハードウエアを用いてもコンピュータソフトウエアを用いても良い。さらに、本発明における一つの機能要素が複数の機能要素の集合によって実現されても良く、本発明における複数の機能要素が一つの機能要素により実現されても良い。
【0120】
また、機能要素は、物理的に離間した位置に配置されていてもよい。この場合、機能要素どうしがネットワークにより接続されていても良い。グリッドコンピューティングにより機能を実現し、あるいは機能要素を構成することも可能である。
【図面の簡単な説明】
【0121】
【図1】本発明の第1実施形態に係る情報提示装置の概略的な構成を説明するためのブロック図である。
【図2】図1の装置における要部の拡大図である。
【図3】図1に示される装置を用いた情報提示方法の一例を説明するためのフローチャートである。
【図4】使用者とスクリーンと外部環境との位置関係を説明するための説明図である。
【図5】使用者とスクリーンとの位置関係を説明するための説明図である。
【図6】カメラで取得したレンズの歪み補正の一例を説明するための図である。図(a)は、補正前の背景画像を示す。図(b)は、補正後の背景画像を示す。図(c)は、補正前の視点画像を示す。図(d)は、補正後の視点画像を示す。
【図7】背景画像と視点画像との間における対応点を説明するための説明図である。
【図8】射影変換の原理を説明するための説明図である。
【図9】射影変換行列を用いた射影変換の一例を示す図である。図(a)は、変換前の背景画像を示す。図(b)は、変換後の背景画像を示す。図(b)では、参考のため、枠で囲まれた背景画像の周囲に、視点画像を表している。
【図10】図(a)は、スクリーンに向けて投影画像を投影した状態を説明する図である。図(b)は図(a)の一部拡大図である。
【図11】視点を様々に変化させた状態で投影画像を生成し、投影した状態を説明する図である。図(a)は、スクリーンから視点が離れた場合を示す。図(b)は、視点がスクリーンに近付いた場合を示す。図(c)は、斜め方向からスクリーンを見た場合を示す。図(d)は、視点を回転させた場合を示す。
【図12】本発明の第2実施形態に係る情報提示装置を説明するための説明図である。
【図13】本発明の第3実施形態に係る情報提示装置を説明するための説明図である。
【図14】本発明の第4実施形態に係る情報提示装置を説明するためのフローチャートである。
【符号の説明】
【0122】
1 視点カメラ
11 視点画像
2 背景カメラ
21 背景画像
3 スクリーン
4 プロジェクタ
5 処理部
6 第1ハーフミラー
7 第2ハーフミラー
8 ケーシング
9 外部環境
10 使用者
101 使用者の視点
【特許請求の範囲】
【請求項1】
視点カメラと、背景カメラと、スクリーンと、プロジェクタと、処理部とを備えており、
前記視点カメラは、使用者の視点と共役となる位置に配置されており、
かつ、前記視点カメラは、前記視点から前記スクリーンの方向を見たときの、前記スクリーン及びその周囲についての画像を視点画像として取得する構成となっており、
前記背景カメラは、前記視点から前記スクリーンを見たときに前記スクリーンの後ろ側に存在する環境についての画像を背景画像として取得する構成となっており、
前記スクリーンは、前記使用者の視野内において、背景と共に使用者に視認される程度に小さいサイズとされており、
かつ、前記スクリーンは、前記プロジェクタから投影された画像の少なくとも一部を、前記使用者の視点に向けて反射することができる構成となっており、
前記プロジェクタは、前記視点及び前記視点カメラと共役となる位置に配置されており、
かつ、前記プロジェクタは、前記処理部で生成された投影画像を前記スクリーンに投影する構成となっており、
前記処理部は、
前記背景カメラで取得した前記背景画像と、前記視点カメラで取得した前記視点画像をとを対応させることにより、前記背景画像を、前記視点から前記スクリーンの後ろ側を見た場合の画像に変換し、これによって、投影画像を生成する処理を行う
構成となっており、
さらに、前記処理部は、生成された前記投影画像を前記プロジェクタに送る構成となっている
ことを特徴とする情報提示装置。
【請求項2】
前記背景カメラは、前記スクリーンの背面側の位置に配置されている、請求項1に記載の情報提示装置。
【請求項3】
前記背景カメラは、前記視点カメラとほぼ同じ向きに配置されている、請求項2に記載の情報提示装置。
【請求項4】
前記スクリーンは、再帰性反射スクリーンとされている、請求項1〜3のいずれか1項に記載の情報提示装置。
【請求項5】
前記スクリーンは、外側に凸となる円弧面を備えている、請求項1〜4のいずれか1項に記載の情報提示装置。
【請求項6】
前記背景カメラは、複数とされており、
かつ、前記背景カメラは、前記円弧面の後ろ側に存在する環境の画像を取得するように配置されており、
さらに、前記複数の背景カメラの向きは、互いに異なっている
請求項5に記載の情報提示装置。
【請求項7】
前記処理部において、前記投影画像を生成する処理は、以下の処理により行われる、請求項1〜6のいずれか1項に記載の情報提示装置:
(1)前記背景画像と、前記視点画像との間における、対応点を取得する処理;
(2)前記対応点の情報に基づいて、前記背景画像を射影変換する処理。
【請求項8】
前記プロジェクタから投影される前記投影画像は、前記スクリーンと、前記スクリーンの外側とにわたって投影される構成となっている
請求項1〜7のいずれか1項に記載の情報提示装置。
【請求項9】
前記視点カメラ及び/又は前記プロジェクタは、前記使用者の頭部に装着される構成となっている
請求項1〜8のいずれか1項に記載の情報提示装置。
【請求項10】
以下のステップを備えることを特徴とする情報提示方法:
(a)使用者の視点からスクリーンの方向を見たときの、スクリーン及びその周囲についての画像を視点画像として取得するステップ;
(b)前記視点から前記スクリーンを見たときに前記スクリーンの後ろ側に存在する環境についての画像を背景画像として取得するステップ;
(c)前記背景カメラで取得した前記背景画像と、前記視点カメラで取得した前記視点画像とを対応させることにより、前記背景画像を、前記視点から前記スクリーンの後ろ側を見た場合の画像に変換し、これによって、投影画像を生成するステップ;
(d)前記処理部で生成された投影画像を、前記視点の位置から、前記スクリーンに投影するステップ。
【請求項11】
請求項10に記載の各ステップをコンピュータに実行させるためのコンピュータプログラム。
【請求項1】
視点カメラと、背景カメラと、スクリーンと、プロジェクタと、処理部とを備えており、
前記視点カメラは、使用者の視点と共役となる位置に配置されており、
かつ、前記視点カメラは、前記視点から前記スクリーンの方向を見たときの、前記スクリーン及びその周囲についての画像を視点画像として取得する構成となっており、
前記背景カメラは、前記視点から前記スクリーンを見たときに前記スクリーンの後ろ側に存在する環境についての画像を背景画像として取得する構成となっており、
前記スクリーンは、前記使用者の視野内において、背景と共に使用者に視認される程度に小さいサイズとされており、
かつ、前記スクリーンは、前記プロジェクタから投影された画像の少なくとも一部を、前記使用者の視点に向けて反射することができる構成となっており、
前記プロジェクタは、前記視点及び前記視点カメラと共役となる位置に配置されており、
かつ、前記プロジェクタは、前記処理部で生成された投影画像を前記スクリーンに投影する構成となっており、
前記処理部は、
前記背景カメラで取得した前記背景画像と、前記視点カメラで取得した前記視点画像をとを対応させることにより、前記背景画像を、前記視点から前記スクリーンの後ろ側を見た場合の画像に変換し、これによって、投影画像を生成する処理を行う
構成となっており、
さらに、前記処理部は、生成された前記投影画像を前記プロジェクタに送る構成となっている
ことを特徴とする情報提示装置。
【請求項2】
前記背景カメラは、前記スクリーンの背面側の位置に配置されている、請求項1に記載の情報提示装置。
【請求項3】
前記背景カメラは、前記視点カメラとほぼ同じ向きに配置されている、請求項2に記載の情報提示装置。
【請求項4】
前記スクリーンは、再帰性反射スクリーンとされている、請求項1〜3のいずれか1項に記載の情報提示装置。
【請求項5】
前記スクリーンは、外側に凸となる円弧面を備えている、請求項1〜4のいずれか1項に記載の情報提示装置。
【請求項6】
前記背景カメラは、複数とされており、
かつ、前記背景カメラは、前記円弧面の後ろ側に存在する環境の画像を取得するように配置されており、
さらに、前記複数の背景カメラの向きは、互いに異なっている
請求項5に記載の情報提示装置。
【請求項7】
前記処理部において、前記投影画像を生成する処理は、以下の処理により行われる、請求項1〜6のいずれか1項に記載の情報提示装置:
(1)前記背景画像と、前記視点画像との間における、対応点を取得する処理;
(2)前記対応点の情報に基づいて、前記背景画像を射影変換する処理。
【請求項8】
前記プロジェクタから投影される前記投影画像は、前記スクリーンと、前記スクリーンの外側とにわたって投影される構成となっている
請求項1〜7のいずれか1項に記載の情報提示装置。
【請求項9】
前記視点カメラ及び/又は前記プロジェクタは、前記使用者の頭部に装着される構成となっている
請求項1〜8のいずれか1項に記載の情報提示装置。
【請求項10】
以下のステップを備えることを特徴とする情報提示方法:
(a)使用者の視点からスクリーンの方向を見たときの、スクリーン及びその周囲についての画像を視点画像として取得するステップ;
(b)前記視点から前記スクリーンを見たときに前記スクリーンの後ろ側に存在する環境についての画像を背景画像として取得するステップ;
(c)前記背景カメラで取得した前記背景画像と、前記視点カメラで取得した前記視点画像とを対応させることにより、前記背景画像を、前記視点から前記スクリーンの後ろ側を見た場合の画像に変換し、これによって、投影画像を生成するステップ;
(d)前記処理部で生成された投影画像を、前記視点の位置から、前記スクリーンに投影するステップ。
【請求項11】
請求項10に記載の各ステップをコンピュータに実行させるためのコンピュータプログラム。
【図1】
【図2】
【図3】
【図5】
【図8】
【図12】
【図13】
【図14】
【図4】
【図6】
【図7】
【図9】
【図10】
【図11】
【図2】
【図3】
【図5】
【図8】
【図12】
【図13】
【図14】
【図4】
【図6】
【図7】
【図9】
【図10】
【図11】
【公開番号】特開2009−288613(P2009−288613A)
【公開日】平成21年12月10日(2009.12.10)
【国際特許分類】
【出願番号】特願2008−142299(P2008−142299)
【出願日】平成20年5月30日(2008.5.30)
【公序良俗違反の表示】
(特許庁注:以下のものは登録商標)
1.Bluetooth
【国等の委託研究の成果に係る記載事項】(出願人による申告)国等の委託研究の成果に係る特許出願(平成19年度、科学技術振興機構戦略的創造推進事業「デジタルパブリックアートを創出する技術」、産業技術力強化法第19条の適用を受けるもの)
【出願人】(504137912)国立大学法人 東京大学 (1,942)
【Fターム(参考)】
【公開日】平成21年12月10日(2009.12.10)
【国際特許分類】
【出願日】平成20年5月30日(2008.5.30)
【公序良俗違反の表示】
(特許庁注:以下のものは登録商標)
1.Bluetooth
【国等の委託研究の成果に係る記載事項】(出願人による申告)国等の委託研究の成果に係る特許出願(平成19年度、科学技術振興機構戦略的創造推進事業「デジタルパブリックアートを創出する技術」、産業技術力強化法第19条の適用を受けるもの)
【出願人】(504137912)国立大学法人 東京大学 (1,942)
【Fターム(参考)】
[ Back to top ]