説明

情報入力装置

【課題】HMDを用いた情報入力装置において、仮想表示された映像に、容易に、且つ正確に情報を入力することが可能な情報入力装置を提供する。
【解決手段】頭部や顔面に装着され映像を表示し外界をシースルー可能な表示手段と、映像が仮想表示される仮想表示枠と、仮想表示された映像に情報を入力するポインターと、を備えた情報入力装置であって、仮想表示枠の位置およびポインターの位置を検出する位置検出手段と、位置検出手段で検出されたポインターの位置の軌跡を映像に合成する合成手段と、位置検出手段で検出された仮想表示枠の位置に応じて映像が仮想表示される位置を制御する表示位置制御手段と、を備える。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、情報入力装置に関し、特に頭部装着式映像表示装置を用いた情報入力装置に関する。
【背景技術】
【0002】
従来、VR(Virtual reality:仮想現実)の分野においては、頭部装着式映像表示装置、すなわちHMD(Head Mount Display)を用いた情報入力装置が知られている。
【0003】
情報入力装置は、HMDによって仮想表示されたDVD、ビデオ等のコンテンツ映像やテキスト映像等に対して、例えばタッチパネルやポインター等の入力装置を用いて、文字等の情報を入力することができるようになされている。これにより現実世界における操作と同様の操作で仮想現実の世界において所望の情報を入力することが可能となる。そして、近年このような情報入力装置が種々提案されている。
【0004】
例えば、情報入力を行う指の位置を3次元座標測定装置を用いて検出し、検出した座標に基づいて仮想表示された映像に情報入力を行う様にした情報入力装置の技術(特許文献1参照)、また、入力装置にタッチパネルを用い、タッチパネルの位置を検出する為にタッチパネルの周縁に複数の光源を設け、各光源を異なる点滅パターンで点滅制御することにより、タッチパネルを流し撮りした場合においても光源の位置、すなわちタッチパネルの位置を容易に検出することができる様にした情報入力装置の技術(特許文献2参照)が知られている。
【特許文献1】特開平7−5978号公報
【特許文献2】特開2000−172430号公報
【発明の開示】
【発明が解決しようとする課題】
【0005】
しかしながら、特許文献1に開示されている情報入力装置においては、情報入力を行う指の位置を3次元座標測定装置を用いて検出する様にしているので、装置の複雑化と高価格化を招く恐れがあり、また、高い精度で指の位置を検出することは困難なものと考えられる。また、特許文献2に開示されている情報入力装置においては、入力装置としてのタッチパネルや、タッチパネルの位置を検出する為にタッチパネルの周縁に設けられた複数の光源を異なる点滅パターンで点滅制御を行う点滅制御装置を必要とする。したがって、装置の複雑化と高価格化を招く恐れがある。また、HMDは外界をシースルー不能であり、装着者の頭の動きといっしょに仮想表示された映像も移動することから、現実世界と仮想世界との位置にずれが生じる。これにより適切な位置に情報を入力することができなくなる。
【0006】
本発明は、上記課題を鑑みてなされたもので、HMDを用いた情報入力装置において、装置の複雑化と高価格化を招くことなく、仮想表示された映像に、容易に、且つ正確に情報を入力することが可能な情報入力装置を提供することを目的とする。
【課題を解決するための手段】
【0007】
上記目的は、下記の1乃至9のいずれか1項に記載の発明によって達成される。
【0008】
1.頭部や顔面に装着され映像を表示し外界をシースルー可能な表示手段と、前記映像が仮想表示される仮想表示枠と、仮想表示された前記映像に情報を入力するポインターと、を備えた情報入力装置であって、
前記仮想表示枠の位置および前記ポインターの位置を検出する位置検出手段と、
前記位置検出手段で検出された前記ポインターの位置の軌跡を前記映像に合成する合成手段と、
前記位置検出手段で検出された前記仮想表示枠の位置に応じて前記映像が仮想表示される位置を制御する表示位置制御手段と、を有することを特徴とする情報入力装置。
【0009】
2.前記位置検出手段は、外界を撮影しズーム機能を備えたカメラユニットを有することを特徴とする前記1に記載の情報入力装置。
【0010】
3.前記位置検出手段は、前記カメラユニットで撮影された映像のコントラストに基づいて前記仮想表示枠の位置および前記ポインターの位置を検出することを特徴とする前記1または2に記載の情報入力装置。
【0011】
4.前記仮想表示枠は、その面上に枠が設けられたシートであり、
前記枠と前記シートの光の反射率は異なることを特徴とする前記1乃至3のいずれか1項に記載の情報入力装置。
【0012】
5.前記合成手段は、前記位置検出手段で検出された前記仮想表示枠の位置に基づいて、所定の映像や情報を前記表示手段に出力することを特徴とする前記1乃至4のいずれか1項に記載の情報入力装置。
【0013】
6.前記ポインターは、ペン型形状に形成されていることを特徴とする前記1に記載の情報入力装置。
【0014】
7.前記ポインターは、一方の端に光源を備え、
前記光源が対象物に加圧接触されると該光源は点灯することを特徴とする前記6に記載の情報入力装置。
【0015】
8.前記合成手段で前記ポインターの位置の軌跡を前記映像に合成する入力モードと前記映像に合成された前記ポインターの位置の軌跡の全てを消去する全消去モードとその一部を消去する部分消去モードのいずれかを選択するモード切替えスイッチを有することを特徴とする前記1乃至7のいずれか1項に記載の情報入力装置。
【0016】
9.前記モード切替えスイッチによって、前記部分消去モードが選択されている場合、前記合成手段によって前記映像に合成され前記仮想表示枠に仮想表示された前記ポインターの位置の軌跡を前記ポインターでトレースすることにより、該軌跡のトレースされた部位が消去されることを特徴とする前記1乃至8のいずれか1項に記載の情報入力装置。
【発明の効果】
【0017】
本発明によれば、表示位置制御手段は、位置検出手段で検出された仮想表示枠の位置に応じて映像が仮想表示される位置を制御する様にした。すなわち、装着者が頭部を動かすことにより、仮想表示枠の位置と仮想表示される映像の位置にずれが生じた場合においても、表示位置制御手段は、位置検出手段で検出された仮想表示枠の位置に応じて映像が仮想表示される位置を移動させることができる。したがって、装着者の頭部の移動に影響されることなく、仮想表示枠の位置と仮想表示される映像の位置を一致させることができる。これにより、現実世界と仮想世界との位置のずれがなくなり、装着者は、仮想表示された映像に、容易に、且つ正確に情報を入力することができる。
【0018】
また、位置検出手段は、外界を撮影しズーム機能を備えたカメラユニットを備える様にした。したがって、カメラユニットで撮影された映像データに基づいて仮想表示枠の位置およびポインターの位置を容易に検出することができる。また、装着者の頭部の位置と仮想表示枠の距離に係らず光学ズームや電子ズーム等のズーム機能により、シースルーで観察できる仮想表示枠の大きさと仮想表示枠をカメラユニットで撮影し仮想表示する映像表示枠の大きさを一致させることができる。
【0019】
また、位置検出手段は、カメラユニットで撮影された映像のコントラストに基づいて仮想表示枠の位置およびポインターの位置を検出する様にした。したがって、高い精度で容易に対象物を検出することができる。
【0020】
また、仮想表示枠の枠とシートの光の反射率は異なる様にしたので、コントラストを設けることができる。
【0021】
また、合成手段は、前記位置検出手段で検出された仮想表示枠の位置に基づいて、所定の映像や情報を表示手段に出力する様にした。したがって、例えば、位置検出手段が仮想表示枠を検出した場合、仮想表示される映像表示枠を点滅させたり、ズーミングによりシースルーで観察できる仮想表示枠の大きさに仮想表示枠をカメラユニットで撮影し仮想表示する映像表示枠の大きさが一致した場合、仮想表示される映像表示枠を点灯させたりすることにより、装着者は容易に撮影画角を最適化することができる。また、シースルーで観察できる仮想表示枠がカメラユニットの撮影画角からはみ出した場合、警告を表示させることにより、装着者は撮影画角の調整が不適切であり、位置検出精度が低下することを認知することができる。
【0022】
また、ポインターは、ペン型形状に形成されているので、容易に保持することができ操作性に優れている。
【0023】
また、ポインターの光源は、対象物に加圧接触されると点灯する様にした。すなわち、情報入力動作を行わずポインターが対象物に接触していない場合は、光源を点灯させない様にしているので、位置検出手段は、ポインターの位置を検出することなく誤入力を防止することができる。
【0024】
また、入力モード、全消去モード、部分消去モードのいずれかを選択するモード切替えスイッチを備える様にした。したがって、装着者は、目的に応じて所望の動作モードを選択することができる。
【0025】
また、部分消去モードが選択されている場合、仮想表示されたポインターの位置の軌跡をポインターでトレースすることにより、該軌跡のトレースされた部位が消去される様にした。したがって、装着者は目的に応じて所望の情報のみを容易に消去することができる。
【発明を実施するための最良の形態】
【0026】
以下図面に基づいて、本発明に係る情報入力装置の実施の形態を説明する。
【0027】
最初に、情報入力装置1の構成を図1を用いて説明する。図1は、本発明に係る情報入力装置1の全体構成の概要を示す図である。
【0028】
情報入力装置1は、図1に示す様に、HMD2、制御ユニット3、仮想表示シート4、及びポインター5等を有し、HMD2に設けられた後述の表示ユニット25に表示され仮想表示シート4に仮想表示された映像に、ポインター5を用いて文字等の情報を入力するものである。
【0029】
最初に、HMD2の外観を説明する。HMD2は、使用者の眼球の近傍に配置されて使用される頭部装着式映像表示装置であり、図1に示す様に、テンプル21R,21L、ブリッジ22、鼻当て23R,23L、透明基板24R,24L、表示ユニット25(LCD表示部26、接眼光学系27)、カメラユニット28、及びイヤホン29R、29L等を有している。HMD2は、制御ユニット3に装填された後述のメモリカード39から取り込まれたDVD、ビデオ等のコンテンツ映像やテキスト映像等を、表示ユニット25に設けられたLCD表示部26に表示させ、該LCD表示部26から得らた映像を、接眼光学系27によって装着者の眼球に直接投影させることで、恰も該映像が空中に拡大投影されているかの様な虚像の観察を可能にしている。そして、本発明においては、該虚像が仮想表示シート4に仮想表示される様にしている。
【0030】
テンプル21R,21Lは、可撓性を有する弾性材等により構成された長尺状の部材であり、装着者の耳や側頭部に掛止され、HMD2の装着者に対する頭部への保持及び装着位置の調整を行うためのものである。尚、テンプル21R,21Lは、回動部21Ra,a,21Laにおいて矢印P,Q方向に回動可能に構成されており、HMD2を使用しない場合には、テンプル21R,21Lを矢印P,Q方向に回動させて透明基板24R,24Lに沿わせることにより、コンパクト化することができる。
【0031】
ブリッジ22は、HMD2の装着者に対する顔面への保持を行う鼻当て23R,23Lを備え、透明基板24R,24Lの互いに対向する所定位置に架け渡された短尺の棒状部材であり、透明基板24Rと透明基板24Lとを一定の間隙を介した相対位置関係に保持するものである。
【0032】
透明基板24R,24Lは、一方の眼球に対応した位置にU字型のスペース24Rsを形成する略平板状の透明体である。また、透明基板24Rに囲まれて形成されるU字型のスペース24Rsには、接眼光学系27が嵌め込まれている。
【0033】
表示ユニット25は、本発明における表示手段に該当し、LCD表示部26、及び接眼光学系27等を有し、制御ユニット3に装填された後述のメモリカード39から取り込まれたDVD、ビデオ等のコンテンツ映像やテキスト映像等を表示する。
【0034】
カメラユニット28は、図示しない後述のズームレンズ281、CCD(Charge Coupled Device)282、及び画像処理部284等を有し、装着者の周囲の外界情景を撮影するものであり、ズームレンズ281によって結像された被写体光学像を、CCD282によって光電変換して画像信号(映像信号)を生成し、画像処理部284等により画像信号に所定の画像処理を施し画像(映像)を生成する。
【0035】
イヤホン29R,29Lは、装着者の耳に挿入され、装着者に音声を提供する。
【0036】
ここで、表示ユニット25の構成を、図2を用いて説明する。図2は、本発明に係る情報入力装置2における表示ユニット25の左側面からの側断面図であり、主に表示ユニット25の内部構成を示している。
【0037】
図2に示す様に、表示ユニット25は、筐体261、LED(Light Emitting Diode)262、コリメータレンズ263、LCD(Liquid Crystal Display)264からなるLCD表示部26、及びプリズム271、HOE(Holographic Optical Element)272からなる接眼光学系27から構成される。
【0038】
LCD表示部26の筐体261の内部には、LED262、コリメータレンズ263、及びLCD264が内蔵された状態で、該筐体261が接眼光学系27のプリズム271の上端部において上斜め前方(図2では右斜め上方向)に突出する態様で取り付けられている。
【0039】
LED262は、所定波長色を含む白色発光ダイオード(LED)からなる点光源である。
【0040】
コリメータレンズ263は、LED262の光をほぼ平行光にしてLCD264に投光するものである。
【0041】
LCD264は、制御ユニット3に装填された後述のメモリカード39から取り込まれたDVD、ビデオ等のコンテンツ映像信号やテキスト映像信号等に基づき映像を生成するものであり、例えば透過型の液晶表示パネルである。
【0042】
プリズム271は、ガラスや透明樹脂等からなる略板状の透明部材であり、LCD264からの光を内部で複数回の反射を行わせるものである。プリズム271の上端部は、LCD264からの光の大部分を内部に採光できるように、上方に向かってより肉厚となるように前面側(接眼面と反対側)が突き出るように楔形状に形成された肉厚部271bが形成されている。
【0043】
また、プリズム271の下端部には、傾斜面271aが形成されており、プリズム271は、透明基板24Rに形成された傾斜面24Raに対しHOE272を介して接合(例えば接着)されている。また、プリズム271の表裏面は、透明基板24Rの表裏面に対して面一とされている。これにより、プリズム271は、透明基板24Rと一枚の板状に一体化されている。
【0044】
HOE272は、光学的に軸非対称な所謂自由曲面で構成されて正のパワーを有する体積位相型のホログラム光学素子であり、プリズム271の下端部において所定の傾斜角を有して支持されている。HOE272は、プリズム271により導光された光が照射されることにより、光の干渉現象を用いてホログラム映像を眼球Eに提供する。
【0045】
以上のような構成を有する表示ユニット25においては、LED262から射出された光は、コリメータレンズ263を通してLCD264を照明し、この照明によりLCD264で生成された像光は、プリズム271内で複数回の全反射を行った後、HOE272により回折し虚像として使用者の眼球Eに導かれる。
【0046】
さらに、プリズム271は、前方から入射する光を使用者の眼球Eに導くようになっている。これにより、使用者は、外界(前方の被写体)をシースルー可能となり、後述のメモリカード39から取り込まれたDVD、ビデオ等のコンテンツ映像やテキスト映像等を外界(前方の被写体)と重畳して視認することとなる。
【0047】
尚、透明基板24Rに形成された傾斜面24Raは、プリズム271の傾斜面271aでの光の屈折をキャンセル(相殺)する、すなわち、傾斜面271aにおけるプリズム効果により矢印W側からの光が上方に屈曲するのを防止する為、装着者は、プリズム271、透明基板24R、及びHOE272を通して、外界光を歪むことなく観察することができる。
【0048】
図1に戻って、制御ユニット3は、マイクロコンピュータからなり、電源スイッチ31、ズームスイッチ32、音声ボリューム33、初期設定スイッチ34、及びモード切替えスイッチ35等を有し、これら各種操作スイッチからの信号を受けて、表示ユニット25の表示動作やカメラユニット28の撮影動作、及び画像信号処理動作を統括的に制御するものである。
【0049】
初期設定スイッチ34は、仮想表示シート4に仮想表示された映像に、ポインター5を用いて文字等の情報の入力動作を行うに先立ち、シースルーで観察できる仮想表示枠41の大きさに対し仮想表示枠41をカメラユニット28で撮影し仮想表示する映像表示枠の大きさを適正化させる動作を行う際に用いるものである。
【0050】
モード切替えスイッチ35は、ポインター5の位置の軌跡を仮想表示された映像に合成する入力モード、合成された映像からポインター5の位置の軌跡の全てを消去する全消去モード、及びその一部を消去する部分消去モードのいずれかを選択するものである。尚、初期設定スイッチ34、及びモード切替えスイッチ35による動作の詳細は後述する。
【0051】
仮想表示シート4は、その面上に例えば黒色で矩形状の仮想表示枠41が描かれた白色のシートであり、表示ユニット25に表示された映像が仮想表示される。
【0052】
ポインター5は、その先端に、本発明における光源に該当するLED51を備えたペン型形状の情報入力器であり、仮想表示シート4にLED51を加圧接触させると、LED51は点灯する。尚、後述の制御部37中の仮想表示枠・ポインター座標検出部371は、カメラユニット28で撮影された映像データにおける被写体のコントラスト(輝度差)に基づいて、仮想表示枠41やポインター5の座標を検出する。
【0053】
次に、情報入力装置1の電気回路構成について図3を用いて説明する。図3は、本発明に係わる情報入力装置1の電気回路のブロック図である。尚、図3では、図1乃至図2に示した部材と同じ部材には同一の番号を付与した。
【0054】
情報入力装置1の要部電気回路ブロックは、表示ユニット25、カメラユニット28、及び制御ユニット3等から構成される。
【0055】
表示ユニット25は、LCD表示部26、接眼光学系27から構成され、各部位で行われる動作については前述したので説明は省略する。
【0056】
カメラユニット28は、ズームレンズ281、CCD(Charge Coupled Device)282、AFE(Analog Front End)283、及び画像処理部284等を有する。
【0057】
CCD282は、R(赤)光、G(緑)光、B(青)光の各色透過フィルタをピクセル単位(画素単位)で市松模様状に配置させたカラーエリア撮像センサで、ズームレンズ281により結像された被写体光像を、R(赤)光、G(緑)光、B(青)光の各色成分の画像信号(各画素単位で受光された画素信号の信号列からなる信号)に光電変換するものである。
【0058】
AFE283は、制御ユニット3から送信される基準クロックに基づいて、CCD282の駆動を制御し、CCD282から読み出された映像信号(画像信号)に周知のアナログ信号処理を施した後にデジタル映像信号に変換する。
【0059】
この様に、CCD282で読み出された映像信号は、AFE283で所定の処理が施されて、デジタル映像信号に変換される。デジタル化された映像信号は、画像処理部284に取り込まれて所定の処理が行われる。以下、画像処理部284で行われるデジタル映像信号への処理について説明する。
【0060】
最初に、画像処理部284に取り込まれたデジタル映像信号は、CCD282から出力される映像信号の読出しに同期して後述の制御ユニット3中の画像メモリ381に書き込まれる。すなわち、画像処理部284で行われる処理に使用されるデジタル映像信号は、画像メモリ381にいったん記録したものを画像メモリ381から取り出し、画像処理部284中の各部位における処理に使用される。
【0061】
画像処理部284は、図示しない例えば、黒レベル補正部、画素補間部、ホワイトバランス制御部、ガンマ補正部、マトリックス演算部、シェーディング補正部、及び画像圧縮部等を有し、画像メモリ381より取り出したデジタル映像信号に周知の画像信号処理を施すものである。そして、これらの部位で所定の処理を施されたデジタル映像信号は、再度、画像メモリ381に格納される。
【0062】
尚、撮影待機状態では、デジタル映像信号が例えば1/30秒毎等の所定間隔でカメラユニット28より画像メモリ381に取り込まれている。すなわち、画像メモリ381に書き込まれる映像データ(デジタル映像信号)は例えば1/30秒毎に更新されている。
【0063】
次に、制御ユニット3は、制御部37、画像メモリ381、VRAM(Video Random Access Memory)382等から構成される。
【0064】
制御部37は、図示しない各制御プログラム等を記憶するROM(Read Only Memory)、演算処理や制御処理等のデータを一時的に格納するRAM(Random Access Memory)、及び制御プログラム等をROMから読み出して実行するCPU(中央演算処理装置)等からなり、前述の各操作スイッチからの信号を受けて、表示ユニット25の表示動作やカメラユニット28の撮影動作、及び画像信号処理動作を統括的に制御するものである。
【0065】
制御部37の要部は、図3に示す様に、仮想表示枠・ポインター座標検出部371、映像生成部372、映像合成部373、枠位置変動量検出部374、ポインター相対位置座標算出部375、バッファメモリ376、及び表示エリア補正部377等から構成される。
【0066】
仮想表示枠・ポインター座標検出部371は、カメラユニット28で取り込まれて画像メモリ381に書き込まれた映像データを読出し、読み出した映像データにおける被写体のコントラスト(輝度差)に基づいて、仮想表示枠41やポインター5の座標を検出する。
【0067】
映像生成部372は、仮想表示枠・ポインター座標検出部371で検出された仮想表示枠41の座標や後述のバッファメモリ376に書き込まれたポインター5の座標の軌跡に基づいて仮想表示枠41を示す映像(映像表示枠)やポインター5の軌跡を示す映像を生成する。
【0068】
映像合成部373は、メモリカード39から取り込まれたDVD、ビデオ等のコンテンツ映像やテキスト映像等と映像生成部372で生成された仮想表示枠41を示す映像(映像表示枠)やポインター5の軌跡を示す映像とを合成する。
【0069】
枠位置変動量算出部374は、仮想表示枠・ポインター座標検出部371で検出されて例えば1/30秒毎に更新される仮想表示枠41の座標を所定間隔で読出し、前回読み出した座標からの変動量を算出する。この様に、枠位置変動量算出部374、及び前述のカメラユニット28、仮想表示枠・ポインター座標検出部371は、本発明に係る情報入力装置における位置検出手段として機能する。
【0070】
ポインター相対位置座標算出部375は、仮想表示枠・ポインター座標検出部371で検出された仮想表示枠41の座標とポインター5の座標よりポインター5の仮想表示枠41に対する相対座標を算出する。
【0071】
バッファメモリ376は、ポインター相対位置座標算出部375で算出され、ポインター5の移動に伴い時間的に変化するポインター5の座標の軌跡を記憶する。この様に、バッファメモリ376、及び前述の映像生成部372、映像合成部373は、本発明に係る情報入力装置における合成手段として機能する。
【0072】
表示エリア補正部377は、メモリカード39から取り込まれたDVD、ビデオ等のコンテンツ映像やテキスト映像等がLCD表示部26に表示される位置を、枠位置変動量算出部374で算出された仮想表示枠41の座標の変動量に応じて移動させる。この様に、表示エリア補正部377、及び前述の枠位置変動量算出部374は、本発明に係る情報入力装置における表示位置制御手段として機能する。
【0073】
次に、画像メモリ381は、カメラユニット28中の画像処理部284や制御ユニット3中の制御部37によりデジタル映像信号に対する各種処理を行う為の作業領域として用いられる一時メモリである。
【0074】
VRAM382は、LCD表示部26中のLCD264の画素数に対応した映像信号の記録容量を有し、LCD264に再生表示される映像を構成する映像信号のバッファメモリである。
【0075】
この様な構成の情報入力装置1において、本発明は、仮想表示枠41に仮想表示されたDVD、ビデオ等のコンテンツ映像やテキスト映像等に、容易に、且つ正確に情報を入力することを可能にするものである。具体的には、装着者が頭部を動かすことにより、仮想表示枠41の位置と仮想表示される映像の位置にずれが生じた場合においても、位置検出手段で検出された仮想表示枠41の位置に応じて映像が仮想表示される位置を移動させて仮想表示枠41の位置に仮想表示される映像の位置を一致させる様に、情報入力装置1で行われる映像表示動作を制御するものである。これにより、現実世界と仮想世界との位置のずれがなくなり、仮想表示された映像に、容易に、且つ正確に情報を入力することができる様になる。
【0076】
ここで、情報入力装置1で行われる映像表示動作の詳細を説明する。本発明は、試験やアンケート等周囲の人に対する秘匿性を考慮する必要がある書類へ文字等の情報を入力する場合に好適である。ここでは試験問題を仮想表示し、仮想表示された映像に解答を記入する場合に情報入力装置1で行われる映像表示動作制御の流れを説明する。
【0077】
最初に、初期設定動作について図4、及び図8を用いて説明する。図4(a)は、カメラユニット28の撮影画角と各表示領域との関係を示す模式図である。図4(b1)乃至(d2)は、カメラユニット28の撮影画角による表示領域を示す模式図である。また、図8は、初期設定動作の流れを示すフローチャートである。
【0078】
初期設定動作は、仮想表示シート4に仮想表示された映像に、ポインター5を用いて文字等の情報の入力動作を行うに先立ち、シースルーで観察できる仮想表示枠41の大きさに対し仮想表示枠41をカメラユニット28で撮影し仮想表示する映像表示枠の大きさを適正化させる為に行う動作である。
【0079】
まず、机の上に、メモリカード39に保存された試験問題を示す映像が仮想表示される仮想表示枠41が描かれた仮想表示シート4を用意する。
【0080】
図4(a)において、LCD表示領域Lは、机上に仮想表示される映像の最大表示領域(最大表示範囲)を示す。撮影画角Kは、カメラユニット28の撮影画角(撮影範囲)を示す。仮想表示枠Wはシースルーで観察できる仮想表示枠41を示す。映像表示枠Dは、映像が仮想表示される領域(範囲)を示す。
【0081】
ここで初期設定動作の流れを図8に示すフローチャートを用いて説明する。
【0082】
最初に、装着者は椅子に座って通常に試験を受ける姿勢で机上の仮想表示シート4に描かれた仮想表示枠W(仮想表示枠41)を見て初期設定スイッチ34を押す(ステップS1)。初期設定スイッチ34がONされると、カメラユニット28はライブビュー撮影動作を開始し映像を画像メモリ381に取り込む(ステップS2)。映像が画像メモリ381に取り込まれると、仮想表示枠・ポインター座標検出部371は、画像メモリ381に書き込まれた映像データを読出し、読み出した映像データにおける被写体のコントラスト(輝度差)に基づいて、仮想表示枠Wの座標を検出する(ステップS3)。仮想表示枠Wの座標が検出されると、映像生成部372は、検出された仮想表示枠Wの座標に基づいて仮想表示枠Wを示す映像(映像表示枠D)を生成し、LCD264に点滅表示させる(ステップS4)。次に、映像生成部372は、予め生成しておいた「ズームスイッチを操作して点滅している映像表示枠をシースルーで観察できる仮想表示枠に合わせた後に初期設定スイッチを押して下さい。」とのメッセージをLCD264に表示させる(ステップS5)。装着者は、シースルーで観察できる仮想表示枠Wと点滅している映像による映像表示枠Dを比較し、ズームスイッチ32を操作することにより両者の位置(大きさ)を一致させ、ほぼ一致したところで再度初期設定スイッチ34を押す。再度初期設定スイッチ34が押されると(ステップS6;Yes)、枠位置変動量算出部374は、仮想表示枠・ポインター座標検出部371で検出された仮想表示枠Wの4隅の座標を記憶する(ステップS7)。そして、映像生成部372は、点滅させている映像表示枠Dを点灯表示させる(ステップS8)。映像表示枠Dが点灯表示に変わると、映像合成部373は、メモリカード39に保存された試験問題を示す映像を読出し映像表示枠Dに合わせてLCD264に表示させる。一方、所定の時間初期設定スイッチ34の入力がない場合(ステップS10;Yes)は、映像生成部372は、点滅させている映像表示枠Dを消灯させ(ステップS11)エラー表示または再度初期設定を促すメッセージをLCD264に表示させて初期設定動作を終了する。
【0083】
ここで、ズームスイッチ32の操作によるカメラユニット28の撮影画角Kと映像表示枠Dに表示される映像の関係を図4(b1)乃至(d2)を用いて説明する。
【0084】
図4(b1)に示す様に、カメラユニット28の撮影画角KがLCD表示領域Lよりも大きい場合、映像表示枠Dは相対的に小さくなり、図4(b2)に示す様に、映像表示枠Dに表示される試験問題の映像は小さくなる。一方、図4(d1)に示す様に、カメラユニット28の撮影画角Kが仮想表示枠Wよりも小さい場合、仮想表示枠Wを検出することができず、図4(d2)に示す様に、映像を表示することができない。図4(c1)に示す様に、カメラユニット28の撮影画角KとLCD表示領域Lが一致した場合、すなわち仮想表示枠Wと映像表示枠Dが一致した場合は、図4(c2)に示す様に、映像表示枠Dに表示される試験問題の映像の大きさは最適化される。
【0085】
また、初期設定動作によってカメラユニット28の撮影画角Kが適正化された後に、装着者の頭部と机(仮想表示枠41)との距離が変化した場合に表示される映像の状態を図5を用いて説明する。図5(a)は、装着者の頭部が机(仮想表示枠W)に近づいた場合の映像、図5(b)は、装着者の頭部と机(仮想表示枠W)との距離が適切である場合の映像、図5(c)は、装着者の頭部が机(仮想表示枠W)から遠ざかった場合の映像を示す模式図である。
【0086】
図5(a)乃至(c)に示す様に、初期設定を適正に行った後に、装着者の頭部と机(仮想表示枠W)との距離が変化するとLCD表示領域L(カメラユニット28の撮影画角K)の大きさは変わらずに机上の仮想表示枠Wの大きさが近づくと大きく、遠ざかると小さく変化する。カメラユニット28は装着者の頭部に固定されている為、図5(a)に示す様に、頭部が机(仮想表示枠W)に近づくとカメラユニット28の撮影画角Kに対して机上の仮想表示枠Wが大きくなり、仮想表示枠Wがカメラユニット28の撮影画角K(撮影範囲)を超えると仮想表示枠Wを検出できなくなる。一方、図5(c)に示す様に、頭部が机(仮想表示枠W)から遠ざかるとカメラユニット28の撮影画角Kに対して机上の仮想表示枠Wが小さくなる。仮想表示される映像の位置はカメラユニット28が検出した仮想表示枠Wの座標に基づいて制御される為、この机上の仮想表示枠Wに応じて大きさが変わる。したがって、試験問題はあたかも机上に表示されたままのように見えるため現実感が得られる。
【0087】
次に、情報入力動作について図6、図7、及び図9を用いて説明する。図6(a)乃至(d)は、情報入力動作に伴う映像の変化の様子を示す模式図である。図7(a)乃至(c)は、装着者の頭部動きと仮想表示枠W、映像表示枠Dの関係を示す模式図である。また、図9は、情報入力動作の流れを示すフローチャートである。
【0088】
本発明は、図7(a)に示す様に、適正化されていた仮想表示枠Wの位置に対する映像表示枠Dの位置が、例えば、装着者が頭部を動かすことにより、図7(b)に示す様に、ずれた場合においても、図7(c)に示す様に、位置検出手段で検出された仮想表示枠Wの位置に応じて映像表示枠Dの位置を移動させて仮想表示枠Wの位置に映像表示枠Dの位置を一致させる様に、情報入力装置1で行われる映像表示動作を制御するものである。
【0089】
ここで情報入力動作の流れを図9に示すフローチャートを用いて説明する。
【0090】
最初に、モード切替えスイッチ35を操作して入力モードに設定する(ステップS1)。モード切替えスイッチ35が入力モードに設定されると、カメラユニット28はライブビュー撮影動作を開始し映像を画像メモリ381に取り込む(ステップS2)。映像が画像メモリ381に取り込まれると、仮想表示枠・ポインター座標検出部371は、画像メモリ381に書き込まれた映像データを読出し、読み出した映像データにおける被写体のコントラスト(輝度差)に基づいて、仮想表示枠Wの4隅の座標(P,Q,R,S)を検出する(ステップS3)。仮想表示枠Wの座標が検出されると、映像生成部372は、図6(a)に示す様に、検出された仮想表示枠Wの4隅の座標に基づいて仮想表示枠Wを示す映像(映像表示枠D)を生成し、LCD264に表示させる(ステップS4)。そして、映像合成部373は、図6(b)に示す様に、メモリカード39に保存された試験問題を示す映像を読出し映像表示枠Dに合わせてLCD264に表示させる(ステップS5)。
【0091】
次に、仮想表示枠・ポインター座標検出部371は、画像メモリ381に書き込まれた映像データを読出し、読み出した映像データにおける被写体のコントラスト(輝度差)に基づいて、図6(c)に示す様に、ポインター5のペン先の座標(T)を検出する(ステップS6)。尚、前述の様に、画像メモリ381に書き込まれる映像データ(デジタル映像信号)は例えば1/30秒毎に更新されていることから、仮想表示枠・ポインター座標検出部371によって検出される仮想表示枠Wの4隅の座標(P,Q,R,S)、及びポインター5のペン先の座標(T)も1/30秒毎に更新されている。
【0092】
次に、枠位置変動量算出部374は、検出された仮想表示枠Wの4隅の座標(P,Q,R,S)と前回検出された座標を比較し、比較した結果、座標が変動していない場合(ステップS7;NO)、表示エリア補正部377は、映像表示枠Dの位置を移動させない(ステップS10)。そして、映像合成部373は、メモリカード39に保存された試験問題を示す映像を読出し映像表示枠Dに合わせてLCD264に表示させる(ステップS11)。映像が映像表示枠Dに合わせてLCD264に表示されると、映像生成部372は、ポインター相対位置座標算出部375で算出され(ステップS12)、ポインター5の移動に伴い時間的に変化するポインター5の座標の軌跡をバッファメモリ376から読出し、ポインター5の軌跡を示す映像PTを生成する。そして映像合成部373は、図6(d)に示す様に、生成されたポインター5の軌跡を示す映像PTを映像表示枠Dに表示されている試験問題を示す映像に合成しLCD264に表示させる(ステップS13)。
【0093】
一方、ステップS7において、枠位置変動量算出部374は、検出された仮想表示枠Wの4隅の座標P,Q,R,Sと前回検出された座標を比較し、比較した結果、座標が変動している場合(ステップS7;Yes)、その変動量を算出する(ステップS8)。具体的には、仮想表示枠Wの4隅の座標P,Q,R,Sの変動量をΔP,ΔQ,ΔR,ΔSとし、頭部が仮想表示枠Wに対し右に、例えば、X座標で10動いた場合、ΔP,ΔQ,ΔR,ΔSのX座標の変動量、Y座標の変動量は、それぞれ下記(式1)、(式2)の値となる。
ΔPx=ΔQx=ΔRx=ΔSx=−10 (式1)
ΔPy=ΔQy=ΔRy=ΔSy=0 (式2)
変動量が算出されると、表示エリア補正部377は、算出された変動量に応じて、映像表示枠Dの位置を移動させる(ステップS9)。ここでは、映像表示枠Dの位置を左に、(X座標で−10)移動させる。そして、映像合成部373は、メモリカード39に保存された試験問題を示す映像を読出し映像表示枠Dに合わせてLCD264に表示させる(ステップS11)。
【0094】
また、頭部が仮想表示枠Wから遠ざかる方向に動いた場合、例えば、仮想表示枠Wの面に対して垂直に遠ざかる場合は、カメラユニット28が認識する仮想表示枠Wは小さくなり、前回に対して内側の方向に移動する。この時X座標、Y座標の変動量をそれぞれ5とすると、ΔP,ΔQ,ΔR,ΔSのX座標の変動量、Y座標の変動量は、それぞれ下記(式3)乃至(式6)の値となる。
ΔPx=ΔRx=5 (式3)
ΔQx=ΔSx=−5 (式4)
ΔPy=ΔQy=−5 (式5)
ΔRy=ΔSy=5 (式6)
試験問題の映像は常に座標P、Q、R、Sを4隅として表示されるので、この場合は前回に比べて縮小されることになる。
【0095】
次に、ポインター相対位置座標算出部375はポインター5の表示位置を算出する(ステップS12)。映像表示枠Dは、上述の様に、並行移動であったり、拡大/縮小であったり、またそれらの組合せであったり複雑な変化をするが、その動きはカメラユニット28と連動するため大きな誤差は生じない。しかしながら、ポインター5は装着者の手の動きに連動しており、頭部の動きとは独立している。従って、ポインター5の位置の認識は座標Tの絶対値で認識すると補正が難しく、精度も悪くなる。つまり、絶対値ではなく仮想表示枠Wの4隅の座標P,Q,R,Sに対する相対位置を求めることでこの問題を解決できる。
【0096】
具体的には、カメラユニット28で認識された仮想表示枠Wの4隅の座標P,Q,R,Sから以下のように求める。
【0097】
最初に、仮想表示枠Wの4隅の座標P(Px,Py),Q(Qx,Qy),R(Rx,Ry),S(Sx,Sy)に対するポインター5の座標T(Tx,Ty)の左右方向(X軸方向)の比α、上下方向(Y軸方向)の比βを下記(式7)、(式8)より算出する。
α:(Tx−Px)/(Qx−Px) (式7)
β:(Ty−Ry)/(Py−Ry) (式8)
(式7)、(式8)より算出されたポインター5の座標T(Tx,Ty)の左右方向(X軸方向)の比α、上下方向(Y軸方向)の比βより、ポインター5の仮想表示枠Wの4隅の座標P,Q,R,Sに対する相対位置座標T’(Tx’,Ty’)は、下記(式9)、(式10)で求められる。
Tx’=α{(Qx+ΔQx)−(Px+ΔPx)}+Px+ΔPx (式9)
Ty’=β{(Py+ΔPy)−(Ry+ΔRy)}+Ry+ΔRy (式10)
ポインター相対位置座標算出部375は、この様にして求めた、相対位置座標T’をバッファメモリ376に記録する。映像生成部372は、ポインター5の相対位置座標T’をバッファメモリ376から読出し、相対位置座標T’の位置にポインター5の軌跡を示す映像PTを生成する。そして映像合成部373は、生成されたポインター5の軌跡を示す映像PTを映像表示枠Dに表示されている試験問題を示す映像に合成しLCD264に表示表示させる(ステップS13)。カメラユニットは前述の様に、例えば1/30秒毎映像を取り込んでいることから、図9を用いて説明したフローを繰り返すことにより、ポインター5の座標T’が軌跡として表示される。
【0098】
この様に、本発明においては、仮想表示枠Wに仮想表示されたDVD、ビデオ等のコンテンツ映像やテキスト映像等に、容易に、且つ正確に情報を入力することができる。すなわち、装着者が頭部を動かすことにより、仮想表示枠Wの位置と映像表示枠Dの位置にずれが生じた場合においても、位置検出手段で検出された仮想表示枠Wの位置に応じて映像表示枠Dの位置を移動させて仮想表示枠41の位置に映像表示枠Dの位置を一致させることができる。これにより、現実世界と仮想世界との位置のずれがなくなり、仮想表示された映像に、容易に、且つ正確に情報を入力することができる様になる。
【0099】
尚、本発明における情報入力装置1おいては、DVD、ビデオ等のコンテンツ映像やテキスト映像等に入力された文字等の情報の全てを消去したり、また、その一部を消去することもできる。具体的には、モード切替えスイッチ35を操作して全消去モードに設定すると、バッファメモリ376に記憶されているポインター5の座標の軌跡が全て消去され、映像に合成されている文字等の情報は全て消去される。また、モード切替えスイッチ35を操作して部分消去モードに設定し、仮想表示されているポインター5の位置の軌跡を示す映像PTをポインター5でトレースすることにより、該映像のトレースされた部位に相当するバッファメモリ376に記憶されているポインター5の座標の軌跡が消去され、映像に合成されている文字等の情報は、その一部が消去される。これにより、装着者は目的に応じて所望の情報のみを容易に消去することができる。
【0100】
以上、本発明を実施の形態を参照して説明してきたが、本発明は前述の実施の形態に限定して解釈されるべきでなく、適宜変更、改良が可能であることは勿論である。例えば、前述の実施の形態においては、ズームレンズ281を用いてカメラユニット28の撮影画角Kを調整する様にしたが、ズームレンズ281の替わりに広角レンズを用い、広角レンズによって広角撮影された映像を、電子ズーム(デジタルズーム)により拡大する等して画角調整を行う様にしてもよい。
【図面の簡単な説明】
【0101】
【図1】本発明に係る情報入力装置の全体構成図である。
【図2】本発明に係る情報入力装置における表示ユニットの側断面図である。
【図3】本発明に係る情報入力装置の電気回路ブロック構成図である。
【図4】本発明に係る情報入力装置におけるカメラユニットの撮影画角と各表示領域との関係を示す模式図である。
【図5】装着者の頭部から仮想表示シートまで距離と仮想表示される映像の関係を示す模式図である。
【図6】情報入力動作に伴う映像の変化の様子を示す模式図である。
【図7】装着者の頭部動きと仮想表示枠、映像表示枠の関係を示す模式図である。
【図8】初期設定動作の流れを示すフローチャートである。
【図9】情報入力動作の流れを示すフローチャートである。
【符号の説明】
【0102】
1 情報入力装置
2 HMD
21R,21L テンプル
22 ブリッジ
23R,23L 鼻当て
24R,24L 透明基板
25 表示ユニット
26 LCD表示部
261 筐体
262 LED
263 コリメータレンズ
264 LCD
27 接眼光学系
271 プリズム
272 HOE
28 カメラユニット
281 ズームレンズ
282 CCDエリアセンサ
283 AFE
284 画像処理部
287 ズームモータ
29R,29L イヤホン
3 制御ユニット
31 電源スイッチ
32 ズームスイッチ
33 音声ボリューム
34 初期設定スイッチ
35 モード切替えスイッチ
36 ケーブル
37 制御部
371 仮想表示枠・ポインター座標検出部
372 映像生成部
373 映像合成部
374 枠位置変動量算出部
375 ポインター相対位置座標算出部
376 バッファメモリ
377 表示エリア補正部
378 ズームモータ駆動回路
379 音声出力回路
381 画像メモリ
382 VRAM
39 メモリカード
4 仮想表示シート
41 仮想表示枠
5 ポインター
51 LED
E 目

【特許請求の範囲】
【請求項1】
頭部や顔面に装着され映像を表示し外界をシースルー可能な表示手段と、前記映像が仮想表示される仮想表示枠と、仮想表示された前記映像に情報を入力するポインターと、を備えた情報入力装置であって、
前記仮想表示枠の位置および前記ポインターの位置を検出する位置検出手段と、
前記位置検出手段で検出された前記ポインターの位置の軌跡を前記映像に合成する合成手段と、
前記位置検出手段で検出された前記仮想表示枠の位置に応じて前記映像が仮想表示される位置を制御する表示位置制御手段と、を有することを特徴とする情報入力装置。
【請求項2】
前記位置検出手段は、外界を撮影しズーム機能を備えたカメラユニットを有することを特徴とする請求項1に記載の情報入力装置。
【請求項3】
前記位置検出手段は、前記カメラユニットで撮影された映像のコントラストに基づいて前記仮想表示枠の位置および前記ポインターの位置を検出することを特徴とする請求項1または2に記載の情報入力装置。
【請求項4】
前記仮想表示枠は、その面上に枠が設けられたシートであり、
前記枠と前記シートの光の反射率は異なることを特徴とする請求項1乃至3のいずれか1項に記載の情報入力装置。
【請求項5】
前記合成手段は、前記位置検出手段で検出された前記仮想表示枠の位置に基づいて、所定の映像や情報を前記表示手段に出力することを特徴とする請求項1乃至4のいずれか1項に記載の情報入力装置。
【請求項6】
前記ポインターは、ペン型形状に形成されていることを特徴とする請求項1に記載の情報入力装置。
【請求項7】
前記ポインターは、一方の端に光源を備え、
前記光源が対象物に加圧接触されると該光源は点灯することを特徴とする請求項6に記載の情報入力装置。
【請求項8】
前記合成手段で前記ポインターの位置の軌跡を前記映像に合成する入力モードと前記映像に合成された前記ポインターの位置の軌跡の全てを消去する全消去モードとその一部を消去する部分消去モードのいずれかを選択するモード切替えスイッチを有することを特徴とする請求項1乃至7のいずれか1項に記載の情報入力装置。
【請求項9】
前記モード切替えスイッチによって、前記部分消去モードが選択されている場合、前記合成手段によって前記映像に合成され前記仮想表示枠に仮想表示された前記ポインターの位置の軌跡を前記ポインターでトレースすることにより、該軌跡のトレースされた部位が消去されることを特徴とする請求項1乃至8のいずれか1項に記載の情報入力装置。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7】
image rotate

【図8】
image rotate

【図9】
image rotate