説明

遠隔作業支援システム

【課題】指示者における作業者への指示の提示に対する負担を軽減し、円滑に、適切な指示を行うことが可能な遠隔作業支援システムを提供する。
【解決手段】作業対象を撮影する電子カメラと、映像を表示する表示ユニットと、を備えた頭部装着式映像表示装置と、頭部装着式映像表示装置の遠隔地に設けられ、電子カメラで撮影された映像を表示するモニタを備えて、頭部装着式映像表示装置の作動を制御する遠隔操作装置と、を有し、頭部装着式映像表示装置を装着した作業者に、指示者が遠隔操作装置により作業指示を与える遠隔作業支援システムであって、電子カメラは、ズームレンズを備えて、回転可能に頭部装着式映像表示装置に支持され、遠隔操作装置は、電子カメラの向きおよびズームレンズのズーム位置を遠隔制御する。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、遠隔作業支援システムに関し、特に頭部装着式映像表示装置を備えた遠隔作業支援システムに関する。
【背景技術】
【0002】
従来、観察者の頭部や顔面に着脱自在に装着され、小型のCRTや液晶表示素子等の映像表示素子から得られる映像(以下、画像とも称す。)を、接眼光学系によって観察者の眼球に直接投影させることで、恰も該映像が空中に拡大投影されているかの様な虚像の観察を可能にした頭部装着式映像表示装置、すなわちHMD(Head Mount Display)が知られている。
【0003】
HMDは、DVD、ビデオ等のコンテンツ映像の観賞用や、産業機器若しくは医療機器等の遠隔操作用としての表示装置として利用され、その用途は多岐に渡っている。
【0004】
遠隔操作用としては、作業者が電子カメラを備えたHMDを装着し、指示者が電子カメラが捕えた作業対象の映像を、遠隔地に設けられた例えばホストコンピュータ等のモニタで観察しながら、作業者に音声や映像による適切な情報を提供し、作業指示を行うといった遠隔作業支援システムが種々提案されている(例えば、特許文献1参照)。
【特許文献1】特開2002−132487号公報
【発明の開示】
【発明が解決しようとする課題】
【0005】
しかしながら、特許文献1に開示されている様な電子カメラを備えたHMDにおいて、電子カメラは、その光軸が、通常、接眼光学系の光軸と略同じ方向を指向する様に、HMDに取り付けられている。すなわち、電子カメラは、HMDを装着した作業者の視線と略同じ方向の情景を撮影する様に、HMDに取り付けられている。
【0006】
この為、カメラが必ずしも指示者の所望の映像を捕えているとは限らず、所望の映像を得る為には、作業者に対して、例えば、「右を向いて下さい。」、「もう少し右です。」、といった具合に煩雑な指示が必要となり作業性の低下を招く恐れがある。また、作業者に指示をしてその方向に顔を向けてもらうにしても、指示者の意思を正確に伝達することは容易ではなく、さらに、作業者が頭を振ることによって、映像が振れ、観察したい対象物を見つけ難いといった問題がある。
【0007】
本発明は、上記課題を鑑みてなされたもので、指示者における作業者への指示の提示に対する負担を軽減し、円滑に、適切な指示を行うことが可能な遠隔作業支援システムを提供することを目的とする。
【課題を解決するための手段】
【0008】
上記目的は、下記の1乃至3のいずれか1項に記載の発明によって達成される。
【0009】
1.作業対象を撮影する電子カメラと、
映像を表示する表示ユニットと、を備えた頭部装着式映像表示装置と、
前記頭部装着式映像表示装置の遠隔地に設けられ、前記電子カメラで撮影された映像を表示するモニタを備えて、前記頭部装着式映像表示装置の作動を制御する遠隔操作装置と、を有し、
前記頭部装着式映像表示装置を装着した作業者に、指示者が前記遠隔操作装置により作業指示を与える遠隔作業支援システムであって、
前記電子カメラは、ズームレンズを備えて、回転可能に前記頭部装着式映像表示装置に支持され、
前記遠隔操作装置は、前記電子カメラの向きおよび前記ズームレンズのズーム位置を遠隔制御することを特徴とする遠隔作業支援システム。
【0010】
2.前記遠隔操作装置は、前記電子カメラの向きおよび前記ズームレンズのズーム位置に基づいて、前記表示ユニットに警告を表示させることを特徴とする前記1に記載の遠隔作業支援システム。
【0011】
3.前記頭部装着式映像表示装置は、音声を発するスピーカを備え、
前記遠隔操作装置は、前記電子カメラの向きおよび前記ズームレンズのズーム位置に基づいて、前記スピーカに警告を発音させることを特徴とする前記1または2に記載の遠隔作業支援システム。
【発明の効果】
【0012】
本発明によれば、遠隔操作装置は、HMDに設けられた電子カメラの向きおよびズームレンズのズーム位置を遠隔制御する様にした。すなわち、指示者は、遠隔操作装置により、電子カメラの向きやズームレンズのズーム位置を遠隔制御することにより、HMDを装着した作業者の頭の向き(視線方向)や作業者と作業対象物との距離に係らず、所望の方向および大きさの映像を得ることができる。したがって、例えば、電子カメラが指示者の所望の映像を捕えていない場合、作業者に頭を回転させてもらったり、作業対象物に近づいてもらったりする為の煩雑な指示を行うことなく所望の映像を得ることができる。これにより、指示者における作業者への指示の提示に対する負担を軽減し、円滑に、適切な指示を行うことが可能となる。
【発明を実施するための最良の形態】
【0013】
以下図面に基づいて、本発明に係る遠隔作業支援システムの実施の形態を説明する。尚、本発明を図示の実施の形態に基づいて説明するが、本発明は該実施の形態に限られない。
【0014】
最初に、遠隔作業支援システム1の構成を図1を用いて説明する。図1は、本発明に係る遠隔作業支援システム1の全体構成の概要を示す模式図である。
【0015】
遠隔作業支援システム1は、図1に示す様に、HMD2、ホストコンピュータ5、映像・音声記録サーバ6、及びコンテンツサーバ7等から構成され、ホストコンピュータ5と映像・音声記録サーバ6、コンテンツサーバ7は、イーサーネットENを介して結ばれ、ホストコンピュータ5とHMD2は、インターネットINや携帯、PHS、無線LAN等の公衆回線網PN等を介して結ばれている。
【0016】
この様な構成の遠隔作業支援システム1は、作業者Bが後述のカメラユニット28を備えたHMD2を装着し、指示者Aがカメラユニット28が捕えた作業対象の映像を、遠隔地に設けられたホストコンピュータ5の後述のモニタ53で観察しながら、ホストコンピュータ5により作業者Bに映像や音声による適切な情報を提供し、作業指示を行うものである。
【0017】
次に、本発明における頭部装着式映像表示装置に該当するHMD2の構成を図2を用いて説明する。図2は、本発明に係るHMD2の全体構成図である。
【0018】
HMD2は、図2に示す様に、テンプル21R,21L、ブリッジ22、鼻当て23R,23L、透明基板24R,24L、表示ユニット25(LCD表示部26、接眼光学系27)、カメラユニット28、イヤホン29R,29L、マイク30、及び制御ユニット31等を有している。
【0019】
HMD2は、カメラユニット28で撮影された映像や、ホストコンピュータ5から伝送された映像を、表示ユニット25に設けられたLCD表示部26に表示させ、該LCD表示部26から得られた映像を、接眼光学系27によって装着者(以下、作業者Bとも称する。)の眼球に直接投影させることで、恰も該映像が空中に拡大投影されているかの様な虚像の観察を可能にしている。
【0020】
テンプル21R,21Lは、可撓性を有する弾性材等により構成された長尺状の部材であり、装着者の耳や側頭部に掛止され、HMD2の装着者に対する頭部への保持及び装着位置の調整を行う為のものである。尚、テンプル21R,21Lは、回動部21Ra,21Laにおいて矢印P,Q方向に回動可能に構成されており、HMD2を使用しない場合には、テンプル21R,21Lを矢印P,Q方向に回動させて透明基板24R,24Lに沿わせることにより、コンパクト化することができる。
【0021】
ブリッジ22は、HMD2の装着者に対する顔面への保持を行う鼻当て23R,23Lを備え、透明基板24R,24Lの互いに対向する所定位置に架け渡された短尺の棒状部材であり、透明基板24Rと透明基板24Lとを一定の間隙を介した相対位置関係に保持するものである。
【0022】
透明基板24R,24Lは、一方の眼球に対応した位置にU字型のスペース24Rsを形成する略平板状の透明体である。また、透明基板24Rに囲まれて形成されるU字型のスペース24Rsには、接眼光学系27が嵌め込まれている。
【0023】
表示ユニット25は、LCD表示部26、及び接眼光学系27等を有し、カメラユニット28で撮影された映像や制御ユニット31に設けられた後述のネットワークI/F36を介してコンピュータ5から伝送された映像を表示する。
【0024】
カメラユニット28は、本発明における電子カメラに該当し、図示しない後述のズームレンズ281、CCD(Charge Coupled Device)282、及び画像処理部284等を有し、装着者の周囲の外界情景を撮影するものであり、ズームレンズ281によって結像された被写体光学像を、CCD282によって光電変換して画像信号(映像信号)を生成し、画像処理部284等により画像信号に所定の画像処理を施し画像(映像)を生成する。また、図2に示す様に、カメラユニット28は、その光軸Lが水平方向、垂直方向に回転可能、すなわち、パン、チルト可能に表示ユニット25に取り付けられている。また、ズームレンズ281のズーム位置やカメラユニット28の向きは、後述のズームモータ287、パンモータ288、チルトモータ289を介してコンピュータ5によって遠隔制御される。
【0025】
イヤホン29R,29Lは、装着者の耳に挿入され、装着者に音声を提供する。
【0026】
マイク30は、装着者の音声を音声信号に変換する。
【0027】
制御ユニット31は、マイクロコンピュータからなり、電源スイッチ351、操作スイッチ352等を有し、これら各種操作スイッチからの信号、及びホストコンピュータ5からの制御信号等を受けて、HMD2で行われる表示動作や画像信号処理動作を統括的に制御するものである。
【0028】
ここで、表示ユニット25の構成を、図3を用いて説明する。図3は、本発明に係るHMD2における表示ユニット25の左側面からの側断面図であり、主に表示ユニット25の内部構成を示している。
【0029】
図3に示す様に、表示ユニット25は、筐体261、LED(Light Emitting Diode)262、コリメータレンズ263、LCD(Liquid Crystal Display)264からなるLCD表示部26、及びプリズム271、HOE(Holographic Optical Element)272からなる接眼光学系27等から構成される。
【0030】
LCD表示部26の筐体261の内部には、LED262、コリメータレンズ263、及びLCD264が内蔵された状態で、該筐体261が接眼光学系27のプリズム271の上端部において上斜め前方(図3では右斜め上方向)に突出する態様で取り付けられている。
【0031】
LED262は、所定波長色を含む白色発光ダイオード(LED)からなる点光源である。
【0032】
コリメータレンズ263は、LED262の光をほぼ平行光にしてLCD264に投光するものである。
【0033】
LCD264は、カメラユニット28で撮影され生成された映像信号や制御ユニット31に設けられた後述のネットワークI/F36を介してコンピュータ5から伝送された映像信号に基づき映像(画像)を生成するものであり、例えば透過型の液晶表示パネルである。
【0034】
プリズム271は、ガラスや透明樹脂等からなる略板状の透明部材であり、LCD264からの光を内部で複数回の反射を行わせるものである。プリズム271の上端部は、LCD264からの光の大部分を内部に採光できるように、上方に向かってより肉厚となるように前面側(接眼面と反対側)が突き出るように楔形状に形成された肉厚部271bが形成されている。
【0035】
また、プリズム271の下端部には、傾斜面271aが形成されており、プリズム271は、透明基板24Rに形成された傾斜面24Raに対しHOE272を介して接合(例えば接着)されている。また、プリズム271の表裏面は、透明基板24Rの表裏面に対して面一とされている。これにより、プリズム271は、透明基板24Rと一枚の板状に一体化されている。
【0036】
HOE272は、光学的に軸非対称な所謂自由曲面で構成されて正のパワーを有する体積位相型のホログラム光学素子であり、プリズム271の下端部において所定の傾斜角を有して支持されている。HOE272は、プリズム271により導光された光が照射されることにより、光の干渉現象を用いてホログラム映像を眼球Eに提供する。
【0037】
以上のような構成を有する表示ユニット25においては、LED262から射出された光は、コリメータレンズ263を通してLCD264を照明し、この照明によりLCD264で生成された像光は、プリズム271内で複数回の全反射を行った後、HOE272により回折し虚像として装着者の眼球Eに導かれる。
【0038】
さらに、プリズム271は、前方から入射する光を装着者の眼球Eに導くようになっている。これにより、装着者は、外界(前方の被写体)をシースルー可能となり、カメラユニット28で撮影され生成された映像や制御ユニット31に設けられた後述のネットワークI/F36を介してコンピュータ5から伝送された映像を外界(前方の被写体)と重畳して視認することとなる。
【0039】
次に、HMD2の電気回路構成について図4を用いて説明する。図4は、本発明に係わるHMD2の電気回路のブロック構成図である。尚、図4では、図1乃至図3に示した部材と同じ部材には同一の番号を付与した。
【0040】
HMD2の要部電気回路ブロックは、表示ユニット25、カメラユニット28、及び制御ユニット30等から構成される。
【0041】
表示ユニット25は、LCD表示部26、接眼光学系27から構成され、各部位で行われる動作については前述したので説明は省略する。
【0042】
カメラユニット28は、ズームレンズ281、CCD(Charge Coupled Device)282、AFE(Analog Front End)283、画像処理部284、及びズームモータ287、パンモータ288、チルトモータ289等を有する。
【0043】
CCD282は、R(赤)光、G(緑)光、B(青)光の各色透過フィルタをピクセル単位(画素単位)で市松模様状に配置させたカラーエリア撮像センサで、ズームレンズ281により結像された被写体光像を、R(赤)光、G(緑)光、B(青)光の各色成分の画像信号(各画素単位で受光された画素信号の信号列からなる信号)に光電変換するものである。
【0044】
AFE283は、制御ユニット31から送信される基準クロックに基づいて、CCD282の駆動を制御し、CCD282から読み出された映像信号(画像信号)に周知のアナログ信号処理を施した後にデジタル映像信号に変換する。
【0045】
この様に、CCD282で読み出された映像信号は、AFE283で所定の処理が施されて、デジタル映像信号に変換される。デジタル化された映像信号は、画像処理部284に取り込まれて所定の処理が行われる。以下、画像処理部284で行われるデジタル映像信号への処理について説明する。
【0046】
最初に、画像処理部284に取り込まれたデジタル映像信号は、CCD282から出力される映像信号の読出しに同期して後述の制御ユニット31中の画像メモリ33に書き込まれる。すなわち、画像処理部284で行われる処理に使用されるデジタル映像信号は、画像メモリ33にいったん記録したものを画像メモリ33から取り出し、画像処理部284中の各部位における処理に使用される。
【0047】
画像処理部284は、図示しない例えば、黒レベル補正部、画素補間部、ホワイトバランス制御部、ガンマ補正部、マトリックス演算部、シェーディング補正部、及び画像圧縮部等を有し、画像メモリ33より取り出したデジタル映像信号に周知の画像信号処理を施すものである。そして、これらの部位で所定の処理を施されたデジタル映像信号は、再度、画像メモリ33に格納される。
【0048】
制御ユニット31は、制御部32、画像メモリ33、VRAM(Video Random Access Memory)34、操作部35、ネットワークI/F36、パン・チルトモータ駆動回路371、ズームモータ駆動回路372、及び音声出力回路381、音声入力回路382等から構成される。
【0049】
制御部32は、図示しない各制御プログラム等を記憶するROM(Read Only Memory)、演算処理や制御処理等のデータを一時的に格納するRAM(Random Access Memory)、及び制御プログラム等をROMから読み出して実行するCPU(中央演算処理装置)等からなり、前述の各操作スイッチからの信号、及びホストコンピュータ5からの制御信号等を受けて、HMD2で行われる表示動作や画像信号処理動作を統括的に制御するものである。
【0050】
画像メモリ33は、制御ユニット31中の制御部32によりデジタル映像信号に対する各種処理を行う為の作業領域として用いられる一時メモリである。
【0051】
VRAM34は、LCD表示部26中のLCD264の画素数に対応した映像信号の記録容量を有し、LCD264に再生表示される映像を構成する映像信号のバッファメモリである。
【0052】
ネットワークI/F36は、HMD2を公衆回線網PNに接続し、ホストコンピュータ5との間で交信を行い、映像、音声、及び各種制御信号等の入出力を行う。
【0053】
パン・チルトモータ駆動回路371は、制御部32の制御に基づいて、パンモータ288、チルトモータ289を駆動する駆動信号を生成する。
【0054】
ズームモータ駆動回路372は、制御部32の制御に基づいて、ズームモータ287を駆動する駆動信号を生成する。
【0055】
次に、本発明における遠隔操作装置に該当するホストコンピュータ5の構成を図5を用いて説明する。図5は、本発明に係るホストコンピュータ5(ホストPC5)の全体構成図である。
【0056】
ホストPC5は、図5に示す様に、コンピュータ本体51、モニタ53、マウス55、及びキーボード57等を備えた、例えば、パーソナルコンピュータである。
【0057】
ホストPC5は、そのモニタ53に、作業者Bに装着されたHMD2のカメラユニット28が撮影した作業対象を表示する。指示者Aは、モニタ53に表示された作業対象を観察しながら、マウス55やキーボード57等によりホストPC5を操作し、PC5により作業者Bに映像や音声による適切な情報を提供し、作業指示を行うものである。
【0058】
この様な構成の遠隔作業システム1において、本発明は、指示者Aが、ホストPC5により、HMD2に設けられたカメラユニット28の動作を遠隔制御することにより、HMD2を装着した作業者Bの頭の向き(視線方向)や作業者Bと作業対象物との距離に係らず、所望の映像を観察することを可能にするものである。
【0059】
具体的には、図6を用いて説明する。図6は、本発明に係るHMD2におけるカメラユニット28の動作を遠隔制御する様子を示す模式図である。
【0060】
作業者Bは、カメラユニット28を備えたHMD2を装着し、作業対象物Xに向かって作業を行っている。一方、指示者Aは、遠隔地に設けられたホストPC5のモニタ53に表示されるカメラユニット28で撮影された作業対象物Xの映像を観察しながら、ホストPC5を操作して、映像や音声で作業者Bに作業指示を行っている。
【0061】
この様な状況において、指示者Aが、カメラユニット28が捕えている映像より、右側、または左側の映像を観察したい場合は、キーボード57のそれぞれに対応する所定のキーを操作する。キー操作が行われると、カメラユニット28は、右方向(矢印R方向)、または左方向(矢印L方向)にゆっくりと回転(パン動作)する。そして、カメラユニット28が回転し所望の映像を捕えると、指示者Aは、キー操作を停止する。また、カメラユニット28が捕えている映像より、上側、または下側の映像を観察したい場合は、同様にして、カメラユニット28にチルト動作を行わせる。また、作業対象物Xをもう少し大きく観察したい場合は、同様にして、カメラユニット28のズームレンズ281にズーム動作を行わせる。この様にして、指示者Aは、カメラユニット28にパン、チルト、ズーム動作を行わせることにより、所望の映像を観察すことができる様になる。
【0062】
また、指示者が、カメラユニット28を遠隔制御して、パン、チルト、ズーム動作を行わせてもまだ所望の映像を得られない場合は、ホストコンピュータ5は、HMD2の表示ユニット25に、警告表示を行わせて、作業者Bに頭の回転や、作業対象物Xに近づく様に促す。例えば、頭の回転方向や近づく方向を示す矢印を警告表示する。
【0063】
具体的には、図7を用いて説明する。図7は、本発明に係るHMD2における表示ユニット25に表示される警告表示の一例を示す模式図である。
【0064】
図7は、HMD2を接眼方向から見た模式図であり、カメラユニット28は、パン動作により左方向の限界まで回転している。この様な場合、ホストコンピュータ5は、表示ユニット25の表示画像IMに、例えば、「Turn to the Left」といった警告を表示させる。これにより、作業者Bが頭を左方向に回転させ、指示者Aは、所望の映像を観察することができる様になる。尚、警告は、HMD2に設けられたイヤホン29R,29Lを介して音声にて作業者Bに与えるようにしても良い。
【0065】
この様に、本発明に係る遠隔作業支援システム1においては、HMD2に設けられたカメラユニット28の向きおよびズームレンズ281のズーム位置を遠隔制御する様にした。すなわち、指示者Aは、ホストPC5により、カメラユニット28の向きやズームレンズ281のズーム位置を遠隔制御することにより、HMD2を装着した作業者Bの頭の向き(視線方向)や作業者Bと作業対象物Xとの距離に係らず、所望の方向および大きさの映像を得ることができる。したがって、例えば、カメラユニット28が指示者Aの所望の映像を捕えていない場合、作業者Bに頭を回転させてもらったり、作業対象物Xに近づいてもらったりする為の煩雑な指示を行うことなく所望の映像を得ることができる。これにより、指示者Aにおける作業者Bへの指示の提示に対する負担を軽減し、円滑に、適切な指示を行うことが可能となる。
【図面の簡単な説明】
【0066】
【図1】本発明に係る遠隔作業支援システムの全体構成を示す模式図である。
【図2】本発明に係るHMDの全体構成図である。
【図3】本発明に係るHMDにおける表示ユニットの側断面図である。
【図4】本発明に係るHMDの電気回路ブロック構成図である。
【図5】本発明に係るホストPCの全体構成図である。
【図6】本発明に係るHMDにおけるカメラユニットの動作を遠隔制御する様子を示す模式図である。
【図7】本発明に係るHMDにおける表示ユニットに表示される警告表示の一例を示す模式図である。
【符号の説明】
【0067】
1 遠隔作業支援システム
2 頭部装着式映像表示装置(HMD)
21R,21L テンプル
22 ブリッジ
23R,23L 鼻当て
24R,24L 透明基板
25 表示ユニット
26 LCD表示部
261 筐体
262 LED
263 コリメータレンズ
264 LCD
27 接眼光学系
271 プリズム
272 HOE
28 カメラユニット
281 ズームレンズ
282 CCD
283 AFE
284 画像処理部
287 ズームモータ
288 パンモータ
289 チルトモータ
29R,29L イヤホン
30 マイク
31 制御ユニット
32 制御部
33 画像メモリ
34 VRAM
35 操作部
351 電源スイッチ
352 操作スイッチ
36 ネットワークI/F
371 パン・チルトモータ駆動回路
372 ズームモータ駆動回路
381 音声出力回路
382 音声入力回路
5 ホストコンピュータ(ホストPC)
51 コンピュータ本体
53 モニタ
55 マウス
57 キーボード
6 映像・音声記録サーバ
7 コンテンツサーバ
A 指示者
B 作業者
EN イーサーネット
E 目
IN インターネット
IM 表示画像
PN 公衆回線網
X 作業対象物

【特許請求の範囲】
【請求項1】
作業対象を撮影する電子カメラと、
映像を表示する表示ユニットと、を備えた頭部装着式映像表示装置と、
前記頭部装着式映像表示装置の遠隔地に設けられ、前記電子カメラで撮影された映像を表示するモニタを備えて、前記頭部装着式映像表示装置の作動を制御する遠隔操作装置と、を有し、
前記頭部装着式映像表示装置を装着した作業者に、指示者が前記遠隔操作装置により作業指示を与える遠隔作業支援システムであって、
前記電子カメラは、ズームレンズを備えて、回転可能に前記頭部装着式映像表示装置に支持され、
前記遠隔操作装置は、前記電子カメラの向きおよび前記ズームレンズのズーム位置を遠隔制御することを特徴とする遠隔作業支援システム。
【請求項2】
前記遠隔操作装置は、前記電子カメラの向きおよび前記ズームレンズのズーム位置に基づいて、前記表示ユニットに警告を表示させることを特徴とする請求項1に記載の遠隔作業支援システム。
【請求項3】
前記頭部装着式映像表示装置は、音声を発するスピーカを備え、
前記遠隔操作装置は、前記電子カメラの向きおよび前記ズームレンズのズーム位置に基づいて、前記スピーカに警告を発音させることを特徴とする請求項1または2に記載の遠隔作業支援システム。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7】
image rotate


【公開番号】特開2008−113317(P2008−113317A)
【公開日】平成20年5月15日(2008.5.15)
【国際特許分類】
【出願番号】特願2006−295654(P2006−295654)
【出願日】平成18年10月31日(2006.10.31)
【出願人】(000001270)コニカミノルタホールディングス株式会社 (4,463)
【Fターム(参考)】