説明

遠隔作業支援システム、表示制御方法

【課題】作業者や指示者へ負担を課することなく、作業に適切なサイズの参照映像を表示することが可能な遠隔作業支援システム、表示制御方法を提供する。
【解決手段】映像を表示する表示ユニットを備えた頭部装着式映像表示装置(HMD)と、HMDに作業対象物を表す参照映像を提供するサーバ装置と、を有し、HMDを装着した作業者に、指示者がサーバ装置により作業指示与える遠隔作業支援システムであって、HMDは作業対象物の距離を検出する距離検出部と、表示ユニットに表示させる参照映像の表示サイズを調整する表示制御部と、を有し、参照映像には、作業対象物の現実の大きさに対する該参照映像の縮尺比情報が添付され、表示制御部は、距離検出部で検出された距離とサーバ装置から提供された参照映像に添付されている縮尺比情報に基づいて、表示ユニットに表示させる参照映像の表示サイズを調整する。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、遠隔作業支援システム、表示制御方法に関し、特に頭部装着式映像表示装置を備えた遠隔作業支援システム、表示制御方法に関する。
【背景技術】
【0002】
従来、観察者の頭部や顔面に着脱自在に装着され、小型のCRTや液晶表示素子等の映像表示素子から得られる映像(以下、画像とも称す。)を、接眼光学系によって観察者の眼球に直接投影させることで、恰も該映像が空中に拡大投影されているかの様な虚像の観察を可能にした頭部装着式映像表示装置、すなわちHMD(Head Mount Display)が知られている。
【0003】
HMDは、DVD、ビデオ等のコンテンツ映像の観賞用や、産業機器若しくは医療機器等の遠隔操作用としての表示装置として利用され、その用途は多岐に渡っている。
【0004】
遠隔操作用としては、作業者が電子カメラを備えたHMDを装着し、指示者が電子カメラが捕えた作業対象物の映像を、遠隔地に設けられた例えばホストコンピュータ等のモニタで観察しながら、作業者に音声や映像による適切な情報を提供し作業指示を行う、といった遠隔作業支援システムが種々提案されている(例えば、特許文献1参照)。
【0005】
この様な遠隔作業支援システムにおいて、作業者が、HMDの映像表示部に表示される電子カメラが捕えた作業対象物の映像と、ホストコンピュータから伝送された作業対象物を表す参照映像とを比較しながら作業を行う場合、電子カメラで撮影された映像とホストコンピュータから伝送された参照映像それぞれにおける作業対象物の表示サイズが異なると、両者を比較することは容易ではなく作業性の低下を招く恐れがあった。
【0006】
そこで、電子カメラによる作業対象物の表示サイズに、参照映像による作業対象物の表示サイズを近づける様に、作業者がHMDの操作部により参照映像の表示サイズを調整する方法や、指示者が電子カメラが捕えた作業対象物の映像をモニタで観察しながら、作業者のHMDの映像表示部に表示される参照映像の表示サイズを遠隔で調整をする、といった方法が従来行われていた。
【特許文献1】特開2002−132487号公報
【発明の開示】
【発明が解決しようとする課題】
【0007】
しかしながら、従来行われていた前述の方法は、いずれも、煩雑な調整を必要とし、作業者や指示者への負担を増大し、使い勝手が良いとは言い難いものであった。
【0008】
本発明は、上記課題を鑑みてなされたもので、作業者や指示者へ負担を課することなく、作業に適切なサイズの参照映像を表示することが可能な遠隔作業支援システム、表示制御方法を提供することを目的とする。
【課題を解決するための手段】
【0009】
上記目的は、下記の1乃至6のいずれか1項に記載の発明によって達成される。
【0010】
1.映像を表示する表示ユニットを備えた頭部装着式映像表示装置と、
前記頭部装着式映像表示装置に作業対象物を表す参照映像を提供するサーバ装置と、を有し、
前記頭部装着式映像表示装置を装着した作業者に、指示者が前記サーバ装置により作業指示を与える遠隔作業支援システムであって、
前記頭部装着式映像表示装置は、該頭部装着式映像表示装置から前記作業対象物までの距離を検出する距離検出部と、
前記表示ユニットに表示させる前記参照映像の表示サイズを調整する表示制御部と、を有し、
前記参照映像には、前記作業対象物の現実の大きさに対する該参照映像の縮尺比情報が添付され、
前記表示制御部は、前記距離検出部で検出された距離と前記サーバ装置から提供された前記参照映像に添付されている前記縮尺比情報に基づいて、前記表示ユニットに表示させる前記参照映像の表示サイズを調整することを特徴とする遠隔作業支援システム。
【0011】
2.前記頭部装着式映像表示装置は、作業対象物を撮影する電子カメラを備え、
前記表示制御部は、前記距離検出部で検出された距離と前記サーバ装置から提供された前記参照映像に添付されている前記縮尺比情報に基づいて、前記表示ユニットに表示させる前記参照映像の表示サイズを、前記電子カメラで撮影され前記表示ユニットに表示させる映像の表示サイズに合わせる様に調整することを特徴とする前記1に記載の遠隔作業支援システム。
【0012】
3.前記電子カメラは、ズームレンズを備え、
前記表示制御部は、前記ズームレンズのズーム倍率および前記距離検出部で検出された距離および前記サーバ装置から提供された前記参照映像に添付されている前記縮尺比情報に基づいて、前記表示ユニットに表示させる前記参照映像の表示サイズを、前記電子カメラで撮影され前記表示ユニットに表示させる映像の表示サイズに合わせる様に調整することを特徴とする前記2に記載の遠隔作業支援システム。
【0013】
4.前記表示ユニットは、前記頭部装着式映像表示装置を装着した作業者が外界をシースルー可能であり、
前記表示制御部は、前記距離検出部で検出された距離と前記サーバ装置から提供された前記参照映像に添付されている前記縮尺比情報に基づいて、前記表示ユニットに表示させる前記参照映像の表示サイズを、作業者がシースルーで観察できる前記作業対象物の光学像のサイズに合わせる様に調整することを特徴とする前記1に記載の遠隔作業支援システム。
【0014】
5.前記距離検出部は、前記頭部装着式映像表示装置から前記作業対象物までの距離の変化率を検出し、
前記表示制御部は、前記距離検出部で検出された変化率と予め設定された閾値を比較し、前記変化率が前記閾値を上回った場合、前記参照映像の表示サイズを調整することを特徴とする前記1乃至4のいずれか1項に記載の遠隔作業支援システム。
【0015】
6.作業者が装着した頭部装着式映像表示装置に設けられた表示ユニットに表示させるサーバ装置から提供された作業対象物を表す参照映像の表示制御方法であって、
前記参照映像には、前記作業対象物の現実の大きさに対する該参照映像の縮尺比情報が添付され、
前記頭部装着式映像表示装置から前記作業対象物までの距離を検出する距離検出工程と、
前記距離検出工程で検出された距離と前記サーバ装置から提供された前記参照映像に添付されている前記縮尺比情報に基づいて、前記表示ユニットに表示させる前記参照映像の表示サイズを調整する表示サイズ調整工程と、を有することを特徴とする参照映像の表示制御方法。
【発明の効果】
【0016】
本発明によれば、表示制御部は、距離検出部で検出された距離とサーバ装置から提供された参照映像に添付されている縮尺比情報に基づいて、表示ユニットに表示させる参照映像の表示サイズを調整する様にした。したがって、頭部装着式映像表示装置を装着した作業者は、作業対象物との距離に係らず、いつも作業に適切な表示サイズの参照映像を観察することができる。これにより、従来行われていた前述の様な煩雑な調整作業を行うことなく、作業に適切なサイズの参照映像を得ることができる。その結果、作業者や指示者にかかる負担を軽減でき、作業の効率化を図ることができる。
【発明を実施するための最良の形態】
【0017】
以下図面に基づいて、本発明に係る遠隔作業支援システムの実施の形態を説明する。尚、本発明を図示の実施の形態に基づいて説明するが、本発明は該実施の形態に限られない。
【0018】
最初に、遠隔作業支援システム1の構成を図1を用いて説明する。図1は、本発明に係る遠隔作業支援システム1の全体構成の概要を示す模式図である。
【0019】
遠隔作業支援システム1は、図1に示す様に、HMD2、サーバ装置4等から構成される。サーバ装置4は、ホストコンピュータ5、映像・音声記録サーバ6、及びコンテンツサーバ7等から構成される。
【0020】
ホストコンピュータ5と映像・音声記録サーバ6、コンテンツサーバ7は、イーサーネットENを介して結ばれ、ホストコンピュータ5とHMD2は、インターネットINや携帯、PHS、無線LAN等の公衆回線網PN等を介して結ばれている。
【0021】
この様な構成の遠隔作業支援システム1は、作業者Bが後述のカメラユニット28を備えたHMD2を装着し、カメラユニット28が捕えた作業対象物の映像を、指示者Aが遠隔地に設けられたサーバ装置4の後述のモニタ53で観察しながら、サーバ装置4により作業者Bに映像や音声による適切な情報を提供し、作業指示を行うものである。
【0022】
次に、本発明における頭部装着式映像表示装置に該当するHMD2の構成を図2を用いて説明する。図2は、本発明に係るHMD2の全体構成図である。
【0023】
HMD2は、図2に示す様に、テンプル21R,21L、ブリッジ22、鼻当て23R,23L、透明基板24R,24L、表示ユニット25(LCD表示部26、接眼光学系27)、カメラユニット28、イヤホン29R,29L、マイク30、及び制御ユニット31等を有している。
【0024】
HMD2は、カメラユニット28で撮影された映像や、サーバ装置4から伝送された映像を、表示ユニット25に設けられたLCD表示部26に表示させ、該LCD表示部26から得らた映像を、接眼光学系27によって装着者(以下、作業者Bとも称する。)の眼球に直接投影させることで、恰も該映像が空中に拡大投影されているかの様な虚像の観察を可能にしている。
【0025】
テンプル21R,21Lは、可撓性を有する弾性材等により構成された長尺状の部材であり、装着者の耳や側頭部に掛止され、HMD2の装着者に対する頭部への保持及び装着位置の調整を行う為のものである。尚、テンプル21R,21Lは、回動部21Ra,21Laにおいて矢印P,Q方向に回動可能に構成されており、HMD2を使用しない場合には、テンプル21R,21Lを矢印P,Q方向に回動させて透明基板24R,24Lに沿わせることにより、コンパクト化することができる。
【0026】
ブリッジ22は、HMD2の装着者に対する顔面への保持を行う鼻当て23R,23Lを備え、透明基板24R,24Lの互いに対向する所定位置に架け渡された短尺の棒状部材であり、透明基板24Rと透明基板24Lとを一定の間隙を介した相対位置関係に保持するものである。
【0027】
透明基板24R,24Lは、一方の眼球に対応した位置にU字型のスペース24Rsを形成する略平板状の透明体である。また、透明基板24Rに囲まれて形成されるU字型のスペース24Rsには、接眼光学系27が嵌め込まれている。
【0028】
表示ユニット25は、LCD表示部26、及び接眼光学系27等を有し、カメラユニット28で撮影された映像や、制御ユニット31に設けられた後述のネットワークI/F36を介してサーバ装置4から伝送された映像を表示する。
【0029】
カメラユニット28は、本発明における電子カメラに該当し、図示しない後述のズームレンズ281、CCD(Charge Coupled Device)282、及び画像処理部284等を有し、装着者の周囲の外界情景を撮影するものであり、ズームレンズ281によって結像された被写体光学像を、CCD282によって光電変換して画像信号(映像信号)を生成し、画像処理部284等により画像信号に所定の画像処理を施し画像(映像)を生成する。
【0030】
イヤホン29R,29Lは、装着者の耳に挿入され、装着者に音声を提供する。
【0031】
マイク30は、装着者の音声を音声信号に変換する。
【0032】
制御ユニット31は、マイクロコンピュータからなり、電源スイッチ351、操作スイッチ352等を有し、これら各種操作スイッチからの信号、及びサーバ装置4からの制御信号等を受けて、HMD2で行われる表示動作や画像信号処理動作を統括的に制御するものである。
【0033】
ここで、表示ユニット25の構成を、図3を用いて説明する。図3は、本発明に係るHMD2における表示ユニット25の左側面からの側断面図であり、主に表示ユニット25の内部構成を示している。
【0034】
図3に示す様に、表示ユニット25は、筐体261、LED(Light Emitting Diode)262、コリメータレンズ263、LCD(Liquid Crystal Display)264からなるLCD表示部26、及びプリズム271、HOE(Holographic Optical Element)272からなる接眼光学系27等から構成される。
【0035】
LCD表示部26の筐体261の内部には、LED262、コリメータレンズ263、及びLCD264が内蔵された状態で、該筐体261が接眼光学系27のプリズム271の上端部において上斜め前方(図3では右斜め上方向)に突出する態様で取り付けられている。
【0036】
LED262は、所定波長色を含む白色発光ダイオード(LED)からなる点光源である。
【0037】
コリメータレンズ263は、LED262の光をほぼ平行光にしてLCD264に投光するものである。
【0038】
LCD264は、カメラユニット28で撮影され生成された映像信号や、制御ユニット31に設けられた後述のネットワークI/F36を介してサーバ装置4から伝送された映像信号に基づき映像(画像)を生成するものであり、例えば透過型の液晶表示パネルである。
【0039】
プリズム271は、ガラスや透明樹脂等からなる略板状の透明部材であり、LCD264からの光を内部で複数回の反射を行わせるものである。プリズム271の上端部は、LCD264からの光の大部分を内部に採光できるように、上方に向かってより肉厚となるように前面側(接眼面と反対側)が突き出るように楔形状に形成された肉厚部271bが形成されている。
【0040】
また、プリズム271の下端部には、傾斜面271aが形成されており、プリズム271は、透明基板24Rに形成された傾斜面24Raに対しHOE272を介して接合(例えば接着)されている。また、プリズム271の表裏面は、透明基板24Rの表裏面に対して面一とされている。これにより、プリズム271は、透明基板24Rと一枚の板状に一体化されている。
【0041】
HOE272は、光学的に軸非対称な所謂自由曲面で構成されて正のパワーを有する体積位相型のホログラム光学素子であり、プリズム271の下端部において所定の傾斜角を有して支持されている。HOE272は、プリズム271により導光された光が照射されることにより、光の干渉現象を用いてホログラム映像を眼球Eに提供する。
【0042】
以上のような構成を有する表示ユニット25においては、LED262から射出された光は、コリメータレンズ263を通してLCD264を照明し、この照明によりLCD264で生成された像光は、プリズム271内で複数回の全反射を行った後、HOE272により回折し虚像として装着者の眼球Eに導かれる。
【0043】
さらに、プリズム271は、前方から入射する光を装着者の眼球Eに導くようになっている。これにより、装着者は、外界(前方の被写体)をシースルー可能となり、カメラユニット28で撮影され生成された映像や制御ユニット31に設けられた後述のネットワークI/F36を介してサーバ装置4から伝送された映像を外界(前方の被写体)と重畳して視認することとなる。
【0044】
次に、HMD2の電気回路構成について図4を用いて説明する。図4は、本発明に係わるHMD2の電気回路のブロック構成図である。尚、図4では、図1乃至図3に示した部材と同じ部材には同一の番号を付与した。
【0045】
HMD2の要部電気回路ブロックは、表示ユニット25、カメラユニット28、及び制御ユニット31等から構成される。
【0046】
表示ユニット25は、LCD表示部26、接眼光学系27から構成され、各部位で行われる動作については前述したので説明は省略する。
【0047】
カメラユニット28は、ズームレンズ281、CCD(Charge Coupled Device)282、AFE(Analog Front End)283、画像処理部284、及びAFモータ287、ズームモータ288等を有する。
【0048】
CCD282は、R(赤)光、G(緑)光、B(青)光の各色透過フィルタをピクセル単位(画素単位)で市松模様状に配置させたカラーエリア撮像センサで、ズームレンズ281により結像された被写体光像を、R(赤)光、G(緑)光、B(青)光の各色成分の画像信号(各画素単位で受光された画素信号の信号列からなる信号)に光電変換するものである。
【0049】
AFE283は、制御ユニット31から送信される基準クロックに基づいて、CCD282の駆動を制御し、CCD282から読み出された映像信号(画像信号)に周知のアナログ信号処理を施した後にデジタル映像信号に変換する。
【0050】
この様に、CCD282で読み出された映像信号は、AFE283で所定の処理が施されて、デジタル映像信号に変換される。デジタル化された映像信号は、画像処理部284に取り込まれて所定の処理が行われる。以下、画像処理部284で行われるデジタル映像信号への処理について説明する。
【0051】
最初に、画像処理部284に取り込まれたデジタル映像信号は、CCD282から出力される映像信号の読出しに同期して後述の制御ユニット31中の画像メモリ33に書き込まれる。すなわち、画像処理部284で行われる処理に使用されるデジタル映像信号は、画像メモリ33にいったん記録したものを画像メモリ33から取り出し、画像処理部284中の各部位における処理に使用される。
【0052】
画像処理部284は、図示しない例えば、黒レベル補正部、画素補間部、ホワイトバランス制御部、ガンマ補正部、マトリックス演算部、シェーディング補正部、及び画像圧縮部等を有し、画像メモリ33より取り出したデジタル映像信号に周知の画像信号処理を施すものである。そして、これらの部位で所定の処理を施されたデジタル映像信号は、再度、画像メモリ33に格納される。
【0053】
制御ユニット31は、制御部32、画像メモリ33、VRAM(Video Random Access Memory)34、操作部35、ネットワークI/F36、AF・ズームモータ駆動回路371、及び音声出力回路381、音声入力回路382等から構成される。
【0054】
制御部32は、図示しない各制御プログラム等を記憶するROM(Read Only Memory)、演算処理や制御処理等のデータを一時的に格納するRAM(Random Access Memory)、及び制御プログラム等をROMから読み出して実行するCPU(中央演算処理装置)等からなり、前述の各操作スイッチからの信号、及びサーバ装置4からの制御信号等を受けて、HMD2で行われる表示動作や画像信号処理動作を統括的に制御するものである。
【0055】
AF制御部321は、カメラユニット28のAF(Auto Focus;自動焦点)制御を行う。具体的には、AF制御部321は、画像メモリ33に書き込まれた映像データ(デジタル映像信号)より、予め設定されてある撮像面上の測距エリアに関する映像データを読み出し、読み出した映像データのコントラスト検出により合焦位置を求める測距演算を行い、その結果に基づいてAF・ズームモータ駆動回路371を介してAFモータ287を駆動して、AF制御を行う。
【0056】
距離検出部322は、AF制御部321によるAF動作によって調整されたズームレンズレンズ281を構成する各レンズ群の停止位置情報より、被写体距離を検出する。また、AF制御部321によるAF動作は所定の周期(例えば、5秒周期)で行われ、距離検出部321は、AF動作が行われる度に被写体距離を検出し、前回検出した距離に対する今回検出した距離の変化率を算出する。
【0057】
表示制御部323は、ズームレンズレンズ281のズーム倍率および距離検出部322で検出された被写体距離(HMD2から作業対象物までの距離)およびサーバ装置4から伝送された後述の参照映像に添付されている作業対象物の現実の大きさに対する参照映像の縮尺比情報に基づいて、参照映像の表示サイズを調整する。また、表示制御部323は、被写体距離の変化率について予め閾値(例えば、30%)を設定しておき、距離検出部322で検出された変化率と予め設定された閾値を比較し、変化率が閾値を上回った場合、参照映像の表示サイズを調整する。
【0058】
画像メモリ33は、制御ユニット31中の制御部32によりデジタル映像信号に対する各種処理を行う為の作業領域として用いられる一時メモリである。
【0059】
VRAM34は、LCD表示部26中のLCD264の画素数に対応した映像信号の記録容量を有し、LCD264に再生表示される映像を構成する映像信号のバッファメモリである。
【0060】
ネットワークI/F36は、HMD2を公衆回線網PNに接続し、サーバ装置4との間で交信を行い、映像、音声、及び各種制御信号等の入出力を行う。
【0061】
AF・ズームモータ駆動回路371は、制御部32の制御に基づいて、AFモータ287、ズームモータ288を駆動する駆動信号を生成する。
【0062】
次に、図1に戻って、サーバ装置4の構成を説明する。サーバ装置4はホストコンピュータ5(以下、ホストPC5と称する。)、音声・映像記録サーバ6、及びコンテンツサーバ7等から構成される。
【0063】
ホストPC5は、図1に示す様に、コンピュータ本体51、モニタ53、マウス55、及びキーボード57等を備えた、例えば、パーソナルコンピュータである。
【0064】
ホストPC5は、そのモニタ53に、作業者Bに装着されたHMD2のカメラユニット28が撮影した作業対象物の映像を表示する。指示者Aは、モニタ53に表示された作業対象物の映像を観察しながら、マウス55やキーボード57等によりホストPC5を操作し、作業者Bにコンテンツサーバ7に記録されている後述の参照映像等の作業に必要な情報を提供し、作業指示を行うものである。
【0065】
音声・映像記録サーバ6は、HMD2のカメラユニット28で撮影された映像や作業者Bと指示者Aとの間で交信された音声等の作業記録を記憶する。
【0066】
コンテンツサーバ7には、作業者Bが作業を行う際に必要な映像や音声等の作業支援情報が記録されている。例えば、コンテンツサーバ7には、作業対象物を表す参照映像が記録されている。また、参照映像には、作業対象物の現実の大きさに対する参照映像の縮尺比情報が添付されている。ここで、縮尺比情報とは、作業対象物の実寸に対する参照映像の表示サイズの比を示し、例えば、作業対象物の実寸をXm、実寸Xmに対応する参照映像の画素数をYピクセル、とすると縮尺比はX/Yで表される。
【0067】
この様な構成の作業支援システム1において、本発明は、作業者Bが、例えば、HMD2の表示ユニット25に表示されるカメラユニット28が捕えた作業対象物の映像と、サーバ装置4から伝送された作業対象物を表す参照映像とを比較しながら作業を行っている時に、作業者Bと作業対象物の距離が変化することにより、カメラユニット28が捕えた作業対象物の映像と、サーバ装置4から伝送された作業対象物を表す参照映像の表示サイズが異なる様になった場合においても、参照映像の表示サイズを調整しカメラユニット28による映像の表示サイズに近づける様に制御するものである。
【0068】
ここで、作業支援システム1で行われる表示制御動作の流れを図5を用いて説明する。図5は、本発明に係る遠隔作業支援システム1で行われる表示制御動作の流れを示すフローチャートである。
【0069】
最初に、距離検出部322は、AF制御部321によるAF動作によって調整されたズームレンズレンズ281を構成する各レンズ群の停止位置情報より、被写体距離(HMD2から作業対象物までの距離)を検出する(ステップS1)。そして、距離検出部322は、前回検出した被写体距離に対する今回検出した被写体距離の変化率を算出する(ステップS2)。
【0070】
表示制御部323は、距離検出部322で検出された被写体距離の変化率と予め設定しておいた閾値とを比較し(ステップS3)、比較した結果、被写体距離の変化率が閾値を上回った場合(ステップS4;Yes)、ズームレンズ281のズーム倍率(ズーム位置)を取得する(ステップS5)。そして、表示制御部323は、取得したズーム倍率と距離検出部322で検出された被写体距離とに基づいて、カメラユニット28で撮影され表示ユニット25に表示される作業対象物の映像の表示サイズを算出する(ステップS6)。
【0071】
次に、表示制御部323は、サーバ装置4から伝送された参照映像に添付されている作業対象物の現実の大きさに対する参照映像の縮尺比情報を取得する(ステップS7)。そして、表示制御部323は、取得した参照映像の縮尺比情報とステップS6で算出したカメラユニット28で撮影され表示ユニット25に表示される作業対象物の映像の表示サイズとに基づいて、参照映像の表示倍率を決定し(ステップS8)、決定した表示倍率で参照映像を拡大、または縮小し、表示ユニット25に表示させる(ステップS9)。尚、ステップS1は本発明における距離検出工程、ステップS8及びステップS9は本発明における表示サイズ調整工程に該当する。
【0072】
ここで、この様にしてHMD2の表示ユニット25に表示される映像の一例を図6を用いて説明する。図6(a)は、カメラユニット28で撮影された映像K1とサーバ装置4から伝送された参照映像S1の表示サイズが略一致している場合の様子を示す模式図、図6(b)は、作業者Bが作業対象物に近づいた時、表示制御動作が行われていない場合の様子を示す模式図、図6(c)は、作業者Bが作業対象物に近づいた時、表示制御動作が行われている場合の様子を示す模式図である。
【0073】
図6(b)に示す様に、作業者Bが作業対象物に接近した時、表示制御動作が行われていない場合は、カメラユニット28で撮影された映像K2の表示サイズは参照映像S1に対して大きくなり、両者を比較することは容易ではないことが確認できる。一方、図6(c)に示す様に、作業者Bが作業対象物に接近した時、表示制御動作が行われている場合は、カメラユニット28で撮影された映像K2の表示サイズに参照映像S2の表示サイズを追従させることにより、両者を容易に比較することができる。
【0074】
尚、カメラユニット28で撮影された映像と参照映像は、図7に示す様に、所定の周期(例えば、10秒周期)で交互に切替えて表示させる様にしても良い。
【0075】
この様に、本発明の実施形態に係る遠隔作業支援システム1においては、ズームレンズレンズ281のズーム倍率および距離検出部232で検出されたHMD2から作業対象物までの距離およびサーバ装置4から提供された参照映像の縮尺比情報に基づいて、表示ユニット25に表示させる参照映像の表示サイズを、電子カメラ28で撮影され表示ユニット25に表示させる映像の表示サイズに合わせる様に調整する様にした。したがって、作業者Bが、例えば、HMD2の表示ユニット25に表示されるカメラユニット28が捕えた作業対象物の映像と、サーバ装置4から提供された作業対象物を表す参照映像とを比較しながら作業を行っている時に、作業者Bが作業対象物に近づく等して作業者Bと作業対象物の距離が変化することにより、カメラユニット28が捕えた作業対象物の映像と、サーバ装置4から提供された作業対象物を表す参照映像の表示サイズが異なる様になった場合においても、参照映像の表示サイズを調整して、カメラユニット28による映像の表示サイズに近づけることができる。また、カメラユニット28による映像の表示サイズの変化に参照映像の表示サイズを追従させることができる。これにより、従来行われていた前述の様な煩雑な調整作業を行うことなく、いつも作業に適切なサイズの参照映像を得ることができる。その結果、作業者や指示者にかかる負担を軽減でき、作業の効率化を図ることができる。
【0076】
また、参照映像の表示サイズの調整は、作業対象物との距離の変化率が所定の閾値を上回った場合のみ、行う様にしている。これにより、距離の僅かな変化に対して、参照画像の表示サイズが変動することによる視認性の低下を抑制することができる。
【0077】
以上、本発明を実施の形態を参照して説明してきたが、本発明は前述の実施の形態に限定して解釈されるべきでなく、適宜変更、改良が可能であることは勿論である。
【0078】
例えば、前述の実施の形態による遠隔作業支援システム1においては、参照映像の表示サイズをカメラユニット28による映像の表示サイズに近づける様に制御したが、参照映像の表示サイズを、作業者Bが表示ユニット25を通してシースルーで観察できる作業対象物の光学像のサイズに近づける様に制御しても良い。
【0079】
具体的には、基準距離(例えば、1m)において、参照映像を表示ユニット25に表示させておき、表示ユニット25に表示される参照映像の表示サイズを作業者Bが表示ユニット25を通してシースルーで観察できる作業対象物の光学像のサイズに合わせる為の参照映像の表示倍率を予め求めておく。そして、距離が変化した場合、距離に比例して参照映像の表示倍率を算出し、算出した表示倍率で参照映像を拡大、または縮小し表示させるものである。これにより、作業者Bは、表示ユニット25を通してシースルーで観察できる現実の作業対象物の鮮明な光学像と参照画像を比較しながら作業を行うことができ、作業効率をさらに向上させることができる。
【図面の簡単な説明】
【0080】
【図1】本発明に係る遠隔作業支援システムの全体構成を示す模式図である。
【図2】本発明に係るHMDの全体構成図である。
【図3】本発明に係るHMDにおける表示ユニットの側断面図である。
【図4】本発明に係るHMDの電気回路ブロック構成図である。
【図5】本発明に係る遠隔作業支援システムの表示制御動作の流れを示すフローチャートである。
【図6】本発明に係るHMDにおける表示ユニットに表示される映像の一例を示す模式図である。
【図7】本発明に係るHMDにおける表示ユニットに表示される映像の別例を示す模式図である。
【符号の説明】
【0081】
1 遠隔作業支援システム
2 頭部装着式映像表示装置(HMD)
21R,21L テンプル
22 ブリッジ
23R,23L 鼻当て
24R,24L 透明基板
25 表示ユニット
26 LCD表示部
261 筐体
262 LED
263 コリメータレンズ
264 LCD
27 接眼光学系
271 プリズム
272 HOE
28 カメラユニット
281 ズームレンズ
282 CCD
283 AFE
284 画像処理部
287 AFモータ
288 ズームモータ
29R,29L イヤホン
30 マイク
31 制御ユニット
32 制御部
321 AF制御部
322 距離検出部
323 表示制御部
33 画像メモリ
34 VRAM
35 操作部
351 電源スイッチ
352 操作スイッチ
36 ネットワークI/F
371 AF・ズームモータ駆動回路
381 音声出力回路
382 音声入力回路
4 サーバ装置
5 ホストコンピュータ(ホストPC)
51 コンピュータ本体
53 モニタ
55 マウス
57 キーボード
6 映像・音声記録サーバ
7 コンテンツサーバ
A 指示者
B 作業者
EN イーサーネット
E 目
IN インターネット
PN 公衆回線網

【特許請求の範囲】
【請求項1】
映像を表示する表示ユニットを備えた頭部装着式映像表示装置と、
前記頭部装着式映像表示装置に作業対象物を表す参照映像を提供するサーバ装置と、を有し、
前記頭部装着式映像表示装置を装着した作業者に、指示者が前記サーバ装置により作業指示を与える遠隔作業支援システムであって、
前記頭部装着式映像表示装置は、該頭部装着式映像表示装置から前記作業対象物までの距離を検出する距離検出部と、
前記表示ユニットに表示させる前記参照映像の表示サイズを調整する表示制御部と、を有し、
前記参照映像には、前記作業対象物の現実の大きさに対する該参照映像の縮尺比情報が添付され、
前記表示制御部は、前記距離検出部で検出された距離と前記サーバ装置から提供された前記参照映像に添付されている前記縮尺比情報に基づいて、前記表示ユニットに表示させる前記参照映像の表示サイズを調整することを特徴とする遠隔作業支援システム。
【請求項2】
前記頭部装着式映像表示装置は、作業対象物を撮影する電子カメラを備え、
前記表示制御部は、前記距離検出部で検出された距離と前記サーバ装置から提供された前記参照映像に添付されている前記縮尺比情報に基づいて、前記表示ユニットに表示させる前記参照映像の表示サイズを、前記電子カメラで撮影され前記表示ユニットに表示させる映像の表示サイズに合わせる様に調整することを特徴とする請求項1に記載の遠隔作業支援システム。
【請求項3】
前記電子カメラは、ズームレンズを備え、
前記表示制御部は、前記ズームレンズのズーム倍率および前記距離検出部で検出された距離および前記サーバ装置から提供された前記参照映像に添付されている前記縮尺比情報に基づいて、前記表示ユニットに表示させる前記参照映像の表示サイズを、前記電子カメラで撮影され前記表示ユニットに表示させる映像の表示サイズに合わせる様に調整することを特徴とする請求項2に記載の遠隔作業支援システム。
【請求項4】
前記表示ユニットは、前記頭部装着式映像表示装置を装着した作業者が外界をシースルー可能であり、
前記表示制御部は、前記距離検出部で検出された距離と前記サーバ装置から提供された前記参照映像に添付されている前記縮尺比情報に基づいて、前記表示ユニットに表示させる前記参照映像の表示サイズを、作業者がシースルーで観察できる前記作業対象物の光学像のサイズに合わせる様に調整することを特徴とする請求項1に記載の遠隔作業支援システム。
【請求項5】
前記距離検出部は、前記頭部装着式映像表示装置から前記作業対象物までの距離の変化率を検出し、
前記表示制御部は、前記距離検出部で検出された変化率と予め設定された閾値を比較し、前記変化率が前記閾値を上回った場合、前記参照映像の表示サイズを調整することを特徴とする請求項1乃至4のいずれか1項に記載の遠隔作業支援システム。
【請求項6】
作業者が装着した頭部装着式映像表示装置に設けられた表示ユニットに表示させるサーバ装置から提供された作業対象物を表す参照映像の表示制御方法であって、
前記参照映像には、前記作業対象物の現実の大きさに対する該参照映像の縮尺比情報が添付され、
前記頭部装着式映像表示装置から前記作業対象物までの距離を検出する距離検出工程と、
前記距離検出工程で検出された距離と前記サーバ装置から提供された前記参照映像に添付されている前記縮尺比情報に基づいて、前記表示ユニットに表示させる前記参照映像の表示サイズを調整する表示サイズ調整工程と、を有することを特徴とする参照映像の表示制御方法。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7】
image rotate


【公開番号】特開2008−123257(P2008−123257A)
【公開日】平成20年5月29日(2008.5.29)
【国際特許分類】
【出願番号】特願2006−306495(P2006−306495)
【出願日】平成18年11月13日(2006.11.13)
【出願人】(000001270)コニカミノルタホールディングス株式会社 (4,463)
【Fターム(参考)】