説明

ヘッドマウントディスプレイ

【課題】事後的な編集作業を要することがなく所望の動画を生成することができるヘッドマウントディスプレイを提供する。
【解決手段】マニュアル701〜703が画像生成部で表示されると、同時にユーザーの視界方向が撮像され、マニュアル701〜703と対応する単位動画A1、B1、C1が生成される。もし、ユーザーがマニュアル702に対応する単位動画を撮り直したい場合には、再び、マニュアル702を画像生成部52で表示させることにより、マニュアル702と対応付けられた単位動画B2が生成される。そして、単位動画B1を撮り直した単位動画B2に差し替えるか否かの判断がなされ、単位動画B1を撮り直した単位動画B2に差し替えると判断された場合には、単位動画B1が撮り直した単位動画B2に差し替えられ、単位動画A1、B2、C1が繋ぎ合わされて、「連続動画」が生成される。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、ユーザーに情報を提供するとともに、同時にユーザーの視界方向を撮像することができるヘッドマウントディスプレイに関する。
【背景技術】
【0002】
従来から特許文献1に示されるように、作業者の頭部に装着され、作業者にマニュアル等を視認させるヘッドマウントディスプレイが知られている。このようなヘッドマウントディスプレイは、作業者の視界にマニュアルが表示されるので、作業をしながら常にマニュアルを確認することができ、作業の確実性を向上させることができる。また、手にマニュアルを持つ必要が無いので、作業効率を向上させることもできる。
【0003】
また、特許文献2には、記憶された動画の検索や編集を高速に行うために、記録開始ポイント及び記録終了ポイントを記録するビデオデータ記録装置が提案されている。
【先行技術文献】
【特許文献】
【0004】
【特許文献1】特開平11−249587号公報
【特許文献2】特開平9−200680号公報
【発明の概要】
【発明が解決しようとする課題】
【0005】
ところで、習熟を必要とする技術の指導のための作業記録動画や、一定の作業を繰り返し行う作業者のための手本となる作業記録動画を撮影したい場合がある。
しかしながら、作業記録動画を撮影中に、作業者が作業を失敗してしまったり、作業をもっと分かり易く説明したりするために、作業者が部分的に撮り直したいと思うことがある。従来の方法では、撮影終了後に、作業者が編集箇所を探し、失敗した箇所の動画を切り取り、成功した箇所の動画同士をつなぎ合わせるという編集作業が必要となり、多大な労力と時間を費やさなければならないという問題があった。
【0006】
特許文献2に示される技術を用いれば、記録開始ポイント及び記録終了ポイントが記録されるため、作業者が編集箇所を探す労力は軽減される。しかしながら、特許文献2に示される技術では、事後的な編集作業を要するため、依然として、編集作業に労力と時間を費やさなければならないという問題があった。
本発明は、上記問題を解決し、事後的な編集作業を要することがなく所望の動画を生成することができるヘッドマウントディスプレイを提供することを目的とする。
【課題を解決するための手段】
【0007】
上記課題を解決するためになされた請求項1に記載の発明は、
ユーザーの頭部に装着され、ユーザーに画像を視認させる画像生成部と、
前記画像生成部で表示する単位表示画像データを取得する単位表示画像データ取得手段と、
ユーザーの視界方向を撮像し、撮像動画を生成する撮像手段と、
前記撮像手段が生成した撮像動画から、前記画像生成部で表示される単位表示画像毎に、前記単位表示画像と対応付けられた単位動画を生成する単位動画生成手段と、
1の単位動画と対応する同一単位表示画像と対応付けられた他の単位動画が生成された場合に、前記1の単位動画を前記他の単位動画に差し替えるか否かの判断を行い、差し替えると判断した場合に、前記1の単位動画を前記他の単位動画と差し替え、これら差し替えた単位動画を1まとまりの連続動画として生成する連続動画生成手段と、
を有することを特徴とする。
【0008】
請求項2に記載の発明は、請求項1に記載の発明において、
単位動画生成手段は、撮像時間が所定時間以上である場合に限り、単位動画を生成することを特徴とする。
これにより、撮像時間が数秒のような撮像動画からは単位動画が生成されない。このため、短時間で、記憶しておく価値が無い単位動画が無意味に記憶されることがない。
【0009】
請求項3に記載の発明は、請求項1又は請求項2に記載の発明において、
ユーザーからの操作を受け付ける操作部を更に備え、
連続動画生成手段は、単位動画を差し替えるか否かの判断を、前記操作部へのユーザーの操作により決定することを特徴とする。
これにより、ユーザーが操作部を操作することにより、ユーザーが望む単位動画を選択することが可能となる。
【0010】
請求項4に記載の発明は、請求項1〜請求項3に記載の発明において、
連続動画生成手段によって前記他の単位動画に差し替えられた前記1の単位動画を記憶する予備単位動画記憶手段を更に有することを特徴とする。
これにより、連続動画として使用されなかった単位動画を利用することが可能となる。
【0011】
請求項5に記載の発明は、請求項1〜請求項4に記載の発明において、
連続動画生成手段は、前記他の単位動画の撮像時間が前記1の単位動画の撮像時間よりも長い場合、前記1の単位動画を前記他の単位動画に差し替えることを特徴とする。
これにより、同一の対象についての単位動画が、より撮像時間が長い単位動画に自動的に差し替えられる。これにより、より撮像時間が長く、より記録する価値が高い単位動画から構成される連続動画を、自動的に生成することが可能となる。
【0012】
請求項6に記載の発明は、請求項1〜請求項5に記載の発明において、
単位動画生成手段は、
画像生成部によって表示される単位表示画像データが変更された時に、新たな単位動画を生成することを特徴とする。
これにより、画像生成部によって表示される単位表示画像と対応付けされた単位動画が順次自動的に作成される。このため、ユーザーが前記単位表示画像データと撮像された単位動画との対応付けを事後的に行う必要がない。
【0013】
請求項7に記載の発明は、請求項1〜請求項5に記載の発明において、
撮像動画と画像生成部で表示される単位表示画像との関連性を認識する関連認識手段を更に備え、
単位表示画像データ取得手段は、前記関連認識手段が認識した撮像動画と関連性のある単位表示画像データを取得し、
画像生成部は、前記取得された単位表示画像データを表示し、
単位動画生成手段は、
前記関連認識手段が前記関連性を認識した時に、新たな単位動画を生成し、
前記関連認識手段が前記関連性の消滅を認識した時に、前記新たな単位動画の生成を終了することを特徴とする。
これにより、撮像画像と関連性のある単位表示画像が自動的に画像表示部で表示されるとともに、前記単位表示画像と対応付けされた単位動画が自動的に作成される。このため、ユーザーが画像生成部で表示させる単位表示画像を選択する選択操作を行う必要がない。例えば、作業対象物の作業についての作業記録動画を作成する場合に、ユーザーが前記作業対象物を自己の視界に入れるだけで、作業記録動画である単位動画が生成され、作業記録動画の作成に手間がかからない。
【0014】
請求項8に記載の発明は、請求項1〜請求項7に記載の発明において、
連続動画と、連続動画を構成する単位動画に対応する単位表示画像を、画像生成部で表示させる連続動画再生手段を更に有することを特徴とする。
これにより、ユーザーが、完成した連続動画の出来映えを確認することが可能となる。
【発明の効果】
【0015】
本発明によれば、事後的な編集作業を要することがなく、画像表示部で表示されるファイルと関連性のある所望の動画を生成することが可能となる。
【図面の簡単な説明】
【0016】
【図1】本発明の実施の形態を示すヘッドマウントディスプレイの概要図である。
【図2】ユーザーの視界を表した図である。(第1の実施形態)
【図3】単位動画から連続動画が生成される過程を表した説明図である。
【図4】第1の実施形態のヘッドマウントディスプレイのブロック図である。
【図5】第1の実施形態の連続動画生成処理のフロー図である。
【図6】第2の実施形態のヘッドマウントディスプレイのブロック図である。
【図7】第2の実施形態の連続動画生成処理のフロー図である。
【図8】ユーザーの視界を表した図である。(第2の実施形態)
【図9】第3の実施形態の概要を示した説明図である。
【図10】第3の実施形態のヘッドマウントディスプレイのブロック図である。
【図11】第3の実施形態の連続動画生成処理にフロー図である。
【図12】開始終了ポイントファイルの説明図である。
【発明を実施するための形態】
【0017】
(第1の実施形態のヘッドマウントディスプレイの概要)
以下に図面を参照しつつ、本発明の好ましい実施の形態を示す。第1の実施形態のヘッドマウントディスプレイ100は、ユーザーの頭部に装着されるヘッドマウントディスプレイ部50と、このヘッドマウントディスプレイ部50を制御する制御部31とから構成されている。ヘッドマウントディスプレイ部50は、頭部装着部51、画像生成部52、撮像部53とから構成されている。頭部装着部51は、図1に示される実施形態では、眼鏡のフレーム形状であるが、ヘルメット形状等であってもよく、ユーザーの頭部に装着される構造のものであればよい。
【0018】
画像生成部52は、頭部装着部51の側前部に取り付けられている。画像生成部52は、画像を生成し、当該画像をユーザーに視認させるものである。本実施形態では、画像生成部52は、レーザ光を直接ユーザーの眼球に走査することにより、ユーザーに画像を視認させる網膜走査型ディスプレイを用いて構成される。しかし、画像生成部52は、液晶ディスプレイ、有機EL(Organic Electroluminescence)ディスプレイなど、その他の装置を用いた構成であっても差し支えない。前記画像は本実施形態では、マニュアル701(図2に示す)である。図2に示されるように、ユーザーは、画像生成部52で表示するマニュアル701を視認することができると同時に、外界に存在する作業対象物801を視認することができるようになっている。
【0019】
撮像部53は、頭部装着部51の前部に取り付けられている。撮像部53は、ユーザーの視界方向を撮像する装置である。撮像部53は、イメージセンサー、結像光学系を有している。イメージセンサーは、2次元配列されたフォトダイオードを有している。各フォトダイオードは、入射光の強度を電荷に変換し、電荷を「信号電圧」として出力する。イメージセンサーには、CCD(Charge Coupled Device Image SenSor)やCMOS(Complementary Mwtal Oxide Semiconductor)が含まれる。結像光学系は、単一又は複数のレンズで構成され、入光した像を、イメージセンサー上で結像させるものである。
【0020】
制御部31は、画像生成部52、撮像部53と接続している。制御部31は、例えば、ユーザーの腰に装着される。制御部31は、操作部21、電源ランプ22を有している。操作部21は、ヘッドマウントディスプレイ100を操作するためのものであり、複数のボタン、或いは、タッチパネルで構成されている。電源ランプ22は、例えば、LEDで構成されていて、ヘッドマウントディスプレイ100に電源が投入されると、発光するようになっている。
【0021】
図3を用いて、本発明のヘッドマウントディスプレイ100の概要について説明する。ユーザーが、操作部21を操作することにより、マニュアル701〜703を順次選択し、これらのマニュアル701〜703が画像生成部52で表示されると、同時に撮像部53でユーザーの視界方向が撮像される。そして、マニュアル701〜703と対応する単位動画A1、B1、C1が生成され、制御部31に記憶される。
もし、ユーザーがマニュアル702に対応する単位動画を撮り直したい場合には、ユーザーが操作部21を操作することにより、再び、マニュアル702を画像生成部52で表示させる。すると、マニュアル702が画像生成部52で表示されると同時に、撮像部53での撮像が開始される。そして、ユーザーが操作部21を操作することにより、画像生成部52でのマニュアル702の表示を停止させると同時に、撮像部53での撮像が終了し、マニュアル702と対応付けられた単位動画B2が生成され、制御部31に記憶される。そして、単位動画B1を撮り直した単位動画B2に差し替えるか否かの判断がなされ、単位動画B1を撮り直した単位動画B2に差し替えると判断された場合には、単位動画B1が撮り直した単位動画B2に差し替えられ、単位動画A1、B2、C1が繋ぎ合わされて、「連続動画」が生成される。
以下、このような機能を実現するヘッドマウントディスプレイ100の構成について詳細に説明する。
【0022】
(第1の実施形態のヘッドマウントディスプレイのブロック図)
図4を用いて、第1の実施形態のヘッドマウントディスプレイ100のブロック図を説明する。制御部31は、CPU10、RAM11、ROM12、補助記憶装置13、撮像部用コントローラ14、撮像部用VRAM15、画像生成部用コントローラ16、画像生成部用VRAM17、外部接続インターフェース18、周辺インターフェース19を有していて、これらは相互にバス9で接続されている。撮像部用コントローラ14と撮像部用VRAM15は相互に接続している。画像生成部用コントローラ16と画像生成部用VRAM17も相互に接続している。撮像部用コントローラ14と撮像部53は、相互に接続している。画像生成部用VRAM17と画像生成部52は相互に接続している。
【0023】
CPU(Central Processing Unitの略)10は、RAM(Random Access Memoryの略)11、ROM(Read Only Memoryの略)12と協動して、各種演算、処理を行うものである。
【0024】
RAM11は、CPU10で処理されるプログラムや、CPU10が処理するデータを、そのアドレス空間に一時的に記憶するものである。
【0025】
ROM12には、ヘッドマウントディスプレイ100を制御する各種プログラムやパラメータが記憶されている。当該各種プログラムが、CPU10で処理されることにより、各種機能を実現している。ROM12には、マニュアルファイル取得プログラム12a、画像生成プログラム12b、単位動画生成プログラム12c、単位動画差替プログラム12d、連続動画生成プログラム12e、連続動画再生プログラム12fが記憶されている。なお、補助記憶装置13に、これらプログラムやデータを記憶させることにしても差し支えない。
【0026】
マニュアルファイル取得プログラム12aは、ユーザーの選択操作により、マニュアルファイル記憶領域13aに記憶されている「マニュアルファイル」を取得するプログラムである。
画像生成プログラム12bは、「マニュアルファイル」から「表示画像データ」を生成させる描画命令を、画像生成部用コントローラ16に出力するプログラムである。
単位動画生成プログラム12cは、撮像部用コントローラ14が生成した「撮像動画」から、画像生成部52で表示される「マニュアルファイル」毎に、前記「マニュアルファイル」と対応付けられた「単位動画」を生成するプログラムである。生成された「単位動画」は、補助記憶装置13の単位動画記憶領域13bに記憶される。
単位動画差替プログラム12dは、単位動画記憶領域13bに記憶されている1の「単位動画」と対応する同一の「マニュアルファイル」と対応付けられた他の「単位動画」が新たに生成された場合に、前記1の「単位動画」を前記他の「単位動画」に差し替えるか否かの判断を行い、差し替えると判断した場合に、前記1の「単位動画」を前記「他の単位動画」と差し替えるプログラムである。
連続動画生成プログラム12eは、「単位動画」から、1まとまりの「連続動画」を生成するプログラムである。
連続動画再生プログラム12fは、「連続動画」と、この「連続動画」を構成する「単位動画」に対応する「マニュアルファイル」を並列させて画像生成部52で表示させる描画命令を、画像生成部用コントローラ16に出力するプログラムである。
なお、マニュアルファイル取得プログラム12a、画像生成プログラム12b、単位動画生成プログラム12c、単位動画差替プログラム12d、連続動画生成プログラム12e、連続動画再生プログラム12fを、ASIC(Application Specific Integrated Circuit)として構成することとしても差し支えない。
【0027】
補助記憶装置13は、例えば、不揮発性メモリーやハードディスクである。補助記憶装置13は、マニュアルファイル記憶領域13a、単位動画記憶領域13b、予備単位動画記憶領域13c、連続動画記憶領域13dを有している。
【0028】
マニュアルファイル記憶領域13aには、各種「マニュアルファイル」が記憶されている。この「マニュアルファイル」のファイル形式には、静止画像ファイル、動画ファイル、文章ファイル等の各種ファイルが含まれる。
単位動画記憶領域13bには、「マニュアルファイル」に対応付けられた「単位動画」が記憶されるようになっている。
予備単位動画記憶領域13cには、「旧単位動画」が記憶されるようになっている。「旧単位動画」とは、単位動画記憶領域13bに記憶されている「単位動画」に対応する「マニュアルファイル」について、新たに撮り直しが行われた場合に、新たに撮り直された「単位動画」と差し替えられる「単位動画」のことである。
【0029】
撮像部用コントローラ14は、A/Dコンバータ、DSP(Digital Signal Prosessor)を有している。A/Dコンバータは、撮像部53のイメージセンサーが出力する「信号電圧」を、「デジタル信号」に変換する。DSPは、A/Dコンバータが生成した「デジタル信号」から、RGBそれぞれの色について階調表現して、「撮像動画」を生成し、撮像部用VRAM15に記憶させる。
【0030】
画像生成部用コントローラ16は、GPU(Graphics Processing Unit)を有し、画像生成プログラム12bの命令を受けて、マニュアルファイル記憶領域13aに記憶されている「マニュアルファイル」から、画像生成部52で表示する「表示画像データ」を生成し、画像生成部用VRAM17に記憶させる。画像生成部用VRAM17に記憶された「表示画像データ」は、「画像信号」として画像生成部52に出力される。
【0031】
外部接続インターフェース18は、コンピュータ装置999接続している。コンピュータ装置999には、パーソナルコンピュータやPDAが含まれる。外部接続インターフェース18には、LAN(Local Area Network)や、USB(Unversal Serial Busの略、)、その他通信インターフェースが含まれる。
【0032】
周辺インターフェース19は、信号の物理的、論理的な形式を変換するものである。周辺インターフェース19は、操作部21や電源ランプ22と接続している。操作部21は、ユーザーの操作により、ヘッドマウントディスプレイ100をON状態(電源が投入された状態)やOFF状態(電源が遮断された状態)にしたり、画像生成部52で表示される「マニュアルファイル」を切り替えたりするためのものである。電源ランプ22は、ヘッドマウントディスプレイ100がON状態の時に点灯するようになっている。
【0033】
(第1の実施形態の連続動画生成処理のフローの説明)
図5を参照して、以下に、第1の実施形態の「連続動画生成処理」のフローの説明をする。第1の実施形態の連続動画生成処理では、ユーザーが操作部21を操作することにより、画像生成部52で表示される「マニュアルファイル」が切り替わる度に、この「マニュアルファイル」と対応付けられた「単位動画」が生成される。以下、詳細に説明する。
【0034】
ユーザーが操作部21を操作することにより、ヘッドマウントディスプレイ100に電源が投入されると、S111の判断処理に進む。
S111「マニュアル表示操作有り?」の処理において、マニュアルファイル取得プログラム12aが、ユーザーが操作部21を操作することにより、画像生成部52で「マニュアルファイル」を表示させる「操作信号」を検知した場合には(S111の判断処理がYES)、S112の処理に進む。
【0035】
S112「マニュアルを表示」の処理において、マニュアルファイル取得プログラム12aは、S111の判断処理で検知した「操作信号」に基づいて、マニュアルファイル記憶領域13aに記憶されている「マニュアルファイル」を取得する。次に、画像生成プログラム12bは、マニュアルファイル取得プログラム12aが取得した「マニュアルファイル」から、「表示画像データ」を生成する描画命令を、画像生成部用コントローラ16に出力する。生成された「表示画像データ」は、「画像信号」として画像生成部52に出力されて、画像生成部52でマニュアル701が表示される(図2に示す)。S112の処理が終了すると、S113の処理に進む。
【0036】
S113「撮像開始」の処理において、CPU10は、撮像部用コントローラ14に、撮像部53での撮像を開始させる命令を出力する。撮像部用コントローラ14は「撮像動画」を生成し、撮像部用VRAM15に記憶させる。S113の処理が終了すると、S114の判断処理に進む。
【0037】
S114「マニュアル変更操作有り?」の判断処理において、マニュアルファイル取得プログラム12aは、ユーザーの操作部21の入力操作により「操作信号」が出力されたか否かを判断し、画像生成部52で表示される「マニュアルファイル」の変更操作があったか否かを判断する。マニュアルファイル取得プログラム12aが、画像生成部52で表示される「マニュアルファイル」の変更操作があったと判断した場合には(S114の判断処理がYES)、画像生成プログラム12bは、ユーザーが選択した「マニュアルファイル」から、「表示画像データ」を生成する描画命令を、画像生成部用コントローラ16に出力し、S121の判断処理に処理が移行される。
【0038】
S121「所定時間以上マニュアルが表示されたか?」の判断処理において、単位動画生成プログラム12cは、変更後の「マニュアルファイル」が画像生成部52で所定時間以上表示されたか否かを判断する。単位動画生成プログラム12cが、変更後の「マニュアルファイル」が画像生成部52で所定時間以上表示されたと判断した場合には(S121の判断処理がYES)、S122の処理に進む。一方で、単位動画生成プログラム12cが、変更前の「マニュアルファイル」が画像生成部52で所定時間よりも短くしか表示されていないと判断した場合には(S121の判断処理がNO)、S131の判断処理に進む。
つまり、ユーザーが操作部21を操作することにより、画像生成部52で表示させたい「マニュアルファイル」を検索している場合には、短時間しか「マニュアルファイル」が画像生成部52で表示されず(言い換えると、短時間しか撮像されず)、この場合には「撮像動画」を「単位動画」として記憶する必要が無いことから、生成された「撮像動画」は破棄される。
【0039】
S122「変更前のマニュアルに対応する単位動画が記憶されているか?」の判断処理において、単位動画生成プログラム12cは、変更前の「マニュアルファイル」に対応する「単位動画」が、単位動画記憶領域13bに記憶されているか否かを判断する。単位動画生成プログラム12cが、変更前の「マニュアルファイル」に対応する「単位動画」が、単位動画記憶領域13bに記憶されていると判断した場合には(S122の判断処理がYES)、S124の処理に進む。一方で、単位動画生成プログラム12cが、変更前の「マニュアルファイル」に対応する「単位動画」が単位動画記憶領域13bに記憶されていないと判断した場合には(S122の判断処理がNO)、S123の処理に進む。
【0040】
S123「撮像動画を変更前のマニュアルと対応する単位動画として記憶」の処理において、単位動画生成プログラム12cは、「マニュアルファイル」が変更されるまでに生成された「撮像動画」を、変更前の「マニュアルファイル」と対応する「単位動画」として生成し、単位動画記憶領域13bに記憶させる。S123の処理が終了すると、S131の判断処理に進む。
【0041】
S124「既に記憶されている単位動画の撮像時間よりも長いか?」の判断処理において、単位動画差替プログラム12dは、単位動画記憶領域13b記憶されている同一の「マニュアルファイル」に対応する「単位動画」の撮像時間よりも、新たに生成される「単位動画」の撮像時間のほうが長いか否かを判断する。単位動画差替プログラム12dが、新たに生成される「単位動画」の撮像時間のほうが長いと判断した場合には(S124の判断処理がYES)、S125の処理に進む。一方で、単位動画差替プログラム12dが、新たに生成される「単位動画」の撮像時間のほうが短いと判断した場合には(S124の判断処理がNO)、S127の処理に進む。図3に示される例では、単位動画記憶領域13b記憶されているマニュアル702に対応する単位動画B1の撮像時間よりも、新たに生成される単位動画B2の撮像時間のほうが長いので、S125の処理に進む。
【0042】
S125「既に記憶されている単位動画を予備単位動画記憶領域に記憶」の処理において、単位動画差替プログラム12dは、S124の処理で比較された、既に単位動画記憶領域13bに記憶されている「単位動画」を、予備単位動画記憶領域13cに記憶するとともに、単位動画記憶領域13bから消去する。図3に示される例では、単位動画差替プログラム12dは、単位動画B1を、予備単位動画記憶領域13cに記憶するとともに、単位動画記憶領域13bから消去する。S125の処理が終了すると、S126の処理に進む。
【0043】
S126「撮像動画を変更前のマニュアルと対応する単位動画として記憶」の処理において、単位動画生成プログラム12cは、「マニュアルファイル」が変更されるまで生成された「撮像動画」を、変更前の「マニュアルファイル」と対応する「単位動画」として生成する。そして、単位動画差替プログラム12dは、前記生成された「単位動画」を単位動画記憶領域13bに記憶させる。図3に示される例では、単位動画生成プログラム12cはマニュアル702に対応する単位動画B2を生成し、単位動画差替プログラム12dは単位動画B2を、単位動画記憶領域13bに記憶させる。S126の処理が終了すると、S131の判断処理に進む。
【0044】
S127「差替通知を表示」の処理において、単位動画差替プログラム12dは、画像生成部52で「差替通知」を表示させる描画命令を、画像生成部用コントローラ16に出力する。S127の処理が終了すると、S128の判断処理に進む。
【0045】
S128「差替指示信号を受信?」の判断処理において、単位動画差替プログラム12dは、「差替指示信号」を、周辺インターフェース19を介して受信したか否かを判断する。ユーザーが操作部21を操作することにより、単位動画差替プログラム12dが、「差替指示信号」を、受信したと判断した場合には(S128の判断処理がYES)、S125の処理に進む。一方で、単位動画差替プログラム12dが、「差替指示信号」を、所定時間(数秒)の有効期間内に受信していないと判断した場合には(S128の判断処理がNO)、S129の処理に進む。
【0046】
S129「撮像動画を予備単位動画記憶領域に記憶」の処理において、単位動画生成プログラム12bは、「マニュアルファイル」が変更されるまで生成された「撮像動画」を、「単位動画」として、予備単位動画記憶領域13cに記憶させる。S129の処理が終了すると、S131の処理に進む。
【0047】
S131「撮像終了?」の判断処理において、CPU10は、「撮像終了信号」を、周辺インターフェース19を介して受信したか否かを判断する。ユーザーが操作部21を操作することにより、CPU10が、「撮像終了信号」を受信したと判断した場合には(S131の判断処理がYES)、S132の処理に進む。一方で、CPU10が、「撮像終了信号」を受信していないと判断した場合には(S131の判断処理がNO)、S114の判断処理に戻る。
【0048】
S132「撮像終了」の処理において、CPU10は、撮像部用コントローラ14に、撮像部53での撮像を中止させる命令を出力する。S132の処理が終了すると、S133の処理に進む。
【0049】
S133「連続動画生成」の処理において、連続動画生成プログラム12eは、単位動画記憶領域13bに記憶されている各「単位動画」を、繋ぎ合わせて、1まとまりの(1ファイルの)「連続動画」を生成し、連続動画記憶領域13dに記憶させる。図3に示される例では、連続動画生成プログラム12eは、単位動画A1、差し替えられた単位動画B2、単位動画C1を、1ファイルに繋ぎ合わせて「連続動画」を生成し、連続動画記憶領域13dに記憶させる。S133の処理が終了すると、S134の判断処理に進む。
【0050】
S134「連続動画再生?」の判断処理において、CPU10は、「連続動画再生信号」を、周辺インターフェース19を介して受信したか否かを判断する。ユーザーが操作部21を操作することにより、CPU10が、「連続動画再生信号」を受信したと判断した場合には(S134の判断処理がYES)、S135の処理に進む。一方で、CPU10が、「連続動画再生信号」を受信していないと判断した場合には(S134の判断処理がNO)、S136の判断処理に戻る。
【0051】
S135「連続動画再生」の処理において、連続動画再生プログラム12fは、連続動画記憶領域13dに記憶されている「連続動画」と、この「連続動画」を構成する「単位動画」に対応する「マニュアルファイル」を、並列させて画像生成部52で表示させる描画命令を、画像生成部用コントローラ16に出力する。ユーザーは、画像生成部52で並列表示される「連続動画」と、「マニュアルファイル」を同時に見ることにより、完成した「連続動画」の出来映えを確認することができる。S135の処理が終了すると、S136の判断処理に進む。
【0052】
S136「撮り直し?」の判断処理において、CPU10は、「撮り直し指示信号」を、周辺インターフェース19を介して受信したか否かを判断する。ユーザーが操作部21を操作することにより、CPU10が、「撮り直し指示信号」を受信したと判断した場合には(S136の判断処理がYES)、S114の判断処理に戻る。一方で、CPU10が、「撮り直し指示信号」を受信していないと判断した場合には(S136の判断処理がNO)、S137の処理に進む。
【0053】
S137「連続動画をコンピュータ装置に出力」の処理において、連続動画記憶領域13dに記憶された「連続動画」は、外部接続インターフェース18を介して、コンピュータ装置999に出力される。S137の処理が終了すると、「連続動画生成処理」が終了し、ヘッドマウントディスプレイ100の電源が遮断される。
【0054】
なお、S124の判断処理において、単位動画差替プログラム12dが、単位動画記憶領域13b記憶されている同一の「マニュアルファイル」に対応する「単位動画」の撮像時間よりも、新たに生成される「単位動画」の撮像時間のほうが長いか否かを判断しているのは、同一の「マニュアルファイル」について撮像し直した場合に、撮り直した「単位動画」のほうが既に記憶されている「単位動画」よりも長い場合には、撮り直した「単位動画」のほうがより詳細に作業を説明していると考えられ、より記憶する価値のある「単位動画」であるからである。
【0055】
(第2の実施形態のヘッドマウントディスプレイの概要)
以下に、第1の実施形態のヘッドマウントディスプレイ100と異なる点について、第2の実施形態のヘッドマウントディスプレイ200を説明する。第2の実施形態では、ユーザーが作業対象物801(図8に示す)方向を見ると、撮像部53が作業対象物801を撮像し、後述する関連認識プログラム12gが(図6に示す)、撮像された作業対象物801をパターンマッチングにより認識して、作業対象物801の作業を行うためのマニュアル701を選択する。そして、前記マニュアル701が画像生成部52で表示されるとともに、前記マニュアル701に対応する「単位動画」が生成される。以下、このような機能を実現するヘッドマウントディスプレイ200の構成について、詳細に説明する。
【0056】
(第2の実施形態のヘッドマウントディスプレイのブロック図)
図6を用いて、第2の実施形態のヘッドマウントディスプレイ200のブロック図について、第1の実施形態と異なる点について説明する。
【0057】
第2の実施形態では、マニュアルファイル記憶領域13aに記憶されている「マニュアルファイル」は、画像生成部52で表示される「画像データ」と、「特徴点座標データ」とから構成されている。「特徴点座標データ」は、前記各「画像データ」と相互に関連性がある「作業対象物」の「特徴点」の座標を記憶したデータである。
【0058】
第2の実施形態では、ROM12には、更に、関連認識プログラム12gが記憶されている。関連認識プログラム12gは、撮像された作業対象物801(図8に示す)と画像生成部52で表示される「マニュアルファイル」との関連性を認識するプログラムである。具体的には、関連認識プログラム12gは、作業対象物801が撮像された「撮像動画」から1フレームを取得し、作業対象物801のエッジ等の特徴点850(図8に示す)を抽出し、当該特徴点850の「撮像動画」の1フレーム中の座標と、前記「マニュアルファイル」の「特徴点座標データ」とを比較することにより、作業対象物801に対応する「マニュアルファイル」を認識する。
【0059】
第2の実施形態では、RAM11は、撮像データ特徴点座標記憶領域11a、マニュアルファイル特徴点座標記憶領域11b、紐付け情報記憶領域11cを有している。
撮像データ特徴点座標記憶領域11aには、関連認識プログラム12gが、算出した「撮像動画」から1フレーム中の「作業対象物」の「特徴点」の座標が記憶される。
マニュアルファイル特徴点座標記憶領域11bには、「マニュアルファイル」の「特徴点座標データ」が記憶される。
紐付け情報記憶領域11cには、関連認識プログラム12gにより、「作業対象物」と関連性が認識された「マニュアルファイル」との「紐付け情報」が記憶される。
【0060】
(第2の実施形態の連続動画生成処理のフローの説明)
図7を参照して、以下に、第2の実施形態の「連続動画生成処理」のフローについて説明する。
【0061】
ユーザーが操作部21を操作することにより、ヘッドマウントディスプレイ100に電源が投入されると、S211の判断処理に進む。
S211「作業対象物撮像開始操作有り?」の判断処理において、CPU10は、ユーザーが操作部21を操作することにより、撮像部53で「作業対象物」の撮像を開始することを選択したか否かを判断する。CPU10が、撮像部53で「作業対象物」の撮像を開始することを選択したと判断した場合には(S211の判断処理がYES)、S212の処理に進む。
【0062】
S212「撮像開始」の処理において、単位動画生成プログラム12cは、撮像部用コントローラ14に、撮像部53で撮像を開始させる命令を出力する。第2の実施形態では、ユーザーの視界方向には、作業対象物801(図8に示す)があることから、撮像部53で作業対象物801が撮像される。撮像部用コントローラ14は「撮像動画」を生成し、撮像部用VRAM15に記憶させる。S212の処理が終了すると、S213の処理に進む。
【0063】
S213「撮像動画から特徴点座標を抽出」の処理において、関連認識プログラム12gは、撮像部用VRAM15に記憶されている「撮像動画」から、1フレームを取得し、図8に示されるように、エッジ等の特徴点850を抽出し、当該各特徴点850の「撮像動画」内の座標を算出し、RAM11の撮像データ特徴点記憶領域11aに記憶させる。S213の処理が終了すると、S214の処理に進む。
【0064】
S214「マニュアルファイルの特徴点座標データを取得」の処理において、関連認識プログラム12gは、マニュアルファイル記憶領域13aから、「マニュアルファイル」の「特徴点座標データ」を取得し、RAM11のマニュアルファイル特徴点座標記憶領域11bに記憶させる。S214の処理が終了すると、S215の判断処理に進む。
【0065】
S215「特徴点座標の一致率が一定以上?」の判断処理において、関連認識プログラム12gは、撮像データ特徴点座標記憶領域11aに記憶されている「作業対象物」の各「特徴点」の座標と、マニュアルファイル特徴点座標記憶領域11bに記憶されている各「特徴点座標データ」を順次照合させることにより、「特徴点座標」の一致率が一定以上の「特徴点座標データ」があるか否かを判断する。具体的には、関連認識プログラム12gは、隣接する「特徴点」の相対座標を算出することにより形状を認識し、撮像された「作業対象物」の形状と、「マニュアルファイル」の「特徴点座標データ」から認識される形状が一致するか否かを判断している。言い換えると、関連認識プログラム12gは、「作業対象物」の隣接する「特徴点」の相対座標と、「マニュアルファイル」の「特徴点座標データ」の隣接する「特徴点」の相対座標を比較し、当該相対座標の一致率が一定以上か否かを判断している。
なお、関連認識プログラム12gは、「作業対象物」の隣接する「特徴点」の相対座標と、「マニュアルファイル」の「特徴点座標データ」の隣接する「特徴点」の相対座標を比較することにより、「作業対象物」と「マニュアルファイル」の「特徴点座標データ」から認識される形状が、相似形であるか否かを判断しても差し支えない。
また、関連認識プログラム12gは、「作業対象物」の隣接する「特徴点」の相対座標と、「マニュアルファイル」の「特徴点座標データ」の隣接する「特徴点」の相対座標を比較し、周知の三角マッチング法により、「作業対象物」と「マニュアルファイル」の「特徴点座標データ」から認識される形状が、一致するか否かを判断しても差し支えない。
なお、三角マッチング法では、下記の方法により比較する「特徴点」を算出する。
1.関連認識プログラム12gが、「特徴点座標データ」及び「作業対象物」の「特徴点」において、すべての可能な三角形の組を選ぶ。
2.関連認識プログラム12gが、三辺a,b,c (a≧b≧c) よりx=b/a, y=c/a を求め、x-y 平面上にプロットする。
3.関連認識プログラム12gが、x-y平面上の位置から、対応する特徴点を決定する。
このような、三角マッチング法によれば、「作業対象物」とユーザーとの位置関係(距離、向き)によって、作業対象物の特徴点の位置が変化し、座標系が異なっても(シフト、拡大/縮小、回転で「作業対象物」が変形していても)、「作業対象物」と相似なパターンを同定することが可能となる。
関連認識プログラム12gが、「特徴点座標」の一致率が一定以上の「特徴点座標データ」があると判断した場合には(S215の判断処理がYES)、撮像された「作業対象物」と比較した「マニュアルファイル」とが関連性があると認識し、前記「作業対象物」と前記「マニュアルファイル」との「紐付け情報」を、紐付け情報記憶領域11cに記憶し、S217の判断処理に進む。一方で、関連認識プログラム12gが、「特徴点座標」の一致率が一定以上の「特徴点座標データ」がないと判断した場合には(S215の判断処理がNO)、S213の処理に戻る。
【0066】
S217「新たな作業対象物を認識」の判断処理において、関連画像認識プログラム12gは、紐付け情報記憶領域11cに記憶されている「紐付け情報」を参照することにより、S215の処理で認識された「作業対象物」が、新たに認識された「作業対象物」であるか否かを判断する。関連画像認識プログラム12gが、S215の処理で認識された「作業対象物」が、新たに認識された「作業対象物」であると判断した場合には(S217の判断処理がYES)、S218の処理に進む。一方で、関連画像認識プログラム12gが、S215の処理で認識された「作業対象物」が、新たに認識された「作業対象物」でないと判断した場合には(S217の判断処理がNO)、S213の処理に戻る
【0067】
S218「新たに認識された作業対象物に対応するマニュアルを表示」の処理において、マニュアルファイル取得プログラム12aは、紐付け情報記憶領域11cに記憶されている「紐付け情報」を参照することにより、S215の処理で新たに認識された「作業対象物」に対応する「マニュアルファイル」の「画像データ」を取得する。次に、画像生成プログラム12bは、マニュアルファイル取得プログラム12aが取得した「マニュアルファイル」から、「表示画像データ」を生成する描画命令を、画像生成部用コントローラ16に出力する。生成された「表示画像データ」は、「画像信号」として画像生成部52に出力されて、画像生成部52でマニュアル701が表示される(図8に示す)。S218の処理が終了すると、S221の判断処理に進む。
【0068】
以下、第2の実施形態の「連続動画生成処理」のS221、S222、S223、S224、S225、S226、S227、S228、S229、S231、S232、S233、S234、S235、S236、S237の処理は、それぞれ、第1の実施形態の「連測動画生成処理」のS121、S122、S123、S124、S125、S126、S127、S128、S129、S131、S132、S133、S134、S135、S136、S137の処理と同一の処理である。
なお、S231「撮像終了?」の判断処理において、CPU10が、「撮像終了信号」を受信していないと判断した場合には(S231の判断処理がNO)、S213の判断処理に戻る。
また、S236「撮り直し?」の判断処理において、CPU10が、「撮り直し指示信号」を受信した場合には(S236の判断処理がYES)、S213の判断処理に戻る。
【0069】
このように第2の実施形態では、ユーザーの視界方向にある「作業対象物」が自動的に認識され、当該認識された「作業対象物」に対応する「マニュアルファイル」が画像生成部52で表示されるとともに、当該「マニュアルファイル」に対応する「単位動画」が順次生成されるようになっている。
【0070】
(第3の実施形態の概要)
図9に第3の実施形態の概要図を示して、以下に、第1の実施形態と異なる点について、第3に実施形態のヘッドマウントディスプレイ300を説明する。第3の実施形態では、図9に示されるように、マニュアル701〜704が画像生成部52で表示されると、「撮像動画」が連続的に生成されるとともに、マニュアル701〜704が切り替わる度に、「開始ポイント」及び「終了ポイント」が記憶される。そして、前記「開始ポイント」及び「終了ポイント」に基づいて、連続的に生成された「撮像動画」から、各マニュアル701〜704に対応する「単位動画」が生成され、これら「単位動画」が繋ぎ合わされて、1まとまりの「連続動画」が生成される。図9に示される実施形態では、マニュアル702に対応する「単位動画」として、単位動画B2を採用しているので、単位動画B1は、実際には生成されない。以下、このような機能を実現するヘッドマウントディスプレイ300の構成について、詳細に説明する。
(第3の実施形態のヘッドマウントディスプレイのブロック図)
【0071】
図10を用いて、第1の実施形態と異なる点について、第3の実施形態のヘッドマウントディスプレイ300のブロック図を説明する。第3の実施形態では、補助記憶装置13は、撮像動画記憶領域13e、開始終了ポイント記憶領域13fを、更に有している。なお、第3の実施形態では、単位動画記憶領域13b及び予備単位動画記憶領域13cは必須ではない。
撮像動画記憶領域13eには、撮像部用コントローラ14で生成された「撮像動画」が記憶される。なお、画像生成部52で表示される「マニュアルファイル」が切り替わったとしても、連続的に「撮像動画」が撮像動画記憶領域13eに記憶されるようになっている。
開始終了ポイント記憶領域13fには、「マニュアルファイル」と、この「マニュアルファイル」と対応付けられた「開始ポイント」、「終了ポイント」及び「優先度」が記憶された「開始終了ポイントファイル」(図12に示す)が記憶される。
【0072】
第3の実施形態では、RAM11は、生成された「単位動画」が一時的に記憶される単位動画記憶領域11dを有している。
第3の実施形態では、ROM12には、ポイント記憶プログラム12hが記憶されている。ポイント記憶プログラム12hは、「マニュアルファイル」の画像生成部52での表示が開始された時間を、前記「マニュアルファイル」に対応する「開始ポイント」の欄に記憶させる。また、ポイント記憶プログラム12hは、画像生成部52で表示されている「マニュアルファイル」の表示が終了した時間を、前記「マニュアルファイル」に対応する「終了ポイント」の欄に記憶させる。具体的には、ポイント記憶プログラム12hは、ユーザーが操作部21を操作することにより、画像生成部52で表示される「マニュアルファイル」を切り替える際に出力される「操作信号」を読み取り、「マニュアルファイル」に対応する「開始ポイント」及び「終了ポイント」の時間を認識する。
第3の実施形態では、単位動画差替プログラム12dは必須ではない。
【0073】
第3の実施形態では、単位動画生成プログラム12cは、開始終了ポイント記憶領域13fに記憶されている「開始終了ポイントファイル」の「開始ポイント」及び「終了ポイント」を参照することにより、「撮像動画」の開始時期及び終了時期を認識して、各「マニュアルファイル」に対応する「単位動画」を生成する。生成された「単位動画」は、一時的にRAM11の単位動画記憶領域11dに記憶される。
【0074】
(第3の実施形態の連続動画生成処理のフローの説明)
図11を参照して、以下に、第3の実施形態の「連続動画生成処理」のフローの説明をする。ユーザーが操作部21を操作することにより、ヘッドマウントディスプレイ300に電源が投入されると、S311の判断処理に進む。
S311「マニュアル表示操作有り?」の処理において、マニュアルファイル取得プログラム12aが、ユーザーが操作部21を操作することにより、画像生成部52で「マニュアルファイル」を表示させる「操作信号」を検知した場合には(S311の判断処理がYES)、S312の処理に進む。この際に、ポイント記憶プログラム12hは、前記「検知信号」を読み取ることにより、画像生成部52で表示される「マニュアルファイル」の「開始ポイント」の時間を認識する。
【0075】
S312「マニュアルを表示」の処理において、マニュアルファイル取得プログラム12aは、S311の判断処理で検知した「操作信号」に基づいて、マニュアルファイル記憶領域13aに記憶されている「マニュアルファイル」を取得する。次に、画像生成プログラム12bは、マニュアルファイル取得プログラム12aが取得した「マニュアルファイル」から、「表示画像データ」を生成する描画命令を、画像生成部用コントローラ16に出力する。生成された「表示画像データ」は、「画像信号」として画像生成部52に出力されて、画像生成部52で「マニュアル」が表示される。S312の処理が終了すると、S313の処理に進む。
【0076】
S313「撮像開始」の処理において、CPU10は、撮像部用コントローラ14に、撮像部53で撮像を開始させる命令を出力する。撮像部用コントローラ14は「撮像動画」を生成し、撮像部用VRAM15に記憶させる。撮像部用VRAM15に記憶された「撮像動画」は、順次、撮像動画記憶領域13eに記憶される。S313の処理が終了すると、S314の判断処理に進む。
【0077】
S314「マニュアル変更操作有り?」の判断処理において、マニュアルファイル取得プログラム12aは、ユーザーの操作部21の入力操作により「操作信号」が出力されたか否かを判断し、画像生成部52で表示される「マニュアルファイル」の変更操作があったか否かを判断する。マニュアルファイル取得プログラム12aが、画像生成部52で表示される「マニュアルファイル」の変更操作があったと判断した場合には(S314の判断処理がYES)、画像生成プログラム12bは、ユーザーが選択した「マニュアルファイル」から、「表示画像データ」を生成する描画命令を、画像生成部用コントローラ16に出力し、S322の判断処理に処理が移行される。この際に、ポイント記憶プログラム12hは、前記「操作信号」を読み取ることにより、今まで画像生成部52で表示されていた「マニュアルファイル」の「終了ポイント」の時間及び、変更後に画像生成部52で表示される「マニュアルファイル」の「開始ポイント」の時間を認識する。
【0078】
S322「変更前のマニュアルに対応する開始ポイント及び終了ポイントを記憶」の処理において、ポイント記憶プログラム12hは、「開始ポイント」及び「終了ポイント」を変更前の「マニュアルファイル」に対応させて、開始終了ポイント記憶領域13fに記憶されている「開始終了ポイントファイル」に更新記憶させる。S322の処理が終了すると、S323の判断処理に進む。
【0079】
S323「変更前のマニュアルに対応する開始ポイント及び終了ポイントが記憶されているか?」の判断処理において、CPU10は、開始終了ポイント記憶領域13fを参照することにより、変更前の「マニュアルファイル」に対応する「開始ポイント」及び「終了ポイント」が既に「開始終了ポイントファイル」に記憶されているか否かを判断する。CPU10が、変更前の「マニュアルファイル」に対応する「開始ポイント」及び「終了ポイント」が既に「開始終了ポイントファイル」に記憶されていると判断した場合には(S323の判断処理がYES)、S324の判断処理に進む。一方で、CPU10が、変更前の「マニュアルファイル」に対応する「開始ポイント」及び「終了ポイント」が「開始終了ポイントファイル」に記憶されていない判断した場合には(S323の判断処理がNO)、S331の判断処理に進む。
【0080】
S324「既に記憶されている開始ポイントから終了ポイントまでの時間よりも長いか?」の判断処理において、CPU10は、変更前の「マニュアルファイル」に対応する「開始ポイント」から「終了ポイント」までの時間が、同一の「マニュアルファイル」について、既に「開始終了ポイントファイル」に記憶されている「開始ポイント」から「終了ポイント」までの時間よりも長いか否かを判断する。CPU10が、変更前の「マニュアルファイル」に対応する「開始ポイント」から「終了ポイント」までの時間が、同一の「マニュアルファイル」について、既に「開始終了ポイントファイル」に記憶されている「開始ポイント」から「終了ポイント」までの時間よりも長いと判断した場合には(S324の判断処理がYES)、S327の処理に進む。一方で、CPU10が、変更前の「マニュアルファイル」に対応する「開始ポイント」から「終了ポイント」までの時間が、同一の「マニュアルファイル」について、既に「開始終了ポイントファイル」に記憶されている「開始ポイント」から「終了ポイント」までの時間よりも短いと判断した場合には(S324の判断処理がNO)、S325の処理に進む。
【0081】
S325「差替通知を表示」の処理において、CPU10は、画像生成部52で「差替通知」を表示させる描画命令を、画像生成部用コントローラ16に出力する。S325の処理が終了すると、S326の判断処理に進む。
【0082】
S326「差替指示信号を受信?」の判断処理において、CPU10は、「差替指示信号」を、周辺インターフェース19を介して受信したか否かを判断する。ユーザーが操作部21を操作することにより、CPU10が、「差替指示信号」を、受信したと判断した場合には(S326の判断処理がYES)、S327の処理に進む。一方で、CPU10が、「差替指示信号」を、所定時間(数秒)の有効期間内に受信していないと判断した場合には(S326の判断処理がNO)、S331の処理に進む。
【0083】
S327「変更前のマニュアルに対応する開始ポイント及び終了ポイントの優先度を上げる」の処理において、ポイント記憶プログラム12hは、S322の処理で更新記憶された、変更前の「マニュアルファイル」に対応する「優先度」を上げて「開始終了ポイントファイル」に更新記憶させる。S327の処理が終了すると、S331の判断処理に進む。
【0084】
S331「撮像終了?」の判断処理において、CPU10は、「撮像終了信号」を、周辺インターフェース19を介して受信したか否かを判断する。ユーザーが操作部21を操作することにより、CPU10が、「撮像終了信号」を受信したと判断した場合には(S331の判断処理がYES)、S332の処理に進む。一方で、CPU10が、「撮像終了信号」を受信していないと判断した場合には(S331の判断処理がNO)、S314の判断処理に戻る。
【0085】
S332「撮像終了」の処理において、CPU10は、撮像部用コントローラ14に、撮像部53での撮像を中止させる命令を出力する。S332の処理が終了すると、S333の処理に進む。
【0086】
S333「連続動画生成」の処理において、単位動画生成プログラム12bは、開始終了ポイント記憶領域13fに記憶されている「開始終了ポイントファイル」を参照することにより、各「マニュアルファイル」に対応する「開始ポイント」及び「終了ポイント」を認識することにより、撮像動画記憶領域13eに記憶されている「撮像動画」から前記各「マニュアルファイル」に対応する「単位動画」を生成し、RAM11の単位動画記憶領域11dに記憶させる。なお、単位動画生成プログラム12bは、図9に示されるように、所定時間(数秒)以下の「単位動画」は生成しない。これは、S314の判断処理において、ユーザーが操作部21を操作することにより、画像生成部52で表示させたい「マニュアルファイル」を検索している場合には、「単位動画」として生成する必要がないからである。また、同一の「マニュアルファイル」について、複数の「開始ポイント」及び「終了ポイント」が「開始終了ポイントファイル」に記憶されている場合には、単位動画生成プログラム12bは、「優先度」が一番高い「開始ポイント」及び「終了ポイント」を認識し、当該「開始ポイント」及び「終了ポイント」に基づいて、「単位動画」を生成する。
そして、連続動画生成プログラム12eは、単位動画記憶領域11dに記憶されている各「単位動画」を、繋ぎ合わせて、1まとまりの(1ファイルの)「連続動画」を生成し(図9に示す)、連続動画記憶領域13dに記憶させる。S333の処理が終了すると、S334の判断処理に進む。
【0087】
S334「連続動画再生?」の判断処理において、CPU10は、「連続動画再生信号」を、周辺インターフェース19を介して受信したか否かを判断する。ユーザーが操作部21を操作することにより、CPU10が、「連続動画再生信号」を受信したと判断した場合には(S334の判断処理がYES)、S135の処理に進む。一方で、CPU10が、「連続動画再生信号」を受信していないと判断した場合には(S334の判断処理がNO)、S336の判断処理に戻る。
【0088】
S335「連続動画再生」の処理において、連続動画再生プログラム12fは、連続動画記憶領域13dに記憶されている「連続動画」と、この「連続動画」を構成する「単位動画」に対応する「マニュアルファイル」を、並列させて画像生成部52で表示させる描画命令を、画像生成部用コントローラ16に出力する。ユーザーは、画像生成部52で並列表示される「連続動画」と、「マニュアルファイル」を同時に見ることにより、完成した「連続動画」の出来映えを確認することができる。S335の処理が終了すると、S336の判断処理に進む。
【0089】
S336「撮り直し?」の判断処理において、CPU10は、「撮り直し指示信号」を、周辺インターフェース19を介して受信したか否かを判断する。ユーザーが操作部21を操作することにより、CPU10が、「撮り直し指示信号」を受信したと判断した場合には(S336の判断処理がYES)、S314の判断処理に戻る。一方で、CPU10が、「撮り直し指示信号」を受信していないと判断した場合には(S336の判断処理がNO)、S337の処理に進む。
【0090】
S337「連続動画をコンピュータ装置に出力」の処理において、連続動画記憶領域13dに記憶された「連続動画」は、外部接続インターフェース18を介して、コンピュータ装置999に出力される。S337の処理が終了すると、「連続動画生成処理」が終了し、ヘッドマウントディスプレイ300の電源が遮断される。
【0091】
以上説明した第3の実施形態の技術的思想と、第2の実施形態の技術的思想を組み合わせることが可能なことは言うまでもない。
【0092】
(総括)
以上説明した実施形態では、ヘッドマウントディスプレイ100〜300は、頭部装着部50と制御部31〜33とからなる2体構造であるが、1体構造としたヘッドマウントディスプレイであっても差し支えない。
以上説明した実施形態では、「マニュアルファイル」は、補助記憶装置13のマニュアルファイル記憶領域13aに記憶されているが、「マニュアルファイル」をコンピュータ装置999等の外部に記憶させておき、「マニュアルファイル」を、外部接続インターフェース18を介して取得することにしても差し支えない。
以上説明した実施形態では、「マニュアルファイル」と対応付けられた「単位動画」から「連続動画」が生成され、当該「連続動画」がコンピュータ装置999に出力されるが、再生順序が指定された状態で、前記「単位動画」がコンピュータ装置999に出力されるようにしても差し支えない。
以上説明した実施形態では、画像生成部52で「マニュアルファイル」が表示され、当該「マニュアルファイル」と相互に対応付けられた「単位動画」から「連続動画」が生成されるが、画像生成部52で表示される画像は「マニュアルファイル」に限定されず、所謂ビジネスソフトの「文書ファイル」、「静止画像ファイル」、「動画像ファイル」、或いは、複数のページからなる前記「文書ファイル」、「静止画像ファイル」、「動画像ファイル」等の「単位表示画像データ」であっても差し支えなく、「単位表示画像」と相互に対応付けられた「単位動画」から「連続動画」が生成される実施形態であっても差し支えない。「単位表示画像データ」が複数のページから構成されている場合には、ページが切り替わる度に「単位動画」が生成されるように構成にしても差し支えない。
【0093】
以上、現時点において、もっとも、実践的であり、かつ好ましいと思われる実施形態に関連して本発明を説明したが、本発明は、本願明細書中に開示された実施形態に限定されるものではなく、請求の範囲および明細書全体から読み取れる発明の要旨あるいは思想に反しない範囲で適宜変更可能であり、そのような変更を伴うヘッドマウントディスプレイもまた技術的範囲に包含されるものとして理解されなければならない。
【符号の説明】
【0094】
9 バス
10 CPU
11 RAM
11a 撮像データ特徴点座標記憶領域(第2の実施形態)
11b マニュアルファイル特徴点座標記憶領域(第2の実施形態)
11c 紐付け情報記憶領域(第2の実施形態)
11d 単位動画記憶領域(第3の実施形態)
12 ROM
12a マニュアルファイル取得プログラム
12b 画像生成プログラム
12c 単位動画生成プログラム
12d 単位動画差替プログラム
12e 連続動画生成プログラム
12f 連続動画再生プログラム
12g 関連認識プログラム(第2の実施形態)
12h ポイント記憶プログラム(第3の実施形態)
13 補助記憶装置
13a マニュアルファイル記憶領域
13b 単位動画記憶領域
13c 予備単位動画記憶領域
13d 連続動画記憶領域
13e 撮像動画記憶領域(第3の実施形態)
13f 開始終了ポイント記憶領域(第3の実施形態)
14 撮像部用コントローラ
15 撮像部用VRAM
16 画像生成部用コントローラ
17 画像生成部用VRAM
18 外部接続インターフェース
19 周辺インターフェース
21 操作部
22 電源ランプ
31 制御部(第1の実施形態)
32 制御部(第2の実施形態)
33 制御部(第3の実施形態)
50 ヘッドマウントディスプレイ部
51 頭部装着部
52 画像生成部
53 撮像部
100 第1の実施形態のヘッドマウントディスプレイ
200 第2の実施形態のヘッドマウントディスプレイ
300 第3の実施形態のヘッドマウントディスプレイ
701〜704 マニュアル
801 作業対象物
850 特徴点
999 コンピュータ装置

【特許請求の範囲】
【請求項1】
ユーザーの頭部に装着され、ユーザーに画像を視認させる画像生成部と、
前記画像生成部で表示する単位表示画像データを取得する単位表示画像データ取得手段と、
ユーザーの視界方向を撮像し、撮像動画を生成する撮像手段と、
前記撮像手段が生成した撮像動画から、前記画像生成部で表示される単位表示画像毎に、前記単位表示画像と対応付けられた単位動画を生成する単位動画生成手段と、
1の単位動画と対応する同一の単位表示画像と対応付けられた他の単位動画が生成された場合に、前記1の単位動画を前記他の単位動画に差し替えるか否かの判断を行い、差し替えると判断した場合に、前記1の単位動画を前記他の単位動画と差し替え、これら差し替えた単位動画を1まとまりの連続動画として生成する連続動画生成手段と、
を有することを特徴とするヘッドマウントディスプレイ。
【請求項2】
単位動画生成手段は、撮像時間が所定時間以上である場合に限り、単位動画を生成することを特徴とする請求項1に記載のヘッドマウントディスプレイ。
【請求項3】
ユーザーからの操作を受け付ける操作部を更に備え、
連続動画生成手段は、単位動画を差し替えるか否かの判断を、前記操作部へのユーザーの操作により決定することを特徴とする請求項1又は請求項2に記載のヘッドマウントディスプレイ。
【請求項4】
連続動画生成手段によって前記他の単位動画に差し替えた前記1の単位動画を記憶する予備単位動画記憶手段を更に有することを特徴とする請求項1〜請求項3のいずれかに記載のヘッドマウントディスプレイ。
【請求項5】
連続動画生成手段は、前記他の単位動画の撮像時間が前記1の単位動画の撮像時間よりも長い場合、前記1の単位動画を前記他の単位動画に差し替えることを特徴とする請求項1〜請求項4のいずれかに記載のヘッドマウントディスプレイ。
【請求項6】
単位動画生成手段は、
画像生成部によって表示される単位表示画像が変更された時に、新たな単位動画を生成することを特徴とする請求項1〜請求項5のいずれかに記載のヘッドマウントディスプレイ。
【請求項7】
撮像動画と画像生成部で表示される単位表示画像との関連性を認識する関連認識手段を更に備え、
単位表示画像データ取得手段は、前記関連認識手段が認識した撮像動画と関連性のある単位表示画像データを取得し、
画像生成部は、前記取得された単位表示画像データを表示し、
単位動画生成手段は、
前記関連認識手段が前記関連性を認識した時に、新たな単位動画を生成し、
前記関連認識手段が前記関連性の消滅を認識した時に、前記新たな単位動画の生成を終了することを特徴とする請求項1〜請求項5のいずれかに記載のヘッドマウントディスプレイ。
【請求項8】
連続動画と、連続動画を構成する単位動画に対応する単位表示画像を、画像生成部で表示させる連続動画再生手段を更に有することを特徴とする請求項1〜請求項7のいずれかに記載のヘッドマウントディスプレイ。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7】
image rotate

【図8】
image rotate

【図9】
image rotate

【図10】
image rotate

【図11】
image rotate

【図12】
image rotate


【公開番号】特開2011−118530(P2011−118530A)
【公開日】平成23年6月16日(2011.6.16)
【国際特許分類】
【出願番号】特願2009−273612(P2009−273612)
【出願日】平成21年12月1日(2009.12.1)
【出願人】(000005267)ブラザー工業株式会社 (13,856)
【Fターム(参考)】