説明

頭部装着型撮像システム、頭部装着撮像装置、画像表示方法

【課題】頭部に頭部装着型撮像装置を装着した作業者の視界方向に関わらず、作業支援者が作業対象物を視認することができる頭部装着型撮像システムを提供する。
【解決手段】作業者の視界方向を連続的に撮像して撮像データを生成する撮像部22を有する頭部装着撮像装置50と、前記撮像データを表示する遠隔側表示部120を有する遠隔側装置100を備え、作業者の作業状態を検出する作業状態検出部と、前記作業状態検出部が検出した作業者の作業状態に基づき、作業対象物が作業者の視界に入っているか否かを判断する作業対象物検出判断手段を更に有し、作業対象物が作業者の視界に入っていないと判断された場合には、前記撮像データに基づいて、作業対象物が含まれる静止画像が遠隔側表示部120に表示される。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、作業者の視界方向を撮像することができる頭部装着撮像装置及びこれを用いた頭部装着型遠隔撮像システム、画像表示方法に関する。
【背景技術】
【0002】
特許文献1には、遠隔地にある撮像装置を撮像することができる技術が提案されている。そして、特許文献2には、ユーザの頭部に装着され、ユーザが画像及び外界を視認することができるシースルー型のヘッドマウントディスプレイが提案されている。特許文献1に示される撮像装置を、特許文献2に示されるようなヘッドマウントディスプレイに取り付けたならば、ユーザはハンドフリーで視界方向を撮像することができるともに、画像も同時に視認することがきる。
【0003】
このような構成のヘッドマウントディスプレイは、作業支援に使用されることが期待されている。例えば、作業者は作業を行いながら作業対象物を撮像し、作業支援者は、撮像された撮像画像に基づいてヘッドマウントディスプレイに作業指示画像を表示させることにより、作業支援を行うことができる。
【先行技術文献】
【特許文献】
【0004】
【特許文献1】特開平11−27572号公報
【特許文献2】特開2010−164814号公報
【発明の概要】
【発明が解決しようとする課題】
【0005】
例えば、ヘッドマウントディスプレイがシースルー型の場合、作業者は、画像とともに外界もまた視認することができる。そのため、作業対象物とヘッドマウントディスプレイで表示される画像が重なった場合には、作業者は前記画像を視認することが難しい。そこで、作業者は、作業を一時中断して、前記画像を視認するための動作を行う必要がある。この動作は、例えば、視線を背景が無地の方向に向けるなどである。このため、作業対象物が撮像されず、作業指示者が作業対象物を視認することができないことから、作業指示者がヘッドマウントディスプレイに適切な作業指示画像を表示させることができないという問題があった。
本発明は、上記問題を解決し、作業者の視界方向に関わらず、作業支援者が作業対象物を視認することができる頭部装着型撮像システムを提供することを目的とする。
【課題を解決するための手段】
【0006】
上記課題を解決するためになされた請求項1に記載の発明は、
作業者の頭部に装着される頭部装着部と、
前記頭部装着部に取り付けられ、作業者の視界方向を連続的に撮像して撮像データを生成する撮像部と、
前記頭部装着部に取り付けられ、作業者に画像を視認させるシースルー型の頭部装着側表示部と、
外部と通信し、前記撮像データを送信する頭部装着側通信部を有する頭部装着撮像装置と、
前記頭部装着側通信部と通信し、前記撮像データを受信する遠隔側通信部と、
前記遠隔側通信部が受信した撮像データを表示する遠隔側表示部を有する遠隔側装置を備え、
前記撮像データが記憶される記憶部と、
作業者の作業状態を検出する作業状態検出部と、
前記作業状態検出部が検出した作業者の作業状態に基づき、作業対象物が作業者の視界に入っているか否かを判断する作業対象物検出判断手段と、
前記作業対象物検出判断手段が、作業対象物が作業者の視界に入っていないと判断した場合には、前記記憶部に記憶されている前記撮像データに基づいて、作業対象物が含まれる静止画像を前記遠隔側表示部に表示させる静止画像表示手段が、前記頭部装着撮像装置又は前記遠隔側装置のいずれかに設けられていることを特徴とする。
【0007】
請求項2に記載の発明は、請求項1に記載の発明において、
前記作業状態検出部は、前記頭部装着撮像装置に設けられていることを特徴とする。
これにより、遠隔側装置の構成をシンプルにすることができる。
【0008】
請求項3に記載の発明は、請求項2に記載の発明において、
前記作業状態検出部は、前記頭部装着側撮像装置の傾きを検出する傾きセンサーであり、
前記作業対象物検出判断手段は、前記傾きセンサーが検出した前記頭部装着側撮像装置の傾きに基づき、作業対象物が作業者の視界に入っているか否かを判断し、
前記頭部装着撮像装置には、前記作業対象物検出判断手段が前記頭部装着側表示部の傾きにより判断する基準を入力するための操作部が設けられていることを特徴する。
これにより、作業者が操作部を操作することにより、作業対象物の位置に応じて、作業対象物が作業者の視界に入る範囲を設定することが可能となる。
【0009】
請求項4に記載の発明は、請求項1に記載の発明において、
前記作業状態検出部は、前記撮像部であり、
前記作業対象物検出判断手段は、前記遠隔側装置に設けられ、前記撮像データから作業対象物を検出することを特徴とする。
これにより、頭部装着撮像装置の構成をシンプルにすることができる。
【0010】
請求項5に記載の発明は、請求項1〜請求項4に記載の発明において、
前記作業対象物検出判断手段が、作業対象物が作業者の視界に入っていないと判断した場合には、前記撮像データに基づいて、作業対象物が含まれる静止画像を頭部装着側表示部に表示させる頭部装着側静止画像表示手段を有することを特徴とする。
これにより、作業者は、作業指示画像とともに作業対象物が含まれる静止画像を視認することにより、作業指示画像の内容をより容易に把握することができる。
【0011】
請求項6に記載の発明は、
作業者の頭部に装着される頭部装着部と、
前記頭部装着部に取り付けられ、作業者の視界方向を連続的に撮像して撮像データを生成する撮像部と、
前記頭部装着部に取り付けられ、作業者に画像を視認させるシースルー型の頭部装着側表示部と、
前記撮像データが記憶される記憶部と、
前記撮像データが表示される遠隔側表示部を有する遠隔側装置と通信し、前記撮像データを送信する頭部装着側通信と、
作業者の作業状態を検出する作業状態検出部と、
前記作業状態検出部が検出した作業者の作業状態から、作業対象物が作業者の視界に入っているか否かを判断する作業対象物検出判断手段を有し、
前記作業対象物検出判断手段が、作業対象物が作業者の視界に入っていない判断した場合には、前記遠隔側装置に送信された撮像データに基づいて、作業対象物が含まれる静止画像が生成され、当該静止画像が前記遠隔側表示部に表示されるように構成されていることを特徴する。
【0012】
請求項7に記載の発明は、
作業者の頭部に装着された撮像部により連続的に撮像された撮像データから作業対象物を含む静止画像を遠隔側画像表示装置に表示させる画像表示方法であって、
作業者の作業状態が検出される作業状態検出工程と、
前記検出された作業者の作業状態に基づき、作業対象物が作業者の視界に入っているか否かが判断される作業対象物検出判断工程と、
前記作業対象物検出判断工程において、前記作業対象物が作業者の視界に入っていない判断された場合には、前記撮像データに基づいて、作業対象物が含まれる静止画像が前記遠隔側表示部に表示される静止画像表示工程を有することを特徴とする。
【発明の効果】
【0013】
本発明によれば、作業対象物が作業者の視界に入っていないと判断された場合には、作業者の頭部に装着された撮像部により撮像された撮像データに基づいて、作業対象物が含まれる静止画像が遠隔側表示部に表示される。これにより、作業者の視界方向に関わらず、作業支援者は作業対象物を視認することができ、円滑に作業支援を行うことが可能となる。
【図面の簡単な説明】
【0014】
【図1】本発明の実施の形態を示す頭部装着型撮像システムの概要図である。
【図2】作業対象物が作業者の視界に入る範囲を表した作業者の視線方向の説明図である。
【図3】第1の実施形態の頭部装着型撮像システムのブロック図である。
【図4】第1の実施形態のフロー図である。
【図5】第2の実施形態の頭部装着型撮像システムのブロック図である。
【図6】第2の実施形態のフロー図である。
【図7】第3の実施形態の頭部装着型撮像システムのブロック図である。
【図8】第3の実施形態のフロー図である。
【発明を実施するための形態】
【0015】
(頭部装着型遠隔撮像システムの構成)
以下に図面を参照しつつ、本発明の好ましい実施の形態を示す。以下に図面を参照しつつ、本発明の好ましい実施の形態を示す。図1に示されるように、本発明の頭部装着型遠隔撮像システムは、作業者の頭部に装着される頭部装着撮像装置50と、作業者から離れた場所にいる作業支援者が使用する遠隔側装置100とから構成されている。
【0016】
頭部装着撮像装置50は、頭部装着部1、頭部装着側表示部21、撮像部22を有している。本実施形態では、頭部装着部1は、眼鏡のフレーム形状であるが、ヘルメット形状等であっても差し支え無い。
頭部装着側表示部21は、頭部装着部1に取り付けられている。頭部装着側表示部21は、画像を生成し、当該画像を作業者に視認させるものである。画頭部装着側表示部21は、作業者が画像を視認することができると同時に外界もまた視認することができるシースルー型のディスプレイである。
撮像部22は、頭部装着部1に取り付けられている。撮像部22は、作業者の視界方向を連続的に撮像し撮像データを生成するものである。頭部装着撮像装置50は、遠隔側装置100と通信する頭部装着側通信部14(図3に示す)を有している。
【0017】
遠隔側装置100は、いわゆるパーソナルコンピュータ等で構成され、遠隔側装置本体110、遠隔側表示部120、入力部130を有している。遠隔側装置本体110は、頭部装着撮像装置50と通信する遠隔側通信部114(図3に示す)を有している。遠隔側表示部120は、液晶ディスプレイ等で構成されている。頭部装着側通信部14と遠隔側通信部114は、有線LAN、無線LAN、インターネット回線等の通信回線999(図3に示す)で接続され、相互に通信可能となっている。入力部130は、作業支援者の入力操作を受け付けるものであり、いわゆるキーボード、マウスやトラックパッド等のポインティングデバイスが含まれる。
【0018】
(頭部装着型遠隔撮像システムの概要)
撮像部22で撮像された撮像データは、遠隔側装置本体110に送信され、遠隔側表示部120で表示される。作業支援者は、遠隔側表示部120に表示される作業者の視界方向の画像を視認しつつ、入力部130を操作することにより、頭部装着側表示部21に作業指示画像700をさせる。なお、図2において、aで示される範囲は、作業対象物が作業者の視界に入る作業者の視線方向の範囲、つまり、作業対象物が撮像部22で撮像される作業者の視線方向の範囲である。bで示される範囲は、作業対象物が作業者の視界に入らない範囲、つまり、作業対象物が撮像部22で撮像されない作業者の視線方向の範囲である。本発明では、作業者の視線方向が、図2のaの範囲にある場合には、撮像部22で撮像された作業対象物を含む動画が遠隔側表示部120で表示される。一方で、作業者の視線方向が、図2のbの範囲にある場合には、撮像部22で既に撮像された作業対象物を含む動画に基づき、作業対象物を含む静止画が生成され、当該静止画が遠隔側表示部120で表示される。このように本発明では、作業者の視界方向に関わらず、作業対象物が遠隔側表示部120で表示されるようになっている。このため、作業支援者は作業対象物を常に視認することができるので、円滑に作業支援を行うことが可能となる。以下に、このような機能を有する頭部装着型遠隔撮像システムの具体的な構成について説明する。
【0019】
(第1の実施形態の頭部装着型遠隔撮像システムのブロック図)
図3を用いて、第1の実施形態の頭部装着型遠隔撮像システムのブロック図の説明をする。頭部装着撮像装置50は、CPU11、RAM12、記憶装置13、頭部装着側通信部14、画像処理部15、周辺インターフェース16を有している。これらの構成は、相互にバス9で接続されている。画像処理部15には、頭部装着側表示部21が接続されている。周辺インターフェース16には、撮像部22、操作部23、センサー24が接続されている。
【0020】
CPU(Central Processing Unit)11は、RAM(Random Access Memory)12、記憶装置13と協動して、各種演算、処理を行う。
RAM12は、CPU11で処理されるプログラムや、CPU11が処理するデータを、そのアドレス空間に一時的に記憶する。
【0021】
記憶装置13には、不揮発性メモリーやハードディスク等の補助記憶装置が含まれる。記憶装置13には、頭部装着撮像装置50を制御する各種プログラムやパラメータが記憶されている。当該各種プログラムが、CPU11で処理されることにより、各種機能が実現される。
記憶装置13には、作業対象物検出判断プログラム13aと、頭部装着側静止画像表示プログラム13bが記憶されている。
作業対象物検出判断プログラム13aは、作業対象物が作業者の視界に入っているか否かを判断するプログラムである。
頭部装着側静止画像表示プログラム13bは、撮像データに基づいて、作業対象物を含む静止画像を、頭部装着側表示部21に表示させるプログラムである。
【0022】
頭部装着側通信部14は、LAN、無線LAN、インターネット回線等の通信回線999に接続され、前記した通信方式に対応した通信インターフェースで構成されている。
画像処理部15は、頭部装着側表示部21に出力する画像信号を生成するものであり、画像処理回路及びビデオメモリを有している。
頭部装着側表示部21には、レーザ光を直接作業者の眼球に走査することにより、作業者に画像を視認させる網膜走査型ディスプレイや、液晶ディスプレイ、有機ELディスプレイ、デジタルミラーデバイス (Digital Mirror Device)等の空間光変調器と、この空間光変調器が生成する画像光が作業者の網膜とが共役になるように、画像光を集光するともに作業者の眼球に向けて反射させるための、レンズ系やハーフミラーなどを含む接眼光学系を組み合わせたディスプレイが含まれる。
【0023】
周辺インターフェース16は、信号の物理的・論理的な形式を変換するものである。
撮像部22は、CCD(Charge Coupled Device)やCMOS(Complementary Metal Oxide Semiconductor)等の撮像素子、この撮像素子に光を結像させる結像光学系を有している。また、撮像部22は、前記撮像素子から出力された信号を量子化してデジタル信号に変換するADコンバータ、変換されたデジタル信号に基づいて撮像データを生成する信号処理回路を有している。
【0024】
操作部23は、作業者の操作が入力されるものであり、例えば、物理的なボタンやタッチパネル等で構成されている。操作部23が出力した操作信号は、周辺インターフェース16で信号の物理的・論理的な形式が変換されて、操作情報としてバス9に入力される。なお、操作部として、視線センサーを用い、ユーザの視線入力を検知し、前記入力に対応する操作信号がバス9に入力される構成であっても差し支え無い。或いは、撮像部22でユーザの手を撮像し、撮像されたユーザの手の形状や、動作により、ユーザの操作が認識されて、前記操作に対応する操作信号がバス9に入力される構成であっても差し支え無い。
作業者は、操作部23を操作することにより、作業対象物検出判断プログラム13aが、作業対象物が作業者の視界に入っているか否かを判断するための基準(図2に示される範囲a又は範囲b)を設定することができる。設定された前記基準は、RAM12又は記憶装置13に記憶される。
【0025】
センサー24は、作業者の作業状態を検出するものである。センサー24には、傾きセンサー、視線センサーが含まれる。傾きセンサーは、頭部装着撮像装置50の傾きを検知することにより、作業者の視線方向を検知する。傾きセンサーとしては、例えば、ジャイロセンサーや加速度センサーなどが含まれる。視線センサーは、作業者の視線方向を検知する。視線センサーとしては、例えば、ユーザの眼を撮像する外部カメラを用いる方式(強膜反射法、角膜反射法など)や、電極を用いて網膜角膜電位を検出する方式(EOG法)等が利用可能である。
【0026】
遠隔側装置本体110は、CPU111、RAM112、記憶装置113、遠隔側通信部114、画像処理部115、周辺インターフェース116を有している。これらの構成は、相互にバス109で接続されている。画像処理部115には、遠隔側表示部120が接続されている。周辺インターフェース116には、入力部130が接続されている。
【0027】
CPU111は、RAM112、記憶装置113と協動して、各種演算、処理を行う。
RAM112は、CPU111で処理されるプログラムや、CPU111が処理するデータを、そのアドレス空間に一時的に記憶する。RAM112は、撮像データが記憶される撮像データ記憶領域112aを有している。また、RAM112は、作業対象物を含む静止画像が記憶される静止画像記憶領域112bを有している。
記憶装置113には、不揮発性メモリーやハードディスク等の補助記憶装置が含まれる。記憶装置113には、静止画像表示プログラム113aが記憶されている。静止画像表示プログラム113aは、撮像データ記憶領域112aに記憶されている撮像データに基づいて、作業対象物を含む静止画像を生成し、当該静止画像を遠隔側表示部120に表示させるプログラムである。記憶装置113は、作業指示画像記憶領域113bを有している。作業指示画像記憶領域113bには、作業手順書、図面等の文字や画像からなる作業指示画像が記憶されている。
【0028】
遠隔側通信部114は、LAN、無線LAN、インターネット回線等の通信回線999に接続され、前記した通信方式に対応した通信インターフェースで構成されている。
画像処理部115は、遠隔側表示部120に出力する画像信号を生成するものであり、画像処理回路及びビデオメモリを有している。
周辺インターフェース116は、信号の物理的・論理的な形式を変換するものである。作業支援者が、入力部130を操作すると、周辺インターフェース116からバス109に操作信号が入力される。
【0029】
(第1の実施形態の頭部装着撮像装置メイン処理)
図4の(A)を用いて、第1の実施形態の頭部装着撮像装置メイン処理について説明する。頭部装着撮像装置50に電源が投入されると、S111の処理に進む。
【0030】
S111「作業指示画像受信」の判断処理において、CPU11は、頭部装着側通信部14が作業指示画像を受信したか否かを判断する。CPU11が、頭部装着側通信部14が作業指示画像を受信したと判断した場合には(S111の判断処理がYES)、S112の処理に進む。一方で、CPU11が、頭部装着側通信部14が作業指示画像を受信していないと判断した場合には(S111の判断処理がNO)、S113の処理に進む。
【0031】
S112「作業指示画像記憶」の処理において、CPU11は、頭部装着側通信部14で受信した作業指示画像を、RAM12に記憶する。S112の処理が終了すると、S113の処理に進む。
【0032】
S113「撮像開始」の処理において、撮像部22での撮像が開始され、RAM12に撮像データが記憶される。なお、撮像部22は、所定の時間間隔(例えば、数十ミリ秒毎)に静止画像を撮像する。撮像データは、数十ミリ秒毎に撮像された静止画像の集合である。S113の処理が終了すると、S114の処理に進む。
【0033】
S114「撮像データ送信開始」の処理において、RAM12に記憶されている撮像データの頭部装着側通信部14から遠隔側通信部114への送信が開始される。S114の処理が終了すると、S115の処理に進む。
【0034】
S115「作業対象物が作業者の視界に入っているか判断」の処理において、作業対象物検出判断プログラム13aは、作業対象物が作業者の視界に入っているか否かを判断し、判断結果をRAM12に記憶させる。具体的には、作業対象物検出判断プログラム13aは、センサー24からの検出信号に基づき、作業者の視線方向が図2に示されるaの範囲に入っているか否かを判断することにより、作業対象物が作業者の視界に入っているか否かを判断する。S115の処理が終了すると、S116の処理に進む。
【0035】
S116「判断結果情報送信」の処理において、RAM12に記憶されている判断結果が、頭部装着側通信部14を介して、遠隔側通信部114に送信される。S116の処理が終了すると、S117の判断処理に進む。
【0036】
S117「作業対象物が作業者の視界に入っている」の判断処理において、作業対象物検出判断プログラム13aは、RAM12に記憶されている判断結果を参照し、作業対象物が作業者の視界に入っているか否かを判断する。作業対象物検出判断プログラム13aが、作業対象物が作業者の視界に入っていると判断した場合には(S117の判断処理がYES)、S118の処理に進む。一方で、作業対象物検出判断プログラム13aが、作業対象物が作業者の視界に入っていないと判断した場合には(S117の判断処理がNO)、S119の処理に進む。
【0037】
S118「頭部装着側表示部オフ」の処理において、CPU11は、頭部装着側表示部21の表示機能をオフにする。これにより、頭部装着側表示部21で作業指示画像が表示されないので、作業者は作業対象物を容易に視認することができる。S118の処理が終了すると、S120の判断処理に進む。
【0038】
S119「作業指示画像表示」の処理において、CPU11は、RAM12に記憶されている作業指示画像を頭部装着側表示部21で表示させる描画命令を画像処理部15に出力する。作業者は頭部装着側表示部21で表示された作業指示画像を視認することにより、作業内容を把握することができる。なお、S111の判断処理において、頭部装着側通信部14が作業指示画像を受信していない場合には、CPU11は、作業指示に関連するデフォルト画像を頭部装着側表示部21で表示させる描画命令を画像処理部15に出力する。S119の処理が終了すると、S120の判断処理に進む。
【0039】
S120「作業指示画像受信」の判断処理において、CPU11は、頭部装着側通信部14が作業指示画像を受信したか否かを判断する。CPU11が、頭部装着側通信部14が作業指示画像を受信したと判断した場合には(S120の判断処理がYES)、S121の処理に進む。一方で、CPU11が、頭部装着側通信部14が作業指示画像を受信していないと判断した場合には(S120の判断処理がNO)、S115の処理に戻る。
【0040】
S121「作業指示画像記憶」の処理において、CPU11は、頭部装着側通信部14で受信した作業指示画像を、RAM12に記憶する。S121の処理が終了すると、S115の処理に戻る。
【0041】
なお、遠隔側表示部120に静止画が表示されている場合は(S140)、S132の処理において作業指示画像とともに作業対象物を含む静止画像が送信され、S119の処理において、前記作業指示画像とともに前記撮像データが頭部装着側表示部21に並列表示される実施形態であっても差し支え無い。すると、作業者は、作業指示画像とともに作業対象物が含まれる静止画像を視認することができ、作業指示画像の内容をより容易に把握することができる。
【0042】
(第1の実施形態の遠隔側装置メイン処理)
図4の(B)を用いて、第1の実施形態の遠隔側装置メイン処理について説明する。
遠隔側装置100に電源が投入されると、S131の判断処理に進む。
S131「作業指示有り」の判断処理において、CPU111は、作業指示画像を頭部装着側表示部21に表示させる操作信号がバス109に入力されたか否かを判断する。CPU111が、前記操作信号がバス109に入力されたと判断した場合には(S131の判断処理がYES)、S132の処理に進む。一方で、CPU111が、前記操作信号がバス109に入力されていないと判断した場合には(S131の判断処理がNO)、S133の判断処理に進む。
【0043】
S132「作業指示画像送信」の処理において、CPU111は、S131の処理でバス109に入力された操作信号に基づき、作業指示画像記憶領域113bに記憶されている作業指示画像を選択し、当該作業指示画像を、遠隔側通信部114を介して頭部装着側通信部14に送信させる。S132の処理が終了すると、S133の判断処理に進む。
【0044】
S133「撮像データ受信」の判断処理において、CPU111は、遠隔側通信部114が撮像データを受信したか否かを判断する。CPU111が、遠隔側通信部114が撮像データを受信したと判断した場合には(S133の判断処理がYES)、S134の処理に進む。一方で、CPU111が、遠隔側通信部114が撮像データを受信したと判断しない場合には(S133の判断処理がNO)、S135の判断処理に進む。
【0045】
S134「撮像データ記憶」の処理において、CPU111は、遠隔側通信部114が受信した撮像データを撮像データ記憶領域112aに記憶させる。なお、撮像データ記憶領域112aには、所定フレーム分の静止画像が記憶される。つまり、順次受信した静止画像が撮像データ記憶領域112aに更新記録されるとともに、古いフレームの静止画像から順に撮像データ記憶領域112aから削除される。S134の処理が終了すると、S135の判断処理に進む。
【0046】
S135「判断結果情報受信」の判断処理において、CPU111は、遠隔側通信部114が判断結果情報を受信したか否かを判断する。CPU111が、遠隔側通信部114が判断結果情報を受信したと判断した場合には(S135の判断処理がYES)、S136の処理に進む。一方で、CPU111が、遠隔側通信部114が判断結果情報を受信したと判断しない場合には(S135の判断処理がNO)、S136の判断処理に進む。
【0047】
S136「判断結果情報記憶」の処理において、CPU111は、遠隔側通信部114で受信した判断結果情報を、RAM112に記憶させる。S136の処理が終了すると、S137の判断処理に進む。
【0048】
S137「作業対象物が作業者の視界に入っている」の判断処理において、CPU111は、RAM112に記憶されている判断結果情報を参照することにより、作業対象物が作業者の視界に入っているか否かを判断する。CPU111が、作業対象物が作業者の視界に入っていると判断した場合には(S137の判断処理がYES)、S138の処理に進む。一方で、CPU111が、作業対象物が作業者の視界に入っていないと判断した場合には(S137の判断処理がNO)、S140の処理に進む。
【0049】
S138「撮像データ表示」の処理において、CPU111は、撮像データ記憶領域112aに記憶されている撮像データを遠隔側表示部120で表示させる描画命令を画像処理部115に出力する。S138の処理が終了すると、S139の処理に進む。
【0050】
S139「静止画像記憶」の処理において、静止画像表示プログラム113aは、S138の処理において、遠隔側表示部120で表示している撮像データから、1フレーム分の静止画像を静止画像記憶領域112bに記憶させる。S137の判断処理において、作業者が作業対象物を見ていると判断されているので、静止画像記憶領域112bに記憶される静止画像には、作業対象物が含まれる。S139の処理が終了すると、S131の判断処理に戻る。
【0051】
S140「作業対象物を含む静止画像表示」の処理において、静止画像表示プログラム113aは、静止画像記憶領域112bに記憶されている作業対象物を含む静止画像を遠隔側表示部120に表示させる描画命令を画像処理部115に出力する。なお、遠隔側表示部120に表示されている画像が静止画像であることを作業指示者に認識させるために、静止画像表示プログラム113aは前記静止画像に「静止画像」等のマークを重畳表示させることが好ましい。S140の処理が終了すると、S131の判断処理に戻る。
【0052】
このように、作業者の視界方向に関わらず、作業対象物を含む画像が遠隔側表示部120で表示されるので、作業支援者は作業対象物を常時視認することができ、円滑に作業支援を行うことが可能となる。
【0053】
なお、S140の処理において、静止画像表示プログラム113aは、静止画像記憶領域112bに記憶されている所定フレーム前の静止画像を遠隔側表示部120に表示させる描画命令を画像処理部115に出力することにより、作業対象物を含む静止画像を遠隔側表示部120に表示させることにしても差し支え無い。前記所定のフレーム数は、固定値でもよいし、フレームレートやセンサー24が検出する信号の変化量(つまり、作業者の首振り速度)に基づいて決定されても差し支え無い。
或いは、静止画像表示プログラム113aは、静止画像記憶領域112bに記憶されている静止画像から、パターンマッチングにより、作業対象物が含まれている静止画像を検索し、当該静止画像を遠隔側表示部120に表示させる描画命令を画像処理部115に出力することにしても差し支え無い。これにより、頭を傾けている最中に、S117の判断処理で、作業対象物が作業者の視界に入っていると判断された場合において、撮像データに作業対象物が含まれていない可能性があるが、この実施形態では、確実に、作業対象物が遠隔側表示部120で表示される。
【0054】
(第2の実施形態の頭部装着型遠隔撮像システムのブロック図)
図5を用いて、第1の実施形態と異なる点について、第2の実施形態の頭部装着型遠隔撮像システムのブロック図の説明をする。第2の実施形態では、遠隔側装置本体110において、RAM112に撮像データ記憶領域112aが、記憶装置113に撮像指示画像記憶領域113bが、それぞれ設けられている。そして、第1の実施形態において存在した静止画像記憶領域112b、静止画像表示プログラム113aは、第2の実施形態では不要である。それ以外の第2の実施形態の頭部装着型遠隔撮像システムの構成は、第1の実施形態と同一である。
【0055】
(第2の実施形態の頭部装着撮像装置メイン処理)
図6の(A)を用いて、第2の実施形態の頭部装着撮像装置メイン処理について説明する。頭部装着撮像装置50に電源が投入されると、S211の処理に進む。
S211「作業指示画像受信」の判断処理において、CPU11は、頭部装着側通信部14が作業指示画像を受信したか否かを判断する。CPU11が、頭部装着側通信部14が作業指示画像を受信したと判断した場合には(S211の判断処理がYES)、S212の処理に進む。一方で、CPU11が、頭部装着側通信部14が作業指示画像を受信していないと判断した場合には(S211の判断処理がNO)、S212の処理に進む。
【0056】
S212「作業指示画像記憶」の処理において、CPU11は、頭部装着側通信部14で受信した作業指示画像を、RAM12に記憶する。S212の処理が終了すると、S215の判断処理に進む。
【0057】
S215「作業対象物が作業者の視界に入っているか判断」の処理において、作業対象物検出判断プログラム13aは、作業対象物が作業者の視界に入っているか否かを判断する。作業対象物検出判断プログラム13aが、作業対象物が作業者の視界に入っていると判断した場合には(S215の判断処理がYES)、S216の処理に進む。一方で、作業対象物検出判断プログラム13aが、作業対象物が作業者の視界に入っていないと判断した場合には(S215の判断処理がNO)、S220の処理に進む。
【0058】
S216「頭部装着側表示部オフ」の処理において、CPU11は、頭部装着側表示部21の表示機能をオフにする。S216の処理が終了すると、S217の処理に進む。
【0059】
S217「撮像」の処理において、撮像部22は撮像して撮像データを生成する。生成された撮像データは、RAM12に記憶される。なお、S215の判断処理において、作業者が作業対象物を見ていると判断されているので、作業対象物を含む撮像データが生成される。S217の処理が終了すると、S218の処理に進む。
【0060】
S218「撮像データ送信」の処理において、RAM12に記憶されている撮像データが、頭部装着側通信部14を介して、遠隔側通信部114に送信される。S218の処理が終了すると、S221の判断処理に進む。
【0061】
S220「作業指示画像表示」の処理において、CPU11は、RAM12に記憶されている作業指示画像を頭部装着側表示部21で表示させる描画命令を画像処理部15に出力する。S220の処理が終了すると、S221の判断処理に進む。
【0062】
S221「作業指示画像受信」の判断処理において、CPU11は、頭部装着側通信部14が作業指示画像を受信したか否かを判断する。CPU11が、頭部装着側通信部14が作業指示画像を受信したと判断した場合には(S221の判断処理がYES)、S222の処理に進む。一方で、CPU11が、頭部装着側通信部14が作業指示画像を受信していないと判断した場合には(S221の判断処理がNO)、S215の判断処理に戻る。
【0063】
S222「作業指示画像記憶」の処理において、CPU11は、頭部装着側通信部14で受信した作業指示画像を、RAM12に記憶する。S222の処理が終了すると、S215の判断処理に戻る。
【0064】
(第2の実施形態の遠隔側装置メイン処理)
図6の(B)を用いて、第2の実施形態の遠隔側装置メイン処理について説明する。遠隔側装置100に電源が投入されると、S231の判断処理に進む。
S231「作業指示有り」の判断処理において、CPU111は、作業指示画像を頭部装着側表示部21に表示させる操作信号がバス109に入力されたか否かを判断する。CPU111が、前記操作信号がバス109に入力されたと判断した場合には(S231の判断処理がYES)、S232の処理に進む。一方で、CPU111が、前記操作信号がバス109に入力されていないと判断した場合には(S231の判断処理がNO)、S233の判断処理に進む。
【0065】
S232「作業指示画像送信」の処理において、CPU111は、S231の判断処理でバス109に入力された操作信号に基づき、作業指示画像記憶領域113bに記憶されている作業指示画像を選択し、当該作業指示画像を、遠隔側通信部114を介して頭部装着側通信部14に送信させる。S232の処理が終了すると、S233の判断処理に進む。
【0066】
S233「撮像データ受信」の判断処理において、CPU111は、遠隔側通信部114が撮像データを受信したか否かを判断する。CPU111が、遠隔側通信部114が撮像データを受信したと判断した場合には(S233の判断処理がYES)、受信した撮像データを、撮像データ記憶領域112aに記憶させ、S234の処理に進む。一方で、CPU111が、遠隔側通信部114が撮像データを受信していないと判断した場合には(S233の判断処理がNO)、S231の判断処理に戻る。
【0067】
S234「撮像データ更新表示」の処理において、CPU111は、撮像データ記憶領域112aに記憶されている撮像データを遠隔側表示部120で表示させる描画命令を画像処理部115に出力する。すると、遠隔側表示部120で、撮像データが更新表示される。なお、S233の判断処理において、遠隔側通信部114で撮像データが受信されない場合には、最後に受信された撮像データが遠隔側表示部120で表示され続ける。S234の処理が終了すると、S231の判断処理に戻る。
【0068】
このように、第2の実施形態では、S215の判断処理において、作業対象物が作業者の視界に入っていないと判断された場合には(S215の判断処理がNO)、撮像部22で撮像されず、撮像データが遠隔側装置100に送信されない。一方で、S215の判断処理において、作業対象物が作業者の視界に入っていると判断された場合には(S215の判断処理がYES)、S217の処理において、撮像部22で作業対象物を含む撮像データが撮像され、S218の処理において、当該撮像データが遠隔側装置100に送信される。これにより、作業対象物が作業者の視界に入っていると判断された場合に限り、S234の処理において、作業対象物を含む撮像データが遠隔側表示部120で更新表示される一方で、作業対象物が作業者の視界に入っていないと判断された場合には、作業対象物を含む撮像データが遠隔側表示部120で表示され続ける。このため、作業者の視界方向に関わらず、作業対象物を含む画像が遠隔側表示部120で表示されるので、作業支援者は作業対象物を常時視認することができ、円滑に作業支援を行うことが可能となる。
【0069】
なお、S234の処理において、CPU111は、撮像データ記憶領域112aに記憶されている何フレームか前の撮像データを画像処理部115に出力することにより、作業対象物を含む静止画像を遠隔側表示部120に表示させることにしても差し支え無い。これにより、頭を傾けている最中に、S215の判断処理で、作業対象物が作業者の視界に入っていると判断された場合において、撮像データに作業対象物が含まれていない可能性があるが、この実施形態では、確実に、作業対象物が遠隔側表示部120で表示される。
【0070】
なお、S232の処理において、作業指示画像とともに受信した撮像データが送信され、S222の処理において、前記作業指示画像とともに前記撮像データが頭部装着側表示部21に並列表示される実施形態であっても差し支え無い。すると、作業者は、作業指示画像とともに作業対象物が含まれる静止画像を視認することができ、作業指示画像の内容をより容易に把握することができる。
【0071】
(第3の実施形態の頭部装着型遠隔撮像システムのブロック図)
図7を用いて、第1の実施形態と異なる点について、第3の実施形態の頭部装着型遠隔撮像システムのブロック図の説明をする。第3の実施形態では、センサー24、作業対象物検出判断プログラム13a、頭部装着側静止画像表示プログラム13bは不要である。第3の実施形態では、記憶装置113には、作業対象物検出判断プログラム113cが記憶されている。また、記憶装置113には、作業対象物のパターンデータが記憶されるパターンデータ記憶領域113dを有している。
作業対象物検出判断プログラム113cは、パターンデータ記憶領域113dに記憶されているパターンデータを参照し、パターンマッチングにより、撮像データに前記パターンデータと一致する特徴があるか否かを判断し、撮像データに作業対象物が有るか否かを判断するプログラムである。
それ以外の第3の実施形態の頭部装着型遠隔撮像システムの構成は、第1の実施形態と同一である。
【0072】
(第3の実施形態の頭部装着撮像装置メイン処理)
図8の(A)を用いて、第3の実施形態の頭部装着撮像装置メイン処理について説明する。頭部装着撮像装置50に電源が投入されると、S311の処理に進む。
S311「撮像開始」の処理において、撮像部22での撮像が開始され、RAM12に撮像データが記憶される。なお、撮像部22は、数十ミリ秒毎に静止画像を撮像する。撮像データは、数十ミリ秒毎に撮像された静止画像の集合である。S311の処理が終了すると、S312の処理に進む。
【0073】
S312「撮像データ送信開始」の処理において、RAM12に記憶されている撮像データの頭部装着側通信部14から遠隔側通信部114への送信が開始される。S312の処理が終了すると、S313の判断処理に進む。
【0074】
S313「作業指示画像受信」の判断処理において、CPU11は、頭部装着側通信部14が作業指示画像を受信したか否かを判断する。CPU11が、頭部装着側通信部14が作業指示画像を受信したと判断した場合には(S313の判断処理がYES)、S314の処理に進む。一方で、CPU11が、頭部装着側通信部14が作業指示画像を受信していないと判断した場合には(S313の判断処理がNO)、S314の処理に進まない。
【0075】
S314「作業指示画像記憶」の処理において、CPU11は、頭部装着側通信部14で受信した作業指示画像を、RAM12に記憶する。S314の処理が終了すると、S315の処理に進む。
【0076】
S315の処理において、CPU11は、RAM12に記憶されている作業指示画像を頭部装着側表示部21で表示させる描画命令を画像処理部15に出力する。S315の処理が終了すると、S313の判断処理に戻る。
【0077】
(第3の実施形態の遠隔側装置メイン処理)
図8の(B)を用いて、第3の実施形態の遠隔側装置メイン処理について説明する。遠隔側装置100に電源が投入されると、S331の判断処理に進む。
S331「撮像データ受信」の判断処理において、CPU111は、遠隔側通信部114が撮像データを受信したか否かを判断する。CPU111が、遠隔側通信部114が撮像データを受信したと判断した場合には(S331の判断処理がYES)、CPU111は受信した撮像データを撮像データ記憶領域112aに記憶させ、S332の判断処理に進む。一方で、CPU111が、遠隔側通信部114が撮像データを受信していない判断した場合には(S331の判断処理がNO)、S332の判断処理に進まない。
【0078】
S332「撮像データに作業対象物有り」の判断処理において、作業対象物検出判断プログラム113cは、撮像データ記憶領域112aに記憶されている撮像データに作業対象物が有るか否かを判断する。作業対象物検出判断プログラム113cが、撮像データに作業対象物が有ると判断した場合には(S332の判断処理がYES)、S333の処理に進む。一方で、作業対象物検出判断プログラム113cが、撮像データに作業対象物が無いと判断した場合には(S332の判断処理がNO)、S337の処理に進む。
【0079】
S333「撮像データ表示」の処理において、CPU111は、撮像データ記憶領域112aに記憶されている撮像データを遠隔側表示部120で表示させる描画命令を画像処理部115に出力する。S333の処理が終了すると、S334の処理に進む。
【0080】
S334「静止画像記憶」の処理において、静止画像表示プログラム113aは、S333の処理において、遠隔側表示部120で表示している撮像データから、1フレーム分の静止画像を静止画像記憶領域112bに記憶させる。S332の判断処理において、撮像データには作業対象物が有ると判断されているので、静止画像記憶領域112bに記憶される静止画像には作業対象物が含まれる。S334の処理が終了すると、S335の判断処理に進む。
【0081】
S335「作業指示有り」の判断処理において、CPU111は、作業指示画像を頭部装着側表示部21に表示させる操作信号がバス109に入力されたか否かを判断する。CPU111が、前記操作信号がバス109に入力されたと判断した場合には(S335の判断処理がYES)、S336の処理に進む。一方で、CPU111が、前記操作信号がバス109に入力されていないと判断した場合には(S335の判断処理がNO)、S332の判断処理に進む。
【0082】
S336「作業指示画像送信」の処理において、CPU111は、S335の判断処理でバス109に入力された操作信号に基づき、作業指示画像記憶領域113bに記憶されている作業指示画像を選択し、当該作業指示画像を、遠隔側通信部114を介して頭部装着側通信部14に送信させる。S336の処理が終了すると、S332の判断処理に進む。
【0083】
S337「作業対象物を含む静止画像表示」の処理において、静止画像表示プログラム113aは、静止画像記憶領域112bに記憶されている作業対象物を含む静止画像を遠隔側表示部120に表示させる描画命令を画像処理部115に出力する。なお、遠隔側表示部120に表示されている画像が静止画像であることを作業指示者に認識させるために、静止画像表示プログラム113aは、前記静止画像に「静止画像」等のマークを重畳表示させることが好ましい。S337の処理が終了すると、S335の判断処理に進む。
【0084】
このように第3の実施形態でも、遠隔側装置100が、S332の判断処理において、受信した撮像データに作業対象物が有るか否かが判断され、作業対象物が無いと判断された場合には、作業対象物を含む静止画像が遠隔側表示部120に表示される。このため、作業者の視界方向に関わらず、作業対象物を含む画像が遠隔側表示部120で表示されるので、作業支援者は、作業対象物を常時視認することができ、円滑に作業支援を行うことが可能となる。
【0085】
なお、遠隔側表示部120に静止画像が表示されている場合は(S337)、S336の処理において、作業指示画像とともに作業対象物を含む静止画像が送信され、S315の処理において、前記作業指示画像とともに前記静止画像が頭部装着側表示部21に並列表示される実施形態であっても差し支え無い。すると、作業者は、作業指示画像とともに作業対象物が含まれる静止画像を視認することができ、作業指示画像の内容をより容易に把握することができる。
【0086】
なお、以上説明した第3の実施形態では、撮像データに作業対象物が有るか否かの判断(S332の判断)を、遠隔側装置100で行っているが、前記判断を頭部装着撮像装置50側で行う構成であっても差し支え無い。
【0087】
(総括)
なお、S119の処理において、頭部装着側静止画像表示プログラム13bが、RAM12に記憶されている作業指示画像とともに、RAM12に記憶されている所定フレーム前の静止画像を頭部装着側表示部21で表示させる描画命令を画像処理部15に出力することにしても差し支え無い。すると、作業者は、作業指示画像とともに作業対象物が含まれる静止画像を視認することができ、作業指示画像の内容をより容易に把握することができる。
【0088】
以上説明した実施形態では、第1の実施形態のS118の処理や、第2の実施形態のS216の処理において、頭部装着側表示部21の表示機能をオフにしているが、頭部装着側表示部21の表示機能オン状態に維持させても差し支え無い。
【0089】
以上説明した第1〜第3の実施形態以外に、作業対象物検出判断プログラム13aが、作業者の視線方向が図2に示されるaの範囲に入っていると判断した場合に、記録装置13に作業対象物が含まれる静止画像が更新記録され、作業対象物検出判断プログラム13aが、作業者の視線方向が図2に示されるbの範囲に入っていると判断した場合に、前記更新記録が停止されるとともに、前記作業対象物が含まれる静止画像が遠隔側装置100に送信され、当該静止画像が遠隔側表示部120で表示される実施形態であっても差し支え無い。
【0090】
以上、現時点において、もっとも、実践的であり、かつ好ましいと思われる実施形態に関連して本発明を説明したが、本発明は、本願明細書中に開示された実施形態に限定されるものではなく、請求の範囲および明細書全体から読み取れる発明の要旨あるいは思想に反しない範囲で適宜変更可能であり、そのような変更を伴う頭部装着型撮像システムもまた技術的範囲に包含されるものとして理解されなければならない。
【符号の説明】
【0091】
1 頭部装着部
9 バス
21 頭部装着側表示部
22 撮像部
50 頭部装着撮像装置
100 遠隔側装置
109 バス
110 遠隔側装置本体
120 遠隔側表示部
130 入力部
700 作業指示画像
800 作業対象物
999 通信回線

【特許請求の範囲】
【請求項1】
作業者の頭部に装着される頭部装着部と、
前記頭部装着部に取り付けられ、作業者の視界方向を連続的に撮像して撮像データを生成する撮像部と、
前記頭部装着部に取り付けられ、作業者に画像を視認させるシースルー型の頭部装着側表示部と、
外部と通信し、前記撮像データを送信する頭部装着側通信部を有する頭部装着撮像装置と、
前記頭部装着側通信部と通信し、前記撮像データを受信する遠隔側通信部と、
前記遠隔側通信部が受信した撮像データを表示する遠隔側表示部を有する遠隔側装置を備え、
前記撮像データが記憶される記憶部と、
作業者の作業状態を検出する作業状態検出部と、
前記作業状態検出部が検出した作業者の作業状態に基づき、作業対象物が作業者の視界に入っているか否かを判断する作業対象物検出判断手段と、
前記作業対象物検出判断手段が、作業対象物が作業者の視界に入っていないと判断した場合には、前記記憶部に記憶されている前記撮像データに基づいて、作業対象物が含まれる静止画像を前記遠隔側表示部に表示させる静止画像表示手段が、前記頭部装着撮像装置又は前記遠隔側装置のいずれかに設けられていることを特徴とする頭部装着型撮像システム。
【請求項2】
前記作業状態検出部は、前記頭部装着撮像装置に設けられていることを特徴とする請求項1に記載の頭部装着型撮像システム。
【請求項3】
前記作業状態検出部は、前記頭部装着側撮像装置の傾きを検出する傾きセンサーであり、
前記作業対象物検出判断手段は、前記傾きセンサーが検出した前記頭部装着側撮像装置の傾きに基づき、作業対象物が作業者の視界に入っているか否かを判断し、
前記頭部装着撮像装置には、前記作業対象物検出判断手段が前記頭部装着側表示部の傾きにより判断する基準を入力するための操作部が設けられていることを特徴する請求項2に記載の頭部装着型撮像システム。
【請求項4】
前記作業状態検出部は、前記撮像部であり、
前記作業対象物検出判断手段は、前記遠隔側装置に設けられ、前記撮像データから作業対象物を検出することを特徴とする請求項1に記載の頭部装着型撮像システム。
【請求項5】
前記作業対象物検出判断手段が、作業対象物が作業者の視界に入っていないと判断した場合には、前記撮像データに基づいて、作業対象物が含まれる静止画像を頭部装着側表示部に表示させる頭部装着側静止画像表示手段を有することを特徴とする請求項1〜請求項4のいずれかに記載の頭部装着型撮像システム。
【請求項6】
作業者の頭部に装着される頭部装着部と、
前記頭部装着部に取り付けられ、作業者の視界方向を連続的に撮像して撮像データを生成する撮像部と、
前記頭部装着部に取り付けられ、作業者に画像を視認させるシースルー型の頭部装着側表示部と、
前記撮像データが記憶される記憶部と、
前記撮像データが表示される遠隔側表示部を有する遠隔側装置と通信し、前記撮像データを送信する頭部装着側通信と、
作業者の作業状態を検出する作業状態検出部と、
前記作業状態検出部が検出した作業者の作業状態から、作業対象物が作業者の視界に入っているか否かを判断する作業対象物検出判断手段を有し、
前記作業対象物検出判断手段が、作業対象物が作業者の視界に入っていない判断した場合には、前記遠隔側装置に送信された撮像データに基づいて、作業対象物が含まれる静止画像が生成され、当該静止画像が前記遠隔側表示部に表示されるように構成されていることを特徴する頭部装着撮像装置。
【請求項7】
作業者の頭部に装着された撮像部により連続的に撮像された撮像データから作業対象物を含む静止画像を遠隔側画像表示装置に表示させる画像表示方法であって、
作業者の作業状態が検出される作業状態検出工程と、
前記検出された作業者の作業状態に基づき、作業対象物が作業者の視界に入っているか否かが判断される作業対象物検出判断工程と、
前記作業対象物検出判断工程において、前記作業対象物が作業者の視界に入っていない判断された場合には、前記撮像データに基づいて、作業対象物が含まれる静止画像が前記遠隔側表示部に表示される静止画像表示工程を有することを特徴とする画像表示方法。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7】
image rotate

【図8】
image rotate


【公開番号】特開2012−182701(P2012−182701A)
【公開日】平成24年9月20日(2012.9.20)
【国際特許分類】
【出願番号】特願2011−44740(P2011−44740)
【出願日】平成23年3月2日(2011.3.2)
【出願人】(000005267)ブラザー工業株式会社 (13,856)
【Fターム(参考)】