画像表示装置
【課題】画像信号に応じた画像を虚像である表示画像として観察者に表示するヘッドマウントディスプレイ(HMD)を有する画像表示装置において、外部から入力された連続画像を欠落なく再生する。
【解決手段】判定部118により、表示画像を表す画像光が観察者の眼に入射しない画像光不入射時であるとの判定(以下、「不入射判定」という。)が開始されると、画像信号入力回路100に入力されてそこから出力された画像信号によって表される入力画像を再生する通常再生が自動的に中止される。それと並行して、入力回路100から出力された入力画像が自動的に録画される。前記不入射判定が終了すると、録画再生部114により、録画された画像を古い方から順に再生する録画再生が自動的に行われる。
【解決手段】判定部118により、表示画像を表す画像光が観察者の眼に入射しない画像光不入射時であるとの判定(以下、「不入射判定」という。)が開始されると、画像信号入力回路100に入力されてそこから出力された画像信号によって表される入力画像を再生する通常再生が自動的に中止される。それと並行して、入力回路100から出力された入力画像が自動的に録画される。前記不入射判定が終了すると、録画再生部114により、録画された画像を古い方から順に再生する録画再生が自動的に行われる。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、画像信号に応じた画像を虚像である表示画像として観察者に表示するヘッドマウントディスプレイ(HMD)を有する画像表示装置に関し、特に、外部から入力された連続画像を欠落なく再生する技術に関する。
【背景技術】
【0002】
表示すべき画像を表す画像光を観察者の眼に投射するために観察者の頭部に装着されるHMDを有する画像表示装置が既に知られている(例えば、特許文献1参照。)。この画像表示装置によれば、観察者は、画像が投影されるスクリーンを媒介にすることなく、画像を直接的に観察することができる。
【0003】
HMDを、画像光形成方式によって分類すると、例えば特許文献1に開示されている空間変調型、すなわち、画像信号に応じて作動する空間変調素子(例えば、液晶または有機EL(エレクトロ・ルミネッセンス))を用いて、光源の出射光から前記画像光を形成する方式と、走査型、すなわち、光源の出射光であって、前記画像信号に応じた強度を有するものを走査することによって前記画像光を形成する方式とに分類される。
【0004】
また、HMDを、表示画像の観察方式によって分類すると、例えば特許文献1に開示されているシースルー型、すなわち、観察者が、当該HMDによる表示画像に重ねて外界の景色を観察することが可能である方式と、密閉型、すなわち、現実外界を表す外光の入射を遮断し、観察者が、HMDによる表示画像のみを観察することを可能である方式とに分類される。
【0005】
HMDについては、それがシースルー型であるか密閉型であるかを問わず、HMDによる消費電力の無駄を省略したいという要望がある。この要望を満たすべく、特許文献1は、観察者が睡眠状態にある(観察者が瞼を閉じている)か否かを判定し、睡眠状態にある場合には、HMDの電源を自動的に切断する技術を開示している。この技術によれば、観察者が睡眠状態にあるにもかかわらず、画像光が無駄に生成されて観察者の眼に投射されることが防止され、それにより、消費電力の無駄が省略される。
【先行技術文献】
【特許文献】
【0006】
【特許文献1】特開平11−249064号公報
【発明の概要】
【発明が解決しようとする課題】
【0007】
本発明者らは、観察者が瞼を閉じて睡眠している状態を、HMDが画像光を生成してもその画像光が観察者の眼に入射しない画像光不入射状態の一例と考え、さらに、画像光不入射状態の別の例として、例えば、観察者の瞳孔位置が当該HMDの射出瞳から外れているために、画像を再生しても、その画像が観察者によって観察されない状態を考えた。
【0008】
さらに、本発明者らは、上述のような画像光不入射状態は、前述の、観察者の睡眠状態ほどに強い継続性を有せず、一時的な事象であり、そのため、画像光不入射状態が開始されても、短時間後には、画像光が観察者の眼に入射する状態に復帰するというのが通常であることに気が付いた。
【0009】
このような知見に基づき、本発明者らは、HMDにおいて、一時的な画像光不入射状態が開始されたら、HMDの電源を切断することなく、画像の再生のみを停止し、その一時的な画像光不入射状態が終了したら、画像の再生を再開するという技術を提案した。
【0010】
しかし、その提案技術によれば、画像の表示すなわち画像の再生のために外部からHMDに入力される画像が静止画像ではなく、連続画像(動画、ストリーミングコンテンツの一例)である場合に、画像光不入射状態が発生すると、動画の再生が自動的に停止され、その後、画像光不入射状態が終了すると、動画の再生が自動的に再開される。しかし、動画のうち、画像光不入射状態が発生しなかったなら再生されていたはずの部分が、その画像光不入射状態の終了後に再生されることはない。そのため、この提案技術では、画像光不入射状態の発生に伴う画像表示の停止に起因して、動画の一部を観察者が観察することができないという問題がある。
【0011】
再生すべき動画をHMDに送信する外部機器であって、送信、一時停止、録画等の操作をHMDのユーザが当該外部機器に対して行うことが可能であるものをHMDに接続するという対策を講ずれば、観察者は、画像光不入射状態である時に、再生すべき動画を外部機器に録画でき、その画像光不入射状態の終了後には、その録画した動画をいつでもHMDに送信して再生できるため、この対策を講ずれば、画像光不入射状態における画像表示の停止に起因して、動画の一部を観察することができないという問題は生じないが、この対策を講ずる場合には、観察者は、画像光不入射状態である時などに、上述の外部機器に対し、一時停止および録画という操作を行うのは、家庭でパソコンを操作するなどのような場合とは異なり、面倒であるという問題が生じる。
【0012】
以上説明した事情を背景として、本発明は、画像信号に応じた表示画像を観察者が観察することが可能なHMDを有する画像表示装置において、外部から入力された連続画像を欠落なく再生することを課題としてなされたものである。
【課題を解決するための手段】
【0013】
本発明によって下記の各態様が得られる。各態様は、項に区分し、各項には番号を付し、必要に応じて他の項の番号を引用する形式で記載するが、このように、各項を他の項の番号を引用する形式で記載することにより、各項に記載の技術的特徴をその性質に応じて適宜独立させることが可能となる。
【0014】
(1) 画像信号に応じた画像を虚像である表示画像として観察者に表示するヘッドマウントディスプレイ(HMD)を有する画像表示装置であって、
前記画像信号が入力される入力部と、
その入力部から出力された画像信号により表される入力画像を再生する通常再生によって前記表示画像を形成する通常再生部と、
録画再生用メモリと、
その録画再生用メモリに前記入力画像を録画する録画部と、
前記録画再生用メモリから前記入力画像を読み出して再生する録画再生によって前記表示画像を形成する録画再生部と、
前記表示画像を表す画像光が観察者の眼に入射しない画像光不入射時であるか否かを判定する判定部と
を含み、
前記通常再生部は、少なくとも、前記画像光不入射時であるとの判定の開始時点から終了時点までの期間、前記通常再生を中止し、
前記録画部は、少なくとも、前記画像光不入射時であるとの判定の開始時点から、前記入力部から出力された入力画像を前記録画再生用メモリに録画し、
前記録画再生部は、前記画像光不入射時であるとの判定の終了時点から、前記録画再生用メモリに録画された前記入力画像を古い方から順に読み出して前記録画再生を行う画像表示装置。
【0015】
(2) さらに、
前記録画再生用メモリに画像を記憶することが可能な記憶可能時間T1より短い記憶可能時間T2を有する遅延メモリと、
前記入力部から出力された前記入力画像を前記遅延メモリにリアルタイムに記憶させる一時記憶部と、
前記遅延メモリから読み出されて再生された画像を前記遅延メモリから消去する遅延メモリ用消去部と
を含み、
それにより、前記遅延メモリには、現時点から前記記憶可能時間T2と同じ長さだけ過去に戻った時点から現時点までに前記入力部から出力された前記入力画像が記憶され、
前記録画再生部は、前記移動が存在するとの判定の終了時点から、前記遅延メモリから画像を古い方から順に読み出して第1の録画再生を行い、その遅延メモリが空になった後に、前記録画再生メモリから画像を古い方から順に読み出して第2の録画再生を、前記第1の録画再生と連続するように行う(1)項に記載の画像表示装置。
【0016】
(3) 前記通常再生部は、前記遅延メモリから前記入力画像を、前記遅延再生用メモリへの記憶時点から、前記記憶可能時間T2と同じ時間だけ遅延するタイミングで読み出して再生する遅延再生を行う(2)項に記載の画像表示装置。
【0017】
(4) さらに、前記録画再生部によって画像が再生されると、その再生された画像を古い方から順に前記録画再生用メモリから消去する録画再生用メモリ用消去部を含む(1)ないし(3)項のいずれかに記載の画像表示装置。
【0018】
(5) 前記判定部は、
前記HMDは前記画像光を正常に出射しているが観察者の眼が前記画像光を受光する状態にはないという第1条件と、
前記HMDが、それ自体は正常であるが、前記画像光を出射することができないという第2条件と、
前記HMDが、それ自体は正常であるが、前記画像光を受光することが観察者にとって不適切であるために前記HMDが前記画像光の出射を停止するという第3条件と、
前記HMDが、それ自体が異常であるために、前記画像光を出射することができないという第4条件と
のうちの少なくとも一つが成立すると、前記画像光不入射時であると判定する(1)ないし(4)項のいずれかに記載の画像表示装置。
【0019】
(6) さらに、観察者の眼を撮像するカメラを含み、
前記判定部は、そのカメラによって撮像された画像に基づき、観察者の視線方向を推定し、その推定された視線方向に基づき、観察者の眼が前記画像光を受光する状態にあるか否かを判定する(1)ないし(5)項のいずれかに記載の画像表示装置。
【0020】
(7) さらに、観察者の眼を撮像するカメラを含み、
前記判定部は、そのカメラによって撮像された画像に基づき、観察者の瞳孔位置を推定し、その推定された瞳孔位置に基づき、観察者の眼が前記画像光を受光する状態にあるか否かを判定する(1)ないし(5)項のいずれかに記載の画像表示装置。
【発明の効果】
【0021】
本発明によれば、画像光が観察者の眼に入射しない画像光不入射時であるとの判定(以下、「不入射判定」という。)が開始されると、入力部に入力されてその入力部から出力された画像信号によって表される入力画像を再生する通常再生が自動的に中止される。それと並行して、前記入力部から出力された入力画像が自動的に録画される。前記不入射判定が終了すると、録画された画像を古い方から順に再生する録画再生が自動的に行われる。
【0022】
したがって、本発明によれば、不入射判定の終了後に画像の再生が自動的に再開されると、その不入射判定の開始時点と終了時点との間の期間中に前記入力部に入力された画像が、追加の操作を観察者に要求することなく、自動的に再生される。その結果、本発明によれば、画像光が眼に入射しない不入射期間に移行すると、画像再生が自動的に一時的に停止させられるにもかかわらず、その不入射期間が終了して画像再生が再開されると、画像の部分的欠落なしで、画像を再生することが可能となり、よって、当該画像表示装置の使い勝手が向上する。
【図面の簡単な説明】
【0023】
【図1】本発明の第1実施形態に従う画像表示装置を、それのHMDが観察者の頭部に装着された使用状態で、制御ユニットと共に正面図である。
【図2】図1に示す画像表示装置の構成を概念的に表す機能ブロック図である。
【図3】図2に示す制御ユニットの構成を概念的に表す機能ブロック図である。
【図4】図3に示す制御ユニットがある例示的なシナリオのもとで作動する様子を説明するためのタイムチャートである。
【図5】図3に示す制御ユニットが別の例示的なシナリオのもとで作動する様子を説明するためのタイムチャートである。
【図6】図2に示すプログラムROMに記憶されているプログラムを概念的に表すフローチャートである。
【図7】本発明の第2実施形態に従う画像表示装置の構成を概念的に表す機能ブロック図である。
【図8】図7に示す制御ユニットの構成を概念的に表す機能ブロック図である。
【図9】図8に示す制御ユニットが図4と同じ例示的なシナリオのもとで作動する様子を説明するためのタイムチャートである。
【図10】図7に示すプログラムROMに記憶されているプログラムを概念的に表すフローチャートである。
【図11】本発明の第3実施形態に従う画像表示装置における制御ユニットが図4と同じ例示的なシナリオのもとで作動する様子を説明するためのタイムチャートである。
【図12】上記第3実施形態に従う画像表示装置におけるプログラムROMに記憶されているプログラムを概念的に表すフローチャートである。
【発明を実施するための形態】
【0024】
以下、本発明のさらに具体的な実施の形態のうちのいくつかを図面に基づいて例示的に詳細に説明する。
【0025】
図1には、本発明の第1実施形態に従う画像表示装置10が使用状態で平面図で示されている。この画像表示装置10は、シースルー型のHMD12を有する。このHMD12は、画像を表す画像光を観察者の眼に投影するように構成されている。このHMD12は、ヘッドマウント装置14により、観察者の頭部に装着される。
【0026】
ヘッドマウント装置14は、フレーム16と、アタッチメント装置18とを備えている。フレーム16は、観察者が装着している眼鏡(図示しない)のフレームであるか、専用のフレームであるかを問わず、観察者の両耳にかけられる状態で観察者の頭部に装着される。このフレーム16の一部に、アタッチメント装置18を介してHMD12が搭載される。
【0027】
次に、図1および図2を参照することにより、HMD12およびそのHMD12を制御するための制御ユニット20であってコンピュータを主体として構成されているものを説明する。
【0028】
なお付言するに、本実施形態おいては、共に独立した部品であるHMD12と制御ユニット20とが互いに組み合わされて画像表示装置10を構成しているが、制御ユニット20をHMD12内に組み込むことによって画像表示装置10を構成してもよい。
【0029】
まず、HMD12の概略を説明する。図1には、このHMD12が平面図で示されている。このHMD12は、単眼式であり、画像を表す画像光を観察者の片眼に眼前から投影して前記画像を観察者に表示する。
【0030】
図2に示すように、HMD12は、空間変調型であり、光源(例えば、LED(発光ダイオード))30からの面状の光を、空間変調素子としてのLCD(液晶ディスプレイ)32を用いて、各画素ごとに空間的に変調し、その変調された光を観察者の眼34の瞳孔36を経て、網膜38上に投影し、それにより、観察者が画像を虚像として観察することを可能にする。
【0031】
図2に示すように、光源30は、光源駆動回路40によって駆動され、また、LCD32は、LCD駆動回路42によって駆動される。HMD12は、さらに、光源30からの光に対して必要な光学処理を施してLCD32に入射する照明光学系44と、LCD32から出射した画像光を瞳孔36に誘導する接眼光学系46とを備えている。
【0032】
図1に示すように、HMD12は、前述のように、シースルー型であるため、このHMD12から出射する画像光を曲げて瞳孔36に誘導する反射部材としてのハーフミラー48を有している。観察者の眼34には、ハーフミラー48から反射した画像光のみならず、外界の景色を表す光(外光)がハーフミラー48を透過して入射する。その結果、観察者は、画像光によって表示される画像(表示画像)に重ねて外界の景色を観察することが可能となる。
【0033】
なお付言するに、本実施形態においては、HMD12が単眼式、空間変調型およびシースルー型であるが、両眼式に変更したり、網膜走査型、すなわち、レーザ等、光源からの、画像信号に応じた強度を有する光束をスキャナによって走査し、その走査された光束を観察者の網膜38に投影することにより、観察者が画像を虚像として観察することを可能にする型式に変更したり、表示画像の観察と並行して現実外界を観察することができない密閉型に変更することが可能である。
【0034】
図2に示すように、HMD12は、さらに、音声信号出力回路50を備えている。その音声信号出力回路50は、観察者の耳52に装着されるイヤホン54(耳に接近したスピーカを用いて音声を出力するデバイスの一例であり、他の例としては、ヘッドホンがある)に音声信号を有線または無線で出力する。HMD12は、映像と音声とを一緒に再生して観察者(ユーザ)に出力することが可能である。
【0035】
次に、制御ユニット20を説明する。この制御ユニット20はHMD12に、図1に示すように、ケーブル60を介して接続されている。ケーブル60は、いずれも図示しないが、制御信号を供給する制御ラインと、電力を供給するパワーラインと、映像信号を供給する映像ラインとを含んでいる。HMD12が観察者の頭部に装着されるのに対し、制御ユニット20は、観察者のうち、頭部以外の部分(例えば、腰)に装着される。
【0036】
制御ユニット20は、図2に機能ブロック図で概念的に表すように、前記コンピュータを主体として構成されている。具体的には、制御ユニット20は、プロセッサとしてのCPU(Central Processing Unit)70と、不揮発性メモリとしてのプログラムROM(Read Only Memory)72および録画再生用メモリ74と、揮発性メモリとしてのRAM(Random Access Memory)76とを備えている。録画再生用メモリ74は、例えば、フラッシュROM、HDD(ハードディスクドライブ)に装着されるHD(ハードディスク)である。RAM76は、ビデオRAMを有する。それらCPU70,プログラムROM72,録画再生用メモリ74およびRAM76は、バス78を介して互いに接続され、それにより、前記コンピュータが構成される。
【0037】
バス78には、さらに、ユーザである観察者が種々の要求(例えば、外部から送信されたコンテンツとしての連続画像(動画、一連の複数枚のフレームにより構成される映像)を再生することを要求する再生要求、その再生要求の解除など)、情報等を制御ユニット20に対して入力するためにユーザによって操作される操作部としての操作パネル(例えば、キー、ボタン、タッチスクリーン)90が接続されている。このバス78には、さらに、時間を計測するためのタイマ92と、撮像素子としてのカメラ94(例えば、CCD(Charge-Coupled Device)カメラ)とが接続されている。
【0038】
カメラ94は、観察者の両眼のうち、HMD12による表示画像を観察すべき観察眼を撮像するために、HMD12またはフレーム14に装着される。具体的には、カメラ94は、眼を撮像した画像に基づき、瞳孔36の位置(瞳孔位置)または眼34の視線方向を検出するために、眼34の状態を検出する眼状態検出部の一例として設けられている。ただし、その眼状態検出部は、カメラ94に限定されることなく、例えば、眼34の表面からの反射光を受光してそれの強度を検出する受光センサを主体とするものとして構成することが可能である。
【0039】
バス78には、さらに、外部から画像信号が入力される画像信号入力回路100と、外部から音声信号が入力される音声信号入力回路102と、画像処理回路104とが接続されている。画像信号入力回路100には、無線または有線で接続された外部機器(例えば、パーソナルコンピュータや、コンテンツサーバ)から、再生すべき連続画像(以下、単に「画像」という。)を表すデータがストリーミングによって連続的に送信される。画像信号入力回路100は、ADコンバータ(図示しない)を有し、それにより、入力されたアナログの画像信号を、デジタルの画像信号(画像データ)に変換してバス78に出力する。画像信号の受信と同期して、音声信号入力回路102は、同じ外部機器から、再生すべき音声を表すデータをストリーミングによって連続的に受信する。なお、画像信号入力回路100に入力される画像信号がデジタル信号である場合もあり、この場合には、ADコンバータは不要である。
【0040】
画像処理回路104は、画像信号入力回路100から出力された画像信号を光源駆動信号とLCD駆動信号とに変換し、光源駆動信号は光源駆動回路40に、LCD駆動信号はLCD駆動回路42にそれぞれ供給する。バス78には、さらに、HMD12内の音声信号出力回路50も接続されており、音声信号入力回路102から出力された音声信号が、その音声信号出力回路50を介してイヤホン54に出力される。
【0041】
図3には、制御ユニット20のうち、画像再生制御に関する部分が機能ブロック図で概念的に表されている。この制御ユニット20は、画像信号入力回路100から出力された画像信号により表される入力画像を再生する通常再生を行い、それにより、表示画像を形成する通常再生部110を備えている。通常再生部110は、入力画像をリアルタイムに再生するリアルタイム再生を行う。この制御ユニット20は、さらに、録画再生用メモリ74に入力画像を録画する録画部112と、録画再生用メモリ74から画像データを読み出して再生する録画再生を行い、それにより、表示画像を形成する録画再生部114とを備えている。通常再生部110および録画再生部114は、それぞれの画像信号(画像データ)を画像処理回路104を介してHMD12に供給する。
【0042】
図3に示すように、制御ユニット20は、さらに、カメラ94によって撮像された眼34の画像に基づき、表示画像を表す画像光が観察者の眼34に入射しない画像光不入射時であるか否かを判定する判定部118を備えている。
【0043】
具体的には、その判定部118は、次の4つの条件のうちの少なくとも一つが成立すると、前記画像光不入射時であると判定するように設計することが可能である。
【0044】
(a)第1条件:HMD12は前記画像光を正常に出射しているが観察者の眼34が前記画像光を受光する状態(例えば、瞳孔36の位置が、HMD12の射出瞳の位置に一致するか、眼34の視線方向が、前記画像光の進行方向に一致するか、または、観察者の眼34の瞼が開いている状態)にはないという条件
【0045】
(b)第2条件:HMD12が、それ自体は正常であるが、前記画像光を出射することができない(例えば、HMD12が、電源投入直後、光源の経時変化を補償する輝度調整等、キャリブレーションを行う段階にあるために、前記画像光を出射することができない)という条件
【0046】
(c)第3条件:HMD12が、それ自体は正常であるが、前記画像光を受光することが観察者にとって不適切である(例えば、観察者が、これ以上長い時間、表示画像を観察し続けると、眼34の過労につながる可能性がある)ためにHMD12が前記画像光の出射を自動的に停止する(光源を停止させる)という条件
【0047】
(d)第4条件:HMD12が、それ自体が異常である(例えば、光源が故障した)ために、前記画像光を出射することができないという条件
【0048】
ただし、本実施形態においては、判定部118は、カメラ94によって撮像された眼34の画像に基づき、観察者の瞳孔36の位置を前記画像光(すなわち、HMD12の射出瞳の位置)に対して相対的に推定し、その推定された瞳孔位置に基づき、観察者の眼が前記画像光を受光する状態(すなわち、瞳孔36の位置が、HMD12の射出瞳の位置に一致する状態)にはないか否かを判定するように設計されている。眼34の画像から瞳孔位置を推定する手法としては、例えば、特開2008−6149号公報に開示されているように、眼34の画像を2値化し、低輝度領域内の円形の領域を瞳孔36の画像として抽出し、その抽出された瞳孔36の画像から、瞳孔位置を推定する手法を採用することが可能である。
【0049】
これに代えて、判定部118は、カメラ94によって撮像された眼34の画像に基づき、観察者の眼34の視線方向を前記画像光に対して相対的に推定し、その推定された視線方向に基づき、観察者の眼34が前記画像光を受光する状態(眼34の視線方向が、前記画像光の進行方向に一致する状態)にはないか否かを判定するように設計することが可能である。眼34の画像から視線を推定する手法としては、例えば、特開2007−136000号公報に開示されているように、眼34に赤外線を照射したときに眼34の角膜表面から発生する反射光によって表される像の位置と瞳孔36の位置との間の距離から視線を推定する手法を採用することが可能である。
【0050】
なお、前述の第2条件の成否は、HMD12(特に、画像光生成部)の動作状態を検出する検出部からの信号に基づいて行い、また、前述の第3条件の成否は、観察者がHMD12を使用する状態(例えば、連続使用時間)を検出する部からの信号に基づいて行い、また、前述の第4条件の成否は、HMD12(特に、光源)の動作状態を検出する検出部からの信号に基づいて行うことが可能である。
【0051】
以上説明した判定部118の判定結果に基づき、通常再生部110、録画部112および録画再生部114のそれぞれの作動状態が変化する。
【0052】
図3に示すように、制御ユニット20は、さらに、第1消去部120を備えている。その第1消去部120は、録画再生部110が画像を録画再生用メモリ74から読み出して再生すると、その再生された画像を録画再生用メモリ74から消去する。
【0053】
図4には、再生開始時点t1から再生終了時点t5までの間に、判定部118による、画像光不入射時であるとの判定(以下、単に「不入射判定」という。)が1回のみ行われるという、説明の便宜を優先させた仮想的なシナリオのもとで、通常再生部110、録画部112、録画再生部114、判定部118および第1消去部120のそれぞれの作動状態の時間的変化がタイムチャートで例示されている。
【0054】
図4に示すように、通常再生部110は、再生開始時点t1から、通常再生(本実施形態においては、入力画像をリアルタイムに再生すること)を行う。通常再生部110は、判定部118による、不入射判定の開始時点t2から、通常再生を中止する。録画部112は、不入射判定の開始時点t2(通常再生が中止された時点に等しい)から、画像信号入力回路100から出力された入力画像を録画再生用メモリ74に録画する。録画部112は、不入射判定の終了時点t3の到来後も、画像信号入力回路100から出力された入力画像を録画再生用メモリ74に録画することをシームレスで継続する。録画再生部114は、不入射判定の終了時点t3から、録画再生用メモリ74から、録画された画像を読み出して録画再生を行う。第1消去部120は、録画再生部110が画像を録画再生用メモリ74から読み出して再生すると、直ちに、その再生された画像を録画再生用メモリ74から消去する。
【0055】
したがって、本実施形態によれば、画像光が眼34に入射しない期間(以下、「不入射期間」という。)内にあるために、画像を再生してもその画像が観察者に観察されない期間中に、画像の再生が中止され、さらに、その不入射期間が終了すると、画像が再生されればその画像が観察者に観察される環境において、再生が中止された画像が再生される。再生が中止された画像の再生が終了すると、不入射判定の終了時点t3から録画再生用メモリ74に録画された画像が、先行する画像再生に対してシームレスに再生される。
【0056】
録画再生用メモリ74の記憶容量は、理想的には、無限であるが、現実的には、有限である。そのため、不入射判定の開始時点t2と終了時点t3との間の時間間隔の長さが、録画再生用メモリ74の記憶可能時間T1を超えない限り、録画再生を、入力画像の欠落なしで行うことが可能である。
【0057】
図4に対し、図5には、再生開始時点t1から再生終了時点t7までの間に、不入射判定が2回行われるという、図4より現実性を増した仮想的なシナリオのもとで、通常再生部110、録画部112、録画再生部114、判定部118および第1消去部120のそれぞれの作動状態の時間的変化がタイムチャートで例示されている。
【0058】
図6には、上述の画像再生制御を実行するために制御ユニット20のCPU70によって実行されるプログラムがフローチャートで概念的に表されている。
【0059】
ステップS1において、ユーザが画像表示装置10の電源(図示しない)を投入すると、このプログラムの実行が開始される。このプログラムにおいては、まず、ステップS2において、所定のスタンバイ処理が行われ、次に、ステップS3において、ユーザが操作パネル90を操作することにより、再生要求を入力するのが待たれる。ユーザが再生要求を入力すると、ステップS3の判定がYESとなり、ステップS4において、カメラ94により、観察者の眼34が撮像され、撮像データが生成される。
【0060】
続いて、ステップS5において、その生成された撮像データに基づき、前述のようにして、画像光不入射時であるか否かが判定される。
【0061】
今回は、画像光不入射時ではないと仮定すると、このステップS5の判定がNOとなり、ステップS6において、録画再生用メモリ74に、これから再生すべき画像データすなわち録画データが存在しているか否かが判定される。今回は、そのような録画データが録画再生用メモリ74に存在しないと仮定すると、ステップS7において、通常再生が行われ、入力画像がリアルタイム再生される。その後、ステップS8に進む。
【0062】
このステップS8においては、ユーザからの再生要求が終了したか否か、すなわち、ユーザが再生の終了を要求しているか否かが判定される。今回は、再生要求が終了していないと仮定すると、ステップS9において、再生すべき画像データが存在しない(すなわち、新たな入力画像も、録画再生用メモリ74に録画されている未再生画像データも存在しない)か否かが判定される。今回は、再生すべき画像データが存在すると仮定すれば、ステップS4に戻る。
【0063】
その後、不入射期間に移行すると、このプログラムの実行中、ステップS5の判定がYESとなり、ステップS10において、画像入力中であるか否かが判定される。画像入力中でなければ、ステップS4に戻るが、画像入力中であれば、ステップS11において、画像信号入力回路100から出力された入力画像がリアルタイムに録画再生用メモリ74に録画され、これにより、録画が行われる。続いて、ステップS12において、通常再生であるか録画再生であるかを問わず、画像の再生が中止される。その後、ステップS8に進む。
【0064】
その後、今回の不入射期間が終了すると、このプログラムの実行中、ステップS5の判定がNOとなり、ステップS6において、録画データが録画再生用メモリ74に存在しているか否かが判定されると、今回は、録画データが存在しているため、ステップS6の判定がYESとなる。続いて、ステップS13において、録画再生が行われ、録画された画像が古い方から順に録画再生用メモリ74から読み出されて再生される。その後、ステップS14において、再生された画像データが、録画再生用メモリ74から消去される。ステップS15において、画像信号入力回路100から出力された新しい入力画像が録画再生用メモリ74にリアルタイムに録画される。なお、図6には、フローチャートにより表現することの都合上、このステップS15が、ステップS13の実行後に行われるように表現されているが、このステップS15による録画は、ステップS13による録画再生と実質的に並行的に行われる。その後、ステップS8に進む。
【0065】
前記再生要求が終了したためにステップS8の判定がYESとなるか、または、再生要求が終了していないが再生すべき画像データが存在しないためにステップS9の判定がYESとなると、ステップS16において、画像表示装置10の電源がOFFである(すなわち、ユーザが、画像表示装置10の電源を切断した)か否かが判定される。今回は、電源がOFFではないと仮定すれば、ステップS3に戻るが、今回は、電源がOFFであると仮定すれば、ステップS17において、所定の終了処理が画像表示装置10の各部品に対して行われる。その後、ステップS18において、このプログラムの実行が終了する。
【0066】
以上の説明から明らかなように、本実施形態においては、制御ユニット20のうち、図6に示すステップS4およびS5を実行する部分が、図3に示す判定部118を構成し、制御ユニット20のうち、ステップS6、S7、S10およびS12を実行する部分が、通常再生部110を構成し、制御ユニット20のうち、ステップS6、S15、S10およびS11を構成する部分が、録画部112を構成し、制御ユニット20のうち、ステップS6およびS13を実行する部分が、録画再生部114を構成し、制御ユニット20のうち、ステップS14を実行する部分が、第1消去部118(前記「録画再生用メモリ用消去部」の一例)を構成している。また、画像信号入力回路100が、前記(1)項における「入力部」の一例を構成している。
【0067】
以上、本実施形態においては、再生すべき画像がストリーミングによって連続的に制御ユニット20に入力される環境において、不入射判定の継続中に入力画像のリアルタイム再生が中止され、その間、リアルタイム再生が中止された入力画像が録画され、その不入射判定の終了後、録画された画像が再生されることを説明したが、このような再生処理は、画像のみならず、音声についても行われる。その結果、本実施形態においては、不入射判定の終了後に再開される画像の再生が、音声と同期して行われることになる。
【0068】
次に、本発明の第2実施形態に従う画像表示装置200を説明する。ただし、本実施形態は、第1実施形態と共通する要素が多いため、共通する要素については、同一の符号または名称を付して引用することにより、重複した説明を省略し、異なる要素についてのみ、詳細に説明する。
【0069】
第1実施形態においては、図6に示すように、ステップS4において、眼状態検出部の一例であるカメラ94により、観察者の眼34が撮像され、その後、ステップS5において、その撮像結果に基づき、画像光不入射時であるか否か(例えば、瞳孔36の位置がHMD12の射出瞳の位置に一致しないか否か)が判定される。その判定の確度を確保するため、不入射期間が実際に開始されてから、ステップS5において、画像光不入射時であるとの判定が開始されるまでには、図9にタイムチャートで例示するように、タイムラグがあることを避け得ない。そのため、そのタイムラグの期間中は、不入射期間が実際に開始されても、画像の再生が中止されない。
【0070】
これに対し、本実施形態に従う画像表示装置200においては、図7に示すように、上記タイムラグの通常の時間長さ以上の長さで画像データをリアルタイムにかつ一時的に記憶する遅延メモリ202(後に詳述する)が、図2に示す画像表示装置10に対して追加されている。さらに、本実施形態においては、前記不入射判定の終了時点t3から、まずは、遅延メモリ202から画像データを読み出して第1の録画再生が行われ、その遅延メモリ202が空になると、今度は、録画再生用メモリ74から画像データを読み出して第2録画再生が、第1の録画再生に連続するようにシームレスで行われる。
【0071】
したがって、本実施形態によれば、上記タイムラグの期間中に再生された画像と同じものが、前記不入射判定が終了してから、すなわち、不入射期間が完全に終了してから、再度、再生される。よって、観察者は、上記タイムラグの期間中に再生された画像を正常に観察することができなくても、同じ画像を、不入射期間の終了後に正常に観察することが可能となる。
【0072】
図7には、本実施形態に従う画像表示装置200の構成が、図2に示す画像表示装置10と同様に、機能ブロック図で表されている。画像表示装置200は、上述のように、画像表示装置10に対し、遅延メモリ202を追加的に備え、さらに、一時記憶部212と、第2消去部216とを、それぞれ追加的な部品として備えている。
【0073】
遅延メモリ202は、FIFO式の画像データバッファとして機能するように使用され、記憶可能時間(最大記憶時間)T2だけ連続する最新の画像データを記憶する容量を有している。その結果、この遅延メモリ202は、現時点より、記憶可能時間T2の長さと同じ時間だけ過去の時間帯内に入力された画像データを、逐次更新しつつ、一時記憶する。通常、前記タイムラグの長さは、前記不入射判定の開始時点t2から終了時点t3までの時間の長さより短いため、遅延メモリ202の記憶可能時間T2は、録画再生用メモリ74の記憶可能時間T1より短くて済む。
【0074】
一時記憶部212は、画像信号入力回路100から出力された入力画像をリアルタイムに遅延メモリ202に記憶させる。第2消去部216は、遅延メモリ202から読み出されて再生された画像をリアルタイムに遅延メモリ202から消去する。
【0075】
図8には、画像表示装置200のうちの制御ユニット20の構成が、図3と同様に、機能ブロック図で表されている。画像表示装置200は、録画再生部114に代わる録画再生部220を有している。録画再生部220は、前述の第1および第2の録画再生を行う。
【0076】
図9には、本実施形態に従う画像再生制御が、図4と同じシナリオのもとで行われることを想定した場合の様子がタイムチャートで表されている。
【0077】
図9に示すように、通常再生部110は、図4と同様に、外部から入力された画像をRAM76からリアルタイムで読み出して再生する。これに対し、録画再生部220は、前記不入射判定の終了時点t3から、第1の録画再生を行い、その後、第2の録画再生を行う。録画再生部200は、第1の録画再生においては、遅延メモリ202に一時記憶された画像、すなわち、前記不入射判定の開始時点t2から記憶可能時間T2と同じ時間だけ過去に戻った第1時点から、前記不入射判定の開始時点t2と等しい第2時点までの期間中に遅延メモリ202に一時記憶されたもの(遅延メモリ202に記憶されている画像すべて)を古い方から順に遅延メモリ202から読み出して再生する。一方、録画再生部220は、第2の録画再生においては、録画再生用メモリ74から画像を古い方から順に読み出して再生する。
【0078】
図10には、上述の画像再生制御を実行するために制御ユニット20のCPU70によって実行されるプログラムがフローチャートで概念的に表されている。
【0079】
このプログラムにおいては、ステップS101−S106が、図6に示すステップS1−S6と同様にして実行され、また、ステップS111、S112およびS123−S125が、図6に示すステップS8、S9およびS16−S18と同様にして実行される。
【0080】
図10に示すプログラムにおいては、不入射期間が開始されていないと仮定すると、ステップS105の判定がNOとなり、その後、ステップS106において、録画再生用メモリ74に録画データが存在しているか否かが判定される。
【0081】
今回は、そのような録画データは録画再生用メモリ74に存在しないと仮定すると、ステップS107において、画像信号入力回路100から出力された入力画像がリアルタイムに遅延メモリ202に一時記憶される。続いて、ステップS108において、その一時記憶によって遅延メモリ202から溢れた画像データがある場合には、その画像データが消去される。それらステップS107とS108の共同により、遅延メモリ202に、記憶可能時間T2を超えない時間分の画像データが一時記憶される。その後、ステップS109において、画像信号出力回路100から出力された入力画像がリアルタイムにRAM76から読み出されて通常再生される。
【0082】
その後、不入射期間が開始されると、このプログラムの実行中、ステップS105の判定がYESとなり、ステップS113において、画像入力中であるか否かが判定される。画像入力中でなければ、ステップS104に戻るが、画像入力中であれば、ステップS114において、画像信号出力回路100から出力された入力画像が遅延メモリ202に一時記憶されることが中止される。続いて、ステップS115において、画像信号出力回路100から出力された入力画像が録画再生用メモリ74に録画され、録画される。その後、ステップS116において、通常再生であるか録画再生であるかを問わず、画像の再生が中止される。続いて、ステップS111に進む。
【0083】
その後、今回の不入射期間が終了すると、このプログラムの実行中、ステップS105の判定がNOとなり、今回は、録画データが録画再生用メモリ74に存在するから、ステップS106の判定がYESとなる。続いて、ステップS117において、遅延メモリ202に一時記憶されている画像データすなわち遅延データが遅延メモリ202に存在するか否かが判定される。今回は、遅延データが存在するから、ステップS118において、遅延メモリ202から画像が古い方から順に読み出されて録画再生される。前記第1の録画再生が行われるのである。その後、ステップS119において、再生された画像が遅延メモリ202から消去される。それらステップS118およびS119の実行が反復された結果、遅延メモリ202が空になると、ステップS117の判定がNOとなる。
【0084】
遅延メモリ202が空になると、ステップS120において、録画再生用メモリ74から画像が古い方から順に読み出されて録画再生される。前記第2の録画再生が行われるのである。その後、ステップS121において、再生された画像が録画再生用メモリ7から消去される。ステップS122において、画像信号入力回路100から出力された新しい入力画像がリアルタイムに録画再生用メモリ74に録画される。なお、図10には、フローチャートにより表現することの都合上、このステップS122が、ステップS120の実行後に行われるように表現されているが、このステップS122による録画は、ステップS120による録画再生と実質的に並行的に行われる。その後、ステップS111に進む。
【0085】
以上の説明から明らかなように、本実施形態においては、制御ユニット20のうち、図10に示すステップS104およびS105を実行する部分が、図8に示す判定部118を構成し、制御ユニット20のうち、ステップS106、S109、S117、S120、S113およびS116を実行する部分が、通常再生部110を構成し、制御ユニット20のうち、ステップS117、S122、S113およびS115を実行する部分が、録画部112を構成し、制御ユニット20のうち、ステップS106およびS117−S120を構成する部分が、録画再生部220を構成し、制御ユニット20のうち、ステップS122を実行する部分が、第1消去部118(前記「録画再生用メモリ用消去部」の一例)を構成し、制御ユニット20のうち、ステップS108およびS119を実行する部分が、第2消去部216(前記「遅延メモリ用消去部」の一例)を構成し、制御ユニット20のうち、ステップS106、S107、S113およびS114を実行する部分が、一時記憶部212を構成している。
【0086】
なお付言するに、本実施形態においては、遅延メモリ202と、ソフトウエアで構成された第2消去部216(図10に示すステップS108)との共同により、現時点から過去一定時間内に外部から受信された画像データを絶えず更新しつつ一時的に記憶する画像データバッファが構成されているが、この画像データバッファは、これに限らず、例えば、ハードウエアによって構成されたシフトレジスタとして構成することが可能である。この場合には、制御ユニット20のハードウエア構成を複雑にすることなく、ソフトウエア構成を単純化することが容易である。
【0087】
次に、本発明の第3実施形態に従う画像表示装置200を説明する。ただし、本実施形態は、第2実施形態と共通する要素が多いため、共通する要素については、同一の符号または名称を付して引用することにより、重複した説明を省略し、異なる要素についてのみ、詳細に説明する。
【0088】
第2実施形態においては、図9にタイムチャートで示すように、再生開始時点t1から、入力画像がリアルタイムにRAM76から読み出されて再生される。これに対し、本実施形態においては、図9と同様にして図11にタイムチャートで示すように、再生開始時点t1から、遅延メモリ202が画像データで満杯になる時点t1’まで、画像の再生開始が遅延される。時点t1’が到来すると、遅延メモリ202から画像データが古い方から順に読み出されて再生され、それにより、リアルタイム再生ではなく、画像が入力されるタイミングより遅いタイミングで入力画像を再生する遅延再生が行われる。
【0089】
図12には、本実施形態に従う画像表示装置200において、画像再生制御のために、制御ユニット20のCPU70によって実行されるプログラムが、図10と同様にして、フローチャートで概念的に表されている。以下、このプログラムを説明するが、図10に示すプログラムとは異なるステップのみにつき、詳細に説明し、共通のステップについては、重複した説明を省略する。
【0090】
ステップS106の判定がNOとなると、ステップS207において、画像信号入力回路100から出力された入力画像がリアルタイムに遅延メモリ202に一時記憶される。続いて、ステップS208において、再生開始時点t1から、遅延メモリ202の記憶可能時間T2と同じ時間が経過するのが待たれる。遅延メモリ202が画像データで満杯になるのが待たれるのである。時間T2が経過し、遅延メモリ202が画像データで満杯になると、ステップS209において、遅延メモリ202から最も古い画像データが読み出されて再生される。ある画像データが遅延メモリ202に記憶された時点から時間T2だだけ遅延するタイミングで、その画像データが再生され、それにより、遅延再生が行われるのである。その後、ステップS210において、今回再生された画像データが遅延メモリ202から消去される。続いて、ステップS111に進む。
【0091】
以上の説明から明らかなように、本実施形態においては、制御ユニット20のうち、ステップS106、S208、S209、S117、S120、S113およびS116を実行する部分が、通常再生部110を構成し、制御ユニット20のうち、ステップS210およびS119を実行する部分が、第2消去部216(前記「遅延メモリ用消去部」の一例)を構成し、制御ユニット20のうち、ステップS106、S207、S113およびS114を実行する部分が、一時記憶部212を構成している。
【0092】
以上、本発明の実施形態のうちのいくつかを図面に基づいて詳細に説明したが、これらは例示であり、前記[発明の概要]の欄に記載の態様を始めとして、当業者の知識に基づいて種々の変形、改良を施した他の形態で本発明を実施することが可能である。
【技術分野】
【0001】
本発明は、画像信号に応じた画像を虚像である表示画像として観察者に表示するヘッドマウントディスプレイ(HMD)を有する画像表示装置に関し、特に、外部から入力された連続画像を欠落なく再生する技術に関する。
【背景技術】
【0002】
表示すべき画像を表す画像光を観察者の眼に投射するために観察者の頭部に装着されるHMDを有する画像表示装置が既に知られている(例えば、特許文献1参照。)。この画像表示装置によれば、観察者は、画像が投影されるスクリーンを媒介にすることなく、画像を直接的に観察することができる。
【0003】
HMDを、画像光形成方式によって分類すると、例えば特許文献1に開示されている空間変調型、すなわち、画像信号に応じて作動する空間変調素子(例えば、液晶または有機EL(エレクトロ・ルミネッセンス))を用いて、光源の出射光から前記画像光を形成する方式と、走査型、すなわち、光源の出射光であって、前記画像信号に応じた強度を有するものを走査することによって前記画像光を形成する方式とに分類される。
【0004】
また、HMDを、表示画像の観察方式によって分類すると、例えば特許文献1に開示されているシースルー型、すなわち、観察者が、当該HMDによる表示画像に重ねて外界の景色を観察することが可能である方式と、密閉型、すなわち、現実外界を表す外光の入射を遮断し、観察者が、HMDによる表示画像のみを観察することを可能である方式とに分類される。
【0005】
HMDについては、それがシースルー型であるか密閉型であるかを問わず、HMDによる消費電力の無駄を省略したいという要望がある。この要望を満たすべく、特許文献1は、観察者が睡眠状態にある(観察者が瞼を閉じている)か否かを判定し、睡眠状態にある場合には、HMDの電源を自動的に切断する技術を開示している。この技術によれば、観察者が睡眠状態にあるにもかかわらず、画像光が無駄に生成されて観察者の眼に投射されることが防止され、それにより、消費電力の無駄が省略される。
【先行技術文献】
【特許文献】
【0006】
【特許文献1】特開平11−249064号公報
【発明の概要】
【発明が解決しようとする課題】
【0007】
本発明者らは、観察者が瞼を閉じて睡眠している状態を、HMDが画像光を生成してもその画像光が観察者の眼に入射しない画像光不入射状態の一例と考え、さらに、画像光不入射状態の別の例として、例えば、観察者の瞳孔位置が当該HMDの射出瞳から外れているために、画像を再生しても、その画像が観察者によって観察されない状態を考えた。
【0008】
さらに、本発明者らは、上述のような画像光不入射状態は、前述の、観察者の睡眠状態ほどに強い継続性を有せず、一時的な事象であり、そのため、画像光不入射状態が開始されても、短時間後には、画像光が観察者の眼に入射する状態に復帰するというのが通常であることに気が付いた。
【0009】
このような知見に基づき、本発明者らは、HMDにおいて、一時的な画像光不入射状態が開始されたら、HMDの電源を切断することなく、画像の再生のみを停止し、その一時的な画像光不入射状態が終了したら、画像の再生を再開するという技術を提案した。
【0010】
しかし、その提案技術によれば、画像の表示すなわち画像の再生のために外部からHMDに入力される画像が静止画像ではなく、連続画像(動画、ストリーミングコンテンツの一例)である場合に、画像光不入射状態が発生すると、動画の再生が自動的に停止され、その後、画像光不入射状態が終了すると、動画の再生が自動的に再開される。しかし、動画のうち、画像光不入射状態が発生しなかったなら再生されていたはずの部分が、その画像光不入射状態の終了後に再生されることはない。そのため、この提案技術では、画像光不入射状態の発生に伴う画像表示の停止に起因して、動画の一部を観察者が観察することができないという問題がある。
【0011】
再生すべき動画をHMDに送信する外部機器であって、送信、一時停止、録画等の操作をHMDのユーザが当該外部機器に対して行うことが可能であるものをHMDに接続するという対策を講ずれば、観察者は、画像光不入射状態である時に、再生すべき動画を外部機器に録画でき、その画像光不入射状態の終了後には、その録画した動画をいつでもHMDに送信して再生できるため、この対策を講ずれば、画像光不入射状態における画像表示の停止に起因して、動画の一部を観察することができないという問題は生じないが、この対策を講ずる場合には、観察者は、画像光不入射状態である時などに、上述の外部機器に対し、一時停止および録画という操作を行うのは、家庭でパソコンを操作するなどのような場合とは異なり、面倒であるという問題が生じる。
【0012】
以上説明した事情を背景として、本発明は、画像信号に応じた表示画像を観察者が観察することが可能なHMDを有する画像表示装置において、外部から入力された連続画像を欠落なく再生することを課題としてなされたものである。
【課題を解決するための手段】
【0013】
本発明によって下記の各態様が得られる。各態様は、項に区分し、各項には番号を付し、必要に応じて他の項の番号を引用する形式で記載するが、このように、各項を他の項の番号を引用する形式で記載することにより、各項に記載の技術的特徴をその性質に応じて適宜独立させることが可能となる。
【0014】
(1) 画像信号に応じた画像を虚像である表示画像として観察者に表示するヘッドマウントディスプレイ(HMD)を有する画像表示装置であって、
前記画像信号が入力される入力部と、
その入力部から出力された画像信号により表される入力画像を再生する通常再生によって前記表示画像を形成する通常再生部と、
録画再生用メモリと、
その録画再生用メモリに前記入力画像を録画する録画部と、
前記録画再生用メモリから前記入力画像を読み出して再生する録画再生によって前記表示画像を形成する録画再生部と、
前記表示画像を表す画像光が観察者の眼に入射しない画像光不入射時であるか否かを判定する判定部と
を含み、
前記通常再生部は、少なくとも、前記画像光不入射時であるとの判定の開始時点から終了時点までの期間、前記通常再生を中止し、
前記録画部は、少なくとも、前記画像光不入射時であるとの判定の開始時点から、前記入力部から出力された入力画像を前記録画再生用メモリに録画し、
前記録画再生部は、前記画像光不入射時であるとの判定の終了時点から、前記録画再生用メモリに録画された前記入力画像を古い方から順に読み出して前記録画再生を行う画像表示装置。
【0015】
(2) さらに、
前記録画再生用メモリに画像を記憶することが可能な記憶可能時間T1より短い記憶可能時間T2を有する遅延メモリと、
前記入力部から出力された前記入力画像を前記遅延メモリにリアルタイムに記憶させる一時記憶部と、
前記遅延メモリから読み出されて再生された画像を前記遅延メモリから消去する遅延メモリ用消去部と
を含み、
それにより、前記遅延メモリには、現時点から前記記憶可能時間T2と同じ長さだけ過去に戻った時点から現時点までに前記入力部から出力された前記入力画像が記憶され、
前記録画再生部は、前記移動が存在するとの判定の終了時点から、前記遅延メモリから画像を古い方から順に読み出して第1の録画再生を行い、その遅延メモリが空になった後に、前記録画再生メモリから画像を古い方から順に読み出して第2の録画再生を、前記第1の録画再生と連続するように行う(1)項に記載の画像表示装置。
【0016】
(3) 前記通常再生部は、前記遅延メモリから前記入力画像を、前記遅延再生用メモリへの記憶時点から、前記記憶可能時間T2と同じ時間だけ遅延するタイミングで読み出して再生する遅延再生を行う(2)項に記載の画像表示装置。
【0017】
(4) さらに、前記録画再生部によって画像が再生されると、その再生された画像を古い方から順に前記録画再生用メモリから消去する録画再生用メモリ用消去部を含む(1)ないし(3)項のいずれかに記載の画像表示装置。
【0018】
(5) 前記判定部は、
前記HMDは前記画像光を正常に出射しているが観察者の眼が前記画像光を受光する状態にはないという第1条件と、
前記HMDが、それ自体は正常であるが、前記画像光を出射することができないという第2条件と、
前記HMDが、それ自体は正常であるが、前記画像光を受光することが観察者にとって不適切であるために前記HMDが前記画像光の出射を停止するという第3条件と、
前記HMDが、それ自体が異常であるために、前記画像光を出射することができないという第4条件と
のうちの少なくとも一つが成立すると、前記画像光不入射時であると判定する(1)ないし(4)項のいずれかに記載の画像表示装置。
【0019】
(6) さらに、観察者の眼を撮像するカメラを含み、
前記判定部は、そのカメラによって撮像された画像に基づき、観察者の視線方向を推定し、その推定された視線方向に基づき、観察者の眼が前記画像光を受光する状態にあるか否かを判定する(1)ないし(5)項のいずれかに記載の画像表示装置。
【0020】
(7) さらに、観察者の眼を撮像するカメラを含み、
前記判定部は、そのカメラによって撮像された画像に基づき、観察者の瞳孔位置を推定し、その推定された瞳孔位置に基づき、観察者の眼が前記画像光を受光する状態にあるか否かを判定する(1)ないし(5)項のいずれかに記載の画像表示装置。
【発明の効果】
【0021】
本発明によれば、画像光が観察者の眼に入射しない画像光不入射時であるとの判定(以下、「不入射判定」という。)が開始されると、入力部に入力されてその入力部から出力された画像信号によって表される入力画像を再生する通常再生が自動的に中止される。それと並行して、前記入力部から出力された入力画像が自動的に録画される。前記不入射判定が終了すると、録画された画像を古い方から順に再生する録画再生が自動的に行われる。
【0022】
したがって、本発明によれば、不入射判定の終了後に画像の再生が自動的に再開されると、その不入射判定の開始時点と終了時点との間の期間中に前記入力部に入力された画像が、追加の操作を観察者に要求することなく、自動的に再生される。その結果、本発明によれば、画像光が眼に入射しない不入射期間に移行すると、画像再生が自動的に一時的に停止させられるにもかかわらず、その不入射期間が終了して画像再生が再開されると、画像の部分的欠落なしで、画像を再生することが可能となり、よって、当該画像表示装置の使い勝手が向上する。
【図面の簡単な説明】
【0023】
【図1】本発明の第1実施形態に従う画像表示装置を、それのHMDが観察者の頭部に装着された使用状態で、制御ユニットと共に正面図である。
【図2】図1に示す画像表示装置の構成を概念的に表す機能ブロック図である。
【図3】図2に示す制御ユニットの構成を概念的に表す機能ブロック図である。
【図4】図3に示す制御ユニットがある例示的なシナリオのもとで作動する様子を説明するためのタイムチャートである。
【図5】図3に示す制御ユニットが別の例示的なシナリオのもとで作動する様子を説明するためのタイムチャートである。
【図6】図2に示すプログラムROMに記憶されているプログラムを概念的に表すフローチャートである。
【図7】本発明の第2実施形態に従う画像表示装置の構成を概念的に表す機能ブロック図である。
【図8】図7に示す制御ユニットの構成を概念的に表す機能ブロック図である。
【図9】図8に示す制御ユニットが図4と同じ例示的なシナリオのもとで作動する様子を説明するためのタイムチャートである。
【図10】図7に示すプログラムROMに記憶されているプログラムを概念的に表すフローチャートである。
【図11】本発明の第3実施形態に従う画像表示装置における制御ユニットが図4と同じ例示的なシナリオのもとで作動する様子を説明するためのタイムチャートである。
【図12】上記第3実施形態に従う画像表示装置におけるプログラムROMに記憶されているプログラムを概念的に表すフローチャートである。
【発明を実施するための形態】
【0024】
以下、本発明のさらに具体的な実施の形態のうちのいくつかを図面に基づいて例示的に詳細に説明する。
【0025】
図1には、本発明の第1実施形態に従う画像表示装置10が使用状態で平面図で示されている。この画像表示装置10は、シースルー型のHMD12を有する。このHMD12は、画像を表す画像光を観察者の眼に投影するように構成されている。このHMD12は、ヘッドマウント装置14により、観察者の頭部に装着される。
【0026】
ヘッドマウント装置14は、フレーム16と、アタッチメント装置18とを備えている。フレーム16は、観察者が装着している眼鏡(図示しない)のフレームであるか、専用のフレームであるかを問わず、観察者の両耳にかけられる状態で観察者の頭部に装着される。このフレーム16の一部に、アタッチメント装置18を介してHMD12が搭載される。
【0027】
次に、図1および図2を参照することにより、HMD12およびそのHMD12を制御するための制御ユニット20であってコンピュータを主体として構成されているものを説明する。
【0028】
なお付言するに、本実施形態おいては、共に独立した部品であるHMD12と制御ユニット20とが互いに組み合わされて画像表示装置10を構成しているが、制御ユニット20をHMD12内に組み込むことによって画像表示装置10を構成してもよい。
【0029】
まず、HMD12の概略を説明する。図1には、このHMD12が平面図で示されている。このHMD12は、単眼式であり、画像を表す画像光を観察者の片眼に眼前から投影して前記画像を観察者に表示する。
【0030】
図2に示すように、HMD12は、空間変調型であり、光源(例えば、LED(発光ダイオード))30からの面状の光を、空間変調素子としてのLCD(液晶ディスプレイ)32を用いて、各画素ごとに空間的に変調し、その変調された光を観察者の眼34の瞳孔36を経て、網膜38上に投影し、それにより、観察者が画像を虚像として観察することを可能にする。
【0031】
図2に示すように、光源30は、光源駆動回路40によって駆動され、また、LCD32は、LCD駆動回路42によって駆動される。HMD12は、さらに、光源30からの光に対して必要な光学処理を施してLCD32に入射する照明光学系44と、LCD32から出射した画像光を瞳孔36に誘導する接眼光学系46とを備えている。
【0032】
図1に示すように、HMD12は、前述のように、シースルー型であるため、このHMD12から出射する画像光を曲げて瞳孔36に誘導する反射部材としてのハーフミラー48を有している。観察者の眼34には、ハーフミラー48から反射した画像光のみならず、外界の景色を表す光(外光)がハーフミラー48を透過して入射する。その結果、観察者は、画像光によって表示される画像(表示画像)に重ねて外界の景色を観察することが可能となる。
【0033】
なお付言するに、本実施形態においては、HMD12が単眼式、空間変調型およびシースルー型であるが、両眼式に変更したり、網膜走査型、すなわち、レーザ等、光源からの、画像信号に応じた強度を有する光束をスキャナによって走査し、その走査された光束を観察者の網膜38に投影することにより、観察者が画像を虚像として観察することを可能にする型式に変更したり、表示画像の観察と並行して現実外界を観察することができない密閉型に変更することが可能である。
【0034】
図2に示すように、HMD12は、さらに、音声信号出力回路50を備えている。その音声信号出力回路50は、観察者の耳52に装着されるイヤホン54(耳に接近したスピーカを用いて音声を出力するデバイスの一例であり、他の例としては、ヘッドホンがある)に音声信号を有線または無線で出力する。HMD12は、映像と音声とを一緒に再生して観察者(ユーザ)に出力することが可能である。
【0035】
次に、制御ユニット20を説明する。この制御ユニット20はHMD12に、図1に示すように、ケーブル60を介して接続されている。ケーブル60は、いずれも図示しないが、制御信号を供給する制御ラインと、電力を供給するパワーラインと、映像信号を供給する映像ラインとを含んでいる。HMD12が観察者の頭部に装着されるのに対し、制御ユニット20は、観察者のうち、頭部以外の部分(例えば、腰)に装着される。
【0036】
制御ユニット20は、図2に機能ブロック図で概念的に表すように、前記コンピュータを主体として構成されている。具体的には、制御ユニット20は、プロセッサとしてのCPU(Central Processing Unit)70と、不揮発性メモリとしてのプログラムROM(Read Only Memory)72および録画再生用メモリ74と、揮発性メモリとしてのRAM(Random Access Memory)76とを備えている。録画再生用メモリ74は、例えば、フラッシュROM、HDD(ハードディスクドライブ)に装着されるHD(ハードディスク)である。RAM76は、ビデオRAMを有する。それらCPU70,プログラムROM72,録画再生用メモリ74およびRAM76は、バス78を介して互いに接続され、それにより、前記コンピュータが構成される。
【0037】
バス78には、さらに、ユーザである観察者が種々の要求(例えば、外部から送信されたコンテンツとしての連続画像(動画、一連の複数枚のフレームにより構成される映像)を再生することを要求する再生要求、その再生要求の解除など)、情報等を制御ユニット20に対して入力するためにユーザによって操作される操作部としての操作パネル(例えば、キー、ボタン、タッチスクリーン)90が接続されている。このバス78には、さらに、時間を計測するためのタイマ92と、撮像素子としてのカメラ94(例えば、CCD(Charge-Coupled Device)カメラ)とが接続されている。
【0038】
カメラ94は、観察者の両眼のうち、HMD12による表示画像を観察すべき観察眼を撮像するために、HMD12またはフレーム14に装着される。具体的には、カメラ94は、眼を撮像した画像に基づき、瞳孔36の位置(瞳孔位置)または眼34の視線方向を検出するために、眼34の状態を検出する眼状態検出部の一例として設けられている。ただし、その眼状態検出部は、カメラ94に限定されることなく、例えば、眼34の表面からの反射光を受光してそれの強度を検出する受光センサを主体とするものとして構成することが可能である。
【0039】
バス78には、さらに、外部から画像信号が入力される画像信号入力回路100と、外部から音声信号が入力される音声信号入力回路102と、画像処理回路104とが接続されている。画像信号入力回路100には、無線または有線で接続された外部機器(例えば、パーソナルコンピュータや、コンテンツサーバ)から、再生すべき連続画像(以下、単に「画像」という。)を表すデータがストリーミングによって連続的に送信される。画像信号入力回路100は、ADコンバータ(図示しない)を有し、それにより、入力されたアナログの画像信号を、デジタルの画像信号(画像データ)に変換してバス78に出力する。画像信号の受信と同期して、音声信号入力回路102は、同じ外部機器から、再生すべき音声を表すデータをストリーミングによって連続的に受信する。なお、画像信号入力回路100に入力される画像信号がデジタル信号である場合もあり、この場合には、ADコンバータは不要である。
【0040】
画像処理回路104は、画像信号入力回路100から出力された画像信号を光源駆動信号とLCD駆動信号とに変換し、光源駆動信号は光源駆動回路40に、LCD駆動信号はLCD駆動回路42にそれぞれ供給する。バス78には、さらに、HMD12内の音声信号出力回路50も接続されており、音声信号入力回路102から出力された音声信号が、その音声信号出力回路50を介してイヤホン54に出力される。
【0041】
図3には、制御ユニット20のうち、画像再生制御に関する部分が機能ブロック図で概念的に表されている。この制御ユニット20は、画像信号入力回路100から出力された画像信号により表される入力画像を再生する通常再生を行い、それにより、表示画像を形成する通常再生部110を備えている。通常再生部110は、入力画像をリアルタイムに再生するリアルタイム再生を行う。この制御ユニット20は、さらに、録画再生用メモリ74に入力画像を録画する録画部112と、録画再生用メモリ74から画像データを読み出して再生する録画再生を行い、それにより、表示画像を形成する録画再生部114とを備えている。通常再生部110および録画再生部114は、それぞれの画像信号(画像データ)を画像処理回路104を介してHMD12に供給する。
【0042】
図3に示すように、制御ユニット20は、さらに、カメラ94によって撮像された眼34の画像に基づき、表示画像を表す画像光が観察者の眼34に入射しない画像光不入射時であるか否かを判定する判定部118を備えている。
【0043】
具体的には、その判定部118は、次の4つの条件のうちの少なくとも一つが成立すると、前記画像光不入射時であると判定するように設計することが可能である。
【0044】
(a)第1条件:HMD12は前記画像光を正常に出射しているが観察者の眼34が前記画像光を受光する状態(例えば、瞳孔36の位置が、HMD12の射出瞳の位置に一致するか、眼34の視線方向が、前記画像光の進行方向に一致するか、または、観察者の眼34の瞼が開いている状態)にはないという条件
【0045】
(b)第2条件:HMD12が、それ自体は正常であるが、前記画像光を出射することができない(例えば、HMD12が、電源投入直後、光源の経時変化を補償する輝度調整等、キャリブレーションを行う段階にあるために、前記画像光を出射することができない)という条件
【0046】
(c)第3条件:HMD12が、それ自体は正常であるが、前記画像光を受光することが観察者にとって不適切である(例えば、観察者が、これ以上長い時間、表示画像を観察し続けると、眼34の過労につながる可能性がある)ためにHMD12が前記画像光の出射を自動的に停止する(光源を停止させる)という条件
【0047】
(d)第4条件:HMD12が、それ自体が異常である(例えば、光源が故障した)ために、前記画像光を出射することができないという条件
【0048】
ただし、本実施形態においては、判定部118は、カメラ94によって撮像された眼34の画像に基づき、観察者の瞳孔36の位置を前記画像光(すなわち、HMD12の射出瞳の位置)に対して相対的に推定し、その推定された瞳孔位置に基づき、観察者の眼が前記画像光を受光する状態(すなわち、瞳孔36の位置が、HMD12の射出瞳の位置に一致する状態)にはないか否かを判定するように設計されている。眼34の画像から瞳孔位置を推定する手法としては、例えば、特開2008−6149号公報に開示されているように、眼34の画像を2値化し、低輝度領域内の円形の領域を瞳孔36の画像として抽出し、その抽出された瞳孔36の画像から、瞳孔位置を推定する手法を採用することが可能である。
【0049】
これに代えて、判定部118は、カメラ94によって撮像された眼34の画像に基づき、観察者の眼34の視線方向を前記画像光に対して相対的に推定し、その推定された視線方向に基づき、観察者の眼34が前記画像光を受光する状態(眼34の視線方向が、前記画像光の進行方向に一致する状態)にはないか否かを判定するように設計することが可能である。眼34の画像から視線を推定する手法としては、例えば、特開2007−136000号公報に開示されているように、眼34に赤外線を照射したときに眼34の角膜表面から発生する反射光によって表される像の位置と瞳孔36の位置との間の距離から視線を推定する手法を採用することが可能である。
【0050】
なお、前述の第2条件の成否は、HMD12(特に、画像光生成部)の動作状態を検出する検出部からの信号に基づいて行い、また、前述の第3条件の成否は、観察者がHMD12を使用する状態(例えば、連続使用時間)を検出する部からの信号に基づいて行い、また、前述の第4条件の成否は、HMD12(特に、光源)の動作状態を検出する検出部からの信号に基づいて行うことが可能である。
【0051】
以上説明した判定部118の判定結果に基づき、通常再生部110、録画部112および録画再生部114のそれぞれの作動状態が変化する。
【0052】
図3に示すように、制御ユニット20は、さらに、第1消去部120を備えている。その第1消去部120は、録画再生部110が画像を録画再生用メモリ74から読み出して再生すると、その再生された画像を録画再生用メモリ74から消去する。
【0053】
図4には、再生開始時点t1から再生終了時点t5までの間に、判定部118による、画像光不入射時であるとの判定(以下、単に「不入射判定」という。)が1回のみ行われるという、説明の便宜を優先させた仮想的なシナリオのもとで、通常再生部110、録画部112、録画再生部114、判定部118および第1消去部120のそれぞれの作動状態の時間的変化がタイムチャートで例示されている。
【0054】
図4に示すように、通常再生部110は、再生開始時点t1から、通常再生(本実施形態においては、入力画像をリアルタイムに再生すること)を行う。通常再生部110は、判定部118による、不入射判定の開始時点t2から、通常再生を中止する。録画部112は、不入射判定の開始時点t2(通常再生が中止された時点に等しい)から、画像信号入力回路100から出力された入力画像を録画再生用メモリ74に録画する。録画部112は、不入射判定の終了時点t3の到来後も、画像信号入力回路100から出力された入力画像を録画再生用メモリ74に録画することをシームレスで継続する。録画再生部114は、不入射判定の終了時点t3から、録画再生用メモリ74から、録画された画像を読み出して録画再生を行う。第1消去部120は、録画再生部110が画像を録画再生用メモリ74から読み出して再生すると、直ちに、その再生された画像を録画再生用メモリ74から消去する。
【0055】
したがって、本実施形態によれば、画像光が眼34に入射しない期間(以下、「不入射期間」という。)内にあるために、画像を再生してもその画像が観察者に観察されない期間中に、画像の再生が中止され、さらに、その不入射期間が終了すると、画像が再生されればその画像が観察者に観察される環境において、再生が中止された画像が再生される。再生が中止された画像の再生が終了すると、不入射判定の終了時点t3から録画再生用メモリ74に録画された画像が、先行する画像再生に対してシームレスに再生される。
【0056】
録画再生用メモリ74の記憶容量は、理想的には、無限であるが、現実的には、有限である。そのため、不入射判定の開始時点t2と終了時点t3との間の時間間隔の長さが、録画再生用メモリ74の記憶可能時間T1を超えない限り、録画再生を、入力画像の欠落なしで行うことが可能である。
【0057】
図4に対し、図5には、再生開始時点t1から再生終了時点t7までの間に、不入射判定が2回行われるという、図4より現実性を増した仮想的なシナリオのもとで、通常再生部110、録画部112、録画再生部114、判定部118および第1消去部120のそれぞれの作動状態の時間的変化がタイムチャートで例示されている。
【0058】
図6には、上述の画像再生制御を実行するために制御ユニット20のCPU70によって実行されるプログラムがフローチャートで概念的に表されている。
【0059】
ステップS1において、ユーザが画像表示装置10の電源(図示しない)を投入すると、このプログラムの実行が開始される。このプログラムにおいては、まず、ステップS2において、所定のスタンバイ処理が行われ、次に、ステップS3において、ユーザが操作パネル90を操作することにより、再生要求を入力するのが待たれる。ユーザが再生要求を入力すると、ステップS3の判定がYESとなり、ステップS4において、カメラ94により、観察者の眼34が撮像され、撮像データが生成される。
【0060】
続いて、ステップS5において、その生成された撮像データに基づき、前述のようにして、画像光不入射時であるか否かが判定される。
【0061】
今回は、画像光不入射時ではないと仮定すると、このステップS5の判定がNOとなり、ステップS6において、録画再生用メモリ74に、これから再生すべき画像データすなわち録画データが存在しているか否かが判定される。今回は、そのような録画データが録画再生用メモリ74に存在しないと仮定すると、ステップS7において、通常再生が行われ、入力画像がリアルタイム再生される。その後、ステップS8に進む。
【0062】
このステップS8においては、ユーザからの再生要求が終了したか否か、すなわち、ユーザが再生の終了を要求しているか否かが判定される。今回は、再生要求が終了していないと仮定すると、ステップS9において、再生すべき画像データが存在しない(すなわち、新たな入力画像も、録画再生用メモリ74に録画されている未再生画像データも存在しない)か否かが判定される。今回は、再生すべき画像データが存在すると仮定すれば、ステップS4に戻る。
【0063】
その後、不入射期間に移行すると、このプログラムの実行中、ステップS5の判定がYESとなり、ステップS10において、画像入力中であるか否かが判定される。画像入力中でなければ、ステップS4に戻るが、画像入力中であれば、ステップS11において、画像信号入力回路100から出力された入力画像がリアルタイムに録画再生用メモリ74に録画され、これにより、録画が行われる。続いて、ステップS12において、通常再生であるか録画再生であるかを問わず、画像の再生が中止される。その後、ステップS8に進む。
【0064】
その後、今回の不入射期間が終了すると、このプログラムの実行中、ステップS5の判定がNOとなり、ステップS6において、録画データが録画再生用メモリ74に存在しているか否かが判定されると、今回は、録画データが存在しているため、ステップS6の判定がYESとなる。続いて、ステップS13において、録画再生が行われ、録画された画像が古い方から順に録画再生用メモリ74から読み出されて再生される。その後、ステップS14において、再生された画像データが、録画再生用メモリ74から消去される。ステップS15において、画像信号入力回路100から出力された新しい入力画像が録画再生用メモリ74にリアルタイムに録画される。なお、図6には、フローチャートにより表現することの都合上、このステップS15が、ステップS13の実行後に行われるように表現されているが、このステップS15による録画は、ステップS13による録画再生と実質的に並行的に行われる。その後、ステップS8に進む。
【0065】
前記再生要求が終了したためにステップS8の判定がYESとなるか、または、再生要求が終了していないが再生すべき画像データが存在しないためにステップS9の判定がYESとなると、ステップS16において、画像表示装置10の電源がOFFである(すなわち、ユーザが、画像表示装置10の電源を切断した)か否かが判定される。今回は、電源がOFFではないと仮定すれば、ステップS3に戻るが、今回は、電源がOFFであると仮定すれば、ステップS17において、所定の終了処理が画像表示装置10の各部品に対して行われる。その後、ステップS18において、このプログラムの実行が終了する。
【0066】
以上の説明から明らかなように、本実施形態においては、制御ユニット20のうち、図6に示すステップS4およびS5を実行する部分が、図3に示す判定部118を構成し、制御ユニット20のうち、ステップS6、S7、S10およびS12を実行する部分が、通常再生部110を構成し、制御ユニット20のうち、ステップS6、S15、S10およびS11を構成する部分が、録画部112を構成し、制御ユニット20のうち、ステップS6およびS13を実行する部分が、録画再生部114を構成し、制御ユニット20のうち、ステップS14を実行する部分が、第1消去部118(前記「録画再生用メモリ用消去部」の一例)を構成している。また、画像信号入力回路100が、前記(1)項における「入力部」の一例を構成している。
【0067】
以上、本実施形態においては、再生すべき画像がストリーミングによって連続的に制御ユニット20に入力される環境において、不入射判定の継続中に入力画像のリアルタイム再生が中止され、その間、リアルタイム再生が中止された入力画像が録画され、その不入射判定の終了後、録画された画像が再生されることを説明したが、このような再生処理は、画像のみならず、音声についても行われる。その結果、本実施形態においては、不入射判定の終了後に再開される画像の再生が、音声と同期して行われることになる。
【0068】
次に、本発明の第2実施形態に従う画像表示装置200を説明する。ただし、本実施形態は、第1実施形態と共通する要素が多いため、共通する要素については、同一の符号または名称を付して引用することにより、重複した説明を省略し、異なる要素についてのみ、詳細に説明する。
【0069】
第1実施形態においては、図6に示すように、ステップS4において、眼状態検出部の一例であるカメラ94により、観察者の眼34が撮像され、その後、ステップS5において、その撮像結果に基づき、画像光不入射時であるか否か(例えば、瞳孔36の位置がHMD12の射出瞳の位置に一致しないか否か)が判定される。その判定の確度を確保するため、不入射期間が実際に開始されてから、ステップS5において、画像光不入射時であるとの判定が開始されるまでには、図9にタイムチャートで例示するように、タイムラグがあることを避け得ない。そのため、そのタイムラグの期間中は、不入射期間が実際に開始されても、画像の再生が中止されない。
【0070】
これに対し、本実施形態に従う画像表示装置200においては、図7に示すように、上記タイムラグの通常の時間長さ以上の長さで画像データをリアルタイムにかつ一時的に記憶する遅延メモリ202(後に詳述する)が、図2に示す画像表示装置10に対して追加されている。さらに、本実施形態においては、前記不入射判定の終了時点t3から、まずは、遅延メモリ202から画像データを読み出して第1の録画再生が行われ、その遅延メモリ202が空になると、今度は、録画再生用メモリ74から画像データを読み出して第2録画再生が、第1の録画再生に連続するようにシームレスで行われる。
【0071】
したがって、本実施形態によれば、上記タイムラグの期間中に再生された画像と同じものが、前記不入射判定が終了してから、すなわち、不入射期間が完全に終了してから、再度、再生される。よって、観察者は、上記タイムラグの期間中に再生された画像を正常に観察することができなくても、同じ画像を、不入射期間の終了後に正常に観察することが可能となる。
【0072】
図7には、本実施形態に従う画像表示装置200の構成が、図2に示す画像表示装置10と同様に、機能ブロック図で表されている。画像表示装置200は、上述のように、画像表示装置10に対し、遅延メモリ202を追加的に備え、さらに、一時記憶部212と、第2消去部216とを、それぞれ追加的な部品として備えている。
【0073】
遅延メモリ202は、FIFO式の画像データバッファとして機能するように使用され、記憶可能時間(最大記憶時間)T2だけ連続する最新の画像データを記憶する容量を有している。その結果、この遅延メモリ202は、現時点より、記憶可能時間T2の長さと同じ時間だけ過去の時間帯内に入力された画像データを、逐次更新しつつ、一時記憶する。通常、前記タイムラグの長さは、前記不入射判定の開始時点t2から終了時点t3までの時間の長さより短いため、遅延メモリ202の記憶可能時間T2は、録画再生用メモリ74の記憶可能時間T1より短くて済む。
【0074】
一時記憶部212は、画像信号入力回路100から出力された入力画像をリアルタイムに遅延メモリ202に記憶させる。第2消去部216は、遅延メモリ202から読み出されて再生された画像をリアルタイムに遅延メモリ202から消去する。
【0075】
図8には、画像表示装置200のうちの制御ユニット20の構成が、図3と同様に、機能ブロック図で表されている。画像表示装置200は、録画再生部114に代わる録画再生部220を有している。録画再生部220は、前述の第1および第2の録画再生を行う。
【0076】
図9には、本実施形態に従う画像再生制御が、図4と同じシナリオのもとで行われることを想定した場合の様子がタイムチャートで表されている。
【0077】
図9に示すように、通常再生部110は、図4と同様に、外部から入力された画像をRAM76からリアルタイムで読み出して再生する。これに対し、録画再生部220は、前記不入射判定の終了時点t3から、第1の録画再生を行い、その後、第2の録画再生を行う。録画再生部200は、第1の録画再生においては、遅延メモリ202に一時記憶された画像、すなわち、前記不入射判定の開始時点t2から記憶可能時間T2と同じ時間だけ過去に戻った第1時点から、前記不入射判定の開始時点t2と等しい第2時点までの期間中に遅延メモリ202に一時記憶されたもの(遅延メモリ202に記憶されている画像すべて)を古い方から順に遅延メモリ202から読み出して再生する。一方、録画再生部220は、第2の録画再生においては、録画再生用メモリ74から画像を古い方から順に読み出して再生する。
【0078】
図10には、上述の画像再生制御を実行するために制御ユニット20のCPU70によって実行されるプログラムがフローチャートで概念的に表されている。
【0079】
このプログラムにおいては、ステップS101−S106が、図6に示すステップS1−S6と同様にして実行され、また、ステップS111、S112およびS123−S125が、図6に示すステップS8、S9およびS16−S18と同様にして実行される。
【0080】
図10に示すプログラムにおいては、不入射期間が開始されていないと仮定すると、ステップS105の判定がNOとなり、その後、ステップS106において、録画再生用メモリ74に録画データが存在しているか否かが判定される。
【0081】
今回は、そのような録画データは録画再生用メモリ74に存在しないと仮定すると、ステップS107において、画像信号入力回路100から出力された入力画像がリアルタイムに遅延メモリ202に一時記憶される。続いて、ステップS108において、その一時記憶によって遅延メモリ202から溢れた画像データがある場合には、その画像データが消去される。それらステップS107とS108の共同により、遅延メモリ202に、記憶可能時間T2を超えない時間分の画像データが一時記憶される。その後、ステップS109において、画像信号出力回路100から出力された入力画像がリアルタイムにRAM76から読み出されて通常再生される。
【0082】
その後、不入射期間が開始されると、このプログラムの実行中、ステップS105の判定がYESとなり、ステップS113において、画像入力中であるか否かが判定される。画像入力中でなければ、ステップS104に戻るが、画像入力中であれば、ステップS114において、画像信号出力回路100から出力された入力画像が遅延メモリ202に一時記憶されることが中止される。続いて、ステップS115において、画像信号出力回路100から出力された入力画像が録画再生用メモリ74に録画され、録画される。その後、ステップS116において、通常再生であるか録画再生であるかを問わず、画像の再生が中止される。続いて、ステップS111に進む。
【0083】
その後、今回の不入射期間が終了すると、このプログラムの実行中、ステップS105の判定がNOとなり、今回は、録画データが録画再生用メモリ74に存在するから、ステップS106の判定がYESとなる。続いて、ステップS117において、遅延メモリ202に一時記憶されている画像データすなわち遅延データが遅延メモリ202に存在するか否かが判定される。今回は、遅延データが存在するから、ステップS118において、遅延メモリ202から画像が古い方から順に読み出されて録画再生される。前記第1の録画再生が行われるのである。その後、ステップS119において、再生された画像が遅延メモリ202から消去される。それらステップS118およびS119の実行が反復された結果、遅延メモリ202が空になると、ステップS117の判定がNOとなる。
【0084】
遅延メモリ202が空になると、ステップS120において、録画再生用メモリ74から画像が古い方から順に読み出されて録画再生される。前記第2の録画再生が行われるのである。その後、ステップS121において、再生された画像が録画再生用メモリ7から消去される。ステップS122において、画像信号入力回路100から出力された新しい入力画像がリアルタイムに録画再生用メモリ74に録画される。なお、図10には、フローチャートにより表現することの都合上、このステップS122が、ステップS120の実行後に行われるように表現されているが、このステップS122による録画は、ステップS120による録画再生と実質的に並行的に行われる。その後、ステップS111に進む。
【0085】
以上の説明から明らかなように、本実施形態においては、制御ユニット20のうち、図10に示すステップS104およびS105を実行する部分が、図8に示す判定部118を構成し、制御ユニット20のうち、ステップS106、S109、S117、S120、S113およびS116を実行する部分が、通常再生部110を構成し、制御ユニット20のうち、ステップS117、S122、S113およびS115を実行する部分が、録画部112を構成し、制御ユニット20のうち、ステップS106およびS117−S120を構成する部分が、録画再生部220を構成し、制御ユニット20のうち、ステップS122を実行する部分が、第1消去部118(前記「録画再生用メモリ用消去部」の一例)を構成し、制御ユニット20のうち、ステップS108およびS119を実行する部分が、第2消去部216(前記「遅延メモリ用消去部」の一例)を構成し、制御ユニット20のうち、ステップS106、S107、S113およびS114を実行する部分が、一時記憶部212を構成している。
【0086】
なお付言するに、本実施形態においては、遅延メモリ202と、ソフトウエアで構成された第2消去部216(図10に示すステップS108)との共同により、現時点から過去一定時間内に外部から受信された画像データを絶えず更新しつつ一時的に記憶する画像データバッファが構成されているが、この画像データバッファは、これに限らず、例えば、ハードウエアによって構成されたシフトレジスタとして構成することが可能である。この場合には、制御ユニット20のハードウエア構成を複雑にすることなく、ソフトウエア構成を単純化することが容易である。
【0087】
次に、本発明の第3実施形態に従う画像表示装置200を説明する。ただし、本実施形態は、第2実施形態と共通する要素が多いため、共通する要素については、同一の符号または名称を付して引用することにより、重複した説明を省略し、異なる要素についてのみ、詳細に説明する。
【0088】
第2実施形態においては、図9にタイムチャートで示すように、再生開始時点t1から、入力画像がリアルタイムにRAM76から読み出されて再生される。これに対し、本実施形態においては、図9と同様にして図11にタイムチャートで示すように、再生開始時点t1から、遅延メモリ202が画像データで満杯になる時点t1’まで、画像の再生開始が遅延される。時点t1’が到来すると、遅延メモリ202から画像データが古い方から順に読み出されて再生され、それにより、リアルタイム再生ではなく、画像が入力されるタイミングより遅いタイミングで入力画像を再生する遅延再生が行われる。
【0089】
図12には、本実施形態に従う画像表示装置200において、画像再生制御のために、制御ユニット20のCPU70によって実行されるプログラムが、図10と同様にして、フローチャートで概念的に表されている。以下、このプログラムを説明するが、図10に示すプログラムとは異なるステップのみにつき、詳細に説明し、共通のステップについては、重複した説明を省略する。
【0090】
ステップS106の判定がNOとなると、ステップS207において、画像信号入力回路100から出力された入力画像がリアルタイムに遅延メモリ202に一時記憶される。続いて、ステップS208において、再生開始時点t1から、遅延メモリ202の記憶可能時間T2と同じ時間が経過するのが待たれる。遅延メモリ202が画像データで満杯になるのが待たれるのである。時間T2が経過し、遅延メモリ202が画像データで満杯になると、ステップS209において、遅延メモリ202から最も古い画像データが読み出されて再生される。ある画像データが遅延メモリ202に記憶された時点から時間T2だだけ遅延するタイミングで、その画像データが再生され、それにより、遅延再生が行われるのである。その後、ステップS210において、今回再生された画像データが遅延メモリ202から消去される。続いて、ステップS111に進む。
【0091】
以上の説明から明らかなように、本実施形態においては、制御ユニット20のうち、ステップS106、S208、S209、S117、S120、S113およびS116を実行する部分が、通常再生部110を構成し、制御ユニット20のうち、ステップS210およびS119を実行する部分が、第2消去部216(前記「遅延メモリ用消去部」の一例)を構成し、制御ユニット20のうち、ステップS106、S207、S113およびS114を実行する部分が、一時記憶部212を構成している。
【0092】
以上、本発明の実施形態のうちのいくつかを図面に基づいて詳細に説明したが、これらは例示であり、前記[発明の概要]の欄に記載の態様を始めとして、当業者の知識に基づいて種々の変形、改良を施した他の形態で本発明を実施することが可能である。
【特許請求の範囲】
【請求項1】
画像信号に応じた画像を虚像である表示画像として観察者に表示するヘッドマウントディスプレイ(HMD)を有する画像表示装置であって、
前記画像信号が入力される入力部と、
その入力部から出力された画像信号により表される入力画像を再生する通常再生によって前記表示画像を形成する通常再生部と、
録画再生用メモリと、
その録画再生用メモリに前記入力画像を録画する録画部と、
前記録画再生用メモリから前記入力画像を読み出して再生する録画再生によって前記表示画像を形成する録画再生部と、
前記表示画像を表す画像光が観察者の眼に入射しない画像光不入射時であるか否かを判定する判定部と
を含み、
前記通常再生部は、少なくとも、前記画像光不入射時であるとの判定の開始時点から終了時点までの期間、前記通常再生を中止し、
前記録画部は、少なくとも、前記画像光不入射時であるとの判定の開始時点から、前記入力部から出力された入力画像を前記録画再生用メモリに録画し、
前記録画再生部は、前記画像光不入射時であるとの判定の終了時点から、前記録画再生用メモリに録画された前記入力画像を古い方から順に読み出して前記録画再生を行う画像表示装置。
【請求項2】
さらに、
前記録画再生用メモリに画像を記憶することが可能な記憶可能時間T1より短い記憶可能時間T2を有する遅延メモリと、
前記入力部から出力された前記入力画像を前記遅延メモリにリアルタイムに記憶させる一時記憶部と、
前記遅延メモリから読み出されて再生された画像を前記遅延メモリから消去する遅延メモリ用消去部と
を含み、
それにより、前記遅延メモリには、現時点から前記記憶可能時間T2と同じ長さだけ過去に戻った時点から現時点までに前記入力部から出力された前記入力画像が記憶され、
前記録画再生部は、前記移動が存在するとの判定の終了時点から、前記遅延メモリから画像を古い方から順に読み出して第1の録画再生を行い、その遅延メモリが空になった後に、前記録画再生メモリから画像を古い方から順に読み出して第2の録画再生を、前記第1の録画再生と連続するように行う請求項1に記載の画像表示装置。
【請求項3】
前記通常再生部は、前記遅延メモリから前記入力画像を、前記遅延再生用メモリへの記憶時点から、前記記憶可能時間T2と同じ時間だけ遅延するタイミングで読み出して再生する遅延再生を行う請求項2に記載の画像表示装置。
【請求項4】
さらに、前記録画再生部によって画像が再生されると、その再生された画像を古い方から順に前記録画再生用メモリから消去する録画再生用メモリ用消去部を含む請求項1ないし3のいずれかに記載の画像表示装置。
【請求項5】
前記判定部は、
前記HMDは前記画像光を正常に出射しているが観察者の眼が前記画像光を受光する状態にはないという第1条件と、
前記HMDが、それ自体は正常であるが、前記画像光を出射することができないという第2条件と、
前記HMDが、それ自体は正常であるが、前記画像光を受光することが観察者にとって不適切であるために前記HMDが前記画像光の出射を停止するという第3条件と、
前記HMDが、それ自体が異常であるために、前記画像光を出射することができないという第4条件と
のうちの少なくとも一つが成立すると、前記画像光不入射時であると判定する請求項1ないし4のいずれかに記載の画像表示装置。
【請求項6】
さらに、観察者の眼を撮像するカメラを含み、
前記判定部は、そのカメラによって撮像された画像に基づき、観察者の視線方向を推定し、その推定された視線方向に基づき、観察者の眼が前記画像光を受光する状態にあるか否かを判定する請求項1ないし5のいずれかに記載の画像表示装置。
【請求項7】
さらに、観察者の眼を撮像するカメラを含み、
前記判定部は、そのカメラによって撮像された画像に基づき、観察者の瞳孔位置を推定し、その推定された瞳孔位置に基づき、観察者の眼が前記画像光を受光する状態にあるか否かを判定する請求項1ないし5のいずれかに記載の画像表示装置。
【請求項1】
画像信号に応じた画像を虚像である表示画像として観察者に表示するヘッドマウントディスプレイ(HMD)を有する画像表示装置であって、
前記画像信号が入力される入力部と、
その入力部から出力された画像信号により表される入力画像を再生する通常再生によって前記表示画像を形成する通常再生部と、
録画再生用メモリと、
その録画再生用メモリに前記入力画像を録画する録画部と、
前記録画再生用メモリから前記入力画像を読み出して再生する録画再生によって前記表示画像を形成する録画再生部と、
前記表示画像を表す画像光が観察者の眼に入射しない画像光不入射時であるか否かを判定する判定部と
を含み、
前記通常再生部は、少なくとも、前記画像光不入射時であるとの判定の開始時点から終了時点までの期間、前記通常再生を中止し、
前記録画部は、少なくとも、前記画像光不入射時であるとの判定の開始時点から、前記入力部から出力された入力画像を前記録画再生用メモリに録画し、
前記録画再生部は、前記画像光不入射時であるとの判定の終了時点から、前記録画再生用メモリに録画された前記入力画像を古い方から順に読み出して前記録画再生を行う画像表示装置。
【請求項2】
さらに、
前記録画再生用メモリに画像を記憶することが可能な記憶可能時間T1より短い記憶可能時間T2を有する遅延メモリと、
前記入力部から出力された前記入力画像を前記遅延メモリにリアルタイムに記憶させる一時記憶部と、
前記遅延メモリから読み出されて再生された画像を前記遅延メモリから消去する遅延メモリ用消去部と
を含み、
それにより、前記遅延メモリには、現時点から前記記憶可能時間T2と同じ長さだけ過去に戻った時点から現時点までに前記入力部から出力された前記入力画像が記憶され、
前記録画再生部は、前記移動が存在するとの判定の終了時点から、前記遅延メモリから画像を古い方から順に読み出して第1の録画再生を行い、その遅延メモリが空になった後に、前記録画再生メモリから画像を古い方から順に読み出して第2の録画再生を、前記第1の録画再生と連続するように行う請求項1に記載の画像表示装置。
【請求項3】
前記通常再生部は、前記遅延メモリから前記入力画像を、前記遅延再生用メモリへの記憶時点から、前記記憶可能時間T2と同じ時間だけ遅延するタイミングで読み出して再生する遅延再生を行う請求項2に記載の画像表示装置。
【請求項4】
さらに、前記録画再生部によって画像が再生されると、その再生された画像を古い方から順に前記録画再生用メモリから消去する録画再生用メモリ用消去部を含む請求項1ないし3のいずれかに記載の画像表示装置。
【請求項5】
前記判定部は、
前記HMDは前記画像光を正常に出射しているが観察者の眼が前記画像光を受光する状態にはないという第1条件と、
前記HMDが、それ自体は正常であるが、前記画像光を出射することができないという第2条件と、
前記HMDが、それ自体は正常であるが、前記画像光を受光することが観察者にとって不適切であるために前記HMDが前記画像光の出射を停止するという第3条件と、
前記HMDが、それ自体が異常であるために、前記画像光を出射することができないという第4条件と
のうちの少なくとも一つが成立すると、前記画像光不入射時であると判定する請求項1ないし4のいずれかに記載の画像表示装置。
【請求項6】
さらに、観察者の眼を撮像するカメラを含み、
前記判定部は、そのカメラによって撮像された画像に基づき、観察者の視線方向を推定し、その推定された視線方向に基づき、観察者の眼が前記画像光を受光する状態にあるか否かを判定する請求項1ないし5のいずれかに記載の画像表示装置。
【請求項7】
さらに、観察者の眼を撮像するカメラを含み、
前記判定部は、そのカメラによって撮像された画像に基づき、観察者の瞳孔位置を推定し、その推定された瞳孔位置に基づき、観察者の眼が前記画像光を受光する状態にあるか否かを判定する請求項1ないし5のいずれかに記載の画像表示装置。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【公開番号】特開2012−222630(P2012−222630A)
【公開日】平成24年11月12日(2012.11.12)
【国際特許分類】
【出願番号】特願2011−86795(P2011−86795)
【出願日】平成23年4月8日(2011.4.8)
【出願人】(000005267)ブラザー工業株式会社 (13,856)
【Fターム(参考)】
【公開日】平成24年11月12日(2012.11.12)
【国際特許分類】
【出願日】平成23年4月8日(2011.4.8)
【出願人】(000005267)ブラザー工業株式会社 (13,856)
【Fターム(参考)】
[ Back to top ]