表示制御装置及び情報表示装置
【課題】複雑な処理を必要とせずにユーザによる意識的な動作及び無意識の動作のいずれをも確実に検出してシームレスな制御を行う。
【解決手段】情報表示装置20は、現実空間の画像を撮像する撮像部22と、撮像された画像を表示する表示部26と、表示部26を視認している人間の眉間の状態を検出する検出部21と、現実空間の位置情報を取得する位置情報取得部23とを備える。付加情報処理部24は、取得された位置情報に基づいて、位置情報に関連付けられた付加情報を取得する処理及び位置情報に関連付けて付加情報を生成する処理の少なくとも1つを行うと共に、検出部21によって検出された眉間の状態に基づいて、処理された付加情報の撮像された画像への重畳表示状態を制御する。
【解決手段】情報表示装置20は、現実空間の画像を撮像する撮像部22と、撮像された画像を表示する表示部26と、表示部26を視認している人間の眉間の状態を検出する検出部21と、現実空間の位置情報を取得する位置情報取得部23とを備える。付加情報処理部24は、取得された位置情報に基づいて、位置情報に関連付けられた付加情報を取得する処理及び位置情報に関連付けて付加情報を生成する処理の少なくとも1つを行うと共に、検出部21によって検出された眉間の状態に基づいて、処理された付加情報の撮像された画像への重畳表示状態を制御する。
【発明の詳細な説明】
【技術分野】
【0001】
この発明は、情報及び付加情報の表示状態を制御する表示制御装置及び情報表示装置に関し、特に情報を視認している人が意識的又は無意識に付加情報の表示状態を制御することが可能な表示制御装置及び情報表示装置に関する。ここで、情報とは情報表示装置等に通常表示されている情報及び視認する人間の眼前の物などの情報も包含し、付加情報とは本発明において、本発明に記載の手段等を用いて付加的に表示、または変化させられる情報のことである。
【背景技術】
【0002】
近年、現実の環境に付加情報を重畳表示する拡張現実感(Augmented Reality:AR)を表示する技術は、様々な形で提案されている。拡張現実感は、現実世界の視覚情報の上にさらに仮想世界の情報を付加情報として重畳表示する。よってこれらの視覚情報が混在する世界での情報量は、必然的に多くなる。付加情報量が増加しすぎると、現実世界の視覚情報の認識の妨げになってしまう。付加情報量を制御する何らかの装置が必要である。
【0003】
一般的な外部機器を制御する入力装置としては、例えば人間の下顎の動きに伴う表皮の変動を検出する少なくとも1つのセンサと、表皮の変動に基づいて制御信号を生成する信号生成部とを備え、表皮の変動としてこめかみの表皮の変動を非接触に検出し、これにより制御信号を生成して外部機器に出力するものが知られている(特許文献1)。
【先行技術文献】
【特許文献】
【0004】
【特許文献1】特開2008−304451号公報
【発明の概要】
【発明が解決しようとする課題】
【0005】
しかしながら、上述した特許文献1に開示された入力装置では、こめかみの表皮の変動を検出するため、ユーザによる意識的な動作に基づく制御のみを対象としており、より自然な無意識の動作を含めたシームレスな制御を行うことができないという問題がある。
【0006】
この発明は、上述した従来技術による問題点を解消するため、複雑な処理を必要とせずにユーザによる意識的な動作及び無意識の動作のいずれをも確実に検出してシームレスな制御を行うことができる表示制御装置及び情報表示装置を提供することを目的とする。
【課題を解決するための手段】
【0007】
本発明の一態様に係る表示制御装置は、情報を視認している人間の眉間の状態を検出する検出手段と、前記検出手段によって検出された眉間の状態に応じて前記情報及び前記情報に付加される付加情報の少なくとも一方の表示状態を制御する制御手段とを備えたことを特徴とする。
【0008】
前記検出手段は、例えば前記人間に装着されたメガネ型装置に取り付けられた光学式センサである。前記メガネ型装置は、例えばヘッド・マウント・ディスプレイ(HMD)である。
【0009】
本発明の一態様に係る情報表示装置は、情報を表示する表示手段と、前記情報を視認している人間の眉間の状態を検出する検出手段と、前記検出手段によって検出された眉間の状態に応じて前記情報及び前記情報に付加される付加情報の少なくとも一方の表示状態を制御する制御手段とを備えたことを特徴とする。
【0010】
前記制御手段は、例えば前記情報へ付加される付加情報の表示を制御するものでも良いし、前記情報及び前記付加情報の少なくとも一方の表示状態の拡大・縮小を制御するものでも良いし、前記情報及び前記付加情報の少なくとも一方の表示状態の再生速度を制御するものでも良い。
【0011】
本発明の他の態様に係る情報表示装置は、現実空間の画像上に当該画像に付加される付加情報を認識可能な状態で出力してなる拡張現実感を表示する情報表示装置であって、前記現実空間の画像を撮像する撮像手段と、前記撮像された画像を表示する表示手段と、人間の眉間の状態を検出する検出手段と、前記現実空間の位置情報を取得する位置情報取得手段と、前記取得された位置情報に基づいて、前記位置情報に関連付けられた付加情報を取得する処理及び前記位置情報に関連付けて付加情報を生成する処理の少なくとも1つを行うと共に、前記検出手段によって検出された眉間の状態に基づいて、前記処理された付加情報の前記撮像された画像への重畳表示状態を制御する付加情報処理手段とを備えたことを特徴とする。
【発明の効果】
【0012】
本発明によれば、複雑な処理を必要とせずにユーザによる意識的な動作及び無意識の動作のいずれをも確実に検出してシームレスな制御を行うことができる。
【図面の簡単な説明】
【0013】
【図1】本発明の第1の実施形態に係る表示制御装置の全体構成を示すブロック図である。
【図2】同表示制御装置における検出部の装着例を示す図である。
【図3】人間の眉間中心部からの距離と出力値の幅との関係を示す図である。
【図4】本発明の第2の実施形態に係る情報表示装置の全体構成を示すブロック図である。
【図5】同情報表示装置の外観例を示す正面図である。
【図6】同情報表示装置の動作例を説明するための図である。
【図7】同情報表示装置の重畳表示の動作例を説明するための図である。
【図8】同情報表示装置の重畳表示の動作例を説明するための図である。
【図9】本発明の第3の実施形態に係る情報表示装置の外観図である。
【図10】本発明の第4の実施形態に係るキャリブレーション処理を示すフローチャートである。
【発明を実施するための形態】
【0014】
以下に、添付の図面を参照して、この発明に係る表示制御装置及び情報表示装置の実施の形態を詳細に説明する。
【0015】
[第1の実施形態]
図1は、本発明の第1の実施形態に係る表示制御装置10全体の構成を示す図である。
図1に示すように、表示制御装置10は、表示装置18の表示状態を制御する制御信号を表示装置18に対して出力するものであり、表示装置18を視認する人間の眉間の状態を検出する検出部11と、この検出部11からの検出結果に基づき表示装置18の表示状態を制御するための制御信号を生成する制御部15とを備えて構成されている。
【0016】
検出部11は、例えば光センサ(フォトリフレクタ等)からなり、人間の表皮に光を照射する赤外線LED等の光照射部12と、表皮にて反射した反射光を受光して受光信号を検出信号として出力するフォトトランジスタ等の受光部13とを備えて構成されている。
【0017】
制御部15は、検出部11からのアナログの検出信号をディジタル信号に変換するA/D変換器16と、このA/D変換器16にて変換されたディジタル信号に基づき表示装置18の表示状態を制御する制御信号を生成する処理部17とを備えて構成されている。
【0018】
このように構成された表示制御装置10において、検出部11は、図2に示すように、例えば人間の顔Kにかけられた眼鏡Qに取り付け可能な取付治具11aを介して、人間の眉間Mにおける所定位置に、人間の眉間Mの状態(例えば眉間の動きに基づく表皮の状態及びその変動のいずれか1つ)を検出可能に取り付けられている。
【0019】
具体的には、検出部11は、図3に示すように、人間の眉頭MG同士を直線状に結んだ眉間Mの表皮の状態及び変動のいずれか1つを非接触に検出するように、取付治具11aを介して配置されていることが望ましい。本出願人による実験によれば、検出部11を配置する箇所としては、眉頭MG同士を直線状に結んだ線分Sの中点Pから各眉頭側へL=14mm〜18mm離れた位置を含む領域Rを検出することができる位置が最も好ましいことが判明した。したがって、検出部11は領域Rを非接触に検出するのが好ましい。
【0020】
このことは、人間の眉間Mにおける表皮の動きの特性が大きく関係していると考えられる。すなわち、眉間Mを寄せる動作を行うと眉間中心部の表皮が隆起して、眉頭MG辺りにしわが寄る。この時、隆起した眉間中心部よりも眉頭MG脇の表皮の動きの方が、変化が激しくなるので、受光部13にて検出される、光照射部12から照射された光が表皮にて反射した反射光の光量の変化も増大する。これにより、出力値の幅が最大となる箇所は、眉間中心部から距離L離れた箇所であると言える。
【0021】
眉間の動きを好適に検出するには、光検出部11として、フォトリフレクタ(ローム社製RPR−220)を用いて、表皮に赤外光を照射し、皮膚表面の変化による光の反射量の変化を赤外線センサにより非接触で検知するとよい。この場合、フォトリフレクタの出力はGainer(http://gainer.cc/)を用いて256段階の数値として計測し、プログラミング言語にJitter(登録商標)を用い、情報付加処理を行うと効率的である。
【0022】
なお、出力値の幅は次のように算出する。まず、本発明における表示制御装置を装着した状態で、眉間を寄せない、限界まで寄せる、寄せないという一連の運動を1セットとし、合計3セット計測を行い、得られた3セットのデータから、各セットの最大値と最小値を求める。次に得られた3つの最大値と3つの最小値から、最も小さい最大値と最も大きい最小値をそれぞれ出力値の最大値と最小値として、その差から出力値の幅を求める。
【0023】
また、被験者により個人差はあるが、検出部11の出力値の幅が最大になる箇所において、最低で26段階、最高で89段階の出力値の検出が可能であることが判明した。従って、この出力値の段階に応じて制御部15にて制御信号を生成すれば、表示装置18の動作等を複数段階にわたってシームレスに制御することが可能となる。
【0024】
本実施形態に係る表示制御装置10によれば、次のような効果を奏する。
すなわち、眉間Mの動きは、意識的に眉間Mを寄せたり寄せなかったりすることができるのはもちろんのこと、人間が何かを凝視しようとする際には無意識に眉間Mを寄せる動作をすることが認められている。このため、この表示制御装置10を用いれば、表示装置18を視認している人の意識的な動作及び無意識の動作のいずれをも確実に検出して表示装置18の表示状態を制御することが可能となる。表示制御としては、例えば表示装置18に表示された画像の拡大・縮小、映像の再生速度の変更、レイヤ構造のコンテンツの表示制御(眉間を寄せると問題の解答が見える等)、テレビの表示情報量やコンテンツの切り替え、チャンネルの切り替え等が考えられる。
【0025】
[第2の実施形態]
図4は、本発明の第2の実施形態に係る情報表示装置20の構成を示すブロック図、図5は同装置20の外観例を示す正面図である。
この第2の実施形態に係る情報表示装置20は、拡張現実感(AR)の情報量を制御するものである。
【0026】
情報表示装置20は、第1の実施形態に係る検出部11と同様の機能を有する検出部21と、現実空間の画像を撮像する撮像部22とを備える。また、情報表示装置20は、現実空間での位置及び方向を示す位置情報を取得する位置情報取得部23と、位置情報取得部23によって取得された位置情報に基づいて付加情報の処理を行う付加情報処理部24とを備える。
【0027】
更に、情報表示装置20は、撮像部22で撮像された現実空間の画像を表示すると共に、付加情報処理部24によって生成された付加情報を上記現実空間の画像に重畳表示して拡張現実感を付与する表示部26を備えている。
【0028】
この実施形態では、図5に示すように、携帯端末型の情報表示装置20に本発明が適用されている。検出部21は、先の実施形態とは異なり、情報表示装置20の正面(表示画面26a側)の上方中央部に設けられたCCDカメラ等の撮像手段と、内部の図示しない画像認識処理部とにより構成されている。画像認識処理部は、撮像手段の画像情報を認識処理して眉間の所定領域の画像情報を把握し、この画像情報の状態を検出してその検出値を出力する。
【0029】
撮像部22は、例えばCCDやC−MOS等のカメラ装置からなり、図5に示すように、情報表示装置20の表示画面26aとは反対側に設けられており、情報表示装置20を利用するユーザが撮像部22を向けた方向の現実空間の画像を撮像する。
【0030】
位置情報取得部23は、例えばGPSモジュールや電子コンパス等のデバイスからなり、現在の現実空間上の位置及び向きを位置情報として取得する。付加情報処理部24は、取得された位置情報に関連付けられた付加情報を、例えばインターネット網28を介して接続された付加情報提供サーバ29から取得したり、取得された位置情報に関連付けて付加情報を生成したりする処理を行う。また、付加情報処理部24は、検出部21の検出結果に基づいて、処理された付加情報の表示部26における出力態様を制御する。表示部26は、ディスプレイ装置等からなり、撮像された画像及び処理された付加情報からなる拡張現実感を表示画面26a上に表示する。
【0031】
なお、付加情報は、撮像された画像上に存在する視認可能な対象物に関連して付加される文字情報、画像情報及び音声情報の少なくとも1つからなる。そして、付加情報処理部24は、付加情報が文字情報及び画像情報の少なくとも1つからなる場合に、付加情報の拡張現実感上での重畳表示における透明度及び表示量の少なくとも1つを、検出部21からの制御信号に応じて段階的に制御する。
【0032】
このように構成された情報表示装置20は、例えば次のように動作する。
ユーザが付加情報を見たい対象物、例えばお店や会社等に撮像部22を向ける。図6(a)に示すように、ユーザが眉間Mを寄せない通常の状態の時には、検出部21がこれを検出するので、付加情報処理部24は、図6(b)に示すように、表示画面26a上に撮像部22によって撮像された現実空間の画像のみを表示させる。
【0033】
この状態で、図6(c)に示すように、ユーザが表示画面26aを凝視する等して無意識に、又は意識的に眉間にしわを寄せると、検出部21がこれを検出するので、付加情報処理部24は、図6(d)に示すように、表示画面26a上に表示される現実空間の画像に、画像中に存在する視認可能な対象物30に関連する付加情報31、32、33、34を重畳表示させる。本例においては、付加情報31、34は文字情報であり、付加情報32は画像情報である。また、付加情報33は音声情報であり、この場合の出力態様としては、表示出力の他に音声出力されることが考えられる。
【0034】
以上の付加情報31〜34の表示は、眉間のしわの寄せ具合によって段階的に表示量を制御することもできる。また、逆に、通常状態では最大の付加情報が表示され、表示画面26aを凝視して眉間にしわが寄った時には、しわの程度に応じて徐々に付加情報を削除するように制御することもできる。一般に、表示画面26aを凝視する場合には、現実空間の画像の一部を注視することもあり、そのような場合には、付加情報の表示が却って邪魔になるためである。
【0035】
なお、検出部21によって検出される出力値の段階に応じて、付加情報処理部24は、例えば付加情報の表示の透明度を制御するようにしても良い。具体的なものとして、文字情報である付加情報31を例に挙げて説明する。図7(a)に示すように、眉間Mがあまり寄っていない状態の時は、透明度が高い付加情報31aを重畳表示させ、図7(b)に示すように、眉間Mが寄っている状態の時は、透明度が低い付加情報31bを重畳表示させる。
【0036】
また、図8(a)に示すように、検出される出力値が小さい時は、重畳表示される付加情報31cの量が少なく、図8(b)に示すように、検出される出力値が大きい時は、重畳表示される付加情報31dの量が多くなるように制御することもできる。
【0037】
なお、人間は意識的に注視した時のみならず、無意識に凝視した時にも眉間Mが寄る動作をすることが確認されている。従って、このように拡張現実感を表示するようにすれば、対象物30を意識的に凝視した時のみならず、無意識に対象物30に注目した時でも、出力値に応じて段階的に付加情報31〜34を詳細に表示したり、視認し易く表示したりすることができ、付加情報の表示/非表示、或いは表示状態の変化をシームレスないわゆるフェーダー操作により実現することができる。
【0038】
なお、付加情報32のように画像情報である場合は、例えば重畳表示される画像の領域が検出部21の出力値に応じて変化するように制御されたり、付加情報33のように音声情報である場合は、例えば音声出力される音量が検出部21の出力値に応じて変化するように制御されたりすることが考えられ、その他にも付加情報の拡大・縮小や色調の変化、或いはコンテンツの表示切替など、種々の出力態様を制御することが可能である。
【0039】
[第3の実施形態]
図9は、本発明の第3の実施形態に係る情報表示装置を示す外観図である。
上述した第2の実施形態に係る情報表示装置20は、携帯端末型であったが、第3の実施形態に係る情報表示装置は、ヘッド・マウント・ディスプレイ(HMD)型の表示装置である。ブロック構成は、図4で示した構成と同様である。
【0040】
本実施形態では、情報表示装置HMDがメガネ型であり、目と対向する部分が表示画面26aとなっている。撮像部22は、情報表示装置HMDの(メガネ型部分の)中心上部に取り付けられ、その横に検出部21が配置されている。検出部21は、第1及び第2の実施形態のいずれの構成としても良い。
【0041】
このように構成された情報表示装置HMDは、医療行為(例えば、手術など)の施術システムにおける付加情報(手術部位や注意書き等)の表示に適用したりすることができる。具体的には、施術システムに適用する場合は、医師が情報表示装置HMDを装着し、施術箇所を撮像部22で撮像しながら表示画面26a上に表示される拡張現実感を医師が確認しつつ施術を行うことが考えられる。この場合に、例えば施術に必要な付加情報等を複雑な処理を必要とせずに意識的な動作及び無意識の動作のいずれによってもシームレスな拡張現実感として表示することが可能となる。
【0042】
[第4の実施形態]
図10は、検出部11、21のキャリブレーション処理を示すフローチャートである。
眉間の状態は、人によって個人差があるので、予めキャリブレーション処理をしておくことが望ましい。この処理は、図1の処理部17又は図4の付加情報処理部24が行う。
まず、眉間を限界まで寄せた状態で、一定時間だけ検出部11、21の出力をサンプリングする(S100)。次に、通常の眉間の状態で、同様に、一定時間だけ検出部11、21の出力をサンプリングする(S102)。眉間を寄せた状態と通常の状態でそれぞれサンプリングされた検出出力値の差の中で最も小さいものを処理部17及び付加情報処理部24での検出値の幅に設定する(S104)。そして、求められた検出値の幅から1又は複数のしきい値を算出し、設定する(S106)。これにより、個人差無く、精度のよい検出が可能になる。
【産業上の利用可能性】
【0043】
以上に述べた用途の他、本発明は、液晶シャッター式眼鏡を使用する三次元テレビなどにも適用できる。この場合、例えばテロップや時計など、レイヤ情報として送信されるものの表示情報の量のコントロールやコンテンツの切り替えを検出部で行うことができる。また、三次元テレビでは、表示装置と液晶シャッター式眼鏡との間で同期通信を行うので、眉間から検出された情報のログを取って視覚情報に対する一定の感情の検出を行うなどの二次的利用が可能である。
【符号の説明】
【0044】
11 検出部
12 光照射部
13 受光部
15 制御部
16 A/D変換器
17 処理部
18 表示装置
20 情報表示装置
21 検出部
22 撮像部
23 位置情報取得部
24 付加情報処理部
25 A/D変換器
26 表示部
30 対象物
【技術分野】
【0001】
この発明は、情報及び付加情報の表示状態を制御する表示制御装置及び情報表示装置に関し、特に情報を視認している人が意識的又は無意識に付加情報の表示状態を制御することが可能な表示制御装置及び情報表示装置に関する。ここで、情報とは情報表示装置等に通常表示されている情報及び視認する人間の眼前の物などの情報も包含し、付加情報とは本発明において、本発明に記載の手段等を用いて付加的に表示、または変化させられる情報のことである。
【背景技術】
【0002】
近年、現実の環境に付加情報を重畳表示する拡張現実感(Augmented Reality:AR)を表示する技術は、様々な形で提案されている。拡張現実感は、現実世界の視覚情報の上にさらに仮想世界の情報を付加情報として重畳表示する。よってこれらの視覚情報が混在する世界での情報量は、必然的に多くなる。付加情報量が増加しすぎると、現実世界の視覚情報の認識の妨げになってしまう。付加情報量を制御する何らかの装置が必要である。
【0003】
一般的な外部機器を制御する入力装置としては、例えば人間の下顎の動きに伴う表皮の変動を検出する少なくとも1つのセンサと、表皮の変動に基づいて制御信号を生成する信号生成部とを備え、表皮の変動としてこめかみの表皮の変動を非接触に検出し、これにより制御信号を生成して外部機器に出力するものが知られている(特許文献1)。
【先行技術文献】
【特許文献】
【0004】
【特許文献1】特開2008−304451号公報
【発明の概要】
【発明が解決しようとする課題】
【0005】
しかしながら、上述した特許文献1に開示された入力装置では、こめかみの表皮の変動を検出するため、ユーザによる意識的な動作に基づく制御のみを対象としており、より自然な無意識の動作を含めたシームレスな制御を行うことができないという問題がある。
【0006】
この発明は、上述した従来技術による問題点を解消するため、複雑な処理を必要とせずにユーザによる意識的な動作及び無意識の動作のいずれをも確実に検出してシームレスな制御を行うことができる表示制御装置及び情報表示装置を提供することを目的とする。
【課題を解決するための手段】
【0007】
本発明の一態様に係る表示制御装置は、情報を視認している人間の眉間の状態を検出する検出手段と、前記検出手段によって検出された眉間の状態に応じて前記情報及び前記情報に付加される付加情報の少なくとも一方の表示状態を制御する制御手段とを備えたことを特徴とする。
【0008】
前記検出手段は、例えば前記人間に装着されたメガネ型装置に取り付けられた光学式センサである。前記メガネ型装置は、例えばヘッド・マウント・ディスプレイ(HMD)である。
【0009】
本発明の一態様に係る情報表示装置は、情報を表示する表示手段と、前記情報を視認している人間の眉間の状態を検出する検出手段と、前記検出手段によって検出された眉間の状態に応じて前記情報及び前記情報に付加される付加情報の少なくとも一方の表示状態を制御する制御手段とを備えたことを特徴とする。
【0010】
前記制御手段は、例えば前記情報へ付加される付加情報の表示を制御するものでも良いし、前記情報及び前記付加情報の少なくとも一方の表示状態の拡大・縮小を制御するものでも良いし、前記情報及び前記付加情報の少なくとも一方の表示状態の再生速度を制御するものでも良い。
【0011】
本発明の他の態様に係る情報表示装置は、現実空間の画像上に当該画像に付加される付加情報を認識可能な状態で出力してなる拡張現実感を表示する情報表示装置であって、前記現実空間の画像を撮像する撮像手段と、前記撮像された画像を表示する表示手段と、人間の眉間の状態を検出する検出手段と、前記現実空間の位置情報を取得する位置情報取得手段と、前記取得された位置情報に基づいて、前記位置情報に関連付けられた付加情報を取得する処理及び前記位置情報に関連付けて付加情報を生成する処理の少なくとも1つを行うと共に、前記検出手段によって検出された眉間の状態に基づいて、前記処理された付加情報の前記撮像された画像への重畳表示状態を制御する付加情報処理手段とを備えたことを特徴とする。
【発明の効果】
【0012】
本発明によれば、複雑な処理を必要とせずにユーザによる意識的な動作及び無意識の動作のいずれをも確実に検出してシームレスな制御を行うことができる。
【図面の簡単な説明】
【0013】
【図1】本発明の第1の実施形態に係る表示制御装置の全体構成を示すブロック図である。
【図2】同表示制御装置における検出部の装着例を示す図である。
【図3】人間の眉間中心部からの距離と出力値の幅との関係を示す図である。
【図4】本発明の第2の実施形態に係る情報表示装置の全体構成を示すブロック図である。
【図5】同情報表示装置の外観例を示す正面図である。
【図6】同情報表示装置の動作例を説明するための図である。
【図7】同情報表示装置の重畳表示の動作例を説明するための図である。
【図8】同情報表示装置の重畳表示の動作例を説明するための図である。
【図9】本発明の第3の実施形態に係る情報表示装置の外観図である。
【図10】本発明の第4の実施形態に係るキャリブレーション処理を示すフローチャートである。
【発明を実施するための形態】
【0014】
以下に、添付の図面を参照して、この発明に係る表示制御装置及び情報表示装置の実施の形態を詳細に説明する。
【0015】
[第1の実施形態]
図1は、本発明の第1の実施形態に係る表示制御装置10全体の構成を示す図である。
図1に示すように、表示制御装置10は、表示装置18の表示状態を制御する制御信号を表示装置18に対して出力するものであり、表示装置18を視認する人間の眉間の状態を検出する検出部11と、この検出部11からの検出結果に基づき表示装置18の表示状態を制御するための制御信号を生成する制御部15とを備えて構成されている。
【0016】
検出部11は、例えば光センサ(フォトリフレクタ等)からなり、人間の表皮に光を照射する赤外線LED等の光照射部12と、表皮にて反射した反射光を受光して受光信号を検出信号として出力するフォトトランジスタ等の受光部13とを備えて構成されている。
【0017】
制御部15は、検出部11からのアナログの検出信号をディジタル信号に変換するA/D変換器16と、このA/D変換器16にて変換されたディジタル信号に基づき表示装置18の表示状態を制御する制御信号を生成する処理部17とを備えて構成されている。
【0018】
このように構成された表示制御装置10において、検出部11は、図2に示すように、例えば人間の顔Kにかけられた眼鏡Qに取り付け可能な取付治具11aを介して、人間の眉間Mにおける所定位置に、人間の眉間Mの状態(例えば眉間の動きに基づく表皮の状態及びその変動のいずれか1つ)を検出可能に取り付けられている。
【0019】
具体的には、検出部11は、図3に示すように、人間の眉頭MG同士を直線状に結んだ眉間Mの表皮の状態及び変動のいずれか1つを非接触に検出するように、取付治具11aを介して配置されていることが望ましい。本出願人による実験によれば、検出部11を配置する箇所としては、眉頭MG同士を直線状に結んだ線分Sの中点Pから各眉頭側へL=14mm〜18mm離れた位置を含む領域Rを検出することができる位置が最も好ましいことが判明した。したがって、検出部11は領域Rを非接触に検出するのが好ましい。
【0020】
このことは、人間の眉間Mにおける表皮の動きの特性が大きく関係していると考えられる。すなわち、眉間Mを寄せる動作を行うと眉間中心部の表皮が隆起して、眉頭MG辺りにしわが寄る。この時、隆起した眉間中心部よりも眉頭MG脇の表皮の動きの方が、変化が激しくなるので、受光部13にて検出される、光照射部12から照射された光が表皮にて反射した反射光の光量の変化も増大する。これにより、出力値の幅が最大となる箇所は、眉間中心部から距離L離れた箇所であると言える。
【0021】
眉間の動きを好適に検出するには、光検出部11として、フォトリフレクタ(ローム社製RPR−220)を用いて、表皮に赤外光を照射し、皮膚表面の変化による光の反射量の変化を赤外線センサにより非接触で検知するとよい。この場合、フォトリフレクタの出力はGainer(http://gainer.cc/)を用いて256段階の数値として計測し、プログラミング言語にJitter(登録商標)を用い、情報付加処理を行うと効率的である。
【0022】
なお、出力値の幅は次のように算出する。まず、本発明における表示制御装置を装着した状態で、眉間を寄せない、限界まで寄せる、寄せないという一連の運動を1セットとし、合計3セット計測を行い、得られた3セットのデータから、各セットの最大値と最小値を求める。次に得られた3つの最大値と3つの最小値から、最も小さい最大値と最も大きい最小値をそれぞれ出力値の最大値と最小値として、その差から出力値の幅を求める。
【0023】
また、被験者により個人差はあるが、検出部11の出力値の幅が最大になる箇所において、最低で26段階、最高で89段階の出力値の検出が可能であることが判明した。従って、この出力値の段階に応じて制御部15にて制御信号を生成すれば、表示装置18の動作等を複数段階にわたってシームレスに制御することが可能となる。
【0024】
本実施形態に係る表示制御装置10によれば、次のような効果を奏する。
すなわち、眉間Mの動きは、意識的に眉間Mを寄せたり寄せなかったりすることができるのはもちろんのこと、人間が何かを凝視しようとする際には無意識に眉間Mを寄せる動作をすることが認められている。このため、この表示制御装置10を用いれば、表示装置18を視認している人の意識的な動作及び無意識の動作のいずれをも確実に検出して表示装置18の表示状態を制御することが可能となる。表示制御としては、例えば表示装置18に表示された画像の拡大・縮小、映像の再生速度の変更、レイヤ構造のコンテンツの表示制御(眉間を寄せると問題の解答が見える等)、テレビの表示情報量やコンテンツの切り替え、チャンネルの切り替え等が考えられる。
【0025】
[第2の実施形態]
図4は、本発明の第2の実施形態に係る情報表示装置20の構成を示すブロック図、図5は同装置20の外観例を示す正面図である。
この第2の実施形態に係る情報表示装置20は、拡張現実感(AR)の情報量を制御するものである。
【0026】
情報表示装置20は、第1の実施形態に係る検出部11と同様の機能を有する検出部21と、現実空間の画像を撮像する撮像部22とを備える。また、情報表示装置20は、現実空間での位置及び方向を示す位置情報を取得する位置情報取得部23と、位置情報取得部23によって取得された位置情報に基づいて付加情報の処理を行う付加情報処理部24とを備える。
【0027】
更に、情報表示装置20は、撮像部22で撮像された現実空間の画像を表示すると共に、付加情報処理部24によって生成された付加情報を上記現実空間の画像に重畳表示して拡張現実感を付与する表示部26を備えている。
【0028】
この実施形態では、図5に示すように、携帯端末型の情報表示装置20に本発明が適用されている。検出部21は、先の実施形態とは異なり、情報表示装置20の正面(表示画面26a側)の上方中央部に設けられたCCDカメラ等の撮像手段と、内部の図示しない画像認識処理部とにより構成されている。画像認識処理部は、撮像手段の画像情報を認識処理して眉間の所定領域の画像情報を把握し、この画像情報の状態を検出してその検出値を出力する。
【0029】
撮像部22は、例えばCCDやC−MOS等のカメラ装置からなり、図5に示すように、情報表示装置20の表示画面26aとは反対側に設けられており、情報表示装置20を利用するユーザが撮像部22を向けた方向の現実空間の画像を撮像する。
【0030】
位置情報取得部23は、例えばGPSモジュールや電子コンパス等のデバイスからなり、現在の現実空間上の位置及び向きを位置情報として取得する。付加情報処理部24は、取得された位置情報に関連付けられた付加情報を、例えばインターネット網28を介して接続された付加情報提供サーバ29から取得したり、取得された位置情報に関連付けて付加情報を生成したりする処理を行う。また、付加情報処理部24は、検出部21の検出結果に基づいて、処理された付加情報の表示部26における出力態様を制御する。表示部26は、ディスプレイ装置等からなり、撮像された画像及び処理された付加情報からなる拡張現実感を表示画面26a上に表示する。
【0031】
なお、付加情報は、撮像された画像上に存在する視認可能な対象物に関連して付加される文字情報、画像情報及び音声情報の少なくとも1つからなる。そして、付加情報処理部24は、付加情報が文字情報及び画像情報の少なくとも1つからなる場合に、付加情報の拡張現実感上での重畳表示における透明度及び表示量の少なくとも1つを、検出部21からの制御信号に応じて段階的に制御する。
【0032】
このように構成された情報表示装置20は、例えば次のように動作する。
ユーザが付加情報を見たい対象物、例えばお店や会社等に撮像部22を向ける。図6(a)に示すように、ユーザが眉間Mを寄せない通常の状態の時には、検出部21がこれを検出するので、付加情報処理部24は、図6(b)に示すように、表示画面26a上に撮像部22によって撮像された現実空間の画像のみを表示させる。
【0033】
この状態で、図6(c)に示すように、ユーザが表示画面26aを凝視する等して無意識に、又は意識的に眉間にしわを寄せると、検出部21がこれを検出するので、付加情報処理部24は、図6(d)に示すように、表示画面26a上に表示される現実空間の画像に、画像中に存在する視認可能な対象物30に関連する付加情報31、32、33、34を重畳表示させる。本例においては、付加情報31、34は文字情報であり、付加情報32は画像情報である。また、付加情報33は音声情報であり、この場合の出力態様としては、表示出力の他に音声出力されることが考えられる。
【0034】
以上の付加情報31〜34の表示は、眉間のしわの寄せ具合によって段階的に表示量を制御することもできる。また、逆に、通常状態では最大の付加情報が表示され、表示画面26aを凝視して眉間にしわが寄った時には、しわの程度に応じて徐々に付加情報を削除するように制御することもできる。一般に、表示画面26aを凝視する場合には、現実空間の画像の一部を注視することもあり、そのような場合には、付加情報の表示が却って邪魔になるためである。
【0035】
なお、検出部21によって検出される出力値の段階に応じて、付加情報処理部24は、例えば付加情報の表示の透明度を制御するようにしても良い。具体的なものとして、文字情報である付加情報31を例に挙げて説明する。図7(a)に示すように、眉間Mがあまり寄っていない状態の時は、透明度が高い付加情報31aを重畳表示させ、図7(b)に示すように、眉間Mが寄っている状態の時は、透明度が低い付加情報31bを重畳表示させる。
【0036】
また、図8(a)に示すように、検出される出力値が小さい時は、重畳表示される付加情報31cの量が少なく、図8(b)に示すように、検出される出力値が大きい時は、重畳表示される付加情報31dの量が多くなるように制御することもできる。
【0037】
なお、人間は意識的に注視した時のみならず、無意識に凝視した時にも眉間Mが寄る動作をすることが確認されている。従って、このように拡張現実感を表示するようにすれば、対象物30を意識的に凝視した時のみならず、無意識に対象物30に注目した時でも、出力値に応じて段階的に付加情報31〜34を詳細に表示したり、視認し易く表示したりすることができ、付加情報の表示/非表示、或いは表示状態の変化をシームレスないわゆるフェーダー操作により実現することができる。
【0038】
なお、付加情報32のように画像情報である場合は、例えば重畳表示される画像の領域が検出部21の出力値に応じて変化するように制御されたり、付加情報33のように音声情報である場合は、例えば音声出力される音量が検出部21の出力値に応じて変化するように制御されたりすることが考えられ、その他にも付加情報の拡大・縮小や色調の変化、或いはコンテンツの表示切替など、種々の出力態様を制御することが可能である。
【0039】
[第3の実施形態]
図9は、本発明の第3の実施形態に係る情報表示装置を示す外観図である。
上述した第2の実施形態に係る情報表示装置20は、携帯端末型であったが、第3の実施形態に係る情報表示装置は、ヘッド・マウント・ディスプレイ(HMD)型の表示装置である。ブロック構成は、図4で示した構成と同様である。
【0040】
本実施形態では、情報表示装置HMDがメガネ型であり、目と対向する部分が表示画面26aとなっている。撮像部22は、情報表示装置HMDの(メガネ型部分の)中心上部に取り付けられ、その横に検出部21が配置されている。検出部21は、第1及び第2の実施形態のいずれの構成としても良い。
【0041】
このように構成された情報表示装置HMDは、医療行為(例えば、手術など)の施術システムにおける付加情報(手術部位や注意書き等)の表示に適用したりすることができる。具体的には、施術システムに適用する場合は、医師が情報表示装置HMDを装着し、施術箇所を撮像部22で撮像しながら表示画面26a上に表示される拡張現実感を医師が確認しつつ施術を行うことが考えられる。この場合に、例えば施術に必要な付加情報等を複雑な処理を必要とせずに意識的な動作及び無意識の動作のいずれによってもシームレスな拡張現実感として表示することが可能となる。
【0042】
[第4の実施形態]
図10は、検出部11、21のキャリブレーション処理を示すフローチャートである。
眉間の状態は、人によって個人差があるので、予めキャリブレーション処理をしておくことが望ましい。この処理は、図1の処理部17又は図4の付加情報処理部24が行う。
まず、眉間を限界まで寄せた状態で、一定時間だけ検出部11、21の出力をサンプリングする(S100)。次に、通常の眉間の状態で、同様に、一定時間だけ検出部11、21の出力をサンプリングする(S102)。眉間を寄せた状態と通常の状態でそれぞれサンプリングされた検出出力値の差の中で最も小さいものを処理部17及び付加情報処理部24での検出値の幅に設定する(S104)。そして、求められた検出値の幅から1又は複数のしきい値を算出し、設定する(S106)。これにより、個人差無く、精度のよい検出が可能になる。
【産業上の利用可能性】
【0043】
以上に述べた用途の他、本発明は、液晶シャッター式眼鏡を使用する三次元テレビなどにも適用できる。この場合、例えばテロップや時計など、レイヤ情報として送信されるものの表示情報の量のコントロールやコンテンツの切り替えを検出部で行うことができる。また、三次元テレビでは、表示装置と液晶シャッター式眼鏡との間で同期通信を行うので、眉間から検出された情報のログを取って視覚情報に対する一定の感情の検出を行うなどの二次的利用が可能である。
【符号の説明】
【0044】
11 検出部
12 光照射部
13 受光部
15 制御部
16 A/D変換器
17 処理部
18 表示装置
20 情報表示装置
21 検出部
22 撮像部
23 位置情報取得部
24 付加情報処理部
25 A/D変換器
26 表示部
30 対象物
【特許請求の範囲】
【請求項1】
情報を視認している人間の眉間の状態を検出する検出手段と、
前記検出手段によって検出された眉間の状態に応じて前記情報及び前記情報に付加される付加情報の少なくとも一方の表示状態を制御する制御手段とを備えた
ことを特徴とする表示制御装置。
【請求項2】
前記検出手段は、前記人間に装着されたメガネ型装置に取り付けられた光学式センサである請求項1記載の表示制御装置。
【請求項3】
前記メガネ型装置は、ヘッド・マウント・ディスプレイ(HMD)である請求項2記載の表示制御装置。
【請求項4】
情報を表示する表示手段と、
前記情報を視認している人間の眉間の状態を検出する検出手段と、
前記検出手段によって検出された眉間の状態に応じて前記情報及び前記情報に付加される付加情報の少なくとも一方の表示状態を制御する制御手段と
を備えたことを特徴とする情報表示装置。
【請求項5】
前記制御手段は、前記情報へ付加される付加情報の表示を制御するものである請求項4記載の情報表示装置。
【請求項6】
前記制御手段は、前記情報及び前記付加情報の少なくとも一方の表示状態の拡大・縮小を制御するものである請求項4記載の情報表示装置。
【請求項7】
前記制御手段は、前記情報及び前記付加情報の少なくとも一方の表示状態の再生速度を制御するものである請求項4記載の情報表示装置。
【請求項8】
現実空間の画像上に当該画像に付加される付加情報を認識可能な状態で出力してなる拡張現実感を表示する情報表示装置であって、
前記現実空間の画像を撮像する撮像手段と、
前記撮像された画像を表示する表示手段と、
人間の眉間の状態を検出する検出手段と、
前記現実空間の位置情報を取得する位置情報取得手段と、
前記取得された位置情報に基づいて、前記位置情報に関連付けられた付加情報を取得する処理、及び前記位置情報に関連付けて付加情報を生成する処理の少なくとも1つを行うと共に、前記検出手段によって検出された眉間の状態に基づいて、前記処理された付加情報の前記撮像された画像への重畳表示状態を制御する付加情報処理手段とを備えた
ことを特徴とする情報表示装置。
【請求項1】
情報を視認している人間の眉間の状態を検出する検出手段と、
前記検出手段によって検出された眉間の状態に応じて前記情報及び前記情報に付加される付加情報の少なくとも一方の表示状態を制御する制御手段とを備えた
ことを特徴とする表示制御装置。
【請求項2】
前記検出手段は、前記人間に装着されたメガネ型装置に取り付けられた光学式センサである請求項1記載の表示制御装置。
【請求項3】
前記メガネ型装置は、ヘッド・マウント・ディスプレイ(HMD)である請求項2記載の表示制御装置。
【請求項4】
情報を表示する表示手段と、
前記情報を視認している人間の眉間の状態を検出する検出手段と、
前記検出手段によって検出された眉間の状態に応じて前記情報及び前記情報に付加される付加情報の少なくとも一方の表示状態を制御する制御手段と
を備えたことを特徴とする情報表示装置。
【請求項5】
前記制御手段は、前記情報へ付加される付加情報の表示を制御するものである請求項4記載の情報表示装置。
【請求項6】
前記制御手段は、前記情報及び前記付加情報の少なくとも一方の表示状態の拡大・縮小を制御するものである請求項4記載の情報表示装置。
【請求項7】
前記制御手段は、前記情報及び前記付加情報の少なくとも一方の表示状態の再生速度を制御するものである請求項4記載の情報表示装置。
【請求項8】
現実空間の画像上に当該画像に付加される付加情報を認識可能な状態で出力してなる拡張現実感を表示する情報表示装置であって、
前記現実空間の画像を撮像する撮像手段と、
前記撮像された画像を表示する表示手段と、
人間の眉間の状態を検出する検出手段と、
前記現実空間の位置情報を取得する位置情報取得手段と、
前記取得された位置情報に基づいて、前記位置情報に関連付けられた付加情報を取得する処理、及び前記位置情報に関連付けて付加情報を生成する処理の少なくとも1つを行うと共に、前記検出手段によって検出された眉間の状態に基づいて、前記処理された付加情報の前記撮像された画像への重畳表示状態を制御する付加情報処理手段とを備えた
ことを特徴とする情報表示装置。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【公開番号】特開2011−186007(P2011−186007A)
【公開日】平成23年9月22日(2011.9.22)
【国際特許分類】
【出願番号】特願2010−48396(P2010−48396)
【出願日】平成22年3月4日(2010.3.4)
【新規性喪失の例外の表示】特許法第30条第1項適用申請有り 平成21年9月16日 エンタテインメントコンピューティング2009実行委員会発行の「エンタテインメントコンピューティング2009 論文集」において発表
【出願人】(801000027)学校法人明治大学 (161)
【Fターム(参考)】
【公開日】平成23年9月22日(2011.9.22)
【国際特許分類】
【出願日】平成22年3月4日(2010.3.4)
【新規性喪失の例外の表示】特許法第30条第1項適用申請有り 平成21年9月16日 エンタテインメントコンピューティング2009実行委員会発行の「エンタテインメントコンピューティング2009 論文集」において発表
【出願人】(801000027)学校法人明治大学 (161)
【Fターム(参考)】
[ Back to top ]