説明

眼電位推定装置、眼電位算出方法、視線検出装置、ウェアラブルカメラ、ヘッドマウントディスプレイおよび電子めがね

【課題】高精度に眼電位を算出する。
【解決手段】右眼角膜および右眼網膜のそれぞれから任意の3次元空間位置までの距離である右眼角膜距離および右眼網膜距離と、左眼角膜および左眼網膜のそれぞれから任意の3次元空間位置までの距離である左眼角膜距離および左眼網膜距離とを取得する距離取得部11と、距離取得部11が取得した右眼角膜距離、右眼網膜距離、左眼角膜距離および左眼網膜距離を、右眼角膜距離、右眼網膜距離、左眼角膜距離および左眼網膜距離から任意の3次元空間位置に発生する眼電位理論値を算出するための関数である眼電位モデルの入力とすることにより、任意の3次元空間位置に発生する眼電位理論値を算出する眼電位理論値算出部13とを備える。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、眼電位推定装置、眼電位算出方法、視線検出装置、ウェアラブルカメラ、ヘッドマウントディスプレイおよび電子めがねに関する。
【背景技術】
【0002】
従来、眼電位(EOG、ElectroOculoGraphy)を用いた視線検出技術がよく知られている。これは、角膜の正電荷、網膜の負電荷により発生した電位(眼電位)を、目の周辺に貼り付けた複数の電極により測定することで、視線を検出する技術である。この技術は、カメラを用いて眼球を撮影する視線検出方式とは異なり、視野を妨げず、外光の影響も受けず、目の形状および開眼状態によらず、低消費電力であるなどの利点を有し、様々な機器への応用が期待される。
【0003】
しかしながら、従来のEOGを用いた視線検出技術では、視線とEOGの関係が線形近似されているのに対し、実際に測定されるEOGは視線角が大きいほど非線形になる。このため、従来のEOGを用いた視線検出技術は、視線検出精度が低かった(視線誤差5〜10°)。
【0004】
<眼球の電池モデル>
そこで、EOGの非線形モデルが非特許文献1に開示されている。非特許文献1では、眼球を角膜がプラス、網膜がマイナスを成す電池とみなし、眼球運動を、電池が回転するものとみなすモデル(電池モデル)を提案している。電極から、角膜中心点、網膜中心点までの距離をそれぞれr、r’とし、眼球内部で網膜から角膜に向かって流れる電流をI、眼球周辺の導電率をσとするとき、電極に発生する電位vは、以下の(式1)により計算される。
【0005】
【数1】

【0006】
これにより、EOGを数式で評価できる可能性を示し、今後の臨床応用(電気生理学的な手法として、目視では得られない眼底からの情報または視路疾患の推定等)に有効な手段であると述べられている。
【先行技術文献】
【非特許文献】
【0007】
【非特許文献1】伊月他、「眼球常存電位解析のための眼球の電池モデル」、日眼会誌99巻9号pp.1012−1016、1995年9月10日
【発明の概要】
【発明が解決しようとする課題】
【0008】
しかしながら、非特許文献1には、「他眼が及ぼすクロストークの影響を組み込んだモデル」、「眼球周辺組織等の影響の考慮」などとの記載はあったが、これらを実現する具体的な方法および式は示されておらず、取り組みも行われていなかった。すなわち、非特許文献1に示される構成では、眼電位モデルによる眼電位の推定精度が低く、このため、視線検出精度が低いという課題を有している。
【0009】
本発明は、このような課題を解決するものであり、両眼のクロストーク量、頭部内の組織の影響を定式化し、モデルに組み込むことで、高精度に眼電位を算出することができる眼電位推定装置を提供することを目的とする。
【0010】
また、奥行き方向も含めた3次元視線位置(注視点)の高精度な検出が可能である視線検出装置を提供することも目的とする。
【課題を解決するための手段】
【0011】
本発明のある局面に係る眼電位推定装置は、生体に発生する眼電位の理論値を推定する眼電位推定装置であって、右眼角膜および右眼網膜のそれぞれから任意の3次元空間位置までの距離である右眼角膜距離および右眼網膜距離と、左眼角膜および左眼網膜のそれぞれから前記任意の3次元空間位置までの距離である左眼角膜距離および左眼網膜距離とを取得する距離取得部と、前記距離取得部が取得した前記右眼角膜距離、前記右眼網膜距離、前記左眼角膜距離および前記左眼網膜距離を、右眼角膜距離、右眼網膜距離、左眼角膜距離および左眼網膜距離から前記任意の3次元空間位置に発生する眼電位理論値を算出するための関数である眼電位モデルの入力とすることにより、前記任意の3次元空間位置に発生する眼電位理論値を算出する眼電位理論値算出部とを備える。
【0012】
ここで、「任意の3次元空間位置」とは、生体表面または内部などである。本発明は、主に生体皮膚に貼り付けた電極に発生する眼電位の理論値を求めることが目的であるが、これに限らない。
【0013】
この眼電位推定装置では、「他眼が及ぼすクロストークの影響」の具体的なモデルとして、任意の3次元空間位置に発生する眼電位の理論値を、両眼の角膜および網膜からの距離に応じた関数により、高精度を計算するモデルである。また、クロストーク量が多い領域(両眼の中心付近など)であっても高精度に眼電位を計算できるので、めがねの鼻パッド部を電極にしてもよく、電極貼付位置の自由度を高くすることができる。また、注視点の3次元座標を検出することができ、測距も可能となり、様々な応用が期待される。
【0014】
好ましくは、前記距離取得部は、左眼の注視点および右眼の注視点が同一点であると仮定することにより、両眼の平行運動成分と、両眼から注視点までの奥行き距離または両眼の輻輳運動成分とから、前記右眼角膜距離、前記右眼網膜距離、前記左眼角膜距離および前記左眼網膜距離を算出する。
【0015】
通常、両眼の水平・垂直視線角を同定するには、基準電極(グラウンド電極またはリファレンス電極(例えば、耳の横などに設けられる電極))を除くと、4つの電極が必要となるが、この眼電位推定装置では、両眼の視線が3次元空間内の1点で交わる条件を用いるので、電極数が3つで済む(基準電極除く)。また、回路規模削減、計算量削減および高速化の利点もある。なお、「1点で交わる」とは、厳密に1点で交わる必要はなく、多少の誤差を含む概念である。
【0016】
さらに好ましくは、前記眼電位モデルは、右眼角膜距離、右眼網膜距離、左眼角膜距離および左眼網膜距離のそれぞれに対して個別に設定可能である所定係数を含む。
【0017】
ここで「所定係数」とは、電荷量、誘電率、電流密度、導電率などに相当する値である。
【0018】
この眼電位推定装置では、「眼球周辺組織等の影響の考慮」の具体的なモデルとして、骨、筋肉、細胞などの素子の影響を、頭部内を不均一な誘電率空間とみなし、右眼角膜距離、右眼網膜距離、左眼角膜距離、左眼網膜距離に対する各所定係数を個別に設定可能とすることでモデル化する。これにより、高精度に眼電位を算出することができる。
【0019】
なお、誘電率空間の3次元分布は、頭部内モデルを小領域に分割し、3次元ルックアップテーブルで保持するなどしてもよい。
【0020】
さらに好ましくは、前記眼電位モデルは、右眼角膜距離、右眼網膜距離、左眼角膜距離および左眼網膜距離をそれぞれr1、r2、r3およびr4とし、右眼角膜距離、右眼網膜距離、左眼角膜距離および左眼網膜距離を眼電位に変換するための関数をそれぞれf1、f2、f3およびf4とし、右眼角膜距離、右眼網膜距離、左眼角膜距離および左眼網膜距離のそれぞれに設定可能な所定係数をα1、α2、α3およびα4とし、眼電位理論値を
【数2】

とするとき、
【数3】

であり、α1およびα2は同時に0とはならず、α3およびα4は同時に0とはならない。
【0021】
さらに好ましくは、 前記眼電位モデルは、
【数4】

である。
【0022】
また、上述の眼電位推定装置は、さらに、複数の視線位置のそれぞれにおいて、互いに異なる位置に配置された複数の電極のそれぞれにおいて発生する前記眼電位モデルを用いて算出される理論電圧と、前記複数の電極における観測電圧との差が最小になるような前記所定係数α1、α2、α3およびα4を推定するモデルパラメータ推定部を備えてもよい。
【0023】
好ましくは、前記モデルパラメータ推定部は、複数の電極i(i=1,…,N)のそれぞれに対し、M個の異なる視線位置θj(j=1,…,M)における観測電圧をΔvi=(Δvi,1,…,Δvi,Mt、右眼角膜距離、右眼網膜距離、左眼角膜距離および左眼網膜距離のそれぞれに設定可能な前記所定係数をαi=(αi,1,αi,2,αi,3,αi,4t、右眼角膜距離、右眼網膜距離、左眼角膜距離および左眼網膜距離をそれぞれri,j,1,ri,j,2,ri,j,3,ri,j,4、右眼角膜距離、右眼網膜距離、左眼角膜距離および左眼網膜距離を変換するための関数をfi,1,fi,2,fi,3,fi,4とするとき、行列Aiを、
【数5】

とし、基準電極Rに対し、前記M個の異なる視線位置θj(j=1,…,M)における右眼角膜距離、右眼網膜距離、左眼角膜距離および左眼網膜距離のそれぞれに設定可能な前記所定係数をαR=(αR,1,αR,2,αR,3,αR,4t、右眼角膜距離、右眼網膜距離、左眼角膜距離および左眼網膜距離をそれぞれrR,j,1,rR,j,2,rR,j,3,rR,j,4、右眼角膜距離、右眼網膜距離、左眼角膜距離および左眼網膜距離を変換するための関数をfR,1,fR,2,fR,3,fR,4とするとき、行列AR
【数6】

とするとき、
【数7】

により前記複数の電極および前記基準電極に対する前記所定係数αiおよびαRをそれぞれ求める。
【0024】
ここで、「基準電極」とは、リファレンス電極またはグラウンド電極などのことを指す。
【0025】
また、前記モデルパラメータ推定部は、眼電位の計測対象である生体に対して前後方向の眼球運動における、前記複数の電極における観測電圧を用いて、前記所定係数α1、α2、α3およびα4を推定してもよい。
【0026】
また、前記モデルパラメータ推定部は、サッケード運動を行うことにより取得される前記複数の電極における観測電圧を用いて、前記所定係数α1、α2、α3およびα4を推定してもよい。
【0027】
また、前記眼電位モデルは、眼電位理論値とユーザの視線方向との対応関係を示したルックアップテーブルを用いて構成されてもよい。
【0028】
これにより、非線形な変換処理を、ハードウェアで構成する場合は少ない回路規模で実現でき、ソフトウェアで構成する場合は計算量を削減でき、また、高速処理が可能となる。
【0029】
また、上述の眼電位推定装置は、さらに、ユーザの両眼の間に配置され、眼電位を測定し、眼電位原信号を出力する少なくとも1つの電極を備えてもよい。
【0030】
例えば、顔の左側面および右側面に電極を配置した場合、輻輳運動により、左眼角膜が左側面の電極から離れる距離と、右眼角膜が右側面の電極から離れる距離は(ほぼ)同一であり、同様に、左眼網膜が左側面の電極に近づく距離と、右眼網膜が右側面の電極に近づく距離は(ほぼ)同一であるため、これらの電極の差動電圧には、輻輳運動による眼電位は発生しない。
【0031】
また、例えば、顔の左側面のみ(または右側面のみ)に2つの電極を配置した場合であっても、その間隔が近ければ、各電極から、角膜が離れる距離はほぼ同一であり、網膜が近づく距離もほぼ同一であるため、この場合も、差動電圧には輻輳運動による眼電位は発生しない。
【0032】
このため、輻輳運動を検出するためには、少なくとも1つの電極を、両眼の間に配置する必要がある。
【0033】
好ましくは、前記少なくとも1つの電極は、めがねのフレームに内蔵され、めがねが皮膚と接触する位置に配置されている複数の電極を含んでもよい。
【0034】
めがねの鼻パッドなどを電極にすることなどにより、両眼の間に少なくとも1つの電極を、デザイン性を妨げずに配置することができる。
【0035】
また、上述の眼電位推定装置は、さらに、耳の前後に配置され、眼電位を測定し、眼電位原信号を出力する複数の電極を備えてもよい。
【0036】
本発明の他の局面に係る眼電位算出方法は、眼電位算出装置により、生体に発生する眼電位の理論値を算出する眼電位算出方法であって、右眼角膜および右眼網膜のそれぞれから任意の3次元空間位置までの距離である右眼角膜距離および右眼網膜距離と、左眼角膜および左眼網膜のそれぞれから前記任意の3次元空間位置までの距離である左眼角膜距離および左眼網膜距離とを取得する取得ステップと、前記取得ステップにおいて取得された前記右眼角膜距離、前記右眼網膜距離、前記左眼角膜距離および前記左眼網膜距離を、右眼角膜距離、右眼網膜距離、左眼角膜距離および左眼網膜距離から前記任意の3次元空間位置に発生する眼電位理論値を算出するための関数である眼電位モデルの入力とすることにより、前記任意の3次元空間位置に発生する眼電位理論値を算出する算出ステップとを含む。
【0037】
本発明のさらに他の局面に係る視線検出装置は、眼電位からユーザの視線方向を検出する視線検出装置であって、眼球運動によって生じる眼電位を測定し、眼電位原信号を出力する眼電位測定部と、ユーザに対して較正指標を提示する較正指標提示部と、前記較正指標提示部によって提示された前記較正指標にユーザの視線位置が移動する際の眼球の急速な運動であるサッケード運動を前記眼電位原信号から検出し、前記サッケード運動の前後における眼電位の変化量である眼電位変化量を出力するサッケード検出部と、前記較正指標提示部によって提示された前記較正指標の位置、及び前記サッケード検出部から出力された前記眼電位変化量に基づいて、右眼角膜および右眼網膜のそれぞれから任意の3次元空間位置までの距離である右眼角膜距離および右眼網膜距離と、左眼角膜および左眼網膜のそれぞれから前記任意の3次元空間位置までの距離である左眼角膜距離および左眼網膜距離と、右眼角膜距離、右眼網膜距離、左眼角膜距離および左眼網膜距離のそれぞれに対して個別に設定可能である所定係数とから前記任意の3次元空間位置に発生する眼電位理論値を算出するための関数である眼電位モデルの前記所定係数を計算する較正パラメータ計算部と、前記眼電位モデルに基づいて、前記眼電位原信号からユーザの視線方向を検出する較正部とを備える。
【0038】
この視線検出装置では、両眼のクロストーク電位が発生する場合であっても、左眼、右眼の視線角を個別に、また、高精度に検出することができる。また、注視点の3次元座標を検出することができ、測距も可能となる。
【0039】
好ましくは、前記サッケード検出部は、前記眼電位原信号を所定の時間遅延させて遅延信号を出力する遅延信号生成部と、前記眼電位原信号から前記遅延信号を減算して得られる出力信号を生成する減算部と、前記出力信号のうちの予め定めた閾値を上回る信号をサッケード運動を示すサッケード信号と判定するサッケード判定部とを有し、前記所定の遅延時間は、ユーザが前記較正指標を固視している時間より短い。
【0040】
本発明のさらに他の局面に係るウェアラブルカメラは、ユーザの視線方向の映像を撮像するウェアラブルカメラであって、撮像部と、上述の視線検出装置と、前記視線検出装置によって検出された視線方向を前記撮像部に撮像させる撮像制御部とを備える。
【0041】
本発明のさらに他の局面に係るヘッドマウントディスプレイは、ユーザの視線方向にマウスを移動させるヘッドマウントディスプレイであって、画像およびマウスを表示する表示部と、上述の視線検出装置と、前記視線検出装置によって検出された視線方向に表示部に表示されているマウスを移動させる表示制御部とを備える。
【0042】
本発明のさらに他の局面に係る電子めがねは、ユーザの視線位置に合わせてレンズの焦点を変化させる電子めがねであって、焦点を変化させることができるレンズと、上述の視線検出装置と、前記視線検出装置によって検出された視線位置に合わせて前記レンズの焦点を変化させる焦点制御部とを備える。
【0043】
本発明のさらに他の局面に係るプログラムは、生体に発生する眼電位の理論値を算出するプログラムであって、右眼角膜および右眼網膜のそれぞれから任意の3次元空間位置までの距離である右眼角膜距離および右眼網膜距離と、左眼角膜および左眼網膜のそれぞれから前記任意の3次元空間位置までの距離である左眼角膜距離および左眼網膜距離とを取得する取得ステップと、前記取得ステップにおいて取得された前記右眼角膜距離、前記右眼網膜距離、前記左眼角膜距離および前記左眼網膜距離を、右眼角膜距離、右眼網膜距離、左眼角膜距離および左眼網膜距離から前記任意の3次元空間位置に発生する眼電位理論値を算出するための関数である眼電位モデルの入力とすることにより、前記任意の3次元空間位置に発生する眼電位理論値を算出する算出ステップとをコンピュータに実行させる。
【発明の効果】
【0044】
本発明の眼電位推定装置によれば、高精度に眼電位を算出することができる。また、本発明の視線検出装置によれば、奥行き方向も含めた3次元視線位置(注視点)を高精度に検出することができる。
【図面の簡単な説明】
【0045】
【図1】図1は、本発明の実施の形態1に係る視線検出装置の構成を示すブロック図である。
【図2】図2は、実施の形態1に係る視線検出装置が眼電位モデルのモデルパラメータ(所定係数)を推定する手順を示すフローチャートである。
【図3】図3は、実施の形態1に係る視線検出装置が視線を検出する手順を示すフローチャートである。
【図4】図4は、本発明の実施の形態1における眼電位モデルの模式図である。
【図5】図5は、本発明の実施の形態1における各パラメータの説明図である。
【図6】図6は、本発明の実施の形態1におけるキャリブレーション方法の説明図である。
【図7】図7は、本発明の実施の形態1のメガネ型構成における電極配置例の模式図である。
【図8】図8は、本発明の実施の形態1の耳かけ型構成における電極配置例の模式図である。
【図9】図9は、本発明の実施の形態2に係る視線検出装置のブロック図である。
【図10】図10は、較正パラメータの一例であって、対応する眼電位変化量と眼球移動角との組み合わせを複数保持するテーブルを示す図である。
【図11】図11は、較正パラメータの他の例であって、対応する眼電位変化量と視線位置との組み合わせを複数保持するテーブルを示す図である。
【図12】図12は、サッケード信号を含む眼電位信号の一例を示す図である。
【図13】図13は、図12の眼電位信号から抽出されたサッケード検出信号を説明するための図である。
【図14】図14は、ディスプレイに較正指標が表示されている状態を示す図である。
【図15】図15は、本発明の実施の形態2に係る視線検出装置の動作を示すフローチャートである。
【図16】図16は、本発明の実施の形態2に係るサッケード検出部の例1のブロック図である。
【図17】図17は、図12の眼電位信号に最大値フィルタ処理(単位処理間隔=0.25秒)を適用して得られた眼電位信号を示す図である。
【図18】図18は、図12の眼電位信号に最大値フィルタ処理(単位処理間隔=1.0秒)を適用して得られた眼電位信号を示す図である。
【図19】図19は、図12の眼電位信号に最小値フィルタ処理(単位処理間隔=0.25秒)を適用して得られた眼電位信号を示す図である。
【図20】図20は、図12の眼電位信号に最小値フィルタ処理(単位処理間隔=1.0秒)を適用して得られた眼電位信号を示す図である。
【図21】図21は、本発明の実施の形態2に係るサッケード検出部の例2のブロック図である。
【図22】図22は、遅延信号生成部の遅延時間を0.25秒としたときのサッケード検出信号を示す図である。
【図23】図23は、遅延信号生成部の遅延時間を1.1秒としたときのサッケード検出信号を示す図である。
【図24】図24は、まばたき信号を含む眼電位信号の一例を示す図である。
【図25】図25は、図24の眼電位信号に最小値フィルタ処理を適用して得られた眼電位信号を示す図である。
【図26】図26は、図24の眼電位信号に最大値フィルタ処理を適用して得られた眼電位信号を示す図である。
【図27】図27は、本発明の実施の形態3に係るサッケード検出部のブロック図である。
【図28】図28は、本発明の実施の形態3に係る合成信号生成部の動作を示すフローチャートである。
【図29】図29は、本発明の実施の形態4に係るウェアラブルカメラのブロック図である。
【図30】図30は、本発明の実施の形態4に係るウェアラブルカメラをユーザが装着した状態を示す図である。
【図31】図31は、本発明の実施の形態5に係るヘッドマウントディスプレイのブロック図である。
【図32】図32は、本発明の実施の形態5に係るヘッドマウントディスプレイをユーザが装着した状態を示す図である。
【図33】図33は、本発明の実施の形態5に係るヘッドマウントディスプレイの表示部に表示される画像の一例を示す図である。
【図34】図34は、本発明の実施の形態6に係る電子めがねのブロック図である。
【図35】図35は、本発明の実施の形態6に係る電子めがねをユーザが装着した状態を示す図である。
【図36】図36は、本発明の必須の構成要素を示すブロック図である。
【発明を実施するための形態】
【0046】
以下、本発明の実施の形態について、図面を参照しながら説明する。
【0047】
(実施の形態1)
本発明の第1の実施形態である視線検出装置について説明する。まず、本実施の形態に係る視線検出装置の構成について説明した後、本発明における眼電位モデルについて説明し、次に、そのモデルパラメータの推定法について説明する。最後に、眼電位モデルを用いた視線検出法を説明する。なお、眼電位モデルおよび推定したモデルパラメータを用いれば、頭部の任意の3次元空間位置に発生する眼電位理論値を算出する眼電位推定装置となり、また、視線検出時の眼電位理論値を用いれば、観測電圧から眼電位を分離する眼電位計測装置となるが、以下では、観測電圧からユーザの視線角度を検出する視線検出装置について説明する。
【0048】
<1.1 視線検出装置>
図1は、本発明の実施の形態1に係る視線検出装置の構成を示すブロック図である。
【0049】
視線検出装置1は、距離取得部11と、眼電位理論値算出部13と、モデルパラメータ推定部12と、眼電位取得部14と、視線検出部15とを含む。
【0050】
距離取得部11は、右眼角膜および右眼網膜のそれぞれから任意の3次元空間位置までの距離である右眼角膜距離および右眼網膜距離と、左眼角膜および左眼網膜のそれぞれから任意の3次元空間位置までの距離である左眼角膜距離および左眼網膜距離とを取得する。好ましくは、距離取得部11は、左眼の注視点および右眼の注視点が同一点であると仮定することにより、両眼の平行運動成分と、両眼から注視点までの奥行き距離または両眼の輻輳運動成分とから、右眼角膜距離、右眼網膜距離、左眼角膜距離および左眼網膜距離を算出する。
【0051】
眼電位理論値算出部13は、距離取得部11が取得した右眼角膜距離、右眼網膜距離、左眼角膜距離および左眼網膜距離を、右眼角膜距離、右眼網膜距離、左眼角膜距離および左眼網膜距離から任意の3次元空間位置に発生する眼電位理論値を算出するための関数である眼電位モデルの入力とすることにより、任意の3次元空間位置に発生する眼電位理論値を算出する。
【0052】
ここで、「任意の3次元空間位置」とは、生体表面または内部などである。本実施の形態は、主に生体皮膚に貼り付けた電極に発生する眼電位の理論値を求めることが目的であるが、これに限らない。
【0053】
眼電位モデルは、右眼角膜距離、右眼網膜距離、左眼角膜距離および左眼網膜距離のそれぞれに対して個別に設定可能である所定係数を含む。
【0054】
眼電位モデルは、右眼角膜距離、右眼網膜距離、左眼角膜距離および左眼網膜距離をそれぞれr1、r2、r3およびr4とし、右眼角膜距離、右眼網膜距離、左眼角膜距離および左眼網膜距離を眼電位に変換するための関数をf1、f2、f3およびf4とし、右眼角膜距離、右眼網膜距離、左眼角膜距離および左眼網膜距離のそれぞれに設定可能な所定係数をα1、α2、α3およびα4とし、眼電位理論値を
【数8】

とするとき、
【数9】

である。
【0055】
なお、α1およびα2が同時に0になることはないものとする。また、α3およびα4が同時に0になることはないものとする。
【0056】
また、眼電位モデルは、
【数10】

と表すこともできる。
【0057】
モデルパラメータ推定部12は、複数の視線位置のそれぞれにおいて、互いに異なる位置に配置された複数の電極のそれぞれにおいて発生する眼電位モデルを用いて算出される理論電圧と、複数の電極における観測電圧との差が最小になるように、眼電位モデルに含まれる、右眼角膜距離、右眼網膜距離、左眼角膜距離および左眼網膜距離のそれぞれに対して個別に設定可能である所定係数α1、α2、α3およびα4を推定する。所定係数については後述する。
【0058】
つまり、モデルパラメータ推定部12は、複数の電極i(i=1,…,N)のそれぞれに対し、M個の異なる視線位置θj(j=1,…,M)における観測電圧をΔvi=(Δvi,1,…,Δvi,Mt、右眼角膜距離、右眼網膜距離、左眼角膜距離および左眼網膜距離のそれぞれに設定可能な所定係数をαi=(αi,1,αi,2,αi,3,αi,4t、右眼角膜距離、右眼網膜距離、左眼角膜距離および左眼網膜距離をそれぞれri,j,1,ri,j,2,ri,j,3,ri,j,4、右眼角膜距離、右眼網膜距離、左眼角膜距離および左眼網膜距離を変換するための関数をfi,1,fi,2,fi,3,fi,4とするとき、行列Aiを、
【数11】

とし、基準電極Rに対し、M個の異なる視線位置θj(j=1,…,M)における右眼角膜距離、右眼網膜距離、左眼角膜距離および左眼網膜距離のそれぞれに設定可能な所定係数をαR=(αR,1,αR,2,αR,3,αR,4t、右眼角膜距離、右眼網膜距離、左眼角膜距離および左眼網膜距離をそれぞれrR,j,1,rR,j,2,rR,j,3,rR,j,4、右眼角膜距離、右眼網膜距離、左眼角膜距離および左眼網膜距離を変換するための関数をfR,1,fR,2,fR,3,fR,4とするとき、行列AR
【数12】

とするとき、
【数13】

により複数の電極および基準電極に対する所定係数αiおよびαRをそれぞれ求める。
【0059】
モデルパラメータ推定部12は、眼電位の計測対象である生体に対して前後方向の眼球運動における、複数の電極における観測電圧を用いて、所定係数α1、α2、α3およびα4を推定してもよい。
【0060】
また、モデルパラメータ推定部12は、サッケード運動を行うことにより取得される複数の電極における観測電圧を用いて、所定係数α1、α2、α3およびα4を推定してもよい。
【0061】
眼電位取得部14は、眼球運動によって生じる眼電位を測定し、眼電位原信号を出力する。眼電位取得部14は、特許請求の範囲の眼電位測定部に相当する。
【0062】
視線検出部15は、眼電位モデルに基づいて、眼電位原信号からユーザの視線方向を検出する。視線検出部15は、特許請求の範囲の較正部に相当する。
【0063】
図2は、実施の形態1に係る視線検出装置1が眼電位モデルのモデルパラメータ(所定係数)を推定する手順を示すフローチャートである。ここでは、手順のみを説明し、各ステップの詳細については後述する。
【0064】
まず、距離取得部11は、3次元視線位置から、後述する右眼角膜距離r1、右眼網膜距離r2、左眼角膜距離r3、左眼網膜距離r4を算出する(S1)。
【0065】
眼電位理論値算出部13は、このとき、電極に生じる眼電位理論値
【数14】

を算出する(S2)。
【0066】
モデルパラメータ推定部12は、眼電位理論値算出部13が算出した眼電位理論値に基づいて、モデルパラメータを算出する(S3)。
【0067】
図3は、実施の形態1に係る視線検出装置1が視線を検出する手順を示すフローチャートである。ここでは、手順のみを説明し、各ステップの詳細については後述する。
【0068】
眼電位取得部14は、眼球運動によって生じる眼電位を測定し、取得する(S4)。
【0069】
視線検出部15は、眼電位取得部14が取得した眼電位に基づいてユーザの視線を検出する(S5)。
【0070】
<1.2 眼電位モデル>
図4は、本発明の実施の形態1における眼電位モデルの模式図(目の位置での頭部断面図)である。この眼電位モデルは、視線検出装置1の眼電位理論値算出部13において、眼電位理論値を算出する際に用いられる。
【0071】
眼電位モデルは、頭部内の骨、筋肉および細胞などの素子の影響を、不均一な誘電率空間1005により表し、右眼角膜電荷1001、右眼網膜電荷1002、左眼角膜電荷1003および左眼網膜電荷1004により、電極1000に生じる観測電位の理論値(眼電位理論値)を算出するモデルである。
【0072】
この眼電位モデルによると、片眼のみでなく他眼からのクロストーク電位を含めて眼電位理論値を計算することができるので、高精度に眼電位理論値を算出することができる。また、クロストーク量が多く発生する電極位置(両眼中心付近)でも、高精度に発生電位を計算できるため、電極貼り付け位置が自由となり、用途に適した位置に電極を装着させることができる。さらに、頭部内の骨、筋肉および細胞などによる不均一な誘電率(または導電率)空間の影響を考慮しているため、より高精度に眼電位理論値を算出することができる。
【0073】
以下、3次元視線位置θに対する、観測電位理論値vを求める処理を詳細に説明する(図2のS1、S2)。
【0074】
図5に示すように、左眼および右眼のそれぞれの回転中心の中点(両眼中心点)を原点、ユーザに対して右方をx軸、上方をy軸、前方をz軸とする。さらに、両眼間隔をb、3次元視線位置(注視点)をθ=(x、y、z)、両眼の平行運動成分を(θx、θy)、両眼の輻輳運動成分をμ、右眼の水平・垂直視線角を(θrx、θry)、左眼の水平・垂直視線角を(θlx、θly)、注視点距離をLとする。また、眼球の半径をa、電極座標を(xe,ye,ze)とする。
【0075】
ここで、両眼の平行運動成分(θx、θy)のθxは、正面を見ている状態から両眼がx軸方向にどれだけの角度動いたかを示し、θyは、正面を見ている状態から両眼がy軸方向にどれだけの角度動いたかを示す。つまり、図5に示すように、θxは、両眼中心点と注視点とを結ぶ直線をxy平面(x軸とy軸とがなす平面)に投影した投影線とz軸とがなす角度を示す。また、θyは、上記投影線と、両眼中心点と注視点とを結ぶ直線とがなす角度を示す。
【0076】
両眼の輻輳運動成分μは、両眼が同時に内側を向いているときの両眼の視線がなす角度を規定する成分である。つまり、μは、図5に示すように、左眼回転中心点と注視点とを結ぶ直線と、右眼回転中心点と注視点とを結ぶ直線とがなす角度を示す。
【0077】
右眼の水平・垂直視線角を(θrx、θry)の水平視線角θrxは、正面を見ている状態から右眼がx軸方向にどれだけの角度動いたかを示し、垂直視線角θryは、正面を見ている状態から右眼がy軸方向にどれだけの角度動いたかを示す。つまり、図5に示すように、水平視線角θrxは、右眼回転中心点と注視点とを結ぶ直線をxy平面に投影した投影線とz軸とがなす角度を示す。また、θryは、上記投影線と、右眼回転中心点と注視点とを結ぶ直線とがなす角度を示す。
【0078】
左眼の水平・垂直視線角を(θlx、θly)の水平視線角θlxは、正面を見ている状態から左眼がx軸方向にどれだけの角度動いたかを示し、垂直視線角θlyは、正面を見ている状態から左眼がy軸方向にどれだけの角度動いたかを示す。つまり、図5に示すように、水平視線角θlxは、左眼回転中心点と注視点とを結ぶ直線をxy平面に投影した投影線とz軸とがなす角度を示す。また、θlyは、上記投影線と、左眼回転中心点と注視点とを結ぶ直線とがなす角度を示す。
【0079】
3次元視線位置θ=(x、y、z)の表現方法には様々な方法が存在するが、以下では、両眼の平行運動成分と3次元視線位置(注視点)のz座標を用いて、3次元視線位置をθ=(θx、θy、z)と表す。なお、この他、両眼の輻輳運動成分μを用いて、3次元視線位置をθ=(θx、θy、μ)と表してもよい。なお、本実施の形態では両眼が同一の注視点を注視しているものとする。
【0080】
まず、距離取得部11は、両眼の水平・垂直視線角(θrx、θry、θlx、θly)を、以下の(式2)に従い算出する(図2のS1)。
【0081】
【数15】

【0082】
次に、距離取得部11は、電極から右眼角膜、右眼網膜、左眼角膜、左眼網膜までのそれぞれの距離である右眼角膜距離r1、右眼網膜距離r2、左眼角膜距離r3、左眼網膜距離r4を、以下の(式3)に従い算出する(図2のS1)。
【0083】
【数16】

【0084】
また、電極から、右眼角膜、右眼網膜、左眼角膜、左眼網膜までの誘電率をそれぞれε1、ε2、ε3、ε4とし、右眼角膜、右眼網膜、左眼角膜、左眼網膜の電荷量をそれぞれq1、q2、q3、q4と定義する。このとき、眼電位理論値算出部13は、その電極に生じる眼電位理論値
【数17】

を、以下の(式4)に従い算出する(図2のS2)。
【0085】
【数18】

【0086】
なお、ここでは、無限遠を基準電位として眼電位理論値を計算したが、視線が図6に示す基準指標(θx=θy=0、z=所定値)を見ているときの電位を基準電位とする方が扱いやすいため、このときの眼電位をオフセット電位として減じるのが好ましい。ただし、以下では説明を簡単にするためオフセット電位の記述は省略する。
【0087】
ここで、さらに、電荷量および誘電率は、眼球運動によっては変化しない値であると仮定し、所定係数α1、α2、α3、α4を用いて、(式4)を(式5)のように簡略化する。
【0088】
【数19】

【0089】
なお、ここでは説明の簡単のため、無限遠を基準電位(0V)としたが、視線が正面視(θx=θy=0)のときの眼電位を基準電位とするために、眼電位理論値算出部13は、正面視のときのオフセット電位を計算し減じるとよい。
【0090】
<1.3 モデルパラメータ推定(キャリブレーション)>
次に、眼電位モデルの未知パラメータ(モデルパラメータ)である、眼球半径a、両眼間隔b、電極座標(xe,ye,ze)、所定係数α1、α2、α3、α4のキャリブレーションについて説明する。このキャリブレーション処理はモデルパラメータ推定部12により実行される(図2のS3)。なお、以下では、眼球半径aおよび両眼間隔bは、人間の平均値であるa=12mmおよびb=65mmとし、モデルパラメータ推定部12は、電極座標(xe,ye,ze)および所定係数α1、α2、α3、α4のみを推定する。
【0091】
<1.3.1 キャリブレーションデータ取得>
まず、眼電位取得部14は、キャリブレーション用データ(学習データ)を取得する。図6を用いて、キャリブレーションデータ取得方法について説明する。なお、以下ではサッケード運動(跳躍眼球運動)を用いてキャリブレーションを行うことで、キャリブレーション時のドリフトノイズ(低周波ノイズ)混入を低減させ高精度なキャリブレーションを行う。ただし、ここでは概要のみの説明とし、キャリブレーションのための較正指標の提示方法およびサッケード運動の検出方法などの詳細は実施の形態2において説明する。
【0092】
(事前準備)
ユーザは、両眼の中心3001を、モニタ3000の中心位置3002に合わせ着席し、モニタ3000との間に設置した基準指標3003(z軸上)を注視する。基準指標3003は、ユーザの親指を目の前に立てて代用するなど、なんでもよいが、動かないものが好ましい。
【0093】
(データ取得)
(1) モニタ3000上に較正指標3004(視線位置θ)が提示されたら、ユーザは較正指標3004をサッケード運動(跳躍眼球運動)により注視する。このとき、眼電位取得部14は、サッケード運動による観測電圧変化量Δv(ユーザが基準指標3003を注視している時と較正指標3004を注視している時の電極における観測電圧の変化量)を検出し、キャリブレーションデータ(θ、Δv)を記録する。
【0094】
(2) 較正指標3004が消えたら、ユーザは、基準指標3003を再度注視する。
【0095】
(3) (1)、(2)を較正指標3004の1〜15番(3行5列、水平25°間隔、垂直15°間隔で配置)まで繰り返す。
【0096】
(4) さらに、モニタ3000の位置を移動、またはユーザ3005の位置を移動させるなどして、眼電位取得部14は、複数のz位置(例えば、z=20cm、50cm、z=100cm、…)においてキャリブレーションデータを取得する。
【0097】
これにより、z方向(奥行き方向)を含めた、複数の(θ、Δv)のデータペア(学習データ、キャリブレーションデータ)が得られる。また、サッケード運動(高速)を用いてキャリブレーションデータを取得するので、キャリブレーションデータにドリフトノイズ(低周波ノイズ)が混入するのを防ぐことができ、高精度なキャリブレーションが可能となる。
【0098】
<1.3.2 モデルパラメータ推定>
次に、モデルパラメータ推定部12は、眼電位取得部14が取得したキャリブレーションデータに基づいて、モデルパラメータの推定を行う。つまり、モデルパラメータ推定部12は、各電極i(i=1,…,N)に対するM個のキャリブレーションデータ(θj,Δvi,j)(j=1,…,M)に対応する眼電位理論値
【数20】

を、眼電位モデル(式5)に従って算出する。モデルパラメータ推定部12は、以下の(式6)に示される、算出した眼電位理論値
【数21】

と実測された眼電位Δvi,jとの2乗誤差総和(コスト関数J)が最小となるモデルパラメータを算出する。
【0099】
【数22】

【0100】
この時、モデルパラメータ推定部12は、眼電位モデル(式5)のうち、(1)非線形項(距離r1、r2、r3、r4の各逆数項)のパラメータである電極座標(xe,ye,ze)は探索により最適化し、(2)線形パラメータ(所定係数)α1、α2、α3、α4は最小2乗法を用いて数式により最適値を算出する。以下、これを詳細に説明する。
【0101】
(1)まず、モデルパラメータ推定部12は、電極座標(xe,ye,ze)の初期値を設定する。電極座標を探索しない場合は、事前に電極座標を厳密に計測しておく必要があるが、探索する場合は、目視でおおよその座標を初期値として与えておく。
【0102】
(2)次に、モデルパラメータ推定部12は、設定された電極座標における、所定係数α1、α2、α3、α4の最小2乗解を導出する。
【0103】
まず、M個のキャリブレーションデータに対応する眼電位の理論値
【数23】

を、以下の(式7)で行列表現する。
【0104】
【数24】

【0105】
ここでrj,1、rj,2、rj,3およびrj,4は、それぞれ、j番目のキャリブレーションデータ測定時の右眼角膜距離、右眼網膜距離、左眼角膜距離および左眼網膜距離である。電極座標、およびその他行列Aに関する全パラメータが設定されているため、行列Aは定数行列となる。
【0106】
これを、各電極i(i=1,…,N)に対して用意する。すなわち、すべての眼電位理論値を以下の(式8)で表すものとする。
【0107】
【数25】

【0108】
ここで、各電極の電位は、基準電極(リファレンス電極またはグラウンド電極)に対する電位である。このため、距離取得部11および眼電位理論値算出部13は、以下の(式9)で示される基準電極Rの眼電位理論値も同様に算出する。
【0109】
【数26】

【0110】
これにより、モデルパラメータ推定部12は、各電極に生じる、基準電極に対する電位
【数27】

を、以下の(式10)に従い算出し、以下の(式11)で示すコスト関数Jが最小になるαi(i=1,…,N),αRを求める。
【0111】
【数28】

【数29】

【0112】
つまり、以下の(式12)を解いて、解を行列表現すると、以下の(式13)に示される正規方程式が得られる。
【0113】
【数30】

【数31】

【0114】
この正規方程式を解くと、以下の(式14)が得られる。
【0115】
【数32】

【0116】
つまり、モデルパラメータ推定部12は、(式14)に従って所定係数αRおよびαiを計算することにより、コスト関数J(式11)の最小2乗解を得ることができる。なお、正規方程式を直接解く方法以外にも、ハウスホルダーQR分解法などを用いて、コスト関数J(式11)の最小2乗解を計算してもよい。
【0117】
モデルパラメータ推定部12は、以上説明した(1)および(2)の処理を、コスト関数J(式11)が所定の誤差範囲内に収まるまで繰り返すことにより、電極座標(xe,ye,ze)を非線形最適化手法(最急降下法、Levenberg−Marquardt法など)により探索する。また、モデルパラメータ推定部12は、電極探索範囲を設定し、所定の粒度で電極座標を全探索してもよい。例えば、電極がずれる範囲は最大でも5cm以下であることが多いため、初期値(電極目測位置)に対して、x、y、z方向にそれぞれ±5cmを探索範囲とし、5mm間隔で電極座標を探索すればよい。
【0118】
以上、本モデルパラメータ推定法では、非線形項パラメータ(電極座標)は探索により最適化し、線形パラメータ(所定係数)は数式により最適値を算出する。このため、高精度かつ高速に最適なモデルパラメータを推定することができる。また、通常、眼電位は、耳の前、耳の裏、耳の穴の中まで発生するが、本方式では、基準電極(リファレンス電極またはグラウンド電極)へ生じる眼電位も考慮することで、高精度な推定が可能であり、また、基準電極の貼付位置も自由となる利点を有している。
【0119】
なお、基準電極を、眼電位が発生しない位置(耳たぶ等)に装着させれば、上述の最小2乗解の計算式はより単純になり、計算量・回路規模を削減することができる。また、所定係数α1、α2、α3、α4を、全て同一の値とみなせば、モデル精度は低下するが、より簡単な計算で高速に最適値を求められる。
【0120】
<1.4 視線検出>
最後に、視線検出方法を説明する。この方法に基づく視線検出処理は、眼電位取得部14および視線検出部15により実行される。
【0121】
眼電位取得部14は、ユーザの眼電位(観測電圧)を取得する(図3のS4)。
【0122】
視線検出部15は、観測電圧と、眼電位モデルによる理論電圧の2乗誤差が最小となる視線ベクトルθを探索する。すなわち、視線検出部15は、以下の(式15)に従い、シグマの項が最小となる視線ベクトルθを算出する(図3のS5)。
【0123】
【数33】

【0124】
このとき、各3次元視線位置(θ=(θx、θy、z))における理論電圧
【数34】

を、予め、3次元ルックアップテーブルで保持しておくと回路規模削減または計算量削減できるので好ましい。つまり、3次元ルックアップテーブルを参照することにより、観測された電圧から、その電圧に対応する3次元視線位置を一意に導き出すことができる。なお、両眼の視線が1点で交わらない場合などを考慮し、視線位置を4次元(θrx、θry、θlx、θly)で表現し、4次元ルックアップテーブルを保持するようにしてもよい。
【0125】
なお、視線ベクトルθを算出する方法は、最小2乗法(式15)に限られるものではなく、その他の評価関数(高次統計量、エントロピーなど)を用いたもの、カルマンフィルタまたはモンテカルロフィルタなどの手法など、観測値と理論値の誤差を最小化するような方式であれば何でもよい。
【0126】
なお、図5に示した各パラメータ間の関係は次のようになる。
【0127】
【数35】

【0128】
この関係を用いて、たとえば、注視点距離Lを検出することにより、視線検出方法を、距離に応じた処理を実行するアプリケーションに適用することができる。
【0129】
なお、複数の電極を貼り付る場合、z方向に離して貼り付けるとよい。これにより、輻輳運動に対する振幅を大きくすることができ、z方向の認識精度が向上する。図7に示すように、めがね4001に電極4002を組み込む場合は、鼻パッドの位置4003、および、フレームが耳に接触する位置4004に電極を内蔵させるのが好ましい。また、図8に示すように、耳かけ部材に電極4002を組み込む場合は、耳の前方部および耳後方部に電極4005および4006を配置すると良い。
【0130】
以上、本発明の実施の形態1における視線検出装置1では、両眼のクロストーク量、眼球周辺組織等の影響を計算に入れた眼電位モデルにより、高精度な3次元視線位置を、少ない電極数(最低3つ)で、自由な電極貼付位置で検出することができる。
【0131】
(実施の形態2)
次に、前述したサッケード運動を用いたキャリブレーション方法(以下、較正方法と記載することもある)について詳細に説明する。まず、全体構成を説明し、次に、サッケード検出方法を2通り説明する。また、まばたきによる較正精度劣化に対する対策方法も説明する。なお、下記の各構成は、本発明の効果を減殺しない限り、任意の組み合わせで組み合わせることが出来るものとする。
【0132】
また、以下では、眼電位モデルではなく、(式16)に示す線形モデルおよび線形パラメータαを用いて較正方法を説明するが、眼電位モデルにおいても同様に適用できる。
【0133】
<2.1 全体構成>
図9は、本発明の実施の形態2に係る視線検出装置100の構成を表すブロック図である。図9に示される視線検出装置100は、較正部101と、較正パラメータ更新指示部102と、較正指標提示部103と、サッケード検出部104と、較正パラメータ計算部105と、スイッチ106とを備える。
【0134】
較正部101は、ユーザの眼の周囲に貼付されて眼電位を測定し、眼電位原信号を出力する眼電位測定部(図示省略)と、眼電位原信号を視線位置(「視線方向」と読み替えることができる。以下同じ)に変換する。
【0135】
較正パラメータ更新指示部102は、較正パラメータの更新を指示する。
【0136】
較正指標提示部103は、較正パラメータ更新指示を受けて較正指標を提示する。
【0137】
サッケード検出部104は、眼電位原信号からサッケード信号を検出し、検出したサッケード運動の前後における眼電位の変化量である眼電位変化量を出力する。
【0138】
較正パラメータ計算部105は、サッケード検出部104から出力された眼電位変化量および較正指標提示部103によって出力された較正指標の位置に基づいて較正パラメータを算出する。
【0139】
スイッチ106は、眼電位原信号の出力先を較正部101及びサッケード検出部104のいずれかに切り替える。
【0140】
眼電位測定部は、典型的には、ユーザの眼の周辺に貼付される電極である。具体的な貼付方法は特に限定されないが、例えば、目尻および目頭に貼付される電極を組み合わせて使用してもよい。または、電極を眼の上下の一方又は両方に貼付してもよい。さらには、電極をこめかみの上下に貼付してもよい。
【0141】
較正部101は、予め保持している較正パラメータを用いて、眼電位原信号からユーザの視線位置を算出する。ここで、較正パラメータとは、眼電位原信号を眼球移動角に変換するためのパラメータであり、そのうちの一つとして、以下の(式16)で用いられる較正係数αが挙げられる。
【0142】
一般的に計測眼電位Va-bは、眼球移動角θが一定の範囲内であれば線形に変化することが知られている。つまり、計測眼電位Va-bは較正係数αと眼球移動角θとを用いて以下の(式16)で近似することができる。
【0143】
【数36】

【0144】
EOG法を用いた較正時の動作例を説明する。眼電位原信号として眼電位Veが較正部101に入力された場合、較正部101は、(式16)を用いて眼球移動角θを求める。そして、較正部101は、移動角θからユーザと注視物体との距離等の情報を用いて視線位置を求める。以上の手順により、較正部101は、眼電位から視線位置を求めることができる。なお、ユーザと注視物体との距離を測定する方法は特に限定されないが、例えば、測距センサ等を用いることができる。
【0145】
なお、本実施の形態は(式16)を用いた較正方法に限定されず、図10に示すような対応する眼電位変化量と眼球移動角との組み合わせを複数保持するテーブルを、較正パラメータとして用いても構わない。さらに、図11に示すような対応する眼電位とディスプレイ座標やカメラ座標等の視線位置との組み合わせを複数保持するテーブルを、較正パラメータとして用いても構わない。
【0146】
較正パラメータ更新指示部102は、視線検出開始時等のイベントが発生した場合に、較正指標提示部103とスイッチ106とに較正パラメータ更新指示信号を出力する。そして、較正パラメータ更新指示部102は、較正パラメータの更新を終了する際には、較正パラメータ更新指示信号の出力を停止する。
【0147】
スイッチ106は、較正パラメータ更新指示に従って、眼電位原信号を較正部101及びサッケード検出部104のどちらに送信するかを切り替える。
【0148】
サッケード検出部104は、眼電位原信号からサッケード信号を検出し、それを用いてサッケード発生時の眼電位の変化量を算出する。サッケード(衝動性眼球運動)とは、解像度の低い周辺網膜に映った対象を、解像度の高い網膜中心窩で捉えるために発生する眼球運動であり、その速度は100〜500(°/sec)と非常に大きいことが知られている。
【0149】
図12にサッケード信号を含んだ眼電位信号の波形の例を示す。図12において、点線で囲った部分がサッケードを示す箇所である。サッケードが発生すると、急峻に電位変化が起こった後、一定時間停留(固視)し、再び元の電位まで戻っている。これは、ある指標Aからある指標Bまで眼球をサッケードによって動かし、再び指標Bから指標Aまで眼球をサッケードによって動かした場合の一例である。一般に人間は0.3秒程度の固視と数十ミリ秒のサッケードを繰り返すことによって、周囲の情報を取得している。
【0150】
図12のような眼電位原信号からサッケード信号を検出する方法の一つとして、眼電位原信号に最大値フィルタ処理と最小値フィルタ処理とをそれぞれ適用し、その差分を求める方法がある。この処理の詳細は、後述する。
【0151】
図12に示される眼電位原信号に最大値フィルタ処理及び最小値フィルタ処理を適用することによって得られる出力信号を図13に示す。図13に示されるように、サッケードが発生したときのみ、出力信号にピークが現れる。
【0152】
サッケード検出部104は、上記出力信号のうちの予め定めた閾値を上回る信号をサッケード運動を示すサッケード信号と判定するサッケード判定部(図示省略)をさらに備える。そして、サッケード検出部104は、サッケード信号の変化量(すなわち、サッケード運動の前後における眼電位の変化量)を求め、較正パラメータ計算部105に出力する。そして、サッケード信号を検出したことを示すサッケード検出信号を較正指標提示部103と較正パラメータ計算部105とに出力する。
【0153】
なお、実施の形態2ではサッケード信号の検出方法として、最小値フィルタと最大値フィルタとを使用したが、高域通過フィルタ等のサッケードを検出するものであればどのような手法でも構わない。また、実施の形態2ではサッケード中に変化した眼電位の変化量を求めたが、サッケード検出信号の振幅そのものを眼電位の変化量として用いても構わない。
【0154】
較正指標提示部103は、較正パラメータ更新指示を受けると、較正指標をユーザに提示する。そして、サッケード検出部104からのサッケード検出信号に従って、較正指標の提示位置を変化させる。
【0155】
一例として、図14のようなディスプレイ10を用いて較正を行う場合、較正指標提示部103は、較正パラメータ更新指示を受け付けたことに応じてディスプレイ10の中心に第1の較正指標20を表示させる。その後、較正指標提示部103は、サッケード検出信号を受け付けると、第2の較正指標30を左上に表示させる。そして、較正指標提示部103は、再びサッケード検出信号を受けると、次の較正指標を右上等に表示させる。このように、較正指標提示部103は、ユーザのサッケードに応じて較正指標の位置を変化させることにより、ユーザにサッケードを誘発することができる。このようにしてユーザのサッケードに応じて変化させた較正指標の位置は、較正パラメータ計算部105に出力される。
【0156】
なお、実施の形態2では、第1及び第2の較正指標20、30をディスプレイ10に表示したが、較正指標を提示する方法はこれに限定されない。例えば、実空間上にレーザポイント等で較正指標を表示させてもよい。さらには、カメラ等を用いて周辺に存在する物体(例えば、人の顔等)から較正指標を選択し、当該較正指標をユーザに認識させるための音声情報を出力するようにしてもよい。つまり、較正指標提示部103は、ユーザが較正指標を特定するための情報を出力するものであればどのようなものであってもよい。
【0157】
較正パラメータ計算部105は、サッケード検出部104からのサッケード検出信号を受けると、眼電位変化量と較正指標位置とを用いて較正パラメータの更新を行う。較正パラメータの一つである較正係数αの計算例を示す。まず、較正パラメータ計算部105は、較正指標位置情報と、ユーザと較正指標が表示された物体(典型的には、ディスプレイ)との距離情報等とを用いて、較正指標を見た場合のユーザの眼球移動角θを求める。そして、入力された眼電位変化量Vcおよび眼球移動角θを(式16)に代入することにより、較正係数αを求めることができる。なお、ユーザとディスプレイとの距離情報の取得方法は特に限定されないが、例えば、測距センサ等を用いてもよいし、ディスプレイから予め定められた距離だけ離れた位置にユーザを立たせてから較正パラメータ更新指示を出力するようにしてもよい。
【0158】
次に、図15を参照して、実施の形態2に係る視線検出装置100が較正パラメータを更新する手順を説明する。この視線検出装置100は、外部から較正パラメータ更新指示が入力されたことを契機として、新たな較正パラメータを計算する。
【0159】
まず、視線検出装置100は、較正パラメータ更新指示の入力を監視する(S1001)。この較正パラメータ更新指示は、較正パラメータ更新指示部102から較正指標提示部103及びスイッチ106に送信される。較正パラメータ更新指示の入力方法は特に限定されないが、例えば、較正パラメータ更新指示部102がユーザからの指示を受け付けてもよいし、視線検出装置100の電源投入時等の所定のタイミングで自動的に当該指示を発行してもよい。
【0160】
次に、較正パラメータ更新指示を受け付けた較正指標提示部103(S1001でYes)は、ユーザに対して第1の較正指標20を提示する(S1002)。また、較正指標提示部103は、第1の較正指標20の位置情報を較正パラメータ計算部105に通知する。同様に、較正パラメータ更新指示を受け付けたスイッチ106は、眼電位原信号の出力先を較正部101からサッケード検出部104に切り替える。
【0161】
次に、サッケード検出部104は、スイッチ106を経由して入力される眼電位原信号中にサッケード信号が含まれているか否かを監視する(S1003)。ディスプレイ10上に第1の較正指標20が表示されると、ユーザの視線が任意の位置から第1の較正指標20に移動する。このときにサッケード信号が現れる。
【0162】
なお、サッケード信号の検出方法は特に限定されないが、例えば、最大値フィルタ、最小値フィルタ、遅延器等を利用して検出する方法がある。詳細は後述する。サッケード信号が検出されると(S1003でYes)、サッケード検出部104は、較正指標提示部103にサッケード検出信号を出力する。同様に、較正パラメータ計算部105にサッケード検出信号及び眼電位変化量Va-bを出力する。
【0163】
次に、サッケード検出信号を受け付けた較正指標提示部103は、ユーザに対して全ての較正指標を提示したか否かを判断する(S1004)。提示すべき較正指標の数は予め定められていてもよいし、ユーザに対して較正指標の提示を継続するか否かを問い合わせるようにしてもよい。なお、実施の形態2においては、提示すべき較正指標が2個であるとして説明する。
【0164】
現時点では第1の較正指標20しか提示していないので(S1004でNo)、較正指標提示部103は、次の較正指標を提示する(S1002)。具体的には、第1の較正指標20をディスプレイ10上から削除すると共に、第2の較正指標30をディスプレイ10上に表示させる。また、第2の較正指標30の位置情報を較正パラメータ計算部105に通知する。
【0165】
次に、サッケード検出部104は、眼電位原信号中にサッケード信号が含まれているか否かを監視する(S1003)。第2の較正指標30がディスプレイ10上に表示されると、ユーザの視線が第1の較正指標20から第2の較正指標30に移動する。このときにサッケード信号が現れる。
【0166】
サッケード信号を検出したサッケード検出部104は、前回と同様に、サッケード検出信号及び眼電位変化量Va-bを出力する。また、第2の較正指標30を提示した後のS1004において、較正指標提示部103は、全ての較正指標を提示したと判断する(S1004でYes)。
【0167】
次に、較正パラメータ計算部105は、較正指標提示部103から受信した第1及び第2の較正指標20、30の位置情報と、サッケード検出部104から受信した第2の較正指標30を出力した後の眼電位変化量Va-bとに基づいて、新たな較正パラメータを計算する(S1005)。具体的には、較正パラメータ計算部105は、第1及び第2の較正指標20、30の位置情報から眼球移動角θを算出する。そして、較正パラメータ計算部105は、眼電位変化量Va-bと眼球移動角θとを(式16)に代入して、較正係数αを得る。
【0168】
なお、実施の形態2では較正パラメータの更新例として較正係数αの計算方法について説明したが、較正パラメータの更新方法はこれに限定されない。例えば、較正パラメータ計算部105に入力された眼電位変化量と、眼球移動角や較正指標位置とを用いて、図10及び図11に示すような対応する眼電位変化量と眼球移動角や視線位置との組み合わせを複数保持するテーブルを更新しても構わない。この場合、提示すべき較正指標の総数を増やすことにより、図10及び図11のテーブルのレコード数が増加するので、より信頼性の高い較正パラメータを得ることができる。
【0169】
以上に示した実施の形態2の構成によれば、眼電位原信号からサッケード信号を検出し、サッケード運動中に発生した眼電位の変化量を用いて較正パラメータの更新を行う。その結果、従来方式の課題であったドリフトの影響を受けずに正しく較正パラメータを求めることができる。
【0170】
また、ユーザのサッケードを誘発しながら較正パラメータを更新することができる。その結果、ユーザは較正指標を眼で追うだけでよく、較正時のユーザの負担を軽減することができる。
【0171】
また、較正パラメータを、図10及び図11に示されるようなテーブルとして保持することにより、較正時間を短縮することができる。
【0172】
また、較正パラメータを眼電位変化量Va-bと眼球移動角θとの関数の傾き(較正係数α)として保持することにより、メモリを削減できる。
【0173】
なお、サッケード検出部104において、高域通過フィルタによってサッケード信号を検出してもよい。なお、サッケード信号は、上記の視線検出装置100に限らず、医療機器、運転支援機器、およびユーザインタフェース等の分野において、ユーザの眼球運動や状態を検出する上で広く利用されている。そのため、高精度かつ簡易にサッケード信号を検出することは非常に有効である。
【0174】
また、(式16)の代わりに、(式5)に示した眼電位モデルを用いることも可能である。この場合には、較正パラメータ計算部105は、実施の形態1に示したモデルパラメータ推定方法に従い、所定係数α1、α2、α3、α4を算出する。
【0175】
<2.2.1 サッケード検出方法その1(MIN/MAXフィルタ)>
図16は、本発明の実施の形態2に係るサッケード検出部200の構成を表すブロック図である。図16に示されるサッケード検出部200は、眼電位原信号に最大値フィルタ処理を適用する最大値フィルタ部(第1のフィルタ処理部)201と、眼電位原信号に最小値フィルタ処理を適用する最小値フィルタ部(第2のフィルタ処理部)202と、減算部203とを備える。
【0176】
より具体的には、最大値フィルタ部201と最小値フィルタ部202とが並列に接続されている。最大値フィルタ部201は、眼電位原信号に最大値フィルタ処理を施して第1の眼電位信号を出力する。最小値フィルタ部202は、眼電位原信号に最小値フィルタ処理を施して第2の眼電位信号を出力する。そして、減算部203は、第1の眼電位信号から第2の眼電位信号を減算して出力信号を生成する。
【0177】
なお、本発明は、眼球の左右に電極を貼付する場合や、眼から離れた位置に電極を貼付する計測方法のように、ユーザのまばたき成分が眼電位原信号に混入されない場合を対象としており、そのような計測方法時のサッケード信号の検出に関して説明する。
【0178】
次に、図16の最大値フィルタ部201の処理について説明する。最大値フィルタ部201は、眼電位原信号f(x)に対し、以下のフィルタ処理を適用する。
【0179】
fmax(x)=max(fmax(x),f(x+i))
nが奇数の場合(−n/2<i<n/2)
nが偶数の場合(−n/2≦i<n/2)または(−n/2<i≦n/2)
【0180】
ここで、fmax(x)は最大値フィルタ処理適用後の眼電位信号、nはフィルタタップ数、iは整数である。また、max(a,b)はa及びbのうち大きい方の値を返す関数である。つまり、最大値フィルタ処理は、眼電位原信号中の任意のサンプルf(x)を中心とするnサンプルのうちの最も振幅の大きいサンプル値を出力する。この処理を眼電位原信号の全てのサンプルについて実行することにより、第1の眼電位信号を得ることができる。
【0181】
上記フィルタ処理を、図12の眼電位原信号に適用した例を図17に示す。なお、眼電位原信号からサッケード信号を検出するために、最大値フィルタ処理の単位処理間隔を0.25秒としている。単位処理間隔は、1回の最大値フィルタ処理の対象となるサンプルが含まれる時間間隔を示す。また、最大値フィルタ部201のフィルタタップ数nは、単位処理間隔(0.25秒)に含まれるサンプル数である。すなわち、フィルタタップ数nは、単位処理間隔と、眼電位原信号をA/D変換する際のサンプリング周波数とに基づいて算出することができる。
【0182】
図17に示すように、眼電位原信号に最大値フィルタ処理を適用すると、正の信号は時間方向に広がり、負の信号は時間方向に狭くなる。ただし、最大値フィルタ部201の単位処理間隔を一般的な1回の固視時間(0.3秒から0.4秒程度)より大きくすると、図18に示されるように、負の方向のサッケード波形が破綻する。図18は、単位処理間隔を1.0秒として最大値フィルタ処理を実行した例である。図18のようにサッケード波形が破綻すると、サッケード信号を検出できなくなるため、最大値フィルタ部201の単位処理間隔は、一般的な1回の固視時間より短くする必要がある。
【0183】
なお、実施の形態2では、最大値フィルタ処理の単位処理間隔を0.25秒とした例を示したが、一般的な1回の固視時間より短ければどのような値であってもよい。
【0184】
次に最小値フィルタ部202の処理について説明する。最小値フィルタ部202は、眼電位原信号f(x)に対して、以下のフィルタ処理を適用する。
【0185】
fmin(x)=min(fmin(x),f(x+i))
nが奇数の場合(−n/2<i<n/2)
nが偶数の場合(−n/2≦i<n/2)または(−n/2<i≦n/2)
【0186】
ここで、fmin(x)は最小値フィルタ処理適用後の眼電位信号、nはフィルタタップ数、iは整数である。また、min(a,b)はa及びbのうち小さい方の値を返す関数である。つまり、最小値フィルタ処理は、眼電位原信号中の任意のサンプルf(x)を中心とするnサンプルのうちの最も振幅の小さいサンプル値を出力する。この処理を眼電位原信号の全てのサンプルについて実行することにより、第2の眼電位信号を得ることができる。
【0187】
上記フィルタ処理を、図12の眼電位原信号に適用した例を図19に示す。
【0188】
図19では、眼電位原信号からサッケード信号を検出するために、最小値フィルタ処理の単位処理間隔を0.25秒としている。
【0189】
図19に示すように、眼電位原信号に最小値フィルタ処理を適用すると、正の信号は時間方向に狭くなり、負の信号は時間方向に広がる。ここで、最小値フィルタ部202の単位処理間隔を一般的な1回の固視時間より大きくすると、図20に示されるように、正の方向のサッケード波形が破綻する。図20は、単位処理間隔を1.0秒として最小値フィルタ処理を実行した例である。図20のようにサッケード波形が破綻すると、サッケード成分を検出できなくなるため、最小値フィルタ部202の単位処理間隔は、一般的な1回の固視時間より短くする必要がある。
【0190】
なお、実施の形態2では、最小値フィルタ部の単位処理間隔を0.25秒とした例を示したが、一般的な1回の固視時間より短ければ、どのような値であってもよい。
【0191】
次に、減算部203の処理について説明する。減算部203は、最大値フィルタ部201から出力される第1の眼電位信号fmax(x)から、最小値フィルタ部202から出力される第2の眼電位信号fmin(x)を減算することにより、サッケード信号の抽出を行う。
【0192】
図17に示される第1の眼電位信号と、図19に示される第2の眼電位信号との差分をとった信号を図13に示す。図13を参照すれば、サッケードの発生した時間帯を含む検出信号が得られていることがわかる。
【0193】
サッケード検出部200は、図13に示されるような出力信号に基づいてサッケード検出信号及び眼電位変化量を生成し、較正指標提示部103及び較正パラメータ計算部105に出力する。例えば、サッケード運動に要する時間に相当する時間内におけるサンプル値の変化量が予め定めた閾値を上回った場合にサッケード運動が発生したと判定し、サッケード検出信号を出力する。また、このときのサンプル値の変化量を眼電位変化量として出力する。
【0194】
なお、実施の形態2では、最大値フィルタ部201及び最小値フィルタ部202を用いたが、最大値や最小値に近い値を選択するフィルタを使用しても構わない。その場合、最大値・最小値に対して、90%程度の値を選択するものであることが望ましい。
【0195】
また、実施の形態2では、最大値フィルタ部201及び最小値フィルタ部202の単位処理間隔(フィルタタップ数)を同じ値に設定した例を示したが、異なる値を設定してもよい。
【0196】
以上に示した実施の形態2の構成によれば、眼電位原信号に最大値フィルタ処理と最小値フィルタ処理とをそれぞれ適用し、最大値フィルタ処理適用後の第1の眼電位信号から最小値フィルタ処理適用後の第2の眼電位信号を減算してサッケード信号を検出する。
【0197】
なお、この他、最大値フィルタ処理適用後の信号から眼電位原信号を減算する方法、眼電位原信号から最小値フィルタ処理適用後の信号を減算する方法がある。これらの場合、検出されるサッケード信号の時刻が本来の時刻と多少前後する場合があるが、キャリブレーションが目的であれば、それほど問題にならない。
【0198】
以上により、サッケードの発生時刻を含んだサッケード信号を簡易に取得できる。
【0199】
<2.2.2 サッケード検出方法その2(遅延器)>
次に、実施の形態2に係るサッケード検出部の他の例として、サッケード検出部500のブロック図を図21に示す。
【0200】
実施の形態2に係るサッケード検出部500は、遅延信号生成部501と、減算部203とで構成される。遅延信号生成部501は、眼電位原信号を所定の時間遅延させて遅延信号を出力する。また、サッケード検出部500に入力する眼電位原信号は、2つに分岐する。そして、一方は遅延信号生成部501を通過して遅延信号として減算部203に入力し、他方は減算部203に直接入力する。そして、減算部203は、眼電位原信号から遅延信号を減算してサッケード信号を出力する。この遅延信号生成部501を備えることによって、正負の符号付のサッケード信号を簡易に取得できる。
【0201】
図21に示される遅延信号生成部501の処理について説明する。遅延信号生成部501は、眼電位原信号f(x)に対し、以下の処理を適用する。
【0202】
fdelay(x)=f(x−t)
ここで、fdelay(x)は遅延処理後の眼電位原信号(遅延信号)、tは遅延時間である。上記遅延処理を、図12に示される眼電位原信号に適用することによって遅延信号が得られる。そして、減算部203によって、眼電位原信号から遅延信号を減算した例を図22に示す。なお、眼電位原信号から符号付のサッケード成分を検出するために、遅延時間t=0.25秒としている。図22を参照すれば、サッケードの発生した時間帯を含む符号付のサッケード信号が得られていることがわかる。
【0203】
このサッケード検出部500は、図22に示されるような減算部203からの出力信号に基づいてサッケード検出信号及び眼電位変化量を生成し、較正指標提示部103及び較正パラメータ計算部105に出力する。例えば、サッケード運動に要する時間に相当する時間内においてサンプル値の変化量が予め定めた閾値を上回った場合にサッケード運動が発生したと判定し、サッケード検出信号を出力する。また、このときのサンプル値の変化量を眼電位変化量として出力する。
【0204】
ここで、遅延時間tを一般的な1回の固視時間(0.3秒から0.4秒程度)より大きくすると、図23に示されるように、サッケード信号が破綻する。図23は、遅延時間tとして1.1秒を用いた例である。図23のようにサッケード信号が破綻すると、サッケード信号を抽出できなくなるため、遅延信号生成部501の遅延時間tは、一般的な1回の固視時間より短くする必要がある。なお、実施の形態2では、0.25秒の遅延時間を適用する例を示したが、一般的な1回の固視時間より短い遅延時間であれば、どのような値でも構わない。
【0205】
以上に示した実施の形態2の構成によれば、眼電位原信号から遅延信号を生成し、眼電位原信号から遅延信号を減算して符号付のサッケード信号を検出するため、正負のサッケード信号を区別できる点において有効である。
【0206】
<2.3 まばたき信号除去方法>
次に、まばたきの影響を考慮した較正方法を説明する。
【0207】
ユーザがまばたきを行うと、図24中の領域(a)に示すように、正の方向に急峻な電位(これが「まばたき信号」である)が発生する場合がある。このため、上記方法のみでは、サッケード信号のみを抽出できず、較正精度が劣化する場合がある。
【0208】
そこで、まず、最小値フィルタを適用することで、図25に示すように、まばたき信号が除去される。しかしながら、これだけでは、サッケード運動による電圧変化(サッケード成分)部が変形してしまう。そこで、さらに最大値フィルタを適用することで、図26に示すようにサッケード成分を復元する。
【0209】
なお、電極貼り付け位置によっては、まばたき信号の符号が負になる場合がある。負の場合には、最大値フィルタおよび最小値フィルタの適用順序を逆にすればよい。
【0210】
また、最小値フィルタおよび最大値フィルタのフィルタ長を、一般的な1回のまばたきの時間(0.15秒から0.2秒程度)より長く、かつ、1回の固視時間(0.3秒から0.4秒程度)より短い値とするとよい。
【0211】
また、まばたき信号の除去だけを目的とする場合には、最小値フィルタおよび最大値フィルタのどちらか一方のみを適用してもよい。
【0212】
以上により、まばたき信号を除去した信号を、眼電位原信号として、図4に示されるスイッチ106に入力する。これにより、まばたきの影響を受けずに、高精度に較正を行うことができる。このまばたき信号の除去は、視線検出装置100の外部に設けられた図示しないまばたき信号除去部により実行される。
【0213】
(実施の形態3)
次に、実施の形態3に係るサッケード検出装置のブロック図を図27に示す。実施の形態3は、眼電位原信号を多チャンネルで計測する際のサッケード検出装置に関するものである。このサッケード検出装置は、図9に示した実施の形態2に係る視線検出装置100のサッケード検出部104の代わりに用いられる。
【0214】
実施の形態3に係るサッケード検出装置は、多チャンネルの眼電位原信号から合成信号を生成する合成信号生成部2001と、サッケード検出部2000とで構成される。
【0215】
合成信号生成部2001は、例えば、入力された眼電位原信号EOG0ch〜EOGNchのうち、眼球運動に対して眼電位が同位相で計測される計測チャンネルを用いて加算平均をとり、加算平均をした同位相同士を減算して差動増幅することで合成信号を生成することが考えられる。具体的な処理手順を図28に示す。
【0216】
まず、眼電位が同位相となる計測チャンネルのグルーピングを行う(S10001)。ここで、眼電位が同位相であるかどうかは、例えば、顔の右側、左側等の計測位置によって判断することができる。なお、計測位置だけではなく、計測された眼電位信号の特徴から動的に判別しても構わない。次に、グルーピングされた各グループの加算平均をそれぞれ計算する(S10002)。そして、加算平均した各グループの同位相信号をグループ間で減算することで差動増幅を行い(S10003)、合成信号として出力する(S10004)。
【0217】
サッケード検出部2000は合成信号生成部2001が生成した合成信号を用いてサッケード検出信号を生成する。サッケード検出信号の生成の仕方は実施の形態2のサッケード検出部104と同様である。
【0218】
このサッケード検出部2000は、サッケード検出信号および振幅情報を生成し、図9に示す較正指標提示部103、較正パラメータ計算部105に出力する。例えば、サッケード運動に要する時間に相当する時間内におけるサンプル値の変化量が予め定めた閾値を上回った場合にサッケード運動が発生したと判定し、サッケード検出信号を出力する。また、このときのサンプル値の変化量を振幅情報(眼電位変化量)として出力する。
【0219】
以上に示した実施の形態3の構成によれば、多チャンネルの眼電位原信号から、S/N比の高い合成信号を生成し、その合成信号を用いてサッケード信号を検出するため、サッケード検出の精度を向上できる点において有効である。
【0220】
(実施の形態4)
次に、図29及び図30を参照して、本発明の実施の形態4に係るウェアラブルカメラ1600を説明する。このウェアラブルカメラ1600は、例えば、ユーザの側頭部に装着され、ユーザの視線方向の映像を撮像する装置である。具体的には、ウェアラブルカメラ1600は、撮像部1601と、撮像制御部1602と、視線検出装置1603とを備える。
【0221】
ウェアラブルカメラ1600は、例えば、静止画を撮影するカメラであってもよいし、動画を撮影するビデオカメラであってもよい。視線検出装置1603には、例えば、実施の形態1に係る視線検出装置1または実施の形態2に係る視線検出装置100を適用することができる。また、実施の形態4における眼電位計測部としての電極は、図30に示されるように、ユーザの左眼のこめかみの上下に添付されている。
【0222】
そして、撮像制御部1602は、視線検出装置1603からの出力信号を監視し、ユーザの視線の移動に追従して撮像部1601の向きを変えさせる。これにより、撮像部1601にユーザの視線方向を撮像させることができる。
【0223】
ただし、実施の形態4に係るウェアラブルカメラ1600は、上記の用途に限定されない。他の用途としては、撮像部1601で撮像された映像上に、視線検出装置1603で検出されたユーザの視線位置をプロットするような装置や、運転中のドライバーの視線を検出して危険喚起を行う等の装置に適用することもできる。
【0224】
(実施の形態5)
次に、図31および図32を参照して、本発明の実施の形態5に係るヘッドマウントディスプレイ1700を説明する。このヘッドマウントディスプレイ1700は、例えば、めがね形状を有しており、ユーザの眼前に画像を表示し、表示された画像上に示されているマウスをユーザの視線方向に移動させる装置である。具体的には、ヘッドマウントディスプレイ1700は、表示部1701と、表示制御部1702と、視線検出装置1703とを備える。
【0225】
図33に示すように、表示部1701には、各種画像が表示されており、その画像上にマウス1704が表示されているものとする。視線検出装置1703には、例えば、実施の形態1に係る視線検出装置1または実施の形態2に係る視線検出装置100を適用することができる。
【0226】
そして、表示制御部1702は、視線検出装置1703からの出力信号を監視し、ユーザの視線の移動に追従して表示部1701に表示されているマウス1704を移動させる。これにより、例えば、処理実行部(図示せず)は、マウス1704が指し示すアイコン1705に対応付けられた処理(図33の例では、映像再生処理)を実行することができる。
【0227】
(実施の形態6)
次に、図34および図35を参照して、本発明の実施の形態6に係る電子めがね1800を説明する。この電子めがね1800は、ユーザの視線位置に合わせてレンズの焦点を変化させることができるめがねである。具体的には、電子めがね1800は、レンズ1801と、焦点制御部1802と、視線検出装置1803とを備える。
【0228】
レンズ1801は、ユーザの眼前に位置し、電子的に焦点を変化させることができるレンズである。
【0229】
視線検出装置1803には、例えば、実施の形態1に係る視線検出装置1または実施の形態2に係る視線検出装置100を適用することができる。
【0230】
そして、焦点制御部1802は、視線検出装置1803からの出力信号を監視し、ユーザの視線の移動に追従してレンズ1801の焦点を変化させる。例えば、ユーザが書籍を読むなどのために近くを見ている場合には、焦点制御部1802は、近くに焦点が合うようにレンズ1801の焦点を制御する。また、ユーザが遠くの風景を見ている場合には、焦点制御部1802は、遠くに焦点が合うようにレンズ1801の焦点を制御する。
【0231】
なお、本実施の形態においては、ユーザの左眼および右眼は同一点を注視しているものとする。このため、視線検出装置1803は、眼電位から視線位置を検出することができる。
【0232】
(他の実施の形態)
上記実施の形態において、各ブロックは、LSIなどの半導体装置により個別に1チップ化されてもよいし、一部または全部を含むように1チップ化されてもよい。なお、ここでは、LSIとしたが、集積度の違いにより、IC、システムLSI、スーパーLSI、ウルトラLSIと呼称されることもある。
【0233】
また、集積回路化の手法はLSIに限るものではなく、専用回路または汎用プロセサで実現してもよい。LSI製造後に、プログラムすることが可能なFPGA(Field Programmable Gate Array)や、LSI内部の回路セルの接続や設定を再構成可能なリコンフィギュラブル・プロセッサーを利用してもよい。
【0234】
さらには、半導体技術の進歩または派生する別技術によりLSIに置き換わる集積回路化の技術が登場すれば、当然、その技術を用いて機能ブロックの集積化を行ってもよい。バイオ技術の適用等が可能性としてあり得る。
【0235】
また、上記実施の形態の各処理をハードウェアにより実現してもよいし、ソフトウェアにより実現してもよい。さらに、ソフトウェアおよびハードウェアの混在処理により実現してもよい。なお、上記実施の形態に係るウェアラブルカメラをハードウェアにより実現する場合、各処理を行うためのタイミング調整を行う必要があるのは言うまでもない。上記実施の形態においては、説明便宜のために、実際のハードウェア設計で生じる各種信号のタイミング調整の詳細については省略している。
【0236】
上記実施の形態の各処理をソフトウェアにより実現する場合には、CPU、RAM等の一般的な構成を有するコンピュータ上でプログラムを実行することにより、各処理が実現される。このようなプログラムは、コンピュータ読み取り可能な非一時的な記録媒体に記録されていてもよい。
【0237】
図36は、本発明の必須の構成要素を示す図であり、本発明を眼電位推定装置として実現した場合には、眼電位推定装置は、距離取得部11と、眼電位理論値算出部13とを備える。距離取得部11および眼電位理論値算出部13は、図1の距離取得部11および眼電位理論値算出部13とそれぞれ同様の構成を有する。
【0238】
なお、本発明の具体的な構成は、前述の実施の形態に限られるものではなく、発明の要旨を逸脱しない範囲で種々の変更および修正が可能である。
【産業上の利用可能性】
【0239】
本発明の眼電位推定装置によれば、高精度に眼電位を算出することができるので、電気生理学分野における眼電位の解析などに応用できる。また、本発明の視線検出装置によれば、奥行き方向も含めた3次元視線位置(注視点)を高精度に検出することができるので、ウェアラブル機器(ウェアラブルカメラ、ヘッドマウントディスプレイ、電子めがね焦点制御)のインタフェースなど、様々な機器への応用が期待される。
【符号の説明】
【0240】
1、100、1603、1703、1803 視線検出装置
10 ディスプレイ
11 距離取得部
12 モデルパラメータ推定部
13 眼電位理論値算出部
14 眼電位取得部
15 視線検出部
20 第1の較正指標
30 第2の較正指標
101 較正部
102 較正パラメータ指示部
103 較正指標提示部
104、200、500、2000 サッケード検出部
105 較正パラメータ計算部
106 スイッチ
201 最大値フィルタ部
202 最小値フィルタ部
203 減算部
501 遅延信号生成部
1000、4002、4005、4006 電極
1001 右眼角膜電荷
1002 右眼網膜電荷
1003 左眼角膜電荷
1004 左眼網膜電荷
1005 不均一な誘電率空間
1600 ウェアラブルカメラ
1601 撮像部
1602 撮像制御部
1700 ヘッドマウントディスプレイ
1701 表示部
1702 表示制御部
1704 マウス
1705 アイコン
1801 レンズ
1802 焦点制御部
2001 合成信号生成部
3000 モニタ
3001 両眼の中心
3002 中心位置
3003 基準指標
3004 較正指標
3005 ユーザ
4001 めがね
4003 鼻パッドの位置
4004 フレームが耳に接触する位置

【特許請求の範囲】
【請求項1】
生体に発生する眼電位の理論値を推定する眼電位推定装置であって、
右眼角膜および右眼網膜のそれぞれから任意の3次元空間位置までの距離である右眼角膜距離および右眼網膜距離と、左眼角膜および左眼網膜のそれぞれから前記任意の3次元空間位置までの距離である左眼角膜距離および左眼網膜距離とを取得する距離取得部と、
前記距離取得部が取得した前記右眼角膜距離、前記右眼網膜距離、前記左眼角膜距離および前記左眼網膜距離を、右眼角膜距離、右眼網膜距離、左眼角膜距離および左眼網膜距離から前記任意の3次元空間位置に発生する眼電位理論値を算出するための関数である眼電位モデルの入力とすることにより、前記任意の3次元空間位置に発生する眼電位理論値を算出する眼電位理論値算出部と
を備える眼電位推定装置。
【請求項2】
前記距離取得部は、左眼の注視点および右眼の注視点が同一点であると仮定することにより、両眼の平行運動成分と、両眼から注視点までの奥行き距離または両眼の輻輳運動成分とから、前記右眼角膜距離、前記右眼網膜距離、前記左眼角膜距離および前記左眼網膜距離を算出する
請求項1記載の眼電位推定装置。
【請求項3】
前記眼電位モデルは、右眼角膜距離、右眼網膜距離、左眼角膜距離および左眼網膜距離のそれぞれに対して個別に設定可能である所定係数を含む
請求項1または2記載の眼電位推定装置。
【請求項4】
前記眼電位モデルは、右眼角膜距離、右眼網膜距離、左眼角膜距離および左眼網膜距離をそれぞれr1、r2、r3およびr4とし、右眼角膜距離、右眼網膜距離、左眼角膜距離および左眼網膜距離を眼電位に変換するための関数をそれぞれf1、f2、f3およびf4とし、右眼角膜距離、右眼網膜距離、左眼角膜距離および左眼網膜距離のそれぞれに設定可能な所定係数をα1、α2、α3およびα4とし、眼電位理論値を
【数1】

とするとき、
【数2】

であり、
α1およびα2は同時に0とはならず、α3およびα4は同時に0とはならない
請求項3記載の眼電位推定装置。
【請求項5】
前記眼電位モデルは、
【数3】

である
請求項4記載の眼電位推定装置。
【請求項6】
さらに、
複数の視線位置のそれぞれにおいて、互いに異なる位置に配置された複数の電極のそれぞれにおいて発生する前記眼電位モデルを用いて算出される理論電圧と、前記複数の電極における観測電圧との差が最小になるような前記所定係数α1、α2、α3およびα4を推定するモデルパラメータ推定部を備える
請求項4記載の眼電位推定装置。
【請求項7】
前記モデルパラメータ推定部は、
複数の電極i(i=1,…,N)のそれぞれに対し、M個の異なる視線位置θj(j=1,…,M)における観測電圧をΔvi=(Δvi,1,…,Δvi,Mt、右眼角膜距離、右眼網膜距離、左眼角膜距離および左眼網膜距離のそれぞれに設定可能な前記所定係数をαi=(αi,1,αi,2,αi,3,αi,4t、右眼角膜距離、右眼網膜距離、左眼角膜距離および左眼網膜距離をそれぞれri,j,1,ri,j,2,ri,j,3,ri,j,4、右眼角膜距離、右眼網膜距離、左眼角膜距離および左眼網膜距離を変換するための関数をfi,1,fi,2,fi,3,fi,4とするとき、行列Aiを、
【数4】

とし、
基準電極Rに対し、前記M個の異なる視線位置θj(j=1,…,M)における右眼角膜距離、右眼網膜距離、左眼角膜距離および左眼網膜距離のそれぞれに設定可能な前記所定係数をαR=(αR,1,αR,2,αR,3,αR,4t、右眼角膜距離、右眼網膜距離、左眼角膜距離および左眼網膜距離をそれぞれrR,j,1,rR,j,2,rR,j,3,rR,j,4、右眼角膜距離、右眼網膜距離、左眼角膜距離および左眼網膜距離を変換するための関数をfR,1,fR,2,fR,3,fR,4とするとき、行列AR
【数5】

とするとき、
【数6】

により前記複数の電極および前記基準電極に対する前記所定係数αiおよびαRをそれぞれ求める
請求項6記載の眼電位推定装置。
【請求項8】
前記モデルパラメータ推定部は、眼電位の計測対象である生体に対して前後方向の眼球運動における、前記複数の電極における観測電圧を用いて、前記所定係数α1、α2、α3およびα4を推定する
請求項6または7記載の眼電位推定装置。
【請求項9】
前記モデルパラメータ推定部は、サッケード運動を行うことにより取得される前記複数の電極における観測電圧を用いて、前記所定係数α1、α2、α3およびα4を推定する
請求項6〜8のいずれか1項記載の眼電位推定装置。
【請求項10】
前記眼電位モデルは、眼電位理論値とユーザの視線方向との対応関係を示したルックアップテーブルを用いて構成される
請求項1〜9のいずれか1項記載の眼電位推定装置。
【請求項11】
さらに、
ユーザの両眼の間に配置され、眼電位を測定し、眼電位原信号を出力する少なくとも1つの電極を備える
請求項1〜10のいずれか1項記載の眼電位推定装置。
【請求項12】
前記少なくとも1つの電極は、めがねのフレームに内蔵され、めがねが皮膚と接触する位置に配置されている複数の電極を含む
請求項11記載の眼電位推定装置。
【請求項13】
さらに、
耳の前後に配置され、眼電位を測定し、眼電位原信号を出力する複数の電極を備える
請求項1〜10のいずれか1項記載の眼電位推定装置。
【請求項14】
眼電位算出装置により、生体に発生する眼電位の理論値を算出する眼電位算出方法であって、
右眼角膜および右眼網膜のそれぞれから任意の3次元空間位置までの距離である右眼角膜距離および右眼網膜距離と、左眼角膜および左眼網膜のそれぞれから前記任意の3次元空間位置までの距離である左眼角膜距離および左眼網膜距離とを取得する取得ステップと、
前記取得ステップにおいて取得された前記右眼角膜距離、前記右眼網膜距離、前記左眼角膜距離および前記左眼網膜距離を、右眼角膜距離、右眼網膜距離、左眼角膜距離および左眼網膜距離から前記任意の3次元空間位置に発生する眼電位理論値を算出するための関数である眼電位モデルの入力とすることにより、前記任意の3次元空間位置に発生する眼電位理論値を算出する算出ステップと
を含む眼電位算出方法。
【請求項15】
眼電位からユーザの視線方向を検出する視線検出装置であって、
眼球運動によって生じる眼電位を測定し、眼電位原信号を出力する眼電位測定部と、
ユーザに対して較正指標を提示する較正指標提示部と、
前記較正指標提示部によって提示された前記較正指標にユーザの視線位置が移動する際の眼球の急速な運動であるサッケード運動を前記眼電位原信号から検出し、前記サッケード運動の前後における眼電位の変化量である眼電位変化量を出力するサッケード検出部と、
前記較正指標提示部によって提示された前記較正指標の位置、及び前記サッケード検出部から出力された前記眼電位変化量に基づいて、右眼角膜および右眼網膜のそれぞれから任意の3次元空間位置までの距離である右眼角膜距離および右眼網膜距離と、左眼角膜および左眼網膜のそれぞれから前記任意の3次元空間位置までの距離である左眼角膜距離および左眼網膜距離と、右眼角膜距離、右眼網膜距離、左眼角膜距離および左眼網膜距離のそれぞれに対して個別に設定可能である所定係数とから前記任意の3次元空間位置に発生する眼電位理論値を算出するための関数である眼電位モデルの前記所定係数を計算する較正パラメータ計算部と、
前記眼電位モデルに基づいて、前記眼電位原信号からユーザの視線方向を検出する較正部と
を備える視線検出装置。
【請求項16】
前記サッケード検出部は、
前記眼電位原信号を所定の時間遅延させて遅延信号を出力する遅延信号生成部と、
前記眼電位原信号から前記遅延信号を減算して得られる出力信号を生成する減算部と、
前記出力信号のうちの予め定めた閾値を上回る信号をサッケード運動を示すサッケード信号と判定するサッケード判定部とを有し、
前記所定の遅延時間は、ユーザが前記較正指標を固視している時間より短い
請求項15記載の視線検出装置。
【請求項17】
ユーザの視線方向の映像を撮像するウェアラブルカメラであって、
撮像部と、
請求項15または16に記載の視線検出装置と、
前記視線検出装置によって検出された視線方向を前記撮像部に撮像させる撮像制御部と
を備えるウェアラブルカメラ。
【請求項18】
ユーザの視線方向にマウスを移動させるヘッドマウントディスプレイであって、
画像およびマウスを表示する表示部と、
請求項15または16に記載の視線検出装置と、
前記視線検出装置によって検出された視線方向に表示部に表示されているマウスを移動させる表示制御部と
を備えるヘッドマウントディスプレイ。
【請求項19】
ユーザの視線位置に合わせてレンズの焦点を変化させる電子めがねであって、
焦点を変化させることができるレンズと、
請求項15または16に記載の視線検出装置と、
前記視線検出装置によって検出された視線位置に合わせて前記レンズの焦点を変化させる焦点制御部と
を備える電子めがね。
【請求項20】
生体に発生する眼電位の理論値を算出するプログラムであって、
右眼角膜および右眼網膜のそれぞれから任意の3次元空間位置までの距離である右眼角膜距離および右眼網膜距離と、左眼角膜および左眼網膜のそれぞれから前記任意の3次元空間位置までの距離である左眼角膜距離および左眼網膜距離とを取得する取得ステップと、
前記取得ステップにおいて取得された前記右眼角膜距離、前記右眼網膜距離、前記左眼角膜距離および前記左眼網膜距離を、右眼角膜距離、右眼網膜距離、左眼角膜距離および左眼網膜距離から前記任意の3次元空間位置に発生する眼電位理論値を算出するための関数である眼電位モデルの入力とすることにより、前記任意の3次元空間位置に発生する眼電位理論値を算出する算出ステップと
をコンピュータに実行させるためのプログラム。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7】
image rotate

【図8】
image rotate

【図9】
image rotate

【図10】
image rotate

【図11】
image rotate

【図12】
image rotate

【図13】
image rotate

【図14】
image rotate

【図15】
image rotate

【図16】
image rotate

【図17】
image rotate

【図18】
image rotate

【図19】
image rotate

【図20】
image rotate

【図21】
image rotate

【図22】
image rotate

【図23】
image rotate

【図24】
image rotate

【図25】
image rotate

【図26】
image rotate

【図27】
image rotate

【図28】
image rotate

【図29】
image rotate

【図30】
image rotate

【図31】
image rotate

【図32】
image rotate

【図33】
image rotate

【図34】
image rotate

【図35】
image rotate

【図36】
image rotate


【公開番号】特開2011−125693(P2011−125693A)
【公開日】平成23年6月30日(2011.6.30)
【国際特許分類】
【出願番号】特願2010−255389(P2010−255389)
【出願日】平成22年11月15日(2010.11.15)
【出願人】(000005821)パナソニック株式会社 (73,050)