説明

視線追跡方法及び視線追跡システム

【課題】ユーザのスクリーンモジュール上の凝視位置の座標を正確に決定する非侵入式視線追跡システム等を提供する。
【解決手段】視線追跡方法は、ユーザがスクリーンモジュール上の凝視位置を凝視し、一組の光源がユーザの目に向かって光を発する間、画像取得モジュールによりユーザの目の画像を取得するステップと、ユーザの目の瞳孔と二つの反射光点の位置に基づいて、凝視位置に対応する角度及び面積を決定するステップと、前記角度及び前記面積に基づいて、前記凝視位置に対応する座標を決定するステップと、前記座標に関する操作を実行するステップを有する。前記視線追跡方法を実装する視線追跡システムも開示している。更に、前記視線追跡システムのための修正方法と修正モジュールも開示している。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、視線追跡方法及びシステム、特に、非侵入式視線追跡方法及びシステムに関するものである。
【背景技術】
【0002】
一般的に、視線追跡技術はユーザとコンピュータの間においてハンズフリーでやり取りを行うために適用される。特に、視線追跡技術はユーザの目の動きを検出し、検出された目の動きに基づいてユーザの目の位置を特定し、ユーザが凝視しているスクリーンモジュール上の凝視位置に対応する凝視点を決定する。
現在の視線追跡技術は、侵入式視線追跡技術と非侵入式視線追跡技術の二つの種類に分類される。
【0003】
従来の非侵入式視線追跡技術では、ユーザはインダクタ(inductance coil)が取り付けられたコンタクトレンズを装着する。しかしながら、ユーザが装着した時に、コンタクトレンズがユーザの目を刺激する。
また、他の従来の侵入式視線追跡技術では、電極をユーザの目の周囲に取り付ける。しかしながら、ユーザの目の周囲に電極を取り付けると、電極はユーザにとって不快である。
【0004】
従来の非侵入式視線追跡技術では、ユーザはカメラと光源を頭部で支える。しかしながら、ユーザの頸部に過度な負担を与え、ひいては頸部損傷につながる可能性がある。
また、他の従来の非侵入式視線追跡技術では、カメラと光源をユーザの前のテーブルのような固定支持材上に配置する。しかしながら、この技術を用いる間、ユーザは必然的にカメラ及び光源に対して頭部を動かすため、この技術により決定される凝視点は誤りがある可能性がある。
その上、特許文献1に開示されるような他の非侵入式視線追跡システムでは、まず、ユーザの頭部の事前取得3次元画像からユーザの目及び眉を特定し、次に目及び眉は、ユーザの目の位置が特定される2次元画像に変換される。しかしながら、この技術ではソフトウエア、ハードウエア実装の費用が高くなることを招く。
【0005】
更に、前述の従来の技術により決定される凝視点の精度は比較的低い。上記の問題を解決するため、凝視点を修正する方法が提案されている。この従来の修正方法では、ユーザがスクリーンモジュールの四隅をそれぞれ凝視している間のユーザの目の位置にそれぞれ対応する4点をまず設定し、事前設定した点から凝視点を補間する。
【先行技術文献】
【特許文献】
【0006】
【特許文献1】米国特許第7,197,165号公報
【発明の概要】
【発明が解決しようとする課題】
【0007】
しかしながら、上記に示す従来の方法では、凝視点の精度を向上させるが、より高い精度が凝視点に対して更に要求される。
【0008】
本発明は、前述した問題点に鑑みてなされたもので、その目的とすることは、ユーザのスクリーンモジュール上の凝視位置の座標を正確に決定する非侵入式視線追跡方法等を提供することである。
【課題を解決するための手段】
【0009】
前述した目的を達成するために、第1の発明は、視線追跡システムに実装される視線追跡方法であって、ユーザがスクリーンモジュール上の凝視位置を凝視し、一組の光源が前記ユーザの目に向かって光を発する間、前記視線追跡システムが、画像取得モジュールにより前記ユーザの目の瞳孔と、前記ユーザの目の上の第1及び第2の反射光点とを含む前記ユーザの目の画像を獲得するステップ(A)と、前記視線追跡システムが、前記ステップ(A)で獲得された前記画像内の前記瞳孔並びに前記第1及び前記第2の反射光点の位置に基づいて、前記凝視位置に対応する角度及び面積を決定するステップ(B)と、前記視線追跡システムが、前記ステップ(B)で決定された前記角度及び前記面積に基づいて、前記凝視位置に対応する前記スクリーンモジュール上の座標を決定するステップ(C)と、前記視線追跡システムが、前記ステップ(C)で決定された前記座標に関する操作を実行するステップ(D)と、を具備することを特徴とする視線追跡方法である。
【0010】
また、第2の発明は、画像分析モジュールと、座標変換モジュールと、処理モジュールとを具備する視線追跡システムであって、前記画像分析モジュールは、ユーザがスクリーンモジュール上の凝視位置を凝視し、一組の光源が前記ユーザの目に向かって光を発する間、前記ユーザの目の瞳孔と、前記ユーザの目の上の第1及び第2の反射光点とを含む前記ユーザの目の画像を、画像取得モジュールにより獲得し、獲得した前記画像内の前記瞳孔並びに前記第1及び前記第2の反射光点の位置に基づいて、前記凝視位置に対応する角度及び面積を決定し、前記画像分析モジュールに接続される前記座標変換モジュールは、前記画像分析モジュールにより決定された前記角度及び前記面積に基づいて、前記凝視位置に対応する前記スクリーンモジュール上の座標を決定し、前記座標変換モジュールに接続される前記処理モジュールは、前記座標変換モジュールにより決定された前記座標に関する操作を実行することを特徴とする視線追跡システムである。
【0011】
また、第3の発明は、視線追跡システムのための修正方法であって、前記視線追跡システムが、スクリーンモジュールを、対応する座標を有する既定位置に分割するステップ(A)と、ユーザが前記既定位置の一つを凝視し、一組の光源が前記ユーザの目に向かって光を発する間、前記視線追跡システムが、前記ユーザの目の瞳孔と、前記ユーザの目の上の第1及び第2の反射光点とを含む前記ユーザの目の画像を、画像取得モジュールにより獲得するステップ(B)と、前記視線追跡システムが、前記ステップ(B)で獲得された前記画像中の前記瞳孔並びに前記第1及び前記第2の反射光点の位置に基づいて、前記ステップ(B)でユーザが凝視していた前記既定位置に対応する角度及び面積を決定するステップ(C)と、前記視線追跡システムが、全ての前記既定位置に対応する前記角度及び前記面積を決定するまで、前記ステップ(B)及び前記ステップ(C)を繰り返すステップ(D)と、前記視線追跡システムが、前記既定位置に対応する前記角度及び前記面積と、前記既定位置の対応する前記座標とに基づいて、係数を求めるステップ(E)と、を具備し、前記視線追跡システムは、前記ステップ(E)で求めた係数と、前記ユーザが凝視位置を凝視している間、前記画像取得モジュールにより取得された前記ユーザの目の他の画像から決定された角度及び面積に基づいて、前記ユーザが凝視する前記スクリーンモジュール上の前記凝視位置に対応する前記スクリーンモジュール上の座標を決定し、決定された前記座標に関する操作を実行することを特徴とする修正方法である。
【0012】
また、第4の発明は、視線追跡システムのための修正モジュールであって、前記修正モジュールは、第1コントローラと、第2コントローラと、係数計算部を具備し、前記第1コントローラは、対応する座標をそれぞれ有する、スクリーンモジュール上の既定位置の一つを指し示し、前記第2コントローラは、ユーザが指し示された一つの前記既定位置を凝視し、一組の光源が前記ユーザの目に向かって光を発する間、前記ユーザの目の瞳孔と、前記ユーザの上の第1及び第2の反射光点とを含む前記ユーザの目の画像を取得するように画像取得モジュールを制御し、前記視線追跡システムは、前記画像取得モジュールにより取得された前記画像内の瞳孔並びに第1及び第2の反射光点の位置に基づいて、指し示された前記既定位置にそれぞれに対応する角度及び面積を決定し、前記係数計算部は、前記既定位置に対応する前記角度及び前記面積と、前記既定位置の対応する前記座標とに基づいて係数を求め、前記視線追跡システムは、更に、前記係数計算部により求められた前記係数と、前記ユーザが前記凝視点を凝視している間に前記画像取得モジュールにより取得された前記ユーザの目の他の画像から決定された角度及び面積に基づいて、ユーザが凝視している前記スクリーンモジュール上の凝視位置に対応する前記スクリーンモジュール上の座標を決定し、決定した前記座標に関する操作を実行することを特徴とする修正モジュールである。
【発明の効果】
【0013】
本発明により、ユーザのスクリーンモジュール上の凝視位置の座標を正確に決定する非侵入式視線追跡方法等を提供することができる。
【図面の簡単な説明】
【0014】
【図1】本発明の画像取得モジュール2及びスクリーンモジュール10に接続された視線追跡システム1の好適な実施形態の概略ブロック図。
【図2】ユーザがスクリーンモジュール10上の凝視位置を凝視し、一組の光源3がユーザの目に向かって光を発する間、画像取得モジュール2により取得されるユーザの目の画像を、視線追跡システム1が獲得するときの状態を示す概略図。
【図3】視線追跡システム1により18個の既定領域に分割されたスクリーンモジュール10を示す概略図。
【図4】本発明の視線追跡システム1により獲得される画像を示す概略図。
【図5】本発明の視線追跡システム1により定義される凝視点を表すグラフ。
【図6】本発明の視線追跡システム1によりスクリーンモジュール10上の座標に変換された凝視点を示す概略図。
【図7A】図1に示す本発明に係る視線追跡システム1により実装される視線追跡方法の実施形態のフローチャート。
【図7B】図1に示す本発明に係る視線追跡システム1により実装される視線追跡方法の実施形態のフローチャート。
【発明を実施するための形態】
【0015】
以下図面に基づいて、本発明に係る視線追跡方法の実施形態を詳細に説明する。尚、以下の説明及び図面において、略同一の機能構成を有する構成要素については、同一の符号を付することにより重複説明を省略することにする。
【0016】
最初に、図1を参照しながら、本発明に係る視線追跡システム1(Eye−Tracking System)について説明する。図1は、本発明の画像取得モジュール2及びスクリーンモジュール10に接続された視線追跡システム1の好適な実施形態の概略ブロック図である。
図1によると、本発明に係る視線追跡システム1の実施形態は、画像分析モジュール(image−analyzing module)4、点定義モジュール(point−defining module)5、座標変換モジュール(coordinate−converting module)6、処理モジュール(processing module)8、及び、修正モジュール(correcting module)7を有することが示されている。
【0017】
画像分析モジュール4は、画像取得モジュール(image−capturing module)2に接続され、位置特定部(position identifier)41、面積計算部(area calculator)42、角度計算部(angle calculator)43を有し、面積計算部42及び角度計算部43はそれぞれ位置特定部41に接続される。
点定義モジュール5は、画像分析モジュール4の面積計算部42及び角度計算部43に接続される。
座標変換モジュール6は、点定義モジュール5に接続される。
処理モジュール8は、座標変換モジュール6に接続される。
修正モジュール7は、スクリーンモジュール10に接続される第1コントローラ71と、第1コントローラ71及び画像取得モジュール2に接続される第2コントローラ72と、点定義モジュール5及び座標変換モジュール6に接続される係数計算部73とを有する。
【0018】
この実施の形態では、画像分析モジュール4、点定義モジュール5、座標変換モジュール6及び修正モジュール7は、それぞれソフトウエアとして実装される。
他の実施の形態では、画像分析モジュール4、点定義モジュール5、座標変換モジュール6及び修正モジュール7は、それぞれハードウエアあるいはファームウエアとして実装されてもよい。
【0019】
次に、図2、3、4、5、6、7A、7Bを参照しながら、本発明に係る前述の視線追跡システム1に実装される視線追跡方法の好適な実施の形態について説明する。
図2は、ユーザがスクリーンモジュール10上の凝視位置を凝視し、一組の光源3がユーザの目に向かって光を発する間、画像取得モジュール2により取得されるユーザの目の画像を獲得するときの状態を示す概略図、図3は、視線追跡システム1により18個の既定領域に分割されたスクリーンモジュール10を示す概略図、図4は、本発明の視線追跡システム1により獲得される画像を示す概略図、図5は、本発明の視線追跡システム1により定義される凝視点を表すグラフ、図6は、本発明の視線追跡システム1によりスクリーンモジュール10上の座標に変換された凝視点を示す概略図、図7Aは、図1に示す本発明に係る視線追跡システム1により実装される視線追跡方法の実施形態のフローチャート、図7Bは、図1に示す本発明に係る視線追跡システム1により実装される視線追跡方法の実施形態のフローチャートである。
【0020】
図3に示すように、修正モジュール7の第1コントローラ71は、スクリーンモジュール10を18個の既定位置(predefined locations)PL1〜PL18に分割する(ステップ81)。それぞれの既定位置PL1〜PL18は、対応する座標を有する。
スクリーンモジュール10は、このステップにおいて、既定位置のうちの4個(PL1、PL6、PL13、PL18)は、スクリーンモジュール10の4個の隅にそれぞれ対応し、既定位置PL1〜PL18が3×6の配列に配置されるように分割される。
【0021】
修正モジュール7の第1コントローラ71は、既定位置PL1〜PL18の一つ、例えば、既定位置PL1を指し示すようにスクリーンモジュール10を制御する(ステップ82)。
図2に示すように、ユーザが既定位置PL1を凝視し、一組の光源(light source)3がユーザの目9に向かって光を発している間、修正モジュール7の第2コントローラ72は、すなわち制御信号を送信するなどして、ユーザの目9の画像を取得するように画像取得モジュール2を制御する(ステップ83)。
図4に示すように、画像取得モジュール2により取得された画像20は、ユーザの目9の瞳孔(pupil)30と、目9上の一組の反射光点(reflected light spot)31、32を有する。
【0022】
画像分析モジュール4の位置等定期41は、画像取得モジュール2により取得された画像20を獲得する(ステップ84)。
画像分析モジュール4の位置特定部41は、ステップ84で獲得した画像20内の瞳孔30及び反射光点31、32の位置を特定する(ステップ85)。
画像分析モジュール4の角度計算部43及び面積計算部42は、ステップ85で特定された瞳孔30及び反射光点31、32の位置に基づいて、角度及び面積をそれぞれ決定する(ステップ86)。このステップで決定された角度及び面積は、既定領域PL1に対応する。
点定義モジュール5は、ステップ86で決定された角度及び面積の座標である角度面積点を定義する(ステップ87)。このステップで定義された角度面積点は、既定位置PL1に対応する。
視線追跡システム1は、全ての既定位置PL1〜PL18に対応する角度面積点が定義されるまで、ステップ82からステップ87の処理を繰り返す(ステップ88)。
【0023】
画像分析モジュール4の点定義モジュール5は、定義された角度面積点を修正モジュール7の係数計算部73に送信する(ステップ89)。
修正モジュール7の係数計算部73は、ステップ89で送信された角度面積点を受信する(ステップ90)。
係数計算部73は、ステップ90で受信した角度面積点と、既定位置PL1〜PL18の対応する座標に基づいて一連の係数を求める(ステップ91)。
このステップでは、座標システムを変換するための、例えばアフィン変換式(affine transformation equations)のような一連の方程式を用い、係数が得られる。
【0024】
図2に示すように、ユーザがスクリーンモジュール10の凝視位置(gazing location)GLを凝視し、光源3がユーザの目9に向けて光を発している間、画像分析モジュール4の位置特定部41は、画像取得モジュール2により取得されたユーザの目9の連続グレイスケール画像の一つを獲得する(ステップ92)。
画像分析モジュール4の位置特定部41は、ステップ91で獲得されたグレイスケール画像を二値画像(binary image)に変換する(ステップ93)。
図4に示すように、二値画像20はユーザの目9の瞳孔30と、ユーザの目9上の一組の反射光点31、32を有する。
【0025】
画像分析モジュール4の位置特定部41は、二値画像20内の瞳孔30及び反射光点31,32の位置を特定する(ステップ94)。
なお、ステップ93では、しきい値化を用いてグレイスケール画像を2値画像20に変換する。しきい値化では、グレイスケール画像内のピクセルは、ピクセルの値がしきい値を超えない場合は白に、ピクセルの値がしきい値を超える場合は黒に変更する。そのため、このステップでは瞳孔30及び反射光点31、32の位置を容易にかつ高速に特定することができる。
なおまた、このステップで瞳孔30及び反射光点31、32の位置を特定することを促進するため、ステップ92で赤外線エミッタ(infra−red emitter)を用いてユーザの目9に向かって赤外線を放射してもよい。
【0026】
画像分析モジュール4の角度計算部43は、ステップ94で特定した瞳孔30及び反射光点31、32の位置に基づいて角度を決定する(ステップ95)。このステップで決定する角度は、凝視位置GLに対応する。
【0027】
図4に示すように、この実施の形態ではステップ95は以下のサブステップを有する。
角度計算部43は、瞳孔30の中央301と反射光点31とを通る第1の線L1と、瞳孔30の中央301と反射光点32とを通る第2の線L2と、反射光点31、32を通る第3の線L3とを定義する(サブステップi)。
サブステップiで定義された第1の線L1と第3の線L3の間の内角θと、サブステップiで定義された第2の線L2と第3の線L3の間の外角θとを決定する(サブステップii)。
角度θは、内角θ及び外角θの平均として、すなわち式θ=(θ+θ)/2により、サブステップiで決定される。
内角θは、式θ=tan−1[(y0−y1)/(x0−x1)]に従って、サブステップiiで決定される。ここで、x0、y0は瞳孔30の中央301の座標、x1、y1は、反射光点31の座標である。
外角θは、式θ=tan−1[(y0−y2)/(x0−x2)]に従って、サブステップiiで決定される。ここで、x2、y2は、反射光点32の座標である。
【0028】
画像分析モジュール41の面積計算部42は、ステップ93で特定した瞳孔30及び反射光点31、32の位置に基づいて、面積を決定する(ステップ96)。このステップで決定する面積は、凝視位置GLに対応する。
【0029】
この実施の形態では、図4に示すように、ステップ96は、面積計算部42が瞳孔30の中央301と反射光点31、32が頂点である三角形Tを定義するサブステップを有する。
ステップ96で決定する面積Aは、すならち式A=0.5|x0(y1)+x1(y2)+x2(y0)−x1(y0)+x2(y1)+x0(y2)|である三角形Tの面積である。
【0030】
他の実施の形態では、画像取得モジュール2に対して前後へのユーザの目9の動きを考慮し、図4に示すように、ステップ96は、面積計算部42が、瞳孔30の中央301と、反射光点31、32とを頂点とする三角形Tを定義し、三角形Tの面積を決定し、例えば、反射光点31、32の間の距離の二乗の2分の1である、正規化因子(normalization factor)を決定するサブステップを有する。この場合、ステップ96では、面積は正規化因子で割った三角形Tの面積として決定される。
【0031】
図5に示すように、点定義モジュール5は、ステップ95で決定した角度θと、ステップ96で決定した面積Aとを座標とする凝視点(x,y)を定義する(ステップ97)。このステップで定義された凝視点(x,y)は、凝視位置GLに対応する。
図6に示すように、座標変換モジュール6は、ステップ97で定義した凝視点(x,y)と、ステップ91で得られた係数に基づいて、スクリーンモジュール10上の座標(u,v)を決定する(ステップ98)。このステップで決定された座標(u,v)は、凝視位置GLに対応する。
この実施の形態において、座標(u,v)はアフィン変換式を用いて決定される。
【0032】
処理モジュール8は、ステップ98で決定された座標(u,v)に関する操作を実行する(ステップ99)。
このステップでは、処理モジュール8はスクリーンモジュール10上のカーソル(図示しない)をステップ98で決定された座標(u,v)に移動させる。
なお、ステップ81からステップ91は、視線追跡システム1の最初の使用の間、あるいは、新しい一連の係数を得ることが求められるときにのみ実行され、視線追跡システム1の実際の使用中には、ステップ92からステップ99が実行される。
【0033】
実験結果によると、ステップ97で定義された一連の凝視点(x,y)及び、ステップ98で決定された一連の座標(u,v)がグラフ上にプロットされると、凝視点(x,y)は座標(u,v)とほぼ同一の形状、すなわち長方形を形成する。このことは、本発明の視線追跡方法によりステップ98で決定された座標(u,v)は非常に正確であることを示す。
【0034】
本発明は、最も実用的で好ましいと考えられる実施形態と関連付けられて説明されてきたが、本発明は、開示された実施形態に限定されず、全ての改良例と均等な変形例を包含するような最大の解釈の範ちゅうと精神の範囲内に含まれる様々な変更例を対象とすることを意図するものと了解される。
【符号の説明】
【0035】
1………視線追跡システム
2………画像取得モジュール
3………光源
4………画像分析モジュール
5………点定義モジュール
6………座標変換モジュール
7………修正モジュール
8………処理モジュール
9………目
10………スクリーンモジュール
20………二値画像
30………瞳孔
31、32………反射光点
41………位置特定部
42………面積計算部
43………角度計算部
71………第1コントローラ
72………第2コントローラ
73………係数計算部
301………瞳孔の中央

【特許請求の範囲】
【請求項1】
視線追跡システムに実装される視線追跡方法であって、
ユーザがスクリーンモジュール上の凝視位置を凝視し、一組の光源が前記ユーザの目に向かって光を発する間、前記視線追跡システムが、画像取得モジュールにより前記ユーザの目の瞳孔と、前記ユーザの目の上の第1及び第2の反射光点とを含む前記ユーザの目の画像を獲得するステップ(A)と、
前記視線追跡システムが、前記ステップ(A)で獲得された前記画像内の前記瞳孔並びに前記第1及び前記第2の反射光点の位置に基づいて、前記凝視位置に対応する角度及び面積を決定するステップ(B)と、
前記視線追跡システムが、前記ステップ(B)で決定された前記角度及び前記面積に基づいて、前記凝視位置に対応する前記スクリーンモジュール上の座標を決定するステップ(C)と、
前記視線追跡システムが、前記ステップ(C)で決定された前記座標に関する操作を実行するステップ(D)と、
を具備することを特徴とする視線追跡方法。
【請求項2】
前記ステップ(B)が、
前記視追跡システムが、前記瞳孔上の基準点と、前記第1及び前記第2の反射光点のうちのいずれか一方を通る第1の線と、前記瞳孔上の前記基準点と、前記第1及び前記第2の反射光点のうちのいずれか他方を通る第2の線と、前記第1及び前記第2の反射光点を通る第3の線と、を定義するサブステップ(b1)と、
前記視線追跡システムが、前記サブステップ(b1)で定義した前記第1及び前記第3の線の間の内角と、前記サブステップ(b1)で定義した前記第2及び前記第3の線の間の外角とを決定するサブステップ(b2)と、
を具備し、
前記ステップ(B)では、前記内角と前記外角の平均として前記角度が決定されることを特徴とする請求項1に記載の視線追跡方法。
【請求項3】
前記ステップ(B)は、
前記視線追跡システムが、前記瞳孔上の前記基準点と、前記第1及び前記第2の反射光点とを頂点とする三角形を定義するサブステップと、
を具備し、
前記ステップ(B)で決定される前記面積は、前記三角形の面積であることを特徴とする請求項1に記載の視線追跡方法。
【請求項4】
前記ステップ(B)は、
前記視線追跡システムが、前記瞳孔上の前記基準点と、前記第1及び前記第2の反射光点とを頂点とする三角形を定義するサブステップ(b1)と、
前記視線追跡システムが、前記三角形の面積を決定するサブステップ(b2)と、
前記視線追跡システムが、前記第1及び前記第2の反射光点の間の距離に基づいて、正規化因子を決定するサブステップ(b3)と、
を具備し、
前記ステップ(B)では、前記サブステップ(b2)で決定された前記三角形の面積を、前記サブステップ(b3)で決定した前記正規化因子で割ることにより、前記面積が決定されることを特徴とする請求項1に記載の視線追跡方法。
【請求項5】
前記正規化因子は、前記第1及び前記第2の反射光点の間の距離の二乗に基づくことを特徴とする請求項4に記載の視線追跡方法。
【請求項6】
前記サブステップ(b3)では、前記第1及び前記第2の反射光点の間の距離の二乗の2分の1として前記正規化因子が決定されることを特徴とする請求項5に記載の視線追跡方法。
【請求項7】
前記ステップ(C)では、前記座標は、座標システムを変換するための一連の方程式を用いて決定されることを特徴とする請求項1に記載の視線追跡方法。
【請求項8】
前記ステップ(C)で用いられる前記方程式は、アフィン変換式であることを特徴とする請求項7に記載の視線追跡方法。
【請求項9】
更に、前記視線追跡システムが、前記スクリーンモジュール上の既定位置に対応する一連の係数を求めるステップ(E)を具備し、
前記ステップ(C)では、更に、前記ステップ(E)で求められた係数に基づいて前記座標が決定されることを特徴とする請求項1に記載の視線追跡方法。
【請求項10】
前記ステップ(E)は、
前記視線追跡システムが、前記スクリーンモジュールを、それぞれが対応する座標を有する前記既定位置に分割するサブステップ(e1)と、
前記ユーザが前記既定位置の一つを凝視し、前記光源が前記ユーザの目に向かって光を発する間、前記視線追跡システムが、前記ユーザの目の前記瞳孔と、前記ユーザの目の上の一組の前記第1及び前記第2の反射光点とを含む前記ユーザの目の前記画像を、前記画像取得モジュールにより取得するサブステップ(e2)と、
前記視線追跡システムが、前記サブステップ(e2)で獲得された前記画像中の前記瞳孔並びに前記第1及び前記第2の反射光点の位置に基づいて、前記サブステップ(e2)で前記ユーザが凝視している前記既定位置に対応する前記角度及び前記面積を決定するサブステップ(e3)と、
前記視線追跡システムが、全ての前記既定位置に対応する前記角度及び前記面積を決定するまで、前記サブステップ(e2)及び前記サブステップ(e3)を繰り返すサブステップ(e4)と、
前記視線追跡システムが、前記既定位置に対応する前記角度及び前記面積と、前記既定位置の対応する前記座標とに基づいて、前記係数を求めるサブステップ(e5)と、
を具備することを特徴とする請求項9に記載の視線追跡方法。
【請求項11】
前記サブステップ(e1)では、4個の前記既定位置は、前記スクリーンモジュールの四隅にそれぞれ対応することを特徴とする請求項10に記載の視線追跡方法。
【請求項12】
前記サブステップ(e1)では、前記既定位置が行と列の配列に配置されることを特徴とする請求項10に記載の視線追跡方法。
【請求項13】
前記サブステップ(e5)では、座標システムを変換するための一連の方程式を用いて係数が求められることを特徴とする請求項10に記載の視線追跡方法。
【請求項14】
前記ステップ(D)は、
前記視線追跡システムが、前記スクリーンモジュール上のカーソルを、前記ステップ(C)で決定された前記座標に移動させるサブステップを具備することを特徴とする請求項1に記載の視線追跡方法。
【請求項15】
画像分析モジュールと、座標変換モジュールと、処理モジュールとを具備する視線追跡システムであって、
前記画像分析モジュールは、
ユーザがスクリーンモジュール上の凝視位置を凝視し、一組の光源が前記ユーザの目に向かって光を発する間、前記ユーザの目の瞳孔と、前記ユーザの目の上の第1及び第2の反射光点とを含む前記ユーザの目の画像を、画像取得モジュールにより獲得し、
獲得した前記画像内の前記瞳孔並びに前記第1及び前記第2の反射光点の位置に基づいて、前記凝視位置に対応する角度及び面積を決定し、
前記画像分析モジュールに接続される前記座標変換モジュールは、
前記画像分析モジュールにより決定された前記角度及び前記面積に基づいて、前記凝視位置に対応する前記スクリーンモジュール上の座標を決定し、
前記座標変換モジュールに接続される前記処理モジュールは、
前記座標変換モジュールにより決定された前記座標に関する操作を実行することを特徴とする視線追跡システム。
【請求項16】
前記画像分析モジュールは、更に、
前記瞳孔上の基準点と、前記第1及び前記第2の反射光点のうちのいずれか一方を通る第1の線と、前記瞳孔上の前記基準点と、前記第1及び前記第2の反射光点のうちのいずれか他方を通る第2の線と、前記第1及び前記第2の反射光点を通る第3の線と、を定義し、
前記第1及び前記第3の線の間の内角と、前記第2及び前記第3の線の間の外角とを決定し、
前記角度は、前記内角と前記外角の平均として前記画像分析モジュールにより決定されることを特徴とする請求項15に記載の視線追跡システム。
【請求項17】
前記画像分析モジュールは、更に、前記瞳孔上の前記基準点と、前記第1及び前記第2の反射光点とを頂点とする三角形を定義し、
前記画像分析モジュールが決定する前記面積は、前記三角形の面積であることを特徴とする請求項15に記載の視線追跡システム。
【請求項18】
前記画像分析モジュールは、更に、
前記瞳孔上の前記基準点と、前記第1及び前記第2の反射光点とを頂点とする三角形を定義し、
前記三角形の面積を決定し、
前記第1、前記第2の反射光点の間の距離に基づいて、正規化因子を決定し、
前記面積は、前記正規化因子で割られた前記三角形の面積として、前記画像分析モジュールにより決定されることを特徴とする請求項15に記載の視線追跡システム。
【請求項19】
前記画像分析モジュールにより決定される前記正規化因子は、前記第1及び前記第2の反射光点の間の距離の二乗に基づくことを特徴とする請求項18に記載の視線追跡システム。
【請求項20】
前記正規化因子は、前記第1及び前記第2の反射光点の間の距離の二乗の2分の1として、前記画像分析モジュールにより決定されることを特徴とする請求項19に記載の視線追跡システム。
【請求項21】
前記座標は、座標システムを変換する一連の方程式を用いて、前記座標変換モジュールにより決定されることを特徴とする請求項15に記載の視線追跡システム。
【請求項22】
前記座標変換モジュールにより用いられる前記方程式は、アフィン変換式であることを特徴とする請求項21に記載の視線追跡システム。
【請求項23】
前記視線追跡システムは、更に、前記座標変換モジュールに接続される修正モジュールを具備し、
前記修正モジュールは、前記スクリーンモジュール上の既定位置に対応する一連の係数を求め、
前記座標が、さらに前記修正モジュールで得られた係数に基づいて、前記座標変換モジュールにより決定されることを特徴とする請求項15に記載の視線追跡システム。
【請求項24】
前記修正モジュールは、更に、
前記スクリーンモジュールを、それぞれが対応する座標を有する前記既定位置に分割し、
前記画像分析モジュールは、更に、
前記ユーザが前記既定位置の一つを凝視し、前記光源が前記ユーザの目に向かって光を発する間、前記ユーザの目の前記瞳孔と、前記ユーザの目の上の前記第1及び前記第2の反射光点とを含む前記ユーザの目の前記画像を、前記画像取得モジュールにより取得し、
獲得された前記画像中の前記瞳孔並びに前記第1及び前記第2の反射光点の位置に基づいて、前記ユーザが凝視している前記既定位置に対応する角度及び面積を決定することで、
前記既定位置の一つに対応する前記角度及び前記面積を決定し、
前記修正モジュールは、更に、
前記既定位置に対応する前記角度及び前記面積と、前記既定位置の対応する前記座標とに基づいて前記係数を求めることを特徴とする請求項23に記載の視線追跡システム。
【請求項25】
前記修正モジュールは、4個の前記既定位置が前記スクリーンモジュールの四隅にそれぞれ対応するように、前記スクリーンモジュールを分割することを特徴とする請求項24に記載の視線追跡システム。
【請求項26】
前記修正モジュールは、前記既定位置を行と列の配列に配置するように、前記スクリーンモジュールを分割することを特徴とする請求項24に記載の視線追跡システム。
【請求項27】
前記修正モジュールは、座標システムを変換する一連の方程式を用いて係数を求めることを特徴とする請求項24に記載の視線追跡システム。
【請求項28】
前記処理モジュールにより実行される前記操作は、前記スクリーンモジュール上のカーソルを、前記座標変換モジュールが決定した座標に移動させることを特徴とする請求項15に記載の視線追跡システム。
【請求項29】
視線追跡システムのための修正方法であって、
前記視線追跡システムが、スクリーンモジュールを、対応する座標を有する既定位置に分割するステップ(A)と、
ユーザが前記既定位置の一つを凝視し、一組の光源が前記ユーザの目に向かって光を発する間、前記視線追跡システムが、前記ユーザの目の瞳孔と、前記ユーザの目の上の第1及び第2の反射光点とを含む前記ユーザの目の画像を、画像取得モジュールにより獲得するステップ(B)と、
前記視線追跡システムが、前記ステップ(B)で獲得された前記画像中の前記瞳孔並びに前記第1及び前記第2の反射光点の位置に基づいて、前記ステップ(B)でユーザが凝視していた前記既定位置に対応する角度及び面積を決定するステップ(C)と、
前記視線追跡システムが、全ての前記既定位置に対応する前記角度及び前記面積を決定するまで、前記ステップ(B)及び前記ステップ(C)を繰り返すステップ(D)と、
前記視線追跡システムが、前記既定位置に対応する前記角度及び前記面積と、前記既定位置の対応する前記座標とに基づいて、係数を求めるステップ(E)と、
を具備し、
前記視線追跡システムは、
前記ステップ(E)で求めた係数と、前記ユーザが凝視位置を凝視している間、前記画像取得モジュールにより取得された前記ユーザの目の他の画像から決定された角度及び面積に基づいて、前記ユーザが凝視する前記スクリーンモジュール上の前記凝視位置に対応する前記スクリーンモジュール上の座標を決定し、
決定された前記座標に関する操作を実行することを特徴とする修正方法。
【請求項30】
前記ステップ(A)では、4個の前記既定位置が前記スクリーンモジュールの四隅にそれぞれ対応することを特徴とする請求項29に記載の修正方法。
【請求項31】
ステップ(E)では、座標システムを変換する一連の方程式を用いて前記係数が求められることを特徴とする請求項29に記載の修正方法。
【請求項32】
ステップ(A)では、前記既定位置が行と列の配列に配置されることを特徴とする請求項29に記載の修正方法。
【請求項33】
前記ステップ(B)が、
視線追跡システムが、前記ユーザが前記ステップ(B)で凝視する前記既定位置である一つの前記既定位置を指し示すように、前記スクリーンモジュールを制御するサブステップを有することを特徴とする請求項29に記載の修正方法。
【請求項34】
視線追跡システムのための修正モジュールであって、
前記修正モジュールは、第1コントローラと、第2コントローラと、係数計算部を具備し、
前記第1コントローラは、対応する座標をそれぞれ有する、スクリーンモジュール上の既定位置の一つを指し示し、
前記第2コントローラは、ユーザが指し示された一つの前記既定位置を凝視し、一組の光源が前記ユーザの目に向かって光を発する間、前記ユーザの目の瞳孔と、前記ユーザの上の第1及び第2の反射光点とを含む前記ユーザの目の画像を取得するように画像取得モジュールを制御し、
前記視線追跡システムは、前記画像取得モジュールにより取得された前記画像内の瞳孔並びに第1及び第2の反射光点の位置に基づいて、指し示された前記既定位置にそれぞれに対応する角度及び面積を決定し、
前記係数計算部は、前記既定位置に対応する前記角度及び前記面積と、前記既定位置の対応する前記座標とに基づいて係数を求め、
前記視線追跡システムは、更に、
前記係数計算部により求められた前記係数と、前記ユーザが前記凝視点を凝視している間に前記画像取得モジュールにより取得された前記ユーザの目の他の画像から決定された角度及び面積に基づいて、ユーザが凝視している前記スクリーンモジュール上の凝視位置に対応する前記スクリーンモジュール上の座標を決定し、
決定した前記座標に関する操作を実行する
ことを特徴とする修正モジュール。
【請求項35】
前記第1コントローラは、更に、前記スクリーンモジュールを前記既定位置に分割することを特徴とする請求項34に記載の修正モジュール。
【請求項36】
前記第1コントローラは、4個の前記既定位置がそれぞれ前記スクリーンモジュールの四隅に対応するように前記スクリーンモジュールを分割することを特徴とする請求項35に記載の修正モジュール。
【請求項37】
前記第1コントローラは、前記既定位置が行と列の配列に配置するように前記スクリーンモジュールを分割することを特徴とする請求項35に記載の修正モジュール。
【請求項38】
前記係数計算部は、座標システムを変換する一連の方程式を用いて係数を求めることを特徴とする請求項34に記載の修正モジュール。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7A】
image rotate

【図7B】
image rotate


【公開番号】特開2010−230651(P2010−230651A)
【公開日】平成22年10月14日(2010.10.14)
【国際特許分類】
【出願番号】特願2009−261827(P2009−261827)
【出願日】平成21年11月17日(2009.11.17)
【出願人】(508211096)由田新技股▲分▼有限公司 (12)
【Fターム(参考)】