説明

視線検出システム

【課題】 使用者の頭部の動きが許容され、視線およびその方向の検出精度が高く、さらに検出速度が高速化された非接触型の視線検出システムを提供する。
【解決手段】 本発明の視線検出システムは、表示装置1と、使用者3の眼球部から離間して設けられた自動焦点機能付きの撮像装置2を備えている。そして、撮像装置2により撮像された画像データから、使用者3の瞳孔中心Eと顔上の特徴的な点の位置をそれぞれ求め、求められた位置データを視線方向に変換し、使用者注視点Pを算出するように構成されている。

【発明の詳細な説明】
【0001】
【発明の属する技術分野】本発明は、視線検出システムに係り、特にインターフェースの入力手段等として利用するために視線およびその方向を検出する、非接触型の視線検出システムに関する。
【0002】
【従来の技術】近年、視線の動きを、メニュー選択やカーソル制御、画面のスクロールなど表示装置への指示操作に利用するために、視線を検出する技術の開発が図られている。
【0003】従来から、視線を検出するシステムとしては、頭部装着式のアイカメラのように、検出部を眼球部に接触または近接させて検出する接触型の視線検出システムがある。この視線検出システムでは、眼球に近赤外光を照射し、反射光をビデオカメラ等で撮像して画像処理する方法が採られており、頭部の動きと関係なく眼球が必ず検出部内に位置しているため、視線の方向を算出する際に頭部の位置による補正を行なう必要がなく、視線を検出するための処理が容易であるという利点を有している。しかし、頭部の動きが制約されるばかりでなく、視野が狭いなどの問題があり、長時間の使用に適しなかった。
【0004】一方、検出部を眼球部から離して視線を検出する非接触型の視線検出方法があり、例えば、顔上の数点と瞳孔の空間位置情報をステレオ画像計測等により計測する方法や、顔の向き検出にモザイク特徴を用いるアスペクト法等を用いて画像データを低減した方法などが最近開発されている。
【0005】
【発明が解決しようとする課題】しかし、これらの視線検出方法のうちで前者の方法では、画像データを入力した後の処理が非常に複雑になり、位置情報計測後の処理に多くの時間を必要とするという問題があった。
【0006】また、後者のアスペクト法では、顔の向き(頭部の方向)に関する画像データを蓄積した最適辞書の構築方法によって、視線検出の精度が決定され、辞書の良否が検出精度に直接大きな影響を及ぼしていた。
【0007】本発明はこれらの点に鑑みてなされたもので、使用者の頭部の動きが許容され、視線およびその方向の検出精度が高く、さらに検出速度が高速化された非接触型の視線検出システムを提供することを目的とする。
【0008】
【課題を解決するための手段】本発明の視線検出システムは、表示画面と、該表示画面を使用する使用者の眼球部から離間して設けられた撮像装置とを備え、前記撮像装置により撮像された画像データから、前記使用者の瞳孔および顔上の特徴的な固定点の位置をそれぞれ求める位置算出手段と、この手段により求められた位置データを視線方向に変換し、前記表示画面上の使用者注視点を算出する注視点等算出手段とを具備したことを特徴とする。
【0009】本発明の位置算出手段においては、使用者の顔部等の画像データから、輝度の最大値あるいは最小値を含む少なくとも3点(これらは、通常鼻頭と両目の両端部にそれぞれ相当する。)を抽出し、これらの3点を頂点とする三角形の重心の位置を算出して、この点を顔上に固定された特徴点とすることが望ましい。なお、特徴点としては、前記した3点を頂点とする三角形の重心以外に、内心、外心、垂心等を用いることもできる。また、顔面に存在するほくろ等の位置を予め記憶装置に登録しておき、この登録データを基に算出した三角形の重心等を、特徴的点とすることもできる。
【0010】本発明の視線検出システムにおいては、使用者の眼球部から離間して設けられた撮像装置により、使用者の顔部等の画像が撮像され、この画像データから、位置算出手段により、使用者の瞳孔の中心並びに顔上の特徴的な点の位置がそれぞれ算出される。そして、得られた位置データを用いて、注視点等算出手段により適当な変換および演算がなされ、使用者の視線の方向、および視線の表示画面との交点である注視点が求められる。
【0011】このように本発明の視線検出システムによれば、頭部の動きに関係なく精度の高い視線検出がなされ、さらに検出の高速化が可能である。
【0012】また、本発明において、画像データから位置算出手段により求められた位置データを時間軸に対して比較し、データの時間的変化が固視微動程度に小さく、視線方向に変化がない場合、あるいは使用者の視線が表示画面の外側に向いている間などは、注視点等算出手段の動作を停止して、視線方向および注視点の算出を行なわないように構成することにより、システム運転の低消費電力化を図ることができる。また、視線検出を表示装置等への入力手段として利用する場合に、固視微動による表示画面上のポインタ等のふらつきを解消し、安定した入力を行なうことができる。
【0013】
【発明の実施の形態】以下、本発明の実施例を図面に基いて説明する。
【0014】図1は、本発明の視線検出システムの一実施例を示す構成説明図である。
【0015】実施例の視線検出システムは、図に示すように、液晶表示装置のような表示装置1と、自動焦点機能を有し被写体までの距離を測定することができる撮像装置2とを備えており、撮像装置2は、使用者3の眼球部から離間して、例えば表示装置1の画面1aの下部に設けられている。そして、撮像装置2には、撮像された画像のデータから、使用者3の瞳孔の中心Eと顔上の特徴的な点の位置をそれぞれ求め、求められた位置データを視線の方向に変換し、この視線方向と表示画面1aとの交点である使用者注視点Pを算出する変換・算出装置(図示を省略。)が接続されている。
【0016】実施例の変換・算出装置による視線検出の手順(プログラム)を、図2にフローチャートで示す。以下に詳述する。
【0017】(1)自動焦点機能付き撮像装置2により撮像された使用者3の頭部(顔部)についての画像データから、撮像装置2の任意の点Cから使用者3の瞳孔中心Eまでの位置ベクトルを算出する→ベクトルCE(2)同じく撮像装置2により撮像された使用者3の顔部についての画像データから、使用者3の顔上の特徴的な固定点を算出する。これには、画像データから、顔の向きに関わらず、顔上で輝度の最大値および最小値を示す3点をそれぞれ抽出する。そして、これらの3点を頂点とする三角形の重心Gの位置を算出して、この重心Gを特徴的な固定点とする。
【0018】(3)瞳孔中心Eから顔上の特徴点である重心Gまでの位置ベクトルを算出する。→ベクトルEG(4)撮像装置2の任意の点Cから、視線方向と表示画面1aとの交点である注視点Pまでの位置ベクトルを算出する。→ベクトルCP(5)(1)〜(4)で得られたベクトルCE、ベクトルEG、ベクトルCPの和を算出し、このベクトル式が成り立つ注視点Pの位置に、例えばポインタを動作させる。
【0019】上記手順における各点の位置および位置ベクトルを、図3(a)および図3(b)にそれぞれ示す。ステップ(5)に示すベクトル和は、下式によって求められる。
【0020】
ベクトルCP=ベクトルCG+ベクトルGP [1]
ベクトルCG=ベクトルCE+ベクトルEG [2]
[2]式を[1]式に代入して、 ベクトルGP=ベクトルCP−(ベクトルCE+ベクトルEG) [3]
ここで、[1]式は、使用者3の頭部の動きを許容するための、使用者3と撮像装置2と注視点Pとの位置関係を示したベクトル式であり、図3(a)にベクトル表記したように、撮像装置2の任意の点Cから表示画面1a上の使用者が注視している点PまでのベクトルCPは、点Cから使用者2の顔部に固定された特徴点GまでのベクトルCGと、点Gから注視点PまでのベクトルGPの和で表わされる。
【0021】また、[2]式は、顔部に固定された特徴点Gと瞳孔中心Eとの位置関係を示したベクトル式であり、図3(b)にベクトル表記したように、撮像装置2の任意の点Cから点GまでのベクトルCGは、点Cから瞳孔中心EまでのベクトルCEと、瞳孔中心Eから点GまでのベクトルEGの和で表わされる。そして、こうして求められるベクトルGPにより、視線方向の算出が行なわれることになる。ここで、瞳孔中心Eは、撮像装置2により得られた画像データに対して、以下の処理を行なうことにより求めることができる。
【0022】図4(a)は、撮像装置2により撮像された画像の眼球周辺部を拡大した画像を示す。
【0023】瞳孔中心Eの抽出においては、まずこの拡大画像を、A,B等の位置で目の両端部を結ぶ線に平行に例えば左から右に向かって走査して、各点の輝度を測定し、輝度と走査時間との関係を求める。
【0024】一般に、眼球4内各部の輝度は、瞳孔4a<虹彩4b<結膜部4cの順に大きくなっているので、図4(a)に示したA,Bの各位置で走査すると、図4(b)に示すような輝度分布が得られる。このような輝度分布を表わす信号をコンパレータを通して変換し、瞳孔4aと虹彩4bの境界にのみパルスを形成すると、図4R>4(c)に示す出力が得られ、クロックパルスをカウントすることにより、瞳孔4aの両端で虹彩4bとの境界が明らかになる。そして、眼球4上端から下端にかけてのA,B等の位置で、最低3回の走査を行ない、各走査において前記したカウント操作を行ない瞳孔4aと虹彩4bとの境界を求めることにより、瞳孔中心Eを求めることができる。
【0025】なお、コンパレータを使用しない場合には、図4(b)に示す輝度分布において、瞳孔4aと虹彩4bを示す輝度のゲインの範囲内にしきい値を設けることによって、瞳孔4aと虹彩4bとの境界の判別を行なうことができる。
【0026】このように実施例の視線検出システムにおいては、前記した手順にしたがって視線検出のプログラムを実行することによって、頭部の動きが許容されるうえに、従来の非接触型の視線検出システムに比べて高速処理が可能となり、かつ精度の高い視線検出を行なうことができる。
【0027】次に、本発明の別の実施例について説明する。この実施例における視線検出の手順を示すフローチャートを、図5に示す。
【0028】この実施例では、撮像装置により得られた画像データから求められた使用者の瞳孔中心Eに関する位置データを、時間軸に対して比較し、データに時間的変化がない場合に、検出プログラムの実行を停止するように構成され、単位時間内に変化した変化量のみが、表示画面上のポインタやカーソルの動き、あるいはスクロールの移動量として利用されるようになっている。
【0029】このようなプログラムを有する視線検出システムにおいては、従来の視線検出システムと比較して、視線方向または頭部に動きが無い場合の演算処理が不要になり、より高速度な視線検出が可能になるうえに、消費電力を低減することができる。また、固視微動等の眼球の細かい動きにより視線検出にふらつきが生じることがなく、安定した入力を行なうことができる。
【0030】
【発明の効果】以上の説明から明らかなように、本発明のシステムによれば、頭部の動きが許容され、検出精度が高く高速度の視線検出を行なうことができる。
【図面の簡単な説明】
【図1】本発明の視線検出システムの一実施例を示す構成説明図。
【図2】同実施例の変換・算出装置による視線検出のプログラムを示すフローチャート。
【図3】同実施例の視線検出プログラムにおける各点の位置および位置ベクトルを示す図。
【図4】同実施例における瞳孔中心の抽出方法を説明するための図。
【図5】本発明の別の実施例における視線検出のプログラムを示すフローチャート。
【符号の説明】
1………表示装置
1a………表示画面
2………撮像装置
3………使用者
4………眼球
4a………瞳孔
4b………虹彩
4c………結膜部

【特許請求の範囲】
【請求項1】 表示画面と、該表示画面を使用する使用者の眼球部から離間して設けられた撮像装置とを備え、前記撮像装置により撮像された画像データから、前記使用者の瞳孔および顔上の特徴的な固定点の位置をそれぞれ求める位置算出手段と、この手段により求められた位置データを視線方向に変換し、前記表示画面上の使用者注視点を算出する注視点等算出手段とを具備したことを特徴とする視線検出システム。
【請求項2】 前記位置算出手段により求められた位置データを時間軸に対して比較し、前記データに変化がない場合に、前記注視点等算出手段の動作を停止する手段を備えたことを特徴とする請求項1記載の視線検出システム。
【請求項3】 前記位置算出手段において、前記撮像装置により撮像された画像データから、輝度の最大値あるいは最小値を含む少なくとも3点を抽出して、前記3点を頂点とする三角形の重心を算出し、この点を顔上の特徴的な固定点とすることを特徴とする請求項1または2記載の視線検出システム。

【図1】
image rotate


【図4】
image rotate


【図2】
image rotate


【図3】
image rotate


【図5】
image rotate