視線検出方法
【課題】 眼鏡使用者に対しても適用できる視線ベクトル検出システムを提供することを課題とする。
【構成】 眼又は顔を照射する赤外線光源と、眼又は顔を撮影するカメラと、該カメラの撮影画像データを処理して視線ベクトルを算出する計算機とを具備する視線ベクトル検出システムにおいて、前記計算機は前記撮影画像データから真の輝点及び瞳孔の中心を検出する画像処理部と、視線ベクトルを算出する演算部とを含み、該画像処理部は近傍に瞳孔を有する輝点の中で所定の要件を満たす輝点を真の輝点と決定すると共に該瞳孔の中心を求め、更に、角膜球の中心を求める処理を実行することを特徴とする。
【構成】 眼又は顔を照射する赤外線光源と、眼又は顔を撮影するカメラと、該カメラの撮影画像データを処理して視線ベクトルを算出する計算機とを具備する視線ベクトル検出システムにおいて、前記計算機は前記撮影画像データから真の輝点及び瞳孔の中心を検出する画像処理部と、視線ベクトルを算出する演算部とを含み、該画像処理部は近傍に瞳孔を有する輝点の中で所定の要件を満たす輝点を真の輝点と決定すると共に該瞳孔の中心を求め、更に、角膜球の中心を求める処理を実行することを特徴とする。
【発明の詳細な説明】
【技術分野】
【0001】
この発明は、視線を検出する技術、特に眼鏡を使用している者の視線検出方法及び装置に関するものである。
【背景技術】
【0002】
従来から手又は指を自由に使えない不具者のためのコンピュータ入力装置として視線の検出技術が開発されてきた。又、車を運転するドライバの視線を監視して、車の運転補助手段としても視線の検出が利用される。しかし、従来の視線検出装置は使用者に特定の器具を装着させるものもあり、これらの技術は使用者を束縛するために使用勝手が悪いと言う課題があった。この課題を解決するために近年眼球モデルを利用して視線を検出する技術が開発されている。
【0003】
眼球モデルを利用する場合に、カメラ位置から顔面までの正確な距離を簡単な方法で正確に求めることが一つの問題になってくる。例えば、特許文献1に記載されている装置は、運転者の視線を検出する装置であり、カメラの位置から運転者の顔面までの距離を求める手段として距離センサを利用している。距離センサとしては超音波型センサ等を使用している。超音波型センサを使用した場合、全体の装置が複雑になり、簡単なセンサでは精度が悪く、精度を高くすると装置が高価になるという問題が生じる。
【特許文献1】公開特許公報、第平8−297019号(車両用視線方向計測装置)
【0004】
また、非特許文献1、2にも、眼球モデルを利用した視線の方向を検出する技術が記載されている。この文献の装置は、点光源から近赤外線を眼の中の角膜に照射し、反射像(プルキニエ像と呼んでいる)の座標を求めるために、カメラ(又は点光源)から顔面までの距離を求める必要があり、その方法としてカメラによる撮影画像上の点光源の大きさ(プルキニエ像の大きさ)が最小になる位置にフォーカスを合わせたときのフォーカス値からその距離を求めている。しかし、プルキニエ像の大きさを正確に最小になるように調節するのは困難であり、従って、精度の高い距離測定は期待できず、それを利用した視線方向の検出も誤差が含まれ、問題である。本出願人はこれらの問題を解決した発明を既に出願(特許文献2)している。
【非特許文献1】情報処理研究報告2001―HI−93、pp.47−54(眼球形状モデルに基づく視線測定システム)
【非特許文献2】第8回画像センシングシンポジウム、pp.307−312、2002(眼球モデルに基づく視線測定方法)
【特許文献2】特許出願、特願2004−71256号(視線検出方法及び同装置、平成16年3月12日提出)
【発明の開示】
【発明が解決しようとする課題】
【0005】
しかし、上記した眼球モデルを利用する従来技術及び特許文献2に記載の技術は裸眼者を対象とした場合であり、眼鏡使用者に対してはこのまま適用すると大きな誤差を生じるおそれがある。即ち、赤外線を光源として眼の中の角膜に照射し、反射像を求めたとしても、眼球で反射した輝点の他に赤外線の一部が眼鏡のレンズ又は金具等に反射して撮影画像に複数の輝点が現われたりする。また、眼鏡を通過してきた像が偏って瞳孔の中心と輝点が一致しなくなるという問題も考えられる。
本発明は、上記事実に鑑みなされたものであり、眼鏡使用者に対しても適用できる視線ベクトル検出システムを提供することを課題とする。
【課題を解決するための手段】
【0006】
本発明は上記の課題を解決するための手段として以下の構成を採用している。即ち、
請求項1に記載の発明は、眼又は顔を照射する赤外線光源と、眼又は顔を撮影するカメラと、該カメラの撮影画像データを処理して視線ベクトルを算出する計算機とを具備する視線ベクトル検出システムにおいて、前記計算機は前記撮影画像データから真の輝点及び瞳孔の中心を検出して、視線ベクトルを算出することを特徴としている。
【0007】
また、請求項2に記載の発明は、請求項1に記載の発明において、前記撮影カメラは、被撮影者の顔の正面で、眼の位置より低い位置に設置したことを特徴としている。
【0008】
請求項3に記載の発明は、請求項1又は請求項2に記載の発明において、前記赤外線光源は、暗瞳孔効果が生じさせるように、前記撮影カメラの光軸から離れた位置に設置したことを特徴としている。
【0009】
請求項4に記載の発明は、請求項1〜請求項3に記載の発明において、前記赤外線光源は、前記撮影カメラよりも低い位置に設置したことを特徴としている。
【0010】
請求項5に記載の発明は、請求項1〜請求項4に記載の発明において、前記赤外線光源は、前記撮影カメラの光軸の左右両側に設けたことを特徴としている。
【0011】
請求項6に記載の発明は、請求項1〜請求項5に記載の発明において、前記計算機は前記撮影画像データから真の輝点及び瞳孔の中心を検出する画像処理部と、視線ベクトルを算出する演算部とを含み、該画像処理部は近傍に瞳孔を有する輝点の中で所定の要件を満たす輝点を真の輝点と決定すると共に該瞳孔の中心を求め、更に、形態学上の知見によるデータを利用して角膜球の中心を求める処理を実行することを特徴としている。
【0012】
請求項7に記載の発明は、請求項1〜請求項6に記載の発明において、前記演算部は、前記瞳孔の中心と前記角膜球の中心とから視線方向ベクトルを算出することを特徴としている。
【0013】
請求項8に記載の発明は、請求項1〜請求項7に記載の発明において、前記計算機は、更に前記撮影画像データを前処理する前処理部を含むことを特徴としている。
【発明の効果】
【0014】
本発明によれば、眼鏡使用者に対しても実用的な範囲で視線方向ベクトルを正しく算出することができるという効果が得られる。
【発明を実施するための最良の形態】
【0015】
図1は本発明を最良の条件で実施した実施形態の構成を示す。図1において、被撮影者10は、例えば、ドライバー又はパソコン等の使用者であって、眼鏡11の使用者である。被撮影者10の前方、略正面に撮影カメラ12が被撮影者10の眼の高さ位置(水平位置)より低い位置に配置する。これは眼と同じ高さ位置又は高い位置に配置すると、眼の画像と「まつげ」の画像が重なって、処理が複雑になる恐れがあるからであります(図3(E)〜(H)参照)。
【0016】
光源13,13は赤外線発光ダイオード(LED)による光源を利用する。光源13の位置は、撮影カメラ12の光軸14から離れた位置で、撮影カメラ12の位置よりも低い位置に配置する。即ち、図1の距離「d」が小さいと、瞳孔が明るく撮影されたり、暗かったりして瞳孔の輝度がばらつき、撮影画像から瞳孔を決定するのが困難になる。従って、距離「d」は暗瞳孔効果が生じる位置に配置する。また、光源13の位置は、撮影カメラ12の位置よりも低い位置に配置する。これは、眼鏡のレンズ面等から反射する「偽の輝点」と「真の輝点」との区別を容易にするためである。光源12の位置を低くすると被撮影者10の眼が上を向いた場合でも、下を向いた場合でも真の輝点は瞳孔の内部に来るようになり、一方偽の輝点は瞳孔近傍には出現しなくなる(図2(A)〜(D)参照)。
【0017】
図2(A)〜(D)は赤外線発光ダイオード13を撮影カメラ12より低い位置に設置した場合の撮影画像例を示す。図(A)は被撮影者11が左上を向いた場合、図(B)は右上を向いた場合、図(C)は左下を向いた場合、図(D)は右下を向いた場合の撮影画像(写真)である。これらの図から分かるように、真の輝点が何れも瞳孔25の中に生じており、偽の輝点は瞳孔25の外に生じている。
【0018】
逆に、光源13の位置を撮影カメラ12の位置よりも高い位置に配置した場合の撮影画像例を図3(E)〜図3(H)に示す。図3(E)は左上を向いた場合、図3(F)は右上を向いた場合、図3(G)は左下を向いた場合、図3(H)は右下を向いた場合の撮影画像(写真)である。上を向いた場合は、図3(E)、図3(F)から理解できるように、偽の輝点が瞳孔近傍に現われたり、瞳孔にかぶったりして、真の輝点又は瞳孔25の検出が困難になる。下を向いた場合は、図3(G)、図3(H)から理解できるように、真の輝点がまぶたと接近しすぎて瞳孔25の検出が困難になる場合が生じる。
【0019】
赤外線発光ダイオード13はカメラの光軸14の両側に設ける。これは、光軸14の一方の側に設ける(例えば左側に設けた場合)と発光ダイオード13を設けていない側(右側)に向いた場合は真の輝点が虹彩24からはみ出してしまうという問題が生じるからである。
【0020】
撮影カメラ12の出力端に接続された計算機15は前処理部16、画像処理部17、演算部18を含み、前処理部16では画像データの処理を容易にするための輝度の調整、コントラストの調整、ノイズの除去等の予備的な処理を行う。画像処理部17は得られた画像に対して真の輝点の検出、瞳孔の中心を求める処理、更に、形態学上の知見データを利用して角膜球(図示省略)の中心を求める処理を行う。なお、前処理部16は従来技術を利用するものであり、特に詳述する必要はないので、詳細な説明は省略する。画像処理部17の処理は一部が特許文献2の記載内容と一致しているので、異なる部分に重点をおいて説明する。演算部18の処理は特許文献2の記載内容と一致しているので簡単に説明する。
【0021】
図4は本発明上の要点を抽出して示した撮影画像データで、被撮影者10の使用している眼鏡20部分の撮影画像の1例を示す。図4において、眼鏡11はフレーム21とレンズ22から構成されており、レンズ22の内部には右眼23Rと左眼23Lが現われている。眼23(23R,23L)の白眼26(26R,26L)の内部に虹彩24(24R、24L)が現われており、虹彩24(24R、24L)の略中央に瞳孔25(25R、25L)が現われている。瞳孔25は虹彩24に比較して暗くて輝度が小さい。また、白眼26は白色で輝度が大きく、虹彩24は薄い茶色(又は薄い茶褐色)で、瞳孔25よりも輝度が明るく、白眼26よりも輝度が暗い。さらに、瞳孔25の内部又は近傍に真の輝点(所定の要件を満たし、視線ベクトル求めるために使用する輝点)とレンズ22又は眼鏡20の金具等の部分で反射した偽の輝点31が現われている。
【0022】
図5、図6は画像処理部17及び演算部18で行う処理の手順を示す。図5において、ステップS1は撮影画像(図4)の処理を容易にするために、撮影画像全体の輝度の調整、コントラストの調整、ノイズの除去等の予備的な処理を行う。ステップS2では、撮影画像データから輝度が一定以上の明るい点(又は小領域)を求めて輝点とし、全ての輝点(30,31)を求める。ステップS3はステップS2で求めた輝点の中から真の輝点(30)を決定する。真の輝点を求めるステップは図6に示されており、詳細は後述する。ステップS4は瞳孔(25)の中心を求める。瞳孔の中心は、ステップS2で真の輝点を求める際に瞳孔の輪郭が求められているので、これを利用して求める。
【0023】
ステップS5では角膜球(図示省略)の中心点を求める。角膜球の中心を求める方法は本出願人による特許出願(特許文献2)に詳述されている。この実施態様においても全く同様な手法を使用している。即ち、形態学上の知見によれば、(1)左右の眼から鼻までの距離は等しく、(2)左右両眼の距離と一方の眼から鼻までの距離との比は一定値(既知)である。更に、(3)左右両眼の距離は既知であり、(4)角膜球の中心半径は一定値(既知)である。また、カメラ12の焦点距離(f)並びにカメラパラメータ行列(K)が既知であるとしてもよい(使用前に測定しておけばよい)。従って、これらの条件から撮影カメラ12の画像面から被撮影者10の眼(又は顔面)までの距離を求めることができる。赤外線光源13の発射点が撮影カメラ12に十分に近い位置にあるときは角膜球の中心点座標及び瞳孔24の中心点座標は高い精度の近似計算で容易に求めることができる。なお、上記の計算を遂行するに当たっては、眼鏡を使用したことによる撮影画像上の真の輝点30及び瞳孔24の中心位置等の変化は無視できる程度に小さいとしている。
【0024】
ステップS6ではステップS5で求めた瞳孔24の中心点の座標と角膜球の中心点座標から視線ベクトル(又は視線方向)を算出する。
【0025】
図6は真の輝点を求める探索手順(フローチャート)を示す。真の輝点の要件として、(1)所定値以上の輝度を有し、(2)輝点の大きさが所定半径の円よりも小さい、(3)近傍に瞳孔が存在する、或いは輝点が瞳孔の内部にある、(4)左右両方の輝点の距離が所定範囲にある、等の条件を満たすものを考える。要件(1)、(2)は既に満たしているものとし、図6においては、要件(3)について検討手順を説明する。ステップS11では、複数個の輝点のリスト(例えば、図7の輝点35a〜35e)から検討する輝点を選択する。ステップS12では選択された輝点に対して瞳孔25を含む程度の大きさの領域36(36a〜36e)を決定し、ステップS13で該領域36内に瞳孔25が含まれているか否かを探索する。ここで、瞳孔25は輝度が所定値以下で暗く、半径が所定の範囲にあり、略円形をしている。
【0026】
ステップS14で瞳孔25の有無をチェックし、瞳孔が無い場合はリストから削除する(ステップS15)。瞳孔25の有無の検討は、まず、輝度が小さくて暗い領域を探索し、その領域が円形であるか否かを判断する。円形の判定は従来技術を使用する。例えば、領域の境界を追跡し、その接線ベクトルの角度変化が略一様で、終点が始点に一致すれば円形と判断できる。円形と判断した場合はその直径が所定の範囲内にあるかを調べる。瞳孔25が存在した場合は未検討の輝点があるかどうかをチェックする(ステップS16)。未検討の輝点がある場合はステップS11〜S15を繰り返す。ステップS17では、その他の要件(例えば、上記した4番目の要件)を満たしているか否かを検討し、真の輝点を確認し、決定する。
【0027】
以上本発明の実施形態を図面に基づいて詳述してきたが、本発明の技術的範囲はこれに限られるものではない。例えば、真の輝点を定める用件は実施形態に記載したものに限られず、実質的に同じであれば他の表現で定めてもよい。また、本実施形態は眼鏡使用者に限定しているように思われるが裸眼者にも適用できる。即ち、輝点が左右各1個で、真の輝点であれば裸眼者と判断して視線ベクトルを求めることができる。逆に輝点が多数ある場合は眼鏡使用者と判断する。
【図面の簡単な説明】
【0028】
【図1】本実施形態(視線ベクトル検出システム)の構成を示す。
【図2】赤外線光源をカメラより低い位置に設置した場合の撮影画像を示す。
【図3】赤外線光源をカメラより高い位置に設置した場合の撮影画像を示す。
【図4】要部を抽出した説明のための画像を示す。
【図5】画像処理部の実行する手順を示す。
【図6】真の輝点を求める手順を示す。
【図7】真の輝点を探索する図を示す。
【符号の説明】
【0029】
10 被撮影者
11 眼鏡
12 撮影カメラ
13 赤外線光源
14 カメラ軸
15 計算機
20 眼鏡
22 レンズ
24 虹彩
25 瞳孔
30 真の輝点
31 偽の輝点
35 輝点
36 探索領域
【技術分野】
【0001】
この発明は、視線を検出する技術、特に眼鏡を使用している者の視線検出方法及び装置に関するものである。
【背景技術】
【0002】
従来から手又は指を自由に使えない不具者のためのコンピュータ入力装置として視線の検出技術が開発されてきた。又、車を運転するドライバの視線を監視して、車の運転補助手段としても視線の検出が利用される。しかし、従来の視線検出装置は使用者に特定の器具を装着させるものもあり、これらの技術は使用者を束縛するために使用勝手が悪いと言う課題があった。この課題を解決するために近年眼球モデルを利用して視線を検出する技術が開発されている。
【0003】
眼球モデルを利用する場合に、カメラ位置から顔面までの正確な距離を簡単な方法で正確に求めることが一つの問題になってくる。例えば、特許文献1に記載されている装置は、運転者の視線を検出する装置であり、カメラの位置から運転者の顔面までの距離を求める手段として距離センサを利用している。距離センサとしては超音波型センサ等を使用している。超音波型センサを使用した場合、全体の装置が複雑になり、簡単なセンサでは精度が悪く、精度を高くすると装置が高価になるという問題が生じる。
【特許文献1】公開特許公報、第平8−297019号(車両用視線方向計測装置)
【0004】
また、非特許文献1、2にも、眼球モデルを利用した視線の方向を検出する技術が記載されている。この文献の装置は、点光源から近赤外線を眼の中の角膜に照射し、反射像(プルキニエ像と呼んでいる)の座標を求めるために、カメラ(又は点光源)から顔面までの距離を求める必要があり、その方法としてカメラによる撮影画像上の点光源の大きさ(プルキニエ像の大きさ)が最小になる位置にフォーカスを合わせたときのフォーカス値からその距離を求めている。しかし、プルキニエ像の大きさを正確に最小になるように調節するのは困難であり、従って、精度の高い距離測定は期待できず、それを利用した視線方向の検出も誤差が含まれ、問題である。本出願人はこれらの問題を解決した発明を既に出願(特許文献2)している。
【非特許文献1】情報処理研究報告2001―HI−93、pp.47−54(眼球形状モデルに基づく視線測定システム)
【非特許文献2】第8回画像センシングシンポジウム、pp.307−312、2002(眼球モデルに基づく視線測定方法)
【特許文献2】特許出願、特願2004−71256号(視線検出方法及び同装置、平成16年3月12日提出)
【発明の開示】
【発明が解決しようとする課題】
【0005】
しかし、上記した眼球モデルを利用する従来技術及び特許文献2に記載の技術は裸眼者を対象とした場合であり、眼鏡使用者に対してはこのまま適用すると大きな誤差を生じるおそれがある。即ち、赤外線を光源として眼の中の角膜に照射し、反射像を求めたとしても、眼球で反射した輝点の他に赤外線の一部が眼鏡のレンズ又は金具等に反射して撮影画像に複数の輝点が現われたりする。また、眼鏡を通過してきた像が偏って瞳孔の中心と輝点が一致しなくなるという問題も考えられる。
本発明は、上記事実に鑑みなされたものであり、眼鏡使用者に対しても適用できる視線ベクトル検出システムを提供することを課題とする。
【課題を解決するための手段】
【0006】
本発明は上記の課題を解決するための手段として以下の構成を採用している。即ち、
請求項1に記載の発明は、眼又は顔を照射する赤外線光源と、眼又は顔を撮影するカメラと、該カメラの撮影画像データを処理して視線ベクトルを算出する計算機とを具備する視線ベクトル検出システムにおいて、前記計算機は前記撮影画像データから真の輝点及び瞳孔の中心を検出して、視線ベクトルを算出することを特徴としている。
【0007】
また、請求項2に記載の発明は、請求項1に記載の発明において、前記撮影カメラは、被撮影者の顔の正面で、眼の位置より低い位置に設置したことを特徴としている。
【0008】
請求項3に記載の発明は、請求項1又は請求項2に記載の発明において、前記赤外線光源は、暗瞳孔効果が生じさせるように、前記撮影カメラの光軸から離れた位置に設置したことを特徴としている。
【0009】
請求項4に記載の発明は、請求項1〜請求項3に記載の発明において、前記赤外線光源は、前記撮影カメラよりも低い位置に設置したことを特徴としている。
【0010】
請求項5に記載の発明は、請求項1〜請求項4に記載の発明において、前記赤外線光源は、前記撮影カメラの光軸の左右両側に設けたことを特徴としている。
【0011】
請求項6に記載の発明は、請求項1〜請求項5に記載の発明において、前記計算機は前記撮影画像データから真の輝点及び瞳孔の中心を検出する画像処理部と、視線ベクトルを算出する演算部とを含み、該画像処理部は近傍に瞳孔を有する輝点の中で所定の要件を満たす輝点を真の輝点と決定すると共に該瞳孔の中心を求め、更に、形態学上の知見によるデータを利用して角膜球の中心を求める処理を実行することを特徴としている。
【0012】
請求項7に記載の発明は、請求項1〜請求項6に記載の発明において、前記演算部は、前記瞳孔の中心と前記角膜球の中心とから視線方向ベクトルを算出することを特徴としている。
【0013】
請求項8に記載の発明は、請求項1〜請求項7に記載の発明において、前記計算機は、更に前記撮影画像データを前処理する前処理部を含むことを特徴としている。
【発明の効果】
【0014】
本発明によれば、眼鏡使用者に対しても実用的な範囲で視線方向ベクトルを正しく算出することができるという効果が得られる。
【発明を実施するための最良の形態】
【0015】
図1は本発明を最良の条件で実施した実施形態の構成を示す。図1において、被撮影者10は、例えば、ドライバー又はパソコン等の使用者であって、眼鏡11の使用者である。被撮影者10の前方、略正面に撮影カメラ12が被撮影者10の眼の高さ位置(水平位置)より低い位置に配置する。これは眼と同じ高さ位置又は高い位置に配置すると、眼の画像と「まつげ」の画像が重なって、処理が複雑になる恐れがあるからであります(図3(E)〜(H)参照)。
【0016】
光源13,13は赤外線発光ダイオード(LED)による光源を利用する。光源13の位置は、撮影カメラ12の光軸14から離れた位置で、撮影カメラ12の位置よりも低い位置に配置する。即ち、図1の距離「d」が小さいと、瞳孔が明るく撮影されたり、暗かったりして瞳孔の輝度がばらつき、撮影画像から瞳孔を決定するのが困難になる。従って、距離「d」は暗瞳孔効果が生じる位置に配置する。また、光源13の位置は、撮影カメラ12の位置よりも低い位置に配置する。これは、眼鏡のレンズ面等から反射する「偽の輝点」と「真の輝点」との区別を容易にするためである。光源12の位置を低くすると被撮影者10の眼が上を向いた場合でも、下を向いた場合でも真の輝点は瞳孔の内部に来るようになり、一方偽の輝点は瞳孔近傍には出現しなくなる(図2(A)〜(D)参照)。
【0017】
図2(A)〜(D)は赤外線発光ダイオード13を撮影カメラ12より低い位置に設置した場合の撮影画像例を示す。図(A)は被撮影者11が左上を向いた場合、図(B)は右上を向いた場合、図(C)は左下を向いた場合、図(D)は右下を向いた場合の撮影画像(写真)である。これらの図から分かるように、真の輝点が何れも瞳孔25の中に生じており、偽の輝点は瞳孔25の外に生じている。
【0018】
逆に、光源13の位置を撮影カメラ12の位置よりも高い位置に配置した場合の撮影画像例を図3(E)〜図3(H)に示す。図3(E)は左上を向いた場合、図3(F)は右上を向いた場合、図3(G)は左下を向いた場合、図3(H)は右下を向いた場合の撮影画像(写真)である。上を向いた場合は、図3(E)、図3(F)から理解できるように、偽の輝点が瞳孔近傍に現われたり、瞳孔にかぶったりして、真の輝点又は瞳孔25の検出が困難になる。下を向いた場合は、図3(G)、図3(H)から理解できるように、真の輝点がまぶたと接近しすぎて瞳孔25の検出が困難になる場合が生じる。
【0019】
赤外線発光ダイオード13はカメラの光軸14の両側に設ける。これは、光軸14の一方の側に設ける(例えば左側に設けた場合)と発光ダイオード13を設けていない側(右側)に向いた場合は真の輝点が虹彩24からはみ出してしまうという問題が生じるからである。
【0020】
撮影カメラ12の出力端に接続された計算機15は前処理部16、画像処理部17、演算部18を含み、前処理部16では画像データの処理を容易にするための輝度の調整、コントラストの調整、ノイズの除去等の予備的な処理を行う。画像処理部17は得られた画像に対して真の輝点の検出、瞳孔の中心を求める処理、更に、形態学上の知見データを利用して角膜球(図示省略)の中心を求める処理を行う。なお、前処理部16は従来技術を利用するものであり、特に詳述する必要はないので、詳細な説明は省略する。画像処理部17の処理は一部が特許文献2の記載内容と一致しているので、異なる部分に重点をおいて説明する。演算部18の処理は特許文献2の記載内容と一致しているので簡単に説明する。
【0021】
図4は本発明上の要点を抽出して示した撮影画像データで、被撮影者10の使用している眼鏡20部分の撮影画像の1例を示す。図4において、眼鏡11はフレーム21とレンズ22から構成されており、レンズ22の内部には右眼23Rと左眼23Lが現われている。眼23(23R,23L)の白眼26(26R,26L)の内部に虹彩24(24R、24L)が現われており、虹彩24(24R、24L)の略中央に瞳孔25(25R、25L)が現われている。瞳孔25は虹彩24に比較して暗くて輝度が小さい。また、白眼26は白色で輝度が大きく、虹彩24は薄い茶色(又は薄い茶褐色)で、瞳孔25よりも輝度が明るく、白眼26よりも輝度が暗い。さらに、瞳孔25の内部又は近傍に真の輝点(所定の要件を満たし、視線ベクトル求めるために使用する輝点)とレンズ22又は眼鏡20の金具等の部分で反射した偽の輝点31が現われている。
【0022】
図5、図6は画像処理部17及び演算部18で行う処理の手順を示す。図5において、ステップS1は撮影画像(図4)の処理を容易にするために、撮影画像全体の輝度の調整、コントラストの調整、ノイズの除去等の予備的な処理を行う。ステップS2では、撮影画像データから輝度が一定以上の明るい点(又は小領域)を求めて輝点とし、全ての輝点(30,31)を求める。ステップS3はステップS2で求めた輝点の中から真の輝点(30)を決定する。真の輝点を求めるステップは図6に示されており、詳細は後述する。ステップS4は瞳孔(25)の中心を求める。瞳孔の中心は、ステップS2で真の輝点を求める際に瞳孔の輪郭が求められているので、これを利用して求める。
【0023】
ステップS5では角膜球(図示省略)の中心点を求める。角膜球の中心を求める方法は本出願人による特許出願(特許文献2)に詳述されている。この実施態様においても全く同様な手法を使用している。即ち、形態学上の知見によれば、(1)左右の眼から鼻までの距離は等しく、(2)左右両眼の距離と一方の眼から鼻までの距離との比は一定値(既知)である。更に、(3)左右両眼の距離は既知であり、(4)角膜球の中心半径は一定値(既知)である。また、カメラ12の焦点距離(f)並びにカメラパラメータ行列(K)が既知であるとしてもよい(使用前に測定しておけばよい)。従って、これらの条件から撮影カメラ12の画像面から被撮影者10の眼(又は顔面)までの距離を求めることができる。赤外線光源13の発射点が撮影カメラ12に十分に近い位置にあるときは角膜球の中心点座標及び瞳孔24の中心点座標は高い精度の近似計算で容易に求めることができる。なお、上記の計算を遂行するに当たっては、眼鏡を使用したことによる撮影画像上の真の輝点30及び瞳孔24の中心位置等の変化は無視できる程度に小さいとしている。
【0024】
ステップS6ではステップS5で求めた瞳孔24の中心点の座標と角膜球の中心点座標から視線ベクトル(又は視線方向)を算出する。
【0025】
図6は真の輝点を求める探索手順(フローチャート)を示す。真の輝点の要件として、(1)所定値以上の輝度を有し、(2)輝点の大きさが所定半径の円よりも小さい、(3)近傍に瞳孔が存在する、或いは輝点が瞳孔の内部にある、(4)左右両方の輝点の距離が所定範囲にある、等の条件を満たすものを考える。要件(1)、(2)は既に満たしているものとし、図6においては、要件(3)について検討手順を説明する。ステップS11では、複数個の輝点のリスト(例えば、図7の輝点35a〜35e)から検討する輝点を選択する。ステップS12では選択された輝点に対して瞳孔25を含む程度の大きさの領域36(36a〜36e)を決定し、ステップS13で該領域36内に瞳孔25が含まれているか否かを探索する。ここで、瞳孔25は輝度が所定値以下で暗く、半径が所定の範囲にあり、略円形をしている。
【0026】
ステップS14で瞳孔25の有無をチェックし、瞳孔が無い場合はリストから削除する(ステップS15)。瞳孔25の有無の検討は、まず、輝度が小さくて暗い領域を探索し、その領域が円形であるか否かを判断する。円形の判定は従来技術を使用する。例えば、領域の境界を追跡し、その接線ベクトルの角度変化が略一様で、終点が始点に一致すれば円形と判断できる。円形と判断した場合はその直径が所定の範囲内にあるかを調べる。瞳孔25が存在した場合は未検討の輝点があるかどうかをチェックする(ステップS16)。未検討の輝点がある場合はステップS11〜S15を繰り返す。ステップS17では、その他の要件(例えば、上記した4番目の要件)を満たしているか否かを検討し、真の輝点を確認し、決定する。
【0027】
以上本発明の実施形態を図面に基づいて詳述してきたが、本発明の技術的範囲はこれに限られるものではない。例えば、真の輝点を定める用件は実施形態に記載したものに限られず、実質的に同じであれば他の表現で定めてもよい。また、本実施形態は眼鏡使用者に限定しているように思われるが裸眼者にも適用できる。即ち、輝点が左右各1個で、真の輝点であれば裸眼者と判断して視線ベクトルを求めることができる。逆に輝点が多数ある場合は眼鏡使用者と判断する。
【図面の簡単な説明】
【0028】
【図1】本実施形態(視線ベクトル検出システム)の構成を示す。
【図2】赤外線光源をカメラより低い位置に設置した場合の撮影画像を示す。
【図3】赤外線光源をカメラより高い位置に設置した場合の撮影画像を示す。
【図4】要部を抽出した説明のための画像を示す。
【図5】画像処理部の実行する手順を示す。
【図6】真の輝点を求める手順を示す。
【図7】真の輝点を探索する図を示す。
【符号の説明】
【0029】
10 被撮影者
11 眼鏡
12 撮影カメラ
13 赤外線光源
14 カメラ軸
15 計算機
20 眼鏡
22 レンズ
24 虹彩
25 瞳孔
30 真の輝点
31 偽の輝点
35 輝点
36 探索領域
【特許請求の範囲】
【請求項1】
眼又は顔を照射する赤外線光源と、眼又は顔を撮影するカメラと、該カメラの撮影画像データを処理して視線ベクトルを算出する計算機とを具備する視線ベクトル検出システムにおいて、前記計算機は前記撮影画像データから真の輝点及び瞳孔の中心を検出して、視線ベクトルを算出することを特徴とする眼鏡使用者の視線ベクトル検出システム。
【請求項2】
前記撮影カメラは、被撮影者の顔の正面で、眼の位置より低い位置に設置したことを特徴とする請求項1に眼鏡使用者の視線ベクトル検出システム。
【請求項3】
前記赤外線光源は、暗瞳効果が生じさせるように、前記撮影カメラの光軸から離れた位置に設置したことを特徴とする請求項1又は請求項2の何れか1に記載の眼鏡使用者の視線ベクトル検出システム。
【請求項4】
前記赤外線光源は、前記撮影カメラよりも低い位置に設置したことを特徴とする請求項1〜請求項3の何れか1に記載の眼鏡使用者の視線ベクトル検出システム。
【請求項5】
前記赤外線光源は、前記撮影カメラの光軸の左右両側に設けたことを特徴とする請求項1〜請求項4の何れか1に記載の眼鏡使用者の視線ベクトル検出システム。
【請求項6】
前記計算機は前記撮影画像データから真の輝点及び瞳孔の中心を検出する画像処理部と、視線ベクトルを算出する演算部とを含み、該画像処理部は近傍に瞳孔を有する輝点の中で所定の要件を満たす輝点を真の輝点と決定すると共に該瞳孔の中心を求め、更に、形態学上の知見によるデータを利用して角膜球の中心を求める処理を実行することを特徴とする請該求項1〜請求項5の何れか1に記載の眼鏡使用者の視線ベクトル検出システム。
【請求項7】
前記演算部は、前記瞳孔の中心と前記角膜球の中心とから視線方向ベクトルを算出することを特徴とする請求項1〜請求項6の何れか1に記載の視線検出方法。
【請求項8】
前記計算機は、更に前記撮影画像データを前処理する前処理部を含むことを特徴とする請求項1〜請求項7の何れか1に記載の視線検出方法。
【請求項1】
眼又は顔を照射する赤外線光源と、眼又は顔を撮影するカメラと、該カメラの撮影画像データを処理して視線ベクトルを算出する計算機とを具備する視線ベクトル検出システムにおいて、前記計算機は前記撮影画像データから真の輝点及び瞳孔の中心を検出して、視線ベクトルを算出することを特徴とする眼鏡使用者の視線ベクトル検出システム。
【請求項2】
前記撮影カメラは、被撮影者の顔の正面で、眼の位置より低い位置に設置したことを特徴とする請求項1に眼鏡使用者の視線ベクトル検出システム。
【請求項3】
前記赤外線光源は、暗瞳効果が生じさせるように、前記撮影カメラの光軸から離れた位置に設置したことを特徴とする請求項1又は請求項2の何れか1に記載の眼鏡使用者の視線ベクトル検出システム。
【請求項4】
前記赤外線光源は、前記撮影カメラよりも低い位置に設置したことを特徴とする請求項1〜請求項3の何れか1に記載の眼鏡使用者の視線ベクトル検出システム。
【請求項5】
前記赤外線光源は、前記撮影カメラの光軸の左右両側に設けたことを特徴とする請求項1〜請求項4の何れか1に記載の眼鏡使用者の視線ベクトル検出システム。
【請求項6】
前記計算機は前記撮影画像データから真の輝点及び瞳孔の中心を検出する画像処理部と、視線ベクトルを算出する演算部とを含み、該画像処理部は近傍に瞳孔を有する輝点の中で所定の要件を満たす輝点を真の輝点と決定すると共に該瞳孔の中心を求め、更に、形態学上の知見によるデータを利用して角膜球の中心を求める処理を実行することを特徴とする請該求項1〜請求項5の何れか1に記載の眼鏡使用者の視線ベクトル検出システム。
【請求項7】
前記演算部は、前記瞳孔の中心と前記角膜球の中心とから視線方向ベクトルを算出することを特徴とする請求項1〜請求項6の何れか1に記載の視線検出方法。
【請求項8】
前記計算機は、更に前記撮影画像データを前処理する前処理部を含むことを特徴とする請求項1〜請求項7の何れか1に記載の視線検出方法。
【図1】
【図4】
【図5】
【図6】
【図7】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図2】
【図3】
【公開番号】特開2006−95008(P2006−95008A)
【公開日】平成18年4月13日(2006.4.13)
【国際特許分類】
【出願番号】特願2004−283456(P2004−283456)
【出願日】平成16年9月29日(2004.9.29)
【出願人】(598108467)株式会社ゲン・テック (7)
【出願人】(000005326)本田技研工業株式会社 (23,863)
【Fターム(参考)】
【公開日】平成18年4月13日(2006.4.13)
【国際特許分類】
【出願日】平成16年9月29日(2004.9.29)
【出願人】(598108467)株式会社ゲン・テック (7)
【出願人】(000005326)本田技研工業株式会社 (23,863)
【Fターム(参考)】
[ Back to top ]