まぶた検出装置及びプログラム
【課題】まぶたに化粧をしている場合であっても、まぶたと眼球との境界を正しく検出することができるようにする。
【解決手段】目画像におけるまぶたの境界における縦方向の濃淡変化の1次微分値と2次微分値とに基づいて、2次微分値を、まぶたの境界における濃淡変化の周波数の周期の1/4だけ、上方向にずらし、1次微分値と2次微分値とを組み合わせて、上瞼特徴量を算出する。算出された上瞼特徴量の縦方向のピーク点に基づいて、上まぶたと眼球との境界を検出する。
【解決手段】目画像におけるまぶたの境界における縦方向の濃淡変化の1次微分値と2次微分値とに基づいて、2次微分値を、まぶたの境界における濃淡変化の周波数の周期の1/4だけ、上方向にずらし、1次微分値と2次微分値とを組み合わせて、上瞼特徴量を算出する。算出された上瞼特徴量の縦方向のピーク点に基づいて、上まぶたと眼球との境界を検出する。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、まぶた検出装置及びプログラムに係り、特に、目を含む領域の画像から、まぶたの境界点を検出するまぶた検出装置及びプログラムに関する。
【背景技術】
【0002】
従来より、濃淡画像の濃淡変化の大きさを表す1次元エッジ画像上で、エッジ値が極大値又は極小値となる点に基づいて、まぶたと眼球との境界点を検出するまぶたの開度検出装置が知られている(特許文献1)。
【0003】
また、1次微分値(エッジ値)の極大値ではなく、大きく値が変化する部分を瞼特徴量として、まぶたと眼球との境界点を検出するまぶた検出装置が知られている(特許文献2)。
【先行技術文献】
【特許文献】
【0004】
【特許文献1】特許第3143819号
【特許文献2】特許第4309927号
【発明の概要】
【発明が解決しようとする課題】
【0005】
しかしながら、上記特許文献1に記載の技術では、1次微分値(エッジ値)の極大値を瞼位置としているため、まぶたにアイシャドーが塗られ、化粧している場合には、まぶたと眼球との境界から離れた場所を境界点として検出してしまい、正しい境界点を検出することができない、という問題がある。
【0006】
また、上記特許文献2に記載の技術では、1次微分値(エッジ値)が大きく変化する位置を決めるために閾値を設定する必要があり、様々な画像を考慮した場合には、閾値の設定が困難である、という問題がある。
【0007】
本発明は、上記の問題点を解決するためになされたもので、まぶたに化粧をしている場合であっても、まぶたと眼球との境界を正しく検出することができるまぶた検出装置及びプログラムを提供することを目的とする。
【課題を解決するための手段】
【0008】
上記の目的を達成するために本発明に係るまぶた検出装置は、目を含む領域の画像に基づいて、該領域における画素毎の所定方向の画素値変化の大きさを表す1次エッジ画像、及び該領域における画素毎の前記所定方向の画素値変化の大きさの前記所定方向の変化率を表わす2次エッジ画像を生成する生成手段と、前記画像におけるまぶたの境界における画素値変化の周波数の周期に応じて、前記1次エッジ画像及び前記2次エッジ画像の何れか一方を前記所定方向にずらし、各画素について、前記1次エッジ画像の該画素の画素値及び前記2次エッジ画像の該画素の画素値に基づいて、特徴量を算出する特徴量算出手段と、前記算出された各画素の特徴量に基づいて、上まぶたと眼球との境界及び下まぶたと眼球との境界の少なくとも一方を検出するまぶた検出手段と、を含んで構成されている。
【0009】
また、本発明に係るプログラムは、コンピュータを、目を含む領域の画像に基づいて、該領域における画素毎の所定方向の画素値変化の大きさを表す1次エッジ画像、及び該領域における画素毎の前記所定方向の画素値変化の大きさの前記所定方向の変化率を表わす2次エッジ画像を生成する生成手段、前記画像におけるまぶたの境界における画素値変化の周波数の周期に応じて、前記1次エッジ画像及び前記2次エッジ画像の何れか一方を前記所定方向にずらし、各画素について、前記1次エッジ画像の該画素の画素値及び前記2次エッジ画像の該画素の画素値に基づいて、特徴量を算出する特徴量算出手段、及び前記算出された各画素の特徴量に基づいて、上まぶたと眼球との境界及び下まぶたと眼球との境界の少なくとも一方を検出するまぶた検出手段として機能させるためのプログラムである。
【0010】
本発明によれば、生成手段によって、目を含む領域の画像に基づいて、該領域における画素毎の所定方向の画素値変化の大きさを表す1次エッジ画像、及び該領域における画素毎の所定方向の画素値変化の大きさの所定方向の変化率を表わす2次エッジ画像を生成する。特徴量算出手段によって、画像におけるまぶたの境界における画素値変化の周波数の周期に応じて、1次エッジ画像及び2次エッジ画像の何れか一方を所定方向にずらし、各画素について、1次エッジ画像の該画素の画素値及び2次エッジ画像の該画素の画素値に基づいて、特徴量を算出する。
【0011】
そして、まぶた検出手段によって、算出された各画素の特徴量に基づいて、上まぶたと眼球との境界及び下まぶたと眼球との境界の少なくとも一方を検出する。
【0012】
このように、まぶたの境界における画素値変化の周波数の周期に応じて、1次エッジ画像及び2次エッジ画像の何れか一方を所定方向にずらし、各画素について、1次エッジ画像及び2次エッジ画像に基づいて特徴量を算出し、上まぶたと眼球との境界又は下まぶたと眼球との境界を検出することにより、まぶたに化粧をしている場合であっても、まぶたと眼球との境界を正しく検出することができる。
【0013】
本発明に係るまぶた検出装置は、画像から、目の大きさを検出する目検出手段を更に含み、特徴量算出手段は、検出された目の大きさに対応して予め定められたまぶたの境界における画素値変化の周波数の周期に応じて、1次エッジ画像及び2次エッジ画像の何れか一方を所定方向にずらして、各画素について特徴量を算出するようにすることができる。
【0014】
本発明に係るまぶた検出装置は、画像から、まぶたの境界における画素値変化を抽出する画素値変化抽出手段と、抽出された画素値変化の周波数を検出する周波数検出手段とを更に含み、特徴量算出手段は、周波数検出手段によって検出された画素値変化の周波数の周期に応じて、1次エッジ画像及び2次エッジ画像の何れか一方を所定方向にずらして、各画素について特徴量を算出するようにすることができる。
【0015】
本発明に係る特徴量算出手段は、画像におけるまぶたの境界における画素値変化の周波数の周期の1/4だけ、1次エッジ画像及び2次エッジ画像の何れか一方を所定方向にずらして、各画素について特徴量を算出するようにすることができる。これによって、1次エッジ画像及び2次エッジ画像の、まぶたの境界における画素値変化の位相のずれを合わせることができる。
【0016】
上記の所定方向を、まばたき方向とすることができる。
【0017】
上記の特徴量算出手段は、1次エッジ画像を、まばたき方向であって、かつ、下方向にずらし、各画素について前記特徴量を算出し、まぶた検出手段は、算出された特徴量に基づいて、上まぶたと眼球との境界を検出するようにすることができる。これによって、1次エッジ画像及び2次エッジ画像の、上まぶたの境界における画素値変化の位相のずれを合わせて、特徴量を算出して、上まぶたと眼球との境界を正しく検出することができる。
【0018】
本発明に係る特徴量算出手段は、2次エッジ画像を、まばたき方向であって、かつ、上方向にずらし、各画素について特徴量を算出し、まぶた検出手段は、算出された特徴量に基づいて、上まぶたと眼球との境界を検出するようにすることができる。これによって、1次エッジ画像及び2次エッジ画像の、上まぶたの境界における画素値変化の位相のずれを合わせて、特徴量を算出して、上まぶたと眼球との境界を正しく検出することができる。
【0019】
上記の特徴量算出手段は、各画素について、1次エッジ画像の該画素の画素値及び2次エッジ画像の該画素の画素値の重み付き加算又は乗算により、特徴量を算出するようにすることができる。
【0020】
上記のまぶた検出手段は、算出された特徴量の所定方向におけるピーク点に基づいて、上まぶたと眼球との境界及び下まぶたと眼球との境界の少なくとも一方を検出するようにすることができる。
【発明の効果】
【0021】
以上説明したように、本発明のまぶた検出装置及びプログラムによれば、まぶたの境界における画素値変化の周波数の周期に応じて、1次エッジ画像及び2次エッジ画像の何れか一方を所定方向にずらし、各画素について、1次エッジ画像及び2次エッジ画像に基づいて特徴量を算出し、上まぶたと眼球との境界又は下まぶたと眼球との境界を検出することにより、まぶたに化粧をしている場合であっても、まぶたと眼球との境界を正しく検出することができる、という効果が得られる。
【図面の簡単な説明】
【0022】
【図1】本発明の第1の実施の形態に係るまぶた検出装置の構成を示すブロック図である。
【図2】(A)目画像を示すイメージ図、及び(B)縦方向の濃淡値の変化、1次微分値の変化、2次微分値の変化を示すグラフである。
【図3】(A)Prewittフィルタを示すイメージ図、(B)Sobelフィルタを示すイメージ図、及び(C)単純差分フィルタを示すイメージ図である。
【図4】(A)〜(F)縦方向2次微分フィルタの例を示すイメージ図である。
【図5】正弦波を示す図である。
【図6】正弦波をフィッティングする領域を示す図である。
【図7】正弦波をフィッティングする様子を示すイメージ図である。
【図8】縦方向の濃淡値の変化、1次微分値の変化、2次微分値の変化、及び上瞼特徴量の変化を示すグラフである。
【図9】本発明の第1の実施の形態に係るまぶた検出装置における画像処理ルーチンの内容を示すフローチャートである。
【図10】本発明の第2の実施の形態に係るまぶた検出装置の構成を示すブロック図である。
【図11】本発明の第2の実施の形態に係るまぶた検出装置における画像処理ルーチンの内容を示すフローチャートである。
【図12】本発明の第3の実施の形態に係るまぶた検出装置の構成を示すブロック図である。
【発明を実施するための形態】
【0023】
以下、図面を参照して本発明の実施の形態を詳細に説明する。なお、本実施の形態では、濃淡画像からまぶたの開度を求めて出力するまぶた検出装置に本発明を適用した場合を例に説明する。
【0024】
図1に示すように、第1の実施の形態に係るまぶた検出装置10は、検出対象者の顔を含む画像を撮影するCCDカメラ等からなる画像撮像部12と、画像撮像部12のシャッターの作動に同期して撮影対象を照明するための、赤外ストロボや赤外LED等からなる照明部14と、画像処理を行うコンピュータ16と、CRT等で構成された表示装置18とを備えている。
【0025】
コンピュータ16は、CPU、後述する画像処理ルーチンのプログラムを記憶したROM、データ等を記憶するRAM、及びこれらを接続するバスを含んで構成されている。このコンピュータ16をハードウエアとソフトウエアとに基づいて定まる機能実現手段毎に分割した機能ブロックで説明すると、図1に示すように、コンピュータ16は、画像撮像部12から出力される濃淡画像である顔画像を入力する画像入力部20と、画像入力部20の出力である顔画像の中から目を含む小領域の画像、すなわち目画像を抽出する目画像抽出部22と、目画像抽出部22で抽出された目画像に対して、縦方向の1次微分値を算出して、1次エッジ画像を生成すると共に、縦方向の2次微分値を算出して、2次エッジ画像を生成するエッジ画像生成部24と、1次エッジ画像及び2次エッジ画像に基づいて、各画素について瞼特徴量を算出する特徴量算出部26と、算出された瞼特徴量に基づいて、まぶた位置を検出し、まぶた開度を表示装置18に表示させるまぶた位置検出部28とを備えている。
【0026】
画像入力部20は、例えば、A/Dコンバータや1画面の画像データを記憶する画像メモリ等で構成される。
【0027】
また、目画像抽出部22は、顔画像から目領域を検索して、抽出位置を特定し、特定された抽出位置に基づいて目を含む小領域の画像を目画像として抽出する。
【0028】
また、エッジ画像生成部24は、図2(A)に示すような目画像から、縦方向1次微分フィルタとして、図3(A)に示すようなPrewitt(ペレウィット)フィルタを用いて、図2(B)に示すような、まばたき方向であって、上から下へ向かう方向の画素毎の濃淡変化の大きさを表す1次微分値を画素値とする1次エッジ画像を生成する。なお、縦方向1次微分フィルタとして、図3(B)に示すようなSobelフィルタや、図3(C)に示すような単純差分フィルタを用いて、1次エッジ画像を生成してもよい。
【0029】
また、エッジ画像生成部24は、上記図2(A)に示すような目画像から、図4(A)に示すような縦方向2次微分フィルタを用いて、上記図2(B)に示すような、まばたき方向であって、上から下へ向かう方向の画素毎の濃淡変化の大きさの変化率を表す2次微分値を画素値とする2次エッジ画像を生成する。
【0030】
なお、縦方向2次微分フィルタとして、図4(B)〜図4(F)に示すようなフィルタを用いて、2次エッジ画像を生成してもよい。
【0031】
次に、まぶた特徴量を算出する原理について説明する。
【0032】
一般に、眼球部分は皮膚部分であるまぶたに比べて、反射率が小さいため、暗く撮影されるので、上記図2(A)に示すような、目の写っている画像で、上記図2(B)に示すように、上から下への方向で、「明るい(肌)」→「暗い(肌と眼球の境界部分)」と変化している部分が上瞼の境界として検出され、「暗い」→「明るい」と変化している部分が下瞼の境界として検出される
【0033】
この変化を抽出するために、エッジ画像生成部24では、画像の1次微分値(エッジ値)を計算している。1次微分値は、濃淡変化部分で値が大きくなるので、1次微分値の大きい部分を検出すれば瞼の境界を検出可能である。
【0034】
しかし、瞼の上側にアイシャドーを塗って化粧をしている場合には、1次微分値が大きくなるので、化粧部分を瞼の境界として誤検出する場合がある。
【0035】
ここで、化粧部分の1次微分値はなだらかに変化し、一方、実際の瞼部分の1次微分値は、変化が急峻となる、という違いがある。
【0036】
この違いを抽出するために、エッジ画像生成部24では、1次微分値に対してさらに微分を行い、2次微分値を計算している。
【0037】
本実施の形態では、1次微分値と2次微分値とを組み合わせて、瞼特徴量を算出する。
【0038】
ここで、微分することにより、1次微分値と2次微分値のピークの位置が、1/4周期ずれる。例えば、sinθを微分するとcosθとなるが、1周期が2πであり、cosθ=sin(θ+π/2)であるため、1/4周期ずれている。
【0039】
そこで、本実施の形態では、1次微分値と2次微分値のピーク位置をそろえるために、2次微分値を1/4周期ずらし、1次微分値とずらした2次微分値とを組み合わせて、瞼特徴量を算出する。
【0040】
特徴量算出部26は、予め求められた、まぶたの境界における縦方向の濃度変化の周波数の周期に基づいて、1/4周期だけ、2次エッジ画像を、画像の上方向及び下方向にずらす。
【0041】
ここで、まぶたの境界における縦方向の濃度変化の周波数の周期は、以下に説明するように予め求めておく。
【0042】
まず、画像撮像部12によって撮像された画像から目画像を抽出し、目画像から、まぶた境界における縦方向の濃淡変化を抽出する。抽出された縦方向の濃淡変化について、図5に示すような正弦波を用いて、濃淡変化の周波数を検出する。周波数の検出に使用する正弦波の区間は、例えば、上記図5に示すように、クロスポイント間とするか、又は、極大点と極小点との間とする。
【0043】
正弦波の予め定めた区間を用いて、周波数と振幅を変更しながら、図6に示すような、瞼位置に応じた範囲の濃淡変化に合うようにフィッティングを行い、図7に示すように、まぶたの境界における濃淡変化における周波数を推定し、周波数の周期を求めて、メモリ(図示省略)に記憶しておく。
【0044】
なお、正弦波ではなく三角波を用いて、濃淡変化の周波数を推定するようにしても良い。
【0045】
特徴量算出部26は、図8に示すように、まぶたの境界における縦方向の濃度変化の周波数の周期の1/4だけ、2次エッジ画像を、まばたき方向であって、かつ、画像の上方向にずらし、1次エッジ画像と、上方向にずらした2次エッジ画像とに基づいて、各画素の画素値から、以下の(1)式に示すように、各画素の上瞼特徴量eupper(x,y)を算出する。
【0046】
【数1】
【0047】
ただし、e1(x,y)は、1次エッジ画像の座標位置(x、y)での1次微分値である。tは、位相ずらし量であり、e2(x,y+t)は、座標位置(x、y)に対応する、ずらし前の2次エッジ画像の座標位置(x、y+t)での2次微分値である。また、0≦α≦1であり、上記(1)式は、e1(x,y)にαを重み付け、e2(x,y+t)に、−(1−α)を重み付けて、加算している。なお、図8の例では、α=0.25、t=2とし、瞼に化粧をして目を閉じている場合を示している。
【0048】
また、特徴量算出部26は、まぶたの境界における縦方向の濃度変化の周波数の周期の1/4だけ、2次エッジ画像を、画像の下方向にずらし、1次エッジ画像と、下方向にずらした2次エッジ画像とに基づいて、各画素の画素値から、以下の(2)式に示すように、各画素の下瞼特徴量elower(x,y)を算出する。
【0049】
【数2】
【0050】
ただし、e1(x,y)は、1次エッジ画像の座標位置(x、y)での1次微分値である。tは、位相ずらし量であり、e2(x,y−t)は、座標位置(x、y)に対応する、ずらし前の2次エッジ画像の座標位置(x、y−t)での2次微分値である。また、0≦β≦1であり、上記(2)式は、e1(x,y)にβを重み付け、e2(x,y−t)に、(1−β)を重み付けて、加算している。
【0051】
まぶた位置検出部28は、上瞼特徴量の縦方向のピーク点を、上まぶたと眼球との境界を示す第1の境界点として、各画素について算出された上瞼特徴量の縦方向のピーク点の集合に対して、目尻・目頭位置を含んだ上瞼形状モデル(2次元でも3次元でも良い)のパラメータを様々に変更して瞼形状フィッティングを行い、評価値が最大となる上瞼形状及び位置を検出する。また、まぶた位置検出部28は、下瞼特徴量の縦方向のピーク点を、下まぶたと眼球との境界を示す第2の境界点として、各画素について算出された下瞼特徴量の縦方向のピーク点の集合に対して、目尻・目頭位置を含んだ下瞼形状モデル(2次元でも3次元でも良い)のパラメータを様々に変更して瞼形状フィッティングを行い、評価値が最大となる下瞼形状及び位置を検出する。なお、フィッティング評価値には、算出した上瞼特徴量又は下瞼特徴量を用いればよい。
【0052】
また、まぶた位置検出部28は、検出された上瞼形状と下瞼形状から、まぶた開度を計測し、表示装置18に出力する。
【0053】
次に、まぶた検出装置10の動作について説明する。まず、画像撮像部12で被験者の顔画像を撮影する。この際に、周囲の外乱光の影響を低減させるために、例えば、赤外ストロボからなる照明部14を、画像撮像部12の撮影と同期して発光させることにより、被験者の顔部を照明する。なお、照明部14から連続光を発光させれば、画像撮像部12との同期は不要となり、構成が簡単になる。
【0054】
そして、コンピュータ16において、図9に示す画像処理ルーチンを実行する。まず、ステップ100において、画像撮像部12で撮影された顔画像を、ビデオ信号として取り込み、ステップ102で、ビデオ信号をA/D変換して、2次元ディジタル画像を生成する。本実施例においては、以降の処理は、このディジタル画像に基づいて、ディジタル処理により行われるので、以後、単に画像という場合にはディジタル画像を意味することとする。
【0055】
そして、ステップ104において、顔画像の中から目の領域を検索して、目を含む領域を抽出領域として設定し、ステップ106で、片目を含む小領域を目画像として抽出する。なお、目の領域を検索するには、例えば、テンプレートマッチング法による画像処理により顔画像の中から目の領域を検索してもよいし、あるいは、操作者がキーボード、マウス、電子ペンまたはライトペン等の目領域指示手段により顔画像の上で目を指し示すことにより目の領域を指示してもよい。
【0056】
そして、ステップ108で、上記ステップ106で抽出された目画像に対して、上記図3(A)に示すようなPrewittフィルタを用いたエッジ処理を行い、上から下へ向かう方向の画素毎の画素値変化としての濃淡変化の大きさを表す1次微分値を画素値とする1次エッジ画像を生成する。例えば、現在の画像座標を(x、y)とし、(x、y)での画素値をA(x、y)とすると、1次エッジ画像における(x、y)の1次微分値E(x、y)は、以下の式で求められる。
【0057】
E(x、y)=A(x−1、y−1)+A(x、y−1)+A(x+1、y−1)
−A(x−1、y+1)−A(x、y+1)−A(x+1、y+1)
【0058】
次のステップ110では、上記ステップ106で抽出された目画像に対して、上記図4(A)に示すような縦方向2次微分フィルタを用いたエッジ処理を行い、上から下へ向かう方向の画素毎の画素値変化としての濃淡変化の大きさの変化率を表す2次微分値を画素値とする2次エッジ画像を生成する。例えば、現在の画像座標を(x、y)とし、(x、y)での画素値をA(x、y)とすると、2次エッジ画像における(x、y)の2次微分値E´(x、y)は、以下の式で求められる。
【0059】
E´(x、y)=A(x−1、y−1)+A(x、y−1)+A(x+1、y−1)
−2A(x−1、y)−2A(x、y)−2A(x+1、y)
+A(x−1、y+1)+A(x、y+1)+A(x+1、y+1)
【0060】
次のステップ112では、予め求められた、まぶたの境界における縦方向の濃度変化の周波数の周期の1/4だけ、上瞼特徴量の算出用に、2次エッジ画像を画像の上方向にずらすと共に、下瞼特徴量の算出用に、2次エッジ画像を画像の下方向にずらす。
【0061】
そして、ステップ114において、上記ステップ108で生成された1次エッジ画像と、上記ステップ112で上方向にずらされた2次エッジ画像とに基づいて、各画素について、上瞼特徴量を算出する。また、上記ステップ108で生成された1次エッジ画像と、上記ステップ112で下方向にずらされた2次エッジ画像とに基づいて、各画素について、下瞼特徴量を算出する。
【0062】
次のステップ116では、上記ステップ114で算出された上瞼特徴量の縦方向のピーク点を検出すると共に、下瞼特徴量の縦方向のピーク点を検出する。ステップ118において、上記ステップ116で検出された上瞼特徴量の縦方向のピーク点の集合から、上瞼形状及び位置を検出すると共に、上記ステップ116で検出された下瞼特徴量の縦方向のピーク点の集合から、下瞼形状及び位置を検出する。
【0063】
そして、ステップ120において、上記ステップ118で検出された上瞼形状及び位置と、下瞼形状及び位置とから求められるまぶた開度を、表示装置18に表示させて、画像処理ルーチンを終了する。
【0064】
以上説明したように、第1の実施の形態に係るまぶた検出装置によれば、まぶたの境界における濃淡変化の周波数の周期の1/4だけ、2次エッジ画像を縦方向にずらして、1次エッジ画像及び2次エッジ画像の、まぶたの境界における画素値変化の位相のずれを合わせ、各画素について、1次エッジ画像及び2次エッジ画像に基づいて上瞼特徴量及び下瞼特徴量を算出し、まぶた位置を検出することにより、まぶたに化粧をしている場合であっても、まぶた位置を正しく検出することができる。
【0065】
また、瞼に化粧していると、化粧部分と実際の瞼部分の間で瞼特徴量(1次微分値)の差が出にくいため、1次微分値が変化する部分を捉えるために、1次微分値の変化量、即ち、2次微分値を計算し、2次微分値の位相をずらした値を、瞼特徴量として加えて、実際の瞼に近い場所で瞼特徴量が大きくなるように算出する。これによって、アイシャドーなどにより瞼に化粧をしている場合でも、瞼位置に近い所で瞼特徴量を大きくでき、まぶた位置を高精度に検出することができる。
【0066】
また、まぶた位置を正確に検出することにより、まぶたの開度を高精度に計測することができる。
【0067】
次に、第2の実施の形態について説明する。なお、第1の実施の形態と同様の構成となる部分については、同一符号を付して説明を省略する。
【0068】
第2の実施の形態では、まぶた位置を検出する度に、目画像から得られる濃淡変化から周波数を検出している点が、第1の実施の形態と異なっている。
【0069】
図10に示すように、第2の実施の形態に係るまぶた検出装置210のコンピュータ216は、画像入力部20と、目画像抽出部22と、エッジ画像生成部24と、目画像から、まぶたの境界における縦方向の濃度変化を抽出する濃淡変化抽出部230と、抽出された濃淡変化の周波数を検出する周波数検出部232と、特徴量算出部26と、まぶた位置検出部28とを備えている。
【0070】
濃淡変化抽出部230は、目画像抽出部22によって抽出された目画像から、予め求められた、まぶた境界を含む領域における縦方向の濃淡変化を抽出する。
【0071】
周波数検出部232は、抽出された縦方向の濃淡変化について、正弦波の予め定めた区間を用いて、周波数と振幅を変更しながら、瞼位置に応じた範囲の濃淡変化に合うようにフィッティングを行い、まぶたの境界における濃淡変化における周波数を検出する。
【0072】
特徴量算出部26は、2次エッジ画像を、検出された周波数の周期の1/4だけ上方向にずらして、上記(1)式に従って、各画素の上瞼特徴量eupper(x,y)を算出する。
【0073】
また、特徴量算出部26は、2次エッジ画像を、検出された周波数の周期の1/4だけ、下方向にずらして、上記(2)式に従って、各画素の下瞼特徴量elower(x,y)を算出する。
【0074】
次に、第2の実施の形態に係る画像処理ルーチンについて、図11を用いて説明する。なお、第1の実施の形態と同様の処理については、同一符号を付して詳細な説明を省略する。
【0075】
まず、ステップ100において、画像撮像部12で撮影された顔画像を、ビデオ信号として取り込み、ステップ102で、2次元ディジタル画像を生成する。そして、ステップ104において、顔画像の中から目の領域を検索して、目を含む領域を抽出領域として設定し、ステップ106で、片目を含む小領域を目画像として抽出する。
【0076】
そして、ステップ108で、上記ステップ106で抽出された目画像に対して、エッジ処理を行い、1次エッジ画像を生成する。次のステップ110では、上記ステップ106で抽出された目画像に対して、縦方向2次微分フィルタを用いたエッジ処理を行い、2次エッジ画像を生成する。
【0077】
そして、ステップ200において、上記ステップ106で抽出された目画像の、予め求められた、まぶた境界を含む領域から、縦方向の濃淡変化を抽出する。次のステップ202において、上記ステップ200で抽出した縦方向の濃淡変化の周波数を検出する。
【0078】
そして、ステップ204において、上記ステップ202で検出された周波数の周期の1/4だけ、上瞼特徴量の算出用に、2次エッジ画像を画像の上方向にずらすと共に、下瞼特徴量の算出用に、2次エッジ画像を画像の下方向にずらす。
【0079】
そして、ステップ114において、各画素について、上瞼特徴量を算出すると共に下瞼特徴量を算出する。次のステップ116では、上記ステップ114で算出された上瞼特徴量の縦方向のピーク点を検出すると共に、下瞼特徴量の縦方向のピーク点を検出する。ステップ118において、上記ステップ116で検出された上瞼特徴量の縦方向のピーク点の集合から、上瞼形状及び位置を検出すると共に、上記ステップ116で検出された下瞼特徴量の縦方向のピーク点の集合から、下瞼形状及び位置を検出する。
【0080】
そして、ステップ120において、上記ステップ118で検出された上瞼形状及び位置と、下瞼形状及び位置とから求められるまぶた開度を、表示装置18に表示させて、画像処理ルーチンを終了する。
【0081】
このように、まぶた位置を検出する度に、まぶたの境界における画素値変化の周波数を検出し、検出した周波数の周期の1/4だけ、2次エッジ画像を縦方向にずらすことにより、1次エッジ画像及び2次エッジ画像の、まぶたの境界における画素値変化の位相のずれを合わせることができ、実際の瞼に近い場所で瞼特徴量が大きくなるように算出することができる。
【0082】
次に、第3の実施の形態について説明する。なお、第1の実施の形態と同様の構成となる部分については、同一符号を付して説明を省略する。
【0083】
第3の実施の形態では、目画像から目の大きさを検出し、目の大きさから、まぶた境界における濃淡変化の周波数を決定している点が、第1の実施の形態と異なっている。
【0084】
図12に示すように、第3の実施の形態に係るまぶた検出装置310のコンピュータ316は、画像入力部20と、目画像抽出部22と、エッジ画像生成部24と、目画像を取得し、目の大きさを検出する目サイズ検出部330と、検出された目の大きさに応じた、まぶた境界の濃淡変化の周波数を決定する周波数決定部332と、特徴量算出部26と、まぶた位置検出部28とを備えている。
【0085】
目サイズ検出部330は、目画像抽出部22によって抽出された目画像を取得し、当該目画像から、目の大きさ(例えば、目尻・目頭間の距離など)を検出する。
【0086】
周波数決定部332には、目の大きさと、まぶた境界における縦方向の濃淡変化の周波数との対応関係が予め記憶されており、当該対応関係に基づいて、検出された目の大きさに対応する、まぶたの境界における濃淡変化の周波数を決定する。
【0087】
特徴量算出部26は、2次エッジ画像を、決定された周波数の周期の1/4だけ上方向にずらして、上記(1)式に従って、各画素の上瞼特徴量eupper(x,y)を算出する。
【0088】
また、特徴量算出部26は、2次エッジ画像を、決定された周波数の周期の1/4だけ、下方向にずらして、上記(2)式に従って、各画素の下瞼特徴量elower(x,y)を算出する。
【0089】
次に、第3の実施の形態に係るまぶた検出装置310の動作について説明する。
【0090】
まず、コンピュータ316において、画像撮像部12で撮影された顔画像を、ビデオ信号として取り込み、ビデオ信号をA/D変換して、2次元ディジタル画像を生成し、顔画像の中から目の領域を検索して、目を含む領域を抽出領域として設定し、片目を含む小領域を目画像として抽出する。
【0091】
そして、コンピュータ316は、抽出された目画像から、目の大きさを検出し、検出された目の大きさに対応する、まぶたの境界における濃淡変化の周波数を決定して、メモリ(図示省略)に記憶する。
【0092】
そして、コンピュータ316において、上述した第1の実施の形態と同様に画像処理ルーチンを実行する。
【0093】
このように、目画像から目の大きさを検出し、目の大きさに応じて、まぶたの境界における濃度変化の周波数を決定して、決定した周波数の周期の1/4だけ、2次エッジ画像を縦方向にずらす。これにより、1次エッジ画像及び2次エッジ画像の、まぶたの境界における画素値変化の位相のずれを合わせることができ、実際の瞼に近い場所で瞼特徴量が大きくなるように算出することができる。
【0094】
なお、上記の実施の形態では、目の大きさと、まぶたの境界における濃度変化の周波数との対応関係を予め記憶しておく場合を例に説明したが、これに限定されるものではなく、目の大きさと、まぶたの境界における濃度変化の周波数の周期との対応関係を予め記憶しておくようにしてもよい。
【0095】
また、上記の第1の実施の形態〜第3の実施の形態では、画像入力部で入力した濃淡画像から濃淡変化の大きさを表すエッジ画像を生成する場合を例に説明したが、画像入力部で入力した画像がカラー画像であってもよい。この場合には、カラー画像の濃度値の変化の大きさを表すエッジ画像を生成すればよい。
【0096】
また、目画像に対して、縦方向2次微分フィルタを用いたエッジ処理を行うことにより、2次微分値を計算する場合を例に説明したが、これに限定されるものではなく、1次エッジ画像に対して、縦方向1次微分フィルタを用いたエッジ処理をもう1度行って、2次微分値を計算するようにしてもよい。
【0097】
また、2次エッジ画像をまばたき方向(縦方向)にずらす場合を例に説明したが、これに限定されるものではなく、1次エッジ画像をまばたき方向にずらすようにしてもよい。この場合には、まぶたの境界における縦方向の濃度変化の周波数の周期の1/4だけ、1次エッジ画像を、まばたき方向の下方向にずらし、下方向にずらした1次エッジ画像と、2次エッジ画像とに基づいて、各画素の上瞼特徴量を算出するようにすればよい。また、まぶたの境界における縦方向の濃度変化の周波数の周期の1/4だけ、1次エッジ画像を、まばたき方向の上方向にずらし、上方向にずらした1次エッジ画像と、2次エッジ画像とに基づいて、各画素の下瞼特徴量を算出するようにすればよい。
【0098】
また、化粧は上瞼に塗られるので、上瞼特徴量の算出用にのみ、1次エッジ画像及び2次エッジ画像の何れか一方をまばたき方向にずらすようにしてもよい。
【0099】
また、1次エッジ画像の画素値と2次エッジ画像の画素値とを重み付け加算して、瞼特徴量を算出する場合を例に説明したが、これに限定されるものではなく、1次エッジ画像の画素値と2次エッジ画像の画素値とを乗算して、各画素の瞼特徴量を算出するようにしてもよい。
【0100】
また、瞼特徴量のピーク点の集合に対して、瞼形状をフィッティングして、まぶた位置を検出する場合を例に説明したが、これに限定されるものではなく、他の手法により、まぶた位置を検出するようにしてもよい。
【0101】
本発明のプログラムを、記憶媒体に格納して提供することも可能である。
【符号の説明】
【0102】
10、210、310 まぶた検出装置
12 画像撮像部
16、216、316 コンピュータ
22 目画像抽出部
24 エッジ画像生成部
26 特徴量算出部
28 位置検出部
230 濃淡変化抽出部
232 周波数検出部
330 目サイズ検出部
332 周波数決定部
【技術分野】
【0001】
本発明は、まぶた検出装置及びプログラムに係り、特に、目を含む領域の画像から、まぶたの境界点を検出するまぶた検出装置及びプログラムに関する。
【背景技術】
【0002】
従来より、濃淡画像の濃淡変化の大きさを表す1次元エッジ画像上で、エッジ値が極大値又は極小値となる点に基づいて、まぶたと眼球との境界点を検出するまぶたの開度検出装置が知られている(特許文献1)。
【0003】
また、1次微分値(エッジ値)の極大値ではなく、大きく値が変化する部分を瞼特徴量として、まぶたと眼球との境界点を検出するまぶた検出装置が知られている(特許文献2)。
【先行技術文献】
【特許文献】
【0004】
【特許文献1】特許第3143819号
【特許文献2】特許第4309927号
【発明の概要】
【発明が解決しようとする課題】
【0005】
しかしながら、上記特許文献1に記載の技術では、1次微分値(エッジ値)の極大値を瞼位置としているため、まぶたにアイシャドーが塗られ、化粧している場合には、まぶたと眼球との境界から離れた場所を境界点として検出してしまい、正しい境界点を検出することができない、という問題がある。
【0006】
また、上記特許文献2に記載の技術では、1次微分値(エッジ値)が大きく変化する位置を決めるために閾値を設定する必要があり、様々な画像を考慮した場合には、閾値の設定が困難である、という問題がある。
【0007】
本発明は、上記の問題点を解決するためになされたもので、まぶたに化粧をしている場合であっても、まぶたと眼球との境界を正しく検出することができるまぶた検出装置及びプログラムを提供することを目的とする。
【課題を解決するための手段】
【0008】
上記の目的を達成するために本発明に係るまぶた検出装置は、目を含む領域の画像に基づいて、該領域における画素毎の所定方向の画素値変化の大きさを表す1次エッジ画像、及び該領域における画素毎の前記所定方向の画素値変化の大きさの前記所定方向の変化率を表わす2次エッジ画像を生成する生成手段と、前記画像におけるまぶたの境界における画素値変化の周波数の周期に応じて、前記1次エッジ画像及び前記2次エッジ画像の何れか一方を前記所定方向にずらし、各画素について、前記1次エッジ画像の該画素の画素値及び前記2次エッジ画像の該画素の画素値に基づいて、特徴量を算出する特徴量算出手段と、前記算出された各画素の特徴量に基づいて、上まぶたと眼球との境界及び下まぶたと眼球との境界の少なくとも一方を検出するまぶた検出手段と、を含んで構成されている。
【0009】
また、本発明に係るプログラムは、コンピュータを、目を含む領域の画像に基づいて、該領域における画素毎の所定方向の画素値変化の大きさを表す1次エッジ画像、及び該領域における画素毎の前記所定方向の画素値変化の大きさの前記所定方向の変化率を表わす2次エッジ画像を生成する生成手段、前記画像におけるまぶたの境界における画素値変化の周波数の周期に応じて、前記1次エッジ画像及び前記2次エッジ画像の何れか一方を前記所定方向にずらし、各画素について、前記1次エッジ画像の該画素の画素値及び前記2次エッジ画像の該画素の画素値に基づいて、特徴量を算出する特徴量算出手段、及び前記算出された各画素の特徴量に基づいて、上まぶたと眼球との境界及び下まぶたと眼球との境界の少なくとも一方を検出するまぶた検出手段として機能させるためのプログラムである。
【0010】
本発明によれば、生成手段によって、目を含む領域の画像に基づいて、該領域における画素毎の所定方向の画素値変化の大きさを表す1次エッジ画像、及び該領域における画素毎の所定方向の画素値変化の大きさの所定方向の変化率を表わす2次エッジ画像を生成する。特徴量算出手段によって、画像におけるまぶたの境界における画素値変化の周波数の周期に応じて、1次エッジ画像及び2次エッジ画像の何れか一方を所定方向にずらし、各画素について、1次エッジ画像の該画素の画素値及び2次エッジ画像の該画素の画素値に基づいて、特徴量を算出する。
【0011】
そして、まぶた検出手段によって、算出された各画素の特徴量に基づいて、上まぶたと眼球との境界及び下まぶたと眼球との境界の少なくとも一方を検出する。
【0012】
このように、まぶたの境界における画素値変化の周波数の周期に応じて、1次エッジ画像及び2次エッジ画像の何れか一方を所定方向にずらし、各画素について、1次エッジ画像及び2次エッジ画像に基づいて特徴量を算出し、上まぶたと眼球との境界又は下まぶたと眼球との境界を検出することにより、まぶたに化粧をしている場合であっても、まぶたと眼球との境界を正しく検出することができる。
【0013】
本発明に係るまぶた検出装置は、画像から、目の大きさを検出する目検出手段を更に含み、特徴量算出手段は、検出された目の大きさに対応して予め定められたまぶたの境界における画素値変化の周波数の周期に応じて、1次エッジ画像及び2次エッジ画像の何れか一方を所定方向にずらして、各画素について特徴量を算出するようにすることができる。
【0014】
本発明に係るまぶた検出装置は、画像から、まぶたの境界における画素値変化を抽出する画素値変化抽出手段と、抽出された画素値変化の周波数を検出する周波数検出手段とを更に含み、特徴量算出手段は、周波数検出手段によって検出された画素値変化の周波数の周期に応じて、1次エッジ画像及び2次エッジ画像の何れか一方を所定方向にずらして、各画素について特徴量を算出するようにすることができる。
【0015】
本発明に係る特徴量算出手段は、画像におけるまぶたの境界における画素値変化の周波数の周期の1/4だけ、1次エッジ画像及び2次エッジ画像の何れか一方を所定方向にずらして、各画素について特徴量を算出するようにすることができる。これによって、1次エッジ画像及び2次エッジ画像の、まぶたの境界における画素値変化の位相のずれを合わせることができる。
【0016】
上記の所定方向を、まばたき方向とすることができる。
【0017】
上記の特徴量算出手段は、1次エッジ画像を、まばたき方向であって、かつ、下方向にずらし、各画素について前記特徴量を算出し、まぶた検出手段は、算出された特徴量に基づいて、上まぶたと眼球との境界を検出するようにすることができる。これによって、1次エッジ画像及び2次エッジ画像の、上まぶたの境界における画素値変化の位相のずれを合わせて、特徴量を算出して、上まぶたと眼球との境界を正しく検出することができる。
【0018】
本発明に係る特徴量算出手段は、2次エッジ画像を、まばたき方向であって、かつ、上方向にずらし、各画素について特徴量を算出し、まぶた検出手段は、算出された特徴量に基づいて、上まぶたと眼球との境界を検出するようにすることができる。これによって、1次エッジ画像及び2次エッジ画像の、上まぶたの境界における画素値変化の位相のずれを合わせて、特徴量を算出して、上まぶたと眼球との境界を正しく検出することができる。
【0019】
上記の特徴量算出手段は、各画素について、1次エッジ画像の該画素の画素値及び2次エッジ画像の該画素の画素値の重み付き加算又は乗算により、特徴量を算出するようにすることができる。
【0020】
上記のまぶた検出手段は、算出された特徴量の所定方向におけるピーク点に基づいて、上まぶたと眼球との境界及び下まぶたと眼球との境界の少なくとも一方を検出するようにすることができる。
【発明の効果】
【0021】
以上説明したように、本発明のまぶた検出装置及びプログラムによれば、まぶたの境界における画素値変化の周波数の周期に応じて、1次エッジ画像及び2次エッジ画像の何れか一方を所定方向にずらし、各画素について、1次エッジ画像及び2次エッジ画像に基づいて特徴量を算出し、上まぶたと眼球との境界又は下まぶたと眼球との境界を検出することにより、まぶたに化粧をしている場合であっても、まぶたと眼球との境界を正しく検出することができる、という効果が得られる。
【図面の簡単な説明】
【0022】
【図1】本発明の第1の実施の形態に係るまぶた検出装置の構成を示すブロック図である。
【図2】(A)目画像を示すイメージ図、及び(B)縦方向の濃淡値の変化、1次微分値の変化、2次微分値の変化を示すグラフである。
【図3】(A)Prewittフィルタを示すイメージ図、(B)Sobelフィルタを示すイメージ図、及び(C)単純差分フィルタを示すイメージ図である。
【図4】(A)〜(F)縦方向2次微分フィルタの例を示すイメージ図である。
【図5】正弦波を示す図である。
【図6】正弦波をフィッティングする領域を示す図である。
【図7】正弦波をフィッティングする様子を示すイメージ図である。
【図8】縦方向の濃淡値の変化、1次微分値の変化、2次微分値の変化、及び上瞼特徴量の変化を示すグラフである。
【図9】本発明の第1の実施の形態に係るまぶた検出装置における画像処理ルーチンの内容を示すフローチャートである。
【図10】本発明の第2の実施の形態に係るまぶた検出装置の構成を示すブロック図である。
【図11】本発明の第2の実施の形態に係るまぶた検出装置における画像処理ルーチンの内容を示すフローチャートである。
【図12】本発明の第3の実施の形態に係るまぶた検出装置の構成を示すブロック図である。
【発明を実施するための形態】
【0023】
以下、図面を参照して本発明の実施の形態を詳細に説明する。なお、本実施の形態では、濃淡画像からまぶたの開度を求めて出力するまぶた検出装置に本発明を適用した場合を例に説明する。
【0024】
図1に示すように、第1の実施の形態に係るまぶた検出装置10は、検出対象者の顔を含む画像を撮影するCCDカメラ等からなる画像撮像部12と、画像撮像部12のシャッターの作動に同期して撮影対象を照明するための、赤外ストロボや赤外LED等からなる照明部14と、画像処理を行うコンピュータ16と、CRT等で構成された表示装置18とを備えている。
【0025】
コンピュータ16は、CPU、後述する画像処理ルーチンのプログラムを記憶したROM、データ等を記憶するRAM、及びこれらを接続するバスを含んで構成されている。このコンピュータ16をハードウエアとソフトウエアとに基づいて定まる機能実現手段毎に分割した機能ブロックで説明すると、図1に示すように、コンピュータ16は、画像撮像部12から出力される濃淡画像である顔画像を入力する画像入力部20と、画像入力部20の出力である顔画像の中から目を含む小領域の画像、すなわち目画像を抽出する目画像抽出部22と、目画像抽出部22で抽出された目画像に対して、縦方向の1次微分値を算出して、1次エッジ画像を生成すると共に、縦方向の2次微分値を算出して、2次エッジ画像を生成するエッジ画像生成部24と、1次エッジ画像及び2次エッジ画像に基づいて、各画素について瞼特徴量を算出する特徴量算出部26と、算出された瞼特徴量に基づいて、まぶた位置を検出し、まぶた開度を表示装置18に表示させるまぶた位置検出部28とを備えている。
【0026】
画像入力部20は、例えば、A/Dコンバータや1画面の画像データを記憶する画像メモリ等で構成される。
【0027】
また、目画像抽出部22は、顔画像から目領域を検索して、抽出位置を特定し、特定された抽出位置に基づいて目を含む小領域の画像を目画像として抽出する。
【0028】
また、エッジ画像生成部24は、図2(A)に示すような目画像から、縦方向1次微分フィルタとして、図3(A)に示すようなPrewitt(ペレウィット)フィルタを用いて、図2(B)に示すような、まばたき方向であって、上から下へ向かう方向の画素毎の濃淡変化の大きさを表す1次微分値を画素値とする1次エッジ画像を生成する。なお、縦方向1次微分フィルタとして、図3(B)に示すようなSobelフィルタや、図3(C)に示すような単純差分フィルタを用いて、1次エッジ画像を生成してもよい。
【0029】
また、エッジ画像生成部24は、上記図2(A)に示すような目画像から、図4(A)に示すような縦方向2次微分フィルタを用いて、上記図2(B)に示すような、まばたき方向であって、上から下へ向かう方向の画素毎の濃淡変化の大きさの変化率を表す2次微分値を画素値とする2次エッジ画像を生成する。
【0030】
なお、縦方向2次微分フィルタとして、図4(B)〜図4(F)に示すようなフィルタを用いて、2次エッジ画像を生成してもよい。
【0031】
次に、まぶた特徴量を算出する原理について説明する。
【0032】
一般に、眼球部分は皮膚部分であるまぶたに比べて、反射率が小さいため、暗く撮影されるので、上記図2(A)に示すような、目の写っている画像で、上記図2(B)に示すように、上から下への方向で、「明るい(肌)」→「暗い(肌と眼球の境界部分)」と変化している部分が上瞼の境界として検出され、「暗い」→「明るい」と変化している部分が下瞼の境界として検出される
【0033】
この変化を抽出するために、エッジ画像生成部24では、画像の1次微分値(エッジ値)を計算している。1次微分値は、濃淡変化部分で値が大きくなるので、1次微分値の大きい部分を検出すれば瞼の境界を検出可能である。
【0034】
しかし、瞼の上側にアイシャドーを塗って化粧をしている場合には、1次微分値が大きくなるので、化粧部分を瞼の境界として誤検出する場合がある。
【0035】
ここで、化粧部分の1次微分値はなだらかに変化し、一方、実際の瞼部分の1次微分値は、変化が急峻となる、という違いがある。
【0036】
この違いを抽出するために、エッジ画像生成部24では、1次微分値に対してさらに微分を行い、2次微分値を計算している。
【0037】
本実施の形態では、1次微分値と2次微分値とを組み合わせて、瞼特徴量を算出する。
【0038】
ここで、微分することにより、1次微分値と2次微分値のピークの位置が、1/4周期ずれる。例えば、sinθを微分するとcosθとなるが、1周期が2πであり、cosθ=sin(θ+π/2)であるため、1/4周期ずれている。
【0039】
そこで、本実施の形態では、1次微分値と2次微分値のピーク位置をそろえるために、2次微分値を1/4周期ずらし、1次微分値とずらした2次微分値とを組み合わせて、瞼特徴量を算出する。
【0040】
特徴量算出部26は、予め求められた、まぶたの境界における縦方向の濃度変化の周波数の周期に基づいて、1/4周期だけ、2次エッジ画像を、画像の上方向及び下方向にずらす。
【0041】
ここで、まぶたの境界における縦方向の濃度変化の周波数の周期は、以下に説明するように予め求めておく。
【0042】
まず、画像撮像部12によって撮像された画像から目画像を抽出し、目画像から、まぶた境界における縦方向の濃淡変化を抽出する。抽出された縦方向の濃淡変化について、図5に示すような正弦波を用いて、濃淡変化の周波数を検出する。周波数の検出に使用する正弦波の区間は、例えば、上記図5に示すように、クロスポイント間とするか、又は、極大点と極小点との間とする。
【0043】
正弦波の予め定めた区間を用いて、周波数と振幅を変更しながら、図6に示すような、瞼位置に応じた範囲の濃淡変化に合うようにフィッティングを行い、図7に示すように、まぶたの境界における濃淡変化における周波数を推定し、周波数の周期を求めて、メモリ(図示省略)に記憶しておく。
【0044】
なお、正弦波ではなく三角波を用いて、濃淡変化の周波数を推定するようにしても良い。
【0045】
特徴量算出部26は、図8に示すように、まぶたの境界における縦方向の濃度変化の周波数の周期の1/4だけ、2次エッジ画像を、まばたき方向であって、かつ、画像の上方向にずらし、1次エッジ画像と、上方向にずらした2次エッジ画像とに基づいて、各画素の画素値から、以下の(1)式に示すように、各画素の上瞼特徴量eupper(x,y)を算出する。
【0046】
【数1】
【0047】
ただし、e1(x,y)は、1次エッジ画像の座標位置(x、y)での1次微分値である。tは、位相ずらし量であり、e2(x,y+t)は、座標位置(x、y)に対応する、ずらし前の2次エッジ画像の座標位置(x、y+t)での2次微分値である。また、0≦α≦1であり、上記(1)式は、e1(x,y)にαを重み付け、e2(x,y+t)に、−(1−α)を重み付けて、加算している。なお、図8の例では、α=0.25、t=2とし、瞼に化粧をして目を閉じている場合を示している。
【0048】
また、特徴量算出部26は、まぶたの境界における縦方向の濃度変化の周波数の周期の1/4だけ、2次エッジ画像を、画像の下方向にずらし、1次エッジ画像と、下方向にずらした2次エッジ画像とに基づいて、各画素の画素値から、以下の(2)式に示すように、各画素の下瞼特徴量elower(x,y)を算出する。
【0049】
【数2】
【0050】
ただし、e1(x,y)は、1次エッジ画像の座標位置(x、y)での1次微分値である。tは、位相ずらし量であり、e2(x,y−t)は、座標位置(x、y)に対応する、ずらし前の2次エッジ画像の座標位置(x、y−t)での2次微分値である。また、0≦β≦1であり、上記(2)式は、e1(x,y)にβを重み付け、e2(x,y−t)に、(1−β)を重み付けて、加算している。
【0051】
まぶた位置検出部28は、上瞼特徴量の縦方向のピーク点を、上まぶたと眼球との境界を示す第1の境界点として、各画素について算出された上瞼特徴量の縦方向のピーク点の集合に対して、目尻・目頭位置を含んだ上瞼形状モデル(2次元でも3次元でも良い)のパラメータを様々に変更して瞼形状フィッティングを行い、評価値が最大となる上瞼形状及び位置を検出する。また、まぶた位置検出部28は、下瞼特徴量の縦方向のピーク点を、下まぶたと眼球との境界を示す第2の境界点として、各画素について算出された下瞼特徴量の縦方向のピーク点の集合に対して、目尻・目頭位置を含んだ下瞼形状モデル(2次元でも3次元でも良い)のパラメータを様々に変更して瞼形状フィッティングを行い、評価値が最大となる下瞼形状及び位置を検出する。なお、フィッティング評価値には、算出した上瞼特徴量又は下瞼特徴量を用いればよい。
【0052】
また、まぶた位置検出部28は、検出された上瞼形状と下瞼形状から、まぶた開度を計測し、表示装置18に出力する。
【0053】
次に、まぶた検出装置10の動作について説明する。まず、画像撮像部12で被験者の顔画像を撮影する。この際に、周囲の外乱光の影響を低減させるために、例えば、赤外ストロボからなる照明部14を、画像撮像部12の撮影と同期して発光させることにより、被験者の顔部を照明する。なお、照明部14から連続光を発光させれば、画像撮像部12との同期は不要となり、構成が簡単になる。
【0054】
そして、コンピュータ16において、図9に示す画像処理ルーチンを実行する。まず、ステップ100において、画像撮像部12で撮影された顔画像を、ビデオ信号として取り込み、ステップ102で、ビデオ信号をA/D変換して、2次元ディジタル画像を生成する。本実施例においては、以降の処理は、このディジタル画像に基づいて、ディジタル処理により行われるので、以後、単に画像という場合にはディジタル画像を意味することとする。
【0055】
そして、ステップ104において、顔画像の中から目の領域を検索して、目を含む領域を抽出領域として設定し、ステップ106で、片目を含む小領域を目画像として抽出する。なお、目の領域を検索するには、例えば、テンプレートマッチング法による画像処理により顔画像の中から目の領域を検索してもよいし、あるいは、操作者がキーボード、マウス、電子ペンまたはライトペン等の目領域指示手段により顔画像の上で目を指し示すことにより目の領域を指示してもよい。
【0056】
そして、ステップ108で、上記ステップ106で抽出された目画像に対して、上記図3(A)に示すようなPrewittフィルタを用いたエッジ処理を行い、上から下へ向かう方向の画素毎の画素値変化としての濃淡変化の大きさを表す1次微分値を画素値とする1次エッジ画像を生成する。例えば、現在の画像座標を(x、y)とし、(x、y)での画素値をA(x、y)とすると、1次エッジ画像における(x、y)の1次微分値E(x、y)は、以下の式で求められる。
【0057】
E(x、y)=A(x−1、y−1)+A(x、y−1)+A(x+1、y−1)
−A(x−1、y+1)−A(x、y+1)−A(x+1、y+1)
【0058】
次のステップ110では、上記ステップ106で抽出された目画像に対して、上記図4(A)に示すような縦方向2次微分フィルタを用いたエッジ処理を行い、上から下へ向かう方向の画素毎の画素値変化としての濃淡変化の大きさの変化率を表す2次微分値を画素値とする2次エッジ画像を生成する。例えば、現在の画像座標を(x、y)とし、(x、y)での画素値をA(x、y)とすると、2次エッジ画像における(x、y)の2次微分値E´(x、y)は、以下の式で求められる。
【0059】
E´(x、y)=A(x−1、y−1)+A(x、y−1)+A(x+1、y−1)
−2A(x−1、y)−2A(x、y)−2A(x+1、y)
+A(x−1、y+1)+A(x、y+1)+A(x+1、y+1)
【0060】
次のステップ112では、予め求められた、まぶたの境界における縦方向の濃度変化の周波数の周期の1/4だけ、上瞼特徴量の算出用に、2次エッジ画像を画像の上方向にずらすと共に、下瞼特徴量の算出用に、2次エッジ画像を画像の下方向にずらす。
【0061】
そして、ステップ114において、上記ステップ108で生成された1次エッジ画像と、上記ステップ112で上方向にずらされた2次エッジ画像とに基づいて、各画素について、上瞼特徴量を算出する。また、上記ステップ108で生成された1次エッジ画像と、上記ステップ112で下方向にずらされた2次エッジ画像とに基づいて、各画素について、下瞼特徴量を算出する。
【0062】
次のステップ116では、上記ステップ114で算出された上瞼特徴量の縦方向のピーク点を検出すると共に、下瞼特徴量の縦方向のピーク点を検出する。ステップ118において、上記ステップ116で検出された上瞼特徴量の縦方向のピーク点の集合から、上瞼形状及び位置を検出すると共に、上記ステップ116で検出された下瞼特徴量の縦方向のピーク点の集合から、下瞼形状及び位置を検出する。
【0063】
そして、ステップ120において、上記ステップ118で検出された上瞼形状及び位置と、下瞼形状及び位置とから求められるまぶた開度を、表示装置18に表示させて、画像処理ルーチンを終了する。
【0064】
以上説明したように、第1の実施の形態に係るまぶた検出装置によれば、まぶたの境界における濃淡変化の周波数の周期の1/4だけ、2次エッジ画像を縦方向にずらして、1次エッジ画像及び2次エッジ画像の、まぶたの境界における画素値変化の位相のずれを合わせ、各画素について、1次エッジ画像及び2次エッジ画像に基づいて上瞼特徴量及び下瞼特徴量を算出し、まぶた位置を検出することにより、まぶたに化粧をしている場合であっても、まぶた位置を正しく検出することができる。
【0065】
また、瞼に化粧していると、化粧部分と実際の瞼部分の間で瞼特徴量(1次微分値)の差が出にくいため、1次微分値が変化する部分を捉えるために、1次微分値の変化量、即ち、2次微分値を計算し、2次微分値の位相をずらした値を、瞼特徴量として加えて、実際の瞼に近い場所で瞼特徴量が大きくなるように算出する。これによって、アイシャドーなどにより瞼に化粧をしている場合でも、瞼位置に近い所で瞼特徴量を大きくでき、まぶた位置を高精度に検出することができる。
【0066】
また、まぶた位置を正確に検出することにより、まぶたの開度を高精度に計測することができる。
【0067】
次に、第2の実施の形態について説明する。なお、第1の実施の形態と同様の構成となる部分については、同一符号を付して説明を省略する。
【0068】
第2の実施の形態では、まぶた位置を検出する度に、目画像から得られる濃淡変化から周波数を検出している点が、第1の実施の形態と異なっている。
【0069】
図10に示すように、第2の実施の形態に係るまぶた検出装置210のコンピュータ216は、画像入力部20と、目画像抽出部22と、エッジ画像生成部24と、目画像から、まぶたの境界における縦方向の濃度変化を抽出する濃淡変化抽出部230と、抽出された濃淡変化の周波数を検出する周波数検出部232と、特徴量算出部26と、まぶた位置検出部28とを備えている。
【0070】
濃淡変化抽出部230は、目画像抽出部22によって抽出された目画像から、予め求められた、まぶた境界を含む領域における縦方向の濃淡変化を抽出する。
【0071】
周波数検出部232は、抽出された縦方向の濃淡変化について、正弦波の予め定めた区間を用いて、周波数と振幅を変更しながら、瞼位置に応じた範囲の濃淡変化に合うようにフィッティングを行い、まぶたの境界における濃淡変化における周波数を検出する。
【0072】
特徴量算出部26は、2次エッジ画像を、検出された周波数の周期の1/4だけ上方向にずらして、上記(1)式に従って、各画素の上瞼特徴量eupper(x,y)を算出する。
【0073】
また、特徴量算出部26は、2次エッジ画像を、検出された周波数の周期の1/4だけ、下方向にずらして、上記(2)式に従って、各画素の下瞼特徴量elower(x,y)を算出する。
【0074】
次に、第2の実施の形態に係る画像処理ルーチンについて、図11を用いて説明する。なお、第1の実施の形態と同様の処理については、同一符号を付して詳細な説明を省略する。
【0075】
まず、ステップ100において、画像撮像部12で撮影された顔画像を、ビデオ信号として取り込み、ステップ102で、2次元ディジタル画像を生成する。そして、ステップ104において、顔画像の中から目の領域を検索して、目を含む領域を抽出領域として設定し、ステップ106で、片目を含む小領域を目画像として抽出する。
【0076】
そして、ステップ108で、上記ステップ106で抽出された目画像に対して、エッジ処理を行い、1次エッジ画像を生成する。次のステップ110では、上記ステップ106で抽出された目画像に対して、縦方向2次微分フィルタを用いたエッジ処理を行い、2次エッジ画像を生成する。
【0077】
そして、ステップ200において、上記ステップ106で抽出された目画像の、予め求められた、まぶた境界を含む領域から、縦方向の濃淡変化を抽出する。次のステップ202において、上記ステップ200で抽出した縦方向の濃淡変化の周波数を検出する。
【0078】
そして、ステップ204において、上記ステップ202で検出された周波数の周期の1/4だけ、上瞼特徴量の算出用に、2次エッジ画像を画像の上方向にずらすと共に、下瞼特徴量の算出用に、2次エッジ画像を画像の下方向にずらす。
【0079】
そして、ステップ114において、各画素について、上瞼特徴量を算出すると共に下瞼特徴量を算出する。次のステップ116では、上記ステップ114で算出された上瞼特徴量の縦方向のピーク点を検出すると共に、下瞼特徴量の縦方向のピーク点を検出する。ステップ118において、上記ステップ116で検出された上瞼特徴量の縦方向のピーク点の集合から、上瞼形状及び位置を検出すると共に、上記ステップ116で検出された下瞼特徴量の縦方向のピーク点の集合から、下瞼形状及び位置を検出する。
【0080】
そして、ステップ120において、上記ステップ118で検出された上瞼形状及び位置と、下瞼形状及び位置とから求められるまぶた開度を、表示装置18に表示させて、画像処理ルーチンを終了する。
【0081】
このように、まぶた位置を検出する度に、まぶたの境界における画素値変化の周波数を検出し、検出した周波数の周期の1/4だけ、2次エッジ画像を縦方向にずらすことにより、1次エッジ画像及び2次エッジ画像の、まぶたの境界における画素値変化の位相のずれを合わせることができ、実際の瞼に近い場所で瞼特徴量が大きくなるように算出することができる。
【0082】
次に、第3の実施の形態について説明する。なお、第1の実施の形態と同様の構成となる部分については、同一符号を付して説明を省略する。
【0083】
第3の実施の形態では、目画像から目の大きさを検出し、目の大きさから、まぶた境界における濃淡変化の周波数を決定している点が、第1の実施の形態と異なっている。
【0084】
図12に示すように、第3の実施の形態に係るまぶた検出装置310のコンピュータ316は、画像入力部20と、目画像抽出部22と、エッジ画像生成部24と、目画像を取得し、目の大きさを検出する目サイズ検出部330と、検出された目の大きさに応じた、まぶた境界の濃淡変化の周波数を決定する周波数決定部332と、特徴量算出部26と、まぶた位置検出部28とを備えている。
【0085】
目サイズ検出部330は、目画像抽出部22によって抽出された目画像を取得し、当該目画像から、目の大きさ(例えば、目尻・目頭間の距離など)を検出する。
【0086】
周波数決定部332には、目の大きさと、まぶた境界における縦方向の濃淡変化の周波数との対応関係が予め記憶されており、当該対応関係に基づいて、検出された目の大きさに対応する、まぶたの境界における濃淡変化の周波数を決定する。
【0087】
特徴量算出部26は、2次エッジ画像を、決定された周波数の周期の1/4だけ上方向にずらして、上記(1)式に従って、各画素の上瞼特徴量eupper(x,y)を算出する。
【0088】
また、特徴量算出部26は、2次エッジ画像を、決定された周波数の周期の1/4だけ、下方向にずらして、上記(2)式に従って、各画素の下瞼特徴量elower(x,y)を算出する。
【0089】
次に、第3の実施の形態に係るまぶた検出装置310の動作について説明する。
【0090】
まず、コンピュータ316において、画像撮像部12で撮影された顔画像を、ビデオ信号として取り込み、ビデオ信号をA/D変換して、2次元ディジタル画像を生成し、顔画像の中から目の領域を検索して、目を含む領域を抽出領域として設定し、片目を含む小領域を目画像として抽出する。
【0091】
そして、コンピュータ316は、抽出された目画像から、目の大きさを検出し、検出された目の大きさに対応する、まぶたの境界における濃淡変化の周波数を決定して、メモリ(図示省略)に記憶する。
【0092】
そして、コンピュータ316において、上述した第1の実施の形態と同様に画像処理ルーチンを実行する。
【0093】
このように、目画像から目の大きさを検出し、目の大きさに応じて、まぶたの境界における濃度変化の周波数を決定して、決定した周波数の周期の1/4だけ、2次エッジ画像を縦方向にずらす。これにより、1次エッジ画像及び2次エッジ画像の、まぶたの境界における画素値変化の位相のずれを合わせることができ、実際の瞼に近い場所で瞼特徴量が大きくなるように算出することができる。
【0094】
なお、上記の実施の形態では、目の大きさと、まぶたの境界における濃度変化の周波数との対応関係を予め記憶しておく場合を例に説明したが、これに限定されるものではなく、目の大きさと、まぶたの境界における濃度変化の周波数の周期との対応関係を予め記憶しておくようにしてもよい。
【0095】
また、上記の第1の実施の形態〜第3の実施の形態では、画像入力部で入力した濃淡画像から濃淡変化の大きさを表すエッジ画像を生成する場合を例に説明したが、画像入力部で入力した画像がカラー画像であってもよい。この場合には、カラー画像の濃度値の変化の大きさを表すエッジ画像を生成すればよい。
【0096】
また、目画像に対して、縦方向2次微分フィルタを用いたエッジ処理を行うことにより、2次微分値を計算する場合を例に説明したが、これに限定されるものではなく、1次エッジ画像に対して、縦方向1次微分フィルタを用いたエッジ処理をもう1度行って、2次微分値を計算するようにしてもよい。
【0097】
また、2次エッジ画像をまばたき方向(縦方向)にずらす場合を例に説明したが、これに限定されるものではなく、1次エッジ画像をまばたき方向にずらすようにしてもよい。この場合には、まぶたの境界における縦方向の濃度変化の周波数の周期の1/4だけ、1次エッジ画像を、まばたき方向の下方向にずらし、下方向にずらした1次エッジ画像と、2次エッジ画像とに基づいて、各画素の上瞼特徴量を算出するようにすればよい。また、まぶたの境界における縦方向の濃度変化の周波数の周期の1/4だけ、1次エッジ画像を、まばたき方向の上方向にずらし、上方向にずらした1次エッジ画像と、2次エッジ画像とに基づいて、各画素の下瞼特徴量を算出するようにすればよい。
【0098】
また、化粧は上瞼に塗られるので、上瞼特徴量の算出用にのみ、1次エッジ画像及び2次エッジ画像の何れか一方をまばたき方向にずらすようにしてもよい。
【0099】
また、1次エッジ画像の画素値と2次エッジ画像の画素値とを重み付け加算して、瞼特徴量を算出する場合を例に説明したが、これに限定されるものではなく、1次エッジ画像の画素値と2次エッジ画像の画素値とを乗算して、各画素の瞼特徴量を算出するようにしてもよい。
【0100】
また、瞼特徴量のピーク点の集合に対して、瞼形状をフィッティングして、まぶた位置を検出する場合を例に説明したが、これに限定されるものではなく、他の手法により、まぶた位置を検出するようにしてもよい。
【0101】
本発明のプログラムを、記憶媒体に格納して提供することも可能である。
【符号の説明】
【0102】
10、210、310 まぶた検出装置
12 画像撮像部
16、216、316 コンピュータ
22 目画像抽出部
24 エッジ画像生成部
26 特徴量算出部
28 位置検出部
230 濃淡変化抽出部
232 周波数検出部
330 目サイズ検出部
332 周波数決定部
【特許請求の範囲】
【請求項1】
目を含む領域の画像に基づいて、該領域における画素毎の所定方向の画素値変化の大きさを表す1次エッジ画像、及び該領域における画素毎の前記所定方向の画素値変化の大きさの前記所定方向の変化率を表わす2次エッジ画像を生成する生成手段と、
前記画像におけるまぶたの境界における画素値変化の周波数の周期に応じて、前記1次エッジ画像及び前記2次エッジ画像の何れか一方を前記所定方向にずらし、各画素について、前記1次エッジ画像の該画素の画素値及び前記2次エッジ画像の該画素の画素値に基づいて、特徴量を算出する特徴量算出手段と、
前記算出された各画素の特徴量に基づいて、上まぶたと眼球との境界及び下まぶたと眼球との境界の少なくとも一方を検出するまぶた検出手段と、
を含むまぶた検出装置。
【請求項2】
前記画像から、目の大きさを検出する目検出手段を更に含み、
前記特徴量算出手段は、前記検出された目の大きさに対応して予め定められた前記まぶたの境界における画素値変化の周波数の周期に応じて、前記1次エッジ画像及び前記2次エッジ画像の何れか一方を前記所定方向にずらして、各画素について前記特徴量を算出する請求項1記載のまぶた検出装置。
【請求項3】
前記画像から、まぶたの境界における画素値変化を抽出する画素値変化抽出手段と、
前記抽出された画素値変化の周波数を検出する周波数検出手段とを更に含み、
前記特徴量算出手段は、前記周波数検出手段によって検出された前記画素値変化の周波数の周期に応じて、前記1次エッジ画像及び前記2次エッジ画像の何れか一方を前記所定方向にずらして、各画素について前記特徴量を算出する請求項1記載のまぶた検出装置。
【請求項4】
前記特徴量算出手段は、前記画像におけるまぶたの境界における画素値変化の周波数の周期の1/4だけ、前記1次エッジ画像及び前記2次エッジ画像の何れか一方を前記所定方向にずらして、各画素について前記特徴量を算出する請求項1〜請求項3の何れか1項記載のまぶた検出装置。
【請求項5】
前記所定方向を、まばたき方向とした請求項1〜請求項4の何れか1項記載のまぶた検出装置。
【請求項6】
前記特徴量算出手段は、前記1次エッジ画像を、前記まばたき方向であって、かつ、下方向にずらし、各画素について前記特徴量を算出し、
前記まぶた検出手段は、前記算出された特徴量に基づいて、上まぶたと眼球との境界を検出する請求項5記載のまぶた検出装置。
【請求項7】
前記特徴量算出手段は、前記2次エッジ画像を、前記まばたき方向であって、かつ、上方向にずらし、各画素について前記特徴量を算出し、
前記まぶた検出手段は、前記算出された特徴量に基づいて、上まぶたと眼球との境界を検出する請求項5記載のまぶた検出装置。
【請求項8】
前記特徴量算出手段は、各画素について、前記1次エッジ画像の該画素の画素値及び前記2次エッジ画像の該画素の画素値の重み付き加算又は乗算により、前記特徴量を算出する請求項1〜請求項7の何れか1項記載のまぶた検出装置。
【請求項9】
前記まぶた検出手段は、前記算出された特徴量の前記所定方向におけるピーク点に基づいて、前記上まぶたと眼球との境界及び前記下まぶたと眼球との境界の少なくとも一方を検出する請求項1〜請求項8の何れか1項記載のまぶた検出装置。
【請求項10】
コンピュータを、
目を含む領域の画像に基づいて、該領域における画素毎の所定方向の画素値変化の大きさを表す1次エッジ画像、及び該領域における画素毎の前記所定方向の画素値変化の大きさの前記所定方向の変化率を表わす2次エッジ画像を生成する生成手段、
前記画像におけるまぶたの境界における画素値変化の周波数の周期に応じて、前記1次エッジ画像及び前記2次エッジ画像の何れか一方を前記所定方向にずらし、各画素について、前記1次エッジ画像の該画素の画素値及び前記2次エッジ画像の該画素の画素値に基づいて、特徴量を算出する特徴量算出手段、及び
前記算出された各画素の特徴量に基づいて、上まぶたと眼球との境界及びの少なくとも一方を検出するまぶた検出手段
として機能させるためのプログラム。
【請求項1】
目を含む領域の画像に基づいて、該領域における画素毎の所定方向の画素値変化の大きさを表す1次エッジ画像、及び該領域における画素毎の前記所定方向の画素値変化の大きさの前記所定方向の変化率を表わす2次エッジ画像を生成する生成手段と、
前記画像におけるまぶたの境界における画素値変化の周波数の周期に応じて、前記1次エッジ画像及び前記2次エッジ画像の何れか一方を前記所定方向にずらし、各画素について、前記1次エッジ画像の該画素の画素値及び前記2次エッジ画像の該画素の画素値に基づいて、特徴量を算出する特徴量算出手段と、
前記算出された各画素の特徴量に基づいて、上まぶたと眼球との境界及び下まぶたと眼球との境界の少なくとも一方を検出するまぶた検出手段と、
を含むまぶた検出装置。
【請求項2】
前記画像から、目の大きさを検出する目検出手段を更に含み、
前記特徴量算出手段は、前記検出された目の大きさに対応して予め定められた前記まぶたの境界における画素値変化の周波数の周期に応じて、前記1次エッジ画像及び前記2次エッジ画像の何れか一方を前記所定方向にずらして、各画素について前記特徴量を算出する請求項1記載のまぶた検出装置。
【請求項3】
前記画像から、まぶたの境界における画素値変化を抽出する画素値変化抽出手段と、
前記抽出された画素値変化の周波数を検出する周波数検出手段とを更に含み、
前記特徴量算出手段は、前記周波数検出手段によって検出された前記画素値変化の周波数の周期に応じて、前記1次エッジ画像及び前記2次エッジ画像の何れか一方を前記所定方向にずらして、各画素について前記特徴量を算出する請求項1記載のまぶた検出装置。
【請求項4】
前記特徴量算出手段は、前記画像におけるまぶたの境界における画素値変化の周波数の周期の1/4だけ、前記1次エッジ画像及び前記2次エッジ画像の何れか一方を前記所定方向にずらして、各画素について前記特徴量を算出する請求項1〜請求項3の何れか1項記載のまぶた検出装置。
【請求項5】
前記所定方向を、まばたき方向とした請求項1〜請求項4の何れか1項記載のまぶた検出装置。
【請求項6】
前記特徴量算出手段は、前記1次エッジ画像を、前記まばたき方向であって、かつ、下方向にずらし、各画素について前記特徴量を算出し、
前記まぶた検出手段は、前記算出された特徴量に基づいて、上まぶたと眼球との境界を検出する請求項5記載のまぶた検出装置。
【請求項7】
前記特徴量算出手段は、前記2次エッジ画像を、前記まばたき方向であって、かつ、上方向にずらし、各画素について前記特徴量を算出し、
前記まぶた検出手段は、前記算出された特徴量に基づいて、上まぶたと眼球との境界を検出する請求項5記載のまぶた検出装置。
【請求項8】
前記特徴量算出手段は、各画素について、前記1次エッジ画像の該画素の画素値及び前記2次エッジ画像の該画素の画素値の重み付き加算又は乗算により、前記特徴量を算出する請求項1〜請求項7の何れか1項記載のまぶた検出装置。
【請求項9】
前記まぶた検出手段は、前記算出された特徴量の前記所定方向におけるピーク点に基づいて、前記上まぶたと眼球との境界及び前記下まぶたと眼球との境界の少なくとも一方を検出する請求項1〜請求項8の何れか1項記載のまぶた検出装置。
【請求項10】
コンピュータを、
目を含む領域の画像に基づいて、該領域における画素毎の所定方向の画素値変化の大きさを表す1次エッジ画像、及び該領域における画素毎の前記所定方向の画素値変化の大きさの前記所定方向の変化率を表わす2次エッジ画像を生成する生成手段、
前記画像におけるまぶたの境界における画素値変化の周波数の周期に応じて、前記1次エッジ画像及び前記2次エッジ画像の何れか一方を前記所定方向にずらし、各画素について、前記1次エッジ画像の該画素の画素値及び前記2次エッジ画像の該画素の画素値に基づいて、特徴量を算出する特徴量算出手段、及び
前記算出された各画素の特徴量に基づいて、上まぶたと眼球との境界及びの少なくとも一方を検出するまぶた検出手段
として機能させるためのプログラム。
【図1】
【図3】
【図4】
【図5】
【図7】
【図9】
【図10】
【図11】
【図12】
【図2】
【図6】
【図8】
【図3】
【図4】
【図5】
【図7】
【図9】
【図10】
【図11】
【図12】
【図2】
【図6】
【図8】
【公開番号】特開2012−22531(P2012−22531A)
【公開日】平成24年2月2日(2012.2.2)
【国際特許分類】
【出願番号】特願2010−160053(P2010−160053)
【出願日】平成22年7月14日(2010.7.14)
【出願人】(000003609)株式会社豊田中央研究所 (4,200)
【出願人】(000000011)アイシン精機株式会社 (5,421)
【Fターム(参考)】
【公開日】平成24年2月2日(2012.2.2)
【国際特許分類】
【出願日】平成22年7月14日(2010.7.14)
【出願人】(000003609)株式会社豊田中央研究所 (4,200)
【出願人】(000000011)アイシン精機株式会社 (5,421)
【Fターム(参考)】
[ Back to top ]