説明

眠気判定装置および眠気判定方法

【課題】表情変動が生じている場合であっても眠気レベルを精度良く判定することができる眠気判定装置を提供すること。
【解決手段】眠気判定装置100は、人の表情変動の大きさおよび速度を取得する表情変動取得部110と、表情変動の大きさが所定の閾値未満であるか否かを判定する表情変動判定部120と、表情変動の大きさが所定の閾値未満であることを条件として、表情変動の速度に基づく人の眠気レベルの判定を行う眠気判定部130とを有する。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、人の眠気レベルの判定を行う眠気判定装置および眠気判定方法に関する。
【背景技術】
【0002】
従来、居眠り運転防止用の警報などを目的として、人の眠気レベルの判定を自動で行う技術が提案されている(例えば特許文献1参照)。
【0003】
特許文献1に記載の技術(以下「従来技術」という)は、まず、車両の室内に設置した撮像機器により撮影された運転者の顔の映像から、運転者の顔特徴点間の距離(左右口角間の距離、眉と目の距離など)を、逐次検出する。そして、従来技術は、検出した特徴点間距離を、運転者が覚醒状態にあるときの特徴点間距離と比較することにより、運転者の眠気の兆候を検出する。より具体的には、従来技術は、覚醒状態のときの特徴点間距離と、判定対象時刻の特徴点間距離との大小関係から、運転者の眠気レベルを判定する。このような従来技術は、人の眠気レベルの判定を自動で行うことができる。
【先行技術文献】
【特許文献】
【0004】
【特許文献1】特開2009−45418号公報
【非特許文献】
【0005】
【非特許文献1】北島洋樹、外3名、「自動車運転時の眠気の予測手法についての研究」、日本機械学会論文集(C編)、日本機械学会、1997年、63巻613号、p.93−100
【発明の概要】
【発明が解決しようとする課題】
【0006】
しかしながら、人は、眠気のレベルが比較的高いときでもしばしば表情を変動させるものであり、表情が変動している間、特徴点間距離が覚醒状態の場合と同様の値になることもある。したがって、従来技術は、表情変動が生じている場合には、眠気レベルを精度良く判定することができないという課題を有する。
【0007】
本発明の目的は、表情変動が生じている場合であっても、眠気レベルを精度良く判定することができる眠気判定装置および眠気判定方法を提供することである。
【課題を解決するための手段】
【0008】
本発明の眠気判定装置は、人の表情変動の大きさおよび速度を取得する表情変動取得部と、前記表情変動の大きさが所定の閾値未満であるか否かを判定する表情変動判定部と、前記表情変動の大きさが前記所定の閾値未満であることを条件として、前記表情変動の速度に基づく前記人の眠気レベルの判定を行う眠気判定部とを有する。
【0009】
本発明の眠気判定方法は、人の表情変動の大きさおよび速度を取得するステップと、前記表情変動の大きさが所定の閾値未満であるか否かを判定するステップと、前記表情変動の大きさが前記所定の閾値未満であることを条件として、前記表情変動の速度に基づく前記人の眠気レベルの判定を行うステップとを有する。
【発明の効果】
【0010】
本発明によれば、表情変動が生じている場合であっても眠気レベルを精度良く判定することができる。
【図面の簡単な説明】
【0011】
【図1】本発明の実施の形態1に係る眠気判定装置の構成の一例を示すブロック図
【図2】本発明の実施の形態2に係る眠気判定装置および安全運転支援装置の構成の一例を示すブロック図
【図3】本発明の実施の形態2における第1の眠気判定テーブルの内容の一例を示す図
【図4】本発明の実施の形態2に係る安全運転支援装置の動作の一例を示すフローチャート
【図5】本発明の実施の形態2における表情変動の取得手法を説明するための図
【図6】本発明の実施の形態3に係る眠気判定装置および安全運転支援装置の構成の一例を示すブロック図
【図7】本発明の実施の形態3に係る安全運転支援装置の動作の一例を示すフローチャート
【図8】本発明の実施の形態4に係る眠気判定装置および安全運転支援装置の構成の一例を示すブロック図
【図9】本発明の実施の形態4における第2の眠気判定テーブルの内容の一例を示す
【図10】本発明の実施の形態4に係る安全運転支援装置の動作の一例を示すフローチャート
【発明を実施するための形態】
【0012】
以下、本発明の各実施の形態について、図面を参照して詳細に説明する。
【0013】
(実施の形態1)
本発明の実施の形態1は、本発明の基本的態様の一例である。
【0014】
図1は、本発明の実施の形態1に係る眠気判定装置の構成の一例を示すブロック図である。
【0015】
図1において、眠気判定装置100は、表情変動取得部110、表情変動判定部120、および眠気判定部130を有する。
【0016】
表情変動取得部110は、人の表情変動の大きさおよび速度を取得する。
【0017】
表情変動判定部120は、表情変動の大きさが所定の閾値未満であるか否かを判定する。
【0018】
眠気判定部130は、表情変動の大きさが所定の閾値未満であることを条件として、表情変動の速度に基づく人の眠気レベルの判定を行う。
【0019】
なお、眠気判定装置100は、例えば、CPU(central processing unit)およびRAM(random access memory)等の記憶媒体等を含むコンピュータの構成を取ることができる。この場合、眠気判定装置100は、記憶する制御プログラムをCPUが実行することによって動作する。
【0020】
このような眠気判定装置100は、表情変動の速度(以下、適宜「表情変動速度」という)に基づいて、人の眠気レベルを判定することができる。
【0021】
口角を左右に引く、眉毛を上げる等、人の表情変動は、覚醒状態にあるとき(例えば、眠気レベルが最も低いとき。以下「覚醒時」という)だけでなく、眠気のレベルが比較的高いときにおいても見られる。一方で、眠気の兆候の1つとして、表情変動速度が遅くなるという傾向がある。そこで、表情変動速度が遅くなったことをもって、眠気レベルが高いと判定することが考えられる。
【0022】
ところが、発明者は、眠気レベルが高い状態においても速い表情変動が発生し得ることを、実験・評価により見出した。したがって、単に表情変動速度に基づいて眠気レベルの判定を行うと、判定漏れが発生するおそれがある。
【0023】
一方で、発明者は、眠気レベルが高い状態においては、速い表情変動は、大きい表情変動において顕著に発生し、小さい表情変動ではほとんど発生しないことを、実験・評価により見出した。
【0024】
そこで、眠気判定装置100は、大きい表情変動を判定対象から除外して、表情変動速度が遅いか否かに基づく人の眠気レベルの判定(以下「眠気判定」という)を行う。これにより、眠気判定装置100は、誤判定を防ぎつつ、上述の高い精度での眠気レベルの判定を実現することができる。すなわち、眠気判定装置100は、表情変動が生じている場合であっても眠気レベルを精度良く判定することができる。
【0025】
また、表情変動速度の低下は眠気の初期段階においても発生するため、眠気判定装置100は、眠気の初期段階においても、その眠気レベルを精度良く判定することができる。
【0026】
(実施の形態2)
本発明の実施の形態2は、本発明を、車両運転者の眠気レベルに応じて運転者に警報を行う安全運転支援装置に適用した場合の、具体的態様の一例である。すなわち、本実施の形態において、本発明に係る眠気判定の対象は、車両の運転者である。
【0027】
まず、本実施の形態に係る眠気判定装置およびこれを含む安全運転支援装置の構成について説明する。
【0028】
図2は、本実施の形態に係る眠気判定装置および安全運転支援装置の構成の一例を示すブロック図である。
【0029】
図2において、安全運転支援装置200は、表情変動検出部210、眠気判定装置100、および出力部220を有する。
【0030】
表情変動検出部210は、例えば、車両のコラムカバーに設置されたカメラ(図示せず)が撮影した運転者の画像の時系列データ(画像データ、映像)を入力する。そして、表情変動検出部210は、入力した画像データから、運転者の表情変動の大きさおよび速度を、所定の周期(例えば0.03秒周期)で検出する。
【0031】
そして、表情変動検出部210は、同じタイミングで取得された運転者の表情変動の大きさと運転者の表情変動速度との組を、表情変動情報として、表情変動取得部110へ逐次出力する。すなわち、表情変動検出部210は、所定の周期で取得される表情変動情報の時系列データを、眠気判定装置100へ出力する。
【0032】
運転者の表情変動とは、運転者の表情筋の伸縮によって引き起こされる変化であり、例えば、口角を引くなどの顔の動きである。
【0033】
本実施の形態において、運転者の表情変動は、運転者の顔面上にある2点の間の距離の変動とする。この2点は、表情筋の動きに連動して伸縮する2点である左右の口角とする。そして、「表情変動の大きさ」は、運転者の左右の口角の間の距離(以下「口角距離」という)の変動の大きさとし、「表情変動速度」は、口角距離の変動の速度とする。
【0034】
また、本実施の形態において、表情変動検出部210は、撮影した画像から、運転者の顔面の画像特徴点を抽出し、抽出結果から、運転者の左右の口角を抽出するものとする。
表情変動の取得手法については、後述する。
【0035】
眠気判定装置100は、表情変動検出部210から入力される表情変動情報に基づいて、人の眠気レベルの判定を行う。眠気判定装置100は、表情変動取得部110、表情変動判定部120、および眠気判定部130を有する。
【0036】
表情変動取得部110は、運転者の表情変動の大きさおよび速度を取得する。より具体的には、表情変動取得部110は、表情変動検出部210から表情変動情報を取得し、表情変動判定部120へ出力する。
【0037】
表情変動判定部120は、表情変動の大きさが所定の閾値未満であるか否かを判定する。そして、表情変動判定部120は、表情変動の大きさが所定の閾値未満である表情変動情報についてのみ、その表情変動情報に含まれる表情変動速度を、眠気判定部130へ出力する。すなわち、表情変動判定部120は、表情変動取得部110から入力された表情変動情報に対して、その表情変動情報に含まれる表情変動の大きさに基づき、フィルタリングを行う。
【0038】
眠気判定部130は、表情変動の大きさが所定の閾値未満であることを条件として、表情変動速度に基づく運転者の眠気判定を行う。より具体的には、眠気判定部130は、第1の眠気判定テーブルを参照し、表情変動判定部120から入力された表情変動速度に基づいて、眠気レベルの判定を行う。そして、眠気判定部130は、運転者の眠気レベルの判定結果を、後述の出力部220を用いて運転者に通知する。
【0039】
第1の眠気判定テーブルは、予め定められた複数の眠気レベルのそれぞれについて、その眠気レベルにおける表情変動速度の範囲を記述したテーブルである。
【0040】
図3は、第1の眠気判定テーブルの内容の一例を示す図である。
【0041】
図3に示すように、第1の眠気判定テーブル310は、例えば、表情変動速度311と、眠気レベル312とを対応付けて記述している。表情変動速度311には、表情変動速度S(t)の範囲が記述されている。眠気レベル312には、予め定められた眠気レベルが記述されている。
【0042】
ここで、表情変動速度311に記述されたパラメータTha1〜Tha4は、表情変動速度S(t)の各範囲を規定する閾値であり、以下の式(1)に示す関係を満たす。すなわち、パラメータTha1は、最も低い閾値であり、より速い表情変動速度S(t)に対応している。そして、パラメータTha4は、最も高い閾値であり、より遅い表情変動速度S(t)に対応している。
Tha1<Tha2<Tha3<Tha4 ・・・・・・(1)
【0043】
また、眠気レベル312に記述された「レベル1」〜「レベル5」は、非特許文献1において規定されている5段階の眠気レベルである。「レベル1」は、全く眠くなさそうな状態に対応する。「レベル2」は、やや眠そうな状態に対応する。「レベル3」は、眠そうな状態に対応する。「レベル4」は、かなり眠そうな状態に対応する。「レベル5」は、非常に眠そうな状態に対応する。すなわち、「レベル1」は、覚醒状態に対応し、「レベル2」および「レベル3」は、初期傾眠時に対応する。
【0044】
すなわち、第1の眠気判定テーブル310は、より遅い表情変動速度ほど、より高い眠気レベルを対応付けている。
【0045】
出力部220は、眠気判定部130において判定された眠気レベルに応じた報知情報を出力し、判定結果を運転者に通知する。報知情報は、例えば、音、光、画像、香り、風、気温など、人が知覚可能な情報の形態を取る。
【0046】
本実施の形態では、報知情報は、運転者の眠気による事故防止のために出力されるものである。
【0047】
したがって、例えば、眠気レベル1では、出力部220は、何も出力しない。
【0048】
また、例えば、眠気レベル2では、出力部220は、報知情報として、車室内に存在する環境音を強調した強調音、香り、冷風、および光の少なくとも1つを用いる。これにより、運転者に対して、さりげなく眠気防止を促すことができる。なお、この場合、出力部220は、スピーカ、ベンチレータ、あるいはLED照明などによって実現される。
【0049】
また、例えば、眠気レベル3では、出力部220は、報知情報として、警報音(ビープ音、音声、超音波)、シートの振動、ステアリングの振動、およびシートベルトによる締め付けの少なくとも1つを用いる。
【0050】
また、例えば、眠気レベル4および眠気レベル5では、出力部220は、報知情報として、大音量の警報音、シートの大振動、およびステアリングの大振動の少なくとも1つを用いる。また、例えば、出力部220は、警報と共に、運転者に対して、積極的に休憩を促す情報を出力してもよい。また、例えば、出力部220は、眠気レベルが高く、かつ、先行車との車間距離が極めて接近している場合、車両の制御に介入し、車両を緊急停車させてもよい。
【0051】
小さい表情変動における表情変動速度の低下は、眠気の初期段階においても発生する。このため、眠気判定装置100は、眠気の初期段階においても、その眠気レベルを精度良く判定することができる。事故の未然防止には、特に、眠気レベル3までの初期の眠気レベルにおいて、運転者に対して適切に注意喚起を促し、安全運転を支援することが効果的であると言われている。したがって、出力部220は、眠気レベル2および眠気レベル3の付近で、上述の警報を行うことにより、運転の安全性を向上させることができる。
【0052】
以上で、眠気判定装置100および安全運転支援装置200の構成についての説明を終える。
【0053】
次に、眠気判定装置100を含む安全運転支援装置200の動作について説明する。
【0054】
図4は、安全運転支援装置200の動作の一例を示すフローチャートである。
【0055】
まず、ステップS2000において、表情変動検出部210は、運転者の表情変動の大きさD(t)および表情変動速度S(t)を検出する。そして、表情変動取得部110は、この表情変動の大きさD(t)および表情変動速度S(t)を取得し、表情変動判定部120へ出力する。
【0056】
図5は、表情変動の取得手法を説明するための図である。ここでは、最新の時刻(現在時刻)をtとし、nだけ遡った過去の時刻をt−nとする。例えば、時刻t−nにおいて運転者は覚醒状態にあり、時刻tにおいて運転者は傾眠状態にある。
【0057】
図5(A)に示すように、表情変動検出部210は、時刻t−1の直後には、時刻t−1の画像300から、運転者の右口角301の座標および左口角302の座標を、それぞれ、F(t−1)およびF(t−1)として検出する。より具体的には、表情変動検出部210は、例えば、AAM(Active Appearance Model)あるいはASM(Active Shape Model)などの顔特徴点検出処理を用いて、座標F(t−1)および座標F(t−1)を、画像上の2次元座標系における顔の特徴点として検出する。
【0058】
また、図5(B)に示すように、表情変動検出部210は、時刻tの直後には、時刻tの画像300についても、同様に、運転者の右口角303の座標および左口角304の座標を、それぞれ、F(t)およびF(t)として検出する。
【0059】
表情変動検出部210は、例えば以下のようにして、時刻tにおける表情変動の大きさD(t)および表情変動速度S(t)を検出する。
【0060】
表情変動検出部210は、例えば、以下の式(2)を用い、左右口角間の距離の変動の大きさD(t)を算出する。
(t)
=||F(t)− F(t)|− |F(t−n)− F(t−n)||
・・・・・・(2)
【0061】
表情変動検出部210は、例えば、以下の式(3)を用いて、時刻tにおける表情変動速度S(t)を算出する。
S(t)=|D(t)|/n ・・・・・・(3)
【0062】
また、表情変動検出部210は、検出誤差などが吸収されるように、複数の時刻において上述の式(3)により算出される速度の移動平均を、最終的な表情変動速度とするようにしてもよい。
【0063】
そして、図4のステップS3000において、表情変動判定部120は、表情変動取得部110から入力された表情変動の大きさD(t)が、予め設定された閾値α未満であるか否かを判断する。表情変動判定部120は、表情変動の大きさD(t)が閾値α未満ではない場合(S3000:NO)、ステップS4000へ進む。これは、表情変動の大きさが大きく、表情変動速度の低下からは眠気判定を精度良く検出することができない状況である。また、表情変動判定部120は、表情変動の大きさD(t)が閾値α未満である場合(S3000:YES)、ステップS5000へ進む。これは、表情変動が小さく、表情変動速度の低下から眠気判定を精度良く検出することができる状況である。
【0064】
ステップS5000において、表情変動判定部120は、表情変動速度S(t)を、眠気判定部130へ出力する。この結果、眠気判定部130は、表情変動判定部120から入力された表情変動速度S(t)に基づいて、運転者の眠気レベルを判定する。より具体的には、眠気判定部130は、第1の眠気判定テーブル(図3参照)を参照して、表情変動速度S(t)に対応する眠気レベルを判定する。そして、眠気判定部130は、判定結果を、出力部220へ出力する。
【0065】
そして、ステップS6000において、出力部220は、眠気判定部130から入力された判定結果に応じた処理を行い、ステップS4000へ進む。判定結果に応じた処理とは、上述の通り、例えば、眠気レベル2〜眠気レベル5の場合に、音などによる警報を行う処理である。
【0066】
そして、ステップS4000において、表情変動検出部210は、運転者の操作などにより処理の終了を指示されたか否かを判断する。表情変動検出部210は、処理の終了を指示されていない場合(S4000:NO)、ステップS2000へ戻り、上述の所定の周期で、表情変動の検出を繰り返す。また、表情変動検出部210は、処理の終了を指示されていない場合(S4000:YES)、一連の処理を終了する。
【0067】
このような処理により、安全運転支援装置200は、運転者の表情変動の大きさが小さく、かつ、その速度が遅くなったとき、眠気レベルが高いと判定し、運転者に対して警報を行うことができる。
【0068】
以上で、眠気判定装置100を含む安全運転支援装置200の動作についての説明を終える。
【0069】
以上のように、本実施の形態に係る眠気判定装置100は、運転者の表情変動の大きさが所定の閾値未満であることを条件として、運転者の表情変動速度に基づく運転者の眠気レベルの判定を行う。これにより、眠気判定装置100は、表情変動が生じている場合であっても眠気レベルを精度良く判定することができる。
【0070】
また、本実施の形態に係る安全運転支援装置200は、このような眠気判定装置100による眠気レベルの判定結果に基づいて警報を行うので、誤報を防ぎつつ、居眠り運転をより確実に防止することができる。
【0071】
(実施の形態3)
本発明の実施の形態3は、表情変動の大きさの閾値αを、運転者ごとあるいは環境ごとに設定する場合の具体的態様の一例である。
【0072】
覚醒時の表情変動の大きさには、個人差がある。また、同一の人であっても、撮影環境(カメラとの距離)によって、覚醒時の表情変動の大きさ(画像上の大きさ)は異なってくる。そこで、本実施の形態に係る安全運転支援装置は、眠気判定を開始する前に、表情変動の大きさの履歴を取り、表情変動の出現傾向に基づいて、表情変動の大きさの閾値αの調整を行う。
【0073】
図6は、本実施の形態に係る眠気判定装置および安全運転支援装置の構成の一例を示すブロック図であり、実施の形態2の図2に対応するものである。図2と同一部分には同一符号を付し、これについての説明を省略する。
【0074】
図6において、本実施の形態に係る安全運転支援装置200aは、実施の形態2とは異なる表情変動判定部120aを備えた眠気判定装置100aを有する。表情変動判定部120aは、閾値決定部121aを有する。
【0075】
閾値決定部121aは、表情変動の大きさの履歴を記憶し、その履歴に基づいて、表情変動の大きさの比較に用いる、上述の閾値αを決定する。
【0076】
図7は、本実施の形態に係る安全運転支援装置200aの動作の一例を示すフローチャートであり、実施の形態2の図4に対応するものである。図4と同一部分には同一ステップ番号を付し、これについての説明を省略する。
【0077】
安全運転支援装置200aは、図4のステップS2000〜S6000の処理に先立って、以下に説明するステップS1100a〜1400aの処理を行う。
【0078】
まず、ステップS1100aにおいて、表情変動検出部210は、運転者の表情変動の大きさD(t)を検出する。そして、表情変動取得部110は、この表情変動の大きさD(t)を取得し、表情変動判定部120aへ出力する。
【0079】
そして、ステップS1200aにおいて、閾値決定部121aは、処理を開始してから、閾値αの決定に必要な所定の時間Tが経過したか否かを判断する。かかる所定の時間Tとは、閾値αの調整を精度良く行うのに必要な履歴が蓄積されるのに要する時間として、予め定められた時間である。閾値決定部121aは、所定の時間Tが経過していない場合(S1200a:NO)、ステップS1300aへ進む。また、閾値決定部121aは、所定の時間Tが経過した場合(S1200a:YES)、ステップS1400aへ進む。
【0080】
ステップS1300aにおいて、閾値決定部121aは、入力された表情変動の大きさD(t)を記録(蓄積)し、ステップS1100aへ戻る。この結果、閾値決定部121aは、表情変動の大きさD(t)の集合Dを得る。
【0081】
ステップ1400aにおいて、閾値決定部121aは、蓄積された表情変動の大きさD(t)の集合Dに基づいて、閾値αの決定処理を行う。より具体的には、閾値決定部121aは、例えば、過去に取得された表情変動の大きさDの中間値や平均値を、閾値αとして決定する。
【0082】
これにより、運転者の表情変動が比較的大きい場合や、運転者とカメラとの距離が短い場合は、より大きい値を閾値αとして決定することができる。また、運転者の表情変動が比較的小さい場合や、運転者とカメラとの距離が長い場合は、より小さい値を閾値αとして決定することができる。
【0083】
このような安全運転支援装置200aは、調整により適切な閾値αを設定して眠気判定を行うことができるので、眠気レベルを更に精度良く判定し、運転の安全性を更に向上させることができる。
【0084】
(実施の形態4)
本発明の実施の形態4は、表情変動速度の変化量に基づいて眠気レベルを判定する場合の具体的態様の一例である。
【0085】
傾眠時の表情変動速度は、覚醒時に比べて、その変化量が小さいという傾向を有する。すなわち、小さい変化量は、眠気の兆候の1つである。そこで、速度の変化量の小さい表情変動(以下「低変換量表情変動」という)を用いて眠気判定を行う。
【0086】
図8は、本実施の形態に係る眠気判定装置および安全運転支援装置の構成の一例を示すブロック図であり、実施の形態2の図2に対応するものである。図2と同一部分には同一符号を付し、これについての説明を省略する。
【0087】
本実施の形態に係る安全運転支援装置200bは、実施の形態2とは異なる眠気判定部130bを備えた眠気判定装置100bを有する。眠気判定部130bは、速度変化量算出部131bを有する。
【0088】
速度変化量算出部131bは、表情変動判定部120から入力される表情変動速度(つまり、眠気判定の対象となる表情変動速度)に基づいて、表情変動速度の変化量を算出する。
【0089】
また、眠気判定部130bは、表情変動の大きさが所定の閾値未満であることを条件として、表情変動速度の変化量に基づく運転者の眠気判定を行う。より具体的には、眠気判定部130bは、第2の眠気判定テーブルを参照し、速度変化量算出部131bが算出した表情変動速度の変化量に基づいて、眠気レベルの判定を行う。そして、眠気判定部130bは、運転者の眠気レベルの判定結果を、後述の出力部220を用いて運転者に通知する。
【0090】
第2の眠気判定テーブルは、予め定められた複数の眠気レベルのそれぞれについて、その眠気レベルにおける表情変動速度の変化量の範囲を記述したテーブルである。
【0091】
図9は、第2の眠気判定テーブルの内容の一例を示す図である。
【0092】
図9に示すように、第2の眠気判定テーブル320bは、例えば、表情変動速度の変化量321bと、眠気レベル322bとを対応付けて記述している。表情変動速度の変化量321bには、表情変動速度の変化量ΔS(t)の範囲が記述されている。眠気レベル322bには、予め定められた眠気レベルが記述されている。
【0093】
ここで、表情変動速度の変化量321bに記述されたパラメータThc1〜Thc4は、表情変動速度ΔS(t)の各範囲を規定する閾値であり、以下の式(4)に示す関係を満たす。すなわち、パラメータThc1は、最も低い閾値であり、より速い表情変動速度の変化量ΔS(t)に対応している。そして、パラメータThc4は、最も高い閾値であり、より小さい変化量ΔS(t)に対応している。
Thc1<Thc2<Thc3<Thc4 ・・・・・・(4)
【0094】
また、眠気レベル322bに記述された「レベル1」〜「レベル5」は、実施の形態2と同様に、非特許文献1において規定されている5段階の眠気レベルである。
【0095】
すなわち、眠気判定装置100bは、過去の時刻t−nにおける表情変動速度S(t−n)と時刻tにおける表情変動速度S(t)とを比較する。そして、眠気判定装置100bは、時刻t−nから時刻tまでに、表情変動速度S(t)が遅くなっているほど、眠気がより強いと判定する。
【0096】
図10は、安全運転支援装置200bの動作の一例を示すフローチャートであり、実施の形態2の図4に対応するものである。図4と同一部分には同一ステップ番号を付し、これについての説明を省略する。
【0097】
表情変動判定部120は、表情変動の大きさD(t)が閾値α未満である場合(S3000:YES)、表情変動速度S(t)を眠気判定部130bへ出力して、ステップS5100bへ進む。
【0098】
ステップS5100bにおいて、速度変化量算出部131bは、表情変動取得部110から入力された表情変動速度S(t)を記録する。このステップが繰り返された結果、例えば、時刻0〜時刻tの表情変動速度S(0)〜S(t)が記録される。
【0099】
そして、ステップS5200bにおいて、速度変化量算出部131bは、過去に記録した表情変動速度から、表情変動速度の差分の基準となる速度(以下「表情変動の基準速度」という)S(B)を決定する。
【0100】
具体的には、速度変化量算出部131bは、例えば、時刻0〜時刻t−nの表情変動速度S(0)〜S(t−n)の平均値を、表情変動の基準速度S(B)に決定してもよい。また、速度変化量算出部131bは、例えば、時刻0〜時刻tの表情変動速度S(0)〜S(t)の最大値を、表情変動の基準速度S(B)に決定してもよい。なお、表情変動の基準速度S(B)の決定手法は、これらに限定されるものではなく、過去の表情変動速度を代表する値であればよい。
【0101】
そして、ステップS5300bにおいて、速度変化量算出部131bは、決定した、表情変動の基準速度S(B)に対する、最新の表情変動速度S(t)の差分を、表情変動速度の変化量ΔS(t)として算出する。
【0102】
具体的には、速度変化量算出部131bは、例えば、以下の式(5)を用いて、表情変動速度の変化量ΔS(t)を算出する。
ΔS(t)=|S(t)−S(B)|・・・・・・(5)
【0103】
そして、ステップS5400bにおいて、眠気判定部130は、速度変化量算出部131bが算出した表情変動速度の変化量ΔS(t)に基づいて、運転者の眠気レベルを判定する。より具体的には、眠気判定部130bは、第2の眠気判定テーブル(図9参照)を参照して、表情変動速度の変化量ΔS(t)に対応する眠気レベルを判定する。そして、眠気判定部130bは、判定結果を、出力部220へ出力して、ステップS6000へ進む。
【0104】
このような安全運転支援装置200bは、覚醒時の低変化量変動については判定対象から除外しつつ、低変化量変動を用いて眠気判定を行うことができるので、眠気レベルを精度良く判定し、運転の安全性を向上させることができる。
【0105】
なお、本実施の形態に係る安全運転支援装置200bにおいても、実施の形態3のように、閾値αの調整を行うようにしてもよい。
【0106】
なお、以上説明した実施の形態2〜実施の形態4において、左右口角間の距離の変動の大きさD(t+n)の算出手法は、上述の例に限定されない。
【0107】
例えば、表情変動検出部は、時刻t+nにおける右口角の表情変動の大きさD(t+n)および左口角の表情変動の大きさD(t+n)を、以下の式(6)および式(7)を用いて算出する。
(t+n)=|F(t+n)− F(t)| ・・・・・・(6)
(t+n)=|F(t+n)− F(t)| ・・・・・・(7)
【0108】
そして、表情変動検出部は、左右口角の表情変動の大きさD(t+n)、D(t+n)から、以下の式(8)を用いて、左右口角間の距離の変動の大きさD(t+n)を、表情変動の大きさとして算出する。
(t+n)=D(t+n)−D(t+n) ・・・・・・(8)
【0109】
また、以上説明した実施の形態2〜実施の形態4においては、画像上の2次元座標系における表情変動の大きさおよび速度を用いたが、実空間の3次元座標系における表情変動の大きさおよび速度を用いてもよい。
【0110】
また、判定対象となる眠気レベルは、上述の5段階に限定されない。判定対象となる眠気レベルは、例えば、「眠気無し」、「眠気弱」、「眠気強」の3段階であってもよい。
【0111】
この場合、実施の形態2および実施の形態3では、例えば、2つのパラメータThb1、Thb2を閾値として用いて表情変動速度S(t)を3つの範囲に区分し、眠気判定を行う。この場合、パラメータThb1、Thb2は、例えば以下の式(9)に示す関係を満たす。
Thb1<Thb2 ・・・・・・(9)
【0112】
また、実施の形態4では、例えば、2つのパラメータThd1、Thd2を閾値として用いて表情変動速度の変化量ΔS(t)を3つの範囲に区分し、眠気判定を行う。この場合、パラメータThd1、Thd2は、例えば以下の式(10)に示す関係を満たす。
Thd1<Thd2 ・・・・・・(10)
【0113】
また、表情変動検出部は、画像データに基づいて運転者の表情変動の大きさおよび速度を検出するとしたが、これに限定されない。表情変動検出部は、例えば、運転者の顔から筋電情報を取得し、筋電情報に基づいて運転者の表情変動を検出してもよい。また、表情変動検出部は、例えば、口周辺のテクスチャ形状の変化といった他の各種画像特徴を数値化した値を用いて、表情変動の大きさおよび速度を検出してもよい。
【産業上の利用可能性】
【0114】
本発明は、表情変動が生じている場合であっても眠気レベルを精度良く判定することができる眠気判定装置および眠気判定方法として有用である。
【符号の説明】
【0115】
100、100a、100b 眠気判定装置
110 表情変動取得部
120、120a 表情変動判定部
121a 閾値決定部
130、130b 眠気判定部
131b 速度変化量算出部
200、200a、200b 安全運転支援装置
210 表情変動検出部
220 出力部

【特許請求の範囲】
【請求項1】
人の表情変動の大きさおよび速度を取得する表情変動取得部と、
前記表情変動の大きさが所定の閾値未満であるか否かを判定する表情変動判定部と、
前記表情変動の大きさが前記所定の閾値未満であることを条件として、前記表情変動の速度に基づく前記人の眠気レベルの判定を行う眠気判定部と、を有する、
眠気判定装置。
【請求項2】
前記眠気判定部は、
前記表情変動の速度がより遅いとき、より高い眠気レベルを前記人の眠気レベルとして判定する、
請求項1記載の眠気判定装置。
【請求項3】
前記表情変動の大きさは、前記人の顔面上にある2点の間の距離の変動の大きさに対応する値であり、前記表情変動の速度は、前記距離の変動の速度に対応する値である、
請求項2記載の眠気判定装置。
【請求項4】
前記表情変動判定部は、
取得された前記距離の、前記人の眠気レベルが低いときの前記2点の間の距離である基準距離に対する差分に対応する値を、前記変動の大きさとする、
請求項3記載の眠気判定装置。
【請求項5】
前記眠気判定部は、
予め定められた複数の眠気レベルのそれぞれについて、その眠気レベルにおける前記表情変動の速度の範囲を記述した第1の眠気判定テーブルを参照して、前記人の眠気レベルを判定する、
請求項2記載の眠気判定装置。
【請求項6】
前記表情変動判定部は、
前記表情変動の大きさの履歴を記憶し、前記履歴に基づいて前記所定の閾値を決定する、
請求項2記載の眠気判定装置。
【請求項7】
前記眠気判定部は、
取得された前記表情変動の速度の変化量に基づいて前記人の眠気レベルを判定する、
請求項2記載の眠気判定装置。
【請求項8】
前記眠気判定部は、
予め定められた複数の眠気レベルのそれぞれについて、その眠気レベルにおける前記表情変動の速度の変化率の範囲を記述した第2の眠気判定テーブルを参照して、前記人の眠気レベルを判定する、
請求項7記載の眠気判定装置。
【請求項9】
前記2点は、前記距離が、前記人の表情筋の動きに連動して伸縮する2点である、
請求項3記載の眠気判定装置。
【請求項10】
前記2点は、前記人の左右の口角である、
請求項9記載の眠気判定装置。
【請求項11】
前記2点は、前記人を撮影した画像から抽出された前記人の顔面の画像特徴点である、
請求項9記載の眠気判定装置。
【請求項12】
前記眠気判定部は、
前記人の眠気レベルの判定結果を、情報を出力する出力部を用いて前記人に通知する、
請求項2記載の眠気判定装置。
【請求項13】
人の表情変動の大きさおよび速度を取得するステップと、
前記表情変動の大きさが所定の閾値未満であるか否かを判定するステップと、
前記表情変動の大きさが前記所定の閾値未満であることを条件として、前記表情変動の速度に基づく前記人の眠気レベルの判定を行うステップと、を有する、
眠気判定方法。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7】
image rotate

【図8】
image rotate

【図9】
image rotate

【図10】
image rotate


【公開番号】特開2013−81516(P2013−81516A)
【公開日】平成25年5月9日(2013.5.9)
【国際特許分類】
【出願番号】特願2011−221766(P2011−221766)
【出願日】平成23年10月6日(2011.10.6)
【出願人】(000005821)パナソニック株式会社 (73,050)
【Fターム(参考)】