説明

情報処理装置及び方法、並びにプログラム

【課題】顔の認識率をより一段と向上させる。
【解決手段】サンルーフスイッチ34は、車両の内部に向かって直接照射する外部の光を遮る機能を有するサンルーフの状態として、外部の光を遮っている閉状態、または外部の光を遮っていない閉状態を検出し、カメラ照明制御部41は、照明装置32による車両の内部の照明と、監視カメラ31による車両の内部の撮像とを制御し、画像処理部43は、カメラ照明制御部41の制御のもと撮像された結果得られる照明画像に基づいて、車両内部に存在する人間の顔を認識する。カメラ照明制御部41は、閉状態が検出された場合、通常光量で照明させ、通常の露光量で撮像させ、開状態が検出された場合、通常光量より多い第2の光量で照明させ、通常の露光量より少ない露光量で撮像させる。本発明は、例えば、監視カメラシステムに適用できる。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、情報処理装置及び方法、並びにプログラムに関し、特に、顔の認識率をより一段と向上させた情報処理装置及び方法、並びにプログラムに関する。
【背景技術】
【0002】
従来、車両を運転している運転者の状態をカメラで監視する監視カメラシステムが存在する(例えば、特許文献1参照)。かかる監視カメラシステムは、車両の内部を含む画像を監視カメラで撮像し、撮像された画像から顔を認識する。
【先行技術文献】
【特許文献】
【0003】
【特許文献1】特開平10−275212号公報
【発明の概要】
【発明が解決しようとする課題】
【0004】
しかしながら、従来の監視カメラシステムが、サンルーフの搭載された車両に用いられると、顔の認識率が低下することがあった。
【0005】
本発明は、このような状況に鑑みてなされたものであり、顔の認識率をより一段と向上させるものである。
【課題を解決するための手段】
【0006】
本発明の一側面の情報処理装置は、車両の内部に向かって直接照射する外部の光を遮る機能を有する遮光体の状態として、外部の光を遮っている第1の状態、または外部の光を遮っていない第2の状態を検出する検出手段と、照明部による車両の内部の照明と、撮像部による車両の内部の撮像とを制御する制御手段と、制御手段の制御のもと撮像部により撮像された結果得られる第1の画像に基づいて、車両内部に存在する人間の顔を認識する認識手段とを備え、制御手段は、検出手段により第1の状態が検出された場合、照明部に第1の光量で照明させ、撮像部に第1の露光量で撮像させる第1の制御を行い、検出手段により第2の状態が検出された場合、照明部に第1の光量より多い第2の光量で照明させ、撮像部に第1の露光量より少ない第2の露光量で撮像させる第2の制御を行う。
【0007】
本発明の一側面の情報処理装置においては、車両の内部に向かって直接照射する外部の光を遮る機能を有する遮光体の状態として、外部の光を遮っている第1の状態、または外部の光を遮っていない第2の状態が検出され、照明部による車両の内部の照明と、撮像部による車両の内部の撮像とが制御され、その制御のもと撮像部により撮像された結果得られる第1の画像に基づいて、車両内部に存在する人間の顔が認識される。第1の状態が検出された場合、照明部に第1の光量で照明させ、撮像部に第1の露光量で撮像させる第1の制御が行われ、第2の状態が検出された場合、照明部に第1の光量より多い第2の光量で照明させ、撮像部に第1の露光量より少ない第2の露光量で撮像させる第2の制御が行われる。
【0008】
これにより、顔の認識率をより一段と向上させることができる。
【0009】
検出手段は、例えば、サンルーフスイッチで構成される。認識手段および制御手段は、例えば、CPU(Central Processing Unit)で構成される。
【0010】
制御手段は、検出手段により第1の状態が検出された場合、第1の制御に加えてさらに、照明部を消灯させて、撮像部に第1の露光量で撮像させる第3の制御を行い、検出手段により第2の状態が検出された場合、第2の制御に加えてさらに、照明部を消灯させて、撮像部に第2の露光量で撮像させる第4の制御を行い、認識手段は、第1の制御または第2の制御のもと撮像部により撮像された結果得られる画像を第1の画像として、第3の制御または第4の制御のもと撮像部により撮像された結果得られる画像を第2の画像として、第1の画像と第2の画像の差分画像を算出する算出手段と、算出手段により算出された差分画像に対して所定の処理を施すことで、顔を認識する顔画像処理手段とを有することができる。
【0011】
これにより、顔の認識率をより一段と向上させることができる。
【0012】
検出手段は、例えば、サンルーフスイッチで構成される。認識手段および制御手段は、例えば、CPUで構成される。
【0013】
認識手段は、算出手段により算出された差分画像における陰影の有無を検出する陰影検出手段をさらに有し、顔画像処理手段は、陰影検出手段により陰影無しと検出された場合、所定の処理として、差分画像に対して第1の処理を施し、陰影検出手段により陰影有りと検出された場合、所定の処理として、第1の処理とは異なる第2の処理を差分画像に対して施すことができる。
【0014】
これにより、顔の認識率をより一段と向上させることができる。
【0015】
遮光体は、近赤外光を遮り、検出手段は、車両の内部の近赤外光の強さに基づいて第1の状態または第2の状態を検出することができる。
【0016】
これにより、顔の認識をより簡単に行うことができる。
【0017】
車両の外部の光の強さを検出する光検出手段をさらに備え、制御手段は、光検出手段により検出された光の強さが閾値を超えた場合、第1の制御または第2の制御を行い、光検出手段により検出された光の強さが閾値以下の場合、検出手段により検出された遮光体の状態に係わらず、第1の制御を行うことができる。
【0018】
これにより、顔の認識をより簡単に行うことができる。
【0019】
光検出手段は、例えば、照度センサで構成される。
【0020】
本発明の一側面の情報処理方法およびプログラムは、上述した本発明の一側面の情報処理装置に対応する方法およびプログラムである。
【発明の効果】
【0021】
本発明によれば、顔の認識率をより一段と向上させることができる。
【図面の簡単な説明】
【0022】
【図1】本発明が適用される監視カメラシステムの一例を示す図である。
【図2】図1の監視カメラシステムの構成例を示すブロック図である。
【図3】図1の車載装置の処理例を説明するための図である。
【図4】図1の車載装置の処理例を説明するフローチャートである。
【図5】図1の車載装置の処理例を説明するフローチャートである。
【図6】本発明が適用される監視カメラシステムの一例を示す図である。
【図7】図6の監視カメラシステムの構成例を示すブロック図である。
【図8】本発明が適用されるコンピュータのハードウェアの構成例を示す図である。
【発明を実施するための形態】
【0023】
以下、図面を参照して、本発明を適用した情報処理システムの実施形態として、2つの実施形態(以下、それぞれ第1および第2実施形態と称する)について説明する。よって、説明は以下の順序で行う。
1.第1実施形態(サンルーフの開閉状態をサンルーフセンサで検出する例)
2.第2実施形態(サンルーフの開閉状態を近赤外光センサで検出する例)
【0024】
<1.第1実施形態>
【0025】
[監視カメラシステムの構成例]
【0026】
図1は、本発明を適用した情報処理システムの第1実施形態としての監視カメラシステムの一例を示す図である。
【0027】
なお、本明細書において、システムの用語は、複数の装置、手段等より構成される全体的な装置を意味するものとする。即ち、監視カメラシステムを、1つの装置と把握することも可能である。
【0028】
図1の例の監視カメラシステム21は、車両11の内部に設けられている。
【0029】
図1の例では、図中左方向が車両11の前方となっている。そこで、図の記述に従って、以下、図中左方向を前方と称し、さらに、図中上方向を上方と称し、図中手前および奥の方向を側方と称して、説明を行う。
【0030】
図1は、車両11の車室SSの一例を示す図である。
【0031】
図1の例では、車室SSは、フロントウィンドウFGやルーフRF等で形成されている。フロントウィンドウFGは、車室SSの前方上部を覆っている。ルーフRFは、車室SSの上部を形成している。ルーフRFには、サンルーフSRが設けられている。図示せぬサイドウィンドウSWは、車室SSの側方上部を形成している。
【0032】
車室SSの内部のやや前方には、運転席USが設けられている。運転席USは、例えば、サンルーフSRの下方に位置している。運転席USの前方には、ハンドルHDと、ダッシュボードDBが設けられている。ダッシュボードDBは、フロントウィンドウFGの下方に位置している。
【0033】
運転者TSは、例えば、前方を向いて運転席USに座り、車両11を運転している。例えば、運転者TSの頭は、運転席USのヘッドレストHRの付近に位置している。
【0034】
以上に説明した車室SSを有する車両11の内部に、監視カメラシステム21は設けられている。監視カメラシステム21には、監視カメラ31、LED(Light Emitting Diode)照明装置32、および照度センサ33が設けられている。監視カメラシステム21にはまた、サンルーフスイッチ34、車載装置35、ディスプレイ36、およびスピーカ37が設けられている。車載装置35には、監視カメラ31、照明装置32、照度センサ33、サンルーフスイッチ34、ディスプレイ36、およびスピーカ37が接続されている。
【0035】
監視カメラ31および照明装置32は、例えば、ハンドルHDの付近に配置されている。照度センサ33は、例えば、ダッシュボードDB上に配置されている。サンルーフスイッチ34は、サンルーフSRの付近に配置されている。車載装置35は、車両11の内部の任意の位置に配置可能である。ディスプレイ36およびスピーカ37は、例えば、ダッシュボードDB上に配置されている。
【0036】
監視カメラシステム21は、車両11の内部の所定の空間(例えば、ヘッドレストHRの付近)を照明装置32により強い光で照明させ、監視カメラ31により車両11の内部の所定の空間(例えば、ヘッドレストHRの付近)を撮像させる。監視カメラシステム21は、撮像された画像に基づいて顔を認識する。監視カメラシステム21は、例えば、その認識結果に基づいて、運転者TSの状態を判定し、その判定結果を、ディスプレイ36やスピーカ37を用いて運転者TSに提示する。このようにして、監視カメラシステム21は、運転者TSの状態を監視する。
【0037】
なお、第1実施形態および後述する第2実施形態では、照明装置32による照明の光として、近赤外光を採用する。但し、照明装置32による照明の光は、近赤外光に限定されず、任意の帯域の光を採用することができる。
【0038】
図1をさらに参照して、サンルーフSRの詳細例について説明する。
【0039】
サンルーフSRには、ガラス部GBおよびシェード部SBが設けられている。ガラス部GBおよびシェード部SBは、いずれも、車両11の内部に向かって直接照射する車両11の外部の太陽光(以下、外光と称する)を遮ることが可能である。
【0040】
ここで、サンルーフSRの開閉状態を次のように定義する。すなわち、サンルーフSRの閉状態は、ガラス部GBおよびシェード部SBのうちの少なくとも一方が、外光を遮っている状態と定義する。この状態は、例えば、ガラス部GBおよびシェード部SBのうちの少なくとも一方が、ルーフRFの開口部KK全体を覆っている状態である。サンルーフSRの開状態は、ガラス部GBおよびシェード部SBの両方が、車両11の内部に向かって直接照射する外光を遮っていない状態と定義する。この状態は、例えば、ガラス部GBおよびシェード部SBの両方が、ルーフRFの開口部KKの一部を少なくとも覆っていない状態である。
【0041】
なお、サンルーフSRの開閉状態を切替える手法は特に限定されない。但し、第1実施形態および後述する第2実施形態では、例えば、車載装置35が、ガラス部GBおよびシェード部SBをモータでそれぞれ駆動させることで、サンルーフSRの開閉状態を切替える手法が採用される。この手法では、例えば、車載装置35は、運転者TSの不図示のスイッチ等への操作に基づいてモータを制御する。
【0042】
[従来の撮像照明制御手法の説明]
【0043】
ここで、本発明の理解を容易にし、且つ、背景を明らかにするため、従来の監視カメラシステムにおける照明部と撮像部の制御手法(以下、従来の制御手法と称する)の一例について説明する。なお、従来の制御手法が適用される監視カメラシステム(従来の監視カメラシステム)は、基本的に、監視カメラシステム21と同一構成である。そこで、以下、監視カメラシステム21の構成要素を用いて説明する。但し、従来の制御手法が適用された監視カメラシステム21には、照度センサ33およびサンルーフスイッチ34が設けられていない点に留意すべきである。
【0044】
従来の制御手法が適用された監視カメラシステム21が、サンルーフの搭載された車両に用いられると、顔の認識率が低下することがあった。
【0045】
例えば、図1の例の車両11を用いて説明すると、サンルーフSRを開けると(サンルーフSRの状態が開状態になると)、運転者TSが外光で照射され、運転者TSの顔に強い陰影が生じる。ところが、従来の制御手法では、運転者TSの顔に強い陰影が生じることは想定されていないため、監視カメラ31による撮像画像にも陰影(光斑)が現れる。このことに起因して、顔の認識率が低下することを本発明人は突き止めた。
【0046】
そして、この陰影の影響を少なくするために、本発明人は、次のような照明部と撮像部の制御手法を発明した。すなわち、遮光体(例えば、サンルーフSR)の閉状態が検出された場合、照明部(例えば、照明装置32)に通常光量で照明させ、撮像部(例えば、監視カメラ31)に通常の露光量で撮像させる。そして、遮光体の開状態が検出された場合、照明部に通常光量より多い光量で照明させ、撮像部に通常の露光量より少ない露光量で撮像させる手法を発明した。なお、かかる制御手法は、以下、開閉状態制御手法と称する。以下、本発明の開閉状態制御手法が適用された監視カメラシステム21について説明する。
【0047】
[本発明の監視カメラシステムの構成例]
【0048】
次に、本発明の開閉状態制御手法が適用された監視カメラシステム21の構成例について説明する。
【0049】
図2は、監視カメラシステム21の構成例を示すブロック図である。
【0050】
監視カメラシステム21の監視カメラ31は、例えば、デジタルカメラ等で構成される。監視カメラ31は、後述する車載装置35の制御に基づいて、車両11の内部の所定の空間を所定の露光時間で撮影する。本実施形態では、例えば、監視カメラ31は、近赤外光に感度を持ち、近赤外光を選択的に受光可能な撮像素子(イメージャ)を有している。
【0051】
なお、第1実施形態および後述する第2実施形態では、監視カメラ31の露光量は、監視カメラ31の露光時間で制御されるとする。但し、監視カメラ31の露光量の制御手法は、特に限定されない。すなわち、例えば、監視カメラ31の露光量は、監視カメラ31の絞りで制御されたり、露光時間と絞りの両方で制御されたりしてもよい。
【0052】
照明装置32は、後述する車載装置35の制御に基づいて、車両11の内部の所定の空間を所定の光量で照明する。照明装置32は、例えば、近赤外光を発光するLEDを有しており、LEDを発光させることで、近赤外光で照明する。なお、照明装置32の発光体は、LEDに特に限定されず、所望の帯域の光を発するものであれば足りる。
【0053】
なお、第1実施形態および後述する第2実施形態では、監視カメラ31と照明装置32は別々の装置とするが、その他、例えば、監視カメラ31と照明装置32を一体化された1つの装置とすることも可能である。
【0054】
照度センサ33は、フロントウィンドウFGを介して車両11の内部に照射する光の強さを検出することで、外光の強さを検出し、車載装置35に通知する。
【0055】
サンルーフスイッチ34は、サンルーフSRの開閉状態を検出し、例えば、サンルーフSRの閉状態を検出している場合、そのことを車載装置35に通知する。
【0056】
なお、第1実施形態および後述する第2実施形態では、サンルーフスイッチ34は、サンルーフSRの閉状態を検出していることを通知するが、その他、例えば、サンルーフSRの開状態を検出していることを通知するようにしてもよい。
【0057】
車載装置35は、監視カメラシステム21の各部を制御する。例えば、車載装置35は、照度センサ33およびサンルーフスイッチ34からの通知に基づいて、監視カメラ31および照明装置32を制御する。また、車載装置35は、監視カメラ31により撮像された画像を取得し、その画像に基づいて顔を認識する。車載装置35は、例えば、その認識結果に基づいて、運転者TSの状態を判定し、その判定結果を、ディスプレイ36やスピーカ37を用いて運転者TSに提示する。
【0058】
次に、車載装置35の構成例について説明する。
【0059】
車載装置35には、カメラ照明制御部41、駆動パルス出力部42、画像処理部43、状態判定部44、および出力制御部45が設けられている。
【0060】
カメラ照明制御部41は、照度センサ33およびサンルーフスイッチ34からの通知に基づいて、駆動パルス出力部42の出力する駆動パルスの幅(以下、駆動パルス幅と称する)と、照明装置32の照明光の量(以下、照明光量と称する)を設定する。また、カメラ照明制御部41は、基準画像と照明画像の撮像開始を駆動パルス出力部42に指示する。なお、基準画像とは、照明装置32により照明させたときに監視カメラ31により撮像させることで得られる画像をいう。照明画像とは、照明装置32により消灯させたときに監視カメラ31により撮像させることで得られる画像をいう。
【0061】
駆動パルス出力部42は、基準画像の撮像を開始させる場合、設定されている幅の駆動パルスを、監視カメラ31にのみ出力する。駆動パルス出力部42は、照明画像の撮像を開始させる場合、設定されている幅の駆動パルスを、監視カメラ31および照明装置32に出力する。
【0062】
画像処理部43は、カメラ照明制御部41の制御により撮像された基準画像および照明画像を監視カメラ31から取得し、所定の画像処理を施すことで、顔を認識し、その認識結果を状態判定部44に供給する。なお、画像処理部43は、顔の認識ができなかった場合、そのことを出力制御部45に通知する。
【0063】
状態判定部44は、認識結果に基づいて、運転者TSの状態を判定し、判定結果を、出力制御部45に供給する。
【0064】
出力制御部45は、例えば、判定結果を読み上げる音声の音声信号を作成し、スピーカ37に供給してその音声を出力させる。出力制御部45は、顔の認識ができなかったことが通知された場合、例えば、そのことを示すテキストをディスプレイ36に供給して表示させる。
【0065】
次に、画像処理部43の構成例について説明する。
【0066】
画像処理部43には、画像取得部61、差分画像算出部62、陰影検出部63、および顔画像処理部64が設けられている。
【0067】
画像取得部61は、基準画像および照明画像を監視カメラ31から取得し、差分画像算出部62に供給する。
【0068】
差分画像算出部62は、照明画像と基準画像の差分画像を算出し、陰影検出部63および顔画像処理部64に供給する。
【0069】
ここで、照明画像と基準画像の差分をとる利点について説明する。
【0070】
[基準画像、照明画像、および差分画像の一例]
【0071】
図3は、基準画像、照明画像、および差分画像の一例を示す図である。
【0072】
図3のAは、基準画像の一例を示す図である。図3のBは、照明画像の一例を示す図である。図3のCは、図3のAの例の基準画像と図3のBの例の照明画像を用いて算出される差分画像の一例を示す図である。
【0073】
図3のA乃至Cの例の基準画像81,照明画像82,差分画像83では、被写体の輪郭が黒線で示されている。また、これらの画像では、画素値の小さい領域は灰色の領域として、画素値の大きい領域は白い領域として、示されている。
【0074】
図3のAの例の基準画像81には、運転者が含まれている。但し、基準画像81では、運転者の領域(以下、運転者領域と称する)TR81の画素値は小さくなっている。運転者の背景の領域(以下、背景領域と称する)の一部の画素値は大きくなっている。
【0075】
この例では、サンルーフSRの状態が閉状態であるとする。この場合、運転者TSは、サンルーフSRを介した赤外光でほとんど照射されない。このため、基準画像81では、運転者領域TR81の画素値が小さくなるのである。また、サイドウィンドウSW等を介した近赤外光の強さは弱くない。このため、運転者TSの背景の一部は、サイドウィンドウSW等を介した近赤外光で照射される。この結果、基準画像81では、背景領域の一部の画素値が大きくなるのである。
【0076】
従って、基準画像81では、運転者領域TR81の絵柄は不明瞭であり、背景の一部の絵柄が残っている。このため、基準画像81をそのまま用いると、顔の認識率は低くなる。
【0077】
図3のBの例の照明画像82には、運転者が含まれている。照明画像82では、運転者領域TR82のうち顔領域KR82の画素値が大きくなっている。照明画像82の背景領域の画素値は、基準画像81の背景領域の画素値とほぼ一致している。
【0078】
この例では、上述したように、運転者TSは、サンルーフSRを介した赤外光でほとんど照射されない。運転者TSの顔は、照明装置32により強い近赤外光で照明される。このため、照明画像82では、顔領域KR82の画素値が大きくなるのである。また、運転者TSの背景は、照明装置32によりほとんど照明されない。従って、照明画像82の背景領域の画素値は、基準画像81の背景領域の画素値とほぼ一致するのである。
【0079】
従って、照明画像82では、不要な背景の絵柄が残っている。よって、照明画像82をそのまま用いると、顔の認識率は低くなる。
【0080】
これらの基準画像81および照明画像82を用いて算出された図3のCの例の差分画像83では、運転者領域TR83のうち顔領域KR83の画素値だけが大きくなっている。
【0081】
差分画像83では、基準画像81と照明画像82の差分の大きい領域の画素値が大きくなる。このため、差分画像83では、顔領域KR83の画素値が大きくなる。また、差分画像83では、基準画像81と照明画像82の差分の小さい領域の画素値が小さくなる。このため、差分画像83では、背景領域の画素値が小さくなる。これらの結果、顔領域KR83の画素値だけが大きくなるのである。
【0082】
従って、差分画像83では、顔領域TR83の絵柄が明瞭であり、不要な背景の絵柄が除かれている。このため、差分画像83を用いると、顔の認識率は高くなる。
【0083】
このように、差分画像を利用することで、顔の認識率を向上させることができる。
【0084】
なお、図3のBの例の照明画像82において、顔領域KR82内の点線部分、すなわち、まゆげ、まぶたの縁、黒目の縁、鼻の輪郭、口の輪郭の部分の画素値は、顔領域KR82の他の部分に比べて大きくなっている。これに対応して、図3のCの例の差分画像83では、顔領域KR83内の点線部分、すなわち、まゆげ、まぶたの縁、黒目の縁、鼻の輪郭、口の輪郭の部分の画素値は、顔領域KR83の他の部分に比べて大きくなっている。
【0085】
陰影検出部63は、差分画像における陰影の有無を検出する。
【0086】
例えば、サンルーフSRの状態が開状態の場合、サンルーフSRを介した近赤外光は弱くない。このため、運転者TSはサンルーフSRを介した近赤外光で照射され、運転者TSの顔にはある程度強い陰影が生じる。ところが、上述したように、照明装置32は通常光量より多い光量で照明するので、差分画像において陰影の影響は少なくなる。しかしながら、差分画像において陰影が完全には除去されずに残ってしまうことがある。陰影検出部63は、そのような陰影の有無を検出するのである。
【0087】
顔画像処理部64は、差分画像または照明画像に対して所定の画像処理を施すことで、顔を認識する顔画像処理を行い、その認識結果を状態判定部44に供給する。顔画像処理部64は、陰影検出部63により陰影有りと検出された差分画像に対して、顔画像処理に代えて、陰影の影響を受けにくい顔画像処理を行う。なぜなら、差分画像に陰影が残っている差分画像に対して通常の顔画像処理を行うと、顔の認識率が低下することがあるからである。なお、陰影の影響を受けにくい顔画像処理の詳細については後述する。
【0088】
[車載装置の処理例]
【0089】
次に、車載装置35の処理(以下、監視制御処理と称する)の一例について説明する。
【0090】
図4および図5は、車載装置35の監視制御処理の一例を説明するためのフローチャートである。
【0091】
ステップS11において、カメラ照明制御部41は、外光の強さは一定以上か否かを判定する。
【0092】
例えば、外光の強さが一定以上でないことが照度センサ33から通知されている場合、ステップS11においてNOであると判定されて、処理はステップS25に進む。なお、ステップS25以降の処理については後述する。
【0093】
これに対して、外光の強さが一定以上であることが照度センサ33から通知されている場合、ステップS11においてYESであると判定されて、処理はステップS12に進む。ステップS12において、カメラ照明制御部41は、サンルーフSRの状態が開状態であるか否かを判定する。
【0094】
例えば、サンルーフSRの閉状態を検出していることがサンルーフスイッチ34から通知されていない場合、ステップS12においてYESであると判定されて、処理はステップS18に進む。なお、ステップS18以降の処理については後述する。
【0095】
これに対して、サンルーフSRの閉状態を検出していることがサンルーフスイッチ34から通知されている場合、ステップS12においてNOであると判定されて、処理はステップS13に進む。ステップS13において、カメラ照明制御部41は、駆動パルス出力部42の駆動パルス幅を通常幅に設定する。
【0096】
ステップS14において、カメラ照明制御部41は、照明装置32の照明光量を通常光量に設定する。より具体的には、カメラ照明制御部41は、例えば、照明装置32の照明時にLEDに流す電流値を通常値に設定する。または、照明装置32は、例えば、LEDを複数有しており、カメラ照明制御部41は、照明装置32の照明時に発光させるLEDの個数を通常個数に設定する。
【0097】
ステップS15において、カメラ照明制御部41は、駆動パルス出力部42に基準画像および照明画像の撮像開始を指示する。
【0098】
駆動パルス出力部42は、カメラ照明制御部41の指示に基づいて、次に説明する第1および第2の処理をその順番で実行する。
【0099】
まず、駆動パルス出力部42は、第1の処理として、設定されている幅(通常幅)の駆動パルスを監視カメラ31に供給する。監視カメラ31は、駆動パルスに同期して、駆動パルス幅に応じた露光時間(通常の露光時間)で撮像する。照明装置32には駆動パルスが供給されないため、照明装置32は照明しない。従って、基準画像が撮像される。
【0100】
次に、駆動パルス出力部42は、第2の処理として、設定されている幅(通常幅)の駆動パルスを監視カメラ31および照明装置32に供給する。監視カメラ31は、駆動パルスに同期して、駆動パルス幅に応じた露光時間(通常の露光時間)で撮像する。照明装置32は、駆動パルスに同期して、駆動パルス幅に応じた照明時間(通常の照明時間)で照明する。このため、照明画像が撮像される。
【0101】
このようにして、基準画像および照明画像が撮像される。なお、第1の処理と第2の処理の順番は特に限定されず、例えば、第2の処理,第1の処理の順番とすることも可能である。
【0102】
なお、第1実施形態および後述する第2実施形態では、照明装置32の照明時間は、監視カメラ31の露出時間とともに可変されているが、その他、例えば、監視カメラ31の最大の露出時間以上の所定の時間に固定されてもよい。
【0103】
ステップS16において、画像処理部43の画像取得部61は、監視カメラ31から撮像画像(基準画像と照明画像)を取得し、差分画像算出部62に供給する。
【0104】
ステップS17において、差分画像算出部62は、照明画像と基準画像を用いて差分画像を算出し、顔画像処理部64に供給する。その後、処理はステップS29に進む。なお、ステップS29以降の処理については後述する。
【0105】
ところで、上述したように、ステップS12においてYESであると判定されると、処理はステップS18に進む。ステップS18において、カメラ照明制御部41は、駆動パルス出力部42の駆動パルス幅を通常幅より短い幅に設定する。
【0106】
ステップS19において、カメラ照明制御部41は、照明装置32の照明光量を通常光量より多い光量に設定する。より具体的には、カメラ照明制御部41は、例えば、照明装置32の照明時にLEDに流す電流値を通常値より多い値に設定する。または、照明装置32は、例えば、LEDを複数有しており、カメラ照明制御部41は、照明装置32の照明時に発光させるLEDの個数を通常個数より多い個数に設定する。
【0107】
ステップS20において、カメラ照明制御部41は、駆動パルス出力部42に基準画像および照明画像の撮像開始を指示する。
【0108】
駆動パルス出力部42は、カメラ照明制御部41の指示に基づいて、次に説明する第1および第2の処理をその順番で実行する。
【0109】
まず、駆動パルス出力部42は、第1の処理として、設定されている幅(通常幅より短い幅)の駆動パルスを、監視カメラ31に供給する。監視カメラ31は、駆動パルスに同期して、駆動パルス幅に応じた露光時間(通常より短い露光時間)で撮像する。照明装置32には駆動パルスが供給されないため、照明装置32は照明しない。従って、基準画像が撮像される。
【0110】
次に、駆動パルス出力部42は、第2の処理として、設定されている幅(通常幅より短い幅)の駆動パルスを、監視カメラ31および照明装置32に供給する。監視カメラ31は、駆動パルスに同期して、駆動パルス幅に応じた露光時間(通常より短い露光時間)で撮像する。また、照明装置32は、駆動パルスに同期して、駆動パルス幅に応じた照明時間(通常より短い照明時間)で照明する。このため、照明画像が撮像される。
【0111】
このようにして、基準画像および照明画像が撮像される。なお、第1の処理と第2の処理の順番は特に限定されず、例えば、第2の処理,第1の処理の順番とすることも可能である。
【0112】
ステップS21において、画像処理部43の画像取得部61は、監視カメラ31から撮像画像(基準画像と照明画像)を取得し、差分画像算出部62に供給する。
【0113】
ステップS22において、差分画像算出部62は、照明画像と基準画像を用いて差分画像を算出し、陰影検出部63および顔画像処理部64に供給する。
【0114】
ステップS23において、陰影検出部63は、差分画像における陰影の有無を検出する。なお、陰影の有無の検出手法は特に限定されない。例えば、画像中の所定の2つの領域における輝度差から陰影の有無を検出する手法(例えば、特開2007−112300公報参照)を採用することができる。または、例えば、陰影を作る物体の位置に基づいて陰影の有無を検出する手法(例えば、特開2008−191784公報参照)を採用することができる。
【0115】
ステップS24において、陰影検出部63は、陰影有りと検出したか否かを判定する。
【0116】
陰影有りと検出した場合、ステップS24においてYESであると判定されて、処理はステップS30に進む。なお、ステップS30以降の処理については後述する。
【0117】
これに対して、陰影無しと検出した場合、ステップS24においてNOであると判定されて、処理はステップS29に進む。なお、ステップS29以降の処理については後述する。
【0118】
ところで、上述したように、ステップS11においてNOであると判定されると、処理はステップS25に進む。ステップS25およびS26の処理は、それぞれ、ステップS13およびS14の処理と同じである。従って、それらの処理の説明を省略する。
【0119】
ステップS27において、カメラ照明制御部41は、駆動パルス出力部42に照明画像の撮像開始を指示する。
【0120】
駆動パルス出力部42は、カメラ照明制御部41の指示に基づいて、設定されている幅(通常幅)の駆動パルスを、監視カメラ31および照明装置32に供給する。監視カメラ31は、駆動パルスに同期して、駆動パルス幅に応じた露光時間(通常の露光時間)で撮像する。照明装置32は、駆動パルスに同期して、駆動パルス幅に応じた照明時間(通常の照明時間)で照明する。このため、照明画像が撮像される。このようにして、照明画像のみが撮像される。
【0121】
例えば、天気が曇りや雨であったり、時間帯が夜間であったり、車両11がトンネル内を走行中であったりすることで、外光の強さが弱い場合、外光に含まれる近赤外光の強さも弱くなっている。従って、サンルーフSRの開閉状態に係わらず、運転者TSおよびその背景は、いずれも、サンルーフSRを介した近赤外光でほとんど照射されない。また、運転者TSの顔は、照明装置32により強い近赤外光で照明される。このため、照明画像では、顔領域の画素値だけが大きくなる。従って、照明画像をそのまま用いて顔を認識することが可能となる。よって、基準画像の撮像は不要となり、そのための制御処理を省くことができる。
【0122】
ステップS28において、画像処理部43の画像取得部61は、監視カメラ31から撮像画像(照明画像)を取得し、顔画像処理部64に供給する。その後、処理はステップS29に進む。
【0123】
ステップS29において、顔画像処理部64は、差分画像または照明画像に対して所定の画像処理を施すことで、顔を認識する顔画像処理を行う。なお、顔画像処理の手法は特に限定されない。但し、第1実施形態および後述する第2実施形態では、顔画像処理の処理手法として、次のような手法が採用される。すなわち、例えば、撮像画像から顔領域を抽出し、顔の向きを求める手法や、その顔領域から目の位置を特定して視線方向を求める手法が採用される(例えば、特開2006−259900公報参照)。その後、処理はステップS31に進む。なお、ステップS31以降の処理については後述する。
【0124】
ところで、上述したように、ステップS24においてYESであると判定されると、処理はステップS30に進む。ステップS30において、顔画像処理部64は、差分画像に対して、陰影の影響を受けにくい顔画像処理を行う。なお、陰影の影響を受けにくい顔画像処理の手法は特に限定されない。但し、第1実施形態および後述する第2実施形態では、陰影の影響を受けにくい顔画像処理の手法として、例えば、次のような手法が採用される。すなわち、陰影で生じる輝度の低下に応じて、顔の器官の位置を求めるための閾値を可変させる手法が採用される(例えば、特開平10−275212号公報を参照)。陰影の影響を受けにくい顔画像処理は、通常の顔画像処理に比べて処理速度がやや遅いが、差分画像に陰影があっても顔を認識することができる。このため、顔の認識率を高めることが可能となる。
【0125】
ステップS31において、顔画像処理部64は、顔の認識はできたか否かを判定する。
【0126】
例えば、顔の認識結果としての顔の向きや視線方向を求めることができなかった場合、ステップS31においてNOであると判定されて、処理はステップS32に進む。ステップS32において、顔画像処理部64は、顔の認識ができなかったことを出力制御部45に通知する。出力制御部45は、顔の認識ができなかったことを示すテキスト、例えば、「顔の認識ができませんでした」を、ディスプレイ36に供給して表示させる。その後、処理はステップS36に進む。ステップS36以降の処理については後述する。
【0127】
これに対して、顔の認識結果としての顔の向きや視線方向を求めることができた場合、ステップS31においてYESであると判定されて、処理はステップS33に進む。ステップS33において、顔画像処理部64は、顔の向きや視線方向を状態判定部44に供給する。
【0128】
ステップS34において、状態判定部44は、顔の向きや視線方向に基づいて、運転者TSの状態を判定する。例えば、状態判定部44は、所定の時間以上の間において顔の向きが前方から大幅にずれている場合、運転者TSの状態をわき見状態と判定し、それ以外の場合、運転者TSの状態を通常状態と判定する。または、例えば、状態判定部44は、所定の時間以上の間において視線方向が動かない場合、運転者TSの状態を居眠り状態と判定し、それ以外の場合、運転者TSの状態を通常状態と判定する。状態判定部44は、このような判定結果を出力制御部45に供給する。
【0129】
ステップS35において、出力制御部45は、例えば、運転者TSの状態がわき見の状態や居眠りの状態という判定結果の場合、それらの判定結果を示すテキスト「わき見をしています」や「居眠りをしています」を読み上げる音声に対応する音声信号を作成する。出力制御部45は、その音声に対応する音声信号をスピーカ37に供給してその音声を出力させる。但し、出力制御部45は、例えば、運転者TSの状態が通常状態という判定結果の場合、音声信号を作成せず、音声を出力させないようにすることもできる。
【0130】
ステップS36において、カメラ照明制御部41は、処理を終了するか否かを判定する。
【0131】
例えば、図示せぬ操作部を運転者TSが操作することで、カメラ照明制御部41に処理終了の指令が供給された場合、ステップS36においてYESであると判定されて、監視制御処理は終了する。
【0132】
これに対して、カメラ照明制御部41に処理終了の指令が供給されない限り、ステップS36においてNOであると判定されて、処理はステップS11に戻される。
【0133】
以上のように、監視カメラシステム21は、外光の強さおよびサンルーフSRの開閉状態に応じて、監視カメラ31の露光量、照明装置32の照明光量、および顔画像処理の内容を変更する。これにより、監視カメラシステム21がサンルーフの搭載された車両に用いられると、顔の認識率が向上する。すなわち、監視カメラシステム21は、顔の認識率をより一段と向上させることができる。
【0134】
次に、第2実施形態について説明する。
【0135】
上述した監視カメラシステム21では、サンルーフSRの開閉状態を検出する手法として、サンルーフSRの開閉状態をサンルーフSRの閉センサで検出する手法を採用した。但し、サンルーフSRの開閉状態を検出する手法は、この手法に特に限定されない。従って、例えば、車両11の内部の近赤外光の強さを近赤外光センサで検出することで、サンルーフSRの開閉状態を検出する手法を採用することもできる。かかる検出手法が適用された監視カメラシステムについて、図6および図7を参照して説明する。
【0136】
[監視カメラシステムの一例]
【0137】
図6は、本発明を適用した情報処理システムの第2実施形態としての監視カメラシステムの一例を示す図である。
【0138】
なお、図6の例の監視カメラシステム91において、図3の例の監視カメラシステム21における対応する部分には同じ符号を付しており、以下、その説明を適宜省略する。
【0139】
図6の例の監視カメラシステム91では、図1の例の監視カメラシステム21におけるサンルーフスイッチ34に代えて、近赤外光センサ101が設けられている。
【0140】
近赤外光センサ101は、例えば、ダッシュボードDB上に設けられている。
【0141】
サンルーフSRが閉状態の場合、サンルーフSRを介した近赤外光の強さは弱くなる。このため、車両11の内部の近赤外光の強さは弱くなる。これに対して、サンルーフSRが開状態の場合、サンルーフSRを介した近赤外光の強さは強くなる。このため、車両11の内部の近赤外光の強さは強くなる。すなわち、サンルーフSRの開閉状態に応じて、車両11の内部の近赤外光の強さは変化する。従って、近赤外光センサ101は、車両11の内部の近赤外光の強さを検出することで、サンルーフSRの開閉状態を検出することができる。
【0142】
[監視カメラシステムの構成例]
【0143】
図7は、監視カメラシステム91の構成例を示すブロック図である。
【0144】
近赤外光センサ101は、車両11の内部の近赤外光の強さを検出する。近赤外光センサ101は、近赤外光の強さが一定以下である場合、サンルーフSRが閉状態であると判断し、サンルーフSRが閉状態であることを車載装置35に通知する。このように、近赤外光センサ101は、検出手法は異なるものの、サンルーフスイッチ34と同様に、サンルーフSRの開閉状態を検出することができる。
【0145】
以上のように、図6の例の監視カメラシステム91は、図1の例の監視カメラシステム21と同様に、運転者TSの状態を監視することができる。
【0146】
なお、第1および第2実施形態では、外光の強さとサンルーフSRの開閉状態に応じて各種設定を変更するが、その他、例えば、外光の、車両11に対する照射方向に応じて、各種設定を変更することもできる。例えば、昼頃の外光は、車両11に対して垂直方向に近い方向から照射する。このため、運転者TSは、サンルーフSRを介した強い近赤外光で照射される。これに対して、夕方の外光は、車両11に対して水平方向に近い方向から照射する。このため、運転者TSは、サンルーフSRを介した近赤外光でほとんど照射されない。そこで、外光の、車両11に対する照射方向に応じて、各種設定を変更するのである。なお、外光の、車両11に対する照射方向は、例えば、現在の日付や時刻等に基づいて算出される。
【0147】
また、第1および第2実施形態では、遮光体として、サンルーフを採用したが、その他、例えば、サイドウィンドウやリアウィンドウ、オープンカーの屋根等を採用することもできる。
【0148】
第1および第2実施形態では、監視カメラシステムは車両の内部に設けられているが、その他、列車や船舶といった様々な乗物の内部に設けることも可能である。
【0149】
[ハードウェアの構成例]
【0150】
上述した一連の処理は、ハードウェアにより実行することもできるし、ソフトウエアにより実行することもできる。一連の処理をソフトウエアにより実行する場合には、そのソフトウエアを構成するプログラムが、プログラム記録媒体からインストールされる。このプログラムは、例えば、専用のハードウェアに組み込まれているコンピュータにインストールされる。または、このプログラムは、各種のプログラムをインストールすることで各種の機能を実行することが可能な、例えば汎用のパーソナルコンピュータ等にインストールされる。
【0151】
図8は、上述した一連の処理をプログラムにより実行するコンピュータのハードウェアの構成例を示すブロック図である。
【0152】
コンピュータにおいて、CPU201,ROM(Read Only Memory)202,RAM(Random Access Memory)203は、バス204により相互に接続されている。
【0153】
バス204には、さらに、入出力インタフェース205が接続されている。入出力インタフェース205には、キーボード、マウス、マイクロホン等よりなる入力部206、ディスプレイ、スピーカ等よりなる出力部207、ハードディスクや不揮発性のメモリ等よりなる記憶部208が接続されている。さらに、入出力インタフェース205には、ネットワークインタフェース等よりなる通信部209、磁気ディスク、光ディスク、光磁気ディスク、或いは半導体メモリ等のリムーバブルメディア211を駆動するドライブ210が接続されている。
【0154】
以上のように構成されるコンピュータでは、CPU201が、例えば、記憶部208に記憶されているプログラムを、入出力インタフェース205及びバス204を介して、RAM203にロードして実行することにより、上述した一連の処理が行われる。
【0155】
コンピュータ(CPU201)が実行するプログラムは、例えば、磁気ディスク(フレキシブルディスクを含む)であるリムーバブルメディア211に記録して提供される。プログラムは、パッケージメディアであるリムーバブルメディア211に記録して提供される。なお、パッケージメディアとしては、光ディスク(CD−ROM(Compact Disc−Read Only Memory),DVD(Digital Versatile Disc)等)、光磁気ディスク、もしくは半導体メモリ等が用いられる。あるいは、プログラムは、ローカルエリアネットワーク、インターネット、デジタル衛星放送といった、有線または無線の伝送媒体を介して提供される。
【0156】
そして、プログラムは、リムーバブルメディア211をドライブ210に装着することにより、入出力インタフェース205を介して、記憶部208にインストールすることができる。また、プログラムは、有線または無線の伝送媒体を介して、通信部209で受信し、記憶部208にインストールすることができる。その他、プログラムは、ROM202や記憶部208に、あらかじめインストールしておくことができる。
【0157】
なお、コンピュータが実行するプログラムは、本明細書で説明する順序に沿って時系列に処理が行われるプログラムであっても良いし、並列に、あるいは呼び出しが行われたとき等の必要なタイミングで処理が行われるプログラムであっても良い。
【0158】
本発明の実施形態は、上述した実施形態に限定されるものではなく、本発明の要旨を逸脱しない範囲において種々の変更が可能である。
【符号の説明】
【0159】
11 車両, 21 監視カメラシステム, 31 監視カメラ, 32 照明装置, 33 照度センサ, 34 サンルーフスイッチ, 35 車載装置, 36 ディスプレイ, 37 スピーカ, 41 カメラ照明制御部, 42 駆動パルス出力部, 43 画像処理部, 44 状態判定部, 45 出力制御部, 61 画像取得部, 62 差分画像算出部, 63 陰影検出部, 64 顔画像処理部, 91 監視カメラシステム, 101 近赤外光センサ, 201 CPU, 202 ROM, 203 RAM, 204 バス, 205 入出力インタフェース, 206 入力部, 207 出力部, 208 記憶部, 209 通信部, 210 ドライブ, 211 リムーバブルメディア

【特許請求の範囲】
【請求項1】
車両の内部に向かって直接照射する外部の光を遮る機能を有する遮光体の状態として、前記外部の光を遮っている第1の状態、または前記外部の光を遮っていない第2の状態を検出する検出手段と、
照明部による前記車両の内部の照明と、撮像部による前記車両の内部の撮像とを制御する制御手段と、
前記制御手段の制御のもと前記撮像部により撮像された結果得られる第1の画像に基づいて、前記車両内部に存在する人間の顔を認識する認識手段と
を備え、
前記制御手段は、
前記検出手段により前記第1の状態が検出された場合、前記照明部に第1の光量で照明させ、前記撮像部に第1の露光量で撮像させる第1の制御を行い、
前記検出手段により前記第2の状態が検出された場合、前記照明部に前記第1の光量より多い第2の光量で照明させ、前記撮像部に前記第1の露光量より少ない第2の露光量で撮像させる第2の制御を行う
情報処理装置。
【請求項2】
前記制御手段は、
前記検出手段により前記第1の状態が検出された場合、前記第1の制御に加えてさらに、前記照明部を消灯させて、前記撮像部に前記第1の露光量で撮像させる第3の制御を行い、
前記検出手段により前記第2の状態が検出された場合、前記第2の制御に加えてさらに、前記照明部を消灯させて、前記撮像部に前記第2の露光量で撮像させる第4の制御を行い、
前記認識手段は、
前記第1の制御または前記第2の制御のもと前記撮像部により撮像された結果得られる画像を前記第1の画像として、前記第3の制御または前記第4の制御のもと前記撮像部により撮像された結果得られる画像を第2の画像として、前記第1の画像と前記第2の画像の差分画像を算出する算出手段と、
前記算出手段により算出された前記差分画像に対して所定の処理を施すことで、前記顔を認識する顔画像処理手段と
を有する
請求項1に記載の情報処理装置。
【請求項3】
前記認識手段は、
前記算出手段により算出された前記差分画像における陰影の有無を検出する陰影検出手段
をさらに有し、
前記顔画像処理手段は、
前記陰影検出手段により陰影無しと検出された場合、前記所定の処理として、前記差分画像に対して第1の処理を施し、
前記陰影検出手段により陰影有りと検出された場合、前記所定の処理として、前記第1の処理とは異なる第2の処理を前記差分画像に対して施す
請求項2に記載の情報処理装置。
【請求項4】
前記遮光体は、近赤外光を遮り、
前記検出手段は、前記車両の内部の近赤外光の強さに基づいて前記第1の状態または前記第2の状態を検出する
請求項1に記載の情報処理装置。
【請求項5】
前記車両の外部の光の強さを検出する光検出手段をさらに備え、
前記制御手段は、
前記光検出手段により検出された前記光の強さが閾値を超えた場合、前記第1の制御または前記第2の制御を行い、
前記光検出手段により検出された前記光の強さが閾値以下の場合、前記検出手段により検出された前記遮光体の状態に係わらず、前記第1の制御を行う
請求項1に記載の情報処理装置。
【請求項6】
情報処理装置が実行するステップとして、
車両の内部に向かって直接照射する外部の光を遮る機能を有する遮光体の状態として、前記外部の光を遮っている第1の状態、または前記外部の光を遮っていない第2の状態を検出する検出ステップと、
照明部による前記車両の内部の照明と、撮像部による前記車両の内部の撮像とを制御する制御ステップと、
前記制御ステップの制御のもと前記撮像部により撮像された結果得られる第1の画像に基づいて、前記車両内部に存在する人間の顔を認識する認識ステップと
を含み、
前記制御ステップには、
前記検出ステップの処理により前記第1の状態が検出された場合、前記照明部に第1の光量で照明させ、前記撮像部に第1の露光量で撮像させる第1の制御を行い、
前記検出ステップの処理により前記第2の状態が検出された場合、前記照明部に前記第1の光量より多い第2の光量で照明させ、前記撮像部に前記第1の露光量より少ない第2の露光量で撮像させる第2の制御を行うステップを含む
情報処理方法。
【請求項7】
情報処理装置を制御するコンピュータに、
車両の内部に向かって直接照射する外部の光を遮る機能を有する遮光体の状態として、前記外部の光を遮っている第1の状態、または前記外部の光を遮っていない第2の状態を検出する検出ステップと、
照明部による前記車両の内部の照明と、撮像部による前記車両の内部の撮像とを制御する制御ステップと、
前記制御ステップの制御のもと前記撮像部により撮像された結果得られる第1の画像に基づいて、前記車両内部に存在する人間の顔を認識する認識ステップと
を実行させ、
前記コンピュータに、前記制御ステップとして、
前記検出ステップの処理により前記第1の状態が検出された場合、前記照明部に第1の光量で照明させ、前記撮像部に第1の露光量で撮像させる第1の制御を行い、
前記検出ステップの処理により前記第2の状態が検出された場合、前記照明部に前記第1の光量より多い第2の光量で照明させ、前記撮像部に前記第1の露光量より少ない第2の露光量で撮像させる第2の制御を行うステップを実行させる
プログラム。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7】
image rotate

【図8】
image rotate


【公開番号】特開2010−215000(P2010−215000A)
【公開日】平成22年9月30日(2010.9.30)
【国際特許分類】
【出願番号】特願2009−60955(P2009−60955)
【出願日】平成21年3月13日(2009.3.13)
【出願人】(000002945)オムロン株式会社 (3,542)
【Fターム(参考)】