人物検出装置及び方法
【課題】 自車両に対する他車両の向きや、他車両の形状に拘わらず、確実に他車両と人物とを区別することができる人物検出装置及び方法を提供する。
【解決手段】 物体の温度に相当する輝度値の画素からなる熱画像を撮像した場合に(S1,S2)、人物検出用の温度しきい値の設定(S3A)、2値化画像の作成(S4A)及びラベリング処理(S5A)を行って人物のラベルを作成すると共に、高温領域検出用の温度しきい値の設定(S3B)、2値化画像の作成(S4B)及びラベリング処理(S5B)を行って車両のマフラー等の高温領域のラベルを作成する。そして、人物のラベルのうち、高温領域のラベルを含むものを除去して(S6)、除去後の人物のラベルを使用してグループ化(S7)、人物判定(S8)を行う。
【解決手段】 物体の温度に相当する輝度値の画素からなる熱画像を撮像した場合に(S1,S2)、人物検出用の温度しきい値の設定(S3A)、2値化画像の作成(S4A)及びラベリング処理(S5A)を行って人物のラベルを作成すると共に、高温領域検出用の温度しきい値の設定(S3B)、2値化画像の作成(S4B)及びラベリング処理(S5B)を行って車両のマフラー等の高温領域のラベルを作成する。そして、人物のラベルのうち、高温領域のラベルを含むものを除去して(S6)、除去後の人物のラベルを使用してグループ化(S7)、人物判定(S8)を行う。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、例えば自車両周囲に存在する物体のうち、他車両と人物とを区別して検出して、運転者等に提示するための人物検出装置及び方法に関する。
【背景技術】
【0002】
従来より、例えば車両の進行方向に存在する障害物として人物を検出するために、赤外線カメラによって、温度に相当する値を計測した結果を輝度におきかえた赤外線画像を撮像して、当該赤外線画像から人物を特定する技術としては、下記の特許文献1に記載された技術が知られている。
【0003】
この特許文献1に記載された技術では、2値化処理によって高温領域を検出し、ステレオ画像処理を行うことによって、当該高温領域から自車両までの距離を計測し、画像内において左右対称且つ同じ距離及び大きさの高温領域が対で存在するか否かを判定する。そして、左右対称、同距離、の高温領域の対が存在すると判定した場合には、自車両の前方に他車両が存在し、存在しないと判定した場合には、自車両の前方に人物が存在することを判定することによって、他車両と人物とを区別している。
【特許文献1】特開2003−230134号公報
【発明の開示】
【発明が解決しようとする課題】
【0004】
しかしながら、上述した特許文献1に記載された技術では、車両の背面が左右対称な形状をしていることを前提としているため、走行中に後続車両が先行車の背面を撮像している場合には、先行車両が人物であるとの誤検出を防止することはできるが、先行車両が右左折する場合のように後続車両に対して斜め方向に走行している場合や、自車両前方を横切るような横向きの車両が存在する場合には、高温領域が他車両であることの判定ができない。
【0005】
また、上述した特許文献1に記載された技術では、二輪車を始めとする、左右対称の形状となっていない車両と人物とを区別することができないという問題がある。
【0006】
そこで、本発明は、上述した実情に鑑みて提案されたものであり、自車両に対する他車両の向きや、他車両の形状に拘わらず、確実に他車両と人物とを区別することができる人物検出装置及び方法を提供することを目的とする。
【課題を解決するための手段】
【0007】
本発明では、物体の温度に相当する輝度値の画素からなる熱画像を撮像し、熱画像のうち、人物の温度に相当する輝度値の上限しきい値と下限しきい値との範囲内の画素と、人物の温度に相当する輝度値の上限しきい値と下限しきい値との範囲外の画素とを区別した人物検出用の2値化画像を作成し、人物検出用の2値化画像を参照して、人物の温度に相当する輝度値の上限しきい値と下限しきい値との範囲内の画素群が所定面積以上となっている領域を検出し、検出された領域のうち、所定の距離しきい値以内に存在する一又は複数の領域を人物候補領域としてグループ化し、グループ化されてなる人物候補領域の面積及び形状に基づいて、当該人物候補領域の物体が人物であるか否かを判定する。
【0008】
そして、本発明では、撮像された熱画像のうち、人物の温度よりも高い高温領域を除いて、人物判定の処理対象とすることにより、明らかに人物ではない輝度値の画素を人物検出の対象から除去することができる。
【発明の効果】
【0009】
本発明によれば、撮像された熱画像のうち、人物の温度よりも高い高温領域を除いて、人物判定の処理対象とすることにより、明らかに人物ではない輝度値の画素を人物検出の対象から除去することができるので、高温領域が検出されていれば確実に他車両と人物とを区別することができ、自車両に対する他車両の向きや他車両の形状に拘わらず、確実に人物以外であることの判定をすることができる。
【発明を実施するための最良の形態】
【0010】
以下、本発明の実施の形態について図面を参照して説明する。
【0011】
[第1実施形態]
本発明は、例えば図1に示すように、自車両1の進行方向である前方が撮像範囲とされた遠赤外線カメラ10(撮像手段)によって撮像された熱画像を用いて、人物を検出する人物検出装置20に適用される。なお、図1(a)は、自車両1を側方から見た場合の遠赤外線カメラ10の光軸を示し、図1(b)は、自車両1を上方から見た場合の遠赤外線カメラ10の光軸及び基準座標系を示している。この座標系は、横軸をX、縦軸をYとし、左上画素を原点として画像内の画素位置を示す座標を求めることが可能となっている。
【0012】
遠赤外線カメラ10は、例えば車両のインストルメントパネルや、室内ミラー付近に設けられ、車両の前方を撮像範囲としている。この遠赤外線カメラ10は、物体の温度値が高い部分ほど、高い輝度値となる熱画像データを生成して、人物検出装置20に出力する。したがって、熱画像データの輝度値は、車両前方に存在する物体の温度に相当する値となる。
【0013】
人物検出装置20は、図2に示すようなステップS1〜ステップS9に示すような処理を行うための構成として、遠赤外線カメラ10からの熱画像データを入力する入力I/F、画像メモリ、及び後述の各種処理の内容を記述したプログラム、当該プログラムを実行するCPU等からなる。
【0014】
すなわち、この人物検出装置20は、ステップS1で遠赤外線カメラ10からの熱画像データを入力する入力I/F、ステップS2において熱画像データを記憶する画像メモリ、ステップS3において人物検出用及び高温領域検出用の温度しきい値を設定する温度しきい値設定部、ステップS4においてそれぞれの温度しきい値を用いて2値化処理を行う2値化処理部(人物検出用の2値化処理手段、高温領域検出用の2値化処理手段)、ステップS5において2つのそれぞれの2値化画像を用いてラベリング処理を行うラベリング処理部(人物検出用の領域検出手段、高温領域検出用の領域検出手段)、ステップS6において高温領域近傍を除去してグループ化を行う対象となる領域(ラベル)を検出するグループ化対象領域検出部(高温領域除去手段)、ステップS7においてグループ化を行って人物候補領域を検出するグループ化処理部(グループ化手段)、ステップS8において人物判定を行う人物判定部(人物判定手段)を有する。
【0015】
このような人物検出装置20は、先ず入力I/Fにより、遠赤外線カメラ10からの熱画像データを入力すると(ステップS1)、当該熱画像データを画像メモリに保存する(ステップS2)。
【0016】
次に人物検出装置20は、ステップS2で画像メモリに記憶した熱画像内の人物についてのラベルを検出するための処理として、温度しきい値設定処理(ステップS3A)、2値化処理(ステップS4A)及びラベリング処理(ステップS5A)を行うと共に、人物に相当する温度よりも高い温度を有する熱画像内の高温物体についてのラベルを検出するための処理として、温度しきい値設定処理(ステップS3B)、2値化処理(ステップS4B)及びラベリング処理(ステップS5B)を行う。
【0017】
人物についてのラベルを検出するに際して、先ずステップS3Aにおいて、温度しきい値設定部では、熱画像を撮像した日の天候や気温に基づき、人物を検出するのに適した上下のしきい値を設定する。遠赤外線カメラ10で撮像された熱画像データの輝度値は、遠赤外線カメラ10の撮像範囲内における温度値に相当する。また、人物の温度である皮膚温度は通常36℃前後であり、熱画像データにおいて、人物と自車両1との距離が小さい場合には人物の皮膚部分が36℃に近い輝度値となるが、人物と自車両1との距離が大きくなるほど、温度検出をするための赤外線電位が減衰して、人物周囲の気温の影響を受けた輝度値となる。
【0018】
このため、気温の高い日である場合には、25℃〜36℃程度を人物検出用の温度しきい値とし、気温の低い日である場合には、20℃〜28℃程度を人物検出用の温度しきい値とする。これにより、予め設定しておいた検出対象とする人物までの距離範囲と、天候等の環境とに基づいて、人物を撮像した場合に熱画像に現れる程度の人物検出用の温度しきい値を設定する。なお、人物検出用の温度しきい値としては、45℃以上など、体温より明らかに高い温度を含まないように設定する。
【0019】
これに対し、ステップS3Bにおいて、温度しきい値設定部は、車両のマフラーやライト部等の人物よりも温度の高い高温領域を検出するような温度しきい値を設定する。このとき、温度しきい値設定部は、例えば40℃以上の領域を検出するように高温領域検出用の温度しきい値を設定する。
【0020】
ここで、自車両1の進行方向に前方車両及び人物が存在する場合においては、遠赤外線カメラ10によって図3(a)、(b)に示すような熱画像が撮像される。この熱画像は、気温が体温より低い日(例えば10℃〜20℃程度)において撮像され、人物、前方車両、路面、壁などが含まれており、温度が高い領域が淡い輝度となり、温度が低い部分が濃い輝度となる。また、壁や路面は、材質にもよるが気温とほぼ同程度の温度として検出され、人物は、距離に応じた赤外線の減衰のため、人物の体温そのものは距離が遠いと計測できないが皮膚が露出している顔部分や手足部分が体温の36℃よりも少し低い温度として検出され、服装に覆われた胴体部分が手足部分等よりも少し低いが路面や壁等よりも少し高めの温度として検出される。また、前方車両は、ボディ部が日照時間や車内温度にもよるが路面や背景より多少高めの温度で検出され、ライトやマフラ等の車両内部ではなく車体表面近くに存在し且つ温度が高い部分において非常に高温度で検出される。このライトやマフラ等の高温領域は、図3(b)に示すように、略中心部が人物よりも高い温度として検出され、当該略中心部の外側部分が人物程度の温度として検出されてしまう。
【0021】
したがって、ステップS3Aにおいて、後述の図4(b)に示すような、少なくとも人物の頭部及び手足部分を検出する人物検出用の温度しきい値を設定し、ステップS3Bにおいて、後述の図4(d)に示すような、人物検出用の温度しきい値とは重複しない範囲であって、高温領域を含むような高温領域検出用の温度しきい値を設定する。
【0022】
ここで、比較的温度の低い日は、人物の胴体部分の服装の材質によって温度が様々となり、多くの場合は気温に近くなる。このため、人物部分だけを確実に抽出するためには、人物と確実と判断できる皮膚温度に近い温度を検出する温度範囲を人物検出用の温度しきい値とする。これに対し、胴体部分を含む人物全体を検出するための温度範囲を人物検出用の温度しきい値を設定すると、胴体部分が背景物体である路面や壁と近い温度となっている場合に、2値化によって人物のみならず、背景物体も検出してしまう。このように、胴体部分を除く人物部分を検出した場合には、後述のグループ化処理により、胴体部分を含まない2値化画像であっても人物の検出を可能とし、人物の頭部や脚部など一部のみを検出し、背景物体が検出されない人物検出用の温度しきい値としている。
【0023】
次に、ステップS4Aにおいて、人物検出装置20は、2値化処理部により、温度しきい値設定部により設定された人物検出用の上限しきい値と下限しきい値との間の画素と、人物検出用の上限しきい値と下限しきい値との間以外の画素とで2値化を行う。これにより、人物検出装置20は、人物相当の温度である輝度値を「1」とし、人物相当の温度ではない輝度値を「0」とした2値化画像を作成する。これに対し、ステップS4Bにおいて、人物検出装置20は、2値化処理部により、温度しきい値設定部により設定された高温領域検出用の上限しきい値と下限しきい値との間の画素と、人物検出用の上限しきい値と下限しきい値との間以外の画素とで2値化を行う。
【0024】
具体的には、図4(a)に示すような図3(a)と同様の熱画像を撮像し、ステップS3Aで図4(b)に示す人物検出用の温度しきい値、ステップS3Bで図4(d)に示す高温領域検出用の温度しきい値を設定する。そして、図4(a)の熱画像を図4(b)に示す人物検出用の温度しきい値で2値化した場合には、図4(c)に示す2値化画像が得られ、人物の頭部、手足部分のみならず、前方車両の高温領域外側の部分を人物温度として検出してしまう。これに対し、図4(a)の熱画像を図4(d)に示す高温領域検出用の温度しきい値で2値化した場合には、図4(e)に示す2値化画像が得られ、前方車両のランプ部及びマフラー部の略中心位置を高温領域として検出する。
【0025】
次のステップS5A及びステップS5Bにおいて、人物検出装置20は、ラベリング処理部により、2値化処理部により作成された2値化画像を用いて、輝度値が「1」の領域であって、画像内で人物に相当する領域を検出するラベリング処理を行う。このとき、ラベリング処理部は、例えば2値化画像の左上の画素から順に、輝度値が「1」の画素を検索し、輝度値が「1」の隣接する又は所定距離以内の画素同士を1つの領域(ラベル)とする。
【0026】
ステップS5Aにおいて、ラベリング処理部は、人物検出用の温度しきい値により得られた2値化画像(図4(c)、図5(a))、すなわち人物の頭部、手、足とが分離し、高温領域外側の領域が存在する2値化画像に対してラベリング処理を行う。これにより、図5(b)に示すように、頭部のラベルd、手のラベルe,h、足のラベルf,gを抽出すると共に、他車両のランプ周辺のラベルa,cと、マフラー部周辺のラベルbを抽出する。
【0027】
一方、ステップS5Bにおいて、ラベリング処理部は、高温領域検出用の温度しきい値により得られた2値化画像(図4(e)、図5(c))、すなわちランプ部の略中心位置と、マフラー部の略中心位置に相当する領域が存在する2値化画像に対してラベリング処理を行う。これにより、図5(d)に示すように、ランプのラベルa,c、マフラー部のラベルcを抽出する。
【0028】
なお、図5(b)、図5(d)に示す画像は、後述のグループ化対象温度領域の検出処理において、例えば1画素や2画素程度の小さい領域をノイズとして除去した後のものである。
【0029】
このように、人物検出装置20は、人物のラベルを検出するステップS3A〜ステップS5Aの処理と、高温領域のラベルを検出するステップS3B〜ステップS5Bの処理とを並列して行うことによって、人物のラベルと車両のラベルとを別個に検出することができる。
【0030】
次のステップS6において、グループ化対象領域検出部により、ラベリング処理部によって検出されたラベル領域のうち、所定の画像面積よりも小さいラベル領域を排除し、所定の画像面積以上のラベル領域のみを選択する(ステップS6)。ここで、所定の画像面積とは、自車両1からの人物検出対象距離以内に存在する人物を検出するように設定され、あまりに小さいラベル領域(例えば1〜2画素程度)をノイズとして排除すると共に、自車両1から離れていて自車両1の運転手に警報する必要がないようなラベル領域を排除するように設定されている。
【0031】
また、人物検出装置20は、ステップS5A及びステップS5Bのラベリング処理部によって得られたラベルのうち、人物のグループ化の対象とならない高温領域周辺の温度によって検出されたラベルを除去して、グループ化の対象となるラベルのみとする。このとき、グループ化対象領域検出部は、図5(b)に示すラベルa〜hの検出位置(例えば中心位置)と、図5(d)に示すラベルa〜cの検出位置(例えば中心位置)とを比較し、図5(b)に示すラベルのうち、検出位置が一致しているラベルを除去する。すなわち、図5(d)に示すラベルが、図5(b)に示すラベルに含まれている場合には、図5(b)に示すラベルを除去する。ここで、図5(b)に示すラベルa,b,cの検出位置と、図5(d)に示すa,b,cの検出位置とが一致しているため、グループ化対象領域検出部は、図5(b)のラベルa〜hからラベルa,b,cを除いたラベルd,e,f,g,hを残し、図5(e)に示すような画像を作成する。ここで、図5(b)のラベルa,b,cは、図4(a)におけるランプ及びマフラーによって検出されたラベルであって、略中心位置に人物温度よりも高い高温領域周囲の温度によって形成されたものである。
【0032】
次のステップS7において、人物検出装置20は、グループ化処理部により、ステップS6で人物の温度によって検出されたラベルをグループ化して、人物候補領域を検出するグループ化処理を行う。このとき、グループ化処理部は、グループ化対象領域検出部により選択されたラベル間の距離を検出し、図6に示すように、当該距離が、所定の距離しきい値内のラベル同士を同じグループとして設定するグループ化を行う。この所定の距離しきい値は、Y軸方向(縦方向)の距離しきい値thyと、X軸方向(横方向)の距離しきい値thxとからなる。
【0033】
ここで、人物検出装置20の検出対象が人物であり、当該人物が歩行している状態では、熱画像内の人物が縦長に検出されることや、上述したように、気温の低い寒い日に取得した熱画像には、人物の胴体部分がラベリング処理で抽出されないことが多いことから、頭部と脚部との距離程度にY軸方向の距離しきい値thyが設定されている。一方、X軸方向の距離しきい値thxは、人物が縦長に検出されることから、Y軸方向の距離しきい値thyよりも短い人物の横幅程度であって、例えば、歩行者の脚部の幅程度の距離に設定されている。
【0034】
これにより、グループ化処理部は、図7に示すように、3個のラベルa,ラベルb,ラベルcが存在する場合に、当該ラベルa〜cが距離しきい値thyの範囲内且つ距離しきい値thxの範囲内である時には、当該ラベルa〜cを同一物体から検出されたラベル群としてグループ化し、ラベルa〜cの最大及び最小のX座標と最大及び最小のY座標を含む矩形領域であって、距離xLn,yLn(n=1,2,3・・・)の人物候補領域を設定する。
【0035】
具体的には、図6(a)のようにラベリング処理後の熱画像であって、ラベルd〜hが検出されている場合、先ずグループ化処理部は、ラベルdに着目し、ラベルdから距離しきい値thx,thyの距離範囲に存在するラベルを検索すると、図6(b)に示すように、X座標が略同じ且つ距離しきい値thyの範囲内にラベルe,f,g,hが検出される。そして、グループ化処理部は、ラベルe,f,g,hについて、それぞれ互いに縦方向の距離しきい値thy、横方向の距離しきい値thxの範囲内に位置していることを検出することによって、ラベルd,e,f,g,hを同一物体としてグループ化する。
【0036】
これにより、グループ化処理部は、人物の胴体部分がラベリング処理によって検出されているか否かに拘わらず、図6(c)に示すように、縦方向距離yL1,横方向距離xL1の矩形の人物候補領域をグループ化結果として検出することができる。
【0037】
次に人物検出装置20は、ステップS8において、人物判定部により、グループ化処理部によって検出された人物候補領域の大きさ(xL1×yL1)及び縦横比(xL1:yL1)を求めて、当該人物候補領域内の物体が人物であるか否かを判定する。このとき、人物判定部は、図6(c)に示すように検出された人物候補領域の縦横比、すなわちyLn:xLnが人物程度となっているか否かを判定する。ここで、人物候補領域の縦横比は、縦:横が2:1〜3:2の範囲内である場合に、人物候補領域内のラベルが人物を構成するものであると判定する。
【0038】
このようにラベルが人物であることを判定するための縦横比は、気温によって人物の頭から足元まで確実にラベルの検出できているとは限らず、また、歩行すると手足が横方向に振れることから、実際の人物の縦横比より少し太めとするために、縦:横=2:1〜3:2の範囲内としている。また、人物であることを判定するための縦横比は、縦:横を2:1〜3:2とする場合に限らず、子供の歩行者が多い時間帯などでは、例えば1.5:1のように、1:1より多少縦長に設定しても良い。
【0039】
更に、人物判定部は、人物の歩行速度が通常4〜5km/h程度であることから、時間的に連続した検出結果である複数の人物候補領域を用い、人物の動きや連続検出回数などから、複数回連続して検出され、急激な移動がなく、かつ、縦横比が人物程度である物体を人物として判定してもよい。
【0040】
次に人物検出装置20は、ステップS9において、人物判定部によりグループ化領域内の物体が人物であると判定された場合には、例えば車載ディスプレイ等に人物の存在を提示する警報や、車両制御などを行う。このとき、人物検出装置20は、ステップS1〜ステップS8の結果により、自車両1の前方に複数回(例えば3回)連続して人物が検出された場合に、警報や車両制御を行っても良い。
【0041】
なお、人物検出装置20は、上述のグループ化処理を、図5(d)に示すようなステップS5Bのラベリング処理後の熱画像について行って、グループ化後の領域の縦横比及び大きさから車両が存在するか否かを判定しても良い。このとき、人物検出装置20は、予め設定した車両程度の横長の矩形と、グループ化後の領域の縦横比及び大きさとを比較する。これによって、人物検出装置20は、自車両1前方の他車両の検出及び種類判定も行うことができる。
【0042】
以上詳細に説明したように、本発明を適用した第1実施形態に係る人物検出装置20によれば、熱画像を人物検出用の温度しきい値で2値化した人物温度の領域と、熱画像を高温領域検出用の温度しきい値で2値化した高温領域とを検出し、人物温度として検出された領域のうち、高温領域周辺の人物温度の領域を人物判定の処理対象から除去することによって、前方車両や背景物体等の人物以外の領域と人物の領域とを確実に区分して、人物判定を行うことができる。
【0043】
したがって、この人物検出装置20によれば、前方車両のランプ部やマフラー部の略中心位置が高温領域となっていて、当該高温領域周辺に人物温度と同等の領域が存在する場合であっても、車両特有の形状の対称性を利用することなく人物と車両とを区分することができ、自車両1に対する他車両の向きや、他車両の形状に拘わらず、確実に他車両と人物とを区別することができる。
【0044】
[第2実施形態]
つぎに、本発明を適用した第2実施形態に係る人物検出装置20について説明する。なお、上述した内容と同じ部分については、同一符号及び同一名称を使用することにより、その詳細な説明を省略する。
【0045】
第2実施形態に係る人物検出装置20は、図8に示すように、第1実施形態に係る人物検出装置20と同様に、ステップS1で遠赤外線カメラ10からの熱画像データを入力する入力I/F、ステップS2において熱画像データを記憶する画像メモリ、ステップS3’において人物検出用の温度しきい値を設定する温度しきい値設定部、ステップS4において人物検出用の温度しきい値を用いて2値化処理を行う2値化処理部(2値化処理手段)、ステップS5において2値化画像を用いてラベリング処理を行うラベリング処理部(領域検出手段)、ステップS7においてグループ化を行って人物候補領域を検出するグループ化処理部(グループ化手段)、ステップS8において人物判定を行う人物判定部(人物判定手段)を有する。
【0046】
ここで、人物検出装置20は、上述の温度しきい値設定部とは異なり、人物検出用の温度しきい値のみを設定し、当該人物検出用の温度しきい値のみを用いて2値化処理を行う。すなわち、第2実施形態では、高温領域についての2値化処理及びラベリング処理を行わない。また、人物検出装置20は、ステップS5の次のステップS11において、上述のステップS6とは異なる処理内容によって高温領域を除去してグループ化を行う対象となる領域(ラベル)を検出するグループ化対象領域検出部を備える。
【0047】
このような人物検出装置20は、図3(a)に示す熱画像が遠赤外線カメラ10で撮像されて(ステップS1)、画像メモリに記憶した場合に(ステップS2)、人物検出用の温度しきい値を設定し(ステップS3’)、2値化処理を行うことによって図5(a)に示す2値化画像を取得する(ステップS4)。そして、ラベリング処理を行うことによって、図5(b)に示すようなラベルa〜hを得る(ステップS5)。
【0048】
次に人物検出装置20は、ステップS11において、グループ化対象領域検出部により、ラベリング処理によって得られたラベルa〜hに対応する各画素の輝度値を、ステップS2において記憶した熱画像から取り出し、当該取り出した熱画像の輝度値のうち、人物温度以上の高温である輝度値が含まれている場合には、当該輝度値の画素を含むラベルを除去する。
【0049】
具体的には、先ずグループ化対象領域検出部は、図9(a)に示すように、ラベルa〜hの外端に輪郭線を設定し、当該輪郭線に囲まれる画素の輝度値を取得する。なお、ラベルa,b,cについては、ドーナツ型となっているが、2値化処理によって検出されていない略中心画素の輝度値も取得する。このとき、グループ化対象領域検出部は、ステップS2で記憶した熱画像を読み出し、ラベルa〜hの外端に設定した輪郭線を重ね合わせる。
【0050】
そして、グループ化対象領域検出部は、図9(b)に示すように、各ラベルごとに、輝度値を調査する。このとき、グループ化対象領域検出部は、車両のランプのエッジ部よりも大きいラベルaを調査領域とし、所定の調査方向に従って順次各画素の輝度値を取得し、当該輝度値が、例えば人物検出用の温度しきい値程度の所定の輝度値を超えているか否かを判定する。そして、ラベル内に高温領域が存在していると判定した場合には、当該ラベルをグループ化対象から除去する。これにより、グループ化対象領域検出部は、ランプから得られたラベルa,c及びマフラーから得られたラベルbを除去して、高温領域を含まない人物の温度のラベルd,e,f,g,hを含む図9(c)に示す画像を作成する。
【0051】
また、このステップS11の処理を行うことによって、上述の第1実施形態と同様に、車両のランプやマフラーのラベル検出が可能となり、当該ラベルの大きさ、形状等に基づいて、自車両1の前方に他車両が存在することを検出することができる。
【0052】
次に、人物検出装置20は、上述と同様に、ステップS7におけるグループ化処理を行って人物候補領域を検出し、当該人物候補領域の物体が人物か否かをステップS8における人物判定処理で行い、ステップS9において車両制御や警報を行う。
【0053】
以上詳細に説明したように、本発明を適用した人物検出装置20によれば、人物検出用の温度しきい値を用いて作成した2値化処理を行ってラベルを作成し、当該ラベルに高温領域の画素が含まれている場合に、当該ラベルを除去して人物判定の処理対象から除去することによって、人物を検出することができるので、上述の第1実施形態と同様に、車両と人物とを確実に区別して人物を検出することができる。
【0054】
また、この人物検出装置20によれば、上述の第1実施形態とは異なり、2値化処理、ラベリング処理を1度のみ行うだけで良く、第1実施形態と比較して簡単な構成で車両と区別して人物を検出することができる。
【0055】
更に、この人物検出装置20によれば、ラベルに含まれる画素の輝度値を調べて人物であるか否かを判定することができるので、非常に小さいラベルに高温領域が含まれる場合であっても、当該ラベルが車両であることを検出することができる。
【0056】
[第3実施形態]
つぎに、本発明を適用した第3実施形態に係る人物検出装置20について説明する。なお、上述した内容と同じ部分については、同一符号及び同一名称を使用することにより、その詳細な説明を省略する。
【0057】
この第3実施形態に係る人物検出装置20は、ラベリング処理によって検出されたラベルの面積が所定値よりも小さい場合には、上述の第2実施形態において説明したグループ化対象領域の検出処理を行い、ラベルの面積が所定値よりも大きい場合には、上述の第1実施形態において説明したグループ化対象領域の検出処理を行うことを特徴とする。
【0058】
すなわち、人物検出装置20は、図10に示すように、第2実施形態において説明したステップS1〜ステップS5の処理を行うことによって、図5(b)に示すように複数のラベルを含む画像を作成し、次のステップS21において、各ラベルの面積が所定値以上か否かを判定する。ここで、所定値とは、ステップS11のラベルの輪郭線に囲まれる熱画像の領域に高温領域が含まれるか否かを判断する処理と、図2のステップS3B〜ステップS6の高温領域検出用の温度しきい値の設定、2値化処理、ラベリング処理、グループ化対象領域検出処理からなる処理との処理量の比較によって設定されている。
【0059】
そして、人物検出装置20は、ステップS11の処理を行った時の処理量が、ステップS3B〜ステップS6を行った時の処理量よりも少ないようなラベルの面積が小さい場合には、ステップS11に処理を進める。一方、ステップS11の処理を行った時の処理量が、ステップS3B〜ステップS6を行った時の処理量よりも多いようなラベルの面積が大きい場合には、ステップS3B〜ステップS6に処理を進める。
【0060】
そして、ステップS11の処理又はステップS3B〜ステップS6の処理を行うことによって、ランプやマフラーによって得られたラベルを除去し、人物のラベルのみを含む画像を作成することができる。
【0061】
以上詳細に説明したように、第3実施形態に係る人物検出装置20によれば、第2実施形態のようにラベルに含まれる熱画像の各画素の輝度値を調べることによって高温領域の存在を調べる処理と、高温領域検出用の温度しきい値を用いた2値化処理を行うことによって高温領域の存在を調べる処理のうち、処理量が少ない処理を選択することができるので、リアルタイム性を欠くことなく確実に車両と人物とを区別することができる。
【0062】
[第4実施形態]
つぎに、本発明を適用した第4実施形態に係る人物検出装置20について説明する。なお、上述した内容と同じ部分については、同一符号及び同一名称を使用することにより、その詳細な説明を省略する。
【0063】
この第4実施形態に係る人物検出装置20は、図11に示すように、第2実施形態において説明したようにステップS1〜ステップS5を行い、ステップS31において面積が小さいラベルのみを除去するノイズ除去、ステップS7のグループ化処理を行って人物候補領域を検出した後に、ステップS32において、高温領域を含む人物候補領域を除去することを特徴とするものである。
【0064】
この人物検出装置20は、ステップS31においてグループ化処理の対象となる図12(a)に示すようなラベルa〜hが検出された後のステップS7において、グループ化処理部により、距離しきい値を用いてグループ化処理を行う。
【0065】
ここで、上述した実施形態では、グループ化処理の前に高温領域を除去しており、グループ化処理を行う時点では人物の温度から得られたラベルのみであったが、第4実施形態では、高温領域によって得られたラベルについてもグループ化処理の対象としている。そして、グループ化処理部では、各ラベル間の距離が距離しきい値以内であるか否かを判定することによって、グループ化処理を行うと、ラベルa,bからなる物体Aについての人物候補領域、ラベルcからなる物体Bについての人物候補領域、ラベルd〜hからなる物体Cについての人物候補領域を検出することになる。
【0066】
次に人物検出装置20は、ステップS32において、ステップS7で検出した人物候補領域のうち、高温領域が含まれる人物候補領域を除去する。このとき、人物検出装置20は、上述の図9(b)に示した場合と同様に、各人物候補領域を調査領域とし、所定の調査方向に従って輝度値を取得し、当該輝度値が、例えば人物検出用の温度しきい値相当の所定の輝度値を超えているか否かを判定する。そして、人物候補領域内に高温領域が存在していると判定した場合には、当該人物候補領域をステップS8における人物判定処理の対象から除去する。これにより、人物検出装置20は、ランプ及びランプから得られたラベルa,bを含む人物候補領域の物体A及びランプから得られたラベルcを含む人物候補領域の物体Bを除去して、高温領域を含まない人物候補領域の物体Cのみを含む画像を作成する。
【0067】
また、人物検出装置20は、図12(b)に示すように、グループ化処理後において、高温領域の画素が存在すると判定された人物候補領域のラベルを抽出し、当該ラベルに対して車両の縦横比及び大きさから車両が存在するか否かを判定しても良い。このとき、人物検出装置20は、予め設定した車両程度の横長の矩形と、グループ化後の領域の縦横比及び大きさとの比較、高温領域が存在することを判定することによって、自車両1前方の他車両の検出及び種類判定も行うことができる。
【0068】
このような第4実施形態に係る人物検出装置20によれば、人物相当の温度のラベルをグループ化して得られた人物候補領域の一部に高温領域が存在する場合には、当該人物候補領域を人物判定処理から除外するので、上述したように車両を人物と判定する誤判定を防止することができるのは勿論のこと、確実に車両であることの判定を行うことができる。
【0069】
上述したように予め設定した車両程度の横長の矩形によって車両が否かの判定を行う場合に、例えば左右のランプについて、高温領域が右側だけに観測され、左側には観測されない車両が存在する場合、ラベルに高温領域が存在するか否かの判定では、左側のランプを人物として誤判定する可能性がある。これに対し、人物検出装置20は、車両についての横長の距離しきい値を使用し、先ず、ランプに相当する左右の領域を一つの物体としてグループ化し、当該グループ化した候補領域にグループ内に高温領域があるか否によって車両であることを判定することができ、高い温度を含む右側を車両、左側だけを人物とするような誤判定を防ぐことができる。
【0070】
[第5実施形態]
つぎに、本発明を適用した第5実施形態に係る人物検出装置20について説明する。なお、上述した内容と同じ部分については、同一符号及び同一名称を使用することにより、その詳細な説明を省略する。
【0071】
上述した実施形態では、高温領域の画素を含み、大きさ及び形状が車両程度である場合に車両であると判定することによって、人物のみならず、車両も検出可能とし、人物と車両とを確実に区別することを説明したが、第5実施形態に係る人物検出装置20は、前回までの人物及び車両の判定処理の結果に基づいて、自車両1の前方に車両が存在することを判定するものである。
【0072】
ここで、人物、他車両ともに、自車両1に対してある一定の速度以下で移動することから、前回までの処理によって検出され続けている物体については、当該物体の移動方向及び移動速度に基づいて、次に検出される位置が予測可能となる。すなわち、人物検出装置20は、複数回に亘る人物及び車両の判定結果を記憶しておくことによって、時間的に連続した人物及び車両の検出位置を記憶しておく。
【0073】
そして、人物及び車両の判定処理において、人物検出装置20は、時間的に連続した人物及び車両の検出位置に基づいて、今回の処理における検出位置を予測し、当該予測した検出位置と、グループ化して得られた人物候補領域の検出位置とを比較して、物体が人物であるか否か、車両であるか否かを判定する。すなわち、人物温度以上の高温領域がある一定時間以上連続して検出されることによって、車両であると判定された物体に関しては、当該過去の検出位置又は予測した検出位置に再度グループ化処理後の領域が検出された場合には、高温領域が検出されなくても車両と判定することができる。
【0074】
このように、第5実施形態に係る人物検出装置20によれば、過去に検出した物体であって、ある一定以上の時間で連続して高温領域が検出された物体については、高温領域が検出されない場合であっても、人物ではないと判定することができる。したがって、この人物検出装置20によれば、車両のボディ全面が高温領域ではなく、ライトやマフラー等の一部に高温領域が存在するため、自車両1に対する他車両の向きが変更することによって、熱画像内に高温領域が含まれなくなっても、過去に高温領域が検出されて人物ではないと判定された場合には、物体の検出位置に基づいて人物ではないことを判定することができ、車両を人物であると判定する誤判定を防止することができる。
【0075】
[第6実施形態]
つぎに、本発明を適用した第6実施形態に係る人物検出装置20について説明する。なお、上述した内容と同じ部分については、同一符号及び同一名称を使用することにより、その詳細な説明を省略する。
【0076】
この第6実施形態に係る人物検出装置20は、熱画像内での物体の移動速度が、所定速度以上である場合に、当該物体が人物では無いことを判定することを特徴とするものである。
【0077】
ここで、通常、人物は時速5km程度で歩行し、走っている場合であっても時速20km程度である。一方、車両は、法廷速度や道路種類、状況にもよるが、一般道路であっても、時速40km〜60km程度の速度で走行する。したがって、人物検出装置20は、例えばT字路や交差点等に自車両1が差し掛かる場合に、熱画像内で横方向に移動する物体を検出し、当該物体の移動速度が時速40km以上等の人物ではない移動速度であると判定した場合に、当該物体が車両であると判定する。
【0078】
このとき、人物検出装置20は、図13(a)に示すように、人物の温度をカメラレンズ10aを介して撮像面10bで検出しており、自車両1から人物までの距離z、焦点距離fに応じて、人物の高さHに対して撮像面10bに現れる人物高さhc(=画素数)が異なる。具体的には、図13(b)に示す画像内の人物高さhcは、
hc=f・H/z (式1)
なる演算式で表現される。
【0079】
つまり、上記式1より、自車両1と人物までの距離zが大きくなるほど、熱画像内での人物高さhcが小さくなり、自車両1の近方に存在する人物の画像内での高さhcよりも、自車両1の遠方に存在する人物の画像内での高さhcが小さくなる。
【0080】
したがって、人物検出装置20は、熱画像内の物体の高さが、当該物体と遠赤外線カメラ10との実際の距離によって、式1に示すように変化する。つまり、実際の物体高さHを、通常の人物程度の高さである160cm〜170cmに設定して式1に代入し、熱画像内での人物高さhcを求めることにより、熱画像内での人物までのおおよその距離zを求めることができる。
【0081】
また、熱画像内の物体のX軸座標位置における移動は、図14に示すように、実空間における移動距離に変換することができる。すなわち、熱画像上で検出された物体が式1の原理より距離zの位置に存在すると求められ、当該物体の熱画像内におけるX座標位置が、xpからxp’に移動した場合、当該人物の実空間上における移動距離XP−XP’は、図14(a)に示すように、次式により求められる。
【0082】
XP−XP’=(z・xp−z・xp’)/f (式2)
この図14(a)は、カメラレンズ10aからの前方距離zに存在し、光軸からの距離がXPである位置の点Pは、図14(b)に示すように熱画像上における座標xpとして現れ、カメラレンズ10aからの前方距離zに存在し、光軸からの距離がXP’である位置の点P’は、図14(b)に示すように熱画像上における座標xp’として現れることを示している。
【0083】
したがって、時間的に前後する熱画像内でX軸座標がxpからxp’に移動した場合に、実際の物体の移動距離XP−XP’を複数回に亘って求め、熱画像を取得して移動距離を求める式2の結果を単位時間で除算することによって、物体の移動速度を求める。なお、熱画像内の物体のうち、車両の移動速度を求めるためには、式1におけるHの値を車両程度に設定する。
【0084】
このように、人物検出装置20によれば、上述したように物体の一部に高温領域が検出され、移動速度が所定速度以上である場合には、当該物体が人物ではないことを判定することができる。また、自車両1前方を他車両が横切り、ランプやマフラーが検出されない場合のように、物体の一部に高温領域が検出されない場合であっても、物体の移動速度が所定速度以上である場合には、当該物体が人物ではないことを判定することができるので、高温領域を検出する場合と比較して、より高速な処理を行うことができる。
【0085】
すなわち、移動速度が高い物体は、熱画像に現れてから熱画像外となるまでの時間が通常よりも短く、且つ、移動速度が高い物体は、通常、迅速に検知ができることも望まれるが、物体の移動速度を判定するという単純な処理で判定できるので、人物と車両の判定を高速に行える。
【0086】
また、この人物検出装置20によれば、熱画像内の物体の移動速度が速い場合には高温領域が低い温度で検出され易く、人物であると判定する恐れがあるが、移動物体が所定速度以上である場合には、人物ではないことを判定することができるので、人物以外の物体を人物であると誤判定することを防止することができる。
【0087】
なお、上述の実施の形態は本発明の一例である。このため、本発明は、上述の実施形態に限定されることはなく、この実施の形態以外であっても、本発明に係る技術的思想を逸脱しない範囲であれば、設計等に応じて種々の変更が可能であることは勿論である。
【図面の簡単な説明】
【0088】
【図1】本発明を適用した人物検出装置を搭載した自車両の概略構成を示す図であって、(a)は側面図、(b)は上面図である。
【図2】本発明を適用した第1実施形態に係る人物検出装置によって、自車両前方の人物及び車両を検出する処理手順及び人物検出装置の機能的な構成を説明するためのフローチャートである。
【図3】車両に存在する高温領域について説明する図であって、(a)は人物及び前方車両を含む熱画像であり、(b)は車両のランプ部分を拡大した熱画像である。
【図4】2値化処理について説明するための図であり、(a)は人物及び前方車両を含む熱画像であり、(b)は人物検出用の温度しきい値であり、(c)は(a)の熱画像を(b)の温度しきい値で2値化した後の画像であり、(d)は高温領域検出用の温度しきい値であり、(e)は(a)の熱画像を(d)の温度しきい値で2値化した後の画像である。
【図5】2値化後の熱画像に対するラベリング処理及びノイズ除去処理を説明するための図であって、(a)は人物検出用の温度しきい値で2値化した画像であり、(b)は(a)の画像に対してラベリング処理及びノイズ除去処理をした後の画像であり、(c)は高温領域検出用の温度しきい値で2値化した画像であり、(d)の(c)画像に対してラベリング処理及びノイズ除去処理をした後の画像であり、(e)は(b)の画像から、高温領域を差し引いた画像である。
【図6】グループ化処理について説明するための図であって、(a)はラベリング処理後の画像、(b)はラベリング処理後の画像に距離しきい値を適用した画像、(c)はグループ化処理をした後の画像である。
【図7】グループ化処理について説明するための図である。
【図8】本発明を適用した第2実施形態に係る人物検出装置によって、自車両前方の人物及び車両を検出する処理手順及び人物検出装置の機能的な構成を説明するためのフローチャートである。
【図9】グループ化の対象とするラベルを検出する処理を説明するための図であって、(a)はラベルの外端に輪郭線を設定した場合を示す図であり、(b)はラベルごとに、輝度値を調査することを説明する図であり、(c)は(a)の画像から高温領域を除いた画像を作成することを説明するための図である。
【図10】本発明を適用した第3実施形態に係る人物検出装置によって、自車両前方の人物及び車両を検出する処理手順及び人物検出装置の機能的な構成を説明するためのフローチャートである。
【図11】本発明を適用した第4実施形態に係る人物検出装置によって、自車両前方の人物及び車両を検出する処理手順及び人物検出装置の機能的な構成を説明するためのフローチャートである。
【図12】本発明を適用した第4実施形態におけるグループ化処理を説明するための図であって、(a)は高温領域及び人物を含むラベリング処理後の画像であり、(b)は(a)の画像に対してグループ化処理を行った画像である。
【図13】熱画像内に現れる人物高さを求める処理を説明するための図であって、(a)は原理図、(b)は自車両からの距離によって熱画像内の人物高さが変わることを説明するための図である。
【図14】熱画像内に現れるX軸方向の位置を求める処理を説明するための図であって、(a)は原理図、(b)は物体の移動によって熱画像内のX軸方向における座標が変化することを説明するための図である。
【符号の説明】
【0089】
1 自車両
10 遠赤外線カメラ
20 人物検出装置
【技術分野】
【0001】
本発明は、例えば自車両周囲に存在する物体のうち、他車両と人物とを区別して検出して、運転者等に提示するための人物検出装置及び方法に関する。
【背景技術】
【0002】
従来より、例えば車両の進行方向に存在する障害物として人物を検出するために、赤外線カメラによって、温度に相当する値を計測した結果を輝度におきかえた赤外線画像を撮像して、当該赤外線画像から人物を特定する技術としては、下記の特許文献1に記載された技術が知られている。
【0003】
この特許文献1に記載された技術では、2値化処理によって高温領域を検出し、ステレオ画像処理を行うことによって、当該高温領域から自車両までの距離を計測し、画像内において左右対称且つ同じ距離及び大きさの高温領域が対で存在するか否かを判定する。そして、左右対称、同距離、の高温領域の対が存在すると判定した場合には、自車両の前方に他車両が存在し、存在しないと判定した場合には、自車両の前方に人物が存在することを判定することによって、他車両と人物とを区別している。
【特許文献1】特開2003−230134号公報
【発明の開示】
【発明が解決しようとする課題】
【0004】
しかしながら、上述した特許文献1に記載された技術では、車両の背面が左右対称な形状をしていることを前提としているため、走行中に後続車両が先行車の背面を撮像している場合には、先行車両が人物であるとの誤検出を防止することはできるが、先行車両が右左折する場合のように後続車両に対して斜め方向に走行している場合や、自車両前方を横切るような横向きの車両が存在する場合には、高温領域が他車両であることの判定ができない。
【0005】
また、上述した特許文献1に記載された技術では、二輪車を始めとする、左右対称の形状となっていない車両と人物とを区別することができないという問題がある。
【0006】
そこで、本発明は、上述した実情に鑑みて提案されたものであり、自車両に対する他車両の向きや、他車両の形状に拘わらず、確実に他車両と人物とを区別することができる人物検出装置及び方法を提供することを目的とする。
【課題を解決するための手段】
【0007】
本発明では、物体の温度に相当する輝度値の画素からなる熱画像を撮像し、熱画像のうち、人物の温度に相当する輝度値の上限しきい値と下限しきい値との範囲内の画素と、人物の温度に相当する輝度値の上限しきい値と下限しきい値との範囲外の画素とを区別した人物検出用の2値化画像を作成し、人物検出用の2値化画像を参照して、人物の温度に相当する輝度値の上限しきい値と下限しきい値との範囲内の画素群が所定面積以上となっている領域を検出し、検出された領域のうち、所定の距離しきい値以内に存在する一又は複数の領域を人物候補領域としてグループ化し、グループ化されてなる人物候補領域の面積及び形状に基づいて、当該人物候補領域の物体が人物であるか否かを判定する。
【0008】
そして、本発明では、撮像された熱画像のうち、人物の温度よりも高い高温領域を除いて、人物判定の処理対象とすることにより、明らかに人物ではない輝度値の画素を人物検出の対象から除去することができる。
【発明の効果】
【0009】
本発明によれば、撮像された熱画像のうち、人物の温度よりも高い高温領域を除いて、人物判定の処理対象とすることにより、明らかに人物ではない輝度値の画素を人物検出の対象から除去することができるので、高温領域が検出されていれば確実に他車両と人物とを区別することができ、自車両に対する他車両の向きや他車両の形状に拘わらず、確実に人物以外であることの判定をすることができる。
【発明を実施するための最良の形態】
【0010】
以下、本発明の実施の形態について図面を参照して説明する。
【0011】
[第1実施形態]
本発明は、例えば図1に示すように、自車両1の進行方向である前方が撮像範囲とされた遠赤外線カメラ10(撮像手段)によって撮像された熱画像を用いて、人物を検出する人物検出装置20に適用される。なお、図1(a)は、自車両1を側方から見た場合の遠赤外線カメラ10の光軸を示し、図1(b)は、自車両1を上方から見た場合の遠赤外線カメラ10の光軸及び基準座標系を示している。この座標系は、横軸をX、縦軸をYとし、左上画素を原点として画像内の画素位置を示す座標を求めることが可能となっている。
【0012】
遠赤外線カメラ10は、例えば車両のインストルメントパネルや、室内ミラー付近に設けられ、車両の前方を撮像範囲としている。この遠赤外線カメラ10は、物体の温度値が高い部分ほど、高い輝度値となる熱画像データを生成して、人物検出装置20に出力する。したがって、熱画像データの輝度値は、車両前方に存在する物体の温度に相当する値となる。
【0013】
人物検出装置20は、図2に示すようなステップS1〜ステップS9に示すような処理を行うための構成として、遠赤外線カメラ10からの熱画像データを入力する入力I/F、画像メモリ、及び後述の各種処理の内容を記述したプログラム、当該プログラムを実行するCPU等からなる。
【0014】
すなわち、この人物検出装置20は、ステップS1で遠赤外線カメラ10からの熱画像データを入力する入力I/F、ステップS2において熱画像データを記憶する画像メモリ、ステップS3において人物検出用及び高温領域検出用の温度しきい値を設定する温度しきい値設定部、ステップS4においてそれぞれの温度しきい値を用いて2値化処理を行う2値化処理部(人物検出用の2値化処理手段、高温領域検出用の2値化処理手段)、ステップS5において2つのそれぞれの2値化画像を用いてラベリング処理を行うラベリング処理部(人物検出用の領域検出手段、高温領域検出用の領域検出手段)、ステップS6において高温領域近傍を除去してグループ化を行う対象となる領域(ラベル)を検出するグループ化対象領域検出部(高温領域除去手段)、ステップS7においてグループ化を行って人物候補領域を検出するグループ化処理部(グループ化手段)、ステップS8において人物判定を行う人物判定部(人物判定手段)を有する。
【0015】
このような人物検出装置20は、先ず入力I/Fにより、遠赤外線カメラ10からの熱画像データを入力すると(ステップS1)、当該熱画像データを画像メモリに保存する(ステップS2)。
【0016】
次に人物検出装置20は、ステップS2で画像メモリに記憶した熱画像内の人物についてのラベルを検出するための処理として、温度しきい値設定処理(ステップS3A)、2値化処理(ステップS4A)及びラベリング処理(ステップS5A)を行うと共に、人物に相当する温度よりも高い温度を有する熱画像内の高温物体についてのラベルを検出するための処理として、温度しきい値設定処理(ステップS3B)、2値化処理(ステップS4B)及びラベリング処理(ステップS5B)を行う。
【0017】
人物についてのラベルを検出するに際して、先ずステップS3Aにおいて、温度しきい値設定部では、熱画像を撮像した日の天候や気温に基づき、人物を検出するのに適した上下のしきい値を設定する。遠赤外線カメラ10で撮像された熱画像データの輝度値は、遠赤外線カメラ10の撮像範囲内における温度値に相当する。また、人物の温度である皮膚温度は通常36℃前後であり、熱画像データにおいて、人物と自車両1との距離が小さい場合には人物の皮膚部分が36℃に近い輝度値となるが、人物と自車両1との距離が大きくなるほど、温度検出をするための赤外線電位が減衰して、人物周囲の気温の影響を受けた輝度値となる。
【0018】
このため、気温の高い日である場合には、25℃〜36℃程度を人物検出用の温度しきい値とし、気温の低い日である場合には、20℃〜28℃程度を人物検出用の温度しきい値とする。これにより、予め設定しておいた検出対象とする人物までの距離範囲と、天候等の環境とに基づいて、人物を撮像した場合に熱画像に現れる程度の人物検出用の温度しきい値を設定する。なお、人物検出用の温度しきい値としては、45℃以上など、体温より明らかに高い温度を含まないように設定する。
【0019】
これに対し、ステップS3Bにおいて、温度しきい値設定部は、車両のマフラーやライト部等の人物よりも温度の高い高温領域を検出するような温度しきい値を設定する。このとき、温度しきい値設定部は、例えば40℃以上の領域を検出するように高温領域検出用の温度しきい値を設定する。
【0020】
ここで、自車両1の進行方向に前方車両及び人物が存在する場合においては、遠赤外線カメラ10によって図3(a)、(b)に示すような熱画像が撮像される。この熱画像は、気温が体温より低い日(例えば10℃〜20℃程度)において撮像され、人物、前方車両、路面、壁などが含まれており、温度が高い領域が淡い輝度となり、温度が低い部分が濃い輝度となる。また、壁や路面は、材質にもよるが気温とほぼ同程度の温度として検出され、人物は、距離に応じた赤外線の減衰のため、人物の体温そのものは距離が遠いと計測できないが皮膚が露出している顔部分や手足部分が体温の36℃よりも少し低い温度として検出され、服装に覆われた胴体部分が手足部分等よりも少し低いが路面や壁等よりも少し高めの温度として検出される。また、前方車両は、ボディ部が日照時間や車内温度にもよるが路面や背景より多少高めの温度で検出され、ライトやマフラ等の車両内部ではなく車体表面近くに存在し且つ温度が高い部分において非常に高温度で検出される。このライトやマフラ等の高温領域は、図3(b)に示すように、略中心部が人物よりも高い温度として検出され、当該略中心部の外側部分が人物程度の温度として検出されてしまう。
【0021】
したがって、ステップS3Aにおいて、後述の図4(b)に示すような、少なくとも人物の頭部及び手足部分を検出する人物検出用の温度しきい値を設定し、ステップS3Bにおいて、後述の図4(d)に示すような、人物検出用の温度しきい値とは重複しない範囲であって、高温領域を含むような高温領域検出用の温度しきい値を設定する。
【0022】
ここで、比較的温度の低い日は、人物の胴体部分の服装の材質によって温度が様々となり、多くの場合は気温に近くなる。このため、人物部分だけを確実に抽出するためには、人物と確実と判断できる皮膚温度に近い温度を検出する温度範囲を人物検出用の温度しきい値とする。これに対し、胴体部分を含む人物全体を検出するための温度範囲を人物検出用の温度しきい値を設定すると、胴体部分が背景物体である路面や壁と近い温度となっている場合に、2値化によって人物のみならず、背景物体も検出してしまう。このように、胴体部分を除く人物部分を検出した場合には、後述のグループ化処理により、胴体部分を含まない2値化画像であっても人物の検出を可能とし、人物の頭部や脚部など一部のみを検出し、背景物体が検出されない人物検出用の温度しきい値としている。
【0023】
次に、ステップS4Aにおいて、人物検出装置20は、2値化処理部により、温度しきい値設定部により設定された人物検出用の上限しきい値と下限しきい値との間の画素と、人物検出用の上限しきい値と下限しきい値との間以外の画素とで2値化を行う。これにより、人物検出装置20は、人物相当の温度である輝度値を「1」とし、人物相当の温度ではない輝度値を「0」とした2値化画像を作成する。これに対し、ステップS4Bにおいて、人物検出装置20は、2値化処理部により、温度しきい値設定部により設定された高温領域検出用の上限しきい値と下限しきい値との間の画素と、人物検出用の上限しきい値と下限しきい値との間以外の画素とで2値化を行う。
【0024】
具体的には、図4(a)に示すような図3(a)と同様の熱画像を撮像し、ステップS3Aで図4(b)に示す人物検出用の温度しきい値、ステップS3Bで図4(d)に示す高温領域検出用の温度しきい値を設定する。そして、図4(a)の熱画像を図4(b)に示す人物検出用の温度しきい値で2値化した場合には、図4(c)に示す2値化画像が得られ、人物の頭部、手足部分のみならず、前方車両の高温領域外側の部分を人物温度として検出してしまう。これに対し、図4(a)の熱画像を図4(d)に示す高温領域検出用の温度しきい値で2値化した場合には、図4(e)に示す2値化画像が得られ、前方車両のランプ部及びマフラー部の略中心位置を高温領域として検出する。
【0025】
次のステップS5A及びステップS5Bにおいて、人物検出装置20は、ラベリング処理部により、2値化処理部により作成された2値化画像を用いて、輝度値が「1」の領域であって、画像内で人物に相当する領域を検出するラベリング処理を行う。このとき、ラベリング処理部は、例えば2値化画像の左上の画素から順に、輝度値が「1」の画素を検索し、輝度値が「1」の隣接する又は所定距離以内の画素同士を1つの領域(ラベル)とする。
【0026】
ステップS5Aにおいて、ラベリング処理部は、人物検出用の温度しきい値により得られた2値化画像(図4(c)、図5(a))、すなわち人物の頭部、手、足とが分離し、高温領域外側の領域が存在する2値化画像に対してラベリング処理を行う。これにより、図5(b)に示すように、頭部のラベルd、手のラベルe,h、足のラベルf,gを抽出すると共に、他車両のランプ周辺のラベルa,cと、マフラー部周辺のラベルbを抽出する。
【0027】
一方、ステップS5Bにおいて、ラベリング処理部は、高温領域検出用の温度しきい値により得られた2値化画像(図4(e)、図5(c))、すなわちランプ部の略中心位置と、マフラー部の略中心位置に相当する領域が存在する2値化画像に対してラベリング処理を行う。これにより、図5(d)に示すように、ランプのラベルa,c、マフラー部のラベルcを抽出する。
【0028】
なお、図5(b)、図5(d)に示す画像は、後述のグループ化対象温度領域の検出処理において、例えば1画素や2画素程度の小さい領域をノイズとして除去した後のものである。
【0029】
このように、人物検出装置20は、人物のラベルを検出するステップS3A〜ステップS5Aの処理と、高温領域のラベルを検出するステップS3B〜ステップS5Bの処理とを並列して行うことによって、人物のラベルと車両のラベルとを別個に検出することができる。
【0030】
次のステップS6において、グループ化対象領域検出部により、ラベリング処理部によって検出されたラベル領域のうち、所定の画像面積よりも小さいラベル領域を排除し、所定の画像面積以上のラベル領域のみを選択する(ステップS6)。ここで、所定の画像面積とは、自車両1からの人物検出対象距離以内に存在する人物を検出するように設定され、あまりに小さいラベル領域(例えば1〜2画素程度)をノイズとして排除すると共に、自車両1から離れていて自車両1の運転手に警報する必要がないようなラベル領域を排除するように設定されている。
【0031】
また、人物検出装置20は、ステップS5A及びステップS5Bのラベリング処理部によって得られたラベルのうち、人物のグループ化の対象とならない高温領域周辺の温度によって検出されたラベルを除去して、グループ化の対象となるラベルのみとする。このとき、グループ化対象領域検出部は、図5(b)に示すラベルa〜hの検出位置(例えば中心位置)と、図5(d)に示すラベルa〜cの検出位置(例えば中心位置)とを比較し、図5(b)に示すラベルのうち、検出位置が一致しているラベルを除去する。すなわち、図5(d)に示すラベルが、図5(b)に示すラベルに含まれている場合には、図5(b)に示すラベルを除去する。ここで、図5(b)に示すラベルa,b,cの検出位置と、図5(d)に示すa,b,cの検出位置とが一致しているため、グループ化対象領域検出部は、図5(b)のラベルa〜hからラベルa,b,cを除いたラベルd,e,f,g,hを残し、図5(e)に示すような画像を作成する。ここで、図5(b)のラベルa,b,cは、図4(a)におけるランプ及びマフラーによって検出されたラベルであって、略中心位置に人物温度よりも高い高温領域周囲の温度によって形成されたものである。
【0032】
次のステップS7において、人物検出装置20は、グループ化処理部により、ステップS6で人物の温度によって検出されたラベルをグループ化して、人物候補領域を検出するグループ化処理を行う。このとき、グループ化処理部は、グループ化対象領域検出部により選択されたラベル間の距離を検出し、図6に示すように、当該距離が、所定の距離しきい値内のラベル同士を同じグループとして設定するグループ化を行う。この所定の距離しきい値は、Y軸方向(縦方向)の距離しきい値thyと、X軸方向(横方向)の距離しきい値thxとからなる。
【0033】
ここで、人物検出装置20の検出対象が人物であり、当該人物が歩行している状態では、熱画像内の人物が縦長に検出されることや、上述したように、気温の低い寒い日に取得した熱画像には、人物の胴体部分がラベリング処理で抽出されないことが多いことから、頭部と脚部との距離程度にY軸方向の距離しきい値thyが設定されている。一方、X軸方向の距離しきい値thxは、人物が縦長に検出されることから、Y軸方向の距離しきい値thyよりも短い人物の横幅程度であって、例えば、歩行者の脚部の幅程度の距離に設定されている。
【0034】
これにより、グループ化処理部は、図7に示すように、3個のラベルa,ラベルb,ラベルcが存在する場合に、当該ラベルa〜cが距離しきい値thyの範囲内且つ距離しきい値thxの範囲内である時には、当該ラベルa〜cを同一物体から検出されたラベル群としてグループ化し、ラベルa〜cの最大及び最小のX座標と最大及び最小のY座標を含む矩形領域であって、距離xLn,yLn(n=1,2,3・・・)の人物候補領域を設定する。
【0035】
具体的には、図6(a)のようにラベリング処理後の熱画像であって、ラベルd〜hが検出されている場合、先ずグループ化処理部は、ラベルdに着目し、ラベルdから距離しきい値thx,thyの距離範囲に存在するラベルを検索すると、図6(b)に示すように、X座標が略同じ且つ距離しきい値thyの範囲内にラベルe,f,g,hが検出される。そして、グループ化処理部は、ラベルe,f,g,hについて、それぞれ互いに縦方向の距離しきい値thy、横方向の距離しきい値thxの範囲内に位置していることを検出することによって、ラベルd,e,f,g,hを同一物体としてグループ化する。
【0036】
これにより、グループ化処理部は、人物の胴体部分がラベリング処理によって検出されているか否かに拘わらず、図6(c)に示すように、縦方向距離yL1,横方向距離xL1の矩形の人物候補領域をグループ化結果として検出することができる。
【0037】
次に人物検出装置20は、ステップS8において、人物判定部により、グループ化処理部によって検出された人物候補領域の大きさ(xL1×yL1)及び縦横比(xL1:yL1)を求めて、当該人物候補領域内の物体が人物であるか否かを判定する。このとき、人物判定部は、図6(c)に示すように検出された人物候補領域の縦横比、すなわちyLn:xLnが人物程度となっているか否かを判定する。ここで、人物候補領域の縦横比は、縦:横が2:1〜3:2の範囲内である場合に、人物候補領域内のラベルが人物を構成するものであると判定する。
【0038】
このようにラベルが人物であることを判定するための縦横比は、気温によって人物の頭から足元まで確実にラベルの検出できているとは限らず、また、歩行すると手足が横方向に振れることから、実際の人物の縦横比より少し太めとするために、縦:横=2:1〜3:2の範囲内としている。また、人物であることを判定するための縦横比は、縦:横を2:1〜3:2とする場合に限らず、子供の歩行者が多い時間帯などでは、例えば1.5:1のように、1:1より多少縦長に設定しても良い。
【0039】
更に、人物判定部は、人物の歩行速度が通常4〜5km/h程度であることから、時間的に連続した検出結果である複数の人物候補領域を用い、人物の動きや連続検出回数などから、複数回連続して検出され、急激な移動がなく、かつ、縦横比が人物程度である物体を人物として判定してもよい。
【0040】
次に人物検出装置20は、ステップS9において、人物判定部によりグループ化領域内の物体が人物であると判定された場合には、例えば車載ディスプレイ等に人物の存在を提示する警報や、車両制御などを行う。このとき、人物検出装置20は、ステップS1〜ステップS8の結果により、自車両1の前方に複数回(例えば3回)連続して人物が検出された場合に、警報や車両制御を行っても良い。
【0041】
なお、人物検出装置20は、上述のグループ化処理を、図5(d)に示すようなステップS5Bのラベリング処理後の熱画像について行って、グループ化後の領域の縦横比及び大きさから車両が存在するか否かを判定しても良い。このとき、人物検出装置20は、予め設定した車両程度の横長の矩形と、グループ化後の領域の縦横比及び大きさとを比較する。これによって、人物検出装置20は、自車両1前方の他車両の検出及び種類判定も行うことができる。
【0042】
以上詳細に説明したように、本発明を適用した第1実施形態に係る人物検出装置20によれば、熱画像を人物検出用の温度しきい値で2値化した人物温度の領域と、熱画像を高温領域検出用の温度しきい値で2値化した高温領域とを検出し、人物温度として検出された領域のうち、高温領域周辺の人物温度の領域を人物判定の処理対象から除去することによって、前方車両や背景物体等の人物以外の領域と人物の領域とを確実に区分して、人物判定を行うことができる。
【0043】
したがって、この人物検出装置20によれば、前方車両のランプ部やマフラー部の略中心位置が高温領域となっていて、当該高温領域周辺に人物温度と同等の領域が存在する場合であっても、車両特有の形状の対称性を利用することなく人物と車両とを区分することができ、自車両1に対する他車両の向きや、他車両の形状に拘わらず、確実に他車両と人物とを区別することができる。
【0044】
[第2実施形態]
つぎに、本発明を適用した第2実施形態に係る人物検出装置20について説明する。なお、上述した内容と同じ部分については、同一符号及び同一名称を使用することにより、その詳細な説明を省略する。
【0045】
第2実施形態に係る人物検出装置20は、図8に示すように、第1実施形態に係る人物検出装置20と同様に、ステップS1で遠赤外線カメラ10からの熱画像データを入力する入力I/F、ステップS2において熱画像データを記憶する画像メモリ、ステップS3’において人物検出用の温度しきい値を設定する温度しきい値設定部、ステップS4において人物検出用の温度しきい値を用いて2値化処理を行う2値化処理部(2値化処理手段)、ステップS5において2値化画像を用いてラベリング処理を行うラベリング処理部(領域検出手段)、ステップS7においてグループ化を行って人物候補領域を検出するグループ化処理部(グループ化手段)、ステップS8において人物判定を行う人物判定部(人物判定手段)を有する。
【0046】
ここで、人物検出装置20は、上述の温度しきい値設定部とは異なり、人物検出用の温度しきい値のみを設定し、当該人物検出用の温度しきい値のみを用いて2値化処理を行う。すなわち、第2実施形態では、高温領域についての2値化処理及びラベリング処理を行わない。また、人物検出装置20は、ステップS5の次のステップS11において、上述のステップS6とは異なる処理内容によって高温領域を除去してグループ化を行う対象となる領域(ラベル)を検出するグループ化対象領域検出部を備える。
【0047】
このような人物検出装置20は、図3(a)に示す熱画像が遠赤外線カメラ10で撮像されて(ステップS1)、画像メモリに記憶した場合に(ステップS2)、人物検出用の温度しきい値を設定し(ステップS3’)、2値化処理を行うことによって図5(a)に示す2値化画像を取得する(ステップS4)。そして、ラベリング処理を行うことによって、図5(b)に示すようなラベルa〜hを得る(ステップS5)。
【0048】
次に人物検出装置20は、ステップS11において、グループ化対象領域検出部により、ラベリング処理によって得られたラベルa〜hに対応する各画素の輝度値を、ステップS2において記憶した熱画像から取り出し、当該取り出した熱画像の輝度値のうち、人物温度以上の高温である輝度値が含まれている場合には、当該輝度値の画素を含むラベルを除去する。
【0049】
具体的には、先ずグループ化対象領域検出部は、図9(a)に示すように、ラベルa〜hの外端に輪郭線を設定し、当該輪郭線に囲まれる画素の輝度値を取得する。なお、ラベルa,b,cについては、ドーナツ型となっているが、2値化処理によって検出されていない略中心画素の輝度値も取得する。このとき、グループ化対象領域検出部は、ステップS2で記憶した熱画像を読み出し、ラベルa〜hの外端に設定した輪郭線を重ね合わせる。
【0050】
そして、グループ化対象領域検出部は、図9(b)に示すように、各ラベルごとに、輝度値を調査する。このとき、グループ化対象領域検出部は、車両のランプのエッジ部よりも大きいラベルaを調査領域とし、所定の調査方向に従って順次各画素の輝度値を取得し、当該輝度値が、例えば人物検出用の温度しきい値程度の所定の輝度値を超えているか否かを判定する。そして、ラベル内に高温領域が存在していると判定した場合には、当該ラベルをグループ化対象から除去する。これにより、グループ化対象領域検出部は、ランプから得られたラベルa,c及びマフラーから得られたラベルbを除去して、高温領域を含まない人物の温度のラベルd,e,f,g,hを含む図9(c)に示す画像を作成する。
【0051】
また、このステップS11の処理を行うことによって、上述の第1実施形態と同様に、車両のランプやマフラーのラベル検出が可能となり、当該ラベルの大きさ、形状等に基づいて、自車両1の前方に他車両が存在することを検出することができる。
【0052】
次に、人物検出装置20は、上述と同様に、ステップS7におけるグループ化処理を行って人物候補領域を検出し、当該人物候補領域の物体が人物か否かをステップS8における人物判定処理で行い、ステップS9において車両制御や警報を行う。
【0053】
以上詳細に説明したように、本発明を適用した人物検出装置20によれば、人物検出用の温度しきい値を用いて作成した2値化処理を行ってラベルを作成し、当該ラベルに高温領域の画素が含まれている場合に、当該ラベルを除去して人物判定の処理対象から除去することによって、人物を検出することができるので、上述の第1実施形態と同様に、車両と人物とを確実に区別して人物を検出することができる。
【0054】
また、この人物検出装置20によれば、上述の第1実施形態とは異なり、2値化処理、ラベリング処理を1度のみ行うだけで良く、第1実施形態と比較して簡単な構成で車両と区別して人物を検出することができる。
【0055】
更に、この人物検出装置20によれば、ラベルに含まれる画素の輝度値を調べて人物であるか否かを判定することができるので、非常に小さいラベルに高温領域が含まれる場合であっても、当該ラベルが車両であることを検出することができる。
【0056】
[第3実施形態]
つぎに、本発明を適用した第3実施形態に係る人物検出装置20について説明する。なお、上述した内容と同じ部分については、同一符号及び同一名称を使用することにより、その詳細な説明を省略する。
【0057】
この第3実施形態に係る人物検出装置20は、ラベリング処理によって検出されたラベルの面積が所定値よりも小さい場合には、上述の第2実施形態において説明したグループ化対象領域の検出処理を行い、ラベルの面積が所定値よりも大きい場合には、上述の第1実施形態において説明したグループ化対象領域の検出処理を行うことを特徴とする。
【0058】
すなわち、人物検出装置20は、図10に示すように、第2実施形態において説明したステップS1〜ステップS5の処理を行うことによって、図5(b)に示すように複数のラベルを含む画像を作成し、次のステップS21において、各ラベルの面積が所定値以上か否かを判定する。ここで、所定値とは、ステップS11のラベルの輪郭線に囲まれる熱画像の領域に高温領域が含まれるか否かを判断する処理と、図2のステップS3B〜ステップS6の高温領域検出用の温度しきい値の設定、2値化処理、ラベリング処理、グループ化対象領域検出処理からなる処理との処理量の比較によって設定されている。
【0059】
そして、人物検出装置20は、ステップS11の処理を行った時の処理量が、ステップS3B〜ステップS6を行った時の処理量よりも少ないようなラベルの面積が小さい場合には、ステップS11に処理を進める。一方、ステップS11の処理を行った時の処理量が、ステップS3B〜ステップS6を行った時の処理量よりも多いようなラベルの面積が大きい場合には、ステップS3B〜ステップS6に処理を進める。
【0060】
そして、ステップS11の処理又はステップS3B〜ステップS6の処理を行うことによって、ランプやマフラーによって得られたラベルを除去し、人物のラベルのみを含む画像を作成することができる。
【0061】
以上詳細に説明したように、第3実施形態に係る人物検出装置20によれば、第2実施形態のようにラベルに含まれる熱画像の各画素の輝度値を調べることによって高温領域の存在を調べる処理と、高温領域検出用の温度しきい値を用いた2値化処理を行うことによって高温領域の存在を調べる処理のうち、処理量が少ない処理を選択することができるので、リアルタイム性を欠くことなく確実に車両と人物とを区別することができる。
【0062】
[第4実施形態]
つぎに、本発明を適用した第4実施形態に係る人物検出装置20について説明する。なお、上述した内容と同じ部分については、同一符号及び同一名称を使用することにより、その詳細な説明を省略する。
【0063】
この第4実施形態に係る人物検出装置20は、図11に示すように、第2実施形態において説明したようにステップS1〜ステップS5を行い、ステップS31において面積が小さいラベルのみを除去するノイズ除去、ステップS7のグループ化処理を行って人物候補領域を検出した後に、ステップS32において、高温領域を含む人物候補領域を除去することを特徴とするものである。
【0064】
この人物検出装置20は、ステップS31においてグループ化処理の対象となる図12(a)に示すようなラベルa〜hが検出された後のステップS7において、グループ化処理部により、距離しきい値を用いてグループ化処理を行う。
【0065】
ここで、上述した実施形態では、グループ化処理の前に高温領域を除去しており、グループ化処理を行う時点では人物の温度から得られたラベルのみであったが、第4実施形態では、高温領域によって得られたラベルについてもグループ化処理の対象としている。そして、グループ化処理部では、各ラベル間の距離が距離しきい値以内であるか否かを判定することによって、グループ化処理を行うと、ラベルa,bからなる物体Aについての人物候補領域、ラベルcからなる物体Bについての人物候補領域、ラベルd〜hからなる物体Cについての人物候補領域を検出することになる。
【0066】
次に人物検出装置20は、ステップS32において、ステップS7で検出した人物候補領域のうち、高温領域が含まれる人物候補領域を除去する。このとき、人物検出装置20は、上述の図9(b)に示した場合と同様に、各人物候補領域を調査領域とし、所定の調査方向に従って輝度値を取得し、当該輝度値が、例えば人物検出用の温度しきい値相当の所定の輝度値を超えているか否かを判定する。そして、人物候補領域内に高温領域が存在していると判定した場合には、当該人物候補領域をステップS8における人物判定処理の対象から除去する。これにより、人物検出装置20は、ランプ及びランプから得られたラベルa,bを含む人物候補領域の物体A及びランプから得られたラベルcを含む人物候補領域の物体Bを除去して、高温領域を含まない人物候補領域の物体Cのみを含む画像を作成する。
【0067】
また、人物検出装置20は、図12(b)に示すように、グループ化処理後において、高温領域の画素が存在すると判定された人物候補領域のラベルを抽出し、当該ラベルに対して車両の縦横比及び大きさから車両が存在するか否かを判定しても良い。このとき、人物検出装置20は、予め設定した車両程度の横長の矩形と、グループ化後の領域の縦横比及び大きさとの比較、高温領域が存在することを判定することによって、自車両1前方の他車両の検出及び種類判定も行うことができる。
【0068】
このような第4実施形態に係る人物検出装置20によれば、人物相当の温度のラベルをグループ化して得られた人物候補領域の一部に高温領域が存在する場合には、当該人物候補領域を人物判定処理から除外するので、上述したように車両を人物と判定する誤判定を防止することができるのは勿論のこと、確実に車両であることの判定を行うことができる。
【0069】
上述したように予め設定した車両程度の横長の矩形によって車両が否かの判定を行う場合に、例えば左右のランプについて、高温領域が右側だけに観測され、左側には観測されない車両が存在する場合、ラベルに高温領域が存在するか否かの判定では、左側のランプを人物として誤判定する可能性がある。これに対し、人物検出装置20は、車両についての横長の距離しきい値を使用し、先ず、ランプに相当する左右の領域を一つの物体としてグループ化し、当該グループ化した候補領域にグループ内に高温領域があるか否によって車両であることを判定することができ、高い温度を含む右側を車両、左側だけを人物とするような誤判定を防ぐことができる。
【0070】
[第5実施形態]
つぎに、本発明を適用した第5実施形態に係る人物検出装置20について説明する。なお、上述した内容と同じ部分については、同一符号及び同一名称を使用することにより、その詳細な説明を省略する。
【0071】
上述した実施形態では、高温領域の画素を含み、大きさ及び形状が車両程度である場合に車両であると判定することによって、人物のみならず、車両も検出可能とし、人物と車両とを確実に区別することを説明したが、第5実施形態に係る人物検出装置20は、前回までの人物及び車両の判定処理の結果に基づいて、自車両1の前方に車両が存在することを判定するものである。
【0072】
ここで、人物、他車両ともに、自車両1に対してある一定の速度以下で移動することから、前回までの処理によって検出され続けている物体については、当該物体の移動方向及び移動速度に基づいて、次に検出される位置が予測可能となる。すなわち、人物検出装置20は、複数回に亘る人物及び車両の判定結果を記憶しておくことによって、時間的に連続した人物及び車両の検出位置を記憶しておく。
【0073】
そして、人物及び車両の判定処理において、人物検出装置20は、時間的に連続した人物及び車両の検出位置に基づいて、今回の処理における検出位置を予測し、当該予測した検出位置と、グループ化して得られた人物候補領域の検出位置とを比較して、物体が人物であるか否か、車両であるか否かを判定する。すなわち、人物温度以上の高温領域がある一定時間以上連続して検出されることによって、車両であると判定された物体に関しては、当該過去の検出位置又は予測した検出位置に再度グループ化処理後の領域が検出された場合には、高温領域が検出されなくても車両と判定することができる。
【0074】
このように、第5実施形態に係る人物検出装置20によれば、過去に検出した物体であって、ある一定以上の時間で連続して高温領域が検出された物体については、高温領域が検出されない場合であっても、人物ではないと判定することができる。したがって、この人物検出装置20によれば、車両のボディ全面が高温領域ではなく、ライトやマフラー等の一部に高温領域が存在するため、自車両1に対する他車両の向きが変更することによって、熱画像内に高温領域が含まれなくなっても、過去に高温領域が検出されて人物ではないと判定された場合には、物体の検出位置に基づいて人物ではないことを判定することができ、車両を人物であると判定する誤判定を防止することができる。
【0075】
[第6実施形態]
つぎに、本発明を適用した第6実施形態に係る人物検出装置20について説明する。なお、上述した内容と同じ部分については、同一符号及び同一名称を使用することにより、その詳細な説明を省略する。
【0076】
この第6実施形態に係る人物検出装置20は、熱画像内での物体の移動速度が、所定速度以上である場合に、当該物体が人物では無いことを判定することを特徴とするものである。
【0077】
ここで、通常、人物は時速5km程度で歩行し、走っている場合であっても時速20km程度である。一方、車両は、法廷速度や道路種類、状況にもよるが、一般道路であっても、時速40km〜60km程度の速度で走行する。したがって、人物検出装置20は、例えばT字路や交差点等に自車両1が差し掛かる場合に、熱画像内で横方向に移動する物体を検出し、当該物体の移動速度が時速40km以上等の人物ではない移動速度であると判定した場合に、当該物体が車両であると判定する。
【0078】
このとき、人物検出装置20は、図13(a)に示すように、人物の温度をカメラレンズ10aを介して撮像面10bで検出しており、自車両1から人物までの距離z、焦点距離fに応じて、人物の高さHに対して撮像面10bに現れる人物高さhc(=画素数)が異なる。具体的には、図13(b)に示す画像内の人物高さhcは、
hc=f・H/z (式1)
なる演算式で表現される。
【0079】
つまり、上記式1より、自車両1と人物までの距離zが大きくなるほど、熱画像内での人物高さhcが小さくなり、自車両1の近方に存在する人物の画像内での高さhcよりも、自車両1の遠方に存在する人物の画像内での高さhcが小さくなる。
【0080】
したがって、人物検出装置20は、熱画像内の物体の高さが、当該物体と遠赤外線カメラ10との実際の距離によって、式1に示すように変化する。つまり、実際の物体高さHを、通常の人物程度の高さである160cm〜170cmに設定して式1に代入し、熱画像内での人物高さhcを求めることにより、熱画像内での人物までのおおよその距離zを求めることができる。
【0081】
また、熱画像内の物体のX軸座標位置における移動は、図14に示すように、実空間における移動距離に変換することができる。すなわち、熱画像上で検出された物体が式1の原理より距離zの位置に存在すると求められ、当該物体の熱画像内におけるX座標位置が、xpからxp’に移動した場合、当該人物の実空間上における移動距離XP−XP’は、図14(a)に示すように、次式により求められる。
【0082】
XP−XP’=(z・xp−z・xp’)/f (式2)
この図14(a)は、カメラレンズ10aからの前方距離zに存在し、光軸からの距離がXPである位置の点Pは、図14(b)に示すように熱画像上における座標xpとして現れ、カメラレンズ10aからの前方距離zに存在し、光軸からの距離がXP’である位置の点P’は、図14(b)に示すように熱画像上における座標xp’として現れることを示している。
【0083】
したがって、時間的に前後する熱画像内でX軸座標がxpからxp’に移動した場合に、実際の物体の移動距離XP−XP’を複数回に亘って求め、熱画像を取得して移動距離を求める式2の結果を単位時間で除算することによって、物体の移動速度を求める。なお、熱画像内の物体のうち、車両の移動速度を求めるためには、式1におけるHの値を車両程度に設定する。
【0084】
このように、人物検出装置20によれば、上述したように物体の一部に高温領域が検出され、移動速度が所定速度以上である場合には、当該物体が人物ではないことを判定することができる。また、自車両1前方を他車両が横切り、ランプやマフラーが検出されない場合のように、物体の一部に高温領域が検出されない場合であっても、物体の移動速度が所定速度以上である場合には、当該物体が人物ではないことを判定することができるので、高温領域を検出する場合と比較して、より高速な処理を行うことができる。
【0085】
すなわち、移動速度が高い物体は、熱画像に現れてから熱画像外となるまでの時間が通常よりも短く、且つ、移動速度が高い物体は、通常、迅速に検知ができることも望まれるが、物体の移動速度を判定するという単純な処理で判定できるので、人物と車両の判定を高速に行える。
【0086】
また、この人物検出装置20によれば、熱画像内の物体の移動速度が速い場合には高温領域が低い温度で検出され易く、人物であると判定する恐れがあるが、移動物体が所定速度以上である場合には、人物ではないことを判定することができるので、人物以外の物体を人物であると誤判定することを防止することができる。
【0087】
なお、上述の実施の形態は本発明の一例である。このため、本発明は、上述の実施形態に限定されることはなく、この実施の形態以外であっても、本発明に係る技術的思想を逸脱しない範囲であれば、設計等に応じて種々の変更が可能であることは勿論である。
【図面の簡単な説明】
【0088】
【図1】本発明を適用した人物検出装置を搭載した自車両の概略構成を示す図であって、(a)は側面図、(b)は上面図である。
【図2】本発明を適用した第1実施形態に係る人物検出装置によって、自車両前方の人物及び車両を検出する処理手順及び人物検出装置の機能的な構成を説明するためのフローチャートである。
【図3】車両に存在する高温領域について説明する図であって、(a)は人物及び前方車両を含む熱画像であり、(b)は車両のランプ部分を拡大した熱画像である。
【図4】2値化処理について説明するための図であり、(a)は人物及び前方車両を含む熱画像であり、(b)は人物検出用の温度しきい値であり、(c)は(a)の熱画像を(b)の温度しきい値で2値化した後の画像であり、(d)は高温領域検出用の温度しきい値であり、(e)は(a)の熱画像を(d)の温度しきい値で2値化した後の画像である。
【図5】2値化後の熱画像に対するラベリング処理及びノイズ除去処理を説明するための図であって、(a)は人物検出用の温度しきい値で2値化した画像であり、(b)は(a)の画像に対してラベリング処理及びノイズ除去処理をした後の画像であり、(c)は高温領域検出用の温度しきい値で2値化した画像であり、(d)の(c)画像に対してラベリング処理及びノイズ除去処理をした後の画像であり、(e)は(b)の画像から、高温領域を差し引いた画像である。
【図6】グループ化処理について説明するための図であって、(a)はラベリング処理後の画像、(b)はラベリング処理後の画像に距離しきい値を適用した画像、(c)はグループ化処理をした後の画像である。
【図7】グループ化処理について説明するための図である。
【図8】本発明を適用した第2実施形態に係る人物検出装置によって、自車両前方の人物及び車両を検出する処理手順及び人物検出装置の機能的な構成を説明するためのフローチャートである。
【図9】グループ化の対象とするラベルを検出する処理を説明するための図であって、(a)はラベルの外端に輪郭線を設定した場合を示す図であり、(b)はラベルごとに、輝度値を調査することを説明する図であり、(c)は(a)の画像から高温領域を除いた画像を作成することを説明するための図である。
【図10】本発明を適用した第3実施形態に係る人物検出装置によって、自車両前方の人物及び車両を検出する処理手順及び人物検出装置の機能的な構成を説明するためのフローチャートである。
【図11】本発明を適用した第4実施形態に係る人物検出装置によって、自車両前方の人物及び車両を検出する処理手順及び人物検出装置の機能的な構成を説明するためのフローチャートである。
【図12】本発明を適用した第4実施形態におけるグループ化処理を説明するための図であって、(a)は高温領域及び人物を含むラベリング処理後の画像であり、(b)は(a)の画像に対してグループ化処理を行った画像である。
【図13】熱画像内に現れる人物高さを求める処理を説明するための図であって、(a)は原理図、(b)は自車両からの距離によって熱画像内の人物高さが変わることを説明するための図である。
【図14】熱画像内に現れるX軸方向の位置を求める処理を説明するための図であって、(a)は原理図、(b)は物体の移動によって熱画像内のX軸方向における座標が変化することを説明するための図である。
【符号の説明】
【0089】
1 自車両
10 遠赤外線カメラ
20 人物検出装置
【特許請求の範囲】
【請求項1】
物体の温度に相当する輝度値の画素からなる熱画像を撮像する撮像手段と、
前記撮像手段で撮像された熱画像のうち、人物の温度に相当する輝度値の上限しきい値と下限しきい値との範囲内の画素と、人物の温度に相当する輝度値の上限しきい値と下限しきい値との範囲外の画素とを区別した人物検出用の2値化画像を作成する人物検出用の2値化処理手段と、
前記人物検出用の2値化画像を参照して、人物の温度に相当する輝度値の上限しきい値と下限しきい値との範囲内の画素群が所定面積以上となっている領域を検出する人物検出用の領域検出手段と、
前記領域検出手段により検出された領域のうち、所定の距離しきい値以内に存在する一又は複数の領域を人物候補領域としてグループ化するグループ化手段と、
前記グループ化手段によってグループ化されてなる人物候補領域の面積及び形状に基づいて、当該人物候補領域の物体が人物であるか否かを判定する人物判定手段とを備え、
前記撮像手段で撮像された熱画像のうち、人物の温度よりも高い高温領域を除いて、前記人物判定手段の処理対象とする高温領域除去手段を備えることを特徴とする人物検出装置。
【請求項2】
前記撮像手段で撮像された熱画像のうち、人物の温度よりも高い高温領域に相当する輝度値の上限しきい値と下限しきい値との範囲内の画素と、前記高温領域に相当する輝度値の上限しきい値と下限しきい値との範囲外の画素とを区別した高温領域検出用の2値化画像を作成する高温領域検出用の2値化処理手段と、
前記高温領域検出用の2値化画像を参照して、前記高温領域に相当する輝度値の上限しきい値と下限しきい値との範囲内の画素群が所定面積以上となっている領域を検出する高温領域検出用の領域検出手段とを更に備え、
前記高温領域除去手段は、前記人物検出用の領域検出手段で検出された領域に、前記高温領域検出用の領域検出手段で検出された領域が含まれている場合に、当該前記人物検出用の領域検出手段で検出された領域を除去することを特徴とする請求項1に記載の人物検出装置。
【請求項3】
前記高温領域除去手段は、前記人物検出用の領域検出手段で検出された領域内に、人物の温度よりも高い高温領域に相当する輝度値の画素が含まれている場合に、当該前記人物検出用の領域検出手段で検出された領域を除去することを特徴とする請求項1に記載の人物検出装置。
【請求項4】
前記高温領域除去手段は、
前記人物検出用の領域検出手段で検出された領域の面積が所定値以上である場合には、前記人物検出用の領域検出手段で検出された領域に、前記高温領域検出用の領域検出手段で検出された領域が含まれている場合に、当該前記人物検出用の領域検出手段で検出された領域を除去する処理を行い、
前記人物検出用の領域検出手段で検出された領域の面積が所定値以上ではない場合には、前記人物検出用の領域検出手段で検出された領域内に、人物の温度よりも高い高温領域に相当する輝度値の画素が含まれている場合に、当該前記人物検出用の領域検出手段で検出された領域を除去する処理を行うこと
を特徴とする請求項2に記載の人物検出装置。
【請求項5】
前記高温領域除去手段は、前記グループ化手段によってグループ化されてなる人物候補領域内に、人物の温度よりも高い高温領域に相当する輝度値の画素が含まれている場合に、当該グループ化手段によってグループ化されてなる人物候補領域を除去することを特徴とする請求項1に記載の人物検出装置。
【請求項6】
前記人物判定手段は、前記人物検出用の領域検出手段で検出された領域内に連続して高温領域を含むことが検出された後に、当該領域内に高温領域が検出されない場合であっても人物以外の物体であると判定することを特徴とする請求項1乃至請求項5の何れかに記載の人物検出装置。
【請求項7】
前記人物判定手段は、前記人物検出用の領域検出手段で検出された領域の移動速度が所定速度以上である場合に、当該領域の物体が人物以外の物体であることを判定することを特徴とする請求項1乃至請求項5の何れかに記載の人物検出装置。
【請求項8】
物体の温度に相当する輝度値の画素からなる熱画像を撮像するステップと、
前記熱画像のうち、人物の温度に相当する輝度値の上限しきい値と下限しきい値との範囲内の画素と、人物の温度に相当する輝度値の上限しきい値と下限しきい値との範囲外の画素とを区別した2値化画像を作成するステップと、
前記2値化画像を参照して、人物の温度に相当する輝度値の上限しきい値と下限しきい値との範囲内の画素群が所定面積以上となっている領域を検出するステップと、
前記検出された領域のうち、所定の距離しきい値以内に存在する一又は複数の領域を人物候補領域としてグループ化するステップと、
グループ化されてなる人物候補領域の面積及び形状に基づいて、当該人物候補領域の物体が人物であるか否かを判定するステップとを有し、
前記2値化画像を作成した後に、前記熱画像のうち、人物の温度よりも高い高温領域を除いて、前記人物判定処理の対象とするステップを設けたことを特徴とする人物検出方法。
【請求項1】
物体の温度に相当する輝度値の画素からなる熱画像を撮像する撮像手段と、
前記撮像手段で撮像された熱画像のうち、人物の温度に相当する輝度値の上限しきい値と下限しきい値との範囲内の画素と、人物の温度に相当する輝度値の上限しきい値と下限しきい値との範囲外の画素とを区別した人物検出用の2値化画像を作成する人物検出用の2値化処理手段と、
前記人物検出用の2値化画像を参照して、人物の温度に相当する輝度値の上限しきい値と下限しきい値との範囲内の画素群が所定面積以上となっている領域を検出する人物検出用の領域検出手段と、
前記領域検出手段により検出された領域のうち、所定の距離しきい値以内に存在する一又は複数の領域を人物候補領域としてグループ化するグループ化手段と、
前記グループ化手段によってグループ化されてなる人物候補領域の面積及び形状に基づいて、当該人物候補領域の物体が人物であるか否かを判定する人物判定手段とを備え、
前記撮像手段で撮像された熱画像のうち、人物の温度よりも高い高温領域を除いて、前記人物判定手段の処理対象とする高温領域除去手段を備えることを特徴とする人物検出装置。
【請求項2】
前記撮像手段で撮像された熱画像のうち、人物の温度よりも高い高温領域に相当する輝度値の上限しきい値と下限しきい値との範囲内の画素と、前記高温領域に相当する輝度値の上限しきい値と下限しきい値との範囲外の画素とを区別した高温領域検出用の2値化画像を作成する高温領域検出用の2値化処理手段と、
前記高温領域検出用の2値化画像を参照して、前記高温領域に相当する輝度値の上限しきい値と下限しきい値との範囲内の画素群が所定面積以上となっている領域を検出する高温領域検出用の領域検出手段とを更に備え、
前記高温領域除去手段は、前記人物検出用の領域検出手段で検出された領域に、前記高温領域検出用の領域検出手段で検出された領域が含まれている場合に、当該前記人物検出用の領域検出手段で検出された領域を除去することを特徴とする請求項1に記載の人物検出装置。
【請求項3】
前記高温領域除去手段は、前記人物検出用の領域検出手段で検出された領域内に、人物の温度よりも高い高温領域に相当する輝度値の画素が含まれている場合に、当該前記人物検出用の領域検出手段で検出された領域を除去することを特徴とする請求項1に記載の人物検出装置。
【請求項4】
前記高温領域除去手段は、
前記人物検出用の領域検出手段で検出された領域の面積が所定値以上である場合には、前記人物検出用の領域検出手段で検出された領域に、前記高温領域検出用の領域検出手段で検出された領域が含まれている場合に、当該前記人物検出用の領域検出手段で検出された領域を除去する処理を行い、
前記人物検出用の領域検出手段で検出された領域の面積が所定値以上ではない場合には、前記人物検出用の領域検出手段で検出された領域内に、人物の温度よりも高い高温領域に相当する輝度値の画素が含まれている場合に、当該前記人物検出用の領域検出手段で検出された領域を除去する処理を行うこと
を特徴とする請求項2に記載の人物検出装置。
【請求項5】
前記高温領域除去手段は、前記グループ化手段によってグループ化されてなる人物候補領域内に、人物の温度よりも高い高温領域に相当する輝度値の画素が含まれている場合に、当該グループ化手段によってグループ化されてなる人物候補領域を除去することを特徴とする請求項1に記載の人物検出装置。
【請求項6】
前記人物判定手段は、前記人物検出用の領域検出手段で検出された領域内に連続して高温領域を含むことが検出された後に、当該領域内に高温領域が検出されない場合であっても人物以外の物体であると判定することを特徴とする請求項1乃至請求項5の何れかに記載の人物検出装置。
【請求項7】
前記人物判定手段は、前記人物検出用の領域検出手段で検出された領域の移動速度が所定速度以上である場合に、当該領域の物体が人物以外の物体であることを判定することを特徴とする請求項1乃至請求項5の何れかに記載の人物検出装置。
【請求項8】
物体の温度に相当する輝度値の画素からなる熱画像を撮像するステップと、
前記熱画像のうち、人物の温度に相当する輝度値の上限しきい値と下限しきい値との範囲内の画素と、人物の温度に相当する輝度値の上限しきい値と下限しきい値との範囲外の画素とを区別した2値化画像を作成するステップと、
前記2値化画像を参照して、人物の温度に相当する輝度値の上限しきい値と下限しきい値との範囲内の画素群が所定面積以上となっている領域を検出するステップと、
前記検出された領域のうち、所定の距離しきい値以内に存在する一又は複数の領域を人物候補領域としてグループ化するステップと、
グループ化されてなる人物候補領域の面積及び形状に基づいて、当該人物候補領域の物体が人物であるか否かを判定するステップとを有し、
前記2値化画像を作成した後に、前記熱画像のうち、人物の温度よりも高い高温領域を除いて、前記人物判定処理の対象とするステップを設けたことを特徴とする人物検出方法。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【公開番号】特開2006−99603(P2006−99603A)
【公開日】平成18年4月13日(2006.4.13)
【国際特許分類】
【出願番号】特願2004−287122(P2004−287122)
【出願日】平成16年9月30日(2004.9.30)
【出願人】(000003997)日産自動車株式会社 (16,386)
【Fターム(参考)】
【公開日】平成18年4月13日(2006.4.13)
【国際特許分類】
【出願日】平成16年9月30日(2004.9.30)
【出願人】(000003997)日産自動車株式会社 (16,386)
【Fターム(参考)】
[ Back to top ]