説明

歩行者検出システム

【課題】大規模な処理を付加することなく、歩行者の検出精度を向上可能な歩行者検出システムを提供すること
【解決手段】赤外線カメラ10によって撮像して得られた画像に基づいて、歩行者を検出する歩行者検出部20を備えた歩行者検出システムであって、歩行者検出部20が、前記画像と、あらかじめ記憶された歩行者の輪郭を模したテンプレートとのマッチングを行い、このテンプレートとの相関値を求める相関値検出部と、前記画像のうち、前記相関値が歩行者とみなすことができるだけ高い画像領域を歩行者候補として検出する高相関領域検出部と、複数の歩行者候補の前記画像上の高さの平均値を求め、この平均値と各歩行者候補の前記画像上の高さとに基づいて、歩行者候補が適性か否か判定し、不適正なものは歩行者候補から棄却する取捨選択処理を実行する取捨選択部と、を備えていることを特徴とする歩行者検出システムとした。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、車両周辺の歩行者の存在を検出する歩行者検出システムに関する。
【背景技術】
【0002】
従来、車両進行方向を撮影する赤外線カメラを設置し、得られる画像から歩行者を検知し、運転者に画像の歩行者部分にマーカーを重畳して提示したり、あるいは危険度を自動的に認識して危険と判断した場合に警告したり、あるいは車両の自動操縦装置による制動や操舵による回避させたりすることが可能なシステムの実現が検討されている。
【0003】
このような歩行者検出システムとして、歩行者を検出する場合、あらかじめ歩行者の輪郭を模したテンプレートを用意し、このテンプレートと画像内の歩行者が存在する可能性のあるエリアの類似性を求める、いわゆる「パターンマッチング」を用いるものが、例えば、特許文献1などにより知られている。
【先行技術文献】
【特許文献】
【0004】
【特許文献1】特開2003−9140号公報
【発明の概要】
【発明が解決しようとする課題】
【0005】
上述したような従来の歩行者検出システムでは、検出精度を向上させる場合、画像処理装置で誤差量を特定して補正する、いわゆるキャリブレーション処理が必要になる。この場合、時間的要素を含めた判定の場合は、動画処理となるために処理速度などシステム全体の制約が生じ、実施が難しくなる。
【0006】
本発明は上記事情に鑑みてなされたもので、大規模な処理を付加することなく、歩行者の検出精度を向上可能な歩行者検出システムを提供することを目的とする。
【課題を解決するための手段】
【0007】
上述の目的達成のため本発明は、請求項1に記載の発明は、車両に設置されて前記車両の進行方向を撮像する撮像装置と、この撮像装置によって撮像して得られた画像に基づいて、歩行者を検出する歩行者検出手段と、を備えた歩行者検出システムであって、前記歩行者検出手段が、前記画像と、あらかじめ記憶された歩行者の輪郭を模したテンプレートとのマッチングを行い、このテンプレートとの相関値を求める相関値検出部と、前記画像のうち、前記相関値が歩行者とみなすことができるだけ高い画像領域を歩行者候補として検出する高相関領域検出部と、複数の前記歩行者候補の前記画像上の高さの平均値を求め、この平均値と各歩行者候補の前記画像上の高さとに基づいて、前記歩行者候補が適性か否か判定し、不適正なものは歩行者候補から棄却する取捨選択処理を実行する取捨選択部と、を備えていることを特徴とする歩行者検出システムとした。
【0008】
また、請求項2に記載の発明は、請求項1に記載の歩行者検出システにおいて、前記相関値検出部は、前記画像の高さ方向寸法が異なる複数のテンプレートを備え、前記取捨選択部は、前記取捨選択処理において、前記複数の歩行者候補を、相関性の高い前記テンプレートごとにグループ分けし、このグループごとに、前記平均値を求めるとともに、この平均値と、前記グループに含まれる各歩行者候補の高さとの比較に基づき、両者の乖離度があらかじめ設定された範囲外のものは不適正として歩行者候補から棄却する処理を行なうことを特徴とする歩行者検出システムとした。
【0009】
また、請求項3に記載の発明は、請求項1に記載の歩行者検出システムにおいて、前記相関値検出部は、前記画像の高さ方向寸法が異なる複数のテンプレートを備え、前記取捨選択部は、前記取捨選択処理において、前記複数の歩行者候補を、相関性の高い前記テンプレートごとにグループ分けし、各グループのうちで複数の前記歩行者候補が存在するあるグループの前記平均値から全体基準高さを求め、この全体基準高さに基づいて、各グループに対応するグループ基準高さを設定し、前記グループごとに、前記グループ基準高さと前記歩行者候補の高さとの比較に基づき、両者の乖離度があらかじめ設定された範囲外のものは不適正として歩行者候補から棄却する処理を行なうことを特徴とする歩行者検出システムとした。
【0010】
また、請求項4に記載の発明は、請求項3に記載の歩行者検出システムにおいて、前記取捨選択部は、前記取捨選択処理において、前記平均値は、あらかじめ設定された設定値以上の歩行者候補が存在するグループのうちで最もサイズの小さなテンプレートとの相関性の高いグループから求めることを特徴とする歩行者検出システムとした。
【0011】
また、請求項5に記載の発明は、請求項1に記載の歩行者検出システムにおいて、前記相関値検出部は、前記画像の高さ方向寸法が異なる複数のテンプレートを備え、前記取捨選択手段は、前記複数の歩行者候補を、相関性の高い前記テンプレートごとにグループ分けし、前記グループごとに前記歩行者候補の高さの平均値を求め、各平均値に基づいて全体基準高さを設定し、この全体基準高さに基づいて、各グループのグループ基準高さを求め、前記グループごとに、前記グループ基準高さと前記グループに含まれる各歩行者候補の高さとの比較に基づき、両者の乖離度があらかじめ設定された範囲外のものは不適正として歩行者候補から棄却する処理を行なうことを特徴とする歩行者検出システムとした。
【0012】
また、請求項6に記載の発明は、請求項1に記載の歩行者検出システムにおいて、前記赤外線カメラが、歩行者の高さ方向の中心位置とみなすことのできる高さに設置され、前記取捨選択部は、全歩行者候補の高さデータの平均値である判定基準値を求め、この判定基準値と各歩行者候補の高さとの比較に基づき、両者の乖離度があらかじめ設定された範囲外のものは不適正として歩行者候補から棄却する処理を行なうことを特徴とする歩行者検出システムとした。
【0013】
また、請求項7に記載の発明は、請求項1〜6に記載の歩行者検出システムにおいて、前記平均値から設定範囲内の低い歩行者候補を子供と判別することを特徴とする歩行者検出システムとした。
【発明の効果】
【0014】
請求項1に記載の発明では、歩行者の身長分の画像上の高さ寸法は、赤外線カメラ(車両)と歩行者との距離に応じて決定される。また、赤外線カメラと歩行者との距離に応じて、画像上の歩行者の足元の高さ方向の位置も決定される。よって、共通するテンプレートに相関する歩行者候補は、画像上における足元の高さ位置および身長分の高さ寸法が略一定となる。
【0015】
したがって、歩行者候補は、それが歩行者の画像であれば、その高さは平均値に近い可能性が高く、歩行者以外の画像であれば、平均値から離れる可能性が高くなる可能性が高い。
そこで、取捨選択部では、複数の歩行者候補の画像上の高さの平均値と、各歩行者候補の画像上の高さとに基づいて、適正であるか否かを判定し、不適なものは歩行者から棄却する。
【0016】
このように、請求項1に記載の発明では、複数の歩行者候補の高さの平均値と、各歩行者候補の高さとに基づいて、不適正と判定されたものは、歩行者候補から棄却するため、検出精度を向上させることが可能である。また、歩行者候補の取捨選択を、歩行者候補の高さとその平均値とに基づいて行うため、処理が容易であり、システムの処理量を大きく増やしたり、また、新たな機能(キャリブレーション)や工程制約(取付精度向上)を付加したりすることなく、上記の歩行者の検出精度向上を実現可能である。
【0017】
請求項2に記載の発明では、複数の歩行者が存在する場合、これら複数の歩行者の車両との距離が共通していれば、画像上では、複数の歩行者の画像は、同じ高さで横並びする。そして、このような横並びの歩行者の画像は、テンプレートマッチングを行った場合は、共通するテンプレートとの相関値が高くなる。
【0018】
そこで、複数のテンプレートを有している場合、複数の歩行者候補を相関値が高いテンプレートごとにグループ分けし、グループごとに、平均値と、高さデータとを比較し、その乖離度で適正か否か判定する。よって、請求項2に記載の発明では、歩行者候補をテンプレートごとにグループ分けしないものよりも、精度の高い歩行者判定が可能となる。
【0019】
次に、請求項3に記載の発明の作用効果を説明する。
歩行者候補を、相関するテンプレートごとにグループ分けする構成では、あるグループにおいて、歩行者候補として、歩行者以外の画像によるもの1つのみが検出された場合、その平均値は、本来歩行者の位置を示す値から離れた値となるおそれがある。
【0020】
そこで、請求項3に記載の発明では、歩行者候補を、相関するテンプレートごとにグループ分けし、各グループのうち、複数の歩行者候補が存在するグループの平均値から全体基準高さを求める。このように、複数の歩行者候補が存在する場合、この歩行者候補のグループには、歩行者の画像が含まれる可能性が高く、この平均値に基づいて設定された全体基準高さは、非歩行者のみの平均値に基づいて設定された全体基準高さよりも、歩行者の画像の高さを示す可能性が高い。
【0021】
また、前述のように、自車両との距離が略一致する歩行者は、画像上の高さも、略一致する。よって、相関するテンプレートが異なるグループ間では、画面上の高さの差が略一定となり、このグループ間の画面上の高さの差は、あらかじめ、赤外線カメラの設置高さや、テンプレートの大きさに基づいて設定することができる。
【0022】
そこで、前述のように、1つのグループの歩行者候補に基づいて全体基準高さが設定されると、他のグループの基準高さであるグループ基準高さも設定することができる。
【0023】
このように、請求項3に記載の発明では、複数の歩行者候補が存在するグループの平均値から全体基準高さを求め、全体基準高さに基づいてグループ基準高さを設定し、このグループ基準高さと歩行者候補の高さとを比較して乖離度に基づいて取捨選択を行なうようにしたため、非歩行者による1つの歩行者候補しか存在しないグループであっても、この非歩行者による歩行者候補による高さデータに影響されること無く、グループ基準高さが設定され、いっそう誤検出の抑制を図ることが可能となる。
【0024】
請求項4に記載の発明では、請求項3に記載の発明において、複数の歩行者候補が存在するグループのうちで、最も小さなテンプレートに相関するグループに基づいて平均値および全体基準高さを設定するようにした。
【0025】
すなわち、複数のサイズの異なるテンプレートを使用した場合、一般に、大きなテンプレートほど、最大相関値の出現位置にバラツキが生じる。そこで、最小のテンプレートに相関する歩行者候補の平均値を使用することで、全体基準高さの設定において、このようなバラツキの影響を抑制することができる。
【0026】
したがって、請求項4に記載の発明では、相対的に大きなテンプレートに相関するグループの平均値から全体基準高さを設定したものと比較して、出現位置のバラツキの影響を緩和して、検出精度を向上できる。
【0027】
請求項5に記載の発明では、各グループの平均値から設定した全体基準高さに基づいて、各グループの基準となるグループ基準高さを求め、このグループ基準高さとの乖離度で適正か不適正かを判定するようにしたため、グループ内に非歩行者の画像に基づく1つの歩行者候補しか存在しない場合でも、グループ基準高さを適正に設定することができる。すなわち、全グループの平均値に基づいて全体基準高さを設定するため、全歩行者候補の多数が歩行者の画像による場合は、非歩行者画像によるバラツキを抑制できる。そして、このように設定した全体基準高さに基づいて、各グループ基準高さを設定するため、あるグループで、歩行者候補が非歩行者画像によるものが1つしか存在していなくても、グループ基準値を、この歩行者候補に影響されること無く、適正に設定できる。したがって、この非歩行者画像による歩行者候補の高さが、グループ基準高さから乖離していれば、不適正として棄却される。
【0028】
このように、請求項5に記載の発明では、グループ基準高さを適正に設定し、歩行者の検出精度を向上させることができる。
【0029】
請求項6に記載の発明では、赤外線カメラの取り付け高さを、歩行者の高さ方向の中心位置(身長の略1/2)に配置した場合、歩行者の中心は、撮影された画像の高さ方向の中心に配置される。
したがって、テンプレートの上下方向寸法にかかわらず、歩行者候補の高さ方向の中心も、画像の高さ方向の中心付近に配置される。
よって、テンプレートの上下方向寸法の違いにかかわらず、全歩行者候補の高さの平均値と各歩行者候補の高さとの乖離度に基づいて、歩行者候補が適正な位置に配置されているか否か判定することができる。
【0030】
このように、請求項6に記載の発明では、全歩行者候補の高さの平均値を基準に判定するため、歩行者候補として非歩行者による画像が含まれていても、平均値に対する影響を小さくし、検出精度を高めることができる。
【0031】
請求項7に記載の発明では、子供の判別を追加するため、運転者など乗員に対し、より正確な情報を与えることができる。また、子供の判別を、歩行者候補の上下寸法のみで判別するため、判別が容易である。
【図面の簡単な説明】
【0032】
【図1】本発明の実施の形態の実施例1の歩行者検出システム100を示すブロック図である。
【図2】実施例1の歩行者検出システム100の歩行者検出部20の構成を示すブロック図である。
【図3】実施例1の歩行者検出システム100で使用する第1テンプレートT1、第2テンプレートT2、第3テンプレートT3および画像の一例を示す説明図ある。
【図4】実施例1の歩行者検出システム100における歩行者Mと赤外線カメラ10との「距離」と、画面上の「大きさ」と、画面上の「高さ位置」と、の相関関係を示す説明図である。
【図5】実施例1の歩行者検出システム100における相関値検出部24を示すブロック図である。
【図6】実施例1の歩行者検出システム100において、相関値検出部24および相関領域最大値検出部25において、相関値に基づいて歩行者候補をリストアップし、相関値の大きい順に並べる処理の説明図であり、(a)はリストアップされたデータを示し、(b)は相関値の大きい順に並べた状態、および不適正なものを示し、(c)に最終的な歩行者候補MKのリストアップデータを示している。
【図7】実施例1の歩行者検出システム100において、リストアップされた歩行者候補MK(a)〜(e)の位置を画像中に四角で示した一例を示す説明図である。
【図8】実施例1の歩行者検出システム100の取捨選択部26における取捨選択処理の流れを示すフローチャートである。
【図9】実施例1の歩行者検出システム100において検出された歩行者候補MKの一例を示す説明図であり、(a)は第1テンプレートT1との相関値に基づいて得られた歩行者候補MK(a−1)を示し、(b)は第2テンプレートT2との相関値に基づいて得られた歩行者候補MK(b−1)(b−2)を示し、(c)は第3テンプレートT3との相関値に基づいて得られた歩行者候補MK(c−1)〜(c−3)を示している。
【図10】実施例2の歩行者検出システムにおける各基準ラインLA〜LCの間の差分設定値Dca,Dcbの説明図である。
【図11】実施例2の歩行者検出システムにおける取捨選択処理の全体の流れを示すフローチャートである。
【図12】実施例2の歩行者検出システムにおける全体基準ライン算出処理の流れを示すフローチャートである。
【図13】実施例2の歩行者検出システムにおける棄却処理の流れを示すフローチャートである。
【図14】実施例3の歩行者検出システムにおける取捨選択処理の全体の流れを示すフローチャートである。
【図15】実施例3の歩行者検出システムの取捨選択処理における全体基準ラインLZbを算出する処理の流れを示すフローチャートである。
【図16】実施例3の歩行者検出システムにおいて検出された歩行者候補MKの一例を示す説明図であり、(a)は第1テンプレートT1との相関値が大きな歩行者候補MK(a−1)(a−2)を示し、(b)は第2テンプレートT2との相関値が大きな歩行者候補MK(b−1)〜(b−3)を示し、(c)は第3テンプレートT3との相関値が大きな歩行者候補MK(c−1)(c−2)を示している。
【図17】実施例4の歩行者検出システムにおける歩行者M1、M2と赤外線カメラ10との「距離」と、画面上の「大きさ」と、画面上の「高さ位置」と、の相関関係を示す説明図である。
【図18】実施例4の歩行者検出システムにおいて赤外線カメラ10で撮影した画像の一例を示す説明図である。
【図19】実施例4の歩行者検出システムにおける取捨選択処理の流れを示すフローチャートである。
【図20】実施例5の歩行者検出システムにおける全体基準ラインLKと子供と判定される歩行者候補MK(f−1)との関係の説明図である。
【発明を実施するための形態】
【0033】
以下、本発明の実施の形態を説明する。
【0034】
この実施の形態の歩行者検出システムは、車両に設置されて前記車両の進行方向を撮像する撮像装置(10)と、この撮像装置(10)によって撮像して得られた画像に基づいて、歩行者(M)を検出する歩行者検出手段(20)と、を備えた歩行者検出システムであって、前記歩行者検出手段(20)が、前記画像と、あらかじめ記憶された歩行者の輪郭を模したテンプレートートとのマッチングを行い、このテンプレートとの相関値を求める相関値検出部(24)と、前記画像のうち、前記相関値が歩行者とみなすことができるだけ高い画像領域を前記歩行者候補として検出する高相関領域検出部(25)と、複数の前記歩行者候補の前記画像上の高さの平均値を求め、この平均値と各歩行者候補の前記画像上の高さとに基づいて、前記歩行者候補が適性か否か判定し、不適正なものは歩行者候補から棄却する取捨選択処理を実行する取捨選択部(26)と、を備えていることを特徴とする歩行者検出システムである。
【実施例1】
【0035】
以下に、本発明の実施例1の歩行者検出システム100について図面を参照して説明する。
【0036】
(実施例1の構成)
まず、実施例1の歩行者検出システム100の構成について説明する。
図1は、実施例1の歩行者検出システム100を示すブロック図であり、この歩行者検出システム100は、赤外線カメラ(撮像装置)10、歩行者検出部(歩行者検出手段)20、歩行者位置表示部30、画像表示部40を備えている。
【0037】
赤外線カメラ10は、図示を省略した車両に設置され、車両の進行方向の所定の領域を撮像する。この進行方向とは、以下の説明では車両前方を指すが、車両後方を撮影するものでもよい。
【0038】
歩行者検出部20は、詳細は後述するが、赤外線カメラ10から得られた赤外線画像において、歩行者M(図4参照)を表す像を検出する。
【0039】
歩行者位置表示部30は、歩行者検出部20により検出された歩行者像の位置に、矩形枠などのマーカーを付して表示する処理を実行する。
【0040】
画像表示部40は、赤外線カメラ10で撮影された画像を表示するとともに、歩行者検出部20が歩行者Mを検出したときには、その画像が表示されている部分に、歩行者位置表示部30により与えられたマーカーを付して表示する。
【0041】
以下に、歩行者検出部20における歩行者を検出する構成について詳細に説明する。
本実施例1では、画像から歩行者Mを検知する手法としては、あらかじめ歩行者MのテンプレートT1〜T3(図3参照)を用意して、これらのテンプレートT1〜T3と画像内の歩行者Mが存在する可能性のあるエリアの類似性を求め、類似性が高い場合に、歩行者Mと判定するいわゆる「パターンマッチング」を用いている。
【0042】
また、比較する画像要素として、大きく分けて「輝度の画素値の比較」と「物体のエッジ情報比較」の手法がある。
「物体のエッジ情報比較」は、画像全体の明るさに依存しないために、天候や太陽位置に左右される車両用などの野外での機器での使用に適している。また、エッジ情報は二値あるいは少ない階調で表現可能なために、扱うデータ量も少なく検知処理の多くの割合を占めるテンプレートとの類似度の計算が少なくて済む。そこで、本実施例1では、「物体のエッジ情報比較」を用いている。
【0043】
図2は歩行者検出部20の構成を示すブロック図であり、輝度調整部21、エッジ検出部22、歩行者テンプレート部23、相関値検出部24、相関領域最大値検出部(高相関領域検出部)25、取捨選択部26を備えている。
【0044】
輝度調整部21は、赤外線画像の画面全体の輝度を調整することに画面内の輝度差を明確にする。
エッジ検出部22は、輝度調整部21によりコントラストが高められた画像におけるエッジを検出する。
【0045】
歩行者テンプレート部23は、あらかじめ設定された歩行者Mの輪郭を模したテンプレートT1〜T3を複数種類記憶している。本実施例1では、自車両と歩行者との距離の違いに応じ、図3に示すように、第1テンプレートT1、第2テンプレートT2、第3テンプレートT3の、3種類のテンプレートが記憶されている。なお、第1テンプレートT1は、赤外線カメラ10に撮影された画像Pにおいて、自車両に最も近い歩行者Mの検出に用いるテンプレートであり、第2テンプレートT2は、それよりも遠くに存在する歩行者Mの検出に用いるテンプレートであり、第3テンプレートT3は、それよりもさらに遠くに存在する歩行者の検出に用いるテンプレートである。このように、各テンプレートT1〜T3は、自車両との距離が遠くの歩行者Mを検出するものほど、小さく設定されている。
【0046】
相関値検出部24は、エッジ検出部22で得られたエッジ画像において歩行者Mが存在する可能性がある画像部分から、各テンプレートT1〜T3と同じ大きさで抜き出した部分、または想定する歩行者Mと同じ大きさで抜き出した後に拡大や縮小により同じ大きさとした部分を、歩行者テンプレート部23にあらかじめ記憶されている各テンプレートT1〜T3の画素値と比較演算して、各テンプレートT1〜T3と、どの位類似しているかを示す相関値を求め、各画像位置の相関値を表す相関マップを作成する。
【0047】
相関領域最大値検出部25は、相関マップ内の相関値は連続性があるために、値のピーク位置を求め、これがあらかじめ設定した差分閾値TH以上の場合に、歩行者候補MK(例えば図7参照)と判断し、取捨選択部26へ渡す。
【0048】
取捨選択部26は、複数の歩行者候補MKについて、歩行者M以外である可能性が高いものを棄却する取捨選択処理を実行し、残った歩行者候補MKを歩行者位置表示部30へ渡す。なお、取捨選択処理の詳細は、後述するが、歩行者Mの下端(足)の高さを示すy値およびその平均値Yに基づいて残すか棄却するかの判断を行う。
【0049】
(相関値検出部24における演算の説明)
次に、相関値検出部24の相関値を求める演算について説明を加える。
この相関値を求める演算としては、いくつかの手法が使われているが、本実施例1では、そのひとつの例として差分絶対値積(SAD:Sum of Absolute Difference)を式(1)に示す。
SAD=Σ|Ser(i,j)−Temp(i,j)| ・・・(1)
ここで、Tmp(i,j) は、テンプレート画像の位置(i,j)の画素値、Ser(i,j)は、調査画像の相関値を求める画像位置の周囲をテンプレートと同じ大きさに切り出した画像中の位置(i,j)の画素値である。
【0050】
これら2つの値の差分絶対値を求め、これを各テンプレートT1〜T3の大きさ全体(テンプレートの大きさを縦I画素、横J画素とすると、i=1〜I、j=1〜J)の値を加算して相関値とする。実際には、この計算結果を基に扱いやすいように値を操作することが多い。例えば、上記式(1)では、画像の一致度が高い程相関値は小さくなるが、下記の式(2)のように、画素数(IとJとの積)と最大画素値D(8bit画像なら256、二値画像なら1)の積で割り(いわゆる正規化)、値を1から引くことによりテンプレートの大きさが異なる相関値間の比較にも使うことができる。
SADn=1−(SAD/(I×J×D) ・・・(2)
以上の演算を、赤外線カメラ10の画像の調査領域全体に亘って求め、相関マップを作成する。
【0051】
ここで、相関値検出部24における各テンプレートT1〜T3と、画像上の歩行者Mの大きさおよび歩行者Mとの距離の関係について、説明を加える。
【0052】
本実施例1は、歩行者と赤外線カメラ10との「距離」と、画面上の「大きさ」と、画面上の「高さ位置」と、に相関関係があることを利用している。
この相関関係を、図4を用いて説明する。
図4において、Mが歩行者、Rが赤外線カメラ10のレンズ、Sが赤外線カメラ10の撮像素子(スクリーン)である。また、Tが歩行者Mの高さ(身長)、Lが歩行者Mの赤外線カメラ10からの距離、fがレンズRの焦点距離、Hが赤外線カメラ10の取付高さ、yが歩行者Mの下端(足)が撮像素子(スクリーン)Sに結像する位置であって、撮像素子(スクリーン)S中心からの距離、ytが歩行者Mの高さTの撮像素子(スクリーン)S上の寸法である。なお、撮像素子(スクリーン)S上の結像位置は、カメラ映像の位置に対応する。ただし、撮像素子(スクリーン)S上の上下位置関係はカメラ映像では反転する。
【0053】
これらの関係から、歩行者Mの下端(足)位置(y値)は、下記の式(3)により求めることができ、歩行者Mの撮像素子S上の寸法ytは、下記の式(4)で求めることができる。これらの式の中で、焦点距離fと取付高さHとは固定値であり、歩行者Mの高さ(身長)Tも便宜上固定値とすると、「距離(L)」と画像上の「大きさ(ytに相当)」と画面上の「高さ位置(y)」に相関(反比例)関係があることが理解できる。
y=f×H/L ・・・(3)
yt=y−{f×(H−T)}/L ・・・(4)
本実施例1では、これを利用して、得られた複数の歩行者検出処理による候補の傾向をみて、これらの関係から大きく外れている歩行者検出処理による候補を棄却することにより、誤検出を低減させるようにしている。
【0054】
ここで、実施例1において、3種類のサイズの第1〜第3テンプレートT1〜T3を用いる相関値検出部24について説明を加える。
【0055】
図5に示すように、相関値検出部24は、第1〜第3相関マップ作成部24a,24b,24cと、第1〜第3最大値・位置抽出部24d〜24fとを備えている。
エッジ検出部22から画像が各入力されると、第1〜第3相関マップ作成部24a,24b,24cのそれぞれにおいて、各テンプレートT1〜T3に対応する相関マップが求められる。
【0056】
第1〜第3最大値・位置抽出部24d〜24fでは、これらの相関マップ毎に、最大値の上位から指定された数の相関値と、その画面上の位置(x,y)とを、データとするリスト(以下、これを相関値リストデータと称する)が作成される。
この時、画面上の位置が、隣接した位置となった場合には、各テンプレートT1〜T3の大きさを考慮して、同じ対象物(歩行者)に対する重複したリストアップを避ける必要がある。そこで、このリストから、位置と相関値との大きさを考慮し、歩行者候補MKの範囲を絞り込む。
【0057】
すなわち、第1〜第3最大値・位置抽出部24d〜24fでは、第1〜第3相関マップ作成部24a,24b,24cで作成された相関値マップから、図6(a)に示す候補をリストアップし、さらに、これを、同図(b)に示すように、1つのリストにまとめて相関値の大きい順に並べる。そして、このリストにおいて、位置(x,y)が近接している候補(重複候補)や、相関値があらかじめ設定された閾値(本実施例1では、閾値=0.8とする)以下のデータを削除して、同図(c)に示す最終的な歩行者候補MKを決定する。
【0058】
(取捨選択処理の説明)
さらに、歩行者検出部20では、本発明の目的である誤検出低減を図るために、前述した取捨選択部26において、歩行者候補MKの中から、歩行者Mの可能性が高いものは残し、歩行者M以外である可能性が高いものを取り除く取捨選択処理を実行する。
以下、その詳細について説明する。
【0059】
上述した第1〜第3テンプレートT1〜T3のうち、共通するテンプレートでリストアップされた歩行者候補MKは、同じような距離に存在するはずであるから、同一の画像上では、横直線上に並ぶはずである。
【0060】
図7に一例を示す。この図は、第1〜第3テンプレートT1〜T3のいずれか1つ、例えば、第2テンプレートT2の相関マップでリストアップされた歩行者候補MK(a)〜(e)の位置を、説明のために画像中に四角で示したものである。この図に示すように、4つの歩行者候補MK(b)〜(e)は、直線Lin上に配置されている。
【0061】
一方、図において最も左に配置された歩行者候補MK(a)は、直線Linから大きく外れた位置に配置されている。このように、複数の歩行者候補MK(b)〜(e)から大きく外れた歩行者候補MK(a)は、実際には、建物の一部であって、第2テンプレートT2に相関する歩行者Mが、存在すべき位置と異なって配置されている。そこで、取捨選択部26では、所定のテンプレートとの相関値は高くても、他の歩行者候補MK(b)〜(e)とは異なる位置に配置された歩行者候補MK(a)は、候補から取り除くようにしている。
【0062】
次に、取捨選択部26における取捨選択処理の流れを、図8のフローチャートに基づいて説明する。なお、この図8に示す取捨選択処理は、第1〜第3テンプレートT1〜T3のそれぞれに相関値の高い歩行者候補MKのグループごとに独立して実施される。また、このフローチャートを説明するのにあたり、第3テンプレートT3を用いて図7に示す歩行者候補MK(a)〜(e)が検出された場合の処理に沿って説明する。
【0063】
まず、ステップS1では、相関領域最大値検出部25で選択された歩行者候補MK(a)〜(e)について、全相関リストの画面内高さデータ(y値)を取り込んだ後、ステップS2に進む。
【0064】
ステップS2では、取り込んだ全高さデータ(y値)の平均値Yを求めた後、ステップS3に進む。この平均値Yが、図7の直線Linの位置に相当する。
【0065】
ステップS3〜S6の処理は、各歩行者候補MK(a)〜(e)について個別に順次行う処理であって、まず、ステップS3では、各歩行者候補MK(a)〜(e)の各相関リストデータセット(相関値とy値とx値のセット)を読み込み、各相関リストデータセットの高さデータ(y値)と、ステップS2で算出された平均値Yとの乖離度を示す差分絶対値DYを算出した後、ステップS4に進む。
【0066】
ステップS4では、差分絶対値DYとあらかじめ設定された差分閾値THとの大小関係に基づいて、差分絶対値DYが差分閾値TH未満の場合はステップS6に進み、差分絶対値DYが差分閾値TH以上の場合はステップS5に進む。なお、差分閾値THは、各テンプレートT1〜T3に対応するグループごとに設定されており、第3テンプレートT3に対応する差分閾値THは、第1テンプレートT1に対応する差分閾値THよりも小さな値に設定されているものとする。
【0067】
ステップS5では、歩行者候補MK(図7の例ではMK(a))を棄却した後、ステップS6に進む。
ステップS6では、全ての歩行者候補MK(a)〜(e)についてステップS3からの処理を終えたか否か判定し、終えていない場合はステップS3に戻り、終えた場合は、取捨選択処理を終了する。例えば、歩行者候補MK(a)からMK(e)に向けて順に処理を行う場合、歩行者候補MK(a)について処理を終えた場合は、歩行者候補MK(b)についてステップS3からの処理を行い、歩行者候補MK(b)についてステップS3からの処理を終えたら歩行者候補MK(c)について処理を行い、歩行者候補MK(e)の処理が終わった時点で、終了する。
また、ここで全ての歩行者候補MKの「全て」とは、第1〜第3テンプレートT1〜T3のいずれか1つのテンプレートに対して相関値の高い歩行者候補MKの「全て」のことであり、以上の処理を、各テンプレートT1〜T3についてそれぞれ実施する。
【0068】
(実施例1の作用)
次に、実施例1の歩行者検出システム100の作用を説明する。
夜間走行時には、赤外線カメラ10で車両前方の撮影を行う。このとき、得られた画像の一例が図7に示す画像である。
【0069】
赤外線カメラ10で撮影された画像は、歩行者検出部20に入力される。
歩行者検出部20では、輝度調整部21における輝度調整、エッジ検出部22におけるエッジ検出を行った画像に対し、相関値検出部24において、第1〜第3歩行者テンプレートT1〜T3のそれぞれとの相関値を求める。
さらに、相関領域最大値検出部25では、相関値があらかじめ設定された閾値(本実施例1では、0.8)よりも高い相関値を有し、かつ、データセットのx値およびy値が近接しないデータセットを、歩行者候補MK(a)〜(e)としてリストアップする。
なお、図7に示す例は、第3テンプレートT3との相関が高かった歩行者候補MK(a)〜(e)がリストアップされているものとし、他のテンプレートT1,T2についても、同様に歩行者候補MKがリストアップして、対応するテンプレートごとに歩行者候補MKのグループを形成する。
【0070】
次に、取捨選択部26において、リストアップされた歩行者候補グループごとに、以下の処理を行なう。
まず、歩行者候補グループの歩行者候補MK(a)〜(e)の高さデータ(y値)の平均値Yを求める。そして、この平均値Yと、各歩行者候補MK(a)〜(e)の高さデータ(y値)とを比較して差分絶対値DYを求め、この差分絶対値DYが差分閾値TH未満の歩行者候補MK(b)〜(e)を残し、差分閾値TH以上の歩行者候補MK(a)は棄却する。
【0071】
この取捨選択部26の取捨選択処理により、図7に示す歩行者候補MK(a)〜(e)において、直線Linから大きく離れた歩行者候補MK(a)は、棄却される。他の歩行者グループについても順次同様の処理を実行する。
【0072】
そこで、歩行者位置表示部30は、残った歩行者候補MK(b)〜(e)に対し、画像表示部40において、各歩行者候補MK(b)〜(e)を示す画像に、マーカーを重ねて表示させる処理を実行する。
【0073】
(実施例1の効果)
以上説明してきた実施例1の歩行者検出システム100は、以下に列挙する効果を奏する。
a)取捨選択部26により、歩行者候補MK(a)〜(e)が複数存在する場合、各テンプレートT1〜T3との相関値は高くても、他の歩行者候補(MK(b)〜(e))とは異なる位置に配置されたもの(MK(a))は、歩行者M以外のものとして、候補から取り除くようにした。
これにより、非歩行者の画像に基づく歩行者候補MKが棄却され、歩行者Mの検出精度を向上させることができる。
【0074】
b)取捨選択処理では、各歩行者候補MK(a)〜(e)の高さデータ(y値)と平均値Yとの差である差分絶対値DYと、あらかじめ設定した差分閾値THとの比較により取捨選択を行うようにした。このため、いわゆるキャリブレーション処理などの誤差量を特定して補正する処理を用いるものと比較して、システム処理量を大きく増やすことなく実施可能であり、かつ、赤外線カメラ10の取付位置の精度を高くすることなく実施可能である。
よって、このように、本実施例1では、システムの処理量を大きく増やしたり、工程制約(取付精度向上)を付加したりすることなく、上記a)のように歩行者Mの検出率向上を実現可能とした。
【0075】
(他の実施例)
以下に、他の実施例について説明するが、これら他の実施例は、実施例1の変形例であるため、その相違点についてのみ説明し、実施例1あるいは他の実施例と共通する構成については共通する符号を付けることで説明を省略する。
【実施例2】
【0076】
上述の実施例1では、各テンプレートT1〜T3に相関値の高い歩行者候補グループ単位で処理する実施例を示したが、実施例2では、各テンプレートT1〜T3の相関値データを総合した段階で取捨選択処理を実施するようにした例を説明する。
【0077】
実施例1の処理で最も懸念されるのは、第1〜第3テンプレートT1〜T3のいずれかのテンプレートマッチングで、非歩行者による歩行者候補MKのみが検出された場合である。
【0078】
その具体例を図9に示しており、図において(a)は第1テンプレートT1との相関値に基づいて得られた歩行者候補MK(a−1)、(b)は第2テンプレートT2との相関値に基づいて得られた歩行者候補MK(b−1)(b−2)、(c)は第3テンプレートT3との相関値に基づいて得られた歩行者候補MK(c−1)〜(c−3)を示している。
【0079】
この例では、図9(a)に示す歩行者候補MKは非歩行者(看板)の画像が歩行者候補MKとして検出されている。この図9(a)に示すように、第1テンプレートT1に相関値の高い歩行者候補MKが、非歩行者による歩行者候補MK(a−1)のみである場合、実施例1のように、テンプレートごとに相関値の高い歩行者候補MKから平均値Yを求めた場合、この歩行者候補MK(a−1)の差分絶対値DYは、差分閾値TH未満となり、棄却されない。
【0080】
そこで、本実施例2の歩行者検出システムでは、各テンプレートT1〜T3のリストアップデータの平均値から画面内の全体基準ライン(全体基準高さ)LZを求め、この全体基準ラインLZに基づいて、各テンプレートT1〜T3と相関値の高いグループごとのグループ基準ラインLA,LB,LCを設定し、取捨選択を行なうようにした。
【0081】
以下に、実施例2の取捨選択処理の流れを図11〜図13のフローチャートに基づいて説明する。
図11は取捨選択処理の全体の流れを示しており、まず、ステップS210では、全体基準ライン算出処理を行い、画面全体での全体基準ラインLZを求めた後、ステップS220に進む。
【0082】
ステップS220では、全体基準ラインLZに基づいて、第1グループ基準ラインLA、第2グループ基準ラインLB、第3グループ基準ラインLCを求めた後、ステップS230に進む。
なお、詳細は後述するが、全体基準ラインLZは、各グループ基準ラインLA〜LCのいずれか1つのラインに一致している。また、図10に示すように、各グループ基準ラインLA〜LCの間の差分設定値Dca,Dcbがあらかじめ設定されている。したがって、全体基準ライン(平均値Y)LZを元に、差分設定値Dca,Dcbを加算あるいは減算して、各グループ基準ラインLA〜LCを求めることができ、これら各グループ基準ラインLA〜LCは、それぞれグループ平均値Ya,Yb,Ycを示している。
また、前述の差分設定値Dcaは、第1グループ基準ラインLAと第3グループ基準ラインLCとの差であり、差分設定値Dcbは、第2グループ基準ラインLBと第3グループ基準ラインLCとの差である。
【0083】
ステップS230では、各テンプレートT1〜T3に基づいて抽出された各相関リストデータ(歩行者候補MK)について不要なものは棄却する棄却処理を実行する。なお、この棄却処理の詳細については後述する。
【0084】
次に、ステップS210の全体基準ライン算出処理の詳細を、図12のフローチャートに基づき説明する。
まず、ステップS211において、最も小さいテンプレートである第3テンプレートT3に相関する相関リストデータセットを取り込んだ後、ステップS212に進む。なお、テンプレートの数が本実施例の「3」よりも多い場合、その最も小さなテンプレートに相関する相関リストデータを取り込む。
【0085】
ステップS212では、相関リストデータセットの数が、あらかじめ設定された個数n以上存在するか否か判定し、n個に満たない場合は、ステップS213に進み、n個以上存在する場合、ステップS214に進む。なお、nは2以上の複数であって、実施例2では、n=2として説明する。
【0086】
ステップS213では、次に小さいテンプレートの相関リストデータセットの取り込みを行った後、ステップS212に戻る。例えば、ステップS212において、第3テンプレートT3の相関リストデータセットのセット数がn個に満たない場合は、第2テンプレートT2の相関リストデータセットの取り込みを行い、第2テンプレートT2の相関リストデータセットのセット数がn個に満たない場合は、第1テンプレートT1の相関リストデータセットの取り込みを行う。
すなわち、相関リストデータセットのセット数が少ない場合には、この相関リストデータセットにより求めた基準ラインが誤差を含む確率が高くなるために、セット数がn個未満の場合は、この相関リストデータセットの使用を避け、次に小さいテンプレートの相関リストデータセットを読み込む。
【0087】
ステップS214では、読み込んだ相関リストデータセットの高さデータ(y値)に基づいて平均値Yを求め、これを全体基準ラインLZとする。
【0088】
次に、ステップS230の棄却処理の詳細を図13のフローチャートに基づいて説明する。なお、この棄却処理は、各テンプレートT1〜T3に相関する歩行者候補のグループごとに実施する。
まず、ステップS231では、各グループ基準ラインLA,LB,LCを読み込んだ後、ステップS232に進む。
【0089】
ステップS232では、各テンプレートT1〜T3と相関する各相関値リストデータセットを個別に取り込んだ後、ステップS233に進む。
【0090】
ステップS233では、各テンプレートT1〜T3に相関するグループごとに、各相関値リストデータセットの高さデータ(y値)と対応する各グループ基準ラインLA,LB,LCのうち対応するライン(グループ平均値Ya,Yb,Yc)との差分絶対値DYを算出した後、ステップS234に進む。
【0091】
ステップS234では、各相関値リストデータセットの差分絶対値DYと、実施例1と同様の差分閾値THとを比較し、差分絶対値DYが差分閾値THを上回っている場合はステップS235に進んで、その相関値リストデータセットを棄却した後、ステップS236に進み、差分絶対値DYが差分閾値TH以下の場合は、そのままステップS236に進む。なお、差分閾値THは、実施例1と同様に、対応するグループごとに異なる値が設定されているものとする。
【0092】
ステップS236では、全相関値リストデータセットについてステップS232以降の処理が実行されたか否か判定し、未処理のものが存在する場合はステップS232に戻り、処理を完了した場合は、終了する。
【0093】
(実施例2の作用)
次に、実施例2の作用を説明する。
実施例2にあっても、相関値検出部24において、第1〜第3テンプレートT1〜T3との相関値を求め、相関領域最大値検出部25において、相関値が相関閾値を越えるとともに、お互いに位置が近接しない相関値リストデータを抽出し、これを歩行者候補MKとして取捨選択部26に入力する点は、実施例1と同様である。
【0094】
図9は、画像および歩行者候補MKの一例を示しており、同図において(a)は第1テンプレートT1と相関性が高い1点の歩行者候補MK(a−1)を示し、(b)は第2テンプレートT2と相関性の高い2点の歩行者候補MK(b−1),(b−2)を示し、(c)は第3テンプレートT3と相関性の高い3点の歩行者候補MK(c−1)〜(c−3)を示している。なお、同図(a)に示す第1テンプレートT1による歩行者候補MK(a−1)は、非歩行者の画像から検出されたものであり、他の歩行者候補MKと離れた位置に配置されている。
【0095】
以下に、このような図9に示す歩行者候補MKがリストアップされた場合の、取捨選択部26における取捨選択処理を説明する。
【0096】
このような歩行者候補MKが検出されている場合、最も小さな第3テンプレートT3の相関性リストアップデータの数が、n個以上(n=2)存在するから、これらの歩行者候補MK(c−1)〜(c−3)の高さデータ(y値)の平均値Yから全体基準ラインLZを算出する(ステップS212→S213)。そして、この場合、全体基準ラインLZは、第3グループ基準ラインLCと同値となる。
【0097】
このように全体基準ラインLZが、第3グループ基準ラインLCにより設定されたら、全体基準ラインLZ(=LC)から第2テンプレート用の差分設定値Dcbを差し引いて第2グループ基準ラインLBを設定し、全体基準ラインLZ(LC)から第1テンプレート用の差分設定値Dcaを差し引いて、第1グループ基準ラインLAを設定する(ステップS220)。
【0098】
そして、各テンプレートT1〜T3のそれぞれに相関する歩行者候補MKのグループごとに、歩行者候補MKと各基準ラインLA,LB,LCとを比較し、その乖離が大きいものは、歩行者候補MKから棄却する。
【0099】
したがって、図9に示す例では、同図(a)に示す第1テンプレートT1と相関性の高い歩行者候補MK(a−1)は、第1グループ基準ラインLAに対する乖離度が大きいことから棄却される。また、同図(b)に示す歩行者候補MK(b−1)(b−2)は、第2グループ基準ラインLBとの乖離度が小さいことから、棄却されることなく残され、同図(c)に示す歩行者候補MK(c−1)〜(c−3)も、第3グループ基準ラインLCとの乖離度が小さいことから、棄却されることなく残される。
【0100】
これら残った歩行者候補MKについては、画像表示部40において、マーカーを重畳させて表示する点は、実施例1と同様である。
【0101】
(実施例2の効果)
実施例2にあっても、実施例1と同様の理由から実施例1で述べたa)b)の効果が得られる。加えて、実施例2にあっては、以下に列挙する効果が得られる。
【0102】
c)各テンプレートT1〜T3との相関に基づいて得られた歩行者候補MKの中で、1つのテンプレートに対し、複数の歩行者候補MKが存在する相関値リストデータセットに基づいて、全体基準ラインLZを設定し、この全体基準ラインLZに基づいて、各グループ基準ラインLA〜LCを設定するようにした。
【0103】
したがって、歩行者候補MKが1つしか存在しないテンプレートに相関するグループ基準ラインも、その1つしか存在しない歩行者候補MKに基づくことなく設定でき、この歩行者候補MKが非歩行者により画像であっても、誤検出が生じるのを防止できる。
【0104】
具体的には、図9(a)に示す第1テンプレートT1に対する相関性が高い歩行者候補MK(a−1)は、非方向者の画像から検出されたものである。しかしながら、この第1テンプレートT1に相関するグループ用の第1グループ基準ラインLAは、この歩行者候補MKの相関値リストデータセットに基づくことなく、同図(c)に示す3つの歩行者候補MK(c−1)〜(c−3)に基づいて設定された全体基準ラインLZに基づいて設定されている。
【0105】
したがって、図9の非歩行者画像による歩行者候補MK(a−1)は、そのy値により第1グループ基準ラインLAが設定された場合には、乖離度が小さく棄却されない可能性が高いが、本実施例2のように、全体基準ラインLZに基づき第1グループ基準ラインLAが設定された場合は、乖離度が大きくなって棄却される。
このように、本実施例2では、非歩行者の画像による誤検出を回避して、歩行者検出精度を、さらに向上できる。
【0106】
d)上記c)のように、複数の歩行者候補MKから全体基準ラインLZの設定を行うのにあたり、最大相関値のバラツキの少ない、小さなテンプレートと相関性の高い歩行者候補MKから順に、複数の歩行者候補MKが存在するか否か判定し、複数の歩行者候補MKが存在する最も小さなテンプレートと相関する相関値リストデータセットから全体基準ラインLZを求めるようにした。
【0107】
したがって、大きなテンプレートと相関する相関値リストデータから全体基準ラインLZを演算するものと比較して、全体基準ラインLZのバラツキが小さく、誤検出防止性能を高めることができる。
【実施例3】
【0108】
次に、実施例3の歩行者検出システムについて説明する。
この実施例3の歩行者検出システムは、実施例2の変形例であり、相違点は、基準ラインの設定の仕方に関し、実施例3では、各基準ラインLA,LB,LCから、全体基準ラインLZbを設定するようにしている。
【0109】
以下、実施例3における取捨選択部26の取捨選択処理の流れを図14および図15のフローチャートに基づいて説明する。
【0110】
(取捨選択処理の流れ)
まず、図14のフローチャートにより取捨選択処理の全体の流れを説明する。
ステップS310では、相関領域最大値検出部25から、第1〜第3テンプレートT1〜T3に、それぞれ相関する各相関リストデータセットの高さデータ(y値)を読み込み、第1テンプレートT1に相関する相関リストデータの高さデータ(y値)の平均値である第1平均高さYa、第2テンプレートT2に相関する相関リストデータの高さデータ(y値)の平均値である第2平均高さYb、第3テンプレートT3に相関する相関リストデータの高さデータ(y値)の平均値である第3平均高さYcを算出した後、ステップS320に進む。
【0111】
ステップS320では、各平均高さYa,Yb,Ycから全体基準ラインLZbを算出した後、ステップS330に進む。なお、全体基準ラインLZbの算出方法の詳細は後述する。
【0112】
ステップS330では、全体基準ラインLZbに基づいて第1〜第3グループ基準ラインLA,LB,LCを算出した後、ステップS340に進む。
なお、本実施例3では、各グループ基準ラインLA,LB,LCの算出は、以下のように行なう。実施例3では、実施例2と同様に、全体基準ラインLZbに対する各グループ基準ラインLA,LB,LCの差分値Daz,Dbz,Dczが設定されており、全体基準ラインLZbから差分値Daz,Dbz,Dczをそれぞれ減算して各基準ラインLA,LB,LCを算出する。
【0113】
次に、ステップS320の全体基準ラインLZbを算出する処理の流れを図15に基づいて説明する。
まず、ステップS321では、ステップS310で算出された第1〜第3平均高さYa〜Ycを読み込み、ステップS322に進む。
【0114】
ステップS322では、各平均高さYa〜Ycに基づいて、各テンプレートT1〜T3に相関する第1〜第3仮基準ラインLa,Lb,Lcを求めた後、ステップS323に進む。なお、ステップS322は、各仮基準ラインLa,Lb,Lcで並列に処理を行なうため、処理ステップを並列表記している。すなわち、ステップS322aでは、第1平均高さYaに、あらかじめ設定された差分設定値Daを加算して、第1仮基準ラインLaを求める。ステップS322bでは、第2平均高さYbに、あらかじめ設定された差分設定値Dbを加算して、第2仮基準ラインLbを求める。ステップS322cでは、第3平均高さYcに、あらかじめ設定された差分設定値Dcを加算して、第3仮基準ラインLcを求める。
【0115】
図16は、第1〜第3平均高さYと各各仮基準ラインLa,Lb,Lcとの関係を表しており、本実施例3では、各差分設定値Da,Db,Dcは、Da>Db>Dcの大きさの関係に設定されており、各仮基準ラインLa,Lb,Lcが、実施例2で説明した第3グループ基準ラインLCの近傍の高さとなるように設定されている。
【0116】
ステップS323では、各仮基準ラインLa,Lb,Lcの平均値を全体基準ラインLZbとする演算を行った後、終了する。
【0117】
(実施例3の作用)
次に、実施例3の作用を説明する。
実施例3にあっても、相関値検出部24において、第1〜第3テンプレートT1〜T3との相関値を求め、相関領域最大値検出部25において、相関値が相関閾値を越えるとともに、お互いに位置が近接しない相関値リストデータを抽出し、これを歩行者候補MKとして取捨選択部26に入力する点は、実施例1と同様である。
【0118】
ここで、図16に示すような歩行者候補MKが得られた場合の動作を説明する。
この図16に示す例では、相関領域最大値検出部25において、第1テンプレートT1との相関値が大きな同図(a)に示す歩行者候補MK(a−1)(a−2)が得られ、第2テンプレートT2との相関値が大きな同図(b)に示す歩行者候補MK(b−1)〜(b−3)が得られ、第3テンプレートT3との相関値が大きな同図(c)に示す歩行者候補MK(c−1)(c−2)が得られている。
【0119】
そこで、取捨選択部26では、図16(a)に示す歩行者候補MK(a−1)(a−2)の高さデータ(y値)に基づいて第1グループ平均値Yaが算出され、図16(b)に示す歩行者候補MK(b−1)〜(b−3)の高さデータ(y値)に基づいて第2グループ平均値Ybが算出され、図16(c)に示す歩行者候補MK(c−1)(c−2)の高さデータ(y値)に基づいて第3グループ平均値Ycが算出される(ステップ310)。
【0120】
さらに、各グループ平均値Ya〜Ycの平均値から、図16(a)〜(c)にそれぞれ示す仮基準ラインLa,Lb、Lcが算出される(ステップS322)。これら仮基準ラインLa,Lb,Lcは、基本的には、略同一の高さに設定されるように、各差分設定値Da,Db,Dcが設定されているが、歩行者Mの位置のバラツキや、非歩行者を誤検出している場合には、高さにバラツキが生じ得る。
【0121】
そこで、各仮基準ラインLa,Lb,Lcの平均値を全体基準ラインLZbとすることで、このようなバラツキ成分を抑えた位置に全体基準ラインLZbを設定することができる。
【0122】
そして、全体基準ラインLZbに基づいて、再び、あらかじめ設定された差分値を差し引いて、第1グループ基準ラインLA、第2グループ基準ラインLB、第3グループ基準ラインLCが算出される(ステップS330)。
【0123】
これら各グループ基準ラインLA,LB,LCは、図16に示すように、各歩行者候補MKが、歩行者Mに基づいている場合には、図示の各グループ平均値Ya,Yb,Ycの付近に設定される。
これに対し、例えば、第1テンプレートT1に相関性の高い歩行者候補として、実施例2で説明した図9(a)のように非歩行者による歩行者候補MK(a−1)が含まれる場合は、第1グループ平均値Yaは、図16(a)に示す位置よりも高い位置に設定されるが、このような場合でも、各グループ平均値Ya,Yb,Ycから得られた全体基準ラインLZbから第1グループ基準ラインLAが設定されることから、この第1グループ基準ラインLAは、図16(a)の第1グループ平均値Yaに近い位置に設定されることになる。
【0124】
したがって、図9(a)に示す非歩行者による歩行者候補MK(a−1)などは、第1グループ基準ラインLAから乖離するため、棄却される。
【0125】
(実施例3の効果)
以上説明したように、実施例3の歩行者検出システムにあっても、実施例1,2と同様に、前述のa)b)の効果が得られる。
【0126】
また、実施例3では、全体基準ラインLZbを、各テンプレートT1〜T3との相関性の高い各相関リストデータセットに基づいて、第1〜第3グループ平均値Ya,Yb,Ycを求め、各グループ平均値Ya,Yb,Ycから仮基準ラインLa,Lb,Lcを求め、これらから全体基準ラインLZbを求め、この全体基準ラインLZbから、各基準ラインLA,LB,LCを求めるようにした。
【0127】
したがって、各グループのうちで、歩行者候補MKが存在しなかったり1つしか存在しなかったりするグループが存在していても、全体基準ラインLZbを設定した後、各グループ基準ラインLA〜LCを設定でき、グループ内に、非歩行者による歩行者候補MKしか存在していなくても、誤検出が生じるのを防止できる。
【実施例4】
【0128】
次に、実施例4の歩行者検出システムについて説明する。
この実施例4では、赤外線カメラ10の取り付け高さを、歩行者Mの身長の1/2程度の高さに設置した例である。
【0129】
この場合、図17に示すように、撮像素子(スクリーン)Sで得られる歩行者中心は、撮像素子Sの画面内の略一定の高さに存在することになる。なお、yt1,yt2は、それぞれ歩行者M1,M2の撮像素子(スクリーン)S上の寸法である。
【0130】
図18は、実施例4において、赤外線カメラ10で撮影した画像の一例であり、歩行者候補MKの中心が、略一定の高さ(LKの高さ)に配置されている。
【0131】
実施例4は、これを利用したもので、各歩行者候補MK(d−1)〜(d−4)の平均高さを求め、これより離れた高さの歩行者候補が存在する場合は、誤認識としてこれを棄却するようにした例である。
【0132】
図19は、実施例4の取捨選択処理の流れを示すフローチャートであり、まず、ステップS410では、各テンプレートT1〜T3との相関性の高い相関リストデータセットを読み込んで、ステップS420に進む。
【0133】
ステップS420では、相関リストデータセットの高さデータ(y値)の平均値Yを算出した後、ステップS430に進む。
【0134】
ステップS430では、平均値Yに基づいて、全体基準ラインLKを算出した後、ステップS440に進む。
【0135】
ステップS440では、不要な相関リストデータセット(歩行者候補MK)を棄却し、処理を終了する。
なお、ステップS440において、歩行者候補MKを残すか、棄却するかの判定は、図18に示す全体基準ラインLKとの偏差が、あらかじめ設定された閾値ΔTH未満である場合は残し、閾値ΔTH以上の場合は棄却するものとする。
【0136】
以上説明したように、実施例4の歩行者検出システムにあっては、赤外線カメラ10を、歩行者Mの中心高さ付近に設置したため、各テンプレートT1〜T3との相関性が高い歩行者候補MKの中心高さは、それが歩行者Mによる画像である場合は、各テンプレートT1〜T3の大きさにかかわらず、略一定の高さに配置される。
【0137】
したがって、歩行者Mの画像による歩行者候補MKは、各歩行者候補MKの中心高さの平均値Yから求めた全体基準ラインLKの近傍に配置される可能性が高いのに対し、非歩行者の画像による歩行者候補MKは、全体基準ラインLKから離れて配置される可能性が高い。よって、全体基準ラインLKから閾値ΔTH以上離れた歩行者候補MKを棄却することにより、非歩行者の画像による誤検出を抑制することができる。
【0138】
また、実施例4にあっては、歩行者候補MKは、各テンプレートT1〜T3のうちで、相関性の高いものが異なっていても、歩行者中心が略同じ高さに配置されるため、歩行者候補MKが1つあるいは存在していないテンプレートが存在していても、歩行者候補MKが複数存在していれば、全体基準ラインLKを設定することができる。
よって、上記a)b)の効果が得られるのに加え、実施例2の効果c)と同様に、この歩行者候補MKが、複数のテンプレートT1〜T3の1または2のものが、非歩行者による画像に基づくもののみしか存在しない場合であっても、誤検出が生じるのを抑制できる。
【実施例5】
【0139】
次に、実施例5の歩行者検出システムについて説明する。
実施例5は、実施例4の変形例であり、歩行者Mに加え、子供を判別するようにした例である。
【0140】
すなわち、実施例5では、図20に示すように、歩行者候補MK(f−1)〜(f−3)に基づいて設定した全体基準ラインLKに対して、あらかじめ設定された値ΔLcだけ下方位置近傍に、歩行者候補MKが存在する場合、それを子供と判定するようにした。
【0141】
この処理は、例えば、実施例4のステップS430とステップS440との間で実行する。
【0142】
さらに、実施例5では、子供と判定された歩行者候補MKには、歩行者位置表示部30による処理に基づいて、画像表示部40において、他の歩行者候補(大人)MKよりも目立つ表示を行なう。なお、目立つ表示としては、例えば、「点滅」させたり、あるいは「別の色の表示(例えば、大人は黄色で子供は赤)」を行なったりする。
【0143】
以上説明した実施例5にあっては、実施例4の効果に加え、子供を検出し、子供に対しては、大人とみなした他の歩行者Mと異なる表示を行い、運転者の注意を、より強く促すことができる。
【0144】
以上、図面を参照して、本発明の実施の形態および実施例1〜5を詳述してきたが、具体的な構成は、これらの実施の形態および実施例1〜5に限らず、本発明の要旨を逸脱しない程度の設計的変更は、本発明に含まれる。
【0145】
例えば、実施例1〜5では、歩行者検出部20で歩行者を検出した後、歩行者の位置を表示するものを示したが、歩行者を検出した後の処理はこのような表示に限定されるものではなく、他の処理を行なうようにしてもよい。なお、他の処理としては、検出された歩行者との衝突を避けるように、転舵や制動などの運転支援処理が挙げられる。
【0146】
また、実施例1〜5では、テンプレートとして、3種類設定した例を示したが、テンプレートは、少なくとも1つ有していればよく、あるいは、複数有する場合、その数は、「2」以上であれば、「3」に限定されることは無い。
【0147】
また、実施例1〜5では、取捨選択処理を、画面上の高さの平均値との乖離度に基づいて行なう例を示したが、分散値に基づき、分散値が大きい場合に、歩行者候補から棄却するようにしてもよい。
【符号の説明】
【0148】
M 歩行者
M1 歩行者
M2 歩行者
MK 歩行者候補
10 赤外線カメラ(撮像装置)
20 歩行者検出部(歩行者検出手段)
21 輝度調整部
22 エッジ検出部
23 歩行者テンプレート部
24 相関値検出部
25 相関領域最大値検出部(高相関領域検出部)
26 取捨選択部
30 歩行者位置表示部
40 画像表示部
100 実施例1の歩行者検出システム
T1 第1テンプレート
T2 第2テンプレート
T3 第3テンプレート

【特許請求の範囲】
【請求項1】
車両に設置されて前記車両の進行方向を撮像する撮像装置と、
この撮像装置によって撮像して得られた画像に基づいて、歩行者を検出する歩行者検出手段と、
を備えた歩行者検出システムであって、
前記歩行者検出手段が、
前記画像と、あらかじめ記憶された歩行者の輪郭を模したテンプレートとのマッチングを行い、このテンプレートとの相関値を求める相関値検出部と、
前記画像のうち、前記相関値が歩行者とみなすことができるだけ高い画像領域を歩行者候補として検出する高相関領域検出部と、
複数の前記歩行者候補の前記画像上の高さの平均値を求め、この平均値と各歩行者候補の前記画像上の高さとに基づいて、前記歩行者候補が適性か否か判定し、不適正なものは歩行者候補から棄却する取捨選択処理を実行する取捨選択部と、
を備えていることを特徴とする歩行者検出システム。
【請求項2】
前記相関値検出部は、前記画像の高さ方向寸法が異なる複数のテンプレートを備え、
前記取捨選択部は、前記取捨選択処理において、前記複数の歩行者候補を、相関性の高い前記テンプレートごとにグループ分けし、このグループごとに、前記平均値を求めるとともに、この平均値と、前記グループに含まれる各歩行者候補の高さとの比較に基づき、両者の乖離度があらかじめ設定された範囲外のものは不適正として歩行者候補から棄却する処理を行なうことを特徴とする請求項1に記載の歩行者検出システム。
【請求項3】
前記相関値検出部は、前記画像の高さ方向寸法が異なる複数のテンプレートを備え、
前記取捨選択部は、前記取捨選択処理において、前記複数の歩行者候補を、相関性の高い前記テンプレートごとにグループ分けし、各グループのうちで複数の前記歩行者候補が存在するあるグループの前記平均値から全体基準高さを求め、この全体基準高さに基づいて、各グループに対応するグループ基準高さを設定し、前記グループごとに、前記グループ基準高さと前記歩行者候補の高さとの比較に基づき、両者の乖離度があらかじめ設定された範囲外のものは不適正として歩行者候補から棄却する処理を行なうことを特徴とする請求項1に記載の歩行者検出システム。
【請求項4】
前記取捨選択部は、前記取捨選択処理において、前記平均値は、あらかじめ設定された設定値以上の歩行者候補が存在するグループのうちで最もサイズの小さなテンプレートとの相関性の高いグループから求めることを特徴とする請求項3に記載の歩行者検出システム。
【請求項5】
前記相関値検出部は、前記画像の高さ方向寸法が異なる複数のテンプレートを備え、
前記取捨選択手段は、前記複数の歩行者候補を、相関性の高い前記テンプレートごとにグループ分けし、前記グループごとに前記歩行者候補の高さの平均値を求め、各平均値に基づいて全体基準高さを設定し、この全体基準高さに基づいて、各グループのグループ基準高さを求め、前記グループごとに、前記グループ基準高さと前記グループに含まれる各歩行者候補の高さとの比較に基づき、両者の乖離度があらかじめ設定された範囲外のものは不適正として歩行者候補から棄却する処理を行なうことを特徴とする請求項1に記載の歩行者検出システム。
【請求項6】
前記赤外線カメラが、歩行者の高さ方向の中心位置とみなすことのできる高さに設置され、
前記取捨選択部は、全歩行者候補の高さデータの平均値である判定基準値を求め、この判定基準値と各歩行者候補の高さとの比較に基づき、両者の乖離度があらかじめ設定された範囲外のものは不適正として歩行者候補から棄却する処理を行なうことを特徴とする請求項1に記載の歩行者検出システム。
【請求項7】
前記平均値から設定範囲内の低い歩行者候補を子供と判別する
ことを特徴とする請求項1〜6に記載の歩行者検出システム。

【図1】
image rotate

【図2】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図8】
image rotate

【図11】
image rotate

【図12】
image rotate

【図13】
image rotate

【図14】
image rotate

【図15】
image rotate

【図17】
image rotate

【図19】
image rotate

【図3】
image rotate

【図7】
image rotate

【図9】
image rotate

【図10】
image rotate

【図16】
image rotate

【図18】
image rotate

【図20】
image rotate


【公開番号】特開2011−81736(P2011−81736A)
【公開日】平成23年4月21日(2011.4.21)
【国際特許分類】
【出願番号】特願2009−235535(P2009−235535)
【出願日】平成21年10月9日(2009.10.9)
【出願人】(000001487)クラリオン株式会社 (1,722)
【Fターム(参考)】