説明

車両用歩行者検出装置

【課題】歩行者の服の柄や皺等形状以外の情報に影響を受けることなく、歩行者を効率的に判定可能な車両用歩行者検出装置を提供する。
【解決手段】距離画像作成手段12は輝度変化に関わる解析不要な情報を除去した距離画像F3を作成し、正規化手段13と判定用セル設定手段15は距離画像F3よりも小範囲の判定用セルS(n,m)を設定する。また、第1距離勾配ベクトル算出手段16と第1ヒストグラム作成手段17は、対象物Oの形状に対応した特定領域としての判定用セルS(n,m)の距離勾配ベクトルVについて、歩行者検出に必要なヒストグラムデータH1を作成する。このヒストグラムデータH1をヒストグラム基準データH0と比較するため、形状判定に解析不要な情報を除去した状態で歩行者を判定でき、歩行者判定処理の高速化と誤検出防止を図ることができる。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、車両に少なくとも1つのCCDカメラ等の撮像手段を搭載し、撮像された画像から距離に関するヒストグラムデータを算出し、車両の前方に存在する歩行者を検出する車両用歩行者検出装置に関する。
【背景技術】
【0002】
従来、自車両の周囲に存在する車両や歩行者等の障害物を検出するため、例えばCCD(Charge Coupled Devices)やCMOS(Complementary Metal Oxide Semiconductor)等の撮像手段を備え、この撮像画像を処理して車両の運転や走行に用いる情報を得る技術は公知である。
【0003】
この種の障害物検出装置では、撮像された画像から輝度変化に関する画素の濃淡情報を抽出し、対象物の輪郭線に相当するエッジを検出する手法や、対象物となる歩行者や構造物等について、予め照合用のテンプレート(参照画像)を多数取得し、このテンプレートと照合する手法が採用されている。前者のエッジ検出法は、完全な閉輪郭線が抽出されない場合、対象物の切り出しが難しく、後者のテンプレート照合法は、テンプレートを多数取得しておく必要があり、照合時間が長時間必要とされる。
【0004】
一方、車両における歩行者検出の領域では、歩行者検出精度の向上もさることながら、車両が高速走行を行っているため、現実の走行では判定処理の高速化が必要とされる。つまり、撮像された画像に対して、歩行者判定処理を行う解析処理領域を最小にし、更に、この処理時間を最小にしなければ実用に用いることが困難である。
【0005】
特許文献1に記載された監視装置は、2つの撮像手段によって撮像された画像から輝度分布と形状に関する特徴を抽出し、第1対象物抽出手段が、歩行者や、その特徴が歩行者に類似する人工構造物等の第1対象物を抽出する。また、第2対象物抽出手段が、第1対象物と高さ及び形状が類似する第2対象物を抽出し、この抽出された第1,第2対象物と背景の輝度とを比較し、その輝度変化量が所定値以下のとき、第1,第2対象物を人工構造物と判断するものである。特許文献1によれば、撮像画像から得られた情報のみを用いて、対象物が人工構造物であるか否かを容易に判断できる。
【0006】
特許文献2に記載された物体検出装置は、撮像した画像を探索ウインドウで探索し、探索ウインドウ内の輝度画像とテンプレートとの比較によって道路平面に対する水平方向のヒストグラムを作成して、このヒストグラムの形状から単峰性の分布を検出している。このヒストグラム形状を判定することで、演算量の低減を図ることができ、高速で物体検出を行うことが可能となる。
【先行技術文献】
【特許文献】
【0007】
【特許文献1】特開2008−236029号公報
【特許文献2】特開2008−20951号公報
【発明の概要】
【発明が解決しようとする課題】
【0008】
特許文献1では、人工構造物の判定を輝度変化量の演算で行い、歩行者を検出する処理時間の短縮化を図っている。また、特許文献2では、ヒストグラムを用いることで、背景に含まれ、歩行者検出に対しては解析不要である構造物等の情報を取り除き、歩行者判定の効率化を図っている。つまり、特許文献1,2は、対象物を撮像する撮像画像の検出精度を高めて、対象物である歩行者の検出精度を増すのではなく、数学的手法を用いて歩行者検出において解析不要な情報を撮像画像の背景から除去し、検出対象である歩行者を効率的に抽出している。
【0009】
しかしながら、前記何れの文献も、歩行者判定処理を行うにあたり、撮像された画像から輝度に関する画素の濃淡情報を抽出して作成された輝度画像を判定用画像として用いている。この輝度画像は、歩行者の服の柄や皺による影響が画像上に反映されるため、画像上に形状以外の輝度変化を生じさせる。特に、処理の高速化を狙いとしてヒストグラムのような数学的手法と併用する場合には、判定用画像の背景から数値処理によって多くの情報を除去するため、画像上に形状以外の情報が多数存在する場合、誤検出の原因となり得る。
【0010】
本発明の目的は、歩行者の服の柄や皺等形状以外の情報に影響を受けることなく、歩行者を効率的に判定可能な車両用歩行者検出装置を提供することである。
【課題を解決するための手段】
【0011】
請求項1の車両用歩行者検出装置は、車両に搭載された少なくとも1つの撮像手段を備え、この撮像手段により撮像された車両前方の画像を処理して歩行者を検出する車両用歩行者検出装置において、前記撮像画像から距離画像を作成する距離画像作成手段と、前記距離画像に対し、所定サイズの対象物が含まれるサブウインドウを設定するサブウインドウ設定手段と、前記サブウインドウから、前記対象物の特定領域に対応するセルを設定するセル設定手段と、前記セルを構成するマトリックス状の複数の小領域内における距離勾配ベクトル、又は隣接する画素間の距離勾配ベクトルを算出する距離勾配ベクトル算出手段と、前記距離勾配ベクトルに基づきヒストグラムデータを作成するヒストグラム作成手段と、前記ヒストグラムデータを予め設定して記憶しているヒストグラム基準データと比較することにより、歩行者を判定する歩行者判定手段を備えたことを特徴としている。
【0012】
この車両用歩行者検出装置においては、撮像画像から距離画像を作成する距離画像作成手段を備えるため、形状以外の輝度変化を生じさせる歩行者の服の柄や皺による影響を受けない距離画像を得ることができる。この距離画像に対し、所定サイズの対象物が含まれるサブウインドウを設定するサブウインドウ設定手段を備えるため、広範囲の撮像画像全体ではなく、撮像画像の一部を処理して歩行者判定を行うことができ、歩行者判定を効率よく短時間で行うことができる。
【0013】
請求項2の発明は、請求項1の発明において、前記距離勾配ベクトル算出手段は、更に、距離勾配変化率ベクトルを算出することを特徴としている。
【0014】
請求項3の発明は、請求項2の発明において、前記ヒストグラム作成手段は、前記ベクトルが有する角度毎に、距離勾配ベクトルが有する距離変化量、または距離勾配変化率ベクトルが有する距離勾配変化率量を累積加算することによってヒストグラムデータを作成することを特徴としている。
【0015】
請求項4の発明は、請求項1〜3の何れか1つの発明において、前記歩行者判定手段は、前記ヒストグラムデータの特定の峰形状を前記ヒストグラム基準データにおける特定の峰形状と比較することによって歩行者を判定することを特徴としている。
【0016】
請求項5の発明は、請求項1〜4の何れか1つの発明において、前記ヒストグラム作成手段は、所定の車両運転状態のとき、前記サブウインドウの全領域についてセル毎のヒストグラムデータを作成し、前記全ヒストグラムデータのうち、前記ヒストグラム基準データに対して一致度が高いセルを新たな判定用セルに設定することを特徴としている。
【0017】
請求項6の発明は、請求項3の発明において、前記歩行者判定手段は、前記角度の特定の角度における前記累積加算量を前記ヒストグラム基準データの特定の角度における累積加算量と比較することによって歩行者を判定することを特徴としている。
【0018】
請求項7の発明は、請求項1の発明において、前記ヒストグラム基準データは、歩行者が判定されたヒストグラムデータに基づいて設定されることを特徴としている。
【0019】
請求項8の発明は、請求項1〜7の何れか1つの発明において、前記サブウインドウ設定手段は、前記対象物までの距離に依存せずに、前記サブウインドウの大きさを正規化することを特徴としている。
【0020】
請求項9の発明は、請求項1〜8の何れか1つの発明において、前記サブウインドウ設定手段は、前記距離画像から所定のテンプレートを用いて前記対象物が含まれるサブウインドウを設定したことを特徴としている。
【0021】
請求項10の発明は、請求項1〜9の何れか1つの発明において、前記距離画像作成手段は、距離画像をモーションステレオ処理によって作成したことを特徴としている。
【発明の効果】
【0022】
請求項1の発明によれば、撮像画像から距離画像を作成する距離画像作成手段と、距離画像に対し、所定サイズの対象物が含まれるサブウインドウを設定するサブウインドウ設定手段と、サブウインドウから、対象物の特定領域に対応するセルを設定するセル設定手段と、セルを構成するマトリックス状の複数の小領域内における距離勾配ベクトル、又はセルを構成する画素間の距離勾配ベクトルを算出する距離勾配ベクトル算出手段と、距離勾配ベクトルに基づきヒストグラムデータを作成するヒストグラム作成手段と、ヒストグラムデータを予め設定して記憶しているヒストグラム基準データと比較することにより、歩行者を判定する歩行者判定手段を備えたため、歩行者の服の柄や皺等形状以外の情報に影響を受けることなく、歩行者を効率的に検出できる。
【0023】
つまり、距離画像作成手段を備えたため、歩行者検出において解析不要な情報を除去した距離画像を得ることができる。また、サブウインドウ設定手段とセル設定手段とを備えたため、作成した距離画像よりも小範囲のサブウインドウと、このサブウインドウよりも小範囲とされ、対象物の形状に対応した特定領域としてのセルを設定することができ、判定処理時間の短縮化を図れる。更に、距離勾配ベクトル算出手段とヒストグラム作成手段とを備えたため、対象物の形状に対応した特定領域としてのセルの距離勾配ベクトルについて、歩行者検出に必要なヒストグラムデータを得ることができる。しかも、このヒストグラムデータを予め記憶しているヒストグラム基準データと比較して歩行者を判定するため、歩行者の形状判定に解析不要な情報を除去した状態で判定でき、歩行者判定処理の高速化と誤検出防止を図ることができる。
【0024】
請求項2の発明によれば、距離勾配ベクトル算出手段が、距離勾配変化率ベクトルを算出するため、幾何学的に曲率が一定とされる人工構造物を処理負荷を増すことなく背景画像から除去することができ、更に、歩行者判定処理の高速化と誤検出防止を図ることができる。
【0025】
請求項3の発明によれば、ヒストグラム作成手段は、距離勾配ベクトルが有する角度毎に、距離勾配ベクトルが有する距離変化量を累積加算することによってヒストグラムデータを作成するため、形状に付随する角度毎の特徴を処理負荷を増すことなく抽出でき、歩行者の比較判定処理の高速化が図れる。また、距離勾配変化率ベクトルの角度毎に、距離勾配変化率ベクトルが有する距離勾配変化率量を累積加算してヒストグラムデータを作成するため、距離勾配ベクトルによる判定と同様に、形状に付随する角度毎の特徴を処理負荷を増すことなく抽出でき、歩行者の比較判定処理の一層の高速化が図れる。
【0026】
請求項4の発明によれば、歩行者判定手段は、ヒストグラムデータの特定の峰形状をヒストグラム基準データにおける特定の峰形状と比較することによって歩行者を判定するため、処理負荷を増すことなく歩行者を容易に且つ精度よく検出できる。
【0027】
請求項5の発明によれば、ヒストグラム作成手段は、所定の車両運転状態のとき、サブウインドウの全領域についてセル毎のヒストグラムデータを作成するため、車両走行中の歩行者判定を阻害することなく、サブウインドウの全領域についてセル毎のヒストグラムデータを得ることができる。更に、全ヒストグラムデータのうち、ヒストグラム基準データに対して一致度が高いセルを新たな判定用セルに設定するため、歩行者検出の容易化と検出精度向上が共に図れ、一層誤検出防止と処理負荷低減が図れる。
【0028】
請求項6の発明によれば、歩行者判定手段は、前記角度の特定の角度における累積加算量をヒストグラム基準データの特定の角度における累積加算量と比較することによって歩行者を判定するため、処理負荷を増すことなく歩行者を容易に検出できる。
【0029】
請求項7の発明によれば、ヒストグラム基準データは、歩行者が実際に判定されたヒストグラムデータに基づいて設定されるため、ヒストグラム基準データを適正化でき、歩行者検出精度を高めることができる。
【0030】
請求項8の発明によれば、サブウインドウ設定手段は、対象物までの距離に依存せずに、サブウインドウの大きさを正規化するため、対象物までの距離に拘わらず、同じ大きさのサブウインドウによって比較判定でき、検出精度向上と処理の高速化が図れる。
【0031】
請求項9の発明によれば、サブウインドウ設定手段は、距離画像から所定のテンプレートを用いて対象物が含まれるサブウインドウを設定したため、サブウインドウの設定が容易になり、処理の高速化が図れる。
【0032】
請求項10の発明によれば、距離画像作成手段は、距離画像をモーションステレオ処理によって作成したため、単一カメラで距離画像を作成できる。
【図面の簡単な説明】
【0033】
【図1】本発明の実施例に係る歩行者検出装置の全体概略構成図である。
【図2】歩行者検出装置の機能ブロック図である。
【図3】距離画像の作成方法についての説明図である。
【図4】セルの作成方法についての説明図である。
【図5】距離勾配ベクトルの算出方法を示し、(a)は小領域を用いた算出方法の説明図、(b)は別の算出方法の説明図である。
【図6】ヒストグラムデータを示す図である。
【図7】ヒストグラム基準データを示す図である。
【図8】歩行者検出装置における歩行者検出制御のフローチャートである。
【図9】距離勾配変化率ベクトルの説明図である。
【発明を実施するための形態】
【0034】
以下、本発明を実施するための形態について実施例に基づいて説明する。
【実施例】
【0035】
以下、この発明の実施例について、図1〜図9に基づいて説明する。
【0036】
図1、図2に示すように、車両用歩行者検出装置1は、CCDカメラ2、車両の走行速度を検出する車速センサ3、乗員によるブレーキ操作を検出可能なブレーキスイッチ4、GPS手段5(Global Positioning System)、インスツルメントパネルに配置される警報装置6、車両用歩行者検出装置1のコントロールユニット9を備えている。また、このコントロールユニット9は、ブレーキ装置7、操舵制御装置8と電気的に接続されている。
【0037】
CCDカメラ2は、車両の進行方向前方を撮像する撮像手段であり、例えば、フロントガラスの上部後側に前方へ向けて取付けられ、コントロールユニット9からの指示によってCCDカメラ2の撮像方向を変更可能に構成されている。CCDカメラ2は自車両前方の歩行者等を含む前方視界を撮像した後、このCCDカメラ2で撮像された輝度画像情報はコントロールユニット9に送られる。この歩行者検出装置1では、単一のCCDカメラ2によって、異なる地点から2枚の輝度画像を撮像し、この2枚の輝度画像から三角測量法を用いて距離画像を作成するモーションステレオ処理を採用している。尚、複眼のステレオカメラを設け、同時に2枚の輝度画像を撮像することも可能である。
【0038】
GPS手段5は、自車両の現在走行位置(緯度・経度)を検出する。このGPS手段5は、例えば、人工衛星や地磁気を利用して位置を検出するもの、或いは車速と舵角との関係から自車両Vの走行位置を追跡して現在走行位置を検出するもの等、既知の位置検出手段を適宜選択可能である。
【0039】
警報装置6は、検出した歩行者の自車両に対する危険度に応じて、コントロールユニット9からの指示により乗員の注意を喚起するための警報を行う。この警報装置6は、図示しないスピーカ、ブザー、ランプ、ディスプレイを有しており、これらスピーカ等の少なくとも1つを残して省略可能である。
【0040】
ブレーキ装置7は、検出した歩行者の自車両に対する危険度に応じて、コントロールユニット9からの指示により車両の制動制御を行う。このブレーキ装置7は、危険度が中のとき、比較的弱い、乗員に注意を促すための一次ブレーキを作動するよう構成している。また、危険度が高のとき、歩行者との衝突を回避するための強い二次ブレーキを作動するよう構成している。
【0041】
操舵制御装置8は、検出した歩行者の自車両に対する危険度に応じて、コントロールユニット9からの指示により車両の操舵力を付与する。この操舵制御装置8は、危険度が高のとき、ナックルアーム、タイロッド、駆動機構からなる操舵機構(図示略)によって歩行者との衝突を回避するための操舵力を付与するよう構成している。
【0042】
図2に示すように、コントロールユニット9は、画像記憶手段10、モーションステレオ手段11、距離画像作成手段12、正規化手段13(サブウインドウ設定手段)、セル作成手段14、判定用セル設定手段15、第1距離勾配ベクトル算出手段16、第1ヒストグラム作成手段17、歩行者判定手段18、歩行者危険度判定手段19を備えている。更に、コントロールユニット9は、学習条件判定手段20、第2距離勾配ベクトル算出手段21、第2ヒストグラム作成手段22、一致度判定手段23、ヒストグラム保存判定手段24、判定用データ作成手段25、第1メモリ手段26、第2メモリ手段27を備えている。
【0043】
図3に示すように、画像記憶手段10は、CCDカメラ2で撮像された車両前方の対象物Oが含まれる実空間である対象領域F0の輝度画像をメモリ(図示略)に記憶している。
この歩行者検出装置1は単一のCCDカメラ2によるモーションステレオ処理を行うため、画像記憶手段10は、対象領域F0の第1輝度画像F1と、所定時間後、異なる位置から撮像した第1輝度画像F1と同じ対象領域F0の第2輝度画像F2を記憶している。
【0044】
モーションステレオ手段11は、第1,第2輝度画像F1,F2に基づいて、対象領域F0の夫々の画素と自車両との距離を算出する。このモーションステレオ手段11は、GPS手段5から得られた自車両の位置(緯度・経度)と第1輝度画像F1中の特徴点と,これに対応する第2輝度画像F2中の対応点の視差量を用いて、三角測量法により各画素の距離情報を求める。尚、この三角測量法は公知の技術のため、詳細は説明を省略する。
【0045】
図3に示すように、距離画像作成手段12は、モーションステレオ手段11によって算出された各画素の距離情報に基づき、対象物Oが含まれる距離画像F3を作成する。CCDカメラ2で撮像された第1,第2輝度画像F1,F2は、輝度変化に関する各画素の濃淡情報で表現されるため、歩行者の服の柄や皺による影響が画像に現れる。一方、距離画像作成手段12で作成された距離画像F3は、歩行者判定に解析不要な輝度情報を除去した形状及び距離情報のみで構成されている。
【0046】
図4に示すように、正規化手段13は、距離画像F3内に歩行者らしき対象物が存在する探索領域T1を設定し、この探索領域T1を予め規定された所定サイズのサブウインドウWに正規化する。まず始めに、正規化手段13は、所定の対象物Oを判定する場合、対象物Oと略同距離に存在する他の対象物に基づいて設定されるテンプレート(参照画像)を用いて対象物Oが歩行者らしき対象物か否か判定している。このテンプレートは、歩行者に相当する高さと領域を有しており、対象物Oと略同距離に存在する他の対象物(例えばガードレール等)の高さ、又は対象物Oの画素が有する距離データに比例して拡大縮小可能とされている。
【0047】
次に、正規化手段13は、テンプレートを用いた照合によって、所定の対象物Oが歩行者らしき対象物と判定された場合、歩行者らしき対象物の存在する領域を探索領域T1として設定する。しかも、正規化手段13は、設定された探索領域T1を距離に依存しない一定のサイズのサブウインドウWとなるよう領域の大きさを調整している。
つまり、図4に示すように、歩行者らしき対象物が近距離に存在する場合は探索領域T1を縮小し、距離画像F4のように、歩行者らしき対象物が遠距離に存在する場合は探索領域T2を拡大することで、常に一定サイズのサブウインドウWとなるように正規化している。
【0048】
図4に示すように、セル作成手段14は、サブウインドウW内をN×Mの複数のセルSに分割する。分割数N,Mは、予め設定された値であり、歩行者検出精度と判定処理速度とを両立可能な値を実験値によって求めている。また、分割数N,Mについて、歩行者検出結果に基づく学習によって自動更新するように構成することも可能である。尚、この歩行者検出装置1では、サブウインドウW内を4×2に分割した例を説明する。
【0049】
判定用セル設定手段15は、セル作成手段14で設定された2×4の複数セルのうち、歩行者判定処理を行う特定の判定用セルS(n,m)を設定する。第1メモリ手段26に記憶された歩行者検出精度の高い部位(例えば歩行者の腰部)の判定用セル番号(例えば腰部相当のセルS(3,2))に基づいて、判定用セルS(3,2)をサブウインドウW内から抽出する。尚、第1メモリ手段26には、過去の歩行者判定処理で得られたデータがセルS毎に記憶されている。更に、このセルSの夫々に歩行者検出の判定精度、所謂確からしさが記憶されており、その中で最も検出精度の高いセル番号(n,m)が判定用セル番号として判定用セル設定手段15に送られるよう構成されている。
【0050】
判定用セルS(n,m)の選択部位は、通常走行時の歩行者検出結果に基づき、学習によって自動更新されるよう構成されている。また、判定用セルS(n,m)の学習開始前の初期値は、ディーラや出荷時において工場で予め設定された値が記憶されている。尚、以後、説明の便宜上、腰部に相当するセルS(3,2)を予め設定された判定用セルS(n,m)の例として説明を行う。
【0051】
第1距離勾配ベクトル算出手段16は、図5(a)に示すように、判定用セルS(3,2)を構成するマトリックス状の複数の小領域C(P,Q)に関する距離勾配ベクトルV(K=1,2,3、・)を算出する。この歩行者検出装置1では、判定用セルS(3,2)を各小領域C(P,Q)(P=1,2,3,4,Q=1,2,3,4)が3×3の画素からなるように分割している。画素数3×3は、予め設定された値であり、歩行者検出精度と判定処理速度とを両立可能な値を実験値によって求めている。
【0052】
図5(a)に示すように、小領域C内の所定の画素g(K=1,2…)とこの画素gと隣り合う画素gK−1とが、夫々持っている各距離データより、その差ベクトルを算出することで、距離勾配ベクトルV(K=1,2…)を算出する。具体的には、Y方向の画素間距離勾配ベクトルaと,X方向の画素間距離勾配ベクトルaj,を算出し、これより距離勾配ベクトルVは次式のベクトル和として算出することができる。
=a+a …(1)
第1距離勾配ベクトル算出手段16は、式(1)を用いて、判定用セルS(2,3)内の各小領域Cについて、距離勾配ベクトルVを算出し、これより、距離勾配ベクトル絶対値=|V|、距離勾配ベクトル角度θ=arg(V)を算出するよう構成されている。
【0053】
また、第1距離勾配ベクトル算出手段16は、前記に代えて、図5(b)に示す方法によることとしても良い。即ち、予め、画素数の決められた小領域C(P,Q)に分割することなく、判定用セルS(3,2)内のすべての画素g(K=1,2…)の距離データに対して、これに隣接する画素の距離データの差ベクトルより、前述の方法にて距離勾配ベクトルV(K=1,2…)を算出し、これより絶対値=|V|、角度θ=arg(V)を算出し、順次、すぐ右隣の画素gK+1に対して同様の算出をおこなう。このように、判定用セルS(3,2)内の全ての画素を左上から右下まで走査することで全ての画素に対して、距離勾配ベクトルV、を算出し、これより絶対値=|V|、角度θ=arg(V)を算出する。これにより、離散的でなく、連続的な距離勾配ベクトルV(K=1,2…)、絶対値=|V|、角度θ=arg(V)を算出することが出来る。
【0054】
次に、第1ヒストグラム作成手段17は、上述の方法により求めた距離勾配ベクトルV(K=1,2…)の、絶対値=|V|、角度θ=arg(V)に基づき判定用セルS(3,2)に関するヒストグラムデータH1(図6参照)を作成する。第1ヒストグラム作成手段17は、距離勾配ベクトルVが有する角度θ毎に、距離勾配ベクトルVが有する距離変化量である絶対値|V|を累積加算してヒストグラムデータH1を作成するよう構成されている。このヒストグラムデータH1は、横軸が角度θ、縦軸が角度毎の距離変化量の加算値Sdからなる棒形状とされ、夫々隣り合う角度θにおける各加算値Sdの頂点を連続して結んだとき、V字状等夫々撮像された対象物Oに固有の峰形状を形成している。つまり、ヒストグラムデータH1は、判定用データとして、全体的には対象物Oに固有の峰形状を備え、角度毎には距離変化量加算値Sdを特徴として備えている。
【0055】
歩行者判定手段18は、作成されたヒストグラムデータH1と、第2メモリ27に記憶されたヒストグラム基準データH0(図7参照)とを比較することにより対象物Oが歩行者か否かを判定する。歩行者の判定は、以下の条件1,2の何れか一方が成立した場合、対象物Oを歩行者と判定する。
[条件1]:ヒストグラムデータH1における各加算値Sdの峰形状(例えばV字状)とヒストグラム基準データH0における各加算値Sd0の峰形状とが類似している場合
[条件2]:ヒストグラムデータH1の所定角度(例えばθ=20°)における累積加算値Sdが所定値(例えば80)以上の場合
尚、条件1については、特定の角度範囲、例えば90°未満における加算値Sdの峰形状がV字状か否かを判定する等、歩行者検出精度の高い角度範囲を予め選定して判定を行ってもよい。また、条件2については、過去、歩行者を検出したときのヒストグラムデータH1から累積加算値Sdを比較する所定値を変更するようにしてもよい。
【0056】
歩行者危険度判定手段19は、歩行者判定手段18が歩行者を判定した場合、歩行者と自車両との距離に基づき危険度を判定し、この危険度に応じて警報装置6、ブレーキ装置7、操舵制御装置8に作動指令を送信する。歩行者危険度判定手段19は、歩行者と自車両との距離に基づいて危険度を区分しており、単に情報提供を狙いとする危険度低(離間距離:50〜100m)、警報を狙いとする危険度中(離間距離:10〜50m)、強制回避を狙いとする危険度高(離間距離:10m以下)とされている。
【0057】
学習条件判定手段20は、所定の車両運転状態を検出し、前述の歩行者判定に用いるヒストグラム基準データH0の更新に用いる学習用ヒストグラムデータH2の作成開始を判定している。この歩行者検出装置1では、速い判定時間が要求されない車両停車中で確実に横断歩行者がカメラで撮像される状況下にある場合や、工場やディーラでの出荷前に人間をカメラ前に立たせ撮像する場合に学習用ヒストグラムデータH2を作成している。車速センサ3の検出値零とブレーキスイッチ4のオン信号の検出によって車両の停車状態を検出し、学習用ヒストグラムデータH2の作成を開始する。尚、工場出荷前であれば、エンジンルーム内に設置したテストスイッチオンで学習用ヒストグラムデータH2の作成を開始することも可能である。
【0058】
前記学習用ヒストグラムデータH2の作成開始条件成立時、第2距離勾配ベクトル算出手段21は、サブウインドウW内の全セルSについて、夫々のセルSを構成するマトリックス状の複数の小領域C、又は全ての画素に関する距離勾配ベクトルVを算出している。距離勾配ベクトルVの算出方法は、第1距離勾配ベクトル算出手段16と同様であり、夫々のセルSについて距離勾配ベクトルVを求める。
【0059】
第2ヒストグラム作成手段22は、前記第2距離勾配ベクトル算出手段21により算出した距離勾配ベクトルVを用いて夫々のセルSについて上述の学習用ヒストグラムデータH2を作成する。第2ヒストグラム作成手段22は、第1ヒストグラム作成手段17と同様に、距離勾配ベクトルVが有する角度θ毎に、距離勾配ベクトルVが有する距離変化量を累積加算した学習用ヒストグラムデータH2を各セルSについて作成している。この歩行者検出装置1では、4×2の8枚の学習用ヒストグラムデータH2が作成される。
【0060】
更に、一致度判定手段23は、8枚のセルS夫々について作成された学習用ヒストグラムデータH2と第1メモリ手段26に記憶された歩行者を検出したときの各部位のヒストグラム基準データH0(図7参照)との一致度判定を行う。一致度判定は以下のように行う。
[判定1]:夫々の学習用ヒストグラムデータH2における各加算値Sdの峰形状と既に記憶されているヒストグラム基準データH0における各加算値Sd0の峰形状との類似判定
[判定2]:夫々の学習用ヒストグラムデータH2の所定角度(例えばθ=20°)における累積加算値Sdとヒストグラム基準データH0の所定角度(例えばθ=20°)における累積加算値Sd0との類似判定
【0061】
各セルSの学習用ヒストグラムデータH2について、判定1と判定2を行い、各部位のセルS毎に記憶されているヒストグラム基準データH0とこれと同じ部位のセルSの学習用ヒストグラムデータH2を各部位ごとに夫々選択し、最小二乗法などにより各セルSごとにヒストグラム形状の類似度を算出する。こうして算出された各セルSの類似度のうち、最も類似度の高いセルSを新たな判定用セルとし、このセル番号(n,m)を判定用セル番号として第1メモリ手段26に記憶するとともに、この新たな判定用セルの学習用ヒストグラムデータH2を新たなヒストグラム基準データH0として更新登録する。こうして、次に判定用セル設定手段15が判定用セルS(n,m)を設定するときは、第1メモリ手段26から更新された判定用セル番号(例えば肩部相当のセルS(2,2))が送られるよう構成されている。
【0062】
ヒストグラム保存判定手段24は、歩行者判定手段18によって歩行者が判定されたとき、歩行者判定に用いたヒストグラムデータH1を第2メモリ手段27に保存する。この保存されたヒストグラムデータH1は、加重平均などの統計処理することにより、新たなヒストグラム基準データH0を作成するために第1メモリ手段26に記憶される。
【0063】
判定用データ作成手段25は、前述のヒストグラム保存判定手段24に保存されたヒストグラムデータH1を、加重平均などの統計処理することにより、新たなヒストグラム基準データH0の距離変化量の累積加算値Sdにおける峰形状と、所定角度θにおける累積加算値Sdを作成する。ヒストグラム基準データH0が更新されたとき、第1メモリ手段26から第2メモリ手段27に送信されたヒストグラム基準データH0の判定用データを作成し、この判定用データを歩行者判定手段18に供給している。
また、上述の条件1の峰形状の角度範囲(例えば90°未満から80°未満)、条件2の所定角度における累積加算値Sdの所定値(例えば80から90)も、保存されたヒストグラムデータH1を、加重平均などの統計処理することにより新たに作成することとしても良い。
【0064】
次に、歩行者検出装置1の歩行者検出制御について、図8のフローチャートに基づき、説明する。尚、Si(i=1,2…)は各処理ステップを示す。
まず、CCDカメラ2、車速センサ3、ブレーキスイッチ4、GPS手段5等の各種機器やセンサから検出信号を読込む(S1)。
【0065】
CCDカメラ2で撮像された車両前方の対象領域F0について、第1輝度画像F1と異なる位置から第1輝度画像F1と同じ対象領域F0を撮像した第2輝度画像F2を保存する(S2)。尚、複眼のステレオカメラを設け、同時に第1輝度画像F1と第2輝度画像F2を撮像した場合も、同様である。
【0066】
次に、第1,第2輝度画像F1,F2に基づいて、対象物Oが含まれる距離画像F3を作成する(S3)。距離画像F3は、三角測量法により、自車両の位置(緯度・経度)と第1,第2輝度画像F1,F2の視差量を用いて、各画素の距離情報から算出する。距離画像F3は、歩行者の服の柄や皺等形状判定に解析不要な情報を除去した形状情報と各画素の距離情報で構成されている。
【0067】
歩行者に相当する高さと領域を備えたテンプレートを用いて、距離画像F3から歩行者らしき対象物Oが存在する探索領域T1を設定する(S4)。このテンプレートは、所定の対象物Oと略同距離に存在する他の対象物の大きさ、又は、対象物Oのいずれか1つの画素の距離データより求まる自車からの距離に応じて、歩行者相当の大きさになるように拡大縮小可能に構成されている。
【0068】
次に、探索領域T1を予め規定した所定サイズのサブウインドウWに正規化する(S5)。これにより、テンプレートによって設定された探索領域T1を距離に依存しない一定サイズのサブウインドウWに設定し、対象物Oが近距離に存在する場合と遠距離に存在する場合とで自車両からの撮像距離に起因して、歩行者判定の処理精度に差異が生じないよう構成されている。
【0069】
次に、正規化されたサブウインドウW内をN×Mの複数のセルSに分割し(S6)、S7に移行する。S7では、学習条件が成立したか否か判定している。この歩行者検出装置1では、車両が停車中のとき、又は工場出荷前のエンジンルーム内のテストスイッチがオンであるとき、ヒストグラム基準データH0を更新するため、学習を行うよう構成されている。また、車両の停車状態は、車速センサ3の検出値零とブレーキスイッチ4のオン信号の検出で判定している。
【0070】
S7の判定の結果、学習条件不成立、所謂停車中ではない、又はテストスイッチオンでない場合は、S8に移行する。
S8では、判定用セルS(n,m)を構成するマトリックス状の複数の小領域C、又は全画素に関する距離勾配ベクトルVを算出する。式(1)を用いて、予め歩行者判定に使用するとされている例えば、腰部相当のセルS(3,2)である判定用セルS(n,m)内の各画素gについて距離勾配ベクトルVより、絶対値|V|、角度θを算出するよう構成している。
【0071】
次に、距離勾配ベクトルVの絶対値|V|である距離変化量と、角度θに基づき判定用セルS(n,m)についてヒストグラムデータH1(図6参照)を作成する(S9)。このヒストグラムデータH1は、横軸が角度θ、縦軸が距離変化量の加算値Sdからなる棒形状とされ、夫々隣り合う角度θにおける距離変化量の各加算値Sdの頂点を連続して結んだとき、V字状等夫々固有の峰形状を形成している。S10では、ヒストグラムデータH1から、判定用データとして、全体的な固有の峰形状と角度θ毎の距離変化量加算値Sdを算出している。
【0072】
S11では、作成されたヒストグラムデータH1とヒストグラム基準データH0とを比較することにより対象物Oが歩行者か否かを判定する。歩行者の判定は、ヒストグラムデータH1における特定の角度範囲(例えば90°未満)の加算値Sdの峰形状がヒストグラム基準データH0における特定の角度範囲(例えば90°未満)の加算値Sdの峰形状(例えばV字状)と類似しているか否か、ヒストグラムデータH1の所定角度(例えばθ=20°)における累積加算値Sdがヒストグラム基準データH0から設定される所定値(例えば80)以上か否かについて判定し、何れか一方の条件を満たした場合、歩行者と判定している(S12)。
【0073】
S12の判定の結果、対象物Oが歩行者の場合、歩行者判定に用いた今回のヒストグラムデータH1を第2メモリ手段27に保存する(S13)。このヒストグラムデータH1は、新たなヒストグラム基準データH0を作成するためのデータとして、第1メモリ手段26に送信される。S12の判定の結果、対象物Oが歩行者ではない場合、リターンする。
【0074】
次に、検出された歩行者と自車両との距離に基づき危険度を判定する(S14)。危険度の判定条件は、単に情報提供を狙いとする危険度低(離間距離:50〜100m)、警報を狙いとする危険度中(離間距離:10〜50m)、強制回避を狙いとする危険度高(離間距離:10m以下)とされている。
【0075】
S14で判定された危険度に応じて警報装置6、ブレーキ装置7、操舵制御装置8に作動指令を送信して(S15)、リターンする。危険度が低以上のとき、警報装置6としてのスピーカ、ブザー、ランプ、ディスプレイの少なくとも1つを作動させる。危険度が中のとき、ブレーキ装置7を比較的弱い、乗員に注意を促すための一次ブレーキとなるよう作動させる。危険度が高のとき、ブレーキ装置7を歩行者との衝突を回避するための強い二次ブレーキとなるよう作動させる。更に、危険度が高のとき、操舵制御装置8を歩行者との衝突を回避する操舵力を付与するよう作動させる。尚、危険度高では、ブレーキ装置7と操舵制御装置8を併用しているが、何れか一方の単独作動とすることも可能である。
【0076】
一方、S7の判定の結果、学習条件成立、所謂車両が停車中、又はテストスイッチオンの場合、S16に移行する。
S16では、S6にて作成したサブウインドウW内の全セルSについて、マトリックス状の複数の小領域C、又は全画素に関する距離勾配ベクトルVを算出する。
【0077】
次に、算出した距離勾配ベクトルVを用いて夫々のセルSに関する学習用ヒストグラムデータH2を作成する(S17)。サブウインドウW内の全セルSについて、距離勾配ベクトルVが有する角度毎に、距離勾配ベクトルVが有する距離変化量を累積加算した学習用ヒストグラムデータH2を作成している。
【0078】
S18では、サブウインドウW内の全セルS夫々について作成された学習用ヒストグラムデータH2と第1メモリ手段26に記憶された歩行者を検出したときの各部位のセルごとのヒストグラム基準データH0との一致度判定を対応する各セルごとに行う。一致度判定は、各学習用ヒストグラムデータH2における各加算値Sdの峰形状と各部位毎のヒストグラム基準データH0における各加算値の峰形状との類似度と、各学習用ヒストグラムデータH2の所定角度における累積加算値Sdと各部位毎のヒストグラム基準データH0の所定角度における累積加算値Sd0との類似度とにより判定する。
【0079】
各セルS(N,M)の学習用ヒストグラムデータH2について、前記判定を行い、各部位毎のヒストグラム基準データH0に類似する学習用ヒストグラムデータH2を選択する。各部位毎のヒストグラム基準データH0に類似する学習用ヒストグラムデータH2のうち、最も類似するセルSの学習用ヒストグラムデータH2を新たなヒストグラム基準データH0として選択し(S19)、このセル番号(n,m)(例えば、頭部相当のセルS(1,2))を新たな判定用セルの番号として第1メモリ手段26に記憶して、S8に移行する。
【0080】
次に、本歩行者検出装置1の作用・効果について説明する。
前述したように、第1,第2輝度画像F1,F2から距離画像F3を作成する距離画像作成手段12と、距離画像F3に対し、所定サイズの対象物が含まれるサブウインドウWを設定する正規化手段13と、サブウインドウWから、対象物Oの特定領域に対応する判定用セルS(n,m)を設定する判定用セル設定手段15と、判定用セルS(n,m)を構成するマトリックス状の複数の小領域C内、又は全画素における距離勾配ベクトルVを算出する第1距離勾配ベクトル算出手段16と、距離勾配ベクトルVに基づきヒストグラムデータH1を作成する第1ヒストグラム作成手段17と、ヒストグラムデータH1を予め設定して記憶しているヒストグラム基準データH0と比較することにより、歩行者を判定する歩行者判定手段18を備えたため、歩行者の服の柄や皺のような形状以外の情報に影響を受けることなく、歩行者を効率的に検出できる。
【0081】
つまり、距離画像作成手段12を備えたため、歩行者検出において解析不要な情報を除去した距離画像F3を得ることができる。また、正規化手段13と判定用セル設定手段15とを備えたため、作成した距離画像F3よりも小範囲のサブウインドウWと、このサブウインドウWよりも小範囲とされ、対象物Oの形状に対応した特定領域としての判定用セルS(n,m)を設定することができ、判定処理時間の短縮化を図れる。更に、第1距離勾配ベクトル算出手段16と第1ヒストグラム作成手段17とを備えたため、対象物Oの形状に対応した特定領域としての判定用セルS(n,m)の距離勾配ベクトルVについて、歩行者検出に必要なヒストグラムデータH1を得ることができる。しかも、このヒストグラムデータH1を予め記憶しているヒストグラム基準データH0と比較して歩行者を判定するため、歩行者の形状判定に不要な情報を除去した状態で判定することができ、歩行者判定処理の高速化と誤検出防止を図ることができる。
【0082】
また、第1ヒストグラム作成手段17は、距離勾配ベクトルVが有する角度θ毎に、距離勾配ベクトルVが有する距離変化量を累積加算することによってヒストグラムデータH1を作成するため、形状に付随する角度θ毎の特徴を処理負荷を増すことなく抽出でき、歩行者の比較判定処理の高速化が図れる。
【0083】
更に、歩行者判定手段18は、ヒストグラムデータH1の特定の峰形状をヒストグラム基準データH0における特定の峰形状と比較することによって歩行者を判定するため、処理負荷を増すことなく歩行者を容易に且つ精度よく検出できる。
【0084】
しかも、第1ヒストグラム作成手段17は、車両が停車状態のとき、又はテストスイッチオンのとき、サブウインドウWの全領域についてセルS毎のヒストグラムデータH1を作成するため、車両走行時の歩行者判定を阻害することなく、サブウインドウWの全領域についてセルS毎のヒストグラムデータH1を得ることができる。更に、全ヒストグラムデータH1のうち、ヒストグラム基準データH0に対して一致度が高いヒストグラムデータH1を新たなヒストグラム基準データH0に設定するため、歩行者検出の容易化と検出精度向上が共に図れ、一層誤検出防止と処理負荷低減が図れる。
【0085】
また、歩行者判定手段18は、特定の角度θにおける累積加算量Sdをヒストグラム基準データH0の特定の角度θにおける累積加算量と比較することによって歩行者を判定するため、処理負荷を増すことなく歩行者を容易に検出できる。
【0086】
更に、ヒストグラム基準データH0は、歩行者が実際に判定されたヒストグラムデータH1に基づいて設定されるため、ヒストグラム基準データH0を適正化でき、歩行者検出精度を高めることができる。
【0087】
正規化手段13は、対象物Oまでの距離に依存せずに、サブウインドウWの大きさを正規化するため、対象物Oまでの距離に拘わらず、同じ大きさのサブウインドウWを設定でき、検出精度向上と処理の高速化が図れる。
【0088】
また、正規化手段13は、距離画像F3から所定のテンプレートを用いて対象物Oが含まれるサブウインドウWを設定するため、サブウインドウWの設定が容易になり、処理の高速化が図れる。しかも、距離画像作成手段12は、距離画像F3をモーションステレオ処理によって作成したため、単一のCCDカメラ2で距離画像F3を作成できる。
【0089】
次に、前記実施例を部分的に変更した変形例について説明する。
1〕前記実施例においては、距離画像から距離ベクトルの一次微分となる距離勾配ベクトルを用いてヒストグラムデータを作成する例を説明したが、少なくとも、歩行者検出に解析不要な画像上の情報を除去できればよく、距離画像から距離ベクトルの二次微分となる距離勾配変化率ベクトルを用いてヒストグラムデータを作成することも可能である。
【0090】
図9に示すように、小領域C(P,Q)、C(P+1,Q)、C(P,Q+1)、C(P+1,Q+1)における距離勾配変化率ベクトルΔVは、隣り合う距離勾配ベクトルV,VK+1、VK+2,VK+3の差分を取ることによって、次式のように表すことができる。
ΔV=((V―VK+1)+(VK+2−VK+3))+((V−VK+2)+(VK+1
−VK+3)) …(2)
【0091】
第1距離勾配ベクトル算出手段16と第2距離勾配ベクトル算出手段21は、式(2)に基づき距離勾配変化率ベクトルΔVを算出する。この距離勾配変化率ベクトルΔVを用いて、第1ヒストグラム作成手段17と第2ヒストグラム作成手段22は、距離勾配変化率ベクトルΔVが有する角度毎に、距離勾配変化率ベクトルΔVが有する距離勾配変化率量を累積加算したヒストグラムデータH1と学習用ヒストグラムデータH2を各セルSについて作成することができる。
【0092】
以上のように、距離勾配変化率ベクトルΔVを算出するため、幾何学的に曲率が一定とされる人工構造物(例えば電柱等)を処理負荷を増すことなく背景画像から除去することができ、歩行者判定処理の高速化と誤検出防止を図ることができる。
【0093】
また、距離勾配変化率ベクトルΔVの角度θ毎に、距離勾配変化率ベクトルΔVの絶対値|ΔV|を累積加算してヒストグラムデータH1を作成するため、距離勾配ベクトルVによる判定と同様に、形状に付随する角度毎の特徴を処理負荷を増すことなく抽出でき、更に歩行者の比較判定処理の高速化が図れる。
【0094】
2〕前記実施例においては、単独のCCDカメラを用いて対象物を検出するモーションステレオ処理の例を説明したが、複眼カメラを用いてステレオ処理で対象物を検出することも可能である。
【0095】
3〕前記実施例においては、サブウインドウ内を予め設定した2×4のセルに分割した例を説明したが、学習によって分割数の変更も可能である。また、小領域についても、同様に、学習によって分割数の変更が可能である。
【0096】
4〕その他、当業者であれば、本発明の趣旨を逸脱することなく、前記実施例に種々の変更を付加した形態で実施可能であり、本発明はそのような変更形態も包含するものである。
【産業上の利用可能性】
【0097】
本発明は、車両に搭載された撮像手段により撮像された車両前方の画像を処理して歩行者を検出する車両用歩行者検出置において、距離勾配ベクトルに関するヒストグラムを用いるため、対象物の輝度変化に影響を受けることなく形状を判定することができる。
【符号の説明】
【0098】
1 歩行者検出装置
2 CCDカメラ
12 距離画像作成手段
13 正規化手段
15 判定用セル設定手段
16 第1距離勾配ベクトル算出手段
17 第1ヒストグラム作成手段
18 歩行者判定手段
21 第2距離勾配ベクトル算出手段
22 第2ヒストグラム作成手段
O 対象物
F1 第1輝度画像
F2 第2輝度画像
F3 距離画像
W サブウインドウ
S セル
C 小領域
V 距離勾配ベクトル
ΔV 距離勾配変化率ベクトル
H0 ヒストグラム基準データ
H1 ヒストグラムデータ
H2 学習用ヒストグラムデータ



【特許請求の範囲】
【請求項1】
車両に搭載された少なくとも1つの撮像手段を備え、この撮像手段により撮像された車両前方の画像を処理して歩行者を検出する車両用歩行者検出装置において、
前記撮像画像から距離画像を作成する距離画像作成手段と、
前記距離画像に対し、所定サイズの対象物が含まれるサブウインドウを設定するサブウインドウ設定手段と、
前記サブウインドウから、前記対象物の特定領域に対応するセルを設定するセル設定手段と、
前記セルを構成するマトリックス状の複数の小領域内における距離勾配ベクトル、又は隣接する画素間の距離勾配ベクトルを算出する距離勾配ベクトル算出手段と、
前記距離勾配ベクトルに基づきヒストグラムデータを作成するヒストグラム作成手段と、
前記ヒストグラムデータを予め設定して記憶しているヒストグラム基準データと比較することにより、歩行者を判定する歩行者判定手段を備えたことを特徴とする車両用歩行者検出装置。
【請求項2】
前記距離勾配ベクトル算出手段は、更に、距離勾配変化率ベクトルを算出することを特徴とする請求項1に記載の車両用歩行者検出装置。
【請求項3】
前記ヒストグラム作成手段は、前記ベクトルが有する角度毎に、距離勾配ベクトルが有する距離変化量、または距離勾配変化率ベクトルが有する距離勾配変化率量を累積加算することによってヒストグラムデータを作成することを特徴とする請求項2に記載の車両用歩行者検出装置。
【請求項4】
前記歩行者判定手段は、前記ヒストグラムデータの特定の峰形状を前記ヒストグラム基準データにおける特定の峰形状と比較することによって歩行者を判定することを特徴とする請求項1〜3の何れか1つに記載の車両用歩行者検出装置。
【請求項5】
前記ヒストグラム作成手段は、所定の車両運転状態のとき、前記サブウインドウの全領域についてセル毎のヒストグラムデータを作成し、
前記全ヒストグラムデータのうち、前記ヒストグラム基準データに対して一致度が高いセルを新たな判定用セルに設定することを特徴とする請求項1〜4の何れか1つに記載の車両用歩行者検出装置。
【請求項6】
前記歩行者判定手段は、前記角度の特定の角度における前記累積加算量を前記ヒストグラム基準データの特定の角度における累積加算量と比較することによって歩行者を判定することを特徴とする請求項3に記載の車両用歩行者検出装置。
【請求項7】
前記ヒストグラム基準データは、歩行者が判定されたヒストグラムデータに基づいて設定されることを特徴とする請求項1に記載の車両用歩行者検出装置。
【請求項8】
前記サブウインドウ設定手段は、前記対象物までの距離に依存せずに、前記サブウインドウの大きさを正規化することを特徴とする請求項1〜7の何れか1つに記載の車両用歩行者検出装置。
【請求項9】
前記サブウインドウ設定手段は、前記距離画像から所定のテンプレートを用いて前記対象物が含まれるサブウインドウを設定したことを特徴とする請求項1〜8の何れか1つに記載の車両用歩行者検出装置。
【請求項10】
前記距離画像作成手段は、距離画像をモーションステレオ処理によって作成したことを特徴とする請求項1〜9の何れか1つに記載の車両用歩行者検出装置。







【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7】
image rotate

【図8】
image rotate

【図9】
image rotate


【公開番号】特開2010−282388(P2010−282388A)
【公開日】平成22年12月16日(2010.12.16)
【国際特許分類】
【出願番号】特願2009−134712(P2009−134712)
【出願日】平成21年6月4日(2009.6.4)
【出願人】(000003137)マツダ株式会社 (6,115)
【Fターム(参考)】