車両周辺監視装置
【課題】背景と歩行者との間の輝度差が小さく、グレースケール画像上でコントラスト差が小さい高温環境下での赤外線グレースケール画像及びその2値化画像上で、歩行者の認識精度を向上する車両周辺監視装置を提供する。
【解決手段】車両12の赤外線カメラ16により取得されるグレースケール画像を2値化画像に変換し、該2値化画像から対象物である歩行者を認識する際、高外気温下でも輝度の高い歩行者の足裏特徴を記憶する足裏特徴記憶手段と、前記2値化画像中の対象物が、前記足裏特徴を含むかどうかを判定する類似性判定手段と、該類似性判定手段により前記足裏特徴が含まれていると判定されたとき、前記対象物を歩行者であると認識する歩行者認識手段と、を備える。
【解決手段】車両12の赤外線カメラ16により取得されるグレースケール画像を2値化画像に変換し、該2値化画像から対象物である歩行者を認識する際、高外気温下でも輝度の高い歩行者の足裏特徴を記憶する足裏特徴記憶手段と、前記2値化画像中の対象物が、前記足裏特徴を含むかどうかを判定する類似性判定手段と、該類似性判定手段により前記足裏特徴が含まれていると判定されたとき、前記対象物を歩行者であると認識する歩行者認識手段と、を備える。
【発明の詳細な説明】
【技術分野】
【0001】
この発明は、赤外線カメラにより撮影した赤外線画像(グレースケール画像)と、前記グレースケール画像を変換した2値化画像に基づき、対象物の抽出を行う車両周辺監視装置に関する。
【背景技術】
【0002】
従来から、車両周辺監視装置では、赤外線カメラにより捉えられた自車両周辺の画像(グレースケール画像とその2値化画像)から、自車両との接触の可能性がある歩行者等の対象物の情報を抽出し、その情報を自車両の運転者に提供する。
【0003】
この装置では、左右一組の赤外線カメラ(ステレオカメラ)が撮影した自車両周辺の画像において温度が高い部分を前記対象物にすると共に、左右画像中の対象物の視差を求めることにより該対象物までの距離を算出し、対象物の移動方向や対象物の位置から、自車両の走行に影響を与えそうな対象物を検出して警報を出力する(特許文献1、2参照。)。
【0004】
そして、特許文献1に係る装置では、2値化画像上の対象物の特徴量と、グレースケール画像上の対象物の特徴量との比較結果に基づいて、対象物画像の輝度分散の採否等を判定し、歩行者の認識処理方法を変更するようにして、歩行者認識の信頼性を向上させている(特許文献1の段落[0142]〜[0144])。
【0005】
また、特許文献2に係る装置では、赤外線画像上で、検出対象者の頭部位置を判別し、この赤外線画像内の頭部位置の情報に基づき、赤外線画像上での検出対象者の身体に相当する領域を決定する。そして、検出対象者の身体に相当する領域を他の領域と区別できるように強調処理し、この赤外線画像を表示モニタに表示する。表示モニタに表示される赤外線画像では歩行者のような検出対象者の身体全体を区分して強調表示できるようになる。(特許文献2の図7、図11)。
【先行技術文献】
【特許文献】
【0006】
【特許文献1】特開2005−79999号公報
【特許文献2】特許第4135123号
【発明の概要】
【発明が解決しようとする課題】
【0007】
上記した従来技術に係る車両周辺監視装置は、夜間走行時に、対象物として検出した見えにくい前方の歩行者を映像で表示できる。
【0008】
ところで、上記従来技術に係る車両周辺監視装置においては、夜間の常温下においては、図11に示すように、グレースケール画像1及びその2値化画像2ともに、歩行者を明確に視認することができる。
【0009】
しかしながら、外気温が例えば30[℃]程度以上の夜間の高外気温下においては、図12に示すように、グレースケール画像3では、歩行者と背景との間のコントラスト値(階調値差)が低下し、その2値化画像4では、輝度の高い部分に対応する歩行者部分の画像面積が少なくなって、歩行者の頭部や脚部の特徴を抽出することができなくなり、結果として歩行者を検出することができなく、改善の余地がある。
【0010】
この発明はこのような課題を考慮してなされたものであり、高外気温下においても、歩行者を検出することを可能とする車両周辺監視装置を提供することを目的とする。
【課題を解決するための手段】
【0011】
この発明に係る車両周辺監視装置は、車両に搭載された赤外線カメラにより取得されるグレースケール画像を2値化画像に変換し、該2値化画像から対象物である歩行者を認識する車両周辺監視装置であって、歩行者の足裏特徴を記憶する足裏特徴記憶手段と、前記2値化画像中の対象物が、前記足裏特徴を含むかどうかを判定する類似性判定手段と、該類似性判定手段により前記足裏特徴が含まれていると判定されたとき、前記対象物を歩行者であると認識する歩行者認識手段と、を備えることを特徴とする。
【0012】
この発明によれば、2値化画像中の対象物が、足裏特徴を含むかどうかを判定し、前記足裏特徴が含まれていると判定したとき、前記対象物を歩行者であると認識するようにしているので、足裏特徴に基づき歩行者を認識することができる。なお、足裏特徴は、例えば、時系列に大小の面積変化を繰り返す左右2つの物体であると捉えることができる。そして、左右2つの物体の面積変化は、略逆位相である点に特徴がある。
【0013】
この場合、前記グレースケール画像の取得時の外気温度を取得する外気温度取得手段をさらに備え、取得された前記外気温度が閾値を上回る温度であるとき、前記類似性判定手段による処理及び前記歩行者認識手段による処理を行うことで、高外気温下では、足裏特徴を利用して歩行者認識精度を向上させることができる。
【0014】
ここで、前記外気温度取得手段は、前記グレースケール画像のコントラスト値に基づき、コントラスト値が低いときに高外気温であると推定することで、前記外気温度が推定でき、温度センサが不要になる。温度センサにより外気温度(外気温)を検出するようにしてもよい。
【0015】
この発明に係る車両周辺監視装置は、車両に搭載された赤外線カメラにより取得されるグレースケール画像を2値化画像に変換し、該2値化画像から対象物である歩行者を認識する車両周辺監視装置であって、歩行者の足裏特徴を記憶する足裏特徴記憶手段と、前記足裏特徴以外の前記歩行者の特徴を記憶する歩行者特徴記憶手段と、前記2値化画像から前記足裏特徴及び前記歩行者特徴に基づき、前記対象物を歩行者として認識する歩行者認識手段と、前記グレースケール画像取得時の外気温度を検出する外気温度検出手段と、を備え、前記歩行者認識手段は、検出された前記外気温度が高い温度になるに従い、前記足裏特徴の重みを増大させて、前記対象物を歩行者として認識することを特徴とする。
【0016】
この発明によれば、2値化画像から足裏特徴及び歩行者特徴に基づき、対象物を歩行者として認識する際に、外気温度が高い温度になるに従い、足裏特徴の重みを増大させて、認識するようにしているので、常温下以下の気温及び高外気温下の両方で歩行者認識精度を向上させることができる。
【発明の効果】
【0017】
この発明によれば、赤外線画像(グレースケール画像)における背景輝度と歩行者の輝度の輝度差が相対的に低下する高外気温下であっても安定して歩行者を認識することができる。
【図面の簡単な説明】
【0018】
【図1】この発明の一実施形態に係る車両周辺監視装置の構成を示すブロック図である。
【図2】図1例の車両周辺監視装置が搭載された車両の模式図である。
【図3】外気温に対応する足裏等各部の輝度変化を示す特性図である。
【図4】図4Aは冬季のグレースケール画像、図4Bは春季のグレースケール画像、図4Cは夏季のグレースケール画像の例示図である。
【図5】図5Aは、高温下でのグレースケール画像の例示図、図5Bはその2値化画像の図である。
【図6】足裏特徴中、時系列特徴の説明図である。
【図7】高外気温下における歩行者のグレースケール画像及び各グレースケール画像に対応する2値化画像の例示図である。
【図8】足裏特徴の使用条件の説明図である。
【図9】足裏面積の時間的変化説明図である。
【図10】画像処理ユニットによる歩行者等の対象物の対象物検出・判定動作を示すフローチャートである。
【図11】常温下におけるグレースケール画像と2値化画像の説明図である。
【図12】高外気温下におけるグレースケール画像と2値化画像の説明図である。
【発明を実施するための形態】
【0019】
以下、この発明の実施形態について図面を参照して説明する。
【0020】
(全体構成)
図1は、この発明の一実施例に係る車両周辺監視装置10の構成を示すブロック図である。図2は、図1に示す車両周辺監視装置10が搭載された車両12の模式図である。
【0021】
図1及び図2において、車両周辺監視装置10は、該車両周辺監視装置10を制御する画像処理ユニット14と、この画像処理ユニット14に接続される左右の赤外線カメラ16R、16Lと、車両12の車速Vsを検出する車速センサ18と、運転者によるブレーキペダルの操作量(ブレーキ操作量)Brを検出するブレーキセンサ20と、車両12のヨーレートYrを検出するヨーレートセンサ22と、車両12が置かれている外気温度(気温、環境温度)Taを検出する温度センサ28と、音声で警報等を発するためのスピーカ24と、赤外線カメラ16R、16Lにより撮影された画像を表示し、接触の危険性が高い歩行者等の対象物(移動対象物)を車両の運転者に認識させるためのHUD(Head Up Display)26a等を含む画像表示装置26と、を備える。
【0022】
画像表示装置26としては、HUD26aに限らず、ナビゲーションシステムのディスプレイを利用することができる。
【0023】
画像処理ユニット14は、車両12の周辺の赤外線画像と車両の走行状態を示す信号(ここでは、車速Vs、ブレーキ操作量Br及びヨーレートYr)とから、車両前方の歩行者等の動く物体を検出し、接触の可能性が高いと判断したときに警報を発する。
【0024】
ここで、画像処理ユニット14は、入力アナログ信号をデジタル信号に変換するA/D変換回路、デジタル化した画像信号を記憶する画像メモリ(記憶部14m)、各種演算処理を行うCPU(中央処理装置)14c、CPU14cが演算途中のデータを記憶するために使用するRAM(Random Access Memory)やCPU14cが実行するプログラムやテーブル、マップなどを記憶するROM(Read Only Memory)等の記憶部14m、スピーカ24の駆動信号と画像表示装置26の表示信号などを出力する出力回路等を備えており、赤外線カメラ16R、16L、ヨーレートセンサ22、車速センサ18、ブレーキセンサ20、及び温度センサ28の各出力信号は、デジタル信号に変換されてCPU14cに入力されるように構成されている。
【0025】
画像処理ユニット14のCPU14cは、これらデジタル信号を取り込んでプログラムを実行することで、後述する各種機能手段(機能部ともいう。)として機能し、スピーカ24及び画像表示装置26に駆動信号(音声信号や表示信号)を送出する。
【0026】
いわゆるステレオカメラとして機能する赤外線カメラ16R、16Lは、図2に示すように、自車両12の前部バンパー部に、自車両12の車幅方向中心部に対してほぼ対称な位置に配置されており、2つの赤外線カメラ16R、16Lの光軸が互いに平行であって、かつ両者の路面からの高さが等しくなるように固定されている。なお、赤外線カメラ16R、16Lは、対象物の温度が高いほど、その出力信号レベルが高くなる(輝度が増加する)特性を有している。
【0027】
また、HUD26aは、自車両12のフロントウインドシールドの運転者の前方視界を妨げない位置に表示画面が表示されるように設けられている。
【0028】
ここで、歩行者特徴と足裏特徴について説明する。
【0029】
図3の赤外線画像(グレースケール画像)の測定例に示すように、冬季(ここでは、2[℃])、春季(ここでは、21[℃])、及び夏季(ここでは、33[℃])において、外気温上昇に伴い、頭部や脚部は輝度(輝度全階調は、赤外線画像の0−255階調)が逆比例的に大きく低下する傾向にあるが、足裏の輝度は略一定で安定していることが分かる。足裏は、靴を履いたときに靴が直接地面に当たる靴底(靴のいわゆる外底)であり、図3において、外気温上昇に伴い足裏の輝度が若干増加しているのは、アスファルト等の路面の熱の影響が靴底に伝達されるものと推定される。
【0030】
図4A、図4B、図4Cは、それぞれ、赤外線カメラ16R、16Lにより撮影された図3の特性を測定したときの赤外線画像であって、冬季(2[℃])、春季(21[℃])、及び夏季(33[℃])の各グレースケール画像32、34、36を示している。夏季(33[℃])のグレースケール画像36において、コントラスト値が最も低いことが分かる。各グレースケール画像32、34、36中に記入している四角付き数字は、図3の測定点の輝度を示している。
【0031】
赤外線撮影において、歩行者は、背景より輝度が大きいので、図5Aに示す赤外線画像のグレースケール画像38中、大きさが人の大きさに対応する輝度の高い部分の破線で描いている外接四角形を歩行者注目領域40として検出することができる。そして、前記グレースケール画像38中の歩行者注目領域40に対応する前記外接四角形内の図5Bに示す2値化画像44において動き(移動)のあるものを歩行者として認識する。なお、2値化画像44には、上半身側の高輝度部分として、頭部44a、手部44b、44cが現れている。また、2値化画像44には、下半身の高輝度部分として、脚部46a、46b、及び一方の足裏48が現れている。
【0032】
グレースケール画像38中での外接四角形で表される特徴、及び2値化画像44中の動きで認識される特徴{頭部44aは、地面(路面)からの高さは略一定で、手部44b、44cは周期的に上下に移動する等}は、歩行者特徴として、画像処理ユニット14のROM(記憶部14m)に予め記憶される。
【0033】
足裏48の大きさは、身長から概ね見当がつくので、ここでは、グレースケール画像38及び2値化画像44において、外接四角形で表される歩行者注目領域40のうち、略下側1/5の部分(四角形)を足裏注目領域42として認識する。
【0034】
そして、2値化画像44の足裏注目領域42において、図6に示すように、足裏特徴が時系列的に周期(歩行者相当の周期Tp)的に現われているとき、歩行者であると認識する。
【0035】
足裏特徴が周期的に現れる理由について、車両12の赤外線カメラ16R、16Lから見て、後ろ向きに歩いている歩行者を表す図7の上段に示す時系列的に並べたグレースケール画像60a〜60f及びこれらの画像にそれぞれ対応する下段に示す2値化画像62a〜62fを参照して説明する。
【0036】
図7の時点t1、t3で右足の足裏48aが現れ、時点t2で左足の足裏48bが現れることが分かる。そして、時点t1と時点t2の中間点並びに時点t2と時点t3の中間点では足裏48が現れない(検出されない)ことが分かる。このような理由から歩行者の歩行速度に対応して、前記足裏特徴が周期的に現れる。
【0037】
なお、上述した足裏の時系列的特徴は、図8に示すように、歩行者64の歩行方向(移動ベクトル)が、車両12の移動方向(移動ベクトル)と同じであることを前提条件として検出することができる。
【0038】
図8中、車両12の赤外線カメラ16R、16Lにより撮影した歩行者64の背面のグレースケール画像60g及び正面のグレースケール画像60hにおいて、足裏48(右足裏48a、左足裏48b)が見えていることが分かる。なお、赤外線カメラ16R、16Lからみて車両12を横切る方向に進行する歩行者の足裏特徴は撮影できないので、この実施形態では対象としていない。
【0039】
足裏の時系列的特徴について、さらに、図9を参照して説明すると、画像上の足裏48の面積は、正弦波的な振幅変化70を有する。足裏48の全面が見えているとき、面積は最大面積Aallになり、足裏48が接地していて略見えないとき最小面積A0になる。しかも、足裏は左右交互に見える点に留意する。換言すれば、足裏特徴は、時系列に大小の面積変化を繰り返す左右2つの物体であり、左右2つの物体の面積変化は略逆位相であることが分かる。
【0040】
上述した足裏の位置的特徴{第1に、足裏は地面からの高さが低い位置にある点、第2に、身長と足裏の高さに相関関係があり身長から足裏の長さ(高さ)が予測される点}及び足裏の時系列的特徴{第3に、足裏は左右交互に現れる点、第4に足裏が現れるのは車両12と歩行者64の移動ベクトルが同方向であることを前提とする点、第5に足裏は歩行者相当の周期Tpで周期的に現れる点、第6に足裏面積が正弦波的な大小変化を有している点}からなる特徴は、足裏特徴として、画像処理ユニット14のROM(記憶部14m)に予め記憶される。
【0041】
次に、本実施形態の動作について図面を参照して説明する。
【0042】
(対象物検出、判定動作)
図10は、画像処理ユニット14による歩行者等の対象物の対象物検出・判定動作を示すフローチャートである。
【0043】
図10のステップS1において、画像処理ユニット14は、赤外線カメラ16R、16Lによりフレーム毎に撮影された車両前方の所定画角範囲の前記フレーム毎の出力信号である赤外線画像を取得し、A/D変換し、グレースケール画像を画像メモリに格納する。なお、赤外線カメラ16Rによりグレースケール右画像が得られ、赤外線カメラ16Lによりグレースケール左画像が得られる。また、グレースケール右画像とグレースケール左画像では、同一の対象物の表示画面上の水平位置がずれて表示されるので、このずれ(視差)により対象物までの距離を算出することができる。
【0044】
また、そのステップS1において、グレースケール画像が得られたら、次に、赤外線カメラ16Rにより得られたグレースケール右画像を基準画像とし、その画像信号の2値化処理、すなわち、輝度閾値より明るい領域を「1」(白)とし、暗い領域を「0」(黒)とする処理を行い、撮影したフレーム毎にグレースケール画像に対応する2値化画像を得る。
【0045】
次いで、ステップS2において、経時的にフレーム毎に得られるグレースケール画像及び2値化画像から、温度の高い部分の動体(動いているもの)を対象物として検出し、動体の移動ベクトル(速度と方向)を検出する。
【0046】
次いで、ステップS3において、ブレーキセンサ20、車速センサ18、及びヨーレートセンサ22の各出力であるブレーキ操作量Br、車速Vs、ヨーレートYrと、ステップS2で検出した対象物までの距離とに基づき、当該車両12が検出した対象物に接触の可能性があるかどうかを判定し、接触の可能性があると判定した場合には、さらに処理を継続する。
【0047】
ステップS4において、図5A、図5Bを参照して説明したように、映像注目領域を設定する。すなわち、グレースケール画像38及び2値化画像44中に、それぞれ、外接四角形に略体操する歩行者注目領域40と足裏注目領域42を設定する。
【0048】
次に、ステップS5において、フレーム毎に得られる2値化画像44の足裏注目領域42から上述した足裏特徴を抽出する。
【0049】
次いで、ステップS6において、抽出した足裏特徴に、図6、図7、及び図8を参照して説明した時系列的特徴(足裏特徴が左右交互に、周期的に、かつ必要であれば面積が正弦波的に増減しているかの特徴)が存在するかどうかを判定する。時系列的特徴を有していない場合には、ステップS1にもどる。
【0050】
時系列特徴を有していると判定した場合には、ステップS7において、上述した歩行者特徴(身長が歩行者の身長に対応するか、上半身形状及び下半身形状と推定される部分が存在するか等)を有するかどうかを判定する。
【0051】
歩行者特徴を有する場合には、ステップS8において運転者に情報を提供する。具体的には、当該歩行者のグレースケール画像をHUD26aに表示するとともに、スピーカ24を通じて警報を発生し、車両12の運転者に接触の回避操作を促す。
【0052】
以上説明したように上述した実施形態に係る車両周辺監視装置10は、車両12に搭載された赤外線カメラ16により取得されるグレースケール画像を2値化画像に変換し、該2値化画像から対象物である歩行者を認識する際、歩行者の足裏特徴を記憶する足裏特徴記憶手段(画像処理ユニット14の中の記憶部14m)と、前記2値化画像中の対象物が、前記足裏特徴を含むかどうかを判定する類似性判定手段(ステップS5、S6)と、該類似性判定手段により前記足裏特徴が含まれていると判定されたとき、前記対象物を歩行者であると認識する歩行者認識手段(ステップS7)と、を備える。
【0053】
このように、2値化画像中の対象物が、足裏特徴を含むかどうかを判定し、前記足裏特徴が含まれていると判定したとき、前記対象物を歩行者であると認識するようにしているので、足裏特徴に基づき歩行者を認識することができる。
【0054】
この場合、前記グレースケール画像の取得時の外気温度Taを取得する外気温度取得手段をさらに備え、取得された前記外気温度Taが閾値、例えば30[℃]を上回る温度であるとき、前記類似性判定手段(ステップS5、S6)による処理を行うことで、高外気温度下でも、足裏特徴を利用して歩行者認識精度を向上させることができる。
【0055】
ここで、前記外気温度取得手段は、前記グレースケール画像の輝度差(コントラスト値)に基づいて、例えば、コントラスト値が閾値以下である場合に高外気温下であると外気温度Taを推定することで、温度センサ28が不要になるが、温度センサ28により外気温度Taを検出してもよい。
【0056】
また、車両周辺監視装置10は、車両12に搭載された赤外線カメラ16R、16Lにより取得されるグレースケール画像を2値化画像に変換し、該2値化画像から対象物である歩行者を認識する際に、歩行者の足裏特徴を記憶する足裏特徴記憶手段(画像処理ユニット14の中の記憶部14m)と、前記足裏特徴以外の前記歩行者特徴を記憶する歩行者特徴記憶手段(画像処理ユニット14の中の記憶部14m)と、前記2値化画像から前記足裏特徴及び前記歩行者特徴に基づき、前記対象物を歩行者として認識する歩行者認識手段(ステップS7)と、前記グレースケール画像取得時の外気温度を検出する外気温度検出手段(上述したコントラスト値又は温度センサ28により検出した外気温度Ta)と、を備え、前記歩行者認識手段(ステップS7)は、検出された外気温度Taが高い温度になるに従い、前記足裏特徴の重みを増大させて、前記対象物を歩行者として認識する。
【0057】
このように、外気温度Taが高い温度になるに従い、足裏特徴の重みを増大させて、対象物を歩行者として認識するようにすれば、常温下以下の気温及び高外気温下の気温の全気温下で歩行者認識精度を向上させることができる。そして、グレースケール画像上で、背景輝度に対して歩行者の輝度が相対的に低下する高外気温下であっても安定的に歩行者を認識することができる。
【0058】
なお、この発明は、上述の実施形態に限らず、この明細書の記載内容に基づき、種々の構成を採り得ることはもちろんである。
【符号の説明】
【0059】
10…車両周辺監視装置 12…車両
14…画像処理ユニット 16R、16L…赤外線カメラ
26…表示装置 26a…HUD
40…歩行者注目領域 42…足裏注目領域
【技術分野】
【0001】
この発明は、赤外線カメラにより撮影した赤外線画像(グレースケール画像)と、前記グレースケール画像を変換した2値化画像に基づき、対象物の抽出を行う車両周辺監視装置に関する。
【背景技術】
【0002】
従来から、車両周辺監視装置では、赤外線カメラにより捉えられた自車両周辺の画像(グレースケール画像とその2値化画像)から、自車両との接触の可能性がある歩行者等の対象物の情報を抽出し、その情報を自車両の運転者に提供する。
【0003】
この装置では、左右一組の赤外線カメラ(ステレオカメラ)が撮影した自車両周辺の画像において温度が高い部分を前記対象物にすると共に、左右画像中の対象物の視差を求めることにより該対象物までの距離を算出し、対象物の移動方向や対象物の位置から、自車両の走行に影響を与えそうな対象物を検出して警報を出力する(特許文献1、2参照。)。
【0004】
そして、特許文献1に係る装置では、2値化画像上の対象物の特徴量と、グレースケール画像上の対象物の特徴量との比較結果に基づいて、対象物画像の輝度分散の採否等を判定し、歩行者の認識処理方法を変更するようにして、歩行者認識の信頼性を向上させている(特許文献1の段落[0142]〜[0144])。
【0005】
また、特許文献2に係る装置では、赤外線画像上で、検出対象者の頭部位置を判別し、この赤外線画像内の頭部位置の情報に基づき、赤外線画像上での検出対象者の身体に相当する領域を決定する。そして、検出対象者の身体に相当する領域を他の領域と区別できるように強調処理し、この赤外線画像を表示モニタに表示する。表示モニタに表示される赤外線画像では歩行者のような検出対象者の身体全体を区分して強調表示できるようになる。(特許文献2の図7、図11)。
【先行技術文献】
【特許文献】
【0006】
【特許文献1】特開2005−79999号公報
【特許文献2】特許第4135123号
【発明の概要】
【発明が解決しようとする課題】
【0007】
上記した従来技術に係る車両周辺監視装置は、夜間走行時に、対象物として検出した見えにくい前方の歩行者を映像で表示できる。
【0008】
ところで、上記従来技術に係る車両周辺監視装置においては、夜間の常温下においては、図11に示すように、グレースケール画像1及びその2値化画像2ともに、歩行者を明確に視認することができる。
【0009】
しかしながら、外気温が例えば30[℃]程度以上の夜間の高外気温下においては、図12に示すように、グレースケール画像3では、歩行者と背景との間のコントラスト値(階調値差)が低下し、その2値化画像4では、輝度の高い部分に対応する歩行者部分の画像面積が少なくなって、歩行者の頭部や脚部の特徴を抽出することができなくなり、結果として歩行者を検出することができなく、改善の余地がある。
【0010】
この発明はこのような課題を考慮してなされたものであり、高外気温下においても、歩行者を検出することを可能とする車両周辺監視装置を提供することを目的とする。
【課題を解決するための手段】
【0011】
この発明に係る車両周辺監視装置は、車両に搭載された赤外線カメラにより取得されるグレースケール画像を2値化画像に変換し、該2値化画像から対象物である歩行者を認識する車両周辺監視装置であって、歩行者の足裏特徴を記憶する足裏特徴記憶手段と、前記2値化画像中の対象物が、前記足裏特徴を含むかどうかを判定する類似性判定手段と、該類似性判定手段により前記足裏特徴が含まれていると判定されたとき、前記対象物を歩行者であると認識する歩行者認識手段と、を備えることを特徴とする。
【0012】
この発明によれば、2値化画像中の対象物が、足裏特徴を含むかどうかを判定し、前記足裏特徴が含まれていると判定したとき、前記対象物を歩行者であると認識するようにしているので、足裏特徴に基づき歩行者を認識することができる。なお、足裏特徴は、例えば、時系列に大小の面積変化を繰り返す左右2つの物体であると捉えることができる。そして、左右2つの物体の面積変化は、略逆位相である点に特徴がある。
【0013】
この場合、前記グレースケール画像の取得時の外気温度を取得する外気温度取得手段をさらに備え、取得された前記外気温度が閾値を上回る温度であるとき、前記類似性判定手段による処理及び前記歩行者認識手段による処理を行うことで、高外気温下では、足裏特徴を利用して歩行者認識精度を向上させることができる。
【0014】
ここで、前記外気温度取得手段は、前記グレースケール画像のコントラスト値に基づき、コントラスト値が低いときに高外気温であると推定することで、前記外気温度が推定でき、温度センサが不要になる。温度センサにより外気温度(外気温)を検出するようにしてもよい。
【0015】
この発明に係る車両周辺監視装置は、車両に搭載された赤外線カメラにより取得されるグレースケール画像を2値化画像に変換し、該2値化画像から対象物である歩行者を認識する車両周辺監視装置であって、歩行者の足裏特徴を記憶する足裏特徴記憶手段と、前記足裏特徴以外の前記歩行者の特徴を記憶する歩行者特徴記憶手段と、前記2値化画像から前記足裏特徴及び前記歩行者特徴に基づき、前記対象物を歩行者として認識する歩行者認識手段と、前記グレースケール画像取得時の外気温度を検出する外気温度検出手段と、を備え、前記歩行者認識手段は、検出された前記外気温度が高い温度になるに従い、前記足裏特徴の重みを増大させて、前記対象物を歩行者として認識することを特徴とする。
【0016】
この発明によれば、2値化画像から足裏特徴及び歩行者特徴に基づき、対象物を歩行者として認識する際に、外気温度が高い温度になるに従い、足裏特徴の重みを増大させて、認識するようにしているので、常温下以下の気温及び高外気温下の両方で歩行者認識精度を向上させることができる。
【発明の効果】
【0017】
この発明によれば、赤外線画像(グレースケール画像)における背景輝度と歩行者の輝度の輝度差が相対的に低下する高外気温下であっても安定して歩行者を認識することができる。
【図面の簡単な説明】
【0018】
【図1】この発明の一実施形態に係る車両周辺監視装置の構成を示すブロック図である。
【図2】図1例の車両周辺監視装置が搭載された車両の模式図である。
【図3】外気温に対応する足裏等各部の輝度変化を示す特性図である。
【図4】図4Aは冬季のグレースケール画像、図4Bは春季のグレースケール画像、図4Cは夏季のグレースケール画像の例示図である。
【図5】図5Aは、高温下でのグレースケール画像の例示図、図5Bはその2値化画像の図である。
【図6】足裏特徴中、時系列特徴の説明図である。
【図7】高外気温下における歩行者のグレースケール画像及び各グレースケール画像に対応する2値化画像の例示図である。
【図8】足裏特徴の使用条件の説明図である。
【図9】足裏面積の時間的変化説明図である。
【図10】画像処理ユニットによる歩行者等の対象物の対象物検出・判定動作を示すフローチャートである。
【図11】常温下におけるグレースケール画像と2値化画像の説明図である。
【図12】高外気温下におけるグレースケール画像と2値化画像の説明図である。
【発明を実施するための形態】
【0019】
以下、この発明の実施形態について図面を参照して説明する。
【0020】
(全体構成)
図1は、この発明の一実施例に係る車両周辺監視装置10の構成を示すブロック図である。図2は、図1に示す車両周辺監視装置10が搭載された車両12の模式図である。
【0021】
図1及び図2において、車両周辺監視装置10は、該車両周辺監視装置10を制御する画像処理ユニット14と、この画像処理ユニット14に接続される左右の赤外線カメラ16R、16Lと、車両12の車速Vsを検出する車速センサ18と、運転者によるブレーキペダルの操作量(ブレーキ操作量)Brを検出するブレーキセンサ20と、車両12のヨーレートYrを検出するヨーレートセンサ22と、車両12が置かれている外気温度(気温、環境温度)Taを検出する温度センサ28と、音声で警報等を発するためのスピーカ24と、赤外線カメラ16R、16Lにより撮影された画像を表示し、接触の危険性が高い歩行者等の対象物(移動対象物)を車両の運転者に認識させるためのHUD(Head Up Display)26a等を含む画像表示装置26と、を備える。
【0022】
画像表示装置26としては、HUD26aに限らず、ナビゲーションシステムのディスプレイを利用することができる。
【0023】
画像処理ユニット14は、車両12の周辺の赤外線画像と車両の走行状態を示す信号(ここでは、車速Vs、ブレーキ操作量Br及びヨーレートYr)とから、車両前方の歩行者等の動く物体を検出し、接触の可能性が高いと判断したときに警報を発する。
【0024】
ここで、画像処理ユニット14は、入力アナログ信号をデジタル信号に変換するA/D変換回路、デジタル化した画像信号を記憶する画像メモリ(記憶部14m)、各種演算処理を行うCPU(中央処理装置)14c、CPU14cが演算途中のデータを記憶するために使用するRAM(Random Access Memory)やCPU14cが実行するプログラムやテーブル、マップなどを記憶するROM(Read Only Memory)等の記憶部14m、スピーカ24の駆動信号と画像表示装置26の表示信号などを出力する出力回路等を備えており、赤外線カメラ16R、16L、ヨーレートセンサ22、車速センサ18、ブレーキセンサ20、及び温度センサ28の各出力信号は、デジタル信号に変換されてCPU14cに入力されるように構成されている。
【0025】
画像処理ユニット14のCPU14cは、これらデジタル信号を取り込んでプログラムを実行することで、後述する各種機能手段(機能部ともいう。)として機能し、スピーカ24及び画像表示装置26に駆動信号(音声信号や表示信号)を送出する。
【0026】
いわゆるステレオカメラとして機能する赤外線カメラ16R、16Lは、図2に示すように、自車両12の前部バンパー部に、自車両12の車幅方向中心部に対してほぼ対称な位置に配置されており、2つの赤外線カメラ16R、16Lの光軸が互いに平行であって、かつ両者の路面からの高さが等しくなるように固定されている。なお、赤外線カメラ16R、16Lは、対象物の温度が高いほど、その出力信号レベルが高くなる(輝度が増加する)特性を有している。
【0027】
また、HUD26aは、自車両12のフロントウインドシールドの運転者の前方視界を妨げない位置に表示画面が表示されるように設けられている。
【0028】
ここで、歩行者特徴と足裏特徴について説明する。
【0029】
図3の赤外線画像(グレースケール画像)の測定例に示すように、冬季(ここでは、2[℃])、春季(ここでは、21[℃])、及び夏季(ここでは、33[℃])において、外気温上昇に伴い、頭部や脚部は輝度(輝度全階調は、赤外線画像の0−255階調)が逆比例的に大きく低下する傾向にあるが、足裏の輝度は略一定で安定していることが分かる。足裏は、靴を履いたときに靴が直接地面に当たる靴底(靴のいわゆる外底)であり、図3において、外気温上昇に伴い足裏の輝度が若干増加しているのは、アスファルト等の路面の熱の影響が靴底に伝達されるものと推定される。
【0030】
図4A、図4B、図4Cは、それぞれ、赤外線カメラ16R、16Lにより撮影された図3の特性を測定したときの赤外線画像であって、冬季(2[℃])、春季(21[℃])、及び夏季(33[℃])の各グレースケール画像32、34、36を示している。夏季(33[℃])のグレースケール画像36において、コントラスト値が最も低いことが分かる。各グレースケール画像32、34、36中に記入している四角付き数字は、図3の測定点の輝度を示している。
【0031】
赤外線撮影において、歩行者は、背景より輝度が大きいので、図5Aに示す赤外線画像のグレースケール画像38中、大きさが人の大きさに対応する輝度の高い部分の破線で描いている外接四角形を歩行者注目領域40として検出することができる。そして、前記グレースケール画像38中の歩行者注目領域40に対応する前記外接四角形内の図5Bに示す2値化画像44において動き(移動)のあるものを歩行者として認識する。なお、2値化画像44には、上半身側の高輝度部分として、頭部44a、手部44b、44cが現れている。また、2値化画像44には、下半身の高輝度部分として、脚部46a、46b、及び一方の足裏48が現れている。
【0032】
グレースケール画像38中での外接四角形で表される特徴、及び2値化画像44中の動きで認識される特徴{頭部44aは、地面(路面)からの高さは略一定で、手部44b、44cは周期的に上下に移動する等}は、歩行者特徴として、画像処理ユニット14のROM(記憶部14m)に予め記憶される。
【0033】
足裏48の大きさは、身長から概ね見当がつくので、ここでは、グレースケール画像38及び2値化画像44において、外接四角形で表される歩行者注目領域40のうち、略下側1/5の部分(四角形)を足裏注目領域42として認識する。
【0034】
そして、2値化画像44の足裏注目領域42において、図6に示すように、足裏特徴が時系列的に周期(歩行者相当の周期Tp)的に現われているとき、歩行者であると認識する。
【0035】
足裏特徴が周期的に現れる理由について、車両12の赤外線カメラ16R、16Lから見て、後ろ向きに歩いている歩行者を表す図7の上段に示す時系列的に並べたグレースケール画像60a〜60f及びこれらの画像にそれぞれ対応する下段に示す2値化画像62a〜62fを参照して説明する。
【0036】
図7の時点t1、t3で右足の足裏48aが現れ、時点t2で左足の足裏48bが現れることが分かる。そして、時点t1と時点t2の中間点並びに時点t2と時点t3の中間点では足裏48が現れない(検出されない)ことが分かる。このような理由から歩行者の歩行速度に対応して、前記足裏特徴が周期的に現れる。
【0037】
なお、上述した足裏の時系列的特徴は、図8に示すように、歩行者64の歩行方向(移動ベクトル)が、車両12の移動方向(移動ベクトル)と同じであることを前提条件として検出することができる。
【0038】
図8中、車両12の赤外線カメラ16R、16Lにより撮影した歩行者64の背面のグレースケール画像60g及び正面のグレースケール画像60hにおいて、足裏48(右足裏48a、左足裏48b)が見えていることが分かる。なお、赤外線カメラ16R、16Lからみて車両12を横切る方向に進行する歩行者の足裏特徴は撮影できないので、この実施形態では対象としていない。
【0039】
足裏の時系列的特徴について、さらに、図9を参照して説明すると、画像上の足裏48の面積は、正弦波的な振幅変化70を有する。足裏48の全面が見えているとき、面積は最大面積Aallになり、足裏48が接地していて略見えないとき最小面積A0になる。しかも、足裏は左右交互に見える点に留意する。換言すれば、足裏特徴は、時系列に大小の面積変化を繰り返す左右2つの物体であり、左右2つの物体の面積変化は略逆位相であることが分かる。
【0040】
上述した足裏の位置的特徴{第1に、足裏は地面からの高さが低い位置にある点、第2に、身長と足裏の高さに相関関係があり身長から足裏の長さ(高さ)が予測される点}及び足裏の時系列的特徴{第3に、足裏は左右交互に現れる点、第4に足裏が現れるのは車両12と歩行者64の移動ベクトルが同方向であることを前提とする点、第5に足裏は歩行者相当の周期Tpで周期的に現れる点、第6に足裏面積が正弦波的な大小変化を有している点}からなる特徴は、足裏特徴として、画像処理ユニット14のROM(記憶部14m)に予め記憶される。
【0041】
次に、本実施形態の動作について図面を参照して説明する。
【0042】
(対象物検出、判定動作)
図10は、画像処理ユニット14による歩行者等の対象物の対象物検出・判定動作を示すフローチャートである。
【0043】
図10のステップS1において、画像処理ユニット14は、赤外線カメラ16R、16Lによりフレーム毎に撮影された車両前方の所定画角範囲の前記フレーム毎の出力信号である赤外線画像を取得し、A/D変換し、グレースケール画像を画像メモリに格納する。なお、赤外線カメラ16Rによりグレースケール右画像が得られ、赤外線カメラ16Lによりグレースケール左画像が得られる。また、グレースケール右画像とグレースケール左画像では、同一の対象物の表示画面上の水平位置がずれて表示されるので、このずれ(視差)により対象物までの距離を算出することができる。
【0044】
また、そのステップS1において、グレースケール画像が得られたら、次に、赤外線カメラ16Rにより得られたグレースケール右画像を基準画像とし、その画像信号の2値化処理、すなわち、輝度閾値より明るい領域を「1」(白)とし、暗い領域を「0」(黒)とする処理を行い、撮影したフレーム毎にグレースケール画像に対応する2値化画像を得る。
【0045】
次いで、ステップS2において、経時的にフレーム毎に得られるグレースケール画像及び2値化画像から、温度の高い部分の動体(動いているもの)を対象物として検出し、動体の移動ベクトル(速度と方向)を検出する。
【0046】
次いで、ステップS3において、ブレーキセンサ20、車速センサ18、及びヨーレートセンサ22の各出力であるブレーキ操作量Br、車速Vs、ヨーレートYrと、ステップS2で検出した対象物までの距離とに基づき、当該車両12が検出した対象物に接触の可能性があるかどうかを判定し、接触の可能性があると判定した場合には、さらに処理を継続する。
【0047】
ステップS4において、図5A、図5Bを参照して説明したように、映像注目領域を設定する。すなわち、グレースケール画像38及び2値化画像44中に、それぞれ、外接四角形に略体操する歩行者注目領域40と足裏注目領域42を設定する。
【0048】
次に、ステップS5において、フレーム毎に得られる2値化画像44の足裏注目領域42から上述した足裏特徴を抽出する。
【0049】
次いで、ステップS6において、抽出した足裏特徴に、図6、図7、及び図8を参照して説明した時系列的特徴(足裏特徴が左右交互に、周期的に、かつ必要であれば面積が正弦波的に増減しているかの特徴)が存在するかどうかを判定する。時系列的特徴を有していない場合には、ステップS1にもどる。
【0050】
時系列特徴を有していると判定した場合には、ステップS7において、上述した歩行者特徴(身長が歩行者の身長に対応するか、上半身形状及び下半身形状と推定される部分が存在するか等)を有するかどうかを判定する。
【0051】
歩行者特徴を有する場合には、ステップS8において運転者に情報を提供する。具体的には、当該歩行者のグレースケール画像をHUD26aに表示するとともに、スピーカ24を通じて警報を発生し、車両12の運転者に接触の回避操作を促す。
【0052】
以上説明したように上述した実施形態に係る車両周辺監視装置10は、車両12に搭載された赤外線カメラ16により取得されるグレースケール画像を2値化画像に変換し、該2値化画像から対象物である歩行者を認識する際、歩行者の足裏特徴を記憶する足裏特徴記憶手段(画像処理ユニット14の中の記憶部14m)と、前記2値化画像中の対象物が、前記足裏特徴を含むかどうかを判定する類似性判定手段(ステップS5、S6)と、該類似性判定手段により前記足裏特徴が含まれていると判定されたとき、前記対象物を歩行者であると認識する歩行者認識手段(ステップS7)と、を備える。
【0053】
このように、2値化画像中の対象物が、足裏特徴を含むかどうかを判定し、前記足裏特徴が含まれていると判定したとき、前記対象物を歩行者であると認識するようにしているので、足裏特徴に基づき歩行者を認識することができる。
【0054】
この場合、前記グレースケール画像の取得時の外気温度Taを取得する外気温度取得手段をさらに備え、取得された前記外気温度Taが閾値、例えば30[℃]を上回る温度であるとき、前記類似性判定手段(ステップS5、S6)による処理を行うことで、高外気温度下でも、足裏特徴を利用して歩行者認識精度を向上させることができる。
【0055】
ここで、前記外気温度取得手段は、前記グレースケール画像の輝度差(コントラスト値)に基づいて、例えば、コントラスト値が閾値以下である場合に高外気温下であると外気温度Taを推定することで、温度センサ28が不要になるが、温度センサ28により外気温度Taを検出してもよい。
【0056】
また、車両周辺監視装置10は、車両12に搭載された赤外線カメラ16R、16Lにより取得されるグレースケール画像を2値化画像に変換し、該2値化画像から対象物である歩行者を認識する際に、歩行者の足裏特徴を記憶する足裏特徴記憶手段(画像処理ユニット14の中の記憶部14m)と、前記足裏特徴以外の前記歩行者特徴を記憶する歩行者特徴記憶手段(画像処理ユニット14の中の記憶部14m)と、前記2値化画像から前記足裏特徴及び前記歩行者特徴に基づき、前記対象物を歩行者として認識する歩行者認識手段(ステップS7)と、前記グレースケール画像取得時の外気温度を検出する外気温度検出手段(上述したコントラスト値又は温度センサ28により検出した外気温度Ta)と、を備え、前記歩行者認識手段(ステップS7)は、検出された外気温度Taが高い温度になるに従い、前記足裏特徴の重みを増大させて、前記対象物を歩行者として認識する。
【0057】
このように、外気温度Taが高い温度になるに従い、足裏特徴の重みを増大させて、対象物を歩行者として認識するようにすれば、常温下以下の気温及び高外気温下の気温の全気温下で歩行者認識精度を向上させることができる。そして、グレースケール画像上で、背景輝度に対して歩行者の輝度が相対的に低下する高外気温下であっても安定的に歩行者を認識することができる。
【0058】
なお、この発明は、上述の実施形態に限らず、この明細書の記載内容に基づき、種々の構成を採り得ることはもちろんである。
【符号の説明】
【0059】
10…車両周辺監視装置 12…車両
14…画像処理ユニット 16R、16L…赤外線カメラ
26…表示装置 26a…HUD
40…歩行者注目領域 42…足裏注目領域
【特許請求の範囲】
【請求項1】
車両に搭載された赤外線カメラにより取得されるグレースケール画像を2値化画像に変換し、該2値化画像から対象物である歩行者を認識する車両周辺監視装置であって、
歩行者の足裏特徴を記憶する足裏特徴記憶手段と、
前記2値化画像中の対象物が、前記足裏特徴を含むかどうかを判定する類似性判定手段と、
該類似性判定手段により前記足裏特徴が含まれていると判定されたとき、前記対象物を歩行者であると認識する歩行者認識手段と、
を備えることを特徴とする車両周辺監視装置。
【請求項2】
請求項1記載の車両周辺監視装置において、
前記足裏特徴は、時系列に大小の面積変化を繰り返す左右2つの物体である
ことを特徴とする車両周辺監視装置。
【請求項3】
請求項2記載の車両周辺監視装置において、
前記左右2つの物体の面積変化は略逆位相である
ことを特徴とする車両周辺監視装置。
【請求項4】
請求項1〜3のいずれか1項に記載の車両周辺監視装置において、
前記グレースケール画像の取得時の外気温度を取得する外気温度取得手段をさらに備え、
取得された前記外気温度が閾値を上回る温度であるとき、前記類似性判定手段による処理を行う
ことを特徴とする車両周辺監視装置。
【請求項5】
請求項4記載の車両周辺監視装置において、
前記外気温度取得手段は、前記グレースケール画像のコントラスト値に基づいて、前記外気温度を推定する
ことを特徴とする車両周辺監視装置。
【請求項6】
車両に搭載された赤外線カメラにより取得されるグレースケール画像を2値化画像に変換し、該2値化画像から対象物である歩行者を認識する車両周辺監視装置であって、
歩行者の足裏特徴を記憶する足裏特徴記憶手段と、
前記足裏特徴以外の前記歩行者の特徴を記憶する歩行者特徴記憶手段と、
前記2値化画像から前記足裏特徴及び前記歩行者特徴に基づき、前記対象物を歩行者として認識する歩行者認識手段と、
前記グレースケール画像取得時の外気温度を検出する外気温度検出手段と、
を備え、
前記歩行者認識手段は、検出された前記外気温度が高い温度になるに従い、前記足裏特徴の重みを増大させて、前記対象物を歩行者として認識する
ことを特徴とする車両周辺監視装置。
【請求項1】
車両に搭載された赤外線カメラにより取得されるグレースケール画像を2値化画像に変換し、該2値化画像から対象物である歩行者を認識する車両周辺監視装置であって、
歩行者の足裏特徴を記憶する足裏特徴記憶手段と、
前記2値化画像中の対象物が、前記足裏特徴を含むかどうかを判定する類似性判定手段と、
該類似性判定手段により前記足裏特徴が含まれていると判定されたとき、前記対象物を歩行者であると認識する歩行者認識手段と、
を備えることを特徴とする車両周辺監視装置。
【請求項2】
請求項1記載の車両周辺監視装置において、
前記足裏特徴は、時系列に大小の面積変化を繰り返す左右2つの物体である
ことを特徴とする車両周辺監視装置。
【請求項3】
請求項2記載の車両周辺監視装置において、
前記左右2つの物体の面積変化は略逆位相である
ことを特徴とする車両周辺監視装置。
【請求項4】
請求項1〜3のいずれか1項に記載の車両周辺監視装置において、
前記グレースケール画像の取得時の外気温度を取得する外気温度取得手段をさらに備え、
取得された前記外気温度が閾値を上回る温度であるとき、前記類似性判定手段による処理を行う
ことを特徴とする車両周辺監視装置。
【請求項5】
請求項4記載の車両周辺監視装置において、
前記外気温度取得手段は、前記グレースケール画像のコントラスト値に基づいて、前記外気温度を推定する
ことを特徴とする車両周辺監視装置。
【請求項6】
車両に搭載された赤外線カメラにより取得されるグレースケール画像を2値化画像に変換し、該2値化画像から対象物である歩行者を認識する車両周辺監視装置であって、
歩行者の足裏特徴を記憶する足裏特徴記憶手段と、
前記足裏特徴以外の前記歩行者の特徴を記憶する歩行者特徴記憶手段と、
前記2値化画像から前記足裏特徴及び前記歩行者特徴に基づき、前記対象物を歩行者として認識する歩行者認識手段と、
前記グレースケール画像取得時の外気温度を検出する外気温度検出手段と、
を備え、
前記歩行者認識手段は、検出された前記外気温度が高い温度になるに従い、前記足裏特徴の重みを増大させて、前記対象物を歩行者として認識する
ことを特徴とする車両周辺監視装置。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【公開番号】特開2011−48650(P2011−48650A)
【公開日】平成23年3月10日(2011.3.10)
【国際特許分類】
【出願番号】特願2009−196872(P2009−196872)
【出願日】平成21年8月27日(2009.8.27)
【出願人】(000005326)本田技研工業株式会社 (23,863)
【Fターム(参考)】
【公開日】平成23年3月10日(2011.3.10)
【国際特許分類】
【出願日】平成21年8月27日(2009.8.27)
【出願人】(000005326)本田技研工業株式会社 (23,863)
【Fターム(参考)】
[ Back to top ]