説明

対象物変化検出装置および対象物変化検出方法

【課題】車両周辺の対象物の変化を迅速かつ正確に検出できる対象物変化検出装置および対象物変化検出方法を提供することを課題とする。
【解決手段】本発明は、画像から対象物の属性を検出し、検出した対象物の属性内の当該対象物の種類を示す種類情報を取得し、取得した種類情報に基づいて対象物の変化検出に用いる変化検出用閾値を設定し、検出した対象物を含む画像から、設定した変化検出用閾値を用いて、対象物の変化を検出する。ここで、本発明は、検出した対象物の属性内の当該対象物の状態を示す状態情報を取得し、取得した種類情報および取得した状態情報に基づいて対象物の変化検出に用いる変化検出用閾値を設定する。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、対象物変化検出装置および対象物変化検出方法に関する。
【背景技術】
【0002】
従来、車両周辺の対象物を検出する技術が開発されている。例えば、特許文献1には、自車両の前方に存在する歩行者の位置及び移動速度の時系列変化と周辺情報とを取得し、取得された位置及び移動速度の時系列変化と、歩行者が車道に飛び出すときの位置及び移動速度の時系列変化のパターンと比較すると共に、取得した周辺環境情報と、歩行者が車道に飛び出すときの予め求められた周辺環境情報とを比較することにより、自車両が走行している車道に歩行者が飛び出すか否かを予測する歩行者飛び出し予測装置が開示されている。
【先行技術文献】
【特許文献】
【0003】
【特許文献1】特開2010−102437号公報
【発明の概要】
【発明が解決しようとする課題】
【0004】
しかしながら、従来技術においては、車両周辺の対象物の変化を迅速かつ正確に検出できないという問題点があった。例えば、特許文献1に記載の歩行者飛び出し予測装置では、歩行者の位置変化および速度変化のみを見ているため、位置および速度の変化が確認できるまで歩行者の飛び出しを予測できず、歩行者の姿勢(すなわち、対象物の形状)から予測する場合よりも、歩行者の飛び出し予測が遅くなるという問題があった。
【0005】
本発明は、上記の事情に鑑みてなされたものであって、車両周辺の対象物の変化を迅速かつ正確に検出できる対象物変化検出装置および対象物変化検出方法を提供することを目的とする。
【課題を解決するための手段】
【0006】
本発明の対象物変化検出装置は、画像から対象物の属性を検出する対象物検出手段と、前記対象物検出手段により検出した前記対象物の属性内の当該対象物の種類を示す種類情報を取得する種類情報取得手段と、前記種類情報取得手段により取得した前記種類情報に基づいて前記対象物の変化検出に用いる変化検出用閾値を設定する閾値設定手段と、前記対象物検出手段により検出した前記対象物を含む前記画像から、前記閾値設定手段により設定した前記変化検出用閾値を用いて、前記対象物の変化を検出する対象物変化検出手段と、を備えることを特徴とする。
【0007】
ここで、上記記載の対象物変化検出装置は、前記対象物検出手段により検出した前記対象物の属性の内の当該対象物の状態を示す状態情報を取得する状態情報取得手段、を更に備え、前記閾値設定手段は、前記種類情報取得手段により取得した前記種類情報および前記状態情報取得手段により取得した前記状態情報に基づいて前記変化検出用閾値を設定することが好ましい。
【0008】
また、本発明の対象物変化検出装置は、画像から対象物の属性を検出する対象物検出手段と、前記対象物検出手段により検出した前記対象物の属性内の当該対象物の状態を示す状態情報を取得する状態情報取得手段と、前記状態情報取得手段により取得した前記状態情報に基づいて前記対象物の変化検出に用いる変化検出用閾値を設定する閾値設定手段と、前記対象物検出手段により検出した前記対象物を含む前記画像から、前記閾値設定手段により設定した前記変化検出用閾値を用いて、前記対象物の変化を検出する対象物変化検出手段と、を備えることを特徴とする。
【0009】
ここで、上記記載の対象物変化検出装置において、前記対象物変化検出手段は、所定の特徴量を用いて、前記対象物検出手段により検出した前記対象物を含む前記画像から前記対象物の形状情報を表す特徴量分布を取得する形状情報取得手段と、前記形状情報取得手段により取得した前記特徴量分布を正規化して、当該特徴量分布に対応する確率分布を取得する正規化手段と、前記正規化手段により正規化した前記確率分布を蓄積する形状情報蓄積手段と、所定の尺度を用いて、前記形状情報蓄積手段により蓄積した所定時間前の前記確率分布と現在の前記確率分布との差を計算し、計算された差が前記閾値設定手段により設定した前記変化検出用閾値よりも大きい場合に、前記対象物の変化を検出する変化検出手段と、を更に備えることが好ましい。
【0010】
また、上記記載の対象物変化検出装置において、前記対象物変化検出手段は、前記対象物検出手段により検出した前記対象物を含む前記画像から処理対象領域を抽出する処理対象領域抽出手段、を更に備え、前記形状情報取得手段は、前記処理対象領域抽出手段により抽出した前記処理対象領域から前記対象物の前記特徴量分布を取得することが好ましい。
【0011】
また、上記記載の対象物変化検出装置において、前記対象物変化検出手段は、前記形状情報蓄積手段により蓄積した前記確率分布を用いて、前記所定時間前の前記確率分布と現在の前記確率分布との差を、前記対象物の形状変化情報として取得する形状変化情報取得手段と、前記形状変化取得情報手段により取得した前記形状変化情報を蓄積する形状変化情報蓄積手段と、を更に備え、前記変化検出手段は、前記形状変化情報蓄積手段により蓄積した前記形状変化情報を用いて類似度を計算し、当該類似度が前記閾値設定手段により設定した前記変化検出用閾値より小さい場合に、前記対象物の変化を検出することが好ましい。
【0012】
また、上記記載の対象物変化検出装置において、前記対象物変化検出手段は、前記形状変化情報蓄積手段により蓄積した複数の前記形状変化情報を平均化して、平均化形状変化情報を取得する形状変化平均化手段、を更に備え、前記変化検出手段は、前記形状変化平均化手段により取得した平均化形状変化情報を用いて前記類似度を計算し、当該類似度が前記閾値設定手段により設定した前記変化検出用閾値より小さい場合に、前記対象物の変化を検出することが好ましい。
【0013】
本発明の対象物変化検出方法は、画像から対象物の属性を検出する対象物検出ステップと、前記対象物検出ステップにて検出した前記対象物の属性内の当該対象物の種類を示す種類情報を取得する種類情報取得ステップと、前記種類情報取得ステップにて取得した前記種類情報に基づいて前記対象物の変化検出に用いる変化検出用閾値を設定する閾値設定ステップと、前記対象物検出ステップにて検出した前記対象物を含む前記画像から、前記閾値設定ステップにて設定した前記変化検出用閾値を用いて、前記対象物の変化を検出する対象物変化検出ステップと、を含むことを特徴とする。
【0014】
また、本発明の対象物変化検出方法は、画像から対象物の属性を検出する対象物検出ステップと、前記対象物検出ステップにて検出した前記対象物の属性内の当該対象物の状態を示す状態情報を取得する状態情報取得ステップと、前記状態情報取得ステップにて取得した前記状態情報に基づいて前記対象物の変化検出に用いる変化検出用閾値を設定する閾値設定ステップと、前記対象物検出ステップにて検出した前記対象物を含む前記画像から、前記閾値設定ステップにて設定した前記変化検出用閾値を用いて、前記対象物の変化を検出する対象物変化検出ステップと、を含むことを特徴とする。
【発明の効果】
【0015】
本発明は、車両周辺の対象物の変化を迅速かつ正確に検出できるという効果を奏する。
【図面の簡単な説明】
【0016】
【図1】図1は、本発明に係る対象物変化検出装置の構成の一例を示すブロック図である。
【図2】図2は、実施形態1にかかる対象物変化検出装置の基本処理の一例を示すフローチャートである。
【図3】図3は、実施形態1にかかる対象物変化検出処理の詳細の一例を示すフローチャートである。
【図4】図4は、実施形態1にかかる変化検出用グラフの一例を示す図である。
【図5】図5は、実施形態1にかかる対象物変化検出処理の別の一例を示すフローチャートである。
【図6】図6は、実施形態1にかかる対象物を含む部分画像と処理対象領域の一例を示す図である。
【図7】図7は、実施形態1にかかる対象物変化検出処理の別の一例を示すフローチャートである。
【図8】図8は、実施形態1にかかる変化検出用グラフの別の一例を示す図である。
【図9】図9は、実施形態1にかかる対象物変化検出処理の別の一例を示すフローチャートである。
【図10】図10は、実施形態1にかかる変化検出用グラフの別の一例を示す図である。
【図11】図11は、実施形態2にかかる対象物変化検出装置の基本処理の一例を示すフローチャートである。
【発明を実施するための形態】
【0017】
以下に、本発明にかかる対象物変化検出装置および対象物変化検出方法の実施形態を図面に基づいて詳細に説明する。なお、この実施形態によりこの発明が限定されるものではない。また、下記の実施形態における構成要素には、当業者が容易に想定できるもの、あるいは実質的に同一のものが含まれる。
【0018】
本発明にかかる対象物変化検出装置の構成について図1を参照しながら説明する。図1は、本発明にかかる対象物変化検出装置の構成の一例を示すブロック図である。
【0019】
図1に示すように、対象物変化検出装置1は、例えば車両に搭載された自動車制御用コンピュータなどを用いて構成されたものであり、車両に搭載されているカメラ2と通信可能に接続されている。カメラ2は、自車両周辺を撮影し、自車両周辺が写し出されている画像データを生成する機器である。カメラ2は、例えば可視光領域または赤外線領域にて撮像可能なCCDカメラまたはCMOSカメラ等である。カメラ2は、車両の前方、側方、後方等の車両周辺を撮像可能な任意の位置に設置される。
【0020】
対象物変化検出装置1は、制御部12および記憶部14を備えている。制御部12は、対象物変化検出装置1を統括的に制御するものであり、例えばCPU(Central Processing Unit)などである。記憶部14は、データを記憶するためのものであり、例えば、RAM(Random Access Memory)、ROM(Read Only Memory)、またはハードディスクなどである。
【0021】
記憶部14は、種類別閾値記憶部14a、状態別閾値記憶部14b、形状情報記憶部14c、処理対象領域記憶部14d、形状変化情報記憶部14e、平均化形状変化情報記憶部14fを備えている。
【0022】
種類別閾値記憶部14aは、対象物の属性ごとに作成された、対象物の種類別に対象物の変化検出に用いる所定の閾値を対応付けて記憶する種類別閾値記憶手段である。なお、対象物の変化検出の詳細については、後述する。ここで、対象物の属性とは、自車両周辺に存在し自車両の外乱となり得る、歩行者、自転車、バイク、車両等の移動物体の少なくとも1つを含む。また、対象物は、車両のドア等の対象物の一部であってもよい。例えば、対象物の属性が歩行者の場合、属性内の対象物の種類(すなわち、同一属性に属する対象物の種類)は、歩行者の年齢により区別される。一例として、対象物の種類を歩行者の年齢で区別する場合、対象物の種類は、例えば、子供、高齢者、成人等を含む。ここで、成人に比べ子供および高齢者は車道に飛び出す可能性が高いと考えられ、また高齢者に比べ子供は車道に急に飛び出す可能性が高いと考えられる。この場合、種類別閾値記憶部14aは、子供、高齢者、成人の順で閾値の値が変化するよう、子供には第1閾値、高齢者には第2閾値、成人には第3閾値といったように、対象物の種類別に対象物の変化検出に用いる所定の閾値を対応付けて記憶する。
【0023】
つまり、種類別閾値記憶部14aは、対象物の種類が「子供」の場合、対象物(この場合、歩行者)の変化を最も早く検出できるよう大きめ(または小さめ)の値である子供用の第1閾値と対応付けて記憶する。また、種類別閾値記憶部14aは、対象物の種類が「高齢者」の場合、子供の次に対象物の変化を早く検出できるよう子供用の第1閾値より大きい(または小さい)値であり、かつ、成人用の第3閾値よりも小さい(または大きい)値である高齢者用の第2閾値と対応付けて記憶する。また、種類別閾値記憶部14aは、対象物の種類が「成人」の場合、高齢者の次に対象物の変化を検出できるよう高齢者用の第2閾値よりも大きい(または小さい)値である成人用の第3閾値と対応付けて記憶する。例えば、後述する図4において、子供用の第1閾値は「0.25」であり、高齢者用の第2閾値は「0.275」であり、成人用の第3閾値は「0.3」である。また、後述する図8および図10において、子供用の第1閾値は「0.92」であり、高齢者用の第2閾値は「0.91」であり、成人用の第3閾値は「0.9」である。
【0024】
なお、本実施形態において、対象物の種類として歩行者の年齢により区別される子供、高齢者、成人を例に説明するが、これに限定されない。例えば、対象物の属性が車両の場合、対象物の種類は、車両タイプにより区別される。一例として、対象物の種類を車両タイプで区別する場合、対象物の種類は、例えば、タクシー、普通乗用車、トラック等を含む。ここで、トラックに比べタクシーおよび普通乗用車は車線変更する可能性が高いと考えられ、また普通乗用車に比べタクシーは急に車線変更する可能性が高いと考えられる。この場合、種類別閾値記憶部14aは、タクシー、普通乗用車、トラックの順で閾値の値が変化するよう、タクシーには第1閾値、普通情報者には第2閾値、トラックには第3閾値といったように、対象物の種類別に対象物の変化検出に用いる所定の閾値を対応付けて記憶してもよい。
【0025】
状態別閾値記憶部14bは、対象物の属性ごとに作成された、対象物の状態別に対象物の変化検出に用いる所定の閾値を対応付けて記憶した状態別閾値記憶手段である。なお、対象物の変化検出の詳細については後述する。例えば、対象物の属性が歩行者の場合、属性内の対象物の状態(すなわち、同一属性に属する対象物の状態)は、歩行者の向きにより区別される。一例として、対象物の種類を歩行者の向きで区別する場合、対象物の状態は、例えば、自車両に対して歩行者が横向きの状態、後ろ向きの状態、前向きの状態等を含む。横向きの状態とは、歩行者が車道を向いている状態であり、後ろ向きの状態とは、歩行者が自車両の進行方向と同じ方向を向いている状態であり、前向きの状態とは、歩行者が自車両に対面する方向に向いている状態である。ここで、後ろ向きおよび前向きに比べ横向きの状態は、車道に飛び出す可能性が高いと考えられ、また前向きに比べ後ろ向きの状態は、車道に飛び出す可能性が高いと考えられる。この場合、状態別閾値記憶部14bは、横向き、後ろ向き、前向きの順で閾値の値が変化するよう、横向きの状態には第1閾値、後ろ向きの状態には第2閾値、前向きの状態には第3閾値といったように、対象物の状態別に対象物の変化検出に用いる所定の閾値を対応付けて記憶する。
【0026】
つまり、状態別閾値記憶部14bは、対象物の状態が「横向き」の場合、対象物(この場合、歩行者)の変化を最も早く検出できるよう大きめ(または小さめ)の値である横向き用の第1閾値と対応付けて記憶する。また、状態別閾値記憶部14bは、対象物の状態が「後ろ向き」の場合、横向きの次に対象物の変化を早く検出できるよう横向き用の第1閾値より大きい(または小さい)値であり、かつ、前向き用の第3閾値よりも小さい(または大きい)値である後ろ向き用の第2閾値と対応付けて記憶する。また、状態別閾値記憶部14bは、対象物の状態が「前向き」の場合、後ろ向きの次に対象物の変化を検出できるよう後ろ向き用の第2閾値よりも大きい(または小さい)値である前向き用の第3閾値と対応付けて記憶する。例えば、後述する図4において、横向き用の第1閾値は「0.25」であり、後ろ向き用の第2閾値は「0.275」であり、前向き用の第3閾値は「0.3」である。また、後述する図8および図10において、横向き用の第1閾値は「0.92」であり、後ろ向き用の第2閾値は「0.91」であり、前向き用の第3閾値は「0.9」である。
【0027】
形状情報記憶部14cは、画像データから抽出された対象物の形状情報を記憶する形状情報記憶手段である。形状情報は、対象物の形状の特徴量を示すデータである。なお、特徴量は、これに限定されないが、画像データの輝度自体を使用する第1特徴量、画像データのエッジを使用する第2特徴量、および、画像データの色を使用する第3特徴量のうち少なくとも1つを含む。第1特徴量は、例えば、輝度、輝度のPCA、Hu moment、LBP、Haarlike feature、および、poseletのうち少なくとも1つを含む。第2特徴量は、例えば、SIFT、PCA、SURF、GLOH、shape context、HOG、CoHOG、FIND、および、edgeletのうち少なくとも1つを含む。第3特徴量は、例えば、RGB、および、Labのうち少なくとも1つを含む。
【0028】
処理対象領域記憶部14dは、対象物を含む画像データの画像領域の一部に対応する処理対象領域を記憶する処理対象領域記憶手段である。形状変化情報記憶部14eは、所定時間内における形状情報の時間変化を示す形状変化情報を記憶する形状変化情報記憶手段である。平均化形状変化情報記憶部14fは、形状変化情報の平均を示す平均化形状変化情報を記憶する平均化形状変化情報記憶手段である。
【0029】
制御部12は、対象物検出部12a、種類情報取得部12b、状態情報取得部12c、閾値設定部12d、および、対象物変化検出部12eを備えている。ここで、対象物変化検出部12eは、処理対象領域抽出部12f、形状情報取得部12g、正規化部12h、形状情報蓄積部12i、形状変化情報取得部12j、形状変化情報蓄積部12k、形状変化平均化部12m、および、変化検出部12nを更に備えている。
【0030】
対象物検出部12aは、画像から対象物の属性を検出する対象物検出手段である。対象物検出部12aは、予め記憶部14に記憶された対象物の属性を特定可能な形状の概要を示すデータを用いて、パターンマッチング等を行うことにより対象物を検出する。例えば、対象物検出部12aは、予め記憶部14に記憶された、歩行者の形状、自転車の形状、バイクの形状、車両の形状等の対象物の属性を特定可能な形状の概要を示すデータを用いて、パターンマッチング等を行うことにより、対象物の属性が、歩行者、自転車、バイク、車両等であるかを検出する。
【0031】
種類情報取得部12bは、対象物検出部12aにより検出した対象物の属性内の当該対象物の種類を示す種類情報を取得する種類情報取得手段である。種類情報取得部12bは、対象物検出部12aにより検出した対象物の属性において、予め対象物の属性ごとに記憶部14に記憶された対象物の種類を特定可能な形状の概要を示すデータを用いて、パターンマッチング等を行うことにより種類情報を取得する。一例として、対象物検出部12aにより検出した対象物の属性が歩行者である場合、種類情報取得部12bは、歩行者について予め記憶部14に記憶された歩行者の年齢を特定可能な形状データを用いてパターンマッチングし、特定された歩行者の年齢に対応する対象物の種類として、子供、高齢者、成人のいずれかを示す種類情報を取得する。
【0032】
状態情報取得部12cは、対象物検出部12aにより検出した対象物の属性内の当該対象物の状態を示す状態情報を取得する状態情報取得手段である。状態情報取得部12cは、対象物検出部12aにより検出した対象物の属性において、予め対象物の属性ごとに記憶部14に記憶された対象物の状態を特定可能な形状の概要を示すデータを用いて、パターンマッチング等を行うことにより状態情報を取得する。一例として、対象物検出部12aにより検出した対象物の属性が歩行者である場合、状態情報取得部12cは、歩行者について予め記憶部14に記憶された歩行者の向きを特定可能な形状データを用いてパターンマッチングし、特定された歩行者の向きに対応する対象物の状態として、横向き、後ろ向き、前向きのいずれかを示す状態情報を取得する。
【0033】
閾値設定部12dは、種類情報取得部12bにより取得した種類情報に基づいて対象物の変化検出に用いる変化検出用閾値を設定する閾値設定手段である。本実施形態において、閾値設定部12dは、種類情報取得部12bにより取得した種類情報に対応する閾値を、予め対象物の種類別に対象物の変化検出に用いる所定の閾値を対応付けて記憶した種類別閾値記憶部14aから検索し、検索した閾値を変化検出用閾値として設定する。一例として、対象物検出部12aにより検出した対象物の属性が歩行者であり、種類情報取得部12bにより子供を示す種類情報を取得した場合、閾値設定部12dは、子供用の第1閾値を種類別閾値記憶部14aから検索して変化検出用閾値として設定する。また、種類情報取得部12bにより高齢者を示す種類情報を取得した場合、閾値設定部12dは、高齢者用の第2閾値を種類別閾値記憶部14aから検索して変化検出用閾値として設定する。また、種類情報取得部12bにより成人を示す種類情報を取得した場合、閾値設定部12dは、成人用の第3閾値を種類別閾値記憶部14aから検索して変化検出用閾値として設定する。このように、閾値設定部12dは、種類情報取得部12bにより取得した種類情報が示す対象物の種類(例えば、子供、高齢者、成人等)に応じて、変化検出用閾値を変更する。なお、閾値設定部12dは、種類情報取得部12bにより取得した種類情報が示す対象物の種類に応じて決定される所定の補正量を用いて、予め固定された閾値の値を調整することで、対象物の種類に適合するように変化検出用閾値を変更してもよい。
【0034】
また、閾値設定部12dは、状態情報取得部12cにより取得した状態情報に基づいて対象物の変化検出に用いる変化検出用閾値を設定する閾値設定手段である。本実施形態において、閾値設定部12dは、状態情報取得部12cにより取得した状態情報に対応する閾値を、予め対象物の状態別に対象物の変化検出に用いる所定の閾値を対応付けて記憶した状態別閾値記憶部14bから検索し、検索した閾値を変化検出用閾値として設定する。一例として、対象物検出部12aにより検出した対象物の属性が歩行者であり、状態情報取得部12cにより横向きの状態を示す状態情報を取得した場合、閾値設定部12dは、横向き用の第1閾値を状態別閾値記憶部14bから検索して変化検出用閾値として設定する。また、状態情報取得部12cにより後ろ向きの状態を示す状態情報を取得した場合、閾値設定部12dは、後ろ向き用の第2閾値を状態別閾値記憶部14bから検索して変化検出用閾値として設定する。また、状態情報取得部12cにより前向きの状態を示す状態情報を取得した場合、閾値設定部12dは、前向き用の第3閾値を状態別閾値記憶部14bから検索して変化検出用閾値として設定する。このように、閾値設定部12dは、状態情報取得部12cにより取得した状態情報が示す対象物の状態(例えば、横向き、後ろ向き、前向き等の状態)に応じて、変化検出用閾値を変更する。なお、閾値設定部12dは、状態情報取得部12cにより取得した状態情報が示す対象物の状態に応じて決定される所定の補正量を用いて、予め固定された閾値の値を調整することで、対象物の状態に適合するように変化検出用閾値を変更してもよい。
【0035】
対象物変化検出部12eは、対象物検出部12aにより検出した対象物を含む画像から、閾値設定部12dにより設定した変化検出用閾値を用いて、対象物の変化を検出する対象物変化検出手段である。ここで、対象物変化検出部12eが実行する対象物変化検出処理は、対象物変化検出部12eが備える処理対象領域抽出部12f、形状情報取得部12g、正規化部12h、形状情報蓄積部12i、形状変化情報取得部12j、形状変化情報蓄積部12k、形状変化平均化部12m、および、変化検出部12nが実行する各処理を含む。以下、処理対象領域抽出部12f〜変化検出部12nについて説明する。
【0036】
処理対象領域抽出部12fは、対象物検出部12aにより検出した対象物を含む画像から処理対象領域を抽出する処理対象領域抽出手段である。処理対象領域は、後述する変化検出部12nによる対象物の変化検出処理に有効な所定領域である。例えば対象物が歩行者の場合、処理対象領域は、歩行者の全体のみまたは下半身のみを含む領域等を含む。処理対象領域抽出部12fは、抽出した処理対象領域を処理対象領域記憶部14dに格納してもよい。
【0037】
形状情報取得部12gは、対象物検出部12aにより検出した対象物の形状情報を表す特徴量分布を取得する形状情報取得手段である。具体的には、形状情報取得部12gは、所定の特徴量を用いて、対象物検出部12aにより検出した対象物の特徴量分布を取得する。ここで、所定の特徴量は、確率分布として表せる特徴量であり、上述の第1特徴量、第2特徴量、および、第3特徴量の少なくとも1つを含む。また、形状情報取得部12gは、処理対象領域抽出部12fにより抽出した処理対象領域、または、処理対象領域記憶部14dに記憶された処理対象領域から対象物の特徴量分布を取得してもよい。
【0038】
正規化部12hは、形状情報取得部12gにより取得した特徴量分布により表される形状情報を正規化する正規化手段である。具体的には、正規化部12hは、形状情報取得部12gにより取得した特徴量分布を正規化して、当該特徴量分布に対応する確率分布を取得する。
【0039】
形状情報蓄積部12iは、形状情報取得部12gにより取得した特徴量分布により表される形状情報を蓄積する形状情報蓄積手段である。ここで、形状情報蓄積部12iは、正規化部12hにより正規化した形状情報を蓄積する。具体的には、形状情報蓄積部12iは、正規化部12hにより取得した確率分布を蓄積する。すなわち、形状情報蓄積部12iは、正規化した形状情報(確率分布)を形状情報記憶部14cに格納する。なお、本実施形態において、形状情報蓄積部12iは、形状情報取得部12gにより取得した正規化前の特徴量分布を蓄積してもよい。
【0040】
形状変化情報取得部12jは、形状情報蓄積部12iにより蓄積した正規化済みの形状情報、すなわち、形状情報記憶部14cに記憶された確率分布、を用いて、所定時間前の確率分布と現在の確率分布との差を、対象物の形状変化情報として取得する形状変化情報取得手段である。
【0041】
形状変化情報蓄積部12kは、形状変化情報取得部12jにより取得した形状変化情報を蓄積する形状変化情報蓄積手段である。すなわち、形状変化情報蓄積部12kは、取得した形状変化情報を形状変化情報記憶部14eに格納する。
【0042】
形状変化平均化部12mは、形状変化情報蓄積部12kにより蓄積した複数の形状変化情報、すなわち、形状変化情報記憶部14eに記憶された形状変化情報、を平均化して、平均化形状変化情報を取得する形状変化平均化手段である。形状変化平均化部12mは、取得した平均化形状変化情報を平均化形状変化情報記憶部14fに格納してもよい。
【0043】
変化検出部12nは、形状情報蓄積部12iにより蓄積した形状情報、すなわち、形状情報記憶部14cに記憶された形状情報、を用いて、所定時間前の形状情報と現在の形状情報とを比較することで、対象物の変化を検出する対象物変化検出手段である。対象物の変化とは、交通環境における対象物の危険な変化を意味し、対象物の運動変化開始時における形状の変化を含む。対象物の変化としては、これに限定されないが、例えば、歩行者や自転車が急に動きを変えて道路に出てくるという変化、併走車車両やバイクが急に車線変更して自車線に割り込んでくるという変化、前方車両が急にUターンを開始するという変化、前方車両が道路脇の店等に入るために急に右左折を開始するという変化、および、駐車車両のドアが急に開くという変化などを含む。
【0044】
具体的には、変化検出部12nは、所定の尺度を用いて、形状情報記憶部14cに記憶された所定時間前の確率分布と現在の確率分布との差を計算し、計算された差が閾値設定部12dにより設定した変化検出用閾値より大きい場合に、対象物の変化を検出する。所定の尺度とは、確率分布間の差異を距離または擬距離で計る尺度である。距離は、これに限定されないが、Lp norm、例えば、L1 norm(マンハッタン距離)、L2 norm(ユークリッド距離)、L infinity norm(一様ノルム)等を含む。また、距離は、マハラノビス距離を含んでいてもよい。このマハラノビス距離を用いる場合、過去の複数のベクトルp(t)から分布を作成しておくことが好ましい。また、距離は、ハミング距離を含んでいてもよい。このハミング距離を用いる場合、ある程度数値を離散化しておくことが好ましい。また、擬距離は、これに限定されないが、カルバック・ライブラー情報量(Kullback−Leibler divergence)(以下、KL情報量と呼ぶ)を含む。ここで、KL情報量とは、2つの確率分布P,Q間の差異を計る尺度であり、情報理論分野において周知である。
【0045】
なお、本実施形態において、変化検出部12nは、形状情報蓄積部12iにより正規化前の特徴量分布を蓄積した場合、形状情報記憶部14cに記憶された所定時間前の特徴量分布および現在の特徴量分布をそれぞれ正規化して、当該所定時間前の特徴量分布および当該現在の特徴量分布に対応する確率分布をそれぞれ取得し、所定の尺度を用いて、取得した所定時間前の確率分布と現在の確率分布との差を計算して、計算された差が閾値設定部12dにより設定した変化検出用閾値より大きい場合に、対象物の変化を検出してもよい。
【0046】
ここで、変化検出部12nは、形状変化情報蓄積部12kにより蓄積した形状変化情報、すなわち、形状変化情報記憶部14eに記憶された形状変化情報、を用いて類似度を計算し、当該類似度が閾値設定部12dにより設定した変化検出用閾値より小さい場合に、対象物の変化を検出してもよい。類似度は、これに限定されないが、コサイン類似度等を含む。また、変化検出部12nは、形状変化平均化部12mにより取得した平均化形状変化情報、または、平均化形状変化情報記憶部14fに記憶された平均化形状変化情報を用いて類似度を計算し、当該類似度が閾値設定部12dにより設定した変化検出用閾値より小さい場合に、対象物の変化を検出してもよい。
【0047】
続いて、図2〜図11を参照して、上述した対象物変化検出装置1において実行される処理について説明する。なお、以下の処理において、対象物の属性として、歩行者を一例に説明するが、これに限定されない。また、対象物の種類として、歩行者の年齢により区別される子供、高齢者、成人を一例に説明するが、これに限定されない。また、対象物の状態として、歩行者の向きにより区別される横向き、後ろ向き、前向きを一例に説明するがこれに限定されない。
【0048】
〔実施形態1〕
実施形態1では、対象物検出部12aと、種類情報取得部12bと、閾値設定部12dと、対象物変化検出部12eと、種類別閾値記憶部14aとを備える対象物変化検出装置1において実行される処理について、図2〜図4を参照して説明する。図2は、実施形態1にかかる対象物変化検出装置1の基本処理の一例を示すフローチャートである。
【0049】
図2に示すように、まず、対象物変化検出装置1の制御部12は、カメラ2から自車両周辺が写し出されている画像データを取得する(ステップSA1)。
【0050】
つぎに、対象物変化検出装置1の対象物検出部12aは、ステップSA1で取得した画像データから対象物の属性として歩行者を検出する(ステップSA2)。例えば、対象物検出部12aは、予め記憶部14に記憶された歩行者の形状の概要を示すデータを用いて、パターンマッチング等を行うことにより対象物の属性として歩行者を検出する。
【0051】
つぎに、対象物変化検出装置1の種類情報取得部12bは、ステップSA2で対象物検出部12aにより検出した歩行者の種類を示す種類情報を取得する(ステップSA3)。具体的には、種類情報取得部12bは、歩行者について予め記憶部14に記憶された歩行者の年齢を特定可能な形状データを用いてパターンマッチングし、特定された歩行者の年齢に対応する対象物の種類として、子供、高齢者、成人のいずれかを示す種類情報を取得する。
【0052】
つぎに、対象物変化検出装置1の閾値設定部12dは、ステップSA3で種類情報取得部12bにより取得した種類情報(例えば、子供、高齢者、成人のいずれかを示す情報)に対応する閾値(例えば、第1閾値、第2閾値、第3閾値)を、種類別閾値記憶部14aから検索し、検索した閾値を、次のステップSA5の対象物変化検出処理に用いる変化検出用閾値として設定する(ステップSA4)。
【0053】
つぎに、対象物変化検出装置1の対象物変化検出部12eは、ステップSA1で対象物検出部12aにより検出した対象物を含む画像から、ステップSA4で閾値設定部12dにより設定した変化検出用閾値を用いて、対象物の変化を検出する(ステップSA5)。
【0054】
ここで、図3〜図4を参照して、ステップSA5で対象物変化検出部12eにより実行される対象物変化検出処理の詳細について説明する。実施形態1では、形状情報取得部12gと、正規化部12hと、形状情報蓄積部12iと、変化検出部12nとを備える対象物変化検出部12eにより実行される対象物変化検出処理について説明する。図3は、実施形態1にかかる対象物変化検出処理の一例を示すフローチャートである。図4は、実施形態1にかかる変化検出用グラフの一例を示す図である。なお、以下の対象物変化検出処理において、対象物の形状を示す特徴量として、SIFT特徴量を一例に説明するが、これに限定されない。また、確率分布P,Q間の差異を計る尺度として、KL情報量を一例に説明するが、これに限定されない。
【0055】
まず、形状情報取得部12gは、上述の図2のステップSA4で閾値設定部12dにより変化検出用閾値を設定した後、上述の図2のステップSA2で検出した対象物の形状情報を表す特徴量分布を取得する(ステップSB1)。具体的には、形状情報取得部12gは、上述の図2のステップSA2で検出した対象物から、形状情報を表す特徴量分布v(t)として、SIFT特徴量の計算を行う。ここで、SIFT特徴量は、形状を表す特徴量として画像認識分野等において周知である。また、SIFT特徴量は、対象物を含む画像データのどの部分にどの向きのエッジが分布しているかをヒストグラムで表せるため、確率分布として表せる。
【0056】
つぎに、正規化部12hは、下記の数式(1)を示すように、ステップSB1で取得した特徴量分布v(t)のL1 normを1に正規化して、特徴量(確率分布)p(t)を取得する(ステップSB2)。
【数1】

【0057】
つぎに、形状情報蓄積部12iは、ステップSB2で取得した形状情報を形状情報記憶部14cに蓄積する(ステップSB3)。すなわち、形状情報蓄積部12iは、ステップSB2で正規化した特徴量(確率分布)p(t)の蓄積を行う。
【0058】
つぎに、変化検出部12nは、下記の数式(2)に示すように、ステップSB3で蓄積した特徴量(確率分布)p(t)から、nフレーム前の特徴量と現在の特徴量との間の差d(t,n)の計算を行う(ステップSB4)。制御部12は、下記の数式(3)に示すように、KL情報量を用いて、差d(t,n)の計算を行う。
【数2】

【数3】

【0059】
つぎに、変化検出部12nは、ステップSB4で計算した差d(t,n)が、図4に示すように、上述の図2のステップSA4で閾値設定部12dにより設定した変化検出用閾値「Thre」より大きいか否かを判定する(ステップSB5)。図4の縦軸は、KL情報量を示し、横軸は、時間のフレームを示している。図4において、フレーム54〜174までは、対象物の歩行者が歩道に沿って移動している状態を表しており、フレーム180付近で歩行者が急に動きを変えた状態を表している。ここで、図4において、予め変化検出用閾値「Ther」として、3つの異なる第1閾値「Ther1」、第2閾値「Ther2」、第3閾値「Ther3」のうちいずれかが設定されているものとする。図4に示すように、子供用の第1閾値は「0.25」であり、高齢者用の第2閾値は「0.275」であり、成人用の第3閾値は「0.3」である。
【0060】
ここで、変化検出部12nは、ステップSB5で差d(t,n)が、変化検出用閾値「Thre」より大きいと判定した場合(ステップSB5:Yes)、対象物の変化があると判定する(ステップSB6)。その後、対象物変化検出処理を終了する。一方、変化検出部12nは、ステップSB5で差d(t,n)が変化検出用閾値「Thre」未満であると判定した場合(ステップSB5:No)、対象物に変化がないと判定して、そのまま対象物変化検出処理を終了する。
【0061】
このように、変化検出部12nは、蓄積した形状情報を用いて、所定時間前の形状情報と現在の形状情報とを比較することで、対象物の変化を検出する。その後、変化検出部12nは、対象物の変化の有無の判定終了後、上述の図2のステップSA1の処理に移行して、次のフレームの画像取得に戻る。
【0062】
以上、実施形態1によれば、従来技術よりも、車両周辺の対象物の変化を迅速かつ正確に検出できる。例えば、従来技術の特許文献1に記載の歩行者飛び出し予測装置では、歩行者の姿勢(すなわち、対象物の形状)から予測する場合よりも、歩行者の飛び出し予測が遅くなるという問題があったが、実施形態1によれば、対象物の形状に基づいて、交通環境における対象物の危険な変化(例えば、歩行者の飛び出し)を検出しているので、車両周辺の対象物の変化を迅速かつ正確に検出することができる。
【0063】
更に、実施形態1によれば、対象物の変化検出に用いる変化検出用閾値を対象物の種類(例えば、対象物が歩行者の場合、子供、高齢者、成人)ごとに適した閾値を設定することができるので、対象物の種類を考慮した上で対象物変化の検出精度をより一層向上させることができる。一例として、上記ステップSB5において、子供用の第1閾値「Ther1」が設定されていた場合、変化検出部12nは、ステップSB4で計算した差d(t,n)が「0.25」より大きいか否かを判定する。これにより、図4に示すように、歩行者が、車道に急に飛び出す可能性が高い子供の場合は、第2閾値「Ther2」に対応する高齢者、または、第3閾値「Ther3」に対応する成人の場合よりも早い段階で、対象物の変化を検出することができる。よって、実施形態1によれば、運転者が車両を運転中に車両周辺の対象物の危険な変化が生じた場合、対象物の種類を考慮した上で迅速かつ正確に運転者に危険を報知することができるので、交通事故の発生可能性を低減することができる。
【0064】
ここで、車両周辺の対象物の危険な変化は、連続変化と不連続変化に分類できる。例えば、対象物を歩行者とした場合、連続変化としては、歩行者が歩道から車道に向かって一定速度で直線的に進入する動作等が挙げられる。一方、不連続変化としては、歩行者が歩道に沿って移動している状態から急に進行方向を変えて車道側へ進入する動作、歩行者が歩道に沿って低速度で移動している状態から急に高速度で移動する動作、および、歩行者が止まっている状態から急に動き出す動作等が挙げられる。従来技術では、線形予測により、この連続変化(例えば、対象物が連続的に移動する動作、対象物が動いている状態から停止する動作、および、対象物が減速する動作等)については、検出可能であったが、不連続変化については迅速かつ正確に検出することができなかった。
【0065】
一方、実施形態1の対象物変化検出装置1は、画像から対象物を検出し、所定の特徴量を用いて、検出した対象物の形状情報を表す特徴量分布を取得し、取得した特徴量分布を正規化して、当該特徴量分布に対応する確率分布を取得し、取得した確率分布を蓄積する。そして、実施形態1の対象物変化検出装置1は、所定の尺度を用いて、蓄積した所定時間前の確率分布と現在の確率分布との差を計算し、計算された差が変化検出用閾値より大きい場合に、対象物の変化を検出する。これにより、実施形態1の対象物変化検出装置1によれば、従来技術では十分に対応できなかった不連続変化(例えば、対象物が止まっている状態から動き始める動作、対象物が加速する動作、および、対象物が方向転換する動作等)についても、迅速かつ正確に検出することができる。例えば、実施形態1によれば、不連続変化の一例として、歩行者や自転車が急に動きを変えて道路に出てくる、併走車車両やバイクが急に車線変更して自車線に割り込んでくる、前方車両が急にUターンを開始する、前方車両が道路脇の店等に入るために急に右左折を開始する、および、駐車車両のドアが急に開くといった、車両周辺の対象物の危険な変化が生じた場合に、迅速かつ正確に運転者に危険を報知することができるので、交通事故の発生可能性を低減することができる。
【0066】
なお、上述の図2のステップSA5で対象物変化検出部12eが実行する対象物変化検出処理の方法は、上述の図3および図4に示した方法に限定されない。実施形態1において、対象物変化検出部12eは、以下の変形例1〜3に示す方法で対象物変化検出処理を実行してもよい。
【0067】
[実施形態1の変形例1]
実施形態1の変形例1では、処理対象領域抽出部12fと、形状情報取得部12gと、正規化部12hと、形状情報蓄積部12iと、変化検出部12nとを備える対象物変化検出部12eにより実行される対象物変化検出処理について、図5および図6を参照して説明する。図5は、実施形態1にかかる対象物変化検出処理の別の一例を示すフローチャートである。図6は、実施形態1にかかる対象物を含む部分画像と処理対象領域の一例を示す図である。
【0068】
図5に示すように、まず、処理対象領域抽出部12fは、上述の図2のステップSA4で閾値設定部12dにより変化検出用閾値を設定した後、上述の図2のステップSA2で検出した対象物を含む画像から処理対象領域を抽出する(ステップSC1)。具体的には、図6に示すように、処理対象領域抽出部12fは、対象物を含む部分画像内でパターンマッチング等を行うことにより、対象物の変化検出処理に有効な領域である処理対象領域(図6(a)および(b)の太字で囲った領域)を抽出する。図6(a)では、対象物が歩行者の場合は下半身の形状の変化が重要となるため、処理対象領域を部分画像の下半分に設定している。図6(b)では、対象物が歩行者の場合は歩道の線などの背景画像は変化検出処理に不要な領域となるため、歩行者の全体のみを含むよう処理対象領域を設定している。ここで、処理対象領域抽出部12fは、抽出した処理対象領域を処理対処領域記憶部14dに格納してもよい。
【0069】
つぎに、形状情報取得部12gは、ステップSC1で抽出した処理対象領域から対象物の形状情報を取得する(ステップSC2)。具体的には、形状情報取得部12gは、ステップSC1で抽出した処理対象領域から、対象物の形状情報を表す特徴量分布v(t)として、SIFT特徴量の計算を行う。
【0070】
つぎに、正規化部12hは、下記の数式(1)を示すように、ステップSC2で取得した特徴量分布v(t)のL1 normを1に正規化して、特徴量(確率分布)p(t)を取得する(ステップSC3)。
【数4】

【0071】
つぎに、形状情報蓄積部12iは、ステップSC3で取得した形状情報を形状情報記憶部14cに蓄積する(ステップSC4)。すなわち、形状情報蓄積部12iは、ステップSC3で正規化した特徴量(確率分布)p(t)の蓄積を行う。
【0072】
つぎに、変化検出部12nは、下記の数式(2)に示すように、ステップSC4で蓄積した特徴量(確率分布)p(t)から、nフレーム前の特徴量と現在の特徴量との間の差d(t,n)の計算を行う(ステップSC5)。制御部12は、例えば、下記の数式(3)に示すように、KL情報量を用いて、差d(t,n)の計算を行う。
【数5】

【数6】

【0073】
つぎに、変化検出部12nは、ステップSC5で計算した差d(t,n)が、上述の図4に示すように、上述の図2のステップSA4で閾値設定部12dにより設定した変化検出用閾値「Thre」より大きいか否かを判定する(ステップSC6)。
【0074】
ここで、変化検出部12nは、ステップSC6で差d(t,n)が変化検出用閾値「Thre」より大きいと判定した場合(ステップSC6:Yes)、対象物の変化があると判定する(ステップSC7)。その後、対象物変化検出処理を終了する。一方、変化検出部12nは、ステップSC6で差d(t,n)が変化検出用閾値「Thre」未満であると判定した場合(ステップSC6:No)、対象物に変化がないと判定して、そのまま対象物変化検出処理を終了する。
【0075】
このように、実施形態1の変形例1において、形状情報取得部12gは、抽出した処理対象領域から対象物の形状情報を取得し、変化検出部12nは、蓄積した形状情報を用いて、所定時間前の形状情報と現在の形状情報とを比較することで、対象物の変化を検出する。その後、変化検出部12nは、対象物の変化の有無の判定終了後、上述の図2のステップSA1の処理に移行して、次のフレームの画像取得に戻る。
【0076】
以上、実施形態1の変形例1によれば、対象物の形状の変化を検出する範囲を限定しているため、対象物変化検出処理の検出精度や計算速度を向上させることができる。これにより、実施形態1の変形例1によれば、車両周辺の対象物の変化をより迅速かつ正確に検出できるので、交通事故の発生可能性をより低減することができる。
【0077】
〔実施形態1の変形例2〕
実施形態1の変形例2では、形状情報取得部12gと、正規化部12hと、形状情報蓄積部12iと、形状変化情報取得部12jと、形状変化情報蓄積部12kと、変化検出部12nとを備える対象物変化検出部12eにより実行される対象物変化検出処理について、図7および図8を参照して説明する。図7は、実施形態1にかかる対象物変化検出処理の別の一例を示すフローチャートである。図8は、実施形態1にかかる変化検出用グラフの別の一例を示す図である。
【0078】
図8に示すように、まず、形状情報取得部12gは、上述の図2のステップSA4で閾値設定部12dにより変化検出用閾値を設定した後、上述の図2のステップSA2で検出した対象物の形状情報を取得する(ステップSD1)。具体的には、形状情報取得部12gは、上述の図2のステップSA2で検出した対象物から、形状情報を表す特徴量分布v(t)として、SIFT特徴量の計算を行う。
【0079】
つぎに、正規化部12hは、下記の数式(1)を示すように、ステップSD1で取得した特徴量分布v(t)のL1 normを1に正規化して、特徴量(確率分布)p(t)を取得する(ステップSD2)。
【数7】

【0080】
つぎに、形状情報蓄積部12iは、ステップSD2で取得した形状情報を形状情報記憶部14cに蓄積する(ステップSD3)。すなわち、形状情報蓄積部12iは、ステップSD2で正規化した特徴量(確率分布)p(t)の蓄積を行う。
【0081】
つぎに、形状変化情報取得部12jは、下記の数式(2)に示すように、ステップSD3で蓄積した特徴量(確率分布)p(t)から、nフレーム前の特徴量と現在の特徴量との間の差d(t,n)(すなわち、本実施形態1の変形例2において、形状変化情報)の計算を行う(ステップSD4)。形状変化情報取得部12jは、下記の数式(3)に示すように、KL情報量を用いて、形状変化情報として差d(t,n)の計算を行う。このように、形状変化情報取得部12jは、ステップSD3で蓄積した形状情報を用いて、対象物の形状変化情報を取得する。
【数8】

【数9】

【0082】
つぎに、形状変化情報蓄積部12kは、ステップSD4で取得した形状変化情報d(t,n)を形状変化情報記憶部14eに蓄積する(ステップSD5)。具体的には、形状変化情報蓄積部12kは、ステップSD4で計算した形状変化情報d(t,n)をlフレーム分蓄積した、下記の数式(4)に示すベクトルu(t,n,l)を計算する。
【数10】

【0083】
つぎに、変化検出部12nは、下記の数式(5)および数式(6)を用いて、類似度cosθを計算する(ステップSD6)。ここで、類似度cosθは、n次元空間での類似度を分析する際に当該技術分野において一般的に用いられるn次元ベクトルの類似度である。具体的には、類似度cosθは、コサイン類似度と呼ばれ、ベクトルのなす角θの余弦cosθのことを意味し、ベクトルの向きの近さを類似性の指標としたものである。ベクトルの向きが一致している場合は最大値の1となり、ベクトルの向きが直行する場合は0となり、ベクトルの向きが逆になる場合は最小値の−1となる。
【数11】

【数12】

【0084】
つぎに、変化検出部12nは、ステップSD6で計算した類似度cosθが、図8に示すように、上述の図2のステップSA4で閾値設定部12dにより設定した変化検出用閾値「Thre」より小さいか否かを判定する(ステップSD7)。図8の縦軸は、cosθを示し、横軸は、時間のフレームを示している。図8において、フレーム66〜162までは、対象物の歩行者が歩道に沿って移動している状態を表しており、フレーム168〜180付近では、歩行者が急に動きを変えた状態を表している。ここで、図8において、予め変化検出用閾値「Ther」として、3つの異なる第1閾値「Ther1」、第2閾値「Ther2」、第3閾値「Ther3」のうちいずれかが設定されているものとする。図8に示すように、子供用の第1閾値は「0.92」であり、高齢者用の第2閾値は「0.91」であり、成人用の第3閾値は「0.9」である。
【0085】
ここで、変化検出部12nは、ステップSD7で類似度cosθが変化検出用閾値「Thre」より小さいと判定した場合(ステップSD7:Yes)、対象物の変化があると判定する(ステップSD8)。その後、対象物変化検出処理を終了する。一方、変化検出部12nは、ステップSD7で類似度cosθが変化検出用閾値「Thre」以上であると判定した場合(ステップSD7:No)、対象物に変化がないと判定して、そのまま対象物変化検出処理を終了する。
【0086】
このように、実施形態1の変形例2において、形状変化情報取得部12jは、蓄積した形状情報を用いて、所定時間前の形状情報と現在の形状情報との差を対象物の形状変化情報として取得し、形状変化情報蓄積部12kは、取得した形状変化情報を蓄積する。そして、変化検出部12nは、蓄積した形状変化情報を用いて類似度を計算し、当該類似度が閾値設定部12dにより設定した変化検出用閾値より小さい場合に、対象物の変化を検出する。その後、変化検出部12nは、対象物の変化の有無の判定終了後、上述の図2のステップSA1の処理に移行して、次のフレームの画像取得に戻る。
【0087】
以上、実施形態1の変形例2によれば、対象物の形状情報の時間変化を形状変化情報として蓄積し、コサイン類似度を用いて類似性を分析しているため、対象物変化検出処理の検出精度をより一層向上させることができる。これにより、実施形態1の変形例2によれば、車両周辺の対象物の変化をより一層迅速かつ正確に検出できるので、交通事故の発生可能性をより一層低減することができる。なお、実施形態1の変形例2において、対象物の変化を検出する際に、類似度を閾値と比較する例について説明したが、これに限られない。実施形態1の変形例2において、対象物変化検出装置1は、類似度の有無のみで対象物の変化を検出してもよい。
【0088】
更に、実施形態1の変形例2によれば、対象物の変化検出に用いる変化検出用閾値を対象物の種類(例えば、対象物が歩行者の場合、子供、高齢者、成人)ごとに適した閾値を設定することができるので、対象物の種類を考慮した上で対象物変化の検出精度をより一層向上させることができる。一例として、上記ステップSD7において、子供用の第1閾値「Ther1」が設定されていた場合、変化検出部12nは、ステップSD6で計算した類似度cosθが「0.92」より小さいか否かを判定する。これにより、図8に示すように、歩行者が、車道に急に飛び出す可能性が高い子供の場合は、第2閾値「Ther2」に対応する高齢者、または、第3閾値「Ther3」に対応する成人の場合よりも早い段階で、対象物の変化を検出することができる。
【0089】
[実施形態1の変形例3]
実施形態1の変形例3では、形状情報取得部12gと、正規化部12hと、形状情報蓄積部12iと、形状変化情報取得部12jと、形状変化情報蓄積部12kと、形状変化平均化部12mと、変化検出部12nとを備える対象物変化検出部12eにより実行される対象物変化検出処理について、図9および図10を参照して説明する。図9は、実施形態1にかかる対象物変化検出処理の別の一例を示すフローチャートである。図10は、実施形態1にかかる変化検出用グラフの別の一例を示す図である。
【0090】
図9に示すように、まず、形状情報取得部12gは、上述の図2のステップSA4で閾値設定部12dにより変化検出用閾値を設定した後、上述の図2のステップSA2で検出した対象物の形状情報を取得する(ステップSE1)。具体的には、形状情報取得部12gは、上述の図2のステップSA2で検出した対象物から、形状情報を表す特徴量分布v(t)として、SIFT特徴量の計算を行う。
【0091】
つぎに、正規化部12hは、下記の数式(1)を示すように、ステップSE1で取得した特徴量分布v(t)のL1 normを1に正規化して、特徴量(確率分布)p(t)を取得する(ステップSE2)。
【数13】

【0092】
つぎに、形状情報蓄積部12iは、ステップSE2で取得した形状情報を形状情報記憶部14cに蓄積する(ステップSE3)。すなわち、形状情報蓄積部12iは、ステップSE2で正規化した特徴量(確率分布)p(t)の蓄積を行う。
【0093】
つぎに、形状変化情報取得部12jは、下記の数式(2)に示すように、ステップSE3で蓄積した特徴量(確率分布)p(t)から、nフレーム前の特徴量と現在の特徴量との間の差d(t,n)(すなわち、本実施形態1の変形例3において、形状変化情報)の計算を行う(ステップSE4)。形状変化情報取得部12jは、下記の数式(3)に示すように、KL情報量を用いて、形状変化情報として差d(t,n)の計算を行う。このように、形状変化情報取得部12jは、ステップSE3で蓄積した形状情報を用いて、対象物の形状変化情報を取得する。
【数14】

【数15】

【0094】
つぎに、形状変化情報蓄積部12kは、ステップSE4で取得した形状変化情報d(t,n)を形状変化情報記憶部14eに蓄積する(ステップSE5)。具体的には、形状変化情報蓄積部12kは、ステップSE4で計算した形状変化情報d(t,n)をlフレーム分蓄積した、下記の数式(4)に示すベクトルu(t,n,l)を計算する。
【数16】

【0095】
つぎに、形状変化平均化部12mは、下記の数式(7)を用いて、ステップSE5で計算したベクトルu(t,n,l)を更にK個分足し合わせて、時間平均を取ることによりノイズを低減する(ステップSE6)。このように、形状変化平均化部12mは、ステップSE5で蓄積した複数の形状変化情報を平均化して、平均化形状変化情報としてベクトルu(t,K,n,l)を取得する。
【数17】

【0096】
つぎに、変化検出部12nは、下記の数式(5)および数式(6)を用いて、類似度cosθを計算する(ステップSE7)。
【数18】

【数19】

【0097】
つぎに、変化検出部12nは、ステップSE7で計算した類似度cosθが、図10に示すように、上述の図2のステップSA4で閾値設定部12dにより設定した変化検出用閾値「Thre」より小さいか否かを判定する(ステップSE8)。図10の縦軸は、cosθを示し、横軸は、時間のフレームを示している。図10では、4つのサンプル数分(K=4)の時間平均を取った場合を表している。図10に示すように、4つともフレーム180付近で急激な変化を示しており、フレーム180付近で歩行者が急に動きを変えた状態を表している。ここで、図10において、予め変化検出用閾値「Ther」として、3つの異なる第1閾値「Ther1」、第2閾値「Ther2」、第3閾値「Ther3」のうちいずれかが設定されているものとする。図10に示すように、子供用の第1閾値は「0.92」であり、高齢者用の第2閾値は「0.91」であり、成人用の第3閾値は「0.9」である。
【0098】
ここで、変化検出部12nは、ステップSE8で類似度cosθが変化検出用閾値「Thre」より小さいと判定した場合(ステップSE8:Yes)、対象物の変化があると判定する(ステップSE9)。その後、対象物変化検出処理を終了する。一方、変化検出部12nは、ステップSE8で類似度cosθが変化検出用閾値「Thre」以上であると判定した場合(ステップSE8:No)、対象物に変化がないと判定して、そのまま対象物変化検出処理を終了する。
【0099】
このように、実施形態1の変形例3において、形状変化情報取得部12jは、蓄積した形状情報を用いて、所定時間前の形状情報と現在の形状情報との差を対象物の形状変化情報として取得し、形状変化情報蓄積部12kは、取得した形状変化情報を蓄積する。更に、形状変化平均化部12mは、蓄積した複数の形状変化情報を平均化して、平均化形状変化情報を取得する。そして、変化検出部12nは、取得した平均化形状変化情報を用いて類似度を計算し、当該類似度が閾値設定部12dにより設定した変化検出用閾値より小さい場合に、対象物の変化を検出する。その後、変化検出部12nは、対象物の変化の有無の判定終了後、述の図2のステップSA1の処理に移行して、次のフレームの画像取得に戻る。
【0100】
以上、実施形態1の変形例3によれば、対象物の形状情報の時間変化を形状変化情報として蓄積し、平均化したコサイン類似度を用いて類似性を分析しているため、実施形態1の変形例2よりも対象物変化検出処理の検出精度をより一層向上させることができる。これにより、実施形態1の変形例3によれば、車両周辺の対象物の変化をより一層迅速かつ正確に検出できるので、交通事故の発生可能性をより一層低減することができる。
【0101】
[実施形態2]
実施形態2では、対象物検出部12aと、状態情報取得部12cと、閾値設定部12dと、対象物変化検出部12eと、状態別閾値記憶部14bとを備える対象物変化検出装置1において実行される処理について、図11を参照して説明する。図11は、実施形態2にかかる対象物変化検出装置1の基本処理の一例を示すフローチャートである。なお、実施形態2では、対象物変化検出装置1が、取得した状態情報に対応する状態別閾値記憶部14bに記憶された閾値を変化検出用閾値として使用する点において実施形態1と異なる。
【0102】
図11に示すように、まず、対象物変化検出装置1の制御部12は、カメラ2から自車両周辺が写し出されている画像データを取得する(ステップSF1)。
【0103】
つぎに、対象物変化検出装置1の対象物検出部12aは、ステップSF1で取得した画像データから対象物の属性として歩行者を検出する(ステップSF2)。例えば、対象物検出部12aは、予め記憶部14に記憶された歩行者の形状の概要を示すデータを用いて、パターンマッチング等を行うことにより対象物の属性として歩行者を検出する。
【0104】
つぎに、対象物変化検出装置1の状態情報取得部12cは、ステップSF2で対象物検出部12aにより検出した歩行者の状態を示す状態情報を取得する(ステップSF3)。具体的には、状態情報取得部12cは、歩行者について予め記憶部14に記憶された歩行者の向きを特定可能な形状データを用いてパターンマッチングし、特定された歩行者の向きに対応する対象物の状態として、横向き、後ろ向き、前向きのいずれかを示す状態情報を取得する。
【0105】
つぎに、対象物変化検出装置1の閾値設定部12dは、ステップSF3で状態情報取得部12cにより取得した状態情報(例えば、横向き、後ろ向き、前向きの状態のいずれかを示す情報)に対応する閾値(例えば、第1閾値、第2閾値、第3閾値)を、状態別閾値記憶部14bから検索し、検索した閾値を、次のステップSF5の対象物変化検出処理に用いる変化検出用閾値として設定する(ステップSF4)。
【0106】
つぎに、対象物変化検出装置1の対象物変化検出部12eは、ステップSF1で対象物検出部12aにより検出した対象物を含む画像から、ステップSF4で閾値設定部12dにより設定した変化検出用閾値を用いて、対象物の変化を検出する(ステップSF5)。
【0107】
なお、ステップSF5で対象物変化検出部12eにより実行される対象物変化検出処理の詳細については、状態別閾値記憶部14bに記憶された閾値を変化検出用閾値として使用する点を除き、上述の実施形態1、変形例1〜3と同様であるため、説明を省略する。
【0108】
以上、実施形態2によれば、対象物の変化検出に用いる変化検出用閾値を対象物の状態(例えば、対象物が歩行者の場合、横向き、後ろ向き、縦向き)ごとに適した閾値を設定することができるので、対象物の状態を考慮した上で対象物変化の検出精度をより一層向上させることができる。一例として、上記ステップSB5において、横向き用の第1閾値「Ther1」が設定されていた場合、変化検出部12nは、ステップSB4で計算した差d(t,n)が「0.25」より大きいか否かを判定する。これにより、図4に示すように、歩行者が、車道に急に飛び出す可能性が高い横向きの状態の場合は、第2閾値「Ther2」に対応する後ろ向きの状態、または、第3閾値「Ther3」に対応する前向きの状態の場合よりも早い段階で、対象物の変化を検出することができる。よって、実施形態2によれば、運転者が車両を運転中に車両周辺の対象物の危険な変化が生じた場合、対象物の状態を考慮した上で迅速かつ正確に運転者に危険を報知することができるので、交通事故の発生可能性を低減することができる。その他、実施形態2によれば、上述の実施形態1と同様の効果を奏する。
【0109】
[他の実施形態]
その他、本発明に係る対象物変化検出装置1は、上述の実施形態1、変形例1〜3、および、実施形態2を適宜組み合わせて実行してもよい。例えば、閾値設定部12dは、種類情報取得部12bにより取得した種類情報および状態情報取得部12cにより取得した状態情報の両方に基づいて変化検出用閾値を設定してもよい。一例として、種類情報が対象物の種類として、子供、高齢者、成人の3パターンを示し、状態情報が対象物の状態として、横向き、後ろ向き、前向きの3パターンを示す場合、閾値設定部12dは、種類情報および状態情報に基づいて3×3の9パターンから、対象物の種類および状態(例えば、子供が横向きである状態)に適合する変化検出用閾値を設定してもよい。
【0110】
また、例えば、本発明に係る対象物変化検出装置1は、対象物を含む画像の背景の複雑度に応じて対象物変化検出処理の方法を使い分けてもよい。例えば、車両が街中を走行中の場合、対象物である歩行者や他車両を含む背景に種々の物体が含まれるため複雑になることが考えられる。この場合、本発明に係る対象物変化検出装置1は、背景画像のノイズを低減するために実施形態1の変形例3に記載の対象物変化検出処理(図9及び図10参照)を実行してもよい。また、例えば、高速道路を走行中の場合、対象物である他車両やバイクを含む背景が比較的単純になることが考えられる。この場合、本発明に係る対象物変化検出装置1は、計算負荷の少ない実施形態1に記載の対象物変化検出処理(図3および図4参照)実行してもよい。また、本発明に係る対象物変化検出装置1は、上述の実施形態1、変形例1〜3、および、実施形態2に示した不連続変化を検出する処理と並行して、従来の線形予測を行うことで連続変化を検出する処理を実行してもよい。
【符号の説明】
【0111】
1 対象物変化検出装置
12 制御部
12a 対象物検出部
12b 種類情報取得部
12c 状態情報取得部
12d 閾値設定部
12e 対象物変化検出部
12f 処理対象領域抽出部
12g 形状情報取得部
12h 正規化部
12i 形状情報蓄積部
12j 形状変化情報取得部
12k 形状変化情報蓄積部
12m 形状変化平均化部
12n 変化検出部
14 記憶部
14a 種類別閾値記憶部
14b 状態別閾値記憶部
14c 形状情報記憶部
14d 処理対象領域記憶部
14e 形状変化情報記憶部
14f 平均化形状変化情報記憶部
2 カメラ

【特許請求の範囲】
【請求項1】
画像から対象物の属性を検出する対象物検出手段と、
前記対象物検出手段により検出した前記対象物の属性内の当該対象物の種類を示す種類情報を取得する種類情報取得手段と、
前記種類情報取得手段により取得した前記種類情報に基づいて前記対象物の変化検出に用いる変化検出用閾値を設定する閾値設定手段と、
前記対象物検出手段により検出した前記対象物を含む前記画像から、前記閾値設定手段により設定した前記変化検出用閾値を用いて、前記対象物の変化を検出する対象物変化検出手段と、
を備えることを特徴とする対象物変化検出装置。
【請求項2】
前記対象物検出手段により検出した前記対象物の属性内の当該対象物の状態を示す状態情報を取得する状態情報取得手段、
を更に備え、
前記閾値設定手段は、前記種類情報取得手段により取得した前記種類情報および前記状態情報取得手段により取得した前記状態情報に基づいて前記変化検出用閾値を設定することを特徴とする請求項1に記載の対象物変化検出装置。
【請求項3】
画像から対象物の属性を検出する対象物検出手段と、
前記対象物検出手段により検出した前記対象物の属性内の当該対象物の状態を示す状態情報を取得する状態情報取得手段と、
前記状態情報取得手段により取得した前記状態情報に基づいて前記対象物の変化検出に用いる変化検出用閾値を設定する閾値設定手段と、
前記対象物検出手段により検出した前記対象物を含む前記画像から、前記閾値設定手段により設定した前記変化検出用閾値を用いて、前記対象物の変化を検出する対象物変化検出手段と、
を備えることを特徴とする、対象物変化検出装置。
【請求項4】
前記対象物変化検出手段は、
所定の特徴量を用いて、前記対象物検出手段により検出した前記対象物を含む前記画像から前記対象物の形状情報を表す特徴量分布を取得する形状情報取得手段と、
前記形状情報取得手段により取得した前記特徴量分布を正規化して、当該特徴量分布に対応する確率分布を取得する正規化手段と、
前記正規化手段により正規化した前記確率分布を蓄積する形状情報蓄積手段と、
所定の尺度を用いて、前記形状情報蓄積手段により蓄積した所定時間前の前記確率分布と現在の前記確率分布との差を計算し、計算された差が前記閾値設定手段により設定した前記変化検出用閾値よりも大きい場合に、前記対象物の変化を検出する変化検出手段と、
を更に備えることを特徴とする請求項1から3のいずれか1項に記載の対象物変化検出装置。
【請求項5】
前記対象物変化検出手段は、
前記対象物検出手段により検出した前記対象物を含む前記画像から処理対象領域を抽出する処理対象領域抽出手段、
を更に備え、
前記形状情報取得手段は、
前記処理対象領域抽出手段により抽出した前記処理対象領域から前記対象物の前記特徴量分布を取得することを特徴とする請求項4に記載の対象物変化検出装置。
【請求項6】
前記対象物変化検出手段は、
前記形状情報蓄積手段により蓄積した前記確率分布を用いて、前記所定時間前の前記確率分布と現在の前記確率分布との差を、前記対象物の形状変化情報として取得する形状変化情報取得手段と、
前記形状変化取得情報手段により取得した前記形状変化情報を蓄積する形状変化情報蓄積手段と、
を更に備え、
前記変化検出手段は、
前記形状変化情報蓄積手段により蓄積した前記形状変化情報を用いて類似度を計算し、当該類似度が前記閾値設定手段により設定した前記変化検出用閾値より小さい場合に、前記対象物の変化を検出することを特徴とする請求項4または5に記載の対象物変化検出装置。
【請求項7】
前記対象物変化検出手段は、
前記形状変化情報蓄積手段により蓄積した複数の前記形状変化情報を平均化して、平均化形状変化情報を取得する形状変化平均化手段、
を更に備え、
前記変化検出手段は、
前記形状変化平均化手段により取得した平均化形状変化情報を用いて前記類似度を計算し、当該類似度が前記閾値設定手段により設定した前記変化検出用閾値より小さい場合に、前記対象物の変化を検出することを特徴とする請求項6に記載の対象物変化検出装置。
【請求項8】
画像から対象物の属性を検出する対象物検出ステップと、
前記対象物検出ステップにて検出した前記対象物の属性内の当該対象物の種類を示す種類情報を取得する種類情報取得ステップと、
前記種類情報取得ステップにて取得した前記種類情報に基づいて前記対象物の変化検出に用いる変化検出用閾値を設定する閾値設定ステップと、
前記対象物検出ステップにて検出した前記対象物を含む前記画像から、前記閾値設定ステップにて設定した前記変化検出用閾値を用いて、前記対象物の変化を検出する対象物変化検出ステップと、
を含むことを特徴とする対象物変化検出方法。
【請求項9】
画像から対象物の属性を検出する対象物検出ステップと、
前記対象物検出ステップにて検出した前記対象物の属性内の当該対象物の状態を示す状態情報を取得する状態情報取得ステップと、
前記状態情報取得ステップにて取得した前記状態情報に基づいて前記対象物の変化検出に用いる変化検出用閾値を設定する閾値設定ステップと、
前記対象物検出ステップにて検出した前記対象物を含む前記画像から、前記閾値設定ステップにて設定した前記変化検出用閾値を用いて、前記対象物の変化を検出する対象物変化検出ステップと、
を含むことを特徴とする対象物変化検出方法。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7】
image rotate

【図8】
image rotate

【図9】
image rotate

【図10】
image rotate

【図11】
image rotate


【公開番号】特開2013−114401(P2013−114401A)
【公開日】平成25年6月10日(2013.6.10)
【国際特許分類】
【出願番号】特願2011−259242(P2011−259242)
【出願日】平成23年11月28日(2011.11.28)
【出願人】(000003207)トヨタ自動車株式会社 (59,920)
【Fターム(参考)】