説明

画像処理システムおよび画像処理プログラム

【課題】 短い処理時間で確実に歩行者の存在を検知する。
【解決手段】 第1判定処理部34は、遠赤外線カメラ11により撮影された、撮影対象物の温度に基づく各画素のデータ値を含む画像データに基づく4値化された画像データから抽出された歩行者候補領域において、画素のデータ値を参照して、データ値ごとにその度数の割合を示すヒストグラムを生成し、前記値ごとの度数の割合に基づいて、前記歩行者候補領域が歩行者に該当するかを判断する。第2判定処理部35は、さらに、歩行者候補領域について、その外縁を取り囲む外枠領域を生成し、かつ、当該外枠領域を複数のブロックに分割し、ブロックごとの、当該ブロックに含まれる歩行者候補領域の画素のデータ値に基づき、前記横方向のブロックにおけるデータ値の変化を示す指標値と、前記縦方向のブロックにおけるデータ値の変化を示す指標値とに基づいて、歩行者候補領域が歩行者に該当するかを判断する。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、撮影された画像から歩行者を適切に認識することができる画像処理システムおよび画像処理プログラムに関する。
【背景技術】
【0002】
車両の先頭位置に搭載されたカメラから撮影された画像から、車両の進行方向に位置する歩行者の存在を検知して、車内の表示装置などに、歩行者の位置を表示し、或いは、フロントウィンドウ上に歩行者の位置を投影する装置が提案されている。
【0003】
撮影される画像には、歩行者のほか、他の車両、信号機、標識などが含まれるため、歩行者を認識するために、赤外線カメラを用いて撮影し、赤外線の放射量にしたがった画素のデータ値を有する画像を得て、そこから歩行者の領域を特定する技術が提案されている。より詳細には、撮影された画像において、ある閾値より大きな値を示す領域の形状を特定し、その形状に基づき、歩行者が検出される。
【0004】
しかしながら、単なる形状の認識では、歩行者と同様に赤外線を放射し、かつ、比較的細長い形状の物体を歩行者と認識する可能性もある。その一方、形状に基づく判断では、歩行者が横方向に並んでいる場合や、木やガードレールなどの遮蔽物により、歩行者の一部が隠れている場合には、歩行者を認識できない場合もある。
【先行技術文献】
【特許文献】
【0005】
【特許文献1】特開2005−159392号公報
【特許文献2】特開2008−65463号公報
【発明の概要】
【発明が解決しようとする課題】
【0006】
特許文献1には、近赤外線カメラにて撮影された画像中、一定以上の近赤外線の放射量を有する領域を抽出し、さらに、その領域に含まれる画素のデータ値の分散を求め、分散が所定値以上である場合に、当該領域が歩行者に相当すると判断する技術が開示されている。
【0007】
また、特許文献2には、近赤外線カメラにて撮影された画像中、歩行者候補領域を抽出し、さらに、その領域に含まれる画素のデータ値を参照して、所定の値より大きな値を有する画素をカウントし、その候補領域に対する画素の面積の割合が閾値より小さいときに、その領域が歩行者に相当すると判断する技術が開示されている。
【0008】
上述したように、歩行者が横方向に並んでいる場合や、木やガードレールなどの遮蔽物により、歩行者の一部が隠れている場合であっても、確実かつ迅速に、歩行者の存在を検知できる技術が望まれる。
【0009】
本発明は、短い処理時間で確実に歩行者の存在を検知することができる画像処理システムおよび画像処理プログラムを提供することを目的とする。
【課題を解決するための手段】
【0010】
本発明の目的は、赤外線カメラにより撮影された、撮影対象物の温度に基づく各画素のデータ値を含む画像データを受け入れて、前記画像データから、各画素が温度に基づく3値以上の多値のデータ値を有する、多値画像データを取得する多値画像データ取得手段と、
前記多値画像データ中、各画素のデータ値に基づいて、所定温度以上を示す画素の領域を歩行者候補領域として抽出する歩行者候補領域抽出手段と、
前記歩行者候補領域に含まれる画素のデータ値を参照して、前記データ値ごとにその度数の割合を示すヒストグラムを生成し、前記値ごとの度数の割合に基づいて、前記歩行者候補領域が歩行者に該当するかを判断する第1の判定手段と、
前記第1の判定手段により歩行者に該当すると判断された歩行者候補領域について、その外縁を取り囲む外枠領域を生成し、かつ、当該外枠領域を複数のブロックに分割し、ブロックごとの、当該ブロックに含まれる歩行者候補領域の画素のデータ値に基づき、前記横方向のブロックにおけるデータ値の変化を示す指標値と、前記縦方向のブロックにおけるデータ値の変化を示す指標値とに基づいて、前記歩行者候補領域が歩行者に該当するかをさらに判断する第2の判定手段と、を備えたことを特徴とする画像処理システムにより達成される。
【0011】
好ましい実施態様においては、前記第1の判定手段が、前記値ごとの度数の割合が、それぞれ、予め定められた所定の範囲内であるかに基づいて判断する。
【0012】
また、好ましい実施態様においては、前記第2の判定手段が、前記ブロックごとに、前記ブロックに含まれる歩行者候補領域の画素のデータ値の平均値を算出し、前記横方向における平均値の変化を示す第1の指標値を算出するとともに、前記縦方向における平均値の変化を示す第2の指標値を算出する。
【0013】
より好ましい実施態様においては、前記多値画像データのデータ値は、温度が高くなるのにしたがってその値が増大し、
前記第2の判定手段が、
前記第1の指標値として、前記横方向について、平均値の最大値と最小値との差を算出し、前記第1の指標値が、前記第1の指標値が所定の範囲内であるときに、第1の条件に合致すると判断し、
前記第2の指標値として、縦方向に隣接するブロックについて、上側に位置するブロックの平均値−下側に位置するブロックの平均値を算出し、前記第2の指標値が正であるときに、第2の条件に合致すると判断し
前記第1の条件および第2の条件に合致するときに、前記歩行者候補領域が歩行者に該当すると判断する。
【0014】
別の好ましい実施態様においては、前記多値画像データのデータ値は、温度が高くなるのにしたがってその値が増大し、
前記第2の判定手段が、
前記第1の指標値として、横方向に隣接するブロックについての平均値の差を算出し、当該第1の指標値が、それぞれ、所定の範囲内であるときに、第1の条件に合致すると判断し、
前記第2の指標値として、縦方向に隣接するブロックについて、上側に位置するブロックの平均値−下側に位置するブロックの平均値を算出し、前記第2の指標値が正であるときに、第2の条件に合致すると判断し、
前記第1の条件および第2の条件に合致するときに、前記歩行者候補領域が歩行者に該当すると判断する。
【0015】
また、好ましい実施態様においては、前記第2の判定手段が、
前記ブロックごとに、前記ブロックに含まれる歩行者候補領域の画素のデータ値ごとの度数の割合を算出し、前記横方向における度数の割合の変化を示す第3の指標値を算出するとともに、前記縦方向における度数の割合の変化を示す第4の指標値を算出する。
【0016】
より好ましい実施態様においては、前記第2の判定手段が、
前記第3の指標値として、前記横方向に隣接するブロックにおいて、値ごとの度数の変化の割合の最大値と最小値との差を算出し、前記第3の指標値が、所定の範囲内であるときに、第3の条件に合致すると判断し、
前記第4の指標値として、前記縦方向に隣接するブロックにおいて、値ごとの度数の変化の割合の差を算出し、値にしたがって、第4の指標値が所定の同一の傾向を示すときに、前記第4の条件に合致すると判断し、
前記第3の条件および第4の条件に合致するときに、前記歩行者候補領域が歩行者に該当すると判断する。
【0017】
別の好ましい実施態様においては、前記第2の判定手段が、
前記第3の指標値として、前記横方向に隣接するブロックにおいて、値ごとの度数の変化の割合の差を算出し、前記第3の指標値が、それぞれ、所定の範囲内であるときに、第3の条件に合致すると判断し、
前記第4の指標値として、前記縦方向に隣接するブロックにおいて、値ごとの度数の変化の割合の差を算出し、値にしたがって、第4の指標値が所定の同一の傾向を示すときに、前記第4の条件に合致すると判断し、
前記第3の条件および第4の条件に合致するときに、前記歩行者候補領域が歩行者に該当すると判断する。
【0018】
また、好ましい実施態様においては、前記歩行者候補領域を構成する画素の座標および画素のデータ値を参照して、前記データ値ごとの重心位置を算出し、前記重心位置の座標に基づいて、前記歩行者候補領域が歩行者に該当するかをさらに判断する第3の判定手段を備える。
【0019】
より好ましい実施態様においては、前記第3の判定手段が、前記データ値ごとの重心のx座標が、所定の範囲内に隣接しているときに、前記歩行者候補領域が歩行者に該当すると判断する。
【0020】
別の好ましい実施態様においては、前記第3の判定手段が、前記データ値ごとの重心のy座標が、温度が高いことを示すデータ値になるのにしたがって大きくなるときに、前記歩行者候補領域が歩行者に該当すると判断する。
【0021】
また、本発明の目的は、赤外線カメラにより撮影された、撮影対象物の温度に基づく各画素のデータ値を含む画像データを受け入れて、前記画像データから、各画素が温度に基づく3値以上の多値のデータ値であって、温度が高くなるのにしたがって値が増大する多値画像データを取得する多値画像データ取得ステップと、
前記多値画像データ中、各画素のデータ値に基づいて、所定温度以上を示す画素の領域を歩行者候補領域として抽出する歩行者候補領域抽出ステップと、
前記歩行者候補領域に含まれる画素のデータ値を参照して、前記データ値ごとにその度数の割合を示すヒストグラムを生成し、前記値ごとの度数の割合に基づいて、前記歩行者候補領域が歩行者に該当するかを判断する第1の判定ステップと、
前記第1の判定手段により歩行者に該当すると判断された歩行者候補領域について、その外縁を取り囲む外枠領域を生成し、かつ、当該外枠領域を複数のブロックに分割し、ブロックごとの、当該ブロックに含まれる歩行者候補領域の画素のデータ値に基づき、前記横方向のブロックにおけるデータ値の変化を示す指標値と、前記縦方向のブロックにおけるデータ値の変化を示す指標値とに基づいて、前記歩行者候補領域が歩行者に該当するかをさらに判断する第2の判定ステップと、をコンピュータに実行させることを特徴とする画像処理プログラムにより達成される。
【発明の効果】
【0022】
本発明によれば、短い処理時間で確実に歩行者の存在を検知することができる画像処理システムおよび画像処理プログラムを提供することが可能となる。
【図面の簡単な説明】
【0023】
【図1】図1は、本発明の第1の実施の形態にかかる画像処理システムの概略を示すブロックダイヤグラムである。
【図2】図2は、本実施の形態にかかる歩行者認識処理部の例を示すブロックダイヤグラムである。
【図3】図3(a)、(b)は、それぞれ、歩行者候補領域特定部22による処理が実行された状態の画像データの例を示す図である。
【図4】図4は、本実施の形態にかかる熱源体領域抽出部において実行される処理の例を示すフローチャートである。
【図5】図5は、歩行者候補領域特定部において実行される処理(歩行者候補領域特定処理)の例を示すフローチャートである。
【図6】図6は、本実施の形態にかかる第1判定処理部における第1の判定処理の例を示すフローチャートである。
【図7】図7は、画像データにおいて実際の歩行者の領域についてのヒストグラムおよび歩行者以外(人工物)の領域についてのヒストグラムの例である。
【図8】図8は、本実施の形態にかかる第2判定処理部における第2の判定処理の例を示すフローチャートである。
【図9】図9(a)、(b)は、画像データ中において抽出された歩行者候補領域、外枠領域およびブロックの例を説明する図である。
【図10】図10は、本実施の形態にかかる第3判定処理部による第3の判定処理の例を示すフローチャートである。
【図11】図11は、歩行者候補領域および値ごとの重心位置の例を示す図である。
【図12】図12(a)、(b)は、それぞれ、画像データの例を示す図である。
【図13】図13は、本発明の第2の実施の形態にかかる第2判定処理の例を示すフローチャートである。
【図14】図14(a)は、外枠領域および分割されたブロックの例を示す図、図14(b)は、各ブロックに関するヒストグラムの例を示す図である。
【発明を実施するための形態】
【0024】
以下、添付図面を参照して、本発明の実施の形態につき説明を加える。図1は、本発明の第1の実施の形態にかかる画像処理システムの概略を示すブロックダイヤグラムである。本実施の形態にかかる画像処理システム10は、遠赤外線カメラにより取得された画像データに基づいて、画像中に歩行者が撮影されているかを判定する。図1に示すように、画像処理システム10は、遠赤外線カメラ11、インタフェース(I/F)12、CPU13、入力部14、表示部15、RAM16、ROM17および歩行者認識処理部18を有する。I/F12〜歩行者認識処理部18は、バスに接続されている。本実施の形態にかかる画像処理システム10は、車両に搭載され、車両の進行方向の画像を撮影し、当該画像データに基づいて、歩行者の存在の有無を検出する。
【0025】
遠赤外線カメラ11は、遠赤外線領域を検知し、撮影対象物の遠赤外線の放射量にしたがった画像信号を得ることができる。たとえば、画像信号は、画素ごとの、当該画素において受け入れた遠赤外線の放射量を示す多値のデータ値から構成される。I/F12は、遠赤外線カメラ11から受け入れた画像信号に基づき、画素の位置情報(座標)とデータ値とを対応付けて、画像データとしてRAM16の所定の領域に格納する。遠赤外線カメラ11は、たとえば、車両の前端部に配置され、前方(車両の通常の進行方向)の画像を撮影することができる。
【0026】
CPU13は、情報処理システム10の全体の制御、操作者による入力部14のスイッチ操作に基づく処理、表示部15への画像表示の制御、遠赤外線カメラ11の起動や撮影の指示、歩行者認識処理部18に対する動作の指示などを実行する。入力部14は、スイッチ類(図示せず)を有し、スイッチ操作に基づく操作信号をCPU13に与える。表示部15は、表示装置(たとえば液晶表示装置)を備え、遠赤外線カメラ11にて撮影された画像などを含む画像をその画面上に表示することができる。
【0027】
RAM16は、遠赤外線カメラ11にて撮影された画像信号に基づく画像データ、処理にて生じたデータ、パラメータ、演算値を格納する。ROM17は、情報処理システム10の全体の制御、操作者による入力部14のスイッチ操作に基づく処理、表示部15への画像表示の制御、遠赤外線カメラ11の起動や撮影の指示、歩行者認識処理部18に対する動作の指示などの処理プログラムを格納する。
【0028】
図2は、本実施の形態にかかる歩行者認識処理部の例を示すブロックダイヤグラムである。図2に示すように、歩行者認識処理部18は、熱源体領域抽出部21、歩行者候補領域特定部22、歩行者判定部23、および、表示画像生成部24を有する。
【0029】
熱源体領域抽出部21は、画像データを受け入れ、画像データに基づき、所定以上の温度を有する領域を熱源体領域として抽出する。歩行者候補領域特定部22は、熱源体領域から、さらに、所定の判断を行なうことで、歩行者候補領域を絞り込む。歩行者判定部23は、後述するように、3種類の判定を行なうことで、歩行者候補領域から最終的に歩行者領域を見出す。表示画像生成部24は、画像データに、最終的に認識された歩行者領域を示す枠を重ね合わせた画像データを生成して、表示部15に出力する。
【0030】
本実施の形態においては、熱源体領域処理部21は、4値化処理部31、ノイズ除去処理部43およびラベリング処理部33を有する。また、歩行者判定部23は、第1判定処理部34、第2判定処理部35および第3判定処理部36を有する。本実施の形態にかかる歩行者認識処理部18において実行される処理については、後に詳述する。
【0031】
図3(a)、(b)は、それぞれ、歩行者候補領域特定部22による処理が実行された状態の画像データの例を示す図である。たとえば、図3(a)においては、画像データ300には、3つの歩行者候補領域301〜303が含まれている。実際の画像では、歩行者候補領域301、302は単独の歩行者に対応し、その一方、歩行者候補領域302は、複数の歩行者が横に(並列して)並んでいる状態に対応する。歩行者候補領域302は、単に、その外郭を構成する枠(外枠)の縦横比で判断すると、たとえば、通常の歩行者のように縦方向の大きさ(長さ)が横方向の大きさ(幅)よりも十分に大きいことが成立しないため、歩行者に該当すると判断されない可能性が高い。
【0032】
また、図3(b)においては、画像データ310には、2つの歩行者候補領域311、312が含まれる。実際には、双方とも歩行者を示しているが、その下半分が、壁やガードレールなどの遮蔽物により遮られ、歩行者候補領域には含まれなくなっている。本実施の形態においては、図3(a)に示すような、複数人の歩行者が並んだ(或いは重なり合った)ような歩行者候補領域や、図3(b)に示すような、歩行者の外郭の一部が欠落した歩行者候補領域についても、適切に歩行者として認識できるようにしている。
【0033】
図4は、本実施の形態にかかる熱源体領域抽出部において実行される処理の例を示すフローチャートである。図4に示すように、熱源体領域抽出部21の4値化処理部31は、画像データを構成する各画素のデータ値を4値化して、新たな画素のデータ値からなる4値化された画像データを生成する(ステップ401)。新たな画素のデータ値も、RAM16の所定の領域に格納される。
【0034】
画像データを構成する画素のデータ値は、たとえば、8ビットで0〜127の何れかの値を示す多値データである。ここで、本実施の形態においては、最も温度が低い状態を示す値を「0」、温度が高くなるのにしたがってデータ値が増大することとする。4値化処理部31は、閾値Pth1、Pth2、Pth3(Pth1<Pth2<Pth3)を用いて、
0≦画素のデータ値<Pth1:第1の値(最低値)v1
Pth1≦画素のデータ値<Pth2:第2の値v2
Pth2≦画素のデータ値<Pth3:第3の値v3
Pth3≦画素のデータ値:第4の値(最高値)v4
(ただし、v1<v2<v3<v4)
となるように、それぞれの画素に対する新たなデータ値を決定すれば良い。以下、便宜上、第1の値v1、第2の値v2、第3の値v3および第4の値v4を、それぞれ、「0」、「1」、「2」、「3」とする。また、第2の値v2を「低温値」、第3の値v3を「中温値」、第4の値v4を「高温値」とも称する。
【0035】
無論、データ値は上述したものに限定されず、最も温度が高い状態を示す値が「0」であり、温度が低くなるのにしたがってデータ値が増大するようなものを採用しても良いことは言うまでも無い。
【0036】
ノイズ除去部43は、4値化された画像データ中、最低値(つまり、最も温度が低いこと)を示す画素を除き、第2の値(低温値)〜第4の値(高温値)を有する画素からなる領域を、初期的な熱源体領域候補として抽出する(ステップ402)。また、ノイズ除去部43は、初期的な熱源体領域候補において、画素数が極端に少ない領域(たとえば、画素数が所定の下限値Pminより小さい領域)を熱源体領域から除外する(ステップ403)とともに、画素数が極端に多い領域(たとえば、画素数が所定の上限値Pmaxを超える領域)を、熱源体領域候補から除外する(ステップ404)。
【0037】
次いで、ラベリング処理部33が、ラベリングにより同一の熱源体領域に属する画素に、同一のラベルを付与する(ステップ405)。ラベリング付与により、RAM16には、画素の位置を示す座標値(x座標、y座標)、低温値から高温値の何れかを示すデータ値、およびラベルからなる画素のデータが格納される。
【0038】
図5は、歩行者候補領域特定部において実行される処理(歩行者候補領域特定処理)の例を示すフローチャートである。図5に示すように、歩行者候補領域特定部22は、熱源体領域を構成する画素のx座標およびy座標を参照して、x座標の最小値xmin、最大値xmax、y座標の最小値ymin、最大値ymaxを取得し、(xmin,ymin)、(xmin,ymax)、(xmax,ymin)および(xmax,ymax)の4点にて画定される熱源体領域の外枠領域を特定する(ステップ501)。ステップ501により、熱源体領域のそれぞれについて、当該熱源体領域と接する矩形の外枠領域が得られる。
【0039】
次いで、歩行者候補領域特定部22は、画像データを構成する画素の縦方向および横方向の個数、並びに、遠赤外線カメラ11のレンズの焦点距離を考慮して、外枠領域の幅が所定値より大きいような熱源体領域を、歩行者候補領域から除外する(ステップ502)。たとえば、画素の個数およびレンズの焦点距離により、外枠領域の実際の大きさを把握することができる。そこで、歩行者が横に並んだとしても通常考えられない幅(たとえば、数m以上)に相当する外枠領域については、歩行者候補領域から除外している。無論、縦方向についても同様の判断を行なって良い。
【0040】
歩行者候補領域特定部22は、外径領域の縦横比(縦の長さ/横幅)が、所定より小さい熱源体領域を、歩行者候補領域から除外する(ステップ503)。これは、歩行者が横に並んだとしても、或いは、歩行者の一部が隠れていたとしても、横幅が縦の長さの数倍になる可能性が小さいという判断に基づいている。
【0041】
また、歩行者候補領域特定部22は、各熱源体領域の重心位置の座標および中心位置の座標を算出する(ステップ504)。熱源体領域の重心位置のx座標、および、y座標は以下のように算出され得る。
重心位置のx座標=(1/N)・Σ(熱源体領域に含まれる画素のx座標)
重心位置のy座標=(1/N)・Σ(熱源体領域に含まれる画素のy座標)
なお、Nは、熱源体領域を構成する画素の数である。
【0042】
また、熱源体領域の中心位置のx座標、および、y座標は以下のように算出され得る。
中心位置のx座標=(1/2)・(xmin+xmax)
中心位置のy座標=(1/2)・(ymin+ymax)
歩行者候補領域特定部22は、重心位置のx座標と、中心位置のx座標との相違が所定の範囲外、つまり|(重心位置のx座標)−(中心位置のx座標)|>所定値であるような熱源体領域を、歩行者候補領域から除外する(ステップ505)。また、歩行者候補領域特定部22は、重心位置のy座標が中心位置のy座標より下、つまり、(重心位置のy座標)<(中心位置のy座標)であるような熱源体領域を、歩行者候補領域から除外する(ステップ506)。これにより、除外されなかった熱源体領域が歩行者候補領域となり、RAM16に格納された歩行者候補領域の情報が、次の歩行者判定部23による処理にて参照される。
【0043】
なお、本実施の形態にかかる歩行者候補領域特定処理では、外径領域の幅、外径領域の縦横比、重心位置および中心位置のx座標、並びに、重心位置および中心位置のy座標に基づいて、熱源体領域から歩行者候補領域を絞り込んでいる。しかしながら、絞込みのための所定値や所定範囲は、あまり感度の良いものでなくても良い。つまり、歩行者候補領域特定処理では、多くの熱源体領域を除外する必要は無い。また、上記全ての絞込みを行なわなくても良い。本実施の形態においては、次に実行される歩行者判定部23における処理が、歩行者認識の主たるものであり、歩行者候補領域特定処理はその前処理である。そこで、歩行者候補領域特定処理においては、あまり厳密に歩行者候補領域を絞り込む必要が無い。
【0044】
次に、歩行者判定部23における処理について説明する。図6は、本実施の形態にかかる第1判定処理部における第1の判定処理の例を示すフローチャートである。図6に示すように、第1判定処理部34は、RAM16から処理対象となる歩行者候補領域の情報を取得する(ステップ601)。第1判定処理部34は、歩行者候補領域における画素のデータ値に基づいて、値ごとのヒストグラムを生成する(ステップ602)。前述したように、画素のデータ値は、低温値、中温値、および、高温値の何れかである。たとえば、ヒストグラムにおいては、低温値、中温値、高温値を有する画素数の割合が示される。
【0045】
第1判定処理部34は、各値の画素数の割合が、それぞれ、予め定められた範囲内であるかを判断する(ステップ603)。図7は、画像データにおいて実際の歩行者の領域についてのヒストグラムおよび歩行者以外(人工物)の領域についてのヒストグラムの例である。図7において、符号701〜703が歩行者の領域についてのヒストグラムを示し、符号711〜713が人工物の領域についてのヒストグラムを示す。
【0046】
図7に示すように、人工物の領域は、歩行者の領域と比較すると、特定の値に値が偏る傾向がある。本実施の形態では、予め多数の画像データから実際に歩行者の領域を切り出して、低温値〜高温値の割合を求めて、歩行者の領域における各値の範囲を取得している。この取得された値の範囲は、RAM16に格納されている。図7において、符号721、722、723で示す範囲が、それぞれ、歩行者の領域と考えられる高温値、中温値および低温値の値の範囲である。
【0047】
第1判定処理部34は、各値の画素数の割合が、それぞれ、定められた範囲内であるかを判断して、全てが範囲内であれば(ステップ604でYes)、RAM16中の歩行者候補領域の情報を残す(ステップ605)。これは、RAM16中の当該歩行者候補領域の情報を削除せずそのままにしておけば良い。その一方、ステップ604でNoと判断された場合には、第1判定処理部34は、RAM16中の歩行者候補領域の情報を削除する(ステップ606)。その後、第1判定処理部34は、RAM16中の歩行者候補領域の情報を参照して、全ての歩行者候補領域について処理を終了したかを判断する(ステップ607)。ステップ607でNoと判断された場合には、ステップ601に戻る。その一方、ステップ607でYesと判断された場合には、第1の判定処理が終了される。
【0048】
次いで、第2判定処理部35が、第2の判定処理を実行する。図8は、本実施の形態にかかる第2判定処理部における第2の判定処理の例を示すフローチャートである。図8に示すように、第2判定処理部35は、RAM16から処理対象となる歩行者候補領域の情報を取得する(ステップ601)。第2判定処理部35は、歩行者候補領域の情報中、各画素のx座標およびy座標を参照して、歩行者候補領域におけるx座標の最小値xmin、最大値xmax、y座標の最小値ymin、最大値ymaxを取得し、(xmin,ymin)、(xmin,ymax)、(xmax,ymin)および(xmax,ymax)の4点にて画定される歩行者候補領域の外枠領域を特定する(ステップ802)。これは、図5のステップ501と略同様の処理である。ステップ802により、歩行者候補領域と接する矩形の外枠領域が得られる。
【0049】
次いで、第2判定処理部35は、外枠領域を複数のブロックに分割して、各ブロックに属する画素を特定する(ステップ803)。ブロックの数は、たとえば、3×3=9であれば良い。或いは、外枠領域のサイズおよび縦横比に応じて、縦、横とも、所定の範囲(たとえば2〜4)の範囲で変更可能としても良い。以下、ブロック数を9とした場合を説明する。図9(a)、(b)は、画像データ中において抽出された歩行者候補領域、外枠領域およびブロックの例を説明する図である。図9(a)では、元の画像データ900に、歩行者候補領域の外縁を示す曲線911、外枠およびブロックを規定する直線910が重ねられている。
【0050】
第2判定処理部35は、ブロックごとに当該ブロックに含まれる歩行者候補領域を構成する画素のデータ値の平均値を算出する(ステップ804)。図9(b)では、たとえば、左上段のブロックに含まれる歩行者候補領域921の画素のデータ値についての平均値、中央上段のブロックに含まれる歩行者候補領域922の画素のデータ値についての平均値などが算出される。
【0051】
次いで、第2判定処理部35は、各ブロックの平均値の横方向における変化を示す指標値を取得する(ステップ805)。図9(b)において、たとえば、左上段のブロックに含まれる歩行者候補領域921、中央上段のブロックに含まれる歩行者候補領域922、右上段のブロックに含まれる歩行者候補領域923のそれぞれについて、平均値の変化を示す指標値(第1の指標値)が取得される。中段、下段についても同様に平均値の変化を示す指標値が取得される。横方向については、平均値の変化を示す指標値として、たとえば、平均値の最大値と最小値との差の絶対値(|最大値−最小値|)を用いることができる。
【0052】
また、第2判定処理部35は、各ブロックの平均値の縦方向における変化を示す指標値を取得する(ステップ806)。図9(b)において、たとえば、左上段のブロックに含まれる歩行者候補領域921、左中段のブロックに含まれる歩行者候補領域931、左下段のブロックに含まれる歩行者候補領域932のそれぞれについて、平均値の変化を示す指標値(第2の指標値)が取得される。中央の列、および、右列についても、同様に平均値の変化を示す指標値が取得される。縦方向については、平均値の変化を示す指標値として、(上側に位置するブロックについての平均値)−(下側に位置するブロックについての平均値)を用いることができる。
【0053】
第2判定処理部35は、上段、中段、下段のそれぞれの、横方向についての平均値の変化を示す第1の指標値が、所定の第1の条件に合致し、かつ、左列、中央の列、右列のそれぞれの、縦方向についての平均値の変化を示す第2の指標値が、所定の第2の条件に合致しているかを判断する(ステップ807)。
【0054】
本実施の形態において、たとえば、第1の条件は、第1の指標値が、所定の閾値よりも小さいことである。つまり、横方向については、平均値の変化が、所定よりも小さいこと、つまり、平均値がほぼ一定であることが条件となる。また、第2の条件は、第2の指標値が正の値であることである。つまり、縦方向については、平均値が、上から下に向かって減少している(温度が上から下に向かって減少する傾向がある)ことが条件となる。
【0055】
ステップ807でYesと判断された場合には、第2判定処理部35は、RAM16中の歩行者候補領域の情報を残す(ステップ808)。その一方、ステップ807でNoと判断された場合には、第2判定処理部35は、RAM16中の歩行者候補領域の情報を削除する(ステップ809)。その後、第2判定処理部35は、RAM16中の歩行者候補領域の情報を参照して、全ての歩行者候補領域について処理を終了したかを判断する(ステップ810)。ステップ810でNoと判断された場合には、ステップ801に戻る。その一方、ステップ810でYesと判断された場合には、第2の判定処理が終了される。
【0056】
次いで、第3判定処理部36が、第3の判定処理を実行する。図10は、本実施の形態にかかる第3判定処理部による第3の判定処理の例を示すフローチャートである。図10に示すように、第3判定処理部36は、RAM16から処理対象となる歩行者候補領域の情報を取得する(ステップ1001)。第3判定処理部36は、歩行者候補領域の情報を参照して、値ごと、つまり、高温値、中温値および低温値のそれぞれについて、重心位置の座標を取得する(ステップ1002)。同じ値を有するM個の画素のx座標、y座標は、それぞれ以下のように求められ得る。
重心位置のx座標=(1/M)・Σ(同じ値を有する画素のx座標)
重心位置のy座標=(1/M)・Σ(同じ値を有する画素のy座標)
第3判定処理部36は、各値についての重心位置のx座標を比較し(ステップ1003)、
各値の重心位置のx座標が所定範囲内に隣接しているかを判断する(ステップ1004)。ステップ1004においては、たとえば、x座標の最大値とx座標の最小値との差の絶対値(|x座標の最大値−x座標の最小値|)が算出され、当該差の絶対値が所定の閾値より小さいかが判断される。ステップ1004でYesと判断された場合には、第3判定処理部は、各値についての重心位置のy座標を比較し(ステップ1005)、高温側の値になるのにしたがって、y座標がより大きいかを判断する(ステップ1006)。ステップ1006では、(高温値についてのy座標)>(中温値についてのy座標)>(低温値についてのy座標)が成立しているかが判断される。
【0057】
ステップ1006でYesと判断された場合には、第3判定処理部36は、RAM16 の歩行者候補領域の情報を残す(ステップ1007)。その一方、ステップ1004でNoと判断された場合、或いは、ステップ1006でNoと判断された場合には、第3判定処理部36は、RAM16中の歩行者候補領域の情報を削除する(ステップ1008)。その後、第3判定処理部36は、RAM16中の歩行者候補領域の情報を参照して、全ての歩行者候補領域について処理を終了したかを判断する(ステップ1009)。ステップ1009でNoと判断された場合には、ステップ1001に戻る。
【0058】
ステップ1009でYesと判断された場合には、第3判定処理部36は、RAM16に格納された歩行者候補領域の情報を、最終的な歩行者領域の情報とする(ステップ1010)。ステップ1010では、歩行者候補領域の情報を新たに歩行者領域の情報として、RAM16に格納しても良いし、歩行者候補領域の情報に、歩行者領域確定フラグを設け、当該歩行者領域確定フラグを「1」にセットしても良い。
【0059】
図11は、歩行者候補領域および値ごとの重心位置の例を示す図である。図11において、歩行者候補領域1100の、高温値についての重心位置、中温値についての重心位置および低温値についての重心位置が、それぞれ、符号1101、1102、1103で示されている。高温値についての重心位置の座標は(X4,Y4)、中温値についての重心位置の座標は(X3,Y3)、低温値についての重心位置の座標は(X2,Y2)である。
【0060】
ステップ1004では、x座標の最大値X3と、最小値X2とが比較され、X3−X2が、所定の閾値Xthより小さいと判断される。また、ステップ1006では、y座標が比較され、Y4>Y3>Y2が成立していると判断される。したがって、図11に示す歩行者候補領域1100は、重心位置についての条件を満たすため、歩行者領域と判断される。
【0061】
歩行者判定部23における処理が終了すると、表示画像生成部24は、RAM16から歩行者領域の情報を取得して、画像データに、歩行者領域を囲む枠を付与して、枠が付された画像データを、表示部15に出力する。これにより、表示部15の画面上には、歩行者領域を枠で囲んで強調した画像が表示される。
【0062】
図12(a)、(b)は、それぞれ、画像データの例を示す図である。図12(a)において、画像1200においては、複数の歩行者候補領域(たとえば、符号1202、1202、1203参照)が存在する。処理の結果、歩行者候補領域1201が歩行者領域であると判断され、図12(b)に示すように、画像1210において、歩行者領域の枠1211が付加される。
【0063】
次に本発明の第2の実施の形態について説明する。第1の実施の形態においては、第2判定処理において、外枠領域を複数のブロックに分割し、各ブロックに含まれる歩行者候補領域を構成する画素のデータ値の平均値を算出し、平均値の傾向を見ることで、歩行者候補領域の絞込みを行なっている。第2の実施の形態では、各ブロックの温度分布を取得して、温度分布の傾向から、歩行者候補領域の絞込みを行なう。熱源体領域抽出部21による処理、歩行者候補領域特定部22による処理は、第1の実施の形態のものと同様である。また、歩行者判定部23における第1判定処理部34および第3判定処理部26における処理も、第1の実施の形態のものと同様である。
【0064】
図13は、本発明の第2の実施の形態にかかる第2判定処理の例を示すフローチャートである。図13において、ステップ1301〜1303は、第1の実施の形態と同様である。ステップ1303の後、第2判定処理部35は、各ブロックにおいて、当該ブロックに含まれる歩行者候補領域を校正する画素のデータ値に基づいて、値ごとのヒストグラムを生成する(ステップ1304)。画素のデータ値は、低温値、中温値、および、高温値の何れかであるため、たとえば、ヒストグラムにおいては、低温値、中温値、高温値を有する画素数の割合が示される。本実施の形態では、外枠領域は9つのブロックに分割されるため、9つのヒストグラムが生成される。
【0065】
次いで、第2判定処理部35は、横方向のブロックの度数の割合の変化を示す指標値(第3の指標値)を取得する(ステップ1305)。また、第2判定処理部35は、縦方向のブロックの度数の割合の変化を示す指標値(第4の指標値)を取得する(ステップ1306)。第2判定部35は、第3の指標値の全てが所定の第3の条件にしがっており、かつ、第4の指標値の全てが所定の第4の条件にしたがっているかを判断する(ステップ1307)。
【0066】
図14(a)は、外枠領域および分割されたブロックの例を示す図、図14(b)は、各ブロックに関するヒストグラムの例を示す図である。図14(b)においては、図14(a)に示すように外枠領域1400を9つに分割したブロックA11〜A13のうち、A11〜A13(符号1411〜1413)、A21およびA31(符号1421、1431)についてのヒストグラムを例示している。
【0067】
たとえば、第3の指標値として、横方向の各値について、度数の割合の最大値と最小値との差の絶対値を用いることができる。図14(b)の例では、上段のブロックについて、度数の割合の最大値と最小値との差の絶対値として、それぞれ、以下の値が算出される。
|V4(A11)−V4(A12)|
|V3(A13)−V3(A11)|
|V2(A13)−V3(A12)|
横方向については、上記差の絶対値(第3の指標値)が、所定の閾値より小さい場合に、第3の条件にしたがっていると判断される。中段および下段についても同様に、第3の指標値が算出され、所定の閾値よりも小さいかが判断される。
【0068】
また、第4の指標値として、縦方向に隣接するブロックの高温値および低温値について、(上側に位置するブロックの度数の割合)−(下側に位置する度数の割合)を用いることができる。図14(b)の例では、左列のブロックについて、(上側に位置するブロックの度数の割合)−(下側に位置する度数の割合)として以下の値が算出される。
V4(A11)−V4(A21)
V2(A11)−V2(A21)
V4(A21)−V4(A31)
V2(A21)−V2(A31)
縦方向については、高温値V4は、上から下に向かって減少し、低音値V2は、上から下の向かって上昇する場合に第4の条件にしたがっていると判断される。つまり、左列のブロックでは、
V4(A11)−V4(A21)>0、V4(A21)−V4(A31)>0、かつ、
V2(A11)−V2(A21)<0、V2(A21)−V2(A31)<0であることが、第4の条件となる。
【0069】
ステップ1307でYesと判断された場合には、第2判定処理部35は、RAM16中の歩行者候補領域の情報を残す(ステップ1308)。その一方、ステップ1307でNoと判断された場合には、第2判定処理部35は、RAM16中の歩行者候補領域の情報を削除する(ステップ1309)。その後、第2判定処理部35は、RAM16中の歩行者候補領域の情報を参照して、全ての歩行者候補領域について処理を終了したかを判断する(ステップ1310)。ステップ1310でNoと判断された場合には、ステップ1301に戻る。その一方、ステップ1310でYesと判断された場合には、第2の判定処理が終了される。
【0070】
本発明は、以上の実施の形態に限定されることなく、特許請求の範囲に記載された発明の範囲内で、種々の変更が可能であり、それらも本発明の範囲内に包含されるものであることは言うまでもない。
【0071】
たとえば、第1の実施の形態の第2の判定処理では、横方向における変化を示す第1の指標値として、平均値の最大値と最小値との差の絶対値を用いていたが、これに限定されず、隣接するブロックの平均値の差の絶対値を用いても良い。この場合、第1の条件は、上記平均値の差の絶対値の全てが、所定の閾値よりも小さいことになる。
【0072】
また、第2の実施の形態にかかる第2の判定処理では、横方向における変化を示す第3の指標値として、度数の割合の最大値と最小値との差の絶対値を用いていた。しかしながら、これに限定されず、たとえば、第3の指標値として、横方向で隣接するブロックの各値について、隣接する値に関する度数の割合の差の絶対値を用いることができる。図14(b)の例では、上段のブロックについて、隣接する値に関する度数の割合の差の絶対値として、以下の値が算出される。
|V4(A11)−V4(A12)|
|V3(A11)−V3(A12)|
|V2(A11)−V3(A12)|
|V4(A12)−V4(A13)|
|V3(A12)−V3(A13)|
|V2(A12)−V3(A13)|
この例では、横方向について、上記差の絶対値が、所定の閾値より小さい場合に、第3の条件にしたがっていると判断される。中段および下段についても同様に、第3の指標値が算出され、所定の閾値よりも小さいかが判断される。
【0073】
また、本発明においては、遠赤外線カメラにより撮影された画像データを4値化して、4値化された新たな画像データが得られているが、これに限定されるものではなく3値化された新たな画像データや、5値化以上の値を有する新たな画像データが生成され、新たな画像データが処理に利用されても良い。
【符号の説明】
【0074】
10 画像処理システム
11 遠赤外線カメラ
12 インタフェース
13 CPU
14 入力部
15 表示部
16 RAM
17 ROM
18 歩行者認識部
21 熱源体領域抽出部
22 歩行者候補領域特定部
23 歩行者判定部
31 4値化処理部
32 ノイズ除去処理部
33 ラベリング処理部
34 第1判定処理部
35 第2判定処理部
36 第3判定処理部

【特許請求の範囲】
【請求項1】
赤外線カメラにより撮影された、撮影対象物の温度に基づく各画素のデータ値を含む画像データを受け入れて、前記画像データから、各画素が温度に基づく3値以上の多値のデータ値を有する、多値画像データを取得する多値画像データ取得手段と、
前記多値画像データ中、各画素のデータ値に基づいて、所定温度以上を示す画素の領域を歩行者候補領域として抽出する歩行者候補領域抽出手段と、
前記歩行者候補領域に含まれる画素のデータ値を参照して、前記データ値ごとにその度数の割合を示すヒストグラムを生成し、前記値ごとの度数の割合に基づいて、前記歩行者候補領域が歩行者に該当するかを判断する第1の判定手段と、
前記第1の判定手段により歩行者に該当すると判断された歩行者候補領域について、その外縁を取り囲む外枠領域を生成し、かつ、当該外枠領域を複数のブロックに分割し、ブロックごとの、当該ブロックに含まれる歩行者候補領域の画素のデータ値に基づき、前記横方向のブロックにおけるデータ値の変化を示す指標値と、前記縦方向のブロックにおけるデータ値の変化を示す指標値とに基づいて、前記歩行者候補領域が歩行者に該当するかをさらに判断する第2の判定手段と、を備えたことを特徴とする画像処理システム。
【請求項2】
前記第1の判定手段が、前記値ごとの度数の割合が、それぞれ、予め定められた所定の範囲内であるかに基づいて判断することを特徴とする請求項1に記載の画像処理システム。
【請求項3】
前記第2の判定手段が、前記ブロックごとに、前記ブロックに含まれる歩行者候補領域の画素のデータ値の平均値を算出し、前記横方向における平均値の変化を示す第1の指標値を算出するとともに、前記縦方向における平均値の変化を示す第2の指標値を算出することを特徴とする請求項1または2に記載の画像処理システム。
【請求項4】
前記多値画像データのデータ値は、温度が高くなるのにしたがってその値が増大し、
前記第2の判定手段が、
前記第1の指標値として、前記横方向について、平均値の最大値と最小値との差を算出し、前記第1の指標値が、前記第1の指標値が所定の範囲内であるときに、第1の条件に合致すると判断し、
前記第2の指標値として、縦方向に隣接するブロックについて、上側に位置するブロックの平均値−下側に位置するブロックの平均値を算出し、前記第2の指標値が正であるときに、第2の条件に合致すると判断し
前記第1の条件および第2の条件に合致するときに、前記歩行者候補領域が歩行者に該当すると判断することを特徴とする請求項3に記載の画像処理システム。
【請求項5】
前記多値画像データのデータ値は、温度が高くなるのにしたがってその値が増大し、
前記第2の判定手段が、
前記第1の指標値として、横方向に隣接するブロックについての平均値の差を算出し、当該第1の指標値が、それぞれ、所定の範囲内であるときに、第1の条件に合致すると判断し、
前記第2の指標値として、縦方向に隣接するブロックについて、上側に位置するブロックの平均値−下側に位置するブロックの平均値を算出し、前記第2の指標値が正であるときに、第2の条件に合致すると判断し、
前記第1の条件および第2の条件に合致するときに、前記歩行者候補領域が歩行者に該当すると判断することを特徴とする請求項3に記載の画像処理システム。
【請求項6】
前記第2の判定手段が、
前記ブロックごとに、前記ブロックに含まれる歩行者候補領域の画素のデータ値ごとの度数の割合を算出し、前記横方向における度数の割合の変化を示す第3の指標値を算出するとともに、前記縦方向における度数の割合の変化を示す第4の指標値を算出することを特徴とする請求項1または2に記載の画像処理システム。
【請求項7】
前記第2の判定手段が、
前記第3の指標値として、前記横方向に隣接するブロックにおいて、値ごとの度数の変化の割合の最大値と最小値との差を算出し、前記第3の指標値が、所定の範囲内であるときに、第3の条件に合致すると判断し、
前記第4の指標値として、前記縦方向に隣接するブロックにおいて、値ごとの度数の変化の割合の差を算出し、値にしたがって、第4の指標値が所定の同一の傾向を示すときに、前記第4の条件に合致すると判断し、
前記第3の条件および第4の条件に合致するときに、前記歩行者候補領域が歩行者に該当すると判断することを特徴とする請求項6に記載の画像処理システム。
【請求項8】
前記第2の判定手段が、
前記第3の指標値として、前記横方向に隣接するブロックにおいて、値ごとの度数の変化の割合の差を算出し、前記第3の指標値が、それぞれ、所定の範囲内であるときに、第3の条件に合致すると判断し、
前記第4の指標値として、前記縦方向に隣接するブロックにおいて、値ごとの度数の変化の割合の差を算出し、値にしたがって、第4の指標値が所定の同一の傾向を示すときに、前記第4の条件に合致すると判断し、
前記第3の条件および第4の条件に合致するときに、前記歩行者候補領域が歩行者に該当すると判断することを特徴とする請求項6に記載の画像処理システム。
【請求項9】
前記歩行者候補領域を構成する画素の座標および画素のデータ値を参照して、前記データ値ごとの重心位置を算出し、前記重心位置の座標に基づいて、前記歩行者候補領域が歩行者に該当するかをさらに判断する第3の判定手段を備えたことを特徴とする請求項1ないし8の何れか一項に記載の画像処理システム。
【請求項10】
前記第3の判定手段が、前記データ値ごとの重心のx座標が、所定の範囲内に隣接しているときに、前記歩行者候補領域が歩行者に該当すると判断することを特徴とする請求項9に記載の画像処理システム。
【請求項11】
前記第3の判定手段が、前記データ値ごとの重心のy座標が、温度が高いことを示すデータ値になるのにしたがって大きくなるときに、前記歩行者候補領域が歩行者に該当すると判断することを特徴とする請求項9または10に記載の画像処理システム。
【請求項12】
赤外線カメラにより撮影された、撮影対象物の温度に基づく各画素のデータ値を含む画像データを受け入れて、前記画像データから、各画素が温度に基づく3値以上の多値のデータ値であって、温度が高くなるのにしたがって値が増大する多値画像データを取得する多値画像データ取得ステップと、
前記多値画像データ中、各画素のデータ値に基づいて、所定温度以上を示す画素の領域を歩行者候補領域として抽出する歩行者候補領域抽出ステップと、
前記歩行者候補領域に含まれる画素のデータ値を参照して、前記データ値ごとにその度数の割合を示すヒストグラムを生成し、前記値ごとの度数の割合に基づいて、前記歩行者候補領域が歩行者に該当するかを判断する第1の判定ステップと、
前記第1の判定手段により歩行者に該当すると判断された歩行者候補領域について、その外縁を取り囲む外枠領域を生成し、かつ、当該外枠領域を複数のブロックに分割し、ブロックごとの、当該ブロックに含まれる歩行者候補領域の画素のデータ値に基づき、前記横方向のブロックにおけるデータ値の変化を示す指標値と、前記縦方向のブロックにおけるデータ値の変化を示す指標値とに基づいて、前記歩行者候補領域が歩行者に該当するかをさらに判断する第2の判定ステップと、をコンピュータに実行させることを特徴とする画像処理プログラム。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7】
image rotate

【図8】
image rotate

【図9】
image rotate

【図10】
image rotate

【図11】
image rotate

【図12】
image rotate

【図13】
image rotate

【図14】
image rotate


【公開番号】特開2011−234012(P2011−234012A)
【公開日】平成23年11月17日(2011.11.17)
【国際特許分類】
【出願番号】特願2010−100836(P2010−100836)
【出願日】平成22年4月26日(2010.4.26)
【新規性喪失の例外の表示】特許法第30条第1項適用申請有り 〔発行者名〕 社団法人 電気学会 〔刊行物名〕 平成22年電気学会全国大会 講演論文集(The 2010 Annual Meeting Record I.E.E.Japan) 〔発行年月日〕 平成22年3月5日
【出願人】(593172131)株式会社トーキンオール (12)
【出願人】(510116451)
【Fターム(参考)】