説明

対象物検出装置

【課題】対象物検出装置は、画像に所定の対象物が含まれていることを検出するために、一定の処理量が必要となるパターン認識処理を行う。このパターン認識処理に必要となる処理量は、従来の対象物検出装置において比較的大規模なものとなっている。よって、このパターン認識処理における処理量を削減したいという要望がある。
【解決手段】撮像装置群が撮影する2枚1組のステレオ画像に写っている被写体における視差を利用して、画像を構成する画素毎に、被写体までの距離を算出する。そして、画像に写っている被写体のうち、背景よりも手前に写っている被写体の部分の画素群を抽出する。さらに、これら抽出した被写体の部分の画素群に対して、統計的学習に基づくパターン認識処理を行い、これら抽出した被写体の部分の画素群の中に、予め定められた所定の対象物が被写体として含まれていることを検出する。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、画像に写る所定の対象物を検出する技術に関する。
【背景技術】
【0002】
従来、画像に所定の対象物(例えば、人物、自動車等)が被写体として含まれていることを検出する対象物検出装置がある。
被写体を認識する技術として、一般に、統計的学習に基づくパターン認識技術が知られている。
この統計的学習に基づくパターン認識技術の例として、例えば、弱識別器を組み合わせて強識別器を構成するアダブースト(adaboost)学習法が非特許文献1に記載され、例えば、このアダブースト学習法を用いた顔検出手法が非特許文献2に記載されている。
【0003】
また、画像から被写体の特徴を示す特徴量を抽出する技術として、例えば、画像を構成する画素ブロックを2値化画像に変換することにより、被写体の特徴量を抽出する技術が非特許文献3に記載され、例えば、各画素における被写体までの距離を示す被写体距離情報を用いて被写体の特徴量を抽出する技術が特許文献1に記載されている。
【先行技術文献】
【特許文献】
【0004】
【特許文献1】特開2010−165183号公報
【非特許文献】
【0005】
【非特許文献1】Yoav Freund,Robert E.Schapire「A decision - theoretic generalization of on-line learning and an application to boosting」Computational Learning Theory : Eurocolt'95,Springer-Verlag,1995年,p.23−37
【非特許文献2】Paul Viola,Michael Jones「Rapid Object Detection Using a Boosted Cascade of Simple Features」IEEE Computer Society Conference on Computer Vision and Pattern Recognition(CVPR),2001年12月,ISSN:1063-6919,Vol.1,p.511−518
【非特許文献3】Bernhard Froba,Andreas Ernst「Face Detection with the Modified Census Transform」Proceedings for Sixth IEEE International Conference on Automatic Face and Gesture Recognition(AFGR),2004年5月,p.91−96
【発明の概要】
【発明が解決しようとする課題】
【0006】
画像に所定の対象物が含まれていることを検出するために用いられる上述のパターン認識処理に必要となる処理量は、従来の対象物検出装置において比較的大規模なものとなっている。
このパターン認識処理における処理量を削減すべく、本発明はなされたものであり、従来の対象物検出装置が行うパターン認識処理の処理量よりも少ない処理量で、画像に所定の対象物が含まれていることを検出する可能性が高くなる対象物検出装置を提供することを目的とする。
【課題を解決するための手段】
【0007】
上記課題を解決するために本発明に係る対象物検出装置は、撮影された画像に、所定の対象物が被写体として含まれていることを検出する対象物検出装置であって、撮影された画像において、画像を構成する画素それぞれについて、被写体までの距離を示す被写体距離を算出する被写体距離算出手段と、画像を構成する画素それぞれについて、前記所定の対象物がないと推定される状態の距離を記憶する非対象物距離記憶手段と、撮影された画像において、前記被写体距離算出手段によって算出された被写体距離が、前記非対象物距離記憶手段によって記憶される距離よりも近距離を示す画素からなる検出対象画素群を抽出する検出対象画素群抽出手段と、前記所定の対象物の距離分布の特徴に係る特徴情報を記憶する特徴情報記憶手段と、前記特徴情報記憶手段に記憶されている前記特徴情報を参照して、前記検出対象画素群抽出手段によって抽出された検出対象画素群から、前記所定の対象物が被写体として含まれていることを検出する検出手段とを備えることを特徴とする。
【発明の効果】
【0008】
上述の構成を備える本発明に係る対象物検出装置では、撮影された画像において、被写体としての所定の対象物は、上述の検出対象画素群に含まれることとなる。このことから、検出手段は、画像を構成する画素群全体ではなく、その一部分である検出対象画素群に対して、パターン認識処理を行うことで、被写体としての所定の対象物を検出することができることとなる。すなわち、例えば、近距離画素群の領域が、画像を構成する画素群の領域の1/3に絞り込まれているとすると、パターン認識処理を行う対象となる画素群は、画像を構成する画素群の1/3に絞り込まれることとなる。
【0009】
また2次元画像の絵柄の特徴が乏しい対象物に対しても、距離の分布をその検出対象物の特徴量とすることから対象物の色や濃淡、照明光の偏りや影に影響されることがないため、パターン認識のための膨大な学習処理の時間とその結果得られる膨大な学習データを記憶保持するメモリや、膨大な学習データに基づき識別処理を高速に実施するための多量の処理を必要としない。
【0010】
従って、上述の構成を備える対象物検出装置は、従来の対象物検出装置が行うパターン認識処理の処理量よりも少ない処理量で、画像に所定の対象物が含まれていることを検出する可能性が高くなる。
【図面の簡単な説明】
【0011】
【図1】対象物検出装置100の主要な回路構成を示すブロック図
【図2】第1固体撮像装置201と第2固体撮像装置203との主要な構成要素を示すブロック図
【図3】視差検波回路205の回路構成を示すブロック図
【図4】(a)視差評価値の算出動作を模式的に示す模式図、(b)視差値の算出動作を模式的に示した模式図
【図5】背景画素距離値記憶回路207と背景更新回路208との主要な回路構成を示すブロック図
【図6】背景距離マッピング処理のフローチャート
【図7】背景除去処理のフローチャート
【図8】背景除去処理を模式的に示す模式図
【図9】学習データD101のデータ構成図
【図10】弱識別器を組み合わせて構成される強識別器の一例を示す模式図
【図11】識別処理回路211の回路構成を示すブロック図
【図12】(a)PSからのPWの抽出を示す模式図その1、(b)PSからのPWの抽出を示す模式図その2
【図13】信頼度係数についての、画素距離値とPW/入力PS比との相関図
【図14】対象物検出装置1000の主要な回路構成を示すブロック図
【図15】背景画素距離値記憶回路1202と第2背景更新回路1201との主要な回路の回路構成を示すブロック図
【図16】照明システムを構成する主要な構成要素の構成を示すブロック図
【発明を実施するための形態】
【0012】
<実施の形態1>
<概要>
以下、本発明に係る対象物検出装置の一実施形態として、2枚1組となるステレオ画像を撮影する撮像装置群を備え、この撮像装置群が撮影したステレオ画像に、予め定められた所定の対象物が被写体として含まれていることを検知する対象物検知装置について説明する。
【0013】
この対象物検出装置は、一定期間、固定設置されて利用され、撮像装置群が撮影する2枚1組のステレオ画像に写っている被写体における視差を利用して、画像を構成する画素位置毎の、被写体までの距離を算出する。そして、画像に写っている被写体のうち、一定期間動いていない被写体を背景として算定し、背景よりも手前に写っている被写体の部分の画素群を抽出する。さらに、これら抽出した画素群の距離分布に対して、統計的学習に基づくパターン認識処理を行い、これら抽出した画素群の中から、被写体として所定の対象物を検出する。
【0014】
以下、本実施の形態1に係る対象物検出装置の構成について図面を参照しながら説明する。
<全体構成>
図1は、対象物検出装置100の主要な回路構成を示すブロック図である。
同図に示される通り、対象物検出装置100は、撮像装置群101と撮像距離マップ生成回路102と基準距離マップ記憶回路103と検出対象距離マップ生成回路104と対象物識別回路105と集団学習機110とシーケンス制御回路200と同期信号発生器214とから構成される。
【0015】
撮像装置群101は、撮像距離マップ生成回路102に接続され、逐次2枚1組のステレオ画像を撮影する機能と、撮影したステレオ画像の画像データを記憶する機能とを有する。
撮像距離マップ生成回路102は、撮像装置群101と基準距離マップ記憶回路103と検出対象距離マップ生成回路104とに接続され、撮像装置群101に記憶されるステレオ画像の画像データを逐次読み出して、ステレオ画像に写る被写体の視差を利用して、画像を構成する画素の画素位置それぞれについて、被写体までの距離の逆数を示す画素距離値を算出し、算出した画素距離値を、基準距離マップ記憶回路103と検出対象距離マップ生成回路104とに出力する機能を有する。
【0016】
基準距離マップ記憶回路103は、撮像距離マップ生成回路102と検出対象距離マップ生成回路104とに接続され、以下の機能を有する。
機能1:撮像距離マップ生成回路102から出力される、複数枚のステレオ画像についての、ステレオ画像それぞれについての画素距離値群から、画素位置毎に、背景となる被写体までの距離の逆数を示す基準距離値を算出する機能。
【0017】
機能2:算出した画素位置毎の基準距離値からなる基準画素距離マッピングデータを生成して記憶する機能。
検出対象距離マップ生成回路104は、撮像距離マップ生成回路102と基準距離マップ記憶回路103と対象物識別回路105とに接続され、以下の機能を有する。
機能1:撮像距離マップ生成回路102から1ステレオ画像分の画素距離値が入力されると、基準距離マップ記憶回路103に記憶されている基準距離マッピングデータを読み出して、入力された1ステレオ画像分の画素距離値のうち、基準距離値よりも大きな画素距離値からなる近距離画素群を抽出し、抽出した近距離画素群以外の画素距離値をゼロとする機能。
【0018】
機能2:近距離画素群以外の画素距離値がゼロとなる、1ステレオ画像分の画素距離値(以下、「検出画素距離値」と呼ぶ。)を記憶する機能。
集団学習機110は、対象物識別回路105に接続され、所定の学習アルゴリズム(例えば、アダブースト学習法)に従って、複数の弱識別器を生成する機能を有する。
ここで、弱識別器とは、例えば、アダブースト学習法で利用される識別器の一種であり、識別エラーが50%以下程度のものをいう。
【0019】
対象物識別回路105は、検出対象距離マップ生成回路104と集団学習機110とに接続され、検出対象距離マップ生成回路104に記憶されている検出画素距離値群から、所定の対象物が被写体として含まれていることを検出して、検出した所定の対象物の位置を示す位置情報を外部に出力する機能を有する。
同期信号発生器214は、各種同期信号を生成し、生成した同期信号を、必要とする回路に供給する機能を有する。
【0020】
この同期信号発生器214は、対象物検出装置100を構成する様々な回路と接続されているが、これらの回路との接続関係は、図面が煩雑になるために図示していない。また、本文中でも、特に断りのある場合を除いて、接続関係の説明を省略する。
シーケンス制御回路200は、対象物検出装置100を構成する各回路の動作を制御する機能を有する。
【0021】
このシーケンス制御回路200は、対象物検出装置100を構成する様々な回路と接続されているが、これらの回路との接続関係は、図面が煩雑になるために図示していない。また、本文中でも、特に断りのある場合を除いて、接続関係の説明を省略する。
以下、対象物検出装置100を構成するこれら上述の回路それぞれについて、詳細に説明する。
【0022】
<撮像装置群101>
図1に示される通り、撮像装置群101は、第1固体撮像装置201と第2固体撮像装置203と第1フレームメモリ202と第4フレームメモリ204とから構成される。
第1固体撮像装置201と第2固体撮像装置203とは、それぞれ、2枚1組となるステレオ画像の一方の画像を撮影する機能を有する。
【0023】
図2は、第1固体撮像装置201と第2固体撮像装置203との主要な構成要素を示すブロック図である。
同図に示される通り、第1固体撮像装置201は、さらに、レンズ光学系301と第1固体撮像素子302とから構成され、第2固体撮像装置203は、さらに、レンズ光学系304と第2固体撮像素子303とから構成される。
【0024】
第1固体撮像素子302は、受光面として、例えば、水平方向にN個、垂直方向にM個となる2次元格子状に画素アレイを有するCMOS(Complementary Metal Oxide Semiconductor)型イメージセンサであって、同期信号発生器214から入力される垂直同期信号と水平同期信号とに同期して、受光面に入力される光を、画素毎に光電変換してデジタル値(以後、「画素値」と呼ぶ。)を生成し、生成した画素値を、第1フレームメモリ202に出力する機能を有する。
【0025】
ここで、水平方向とは、水平同期信号に同期して読み出される画素が並ぶ方向のことを言い、垂直方向とは、水平方向に垂直な、画素の並ぶ方向のことを言う。
第2固体撮像素子303は、第1固体撮像素子302と同様の構成を有するCOMS型イメージセンサである。第2固体撮像素子303が生成した画素値は第2フレームメモリ202に出力される。
【0026】
レンズ光学系301は、外部の被写体から入射される光を、第1固体撮像素子302の受光面に結像させるためのレンズ群である。レンズ光学系301は、光軸が、第1固体撮像素子302の受光面の略中心に直交し、主点が、第1固体撮像素子302の受光面から距離fの位置となるように位置決めされている。
レンズ光学系304は、レンズ光学系301と同様の構成を有する、外部の被写体から入射される光を、第2固体撮像素子303の受光面に結像させるためのレンズ群である。レンズ光学系304は、光軸が、第2固体撮像素子302の受光面の略中心に直交し、主点が、第2固体撮像素子303の受光面から距離fの位置となるように位置決めされている。
【0027】
また、レンズ光学系301とレンズ光学系304とは、それぞれの光軸が、距離Bを保って互いに平行となるように配置されている。そして、第1固体撮像素子302と第2固体撮像素子303とのそれぞれは、それぞれの受光面の水平方向が、レンズ光学系301の主点とレンズ光学系304の主点とを結ぶ直線と平行となるように配置されている。
上述構成を備える撮像装置群101を用いて2枚1組となるステレオ画像を撮影すると、被写体との距離に応じて、それぞれの画像における被写体像に、位置の差、すなわち視差が生じることとなる。
【0028】
図2に示されるように、レンズ光学系301の主点と被写体300までの距離を距離Lとして、第1固体撮像素子302に結像する被写体300の像の位置と第2固体撮像素子303に結像する被写体300の像の位置との差を距離xとすると、Lとxとの関係は、次の式で表される。

[数1]
1/L = x/(B×f)

再び図1に戻って、撮像装置群101の説明を続ける。
【0029】
第1フレームメモリ202は、第1固体撮像装置201と撮像距離マップ生成回路102とに接続され、第1固体撮像装置201から出力される1画像分の画素値を記憶することができるメモリであって、シーケンス制御回路200によって制御され、同期信号発生器214から入力される垂直同期信号と水平同期信号とに同期して、データの読み出し、書き込みを行う機能を有する。
【0030】
第2フレームメモリ204は、第1フレームメモリ202と同様の構成を有するメモリであって、第2固体撮像装置203と撮像距離マップ生成回路102とに接続され、第2固体撮像装置203から出力される1画像分の画素値を記憶することができ、シーケンス制御回路200によって制御され、同期信号発生器214から入力される垂直同期信号と水平同期信号とに同期して、データの読み出し、書き込みを行う機能を有する。
【0031】
<撮像距離マップ生成回路102>
図1に示される通り、撮像距離マップ生成回路102は、視差検波回路205と画素距離値算出回路206とから構成される。
視差検波回路205は、第1フレームメモリ202と第2フレームメモリ204と画素距離値算出回路206とに接続され、第1フレームメモリ202と第2フレームメモリ204とに記憶されている2枚1組のステレオ画像の画素値を読み出して、画像を構成する画素の画素位置それぞれについて、被写体までの距離を示す画素距離値を算出する機能を有する。
【0032】
図3は、視差検波回路205の回路構成を示すブロック図である。
同図に示される通り、視差検波回路205は、視差検波制御部400とスキャンウインド設定部401と第1スキャンウインド画素入力部402と第2スキャンウインド画素入力部403と差分積算部404と視差値算出出力部405とから構成される。
視差検波制御部400は、スキャンウインド設定部401と視差値算出出力部405とに接続され、シーケンス制御回路200によって制御され、スキャンウインド設定部401と視差値算出出力部405とが行う処理を制御する機能を有する。
【0033】
第1スキャンウインド画素入力部402は、第1フレームメモリ202とスキャンウインド設定部401と差分積算部404とに接続され、スキャンウインド設定部401によって制御され、第1フレームメモリ202から読み出される、水平方向に連続する5画素分の画素値を一時的に記憶する機能を有する。
第2スキャンウインド画素入力部403は、第2フレームメモリ204とスキャンウインド設定部401と差分積算部404とに接続され、スキャンウインド設定部401によって制御され、第2フレームメモリ204から読み出される、水平方向に連続する5画素分の画素値からなる画素値群を複数組分一時的に記憶する機能を有する。
【0034】
スキャンウインド設定部401は、第1フレームメモリ202と第2フレームメモリ204と第1スキャンウインド画素入力部402と第2スキャンウインド画素入力部403とに接続され、視差検波制御部400によって制御され、以下の機能を有する。
機能1:予め定められた所定のシーケンスに従って、第1フレームメモリ202から、順次画素のアドレスを指定し、指定している画素の、水平方向において、前2画素、後ろ2画素と合わせた、水平方向に連続する5画素の画素値を、順次第1スキャンウインド画素入力部402へ読み出す機能。具体的には、指定する画素の座標(px, py)が(px0, py0)の場合には、画素値が読み出される画素の座標は、(px0 - 2, py0)〜(px0 + 2, py0)となる。
【0035】
ここで、予め定められた所定のシーケンスとは、画像を構成する画素のうち、左上の画素から順に、水平方向において右側へ1画素ずつインクリメントしていき、画面の右端の画素までインクリメントされると、垂直方向において下側に1画素インクリメントした列の左端の位置の画素に戻って、再び、水平方向において右側へ1画素ずつインクリメントしていくというラスタースキャン法に従って画素アドレスを指定していくシーケンスのことである。
【0036】
機能2:第1フレームメモリ202から、座標が(px0 - 2, py0)〜(px0 + 2, py0)となる水平方向に連続する5画素の画素値を読み出した場合に、第2フレームメモリ204から、座標が(px0 - 2 + hsft, py0)〜(px0 + 2 + hsft ,py0)となる水平方向に連続する5画素の画素値からなる画素値群を、hsft = 0,1,2,3,・・・でhsftは画素の座標(px0 + 2 + hsft ,py0)が水平方向の右側画素端になるまでの複数組分、第2スキャンウインド画素入力部403へ読み出す機能。ここで、hsftは、水平変移画素量を示す変数のことである。
【0037】
差分積算部404は、第1スキャンウインド画素入力部402と第2スキャンウインド画素入力部403と視差値算出出力部405とに接続され、スキャンウインド設定部401によって1つの画素が指定される毎に、第1スキャンウインド画素入力部402に新たに記憶される、水平方向に連続する5画素の画素値と、第2スキャンウインド画素入力部403に新たに記憶される、水平方向に連続する5画素の画素値からなる画素値群複数組(hsft = 0,1,2,3,・・・でhsftは画素の座標(px0 + 2 + hsft ,py0)が水平方向の右側画素端になるまでの複数組)とから、各組の画素値群それぞれについて、視差評価値を算出する機能を有する。
【0038】
ここで、視差評価値とは、第1スキャンウインド画素入力部402に記憶される、水平方向に連続する5画素と、第2スキャンウインド画素入力部403に記憶される、1組の水平方向に連続する5画素とについての、それぞれ並び順に対応する画素における画素値の差分の絶対値を全て加算することで得られる値のことである。
視差値算出出力部405は、差分積算部404と視差検波制御部400とに接続され、スキャンウインド設定部401によって制御され、スキャンウインド設定部401によって、座標(px0, py0)の画素が指定された場合において、差分積算部404によって、hsft = 0,1,2,3,・・・となる各組の画素群それぞれについての視差評価値が新たに算出されたときに、最も小さな視差評価値となるhsftの値を、座標(px0, py0)の画素における視差値xとして算出する機能を有する。
【0039】
図4(a)は、差分積算部404による各組の画素群それぞれについての視差評価値の算出動作を模式的に示す模式図である。
同図に示される通り、差分積算部404(図3参照)は、第1スキャンウインド画素入力部402に記憶される、水平方向に連続する5画素分の画素値と、第2スキャンウインド画素入力部403に記憶される、各組の水平方向に連続する5画素分の画素値群とに基づいて、各組の画素群それぞれについての視差評価値を算出する。
【0040】
図4(b)は、視差値算出出力部405による視差値の算出動作を模式的に示した模式図である。
同図に示される通り、視差値算出出力部405は、差分積算部404によって算出された各組の視差評価値から、最も少ない視差評価値のhsftを視差値xとして算出する。
再び図1に戻って、撮像距離マップ生成回路102の説明を続ける。
【0041】
画素距離値算出回路206は、視差検波回路205と基準距離マップ記憶回路103と検出対象距離マップ生成回路104とに接続され、視差検波回路205が、座標(px0, py0)の画素位置における視差値xを算出した場合に、式[数1]に従って、視差値xを式[数1]における距離値xとして、座標(px0, py0)の画素位置における画素距離値(すなわち、式[数1]における1/Lに比例する値)を算出する機能を有する。
【0042】
上記構成により、撮像距離マップ生成回路102は、画素水平方向がいわゆるステレオカメラにおけるエピポーラ線方向と一致する方向において視差を検波することができ、これにより、各画素位置における画素距離値を算出することができる。
<基準距離マップ記憶回路103>
図1に示される通り、基準距離マップ記憶回路103は、背景画素距離値記憶回路207と背景更新回路208とから構成される。
【0043】
背景画素距離値記憶回路207は、背景更新回路208と検出対象距離マップ生成回路104とに接続され、以下の機能を有する。
機能1:撮像装置群101によって撮影されるステレオ画像を構成する一方の画像に含まれる全ての画素位置についての基準距離値を基準距離マッピングデータとして記憶する機能。
【0044】
機能2:対象物検出装置100の起動時に、ステレオ画像を構成する一方の画像に含まれる全ての画素位置についての基準距離値の初期値を初期基準距離マッピングデータとして記憶する機能。
背景更新回路208は、画素距離値算出回路206と背景画素距離値記憶回路207とに接続され、以下の機能を有する。
【0045】
機能1:画素距離値算出回路206が1画像分の画素距離値を算出した場合に、それぞれの画素位置の画素距離値について、背景画素距離値記憶回路207に記憶されている、対応する画素位置の基準距離値と比較して、より小さい方を新たな基準距離値として背景画素距離値記憶回路207に出力する機能。
機能2:対象物検出装置100の起動時に、1枚の画像に含まれる全ての画素位置についての基準距離値の初期値を背景画素距離値記憶回路207に出力する機能。
【0046】
図5は、背景画素距離値記憶回路207と背景更新回路208との主要な回路構成を示すブロック図である。
同図に示される通り、背景画素距離値記憶回路207は、メモリ601とメモリコントローラ602とから構成され、背景更新回路208は、セレクタ603と遠距離選択回路604と初期化距離値出力回路605とから構成される。
【0047】
メモリ601は、メモリコントローラ602に接続され、メモリコントローラ602によって制御される、例えばSDRAM(Synchronous Dynamic Random Access Memory)である。
メモリコントローラ602は、メモリ601とセレクタ603と遠距離選択回路604と画素距離値算出回路206とに接続され、メモリ601を制御して、メモリ601へのデータの書き込み、メモリ601からのデータの読み出しを行う機能を有する。
【0048】
セレクタ603は、メモリコントローラ602と遠距離選択回路604と初期化距離値出力回路605とに接続され、シーケンス制御回路200によって制御され、遠距離選択回路604の出力と、初期化距離値出力回路605の出力とのうちのいずれか一方の出力を選択して、メモリコントローラ602に出力する機能を有する。
遠距離選択回路604は、メモリコントローラ602と画素距離値算出回路206とセレクタ603とに接続され、L41を介して、画素距離値算出回路206から、1画像分の画素距離値が入力された場合に、それぞれの画素位置毎に、メモリ601に記憶されている、対応する画素位置の基準距離値と比較して、より小さい方を新たな基準距離値として、セレクタ603に出力する機能を有する。
【0049】
初期化距離値出力回路605は、セレクタ603に接続され、内部に、撮像装置群101によって撮影されるステレオ画像を構成する1枚の画像に含まれる全ての画素の画素位置についての基準距離値の初期値を記憶する不揮発性メモリ(例えば、フラッシュメモリ)を有し、対象物検出装置100が起動された場合に、記憶している基準距離値の初期値を、セレクタ603に出力する機能を有する。
【0050】
ここで、基準距離値の初期値は、画素距離値算出回路206によって算出され得る画素距離値のうち、最も短い距離を示す画素距離値となっている。
以下、図面を参照しながら、上記構成の基準距離マップ記憶回路103の行う動作について説明する。
<動作>
ここでは、基準距離マップ記憶回路103の行う動作のうち、特徴的な動作である、背景距離マッピング処理について説明する。
【0051】
背景距離マッピング処理とは、メモリ601に記憶する画素位置毎の基準距離値が、過去に入力された画素距離値のうち、最も小さな画素距離値となるように、逐次基準距離値を更新していく処理のことである。
図6は、背景距離マッピング処理のフローチャートである。
背景距離マッピング処理は、対象物検出装置100が起動されることによって開始される。
【0052】
対象物検出装置100が起動されると、セレクタ603は、シーケンス制御回路200からの制御により、初期化距離値出力回路605の出力を選択する(ステップS600)。
すると、初期化距離値出力回路605は、記憶している、全ての画素位置についての基準距離値の初期値を、順次読み出していき、メモリコントローラ602は、読み出された基準距離値の初期値の全てを、メモリ601にマッピングさせる(ステップS610)。
【0053】
メモリコントローラ602による、メモリ601への、基準距離値の初期値のマッピングが終了すると、セレクタ603は、シーケンス制御回路200からの制御により、選択を、初期化距離値出力回路605の出力から、遠距離選択回路604の出力へと切り替えて固定する(ステップS620)。
その後、画素距離値算出回路206から遠距離選択回路604へ、1画像分の画素距離値が入力されるまで待機する(ステップS630:Noを繰り返す)。
【0054】
画素距離値算出回路206から遠距離選択回路604へ、1画像分の画素距離値が入力されると(ステップS630:Yes)、遠距離選択回路604は、ラスタースキャン法に従って、画素位置毎に、メモリ601に記憶されている、対応する画素位置の基準距離値と比較して、小さい方を新たな基準距離値として出力する(ステップS640)。
すると、メモリコントローラ602は、遠距離選択回路604から出力される、画素位置毎の新たな基準距離値を、メモリ601にマッピングさせることで、記憶している基準距離値を更新させる(ステップS650)。
【0055】
メモリコントローラ602による、メモリ601にマッピングされている基準距離値の更新が終了すると、再びステップS630の処理に戻って、ステップS630以下の処理を繰り返す。
この背景距離マッピング処理は、対象物検出装置の起動状態が終了するまで継続して実行される。
【0056】
なお、背景処理マッピング処理において、基準距離値の初期値は、画素距離値算出回路206によって算出され得る画素距離値のうち、最も短い距離を示す画素距離値となっているため、初めて、遠距離選択回路604へ1画像分の画素距離値が入力される場合には、メモリ601にマッピングされている基準距離値は、その初めて入力される1画像分の画素距離値で更新されることとなる。
【0057】
上述の背景距離マッピング処理によると、背景距離マッピング処理を一定期間実行することで、メモリ601にマッピングされている基準距離値は、被写体界内で固着しかつ固定した形状のもの、すなわち背景(例えば、被写体界が屋内であれば、壁、床等、例えば、被写体界が屋外であれば、ビル、地面等)までの距離を示す画素距離値となることがわかる。
【0058】
再び図1に戻って、対象物検出装置100を構成する回路それぞれの説明を続ける。
<検出対象距離マップ生成回路104>
図1に示される通り、検出対象距離マップ生成回路104は、背景除去回路209と第3フレームメモリ210とから構成される。
背景除去回路209は、画素距離値算出回路206と背景画素距離値記憶回路207と第3フレームメモリ210とに接続され、撮像距離マップ生成回路102から1画像分の画素距離値が入力されると、背景画素距離値記憶回路207に記憶されている基準距離マッピングデータを読み出して、入力された1画像分の画素距離値のうち、基準距離値よりも大きな画素距離値からなる近距離画素群を抽出し、抽出した近距離画素群以外の画素距離値をゼロとする機能を有する。
【0059】
第3フレームメモリ210は、背景除去回路209と対象物識別回路105とに接続され、背景除去回路209から出力される画素距離値を検出画素距離値として記憶する機能を有する。
以下、図面を参照しながら、上記構成の検出対象距離マップ生成回路104の行う動作について説明する。
【0060】
<動作>
ここでは、検出対象距離マップ生成回路104の行う動作のうち、特徴的な動作である、背景除去処理について説明する。
背景除去処理とは、撮像距離マップ生成回路102から入力される1画像分の画素距離値のうち、基準距離マップ記憶回路103に記憶されている基準距離よりも大きな画素距離値からなる近距離画素群を抽出し、抽出した近距離画素群以外の画素距離値をゼロとする処理のことである。
【0061】
図7は背景除去処理のフローチャートである。
背景除去処理は、撮像距離マップ生成回路102から1画像分の画素距離値が入力されることで開始される。
背景除去処理が開始されると、背景除去回路209は、撮像距離マップ生成回路102から入力される1画像分の画素距離値のうち、ラスタースキャン方式で、最初の1つの画素位置(すなわち左上隅の画素位置)を選択し、その画素距離値を取得する(ステップS700)。
【0062】
背景除去回路209は、1つの画素距離値を取得すると、対応する基準距離値を背景画素距離値記憶回路207から読み出して(ステップS710)、選択した画素位置の画素距離値と、読み出した基準距離値に所定の閾値を加えて得られる値とを比較する(ステップS720)。
ここで、所定の閾値とは、撮像装置群101で撮影される画像に含まれるノイズ、撮像距離マップ生成回路で算出される画素距離値の精度等を考慮して設定されるものであり、例えば、近距離側への一律のオフセット量が設定されていても良いし、画素距離値そのものに応じて予め個別に設定されていても良いし、値がゼロとなっていても良い。
【0063】
ステップS720において、画素距離値の方が、基準距離値に所定の閾値を加えて得られる値よりも大きい場合(ステップS720:Yes)に、背景除去回路209は、選択した画素位置の画素距離値を、そのまま出力し(ステップS730)、画素距離値の方が、基準距離値に所定の閾値を加えて得られる値よりも大きくない場合(ステップS720:No)に、背景除去回路209は、選択した画素位置の画素距離値をゼロに変更して出力する(ステップS740)。ここで、画素距離値がゼロであるとは、被写体までの距離が無限遠であることを意味している。
【0064】
背景除去回路209から画素距離値が出力されると、第3フレームメモリ210は、背景除去回路209が選択した画素位置の画素距離値として記憶する(ステップS750)。
第3フレームメモリ210が画素距離値を記憶すると、背景除去回路209は、未だ未選択となる画素位置が存在するか否かを調べる(ステップS760)。
【0065】
ステップS760の処理において、未だ未選択となる画素位置が存在する場合、すなわち、ラスタースキャン方式における次の画素位置が存在する場合に(ステップS760:Yes)、背景除去回路209は、ラスタースキャン方式における次の1つの画素位置を選択して、その画素距離値を取得し(ステップS770)、再びステップS720の処理に戻って、ステップS720以下の処理を繰り返す。
【0066】
ステップS760の処理において、未だ未選択となる画素位置が存在しない場合に(ステップS760:No)、背景除去回路209は、その背景除去処理を終了する。
上述の背景除去処理によると、第3フレームメモリ210に記憶される画素距離値は、被写体画面内における背景よりも手前の被写体が写っている画素位置の画素距離値のみが有効な画素距離値となり、それ以外の画素位置の画素距離値がゼロとなる。
【0067】
以下、具体例を用いて、上述の背景除去処理の説明を補足する。
図8は、背景除去処理における、検出対象距離マップ生成回路104の具体的動作例を模式的に示す模式図である。
左上の撮像画素距離マップは、画素距離値算出回路206から出力される1画像分の画素距離値を、2次元画像の輝度値(濃淡)に見立てて図示したイメージ図であり、濃淡が薄い程近距離、濃淡が濃い程遠距離を示し、輝度値ゼロに相当する黒は無限遠を示している。
【0068】
同様に、左下の背景画素距離マップは、背景画素距離値記憶回路207に記憶される1画像分の基準距離値を、2次元画像の輝度値(濃淡)に見立てて図示したイメージ図であり、右上の検出画素距離マップは、検出対象距離マップ生成回路104が背景除去処理を行うことによって、第3フレームメモリ210の記憶されることとなった、1画像分の基準距離値を、2次元画像の輝度値(濃淡)に見立てて図示したイメージ図である。なお、各画素位置の濃淡は、検波された被写体の距離Lの逆数(1/L)に比例している。
【0069】
ここでは、背景画素距離値記憶回路207に記憶する画素距離値群には、背景としての木までの距離を示す画素距離値が含まれ、画素距離値算出回路206から出力される画素距離値群には、背景としての木までの距離を示す画素距離値と、背景以外の被写体としての人物までの距離を示す画素距離値とが含まれている場合の例となっている。
撮像画素距離マップのa−b線上においては、木までの距離を示す画素距離値と人物までの距離を示す画素距離値とが含まれ、背景画素距離マップのa−b線上においては、木までの距離を示す画素距離値が含まれている。
【0070】
従って、検出画素距離マップのa−b線上においては、人物までの距離を示す画素距離値のみが有効な値となり、それら以外の画素距離値は、被写体までの距離が無限遠であることを意味するゼロの値となる。
同様に、検出画素距離マップの全領域において、背景以外の被写体までの距離を示す画素距離値のみが有効な値となり、それら以外の画素距離値はゼロとなる。
【0071】
再び図1に戻って、対象物検出装置100を構成する回路それぞれの説明を続ける。
<対象物識別回路105>
図1に示される通り、対象物識別回路105は、識別処理回路211と学習データ記憶回路212と検知結果出力回路213とから構成される。
学習データ記憶回路212は、識別処理回路211と集団学習機110とに接続され、内部に、学習データ(後述)を記憶する不揮発性メモリ(例えば、フラッシュメモリ)を有し、学習データを記憶する機能を有する。
【0072】
図9は、学習データ記憶回路212によって記憶される学習データD101の構成を示すデータ構成図である。
同図に示される通り、学習データD101は、p個(pは2以上の整数)の検出パターン(検出パターンDP1〜検出パターンDPp)を含んでいる。
検出パターンDP1〜検出パターンDPpのそれぞれは、互いに異なる撮像条件や対象物の状態や対象物の種類に対応する検出パターンである。具体例としては、例えば、検出対象物が“天面から見た人物”である場合、検出パターンDP1は、“天面から見た画面内では下を向き手を床面側に下ろしている人物”に対応するパターンとなり、検出パターンDP2は、“天面から見た画面内では左を向き手を床面側に下ろしている人物”に対応するパターンとなり、検出パターンDP3は“天面から見た画面内では下を向き手を天面側に上げている人物”に対応するパターンとなる。
【0073】
また、検出パターンDP1〜検出パターンDPpのそれぞれは、集団学習機110によって生成された、n個(nは2以上の整数)の弱識別器(弱識別器WCD1〜弱識別器WCDn)を含んでいる。
弱識別器WCD1〜弱識別器WCDnのそれぞれは、部分画素正規化距離マップ(後述)の距離分布の特徴量に基づいて弱識別評価値を生成する評価関数であって、部分画像の特徴量を抽出するために利用される矩形テンプレートに関する情報(例えば、矩形テンプレートの座標、形状、大きさ等)、部分画素正規化距離マップの距離分布の特徴量と弱識別評価値(例えば、部分画素正規化距離マップに検出対象物が含まれている確率を示す値)との対応関係を示したルックアップテーブル等を含む。
【0074】
以下、弱識別器について説明を補足する。
検出パターンDP1〜検出パターンDPpの各々に含まれる弱識別器WCD1〜弱識別器WCDnは、集団学習機110によって次のように生成されて学習データ記憶回路212に予め格納されている。すなわち、集団学習機110が、ある検出パターンに関連する膨大な学習サンプル(例えば、数千個の学習サンプル)を使用し、多数の学習モデル(仮説の組み合わせ)から所定の学習アルゴリズム(例えば、アダブースト学習法)に従って1つの仮説を選択(学習)することによってその検出パターンに対応する複数個の弱識別器を生成するとともに、複数個の弱識別器の組み合わせ(例えば、弱識別器の選別や、弱識別器の出力値(弱識別評価値)の重み付けなど)を決定する。このように、集団学習機110は、検出パターンDP1〜検出パターンDPpの各々に対して上述のような弱識別器の生成処理を実行する。これにより、検出パターンDP1〜検出パターンDPpに対してn個の弱識別器WCD1〜弱識別器WCDnDが生成される。なお、学習サンプルとは、予め正解付け(ラベリング)された検出対象物を含む画素距離マップ群からなるサンプルマップデータのことである。
【0075】
弱識別器の識別性能は低いものであるが、複数個(例えば、数百個から数千個)の弱識別器を組み合わせることによって、結果的に識別能力の高い識別器(強識別器)を得ることができる。
図10は、弱識別器を組み合わせて構成される強識別器の一例を示す模式図である。
同図に示されるように、複数個の弱識別器をカスケード接続(一列に接続)することにより、識別能力の高い強識別器を構成できる。さらに、第1番目の強識別器、第2番目の強識別器、…、第k番目の強識別器を一列に連結してカスケード識別器を構成することにより、識別能力を向上させることができる。例えば、k個の強識別器の各々は、対象物を含む学習サンプル(距離マップ)に対してほぼ100%で識別が正解するように集団学習機110によって訓練されるとともに、対象物を含まない学習サンプル(距離マップ)に対して50%程度で識別が正解すれば良いように集団学習機110によって訓練される。また、対象物検出処理において、第1番目の強識別器は、入力された部分画素正規化距離マップに対する識別処理(対象物の有無の識別)に用いられ、第2番目以降の強識別器の各々は、その強識別器の前段の強識別器を用いた識別処理において対象物を含んでいると判定された部分画素正規化距離マップに対する識別処理に用いられる。
【0076】
再び図1に戻って、対象物識別回路105の説明を続ける。
識別処理回路211は、第3フレームメモリ210と学習データ記憶回路212と検知結果出力回路213とに接続され、学習データ記憶回路に記憶されている学習データを利用して、検出対象距離マップ生成回路104に記憶されている検出画素距離値群から、所定の対象物が被写体として含まれていることを検出する機能を有する。
【0077】
図11は、識別処理回路211の回路構成を示すブロック図である。
同図に示される通り、識別処理回路211は、特徴検出制御部800と画素距離マップリサイズ部801と画素距離リサイズマップ保持部802と画素距離部分マップ正規化部803と距離特徴パターン検出処理部804と識別結果出力部805と画素距離マップ読出制御部806とから構成される。
【0078】
特徴検出制御部800は、画素距離マップリサイズ部801と画素距離リサイズマップ保持部802と距離特徴パターン検出処理部804と識別結果出力部805と画素距離マップ読出制御部806とに接続され、シーケンス制御回路200によって制御され、これら接続されるブロックが行う処理を制御する機能を有する。
画素距離マップ読出制御部806は、特徴検出制御部800と第3フレームメモリ210とに接続され、特徴検出制御部800によって制御され、第3フレームメモリ210に記憶されている検出画素距離値が更新された場合に、第3フレームメモリ210から、1画像分の検出画素距離値(以後、「検出画素距離マッピングデータ」と呼ぶ。)を、画素距離マップリサイズ部801へ読み出す機能を有する。
【0079】
画素距離マップリサイズ部801は、特徴検出制御部800と第3フレームメモリ210と画素距離リサイズマップ保持部802とに接続され、特徴検出制御部800によって制御され、第3フレームメモリ210から検出画素距離マッピングデータが読み出された場合、特徴検出制御部800から指定されるリサイズ倍率で、読み出された検出画素距離マッピングデータを仮想的に2次元画像と見立ててリサイズ処理を実施し、リサイズ処理された検出画素距離マッピングデータ(以後。「PS」と呼ぶ。)を画素距離リサイズマップ保持部802に出力する機能を有する。
【0080】
画素距離リサイズマップ保持部802は、特徴検出制御部800と画素距離マップリサイズ部801と画素距離部分マップ正規化部803とに接続され、特徴検出制御部800によって制御され、画素距離マップリサイズ部801から出力されるPSを記憶する機能を有する。
画素距離部分マップ正規化部803は、画素距離リサイズマップ保持部802と距離特徴パターン検出処理部804と識別結果出力部805とに接続され、以下の機能を有する。
【0081】
機能1:画素距離リサイズマップ保持部802が保持するPSから、予め定められた所定のサイズの領域を、部分画素距離マップウインド(以下、「PW」と呼ぶ。)として、ラスタースキャン法に従って逐次抽出する機能。
機能2:抽出した各PWについて、PWを構成する画素距離値に対して、後述の正規化処理を実施し、画素正規化距離値を生成する機能。
【0082】
機能3:後述の正規化処理実施の際に算出される、PWを構成する画素距離値のうちの最も近い距離を示す画素距離値pd0を、識別結果出力部805へ出力する機能。
図12(a)、(b)は、画素距離部分マップ正規化部803の行う、PSからのPW抽出を模式的に示す模式図である。これらの図のうち、図12(a)は、PSが比較的大きなサイズとなるようにリサイズされている場合の例であり、図12(b)は、PSが比較的小さなサイズとなるようにリサイズされている場合の例となっている。
【0083】
図12(a)、(b)に示される通り、画素距離部分マップ正規化部803は、PSのサイズに関わらず、所定サイズの領域を、左上から順に、ラスタースキャン法に従って、PWとして抽出する。また、このことにより、互いに異なるリサイズ率で生成されたPSについては、PSのサイズにおけるPWのサイズの比率が互いに異なることとなる。よって、リサイズ処理におけるリサイズ率を変更することで、PSのサイズにおけるPWのサイズの比率を変更することができる。
【0084】
以下、画素距離部分マップ正規化部803の行う正規化処理について説明する。
この正規化処理は、PWを構成する画素距離値のうち、最も近い距離を示す画素距離値pd0で、PWを構成する各画素距離値pd(i、j)(iとjとは、PW内における画素位置を示す。)を正規化して、画素正規化距離値pt(i、j)を得る処理である。
pd(i、j)は、以下の2式のいずれかに従って求められる。
【0085】

(1)pd(i、j) = 0の場合、

[数2]
pt(i、j) = 0

(2)pd(i、j) > 0の場合、

[数3]
pt(i、j) = Dmax − 1/pd(i、j) +1/pd0

ここで、Dmaxは画素正規化距離値を表す有限数値の最大値である。
【0086】
また、Pt(i、j)が式[数3]の算出により負数となる場合にはゼロとする。
pd0、及びpd(i、j)はともに被写体距離Lに対して1/Lに比例する値であるため、画素正規化距離値pt(i、j)はPWを構成する画素のうち最至近距離の被写体距離をL0とし、各画素の被写体距離をL(i、j)とするとL0に相当する距離情報がDmaxとなり、L0−L(i、j)に比例する値分Dmaxより減じられた数値となることからPWを構成する画素の最至近を示す距離からの相対的な距離差分の量だけ数値が小となる。また画素正規化距離値pt(i、j)がゼロであるのは該当する画素に結像される被写体が、無限距離である場合、もしくは非検出対象である背景である場合、もしくはPW内の最至近距離L0よりDmaxで制限される所定量以上遠距離である場合のいずれかとなる。以降は画素正規化距離値群を部分画素正規化距離マップ(又は、PW1)と呼ぶ。
【0087】
再び図11に戻って、識別処理回路211の説明を続ける。
距離特徴パターン検出処理部804は、特徴検出制御部800と画素距離部分マップ正規化部803と識別結果出力部805と学習データ記憶回路212に接続され、特徴検出制御部800によって制御され、以下の機能を有する。
機能1:画素距離部分マップ正規化部803によって1つのPS分のPW1が生成されると、画素距離部分マップ正規化部803から、生成されたPW1を逐次読み出して、PW1を構成する画素正規化距離値が全てゼロであるか否かを判定する機能。
【0088】
機能2:PW1を構成する画素正規化距離値が全てゼロであると判定した場合に、後述の識別処理をスキップして、PW1に検出対象物が含まれている尤らしさを強度で示す識別評価値として、存在しない旨を意味するゼロ値を、識別結果出力部805へ出力する機能。
機能3:PW1を構成する画素正規化距離値が全てゼロであると判定しなかった場合に、後述の識別処理を実施して、識別処理を実施することにより得られる識別評価値を、識別結果出力部805へ出力する機能。
【0089】
以下、距離特徴パターン検出処理部804の行う識別処理について説明する。
この識別処理は、学習データ記憶回路212に格納されたp個の検出パターンDP1〜検出パターンDPpを順次選択するとともに選択した検出パターンに含まれるn個の弱識別器WCD1〜弱識別器WCDnを読み出し、弱識別器(n個)からなる1又は複数の強識別器を用いて、PW1から、PW1に検出対象物が含まれている尤らしさを強度で示す識別評価値を算出する処理である。
【0090】
距離特徴パターン検出処理部804にはリサイズ倍率の異なるPS及び各PS内を領域スキャンして抽出されるPWを経て正規化されたPW1が特徴検出制御部800からの動作制御指示に基づき逐次入力され、各PW1全パターンに対して前述の識別処理を逐次実施し、各PW’に検出対象物が含まれている尤らしさを強度で示す識別評価値を算出することとなる。
【0091】
この距離特徴パターン検出処理部804は、構成する画素正規化距離値が全てゼロであるPW1を除外して、上記識別処理を実行するため、全てのPW1に対して上記識別処理を実行する場合に比べて、処理の高速化と低消費電力化とを実現することができる。
識別結果出力部805は、特徴検出制御部800と画素距離部分マップ正規化部803と検知結果出力回路213とに接続され、特徴検出制御部800によって制御され、以下の機能を有する。
【0092】
機能1:予め定められた信頼度係数(後述)を記憶する機能。
機能2:画素距離部分マップ正規化部803から識別対象となっているPW1に対応するpd0が入力され、距離特徴パターン検出処理部804からPW1に対する識別評価値が入力され、特徴検出制御部800からPSのサイズ及びPWのPS内における位置情報が入力されると、記憶する信頼度係数を用いて、PWのPS内における位置情報と当PW内に検出対象物が含まれているか否かを強度で示す対象検出評価値とを生成する機能。
【0093】
機能3:対象検出評価値を生成すると、生成した対象検出評価値と、対応するPWのPS内における位置情報とを出力する機能。
信頼度係数は、入力されるpd0の画素距離値と、PWのサイズと入力されるPSのサイズとの比率(以後、「PW/入力PS比」と呼ぶ。)とに対応付けられて予め定められている係数である。
【0094】
そして、識別結果出力部805は、この信頼度係数を識別評価値に乗ずることで、対象検出評価値を生成する。
図13は、識別結果出力部805に記憶される信頼度係数について、画素距離値とPW/入力PS比との相関関係を示す相関図である。
同図は、横軸が画素距離値で縦軸がPW/PSサイズ比となる2軸で信頼度係数をマッピングしたものである。
【0095】
同図に示される通り、信頼度係数は、ドット点領域において1と設定され、斜線領域において0.5と設定され、その他の領域において0と設定されている。
例えば、図中の点Cにおいて、信頼度係数は1である。
ここで、各信頼素係数の領域の分割線が原点Oを中心とする比例線としている理由は、被写体距離の逆数1/Lに比例する画素距離値と、検出対象物の物理的な大きさがほぼ特定される前提での第1固体撮像素子302受光面上への検出対象物結像の倍率(検出対象物結像の大きさ/第1固体撮像素子302受光面の大きさ)が比例するからである。
【0096】
また、信頼度係数=1となる領域の中央に引かれた直線F−Oの傾きは、画素距離値が被写体距離の実距離の逆数1/Lと等しい場合には、検出対象物の物理的な大きさにf(図3参照)を乗じた値となる。
このように、識別結果出力部805では、入力された識別評価値にさらに被写体距離と検出対象物の撮像系上の像倍率から求める信頼度を乗ずることで、対象検出評価値を生成するので、検出対象物の検出精度を向上することができる。
【0097】
再び図1に戻って対象物識別回路105の説明を続ける。
検知結果出力回路213は、識別処理回路211に接続され、識別処理回路211から、対象検出評価値と対応するPWのPS内における位置情報とが入力された場合において、その対象検出評価値が所定の閾値を超えるときに、所定の対象物が被写体として含まれていると判断し、対応するPWのPS内における位置情報を、所定の対象物の位置を示す位置情報として外部に出力する機能。
【0098】
<まとめ>
上記構成の対象物検出装置100によれば、TOF(Time Of Flight)測距方式のような複雑大規模で消費電力の大きい測距手段を用いることなく所望の対象物の検出が可能となる。
また、2次元画像を取り込む一般的なイメージセンサを使用して画像の絵柄の特徴が乏しい対象物に対しても十分な性能の検出機能が実現可能であるから、低コスト、低消費電力で所望の対象物を検出することができる。そして、従来のように2次元画像の絵柄(エッジ又は濃淡パターン)に比べて、距離情報をその検出対象物の特徴量とすることから対象物の色や濃淡、照明光の偏りや影に影響されることなくロバストな対象物の検出が可能となる。
【0099】
さらには、簡便で確実な方法で、背景が被写体となっている領域を識別処理対象から除去することができるので、背景を識別処理で排除するための膨大な集団学習機110での学習行為が不要となり、また、学習データの容量も縮小されることから学習データ記憶回路212が小規模の回路で実現可能となる。
また、距離情報を表す画素距離値として被写体距離の逆数である1/Lに比例した数値を適用して背景距離情報の除去処理を構成したことで、画素距離値ゼロを非検出対象物の距離情報とすることができるため、各画素が検出対象物にあたるか否かを示す特段のフラグ情報が不要となる効果がある。
<実施の形態2>
<概要>
以下、本発明に係る対象物検出装置の一実施形態として、実施の形態1における対象物検出装置100の一部を変形した対象物検出装置1000について説明する。
【0100】
対象物検出装置1000は、その構成の一部が、実施の形態1に係る対象物検出装置100から変形されている。
この対象物検出装置1000は、繰り返して所定の対象物の検知を試みている場合において、新たに、所定の対象物の検知を試みるとき、前回の検知の試みにおいて、所定の対象物を検知しなかった領域を、新たな検知の試みにおける識別処理の対象となる領域から除外する構成の例である。
【0101】
以下、本実施の形態2に係る対象物検出装置1000の構成について、実施の形態1に係る対象物検出装置100との相違点を中心に、図面を参照しながら説明する。
<構成>
図14は、対象物検出装置1000の主要な回路構成を示すブロック図である。
同図に示されるように、対象物検出装置1000は、実施の形態1に係る対象物検出装置100から、背景更新回路208が第2背景更新回路1201に変形され、シーケンス制御回路200がシーケンス制御回路1200に変形されている。
【0102】
また、背景更新回路208から第2背景更新回路1201への変形に伴って、基準距離マップ記憶回路103が基準距離マップ記憶回路1203へ変形されている。
シーケンス制御回路1200は、実施の形態1に係るシーケンス制御回路200と同様に、対象物検出装置1000を構成する各回路の動作を制御する機能を有する。
第2背景更新回路1201は、実施の形態1に係る背景更新回路208から、その機能の一部が変形されたものであり、背景画素距離値記憶回路207と画素距離値算出回路206と検知結果出力回路213とに接続され、実施の形態1に係る背景更新回路208の有する機能2に加え、以下の変形機能を有する。
【0103】
変形機能1:検知結果出力回路213から、所定の対象物の位置を示す位置情報が入力された場合において、画素距離値算出回路206から1画像分の画素距離値が入力されるときに、位置情報によって示される所定の対象物の位置の画素位置それぞれの画素距離値について、背景画素距離値記憶回路1202に記憶されている、対応する画素位置の基準距離値と比較して、小さい方を新たな基準距離値として背景画素距離値記憶回路1202に出力する機能。
【0104】
変形機能2:検知結果出力回路213から、所定の対象物の位置を示す位置情報が入力された場合において、画素距離値算出回路206から1画像分の画素距離値が入力されるときに、位置情報によって示される所定の対象物の位置以外の画素位置それぞれの画素距離値について、画素距離値算出回路206から入力される画素距離値を基準距離値として背景画素距離値記憶回路207に出力する機能。
【0105】
図15は、背景画素距離値記憶回路1202と第2背景更新回路1201との主要な回路の回路構成を示すブロック図である。
同図に示される通り、第2背景更新回路1201は、遠距離選択回路604と初期化距離値出力回路605と撮像距離マップ保持回路1303と対象物未検出エリア更新回路1305とセレクタ1306とから構成される。
【0106】
撮像距離マップ保持回路1303は、撮像距離マップ生成回路102と対象物未検出エリア更新回路1305とに接続され、撮像距離マップ生成回路102から入力される1画像分の画素距離値を一時的に記憶する機能を有する。
対象物未検出エリア更新回路1305は、撮像距離マップ保持回路1303とセレクタ1306と検知結果出力回路213とに接続され、シーケンス制御回路1200によって制御され、検知結果出力回路213から、所定の対象物の位置を示す位置情報が入力された場合に、位置情報によって示される所定の対象物の位置以外の画素アドレスを抽出し、抽出した画素アドレスの画素距離値を、撮像距離マップ保持回路1303から読み出して、セレクタ1306に出力する機能を有する。
【0107】
セレクタ1306は、実施の形態1に係るセレクタ603から、その機能の一部が変形されたものであり、メモリコントローラ1302と遠距離選択回路604と初期化距離値出力回路605と対象物未検出エリア更新回路1305とに接続され、シーケンス制御回路1200によって制御され、以下の機能を有する。
機能1:シーケンス制御回路1200からの制御により、対象物検出装置100が起動された起動期間に、初期化距離値出力回路605の出力を選択して、メモリコントローラ602へ出力する機能。
【0108】
機能2:シーケンス制御回路1200からの制御により、起動期間以外の期間において、対象物未検出エリア更新回路1305から画素距離値が入力される場合に、対象物未検出エリア更新回路1305の出力を選択して、メモリコントローラ1302へ出力する機能。
機能3:シーケンス制御回路1200からの制御により、起動期間以外の期間において、対象物未検出エリア更新回路1305から画素距離値が入力されない場合に、遠距離選択回路604の出力を選択して、メモリコントローラ602へ出力する機能。
【0109】
<まとめ>
上記構成の対象物検出装置1000によれば、検出対象物である可能性がある物体が被写界内で移動することにより当物体が存在しなくなった部位を背景として非検出対象化できる。さらには、検出対象でない物体が被写界内で移動した移動先の部位でその時点の基準画素距離マッピングデータに対して近距離を示す場合においても最終的な対象物検出結果をフィードバックし非検出対象物でないと判定したときには背景として更新され次回以降の対象物検出動作では非検出対象化される。従って、非検出対象物に対する識別処理削減効果が大きくなり対象物検出処理の高速化や検出対象物そのものの識別精度が高まる効果を得ることができる。
<実施の形態3>
<概要>
以下、本発明に係る対象物検出装置の一実施形態として、実施の形態1における対象物検出装置100を用いた照明システムについて説明する。
【0110】
この照明システムは、複数の照明器具を備え、対象物検出装置100を用いて人物の検出の試みを行い、人物を検出した場合に、その人物の位置に応じて、各照明器具の照明光量を変化させるというものである。
以下、本実施の形態3に係る照明システムの構成について図面を参照しながら説明する。
【0111】
<構成>
図16は、照明システムを構成する主要な構成要素の構成を示すブロック図である。
同図に示される通り、照明システムは、対象物検出装置100と照明制御装置1503と第1照明機器1504と第2照明機器1505とから構成されている。
対象物検出装置100は、天井に設置され、照明制御装置1503に接続され、予め人物を撮像して得られる複数の検出画素距離マッピングデータにて学習された学習データを記憶している。そして、被写体界内に人物を検出すると、その位置情報を照明制御装置1503に出力する。
【0112】
第1照明機器1504と第2照明機器1505とのそれぞれは、天井に設置され、照明制御装置1503に接続され、照明制御装置1503からのコマンドに従って、その照明光量を変化させる機能を有する。
照明制御装置1503は、対象物検出装置100と第1照明機器1504と第2照明機器1505とに接続され、以下の機能を有する。
【0113】
機能1:第1照明機器1504の照明範囲と、第2照明機器1505の照明範囲とを記憶する機能。
機能2:対象物検出装置100から、人物の位置情報が入力されると、記憶する、第1照明機器1504の照明範囲と第2照明機器1505の照明範囲とを参照して、入力された人物の位置情報によって示される領域の明度の方が、入力された人物の位置情報によって示される領域以外の領域の明度よりも明るくなるように、第1照明機器1504と第2照明機器1505とに、照明光量に係るコマンドを出力する機能。
【0114】
上記構成の照明システムの具体的動作例として、人物1502が第2照明機器1505の下に立っている場合における照明システムの動作について、以下、図16を参照しながら説明する。
<具体例>
対象物検出装置100は、人物1502が第1照明機器1504の下の領域にいることを検知すると、第1照明機器1504の下の領域を示す位置情報を照明制御装置1503に出力する。
【0115】
照明制御装置1503は、第1照明機器1504の下の領域を示す位置情報が入力されると、第1照明機器1504の照明光量の方が、第2照明機器1505の照明光量よりも強くなるように、第1照明機器1504と第2照明機器1505とに、照明光量に係るコマンドを出力する。
すると、第1照明機器1504の方が、第2照明機器1505よりも明るく光ることとなり、従って、人物1502の周囲が、他の領域よりも明るく照らされることとなる。
【0116】
<まとめ>
上記構成の照明システムによれば、人が存在する場所の照明光が強くなり、それ以外の場所の照明光が弱くなる。これにより、人に快適でありながら、省エネルギー制御を実現する照明環境が提供されることとなる。
<補足>
以上、本発明に係る対象物検出装置の一実施形態として、実施の形態1、実施の形態2において、2つの対象物検出装置の例について説明したが、以下のように変形することも可能であり、本発明は上述した実施の形態で示した通りの対象物検出装置に限られないことはもちろんである。
(1)実施の形態1において、検出対象距離マップ生成回路104は、近距離画素群を抽出する場合に、抽出する近距離画素群以外の画素距離値をゼロとする構成の例について説明したが、近距離画素群以外の画素が、近距離画素群以外であることを示すことができれば、必ずしも抽出する近距離画素群以外の画素距離値をゼロとする構成である必要はない。例えば、近距離画素群以外であることを示すフラグを付与する例等が考えられる。
(2)実施の形態1において、第1固体撮像素子302と第2固体撮像素子303とのそれぞれは、CMOS型イメージセンサである構成について説明したが、受光面に入力される光を、画素毎に光電変換して画素値を生成する機能を有するものであれば、必ずしもCMOS型イメージセンサである必要はなく、例えば、CCD(Charge Coupled Device)型イメージセンサ等であっても構わない。
(3)実施の形態1において、視差検波回路205は、視差値を算出するために、水平方向に連続する5画素分の画素値を利用する構成の例について説明したが、画素値群の画素数5は、一具体例に過ぎず、イメージセンサの画素数、検出対象物の大きさ等に応じて、予め適切に定められていれば、必ずしも、これらの数に限定される必要はない。
(4)実施の形態1において、初期化距離値出力回路605は、記憶する基準距離値の初期値が、画素距離値算出回路206によって算出され得る画素距離値のうち、最も短い距離を示す画素距離値である構成の例について説明したが、例えば、対象物検出装置100が、固定設置される状況であって、検出対象物が無い状態の被写体環境(例えば検出対象が人物で本装置が設置された環境の背景に壁や床などが固定して存在する環境)がほぼ固定できる場合には、予め第1固体撮像装置201と第2固体撮像装置203にて検出対象物が無い状態で撮像することで得られる画素距離値を画素位置毎に生成し、生成した画素距離値を、基準距離値の初期値として初期化距離値出力回路605に記憶させておく構成に変形することも可能である。
(5)以下、さらに本発明の一実施形態に係る対象物検出装置の構成及びその変形例と各効果について説明する。
【0117】
(a)本発明の一実施形態に係る対象物検出装置は、撮影された画像に、所定の対象物が被写体として含まれていることを検出する対象物検出装置であって、撮影された画像において、画像を構成する画素それぞれについて、被写体までの距離を示す被写体距離を算出する被写体距離算出手段と、画像を構成する画素それぞれについて、前記所定の対象物がないと推定される状態の距離を記憶する非対象物距離記憶手段と、撮影された画像において、前記被写体距離算出手段によって算出された被写体距離が、前記非対象物距離記憶手段によって記憶される前記所定の対象物がないと推定される状態の距離よりも近距離を示す画素からなる検出対象画素群を抽出する検出対象画素群抽出手段と、前記所定の対象物の距離分布の特徴に係る特徴情報を記憶する特徴情報記憶手段と、前記特徴情報記憶手段に記憶されている前記特徴情報を参照して、前記検出対象画素群抽出手段によって抽出された検出対象画素群から、前記所定の対象物が被写体として含まれていることを検出する検出手段とを備えることを特徴とする。
【0118】
上述の構成を備える本実施の形態に係る対象物検出装置では、撮影された画像において、被写体としての所定の対象物は、上述の検出対象画素群に含まれることとなる。このことから、検出手段は、画像を構成する画素群全体ではなく、その一部分である検出対象画素群に対して、パターン認識処理を行うことで、被写体としての所定の対象物を検出することができることとなる。すなわち、例えば、近距離画素群の領域が、画像を構成する画素群の領域の1/3に絞り込まれているとすると、パターン認識処理を行う対象となる画素群は、画像を構成する画素群の1/3に絞り込まれることとなる。
【0119】
また2次元画像の絵柄の特徴が乏しい対象物に対しても、距離の分布をその検出対象物の特徴量とすることから対象物の色や濃淡、照明光の偏りや影に影響されることがないため、パターン認識のための膨大な学習処理の時間とその結果得られる膨大な学習データを記憶保持するメモリや、膨大な学習データに基づき識別処理を高速に実施するための多量の処理を必要としない。
【0120】
従って、上述の構成を備える対象物検出装置は、従来の対象物検出装置が行うパターン認識処理の処理量よりも少ない処理量で、画像に所定の対象物が含まれていることを検出する可能性が高くなる。
(b)また、前記非対象物距離記憶手段は、被写体が逐次撮影されたものである複数の画像において、画素位置毎に、画素それぞれについて、前記被写体距離算出手段によって算出された被写体距離のうち、最大の被写体距離である最大被写体距離を算出する最大被写体距離算出部を有し、前記最大被写体距離算出部が、画素位置毎の最大被写体距離を算出した場合に、当該画素位置毎の最大被写体距離を、前記画素を構成する画素それぞれについての前記所定の対象物がないと推定される状態の距離として記憶するとしても良い。
【0121】
このような構成にすることによって、撮影された画像から、画素それぞれについての、所定の対象物がないと推定される状態の距離を算出して記憶することができるようになる。
(c)また、前記被写体距離算出手段は、前記被写体距離の算出を、ステレオ撮影された2枚1組の画像のうちの一方の画像を構成する画素それぞれについて、当該1組の画像における視差に基づいて行うとしても良い。
【0122】
このような構成とすることによって、被写体距離の算出を平易な仕組みで実現することができるようになる。
(d)また、前記特徴情報記憶手段は、予め前記所定の対象物の距離分布を統計的学習に基づき距離分布のパターンの特徴を抽出して得られる距離分布学習データ群からなり、前記検出手段は、前記検出対象画素群抽出手段によって抽出された検出対象画素群に含まれる被写体の距離分布と、前記距離分布学習データ群とのパターン認識を行い前記所定の対象物の有無の尤もらしさを識別することにより、前記検出を行うとしても良い。
【0123】
このような構成とすることによって、パターン認識による対象物の検出を実現することができるようになる。
(e)また、前記検出手段は、前記検出対象画素群抽出手段から検出対象画素群が抽出される度に、当該検出対象画素群に対して、前記所定の対象物が被写体として含まれていることの検出を試み、前記非対象物距離記憶手段は、さらに、第1期間において、前記検出手段が、前記検出対象画素群抽出手段によって抽出された第1検出対象画素群に対して、前記検出の試みを行った場合において、当該検出の試みの結果が否定的であったときに、当該第1検出対象画素群に含まれていた画素の画素位置に対する被写体距離を、前記所定の対象物がないと推定される状態の距離として記憶するとしても良い。
【0124】
このような構成とすることによって、第1期間において行われた検出の試みの結果を、所定の対象物がないと推定される状態の距離に反映させることができるようになる。
(f)また、前記検出手段は、前記検出対象画素群抽出手段によって抽出された検出対象画素群に含まれる被写体の距離分布と前記距離分布学習データ群とのパターン認識を行うことで得られた前記所定の対象物の有無の尤もらしさに加えて、検出対象画素群抽出手段により抽出された検出対象画素群の被写体距離から求められる所定の対象物の画像内で期待される大きさと当該パターン認識を実施した画像内の領域サイズとの合致度から決定される信頼度を評価して所定の対象物の検出を行うとしても良い。
【0125】
このような構成とすることによって、対象物の検出に、対象物の画面内の領域サイズによる影響を反映させることができるようになる。
【産業上の利用可能性】
【0126】
本発明は、画像データを取り扱う機器に広く利用することができる。
【符号の説明】
【0127】
100 対象物検出装置100
101 撮像装置群101
102 撮像距離マップ生成回路102
103 基準距離マップ記憶回路103
104 検出対象距離マップ生成回路104
105 対象物識別回路105
110 集団学習機110
200 シーケンス制御回路200
201 第1固体撮像装置201
202 第1フレームメモリ202
203 第2固体撮像装置203
204 第2フレームメモリ204
205 視差検波回路205
206 画素距離値算出回路206
207 背景画素距離値記憶回路207
208 背景更新回路208
209 背景除去回路209
210 第3フレームメモリ210
211 識別処理回路211
212 学習データ記憶回路212
213 検知結果出力回路213
214 同期信号発生器214

【特許請求の範囲】
【請求項1】
撮影された画像に、所定の対象物が被写体として含まれていることを検出する対象物検出装置であって、
撮影された画像において、画像を構成する画素それぞれについて、被写体までの距離を示す被写体距離を算出する被写体距離算出手段と、
画像を構成する画素それぞれについて、前記所定の対象物がないと推定される状態の距離を記憶する非対象物距離記憶手段と、
撮影された画像において、前記被写体距離算出手段によって算出された被写体距離が、前記非対象物距離記憶手段によって記憶される前記所定の対象物がないと推定される状態の距離よりも近距離を示す画素からなる検出対象画素群を抽出する検出対象画素群抽出手段と、
前記所定の対象物の距離分布の特徴に係る特徴情報を記憶する特徴情報記憶手段と、
前記特徴情報記憶手段に記憶されている前記特徴情報を参照して、前記検出対象画素群抽出手段によって抽出された検出対象画素群から、前記所定の対象物が被写体として含まれていることを検出する検出手段とを備える
ことを特徴とする対象物検出装置。
【請求項2】
前記非対象物距離記憶手段は、
被写体が逐次撮影されたものである複数の画像において、画素位置毎に、画素それぞれについて、前記被写体距離算出手段によって算出された被写体距離のうち、最大の被写体距離である最大被写体距離を算出する最大被写体距離算出部を有し、
前記最大被写体距離算出部が、画素位置毎の最大被写体距離を算出した場合に、当該画素位置毎の最大被写体距離を、前記画素を構成する画素それぞれについての前記所定の対象物がないと推定される状態の距離として記憶する
ことを特徴とする請求項1記載の対象物検出装置。
【請求項3】
前記被写体距離算出手段は、前記被写体距離の算出を、ステレオ撮影された2枚1組の画像のうちの一方の画像を構成する画素それぞれについて、当該1組の画像における視差に基づいて行う
ことを特徴とする請求項1記載の対象物検出装置。
【請求項4】
前記特徴情報記憶手段は、予め前記所定の対象物の距離分布を統計的学習に基づき距離分布のパターンの特徴を抽出して得られる距離分布学習データ群からなり、
前記検出手段は、前記検出対象画素群抽出手段によって抽出された検出対象画素群に含まれる被写体の距離分布と、前記距離分布学習データ群とのパターン認識を行い前記所定の対象物の有無の尤もらしさを識別することにより、前記検出を行う
ことを特徴とする請求項1記載の対象物検出装置。
【請求項5】
前記検出手段は、前記検出対象画素群抽出手段から検出対象画素群が抽出される度に、当該検出対象画素群に対して、前記所定の対象物が被写体として含まれていることの検出を試み、
前記非対象物距離記憶手段は、さらに、第1期間において、前記検出手段が、前記検出対象画素群抽出手段によって抽出された第1検出対象画素群に対して、前記検出の試みを行った場合において、当該検出の試みの結果が否定的であったときに、当該第1検出対象画素群に含まれていた画素の画素位置に対する被写体距離を、前記所定の対象物がないと推定される状態の距離として記憶する
ことを特徴とする請求項2記載の対象物検出装置。
【請求項6】
前記検出手段は、前記検出対象画素群抽出手段によって抽出された検出対象画素群に含まれる被写体の距離分布と前記距離分布学習データ群とのパターン認識を行うことで得られた前記所定の対象物の有無の尤もらしさに加えて、検出対象画素群抽出手段により抽出された検出対象画素群の被写体距離から求められる所定の対象物の画像内で期待される大きさと当該パターン認識を実施した画像内の領域サイズとの合致度から決定される信頼度を評価して所定の対象物の検出を行う
ことを特徴とする請求項4記載の対象物検出装置。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7】
image rotate

【図9】
image rotate

【図10】
image rotate

【図11】
image rotate

【図13】
image rotate

【図14】
image rotate

【図15】
image rotate

【図16】
image rotate

【図8】
image rotate

【図12】
image rotate


【公開番号】特開2013−3787(P2013−3787A)
【公開日】平成25年1月7日(2013.1.7)
【国際特許分類】
【出願番号】特願2011−133509(P2011−133509)
【出願日】平成23年6月15日(2011.6.15)
【出願人】(000005821)パナソニック株式会社 (73,050)
【Fターム(参考)】