対象物検出装置
【課題】対象物か否かを判断する情報を残しながらも情報量を低減させ、距離画像を用いた対象物の検出における処理負荷を従来よりも低減する。
【解決手段】アクティブ型の距離画像センサ1により距離画像を生成する。背景取得手段2は背景距離画像を記憶し、差分画像生成手段3は、距離画像と背景距離画像とから距離差分画像を生成する。注目画素抽出手段4は、距離差分画像における画素値が存在閾値以上である画素を距離画像から注目画素として抽出し、密度計測手段5では、注目画素を3次元の仮想空間にマッピングし単位体積のブロックごとに注目画素の個数を密度として求める。有効ブロック抽出手段6は、密度が対象閾値以上であるブロックを有効ブロックとして抽出し、領域統合手段7は、隣接する有効ブロックを統合してグループを形成する。対象物判別手段8は、グループのサイズが適正範囲であれば、対象物として判別する。
【解決手段】アクティブ型の距離画像センサ1により距離画像を生成する。背景取得手段2は背景距離画像を記憶し、差分画像生成手段3は、距離画像と背景距離画像とから距離差分画像を生成する。注目画素抽出手段4は、距離差分画像における画素値が存在閾値以上である画素を距離画像から注目画素として抽出し、密度計測手段5では、注目画素を3次元の仮想空間にマッピングし単位体積のブロックごとに注目画素の個数を密度として求める。有効ブロック抽出手段6は、密度が対象閾値以上であるブロックを有効ブロックとして抽出し、領域統合手段7は、隣接する有効ブロックを統合してグループを形成する。対象物判別手段8は、グループのサイズが適正範囲であれば、対象物として判別する。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、距離画像センサを用いて対象物を検出する対象物検出装置に関するものである。
【背景技術】
【0002】
従来から、距離画像を用いて対象物を検出する技術が提案されている。たとえば、特許文献1には、ステレオ画像処理により生成した距離画像を用いて自動車の前方に存在する物体を検出する技術が記載されている。
【0003】
特許文献1には、距離画像上に複数の区分を設定し、各区分ごとに距離値のヒストグラムを生成するとともに、出現頻度が閾値以上になる距離値を、当該区分を代表する距離値として求めることが記載されている。さらに、区分と距離とからなる処理空間において各区分における距離の代表値が占める位置が隣接している場合に同一物体とみなしてグループ化している。
【0004】
特許文献1に記載の技術では、処理空間におけるグループ化を行うことにより、距離の異なる物体を、異なるグループとして分離することを可能にしている。
【先行技術文献】
【特許文献】
【0005】
【特許文献1】特開2008−64628号公報
【発明の概要】
【発明が解決しようとする課題】
【0006】
ところで、特許文献1に記載の技術を採用すれば、距離画像内に占める領域が隣接した複数の物体であっても、距離差に基づくグループ化を行うことにより、分離することが可能である。しかも、グループ化を行うことにより、距離画像の画素をそのまま扱う場合よりも処理負荷を低減することができる可能性がある。
【0007】
しかしながら、グループ化の際には物体の形状に関する情報がほとんど失われてしまうから、物体の種類を識別することができないという問題がある。すなわち、距離画像を用いて物体を認識する用途では、特許文献1に記載の技術を採用することができない。
【0008】
本発明は上記事由に鑑みて為されたものであり、その目的は、距離画像において対象物か否かを判断する情報を残しながらも情報量を低減させることを可能にし、距離画像を用いた対象物の検出における処理負荷を従来よりも低減することができる対象物検出装置を提供することにある。
【課題を解決するための手段】
【0009】
本発明は、上記目的を達成するために、視野領域について画素値が距離である距離画像を生成するアクティブ型の距離画像センサと、視野領域に対象物が存在しない状態において距離画像センサにより生成した距離画像を背景距離画像として記憶する背景取得手段と、視野領域を監視する状態において距離画像センサにより生成した距離画像と背景取得手段に記憶されている背景距離画像との差分画像である距離差分画像を生成する差分画像生成手段と、距離画像センサにより生成した距離画像に含まれる画素のうち、差分画像生成手段により生成した距離差分画像における画素値が規定の存在閾値以上である画素を注目画素として抽出する注目画素抽出手段と、注目画素抽出手段により抽出した注目画素を3次元の仮想空間にマッピングし当該仮想空間内に規定した単位体積のブロックごとに注目画素の個数を密度として求める密度計測手段と、密度計測手段により求めた密度が規定の対象閾値以上であるブロックを有効ブロックとして抽出する有効ブロック抽出手段と、有効ブロック抽出手段で抽出した有効ブロックについて隣接している有効ブロックを統合してグループを形成する領域統合手段と、領域統合手段により形成したグループに対して対象物に関する知識を用いることにより対象物か否かを判別する対象物判別手段とを備えることを特徴とする。
【0010】
有効ブロック抽出手段は、ブロックまでの距離が大きいほど対象閾値を小さく設定することが望ましい。
【0011】
この場合、有効ブロック抽出手段は、規定の基準距離における対象閾値を基準対象閾値とし、基準距離に対するブロックまでの距離の比の2乗分の1を基準対象閾値に乗じた値を対象閾値に用いることが望ましい。
【0012】
対象物判別手段は、領域統合手段により形成したグループからサイズを特徴として抽出する特徴抽出手段と、特徴量抽出手段が抽出したサイズが規定の適正範囲内であることを知識に用いて当該グループが対象物か否かを判別するサイズ判別手段とを備えることが望ましい。
【0013】
また、対象物判別手段は、特徴抽出手段によりグループの特徴として抽出したサイズが規定の前記適正範囲の上限を超える場合に、当該グループを形成する有効ブロックのクラスタリングを行うことにより、当該グループを複数のグループに分割するクラスタリング手段を備え、クラスタリング手段による分割後のグループについてサイズ判別手段による判別を行うことが望ましい。
【0014】
有効ブロック抽出手段は、仮想空間を規定する直交座標系の座標平面のうち、距離画像センサの視野領域の中心線と交差する座標平面の上で、有効ブロックに含まれる画素の度数分布を求め、度数が規定した雑音閾値より小さくなる座標値を持つ画素を注目画素として採用しないことが望ましい。
【0015】
距離画像センサの視野領域における中心線は斜め下向きに設定されており、密度計測手段は、注目画素を仮想空間にマッピングする際に、距離画像センサの視野領域における中心線の俯角に応じた補正を行う構成を採用することができる。
【0016】
注目画素抽出手段は、距離画像センサの視野領域内において所定の高さ位置に規定した閾値面よりも上方に位置する画素を注目画素として抽出する構成を採用してもよい。
【0017】
背景取得手段は、対象物判別手段において対象物が検出されない状態が所定の更新時間に達すると、新たに生成された背景距離画像に更新するようにしてもよい。
【0018】
距離画像センサは距離画像による動画像を生成する機能を有し、対象物判別手段が対象物を検出すると、時系列において隣接する距離画像を用いることにより、視野領域内における当該対象物を追跡する対象物追跡手段を備える構成を採用してもよい。
【発明の効果】
【0019】
本発明の構成によれば、距離画像において対象物の候補となる画素を複数個ずつ含むブロックとして扱うことにより、対象物か否かを判断する情報を残しながらも情報量を低減させることが可能になり、距離画像を用いた対象物の検出における処理負荷を従来よりも低減することができる。
【図面の簡単な説明】
【0020】
【図1】実施形態を示すブロック図である。
【図2】同上における画像の例を示す図である。
【図3】同上におけるブロックの説明図である。
【図4】同上の処理手順を示す図である。
【図5】同上においてクラスタリングが必要になる例を示す図である。
【図6】同上においてクラスタリングが必要になる例を示す図である。
【図7】同上においてクラスタリング前の有効ブロックの例を示す図である。
【図8】同上におけるクラスタリングの手順を示す図である。
【図9】同上におけるクラスタリングの処理手順を示す図である。
【図10】同上における異常値の発生例を示す図である。
【図11】同上における異常値の発生例の概略図である。
【図12】同上における異常値の発生例と除去例とを示す概略図である。
【図13】同上における異常値を検出する動作の説明図である。
【図14】同上における閾値面の設定例を示す図である。
【図15】同上に用いる距離画像センサの構成例を示すブロック図である。
【図16】図15に示した構成の動作説明図である。
【図17】同上における座標変換の概念説明図である。
【図18】同上におけるアフィン変換の概念説明図である。
【発明を実施するための形態】
【0021】
(基本構成)
以下に説明する実施形態で用いる物体検知装置は、画像を構成する画素の値が距離値である距離画像を用いて対象物の存否・移動などを検出する構成を採用している。距離画像を生成する距離画像センサは、視野領域に赤外線のような光を投光するとともに、視野領域に存在する物体(人を含む)での反射光を受光することにより、視野領域に存在する物体までの距離を計測するアクティブ型の構成を有する。
【0022】
アクティブ型の距離画像センサには、投光から受光までの時間を計測する技術のほか、三角測量法の原理を用いる技術などがあり、それぞれの技術において、さらに多種類の技術が知られている。以下に説明する実施形態では、これらの技術のいずれでも用いることが可能であるが、投光から受光までの時間差に相当する情報を用いることにより、物体までの距離を検出する飛行時間法(Time Of Flight)の原理を用いた例により説明を行う。
【0023】
実施形態において用いる距離画像センサは、時間経過に伴って強度が変化する変調光を発光源から出射し、物体で反射され受光素子で受光された変調光と投光した変調光との位相差を、投光から受光までの時間差に相当する情報として用いる。
【0024】
変調光の変調波形としては、正弦波、三角波、鋸歯状波、方形波などを用いることができる。正弦波、三角波、鋸歯状波を用いる場合には変調光の周期を一定周期とする。また、方形波を用いる場合には変調光の周期を一定周期とするほか、オン期間(発光源の投光期間)とオフ期間(発光源の非投光期間)との比率を乱数的に変化させる技術を採用することも可能である。変調波形としてどの波形を用いるかにかかわらず、1周期(方形波の場合はオン期間とオフ期間とを1回ずつ含む期間)で投光と受光との位相差を求めるのではなく、多数周期の平均値(あるいは積算値)から位相差を求める。
【0025】
受光素子には、複数個の受光部(光電変換部)が2次元に配列された撮像素子を用いる。撮像素子は、CCDイメージセンサやCMOSイメージセンサとして提供されている濃淡画像を撮像するための周知構成のものを用いることができるが、距離画像センサに適する構造を有するように専用に設計された撮像素子を用いることが望ましい。
【0026】
後者の撮像素子は、基本的な構造については、濃淡画像を撮像する周知構成の撮像素子と類似している。ただし、受光部の単位で受光感度を制御する機能を備える。受光部の単位で受光感度を制御するのは、変調光を受光するタイミングを制御することによって投光と受光との位相差を含む情報を検出するためである。この撮像素子は、各受光部で生成された電荷を変調光の変調周期の整数倍の期間に亘って蓄積する蓄積領域を有する。さらに、受光部で生成した電荷のうち変調光ではない環境光ないし周囲光の成分を低減させる機能を設ける場合もある。
【0027】
以下では、距離画像センサの一構成例として下記構成を想定して説明するが、この構成は本発明を限定する趣旨ではなく、変調光の変調波形、撮像素子の構成、撮像素子の制御などに関して、アクティブ型の周知の種々の距離画像センサに提供された構成を用いることができる。
【0028】
以下の説明で用いる距離画像センサ1は、図15に示すように、光(近赤外線を用いるのが望ましい)を出射する発光源11と、視野領域を撮像する撮像素子12とを備える。図示例では、撮像素子12として受光部を2次元配列したエリアイメージセンサを想定している。
【0029】
発光源11には、発光ダイオードやレーザダイオードのように入力の瞬時値に比例した光出力が得られる発光素子を用いる。また、発光源11から出射する光量を確保するために、発光源11は適数個の発光素子を用いて構成される。発光源11から出射された変調光は投光光学系13を通して投光される。また、撮像素子12は、受光光学系14を通して視野領域からの光を受光する。投光光学系13と受光光学系14とは、投受光の方向を平行にし互いに近接して配置してある。すなわち、投光光学系13と受光光学系14との距離は視野領域に対して実質的に無視することができるものとする。
【0030】
距離画像センサ1には、発光源11を駆動するための変調信号を出力する変調信号生成部15と、変調信号生成部15から出力された変調信号に基づいて撮像素子12での受光タイミングを規定する受光タイミング信号を生成するタイミング制御部16と、撮像素子12から出力された受光信号を用いて視野領域に存在する物体Obまでの距離を求める演算処理部17とが設けられる。
【0031】
変調信号生成部15は、出力電圧が一定周波数(たとえば、20MHz)の正弦波形で変化する変調信号を生成し、変調信号を発光源11に与えることにより、図16(a)(b)のように光出力が正弦波状に変化する変調光が発光源11から出射される。発光源11として発光ダイオードを用いる場合には、電流制限抵抗を介して発光ダイオードに変調信号の信号電圧を印加することにより、発光ダイオードの通電電流を変化させ変調光を出射させる。
【0032】
一方、撮像素子12は、電子シャッタの技術を用いることにより、受光タイミング信号に同期する期間にのみ受光強度に応じた電荷を生成することが可能になっている。また、受光部で生成された電荷は、変調信号の複数周期(たとえば、10000周期)に相当する蓄積期間に亘って蓄積された後、撮像素子12の外部に受光出力として取り出される。
【0033】
すなわち、受光タイミング信号に同期するタイミングで電荷を生成する動作と生成された電荷を蓄積する動作とを、蓄積期間である変調信号の複数周期において繰り返し行う。したがって、蓄積期間において生成された電荷は積算されることになり、積算された電荷が受光出力として取り出される。変調信号の1周期分の電荷では、生成される電荷量が少ない上に、環境光や内部ノイズの影響により電荷量にばらつきが生じやすいが、蓄積期間において電荷を蓄積することによって、この種の原因による電荷量のばらつきが抑制される。
【0034】
タイミング制御部16では、変調信号に同期する受光タイミング信号を生成する。ここでは、変調信号の1周期における異なる4位相を規定し、各位相ごとに一定時間幅の受光期間を設定する4種類の受光タイミング信号を生成する。蓄積期間ごとに4種類の受光タイミング信号のうちの各1種類の受光タイミング信号を撮像素子12に与えることにより、受光タイミング信号で設定した位相に対応する期間に受光した電荷が蓄積される。
【0035】
すなわち、1種類の受光タイミング信号で規定した受光期間において受光部ごとに生成した電荷を1回の蓄積期間において蓄積し、蓄積後の電荷を受光出力として撮像素子12の外部に取り出す処理を4回繰り返し、4回の蓄積期間で4種類の受光タイミング信号に対応する受光出力を撮像素子12の外部に取り出す。
【0036】
いま、図16(c)のように、受光タイミング信号を変調信号の1周期において90度ずつ異なる位相で規定しているものとする。この場合、各受光タイミング信号に対応する受光出力(電荷量)を、それぞれA0,A1,A2,A3とするときに、位相差ψ〔rad〕は下式で表される。
ψ=(A0−A2)/(A1−A3)
変調信号の周波数をf〔Hz〕とすれば、投光から受光までの時間差Δtは位相差ψを用いて、Δt=ψ/2π・fと表されるから、光速をc〔m/s〕とすると、物体までの距離は、c・ψ/4π・fと表すことができる。
【0037】
すなわち、4種類の受光出力(電荷量)A0〜A3により物体までの距離を求めることができる。なお、受光期間の時間幅は、受光部において適正な受光量が得られるように、適宜に設定することができる(たとえば、変調信号の4分の1周期に相当する時間幅とすることができる)。ただし、各受光期間の時間幅は互いに等しくすることが必要である。
【0038】
演算処理部17では、受光出力(電荷量)A0〜A3に基づいて位相差ψを求め、距離に換算する上述の処理のほか、以下の実施形態において説明する処理も行うことができる。演算処理部17はコンピュータ(マイコン)を用いて構成され、上述した処理はコンピュータでプログラムを実行することにより実現される。また、演算処理部17だけではなく、発光源11および撮像素子12を除く構成は、コンピュータを用いて実現される。
【0039】
なお、上述の動作例では、4種類の受光タイミング信号を用いているが、3種類の受光タイミング信号でも位相差ψを求めることができ、環境光ないし周囲光が存在しない環境下では、2種類の受光タイミング信号でも位相差ψを求めることが可能である。
【0040】
また、上述の動作では、4種類の受光出力(電荷量)A0〜A3を撮像素子12から取り出すために4回の蓄積期間が必要であるが、2個の受光部を用いて変調信号の1周期で2種類の受光タイミング信号に対応する電荷を生成することも可能である。この構成では、撮像素子12から2種類の受光タイミング信号に対応した受光出力を1回で読み出すことが可能になる。同様に、4個の受光部を用いて変調信号の1周期で4種類の受光タイミング信号に対応する電荷を生成すれば、4種類の受光タイミング信号に対応する受光出力を1回で読み出すことが可能になる。
【0041】
上述した距離画像センサ1は、視野領域からの光を受光するための受光素子として複数個の受光部が2次元配列された撮像素子を用いているから、各受光部での受光量に基づいて距離値を求めることにより距離画像が生成されることになる。上述のように1個の受光部を4種類の受光タイミングに対応付けている場合には、1個の受光部が距離画像の1画素に対応する。ただし、2種類の受光タイミング信号に対応付けて2個の受光部を用いる場合は2個の受光部が1画素に対応し、4種類の受光タイミング信号に対応付けて4個の受光部を用いる場合は4個の受光部が1画素に対応する。
【0042】
上述のようにして、撮像素子の受光面が距離画像センサ1の視野領域を投影した仮想の投影面として規定され、当該投影面上に2次元配列された複数個の受光部が距離画像の画素に対応付けられる。したがって、受光部の位置が距離画像の画素の位置に対応する。生成された距離画像はコンピュータのメモリに格納される。
【0043】
上述した距離画像センサ1では、発光源11から視野領域に投光し、1個の撮像素子12により視野領域を撮像するから、視野領域は、距離画像センサ1を頂点として距離画像センサ1から離れるほど広がることになる。
【0044】
たとえば、投光光学系13および受光光学系14が光軸の周りに等方的に形成されているときには、視野領域は距離画像センサ1を頂点とする角錐状になる。また、投光光学系13として外周が楕円形となるレンズやシリンドリカルレンズのように非等方的に形成されたレンズを用いるときには、視野領域は距離画像センサ1を頂点とする扇形状などに形成されることになる。さらに、発光源11を複数個設けるとともに、投光光学系13も2個以上設け、投光光学系13ごとに投光方向を異ならせる構成を採用することもできる。
【0045】
以下の説明では、視野領域が距離画像センサ1を頂点とする角錐状に形成されている場合を想定する。したがって、上述した仮想の投影面に配列された画素の位置は、距離画像センサ1から視野領域を見込む方向に対応することになり、各画素の画素値は当該方向に存在する物体までの距離を表すことになる。距離画像の各画素の位置を2次元の直交座標系の座標値(つまり、画素位置の水平方向と垂直方向との位置)で表せば、この座標位置は、物体を見込む方位角および俯角・仰角に対応する。言い換えると、距離画像の各画素の持つ情報は、物体の位置を極座標で表した情報と等価である。したがって、以下では、距離画像センサ1から出力される距離画像を極座標系の距離画像と呼ぶ。
【0046】
上述した極座標系の距離画像は、距離画像センサ1からの距離の情報が必要であるときには利便性が高いが、視野領域である実空間の各位置との対応関係がわかりにくく、実空間に存在する物体を基準にした領域を指定するには不便である。そこで、極座標系の距離画像の各画素を、実空間に対応付けた3次元の仮想空間にマッピングするために画像変換部8を設けている。仮想空間には、実空間と対応するように直交座標系の座標軸が設定される。
【0047】
いま、視野領域の上方に距離画像センサ1を配置するとともに、距離画像センサ1の視野領域における中心線を斜め下向きに設定している場合を想定する。また、実空間における床面を仮想空間の下側面に対応付けているものとする。仮想空間に設定する直交座標系の座標軸は、距離画像センサ1の視野領域における中心線を床面に投影することにより形成される直線の延長方向をz軸の正の向きと規定し、距離画像センサ1から鉛直下向きをy軸の正の向きとする。また、右手系の直交座標系を採用するものとし、yz平面に対して原点から右向きをx軸の正の向きとする。また、原点の位置は、距離画像センサ1に設けた撮像素子12の中心の画素から視野領域を見込む視線(つまり、視野領域の中心線)上であって床面から所定の高さ位置に設定する。
【0048】
画像変換部8では、極座標の距離画像から3次元の直交座標系である仮想空間への座標変換を、以下の手順で行う。まず、距離画像センサ1に設けた撮像素子12の受光面が仮想空間のいずれかの座標軸に直交する平面と平行であるものとして極座標系の距離画像から直交座標系への座標変換を行う。その後、求めた直交座標系にアフィン変換を施すことにより、仮想空間の座標軸に対する距離画像センサ1の視野領域の中心線の傾きを修正する座標変換を行う。
【0049】
いま、撮像素子12の受光面上での画素の座標位置を(u,v)で表し、座標位置(u,v)の画素の画素値(つまり、物体までの距離値)をrとする。また、実空間の直交座標系における座標位置を(X,Y,Z)で表す。すなわち、図17に示すように、視野領域に原点Oおよび座標系XYZを規定し、視野領域における座標位置(X,Y,Z)を、撮像素子12の受光面上の画素の座標位置(u,v)および距離値rに対応付ける。ここに、画素の座標位置の単位は〔pixel〕である。
【0050】
まず、u軸方向とX軸方向とは平行であるものとし、v軸方向とY軸方向は平行であるものとする。すなわち、距離画像センサ1の視野領域の中心線がZ軸に一致しているものとする。この状態では、X軸を仮想空間のx軸に一致させれば、Y軸は仮想空間のy軸に対してx軸の周りに回転していることになる。
【0051】
直交座標系XYZの原点は視野領域の中心線上に位置するものとし、まず、距離画像における基準位置を撮像素子12の受光面上での中心画素(uc,vc)からの距離で表すための変換を行う。
u1=su(u−uc)
v1=sv(v−vc)
ただし、su,sv〔m/pixel〕は撮像素子12の画素サイズである。ここで、レンズの歪みを考慮して座標位置(u1,v1)に対して次式の補正を行う。
u2=a・u1
v2=a・v1
ただし、a=1/{1+κ(u12+v12)}、κはレンズ歪パラメータ〔1/m2〕である。補正した座標位置(u2,v2)を用いると、直交座標系XYZの座標位置は、次式で表される。
X=u2・r/b
Y=v2・r/b
Z=fr/b
ただし、b=(u22+v22+f2)1/2、f〔m〕は受光光学系14の焦点距離である。
【0052】
ところで、距離画像センサ1は、視野領域を見下ろすように配置されているから、仮想空間の直交座標系に対応付けるには、直交座標系XYZから、さらに、仮想空間に規定した上述の直交座標系xyzへのアフィン変換を行う必要がある。つまり、上述のようにして極座標系の距離画像から直交座標系XYZへの変換を行うことにより求めた座標位置(X,Y、Z)は、図18(a)のように、距離画像センサ1の前方をZ軸に設定している。これに対して、仮想空間の直交座標系xyzは、図18(b)のように、直交座標系XYZに対してX軸の周りに回転している。したがって、の座標位置(X,Y,Z)を回転させることにより、仮想空間に規定した直交座標系xyzの座標位置(x,y,z)への座標変換がなされる。
【0053】
いま、距離画像センサ1の視野領域の中心線(上述のZ軸)が仮想空間に規定したyz平面に含まれ、かつz軸に対してy軸の正の方向に角度θだけ回転しているものとする。また、X軸は仮想空間のx軸に一致しているものとする。言い換えると、距離画像センサ1の俯角がθに設定されていることになる。
【0054】
この場合、Z軸をz軸に一致させるように、直交座標系XYZを角度θだけX軸の周りに回転させるアフィン変換を行えば、直交座標系XYZから直交座標系xyzへの座標変換を行うことができる。つまり、次式のように、yz平面内でのアフィン変換を行う。
x=X
y=Y・cosθ−Z・sinθ
z=Y・sinθ+Z・cosθ
上述の手順で極座標系の距離画像から直交座標系への座標変換を行い、さらにアフィン変換を行うことにより、視野領域を斜め下向きに設定して求めた極座標系の距離画像の情報を、仮想空間に規定した直交座標系の座標位置に対応付けることができる。なお、アフィン変換を行うために用いる俯角θは、撮像素子12の受光面が鉛直面に対してなす角度であるから、俯角θは距離画像センサ1を設置した後に手入力により与える。また、距離画像センサ1の重力方向に対する角度を検出するジャイロセンサを設けることにより、俯角θを自動的に求めることが可能である。
【0055】
以上のようにして、極座標系の距離画像を仮想空間に規定した直交座標系の座標位置(x,y,z)にマッピングすることができる。以下に説明する実施形態では、距離画像センサ1により生成された極座標系の距離画像から、直交座標系で表される3次元の仮想空間にマッピングする技術を前提として対象物を検出する技術を説明する。
【0056】
(実施形態)
以下、本実施形態の構成については、図1を参照して説明する。また、図1に示す各構成で生成される画像については、図2を参照して説明する。
【0057】
また、本実施形態では、距離画像センサ1の視野領域における対象物として人を検出することを想定する。また、距離画像センサ1の視野領域における人の検出に際しては、極座標系の距離画像から直交座標系で表される3次元の仮想空間へのマッピングを行う。
【0058】
距離画像センサ1では、視野領域において人が存在しない状態における距離画像(極座標系)としての背景距離画像P1(図2(a))をあらかじめ生成しておき、背景距離画像P1を背景取得手段2に記憶させる。
【0059】
距離画像センサ1の視野領域における対象物の有無を検出するには、まず、差分画像生成手段3において、距離画像センサ1により生成した極座標系の距離画像P2(図2(b))と背景取得手段2に記憶されている背景距離画像P1との差分画像を生成する。以下では、この差分画像を距離差分画像P3(図2(c))と呼ぶ。距離差分画像P3では、背景距離画像P1との変化が生じた画素にのみ比較的大きい値が得られる。
【0060】
差分画像生成手段3により生成された距離差分画像は注目画素抽出手段4に与えられ、注目画素抽出手段4では、距離差分画像P3を適宜に規定の存在閾値により二値化する。存在閾値により距離差分画像P3を二値化すると、図2(d)のような二値画像P4が得られる。この二値画像P4に含まれる画素を距離画像P2から抽出すると、図2(e)のように距離画像P2から注目画素を抽出した画像P5が得られる。すなわち、注目画素抽出手段4は、距離画像P2に含まれる画素のうち、距離差分画像P3における画素値が規定の存在閾値以上である画素を注目画素として抽出する。
【0061】
存在閾値は、検出の目的とする対象物が視野領域に存在する場合に、対象物に対応する画素が注目画素となるように検出する必要があるから、比較的小さい値に設定される。ただし、存在閾値が小さすぎると、距離画像P2内の揺らぎによって発生した雑音成分が注目画素に含まれる可能性があるから、雑音成分を除去できる程度の大きさに設定する。実際には、存在閾値を数十cm程度で設定しておけば、雑音成分を除去しつつ対象物に対応した注目画素を抽出することができる。
【0062】
注目画素抽出手段4により極座標系の距離画像から抽出された注目画素は、密度計測手段5において、3次元の仮想空間にマッピングされる。また、密度計測手段5は、この仮想空間内に規定した単位体積のブロックごとに注目画素の個数を密度として求める。図3(b)に示すように、ブロックBは、単位体積の立方体として設定される。密度計測手段5は、このブロックBに含まれる注目画素Pxの個数を密度として計測する。
【0063】
ここに、仮想空間について、基本構成として説明したように、距離画像センサ1から鉛直下向きをy軸方向とし、距離画像センサ1の視野領域の中心線を床面上に投影した直線の延長方向をz軸方向とする。y軸の正の向きを下向き、z軸の正の向きを距離画像センサ1から遠ざかる向きとし、右手系の直交座標系を採用すると、距離画像センサ1から視野領域を見込むときに、水平方向の右向きがx軸の正の向きになる。ブロックBとなる立方体の各辺は、x軸方向、y軸方向、z軸方向に平行になるように設定する。
【0064】
密度計測手段5により求められる密度は、対象物の表面において大きくなることが予想されるから、密度が規定の対象閾値以上であるブロックBを対象物の候補である有効ブロックとして抽出する有効ブロック抽出手段6を設けてある。
【0065】
ところで、基本構成において説明したように、距離画像センサ1を頂点とする角錐状に設定され、図3(a)に示すように、距離画像センサ1から離れるほど視野領域VFに含まれる空間領域の範囲が広くなる。したがって、図3(b)に示しているように、対象物が同じ場合であっても、距離画像センサ1からの距離(図示例ではZ軸方向の距離で示している)が大きくなるほど、ブロックBに含まれる注目画素の個数が減少する。言い換えると、視野領域における位置によらず対象閾値を一定に設定していると、ブロックBは、距離画像センサ1からの距離が小さいと有効ブロックと判断される確率が高く、距離が大きくなるほど有効ブロックと判断される確率が低下する。
【0066】
ブロックBまでの距離に応じて有効ブロックと判断される確率が変化するのを防止するために、有効ブロック抽出手段6では、ブロックBまでの距離が大きいほど対象閾値を小さく設定することが望ましい。具体的には、ブロックBの密度は、距離の2乗に反比例する。したがって、有効ブロック抽出手段6では、規定の基準距離(適宜に設定する)における対象閾値を基準対象閾値とし、基準距離に対するブロックBまでの距離の比の2乗分の1を基準対象閾値に乗じた値を対象閾値に用いることが望ましい。なお、距離と対象閾値との関係は、他の基準で規定してもよい。
【0067】
上述のようにして有効ブロック抽出手段6で抽出された有効ブロックは、領域統合手段7に与えられ、領域統合手段7では、有効ブロックが隣接している場合には、同じ対象物に属する有効ブロックであるとみなして有効ブロックを統合する。つまり、隣接した有効ブロックを統合することにより、有効ブロックのグループを形成する。この処理は、2次元の画像におけるラベリングの処理に相当する。
【0068】
領域統合手段7は、基本的には、2個の有効ブロックにおいて単位体積の立方体のいずれか1面が共有されている場合に、両有効ブロックを隣接する有効ブロックと判断する。ただし、2個の有効ブロックにおいて単位体積の立方体のいずれか1個の頂点が共有されている場合も、隣接する有効ブロックに含めるようにしてもよい。
【0069】
領域統合手段7により有効ブロックを統合した結果の画像を、z軸方向、x軸方向、y軸方向にそれぞれ投影した結果の一例を、図2(f)(g)(h)に示す。第三角法の投影図で言えば、図2(f)は正面図、図2(g)は右側面図、図2(h)は平面図に相当する。
【0070】
領域統合手段7により統合された有効ブロックのグループに対しては、対象物判別手段8において、対象物に関する知識を適用することにより対象物か否かの判断を行う。対象物か否かを判別する知識としては、対象物のサイズを用いるのが簡単かつ有効である。また、対象物に関する知識としては、グループの形状、グループの重心の位置、グループの慣性主軸の方向などを用いることも可能である。ただし、グループの構成単位は、ブロックBであるから、形状の細部の情報は失われているから形状のみで判断することは難しく、また、重心の位置や慣性主軸の方向なども単独で判断に用いことは難しい。これらの情報は、他の知識と組み合わせて補助的に用いると、判断結果の信頼性を高めることができる。
【0071】
以下では、対象物判別手段8がグループのサイズを特徴に用いることによって対象物か否かを判断する例を説明する。グループのサイズは、図2(f)(g)(h)のように、仮想空間の座標軸のうちのいずれかの方向にグループを投影した図形に対する外接矩形Rを設定し、外接矩形Rの辺の長さをサイズとして求めればよい。
【0072】
図2(f)のようにz軸方向に投影した場合は、外接矩形Rの横辺の寸法が幅寸法W、縦辺の寸法が高さ寸法Hになる。また、図2(g)のようにx軸方向に投影した場合は、外接矩形Rの横辺の寸法が奥行き寸法D、縦辺の寸法が高さ寸法Hになる。図2(h)のようにy軸方向に投影した場合は、外接矩形Rの横辺の寸法が幅寸法W、縦辺の寸法が奥行き寸法Dになる。
【0073】
本実施形態では、対象物の幅寸法Wと高さ寸法Hと奥行き寸法Dとのすべてを用いて対象物か否かを判断する。したがって、対象物判別手段8は、グループをすべての座標軸の方向にそれぞれ投影して外接矩形Rを設定することにより、幅寸法Wと高さ寸法Hと奥行き寸法Dとを求める特徴抽出手段81を備える。また、対象物判別手段8は、特徴抽出手段81で求めたグループの幅寸法Wと高さ寸法Hと奥行き寸法Dとに関してそれぞれ適正範囲を設定するとともに、すべてが適正範囲であるときに当該グループを対象物として判別するサイズ判別手段82を備えている。
【0074】
以上の動作をまとめると、図4のようになる。すなわち、背景距離画像P1をあらかじめ記憶させておき(S1)、距離画像センサ1で距離画像P2を生成し(S2)、背景距離画像P1と距離画像P2との差分画像を距離差分画像P3として生成する(S3)。さらに、距離差分画像P3において存在閾値以上である画素を、距離画像P2から注目画素として抽出する(S4)。その後、注目画素について極座標系の距離画像の各画素を3次元の直交座標系にマッピングする座標変換を行い(S5)、各ブロックBの密度を評価して有効ブロックを抽出する(S6)。さらに、隣接する有効ブロックを統合し(S7)、特徴抽出手段81によりサイズを抽出する(S8)。その後、サイズ判別手段82では、サイズが適正範囲か否かを判断するのである(S9)。図4に示す例では、ステップS10として、対象物を追跡する処理を記載しているが、この処理については後述する。
【0075】
ところで、対象物判別手段8において対象物の特徴としてサイズを用いるときには、複数人が重なっているときに、幅寸法あるいは奥行き寸法が適正範囲を逸脱し、対象物ではないと判断される可能性がある。
【0076】
たとえば、図5あるいは図6に示すように、対象物である人Mが、距離画像センサ1の視野領域内に2人存在し、図5のようにx軸方向に並んでいる場合や、図6のようにz軸方向に並んでいる場合には、有効ブロックによるグループを形成したときに、1つのグループとみなされる可能性がある。これらの場合は、グループから抽出した特徴量として、幅寸法Wと高さ寸法Hと奥行き寸法Dとの3種類の情報を用いている場合に、いずれかの情報については適正範囲を逸脱することになる。つまり、グループが対象物と判別されないことになる。
【0077】
このような誤判断を防止するために、対象物判別手段8には、特徴抽出手段81によりグループの特徴として抽出したサイズが適正範囲の上限を超える場合に当該グループを形成する有効ブロックのクラスタリングを行うクラスタリング手段83を設けている。以下では、クラスタリング手段83によるクラスタリングの手順について説明する。
【0078】
ここでは、図5の例のように、対象物である人Mがx軸方向に並んでいる場合を例示する。この場合、各対象物に対応するグループG1,G2として分離されるべき有効ブロックB0の間に隙間がなく、図7のように有効ブロックB0が連続したひとかたまりのグループGになる。そこで、サイズ判別手段82において、幅寸法が、適正範囲の上限を逸脱していると判断した場合(実際には、1人分の幅寸法よりも大きく、かつ2人分の幅寸法よりも小さく設定した上限閾値を超えていると判断した場合)、クラスタリング手段83を起動する。
【0079】
クラスタリング手段83では、サイズ判別手段82から引き渡されたグループGが2分割できるものとして、以下に説明するクラスタリングの処理を行う。
【0080】
クラスタリングの処理では、図8(a)に示すように、まずグループG内の適宜の2個の有効ブロックB1,B2に着目し、両有効ブロックB1,B2と、グループG内の各有効ブロックB0との距離をそれぞれ求める。着目する有効ブロックB1,B2は、分離されるグループG1,G2にそれぞれ設定することが望ましい。したがって、着目する有効ブロックB1,B2は、サイズ判別手段82において適正範囲の上限を逸脱した方向(この例では、x軸方向)について比較的遠く離れるように設定する。つまり、有効ブロックB1はグループG1に属し、有効ブロックB2はグループG2に属するとみなす。
【0081】
図8(b)のように、グループGの各有効ブロックB0は、着目した有効ブロックB1,B2のうち距離d1,d2が近いほうの有効ブロックB1,B2と同じグループG1,G2に属すると判断する。つまり、有効ブロックB0についてd1<d2であれば、有効ブロックB0は、有効ブロックB1と同じグループG1に属すると判断する。
【0082】
グループGのすべての有効ブロックB0について、着目する有効ブロックB1,B2との距離を求めると、グループGのすべての有効ブロックB0は、2つのグループG1,G2に分かれるから、各グループG1,G2ごとに重心の座標位置を求める。次に、求めた重心の座標位置を含むブロックを新たな有効ブロックB1,B2に用いて、上述の処理を繰り返す。図8(c)のように、分割後のグループG1,G2の重心の座標位置を含む有効ブロックB1,B2の位置が変化しなくなると、重心位置が収束したと判断し、上述の処理を終了する。
【0083】
上述の手順で得られた2つのグループG1,G2を、それぞれ対象物の候補とみなし、対象物判別手段8は、各グループG1,G2について、それぞれ、あらためて特徴抽出手段81およびサイズ判別手段82により対象物か否かの判別を行う。
【0084】
クラスタリング手段83を含む対象物判別手段8の処理を図9に示す。図示例では、まずサイズ判別手段82によるサイズの判定を行っている(S11)。ここで、サイズが適正範囲であれば(S12:N)、グループの分割は不要である。一方、サイズが適正範囲の上限を超えている場合は(S12:Y)、各グループG1,G2の仮の重心位置として適宜の位置に有効ブロックB1,B2を設定する(S13)。設定した有効ブロックB1,B2と、グループG内の各有効ブロックB0との距離を求め(S14)、仮の重心位置とした有効ブロックB1,B2との距離の大小に応じてグループG1,G2の分離を行う(S15)。グループG1,G2に分離した後に、各グループG1,G2の重心位置を求め(S16)、求めた重心位置が収束するまで(S17)、上述の処理を繰り返す。
【0085】
ところで、本実施形態の距離画像センサ1は、強度が変化する変調光を投光し、変調光を生成する変調信号の複数の位相における受光強度に基づいて物体までの距離を求めている。また、誤差を低減するために、変調光の多数周期に亘る期間において蓄積した電荷に基づいて距離を求めている。したがって、距離を求めるのに必要な電荷が得られるまでの時間内で物体が移動した場合には距離を正確に求めることができないことがある。距離を求めるのに必要な電荷を蓄積する時間は短時間であるから、物体の多くの部位については距離を計測することが可能である。しかしながら、物体の位置が固定されていない場合には、物体の周縁部の位置に揺らぎが生じ、距離を正確に求めることができない可能性がある。
【0086】
いま、注目画素抽出手段4により注目画素を抽出し、図2(e)に示すような画像P5が得られているものとする。画像P5は3次元の情報を含んでいるから、図2(e)のようなz軸方向の視点ではなく、図10に示すようにy軸方向の視点からも見ることが可能である。図10によれば、物体の周縁部において抽出した注目画素の距離値は、尾を引いたような分布になっていることがわかる。この現象は、上述のように、物体の周縁部での揺らぎにより生じると考えられる。このように、物体の距離値に対して異常値となる距離値が生じていると、密度計測手段5においてブロックBに関する密度を計測する際に密度を正確に計測できず、結果的に、対象物か否かの判別を正確に行うことができなくなる可能性がある。
【0087】
そこで、物体の周縁部に生じる異常値を持つ画素を注目画素として採用しないために、以下の処理を採用することが望ましい。以下の処理は有効ブロック抽出手段6において行うが、密度計測手段5において行うことも可能である。
【0088】
上述した距離値の異常値が発生している状態を簡略化すれば、図11に示すように、距離画像センサ1から変調光を投光する方向において、物体Obの周縁部に異常値の分布領域A1が生じていると言える。したがって、異常値の分布領域A1は、図12(a)のようにy軸方向の視点だけではなく、図12(b)のようにx軸方向の視点においても存在する。
【0089】
このような知見から、密度が対象閾値以上であるブロックBとして抽出された有効ブロックB0に含まれる画素について、xz平面の上での度数を求める。図13に示すように、正常値についてはxz平面上の度数が大きく、異常値についてはxz平面上の度数が少なくなる。したがって、xz平面上で適宜の区間(たとえば、数cm四方ごとの区間)を設定して度数分布を求め、度数が規定の雑音閾値Thより小さい座標値については、異常値として採用しないようにする。言い換えると、xz平面での度数が雑音閾値Th以上となる画素のみを物体に対応する注目画素として採用する。
【0090】
この処理を行うことにより、図12(a)(b)に示す例では、図12(c)のように、異常値の分布領域A1が除去されることになる。上述の例では、距離画像センサ1により床面上の対象物までの距離を斜め上方から計測するから、xz平面上での度数を求めているが、距離画像センサ1と対象物との位置関係によっては、xy平面上の度数を求めてもよい。すなわち、仮想空間の座標平面のうち距離画像センサ1の視野領域の中心線に交差する座標平面の上で度数を求めればよい。
【0091】
上述のようにして、度数が雑音閾値Thより小さくなる座標値を持つ画素は注目画素として採用しないことにより、画素値が異常値となる画素(を含む有効ブロックB0)を対象物の判別からは除去することができる。その結果、対象物を判別する精度が高くなる。
【0092】
上述の動作では、背景取得手段2が背景距離画像を取得するタイミングについてとくに言及していないが、視野領域内に配置される物品が変化した場合には、背景距離画像も更新する必要がある。背景距離画像の更新を自動化するために、対象物判別手段8において対象物が検出されない状態が所定の更新時間に達すると、距離画像センサ1で得られている新たな距離画像を背景距離画像として背景取得手段2に記憶させるのが望ましい。
【0093】
新たな背景距離画像は、対象物が存在しないと推定される時刻に更新するのが望ましいから、対象物が検出されない状態が更新時間に達した後に、夜間などの定時に更新すればよい。あるいはまた、更新時間に達した時点の距離画像を新たな背景距離画像に用いてもよい。
【0094】
さらに、上述の動作では、対象物の移動について考慮していないから、距離画像センサ1が距離画像を生成する時間間隔を比較的大きくすることができる(視野領域内を対象物が通過する時間よりは短く設定する必要がある)。たとえば、視野領域内に物体が侵入したことを別のセンサで検出した後に、距離画像センサ1により対象物を確認する目的で使用することも可能である。
【0095】
一方、視野領域を通過する対象物を検出しようとする場合には、距離画像センサ1により距離画像の動画像を生成する必要がある。つまり、比較的短い時間間隔(たとえば、10分の1秒以下)で距離画像を生成し、各距離画像から対象物判別手段8において対象物の有無を判別することが必要になる。この場合、対象物判別手段8が対象物を検出した後は、対象物判別手段8で対象物と判断されたグループを対象物追跡手段9に引き渡す。対象物追跡手段9では、距離画像センサ1の視野領域内において対象物が検出されている間に、グループの代表点の位置を対象物として追跡する。すなわち、時系列において隣接する距離画像を用いて、対象物の位置を追跡する。グループの代表点としては、重心位置あるいは上端位置を用いればよい。
【0096】
対象物追跡手段9を設けることにより、移動する対象物の位置を追跡することができるから、視野領域内への侵入者を対象物として、侵入者の行動を追跡する用途などに用いることが可能である。
【0097】
上述した構成例では、注目画素抽出手段4において、極座標系の距離画像である背景距離画像と距離画像センサ1により生成した極座標系の距離画像との差分画像から注目画素を抽出している。また、抽出した注目画素を、密度計測手段5において3次元の仮想空間にマッピングしている。一方、対象物が人である場合には、床面の上方の空間領域において対象物の有無を判別すればよく、床面付近の情報は不要である。
【0098】
そこで、注目画素抽出手段4において、図14に示すように、床面などの基準面PL0から所定の高さ位置(床面の上方)に閾値面PL1を規定しておき、閾値面PL1よりも上方に存在する画素のみ対象物Obの候補となる注目画素として抽出するのが望ましい。この場合には、距離画像センサ1により生成した極座標系の距離画像を直交座標系の仮想空間にマッピングした上で、注目画素を抽出することになる。
【0099】
なお、距離画像センサ1により生成した極座標系の距離画像を直交座標系の仮想空間にマッピングした後に、基準面から所定の高さ位置に設定した閾値面よりも上方に存在する画素を注目画素として抽出する構成を採用してもよい。この場合、背景距離画像を用いることなく、対象物の候補である注目画素を抽出することが可能になり、しかも、抽出された注目画素は、仮想空間にマッピングされているから、そのまま密度を評価することが可能である。ただし、この手順を採用すると、床上に置かれている物体についても対象物の候補として抽出されることになるから、対象物以外の情報を別途に除去することが必要である。
【符号の説明】
【0100】
1 距離画像センサ
2 背景取得手段
3 差分画像生成手段
4 注目画素抽出手段
5 密度計測手段
6 有効ブロック抽出手段
7 領域統合手段
8 対象物判別手段
81 特徴抽出手段
82 サイズ判別手段
83 クラスタリング手段
9 対象物追跡手段
B ブロック
B0 有効ブロック
B1,B2 有効ブロック
G グループ
G1,G2 グループ
Ob 対象物
P1 背景距離画像
P2 距離画像
P3 距離差分画像
P4 二値画像
P5 画像
【技術分野】
【0001】
本発明は、距離画像センサを用いて対象物を検出する対象物検出装置に関するものである。
【背景技術】
【0002】
従来から、距離画像を用いて対象物を検出する技術が提案されている。たとえば、特許文献1には、ステレオ画像処理により生成した距離画像を用いて自動車の前方に存在する物体を検出する技術が記載されている。
【0003】
特許文献1には、距離画像上に複数の区分を設定し、各区分ごとに距離値のヒストグラムを生成するとともに、出現頻度が閾値以上になる距離値を、当該区分を代表する距離値として求めることが記載されている。さらに、区分と距離とからなる処理空間において各区分における距離の代表値が占める位置が隣接している場合に同一物体とみなしてグループ化している。
【0004】
特許文献1に記載の技術では、処理空間におけるグループ化を行うことにより、距離の異なる物体を、異なるグループとして分離することを可能にしている。
【先行技術文献】
【特許文献】
【0005】
【特許文献1】特開2008−64628号公報
【発明の概要】
【発明が解決しようとする課題】
【0006】
ところで、特許文献1に記載の技術を採用すれば、距離画像内に占める領域が隣接した複数の物体であっても、距離差に基づくグループ化を行うことにより、分離することが可能である。しかも、グループ化を行うことにより、距離画像の画素をそのまま扱う場合よりも処理負荷を低減することができる可能性がある。
【0007】
しかしながら、グループ化の際には物体の形状に関する情報がほとんど失われてしまうから、物体の種類を識別することができないという問題がある。すなわち、距離画像を用いて物体を認識する用途では、特許文献1に記載の技術を採用することができない。
【0008】
本発明は上記事由に鑑みて為されたものであり、その目的は、距離画像において対象物か否かを判断する情報を残しながらも情報量を低減させることを可能にし、距離画像を用いた対象物の検出における処理負荷を従来よりも低減することができる対象物検出装置を提供することにある。
【課題を解決するための手段】
【0009】
本発明は、上記目的を達成するために、視野領域について画素値が距離である距離画像を生成するアクティブ型の距離画像センサと、視野領域に対象物が存在しない状態において距離画像センサにより生成した距離画像を背景距離画像として記憶する背景取得手段と、視野領域を監視する状態において距離画像センサにより生成した距離画像と背景取得手段に記憶されている背景距離画像との差分画像である距離差分画像を生成する差分画像生成手段と、距離画像センサにより生成した距離画像に含まれる画素のうち、差分画像生成手段により生成した距離差分画像における画素値が規定の存在閾値以上である画素を注目画素として抽出する注目画素抽出手段と、注目画素抽出手段により抽出した注目画素を3次元の仮想空間にマッピングし当該仮想空間内に規定した単位体積のブロックごとに注目画素の個数を密度として求める密度計測手段と、密度計測手段により求めた密度が規定の対象閾値以上であるブロックを有効ブロックとして抽出する有効ブロック抽出手段と、有効ブロック抽出手段で抽出した有効ブロックについて隣接している有効ブロックを統合してグループを形成する領域統合手段と、領域統合手段により形成したグループに対して対象物に関する知識を用いることにより対象物か否かを判別する対象物判別手段とを備えることを特徴とする。
【0010】
有効ブロック抽出手段は、ブロックまでの距離が大きいほど対象閾値を小さく設定することが望ましい。
【0011】
この場合、有効ブロック抽出手段は、規定の基準距離における対象閾値を基準対象閾値とし、基準距離に対するブロックまでの距離の比の2乗分の1を基準対象閾値に乗じた値を対象閾値に用いることが望ましい。
【0012】
対象物判別手段は、領域統合手段により形成したグループからサイズを特徴として抽出する特徴抽出手段と、特徴量抽出手段が抽出したサイズが規定の適正範囲内であることを知識に用いて当該グループが対象物か否かを判別するサイズ判別手段とを備えることが望ましい。
【0013】
また、対象物判別手段は、特徴抽出手段によりグループの特徴として抽出したサイズが規定の前記適正範囲の上限を超える場合に、当該グループを形成する有効ブロックのクラスタリングを行うことにより、当該グループを複数のグループに分割するクラスタリング手段を備え、クラスタリング手段による分割後のグループについてサイズ判別手段による判別を行うことが望ましい。
【0014】
有効ブロック抽出手段は、仮想空間を規定する直交座標系の座標平面のうち、距離画像センサの視野領域の中心線と交差する座標平面の上で、有効ブロックに含まれる画素の度数分布を求め、度数が規定した雑音閾値より小さくなる座標値を持つ画素を注目画素として採用しないことが望ましい。
【0015】
距離画像センサの視野領域における中心線は斜め下向きに設定されており、密度計測手段は、注目画素を仮想空間にマッピングする際に、距離画像センサの視野領域における中心線の俯角に応じた補正を行う構成を採用することができる。
【0016】
注目画素抽出手段は、距離画像センサの視野領域内において所定の高さ位置に規定した閾値面よりも上方に位置する画素を注目画素として抽出する構成を採用してもよい。
【0017】
背景取得手段は、対象物判別手段において対象物が検出されない状態が所定の更新時間に達すると、新たに生成された背景距離画像に更新するようにしてもよい。
【0018】
距離画像センサは距離画像による動画像を生成する機能を有し、対象物判別手段が対象物を検出すると、時系列において隣接する距離画像を用いることにより、視野領域内における当該対象物を追跡する対象物追跡手段を備える構成を採用してもよい。
【発明の効果】
【0019】
本発明の構成によれば、距離画像において対象物の候補となる画素を複数個ずつ含むブロックとして扱うことにより、対象物か否かを判断する情報を残しながらも情報量を低減させることが可能になり、距離画像を用いた対象物の検出における処理負荷を従来よりも低減することができる。
【図面の簡単な説明】
【0020】
【図1】実施形態を示すブロック図である。
【図2】同上における画像の例を示す図である。
【図3】同上におけるブロックの説明図である。
【図4】同上の処理手順を示す図である。
【図5】同上においてクラスタリングが必要になる例を示す図である。
【図6】同上においてクラスタリングが必要になる例を示す図である。
【図7】同上においてクラスタリング前の有効ブロックの例を示す図である。
【図8】同上におけるクラスタリングの手順を示す図である。
【図9】同上におけるクラスタリングの処理手順を示す図である。
【図10】同上における異常値の発生例を示す図である。
【図11】同上における異常値の発生例の概略図である。
【図12】同上における異常値の発生例と除去例とを示す概略図である。
【図13】同上における異常値を検出する動作の説明図である。
【図14】同上における閾値面の設定例を示す図である。
【図15】同上に用いる距離画像センサの構成例を示すブロック図である。
【図16】図15に示した構成の動作説明図である。
【図17】同上における座標変換の概念説明図である。
【図18】同上におけるアフィン変換の概念説明図である。
【発明を実施するための形態】
【0021】
(基本構成)
以下に説明する実施形態で用いる物体検知装置は、画像を構成する画素の値が距離値である距離画像を用いて対象物の存否・移動などを検出する構成を採用している。距離画像を生成する距離画像センサは、視野領域に赤外線のような光を投光するとともに、視野領域に存在する物体(人を含む)での反射光を受光することにより、視野領域に存在する物体までの距離を計測するアクティブ型の構成を有する。
【0022】
アクティブ型の距離画像センサには、投光から受光までの時間を計測する技術のほか、三角測量法の原理を用いる技術などがあり、それぞれの技術において、さらに多種類の技術が知られている。以下に説明する実施形態では、これらの技術のいずれでも用いることが可能であるが、投光から受光までの時間差に相当する情報を用いることにより、物体までの距離を検出する飛行時間法(Time Of Flight)の原理を用いた例により説明を行う。
【0023】
実施形態において用いる距離画像センサは、時間経過に伴って強度が変化する変調光を発光源から出射し、物体で反射され受光素子で受光された変調光と投光した変調光との位相差を、投光から受光までの時間差に相当する情報として用いる。
【0024】
変調光の変調波形としては、正弦波、三角波、鋸歯状波、方形波などを用いることができる。正弦波、三角波、鋸歯状波を用いる場合には変調光の周期を一定周期とする。また、方形波を用いる場合には変調光の周期を一定周期とするほか、オン期間(発光源の投光期間)とオフ期間(発光源の非投光期間)との比率を乱数的に変化させる技術を採用することも可能である。変調波形としてどの波形を用いるかにかかわらず、1周期(方形波の場合はオン期間とオフ期間とを1回ずつ含む期間)で投光と受光との位相差を求めるのではなく、多数周期の平均値(あるいは積算値)から位相差を求める。
【0025】
受光素子には、複数個の受光部(光電変換部)が2次元に配列された撮像素子を用いる。撮像素子は、CCDイメージセンサやCMOSイメージセンサとして提供されている濃淡画像を撮像するための周知構成のものを用いることができるが、距離画像センサに適する構造を有するように専用に設計された撮像素子を用いることが望ましい。
【0026】
後者の撮像素子は、基本的な構造については、濃淡画像を撮像する周知構成の撮像素子と類似している。ただし、受光部の単位で受光感度を制御する機能を備える。受光部の単位で受光感度を制御するのは、変調光を受光するタイミングを制御することによって投光と受光との位相差を含む情報を検出するためである。この撮像素子は、各受光部で生成された電荷を変調光の変調周期の整数倍の期間に亘って蓄積する蓄積領域を有する。さらに、受光部で生成した電荷のうち変調光ではない環境光ないし周囲光の成分を低減させる機能を設ける場合もある。
【0027】
以下では、距離画像センサの一構成例として下記構成を想定して説明するが、この構成は本発明を限定する趣旨ではなく、変調光の変調波形、撮像素子の構成、撮像素子の制御などに関して、アクティブ型の周知の種々の距離画像センサに提供された構成を用いることができる。
【0028】
以下の説明で用いる距離画像センサ1は、図15に示すように、光(近赤外線を用いるのが望ましい)を出射する発光源11と、視野領域を撮像する撮像素子12とを備える。図示例では、撮像素子12として受光部を2次元配列したエリアイメージセンサを想定している。
【0029】
発光源11には、発光ダイオードやレーザダイオードのように入力の瞬時値に比例した光出力が得られる発光素子を用いる。また、発光源11から出射する光量を確保するために、発光源11は適数個の発光素子を用いて構成される。発光源11から出射された変調光は投光光学系13を通して投光される。また、撮像素子12は、受光光学系14を通して視野領域からの光を受光する。投光光学系13と受光光学系14とは、投受光の方向を平行にし互いに近接して配置してある。すなわち、投光光学系13と受光光学系14との距離は視野領域に対して実質的に無視することができるものとする。
【0030】
距離画像センサ1には、発光源11を駆動するための変調信号を出力する変調信号生成部15と、変調信号生成部15から出力された変調信号に基づいて撮像素子12での受光タイミングを規定する受光タイミング信号を生成するタイミング制御部16と、撮像素子12から出力された受光信号を用いて視野領域に存在する物体Obまでの距離を求める演算処理部17とが設けられる。
【0031】
変調信号生成部15は、出力電圧が一定周波数(たとえば、20MHz)の正弦波形で変化する変調信号を生成し、変調信号を発光源11に与えることにより、図16(a)(b)のように光出力が正弦波状に変化する変調光が発光源11から出射される。発光源11として発光ダイオードを用いる場合には、電流制限抵抗を介して発光ダイオードに変調信号の信号電圧を印加することにより、発光ダイオードの通電電流を変化させ変調光を出射させる。
【0032】
一方、撮像素子12は、電子シャッタの技術を用いることにより、受光タイミング信号に同期する期間にのみ受光強度に応じた電荷を生成することが可能になっている。また、受光部で生成された電荷は、変調信号の複数周期(たとえば、10000周期)に相当する蓄積期間に亘って蓄積された後、撮像素子12の外部に受光出力として取り出される。
【0033】
すなわち、受光タイミング信号に同期するタイミングで電荷を生成する動作と生成された電荷を蓄積する動作とを、蓄積期間である変調信号の複数周期において繰り返し行う。したがって、蓄積期間において生成された電荷は積算されることになり、積算された電荷が受光出力として取り出される。変調信号の1周期分の電荷では、生成される電荷量が少ない上に、環境光や内部ノイズの影響により電荷量にばらつきが生じやすいが、蓄積期間において電荷を蓄積することによって、この種の原因による電荷量のばらつきが抑制される。
【0034】
タイミング制御部16では、変調信号に同期する受光タイミング信号を生成する。ここでは、変調信号の1周期における異なる4位相を規定し、各位相ごとに一定時間幅の受光期間を設定する4種類の受光タイミング信号を生成する。蓄積期間ごとに4種類の受光タイミング信号のうちの各1種類の受光タイミング信号を撮像素子12に与えることにより、受光タイミング信号で設定した位相に対応する期間に受光した電荷が蓄積される。
【0035】
すなわち、1種類の受光タイミング信号で規定した受光期間において受光部ごとに生成した電荷を1回の蓄積期間において蓄積し、蓄積後の電荷を受光出力として撮像素子12の外部に取り出す処理を4回繰り返し、4回の蓄積期間で4種類の受光タイミング信号に対応する受光出力を撮像素子12の外部に取り出す。
【0036】
いま、図16(c)のように、受光タイミング信号を変調信号の1周期において90度ずつ異なる位相で規定しているものとする。この場合、各受光タイミング信号に対応する受光出力(電荷量)を、それぞれA0,A1,A2,A3とするときに、位相差ψ〔rad〕は下式で表される。
ψ=(A0−A2)/(A1−A3)
変調信号の周波数をf〔Hz〕とすれば、投光から受光までの時間差Δtは位相差ψを用いて、Δt=ψ/2π・fと表されるから、光速をc〔m/s〕とすると、物体までの距離は、c・ψ/4π・fと表すことができる。
【0037】
すなわち、4種類の受光出力(電荷量)A0〜A3により物体までの距離を求めることができる。なお、受光期間の時間幅は、受光部において適正な受光量が得られるように、適宜に設定することができる(たとえば、変調信号の4分の1周期に相当する時間幅とすることができる)。ただし、各受光期間の時間幅は互いに等しくすることが必要である。
【0038】
演算処理部17では、受光出力(電荷量)A0〜A3に基づいて位相差ψを求め、距離に換算する上述の処理のほか、以下の実施形態において説明する処理も行うことができる。演算処理部17はコンピュータ(マイコン)を用いて構成され、上述した処理はコンピュータでプログラムを実行することにより実現される。また、演算処理部17だけではなく、発光源11および撮像素子12を除く構成は、コンピュータを用いて実現される。
【0039】
なお、上述の動作例では、4種類の受光タイミング信号を用いているが、3種類の受光タイミング信号でも位相差ψを求めることができ、環境光ないし周囲光が存在しない環境下では、2種類の受光タイミング信号でも位相差ψを求めることが可能である。
【0040】
また、上述の動作では、4種類の受光出力(電荷量)A0〜A3を撮像素子12から取り出すために4回の蓄積期間が必要であるが、2個の受光部を用いて変調信号の1周期で2種類の受光タイミング信号に対応する電荷を生成することも可能である。この構成では、撮像素子12から2種類の受光タイミング信号に対応した受光出力を1回で読み出すことが可能になる。同様に、4個の受光部を用いて変調信号の1周期で4種類の受光タイミング信号に対応する電荷を生成すれば、4種類の受光タイミング信号に対応する受光出力を1回で読み出すことが可能になる。
【0041】
上述した距離画像センサ1は、視野領域からの光を受光するための受光素子として複数個の受光部が2次元配列された撮像素子を用いているから、各受光部での受光量に基づいて距離値を求めることにより距離画像が生成されることになる。上述のように1個の受光部を4種類の受光タイミングに対応付けている場合には、1個の受光部が距離画像の1画素に対応する。ただし、2種類の受光タイミング信号に対応付けて2個の受光部を用いる場合は2個の受光部が1画素に対応し、4種類の受光タイミング信号に対応付けて4個の受光部を用いる場合は4個の受光部が1画素に対応する。
【0042】
上述のようにして、撮像素子の受光面が距離画像センサ1の視野領域を投影した仮想の投影面として規定され、当該投影面上に2次元配列された複数個の受光部が距離画像の画素に対応付けられる。したがって、受光部の位置が距離画像の画素の位置に対応する。生成された距離画像はコンピュータのメモリに格納される。
【0043】
上述した距離画像センサ1では、発光源11から視野領域に投光し、1個の撮像素子12により視野領域を撮像するから、視野領域は、距離画像センサ1を頂点として距離画像センサ1から離れるほど広がることになる。
【0044】
たとえば、投光光学系13および受光光学系14が光軸の周りに等方的に形成されているときには、視野領域は距離画像センサ1を頂点とする角錐状になる。また、投光光学系13として外周が楕円形となるレンズやシリンドリカルレンズのように非等方的に形成されたレンズを用いるときには、視野領域は距離画像センサ1を頂点とする扇形状などに形成されることになる。さらに、発光源11を複数個設けるとともに、投光光学系13も2個以上設け、投光光学系13ごとに投光方向を異ならせる構成を採用することもできる。
【0045】
以下の説明では、視野領域が距離画像センサ1を頂点とする角錐状に形成されている場合を想定する。したがって、上述した仮想の投影面に配列された画素の位置は、距離画像センサ1から視野領域を見込む方向に対応することになり、各画素の画素値は当該方向に存在する物体までの距離を表すことになる。距離画像の各画素の位置を2次元の直交座標系の座標値(つまり、画素位置の水平方向と垂直方向との位置)で表せば、この座標位置は、物体を見込む方位角および俯角・仰角に対応する。言い換えると、距離画像の各画素の持つ情報は、物体の位置を極座標で表した情報と等価である。したがって、以下では、距離画像センサ1から出力される距離画像を極座標系の距離画像と呼ぶ。
【0046】
上述した極座標系の距離画像は、距離画像センサ1からの距離の情報が必要であるときには利便性が高いが、視野領域である実空間の各位置との対応関係がわかりにくく、実空間に存在する物体を基準にした領域を指定するには不便である。そこで、極座標系の距離画像の各画素を、実空間に対応付けた3次元の仮想空間にマッピングするために画像変換部8を設けている。仮想空間には、実空間と対応するように直交座標系の座標軸が設定される。
【0047】
いま、視野領域の上方に距離画像センサ1を配置するとともに、距離画像センサ1の視野領域における中心線を斜め下向きに設定している場合を想定する。また、実空間における床面を仮想空間の下側面に対応付けているものとする。仮想空間に設定する直交座標系の座標軸は、距離画像センサ1の視野領域における中心線を床面に投影することにより形成される直線の延長方向をz軸の正の向きと規定し、距離画像センサ1から鉛直下向きをy軸の正の向きとする。また、右手系の直交座標系を採用するものとし、yz平面に対して原点から右向きをx軸の正の向きとする。また、原点の位置は、距離画像センサ1に設けた撮像素子12の中心の画素から視野領域を見込む視線(つまり、視野領域の中心線)上であって床面から所定の高さ位置に設定する。
【0048】
画像変換部8では、極座標の距離画像から3次元の直交座標系である仮想空間への座標変換を、以下の手順で行う。まず、距離画像センサ1に設けた撮像素子12の受光面が仮想空間のいずれかの座標軸に直交する平面と平行であるものとして極座標系の距離画像から直交座標系への座標変換を行う。その後、求めた直交座標系にアフィン変換を施すことにより、仮想空間の座標軸に対する距離画像センサ1の視野領域の中心線の傾きを修正する座標変換を行う。
【0049】
いま、撮像素子12の受光面上での画素の座標位置を(u,v)で表し、座標位置(u,v)の画素の画素値(つまり、物体までの距離値)をrとする。また、実空間の直交座標系における座標位置を(X,Y,Z)で表す。すなわち、図17に示すように、視野領域に原点Oおよび座標系XYZを規定し、視野領域における座標位置(X,Y,Z)を、撮像素子12の受光面上の画素の座標位置(u,v)および距離値rに対応付ける。ここに、画素の座標位置の単位は〔pixel〕である。
【0050】
まず、u軸方向とX軸方向とは平行であるものとし、v軸方向とY軸方向は平行であるものとする。すなわち、距離画像センサ1の視野領域の中心線がZ軸に一致しているものとする。この状態では、X軸を仮想空間のx軸に一致させれば、Y軸は仮想空間のy軸に対してx軸の周りに回転していることになる。
【0051】
直交座標系XYZの原点は視野領域の中心線上に位置するものとし、まず、距離画像における基準位置を撮像素子12の受光面上での中心画素(uc,vc)からの距離で表すための変換を行う。
u1=su(u−uc)
v1=sv(v−vc)
ただし、su,sv〔m/pixel〕は撮像素子12の画素サイズである。ここで、レンズの歪みを考慮して座標位置(u1,v1)に対して次式の補正を行う。
u2=a・u1
v2=a・v1
ただし、a=1/{1+κ(u12+v12)}、κはレンズ歪パラメータ〔1/m2〕である。補正した座標位置(u2,v2)を用いると、直交座標系XYZの座標位置は、次式で表される。
X=u2・r/b
Y=v2・r/b
Z=fr/b
ただし、b=(u22+v22+f2)1/2、f〔m〕は受光光学系14の焦点距離である。
【0052】
ところで、距離画像センサ1は、視野領域を見下ろすように配置されているから、仮想空間の直交座標系に対応付けるには、直交座標系XYZから、さらに、仮想空間に規定した上述の直交座標系xyzへのアフィン変換を行う必要がある。つまり、上述のようにして極座標系の距離画像から直交座標系XYZへの変換を行うことにより求めた座標位置(X,Y、Z)は、図18(a)のように、距離画像センサ1の前方をZ軸に設定している。これに対して、仮想空間の直交座標系xyzは、図18(b)のように、直交座標系XYZに対してX軸の周りに回転している。したがって、の座標位置(X,Y,Z)を回転させることにより、仮想空間に規定した直交座標系xyzの座標位置(x,y,z)への座標変換がなされる。
【0053】
いま、距離画像センサ1の視野領域の中心線(上述のZ軸)が仮想空間に規定したyz平面に含まれ、かつz軸に対してy軸の正の方向に角度θだけ回転しているものとする。また、X軸は仮想空間のx軸に一致しているものとする。言い換えると、距離画像センサ1の俯角がθに設定されていることになる。
【0054】
この場合、Z軸をz軸に一致させるように、直交座標系XYZを角度θだけX軸の周りに回転させるアフィン変換を行えば、直交座標系XYZから直交座標系xyzへの座標変換を行うことができる。つまり、次式のように、yz平面内でのアフィン変換を行う。
x=X
y=Y・cosθ−Z・sinθ
z=Y・sinθ+Z・cosθ
上述の手順で極座標系の距離画像から直交座標系への座標変換を行い、さらにアフィン変換を行うことにより、視野領域を斜め下向きに設定して求めた極座標系の距離画像の情報を、仮想空間に規定した直交座標系の座標位置に対応付けることができる。なお、アフィン変換を行うために用いる俯角θは、撮像素子12の受光面が鉛直面に対してなす角度であるから、俯角θは距離画像センサ1を設置した後に手入力により与える。また、距離画像センサ1の重力方向に対する角度を検出するジャイロセンサを設けることにより、俯角θを自動的に求めることが可能である。
【0055】
以上のようにして、極座標系の距離画像を仮想空間に規定した直交座標系の座標位置(x,y,z)にマッピングすることができる。以下に説明する実施形態では、距離画像センサ1により生成された極座標系の距離画像から、直交座標系で表される3次元の仮想空間にマッピングする技術を前提として対象物を検出する技術を説明する。
【0056】
(実施形態)
以下、本実施形態の構成については、図1を参照して説明する。また、図1に示す各構成で生成される画像については、図2を参照して説明する。
【0057】
また、本実施形態では、距離画像センサ1の視野領域における対象物として人を検出することを想定する。また、距離画像センサ1の視野領域における人の検出に際しては、極座標系の距離画像から直交座標系で表される3次元の仮想空間へのマッピングを行う。
【0058】
距離画像センサ1では、視野領域において人が存在しない状態における距離画像(極座標系)としての背景距離画像P1(図2(a))をあらかじめ生成しておき、背景距離画像P1を背景取得手段2に記憶させる。
【0059】
距離画像センサ1の視野領域における対象物の有無を検出するには、まず、差分画像生成手段3において、距離画像センサ1により生成した極座標系の距離画像P2(図2(b))と背景取得手段2に記憶されている背景距離画像P1との差分画像を生成する。以下では、この差分画像を距離差分画像P3(図2(c))と呼ぶ。距離差分画像P3では、背景距離画像P1との変化が生じた画素にのみ比較的大きい値が得られる。
【0060】
差分画像生成手段3により生成された距離差分画像は注目画素抽出手段4に与えられ、注目画素抽出手段4では、距離差分画像P3を適宜に規定の存在閾値により二値化する。存在閾値により距離差分画像P3を二値化すると、図2(d)のような二値画像P4が得られる。この二値画像P4に含まれる画素を距離画像P2から抽出すると、図2(e)のように距離画像P2から注目画素を抽出した画像P5が得られる。すなわち、注目画素抽出手段4は、距離画像P2に含まれる画素のうち、距離差分画像P3における画素値が規定の存在閾値以上である画素を注目画素として抽出する。
【0061】
存在閾値は、検出の目的とする対象物が視野領域に存在する場合に、対象物に対応する画素が注目画素となるように検出する必要があるから、比較的小さい値に設定される。ただし、存在閾値が小さすぎると、距離画像P2内の揺らぎによって発生した雑音成分が注目画素に含まれる可能性があるから、雑音成分を除去できる程度の大きさに設定する。実際には、存在閾値を数十cm程度で設定しておけば、雑音成分を除去しつつ対象物に対応した注目画素を抽出することができる。
【0062】
注目画素抽出手段4により極座標系の距離画像から抽出された注目画素は、密度計測手段5において、3次元の仮想空間にマッピングされる。また、密度計測手段5は、この仮想空間内に規定した単位体積のブロックごとに注目画素の個数を密度として求める。図3(b)に示すように、ブロックBは、単位体積の立方体として設定される。密度計測手段5は、このブロックBに含まれる注目画素Pxの個数を密度として計測する。
【0063】
ここに、仮想空間について、基本構成として説明したように、距離画像センサ1から鉛直下向きをy軸方向とし、距離画像センサ1の視野領域の中心線を床面上に投影した直線の延長方向をz軸方向とする。y軸の正の向きを下向き、z軸の正の向きを距離画像センサ1から遠ざかる向きとし、右手系の直交座標系を採用すると、距離画像センサ1から視野領域を見込むときに、水平方向の右向きがx軸の正の向きになる。ブロックBとなる立方体の各辺は、x軸方向、y軸方向、z軸方向に平行になるように設定する。
【0064】
密度計測手段5により求められる密度は、対象物の表面において大きくなることが予想されるから、密度が規定の対象閾値以上であるブロックBを対象物の候補である有効ブロックとして抽出する有効ブロック抽出手段6を設けてある。
【0065】
ところで、基本構成において説明したように、距離画像センサ1を頂点とする角錐状に設定され、図3(a)に示すように、距離画像センサ1から離れるほど視野領域VFに含まれる空間領域の範囲が広くなる。したがって、図3(b)に示しているように、対象物が同じ場合であっても、距離画像センサ1からの距離(図示例ではZ軸方向の距離で示している)が大きくなるほど、ブロックBに含まれる注目画素の個数が減少する。言い換えると、視野領域における位置によらず対象閾値を一定に設定していると、ブロックBは、距離画像センサ1からの距離が小さいと有効ブロックと判断される確率が高く、距離が大きくなるほど有効ブロックと判断される確率が低下する。
【0066】
ブロックBまでの距離に応じて有効ブロックと判断される確率が変化するのを防止するために、有効ブロック抽出手段6では、ブロックBまでの距離が大きいほど対象閾値を小さく設定することが望ましい。具体的には、ブロックBの密度は、距離の2乗に反比例する。したがって、有効ブロック抽出手段6では、規定の基準距離(適宜に設定する)における対象閾値を基準対象閾値とし、基準距離に対するブロックBまでの距離の比の2乗分の1を基準対象閾値に乗じた値を対象閾値に用いることが望ましい。なお、距離と対象閾値との関係は、他の基準で規定してもよい。
【0067】
上述のようにして有効ブロック抽出手段6で抽出された有効ブロックは、領域統合手段7に与えられ、領域統合手段7では、有効ブロックが隣接している場合には、同じ対象物に属する有効ブロックであるとみなして有効ブロックを統合する。つまり、隣接した有効ブロックを統合することにより、有効ブロックのグループを形成する。この処理は、2次元の画像におけるラベリングの処理に相当する。
【0068】
領域統合手段7は、基本的には、2個の有効ブロックにおいて単位体積の立方体のいずれか1面が共有されている場合に、両有効ブロックを隣接する有効ブロックと判断する。ただし、2個の有効ブロックにおいて単位体積の立方体のいずれか1個の頂点が共有されている場合も、隣接する有効ブロックに含めるようにしてもよい。
【0069】
領域統合手段7により有効ブロックを統合した結果の画像を、z軸方向、x軸方向、y軸方向にそれぞれ投影した結果の一例を、図2(f)(g)(h)に示す。第三角法の投影図で言えば、図2(f)は正面図、図2(g)は右側面図、図2(h)は平面図に相当する。
【0070】
領域統合手段7により統合された有効ブロックのグループに対しては、対象物判別手段8において、対象物に関する知識を適用することにより対象物か否かの判断を行う。対象物か否かを判別する知識としては、対象物のサイズを用いるのが簡単かつ有効である。また、対象物に関する知識としては、グループの形状、グループの重心の位置、グループの慣性主軸の方向などを用いることも可能である。ただし、グループの構成単位は、ブロックBであるから、形状の細部の情報は失われているから形状のみで判断することは難しく、また、重心の位置や慣性主軸の方向なども単独で判断に用いことは難しい。これらの情報は、他の知識と組み合わせて補助的に用いると、判断結果の信頼性を高めることができる。
【0071】
以下では、対象物判別手段8がグループのサイズを特徴に用いることによって対象物か否かを判断する例を説明する。グループのサイズは、図2(f)(g)(h)のように、仮想空間の座標軸のうちのいずれかの方向にグループを投影した図形に対する外接矩形Rを設定し、外接矩形Rの辺の長さをサイズとして求めればよい。
【0072】
図2(f)のようにz軸方向に投影した場合は、外接矩形Rの横辺の寸法が幅寸法W、縦辺の寸法が高さ寸法Hになる。また、図2(g)のようにx軸方向に投影した場合は、外接矩形Rの横辺の寸法が奥行き寸法D、縦辺の寸法が高さ寸法Hになる。図2(h)のようにy軸方向に投影した場合は、外接矩形Rの横辺の寸法が幅寸法W、縦辺の寸法が奥行き寸法Dになる。
【0073】
本実施形態では、対象物の幅寸法Wと高さ寸法Hと奥行き寸法Dとのすべてを用いて対象物か否かを判断する。したがって、対象物判別手段8は、グループをすべての座標軸の方向にそれぞれ投影して外接矩形Rを設定することにより、幅寸法Wと高さ寸法Hと奥行き寸法Dとを求める特徴抽出手段81を備える。また、対象物判別手段8は、特徴抽出手段81で求めたグループの幅寸法Wと高さ寸法Hと奥行き寸法Dとに関してそれぞれ適正範囲を設定するとともに、すべてが適正範囲であるときに当該グループを対象物として判別するサイズ判別手段82を備えている。
【0074】
以上の動作をまとめると、図4のようになる。すなわち、背景距離画像P1をあらかじめ記憶させておき(S1)、距離画像センサ1で距離画像P2を生成し(S2)、背景距離画像P1と距離画像P2との差分画像を距離差分画像P3として生成する(S3)。さらに、距離差分画像P3において存在閾値以上である画素を、距離画像P2から注目画素として抽出する(S4)。その後、注目画素について極座標系の距離画像の各画素を3次元の直交座標系にマッピングする座標変換を行い(S5)、各ブロックBの密度を評価して有効ブロックを抽出する(S6)。さらに、隣接する有効ブロックを統合し(S7)、特徴抽出手段81によりサイズを抽出する(S8)。その後、サイズ判別手段82では、サイズが適正範囲か否かを判断するのである(S9)。図4に示す例では、ステップS10として、対象物を追跡する処理を記載しているが、この処理については後述する。
【0075】
ところで、対象物判別手段8において対象物の特徴としてサイズを用いるときには、複数人が重なっているときに、幅寸法あるいは奥行き寸法が適正範囲を逸脱し、対象物ではないと判断される可能性がある。
【0076】
たとえば、図5あるいは図6に示すように、対象物である人Mが、距離画像センサ1の視野領域内に2人存在し、図5のようにx軸方向に並んでいる場合や、図6のようにz軸方向に並んでいる場合には、有効ブロックによるグループを形成したときに、1つのグループとみなされる可能性がある。これらの場合は、グループから抽出した特徴量として、幅寸法Wと高さ寸法Hと奥行き寸法Dとの3種類の情報を用いている場合に、いずれかの情報については適正範囲を逸脱することになる。つまり、グループが対象物と判別されないことになる。
【0077】
このような誤判断を防止するために、対象物判別手段8には、特徴抽出手段81によりグループの特徴として抽出したサイズが適正範囲の上限を超える場合に当該グループを形成する有効ブロックのクラスタリングを行うクラスタリング手段83を設けている。以下では、クラスタリング手段83によるクラスタリングの手順について説明する。
【0078】
ここでは、図5の例のように、対象物である人Mがx軸方向に並んでいる場合を例示する。この場合、各対象物に対応するグループG1,G2として分離されるべき有効ブロックB0の間に隙間がなく、図7のように有効ブロックB0が連続したひとかたまりのグループGになる。そこで、サイズ判別手段82において、幅寸法が、適正範囲の上限を逸脱していると判断した場合(実際には、1人分の幅寸法よりも大きく、かつ2人分の幅寸法よりも小さく設定した上限閾値を超えていると判断した場合)、クラスタリング手段83を起動する。
【0079】
クラスタリング手段83では、サイズ判別手段82から引き渡されたグループGが2分割できるものとして、以下に説明するクラスタリングの処理を行う。
【0080】
クラスタリングの処理では、図8(a)に示すように、まずグループG内の適宜の2個の有効ブロックB1,B2に着目し、両有効ブロックB1,B2と、グループG内の各有効ブロックB0との距離をそれぞれ求める。着目する有効ブロックB1,B2は、分離されるグループG1,G2にそれぞれ設定することが望ましい。したがって、着目する有効ブロックB1,B2は、サイズ判別手段82において適正範囲の上限を逸脱した方向(この例では、x軸方向)について比較的遠く離れるように設定する。つまり、有効ブロックB1はグループG1に属し、有効ブロックB2はグループG2に属するとみなす。
【0081】
図8(b)のように、グループGの各有効ブロックB0は、着目した有効ブロックB1,B2のうち距離d1,d2が近いほうの有効ブロックB1,B2と同じグループG1,G2に属すると判断する。つまり、有効ブロックB0についてd1<d2であれば、有効ブロックB0は、有効ブロックB1と同じグループG1に属すると判断する。
【0082】
グループGのすべての有効ブロックB0について、着目する有効ブロックB1,B2との距離を求めると、グループGのすべての有効ブロックB0は、2つのグループG1,G2に分かれるから、各グループG1,G2ごとに重心の座標位置を求める。次に、求めた重心の座標位置を含むブロックを新たな有効ブロックB1,B2に用いて、上述の処理を繰り返す。図8(c)のように、分割後のグループG1,G2の重心の座標位置を含む有効ブロックB1,B2の位置が変化しなくなると、重心位置が収束したと判断し、上述の処理を終了する。
【0083】
上述の手順で得られた2つのグループG1,G2を、それぞれ対象物の候補とみなし、対象物判別手段8は、各グループG1,G2について、それぞれ、あらためて特徴抽出手段81およびサイズ判別手段82により対象物か否かの判別を行う。
【0084】
クラスタリング手段83を含む対象物判別手段8の処理を図9に示す。図示例では、まずサイズ判別手段82によるサイズの判定を行っている(S11)。ここで、サイズが適正範囲であれば(S12:N)、グループの分割は不要である。一方、サイズが適正範囲の上限を超えている場合は(S12:Y)、各グループG1,G2の仮の重心位置として適宜の位置に有効ブロックB1,B2を設定する(S13)。設定した有効ブロックB1,B2と、グループG内の各有効ブロックB0との距離を求め(S14)、仮の重心位置とした有効ブロックB1,B2との距離の大小に応じてグループG1,G2の分離を行う(S15)。グループG1,G2に分離した後に、各グループG1,G2の重心位置を求め(S16)、求めた重心位置が収束するまで(S17)、上述の処理を繰り返す。
【0085】
ところで、本実施形態の距離画像センサ1は、強度が変化する変調光を投光し、変調光を生成する変調信号の複数の位相における受光強度に基づいて物体までの距離を求めている。また、誤差を低減するために、変調光の多数周期に亘る期間において蓄積した電荷に基づいて距離を求めている。したがって、距離を求めるのに必要な電荷が得られるまでの時間内で物体が移動した場合には距離を正確に求めることができないことがある。距離を求めるのに必要な電荷を蓄積する時間は短時間であるから、物体の多くの部位については距離を計測することが可能である。しかしながら、物体の位置が固定されていない場合には、物体の周縁部の位置に揺らぎが生じ、距離を正確に求めることができない可能性がある。
【0086】
いま、注目画素抽出手段4により注目画素を抽出し、図2(e)に示すような画像P5が得られているものとする。画像P5は3次元の情報を含んでいるから、図2(e)のようなz軸方向の視点ではなく、図10に示すようにy軸方向の視点からも見ることが可能である。図10によれば、物体の周縁部において抽出した注目画素の距離値は、尾を引いたような分布になっていることがわかる。この現象は、上述のように、物体の周縁部での揺らぎにより生じると考えられる。このように、物体の距離値に対して異常値となる距離値が生じていると、密度計測手段5においてブロックBに関する密度を計測する際に密度を正確に計測できず、結果的に、対象物か否かの判別を正確に行うことができなくなる可能性がある。
【0087】
そこで、物体の周縁部に生じる異常値を持つ画素を注目画素として採用しないために、以下の処理を採用することが望ましい。以下の処理は有効ブロック抽出手段6において行うが、密度計測手段5において行うことも可能である。
【0088】
上述した距離値の異常値が発生している状態を簡略化すれば、図11に示すように、距離画像センサ1から変調光を投光する方向において、物体Obの周縁部に異常値の分布領域A1が生じていると言える。したがって、異常値の分布領域A1は、図12(a)のようにy軸方向の視点だけではなく、図12(b)のようにx軸方向の視点においても存在する。
【0089】
このような知見から、密度が対象閾値以上であるブロックBとして抽出された有効ブロックB0に含まれる画素について、xz平面の上での度数を求める。図13に示すように、正常値についてはxz平面上の度数が大きく、異常値についてはxz平面上の度数が少なくなる。したがって、xz平面上で適宜の区間(たとえば、数cm四方ごとの区間)を設定して度数分布を求め、度数が規定の雑音閾値Thより小さい座標値については、異常値として採用しないようにする。言い換えると、xz平面での度数が雑音閾値Th以上となる画素のみを物体に対応する注目画素として採用する。
【0090】
この処理を行うことにより、図12(a)(b)に示す例では、図12(c)のように、異常値の分布領域A1が除去されることになる。上述の例では、距離画像センサ1により床面上の対象物までの距離を斜め上方から計測するから、xz平面上での度数を求めているが、距離画像センサ1と対象物との位置関係によっては、xy平面上の度数を求めてもよい。すなわち、仮想空間の座標平面のうち距離画像センサ1の視野領域の中心線に交差する座標平面の上で度数を求めればよい。
【0091】
上述のようにして、度数が雑音閾値Thより小さくなる座標値を持つ画素は注目画素として採用しないことにより、画素値が異常値となる画素(を含む有効ブロックB0)を対象物の判別からは除去することができる。その結果、対象物を判別する精度が高くなる。
【0092】
上述の動作では、背景取得手段2が背景距離画像を取得するタイミングについてとくに言及していないが、視野領域内に配置される物品が変化した場合には、背景距離画像も更新する必要がある。背景距離画像の更新を自動化するために、対象物判別手段8において対象物が検出されない状態が所定の更新時間に達すると、距離画像センサ1で得られている新たな距離画像を背景距離画像として背景取得手段2に記憶させるのが望ましい。
【0093】
新たな背景距離画像は、対象物が存在しないと推定される時刻に更新するのが望ましいから、対象物が検出されない状態が更新時間に達した後に、夜間などの定時に更新すればよい。あるいはまた、更新時間に達した時点の距離画像を新たな背景距離画像に用いてもよい。
【0094】
さらに、上述の動作では、対象物の移動について考慮していないから、距離画像センサ1が距離画像を生成する時間間隔を比較的大きくすることができる(視野領域内を対象物が通過する時間よりは短く設定する必要がある)。たとえば、視野領域内に物体が侵入したことを別のセンサで検出した後に、距離画像センサ1により対象物を確認する目的で使用することも可能である。
【0095】
一方、視野領域を通過する対象物を検出しようとする場合には、距離画像センサ1により距離画像の動画像を生成する必要がある。つまり、比較的短い時間間隔(たとえば、10分の1秒以下)で距離画像を生成し、各距離画像から対象物判別手段8において対象物の有無を判別することが必要になる。この場合、対象物判別手段8が対象物を検出した後は、対象物判別手段8で対象物と判断されたグループを対象物追跡手段9に引き渡す。対象物追跡手段9では、距離画像センサ1の視野領域内において対象物が検出されている間に、グループの代表点の位置を対象物として追跡する。すなわち、時系列において隣接する距離画像を用いて、対象物の位置を追跡する。グループの代表点としては、重心位置あるいは上端位置を用いればよい。
【0096】
対象物追跡手段9を設けることにより、移動する対象物の位置を追跡することができるから、視野領域内への侵入者を対象物として、侵入者の行動を追跡する用途などに用いることが可能である。
【0097】
上述した構成例では、注目画素抽出手段4において、極座標系の距離画像である背景距離画像と距離画像センサ1により生成した極座標系の距離画像との差分画像から注目画素を抽出している。また、抽出した注目画素を、密度計測手段5において3次元の仮想空間にマッピングしている。一方、対象物が人である場合には、床面の上方の空間領域において対象物の有無を判別すればよく、床面付近の情報は不要である。
【0098】
そこで、注目画素抽出手段4において、図14に示すように、床面などの基準面PL0から所定の高さ位置(床面の上方)に閾値面PL1を規定しておき、閾値面PL1よりも上方に存在する画素のみ対象物Obの候補となる注目画素として抽出するのが望ましい。この場合には、距離画像センサ1により生成した極座標系の距離画像を直交座標系の仮想空間にマッピングした上で、注目画素を抽出することになる。
【0099】
なお、距離画像センサ1により生成した極座標系の距離画像を直交座標系の仮想空間にマッピングした後に、基準面から所定の高さ位置に設定した閾値面よりも上方に存在する画素を注目画素として抽出する構成を採用してもよい。この場合、背景距離画像を用いることなく、対象物の候補である注目画素を抽出することが可能になり、しかも、抽出された注目画素は、仮想空間にマッピングされているから、そのまま密度を評価することが可能である。ただし、この手順を採用すると、床上に置かれている物体についても対象物の候補として抽出されることになるから、対象物以外の情報を別途に除去することが必要である。
【符号の説明】
【0100】
1 距離画像センサ
2 背景取得手段
3 差分画像生成手段
4 注目画素抽出手段
5 密度計測手段
6 有効ブロック抽出手段
7 領域統合手段
8 対象物判別手段
81 特徴抽出手段
82 サイズ判別手段
83 クラスタリング手段
9 対象物追跡手段
B ブロック
B0 有効ブロック
B1,B2 有効ブロック
G グループ
G1,G2 グループ
Ob 対象物
P1 背景距離画像
P2 距離画像
P3 距離差分画像
P4 二値画像
P5 画像
【特許請求の範囲】
【請求項1】
視野領域について画素値が距離である距離画像を生成するアクティブ型の距離画像センサと、視野領域に対象物が存在しない状態において前記距離画像センサにより生成した距離画像を背景距離画像として記憶する背景取得手段と、視野領域を監視する状態において前記距離画像センサにより生成した距離画像と前記背景取得手段に記憶されている背景距離画像との差分画像である距離差分画像を生成する差分画像生成手段と、前記距離画像センサにより生成した距離画像に含まれる画素のうち、前記差分画像生成手段により生成した距離差分画像における画素値が規定の存在閾値以上である画素を注目画素として抽出する注目画素抽出手段と、前記注目画素抽出手段により抽出した注目画素を3次元の仮想空間にマッピングし当該仮想空間内に規定した単位体積のブロックごとに注目画素の個数を密度として求める密度計測手段と、前記密度計測手段により求めた密度が規定の対象閾値以上であるブロックを有効ブロックとして抽出する有効ブロック抽出手段と、前記有効ブロック抽出手段で抽出した有効ブロックについて隣接している有効ブロックを統合してグループを形成する領域統合手段と、前記領域統合手段により形成したグループに対して対象物に関する知識を用いることにより対象物か否かを判別する対象物判別手段とを備えることを特徴とする対象物検出装置。
【請求項2】
前記有効ブロック抽出手段は、ブロックまでの距離が大きいほど対象閾値を小さく設定していることを特徴とする請求項1記載の対象物検出装置。
【請求項3】
前記有効ブロック抽出手段は、規定の基準距離における対象閾値を基準対象閾値とし、基準距離に対する前記ブロックまでの距離の比の2乗分の1を基準対象閾値に乗じた値を前記対象閾値に用いることを特徴とする請求項2記載の対象物検出装置。
【請求項4】
前記対象物判別手段は、前記領域統合手段により形成したグループからサイズを特徴として抽出する特徴抽出手段と、前記特徴量抽出手段が抽出したサイズが規定の適正範囲内であることを知識に用いて当該グループが対象物か否かを判別するサイズ判別手段とを備えることを特徴とする請求項1〜3のいずれか1項に記載の対象物検出装置。
【請求項5】
前記対象物判別手段は、前記特徴抽出手段によりグループの特徴として抽出したサイズが前記適正範囲の上限を超える場合に、当該グループを形成する有効ブロックのクラスタリングを行うことにより、当該グループを複数のグループに分割するクラスタリング手段を備え、前記クラスタリング手段による分割後のグループについて前記サイズ判別手段による判別を行うことを特徴とする請求項4記載の対象物検出装置。
【請求項6】
前記有効ブロック抽出手段は、前記仮想空間を規定する直交座標系の座標平面のうち、前記距離画像センサの視野領域の中心線と交差する座標平面の上で、前記有効ブロックに含まれる画素の度数分布を求め、度数が規定した雑音閾値より小さくなる座標値を持つ画素を注目画素として採用しないことを特徴とする請求項1〜5のいずれか1項に記載の対象物検出装置。
【請求項7】
前記距離画像センサの視野領域における中心線は斜め下向きに設定されており、前記密度計測手段は、前記注目画素を前記仮想空間にマッピングする際に、前記距離画像センサの視野領域における中心線の俯角に応じた補正を行うことを特徴とする請求項1〜6のいずれか1項に記載の対象物検出装置。
【請求項8】
前記注目画素抽出手段は、前記距離画像センサの視野領域内において所定の高さ位置に規定した閾値面よりも上方に位置する画素を注目画素として抽出することを特徴とする請求項1〜7のいずれか1項に記載の対象物検出装置。
【請求項9】
前記背景取得手段は、前記対象物判別手段において対象物が検出されない状態が所定の更新時間に達すると、新たに生成された背景距離画像に更新することを特徴とする請求項1〜8のいずれか1項に記載の対象物検出装置。
【請求項10】
前記距離画像センサは距離画像による動画像を生成する機能を有し、前記対象物判別手段が前記対象物を検出すると、時系列において隣接する距離画像を用いることにより、視野領域内における当該対象物を追跡する対象物追跡手段を備えることを特徴とする請求項1〜9のいずれか1項に記載の対象物検出装置。
【請求項1】
視野領域について画素値が距離である距離画像を生成するアクティブ型の距離画像センサと、視野領域に対象物が存在しない状態において前記距離画像センサにより生成した距離画像を背景距離画像として記憶する背景取得手段と、視野領域を監視する状態において前記距離画像センサにより生成した距離画像と前記背景取得手段に記憶されている背景距離画像との差分画像である距離差分画像を生成する差分画像生成手段と、前記距離画像センサにより生成した距離画像に含まれる画素のうち、前記差分画像生成手段により生成した距離差分画像における画素値が規定の存在閾値以上である画素を注目画素として抽出する注目画素抽出手段と、前記注目画素抽出手段により抽出した注目画素を3次元の仮想空間にマッピングし当該仮想空間内に規定した単位体積のブロックごとに注目画素の個数を密度として求める密度計測手段と、前記密度計測手段により求めた密度が規定の対象閾値以上であるブロックを有効ブロックとして抽出する有効ブロック抽出手段と、前記有効ブロック抽出手段で抽出した有効ブロックについて隣接している有効ブロックを統合してグループを形成する領域統合手段と、前記領域統合手段により形成したグループに対して対象物に関する知識を用いることにより対象物か否かを判別する対象物判別手段とを備えることを特徴とする対象物検出装置。
【請求項2】
前記有効ブロック抽出手段は、ブロックまでの距離が大きいほど対象閾値を小さく設定していることを特徴とする請求項1記載の対象物検出装置。
【請求項3】
前記有効ブロック抽出手段は、規定の基準距離における対象閾値を基準対象閾値とし、基準距離に対する前記ブロックまでの距離の比の2乗分の1を基準対象閾値に乗じた値を前記対象閾値に用いることを特徴とする請求項2記載の対象物検出装置。
【請求項4】
前記対象物判別手段は、前記領域統合手段により形成したグループからサイズを特徴として抽出する特徴抽出手段と、前記特徴量抽出手段が抽出したサイズが規定の適正範囲内であることを知識に用いて当該グループが対象物か否かを判別するサイズ判別手段とを備えることを特徴とする請求項1〜3のいずれか1項に記載の対象物検出装置。
【請求項5】
前記対象物判別手段は、前記特徴抽出手段によりグループの特徴として抽出したサイズが前記適正範囲の上限を超える場合に、当該グループを形成する有効ブロックのクラスタリングを行うことにより、当該グループを複数のグループに分割するクラスタリング手段を備え、前記クラスタリング手段による分割後のグループについて前記サイズ判別手段による判別を行うことを特徴とする請求項4記載の対象物検出装置。
【請求項6】
前記有効ブロック抽出手段は、前記仮想空間を規定する直交座標系の座標平面のうち、前記距離画像センサの視野領域の中心線と交差する座標平面の上で、前記有効ブロックに含まれる画素の度数分布を求め、度数が規定した雑音閾値より小さくなる座標値を持つ画素を注目画素として採用しないことを特徴とする請求項1〜5のいずれか1項に記載の対象物検出装置。
【請求項7】
前記距離画像センサの視野領域における中心線は斜め下向きに設定されており、前記密度計測手段は、前記注目画素を前記仮想空間にマッピングする際に、前記距離画像センサの視野領域における中心線の俯角に応じた補正を行うことを特徴とする請求項1〜6のいずれか1項に記載の対象物検出装置。
【請求項8】
前記注目画素抽出手段は、前記距離画像センサの視野領域内において所定の高さ位置に規定した閾値面よりも上方に位置する画素を注目画素として抽出することを特徴とする請求項1〜7のいずれか1項に記載の対象物検出装置。
【請求項9】
前記背景取得手段は、前記対象物判別手段において対象物が検出されない状態が所定の更新時間に達すると、新たに生成された背景距離画像に更新することを特徴とする請求項1〜8のいずれか1項に記載の対象物検出装置。
【請求項10】
前記距離画像センサは距離画像による動画像を生成する機能を有し、前記対象物判別手段が前記対象物を検出すると、時系列において隣接する距離画像を用いることにより、視野領域内における当該対象物を追跡する対象物追跡手段を備えることを特徴とする請求項1〜9のいずれか1項に記載の対象物検出装置。
【図1】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【図18】
【図2】
【図10】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【図18】
【図2】
【図10】
【公開番号】特開2011−185664(P2011−185664A)
【公開日】平成23年9月22日(2011.9.22)
【国際特許分類】
【出願番号】特願2010−49429(P2010−49429)
【出願日】平成22年3月5日(2010.3.5)
【出願人】(000005832)パナソニック電工株式会社 (17,916)
【Fターム(参考)】
【公開日】平成23年9月22日(2011.9.22)
【国際特許分類】
【出願日】平成22年3月5日(2010.3.5)
【出願人】(000005832)パナソニック電工株式会社 (17,916)
【Fターム(参考)】
[ Back to top ]