対象領域抽出装置
【課題】 距離情報データに含まれるノイズを除去等する。
【解決手段】 対象領域抽出手段B10は、センサB02から得られる輝度情報データに基づいて、所定以上の輝度の存在する隣接画素数がしきい値以下の部分を削除するための輝度情報マスクを生成する。輝度情報マスクを距離情報データに重ね合わせ、輝度情報マスクに重複する領域の距離情報データだけを抽出する。
【解決手段】 対象領域抽出手段B10は、センサB02から得られる輝度情報データに基づいて、所定以上の輝度の存在する隣接画素数がしきい値以下の部分を削除するための輝度情報マスクを生成する。輝度情報マスクを距離情報データに重ね合わせ、輝度情報マスクに重複する領域の距離情報データだけを抽出する。
【発明の詳細な説明】
【技術分野】
【0001】
この発明は、センサから得られるマトリクス状の距離情報データに対して、または当該距離情報データを用いて、所定の処理を行う技術に関する。
【背景技術】
【0002】
(A)近年、テレビゲームなどの入力手段として、距離センサが用いられている。ここで、マトリックス状の各画素に対する距離情報を同時に得ることが可能な距離センサは、特に、距離画像センサと呼ばれている。距離画像センサにより距離情報データを測定する仕組みについて、図31を用いて説明する。
【0003】
図31に示す距離画像センサの本体前面に配置された複数の投光LEDから、特定方向に照射された赤外線が、対象物で反射して受光レンズに到達する。その時間差に基づいて、対象物までの距離が算出される(光波測距(Time of Flight)の原理)。
【0004】
距離画像センサから得られる距離情報データを可視化した画像例、および計測距離と実際の距離との関係を、図32に示す。図32に示すように、距離画像センサでは、計測可能距離L1を超える部分が、計測可能距離L1よりも短い距離として認識されるという問題があった。例えば、図32に示すように計測可能距離L1が20mのときに、これを超える21m(または41m)の距離に存在する対象物を、例えば、1mの距離にあると誤認識してしまう可能性がある。また、無限遠を特定の距離領域として認識してしまうという問題があった(図32)。所定時間内に必要なフレーム数が大きいほど、検出するための時間間隔は小さくなるためと考えられる。
【0005】
(B)また、従来から、オクルージョンによる複数人の重なりを判定する方法が存在する。オクルージョンとは、手前にある物体が背後にある物体を隠す状態になることをいう。
【0006】
(C)従来から、センサ(距離画像センサなど)を用いて特定した領域が何であるかといった属性を判別する方法が存在する。
【0007】
(D)従来から、センサ(距離画像センサなど)を用いて特定した対象物を追跡する方法が存在する。
【先行技術文献】
【特許文献】
【0008】
【特許文献1】特開2009−168751号公報
【特許文献2】特開2006−64695号公報
【特許文献3】特開H10−276351号公報
【発明の概要】
【発明が解決しようとする課題】
【0009】
(A)図32に示す距離画像センサの性能上の問題から、ノイズを除去する処理が必要となる。特許文献1の技術では、床面部分が障害物として誤判定されないように、距離画像データに輝度画像を用いてマスク処理をしているが、床面で反射した光が距離画像センサに戻ってこない(距離情報が得られない)部分について床面であることを判断するものに過ぎなかった(距離情報が得られる部分について適用するものではない)。
【0010】
(B)特許文献2には、上方から下方に向けられた距離画像センサを用いて複数人の重なりを判別することが開示されているが、距離画像センサを上方に配置するのが困難な場合には用いることができず、距離画像センサを水平方向に向けて配置する場合に適用することができなかった。
【0011】
(C)特許文献2には、対象物の平行投影画像を生成した上で、平行投影画像から対象物の部分(輪郭)のデータ(サンプリング・データ)を抽出し、基準データ(人の基準部位の面積及び比についての値又は値の範囲)に基づいて、サンプリングデータに対応する物理対象が人であるか否かを判別することが開示されているが、処理が複雑であった。
【0012】
(D)特許文献3には、目標特徴情報に基づいて対象物の追跡処理を行うことが開示されているが、目標特徴情報が存在しない場合には用いることができなかった。
【課題を解決するための手段】
【0013】
(1)この発明の対象領域抽出装置は、
画素単位で対象物までの距離を測定した距離情報データおよび画素単位で輝度を測定した輝度情報データを得ることが可能なセンサと、
前記距離情報データにおける所定の対象領域を抽出するための対象領域抽出手段と、
を備えた対象領域抽出装置であって、
前記対象領域抽出手段は、
前記輝度情報データに基づいて、所定以上の輝度の存在する隣接画素数がしきい値以下の部分を削除した輝度情報マスクを生成し、
当該輝度情報マスクを距離情報データに重ね合わせて、重複する領域の距離情報データだけを抽出すること、
を特徴とする。
【0014】
これにより、センサから得られる距離画像データに含まれるノイズや、無限遠の部分などを、効果的に削除することが可能である。
【0015】
(3)この発明の対象領域抽出装置は、
前記対象領域抽出手段が、
距離情報データに基づいて所定距離範囲毎に輝度情報データを分割し、輝度の存在する画素数がしきい値以下の部分を削除した後、これらを合成して輝度情報マスクを生成すること、
を特徴とする。
【0016】
これにより、センサから得られる距離画像データに含まれるノイズや、無限遠の部分などを、より効果的に削除することが可能である。
【0017】
(4)この発明の対象領域抽出装置は、
前記輝度情報データに基づいて、輝度の存在する画素数がしきい値以下の部分を削除した後、輝度情報データに対して、膨張処理および収縮処理を順に行って輝度情報マスクを生成すること、
を特徴とする。
【0018】
これにより、センサから得られる距離画像データに含まれるノイズや、無限遠の部分などを、さらに効果的に削除することが可能である。
【0019】
(5)この発明の対象領域解析装置は、
画素単位で対象物までの距離を測定した距離情報データを得ることが可能なセンサと、
前記距離情報データにおける所定の対象領域を抽出するための対象領域抽出手段と、
抽出した対象領域の解析するための対象領域解析手段と、
を備えた対象領域解析装置であって、
前記対象領域解析手段は、
前記距離情報データに含まれる所定の対象領域に関する距離ヒストグラムを生成し、
所定基準に基づいて距離ヒストグラムに含まれる特定極大値の数を算出すること、
を特徴とする。
【0020】
これにより、オクルージョンによる複数人の重なりが生じていることを容易に判別することが可能である。
【0021】
(7)この発明の対象領域解析装置は、
前記対象領域解析手段が、
2つ以上の特定極大値が存在する場合には、さらに、特定極大値の間に特定極小値が存在するか否かを判断し、
特定極小値が存在する場合には、距離ヒストグラムの当該特定極小値の位置で距離情報データを各領域に分割すること、
を特徴とする。
【0022】
これにより、オクルージョンによる複数人の重なりが生じていることを容易に判別して、距離画像データを分割することが可能である。
【0023】
(8)この発明の対象領域解析装置は、
前記対象領域解析手段が、
距離ヒストグラムにおいて、画素数の増加率がしきい値以上であり、当該距離位置の画素数がしきい値以上の極大値のうち、最も大きいものを最初の特定極大値として決定し、
さらに、画素数が多い順に、既に決定された特定極大値から所定間隔以上に離れているか否かを判断し、所定間隔以上に離れている場合には、次の特定極大値として決定すること、
を特徴とする。
【0024】
これにより、オクルージョンによる複数人の重なりが生じていることを所定基準に基づいて判別して、距離画像データを分割することが可能である。
【0025】
(9)この発明の対象領域解析装置は、
前記対象領域解析手段が、
前記距離ヒストグラムを平滑化した後に、所定基準に基づいて距離ヒストグラムに含まれる特定極大値の数を算出すること、
を特徴とする。
【0026】
これにより、オクルージョンによる複数人の重なりが生じていることをより容易に判別することが可能である。
【0027】
(10)この発明の属性判定装置は、
画素単位で対象物までの距離を測定した距離情報データを得ることが可能なセンサと、
前記距離情報データにおける所定の対象領域を抽出するための対象領域抽出手段と、
抽出した対象領域の属性を判定するための属性判定手段と、
を備えた属性判定装置であって、
前記属性判定手段は、
対象領域に対応する距離情報データに基づいて、単位画素当たりの長さを算出し、
当該単位画素当たりの高さ方向および幅方向の長さから、前記対象領域の高さ、幅、面積、縦横比のうち少なくとも何れか1つを算出し、これを所定基準に適用して対象領域の属性を判定すること、
を特徴とする。
【0028】
これにより、対象領域の属性を容易に判定することが可能である。
【0029】
(12)この発明の属性判定装置は、さらに、
所定の属性でないと判断された対象領域を削除する対象領域削除手段、
を備えたことを特徴とする。
【0030】
これにより、対象領域の属性により、不要な対象領域を削除することが可能である。
【0031】
(13)この発明の対象領域追跡装置は、
撮像された画像から対象領域を抽出する対象領域抽出手段と、
前画像から抽出された対象領域を、次画像において所定規則に基づいて追跡する対象領域追跡手段と、
を備えた対象領域追跡装置であって、
前記対象領域追跡手段が次画像において追跡した対象領域の数が増加または減少しない時には、前記対象領域抽出手段は、撮像された当該次画像から再び対象領域を抽出しないで、さらに、次画像において所定規則に基づいて対象領域を追跡し、
前記対象領域追跡手段が次画像において追跡した対象領域の数が増加または減少した時に、前記対象領域抽出手段は、撮像された当該次画像から再び対象領域を抽出すること、
を特徴とする。
【0032】
これにより、対象領域の追跡処理を高速で行うことが可能である。
【0033】
(15)この発明の対象領域追跡装置は、
前記対象領域追跡手段の追跡対象となる対象領域の数が、予め設定されていること、
を特徴とする。
【0034】
これにより、予め人数が設定されるような場面において、対象領域の追跡を円滑に行うことが可能である。
【0035】
(17)この発明の対象領域追跡装置は、さらに、
対象領域の基準位置を距離情報データに基づいて算出し、仮想フィールド画像上の当該基準位置に、各対象領域に対応する表示を配置する表示配置手段、
を備えたことを特徴とする。
【0036】
これにより、仮想フィールド上におけるプレーヤーなどの位置関係を容易に把握することができる。
【0037】
(18)この発明のデータ処理装置は、
画素単位で対象物までの距離を測定した距離情報データを得ることが可能なセンサと、
前記センサから受けた距離情報データに対して所定の処理を行うデータ処理手段と、
を備えたデータ処理装置であって、
前記データ処理手段は、
前記距離情報データに含まれる所定領域に関する距離ヒストグラムを生成し、
算出した当該距離ヒストグラムの分散が所定のしきい値に含まれない領域を前記距離情報データから削除すること、
を特徴とする。
【0038】
これにより、センサから得られる距離画像データに含まれるノイズや、無限遠の部分などを、効果的に削除することが可能である。
【図面の簡単な説明】
【0039】
【図1】この発明の対象領域抽出装置100、対象領域解析装置200、属性判定装置300、対象領域追跡装置400、データ処理装置500の構成を示す図である。
【図2】この発明の対象領域抽出装置100のハードウェア構成を示す図である。
【図3】距離情報データのデータ例、およびそのデータ内容を可視化した画像を示す図である。
【図4】輝度情報データのデータ例、およびそのデータ内容を可視化した画像を示す図である。
【図5】輝度情報マスクを生成し、距離情報データをマスキングするまでの処理を示すフローチャートである。
【図6】図4に示す輝度情報データを2値化したデータを示す図である。
【図7】所定の距離範囲(100cm)ごとに分けた分割輝度情報データの可視化画像を示す図である。
【図8】画角の下端から所定高さ以下のデータを消去した可視化画像を示す図である。
【図9】膨張−収縮処理の方法を示す図である。
【図10】生成された輝度情報マスクの可視化画像を示す図である。
【図11】輝度情報マスクの白画素「1」に対応する対象領域の距離情報データだけを抽出したデータおよび可視化画像を示す図である。
【図12】対象領域のラベリング処理、ラベリングした対象領域に対する解析処理などを示すフローチャートである。
【図13】各対象領域に対してラベリング処理を行った可視化画像を示す図である。
【図14】図13に示すラベル1〜4の対象領域に対応する画素から生成した距離ヒストグラムの例を示す図である。
【図15】生成した各距離ヒストグラムに対して平滑化処理を行った状態を示す図である。
【図16】人物が重なった対象領域を分割した状態を示す可視化画像である。
【図17】所定の属性(例えば、人間)でないと判断された対象領域を削除する方法を示す図である。
【図18】ラベリングした対象領域の基準位置(重心)を算出した例を示す図である。
【図19a】対象領域の基準位置を仮想フィールド上の対応する位置に配置した状態を示す図である。
【図19b】仮想フィールド上にコートを併せて描画した状態を示す図である。
【図20】ステップS208に示す距離ヒストグラムの分割処理の詳細を示す図である。
【図21】距離ヒストグラムに含まれる極大値を示すグラフである。
【図22】特定極大値の決定方法を示す図である。
【図23】距離ヒストグラムを分割する位置を示す図である。
【図24】対象領域の大きさ推定および属性判定方法を示すフローチャートである。
【図25】対象領域の画素に対する単位ピクセル当たりの実際の長さΔxを算出する方法、および対象物の大きさを算出する方法を示す図である。
【図26】人物属性判定基準の例を示す図である。
【図27】対象領域を追跡する処理を示すフローチャートである。
【図28】距離ヒストグラムを用いた追跡の方法を示す図である。
【図29】画像差分による追跡の方法を示す図である。
【図30】距離ヒストグラムに基づく除去の方法を示す図である。
【図31】従来技術における距離画像センサの構造を示す図である。
【図32】従来技術における距離画像センサの問題点を示す図である。
【発明を実施するための形態】
【0040】
1.本発明に係る各装置について
図1に、対象領域抽出装置100、対象領域解析装置200、属性判定装置300、対象領域追跡装置400、データ処理装置500の構成を示す。なお、センサB02は、少なくとも画角内の各画素に対応したマトリクス状の距離情報(距離情報データ)を得ることが可能なセンサである。
【0041】
(a)図1に示すように、対象領域抽出装置100は、センサB02および対象領域抽出手段B10を備えている。対象領域抽出装置100のセンサB02からは、各画素の距離情報データだけでなく、当該距離情報データに対応づけられた各画素の輝度情報データも得ることができる。
【0042】
対象領域抽出手段B10(図1)は、センサB02から得られる輝度情報データに基づいて、センサの性能上の問題から生じるノイズを距離情報データから削除するための輝度情報マスクを生成する。この実施例では、所定輝度以上の画素がしきい値以上連続するかたまりの部分を、人や物体など(対象領域)として認識するようにしている。輝度情報マスクを距離情報データに重ね合わせ、輝度情報マスクに重複する領域の距離情報データだけを抽出することで、所定の対象領域のみの距離情報データが、対象領域抽出装置100により得られる。
【0043】
(b)図1に示すように、対象領域解析装置200は、センサB02、対象領域抽出手段B10、対象領域解析手段B12を備えている。
【0044】
対象領域解析手段B12(図1)は、所定の対象領域に関する距離ヒストグラムを生成し、所定基準に基づいてその距離ヒストグラムに含まれる特定極大値の数を算出する。この実施形態では、特定極大値の数に基づいて、複数人の重なりを判断するようにしている。対象領域解析装置200により、対象領域においてオクルージョンによる複数人の重なりが生じていることを容易に判別することができる。
【0045】
(c)図1に示すように、属性判定装置300は、センサB02、対象領域抽出手段B10、属性判定手段B14を備えている。
【0046】
属性判定手段B14(図1)は、距離情報データに基づいて算出した単位画素当たりの長さから、対象領域の高さ、幅、面積、縦横比などを算出し、これを所定基準に適用して対象領域の属性(例えば、人間であるか等)を判定する。属性判定装置300によって、例えば、人間ではあり得ない大きさの物体を削除したり、形状と大きさによりボールであると判断することができる。
【0047】
(d)図1に示すように、対象領域追跡装置400は、対象領域抽出手段B10、対象領域追跡手段B16を備えている。
【0048】
対象領域追跡手段B16(図1)は、前後のフレーム画像において、追跡する対象の数が変化したときにのみ、追跡対象(対象領域)の抽出を行い、追跡する対象の数が変化しないときには、追跡処理のみを行う。対象領域追跡装置400により、リアルタイムで追跡を行う場合の処理が簡素化される。
【0049】
(e)図1に示すように、データ処理装置500は、センサB02、データ処理手段B04を備えている。
【0050】
データ処理手段B04(図1)は、所定領域に関する距離ヒストグラムを生成し、算出した当該距離ヒストグラムの分散が所定のしきい値に含まれない領域を距離情報データから削除する。データ処理装置500により、距離情報データに含まれるノイズ等を容易に除去することができる。
【0051】
2.装置のハードウェア構成および距離画像センサ2の仕組み
図2に、この発明の対象領域抽出装置100(図1)のハードウェア構成を示す。なお、図1に示す画像解析装置200、属性判定装置300、対象領域追跡装置400、データ処理装置500も同様のハードウェア構成である。
【0052】
図2に示すように対象領域抽出装置100は、少なくとも距離情報データを取得することが可能な距離画像センサ2を接続したコンピュータ装置で実現することができ、距離画像センサ2の他に、CPU20、RAM22、ディスプレイ24、ハードディスク26、キーボード/マウス28などを備えている。
【0053】
図2に示すように、対象領域抽出装置100のハードディスク28には、対象領域抽出プログラム271が記憶されている(図1に示す画像解析装置200、属性判定装置300、対象領域追跡装置400、データ処理装置500の場合、ハードディスク28には、それぞれ画像解析プログラム272、属性判定処理プログラム273、対象領域追跡プログラム274、データ処理プログラム275が記憶される)。対象領域抽出プログラム271などは、CD−ROM等の記録媒体を介して記録媒体リーダー32からハードディスク16にインストールまたはコピーされる。
【0054】
図2に示す距離画像センサ2としては、例えば、パナソニック電工製の「D-IMager」(商標)を用いることができる。距離画像センサ2の性能は、例えば、画角が水平60°−垂直44°であり、応答速度が20フレーム/秒であり、測距画素数が水平:160ピクセル×垂直:120ピクセルである。また、同じ画素単位で距離画像センサ02から、距離情報データと併せて画像データ(各画素における輝度情報データ)を取得することもできる。
【0055】
図3に距離情報データのデータ例、およびそのデータ内容を可視化した画像を示す。図4に輝度情報データのデータ例、およびそのデータ内容を可視化した画像を示す。図3および図4に示すように、画素単位(例えば、160px×120px)で、マトリクス状の距離情報データおよび輝度情報データが距離画像センサ2から得られる。図4に示す輝度情報データは、例えば、256階調で記憶され、「0」が黒画素を示す。
【0056】
なお、距離画像センサ2の向きは、対象物に向けて水平方向が好ましく、少なくとも水平より上向きに設置するのがよい。地面での乱反射による距離画像データの出力誤差が大きいためである。
【0057】
3.輝度情報マスクの生成など(図1の対象領域抽出装置100)
図5に示すフローチャートを用いて、輝度情報マスクを生成し、距離情報データをマスキングするまでの処理について説明する。なお、対象領域抽出装置100のハードディスク26(図2)には、距離情報データ(図3)と輝度情報データ(図4)が予め記憶されている。
【0058】
まず、CPU20は、輝度情報データを所定のしきい値で2値化処理する(図5のステップS102)。例えば、輝度レベル「10」未満のデータを全て「0」に書き換え、輝度レベル「11」以上のデータを「1」に書き換える。図4に示す輝度情報データを2値化したデータを、図6に示す。
【0059】
さらに、CPU20は、ステップS102で2値化した輝度情報データを、所定の距離範囲ごとに分け、分割輝度情報データを生成する(図5のステップS104)。図7に、所定の距離範囲(100cm)ごとに分けた分割輝度情報データの可視化画像を示す。図3に示す距離情報データのうち、例えば、距離が300cm〜400cmの画素を全て選択し、これに対応する画素の輝度情報データを図4から読み出して、新たな輝度情報データとして分けて記憶すればよい。
【0060】
つぎに、CPU20は、各分割輝度情報データについて、輝度の存在する画素のうち隣接する画素群を構成する画素数(隣接画素数)をカウントし、当該隣接画素数がしきい値(例えば、50個)以下のデータを削除する(図5のステップS106)。例えば、図7に示す100cmごとに分けた分割輝度情報データのそれぞれについて、所定しきい値以上の輝度が存在するもの、すなわち、白画素「1」を検出して隣接する画素数をカウントする。なお、この実施形態では、上下方向に画素が隣接して存在する場合だけでなく、斜め方向にのみ画素が存在する場合も隣接する画素として取り扱うこととする。
【0061】
さらに、CPU20は、各分割輝度情報データについて、画角の下端から所定高さ以下のデータを消去する(図5のステップS108)。これにより、図8に示すように、距離情報データのうち、乱反射による測定誤差の大きい地面付近のデータ(例えば、下端から30px)が全て消去される。
【0062】
さらに、CPU20は、各分割輝度情報データを所定画素範囲で走査し、膨張処理および収縮処理を順に行う(図5のステップS110)。これにより、黒画素「0」のノイズ(雑音)が除去される。
【0063】
膨張−収縮処理の方法を、図9に示す。まず、膨張処理は次のようにして行う。注目画素を決定し、当該注目画素の周囲8つの元画素(上、右斜め上、右、右斜め下、下、左斜め下、左、左斜め上の画素)のいずれかに「1」があるかどうかを判断する。一つでも「1」があれば、当該注目画素を「1」に変更する。この処理を、注目画素を、一つずつ移動させながら全ての画素について行う。
【0064】
例えば、膨張処理により、走査範囲内に白画素「1」が含まれていれば、当該範囲が全て白画素「1」に書き換えられる。すなわち、白画素「1」の周り1画素が白く塗りつぶされる。
【0065】
収縮処理は、上記膨張処理とは逆に、注目画素の周囲8つの元画素のいずれかに「0」があれば、当該注目画素を「0」に変更する。収縮処理により、走査範囲内に黒画素「0」が含まれていれば、当該範囲を全て黒画素「0」に書き換えられる(黒く塗りつぶす)。
【0066】
このように、膨張−収縮の順で処理を行うことで、図9に示すように、白画素「1」の集まり内に存在する微少な黒画素「0」が削除され(膨張処理により白画素「1」で塗りつぶされた黒画素「0」は、収縮処理をしても元に戻らないため)、かつ、白画素「1」の集まりの輪郭が明確になる。
【0067】
膨張−収縮処理の後、CPU20は、各距離範囲の分割輝度情報データを全てを合成する(図5のステップS112)。この実施形態では、各距離範囲における同一画素のいずれかに「1」が一つでも含まれていれば、合成後の輝度二値を「1」とするようにしている。これにより、図10に示すような、輝度情報マスクが生成される。なお、ステップS112において、併せてラベリング処理(後述する)を行い、画素数の小さな部分を輝度情報マスクに含めないように除去する処理を行ってもよい。
【0068】
CPU20は、生成された輝度情報マスクを、距離情報に重ね合わせて距離情報データだけを抽出する。すなわち、輝度情報マスクの白画素「1」に対応する領域の距離情報データだけを抽出する(図5のステップS114)。これにより、無限遠を含む可能性がある黒画素「0」部分の距離情報データは全て残らず削除され、図11に示すように、輝度情報マスクの白画素「1」に対応する対象領域の距離情報データだけが抽出される。
【0069】
以上のように、距離情報データを輝度情報マスクでマスキングすることで、背景領域(無限遠や測定可能距離以上の距離にある物体の情報)を容易に削除することが可能である。なお、輝度情報データを距離範囲で分割し(図5のステップS104)、後で合成(図5のステップS112)することで、無限遠等を含む部分を有効に削除することができる。これら無限遠等の距離情報は、対象物と異なって、様々な距離に分散して現れるからである。なお、他の実施形態においては、輝度情報データを距離範囲で分割せず、輝度情報データから上記マスクを作成することもできる。
【0070】
上記のように、この実施例に係る対象領域抽出装置によれば、輝度情報データと組み合わせることで、処理対象とする対象領域の距離情報データだけを正確に抽出することができる。
【0071】
4.ラベリング、対象領域の解析など(図1の対象領域解析装置200および属性判定装置300による処理)
図12に示すフローチャートを用いて、対象領域のラベリング処理、ラベリングした対象領域に対する解析処理などについて説明する。
【0072】
CPU20は、まず、各対象領域に対してラベリング処理を行う(図12のステップS202)。例えば、上記処理によって生成した輝度情報マスクに基づき、つぎのようなラベリング処理を行う。
【0073】
具体的には、図13に示すように、隣接する画素群(白画素「1」の集まり)をグループ化し、各対象領域をラベル1、ラベル2、ラベル3、ラベル4、…とする。その際、領域サイズが小さいラベルは削除される。すなわち、ラベリングを行う最小の画素群数をしきい値として定めておき、しきい値より小さい画素群にはラベルを付与しないようにしている。
【0074】
基本的には、ここでのラベリング数が対象領域の数となる。ただし、例えば、人間が輝度情報データの画像上で重なっている場合には、複数人を誤って1つの対象領域と判断している可能性がある。そこで、以下に示す重なり判定を行う。
【0075】
つぎに、CPU20は、ラベリングした対象領域それぞれの距離情報データにつき、距離ヒストグラムを生成する(図12のステップS204)。図14に、図13に示すラベル1〜4の対象領域に対応する画素から生成した距離ヒストグラムの例を示す。
【0076】
さらに、CPU20は、図15に示すように、生成した各距離ヒストグラムに対して平滑化処理を行う(図12のステップS206)。なお、距離ヒストグラムは横軸に距離をとっているので、横軸の距離を時間と見立てることで、一般的に行われる高周波遮断フィルタによる平滑化処理を同様に適用することができる。
【0077】
さらに、CPU20は、オクルージョンによる複数人の重なりを容易に判定するために、平滑化処理をした距離ヒストグラムに対して、特定極大値が複数存在するか否か判断する。その結果、特定極大値が複数存在する場合には、対象領域が分割される(図12のステップS208)。なお、ステップS208の詳細は後述する。これにより、図16に示すように、人物が重なった対象領域であるラベル1を、ラベル1aとラベル1bとに分割することができる。
【0078】
さらに、CPU20は、各対象領域までの距離Lに基づいて、対象領域の高さ、長さ、面積などを算出して属性を判定し、所定の属性(例えば、人間)でないと判断された対象領域を削除する(図12のステップS210、図17)。なお、ステップS210の詳細は後述する。
【0079】
CPU20は、ラベリングした対象領域の重心(3次元または2次元の仮想フィールド上における座標に対応する基準位置)を算出する(図12のステップS212)。例えば、図18に示すように、各対象領域(ラベル1a、ラベル1b、ラベル2、ラベル3)の3次元座標上における重心が算出される。
【0080】
その結果、CPU20は、仮想フィールド上の対応する位置に、対象領域に関する表示を配置する(図12のステップS214)。例えば、図19aに示すように2次元または3次元フィールド上にドット表示が配置される。
【0081】
なお、図19aに示す表示に併せて、例えば、図19bに示すようにバスケットボールのコートを描画しても良い。コートを描画するためには、予めコートの位置だけを撮影画像から差分などにより抽出しておき(コートのみを描画したレイヤーを生成)、これを上記配置に重ね合わせるといった処理を行えばよい。
【0082】
4.1−特定極大値の算出方法−
図20に示すフローチャートを用いて、図12のステップS208に示す距離ヒストグラムの分割処理(すなわち、複数対象物の重なりの検出)の詳細について説明する。なお、以下に示す処理は、全ての対象領域に対して行われる。
【0083】
まず、図20のステップS206で平滑化した距離ヒストグラムについて、CPU20は、近い距離から遠い距離の方向に極大値の検出を開始する(図20のステップS2082)。画素数の増加率がしきい値以上であり(図20のステップS2084のYes)、かつ、当該距離位置の画素数がしきい値以上のものを極大値として抽出し記憶する(図20のステップS2086のYes、S20888)。例えば、図21にドット表示される画素数の増加率がしきい値を超える極大値のうち、画素数が8個以上の極大値(黒色のドットで示す)のみが抽出され、画素数が8個に満たない極大値(白色のドットで示す)は除外される。
【0084】
距離ヒストグラム全体について極大値の検出を終えると(図20のステップS20910のYes)、まず、これら極大値のうち、画素数が最大のものを最初の特定極大値として決定する(図20のステップS2092)。例えば、図22に示す黒ドット(1)が最初の特定極大値に決定される。
【0085】
さらに、画素数が多い順に、既に決定された特定極大値から所定間隔以上に離れているか否かを判断し、所定間隔以上に離れている場合には(図20のステップS2094のYes)、次の特定極大値として決定する(図20のステップS2096)。図22に示すように、例えば、2番目に画素数が多い極大値(2)は、既に決定された最初の特定極大値から30cm以上離れているので、特定極大値として決定される。これを極大値全てについて順に行い特定極大値を決定する。図22に示す例では、2つの特定極大値(1)(2)が抽出されている。
【0086】
2つ以上の特定極大値が存在する場合には、さらに、特定極大値の間に特定極小値が存在するか否かを判断する(図20のステップS2098)。特定極小値は、2つの特定極大値(1)(2)の間の最も小さい極小値を見いだし、当該極小値と小さい方の特定極大値(2)との個数差が所定以上(たとえば、特定極大値(2)の個数の2/3以上)であるかどうかによって決定する。特定極小値が存在する場合には(図20のステップS2098)、距離ヒストグラムの当該特定極小値の位置で距離情報データを各領域に分割する(図20のステップS2100)。例えば、図23の分割位置Xで距離ヒストグラムが分割される。
【0087】
以上のように、この実施形態では、特定極大値が複数個存在し、かつその間に特定極小値が存在する場合には、特定極大値の数だけ対象物が重なっていると判断する。
【0088】
特定極大値を用いたのは、対象物が画像上で重なっている場合、対象物同士の距離は異なるので、距離ヒストグラムにおけるピークが複数存在するはずだからである。また、特定極小値の存在を条件としたのは、特定極大値が2つ存在したとしても、その間の極小値が特定極大値に近い値であれば、一つの対象物である可能性が高いからである。
【0089】
なお、上記のようにして、対象物(ここでは、人間)の数を検出することができる。したがって、予め対象物の数が決まっているような場合には、この数を記録しておき、検出した対象数が、予め設定されている対象数と一致しないときには、設定された数に一致するまで、条件を変更(例えば、図20に示す処理において分割する基準(特定極大値の検出や特定極小値の決定条件など)を厳しくまたは緩和)して上記処理を繰り返しても良い。
【0090】
4.2−対象領域の大きさ推定および属性判定方法−
図24に示すフローチャートを用いて、図12のステップS210に示す処理の詳細を説明する。なお、以下に示す距離ヒストグラムに対する処理は、全ての対象領域(図20のステップS2100で分割された各対象領域を含む)に対して行われる。
【0091】
CPU20は、対象領域を構成する画素の距離情報データから対象領域までの距離Lを算出する(図24のステップS2102)。例えば、対象領域を構成する画素の距離情報の平均値から算出することができる。
【0092】
さらに、CPU20は、対象領域までの距離Lから対象領域の画素に対する単位ピクセル当たりの実際の長さΔxを算出する(図24のステップS2104)。図25Aに示すように、センサの水平画角が60°で、水平画素数が160pxのとき、単位ピクセル当たりの実際の長さΔx=Ltan30°/80(px)で得られる。なお、垂直方向については、センサの垂直画角が44°で、垂直画素数が120pxであるため、単位ピクセル当たりの実際の長さΔy=Ltan22°/60(px)で得られ、結果として同じ値になる。
【0093】
その後、対象領域の高さ方向の画素数n1、幅方向の画素数n2、対象領域の構成画素数n3を計数する(図24のステップS2108)。これを単位画素当たりの実際の長さΔxに乗算して、対象領域の高さ、幅、面積、縦横比のうち少なくとも何れか1つを算出する(図24のステップS2108)。
【0094】
さらに、算出した値を所定基準に適用して対象領域の属性を判定する(図24のステップS2110)。例えば、図25Bに示す対象物については、高さ方向の画素数n1=5、幅方向の画素数n2=4、対象領域の構成画素数n3=9である。よって、高さは5px、幅は4px、縦横比は4/5、面積は9px2で得られる。
【0095】
図26に、人間か否かの判断基準の具体例を示す。人間でないと判断された場合(図24のステップS2112のNo)、CPU20は、当該対象領域を消去する(図24のステップS2114)。
【0096】
5.対象領域の追跡処理(図1の対象領域追跡装置400による処理)
図27に示すフローチャートを用いて、対象領域を追跡する処理について説明する。なお、以下の追跡処理は、距離画像センサ2(図2)を用いて抽出される対象領域の追跡に限られず、一般のビデオカメラで撮影した画像から抽出される対象領域の追跡にも適用することが可能である。
【0097】
まず、最初のフレーム画像において、対象領域を特定する(図27のステップS302)。例えば、前述のような処理を用いて抽出されている場合は、当該領域を対象領域とする。ここで、追跡する対象領域の数が記憶される(図27のステップS304)。さらに、以下のように、前画像から抽出された対象領域を、次画像において所定規則に基づいて追跡することになる。
【0098】
次のフレーム画像において、前のフレーム画像で抽出された各対象領域の周りを探索し、すなわち、近傍の領域における距離ヒストグラムの類似度を算出する(図27のステップS306)。
【0099】
その結果、図28に示すように、オブジェクトの距離ヒストグラムの類似度が所定のしきい値以上のものを(図27のステップS308のYes)、前後のフレーム画像における同一のオブジェクトとして関連づける(図27のステップS310)。距離ヒストグラムの類似度は、一般的な図形の類似度の基準を用いて判断することができる。
【0100】
このようにして、追跡を行えば、上述のような対象物の特定処理を最初に行うだけでよく、処理が迅速となる。ただし、追跡が上手くできない場合には、改めて対象物の特定処理を行えばよい。
【0101】
追跡に失敗した場合には、対象物の総数が変化することになる。対象物の総数が増減した場合には、上記厳格な対象物抽出処理により対象領域を再抽出する(図27のステップS312)。
【0102】
このため、前後のフレーム画像におけるオブジェクトの数が増減しない限り、追跡処理するだけを行えばよいという利点がある。なお、追跡する対象がボールの場合には、ステップS306において距離ヒストグラムの比較対象を探索する際に、移動方向を考慮した、すなわち、移動方向に近い領域から物体検知を行うようにしてもよい。また、ボール以外であっても、動きが予測できる対象物の場合には、同様にこの手法を適用することができる。
【0103】
なお、追跡対象を特定するための方法は、上記処理に限られず、図29に示すように、前後のフレーム画像において、重なる面積の比較による追跡を行うようにしてもよい。
【0104】
上記実施形態では、追跡途中に対象物の数が変化した場合について説明した。しかし、追跡対象の数が予め設定されている場合には、追跡された対象物の数が、設定されている追跡対象の数と合致しない場合に、対象領域の抽出処理を行うようにしてもよい。
【0105】
また、追跡対象の数が途中で変化する場合(団体競技における退場者など)には、その都度、ユーザが追跡対象を入力し、これと追跡対象の数が合致するかどうかを判断するようにしてもよい。
【0106】
なお、この実施形態による対象物追跡と対象物抽出(特定)の切り替え手法は、どのような対象物抽出(特定)の手法であっても、組み合わせて実施することができる。
【0107】
6.その他の実施形態
なお、上記実施形態では、対象領域の大きさなどに基づいて削除対象としたが(図26)、図30に示すように、距離ヒストグラムの分散が所定のしきい値に含まれない領域を距離情報データから削除するようにしてもよい(図1のデータ処理装置500による処理)。図30に示すように、特定領域内(例えば、最大画素数の前後50cm)の画素数が、全画素数の50%より小さいときはノイズと判断して除去するようにしてもよい。
【0108】
なお、上記実施形態では、対象領域の判定対象を人間としたが(図26)、ボールを対象領域の判定対象としてもよい。例えば、ボールに反射材を貼付ければ、コントラストを大きくできるので形状の把握が容易である。
【0109】
なお、上記実施形態では、距離画像センサ2のデータを解析などして表示することとしたが、テレビ中継の画像(通常のビデオ画像)と同期して併せて表示してもよい。
【0110】
なお、上記実施形態では、1つの距離画像センサ2を用いたが、複数の距離画像センサ2で上記処理を行うようにしてもよい。例えば、敵側のコートをカメラAで撮影し、味方側のコートをカメラBで撮影することも可能である。
【0111】
なお、上記実施形態では、距離情報データおよび輝度情報データを得ることが可能なセンサを用いたが、距離情報データだけを得ることが可能なセンサだけで上記処理を行うことも可能である。この場合、輝度情報データに基づくマスクは生成できないので、距離情報データ自体に基づいてしきい値によってマスクを生成し、ラベリングを行うようにすればよい。
【0112】
なお、上記実施形態では、センサから得られる輝度情報データを用いて輝度情報マスクを生成したが、通常の撮影画像から変換した輝度情報データを用いて輝度情報マスクを生成してもよい。
【0113】
また、上記実施形態では、距離画像センサを用いたが、距離センサと通常のビデオカメラとを組み合わせて距離情報データと輝度情報データを得るようにしてもよい。この場合、距離情報データと輝度情報データとの対応付けができるように、距離センサとビデオカメラが、同一の領域を撮像するようにセッティングすることが好ましい。
【技術分野】
【0001】
この発明は、センサから得られるマトリクス状の距離情報データに対して、または当該距離情報データを用いて、所定の処理を行う技術に関する。
【背景技術】
【0002】
(A)近年、テレビゲームなどの入力手段として、距離センサが用いられている。ここで、マトリックス状の各画素に対する距離情報を同時に得ることが可能な距離センサは、特に、距離画像センサと呼ばれている。距離画像センサにより距離情報データを測定する仕組みについて、図31を用いて説明する。
【0003】
図31に示す距離画像センサの本体前面に配置された複数の投光LEDから、特定方向に照射された赤外線が、対象物で反射して受光レンズに到達する。その時間差に基づいて、対象物までの距離が算出される(光波測距(Time of Flight)の原理)。
【0004】
距離画像センサから得られる距離情報データを可視化した画像例、および計測距離と実際の距離との関係を、図32に示す。図32に示すように、距離画像センサでは、計測可能距離L1を超える部分が、計測可能距離L1よりも短い距離として認識されるという問題があった。例えば、図32に示すように計測可能距離L1が20mのときに、これを超える21m(または41m)の距離に存在する対象物を、例えば、1mの距離にあると誤認識してしまう可能性がある。また、無限遠を特定の距離領域として認識してしまうという問題があった(図32)。所定時間内に必要なフレーム数が大きいほど、検出するための時間間隔は小さくなるためと考えられる。
【0005】
(B)また、従来から、オクルージョンによる複数人の重なりを判定する方法が存在する。オクルージョンとは、手前にある物体が背後にある物体を隠す状態になることをいう。
【0006】
(C)従来から、センサ(距離画像センサなど)を用いて特定した領域が何であるかといった属性を判別する方法が存在する。
【0007】
(D)従来から、センサ(距離画像センサなど)を用いて特定した対象物を追跡する方法が存在する。
【先行技術文献】
【特許文献】
【0008】
【特許文献1】特開2009−168751号公報
【特許文献2】特開2006−64695号公報
【特許文献3】特開H10−276351号公報
【発明の概要】
【発明が解決しようとする課題】
【0009】
(A)図32に示す距離画像センサの性能上の問題から、ノイズを除去する処理が必要となる。特許文献1の技術では、床面部分が障害物として誤判定されないように、距離画像データに輝度画像を用いてマスク処理をしているが、床面で反射した光が距離画像センサに戻ってこない(距離情報が得られない)部分について床面であることを判断するものに過ぎなかった(距離情報が得られる部分について適用するものではない)。
【0010】
(B)特許文献2には、上方から下方に向けられた距離画像センサを用いて複数人の重なりを判別することが開示されているが、距離画像センサを上方に配置するのが困難な場合には用いることができず、距離画像センサを水平方向に向けて配置する場合に適用することができなかった。
【0011】
(C)特許文献2には、対象物の平行投影画像を生成した上で、平行投影画像から対象物の部分(輪郭)のデータ(サンプリング・データ)を抽出し、基準データ(人の基準部位の面積及び比についての値又は値の範囲)に基づいて、サンプリングデータに対応する物理対象が人であるか否かを判別することが開示されているが、処理が複雑であった。
【0012】
(D)特許文献3には、目標特徴情報に基づいて対象物の追跡処理を行うことが開示されているが、目標特徴情報が存在しない場合には用いることができなかった。
【課題を解決するための手段】
【0013】
(1)この発明の対象領域抽出装置は、
画素単位で対象物までの距離を測定した距離情報データおよび画素単位で輝度を測定した輝度情報データを得ることが可能なセンサと、
前記距離情報データにおける所定の対象領域を抽出するための対象領域抽出手段と、
を備えた対象領域抽出装置であって、
前記対象領域抽出手段は、
前記輝度情報データに基づいて、所定以上の輝度の存在する隣接画素数がしきい値以下の部分を削除した輝度情報マスクを生成し、
当該輝度情報マスクを距離情報データに重ね合わせて、重複する領域の距離情報データだけを抽出すること、
を特徴とする。
【0014】
これにより、センサから得られる距離画像データに含まれるノイズや、無限遠の部分などを、効果的に削除することが可能である。
【0015】
(3)この発明の対象領域抽出装置は、
前記対象領域抽出手段が、
距離情報データに基づいて所定距離範囲毎に輝度情報データを分割し、輝度の存在する画素数がしきい値以下の部分を削除した後、これらを合成して輝度情報マスクを生成すること、
を特徴とする。
【0016】
これにより、センサから得られる距離画像データに含まれるノイズや、無限遠の部分などを、より効果的に削除することが可能である。
【0017】
(4)この発明の対象領域抽出装置は、
前記輝度情報データに基づいて、輝度の存在する画素数がしきい値以下の部分を削除した後、輝度情報データに対して、膨張処理および収縮処理を順に行って輝度情報マスクを生成すること、
を特徴とする。
【0018】
これにより、センサから得られる距離画像データに含まれるノイズや、無限遠の部分などを、さらに効果的に削除することが可能である。
【0019】
(5)この発明の対象領域解析装置は、
画素単位で対象物までの距離を測定した距離情報データを得ることが可能なセンサと、
前記距離情報データにおける所定の対象領域を抽出するための対象領域抽出手段と、
抽出した対象領域の解析するための対象領域解析手段と、
を備えた対象領域解析装置であって、
前記対象領域解析手段は、
前記距離情報データに含まれる所定の対象領域に関する距離ヒストグラムを生成し、
所定基準に基づいて距離ヒストグラムに含まれる特定極大値の数を算出すること、
を特徴とする。
【0020】
これにより、オクルージョンによる複数人の重なりが生じていることを容易に判別することが可能である。
【0021】
(7)この発明の対象領域解析装置は、
前記対象領域解析手段が、
2つ以上の特定極大値が存在する場合には、さらに、特定極大値の間に特定極小値が存在するか否かを判断し、
特定極小値が存在する場合には、距離ヒストグラムの当該特定極小値の位置で距離情報データを各領域に分割すること、
を特徴とする。
【0022】
これにより、オクルージョンによる複数人の重なりが生じていることを容易に判別して、距離画像データを分割することが可能である。
【0023】
(8)この発明の対象領域解析装置は、
前記対象領域解析手段が、
距離ヒストグラムにおいて、画素数の増加率がしきい値以上であり、当該距離位置の画素数がしきい値以上の極大値のうち、最も大きいものを最初の特定極大値として決定し、
さらに、画素数が多い順に、既に決定された特定極大値から所定間隔以上に離れているか否かを判断し、所定間隔以上に離れている場合には、次の特定極大値として決定すること、
を特徴とする。
【0024】
これにより、オクルージョンによる複数人の重なりが生じていることを所定基準に基づいて判別して、距離画像データを分割することが可能である。
【0025】
(9)この発明の対象領域解析装置は、
前記対象領域解析手段が、
前記距離ヒストグラムを平滑化した後に、所定基準に基づいて距離ヒストグラムに含まれる特定極大値の数を算出すること、
を特徴とする。
【0026】
これにより、オクルージョンによる複数人の重なりが生じていることをより容易に判別することが可能である。
【0027】
(10)この発明の属性判定装置は、
画素単位で対象物までの距離を測定した距離情報データを得ることが可能なセンサと、
前記距離情報データにおける所定の対象領域を抽出するための対象領域抽出手段と、
抽出した対象領域の属性を判定するための属性判定手段と、
を備えた属性判定装置であって、
前記属性判定手段は、
対象領域に対応する距離情報データに基づいて、単位画素当たりの長さを算出し、
当該単位画素当たりの高さ方向および幅方向の長さから、前記対象領域の高さ、幅、面積、縦横比のうち少なくとも何れか1つを算出し、これを所定基準に適用して対象領域の属性を判定すること、
を特徴とする。
【0028】
これにより、対象領域の属性を容易に判定することが可能である。
【0029】
(12)この発明の属性判定装置は、さらに、
所定の属性でないと判断された対象領域を削除する対象領域削除手段、
を備えたことを特徴とする。
【0030】
これにより、対象領域の属性により、不要な対象領域を削除することが可能である。
【0031】
(13)この発明の対象領域追跡装置は、
撮像された画像から対象領域を抽出する対象領域抽出手段と、
前画像から抽出された対象領域を、次画像において所定規則に基づいて追跡する対象領域追跡手段と、
を備えた対象領域追跡装置であって、
前記対象領域追跡手段が次画像において追跡した対象領域の数が増加または減少しない時には、前記対象領域抽出手段は、撮像された当該次画像から再び対象領域を抽出しないで、さらに、次画像において所定規則に基づいて対象領域を追跡し、
前記対象領域追跡手段が次画像において追跡した対象領域の数が増加または減少した時に、前記対象領域抽出手段は、撮像された当該次画像から再び対象領域を抽出すること、
を特徴とする。
【0032】
これにより、対象領域の追跡処理を高速で行うことが可能である。
【0033】
(15)この発明の対象領域追跡装置は、
前記対象領域追跡手段の追跡対象となる対象領域の数が、予め設定されていること、
を特徴とする。
【0034】
これにより、予め人数が設定されるような場面において、対象領域の追跡を円滑に行うことが可能である。
【0035】
(17)この発明の対象領域追跡装置は、さらに、
対象領域の基準位置を距離情報データに基づいて算出し、仮想フィールド画像上の当該基準位置に、各対象領域に対応する表示を配置する表示配置手段、
を備えたことを特徴とする。
【0036】
これにより、仮想フィールド上におけるプレーヤーなどの位置関係を容易に把握することができる。
【0037】
(18)この発明のデータ処理装置は、
画素単位で対象物までの距離を測定した距離情報データを得ることが可能なセンサと、
前記センサから受けた距離情報データに対して所定の処理を行うデータ処理手段と、
を備えたデータ処理装置であって、
前記データ処理手段は、
前記距離情報データに含まれる所定領域に関する距離ヒストグラムを生成し、
算出した当該距離ヒストグラムの分散が所定のしきい値に含まれない領域を前記距離情報データから削除すること、
を特徴とする。
【0038】
これにより、センサから得られる距離画像データに含まれるノイズや、無限遠の部分などを、効果的に削除することが可能である。
【図面の簡単な説明】
【0039】
【図1】この発明の対象領域抽出装置100、対象領域解析装置200、属性判定装置300、対象領域追跡装置400、データ処理装置500の構成を示す図である。
【図2】この発明の対象領域抽出装置100のハードウェア構成を示す図である。
【図3】距離情報データのデータ例、およびそのデータ内容を可視化した画像を示す図である。
【図4】輝度情報データのデータ例、およびそのデータ内容を可視化した画像を示す図である。
【図5】輝度情報マスクを生成し、距離情報データをマスキングするまでの処理を示すフローチャートである。
【図6】図4に示す輝度情報データを2値化したデータを示す図である。
【図7】所定の距離範囲(100cm)ごとに分けた分割輝度情報データの可視化画像を示す図である。
【図8】画角の下端から所定高さ以下のデータを消去した可視化画像を示す図である。
【図9】膨張−収縮処理の方法を示す図である。
【図10】生成された輝度情報マスクの可視化画像を示す図である。
【図11】輝度情報マスクの白画素「1」に対応する対象領域の距離情報データだけを抽出したデータおよび可視化画像を示す図である。
【図12】対象領域のラベリング処理、ラベリングした対象領域に対する解析処理などを示すフローチャートである。
【図13】各対象領域に対してラベリング処理を行った可視化画像を示す図である。
【図14】図13に示すラベル1〜4の対象領域に対応する画素から生成した距離ヒストグラムの例を示す図である。
【図15】生成した各距離ヒストグラムに対して平滑化処理を行った状態を示す図である。
【図16】人物が重なった対象領域を分割した状態を示す可視化画像である。
【図17】所定の属性(例えば、人間)でないと判断された対象領域を削除する方法を示す図である。
【図18】ラベリングした対象領域の基準位置(重心)を算出した例を示す図である。
【図19a】対象領域の基準位置を仮想フィールド上の対応する位置に配置した状態を示す図である。
【図19b】仮想フィールド上にコートを併せて描画した状態を示す図である。
【図20】ステップS208に示す距離ヒストグラムの分割処理の詳細を示す図である。
【図21】距離ヒストグラムに含まれる極大値を示すグラフである。
【図22】特定極大値の決定方法を示す図である。
【図23】距離ヒストグラムを分割する位置を示す図である。
【図24】対象領域の大きさ推定および属性判定方法を示すフローチャートである。
【図25】対象領域の画素に対する単位ピクセル当たりの実際の長さΔxを算出する方法、および対象物の大きさを算出する方法を示す図である。
【図26】人物属性判定基準の例を示す図である。
【図27】対象領域を追跡する処理を示すフローチャートである。
【図28】距離ヒストグラムを用いた追跡の方法を示す図である。
【図29】画像差分による追跡の方法を示す図である。
【図30】距離ヒストグラムに基づく除去の方法を示す図である。
【図31】従来技術における距離画像センサの構造を示す図である。
【図32】従来技術における距離画像センサの問題点を示す図である。
【発明を実施するための形態】
【0040】
1.本発明に係る各装置について
図1に、対象領域抽出装置100、対象領域解析装置200、属性判定装置300、対象領域追跡装置400、データ処理装置500の構成を示す。なお、センサB02は、少なくとも画角内の各画素に対応したマトリクス状の距離情報(距離情報データ)を得ることが可能なセンサである。
【0041】
(a)図1に示すように、対象領域抽出装置100は、センサB02および対象領域抽出手段B10を備えている。対象領域抽出装置100のセンサB02からは、各画素の距離情報データだけでなく、当該距離情報データに対応づけられた各画素の輝度情報データも得ることができる。
【0042】
対象領域抽出手段B10(図1)は、センサB02から得られる輝度情報データに基づいて、センサの性能上の問題から生じるノイズを距離情報データから削除するための輝度情報マスクを生成する。この実施例では、所定輝度以上の画素がしきい値以上連続するかたまりの部分を、人や物体など(対象領域)として認識するようにしている。輝度情報マスクを距離情報データに重ね合わせ、輝度情報マスクに重複する領域の距離情報データだけを抽出することで、所定の対象領域のみの距離情報データが、対象領域抽出装置100により得られる。
【0043】
(b)図1に示すように、対象領域解析装置200は、センサB02、対象領域抽出手段B10、対象領域解析手段B12を備えている。
【0044】
対象領域解析手段B12(図1)は、所定の対象領域に関する距離ヒストグラムを生成し、所定基準に基づいてその距離ヒストグラムに含まれる特定極大値の数を算出する。この実施形態では、特定極大値の数に基づいて、複数人の重なりを判断するようにしている。対象領域解析装置200により、対象領域においてオクルージョンによる複数人の重なりが生じていることを容易に判別することができる。
【0045】
(c)図1に示すように、属性判定装置300は、センサB02、対象領域抽出手段B10、属性判定手段B14を備えている。
【0046】
属性判定手段B14(図1)は、距離情報データに基づいて算出した単位画素当たりの長さから、対象領域の高さ、幅、面積、縦横比などを算出し、これを所定基準に適用して対象領域の属性(例えば、人間であるか等)を判定する。属性判定装置300によって、例えば、人間ではあり得ない大きさの物体を削除したり、形状と大きさによりボールであると判断することができる。
【0047】
(d)図1に示すように、対象領域追跡装置400は、対象領域抽出手段B10、対象領域追跡手段B16を備えている。
【0048】
対象領域追跡手段B16(図1)は、前後のフレーム画像において、追跡する対象の数が変化したときにのみ、追跡対象(対象領域)の抽出を行い、追跡する対象の数が変化しないときには、追跡処理のみを行う。対象領域追跡装置400により、リアルタイムで追跡を行う場合の処理が簡素化される。
【0049】
(e)図1に示すように、データ処理装置500は、センサB02、データ処理手段B04を備えている。
【0050】
データ処理手段B04(図1)は、所定領域に関する距離ヒストグラムを生成し、算出した当該距離ヒストグラムの分散が所定のしきい値に含まれない領域を距離情報データから削除する。データ処理装置500により、距離情報データに含まれるノイズ等を容易に除去することができる。
【0051】
2.装置のハードウェア構成および距離画像センサ2の仕組み
図2に、この発明の対象領域抽出装置100(図1)のハードウェア構成を示す。なお、図1に示す画像解析装置200、属性判定装置300、対象領域追跡装置400、データ処理装置500も同様のハードウェア構成である。
【0052】
図2に示すように対象領域抽出装置100は、少なくとも距離情報データを取得することが可能な距離画像センサ2を接続したコンピュータ装置で実現することができ、距離画像センサ2の他に、CPU20、RAM22、ディスプレイ24、ハードディスク26、キーボード/マウス28などを備えている。
【0053】
図2に示すように、対象領域抽出装置100のハードディスク28には、対象領域抽出プログラム271が記憶されている(図1に示す画像解析装置200、属性判定装置300、対象領域追跡装置400、データ処理装置500の場合、ハードディスク28には、それぞれ画像解析プログラム272、属性判定処理プログラム273、対象領域追跡プログラム274、データ処理プログラム275が記憶される)。対象領域抽出プログラム271などは、CD−ROM等の記録媒体を介して記録媒体リーダー32からハードディスク16にインストールまたはコピーされる。
【0054】
図2に示す距離画像センサ2としては、例えば、パナソニック電工製の「D-IMager」(商標)を用いることができる。距離画像センサ2の性能は、例えば、画角が水平60°−垂直44°であり、応答速度が20フレーム/秒であり、測距画素数が水平:160ピクセル×垂直:120ピクセルである。また、同じ画素単位で距離画像センサ02から、距離情報データと併せて画像データ(各画素における輝度情報データ)を取得することもできる。
【0055】
図3に距離情報データのデータ例、およびそのデータ内容を可視化した画像を示す。図4に輝度情報データのデータ例、およびそのデータ内容を可視化した画像を示す。図3および図4に示すように、画素単位(例えば、160px×120px)で、マトリクス状の距離情報データおよび輝度情報データが距離画像センサ2から得られる。図4に示す輝度情報データは、例えば、256階調で記憶され、「0」が黒画素を示す。
【0056】
なお、距離画像センサ2の向きは、対象物に向けて水平方向が好ましく、少なくとも水平より上向きに設置するのがよい。地面での乱反射による距離画像データの出力誤差が大きいためである。
【0057】
3.輝度情報マスクの生成など(図1の対象領域抽出装置100)
図5に示すフローチャートを用いて、輝度情報マスクを生成し、距離情報データをマスキングするまでの処理について説明する。なお、対象領域抽出装置100のハードディスク26(図2)には、距離情報データ(図3)と輝度情報データ(図4)が予め記憶されている。
【0058】
まず、CPU20は、輝度情報データを所定のしきい値で2値化処理する(図5のステップS102)。例えば、輝度レベル「10」未満のデータを全て「0」に書き換え、輝度レベル「11」以上のデータを「1」に書き換える。図4に示す輝度情報データを2値化したデータを、図6に示す。
【0059】
さらに、CPU20は、ステップS102で2値化した輝度情報データを、所定の距離範囲ごとに分け、分割輝度情報データを生成する(図5のステップS104)。図7に、所定の距離範囲(100cm)ごとに分けた分割輝度情報データの可視化画像を示す。図3に示す距離情報データのうち、例えば、距離が300cm〜400cmの画素を全て選択し、これに対応する画素の輝度情報データを図4から読み出して、新たな輝度情報データとして分けて記憶すればよい。
【0060】
つぎに、CPU20は、各分割輝度情報データについて、輝度の存在する画素のうち隣接する画素群を構成する画素数(隣接画素数)をカウントし、当該隣接画素数がしきい値(例えば、50個)以下のデータを削除する(図5のステップS106)。例えば、図7に示す100cmごとに分けた分割輝度情報データのそれぞれについて、所定しきい値以上の輝度が存在するもの、すなわち、白画素「1」を検出して隣接する画素数をカウントする。なお、この実施形態では、上下方向に画素が隣接して存在する場合だけでなく、斜め方向にのみ画素が存在する場合も隣接する画素として取り扱うこととする。
【0061】
さらに、CPU20は、各分割輝度情報データについて、画角の下端から所定高さ以下のデータを消去する(図5のステップS108)。これにより、図8に示すように、距離情報データのうち、乱反射による測定誤差の大きい地面付近のデータ(例えば、下端から30px)が全て消去される。
【0062】
さらに、CPU20は、各分割輝度情報データを所定画素範囲で走査し、膨張処理および収縮処理を順に行う(図5のステップS110)。これにより、黒画素「0」のノイズ(雑音)が除去される。
【0063】
膨張−収縮処理の方法を、図9に示す。まず、膨張処理は次のようにして行う。注目画素を決定し、当該注目画素の周囲8つの元画素(上、右斜め上、右、右斜め下、下、左斜め下、左、左斜め上の画素)のいずれかに「1」があるかどうかを判断する。一つでも「1」があれば、当該注目画素を「1」に変更する。この処理を、注目画素を、一つずつ移動させながら全ての画素について行う。
【0064】
例えば、膨張処理により、走査範囲内に白画素「1」が含まれていれば、当該範囲が全て白画素「1」に書き換えられる。すなわち、白画素「1」の周り1画素が白く塗りつぶされる。
【0065】
収縮処理は、上記膨張処理とは逆に、注目画素の周囲8つの元画素のいずれかに「0」があれば、当該注目画素を「0」に変更する。収縮処理により、走査範囲内に黒画素「0」が含まれていれば、当該範囲を全て黒画素「0」に書き換えられる(黒く塗りつぶす)。
【0066】
このように、膨張−収縮の順で処理を行うことで、図9に示すように、白画素「1」の集まり内に存在する微少な黒画素「0」が削除され(膨張処理により白画素「1」で塗りつぶされた黒画素「0」は、収縮処理をしても元に戻らないため)、かつ、白画素「1」の集まりの輪郭が明確になる。
【0067】
膨張−収縮処理の後、CPU20は、各距離範囲の分割輝度情報データを全てを合成する(図5のステップS112)。この実施形態では、各距離範囲における同一画素のいずれかに「1」が一つでも含まれていれば、合成後の輝度二値を「1」とするようにしている。これにより、図10に示すような、輝度情報マスクが生成される。なお、ステップS112において、併せてラベリング処理(後述する)を行い、画素数の小さな部分を輝度情報マスクに含めないように除去する処理を行ってもよい。
【0068】
CPU20は、生成された輝度情報マスクを、距離情報に重ね合わせて距離情報データだけを抽出する。すなわち、輝度情報マスクの白画素「1」に対応する領域の距離情報データだけを抽出する(図5のステップS114)。これにより、無限遠を含む可能性がある黒画素「0」部分の距離情報データは全て残らず削除され、図11に示すように、輝度情報マスクの白画素「1」に対応する対象領域の距離情報データだけが抽出される。
【0069】
以上のように、距離情報データを輝度情報マスクでマスキングすることで、背景領域(無限遠や測定可能距離以上の距離にある物体の情報)を容易に削除することが可能である。なお、輝度情報データを距離範囲で分割し(図5のステップS104)、後で合成(図5のステップS112)することで、無限遠等を含む部分を有効に削除することができる。これら無限遠等の距離情報は、対象物と異なって、様々な距離に分散して現れるからである。なお、他の実施形態においては、輝度情報データを距離範囲で分割せず、輝度情報データから上記マスクを作成することもできる。
【0070】
上記のように、この実施例に係る対象領域抽出装置によれば、輝度情報データと組み合わせることで、処理対象とする対象領域の距離情報データだけを正確に抽出することができる。
【0071】
4.ラベリング、対象領域の解析など(図1の対象領域解析装置200および属性判定装置300による処理)
図12に示すフローチャートを用いて、対象領域のラベリング処理、ラベリングした対象領域に対する解析処理などについて説明する。
【0072】
CPU20は、まず、各対象領域に対してラベリング処理を行う(図12のステップS202)。例えば、上記処理によって生成した輝度情報マスクに基づき、つぎのようなラベリング処理を行う。
【0073】
具体的には、図13に示すように、隣接する画素群(白画素「1」の集まり)をグループ化し、各対象領域をラベル1、ラベル2、ラベル3、ラベル4、…とする。その際、領域サイズが小さいラベルは削除される。すなわち、ラベリングを行う最小の画素群数をしきい値として定めておき、しきい値より小さい画素群にはラベルを付与しないようにしている。
【0074】
基本的には、ここでのラベリング数が対象領域の数となる。ただし、例えば、人間が輝度情報データの画像上で重なっている場合には、複数人を誤って1つの対象領域と判断している可能性がある。そこで、以下に示す重なり判定を行う。
【0075】
つぎに、CPU20は、ラベリングした対象領域それぞれの距離情報データにつき、距離ヒストグラムを生成する(図12のステップS204)。図14に、図13に示すラベル1〜4の対象領域に対応する画素から生成した距離ヒストグラムの例を示す。
【0076】
さらに、CPU20は、図15に示すように、生成した各距離ヒストグラムに対して平滑化処理を行う(図12のステップS206)。なお、距離ヒストグラムは横軸に距離をとっているので、横軸の距離を時間と見立てることで、一般的に行われる高周波遮断フィルタによる平滑化処理を同様に適用することができる。
【0077】
さらに、CPU20は、オクルージョンによる複数人の重なりを容易に判定するために、平滑化処理をした距離ヒストグラムに対して、特定極大値が複数存在するか否か判断する。その結果、特定極大値が複数存在する場合には、対象領域が分割される(図12のステップS208)。なお、ステップS208の詳細は後述する。これにより、図16に示すように、人物が重なった対象領域であるラベル1を、ラベル1aとラベル1bとに分割することができる。
【0078】
さらに、CPU20は、各対象領域までの距離Lに基づいて、対象領域の高さ、長さ、面積などを算出して属性を判定し、所定の属性(例えば、人間)でないと判断された対象領域を削除する(図12のステップS210、図17)。なお、ステップS210の詳細は後述する。
【0079】
CPU20は、ラベリングした対象領域の重心(3次元または2次元の仮想フィールド上における座標に対応する基準位置)を算出する(図12のステップS212)。例えば、図18に示すように、各対象領域(ラベル1a、ラベル1b、ラベル2、ラベル3)の3次元座標上における重心が算出される。
【0080】
その結果、CPU20は、仮想フィールド上の対応する位置に、対象領域に関する表示を配置する(図12のステップS214)。例えば、図19aに示すように2次元または3次元フィールド上にドット表示が配置される。
【0081】
なお、図19aに示す表示に併せて、例えば、図19bに示すようにバスケットボールのコートを描画しても良い。コートを描画するためには、予めコートの位置だけを撮影画像から差分などにより抽出しておき(コートのみを描画したレイヤーを生成)、これを上記配置に重ね合わせるといった処理を行えばよい。
【0082】
4.1−特定極大値の算出方法−
図20に示すフローチャートを用いて、図12のステップS208に示す距離ヒストグラムの分割処理(すなわち、複数対象物の重なりの検出)の詳細について説明する。なお、以下に示す処理は、全ての対象領域に対して行われる。
【0083】
まず、図20のステップS206で平滑化した距離ヒストグラムについて、CPU20は、近い距離から遠い距離の方向に極大値の検出を開始する(図20のステップS2082)。画素数の増加率がしきい値以上であり(図20のステップS2084のYes)、かつ、当該距離位置の画素数がしきい値以上のものを極大値として抽出し記憶する(図20のステップS2086のYes、S20888)。例えば、図21にドット表示される画素数の増加率がしきい値を超える極大値のうち、画素数が8個以上の極大値(黒色のドットで示す)のみが抽出され、画素数が8個に満たない極大値(白色のドットで示す)は除外される。
【0084】
距離ヒストグラム全体について極大値の検出を終えると(図20のステップS20910のYes)、まず、これら極大値のうち、画素数が最大のものを最初の特定極大値として決定する(図20のステップS2092)。例えば、図22に示す黒ドット(1)が最初の特定極大値に決定される。
【0085】
さらに、画素数が多い順に、既に決定された特定極大値から所定間隔以上に離れているか否かを判断し、所定間隔以上に離れている場合には(図20のステップS2094のYes)、次の特定極大値として決定する(図20のステップS2096)。図22に示すように、例えば、2番目に画素数が多い極大値(2)は、既に決定された最初の特定極大値から30cm以上離れているので、特定極大値として決定される。これを極大値全てについて順に行い特定極大値を決定する。図22に示す例では、2つの特定極大値(1)(2)が抽出されている。
【0086】
2つ以上の特定極大値が存在する場合には、さらに、特定極大値の間に特定極小値が存在するか否かを判断する(図20のステップS2098)。特定極小値は、2つの特定極大値(1)(2)の間の最も小さい極小値を見いだし、当該極小値と小さい方の特定極大値(2)との個数差が所定以上(たとえば、特定極大値(2)の個数の2/3以上)であるかどうかによって決定する。特定極小値が存在する場合には(図20のステップS2098)、距離ヒストグラムの当該特定極小値の位置で距離情報データを各領域に分割する(図20のステップS2100)。例えば、図23の分割位置Xで距離ヒストグラムが分割される。
【0087】
以上のように、この実施形態では、特定極大値が複数個存在し、かつその間に特定極小値が存在する場合には、特定極大値の数だけ対象物が重なっていると判断する。
【0088】
特定極大値を用いたのは、対象物が画像上で重なっている場合、対象物同士の距離は異なるので、距離ヒストグラムにおけるピークが複数存在するはずだからである。また、特定極小値の存在を条件としたのは、特定極大値が2つ存在したとしても、その間の極小値が特定極大値に近い値であれば、一つの対象物である可能性が高いからである。
【0089】
なお、上記のようにして、対象物(ここでは、人間)の数を検出することができる。したがって、予め対象物の数が決まっているような場合には、この数を記録しておき、検出した対象数が、予め設定されている対象数と一致しないときには、設定された数に一致するまで、条件を変更(例えば、図20に示す処理において分割する基準(特定極大値の検出や特定極小値の決定条件など)を厳しくまたは緩和)して上記処理を繰り返しても良い。
【0090】
4.2−対象領域の大きさ推定および属性判定方法−
図24に示すフローチャートを用いて、図12のステップS210に示す処理の詳細を説明する。なお、以下に示す距離ヒストグラムに対する処理は、全ての対象領域(図20のステップS2100で分割された各対象領域を含む)に対して行われる。
【0091】
CPU20は、対象領域を構成する画素の距離情報データから対象領域までの距離Lを算出する(図24のステップS2102)。例えば、対象領域を構成する画素の距離情報の平均値から算出することができる。
【0092】
さらに、CPU20は、対象領域までの距離Lから対象領域の画素に対する単位ピクセル当たりの実際の長さΔxを算出する(図24のステップS2104)。図25Aに示すように、センサの水平画角が60°で、水平画素数が160pxのとき、単位ピクセル当たりの実際の長さΔx=Ltan30°/80(px)で得られる。なお、垂直方向については、センサの垂直画角が44°で、垂直画素数が120pxであるため、単位ピクセル当たりの実際の長さΔy=Ltan22°/60(px)で得られ、結果として同じ値になる。
【0093】
その後、対象領域の高さ方向の画素数n1、幅方向の画素数n2、対象領域の構成画素数n3を計数する(図24のステップS2108)。これを単位画素当たりの実際の長さΔxに乗算して、対象領域の高さ、幅、面積、縦横比のうち少なくとも何れか1つを算出する(図24のステップS2108)。
【0094】
さらに、算出した値を所定基準に適用して対象領域の属性を判定する(図24のステップS2110)。例えば、図25Bに示す対象物については、高さ方向の画素数n1=5、幅方向の画素数n2=4、対象領域の構成画素数n3=9である。よって、高さは5px、幅は4px、縦横比は4/5、面積は9px2で得られる。
【0095】
図26に、人間か否かの判断基準の具体例を示す。人間でないと判断された場合(図24のステップS2112のNo)、CPU20は、当該対象領域を消去する(図24のステップS2114)。
【0096】
5.対象領域の追跡処理(図1の対象領域追跡装置400による処理)
図27に示すフローチャートを用いて、対象領域を追跡する処理について説明する。なお、以下の追跡処理は、距離画像センサ2(図2)を用いて抽出される対象領域の追跡に限られず、一般のビデオカメラで撮影した画像から抽出される対象領域の追跡にも適用することが可能である。
【0097】
まず、最初のフレーム画像において、対象領域を特定する(図27のステップS302)。例えば、前述のような処理を用いて抽出されている場合は、当該領域を対象領域とする。ここで、追跡する対象領域の数が記憶される(図27のステップS304)。さらに、以下のように、前画像から抽出された対象領域を、次画像において所定規則に基づいて追跡することになる。
【0098】
次のフレーム画像において、前のフレーム画像で抽出された各対象領域の周りを探索し、すなわち、近傍の領域における距離ヒストグラムの類似度を算出する(図27のステップS306)。
【0099】
その結果、図28に示すように、オブジェクトの距離ヒストグラムの類似度が所定のしきい値以上のものを(図27のステップS308のYes)、前後のフレーム画像における同一のオブジェクトとして関連づける(図27のステップS310)。距離ヒストグラムの類似度は、一般的な図形の類似度の基準を用いて判断することができる。
【0100】
このようにして、追跡を行えば、上述のような対象物の特定処理を最初に行うだけでよく、処理が迅速となる。ただし、追跡が上手くできない場合には、改めて対象物の特定処理を行えばよい。
【0101】
追跡に失敗した場合には、対象物の総数が変化することになる。対象物の総数が増減した場合には、上記厳格な対象物抽出処理により対象領域を再抽出する(図27のステップS312)。
【0102】
このため、前後のフレーム画像におけるオブジェクトの数が増減しない限り、追跡処理するだけを行えばよいという利点がある。なお、追跡する対象がボールの場合には、ステップS306において距離ヒストグラムの比較対象を探索する際に、移動方向を考慮した、すなわち、移動方向に近い領域から物体検知を行うようにしてもよい。また、ボール以外であっても、動きが予測できる対象物の場合には、同様にこの手法を適用することができる。
【0103】
なお、追跡対象を特定するための方法は、上記処理に限られず、図29に示すように、前後のフレーム画像において、重なる面積の比較による追跡を行うようにしてもよい。
【0104】
上記実施形態では、追跡途中に対象物の数が変化した場合について説明した。しかし、追跡対象の数が予め設定されている場合には、追跡された対象物の数が、設定されている追跡対象の数と合致しない場合に、対象領域の抽出処理を行うようにしてもよい。
【0105】
また、追跡対象の数が途中で変化する場合(団体競技における退場者など)には、その都度、ユーザが追跡対象を入力し、これと追跡対象の数が合致するかどうかを判断するようにしてもよい。
【0106】
なお、この実施形態による対象物追跡と対象物抽出(特定)の切り替え手法は、どのような対象物抽出(特定)の手法であっても、組み合わせて実施することができる。
【0107】
6.その他の実施形態
なお、上記実施形態では、対象領域の大きさなどに基づいて削除対象としたが(図26)、図30に示すように、距離ヒストグラムの分散が所定のしきい値に含まれない領域を距離情報データから削除するようにしてもよい(図1のデータ処理装置500による処理)。図30に示すように、特定領域内(例えば、最大画素数の前後50cm)の画素数が、全画素数の50%より小さいときはノイズと判断して除去するようにしてもよい。
【0108】
なお、上記実施形態では、対象領域の判定対象を人間としたが(図26)、ボールを対象領域の判定対象としてもよい。例えば、ボールに反射材を貼付ければ、コントラストを大きくできるので形状の把握が容易である。
【0109】
なお、上記実施形態では、距離画像センサ2のデータを解析などして表示することとしたが、テレビ中継の画像(通常のビデオ画像)と同期して併せて表示してもよい。
【0110】
なお、上記実施形態では、1つの距離画像センサ2を用いたが、複数の距離画像センサ2で上記処理を行うようにしてもよい。例えば、敵側のコートをカメラAで撮影し、味方側のコートをカメラBで撮影することも可能である。
【0111】
なお、上記実施形態では、距離情報データおよび輝度情報データを得ることが可能なセンサを用いたが、距離情報データだけを得ることが可能なセンサだけで上記処理を行うことも可能である。この場合、輝度情報データに基づくマスクは生成できないので、距離情報データ自体に基づいてしきい値によってマスクを生成し、ラベリングを行うようにすればよい。
【0112】
なお、上記実施形態では、センサから得られる輝度情報データを用いて輝度情報マスクを生成したが、通常の撮影画像から変換した輝度情報データを用いて輝度情報マスクを生成してもよい。
【0113】
また、上記実施形態では、距離画像センサを用いたが、距離センサと通常のビデオカメラとを組み合わせて距離情報データと輝度情報データを得るようにしてもよい。この場合、距離情報データと輝度情報データとの対応付けができるように、距離センサとビデオカメラが、同一の領域を撮像するようにセッティングすることが好ましい。
【特許請求の範囲】
【請求項1】
画素単位で対象物までの距離を測定した距離情報データおよび画素単位で輝度を測定した輝度情報データを得ることが可能なセンサと、
前記距離情報データにおける所定の対象領域を抽出するための対象領域抽出手段と、
を備えた対象領域抽出装置であって、
前記対象領域抽出手段は、
前記輝度情報データに基づいて、所定以上の輝度の存在する隣接画素数がしきい値以下の部分を削除した輝度情報マスクを生成し、
当該輝度情報マスクを距離情報データに重ね合わせて、重複する領域の距離情報データだけを抽出すること、
を特徴とする対象領域抽出装置。
【請求項2】
コンピュータを、
距離情報データにおける所定の対象領域を抽出するための対象領域抽出手段であって、前記輝度情報データに基づいて、所定以上の輝度の存在する隣接画素数がしきい値以下の部分を削除した輝度情報マスクを生成し、当該輝度情報マスクを距離情報データに重ね合わせて、重複する領域の距離情報データだけを抽出する対象領域抽出手段、
として機能させることを特徴とする対象領域抽出プログラム。
【請求項3】
請求項1または請求項2の対象領域抽出装置または対象領域抽出プログラムにおいて、
前記対象領域抽出手段が、
距離情報データに基づいて所定距離範囲毎に輝度情報データを分割し、輝度の存在する画素数がしきい値以下の部分を削除した後、これらを合成して輝度情報マスクを生成すること、
を特徴とする対象領域抽出装置または対象領域抽出プログラム。
【請求項4】
請求項1〜請求項3のいずれかの対象領域抽出装置または対象領域抽出プログラムにおいて、
前記輝度情報データに基づいて、輝度の存在する画素数がしきい値以下の部分を削除した後、輝度情報データに対して、膨張処理および収縮処理を順に行って輝度情報マスクを生成すること、
を特徴とする対象領域抽出装置または対象領域抽出プログラム。
【請求項5】
画素単位で対象物までの距離を測定した距離情報データを得ることが可能なセンサと、
前記距離情報データにおける所定の対象領域を抽出するための対象領域抽出手段と、
抽出した対象領域の解析するための対象領域解析手段と、
を備えた対象領域解析装置であって、
前記対象領域解析手段は、
前記距離情報データに含まれる所定の対象領域に関する距離ヒストグラムを生成し、
所定基準に基づいて距離ヒストグラムに含まれる特定極大値の数を算出すること、
を特徴とする対象領域解析装置。
【請求項6】
コンピュータを、
距離情報データにおける所定の対象領域を抽出するための対象領域抽出手段、
抽出した対象領域の解析するための対象領域解析手段であって、前記距離情報データに含まれる所定の対象領域に関する距離ヒストグラムを生成し、所定基準に基づいて距離ヒストグラムに含まれる特定極大値の数を算出する対象領域解析手段、
として機能させることを特徴とする対象領域解析プログラム。
【請求項7】
請求項5または請求項6の対象領域解析装置または対象領域解析プログラムにおいて、
前記対象領域解析手段は、
2つ以上の特定極大値が存在する場合には、さらに、特定極大値の間に特定極小値が存在するか否かを判断し、
特定極小値が存在する場合には、距離ヒストグラムの当該特定極小値の位置で距離情報データを各領域に分割すること、
を特徴とする対象領域解析装置または対象領域解析プログラム。
【請求項8】
請求項5〜請求項7のいずれかの対象領域解析装置または対象領域解析プログラムにおいて、
前記対象領域解析手段は、
距離ヒストグラムにおいて、画素数の増加率がしきい値以上であり、当該距離位置の画素数がしきい値以上の極大値のうち、最も大きいものを最初の特定極大値として決定し、
さらに、画素数が多い順に、既に決定された特定極大値から所定間隔以上に離れているか否かを判断し、所定間隔以上に離れている場合には、次の特定極大値として決定すること、
を特徴とする対象領域解析装置または対象領域解析プログラム。
【請求項9】
請求項5〜請求項8のいずれかの対象領域解析装置または対象領域解析プログラムにおいて、
前記対象領域解析手段は、
前記距離ヒストグラムを平滑化した後に、所定基準に基づいて距離ヒストグラムに含まれる特定極大値の数を算出すること、
を特徴とする対象領域解析装置または対象領域解析プログラム。
【請求項10】
画素単位で対象物までの距離を測定した距離情報データを得ることが可能なセンサと、
前記距離情報データにおける所定の対象領域を抽出するための対象領域抽出手段と、
抽出した対象領域の属性を判定するための属性判定手段と、
を備えた属性判定装置であって、
前記属性判定手段は、
対象領域に対応する距離情報データに基づいて、単位画素当たりの長さを算出し、
当該単位画素当たりの高さ方向および幅方向の長さから、前記対象領域の高さ、幅、面積、縦横比のうち少なくとも何れか1つを算出し、これを所定基準に適用して対象領域の属性を判定すること、
を特徴とする属性判定装置。
【請求項11】
コンピュータを、
距離情報データにおける所定の対象領域を抽出するための対象領域抽出手段、
抽出した対象領域の属性を判定するための属性判定手段であって、対象領域に対応する距離情報データに基づいて、単位画素当たりの長さを算出し、当該単位画素当たりの高さ方向および幅方向の長さから、前記対象領域の高さ、幅、面積、縦横比のうち少なくとも何れか1つを算出し、これを所定基準に適用して対象領域の属性を判定する属性判定手段、
として機能させることを特徴とする属性判定プログラム。
【請求項12】
請求項10または請求項11の属性判定装置または属性判定プログラムにおいて、さらに、
所定の属性でないと判断された対象領域を削除する対象領域削除手段、
を備えたことを特徴とする属性判定装置または属性判定プログラム。
【請求項13】
撮像された画像から対象領域を抽出する対象領域抽出手段と、
前画像から抽出された対象領域を、次画像において所定規則に基づいて追跡する対象領域追跡手段と、
を備えた対象領域追跡装置であって、
前記対象領域追跡手段が次画像において追跡した対象領域の数が増加または減少しない時には、前記対象領域抽出手段は、撮像された当該次画像から再び対象領域を抽出しないで、さらに、次画像において所定規則に基づいて対象領域を追跡し、
前記対象領域追跡手段が次画像において追跡した対象領域の数が増加または減少した時に、前記対象領域抽出手段は、撮像された当該次画像から再び対象領域を抽出すること、
を特徴とする対象領域追跡装置。
【請求項14】
コンピュータを、
撮像された画像から対象領域を抽出する対象領域抽出手段、
前画像から抽出された対象領域を、次画像において所定規則に基づいて追跡する対象領域追跡手段であって、前記対象領域追跡手段が次画像において追跡した対象領域の数が増加または減少しない時には、前記対象領域抽出手段は、撮像された当該次画像から再び対象領域を抽出しないで、さらに、次画像において所定規則に基づいて対象領域を追跡し、前記対象領域追跡手段が次画像において追跡した対象領域の数が増加または減少した時に、前記対象領域抽出手段は、撮像された当該次画像から再び対象領域を抽出する対象領域追跡手段、
として機能させることを特徴とする対象領域追跡プログラム。
【請求項15】
請求項13または請求項14の対象領域追跡装置または対象領域追跡プログラムにおいて、
前記対象領域追跡手段の追跡対象となる対象領域の数が、予め設定されていること、
を特徴とする対象領域追跡装置または対象領域追跡プログラム。
【請求項16】
請求項13〜請求項15のいずれかの対象領域追跡装置または対象領域追跡プログラムにおいて、
前記画像は、距離情報データまたは輝度情報データに基づく画像であること、
を特徴とする対象領域追跡装置または対象領域追跡プログラム。
【請求項17】
請求項1〜16のいずれかの装置またはプログラムにおいて、さらに、
対象領域の基準位置を距離情報データに基づいて算出し、仮想フィールド画像上の当該基準位置に、各対象領域に対応する表示を配置する表示配置手段、
を備えたことを特徴とする装置またはプログラム。
【請求項18】
画素単位で対象物までの距離を測定した距離情報データを得ることが可能なセンサと、
前記センサから受けた距離情報データに対して所定の処理を行うデータ処理手段と、
を備えたデータ処理装置であって、
前記データ処理手段は、
前記距離情報データに含まれる所定領域に関する距離ヒストグラムを生成し、
算出した当該距離ヒストグラムの分散が所定のしきい値に含まれない領域を前記距離情報データから削除すること、
を特徴とするデータ処理装置。
【請求項19】
コンピュータを、
距離情報データに対して所定の処理を行うデータ処理手段であって、前記距離情報データに含まれる所定領域に関する距離ヒストグラムを生成し、算出した当該距離ヒストグラムの分散が所定のしきい値に含まれない領域を前記距離情報データから削除するデータ処理手段、
として機能させることを特徴とするデータ処理プログラム。
【請求項20】
距離情報データにおける所定の対象領域を抽出するための対象領域抽出方法であって、
輝度情報データに基づいて、所定以上の輝度の存在する隣接画素数がしきい値以下の部分を削除した輝度情報マスクを生成し、当該輝度情報マスクを距離情報データに重ね合わせて、重複する領域の距離情報データだけを抽出する、
ことを特徴とする対象領域抽出方法。
【請求項21】
抽出した対象領域の解析するための対象領域解析手段であって、
前記距離情報データに含まれる所定の対象領域に関する距離ヒストグラムを生成し、所定基準に基づいて距離ヒストグラムに含まれる特定極大値の数を算出する、
ことを特徴とする対象領域解析方法。
【請求項22】
抽出した対象領域の属性を判定するための属性判定方法であって、
対象領域に対応する距離情報データに基づいて、単位画素当たりの長さを算出し、当該単位画素当たりの高さ方向および幅方向の長さから、対象領域の高さ、幅、面積、縦横比のうち少なくとも何れか1つを算出し、これを所定基準に適用して対象領域の属性を判定する、
ことを特徴とする属性判定方法。
【請求項23】
対象領域抽出手段が撮像された画像から対象領域を抽出し、前画像から抽出された対象領域を、次画像において所定規則に基づいて追跡する対象領域追跡方法であって、
次画像において追跡した対象領域の数が増加または減少しない時には、撮像された当該次画像から再び対象領域を抽出しないで、さらに、次画像において所定規則に基づいて対象領域を追跡し、次画像において追跡した対象領域の数が増加または減少した時に、撮像された当該次画像から再び対象領域を抽出する、
ことを特徴とする対象領域追跡方法。
【請求項24】
センサから受けた距離情報データに対して所定の処理を行うデータ処理方法であって、
距離情報データに含まれる所定領域に関する距離ヒストグラムを生成し、算出した当該距離ヒストグラムの分散が所定のしきい値に含まれない領域を距離情報データから削除すること、
を特徴とするデータ処理方法。
【請求項1】
画素単位で対象物までの距離を測定した距離情報データおよび画素単位で輝度を測定した輝度情報データを得ることが可能なセンサと、
前記距離情報データにおける所定の対象領域を抽出するための対象領域抽出手段と、
を備えた対象領域抽出装置であって、
前記対象領域抽出手段は、
前記輝度情報データに基づいて、所定以上の輝度の存在する隣接画素数がしきい値以下の部分を削除した輝度情報マスクを生成し、
当該輝度情報マスクを距離情報データに重ね合わせて、重複する領域の距離情報データだけを抽出すること、
を特徴とする対象領域抽出装置。
【請求項2】
コンピュータを、
距離情報データにおける所定の対象領域を抽出するための対象領域抽出手段であって、前記輝度情報データに基づいて、所定以上の輝度の存在する隣接画素数がしきい値以下の部分を削除した輝度情報マスクを生成し、当該輝度情報マスクを距離情報データに重ね合わせて、重複する領域の距離情報データだけを抽出する対象領域抽出手段、
として機能させることを特徴とする対象領域抽出プログラム。
【請求項3】
請求項1または請求項2の対象領域抽出装置または対象領域抽出プログラムにおいて、
前記対象領域抽出手段が、
距離情報データに基づいて所定距離範囲毎に輝度情報データを分割し、輝度の存在する画素数がしきい値以下の部分を削除した後、これらを合成して輝度情報マスクを生成すること、
を特徴とする対象領域抽出装置または対象領域抽出プログラム。
【請求項4】
請求項1〜請求項3のいずれかの対象領域抽出装置または対象領域抽出プログラムにおいて、
前記輝度情報データに基づいて、輝度の存在する画素数がしきい値以下の部分を削除した後、輝度情報データに対して、膨張処理および収縮処理を順に行って輝度情報マスクを生成すること、
を特徴とする対象領域抽出装置または対象領域抽出プログラム。
【請求項5】
画素単位で対象物までの距離を測定した距離情報データを得ることが可能なセンサと、
前記距離情報データにおける所定の対象領域を抽出するための対象領域抽出手段と、
抽出した対象領域の解析するための対象領域解析手段と、
を備えた対象領域解析装置であって、
前記対象領域解析手段は、
前記距離情報データに含まれる所定の対象領域に関する距離ヒストグラムを生成し、
所定基準に基づいて距離ヒストグラムに含まれる特定極大値の数を算出すること、
を特徴とする対象領域解析装置。
【請求項6】
コンピュータを、
距離情報データにおける所定の対象領域を抽出するための対象領域抽出手段、
抽出した対象領域の解析するための対象領域解析手段であって、前記距離情報データに含まれる所定の対象領域に関する距離ヒストグラムを生成し、所定基準に基づいて距離ヒストグラムに含まれる特定極大値の数を算出する対象領域解析手段、
として機能させることを特徴とする対象領域解析プログラム。
【請求項7】
請求項5または請求項6の対象領域解析装置または対象領域解析プログラムにおいて、
前記対象領域解析手段は、
2つ以上の特定極大値が存在する場合には、さらに、特定極大値の間に特定極小値が存在するか否かを判断し、
特定極小値が存在する場合には、距離ヒストグラムの当該特定極小値の位置で距離情報データを各領域に分割すること、
を特徴とする対象領域解析装置または対象領域解析プログラム。
【請求項8】
請求項5〜請求項7のいずれかの対象領域解析装置または対象領域解析プログラムにおいて、
前記対象領域解析手段は、
距離ヒストグラムにおいて、画素数の増加率がしきい値以上であり、当該距離位置の画素数がしきい値以上の極大値のうち、最も大きいものを最初の特定極大値として決定し、
さらに、画素数が多い順に、既に決定された特定極大値から所定間隔以上に離れているか否かを判断し、所定間隔以上に離れている場合には、次の特定極大値として決定すること、
を特徴とする対象領域解析装置または対象領域解析プログラム。
【請求項9】
請求項5〜請求項8のいずれかの対象領域解析装置または対象領域解析プログラムにおいて、
前記対象領域解析手段は、
前記距離ヒストグラムを平滑化した後に、所定基準に基づいて距離ヒストグラムに含まれる特定極大値の数を算出すること、
を特徴とする対象領域解析装置または対象領域解析プログラム。
【請求項10】
画素単位で対象物までの距離を測定した距離情報データを得ることが可能なセンサと、
前記距離情報データにおける所定の対象領域を抽出するための対象領域抽出手段と、
抽出した対象領域の属性を判定するための属性判定手段と、
を備えた属性判定装置であって、
前記属性判定手段は、
対象領域に対応する距離情報データに基づいて、単位画素当たりの長さを算出し、
当該単位画素当たりの高さ方向および幅方向の長さから、前記対象領域の高さ、幅、面積、縦横比のうち少なくとも何れか1つを算出し、これを所定基準に適用して対象領域の属性を判定すること、
を特徴とする属性判定装置。
【請求項11】
コンピュータを、
距離情報データにおける所定の対象領域を抽出するための対象領域抽出手段、
抽出した対象領域の属性を判定するための属性判定手段であって、対象領域に対応する距離情報データに基づいて、単位画素当たりの長さを算出し、当該単位画素当たりの高さ方向および幅方向の長さから、前記対象領域の高さ、幅、面積、縦横比のうち少なくとも何れか1つを算出し、これを所定基準に適用して対象領域の属性を判定する属性判定手段、
として機能させることを特徴とする属性判定プログラム。
【請求項12】
請求項10または請求項11の属性判定装置または属性判定プログラムにおいて、さらに、
所定の属性でないと判断された対象領域を削除する対象領域削除手段、
を備えたことを特徴とする属性判定装置または属性判定プログラム。
【請求項13】
撮像された画像から対象領域を抽出する対象領域抽出手段と、
前画像から抽出された対象領域を、次画像において所定規則に基づいて追跡する対象領域追跡手段と、
を備えた対象領域追跡装置であって、
前記対象領域追跡手段が次画像において追跡した対象領域の数が増加または減少しない時には、前記対象領域抽出手段は、撮像された当該次画像から再び対象領域を抽出しないで、さらに、次画像において所定規則に基づいて対象領域を追跡し、
前記対象領域追跡手段が次画像において追跡した対象領域の数が増加または減少した時に、前記対象領域抽出手段は、撮像された当該次画像から再び対象領域を抽出すること、
を特徴とする対象領域追跡装置。
【請求項14】
コンピュータを、
撮像された画像から対象領域を抽出する対象領域抽出手段、
前画像から抽出された対象領域を、次画像において所定規則に基づいて追跡する対象領域追跡手段であって、前記対象領域追跡手段が次画像において追跡した対象領域の数が増加または減少しない時には、前記対象領域抽出手段は、撮像された当該次画像から再び対象領域を抽出しないで、さらに、次画像において所定規則に基づいて対象領域を追跡し、前記対象領域追跡手段が次画像において追跡した対象領域の数が増加または減少した時に、前記対象領域抽出手段は、撮像された当該次画像から再び対象領域を抽出する対象領域追跡手段、
として機能させることを特徴とする対象領域追跡プログラム。
【請求項15】
請求項13または請求項14の対象領域追跡装置または対象領域追跡プログラムにおいて、
前記対象領域追跡手段の追跡対象となる対象領域の数が、予め設定されていること、
を特徴とする対象領域追跡装置または対象領域追跡プログラム。
【請求項16】
請求項13〜請求項15のいずれかの対象領域追跡装置または対象領域追跡プログラムにおいて、
前記画像は、距離情報データまたは輝度情報データに基づく画像であること、
を特徴とする対象領域追跡装置または対象領域追跡プログラム。
【請求項17】
請求項1〜16のいずれかの装置またはプログラムにおいて、さらに、
対象領域の基準位置を距離情報データに基づいて算出し、仮想フィールド画像上の当該基準位置に、各対象領域に対応する表示を配置する表示配置手段、
を備えたことを特徴とする装置またはプログラム。
【請求項18】
画素単位で対象物までの距離を測定した距離情報データを得ることが可能なセンサと、
前記センサから受けた距離情報データに対して所定の処理を行うデータ処理手段と、
を備えたデータ処理装置であって、
前記データ処理手段は、
前記距離情報データに含まれる所定領域に関する距離ヒストグラムを生成し、
算出した当該距離ヒストグラムの分散が所定のしきい値に含まれない領域を前記距離情報データから削除すること、
を特徴とするデータ処理装置。
【請求項19】
コンピュータを、
距離情報データに対して所定の処理を行うデータ処理手段であって、前記距離情報データに含まれる所定領域に関する距離ヒストグラムを生成し、算出した当該距離ヒストグラムの分散が所定のしきい値に含まれない領域を前記距離情報データから削除するデータ処理手段、
として機能させることを特徴とするデータ処理プログラム。
【請求項20】
距離情報データにおける所定の対象領域を抽出するための対象領域抽出方法であって、
輝度情報データに基づいて、所定以上の輝度の存在する隣接画素数がしきい値以下の部分を削除した輝度情報マスクを生成し、当該輝度情報マスクを距離情報データに重ね合わせて、重複する領域の距離情報データだけを抽出する、
ことを特徴とする対象領域抽出方法。
【請求項21】
抽出した対象領域の解析するための対象領域解析手段であって、
前記距離情報データに含まれる所定の対象領域に関する距離ヒストグラムを生成し、所定基準に基づいて距離ヒストグラムに含まれる特定極大値の数を算出する、
ことを特徴とする対象領域解析方法。
【請求項22】
抽出した対象領域の属性を判定するための属性判定方法であって、
対象領域に対応する距離情報データに基づいて、単位画素当たりの長さを算出し、当該単位画素当たりの高さ方向および幅方向の長さから、対象領域の高さ、幅、面積、縦横比のうち少なくとも何れか1つを算出し、これを所定基準に適用して対象領域の属性を判定する、
ことを特徴とする属性判定方法。
【請求項23】
対象領域抽出手段が撮像された画像から対象領域を抽出し、前画像から抽出された対象領域を、次画像において所定規則に基づいて追跡する対象領域追跡方法であって、
次画像において追跡した対象領域の数が増加または減少しない時には、撮像された当該次画像から再び対象領域を抽出しないで、さらに、次画像において所定規則に基づいて対象領域を追跡し、次画像において追跡した対象領域の数が増加または減少した時に、撮像された当該次画像から再び対象領域を抽出する、
ことを特徴とする対象領域追跡方法。
【請求項24】
センサから受けた距離情報データに対して所定の処理を行うデータ処理方法であって、
距離情報データに含まれる所定領域に関する距離ヒストグラムを生成し、算出した当該距離ヒストグラムの分散が所定のしきい値に含まれない領域を距離情報データから削除すること、
を特徴とするデータ処理方法。
【図1】
【図2】
【図5】
【図6】
【図12】
【図15】
【図19a】
【図20】
【図21】
【図22】
【図23】
【図24】
【図27】
【図31】
【図3】
【図4】
【図7】
【図8】
【図9】
【図10】
【図11】
【図13】
【図14】
【図16】
【図17】
【図18】
【図19b】
【図25】
【図26】
【図28】
【図29】
【図30】
【図32】
【図2】
【図5】
【図6】
【図12】
【図15】
【図19a】
【図20】
【図21】
【図22】
【図23】
【図24】
【図27】
【図31】
【図3】
【図4】
【図7】
【図8】
【図9】
【図10】
【図11】
【図13】
【図14】
【図16】
【図17】
【図18】
【図19b】
【図25】
【図26】
【図28】
【図29】
【図30】
【図32】
【公開番号】特開2012−93295(P2012−93295A)
【公開日】平成24年5月17日(2012.5.17)
【国際特許分類】
【出願番号】特願2010−242283(P2010−242283)
【出願日】平成22年10月28日(2010.10.28)
【出願人】(500063228)
【出願人】(599153002)
【出願人】(501069555)株式会社関西総合情報研究所 (6)
【出願人】(506430325)株式会社フォーラムエイト (5)
【Fターム(参考)】
【公開日】平成24年5月17日(2012.5.17)
【国際特許分類】
【出願日】平成22年10月28日(2010.10.28)
【出願人】(500063228)
【出願人】(599153002)
【出願人】(501069555)株式会社関西総合情報研究所 (6)
【出願人】(506430325)株式会社フォーラムエイト (5)
【Fターム(参考)】
[ Back to top ]