オブジェクト検出方法、オブジェクト検出装置、およびオブジェクト検出プログラム
本発明の利点は、オブジェクトを適切に検出することである。本発明におけるオブジェクト検出装置は、オブジェクトまでの距離を決定する複数のカメラと、距離を決定する距離決定部と、ピクセルの距離に対するピクセル度数を特定するヒストグラム生成部と、最もありそうな距離を決定するオブジェクト距離決定部と、距離の差に基づくピクセルの確率を提供する確率マッピング部と、ピクセルのグループとしてカーネル領域を決定するカーネル検出部と、カーネル領域の近傍にあるピクセルから選択したピクセルのグループとして縁領域を決定する縁検出部と、オブジェクトが所定の確率で現れるオブジェクト領域を特定するオブジェクト特定部と、を有する。
【発明の詳細な説明】
【技術分野】
【0001】
関連出願
本出願は、2004年2月17日に出願された米国仮特許出願第60/545,759号、および2004年6月1日に出願された「オブジェクト検出方法、オブジェクト検出装置、およびオブジェクト検出プログラム(Method, Apparatus And Program For Detecting An Object)」という題名の米国特許出願第10/858,878号の特典を請求するものである。
【0002】
発明の背景
1.発明の分野
本発明は、オブジェクト検出方法、オブジェクト検出装置、およびオブジェクト検出コンピュータプログラムに関し、主としてカメラで撮影された画像に含まれるオブジェクト画像の検出、ならびにオブジェクト検出の応用に関する。特に、本発明の利点は、簡易でありながら、正確にオブジェクトおよびオブジェクト画像を視覚的に検出することができる装置、方法、およびコンピュータプログラムを提供することである。
【背景技術】
【0003】
2.発明の背景
グラフィック画像で撮影されたオブジェクトの輪郭を決定するSNAKESという周知の技術がある。この技術を使って、オブジェクトの輪郭を決定するため、まず、グラフィック画像において抽出された曖昧な輪郭を初期値として輪郭モデルを仮定する。そして、最終的な輪郭を得るため、所定の規則の下、縮小や変形によって輪郭モデルを特定する。この技術の1つの適用例では、移動するオブジェクトのエッジ(すなわち、隣接する2つのピクセルの光度が大きく変化する境界)が検出される。そして、これらのエッジとリンクされる輪郭モデルとの関連づけによって輪郭を決定し、オブジェクトを検出する(例えば、日本公開特許公報、特開平08−329254A(1996年)の7ページ、図9、および図10を参照されたい。この文献を参照によって本明細書中に組み込むものとする)。
【0004】
上記のエッジ検出、すなわち、SNAKESによるオブジェクトの検出は、オブジェクトの正確な輪郭を決定するのに有利である。しかしながら、エッジ画像を作成したり輪郭モデルを決定したりするのに膨大な計算能力を必要とする。
【発明の開示】
【発明が解決しようとする課題】
【0005】
発明の要約
本発明の利点は、簡易でありながら、観測する位置にあまり左右されずにオブジェクトを適切に検出する処理を提供する点である。
【0006】
本発明では、オブジェクトの3次元特徴を利用してオブジェクトの形状を決定する。上記の輪郭を検出する方法では、オブジェクトの2次元特徴を利用するので、本決定法とこの輪郭による検出法とはまったく異なるものである。本発明では、オブジェクトの部分を提供するオブジェクト画像を使用する。そして、この画像と、画像を取得するカメラからオブジェクトまでの距離によって定義される距離情報とを組み合わせる。したがって、オブジェクトの2次元情報を表すオブジェクトと推定される部分と、オブジェクトの3次元目の情報を表す推定位置(実際にはカメラからの距離)とによって、オブジェクト部分を評価することができる。この部分情報と位置情報との組合せは、確率によって評価されるので、オブジェクトは、3次元情報によって決定される。この処理において、2次元データにおける部分情報と距離情報とは、すべて観測されたものであり効率的に自己決定されるものであるため、SNAKESなどの従来の輪郭法のように膨大な計算を必要としない。
【課題を解決するための手段】
【0007】
本発明に係るオブジェクト検出装置は、オブジェクトまでの距離を決定する複数のカメラと、距離を決定する距離決定部と、ピクセルの距離に対するピクセル度数を特定するヒストグラム生成部と、最もありそうな距離を決定するオブジェクト距離決定部と、距離の差に基づいてピクセルの確率値マップを生成する確率マッピング部と、ピクセルのグループとしてカーネル領域を決定するカーネル検出部と、カーネル領域の近傍にあるピクセルから選択したピクセルのグループとして縁領域を決定する縁検出部と、オブジェクトが所定の確率で存在するオブジェクト領域を特定するオブジェクト特定部と、を有する。
【0008】
本発明におけるオブジェクト検出法は、上記の本発明のオブジェクト検出装置において記載された各部で実現される各機能を実行するためのステップを有する。
【0009】
本発明におけるオブジェクト画像を検出するためのコンピュータプログラムは、上記の本発明のオブジェクト検出装置において記載された各部で実現される各機能を実行するようコンピュータを動作させるためのコンピュータプログラムを有する。
【0010】
本発明における固有の専門用語に関しては、「オブジェクト検出」、「オブジェクトを検出すること」または同様の表現を「オブジェクトの視覚的検出」または「画像におけるオブジェクト検出」の意味で使用する。本明細書では、すべて、上記の専門用語とそれから生じる技術的意味に基づいて説明する。
【0011】
本発明には、他にも利点や特徴があるが、以下の添付図面を伴う発明に関する詳細な説明とその後に続く請求項とによって、すぐに明らかになるであろう。
【発明を実施するための最良の形態】
【0012】
好ましい実施形態の詳細な説明
本発明におけるオブジェクト検出装置は、視差を使ってオブジェクトまでの距離を決定する複数のカメラと、距離を決定する距離決定部と、カメラによって撮影された画像の部分において、ピクセルの距離に対するピクセルの度数を特定するヒストグラム生成部と、ヒストグラムにおいてピクセルの数が最大となるありそうな距離を決定するオブジェクト距離決定部と、オブジェクト距離決定部によって取得された最もありそうな距離との距離の差に基づいてピクセルの確率値マップを生成する確率マッピング部と、確率が第1閾値より大きいピクセルのグループとして、カーネル領域を決定するカーネル検出部と、カーネル領域の近傍にあるピクセルから選択され、確率が第2閾値より大きいが第1閾値より小さいピクセルのグループとして、縁領域を決定する縁検出部と、オブジェクトが所定の確率で現れるオブジェクト領域を特定するオブジェクト特定部と、を有する。
【0013】
本装置では、輪郭線のエッジ計算や連結性の計算に膨大な計算能力を必要とする輪郭の計算が不要であるため、コンピュータへの負担がより少なくなる。カラー検出を行わないため、必要とする計算能力はさらに少なくて済む。本発明の他の利点は以下の通りである。オブジェクトが平面的で表面にあまり目印がない場合、複数のカメラによる三角測定が困難になるため、距離決定部の決定する距離が誤った距離になってしまう傾向がある。したがって、オブジェクトの全体またはオブジェクトの部分が、このように誤った距離で特定されたピクセルによって占められる危険性がある。しかしながら、オブジェクト特定部は、カーネル領域近傍の領域の中からピクセルを選択するため、オブジェクトの距離と同様の距離を持つと誤って決定されたピクセルを選択することはない。したがって、本発明は、様々な種類のオブジェクトに対してロバストなオブジェクト検出装置を提供する。
【0014】
確率マッピング部では、次の数式(1)によって、ピクセルの確率値を評価することが好ましい。
【数4】
ここで、dはピクセルに対する距離、d0は最もありそうな距離、aは正規化定数、C(C>1)は任意に与えられた定数である。確率に関する周知の式を利用するには、Cが自然数であることが好ましい。したがって、数式(1)は、次のように変更することができる。
【数5】
【0015】
最大の確率値は1つだけ与えられ、この最大値において確率を正規化することができるため、この確率評価をすべての距離決定に対して一貫して適用することができる。
【0016】
縁検出部において、オブジェクト特定部は、縁領域の中から、ピクセルの数が最も多い方から順に、すなわち最も広い領域から順に、例えば、3つの縁領域を縁領域として選択することができる。さらに、これらの3つの領域に外接する長方形領域を縁領域として特定してもよい。
【0017】
オブジェクト距離決定部は、ガウスフィルタなどの空間フィルタを有し、各ピクセルに対して取得した距離から外因性ノイズやスプリアスノイズを取り除き、フィルタリング後の距離を使用することによってヒストグラムを修正することが好ましい。(以下、すべてのピクセルに対する距離のマッピング画像を、距離画像と呼ぶ。)その結果、距離画像を平滑化した後、ピクセル度数が最大である距離が最もありそうな距離であるとして、最もありそうな距離を特定してもよい。フィルタリングを実行するには、カメラによって撮影された観測画像に対応する平面マップを構成するピクセルに対して与えられた距離を補間する。
【0018】
距離画像が、オブジェクトの画像のある部分を失った場合、ガウスフィルタを使用することによって、雑音による障害が原因の画像における欠落データを補間することができる。このガウスフィルタのフィルタ作用によって、ある程度簡単にオブジェクトを特定することができる。本発明では、輪郭検出をまったく使用しないため、フィルタの有益な作用を本発明に活用することができる。
【0019】
縁検出部では、上記のように、確率の2つの閾値を条件として、カーネル検出部が特定したカーネル領域の近傍にあるピクセルを繰返し選択する。
【0020】
本発明におけるオブジェクト検出方法は、複数のカメラとこれらのカメラによって観測されたオブジェクトのビューの中の視差とを使って距離を決定する距離決定ステップと、カメラによって撮影された画像の部分において、ピクセルの距離に対するピクセルの度数を特定するヒストグラム生成ステップと、ヒストグラムにおいてピクセルの数が最大となる最もありそうな距離を決定するオブジェクト距離決定ステップと、オブジェクト距離決定ステップにおいて取得された最もありそうな距離との距離の差に基づいてピクセルの確率を求める確率マッピングステップと、確率が第1閾値より大きいピクセルのグループとして、カーネル領域を決定するカーネル検出ステップと、カーネル領域の近傍にあるピクセルから選択され、確率が第2閾値より大きいが第1閾値より小さいピクセルのグループとして、縁領域を決定する縁検出ステップと、オブジェクトが所定の確率で現れるオブジェクト領域を特定するオブジェクト特定ステップと、を有する。
【0021】
確率マッピングステップでは、次の数式(3)によって、ピクセルの確率値を評価することが好ましい。
【数6】
ここで、dはピクセルに対する距離、d0は最もありそうな距離、aは正規化定数、C(C>1)は任意に与えられた定数である。
【0022】
オブジェクト距離決定ステップでは、ガウスフィルタなどの空間フィルタを有し、距離画像から外因性ノイズやスプリアスノイズを取り除き、フィルタリング後の距離を使用することによってヒストグラムを修正することが好ましい。その結果、距離画像を平滑化した後、ピクセル度数が最大である距離が最もありそうな距離であるとして、最もありそうな距離を特定してもよい。
【0023】
縁検出ステップにおいて、オブジェクト特定ステップは、ピクセルの数が最も多い方から順に、すなわち縁領域の中で最も広い領域から順に、例えば、3つの縁領域を縁領域として選択することができる。さらに、これらの3つの領域に外接する長方形領域を縁領域として特定してもよい。
【0024】
縁検出ステップでは、上記のように、2つの確率の閾値を条件として、カーネル検出ステップにおいて特定したカーネル領域の近傍にあるピクセルを繰返し選択する。
【0025】
本発明は、上記で示された機能において上記のオブジェクト検出装置の動作を実行させるコンピュータプログラムが格納されたコンピュータ読み取り可能な媒体によって提供することができる。
【0026】
本発明には、簡易な計算処理によってオブジェクトを検出するという利点がある。また、本発明には、オブジェクトのカーネル領域に対する縁領域を使用することによって、平面的形状が原因で引き起こされるオブジェクト検出の誤りを防止することができるという利点もある。さらに、本発明には、雑音障害によるオブジェクト画像の欠落を効果的に補間することによって、ロバストなオブジェクト検出能力を有するという利点もある。
【0027】
以下、本発明の実施形態について、図面を使って説明する。
【0028】
図1は、本発明のオブジェクト検出装置1を示す機能ブロック図である。オブジェクト検出装置は、2台のカメラを使って姿や物質などのオブジェクトの画像を取得し、取得した画像中のオブジェクト領域を特定する。オブジェクト検出装置1は、距離決定部11と、平滑化フィルタ部12と、ヒストグラム生成部13と、オブジェクト距離決定部14と、確率マッピング部15と、ブロック処理部16と、カーネル検出部16aと、閾値記憶部18と、を備える。右側カメラ2aと左側カメラ2bとの2台のカメラが、相互に距離Bだけ離れて設置されている。
【0029】
各部11ないし17は、RAM、ROM、および周辺記憶装置などの記憶装置と、中央処理装置と、出力装置とを含む汎用コンピュータシステムにおいて動作するコンピュータプログラムを実行することによって、実現される。各部11ないし17で処理される情報は、記憶装置から取り出されたり、記憶装置へ格納されたりする。
【0030】
カメラ2によって撮影された取得画像は、図示しない画像入力装置から距離決定部11に入力される。
【0031】
距離決定部11では、カメラ2aおよび2bによって同時に撮影された2つの取得画像を分析し、2つの取得画像によって特定されるすべてのオブジェクトまでの距離(厳密には、カメラの焦点面からの距離)を決定する。距離決定部11は、これらの2つの取得画像から上記のように決定したすべてのオブジェクトまでの距離を使って、距離画像を生成する。この距離画像をさらに処理する前に記憶装置に格納する。カメラ2によって取得される画像は、例えば、100ms毎に1フレームなどのレートで、距離決定部11に入力される。
【0032】
距離は、距離決定部11によって次のように決定される。参照画像として右側のカメラ2aによって撮影された取得画像において画像ブロックを特定し、ブロックマッチングのため左側のカメラ2bによって同時に撮影された取得画像における対応する画像ブロックと比較する。そして、2つのマッチングした画像ブロックの位置の差によって、視差を計算する。この視差によって決定した距離と取得画像とを組み合わせることによって距離画像を生成する。
【0033】
視差をZ、カメラ2(不図示)からオブジェクトまでの距離をL、カメラ2(不図示)の焦点距離をf、右側のカメラ2aと左側のカメラ2bとの間の距離をBと仮定すると、オブジェクトまでの距離は、次の数式(2)によって求められる。
【数7】
【0034】
図4Aおよび図4Bによって、距離決定部11が生成する距離画像について詳細に説明する。図4Aに時系列で入力される取得画像、図4Bに距離画像、図4Cに距離画像に使用されるパラメータの対応関係を示す。
【0035】
図4Aに、人物の像が中央に位置するよう撮影した取得画像の一例を示す。図4Bに示す距離画像Dは、右側のカメラで取得した画像と左側のカメラで取得した画像とによって視差が決定されたピクセルの属性で表される。図4Cに示す距離画像で使用されるパラメータの対応関係によって、図4Bに示すピクセルの属性が取得される。視差が大きければ大きいほど、オブジェクトはより近傍に位置し、逆の場合も同様である。図4Bでは、ピクセルの属性として距離を示すが、ここでは、ピクセルの輝度によって距離を表している。属性が短い距離を表すピクセルに関しては、輝度を明るく、属性が長い距離を表すピクセルに関しては、輝度を暗くする。
【0036】
図4Cに示すように、座標(0、0)において視差はゼロであるが、これは、座標(0、0)のピクセルに関するオブジェクトが無限に離れた点に位置することを意味する。図4Cに示すように、座標(200,200)のピクセルにおける視差は15であり、これは、このピクセルのオブジェクトが参照カメラから0.99m離れた所に位置することを意味する。
【0037】
図4Cで示す距離画像Dには、図4Bに示すように複数の黒い点が点在している。これは、光度の変化や色の変化が少ない部分では、ピクセルの照合を行うことができないため、視差がゼロである(つまり、これらのポイントは無限に離れた場所に位置する)と決定されるからである。
【0038】
平滑化フィルタ12では、記憶装置から距離画像を取り出し、輝度データをフィルタリングして別の輝度データにし、これらの輝度データによって構成される別の距離画像D′を記憶装置に格納する。この平滑化フィルタ12によって、隣接する無限の距離値で、正しい距離パラメータの欠落が原因で点在する黒い点を補間することができる。この平滑化フィルタリングのため、ガウスフィルタを使用する。図5Aに、図4Bに示す距離画像に対してガウスフィルタによってフィルタリングを行った後の距離画像の一例を示す。
【0039】
ヒストグラム生成部13では、(フィルタリング済みの)距離画像D′を取り出す。カメラからの距離と、距離毎のピクセルのカウント数であるピクセル度数とによって、画像上のすべてのピクセルを評価する。すべての距離毎の度数を記憶装置に格納する。度数ヒストグラムは、距離を複数の範囲に分類し、これらの範囲に属するピクセルの数をカウントして生成する。複数の範囲は、例えば、0.5−0.625メートル、0.625−0.75メートル、…、など、0.5〜3メートルの距離範囲を0.125メートル間隔で20に分類したりする。この距離の分類に基づいて、ピクセルの度数を評価する。図5Bは、その結果のヒストグラムを示す。
【0040】
オブジェクト距離決定部14では、ヒストグラムHのデータを取り出し、距離の分類の中で最もありそうな距離、すなわち、ヒストグラムにおいて分類された距離の中でピクセルの数が最大値となる距離を決定する。最もありそうな距離をd0として特定し、記憶装置に記録する。
【0041】
例えば、ピクセルの度数は、1−1.125メートルの距離分類において最大値であるので、1.0625メートルのように代表的な距離値を最もありそうな距離d0として特定する。
【0042】
確率マッピング部15では、各ピクセルについて決定された距離dと最もありそうな距離d0との差を(d−d0)として、各ピクセルの確率を示す確率マップを生成することによって、FPM(Foreground Probability Map)を生成する。
【数8】
ここで、Cは自然数である。すると、数式(4)は、次のように変更することができる。
【数9】
ここで、定数aは、オブジェクトが存在する可能性のある幅を決定する。図6Aに、距離の差(d−d0)に対する確率値Pを示す。定数aは、ガウス関数、特に関数の形状における幅を正規化するものである。
【0043】
ブロブ処理装置16は、確率マップをFPMとして取り出し、高い確率値を持つ縁領域CRとカーネル領域とを決定する。
【0044】
特に、ブロブ処理部16には、カーネル検出部16aと縁検出部16bとがある。第1閾値TH1とTH1より小さい第2閾値TH2との2つの閾値は、記憶装置に記録される。
【0045】
カーネル検出部16aでは、第1閾値TH1および確率マップFPMを取り出し、
P>TH1を満たすピクセルによって占められる領域をカーネルとして決定し、これらのピクセルすべての位置を記憶装置に記録する。
【0046】
図7Aに、確率マップFPMの拡大図を示す。図7Bに、X軸に沿って軸Y1上の各ピクセルの確率値を示す。
【0047】
図7Bに示す実施例では、点P3ないし点P5および点P18に見られるピクセルが、閾値TH1より大きい確率値を持つことを示している。本実施例では、TH1の値として0.72が選択されている。
【0048】
縁検出部16bでは、第2閾値TH2および確率マップFPMを記憶装置から取り出す。以下の隣接条件を満たすピクセルをカーネル領域の隣接ピクセルとして選択する。最初に、カーネル領域に隣接するピクセルを選択し、第2閾値と比較して次の不等式を満たすか否かを調べる。
【0049】
【数10】
【0050】
上記の条件を満たすピクセルを選択した後、これらのピクセルに隣接する新しいピクセルについて次の同じ不等式を満たすか否かをチェックする。
【数11】
【0051】
同様のチェックを続けて、すべてのピクセルが上記の隣接条件を満たす領域を最終的に決定する。この領域を縁領域CRという。
【0052】
図7Bによると、点P3ないし点P5に隣接し、第2閾値より大きい確率値を持つ縁領域CR中のピクセルは、点P2および点P6である。同じ処理を繰り返すと、P1が縁領域CRに含まれることがわかる。ピクセルP18に対する繰り返し処理によって、ピクセルP16、ピクセルP17、およびピクセルP19を縁領域CRとして検出することができる。本実施例では、第2閾値TH2として0.45を使用した。
【0053】
一方、ピクセルがカーネル領域に隣接していない場合は、縁領域CRとして選択されない。例えば、この繰り返し処理ではP11まで到達しないため、ピクセルP11は選択されない。
【0054】
縁領域CRは、これらすべてのピクセルによって特定される。多くの場合、複数の領域が縁領域CRとして選択される。図6Cに、そのような実施例を示す。すなわち、図6Bに示すように、複数の縁領域CR1ないし縁領域CR3が確率マップから選択される。
【0055】
縁検出部16bでは、記憶装置から縁領域CRを取り出し、下記のようにオブジェクト領域ORを決定する。
【0056】
本実施形態では、縁領域CRに関して、面積が大きい方から、すなわち多数のピクセルを含む方から3つの領域を選択する。それらは、図6CにおけるCR1、CR2、およびCR3である。縁領域CRに対して外接する長方形を特定し、これらをオブジェクト領域ORとして決定する。オブジェクト領域ORは、単に外接する長方形として最も大きな領域を選択するか、またはオブジェクト領域ORとして直接縁領域CRを使用することによって特定する。決定したオブジェクト領域ORを格納し、人物の顔識別のために使用する。
【0057】
図8に示すように、オブジェクト領域ORを一旦元の取得画像の中に重ねると、結果として得られたオブジェクト領域ORは、人物画像HMに外接している。すなわち、輪郭決定処理をまったく利用しないで、オブジェクトの距離情報を利用することによって、取得画像から人物画像HMを抽出し、単一のオブジェクトとして決定する。したがって、ピクセル画像が不連続である場合でさえ、オブジェクト画像の輪郭を考慮しないで、オブジェクトの空間的立体を取得することができる。この特徴は、人物の顔を含む画像を抽出することによって人物の顔領域を検出する人物の顔識別に適用することができる。そして、本質的な顔データを特定し、フィッシャーの顔データにおけるベクトル距離を取得し、その後、顔の空間的位置を決定し、最後に、特定の人物の顔を識別することができる。
【0058】
d0と異なる距離に位置する別のオブジェクトは、距離決定部11が既に生成した距離画像をリセットして(各ピクセルの確率値をゼロに設定して)、上記の処理を繰り返すことによって検出することができる。
【0059】
上記の実施形態では、距離決定部11において、2台のカメラ2を使用して距離画像を生成したが、3台のカメラを使用してもよい。本発明では、縦方向に3台のカメラおよび横方向に3台のカメラをマトリックス状に配置するなど、3台以上のカメラを使用することによって更に利点を得ることができる。距離測定においてカメラをこのように配置することによって、重複決定法を使ってオブジェクトまでの距離を測定することができ、オブジェクトの影や表面反射による影響を抑制することができるため、正確な距離を決定することができる。
【0060】
図1、図2、および図3によって、オブジェクトの検出方法について説明する。
(画像取得ステップ)
【0061】
オブジェクト検出装置1では、同時に動作する2台のカメラを介して、時系列データ形式のオブジェクト画像を取得する(ステップS1)。
【0062】
(距離画像生成ステップ)
オブジェクト検出装置1では、距離決定部11によって、全体としてオブジェクト画像を構成するピクセルの各々の距離を含む距離画像Dを生成する。ピクセルの距離は、各ピクセルについて2台のカメラビューの視差から計算する(ステップS2)。
【0063】
(平滑化ステップ)
オブジェクト検出装置1では、平滑化部12によって、距離画像上のピクセルの輝度によって表される距離データを平滑化し、平滑化された距離画像D′を生成する(ステップS3)。この平滑化した距離画像D′をヒストグラム生成部13および確率マッピング25生成部15に転送する。
【0064】
(ヒストグラム生成ステップ)
オブジェクト検出装置1では、ヒストグラム生成部13によって、ピクセルが存在する可能性のある0.5メートルから3メートルまでの距離を12.5cm毎に分類した各区分において、ピクセルが存在する距離に対するピクセルの度数を計算し(ステップS4)、ヒストグラムHを生成する。
【0065】
(オブジェクト距離決定ステップ)
オブジェクト検出装置1では、オブジェクト距離決定部14によって、ヒストグラムH中のピクセル度数が最大である特定の分類区分を選択し、選択した分類区分の平均値を最もありそうなオブジェクトの距離として設定する(ステップS5)。例えば、図5Aに示すヒストグラムHにおいて、最もありそうなオブジェクトの距離d0は、最大の度数が得られる1.0メートルないし1.125メートルの間の中点の1.0625メートルである。
【0066】
(確率マッピングステップ)
オブジェクト検出装置1では、確率マッピング部15によって、確率マッピング部15におけるピクセルがオブジェクトを表す確率と、確率マップFPMとを計算する(ステップS6)。確率値Pは、上記で定義したように数式(4)によって計算する。
【0067】
(カーネル検出ステップ)
オブジェクト検出装置1では、ブロブ処理部16のカーネル検出部16aによって、確率マップFPMを使って確率値Pが第1閾値TH1より大きいピクセルを選択し、カーネルを検出する(ステップS7)。
【0068】
(縁検出ステップ)
オブジェクト検出装置1では、ブロブ処理部16の縁検出部16bによって、確率マップFPMを使って、ステップS7で検出したカーネルに隣接するピクセルの中から第1閾値TH2より大きい確率値Pを持つピクセルを選択し、縁領域CRを設定する(ステップS8)。
【0069】
(縁選択ステップ)
オブジェクト検出装置1では、オブジェクト領域特定部17において、多数のピクセルを含む方から3つの縁領域CR(すなわち、大きい方から3つの領域)を選択する(ステップS9)。
【0070】
(オブジェクト領域特定ステップ)
オブジェクト領域特定部17では、ステップS9で選択した3つの縁領域CR1、CR2、およびCR3に外接する長方形を決定する。すなわち、各縁領域に対してX軸(横軸)とY軸(縦軸)に関する最大座標値位置と最小値位置とを決定し、オブジェクト領域特定部17では、結果として、外接する長方形を特定する。
【0071】
オブジェクト検出装置1では、すべてのステップを処理した後、カメラ2によって撮影した取得画像中に存在するオブジェクトを検出する。
【0072】
以上、本発明による特許の実施形態ついて説明してきたが、当業者であれば、後述の請求の範囲によって示す本発明の範囲を逸脱しない限り、変形および改変を行うことができることを理解するであろう。例えば、確率値Pは、数式(3)および数式(4)によって定義したが、確率値として(d−d0)または(d−d0)2を利用してもよい。確率値が大きければ大きいほど、(d−d0)または(d−d0)2の値は小さくなるため、(d−d0)または(d−d0)2の値が第1閾値TH1より小さい(しかし、確率値としては大きい)ピクセルによって、カーネルが選択される。
【0073】
本発明によるオブジェクト検出装置およびオブジェクト検出方法によって対象人物を検出した後、従来のエッジ検出法および輪郭抽出法によって対象人物の検出を行うことができる。
【図面の簡単な説明】
【0074】
【図1】図1は、本発明の一実施形態によるオブジェクト検出装置を示す機能ブロック図である。
【図2】図2は、本発明の一実施形態によるオブジェクト検出を実行するための動作に関するフローチャートの一部を示す。
【図3】図3は、本発明の一実施形態によるオブジェクト検出を実行するための動作に関するフローチャートの残りの部分を示す。
【図4A】図4Aは、本発明の一実施形態によるCCDカメラが取得した画像の一例を示す。
【図4B】図4Bは、図4Aに示す一実施形態による画像から生成された距離画像の一例を示す。
【図4C】図4Cは、図4Bに示す一実施形態による距離画像で使用されるパラメータの対応関係を示す。
【図5A】図5Aは、一実施形態によるガウスフィルタによって平滑化された距離画像D′の一例を示す。
【図5B】図5Bは、一実施形態による数段階に分類された距離に対するピクセルのカウント数のヒストグラムの一例を示す。
【図6A】図6Aは、一実施形態による距離d−d0に対する確率値Pを示す。
【図6B】図6Bは、一実施形態による距離画像D′から生成された確率マップFPMの一例を示す。
【図6C】図6Cは、一実施形態による距離d−d0に対する確率値Pを示す。
【図7A】図7Aは、一実施形態による確率マップFPMの拡大図を示す。
【図7B】図7Bは、一実施形態によるブロブ処理における処理手順を示す。
【図8】図8は、一実施形態によるオブジェクト領域ORとして選択された領域を示す。
【技術分野】
【0001】
関連出願
本出願は、2004年2月17日に出願された米国仮特許出願第60/545,759号、および2004年6月1日に出願された「オブジェクト検出方法、オブジェクト検出装置、およびオブジェクト検出プログラム(Method, Apparatus And Program For Detecting An Object)」という題名の米国特許出願第10/858,878号の特典を請求するものである。
【0002】
発明の背景
1.発明の分野
本発明は、オブジェクト検出方法、オブジェクト検出装置、およびオブジェクト検出コンピュータプログラムに関し、主としてカメラで撮影された画像に含まれるオブジェクト画像の検出、ならびにオブジェクト検出の応用に関する。特に、本発明の利点は、簡易でありながら、正確にオブジェクトおよびオブジェクト画像を視覚的に検出することができる装置、方法、およびコンピュータプログラムを提供することである。
【背景技術】
【0003】
2.発明の背景
グラフィック画像で撮影されたオブジェクトの輪郭を決定するSNAKESという周知の技術がある。この技術を使って、オブジェクトの輪郭を決定するため、まず、グラフィック画像において抽出された曖昧な輪郭を初期値として輪郭モデルを仮定する。そして、最終的な輪郭を得るため、所定の規則の下、縮小や変形によって輪郭モデルを特定する。この技術の1つの適用例では、移動するオブジェクトのエッジ(すなわち、隣接する2つのピクセルの光度が大きく変化する境界)が検出される。そして、これらのエッジとリンクされる輪郭モデルとの関連づけによって輪郭を決定し、オブジェクトを検出する(例えば、日本公開特許公報、特開平08−329254A(1996年)の7ページ、図9、および図10を参照されたい。この文献を参照によって本明細書中に組み込むものとする)。
【0004】
上記のエッジ検出、すなわち、SNAKESによるオブジェクトの検出は、オブジェクトの正確な輪郭を決定するのに有利である。しかしながら、エッジ画像を作成したり輪郭モデルを決定したりするのに膨大な計算能力を必要とする。
【発明の開示】
【発明が解決しようとする課題】
【0005】
発明の要約
本発明の利点は、簡易でありながら、観測する位置にあまり左右されずにオブジェクトを適切に検出する処理を提供する点である。
【0006】
本発明では、オブジェクトの3次元特徴を利用してオブジェクトの形状を決定する。上記の輪郭を検出する方法では、オブジェクトの2次元特徴を利用するので、本決定法とこの輪郭による検出法とはまったく異なるものである。本発明では、オブジェクトの部分を提供するオブジェクト画像を使用する。そして、この画像と、画像を取得するカメラからオブジェクトまでの距離によって定義される距離情報とを組み合わせる。したがって、オブジェクトの2次元情報を表すオブジェクトと推定される部分と、オブジェクトの3次元目の情報を表す推定位置(実際にはカメラからの距離)とによって、オブジェクト部分を評価することができる。この部分情報と位置情報との組合せは、確率によって評価されるので、オブジェクトは、3次元情報によって決定される。この処理において、2次元データにおける部分情報と距離情報とは、すべて観測されたものであり効率的に自己決定されるものであるため、SNAKESなどの従来の輪郭法のように膨大な計算を必要としない。
【課題を解決するための手段】
【0007】
本発明に係るオブジェクト検出装置は、オブジェクトまでの距離を決定する複数のカメラと、距離を決定する距離決定部と、ピクセルの距離に対するピクセル度数を特定するヒストグラム生成部と、最もありそうな距離を決定するオブジェクト距離決定部と、距離の差に基づいてピクセルの確率値マップを生成する確率マッピング部と、ピクセルのグループとしてカーネル領域を決定するカーネル検出部と、カーネル領域の近傍にあるピクセルから選択したピクセルのグループとして縁領域を決定する縁検出部と、オブジェクトが所定の確率で存在するオブジェクト領域を特定するオブジェクト特定部と、を有する。
【0008】
本発明におけるオブジェクト検出法は、上記の本発明のオブジェクト検出装置において記載された各部で実現される各機能を実行するためのステップを有する。
【0009】
本発明におけるオブジェクト画像を検出するためのコンピュータプログラムは、上記の本発明のオブジェクト検出装置において記載された各部で実現される各機能を実行するようコンピュータを動作させるためのコンピュータプログラムを有する。
【0010】
本発明における固有の専門用語に関しては、「オブジェクト検出」、「オブジェクトを検出すること」または同様の表現を「オブジェクトの視覚的検出」または「画像におけるオブジェクト検出」の意味で使用する。本明細書では、すべて、上記の専門用語とそれから生じる技術的意味に基づいて説明する。
【0011】
本発明には、他にも利点や特徴があるが、以下の添付図面を伴う発明に関する詳細な説明とその後に続く請求項とによって、すぐに明らかになるであろう。
【発明を実施するための最良の形態】
【0012】
好ましい実施形態の詳細な説明
本発明におけるオブジェクト検出装置は、視差を使ってオブジェクトまでの距離を決定する複数のカメラと、距離を決定する距離決定部と、カメラによって撮影された画像の部分において、ピクセルの距離に対するピクセルの度数を特定するヒストグラム生成部と、ヒストグラムにおいてピクセルの数が最大となるありそうな距離を決定するオブジェクト距離決定部と、オブジェクト距離決定部によって取得された最もありそうな距離との距離の差に基づいてピクセルの確率値マップを生成する確率マッピング部と、確率が第1閾値より大きいピクセルのグループとして、カーネル領域を決定するカーネル検出部と、カーネル領域の近傍にあるピクセルから選択され、確率が第2閾値より大きいが第1閾値より小さいピクセルのグループとして、縁領域を決定する縁検出部と、オブジェクトが所定の確率で現れるオブジェクト領域を特定するオブジェクト特定部と、を有する。
【0013】
本装置では、輪郭線のエッジ計算や連結性の計算に膨大な計算能力を必要とする輪郭の計算が不要であるため、コンピュータへの負担がより少なくなる。カラー検出を行わないため、必要とする計算能力はさらに少なくて済む。本発明の他の利点は以下の通りである。オブジェクトが平面的で表面にあまり目印がない場合、複数のカメラによる三角測定が困難になるため、距離決定部の決定する距離が誤った距離になってしまう傾向がある。したがって、オブジェクトの全体またはオブジェクトの部分が、このように誤った距離で特定されたピクセルによって占められる危険性がある。しかしながら、オブジェクト特定部は、カーネル領域近傍の領域の中からピクセルを選択するため、オブジェクトの距離と同様の距離を持つと誤って決定されたピクセルを選択することはない。したがって、本発明は、様々な種類のオブジェクトに対してロバストなオブジェクト検出装置を提供する。
【0014】
確率マッピング部では、次の数式(1)によって、ピクセルの確率値を評価することが好ましい。
【数4】
ここで、dはピクセルに対する距離、d0は最もありそうな距離、aは正規化定数、C(C>1)は任意に与えられた定数である。確率に関する周知の式を利用するには、Cが自然数であることが好ましい。したがって、数式(1)は、次のように変更することができる。
【数5】
【0015】
最大の確率値は1つだけ与えられ、この最大値において確率を正規化することができるため、この確率評価をすべての距離決定に対して一貫して適用することができる。
【0016】
縁検出部において、オブジェクト特定部は、縁領域の中から、ピクセルの数が最も多い方から順に、すなわち最も広い領域から順に、例えば、3つの縁領域を縁領域として選択することができる。さらに、これらの3つの領域に外接する長方形領域を縁領域として特定してもよい。
【0017】
オブジェクト距離決定部は、ガウスフィルタなどの空間フィルタを有し、各ピクセルに対して取得した距離から外因性ノイズやスプリアスノイズを取り除き、フィルタリング後の距離を使用することによってヒストグラムを修正することが好ましい。(以下、すべてのピクセルに対する距離のマッピング画像を、距離画像と呼ぶ。)その結果、距離画像を平滑化した後、ピクセル度数が最大である距離が最もありそうな距離であるとして、最もありそうな距離を特定してもよい。フィルタリングを実行するには、カメラによって撮影された観測画像に対応する平面マップを構成するピクセルに対して与えられた距離を補間する。
【0018】
距離画像が、オブジェクトの画像のある部分を失った場合、ガウスフィルタを使用することによって、雑音による障害が原因の画像における欠落データを補間することができる。このガウスフィルタのフィルタ作用によって、ある程度簡単にオブジェクトを特定することができる。本発明では、輪郭検出をまったく使用しないため、フィルタの有益な作用を本発明に活用することができる。
【0019】
縁検出部では、上記のように、確率の2つの閾値を条件として、カーネル検出部が特定したカーネル領域の近傍にあるピクセルを繰返し選択する。
【0020】
本発明におけるオブジェクト検出方法は、複数のカメラとこれらのカメラによって観測されたオブジェクトのビューの中の視差とを使って距離を決定する距離決定ステップと、カメラによって撮影された画像の部分において、ピクセルの距離に対するピクセルの度数を特定するヒストグラム生成ステップと、ヒストグラムにおいてピクセルの数が最大となる最もありそうな距離を決定するオブジェクト距離決定ステップと、オブジェクト距離決定ステップにおいて取得された最もありそうな距離との距離の差に基づいてピクセルの確率を求める確率マッピングステップと、確率が第1閾値より大きいピクセルのグループとして、カーネル領域を決定するカーネル検出ステップと、カーネル領域の近傍にあるピクセルから選択され、確率が第2閾値より大きいが第1閾値より小さいピクセルのグループとして、縁領域を決定する縁検出ステップと、オブジェクトが所定の確率で現れるオブジェクト領域を特定するオブジェクト特定ステップと、を有する。
【0021】
確率マッピングステップでは、次の数式(3)によって、ピクセルの確率値を評価することが好ましい。
【数6】
ここで、dはピクセルに対する距離、d0は最もありそうな距離、aは正規化定数、C(C>1)は任意に与えられた定数である。
【0022】
オブジェクト距離決定ステップでは、ガウスフィルタなどの空間フィルタを有し、距離画像から外因性ノイズやスプリアスノイズを取り除き、フィルタリング後の距離を使用することによってヒストグラムを修正することが好ましい。その結果、距離画像を平滑化した後、ピクセル度数が最大である距離が最もありそうな距離であるとして、最もありそうな距離を特定してもよい。
【0023】
縁検出ステップにおいて、オブジェクト特定ステップは、ピクセルの数が最も多い方から順に、すなわち縁領域の中で最も広い領域から順に、例えば、3つの縁領域を縁領域として選択することができる。さらに、これらの3つの領域に外接する長方形領域を縁領域として特定してもよい。
【0024】
縁検出ステップでは、上記のように、2つの確率の閾値を条件として、カーネル検出ステップにおいて特定したカーネル領域の近傍にあるピクセルを繰返し選択する。
【0025】
本発明は、上記で示された機能において上記のオブジェクト検出装置の動作を実行させるコンピュータプログラムが格納されたコンピュータ読み取り可能な媒体によって提供することができる。
【0026】
本発明には、簡易な計算処理によってオブジェクトを検出するという利点がある。また、本発明には、オブジェクトのカーネル領域に対する縁領域を使用することによって、平面的形状が原因で引き起こされるオブジェクト検出の誤りを防止することができるという利点もある。さらに、本発明には、雑音障害によるオブジェクト画像の欠落を効果的に補間することによって、ロバストなオブジェクト検出能力を有するという利点もある。
【0027】
以下、本発明の実施形態について、図面を使って説明する。
【0028】
図1は、本発明のオブジェクト検出装置1を示す機能ブロック図である。オブジェクト検出装置は、2台のカメラを使って姿や物質などのオブジェクトの画像を取得し、取得した画像中のオブジェクト領域を特定する。オブジェクト検出装置1は、距離決定部11と、平滑化フィルタ部12と、ヒストグラム生成部13と、オブジェクト距離決定部14と、確率マッピング部15と、ブロック処理部16と、カーネル検出部16aと、閾値記憶部18と、を備える。右側カメラ2aと左側カメラ2bとの2台のカメラが、相互に距離Bだけ離れて設置されている。
【0029】
各部11ないし17は、RAM、ROM、および周辺記憶装置などの記憶装置と、中央処理装置と、出力装置とを含む汎用コンピュータシステムにおいて動作するコンピュータプログラムを実行することによって、実現される。各部11ないし17で処理される情報は、記憶装置から取り出されたり、記憶装置へ格納されたりする。
【0030】
カメラ2によって撮影された取得画像は、図示しない画像入力装置から距離決定部11に入力される。
【0031】
距離決定部11では、カメラ2aおよび2bによって同時に撮影された2つの取得画像を分析し、2つの取得画像によって特定されるすべてのオブジェクトまでの距離(厳密には、カメラの焦点面からの距離)を決定する。距離決定部11は、これらの2つの取得画像から上記のように決定したすべてのオブジェクトまでの距離を使って、距離画像を生成する。この距離画像をさらに処理する前に記憶装置に格納する。カメラ2によって取得される画像は、例えば、100ms毎に1フレームなどのレートで、距離決定部11に入力される。
【0032】
距離は、距離決定部11によって次のように決定される。参照画像として右側のカメラ2aによって撮影された取得画像において画像ブロックを特定し、ブロックマッチングのため左側のカメラ2bによって同時に撮影された取得画像における対応する画像ブロックと比較する。そして、2つのマッチングした画像ブロックの位置の差によって、視差を計算する。この視差によって決定した距離と取得画像とを組み合わせることによって距離画像を生成する。
【0033】
視差をZ、カメラ2(不図示)からオブジェクトまでの距離をL、カメラ2(不図示)の焦点距離をf、右側のカメラ2aと左側のカメラ2bとの間の距離をBと仮定すると、オブジェクトまでの距離は、次の数式(2)によって求められる。
【数7】
【0034】
図4Aおよび図4Bによって、距離決定部11が生成する距離画像について詳細に説明する。図4Aに時系列で入力される取得画像、図4Bに距離画像、図4Cに距離画像に使用されるパラメータの対応関係を示す。
【0035】
図4Aに、人物の像が中央に位置するよう撮影した取得画像の一例を示す。図4Bに示す距離画像Dは、右側のカメラで取得した画像と左側のカメラで取得した画像とによって視差が決定されたピクセルの属性で表される。図4Cに示す距離画像で使用されるパラメータの対応関係によって、図4Bに示すピクセルの属性が取得される。視差が大きければ大きいほど、オブジェクトはより近傍に位置し、逆の場合も同様である。図4Bでは、ピクセルの属性として距離を示すが、ここでは、ピクセルの輝度によって距離を表している。属性が短い距離を表すピクセルに関しては、輝度を明るく、属性が長い距離を表すピクセルに関しては、輝度を暗くする。
【0036】
図4Cに示すように、座標(0、0)において視差はゼロであるが、これは、座標(0、0)のピクセルに関するオブジェクトが無限に離れた点に位置することを意味する。図4Cに示すように、座標(200,200)のピクセルにおける視差は15であり、これは、このピクセルのオブジェクトが参照カメラから0.99m離れた所に位置することを意味する。
【0037】
図4Cで示す距離画像Dには、図4Bに示すように複数の黒い点が点在している。これは、光度の変化や色の変化が少ない部分では、ピクセルの照合を行うことができないため、視差がゼロである(つまり、これらのポイントは無限に離れた場所に位置する)と決定されるからである。
【0038】
平滑化フィルタ12では、記憶装置から距離画像を取り出し、輝度データをフィルタリングして別の輝度データにし、これらの輝度データによって構成される別の距離画像D′を記憶装置に格納する。この平滑化フィルタ12によって、隣接する無限の距離値で、正しい距離パラメータの欠落が原因で点在する黒い点を補間することができる。この平滑化フィルタリングのため、ガウスフィルタを使用する。図5Aに、図4Bに示す距離画像に対してガウスフィルタによってフィルタリングを行った後の距離画像の一例を示す。
【0039】
ヒストグラム生成部13では、(フィルタリング済みの)距離画像D′を取り出す。カメラからの距離と、距離毎のピクセルのカウント数であるピクセル度数とによって、画像上のすべてのピクセルを評価する。すべての距離毎の度数を記憶装置に格納する。度数ヒストグラムは、距離を複数の範囲に分類し、これらの範囲に属するピクセルの数をカウントして生成する。複数の範囲は、例えば、0.5−0.625メートル、0.625−0.75メートル、…、など、0.5〜3メートルの距離範囲を0.125メートル間隔で20に分類したりする。この距離の分類に基づいて、ピクセルの度数を評価する。図5Bは、その結果のヒストグラムを示す。
【0040】
オブジェクト距離決定部14では、ヒストグラムHのデータを取り出し、距離の分類の中で最もありそうな距離、すなわち、ヒストグラムにおいて分類された距離の中でピクセルの数が最大値となる距離を決定する。最もありそうな距離をd0として特定し、記憶装置に記録する。
【0041】
例えば、ピクセルの度数は、1−1.125メートルの距離分類において最大値であるので、1.0625メートルのように代表的な距離値を最もありそうな距離d0として特定する。
【0042】
確率マッピング部15では、各ピクセルについて決定された距離dと最もありそうな距離d0との差を(d−d0)として、各ピクセルの確率を示す確率マップを生成することによって、FPM(Foreground Probability Map)を生成する。
【数8】
ここで、Cは自然数である。すると、数式(4)は、次のように変更することができる。
【数9】
ここで、定数aは、オブジェクトが存在する可能性のある幅を決定する。図6Aに、距離の差(d−d0)に対する確率値Pを示す。定数aは、ガウス関数、特に関数の形状における幅を正規化するものである。
【0043】
ブロブ処理装置16は、確率マップをFPMとして取り出し、高い確率値を持つ縁領域CRとカーネル領域とを決定する。
【0044】
特に、ブロブ処理部16には、カーネル検出部16aと縁検出部16bとがある。第1閾値TH1とTH1より小さい第2閾値TH2との2つの閾値は、記憶装置に記録される。
【0045】
カーネル検出部16aでは、第1閾値TH1および確率マップFPMを取り出し、
P>TH1を満たすピクセルによって占められる領域をカーネルとして決定し、これらのピクセルすべての位置を記憶装置に記録する。
【0046】
図7Aに、確率マップFPMの拡大図を示す。図7Bに、X軸に沿って軸Y1上の各ピクセルの確率値を示す。
【0047】
図7Bに示す実施例では、点P3ないし点P5および点P18に見られるピクセルが、閾値TH1より大きい確率値を持つことを示している。本実施例では、TH1の値として0.72が選択されている。
【0048】
縁検出部16bでは、第2閾値TH2および確率マップFPMを記憶装置から取り出す。以下の隣接条件を満たすピクセルをカーネル領域の隣接ピクセルとして選択する。最初に、カーネル領域に隣接するピクセルを選択し、第2閾値と比較して次の不等式を満たすか否かを調べる。
【0049】
【数10】
【0050】
上記の条件を満たすピクセルを選択した後、これらのピクセルに隣接する新しいピクセルについて次の同じ不等式を満たすか否かをチェックする。
【数11】
【0051】
同様のチェックを続けて、すべてのピクセルが上記の隣接条件を満たす領域を最終的に決定する。この領域を縁領域CRという。
【0052】
図7Bによると、点P3ないし点P5に隣接し、第2閾値より大きい確率値を持つ縁領域CR中のピクセルは、点P2および点P6である。同じ処理を繰り返すと、P1が縁領域CRに含まれることがわかる。ピクセルP18に対する繰り返し処理によって、ピクセルP16、ピクセルP17、およびピクセルP19を縁領域CRとして検出することができる。本実施例では、第2閾値TH2として0.45を使用した。
【0053】
一方、ピクセルがカーネル領域に隣接していない場合は、縁領域CRとして選択されない。例えば、この繰り返し処理ではP11まで到達しないため、ピクセルP11は選択されない。
【0054】
縁領域CRは、これらすべてのピクセルによって特定される。多くの場合、複数の領域が縁領域CRとして選択される。図6Cに、そのような実施例を示す。すなわち、図6Bに示すように、複数の縁領域CR1ないし縁領域CR3が確率マップから選択される。
【0055】
縁検出部16bでは、記憶装置から縁領域CRを取り出し、下記のようにオブジェクト領域ORを決定する。
【0056】
本実施形態では、縁領域CRに関して、面積が大きい方から、すなわち多数のピクセルを含む方から3つの領域を選択する。それらは、図6CにおけるCR1、CR2、およびCR3である。縁領域CRに対して外接する長方形を特定し、これらをオブジェクト領域ORとして決定する。オブジェクト領域ORは、単に外接する長方形として最も大きな領域を選択するか、またはオブジェクト領域ORとして直接縁領域CRを使用することによって特定する。決定したオブジェクト領域ORを格納し、人物の顔識別のために使用する。
【0057】
図8に示すように、オブジェクト領域ORを一旦元の取得画像の中に重ねると、結果として得られたオブジェクト領域ORは、人物画像HMに外接している。すなわち、輪郭決定処理をまったく利用しないで、オブジェクトの距離情報を利用することによって、取得画像から人物画像HMを抽出し、単一のオブジェクトとして決定する。したがって、ピクセル画像が不連続である場合でさえ、オブジェクト画像の輪郭を考慮しないで、オブジェクトの空間的立体を取得することができる。この特徴は、人物の顔を含む画像を抽出することによって人物の顔領域を検出する人物の顔識別に適用することができる。そして、本質的な顔データを特定し、フィッシャーの顔データにおけるベクトル距離を取得し、その後、顔の空間的位置を決定し、最後に、特定の人物の顔を識別することができる。
【0058】
d0と異なる距離に位置する別のオブジェクトは、距離決定部11が既に生成した距離画像をリセットして(各ピクセルの確率値をゼロに設定して)、上記の処理を繰り返すことによって検出することができる。
【0059】
上記の実施形態では、距離決定部11において、2台のカメラ2を使用して距離画像を生成したが、3台のカメラを使用してもよい。本発明では、縦方向に3台のカメラおよび横方向に3台のカメラをマトリックス状に配置するなど、3台以上のカメラを使用することによって更に利点を得ることができる。距離測定においてカメラをこのように配置することによって、重複決定法を使ってオブジェクトまでの距離を測定することができ、オブジェクトの影や表面反射による影響を抑制することができるため、正確な距離を決定することができる。
【0060】
図1、図2、および図3によって、オブジェクトの検出方法について説明する。
(画像取得ステップ)
【0061】
オブジェクト検出装置1では、同時に動作する2台のカメラを介して、時系列データ形式のオブジェクト画像を取得する(ステップS1)。
【0062】
(距離画像生成ステップ)
オブジェクト検出装置1では、距離決定部11によって、全体としてオブジェクト画像を構成するピクセルの各々の距離を含む距離画像Dを生成する。ピクセルの距離は、各ピクセルについて2台のカメラビューの視差から計算する(ステップS2)。
【0063】
(平滑化ステップ)
オブジェクト検出装置1では、平滑化部12によって、距離画像上のピクセルの輝度によって表される距離データを平滑化し、平滑化された距離画像D′を生成する(ステップS3)。この平滑化した距離画像D′をヒストグラム生成部13および確率マッピング25生成部15に転送する。
【0064】
(ヒストグラム生成ステップ)
オブジェクト検出装置1では、ヒストグラム生成部13によって、ピクセルが存在する可能性のある0.5メートルから3メートルまでの距離を12.5cm毎に分類した各区分において、ピクセルが存在する距離に対するピクセルの度数を計算し(ステップS4)、ヒストグラムHを生成する。
【0065】
(オブジェクト距離決定ステップ)
オブジェクト検出装置1では、オブジェクト距離決定部14によって、ヒストグラムH中のピクセル度数が最大である特定の分類区分を選択し、選択した分類区分の平均値を最もありそうなオブジェクトの距離として設定する(ステップS5)。例えば、図5Aに示すヒストグラムHにおいて、最もありそうなオブジェクトの距離d0は、最大の度数が得られる1.0メートルないし1.125メートルの間の中点の1.0625メートルである。
【0066】
(確率マッピングステップ)
オブジェクト検出装置1では、確率マッピング部15によって、確率マッピング部15におけるピクセルがオブジェクトを表す確率と、確率マップFPMとを計算する(ステップS6)。確率値Pは、上記で定義したように数式(4)によって計算する。
【0067】
(カーネル検出ステップ)
オブジェクト検出装置1では、ブロブ処理部16のカーネル検出部16aによって、確率マップFPMを使って確率値Pが第1閾値TH1より大きいピクセルを選択し、カーネルを検出する(ステップS7)。
【0068】
(縁検出ステップ)
オブジェクト検出装置1では、ブロブ処理部16の縁検出部16bによって、確率マップFPMを使って、ステップS7で検出したカーネルに隣接するピクセルの中から第1閾値TH2より大きい確率値Pを持つピクセルを選択し、縁領域CRを設定する(ステップS8)。
【0069】
(縁選択ステップ)
オブジェクト検出装置1では、オブジェクト領域特定部17において、多数のピクセルを含む方から3つの縁領域CR(すなわち、大きい方から3つの領域)を選択する(ステップS9)。
【0070】
(オブジェクト領域特定ステップ)
オブジェクト領域特定部17では、ステップS9で選択した3つの縁領域CR1、CR2、およびCR3に外接する長方形を決定する。すなわち、各縁領域に対してX軸(横軸)とY軸(縦軸)に関する最大座標値位置と最小値位置とを決定し、オブジェクト領域特定部17では、結果として、外接する長方形を特定する。
【0071】
オブジェクト検出装置1では、すべてのステップを処理した後、カメラ2によって撮影した取得画像中に存在するオブジェクトを検出する。
【0072】
以上、本発明による特許の実施形態ついて説明してきたが、当業者であれば、後述の請求の範囲によって示す本発明の範囲を逸脱しない限り、変形および改変を行うことができることを理解するであろう。例えば、確率値Pは、数式(3)および数式(4)によって定義したが、確率値として(d−d0)または(d−d0)2を利用してもよい。確率値が大きければ大きいほど、(d−d0)または(d−d0)2の値は小さくなるため、(d−d0)または(d−d0)2の値が第1閾値TH1より小さい(しかし、確率値としては大きい)ピクセルによって、カーネルが選択される。
【0073】
本発明によるオブジェクト検出装置およびオブジェクト検出方法によって対象人物を検出した後、従来のエッジ検出法および輪郭抽出法によって対象人物の検出を行うことができる。
【図面の簡単な説明】
【0074】
【図1】図1は、本発明の一実施形態によるオブジェクト検出装置を示す機能ブロック図である。
【図2】図2は、本発明の一実施形態によるオブジェクト検出を実行するための動作に関するフローチャートの一部を示す。
【図3】図3は、本発明の一実施形態によるオブジェクト検出を実行するための動作に関するフローチャートの残りの部分を示す。
【図4A】図4Aは、本発明の一実施形態によるCCDカメラが取得した画像の一例を示す。
【図4B】図4Bは、図4Aに示す一実施形態による画像から生成された距離画像の一例を示す。
【図4C】図4Cは、図4Bに示す一実施形態による距離画像で使用されるパラメータの対応関係を示す。
【図5A】図5Aは、一実施形態によるガウスフィルタによって平滑化された距離画像D′の一例を示す。
【図5B】図5Bは、一実施形態による数段階に分類された距離に対するピクセルのカウント数のヒストグラムの一例を示す。
【図6A】図6Aは、一実施形態による距離d−d0に対する確率値Pを示す。
【図6B】図6Bは、一実施形態による距離画像D′から生成された確率マップFPMの一例を示す。
【図6C】図6Cは、一実施形態による距離d−d0に対する確率値Pを示す。
【図7A】図7Aは、一実施形態による確率マップFPMの拡大図を示す。
【図7B】図7Bは、一実施形態によるブロブ処理における処理手順を示す。
【図8】図8は、一実施形態によるオブジェクト領域ORとして選択された領域を示す。
【特許請求の範囲】
【請求項1】
ピクセルで構成される複数の画像を撮影する複数のカメラによって同時に取得されたこれらの画像を使用するオブジェクト画像検出装置であって、
複数の画像上で取得された視差を使って、視覚的に検出されたオブジェクトの各部分までの距離を決定する距離決定部と、
前記距離決定部によって与えられた前記距離を分類した複数の距離範囲に対して前記ピクセルの度数を特定するヒストグラム生成部と、
前記ヒストグラムによって特定されたピクセル度数の中で最大のピクセル度数を有する距離範囲を選択することによって、前記複数の距離範囲の中で最もありそうな距離を決定するオブジェクト距離決定部と、
前記最もありそうな距離と前記距離決定部によって与えられた前記距離との差によって確率値を計算し、前記ピクセルに対する確率値マップを生成する確率マッピング部と、
前記確率値が第1閾値より大きいピクセルによって構成されるカーネル領域を検出するカーネル検出部と、
前記カーネル領域を構成するピクセルの周辺に隣接し、確率値が前記第1閾値より小さい第2閾値より大きい隣接ピクセルによって構成される少なくとも1つの縁領域を検出する縁検出部と、
少なくとも1つの前記縁領域に基づいてオブジェクト領域を特定するオブジェクト領域特定部と、を備えることを特徴とするオブジェクト画像検出装置。
【請求項2】
前記確率マッピング部は、d0およびdがそれぞれ前記最もありそうな距離および距離決定部によって与えられた各々の前記距離であり、Cとαが共に定数であるとき、数式
【数1】
によって、前記ピクセルの各々に対する距離画像の前記確率値Pを計算することを特徴とする請求項1に記載のオブジェクト画像検出装置。
【請求項3】
縁検出部は、所定数の前記縁領域を領域面積が大きい方から選択し、
前記オブジェクト領域特定部は、所定数の前記縁領域に基づいてオブジェクト領域を特定することを特徴とする請求項2に記載のオブジェクト画像検出装置。
【請求項4】
前記縁検出部は、所定数の前記縁領域を領域面積が大きい方から選択し、
前記オブジェクト領域特定部は、前記所定数の縁領域に外接する長方形領域を前記オブジェクト領域として特定することを特徴とする請求項2に記載のオブジェクト画像検出装置。
【請求項5】
前記オブジェクト距離決定部は、前記距離決定部によって与えられた前記ピクセルに対する前記距離を補間することによってフィルタリングした距離を提供する空間フィルタをさらに有し、
前記ヒストグラム生成部は、前記距離決定部によって与えられた前記フィルタリングされた距離を分類した複数の距離範囲に対して前記ピクセルの度数を特定し、
前記オブジェクト距離決定部は、前記ヒストグラムによって特定されたピクセル度数の中で最大のピクセル度数を有する距離範囲を選択することによって、前記複数の距離範囲の中で最もありそうな距離を決定することを特徴とする請求項1に記載のオブジェクト画像検出装置。
【請求項6】
前記縁検出部は、所定数の前記縁領域を領域面積が大きい方から選択し、
前記オブジェクト領域特定部は、前記所定数の縁領域を前記オブジェクト領域として特定することを特徴とする請求項5に記載のオブジェクト画像検出装置。
【請求項7】
前記縁検出部は、所定数の前記縁領域を領域面積が大きい方から選択し、
前記オブジェクト領域特定部は、所定数の前記縁領域に外接する長方形領域を前記オブジェクト領域として特定することを特徴とする請求項5に記載のオブジェクト画像検出装置。
【請求項8】
前記縁検出部は、前記カーネル領域に隣接するピクセルの中で確率値が前記第2閾値より大きいピクセルを選択し、これらの選択されたピクセルに隣接するピクセルの中で確率値が前記第2閾値より大きいピクセルを繰り返し選択し、このように選択を繰り返すことによって最終的に縁領域を決定することを特徴とする請求項1に記載のオブジェクト画像検出装置。
【請求項9】
ピクセルで構成される複数の画像を撮影する複数のカメラによって同時に取得されたこれらの画像を使用するオブジェクト画像検出方法であって、
複数の画像上で取得された視差を使って、視覚的に検出されたオブジェクトの部分であり画像がピクセルによって表現されているこの部分までの距離を決定する距離決定ステップと、
前記距離決定ステップによって与えられた前記距離を分類した複数の距離範囲に対して前記ピクセルの度数を特定するヒストグラム生成ステップと、
前記ヒストグラムによって特定されたピクセル度数の中で最大のピクセル度数を有する距離範囲を選択することによって、前記複数の距離範囲の中で最もありそうな距離を決定するオブジェクト距離決定ステップと、
前記最もありそうな距離と前記距離決定ステップによって与えられた前記距離との差によって確率値を計算し、前記ピクセルに対する確率値マップを生成する確率マッピングステップと、
前記確率値が第1閾値より大きいピクセルによって構成されるカーネル領域を検出するカーネル検出ステップと、
前記カーネル領域を構成するピクセルの周辺に隣接し、確率値が前記第1閾値より小さい第2閾値より大きい隣接ピクセルによって構成される少なくとも1つの縁領域を検出する縁検出ステップと、
少なくとも1つの前記縁領域に基づいてオブジェクト領域を特定するオブジェクト領域特定ステップと、を含むことを特徴とするオブジェクト画像検出方法。
【請求項10】
前記確率マッピングステップは、d0およびdがそれぞれ前記最もありそうな距離および距離決定ステップによって与えられた各々の前記距離であり、Cとαが共に定数であるとき、数式
【数2】
によって、前記ピクセルの各々に対する距離画像の前記確率値Pを計算することを特徴とする請求項9に記載のオブジェクト画像検出方法。
【請求項11】
前記オブジェクト距離決定ステップは、前記距離決定ステップによって与えられた前記ピクセルに対する前記距離を補間することによってフィルタリングした距離を提供する空間フィルタをさらに有し、
前記ヒストグラム生成ステップは、前記距離決定ステップによって与えられた前記フィルタリングされた距離を分類した複数の距離範囲に対して前記ピクセルの度数を特定し、
前記オブジェクト距離決定ステップは、前記ヒストグラムによって特定されたピクセル度数の中で最大のピクセル度数を有する距離範囲を選択することによって、前記複数の距離範囲の中で最もありそうな距離を決定することを特徴とする請求項9に記載のオブジェクト画像検出方法。
【請求項12】
縁検出ステップは、所定数の前記縁領域を領域面積が大きい方から選択し、
前記オブジェクト領域特定ステップは、前記所定数の縁領域に基づいてオブジェクト領域を特定することを特徴とする請求項10に記載のオブジェクト画像検出方法。
【請求項13】
前記縁検出ステップは、所定数の前記縁領域を領域面積が大きい方から選択し、
前記オブジェクト領域特定ステップは、前記所定数の縁領域を前記オブジェクト領域として特定することを特徴とする請求項11に記載のオブジェクト画像検出方法。
【請求項14】
前記縁検出ステップは、所定数の前記縁領域を領域面積が大きい方から選択し、
前記オブジェクト領域特定ステップは、所定数の前記縁領域に外接する長方形領域を前記オブジェクト領域として特定することを特徴とする請求項10に記載のオブジェクト画像検出方法。
【請求項15】
前記縁検出ステップは、所定数の前記縁領域を領域面積が大きい方から選択し、
前記オブジェクト領域特定ステップは、所定数の前記縁領域に外接する長方形領域を前記オブジェクト領域として特定することを特徴とする請求項11に記載のオブジェクト画像検出方法。
【請求項16】
前記縁検出ステップは、前記カーネル領域に隣接するピクセルの中で確率値が前記第2閾値より大きいピクセルを選択し、これらの選択されたピクセルに隣接するピクセルの中で確率値が前記第2閾値より大きいピクセルを繰り返し選択し、このように選択を繰り返すことによって最終的に縁領域を決定することを特徴とする請求項9に記載のオブジェクト画像検出方法。
【請求項17】
ピクセルで構成される複数の画像を撮影する複数のカメラによって同時に取得されたこれらの画像を使用してオブジェクト画像を検出するコンピュータを動作させるコンピュータプログラムであって、
複数の画像上で取得された視差を使って、視覚的に検出されたオブジェクトの部分であり画像がピクセルによって表現されているこの部分までの距離を決定する距離決定プログラムと、
前記距離決定プログラムによって与えられた前記距離を分類した複数の距離範囲に対して前記ピクセルの度数を特定するヒストグラム生成プログラムと、
前記ヒストグラムによって特定されたピクセル度数の中で最大のピクセル度数を有する距離範囲を選択することによって、前記複数の距離範囲の中で最もありそうな距離を決定するオブジェクト距離決定プログラムと、
前記最もありそうな距離と前記距離決定プログラムによって与えられた前記距離との差によって確率値を計算し、前記ピクセルに対する確率値マップを生成する確率マッピングプログラムと、
前記確率値が第1閾値より大きいピクセルによって構成されるカーネル領域を検出するカーネル検出プログラムと、
前記カーネル領域を構成するピクセルの周辺に隣接し、確率値が前記第1閾値より小さい第2閾値より大きい隣接ピクセルによって構成される少なくとも1つの縁領域を検出する縁検出プログラムと、
少なくとも1つの前記縁領域に基づいてオブジェクト領域を特定するオブジェクト領域特定プログラムと、を含むことを特徴とするコンピュータプログラム。
【請求項18】
前記確率マッピングプログラムは、d0およびdがそれぞれ前記最もありそうな距離および距離決定プログラムによって与えられた各々の前記距離であり、Cとαが共に定数であるとき、数式
【数3】
によって、前記ピクセルの各々に対する距離画像の前記確率値Pを計算することを特徴とする請求項17に記載のコンピュータプログラム。
【請求項19】
縁検出プログラムは、所定数の前記縁領域を領域面積が大きい方から選択し、
前記オブジェクト領域特定プログラムは、前記所定数の縁領域に基づいてオブジェクト領域を特定することを特徴とする請求項18に記載のコンピュータプログラム。
【請求項20】
前記縁検出プログラムは、所定数の前記縁領域を領域面積が大きい方から選択し、
前記オブジェクト領域特定プログラムは、所定数の前記縁領域に外接する長方形領域を前記オブジェクト領域として特定することを特徴とする請求項18に記載のオブジェクト画像検出方法。
【請求項21】
前記オブジェクト距離決定プログラムは、前記距離決定プログラムによって与えられた前記ピクセルに対する前記距離を補間することによってフィルタリングした距離を提供する空間フィルタをさらに有し、
前記ヒストグラム生成プログラムは、前記距離決定プログラムによって与えられた前記フィルタリングされた距離を分類した複数の距離範囲に対して前記ピクセルの度数を特定し、
前記オブジェクト距離決定プログラムは、前記ヒストグラムによって特定されたピクセル度数の中で最大のピクセル度数を有する距離範囲を選択することによって、前記複数の距離範囲の中で最もありそうな距離を決定することを特徴とする請求項17に記載のオブジェクト画像検出プログラム。
【請求項22】
前記縁検出プログラムは、所定数の前記縁領域を領域面積が大きい方から選択し、
前記オブジェクト領域特定プログラムは、前記所定数の縁領域を前記オブジェクト領域として特定することを特徴とする請求項21に記載のコンピュータプログラム。
【請求項23】
前記縁検出プログラムは、所定数の前記縁領域を領域面積が大きい方から選択し、
前記オブジェクト領域特定プログラムは、所定数の前記縁領域に外接する長方形領域を前記オブジェクト領域として特定することを特徴とする請求項21に記載のオブジェクト画像検出方法。
【請求項24】
前記縁検出プログラムは、前記カーネル領域に隣接するピクセルの中で確率値が前記第2閾値より大きいピクセルを選択し、これらの選択されたピクセルに隣接するピクセルの中で確率値が前記第2閾値より大きいピクセルを繰り返し選択し、このように選択を繰り返すことによって最終的に縁領域を決定することを特徴とする請求項17に記載のオブジェクト画像検出コンピュータプログラム。
【請求項25】
請求項1に記載のオブジェクト画像検出装置を使用するオブジェクト画像検出方法。
【請求項26】
請求項9に記載のオブジェクト画像検出方法を使用するオブジェクト画像検出方法。
【請求項27】
請求項17に記載のオブジェクト画像を検出するコンピュータを動作させるコンピュータプログラムを使用するオブジェクト画像検出方法。
【請求項1】
ピクセルで構成される複数の画像を撮影する複数のカメラによって同時に取得されたこれらの画像を使用するオブジェクト画像検出装置であって、
複数の画像上で取得された視差を使って、視覚的に検出されたオブジェクトの各部分までの距離を決定する距離決定部と、
前記距離決定部によって与えられた前記距離を分類した複数の距離範囲に対して前記ピクセルの度数を特定するヒストグラム生成部と、
前記ヒストグラムによって特定されたピクセル度数の中で最大のピクセル度数を有する距離範囲を選択することによって、前記複数の距離範囲の中で最もありそうな距離を決定するオブジェクト距離決定部と、
前記最もありそうな距離と前記距離決定部によって与えられた前記距離との差によって確率値を計算し、前記ピクセルに対する確率値マップを生成する確率マッピング部と、
前記確率値が第1閾値より大きいピクセルによって構成されるカーネル領域を検出するカーネル検出部と、
前記カーネル領域を構成するピクセルの周辺に隣接し、確率値が前記第1閾値より小さい第2閾値より大きい隣接ピクセルによって構成される少なくとも1つの縁領域を検出する縁検出部と、
少なくとも1つの前記縁領域に基づいてオブジェクト領域を特定するオブジェクト領域特定部と、を備えることを特徴とするオブジェクト画像検出装置。
【請求項2】
前記確率マッピング部は、d0およびdがそれぞれ前記最もありそうな距離および距離決定部によって与えられた各々の前記距離であり、Cとαが共に定数であるとき、数式
【数1】
によって、前記ピクセルの各々に対する距離画像の前記確率値Pを計算することを特徴とする請求項1に記載のオブジェクト画像検出装置。
【請求項3】
縁検出部は、所定数の前記縁領域を領域面積が大きい方から選択し、
前記オブジェクト領域特定部は、所定数の前記縁領域に基づいてオブジェクト領域を特定することを特徴とする請求項2に記載のオブジェクト画像検出装置。
【請求項4】
前記縁検出部は、所定数の前記縁領域を領域面積が大きい方から選択し、
前記オブジェクト領域特定部は、前記所定数の縁領域に外接する長方形領域を前記オブジェクト領域として特定することを特徴とする請求項2に記載のオブジェクト画像検出装置。
【請求項5】
前記オブジェクト距離決定部は、前記距離決定部によって与えられた前記ピクセルに対する前記距離を補間することによってフィルタリングした距離を提供する空間フィルタをさらに有し、
前記ヒストグラム生成部は、前記距離決定部によって与えられた前記フィルタリングされた距離を分類した複数の距離範囲に対して前記ピクセルの度数を特定し、
前記オブジェクト距離決定部は、前記ヒストグラムによって特定されたピクセル度数の中で最大のピクセル度数を有する距離範囲を選択することによって、前記複数の距離範囲の中で最もありそうな距離を決定することを特徴とする請求項1に記載のオブジェクト画像検出装置。
【請求項6】
前記縁検出部は、所定数の前記縁領域を領域面積が大きい方から選択し、
前記オブジェクト領域特定部は、前記所定数の縁領域を前記オブジェクト領域として特定することを特徴とする請求項5に記載のオブジェクト画像検出装置。
【請求項7】
前記縁検出部は、所定数の前記縁領域を領域面積が大きい方から選択し、
前記オブジェクト領域特定部は、所定数の前記縁領域に外接する長方形領域を前記オブジェクト領域として特定することを特徴とする請求項5に記載のオブジェクト画像検出装置。
【請求項8】
前記縁検出部は、前記カーネル領域に隣接するピクセルの中で確率値が前記第2閾値より大きいピクセルを選択し、これらの選択されたピクセルに隣接するピクセルの中で確率値が前記第2閾値より大きいピクセルを繰り返し選択し、このように選択を繰り返すことによって最終的に縁領域を決定することを特徴とする請求項1に記載のオブジェクト画像検出装置。
【請求項9】
ピクセルで構成される複数の画像を撮影する複数のカメラによって同時に取得されたこれらの画像を使用するオブジェクト画像検出方法であって、
複数の画像上で取得された視差を使って、視覚的に検出されたオブジェクトの部分であり画像がピクセルによって表現されているこの部分までの距離を決定する距離決定ステップと、
前記距離決定ステップによって与えられた前記距離を分類した複数の距離範囲に対して前記ピクセルの度数を特定するヒストグラム生成ステップと、
前記ヒストグラムによって特定されたピクセル度数の中で最大のピクセル度数を有する距離範囲を選択することによって、前記複数の距離範囲の中で最もありそうな距離を決定するオブジェクト距離決定ステップと、
前記最もありそうな距離と前記距離決定ステップによって与えられた前記距離との差によって確率値を計算し、前記ピクセルに対する確率値マップを生成する確率マッピングステップと、
前記確率値が第1閾値より大きいピクセルによって構成されるカーネル領域を検出するカーネル検出ステップと、
前記カーネル領域を構成するピクセルの周辺に隣接し、確率値が前記第1閾値より小さい第2閾値より大きい隣接ピクセルによって構成される少なくとも1つの縁領域を検出する縁検出ステップと、
少なくとも1つの前記縁領域に基づいてオブジェクト領域を特定するオブジェクト領域特定ステップと、を含むことを特徴とするオブジェクト画像検出方法。
【請求項10】
前記確率マッピングステップは、d0およびdがそれぞれ前記最もありそうな距離および距離決定ステップによって与えられた各々の前記距離であり、Cとαが共に定数であるとき、数式
【数2】
によって、前記ピクセルの各々に対する距離画像の前記確率値Pを計算することを特徴とする請求項9に記載のオブジェクト画像検出方法。
【請求項11】
前記オブジェクト距離決定ステップは、前記距離決定ステップによって与えられた前記ピクセルに対する前記距離を補間することによってフィルタリングした距離を提供する空間フィルタをさらに有し、
前記ヒストグラム生成ステップは、前記距離決定ステップによって与えられた前記フィルタリングされた距離を分類した複数の距離範囲に対して前記ピクセルの度数を特定し、
前記オブジェクト距離決定ステップは、前記ヒストグラムによって特定されたピクセル度数の中で最大のピクセル度数を有する距離範囲を選択することによって、前記複数の距離範囲の中で最もありそうな距離を決定することを特徴とする請求項9に記載のオブジェクト画像検出方法。
【請求項12】
縁検出ステップは、所定数の前記縁領域を領域面積が大きい方から選択し、
前記オブジェクト領域特定ステップは、前記所定数の縁領域に基づいてオブジェクト領域を特定することを特徴とする請求項10に記載のオブジェクト画像検出方法。
【請求項13】
前記縁検出ステップは、所定数の前記縁領域を領域面積が大きい方から選択し、
前記オブジェクト領域特定ステップは、前記所定数の縁領域を前記オブジェクト領域として特定することを特徴とする請求項11に記載のオブジェクト画像検出方法。
【請求項14】
前記縁検出ステップは、所定数の前記縁領域を領域面積が大きい方から選択し、
前記オブジェクト領域特定ステップは、所定数の前記縁領域に外接する長方形領域を前記オブジェクト領域として特定することを特徴とする請求項10に記載のオブジェクト画像検出方法。
【請求項15】
前記縁検出ステップは、所定数の前記縁領域を領域面積が大きい方から選択し、
前記オブジェクト領域特定ステップは、所定数の前記縁領域に外接する長方形領域を前記オブジェクト領域として特定することを特徴とする請求項11に記載のオブジェクト画像検出方法。
【請求項16】
前記縁検出ステップは、前記カーネル領域に隣接するピクセルの中で確率値が前記第2閾値より大きいピクセルを選択し、これらの選択されたピクセルに隣接するピクセルの中で確率値が前記第2閾値より大きいピクセルを繰り返し選択し、このように選択を繰り返すことによって最終的に縁領域を決定することを特徴とする請求項9に記載のオブジェクト画像検出方法。
【請求項17】
ピクセルで構成される複数の画像を撮影する複数のカメラによって同時に取得されたこれらの画像を使用してオブジェクト画像を検出するコンピュータを動作させるコンピュータプログラムであって、
複数の画像上で取得された視差を使って、視覚的に検出されたオブジェクトの部分であり画像がピクセルによって表現されているこの部分までの距離を決定する距離決定プログラムと、
前記距離決定プログラムによって与えられた前記距離を分類した複数の距離範囲に対して前記ピクセルの度数を特定するヒストグラム生成プログラムと、
前記ヒストグラムによって特定されたピクセル度数の中で最大のピクセル度数を有する距離範囲を選択することによって、前記複数の距離範囲の中で最もありそうな距離を決定するオブジェクト距離決定プログラムと、
前記最もありそうな距離と前記距離決定プログラムによって与えられた前記距離との差によって確率値を計算し、前記ピクセルに対する確率値マップを生成する確率マッピングプログラムと、
前記確率値が第1閾値より大きいピクセルによって構成されるカーネル領域を検出するカーネル検出プログラムと、
前記カーネル領域を構成するピクセルの周辺に隣接し、確率値が前記第1閾値より小さい第2閾値より大きい隣接ピクセルによって構成される少なくとも1つの縁領域を検出する縁検出プログラムと、
少なくとも1つの前記縁領域に基づいてオブジェクト領域を特定するオブジェクト領域特定プログラムと、を含むことを特徴とするコンピュータプログラム。
【請求項18】
前記確率マッピングプログラムは、d0およびdがそれぞれ前記最もありそうな距離および距離決定プログラムによって与えられた各々の前記距離であり、Cとαが共に定数であるとき、数式
【数3】
によって、前記ピクセルの各々に対する距離画像の前記確率値Pを計算することを特徴とする請求項17に記載のコンピュータプログラム。
【請求項19】
縁検出プログラムは、所定数の前記縁領域を領域面積が大きい方から選択し、
前記オブジェクト領域特定プログラムは、前記所定数の縁領域に基づいてオブジェクト領域を特定することを特徴とする請求項18に記載のコンピュータプログラム。
【請求項20】
前記縁検出プログラムは、所定数の前記縁領域を領域面積が大きい方から選択し、
前記オブジェクト領域特定プログラムは、所定数の前記縁領域に外接する長方形領域を前記オブジェクト領域として特定することを特徴とする請求項18に記載のオブジェクト画像検出方法。
【請求項21】
前記オブジェクト距離決定プログラムは、前記距離決定プログラムによって与えられた前記ピクセルに対する前記距離を補間することによってフィルタリングした距離を提供する空間フィルタをさらに有し、
前記ヒストグラム生成プログラムは、前記距離決定プログラムによって与えられた前記フィルタリングされた距離を分類した複数の距離範囲に対して前記ピクセルの度数を特定し、
前記オブジェクト距離決定プログラムは、前記ヒストグラムによって特定されたピクセル度数の中で最大のピクセル度数を有する距離範囲を選択することによって、前記複数の距離範囲の中で最もありそうな距離を決定することを特徴とする請求項17に記載のオブジェクト画像検出プログラム。
【請求項22】
前記縁検出プログラムは、所定数の前記縁領域を領域面積が大きい方から選択し、
前記オブジェクト領域特定プログラムは、前記所定数の縁領域を前記オブジェクト領域として特定することを特徴とする請求項21に記載のコンピュータプログラム。
【請求項23】
前記縁検出プログラムは、所定数の前記縁領域を領域面積が大きい方から選択し、
前記オブジェクト領域特定プログラムは、所定数の前記縁領域に外接する長方形領域を前記オブジェクト領域として特定することを特徴とする請求項21に記載のオブジェクト画像検出方法。
【請求項24】
前記縁検出プログラムは、前記カーネル領域に隣接するピクセルの中で確率値が前記第2閾値より大きいピクセルを選択し、これらの選択されたピクセルに隣接するピクセルの中で確率値が前記第2閾値より大きいピクセルを繰り返し選択し、このように選択を繰り返すことによって最終的に縁領域を決定することを特徴とする請求項17に記載のオブジェクト画像検出コンピュータプログラム。
【請求項25】
請求項1に記載のオブジェクト画像検出装置を使用するオブジェクト画像検出方法。
【請求項26】
請求項9に記載のオブジェクト画像検出方法を使用するオブジェクト画像検出方法。
【請求項27】
請求項17に記載のオブジェクト画像を検出するコンピュータを動作させるコンピュータプログラムを使用するオブジェクト画像検出方法。
【図1】
【図2】
【図3】
【図4A】
【図4B】
【図4C】
【図5A】
【図5B】
【図6A】
【図6B】
【図6C】
【図7A】
【図7B】
【図8】
【図2】
【図3】
【図4A】
【図4B】
【図4C】
【図5A】
【図5B】
【図6A】
【図6B】
【図6C】
【図7A】
【図7B】
【図8】
【公表番号】特表2007−524950(P2007−524950A)
【公表日】平成19年8月30日(2007.8.30)
【国際特許分類】
【出願番号】特願2006−554119(P2006−554119)
【出願日】平成17年2月7日(2005.2.7)
【国際出願番号】PCT/US2005/003822
【国際公開番号】WO2005/081792
【国際公開日】平成17年9月9日(2005.9.9)
【出願人】(000005326)本田技研工業株式会社 (23,863)
【Fターム(参考)】
【公表日】平成19年8月30日(2007.8.30)
【国際特許分類】
【出願日】平成17年2月7日(2005.2.7)
【国際出願番号】PCT/US2005/003822
【国際公開番号】WO2005/081792
【国際公開日】平成17年9月9日(2005.9.9)
【出願人】(000005326)本田技研工業株式会社 (23,863)
【Fターム(参考)】
[ Back to top ]