探索省略領域設定関数生成方法、探索省略領域設定方法、オブジェクト探索方法、探索省略領域設定関数生成装置、探索省略領域設定装置、及びオブジェクト探索装置
【課題】オブジェクト探索の効率化を図ることが可能な探索省略領域設定関数生成方法を提供すること。
【解決手段】探索省略領域設定関数生成方法は、サイズ比の異なる各モデル縮小画像上の指定探索点に対して、オブジェクトを探索するためのテンプレートを対応付けて、各モデル縮小画像上の前記指定探索点と前記テンプレートとの指定探索点類似度を検出し、前記指定探索点類似度がオブジェクト検出判定閾値を超える場合、各モデル縮小画像上の前記指定探索点の周辺の複数の周辺探索点の夫々と、前記テンプレートとの周辺探索点類似度を検出し、前記周辺探索点類似度の分布に基づき前記オブジェクトと前記テンプレートとの相対位置を推定し、推定相対位置に基づき各モデル縮小画像上に前記オブジェクトの探索省略領域を設定するための関数を生成する。
【解決手段】探索省略領域設定関数生成方法は、サイズ比の異なる各モデル縮小画像上の指定探索点に対して、オブジェクトを探索するためのテンプレートを対応付けて、各モデル縮小画像上の前記指定探索点と前記テンプレートとの指定探索点類似度を検出し、前記指定探索点類似度がオブジェクト検出判定閾値を超える場合、各モデル縮小画像上の前記指定探索点の周辺の複数の周辺探索点の夫々と、前記テンプレートとの周辺探索点類似度を検出し、前記周辺探索点類似度の分布に基づき前記オブジェクトと前記テンプレートとの相対位置を推定し、推定相対位置に基づき各モデル縮小画像上に前記オブジェクトの探索省略領域を設定するための関数を生成する。
【発明の詳細な説明】
【技術分野】
【0001】
本発明の実施形態は、探索省略領域設定関数生成方法、探索省略領域設定方法、オブジェクト探索方法、探索省略領域設定関数生成装置、探索省略領域設定装置、及びオブジェクト探索装置に関する。
【背景技術】
【0002】
近年、画像中から人物の顔などのオブジェクトを検出するための各種技術が提案されている。例えば、次のようなオブジェクト検出技術が提案されている。まず、オブジェクト探索対象画像に対して、参照画像から作成したテンプレートを重ね合わせて走査する。続いて、各重なり位置において、オブジェクト探索対象画像とテンプレートの間(或いはオブジェクト探索対象画像の特徴量とテンプレートの特徴量の間)の距離(或いは類似値、類似度など)を計算する。続いて、最小距離が得られる重なり位置(或いはオブジェクト探索対象画像とテンプレートの類似度が最大になる重なり位置)をオブジェクト検出位置として出力する。
【先行技術文献】
【特許文献】
【0003】
【特許文献1】特開2007−94689号公報
【特許文献2】特開2003−22442号公報
【発明の概要】
【発明が解決しようとする課題】
【0004】
正確にオブジェクトを探索するためには、例えば、オブジェクト探索対象画像に対して、テンプレートを1画素ずつずらし、各ずらし位置に対応して、オブジェクト探索対象画像とテンプレートの類似度を計算する。
【0005】
また、オブジェクトのサイズは不明であることが多い。このため、サイズの異なる複数の縮小画像を用意して、オブジェクトを仮定して、テンプレートを利用し、仮定した複数の縮小画像に対してオブジェクトを探索する。
【0006】
しかしながら、上記オブジェクト探索手法では、オブジェクト探索のための計算負荷が大きく、計算コストが高くなってしまう。つまり、オブジェクト探索負荷が大きい。そこで、オブジェクト探索の効率化技術が要望されている。
【0007】
本発明の目的は、オブジェクト探索の効率化を図ることが可能な探索省略領域設定関数生成方法、探索省略領域設定方法、オブジェクト探索方法、探索省略領域設定関数生成装置、探索省略領域設定装置、及びオブジェクト探索装置を提供することにある。
【課題を解決するための手段】
【0008】
実施形態の探索省略領域設定関数生成方法は、サイズ比の異なる複数のモデル縮小画像のうちの第1のモデル縮小画像上の指定探索点に対して、前記第1のモデル縮小画像からオブジェクトを探索するためのテンプレートを対応付けて、前記指定探索点と前記テンプレートとの指定探索点類似度を検出する。さらに、この方法は、前記指定探索点類似度がオブジェクト検出判定閾値を超える場合、前記モデル縮小画像上の前記指定探索点の周辺の複数の周辺探索点の夫々と、前記テンプレートとの周辺探索点類似度を検出する。
【図面の簡単な説明】
【0009】
【図1】探索省略領域設定関数の作成の一例を示すフローチャートである。
【図2】オブジェクト検出の類似度分布の計測の一例を示すフローチャートである。
【図3】図1中の検出位置近傍の類似度度数の計測の一例を示すフローチャートである。
【図4】図1中の類似度分布の作成の一例を示すフローチャートである。
【図5】図1中の探索省略領域設定関数の作成の一例を示すフローチャートである。。
【図6】オブジェクト探索システムの一例を示すブロック図である。
【図7】オブジェクト探索の概念の一例を示す図である。
【図8】オブジェクト(顔)検出の概念の一例を示す図である。
【図9】複数の縮小画像(サイズ比の異なる複数の縮小画像)に対するオブジェクト(顔)検出の概念の一例を示す図である。
【図10】相対座標(xR,yR,rR)における類似度分布(密度)p(s|xR,yR,rR)を示す概念の一例を示す図である。
【図11】オブジェクト検出位置から離れた位置における類似度分布(密度)p(s|xR,yR,rR)の概念の一例を示す図である。
【図12】オブジェクト検出位置に近い位置における類似度分布(密度)p(s|xR,yR,rR)の概念の一例を示す図である。
【図13】探索省略領域設定関数sP(xR,yR,rR)の概念の一例を示す図である。
【図14】探索省略領域設定関数sP(xR,yR,rR)の概念の一例を示す図である。
【図15】探索省略領域設定関数sP(xR,yR,rR)と探索省略領域との関係の概念の一例を示す図である。
【図16】探索点と探索省略領域との関係の一例を示す図である。
【図17】複数の縮小画像(サイズ比の異なる複数の縮小画像)に対する探索処理と探索省略領域との関係の一例を示す図である。
【図18】オブジェクト探索対象縮小画像上に対する探索省略領域の設定順序の一例を示す図である。
【図19】オブジェクト探索対象縮小画像上に対する探索省略領域の設定順序の一例を示す図である。
【図20】本実施形態のオブジェクト探索省略領域設定方法及びオブジェクト探索省略領域設定装置を適用したデジタルテレビジョン放送受信装置の一例を示すブロック図である。
【発明を実施するための形態】
【0010】
以下、実施形態について図面を参照して説明する。
【0011】
本実施形態のオブジェクト探索省略領域設定関数生成方法又はオブジェクト探索省略領域設定関数生成装置(以下、関数生成方法又は関数生成装置と略記)は、例えば、オブジェクト探索前に、予めサイズ比の異なる各学習用縮小画像(モデル縮小画像)とテンプレート(例えば1サイズのテンプレート)とを用いて、各学習用縮小画像の類似度分布を計測し、計測された類似度に基づいて全学習用縮小画像のオブジェクトの近傍における類似度分布を計算し(学習結果)、計算された類似度分布に基づき探索省略領域設定関数を作成する。後に、図1〜図5等を参照し、関数生成方法又は関数生成装置による関数の生成について詳細に説明する。
【0012】
オブジェクト検出における「学習」とは、通例では、収集したオブジェクト画像を用いて探索に使用する為のテンプレートや最適特徴量や辞書と呼ばれるものなどを作成することを言う場合が多いが、本明細書においては、作成済みのテンプレートや辞書などを用いて、縮小画像上の類似度分布を計測したり探索省略領域設定関数を求めることを指すものとする。
【0013】
また、本実施形態のオブジェクト探索方法又はオブジェクト探索装置(以下、探索方法又は探索装置と略記)は、上記探索省略領域設定関数に基づき、サイズ比の情報等を利用し、サイズ比の異なる各オブジェクト探索対象縮小画像に対して、効率よく探索省略領域を設定する。例えば、探索方法又は探索装置は、上記探索省略領域設定関数に基づき、サイズ比の異なる複数のオブジェクト探索対象縮小画像のうちの第1のオブジェクト探索対象縮小画像(例えば複数のオブジェクト探索対象縮小画像のうちの最小のオブジェクト探索対象縮小画像)に対して、第1の探索省略領域を設定する(第1の探索省略領域の設定手法については後に詳しく説明する)。続いて、探索方法又は探索装置は、第1のオブジェクト探索対象縮小画像と第2のオブジェクト探索対象縮小画像とのサイズ比の情報等を利用し、第2のオブジェクト探索対象縮小画像に対して、第2の探索省略領域を設定する。
【0014】
さらに詳しく説明すると、探索方法又は探索装置は、第1のオブジェクト探索対象縮小画像上の第1の基準点(又は探索点)と、第1のオブジェクト探索対象縮小画像と第2のオブジェクト探索対象縮小画像とのサイズ比の情報とに基づき、第1の基準点に対応する第2の基準点を前記第2のオブジェクト探索対象縮小画像上に設定し、第1のオブジェクト探索対象縮小画像上の第1の基準点とテンプレートとの類似度に基づき、第2の基準点を基準として設定される前記第2のオブジェクト探索対象縮小画像上に設定し探索省略領域のサイズを設定する。後に、探索方法又は探索装置による探索省略領域の設定について詳細に説明する。
【0015】
また、本実施形態のオブジェクト探索方法又はオブジェクト探索装置(以下、探索方法又は探索装置と略記)は、サイズ比の異なる各オブジェクト探索対象縮小画像上に設定された探索省略領域を除外して、テンプレート(例えば1サイズのテンプレート)を用いて各オブジェクト探索対象縮小画像からオブジェクトを探索する。つまり、探索方法又は探索装置は、第1のオブジェクト探索対象縮小画像に設定された探索省略領域を除外して、テンプレートを用いて第1のオブジェクト探索対象縮小画像からオブジェクトを探索し、第2のオブジェクト探索対象縮小画像に設定された探索省略領域を除外して、テンプレートを用いて第2のオブジェクト探索対象縮小画像からオブジェクトを探索する。後に、探索方法又は探索装置による探索省略領域の設定について詳細に説明する。
【0016】
テレビ放送などの映像からオブジェクトを検出する場合、多くは、オブジェクトのサイズは事前に判らない。このため、サイズ比の異なる複数の縮小画像を作成し、テンプレート(例えば1サイズのテンプレート)を利用し、作成した複数の縮小画像に対して探索(或いはスキャン、又は走査)を行う(図7、8参照)。
【0017】
実際の処理においては、オブジェクト探索対象画像を異なる縮小率で縮小した複数の縮小画像(サイズ比の異なる複数のオブジェクト探索対象縮小画像)を作成し、一定サイズのテンプレートを利用し、複数の縮小画像の夫々からオブジェクトを探索する(図9参照)。本実施形態で生成されるオブジェクト探索省略領域設定関数は、このような場合に効果的に探索省略領域を設定することができる。
【0018】
例えば、図6に示すオブジェクト探索システム1が、上記関数生成装置に相当し、探索省略領域設定関数を作成する。また、オブジェクト探索システム1は、上記領域設定装置にも相当し、探索省略領域設定関数に基づき、各オブジェクト探索対象縮小画像に対して探索省略領域を設定する。また、オブジェクト探索システム1は、上記探索装置にも相当し、探索省略領域を除外して、テンプレートを用いて各オブジェクト探索対象画像からオブジェクトを探索する。
【0019】
なお、探索省略領域設定関数の作成、探索省略領域の設定、及びオブジェクト探索の全てを1つの機器で実現しなくてもよい。例えば、コンピュータ等で探索省略領域設定関数を作成し、デジタルTV等の画像処理機器に探索省略領域設定関数に基づくオブジェクト探索機能を搭載し、この画像処理機器がオブジェクト探索機能によりオブジェクトを探索する。つまり、画像処理機器が、番組映像(基準サイズのオブジェクト探索対象画像)から、サイズ比の異なる複数のオブジェクト探索対象縮小画像を生成し、各オブジェクト探索対象縮小画像に対して探索省略領域を設定し、各オブジェクト探索対象縮小画像の探索省略領域を除外し、テンプレートを用いて各オブジェクト探索対象縮小画像からオブジェクトを探索する。
【0020】
以下、図6に示すオブジェクト探索システム1による探索省略領域設定関数の作成、探索省略領域の設定、及びオブジェクト探索の一例について説明する。図6に示すように、例えば、オブジェクト探索システム1は、画像入力モジュール2、類似度分布作成モジュール3、探索省略領域設定モジュール4、探索モジュール5、記憶部6を備える。
【0021】
図1は、探索省略領域設定関数の作成の一例を示すフローチャートである。
【0022】
最初に、図2に示すフローチャートを参照し、図1中のオブジェクト検出の類似度分布の計測(ST100)の一例について説明する。
【0023】
例えば、オブジェクト探索システム1の画像入力モジュール2は、画像番号iを初期化し(ST101)、複数の学習用画像(モデル画像)を順次入力して各学習用画像に画像番号iを指定し、学習用画像iに縮小処理のスケールrを設定し、縮小していない入力画像である学習用画像iに対するサイズ比であるスケールrを設定して、学習用縮小画像(モデル縮小画像)を作成し、スケールrが最小の学習用縮小画像(画像番号iの縮小画像)を第1の学習用縮小画像(画像番号iの縮小画像)とし(ST103)、類似度分布作成モジュール3は、スケールrを設定し(ST103)、探索点(x,y)を設定して(ST104)、探索点における類似度sを計算して(ST105)、類似度sを記録する(ST106)。
【0024】
つまり、類似度分布作成モジュール3は、第1の学習用縮小画像に対して、オブジェクトを探索するためにテンプレートを用いて走査する。例えば、類似度分布作成モジュール3は、上記走査において、第1の学習用縮小画像上の第1の指定探索点に対して、この第1の学習用縮小画像からオブジェクトを探索するためのテンプレートを第1の位置関係に対応付けて、第1の学習用縮小画像上の第1の指定探索点とテンプレートとの間の第1の指定探索点類似度(類似度s)を検出する。
【0025】
上記類似度検出処理を全学習用縮小画像と全探索点について行う(ST107、ST108、ST109、ST110)。
【0026】
次に、図3に示すフローチャートを参照し、図1中の検出位置近傍の類似度度数の計測(ST200)の一例について説明する。
【0027】
例えば、オブジェクト探索システム1の類似度分布作成モジュール3は、画像番号i、検出個数n、度数f(s|xR,yR,rR)を初期化し(ST201)、画像番号i、スケールr、探索点(x,y)を設定して(ST202)(ST203)(ST204)、探索点における類似度sと検出閾値θとを比較する。ここで、スケールrの値は縮小画像のサイズと対応が付けられる。スケールrをn通りにして処理することは、n個のサイズの異なる縮小画像を処理することを意味する。
【0028】
第1の指定探索点類似度(類似度s)が検出閾値θ(オブジェクト検出判定閾値θ)を超えない場合(ST205、NO)、類似度分布作成モジュール3は、第1の指定探索点を変更し(ST204)、第1の学習用縮小画像上の第2の指定探索点に対して、この第1の学習用縮小画像からオブジェクトを探索するためのテンプレートを第2の位置関係に対応付けて、第1の学習用縮小画像上の第2の指定探索点とテンプレートとの間の第2の指定探索点類似度(類似度s)を検出する。
【0029】
第2の指定探索点類似度(類似度s)が検出閾値θ(オブジェクト検出判定閾値θ)を超えなければ、さらに、類似度分布作成モジュール3は、第2の指定探索点を変更し、類似度検出を継続し、第2の指定探索点類似度(類似度s)が検出閾値θ(オブジェクト検出判定閾値θ)を超えれば、類似度分布作成モジュール3は、第2の位置関係で、オブジェクトが検出されたと判定する。
【0030】
上記したように、類似度分布作成モジュール3は、類似度sが検出閾値θ(オブジェクト検出判定閾値θ)を超えたとき(ST205、YES)、オブジェクトが検出されたと判定し、その近傍の類似度を計算する。類似度分布作成モジュール3は、オブジェクト検出位置からの相対座標(xR,yR)と相対スケールrRと類似度sに関する度数f()を加算する処理を全相対スケールと全相対座標について行う(ST206〜ST212)。スケールrは、縮小していない元の学習用画像と学習用縮小画像(例えば第1の学習用画像)との大きさの比であり、学習用縮小画像のサイズが小さくなるほどrは大きくなる。相対スケールrRとは、2つの学習用縮小画像のスケールrの比を表すものとする。
【0031】
例えば、上記第1の位置関係で、第1の指定探索点類似度(類似度s)が検出閾値θ(オブジェクト検出判定閾値θ)を超えた場合、類似度分布作成モジュール3は、第1の位置関係の第1の学習用縮小画像上の第1の指定探索点の周辺の複数の第1の周辺探索点の夫々と、テンプレートとの周辺探索点類似度を検出する。
【0032】
以上により、第1の学習用縮小画像について類似度度数の計測が完了すると、続いて、類似度分布作成モジュール3は、スケールrの異なる第2の学習用縮小画像について上記した類似度度数を計測する(ST203〜ST213)。以後、同様に、類似度分布作成モジュール3は、全てのスケールrの学習用縮小画像について上記した類似度度数を計測すし(ST203〜ST213)、さらに、全ての学習用画像iについて上記した類似度度数を計測する(ST202〜ST214)。
【0033】
また、複数種類のテンプレートを用意し、類似度分布作成モジュール3は、各テンプレートを用いて、類似度度数を計測することもできる。複数種類のテンプレートは、例えば、異なるオブジェクトを検出するためのテンプレートである。
【0034】
ここでテンプレートについて補足する。顔(オブジェクト)を検出するためのテンプレートは、例えば特開2003−346158号公報に記載されているように、顔と目と鼻それぞれに対応した部分空間法の辞書パターンのことである。また、顔(オブジェクト)を検出するためのテンプレートは、例えば特開2007−249394号公報に記載されているように、登録顔画像の個々の顔の静的な特徴を予め設定された特徴点の配置と、それらの近傍の画像特徴量との組で表したモデルである。また、顔(オブジェクト)を検出するためのテンプレートは、例えば特開2005−208850号公報に記載されているように、登録顔画像にプロットされた特徴点の近傍の画像の情報(例えば、ガボールウェーブレット係数)CA(x−)、特徴点配置情報x−、及び人物IDnから構成されるモデルデータHの集合である。なお、テンプレートは、上記したような辞書パターン、モデルデータであってもよいし、画像(テンプレート画像)であってもよい。
【0035】
続いて、図4に示すフローチャートを参照し、図1中の類似度分布の作成(ST300)の一例について説明する。
【0036】
類似度分布作成モジュール3は、ST200により求められた度数f()を検出個数nで割り、P()を算出する処理を全相対スケールと全相対座標と全類似度についてについて行う(ST301〜ST307)。図10、11、12は、 P(s|xR,yR,rR)の概念の一例を示す図である。オブジェクト位置に近いと、図12のように類似度sが大きい領域が高頻度(度数が大きい)となり、オブジェクト位置から遠いときは、図11のように類似度sが小さい領域が高頻度となる。
【0037】
続いて、図5に示すフローチャートを参照し、図1中の探索省略領域設定関数の作成(ST400)の一例について説明する。
【0038】
類似度分布作成モジュール3は、s=0から P(s|xR,yR,rR)を累積加算し、検出もれ率P(許容検出もれ率P)を超える直前のsを SP(xR,yR,rR)とする処理を全相対スケールrRと全相対座標(xR,yR)について行い(ST401〜ST408)、類似度分布作成モジュール3は、探索省略領域設定関数SP(xR,yR,rR)を生成する。
【0039】
つまり、類似度分布作成モジュール3は、上記した周辺探索点類似度の分布に基づきオブジェクトとテンプレートとの距離を推定し、推定距離に基づきオブジェクトの探索省略領域を設定するための探索省略領域設定関数を生成する。ここでいう距離とは、相対位置のことであり、方向によって、距離の基準は変化する。即ち、類似度分布作成モジュール3は、推定距離(推定相対位置)に基づき、上記した第1の周辺探索点におけるオブジェクトの検出もれ率を推定し、推定検出もれ率に基づき探索省略領域設定関数を生成する。より具体的には、類似度分布作成モジュール3は、オブジェクトの検出もれを許容する許容検出もれ率と推定検出もれ率とを比較し、許容検出もれ率未満の領域を探索省略領域として設定するための探索省略領域設定関数を生成する。
【0040】
探索省略領域を設定できる理論的根拠を補足説明する。仮に位置(xF,yF),スケールrFで非常に小さい類似度が観測されたとき、そのごく近傍にもオブジェクトが無いと推定される。この考え方を論理学における命題と捉えたとき、命題が真ならば、その対偶も真であることを本実施形態では利用している。「AならばBである」の対偶は「BでなければAでない」で定義され、真の命題の対偶は真であることが判っている。これを利用すると、「オブジェクトが(xF,yF),スケールrFで検出されるとき、(x,y),スケールrにおける類似度は s>s(x−xF,y−yF,rF/r)となる」が真ならば、その対偶である「(x,y),スケールrにおける類似度が s≦s(x−xF,y−yF,rF/r)ならば、(xF,yF),スケールrFのところでオブジェクトは検出されない」も真であることが結論付けられる。さて、一般には類似度の分布は幅広い分布の形をしており、類似度を用いてその近傍のオブジェクトの有無を確定的に推定することは困難であるため、検出もれ率Pを指定して上記の命題を修正する。「オブジェクトが(xF,yF),スケールrFで検出されるとき、(x,y),スケールrにおける類似度は1−Pの確率で s>s(x−xF,y−yF,rF/r)となる」、およびその対偶は「(x,y),スケールrにおける類似度が s≦s(x−xF,y−yF,rF/r)ならば、1−Pの確率で(xF,yF),スケールrFのところでオブジェクトは検出されない」となる。類似度分布作成モジュール3は、検出もれ率Pと、相対座標と、サイズ比を指定したときの、前記s(x−xF,y−yF,rF/r)に対応するSP(xR,yR,rR)を求めていることになる。
【0041】
図13は、SP(xR,yR,rR)の概念の一例を示す図である。検出もれ率P(許容検出もれ率P)が小さいと、曲線が中心に近づき、探索省略領域が狭まる。逆に、検出もれ率P(許容検出もれ率P)が大きいと、曲線が中心から離れ、探索省略領域が広がる。例えば、オブジェクトの検出もれの可能性を十分に低くしたい場合には、許容検出もれ率Pを非常に小さい値(例えば0%<P<5%)に設定することにより、探索省略領域が狭くなり、オブジェクトの検出もれの可能性を低くすることができる。また、オブジェクトの検出もれの可能性を低くすることよりも、オブジェクトの検索負荷を低くすることに重点を置きたい場合には、許容検出もれ率Pをやや低い値(例えば5%≦P<10%)に設定することにより、探索省略領域が広くなり、オブジェクトの検索もれを防ぎつつ、オブジェクトの検索負荷をより低くすることができる。
【0042】
図14は、探索省略領域設定関数SP(xR,yR,rR)を説明する概念の一例を示す図である。図14は、オブジェクト検出位置(0,0)からの相対座標における(検出もれ率Pとしたときの)類似度の下限の一例を示している。中心が頂上となる丘の形状をしている。スケールr,座標(x,y)でオブジェクトが検出された場合に、スケールr・rR,座標(x+xR,y+yR)における類似度は1−Pの確率でSP(xR,yR,rR)以上になる。
【0043】
図15は、図14のxとyに関して反転したグラフの一例を示す図である。あるスケールr0、ある位置(x0,y0)において類似度sが得られた場合、その位置からの相対スケールrR,相対座標(xR,yR)として、SP(−xR,−yR,1/rR)>sの領域でオブジェクトが検出される確率は検出もれ率P(許容検出もれ率P)以下となる。したがって、検出もれ率P(許容検出もれ率P)を十分に小さい値に設定することにより、この領域において探索を省略して探索の計算量を削減することができる。
【0044】
以下、上記の数式定義をまとめる。
【数1】
【0045】
【数2】
【0046】
図16は、探索の概念の一例を示す図である。図16中の「+印」は探索点を示す。探索省略領域設定モジュール4は、探索の類似度計算後に、その近傍に探索省略領域(図16中の斜線領域)を設定する。
【0047】
例えば、画像入力モジュール2は、基準となるオブジェクト探索対象画像(例えば番組画像)を入力し、探索モジュール5は、サイズ比の異なる複数のオブジェクト探索対象縮小画像を生成し、第1のオブジェクト探索対象縮小画像とテンプレートとを所定位置関係に対応付けて(第1のオブジェクト探索対象縮小画像の第1の指定探索点とテンプレートとを対応付けて)、第1のオブジェクト探索対象縮小画像上の第1の指定探索点と、テンプレートとの間の指定探索点類似度を検出する。探索省略領域設定モジュール4は、必要に応じて、探索モジュール5から類似度、位置、スケールの情報を受け取り、探索省略領域設定関数に基づきオブジェクト探索対象縮小画像上の第1の指定探索点の近傍に探索省略領域を設定する。
【0048】
1個の探索点に対応する探索省略領域は、類似度に依存するため、探索点の配置は動的に設定する必要がある。
【0049】
次に、図17を参照し、複数のオブジェクト探索対象縮小画像に対して効率よく探索省略領域を設定する方法について説明する。探索省略領域設定モジュール4は、探索省略領域設定関数に基づき、サイズ比の異なる複数のオブジェクト探索対象縮小画像のうちの第1のオブジェクト探索対象縮小画像上の第1の基準点(+)とテンプレートとを対応付け、第1のオブジェクト探索対象縮小画像の第1の基準点を含む所定領域とテンプレートとの類似度が閾値より低い場合に(第1の基準点の近傍にオブジェクトが無い場合に)、第1の基準点及び類似度に基づき第1のオブジェクト探索対象縮小画像上に第1の探索省略領域を設定する。
【0050】
さらに、探索省略領域設定モジュール4は、第1のオブジェクト探索対象縮小画像と第2のオブジェクト探索対象縮小画像とのサイズ比(以下、第1のサイズ比)に基づき、第2のオブジェクト探索対象縮小画像上に第2の探索省略領域を設定する。より具体的には、探索省略領域設定モジュール4は、第1の基準点の座標値と第1のサイズ比とに基づき、前記第1の基準点に対応する第2の基準点の座標値を算出し、前記第2のオブジェクト探索対象縮小画像上に第2の基準点を設定し、第1の基準点とテンプレートとの類似度に基づき、第2の探索省略領域のサイズを算出し、前記第2のオブジェクト探索対象縮小画像上に第2の基準点を基準として第2の探索省略領域を設定する。
【0051】
上記したように、探索省略領域設定モジュール4は、サイズ比の異なる複数のオブジェクト探索対象縮小画像のうちの第1のオブジェクト探索対象縮小画像上の探索点(第1の基準点)の類似度計算後に、探索点の近傍に探索省略領域(斜線領域)を設定し、さらに、第1のオブジェクト探索対象縮小画像と異なるスケールの第2のオブジェクト探索対象縮小画像上に、スケールの情報を参照し、探索省略領域(斜線領域)を設定する。
【0052】
また、効率よくオブジェクトを探索するために、探索省略領域設定モジュール4は、サイズ比の異なる複数のオブジェクト探索対象縮小画像のうちの最小サイズの第1のオブジェクト探索対象縮小画像から処理を開始する。テンプレートのサイズを一定とすると、第1のオブジェクト探索対象縮小画像に対するテンプレートの相対サイズは大きく、逆に、最大サイズの第nのオブジェクト探索対象縮小画像に対するテンプレートの相対サイズは小さい。つまり、第1のオブジェクト探索対象縮小画像に対してテンプレートを走査することは、サイズの大きいオブジェクトを探索することであり、第nのオブジェクト探索対象縮小画像に対してテンプレートを走査することは、サイズの小さいオブジェクトを探索することである。
【0053】
サイズの大きいオブジェクトは重要であることが多く、また、第1のオブジェクト探索対象縮小画像に対してテンプレートを走査する作業負荷は、第nのオブジェクト探索対象縮小画像に対してテンプレートを走査する作業負荷より軽い。このような事情から、複数のオブジェクト探索対象縮小画像のうちの最小サイズの第1のオブジェクト探索対象縮小画像から処理を開始することにより、効率化を図ることができる。つまり、第1のオブジェクト探索対象縮小画像に対しては、基本的にテンプレート走査により探索省略領域を設定するが、第1のオブジェクト探索対象縮小画像以外のオブジェクト探索対象縮小画像に対しては、テンプレート走査を一部省略して、サイズ比の情報を利用して、第1のオブジェクト探索対象縮小画像に対する類似度計算結果を用いた探索省略領域設定処理を適用することができるからである。
【0054】
次に、1サイズのオブジェクト探索対象縮小画像上に複数の探索省略領域を設定する手順について説明する。例えば、図18に示すように、オブジェクト探索対象縮小画像の第1の指定探索点A10及び複数の周辺探索点と、テンプレートとの類似度を計算し、この類似度に対応して探索省略領域設定関数に基づき、第1の探索省略領域A11を設定する。次に、第1の探索省略領域A11の外であって、第1の探索省略領域A11に近接する第2の指定探索点A20及び複数の周辺探索点と、テンプレートとの類似度を計算し、この類似度に対応して探索省略領域設定モジュール4は、第2の指定探索点A20を基準として、探索省略領域設定関数に基づき、第2の探索省略領域A21を設定する。次に、第1の探索省略領域A11及び第2の探索省略領域A21の外であって、第1の探索省略領域A11から最も遠く且つ第2の探索省略領域A21に近接する第3の指定探索点A30及び複数の周辺探索点と、テンプレートとの類似度を計算し、この類似度に対応して探索省略領域設定モジュール4は、第3の指定探索点A30を基準として、探索省略領域設定関数に基づき、第3の探索省略領域A31を設定する。このようにして、探索省略領域設定モジュール4は、オブジェクト探索対象縮小画像上に、1以上の探索省略領域を設定することができる。
【0055】
或いは、図19に示すように、第1のオブジェクト探索対象縮小画像の第1の指定探索点A10及び複数の周辺探索点と、テンプレートとの類似度を計算し、この類似度に対応して探索省略領域設定モジュール4は、第1の指定探索点A10を基準として、探索省略領域設定関数に基づき、第1の探索省略領域A11を設定する。次に、第1の探索省略領域A11の外であって、第1の探索省略領域A11から所定距離以上離れた第2の指定探索点A20及び複数の周辺探索点と、テンプレートとの類似度を計算し、この類似度に対応して探索省略領域設定モジュール4は、第2の指定探索点A20を基準として、探索省略領域設定関数に基づき、第2の探索省略領域A21を設定する。次に、第1の探索省略領域A11及び第2の探索省略領域A21の外であって、第1の探索省略領域A11及び第2の探索省略領域A21から所定距離以上離れた第3の指定探索点A30及び複数の周辺探索点と、テンプレートとの類似度を計算し、この類似度に対応して探索省略領域設定モジュール4は、第3の指定探索点A30を基準として、探索省略領域設定関数に基づき、第3の探索省略領域A31を設定する。このようにして、探索省略領域設定モジュール4は、第1段階として、オブジェクト探索対象縮小画像上に、1以上の探索省略領域を設定することができる。さらに、第1の探索省略領域A11、第2の探索省略領域A21、及び第3の探索省略領域A31の各領域外、例えば、各領域から最も遠い第4の指定探索点A40及び複数の周辺探索点と、テンプレートとの類似度を計算し、この類似度に対応して探索省略領域設定モジュール4は、第4の指定探索点A40を基準として、探索省略領域設定関数に基づき、第4の探索省略領域A41を設定する。このようにして、探索省略領域設定モジュール4は、第2段階として、オブジェクト探索対象縮小画像上に、1以上の探索省略領域を設定することができる。以上を繰り返し、探索省略領域設定モジュール4は、オブジェクト探索対象縮小画像上に、効率よく、複数の探索省略領域を設定することができる。
【0056】
上記したように、探索省略領域設定モジュール4は、オブジェクト探索対象縮小画像を覆うように複数の探索省略領域を設定する。続いて、探索モジュール5は、オブジェクト探索対象縮小画像領域のうち、探索省略領域を除外した除外領域に対して、オブジェクト探索を実行する。つまり、探索モジュール5は、オブジェクト探索対象縮小画像領域のうち、探索省略領域を除外した除外領域に対して、テンプレートを重ね合わせて走査し、オブジェクトを探索する。さらに、探索時に検出された類似度に基づき、類似度、位置、スケールの情報を探索省略領域設定モジュール4に送り、随時、探索省略領域を複数のオブジェクト探索対象縮小画像に追加設定する。これにより、オブジェクト探索対象縮小画像の全領域に対してテンプレートを1画素ずつずらしながらオブジェクト探索を実行する場合に比べて、効率良くオブジェクト探索を実行することができる。
【0057】
本実施形態のオブジェクト探索省略領域設定方法によれば、オブジェクトの検出もれを抑えつつ、オブジェクト探索処理を高速化することができる。
【0058】
ここで、オブジェクト探索処理の高速化の概念についてまとめる。
【0059】
オブジェクト探索対象画像からオブジェクト(人物の顔)を検出するためには、オブジェクト探索対象画像の全ての位置の探索点とテンプレートとの類似度を計算する。オブジェクトのサイズは、事前に判らないため、複数サイズの複数のテンプレートを利用し類似度を計算する。或いは、サイズ比の異なる複数のオブジェクト探索対象縮小画像を生成し、これら複数のオブジェクト探索対象縮小画像に対してテンプレートを利用し類似度を計算する。このような計算処理は膨大な処理となり負担が大きい。
【0060】
そこで、まず、サイズ比の異なる複数のオブジェクト探索対象縮小画像のうちの第1のオブジェクト探索対象縮小画像に対して、探索省略領域を設定する。第1のオブジェクト探索対象縮小画像上のある探索点における類似度が低ければ、この探索点の近傍にはオブジェクトが存在しない可能性が高い。このことを利用し、第1のオブジェクト探索対象縮小画像上に、探索省略領域を設定する。さらに、サイズ比の情報を利用し、第2、第3、…、第nのオブジェクト探索対象縮小画像上に、探索省略領域を設定する。
【0061】
その上で、第1、第2、第3、…、第nのオブジェクト探索対象縮小画像上の探索省略領域を除いて、第1、第2、第3、…、第nのオブジェクト探索対象縮小画像からオブジェクトを探索する。或いは、探索省略領域が設定された第1、第2、第3、…、第nのオブジェクト探索対象縮小画像に基づき、探索省略領域が反映された1サイズのオブジェクト探索縮小画像を生成し、この1サイズのオブジェクト探索縮小画像の探索省略領域を除いて、この1サイズのオブジェクト探索対象縮小画像からオブジェクトを探索する。
【0062】
以上により、オブジェクト探索処理を高速化することができる。
【0063】
次に、本実施形態のオブジェクト探索省略領域設定方法及びオブジェクト探索省略領域設定装置の適用例について説明する。図20は、本実施形態のオブジェクト探索省略領域設定方法及びオブジェクト探索省略領域設定装置を適用したデジタルテレビジョン放送受信装置の概略構成の一例を示す図である。
【0064】
ここで、デジタルテレビジョン放送受信装置100の基本構成について簡単に説明する。図20に示すように、デジタルテレビジョン放送受信装置1は、入力端子102、チューナー部103、外部入力端子104〜107、信号処理モジュール108、コントローラ110、OSD信号生成モジュール111、グラフィック処理モジュール112、映像処理モジュール113、音声処理モジュール114を備えている。
【0065】
地上波放送受信用のアンテナ101で受信した地上デジタルテレビジョン放送信号は、入力端子102を介してチューナー部103に供給され、チューナー部103は、放送信号から、指定チャンネルの信号を選択し、信号処理モジュール108に出力する。信号処理モジュール108は、選択された指定チャンネルの信号から映像信号及び音声信号を分離し、映像信号をグラフィック処理モジュール112へ出力し、また音声信号を音声処理モジュール114へ出力する。
【0066】
グラフィック処理モジュール112は、必要に応じて、映像信号に、OSD(on screen display)信号生成モジュール111で生成されるOSD信号を重畳して出力する。グラフィック処理モジュール112は、信号処理モジュール108からの映像信号と、OSD信号生成モジュール111からのOSD信号とを選択的に出力することもできる。
【0067】
グラフィック処理モジュール112から出力された映像信号は、映像処理モジュール113に供給される。映像処理モジュール113により処理された映像信号は、映像表示部141に供給される。映像表示部141は、映像信号に基づく映像を表示する。また、音声処理モジュール114は、音声信号をスピーカ142から出力可能なアナログ音声信号に変換し、スピーカ142に出力する。
【0068】
上記デジタルテレビジョン放送受信装置1は、コントローラ110によって統括的に制御されている。コントローラ110は、CPU(central processing unit)等により構成され、リモートコントローラ等からの信号(各種指示)を受けて、各モジュール等の動作を制御する。また、コントローラ110は、CPUが実行する制御プログラムを格納したROM(read only memory)1101と、CPUに作業エリアを提供するRAM(random access memory)1102と、各種の設定情報及び制御情報等が格納される不揮発性メモリ1103とを備えている。
【0069】
例えば、上記した映像処理モジュール113は、図6に示す類似度分布作成モジュール3、探索省略領域設定モジュール4、及び探索モジュール5を備え、探索モジュール5が、入力画像(番組画像)からサイズ比の異なる複数のオブジェクト探索対象縮小画像を生成し、各オブジェクト探索対象縮小画像に対して類似度計算による探索処理を行い、必要に応じて検出された類似度、位置、スケールの情報を探索省略領域設定モジュール4におくり、探索省略領域設定モジュール4が、複数のオブジェクト探索対象縮小画像のうちの第1のオブジェクト探索対象縮小画像に対して、探索省略領域設定関数に基づき探索省略領域を設定し、さらにオブジェクト探索対象縮小画像のサイズ比の情報等を利用し、その他のオブジェクト探索対象縮小画像に対しても、探索省略領域を設定し、探索モジュール5は、各オブジェクト探索対象縮小画像のうち探索省略領域を除外した除外領域に対してオブジェクト探索を実行し、オブジェクト探索対象縮小画像からオブジェクトを検出することができる。
【0070】
各オブジェクト探索対象画像、即ち入力画像からオブジェクトを検出する意義について簡単に説明する。映像処理モジュール113は、例えば、2D映像(2-dimensional image)を3D映像(3-dimensional image)に変換(2D/3D変換)する機能を備えている。例えば、2D/3D変換処理では、2D映像を解析し、2D映像中の人物等の各オブジェクトを検出し、各オブジェクトの前後関係(奥行)を検出し、必要に応じてオブジェクトを変形し、3D映像を生成する。このような、2D/3D変換処理に上記説明したオブジェクト検出を適用することができる。
【0071】
また、映像処理モジュール113は、入力画像を高画質化する高画質化処理機能を備えている。例えば、高画質化処理として、超解像処理が挙げられる。超解像処理は、第1解像度である低解像度の画像信号から本来の画素値を推定して画素を増やすことにより、第2解像度である高解像度の画像信号を復元する処理である。この超解像処理の際に、例えば、オブジェクトを検出し、オブジェクトの種類に応じて超解像処理効果を強めたり、弱めたりすることができる。このような高画質化処理に上記説明したオブジェクト検出を適用することができる。
【0072】
なお、オブジェクト検出は、上記説明した2D/3D変換処理及び高画質化処理への適用だけに限定されるものではなく、オブジェクト検出が必要とされる各種画像処理に適用することができる。つまり、上記説明したオブジェクト探索省略領域設定方法は、上記説明した2D/3D変換処理及び高画質化処理へ適用することもできるし、様々な画像処理に適用することもできる。
【0073】
以下、本実施形態についてまとめる。
【0074】
実施形態の探索省略領域設定関数生成方法は、サイズ比の異なる複数のモデル縮小画像のうちの第1のモデル縮小画像上の指定探索点に対して、前記第1のモデル縮小画像からオブジェクトを探索するためのテンプレートを対応付けて、前記指定探索点と前記テンプレートとの指定探索点類似度を検出する。さらに、この方法は、前記指定探索点類似度がオブジェクト検出判定閾値を超える場合、前記モデル縮小画像上の前記指定探索点の周辺の複数の周辺探索点の夫々と、前記テンプレートとの周辺探索点類似度を検出する。
【0075】
さらにこの方法は、前記周辺探索点類似度の分布に基づき前記第1のモデル縮小画像上における類似度の度数(頻度、或いは、個数)を計測し、度数に基づいて第1のモデル縮小画像上における類似度分布を作成する。さらに、前記第1のモデル縮小画像と第2のモデル縮小画像との比率に基づき位置の対応付けを求め前記第2のモデル縮小画像上における対応付けされた位置を基準とした相対位置の各位置において、類似度の度数を計測し、度数に基づいて第2のモデル縮小画像上における類似度分布を作成する。なお、「相対位置の推定」或いは、「推定相対位置」とは、ある一箇所に位置を決定するということではなく、存在範囲を予測するということを意味する。
【0076】
さらにこの方法は、指定した探索漏れ率と前記各モデル縮小画像上の相対位置における類似度分布に基づいて、サイズ比と相対位置と類似度の関数である探索省略領域設定関数を生成する。
【0077】
実施形態のオブジェクト探索方法は、オブジェクト探索対象画像からスケールを指定した複数のオブジェクト探索対象縮小画像を作成し、第1のオブジェクト探索対象縮小画像上において位置を変えながらテンプレートを対応させて類似度を計算し、検出された類似度と前記探索省略領域設定関数に基づいて各オブジェクト探索対象縮小画像上における探索省略領域を設定し、設定された探索省略領域の類似度計算処理を省いたオブジェクト探索を行う。
【0078】
なお、上記したモジュールとは、ハードウェアで実現するものであっても良いし、CPU等を使ってソフトウェアで実現するものであってもよい。
【0079】
本発明のいくつかの実施形態を説明したが、これらの実施形態は、例として提示したものであり、発明の範囲を限定することは意図していない。これら新規な実施形態は、その他の様々な形態で実施されることが可能であり、発明の要旨を逸脱しない範囲で、種々の省略、置き換え、変更を行うことができる。これら実施形態やその変形は、発明の範囲や要旨に含まれるとともに、特許請求の範囲に記載された発明とその均等の範囲に含まれる。
【符号の説明】
【0080】
1…オブジェクト探索システム、2…画像入力モジュール、3…類似度分布作成モジュール、4…探索省略領域設定モジュール、5…探索モジュール、6…記憶部
【技術分野】
【0001】
本発明の実施形態は、探索省略領域設定関数生成方法、探索省略領域設定方法、オブジェクト探索方法、探索省略領域設定関数生成装置、探索省略領域設定装置、及びオブジェクト探索装置に関する。
【背景技術】
【0002】
近年、画像中から人物の顔などのオブジェクトを検出するための各種技術が提案されている。例えば、次のようなオブジェクト検出技術が提案されている。まず、オブジェクト探索対象画像に対して、参照画像から作成したテンプレートを重ね合わせて走査する。続いて、各重なり位置において、オブジェクト探索対象画像とテンプレートの間(或いはオブジェクト探索対象画像の特徴量とテンプレートの特徴量の間)の距離(或いは類似値、類似度など)を計算する。続いて、最小距離が得られる重なり位置(或いはオブジェクト探索対象画像とテンプレートの類似度が最大になる重なり位置)をオブジェクト検出位置として出力する。
【先行技術文献】
【特許文献】
【0003】
【特許文献1】特開2007−94689号公報
【特許文献2】特開2003−22442号公報
【発明の概要】
【発明が解決しようとする課題】
【0004】
正確にオブジェクトを探索するためには、例えば、オブジェクト探索対象画像に対して、テンプレートを1画素ずつずらし、各ずらし位置に対応して、オブジェクト探索対象画像とテンプレートの類似度を計算する。
【0005】
また、オブジェクトのサイズは不明であることが多い。このため、サイズの異なる複数の縮小画像を用意して、オブジェクトを仮定して、テンプレートを利用し、仮定した複数の縮小画像に対してオブジェクトを探索する。
【0006】
しかしながら、上記オブジェクト探索手法では、オブジェクト探索のための計算負荷が大きく、計算コストが高くなってしまう。つまり、オブジェクト探索負荷が大きい。そこで、オブジェクト探索の効率化技術が要望されている。
【0007】
本発明の目的は、オブジェクト探索の効率化を図ることが可能な探索省略領域設定関数生成方法、探索省略領域設定方法、オブジェクト探索方法、探索省略領域設定関数生成装置、探索省略領域設定装置、及びオブジェクト探索装置を提供することにある。
【課題を解決するための手段】
【0008】
実施形態の探索省略領域設定関数生成方法は、サイズ比の異なる複数のモデル縮小画像のうちの第1のモデル縮小画像上の指定探索点に対して、前記第1のモデル縮小画像からオブジェクトを探索するためのテンプレートを対応付けて、前記指定探索点と前記テンプレートとの指定探索点類似度を検出する。さらに、この方法は、前記指定探索点類似度がオブジェクト検出判定閾値を超える場合、前記モデル縮小画像上の前記指定探索点の周辺の複数の周辺探索点の夫々と、前記テンプレートとの周辺探索点類似度を検出する。
【図面の簡単な説明】
【0009】
【図1】探索省略領域設定関数の作成の一例を示すフローチャートである。
【図2】オブジェクト検出の類似度分布の計測の一例を示すフローチャートである。
【図3】図1中の検出位置近傍の類似度度数の計測の一例を示すフローチャートである。
【図4】図1中の類似度分布の作成の一例を示すフローチャートである。
【図5】図1中の探索省略領域設定関数の作成の一例を示すフローチャートである。。
【図6】オブジェクト探索システムの一例を示すブロック図である。
【図7】オブジェクト探索の概念の一例を示す図である。
【図8】オブジェクト(顔)検出の概念の一例を示す図である。
【図9】複数の縮小画像(サイズ比の異なる複数の縮小画像)に対するオブジェクト(顔)検出の概念の一例を示す図である。
【図10】相対座標(xR,yR,rR)における類似度分布(密度)p(s|xR,yR,rR)を示す概念の一例を示す図である。
【図11】オブジェクト検出位置から離れた位置における類似度分布(密度)p(s|xR,yR,rR)の概念の一例を示す図である。
【図12】オブジェクト検出位置に近い位置における類似度分布(密度)p(s|xR,yR,rR)の概念の一例を示す図である。
【図13】探索省略領域設定関数sP(xR,yR,rR)の概念の一例を示す図である。
【図14】探索省略領域設定関数sP(xR,yR,rR)の概念の一例を示す図である。
【図15】探索省略領域設定関数sP(xR,yR,rR)と探索省略領域との関係の概念の一例を示す図である。
【図16】探索点と探索省略領域との関係の一例を示す図である。
【図17】複数の縮小画像(サイズ比の異なる複数の縮小画像)に対する探索処理と探索省略領域との関係の一例を示す図である。
【図18】オブジェクト探索対象縮小画像上に対する探索省略領域の設定順序の一例を示す図である。
【図19】オブジェクト探索対象縮小画像上に対する探索省略領域の設定順序の一例を示す図である。
【図20】本実施形態のオブジェクト探索省略領域設定方法及びオブジェクト探索省略領域設定装置を適用したデジタルテレビジョン放送受信装置の一例を示すブロック図である。
【発明を実施するための形態】
【0010】
以下、実施形態について図面を参照して説明する。
【0011】
本実施形態のオブジェクト探索省略領域設定関数生成方法又はオブジェクト探索省略領域設定関数生成装置(以下、関数生成方法又は関数生成装置と略記)は、例えば、オブジェクト探索前に、予めサイズ比の異なる各学習用縮小画像(モデル縮小画像)とテンプレート(例えば1サイズのテンプレート)とを用いて、各学習用縮小画像の類似度分布を計測し、計測された類似度に基づいて全学習用縮小画像のオブジェクトの近傍における類似度分布を計算し(学習結果)、計算された類似度分布に基づき探索省略領域設定関数を作成する。後に、図1〜図5等を参照し、関数生成方法又は関数生成装置による関数の生成について詳細に説明する。
【0012】
オブジェクト検出における「学習」とは、通例では、収集したオブジェクト画像を用いて探索に使用する為のテンプレートや最適特徴量や辞書と呼ばれるものなどを作成することを言う場合が多いが、本明細書においては、作成済みのテンプレートや辞書などを用いて、縮小画像上の類似度分布を計測したり探索省略領域設定関数を求めることを指すものとする。
【0013】
また、本実施形態のオブジェクト探索方法又はオブジェクト探索装置(以下、探索方法又は探索装置と略記)は、上記探索省略領域設定関数に基づき、サイズ比の情報等を利用し、サイズ比の異なる各オブジェクト探索対象縮小画像に対して、効率よく探索省略領域を設定する。例えば、探索方法又は探索装置は、上記探索省略領域設定関数に基づき、サイズ比の異なる複数のオブジェクト探索対象縮小画像のうちの第1のオブジェクト探索対象縮小画像(例えば複数のオブジェクト探索対象縮小画像のうちの最小のオブジェクト探索対象縮小画像)に対して、第1の探索省略領域を設定する(第1の探索省略領域の設定手法については後に詳しく説明する)。続いて、探索方法又は探索装置は、第1のオブジェクト探索対象縮小画像と第2のオブジェクト探索対象縮小画像とのサイズ比の情報等を利用し、第2のオブジェクト探索対象縮小画像に対して、第2の探索省略領域を設定する。
【0014】
さらに詳しく説明すると、探索方法又は探索装置は、第1のオブジェクト探索対象縮小画像上の第1の基準点(又は探索点)と、第1のオブジェクト探索対象縮小画像と第2のオブジェクト探索対象縮小画像とのサイズ比の情報とに基づき、第1の基準点に対応する第2の基準点を前記第2のオブジェクト探索対象縮小画像上に設定し、第1のオブジェクト探索対象縮小画像上の第1の基準点とテンプレートとの類似度に基づき、第2の基準点を基準として設定される前記第2のオブジェクト探索対象縮小画像上に設定し探索省略領域のサイズを設定する。後に、探索方法又は探索装置による探索省略領域の設定について詳細に説明する。
【0015】
また、本実施形態のオブジェクト探索方法又はオブジェクト探索装置(以下、探索方法又は探索装置と略記)は、サイズ比の異なる各オブジェクト探索対象縮小画像上に設定された探索省略領域を除外して、テンプレート(例えば1サイズのテンプレート)を用いて各オブジェクト探索対象縮小画像からオブジェクトを探索する。つまり、探索方法又は探索装置は、第1のオブジェクト探索対象縮小画像に設定された探索省略領域を除外して、テンプレートを用いて第1のオブジェクト探索対象縮小画像からオブジェクトを探索し、第2のオブジェクト探索対象縮小画像に設定された探索省略領域を除外して、テンプレートを用いて第2のオブジェクト探索対象縮小画像からオブジェクトを探索する。後に、探索方法又は探索装置による探索省略領域の設定について詳細に説明する。
【0016】
テレビ放送などの映像からオブジェクトを検出する場合、多くは、オブジェクトのサイズは事前に判らない。このため、サイズ比の異なる複数の縮小画像を作成し、テンプレート(例えば1サイズのテンプレート)を利用し、作成した複数の縮小画像に対して探索(或いはスキャン、又は走査)を行う(図7、8参照)。
【0017】
実際の処理においては、オブジェクト探索対象画像を異なる縮小率で縮小した複数の縮小画像(サイズ比の異なる複数のオブジェクト探索対象縮小画像)を作成し、一定サイズのテンプレートを利用し、複数の縮小画像の夫々からオブジェクトを探索する(図9参照)。本実施形態で生成されるオブジェクト探索省略領域設定関数は、このような場合に効果的に探索省略領域を設定することができる。
【0018】
例えば、図6に示すオブジェクト探索システム1が、上記関数生成装置に相当し、探索省略領域設定関数を作成する。また、オブジェクト探索システム1は、上記領域設定装置にも相当し、探索省略領域設定関数に基づき、各オブジェクト探索対象縮小画像に対して探索省略領域を設定する。また、オブジェクト探索システム1は、上記探索装置にも相当し、探索省略領域を除外して、テンプレートを用いて各オブジェクト探索対象画像からオブジェクトを探索する。
【0019】
なお、探索省略領域設定関数の作成、探索省略領域の設定、及びオブジェクト探索の全てを1つの機器で実現しなくてもよい。例えば、コンピュータ等で探索省略領域設定関数を作成し、デジタルTV等の画像処理機器に探索省略領域設定関数に基づくオブジェクト探索機能を搭載し、この画像処理機器がオブジェクト探索機能によりオブジェクトを探索する。つまり、画像処理機器が、番組映像(基準サイズのオブジェクト探索対象画像)から、サイズ比の異なる複数のオブジェクト探索対象縮小画像を生成し、各オブジェクト探索対象縮小画像に対して探索省略領域を設定し、各オブジェクト探索対象縮小画像の探索省略領域を除外し、テンプレートを用いて各オブジェクト探索対象縮小画像からオブジェクトを探索する。
【0020】
以下、図6に示すオブジェクト探索システム1による探索省略領域設定関数の作成、探索省略領域の設定、及びオブジェクト探索の一例について説明する。図6に示すように、例えば、オブジェクト探索システム1は、画像入力モジュール2、類似度分布作成モジュール3、探索省略領域設定モジュール4、探索モジュール5、記憶部6を備える。
【0021】
図1は、探索省略領域設定関数の作成の一例を示すフローチャートである。
【0022】
最初に、図2に示すフローチャートを参照し、図1中のオブジェクト検出の類似度分布の計測(ST100)の一例について説明する。
【0023】
例えば、オブジェクト探索システム1の画像入力モジュール2は、画像番号iを初期化し(ST101)、複数の学習用画像(モデル画像)を順次入力して各学習用画像に画像番号iを指定し、学習用画像iに縮小処理のスケールrを設定し、縮小していない入力画像である学習用画像iに対するサイズ比であるスケールrを設定して、学習用縮小画像(モデル縮小画像)を作成し、スケールrが最小の学習用縮小画像(画像番号iの縮小画像)を第1の学習用縮小画像(画像番号iの縮小画像)とし(ST103)、類似度分布作成モジュール3は、スケールrを設定し(ST103)、探索点(x,y)を設定して(ST104)、探索点における類似度sを計算して(ST105)、類似度sを記録する(ST106)。
【0024】
つまり、類似度分布作成モジュール3は、第1の学習用縮小画像に対して、オブジェクトを探索するためにテンプレートを用いて走査する。例えば、類似度分布作成モジュール3は、上記走査において、第1の学習用縮小画像上の第1の指定探索点に対して、この第1の学習用縮小画像からオブジェクトを探索するためのテンプレートを第1の位置関係に対応付けて、第1の学習用縮小画像上の第1の指定探索点とテンプレートとの間の第1の指定探索点類似度(類似度s)を検出する。
【0025】
上記類似度検出処理を全学習用縮小画像と全探索点について行う(ST107、ST108、ST109、ST110)。
【0026】
次に、図3に示すフローチャートを参照し、図1中の検出位置近傍の類似度度数の計測(ST200)の一例について説明する。
【0027】
例えば、オブジェクト探索システム1の類似度分布作成モジュール3は、画像番号i、検出個数n、度数f(s|xR,yR,rR)を初期化し(ST201)、画像番号i、スケールr、探索点(x,y)を設定して(ST202)(ST203)(ST204)、探索点における類似度sと検出閾値θとを比較する。ここで、スケールrの値は縮小画像のサイズと対応が付けられる。スケールrをn通りにして処理することは、n個のサイズの異なる縮小画像を処理することを意味する。
【0028】
第1の指定探索点類似度(類似度s)が検出閾値θ(オブジェクト検出判定閾値θ)を超えない場合(ST205、NO)、類似度分布作成モジュール3は、第1の指定探索点を変更し(ST204)、第1の学習用縮小画像上の第2の指定探索点に対して、この第1の学習用縮小画像からオブジェクトを探索するためのテンプレートを第2の位置関係に対応付けて、第1の学習用縮小画像上の第2の指定探索点とテンプレートとの間の第2の指定探索点類似度(類似度s)を検出する。
【0029】
第2の指定探索点類似度(類似度s)が検出閾値θ(オブジェクト検出判定閾値θ)を超えなければ、さらに、類似度分布作成モジュール3は、第2の指定探索点を変更し、類似度検出を継続し、第2の指定探索点類似度(類似度s)が検出閾値θ(オブジェクト検出判定閾値θ)を超えれば、類似度分布作成モジュール3は、第2の位置関係で、オブジェクトが検出されたと判定する。
【0030】
上記したように、類似度分布作成モジュール3は、類似度sが検出閾値θ(オブジェクト検出判定閾値θ)を超えたとき(ST205、YES)、オブジェクトが検出されたと判定し、その近傍の類似度を計算する。類似度分布作成モジュール3は、オブジェクト検出位置からの相対座標(xR,yR)と相対スケールrRと類似度sに関する度数f()を加算する処理を全相対スケールと全相対座標について行う(ST206〜ST212)。スケールrは、縮小していない元の学習用画像と学習用縮小画像(例えば第1の学習用画像)との大きさの比であり、学習用縮小画像のサイズが小さくなるほどrは大きくなる。相対スケールrRとは、2つの学習用縮小画像のスケールrの比を表すものとする。
【0031】
例えば、上記第1の位置関係で、第1の指定探索点類似度(類似度s)が検出閾値θ(オブジェクト検出判定閾値θ)を超えた場合、類似度分布作成モジュール3は、第1の位置関係の第1の学習用縮小画像上の第1の指定探索点の周辺の複数の第1の周辺探索点の夫々と、テンプレートとの周辺探索点類似度を検出する。
【0032】
以上により、第1の学習用縮小画像について類似度度数の計測が完了すると、続いて、類似度分布作成モジュール3は、スケールrの異なる第2の学習用縮小画像について上記した類似度度数を計測する(ST203〜ST213)。以後、同様に、類似度分布作成モジュール3は、全てのスケールrの学習用縮小画像について上記した類似度度数を計測すし(ST203〜ST213)、さらに、全ての学習用画像iについて上記した類似度度数を計測する(ST202〜ST214)。
【0033】
また、複数種類のテンプレートを用意し、類似度分布作成モジュール3は、各テンプレートを用いて、類似度度数を計測することもできる。複数種類のテンプレートは、例えば、異なるオブジェクトを検出するためのテンプレートである。
【0034】
ここでテンプレートについて補足する。顔(オブジェクト)を検出するためのテンプレートは、例えば特開2003−346158号公報に記載されているように、顔と目と鼻それぞれに対応した部分空間法の辞書パターンのことである。また、顔(オブジェクト)を検出するためのテンプレートは、例えば特開2007−249394号公報に記載されているように、登録顔画像の個々の顔の静的な特徴を予め設定された特徴点の配置と、それらの近傍の画像特徴量との組で表したモデルである。また、顔(オブジェクト)を検出するためのテンプレートは、例えば特開2005−208850号公報に記載されているように、登録顔画像にプロットされた特徴点の近傍の画像の情報(例えば、ガボールウェーブレット係数)CA(x−)、特徴点配置情報x−、及び人物IDnから構成されるモデルデータHの集合である。なお、テンプレートは、上記したような辞書パターン、モデルデータであってもよいし、画像(テンプレート画像)であってもよい。
【0035】
続いて、図4に示すフローチャートを参照し、図1中の類似度分布の作成(ST300)の一例について説明する。
【0036】
類似度分布作成モジュール3は、ST200により求められた度数f()を検出個数nで割り、P()を算出する処理を全相対スケールと全相対座標と全類似度についてについて行う(ST301〜ST307)。図10、11、12は、 P(s|xR,yR,rR)の概念の一例を示す図である。オブジェクト位置に近いと、図12のように類似度sが大きい領域が高頻度(度数が大きい)となり、オブジェクト位置から遠いときは、図11のように類似度sが小さい領域が高頻度となる。
【0037】
続いて、図5に示すフローチャートを参照し、図1中の探索省略領域設定関数の作成(ST400)の一例について説明する。
【0038】
類似度分布作成モジュール3は、s=0から P(s|xR,yR,rR)を累積加算し、検出もれ率P(許容検出もれ率P)を超える直前のsを SP(xR,yR,rR)とする処理を全相対スケールrRと全相対座標(xR,yR)について行い(ST401〜ST408)、類似度分布作成モジュール3は、探索省略領域設定関数SP(xR,yR,rR)を生成する。
【0039】
つまり、類似度分布作成モジュール3は、上記した周辺探索点類似度の分布に基づきオブジェクトとテンプレートとの距離を推定し、推定距離に基づきオブジェクトの探索省略領域を設定するための探索省略領域設定関数を生成する。ここでいう距離とは、相対位置のことであり、方向によって、距離の基準は変化する。即ち、類似度分布作成モジュール3は、推定距離(推定相対位置)に基づき、上記した第1の周辺探索点におけるオブジェクトの検出もれ率を推定し、推定検出もれ率に基づき探索省略領域設定関数を生成する。より具体的には、類似度分布作成モジュール3は、オブジェクトの検出もれを許容する許容検出もれ率と推定検出もれ率とを比較し、許容検出もれ率未満の領域を探索省略領域として設定するための探索省略領域設定関数を生成する。
【0040】
探索省略領域を設定できる理論的根拠を補足説明する。仮に位置(xF,yF),スケールrFで非常に小さい類似度が観測されたとき、そのごく近傍にもオブジェクトが無いと推定される。この考え方を論理学における命題と捉えたとき、命題が真ならば、その対偶も真であることを本実施形態では利用している。「AならばBである」の対偶は「BでなければAでない」で定義され、真の命題の対偶は真であることが判っている。これを利用すると、「オブジェクトが(xF,yF),スケールrFで検出されるとき、(x,y),スケールrにおける類似度は s>s(x−xF,y−yF,rF/r)となる」が真ならば、その対偶である「(x,y),スケールrにおける類似度が s≦s(x−xF,y−yF,rF/r)ならば、(xF,yF),スケールrFのところでオブジェクトは検出されない」も真であることが結論付けられる。さて、一般には類似度の分布は幅広い分布の形をしており、類似度を用いてその近傍のオブジェクトの有無を確定的に推定することは困難であるため、検出もれ率Pを指定して上記の命題を修正する。「オブジェクトが(xF,yF),スケールrFで検出されるとき、(x,y),スケールrにおける類似度は1−Pの確率で s>s(x−xF,y−yF,rF/r)となる」、およびその対偶は「(x,y),スケールrにおける類似度が s≦s(x−xF,y−yF,rF/r)ならば、1−Pの確率で(xF,yF),スケールrFのところでオブジェクトは検出されない」となる。類似度分布作成モジュール3は、検出もれ率Pと、相対座標と、サイズ比を指定したときの、前記s(x−xF,y−yF,rF/r)に対応するSP(xR,yR,rR)を求めていることになる。
【0041】
図13は、SP(xR,yR,rR)の概念の一例を示す図である。検出もれ率P(許容検出もれ率P)が小さいと、曲線が中心に近づき、探索省略領域が狭まる。逆に、検出もれ率P(許容検出もれ率P)が大きいと、曲線が中心から離れ、探索省略領域が広がる。例えば、オブジェクトの検出もれの可能性を十分に低くしたい場合には、許容検出もれ率Pを非常に小さい値(例えば0%<P<5%)に設定することにより、探索省略領域が狭くなり、オブジェクトの検出もれの可能性を低くすることができる。また、オブジェクトの検出もれの可能性を低くすることよりも、オブジェクトの検索負荷を低くすることに重点を置きたい場合には、許容検出もれ率Pをやや低い値(例えば5%≦P<10%)に設定することにより、探索省略領域が広くなり、オブジェクトの検索もれを防ぎつつ、オブジェクトの検索負荷をより低くすることができる。
【0042】
図14は、探索省略領域設定関数SP(xR,yR,rR)を説明する概念の一例を示す図である。図14は、オブジェクト検出位置(0,0)からの相対座標における(検出もれ率Pとしたときの)類似度の下限の一例を示している。中心が頂上となる丘の形状をしている。スケールr,座標(x,y)でオブジェクトが検出された場合に、スケールr・rR,座標(x+xR,y+yR)における類似度は1−Pの確率でSP(xR,yR,rR)以上になる。
【0043】
図15は、図14のxとyに関して反転したグラフの一例を示す図である。あるスケールr0、ある位置(x0,y0)において類似度sが得られた場合、その位置からの相対スケールrR,相対座標(xR,yR)として、SP(−xR,−yR,1/rR)>sの領域でオブジェクトが検出される確率は検出もれ率P(許容検出もれ率P)以下となる。したがって、検出もれ率P(許容検出もれ率P)を十分に小さい値に設定することにより、この領域において探索を省略して探索の計算量を削減することができる。
【0044】
以下、上記の数式定義をまとめる。
【数1】
【0045】
【数2】
【0046】
図16は、探索の概念の一例を示す図である。図16中の「+印」は探索点を示す。探索省略領域設定モジュール4は、探索の類似度計算後に、その近傍に探索省略領域(図16中の斜線領域)を設定する。
【0047】
例えば、画像入力モジュール2は、基準となるオブジェクト探索対象画像(例えば番組画像)を入力し、探索モジュール5は、サイズ比の異なる複数のオブジェクト探索対象縮小画像を生成し、第1のオブジェクト探索対象縮小画像とテンプレートとを所定位置関係に対応付けて(第1のオブジェクト探索対象縮小画像の第1の指定探索点とテンプレートとを対応付けて)、第1のオブジェクト探索対象縮小画像上の第1の指定探索点と、テンプレートとの間の指定探索点類似度を検出する。探索省略領域設定モジュール4は、必要に応じて、探索モジュール5から類似度、位置、スケールの情報を受け取り、探索省略領域設定関数に基づきオブジェクト探索対象縮小画像上の第1の指定探索点の近傍に探索省略領域を設定する。
【0048】
1個の探索点に対応する探索省略領域は、類似度に依存するため、探索点の配置は動的に設定する必要がある。
【0049】
次に、図17を参照し、複数のオブジェクト探索対象縮小画像に対して効率よく探索省略領域を設定する方法について説明する。探索省略領域設定モジュール4は、探索省略領域設定関数に基づき、サイズ比の異なる複数のオブジェクト探索対象縮小画像のうちの第1のオブジェクト探索対象縮小画像上の第1の基準点(+)とテンプレートとを対応付け、第1のオブジェクト探索対象縮小画像の第1の基準点を含む所定領域とテンプレートとの類似度が閾値より低い場合に(第1の基準点の近傍にオブジェクトが無い場合に)、第1の基準点及び類似度に基づき第1のオブジェクト探索対象縮小画像上に第1の探索省略領域を設定する。
【0050】
さらに、探索省略領域設定モジュール4は、第1のオブジェクト探索対象縮小画像と第2のオブジェクト探索対象縮小画像とのサイズ比(以下、第1のサイズ比)に基づき、第2のオブジェクト探索対象縮小画像上に第2の探索省略領域を設定する。より具体的には、探索省略領域設定モジュール4は、第1の基準点の座標値と第1のサイズ比とに基づき、前記第1の基準点に対応する第2の基準点の座標値を算出し、前記第2のオブジェクト探索対象縮小画像上に第2の基準点を設定し、第1の基準点とテンプレートとの類似度に基づき、第2の探索省略領域のサイズを算出し、前記第2のオブジェクト探索対象縮小画像上に第2の基準点を基準として第2の探索省略領域を設定する。
【0051】
上記したように、探索省略領域設定モジュール4は、サイズ比の異なる複数のオブジェクト探索対象縮小画像のうちの第1のオブジェクト探索対象縮小画像上の探索点(第1の基準点)の類似度計算後に、探索点の近傍に探索省略領域(斜線領域)を設定し、さらに、第1のオブジェクト探索対象縮小画像と異なるスケールの第2のオブジェクト探索対象縮小画像上に、スケールの情報を参照し、探索省略領域(斜線領域)を設定する。
【0052】
また、効率よくオブジェクトを探索するために、探索省略領域設定モジュール4は、サイズ比の異なる複数のオブジェクト探索対象縮小画像のうちの最小サイズの第1のオブジェクト探索対象縮小画像から処理を開始する。テンプレートのサイズを一定とすると、第1のオブジェクト探索対象縮小画像に対するテンプレートの相対サイズは大きく、逆に、最大サイズの第nのオブジェクト探索対象縮小画像に対するテンプレートの相対サイズは小さい。つまり、第1のオブジェクト探索対象縮小画像に対してテンプレートを走査することは、サイズの大きいオブジェクトを探索することであり、第nのオブジェクト探索対象縮小画像に対してテンプレートを走査することは、サイズの小さいオブジェクトを探索することである。
【0053】
サイズの大きいオブジェクトは重要であることが多く、また、第1のオブジェクト探索対象縮小画像に対してテンプレートを走査する作業負荷は、第nのオブジェクト探索対象縮小画像に対してテンプレートを走査する作業負荷より軽い。このような事情から、複数のオブジェクト探索対象縮小画像のうちの最小サイズの第1のオブジェクト探索対象縮小画像から処理を開始することにより、効率化を図ることができる。つまり、第1のオブジェクト探索対象縮小画像に対しては、基本的にテンプレート走査により探索省略領域を設定するが、第1のオブジェクト探索対象縮小画像以外のオブジェクト探索対象縮小画像に対しては、テンプレート走査を一部省略して、サイズ比の情報を利用して、第1のオブジェクト探索対象縮小画像に対する類似度計算結果を用いた探索省略領域設定処理を適用することができるからである。
【0054】
次に、1サイズのオブジェクト探索対象縮小画像上に複数の探索省略領域を設定する手順について説明する。例えば、図18に示すように、オブジェクト探索対象縮小画像の第1の指定探索点A10及び複数の周辺探索点と、テンプレートとの類似度を計算し、この類似度に対応して探索省略領域設定関数に基づき、第1の探索省略領域A11を設定する。次に、第1の探索省略領域A11の外であって、第1の探索省略領域A11に近接する第2の指定探索点A20及び複数の周辺探索点と、テンプレートとの類似度を計算し、この類似度に対応して探索省略領域設定モジュール4は、第2の指定探索点A20を基準として、探索省略領域設定関数に基づき、第2の探索省略領域A21を設定する。次に、第1の探索省略領域A11及び第2の探索省略領域A21の外であって、第1の探索省略領域A11から最も遠く且つ第2の探索省略領域A21に近接する第3の指定探索点A30及び複数の周辺探索点と、テンプレートとの類似度を計算し、この類似度に対応して探索省略領域設定モジュール4は、第3の指定探索点A30を基準として、探索省略領域設定関数に基づき、第3の探索省略領域A31を設定する。このようにして、探索省略領域設定モジュール4は、オブジェクト探索対象縮小画像上に、1以上の探索省略領域を設定することができる。
【0055】
或いは、図19に示すように、第1のオブジェクト探索対象縮小画像の第1の指定探索点A10及び複数の周辺探索点と、テンプレートとの類似度を計算し、この類似度に対応して探索省略領域設定モジュール4は、第1の指定探索点A10を基準として、探索省略領域設定関数に基づき、第1の探索省略領域A11を設定する。次に、第1の探索省略領域A11の外であって、第1の探索省略領域A11から所定距離以上離れた第2の指定探索点A20及び複数の周辺探索点と、テンプレートとの類似度を計算し、この類似度に対応して探索省略領域設定モジュール4は、第2の指定探索点A20を基準として、探索省略領域設定関数に基づき、第2の探索省略領域A21を設定する。次に、第1の探索省略領域A11及び第2の探索省略領域A21の外であって、第1の探索省略領域A11及び第2の探索省略領域A21から所定距離以上離れた第3の指定探索点A30及び複数の周辺探索点と、テンプレートとの類似度を計算し、この類似度に対応して探索省略領域設定モジュール4は、第3の指定探索点A30を基準として、探索省略領域設定関数に基づき、第3の探索省略領域A31を設定する。このようにして、探索省略領域設定モジュール4は、第1段階として、オブジェクト探索対象縮小画像上に、1以上の探索省略領域を設定することができる。さらに、第1の探索省略領域A11、第2の探索省略領域A21、及び第3の探索省略領域A31の各領域外、例えば、各領域から最も遠い第4の指定探索点A40及び複数の周辺探索点と、テンプレートとの類似度を計算し、この類似度に対応して探索省略領域設定モジュール4は、第4の指定探索点A40を基準として、探索省略領域設定関数に基づき、第4の探索省略領域A41を設定する。このようにして、探索省略領域設定モジュール4は、第2段階として、オブジェクト探索対象縮小画像上に、1以上の探索省略領域を設定することができる。以上を繰り返し、探索省略領域設定モジュール4は、オブジェクト探索対象縮小画像上に、効率よく、複数の探索省略領域を設定することができる。
【0056】
上記したように、探索省略領域設定モジュール4は、オブジェクト探索対象縮小画像を覆うように複数の探索省略領域を設定する。続いて、探索モジュール5は、オブジェクト探索対象縮小画像領域のうち、探索省略領域を除外した除外領域に対して、オブジェクト探索を実行する。つまり、探索モジュール5は、オブジェクト探索対象縮小画像領域のうち、探索省略領域を除外した除外領域に対して、テンプレートを重ね合わせて走査し、オブジェクトを探索する。さらに、探索時に検出された類似度に基づき、類似度、位置、スケールの情報を探索省略領域設定モジュール4に送り、随時、探索省略領域を複数のオブジェクト探索対象縮小画像に追加設定する。これにより、オブジェクト探索対象縮小画像の全領域に対してテンプレートを1画素ずつずらしながらオブジェクト探索を実行する場合に比べて、効率良くオブジェクト探索を実行することができる。
【0057】
本実施形態のオブジェクト探索省略領域設定方法によれば、オブジェクトの検出もれを抑えつつ、オブジェクト探索処理を高速化することができる。
【0058】
ここで、オブジェクト探索処理の高速化の概念についてまとめる。
【0059】
オブジェクト探索対象画像からオブジェクト(人物の顔)を検出するためには、オブジェクト探索対象画像の全ての位置の探索点とテンプレートとの類似度を計算する。オブジェクトのサイズは、事前に判らないため、複数サイズの複数のテンプレートを利用し類似度を計算する。或いは、サイズ比の異なる複数のオブジェクト探索対象縮小画像を生成し、これら複数のオブジェクト探索対象縮小画像に対してテンプレートを利用し類似度を計算する。このような計算処理は膨大な処理となり負担が大きい。
【0060】
そこで、まず、サイズ比の異なる複数のオブジェクト探索対象縮小画像のうちの第1のオブジェクト探索対象縮小画像に対して、探索省略領域を設定する。第1のオブジェクト探索対象縮小画像上のある探索点における類似度が低ければ、この探索点の近傍にはオブジェクトが存在しない可能性が高い。このことを利用し、第1のオブジェクト探索対象縮小画像上に、探索省略領域を設定する。さらに、サイズ比の情報を利用し、第2、第3、…、第nのオブジェクト探索対象縮小画像上に、探索省略領域を設定する。
【0061】
その上で、第1、第2、第3、…、第nのオブジェクト探索対象縮小画像上の探索省略領域を除いて、第1、第2、第3、…、第nのオブジェクト探索対象縮小画像からオブジェクトを探索する。或いは、探索省略領域が設定された第1、第2、第3、…、第nのオブジェクト探索対象縮小画像に基づき、探索省略領域が反映された1サイズのオブジェクト探索縮小画像を生成し、この1サイズのオブジェクト探索縮小画像の探索省略領域を除いて、この1サイズのオブジェクト探索対象縮小画像からオブジェクトを探索する。
【0062】
以上により、オブジェクト探索処理を高速化することができる。
【0063】
次に、本実施形態のオブジェクト探索省略領域設定方法及びオブジェクト探索省略領域設定装置の適用例について説明する。図20は、本実施形態のオブジェクト探索省略領域設定方法及びオブジェクト探索省略領域設定装置を適用したデジタルテレビジョン放送受信装置の概略構成の一例を示す図である。
【0064】
ここで、デジタルテレビジョン放送受信装置100の基本構成について簡単に説明する。図20に示すように、デジタルテレビジョン放送受信装置1は、入力端子102、チューナー部103、外部入力端子104〜107、信号処理モジュール108、コントローラ110、OSD信号生成モジュール111、グラフィック処理モジュール112、映像処理モジュール113、音声処理モジュール114を備えている。
【0065】
地上波放送受信用のアンテナ101で受信した地上デジタルテレビジョン放送信号は、入力端子102を介してチューナー部103に供給され、チューナー部103は、放送信号から、指定チャンネルの信号を選択し、信号処理モジュール108に出力する。信号処理モジュール108は、選択された指定チャンネルの信号から映像信号及び音声信号を分離し、映像信号をグラフィック処理モジュール112へ出力し、また音声信号を音声処理モジュール114へ出力する。
【0066】
グラフィック処理モジュール112は、必要に応じて、映像信号に、OSD(on screen display)信号生成モジュール111で生成されるOSD信号を重畳して出力する。グラフィック処理モジュール112は、信号処理モジュール108からの映像信号と、OSD信号生成モジュール111からのOSD信号とを選択的に出力することもできる。
【0067】
グラフィック処理モジュール112から出力された映像信号は、映像処理モジュール113に供給される。映像処理モジュール113により処理された映像信号は、映像表示部141に供給される。映像表示部141は、映像信号に基づく映像を表示する。また、音声処理モジュール114は、音声信号をスピーカ142から出力可能なアナログ音声信号に変換し、スピーカ142に出力する。
【0068】
上記デジタルテレビジョン放送受信装置1は、コントローラ110によって統括的に制御されている。コントローラ110は、CPU(central processing unit)等により構成され、リモートコントローラ等からの信号(各種指示)を受けて、各モジュール等の動作を制御する。また、コントローラ110は、CPUが実行する制御プログラムを格納したROM(read only memory)1101と、CPUに作業エリアを提供するRAM(random access memory)1102と、各種の設定情報及び制御情報等が格納される不揮発性メモリ1103とを備えている。
【0069】
例えば、上記した映像処理モジュール113は、図6に示す類似度分布作成モジュール3、探索省略領域設定モジュール4、及び探索モジュール5を備え、探索モジュール5が、入力画像(番組画像)からサイズ比の異なる複数のオブジェクト探索対象縮小画像を生成し、各オブジェクト探索対象縮小画像に対して類似度計算による探索処理を行い、必要に応じて検出された類似度、位置、スケールの情報を探索省略領域設定モジュール4におくり、探索省略領域設定モジュール4が、複数のオブジェクト探索対象縮小画像のうちの第1のオブジェクト探索対象縮小画像に対して、探索省略領域設定関数に基づき探索省略領域を設定し、さらにオブジェクト探索対象縮小画像のサイズ比の情報等を利用し、その他のオブジェクト探索対象縮小画像に対しても、探索省略領域を設定し、探索モジュール5は、各オブジェクト探索対象縮小画像のうち探索省略領域を除外した除外領域に対してオブジェクト探索を実行し、オブジェクト探索対象縮小画像からオブジェクトを検出することができる。
【0070】
各オブジェクト探索対象画像、即ち入力画像からオブジェクトを検出する意義について簡単に説明する。映像処理モジュール113は、例えば、2D映像(2-dimensional image)を3D映像(3-dimensional image)に変換(2D/3D変換)する機能を備えている。例えば、2D/3D変換処理では、2D映像を解析し、2D映像中の人物等の各オブジェクトを検出し、各オブジェクトの前後関係(奥行)を検出し、必要に応じてオブジェクトを変形し、3D映像を生成する。このような、2D/3D変換処理に上記説明したオブジェクト検出を適用することができる。
【0071】
また、映像処理モジュール113は、入力画像を高画質化する高画質化処理機能を備えている。例えば、高画質化処理として、超解像処理が挙げられる。超解像処理は、第1解像度である低解像度の画像信号から本来の画素値を推定して画素を増やすことにより、第2解像度である高解像度の画像信号を復元する処理である。この超解像処理の際に、例えば、オブジェクトを検出し、オブジェクトの種類に応じて超解像処理効果を強めたり、弱めたりすることができる。このような高画質化処理に上記説明したオブジェクト検出を適用することができる。
【0072】
なお、オブジェクト検出は、上記説明した2D/3D変換処理及び高画質化処理への適用だけに限定されるものではなく、オブジェクト検出が必要とされる各種画像処理に適用することができる。つまり、上記説明したオブジェクト探索省略領域設定方法は、上記説明した2D/3D変換処理及び高画質化処理へ適用することもできるし、様々な画像処理に適用することもできる。
【0073】
以下、本実施形態についてまとめる。
【0074】
実施形態の探索省略領域設定関数生成方法は、サイズ比の異なる複数のモデル縮小画像のうちの第1のモデル縮小画像上の指定探索点に対して、前記第1のモデル縮小画像からオブジェクトを探索するためのテンプレートを対応付けて、前記指定探索点と前記テンプレートとの指定探索点類似度を検出する。さらに、この方法は、前記指定探索点類似度がオブジェクト検出判定閾値を超える場合、前記モデル縮小画像上の前記指定探索点の周辺の複数の周辺探索点の夫々と、前記テンプレートとの周辺探索点類似度を検出する。
【0075】
さらにこの方法は、前記周辺探索点類似度の分布に基づき前記第1のモデル縮小画像上における類似度の度数(頻度、或いは、個数)を計測し、度数に基づいて第1のモデル縮小画像上における類似度分布を作成する。さらに、前記第1のモデル縮小画像と第2のモデル縮小画像との比率に基づき位置の対応付けを求め前記第2のモデル縮小画像上における対応付けされた位置を基準とした相対位置の各位置において、類似度の度数を計測し、度数に基づいて第2のモデル縮小画像上における類似度分布を作成する。なお、「相対位置の推定」或いは、「推定相対位置」とは、ある一箇所に位置を決定するということではなく、存在範囲を予測するということを意味する。
【0076】
さらにこの方法は、指定した探索漏れ率と前記各モデル縮小画像上の相対位置における類似度分布に基づいて、サイズ比と相対位置と類似度の関数である探索省略領域設定関数を生成する。
【0077】
実施形態のオブジェクト探索方法は、オブジェクト探索対象画像からスケールを指定した複数のオブジェクト探索対象縮小画像を作成し、第1のオブジェクト探索対象縮小画像上において位置を変えながらテンプレートを対応させて類似度を計算し、検出された類似度と前記探索省略領域設定関数に基づいて各オブジェクト探索対象縮小画像上における探索省略領域を設定し、設定された探索省略領域の類似度計算処理を省いたオブジェクト探索を行う。
【0078】
なお、上記したモジュールとは、ハードウェアで実現するものであっても良いし、CPU等を使ってソフトウェアで実現するものであってもよい。
【0079】
本発明のいくつかの実施形態を説明したが、これらの実施形態は、例として提示したものであり、発明の範囲を限定することは意図していない。これら新規な実施形態は、その他の様々な形態で実施されることが可能であり、発明の要旨を逸脱しない範囲で、種々の省略、置き換え、変更を行うことができる。これら実施形態やその変形は、発明の範囲や要旨に含まれるとともに、特許請求の範囲に記載された発明とその均等の範囲に含まれる。
【符号の説明】
【0080】
1…オブジェクト探索システム、2…画像入力モジュール、3…類似度分布作成モジュール、4…探索省略領域設定モジュール、5…探索モジュール、6…記憶部
【特許請求の範囲】
【請求項1】
サイズ比の異なる各モデル縮小画像上の指定探索点に対して、オブジェクトを探索するためのテンプレートを対応付けて、各モデル縮小画像上の前記指定探索点と前記テンプレートとの指定探索点類似度を検出し、
前記指定探索点類似度がオブジェクト検出判定閾値を超える場合、各モデル縮小画像上の前記指定探索点の周辺の複数の周辺探索点の夫々と、前記テンプレートとの周辺探索点類似度を検出し、
前記周辺探索点類似度の分布に基づき前記オブジェクトと前記テンプレートとの相対位置を推定し、推定相対位置に基づき各モデル縮小画像上に前記オブジェクトの探索を省略するための探索省略領域を設定するための関数を生成する探索省略領域設定関数生成方法。
【請求項2】
請求項1記載の探索省略領域設定関数生成方法により生成された前記関数に基づき、サイズ比の異なる複数のオブジェクト探索対象縮小画像のうちの第1のオブジェクト探索対象縮小画像上の第1の基準点と前記テンプレートとを対応付け、前記第1のオブジェクト探索対象縮小画像の前記第1の基準点を含む所定領域と前記テンプレートとの類似度が閾値より低い場合に、前記第1の基準点に基づき前記第1のオブジェクト探索対象縮小画像上に第1の探索省略領域を設定し、前記第1のオブジェクト探索対象縮小画像と第2のオブジェクト探索対象縮小画像との第1のサイズ比に基づき、前記第2のオブジェクト探索対象縮小画像上に第2の探索省略領域を設定する探索省略領域設定方法。
【請求項3】
前記第1の基準点の第1の座標値と前記第1のサイズ比とに基づき、前記第2のオブジェクト探索対象縮小画像上に前記第2の探索省略領域を設定するための第2の基準点の第2の座標値を設定する請求項2記載の探索省略領域設定方法。
【請求項4】
前記第1の基準点と前記テンプレートとの第1の類似度に基づき、前記第2の探索省略領域のサイズを設定する請求項3記載の探索省略領域設定方法。
【請求項5】
前記第1の座標値と前記第1のサイズ比とに基づき、前記第1の基準点に対応する第2の基準点を前記第2のオブジェクト探索対象縮小画像上に設定し、前記第1の類似度に基づき、前記第2の基準点を基準として設定される前記第2の探索省略領域のサイズを設定する請求項4記載の探索省略領域設定方法。
【請求項6】
前記複数のオブジェクト探索対象縮小画像のうち最も小さい前記第1のオブジェクト探索対象縮小画像に対する探索省略領域設定処理を他のオブジェクト探索対象縮小画像に対する探索省略領域設定処理より優先する請求項2乃至4の何れか1項記載の探索省略領域設定方法。
【請求項7】
請求項2記載の探索省略領域設定方法により、前記第1のオブジェクト探索対象縮小画像に対して前記第1の探索省略領域を設定し、前記第2のオブジェクト探索対象縮小画像に対して前記第2の探索省略領域を設定し、前記第1のオブジェクト探索対象縮小画像から前記第1の探索省略領域を除外した除外領域から、前記オブジェクトを探索し、前記第2のオブジェクト探索対象縮小画像から前記第2の探索省略領域を除外した除外領域から、前記オブジェクトを探索するオブジェクト探索方法。
【請求項8】
サイズ比の異なる各モデル縮小画像上の指定探索点に対して、オブジェクトを探索するためのテンプレートを対応付けて、各モデル縮小画像上の前記指定探索点と前記テンプレートとの指定探索点類似度を検出する第1の検出手段と、
前記指定探索点類似度がオブジェクト検出判定閾値を超える場合、前記所定位置関係の各モデル縮小画像上の前記指定探索点の周辺の複数の周辺探索点の夫々と、前記テンプレートとの周辺探索点類似度を検出する第2の検出手段と、
前記周辺探索点類似度の分布に基づき前記オブジェクトと前記テンプレートとの相対位置を推定し、推定相対位置に基づき各モデル縮小画像上に前記オブジェクトの探索を省略するための探索省略領域を設定するための関数を生成する生成手段と、
を備えた探索省略領域設定関数生成装置。
【請求項9】
請求項8記載の探索省略領域設定関数生成装置により生成された前記関数に基づき、サイズ比の異なる複数のオブジェクト探索対象縮小画像のうちの第1のオブジェクト探索対象縮小画像上の第1の基準点と前記テンプレートとを対応付け、前記第1のオブジェクト探索対象縮小画像の前記第1の基準点を含む所定領域と前記テンプレートとの類似度が閾値より低い場合に、前記第1の基準点に基づき前記第1のオブジェクト探索対象縮小画像上に第1の探索省略領域を設定し、前記第1のオブジェクト探索対象縮小画像と第2のオブジェクト探索対象縮小画像との第1のサイズ比に基づき、前記第2のオブジェクト探索対象縮小画像上に第2の探索省略領域を設定する設定手段を備えた探索省略領域設定装置。
【請求項10】
請求項9記載の探索省略領域設定装置により、前記第1のオブジェクト探索対象縮小画像に対して前記第1の探索省略領域を設定し、前記第2のオブジェクト探索対象縮小画像に対して前記第2の探索省略領域を設定し、前記第1のオブジェクト探索対象縮小画像から前記第1の探索省略領域を除外した除外領域から、前記オブジェクトを探索し、前記第2のオブジェクト探索対象縮小画像から前記第2の探索省略領域を除外した除外領域から、前記オブジェクトを探索する探索手段を備えたオブジェクト探索装置。
【請求項1】
サイズ比の異なる各モデル縮小画像上の指定探索点に対して、オブジェクトを探索するためのテンプレートを対応付けて、各モデル縮小画像上の前記指定探索点と前記テンプレートとの指定探索点類似度を検出し、
前記指定探索点類似度がオブジェクト検出判定閾値を超える場合、各モデル縮小画像上の前記指定探索点の周辺の複数の周辺探索点の夫々と、前記テンプレートとの周辺探索点類似度を検出し、
前記周辺探索点類似度の分布に基づき前記オブジェクトと前記テンプレートとの相対位置を推定し、推定相対位置に基づき各モデル縮小画像上に前記オブジェクトの探索を省略するための探索省略領域を設定するための関数を生成する探索省略領域設定関数生成方法。
【請求項2】
請求項1記載の探索省略領域設定関数生成方法により生成された前記関数に基づき、サイズ比の異なる複数のオブジェクト探索対象縮小画像のうちの第1のオブジェクト探索対象縮小画像上の第1の基準点と前記テンプレートとを対応付け、前記第1のオブジェクト探索対象縮小画像の前記第1の基準点を含む所定領域と前記テンプレートとの類似度が閾値より低い場合に、前記第1の基準点に基づき前記第1のオブジェクト探索対象縮小画像上に第1の探索省略領域を設定し、前記第1のオブジェクト探索対象縮小画像と第2のオブジェクト探索対象縮小画像との第1のサイズ比に基づき、前記第2のオブジェクト探索対象縮小画像上に第2の探索省略領域を設定する探索省略領域設定方法。
【請求項3】
前記第1の基準点の第1の座標値と前記第1のサイズ比とに基づき、前記第2のオブジェクト探索対象縮小画像上に前記第2の探索省略領域を設定するための第2の基準点の第2の座標値を設定する請求項2記載の探索省略領域設定方法。
【請求項4】
前記第1の基準点と前記テンプレートとの第1の類似度に基づき、前記第2の探索省略領域のサイズを設定する請求項3記載の探索省略領域設定方法。
【請求項5】
前記第1の座標値と前記第1のサイズ比とに基づき、前記第1の基準点に対応する第2の基準点を前記第2のオブジェクト探索対象縮小画像上に設定し、前記第1の類似度に基づき、前記第2の基準点を基準として設定される前記第2の探索省略領域のサイズを設定する請求項4記載の探索省略領域設定方法。
【請求項6】
前記複数のオブジェクト探索対象縮小画像のうち最も小さい前記第1のオブジェクト探索対象縮小画像に対する探索省略領域設定処理を他のオブジェクト探索対象縮小画像に対する探索省略領域設定処理より優先する請求項2乃至4の何れか1項記載の探索省略領域設定方法。
【請求項7】
請求項2記載の探索省略領域設定方法により、前記第1のオブジェクト探索対象縮小画像に対して前記第1の探索省略領域を設定し、前記第2のオブジェクト探索対象縮小画像に対して前記第2の探索省略領域を設定し、前記第1のオブジェクト探索対象縮小画像から前記第1の探索省略領域を除外した除外領域から、前記オブジェクトを探索し、前記第2のオブジェクト探索対象縮小画像から前記第2の探索省略領域を除外した除外領域から、前記オブジェクトを探索するオブジェクト探索方法。
【請求項8】
サイズ比の異なる各モデル縮小画像上の指定探索点に対して、オブジェクトを探索するためのテンプレートを対応付けて、各モデル縮小画像上の前記指定探索点と前記テンプレートとの指定探索点類似度を検出する第1の検出手段と、
前記指定探索点類似度がオブジェクト検出判定閾値を超える場合、前記所定位置関係の各モデル縮小画像上の前記指定探索点の周辺の複数の周辺探索点の夫々と、前記テンプレートとの周辺探索点類似度を検出する第2の検出手段と、
前記周辺探索点類似度の分布に基づき前記オブジェクトと前記テンプレートとの相対位置を推定し、推定相対位置に基づき各モデル縮小画像上に前記オブジェクトの探索を省略するための探索省略領域を設定するための関数を生成する生成手段と、
を備えた探索省略領域設定関数生成装置。
【請求項9】
請求項8記載の探索省略領域設定関数生成装置により生成された前記関数に基づき、サイズ比の異なる複数のオブジェクト探索対象縮小画像のうちの第1のオブジェクト探索対象縮小画像上の第1の基準点と前記テンプレートとを対応付け、前記第1のオブジェクト探索対象縮小画像の前記第1の基準点を含む所定領域と前記テンプレートとの類似度が閾値より低い場合に、前記第1の基準点に基づき前記第1のオブジェクト探索対象縮小画像上に第1の探索省略領域を設定し、前記第1のオブジェクト探索対象縮小画像と第2のオブジェクト探索対象縮小画像との第1のサイズ比に基づき、前記第2のオブジェクト探索対象縮小画像上に第2の探索省略領域を設定する設定手段を備えた探索省略領域設定装置。
【請求項10】
請求項9記載の探索省略領域設定装置により、前記第1のオブジェクト探索対象縮小画像に対して前記第1の探索省略領域を設定し、前記第2のオブジェクト探索対象縮小画像に対して前記第2の探索省略領域を設定し、前記第1のオブジェクト探索対象縮小画像から前記第1の探索省略領域を除外した除外領域から、前記オブジェクトを探索し、前記第2のオブジェクト探索対象縮小画像から前記第2の探索省略領域を除外した除外領域から、前記オブジェクトを探索する探索手段を備えたオブジェクト探索装置。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【図18】
【図19】
【図20】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【図18】
【図19】
【図20】
【公開番号】特開2012−242890(P2012−242890A)
【公開日】平成24年12月10日(2012.12.10)
【国際特許分類】
【出願番号】特願2011−109405(P2011−109405)
【出願日】平成23年5月16日(2011.5.16)
【出願人】(000003078)株式会社東芝 (54,554)
【Fターム(参考)】
【公開日】平成24年12月10日(2012.12.10)
【国際特許分類】
【出願日】平成23年5月16日(2011.5.16)
【出願人】(000003078)株式会社東芝 (54,554)
【Fターム(参考)】
[ Back to top ]