説明

画像評価装置および方法並びにプログラム

【課題】画像に含まれる顔の情報を用いて、より精度良く画像の評価を行う。
【解決手段】情報取得部32が、少なくとも1つの顔を含む画像から、顔の数、顔のサイズ、顔の画像上における位置、顔の向き、顔の回転角度および顔の検出スコアのうちの、顔の数を含む少なくとも1つの情報を取得する。個別評価値算出部34が、情報取得部32が取得した顔の数、顔のサイズ、顔の画像上における位置、顔の向き、顔の回転角度および顔の検出スコアのうちの、顔の数を含む少なくとも1つの情報に基づいて、情報毎の評価結果を表す個別評価値を算出する。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、画像に含まれる顔を用いて画像の評価を行う画像評価装置および方法並びに画像評価方法をコンピュータに実行させるためのプログラムに関するものである。
【背景技術】
【0002】
近年、デジタルカメラの普及と画像を保存しておくための記録媒体の容量が飛躍的に大きくなったことにより、ユーザは多くの画像を1つの記録媒体内に保持することが可能となってきている。その一方で、プリント等の処理をすべき画像を膨大な画像の中から目視により選択するという手間が生じており、効率的に画像を選択するために、画像を評価することにより、最終的にユーザがプリントする画像として判断する前にある程度の条件で画像を絞り込む機能や、ユーザの嗜好に合わせてプリントに適した画像を選択する機能が求められている。
【0003】
例えば、特許文献1には、画像の明るさ、加速度センサの出力値、AF評価のいずれかを基準に画像を評価し、評価結果を用いてプリントに不適切な写真を自動的に省く手法が提案されている。
【0004】
また、特許文献2には、画像に含まれる人物の顔の向きを判定し、判定結果に基づいて画像の評価値を算出し、算出した評価値に基づいて複数の画像から所望の画像を選択する手法が提案されている。
【0005】
また、特許文献3には、画像において顔が占める割合、目の開き具合、顔の向き、ピント、ブレおよび明るさ等の複数の評価項目を総合した評価結果を用いて画像を評価する手法が提案されている。
【0006】
また、特許文献4には、画像に含まれる顔領域について、画質を表す特徴ベクトルを算出し、この特徴ベクトルを用いて顔領域の画質を評価する手法が提案されている。
【0007】
また、特許文献5には、顔の向き、大きさおよび照明条件等の評価結果を用いて、顔の評価を行う手法が提案されている。
【特許文献1】特開2002−10179号公報
【特許文献2】特開2004−361989号公報
【特許文献3】特開2002−358522号公報
【特許文献4】特開2005−129070号公報
【特許文献5】特開2005−227957号公報
【発明の開示】
【発明が解決しようとする課題】
【0008】
上述したように画像に含まれる顔に基づいて画像の評価を行う手法は各種提案されている。しかしながら、上記特許文献1〜5に記載された手法は、評価項目毎の評価値を単純に算出することにより画像の評価を行っているため、実際に画像を見た者の主観的な評価を必ずしも反映したものとはならず、算出した評価と画像を見た者の評価とが異なるものとなってしまう場合がある。また、上記特許文献1〜5に記載された手法は、複数の顔が含まれた場合に適切な評価を行うことができない。
【0009】
本発明は上記事情に鑑みなされたものであり、画像に含まれる顔の情報を用いて、より精度良く画像の評価を行うことを目的とする。
【課題を解決するための手段】
【0010】
本発明による画像評価装置は、少なくとも1つの顔を含む画像から、該顔の数、該顔のサイズ、該顔の前記画像上における位置、該顔の向き、該顔の回転角度および該顔の検出スコアのうち、前記顔の数を含む少なくとも1つの情報を取得する情報取得手段と、
該取得した情報に基づいて統計的に該情報毎の評価結果を表す個別評価値を算出する個別評価値算出手段とを備えたことを特徴とするものである。
【0011】
「評価値」とは、画像の特徴ベクトル、S/N比、および解像度等の画像から定量的に算出することが可能な値ではなく、画像の評価を欲するユーザの可能評価レベルと相関を持つように算出された予測値を意味する。
【0012】
ここで、「統計的」とは、評価値を算出するに際し、いくつかの仮説に基づいて演繹的に求めるのではなく、多数のサンプル画像の中から選択された好ましいとされる画像の評価値を正解データとして、帰納的に求めることを意味する。なお、正解データはどのように選択してもよいが、被験者が実際に選択した正解データを用いることが好ましい。また、評価値を求めるためのサンプル画像数は、300以上、好ましくは1000以上あることが好ましい。
【0013】
なお、本発明による画像評価装置においては、前記情報取得手段を、さらに前記顔が複数含まれる場合の顔の位置関係および前記顔の正面率の情報の少なくとも1つの情報を取得する手段としてもよい。
【0014】
ここで、「顔が複数含まれる場合の顔の位置関係」としては、複数の顔のうちの評価の対象となる顔の中心と他の顔の中心とを結ぶ線分が画像の水平線となす角度を用いることができる。
【0015】
また、本発明による画像評価装置においては、前記個別評価値に基づいて前記顔の評価結果を表す顔評価値を算出する顔評価値算出手段をさらに備えるものとしてもよい。
【0016】
また、本発明による画像評価装置においては、前記顔評価値に基づいて前記画像の総合的な評価結果を表す総合評価値を算出する総合評価値算出手段をさらに備えるものとしてもよい。
【0017】
この場合、前記総合評価値算出手段を、前記少なくとも1つの顔から代表顔を選択し、
前記代表顔の前記顔評価値に基づいて前記総合評価値を算出する手段としてもよく、前記顔が複数含まれる場合、該複数の顔の前記顔評価値を重み付け加算して前記総合評価値を算出する手段としてもよい。
【0018】
また、本発明による画像評価装置においては、前記総合評価値算出手段を、前記顔の数に応じて異なる顔評価値を算出する手段としてもよい。
【0019】
本発明による画像評価方法は、少なくとも1つの顔を含む画像から、該顔の数、該顔のサイズ、該顔の前記画像上における位置、該顔の向き、該顔の回転角度および該顔の検出スコアのうち、前記顔の数を含む少なくとも1つの情報を取得し、
該取得した情報に基づいて統計的に該情報毎の評価結果を表す個別評価値を算出することを特徴とするものである。
【0020】
なお、本発明による画像評価方法をコンピュータに実行させるためのプログラムとして提供してもよい。
【発明の効果】
【0021】
本発明によれば、少なくとも1つの顔を含む画像から、顔の数、顔のサイズ、顔の画像上における位置、顔の向き、顔の回転角度および顔の検出スコアのうちの、顔の数を含む少なくとも1つの情報が取得され、取得した情報に基づいて統計的に情報毎の評価結果を表す個別評価値が算出される。このため、個別評価値に画像を見る者の趣向を反映させることができ、これにより、個別評価値を用いることにより、より精度良く画像に含まれる顔さらには画像を評価することができる。
【発明を実施するための最良の形態】
【0022】
以下、図面を参照して本発明の実施形態について説明する。図1は本発明の実施形態による画像評価装置の構成を示す概略ブロック図である。図1に示すように、本実施形態による画像評価装置1は、画像データの記録制御および表示制御等の各種制御を行うとともに、装置1を構成する各部の制御を行うCPU12と、CPU12を動作させるプログラム、画像を閲覧するためのビューアソフトおよび各種定数が記録されているROM並びにCPU12が処理を実行する際の作業領域となるRAMにより構成されるシステムメモリ14と、各種表示を行う液晶モニタ等からなる表示部16と、表示部16を制御する表示制御部18と、種々の指示を装置1に対して行うためのキーボード、マウスおよびタッチパネル等からなる入力部20と、入力部20を制御する入力制御部22とを備える。
【0023】
また、画像評価装置1は、画像を表す画像データを記録したメモリカード等のメディアから画像データを読み出したり画像データをメディアに記録したりするための画像読込部24と、画像読込部24を制御する画像読込制御部26と、画像データを含む各種情報および後述する評価値テーブル等を保存するハードディスク28とを備える。
【0024】
また、画像評価装置1は、画像から顔を検出する顔検出部30と、検出した顔から顔の特徴を表す情報である特徴情報を取得する情報取得部32と、情報取得部32が取得した特徴情報に基づいて特徴情報毎の個別の評価結果を表す個別評価値を算出する個別評価値算出部34と、画像に含まれる顔毎の評価値である顔評価値を算出する顔評価値算出部36と、画像の総合的な評価結果を表す総合評価値を算出する総合評価値算出部38とを備える。
【0025】
以下、顔検出部30、情報取得部32、個別評価値算出部34、顔評価値算出部36および総合評価値算出部38の機能について、画像評価装置1が行う処理と併せて説明する。
【0026】
図2は図1に示す画像評価処理1が行う第1の実施形態の処理のフローチャートである。ここで、第1の実施形態においては、顔の数、顔のサイズ、顔の画像上における位置、顔の向き、顔の回転角度、顔の検出スコア、顔が複数含まれる場合の顔の位置関係および顔の正面率のうちの、顔の数を含む少なくとも1つの特徴情報に基づいて個別評価値を算出するものである。このため、第1の実施形態の処理においては、顔評価値算出部36および総合評価値算出部38は使用されず、第1の実施形態の処理のみを行う場合、画像評価装置1において顔評価値算出部36および総合評価値算出部38は不要となる。なお、以下の説明においては、顔の数、顔のサイズ、顔の画像上における位置、顔の向き、顔の回転角度、顔の検出スコア、顔が複数含まれる場合の顔の位置関係および顔の正面率のそれぞれからの個別評価値の算出について説明する。ここで、評価を行うための画像は画像読込部24に読み込まれてハードディスク28に保存されているものとする。
【0027】
ユーザが入力部16から画像の評価開始の指示を行うことによりCPU12が処理を開始し、まずハードディスク28から処理の対象となる画像を読み出し(ステップST1)、顔検出部30が画像から人物の顔領域を検出する(ステップST2)。具体的には、基準となる矩形領域により囲まれる平均顔パターンと処理対象の画像とのパターンマッチングを行い、マッチング度が最も大きい画像上の位置において、平均顔パターンが囲まれる矩形領域に対応する位置を顔領域とする手法を用いる。ここで、パターンマッチングとは、平均顔パターンを、そのサイズおよび画像平面上における回転角度をあらかじめ定められた所定量ずつ変更しながら、画像上を少しずつ移動させて、平均顔パターンと画像とのマッチング度を算出する手法である。
【0028】
なお、顔を検出する手法はこれに限定されるものではなく、例えば顔の多数のサンプル画像を用いてマシンラーニング学習により得られた顔判別器を用いる手法、画像における肌色を有しかつ顔の輪郭形状を囲む矩形の領域を顔領域として検出する手法、顔の輪郭形状をなす領域を顔領域として検出する手法等、任意の手法を用いることができる。なお、処理対象の画像に顔が複数含まれている場合にはすべての顔領域を検出する。
【0029】
次いで情報取得部32が、検出した顔領域から画像に含まれる顔の特徴情報を取得する(ステップST3)。具体的には、顔の数、顔のサイズ、顔の画像上における位置、顔の向き、顔の回転角度、顔の検出スコア、顔が複数含まれる場合の顔の位置関係および顔の正面率のうちうちの、顔の数を含む少なくとも1つの情報を特徴情報として取得する。
【0030】
ここで、顔の数の情報としては、顔検出部30が検出した画像に含まれる顔領域の数である。
【0031】
顔のサイズの情報としては、顔領域内の画素数、顔領域の画像全体に対する割合、顔領域の画像の幅に対する割合等を用いることができる。本実施形態においては、顔領域の画像の幅に対する割合を顔のサイズの情報として取得する。
【0032】
顔の位置の情報としては、顔領域の中心の位置(例えば顔領域が矩形の場合、対角線の交点)の座標値の画像の横および縦方向の長さに対する割合を使用する。なお、座標は画像を横長となるように配置した場合の左下隅を原点とし、横方向をx軸、縦方向をy軸とする。ここで、画像のx方向の長さが100、y方向の長さが50であり、顔領域の中心の位置の座標が(45,15)であったとすると、顔の位置の情報は(0.45,0.30)となる。また、顔の位置が画像の中央に位置する場合、顔の位置の情報は(0.50,0.50)となる。
【0033】
顔の向きの情報としては、顔領域に含まれる顔の向きが正面または横であることを表す情報を用いることができる。なお、顔の向きは顔領域からさらに目を検出し、検出した目が2つある場合には正面、1つの場合には横向きであるとすればよい。また、顔領域から顔の向きを表す特徴量を求め、その特徴量を用いて顔の向きが正面か横かを決定するようにしてもよい。
【0034】
顔の回転角度は、顔領域に含まれる顔の画像平面上における回転角度である。ここで、顔の回転角度は、顔検出部30において顔を検出した際の平均顔パターンの回転角度を用いればよい。なお、回転角度の情報は、360度を45度刻みで表した情報を用いるものとする。これにより、顔の回転角度の情報は、0,45,90,135,180,225,270,315度のいずれかとなる。なお、顔検出部30が検出した顔の実際の回転角度がこれらの値の間の値となる場合は、近い方の角度に合わせるものとする。例えば、顔検出部30が検出した顔の実際の回転角度が30度である場合には、顔の回転角度は45度であるものとする。
【0035】
顔の検出スコアとしては、顔検出部30が算出したマッチング度の値をそのまま用いるものとする。
【0036】
顔が複数含まれる場合の顔の位置関係は、複数の顔のうちの評価の対象となる顔の中心と他の顔の中心とを結ぶ線分が、画像の水平線となす角度を用いることができる。例えば、図3(a)に示すように画像に2つの顔F1,F2が含まれる場合には2つの顔F1,F2のいずれについても、顔の中心O1,O2を結ぶ線分と画像の水平線とがなす角度θ0を用いることができる。また、図3(b)に示すように画像に3つの顔F3〜F5が含まれる場合には、顔F3,F4の中心O3,O4を結ぶ線分と水平線とがなす角度θ1、顔F3,F5の中心O3,O5を結ぶ線分と水平線とがなす角度θ2、顔F4,F5の中心O4,O5を結ぶ線分と水平線とがなす角度θ3が求められる。そして、顔F3を評価の対象とした場合には角度θ1,θ2を、顔F4を評価の対象とした場合には角度θ1,θ3を、顔F5を評価の対象とした場合には角度θ2,θ3を用いることができる。
【0037】
顔の正面率としては、画像に含まれるすべての顔に対する正面を向いた顔の割合である。例えば、画像に4つの顔が含まれており、そのうち正面を向いた顔が1つであるとすると、正面率は25%となる。
【0038】
以上より、情報取得部32は、例えば顔の数として2、1つめの顔について顔のサイズとして0.30、顔の画像上における位置として(0.45,0.30)、顔の向きとして「正面」、顔の回転角度として0度、顔の検出スコアとして500、顔が複数含まれる場合の顔の位置関係として30度、および顔の正面率として50%という特徴情報を取得することができる。また、2つめの顔について顔のサイズとして0.35、顔の画像上における位置として(0.85,0.40)、顔の向きとして「横」、顔の回転角度として0度、顔の検出スコアとして400、顔が複数含まれる場合の顔の位置関係として30度、および顔の正面率として50%という特徴情報を取得することができる。
【0039】
ここで、本実施形態においては、顔の特徴情報に応じて統計的にあらかじめ決定された、評価値を算出するための評価値テーブルがハードディスク28に保存されている。図4は顔の数についての評価値テーブルLUT1を示す図、図5は顔のサイズについての評価値テーブルLUT2を示す図、図6は顔のx方向の位置についての評価値テーブルLUT3を示す図、図7は顔のy方向の位置についての評価値テーブルLUT4を示す図、図8は顔の向きについての評価値テーブルLUT5を示す図、図9は顔の回転角度についての評価値テーブルLUT6を示す図、図10は顔の検出スコアについての評価値テーブルLUT7を示す図、図11は顔の位置関係についての評価値テーブルLUT8を示す図、図12は顔の正面率についての評価値テーブルLUT9−1〜LUT9−4を示す図である。ここで、顔の正面率については、画像に含まれる顔数に応じて評価値テーブルが用意されている。
【0040】
なお、評価値テーブルは、各種顔の数、顔のサイズ、顔の画像上における位置、顔の向き、顔の回転角度、顔の検出スコア、顔が複数含まれる場合の顔の位置関係および顔の正面率となる多数のサンプル画像の評価値を、複数の被験者に採点させた結果に基づいて決定されたものであり、各サンプル画像の顔の数、顔のサイズ、顔の画像上における位置、顔の向き、顔の回転角度、顔の検出スコア、顔が複数含まれる場合の顔の位置関係および顔の正面率と、採点結果の全被験者による平均値との関係をプロットすることにより得られるものである。
【0041】
ここで、評価値テーブルにおいて、顔の数、顔が複数含まれる場合の顔の位置関係および顔の正面率については満点を0.6点、顔のサイズ、顔の画像上における位置、顔の向き、および顔の回転角度については満点を0.5点、顔の検出スコアについては満点を0.7点としている。
【0042】
次いで、個別評価値算出部34は、顔の特徴情報に応じた評価値テーブルをハードディスク28から読み出し(ステップST4)、読み出した評価値テーブルおよび顔の特徴情報に基づいて、特徴情報毎の評価結果を表す個別評価値を算出する(ステップST5)。
【0043】
すなわち、顔の特徴情報が顔の数である場合には評価値テーブルLUT1を読み出して個別評価値E1を算出する。なお、本実施形態においては、顔の特徴として顔の数を必ず含むため、個別評価値E1は必ず算出される。
【0044】
また、顔の特徴情報が顔のサイズである場合には評価値テーブルLUT2を読み出して個別評価値E2を算出する。また、顔の特徴情報が顔の画像上における位置である場合には評価値テーブルLUT3,LUT4を読み出して個別評価値E3,E4を算出する。なお、顔の位置の評価値については、個別評価値E3と個別評価値E4とを加算した値を最終的な評価値とすればよい。また、顔の特徴情報が顔の向きである場合には評価値テーブルLUT5を読み出して個別評価値E5を算出する。また、顔の特徴情報が顔の回転角度である場合には評価値テーブルLUT6を読み出して個別評価値E6を算出する。また、顔の特徴情報が顔の検出スコアである場合には評価値テーブルLUT7を読み出して個別評価値E7を算出する。また、顔の特徴情報が顔が複数含まれる場合の顔の位置関係である場合には評価値テーブルLUT8を読み出して個別評価値E8を算出する。さらに、顔の特徴情報が顔の正面率である場合には評価値テーブルLUT9−1〜LUT9−4を読み出して個別評価値E9を算出する。
【0045】
次いで、個別評価値算出部34は、処理対象の画像に他の顔領域が含まれるか否かを判定し(ステップST6)、ステップST6が否定されると処理を終了する。ステップST6が肯定されると、処理の対象を次の顔領域に設定して(ステップST7)、ステップST3に戻り、ステップST3以降の処理を繰り返す。これにより、画像に含まれる個々の顔について、少なくとも個別評価値E1を含む個別評価値E2〜E9が算出される。
【0046】
なお、顔が複数含まれる場合の顔の位置関係の個別評価値E8については、評価の対象となる顔領域と他の顔領域との位置関係の個別評価値を算出し、算出した個別評価値の平均値を評価の対象となる顔の個別評価値E8として算出すればよい。例えば、図3(a)に示す画像の場合、顔F1から見た顔F2の位置関係は45度であるため、顔F1についての顔の位置関係の個別評価値E8は0.45となる。また、顔F2から見た顔F1の位置関係は−45度であるため、顔F2についての顔の位置関係の個別評価値E8は0.45となる。
【0047】
一方、図3(b)に示す画像の場合、顔F3から見た顔F4の位置関係は85度であるため評価値は0.35となる。また、顔F3から見た顔F5の位置関係は60度であるため評価値は0.51となる。したがって、顔F3についての顔の位置関係の個別評価値E8は、0.35と0.51の平均値である0.43となる。また、顔F4から見た顔F3の位置関係は−85度であるため評価値は0.35となる。また、顔F4から見た顔F5の位置関係は25度であるため評価値は0.32となる。したがって、顔F4についての顔の位置関係の個別評価値E8は、0.35と0.32の平均値である0.335となる。さらに、顔F5から見た顔F3の位置関係は−60度であるため評価値は0.51となる。また、顔F5から見た顔F4の位置関係は−25度であるため評価値は0.32となる。したがって、顔F5についての顔の位置関係の個別評価値E8は、0.51と0.32の平均値である0.415となる。
【0048】
このように第1の実施形態によれば、画像から、顔の数、顔のサイズ、顔の画像上における位置、顔の向き、顔の回転角度、顔の検出スコア、顔が複数含まれる場合の顔の位置関係および顔の正面率のうちの、顔の数を含む少なくとも1つの特徴情報を取得し、取得した特徴情報に基づいて統計的に特徴情報毎の評価結果を表す個別評価値を算出するようにしたものである。このため、個別評価値に画像を見る者の趣向を反映させることができ、これにより、個別評価値を用いることにより、より精度良く画像を評価することができる。
【0049】
なお、上記第1の実施形態において、顔の数、顔のサイズ、顔の画像上における位置、顔の向き、顔の回転角度、顔の検出スコア、顔が複数含まれる場合の顔の位置関係および顔の正面率のうちの複数の互いに関連する情報を取得し、互いに関連する情報に基づく評価結果を個別評価値として算出してもよい。
【0050】
例えば、顔のサイズおよび位置を互いに関連する情報とし、顔のサイズおよび位置に基づいて個別評価値を算出してよい。この場合、ハードディスク28に、顔のサイズおよび位置に応じて統計的にあらかじめ決定された、評価値を算出するための評価値テーブルが保存される。図13は顔のサイズおよび顔のx方向の位置についての評価値テーブルLUT10−1〜LUT10−6を示す図、図14は顔のサイズおよび顔のy方向の位置についての評価値テーブルLUT11−1〜LUT11−6を示す図である。図13に示すように評価値テーブルLUT10−1〜LUT10−6は、百分率にて表した場合の顔のサイズが13.3%、26.7%、53.3%、66.7%、73.3%および86.7%のそれぞれについて、横軸にx方向の位置の情報を、縦軸に複数の被験者が採点することにより得られた評価値の平均値をプロットしたものである。また、図14に示すように評価値テーブルLUT11−1〜LUT11−6は、百分率にて表した場合の顔のサイズが13%、25%、50%、63%、75%および88%のそれぞれについて、横軸にy方向の位置の情報を、縦軸に複数の被験者が採点することにより得られた評価値の平均値をプロットしたものである。
【0051】
なお、顔のサイズが評価値テーブルLUT10−1〜LUT10−6,LUT11−1〜LUT11−6に示したサイズの中間の値となる場合には、最も近い値を有する2つのテーブルを用いた補間演算により評価値を算出すればよい。例えば、顔のサイズが評価値テーブルLUT10−1とLUT10−2との間にある場合には、評価値テーブルLUT10−1とLUT10−2とを用いた補間演算により評価値を算出すればよい。
【0052】
これにより、個別評価値算出部34は、評価値テーブルLUT10−1〜LUT10−6,LUT11−1〜LUT11−6並びに顔のサイズおよび位置の情報に基づいて、画像の評価結果を表す個別評価値E10,E11を算出し、個別評価値E10と個別評価値E11とを加算または重み付け加算した値を最終的な個別評価値とすればよい。
【0053】
なお、互いに関連する情報としては、顔のサイズおよび位置の情報に限定されるものではなく、顔の回転角度および位置の情報、あるいは顔のサイズ、位置および回転角度の情報等、顔のサイズ、顔の画像上における位置、顔の向き、顔の回転角度、顔が複数含まれる場合の顔の位置関係、および顔の検出スコアのうちの互いに関連する任意の複数の情報に基づいて評価値を算出してもよい。この場合、使用する情報に応じて評価値テーブルをあらかじめ作成してハードディスク28に保存しておけばよい。
【0054】
次いで、図1に示す画像評価処理1が行う第2の実施形態について説明する。ここで、第2の実施形態においては、顔の数、顔のサイズ、顔の画像上における位置、顔の向き、顔の回転角度、顔の検出スコア、顔が複数含まれる場合の顔の位置関係および顔の正面率のうちの、顔の数を含む少なくとも1つの特徴情報に基づいて各顔毎の評価値である顔評価値を算出するものである。このため、第2の実施形態の処理においては、総合評価値算出部38は使用されず、第2の実施形態の処理のみを行う場合、画像評価装置1において総合評価値算出部38は不要となる。なお、第2の実施形態において、個別評価値の算出は上記第1の実施形態と同様に行われるため、ここでは画像に含まれるすべての顔について個別評価値が算出された以降の処理、すなわち図2に示すフローチャートのステップST5以降の処理についてのみ説明する。また、ここではすべての個別評価値E1〜E9が算出されたものとして説明する。
【0055】
図15は図1に示す画像評価処理1が行う第2の実施形態の処理のフローチャートである。図2に示すステップST5に続いて、顔評価値算出部36が、個別評価値E1〜E9を用いて、顔の評価値である顔評価値を算出する(ステップST21)。
【0056】
具体的には、顔の数、顔のサイズ、顔の画像上における位置、顔の向き、顔の回転角度、顔の検出スコア、顔が複数含まれる場合の顔の位置関係および顔の正面率のすべてについての個別評価値E1〜E9を下記の式(1)に示すように重み付け加算して顔評価値Ef0を算出する。
【0057】
Ef0=ΣαiEi(i=1〜9) (1)
但しαiは重み係数である。
【0058】
図16は顔評価値Ef0の算出の具体例を示す図である。個別評価値および重み係数が図16に示す値を有する場合、顔評価値は0.369と求められる。
【0059】
次いで、顔評価値算出部36は、処理対象の画像に他の顔領域が含まれるか否かを判定し(ステップST22)、ステップST22が否定されると処理を終了する。ステップST22が肯定されると、処理の対象を次の顔領域に設定して(ステップST23)、図2に示すフローチャートのステップST3に戻り、ステップST3以降の処理を繰り返す。
【0060】
このように第2の実施形態においては、個別評価値から各顔の評価値である顔評価値を算出するようにしたため、より精度良く顔を評価することができる。
【0061】
なお、上記第2の実施形態においては、顔の数、顔のサイズ、顔の画像上における位置、顔の向き、顔の回転角度、顔の検出スコア、顔が複数含まれる場合の顔の位置関係および顔の正面率から顔評価値を算出しているが、さらに複数の互いに関連する情報を用いて顔評価値を算出するようにしてもよい。また、顔の数、顔のサイズ、顔の画像上における位置、顔の向き、顔の回転角度、顔の検出スコア、顔が複数含まれる場合の顔の位置関係および顔の正面率のうちの、顔の数を含む少なくとも1つの情報を用いて顔評価値を算出するようにしてもよい。
【0062】
また、上記第2の実施形態においては、画像に含まれる顔の数に応じて、取得する特徴情報の種類および重み係数を変更してもよい。図17は顔数に応じた特徴情報および重み係数の例を示す図である。図17に示すように、顔の数が1の場合には、顔の数、顔のサイズ、顔の画像上における位置、顔の向き、顔の回転角度および顔の検出スコアのみの個別評価値を算出すればよく、これにより演算量を低減して顔評価値を算出することができる。また、顔が複数の場合には、顔の数、顔のサイズ、顔の画像上における位置、顔の向き、顔の回転角度、顔の検出スコア、顔が複数含まれる場合の顔の位置関係および顔の正面率を取得し、さらには顔数に応じて重み係数を変更することにより、顔数に応じて精度よく顔評価値を算出することができる。
【0063】
次いで、図1に示す画像評価処理1が行う第3の実施形態について説明する。ここで、第3の実施形態においては、第2の実施形態において算出した顔評価値に基づいて画像の総合的な評価値である総合評価値を算出するものである。なお、第3の実施形態において、顔評価値の算出は上記第2の実施形態と同様に行われるため、ここでは画像に含まれるすべての顔について顔評価値が算出された以降の処理、すなわち図15に示すフローチャートのステップST22が否定された以降の処理についてのみ説明する。
【0064】
図18は図1に示す画像評価処理1が行う第3の実施形態の処理のフローチャートである。図15に示すステップST22が否定されると、総合評価値算出部38が、画像に含まれる顔の代表顔を選択する(ステップST31)。具体的には、画像に顔が複数含まれる場合、顔評価値が最大の顔、サイズが最大の顔、画像の最も中央に位置する顔、最も正面を向いている顔、最も垂直に向いている顔、または最も検出スコアが高い顔を代表顔として選択する。なお、これらのうちの複数の条件を満たす顔を代表顔としてもよい。また、画像に含まれる顔が1つのみの場合には、その顔が代表顔となる。
【0065】
そして、総合評価値算出部38は、代表顔の顔評価値を画像の総合評価値に決定し(ステップST32)、処理を終了する。
【0066】
図19は代表顔の選択および総合評価値の決定を説明するための図である。なお、ここでは画像には3つの顔F1〜F3が含まれており、顔評価値がそれぞれ0.38,0.45,0.40であったものとする。顔評価値が最大の顔を代表顔とする場合、代表顔は顔F2となるため総合評価値は0.45となる。サイズが最大の顔を代表顔とする場合、代表顔は顔F3となるため総合評価値は0.40となる。x方向について画像の最も中央に位置する顔を代表顔とする場合、代表顔はx方向の位置の情報が0.5に最も近い顔F2となるため総合評価値は0.45となる。y方向について画像の最も中央に位置する顔を代表顔とする場合、代表顔はy方向の位置の情報が0.5に最も近い顔F1となるため総合評価値は0.38となる。最も正面を向いている顔を代表顔とする場合、代表顔は顔F2となるため総合評価値は0.45となる。最も垂直に向いている顔を代表顔とする場合、代表顔は顔F2となるため総合評価値は0.45となる。検出スコアが最大の顔を代表顔とする場合、代表顔は顔F1となるため総合評価値は0.38となる。
【0067】
このように第3の実施形態においては、顔評価値から画像の総合的な評価値である総合評価値を算出するようにしたため、より精度良く画像を評価することができる。
【0068】
次いで、図1に示す画像評価処理1が行う第4の実施形態について説明する。ここで、第4の実施形態においては、第2の実施形態において算出した顔評価値に基づいて画像の総合的な評価値である総合評価値を算出するものである。なお、第4の実施形態において、顔評価値の算出は上記第2の実施形態と同様に行われるため、ここでは画像に含まれるすべての顔について顔評価値が算出された以降の処理、すなわち図15に示すフローチャートのステップST22が否定された以降の処理についてのみ説明する。
【0069】
図20は図1に示す本発明の画像評価処理1が行う第4の実施形態の処理のフローチャートである。図15に示すステップST22が否定されると、総合評価値算出部38が、下記の式(2)に示すように画像に含まれる顔の顔評価値を重み付け加算するための重み係数を設定し(ステップST41)、設定された重み係数を用いて式(2)により総合評価値を算出し(ステップST42)、処理を終了する。
【0070】
Es=ΣβjEfj(jは顔評価値の数) (2)
但しβjは重み係数であり、Σβj=1である。
【0071】
ここで、重み係数は画像に含まれる顔のうち、画像の中央に近い顔ほど重み係数を大きくするように設定したり、顔のサイズが大きいほど重み係数を大きくするように設定すればよい。
【0072】
図21は総合評価値Esの算出の具体例を示す図である。画像に3つの顔F1〜F3が含まれており、顔評価値および重み係数が図21に示す値を有する場合、総合評価値は0.361と求められる。
【0073】
このように第4の実施形態においては、顔評価値から画像の総合的な評価値である総合評価値を算出するようにしたため、より精度良く画像を評価することができる。
【0074】
なお、上記第1から第4の実施形態において、顔のサイズおよび位置の情報に基づく評価値を算出する場合において、画像が縦長の画像である場合には、画像の評価が異なるものとなる。このため、画像が縦長の画像である場合には、図22に示すように各種顔のサイズにおける顔のx方向の位置と評価値との関係を規定した評価値テーブルLUT12−1〜LUT12−4を用いることが好ましい。
【0075】
以上、本発明の実施形態に係る装置1について説明したが、コンピュータを、上記の顔検出部30、情報取得部32、個別評価値算出部34、顔評価値算出部36および総合評価値算出部38に対応する手段として機能させ、図2,15,18,20に示すような処理を行わせるプログラムも、本発明の実施形態の1つである。また、そのようなプログラムを記録したコンピュータ読取り可能な記録媒体も、本発明の実施形態の1つである。これらの場合において、評価値テーブルは、プログラム内あるいは同一の記録媒体内に含まれているものであってもよいし、外部の装置や別個の媒体から提供されるものであってもよい。
【図面の簡単な説明】
【0076】
【図1】本発明の実施形態による画像評価装置の構成を示す概略ブロック図
【図2】本発明の第1の実施形態の処理のフローチャート
【図3】顔が複数含まれる場合の顔の位置関係を示す図
【図4】顔の数についての評価値テーブルLUT1を示す図
【図5】顔のサイズについての評価値テーブルLUT2を示す図
【図6】顔のx方向の位置についての評価値テーブルLUT3を示す図
【図7】顔のy方向の位置についての評価値テーブルLUT4を示す図
【図8】顔の向きについての評価値テーブルLUT5を示す図
【図9】顔の回転角度についての評価値テーブルLUT6を示す図
【図10】顔の検出スコアについての評価値テーブルLUT7を示す図
【図11】顔が複数含まれる場合の顔の位置関係についての評価値テーブルLUT8を示す図
【図12】顔の正面率についての評価値テーブルを示す図
【図13】顔のサイズおよび位置についての評価値テーブルを示す図(x方向)
【図14】顔のサイズおよび位置についての評価値テーブルを示す図(y方向)
【図15】本発明の第2の実施形態の処理のフローチャート
【図16】顔評価値算出の具体例を示す図
【図17】顔数に応じた特徴情報および重み係数の例を示す図
【図18】本発明の第3の実施形態の処理のフローチャート
【図19】代表顔の選択および総合評価値の決定を説明するための図
【図20】本発明の第4の実施形態の処理のフローチャート
【図21】総合評価値の算出の具体例を示す図
【図22】画像が縦長の場合の顔のサイズおよび位置についての評価値テーブルを示す図(x方向)
【符号の説明】
【0077】
1 画像評価装置
12 CPU
14 システムメモリ
16 表示部
18 表示制御部
20 入力部
22 入力制御部
24 画像読込部
26 画像読込制御部
28 ハードディスク
30 顔検出部
32 情報取得部
34 個別評価値算出部
36 顔評価値算出部
38 総合評価値算出部

【特許請求の範囲】
【請求項1】
少なくとも1つの顔を含む画像から、該顔の数、該顔のサイズ、該顔の前記画像上における位置、該顔の向き、該顔の回転角度および該顔の検出スコアのうち、前記顔の数を含む少なくとも1つの情報を取得する情報取得手段と、
該取得した情報に基づいて統計的に該情報毎の評価結果を表す個別評価値を算出する個別評価値算出手段とを備えたことを特徴とする画像評価装置。
【請求項2】
前記情報取得手段は、さらに前記顔が複数含まれる場合の顔の位置関係および前記顔の正面率の情報の少なくとも1つの情報を取得する手段であることを特徴とする請求項1記載の画像評価装置。
【請求項3】
前記個別評価値に基づいて前記顔の評価結果を表す顔評価値を算出する顔評価値算出手段をさらに備えたことを特徴とする請求項1または2記載の画像評価装置。
【請求項4】
前記顔評価値に基づいて前記画像の総合的な評価結果を表す総合評価値を算出する総合評価値算出手段をさらに備えたことを特徴とする請求項3記載の画像評価装置。
【請求項5】
前記総合評価値算出手段は、前記少なくとも1つの顔から代表顔を選択し、
前記代表顔の前記顔評価値に基づいて前記総合評価値を算出する手段であることを特徴とする請求項4記載の画像評価装置。
【請求項6】
前記総合評価値算出手段は、前記顔が複数含まれる場合、該複数の顔の前記顔評価値を重み付け加算して前記総合評価値を算出する手段であることを特徴とする請求項4記載の画像評価装置。
【請求項7】
前記総合評価値算出手段は、前記顔の数に応じて異なる顔評価値を算出する手段であることを特徴とする請求項3から6のいずれか1項記載の画像評価装置。
【請求項8】
少なくとも1つの顔を含む画像から、該顔の数、該顔のサイズ、該顔の前記画像上における位置、該顔の向き、該顔の回転角度および該顔の検出スコアのうち、前記顔の数を含む少なくとも1つの情報を取得し、
該取得した情報に基づいて統計的に該情報毎の評価結果を表す個別評価値を算出することを特徴とする画像評価方法。
【請求項9】
少なくとも1つの顔を含む画像から、該顔の数、該顔のサイズ、該顔の前記画像上における位置、該顔の向き、該顔の回転角度および該顔の検出スコアのうち、前記顔の数を含む少なくとも1つの情報を取得する手順と、
該取得した情報に基づいて統計的に該情報毎の評価結果を表す個別評価値を算出する手順とを有することを特徴とする画像評価方法をコンピュータに実行させるためのプログラム。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7】
image rotate

【図8】
image rotate

【図9】
image rotate

【図10】
image rotate

【図11】
image rotate

【図12】
image rotate

【図13】
image rotate

【図14】
image rotate

【図15】
image rotate

【図16】
image rotate

【図17】
image rotate

【図18】
image rotate

【図19】
image rotate

【図20】
image rotate

【図21】
image rotate

【図22】
image rotate


【公開番号】特開2008−234509(P2008−234509A)
【公開日】平成20年10月2日(2008.10.2)
【国際特許分類】
【出願番号】特願2007−75829(P2007−75829)
【出願日】平成19年3月23日(2007.3.23)
【出願人】(306037311)富士フイルム株式会社 (25,513)
【復代理人】
【識別番号】100104189
【弁理士】
【氏名又は名称】福尾 勲将
【Fターム(参考)】