説明

画像処理装置、画像選択方法、及び、プログラム

【課題】連続して撮像された複数の画像において、特定の人物の存する画像の選択処理を適正に行う。
【解決手段】撮像装置100であって、特定の人物を含む複数の人が存する複数の画像を連続して撮像することにより取得する画像取得部6aと、特定の人物が有する特徴部(顔画像)を優先度と対応付けて複数の人物について記憶した人物登録DB7(第1登録テーブルT1)と、画像取得部により取得された複数の画像において、人物登録に記憶された優先度に基づいて特徴部(顔画像)を夫々検出する顔検出部5と、この顔検出部によって夫々検出された特徴部(顔画像)を、第1登録テーブルに記憶されている特徴部(顔画像)に基づいて夫々笑顔度を評価し、評価値を算出する評価値算出部b1と、この評価値算出部によって算出された評価値に基づいて記録すべき撮像画像を選択する画像選択部6bとを備える。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、画像処理装置、画像選択方法、及び、プログラムに関し、特に連続的に撮影された画像から記録に適する画像の選択技術に関する。
【背景技術】
【0002】
複数の顔が存在する画像の撮像を試みる場合、全てが瞬きをせず、且つ、笑顔となっている状態の撮像は容易ではない。そこで、従来技術として連続して撮像されている複数の画像の中で各人ごとに最も良い顔の画像を選択して、それらを一枚に合成する技術が知られている(例えば、特許文献1及び2参照)。
【先行技術文献】
【特許文献】
【0003】
【特許文献1】特開2008−198062号公報
【特許文献2】特開2002−199202号公報
【発明の概要】
【発明が解決しようとする課題】
【0004】
しかしながら、上記特許文献1、2の技術にあっては、一の画像内に存在する全ての人について満足度の高い画像を得ようとすると、人数が増えるに従って連続撮像枚数が増加してしまう虞がある。そしてこのような場合、連続して撮像された画像を一時的に記憶するためのメモリの容量を十分に確保しなくてはならないといった問題もある。
【0005】
そこで、本願発明は、上記問題点に鑑みてなされたものであり、連続して撮像された複数の画像において、特定の人物の存する画像の選択処理を適正に行うことができる画像処理装置、画像選択方法、及び、プログラムを提供することを目的とする。
【課題を解決するための手段】
【0006】
上記課題を解決するため、請求項1に記載の発明の画像処理装置は、
特定の人物を含む複数の人が存する複数の画像を連続して撮像することにより取得する取得手段と、前記特定の人物が有する特徴部を優先度と対応付けて複数の人物について記憶した特徴部記憶手段と、前記取得手段により取得された複数の画像において、前記特徴部記憶手段に記憶された優先度に基づいて特徴部を夫々検出する検出手段と、この検出手段によって夫々検出された特徴部を、前記記憶手段に記憶されている特徴部に基づいて夫々評価し、評価値を算出する算出手段と、この算出手段によって算出された評価値に基づいて記録すべき撮像画像を選択する選択手段と、を備えたことを特徴としている。
【0007】
請求項2に記載の発明は、請求項1記載の画像処理装置において、
前記算出手段は、前記特徴部記憶手段に記憶された複数の人物毎に評価値を算出し、前記選択手段は、この算出された評価値に基づいて、前記夫々の撮像画像から人物を含む画像領域を抽出する抽出手段と、この抽出手段によって抽出された画像領域を合成する画像合成手段と、を含むことにより、記録すべき撮像画像を選択することを特徴としている。
【0008】
請求項3に記載の発明の画像選択方法は、
特定の人物を含む複数の人が存する複数の画像を連続して撮像することにより取得する取得ステップと、予め前記特定の人物が有する特徴部を優先度と対応付けて複数の人物について記憶したメモリから優先度を読出し、前記取得ステップにて取得された複数の画像において、この優先度に基づいて特徴部を夫々検出する検出ステップと、この検出ステップにて夫々検出された特徴部を、前記メモリに記憶されている特徴部に基づいて夫々評価し、評価値を算出する算出ステップと、この算出ステップにて算出された評価値に基づいて記録すべき撮像画像を選択する選択ステップと、を含むことを特徴としている。
【0009】
請求項4に記載の発明のプログラムは、
予め前記特定の人物が有する特徴部を優先度と対応付けて複数の人物について記憶したメモリを備える画像処理装置のコンピュータを、特定の人物を含む複数の人が存する複数の画像を連続して撮像することにより取得する取得手段、この取得手段により取得された複数の画像において、前記メモリに記憶された優先度に基づいて特徴部を夫々検出する検出手段、この検出手段によって夫々検出された特徴部を、前記メモリに記憶されている特徴部に基づいて夫々評価し、評価値を算出する算出手段、この算出手段によって算出された評価値に基づいて記録すべき撮像画像を選択する選択手段、として機能させることを特徴としている。
【発明の効果】
【0010】
本発明によれば、連続して撮像された複数の画像において、特定の人物の存する画像の選択処理を適正に行うことができる。
【図面の簡単な説明】
【0011】
【図1】本発明を適用した実施形態1の撮像装置の概略構成を示すブロック図である。
【図2】図1の撮像装置に記録されている第1登録テーブルの一例を模式的に示す図である。
【図3】図1の撮像装置による連続撮像処理に係る動作の一例を示すフローチャートである。
【図4】図3の連続撮像処理に係る撮像画像の一例を模式的に示す図である。
【図5】本発明を適用した実施形態2の撮像装置の概略構成を示すブロック図である。
【図6】図5の撮像装置に記録されている第2登録テーブルの一例を模式的に示す図である。
【図7】図5の撮像装置による連続撮像処理に係る動作の一例を示すフローチャートである。
【図8】図7の連続撮像処理に係る撮像画像の一例を模式的に示す図である。
【図9】図7の連続撮像処理に係る画像の一例を模式的に示す図である。
【図10】変形例1の撮像装置の概略構成を示すブロック図である。
【発明を実施するための形態】
【0012】
以下に、本発明について、図面を用いて具体的な態様を説明する。ただし、発明の範囲は、図示例に限定されない。
【0013】
[実施形態1]
実施形態1の撮像装置100は、連続して撮像された複数の撮像画像の中で、予め用意された人物登録データベースに登録されている特定の人物の特徴部(顔)の評価値が高い撮像画像を選択し、この選択された撮像画像を記録画像として記録媒体に記録させる。
以下、上記の方法を具体的に記載する。
図1は、実施形態1における撮像装置100の概略構成を示すブロック図である。同図に示すように、撮像装置100は、撮像部1と、撮像制御部2と、画像データ生成部3と、メモリ4と、顔検出部5と、画像処理部6と、人物登録データベース(DB)7と、記録制御部8と、表示制御部9と、表示部10と、操作入力部11と、中央制御部12とを備えている。
【0014】
撮像部1は、レンズ部1aと、電子撮像部1bとを備えている。
レンズ部1aは、ズームレンズやフォーカスレンズ等の複数のレンズから構成されている。
電子撮像部1bは、例えば、CCD(Charge Coupled Device)やCMOS(Complementary Metal-oxide Semiconductor)等のイメージセンサから構成され、レンズ部1aの各種レンズを通過した光学像を二次元の画像信号に変換する。
なお、図示は省略するが、撮像部1は、レンズ部1aを通過する光の量を調整する絞りを備えていても良い。
【0015】
撮像制御部2は、撮像部1による被写体の撮像を制御する。即ち、撮像制御部2は、図示は省略するが、タイミング発生器、ドライバなどを備えている。そして、撮像制御部2は、タイミング発生器、ドライバにより電子撮像部1bを走査駆動して、所定周期毎に光学像を電子撮像部1bにより二次元の画像信号に変換させ、当該電子撮像部1bの撮像領域から1画面分ずつ画像フレーム(撮像画像P)を読み出して画像データ生成部3に出力させる。
ここで、被写体とは、所定の背景内に存する特定の人物を含む複数の人(図4(a)等参照)のことである。具体的には、人物登録DB7に登録されている第1登録テーブルT1(図2参照)の顔登録フラグが「ON」となっている人物(例えば、「A」や「B」等)を特定の人物とし、当該特定の人物の少なくとも一人と特定の人物以外の少なくとも一人(例えば、「C」、「D」等)とを被写体としている。
【0016】
このように、撮像部1及び撮像制御部2は、背景内に特定の人物を含む複数の人が存する画像を連続して撮像して、複数(例えば、n枚;nは自然数)の撮像画像Pa1〜Pan(図4(a)〜図4(d)等参照)の画像フレームを逐次生成する。
なお、撮像画像Pa1〜Panは、複数の静止画像であっても良いし、動画像を構成する複数の画像フレームであっても良い。
【0017】
また、撮像制御部2は、AF(自動合焦処理)、AE(自動露出処理)、AWB(自動ホワイトバランス)等の被写体を撮像する際の条件の調整制御を行っても良い。
ここで、撮像画像Pの画像フレーム内から人の顔が検出された場合には、撮像制御部2は、当該顔が含まれる領域をAF(自動合焦処理)やAE(自動露出処理)やAWB(自動ホワイトバランス)の基準領域として、AF(自動合焦処理)やAE(自動露出処理)やAWB(自動ホワイトバランス)等を行うようにしても良い。
【0018】
画像データ生成部3は、電子撮像部1bから転送された画像フレームのアナログ値の信号に対してRGBの各色成分毎に適宜ゲイン調整した後に、サンプルホールド回路(図示略)でサンプルホールドしてA/D変換器(図示略)でデジタルデータに変換し、カラープロセス回路(図示略)で画素補間処理及びγ補正処理を含むカラープロセス処理を行った後、デジタル値の輝度信号Y及び色差信号Cb,Cr(YUVデータ)を生成する。
カラープロセス回路から出力される輝度信号Y及び色差信号Cb,Crは、図示しないDMAコントローラを介して、バッファメモリとして使用されるメモリ4にDMA転送される。
【0019】
メモリ4は、例えば、DRAM(Dynamic Random Access Memory)等により構成され、顔検出部5、画像処理部6、中央制御部12等によって処理されるデータ等を一時記憶する。
【0020】
顔検出部5は、撮像部1により連続して撮像された複数の撮像画像P、…の各々から、所定の顔検出方法を用いて特定の人物の顔を検出する。
即ち、顔検出部5は、複数(例えば、n枚)の撮像画像Pa1〜Panの画像フレームの各々について、当該画像フレーム内から特定の人物を含む複数の人の顔を特徴部として検出する。具体的には、例えば、顔検出部5は、撮像部1によるライブビュー画像の撮像により生成された複数の撮像画像P、…の画像フレームをメモリ4から逐次取得して、各画像フレーム内から顔画像領域を検出し、検出された各領域内から目、鼻、口等に相当する顔パーツを逐次検出する。なお、顔検出処理は、公知の技術であるので、ここでは詳細な説明を省略する。
そして、顔検出部5は、各撮像画像P(例えば、撮像画像Pa1等)から検出された人の顔が、人物登録DB7の第1登録テーブルT1に顔登録フラグが登録されている特定の人物(例えば、「A」等)の顔画像と一致するか否かを判定する。具体的には、顔検出部5は、例えば、第1登録テーブルT1を参照して、顔登録フラグが登録されている特定の人物の顔画像をテンプレートとして取得する。そして、顔検出部5は、複数の撮像画像P、…の各々について、特定の人物のテンプレートとして取得した顔画像が検出された顔と一致するか否かを判定する。顔検出部5は、当該判定の結果、テンプレートとして取得した顔画像と一致すると判定された顔を特定の人物の顔と認識する。
このように、顔検出部5は、撮像部1により連続して撮像された複数の撮像画像P、…の各々から、顔登録フラグ(記録指示情報)が登録されている特定の人物の顔を特徴部として検出する。
【0021】
画像処理部6は、画像取得部6aと、画像選択部6bとを具備している。
【0022】
画像取得部6aは、連続して撮像された複数の撮像画像P、…を取得する。
即ち、画像取得部6aは、撮像部1により所定の撮像フレームレートで撮像された複数の撮像画像P、…をそれぞれ取得する。具体的には、撮像部1によって所定の背景内に存する特定の人物(例えば、「A」等)を含む複数の人(図4(a)等参照)を被写体として、連続して撮像された複数(例えば、n枚)の撮像画像Pa1〜Panの画像フレームのYUVデータを取得する。
このように、画像取得部6aは、連続して撮像された背景内に特定の人物を含む複数の人が存する複数の撮像画像P、…を取得する。
【0023】
画像選択部6bは、画像取得部6aにより取得された複数の撮像画像P、…の中で、特定の人物(例えば、「A」等)について顔(特徴部)の評価値が高い撮像画像Pを選択する。具体的には、画像選択部6bは、特定の人物について顔の笑顔度を評価値として算出する評価値算出部b1を具備しており、複数の撮像画像P、…の中で、評価値算出部b1により算出された顔の笑顔度が高い撮像画像Pを選択する。
【0024】
評価値算出部b1は、画像取得部6aにより取得された複数の撮像画像P、…内に存する特定の人物について顔の笑顔度を評価値として算出する。
即ち、評価値算出部b1は、複数の撮像画像P、…のうち、顔検出部5により特定の人物(例えば、「A」等)の顔が検出された撮像画像Pについて、当該特定の人物の顔の笑顔度を評価値として算出する。具体的には、例えば、評価値算出部b1は、特定の人物の顔から目を検出して、黒目の顔全体に対する大きさに応じて笑顔度を数値化する。また、例えば、評価値算出部b1は、特定の人物の顔から口を検出して、口角の上がり具合いや口の開き具合い等に応じて笑顔度を数値化する。そして、評価値算出部b1は、黒目や口角について数値化された笑顔度を統合して、特定の人物の顔の総合的な笑顔度を算出する。
なお、評価値算出部b1による特定の人物の顔(特徴部)の評価値の算出方法は一例であってこれに限られるものではなく、適宜任意に変更可能である。例えば、目や口の他に、眉毛の傾き度合い、眉間や目尻の皺の寄せ度合い等を利用して、特定の人物の顔の評価値を算出しても良い。また、顔の笑顔度を評価値として算出するようにしたが、評価内容は一例であってこれに限られるものではなく、適宜任意に変更可能である。
このように、評価値算出部b1は、特定の人物について顔の笑顔度を評価値として算出する。
【0025】
そして、画像選択部6bは、評価値算出部b1による評価結果に基づいて、複数の撮像画像P、…の中で、評価値算出部b1により算出された顔の笑顔度が高い撮像画像Pを選択する。具体的には、第1登録テーブルT1に特定の人物が一人登録されている場合には、画像選択部6bは、顔検出部5により特定の人物の顔が検出された撮像画像Pの中で、評価値算出部b1により算出された笑顔度が最も高い撮像画像Pを選択する。即ち、画像選択部6bは、記録媒体Mに記録される記録画像として、評価値算出部b1により算出された笑顔度が最も高い撮像画像Pを選択する。
【0026】
また、画像選択部6bは、第1登録テーブルT1に顔登録フラグと対応付けて登録されている優先度に基づいて、複数の特定の人物のうち、何れか一の特定の人物の顔の評価値が高い撮像画像Pを選択する。即ち、第1登録テーブルT1に複数の特定の人物が登録されている場合には、画像選択部6bは、顔登録フラグと対応付けて登録されている優先度を参照して、複数の特定の人物のうち、当該優先度の最も高い特定の人物(例えば、「A」)について顔の笑顔度が最も高い撮像画像Pを選択する。
なお、優先度が次に高い特定の人物(例えば、「B」)については、例えば、優先度の最も高い特定の人物について顔の笑顔度が所定値以上の撮像画像Pを複数選択しておき、当該複数の撮像画像P、…の中で、優先度が次に高い特定の人物について顔の笑顔度が最も高い撮像画像Pを選択するようにしても良い。
【0027】
さらに、特定の人物以外の人(例えば、「C」や「D」)についても、同様に、例えば、特定の人物について顔の笑顔度が所定値以上の撮像画像Pを複数選択しておき、当該複数の撮像画像P、…の中で、特定の人物以外の人のうち、優先度が最も高い人について顔の笑顔度が最も高い撮像画像Pを選択するようにしても良い。また、第1登録テーブルT1に特定の人物以外の人が複数登録されている場合には、当該特定の人物以外の人の中で、優先度が最も高い人について顔の笑顔度が所定値以上の撮像画像Pを複数選択しておき、当該複数の撮像画像P、…の中で、特定の人物以外の人のうち、優先度が次に高い人について顔の笑顔度が最も高い撮像画像Pを選択するようにしても良い。
【0028】
このように、画像選択部6bは、複数の撮像画像P、…の中で、顔登録フラグが登録されている特定の人物について顔検出部5により検出された顔(特徴部)の評価値が高い撮像画像Pを選択する。
【0029】
人物登録DB7は、特定の人物の顔登録フラグを登録する第1登録テーブルT1(図2参照)を記憶している。
ここで、第1登録テーブルT1について図2を参照して説明する。
【0030】
図2に示すように、第1登録テーブルT1は、人物の名前(例えば、「A」、「B」、「C」、「D」等)と、各人物の顔画像(実体の画像データ)f1〜f4と、顔登録フラグと、優先度とを対応付けて記憶している。
顔登録フラグとは、背景内に特定の人物の存する撮像画像Pの記録指示に係る記録指示情報である。即ち、顔登録フラグは、連続して撮像された複数の撮像画像P、…の中で、背景内に特定の人物の存する撮像画像Pを他の撮像画像Pに対して優先的に記録媒体Mに記録させる指示情報である。また、顔登録フラグは、複数の特定の人物と対応付けて登録されている。具体的には、例えば、「A」及び「B」の顔登録フラグが「ON」に設定され、当該人物が特定の人物となる。これにより、複数の撮像画像P、…の中で、特定の人物である「A」や「B」の顔画像f1、f2が存する撮像画像Pの他の撮像画像Pに対する優先的な記録が指示される。
また、例えば、「C」及び「D」の顔登録フラグは「OFF」に設定され、当該人物は特定の人物以外の人となる。これにより、当該特定の人物以外の人である「C」や「D」のの顔画像f3、f4が存する撮像画像Pの他の撮像画像Pに対する優先的な記録は指示されていない。
なお、特定の人物として、例えば、「A」及び「B」の二人を例示したが、特定の人物の数は一例であってこれに限られるものではなく、少なくとも一人設定されていれば適宜任意に変更可能である。同様に、特定の人物以外の人として、例えば、「C」及び「D」の二人を例示したが、特定の人物以外の人の数は一例であってこれに限られるものではなく、少なくとも一人設定されていれば適宜任意に変更可能である。
【0031】
また、優先度とは、撮像画像Pの記録媒体Mに対する記録の人物毎の優先度を表すものである。例えば、優先度は、第1登録テーブルT1に登録されている全ての人物、即ち、特定の人物及びそれ以外の人物について、各人物の存する撮像画像Pの記録媒体Mに対する記録の優先度を表している。具体的には、例えば、数値が大きいほど優先度が高くなっており、図2にあっては、「A」の顔画像f1の存する撮像画像Pの記録が最も優先され、次いで、「B」の顔画像f2の存する撮像画像P、「D」の顔画像f4の存する撮像画像P、「C」の顔画像f3の存する撮像画像Pの順となっている。
なお、第1登録テーブルT1に登録されている全ての人物について優先度が登録されたものを例示したが、一例であってこれに限られるものではなく、少なくとも特定の人物について登録されていれば良い。
【0032】
このように、人物登録DB7は、特定の人物の顔画像の画像データが存する撮像画像Pの記録指示に係る顔登録フラグ(記録指示情報)を登録している。
なお、第1登録テーブルT1の各人物の顔画像f1〜f4は、顔検出処理や顔認識処理に利用されても良い。
【0033】
記録制御部8は、記録媒体Mが着脱自在に構成され、装着された記録媒体Mからのデータの読み出しや記録媒体Mに対するデータの書き込みを制御する。
具体的には、記録制御部8は、連続して撮像された複数の撮像画像P1、P2、P3…の中で、画像選択部6bにより選択されたもの、即ち、顔登録フラグが登録されている特定の人物(例えば、「A」等)について顔の笑顔度(評価値)が高いものを記録画像として選択し、記録媒体Mに記録させる。
このように、記録制御部8は、画像選択部6bにより選択された撮像画像Pを記録画像として記録媒体Mに記録させる。
【0034】
なお、記録媒体Mは、例えば、不揮発性メモリ(フラッシュメモリ)等により構成されるが、一例であってこれに限られるものではなく、適宜任意に変更可能である。
【0035】
表示制御部9は、メモリ4に一時的に記憶されている表示用の画像データを読み出して表示部10に表示させる制御を行う。
具体的には、表示制御部9は、VRAM、VRAMコントローラ、デジタルビデオエンコーダなどを備えている(何れも図示略)。そして、デジタルビデオエンコーダは、中央制御部12の制御下にてメモリ4から読み出されてVRAMに記録されている輝度信号Y及び色差信号Cb,Crを、VRAMコントローラを介してVRAMから定期的に読み出して、これらのデータを元にビデオ信号を発生して表示部10に出力する。
【0036】
表示部10は、例えば、液晶表示装置であり、表示制御部9からのビデオ信号に基づいて電子撮像部1bにより撮像された画像などを表示画面に表示する。具体的には、表示部10は、静止画撮像モードや動画撮像モードにて、撮像部1による被写体の撮像により生成された複数の画像フレームを所定のフレームレートで逐次更新しながらライブビュー画像を表示する。
【0037】
操作入力部11は、当該撮像装置100の所定操作を行うためのものである。具体的には、操作入力部11は、被写体の撮像指示に係るシャッタボタン、撮像モードや機能等の選択指示に係る選択決定用ボタン、ズーム量の調整指示に係るズームボタン等を備え(何れも図示略)、これらのボタンの操作に応じて所定の操作信号を中央制御部12に出力する。
【0038】
中央制御部12は、撮像装置100の各部を制御するものである。具体的には、中央制御部12は、図示は省略するが、CPU(Central Processing Unit)、RAM(Random Access Memory)、ROM(Read Only Memory)等を備え、撮像装置100用の各種処理プログラム(図示略)に従って各種の制御動作を行う。
【0039】
次に、撮像装置100による連続撮像処理について、図3及び図4を参照して説明する。
図3は、連続撮像処理に係る動作の一例を示すフローチャートである。また、図4(a)〜図4(d)は、連続撮像処理に係る撮像画像Pa1〜Panの一例を模式的に示す図である。
【0040】
連続撮像処理は、ユーザによる操作入力部11の選択決定用ボタン(図示略)の所定操作に基づいて、メニュー画面に表示された複数の撮像モードの中から連続撮像モードが選択指示された場合に実行される処理である。
なお、以下に説明する連続撮像処理にあっては、「A」、「B」、「C」及び「D」を被写体として撮像するものとする。また、「A」及び「B」は第1登録テーブルT1の顔登録フラグが「ON」に設定されているものとする(図2参照)。
【0041】
図3に示すように、先ず、表示制御部9は、撮像部1及び撮像制御部2による撮像により生成された複数の画像フレームに基づいてライブビュー画像を表示部10の表示画面に表示させる(ステップS1)。
次に、顔検出部5は、撮像部1によるライブビュー画像の撮像により生成された複数の撮像画像P1、P2、P3、…の画像フレームをメモリ4から逐次取得して、各画像フレーム内から所定の顔検出方法を用いて人の顔画像を検出する(ステップS2)。続けて、顔検出部5は、各撮像画像Pから検出された人の顔画像から、第1登録テーブルT1に顔登録フラグが「ON」で登録されている顔画像、すなわち、特定の人物として登録されている顔画像が検出されたか否かを判定する(ステップS3)。
【0042】
ステップS3にて、特定の人物の顔画像が検出されたと判定されると(ステップS3;YES)、表示制御部9は、第1登録テーブルT1を参照して、この顔画像と対応付けられて登録されている人物の名前(例えば、「A」、「B」等)をライブビュー画像と共に表示させる(ステップS4)。
その後、中央制御部12は、ユーザによる操作入力部11のシャッタボタン(図示略)の所定操作に基づいて撮像指示が入力されたか否かを判定する(ステップS5)。また、ステップS3にて、特定の人物の顔画像が検出されていないと判定された場合(ステップS3;NO)にも、中央制御部12は、処理をステップS5に移行して、撮像指示が入力されたか否かを判定する(ステップS5)。
【0043】
ステップS5にて、撮像指示が入力されていないと判定されると(ステップS5;NO)、中央制御部12は、処理をステップS2に移行して、それ以降の処理を実行する。
一方、ステップS5にて、撮像指示が入力されたと判定されると(ステップS5;YES)、撮像制御部2は、フォーカスレンズの合焦位置や露出条件(シャッター速度、絞り、増幅率等)やホワイトバランス等の条件を調整して、被写体の光学像を電子撮像部1bに所定の撮像フレームレートで連続して撮像させる(ステップS6)。続けて、画像データ生成部3は、連続撮像により電子撮像部1bから逐次転送された複数(例えば、n枚)の撮像画像Pa1〜Panの各々のYUVデータを生成する(ステップS7)。
【0044】
次に、画像処理部6の画像取得部6aは、生成された複数の撮像画像Pa1〜PanのYUVデータを取得した後、画像選択部6bの評価値算出部b1は、複数の撮像画像Pa1〜Panのうち、顔検出部5により特定の人物の顔画像が検出されたもの(複数)について、当該顔画像の画像データにおける笑顔度を評価値として夫々算出する(ステップS8)。具体的には、評価値算出部b1は、例えば、顔検出部5により特定の人物である「A」及び「B」の顔画像が検出された複数の撮像画像Pa1〜Panについて、当該特定の人物の顔の笑顔度を夫々算出する。
【0045】
次に、画像選択部6bは、第1登録テーブルT1の顔登録フラグと対応付けて登録されている優先度を参照して、優先度の最も高い特定の人物(例えば、「A」)について顔画像における笑顔度が最も高い撮像画像Pを複数選択する(ステップS9)。ここで、本実施形態1では、図2を参照すると第1登録テーブルT1に顔登録フラグが「ON」に設定されている人数は二人(すなわち複数)なので、優先度の最も高い人物について顔画像の笑顔度が所定値以上の複数の撮像画像Pを候補として先ず選択しておき、この複数選択された撮像画像Pの中から当該複数の撮像画像Pa1〜Panの中で、優先度が次に高い特定の人物(例えば、「B」)について顔画像の笑顔度が最も高い撮像画像Pを選択する。
【0046】
例えば、1枚目の撮像画像Pa1(図4(a)参照)にあっては、「A」の顔画像の笑顔度が所定値以上であると評価されるが、特定の人物である「B」の顔画像の笑顔度が所定値未満であると評価される。また、2枚目の撮像画像Pa2(図4(b)参照)及びn枚目の撮像画像Pan(図4(d)参照)にあっては、特定の人物である「A」及び「B」の顔画像の笑顔度がともに所定値以上であると評価される。また、3枚目の撮像画像Pa3(図4(c)参照)にあっては、特定の人物である「A」の顔画像の笑顔度が所定値未満であり、特定の人物である「B」の顔画像の笑顔度が所定値以上であると評価される。
一方、特定の人物以外の人(例えば、「C」、「D」等)については、優先度のみを考慮して撮像画像Pを選択する。つまり、3枚目の撮像画像Pa3は、顔画像の笑顔度がともに所定値以上であると評価されているが、特定の人物については笑顔度が所定値未満であるため選択されない。
このように上記の場合には、特定の人物であり且つ優先度の最も高い「A」の顔の笑顔度が所定値以上であり、特定の人物である「B」の顔の笑顔度が所定値以上である撮像画像Pa2及びn枚目の撮像画像Panが候補として選択され、更に、これらの候補のうち、上記特定の人物以外の人の中で優先度の最も高い「D」の笑顔度が所定値以上である撮像画像Pa2が、画像選択部6bにより選択される。
【0047】
その後、記録制御部8は、画像選択部6bにより選択された2枚目の撮像画像Pa2を記録画像として、記録媒体Mの所定の記録領域に記録させる(ステップS12)。
これにより、連続撮像処理を終了する。
【0048】
以上のように、実施形態1の撮像装置100によれば、連続して撮像された複数の撮像画像中で、顔登録フラグが人物登録データベース7に登録されている特定の人物の特徴部(顔)の評価値が高い撮像画像を選択するので、一の撮像画像内に存する複数の人のうち、少なくとも特定の人物(例えば、「A」等)について良い表情が得られ、且つ、他の人物についても比較的良い表情の撮像画像Pを選択することができる。また、笑顔(良い表情)であるか否かを厳密に重視しなくても良い特定の人物以外の人については、特徴部(顔)の評価を行う必要がなくなるので、連続撮像枚数の増加を招くことが無い。
【0049】
[実施形態2]
以下に、実施形態2の撮像装置200について図5〜図9を参照して説明する。
実施形態2は、複数の特定の人物の各々について顔(特徴部)の評価値が高い撮像画像を選択し、当該撮像画像の各々から、各特定の人物が含まれる画像領域をそれぞれ抽出して、抽出された複数の画像領域同士を合成して一の合成画像を生成し記録媒体に記録させる。
なお、実施形態2の撮像装置200は、以下に説明する以外の点で上記実施形態1の撮像装置100と略同様の構成をなし、その説明は省略する。
【0050】
図5は、本発明を適用した実施形態2の撮像装置200の概略構成を示すブロック図である。
図5に示すように、実施形態2の撮像装置200は、人物登録DB7に第2登録テーブルT2(図6参照)が記憶されている。
【0051】
第2登録テーブルT2は、図6に示すように、人物の名前(例えば、「E」、「F」及び「G」等)と、各人物の顔画像(実体は画像データ)f5〜f7と、顔登録フラグとを対応付けて記憶している。
顔登録フラグは、複数の特定の人物の顔画像f5〜f7と対応付けて登録されている。具体的には、例えば、「E」、「F」及び「G」の顔登録フラグが「ON」に設定され、当該人物が特定の人物となる。これにより、複数の撮像画像P、…の中で、特定の人物である「E」、「F」及び「G」の存する撮像画像については、他の撮像画像と比較して優先的に記録するよう指示される。
【0052】
また、画像処理部6は、画像取得部6aと、画像選択部6bとに加えて、領域抽出部6cと、画像生成部6dとを具備している。
【0053】
画像選択部6bは、第2登録テーブルT2に顔登録フラグ(記録指示情報)が登録されている複数の特定の人物の各々について、画像取得部6aにより取得された複数の撮像画像P、…の中で、顔(特徴部)の評価値が高い撮像画像Pをそれぞれ選択する。
即ち、画像選択部6bの評価値算出部b1は、画像取得部6aにより取得された複数の撮像画像P、…内に存する特定の人物について顔の笑顔度を評価値として算出する。なお、評価値算出部b1による特定の人物の顔の評価値の算出方法は、上記実施形態1と同様であり、その詳細な説明は省略する。
そして、画像選択部6bは、評価値算出部b1による評価結果に基づいて、複数の撮像画像P、…の中で、顔登録フラグが「ON」に設定されている複数の特定の人物の各々について、評価値算出部b1により算出された顔の笑顔度が高い撮像画像Pを選択する。例えば、画像選択部6bは、「E」の顔の笑顔度が所定値以上の撮像画像Pとして、n枚目の撮像画像Pbn(図8(d)参照)を選択し、また、「F」の顔の笑顔度が所定値以上の撮像画像Pとして、1枚目の撮像画像Pb1(図8(a)参照)を選択し、「G」の顔の笑顔度が所定値以上の撮像画像Pとして、1枚目の撮像画像Pb1(図8(a)参照)及び2枚目の撮像画像Pb2(図8(b)参照)を選択する。
【0054】
領域抽出部6cは、複数の特定の人物の各々について、顔の評価値が高い撮像画像Pの各々から、当該人物が含まれる画像領域Aをそれぞれトリミングして抽出する。
即ち、領域抽出部6cは、複数の特定の人物の各々について、画像選択部6bにより選択された顔の評価値が高い撮像画像Pの各々から、各人物が含まれる画像領域Aを選択して、当該画像領域Aをトリミングして抽出する。具体的には、領域抽出部6cは、例えば、各特定の人物(例えば、「E」、「F」及び「G」等)の顔(特徴部)の中心の座標を基準として、互いに重なり合わないように切り取る範囲を設定し、この設定された範囲(トリミング領域)を抽出する。なお、各特定の人物どうしが上下方向や水平方向に重なり合っている場合には、領域抽出部6cは、顔(特徴部)の中心の座標を基準として、特定の人物どうしの中間位置を、当該中間位置で区切られるように切り取る範囲(トリミング領域)を抽出しても良い。
例えば、「E」の場合、領域抽出部6cは、画像選択部6bにより顔の笑顔度が所定値以上の撮像画像Pとして特定されたn枚目の撮像画像Pbnから、「E」が含まれる第1画像領域A1(図9(a)参照)をトリミングして抽出する。また、例えば、「F」の場合は、領域抽出部6cは、画像選択部6bにより顔の笑顔度が所定値以上の撮像画像Pとして特定された1枚目の撮像画像Pb1から、「F」が含まれる第2画像領域A2(図9(b)参照)をトリミングして抽出する。また、例えば、「G」の場合、領域抽出部6cは、画像選択部6bにより顔の笑顔度が所定値以上の撮像画像Pとして特定された1枚目の撮像画像Pb1若しくは2枚目の撮像画像Pb2から、「G」が含まれる第3画像領域A3(図9(c)参照)をトリミングして抽出する。
【0055】
なお、領域抽出部6cによる特定の人物が含まれる画像領域Aのトリミング方法は一例であってこれに限られるものではなく、適宜任意に変更可能である。例えば、各人物毎に画像領域Aをトリミングするようにしたが、例えば、「F」と「G」のように、1枚目の撮像画像Pb1が顔の笑顔度が所定値以上の撮像画像Pとして選択されている場合には、「F」と「G」がともに含まれる一の画像領域Aをトリミングして抽出するようにしても良い。
このように、領域抽出部6cは、画像選択部6bにより選択された複数の特定の人物の各々についての顔(特徴部)の評価値が高い撮像画像Pの各々から、当該人物が含まれる画像領域Aをそれぞれトリミングして抽出する。
【0056】
画像生成部6dは、各人物毎に抽出された複数の画像領域A、…を合成して一の合成画像Gを生成する。
具体的には、例えば、画像生成部6dは、領域抽出部6cにより抽出された「E」が含まれる第1画像領域A1(図9(a)参照)と、「F」が含まれる第2画像領域A2(図9(b)参照)と、「G」が含まれる第3画像領域A3(図9(c)参照)とを合成して、一の合成画像G(図9(d)参照)を生成する。
このように、画像生成部6dは、領域抽出部6cにより各人物毎に抽出された複数の画像領域A、…どうしを合成して一の合成画像Gを生成する。
【0057】
記録制御部8は、画像生成部6dにより生成された一の合成画像G(図9(d)参照)を記録画像として記録媒体Mに記録させる。
【0058】
次に、撮像装置200による連続撮像処理について、図7〜図9を参照して説明する。
図7は、連続撮像処理に係る動作の一例を示すフローチャートである。但し、処理の流れとしては上記第1実施形態における図3のステップS8と同じであるので、図面において上記第1実施形態と異なる点のみ説明することで省略する。
図8(a)〜図8(d)は、連続撮像処理に係る撮像画像Pb1〜Pbnの一例を模式的に示す図である。また、図9(a)〜図9(c)は、特定の人物について抽出された第1〜第3画像領域A1〜A3を模式的に表し、図9(d)は、合成された合成画像Gを模式的に示す図である。
また、以下に説明する連続撮像処理にあっては、「E」、「F」及び「G」を特定の人物として、第2登録テーブルT2の顔登録フラグが「ON」に設定されているものとし(図6参照)、「E」、「F」及び「G」の前を横切る特定の人物以外の人を単なる通行人Jとして表す。
【0059】
ステップS8において顔検出部5により特定の人物の顔画像の笑顔度を評価値として算出すると、画像選択部6bは、複数の撮像画像P、…の中で、複数の特定の人物の各々について、評価値算出部b1により算出された顔の笑顔度が高い撮像画像Pをそれぞれ選択する(ステップS21)。
例えば、図8(a)〜(d)において、「E」、「F」及び「G」を被写体として撮像する際に、当該「E」、「F」及び「G」の前を通行人Jが横切ってしまった場合、特定の人物である「E」については、1枚目〜3枚目の撮像画像Pb1〜Pb3は、顔の笑顔度が所定値未満である。また、同様に、特定の人物である「F」については、2枚目〜n枚目の撮像画像Pb2〜Pbnは、顔の笑顔度が所定値未満である。また、同様に、特定の人物である「G」については、3枚目の撮像画像Pb3及びn枚目の撮像画像Pbnは、顔の笑顔度が所定値未満である。
そこで、画像選択部6bは、「E」の顔の笑顔度が所定値以上の撮像画像としてn枚目の撮像画像Pbn(図8(d)参照)を選択し、また、「F」の顔の笑顔度が所定値以上の撮像画像として1枚目の撮像画像Pb1(図8(a)参照)を選択し、「G」の顔の笑顔度が所定値以上の撮像画像として、1枚目の撮像画像Pb1(図8(a)参照)及び2枚目の撮像画像Pb2(図8(b)参照)を選択する。
【0060】
続けて、領域抽出部6cは、複数の特定の人物の各々について、画像選択部6bにより選択された顔の笑顔度が高い撮像画像の各々から、各人物が含まれる画像領域Aをそれぞれ選択して、当該各画像領域Aをトリミングして抽出する(ステップS22)。
例えば、領域抽出部6cは、特定の人物である「E」について、画像選択部6bにより顔の笑顔度が所定値以上の撮像画像Pとして選択されたn枚目の撮像画像Pbnから、「E」が含まれる第1画像領域A1(図9(a)参照)を選択して当該画像領域A1をトリミングする。また、領域抽出部6cは、例えば、特定の人物である「F」について、画像選択部6bにより顔の笑顔度が所定値以上の撮像画像Pとして選択された1枚目の撮像画像Pb1から、「F」が含まれる第2画像領域A2(図9(b)参照)を選択して当該画像領域A2をトリミングする。また、領域抽出部6cは、例えば、特定の人物である「G」について、画像選択部6bにより顔の笑顔度が所定値以上の撮像画像Pとして選択された1枚目の撮像画像Pb1若しくは2枚目の撮像画像Pb2から、「G」が含まれる第3画像領域A3(図9(c)参照)を選択して当該画像領域A3をトリミングする。
【0061】
次に、画像生成部6dは、領域抽出部6cにより抽出された複数の画像領域A、…を合成して一の合成画像Gを生成する(ステップS23)。具体的には、画像生成部6dは、「Eさん」が含まれる第1画像領域A1(図9(a)参照)と、「F」が含まれる第2画像領域A2(図9(b)参照)と、「G」が含まれる第3画像領域A3(図9(c)参照)とを合成して、一の合成画像G(図9(d)参照)を生成する。
その後、記録制御部8は、画像生成部6dにより生成された一の合成画像Gを記録画像として、記録媒体Mの所定の記録領域に記録させる(ステップS24)。
これにより、連続撮像処理を終了する。
【0062】
以上のように、実施形態2の撮像装置200によれば、複数の特定の人物の各々について顔(特徴部)の評価値が高い撮像画像を選択し、当該撮像画像の各々から、各特定の人物が含まれる画像領域をそれぞれトリミングして抽出し、この抽出された複数の画像領域同士を合成して一の合成画像を生成するので、複数の特定の人物の各々について満足度の高い画像を記録画像として記録媒体Mに記録させることができる。
【0063】
なお、本発明は、上記実施形態に限定されることなく、本発明の趣旨を逸脱しない範囲において、種々の改良並びに設計の変更を行っても良い。
例えば、連続撮像処理にて撮像された複数の撮像画像P、…のうち、特定の人物の顔が検出されなかった撮像画像Pを画像処理部6の処理対象から除くようにしても良い。
【0064】
即ち、図10に示すように、変形例1の撮像装置100は、連続撮像処理にて撮像された複数の撮像画像P、…の中で、顔登録フラグ(記録指示情報)が登録されている特定の人物の顔が顔検出部5により検出されなかった撮像画像Pを指定する非検出画像指定部6eを画像処理部6に具備している。そして、画像取得部6aは、複数の撮像画像P、…のうち、非検出画像指定部6eにより指定された特定の人物の顔が検出されなかった撮像画像Pを取得しないようになっている。
なお、この変形例1の撮像装置100は、上記した以外の点で上記実施形態1の撮像装置100と略同様の構成をなし、その説明は省略する。また、当該変形例1は、実施形態1の撮像装置100の変形例として例示したが、実施形態2の撮像装置200の変形例としても良い。
【0065】
従って、変形例1の撮像装置100によれば、複数の撮像画像P、…の中で、顔登録フラグが登録されている特定の人物の顔が検出されなかった撮像画像Pを画像処理の処理対象として取得しないので、当該画像処理にかかる負荷の軽減や処理速度の向上を図ることができる。
【0066】
また、上記変形例1にあっては、複数の撮像画像P、…の中で、顔登録フラグが登録されていない人(例えば、通行人J等)が特定の人物の前に重なった撮像画像Pを指定して、当該撮像画像Pを画像取得部6aが取得しないようにしても良い。即ち、顔登録フラグが登録されている特定の人物が顔検出部5により検出されずに、顔登録フラグが登録されていない人が顔検出部5により検出された撮像画像Pについては、画像取得部6aは、画像処理部6の処理対象から除くようにしても良い。
このような構成としても、上記変形例1と同様に、当該画像処理にかかる負荷の軽減や処理速度の向上を図ることができる。
【0067】
また、上記実施形態1、2及び変形例1にあっては、人の特徴部として顔を例示したが、一例であってこれに限られるものではなく、適宜任意に変更可能である。例えば、顔の一部のパーツ(例えば、目や口等)や人の体全体を特徴部として評価するようにしても良い。
【0068】
また、撮像装置100、200の構成は、上記実施形態1、2に例示したものは一例であり、これらに限られるものではない。例えば、撮像画像Pは、当該撮像装置100、200とは異なる外部装置(図示略)で生成し、外部装置から所定の通信回線を介して送信されることで当該撮像装置100、200が取得して特徴部(例えば、顔)の評価値の高い撮像画像Pを選択して記録させる構成としても良い。
【0069】
加えて、上記実施形態にあっては、取得手段、検出手段、算出手段、選択手段としての機能を、中央制御部12の制御下にて、顔検出部5、画像処理部6が駆動することにより実現される構成としたが、これに限られるものではなく、中央制御部12によって所定のプログラム等が実行されることにより実現される構成としても良い。
即ち、プログラムを記憶するプログラムメモリ(図示略)に、取得処理ルーチン、検出処理ルーチン、算出処理ルーチン及び選択処理ルーチンを含むプログラムを記憶しておく。そして、取得処理ルーチンにより中央制御部12のCPUを、特定の人物を含む複数の人が存する複数の画像を連続して撮像することにより取得する取得手段として機能させるようにしても良い。また、検出処理ルーチンにより中央制御部12のCPUを、取得手段により取得された複数の画像において、メモリに記憶された優先度に基づいて特徴部を夫々検出する検出手段として機能させるようにしても良い。また、算出処理ルーチンにより中央制御部12のCPUを、検出手段によって夫々検出された特徴部を、メモリに記憶されている特徴部に基づいて夫々評価し、評価値を算出する算出手段として機能させるようにしても良い。また、選択処理ルーチンにより中央制御部12のCPUを、算出手段によって算出された評価値に基づいて記録すべき撮像画像を選択する選択手段として機能させるようにしても良い。
【0070】
さらに、上記の各処理を実行するためのプログラムを格納したコンピュータ読み取り可能な媒体として、ROMやハードディスク等の他、フラッシュメモリ等の不揮発性メモリ、CD−ROM等の可搬型記録媒体を適用することも可能である。また、プログラムのデータを所定の通信回線を介して提供する媒体としては、キャリアウェーブ(搬送波)も適用される。
【符号の説明】
【0071】
100、200 撮像装置
1 撮像部
2 撮像制御部
5 顔検出部
6 画像処理部
6a 画像取得部
6b 画像選択部
b1 評価値算出部
6c 領域抽出部
6d 画像生成部
6e 非検出画像指定部
7 人物登録データベース
8 記録制御部
12 中央制御部
M 記録媒体

【特許請求の範囲】
【請求項1】
特定の人物を含む複数の人が存する複数の画像を連続して撮像することにより取得する取得手段と、
前記特定の人物が有する特徴部を優先度と対応付けて複数の人物について記憶した特徴部記憶手段と、
前記取得手段により取得された複数の画像において、前記特徴部記憶手段に記憶された優先度に基づいて特徴部を夫々検出する検出手段と、
この検出手段によって夫々検出された特徴部を、前記記憶手段に記憶されている特徴部に基づいて夫々評価し、評価値を算出する算出手段と、
この算出手段によって算出された評価値に基づいて記録すべき撮像画像を選択する選択手段と、
を備えたことを特徴とする画像処理装置。
【請求項2】
前記算出手段は、前記特徴部記憶手段に記憶された複数の人物毎に評価値を算出し、
前記選択手段は、
この算出された評価値に基づいて、前記夫々の撮像画像から人物を含む画像領域を抽出する抽出手段と、
この抽出手段によって抽出された画像領域を合成する画像合成手段と、
を含むことにより、記録すべき撮像画像を選択することを特徴とする請求項1記載の画像処理装置。
【請求項3】
特定の人物を含む複数の人が存する複数の画像を連続して撮像することにより取得する取得ステップと、
予め前記特定の人物が有する特徴部を優先度と対応付けて複数の人物について記憶したメモリから優先度を読出し、前記取得ステップにて取得された複数の画像において、この優先度に基づいて特徴部を夫々検出する検出ステップと、
この検出ステップにて夫々検出された特徴部を、前記メモリに記憶されている特徴部に基づいて夫々評価し、評価値を算出する算出ステップと、
この算出ステップにて算出された評価値に基づいて記録すべき撮像画像を選択する選択ステップと、
を含むことを特徴とする画像選択方法。
【請求項4】
予め前記特定の人物が有する特徴部を優先度と対応付けて複数の人物について記憶したメモリを備える画像処理装置のコンピュータを、
特定の人物を含む複数の人が存する複数の画像を連続して撮像することにより取得する取得手段、
この取得手段により取得された複数の画像において、前記メモリに記憶された優先度に基づいて特徴部を夫々検出する検出手段、
この検出手段によって夫々検出された特徴部を、前記メモリに記憶されている特徴部に基づいて夫々評価し、評価値を算出する算出手段、
この算出手段によって算出された評価値に基づいて記録すべき撮像画像を選択する選択手段、
として機能させることを特徴とするプログラム。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7】
image rotate

【図8】
image rotate

【図9】
image rotate

【図10】
image rotate


【公開番号】特開2012−60292(P2012−60292A)
【公開日】平成24年3月22日(2012.3.22)
【国際特許分類】
【出願番号】特願2010−199695(P2010−199695)
【出願日】平成22年9月7日(2010.9.7)
【出願人】(000001443)カシオ計算機株式会社 (8,748)
【Fターム(参考)】