電子カメラおよび画像処理プログラム
【課題】 本発明は、撮影時に顔識別ができなかった画像や顔識別機能を利用しなかった画像についても分類付けが容易にできる電子カメラを提供する。
【解決手段】 電子カメラは、撮像素子、記録部、表示部、顔検出部、顔認識部、第1識別情報付加部、顔分類処理部、検索部、画像提示部、画像提示部、選択条件提示部及び選択条件受付部とを備える。顔検出部は顔を検出する。顔認識部は特徴点を抽出する。第1識別情報付加部は、識別情報を画像データに付加する。顔分類処理部は、識別情報に基づいて画像データを分類する。検索部は、識別情報が付加されていない画像データを検索する。画像提示部は、提示画像を表示部に表示させる。選択条件提示部は、顔の人物を選択する選択条件を表示部に表示させる。選択条件受付部は、選択条件の選択若しくは非選択の命令を受け付ける。第2識別情報付加部は、選択条件に対応する識別情報を、提示画像の画像データに付加する。
【解決手段】 電子カメラは、撮像素子、記録部、表示部、顔検出部、顔認識部、第1識別情報付加部、顔分類処理部、検索部、画像提示部、画像提示部、選択条件提示部及び選択条件受付部とを備える。顔検出部は顔を検出する。顔認識部は特徴点を抽出する。第1識別情報付加部は、識別情報を画像データに付加する。顔分類処理部は、識別情報に基づいて画像データを分類する。検索部は、識別情報が付加されていない画像データを検索する。画像提示部は、提示画像を表示部に表示させる。選択条件提示部は、顔の人物を選択する選択条件を表示部に表示させる。選択条件受付部は、選択条件の選択若しくは非選択の命令を受け付ける。第2識別情報付加部は、選択条件に対応する識別情報を、提示画像の画像データに付加する。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、電子カメラおよび画像処理プログラムに関する。
【背景技術】
【0002】
従来より、撮影画像から人物の顔の特徴点を抽出し、顔識別を行う顔識別機能を搭載した電子カメラが開示されている(例えば、特許文献1参照)。
【0003】
また、電子カメラで撮影した画像ファイルを読み出し、人物の顔領域を検出して顔認証を行い、個々の人物を識別し、識別結果に基づいて画像を補正する画像補正装置が開示されている(例えば、特許文献2参照)。
【発明の概要】
【発明が解決しようとする課題】
【0004】
ところで、顔が写っている画像を人物ごとに分類した上で、特定の人物の画像に対して、まとめて画像処理したい場合がある。しかしながら、上記特許文献1の電子カメラや上記特許文献2の画像補正装置では、顔の領域を検出できたにも拘わらず、顔識別ができなかった場合の取り扱いが問題となる。
【0005】
また、ユーザが画像を見れば顔識別できる場合であっても、電子カメラを用いて顔識別ができなかった画像や、他の撮影モードを優先して撮影し、顔が写っているにも拘わらず顔識別機能を利用しなかった画像の取り扱いについても問題となる。
【0006】
そこで、本発明は、上記事情に鑑み、撮影時に顔識別ができなかった画像や顔識別機能を利用しなかった画像についても分類付けが容易にできる電子カメラを提供することを目的とする。
【課題を解決するための手段】
【0007】
第1の発明に係る電子カメラは、撮像素子と、記録部と、表示部と、顔検出部と、顔認識部と、第1識別情報付加部と、顔分類処理部と、検索部と、画像提示部と、画像提示部と、選択条件提示部と、選択条件受付部と、を備える。撮像素子は、被写体像を光電変換して画像データを生成する。記録部は、画像データを記録する。表示部は、画像データに基づく画像を表示する。顔検出部は、画像データに基づいて顔を検出する。顔認識部は、顔から顔の特徴を表す特徴点を抽出する。第1識別情報付加部は、特徴点に基づいて、顔を識別する識別情報を画像データに付加する。顔分類処理部は、識別情報に基づいて画像データを分類する。検索部は、記録部に記録されている画像データの内、識別情報が付加されていない画像データを検索する。画像提示部は、検索部が見つけ出した、識別情報が付加されていない画像データに基づいて、顔検出部が顔を検出した場合、その画像データに基づく画像を提示画像として表示部に表示させる。選択条件提示部は、提示画像に対し、顔分類処理部に分類されている画像データに基づく顔の人物を選択する選択条件を表示部に表示させる。選択条件受付部は、選択条件の選択若しくは非選択の命令をユーザ入力により受け付ける。第2識別情報付加部は、選択条件受付部が受け付けた選択条件に対応する識別情報を、提示画像の画像データに付加する。
【0008】
第2の発明は、第1の発明において、選択条件受付部が、選択条件の非選択の命令を受け付けた場合、新たな識別情報を付加するか否かの命令をユーザ入力により受け付ける識別情報可否受付部と、識別情報可否受付部が、新たな識別情報を付加する命令を受け付けた場合、提示画像の画像データに、新たな識別情報を付加する新規登録部と、をさらに備える。
【0009】
第3の発明は、第1又は第2の発明において、記録部は、顔分類処理部が分類した前記画像データを格納する顔分類フォルダを備える。
【0010】
第4の発明は、第3の発明において、顔分類フォルダに格納されている画像データに対して、ユーザ入力により指定された人物の画像処理を一括して行う一括画像処理部をさらに備える。
【0011】
第5の発明は、第3の発明において、表示部は、ユーザ入力を表示部の表示画面上で行うタッチパネルをさらに備える。
【0012】
第6の発明は、第5の発明において、表示部の表示態様を制御する表示制御部をさらに備える。表示制御部は、顔検出部が顔を検出した場合、顔の領域を示す顔検出枠を提示画像に重畳表示させる。選択条件提示部は、顔分類フォルダに分類されている画像データに基づいて、人物ごとの縮小画像であるサムネイル画像を選択条件として表示部に一覧表示させる。第2識別情報付加部は、ユーザによるタッチパネルの操作に応じて、顔検出枠に表示されている顔と、その顔と同一人物のサムネイル画像との関連付けを行うことにより、同一人物の識別情報を、提示画像の画像データに付加する。
【0013】
第7の発明は、第6の発明において、表示制御部は、顔検出部が顔を検出したにも拘わらず、顔認識部が、前記特徴点を抽出できなかった場合、顔検出枠の表示態様を変更する。
【0014】
第8の発明は、第6の発明において、選択条件提示部は、サムネイル画像を一覧表示させる際、新規に作成された顔分類フォルダの人物を示すサムネイル画像を追加して表示させる。
【0015】
第9の発明に係る画像処理プログラムは、コンピュータに画像処理を実行させる画像処理プログラムであって、画像データ読出ステップと、顔分類処理ステップと、検索ステップと、顔検出ステップと、画像提示ステップと、選択条件提示ステップと、選択条件受付ステップと、識別情報付加ステップと、を備える。
【0016】
画像データ読出ステップは、電子カメラで記録された画像データを読み出す。顔分類処理ステップは、顔の特徴を表す特徴点に基づいて顔を識別する識別情報に基づいて画像データを分類する。検索ステップは、画像データ読出ステップで読み出した画像データの内、識別情報が付加されていない画像データを検索する。顔検出ステップは、検索ステップで見つけ出された、識別情報が付加されていない画像データに基づいて、顔を検出する。画像提示ステップは、顔検出ステップで顔を検出した場合、その画像データに基づく画像を提示画像として表示部に表示させる。選択条件提示ステップは、提示画像に対し、顔分類処理ステップで分類されている画像データに基づく顔の人物を選択する選択条件を表示部に表示させる。選択条件受付ステップは、選択条件の選択若しくは非選択の命令をユーザ入力により受け付ける。識別情報付加ステップは、選択条件受付ステップにて受け付けた選択条件に対応する識別情報を、提示画像の画像データに付加する。
【発明の効果】
【0017】
本発明の電子カメラによれば、撮影時に顔識別ができなかった画像や顔識別機能を利用しなかった画像についても分類付けが容易にできる。
【図面の簡単な説明】
【0018】
【図1】第1実施形態の電子カメラ1の構成を示すブロック図
【図2】CPU23の構成を示すブロック図
【図3】Exifの画像ファイルを模式的に表した図
【図4】電子カメラ1の撮影動作を表すフローチャート
【図5】識別情報の有無をチェックするフローチャート
【図6】第2識別情報付加部23iによる識別情報の付加処理を説明するフローチャート
【図7】図6に示す顔登録処理のサブルーチン
【図8】顔登録処理を説明する図
【図9】顔登録処理を説明する図
【図10】新規登録する場合の顔登録処理を説明する図
【図11】新規登録する場合の顔登録処理を説明する図
【図12】複数人物の顔登録処理を説明する図
【図13】電子カメラ1における画像データの一括画像処理を表すフローチャート
【図14】人物別再生画面のモードの一例を説明する図
【図15】モザイク処理の一例を説明する図
【図16】モザイク処理後のサムネイル表示の一例を説明する図
【図17】一括アップロードの概念図
【図18】一括デジタルぼかし処理の一例を示す図
【図19】一括トリミング処理の一例を示す図
【図20】コンピュータの構成を示すブロック図
【図21】第2実施形態の画像処理プログラムAの動作を表すフローチャート
【発明を実施するための形態】
【0019】
(第1実施形態)
以下、図面に基づいて本発明の実施の形態を詳細に説明する。
【0020】
図1は、第1実施形態の電子カメラ1の構成を示すブロック図である。図1に示す通り電子カメラ1には、撮影レンズ10と、レンズ駆動部11と、絞り12と、絞り駆動部13と、撮像素子14と、タイミングジェネレータ(TG)15と、アナログフロントエンド部(以下、「AFE」という。)16と、画像信号処理部17と、RAM(Random Access Memory)18と、ROM(Read Only Memory)19と、表示制御部20と、表示装置21と、操作部22と、CPU(Central Processing Unit)23と、記録インターフェース(記録I/F)24と、バス25と、記録媒体26と、通信インターフェース(通信I/F)27とが備えられている。図1において、画像信号処理部17、RAM18、ROM19、表示制御部20、CPU23、記録インターフェース(記録I/F)24および通信インターフェース(通信I/F)27は、バス25を介して互いに接続されている。また、操作部22はCPU23に接続されている。
【0021】
撮影レンズ10は、ズームレンズと、フォーカスレンズとを含む複数のレンズ群で構成されている。なお、簡単のため、図1では、撮影レンズ10を1枚のレンズとして図示する。撮影レンズ10を構成する各々のレンズは、レンズ駆動部11によって光軸方向に移動する。なお、レンズ駆動部11の入出力はCPU23と接続されている。
【0022】
絞り12は、撮影レンズ10からの入射光量を調整する。絞り12の開口量は、絞り駆動部13によって調整される。なお、絞り駆動部13の入出力はCPU23と接続されている。
【0023】
撮像素子14は、撮影レンズ10からの入射光を光電変換することにより、画像データを生成する。
【0024】
また、タイミングジェネレータ(TG)15は、CPU23からの指示に従い撮像素子14およびAFE16の各々へ向けて駆動信号を送出し、それによって両者の駆動タイミングを制御する。
【0025】
AFE16は、撮像素子14が生成する画像データに対して信号処理を施すアナログフロントエンド回路である。このAFE16は、画像データのゲイン調整や、画像信号のA/D変換などを行う。このAFE16が出力する画像データは、画像信号処理部17へ入力される。
【0026】
画像信号処理部17は、AFE16が出力する画像データをRAM18内に設けられたフレームメモリに一時的に記憶させる。
【0027】
また、画像信号処理部17は、フレームメモリに記憶されている画像データに対してホワイトバランス補正処理などの補正処理を行う。
【0028】
記録インターフェース(記録I/F)24には、記録媒体26を接続するためのコネクタが形成されている。記録インターフェース(記録I/F)24はCPU23からの指示により、そのコネクタに接続された記録媒体26にアクセスして画像の記録処理を行う。
【0029】
通信インターフェース(通信I/F)27は、例えば、無線通信でデータのやりとりをする無線LAN(Local Area Network)を実現させるための通信インターフェースである。
【0030】
表示装置21は、液晶表示モニタ21aを有する。液晶表示モニタ21aは、本発明の表示部の一例に相当する。さらに、表示装置21は、ユーザ入力を液晶表示モニタ21aの表示画面上で行うタッチパネル21bを備える。
【0031】
タッチパネル21bは、液晶表示モニタ21a上に設けられ、例えば、公知の抵抗膜方式(感圧式)を採用している。これにより、ユーザがタッチパネル21bの表面を指で押圧することによって電子カメラ1を操作することができる。
【0032】
表示制御部20は、液晶表示モニタ21aの表示態様を制御する。また、表示制御部20は、後述する顔検出部23aが顔を検出した場合、顔の領域を示す顔検出枠を画像に重畳表示させる。
【0033】
また、表示制御部20は、顔検出部23aが顔を検出したにも拘わらず、後述する顔認識部23bが、特徴点を抽出できなかった場合、顔検出枠の表示態様を変更する。
【0034】
操作部22は、電子カメラ1のレリーズボタンや電源ボタンの操作を受け付けてCPU23に処理の命令を出す。
【0035】
図2は、CPU23の構成を示すブロック図である。CPU23は、電子カメラ1の制御を行うプロセッサである。CPU23は、ROM19に予め格納されたシーケンスプログラムを実行することにより、各処理のパラメータを算出したり、電子カメラ1の各部を制御したりする。また、本実施形態のCPU23は、顔検出部23aと、顔認識部23bと、第1識別情報付加部23cと、顔分類処理部23d、検索部23e、画像提示部23f、選択条件提示部23g、選択条件受付部23h、第2識別情報付加部23iと、識別情報可否部23k、一括画像処理部23l、通信処理部23mとしても機能する。
【0036】
顔検出部23aは、液晶表示モニタ21aに表示されたスルー画像や撮影画像から顔を検出する。顔認識部23bは、検出した顔に基づいて顔の器官を構成する特徴点(特徴量)を抽出する。顔検出部23aおよび顔認識部23bは、公知の技術によって行われる。この場合、顔認識部23bは、公知の特徴点抽出処理によって顔の特徴点を抽出する。特徴点としては、例えば、眉、目、鼻、唇、顔の輪郭などが挙げられる。なお、特徴点抽出処理では、例えば、顔の色彩や明度の分散、強度分布などを特徴量として検出することもできる。
【0037】
第1識別情報付加部23cは、特徴点に基づいて、顔を識別する識別情報を画像データに付加する。ここでは、画像ファイル(画像データ)として、Exif(Exchangeable Image File Format)形式を採用する。
【0038】
図3は、Exifの画像ファイルを模式的に表した図である。第1実施形態では、画像ファイルは、Exif(Exchangeable image file)のファイルフォーマットに準拠している。このExifは、電子カメラの代表的なファイルフォーマットである。Exifには、TIFFファイル(Tagged Image File Format)形式の非圧縮画像ファイルとJPEG(Joint Photographic Experts Group)ファイル形式の圧縮画像ファイルとの2種類のフォーマットが規定されている。図3では、従来から公知のTIFFファイルの構造を表している。
【0039】
TIFFファイルは、TIFFヘッダで始まる階層的な構造となっている。TIFFファイルでは、TIFFヘッダに続いてイメージファイルディレクトリ(IFD:Image File Directory)が配置されている。また、画像データは、ストリップやタイルと呼ばれるブロック状に分割されて記録される。そして、「Value of IFD領域」には、分割された各画像データに対応するポインタ値がストリップやタイルの数だけ格納されている。
【0040】
IFD領域には、データブロック(IFD Entry)が複数含まれている。ここで、「IFDEntry」の先頭2バイトは、個々の付加情報を表す識別番号が配置されている。そして、この識別番号は、具体的な付加情報(イメージの大きさ、圧縮法の種類、解像度等)に対応付けされている。なお、Exifでは、通常のTIFFでは定義されていない付加情報が定義できる。本実施例では、識別情報を付加情報に追加する。これにより、個々の人物を識別する識別情報は、識別番号に対応付けて記録することができる。なお、識別情報としては、ユーザ入力を行うことにより、人物の名称や人物の略称に置き換えてもよい。また、識別情報は、人物の顔を識別する番号としてシーケンスに管理してもよい。
【0041】
顔分類処理部23dは、識別情報に基づいて画像データを分類する。なお、CPU23は、顔分類処理部23dが分類した画像データを格納する顔分類フォルダ(顔認証フォルダ)を、記録媒体26内に生成する。CPU23は、識別情報が付加された画像データを記録媒体26に記録する。
【0042】
検索部23eは、記録媒体26に記録されている画像データの内、識別情報が付加されていない画像データを検索する。
【0043】
画像提示部23fは、検索部23eが見つけ出した、識別情報が付加されていない画像データに基づいて、顔検出部23aが顔を検出した場合、その画像データに基づく画像を提示画像として液晶表示モニタ21aに表示させる。
【0044】
選択条件提示部23gは、提示画像に対し、顔分類処理部23dに分類されている画像データに基づく顔の人物を選択する選択条件を液晶表示モニタ21aに表示させる。また、選択条件提示部23gは、顔分類フォルダに分類されている画像データに基づいて、人物ごとの縮小画像であるサムネイル画像を選択条件として液晶表示モニタ21aに一覧表示させる。
【0045】
選択条件受付部23gは、選択条件の選択若しくは非選択の命令をユーザ入力により受け付ける。
【0046】
第2識別情報付加部23iは、選択条件受付部23gが受け付けた選択条件に対応する識別情報を、提示画像の画像データに付加する。また、第2識別情報付加部23iは、ユーザによるタッチパネルの操作に応じて、顔検出枠に表示されている顔と、その顔と同一人物のサムネイル画像との関連付けを行うことにより、同一人物の識別情報を、提示画像の画像データに付加する。
【0047】
識別情報可否受付部23jは、選択条件受付部23hが、選択条件の非選択の命令を受け付けた場合、新たな識別情報を付加するか否かの命令をユーザ入力により受け付ける。
【0048】
新規登録部23kは、選択条件受付部23gが選択条件の非選択の命令を受け付けた場合、新たな識別情報を付加するか否かをユーザ入力により選択させ、新たな識別情報を付加する選択の場合、提示画像の画像データに、新たな識別情報を付加する。
【0049】
一括画像処理部23lは、顔分類フォルダに格納されている画像データに対して、ユーザ入力により指定された人物の画像処理を一括して行う。例えば、一括画像処理部23lは、モザイク処理、デジタルぼかし処理、トリミング処理などを行う(詳細は後述する)。なお、顔分類フォルダを設けることにより、一括画像処理が容易となる。
【0050】
通信処理部23mは、通信インターフェース(通信I/F)27を介して、例えば、外部のサーバに無線通信で画像データを送信する。
【0051】
次に、第1実施形態における電子カメラ1の動作の一例を説明する。
【0052】
図4は、電子カメラ1の撮影動作を表すフローチャートである。ここでは、まず、顔検出機能から第1識別情報付加機能までの処理について説明する。以下の説明では、顔検出機能、顔認識機能をオンにするとともに、第1識別情報付加機能もオンに設定した場合について説明する。
【0053】
ステップS101:CPU23は、タイミングジェネレータ(TG)15を介して撮像素子14を駆動させることによりスルー画像の取得を開始する。このスルー画像は、液晶表示モニタ21aに表示される。
【0054】
ステップS102:CPU23は、半押しされたか否かを判定する。半押しされた場合は(ステップS102:Yes)、ステップS103に移行する。一方、レリーズボタンが所定時間経過しても半押しされない場合は(ステップS102:No)、節電モードが機能してこの処理ルーチンは終了する。
【0055】
ステップS103:CPU23の顔検出部23aは、上述した顔検出処理を施して顔を検出する。この際、顔検出部23aは、撮像素子14で生成する画像データに基づいて色の成分や輝度値を取得する。この場合、顔検出部23aは、肌色成分の領域を特定するなどして、顔を検出する。
【0056】
ステップS104:CPU23は、ステップS103の顔検出処理で顔を検出したか否かを判定する。顔検出部23aが顔を検出できた場合には(ステップS104:Yes)、顔認識処理(ステップS105)に移行する。
【0057】
一方、顔検出部23aが顔を検出できなかった場合には(ステップS104:No)、通常の撮影モードとして、ステップS106に移行する。この場合、全押し操作がなされると(ステップS106:Yes)、本画像取得の処理(ステップS107)へ移行する。ステップS107以降の処理については、後述する。
【0058】
ステップS105:CPU23の顔認識部23bは、検出した顔に基づいて顔の器官を構成する特徴点を抽出する。例えば、顔検出枠の顔の領域に対して、目、鼻、唇、顔の輪郭等の特徴点を個別に抽出する。
【0059】
ステップS106:CPU23は、レリーズボタンが全押しされたか否かを判定する。レリーズボタンが全押しされていない場合は(ステップS106:No)、ステップS102に戻る。一方、レリーズボタンが全押しされた場合は(ステップS106:Yes)、ステップS107へ移行する。
【0060】
ステップS107:CPU23は、操作部22からの全押し操作を受けて、本画像取得のため、タイミングジェネレータ(TG)15を介して撮像素子14を駆動させる。AFE16では、画像信号のゲイン調整や画像信号のA/D変換が行われる。このAFE16が出力する画像信号は、画像信号処理部17へ入力される。画像信号処理部17は、AFE16が出力する本画像データをフレームメモリに記憶させる。画像信号処理部17は、フレームメモリに記憶されている本画像データに対してホワイトバランス補正処理などの補正処理を行う。
【0061】
ステップS108:CPU23の第1識別情報付加部23cは、顔検出された人物の識別情報を画像データに付加する。ここでは、簡単のため、第1識別情報付加部23cは、特徴点に基づいて、顔を識別する識別情報をA、B、C・・・というように顔ごとに登録する。つまり、Exifのヘッダファイルに識別情報を書き込む。特徴点は、別途情報として、Exifのヘッダファイルに識別情報を書き込む。また、識別情報に対して、人物の名前を別途、ユーザ入力してもよい。
【0062】
また、CPU23は、顔認識部23bが抽出した特徴点に基づいて、既に保存されている画像データに対して、同様の特徴点を有する人物の画像が存在するか否かについて探索する。同様の特徴点を有する人物の画像が存在した場合には、第1識別情報付加部23cは、その特徴点に対応する識別情報(例えば、A)をExifのヘッダファイルに書き込む。
【0063】
ステップS109:CPU23は、本画像データを圧縮処理し、識別情報に基づいて、記録媒体26の顔分類フォルダに保存する。
【0064】
次に、撮影時に顔認識ができなかった画像や顔認識機能を利用しなかった画像について、
識別情報を付加する第2識別情報付加機能の処理について説明する。ここでは、まず、記録媒体26に記録されている画像データを読み出し、識別情報が付加されているか否かのチェックを行う。
【0065】
図5は、識別情報の有無をチェックするフローチャートである。
【0066】
ステップS201:CPU23の検索部23eは、記録媒体26から、画像データを1つ読み出す。
【0067】
ステップS202:CPU23は、画像データを参照し、第1識別情報付加部23cが、識別情報を付加したか否かを判定する。判定結果が識別情報なしの場合(ステップS202:No)、この処理ルーチンは、ステップS203に進む。一方、判定結果が識別情報ありの場合(ステップS202:Yes)、この処理ルーチンは、ステップS204に進む。
【0068】
ステップS203:CPU23は、識別情報が付加されていない画像データをリストに登録する。
【0069】
ステップS204:CPU23は、検索部23eがすべての画像データをサーチしたか否かを判定する。
【0070】
検索部23eがすべての画像データをサーチしていない場合(ステップS204:No)、この処理ルーチンは、ステップS201に戻り、次の画像データを読み出す。
【0071】
検索部23eがすべての画像データをサーチした場合(ステップS204:Yes)、この処理ルーチンは、終了する。ステップS201からステップS204の処理がなされることにより、識別情報の付加されていない画像データがリスト化される。
【0072】
次に、第2識別情報付加部23iによる識別情報の付加処理について説明する。
【0073】
図6は、第2識別情報付加部23iによる識別情報の付加処理を説明するフローチャートである。
【0074】
ステップS301:CPU23は、図5のフローチャートの処理で作成されたリストから、画像データを1つ読み出す。
【0075】
ステップS302:CPU23の顔検出部23aは、顔検出処理を行う。
【0076】
ステップS303:顔検出ができた場合(ステップS303:Yes)、この処理ルーチンは、ステップS304に進む。顔検出ができなかった場合(ステップS303:No)、この処理ルーチンは、ステップS305に進む。
【0077】
ステップS304:CPU23は、後述する、顔登録処理のサブルーチンを開始する。
【0078】
ステップS305:CPU23は、リストの画像データをすべてサーチしたか否かを判定する。リストの画像データをすべてサーチしていない場合(ステップS303:No)、この処理ルーチンは、ステップS301に戻る。一方、リストの画像データをすべてサーチした場合(ステップS303:Yes)、この処理ルーチンは、終了する。
【0079】
次に、顔登録処理のサブルーチンについて説明する。
【0080】
図7は、図6に示す顔登録処理のサブルーチンである。図8、図9は、顔登録処理を説明する図である。
【0081】
ステップS401:CPU23の画像提示部23fは、図6のステップS303で顔検出部23aが顔を検出した場合、その画像データに基づく画像を提示画像として液晶表示モニタ21aに表示させる。
【0082】
ステップS402:CPU23は、表示制御部20に指示を出し、表示制御部20は、顔検出枠Wを表示する。図8(a)に示すように、液晶表示モニタ21aには人物に対して、顔検出枠Wが表示される。この画像の画像ファイル名を、説明の便宜上、ここでは「001」とする。
【0083】
ステップS403:CPU23の選択条件提示部23gは、提示画像に対し、顔分類処理部23dに分類されている画像データに基づく顔の人物を選択する選択条件を液晶表示モニタ21aに表示させる。一例として、「001の人物は、登録人物A、B、Cの何れかに該当しますか?」のメッセージを液晶表示モニタ21aに表示する(図8(b))。なお、説明の便宜上、A、B、Cは、登録人物の名前が表示されているものとする。すなわち、予め、ユーザ入力により、識別情報ごとに登録人物名が対応付けられているものとする。
【0084】
ステップS404:CPU23の選択条件受付部23gは、選択条件の選択(A、B、Cの何れか:該当あり)若しくは非選択(該当なし)を、タッチパネル21bを受け付ける。ユーザ入力の命令が、「該当あり」の場合(ステップS404:Yes)、このサブルーチンは、ステップS405に進む。
【0085】
ステップS405:選択条件提示部23gは、顔分類フォルダに分類されている画像データに基づいて、図9(a)に示す通り、人物ごとの縮小画像であるサムネイル画像を選択条件として液晶表示モニタ21aに一覧表示させる。そして、選択条件提示部23gは、一例として、「関連付けを行います、登録人物の何れかを選択して下さい。」のメッセージを液晶表示モニタ21aに表示させる(図9(b))。
【0086】
ステップS406:CPU23は、タッチパネル21bを介して、サムネイル画像の選択(例えば、登録人物Aのサムネイル画像を選択)を受け付ける。
【0087】
ステップS407:CPU23の第2識別情報付加部23iは、選択条件受付部23gが選択条件の選択の命令を受け付けた場合、その選択条件に対応する識別情報を、提示画像の画像データに付加する。つまり、第2識別情報付加部23iは、顔検出枠Wに表示されている顔と、その顔と同一人物Aのサムネイル画像との関連付けを行う。具体的には、サムネイル画像に表示されている登録人物Aの識別情報を、顔検出枠に表示されている同一人物Aの画像データに付加する。こうすることにより、ユーザは、タッチパネル21b上で容易にユーザ入力することができる。さらに、サムネイル画像を選択することで、撮影時に顔識別ができなかった画像や顔識別機能を利用しなかった画像についても識別情報を付加することができる。なお、図9(b)に示したサムネイル画像の表示態様は、一例であって、この表示態様に限定されるものではない。また、タッチパネルの操作に応じて、サムネイル画像を順次表示させてもよい。
【0088】
ステップS408:顔分類処理部23fは、登録人物Aの識別情報に基づいて画像データを分類する。そして、CPU23は、登録人物Aの顔分類フォルダに、画像データを保存する。そして、このサブルーチンは終了し、図7のステップS305に戻る。
【0089】
次に、ステップS405の処理において、ユーザ入力の命令が、「該当なし」の場合(ステップS405:No)について、その後の処理を説明する。
【0090】
図10、図11は、新規登録する場合の顔登録処理を説明する図である。
【0091】
ステップS403の処理において、図10(a)に示す通り、表示制御部20は、一例として、「002の人物は、登録人物A、B、Cの何れかに該当しますか?」のメッセージを液晶表示モニタ21aに表示する。ユーザ入力の命令が、「該当なし」の場合(ステップS404:No)、このサブルーチンは、ステップS409に進む。
【0092】
なお、表示制御部20は、顔検出部23aが顔を検出したにも拘わらず、顔認識部23bが、特徴点を抽出できなかった場合、顔検出枠Wの表示態様を変更してもよい。表示制御部20は、例えば、顔検出枠Wの色を緑色から赤色に変更する。これにより、ユーザは、002の人物が、登録されていない人物であることを知ることができる。
【0093】
ステップS409:選択条件提示部23gは、図10(b)に示す通り、一例として、「新規登録しますか?」のメッセージを液晶表示モニタ21aに表示させる。なお、新規登録の場合、第1識別情報付加部23cが付加した同一人物の識別情報が存在しないことを意味する。ユーザ入力の命令が、「新規登録」の場合(ステップS409:Yes)、このサブルーチンは、ステップS407に進む。
【0094】
ステップS407:新規登録部23kは、タッチパネル21bを介してユーザ入力により、新たな識別情報を画像データに付加する。これにより、例えば、撮影時に顔検出しなかった画像であって、識別情報が存在しない場合であっても、識別情報を付加することができる。
【0095】
ステップS408:顔分類処理部23fは、人物Dの識別情報に基づいて画像データを分類する。この場合、顔分類処理部23fは、人物Dの顔分類フォルダを新規に生成する。CPU23は、その顔分類フォルダ内に画像データを保存する。そして、このサブルーチンは終了し、図7のステップS305に戻る。
【0096】
一方、ステップS409にて、ユーザ入力の命令が、「新規登録せず」の場合(ステップS409:No)、このサブルーチンは終了し、図6のステップS305に戻る。
【0097】
なお、人物Dが新規に登録されると、ステップS405の処理において、選択条件提示部23gは、サムネイル画像を一覧表示する際、新規に作成された顔分類フォルダの人物Dのサムネイル画像を一覧表示に追加して表示させる(図11)。これにより、選択条件提示部23gは、最新のサムネイル画像の一覧表示を液晶表示モニタ21aに表示させることができる。
【0098】
以上より、第2識別情報付加部23iによる識別情報の付加処理がなされる。なお、複数の人物が撮影されている画像の取り扱いについて、以下説明する。
【0099】
図12は、複数の人物の顔登録処理を説明する図である。図12(a)は、3人の人物A、B、Cが撮影されている画像である。顔検出枠Wが表示されている。なお、撮影時には、顔識別機能を利用しなかった画像とする。この状態で、一例として、図7のステップS405で登録人物のサムネイル画像表示を行うと、図12(b)のように表示される。
ユーザ入力により、人物A、B、Cが個別に選択されると、003の画像が、登録人物A、B、Cの顔分類フォルダに保存される。なお、記憶容量を考慮して、所謂、仮想フォルダ形式で、1つの画像を3つのフォルダに登録されているように見せる保存形式を採用してもよい。
【0100】
また、人物A、B、Cが、一例として、兄弟であった場合、新たに兄弟単位で保存するように、兄弟フォルダや家族フォルダなどの複数人物単位のフォルダを生成して保存してもよい。
【0101】
また、人物A、B、Cの内、一例として、人物A、Bは、顔分類フォルダが作成されており、人物Cのみが顔分類フォルダが作成されていない場合、タッチパネル21bからのユーザ入力により、人物A、Bについては、画像を各々の顔分類フォルダに保存し、人物Cについては、新規に人物Cの顔分類フォルダを作成して、保存するようにしてもよい。
【0102】
次に、一括画像処理部23lおよび通信処理部23mの処理について説明する。
【0103】
図13は、電子カメラ1における画像データの一括画像処理を表すフローチャートである。ここでは、同一の識別情報が付加された画像データに対して、モザイク処理を一括して行う処理と、モザイク処理が施された画像データに対して、外部の画像保管用のサーバに画像をアップロードする処理についてまず説明する。
【0104】
図13に示すフローチャートは、ユーザが人物別再生画面のモードを選択すると開始する。この人物別再生画面のモードを選択することにより、画像データの一括画像処理や画像データのアップロードを行うことができる。
【0105】
ステップS501:CPU23は、ユーザが人物別再生画面の命令を受け付けると、表示制御部20を介して、液晶表示モニタ21aに人物別再生画面のモードのメニュー表示をさせる。
【0106】
図14は、人物別再生画面のモードの一例を説明する図である。図14(a)に示すように、液晶表示モニタ21aには、人物別再生画面のモードのメニュー表示がなされる。
【0107】
ステップS502:CPU23は、ユーザ入力により、人物Aの顔分類フォルダaを選択した旨の命令を受け付けると、記録媒体26の顔分類フォルダaから、登録人物Aが写っている画像を読み出す。CPU23は、登録人物Aが写っている画像のサムネイル画像を生成する。
【0108】
ステップS503:CPU23は、表示制御部20を介して、登録人物Aが写っているサムネイル画像を液晶表示モニタ21aに表示させる。図15(b)は、登録人物Aが写っているサムネイル画像の一例を示す。
【0109】
ステップS504:CPU23は、ユーザ入力により、画像処理選択の命令を受け付けると、表示制御部20を介して、画像処理選択のメニューを液晶表示モニタ21aに表示させる。例えば、ユーザ入力により一括モザイクが選択されると、さらに、一括モザイクの具体的な処理内容がメニュー表示される。ここで、ユーザ入力により、(1)登録人物Aについてモザイク処理を行うケース、(2)登録人物A以外についてモザイク処理を行うケースの2通りを選択することができる。なお、これは一例であって、例えば、画像に写っている登録人物すべてであってもよい。さらに、ユーザ入力により、モザイク処理のレベルを設定することができる。例えば、不図示のバー表示によって、レベル設定を行うようにしてもよい。なお、このモザイク処理は公知の技術によって行われる。
【0110】
ステップS505:CPU23は、ユーザ入力により一括モザイクの実行の命令を受け付けると、CPU23の一括画像処理部23lは、選択された顔の領域のモザイク処理を行う。このようにして、一括画像処理部23lは、撮影時に顔識別ができなかった画像や顔識別機能を利用しなかった画像についても一括して画像処理することができる。
【0111】
図15は、モザイク処理の一例を説明する図である。図15(a)は、登録人物Aについてモザイク処理を行った場合の一例を表している。図15(b)は、登録人物A以外についてモザイク処理を行った場合の一例を表している。
【0112】
ステップS506:CPU23は、表示制御部20を介して、モザイク処理を行った後の画像を液晶表示モニタ21aにサムネイル表示させる。
【0113】
図16は、モザイク処理後のサムネイル表示の一例を説明する図である。ここでは、簡単のため、モザイク処理後の画像2枚をサムネイル画像として表示している。ここで、一覧表示されたサムネイル画像について、ユーザ入力によりアップロードしたい画像を選択することができる。すべてのサムネイル画像の元画像をアップロードしてもよい。
【0114】
ステップS507:CPU23は、ユーザ入力により、サムネイル画像の選択の命令を受け付けると、表示制御部20を介して、一括アップロードのメニュー画面を液晶表示モニタ21aに表示させる。ここで、CPU23は、ユーザ入力により、一括アップロードの選択の命令を受け付けると、この処理ルーチンは、ステップS508に移行する。
【0115】
ステップS508:CPU23は、一括アップロードを開始する。
【0116】
図17は、一括アップロードの概念図である。CPU23の通信処理部23mは、通信インターフェース(通信I/F)27を介して、まず、無線通信で外部の無線LANアクセスポイント100に画像データを送信する。続いて、無線LANアクセスポイント100では、インターネットを介して画像管理サーバ200に画像データを一括アップロードする。
【0117】
そして、CPU23の通信処理部23mは、アップロード完了の命令を受信することにより、この処理ルーチンは終了する。
【0118】
次に、一括デジタルぼかし処理について説明する。ステップS504にて、一括デジタルぼかし処理が選択されると、ステップS509に進み、一括画像処理部23lは、選択された顔の領域の一括デジタルぼかし処理を行う。
【0119】
図18は、一括デジタルぼかし処理の一例を示す図である。デジタルぼかし処理については公知の技術により行われる。図18(a)は、登録人物A以外の人物にデジタルぼかし処理を施した場合の一例の図である。図18(b)は、登録人物Aにデジタルぼかし処理を施した場合の一例の図である。このようにして、CPU23の一括画像処理部23lは、選択された人物に対して顔の領域のデジタルぼかし処理を一括で行う。この後の処理は、一括モザイク処理と同様であるので説明を省略する。なお、デジタルぼかし処理としては、ポートレートモードのように背景をぼかす処理を一括で行うようにしてもよい。
【0120】
次に、一括トリミング処理について説明する。ステップS504にて、一括トリミング処理が選択されると、ステップS510に進み、CPU23の一括画像処理部23lは、選択された顔の領域の一括トリミング処理を行う。
【0121】
図19は、一括トリミング処理の一例を示す図である。図19(a)は、トリミングしたい顔を選択した図を表しており、顔検出枠Wが表示されている。ここでは、登録人物Aが選択されている。CPU23の一括画像処理部23lは、選択された登録人物Aについて、公知のトリミング処理により、例えば、図19(b)に示す画像を生成することができる。
【0122】
ここで、CPU23の一括画像処理部23lは、顔分類フォルダに登録されている登録人物Aの画像データに対して、順次、トリミング処理を一括で行う。この後の処理は、一括モザイク処理と同様であるので説明を省略する。
【0123】
以上、本実施形態の電子カメラ1によれば、撮影時に顔識別ができなかった画像や顔識別機能を利用しなかった画像についても分類付けが容易にできる。例えば、被写体の顔が下向き、斜め向きなど正面を向いていない場合、顔識別機能では顔識別されにくい。しかしながら、本実施形態の電子カメラ1では、顔識別されにくい画像に対しても、分類付けができる。さらに、撮影した画像に対して手間が掛からずに一括で画像処理をすることができる。
【0124】
なお、本実施形態では、一括画像処理された画像データを無線通信により、外部の画像管理サーバ200にアップロードしたが、無線通信に限られず、有線LANを用いた有線通信を行ってもよい。また、電子カメラ1からUSBケーブルを外部のパーソナルコンピュータに接続して、一括画像処理された画像データを転送してもよい。
【0125】
また、本実施形態では、一括処理された画像データを外部の画像管理サーバ200にアップロードしたが、例えば、電子カメラ1側から外部のプリンタに対して、無線通信などにより、一括プリント指定を行ってもよい。
【0126】
本実施形態ではExifファイル形式を用いた。これにより汎用性が得られるが、他の形式のファイルに適用してもよい。
(第2実施形態)
次に、本発明の第2実施形態について説明する。第2実施形態では、図20に示すコンピュータ3に電子カメラ1で記録された画像データを読み出し、撮影時に顔識別ができなかった画像や顔識別機能を利用しなかった画像の画像データに対して識別情報の付加を行う。これらの処理に、本発明の一実施形態である画像処理プログラムを用いる。
【0127】
以下、具体的に説明する。図20は、コンピュータの構成を示すブロック図である。図20に示すコンピュータ3には、コンピュータ用CPU30と、メモリ31と、通信インターフェース(I/F)32と、キーボード33と、表示モニタ34とが備えられている。メモリ31には、本発明の一実施形態である画像処理プログラムも格納されている。
第2実施形態では、図21の点線枠内に示す画像処理プログラムAがコンピュータ用CPU30に組み込まれる。すなわち、コンピュータ用CPU30は、本発明の一実施形態である画像処理プログラムAが組み込まれることによって、画像データ読出部30aと、顔分類処理部30bと、検索部30cと、顔検出部30dと、画像提示部30eと、選択条件提示部30fと、選択条件受付部30gと、識別情報付加部30hとが構築される。
【0128】
画像データ読出部30aは、電子カメラで記録された画像データを読み出す。顔分類処理部30bは、顔の特徴を表す特徴点に基づいて顔を識別する識別情報に基づいて画像データを分類する。検索部30cは、画像データ読出部30aで読み出した画像データの内、識別情報が付加されていない画像データを検索する。顔検出部30dは、検索部30aで見つけ出された、識別情報が付加されていない画像データに基づいて、顔を検出する。画像提示部30eは、顔検出部30dで顔を検出した場合、その画像データに基づく画像を提示画像として表示モニタ34に表示させる。選択条件提示部30fは、提示画像に対し、顔分類処理部30bで分類されている画像データに基づく顔の人物を選択する選択条件を表示モニタ34に表示させる。選択条件受付部30gは、選択条件の選択若しくは非選択の命令をユーザ入力により受け付ける。識別情報付加部30hは、選択条件受付部30gが受け付けた選択条件に対応する識別情報を、提示画像の画像データに付加する。
【0129】
次に、本発明の一実施形態である画像処理プログラムAの動作について説明する。ここでは、電子カメラ1で記録された画像は、予め、通信インターフェース(I/F)32を介してメモリ31に記憶されているものとする。
【0130】
図21は、第2実施形態の画像処理プログラムAの動作を表すフローチャートである。このフローチャートは、図20に示すキーボード33から画像処理プログラムAの起動を受け付けると開始する。また、電子カメラで記録された画像データは、予め、通信I/F32を介して、メモリ31に記録されているものとする。
【0131】
ステップS601:画像データ読出部30aは、電子カメラで記録された画像データをメモリ31から読み出す。ステップS601が、画像データ読出ステップの一例に相当する。
【0132】
ステップS602:顔分類処理部30bは、顔の特徴を表す特徴点に基づいて顔を識別する識別情報に基づいて画像データを分類する。顔分類処理部30bは、メモリ31内に識別情報ごとに顔分類フォルダを生成し、識別情報が付加されている画像データを保存する。ステップS602が、顔分類処理ステップの一例に相当する。
【0133】
ステップS603:CPU30は、識別情報の有無をチェックするサブルーチンを実行する。このサブルーチンは、図5に示した識別情報の有無をチェックするフローチャートと同様の処理を行う。ステップS603が、検索ステップの一例に相当する。
【0134】
ステップS604:CPU30は、識別情報の付加のサブルーチンを実行する。このサブルーチンは、図6に示した第2識別情報付加部23iによる識別情報の付加処理を説明するフローチャートと同様の処理を行う。なお、第2識別情報付加部23iの処理が、プログラムAでは、識別情報付加部30hが担っている。また、CPU30は、図7に示した顔登録処理のサブルーチン同様の処理を行う。この際、CPU30は、上述した新規登録の処理を加えてもよい。
【0135】
以上のステップを経て、この処理ルーチンは終了する。その後、フローチャートには示していないが、CPU30は、第1実施形態で説明した一括画像処理と同様の処理を行う。なお、図6のステップS302が、顔検出ステップの一例に相当する。図7のステップS401が、画像提示ステップの一例に相当する。図7のステップS403が、選択条件提示ステップの一例に相当する。図7のステップS404〜S406が、選択条件受付ステップの一例に相当する。図7のステップS407が、識別情報付加ステップの一例に相当する。
【0136】
その後、ユーザ入力により、例えば、外部のブログ用サーバ300に、モザイク処理された画像データがアップロードされる。
【0137】
以上、本実施形態の画像処理プログラムAによれば、撮影時に顔識別ができなかった画像や顔識別機能を利用しなかった画像についても分類付けが容易にできる。さらに、撮影した画像に対して手間が掛からずに一括で画像処理をすることができる。
<実施形態の補足事項>
本実施形態では、所定の一括画像処理として、モザイク処理と、デジタルぼかし処理と、トリミング処理とを取り上げたが、これらは一例であって、3つの処理に限定されるものではない。例えば、赤目を補正する赤目画像処理であってもよい。また、複数の画像処理を組み合わせて行ってもよい。
【符号の説明】
【0138】
1・・・電子カメラ、3・・・コンピュータ、23a、30c・・・顔検出部、23b・・・顔認識部、23c・・・第1識別情報付加部、23d、30b・・・顔分類処理部、23e、30c・・・検索部、23f、30e・・・画像提示部、23g、30f・・・選択条件提示部、23h、30g・・・選択条件受付部、23i・・・第2識別情報付加部、23j・・・識別情報可否受付部、23k・・・新規登録部、23l・・・一括画像処理部、23m・・・通信処理部、30a・・・画像データ読出部、30h・・・識別情報処理部
【先行技術文献】
【特許文献】
【0139】
【特許文献1】特開2007−281760号公報
【特許文献2】特開2007−88993号公報
【技術分野】
【0001】
本発明は、電子カメラおよび画像処理プログラムに関する。
【背景技術】
【0002】
従来より、撮影画像から人物の顔の特徴点を抽出し、顔識別を行う顔識別機能を搭載した電子カメラが開示されている(例えば、特許文献1参照)。
【0003】
また、電子カメラで撮影した画像ファイルを読み出し、人物の顔領域を検出して顔認証を行い、個々の人物を識別し、識別結果に基づいて画像を補正する画像補正装置が開示されている(例えば、特許文献2参照)。
【発明の概要】
【発明が解決しようとする課題】
【0004】
ところで、顔が写っている画像を人物ごとに分類した上で、特定の人物の画像に対して、まとめて画像処理したい場合がある。しかしながら、上記特許文献1の電子カメラや上記特許文献2の画像補正装置では、顔の領域を検出できたにも拘わらず、顔識別ができなかった場合の取り扱いが問題となる。
【0005】
また、ユーザが画像を見れば顔識別できる場合であっても、電子カメラを用いて顔識別ができなかった画像や、他の撮影モードを優先して撮影し、顔が写っているにも拘わらず顔識別機能を利用しなかった画像の取り扱いについても問題となる。
【0006】
そこで、本発明は、上記事情に鑑み、撮影時に顔識別ができなかった画像や顔識別機能を利用しなかった画像についても分類付けが容易にできる電子カメラを提供することを目的とする。
【課題を解決するための手段】
【0007】
第1の発明に係る電子カメラは、撮像素子と、記録部と、表示部と、顔検出部と、顔認識部と、第1識別情報付加部と、顔分類処理部と、検索部と、画像提示部と、画像提示部と、選択条件提示部と、選択条件受付部と、を備える。撮像素子は、被写体像を光電変換して画像データを生成する。記録部は、画像データを記録する。表示部は、画像データに基づく画像を表示する。顔検出部は、画像データに基づいて顔を検出する。顔認識部は、顔から顔の特徴を表す特徴点を抽出する。第1識別情報付加部は、特徴点に基づいて、顔を識別する識別情報を画像データに付加する。顔分類処理部は、識別情報に基づいて画像データを分類する。検索部は、記録部に記録されている画像データの内、識別情報が付加されていない画像データを検索する。画像提示部は、検索部が見つけ出した、識別情報が付加されていない画像データに基づいて、顔検出部が顔を検出した場合、その画像データに基づく画像を提示画像として表示部に表示させる。選択条件提示部は、提示画像に対し、顔分類処理部に分類されている画像データに基づく顔の人物を選択する選択条件を表示部に表示させる。選択条件受付部は、選択条件の選択若しくは非選択の命令をユーザ入力により受け付ける。第2識別情報付加部は、選択条件受付部が受け付けた選択条件に対応する識別情報を、提示画像の画像データに付加する。
【0008】
第2の発明は、第1の発明において、選択条件受付部が、選択条件の非選択の命令を受け付けた場合、新たな識別情報を付加するか否かの命令をユーザ入力により受け付ける識別情報可否受付部と、識別情報可否受付部が、新たな識別情報を付加する命令を受け付けた場合、提示画像の画像データに、新たな識別情報を付加する新規登録部と、をさらに備える。
【0009】
第3の発明は、第1又は第2の発明において、記録部は、顔分類処理部が分類した前記画像データを格納する顔分類フォルダを備える。
【0010】
第4の発明は、第3の発明において、顔分類フォルダに格納されている画像データに対して、ユーザ入力により指定された人物の画像処理を一括して行う一括画像処理部をさらに備える。
【0011】
第5の発明は、第3の発明において、表示部は、ユーザ入力を表示部の表示画面上で行うタッチパネルをさらに備える。
【0012】
第6の発明は、第5の発明において、表示部の表示態様を制御する表示制御部をさらに備える。表示制御部は、顔検出部が顔を検出した場合、顔の領域を示す顔検出枠を提示画像に重畳表示させる。選択条件提示部は、顔分類フォルダに分類されている画像データに基づいて、人物ごとの縮小画像であるサムネイル画像を選択条件として表示部に一覧表示させる。第2識別情報付加部は、ユーザによるタッチパネルの操作に応じて、顔検出枠に表示されている顔と、その顔と同一人物のサムネイル画像との関連付けを行うことにより、同一人物の識別情報を、提示画像の画像データに付加する。
【0013】
第7の発明は、第6の発明において、表示制御部は、顔検出部が顔を検出したにも拘わらず、顔認識部が、前記特徴点を抽出できなかった場合、顔検出枠の表示態様を変更する。
【0014】
第8の発明は、第6の発明において、選択条件提示部は、サムネイル画像を一覧表示させる際、新規に作成された顔分類フォルダの人物を示すサムネイル画像を追加して表示させる。
【0015】
第9の発明に係る画像処理プログラムは、コンピュータに画像処理を実行させる画像処理プログラムであって、画像データ読出ステップと、顔分類処理ステップと、検索ステップと、顔検出ステップと、画像提示ステップと、選択条件提示ステップと、選択条件受付ステップと、識別情報付加ステップと、を備える。
【0016】
画像データ読出ステップは、電子カメラで記録された画像データを読み出す。顔分類処理ステップは、顔の特徴を表す特徴点に基づいて顔を識別する識別情報に基づいて画像データを分類する。検索ステップは、画像データ読出ステップで読み出した画像データの内、識別情報が付加されていない画像データを検索する。顔検出ステップは、検索ステップで見つけ出された、識別情報が付加されていない画像データに基づいて、顔を検出する。画像提示ステップは、顔検出ステップで顔を検出した場合、その画像データに基づく画像を提示画像として表示部に表示させる。選択条件提示ステップは、提示画像に対し、顔分類処理ステップで分類されている画像データに基づく顔の人物を選択する選択条件を表示部に表示させる。選択条件受付ステップは、選択条件の選択若しくは非選択の命令をユーザ入力により受け付ける。識別情報付加ステップは、選択条件受付ステップにて受け付けた選択条件に対応する識別情報を、提示画像の画像データに付加する。
【発明の効果】
【0017】
本発明の電子カメラによれば、撮影時に顔識別ができなかった画像や顔識別機能を利用しなかった画像についても分類付けが容易にできる。
【図面の簡単な説明】
【0018】
【図1】第1実施形態の電子カメラ1の構成を示すブロック図
【図2】CPU23の構成を示すブロック図
【図3】Exifの画像ファイルを模式的に表した図
【図4】電子カメラ1の撮影動作を表すフローチャート
【図5】識別情報の有無をチェックするフローチャート
【図6】第2識別情報付加部23iによる識別情報の付加処理を説明するフローチャート
【図7】図6に示す顔登録処理のサブルーチン
【図8】顔登録処理を説明する図
【図9】顔登録処理を説明する図
【図10】新規登録する場合の顔登録処理を説明する図
【図11】新規登録する場合の顔登録処理を説明する図
【図12】複数人物の顔登録処理を説明する図
【図13】電子カメラ1における画像データの一括画像処理を表すフローチャート
【図14】人物別再生画面のモードの一例を説明する図
【図15】モザイク処理の一例を説明する図
【図16】モザイク処理後のサムネイル表示の一例を説明する図
【図17】一括アップロードの概念図
【図18】一括デジタルぼかし処理の一例を示す図
【図19】一括トリミング処理の一例を示す図
【図20】コンピュータの構成を示すブロック図
【図21】第2実施形態の画像処理プログラムAの動作を表すフローチャート
【発明を実施するための形態】
【0019】
(第1実施形態)
以下、図面に基づいて本発明の実施の形態を詳細に説明する。
【0020】
図1は、第1実施形態の電子カメラ1の構成を示すブロック図である。図1に示す通り電子カメラ1には、撮影レンズ10と、レンズ駆動部11と、絞り12と、絞り駆動部13と、撮像素子14と、タイミングジェネレータ(TG)15と、アナログフロントエンド部(以下、「AFE」という。)16と、画像信号処理部17と、RAM(Random Access Memory)18と、ROM(Read Only Memory)19と、表示制御部20と、表示装置21と、操作部22と、CPU(Central Processing Unit)23と、記録インターフェース(記録I/F)24と、バス25と、記録媒体26と、通信インターフェース(通信I/F)27とが備えられている。図1において、画像信号処理部17、RAM18、ROM19、表示制御部20、CPU23、記録インターフェース(記録I/F)24および通信インターフェース(通信I/F)27は、バス25を介して互いに接続されている。また、操作部22はCPU23に接続されている。
【0021】
撮影レンズ10は、ズームレンズと、フォーカスレンズとを含む複数のレンズ群で構成されている。なお、簡単のため、図1では、撮影レンズ10を1枚のレンズとして図示する。撮影レンズ10を構成する各々のレンズは、レンズ駆動部11によって光軸方向に移動する。なお、レンズ駆動部11の入出力はCPU23と接続されている。
【0022】
絞り12は、撮影レンズ10からの入射光量を調整する。絞り12の開口量は、絞り駆動部13によって調整される。なお、絞り駆動部13の入出力はCPU23と接続されている。
【0023】
撮像素子14は、撮影レンズ10からの入射光を光電変換することにより、画像データを生成する。
【0024】
また、タイミングジェネレータ(TG)15は、CPU23からの指示に従い撮像素子14およびAFE16の各々へ向けて駆動信号を送出し、それによって両者の駆動タイミングを制御する。
【0025】
AFE16は、撮像素子14が生成する画像データに対して信号処理を施すアナログフロントエンド回路である。このAFE16は、画像データのゲイン調整や、画像信号のA/D変換などを行う。このAFE16が出力する画像データは、画像信号処理部17へ入力される。
【0026】
画像信号処理部17は、AFE16が出力する画像データをRAM18内に設けられたフレームメモリに一時的に記憶させる。
【0027】
また、画像信号処理部17は、フレームメモリに記憶されている画像データに対してホワイトバランス補正処理などの補正処理を行う。
【0028】
記録インターフェース(記録I/F)24には、記録媒体26を接続するためのコネクタが形成されている。記録インターフェース(記録I/F)24はCPU23からの指示により、そのコネクタに接続された記録媒体26にアクセスして画像の記録処理を行う。
【0029】
通信インターフェース(通信I/F)27は、例えば、無線通信でデータのやりとりをする無線LAN(Local Area Network)を実現させるための通信インターフェースである。
【0030】
表示装置21は、液晶表示モニタ21aを有する。液晶表示モニタ21aは、本発明の表示部の一例に相当する。さらに、表示装置21は、ユーザ入力を液晶表示モニタ21aの表示画面上で行うタッチパネル21bを備える。
【0031】
タッチパネル21bは、液晶表示モニタ21a上に設けられ、例えば、公知の抵抗膜方式(感圧式)を採用している。これにより、ユーザがタッチパネル21bの表面を指で押圧することによって電子カメラ1を操作することができる。
【0032】
表示制御部20は、液晶表示モニタ21aの表示態様を制御する。また、表示制御部20は、後述する顔検出部23aが顔を検出した場合、顔の領域を示す顔検出枠を画像に重畳表示させる。
【0033】
また、表示制御部20は、顔検出部23aが顔を検出したにも拘わらず、後述する顔認識部23bが、特徴点を抽出できなかった場合、顔検出枠の表示態様を変更する。
【0034】
操作部22は、電子カメラ1のレリーズボタンや電源ボタンの操作を受け付けてCPU23に処理の命令を出す。
【0035】
図2は、CPU23の構成を示すブロック図である。CPU23は、電子カメラ1の制御を行うプロセッサである。CPU23は、ROM19に予め格納されたシーケンスプログラムを実行することにより、各処理のパラメータを算出したり、電子カメラ1の各部を制御したりする。また、本実施形態のCPU23は、顔検出部23aと、顔認識部23bと、第1識別情報付加部23cと、顔分類処理部23d、検索部23e、画像提示部23f、選択条件提示部23g、選択条件受付部23h、第2識別情報付加部23iと、識別情報可否部23k、一括画像処理部23l、通信処理部23mとしても機能する。
【0036】
顔検出部23aは、液晶表示モニタ21aに表示されたスルー画像や撮影画像から顔を検出する。顔認識部23bは、検出した顔に基づいて顔の器官を構成する特徴点(特徴量)を抽出する。顔検出部23aおよび顔認識部23bは、公知の技術によって行われる。この場合、顔認識部23bは、公知の特徴点抽出処理によって顔の特徴点を抽出する。特徴点としては、例えば、眉、目、鼻、唇、顔の輪郭などが挙げられる。なお、特徴点抽出処理では、例えば、顔の色彩や明度の分散、強度分布などを特徴量として検出することもできる。
【0037】
第1識別情報付加部23cは、特徴点に基づいて、顔を識別する識別情報を画像データに付加する。ここでは、画像ファイル(画像データ)として、Exif(Exchangeable Image File Format)形式を採用する。
【0038】
図3は、Exifの画像ファイルを模式的に表した図である。第1実施形態では、画像ファイルは、Exif(Exchangeable image file)のファイルフォーマットに準拠している。このExifは、電子カメラの代表的なファイルフォーマットである。Exifには、TIFFファイル(Tagged Image File Format)形式の非圧縮画像ファイルとJPEG(Joint Photographic Experts Group)ファイル形式の圧縮画像ファイルとの2種類のフォーマットが規定されている。図3では、従来から公知のTIFFファイルの構造を表している。
【0039】
TIFFファイルは、TIFFヘッダで始まる階層的な構造となっている。TIFFファイルでは、TIFFヘッダに続いてイメージファイルディレクトリ(IFD:Image File Directory)が配置されている。また、画像データは、ストリップやタイルと呼ばれるブロック状に分割されて記録される。そして、「Value of IFD領域」には、分割された各画像データに対応するポインタ値がストリップやタイルの数だけ格納されている。
【0040】
IFD領域には、データブロック(IFD Entry)が複数含まれている。ここで、「IFDEntry」の先頭2バイトは、個々の付加情報を表す識別番号が配置されている。そして、この識別番号は、具体的な付加情報(イメージの大きさ、圧縮法の種類、解像度等)に対応付けされている。なお、Exifでは、通常のTIFFでは定義されていない付加情報が定義できる。本実施例では、識別情報を付加情報に追加する。これにより、個々の人物を識別する識別情報は、識別番号に対応付けて記録することができる。なお、識別情報としては、ユーザ入力を行うことにより、人物の名称や人物の略称に置き換えてもよい。また、識別情報は、人物の顔を識別する番号としてシーケンスに管理してもよい。
【0041】
顔分類処理部23dは、識別情報に基づいて画像データを分類する。なお、CPU23は、顔分類処理部23dが分類した画像データを格納する顔分類フォルダ(顔認証フォルダ)を、記録媒体26内に生成する。CPU23は、識別情報が付加された画像データを記録媒体26に記録する。
【0042】
検索部23eは、記録媒体26に記録されている画像データの内、識別情報が付加されていない画像データを検索する。
【0043】
画像提示部23fは、検索部23eが見つけ出した、識別情報が付加されていない画像データに基づいて、顔検出部23aが顔を検出した場合、その画像データに基づく画像を提示画像として液晶表示モニタ21aに表示させる。
【0044】
選択条件提示部23gは、提示画像に対し、顔分類処理部23dに分類されている画像データに基づく顔の人物を選択する選択条件を液晶表示モニタ21aに表示させる。また、選択条件提示部23gは、顔分類フォルダに分類されている画像データに基づいて、人物ごとの縮小画像であるサムネイル画像を選択条件として液晶表示モニタ21aに一覧表示させる。
【0045】
選択条件受付部23gは、選択条件の選択若しくは非選択の命令をユーザ入力により受け付ける。
【0046】
第2識別情報付加部23iは、選択条件受付部23gが受け付けた選択条件に対応する識別情報を、提示画像の画像データに付加する。また、第2識別情報付加部23iは、ユーザによるタッチパネルの操作に応じて、顔検出枠に表示されている顔と、その顔と同一人物のサムネイル画像との関連付けを行うことにより、同一人物の識別情報を、提示画像の画像データに付加する。
【0047】
識別情報可否受付部23jは、選択条件受付部23hが、選択条件の非選択の命令を受け付けた場合、新たな識別情報を付加するか否かの命令をユーザ入力により受け付ける。
【0048】
新規登録部23kは、選択条件受付部23gが選択条件の非選択の命令を受け付けた場合、新たな識別情報を付加するか否かをユーザ入力により選択させ、新たな識別情報を付加する選択の場合、提示画像の画像データに、新たな識別情報を付加する。
【0049】
一括画像処理部23lは、顔分類フォルダに格納されている画像データに対して、ユーザ入力により指定された人物の画像処理を一括して行う。例えば、一括画像処理部23lは、モザイク処理、デジタルぼかし処理、トリミング処理などを行う(詳細は後述する)。なお、顔分類フォルダを設けることにより、一括画像処理が容易となる。
【0050】
通信処理部23mは、通信インターフェース(通信I/F)27を介して、例えば、外部のサーバに無線通信で画像データを送信する。
【0051】
次に、第1実施形態における電子カメラ1の動作の一例を説明する。
【0052】
図4は、電子カメラ1の撮影動作を表すフローチャートである。ここでは、まず、顔検出機能から第1識別情報付加機能までの処理について説明する。以下の説明では、顔検出機能、顔認識機能をオンにするとともに、第1識別情報付加機能もオンに設定した場合について説明する。
【0053】
ステップS101:CPU23は、タイミングジェネレータ(TG)15を介して撮像素子14を駆動させることによりスルー画像の取得を開始する。このスルー画像は、液晶表示モニタ21aに表示される。
【0054】
ステップS102:CPU23は、半押しされたか否かを判定する。半押しされた場合は(ステップS102:Yes)、ステップS103に移行する。一方、レリーズボタンが所定時間経過しても半押しされない場合は(ステップS102:No)、節電モードが機能してこの処理ルーチンは終了する。
【0055】
ステップS103:CPU23の顔検出部23aは、上述した顔検出処理を施して顔を検出する。この際、顔検出部23aは、撮像素子14で生成する画像データに基づいて色の成分や輝度値を取得する。この場合、顔検出部23aは、肌色成分の領域を特定するなどして、顔を検出する。
【0056】
ステップS104:CPU23は、ステップS103の顔検出処理で顔を検出したか否かを判定する。顔検出部23aが顔を検出できた場合には(ステップS104:Yes)、顔認識処理(ステップS105)に移行する。
【0057】
一方、顔検出部23aが顔を検出できなかった場合には(ステップS104:No)、通常の撮影モードとして、ステップS106に移行する。この場合、全押し操作がなされると(ステップS106:Yes)、本画像取得の処理(ステップS107)へ移行する。ステップS107以降の処理については、後述する。
【0058】
ステップS105:CPU23の顔認識部23bは、検出した顔に基づいて顔の器官を構成する特徴点を抽出する。例えば、顔検出枠の顔の領域に対して、目、鼻、唇、顔の輪郭等の特徴点を個別に抽出する。
【0059】
ステップS106:CPU23は、レリーズボタンが全押しされたか否かを判定する。レリーズボタンが全押しされていない場合は(ステップS106:No)、ステップS102に戻る。一方、レリーズボタンが全押しされた場合は(ステップS106:Yes)、ステップS107へ移行する。
【0060】
ステップS107:CPU23は、操作部22からの全押し操作を受けて、本画像取得のため、タイミングジェネレータ(TG)15を介して撮像素子14を駆動させる。AFE16では、画像信号のゲイン調整や画像信号のA/D変換が行われる。このAFE16が出力する画像信号は、画像信号処理部17へ入力される。画像信号処理部17は、AFE16が出力する本画像データをフレームメモリに記憶させる。画像信号処理部17は、フレームメモリに記憶されている本画像データに対してホワイトバランス補正処理などの補正処理を行う。
【0061】
ステップS108:CPU23の第1識別情報付加部23cは、顔検出された人物の識別情報を画像データに付加する。ここでは、簡単のため、第1識別情報付加部23cは、特徴点に基づいて、顔を識別する識別情報をA、B、C・・・というように顔ごとに登録する。つまり、Exifのヘッダファイルに識別情報を書き込む。特徴点は、別途情報として、Exifのヘッダファイルに識別情報を書き込む。また、識別情報に対して、人物の名前を別途、ユーザ入力してもよい。
【0062】
また、CPU23は、顔認識部23bが抽出した特徴点に基づいて、既に保存されている画像データに対して、同様の特徴点を有する人物の画像が存在するか否かについて探索する。同様の特徴点を有する人物の画像が存在した場合には、第1識別情報付加部23cは、その特徴点に対応する識別情報(例えば、A)をExifのヘッダファイルに書き込む。
【0063】
ステップS109:CPU23は、本画像データを圧縮処理し、識別情報に基づいて、記録媒体26の顔分類フォルダに保存する。
【0064】
次に、撮影時に顔認識ができなかった画像や顔認識機能を利用しなかった画像について、
識別情報を付加する第2識別情報付加機能の処理について説明する。ここでは、まず、記録媒体26に記録されている画像データを読み出し、識別情報が付加されているか否かのチェックを行う。
【0065】
図5は、識別情報の有無をチェックするフローチャートである。
【0066】
ステップS201:CPU23の検索部23eは、記録媒体26から、画像データを1つ読み出す。
【0067】
ステップS202:CPU23は、画像データを参照し、第1識別情報付加部23cが、識別情報を付加したか否かを判定する。判定結果が識別情報なしの場合(ステップS202:No)、この処理ルーチンは、ステップS203に進む。一方、判定結果が識別情報ありの場合(ステップS202:Yes)、この処理ルーチンは、ステップS204に進む。
【0068】
ステップS203:CPU23は、識別情報が付加されていない画像データをリストに登録する。
【0069】
ステップS204:CPU23は、検索部23eがすべての画像データをサーチしたか否かを判定する。
【0070】
検索部23eがすべての画像データをサーチしていない場合(ステップS204:No)、この処理ルーチンは、ステップS201に戻り、次の画像データを読み出す。
【0071】
検索部23eがすべての画像データをサーチした場合(ステップS204:Yes)、この処理ルーチンは、終了する。ステップS201からステップS204の処理がなされることにより、識別情報の付加されていない画像データがリスト化される。
【0072】
次に、第2識別情報付加部23iによる識別情報の付加処理について説明する。
【0073】
図6は、第2識別情報付加部23iによる識別情報の付加処理を説明するフローチャートである。
【0074】
ステップS301:CPU23は、図5のフローチャートの処理で作成されたリストから、画像データを1つ読み出す。
【0075】
ステップS302:CPU23の顔検出部23aは、顔検出処理を行う。
【0076】
ステップS303:顔検出ができた場合(ステップS303:Yes)、この処理ルーチンは、ステップS304に進む。顔検出ができなかった場合(ステップS303:No)、この処理ルーチンは、ステップS305に進む。
【0077】
ステップS304:CPU23は、後述する、顔登録処理のサブルーチンを開始する。
【0078】
ステップS305:CPU23は、リストの画像データをすべてサーチしたか否かを判定する。リストの画像データをすべてサーチしていない場合(ステップS303:No)、この処理ルーチンは、ステップS301に戻る。一方、リストの画像データをすべてサーチした場合(ステップS303:Yes)、この処理ルーチンは、終了する。
【0079】
次に、顔登録処理のサブルーチンについて説明する。
【0080】
図7は、図6に示す顔登録処理のサブルーチンである。図8、図9は、顔登録処理を説明する図である。
【0081】
ステップS401:CPU23の画像提示部23fは、図6のステップS303で顔検出部23aが顔を検出した場合、その画像データに基づく画像を提示画像として液晶表示モニタ21aに表示させる。
【0082】
ステップS402:CPU23は、表示制御部20に指示を出し、表示制御部20は、顔検出枠Wを表示する。図8(a)に示すように、液晶表示モニタ21aには人物に対して、顔検出枠Wが表示される。この画像の画像ファイル名を、説明の便宜上、ここでは「001」とする。
【0083】
ステップS403:CPU23の選択条件提示部23gは、提示画像に対し、顔分類処理部23dに分類されている画像データに基づく顔の人物を選択する選択条件を液晶表示モニタ21aに表示させる。一例として、「001の人物は、登録人物A、B、Cの何れかに該当しますか?」のメッセージを液晶表示モニタ21aに表示する(図8(b))。なお、説明の便宜上、A、B、Cは、登録人物の名前が表示されているものとする。すなわち、予め、ユーザ入力により、識別情報ごとに登録人物名が対応付けられているものとする。
【0084】
ステップS404:CPU23の選択条件受付部23gは、選択条件の選択(A、B、Cの何れか:該当あり)若しくは非選択(該当なし)を、タッチパネル21bを受け付ける。ユーザ入力の命令が、「該当あり」の場合(ステップS404:Yes)、このサブルーチンは、ステップS405に進む。
【0085】
ステップS405:選択条件提示部23gは、顔分類フォルダに分類されている画像データに基づいて、図9(a)に示す通り、人物ごとの縮小画像であるサムネイル画像を選択条件として液晶表示モニタ21aに一覧表示させる。そして、選択条件提示部23gは、一例として、「関連付けを行います、登録人物の何れかを選択して下さい。」のメッセージを液晶表示モニタ21aに表示させる(図9(b))。
【0086】
ステップS406:CPU23は、タッチパネル21bを介して、サムネイル画像の選択(例えば、登録人物Aのサムネイル画像を選択)を受け付ける。
【0087】
ステップS407:CPU23の第2識別情報付加部23iは、選択条件受付部23gが選択条件の選択の命令を受け付けた場合、その選択条件に対応する識別情報を、提示画像の画像データに付加する。つまり、第2識別情報付加部23iは、顔検出枠Wに表示されている顔と、その顔と同一人物Aのサムネイル画像との関連付けを行う。具体的には、サムネイル画像に表示されている登録人物Aの識別情報を、顔検出枠に表示されている同一人物Aの画像データに付加する。こうすることにより、ユーザは、タッチパネル21b上で容易にユーザ入力することができる。さらに、サムネイル画像を選択することで、撮影時に顔識別ができなかった画像や顔識別機能を利用しなかった画像についても識別情報を付加することができる。なお、図9(b)に示したサムネイル画像の表示態様は、一例であって、この表示態様に限定されるものではない。また、タッチパネルの操作に応じて、サムネイル画像を順次表示させてもよい。
【0088】
ステップS408:顔分類処理部23fは、登録人物Aの識別情報に基づいて画像データを分類する。そして、CPU23は、登録人物Aの顔分類フォルダに、画像データを保存する。そして、このサブルーチンは終了し、図7のステップS305に戻る。
【0089】
次に、ステップS405の処理において、ユーザ入力の命令が、「該当なし」の場合(ステップS405:No)について、その後の処理を説明する。
【0090】
図10、図11は、新規登録する場合の顔登録処理を説明する図である。
【0091】
ステップS403の処理において、図10(a)に示す通り、表示制御部20は、一例として、「002の人物は、登録人物A、B、Cの何れかに該当しますか?」のメッセージを液晶表示モニタ21aに表示する。ユーザ入力の命令が、「該当なし」の場合(ステップS404:No)、このサブルーチンは、ステップS409に進む。
【0092】
なお、表示制御部20は、顔検出部23aが顔を検出したにも拘わらず、顔認識部23bが、特徴点を抽出できなかった場合、顔検出枠Wの表示態様を変更してもよい。表示制御部20は、例えば、顔検出枠Wの色を緑色から赤色に変更する。これにより、ユーザは、002の人物が、登録されていない人物であることを知ることができる。
【0093】
ステップS409:選択条件提示部23gは、図10(b)に示す通り、一例として、「新規登録しますか?」のメッセージを液晶表示モニタ21aに表示させる。なお、新規登録の場合、第1識別情報付加部23cが付加した同一人物の識別情報が存在しないことを意味する。ユーザ入力の命令が、「新規登録」の場合(ステップS409:Yes)、このサブルーチンは、ステップS407に進む。
【0094】
ステップS407:新規登録部23kは、タッチパネル21bを介してユーザ入力により、新たな識別情報を画像データに付加する。これにより、例えば、撮影時に顔検出しなかった画像であって、識別情報が存在しない場合であっても、識別情報を付加することができる。
【0095】
ステップS408:顔分類処理部23fは、人物Dの識別情報に基づいて画像データを分類する。この場合、顔分類処理部23fは、人物Dの顔分類フォルダを新規に生成する。CPU23は、その顔分類フォルダ内に画像データを保存する。そして、このサブルーチンは終了し、図7のステップS305に戻る。
【0096】
一方、ステップS409にて、ユーザ入力の命令が、「新規登録せず」の場合(ステップS409:No)、このサブルーチンは終了し、図6のステップS305に戻る。
【0097】
なお、人物Dが新規に登録されると、ステップS405の処理において、選択条件提示部23gは、サムネイル画像を一覧表示する際、新規に作成された顔分類フォルダの人物Dのサムネイル画像を一覧表示に追加して表示させる(図11)。これにより、選択条件提示部23gは、最新のサムネイル画像の一覧表示を液晶表示モニタ21aに表示させることができる。
【0098】
以上より、第2識別情報付加部23iによる識別情報の付加処理がなされる。なお、複数の人物が撮影されている画像の取り扱いについて、以下説明する。
【0099】
図12は、複数の人物の顔登録処理を説明する図である。図12(a)は、3人の人物A、B、Cが撮影されている画像である。顔検出枠Wが表示されている。なお、撮影時には、顔識別機能を利用しなかった画像とする。この状態で、一例として、図7のステップS405で登録人物のサムネイル画像表示を行うと、図12(b)のように表示される。
ユーザ入力により、人物A、B、Cが個別に選択されると、003の画像が、登録人物A、B、Cの顔分類フォルダに保存される。なお、記憶容量を考慮して、所謂、仮想フォルダ形式で、1つの画像を3つのフォルダに登録されているように見せる保存形式を採用してもよい。
【0100】
また、人物A、B、Cが、一例として、兄弟であった場合、新たに兄弟単位で保存するように、兄弟フォルダや家族フォルダなどの複数人物単位のフォルダを生成して保存してもよい。
【0101】
また、人物A、B、Cの内、一例として、人物A、Bは、顔分類フォルダが作成されており、人物Cのみが顔分類フォルダが作成されていない場合、タッチパネル21bからのユーザ入力により、人物A、Bについては、画像を各々の顔分類フォルダに保存し、人物Cについては、新規に人物Cの顔分類フォルダを作成して、保存するようにしてもよい。
【0102】
次に、一括画像処理部23lおよび通信処理部23mの処理について説明する。
【0103】
図13は、電子カメラ1における画像データの一括画像処理を表すフローチャートである。ここでは、同一の識別情報が付加された画像データに対して、モザイク処理を一括して行う処理と、モザイク処理が施された画像データに対して、外部の画像保管用のサーバに画像をアップロードする処理についてまず説明する。
【0104】
図13に示すフローチャートは、ユーザが人物別再生画面のモードを選択すると開始する。この人物別再生画面のモードを選択することにより、画像データの一括画像処理や画像データのアップロードを行うことができる。
【0105】
ステップS501:CPU23は、ユーザが人物別再生画面の命令を受け付けると、表示制御部20を介して、液晶表示モニタ21aに人物別再生画面のモードのメニュー表示をさせる。
【0106】
図14は、人物別再生画面のモードの一例を説明する図である。図14(a)に示すように、液晶表示モニタ21aには、人物別再生画面のモードのメニュー表示がなされる。
【0107】
ステップS502:CPU23は、ユーザ入力により、人物Aの顔分類フォルダaを選択した旨の命令を受け付けると、記録媒体26の顔分類フォルダaから、登録人物Aが写っている画像を読み出す。CPU23は、登録人物Aが写っている画像のサムネイル画像を生成する。
【0108】
ステップS503:CPU23は、表示制御部20を介して、登録人物Aが写っているサムネイル画像を液晶表示モニタ21aに表示させる。図15(b)は、登録人物Aが写っているサムネイル画像の一例を示す。
【0109】
ステップS504:CPU23は、ユーザ入力により、画像処理選択の命令を受け付けると、表示制御部20を介して、画像処理選択のメニューを液晶表示モニタ21aに表示させる。例えば、ユーザ入力により一括モザイクが選択されると、さらに、一括モザイクの具体的な処理内容がメニュー表示される。ここで、ユーザ入力により、(1)登録人物Aについてモザイク処理を行うケース、(2)登録人物A以外についてモザイク処理を行うケースの2通りを選択することができる。なお、これは一例であって、例えば、画像に写っている登録人物すべてであってもよい。さらに、ユーザ入力により、モザイク処理のレベルを設定することができる。例えば、不図示のバー表示によって、レベル設定を行うようにしてもよい。なお、このモザイク処理は公知の技術によって行われる。
【0110】
ステップS505:CPU23は、ユーザ入力により一括モザイクの実行の命令を受け付けると、CPU23の一括画像処理部23lは、選択された顔の領域のモザイク処理を行う。このようにして、一括画像処理部23lは、撮影時に顔識別ができなかった画像や顔識別機能を利用しなかった画像についても一括して画像処理することができる。
【0111】
図15は、モザイク処理の一例を説明する図である。図15(a)は、登録人物Aについてモザイク処理を行った場合の一例を表している。図15(b)は、登録人物A以外についてモザイク処理を行った場合の一例を表している。
【0112】
ステップS506:CPU23は、表示制御部20を介して、モザイク処理を行った後の画像を液晶表示モニタ21aにサムネイル表示させる。
【0113】
図16は、モザイク処理後のサムネイル表示の一例を説明する図である。ここでは、簡単のため、モザイク処理後の画像2枚をサムネイル画像として表示している。ここで、一覧表示されたサムネイル画像について、ユーザ入力によりアップロードしたい画像を選択することができる。すべてのサムネイル画像の元画像をアップロードしてもよい。
【0114】
ステップS507:CPU23は、ユーザ入力により、サムネイル画像の選択の命令を受け付けると、表示制御部20を介して、一括アップロードのメニュー画面を液晶表示モニタ21aに表示させる。ここで、CPU23は、ユーザ入力により、一括アップロードの選択の命令を受け付けると、この処理ルーチンは、ステップS508に移行する。
【0115】
ステップS508:CPU23は、一括アップロードを開始する。
【0116】
図17は、一括アップロードの概念図である。CPU23の通信処理部23mは、通信インターフェース(通信I/F)27を介して、まず、無線通信で外部の無線LANアクセスポイント100に画像データを送信する。続いて、無線LANアクセスポイント100では、インターネットを介して画像管理サーバ200に画像データを一括アップロードする。
【0117】
そして、CPU23の通信処理部23mは、アップロード完了の命令を受信することにより、この処理ルーチンは終了する。
【0118】
次に、一括デジタルぼかし処理について説明する。ステップS504にて、一括デジタルぼかし処理が選択されると、ステップS509に進み、一括画像処理部23lは、選択された顔の領域の一括デジタルぼかし処理を行う。
【0119】
図18は、一括デジタルぼかし処理の一例を示す図である。デジタルぼかし処理については公知の技術により行われる。図18(a)は、登録人物A以外の人物にデジタルぼかし処理を施した場合の一例の図である。図18(b)は、登録人物Aにデジタルぼかし処理を施した場合の一例の図である。このようにして、CPU23の一括画像処理部23lは、選択された人物に対して顔の領域のデジタルぼかし処理を一括で行う。この後の処理は、一括モザイク処理と同様であるので説明を省略する。なお、デジタルぼかし処理としては、ポートレートモードのように背景をぼかす処理を一括で行うようにしてもよい。
【0120】
次に、一括トリミング処理について説明する。ステップS504にて、一括トリミング処理が選択されると、ステップS510に進み、CPU23の一括画像処理部23lは、選択された顔の領域の一括トリミング処理を行う。
【0121】
図19は、一括トリミング処理の一例を示す図である。図19(a)は、トリミングしたい顔を選択した図を表しており、顔検出枠Wが表示されている。ここでは、登録人物Aが選択されている。CPU23の一括画像処理部23lは、選択された登録人物Aについて、公知のトリミング処理により、例えば、図19(b)に示す画像を生成することができる。
【0122】
ここで、CPU23の一括画像処理部23lは、顔分類フォルダに登録されている登録人物Aの画像データに対して、順次、トリミング処理を一括で行う。この後の処理は、一括モザイク処理と同様であるので説明を省略する。
【0123】
以上、本実施形態の電子カメラ1によれば、撮影時に顔識別ができなかった画像や顔識別機能を利用しなかった画像についても分類付けが容易にできる。例えば、被写体の顔が下向き、斜め向きなど正面を向いていない場合、顔識別機能では顔識別されにくい。しかしながら、本実施形態の電子カメラ1では、顔識別されにくい画像に対しても、分類付けができる。さらに、撮影した画像に対して手間が掛からずに一括で画像処理をすることができる。
【0124】
なお、本実施形態では、一括画像処理された画像データを無線通信により、外部の画像管理サーバ200にアップロードしたが、無線通信に限られず、有線LANを用いた有線通信を行ってもよい。また、電子カメラ1からUSBケーブルを外部のパーソナルコンピュータに接続して、一括画像処理された画像データを転送してもよい。
【0125】
また、本実施形態では、一括処理された画像データを外部の画像管理サーバ200にアップロードしたが、例えば、電子カメラ1側から外部のプリンタに対して、無線通信などにより、一括プリント指定を行ってもよい。
【0126】
本実施形態ではExifファイル形式を用いた。これにより汎用性が得られるが、他の形式のファイルに適用してもよい。
(第2実施形態)
次に、本発明の第2実施形態について説明する。第2実施形態では、図20に示すコンピュータ3に電子カメラ1で記録された画像データを読み出し、撮影時に顔識別ができなかった画像や顔識別機能を利用しなかった画像の画像データに対して識別情報の付加を行う。これらの処理に、本発明の一実施形態である画像処理プログラムを用いる。
【0127】
以下、具体的に説明する。図20は、コンピュータの構成を示すブロック図である。図20に示すコンピュータ3には、コンピュータ用CPU30と、メモリ31と、通信インターフェース(I/F)32と、キーボード33と、表示モニタ34とが備えられている。メモリ31には、本発明の一実施形態である画像処理プログラムも格納されている。
第2実施形態では、図21の点線枠内に示す画像処理プログラムAがコンピュータ用CPU30に組み込まれる。すなわち、コンピュータ用CPU30は、本発明の一実施形態である画像処理プログラムAが組み込まれることによって、画像データ読出部30aと、顔分類処理部30bと、検索部30cと、顔検出部30dと、画像提示部30eと、選択条件提示部30fと、選択条件受付部30gと、識別情報付加部30hとが構築される。
【0128】
画像データ読出部30aは、電子カメラで記録された画像データを読み出す。顔分類処理部30bは、顔の特徴を表す特徴点に基づいて顔を識別する識別情報に基づいて画像データを分類する。検索部30cは、画像データ読出部30aで読み出した画像データの内、識別情報が付加されていない画像データを検索する。顔検出部30dは、検索部30aで見つけ出された、識別情報が付加されていない画像データに基づいて、顔を検出する。画像提示部30eは、顔検出部30dで顔を検出した場合、その画像データに基づく画像を提示画像として表示モニタ34に表示させる。選択条件提示部30fは、提示画像に対し、顔分類処理部30bで分類されている画像データに基づく顔の人物を選択する選択条件を表示モニタ34に表示させる。選択条件受付部30gは、選択条件の選択若しくは非選択の命令をユーザ入力により受け付ける。識別情報付加部30hは、選択条件受付部30gが受け付けた選択条件に対応する識別情報を、提示画像の画像データに付加する。
【0129】
次に、本発明の一実施形態である画像処理プログラムAの動作について説明する。ここでは、電子カメラ1で記録された画像は、予め、通信インターフェース(I/F)32を介してメモリ31に記憶されているものとする。
【0130】
図21は、第2実施形態の画像処理プログラムAの動作を表すフローチャートである。このフローチャートは、図20に示すキーボード33から画像処理プログラムAの起動を受け付けると開始する。また、電子カメラで記録された画像データは、予め、通信I/F32を介して、メモリ31に記録されているものとする。
【0131】
ステップS601:画像データ読出部30aは、電子カメラで記録された画像データをメモリ31から読み出す。ステップS601が、画像データ読出ステップの一例に相当する。
【0132】
ステップS602:顔分類処理部30bは、顔の特徴を表す特徴点に基づいて顔を識別する識別情報に基づいて画像データを分類する。顔分類処理部30bは、メモリ31内に識別情報ごとに顔分類フォルダを生成し、識別情報が付加されている画像データを保存する。ステップS602が、顔分類処理ステップの一例に相当する。
【0133】
ステップS603:CPU30は、識別情報の有無をチェックするサブルーチンを実行する。このサブルーチンは、図5に示した識別情報の有無をチェックするフローチャートと同様の処理を行う。ステップS603が、検索ステップの一例に相当する。
【0134】
ステップS604:CPU30は、識別情報の付加のサブルーチンを実行する。このサブルーチンは、図6に示した第2識別情報付加部23iによる識別情報の付加処理を説明するフローチャートと同様の処理を行う。なお、第2識別情報付加部23iの処理が、プログラムAでは、識別情報付加部30hが担っている。また、CPU30は、図7に示した顔登録処理のサブルーチン同様の処理を行う。この際、CPU30は、上述した新規登録の処理を加えてもよい。
【0135】
以上のステップを経て、この処理ルーチンは終了する。その後、フローチャートには示していないが、CPU30は、第1実施形態で説明した一括画像処理と同様の処理を行う。なお、図6のステップS302が、顔検出ステップの一例に相当する。図7のステップS401が、画像提示ステップの一例に相当する。図7のステップS403が、選択条件提示ステップの一例に相当する。図7のステップS404〜S406が、選択条件受付ステップの一例に相当する。図7のステップS407が、識別情報付加ステップの一例に相当する。
【0136】
その後、ユーザ入力により、例えば、外部のブログ用サーバ300に、モザイク処理された画像データがアップロードされる。
【0137】
以上、本実施形態の画像処理プログラムAによれば、撮影時に顔識別ができなかった画像や顔識別機能を利用しなかった画像についても分類付けが容易にできる。さらに、撮影した画像に対して手間が掛からずに一括で画像処理をすることができる。
<実施形態の補足事項>
本実施形態では、所定の一括画像処理として、モザイク処理と、デジタルぼかし処理と、トリミング処理とを取り上げたが、これらは一例であって、3つの処理に限定されるものではない。例えば、赤目を補正する赤目画像処理であってもよい。また、複数の画像処理を組み合わせて行ってもよい。
【符号の説明】
【0138】
1・・・電子カメラ、3・・・コンピュータ、23a、30c・・・顔検出部、23b・・・顔認識部、23c・・・第1識別情報付加部、23d、30b・・・顔分類処理部、23e、30c・・・検索部、23f、30e・・・画像提示部、23g、30f・・・選択条件提示部、23h、30g・・・選択条件受付部、23i・・・第2識別情報付加部、23j・・・識別情報可否受付部、23k・・・新規登録部、23l・・・一括画像処理部、23m・・・通信処理部、30a・・・画像データ読出部、30h・・・識別情報処理部
【先行技術文献】
【特許文献】
【0139】
【特許文献1】特開2007−281760号公報
【特許文献2】特開2007−88993号公報
【特許請求の範囲】
【請求項1】
被写体像を光電変換して画像データを生成する撮像素子と、
前記画像データを記録する記録部と、
前記画像データに基づく画像を表示する表示部と、
前記画像データに基づいて顔を検出する顔検出部と、
前記顔から前記顔の特徴を表す特徴点を抽出する顔認識部と、
前記特徴点に基づいて、前記顔を識別する識別情報を前記画像データに付加する第1識別情報付加部と、
前記識別情報に基づいて前記画像データを分類する顔分類処理部と、
前記記録部に記録されている画像データの内、前記識別情報が付加されていない画像データを検索する検索部と、
前記検索部が見つけ出した、前記識別情報が付加されていない画像データに基づいて、前記顔検出部が顔を検出した場合、その画像データに基づく画像を提示画像として前記表示部に表示させる画像提示部と、
前記提示画像に対し、前記顔分類処理部に分類されている画像データに基づく顔の人物を選択する選択条件を前記表示部に表示させる選択条件提示部と、
前記選択条件の選択若しくは非選択の命令をユーザ入力により受け付ける選択条件受付部と、
前記選択条件受付部が受け付けた選択条件に対応する前記識別情報を、前記提示画像の画像データに付加する第2識別情報付加部と、
を備えることを特徴とする電子カメラ。
【請求項2】
請求項1に記載の電子カメラにおいて、
前記選択条件受付部が、前記選択条件の非選択の命令を受け付けた場合、新たな識別情報を付加するか否かの命令をユーザ入力により受け付ける識別情報可否受付部と、
前記識別情報可否受付部が、新たな識別情報を付加する命令を受け付けた場合、前記提示画像の画像データに、新たな識別情報を付加する新規登録部と、をさらに備えることを特徴とする電子カメラ。
【請求項3】
請求項1又は請求項2に記載の電子カメラにおいて、
前記記録部は、前記顔分類処理部が分類した前記画像データを格納する顔分類フォルダを備えることを特徴とする電子カメラ。
【請求項4】
請求項3に記載の電子カメラにおいて、
前記顔分類フォルダに格納されている前記画像データに対して、前記ユーザ入力により指定された人物の画像処理を一括して行う一括画像処理部をさらに備えることを特徴とする電子カメラ。
【請求項5】
請求項3に記載の電子カメラにおいて、
前記表示部は、前記ユーザ入力を前記表示部の表示画面上で行うタッチパネルをさらに備えることを特徴とする電子カメラ。
【請求項6】
請求項5に記載の電子カメラにおいて、
前記表示部の表示態様を制御する表示制御部をさらに備え、
前記表示制御部は、前記顔検出部が顔を検出した場合、前記顔の領域を示す顔検出枠を前記提示画像に重畳表示させ、
前記選択条件提示部は、前記顔分類フォルダに分類されている画像データに基づいて、人物ごとの縮小画像であるサムネイル画像を前記選択条件として前記表示部に一覧表示させ、
前記第2識別情報付加部は、ユーザによる前記タッチパネルの操作に応じて、前記顔検出枠に表示されている顔と、その顔と同一人物のサムネイル画像との関連付けを行うことにより、前記同一人物の識別情報を、前記提示画像の画像データに付加することを特徴とする電子カメラ。
【請求項7】
請求項6に記載の電子カメラにおいて、
前記表示制御部は、前記顔検出部が顔を検出したにも拘わらず、前記顔認識部が、前記特徴点を抽出できなかった場合、前記顔検出枠の表示態様を変更することを特徴とする電子カメラ。
【請求項8】
請求項6に記載の電子カメラにおいて、
前記選択条件提示部は、前記サムネイル画像を一覧表示する際、新規に作成された顔分類フォルダの人物を示すサムネイル画像を追加して表示させることを特徴とする電子カメラ。
【請求項9】
コンピュータに画像処理を実行させる画像処理プログラムであって、
電子カメラで記録された画像データを読み出す画像データ読出ステップと、
顔の特徴を表す特徴点に基づいて前記顔を識別する識別情報に基づいて画像データを分類する顔分類処理ステップと、
前記画像データ読出ステップで読み出した画像データの内、前記識別情報が付加されていない画像データを検索する検索ステップと、
前記検索ステップで見つけ出された、前記識別情報が付加されていない画像データに基づいて、顔を検出する顔検出ステップと、
前記顔検出ステップで顔を検出した場合、その画像データに基づく画像を提示画像として表示部に表示させる画像提示ステップと、
前記提示画像に対し、前記顔分類処理ステップで分類されている画像データに基づく顔の人物を選択する選択条件を前記表示部に表示させる選択条件提示ステップと、
前記選択条件の選択若しくは非選択の命令をユーザ入力により受け付ける選択条件受付ステップと、
前記選択条件受付ステップにて受け付けた選択条件に対応する前記識別情報を、前記提示画像の画像データに付加する識別情報付加ステップと、
を備えることを特徴とする画像処理プログラム。
【請求項1】
被写体像を光電変換して画像データを生成する撮像素子と、
前記画像データを記録する記録部と、
前記画像データに基づく画像を表示する表示部と、
前記画像データに基づいて顔を検出する顔検出部と、
前記顔から前記顔の特徴を表す特徴点を抽出する顔認識部と、
前記特徴点に基づいて、前記顔を識別する識別情報を前記画像データに付加する第1識別情報付加部と、
前記識別情報に基づいて前記画像データを分類する顔分類処理部と、
前記記録部に記録されている画像データの内、前記識別情報が付加されていない画像データを検索する検索部と、
前記検索部が見つけ出した、前記識別情報が付加されていない画像データに基づいて、前記顔検出部が顔を検出した場合、その画像データに基づく画像を提示画像として前記表示部に表示させる画像提示部と、
前記提示画像に対し、前記顔分類処理部に分類されている画像データに基づく顔の人物を選択する選択条件を前記表示部に表示させる選択条件提示部と、
前記選択条件の選択若しくは非選択の命令をユーザ入力により受け付ける選択条件受付部と、
前記選択条件受付部が受け付けた選択条件に対応する前記識別情報を、前記提示画像の画像データに付加する第2識別情報付加部と、
を備えることを特徴とする電子カメラ。
【請求項2】
請求項1に記載の電子カメラにおいて、
前記選択条件受付部が、前記選択条件の非選択の命令を受け付けた場合、新たな識別情報を付加するか否かの命令をユーザ入力により受け付ける識別情報可否受付部と、
前記識別情報可否受付部が、新たな識別情報を付加する命令を受け付けた場合、前記提示画像の画像データに、新たな識別情報を付加する新規登録部と、をさらに備えることを特徴とする電子カメラ。
【請求項3】
請求項1又は請求項2に記載の電子カメラにおいて、
前記記録部は、前記顔分類処理部が分類した前記画像データを格納する顔分類フォルダを備えることを特徴とする電子カメラ。
【請求項4】
請求項3に記載の電子カメラにおいて、
前記顔分類フォルダに格納されている前記画像データに対して、前記ユーザ入力により指定された人物の画像処理を一括して行う一括画像処理部をさらに備えることを特徴とする電子カメラ。
【請求項5】
請求項3に記載の電子カメラにおいて、
前記表示部は、前記ユーザ入力を前記表示部の表示画面上で行うタッチパネルをさらに備えることを特徴とする電子カメラ。
【請求項6】
請求項5に記載の電子カメラにおいて、
前記表示部の表示態様を制御する表示制御部をさらに備え、
前記表示制御部は、前記顔検出部が顔を検出した場合、前記顔の領域を示す顔検出枠を前記提示画像に重畳表示させ、
前記選択条件提示部は、前記顔分類フォルダに分類されている画像データに基づいて、人物ごとの縮小画像であるサムネイル画像を前記選択条件として前記表示部に一覧表示させ、
前記第2識別情報付加部は、ユーザによる前記タッチパネルの操作に応じて、前記顔検出枠に表示されている顔と、その顔と同一人物のサムネイル画像との関連付けを行うことにより、前記同一人物の識別情報を、前記提示画像の画像データに付加することを特徴とする電子カメラ。
【請求項7】
請求項6に記載の電子カメラにおいて、
前記表示制御部は、前記顔検出部が顔を検出したにも拘わらず、前記顔認識部が、前記特徴点を抽出できなかった場合、前記顔検出枠の表示態様を変更することを特徴とする電子カメラ。
【請求項8】
請求項6に記載の電子カメラにおいて、
前記選択条件提示部は、前記サムネイル画像を一覧表示する際、新規に作成された顔分類フォルダの人物を示すサムネイル画像を追加して表示させることを特徴とする電子カメラ。
【請求項9】
コンピュータに画像処理を実行させる画像処理プログラムであって、
電子カメラで記録された画像データを読み出す画像データ読出ステップと、
顔の特徴を表す特徴点に基づいて前記顔を識別する識別情報に基づいて画像データを分類する顔分類処理ステップと、
前記画像データ読出ステップで読み出した画像データの内、前記識別情報が付加されていない画像データを検索する検索ステップと、
前記検索ステップで見つけ出された、前記識別情報が付加されていない画像データに基づいて、顔を検出する顔検出ステップと、
前記顔検出ステップで顔を検出した場合、その画像データに基づく画像を提示画像として表示部に表示させる画像提示ステップと、
前記提示画像に対し、前記顔分類処理ステップで分類されている画像データに基づく顔の人物を選択する選択条件を前記表示部に表示させる選択条件提示ステップと、
前記選択条件の選択若しくは非選択の命令をユーザ入力により受け付ける選択条件受付ステップと、
前記選択条件受付ステップにて受け付けた選択条件に対応する前記識別情報を、前記提示画像の画像データに付加する識別情報付加ステップと、
を備えることを特徴とする画像処理プログラム。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【図18】
【図19】
【図20】
【図21】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【図18】
【図19】
【図20】
【図21】
【公開番号】特開2010−178160(P2010−178160A)
【公開日】平成22年8月12日(2010.8.12)
【国際特許分類】
【出願番号】特願2009−19989(P2009−19989)
【出願日】平成21年1月30日(2009.1.30)
【出願人】(000004112)株式会社ニコン (12,601)
【Fターム(参考)】
【公開日】平成22年8月12日(2010.8.12)
【国際特許分類】
【出願日】平成21年1月30日(2009.1.30)
【出願人】(000004112)株式会社ニコン (12,601)
【Fターム(参考)】
[ Back to top ]