説明

画像管理装置、画像管理方法及びプログラム、ならびに撮像装置

【課題】画像のメタ情報として付加された被写体情報の修正を迅速に行う。
【解決手段】被写体情報に基づいて検索された画像の中に、被写体情報に誤りがある画像を発見した場合に(ステップS5)、ユーザはその画像の被写体情報を所定の情報に修正する(ステップS8)。被写体情報が修正されると、デジタルカメラは検索されたその他の画像の中に、被写体情報を修正した画像と類似する画像があるか否かを判定する(ステップS9)。類似する画像が存在する場合は、その画像の被写体情報をステップS8で修正した所定の情報に修正する(ステップS12)。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は画像管理装置、画像管理方法及びプログラム、ならびに撮像装置に係り、特に画像のメタ情報に含まれる被写体情報を修正する画像管理装置、画像管理方法及びプログラム、ならびに撮像装置に関する。
【背景技術】
【0002】
顔検出機能が搭載されたデジタルカメラを用いることにより、主要被写体人物が画像の中心に存在しない場合であっても、顔を検出し、検出した顔領域に合わせてAE、AF、AWBなどを行うことができるので、写真撮影が手軽に行えるようになった。しかし、このようなデジタルカメラであっても、子供や友人など主要被写体の顔ではなく、見知らぬ人物の顔を検出し、見知らぬ人物の顔領域に基づいて撮影条件の設定を行ってしまうことがある。このような不具合に対し、顔検出機能によって検出された顔に対してさらに顔認識を行うことで、主要被写体を特定し、特定した顔に対して撮影条件の設定を行うことが考えられる。
【0003】
しかし、顔認識機能についても、別の人物であると誤認識をしてしまうことが考えられる。このような課題に対し、引用文献1には、画像データ中の人物画像を認識する人物画像認識手段と、認識結果を修正するための修正入力を受け付ける修正入力受付手段を備え、修正入力受付手段によって修正入力が受け付けられると、その修正入力にしたがって、認識結果を修正する画像管理装置が記載されている。この装置によれば、人物を誤認識した場合であっても、認識結果を修正することができるので、個々の画像データに対して、正確な情報を付加することができる。
【先行技術文献】
【特許文献】
【0004】
【特許文献1】特開2007−26316号公報
【発明の概要】
【発明が解決しようとする課題】
【0005】
近年の記録メディア容量の急増により、ユーザが記録枚数を気にせずに多数の写真を撮影するようになってきた。特にCMOSなど高速連写カメラの登場により、数十枚の連写も気軽に記録するようになっている。このような大量の画像に対して顔認識を行い、認識結果をメタ情報として画像に付加する場合も考えられる。
【0006】
しかしながら、特許文献1の技術では、認識結果の修正を行う画像が複数ある場合には、画像の数だけ修正作業を行う必要がある。このように、大量の画像に対して1枚ずつ目視で誤認識の確認、及び人物情報の修正を行うことは、多くの時間と手間がかかり、ユーザにとって負担となるという問題点があった。さらに、特許文献1の技術は修正に手間がかかるために、デジタルカメラや携帯電話等の操作部が小型の装置への応用は適さないという欠点があった。
【0007】
本発明はこのような事情に鑑みてなされたもので、画像のメタ情報として付加された被写体情報の修正を迅速に行うことができる画像管理装置、画像管理方法及びプログラム、ならびに撮像装置を提供することを目的とする。
【課題を解決するための手段】
【0008】
前記目的を達成するために請求項1に記載の画像管理装置は、被写体に関する情報である被写体情報がメタ情報として被写体の画像情報に付加された画像データを記録手段に保存する画像保存手段と、所望の被写体をユーザが指定する被写体指定手段と、前記記録手段に保存された画像データを被写体情報に基づいて検索し、前記指定された被写体を被写体情報に含む画像データを抽出する画像検索手段と、前記抽出された画像データの画像情報を表示手段に表示する表示制御手段と、前記表示された画像情報に基づいて、前記指定した被写体が画像情報に含まれていない画像データの被写体情報をユーザが所定の情報に修正する被写体情報修正手段と、前記被写体情報が修正された画像データに基づいて、前記抽出された画像データの中から被写体情報を修正する必要のある画像データを自動選択する要修正画像選択手段と、前記選択された画像データの被写体情報を前記所定の情報に自動修正する自動修正手段とを備えたことを特徴とする。
【0009】
請求項1に記載の発明によれば、検索された画像データのうち被写体情報に誤りのある画像データの被写体情報を所定の情報に修正した場合に、被写体情報を修正する必要のある他の画像データを自動選択して選択された画像データの被写体情報を前記所定の情報に自動修正するようにしたので、被写体情報の修正を迅速に行うことができる。
【0010】
前記目的を達成するために請求項2に記載の画像管理装置は、被写体に関する情報である被写体情報がメタ情報として被写体の画像情報に付加された画像データを記録手段に保存する画像保存手段と、所望の被写体をユーザが指定する被写体指定手段と、前記記録手段に保存された画像データを被写体情報に基づいて検索し、前記指定された被写体を被写体情報に含む画像データを抽出する画像検索手段と、前記抽出された画像データの画像情報を表示手段に表示する表示制御手段と、前記表示された画像情報に基づいて、前記指定した被写体が画像情報に含まれていない画像データの被写体情報をユーザが所定の情報に修正する被写体情報修正手段と、前記被写体情報が修正された画像データに基づいて、前記抽出された画像データの中から被写体情報を修正する必要のある画像データを自動選択する要修正画像選択手段と、前記選択された画像データを前記表示手段に表示することにより、ユーザに被写体情報に誤りがある画像を提示する要修正画像提示手段とを備えたことを特徴とする。
【0011】
請求項2に記載の発明によれば、検索された画像データのうち被写体情報に誤りのある画像データの被写体情報を所定の情報に修正した場合に、被写体情報を修正する必要のある他の画像データを表示してユーザに修整を促すようにしたので、被写体情報の修正を迅速に行うことができる。
【0012】
請求項3に示すように請求項2に記載の画像管理装置において、前記要修正画像提示手段は、前記画像データのうち、画像情報、画像名、画像番号、画像識別子のうち少なくとも1つを前記表示手段に表示することを特徴とする。
【0013】
これにより、適切にユーザに被写体情報の修正を促すことができる。
【0014】
請求項4に示すように請求項1から3のいずれかに記載の画像管理装置において、前記要修正画像選択手段は、前記被写体情報が修正された画像データの画像情報と共に撮影された連写画像の画像データを選択する手段、前記被写体情報が修正された画像データの画像情報と構図が類似する画像情報の画像データを選択する手段、及び前記被写体情報が修正された画像データと撮影日時が近い画像データを選択する手段、のうち少なくとも1つの手段を備えたことを特徴とする。
【0015】
これにより、適切に被写体情報を修正する必要のある他の画像データを選択することができる。
【0016】
前記目的を達成するために請求項5に記載の画像管理装置は、被写体に関する情報である被写体情報がメタ情報として被写体の画像情報に付加された画像データを記録手段に保存する画像保存手段と、前記記録手段に保存された画像データについてグルーピングを行い、各グループに分類する画像グルーピング手段と、前記各グループ内の画像データから、被写体情報に共通する被写体が含まれない外れ画像データを抽出する外れ画像抽出手段と、前記抽出された外れ画像データの被写体情報を前記共通する被写体の被写体情報に自動修正する自動修正手段とを備えたことを特徴とする。
【0017】
請求項5に記載の発明によれば、グルーピングした各グループ内の画像データから共通する被写体が含まれない外れ画像データを抽出し、外れ画像データの被写体情報を共通する被写体の被写体情報に自動修正するようにしたので、被写体情報の修正を迅速に行うことができる。
【0018】
請求項6に示すように請求項5に記載の画像管理装置において、前記画像グルーピング手段は、一連の連写画像データをグルーピングする手段、画像情報の構図が類似する画像データをグルーピングする手段、及び撮影日時が近い画像データをグルーピングする手段、のうち少なくとも1つの手段を備えたことを特徴とする。
【0019】
これにより、適切に画像をグルーピングすることができる。
【0020】
請求項7に示すように請求項1から6のいずれかに記載の画像管理装置において、前記被写体情報は、被写体の名前、画像内の位置、大きさ、向き、確からしさの少なくとも1つの情報であることを特徴とする。
【0021】
これにより、適切に画像の検索を行い、被写体情報を修正することができる。
【0022】
請求項8に示すように請求項1から7のいずれかに記載の画像管理装置において、前記被写体情報は、人物に関する情報であることを特徴とする。
【0023】
これにより、人物情報の修正を迅速に行うことができる。
【0024】
前記目的を達成するために請求項9に記載の撮像装置は、請求項1から8のいずれかに記載の画像管理装置を有する撮像装置において、画像信号を取得する撮像手段と、前記画像信号に基づいて被写体を検出する検出手段と、前記検出した被写体の被写体情報を付与する被写体情報付与手段とを備えたことを特徴とする。
【0025】
これにより、撮像した画像に被写体情報を付与することができ、さらに被写体情報の修正を迅速に行うことができる。
【0026】
請求項10に示すように請求項9に記載の撮像装置において、被写体毎の特徴を記憶する被写体辞書と、前記被写体辞書に基づいて前記検出した被写体を特定する被写体認識手段とを備え、前記被写体情報付与手段は、前記特定結果に基づいて被写体情報を付与することを特徴とする。
【0027】
これにより、被写体辞書を用いて適切に被写体情報を付与することができる。
【0028】
前記目的を達成するために請求項11に記載の画像管理方法は、被写体に関する情報である被写体情報がメタ情報として被写体の画像情報に付加された画像データを記録手段に保存する画像保存工程と、ユーザからの所望の被写体の指定を受け付ける被写体指定受付工程と、前記記録手段に保存された画像データを被写体情報に基づいて検索し、前記指定された被写体を被写体情報に含む画像データを抽出する画像検索工程と、前記抽出された画像データの画像情報を表示手段に表示する表示制御工程と、前記表示された画像情報に基づいたユーザからの指示であって、前記指定した被写体が画像情報に含まれていない画像データの被写体情報を所定の情報へ修正するための指示を受け付ける修正指示受付工程と、前記指定した被写体が画像情報に含まれていない画像データの被写体情報を前記ユーザが指示した所定の情報に修正する被写体情報修正工程と、前記被写体情報が修正された画像データに基づいて、前記抽出された画像データの中から被写体情報を修正する必要のある画像データを自動選択する要修正画像選択工程と、前記選択された画像データの被写体情報を前記所定の情報に自動修正する自動修正工程とを備えたことを特徴とする。
【0029】
前記目的を達成するために請求項12に記載の画像管理方法は、被写体に関する情報である被写体情報がメタ情報として被写体の画像情報に付加された画像データを記録手段に保存する画像保存工程と、ユーザからの所望の被写体の指定を受け付ける被写体指定受付工程と、前記記録手段に保存された画像データを被写体情報に基づいて検索し、前記指定された被写体を被写体情報に含む画像データを抽出する画像検索工程と、前記抽出された画像データの画像情報を表示手段に表示する表示制御工程と、前記表示された画像情報に基づいたユーザからの指示であって、前記指定した被写体が画像情報に含まれていない画像データの被写体情報を所定の情報へ修正するための指示を受け付ける修正指示受付工程と、前記指定した被写体が画像情報に含まれていない画像データの被写体情報を前記ユーザが指示した所定の情報に修正する被写体情報修正工程と、前記被写体情報が修正された画像データに基づいて、前記抽出された画像データの中から被写体情報を修正する必要のある画像データを自動選択する要修正画像選択工程と、前記選択された画像データを前記表示手段に表示することにより、ユーザに被写体情報に誤りがある画像を提示する要修正画像提示工程とを備えたことを特徴とする。
【0030】
前記目的を達成するために請求項13に記載の画像管理方法は、被写体に関する情報である被写体情報がメタ情報として被写体の画像情報に付加された画像データを記録手段に保存する画像保存工程と、前記記録手段に保存された画像データについてグルーピングを行い、各グループに分類する画像グルーピング工程と、前記各グループ内の画像データから、被写体情報に共通する被写体が含まれない外れ画像データを抽出する外れ画像抽出工程と、前記抽出された外れ画像データの被写体情報を前記共通する被写体の被写体情報に自動修正する自動修正工程とを備えたことを特徴とする。
【0031】
前記目的を達成するために請求項14に記載のコンピュータに実現させるための画像管理プログラムは、被写体に関する情報である被写体情報がメタ情報として被写体の画像情報に付加された画像データを記録手段に保存する画像保存機能と、ユーザからの所望の被写体の指定を受け付ける被写体指定受付機能と、前記記録手段に保存された画像データを被写体情報に基づいて検索し、前記指定された被写体を被写体情報に含む画像データを抽出する画像検索機能と、前記抽出された画像データの画像情報を表示手段に表示する表示制御機能と、前記表示された画像情報に基づいたユーザからの指示であって、前記指定した被写体が画像情報に含まれていない画像データの被写体情報を所定の情報へ修正するための指示を受け付ける修正指示受付機能と、前記指定した被写体が画像情報に含まれていない画像データの被写体情報を前記ユーザが指示した所定の情報に修正する被写体情報修正機能と、前記被写体情報が修正された画像データに基づいて、前記抽出された画像データの中から被写体情報を修正する必要のある画像データを自動選択する要修正画像選択機能と、前記選択された画像データの被写体情報を前記所定の情報に自動修正する自動修正機能とを備えたことを特徴とする。
【0032】
前記目的を達成するために請求項15に記載のコンピュータに実現させるための画像管理プログラムは、被写体に関する情報である被写体情報がメタ情報として被写体の画像情報に付加された画像データを記録手段に保存する画像保存機能と、ユーザからの所望の被写体の指定を受け付ける被写体指定受付機能と、前記記録手段に保存された画像データを被写体情報に基づいて検索し、前記指定された被写体を被写体情報に含む画像データを抽出する画像検索機能と、前記抽出された画像データの画像情報を表示手段に表示する表示制御機能と、前記表示された画像情報に基づいたユーザからの指示であって、前記指定した被写体が画像情報に含まれていない画像データの被写体情報を所定の情報へ修正するための指示を受け付ける修正指示受付機能と、前記指定した被写体が画像情報に含まれていない画像データの被写体情報を前記ユーザが指示した所定の情報に修正する被写体情報修正機能と、前記被写体情報が修正された画像データに基づいて、前記抽出された画像データの中から被写体情報を修正する必要のある画像データを自動選択する要修正画像選択機能と、前記選択された画像データを前記表示手段に表示することにより、ユーザに被写体情報に誤りがある画像を提示する要修正画像提示機能とを備えたことを特徴とする。
【0033】
前記目的を達成するために請求項16に記載のコンピュータに実現させるための画像管理プログラムは、被写体に関する情報である被写体情報がメタ情報として被写体の画像情報に付加された画像データを記録手段に保存する画像保存機能と、前記記録手段に保存された画像データについてグルーピングを行い、各グループに分類する画像グルーピング機能と、前記各グループ内の画像データから、被写体情報に共通する被写体が含まれない外れ画像データを抽出する外れ画像抽出機能と、前記抽出された外れ画像データの被写体情報を前記共通する被写体の被写体情報に自動修正する自動修正機能とを備えたことを特徴とする。
【発明の効果】
【0034】
本発明によれば、画像のメタ情報として付加された被写体情報の修正を迅速に行うことができる。
【図面の簡単な説明】
【0035】
【図1】人物情報の修正処理を示すフローチャート
【図2】人物情報の修正処理の各工程の概要を示す図
【図3】一連の連写画像を示す図
【図4】構図が類似している画像を示す図
【図5】画像解析について説明するための図
【図6】人物情報の修正処理の各工程の概要を示す図
【図7】人物情報の修正処理の各工程の概要を示す図
【図8】検索結果の表示が異なる実施形態を示す図
【図9】デジタルカメラ10の電気的構成を示す図
【発明を実施するための形態】
【0036】
以下、添付図面に従って本発明に係る画像管理装置、画像管理方法及びプログラム、ならびに撮像装置の好ましい実施の形態について説明する。
【0037】
<画像管理装置の構成>
最初に、本発明に係る画像管理装置の具体的な適用例としてのデジタルカメラ10について説明する。
【0038】
図9は、本発明の一実施形態に係るデジタルカメラ10の電気的構成を示す図である。同図に示すように、デジタルカメラ10は、撮像部11、信号処理部14、画像入力コントローラ15、CPU16、操作部17、バス18、メモリ制御部19、メモリ20、デジタル信号処理部21、圧縮伸張処理部22、顔検出部23、顔認識部24、画像検索部25、記録媒体27、及び表示部29等から構成される。
【0039】
各部はCPU16に制御されて動作し、CPU16は、操作部17からの入力に基づき所定の制御プログラムを実行することにより、デジタルカメラ10の各部を制御する。操作部17は、ユーザがデジタルカメラ10に各種の指令を入力するための操作部材であり、シャッターボタン、モード切換スイッチ等から構成される。
【0040】
撮像部11は、撮像レンズ12及び撮像素子13から構成される。撮像レンズ12は、ズームレンズ、フォーカスレンズを含み、各レンズ駆動部(不図示)に駆動されて、ズーミング、フォーカシングを行う。
【0041】
撮像素子13は、撮像レンズ12の後段に配置されており、レンズ12を透過した被写体光を受光する。撮像素子13の受光面には多数の受光素子が二次元的に配列されており、各受光素子に対応して、赤(R)、緑(G)、青(B)の原色カラーフィルタが所定の配列構造で配置されている。受光面上に結像された被写体光は、各受光素子によって電気信号に変換され、蓄積される。
【0042】
各受光素子に蓄積された電気信号は、垂直転送路(不図示)に読み出される。垂直転送路は、この信号をタイミングジェネレータから供給されるクロックに同期して、1ラインずつ水平転送路(不図示)に転送する。さらに水平転送路は、垂直転送路から転送された1ライン分の信号を、タイミングジェネレータ(不図示)から供給されるクロックに同期して信号処理部14へ出力する。
【0043】
信号処理部14は、画像信号に含まれるリセットノイズを除去するための相関2重サンプリング回路(不図示)と、設定された撮影感度(ISO感度)に応じた所定のゲインで画像信号をアナログ的に増幅するための可変ゲインアンプ回路(不図示)とを含み、撮像素子13から出力された画像信号のリセットノイズを除去して増幅する。さらに、信号処理部14はA/D変換器(不図示)を備えており、所要の信号処理が施されたアナログの画像信号は、A/D変換部において所定ビットの階調幅を持ったデジタルの画像信号に変換される。この画像信号は、いわゆるRAWデータであり、画素毎にR、G、Bの濃度を示す階調値を有している。
【0044】
信号処理部14から出力されたRAWデータは、画像入力コントローラ15に入力される。画像入力コントローラ15は、所定容量のラインバッファを内蔵しており、信号処理部14から出力された画像信号を蓄積する。これらの画像信号は、バス18、メモリ制御部19を介してメモリ20に格納される。
【0045】
デジタル信号処理部21は、AWBゲイン算出部、AWB処理部、RGB/YC変換部等を含んで構成されており、メモリ20に格納されたR、G、BのRAWデータを読み出し、これらに光源種に応じたデジタルゲインをかけることでホワイトバランス調整を行うとともに、ガンマ(階調特性)処理及びシャープネス処理を行ってR、G、B信号を生成し、更にYC信号処理して輝度信号Yとクロマ信号Cr、Cb(YC信号)を生成し、そのYC信号を再びメモリ20に格納する。
【0046】
圧縮伸張処理部22は、CPU16からの圧縮指令に従い、入力されたYC信号に所定形式(たとえば、JPEG)の圧縮処理を施し、圧縮画像データを生成する。また、CPU16からの伸張指令に従い、入力された圧縮画像データに所定形式の伸張処理を施して、非圧縮の画像データを生成する。
【0047】
顔検出部23は、メモリ20に格納された画像信号から人物の顔を検出し、検出した顔の画像内の位置、サイズ、向きを検出する。
【0048】
顔認識部24は、複数の人物の顔の特徴が登録された人物辞書を用いて、顔検出部23によって検出された人物の顔について、人物辞書の各登録人物の顔のうち最も類似度が高い登録人物を抽出し、その登録人物の顔であると特定する。また、その認識結果の確からしさとして、0〜100%で表される顔認識の判定スコアを算出する。確からしさは、顔検出部23により検出された人物の顔と、登録人物のうち特定した人物の顔の類似度が高いほど、高い値が割り当てられる。
【0049】
画像検索部25は、記録媒体27に記録されている複数の画像の中から、後述する各画像のメタ情報を読み出すことにより、操作部17によってユーザに指定された検索条件に合致する画像を抽出する。
【0050】
記録媒体制御部26は、CPU16からの指令に従い、記録媒体27に対してデータの読み/書きを制御する。記録媒体27は、メモリカードのようにカメラ本体に対して着脱自在なものでもよいし、また、カメラ本体に内蔵されたものでもよい。着脱自在とする場合は、カメラ本体にカードスロットを設け、このカードスロットに装填して使用する。
【0051】
記録媒体27に記録される画像データは、画像本体を示す画像情報部分と、画像の付帯情報を示すメタ情報部分とから構成される。
【0052】
画像情報部分には、撮像部11で撮影した画像信号のYC信号が記録される。メタ情報部分には、その画像情報部分に撮影されている人物の人物情報として、名前、生年月日、属性、重要度、性別、画像内の位置、サイズ、向き、確からしさ等が記録されている。これらの情報は、デジタルカメラ10によって画像が撮影された際の、顔検出部23により検出された顔の画像内の位置、サイズ、向きと、顔認識部24による特定結果に基づいている。
【0053】
表示制御部28は、CPU16からの指令に従い、表示部29への表示を制御する。表示部29には、例えば、カラー液晶ディスプレイが用いられる。なお、液晶ディスプレイに代えて、有機ELなど他の方式の表示装置(表示手段)を用いてもよい。表示部29は、撮影時に画角確認用の電子ファインダーとして使用できるとともに、記録済み画像を再生表示する手段として利用される。また、表示部29は、ユーザインターフェース用表示画面としても利用され、必要に応じてメニュー情報や選択項目、設定内容などの情報が表示される。さらに、表示部29をタッチパネル構成とし、このタッチパネルを操作部17として用いてもよい。
【0054】
<第1の実施形態>
図1は、本実施形態における画像の人物情報の修正処理を示すフローチャートであり、図2は、この修正処理の各工程の概要を示す図である。ここでは、図2のプロセスP1に示すように、予め記録媒体27に複数の画像データが記録されているものとする。
【0055】
まず、ユーザは、記録媒体27に記録された画像の中から検索したい人物を指定する(ステップS1、プロセスP2)。人物の指定方法は、例えば操作部17を用いてその人物の名前を入力してもよいし、表示部29に表示された画像から指定してもよい。ここでは、検索したい人物の人物名「TARO」を、操作部17から入力したものとする。
【0056】
次に、記録媒体27に記録されている各画像を各画像の被写体情報に基づいて検索し、ステップS1で指定された人物と同じ人物が撮影されている画像を抽出する(ステップS2)。具体的には、画像検索部25が、記録媒体27に記録されている各画像の人物情報を読み出し、名前が「TARO」である画像を抽出する。なお、検索された条件に該当する画像が存在しない場合には、処理を終了する。
【0057】
ここでは、プロセスP3に示すように、検索結果として画像101〜106の6枚の画像が抽出されたものとする。即ち、この6枚の画像の人物情報には、人物名が「TARO」として記録されている。しかし実際には、画像104及び105は、人物名「TARO」に該当する人物が撮影されていないものとする。
【0058】
ユーザは、検索結果として抽出されたそれぞれの画像を閲覧することができる(ステップS4〜S7)が、人物情報に誤りがある場合には、その人物情報を修正することができる(ステップS8〜S10)。
【0059】
例えば、ユーザは、プロセスP2に示す6枚の画像を、表示部29を用いてそれぞれ閲覧することができる。画像の表示方法は、表示部29に1枚ずつ表示してもよいし、複数の画像を1画面に同時に並べて表示してもよい。
【0060】
ここで、画像104には人物名「TARO」に該当する人物が撮影されていないため、画像104を閲覧したユーザは、画像104の人物情報に誤りがあることを発見する(ステップS5)。ユーザは、操作部17を操作することで(プロセスP4)、人物情報の詳細閲覧画面を表示部29に表示させることができる(プロセスP5)。
【0061】
この画面は、図2のプロセスP5に示すように、画像データのメタ情報に記録された人物情報の他、画像内における該当人物の顔領域画像が拡大表示される。ここでは、プロセスP4において画像104を選択しているため、画像104に撮影されている人物の顔領域画像104´が表示されている。
【0062】
ユーザは、この詳細閲覧画面を表示させた状態で、操作部17を用いて人物情報を修正することが可能である。人物情報の修正は、全ての項目をユーザが入力して行ってもよいし、ユーザが名前の項目を入力することにより、入力された名前に該当する人物情報を人物辞書から参照し、名前以外の項目を自動的に修正してもよい。例えば、名前の欄に「HANAKO」と入力すると、CPU16が人物辞書から人物名「HANAKO」に該当する登録人物を検索し、誕生日や属性など、名前以外の情報を読み出し、読み出した情報を用いて自動的に修正する。
【0063】
人物情報の修正が終了すると、該当画像のメタ情報の人物情報が修正内容に基づいて書き換えられる。即ち、画像104の人物情報は、「TARO」の情報から「HANAKO」の情報に変更される(ステップS8、プロセスP6)。このとき、画像104の人物情報には予め「TARO」についての確からしさの情報が記録されているが、この情報は、「HANAKO」に対する確からしさとして、100%に変更される。
【0064】
次に、抽出された画像の中に、人物情報を修正した画像と類似する画像があるか否かを判定する(ステップS9)。図2の例では、検索結果である6枚の画像101〜106の中に、人物情報を修正した画像104と類似する画像があるか否かを判定する。
【0065】
類似画像の抽出については、例えば図3(a)〜(c)に示すような、一連の連写画像を類似画像であるとして抽出することが考えられる。これらの各画像は、メタ情報に連写フラグが記録されており、このメタ情報により一連の連写画像であることを判別することができる。また、メタ情報に連写フラグが記録されていない場合は、各画像の撮影日時がほぼ同じである場合に、連写画像と判断してもよい。
【0066】
また、類似画像の抽出について、図4(a)〜(c)に示すような、構図が類似している画像を類似画像であるとして抽出してもよい。構図が類似するか否かは、それぞれの画像を解析することにより判定する。
【0067】
この画像解析は、例えば図5に示すように、全画像領域を縦3×横4=12の局所領域に分割し、各局所領域についてRGB毎のヒストグラムを算出する。各色の分布を16段階とすると、1枚の画像の特徴ベクトル
【0068】
【数1】

【0069】
の次元数は、12領域×3色×16段階=576次元となる。ここで、画像iの特徴ベクトルを
【0070】
【数2】

【0071】
、画像jの特徴ベクトルを
【0072】
【数3】

【0073】
とすると、画像iと画像jの類似度simは、以下の式で表される。
【0074】
【数4】

【0075】
即ち、画像iと画像jの類似度simは、両画像の特徴ベクトル[数2]、[数3]の内積により算出される。このように、画像の構図の類似度を算出することができる。
【0076】
上記のような方法により、抽出された画像の中から、人物情報を修正した画像の類似画像を抽出する。類似画像が存在する場合は、その類似画像の人物情報についても誤りであるとみなして、類似画像の人物情報をステップS8で修正した人物情報を用いて修正する(ステップS10)。プロセスP7の場合であれば、画像104の類似画像と判定された画像105の人物情報を、プロセスP5において修正した「HANAKO」の情報に自動的に修正する。なお、画像105の人物情報には予め「TARO」についての確からしさの情報が記録されているが、この情報は、「HANAKO」に対する確からしさとして、画像104と画像105の類似度に応じた値に変更される。
【0077】
これらの処理を、抽出された全ての画像について行う(ステップS7)。プロセスP8は、人物情報修正後の検索結果を示す図であり、プロセスP3に示す6枚の画像から、人物名「TARO」に該当する人物が撮影されていなかった画像104、105が削除され、4枚の画像となっている。
【0078】
このように、人物情報が修正された場合に、修正された画像に類似する画像についても同様の修正が必要であると判断し、自動的に人物情報を修正することで、画像を1枚ずつ修正する必要がなくなり、ユーザの修正負担を軽減することができる。
【0079】
本実施形態では、ステップS2の検索結果として抽出されたそれぞれの画像を閲覧する場合に、表示部29に画像をそのまま表示したが(ステップS4〜S6、プロセスP4)、抽出された画像内の該当人物の顔領域画像を拡大表示してもよい。例えば、図8のプロセスP31に示す例では、プロセスP3において抽出された6枚の画像101〜104、106、107について、各画像の該当人物の顔領域画像101´〜104´、106´、107´を表示部29に一覧表示させている。このように表示させることで、検索結果の確認を容易に行うことができる。
【0080】
ここで、プロセスP31における検索結果表示画面において、ユーザが操作部17を用いて人物情報に誤りのある画像104´を選択すると、表示部29には、プロセスP32に示すように一旦その画像104が表示された後、プロセスP33に示すように人物情報の詳細閲覧画面が表示される。
【0081】
その後人物情報を修正すると、表示部29はプロセスP34に示すように検索結果を示す画面表示に戻るが、このとき、人物情報が修正された画像104の顔領域画像104´が削除されていると共に、顔領域画像104´が表示されていた位置が空白になっている。
【0082】
このように表示させることで、人物情報を修正したことにより、修正した画像が検索結果から排除されたことをユーザに認識させることができる。
【0083】
<第2の実施形態>
図6は、第2の実施形態における画像の人物情報の修正処理の各工程の概要を示す図である。なお、図2と共通する部分には同一の符号を付し、その詳細な説明は省略する。
【0084】
第1の実施形態と同様に、ユーザは、記録媒体27に記録された画像(プロセスP1)の中から検索したい人物(人物名「TARO」)を指定する(プロセスP2)。その検索結果として画像101〜106の6枚の画像が抽出される(プロセスP3)。
【0085】
さらにユーザは、画像104の人物情報に誤りがあることを発見し、操作部17を操作することで(プロセスP4)、人物情報の詳細閲覧画面を表示部29に表示させ(プロセスP5)、画像104の人物情報の修正を行う(人物名「HANAKO」に修正)。
【0086】
人物情報の修正が終了すると、画像104のメタ情報の人物情報が修正内容に基づいて書き換えられる。ここで、デジタルカメラ10は、抽出された6枚の画像の中に、人物情報を修正した画像104と類似する画像があるか否かを判定する。類似画像の抽出については、第1の実施形態と同様に行なえばよい。
【0087】
ここで、類似画像が存在する場合は、その類似画像の人物情報についても誤っている可能性があると判断し、表示部29にその類似画像を表示して提示する(プロセスP11)。類似画像と共に、表示部29に「この人物の情報を修正しますか?」等の文字を表示させ、ユーザに修正を促してもよい。また、画像自体を表示するのではなく、類似画像の画像名、画像番号、画像識別子を表示してもよいし、これらのものを複数組み合わせて表示してもよい。図6の例では、画像105が、人物情報を修正した画像104に類似すると判断されて表示されている。
【0088】
ここで、ユーザは、操作部17を操作することにより、人物情報の詳細閲覧画面を表示部29に表示させることができる(プロセスP12)。この画面を表示させた状態で、操作部17を用いて人物情報を修正することが可能である。
【0089】
画像105の人物情報を「TARO」から「HANAKO」に修正すると、図6のプロセスP8に示すように、検索結果として4枚の画像が抽出された状態となる。
【0090】
このように、人物情報が修正された場合に、修正された画像に類似する画像についても人物情報が誤っている可能性があると判断し、提示を行い、また修正を促すことで、画像を1枚ずつ確認する必要がなくなり、ユーザの修正負担を軽減することができる。
【0091】
なお、プロセスP11において、類似画像105の人物情報について、人物情報を修正した画像104と同様の修正を行うか否かをユーザに問いかけ、OKが選択された場合に類似画像105の人物情報を自動的に修正する態様も可能である。このように構成することで、画像を1枚ずつ確認しつつ修正作業を省略できるので、誤修正することなくユーザの修正負担を軽減することができる。
【0092】
<第3の実施形態>
図7は、第3の実施形態における画像の人物情報の修正処理の各工程の概要を示す図である。本実施形態においては、デジタルカメラ10がユーザ操作に寄らずに自動的に人物情報の誤りを発見し、修正を行う。この修正処理は、例えば一定時間以上ユーザ操作が行われなかったときに行う。
【0093】
デジタルカメラ10は、記録媒体27に記録された画像(プロセスP1)の中から、類似画像のグルーピング処理を行う(プロセスP21)。
【0094】
図7に示す例では、各画像をグループ111〜115の5つのグループに分類している。このグルーピング処理は、一連の連写画像を1つのグループとして分類したり、構図が類似する画像を1つのグループとして分類したり、撮影日時が近い画像を1つのグループとして分類したりすることが考えられる。
【0095】
画像検索部25は、各グループの画像について画像毎の人物情報を読み出し、グループ毎に同一の人物を含む画像であるか否かを判断する(プロセスP22)。デジタルカメラ10は、同一グループでありながら人物情報が異なっている場合に、人物情報が誤っているものとみなす。
【0096】
図7に示す例では、グループ113の3枚の画像121〜123のうち、画像121、122の人物情報と画像123の人物情報とが異なっているものとする。したがって、画像123の人物情報が誤っているものとみなし、画像123の人物情報を、画像121、122と同様の人物情報に自動的に修正する。
【0097】
このように、類似画像のグルーピングを行い、各グループの画像毎の人物情報を参照することにより、人物情報に誤りがある画像を抽出することができ、自動的に修正することができる。
【0098】
本明細書では、メタ情報に記録された人物情報のうち、名前に基づいて検索を行ない、人物情報を修正したが、検索を行って修正する情報は名前に限定されるものではなく、人物の画像内における位置、大きさ、向き、確からしさであってもよい。また、メタ情報の人物情報を修正する場合を例に説明したが、修正する情報は人物情報に限られず、例えば犬や猫等のペット情報であってもよい。
【0099】
なお、本発明に係る画像管理装置、画像管理方法及びプログラム、ならびに撮像装置は、デジタルカメラの他、画像を表示する機能を有する装置(例えば、画像ビューワ、携帯電話、パーソナルコンピュータ)、及び該装置を制御するための表示制御プログラムとしても実現可能である。
【符号の説明】
【0100】
10…デジタルカメラ、11…撮像部、12…撮像レンズ、13…撮像素子、16…CPU、17…操作部、20…メモリ、23…顔検出部、24…顔認識部、25…画像検索部、26…記録媒体制御部、27…記録媒体、28…表示制御部、29…表示部、101〜107…画像、101´〜107´…顔領域画像

【特許請求の範囲】
【請求項1】
被写体に関する情報である被写体情報がメタ情報として被写体の画像情報に付加された画像データを記録手段に保存する画像保存手段と、
所望の被写体をユーザが指定する被写体指定手段と、
前記記録手段に保存された画像データを被写体情報に基づいて検索し、前記指定された被写体を被写体情報に含む画像データを抽出する画像検索手段と、
前記抽出された画像データの画像情報を表示手段に表示する表示制御手段と、
前記表示された画像情報に基づいて、前記指定した被写体が画像情報に含まれていない画像データの被写体情報をユーザが所定の情報に修正する被写体情報修正手段と、
前記被写体情報が修正された画像データに基づいて、前記抽出された画像データの中から被写体情報を修正する必要のある画像データを自動選択する要修正画像選択手段と、
前記選択された画像データの被写体情報を前記所定の情報に自動修正する自動修正手段と、
を備えたことを特徴とする画像管理装置。
【請求項2】
被写体に関する情報である被写体情報がメタ情報として被写体の画像情報に付加された画像データを記録手段に保存する画像保存手段と、
所望の被写体をユーザが指定する被写体指定手段と、
前記記録手段に保存された画像データを被写体情報に基づいて検索し、前記指定された被写体を被写体情報に含む画像データを抽出する画像検索手段と、
前記抽出された画像データの画像情報を表示手段に表示する表示制御手段と、
前記表示された画像情報に基づいて、前記指定した被写体が画像情報に含まれていない画像データの被写体情報をユーザが所定の情報に修正する被写体情報修正手段と、
前記被写体情報が修正された画像データに基づいて、前記抽出された画像データの中から被写体情報を修正する必要のある画像データを自動選択する要修正画像選択手段と、
前記選択された画像データを前記表示手段に表示することにより、ユーザに被写体情報に誤りがある画像を提示する要修正画像提示手段と、
を備えたことを特徴とする画像管理装置。
【請求項3】
前記要修正画像提示手段は、前記画像データのうち、画像情報、画像名、画像番号、画像識別子のうち少なくとも1つを前記表示手段に表示することを特徴とする請求項2に記載の画像管理装置。
【請求項4】
前記要修正画像選択手段は、前記被写体情報が修正された画像データの画像情報と共に撮影された連写画像の画像データを選択する手段、前記被写体情報が修正された画像データの画像情報と構図が類似する画像情報の画像データを選択する手段、及び前記被写体情報が修正された画像データと撮影日時が近い画像データを選択する手段、のうち少なくとも1つの手段を備えたことを特徴とする請求項1から3のいずれかに記載の画像管理装置。
【請求項5】
被写体に関する情報である被写体情報がメタ情報として被写体の画像情報に付加された画像データを記録手段に保存する画像保存手段と、
前記記録手段に保存された画像データについてグルーピングを行い、各グループに分類する画像グルーピング手段と、
前記各グループ内の画像データから、被写体情報に共通する被写体が含まれない外れ画像データを抽出する外れ画像抽出手段と、
前記抽出された外れ画像データの被写体情報を前記共通する被写体の被写体情報に自動修正する自動修正手段と、
を備えたことを特徴とする画像管理装置。
【請求項6】
前記画像グルーピング手段は、一連の連写画像データをグルーピングする手段、画像情報の構図が類似する画像データをグルーピングする手段、及び撮影日時が近い画像データをグルーピングする手段、のうち少なくとも1つの手段を備えたことを特徴とする請求項5に記載の画像管理装置。
【請求項7】
前記被写体情報は、被写体の名前、画像内の位置、大きさ、向き、確からしさの少なくとも1つの情報であることを特徴とする請求項1から6のいずれかに記載の画像管理装置。
【請求項8】
前記被写体情報は、人物に関する情報であることを特徴とする請求項1から7のいずれかに記載の画像管理装置。
【請求項9】
請求項1から8のいずれかに記載の画像管理装置を有する撮像装置において、
画像信号を取得する撮像手段と、
前記画像信号に基づいて被写体を検出する検出手段と、
前記検出した被写体の被写体情報を付与する被写体情報付与手段と、
を備えたことを特徴とする撮像装置。
【請求項10】
被写体毎の特徴を記憶する被写体辞書と、
前記被写体辞書に基づいて前記検出した被写体を特定する被写体認識手段と、
を備え、
前記被写体情報付与手段は、前記特定結果に基づいて被写体情報を付与することを特徴とする請求項9に記載の撮像装置。
【請求項11】
被写体に関する情報である被写体情報がメタ情報として被写体の画像情報に付加された画像データを記録手段に保存する画像保存工程と、
ユーザからの所望の被写体の指定を受け付ける被写体指定受付工程と、
前記記録手段に保存された画像データを被写体情報に基づいて検索し、前記指定された被写体を被写体情報に含む画像データを抽出する画像検索工程と、
前記抽出された画像データの画像情報を表示手段に表示する表示制御工程と、
前記表示された画像情報に基づいたユーザからの指示であって、前記指定した被写体が画像情報に含まれていない画像データの被写体情報を所定の情報へ修正するための指示を受け付ける修正指示受付工程と、
前記指定した被写体が画像情報に含まれていない画像データの被写体情報を前記ユーザが指示した所定の情報に修正する被写体情報修正工程と、
前記被写体情報が修正された画像データに基づいて、前記抽出された画像データの中から被写体情報を修正する必要のある画像データを自動選択する要修正画像選択工程と、
前記選択された画像データの被写体情報を前記所定の情報に自動修正する自動修正工程と、
を備えたことを特徴とする画像管理方法。
【請求項12】
被写体に関する情報である被写体情報がメタ情報として被写体の画像情報に付加された画像データを記録手段に保存する画像保存工程と、
ユーザからの所望の被写体の指定を受け付ける被写体指定受付工程と、
前記記録手段に保存された画像データを被写体情報に基づいて検索し、前記指定された被写体を被写体情報に含む画像データを抽出する画像検索工程と、
前記抽出された画像データの画像情報を表示手段に表示する表示制御工程と、
前記表示された画像情報に基づいたユーザからの指示であって、前記指定した被写体が画像情報に含まれていない画像データの被写体情報を所定の情報へ修正するための指示を受け付ける修正指示受付工程と、
前記指定した被写体が画像情報に含まれていない画像データの被写体情報を前記ユーザが指示した所定の情報に修正する被写体情報修正工程と、
前記被写体情報が修正された画像データに基づいて、前記抽出された画像データの中から被写体情報を修正する必要のある画像データを自動選択する要修正画像選択工程と、
前記選択された画像データを前記表示手段に表示することにより、ユーザに被写体情報に誤りがある画像を提示する要修正画像提示工程と、
を備えたことを特徴とする画像管理方法。
【請求項13】
被写体に関する情報である被写体情報がメタ情報として被写体の画像情報に付加された画像データを記録手段に保存する画像保存工程と、
前記記録手段に保存された画像データについてグルーピングを行い、各グループに分類する画像グルーピング工程と、
前記各グループ内の画像データから、被写体情報に共通する被写体が含まれない外れ画像データを抽出する外れ画像抽出工程と、
前記抽出された外れ画像データの被写体情報を前記共通する被写体の被写体情報に自動修正する自動修正工程と、
を備えたことを特徴とする画像管理方法。
【請求項14】
被写体に関する情報である被写体情報がメタ情報として被写体の画像情報に付加された画像データを記録手段に保存する画像保存機能と、
ユーザからの所望の被写体の指定を受け付ける被写体指定受付機能と、
前記記録手段に保存された画像データを被写体情報に基づいて検索し、前記指定された被写体を被写体情報に含む画像データを抽出する画像検索機能と、
前記抽出された画像データの画像情報を表示手段に表示する表示制御機能と、
前記表示された画像情報に基づいたユーザからの指示であって、前記指定した被写体が画像情報に含まれていない画像データの被写体情報を所定の情報へ修正するための指示を受け付ける修正指示受付機能と、
前記指定した被写体が画像情報に含まれていない画像データの被写体情報を前記ユーザが指示した所定の情報に修正する被写体情報修正機能と、
前記被写体情報が修正された画像データに基づいて、前記抽出された画像データの中から被写体情報を修正する必要のある画像データを自動選択する要修正画像選択機能と、
前記選択された画像データの被写体情報を前記所定の情報に自動修正する自動修正機能と、
を備えたことを特徴とするコンピュータに実現させるための画像管理プログラム。
【請求項15】
被写体に関する情報である被写体情報がメタ情報として被写体の画像情報に付加された画像データを記録手段に保存する画像保存機能と、
ユーザからの所望の被写体の指定を受け付ける被写体指定受付機能と、
前記記録手段に保存された画像データを被写体情報に基づいて検索し、前記指定された被写体を被写体情報に含む画像データを抽出する画像検索機能と、
前記抽出された画像データの画像情報を表示手段に表示する表示制御機能と、
前記表示された画像情報に基づいたユーザからの指示であって、前記指定した被写体が画像情報に含まれていない画像データの被写体情報を所定の情報へ修正するための指示を受け付ける修正指示受付機能と、
前記指定した被写体が画像情報に含まれていない画像データの被写体情報を前記ユーザが指示した所定の情報に修正する被写体情報修正機能と、
前記被写体情報が修正された画像データに基づいて、前記抽出された画像データの中から被写体情報を修正する必要のある画像データを自動選択する要修正画像選択機能と、
前記選択された画像データを前記表示手段に表示することにより、ユーザに被写体情報に誤りがある画像を提示する要修正画像提示機能と、
を備えたことを特徴とするコンピュータに実現させるための画像管理プログラム。
【請求項16】
被写体に関する情報である被写体情報がメタ情報として被写体の画像情報に付加された画像データを記録手段に保存する画像保存機能と、
前記記録手段に保存された画像データについてグルーピングを行い、各グループに分類する画像グルーピング機能と、
前記各グループ内の画像データから、被写体情報に共通する被写体が含まれない外れ画像データを抽出する外れ画像抽出機能と、
前記抽出された外れ画像データの被写体情報を前記共通する被写体の被写体情報に自動修正する自動修正機能と、
を備えたことを特徴とするコンピュータに実現させるための画像管理プログラム。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7】
image rotate

【図8】
image rotate

【図9】
image rotate


【公開番号】特開2011−61451(P2011−61451A)
【公開日】平成23年3月24日(2011.3.24)
【国際特許分類】
【出願番号】特願2009−208363(P2009−208363)
【出願日】平成21年9月9日(2009.9.9)
【出願人】(306037311)富士フイルム株式会社 (25,513)
【Fターム(参考)】