説明

情報処理装置および情報処理方法

【課題】撮影によって既に取得済みの画像の撮影者をある確度をもって推定することができるようにすること。
【解決手段】撮影カメラ特定部11は、撮影者の推定対象となる注目画像と関連付けられているカメラの情報を取得し、カメラ所有者DB10を参照して、取得したカメラの情報と関連付けられた所有者を特定し、特定した所有者の情報に基づいて、複数の人物の各々が注目画像の撮影者であることの確からしさを示す第1の値を得る。撮影者判定部22は、注目画像に含まれる被写体画像と被写体DB13内の各人物画像との照合結果に基づいて、複数の人物の各々が注目画像の撮影者であることの確からしさを示す第2の値を得る。撮影者判定部22はさらに、第1および第2の値に基づいて、複数の人物の各々が注目画像の撮影者であることの確からしさを示す第3の値を得る。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、静止画および動画を管理するための情報処理技術に関する。
【背景技術】
【0002】
家庭において、デジタルスティルカメラ、ビデオカメラ、静止画および動画撮影機能付きの携帯端末などの撮像装置の普及にともない、撮影によって得られた静止画や動画を効率良く管理することが求められている。従来、撮影によって得られた静止画や動画をパーソナルコンピュータなど、大容量の記憶デバイスを備えた情報処理装置に格納し、撮影した日付、撮影した場所、撮影された人物、などによって管理する方法が知られている。
【0003】
ところで、管理対象の静止画および動画(以下、総称して「画像」という。)について誰が撮影した画像であるか特定したいという要望が存在する。この要望が存在する理由は主として以下の3つの場合である。
第1の場合は、管理対象の画像の撮影者に対して適切な撮影手法をフィードバックしたい場合である。例えば静止画が、手振れ、または不適切なホワイトバランス、逆光状態での撮影、不適切な構図などによって出来が良くないとき、その静止画の撮影者に対して画像の出来が良くない原因をフィードバックすることで、撮影者の撮影技術の向上が図れる。
第2の場合は、多数の画像を管理するときに、撮影者による分類を行いたい場合である。
第3の場合は、画像の撮影者の行動履歴、嗜好などの分析を行いたい場合である。
【0004】
画像に基づいてその画像の撮影者を特定する方法については、様々な技術が知られている。そのような様々な技術として例えば、撮影時に同時に記録された音声データにより撮影者情報を写真に埋め込む技術、カメラに指紋センサを搭載する技術、カメラのファインダ内に撮影者の網膜情報を読み取るセンサを搭載する技術などが知られている。
【0005】
画像の撮影者を特定する他の技術として例えば、撮影時において、撮影に使われた電子機器、撮影者、撮影場所、撮影時間等の撮影情報を識別情報として埋め込む技術や、撮影者をサムネイル画像によりアイコン表示させる技術が知られている。
【先行技術文献】
【特許文献】
【0006】
【特許文献1】特開2007−213183号公報
【特許文献2】特開2006−229293号公報
【特許文献3】特開2006−238075号公報
【特許文献4】特開2007−189470号公報
【特許文献5】特開2008−278351号公報
【特許文献6】特開2004−357145号公報
【特許文献7】特開2005−260441号公報
【特許文献8】特表2008−543224号公報
【発明の概要】
【発明が解決しようとする課題】
【0007】
画像に基づいてその画像の撮影者を特定する従来のいくつかの方法は、画像の撮影者を特定するために撮像装置に付加的なデバイスが組み込まれており、撮像装置が高価なものとなりやすい。また、他のいくつかの方法は、予め撮像装置側に撮影者を特定するための所定の情報を入力することが前提となっており、この入力処理に対応した撮像装置のみが撮影者を特定できるに過ぎない。そのような撮像装置であっても予め所定の情報が入力されていないか、または他の撮像装置が使用される場合には、画像の撮影者を特定することができない。
【0008】
よって、発明の1つの側面では、撮影によって既に取得済みの画像の撮影者をある確度をもって推定することができる情報処理装置および情報処理方法を提供することを目的とする。
【課題を解決するための手段】
【0009】
第1の観点では、画像の撮影者を推定する情報処理装置が提供される。
この情報処理装置は、
(A)撮像装置と、複数の人物のうち上記撮像装置の所有者とを予め関連付けた第1データベースを含む第1格納部;
(B)上記複数の人物とその各々の人物画像とを予め関連付けた第2データベースを含む第2格納部;
(C)撮影者の推定対象となる注目画像と関連付けられている撮像装置の情報を取得し、第1データベースを参照して、取得した上記撮像装置の情報と関連付けられた所有者を特定し、特定した上記所有者の情報に基づいて、上記複数の人物の各々が上記注目画像の撮影者であることの確からしさを示す第1の値を得る第1判定部;
(D)上記注目画像に含まれる被写体画像と第2データベース内の各人物画像との照合結果に基づいて、上記複数の人物の各々が上記注目画像の撮影者であることの確からしさを示す第2の値を得る第2判定部;
(E)上記第1および第2の値に基づいて、上記複数の人物の各々が上記注目画像の撮影者であることの確からしさを示す第3の値を得る第3判定部;
を備える。
【0010】
第2の観点では、画像の撮影者を推定する情報処理方法が提供される。
【発明の効果】
【0011】
開示の情報処理装置および情報処理方法によれば、撮影によって既に取得済みの画像の撮影者をある確度をもって推定することができる。
【図面の簡単な説明】
【0012】
【図1】実施形態の情報処理装置の構成を示すブロック図。
【図2】実施形態において撮影画像情報の例を示す図。
【図3】実施形態の情報処理装置の動作の全体を示すフローチャート。
【図4】実施形態の情報処理装置の撮影カメラ特定処理の詳細フローチャート。
【図5】実施形態においてカメラ所有者データベースの一例を示す図。
【図6】実施形態の情報処理装置の被写体判定処理の詳細フローチャート。
【図7】実施形態において被写体データベースの一例を示す図。
【図8】実施形態において被写体情報の一例を示す図。
【図9】実施形態の情報処理装置の撮影日時判定処理の詳細フローチャート。
【図10】実施形態の情報処理装置の撮影場所判定処理の詳細フローチャート。
【図11】実施形態の情報処理装置の撮影イベント判定処理の詳細フローチャート。
【図12】実施形態の情報処理装置の撮影モード判定処理の詳細フローチャート。
【図13】実施形態の情報処理装置の撮影者判定処理の詳細フローチャート。
【図14】実施形態において撮影者情報の一例を示す図。
【発明を実施するための形態】
【0013】
以下、情報処理装置および情報処理方法の一実施形態について説明する。
本実施形態の情報処理装置1は、例えばパーソナルコンピュータや携帯端末などであるが、CPUなどによって実現されうる演算機能、およびデータを記憶する記憶機能を備えていればこれらの機器に限定されない。デジタルスティルカメラ、ビデオカメラ、静止画および動画撮影機能付きの携帯端末などの撮像装置が上記機能を備えていれば、これらの撮像装置(以下の説明では、総称して「カメラ」と記述する。)も本実施形態の情報処理装置1として含まれうる。
【0014】
(1)情報処理装置1の構成
本実施形態の情報処理装置1は、撮影によって既に取得済みの画像の撮影者を、予め登録された複数の人物を含む母集団の中から、ある確度をもって推定することができるように構成されている。本実施形態の情報処理装置1の構成を示すブロック図を図1に示す。
図1に示すように、本実施形態の情報処理装置1は、カメラ所有者DB10(第1データベース)と、撮影カメラ特定部11(第1判定部)と、カメラ情報格納部12と、被写体DB13(第2データベース)と、被写体判定部14と、被写体情報格納部15と、撮影日時判定部16と、撮影場所判定部17と、撮影イベント判定部18と、撮影イベント情報格納部19と、撮影モード判定部20と、撮影モード情報格納部21と、撮影者判定部22(第2判定部、第3判定部)とを備えうる。
情報処理装置1は、撮影によって既に取得済みの画像の画像ファイルが複数含まれる撮影画像情報100を有するか、または撮影画像情報100にアクセス可能である。情報処理装置1は、各画像ファイルに対応する画像の撮影者を推定して、画像ファイルごとに推定した撮影者を記録した撮影者情報110を生成する。
【0015】
図2に、撮影画像情報100に含まれる複数の画像ファイルの例を示す。
各画像ファイルは、画像に対して、ファイルIndex、ファイル名、画像の属性、カメラID、撮影日時の情報、撮影場所の情報、撮影モード情報等が関連付けられている。ファイル名は、情報処理装置1上での画像のファイル名である。情報処理装置1がその画像の撮像装置であるか、または撮像装置内の画像ファイルをそのまま情報処理装置1にコピーした場合には、ファイル名は、その画像の撮像装置の基準に従って名前が付けられている。画像の属性は、図2に示す例では、静止画の場合に「P」、動画の場合に「M」として示している。画像の属性は通常、ファイルの拡張子から判別可能である。
【0016】
カメラIDは、対応する画像の撮影に使用された撮像装置としてのカメラについて、撮影カメラ特定部11によって特定された結果としての情報であり、撮影カメラ特定部11によって記録される。カメラIDは、同一のカメラに対して一意に定まる情報である。例えば図2において、「カメラA」となっている複数の画像が同一のカメラによる撮影で得られたものであることを意味する。
撮影日時の情報は、撮影日時判定部16によって記録される。画像が静止画の場合には画像ファイルにExif情報が含まれるため、Exif情報を参照して撮影日時の情報を記録してもよい。
撮影場所の情報は、撮影場所判定部17によって記録される。撮像装置にGPS(Global Positioning System)機能が含まれており、画像ファイルと撮影場所の情報としての緯度、経度の情報とが関連付けられている場合には、その緯度、経度の情報を撮影場所の情報として記録してもよい。
撮影モード情報は、撮影モード判定部20によって記録される。図2の例では、画像が遠隔制御またはタイマ制御によって得られた場合には「A」(後述する撮影モード係数=0の場合に対応)、手動で行われた場合には「M」(後述する撮影モード係数=1の場合に対応)として示している。このとき、上記Exif情報にはこの撮影モード情報が含まれるため、撮影モード判定部20は撮影モード情報を取得するためにExif情報を参照してもよい。
【0017】
本実施形態の情報処理装置1において、各部の機能は以下のとおりである。
撮影カメラ特定部11は、カメラ所有者DB10を参照して、注目画像(「複数の画像のうち処理対象となる画像」を意味する。)を撮影したカメラの所有者の情報に基づき、登録された各々の人物が撮影者であることの確からしさを示すカメラ係数を算出し、カメラ情報としてカメラ情報格納部12に記録する。
被写体判定部14は、被写体DB13を参照して、被写体DB13内に含まれる人物画像と、注目画像内の被写体画像とを照合することによって、後述する被写体情報を生成して被写体情報格納部15に記録する。
撮影日時判定部16は、注目画像の撮影日時を特定、または推定して撮影者情報110に記録する。撮影場所判定部17は、注目画像の撮影場所を特定、または推定して撮影者情報110に記録する。
撮影イベント判定部18は、注目画像の撮影日時の情報あるいは撮影場所の情報に基づいて、処理対象の複数の画像が同一イベントのものであることの関連付けを行い、その関連付けを示す撮影イベント情報を撮影イベント情報格納部19に記録する。
撮影モード判定部20は、注目画像の撮影モード情報を取得できる場合には、注目画像が遠隔制御またはタイマ制御によって得られたものであるか否かを示す撮影モード係数を設定して、画像と関連付けて撮影モード情報格納部21に記録する。
撮影者判定部22は、カメラ所有者DB10、カメラ情報格納部12、被写体情報格納部15、撮影イベント情報格納部19および撮影モード情報格納部21等にアクセスして、後述する所定の演算処理を行うことで、各画像の撮影者を推定して撮影者情報110に記録する。
【0018】
図1に示した情報処理装置1の構成において、撮影カメラ特定部11、被写体判定部14、撮影日時判定部16、撮影場所判定部17、撮影モード判定部20および撮影者判定部22はそれぞれ、図示しないCPUがプログラムを実行することによって得られる機能の一部であってよい。また、図1の複数のDBは、例えばHDD(Hard Disk Drive)などのデータストレージに格納されうる。図1の複数の格納部は、例えばRAM(Random Access Memory)などのメモリで構成されうる。
【0019】
(2)情報処理装置1の動作
次に、情報処理装置1の動作について、具体例を挙げつつ説明する。以下の説明では、図3〜14が適宜参照される。なお、以下の説明において、複数の画像のうち処理対象となる画像を「注目画像」と表記する。また、以下の動作例は、予め登録された複数の人物(母集団)に1つの家族内の複数の人物が含まれており、予め登録された複数の人物の中から特定の画像の撮影者が推定されるものとする。しかしながら、予め登録される母集団はこれに限られず任意に設定しうることは当業者によって理解される。
【0020】
図3は、情報処理装置1の動作の全体を示すフローチャートである。図3に示すように、情報処理装置1の動作は、以下の処理を含む。
・ステップS1:主として撮影カメラ特定部11で実行される撮影カメラ特定処理
・ステップS2:主として被写体判定部14で実行される被写体判定処理
・ステップS3:主として撮影日時判定部16で実行される撮影日時判定処理
・ステップS4:主として撮影場所判定部17で実行される撮影場所判定処理
・ステップS5:主として撮影イベント判定部18で実行される撮影イベント判定処理
・ステップS6:主として撮影モード判定部20で実行される撮影モード判定処理
・ステップS7:主として撮影者判定部22で実行される撮影者判定処理
【0021】
以下の説明で言及されるデータベースまたは情報の例を示す図における、「所有者ID」、「被写体ID」、「被写体名」は、説明の便宜のための表示例に過ぎず、実際のデータ処理においては、予め情報処理装置1に登録されている個々の人物に割り当てられた固有の番号またはコードによって管理されているものとする。
【0022】
(2−1)撮影カメラ特定処理
図4は、図3のステップS1の撮影カメラ特定処理の詳細フローチャートである。
図4において、ステップS11以降の処理は、撮影者を推定対象となるすべての画像の各々を対象として行われる(ステップS10)。撮影カメラ特定部11は先ず、注目画像に対してカメラ固有のカメラIDが関連付けられているか否か判定する(ステップS11)。ステップS12において、注目画像のExif情報にカメラIDが含まれている場合には、そのカメラIDがExif情報から抽出され、撮影画像情報100に記録される。また、画像のファイル名にはカメラの製造者固有のプリフィックス文字が自動的に付けられることが多く、このプリフィックス文字を参照することでカメラIDを得ることもできる。次に撮影カメラ特定部11は、ステップS12で得られたカメラIDを、カメラ所有者DB10と照合する(ステップS13)。そして、カメラ所有者DB10の中に、ステップS12で得られたカメラIDが存在するか否か判定される(ステップS14)。
【0023】
図5に、カメラ所有者DB10の一例を示す。
図5に示す例では、カメラ所有者DB10は、カメラ固有のカメラIDと、カメラの属性と、所有者IDとが関連付けられている。
【0024】
カメラ所有者DB10では、カメラの属性に応じて一意に定まる2つの相関パラメータが設定されている。図5で相関パラメータ1および相関パラメータ2はそれぞれ、所有者と撮影者との相関値を%で示すもの、および所有者以外の人間と撮影者との相関値を%で示すものである。「所有者と撮影者との相関値を%で示すもの」とは、「所有者が撮影者と一致する確率を%で示すもの」と言い換えることもできる。なお、相関パラメータは必ずしもカメラ所有者DB10内に設定されている必要はなく、カメラの属性をキーとして撮影カメラ特定部11がアクセス可能な別のデータ形態であってもよい。いずれにせよ、各相関パラメータは、カメラの属性に応じて一意に定まるように予め設定されている。
【0025】
図5に示す例では、カメラの属性がデジタルカメラ(以下、「デジタルスティルカメラ」を意味する。)である場合には、相関パラメータ1および相関パラメータ2をそれぞれ「70」、「20」としている。これは、デジタルカメラは近年、廉価なモデルが広まってきており、例えば家庭内で複数台所有される可能性があるものの、撮影者が所有者の場合、所有者以外の家族の場合の双方が想定されうるためである。但し、このパラメータは状況に応じて適宜設定されうることは言うまでもない。
図5に示す例では、カメラの属性がビデオカメラ(以下、「デジタルビデオカメラ」を意味する。)である場合には、相関パラメータ1および相関パラメータ2をそれぞれ「80」、「10」としている。これは、ビデオカメラは依然として高価であり、例えば家庭内で複数台所有される可能性が低いため、撮影者が所有者である可能性がデジタルカメラの場合よりも高いためである。但し、このパラメータは状況に応じて適宜設定されうることは言うまでもない。
図5に示す例では、カメラの属性が携帯電話機である場合には、相関パラメータ1および相関パラメータ2をそれぞれ「100」、「0」としている。これは、携帯電話機は個人所有の場合がほとんどであり、撮影者が所有者であると見なせるためである。但し、このパラメータは状況に応じて適宜設定されうることは言うまでもない。
【0026】
図4のステップS14で、カメラ所有者DB10の中にステップS12で得られたカメラIDが存在する場合には、撮影カメラ特定部11は、そのカメラIDと対応する相関パラメータの値を抽出する。さらに撮影カメラ特定部11は、注目画像ごとに、登録された複数の人物の各々に対応するカメラ係数を算出し、個々の人物とカメラ係数とを対応付けたカメラ情報をカメラ情報格納部12に記録する(ステップS15)。ここで、カメラ係数は、相関パラメータ1および相関パラメータ2に基づいて以下のとおり算出される。
【0027】
カメラ係数の算出方法は、以下のとおりである。
家族内の人物のうち注目画像の撮影に使用されたカメラの所有者のカメラ係数は、カメラの属性に応じた相関パラメータ1の値とする。また、家族内の人物のうち注目画像の撮影に使用されたカメラの所有者以外の人物のカメラ係数は、相関パラメータ2の値とする。家族内の人物以外の人物が登録されていた場合には、その人物のカメラ係数は、(1−相関パラメータ1−相関パラメータ2)とする。このようにカメラ係数を設定することにより、カメラ係数(第1の値)は、注目画像を撮影したカメラの所有者の情報に基づき、登録された各々の人物が撮影者であることの確からしさを示す値を示すことになる。
なお、ステップS11で、注目画像に対してカメラIDが関連付けられていない場合には、家族以外の人物によって注目画像が撮影されたことを意味する。よって、その場合には、撮影画像情報100において、注目画像に対応するカメラIDを例えば「その他」と記録し(ステップS16)、実質的にその注目画像を撮影者の推定対象から除外する。
【0028】
(2−2)被写体判定処理
図6は、図3のステップS2の被写体判定処理の詳細フローチャートである。
図6において、ステップS21以降の処理は、撮影者を推定対象となるすべての画像の各々を対象として行われる(ステップS20)。被写体判定部14は先ず、注目画像から被写体画像の抽出を試みる(ステップS21)。その結果、注目画像に被写体が写っていた場合には(ステップS22のYes)、被写体判定部14は、その被写体を被写体DB13と照合する(ステップS23)。顔認識技術を利用する場合には、注目画像から被写体画像として被写体の顔のみの一部画像が照合のために抽出される。
【0029】
図7に被写体DB13の一例を示す。
被写体DB13では少なくとも、登録されている複数の人物の各々のID(図7では、「被写体ID」と表記する。)と、各人物に対応する人物画像(図7のp001.jpg等)とが対応付けられている。各被写体IDに対応する人物画像は、注目画像から抽出された被写体画像との照合に利用される。画像の照合は例えば、公知の顔認識技術が適用されうる。
【0030】
ステップS23の照合の結果、被写体DB13内に合致する被写体が存在した場合には(ステップS24のYes)、被写体情報格納部15の被写体情報として、画像と、被写体IDと、被写体が一致している確率(被写体確率)とを、被写体情報として記録する(ステップS25)。このとき、例えば顔認識アルゴリズムで得られる被写体の合致度を被写体確率としてよい。注目画像に対して複数の被写体が存在する場合には、その各々の被写体に対しする被写体IDと被写体確率が画像に関連付けられる。
図8に、被写体情報の一例を示す。図8において、「Index」は被写体情報自体のIndexであり、「ファイルIndex」は画像のファイルIndexである。例えば、ファイルIndexが「4」の画像には、被写体IDが「3」、「4」、「5」である3人の人物が被写体として存在し、各々の被写体確率がそれぞれ、「70%」、「70%」、「80%」であることを示している。
【0031】
(2−3)撮影日時判定処理
図9は、図3のステップS3の撮影日時判定処理の詳細フローチャートである。
図9において、ステップS31以降の処理は、撮影者を推定対象となるすべての画像の各々を対象として行われる(ステップS30)。撮影日時判定部16は先ず、画像の撮影日時の解析を行う(ステップS31)。静止画の場合にはExif情報に撮影日時の情報が含まれているため、Exif情報を参照することで画像の撮影日時が得られる。また、動画の場合には通常、保存日時と関連付けられているため、保存日時を撮影日時として見なしてよい。また、動画の場合は通常、撮影期間も既知であるため、動画の保存日時から撮影期間だけ遡って得られる撮影開始日時を撮影日時と見なしてもよい。このように画像に関連付けられた撮影日時の情報が取得可能である場合には(ステップS32のYes)、撮影日時判定部16は、取得した撮影日時の情報を利用し(ステップS33)、その撮影日時の情報を撮影画像情報100内の画像ファイルの「撮影日時」の欄に記録する(ステップS35)。ステップS32でNoの場合には、画像ファイルのタイムスタンプを「撮影日時」の欄に記録する(ステップS34,S35)。
【0032】
(2−4)撮影場所判定処理
図10は、図3のステップS4の撮影場所判定処理の詳細フローチャートである。
図10において、ステップS41以降の処理は、撮影者を推定対象となるすべての画像の各々を対象として行われる(ステップS40)。撮影場所判定部17は先ず、注目画像の撮影場所の解析を行う(ステップS41)。注目画像を撮影したカメラにGPS機能が含まれており、画像と撮影場所の情報としての緯度、経度の情報とが関連付けられて情報処理装置1に取り込まれている場合には、その緯度、経度の情報を撮影場所の情報として取得可能である。このような場合には(ステップS42のYes)、取得した撮影場所の情報を利用し(ステップS43)、その撮影場所の情報を撮影画像情報100内の画像ファイルの「撮影場所」の欄に記録する(ステップS44)。ステップS42でNoの場合には、撮影画像情報100内の画像ファイルの「撮影場所」の欄に何も記録されない。
【0033】
(2−5)撮影イベント判定処理
図11は、図3のステップS5の撮影イベント判定処理の詳細フローチャートである。
図11では先ず、撮影イベント判定部18は、撮影画像情報100を撮影日時または撮影場所でソートし(ステップS50)、ステップS52以降の処理を、撮影者を推定対象となるすべての画像の各々を対象として行う(ステップS51)。なお、図11では、ステップS52以降の処理について、ステップS50のソート処理が撮影日時でソートされた場合について例示している。
先ず複数の画像のうち最初の画像(つまり、撮影時刻が最も早い画像)の処理である場合には(ステップS52のYes)、撮影イベント判定部18は、変数Timeに最初の画像の撮影時刻の値を格納して(ステップS53)、ステップS51に戻り2個目の画像(つまり、2番目に撮影時刻が早い画像)の処理に移る。撮影イベント判定部18は、2個目の画像の処理ではステップS54へ進み、変数Timeの値(最初の画像の撮影時刻)と現在処理中の画像(2個目の画像)の撮影時刻の差を計算する。その結果、撮影時刻の差が所定の閾値よりも小さい場合には、撮影イベント判定部18は、対応する複数の画像が同一イベントのものであることを示す撮影イベント情報を撮影イベント情報格納部19に記録して(ステップS56)、ステップS53へ進む。複数の画像間で撮影時刻の差が所定の閾値(例えば数秒等の短時間の値に設定される)よりも小さい場合にはその複数の画像の撮影者が同一である可能性が高いため、撮影イベント情報を記録しておくことは、後の処理において撮影者の推定精度を高めるのに役立つ。撮影時刻の差が所定の閾値以上である場合には、ステップS53へ進む。
ステップS53では、変数Timeの値が現在処理中の画像、すなわち2個目の画像の撮影時刻の値が格納される。その後、3個目の画像(つまり、3番目に撮影時刻が早い画像)についての処理が行われる。以後、同様にして、ソートされたすべての画像を対象に処理が行われる。上記処理では、撮影日時でソートされた複数の画像のうち隣接した画像の間で撮影時刻がある程度近接した複数の画像については同一イベントでの撮影によって得られたものと推定し、撮影イベント情報では複数の画像が同一イベントによるものとして関連付けられる。
【0034】
(2−6)撮影モード判定処理
図12は、図3のステップS6の撮影モード判定処理の詳細フローチャートである。
図12において、ステップS61以降の処理は、撮影者を推定対象となるすべての画像の各々を対象として行われる(ステップS60)。撮影モード判定部20は先ず、注目画像が遠隔制御(いわゆるリモコン撮影)またはタイマ制御(タイマ撮影)によって得られたものか否かについての情報を含む撮影モード情報を取得できるか判定される(ステップS61)。例えば、画像に対応して取得可能なExif情報には、撮影モード情報として、遠隔制御またはタイマ制御によって得られたものか否かについての情報のほか、絞り値などの情報も含まれている。このようなExif情報等によって撮影モード情報を取得できる場合には(ステップS61のYes)、撮影モード情報に基づき、注目画像が遠隔制御またはタイマ制御によって得られたものか否か判定される(ステップS62)。その結果、撮影モード判定部20は、注目画像が遠隔制御またはタイマ制御によって得られたものである場合には撮影モード係数を「0」に設定し(ステップS63)、そうでない場合には撮影モード係数を「1」に設定する(ステップS64)。そして、画像と、その画像の撮影モード係数とが関連付けられたデータである撮影モード情報が、撮影モード情報格納部21に格納される(ステップS65)。
【0035】
(2−7)撮影者判定処理
図13は、図3のステップS7の撮影者判定処理の詳細フローチャートである。また、図14は、撮影者判定処理において逐次記録される撮影者情報110の一例を示す図である。
図13において、ステップS71以降の処理は、撮影者を推定対象となるすべての画像の各々を対象として行われる(ステップS70)。撮影者判定部22は先ず、カメラ情報格納部12にアクセスし、カメラ係数、すなわち、注目画像に対応付けられた、個々の人物とカメラ係数の情報を取得する。撮影者判定部22は次に、被写体情報格納部15にアクセスして、注目画像に対応付けられた被写体IDごとの被写体確率を取得するともに、登録されている個々の人物に対する被写体係数を算出する(ステップS72)。
【0036】
ここで、被写体係数(第2の値)は、被写体画像の照合結果に基づいて、登録された各々の人物が注目画像の撮影者であることの確からしさを示す値である。以下、注目画像に含まれている被写体に応じた、被写体係数の算出方法について、いくつかの場合(以下の(A1)〜(A5))に分けて説明する。なお、以下の説明において「被写体として注目画像に含まれている場合」とは、例えば図6のステップS21で被写体画像が注目画像から抽出された場合を意味する。「所有者」とは、カメラ所有者DB10を参照して得られる、注目画像の撮影に使用されたカメラの所有者を意味する。
【0037】
(A1)所有者のみが被写体として注目画像に含まれている場合
カメラ所有者DB10を参照することによって、所有者が被写体として画像に含まれていることが判明した場合には、以下のとおりに被写体係数を算出する。
・所有者に対する被写体係数=1−(所有者の被写体確率)
・所有者以外の家族内の人物に対する被写体係数=1
・家族以外の第三者に対する被写体係数=1
上記のように設定する理由は、仮にカメラの所有者が注目画像内の被写体として確実に含まれる場合、撮影者がその所有者である可能性はないが、実際には、顔認識などのパターン認識によってまったく誤り無く認識できるということがないためである。また、この場合、カメラの所有者以外の人物はすべて撮影者である可能性が均等に存在するため、その被写体係数を「1」としている。なお、被写体係数を「1」とすることは、後述する撮影者確率が実質的に、カメラ係数によって定まることを意味する(後記の式(E1)参照)。
【0038】
(A2)家族全員が被写体として注目画像に含まれている場合
被写体情報を参照し、家族の全員が一定の閾値以上の被写体確率と対応付けられている場合
この場合には、家族以外の第三者に注目画像の撮影を依頼した可能性が高い。よって、以下のとおり、家族以外の第三者に対する被写体係数を少し高めに設定することが好ましい。
・所有者に対する被写体係数=1−(家族全員の被写体確率の乗算値)
・所有者以外の家族内の人物に対する被写体係数=1−(家族全員の被写体確率の乗算値)
・家族以外の第三者に対する被写体係数=(家族全員の被写体確率の乗算値)×1.2
ここで、「家族全員の被写体確率の乗算値」は、家族全員が被写体として存在する確率を表す。また、家族以外の第三者に対する被写体係数を20%高く設定した例を示したが、これに限られず、任意に設定しうる。
【0039】
(A3)家族内で所有者と特定の人物のみが被写体として注目画像に含まれておらず、所有者とその特定の人物以外の家族内の人物がすべて被写体として注目画像に含まれている場合
この場合には、所有者のほか、その特定の人物も撮影者である可能性が高いため、その特定の人物に対する被写体係数を他の家族の人物(被写体として含まれている人物)に対するそれよりも少し高く(以下の設定例では20%高く)設定して、以下のとおりとする。
・所有者に対する被写体係数=1−(所有者の被写体確率)
・上記特定の人物に対する被写体係数=(1−(その人物の被写体確率))×1.2
・所有者および上記特定の人物以外の家族内の人物に対する被写体係数
=1−(その人物の被写体確率)
・家族以外の第三者に対する被写体係数=1−(第三者の被写体確率)
【0040】
(A4)家族内の所有者のみが被写体として注目画像に含まれておらず、所有者以外の家族内の人物がすべて被写体として注目画像に含まれている場合
この場合には、その所有者が撮影者である可能性が極めて高い。このとき、被写体係数の設定は以下のとおりとする。
・所有者に対する被写体係数=1−(所有者の被写体確率)
・所有者以外の家族内の人物に対する被写体係数=1−(その人物の被写体確率)
・家族以外の第三者に対する被写体係数=1−(第三者の被写体確率)
【0041】
(A5)被写体として注目画像に含まれていない、または被写体が注目画像に含まれているか特定できない場合(例えば、混雑した状態で多くの人が含まれている画像や、風景のみの画像等)
この場合には、以下のように被写体係数を設定して、被写体確率が実質的に考慮されないようにする。
・所有者に対する被写体係数=1
・所有者以外の家族内の人物に対する被写体係数=1
・家族以外の第三者に対する被写体係数=1
【0042】
図13の説明に戻る。
上述したようにして、登録されている個々の人物に対する被写体係数を算出した後、ステップS73に進む。ステップS73において、撮影者判定部22は、撮影イベント情報格納部19にアクセスして、注目画像に関連する撮影イベント情報を取得する(ステップS73)。撮影イベント情報は、前述したように、対応する複数の画像が同一イベントのものであることを示す情報であり、後述する第1の補正処理に利用されうる。
撮影者判定部22は次に、撮影モード情報格納部21にアクセスして、撮影モード情報から注目画像に対応する撮影モード係数を取得する(ステップS74)。撮影モード係数は、前述したように、注目画像が遠隔制御またはタイマ制御によって得られたものであるか否かを示す値であり、後述する第2の補正処理に利用されうる。
【0043】
ステップS75では先ず、ステップS71で取得したカメラ係数と、ステップS72で算出した被写体係数とに基づいて、撮影者確率(第3の値)を以下の式(E1)に従って算出する。
【0044】
撮影者確率(%)=カメラ係数×被写体係数 ・・・(E1)
【0045】
撮影者確率は、注目画像について、登録された各々の人物が撮影者であることの確からしさを総合的に示す値である。ここで、カメラ係数は、注目画像を撮影したカメラの所有者の情報に基づき、登録された各々の人物が撮影者であることの確からしさを示す値である。被写体係数は、被写体画像の照合結果に基づいて、登録された各々の人物が注目画像の撮影者であることの確からしさを示す値である。よって、カメラ係数と被写体係数を乗算することで、注目画像に対する、登録された各々の人物に対する撮影者確率について、センサ等の補助デバイスを利用することなく精度良く得ることができる。
【0046】
ステップS75ではさらに、ステップS73で取得した撮影イベント情報に基づいて、撮影者確率に対する第1の補正処理を行うことが好ましい。第1の補正処理では、撮影イベント情報に基づき、現在処理している注目画像と、既に撮影者確率を算出済みの画像(「処理済み画像」という。)とが同一イベントのものである場合に、以下の処理を行う。
すなわち、注目画像と処理済み画像とが同一のカメラによって撮影されたものであって、対応する同一人物の撮影者確率が異なる場合には、両者の撮影者確率を、補正前の高い方の値となるように補正する。例えば、ある人物に対する処理済み画像の撮影者確率が80%であって、その人物に対する注目画像の撮影者確率が70%であれば、撮影者判定部22は、注目画像の撮影者確率が80%となるように補正する。かかる補正によって、同一イベントで複数の画像が撮影された場合に、より鮮明に写っている画像に基づく撮影者確率が共通に適用されることになるので、撮影者確率の算出精度が向上し、ひいては撮影者の推定精度を高めることができる。
一方、注目画像と処理済み画像とが異なるカメラによって撮影されたものであるということは、極めて短時間(例えば数秒間)で撮影者が切り替わった状況を意味するが、かかる状況は通常、想定し難い。よって、注目画像と処理済み画像とが異なるカメラによって撮影されたものであって、対応する同一人物の撮影者確率が異なる場合には、両者の撮影者確率を、補正前の低い方の値となるように補正してもよい。そのような状況では、撮影者確率の精度の信頼性が低いと考えられるためである。
【0047】
ステップS75ではさらに、ステップS74で取得した撮影モード係数に基づいて、撮影者確率に対する第2の補正処理を行うことが好ましい。第2の補正処理では、撮影モード係数が「0」である場合、すなわち、注目画像が遠隔制御またはタイマ制御によって得られたものである場合に、実質的にその注目画像を撮影者の推定対象から外す処理を行う。注目画像が遠隔制御またはタイマ制御によって得られたものでない場合には、第2の補正処理では、実質的に何も行われない。より具体的には、第2の補正処理では、上記式(E1)で算出した補正前の撮影者確率を、以下の式(E2)のとおり補正する。
【0048】
第2の補正後の撮影者確率=補正前の撮影者確率×撮影モード係数 ・・・(E2)
【0049】
この第2の補正処理では、注目画像が遠隔制御またはタイマ制御によって得られたものである場合には、撮影者確率が「0」となるため、注目画像は実質的に撮影者の推定対象から外される。このような処理を行う理由は、画像が遠隔制御またはタイマ制御によって得られた場合、その画像の撮影者に撮影技術などのフィードバックを行う必要がないと考えられるためである。
【0050】
以上がステップS75の処理である。
注目画像に対する個々人の撮影者確率が算出されると、撮影者確率の最も大きい人物を撮影者と推定し、その撮影者および撮影者確率を注目画像と関連付けて撮影者情報110に記録する(ステップS76)。図14は、撮影者情報110の一例を示す図である。図14に示す例では、画像ファイルごとに、推定された撮影者とその撮影者確率が記録される。ここで、注目画像に対する個々人の撮影者確率のうち最も大きい撮影者確率が所定の閾値よりも小さい場合には、撮影者を記録せずに撮影者が「不明」として記録してもよい。注目画像に対する個々人の撮影者確率のすべてがそれほど高くない場合には、撮影者推定の信頼性が低いと考えられるためである。また、図14の例に示すように、遠隔制御またはタイマ制御によって得られた場合、すなわち撮影モード係数=0の場合の撮影者を「自動」として記録してもよい。
【0051】
以上、本発明の実施形態について詳細に説明したが、本発明の情報処理装置および情報処理方法は上記実施形態に限定されず、本発明の主旨を逸脱しない範囲において、種々の改良や変更をしてもよいのは勿論である。
【0052】
以上の各実施形態に関し、さらに以下の付記を開示する。
【0053】
(付記1)
画像の撮影者を推定する情報処理装置であって、
撮像装置と、複数の人物のうち前記撮像装置の所有者とを予め関連付けた第1データベースを含む第1格納部と、
前記複数の人物とその各々の人物画像とを予め関連付けた第2データベースを含む第2格納部と、
撮影者の推定対象となる注目画像と関連付けられている撮像装置の情報を取得し、第1データベースを参照して、取得した前記撮像装置の情報と関連付けられた所有者を特定し、特定した前記所有者の情報に基づいて、前記複数の人物の各々が前記注目画像の撮影者であることの確からしさを示す第1の値を得る第1判定部と、
前記注目画像に含まれる被写体画像と第2データベース内の各人物画像との照合結果に基づいて、前記複数の人物の各々が前記注目画像の撮影者であることの確からしさを示す第2の値を得る第2判定部と、
前記第1および第2の値に基づいて、前記複数の人物の各々が前記注目画像の撮影者であることの確からしさを示す第3の値を得る第3判定部と、
を備えた情報処理装置。
【0054】
(付記2)
前記第3判定部は、前記注目画像が複数存在するとき、その複数の注目画像のうち任意の2つの注目画像に関連付けられている撮影時刻の差が所定の閾値よりも小さく、かつ前記2つの注目画像の各々と関連付けられている撮像装置が同一である場合、前記2つの注目画像についての前記第3の値を、前記第1および第2の値に基づいて得られた2つの値のうち大きい方の値に共になるように補正する、
付記1に記載された情報処理装置。
【0055】
(付記3)
前記第3判定部は、前記注目画像が撮像装置の遠隔制御またはタイマ制御によって得られた場合には、その注目画像を実質的に撮影者の推定対象から除外する、
付記1または2に記載された情報処理装置。
【0056】
(付記4)
前記第3判定部は、前記複数の人物の各々についての前記第3の値のうち最も大きい値が所定の閾値以上である場合に、その最も大きい値に対応する人物を前記注目画像の撮影者であると推定する、
付記1〜3のいずれかに記載された情報処理装置。
【0057】
(付記5)
画像の撮影者を推定する情報処理方法であって、
撮像装置と、複数の人物のうち前記撮像装置の所有者とを予め関連付けた第1データベースを用意するステップと、
前記複数の人物とその各々の人物画像とを予め関連付けた第2データベースを用意するステップと、
撮影者の推定対象となる注目画像と関連付けられている撮像装置の情報を取得し、第1データベースを参照して、取得した前記撮像装置の情報と関連付けられた所有者を特定し、特定した前記所有者の情報に基づいて、前記複数の人物の各々が前記注目画像の撮影者であることの確からしさを示す第1の値を得るステップと、
前記注目画像に含まれる被写体画像と第2データベース内の各人物画像との照合結果に基づいて、前記複数の人物の各々が前記注目画像の撮影者であることの確からしさを示す第2の値を得るステップと、
前記第1および第2の値に基づいて、前記複数の人物の各々が前記注目画像の撮影者であることの確からしさを示す第3の値を得るステップと、
を含む情報処理方法。
【0058】
(付記6)
前記注目画像が複数存在するとき、その複数の注目画像のうち任意の2つの注目画像に関連付けられている撮影時刻の差が所定の閾値よりも小さく、かつ前記2つの注目画像の各々と関連付けられている撮像装置が同一である場合、前記2つの注目画像についての前記第3の値を、前記第1および第2の値に基づいて得られた2つの値のうち大きい方の値に共になるように補正するステップをさらに有する、
付記5に記載された情報処理方法。
【0059】
(付記7)
前記注目画像が撮像装置の遠隔制御またはタイマ制御によって得られた場合には、その注目画像を実質的に撮影者の推定対象から除外するステップをさらに有する、
付記5または6に記載された情報処理方法。
【0060】
(付記8)
前記複数の人物の各々についての前記第3の値のうち最も大きい値が所定の閾値以上である場合に、その最も大きい値に対応する人物を前記注目画像の撮影者であると推定するステップをさらに有する、
付記5〜7のいずれかに記載された情報処理方法。
【符号の説明】
【0061】
100…撮影画像情報
110…撮影者情報
1…情報処理装置
10…カメラ所有者DB
11…撮影カメラ特定部
12…カメラ情報格納部
13…被写体DB
14…被写体判定部
15…被写体情報格納部
16…撮影日時判定部
17…撮影場所判定部
18…撮影イベント判定部
19…撮影イベント情報格納部
20…撮影モード判定部
21…撮影モード情報格納部
22…撮影者判定部

【特許請求の範囲】
【請求項1】
画像の撮影者を推定する情報処理装置であって、
撮像装置と、複数の人物のうち前記撮像装置の所有者とを予め関連付けた第1データベースを含む第1格納部と、
前記複数の人物とその各々の人物画像とを予め関連付けた第2データベースを含む第2格納部と、
撮影者の推定対象となる注目画像と関連付けられている撮像装置の情報を取得し、第1データベースを参照して、取得した前記撮像装置の情報と関連付けられた所有者を特定し、特定した前記所有者の情報に基づいて、前記複数の人物の各々が前記注目画像の撮影者であることの確からしさを示す第1の値を得る第1判定部と、
前記注目画像に含まれる被写体画像と第2データベース内の各人物画像との照合結果に基づいて、前記複数の人物の各々が前記注目画像の撮影者であることの確からしさを示す第2の値を得る第2判定部と、
前記第1および第2の値に基づいて、前記複数の人物の各々が前記注目画像の撮影者であることの確からしさを示す第3の値を得る第3判定部と、
を備えた情報処理装置。
【請求項2】
前記第3判定部は、前記注目画像が複数存在するとき、その複数の注目画像のうち任意の2つの注目画像に関連付けられている撮影時刻の差が所定の閾値よりも小さく、かつ前記2つの注目画像の各々と関連付けられている撮像装置が同一である場合、前記2つの注目画像についての前記第3の値を、前記第1および第2の値に基づいて得られた2つの値のうち大きい方の値に共になるように補正する、
請求項1に記載された情報処理装置。
【請求項3】
前記第3判定部は、前記注目画像が撮像装置の遠隔制御またはタイマ制御によって得られた場合には、その注目画像を実質的に撮影者の推定対象から除外する、
請求項1または2に記載された情報処理装置。
【請求項4】
前記第3判定部は、前記複数の人物の各々についての前記第3の値のうち最も大きい値が所定の閾値以上である場合に、その最も大きい値に対応する人物を前記注目画像の撮影者であると推定する、
請求項1〜3のいずれかに記載された情報処理装置。
【請求項5】
画像の撮影者を推定する情報処理方法であって、
撮像装置と、複数の人物のうち前記撮像装置の所有者とを予め関連付けた第1データベースを用意するステップと、
前記複数の人物とその各々の人物画像とを予め関連付けた第2データベースを用意するステップと、
撮影者の推定対象となる注目画像と関連付けられている撮像装置の情報を取得し、第1データベースを参照して、取得した前記撮像装置の情報と関連付けられた所有者を特定し、特定した前記所有者の情報に基づいて、前記複数の人物の各々が前記注目画像の撮影者であることの確からしさを示す第1の値を得るステップと、
前記注目画像に含まれる被写体画像と第2データベース内の各人物画像との照合結果に基づいて、前記複数の人物の各々が前記注目画像の撮影者であることの確からしさを示す第2の値を得るステップと、
前記第1および第2の値に基づいて、前記複数の人物の各々が前記注目画像の撮影者であることの確からしさを示す第3の値を得るステップと、
を含む情報処理方法。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7】
image rotate

【図8】
image rotate

【図9】
image rotate

【図10】
image rotate

【図11】
image rotate

【図12】
image rotate

【図13】
image rotate

【図14】
image rotate


【公開番号】特開2012−39490(P2012−39490A)
【公開日】平成24年2月23日(2012.2.23)
【国際特許分類】
【出願番号】特願2010−179251(P2010−179251)
【出願日】平成22年8月10日(2010.8.10)
【出願人】(000005223)富士通株式会社 (25,993)
【Fターム(参考)】