情報処理装置、情報処理方法
【課題】 画像に関連する情報をより簡便な方法でもってこの画像に関係付けるための技術を提供すること。
【解決手段】 関連度評価部204は、撮影機器により撮影された画像のうち指定された画像の撮影時刻の近傍時刻範囲内のそれぞれの時刻における撮影機器の位置情報を取得する。更に関連度評価部204は、上記近傍時刻範囲内のそれぞれの時刻における移動体の位置情報を取得する。そして関連度評価部204は、取得した位置情報群に基づいて、撮影機器の移動経路と移動体の移動経路との間の類似度を求め、求めた類似度に基づいて、指定された画像と移動体との関連度を決定する。関係付け部205は、関連度を示す情報を、指定された画像と関係付けて登録する。
【解決手段】 関連度評価部204は、撮影機器により撮影された画像のうち指定された画像の撮影時刻の近傍時刻範囲内のそれぞれの時刻における撮影機器の位置情報を取得する。更に関連度評価部204は、上記近傍時刻範囲内のそれぞれの時刻における移動体の位置情報を取得する。そして関連度評価部204は、取得した位置情報群に基づいて、撮影機器の移動経路と移動体の移動経路との間の類似度を求め、求めた類似度に基づいて、指定された画像と移動体との関連度を決定する。関係付け部205は、関連度を示す情報を、指定された画像と関係付けて登録する。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、画像と、この画像に関連する情報との関係付け技術に関するものである。
【背景技術】
【0002】
従来、画像に関連する人物等の情報は、被写体の顔画像から認識処理によって自動で付与する方法(非特許文献1)や、電子タグを撮影対象に保持させておき、カメラで電子タグを読み込み、画像と対象を自動で関係付ける方法(特許文献1)が考えられていた。
【先行技術文献】
【特許文献】
【0003】
【特許文献1】特開2005-086759号公報
【非特許文献】
【0004】
【非特許文献1】http://www.sony.co.jp/SonyInfo/technology/technology/theme/sface_01.html (平成21年1月13日現在)
【発明の概要】
【発明が解決しようとする課題】
【0005】
しかし、従来の顔画像を識別する方法では、顔が写っていることが前提であり、例えその場に顔が存在していても写っていなければ関係付けができない。あるいは、被写体であっても、横顔や背後からの撮影では識別ができないため、その画像に関係付けることが難しい。
【0006】
また、電子タグなどを利用する場合は、電子タグの情報を読み取るリーダをカメラに追加する必要がある。この場合は、リーダで読み取るための、電子タグのようなものを撮影対象にあらかじめ持たせ、リーダをそちらに向けて撮影する必要がある、などといった制約・問題があった。
【0007】
本発明は以上の問題に鑑みてなされたものであり、画像に関連する情報をより簡便な方法でもってこの画像に関係付けるための技術を提供することを目的とする。また、本発明の別の目的は、画像に関連する情報としての被写体の認識処理を行う場合に、その精度が十分でない場合の精度改善を行うことである。
【課題を解決するための手段】
【0008】
本発明の目的を達成するために、例えば、本発明の情報処理装置は、以下の構成を備える。
【0009】
即ち、撮影機器が画像を撮影した時刻の近傍時刻における当該撮影機器の位置情報と、当該近傍時刻における移動体の位置情報と、を用いて、前記撮影機器の移動経路と前記移動体の移動経路との間の類似度を求める計算手段と、
前記計算手段が計算した類似度に基づいて、前記画像と前記移動体との関連度を決定し、決定した関連度を示す情報を前記画像と関係付けて登録する登録手段と
を備えることを特徴とする。
【0010】
本発明の目的を達成するために、例えば、本発明の情報処理方法は、以下の構成を備える。
【0011】
即ち、撮影機器が画像を撮影した時刻の近傍時刻における当該撮影機器の位置情報と、当該近傍時刻における移動体の位置情報と、を用いて、前記撮影機器の移動経路と前記移動体の移動経路との間の類似度を求める計算工程と、
前記計算工程で計算した類似度に基づいて、前記画像と前記移動体との関連度を決定し、決定した関連度を示す情報を前記画像と関係付けて登録する登録工程と
を備えることを特徴とする。
【発明の効果】
【0012】
本発明の構成によれば、画像に関連する情報をより簡便な方法でもってこの画像に関係付けることができる。また、画像に関連する情報としての被写体の認識処理を行う場合に、その精度が十分でない場合の精度改善を行うことができる。
【図面の簡単な説明】
【0013】
【図1】コンピュータ100のハードウェア構成例を示すブロック図。
【図2】第2の実施形態に係る情報処理装置の機能構成例を示すブロック図。
【図3】コンピュータ100が行う処理のフローチャート。
【図4】第3の実施形態に係る情報処理装置の機能構成例を示すブロック図。
【図5】第5の実施形態に係る情報処理装置の機能構成例を示すブロック図。
【図6】管理テーブルの構成例を示す図。
【図7】撮影機器、移動体のそれぞれの2次元平面上における移動経路を説明する図。
【図8】撮影機器と移動体A、B、Cのそれぞれとの間の距離を示す図。
【図9】撮影機器、移動体のそれぞれの2次元平面上における移動経路を説明する図。
【図10】関連度評価部204が求めた距離を示す図。
【図11】スコアを示す図。
【図12】被写体Aのスコアを被写体認識部501によって修正された結果を示す図。
【図13】移動経路情報の構成例を示す図。
【図14】第4の実施形態における表示例を示す図。
【図15】第7の実施形態に係る情報処理装置の機能構成例を示すブロック図。
【図16】第7の実施形態に係る情報処理装置が行う処理のフローチャート。
【発明を実施するための形態】
【0014】
以下、添付図面を参照し、本発明の好適な実施形態について説明する。なお、以下説明する実施形態は、本発明を具体的に実施した場合の一例を示すもので、特許請求の範囲に記載の構成の具体的な実施例の1つである。
【0015】
[第1の実施形態]
図1は、本実施形態に係る情報処理装置に適用可能なコンピュータ100のハードウェア構成例を示すブロック図である。なお、本実施形態では、図1に示した構成は1台のコンピュータ100で実現するが、複数台のコンピュータでもって図1に示した構成と等価な構成を実現するようにしてもよい。なお、複数台のコンピュータでもって本実施形態を実現させる場合には、当然ながらそれぞれのコンピュータはLANなどのネットワークを介して互いにデータ通信を行うことになる。
【0016】
図1においてCPU101は、ROM102やRAM103に格納されているコンピュータプログラムやデータを用いてコンピュータ100全体の制御を行うと共に、コンピュータ100が行うものとして後述する各処理を実行する。
【0017】
ROM102には、コンピュータ100の設定データやブートプログラムなどが格納されている。RAM103は、外部記憶装置104からロードされたコンピュータプログラムやデータ、ネットワークインターフェース107を介して外部から受信したコンピュータプログラムやデータを一時的に記憶するためのエリアを有する。更にRAM103は、CPU101が各種の処理を実行する際に用いるワークエリアも有する。即ちRAM103は、各種のエリアを適宜提供することができる。
【0018】
外部記憶装置104はハードディスクドライブ装置に代表される大容量情報記憶装置である。外部記憶装置104には、OS(オペレーティングシステム)や、コンピュータ100が行うものとして後述する各処理をCPU101に実行させるためのコンピュータプログラムやデータが保存されている。また、外部記憶装置104には、以下の説明において既知の情報として説明するものについても保存されている。外部記憶装置104に保存されているコンピュータプログラムやデータは、CPU101による制御に従って適宜RAM103にロードされ、CPU101による処理対象となる。
【0019】
なお、本コンピュータ100の外部記憶装置として機能するものはこれ以外にも考えられ、メモリカード、フレキシブルディスク、Compact Disk(CD)等の光ディスク、磁気や光カード、ICカード、等も適用可能である。
【0020】
入力デバイス109は、キーボードやマウスなどにより構成されており、コンピュータ100のユーザが操作することで、各種の指示をCPU101に対して入力することができる。
【0021】
入力デバイスインターフェース105は、入力デバイス109をコンピュータ100に接続する為のものである。ユーザが入力デバイス109を操作することで入力した操作指示は、この入力デバイスインターフェース105、そしてシステムバス108を介してCPU101に通知される。
【0022】
出力デバイス110は、CRTや液晶画面などにより構成されている表示装置に代表される、データを何らかの形態でもって出力可能な装置である。コンピュータ100において出力対象のデータとして処理されたものは、出力デバイスインターフェース106を介してこの出力デバイス110に送出される。
【0023】
ネットワークインターフェース107は、コンピュータ100をLANやインターネット等のネットワーク回線111に接続する為のものである。コンピュータ100はこのネットワークインターフェース107を介してネットワーク回線111上の機器とのデータ通信を行うことができる。
【0024】
図2は、本実施形態に係る情報処理装置の機能構成例を示すブロック図である。図2に示す如く、本実施形態に係る情報処理装置は、画像メタデータ管理部201、撮影機器移動経路管理部202、関連度評価部204、関係付け部205、移動体移動経路管理部203、により構成されている。なお、本実施形態では図2に示した各部は何れもコンピュータプログラムとして外部記憶装置104に保存されているものとするが、各部はハードウェアでもって構成しても良い。
【0025】
画像メタデータ管理部201は、撮影機器により撮影された画像毎に以下の情報を管理する。即ち、画像毎に、撮影時における撮影機器の位置(撮影位置)を示す撮影位置情報、撮影した時刻を示す撮影時刻情報、この撮影機器を特定する機器情報、等の補助情報(メタデータ)をセットにして管理する。このようなセットの取得は、例えば、次のようにして行う。
【0026】
撮影機器を用いて1枚の画像を撮影したとする。このとき、撮影機器に搭載されているGPS(Global Positioning System)から得た撮影位置情報と、撮影機器に内蔵されているタイマが計時した撮影時刻情報と、撮影機器に固有のID等の機器情報と、をこの撮影機器から取得する。この取得したそれぞれの情報は、撮影した上記1枚の画像と共にメタデータとして外部記憶装置104に登録されるのであるが、この登録したそれぞれについての情報は、画像メタデータ管理部201によって管理されることになる。
【0027】
なお、外部記憶装置104へのメタデータの登録については様々な形態が考え得る。例えば、撮影した上記1枚の画像に対してメタデータを特定のフォーマットで埋め込むことで、メタデータをこの画像と共に外部記憶装置104に登録しても良いし、画像とは別個のファイルとして外部記憶装置104や外部のデータベースに登録しても良い。即ち、画像とメタデータとを関連付けて取り扱うことができるのであれば、それぞれの登録形態については特に限定するものではない。本実施形態では、画像本体とメタデータとは別個のファイルとして外部記憶装置104に登録され、それぞれに関する情報は画像メタデータ管理部201によって管理されるものとして説明する。
【0028】
図6は、外部記憶装置104に登録された画像ファイルと、この画像ファイルに対するメタデータとを管理する管理テーブルの構成例を示す図である。この管理テーブルは、画像メタデータ管理部201によって管理されている。
【0029】
領域610には、撮影された画像に固有のID(画像ID)が登録される。領域620には、画像をファイルとして外部記憶装置104に登録した場合に、外部記憶装置104内におけるこの画像ファイルのパス名が登録される。領域601には、画像を撮影した撮影機器に固有の情報である機器情報が登録される。領域602には、この画像の撮影時刻情報が登録される。領域603には、この画像の撮影位置情報が登録される。
【0030】
図6に示した一例では、画像IDが「XXXX」の画像が「c:¥photo」というパスで外部記憶装置104内に登録されていることを示している。更にこの画像を撮影した撮影機器は「Cano Shot G9」で、その撮影時刻は「2008/9/26 12:00AM」で、その撮影位置は「N35.56564 E139.68129」である。
【0031】
このように、撮影機器が画像を撮影する毎に、撮影されたそれぞれの画像について、上記領域610,620,601,602,603のそれぞれに対応する上記情報が登録されることになる。係る登録処理は画像メタデータ管理部201が行う。また、撮影された画像は静止画像、動画像、の何れであっても良いが、本実施形態では、撮影されたそれぞれの画像は静止画像であるものとする。
【0032】
撮影機器移動経路管理部202は、予め定められたタイミング毎に(定期的に)測定された撮影機器の位置情報(撮影機器位置情報)を記録した移動経路情報を、撮影機器毎に管理する(第1の管理)。撮影機器位置情報の取得形態については特に限定するものではない。例えば、上記のように、撮影機器に搭載されているGPS(Global Positioning System)から定期的に撮影機器位置情報を取得し、取得したそれぞれの撮影機器位置情報を移動経路情報に登録しても良い。なお、それぞれの撮影機器に対する移動経路情報には、対応する撮影機器の撮影機器情報が関連付けられている。
【0033】
移動体移動経路管理部203は、人や車両などの移動体の時刻毎の位置情報(移動体位置情報)を記録した移動経路情報を、移動体毎に管理する(第2の管理)。この移動経路情報の取得形態については特に限定するものではない。例えば、移動体が人である場合、例えば、個人が保持する携帯電話のGPS機能を利用して、個人の時間毎の位置情報を残しておき、それを個人の移動経路情報として、移動体移動経路管理部203で取得し、管理するようにしても良い。あるいは、自動車で移動しているような場合は、カーナビゲーションシステムの残す履歴情報等を移動経路情報として取得し、これを移動体移動経路管理部203が管理するようにしても良い。なお、それぞれの移動体に対する移動経路情報には、対応する移動体に固有の情報(移動体情報)が関連付けられている。
【0034】
ここで、撮影機器移動経路管理部202、移動体移動経路管理部203が管理する移動経路情報とは上述の通り、それぞれの時刻における位置情報が登録されたものであり、例えば、図13に示すような構成を有する。図13は、移動経路情報の構成例を示す図である。図13では、5秒間隔で位置情報(緯度・経度)が登録されている。なお、移動体移動経路管理部203や移動体移動経路管理部203が管理する移動経路情報は、そのデータサイズによっては、外部の装置上にアップロードするようにしても良い。
【0035】
図2に戻って、関連度評価部204は、画像メタデータ管理部201、撮影機器移動経路管理部202、移動体移動経路管理部203のそれぞれが管理する情報を用いて、指定された画像と、指定された移動体との関連度を求める。関連度を求める為の処理については後述する。
【0036】
関係付け部205は、関連度評価部204が求めた関連度に基づいて、指定された画像と、指定された移動体と、を関係付けるか否かを決定する。そして関係付け部205は、関連度を示す情報を、この指定された画像に対するメタデータとして、外部記憶装置104に登録する。
【0037】
図3は、画像と移動体との関連付けを行うためにコンピュータ100が行う処理のフローチャートである。なお、以下では、図2に示した各部を処理の主体として説明するが、上記の通り、これら各部は何れもコンピュータプログラムでもって実装されているので、実際には、これらのコンピュータプログラムを実行するCPU101が処理の主体となる。
【0038】
先ず、ユーザは、関係付ける対象となる画像と移動体とを入力デバイス109を用いて指定する操作を行う。例えば、出力デバイス110としての表示装置が有する表示画面上に、外部記憶装置104に登録済みの画像群と、それぞれの移動体の移動体情報と、を一覧表示させる。ユーザは入力デバイス109を用いて1つの画像と、1つの移動体情報とを指定する。従って、ステップS301では、関連度評価部204は、ユーザからの操作指示を受信する。係る操作指示には、ユーザが指定した画像のID、移動体情報が含まれている。
【0039】
もちろん、以下の処理で対象となる画像と移動体の指定方法については特に限定するものではなく、コンピュータ100の外部からユーザ指示などでもって入力するようにしても良いし、コンピュータ100内の内部処理でもって指定するようにしても良い。例えば、外部記憶装置104に新たに画像が登録されたことをCPU101が検知した場合、この画像を撮影した撮影時間、撮影位置に近い移動体移動経路情報から順次処理対象として内部的に自動で選定するようなことをしても構わない。
【0040】
次に、ステップS302では、関連度評価部204は、ステップS301で受信した操作指示に含まれている画像のIDと関連付けて画像メタデータ管理部201が管理する撮影時刻情報、撮影位置情報、機器情報、を取得する。
【0041】
次にステップS303では、関連度評価部204は、次の処理を実行する(第1の取得)。即ち、ステップS302で取得した機器情報と関連付けて撮影機器移動経路管理部202が管理する移動経路情報から、ステップS302で取得した撮影時刻情報が示す撮影時刻の近傍時刻範囲内のそれぞれの時刻における撮影機器位置情報を取得する。なお、本ステップでは、ステップS302で取得した機器情報と関連付けて撮影機器移動経路管理部202が管理する移動経路情報そのものを取得するようにしても良い。
【0042】
次にステップS304では、関連度評価部204は、次の処理を実行する(第2の取得)。即ち、ステップS301で取得した操作指示に含まれている移動体情報と関連付けて移動体移動経路管理部203が管理する移動経路情報から、上記近傍時刻範囲内のそれぞれの時刻における移動体位置情報を取得する。なお、本ステップでは、ステップS301で取得した操作指示に含まれている移動体情報と関連付けて移動体移動経路管理部203が管理する移動経路情報そのものを取得するようにしても良い。
【0043】
次に、ステップS305では、関連度評価部204は、ステップS303で取得した撮影機器位置情報群(撮影機器の部分的な移動経路情報)と、ステップS304で取得した移動体位置情報群(移動体の部分的な移動経路情報)と、を比較する。そして係る比較により、上記近傍時刻範囲内において、撮影機器の移動経路と、移動体の移動経路との間の類似度を求める。移動経路の類似度を求める為の方法については様々な方法が考えられ、何れの方法を用いても良い。そして本実施形態では、この類似度を用いて、ユーザにより指定された画像と、ユーザにより指定された移動体との間の関連度を評価する。
【0044】
以下に、ユーザにより指定された画像と、ユーザにより指定された移動体との間の関連度を評価するための処理の一例について、図7,8を用いて説明する。図7,8では、複数の移動体のそれぞれと画像との間の関連度を評価する場合について説明するが、係る説明は移動体の個数に限定するものではない。
【0045】
図7は、撮影機器、移動体のそれぞれの2次元平面上における移動経路を説明する図である。図7において701は撮影機器の移動経路を示す。702は移動体Aの移動経路、703は移動体Bの移動経路、704は移動体Cの移動経路を示す。ここで、何れの移動経路(701〜704)も、ある時刻範囲内(2008/9/26 9:00〜15:00)における移動経路であるとする。705は、ユーザが指定した画像の撮影時刻「2008/9/26の12:00」における撮影位置を示している。また、それぞれの移動経路上における「s」は、撮影時刻「2008/9/26の12:00」の30分前の時刻Tsにおけるそれぞれの移動経路上の位置を示している。また、それぞれの移動経路上における「e」は、撮影時刻「2008/9/26の12:00」の30分後の時刻Teにおけるそれぞれの移動経路上の位置を示している。
【0046】
先ず、関連度評価部204は、次の処理を行う。即ち、指定された画像の撮影時刻を含む時間範囲内(ここではTs〜Te)の各時刻(例えばTs〜Teを等間隔に分割した場合のそれぞれの分割時刻)において、撮影機器と移動体A、B、Cのそれぞれとの間の距離をそれぞれの移動経路情報を用いて求める。図8は、Ts〜Teの間のそれぞれの時刻において、撮影機器と移動体A、B、Cのそれぞれとの間の距離を示す図である。図8において「2008/9/26の12:00」はTnとして示している。
【0047】
関連度評価部204は先ず、ステップS303で取得した撮影機器位置情報群とステップS304で取得した移動体Aの移動体位置情報群とを用いて、時刻Tsにおける撮影機器の位置と移動体Aの位置との間の距離を求める。図8ではこの距離は「1.3」となっている。同様に関連度評価部204は、ステップS303で取得した撮影機器位置情報群とステップS304で取得した移動体Bの移動体位置情報群とを用いて、時刻Tsにおける撮影機器の位置と移動体Bの位置との間の距離を求める。図8ではこの距離は「5.5」となっている。同様に関連度評価部204は、ステップS303で取得した撮影機器位置情報群とステップS304で取得した移動体Cの移動体位置情報群とを用いて、時刻Tsにおける撮影機器の位置と移動体Cの位置との間の距離を求める。図8ではこの距離は「10.0」となっている。
【0048】
このようにして、関連度評価部204は、時刻Ts〜Teの間のそれぞれの時刻において、撮影機器と移動体A、B、Cのそれぞれとの間の距離を求める。なお、距離の求め方については特に限定するものではなく、様々な方法を適用しても良い。例えば、緯度・経度の値の差分をそのまま距離として利用しても良いし、その差分からメートル単位で距離を求めても良い。
【0049】
次に、関連度評価部204は、移動体Aについて求めたそれぞれの距離の分散値と平均値、移動体Bについて求めたそれぞれの距離の分散値と平均値、移動体Cについて求めたそれぞれの距離の分散値と平均値、を求める。そして求めた分散値、平均値がより小さい移動体ほど、ユーザにより指定された画像を撮影した機器の移動経路とこの移動体の移動経路との間の類似度が高いと考えられるため、この画像とこの移動体との関連性が高いと評価する。
【0050】
図8によれば、それぞれの時刻における撮影機器の位置と移動体Aの位置との間の距離は小さく、その平均やばらつき(分散値)も小さい。このような場合は、撮影機器の移動経路701と移動体Aの移動経路702との間の類似度は高いと判定され、撮影時刻「2008/9/26の12:00」において撮影された画像と移動体Aとの間の関連性は高いと評価される。
【0051】
一方、移動体Bは、時刻Tnにおいては撮影機器との距離は比較的小さいものの、時刻Tsや時刻Teにおいてはその距離は比較的大きい。それぞれの時刻における撮影機器の位置と移動体Bの位置との間の距離の平均値は比較的小さいが、その分散値については、移動体Aに比べれば大きくなる。そのため、移動体Bは移動体Aと比べれば、撮影時刻「2008/9/26の12:00」において撮影された画像との間の関連性は低いと評価される。
【0052】
一方、移動体Cの移動経路704は、その形状は移動体Aの移動経路701と類似しているが、時刻Ts〜Teの間のそれぞれの時刻における移動体Cの位置は、時刻Ts〜Teの間のそれぞれの時刻における撮影機器の位置とは比較的大きく異なっている。そのため、図8によれば、それぞれの時刻における撮影機器の位置と移動体Cの位置との間の距離は大きく、その平均やばらつき(分散値)も大きい。このような場合は、撮影機器の移動経路701と移動体Cの移動経路704との間の類似度は移動体Aと比べれば低いと判定される。従って、撮影時刻「2008/9/26の12:00」において撮影された画像と移動体Cとの間の関連性は移動体Aと比べれば低いと評価される。
【0053】
本実施形態では、以上のようにして、関連度を移動経路の類似度をもって評価する。なお、ここでの説明では、類似度を高い・低いといった抽象的な表現で述べたが、実際には、数値に対して閾値を設定して、より判断を厳密に行う。
【0054】
例えば関連度評価部204は、求めた平均値Xと分散値(標準偏差)Yに基づいて、ユーザが選択した画像と移動体との間の関連度の評価を行う。先ず関連度評価部204は、平均値Xと分散値Yとを用いて、経路間の類似度を判定する。平均値Xが閾値th1に対してX≦th1であり、かつ分散値Yが閾値th2に対してY≦th2である場合、類似度が高いと判断する。それ以外の場合は類似度は低いと判断する。
【0055】
そして関連度評価部204は、類似度が高いと判断した場合は、ユーザにより指定された画像と移動体の間の関連度を「高い」と評価する。類似度が低いと判断した場合は、関連度を「低い」(関係なし)と評価する。
【0056】
このように、平均値Xと分散値Yに基づいて画像と移動体との関連度を評価する。なお、評価を2段階に分けることに限るものではなく、例えば、次のように3段階に分けるようにしても良い。
【0057】
まず、平均値Xを求める際に、指定した画像に時間的に近いほど大きな重みを与えて加重平均値を求めるようにする。加重平均値Xが閾値th1に対してX≦th1であり、かつ分散値Yが閾値th2に対してY≦th2である場合、類似度を「経路全体で高い」と判断する。このときの関連度としては、「行動をともにしていた」などと評価する。平均値Xが閾値th1に対してX≦th1であり、かつ分散値Yが閾値th2に対してY>th2である場合、類似度を「選択した画像付近では高い」と判断する。このときの関連度としては「選択画像の撮影時に近くにいた」と評価する。それ以外の場合は類似度を「低い」と判断し、関連度を「関係なし」と評価する。
【0058】
図3に戻って、次に、ステップS306では、ステップS305で評価した関連度に基づいて、関係付け部205は、ユーザが指定した画像と移動体とを、評価した関連度に応じて関係付ける。
【0059】
次に、ステップS307では、関係付け部205は、ユーザが指定した画像のメタデータとして新たに、ステップS306において関係付けた内容を示す情報を、外部記憶装置104に登録する。例えば、上記の例で言えば、関連度が「行動をともにしていた」と評価された場合は、この評価を示す情報として、行動をともにしていた移動体を示す情報が登録される。
【0060】
以上の説明により、本実施形態によれば、画像の撮影時間・撮影位置の情報と、この画像を撮影した撮影機器の移動経路情報と人物などの移動体の移動経路情報との類似度から、移動体と画像との関連度を求め、この関連度に応じて両者を関係付けるようにした。これにより、個々の画像に関連する人物等の情報を、画像に写っているか否かによらず効率的にかつ、精度良く付与できるようになる。
【0061】
[第2の実施形態]
第1の実施形態では、撮影機器の移動経路情報は、撮影機器移動経路管理部202がこの撮影機器から取得するものとしていたが、撮影機器の移動経路情報は必ずしもこの撮影機器が保持する必要はない。
【0062】
例えば、携帯電話等のGPS端末と撮影機器が、UWB(Ultra Wideband)等の近距離無線通信技術を利用し、撮影機器が「いつ」「どの」GPS端末と通信可能な状態(近くに存在している状態)にあったかを記録しておく。そしてその記録から、近くに存在していた各GPS端末の移動経路情報を繋ぎ合わせて、撮影機器の移動経路情報を獲得する。
【0063】
あるいは、撮影機器を保持していた撮影者を特定し、特定した撮影者の携帯電話などのGPS端末から移動経路情報を取得しても構わない。ただし、撮影機器が複数の撮影者間で共有される場合等も考えられるため、撮影機器を保持している撮影者を適宜同定できる仕組みが必要である。例えば、指紋認証などの生体認証を利用して撮影者を同定し、撮影機器を「いつ」「誰が」保持していたかを記録しておく。これによって、各撮影者が撮影機器を保持していた間の移動経路情報を繋ぎ合わせることで、撮影機器の移動経路を見つけることが可能になる。
【0064】
これらの方法によれば、撮影機器に位置情報取得のための構成を持たせることなく、撮影機器の移動経路情報を取得することができる。なお、撮影機器の所有者等は、撮影者としての役割をあらかじめ決められてしまうことも多い。その場合は、上記のような仕組みを用いずとも、撮影者のGPS端末の移動経路情報をそのまま撮影機器の移動経路情報としても良い。この方法は、撮影機器で測位したものや、GPS端末と撮影機器の間での通信を利用した方法に比べると、撮影機器の移動経路情報としては正確性を欠く部分もある。しかし、撮影機器に対する構成の追加が無く、簡易に移動経路情報を取得できるという利点がある。
【0065】
[第3の実施形態]
第1の実施形態では、撮影機器移動経路管理部202によって撮影機器の移動経路情報を管理し、この管理している移動経路情報と、移動体移動経路管理部203が管理している移動経路情報とを比較することで、画像と移動体との間の関連度を決定していた。本実施形態では、撮影機器の移動経路情報を用いることなく、同様の目的を達成する技術について説明する。なお、以下では第1の実施形態と異なる点のみについて説明する。
【0066】
本実施形態に係る情報処理装置のハードウェア構成は、図1に示したものを用い、その機能構成については図4に示した構成を採用する。図4は、本実施形態に係る情報処理装置の機能構成例を示すブロック図である。本実施形態では、ユーザにより指定された画像の撮影位置情報と、この画像の撮影時刻の近傍時刻に、この画像を撮影した撮影機器と同じ撮影機器で撮影された画像の撮影位置情報と、を、撮影機器の移動経路情報の代わりに用いる。より具体的には、関連度評価部204は、ユーザにより指定された画像の撮影位置情報を画像メタデータ管理部201から取得する。更に関連度評価部204は、ユーザが指定した画像の撮影機器情報と同じ撮影機器情報及びこの画像の撮影時刻情報が示す撮影時刻の近傍の撮影時刻を示す撮影時刻情報と関連付けられている画像の撮影位置情報を画像メタデータ管理部201から取得する。
【0067】
そして関連度評価部204は、取得したそれぞれの撮影位置情報と、移動体のそれぞれの位置情報と、の間の距離を求める。これについては第1の実施形態の如く、同じ時刻の撮影位置情報と位置情報とを用いてその間の距離を求める。これにより、各時刻における距離を計算することができる。
【0068】
図9は、撮影機器、移動体のそれぞれの2次元平面上における移動経路を説明する図である。901〜904は、ユーザにより指定された画像の撮影時刻情報の近傍時刻を示す撮影時刻情報と関連付けられている画像の撮影位置情報が示す位置である。そして関連度評価部204は、この場合、位置x(=位置901〜904)と、位置xと同時刻における移動経路702上の位置と、の間の距離、を求める。同様に関連度評価部204は、位置x(=位置901〜904)と、位置xと同時刻における移動経路703上の位置と、の間の距離、を求める。同様に関連度評価部204は、位置x(=位置901〜904)と、位置xと同時刻における移動経路704上の位置と、の間の距離、を求める。
【0069】
図10は、それぞれの移動経路702〜704について、関連度評価部204が求めた距離を示す図である。T1は位置901における撮影時刻情報が示す時刻、T2は位置902における撮影時刻情報が示す時刻、T3はユーザが指定した画像の撮影時刻、T4は位置903における撮影時刻情報が示す時刻、T5は位置904における撮影時刻情報が示す時刻を示す。例えば、図10によれば、位置901と、位置901における時刻である時刻T1における移動経路702上の位置との間の距離は1.5となっている。また、位置903と、位置903における時刻である時刻T4における移動経路704上の位置との間の距離は11.3となっている。
【0070】
そして関連度評価部204は第1の実施形態と同様に、それぞれの移動経路702〜704について、距離の平均値、分散値を求め、求めたこれらの統計量を用いて、ユーザにより指定された画像とユーザにより指定された移動体との間の関連度を求める。
【0071】
本実施形態によれば、対象画像の撮影が、一連の流れの中で行われていることを前提としているため、その前後で画像が撮影されている必要がある(図9における901〜904)。また、経路同士の比較よりも比較するポイントが少なくなる可能性が高いので、移動経路同士を比較する場合に比べて計算量を削減でき、また、移動経路の取得・保管が不要になるため、そのための記憶領域や仕組みが削減できるというメリットがある。また、本実施形態では、撮影回数を3回としているが、この撮影回数は1回以上であれば特に限定するものではない。
【0072】
[第4の実施形態]
第1の実施形態では、関連度が求まった後は、ユーザによる介入無しに関係付け部205によって関係付けが成されていた。しかし、関連度が求まった後で、その関連度を表示装置の表示画面上に表示し、この関連度でもって関係付けを行っても良いか否かをユーザに問うようにしても良い。そしてユーザから関係付けを行う旨の指示が入力された場合、後は第1の実施形態と同様に、関係付け部205による処理を開始する。
【0073】
係る構成によれば、第1の実施形態と比べて、利用する側にとっての手間は生じるものの、より意図したメタデータが付与されやすくなるため、再利用時の精度や効果が高くなるというメリットがある。
【0074】
[第5の実施形態]
第1の実施形態では、関係付け部205が生成した「関連度を示す情報」は、画像と関係付けてメタデータとして外部記憶装置104に登録するだけであったが、本実施形態では、このメタデータを、移動体としての被写体の認識結果の修正に利用する。以下では第1の実施形態と異なる点のみについて説明する。
【0075】
図5は、本実施形態に係る情報処理装置の機能構成例を示すブロック図である。図5に示した構成は、図1に示した構成に被写体認識部501を加えた構成である。被写体認識部501は、撮影装置により撮影された被写体(移動体)の画像を用いてこの被写体を認識することで、認識の確度を示すスコアを計算する。このような被写体認識処理の認識結果の確度については、被写体との距離や被写体の向きといった被写体の写り方や、ピントの合い方、認識用の教師データの質や量など、様々な要因によって変動する。
【0076】
認識結果の確度が十分でない場合は、実際の正解とは異なった認識を行っている場合が多い。誤った認識結果を画像の被写体として採用することは、検索などで被写体情報を使う際に誤検索の要因になるなど、再利用時のノイズとなるため、好ましく無い。本実施形態では、移動体としての被写体と画像との関連度を、被写体の認識結果を補正するために利用する。
【0077】
例えば、被写体認識部501での認識結果によって、図11に示すような認識結果が得られたとする。図11は、被写体認識部501が被写体に対する認識処理を行った結果、その認識結果として得られた上位3つについて、認識結果の確度に応じたスコアを示す図である。図11では、認識対象に対する認識結果として被写体Xのスコアが最も大きい値を示しているが、実際には被写体Aが認識結果として正解であったとする。このとき、この被写体Aを移動体として第1の実施形態に係る処理を行うことで、画像と被写体Aとの関連度が高ければ、被写体Aと画像とは強い関係にあるとして関係付けがなされることになる。例えば、被写体Aと画像について求めた類似度を被写体Aのスコアに乗ずることで、このスコアを修正する。このスコアの修正は、被写体認識部501が行う。
【0078】
図12は、図11に示した被写体Aのスコアを、被写体認識部501によって修正された結果を示す図である。図12に示す如く、被写体Aのスコアが修正され、最も高いスコアとなっている。
【0079】
なお、本実施形態を実現するにあたっては、移動体移動経路管理部203が対象とする移動体と、被写体認識部501による認識対象の被写体とが同一である必要がある。従って、被写体認識部501による認識結果には、認識対象とした被写体に固有の情報(被写体情報)が関係付けられるべきである。これにより、移動体移動経路管理部203が対象とする移動体と、被写体認識部501による認識対象の被写体と、が同じであるか否かの判断は、被写体情報と移動体情報とが同じであるか否かを判断することで行うことができる。或いは、移動体と被写体の同定用の対応表を関係付け部205等で管理しておくなどすれば良い。このように、移動体と被写体とが同一であるか否かを特定する為の仕組みについては様々な方法が考えられ、何れの方法を用いても良い。
【0080】
以上の説明により、本実施形態によれば、被写体としての情報の質を高めることができるようになる。これにより、十分ではない確度の認識結果を、被写体情報として画像と関係づけてしまうことを抑制できるようになる。また、第1の実施形態では、移動体と画像の間に関連性があることだけしか分からないが、本実施形態によって、被写体情報として関係付けることができるようになる。本実施形態における認識処理や、第1の実施形態における関連付け処理の、それぞれ個々では実現困難であった効果を得ることができる。
【0081】
[第6の実施形態]
上記実施形態においては、主に静止画像を対象として述べたが、動画であっても良い。動画の場合は、全体を分割した部分に対して処理を行うことが考えられる。例えば、動画をシーンに分割し、各シーンを上記実施形態における静止画1枚の画像とみなして処理を行っても構わない。あるいは、nフレーム分のデータ毎に処理をしても良い。他にも、緯度経度情報を定期的に取得している場合は、ある範囲に納まっている間を一つの部分とみなすといったようにしても良い。もちろん、一つの動画データ全体を処理の対象として扱っても構わない。
【0082】
[第7の実施形態]
本実施形態では、第1の実施形態で説明した画像と移動体との関係を利用した表示例について述べる。なお、以下では第1の実施形態と異なる点のみについて説明する。
【0083】
図14は、複数人で構成されるグループがいくつかのサブグループに分かれて撮影行動を行った場合に、各画像に関係付けられた移動体情報からサブグループの構成とその推移を抽出して表示した例を示す図である。具体的な適用事例としては、複数人で旅行やイベントへ行った場合などが考えられる。
【0084】
この例では、A、B、C、D、E、Fの6人で行動を開始し、この行動の終わりまでに、この6人がどのような組(サブグループ)で行動を共にしたかの推移を示している。このような表示は、たくさんの画像の中から、利用者が、自分が関係した画像を探したり、あるいは逆に、自分が関われなかった(知らない)画像を探したりといったことを、簡単に入力指示するために使うことができる。例えば、図14の場合、Aが自分以外の組み合わせによるサブグループ(1401など)をクリックすることで、このサブグループの画像を表示するといったような、GUI(グラフィカルユーザインターフェース)として利用することもできる。
【0085】
図15は、本実施形態に係る情報処理装置の機能構成例を示すブロック図である。画像特定部1501は、外部記憶装置104に登録している画像群から、特定のグループに属する画像群を特定する。例えば、旅行やイベント等で撮影された画像群を特定する。特定のグループに属する画像群を特定する為の仕組みについては様々なものが考え得る。
【0086】
例えば、外部記憶装置104に登録する画像には、「旅行」や「運動会」などといったラベルをメタデータとして付与しておく。これにより画像特定部1501は、例えば「運動会」で撮影された画像を特定する場合には、外部記憶装置104に登録されているそれぞれの画像のラベルを参照し、「運動会」のラベルが付与された画像を特定する。
【0087】
また、外部記憶装置104に一度に登録された画像群、同一日時に登録された画像群を1つのグループとし、それぞれのグループに上述のようにラベルを付与しても良い。また、第1の実施形態で述べたように、撮影機器の移動経路がわかる場合は、その移動範囲から特定のグループに属する画像群を特定しても構わない。
【0088】
移動体情報管理部1502は、画像に関係付けられた移動体に関する情報を管理する。係る関係付けはどのような方法で行っても良く、例えば第1の実施形態で説明した処理でもって関係付けても良いし、ユーザが手動で関係付けても良い。本実施形態では、移動体に関する情報は、画像とは別個のファイルとして外部記憶装置104に登録されているものとする。
【0089】
移動体関係抽出部1503は、画像特定部1501が特定した画像群のそれぞれについて、関係付けられている移動体の情報を、移動体情報管理部1502から取得する。そしてそれぞれの画像における移動体間の関係を抽出する。本実施形態では、画像特定部1501が特定した一連の画像における移動体の増減をチェックし、行動を共にしていたと思われる移動体とその推移の情報を抽出する。
【0090】
表示部1504は、移動体関係抽出部1503で求めた、行動を共にしていたと思われる移動体とその推移の情報から、図14に例示するような画面を生成し、生成した画面を、出力デバイスインターフェース106を介して出力デバイス110に送出する。図14は、一連の各画像に関係付けられた移動体の増減によって、行動を共にしていた移動体が変化する様を示している。
【0091】
図16は、本実施形態に係る情報処理装置が行う処理のフローチャートである。先ずステップS1601では、画像特定部1501は、外部記憶装置104に登録している画像群から、特定のグループに属する画像群を特定する。特定のグループの指定についてはユーザが入力デバイス109を用いて行っても良いし、予め定められていても良い。
【0092】
次に、ステップS1602では、移動体関係抽出部1503は、画像特定部1501が特定した画像群のそれぞれについて、関係付けられている移動体の情報を、移動体情報管理部1502から取得する。
【0093】
次に、ステップS1603では、移動体関係抽出部1503は、それぞれの画像に関係付けられた移動体とその推移の情報とを抽出する。本実施形態では、画像特定部1501が特定した一連の画像に関係付けられた移動体の増減をチェックし、行動を共にしていたと思われる移動体とその推移の情報を抽出する。
【0094】
次にステップS1604では表示部1504は、移動体関係抽出部1503で求めた、行動を共にしていたと思われる移動体とその推移の情報から、図14に例示するような画面を生成する。そして、生成した画面を、出力デバイスインターフェース106を介して出力デバイス110に送出する。このとき、関係付けられた撮影画像が無いことで行動が特定できない移動体が現われることがあるが、それらについては、不定である旨が表示できれば、表示の仕方は限定するものではない。例えば、図14では、1402(Dが不定)や1403(Fが不定)のように、破線を使った表示によって区別をしている。他にも、色を変えたり、点滅させたり、フォントを変えたり、不定である旨のメッセージを出すなどして区別しても構わない。なお、上記各実施形態は適宜組み合わせても良いし、適宜切り替えて使用しても良い。
<撮影機器の移動経路と移動体の移動経路との間の類似度を求める為の他の方法>
上記の通り、上記類似度を求めるための方法は他にも考えられ、以下にそのうちの1つを示す。なお、以下に説明する方法は、被写体の時刻と位置の情報(以下、被写体位置・時刻情報と呼称する)を予め収集して管理しているものとする。即ち、被写体経路という概念はあっても無くても良い。
【0095】
また、ターゲットの画像を決め、その近傍の撮影機器移動経路を取得することについては上記の通りである。次に、撮影機器経路上の等間隔なn点をサンプリングする。次に、n個の各サンプルと場所・時間的に近い被写体位置・時刻情報を取得する。ここで、「場所が近い」とは、距離がある閾値内のことであり、「時間が近い」とは、±時間がある閾値内のことである。ここまでの処理により、n個分の被写体位置・時刻情報の集合ができる。
【0096】
次に、先の処理で求めた全集合内に同一被写体の位置・時刻情報が含まれていた場合は、その被写体の移動経路と撮影機器移動経路との類似度は高いと判定する。なお、n個の全集合内に含まれているかではなく、全集合のうちどれだけの割合で含まれているかで判断しても良い。例えば、n=10である場合、10の集合のうち8割(=8集合)に含まれていれば、二つの経路は類似していると判定する。また、上記閾値を、ターゲットに近いほど厳しく(狭く)設定するようにしても良い。
【0097】
[その他の実施形態]
また、本発明の目的は、以下のようにすることによって達成されることはいうまでもない。即ち、前述した実施形態の機能を実現するソフトウェアのプログラムコード(コンピュータプログラム)を記録した記録媒体(または記憶媒体)を、システムあるいは装置に供給する。係る記憶媒体は言うまでもなく、コンピュータ読み取り可能な記憶媒体である。そして、そのシステムあるいは装置のコンピュータ(またはCPUやMPU)が記録媒体に格納されたプログラムコードを読み出し実行する。この場合、記録媒体から読み出されたプログラムコード自体が前述した実施形態の機能を実現することになり、そのプログラムコードを記録した記録媒体は本発明を構成することになる。
【0098】
また、コンピュータが読み出したプログラムコードを実行することにより、そのプログラムコードの指示に基づき、コンピュータ上で稼働しているオペレーティングシステム(OS)などが実際の処理の一部または全部を行う。その処理によって前述した実施形態の機能が実現される場合も含まれることは言うまでもない。
【0099】
さらに、記録媒体から読み出されたプログラムコードが、コンピュータに挿入された機能拡張カードやコンピュータに接続された機能拡張ユニットに備わるメモリに書込まれたとする。その後、そのプログラムコードの指示に基づき、その機能拡張カードや機能拡張ユニットに備わるCPUなどが実際の処理の一部または全部を行い、その処理によって前述した実施形態の機能が実現される場合も含まれることは言うまでもない。
【0100】
本発明を上記記録媒体に適用する場合、その記録媒体には、先に説明したフローチャートに対応するプログラムコードが格納されることになる。
【技術分野】
【0001】
本発明は、画像と、この画像に関連する情報との関係付け技術に関するものである。
【背景技術】
【0002】
従来、画像に関連する人物等の情報は、被写体の顔画像から認識処理によって自動で付与する方法(非特許文献1)や、電子タグを撮影対象に保持させておき、カメラで電子タグを読み込み、画像と対象を自動で関係付ける方法(特許文献1)が考えられていた。
【先行技術文献】
【特許文献】
【0003】
【特許文献1】特開2005-086759号公報
【非特許文献】
【0004】
【非特許文献1】http://www.sony.co.jp/SonyInfo/technology/technology/theme/sface_01.html (平成21年1月13日現在)
【発明の概要】
【発明が解決しようとする課題】
【0005】
しかし、従来の顔画像を識別する方法では、顔が写っていることが前提であり、例えその場に顔が存在していても写っていなければ関係付けができない。あるいは、被写体であっても、横顔や背後からの撮影では識別ができないため、その画像に関係付けることが難しい。
【0006】
また、電子タグなどを利用する場合は、電子タグの情報を読み取るリーダをカメラに追加する必要がある。この場合は、リーダで読み取るための、電子タグのようなものを撮影対象にあらかじめ持たせ、リーダをそちらに向けて撮影する必要がある、などといった制約・問題があった。
【0007】
本発明は以上の問題に鑑みてなされたものであり、画像に関連する情報をより簡便な方法でもってこの画像に関係付けるための技術を提供することを目的とする。また、本発明の別の目的は、画像に関連する情報としての被写体の認識処理を行う場合に、その精度が十分でない場合の精度改善を行うことである。
【課題を解決するための手段】
【0008】
本発明の目的を達成するために、例えば、本発明の情報処理装置は、以下の構成を備える。
【0009】
即ち、撮影機器が画像を撮影した時刻の近傍時刻における当該撮影機器の位置情報と、当該近傍時刻における移動体の位置情報と、を用いて、前記撮影機器の移動経路と前記移動体の移動経路との間の類似度を求める計算手段と、
前記計算手段が計算した類似度に基づいて、前記画像と前記移動体との関連度を決定し、決定した関連度を示す情報を前記画像と関係付けて登録する登録手段と
を備えることを特徴とする。
【0010】
本発明の目的を達成するために、例えば、本発明の情報処理方法は、以下の構成を備える。
【0011】
即ち、撮影機器が画像を撮影した時刻の近傍時刻における当該撮影機器の位置情報と、当該近傍時刻における移動体の位置情報と、を用いて、前記撮影機器の移動経路と前記移動体の移動経路との間の類似度を求める計算工程と、
前記計算工程で計算した類似度に基づいて、前記画像と前記移動体との関連度を決定し、決定した関連度を示す情報を前記画像と関係付けて登録する登録工程と
を備えることを特徴とする。
【発明の効果】
【0012】
本発明の構成によれば、画像に関連する情報をより簡便な方法でもってこの画像に関係付けることができる。また、画像に関連する情報としての被写体の認識処理を行う場合に、その精度が十分でない場合の精度改善を行うことができる。
【図面の簡単な説明】
【0013】
【図1】コンピュータ100のハードウェア構成例を示すブロック図。
【図2】第2の実施形態に係る情報処理装置の機能構成例を示すブロック図。
【図3】コンピュータ100が行う処理のフローチャート。
【図4】第3の実施形態に係る情報処理装置の機能構成例を示すブロック図。
【図5】第5の実施形態に係る情報処理装置の機能構成例を示すブロック図。
【図6】管理テーブルの構成例を示す図。
【図7】撮影機器、移動体のそれぞれの2次元平面上における移動経路を説明する図。
【図8】撮影機器と移動体A、B、Cのそれぞれとの間の距離を示す図。
【図9】撮影機器、移動体のそれぞれの2次元平面上における移動経路を説明する図。
【図10】関連度評価部204が求めた距離を示す図。
【図11】スコアを示す図。
【図12】被写体Aのスコアを被写体認識部501によって修正された結果を示す図。
【図13】移動経路情報の構成例を示す図。
【図14】第4の実施形態における表示例を示す図。
【図15】第7の実施形態に係る情報処理装置の機能構成例を示すブロック図。
【図16】第7の実施形態に係る情報処理装置が行う処理のフローチャート。
【発明を実施するための形態】
【0014】
以下、添付図面を参照し、本発明の好適な実施形態について説明する。なお、以下説明する実施形態は、本発明を具体的に実施した場合の一例を示すもので、特許請求の範囲に記載の構成の具体的な実施例の1つである。
【0015】
[第1の実施形態]
図1は、本実施形態に係る情報処理装置に適用可能なコンピュータ100のハードウェア構成例を示すブロック図である。なお、本実施形態では、図1に示した構成は1台のコンピュータ100で実現するが、複数台のコンピュータでもって図1に示した構成と等価な構成を実現するようにしてもよい。なお、複数台のコンピュータでもって本実施形態を実現させる場合には、当然ながらそれぞれのコンピュータはLANなどのネットワークを介して互いにデータ通信を行うことになる。
【0016】
図1においてCPU101は、ROM102やRAM103に格納されているコンピュータプログラムやデータを用いてコンピュータ100全体の制御を行うと共に、コンピュータ100が行うものとして後述する各処理を実行する。
【0017】
ROM102には、コンピュータ100の設定データやブートプログラムなどが格納されている。RAM103は、外部記憶装置104からロードされたコンピュータプログラムやデータ、ネットワークインターフェース107を介して外部から受信したコンピュータプログラムやデータを一時的に記憶するためのエリアを有する。更にRAM103は、CPU101が各種の処理を実行する際に用いるワークエリアも有する。即ちRAM103は、各種のエリアを適宜提供することができる。
【0018】
外部記憶装置104はハードディスクドライブ装置に代表される大容量情報記憶装置である。外部記憶装置104には、OS(オペレーティングシステム)や、コンピュータ100が行うものとして後述する各処理をCPU101に実行させるためのコンピュータプログラムやデータが保存されている。また、外部記憶装置104には、以下の説明において既知の情報として説明するものについても保存されている。外部記憶装置104に保存されているコンピュータプログラムやデータは、CPU101による制御に従って適宜RAM103にロードされ、CPU101による処理対象となる。
【0019】
なお、本コンピュータ100の外部記憶装置として機能するものはこれ以外にも考えられ、メモリカード、フレキシブルディスク、Compact Disk(CD)等の光ディスク、磁気や光カード、ICカード、等も適用可能である。
【0020】
入力デバイス109は、キーボードやマウスなどにより構成されており、コンピュータ100のユーザが操作することで、各種の指示をCPU101に対して入力することができる。
【0021】
入力デバイスインターフェース105は、入力デバイス109をコンピュータ100に接続する為のものである。ユーザが入力デバイス109を操作することで入力した操作指示は、この入力デバイスインターフェース105、そしてシステムバス108を介してCPU101に通知される。
【0022】
出力デバイス110は、CRTや液晶画面などにより構成されている表示装置に代表される、データを何らかの形態でもって出力可能な装置である。コンピュータ100において出力対象のデータとして処理されたものは、出力デバイスインターフェース106を介してこの出力デバイス110に送出される。
【0023】
ネットワークインターフェース107は、コンピュータ100をLANやインターネット等のネットワーク回線111に接続する為のものである。コンピュータ100はこのネットワークインターフェース107を介してネットワーク回線111上の機器とのデータ通信を行うことができる。
【0024】
図2は、本実施形態に係る情報処理装置の機能構成例を示すブロック図である。図2に示す如く、本実施形態に係る情報処理装置は、画像メタデータ管理部201、撮影機器移動経路管理部202、関連度評価部204、関係付け部205、移動体移動経路管理部203、により構成されている。なお、本実施形態では図2に示した各部は何れもコンピュータプログラムとして外部記憶装置104に保存されているものとするが、各部はハードウェアでもって構成しても良い。
【0025】
画像メタデータ管理部201は、撮影機器により撮影された画像毎に以下の情報を管理する。即ち、画像毎に、撮影時における撮影機器の位置(撮影位置)を示す撮影位置情報、撮影した時刻を示す撮影時刻情報、この撮影機器を特定する機器情報、等の補助情報(メタデータ)をセットにして管理する。このようなセットの取得は、例えば、次のようにして行う。
【0026】
撮影機器を用いて1枚の画像を撮影したとする。このとき、撮影機器に搭載されているGPS(Global Positioning System)から得た撮影位置情報と、撮影機器に内蔵されているタイマが計時した撮影時刻情報と、撮影機器に固有のID等の機器情報と、をこの撮影機器から取得する。この取得したそれぞれの情報は、撮影した上記1枚の画像と共にメタデータとして外部記憶装置104に登録されるのであるが、この登録したそれぞれについての情報は、画像メタデータ管理部201によって管理されることになる。
【0027】
なお、外部記憶装置104へのメタデータの登録については様々な形態が考え得る。例えば、撮影した上記1枚の画像に対してメタデータを特定のフォーマットで埋め込むことで、メタデータをこの画像と共に外部記憶装置104に登録しても良いし、画像とは別個のファイルとして外部記憶装置104や外部のデータベースに登録しても良い。即ち、画像とメタデータとを関連付けて取り扱うことができるのであれば、それぞれの登録形態については特に限定するものではない。本実施形態では、画像本体とメタデータとは別個のファイルとして外部記憶装置104に登録され、それぞれに関する情報は画像メタデータ管理部201によって管理されるものとして説明する。
【0028】
図6は、外部記憶装置104に登録された画像ファイルと、この画像ファイルに対するメタデータとを管理する管理テーブルの構成例を示す図である。この管理テーブルは、画像メタデータ管理部201によって管理されている。
【0029】
領域610には、撮影された画像に固有のID(画像ID)が登録される。領域620には、画像をファイルとして外部記憶装置104に登録した場合に、外部記憶装置104内におけるこの画像ファイルのパス名が登録される。領域601には、画像を撮影した撮影機器に固有の情報である機器情報が登録される。領域602には、この画像の撮影時刻情報が登録される。領域603には、この画像の撮影位置情報が登録される。
【0030】
図6に示した一例では、画像IDが「XXXX」の画像が「c:¥photo」というパスで外部記憶装置104内に登録されていることを示している。更にこの画像を撮影した撮影機器は「Cano Shot G9」で、その撮影時刻は「2008/9/26 12:00AM」で、その撮影位置は「N35.56564 E139.68129」である。
【0031】
このように、撮影機器が画像を撮影する毎に、撮影されたそれぞれの画像について、上記領域610,620,601,602,603のそれぞれに対応する上記情報が登録されることになる。係る登録処理は画像メタデータ管理部201が行う。また、撮影された画像は静止画像、動画像、の何れであっても良いが、本実施形態では、撮影されたそれぞれの画像は静止画像であるものとする。
【0032】
撮影機器移動経路管理部202は、予め定められたタイミング毎に(定期的に)測定された撮影機器の位置情報(撮影機器位置情報)を記録した移動経路情報を、撮影機器毎に管理する(第1の管理)。撮影機器位置情報の取得形態については特に限定するものではない。例えば、上記のように、撮影機器に搭載されているGPS(Global Positioning System)から定期的に撮影機器位置情報を取得し、取得したそれぞれの撮影機器位置情報を移動経路情報に登録しても良い。なお、それぞれの撮影機器に対する移動経路情報には、対応する撮影機器の撮影機器情報が関連付けられている。
【0033】
移動体移動経路管理部203は、人や車両などの移動体の時刻毎の位置情報(移動体位置情報)を記録した移動経路情報を、移動体毎に管理する(第2の管理)。この移動経路情報の取得形態については特に限定するものではない。例えば、移動体が人である場合、例えば、個人が保持する携帯電話のGPS機能を利用して、個人の時間毎の位置情報を残しておき、それを個人の移動経路情報として、移動体移動経路管理部203で取得し、管理するようにしても良い。あるいは、自動車で移動しているような場合は、カーナビゲーションシステムの残す履歴情報等を移動経路情報として取得し、これを移動体移動経路管理部203が管理するようにしても良い。なお、それぞれの移動体に対する移動経路情報には、対応する移動体に固有の情報(移動体情報)が関連付けられている。
【0034】
ここで、撮影機器移動経路管理部202、移動体移動経路管理部203が管理する移動経路情報とは上述の通り、それぞれの時刻における位置情報が登録されたものであり、例えば、図13に示すような構成を有する。図13は、移動経路情報の構成例を示す図である。図13では、5秒間隔で位置情報(緯度・経度)が登録されている。なお、移動体移動経路管理部203や移動体移動経路管理部203が管理する移動経路情報は、そのデータサイズによっては、外部の装置上にアップロードするようにしても良い。
【0035】
図2に戻って、関連度評価部204は、画像メタデータ管理部201、撮影機器移動経路管理部202、移動体移動経路管理部203のそれぞれが管理する情報を用いて、指定された画像と、指定された移動体との関連度を求める。関連度を求める為の処理については後述する。
【0036】
関係付け部205は、関連度評価部204が求めた関連度に基づいて、指定された画像と、指定された移動体と、を関係付けるか否かを決定する。そして関係付け部205は、関連度を示す情報を、この指定された画像に対するメタデータとして、外部記憶装置104に登録する。
【0037】
図3は、画像と移動体との関連付けを行うためにコンピュータ100が行う処理のフローチャートである。なお、以下では、図2に示した各部を処理の主体として説明するが、上記の通り、これら各部は何れもコンピュータプログラムでもって実装されているので、実際には、これらのコンピュータプログラムを実行するCPU101が処理の主体となる。
【0038】
先ず、ユーザは、関係付ける対象となる画像と移動体とを入力デバイス109を用いて指定する操作を行う。例えば、出力デバイス110としての表示装置が有する表示画面上に、外部記憶装置104に登録済みの画像群と、それぞれの移動体の移動体情報と、を一覧表示させる。ユーザは入力デバイス109を用いて1つの画像と、1つの移動体情報とを指定する。従って、ステップS301では、関連度評価部204は、ユーザからの操作指示を受信する。係る操作指示には、ユーザが指定した画像のID、移動体情報が含まれている。
【0039】
もちろん、以下の処理で対象となる画像と移動体の指定方法については特に限定するものではなく、コンピュータ100の外部からユーザ指示などでもって入力するようにしても良いし、コンピュータ100内の内部処理でもって指定するようにしても良い。例えば、外部記憶装置104に新たに画像が登録されたことをCPU101が検知した場合、この画像を撮影した撮影時間、撮影位置に近い移動体移動経路情報から順次処理対象として内部的に自動で選定するようなことをしても構わない。
【0040】
次に、ステップS302では、関連度評価部204は、ステップS301で受信した操作指示に含まれている画像のIDと関連付けて画像メタデータ管理部201が管理する撮影時刻情報、撮影位置情報、機器情報、を取得する。
【0041】
次にステップS303では、関連度評価部204は、次の処理を実行する(第1の取得)。即ち、ステップS302で取得した機器情報と関連付けて撮影機器移動経路管理部202が管理する移動経路情報から、ステップS302で取得した撮影時刻情報が示す撮影時刻の近傍時刻範囲内のそれぞれの時刻における撮影機器位置情報を取得する。なお、本ステップでは、ステップS302で取得した機器情報と関連付けて撮影機器移動経路管理部202が管理する移動経路情報そのものを取得するようにしても良い。
【0042】
次にステップS304では、関連度評価部204は、次の処理を実行する(第2の取得)。即ち、ステップS301で取得した操作指示に含まれている移動体情報と関連付けて移動体移動経路管理部203が管理する移動経路情報から、上記近傍時刻範囲内のそれぞれの時刻における移動体位置情報を取得する。なお、本ステップでは、ステップS301で取得した操作指示に含まれている移動体情報と関連付けて移動体移動経路管理部203が管理する移動経路情報そのものを取得するようにしても良い。
【0043】
次に、ステップS305では、関連度評価部204は、ステップS303で取得した撮影機器位置情報群(撮影機器の部分的な移動経路情報)と、ステップS304で取得した移動体位置情報群(移動体の部分的な移動経路情報)と、を比較する。そして係る比較により、上記近傍時刻範囲内において、撮影機器の移動経路と、移動体の移動経路との間の類似度を求める。移動経路の類似度を求める為の方法については様々な方法が考えられ、何れの方法を用いても良い。そして本実施形態では、この類似度を用いて、ユーザにより指定された画像と、ユーザにより指定された移動体との間の関連度を評価する。
【0044】
以下に、ユーザにより指定された画像と、ユーザにより指定された移動体との間の関連度を評価するための処理の一例について、図7,8を用いて説明する。図7,8では、複数の移動体のそれぞれと画像との間の関連度を評価する場合について説明するが、係る説明は移動体の個数に限定するものではない。
【0045】
図7は、撮影機器、移動体のそれぞれの2次元平面上における移動経路を説明する図である。図7において701は撮影機器の移動経路を示す。702は移動体Aの移動経路、703は移動体Bの移動経路、704は移動体Cの移動経路を示す。ここで、何れの移動経路(701〜704)も、ある時刻範囲内(2008/9/26 9:00〜15:00)における移動経路であるとする。705は、ユーザが指定した画像の撮影時刻「2008/9/26の12:00」における撮影位置を示している。また、それぞれの移動経路上における「s」は、撮影時刻「2008/9/26の12:00」の30分前の時刻Tsにおけるそれぞれの移動経路上の位置を示している。また、それぞれの移動経路上における「e」は、撮影時刻「2008/9/26の12:00」の30分後の時刻Teにおけるそれぞれの移動経路上の位置を示している。
【0046】
先ず、関連度評価部204は、次の処理を行う。即ち、指定された画像の撮影時刻を含む時間範囲内(ここではTs〜Te)の各時刻(例えばTs〜Teを等間隔に分割した場合のそれぞれの分割時刻)において、撮影機器と移動体A、B、Cのそれぞれとの間の距離をそれぞれの移動経路情報を用いて求める。図8は、Ts〜Teの間のそれぞれの時刻において、撮影機器と移動体A、B、Cのそれぞれとの間の距離を示す図である。図8において「2008/9/26の12:00」はTnとして示している。
【0047】
関連度評価部204は先ず、ステップS303で取得した撮影機器位置情報群とステップS304で取得した移動体Aの移動体位置情報群とを用いて、時刻Tsにおける撮影機器の位置と移動体Aの位置との間の距離を求める。図8ではこの距離は「1.3」となっている。同様に関連度評価部204は、ステップS303で取得した撮影機器位置情報群とステップS304で取得した移動体Bの移動体位置情報群とを用いて、時刻Tsにおける撮影機器の位置と移動体Bの位置との間の距離を求める。図8ではこの距離は「5.5」となっている。同様に関連度評価部204は、ステップS303で取得した撮影機器位置情報群とステップS304で取得した移動体Cの移動体位置情報群とを用いて、時刻Tsにおける撮影機器の位置と移動体Cの位置との間の距離を求める。図8ではこの距離は「10.0」となっている。
【0048】
このようにして、関連度評価部204は、時刻Ts〜Teの間のそれぞれの時刻において、撮影機器と移動体A、B、Cのそれぞれとの間の距離を求める。なお、距離の求め方については特に限定するものではなく、様々な方法を適用しても良い。例えば、緯度・経度の値の差分をそのまま距離として利用しても良いし、その差分からメートル単位で距離を求めても良い。
【0049】
次に、関連度評価部204は、移動体Aについて求めたそれぞれの距離の分散値と平均値、移動体Bについて求めたそれぞれの距離の分散値と平均値、移動体Cについて求めたそれぞれの距離の分散値と平均値、を求める。そして求めた分散値、平均値がより小さい移動体ほど、ユーザにより指定された画像を撮影した機器の移動経路とこの移動体の移動経路との間の類似度が高いと考えられるため、この画像とこの移動体との関連性が高いと評価する。
【0050】
図8によれば、それぞれの時刻における撮影機器の位置と移動体Aの位置との間の距離は小さく、その平均やばらつき(分散値)も小さい。このような場合は、撮影機器の移動経路701と移動体Aの移動経路702との間の類似度は高いと判定され、撮影時刻「2008/9/26の12:00」において撮影された画像と移動体Aとの間の関連性は高いと評価される。
【0051】
一方、移動体Bは、時刻Tnにおいては撮影機器との距離は比較的小さいものの、時刻Tsや時刻Teにおいてはその距離は比較的大きい。それぞれの時刻における撮影機器の位置と移動体Bの位置との間の距離の平均値は比較的小さいが、その分散値については、移動体Aに比べれば大きくなる。そのため、移動体Bは移動体Aと比べれば、撮影時刻「2008/9/26の12:00」において撮影された画像との間の関連性は低いと評価される。
【0052】
一方、移動体Cの移動経路704は、その形状は移動体Aの移動経路701と類似しているが、時刻Ts〜Teの間のそれぞれの時刻における移動体Cの位置は、時刻Ts〜Teの間のそれぞれの時刻における撮影機器の位置とは比較的大きく異なっている。そのため、図8によれば、それぞれの時刻における撮影機器の位置と移動体Cの位置との間の距離は大きく、その平均やばらつき(分散値)も大きい。このような場合は、撮影機器の移動経路701と移動体Cの移動経路704との間の類似度は移動体Aと比べれば低いと判定される。従って、撮影時刻「2008/9/26の12:00」において撮影された画像と移動体Cとの間の関連性は移動体Aと比べれば低いと評価される。
【0053】
本実施形態では、以上のようにして、関連度を移動経路の類似度をもって評価する。なお、ここでの説明では、類似度を高い・低いといった抽象的な表現で述べたが、実際には、数値に対して閾値を設定して、より判断を厳密に行う。
【0054】
例えば関連度評価部204は、求めた平均値Xと分散値(標準偏差)Yに基づいて、ユーザが選択した画像と移動体との間の関連度の評価を行う。先ず関連度評価部204は、平均値Xと分散値Yとを用いて、経路間の類似度を判定する。平均値Xが閾値th1に対してX≦th1であり、かつ分散値Yが閾値th2に対してY≦th2である場合、類似度が高いと判断する。それ以外の場合は類似度は低いと判断する。
【0055】
そして関連度評価部204は、類似度が高いと判断した場合は、ユーザにより指定された画像と移動体の間の関連度を「高い」と評価する。類似度が低いと判断した場合は、関連度を「低い」(関係なし)と評価する。
【0056】
このように、平均値Xと分散値Yに基づいて画像と移動体との関連度を評価する。なお、評価を2段階に分けることに限るものではなく、例えば、次のように3段階に分けるようにしても良い。
【0057】
まず、平均値Xを求める際に、指定した画像に時間的に近いほど大きな重みを与えて加重平均値を求めるようにする。加重平均値Xが閾値th1に対してX≦th1であり、かつ分散値Yが閾値th2に対してY≦th2である場合、類似度を「経路全体で高い」と判断する。このときの関連度としては、「行動をともにしていた」などと評価する。平均値Xが閾値th1に対してX≦th1であり、かつ分散値Yが閾値th2に対してY>th2である場合、類似度を「選択した画像付近では高い」と判断する。このときの関連度としては「選択画像の撮影時に近くにいた」と評価する。それ以外の場合は類似度を「低い」と判断し、関連度を「関係なし」と評価する。
【0058】
図3に戻って、次に、ステップS306では、ステップS305で評価した関連度に基づいて、関係付け部205は、ユーザが指定した画像と移動体とを、評価した関連度に応じて関係付ける。
【0059】
次に、ステップS307では、関係付け部205は、ユーザが指定した画像のメタデータとして新たに、ステップS306において関係付けた内容を示す情報を、外部記憶装置104に登録する。例えば、上記の例で言えば、関連度が「行動をともにしていた」と評価された場合は、この評価を示す情報として、行動をともにしていた移動体を示す情報が登録される。
【0060】
以上の説明により、本実施形態によれば、画像の撮影時間・撮影位置の情報と、この画像を撮影した撮影機器の移動経路情報と人物などの移動体の移動経路情報との類似度から、移動体と画像との関連度を求め、この関連度に応じて両者を関係付けるようにした。これにより、個々の画像に関連する人物等の情報を、画像に写っているか否かによらず効率的にかつ、精度良く付与できるようになる。
【0061】
[第2の実施形態]
第1の実施形態では、撮影機器の移動経路情報は、撮影機器移動経路管理部202がこの撮影機器から取得するものとしていたが、撮影機器の移動経路情報は必ずしもこの撮影機器が保持する必要はない。
【0062】
例えば、携帯電話等のGPS端末と撮影機器が、UWB(Ultra Wideband)等の近距離無線通信技術を利用し、撮影機器が「いつ」「どの」GPS端末と通信可能な状態(近くに存在している状態)にあったかを記録しておく。そしてその記録から、近くに存在していた各GPS端末の移動経路情報を繋ぎ合わせて、撮影機器の移動経路情報を獲得する。
【0063】
あるいは、撮影機器を保持していた撮影者を特定し、特定した撮影者の携帯電話などのGPS端末から移動経路情報を取得しても構わない。ただし、撮影機器が複数の撮影者間で共有される場合等も考えられるため、撮影機器を保持している撮影者を適宜同定できる仕組みが必要である。例えば、指紋認証などの生体認証を利用して撮影者を同定し、撮影機器を「いつ」「誰が」保持していたかを記録しておく。これによって、各撮影者が撮影機器を保持していた間の移動経路情報を繋ぎ合わせることで、撮影機器の移動経路を見つけることが可能になる。
【0064】
これらの方法によれば、撮影機器に位置情報取得のための構成を持たせることなく、撮影機器の移動経路情報を取得することができる。なお、撮影機器の所有者等は、撮影者としての役割をあらかじめ決められてしまうことも多い。その場合は、上記のような仕組みを用いずとも、撮影者のGPS端末の移動経路情報をそのまま撮影機器の移動経路情報としても良い。この方法は、撮影機器で測位したものや、GPS端末と撮影機器の間での通信を利用した方法に比べると、撮影機器の移動経路情報としては正確性を欠く部分もある。しかし、撮影機器に対する構成の追加が無く、簡易に移動経路情報を取得できるという利点がある。
【0065】
[第3の実施形態]
第1の実施形態では、撮影機器移動経路管理部202によって撮影機器の移動経路情報を管理し、この管理している移動経路情報と、移動体移動経路管理部203が管理している移動経路情報とを比較することで、画像と移動体との間の関連度を決定していた。本実施形態では、撮影機器の移動経路情報を用いることなく、同様の目的を達成する技術について説明する。なお、以下では第1の実施形態と異なる点のみについて説明する。
【0066】
本実施形態に係る情報処理装置のハードウェア構成は、図1に示したものを用い、その機能構成については図4に示した構成を採用する。図4は、本実施形態に係る情報処理装置の機能構成例を示すブロック図である。本実施形態では、ユーザにより指定された画像の撮影位置情報と、この画像の撮影時刻の近傍時刻に、この画像を撮影した撮影機器と同じ撮影機器で撮影された画像の撮影位置情報と、を、撮影機器の移動経路情報の代わりに用いる。より具体的には、関連度評価部204は、ユーザにより指定された画像の撮影位置情報を画像メタデータ管理部201から取得する。更に関連度評価部204は、ユーザが指定した画像の撮影機器情報と同じ撮影機器情報及びこの画像の撮影時刻情報が示す撮影時刻の近傍の撮影時刻を示す撮影時刻情報と関連付けられている画像の撮影位置情報を画像メタデータ管理部201から取得する。
【0067】
そして関連度評価部204は、取得したそれぞれの撮影位置情報と、移動体のそれぞれの位置情報と、の間の距離を求める。これについては第1の実施形態の如く、同じ時刻の撮影位置情報と位置情報とを用いてその間の距離を求める。これにより、各時刻における距離を計算することができる。
【0068】
図9は、撮影機器、移動体のそれぞれの2次元平面上における移動経路を説明する図である。901〜904は、ユーザにより指定された画像の撮影時刻情報の近傍時刻を示す撮影時刻情報と関連付けられている画像の撮影位置情報が示す位置である。そして関連度評価部204は、この場合、位置x(=位置901〜904)と、位置xと同時刻における移動経路702上の位置と、の間の距離、を求める。同様に関連度評価部204は、位置x(=位置901〜904)と、位置xと同時刻における移動経路703上の位置と、の間の距離、を求める。同様に関連度評価部204は、位置x(=位置901〜904)と、位置xと同時刻における移動経路704上の位置と、の間の距離、を求める。
【0069】
図10は、それぞれの移動経路702〜704について、関連度評価部204が求めた距離を示す図である。T1は位置901における撮影時刻情報が示す時刻、T2は位置902における撮影時刻情報が示す時刻、T3はユーザが指定した画像の撮影時刻、T4は位置903における撮影時刻情報が示す時刻、T5は位置904における撮影時刻情報が示す時刻を示す。例えば、図10によれば、位置901と、位置901における時刻である時刻T1における移動経路702上の位置との間の距離は1.5となっている。また、位置903と、位置903における時刻である時刻T4における移動経路704上の位置との間の距離は11.3となっている。
【0070】
そして関連度評価部204は第1の実施形態と同様に、それぞれの移動経路702〜704について、距離の平均値、分散値を求め、求めたこれらの統計量を用いて、ユーザにより指定された画像とユーザにより指定された移動体との間の関連度を求める。
【0071】
本実施形態によれば、対象画像の撮影が、一連の流れの中で行われていることを前提としているため、その前後で画像が撮影されている必要がある(図9における901〜904)。また、経路同士の比較よりも比較するポイントが少なくなる可能性が高いので、移動経路同士を比較する場合に比べて計算量を削減でき、また、移動経路の取得・保管が不要になるため、そのための記憶領域や仕組みが削減できるというメリットがある。また、本実施形態では、撮影回数を3回としているが、この撮影回数は1回以上であれば特に限定するものではない。
【0072】
[第4の実施形態]
第1の実施形態では、関連度が求まった後は、ユーザによる介入無しに関係付け部205によって関係付けが成されていた。しかし、関連度が求まった後で、その関連度を表示装置の表示画面上に表示し、この関連度でもって関係付けを行っても良いか否かをユーザに問うようにしても良い。そしてユーザから関係付けを行う旨の指示が入力された場合、後は第1の実施形態と同様に、関係付け部205による処理を開始する。
【0073】
係る構成によれば、第1の実施形態と比べて、利用する側にとっての手間は生じるものの、より意図したメタデータが付与されやすくなるため、再利用時の精度や効果が高くなるというメリットがある。
【0074】
[第5の実施形態]
第1の実施形態では、関係付け部205が生成した「関連度を示す情報」は、画像と関係付けてメタデータとして外部記憶装置104に登録するだけであったが、本実施形態では、このメタデータを、移動体としての被写体の認識結果の修正に利用する。以下では第1の実施形態と異なる点のみについて説明する。
【0075】
図5は、本実施形態に係る情報処理装置の機能構成例を示すブロック図である。図5に示した構成は、図1に示した構成に被写体認識部501を加えた構成である。被写体認識部501は、撮影装置により撮影された被写体(移動体)の画像を用いてこの被写体を認識することで、認識の確度を示すスコアを計算する。このような被写体認識処理の認識結果の確度については、被写体との距離や被写体の向きといった被写体の写り方や、ピントの合い方、認識用の教師データの質や量など、様々な要因によって変動する。
【0076】
認識結果の確度が十分でない場合は、実際の正解とは異なった認識を行っている場合が多い。誤った認識結果を画像の被写体として採用することは、検索などで被写体情報を使う際に誤検索の要因になるなど、再利用時のノイズとなるため、好ましく無い。本実施形態では、移動体としての被写体と画像との関連度を、被写体の認識結果を補正するために利用する。
【0077】
例えば、被写体認識部501での認識結果によって、図11に示すような認識結果が得られたとする。図11は、被写体認識部501が被写体に対する認識処理を行った結果、その認識結果として得られた上位3つについて、認識結果の確度に応じたスコアを示す図である。図11では、認識対象に対する認識結果として被写体Xのスコアが最も大きい値を示しているが、実際には被写体Aが認識結果として正解であったとする。このとき、この被写体Aを移動体として第1の実施形態に係る処理を行うことで、画像と被写体Aとの関連度が高ければ、被写体Aと画像とは強い関係にあるとして関係付けがなされることになる。例えば、被写体Aと画像について求めた類似度を被写体Aのスコアに乗ずることで、このスコアを修正する。このスコアの修正は、被写体認識部501が行う。
【0078】
図12は、図11に示した被写体Aのスコアを、被写体認識部501によって修正された結果を示す図である。図12に示す如く、被写体Aのスコアが修正され、最も高いスコアとなっている。
【0079】
なお、本実施形態を実現するにあたっては、移動体移動経路管理部203が対象とする移動体と、被写体認識部501による認識対象の被写体とが同一である必要がある。従って、被写体認識部501による認識結果には、認識対象とした被写体に固有の情報(被写体情報)が関係付けられるべきである。これにより、移動体移動経路管理部203が対象とする移動体と、被写体認識部501による認識対象の被写体と、が同じであるか否かの判断は、被写体情報と移動体情報とが同じであるか否かを判断することで行うことができる。或いは、移動体と被写体の同定用の対応表を関係付け部205等で管理しておくなどすれば良い。このように、移動体と被写体とが同一であるか否かを特定する為の仕組みについては様々な方法が考えられ、何れの方法を用いても良い。
【0080】
以上の説明により、本実施形態によれば、被写体としての情報の質を高めることができるようになる。これにより、十分ではない確度の認識結果を、被写体情報として画像と関係づけてしまうことを抑制できるようになる。また、第1の実施形態では、移動体と画像の間に関連性があることだけしか分からないが、本実施形態によって、被写体情報として関係付けることができるようになる。本実施形態における認識処理や、第1の実施形態における関連付け処理の、それぞれ個々では実現困難であった効果を得ることができる。
【0081】
[第6の実施形態]
上記実施形態においては、主に静止画像を対象として述べたが、動画であっても良い。動画の場合は、全体を分割した部分に対して処理を行うことが考えられる。例えば、動画をシーンに分割し、各シーンを上記実施形態における静止画1枚の画像とみなして処理を行っても構わない。あるいは、nフレーム分のデータ毎に処理をしても良い。他にも、緯度経度情報を定期的に取得している場合は、ある範囲に納まっている間を一つの部分とみなすといったようにしても良い。もちろん、一つの動画データ全体を処理の対象として扱っても構わない。
【0082】
[第7の実施形態]
本実施形態では、第1の実施形態で説明した画像と移動体との関係を利用した表示例について述べる。なお、以下では第1の実施形態と異なる点のみについて説明する。
【0083】
図14は、複数人で構成されるグループがいくつかのサブグループに分かれて撮影行動を行った場合に、各画像に関係付けられた移動体情報からサブグループの構成とその推移を抽出して表示した例を示す図である。具体的な適用事例としては、複数人で旅行やイベントへ行った場合などが考えられる。
【0084】
この例では、A、B、C、D、E、Fの6人で行動を開始し、この行動の終わりまでに、この6人がどのような組(サブグループ)で行動を共にしたかの推移を示している。このような表示は、たくさんの画像の中から、利用者が、自分が関係した画像を探したり、あるいは逆に、自分が関われなかった(知らない)画像を探したりといったことを、簡単に入力指示するために使うことができる。例えば、図14の場合、Aが自分以外の組み合わせによるサブグループ(1401など)をクリックすることで、このサブグループの画像を表示するといったような、GUI(グラフィカルユーザインターフェース)として利用することもできる。
【0085】
図15は、本実施形態に係る情報処理装置の機能構成例を示すブロック図である。画像特定部1501は、外部記憶装置104に登録している画像群から、特定のグループに属する画像群を特定する。例えば、旅行やイベント等で撮影された画像群を特定する。特定のグループに属する画像群を特定する為の仕組みについては様々なものが考え得る。
【0086】
例えば、外部記憶装置104に登録する画像には、「旅行」や「運動会」などといったラベルをメタデータとして付与しておく。これにより画像特定部1501は、例えば「運動会」で撮影された画像を特定する場合には、外部記憶装置104に登録されているそれぞれの画像のラベルを参照し、「運動会」のラベルが付与された画像を特定する。
【0087】
また、外部記憶装置104に一度に登録された画像群、同一日時に登録された画像群を1つのグループとし、それぞれのグループに上述のようにラベルを付与しても良い。また、第1の実施形態で述べたように、撮影機器の移動経路がわかる場合は、その移動範囲から特定のグループに属する画像群を特定しても構わない。
【0088】
移動体情報管理部1502は、画像に関係付けられた移動体に関する情報を管理する。係る関係付けはどのような方法で行っても良く、例えば第1の実施形態で説明した処理でもって関係付けても良いし、ユーザが手動で関係付けても良い。本実施形態では、移動体に関する情報は、画像とは別個のファイルとして外部記憶装置104に登録されているものとする。
【0089】
移動体関係抽出部1503は、画像特定部1501が特定した画像群のそれぞれについて、関係付けられている移動体の情報を、移動体情報管理部1502から取得する。そしてそれぞれの画像における移動体間の関係を抽出する。本実施形態では、画像特定部1501が特定した一連の画像における移動体の増減をチェックし、行動を共にしていたと思われる移動体とその推移の情報を抽出する。
【0090】
表示部1504は、移動体関係抽出部1503で求めた、行動を共にしていたと思われる移動体とその推移の情報から、図14に例示するような画面を生成し、生成した画面を、出力デバイスインターフェース106を介して出力デバイス110に送出する。図14は、一連の各画像に関係付けられた移動体の増減によって、行動を共にしていた移動体が変化する様を示している。
【0091】
図16は、本実施形態に係る情報処理装置が行う処理のフローチャートである。先ずステップS1601では、画像特定部1501は、外部記憶装置104に登録している画像群から、特定のグループに属する画像群を特定する。特定のグループの指定についてはユーザが入力デバイス109を用いて行っても良いし、予め定められていても良い。
【0092】
次に、ステップS1602では、移動体関係抽出部1503は、画像特定部1501が特定した画像群のそれぞれについて、関係付けられている移動体の情報を、移動体情報管理部1502から取得する。
【0093】
次に、ステップS1603では、移動体関係抽出部1503は、それぞれの画像に関係付けられた移動体とその推移の情報とを抽出する。本実施形態では、画像特定部1501が特定した一連の画像に関係付けられた移動体の増減をチェックし、行動を共にしていたと思われる移動体とその推移の情報を抽出する。
【0094】
次にステップS1604では表示部1504は、移動体関係抽出部1503で求めた、行動を共にしていたと思われる移動体とその推移の情報から、図14に例示するような画面を生成する。そして、生成した画面を、出力デバイスインターフェース106を介して出力デバイス110に送出する。このとき、関係付けられた撮影画像が無いことで行動が特定できない移動体が現われることがあるが、それらについては、不定である旨が表示できれば、表示の仕方は限定するものではない。例えば、図14では、1402(Dが不定)や1403(Fが不定)のように、破線を使った表示によって区別をしている。他にも、色を変えたり、点滅させたり、フォントを変えたり、不定である旨のメッセージを出すなどして区別しても構わない。なお、上記各実施形態は適宜組み合わせても良いし、適宜切り替えて使用しても良い。
<撮影機器の移動経路と移動体の移動経路との間の類似度を求める為の他の方法>
上記の通り、上記類似度を求めるための方法は他にも考えられ、以下にそのうちの1つを示す。なお、以下に説明する方法は、被写体の時刻と位置の情報(以下、被写体位置・時刻情報と呼称する)を予め収集して管理しているものとする。即ち、被写体経路という概念はあっても無くても良い。
【0095】
また、ターゲットの画像を決め、その近傍の撮影機器移動経路を取得することについては上記の通りである。次に、撮影機器経路上の等間隔なn点をサンプリングする。次に、n個の各サンプルと場所・時間的に近い被写体位置・時刻情報を取得する。ここで、「場所が近い」とは、距離がある閾値内のことであり、「時間が近い」とは、±時間がある閾値内のことである。ここまでの処理により、n個分の被写体位置・時刻情報の集合ができる。
【0096】
次に、先の処理で求めた全集合内に同一被写体の位置・時刻情報が含まれていた場合は、その被写体の移動経路と撮影機器移動経路との類似度は高いと判定する。なお、n個の全集合内に含まれているかではなく、全集合のうちどれだけの割合で含まれているかで判断しても良い。例えば、n=10である場合、10の集合のうち8割(=8集合)に含まれていれば、二つの経路は類似していると判定する。また、上記閾値を、ターゲットに近いほど厳しく(狭く)設定するようにしても良い。
【0097】
[その他の実施形態]
また、本発明の目的は、以下のようにすることによって達成されることはいうまでもない。即ち、前述した実施形態の機能を実現するソフトウェアのプログラムコード(コンピュータプログラム)を記録した記録媒体(または記憶媒体)を、システムあるいは装置に供給する。係る記憶媒体は言うまでもなく、コンピュータ読み取り可能な記憶媒体である。そして、そのシステムあるいは装置のコンピュータ(またはCPUやMPU)が記録媒体に格納されたプログラムコードを読み出し実行する。この場合、記録媒体から読み出されたプログラムコード自体が前述した実施形態の機能を実現することになり、そのプログラムコードを記録した記録媒体は本発明を構成することになる。
【0098】
また、コンピュータが読み出したプログラムコードを実行することにより、そのプログラムコードの指示に基づき、コンピュータ上で稼働しているオペレーティングシステム(OS)などが実際の処理の一部または全部を行う。その処理によって前述した実施形態の機能が実現される場合も含まれることは言うまでもない。
【0099】
さらに、記録媒体から読み出されたプログラムコードが、コンピュータに挿入された機能拡張カードやコンピュータに接続された機能拡張ユニットに備わるメモリに書込まれたとする。その後、そのプログラムコードの指示に基づき、その機能拡張カードや機能拡張ユニットに備わるCPUなどが実際の処理の一部または全部を行い、その処理によって前述した実施形態の機能が実現される場合も含まれることは言うまでもない。
【0100】
本発明を上記記録媒体に適用する場合、その記録媒体には、先に説明したフローチャートに対応するプログラムコードが格納されることになる。
【特許請求の範囲】
【請求項1】
撮影機器が画像を撮影した時刻の近傍時刻における当該撮影機器の位置情報と、当該近傍時刻における移動体の位置情報と、を用いて、前記撮影機器の移動経路と前記移動体の移動経路との間の類似度を求める計算手段と、
前記計算手段が計算した類似度に基づいて、前記画像と前記移動体との関連度を決定し、決定した関連度を示す情報を前記画像と関係付けて登録する登録手段と
を備えることを特徴とする情報処理装置。
【請求項2】
更に、
それぞれの時刻における撮影機器の位置情報を管理する第1の管理手段と、
それぞれの時刻における移動体の位置情報を管理する第2の管理手段と、
を備え、
前記計算手段は、
前記撮影機器が画像を撮影した時刻の近傍時刻における位置情報を、前記第1の管理手段が管理する位置情報群から取得する第1の取得手段と、
前記近傍時刻における前記移動体の位置情報を、前記第2の管理手段が管理する位置情報群から取得する第2の取得手段とを備え、
取得したそれぞれの位置情報を用いて、前記類似度を求める
ことを特徴とする請求項1に記載の情報処理装置。
【請求項3】
前記第1の管理手段は、前記撮影機器により撮影されたそれぞれの画像の撮影位置情報を、それぞれの時刻における撮影機器の位置情報として管理することを特徴とする請求項2に記載の情報処理装置。
【請求項4】
前記第1の管理手段は、外部の機器により定期的に測定された前記撮影機器の位置情報を、それぞれの時刻における撮影機器の位置情報として管理することを特徴とする請求項2に記載の情報処理装置。
【請求項5】
前記計算手段は、前記第1の取得手段が取得した位置情報と、前記第2の取得手段が取得した位置情報と、の間の類似度を求めることを特徴とする請求項2に記載の情報処理装置。
【請求項6】
前記計算手段は、
前記第1の取得手段が取得した位置情報と、前記第2の取得手段が取得した位置情報と、の間の距離を求め、
前記距離の平均値、分散値を求め、
前記平均値と前記分散値とを用いて前記類似度を求め、
前記類似度は、前記平均値が小さいほど大きく、前記分散値が小さいほど大きい
ことを特徴とする請求項2に記載の情報処理装置。
【請求項7】
前記登録手段は、前記類似度が大きいほど、前記画像と前記移動体との関連度がより高いと決定することを特徴とする請求項1乃至6の何れか1項に記載の情報処理装置。
【請求項8】
前記登録手段は、前記関連度を示す情報をメタデータとして前記画像と関係付けて、前記情報処理装置が有するメモリに登録することを特徴とする請求項1乃至7の何れか1項に記載の情報処理装置。
【請求項9】
更に、
前記移動体の画像を用いて前記移動体を認識することで、認識の確度を示すスコアを計算する手段と、
前記登録手段により決定された関連度に基づいて前記スコアを修正する手段と
を備えることを特徴とする請求項1乃至8の何れか1項に記載の情報処理装置。
【請求項10】
計算手段が、撮影機器が画像を撮影した時刻の近傍時刻における当該撮影機器の位置情報と、当該近傍時刻における移動体の位置情報と、を用いて、前記撮影機器の移動経路と前記移動体の移動経路との間の類似度を求める計算工程と、
登録手段が、前記計算工程で計算した類似度に基づいて、前記画像と前記移動体との関連度を決定し、決定した関連度を示す情報を前記画像と関係付けて登録する登録工程と
を備えることを特徴とする情報処理方法。
【請求項11】
コンピュータを、請求項1乃至9の何れか1項に記載の情報処理装置が有する各手段として機能させるためのコンピュータプログラム。
【請求項12】
請求項11に記載のコンピュータプログラムを格納した、コンピュータ読み取り可能な記憶媒体。
【請求項1】
撮影機器が画像を撮影した時刻の近傍時刻における当該撮影機器の位置情報と、当該近傍時刻における移動体の位置情報と、を用いて、前記撮影機器の移動経路と前記移動体の移動経路との間の類似度を求める計算手段と、
前記計算手段が計算した類似度に基づいて、前記画像と前記移動体との関連度を決定し、決定した関連度を示す情報を前記画像と関係付けて登録する登録手段と
を備えることを特徴とする情報処理装置。
【請求項2】
更に、
それぞれの時刻における撮影機器の位置情報を管理する第1の管理手段と、
それぞれの時刻における移動体の位置情報を管理する第2の管理手段と、
を備え、
前記計算手段は、
前記撮影機器が画像を撮影した時刻の近傍時刻における位置情報を、前記第1の管理手段が管理する位置情報群から取得する第1の取得手段と、
前記近傍時刻における前記移動体の位置情報を、前記第2の管理手段が管理する位置情報群から取得する第2の取得手段とを備え、
取得したそれぞれの位置情報を用いて、前記類似度を求める
ことを特徴とする請求項1に記載の情報処理装置。
【請求項3】
前記第1の管理手段は、前記撮影機器により撮影されたそれぞれの画像の撮影位置情報を、それぞれの時刻における撮影機器の位置情報として管理することを特徴とする請求項2に記載の情報処理装置。
【請求項4】
前記第1の管理手段は、外部の機器により定期的に測定された前記撮影機器の位置情報を、それぞれの時刻における撮影機器の位置情報として管理することを特徴とする請求項2に記載の情報処理装置。
【請求項5】
前記計算手段は、前記第1の取得手段が取得した位置情報と、前記第2の取得手段が取得した位置情報と、の間の類似度を求めることを特徴とする請求項2に記載の情報処理装置。
【請求項6】
前記計算手段は、
前記第1の取得手段が取得した位置情報と、前記第2の取得手段が取得した位置情報と、の間の距離を求め、
前記距離の平均値、分散値を求め、
前記平均値と前記分散値とを用いて前記類似度を求め、
前記類似度は、前記平均値が小さいほど大きく、前記分散値が小さいほど大きい
ことを特徴とする請求項2に記載の情報処理装置。
【請求項7】
前記登録手段は、前記類似度が大きいほど、前記画像と前記移動体との関連度がより高いと決定することを特徴とする請求項1乃至6の何れか1項に記載の情報処理装置。
【請求項8】
前記登録手段は、前記関連度を示す情報をメタデータとして前記画像と関係付けて、前記情報処理装置が有するメモリに登録することを特徴とする請求項1乃至7の何れか1項に記載の情報処理装置。
【請求項9】
更に、
前記移動体の画像を用いて前記移動体を認識することで、認識の確度を示すスコアを計算する手段と、
前記登録手段により決定された関連度に基づいて前記スコアを修正する手段と
を備えることを特徴とする請求項1乃至8の何れか1項に記載の情報処理装置。
【請求項10】
計算手段が、撮影機器が画像を撮影した時刻の近傍時刻における当該撮影機器の位置情報と、当該近傍時刻における移動体の位置情報と、を用いて、前記撮影機器の移動経路と前記移動体の移動経路との間の類似度を求める計算工程と、
登録手段が、前記計算工程で計算した類似度に基づいて、前記画像と前記移動体との関連度を決定し、決定した関連度を示す情報を前記画像と関係付けて登録する登録工程と
を備えることを特徴とする情報処理方法。
【請求項11】
コンピュータを、請求項1乃至9の何れか1項に記載の情報処理装置が有する各手段として機能させるためのコンピュータプログラム。
【請求項12】
請求項11に記載のコンピュータプログラムを格納した、コンピュータ読み取り可能な記憶媒体。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【公開番号】特開2010−267030(P2010−267030A)
【公開日】平成22年11月25日(2010.11.25)
【国際特許分類】
【出願番号】特願2009−117046(P2009−117046)
【出願日】平成21年5月13日(2009.5.13)
【出願人】(000001007)キヤノン株式会社 (59,756)
【Fターム(参考)】
【公開日】平成22年11月25日(2010.11.25)
【国際特許分類】
【出願日】平成21年5月13日(2009.5.13)
【出願人】(000001007)キヤノン株式会社 (59,756)
【Fターム(参考)】
[ Back to top ]