画像処理装置及びプログラム
【課題】 ユーザのライフスタイルや嗜好を反映したキーワード(メタデータ)付与を行う画像処理装置及びプログラム等を提供すること。
【解決手段】 画像処理装置は、撮影画像の撮影位置又は撮像装置の位置を座標情報として取得する情報取得部110と、座標情報として取得された複数の座標情報の分布状態を取得する分布状態取得部120と、取得した分布状態に応じたキーワードを撮影画像に付与するキーワード付与部130と、を含む。
【解決手段】 画像処理装置は、撮影画像の撮影位置又は撮像装置の位置を座標情報として取得する情報取得部110と、座標情報として取得された複数の座標情報の分布状態を取得する分布状態取得部120と、取得した分布状態に応じたキーワードを撮影画像に付与するキーワード付与部130と、を含む。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、画像処理装置及びプログラム等に関する。
【背景技術】
【0002】
画像検索のため、画像へのキーワード(メタデータ)付与が近年活発である。付与手法は大きく分けて、画像から画像特徴量を抽出し、画像認識で被写体種を認識しキーワードとするアプローチと、カメラパラメータ(Exif、GPS、各種センサ)を用いるアプローチとがある。
【0003】
特許文献1では、画像の撮影時に併せて取得された位置情報を用いて、予め用意された場所名を表すキーワードを付与する手法が示されている。
【先行技術文献】
【特許文献】
【0004】
【特許文献1】特開2008−242639号公報
【発明の概要】
【発明が解決しようとする課題】
【0005】
位置情報を用いたキーワード付与にしろ、画像認識を用いたキーワード付与にしろ、同じ場所或いは同じ対象を撮影すれば常に同じキーワードが付与されるため、ユーザのライフスタイルや嗜好は反映されない。
【0006】
本発明の幾つかの態様によれば、ユーザのライフスタイルや嗜好等を反映したキーワード付与を行う画像処理装置及びプログラム等を提供できる。
【0007】
また、本発明の幾つかの態様によれば、ある写真が撮影された場所が、ユーザにとって日常的な場所なのか、もしくは非日常的な場所であるのかを自動的にキーワードとして付与する画像処理装置及びプログラム等を提供できる。
【課題を解決するための手段】
【0008】
本発明の一態様は、撮影画像の撮影位置又は撮像装置の位置を座標情報として取得する情報取得部と、前記座標情報として取得された複数の座標情報の分布状態を取得する分布状態取得部と、取得した前記分布状態に応じたキーワードを前記撮影画像に付与するキーワード付与部と、を含む画像処理装置に関係する。
【0009】
本発明の一態様では、座標情報を取得し、座標情報の分布状態を取得することで、分布状態に応じたキーワードを撮影画像に付与することができる。よって、ユーザの嗜好等を反映したキーワード付与が可能になる。
【0010】
また、本発明の一態様では、前記分布状態取得部は、地理上の位置を表す二次元座標空間内における前記座標情報の分布状態を取得してもよい。
【0011】
これにより、地理上の位置(例えば経度・緯度等)を座標情報として取得し分布状態を取得すること等ができる。
【0012】
また、本発明の一態様では、前記情報取得部は、前記撮影画像の前記撮影位置又は前記撮像装置の位置が取得された際の時刻を表す情報である時間情報を、さらに取得し、前記分布状態取得部は、地理上の位置を表す二次元座標に加えて、時間を表す第3の軸を有する三次元座標空間内における前記座標情報及び前記時間情報の分布状態を取得し、前記キーワード付与部は、時間に関する情報を表すキーワードを前記撮影画像に付与してもよい。
【0013】
これにより、地理上の位置に加えて、時間軸も加味した三次元の情報の分布状態を取得し、取得した分布状態に応じたキーワード付与等が可能になる。
【0014】
また、本発明の一態様では、前記分布状態取得部は、少なくとも第1のクラスタと第2のクラスタを含む複数のクラスタに、前記座標情報を分類するクラスタ分類部を含んでもよい。
【0015】
これにより、座標情報をクラスタリング処理し、複数のクラスタに分類すること等が可能になる。
【0016】
また、本発明の一態様では、前記クラスタ分類部は、前記第1のクラスタと前記第2のクラスタを、基準となるクラスタである基準クラスタと、基準とならないクラスタである非基準クラスタとに分類してもよい。
【0017】
これにより、基準・非基準という観点から分類を行うことが可能になり、ユーザの嗜好等を反映したキーワード付与ができる。
【0018】
また、本発明の一態様では、前記クラスタ分類部は、前記複数のクラスタのうち、クラスタに含まれる前記撮影画像の枚数が最も多いクラスタを前記基準クラスタとして分類してもよい。
【0019】
これにより、含まれる画像の枚数をカウントするという簡単な手法により基準クラスタを設定すること等が可能になる。
【0020】
また、本発明の一態様では、前記クラスタ分類部は、ユーザの選択に基づいて前記基準クラスタを設定してもよい。
【0021】
これにより、基準クラスタの選択をユーザの意志に任せることが可能になる。
【0022】
また、本発明の一態様では、前記クラスタ分類部は、地理上の位置を表す二次元座標空間における座標情報の、時系列的な移動履歴に基づいて前記基準クラスタを設定してもよい。
【0023】
これにより、時系列的な移動履歴に基づいて、例えば、最も通過回数が多い地点(ハブとなっている地点)等を中心に基準クラスタを自動的に設定すること等が可能になる。
【0024】
また、本発明の一態様では、前記クラスタ分類部は、前記第1のクラスタ内の座標情報の表す座標の分布の複雑度と、前記第2のクラスタ内の座標情報の表す座標の分布の複雑度とに基づいて、前記基準クラスタを設定してもよい。
【0025】
これにより、クラスタ内の座標情報の分布の複雑度に基づいて基準クラスタを自動的に設定すること等が可能になる。
【0026】
また、本発明の一態様では、前記撮影画像として取得した複数の画像のサムネイルを地図上に提示する処理を行う地図提示部を含み、前記地図提示部は、地理上の撮影位置間の距離が所与の閾値よりも小さい画像群に対しては、前記画像群に含まれる1つの代表画像をサムネイルとして地図上に提示するとともに、非基準クラスタの場合には基準クラスタの場合に比べて、前記閾値の値を大きく設定する処理を行ってもよい。
【0027】
これにより、非基準クラスタでは広く分布している画像が1つ(ないしは少数)のサムネイルで代表されることになり、一連の画像群が一塊のイベントであることを感覚的にユーザに訴えることができる。
【0028】
また、本発明の一態様では、前記キーワード付与部は、前記撮影画像として取得した複数の画像に対して、撮影位置に応じた地名を前記キーワードとして付与する際に、前記基準クラスタの撮影画像に対しては前記非基準クラスタの撮影画像に比べて、狭い領域を表す地名を付与してもよい。
【0029】
これにより、基準クラスタでは詳細な地名が付与され、旅行等では大域的な地名が付与されることで、より使いやすいシステムの提供等が可能になる。
【0030】
また、本発明の一態様では、前記情報取得部は、前記撮影画像の前記撮影位置又は前記撮像装置の位置が取得された際の時刻を表す情報である時間情報を、さらに取得し、前記分布状態取得部は、地理上の位置を表す二次元座標に加えて、時間を表す第3の軸を有する三次元座標空間内における前記座標情報及び前記時間情報撮影の分布状態を取得し、前記キーワード付与部は、時間に関する情報を表すキーワードを前記撮影画像に付与する際に、時間的な距離を判定するための閾値を、前記基準クラスタか前記非基準クラスタかに応じて切り替えてもよい。
【0031】
これにより、閾値を基準クラスタか非基準クラスタかで変更できるため、ユーザの感覚に沿ったキーワード付与等が可能になる。
【0032】
また、本発明の一態様では、前記情報取得部は、前記撮影画像の前記撮影位置又は前記撮像装置の位置が取得された際の時刻を表す情報である時間情報を、さらに取得し、前記分布状態取得部は、地理上の位置を表す二次元座標に加えて、時間を表す第3の軸を有する三次元座標空間内における前記座標情報及び前記時間情報の分布状態を取得し、前記クラスタ分類部は、前記非基準クラスタに含まれる画像群において、連続した撮影時間が所与の閾値以上になった場合には、前記非基準クラスタに設定されていたクラスタを前記基準クラスタに変更してもよい。
【0033】
これにより、ユーザの引っ越し等により、日常的な行動範囲が変わったときにも、自動的にクラスタの種類を変更すること等が可能になる。
【0034】
また、本発明の一態様では、前記分布状態取得部は、前記複数のクラスタ間の距離情報を取得する距離情報取得部を含み、前記キーワード付与部は、前記距離情報に基づいて前記撮影画像にキーワードを付与してもよい。
【0035】
これにより、クラスタ間距離に基づいたキーワード付与等が可能になる
【0036】
また、本発明の一態様では、前記分布状態取得部は、前記複数のクラスタ間の距離情報を取得する距離情報取得部を含み、前記キーワード付与部は、前記基準クラスタと、前期非基準クラスタとの間の距離情報により表される距離が大きい場合には、前記非基準クラスタに含まれる前記撮影画像に対して、座標空間における距離が離れていることを表すキーワードを付与してもよい。
【0037】
これにより、基準クラスタと非基準クラスタの間のクラスタ間距離が大きい場合に、座標空間における距離が離れていることを表すキーワードを付与することができ、距離的な情報からユーザの嗜好等を反映したキーワード付与が可能になる。
【0038】
また、本発明の一態様では、前記分布状態取得部は、少なくとも第1のクラスタと第2のクラスタを含む複数のクラスタに、前記座標情報を分類するクラスタ分類部を含み、前記クラスタ分類部は、前記複数のクラスタのうち、1つ以上のクラスタを基準クラスタとして分類し、それ以外のクラスタを非基準クラスタとして分類してもよい。
【0039】
これにより、ユーザの撮影位置分布が広範囲にわたっている場合にも、適切なキーワード付与等が可能になる。
【0040】
また、本発明の一態様では、前記分布状態取得部は、少なくとも第1のクラスタと第2のクラスタを含む複数のクラスタに、前記座標情報を分類するクラスタ分類部を含み、前記クラスタ分類部は、前記複数のクラスタの各クラスタの代表位置を求め、前記各クラスタをそれぞれの前記代表位置に対応する点と見なして、再度、クラスタリング処理を行うことで、前記複数のクラスタを前記基準クラスタと前記非基準クラスタに分類してもよい。
【0041】
これにより、複数のクラスタを基準クラスタと非基準クラスタに分類する際にも、クラスタの再クラスタリング処理という簡単な手法で分類を行うことができる。
【0042】
また、本発明の一態様では、前記情報取得部は、同一のユーザが撮像した撮影画像に基づいて、前記座標情報を取得してもよい。
【0043】
これにより、同一ユーザの嗜好等に沿ったキーワード付与が可能になる。
【0044】
また、本発明の一態様では、前記キーワード付与部は、前記キーワードを付与済の前記撮影画像に対して、再度前記キーワードを付与することで、前記キーワードを更新する処理を行ってもよい。
【0045】
これにより、ユーザの嗜好等の変化を反映した最新のキーワードを付与することが可能になる。
【0046】
また、本発明の他の態様は、撮影画像の撮影位置又は撮像装置の位置を座標情報として取得する情報取得部と、前記座標情報として取得された複数の座標情報の分布状態を取得する分布状態取得部と、取得した前記分布状態に応じたキーワードを前記撮影画像に付与するキーワード付与部として、コンピュータを機能させるプログラムに関係する。
【図面の簡単な説明】
【0047】
【図1】本実施形態における画像処理装置の構成例。
【図2】第1の実施形態の処理を説明するためのフローチャート。
【図3】図3(A)〜図3(C)は座標情報の分布例。
【図4】クラスタ間距離を説明する図。
【図5】地図上にサムネイルを表示する画面データの例。
【図6】画像データ、座標情報及びキーワードのデータ構成例。
【図7】座標情報の時系列な移動履歴に基づく基準クラスタの決定処理を説明する図。
【図8】図8(A)は座標情報の分布の複雑度が高い例、図8(B)は座標情報の分布の複雑度が低い例。
【図9】第2の実施形態の処理を説明するためのフローチャート。
【図10】図10(A)、図10(B)はユーザの選択により基準クラスタを決定する際に表示される画面データの例。
【図11】経度・緯度・時間からなる三次元座標空間の例。
【図12】3つ以上のクラスタに分類する例。
【図13】第4の実施形態の処理を説明するためのフローチャート。
【発明を実施するための形態】
【0048】
以下、本実施形態について説明する。なお、以下に説明する本実施形態は、特許請求の範囲に記載された本発明の内容を不当に限定するものではない。また本実施形態で説明される構成の全てが、本発明の必須構成要件であるとは限らない。
【0049】
1.第1の実施形態
【0050】
本実施例では、複数の画像群の撮影位置から、画像群の中の画像がユーザの日常の行動圏内で撮影されたものなのか、遠方で撮影されたものなのかを判別し、対応するキーワードを付与する処理を示す。例として、あるユーザが日常的に写真を撮影している中で、遠方に旅行に行ったときの写真に自動的に“旅行”というキーワードを付与する処理を示す。
【0051】
図1に本実施形態における画像処理装置の構成図を示す。図1に示したように、画像処理装置は、処理部100と、入力部200と、記憶部300と、表示部400と、を含む。処理部100と、入力部200と、記憶部300と、表示部400とはそれぞれ接続されている。
【0052】
処理部100は、入力部200からの入力情報や、記憶部300が記憶した情報に基づいて、種々の処理を行う。この処理部100の機能は、各種プロセッサ(CPU等)、ASIC(ゲートアレイ等)などのハードウェアや、プログラムなどにより実現できる。
【0053】
入力部200は、ユーザが画像処理装置の各種操作情報等を入力するためのものであり、各種ボタンやGUI等により実現できる。
【0054】
記憶部300は、処理部100等のワーク領域となるもので、その機能はRAM等のメモリーやHDD(ハードディスクドライブ)などにより実現できる。
【0055】
表示部400は、各種の表示画面を表示するためのものであり、例えば液晶ディスプレイや有機ELディスプレイなどにより実現できる。
【0056】
処理部100は、情報取得部110と、分布状態取得部120と、キーワード付与部130と、地図提示部150と、を含む。
【0057】
情報取得部110は、座標情報を取得する。具体的には例えば、地理上の位置を表す2次元座標情報(例えばX軸Y軸、あるいは緯度経度等)を取得する。座標情報は、画像が取得されたタイミングにおいて取得するものとするが、これに限定されない。画像が取得されていないタイミングにおいても、座標情報を取得していてもよい。本実施形態においては、GPS等で取得される経度・緯度情報を取得する。また、座標情報取得手段はGPSには限定されない。画像処理装置にWiFi機能が搭載されている場合はPlaceEngine等の公知の手法を用いて座標情報を取得してもよい。また、経度・緯度だけでなく、高度に関する情報を取得してもよい。
【0058】
分布状態取得部120は、座標情報の分布状態を取得する。具体的には、クラスタ分類部125及び距離情報取得部126において説明するように、複数の座標情報を2つのクラスタにクラスタリングし、2つのクラスタ間の距離情報を求めることで、分布状態を取得する。
【0059】
分布状態取得部120は、クラスタ分類部125と、距離情報取得部126と、を含む。クラスタ分類部125は、複数の座標情報をクラスタリングする。本実施形態においては、第1、第2の2つのクラスタに分類し、一方を基準となる基準クラスタに設定するとともに、他方を非基準クラスタに設定する。距離情報取得部126は、基準クラスタと非基準クラスタの間の距離を表すクラスタ間距離を取得する。
【0060】
キーワード付与部130は、取得された画像に対して、メタデータとなるキーワードを付与する。本実施形態においては、付与されるキーワードは地理上の位置に基づいたキーワードであり、ユーザの環境や嗜好を反映したものが考えられる。また、従来からあるように、ユーザの嗜好等を考慮しないキーワード(例えば「東京」等の地名)を付与してもよい。
【0061】
地図提示部150は、2次元の地図上に画像をサムネイルとして表示する。具体的には後述する図5に示すような画像を生成しユーザに対して提示する。
【0062】
次に、図2を用いて本実施形態における処理の詳細を説明する。まず、この処理が開始されると、情報取得部110により、座標情報が取得される(S501)。ここでは、上述したように、GPSやWiFiの機能を用いて経度・緯度情報を取得するものとする。
【0063】
そして分布状態取得部120のクラスタ分類部125は、取得した座標情報(経度・緯度情報)を二次元座標空間におけるベクトル群として、ベクトル群に対してクラスタリング処理を行い、クラスタ1とクラスタ2に分類する(S502)。ここで、各クラスタには少なくとも1つの座標情報が含まれるものとする。この際のクラスタリング手法としては、k−means等の一般的な手法を種々使用できる。ここまでの処理により、図3(A)から図3(B)が取得されることになる。
【0064】
次に、クラスタ分類部125は、クラスタ1とクラスタ2を、基準クラスタと非基準クラスタに分類する(S503)。本実施形態においては、クラスタ1とクラスタ2にそれぞれ含まれる画像の枚数を比較し、画像の枚数が多い方のクラスタを基準クラスタとする。よって図3(C)においては、第1のクラスタは基準クラスタ、第2のクラスタは非基準クラスタとなる。
【0065】
基準クラスタと非基準クラスタが設定されたら、距離情報取得部126は、図4に示すような基準クラスタと非基準クラスタのクラスタ間距離を算出する(S504)。本実施形態においては、下式(1)〜(3)を用いて、クラスタ重心(各クラスタの撮影位置群の平均座標)間のユークリッド距離を算出するものとするが、これに限定されない。
【数1】
【数2】
【数3】
【0066】
距離算出法は他にも種々使用できる。例えば、クラスタ間で最も位置が近い撮影位置座標同士のユークリッド距離を用いてもよいし、クラスタ間の全撮影位置座標同士の距離平均を用いてもよい。また、基準クラスタの重心座標から非基準クラスタへのマハラノビス距離(点から分布への距離)や、非基準クラスタの重心座標から基準クラスタへのマハラノビス距離を用いてもよいし、他にも、クラスタ間距離を算出する種々の一般的な処理を使用してもよい。
【0067】
また、距離情報取得部126では、クラスタ間距離でなく、各クラスタに含まれる各画像の座標ベクトルと、相対するクラスタとの距離を各々算出して、後述するキーワード付与に利用してもよい。
【0068】
算出された距離情報に基づいて、キーワード付与部は、各クラスタに含まれる画像にキーワードを付与して記憶する(S505)。クラスタ間の距離の値が大きければ、非基準クラスタに含まれる画像に「遠い」、「旅行」等の地理上の距離が離れていることを表現するキーワードを付与する。また、基準クラスタに含まれる画像に「近い」、「近所」等の地理上の距離が近いことを表現するキーワードを付与してもよい。
【0069】
また、クラスタ間の距離の値が小さければ、基準クラスタもしくは非基準クラスタのどちらか又は両方に含まれる画像に”近い”、”近所”等の地理上の距離が近いことを表現するキーワードを付与する。本実施例では、距離の大小は予め定められた閾値によって判定する。例えば、地図上で300km以上の距離を閾値とすると、非基準クラスタが基準クラスタから300km以上離れていた場合に、非基準クラスタの画像群に”旅行”等のキーワードを付与することになる。
【0070】
以上により、ユーザが撮影した画像群から、遠方への旅行で撮影した写真のみに自動的に“旅行”というキーワードが付与されることとなる。
【0071】
また、本画像処理装置は、撮影位置が増えたタイミング、ユーザによる任意のタイミング、一定の時間経過等で、本処理を再度行い、キーワード付与済みの画像のキーワードを更新する。よって、ユーザのライフスタイルや嗜好の変化を反映した最新のキーワード付与が出来る。
【0072】
また、地図提示部150が地図上にサムネイルとして画像を表示する場合には、基準クラスタか非基準クラスタかで処理を変更することもできる。具体例を図5に示す。ここでは、地図上で所与の閾値以下の範囲にある画像群は1つのサムネイルで代表して表示するものとする。
【0073】
ここで、基準クラスタとは、ユーザが日常的に行動する圏内に相当すると考えられるから、分布している画像群を大きなくくりでまとめてしまうには問題が残る。つまり、東京都にいる人にとっては、「東京都」で1つのまとまりにするのではなく、同じ都内であっても「お台場」の画像と「池袋」の画像とは区別されることが望ましい。なぜなら、東京在住の人の日常生活を基準に考えれば、「お台場」と「池袋」は十分に離れた地点であり、それぞれの場所へ行き画像を撮影した際の、同行者・時間・目的等は異なることが想定されるためである。
【0074】
それに対して、非基準クラスタとは、ユーザにとって行動圏内を外れた非日常的な場所であるから、異なる目的等で頻繁に訪れることは想定しにくい。よって、図5の例で言えば、東北近辺に分布する画像群は、距離的にはお台場−池袋間以上の範囲に分布していたとしても、同一の「東北旅行」として扱い、1つの画像で代表しても問題は生じにくい。
【0075】
以上の本実施形態において、画像処理装置は、図1に示したように、座標情報を取得する情報取得部110と、取得した複数の座標情報の分布状態を取得する分布状態取得部120と、分布状態に応じたキーワードを撮影画像に付与するキーワード付与部130と、を含む。
【0076】
ここで、画像処理装置は、撮像装置とともに用いられる(もしくは撮像装置に内蔵される)ものとして説明するが、これに限定されるものではない。また、座標情報とは、撮像装置により撮影画像を撮影した際の位置、もしくは、画像の撮影にかかわらず、任意のタイミングで取得された撮像装置の位置を表す情報である。
【0077】
これにより、座標情報を取得した上で、座標情報の分布状態を取得し、取得した分布状態に応じたキーワードを撮影画像に付与することが可能になる。よって、座標情報の分布(例えば図3(A)〜図3(C))に応じて、各撮影画像に対してキーワードを付与することができる。ここでは、分布状態を取得しているため、例えば図3(A)〜図3(C)の例で言えば、撮影は主に東京で行われており、少数ではあるが東北でも撮影が行われている、という情報を取得できる。そのため、付与することのできるキーワードは、単純に「東京」、「東北」といった、どのユーザにとっても変わらないキーワードに限定されない。東京の画像に「近い」「近所」「普段」、東北の画像に「遠い」「旅行」「珍しい」といったように、ユーザの居住地や行動範囲、嗜好を反映したキーワード付与が可能になる。
【0078】
ここで、画像処理装置は、画像に対してキーワードを付与するものとした。画像にメタデータを付与することで、検索や表示を効率的に行うことができる。しかし、本実施形態においては、画像を撮影したタイミング以外のタイミングでも座標情報を取得しているため、そのときの座標情報に対してもキーワードを付与してもかまわない。データ構造としては図6に示したようになる。通常は図6のA1に示したように、画像データに対して、メタデータとして座標情報が関連づけられ、さらにキーワードがメタデータとして関連づけられる。それに対して、図6のA2に示したように、画像が撮影されないタイミングで取得された座標情報(画像データはNULL)にキーワードが関連づけられてもよい。何らかの形で、座標情報を用いてデータ処理を行うケースが生じた場合等に、座標情報のメタデータとしてキーワードを用いることができるため有用である。
【0079】
また、分布状態取得部120は、地理上の位置を表す二次元座標空間内における座標情報の分布状態を取得する。
【0080】
これにより、座標情報として、地理上の位置(例えば経度・緯度)を用いることが可能となる。地理上の位置は例えば、GPSやWiFiの機能を用いることで取得することができる。
【0081】
また、分布状態取得部120は、少なくとも第1のクラスタと第2のクラスタを含む複数のクラスタに、座標情報を分類するクラスタ分類部125を含んでもよい。
【0082】
これにより、複数の座標情報を、クラスタリング処理により複数のクラスタに分類することができる。本実施形態においては図3(B)に示したように、第1のクラスタと第2のクラスタの2つに分類するが、後述する第4の実施形態のように、3つ以上のクラスタに分類してもよい(後述する図12)。クラスタリングを行うことで、分布の状態に関する情報を取得することが可能になる。
【0083】
また、クラスタ分類部125は、第1のクラスタと第2のクラスタを、図3(C)に示すように、基準となるクラスタである基準クラスタと、基準とならないクラスタである非基準クラスタとに分類する。
【0084】
これにより、複数のクラスタに分類された座標情報を、さらに、基準に属するものであるか否かという観点で分類することができる。基準・非基準という分類を行うことで、上述したように、その地域がユーザにとって日常的な範囲なのか、非日常的な範囲なのかを判定することが可能になり、ユーザの嗜好等を考慮したキーワード付与ができる。
【0085】
また、クラスタ分類部125は、複数のクラスタのうち、含まれる撮影画像が最も多いクラスタを基準クラスタとして分類してもよい。
【0086】
これにより、含まれる撮影画像が最も多いクラスタを基準クラスタとして設定することができる。これは、撮影画像の枚数が多いと言うことは、該当するクラスタに含まれる範囲において行動する時間が最も長いという可能性が高いことによる。なお、普段の生活では撮影はあまり行わず、旅行で大量の画像を撮影するユーザもいると考えられる。その場合は、撮影していない状態(撮像装置が完全には停止していないスリープ状態)においても、定期的に座標情報を取得し、含まれる座標情報が最も多いクラスタを基準クラスタにすればよい。どちらの場合も、クラスタに含まれる要素の数から基準クラスタを決定できるため、処理を簡単化できる。
【0087】
また、クラスタ分類部125は、地理上の位置を表す二次元座標空間における、座標情報の時系列的な移動履歴に基づいて基準クラスタを設定してもよい。
【0088】
これにより、座標情報の時系列な移動履歴から基準クラスタを設定することができる。ここで、座標情報の時系列な移動履歴とは、具体的には例えば、座標情報を時系列順に直線で結んだもの等が考えられる。ユーザの行動としては、自宅から旅行先に移動し自宅に戻ることが想定される。つまり、旅行先から旅行先へ次々移動するケースを想定から外せば、ユーザの自宅は、図7において放射線状の図形の中心(別の言葉で言えば「ハブ」)になっていると考えられる。よって、図7のような図形を作成し、ハブとなるクラスタを基準クラスタとして設定すればよい。処理としては、クラスタに入る回数(もしくは出る回数、あるいはその和)をカウントし、最も多いクラスタを基準クラスタにする手法が考えられる。
【0089】
また、クラスタ分類部125は、第1のクラスタ内の座標情報の分布の複雑度と、第2のクラスタ内の座標情報の分布の複雑度とに基づいて、基準クラスタを設定してもよい。
【0090】
ここで、座標情報の分布の複雑度とは、図8(A)のように、座標情報が広範囲にばらばらに分布している場合に高くなり、図8(B)のように、狭い範囲に密集していたり、直線上に分布している場合に低くなる情報である。具体的な算出手法の例については後述する。
【0091】
これにより、座標情報の分布の複雑度に基づいて、基準クラスタを設定することができる。これは、ユーザが日常的に属する基準クラスタでは、クラスタ内のいろいろな場所へ無作為に移動することが想定されるのに対して、非基準クラスタは旅行等であるため、直線状等、比較的単純な移動が想定されることによる。
【0092】
複雑度の算出手法は、単純には例えば、各座標情報を時系列的に結んだときに、前の点と現在の点を結ぶ線分のなす角度の絶対値の総和や、線分の長さの総和等をパラメータとする手法が考えられる。角度の絶対値の総和が小さければ、図8(B)のように直線的な移動が想定されるし、線分の長さの総和が小さければ狭い範囲に密集していることが想定され、どちらも非基準クラスタに分類されるケースとなる。
【0093】
また、複雑度の他の算出手法としては、各座標情報を時系列的に結んだときに、前の点と現在の点を結ぶ線分に一定の幅を持たせる。そして、各クラスタが表す領域にしめる線分の面積の割合を求めてもよい。複雑な移動をしていれば、クラスタ領域に対する線分の面積の割合は大きくなり、逆に単純な動きをしていれば面積の割合は小さくなることが想定される。実際の処理としては、クラスタ領域(白い画素とする)を表す画像の中で、線分の通った領域を黒く塗りつぶすようにして、白い画素と黒い画素との個数の比を求めればよい。ただし、狭い領域に多数の座標情報が分布している場合には、移動が単純であったとしても、面積の割合は高くなってしまう。そこで、クラスタ領域の面積と、クラスタに含まれる座標情報の数とで、算出する面積を補正することも考慮するとよい。
【0094】
また、画像処理装置は、地図上に撮影画像として取得した複数の画像のサムネイルを表示する地図提示部150を含んでもよい。地図提示部150は、地理上の撮影位置間の距離が所与の閾値よりも小さい画像群に対しては、画像群に含まれる1つの代表画像をサムネイルとして表示する。そして、非基準クラスタにおいては、基準クラスタに比べて、閾値の値を大きく設定する。
【0095】
これにより、例えば図5のような画像をユーザに提示することが可能になる。図5においては、図3(C)に示したように、東京近辺に基準クラスタが設定され、東北に非基準クラスタが設定されているものとする。所与の範囲に入っている画像群を1つのサムネイルで代表する手法をとるが、その際の閾値を非基準クラスタでは基準クラスタに比べて大きくする。つまり、非基準クラスタでは広範囲の画像が1つのサムネイルで代表されるが、基準クラスタでは1つのサムネイルが代表する範囲が非基準クラスタに比べて狭くなる。これは上述したように、基準クラスタは日常的に行動する範囲であるから、ポイントとなる地点は狭い範囲に複数あると考えられることによる。つまり、東京で言えば例えば、「お台場」「池袋」「品川」「自由が丘」は距離的にそれほど離れていなくても、異なる目的等で訪れる場所であるから、全て区別されてしかるべきである。それに対して、非基準クラスタは旅行等によるものであるから、極端な例で言えば、東北全域を「東北旅行」として1つのサムネイルで代表しても、問題は生じにくいと考えられる。
【0096】
また、キーワード付与部130は、撮影画像に対して撮影位置に応じた地名をキーワードとして付与する場合に、基準クラスタの画像に対しては、非基準クラスタの画像に比べて、狭い領域を表す地名を付与してもよい。
【0097】
ここで、狭い領域を表す地名とは、例えば、地名の指し示す領域の面積が比較対象に比べ狭いことを意味する。具体的には例えば、「日本」に対する「東京」であり、「東京」に対する「渋谷区」、「渋谷区」に対する「渋谷」「恵比寿」等である。これは、住所を決める際の、国、都道府県、市区町村、番地等の区分けとほぼ同等であるが、もちろん、住所には用いられない地域名称等が用いられてもよい。また、上述の例では、広い領域を表す地名と、狭い領域を表す地名とが包含関係にあったが、当然これに限定される必要はない。例えば、地方をあらわす「東北」と、都道府県を表す「東京」では、「東京」の方が狭い領域を表す。
【0098】
これにより、キーワードの粒度(細かさ)を基準クラスタか非基準クラスタかに応じて設定することが可能になる。これは、上述のサムネイルの例と同様に、基準クラスタでは、ユーザの嗜好を反映させるためには、細かい地名を使い分ける必要があるのに対し、非基準クラスタでは、ある程度おおざっぱな(「東北」「岩手」等)地名で十分だからである。
【0099】
また、分布状態取得部120は、図1に示したように、距離情報取得部126を含み、キーワード付与部130は、距離情報に基づいて撮影画像にキーワードを付与する。具体的には例えば、基準クラスタと非基準クラスタの間の距離が大きい場合には、非基準クラスタに含まれる撮影画像に対して、距離が離れていることを表すキーワード(例えば「遠い」「旅行」「例外」「レア」等)を付与してもよい。
【0100】
これにより、基準クラスタと非基準クラスタの間のクラスタ間距離を取得し、取得した距離情報に基づいてキーワードを設定することができる。また、非基準クラスタが基準クラスタから遠い位置にあることを表す距離情報の閾値は、自由に決めることができる。例えば、行動範囲の狭い子供であれば、数十km程度の移動でも十分非日常的な環境にあると考えられる。一方アクティブな成人であれば、数百kmかそれ以上の移動でないと、非日常的な環境だと認識しないこともあり得る。つまり、キーワードはクラスタ間の距離情報に基づいて付与されるべきであり、その判断の際の閾値は、ユーザごとに決められることが望ましいと言える。
【0101】
また、情報取得部110は、同一のユーザが撮像した画像に基づいて、座標情報を取得する。
【0102】
これにより、ユーザ個人の行動範囲や嗜好等を適切にキーワードに反映させることが可能となる。同一の画像処理装置(もしくは画像処理装置が搭載された撮像装置)を複数のユーザで使う場合には、嗜好等がユーザごとに異なると、複数の行動範囲や嗜好等が混ざり合ってしまうため、適切ではない。
【0103】
また、キーワード付与部130は、キーワード付与済の撮影画像に対して、再度キーワードを付与することで、キーワードを更新する処理を行ってもよい。
【0104】
この際、分布状態取得部120により、座標情報の分布状態も更新されてよい。
【0105】
これにより、キーワードを更新することが可能になる。例えば、引っ越しや行動範囲の広がり等により、日常的な行動範囲が変更されるケース等により、基準クラスタが更新され、それに伴い、キーワードが更新されること等が考えられる。
【0106】
また、以上の本実施形態は、情報取得部110と、分布状態取得部120と、キーワード付与部130として、コンピュータを機能させるプログラムにも関係する。
【0107】
これにより、ハードウェア的な手段に限定されず、ソフトウェアで本実施形態の画像処理装置を実現することが可能になる。具体的には例えば、撮像装置内に画像処理装置を内蔵するのではなく、撮像装置は単体で用い、撮像装置で得られたデータのみをPC等の情報処理装置に入力し、プログラム的に画像処理を行うこと等が考えられる。
【0108】
2.第2の実施形態
【0109】
本実施形態ではユーザが基準クラスタを選択し、それに基づいてキーワードを付与する例を示す。これにより、ユーザの好む任意の範囲を基準クラスタとすることが出来、ユーザ操作の手間は増えるものの、より嗜好に沿ったキーワード付与が可能となる。
【0110】
図1に本実施形態における画像処理装置の構成図を示す。各部の構成については第1の実施形態と同様である。本実施形態においては、クラスタ分類部125における、基準クラスタ・非基準クラスタを設定がユーザからの入力に従って行われる点が異なる。
【0111】
図9を用いて本実施形態における処理の詳細を説明する。この処理が開始されると、まず、座標情報が取得される(S601)。座標情報の取得に関しては、第1の実施形態と同様であるため、詳細な説明は省略する。
【0112】
次に、範囲選択モードであるか否かの判定が行われ(S607)、範囲選択モードである場合には、クラスタ分類部125は、表示部に備えられたディスプレイ等の情報提示デバイスに図10(A)に示すような地図情報と撮影位置を表示し、入力部に備えられたマウス等のUIによって、ユーザに基準クラスタとなる地図上の範囲を選択させる(S602)。この際、ユーザがポインタをドラッグすることで、選択範囲が円形状に広がるようにしてもよいし、フリーハンドで囲まれた領域を選択範囲としてもよい。住所に関する情報を入力させ、入力された住所を中心に、所与の範囲を基準クラスタとして選択してもよい。また、図10(A)には座標情報が表示されているが、まったくの白地図から選択させてもよい。
【0113】
また、S607において、範囲選択モードでないと判定された場合には、まず、第1の実施形態と同様に、座標情報の分布から、第1のクラスタと第2のクラスタを設定する(S603)。
【0114】
そして、クラスタ分類部125は、図10(B)に示すような画面を表示し、第1のクラスタと第2のクラスタのどちらを基準クラスタにするか、選択させる(S604)。
【0115】
距離情報取得部126によるクラスタ間距離の取得(S605)については、第1の実施形態と同様である。そして、クラスタ間距離に応じて、キーワード付与部130によりキーワードを付与する(S606)。キーワード付与処理は、基本的に実施例1と同様であるが、距離の大小を判定する閾値をユーザに選択させてもよい。
【0116】
以上により、ユーザが選択した範囲を基準としたキーワード付与が行われ、より個人の嗜好に沿ったキーワード付与となる。
【0117】
以上の本実施形態では、クラスタ分類部125は、図10(A)、図10(B)に示すように、ユーザの選択に基づいて基準クラスタを設定する。
【0118】
これにより、よりユーザの嗜好を反映した基準クラスタの設定が可能になる。具体的には例えば、図10(A)のように、クラスタリング処理の前に、範囲を選択させたり、住所を入力させたりする手法や、図10(B)のようにクラスタリング後に、どのクラスタを基準クラスタにするかを選択させる手法が考えられる。また、図10(B)には図示されていないが、クラスタリング後に住所を直接入力させ、入力された住所に最も近いクラスタを基準クラスタとしてもよい。
【0119】
3.第3の実施形態
【0120】
本実施形態では二次元座標で表せられる地図上の位置情報に加え、時間軸を用いることで、より高度なキーワード付与を行う処理を示す。
【0121】
構成図を図1に示し、処理の詳細を図2に示す。図1、図2から明らかなように、構成や処理の概要は第1の実施形態と同様である。以下、図2に沿って異なる箇所を説明する。
【0122】
この処理が開始されると、まず、座標情報が取得される。情報取得部110は画像群の地理的な撮影座標情報を取得する。具体的には座標情報としてGPS等で取得される経度・緯度情報を取得する。本実施形態においては、それに加えて、撮影された時刻を取得する。経度・緯度の二次元座標空間と、時間からなる一次元座標空間との座標として各々座標情報を得る(S501)。
【0123】
次に、座標情報に基づいてクラスタ1とクラスタ2を設定する。ここでは、クラスタ1,2の設定には、地理的な二次元の座標情報を用いるものとし、時間からなる一次元座標情報は使用しない(S502)。
【0124】
基準クラスタ、非基準クラスタに分類するS503については、第1の実施形態と同様である。そして、クラスタ間距離を算出する(S504)。第1の実施形態と同様に、経度・緯度の二次元座標における距離を算出する。それに加えて、時間軸の一次元座標空間における距離も算出する。
【0125】
そして、キーワード付与部130は、クラスタ間距離に応じて、各クラスタに含まれる画像にキーワードを付与して記憶する。時間軸の距離が大きければ“昔”、小さければ”最近”等のキーワードを付与する。また、経度・緯度の二次元座標空間における距離と、時間軸の距離を各々判定し、”昔”と“旅行”、”最近”と”近所”といった位置情報と時間軸を同時に鑑みた付与をしてもよい。
【0126】
また、以上の実施形態では、経度・緯度の二次元座標空間と、時間からなる一次元座標空間を別々に距離算出に用いたが、これらを合わせて使用してもよい。例えば、図11に示すように、経度・緯度・時間からなる三次元座標空間の座標として各撮影座標を得る。
【0127】
クラスタ1とクラスタ2の設定の際にも三次元座標空間上のベクトル群が用いられる。また、距離情報取得部126による距離情報取得に際しても、三次元座標空間が用いられる。
【0128】
そして、キーワード付与部130は、三次元座標空間における距離が大きければ“遠い”、小さければ“近い”等の、地理上と時間軸の距離を合わせて表すキーワードを付与する。
【0129】
以上により、時間軸を用いたキーワード付与が可能となり、ユーザのライフスタイルや嗜好の時間的変化を反映したキーワード付与が出来る。
【0130】
また、第1の実施形態に示したように、本画像処理装置は、撮影位置が増えたタイミング、ユーザによる任意のタイミング、一定の時間経過等で、本処理を再度行い、キーワード付与済みの画像のキーワードを更新するため、”最近”と付与されていた画像が”昔”と更新されるなど、時間の経過を鑑みた処理を行ってもよい。
【0131】
以上の本実施形態では、情報取得部110は、座標情報の他に、時間情報をさらに取得する。そして、分布状態取得部120は、三次元座標空間における座標情報と時間情報の分布状態を取得し、キーワード付与部130は、時間に関する情報を表すキーワードを付与する。
【0132】
ここで、時間情報とは、撮影画像の撮影位置もしくは撮像画像の位置に関する情報が取得された際の時刻を表す情報である。
【0133】
これにより、図11のように、経度・緯度だけでなく、時間も含めたキーワード付与が可能になる。例えば「最近」「昔」等のキーワードが付与できるし、経度・緯度情報とあわせて、「最近の旅行」「2回目の旅行」等のキーワード付与も可能になる。
【0134】
また、キーワード付与部130は、撮影画像に時間に関するキーワードを付与する際に、時間的な距離を判定するための閾値を、基準クラスタか非基準クラスタかに応じて切り替えてもよい。
【0135】
具体的には例えば、時間的に近いことを表す閾値を設定する際に、基準クラスタでは非基準クラスタに比べて小さい閾値を設定してもよい。例えば、基準クラスタでは、1週間前を閾値に「最近」というキーワードを付与するのに対して、非基準クラスタでは、1ヶ月前を閾値に「最近」というキーワードを付与する。
【0136】
これにより、よりユーザの感覚にあったキーワードを付与することが可能になる。これは、日常的な範囲(基準クラスタ)では、毎日のように新しいイベントが積み重なり、過去のイベントは急速に目新しさを失っていくのに対して、非日常的な範囲(非基準クラスタ)では、ある程度時間がたったとしても、イベントのインパクトは薄れにくいことに起因している。
【0137】
また、クラスタ分類部125は、非基準クラスタに含まれる画像群において、連続した撮影時間が所与の閾値以上になった場合には、非基準クラスタに設定されていたクラスタを基準クラスタに変更してもよい。
【0138】
ここで、連続した撮影時間とは、ある時刻Aにおいて、非基準クラスタにおいて画像が撮影され、別のクラスタに移動することなく、同一のクラスタである時刻Bにおいて画像が撮影されたときの、AとBとの間の時間を指すものとする。つまり、連続した撮影時間が所与の閾値以上になった場合とは、ある非基準クラスタに長時間とどまり続けたケースとほぼ同義である。
【0139】
これにより、連続した撮影時間が所与の閾値以上になった場合には、引っ越し等の影響により、日常的な行動範囲が変更されたと判断し、基準クラスタを変更することが可能になる。
【0140】
4.第4の実施形態
【0141】
実施例1〜3に共通の拡張処理として、基準クラスタと非基準クラスタが各々複数のクラスタから構成されている場合の処理を示す。これまでは、基準クラスタと非基準クラスタの計2つのクラスタのみ扱ってきたが、現実にユーザが撮影する撮影位置群の分布を考慮すると、3個以上の多くのクラスタを処理に用いた方が適切であるためである。
【0142】
構成図は第1の実施形態と同様に図1である。
【0143】
図12に本実施例の模式図を示す。図12に示したように、クラスタがクラスタ1,2の2つだけではなく、3つ以上の複数のクラスタ(図12の例では5個)が設定されている。そして、基準クラスタ、非基準クラスタのそれぞれが、少なくとも1つのクラスタから構成されており、図12の例では、基準クラスタが3つのクラスタから構成され、非基準クラスタが2つのクラスタから構成されている。
【0144】
図13を用いて本実施形態における処理の詳細を説明する。この処理が開始されると、まず、情報取得部110により、座標情報が取得される(S701)。これについては第1の実施形態と同様である。
【0145】
次に、クラスタ分類部125により、座標情報分布からクラスタ群を設定する(S702)。ここで、クラスタ群の設定法は種々利用できる。例えば、k−meansにおいて、kの値を増やしてクラスタリングを行ってもよい。第2の実施形態のようなユーザの入力を可能にする構成であれば、ユーザにクラスタとする座標情報群を各々選択させてもよい。これにより、図12に示すように、座標情報分布から複数のクラスタが設定される。
【0146】
次に、クラスタ分類部125は、クラスタ群を、基準クラスタ群と非基準クラスタ群に分類する(S703)。ここで、分類法は種々利用できる。例えば、クラスタ群に対してk−means(k=2)としてクラスタリングを行ってもよい。また、ユーザに基準クラスタとするクラスタを選択させてもよい。これにより、図12に示すように、クラスタ群が、基準クラスタと非基準クラスタに分類される。
【0147】
さらに、距離情報取得部126は、基準クラスタ群と非基準クラスタ群のクラスタ間距離を算出する(S704)。計算法は第1の実施形態と同様である。基準クラスタの重心位置は、基準クラスタ群に含まれる各クラスタ内の全ての座標情報に基づいた重心の位置とすればよい。また、基準クラスタ群に含まれるあるクラスタと、非基準クラスタ群に含まれるあるクラスタとをピックアップして、第1の実施形態と同様の計算処理を行ってもよい。
【0148】
S705における、クラスタ間距離に応じたキーワード付与処理は、第1の実施形態と同様である。
【0149】
以上により、より実際に沿った複雑なキーワード付与が可能となる。
【0150】
以上の本実施形態において、分布状態取得部120は、少なくとも第1のクラスタと第2のクラスタを含む複数のクラスタに座標情報を分類するクラスタ分類部125を含む。そして、クラスタ分類部125は、複数のクラスタのうち1つ以上のクラスタを基準クラスタとして分類し、それ以外のクラスタを非基準クラスタとして分類する。
【0151】
その際の手法として、具体的には例えば、複数のクラスタの各クラスタの代表位置を求め、各クラスタをそれぞれの代表位置に対応する点と見なして再度クラスタリング処理を行うこと等が考えられる。
【0152】
これにより、図12のように、基準クラスタ、非基準クラスタがそれぞれ1つ以上のクラスタからなるような構成が可能になる。第1〜3の実施形態のように、クラスタが2つの場合には、複数の地域に旅行に行ったケース(例えば東京在住で、東北と関西に旅行に行ったケース等)では、適切なクラスタリングができなかった。その点本実施形態の手法を用いれば、東京、東北、関西と、3つのクラスタをそれぞれ設定することができるため、より適切なクラスタリングが可能になる。
【0153】
以上、本発明を適用した4つの実施の形態1〜4およびその変形例について説明したが、本発明は、各実施の形態1〜4やその変形例そのままに限定されるものではなく、実施段階では、発明の要旨を逸脱しない範囲内で構成要素を変形して具体化することができる。また、上記した各実施の形態1〜4や変形例に開示されている複数の構成要素を適宜組み合わせることによって、種々の発明を形成することができる。例えば、各実施の形態1〜4や変形例に記載した全構成要素からいくつかの構成要素を削除してもよい。さらに、異なる実施の形態や変形例で説明した構成要素を適宜組み合わせてもよい。このように、発明の主旨を逸脱しない範囲内において種々の変形や応用が可能である。
【符号の説明】
【0154】
100 処理部、110 情報取得部、120 分布状態取得部、
125 クラスタ分類部、126 距離情報取得部、130 キーワード付与部、
140 クラスタ分類部、150 地図提示部、160 距離情報取得部、
200 入力部、300 記憶部、400 表示部
【技術分野】
【0001】
本発明は、画像処理装置及びプログラム等に関する。
【背景技術】
【0002】
画像検索のため、画像へのキーワード(メタデータ)付与が近年活発である。付与手法は大きく分けて、画像から画像特徴量を抽出し、画像認識で被写体種を認識しキーワードとするアプローチと、カメラパラメータ(Exif、GPS、各種センサ)を用いるアプローチとがある。
【0003】
特許文献1では、画像の撮影時に併せて取得された位置情報を用いて、予め用意された場所名を表すキーワードを付与する手法が示されている。
【先行技術文献】
【特許文献】
【0004】
【特許文献1】特開2008−242639号公報
【発明の概要】
【発明が解決しようとする課題】
【0005】
位置情報を用いたキーワード付与にしろ、画像認識を用いたキーワード付与にしろ、同じ場所或いは同じ対象を撮影すれば常に同じキーワードが付与されるため、ユーザのライフスタイルや嗜好は反映されない。
【0006】
本発明の幾つかの態様によれば、ユーザのライフスタイルや嗜好等を反映したキーワード付与を行う画像処理装置及びプログラム等を提供できる。
【0007】
また、本発明の幾つかの態様によれば、ある写真が撮影された場所が、ユーザにとって日常的な場所なのか、もしくは非日常的な場所であるのかを自動的にキーワードとして付与する画像処理装置及びプログラム等を提供できる。
【課題を解決するための手段】
【0008】
本発明の一態様は、撮影画像の撮影位置又は撮像装置の位置を座標情報として取得する情報取得部と、前記座標情報として取得された複数の座標情報の分布状態を取得する分布状態取得部と、取得した前記分布状態に応じたキーワードを前記撮影画像に付与するキーワード付与部と、を含む画像処理装置に関係する。
【0009】
本発明の一態様では、座標情報を取得し、座標情報の分布状態を取得することで、分布状態に応じたキーワードを撮影画像に付与することができる。よって、ユーザの嗜好等を反映したキーワード付与が可能になる。
【0010】
また、本発明の一態様では、前記分布状態取得部は、地理上の位置を表す二次元座標空間内における前記座標情報の分布状態を取得してもよい。
【0011】
これにより、地理上の位置(例えば経度・緯度等)を座標情報として取得し分布状態を取得すること等ができる。
【0012】
また、本発明の一態様では、前記情報取得部は、前記撮影画像の前記撮影位置又は前記撮像装置の位置が取得された際の時刻を表す情報である時間情報を、さらに取得し、前記分布状態取得部は、地理上の位置を表す二次元座標に加えて、時間を表す第3の軸を有する三次元座標空間内における前記座標情報及び前記時間情報の分布状態を取得し、前記キーワード付与部は、時間に関する情報を表すキーワードを前記撮影画像に付与してもよい。
【0013】
これにより、地理上の位置に加えて、時間軸も加味した三次元の情報の分布状態を取得し、取得した分布状態に応じたキーワード付与等が可能になる。
【0014】
また、本発明の一態様では、前記分布状態取得部は、少なくとも第1のクラスタと第2のクラスタを含む複数のクラスタに、前記座標情報を分類するクラスタ分類部を含んでもよい。
【0015】
これにより、座標情報をクラスタリング処理し、複数のクラスタに分類すること等が可能になる。
【0016】
また、本発明の一態様では、前記クラスタ分類部は、前記第1のクラスタと前記第2のクラスタを、基準となるクラスタである基準クラスタと、基準とならないクラスタである非基準クラスタとに分類してもよい。
【0017】
これにより、基準・非基準という観点から分類を行うことが可能になり、ユーザの嗜好等を反映したキーワード付与ができる。
【0018】
また、本発明の一態様では、前記クラスタ分類部は、前記複数のクラスタのうち、クラスタに含まれる前記撮影画像の枚数が最も多いクラスタを前記基準クラスタとして分類してもよい。
【0019】
これにより、含まれる画像の枚数をカウントするという簡単な手法により基準クラスタを設定すること等が可能になる。
【0020】
また、本発明の一態様では、前記クラスタ分類部は、ユーザの選択に基づいて前記基準クラスタを設定してもよい。
【0021】
これにより、基準クラスタの選択をユーザの意志に任せることが可能になる。
【0022】
また、本発明の一態様では、前記クラスタ分類部は、地理上の位置を表す二次元座標空間における座標情報の、時系列的な移動履歴に基づいて前記基準クラスタを設定してもよい。
【0023】
これにより、時系列的な移動履歴に基づいて、例えば、最も通過回数が多い地点(ハブとなっている地点)等を中心に基準クラスタを自動的に設定すること等が可能になる。
【0024】
また、本発明の一態様では、前記クラスタ分類部は、前記第1のクラスタ内の座標情報の表す座標の分布の複雑度と、前記第2のクラスタ内の座標情報の表す座標の分布の複雑度とに基づいて、前記基準クラスタを設定してもよい。
【0025】
これにより、クラスタ内の座標情報の分布の複雑度に基づいて基準クラスタを自動的に設定すること等が可能になる。
【0026】
また、本発明の一態様では、前記撮影画像として取得した複数の画像のサムネイルを地図上に提示する処理を行う地図提示部を含み、前記地図提示部は、地理上の撮影位置間の距離が所与の閾値よりも小さい画像群に対しては、前記画像群に含まれる1つの代表画像をサムネイルとして地図上に提示するとともに、非基準クラスタの場合には基準クラスタの場合に比べて、前記閾値の値を大きく設定する処理を行ってもよい。
【0027】
これにより、非基準クラスタでは広く分布している画像が1つ(ないしは少数)のサムネイルで代表されることになり、一連の画像群が一塊のイベントであることを感覚的にユーザに訴えることができる。
【0028】
また、本発明の一態様では、前記キーワード付与部は、前記撮影画像として取得した複数の画像に対して、撮影位置に応じた地名を前記キーワードとして付与する際に、前記基準クラスタの撮影画像に対しては前記非基準クラスタの撮影画像に比べて、狭い領域を表す地名を付与してもよい。
【0029】
これにより、基準クラスタでは詳細な地名が付与され、旅行等では大域的な地名が付与されることで、より使いやすいシステムの提供等が可能になる。
【0030】
また、本発明の一態様では、前記情報取得部は、前記撮影画像の前記撮影位置又は前記撮像装置の位置が取得された際の時刻を表す情報である時間情報を、さらに取得し、前記分布状態取得部は、地理上の位置を表す二次元座標に加えて、時間を表す第3の軸を有する三次元座標空間内における前記座標情報及び前記時間情報撮影の分布状態を取得し、前記キーワード付与部は、時間に関する情報を表すキーワードを前記撮影画像に付与する際に、時間的な距離を判定するための閾値を、前記基準クラスタか前記非基準クラスタかに応じて切り替えてもよい。
【0031】
これにより、閾値を基準クラスタか非基準クラスタかで変更できるため、ユーザの感覚に沿ったキーワード付与等が可能になる。
【0032】
また、本発明の一態様では、前記情報取得部は、前記撮影画像の前記撮影位置又は前記撮像装置の位置が取得された際の時刻を表す情報である時間情報を、さらに取得し、前記分布状態取得部は、地理上の位置を表す二次元座標に加えて、時間を表す第3の軸を有する三次元座標空間内における前記座標情報及び前記時間情報の分布状態を取得し、前記クラスタ分類部は、前記非基準クラスタに含まれる画像群において、連続した撮影時間が所与の閾値以上になった場合には、前記非基準クラスタに設定されていたクラスタを前記基準クラスタに変更してもよい。
【0033】
これにより、ユーザの引っ越し等により、日常的な行動範囲が変わったときにも、自動的にクラスタの種類を変更すること等が可能になる。
【0034】
また、本発明の一態様では、前記分布状態取得部は、前記複数のクラスタ間の距離情報を取得する距離情報取得部を含み、前記キーワード付与部は、前記距離情報に基づいて前記撮影画像にキーワードを付与してもよい。
【0035】
これにより、クラスタ間距離に基づいたキーワード付与等が可能になる
【0036】
また、本発明の一態様では、前記分布状態取得部は、前記複数のクラスタ間の距離情報を取得する距離情報取得部を含み、前記キーワード付与部は、前記基準クラスタと、前期非基準クラスタとの間の距離情報により表される距離が大きい場合には、前記非基準クラスタに含まれる前記撮影画像に対して、座標空間における距離が離れていることを表すキーワードを付与してもよい。
【0037】
これにより、基準クラスタと非基準クラスタの間のクラスタ間距離が大きい場合に、座標空間における距離が離れていることを表すキーワードを付与することができ、距離的な情報からユーザの嗜好等を反映したキーワード付与が可能になる。
【0038】
また、本発明の一態様では、前記分布状態取得部は、少なくとも第1のクラスタと第2のクラスタを含む複数のクラスタに、前記座標情報を分類するクラスタ分類部を含み、前記クラスタ分類部は、前記複数のクラスタのうち、1つ以上のクラスタを基準クラスタとして分類し、それ以外のクラスタを非基準クラスタとして分類してもよい。
【0039】
これにより、ユーザの撮影位置分布が広範囲にわたっている場合にも、適切なキーワード付与等が可能になる。
【0040】
また、本発明の一態様では、前記分布状態取得部は、少なくとも第1のクラスタと第2のクラスタを含む複数のクラスタに、前記座標情報を分類するクラスタ分類部を含み、前記クラスタ分類部は、前記複数のクラスタの各クラスタの代表位置を求め、前記各クラスタをそれぞれの前記代表位置に対応する点と見なして、再度、クラスタリング処理を行うことで、前記複数のクラスタを前記基準クラスタと前記非基準クラスタに分類してもよい。
【0041】
これにより、複数のクラスタを基準クラスタと非基準クラスタに分類する際にも、クラスタの再クラスタリング処理という簡単な手法で分類を行うことができる。
【0042】
また、本発明の一態様では、前記情報取得部は、同一のユーザが撮像した撮影画像に基づいて、前記座標情報を取得してもよい。
【0043】
これにより、同一ユーザの嗜好等に沿ったキーワード付与が可能になる。
【0044】
また、本発明の一態様では、前記キーワード付与部は、前記キーワードを付与済の前記撮影画像に対して、再度前記キーワードを付与することで、前記キーワードを更新する処理を行ってもよい。
【0045】
これにより、ユーザの嗜好等の変化を反映した最新のキーワードを付与することが可能になる。
【0046】
また、本発明の他の態様は、撮影画像の撮影位置又は撮像装置の位置を座標情報として取得する情報取得部と、前記座標情報として取得された複数の座標情報の分布状態を取得する分布状態取得部と、取得した前記分布状態に応じたキーワードを前記撮影画像に付与するキーワード付与部として、コンピュータを機能させるプログラムに関係する。
【図面の簡単な説明】
【0047】
【図1】本実施形態における画像処理装置の構成例。
【図2】第1の実施形態の処理を説明するためのフローチャート。
【図3】図3(A)〜図3(C)は座標情報の分布例。
【図4】クラスタ間距離を説明する図。
【図5】地図上にサムネイルを表示する画面データの例。
【図6】画像データ、座標情報及びキーワードのデータ構成例。
【図7】座標情報の時系列な移動履歴に基づく基準クラスタの決定処理を説明する図。
【図8】図8(A)は座標情報の分布の複雑度が高い例、図8(B)は座標情報の分布の複雑度が低い例。
【図9】第2の実施形態の処理を説明するためのフローチャート。
【図10】図10(A)、図10(B)はユーザの選択により基準クラスタを決定する際に表示される画面データの例。
【図11】経度・緯度・時間からなる三次元座標空間の例。
【図12】3つ以上のクラスタに分類する例。
【図13】第4の実施形態の処理を説明するためのフローチャート。
【発明を実施するための形態】
【0048】
以下、本実施形態について説明する。なお、以下に説明する本実施形態は、特許請求の範囲に記載された本発明の内容を不当に限定するものではない。また本実施形態で説明される構成の全てが、本発明の必須構成要件であるとは限らない。
【0049】
1.第1の実施形態
【0050】
本実施例では、複数の画像群の撮影位置から、画像群の中の画像がユーザの日常の行動圏内で撮影されたものなのか、遠方で撮影されたものなのかを判別し、対応するキーワードを付与する処理を示す。例として、あるユーザが日常的に写真を撮影している中で、遠方に旅行に行ったときの写真に自動的に“旅行”というキーワードを付与する処理を示す。
【0051】
図1に本実施形態における画像処理装置の構成図を示す。図1に示したように、画像処理装置は、処理部100と、入力部200と、記憶部300と、表示部400と、を含む。処理部100と、入力部200と、記憶部300と、表示部400とはそれぞれ接続されている。
【0052】
処理部100は、入力部200からの入力情報や、記憶部300が記憶した情報に基づいて、種々の処理を行う。この処理部100の機能は、各種プロセッサ(CPU等)、ASIC(ゲートアレイ等)などのハードウェアや、プログラムなどにより実現できる。
【0053】
入力部200は、ユーザが画像処理装置の各種操作情報等を入力するためのものであり、各種ボタンやGUI等により実現できる。
【0054】
記憶部300は、処理部100等のワーク領域となるもので、その機能はRAM等のメモリーやHDD(ハードディスクドライブ)などにより実現できる。
【0055】
表示部400は、各種の表示画面を表示するためのものであり、例えば液晶ディスプレイや有機ELディスプレイなどにより実現できる。
【0056】
処理部100は、情報取得部110と、分布状態取得部120と、キーワード付与部130と、地図提示部150と、を含む。
【0057】
情報取得部110は、座標情報を取得する。具体的には例えば、地理上の位置を表す2次元座標情報(例えばX軸Y軸、あるいは緯度経度等)を取得する。座標情報は、画像が取得されたタイミングにおいて取得するものとするが、これに限定されない。画像が取得されていないタイミングにおいても、座標情報を取得していてもよい。本実施形態においては、GPS等で取得される経度・緯度情報を取得する。また、座標情報取得手段はGPSには限定されない。画像処理装置にWiFi機能が搭載されている場合はPlaceEngine等の公知の手法を用いて座標情報を取得してもよい。また、経度・緯度だけでなく、高度に関する情報を取得してもよい。
【0058】
分布状態取得部120は、座標情報の分布状態を取得する。具体的には、クラスタ分類部125及び距離情報取得部126において説明するように、複数の座標情報を2つのクラスタにクラスタリングし、2つのクラスタ間の距離情報を求めることで、分布状態を取得する。
【0059】
分布状態取得部120は、クラスタ分類部125と、距離情報取得部126と、を含む。クラスタ分類部125は、複数の座標情報をクラスタリングする。本実施形態においては、第1、第2の2つのクラスタに分類し、一方を基準となる基準クラスタに設定するとともに、他方を非基準クラスタに設定する。距離情報取得部126は、基準クラスタと非基準クラスタの間の距離を表すクラスタ間距離を取得する。
【0060】
キーワード付与部130は、取得された画像に対して、メタデータとなるキーワードを付与する。本実施形態においては、付与されるキーワードは地理上の位置に基づいたキーワードであり、ユーザの環境や嗜好を反映したものが考えられる。また、従来からあるように、ユーザの嗜好等を考慮しないキーワード(例えば「東京」等の地名)を付与してもよい。
【0061】
地図提示部150は、2次元の地図上に画像をサムネイルとして表示する。具体的には後述する図5に示すような画像を生成しユーザに対して提示する。
【0062】
次に、図2を用いて本実施形態における処理の詳細を説明する。まず、この処理が開始されると、情報取得部110により、座標情報が取得される(S501)。ここでは、上述したように、GPSやWiFiの機能を用いて経度・緯度情報を取得するものとする。
【0063】
そして分布状態取得部120のクラスタ分類部125は、取得した座標情報(経度・緯度情報)を二次元座標空間におけるベクトル群として、ベクトル群に対してクラスタリング処理を行い、クラスタ1とクラスタ2に分類する(S502)。ここで、各クラスタには少なくとも1つの座標情報が含まれるものとする。この際のクラスタリング手法としては、k−means等の一般的な手法を種々使用できる。ここまでの処理により、図3(A)から図3(B)が取得されることになる。
【0064】
次に、クラスタ分類部125は、クラスタ1とクラスタ2を、基準クラスタと非基準クラスタに分類する(S503)。本実施形態においては、クラスタ1とクラスタ2にそれぞれ含まれる画像の枚数を比較し、画像の枚数が多い方のクラスタを基準クラスタとする。よって図3(C)においては、第1のクラスタは基準クラスタ、第2のクラスタは非基準クラスタとなる。
【0065】
基準クラスタと非基準クラスタが設定されたら、距離情報取得部126は、図4に示すような基準クラスタと非基準クラスタのクラスタ間距離を算出する(S504)。本実施形態においては、下式(1)〜(3)を用いて、クラスタ重心(各クラスタの撮影位置群の平均座標)間のユークリッド距離を算出するものとするが、これに限定されない。
【数1】
【数2】
【数3】
【0066】
距離算出法は他にも種々使用できる。例えば、クラスタ間で最も位置が近い撮影位置座標同士のユークリッド距離を用いてもよいし、クラスタ間の全撮影位置座標同士の距離平均を用いてもよい。また、基準クラスタの重心座標から非基準クラスタへのマハラノビス距離(点から分布への距離)や、非基準クラスタの重心座標から基準クラスタへのマハラノビス距離を用いてもよいし、他にも、クラスタ間距離を算出する種々の一般的な処理を使用してもよい。
【0067】
また、距離情報取得部126では、クラスタ間距離でなく、各クラスタに含まれる各画像の座標ベクトルと、相対するクラスタとの距離を各々算出して、後述するキーワード付与に利用してもよい。
【0068】
算出された距離情報に基づいて、キーワード付与部は、各クラスタに含まれる画像にキーワードを付与して記憶する(S505)。クラスタ間の距離の値が大きければ、非基準クラスタに含まれる画像に「遠い」、「旅行」等の地理上の距離が離れていることを表現するキーワードを付与する。また、基準クラスタに含まれる画像に「近い」、「近所」等の地理上の距離が近いことを表現するキーワードを付与してもよい。
【0069】
また、クラスタ間の距離の値が小さければ、基準クラスタもしくは非基準クラスタのどちらか又は両方に含まれる画像に”近い”、”近所”等の地理上の距離が近いことを表現するキーワードを付与する。本実施例では、距離の大小は予め定められた閾値によって判定する。例えば、地図上で300km以上の距離を閾値とすると、非基準クラスタが基準クラスタから300km以上離れていた場合に、非基準クラスタの画像群に”旅行”等のキーワードを付与することになる。
【0070】
以上により、ユーザが撮影した画像群から、遠方への旅行で撮影した写真のみに自動的に“旅行”というキーワードが付与されることとなる。
【0071】
また、本画像処理装置は、撮影位置が増えたタイミング、ユーザによる任意のタイミング、一定の時間経過等で、本処理を再度行い、キーワード付与済みの画像のキーワードを更新する。よって、ユーザのライフスタイルや嗜好の変化を反映した最新のキーワード付与が出来る。
【0072】
また、地図提示部150が地図上にサムネイルとして画像を表示する場合には、基準クラスタか非基準クラスタかで処理を変更することもできる。具体例を図5に示す。ここでは、地図上で所与の閾値以下の範囲にある画像群は1つのサムネイルで代表して表示するものとする。
【0073】
ここで、基準クラスタとは、ユーザが日常的に行動する圏内に相当すると考えられるから、分布している画像群を大きなくくりでまとめてしまうには問題が残る。つまり、東京都にいる人にとっては、「東京都」で1つのまとまりにするのではなく、同じ都内であっても「お台場」の画像と「池袋」の画像とは区別されることが望ましい。なぜなら、東京在住の人の日常生活を基準に考えれば、「お台場」と「池袋」は十分に離れた地点であり、それぞれの場所へ行き画像を撮影した際の、同行者・時間・目的等は異なることが想定されるためである。
【0074】
それに対して、非基準クラスタとは、ユーザにとって行動圏内を外れた非日常的な場所であるから、異なる目的等で頻繁に訪れることは想定しにくい。よって、図5の例で言えば、東北近辺に分布する画像群は、距離的にはお台場−池袋間以上の範囲に分布していたとしても、同一の「東北旅行」として扱い、1つの画像で代表しても問題は生じにくい。
【0075】
以上の本実施形態において、画像処理装置は、図1に示したように、座標情報を取得する情報取得部110と、取得した複数の座標情報の分布状態を取得する分布状態取得部120と、分布状態に応じたキーワードを撮影画像に付与するキーワード付与部130と、を含む。
【0076】
ここで、画像処理装置は、撮像装置とともに用いられる(もしくは撮像装置に内蔵される)ものとして説明するが、これに限定されるものではない。また、座標情報とは、撮像装置により撮影画像を撮影した際の位置、もしくは、画像の撮影にかかわらず、任意のタイミングで取得された撮像装置の位置を表す情報である。
【0077】
これにより、座標情報を取得した上で、座標情報の分布状態を取得し、取得した分布状態に応じたキーワードを撮影画像に付与することが可能になる。よって、座標情報の分布(例えば図3(A)〜図3(C))に応じて、各撮影画像に対してキーワードを付与することができる。ここでは、分布状態を取得しているため、例えば図3(A)〜図3(C)の例で言えば、撮影は主に東京で行われており、少数ではあるが東北でも撮影が行われている、という情報を取得できる。そのため、付与することのできるキーワードは、単純に「東京」、「東北」といった、どのユーザにとっても変わらないキーワードに限定されない。東京の画像に「近い」「近所」「普段」、東北の画像に「遠い」「旅行」「珍しい」といったように、ユーザの居住地や行動範囲、嗜好を反映したキーワード付与が可能になる。
【0078】
ここで、画像処理装置は、画像に対してキーワードを付与するものとした。画像にメタデータを付与することで、検索や表示を効率的に行うことができる。しかし、本実施形態においては、画像を撮影したタイミング以外のタイミングでも座標情報を取得しているため、そのときの座標情報に対してもキーワードを付与してもかまわない。データ構造としては図6に示したようになる。通常は図6のA1に示したように、画像データに対して、メタデータとして座標情報が関連づけられ、さらにキーワードがメタデータとして関連づけられる。それに対して、図6のA2に示したように、画像が撮影されないタイミングで取得された座標情報(画像データはNULL)にキーワードが関連づけられてもよい。何らかの形で、座標情報を用いてデータ処理を行うケースが生じた場合等に、座標情報のメタデータとしてキーワードを用いることができるため有用である。
【0079】
また、分布状態取得部120は、地理上の位置を表す二次元座標空間内における座標情報の分布状態を取得する。
【0080】
これにより、座標情報として、地理上の位置(例えば経度・緯度)を用いることが可能となる。地理上の位置は例えば、GPSやWiFiの機能を用いることで取得することができる。
【0081】
また、分布状態取得部120は、少なくとも第1のクラスタと第2のクラスタを含む複数のクラスタに、座標情報を分類するクラスタ分類部125を含んでもよい。
【0082】
これにより、複数の座標情報を、クラスタリング処理により複数のクラスタに分類することができる。本実施形態においては図3(B)に示したように、第1のクラスタと第2のクラスタの2つに分類するが、後述する第4の実施形態のように、3つ以上のクラスタに分類してもよい(後述する図12)。クラスタリングを行うことで、分布の状態に関する情報を取得することが可能になる。
【0083】
また、クラスタ分類部125は、第1のクラスタと第2のクラスタを、図3(C)に示すように、基準となるクラスタである基準クラスタと、基準とならないクラスタである非基準クラスタとに分類する。
【0084】
これにより、複数のクラスタに分類された座標情報を、さらに、基準に属するものであるか否かという観点で分類することができる。基準・非基準という分類を行うことで、上述したように、その地域がユーザにとって日常的な範囲なのか、非日常的な範囲なのかを判定することが可能になり、ユーザの嗜好等を考慮したキーワード付与ができる。
【0085】
また、クラスタ分類部125は、複数のクラスタのうち、含まれる撮影画像が最も多いクラスタを基準クラスタとして分類してもよい。
【0086】
これにより、含まれる撮影画像が最も多いクラスタを基準クラスタとして設定することができる。これは、撮影画像の枚数が多いと言うことは、該当するクラスタに含まれる範囲において行動する時間が最も長いという可能性が高いことによる。なお、普段の生活では撮影はあまり行わず、旅行で大量の画像を撮影するユーザもいると考えられる。その場合は、撮影していない状態(撮像装置が完全には停止していないスリープ状態)においても、定期的に座標情報を取得し、含まれる座標情報が最も多いクラスタを基準クラスタにすればよい。どちらの場合も、クラスタに含まれる要素の数から基準クラスタを決定できるため、処理を簡単化できる。
【0087】
また、クラスタ分類部125は、地理上の位置を表す二次元座標空間における、座標情報の時系列的な移動履歴に基づいて基準クラスタを設定してもよい。
【0088】
これにより、座標情報の時系列な移動履歴から基準クラスタを設定することができる。ここで、座標情報の時系列な移動履歴とは、具体的には例えば、座標情報を時系列順に直線で結んだもの等が考えられる。ユーザの行動としては、自宅から旅行先に移動し自宅に戻ることが想定される。つまり、旅行先から旅行先へ次々移動するケースを想定から外せば、ユーザの自宅は、図7において放射線状の図形の中心(別の言葉で言えば「ハブ」)になっていると考えられる。よって、図7のような図形を作成し、ハブとなるクラスタを基準クラスタとして設定すればよい。処理としては、クラスタに入る回数(もしくは出る回数、あるいはその和)をカウントし、最も多いクラスタを基準クラスタにする手法が考えられる。
【0089】
また、クラスタ分類部125は、第1のクラスタ内の座標情報の分布の複雑度と、第2のクラスタ内の座標情報の分布の複雑度とに基づいて、基準クラスタを設定してもよい。
【0090】
ここで、座標情報の分布の複雑度とは、図8(A)のように、座標情報が広範囲にばらばらに分布している場合に高くなり、図8(B)のように、狭い範囲に密集していたり、直線上に分布している場合に低くなる情報である。具体的な算出手法の例については後述する。
【0091】
これにより、座標情報の分布の複雑度に基づいて、基準クラスタを設定することができる。これは、ユーザが日常的に属する基準クラスタでは、クラスタ内のいろいろな場所へ無作為に移動することが想定されるのに対して、非基準クラスタは旅行等であるため、直線状等、比較的単純な移動が想定されることによる。
【0092】
複雑度の算出手法は、単純には例えば、各座標情報を時系列的に結んだときに、前の点と現在の点を結ぶ線分のなす角度の絶対値の総和や、線分の長さの総和等をパラメータとする手法が考えられる。角度の絶対値の総和が小さければ、図8(B)のように直線的な移動が想定されるし、線分の長さの総和が小さければ狭い範囲に密集していることが想定され、どちらも非基準クラスタに分類されるケースとなる。
【0093】
また、複雑度の他の算出手法としては、各座標情報を時系列的に結んだときに、前の点と現在の点を結ぶ線分に一定の幅を持たせる。そして、各クラスタが表す領域にしめる線分の面積の割合を求めてもよい。複雑な移動をしていれば、クラスタ領域に対する線分の面積の割合は大きくなり、逆に単純な動きをしていれば面積の割合は小さくなることが想定される。実際の処理としては、クラスタ領域(白い画素とする)を表す画像の中で、線分の通った領域を黒く塗りつぶすようにして、白い画素と黒い画素との個数の比を求めればよい。ただし、狭い領域に多数の座標情報が分布している場合には、移動が単純であったとしても、面積の割合は高くなってしまう。そこで、クラスタ領域の面積と、クラスタに含まれる座標情報の数とで、算出する面積を補正することも考慮するとよい。
【0094】
また、画像処理装置は、地図上に撮影画像として取得した複数の画像のサムネイルを表示する地図提示部150を含んでもよい。地図提示部150は、地理上の撮影位置間の距離が所与の閾値よりも小さい画像群に対しては、画像群に含まれる1つの代表画像をサムネイルとして表示する。そして、非基準クラスタにおいては、基準クラスタに比べて、閾値の値を大きく設定する。
【0095】
これにより、例えば図5のような画像をユーザに提示することが可能になる。図5においては、図3(C)に示したように、東京近辺に基準クラスタが設定され、東北に非基準クラスタが設定されているものとする。所与の範囲に入っている画像群を1つのサムネイルで代表する手法をとるが、その際の閾値を非基準クラスタでは基準クラスタに比べて大きくする。つまり、非基準クラスタでは広範囲の画像が1つのサムネイルで代表されるが、基準クラスタでは1つのサムネイルが代表する範囲が非基準クラスタに比べて狭くなる。これは上述したように、基準クラスタは日常的に行動する範囲であるから、ポイントとなる地点は狭い範囲に複数あると考えられることによる。つまり、東京で言えば例えば、「お台場」「池袋」「品川」「自由が丘」は距離的にそれほど離れていなくても、異なる目的等で訪れる場所であるから、全て区別されてしかるべきである。それに対して、非基準クラスタは旅行等によるものであるから、極端な例で言えば、東北全域を「東北旅行」として1つのサムネイルで代表しても、問題は生じにくいと考えられる。
【0096】
また、キーワード付与部130は、撮影画像に対して撮影位置に応じた地名をキーワードとして付与する場合に、基準クラスタの画像に対しては、非基準クラスタの画像に比べて、狭い領域を表す地名を付与してもよい。
【0097】
ここで、狭い領域を表す地名とは、例えば、地名の指し示す領域の面積が比較対象に比べ狭いことを意味する。具体的には例えば、「日本」に対する「東京」であり、「東京」に対する「渋谷区」、「渋谷区」に対する「渋谷」「恵比寿」等である。これは、住所を決める際の、国、都道府県、市区町村、番地等の区分けとほぼ同等であるが、もちろん、住所には用いられない地域名称等が用いられてもよい。また、上述の例では、広い領域を表す地名と、狭い領域を表す地名とが包含関係にあったが、当然これに限定される必要はない。例えば、地方をあらわす「東北」と、都道府県を表す「東京」では、「東京」の方が狭い領域を表す。
【0098】
これにより、キーワードの粒度(細かさ)を基準クラスタか非基準クラスタかに応じて設定することが可能になる。これは、上述のサムネイルの例と同様に、基準クラスタでは、ユーザの嗜好を反映させるためには、細かい地名を使い分ける必要があるのに対し、非基準クラスタでは、ある程度おおざっぱな(「東北」「岩手」等)地名で十分だからである。
【0099】
また、分布状態取得部120は、図1に示したように、距離情報取得部126を含み、キーワード付与部130は、距離情報に基づいて撮影画像にキーワードを付与する。具体的には例えば、基準クラスタと非基準クラスタの間の距離が大きい場合には、非基準クラスタに含まれる撮影画像に対して、距離が離れていることを表すキーワード(例えば「遠い」「旅行」「例外」「レア」等)を付与してもよい。
【0100】
これにより、基準クラスタと非基準クラスタの間のクラスタ間距離を取得し、取得した距離情報に基づいてキーワードを設定することができる。また、非基準クラスタが基準クラスタから遠い位置にあることを表す距離情報の閾値は、自由に決めることができる。例えば、行動範囲の狭い子供であれば、数十km程度の移動でも十分非日常的な環境にあると考えられる。一方アクティブな成人であれば、数百kmかそれ以上の移動でないと、非日常的な環境だと認識しないこともあり得る。つまり、キーワードはクラスタ間の距離情報に基づいて付与されるべきであり、その判断の際の閾値は、ユーザごとに決められることが望ましいと言える。
【0101】
また、情報取得部110は、同一のユーザが撮像した画像に基づいて、座標情報を取得する。
【0102】
これにより、ユーザ個人の行動範囲や嗜好等を適切にキーワードに反映させることが可能となる。同一の画像処理装置(もしくは画像処理装置が搭載された撮像装置)を複数のユーザで使う場合には、嗜好等がユーザごとに異なると、複数の行動範囲や嗜好等が混ざり合ってしまうため、適切ではない。
【0103】
また、キーワード付与部130は、キーワード付与済の撮影画像に対して、再度キーワードを付与することで、キーワードを更新する処理を行ってもよい。
【0104】
この際、分布状態取得部120により、座標情報の分布状態も更新されてよい。
【0105】
これにより、キーワードを更新することが可能になる。例えば、引っ越しや行動範囲の広がり等により、日常的な行動範囲が変更されるケース等により、基準クラスタが更新され、それに伴い、キーワードが更新されること等が考えられる。
【0106】
また、以上の本実施形態は、情報取得部110と、分布状態取得部120と、キーワード付与部130として、コンピュータを機能させるプログラムにも関係する。
【0107】
これにより、ハードウェア的な手段に限定されず、ソフトウェアで本実施形態の画像処理装置を実現することが可能になる。具体的には例えば、撮像装置内に画像処理装置を内蔵するのではなく、撮像装置は単体で用い、撮像装置で得られたデータのみをPC等の情報処理装置に入力し、プログラム的に画像処理を行うこと等が考えられる。
【0108】
2.第2の実施形態
【0109】
本実施形態ではユーザが基準クラスタを選択し、それに基づいてキーワードを付与する例を示す。これにより、ユーザの好む任意の範囲を基準クラスタとすることが出来、ユーザ操作の手間は増えるものの、より嗜好に沿ったキーワード付与が可能となる。
【0110】
図1に本実施形態における画像処理装置の構成図を示す。各部の構成については第1の実施形態と同様である。本実施形態においては、クラスタ分類部125における、基準クラスタ・非基準クラスタを設定がユーザからの入力に従って行われる点が異なる。
【0111】
図9を用いて本実施形態における処理の詳細を説明する。この処理が開始されると、まず、座標情報が取得される(S601)。座標情報の取得に関しては、第1の実施形態と同様であるため、詳細な説明は省略する。
【0112】
次に、範囲選択モードであるか否かの判定が行われ(S607)、範囲選択モードである場合には、クラスタ分類部125は、表示部に備えられたディスプレイ等の情報提示デバイスに図10(A)に示すような地図情報と撮影位置を表示し、入力部に備えられたマウス等のUIによって、ユーザに基準クラスタとなる地図上の範囲を選択させる(S602)。この際、ユーザがポインタをドラッグすることで、選択範囲が円形状に広がるようにしてもよいし、フリーハンドで囲まれた領域を選択範囲としてもよい。住所に関する情報を入力させ、入力された住所を中心に、所与の範囲を基準クラスタとして選択してもよい。また、図10(A)には座標情報が表示されているが、まったくの白地図から選択させてもよい。
【0113】
また、S607において、範囲選択モードでないと判定された場合には、まず、第1の実施形態と同様に、座標情報の分布から、第1のクラスタと第2のクラスタを設定する(S603)。
【0114】
そして、クラスタ分類部125は、図10(B)に示すような画面を表示し、第1のクラスタと第2のクラスタのどちらを基準クラスタにするか、選択させる(S604)。
【0115】
距離情報取得部126によるクラスタ間距離の取得(S605)については、第1の実施形態と同様である。そして、クラスタ間距離に応じて、キーワード付与部130によりキーワードを付与する(S606)。キーワード付与処理は、基本的に実施例1と同様であるが、距離の大小を判定する閾値をユーザに選択させてもよい。
【0116】
以上により、ユーザが選択した範囲を基準としたキーワード付与が行われ、より個人の嗜好に沿ったキーワード付与となる。
【0117】
以上の本実施形態では、クラスタ分類部125は、図10(A)、図10(B)に示すように、ユーザの選択に基づいて基準クラスタを設定する。
【0118】
これにより、よりユーザの嗜好を反映した基準クラスタの設定が可能になる。具体的には例えば、図10(A)のように、クラスタリング処理の前に、範囲を選択させたり、住所を入力させたりする手法や、図10(B)のようにクラスタリング後に、どのクラスタを基準クラスタにするかを選択させる手法が考えられる。また、図10(B)には図示されていないが、クラスタリング後に住所を直接入力させ、入力された住所に最も近いクラスタを基準クラスタとしてもよい。
【0119】
3.第3の実施形態
【0120】
本実施形態では二次元座標で表せられる地図上の位置情報に加え、時間軸を用いることで、より高度なキーワード付与を行う処理を示す。
【0121】
構成図を図1に示し、処理の詳細を図2に示す。図1、図2から明らかなように、構成や処理の概要は第1の実施形態と同様である。以下、図2に沿って異なる箇所を説明する。
【0122】
この処理が開始されると、まず、座標情報が取得される。情報取得部110は画像群の地理的な撮影座標情報を取得する。具体的には座標情報としてGPS等で取得される経度・緯度情報を取得する。本実施形態においては、それに加えて、撮影された時刻を取得する。経度・緯度の二次元座標空間と、時間からなる一次元座標空間との座標として各々座標情報を得る(S501)。
【0123】
次に、座標情報に基づいてクラスタ1とクラスタ2を設定する。ここでは、クラスタ1,2の設定には、地理的な二次元の座標情報を用いるものとし、時間からなる一次元座標情報は使用しない(S502)。
【0124】
基準クラスタ、非基準クラスタに分類するS503については、第1の実施形態と同様である。そして、クラスタ間距離を算出する(S504)。第1の実施形態と同様に、経度・緯度の二次元座標における距離を算出する。それに加えて、時間軸の一次元座標空間における距離も算出する。
【0125】
そして、キーワード付与部130は、クラスタ間距離に応じて、各クラスタに含まれる画像にキーワードを付与して記憶する。時間軸の距離が大きければ“昔”、小さければ”最近”等のキーワードを付与する。また、経度・緯度の二次元座標空間における距離と、時間軸の距離を各々判定し、”昔”と“旅行”、”最近”と”近所”といった位置情報と時間軸を同時に鑑みた付与をしてもよい。
【0126】
また、以上の実施形態では、経度・緯度の二次元座標空間と、時間からなる一次元座標空間を別々に距離算出に用いたが、これらを合わせて使用してもよい。例えば、図11に示すように、経度・緯度・時間からなる三次元座標空間の座標として各撮影座標を得る。
【0127】
クラスタ1とクラスタ2の設定の際にも三次元座標空間上のベクトル群が用いられる。また、距離情報取得部126による距離情報取得に際しても、三次元座標空間が用いられる。
【0128】
そして、キーワード付与部130は、三次元座標空間における距離が大きければ“遠い”、小さければ“近い”等の、地理上と時間軸の距離を合わせて表すキーワードを付与する。
【0129】
以上により、時間軸を用いたキーワード付与が可能となり、ユーザのライフスタイルや嗜好の時間的変化を反映したキーワード付与が出来る。
【0130】
また、第1の実施形態に示したように、本画像処理装置は、撮影位置が増えたタイミング、ユーザによる任意のタイミング、一定の時間経過等で、本処理を再度行い、キーワード付与済みの画像のキーワードを更新するため、”最近”と付与されていた画像が”昔”と更新されるなど、時間の経過を鑑みた処理を行ってもよい。
【0131】
以上の本実施形態では、情報取得部110は、座標情報の他に、時間情報をさらに取得する。そして、分布状態取得部120は、三次元座標空間における座標情報と時間情報の分布状態を取得し、キーワード付与部130は、時間に関する情報を表すキーワードを付与する。
【0132】
ここで、時間情報とは、撮影画像の撮影位置もしくは撮像画像の位置に関する情報が取得された際の時刻を表す情報である。
【0133】
これにより、図11のように、経度・緯度だけでなく、時間も含めたキーワード付与が可能になる。例えば「最近」「昔」等のキーワードが付与できるし、経度・緯度情報とあわせて、「最近の旅行」「2回目の旅行」等のキーワード付与も可能になる。
【0134】
また、キーワード付与部130は、撮影画像に時間に関するキーワードを付与する際に、時間的な距離を判定するための閾値を、基準クラスタか非基準クラスタかに応じて切り替えてもよい。
【0135】
具体的には例えば、時間的に近いことを表す閾値を設定する際に、基準クラスタでは非基準クラスタに比べて小さい閾値を設定してもよい。例えば、基準クラスタでは、1週間前を閾値に「最近」というキーワードを付与するのに対して、非基準クラスタでは、1ヶ月前を閾値に「最近」というキーワードを付与する。
【0136】
これにより、よりユーザの感覚にあったキーワードを付与することが可能になる。これは、日常的な範囲(基準クラスタ)では、毎日のように新しいイベントが積み重なり、過去のイベントは急速に目新しさを失っていくのに対して、非日常的な範囲(非基準クラスタ)では、ある程度時間がたったとしても、イベントのインパクトは薄れにくいことに起因している。
【0137】
また、クラスタ分類部125は、非基準クラスタに含まれる画像群において、連続した撮影時間が所与の閾値以上になった場合には、非基準クラスタに設定されていたクラスタを基準クラスタに変更してもよい。
【0138】
ここで、連続した撮影時間とは、ある時刻Aにおいて、非基準クラスタにおいて画像が撮影され、別のクラスタに移動することなく、同一のクラスタである時刻Bにおいて画像が撮影されたときの、AとBとの間の時間を指すものとする。つまり、連続した撮影時間が所与の閾値以上になった場合とは、ある非基準クラスタに長時間とどまり続けたケースとほぼ同義である。
【0139】
これにより、連続した撮影時間が所与の閾値以上になった場合には、引っ越し等の影響により、日常的な行動範囲が変更されたと判断し、基準クラスタを変更することが可能になる。
【0140】
4.第4の実施形態
【0141】
実施例1〜3に共通の拡張処理として、基準クラスタと非基準クラスタが各々複数のクラスタから構成されている場合の処理を示す。これまでは、基準クラスタと非基準クラスタの計2つのクラスタのみ扱ってきたが、現実にユーザが撮影する撮影位置群の分布を考慮すると、3個以上の多くのクラスタを処理に用いた方が適切であるためである。
【0142】
構成図は第1の実施形態と同様に図1である。
【0143】
図12に本実施例の模式図を示す。図12に示したように、クラスタがクラスタ1,2の2つだけではなく、3つ以上の複数のクラスタ(図12の例では5個)が設定されている。そして、基準クラスタ、非基準クラスタのそれぞれが、少なくとも1つのクラスタから構成されており、図12の例では、基準クラスタが3つのクラスタから構成され、非基準クラスタが2つのクラスタから構成されている。
【0144】
図13を用いて本実施形態における処理の詳細を説明する。この処理が開始されると、まず、情報取得部110により、座標情報が取得される(S701)。これについては第1の実施形態と同様である。
【0145】
次に、クラスタ分類部125により、座標情報分布からクラスタ群を設定する(S702)。ここで、クラスタ群の設定法は種々利用できる。例えば、k−meansにおいて、kの値を増やしてクラスタリングを行ってもよい。第2の実施形態のようなユーザの入力を可能にする構成であれば、ユーザにクラスタとする座標情報群を各々選択させてもよい。これにより、図12に示すように、座標情報分布から複数のクラスタが設定される。
【0146】
次に、クラスタ分類部125は、クラスタ群を、基準クラスタ群と非基準クラスタ群に分類する(S703)。ここで、分類法は種々利用できる。例えば、クラスタ群に対してk−means(k=2)としてクラスタリングを行ってもよい。また、ユーザに基準クラスタとするクラスタを選択させてもよい。これにより、図12に示すように、クラスタ群が、基準クラスタと非基準クラスタに分類される。
【0147】
さらに、距離情報取得部126は、基準クラスタ群と非基準クラスタ群のクラスタ間距離を算出する(S704)。計算法は第1の実施形態と同様である。基準クラスタの重心位置は、基準クラスタ群に含まれる各クラスタ内の全ての座標情報に基づいた重心の位置とすればよい。また、基準クラスタ群に含まれるあるクラスタと、非基準クラスタ群に含まれるあるクラスタとをピックアップして、第1の実施形態と同様の計算処理を行ってもよい。
【0148】
S705における、クラスタ間距離に応じたキーワード付与処理は、第1の実施形態と同様である。
【0149】
以上により、より実際に沿った複雑なキーワード付与が可能となる。
【0150】
以上の本実施形態において、分布状態取得部120は、少なくとも第1のクラスタと第2のクラスタを含む複数のクラスタに座標情報を分類するクラスタ分類部125を含む。そして、クラスタ分類部125は、複数のクラスタのうち1つ以上のクラスタを基準クラスタとして分類し、それ以外のクラスタを非基準クラスタとして分類する。
【0151】
その際の手法として、具体的には例えば、複数のクラスタの各クラスタの代表位置を求め、各クラスタをそれぞれの代表位置に対応する点と見なして再度クラスタリング処理を行うこと等が考えられる。
【0152】
これにより、図12のように、基準クラスタ、非基準クラスタがそれぞれ1つ以上のクラスタからなるような構成が可能になる。第1〜3の実施形態のように、クラスタが2つの場合には、複数の地域に旅行に行ったケース(例えば東京在住で、東北と関西に旅行に行ったケース等)では、適切なクラスタリングができなかった。その点本実施形態の手法を用いれば、東京、東北、関西と、3つのクラスタをそれぞれ設定することができるため、より適切なクラスタリングが可能になる。
【0153】
以上、本発明を適用した4つの実施の形態1〜4およびその変形例について説明したが、本発明は、各実施の形態1〜4やその変形例そのままに限定されるものではなく、実施段階では、発明の要旨を逸脱しない範囲内で構成要素を変形して具体化することができる。また、上記した各実施の形態1〜4や変形例に開示されている複数の構成要素を適宜組み合わせることによって、種々の発明を形成することができる。例えば、各実施の形態1〜4や変形例に記載した全構成要素からいくつかの構成要素を削除してもよい。さらに、異なる実施の形態や変形例で説明した構成要素を適宜組み合わせてもよい。このように、発明の主旨を逸脱しない範囲内において種々の変形や応用が可能である。
【符号の説明】
【0154】
100 処理部、110 情報取得部、120 分布状態取得部、
125 クラスタ分類部、126 距離情報取得部、130 キーワード付与部、
140 クラスタ分類部、150 地図提示部、160 距離情報取得部、
200 入力部、300 記憶部、400 表示部
【特許請求の範囲】
【請求項1】
撮影画像の撮影位置又は撮像装置の位置を座標情報として取得する情報取得部と、
前記座標情報として取得された複数の座標情報の分布状態を取得する分布状態取得部と、
取得した前記分布状態に応じたキーワードを前記撮影画像に付与するキーワード付与部と、
を含むことを特徴とする画像処理装置。
【請求項2】
請求項1において、
前記分布状態取得部は、
地理上の位置を表す二次元座標空間内における前記座標情報の分布状態を取得することを特徴とする画像処理装置。
【請求項3】
請求項2において、
前記情報取得部は、
前記撮影画像の前記撮影位置又は前記撮像装置の位置が取得された際の時刻を表す情報である時間情報を、さらに取得し、
前記分布状態取得部は、
地理上の位置を表す二次元座標に加えて、時間を表す第3の軸を有する三次元座標空間内における前記座標情報及び前記時間情報の分布状態を取得し、
前記キーワード付与部は、
時間に関する情報を表すキーワードを前記撮影画像に付与することを特徴とする画像処理装置。
【請求項4】
請求項1において、
前記分布状態取得部は、
少なくとも第1のクラスタと第2のクラスタを含む複数のクラスタに、前記座標情報を分類するクラスタ分類部を含むことを特徴とする画像処理装置。
【請求項5】
請求項4において、
前記クラスタ分類部は、
前記第1のクラスタと前記第2のクラスタを、基準となるクラスタである基準クラスタと、基準とならないクラスタである非基準クラスタとに分類することを特徴とする画像処理装置。
【請求項6】
請求項5において、
前記クラスタ分類部は、
前記複数のクラスタのうち、クラスタに含まれる前記撮影画像の枚数が最も多いクラスタを前記基準クラスタとして分類することを特徴とする画像処理装置。
【請求項7】
請求項5において、
前記クラスタ分類部は、
ユーザの選択に基づいて前記基準クラスタを設定することを特徴とする画像処理装置。
【請求項8】
請求項5において、
前記クラスタ分類部は、
地理上の位置を表す二次元座標空間における座標情報の、時系列的な移動履歴に基づいて前記基準クラスタを設定することを特徴とする画像処理装置。
【請求項9】
請求項5において、
前記クラスタ分類部は、
前記第1のクラスタ内の座標情報の表す座標の分布の複雑度と、前記第2のクラスタ内の座標情報の表す座標の分布の複雑度とに基づいて、前記基準クラスタを設定することを特徴とする画像処理装置。
【請求項10】
請求項5において、
前記撮影画像として取得した複数の画像のサムネイルを地図上に提示する処理を行う地図提示部を含み、
前記地図提示部は、
地理上の撮影位置間の距離が所与の閾値よりも小さい画像群に対しては、前記画像群に含まれる1つの代表画像をサムネイルとして地図上に提示するとともに、非基準クラスタの場合には基準クラスタの場合に比べて、前記閾値の値を大きく設定する処理を行うことを特徴とする画像処理装置。
【請求項11】
請求項5において、
前記キーワード付与部は、
前記撮影画像として取得した複数の画像に対して、撮影位置に応じた地名を前記キーワードとして付与する際に、前記基準クラスタの撮影画像に対しては前記非基準クラスタの撮影画像に比べて、狭い領域を表す地名を付与することを特徴とする画像処理装置。
【請求項12】
請求項5において、
前記情報取得部は、
前記撮影画像の前記撮影位置又は前記撮像装置の位置が取得された際の時刻を表す情報である時間情報を、さらに取得し、
前記分布状態取得部は、
地理上の位置を表す二次元座標に加えて、時間を表す第3の軸を有する三次元座標空間内における前記座標情報及び前記時間情報撮影の分布状態を取得し、
前記キーワード付与部は、
時間に関する情報を表すキーワードを前記撮影画像に付与する際に、時間的な距離を判定するための閾値を、前記基準クラスタか前記非基準クラスタかに応じて切り替えることを特徴とする画像処理装置。
【請求項13】
請求項5において、
前記情報取得部は、
前記撮影画像の前記撮影位置又は前記撮像装置の位置が取得された際の時刻を表す情報である時間情報を、さらに取得し、
前記分布状態取得部は、
地理上の位置を表す二次元座標に加えて、時間を表す第3の軸を有する三次元座標空間内における前記座標情報及び前記時間情報の分布状態を取得し、
前記クラスタ分類部は、
前記非基準クラスタに含まれる画像群において、連続した撮影時間が所与の閾値以上になった場合には、前記非基準クラスタに設定されていたクラスタを前記基準クラスタに変更することを特徴とする画像処理装置。
【請求項14】
請求項4乃至13のいずれかにおいて、
前記分布状態取得部は、
前記複数のクラスタ間の距離情報を取得する距離情報取得部を含み、
前記キーワード付与部は、
前記距離情報に基づいて前記撮影画像にキーワードを付与することを特徴とする画像処理装置。
【請求項15】
請求項4乃至13のいずれかにおいて、
前記分布状態取得部は、
前記複数のクラスタ間の距離情報を取得する距離情報取得部を含み、
前記キーワード付与部は、
前記基準クラスタと、前期非基準クラスタとの間の距離情報により表される距離が大きい場合には、前記非基準クラスタに含まれる前記撮影画像に対して、座標空間における距離が離れていることを表すキーワードを付与することを特徴とする画像処理装置。
【請求項16】
請求項1乃至3のいずれかにおいて、
前記分布状態取得部は、
少なくとも第1のクラスタと第2のクラスタを含む複数のクラスタに、前記座標情報を分類するクラスタ分類部を含み、
前記クラスタ分類部は、
前記複数のクラスタのうち、1つ以上のクラスタを基準クラスタとして分類し、それ以外のクラスタを非基準クラスタとして分類することを特徴とする画像処理装置。
【請求項17】
請求項1乃至3のいずれかにおいて、
前記分布状態取得部は、
少なくとも第1のクラスタと第2のクラスタを含む複数のクラスタに、前記座標情報を分類するクラスタ分類部を含み、
前記クラスタ分類部は、
前記複数のクラスタの各クラスタの代表位置を求め、前記各クラスタをそれぞれの前記代表位置に対応する点と見なして、再度、クラスタリング処理を行うことで、前記複数のクラスタを前記基準クラスタと前記非基準クラスタに分類することを特徴とする画像処理装置。
【請求項18】
請求項1乃至17のいずれかにおいて、
前記情報取得部は、
同一のユーザが撮像した撮影画像に基づいて、前記座標情報を取得することを特徴とする画像処理装置。
【請求項19】
請求項1乃至18のいずれかにおいて、
前記キーワード付与部は、
前記キーワードを付与済の前記撮影画像に対して、再度、前記キーワードを付与することで、前記キーワードを更新する処理を行うことを特徴とする画像処理装置。
【請求項20】
撮影画像の撮影位置又は撮像装置の位置を座標情報として取得する情報取得部と、
前記座標情報として取得された複数の座標情報の分布状態を取得する分布状態取得部と、
取得した前記分布状態に応じたキーワードを前記撮影画像に付与するキーワード付与部として、
コンピュータを機能させることを特徴とするプログラム。
【請求項1】
撮影画像の撮影位置又は撮像装置の位置を座標情報として取得する情報取得部と、
前記座標情報として取得された複数の座標情報の分布状態を取得する分布状態取得部と、
取得した前記分布状態に応じたキーワードを前記撮影画像に付与するキーワード付与部と、
を含むことを特徴とする画像処理装置。
【請求項2】
請求項1において、
前記分布状態取得部は、
地理上の位置を表す二次元座標空間内における前記座標情報の分布状態を取得することを特徴とする画像処理装置。
【請求項3】
請求項2において、
前記情報取得部は、
前記撮影画像の前記撮影位置又は前記撮像装置の位置が取得された際の時刻を表す情報である時間情報を、さらに取得し、
前記分布状態取得部は、
地理上の位置を表す二次元座標に加えて、時間を表す第3の軸を有する三次元座標空間内における前記座標情報及び前記時間情報の分布状態を取得し、
前記キーワード付与部は、
時間に関する情報を表すキーワードを前記撮影画像に付与することを特徴とする画像処理装置。
【請求項4】
請求項1において、
前記分布状態取得部は、
少なくとも第1のクラスタと第2のクラスタを含む複数のクラスタに、前記座標情報を分類するクラスタ分類部を含むことを特徴とする画像処理装置。
【請求項5】
請求項4において、
前記クラスタ分類部は、
前記第1のクラスタと前記第2のクラスタを、基準となるクラスタである基準クラスタと、基準とならないクラスタである非基準クラスタとに分類することを特徴とする画像処理装置。
【請求項6】
請求項5において、
前記クラスタ分類部は、
前記複数のクラスタのうち、クラスタに含まれる前記撮影画像の枚数が最も多いクラスタを前記基準クラスタとして分類することを特徴とする画像処理装置。
【請求項7】
請求項5において、
前記クラスタ分類部は、
ユーザの選択に基づいて前記基準クラスタを設定することを特徴とする画像処理装置。
【請求項8】
請求項5において、
前記クラスタ分類部は、
地理上の位置を表す二次元座標空間における座標情報の、時系列的な移動履歴に基づいて前記基準クラスタを設定することを特徴とする画像処理装置。
【請求項9】
請求項5において、
前記クラスタ分類部は、
前記第1のクラスタ内の座標情報の表す座標の分布の複雑度と、前記第2のクラスタ内の座標情報の表す座標の分布の複雑度とに基づいて、前記基準クラスタを設定することを特徴とする画像処理装置。
【請求項10】
請求項5において、
前記撮影画像として取得した複数の画像のサムネイルを地図上に提示する処理を行う地図提示部を含み、
前記地図提示部は、
地理上の撮影位置間の距離が所与の閾値よりも小さい画像群に対しては、前記画像群に含まれる1つの代表画像をサムネイルとして地図上に提示するとともに、非基準クラスタの場合には基準クラスタの場合に比べて、前記閾値の値を大きく設定する処理を行うことを特徴とする画像処理装置。
【請求項11】
請求項5において、
前記キーワード付与部は、
前記撮影画像として取得した複数の画像に対して、撮影位置に応じた地名を前記キーワードとして付与する際に、前記基準クラスタの撮影画像に対しては前記非基準クラスタの撮影画像に比べて、狭い領域を表す地名を付与することを特徴とする画像処理装置。
【請求項12】
請求項5において、
前記情報取得部は、
前記撮影画像の前記撮影位置又は前記撮像装置の位置が取得された際の時刻を表す情報である時間情報を、さらに取得し、
前記分布状態取得部は、
地理上の位置を表す二次元座標に加えて、時間を表す第3の軸を有する三次元座標空間内における前記座標情報及び前記時間情報撮影の分布状態を取得し、
前記キーワード付与部は、
時間に関する情報を表すキーワードを前記撮影画像に付与する際に、時間的な距離を判定するための閾値を、前記基準クラスタか前記非基準クラスタかに応じて切り替えることを特徴とする画像処理装置。
【請求項13】
請求項5において、
前記情報取得部は、
前記撮影画像の前記撮影位置又は前記撮像装置の位置が取得された際の時刻を表す情報である時間情報を、さらに取得し、
前記分布状態取得部は、
地理上の位置を表す二次元座標に加えて、時間を表す第3の軸を有する三次元座標空間内における前記座標情報及び前記時間情報の分布状態を取得し、
前記クラスタ分類部は、
前記非基準クラスタに含まれる画像群において、連続した撮影時間が所与の閾値以上になった場合には、前記非基準クラスタに設定されていたクラスタを前記基準クラスタに変更することを特徴とする画像処理装置。
【請求項14】
請求項4乃至13のいずれかにおいて、
前記分布状態取得部は、
前記複数のクラスタ間の距離情報を取得する距離情報取得部を含み、
前記キーワード付与部は、
前記距離情報に基づいて前記撮影画像にキーワードを付与することを特徴とする画像処理装置。
【請求項15】
請求項4乃至13のいずれかにおいて、
前記分布状態取得部は、
前記複数のクラスタ間の距離情報を取得する距離情報取得部を含み、
前記キーワード付与部は、
前記基準クラスタと、前期非基準クラスタとの間の距離情報により表される距離が大きい場合には、前記非基準クラスタに含まれる前記撮影画像に対して、座標空間における距離が離れていることを表すキーワードを付与することを特徴とする画像処理装置。
【請求項16】
請求項1乃至3のいずれかにおいて、
前記分布状態取得部は、
少なくとも第1のクラスタと第2のクラスタを含む複数のクラスタに、前記座標情報を分類するクラスタ分類部を含み、
前記クラスタ分類部は、
前記複数のクラスタのうち、1つ以上のクラスタを基準クラスタとして分類し、それ以外のクラスタを非基準クラスタとして分類することを特徴とする画像処理装置。
【請求項17】
請求項1乃至3のいずれかにおいて、
前記分布状態取得部は、
少なくとも第1のクラスタと第2のクラスタを含む複数のクラスタに、前記座標情報を分類するクラスタ分類部を含み、
前記クラスタ分類部は、
前記複数のクラスタの各クラスタの代表位置を求め、前記各クラスタをそれぞれの前記代表位置に対応する点と見なして、再度、クラスタリング処理を行うことで、前記複数のクラスタを前記基準クラスタと前記非基準クラスタに分類することを特徴とする画像処理装置。
【請求項18】
請求項1乃至17のいずれかにおいて、
前記情報取得部は、
同一のユーザが撮像した撮影画像に基づいて、前記座標情報を取得することを特徴とする画像処理装置。
【請求項19】
請求項1乃至18のいずれかにおいて、
前記キーワード付与部は、
前記キーワードを付与済の前記撮影画像に対して、再度、前記キーワードを付与することで、前記キーワードを更新する処理を行うことを特徴とする画像処理装置。
【請求項20】
撮影画像の撮影位置又は撮像装置の位置を座標情報として取得する情報取得部と、
前記座標情報として取得された複数の座標情報の分布状態を取得する分布状態取得部と、
取得した前記分布状態に応じたキーワードを前記撮影画像に付与するキーワード付与部として、
コンピュータを機能させることを特徴とするプログラム。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【公開番号】特開2012−22561(P2012−22561A)
【公開日】平成24年2月2日(2012.2.2)
【国際特許分類】
【出願番号】特願2010−160624(P2010−160624)
【出願日】平成22年7月15日(2010.7.15)
【出願人】(000000376)オリンパス株式会社 (11,466)
【Fターム(参考)】
【公開日】平成24年2月2日(2012.2.2)
【国際特許分類】
【出願日】平成22年7月15日(2010.7.15)
【出願人】(000000376)オリンパス株式会社 (11,466)
【Fターム(参考)】
[ Back to top ]