情報処理装置、及びその制御方法、プログラム

【課題】 利用者の操作による、マップ上に表示される画像の位置の変更を受け付けることで、検索に用いられる各特徴量の重みを適切に変更し、類似の画像を検索すること。
【解決手段】 検索画像の複数の特徴量と検索対象画像の複数の特徴量との近似度と、複数の特徴量に対する重みを示す重み情報とに従って、マップ上に表示する位置を示す配置情報を生成し、生成された配置情報の位置に該検索対象画像を表示する。そして、ユーザの操作により、マップ上に表示された検索対象画像の位置の変更を受け付けると、当該変更を受け付けた検索対象画像の配置情報と、当該算出された近似度とに従って重み情報を生成し、該近似度と、当該生成された重み情報とに従って、検索対象画像の配置情報を再生成する。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、情報処理装置、及びその制御方法、プログラムに関し、特に、近似画像検索技術に関するものである。
【背景技術】
【0002】
インターネット上から文書情報を探し出すためにキーワード(文字情報)を元にした検索システム(全文検索システムと呼ばれる)は、既に広く一般的に使われており、その基本的な技術に関しては、確立、成熟しているといえる。それに対して文字列情報ではない画像情報に関しては、その検索手法は全文検索システムほど確立しておらず、様々な手法が研究されている段階にある。
【0003】
現在普及している手法としては、画像に付帯させた文字列情報(キーワードやタグと呼ばれる)を元に全文検索システムと同じ手法で検索するものがある。また、近年では、探したい画像の元となる画像(クエリー画像と呼ばれる)を提示し、このクエリー画像に近い画像を検索する仕組みが提供されるようになってきた。このシステムでは、クエリー画像の特徴量と類似する特徴量をもつ画像を検索する。
【0004】
また、一般にキーワードによる検索システムでは、文書が単に検索文字列(クエリーキーワード)そのもの、または同義語、もしくは類義語を、含むか否かを検索結果の妥当性の指標として用いることができる。これに対して画像を元に類似画像を探す類似画像検索システムの場合は、どのような指標(画像のどの特徴量)に基づいてクエリー画像と検索対象の画像が類似すると判定していいのか、を一意に決定することが困難である。
【0005】
たとえば、ある利用者がAという写真を元に検索する場合は、該利用者はAの風景と同じような風景が写っている写真を結果として期待しているケースが考えられる。また、別の利用者は同じAという写真を元にして写真に写っているオブジェクト(例えば椅子)と同じようなオブジェクトが写っている写真を結果として期待しているケースも考えられる。このようにあるクエリー画像から利用者が期待する結果を一意に決定すること、つまりクエリー画像のどの特徴に着目して類似性を判断すればよいのかを決定することが難しい。
【0006】
特許文献1の画像検索システムでは、検索に利用する特徴量として複数の種類を組み合わせて利用することができるようになっている。また、複数の特徴量を用いて検索する場合は、それらの重みを利用者が指定することができるようになっている。さらに、検索結果を利用者が把握し易くするために、検索結果となった画像を3次元上に配置して表示することができる。各次元には検索に使用した特徴量を対応させている。
【先行技術文献】
【特許文献】
【0007】
【特許文献1】特開平11−175556号公報
【発明の概要】
【発明が解決しようとする課題】
【0008】
しかしながら、上記特許文献1では、利用者が明示的に検索に利用する特徴量の種別を指定しなければならない。
そのため、利用者は、自身がクエリー画像に着目している特徴についての特徴量の種別を認識し、その種別を指定しなければならないばかりでなく、検索に利用する各特徴量の配分(重み)についても指定しなければならず、その確認作業、及び、その指定が煩雑であった。また、適切に、特徴量の種別、及び重みを指定しなければ類似する画像を検索することはできず、利用者は、一目で直感的に画像を検索することが困難であった。
【0009】
さらに、上記特許文献1では、検索結果の表示画面において利用することができる特徴量は3つまでに制限されている。これは、X,Y,Zの最大3つの軸でしか表示することが出来ない為、特徴量の座標軸は3つまでに制限されてしまっている。
【0010】
そのため、4つ目以上の特徴量については表示画面に表すことができず、クエリー画像に類似した画像を見落としてしまうおそれも考えられる。
【0011】
そこで、本発明の目的は、利用者の操作による、マップ上に表示される画像の位置の変更を受け付けることで、検索に用いられる各特徴量の重みを適切に変更し、類似の画像を検索する仕組みを提供することである。
【課題を解決するための手段】
【0012】
本発明は、検索画像に基づき検索される対象の画像である複数の検索対象画像の関係を示すマップ上に前記検索対象画像を表示する情報処理装置であって、前記複数の検索対象画像を記憶する記憶手段と、ユーザによる検索画像の入力を受け付ける受付手段と、前記受付手段により受け付けた検索画像の複数の特徴量と、前記記憶手段に記憶されている検索対象画像の複数の特徴量との近似度をそれぞれ算出する算出手段と、前記算出手段により算出された近似度と、前記複数の特徴量に対する重みを示す重み情報とに従って、前記算出手段により該近似度が算出された検索対象画像を前記マップ上に表示する位置を示す配置情報を生成する生成手段と、前記生成手段により生成された配置情報に示される前記マップ上の位置に該検索対象画像を表示するべく出力する表示手段と、ユーザの操作により、前記表示手段で前記マップ上に表示された検索対象画像の位置の変更を受け付ける変更受付手段と、前記変更受付手段により変更を受け付けた検索対象画像の位置を示す配置情報と、前記算出手段により算出された近似度とに従って、重み情報を生成する重み情報生成手段と、を備え、前記生成手段は、更に、前記算出手段により算出された近似度と、前記重み情報生成手段により生成された重み情報とに従って、前記算出手段により該近似度が算出された検索対象画像の配置情報を生成することを特徴とする。
【0013】
また、本発明は、検索画像に基づき検索される対象の画像である複数の検索対象画像を記憶する記憶手段を備え、前記複数の検索対象画像の関係を示すマップ上に前記検索対象画像を表示する情報処理装置における制御方法であって、前記情報処理装置の受付手段が、ユーザによる検索画像の入力を受け付ける受付工程と、前記情報処理装置の算出手段が、前記受付工程により受け付けた検索画像の複数の特徴量と、前記記憶手段に記憶されている検索対象画像の複数の特徴量との近似度をそれぞれ算出する算出工程と、前記情報処理装置の生成手段が、前記算出工程により算出された近似度と、前記複数の特徴量に対する重みを示す重み情報とに従って、前記算出工程により該近似度が算出された検索対象画像を前記マップ上に表示する位置を示す配置情報を生成する生成工程と、前記情報処理装置の表示手段が、前記生成工程により生成された配置情報に示される前記マップ上の位置に該検索対象画像を表示するべく出力する表示工程と、前記情報処理装置の変更受付手段が、ユーザの操作により、前記表示工程で前記マップ上に表示された検索対象画像の位置の変更を受け付ける変更受付工程と、前記情報処理装置の重み情報生成手段が、前記変更受付工程により変更を受け付けた検索対象画像の位置を示す配置情報と、前記算出工程により算出された近似度とに従って、重み情報を生成する重み情報生成工程と、を備え、前記生成工程は、更に、前記算出工程により算出された近似度と、前記重み情報生成工程により生成された重み情報とに従って、前記算出工程により該近似度が算出された検索対象画像の配置情報を生成することを特徴とする。
【0014】
また、本発明は、検索画像に基づき検索される対象の画像である複数の検索対象画像を記憶する記憶手段を備え、前記複数の検索対象画像の関係を示すマップ上に前記検索対象画像を表示する情報処理装置が読み取り実行可能なプログラムであって、前記情報処理装置を、ユーザによる検索画像の入力を受け付ける受付手段と、前記受付手段により受け付けた検索画像の複数の特徴量と、前記記憶手段に記憶されている検索対象画像の複数の特徴量との近似度をそれぞれ算出する算出手段と、前記算出手段により算出された近似度と、前記複数の特徴量に対する重みを示す重み情報とに従って、前記算出手段により該近似度が算出された検索対象画像を前記マップ上に表示する位置を示す配置情報を生成する生成手段と、前記生成手段により生成された配置情報に示される前記マップ上の位置に該検索対象画像を表示するべく出力する表示手段と、ユーザの操作により、前記表示手段で前記マップ上に表示された検索対象画像の位置の変更を受け付ける変更受付手段と、前記変更受付手段により変更を受け付けた検索対象画像の位置を示す配置情報と、前記算出手段により算出された近似度とに従って、重み情報を生成する重み情報生成手段として機能させ、前記生成手段は、更に、前記算出手段により算出された近似度と、前記重み情報生成手段により生成された重み情報とに従って、前記算出手段により該近似度が算出された検索対象画像の配置情報を生成することを特徴とする。
【発明の効果】
【0015】
本発明によれば、利用者の操作による、マップ上に表示される画像の位置の変更を受け付けることで、検索に用いられる各特徴量の重みを適切に変更し、類似の画像を検索することが可能になる。
【図面の簡単な説明】
【0016】
【図1】本発明の画像検索システムの構成の一例を示すシステム構成図である。
【図2】図1に示した利用者端末101,画像検索装置102に適用可能な情報処理装置のハードウェア構成を示すブロック図である。
【図3】図1に示した利用者端末101、画像検索装置102の機能ブロックの構成を表す図である。
【図4】図3に示した特徴量抽出部503の内部の機能ブロックを表す図である。
【図5】図3に示した特徴量データベース505における特徴量テーブルの一例を示す図である。
【図6】本発明における画像検索システムにおける検索対象画像の登録手順の一例を示すフローチャートである。
【図7】本発明における画像検索システムにおける検索処理の手順を示すフローチャートである。
【図8】本発明における画像検索システムにおける検索結果の更新処理の手順を示すフローチャートである。
【図9】本発明における画像検索システムにおける検索結果の利用者端末101のマップ表示部302における表示画面の一例を示す図である。
【図10】本発明における画像検索システムにおける検索結果の利用者端末101のマップ表示部302における表示画面の一例を示す図である。
【図11】本発明における画像検索システムにおける検索結果の利用者端末101のマップ表示部302における表示画面の一例を示す図である。
【図12】本発明における画像検索システムにおける類似画像の近似度ベクトルを座標ベクトルへ変換する式の一例を示す図である。
【図13】本発明における画像検索システムにおける類似画像の座標ベクトルを元に変換行列を求めるための式の一例を示す図である。
【図14】本発明における画像検索システムにおける類似画像の座標ベクトルを元に変換行列を求めるための式の一例を示す図である。
【図15】本発明の画像検索システムの構成の一例を示すシステム構成図である。
【発明を実施するための形態】
【0017】
<第1の実施形態>
図1は、本発明の画像検索システムの構成の一例を示すシステム構成図である。
【0018】
図1は、ひとつ又は複数の利用者端末101と、画像検索装置102とがローカルエリアネットワーク(LAN)103を介して相互に通信可能に接続される構成となっている。
【0019】
利用者端末101は、画像の検索を行う利用者が使用する情報処理装置であって、検索要求を発信する機能と検索結果を受信して表示する機能を有する。
【0020】
画像検索装置102は、検索の対象となる複数の画像を記憶しており、利用者端末101からの検索要求を受け付け、画像の検索処理を行い、検索結果を応答する機能を有する。また、外部から検索対象とする画像を入力する手段を備えている。画像検索装置102は、本発明の情報処理装置の適用例である。
【0021】
以下、図2を用いて、図1に示した利用者端末101,画像検索装置102に適用可能な情報処理装置のハードウェア構成について説明する。
【0022】
図2は、図1に示した利用者端末101,画像検索装置102に適用可能な情報処理装置のハードウェア構成を示すブロック図である。
【0023】
図2において、201はCPUであり、RAM202やROM203に格納されているプログラムやデータを用いて情報処理装置全体の制御を行うと共に、情報処理装置行う後述の各処理を実行する。
【0024】
202はRAMであり、HDD204や記録媒体ドライブ206からロードされたプログラムやデータ、ネットワークI/F(インターフェース)205を介して受信したデータを一時的に記憶するためのエリアを備えると共に、CPU201が各種の処理を実行する際に使用するワークエリーアを備える。
【0025】
203はROMであり、情報処理装置の設定データやブートプログラムなどを格納する。
【0026】
204はHDDであり、ここにOS(オペレーティングシステム)や、情報処理装置が行う後述の各処理をCPU201に実行させるためのプログラムやデータが保存されている。これらのプログラムやデータの一部もしくは全部はCPU201による制御に従ってRAM202にロードされ、これを用いてCPU201が処理を行うことで、情報処理装置は以下説明する各処理を実行することになる。
【0027】
205はネットワークI/Fで、情報処理装置をネットワーク103に接続するためのものであり、このネットワークI/F205を介して情報処理装置は外部機器とデータ通信を行うことができる。
【0028】
206は記録媒体ドライブであり、CD−ROM、CD−R/RW、DVD―ROM、DVD−R/RW、DVD−RAM等の記憶媒体に記録されたプログラムやデータを読み出し、RAM202に出力する。この読み出し動作はCPU201によって制御される。
【0029】
207はキーボードであり、各種の指示をCPU201に対して入力することができる。208はマウス等のポインティングデバイスであり、各種の指示をCPU201に対して入力することができる。
【0030】
209はビデオI/F(インターフェース)であり、ディスプレイ装置210に表示すべき画像を信号としてディスプレイ装置210に供給するためのI/Fとして機能するものである。
【0031】
210はディスプレイ装置であり、CRTや液晶画面等により構成されており、CPU201による処理結果を画像や文字等でもって表示することができる。
【0032】
211は周辺機器I/Fであり、USBポートやIEEE1394ポート等によって構成されており、この周辺機器I/F211を介して周辺機器との接続することが可能である。周辺機器との接続形態は有線/無線を問わない。212は上述の各部を繋ぐバスである。
【0033】
次に、図3を用いて、本発明の画像検索システムの機能ブロックの構成について説明する。
【0034】
画像検索システムは、利用者端末101と画像検索装置102と画像ソース600から構成される。利用者端末101と画像検索装置102と画像ソース600とはそれぞれネットワークを介して相互に通信可能に接続されている。
【0035】
利用者端末101は、画像検索装置102に対して、画像の検索要求を送り、また検索結果を受信し表示するための情報処理装置である。利用者端末101は、検索クエリー部301と、マップ表示部302と、配置指示部303と、から構成される。
【0036】
検索クエリー部301は、利用者から検索要求としてのクエリー画像を受け付ける入力手段を有し、当該クエリー画像を、ネットワークを通じて、画像検索装置102の検索処理部503へ送信する手段をもつ機能処理部である。
【0037】
マップ表示部302は、画像検索装置102から応答される検索結果を受信する手段と、該検索結果を表示する手段を有する機能処理部である。図9、図10、図11に表示画面の例を示す。
【0038】
配置指示部303は、マップ表示部302に検索結果として表示された座標平面上の類似画像の配置を、利用者がマウス等のデバイスを使用して変更した際の該変更情報を収集する手段と、該変更情報を画像検索装置102の変換行列計算部507へ送信する手段を有する機能処理部である。
【0039】
画像検索装置102は、利用者端末101から、画像の検索要求を受信し、蓄積された画像に対して要求された検索処理を実行し、検索結果情報を利用者端末101へ送信する情報処理装置である。画像検索装置102は、画像登録部501と、特徴量抽出部502と、検索処理部503と、特徴量近似度計算部504と、次元圧縮部505と、マップ生成部506と、変換行列計算部507と、画像データベース508と、特徴量データベース509と、から構成される。
【0040】
画像登録部501は、検索対象となる画像を本システムへ登録する機能処理部である。画像ソース600で指示されるシステムの外部のアクターから、検索対象とする画像データを受信または取得し、当該画像データの特徴量を特徴量データベース509へ保存し、当該画像データ自体を画像データベース508へ保存する機能を有する。
【0041】
特徴量抽出部502は、画像データを入力として受け取り、該画像データの各種特徴量を抽出する機能処理部である。図4は、特徴量抽出部502の内部の機能ブロックの一例を示す図である。図4で示されるように、特徴量抽出部502は、複数の特徴量抽出部から構成される。図4の5021から5024で指示される特徴量抽出部は、各々異なる種類の画像特徴量を抽出する機能処理部である。例えば、スケーラブルカラー特徴量(画像全体における色の分布状態を表す特徴量)、カラーレイアウト特徴量(画像の領域毎の色の分布状態を表す特徴量)、エッジヒストグラム特徴量(画像中の境界線に関する特徴量)、SIFT(Scale Invariant Feature Transform)特徴量(局所的な領域の濃度変化特徴を表す特徴量)などの特徴量を抽出する実装をそれぞれに当てはめることが考えられる。また、個別特徴量抽出部の個数は図4では4つであるが特に制限されるものではなく、利用する画像特徴量の数だけ実装されればよい。
【0042】
すなわち、画像の特徴量としては、例えば、色(色相、彩度、明度等から構成される)に関する統計量、模様(テクスチャー)、局所的な領域の濃度変化特徴、写っているオブジェクトの形状、撮影日時、撮影場所などの様々の種類のものがあるため、このような種々の特徴量を、特徴量抽出部502は、抽出するように実装することもできる。
【0043】
検索処理部503は、検索要求としてクエリー画像の受け付け、当該画像データの特徴量抽出処理を特徴量抽出部502へ指示し、その結果として受け取る特徴量情報を、特徴量近似度計算部504へ渡し、蓄積された画像との近似度ベクトルの算出を指示し、その近似度ベクトルデータを次元圧縮部505へ渡し、位置ベクトル群の生成を指示する、機能処理部である。
【0044】
特徴量近似度計算部504は、検索処理部503からある画像に関する複数種類の画像特徴量を受け取り、当該画像特徴量と特徴量データベース509の中に保存されている特徴量を比較して各々との近似度を計算し近似度ベクトルを生成する機能処理部である。
【0045】
次元圧縮部505は、検索処理部503から検索結果となる画像群の近似度ベクトルデータを受け取り、該データへ主成分分析を適用し、該データ(近似度ベクトル)をマップ生成部506で表現可能な次元数へ次元縮小した位置ベクトル(配置情報)を生成する機能処理部である。
【0046】
マップ生成部506は、検索結果である画像群の配置情報を受け取り、それを2次元座標平面上に配置し視覚化したイメージ情報(検索結果マップ情報)を生成し、利用者端末101のマップ表示部302へ送信する機能処理部である。
【0047】
すなわち、画像検索装置102は、クエリー画像(検索画像)と共に、クエリー画像(検索画像)に基づき検索される対象の画像である複数の検索対象画像の近似の関係を示すマップ(図9、図10、図11)(検索結果マップ情報)上に検索対象画像を表示する。
【0048】
変換行列計算部507は、利用者端末101の配置指示部303から、画像の配置情報の変更情報(配置変更情報)を受け付け、該配置変更情報を反映する変換行列(近似度ベクトルから位置ベクトルを算出する関数)を算出する機能処理部である。
【0049】
画像データベース508は、検索対象となる画像データ(検索対象画像)群を保存する記憶領域である。保存された画像データはID(識別子)によって直接アクセスできる手段を有する。画像データベース508は、複数の検索対象画像を記憶する記憶手段の適用例である。
【0050】
特徴量データベース509は、検索対象となる画像データの各種特徴量のデータ(図5)を保存する記憶領域である。その特徴量データは図5で例示されるテーブルで管理されている。
【0051】
図5のテーブルは、1行が画像データベース508に蓄えられている1つの画像データを表し、画像データのID(識別子)(画像NOとも言う)とともに特徴量Aから特徴量Dの列名で指示されるカラムに、当該画像のそれぞれの特徴量データが保存されていることを表している。
【0052】
画像ソース600は、本画像検索システムにおける検索対象画像の出所(入力ソース)を表す外部アクターである。例えば、インターネット上のFlickrやFacebook等の写真共有機能を有するサイトであったり、直接写真データを提供する利用者そのもの、各種カメラやスキャナー等の映像入力機器なども考えられる。
【0053】
次に、図6を用いて、検索対象となる画像データを本画像検索システムへ登録する処理を説明する。
【0054】
図6に示す各ステップは、画像検索装置102のCPU201により実行される。
【0055】
以下で説明する画像ソース600(外部装置)は、上記で説明したようにいくつも種類が考えられるが、ここではシステムの管理者が操作する管理者端末とした場合の例で説明する。
【0056】
ステップS601では、画像登録部501は、画像ソース600で表わされるシステム管理者が操作する管理者端末から検索対象となる画像データを受信する。
【0057】
ステップS602では、画像登録部501は、前記受信した画像データを、特徴量抽出部502へ入力する。特徴量抽出部502は、前記画像データを解析して、図4の5021から5024で例示される各個別の特徴量抽出部にかけて当該画像データのAからDの特徴量を算出する。通常これらの特徴量は一次元数値ベクトルとして表現される。特徴量抽出部502は、抽出した前記特徴量データ(AからDの4つ)を、画像登録部501へ入力する。
【0058】
ステップS603では、画像登録部501は、ステップS602で取得した特徴量データを、特徴量データベース509へ登録する。特徴量データは、図5で例示されるようなテーブル構造で保存される。
【0059】
図5を用いて特徴量データを保存するテーブル構造(特徴量データベース509)を説明する。
【0060】
既に説明したように、ある1つの画像に対して、複数種類の特徴量が抽出される。各種特徴量は数値(整数や浮動小数点)の多次元ベクトルで表現される。例えば、局所特徴量の1つであるSIFT特徴量は、浮動小数点の128次元ベクトルとして表現されている。この実施例で説明する画像検索システムでは、図4で示しているように特徴量Aから特徴量Dまでの4つの種類の画像特徴量を取得するものとする。図5のテーブルは、1つの行が1つの検索対象画像に関する特徴量データを格納している。列名が特徴量Aから特徴量Dまでの各々のカラムに各特徴量データが格納されている。それぞれの特徴量は、次元数や数値の型が特徴量の種類によって異なっているが、基本的には数値の多次元ベクトルデータとして保存されている。
【0061】
ステップS604では、画像登録部501は、前記受信した画像データを画像データベース508に保存する。
【0062】
以上で、画像登録の処理は終了する。
【0063】
次に、図7を用いて、画像検索における処理のフローを説明する。
【0064】
ステップS701では、検索処理部503は、利用者端末101の検索クエリー部301から送信されるクエリー画像を受信する。
【0065】
すなわち、ステップS701では、利用者端末101を操作する利用者(ユーザ)による操作により、クエリー画像(検索画像)の入力を受け付ける(受付手段)。ここでは、クエリー画像自体を利用者端末101から受信して入力を受け付けても良いし、画像データベース508に記憶されている画像から、クエリー画像としてユーザに選択されたクエリー画像の入力を受け付けてもよい。
【0066】
ステップS702では、検索処理部503は、クエリー画像データを解析して、特徴量抽出部502へ入力し、該画像の特徴量データ(この実施例では4つの特徴量ベクトル)を取得する。
【0067】
ステップS703では、検索処理部503は、ステップS702で取得した特徴量データを、特徴量近似度計算部504に入力する。特徴量近似度計算部504は受け取った特徴量データを、特徴量データベース509に保存されている全ての特徴量データ群とそれぞれ比較して、それぞれとの近似度を算出する。1つの特徴量に関する近似度は、例えば数値ベクトル間のユーグリッド距離で表現される。検索対象画像1つに対するクエリー画像の近似度は、特徴量種類(この実施例ではAからD)毎のユーグリッド距離の配列、つまり多次元数値ベクトルとして表現される。特徴量近似度計算部504は、検索対象画像全てに対してクエリー画像との近似度を表す多次元数値ベクトル(以降近似度ベクトルと呼ぶ)を生成し、該近似度ベクトル群を検索処理部503へ応答する。
【0068】
すなわち、ステップS703では、ステップS701で受け付けたクエリー画像の複数の特徴量と、画像データベース508に記憶されている各画像の複数の特徴量との近似度をそれぞれ算出する(算出手段)。
【0069】
ステップS704では、検索処理部503は、ステップS703で取得した近似度ベクトル群を、次元圧縮部505へ入力する。次元圧縮部505は、前記近似度ベクトル群に対して主成分分析処理を行い、近似度ベクトル群のそれぞれの次元を2次元に圧縮する。2次元化した近似度ベクトルを以降配置情報と呼ぶ。
【0070】
すなわち、ステップS704では、ステップS703で算出された各近似度を図12の1203に代入し、図12の変換行列1202(初期値)と演算して、配置情報1201を算出して生成する。ここで、図12の変換行列1202は、本発明における重み情報の適用例であって、複数種類の特徴量における各近似度を合成すると共に複数種類の特徴量に対する重みを示す情報である。また、ここで生成される配置情報は、算出された各近似度が算出された検索対象画像をマップ上に表示する位置を示す情報である。
【0071】
このように、ステップS704では、算出された複数種類の特徴量における各近似度を合成して、当該複数の特徴量の種類よりも少ない数の次元のマップ上に表示する位置を示す配置情報を生成する。
【0072】
(次元圧縮の手段について)
図12にこの次元圧縮を行うベクトル変換の式を示す。1203で指示されるベクトルがクエリー画像と検索対象画像との近似度ベクトルを表す。F0、F1、F2、F3の値はそれぞれ特徴量Aから特徴量Dに関するクエリー画像と検索対象画像との距離(差)を表している。1202で指示される行列は、上記の主成分分析処理において算出されるもので、変換行列(次元圧縮関数)を表す。この変換行列の1行目(T00、T01、T02、T03)の値は第1主成分を表し、2行目(T10、T11、T12、T13)の値は第2主成分を表している。1201で指示されるベクトルは近似度ベクトルが2次元化された配置情報(位置ベクトル)を表している。1201のX、Yの値はどちらも、複数の(この実施例ではF0からF3の)画像特徴量の距離の線形合成になっている。
【0073】
複数の特徴量の近似度からなる多次元数値ベクトルデータ(近似度ベクトル)を主成分分析により2次元化することによって、類似性が高い検索対象画像の集合(近似度ベクトル空間において原点に近い画像セット)を、それらの特徴が効率良く表現された配置で(情報量がなるべく落ちないように次元削減された表現で)視覚化することができる。2次元データのそれぞれの成分は各種特徴量の近似度を結合した値を表すが、各成分は互いに独立した類似度表現を表す尺度になっている。
【0074】
ステップS705では、次元圧縮部505は、ステップS704で算出した配置情報群を、マップ生成部506へ入力する。マップ生成部506は、配置情報群のうち原点から一定の範囲内の距離にある配置情報を対象に、その配置情報に対応する画像のサムネイル画像(類似画像のサムネイル)を2次元座標平面上に配置した視覚化情報(マップとも言う)を作成する。この視覚化情報は図9の900で指示される領域で例示される。以降、この視覚化情報を類似画像マップと呼び、2次元座標平面上に表示された画像を類似画像と呼ぶ。
【0075】
ステップS705において、マップ上の所定の範囲内の位置を示す配置情報の検索対象画像のみをマップ上に配置するため、ステップS706では、マップ上の所定の範囲内の位置を示す配置情報の検索対象画像のみをマップ上に表示するべく出力する。
【0076】
ステップS706では、マップ生成部506は作成された類似画像マップを、利用者端末101のマップ表示部302へ送信する。
【0077】
すなわち、ステップS706では、生成された配置情報に示される類似画像マップ(単にマップとも言う)上の位置に該検索対象画像を表示するべく出力する。
【0078】
以上で、利用者が検索要求を発信してから検索結果が応答されるまでの処理を説明した。
【0079】
次に、図8を用いて利用者の指示によって検索結果を改善する処理のフローを説明する。
【0080】
ステップS801では、S706においてマップ生成部506から送信された類似画像マップを、利用者端末101のマップ表示部302において受信する。
【0081】
ステップS802では、類似画像マップをマップ表示部302において表示する。
【0082】
(図9の説明)
図9は、類似画像マップを表示しているマップ表示部302の画面例である。900で指示される領域に類似画像マップが表示されている。類似画像マップは2次元座標平面上にクエリー画像と類似すると計算された画像(類似画像)のサムネイルが配置されたものである。901で指示しているオブジェクトはクエリー画像のサムネイルを表しており、座標平面の原点に配置されている。904から909で指示されるオブジェクトは類似画像のサムネイルを表しており、ステップS704で算出された配置情報の座標に表示されている。
【0083】
類似画像の配置場所はクエリー画像と各々の類似画像との各種特徴量の距離(差)を2次元座標化したものであるので、クエリー画像と類似性が高い類似画像ほど原点の近くに配置される。
【0084】
902は、利用者が類似画像の位置をドラッグするなどして変更した場合に、その更新内容を含む更新情報を、画像検索装置102へ送出するためのボタンを表している。また、903は、利用者が類似画像の配置に関して、これ以上変更の余地はないことを画像検索装置102へ通知するためのボタンを表している。
【0085】
(類似画像の配置の変更について)
利用者は、ステップS802の後、利用者端末101のマップ表示部302に表示された類似画像マップを視認し、904から909で指示されるようなサムネイルを、901のクエリー画像のサムネイルと見比べて、該サムネイルの配置場所をマウスでドラッグするなどの操作で変更する。
【0086】
すなわち、901のクエリー画像のサムネイルと類似していると利用者が判断した検索対象画像のサムネイルの配置場所を、利用者がマウスでドラッグするなどの操作を行い、類似していると判断した検索対象画像のサムネイルの配置場所を変更する。具体的には、類似していると判断する検索対象画像のサムネイルの配置場所を、マップの中心(クエリー画像のサムネイルが配置されている2つの座標軸の原点)に近くなるように、近似している判断する度合に応じた距離を移動する。一方、類似していないと判断する検索対象画像のサムネイルの配置場所を、マップの中心(クエリー画像のサムネイルが配置されている2つの座標軸の原点)から離れるように、近似していない判断する度合に応じた距離を移動する。
【0087】
このように、利用者端末101は、ユーザの操作により、マップ上に表示された検索対象画像の位置の変更を受け付ける(変更受付手段)。
【0088】
上述したようにサムネイルの配置の各軸は、各特徴量に関する距離成分の線形合成された値を表すものである。前記線形合成のパラメータ(図12の変換行列1202)の初期値は、主成分分析によって導出され、次元圧縮に際してできるだけ情報量が減らないように決定されるようにする。すなわち、ステップS703で算出された各近似度ベクトル(本実施例では、5021、5022、5023、5024のそれぞれの部で抽出された特徴量A、特徴量B、特徴量C、特徴量Dについての近似度ベクトル)について、主成分分析を行い、各近似度ベクトル(本実施例では4つの近似度ベクトル)を2つの成分(次元)になるよう合成して図12の変換行列1202(初期値)を算出して生成する。ここで、主成分分析による2次元への次元圧縮では、近似度ベクトル群の情報量をできるだけ落とさないように成分(次元)が2つ選択される。
【0089】
このようにして決定された座標系上の類似画像群に対して、利用者はそれらの相対的位置関係と原点からの距離を考慮して、位置調整を実施する。この結果、線形合成のパラメータが、利用者が画像の類似性に期待する各種特徴量の重みを近づくものと考えられる。
【0090】
配置の変更手段に関しては、各類似画像を利用者が画像を確認し易くするため904から909のサムネイルをクリックするとより大きなサイズの画像がその場で表示されるといった工夫があってもよい。
【0091】
サムネイルの配置位置を更新したマップ表示部302の例を図10に示す。
【0092】
図10では、利用者が、画像Bを905で指示される場所(配置位置)から910で指示される場所(配置位置)へ移動し、画像Cを906で指示される場所(配置位置)から911で指示される場所(配置位置)へ移動し、画像Eを908で指示される場所(配置位置)から912で指示される場所(配置位置)へ移動し、画像Fを909で指示される場所(配置位置)から913で指示される場所(配置位置)へ移動したことを表している。
【0093】
ステップS803では、マップ表示部302が利用者によって903で指示される更新なしボタン903が押下されたことを検知した場合は処理を終了する。マップ表示部302が902で指示される更新ボタン902の押下を検知した場合はステップS804へ進む。
【0094】
ステップS804では、配置指示部303は、マップ表示部302で変更されたサムネイル画像の位置を示す変更情報(配置変更情報)を203で指示されるRAMの中に蓄積させる。上記の例で説明すると、画像B、画像C、画像E、画像Fの新しい位置情報を位置ベクトルデータとしてRAM202の中に保存する。
【0095】
ステップS805では、配置指示部303は、ステップS804で保存した複数の位置ベクトルデータ(配置変更情報)を、画像検索装置102の変換行列計算部507へ送信する。
【0096】
ステップS806では、画像検索装置102の変換行列計算部507は、ステップS805で送信された位置ベクトルデータ(配置変更情報)を受信する。
【0097】
すなわち、画像検索装置102は、ユーザの操作により、マップ上に表示された検索対象画像の位置が変更された内容として配置変更情報を受け付ける。配置変更情報は、変更された検索対象画像の位置を示す配置情報である。
【0098】
(位置更新情報からの変換行列の計算)
ステップS807では、変換行列計算部507は、位置ベクトルデータ(配置変更情報)を入力して次元圧縮行列を計算する。これは、ステップS704の処理を説明した際に出てきた図12の1202で指示される変換行列を、1201の位置ベクトルと1203の近似度ベクトルを元にして、求める処理となる。例えば、位置ベクトルデータが4つあった場合には、それらと新しい変換行列T’の関係は、図13の式で表わされる。これは4つの配置情報の変換式を1つにまとめた式である。
【0099】
図13において1301から1304の部分は、それぞれが利用者が移動した類似画像の配置情報(位置ベクトルデータ)を表している。また、1305から1308の部分は、1301から1304に対応する画像の前記クエリー画像との近似度ベクトル(ステップS703において生成されている値)を表している。例えば、1301で指示された部分は図10において利用者が移動したBの画像の新しい位置(910)のデータ(配置情報(位置ベクトル))を表し、その時の1305で指示される部分は1301に対応する画像Bの近似度ベクトルを表している。1302から1304と1305から1308も同様にぞれぞれ新しい位置ベクトルデータとそれに対応する画像の近似度ベクトルデータを表している。
【0100】
この式を変形してT’について解くことによって、変換行列T’を算出できる。図13の式の両辺の右から、1310で指示される行列の逆行列を掛けることによって、図14で表わされる式に変形し、T’を計算する。この場合、1301から1304までの位置ベクトルデータは、必ずしも利用者が位置を変更した画像のものでなくてよい。位置を変更した画像に加え、位置を変更しなかった画像でも利用者がその位置を重視することを示している画像の位置ベクトルデータをこの式に利用すればよい。
【0101】
上記のように計算されたT’は、利用者がクエリー画像と検索対象画像群との類似度の計算に、どの特徴量をどれ位重み付けするかが表現されたもの(特徴量重み付け行列)になっている。
【0102】
このように、ステップS807では、変更された検索対象画像の位置を示す配置情報と、ステップS703で算出された近似度とに従って、変換行列(重み情報)を生成する(重み情報生成手段)。
【0103】
ステップS808では、変換行列生成部507は、図12に示す式を用いて、ステップS703において生成していた近似度ベクトル群のそれぞれに対して、ステップS807で生成した変換行列を適用して、新たな位置ベクトル群(配置情報)をそれぞれ生成する。
【0104】
すなわち、ステップS808では、ステップS703で算出された近似度と、ステップS807で生成された変換行列とに従って、該近似度が算出された検索対象画像の配置情報を生成する。
【0105】
具体的には、ステップS703で算出される近似度ベクトルは、クエリー画像の特徴量データと、特徴量データベース509に保存されている全ての特徴量データ群とそれぞれ比較して、それぞれ算出されたものであり、これら全ての近似度ベクトルのそれぞれを1203に代入し、更に、ステップS807で生成した変換行列を1202に代入し、画像データベース508に記憶されている画像全てについての新たな配置情報(位置ベクトル)1201を算出する。
【0106】
この新たな位置ベクトルは、利用者が期待する各検索対象画像の類似度をより正確に2次元座標空間上に表現するものとなっている。
【0107】
すなわち、ここでは、ユーザの操作(画像の配置位置の変更指示)により、どの特徴量についてどれ位重み付けするかを示す値が加味された配置情報が生成される。
【0108】
ステップS809では、変換行列生成部507は、ステップS808で算出した各検索対象画像の配置情報を、マップ生成部506へ入力する。マップ生成部506では、原点から一定の範囲内の距離にある画像を対象にして、それらの画像のサムネイル画像を2次元座標平面上に配置した新しい類似画像マップを作成する。
【0109】
(更新された類似画像マップの説明)
図11で例示されている類似画像マップを使って、更新された検索結果について説明する。図10において示されているように、場所を変更した画像は、B、C、E、Fである。これら4つの画像に関しては、図11においてほぼ変更した場所に近い位置に配置されている。ただし、画像Eに関しては領域外へ移動されている。また、変換行列を算出する際に勘案されなかった画像、例えば画像Aについては図11では領域に表示されていない。これは画像Aの近似度ベクトルへ新しい変換行列を適用した後の位置が原点に対して一定距離の中に出現しなったことを意味する。また、画像Dに関しては、図10の時点の位置より原点に近づいている。さらに、図11の座標平面では、新しい画像Gと画像Hが領域内に出現している。どちらも新しい変換行列によって各種特徴量毎の近似度への重みが変更された結果、よりクエリー画像に近いと判定された結果を示している。
【0110】
上記のS807で説明したような逆行列を使って変換行列を算出した場合には、計算に使用した新しい位置は変更位置と厳密に一致するように計算されるが、必ずしもそうする必要はなく、新しいパラメータを乱数などを用いて複数回試行し、複数の位置の変更が最もバランスよく実現されるものを選択するなどの異なる手法をとってもよい。図11では、このような計算によって算出された場合の結果を表している。
【0111】
ステップS810では、マップ生成部506は前記類似画像マップを、利用者端末101のマップ表示部302へ送信する。
【0112】
ステップS810の後は、利用者端末101においてステップS801の処理へ続く。
【0113】
以上図8を用いて説明したように、2次元座標平面上に表示される類似画像に対して、利用者が自らの意図を反映するよう位置の変更を繰り返すことによって、利用者が期待する特徴を備えたクエリー画像と類似する画像を取得することが可能となる。
【0114】
このようにして、一度、マップ上に表示された画像の配置位置を変更することで、類似の画像を、画像データベース508に記憶されている画像の中から絞り込んで検索することが可能となる。
【0115】
以上、図8を用いて説明した手順により、視覚的に表現された各検索対象画像の類似度を、利用者の指示で更新することにより、各種特徴量の近似度を合成する時のパラメータ(変換行列)を逆算し、これにより利用者がより自分の期待する近似度表現を生成することが可能となる。
【0116】
すなわち、上述のように、類似していると判断する検索対象画像のサムネイルの配置場所を、マップの中心(クエリー画像のサムネイルが配置されている2つの座標軸の原点)に近くなるように、近似している判断する度合に応じた距離だけ移動し、また、類似していないと判断する検索対象画像のサムネイルの配置場所を、マップの中心(クエリー画像のサムネイルが配置されている2つの座標軸の原点)から離れるように、近似していない判断する度合に応じた距離だけ移動し、再度、検索を行うことで、移動された検索対象画像のサムネイルの配置場所(配置位置)に応じて、クエリー画像のどの特徴に着目して類似性を判断すればよいのかを自動的に判断して、その判断結果を反映するように、各特徴量の重み(変換行列)を自動的に最適化して、類似の画像を再検索するため、煩雑な操作を軽減することが可能となる。
【0117】
<第2の実施形態>
本発明の第2の実施形態について説明する。
【0118】
図15に実施例2の画像検索システムの機能ブロック図を示す。図15は図3で示される第1の実施形態の構成に510で指示される変換行列蓄積部を追加したものである。
【0119】
変換行列蓄積部510は、クエリー画像の各種特徴量データと変換行列の値とを対で保存する記憶部である。
【0120】
変換行列蓄積部510は、本発明の情報記憶手段の適用例である。すなわち、変換行列蓄積部510は、ステップS807で生成された変換行列(重み情報)と、ステップS701で受け付けた検索画像の複数の特徴量とを関連付けて記憶する記憶部である。
【0121】
第2の実施形態では、第1の実施形態と異なる処理のみを下記に説明する。すなわち、第2の実施形態では、第1の実施形態と同様の構成については、説明を省略する。
【0122】
(クエリー画像の特徴量データと変換行列の蓄積処理)
図8のフローチャートのステップS803において、更新なしの指示が利用者からあった場合に、配置指示部303は変換行列が確定したことを画像検索装置102の変換行列計算部507へ通知し、変換行列計算部507は、クエリー画像の各種特徴量データと、ステップS807で最終的に算出された変換行列のデータを、変換行列蓄積部510へ保存する。
【0123】
(変換行列の初期値の算出)
第2の実施形態では、図7のフローチャートのステップS704において、第1の実施形態で主成分分析によって変換行列を求めている処理を、前述した変換行列蓄積部510に保存されている変換行列の値を利用するように変更する。
【0124】
具体的には、次元圧縮部505は、クエリー画像の各種特徴量データセット(各特徴量)と最も近い特徴量データセットをもつエントリを変換行列蓄積部510から検索し、該エントリの変換行列のデータを用いて配置情報の生成処理を実施する。
【0125】
すなわち、ステップS704では、ステップS701で新たに受け付けた検索画像から取得された複数の特徴量に最も類似(近似)する複数の特徴量に関連付けられて変換行列蓄積部510により記憶されている変換行列(重み情報)を特定する(特定手段)。変換行列蓄積部510には、前回(過去)に検索を行った際に用いられた、前回(過去)のクエリー画像の各種特徴量データと、前回(過去)のステップS807で最終的に算出された変換行列のデータとが関連付けられて記憶されているため、ステップS701で新たにクエリー画像(検索画像)を受け付けた際には、該検索画像から取得された複数の特徴量に最も類似(近似)する複数の特徴量に関連付けられて変換行列蓄積部510により記憶されている変換行列(重み情報)を特定することができる。
【0126】
そして、ステップS703で算出された近似度と、当該特定された重み情報とを、それぞれ図12の1203、1202に代入することで、検索対象画像をマップ上に表示する位置を示す配置情報を生成する(ステップS704)。
【0127】
ただし、クエリー画像の各種特徴量データセットに対して距離がある範囲内にあるエントリがなかった場合は、第1の実施形態と同様に主成分分析によって変換行列を算出するものとする。
すなわち、ステップS704により生成された配置情報に従って、マップ上の所定の範囲内に所定数の検索対象画像があるか否かを判定し(画像数判定手段)、あると判定された場合には、ステップS703で算出された近似度と、ステップS704で特定された変換行列を、それぞれ図12の1203、1202に代入することで、検索対象画像をマップ上に表示する位置を示す配置情報を生成する。
【0128】
一方、マップ上の所定の範囲内に所定数の検索対象画像がないと判定された場合には、第1の実施形態で説明した通り、ステップS703で算出された近似度と、初期値の変換行列(重み情報)とをそれぞれ図12の1203、1202に代入することで、配置情報を生成する。
【0129】
ここで、初期値の変換行列(重み情報)は、上述した通り、主成分分析を行うことで得られる変換行列であって、ステップS703で算出された複数の特徴量についての近似度に従って、当該複数の特徴量に対する重みを示す変換行列(重み情報)を決定した(決定手段)ものである。
【0130】
以上の変更を加えることによって、過去に同じような特徴量を有するクエリー画像の検索があった場合は、その際に作成された変換行列を再利用することによって、利用者の配置変更作業の負担を省略することができ、効率的に類似画像を見つけることができる。
【0131】
すなわち、クエリー画像の特徴量と、該クエリー画像に類似した画像を検索するために適した変換行列とを学習することで、効率的に、且つ迅速に類似画像を見つけることが可能となる。
【0132】
<第3の実施形態>
第1の実施形態、及び、第2の実施形態では、利用者端末101と画像検索装置102とを別々の筐体で記載しているが、これらを合体して1つの情報処理装置として構成することが可能である。すなわち、後述する利用者端末101が備える検索クエリー部301と、配置指示部303と、マップ表示部302とが、画像検索装置102内に含めて、画像検索装置102を1つの情報処理装置として構成することができる。
【0133】
以上、本発明によれば、利用者の操作による、マップ上に表示される画像の位置の変更を受け付けることで、検索に用いられる各特徴量の重みを適切に変更し、類似の画像を検索することが可能になる。
【0134】
また、本発明によれば、利用者が明示的に検索に利用する特徴量を指定することなく、検索された画像を確認して、直感的に、その画像の位置を移動するだけで、各特徴量の重みを自動的に最適化して、類似の画像を検索するため、煩雑な操作を軽減することが可能となる。
【0135】
また、本発明によれば、結果表示に利用される特徴量は3つに制限されることなく、4つ目以上の特徴量についても考慮された座標軸(複数の特徴量の重みを織り込まれている2次元の座標軸)を含むマップに、検索された結果、得られた画像が表示されるため、クエリー画像に類似した画像を見落としてしまうおそれも低減可能となる。
【0136】
また、本発明によれば、類似性の指標を利用者が明示的に指定することなく、また複数の指標を用いる場合においても、利用者との相互作用を通じて、各指標の重みを自動的に最適化することが可能な画像検索の仕組みを提供することである。
【0137】
また、本発明によれば、大量の画像の中から、利用者が所望する特徴を備えた画像を、迅速に、効率的に、検索し、発見することが可能になる。
【0138】
以上、本発明の実施形態を詳述したが、本発明は、例えば、システム、装置、方法、装置で読み取り実行可能なプログラムもしくは記憶媒体等としての実施態様をとることが可能であり、具体的には、複数の機器から構成されるシステムに適用しても良いし、また、一つの機器からなる装置に適用しても良い。上述した実施例では、利用者端末101と、画像検索装置102とをそれぞれ別の筐体として説明したが、利用者端末101と、画像検索装置102と組み合わせて1つの情報処理装置とすることができる。すなわち、このように、利用者端末101と、画像検索装置102と組み合わせて1つの情報処理装置とした場合でも、本発明の範囲内にあることは言うまでもない。
【0139】
また、本発明の目的は、前述した実施形態の機能を実現するソフトウェアのプログラムコードを記録した記憶媒体を、システム或いは装置に供給し、そのシステム或いは装置のコンピュータ(またはCPUやMPU)が記憶媒体に格納されたプログラムコードを読み出し実行することによっても、達成されることは言うまでもない。
【0140】
この場合、記憶媒体から読み出されたプログラムコード自体が前述した実施形態の機能を実現することになり、プログラムコード自体及びそのプログラムコードを記憶した記憶媒体は本発明を構成することになる。
【0141】
プログラムコードを供給するための記憶媒体としては、例えば、フレキシブルディスク、ハードディスク、光ディスク、光磁気ディスク、CD−ROM、CD−R、磁気テープ、不揮発性のカード、ROM等を用いることができる。
【0142】
また、コンピュータが読み出したプログラムコードを実行することにより、前述した実施形態の機能が実現されるだけでなく、そのプログラムコードの指示に基づき、コンピュータ上で稼動しているOS(基本システム或いはオペレーティングシステム)などが実際の処理の一部又は全部を行い、その処理によって前述した実施形態の機能が実現される場合も含まれることは言うまでもない。
【0143】
さらに、記憶媒体から読み出されたプログラムコードが、コンピュータに挿入された機能拡張ボードやコンピュータに接続された機能拡張ユニットに備わるメモリに書込まれた後、そのプログラムコードの指示に基づき、その機能拡張ボードや機能拡張ユニットに備わるCPU等が実際の処理の一部又は全部を行い、その処理によって前述した実施形態の機能が実現される場合も含まれることは言うまでもない。
【符号の説明】
【0144】
101 利用者端末
102 画像検索装置
103 LAN
301 検索クエリー部
302 マップ表示部
303 配置指示部
501 画像登録部
502 特徴量抽出部
503 検索処理部
504 特徴量近似度計算部
505 次元圧縮部
506 マップ生成部
507 変換行列計算部
508 画像データベース
509 特徴量データベース
510 変換行列蓄積部
600 画像ソース



【特許請求の範囲】
【請求項1】
検索画像に基づき検索される対象の画像である複数の検索対象画像の関係を示すマップ上に前記検索対象画像を表示する情報処理装置であって、
前記複数の検索対象画像を記憶する記憶手段と、
ユーザによる検索画像の入力を受け付ける受付手段と、
前記受付手段により受け付けた検索画像の複数の特徴量と、前記記憶手段に記憶されている検索対象画像の複数の特徴量との近似度をそれぞれ算出する算出手段と、
前記算出手段により算出された近似度と、前記複数の特徴量に対する重みを示す重み情報とに従って、前記算出手段により該近似度が算出された検索対象画像を前記マップ上に表示する位置を示す配置情報を生成する生成手段と、
前記生成手段により生成された配置情報に示される前記マップ上の位置に該検索対象画像を表示するべく出力する表示手段と、
ユーザの操作により、前記表示手段で前記マップ上に表示された検索対象画像の位置の変更を受け付ける変更受付手段と、
前記変更受付手段により変更を受け付けた検索対象画像の位置を示す配置情報と、前記算出手段により算出された近似度とに従って、重み情報を生成する重み情報生成手段と、
を備え、
前記生成手段は、更に、前記算出手段により算出された近似度と、前記重み情報生成手段により生成された重み情報とに従って、前記算出手段により該近似度が算出された検索対象画像の配置情報を生成することを特徴とする情報処理装置。
【請求項2】
前記算出手段は、前記受付手段により受け付けた検索画像の複数種類の特徴量と、前記記憶手段に記憶されている検索対象画像の複数種類の特徴量との近似度をそれぞれ算出し、
前記生成手段は、前記複数種類の特徴量における各近似度を合成すると共に前記複数種類の特徴量に対する重みを示す重み情報に従って、前記算出手段により算出された前記複数種類の特徴量における各近似度を合成して、当該複数の特徴量の種類よりも少ない数の次元の前記マップ上に表示する位置を示す配置情報を生成することを特徴とする請求項1に記載の情報処理装置。
【請求項3】
前記重み情報生成手段により生成された重み情報と、前記受付手段により受け付けた検索画像の複数の特徴量とを関連付けて記憶する情報記憶手段と、
前記受付手段により受け付けた新たに受け付けた検索画像の複数の特徴量に類似する複数の特徴量に関連付けられて前記情報記憶手段により記憶されている重み情報を特定する特定手段と、
を更に備え、
前記生成手段は、前記算出手段により算出された近似度と、前記特定手段により特定された重み情報とに従って、前記算出手段により該近似度が算出された検索対象画像を前記マップ上に表示する位置を示す配置情報を生成することを特徴とする請求項1又は2に記載の情報処理装置。
【請求項4】
前記表示手段は、前記マップ上の所定の範囲内の位置を示す配置情報の検索対象画像のみを前記マップ上に表示するべく出力することを特徴とする請求項1乃至3の何れか1項に記載の情報処理装置。
【請求項5】
前記生成手段により生成された配置情報に従って、前記マップ上の所定の範囲内に所定数の検索対象画像があるか否かを判定する画像数判定手段を更に備え、
前記生成手段は、前記画像数判定手段により、前記マップ上の所定の範囲内に所定数の検索対象画像があると判定された場合には、前記算出手段により算出された近似度と、前記特定手段により特定された重み情報とに従って、前記算出手段により該近似度が算出された検索対象画像を前記マップ上に表示する位置を示す配置情報を生成することを特徴とする請求項3に記載の情報処理装置。
【請求項6】
前記算出手段により算出された、前記複数の特徴量についての近似度に従って、前記複数の特徴量に対する重みを示す重み情報を決定する決定手段を更に備え、
前記画像数判定手段により、前記マップ上の所定の範囲内に所定数の検索対象画像がないと判定された場合には、前記生成手段は、前記算出手段により算出された近似度と、前記決定手段により決定された重み情報とに従って、前記算出手段により該近似度が算出された検索対象画像を前記マップ上に表示する位置を示す配置情報を生成することを特徴とする請求項5に記載の情報処理装置。
【請求項7】
検索画像に基づき検索される対象の画像である複数の検索対象画像を記憶する記憶手段を備え、前記複数の検索対象画像の関係を示すマップ上に前記検索対象画像を表示する情報処理装置における制御方法であって、
前記情報処理装置の受付手段が、ユーザによる検索画像の入力を受け付ける受付工程と、
前記情報処理装置の算出手段が、前記受付工程により受け付けた検索画像の複数の特徴量と、前記記憶手段に記憶されている検索対象画像の複数の特徴量との近似度をそれぞれ算出する算出工程と、
前記情報処理装置の生成手段が、前記算出工程により算出された近似度と、前記複数の特徴量に対する重みを示す重み情報とに従って、前記算出工程により該近似度が算出された検索対象画像を前記マップ上に表示する位置を示す配置情報を生成する生成工程と、
前記情報処理装置の表示手段が、前記生成工程により生成された配置情報に示される前記マップ上の位置に該検索対象画像を表示するべく出力する表示工程と、
前記情報処理装置の変更受付手段が、ユーザの操作により、前記表示工程で前記マップ上に表示された検索対象画像の位置の変更を受け付ける変更受付工程と、
前記情報処理装置の重み情報生成手段が、前記変更受付工程により変更を受け付けた検索対象画像の位置を示す配置情報と、前記算出工程により算出された近似度とに従って、重み情報を生成する重み情報生成工程と、
を備え、
前記生成工程は、更に、前記算出工程により算出された近似度と、前記重み情報生成工程により生成された重み情報とに従って、前記算出工程により該近似度が算出された検索対象画像の配置情報を生成することを特徴とする制御方法。
【請求項8】
検索画像に基づき検索される対象の画像である複数の検索対象画像を記憶する記憶手段を備え、前記複数の検索対象画像の関係を示すマップ上に前記検索対象画像を表示する情報処理装置が読み取り実行可能なプログラムであって、
前記情報処理装置を、
ユーザによる検索画像の入力を受け付ける受付手段と、
前記受付手段により受け付けた検索画像の複数の特徴量と、前記記憶手段に記憶されている検索対象画像の複数の特徴量との近似度をそれぞれ算出する算出手段と、
前記算出手段により算出された近似度と、前記複数の特徴量に対する重みを示す重み情報とに従って、前記算出手段により該近似度が算出された検索対象画像を前記マップ上に表示する位置を示す配置情報を生成する生成手段と、
前記生成手段により生成された配置情報に示される前記マップ上の位置に該検索対象画像を表示するべく出力する表示手段と、
ユーザの操作により、前記表示手段で前記マップ上に表示された検索対象画像の位置の変更を受け付ける変更受付手段と、
前記変更受付手段により変更を受け付けた検索対象画像の位置を示す配置情報と、前記算出手段により算出された近似度とに従って、重み情報を生成する重み情報生成手段として機能させ、
前記生成手段は、更に、前記算出手段により算出された近似度と、前記重み情報生成手段により生成された重み情報とに従って、前記算出手段により該近似度が算出された検索対象画像の配置情報を生成することを特徴とするプログラム。




【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7】
image rotate

【図8】
image rotate

【図9】
image rotate

【図10】
image rotate

【図11】
image rotate

【図12】
image rotate

【図13】
image rotate

【図14】
image rotate

【図15】
image rotate


【公開番号】特開2013−114597(P2013−114597A)
【公開日】平成25年6月10日(2013.6.10)
【国際特許分類】
【出願番号】特願2011−262567(P2011−262567)
【出願日】平成23年11月30日(2011.11.30)
【出願人】(390002761)キヤノンマーケティングジャパン株式会社 (656)
【出願人】(312000206)キヤノンMJアイティグループホールディングス株式会社 (259)
【出願人】(592135203)キヤノンITソリューションズ株式会社 (528)
【Fターム(参考)】