説明

情報処理装置及びその制御方法

【課題】 本発明は、何等かの目的で複数のオブジェクトを配置、移動した場合に、それらオブジェクトに対して、オブジェクト同士の関係を理解しやすくするためのメタデータを付与することを目的とする。
【解決手段】 上記課題を解決するために、本発明は、表示部に複数のオブジェクトを表示させ、そのレイアウトを取得するレイアウト取得部303と、前記レイアウトにおける前記複数のオブジェクト同士の表示上の視覚的な関係を特定する特定部305と、前記特定部306が特定した結果に基づいて、前記複数のオブジェクトそれぞれに対してメタデータを付与する付与部306を備えることを特徴とする情報処理装置を提供する。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、表示オブジェクトに対する操作性を向上する技術に関する。
【背景技術】
【0002】
電子化されたオブジェクトをテーブル型ディスプレイや壁面型ディスプレイに表示し、表示されたオブジェクトを操作可能にすることで、オブジェクトの整理を支援するシステムが注目されている。このようなシステムのディスプレイには、タッチパネルやデジタイザ等のデバイスが組み込まれており、ディスプレイに表示されたオブジェクトをタッチできる。一般的にタッチパネルを利用した操作は、機器に不慣れなユーザにも馴染みやすいため、モバイル端末やコピー機等多くの機器で利用される。このようなシステムによって、ディスプレイに表示されたオブジェクトに対して直感的な操作(移動等)を行い、視覚的に整理・分類することができる。
特許文献1では、画面上に表示された写真オブジェクトを、周囲4方向の何れかの方向に移動させる操作を行うと、その操作方向に対応するグループに写真が振り分けられる。ユーザは、振り分けられたグループ毎に写真を呼び出し、印刷等の作業を行う事が出来る。ここでは、ユーザの意思によって複数のオブジェクトを4方向に移動させた結果、その結果を示す4種類にグループ分けしているだけである。すなわち、ユーザの移動の作業は、分類するための作業である。
【先行技術文献】
【特許文献】
【0003】
【特許文献1】特開2010−134859号公報
【発明の概要】
【発明が解決しようとする課題】
【0004】
上述したシステムの使い方は様々であり、特許文献1のように表示中のオブジェクトを分類することを主目的として各オブジェクトを移動させているとは限らない。しかしながら、例えユーザが分類を主目的にして作業していないとしても、会議などでオブジェクトを配置、移動した場合には、それら位置関係には何等かの意味がある可能性が高い。
本発明は上記課題を考慮してなされたものであり、何等かの目的で複数のオブジェクトを配置、移動した場合に、それらオブジェクトに対して、オブジェクト同士の関係を理解しやすくするためのメタデータを付与する一手法を提供することを目的とする。
【課題を解決するための手段】
【0005】
上記の課題を解決するために、本発明は、表示部に表示される複数のオブジェクトのレイアウトを取得する取得手段と、前記取得手段により取得されたレイアウトにおける、前記複数のオブジェクト同士の表示上の視覚的な関係を特定する特定手段と、前記特定手段により特定された結果に基づいて、前記複数のオブジェクトそれぞれに対してメタデータを付与する付与手段と、を備えることを特徴とする。
【発明の効果】
【0006】
本発明によれば、何等かの目的で複数のオブジェクトを配置、移動した場合に、それらオブジェクトに対して、オブジェクト同士の関係を理解しやすくするためのメタデータを付与することができる。
【図面の簡単な説明】
【0007】
【図1】情報処理装置のシステム概要図
【図2】情報処理装置のハードウェア及び機能構成図
【図3】メタデータ付与処理の説明図
【図4】情報処理装置の処理を示す処理フロー図
【図5】付与されるメタデータの一例であるテーブルを示す図
【図6】情報処理装置の処理を示す処理フロー図
【図7】メタデータ付与処理の説明図
【図8】情報処理装置の処理を示す処理フロー図
【図9】付与されるメタデータの一例であるテーブルを示す図
【発明を実施するための形態】
【0008】
以下、本発明の実施形態について図面を参照して詳細に説明する。尚、以下説明する実施形態は、本発明を具体的に実施した場合の一例を示すものであり、これに限るものではない。
【0009】
[第1の実施形態]
第1の実施形態では、表示部に表示された複数のオブジェクトを操作して移動させた配置において、オブジェクト間の距離が小さい程、そのオブジェクト同士の関連度が高いことを示す値(度数)をメタデータとして各オブジェクトに付与する例を説明する。
【0010】
図1は、本実施形態を適応可能なシステムの例を示す概要図である。図1(A)は、テーブル型ディスプレイ101、壁面型ディスプレイ102を利用して、会議におけるアイデア出しや議論をインタラクティブに行うための会議システムである。参加者A、Bは表示部であるディスプレイ101、102に表示されたオブジェクト103、104を、指や手を使ってタッチ操作、もしくはジェスチャ操作することで、オブジェクトの選択や移動等の各種操作を実行できる。図1(A)では、下方と側方の両方向に投影可能なプロジェクタ105を利用して、ディスプレイ101、壁面型ディスプレイ102の両方にオブジェクトを投影するシステムを示す。また、オブジェクトに対するタッチまたはジェスチャによる操作を特定するために、タッチセンサおよび距離画像センサを各ディスプレイ周辺で利用する。タッチセンサはディスプレイ101に組み込まれており、参加者A、Bの手が届く位置に表示されているオブジェクト103をタッチ操作する際のタッチ検出に利用する。また距離画像センサは壁面型ディスプレイ102に設置されており、参加者A、Bの手の届かない位置に表示されているオブジェクト104をジェスチャ操作する際のジェスチャ検出に利用する。これらの各デバイスは、情報処理装置100とネットワークもしくはUSBによって接続されており、協調して機能する。ただし、図1(A)では、2つの表示部を用い、そのそれぞれに距離画像センサ、タッチセンサを搭載する例を示したが、表示部の数やセンサの方式はこれに限定されない。例えば、表示部は1つでも良い。また、プロジェクタ105のような投影型表示部ではなく、液晶ディスプレイのような大画面ディスプレイをテーブルもしくは壁面に設置して利用することもできる。また、図1(A)では、情報処理装置100は天井に設置されるが、設置位置は別の場所であっても良い。
【0011】
図1(B)は、情報処理装置100がタブレット型端末である例を示す。この場合、使用者は、タッチセンサを備えた表示部であるタッチスクリーンディスプレイ106に表示されたオブジェクト107を、指等を使ってタッチ操作することでオブジェクトの選択や移動等の各種操作を実行できる。
【0012】
このように、本発明は、タッチ操作やジェスチャ操作を用いて、表示部に表示されたオブジェクトを操作することが可能な情報処理装置に適応されるものである。以下、本実施形態は、図1(A)のシステムにおいて、主にテーブル型ディスプレイ101を用いて操作する例について説明する。
【0013】
図2(A)は本実施形態における、情報処理装置100のハードウェアの構成図である。情報処理装置100は、CPU(Central Processing Unit)200、RAM(Random Access Memory)201、ROM(Read Only Memory)202、バス203から構成される。またさらに、ディスプレイI/F204、ストレージI/F205、ストレージ206、入力I/F207から構成される。ただし、さらにネットワークI/FやメモリーカードI/F等のインタフェースを含み、それを利用して情報処理装置を実現することもできる。以下、情報処理装置100のハードウェア構成について、その詳細を説明する。
【0014】
CPU200は、RAM201、ROM202、及びバス203を利用して情報処理装置100全体の制御を行う。オペレーティングシステム(OS)をはじめ、本発明に係る各処理プログラム、デバイスドライバ等はROM202に記憶されており、RAM201に一時記憶され、CPU200によって適宜実行される。ここでOSおよび各処理プログラム等はストレージ206に記憶されていてもよく、その場合は電源投入時にRAM201に適宜読み込まれ、CPU200によって起動される。
【0015】
ディスプレイI/F204は、情報処理装置100内部で作成される表示画像をディスプレイ101(投影型表示部を利用する場合にはプロジェクタ105)が処理可能な信号に変換する。ストレージI/F205は、情報処理装置100内部で利用可能なデータ形式とストレージ206に記憶するためのデータ形式を互いに変換する。入力I/F207は、距離画像センサ105からの距離情報ならびに、タッチセンサからの位置情報を入力信号として受信し、情報処理装置100が処理可能な情報に変換する。
【0016】
ストレージ206は、ハードディスクドライブ装置に代表される大容量情報記憶装置であって、ストレージ206には情報処理装置100で表示するためのオブジェクトのデータが膨大に格納されている。ストレージ206自体は、情報処理装置100内部に搭載されていても良いし、イーサネット(登録商標)やUSB、メモリーカードI/F等の各種インタフェースを介して接続されていてもよい。またその際、ストレージ206は複数台接続されることもできる。
【0017】
以下、説明済みの図を用いて説明された要素については同一の符号を付し、その説明を省略する。
【0018】
図2(B)は本実施形態における情報処理装置100の機能ブロック図である。情報処理装置100の機能は、オブジェクト読み出し部300、表示制御部301、操作部302、レイアウト取得部303、検出部304、特定部305、付与部306、分類部307から構成される。これらの各機能ブロックはハードウェア、ソフトウェアの組み合わせによって様々な形態で実現できる。本実施形態では、各機能ブロックは上述したCPU200の機能部に相当する。
【0019】
ストレージ206に記憶されているデータは、音声、手書き文字、テキスト、画像、動画等、様々な形式で電子化されたデータ(以下、オブジェクト)である。初期状態において、これらオブジェクトには、作成日時の情報は付与されているが、オブジェクト同士の関連を表すような情報は付与されていないものとする。また、ストレージ206には、システムの利用中に考え出されたオブジェクトだけでなく、過去に作成済みのオブジェクトが記憶されていても良い。本実施形態においては、オブジェクトとして特に写真等の静止画像を扱う例を示す。
【0020】
オブジェクト読み出し部300は表示するオブジェクトをストレージ206から読み出し、RAM201に保持する。本実施形態では、簡単に説明するためにローカルに接続されたストレージ206からオブジェクトを読み出す例を示しているが、ネットワーク上に存在するストレージやインターネット上から表示するオブジェクトをネットワーク経由で読み出すことも可能である。読み出したオブジェクトはRAM201に保持される。この時、読み出したデータがRAM201に対して大きすぎる場合は、読み込むデータを小分けにして順次読み込んで処理しても構わない。または、即座に読み出し可能なスワップデータとしてストレージ206に退避させておいてもよい。
【0021】
表示制御部301は、RAM201に保持されているオブジェクトから表示画像を生成しディスプレイ101に出力する。表示制御部301で作成される表示画像の一例を図3(A)の400に示す。図3(A)では、401a〜401eが、プロジェクタ105に投影されることによってディスプレイ101、102に表示されたオブジェクトを示している。このような表示画像上での、各オブジェクトの配置される位置やサイズ等を示す情報をレイアウト情報といい、オブジェクトを移動させる操作によって各オブジェクトが配置される位置やサイズを変えることを「レイアウトを変更する」という。
【0022】
操作部302は、選択したオブジェクトに対して操作を行う。本実施形態で操作部302がオブジェクトに対して行う操作は、オブジェクトの選択、および移動操作である。また、本実施形態のシステムにおいて、情報処理装置100に対する操作は、手や指等の物体を使い、タッチ操作もしくはジェスチャ操作することによって行う。ここでは、タッチセンサを搭載したテーブル型ディスプレイ101に対して、ユーザが手を使ったタッチ操作を行う例に基づいて説明する。まず、操作部302は、検出部304から、ユーザがタッチ操作で指示する位置情報を取得する。そして表示制御部301からオブジェクト401の表示位置情報を取得し、タッチされた位置とオブジェクトが表示されている位置が重なっていれば、その位置に表示されたオブジェクトを選択する。さらに、操作部302は、検出部304から取得したユーザのタッチ位置情報から、移動方向および移動距離を判断し、その位置までオブジェクトを移動させる操作を実行する。この際、表示制御部301は、操作部302から移動に関する情報を得て、移動操作に伴って表示すべき画像を生成し、ディスプレイ101に出力する。ここで検出部304は、タッチセンサがディスプレイ101上のタッチを検知し出力する信号を基に、ユーザによるタッチ操作を検出している。尚、壁面型ディスプレイ102に表示されるオブジェクトの場合は、距離画像センサが出力する信号に基づいて、検出部304がジェスチャ操作によって指示される位置情報を検出する。操作部302はその位置情報を取得して選択および移動の操作を実行する。
【0023】
レイアウト取得部303は、表示制御部301から初期画像のレイアウト情報を取得し、さらに操作部302によって少なくとも1つのオブジェクトが移動された場合には、それに伴って変更されたレイアウト情報を取得する。例えば、図3(C)では、図3(A)のの状態から、オブジェクト401cとオブジェクト401dが選択され、オブジェクト401dが移動された事に伴い変更されたレイアウトを示している。
【0024】
特定部305は、レイアウト取得部303から現在表示部に表示されているレイアウトの情報を得て、複数のオブジェクトの表示上の視覚的な関係を特定する。ここで、表示上の視覚的な関係とは、例えば、オブジェクトの間の距離の大小関係、表示されるサイズの大小関係、あるいは互いの上下左右どの方向に表示されるかという位置関係等である。付与部306は、特定部305が取得した、オブジェクト同士の表示上の視覚的な関係の情報に基づき、各オブジェクトそれぞれに対してメタデータを付与する。ここで付与するメタデータは、付与する対象となるオブジェクトのある指標における程度(レベル)を示す値(度数)である。例えば、オブジェクトの間の距離が小さい程、オブジェクト同士の関連度が高いことを示す度数を、メタデータとして該当する両オブジェクトに付与する。オブジェクトに付与されたメタデータは、メタデータテーブルに格納され、ストレージに記憶される。また、本実施形態では、付与部306によって付与されたメタデータが示す情報が、オブジェクトと共に表示されるように、表示制御部301によって表示部(ディスプレイ101)上に出力される。例えば図3(C)おける円弧403aは、オブジェクト401cとオブジェクト401dの距離を小さくする操作が行われたことに応じて、関連度を示すメタデータが両オブジェクトに付与されたことを示すために表示されている。
【0025】
分類部307は、操作部302が選択したオブジェクトを、キーオブジェクトとサブオブジェクトに分類する。キーオブジェクト、サブオブジェクトという分類は、特定部305が注目すべきオブジェクトを限定したり、付与部306が付与されたメタデータが示す情報をディスプレイ101上に表示させたりする際に利用する。本実施形態では、移動していないオブジェクトをキーオブジェクト、移動しているオブジェクトをサブオブジェクトとしてそれぞれ分類する。例えば、図3(C)の例では、移動されたオブジェクト401dがサブオブジェクトであり、キーオブジェクト401cに対するサブオブジェクト401dの関連度を示すように、キーオブジェクト401cを中心とした円弧403aが表示されているものである。この円弧403aを表示させる処理については後述する。
【0026】
本実施形態では、表示部に表示された複数のオブジェクトのレイアウトを取得し、オブジェクトとオブジェクトの間の距離が小さい程、そのオブジェクト同士の関連度が高いことを示す値(度数)をメタデータとして各オブジェクトに付与する。図3は、本実施形態におけるメタデータ付与処理の説明図である。また図4は本実施形態における情報処理装置100のデータ表示処理を示す処理フロー図である。図3ならびに図4を用いて、本実施形態のデータ表示処理とメタデータ付与処理の詳細を説明する。
【0027】
まず、本実施形態で表示されているオブジェクトは人物の写真であるとする。以下、
図3、図4で示すメタデータ付与処理によって、写真のオブジェクトに写っているAさん、Bさん、Cさん、Dさん、Eさんの親密度をメタデータとして付与する例を示す。写真に対して、被写体である人物の親密度を示すメタデータを付与すると、情報処理装置100がそのメタデータを利用することができる。例えば、親密度をオブジェクト同士の間の距離の大小関係に対応付けメタデータ付与時の表示画像を後から再現することも可能である。さらに、付与されたメタデータを基に、特定の人物とある程度以上親密な仲にある人物が写った写真だけ抽出して、アルバムを作成する等の利用方法も可能になる。
【0028】
以降、本実施形態では図1(A)の情報処理装置100のシステムにおいて、テーブル型ディスプレイ101に対してユーザが指でタッチ操作を行うものとして説明する。
【0029】
本実施形態では、情報処理装置100の電源が投入されたのに従って、データ表示処理が開始される。情報処理装置100は、データ表示処理を開始すると、ステップS10を実行する。ステップS10では、オブジェクト読み出し部300が、ストレージ206から表示するオブジェクトを読み出し、RAM201に保持する。次に表示制御部301は、ステップS11において、RAM201に保持されたオブジェクトをランダムに並べて表示画像を作成し、ステップS12において、作成した画面を初期画像としてディスプレイ101に出力する。この時、ディスプレイ101に表示される初期画像の一例を図3(A)に示す。ここで表示される写真のオブジェクトには、Aさん、Bさん、Cさん、Dさん、Eさんという5人の人物がそれぞれ1人ずつ写っているものとする。図3(A)では、計5つのオブジェクトが等しいサイズでランダムに配置されたレイアウトで表示されている。ただし、オブジェクトの名前順に画面左上から整列する等して初期画像を作成しても構わない。
【0030】
ステップS13では、情報処理装置100は、表示されている複数のオブジェクトのうち、2つ以上のオブジェクトを選択する操作がなされたかを判断する。すなわち、検出部304がディスプレイ上の2以上の箇所でタッチ操作を検出し、その位置がオブジェクトの表示されている位置であるかを、操作部302が判断する。図3(A)の初期画像が表示されている状態で、ユーザが選択したいオブジェクトをタッチすると、ディスプレイ101に埋め込まれたタッチセンサがそのタッチを検知し、検出部304によって位置情報に変換され、操作部302へ出力される。操作部302は、検出部304から出力された位置情報と、表示制御部301から取得した初期画像のレイアウト情報とを利用し、タッチされた位置にオブジェクトが表示されていれば、オブジェクトを選択する操作を実行する。タッチ操作に従って、2つ以上のオブジェクトが選択される場合は(S13でYES)、ステップS14に移行する。本実施形態では、図3(B)のように、オブジェクト401cとオブジェクト401dの2つのオブジェクトがユーザのタッチ操作に従って選択されるとする。タッチ操作によって2つ以上のオブジェクトが選択されない場合は(S13でNO)、ステップS17の処理ステップに進む。
【0031】
ステップS14では、選択したオブジェクトを移動させる操作が検出されたかを、操作部302が判断する。すなわち、操作部302は、検出部304から出力された位置情報により、表示されたオブジェクトを選択するタッチに続いて、そのタッチした位置の移動が検出されたかどうかを確認する。ユーザによってオブジェクトの表示された位置をタッチする指をディスプレイ101上で動かしたことを、タッチセンサが検知すると、検出部304は、移動していくタッチ位置を位置情報として操作部302に出力する。ステップS14において操作部302は、ステップS13で検知されていたタッチ位置のうち、少なくとも1つが移動したことを示す情報を検知部304から取得すれば、オブジェクトを移動させる操作が検出されたと判断する。図3(B)の例は、上述したように2つのオブジェクトを選択した状態の表示画像を示している。選択されたオブジェクトは、Cさんが写っているオブジェクト401cとDさんが写っているオブジェクト401dである。選択されたオブジェクトは、選択されたことをユーザが特定できるよう強調表示される。強調表示は、図4(B)ではわかり易くするため色を変化させたが、選択されたオブジェクトのみオブジェクトを囲む枠を表示させる、チェックマークを付ける等の方法を用いても構わない。選択したオブジェクトの移動が検出されなかった場合(ステップS14でNO)は、ステップS17の処理に移行する。選択したオブジェクトの移動が検出された場合(ステップS14でYES)は、ステップS15のメタデータ付与処理が開始される。
【0032】
図4(B)は、第1の実施形態のメタデータ付与処理(ステップS15)の処理を示す処理フロー図である。メタデータ付与処理が開始されると、ステップS20で、選択したオブジェクトのうち、移動されるのは一部のみか(2つのオブジェクトのうちの片方のみか)を判断する。選択したオブジェクトのうち、移動しないオブジェクトがある場合、すなわち片方が移動され、片方が移動されない場合(ステップS20でYES)、続くステップS21において、分類部307によるオブジェクトの分類処理が行われる。選択したオブジェクトの全てが移動される場合、すなわち両方のオブジェクトが移動される場合(ステップS20でYES)は、ステップS24の処理に移行する。本実施形態の例では、図3(C)に示すように、選択した2つのオブジェクトのうち、オブジェクト401dのみが移動操作されるので、ステップS21に進む。
【0033】
ステップS21では、分類部307が、操作部302が選択した2つのオブジェクトをキーオブジェクトとサブオブジェクトに分類する。本実施形態では、選択したオブジェクトのうち、タッチ操作によって移動されないオブジェクトをキーオブジェクト、移動されるオブジェクトをサブオブジェクトとしてそれぞれ分類する。従って、図3の例では、移動されなかったオブジェクト401cがキーオブジェクト、移動されたオブジェクト401dがサブオブジェクトとして分類される。キーオブジェクト401cにはCさんが写っており、サブオブジェクト401dにはDさんが写っている。さらに、キーオブジェクトとサブオブジェクトをユーザが特定できるように、キーオブジェクトを強調表示してもよい。図3(C)では、キーオブジェクトの背景が網掛けとなり、オブジェクト401dとの相違を表現している。分類部307での分類処理が完了すると、ステップS22において、付与部306がストレージ206にオブジェクトに付属して記憶されたメタデータテーブルが参照し、RAM201に保持する。オブジェクトがメタデータテーブルを有していないときは、空のテーブルを生成して参照し、RAM201に保持する。メタデータテーブルは、表示オブジェクトに付与するメタデータを保持するテーブルで、図5に示すような構造をしており、初期状態ではメタデータは付与されていない(図5A)。本実施形態で付与するメタデータは、オブジェクトに写っているAさん、Bさん、Cさん、Dさん、Eさんがそれぞれどの程度親しいのかという親密度を示す度数であり、親密度が大きい程対象となる2人は親密であるとする。ただし、ステップS10において、オブジェクト読み出し部300によってオブジェクトと共に読み出され、RAM201に保持されたメタデータテーブルを、ステップS22において付与部306が参照しても構わない。
【0034】
次にステップS23において、操作部302は移動されたオブジェクト、すなわちサブオブジェクトの移動位置の情報を検出部304から取得し、これをRAM201に保持する。ステップS24において、表示制御部301は、RAM201に保持されているメタデータの情報とサブオブジェクトの位置情報を用いて、移動操作に伴って変化した表示画像をディスプレイ101に出力して表示画像を更新する。図3(C)では、オブジェクト401dの移動させる手の操作に追従して、オブジェクト401dが表示される位置が変化していく様子を表示している。ステップS25において、操作部302はサブオブジェクトの移動が完了するかを判断する。すなわち、操作部302が検出部304から取得するタッチ位置の移動が継続しているかを確認し、移動が継続している場合(ステップS25でNO)は、再びステップS23でサブオブジェクトの移動位置を取得し、ステップS24で表示画像を更新する。ユーザがサブオブジェクトを選択し移動する操作のためにディスプレイ101に触れていた指を離した場合、すなわち検知部304がタッチの解除を検知した場合には、サブオブジェクトの移動を完了し(ステップS25でYES)、ステップS26に進む。
【0035】
ステップS26では、まずレイアウト取得部303が、現在表示されている表示画像におけるオブジェクトのレイアウトを取得する。本実施形態では、レイアウト取得部305は、ディスプレイ101上の表示される表示画像全体を座標平面と考えて原点を設定し、キーオブジェクトの中心座標(x1、y1)、サブオブジェクトの中心座標(x2、y2)を取得する。レイアウト取得部305はその他、必要に応じて表示画像におけるオブジェクトの形状やサイズ、色等のレイアウト情報を取得する。次に、特定部305が、取得されたレイアウト情報を基に、各オブジェクトの表示上の視覚的な関係を特定する。このような視覚的な関係は、ユーザが情報処理装置100上に表示された複数のオブジェクトを操作する上で最も認識しやすい要素のひとつである。本実施形態では、ここで特定する表示上の視覚的な関係とは、操作部302によって選択されているキーオブジェクトとサブオブジェクトの間の距離ΔLの大小関係である。所望とするオブジェクト間の距離ΔLは、
D=√{(x1−x2)*(x1−x2)+(y1−y2)*(y1−y2)}
で求めることができる。さらに、特定部305は、求めた距離ΔLをRAM201に保持する。図3(C)の例では、情報処理装置を起動した直後の初回の操作を説明しているため、RAM201に保持された距離ΔLの情報は1つである。従って大小関係を判断することはしないが、2度目以降の処理では、既にRAM201に保持されている他のオブジェクトに関する距離ΔLとの大小関係を特定する。2度目以降の処理については後述する。
【0036】
次にステップS27では、特定部305が、RAM201に保持されているメタデータと、オブジェクト間の距離ΔLを利用して、各オブジェクトのメタデータに更新が必要かを判断する。特定部305は、具体的には、算出した距離ΔLから定義されるメタデータを定義し、メタデータテーブルに設定されているメタデータと比較して、同じであれば更新する必要はなく、相違していれば更新する必要があると判断する。本実施形態の例では、図3(C)の状態における関連(メタデータテーブル)の状態は図5(A)であり、メタデータは定義されていない。従って、Cさんが写っているオブジェクト401cとDさんが写っているオブジェクト401dとの親密度を示すメタデータを新たに設定する必要がある。このように、初回使用時には常にメタデータは更新される。2度目以降の処理において、オブジェクトが移動されてもオブジェクト間の距離の大小関係に変化がない場合には、NOの判断がされる。メタデータテーブルを更新する場合(ステップS27でYES)、ステップS28で、特定部305は、図5(B)で示すように、CさんのメタデータテーブルとDさんのメタデータテーブルに、互いに親密度1というメタデータを付与することを決定する。ここでメタデータの更新が必要ない場合(ステップS27でNO)は、メタデータ付与処理を終了し、呼び出し元にリターンする。ステップS29において、付与部306は、決定されたメタデータに基づいて、RAM201上に保持されているCさんが写っているオブジェクト401cのテーブルに、図5(B)で示される「親密度1」、「親密な人物D」というメタデータを付与する。同様に付与部306は、RAM201上に保持されているDさんが写っているオブジェクト401dのテーブルに、図5(B)で示される「親密度1」、「親密な人物C」というメタデータを付与することで更新する。
【0037】
以上でメタデータ付与処理(ステップS15)は完了し、呼び出し元の処理にその結果がリターンされる。メタデータ付与処理(ステップS15)が終了すると、ステップS16において表示画像の更新が行われる。本実施形態では、ここで更新される表示画像では、複数のオブジェクトとともに、付与されたメタデータを表現するため、図3(C)に示す円弧403aを表示する。円弧403aは、Cさんが写っているオブジェクト401cを中心、ステップS26で求めた距離ΔLを半径とし、この円弧上で示される位置に表示されるオブジェクトは、オブジェクト401cに対して、被写体の人物同士の親密度が1であることを示す。この円弧は、オブジェクト同士の関係の強さ(本実施形態では、親密度の高さ)という指標での程度を視覚的に表現する手段として利用され、以降、このような表示手段を関連度スケールと定義する。
【0038】
表示画像の更新(ステップS16)が終了すると、情報処理装置100ではデータ表示を終了するかどうかの判断が行われる。例えば、アプリケーションから終了の指示があった場合や、検出部304がユーザによる所定の終了操作を検出した場合、一定時間以上何の操作も検出されなかった場合等に、データ表示を終了する(ステップS17でYES)。そして、ステップS18に進み、RAM201上に保持されているレイアウト情報及びメタデータテーブルをストレージ206に保存する。データ表示を終了しない場合(ステップS17でNO)は、再びS13に処理が移行し、オブジェクトの選択(ステップS13)、移動処理(ステップS14、ステップS15)、表示画像の更新(ステップS16)によって実現されるメタデータ付与処理を繰返す。図3(D)〜(J)は、図3(C)の状態から、指402aで選択するオブジェクトは401cのままで、402bで選択するオブジェクトを次々変えながらメタデータ付与処理を行う様子を示している。本実施形態では、ユーザが、CさんはAさん、Eさん、Dさんの順により親密であり、BさんはDさんと同程度Cさんに対して親密であるという事実を基に操作する場合を例として、重複する処理ステップの詳細な内容を適宜省略しながら説明を続ける。
【0039】
図3(D)は、Cさんが写っているオブジェクト401cとAさんが写っているオブジェクト401aを選択した状態を示している(ステップS13)。Aさんは、DさんよりもCさんと親密であるので、ユーザは図3(E)で示すように、Aさんが写っているオブジェクト401aを、親密度1を示す円弧403aよりも内側に移動させる(ステップS14)。その操作に従って、情報処理装置100はメタデータ付与処理を実行する(ステップS15)。移動操作の結果、特定部305は、Cさんが写っているオブジェクト401cとAさんが写っているオブジェクト401aの間の距離ΔL(C、A)は、CさんとDさんの相対距離ΔL(C、D)よりも小さいと特定する(ステップS26)。つまり、Cさんに対するDさんの親密度1よりも、Cさんに対するAさんの親密度の方が大きいと判断できる。また、この時点で参照されている(ステップS22)メタデータテーブルには、CさんとAさんの親密度を示すメタデータは設定されていないため、メタデータテーブルの更新が必要だと判断される(ステップS27)。特定部305は、親密度1よりも大きい親密度を設定するためには、図5(B)で示すCさんのメタデータテーブルに対して、Aさんに対する親密度2を設定する必要がある。そして同様に図5(B)で示すAさんの親密度テーブルに対してCさんに対する親密度1を生成する必要がある、とそれぞれ決定する(S28)。従って、付与部306は、図5(C)で示すように、Cさんのテーブルに「親密度2」、「親密な人物A」というメタデータを、Aさんのテーブルに「親密度1」、「親密な人物C」というメタデータをそれぞれ付与する(ステップS29)。そして、表示制御部301によって親密度2を示す円弧403bが表示される(ステップS16)。
【0040】
図4(F)は、ユーザの操作に従って、Cさんが写っているオブジェクト401cと、Eさんが写っているオブジェクト401eが選択された状態を示している(ステップS13)。Eさんは、DさんよりもCさんと親密で、かつAさんよりは親密でない。従って、ユーザは図4(G)で示すように、Eさんが写っているオブジェクト401eを、親密度1を示す円弧403aよりも内側かつ、親密度2を示す円弧403bよりも外側の位置に移動させる(S14)。その結果、Cさんが写っているオブジェクト図4(G)401cとEさんが写っているオブジェクト図(G)401eの相対距離ΔL(C、E)は、CさんとDさんの相対距離ΔL(C、D)よりも小さいと特定される。同様に、CさんとAさんの相対距離ΔL(C、A)よりも大きいと特定される(S26)。そして、現在参照されているメタデータテーブルの内容と相違があるため、更新が必要であると判断できる(ステップS27)。Cさんに対するDさんの親密度1よりも、Eさんの親密度の方が大きく、Aさんの親密度2よりも小さく、親密度1よりも大きく、親密度2よりも小さい親密度を設定するため必要がある。そのため、特定部305によって、図5(D)で示すように、Cさんのメタデータテーブルに親密度3を、Eさんのメタデータテーブルに親密度1を付与することが決定され、付与部306によってメタデータテーブルに付与される。この際、Cに対するAのメタデータは「親密度2」、「親密な人物A」から「親密度3」、「親密な人物A」に更新される。また、表示制御部301によって、親密度3を示す円弧403b、親密度2を示す円弧403cを更新表示する。このように動的に、親密度を示す値を決定、メタデータテーブルを更新(修正)することにより、柔軟にオブジェクトにメタデータを付与することが可能となる。また動的に親密度を示す値を決定する際に、図3(F)で示すように関連度スケールの間隔(図3(F)の円弧403aと円弧403bの間隔)が狭いと、新しい関連度を生成し辛い。そこで本実施形態では、表示制御部301が、隣接する関連度円弧を外側もしくは内側へ自動的に移動させることで、関連度円弧間の隙間を自動調整する。図3(G)の例では、円弧403cを新たに表示するために、関連度円弧403aを外側に自動的に移動させる。その移動に伴ってDさんが写っているオブジェクト401dも外側に移動させる。この機能によって、常に見やすい表示状態を保つことが可能となる。
【0041】
図4(H)は、Cさんが写っているオブジェクト401cと、Bさんが写っているオブジェクト401bを選択した状態を示している(S13)。Bさんは、Dさんと同程度Cさんと親密であるので、ユーザは図3(I)で示すように、Bさんが写っているオブジェクト401bを、親密度1を示す円弧403aと同じ位置になるように移動させる。その操作の結果、Cさんが写っているオブジェクト401cとBさんが写っているオブジェクト401bの相対距離ΔL(C、B)は、CさんとDさんの相対距離ΔL(C、D)と同程度となる。特定部305は、新たにΔL(C、D)を求めずとも円弧403aが表示されている領域(円弧の太さを考慮した範囲)と、オブジェクト401bの中心座標とが重なることをレイアウト取得部303の取得結果から、距離ΔLの大小関係を特定することができる。つまり、図5(D)で示すCさんのテーブルにおいては、これまで設定された他のオブジェクトとの間の親密度を示す値を変更する必要はないが、新たに親密度1の欄にオブジェクト401bとの関係に基づく値を追加する必要がある。一方、図5(D)で示すBさんのテーブルに対しては、新たに親密度1のメタデータを設定する必要がある(S27でYES)。そのために、特定部305は、図5(E)で示すように、Bさんのテーブルに親密度1の項目を生成する(S28)。そして付与部306は、生成された関連度に基づいて、Cさんが写っているオブジェクト401cに、図7(E)で示される「親密度1」、「親密な人物B」を追加で付与する。同様に付与部306は、Bさんが写っているオブジェクト401bに、図5(E)で示される「親密度1」、「親密な人物C」を付与する(S29)。図4(J)は、Cさんに対する親密さに基づいて、ユーザが人物の写真のオブジェクトを整理・分類する作業が完了した表示画像を示している。
【0042】
本実施形態によって、一度でもメタデータを付与できれば、情報処理装置100において、図4(J)で示される親密度の分類状態を簡単に復元できる。もしくは、このメタデータを他の目的で利用することも可能である。例えば、結婚式や卒業式といったイベントで撮影された大量の写真の中から、Cさんの写真とCさんと親密度2以上の関係にある人物が移った写真のみを抽出して印刷したり、アルバムの作成に用いたり、といった利用方法も可能になる。その場合、同一人物が移った写真を判別可能な公知の顔特定技術等を用いて、この整理分類作業で用いたオブジェクト以外の写真のオブジェクトにも、その写真に移っている人物を示すメタデータを付与しておく。それを利用すれば、CさんおよびCさんと親密度2以上であるAさん、Eさんの写真を選び出すことが可能である。本実施形態の説明では、Cさんが移っているオブジェクト401cをキーオブジェクトとしたため、Cさんに対するその他の人物の親密度を示す度数をメタデータとして各オブジェクトに付与して作業を終了した。ただし、さらに他のオブジェクトをキーオブジェクトとする操作を続け、他のオブジェクト同士の親密度を示す値を各メタデータテーブルに設定できる。各人物に個別に配布するための写真を、それぞれが親密な人物に対応して抽出して印刷する事も可能になり、利便性が高まる。キーオブジェクトを変えて操作を続ける際には、それまでに設定済みのメタデータは、ステップS24で表示画像を更新する段階で関連度スケールとして表示させる。そうすることで、ユーザは重複した内容を付与するための不必要な操作をせずに済む。
【0043】
尚、本実施形態では、オブジェクトと別に各オブジェクトに対応したメタデータテーブルをストレージに保存することで、各オブジェクトのメタデータを付与した。こうすることで、オブジェクト自体のファイルに変更を加えたりファイルサイズを大きくしたりする必要なく、メタデータを扱うことができる。ただし、オブジェクトに対してメタデータを付与する方法はこれに限定されず、例えば、オブジェクトのファイルそのものにメタデータを埋め込むこともできる。この場合は、ファイルの保存場所を移動したり、別のアプリケーションで読み出したりする際に、対象とするファイルがオブジェクトそのものだけでよいという利点がある。
【0044】
また、本実施形態では、オブジェクトの移動を移動させる操作によってメタデータが変更される際には、新たなメタデータを格納することによってメタデータテーブルを更新した。しかし、メタデータが変更される際にメタデータテーブルの項目を増やし、その履歴情報も含めたメタデータを、各オブジェクトそれぞれに付与してもよい。
【0045】
これまで本実施形態では、説明を簡略化するため2つのオブジェクトを選択する場合についての説明を行ってきた。会議室システムのテーブル型ディスプレイに対して、1人の作業者が表示されたオブジェクトを任意に移動させる操作をする場合には、両腕を用いて同時に2箇所をタッチする操作が基本になるためである。ただし、指を用いる等して表示されたオブジェクトのうちの2つ以上を選択して操作し、メタデータを付与することも可能である。この場合、ステップS21におけるオブジェクト分類処理では、本実施形態と同様に、動いているオブジェクトをサブオブジェクトとして分類すればよい。また、最初に選択したオブジェクトをキーオブジェクト、その後、キーオブジェクトに対するタッチを解除するまでに選択したオブジェクトをサブオブジェクトとして分類しても構わない。
【0046】
また、本実施形態では、選択したオブジェクトを移動させる操作が行われた場合に限り(ステップS14でYES)、メタデータの付与が行われていた。この変形例として、初期画像において、オブジェクトが選択された段階(ステップS13)で、一旦オブジェクトにメタデータを付与してしまうこともできる。その場合、選択されるオブジェクトが確定したら、分類部307によるオブジェクトの分類処理と、レイアウト取得部303による初期画像におけるレイアウトの取得処理を実行する。そして、その結果を基に特定部305がオブジェクト間の距離の大小関係に基づき、各オブジェクトに付与するメタデータを決定し、決定されたメタデータを付与部306が付与する。その後オブジェクトが移動された場合には、初期画像のレイアウトから設定されたメタデータを、必要に応じて変更していくようにする。
【0047】
尚、本実施形態では、関連度スケールとして円弧を表示したが、矢印や矩形、文字等を関連度スケールとして表示してもよい。また、関連度スケールとして透明度(α値)を利用し、関連度が高いオブジェクトから関連度が低いオブジェクトになるに従って、透明度を高くして表示することもできる。さらに、表示オブジェクトが3D表示されている場合には、関連度スケールとして奥行き方向(z軸方向)を利用し、関連度が低いオブジェクトは深い奥行きで表示されるように制御することも可能である。
【0048】
以上のように、本実施形態によれば、表示されたオブジェクトを移動させる等の操作に応じて有用なメタデータを各オブジェクトに付与することができる。具体的には、オブジェクトの間の距離が小さい程、オブジェクト同士の関連度が高いことを示す度数を、該当する両オブジェクトにメタデータとして付与することができる。オブジェクト間の距離のような、表示されているオブジェクトの視覚的な関係は、情報処理装置100を操作するユーザによって最も認識しやすい情報である。さらに、タッチ操作などの直感的な操作によれば、このようなオブジェクトの視覚的な関係を変更する操作が簡単に行える。従って、本実施形態は、直感的にオブジェクトの視覚的な関係を操作することで、オブジェクト同士の関係をわかりやすくするメタデータをオブジェクトに付与することができるので、ユーザにとって利便性の高いインタフェースを提供することができる。尚、メタデータを決定するのに用いるオブジェクト同士の視覚的な関係としては、オブジェクト間の距離だけでなく、オブジェクトの表示サイズの大小関係や、オブジェクトの配置位置の位置関係を組み合わせて考慮してもよい。
【0049】
[第2の実施形態]
次に、本発明の第2の実施形態について図面を参照して説明する。システム概要図、ハードウェア構成図、機能ブロック図は、図1および図2を用いて説明した第1の実施形態と同様である。既に説明済みのものには同一の符号を付け、その説明を省略する。
【0050】
第1の実施形態では、表示された複数のオブジェクトのうち2つ以上のオブジェクトを選択し、選択されたオブジェクトのみに、それらの間の距離の大小関係に基づくメタデータを付与していた。それに対し、第2の実施形態では、表示された複数のオブジェクトのうち少なくとも1つのオブジェクトを選択し、選択したオブジェクトとその他全てのオブジェクトとの間の距離に基づき、全てのオブジェクトにメタデータを付与する。
【0051】
図6は、第2の実施形態におけるデータ表示処理を説明する処理フロー図である。データ表示処理の開始からステップS12までの処理ステップは、第1の実施形態と同様に実行される。続くステップS13Aでは、表示された複数のオブジェクトのうち少なくとも1つのオブジェクトを選択するかを、操作部302が判断する。すなわち、検出部304から取得したディスプレイ101上でユーザによってタッチされた少なくとも1箇所の位置情報が、表示制御部301から取得したオブジェクトの表示された領域内を示すものであれば、ステップS14に進む。ステップS14では、第1の実施形態と同様、ステップS13Aで選択されたオブジェクトを移動するかどうかを判断する。オブジェクトを移動する判断がなされた場合は、ステップS15Aのメタデータ付与処理に進む。
【0052】
第2の実施形態におけるメタデータ付与処理(ステップS15A)では、オブジェクトの分類処理を行ない。従って、まずステップS22が実行され、付与部306が全てのオブジェクトのメタデータテーブルが参照し、現在のメタデータをRAM201に保持する。以降の処理では、第1の実施形態と同様に、移動されたオブジェクトの移動位置を取得し(ステップS23)、それに伴って表示画像を更新し(ステップS24)、移動が完了するまで繰り返す(ステップS25でNO)。操作部302がオブジェクトの移動が完了したと判断したら(ステップS25でYES)、レイアウト取得部305が変更されたレイアウトを取得し、特定部が表示されているレイアウトにおける全てのオブジェクトの表示上の視覚的な関係を特定する(ステップS26)。第1の実施形態と同様、第2の実施形態においても、ステップS26において特定する表示上の視覚的な関係とは、オブジェクト間の距離ΔLの大小関係である。従って、特定部305は、表示されている全てのオブジェクトに関して、選択され移動されたオブジェクトとの間の距離ΔLを求め、その大小関係を特定する。次のステップS27では、特定部305は、RAM201に保持された現在のメタデータとの相違を確認し、メタデータの更新が必要かを判断する。初回使用時には、常にYESの判断がされる。また、オブジェクトが移動されても、オブジェクト間の距離の大小関係に変化がない場合には、NOの判断がされる。メタデータを更新する場合(ステップS27でYES)、ステップS28Aに進む。メタデータの更新が必要ない場合(ステップS27でNO)は、メタデータ付与処理を終了し、呼び出し元にリターンする。
【0053】
ステップS28において、特定部305は、ステップS26で特定した選択されたオブジェクトとの間の距離ΔLの大小関係に基づき、表示されている全てのオブジェクトに対して、今回のメタデータ付与処理で付与するメタデータを決定する。すなわち、オブジェクト間の距離ΔLが小さい程、オブジェクト間の関連度が高いことを示す値(度数)を、メタデータテーブルに新たに付与するメタデータとして決定する。そして、ステップS29において、付与部306は、表示中のすべてのオブジェクトに決定されたメタデータを付与する。すなわち、各オブジェクトのメタデータテーブルに、決定された値(度数)と該当する相手を示す情報を格納する。メタデータ付与処理(ステップS15A)が終了したら、呼び出し元の処理にその結果がリターンされ、第1の実施形態と同様、ステップS16で表示画像を更新する。第1の実施形態では、ユーザが積極的に関連度を設定する際の操作性を向上させるため、ステップS16Aの表示更新処理において、関連度スケールの円弧を表示した。本実施形態ではこのような表示は行わず、選択したオブジェクトを強調する表示を解除する。そして、ステップS17においてデータ表示処理を終了するかどうかを確認する。第1の実施形態同様、例えば、アプリケーションから終了の指示があった場合や、検出部304がユーザによる所定の終了操作を検出した場合、一定時間以上何の操作も検出されなかった場合等には、データ表示を終了する(ステップS17でYES)。そして、ステップS18に進み、RAM201上に保持されているレイアウト情報及びメタデータテーブルをストレージ206に保存する。終了しない場合(ステップS17でNO)にはステップS13Aに戻って処理を繰り返す。
【0054】
第1の実施形態では、オブジェクトを選択し移動させる操作を行う度に、選択されたオブジェクトをキーオブジェクトとサブオブジェクトに分類した。そして、キーオブジェクトに対するサブオブジェクトの関連度の強さが、選択されたオブジェクトに対してのみ、メタデータとして付与された。一方で、第2の実施形態では、選択されたオブジェクトを分類する処理は行われず、選択された少なくとも1つのオブジェクトは、常に第1の実施形態におけるキーオブジェクトと同様に扱われる。すなわち、選択されたオブジェクトを移動させるたびに、選択されたオブジェクトに対する関連度の強さを、表示中のその他全てのオブジェクトそれぞれにメタデータとして付与する。また、ユーザがオブジェクト間の距離を変更すると、バックグラウンドで自動的に所定のメタデータを付与する処理を行う。つまり、ユーザがオブジェクトに関連度を付与しようと意識しながら操作を行うのではなく、表示されたオブジェクトを移動させ整理・分類するだけで自動的にメタデータが付与されるので、ユーザによってはより作業負荷の低いインタフェースを提供できる。ユーザにメタデータの付与処理を意識させないために、ステップS16Aにおいては関連度スケールを表示しない。ただし、第2の実施形態においても、メタデータを付与した後関連度スケールを表示すれば、ユーザは操作の意図とおりの関連度が正しく付与されているかを視覚的に確認することができる。従って、正確なメタデータが付与されるかどうかの確認する方法として、関連度スケールを表示させてもよい。
【0055】
本実施形態では、少なくとも1つの選択オブジェクトを動かすと、すべての表示オブジェクトにメタデータを付与したが、この限りではない。変形例として、操作部302で選択オブジェクトを移動操作する際に、移動位置に加えて移動方向も取得すれば、移動させる方向の先に存在する1つ以上のオブジェクトに対してのみメタデータを付与することも可能である。その結果、第1の実施形態のように複数のオブジェクトを一度に選択しなくても、任意の範囲のオブジェクトに限定してメタデータを付与するといった制御が可能となる。
【0056】
尚、本実施形態においても、第1の実施形態と同様、オブジェクトと別に各オブジェクトに対応したメタデータテーブルをストレージに保存することで、各オブジェクトのメタデータを付与していた。ただし、例えば、オブジェクトのファイルそのものにメタデータを埋め込んでもよい。また、本実施形態では、オブジェクトの移動を移動させる操作によってメタデータが変更される際には、新たなメタデータを格納することによってメタデータテーブルを更新した。しかし、メタデータが変更される際にメタデータテーブルの項目を増やし、その履歴情報も含めたメタデータを、各オブジェクトそれぞれに付与してもよい。
【0057】
以上のように、直感的にオブジェクトの視覚的な関係を操作することで、オブジェクト同士の関係をわかりやすくするメタデータをオブジェクトに付与することができるので、本実施形態はユーザにとって利便性の高いインタフェースを提供することができる。
【0058】
[第3の実施形態]
次に、本発明の第3の実施形態について図面を参照して説明する。システム概要図、ハードウェア構成図、機能ブロック図は、図1および図2を用いて説明した第1の実施形態と同様である。尚、第3の実施形態においても、説明済みの要素には同一の符号を付け、その説明を省略する。
【0059】
第1、第2の実施形態では、表示されているオブジェクトの間の距離の大小関係に基づき、オブジェクト同士の関連度の高さを示す値(度数)をメタデータとして各オブジェクトに付与した。第3の実施形態では、オブジェクトの表示されるサイズ(面積)の大小関係、およびオブジェクト同士が互いの上下左右いずれの方向に存在するかという位置関係に基づいて、オブジェクトの重要度を示す値(度数)をメタデータとして各オブジェクトに付与する。第3の実施形態においても、第1、第2の実施形態と同様、図1(A)の会議システムのテーブル型ディスプレイ101を利用し、ディスプレイ101に表示される複数のオブジェクトを操作する。より具体的には、フォトアルバムのレイアウトや、企画書のレイアウト、雑誌ページのレイアウト等を、一人もしくは複数人で決定する操作を行った場合に、操作したオブジェクトにメタデータが付与される例を説明する。
【0060】
図7は、本実施形態におけるメタデータ付与処理の説明図である。また図8(A)、(B)は本実施形態における情報処理装置100のデータ表示処理を示す処理フロー図である。図9は、この時作成される各オブジェクトのメタデータテーブルである。なお、図9の各テーブルにおいてハイライトされている部分は、各操作によって更新される箇所を示すものとする。図7ならびに図8、図9を用いて、本実施形態のデータ表示処理とメタデータ付与処理の詳細を説明する。
【0061】
情報処理装置100は、データ表示処理を開始すると、ステップS30を実行する。本実施形態においても、画像処理装置100の電源が投入されたのに従って、データ表示処理が開始される。ステップS30において、オブジェクト読み出し部300は、表示するオブジェクトをストレージ206から取得し、RAM201に保持する。次にステップS31において、表示制御部301は、RAM201に保持されたオブジェクトをランダムに並べて初期表示画像を作成し、ディスプレイ101に出力する。この時、ディスプレイ101に表示されている初期画像の一例を図7(A)に示す。オブジェクトIDが1から5であるオブジェクトを含む複数のオブジェクトがランダムに表示されている。図7の領域702はレイアウト枠であり、ランダムに表示されたオブジェクトの中から、オブジェクトを逐次選択し、レイアウト枠内に移動させてレイアウトを決める。またsaveボタン703はレイアウトを調整する経過を保存するためのボタンである。
【0062】
初期画像表示(ステップS31)が終了すると、ステップS32において、情報処理装置100は、ディスプレイ101へのタッチ操作を検出し、オブジェクトが選択されたどうかの判定を行う。すなわち、操作部302が、検出部304から取得したタッチ位置情報と、表示制御部301から取得したオブジェクトの表示領域が重なっているかを判断し、重なっている場合に該当するオブジェクトを選択する。オブジェクトが選択されていない場合(ステップS32でNO)は、ステップS38へ処理が移行する。オブジェクトが選択されている場合(ステップS32でYES)は、続いてステップS33の処理が実行される。ステップS33において、情報処理装置100は、検出部304で検出されるタッチ位置情報を利用して、選択されたオブジェクトが移動するかどうかの判定を行う。すなわち、ディスプレイ101に対するタッチの位置が、解除されることなく移動していることを検出部304が検知した場合には、操作部302によって該当するオブジェクトを移動させる操作が実行される。オブジェクトを移動する場合(ステップS33でYES)は、レイアウト編集処理(ステップS34)が開始される。オブジェクトを移動しない場合(ステップS33でNO)は、処理はステップS38へ移行する。
【0063】
図8(B)は、ステップS34のレイアウト編集処理を示す処理フロー図である。レイアウト編集処理(ステップS34)が開始されると、情報処理装置100は、ステップS40において、まず移動操作されたオブジェクトがレイアウト枠内部に存在するのかどうかを判定する。オブジェクトがレイアウト枠内部にない場合(ステップS40でNO)は、レイアウト処理はそのまま終了し、呼び出し元にリターンする。移動されたオブジェクトがレイアウト枠内部にある場合(ステップS40でYES)は、続いて、ステップS41の処理が実行される。ステップS41においては、付与部306がストレージ206にオブジェクトに付属して記憶されたメタデータテーブルが参照し、RAM201に保持する。オブジェクトがメタデータテーブルを有していないときは、図9(A)のように空のテーブルを生成して参照する。
【0064】
次に、ステップS42において、操作部302は、検出部304から得た位置情報からオブジェクトが移動された位置を取得する。さらに、オブジェクトを表示させるサイズを変更する操作が行われた場合には、その変更されたサイズを検出部304から取得する。そしてステップS43において、ユーザの操作が反映されるように表示画像を更新する。次に、ステップS44において、オブジェクトを移動させ、サイズを変更することによってレイアウト枠内のレイアウトを変更する一連の操作が完了したかを判断する。
【0065】
図7(B)は、初期画像で表示されたオブジェクト群から、ユーザがタッチ操作によりオブジェクトIDが3のオブジェクト701cを選択してレイアウト枠内に移動させ、所望とするサイズに調整して配置した状態を示す。ここで、オブジェクトのサイズを調整する操作は、ユーザが2本の指(704aおよび704b)を使ってオブジェクト上をタッチし、そのタッチを維持したままディスプレイ上で指の間隔を広げるピンチと呼ばれる操作によって行う。また、図7(C)は、2度目のレイアウト編集処理において、オブジェクト群からオブジェクトIDが4のオブジェクトがレイアウト枠内に移動され、オブジェクト701cの左下に配置された状態を示す。レイアウトの変更が完了した場合には(ステップS44でYES)、ステップS45の処理ステップに進む。レイアウトの変更が完了せず、引き続き操作される場合には(ステップS44でNO)、ステップS41に戻る。
【0066】
ステップS45において、特定部305が、取得された結果より、現在表示されているレイアウトでは、レイアウト枠内に複数のオブジェクトが存在しているかを判断する。複数のオブジェクトが存在する場合は(ステップS45でYES)、ステップS46の処理に移行する。複数のオブジェクトが存在しない場合は(ステップS45でNO)、ステップS48に進む。図7(B)では、レイアウト枠内にオブジェクト701cしか存在しないので、処理はステップS48に移行する。ステップS48以降の処理は後述される。一方、図7(C)では、レイアウト枠内にはオブジェクト701cとオブジェクト701dの2つのオブジェクトが存在するので、処理ステップはステップS46に移行する。
【0067】
ステップS46において、レイアウト取得部303は、レイアウト枠内に存在する複数のオブジェクトに関するレイアウト情報として位置情報および表示画像上でのオブジェクトのサイズを取得し、RAM201に保持する。ここで、オブジェクトの位置情報とは、レイアウト枠を座標平面と考えた場合のオブジェクトの中心座標であり、サイズとはオブジェクトの面積に相当する。次に、ステップS47では、特定部305が、レイアウト取得部303が取得したレイアウト情報に基づき、レイアウト枠内部に存在する複数のオブジェクトの表示上の視覚的な関係を特定し、その情報をRAM201に保持する。第3の実施形態において、表示上の視覚的な関係とは、まずオブジェクト同士のサイズの大小関係、およびオブジェクト同士が互いの上下左右いずれの方向に存在するかという位置関係である。図7(C)では、オブジェクト「3」701cはオブジェクト「4」701dの4倍大きいサイズ(面積)で表示されている。従って、特定部305はその大小関係を特定し、RAM201上に保持する。
【0068】
次に、ステップS48においては、特定部305が、レイアウト枠内の各オブジェクトに付与されるメタデータを決定する。本実施形態では、まずステップS47で特定したレイアウト枠内でのオブジェクトのサイズの大小関係に基づき、オブジェクトの重要度(ユーザにとってのお気に入り度)を示す値(度数)をメタデータとして各オブジェクトに設定する。すなわち、オブジェクトのサイズが大きいほど、そのオブジェクトの重要度は高く、逆に小さいほど、そのオブジェクトの重要度は小さく定義される。さらに、同じサイズのオブジェクトに対しては、レイアウト枠内でのオブジェクトの位置関係に基づき、レイアウト枠の左上に表示されているオブジェクト程、重要度の高いオブジェクトであるとして、重要度を設定する。このような重要度の決定方法に従い、レイアウト枠内に存在する全てのオブジェクトに付与するメタデータ(重要度の度数)を決定し、RAM201に保持する。ただし、図7(B)にように、レイアウト枠内にオブジェクトが1つしか存在しない場合には、複数のオブジェクトの関係に基づくメタデータの決定法は適応されず重要度1が設定されるので、図9(B)のように、オブジェクト「3」701cの重要度は1となる。2度目の処理である図7(C)の例では、オブジェクト「3」701cが大きく、オブジェクト「4」701dが小さいので、図9(C)のようにオブジェクト「3」の重要度が1から2に変更され、オブジェクト「4」の重要度は1に設定される。また、ステップS48では、レイアウト枠内で隣り合うオブジェクトに対し、関連するオブジェクトを示すメタデータとして、互いのオブジェクトのIDを付与することを決める。従って、メタデータテーブルのオブジェクト「3」、オブジェクト「4」の関連オブジェクトの欄には、図9(C)のようにそれぞれオブジェクト「4」、オブジェクト「3」が追加されることになる。
【0069】
ステップS49において、付与部306が、ステップS48で決定されRAM201上に保持されているメタデータを、各オブジェクトに付与する。すなわち、RAM201上に保持されている各オブジェクトのテーブルに、決定されたメタデータを格納することでテーブルを更新する。以上の処理でステップS34のレイアウト編集処理は完了し、呼び出し元にその結果がリターンされる。
【0070】
レイアウト編集処理が終了すると、ステップS35において、表示制御部301は表示画像の更新を行う。表示画像の更新が終了すると、ステップS36において、saveボタンが押されたかどうかの判定が、情報処理装置100によって行われる。すなわち、操作部302が検出部304から得たタッチ位置情報が、saveボタンが表示されている領域内であるかによって、saveボタンを押すタッチ操作がなされたかを判断する。saveボタンが押されていない場合(ステップS36でNO)は、ステップS38に処理が移行する。saveボタンが押された場合(ステップS36でYES)は、ステップS37が実行され、情報処理装置100は、RAM201上に保持されているレイアウト枠内のレイアウト情報とメタデータテーブルをストレージ206に保存する。ステップS38では、データ表示を終了するかどうかの判断が行われる。例えば、アプリケーションから終了の指示があった場合や、検出部304がユーザによる所定の終了操作を検出した場合、一定時間以上何の操作も検出されなかった場合等に、データ表示を終了する(ステップS38でYES)。データ表示を終了しない場合(ステップS38でNO)は、再びS32に処理が移行し、本実施形態におけるレイアウト編集処理を繰返す。
【0071】
図7に従って、引き続きレイアウト編集処理を繰り返す例を説明する。なお、以降の説明において重複する処理ステップについては、その詳細を省略する。図7(D)は、図7(C)の状態に続いて、オブジェクト群からオブジェクトIDが「1」のオブジェクトを選択し、レイアウト枠内に配置した操作によって更新された表示画像を示す(ステップS43)。この場合、オブジェクト「1」は、オブジェクト「3」と比較して小さいが、オブジェクト「4」との比較では、同じ大きさである。さらに、オブジェクト「4」がオブジェクト「1」よりも左上に近い。このような、オブジェクトの表示上の視覚的な関係に従い、図9(D)で示すように、メタデータテーブルが更新される(ステップS46〜S49)。つまり、オブジェクト「3」は重要度3、オブジェクト「4」は重要度2、オブジェクト「1」は重要度1である。また関連オブジェクトの情報も、オブジェクト「3」には、オブジェクト「1」、「4」、オブジェクト「4」には、オブジェクト「1」、「3」、オブジェクト「1」には、オブジェクト「3」、「4」がそれぞれ設定されている。これは図7(D)を見て分かるように、オブジェクト「3」に隣り合うオブジェクトは、オブジェクト「1」とオブジェクト「4」だからである。オブジェクト「1」、オブジェクト「4」に関しても同様である。図7(E)は、オブジェクト群からオブジェクトIDが「2」のオブジェクトを選択し、レイアウト枠内に配置した操作によって更新された表示画像を示す(ステップS43)。オブジェクト「2」の大きさは、オブジェクト「1」、「4」と同じかつ、オブジェクト「1」、「4」と比較してレイアウト枠左上の位置から遠いので、重要度はこれらより低くなる。その結果、図9(E)でハイライトされている部分で示すようにメタデータテーブルは更新される(ステップS46〜S49)。図7(F)は、オブジェクト群からオブジェクトIDが5のオブジェクトを選択し、レイアウト枠内に配置した操作によって更新された表示画像を示す(ステップS43)。オブジェクト5の大きさは、オブジェクト3についで大きく、オブジェクト「1」、「2」、「4」よりも大きい。従って、重要度はオブジェクト3の次に高くなる。その結果、図9(F)でハイライトされている部分で示すような内容に関連度テーブルは更新される(ステップS46〜S49)。
【0072】
オブジェクト「1」から「5」までを図7(G)で示すようにレイアウトした後、ステップS36において、ユーザがsaveボタンを押すと、現状のレイアウト情報とともに、図9(F)で示したメタデータテーブルもストレージ206に保持される。
【0073】
以上、本実施形態で述べたように、ディスプレイ上に表示されたオブジェクトをレイアウトするという簡単な操作によって、オブジェクト同士のメタデータならびに、お気に入り(重要度)情報を自動で付与することが可能となる。本実施形態では、テーブル型ディスプレイを有する会議システムにおいて、写真のオブジェクトをレイアウトする例を示した。ただし、本発明は会議システムに限らず、例えば図1(B)のようなタブレット型端末や、印刷装置、店頭に設置される写真印刷専用端末やアルバム作成装置にも利用することができる。このようなシステムを利用することで、ユーザは、フォトアルバムのレイアウトや、企画書のレイアウト、雑誌ページのレイアウト等を、直感的な操作で簡単に作成することができる。さらに、自動付与したメタデータを利用することで、別のレイアウト候補を作成する際に、関連するオブジェクトをおすすめオブジェクト情報として利用したり、重要度の高いオブジェクトを抽出して絞り込み検索する際に利用したりできる。
【0074】
本実施形態ではオブジェクトの大きさをオブジェクトの重要度の指標とした。この際、例えば「オブジェクトのサイズ(面積)に20%以上の差がある場合に、異なる重要度を設定する」といった閾値を設けても良い。こうすることでユーザが、レイアウトのバランス等の都合上少しだけ大きさを変えたいような場合にまで、意図に反した重要度の差異を付けてしまうことを避けられる。なお、オブジェクトのサイズ以外にも、例えば、レイアウト枠内でオブジェクトが編集された回数を指標として利用しても良い。また、別途画像の表示時間や表示のための演出を設定するメニューを設け、画像スライドショーのレイアウトや構成を本システムで作成する場合等は、スライドショーされる写真オブジェクトの表示時間を重要度の指標とすることもできる。つまり、長く表示されるオブジェクト程、重要度が高くし、重要度の高いオブジェクトを抽出して検索する際に利用できるようにする。また、本実施形態では、レイアウト枠の左上に表示されているオブジェクト程、重要なオブジェクトとした。このため、ステップS47でオブジェクトの位置関係を特定し、その情報をRAM201に保持する際に、レイアウト枠左上の位置をオブジェクトの重要度を表す指標とした。ただし、これに限られない。例えば、レイアウト枠の中央を最も重要度が高い位置としても良い。また、レイアウトを実施するユーザが、レイアウトを実施する前に、どの位置を重要度が高い位置とするかを定義できるようにしても良い。
【0075】
尚、本実施形態においても、第1の実施形態と同様、オブジェクトと別に各オブジェクトに対応したメタデータテーブルをストレージに保存することで、各オブジェクトのメタデータを付与していた。ただし、例えば、オブジェクトのファイルそのものにメタデータを埋め込んでもよい。また、本実施形態では、オブジェクトの移動を移動させる操作によってメタデータが変更される際には、新たなメタデータを格納することによってメタデータテーブルを更新した。しかし、メタデータが変更される際にメタデータテーブルの項目を増やし、その履歴情報も含めたメタデータを、各オブジェクトそれぞれに付与してもよい。
【0076】
以上のように、直感的にオブジェクトの視覚的な関係を操作することで、オブジェクト同士の関係をわかりやすくするメタデータをオブジェクトに付与することができるので、本実施形態はユーザにとって利便性の高いインタフェースを提供することができる。
【0077】
(その他の実施形態)
ここまで説明した本実施形態では、メタデータを付与するオブジェクトとして、人物の写真を用いた。ただし、上述したように情報処理装置100は、静止画像に限らず、音声、手書き文字、テキスト、画像、動画等、様々な形式で電子化されたデータを扱うことができる。
【0078】
また、レイアウトから特定されるオブジェクトの視覚的な関係は、オブジェクトの間の距離の大小関係、またはオブジェクトが表示されるサイズの大小関係、またはオブジェクトが配置される位置関係の他に、例えば色に基づく関係であってもよい。例えば、ユーザの操作によって、各オブジェクトに色による視覚的な関係を設定し、それによってオブジェクトに関連度や優先度を示すメタデータを付与することもできる。一例として、操作部302および検知部304が、選択されたオブジェクトがユーザによってタップ(ディスプレイを軽くたたく動作)されたと判断した場合に、そのタップされた回数に応じた色の枠やチェックマークをオブジェクトに付す。そして、その色に基づいて、「赤に近い色の枠がついたオブジェクトである程緊急度が高い」、「遠い色の枠が設定されたオブジェクト程、関連度は低い」といった指標を示すメタデータを付与することもできる。
【0079】
また、本発明は、以下の処理を実行することによっても実現される。即ち、上述した実施形態の機能を実現するソフトウェア(プログラム)を、ネットワーク又は各種記憶媒体を介してシステム或いは装置に供給し、そのシステム或いは装置のコンピュータ(またはCPUやMPU等)がプログラムを読み出して実行する処理である。

【特許請求の範囲】
【請求項1】
表示部に複数のオブジェクトを表示させる情報処理装置であって、
前記表示部に表示された複数のオブジェクトのレイアウトを取得する取得手段と、
前記取得手段により取得されたレイアウトにおける、前記複数のオブジェクト同士の表示上の視覚的な関係を特定する特定手段と、
前記特定された視覚的関係に基づくデータを、前記複数のオブジェクトそれぞれに対してメタデータとして付与する付与手段と、
を備えることを特徴とする情報処理装置。
【請求項2】
前記複数のオブジェクト同士の表示上の視覚的な関係とは、オブジェクトの間の距離の大小関係、またはオブジェクトが表示されるサイズの大小関係、またはオブジェクトが配置される位置関係のいずれか1つまたはその組み合わせであることを特徴とする請求項1に記載の情報処理装置。
【請求項3】
更に、前記表示される複数のオブジェクトのうち、少なくとも1つのオブジェクトを選択する操作を実行する操作手段を備え、
前記取得手段は、前記操作手段により選択されたオブジェクトのうち少なくとも1つを更に移動させる操作がなされた場合には、前記移動に伴って変更されたレイアウトを取得することを特徴とする請求項2に記載の情報処理装置。
【請求項4】
更に、前記操作手段により選択された少なくとも1つのオブジェクトにおいて、キーオブジェクトを分類する分類手段を備え、
前記特定手段は、前記キーオブジェクトと表示される他のオブジェクトそれぞれとの前記表示上の視覚的な関係を特定し、
前記付与手段は、前記複数のオブジェクトそれぞれに前記特定手段により特定された結果に基づくメタデータを付与することを特徴とする請求項3に記載の情報処理装置。
【請求項5】
前記分類手段は、前記操作手段によって選択された2つ以上のオブジェクトのうち、初めに選択したオブジェクトをキーオブジェクトとして分類することを特徴とする請求項4に記載の情報処理装置。
【請求項6】
前記分類手段は、前記操作手段によって選択された2つ以上のオブジェクトのうち、移動されないオブジェクトをキーオブジェクトとして分類することを特徴とする請求項4に記載の情報処理装置。
【請求項7】
前記操作手段は、表示部に表示された複数のオブジェクトのうち2つ以上のオブジェクトを選択し、
前記付与手段は、前記表示中の複数のオブジェクトのうち、前記操作手段により選択された前記2つ以上のオブジェクトにのみ前記特定手段により特定された結果に基づいたメタデータを付与することを特徴とする請求項3乃至6のいずれか1項に記載の情報処理装置。
【請求項8】
前記分類手段は、前記操作手段によって選択された2つ以上のオブジェクトのうち、キーオブジェクトとして分類されない他のオブジェクトを、サブオブジェクトとして分類し、
前記特定手段は、前記キーオブジェクトとサブオブジェクトとの前記表示上の視覚的な関係を特定し、
前記付与手段は、前記特定手段により特定された結果に基づいて、前記表示中の複数のオブジェクトのうち、前記操作手段により選択された前記2つ以上のオブジェクトにのみ前記特定手段により特定された結果に基づいたメタデータを付与することを特徴とする請求項4乃至7のいずれか1項に記載の情報処理装置。
【請求項9】
更に、前記付与手段によりメタデータを付与されたオブジェクトと共に、前記メタデータが示す情報を前記表示部に視覚的に表示させる表示制御手段を備えることを特徴とする請求項1乃至8のいずれか1項に記載の情報処理装置。
【請求項10】
前記メタデータは、前記表示中の複数のオブジェクトそれぞれの、ある指標における程度を示す値であることを特徴とする請求項1乃至9のいずれか1項に記載の情報処理装置。
【請求項11】
コンピュータに読み込み込ませ実行させることで、前記コンピュータを請求項1乃至10のいずれか1項に記載の情報処理装置として機能させることを特徴とするプログラム。
【請求項12】
表示部に複数のオブジェクトを表示させる情報処理装置の制御方法であって、
取得手段により、前記表示される複数のオブジェクトのレイアウトを取得する工程と、
特定手段により、前記取得手段により取得されたレイアウトにおける、前記複数のオブジェクト同士の表示上の視覚的な関係を特定する工程と、
付与手段により、前記特定手段により特定された結果に基づいて、前記複数のオブジェクトそれぞれに対してメタデータを付与する工程と
を有することを特徴とする情報処理装置。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7】
image rotate

【図8】
image rotate

【図9】
image rotate


【公開番号】特開2013−69127(P2013−69127A)
【公開日】平成25年4月18日(2013.4.18)
【国際特許分類】
【出願番号】特願2011−207347(P2011−207347)
【出願日】平成23年9月22日(2011.9.22)
【出願人】(000001007)キヤノン株式会社 (59,756)
【Fターム(参考)】