画像検索装置、画像検索方法、プログラム及び記憶媒体
【課題】操作対象となる画像を検索する際のユーザの作業負荷の低減を可能にする画像検索方法を提供する。
【解決手段】画像の管理情報として重要度と操作履歴とを含み、記憶手段に記憶された複数の前記画像の中からユーザの操作に供される画像候補を検索する際に、所定の操作を画像に対して実行し(S801)、記憶手段に記憶されている全ての画像からS801で操作された画像に類似する類似画像からなる類似画像群を抽出し(S803)、類似画像の重要度と類似画像の操作履歴にある操作とに基づいて、操作対象としてユーザに次に掲示する画像を予備的に類似画像群から優先画像として抽出し(S804)、S801の操作と優先画像の操作履歴にある操作との関連を評価して、操作対象として最終的にユーザに掲示する掲示画像を優先画像群から抽出する(S805)。
【解決手段】画像の管理情報として重要度と操作履歴とを含み、記憶手段に記憶された複数の前記画像の中からユーザの操作に供される画像候補を検索する際に、所定の操作を画像に対して実行し(S801)、記憶手段に記憶されている全ての画像からS801で操作された画像に類似する類似画像からなる類似画像群を抽出し(S803)、類似画像の重要度と類似画像の操作履歴にある操作とに基づいて、操作対象としてユーザに次に掲示する画像を予備的に類似画像群から優先画像として抽出し(S804)、S801の操作と優先画像の操作履歴にある操作との関連を評価して、操作対象として最終的にユーザに掲示する掲示画像を優先画像群から抽出する(S805)。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、ユーザが所定の画像に対して操作を行ったときに、続けて操作したい画像の候補を検索する画像検索装置、画像検索方法、画像検索方法を実行するためのプログラム及びこのプログラムを記憶した記憶媒体に関する。
【背景技術】
【0002】
近年、デジタルカメラ等の機器の普及により、画像を手軽に撮影することが可能になっており、また、画像を記憶する記憶媒体の記憶容量が飛躍的に大きくなっているために、多量の画像を撮影して記憶媒体に記憶しておくことができるようになってきている。
【0003】
撮影された画像に対して編集、削除、転送といった操作を実行する際、ユーザは、記憶媒体に記憶された画像群から操作対象となる画像(以下「対象画像」と記す)を、ユーザ自身が検索し、選択している。しかし、前述の通り、記憶媒体に多量の画像を記憶することができるようになってきているために、ユーザが対象画像を見つけ出す際に検索対象となる画像の数が増大しており、ユーザの検索負荷が大きくなってきている。そこで、検索対象となる画像の数を絞り込む方法として、画像の類似性を考慮した方法が提案されている(例えば、特許文献1参照)。
【先行技術文献】
【特許文献】
【0004】
【特許文献1】特開2007−97090号公報
【発明の概要】
【発明が解決しようとする課題】
【0005】
画像が撮影、記憶される場合には、同じような撮影場所、日時、条件で多くの画像が撮影されることが多いという傾向が見られる。そのため、ユーザが、特許文献1に開示された方法を用いて対象画像を見つけ出すために、検索対象となる画像の数を絞り込んだとしても、多量の画像が検索対象となってしまい、ユーザの負担軽減の効果は限定的と考えられる。
【0006】
本発明はかかる事情に鑑みてなされたものであり、対象画像を検索する際のユーザの作業負荷の低減を可能にする画像検索装置を提供することを目的とする。
【課題を解決するための手段】
【0007】
本発明に係る画像検索装置は、複数の画像と、当該画像に対する操作履歴を記憶する記憶手段と、前記記憶手段に記憶された前記複数の中から選択された画像に操作を実行する実行手段と、前記実行手段での前記操作の実行の後に、前記記憶手段に記憶されている他の画像の中から、前記操作した画像に類似し、且つ、前記記憶手段に記憶されている操作履歴が同一又は類似する画像を検索する検索手段と、を有することを特徴とする。
【発明の効果】
【0008】
本発明によれば、対象画像を検索する際のユーザの作業負荷を低減することができる。また、ユーザが操作した履歴と操作間の関連が考慮されることで、ユーザ毎に適切な候補画像を表示することが可能になる。
【図面の簡単な説明】
【0009】
【図1】本発明の実施形態に係る画像処理装置の概略構成と外観構成を示す図である。
【図2】図1の画像処理装置が備える管理情報記憶部に記憶される画像管理情報及び関連管理情報を模式的に示す図である。
【図3】図2に示される画像管理情報における操作履歴を更新する処理のフローチャートである。
【図4】図2に示される関連管理情報における関連を更新する処理のフローチャートである。
【図5】図1の画像処理装置において、表示画像に対して所定の操作が実行されるときの処理の流れを示すフローチャートである。
【図6】図1の画像処理装置において、対象画像を検索するために使用される検索用操作リストの構成を模式的に示す図である。
【図7】図1の画像処理装置において、実行された操作を検索用操作リストに追加する処理のフローチャートである。
【図8】図1の画像処理装置において実行される第1の画像検索方法のフローチャートである。
【図9】図8に示されるS803の処理の詳細を示すフローチャートである。
【図10】図8に示されるS804の処理の詳細を示すフローチャートである。
【図11】図8に示されるS805の処理の詳細を示すフローチャートである。
【図12】図11に示されるS1103の処理の詳細を示すフローチャートである。
【図13】図11に示されるS1104の処理の詳細を示すフローチャートである。
【図14】図11に示されるS1105の処理の詳細を示すフローチャートである。
【図15】図1の画像処理装置において実行される第2の画像検索方法のフローチャートである。
【図16】図1の画像処理装置において実行される第3の画像検索方法のフローチャートである。
【発明を実施するための形態】
【0010】
<画像処理装置の概略構成>
図1(A)は、本発明の実施形態に係る画像処理装置の概略構成を示す図である。画像処理装置100の全体制御は処理部101によって行われる。処理部101は、CPUやROM、RAM等を備えており、CPUがROMに記憶されている所定のプログラムをRAMに展開して実行することにより、画像処理装置100で実行可能な各種の機能が実現される。入力部102は、ユーザが画像処理装置100での各種操作を行うための操作ボタン等を有しており、ユーザが入力部102を操作して選択した処理が処理部101により実行される。なお、入力部102が備える操作ボタンの一例については、図1(B)を参照して後に説明する。
【0011】
記憶媒体103は、画像データを記憶するメモリカードやハードディスク等であり、図1(A)では内蔵された構成が示されているが、画像処理装置100に対して着脱可能な構成となっていてもよい。表示部104は、記憶媒体103に記憶された画像データに係る画像、その画像に付帯する情報、画像処理装置100で実行可能な操作のメニュー等を表示するためのディスプレイを備えており、その詳細は図1(B)を参照して後に説明する。
【0012】
管理情報記憶部105は、記憶媒体103に格納される画像の管理情報(以下「画像管理情報」と記す)や画像に対して実行された操作同士の関連性を示す情報(以下「関連管理情報」と記す)を記憶する。管理情報記憶部105は、記憶媒体103や処理部101の内部に設けられていてもよい。接続I/F106は、コンピュータや記憶装置等の外部装置107、プリンタ等の印刷装置108と通信を行うためのインタフェースである。処理部101、入力部102、記憶媒体103、表示部104、管理情報記憶部105、接続I/F106は、バス109を介して相互にデータ通信を行う。
【0013】
[画像に対して実行される主な操作]
画像処理装置100において、記憶媒体103に格納された画像に対して実行される主な操作は、“転送”、“拡大”、“削除”、“印刷”及び“プロテクト”の5つである。
【0014】
“転送”は、画像処理装置100から外部装置107等へ画像(画像データ)を転送する機能であり、“拡大”は、画像処理装置100の表示部104に画像を拡大して表示する機能である。“削除”は、記憶媒体103から画像を削除する機能であるが、“プロテクト”により削除禁止の属性が付されている画像に対しては、実行不可である。
【0015】
“印刷”は、画像処理装置100の記憶媒体103に格納されている画像を、画像処理装置100に接続された印刷装置108で印刷可能なフォーマット(形式)に変換して印刷装置108に送信する機能である。“プロテクト”は、記憶媒体103に格納されている画像に係る画像データに削除禁止の属性を付して、“削除”機能による画像の削除を不可能にする。
【0016】
[画像処理装置の外観構成]
図1(B)は、画像処理装置100の外観構成を示す図である。画像処理装置100は操作ボタン111〜117を有しており、これらの操作ボタン111〜117は、入力部102の構成要素である。操作ボタン111,112,113,114はそれぞれ、左方向ボタン、右方向ボタン、上方向ボタン、下方向ボタンであり、これらの操作ボタン111〜114は、所謂、十字キーを構成している。表示部104に表示される操作メニュー(図1(B)に不図示)等に対して、操作ボタン111〜114を操作することで、選択項目を上下左右で移動させることができるようになっている。
【0017】
操作ボタン115は、表示部104における表示モードの変更を行うボタン(モード変更ボタン)であり、例えば、操作メニューの表示と画像の表示とを切り替える機能を有する。操作ボタン116は、操作ボタン111〜114によって操作メニューにおいて選択された項目(操作や機能)を実行するための決定ボタンとして機能する。操作ボタン117は、画像処理装置100の主電源のON/OFFを行うための電源ボタンである。
【0018】
画像処理装置100はLCD等のディスプレイを備えている。このディスプレイが表示部104に相当し、このディスプレイに画像や表示された画像に関連づけされた情報、操作メニューが表示される。図1(B)において、ディスプレイに表示されている画像(以下「表示画像」という)の左上には、表示画像の重要度を示す「重要度2」が表示されている。この重要度は、管理情報記憶部105に記憶されている画像管理情報の1つであり、〔重要度〕の文字にレベルを示す数値(本実施形態では〔0〕〜〔4〕)を組み合わせた構成となっている。
【0019】
表示画像の右上には、表示画像の撮影年月日及び日時が表示されている。表示画像の左下には、表示画像の画像番号と記憶媒体103に記憶されている画像の全数(全画像数)とが、〔画像番号/全画像数〕の形態で表示されている。画像番号は、例えば、撮影日時を基準として撮影順に付与される。一般的に、全画像数が少なければ、ユーザは、探している画像を容易に見つけ出すことができ、この点は本実施形態でも同様である。
【0020】
表示画像の中央下に表示されている〔オート〕は、表示画像が撮影された際に用いられた撮影モードを示している。つまり、図1(B)の表示画像の場合、撮影時の撮影モードがオートモードに設定されていたことを示している。なお、撮影モードとしては、オートモードの他に、例えば、人物モード、風景モード、夜景モード等の撮影対象により区別されるモード、絞り優先モードやシャッタ優先モード等の撮像装置の機械的機能により区別されるモードがある。
【0021】
表示画像の右下には、チェックボタン121と処理実行ボタン122が表示されている。チェックボタン121は、表示画像が操作を実行する対象であるか否かをチェックするためのボタンであり、表示画像が操作対象の画像であるときには、図1(B)に示されるように丸印が表示され、表示画像が操作対象の画像ではない場合には、空欄が表示される。処理実行ボタン122は、表示画像に対して実行する操作の内容を表示するためのボタンであり、表示された操作を実行する決定ボタンとして機能する。図1(B)の場合、チェックボタン121に丸印が表示されており、操作として“転送”が選択されているので、この状態で操作ボタン116が押下されると、表示画像に対して“転送”処理が実行される。
【0022】
<管理情報記憶部に記憶される情報の構成>
図2は、管理情報記憶部105に記憶される画像管理情報及び関連管理情報を模式的に示す図である。記憶媒体103に格納される画像にはそれぞれ、画像を識別するための画像ID211が、例えば、DCF規格に従って付与されており、画像ID211に画像管理情報201と関連管理情報202が付与されている。
【0023】
画像管理情報201は、画像に付与された画像の重要度212と、画像に対して実行された操作に関する操作リスト213とを含んでいる。重要度212は、前述の通り、〔0〕〜〔4〕の5段階で設定されており、数値が大きくなるにしたがって重要度は高くなるとする。なお、重要度212が設定されていない場合もあり、この場合には、数値として“−1”が付与され、表示部104(図1(B)参照)には、重要度212に関する表示は行われない。
【0024】
操作リスト213は、画像に対して実行された操作の情報を保持する操作履歴220(操作履歴1〜操作履歴n〔n:整数〕)によって構成されている。なお、操作リスト213は、画像に対して所定の操作が行われるまでは空の状態となっていてもよい。また、操作リスト213が有する操作履歴220を、“転送”や“拡大”等の操作の種類毎に、操作の数だけ設けるようにしてもよい。先に説明した“転送”や“拡大”等の5つの操作は例示であるが、操作履歴220を操作の種類毎に設ける場合、操作リスト213を構成する操作履歴220の数は5つとなる。
【0025】
操作履歴220は、操作ID221と、最終実行時刻222と、実行頻度223とによって構成されている。操作ID221は、操作の内容を識別するために操作毎に定められており、最終実行時刻222は、操作ID221の操作が最後に実行された時刻を示す情報であり、実行頻度223は、操作ID221の操作が実行された頻度を示す情報である。最終実行時刻222は、操作ID221の操作が実行されるまでは空の状態となっている。また、実行頻度223は、操作ID221の操作が実行されるまでは空となっており、初めて実行された場合に“1”を記憶し、操作ID221の操作が再び実行された際に、逐次、“1”を加算した数値へ更新される。
【0026】
なお、処理部101が、操作リスト213にある各操作履歴220の最終実行時刻222を参照して、現時刻から予め定められた時間が経過している操作履歴については操作リスト213から消去するように、構成してもよい。その場合、消去された操作履歴に係る操作IDに対応する操作が再び実行された場合には、その時点で、実行された操作の操作履歴が新たに操作リスト213に追加される。
【0027】
画像に対して実行された操作同士の関連性を示す関連管理情報202は、平均操作間隔231と、総操作回数232と、関連性リスト233とを含む。平均操作間隔231は、画像ID211の画像に対して実行された全ての操作の実行時間の間隔の平均値であり、総操作回数232は、画像に対して実行された全ての操作の実行回数の合計である。関連性リスト233は、関連性240(関連性1〜関連性n〔n:整数〕)によって構成されており、画像に対して実行された各操作間の関連性を表す。
【0028】
関連性240は、操作ID221と関連操作リスト242とによって構成されている。関連性240における操作ID221は、操作を識別するためのものであり、操作履歴220の操作ID221と同等である。関連操作リスト242は、操作ID221の操作と関連する操作を表すリストであり、関連操作250(関連操作1〜関連操作n〔n:整数〕)によって構成されている。
【0029】
関連操作250は、操作ID221と、関連度252と、更新日時253とによって構成されている。関連操作250の操作ID221は、操作を識別するためのものであり、操作履歴220及び関連性240の操作ID221と同等である。関連度252は、操作ID221の操作が初めて実行された場合に“1”を規定値として記憶し、操作ID221の操作が再び実行される毎に、逐次、“1”を加算した数値へと更新され、その際に更新日時253も更新される。
【0030】
なお、関連操作リスト242を構成する関連操作250の数は任意とすることができる。また、処理部101が、関連操作250の更新日時253を参照し、現時刻から予め定められた時間が経過しているものに関しては関連操作リスト242から消去するように、構成してもよい。
【0031】
関連操作250の情報により、ある画像に対して実行された操作の履歴と共に、その操作が行われた後にどのような操作が行われたのかという操作の関連性が示される。また、操作回数や前回操作との時間間隔も考慮して関連度252を判定することで、操作の同一性だけでなく、時間や頻度が類似する操作を判定することができるようになる。つまり、本実施形態の操作履歴220の情報によれば、操作の同一性又は類似性を判定することができるが、判断材料は上記に記載のものに限らず、他の情報を利用してもよい。
【0032】
このような操作履歴220に基づいて関連性240を求めれば、例えば、ある操作(操作Aとする)を行ったら、操作Aと同一の操作履歴を有している画像を検索することができる。また、例えば、ある操作(操作Aとする)の後で別の操作(操作Bとする)を行ったら、操作Aの後で操作Bを行ったことがある画像を検索するということも可能になる。更に、例えば、操作Aの後に操作Bを行ったら、操作Aの後に50%程度の確率で操作Bを行っている画像を検索するというようなことも可能になる。
【0033】
<画像管理情報における操作履歴の更新処理>
図3は、画像管理情報201における操作履歴220を更新する処理のフローチャートである。この処理は、処理部101のCPUが、処理部101のROMに格納されている所定のプログラムを処理部101のRAMに展開して実行することにより、画像処理装置100を構成する各部を制御することによって実現される。なお、以下に説明する他の処理フローについても同様である。
【0034】
画像に対して所定の操作が実行されると、画像管理情報201の操作リスト213から、実行された操作の操作ID221に係る操作履歴220が検索され(ステップS301)、該当する操作履歴220があるか否かが判定される(ステップS302)。操作履歴220がある場合(S302で“YES”)、処理はステップS304へ進められ、操作履歴220がない場合(S302で“NO”)、操作履歴220が新規に作成され(ステップS303)、その後、処理はステップS304へ進められる。
【0035】
ステップS304〜S309の処理は、実行頻度223を更新する処理である。ステップS304では、操作履歴220が新規か否かが判定される。新規である場合(S304で“YES”)、実行頻度223が“1”に設定され(ステップS309)、その後、処理はステップS310へ進められる。新規ではない場合(S304で“NO”)、操作履歴220の最終実行時刻222と実行された操作の実行時刻との時間差が求められる(ステップS305)。
【0036】
続いて、ステップS305で求められた時間差が1週間以内であるか否かが判定される(ステップS306)。1週間以内の場合(S306で“YES”)、実行頻度223に“0.1”が加算され(ステップS307)、その後、処理はステップS310へ進められる。時間差が1週間以内ではない場合(S306で“NO”)、実行頻度223から“0.1”が減算され(ステップS308)、その後、処理はステップS310へ進められる。ステップS307〜S309によって実行頻度223が更新されると、最終実行時刻222が更新され(ステップS310)、その後、処理は終了となる。
【0037】
なお、ステップS306では、時間差の判定基準を1週間としたが、例えば、2週間や1ヶ月としてもよく、更にこれらに限定されるものでもない。また、ステップS307及びステップS308における加算値及び減算値も0.1に限定されるものではない。
【0038】
<関連管理情報における関連性の更新処理>
図4は、関連管理情報202における関連性240を更新する処理のフローチャートである。画像に対して所定の操作が実行されると、関連管理情報202の関連性リスト233から、実行された操作(該当操作)の操作ID221の関連性240が検索される(ステップS401)。続いて、所定の操作が実行された画像の操作リスト213から操作履歴220が検索され(ステップS402)、操作履歴220があるが判定される(ステップS403)。操作履歴220がない場合(S403で“NO”)、関連性240は更新されることなく、処理は終了となる。
【0039】
一方、操作履歴220がある場合(S403で“YES”)、関連操作リスト242から関連操作250が検索され(ステップS404)、該当操作の関連操作250があるか否かが判定される(ステップS405)。関連操作250がない場合(S405で“NO”)、新規に関連操作250が作成され(ステップS406)、その後、処理はステップS407へ進められる。一方、関連操作250がある場合(S405で“YES”)、処理はステップS407へ進められる。
【0040】
ステップS407〜S412の処理は、関連度252を更新する処理である。ステップS407では、関連操作250が新規か否かが判定される。関連操作250が新規の場合(S407で“YES”)、関連度252は“1”に設定される(ステップS412)。関連操作250が新規ではない場合(S407で“NO”)、関連操作250の更新日時253と該当操作の実行時刻との時間差が求められ(ステップS408)、求められた時間差が1週間以内であるか否かが判定される(ステップS409)。時間差が1週間以内の場合(S409で“YES”)、関連度252に“0.1”が加算され(ステップS410)、時間差が1週間以内ではない場合(S409で“NO”)、関連度252から“0.1”が減算される(ステップS411)。ステップS410〜S412によって関連度252が更新されると、更新日時253が更新され(ステップS413)、その後、処理は終了となる。
【0041】
なお、ステップS409では、時間差の判定基準を1週間としたが、これに限定されるものではなく、例えば、2週間や1ヶ月としてもよい。また、ステップS410及びステップS411における加算値及び減算値も0.1に限定されるものではない。
【0042】
<表示画像に対する所定の操作の実行>
図5は、表示画像に対して所定の操作が実行されるときの処理の流れを示すフローチャートである。ユーザが画像処理装置100の入力部102を操作することによって、表示画像に所定の操作(例えば“転送”)が実行される(ステップS501)。ステップS501が実行されると、表示画像の操作履歴220が更新される(ステップS502)。このステップS502の処理の詳細は、図3を参照して説明した通りである。続いて、ステップS501で実行された操作の関連性240が更新され(ステップS503)、その後、処理は終了となる。このステップS503の処理の詳細は、図4を参照して説明した通りである。
【0043】
<画像検索のための検索用操作リスト>
図6は、記憶媒体103に記憶された画像の中から対象画像(次の操作の対象となる画像)を検索するために使用される検索用操作リストの構成を模式的に示す図である。検索用操作リスト601は、処理部101によって生成され、例えば、処理部101のRAMに記憶される。
【0044】
検索用操作リスト601は、検索操作602(検索操作1〜検索操作j〔j:整数〕)によって構成されている。検索操作602は、操作ID221と、操作数612と、最終実行時刻613と、優先度614とで構成されている。操作ID221は、操作を特定するものであり、操作履歴220の操作ID221と同等である。操作数612は、操作ID221の操作が、記憶媒体103の全ての画像の操作履歴220の中で検索された総数である。
【0045】
最終実行時刻613は、検索用操作リスト601の中で操作ID221の操作が最後に実行された日時である。優先度614は、操作が複数あった場合における操作ID221の操作の優先度であり、“0”〜“4”の5段階で記憶され、この数値が大きくなるにしたがって優先度が高くなる。なお、優先度614は、必ずしも設定されなければならないものではなく、優先度614が設定されていない場合には、例えば、“−1”が設定され、記憶される。
【0046】
<実行された操作の検索用操作リストへの追加処理>
図7は、実行された操作を検索用操作リスト601に追加する処理のフローチャートである。先ず、追加する操作の操作ID221に係る検索操作602を検索用操作リスト601から検索し(ステップS701)、該当する検索操作602があるか否かが判定される(ステップS702)。該当する検索操作602がない場合(S702で“NO”)、検索操作602が新規に作成され(ステップS703)、その後、処理はステップS704へ進められる。また、該当する検索操作602がある場合(S702で“YES”)、処理はステップS704へ進められる。
【0047】
ステップS704では、検索操作602の操作数612に“1”が加算され、続いて最終実行時刻613が更新され(ステップS705)、更に、優先度614が更新されて(ステップS706)、その後、処理は終了となる。なお、優先度614は、例えば、〔検索用操作リスト601中の検索操作602の操作数612の総数〕に対する〔該当する検索操作602の操作数612〕の割合や、最終実行時刻613によって決定され、更新される。これに対し、ユーザが設定した操作を優先する等の重み付けを行って、優先度614が決定されるようにしてもよい。
【0048】
<第1の画像検索方法>
図8は、画像処理装置100において実行される第1の画像検索方法のフローチャートである。最初に、ユーザによる入力部102の操作により、表示部104に表示された表示画像に対してユーザが指定した所定の操作が実行される(ステップS801)。すなわち、ステップS801の処理として、先に図5を参照して説明したステップS501〜503の処理が実行される。続いて、ステップS801で実行された操作を検索用操作リスト601に追加する処理が実行される(ステップS802)。すなわち、ステップS802の処理として、先に図7を参照して説明したステップS701〜S706の処理が実行される。
【0049】
次に、画像処理装置100の記憶媒体103に記憶されている全ての画像から、操作された表示画像に類似する画像を抽出する処理が実行される(ステップS803)。以下、このステップS803の処理において抽出された画像を「類似画像」といい、類似画像の一群を「類似画像群」という。ステップS803の処理(類似画像抽出ステップ)の詳細は後述する。
【0050】
その後、実行された操作と類似画像の重要度212とに基づいて、連続して操作を行う対象としてユーザに掲示するための画像である対象画像を予備的に類似画像群から抽出する処理が実行される(ステップS804)。以下、このステップS804の処理において抽出された画像を「優先画像」といい、優先画像の一群を「優先画像群」という。ステップS804の処理(優先画像抽出ステップ)の詳細は後述する。
【0051】
続いて、対象画像を優先画像群から最終的に抽出するために、優先画像の操作履歴220にある操作と検索用操作リスト601の検索操作602との関連性が高い画像を優先画像群から抽出する処理が実行される(ステップS805)。以下、このステップS805の処理において抽出された画像を「掲示画像」といい、掲示画像の一群を「掲示画像群」という。ステップS805の処理(掲示画像抽出ステップ)の詳細は後述する。
【0052】
掲示画像群を構成する掲示画像を画像処理装置100の表示部104に表示することで、ユーザに掲示画像を掲示する(掲示ステップ)。そのために、本実施形態では、掲示画像群を構成する掲示画像は、掲示画像の操作履歴220にある操作と表示画像に対して実行された操作との関連性が高い順に並び替えられる(ステップS806)。そして、ステップS806で並び替えられた掲示画像が、対象画像として画像処理装置100の表示部104に表示され(ステップS807)、その後、処理は終了となる。
【0053】
以上の手順により、ユーザの操作に供される対象画像を絞り込んで、掲示することが可能になる。これにより、ユーザは、記憶媒体103から対象画像を容易に探し出して、所望の操作を行うことができる。
【0054】
[ステップS803の処理(類似画像群の抽出)の詳細]
図9は、図8に示されるステップS803の処理(類似画像群の抽出)の詳細を示すフローチャートである。ステップS803の処理を実行するにあたって、類似画像をリストアップするための類似画像リストが準備されており、ステップS803の処理の実行前の段階では、類似画像リストの中身は空となっている。
【0055】
ステップS803の最初の処理として、記憶媒体103からの画像の取得が実行され(ステップS901)、取得する画像があるか否かが判定される(ステップS902)。なお、ステップS901で取り出される画像は1つだけである。
【0056】
画像がない場合(S902で“NO”)、処理は後に説明するステップS909へ進められる。画像がある場合(S902で“YES”)、その画像と操作が実行された画像との類似性を評価するために、ステップS903〜S907の処理が行われる。先ず、ステップS901で取得された画像にステップS801で操作された画像に写っている人物と同一の人物が写っているか否かが判定される(ステップS903)。ここで、ステップS801で処理された画像に人物が写っていない場合、ステップS903の判断は常に“NO”となる。ステップS903において比較の対象となっている2つの画像を、以下、「2つの比較画像」という。
【0057】
同一人物が写っている場合(S903で“YES”)、処理はステップS907に進められる。同一人物が写っていない場合(S903で“NO”)、2つの比較画像の撮影日時の差が前後1日以内であるか否かが判定される(ステップS904)。撮影日時の差が前後1日以内である場合(S904で“YES”)、処理はステップS907に進められる。撮影日時の差が1日以内でない場合(S904で“NO”)、2つの比較画像の撮影モードが同じか否かが判定される(ステップS905)。
【0058】
撮影モードが同じ場合(S905で“YES”)、処理はステップS907に進められる。撮影モードが同じではない場合(S905で“NO”)、2つの比較画像には類似性がない(類似性不成立)と判定され(ステップS906)、その後、処理はステップS901へ戻される。ステップS907では、2つの比較画像に類似性がある(類似性成立)と判定され(ステップS907)、処理はステップS908へ進められる。
【0059】
なお、2つの比較画像の類似性を判定するステップS903〜S907の処理の判定材料は、上述の人物や撮影日時、撮影モードに限定されず、これに加えて又はこれに代えて、撮影場所や構図、露出、シャッタ速度、絞り値等の撮影条件等を用いることもできる。
【0060】
ステップS908では、ステップS907において類似性成立と判定された画像が類似画像として類似画像リストに追加され、その後、処理はステップS901へ戻される。記憶媒体103に画像が記憶されており、記憶されていた全ての画像に対してステップS901〜S908の処理が終了したら、ステップS902での判定は“NO”となり、処理はステップS909へ進められる。
【0061】
ステップS909では、類似画像リストの中身が空であるかが検査され、空の場合には、記憶媒体103に格納されている全ての画像が類似画像リストに追加され、空でない場合には、最後のステップS908後の類似画像リストの内容が維持される。こうして決定された類似画像リストにリストアップされた類似画像が類似画像群を構成する。ステップS909の終了後、本処理を抜け、処理は図8に示されるステップS804へと進められる。
【0062】
[ステップS804の処理(優先画像群の抽出)の詳細]
図10は、図8に示されるステップS804の処理の詳細を示すフローチャートである。ステップS804の処理を実行するにあたって、類似画像群から抽出する優先画像をリストアップするための優先画像リストが準備されており、ステップS804の処理の実行前の段階では、優先画像リストの中身は空となっている。
【0063】
ステップS803(=ステップS901〜S909)で作成された類似画像リストにある類似画像の取り出しが実行され(ステップS1001)、取り出す類似画像があるか否かが判定される(ステップS1002)。類似画像がない場合(S1002で“NO”)、処理はステップS1010へ進められる。ステップS1010の詳細は後に説明する。類似画像がある場合(S1002で“YES”)、ステップS1003〜S1008により、類似画像の重要度212を評価する処理が実行される。
【0064】
先ず、ステップS1001で取り出された類似画像に対して実行された操作が“拡大”であるか否かが判定される(ステップS1003)。操作が“拡大”である場合(S1003で“YES”)、処理はステップS1007へ進められ、その類似画像は重要であると判定される。操作が“拡大”ではない場合(S1003で“NO”)、操作が“削除”であるか否かが判定される(ステップS1004)。
【0065】
操作が“削除”である場合(S1004で“YES”)、類似画像の重要度212がステップS801で操作された画像の重要度212以下であるか否かが判定される(ステップS1005)。操作が実行された画像の重要度212以下の場合(S1005で“YES”)、処理はステップS1007へ進められ、その類似画像は重要であると判定される。一方、操作が実行された画像の重要度212以下ではない場合(S1005で“NO”)、処理はステップS1008へ進められ、その類似画像は重要ではないと判定される。
【0066】
操作が“削除”ではない場合(S1004で“NO”)、類似画像の重要度212がステップS801で操作された画像の重要度212以上であるか否かが判定される(ステップS1006)。操作が実行された画像の重要度212以上である場合(S1006で“YES”)、処理はステップS1007へ進められ、その類似画像は重要であると判定される。一方、操作が実行された画像の重要度212以上ではない場合(S1006で“NO”)、処理はステップS1008へ進められ、その類似画像は重要ではないと判定される。
【0067】
なお、本実施形態において、実行された操作が“削除”の場合、“削除”は不要な画像を整理していることが考えられるため、類似画像の重要度212が低いことが、優先画像としての抽出条件となる。また、“拡大”は全ての画像を対象としているために重要度212を画像抽出の条件として用いておらず、その他の操作については重要度212が高いことを優先画像としての抽出条件としている。
【0068】
ステップS1007において重要であると判定された類似画像は、優先画像リストに追加され(ステップS1009)、その後、処理はステップS1001へ戻される。ステップS1008で重要ではないと判定された類似画像は、優先画像リストに追加されることなく、処理はステップ1001に戻される。
【0069】
全ての画像について、ステップS1001〜S1009の処理が終了すると、ステップS1002での判定が“NO”となり、処理はステップS1010へ進められることになる。ステップS1010では、優先画像リストの中身が空であるかが検査され、空の場合には、類似画像リストが優先画像リストとされ、空でない場合には、最後のステップS1009後の優先画像リストの内容が維持される。こうして決定された優先画像リストにリストアップされた類似画像が、優先画像として優先画像群を構成する。ステップS1010の終了後、本処理を抜け、処理は図8に示されるステップS805へと進められる。
【0070】
[ステップS805の処理(掲示画像群の抽出)の詳細]
図11は、図8に示されるステップS805の処理の詳細を示すフローチャートである。ステップS805の処理を実行するにあたって、掲示画像をリストアップするための掲示画像リストが準備されており、ステップS805の処理の実行前の段階では掲示画像リストの中身は空となっている。
【0071】
ステップS804(ステップS1001〜S1010)で作成された優先画像リストからの優先画像の取り出しが行われ(ステップS1101)、取り出す優先画像があるか否かが判定される(ステップS1102)。優先画像がある場合(S1102で“YES”)、検索用操作リスト601と優先画像の画像管理情報201とから操作間の関連を計算する処理(ステップS1103〜S1105)が行われる。優先画像がない場合(S1102で“YES”)、処理はステップS1108へ進められる。
【0072】
操作間の関連を計算する処理では、先ず、関連を計算する対象となる検索操作602(後述する対象検索操作)が検索用操作リスト601から取り出される(ステップS1103)。次いで、優先画像の画像管理情報201から、関連を計算する対象となる操作履歴220(後述する対象操作履歴)が取り出される(ステップS1104)。続いて、ステップS1103で取り出された検索操作602の操作ID221とステップS1104で取り出された操作履歴220の操作ID221とを用いて、関連管理情報202から操作間の関連が計算される(ステップS1105)。これらのステップS1103〜S1105の処理の詳細については後に説明する。
【0073】
なお、ステップS1103〜S1105では、検索用操作リスト601から取り出した代表の検索操作602と優先画像の画像管理情報201から取り出した代表の操作履歴220とを用いて操作間の関連を計算する。しかし、操作間の関連の計算方法はこれに限定されるものではない。例えば、検索用操作リスト601から複数の検索操作602を取り出し、各検索操作602と優先画像の画像管理情報201から取り出した代表の操作履歴220との関連を求め、その平均を操作間の関連として用いてもよい。また、優先画像の画像管理情報201から複数の操作履歴220を取り出し、各操作履歴220と検索用操作リスト601から取り出した代表の検索操作602との関連を求め、その平均を操作間の関連として用いてもよい。
【0074】
ステップS1105の後、ステップS1105で求められた操作間の関連の評価の条件が満たされているか否かを判定する(ステップS1106)。後述するように、操作間の関連は関連度252の値に基づいて定められる。よって、ステップS1106では、例えば、優先画像についてステップS1105で求められた操作間の関連が掲示画像リスト中で5番目に大きい関連をもつ掲示画像の関連より大きいこと、を判定基準とする。
【0075】
条件が満たされる場合(S1106で“YES”)、つまり、優先画像について求められた操作間の関連の方が大きい場合、優先画像が掲示画像リストに追加され(ステップS1107)、その後、処理はステップS1101に戻される。条件が満たされない場合(S1106で“NO”)、優先画像は掲示画像リストに追加されることなく、処理はステップS1101に戻される。なお、掲示画像リストに追加された優先画像(つまり、掲示画像)の数が5未満の場合には、ステップS1106の判定は常に“YES”となる。
【0076】
全ての優先画像が優先画像リストから取り出されると、ステップS1102での判定が“NO”となり、処理はステップS1108へ進められることになる。ステップS1108では、掲示画像リストの中身が空であるかが検査され、空の場合には、優先画像リストが掲示画像リストとされ、空でない場合には、最後のステップS1107後の掲示画像リストの内容が維持される。こうして決定された掲示画像リストにリストアップされた優先画像がユーザに掲示する掲示画像となり、掲示画像群を構成する。ステップS1108の終了後、本処理を抜け、処理は図8に示されるステップS806へと進められる。
【0077】
[ステップS1103の処理の詳細]
図12は、図11に示されるステップS1103の処理の詳細を示すフローチャートである。先ず、対象検索操作が初期化される(ステップS1201)。後述するように、対象検索操作はステップS1205で取り出される検索操作602であるので、処理に先立って対象検索操作を初期化しておく。続いて、検索用操作リスト601から検索操作602を取り出す処理が行われ(ステップS1202)、取り出す検索操作602があるか否かが判定される(ステップS1203)。取り出す検索操作602がない場合(S1203で“NO”)、処理はステップS1206へ進められる。取り出す検索操作602がある場合(S1203で“YES”)、ステップS1202で取り出された検索操作602の最終実行時刻613が、対象検索操作の最終実行時刻よりも新しいか否かが判定される(ステップS1204)。
【0078】
検索操作602の最終実行時刻613が新しい場合(S1204で“YES”)、その検索操作602が対象検索操作とされる(ステップS1205)。一方、検索操作602の最終実行時刻613が新しくない場合(S1204で“NO”)、処理はステップS1202に戻される。取り出す検索操作602がなくなると(S1203で“NO”)、対象検索操作が確定され(ステップS1206)、その後、処理はステップS1104へと進められる。
【0079】
[ステップS1104の処理の詳細]
図13は、図11に示されるステップS1104の処理の詳細を示すフローチャートである。先ず、対象操作履歴が初期化される(ステップS1301)。後述するように、対象操作履歴はステップS1305で取り出される操作履歴220であるので、処理に先立って対象操作履歴を初期化しておく。続いて、優先画像の画像管理情報201から操作履歴220を取り出す処理が行われ(ステップS1302)、取り出す操作履歴があるか否かが判定される(ステップS1303)。
【0080】
取り出す操作履歴220がない場合(S1303で“NO”)、処理はステップS1306へ進められる。取り出す操作履歴220がある場合(S1303で“YES”)、取り出された操作履歴220の最終実行時刻222が、対象操作履歴の最終実行時刻よりも新しいか否かが判定される(ステップS1304)。
【0081】
取り出された操作履歴220の最終実行時刻222が新しい場合(S1304で“YES”)、その操作履歴220が対象操作履歴とされる(ステップS1305)。一方、取り出された操作履歴220の最終実行時刻222が新しくない場合(S1304で“NO”)、処理はステップS1302に戻される。取り出す操作履歴220がなくなると(S1203で“NO”)、対象操作履歴が確定され(ステップS1306)、その後、処理はステップS1105へと進められる。
【0082】
[ステップS1105の処理の詳細]
図14は、図11に示されるステップS1105の処理の詳細を示すフローチャートである。ステップS1103で確定した対象検索操作の操作ID221をステップS1104で確定した対象操作履歴の操作ID221へ適用することにより、優先画像の関連管理情報202から関連度252が取得される(ステップS1401)。こうしてS1401で取得した関連度252が、操作間の関連とされる(ステップS1402)。
【0083】
続いて、対象検索操作の最終実行時刻と対象操作履歴の最終実行時刻とを比較してその差を求め、その差が1日以内か否かが判定される(ステップS1403)。差が1日以内の場合(S1403で“YES”)、操作間の関連が強いと判断され、ステップS1402にて設定された操作間の関連を1.2倍し(ステップS1404)、その後、本処理を抜けて、処理はステップS1106(図11参照)へ進められる。一方、差が1日以内でない場合(S1403で“NO”)、ステップS1402にて設定された操作間の関連がそのまま維持されて本処理を抜け、処理はステップS1106へ進められる。
【0084】
<第2の画像検索方法>
第2の画像検索方法では、操作された表示画像の操作履歴を使用して候補画像を絞り込む。これにより、操作された表示画像に類似した操作履歴を持つ画像を対象画像として絞り込み、表示部104に掲示することができる。図15は、第2の画像検索方法のフローチャートである。
【0085】
最初に、ユーザによって指定された所定の操作が表示画像に対して実行される(ステップS1501)。このステップS1501は、図5を参照して説明したステップS501〜S503に相当する。続いて、表示画像の画像管理情報201の操作履歴220を検索用操作リスト601に追加するために、ステップS1502〜S1505の処理が行われる。
【0086】
ステップS1502では、表示画像の画像管理情報201からの操作履歴220の取り出しが行われ、続いて、取り出す操作履歴220があるか否かが判定される(ステップS1503)。操作履歴220がある場合(S1503で“YES”)、検索用操作リスト601に操作履歴220の操作が追加される(ステップS1504)。このステップS1504の処理は、先に図7を参照して説明したステップS701〜S706に準ずる。ステップS1504の後、処理はステップS1502に戻される。
【0087】
取り出す操作履歴220がない場合(S1503で“NO”)、検索用操作リスト601が空であるかどうかを検査し、空の場合には、表示画像に対して実行された操作が検索用操作リスト601に追加される(ステップS1505)。なお、ステップS1505において、検索用操作リスト601が空でない場合には、ステップS1504の後の検索用操作リスト601が維持される。
【0088】
ステップS1505の後、記憶媒体103に記憶されている全ての画像から、ステップS1501で操作された表示画像に類似する類似画像からなる類似画像群が抽出される(ステップS1506)。このステップS1506の処理は、図9を参照して説明したステップS901〜S909の処理に準ずる。次いで、実行された操作と類似画像の重要度212とに基づいて、操作対象としてユーザに次の掲示するための優先画像群が類似画像群から抽出される(ステップS1507)。このステップS1507の処理は、図10を参照して説明したステップS1001〜S1010の処理に準ずる。
【0089】
続いて、優先画像の操作履歴220にある操作とステップS1502〜S1505により得られた検索用操作リスト601の検索操作602との関連性が高い掲示画像群が優先画像群から抽出される(ステップS1508)。このステップS1507の処理は、図11を参照して説明したステップS1101〜S1108の処理に準ずる。次に、掲示画像群を構成する掲示画像は、掲示画像の操作履歴220にある操作と操作した表示画像の操作履歴220との関連性が高い順に並び替えられる(ステップS1509)。こうして、ステップS1509で並び替えられた掲示画像が対象画像として画像処理装置100の表示部104に表示される(ステップS1510)。
【0090】
以上の手順により、ユーザの操作に供される対象画像を絞り込んで、掲示することが可能になる。これにより、ユーザは、記憶媒体103から対象画像を容易に探し出して、所望の操作を行うことができる。
【0091】
<第3の画像検索方法>
第3の画像検索方法では、複数の画像の操作履歴を使用して候補画像を絞り込む。こうして、ユーザの操作履歴や画像の類似性等の傾向を複数の画像から取得することによって、候補画像をより適切に抽出して掲示することができるようになる。図16は、第3の画像検索方法のフローチャートである。
【0092】
最初に、操作する画像があるか否かが判定される(ステップS1601)。操作する画像がある場合(S1601で“YES”)、ユーザが指定した所定の操作が、操作する画像に対して実行される(ステップS1602)。このステップS1602は、図5を参照して説明したステップS501〜S503に準ずる。続いて、記憶媒体103に記憶された全画像から、ステップS1602で操作した画像に類似した類似画像からなる類似画像群が抽出される(ステップS1603)。このステップS1603の処理は、図9を参照して説明したステップS901〜S909の処理に準ずる。
【0093】
次に、操作した画像の画像管理情報201の操作履歴220を検索用操作リスト601に追加する処理が行われる(ステップS1604)。このステップS1604の処理は、図15を参照して説明したステップS1502〜S1505の処理に準ずる。ステップS1604の後、処理はステップS1601に戻される。ステップS1601で操作する画像がないと判断された場合(S1601で“NO”)、処理はステップS1605へ進められる。
【0094】
ステップS1605では、ステップS1602で実行された所定の操作と類似画像の重要度212とに基づいて、操作対象としてユーザに次の掲示するための優先画像からなる優先画像群が類似画像群から抽出される。このステップS1605の処理は、図10を参照して説明したステップS1001〜S1010の処理に準ずる。
【0095】
優先画像の操作履歴220にある操作と検索用操作リスト601の検索操作602との関連性が高い掲示画像群が優先画像群から抽出される(ステップS1606)。このステップS1606の処理は、図11を参照して説明したステップS1101〜S1108の処理に準ずる。次に、掲示画像群を構成する掲示画像は、掲示画像の操作履歴220にある操作とステップS1602において画像に対して実行された操作との関連性が高い順に並び替えられる(ステップS1607)。こうして、ステップS1607で並び替えられた掲示画像が対象画像として表示部104に表示される(ステップS1608)。
【0096】
以上の手順により、ユーザの操作に供される対象画像を絞り込んで、掲示することが可能になる。これにより、ユーザは、記憶媒体103から対象画像を容易に探し出して、所望の操作を行うことができる。
【0097】
<第1〜第3の画像検索方法の実行による効果>
以上の通り、第1〜第3の画像検索方法によれば、画像の類似性に加えて、ユーザの操作傾向に応じてユーザが画像を操作した際につづけて操作したい画像の候補を掲示することができる。これにより、ユーザは操作をする際に画像を検索するため手間を省くことができる。換言すれば、似たような画像で、且つ、似たような操作を行ったことがある画像に対しては、先に行った操作を同じように実行する可能性が高いと判定することができるので、これを利用して、同じような画像が多く記憶されている中から、同じような操作を行うべき画像を検索しなければならないときの検索性を向上させることができる。
【0098】
<他の実施形態>
以上、本発明をその好適な実施形態に基づいて詳述してきたが、本発明はこれら特定の実施形態に限られるものではなく、この発明の要旨を逸脱しない範囲の様々な形態も本発明に含まれる。さらに、上述した各実施形態は本発明の一実施形態を示すものにすぎず、各実施形態を適宜組み合わせることも可能である。
【0099】
例えば、操作履歴の関連度は、操作の履歴が同一又は類似するものを検索することができればよい。すなわち、上記実施形態における操作履歴の関連度の評価法は一例であり、ある画像に行った操作と他の画像に行った操作が同一又は類似のものを検索できるような仕組みであれば、他の形態でもよい。
【0100】
本発明は以下の処理を実行することによっても実現される。即ち、上述した実施形態の機能を実現するソフトウェア(プログラム)をネットワーク又は各種記憶媒体を介してシステム或いは装置に供給し、そのシステム或いは装置のコンピュータ(又はCPUやMPU等)がプログラムコードを読み出して実行する処理である。この場合、そのプログラム、及び該プログラムを記憶した記憶媒体は本発明を構成することになる。
【符号の説明】
【0101】
100 画像処理装置
101 処理部
102 入力部
103 記憶媒体
104 表示部
105 管理情報記憶部
201 画像管理情報
202 関連管理情報
【技術分野】
【0001】
本発明は、ユーザが所定の画像に対して操作を行ったときに、続けて操作したい画像の候補を検索する画像検索装置、画像検索方法、画像検索方法を実行するためのプログラム及びこのプログラムを記憶した記憶媒体に関する。
【背景技術】
【0002】
近年、デジタルカメラ等の機器の普及により、画像を手軽に撮影することが可能になっており、また、画像を記憶する記憶媒体の記憶容量が飛躍的に大きくなっているために、多量の画像を撮影して記憶媒体に記憶しておくことができるようになってきている。
【0003】
撮影された画像に対して編集、削除、転送といった操作を実行する際、ユーザは、記憶媒体に記憶された画像群から操作対象となる画像(以下「対象画像」と記す)を、ユーザ自身が検索し、選択している。しかし、前述の通り、記憶媒体に多量の画像を記憶することができるようになってきているために、ユーザが対象画像を見つけ出す際に検索対象となる画像の数が増大しており、ユーザの検索負荷が大きくなってきている。そこで、検索対象となる画像の数を絞り込む方法として、画像の類似性を考慮した方法が提案されている(例えば、特許文献1参照)。
【先行技術文献】
【特許文献】
【0004】
【特許文献1】特開2007−97090号公報
【発明の概要】
【発明が解決しようとする課題】
【0005】
画像が撮影、記憶される場合には、同じような撮影場所、日時、条件で多くの画像が撮影されることが多いという傾向が見られる。そのため、ユーザが、特許文献1に開示された方法を用いて対象画像を見つけ出すために、検索対象となる画像の数を絞り込んだとしても、多量の画像が検索対象となってしまい、ユーザの負担軽減の効果は限定的と考えられる。
【0006】
本発明はかかる事情に鑑みてなされたものであり、対象画像を検索する際のユーザの作業負荷の低減を可能にする画像検索装置を提供することを目的とする。
【課題を解決するための手段】
【0007】
本発明に係る画像検索装置は、複数の画像と、当該画像に対する操作履歴を記憶する記憶手段と、前記記憶手段に記憶された前記複数の中から選択された画像に操作を実行する実行手段と、前記実行手段での前記操作の実行の後に、前記記憶手段に記憶されている他の画像の中から、前記操作した画像に類似し、且つ、前記記憶手段に記憶されている操作履歴が同一又は類似する画像を検索する検索手段と、を有することを特徴とする。
【発明の効果】
【0008】
本発明によれば、対象画像を検索する際のユーザの作業負荷を低減することができる。また、ユーザが操作した履歴と操作間の関連が考慮されることで、ユーザ毎に適切な候補画像を表示することが可能になる。
【図面の簡単な説明】
【0009】
【図1】本発明の実施形態に係る画像処理装置の概略構成と外観構成を示す図である。
【図2】図1の画像処理装置が備える管理情報記憶部に記憶される画像管理情報及び関連管理情報を模式的に示す図である。
【図3】図2に示される画像管理情報における操作履歴を更新する処理のフローチャートである。
【図4】図2に示される関連管理情報における関連を更新する処理のフローチャートである。
【図5】図1の画像処理装置において、表示画像に対して所定の操作が実行されるときの処理の流れを示すフローチャートである。
【図6】図1の画像処理装置において、対象画像を検索するために使用される検索用操作リストの構成を模式的に示す図である。
【図7】図1の画像処理装置において、実行された操作を検索用操作リストに追加する処理のフローチャートである。
【図8】図1の画像処理装置において実行される第1の画像検索方法のフローチャートである。
【図9】図8に示されるS803の処理の詳細を示すフローチャートである。
【図10】図8に示されるS804の処理の詳細を示すフローチャートである。
【図11】図8に示されるS805の処理の詳細を示すフローチャートである。
【図12】図11に示されるS1103の処理の詳細を示すフローチャートである。
【図13】図11に示されるS1104の処理の詳細を示すフローチャートである。
【図14】図11に示されるS1105の処理の詳細を示すフローチャートである。
【図15】図1の画像処理装置において実行される第2の画像検索方法のフローチャートである。
【図16】図1の画像処理装置において実行される第3の画像検索方法のフローチャートである。
【発明を実施するための形態】
【0010】
<画像処理装置の概略構成>
図1(A)は、本発明の実施形態に係る画像処理装置の概略構成を示す図である。画像処理装置100の全体制御は処理部101によって行われる。処理部101は、CPUやROM、RAM等を備えており、CPUがROMに記憶されている所定のプログラムをRAMに展開して実行することにより、画像処理装置100で実行可能な各種の機能が実現される。入力部102は、ユーザが画像処理装置100での各種操作を行うための操作ボタン等を有しており、ユーザが入力部102を操作して選択した処理が処理部101により実行される。なお、入力部102が備える操作ボタンの一例については、図1(B)を参照して後に説明する。
【0011】
記憶媒体103は、画像データを記憶するメモリカードやハードディスク等であり、図1(A)では内蔵された構成が示されているが、画像処理装置100に対して着脱可能な構成となっていてもよい。表示部104は、記憶媒体103に記憶された画像データに係る画像、その画像に付帯する情報、画像処理装置100で実行可能な操作のメニュー等を表示するためのディスプレイを備えており、その詳細は図1(B)を参照して後に説明する。
【0012】
管理情報記憶部105は、記憶媒体103に格納される画像の管理情報(以下「画像管理情報」と記す)や画像に対して実行された操作同士の関連性を示す情報(以下「関連管理情報」と記す)を記憶する。管理情報記憶部105は、記憶媒体103や処理部101の内部に設けられていてもよい。接続I/F106は、コンピュータや記憶装置等の外部装置107、プリンタ等の印刷装置108と通信を行うためのインタフェースである。処理部101、入力部102、記憶媒体103、表示部104、管理情報記憶部105、接続I/F106は、バス109を介して相互にデータ通信を行う。
【0013】
[画像に対して実行される主な操作]
画像処理装置100において、記憶媒体103に格納された画像に対して実行される主な操作は、“転送”、“拡大”、“削除”、“印刷”及び“プロテクト”の5つである。
【0014】
“転送”は、画像処理装置100から外部装置107等へ画像(画像データ)を転送する機能であり、“拡大”は、画像処理装置100の表示部104に画像を拡大して表示する機能である。“削除”は、記憶媒体103から画像を削除する機能であるが、“プロテクト”により削除禁止の属性が付されている画像に対しては、実行不可である。
【0015】
“印刷”は、画像処理装置100の記憶媒体103に格納されている画像を、画像処理装置100に接続された印刷装置108で印刷可能なフォーマット(形式)に変換して印刷装置108に送信する機能である。“プロテクト”は、記憶媒体103に格納されている画像に係る画像データに削除禁止の属性を付して、“削除”機能による画像の削除を不可能にする。
【0016】
[画像処理装置の外観構成]
図1(B)は、画像処理装置100の外観構成を示す図である。画像処理装置100は操作ボタン111〜117を有しており、これらの操作ボタン111〜117は、入力部102の構成要素である。操作ボタン111,112,113,114はそれぞれ、左方向ボタン、右方向ボタン、上方向ボタン、下方向ボタンであり、これらの操作ボタン111〜114は、所謂、十字キーを構成している。表示部104に表示される操作メニュー(図1(B)に不図示)等に対して、操作ボタン111〜114を操作することで、選択項目を上下左右で移動させることができるようになっている。
【0017】
操作ボタン115は、表示部104における表示モードの変更を行うボタン(モード変更ボタン)であり、例えば、操作メニューの表示と画像の表示とを切り替える機能を有する。操作ボタン116は、操作ボタン111〜114によって操作メニューにおいて選択された項目(操作や機能)を実行するための決定ボタンとして機能する。操作ボタン117は、画像処理装置100の主電源のON/OFFを行うための電源ボタンである。
【0018】
画像処理装置100はLCD等のディスプレイを備えている。このディスプレイが表示部104に相当し、このディスプレイに画像や表示された画像に関連づけされた情報、操作メニューが表示される。図1(B)において、ディスプレイに表示されている画像(以下「表示画像」という)の左上には、表示画像の重要度を示す「重要度2」が表示されている。この重要度は、管理情報記憶部105に記憶されている画像管理情報の1つであり、〔重要度〕の文字にレベルを示す数値(本実施形態では〔0〕〜〔4〕)を組み合わせた構成となっている。
【0019】
表示画像の右上には、表示画像の撮影年月日及び日時が表示されている。表示画像の左下には、表示画像の画像番号と記憶媒体103に記憶されている画像の全数(全画像数)とが、〔画像番号/全画像数〕の形態で表示されている。画像番号は、例えば、撮影日時を基準として撮影順に付与される。一般的に、全画像数が少なければ、ユーザは、探している画像を容易に見つけ出すことができ、この点は本実施形態でも同様である。
【0020】
表示画像の中央下に表示されている〔オート〕は、表示画像が撮影された際に用いられた撮影モードを示している。つまり、図1(B)の表示画像の場合、撮影時の撮影モードがオートモードに設定されていたことを示している。なお、撮影モードとしては、オートモードの他に、例えば、人物モード、風景モード、夜景モード等の撮影対象により区別されるモード、絞り優先モードやシャッタ優先モード等の撮像装置の機械的機能により区別されるモードがある。
【0021】
表示画像の右下には、チェックボタン121と処理実行ボタン122が表示されている。チェックボタン121は、表示画像が操作を実行する対象であるか否かをチェックするためのボタンであり、表示画像が操作対象の画像であるときには、図1(B)に示されるように丸印が表示され、表示画像が操作対象の画像ではない場合には、空欄が表示される。処理実行ボタン122は、表示画像に対して実行する操作の内容を表示するためのボタンであり、表示された操作を実行する決定ボタンとして機能する。図1(B)の場合、チェックボタン121に丸印が表示されており、操作として“転送”が選択されているので、この状態で操作ボタン116が押下されると、表示画像に対して“転送”処理が実行される。
【0022】
<管理情報記憶部に記憶される情報の構成>
図2は、管理情報記憶部105に記憶される画像管理情報及び関連管理情報を模式的に示す図である。記憶媒体103に格納される画像にはそれぞれ、画像を識別するための画像ID211が、例えば、DCF規格に従って付与されており、画像ID211に画像管理情報201と関連管理情報202が付与されている。
【0023】
画像管理情報201は、画像に付与された画像の重要度212と、画像に対して実行された操作に関する操作リスト213とを含んでいる。重要度212は、前述の通り、〔0〕〜〔4〕の5段階で設定されており、数値が大きくなるにしたがって重要度は高くなるとする。なお、重要度212が設定されていない場合もあり、この場合には、数値として“−1”が付与され、表示部104(図1(B)参照)には、重要度212に関する表示は行われない。
【0024】
操作リスト213は、画像に対して実行された操作の情報を保持する操作履歴220(操作履歴1〜操作履歴n〔n:整数〕)によって構成されている。なお、操作リスト213は、画像に対して所定の操作が行われるまでは空の状態となっていてもよい。また、操作リスト213が有する操作履歴220を、“転送”や“拡大”等の操作の種類毎に、操作の数だけ設けるようにしてもよい。先に説明した“転送”や“拡大”等の5つの操作は例示であるが、操作履歴220を操作の種類毎に設ける場合、操作リスト213を構成する操作履歴220の数は5つとなる。
【0025】
操作履歴220は、操作ID221と、最終実行時刻222と、実行頻度223とによって構成されている。操作ID221は、操作の内容を識別するために操作毎に定められており、最終実行時刻222は、操作ID221の操作が最後に実行された時刻を示す情報であり、実行頻度223は、操作ID221の操作が実行された頻度を示す情報である。最終実行時刻222は、操作ID221の操作が実行されるまでは空の状態となっている。また、実行頻度223は、操作ID221の操作が実行されるまでは空となっており、初めて実行された場合に“1”を記憶し、操作ID221の操作が再び実行された際に、逐次、“1”を加算した数値へ更新される。
【0026】
なお、処理部101が、操作リスト213にある各操作履歴220の最終実行時刻222を参照して、現時刻から予め定められた時間が経過している操作履歴については操作リスト213から消去するように、構成してもよい。その場合、消去された操作履歴に係る操作IDに対応する操作が再び実行された場合には、その時点で、実行された操作の操作履歴が新たに操作リスト213に追加される。
【0027】
画像に対して実行された操作同士の関連性を示す関連管理情報202は、平均操作間隔231と、総操作回数232と、関連性リスト233とを含む。平均操作間隔231は、画像ID211の画像に対して実行された全ての操作の実行時間の間隔の平均値であり、総操作回数232は、画像に対して実行された全ての操作の実行回数の合計である。関連性リスト233は、関連性240(関連性1〜関連性n〔n:整数〕)によって構成されており、画像に対して実行された各操作間の関連性を表す。
【0028】
関連性240は、操作ID221と関連操作リスト242とによって構成されている。関連性240における操作ID221は、操作を識別するためのものであり、操作履歴220の操作ID221と同等である。関連操作リスト242は、操作ID221の操作と関連する操作を表すリストであり、関連操作250(関連操作1〜関連操作n〔n:整数〕)によって構成されている。
【0029】
関連操作250は、操作ID221と、関連度252と、更新日時253とによって構成されている。関連操作250の操作ID221は、操作を識別するためのものであり、操作履歴220及び関連性240の操作ID221と同等である。関連度252は、操作ID221の操作が初めて実行された場合に“1”を規定値として記憶し、操作ID221の操作が再び実行される毎に、逐次、“1”を加算した数値へと更新され、その際に更新日時253も更新される。
【0030】
なお、関連操作リスト242を構成する関連操作250の数は任意とすることができる。また、処理部101が、関連操作250の更新日時253を参照し、現時刻から予め定められた時間が経過しているものに関しては関連操作リスト242から消去するように、構成してもよい。
【0031】
関連操作250の情報により、ある画像に対して実行された操作の履歴と共に、その操作が行われた後にどのような操作が行われたのかという操作の関連性が示される。また、操作回数や前回操作との時間間隔も考慮して関連度252を判定することで、操作の同一性だけでなく、時間や頻度が類似する操作を判定することができるようになる。つまり、本実施形態の操作履歴220の情報によれば、操作の同一性又は類似性を判定することができるが、判断材料は上記に記載のものに限らず、他の情報を利用してもよい。
【0032】
このような操作履歴220に基づいて関連性240を求めれば、例えば、ある操作(操作Aとする)を行ったら、操作Aと同一の操作履歴を有している画像を検索することができる。また、例えば、ある操作(操作Aとする)の後で別の操作(操作Bとする)を行ったら、操作Aの後で操作Bを行ったことがある画像を検索するということも可能になる。更に、例えば、操作Aの後に操作Bを行ったら、操作Aの後に50%程度の確率で操作Bを行っている画像を検索するというようなことも可能になる。
【0033】
<画像管理情報における操作履歴の更新処理>
図3は、画像管理情報201における操作履歴220を更新する処理のフローチャートである。この処理は、処理部101のCPUが、処理部101のROMに格納されている所定のプログラムを処理部101のRAMに展開して実行することにより、画像処理装置100を構成する各部を制御することによって実現される。なお、以下に説明する他の処理フローについても同様である。
【0034】
画像に対して所定の操作が実行されると、画像管理情報201の操作リスト213から、実行された操作の操作ID221に係る操作履歴220が検索され(ステップS301)、該当する操作履歴220があるか否かが判定される(ステップS302)。操作履歴220がある場合(S302で“YES”)、処理はステップS304へ進められ、操作履歴220がない場合(S302で“NO”)、操作履歴220が新規に作成され(ステップS303)、その後、処理はステップS304へ進められる。
【0035】
ステップS304〜S309の処理は、実行頻度223を更新する処理である。ステップS304では、操作履歴220が新規か否かが判定される。新規である場合(S304で“YES”)、実行頻度223が“1”に設定され(ステップS309)、その後、処理はステップS310へ進められる。新規ではない場合(S304で“NO”)、操作履歴220の最終実行時刻222と実行された操作の実行時刻との時間差が求められる(ステップS305)。
【0036】
続いて、ステップS305で求められた時間差が1週間以内であるか否かが判定される(ステップS306)。1週間以内の場合(S306で“YES”)、実行頻度223に“0.1”が加算され(ステップS307)、その後、処理はステップS310へ進められる。時間差が1週間以内ではない場合(S306で“NO”)、実行頻度223から“0.1”が減算され(ステップS308)、その後、処理はステップS310へ進められる。ステップS307〜S309によって実行頻度223が更新されると、最終実行時刻222が更新され(ステップS310)、その後、処理は終了となる。
【0037】
なお、ステップS306では、時間差の判定基準を1週間としたが、例えば、2週間や1ヶ月としてもよく、更にこれらに限定されるものでもない。また、ステップS307及びステップS308における加算値及び減算値も0.1に限定されるものではない。
【0038】
<関連管理情報における関連性の更新処理>
図4は、関連管理情報202における関連性240を更新する処理のフローチャートである。画像に対して所定の操作が実行されると、関連管理情報202の関連性リスト233から、実行された操作(該当操作)の操作ID221の関連性240が検索される(ステップS401)。続いて、所定の操作が実行された画像の操作リスト213から操作履歴220が検索され(ステップS402)、操作履歴220があるが判定される(ステップS403)。操作履歴220がない場合(S403で“NO”)、関連性240は更新されることなく、処理は終了となる。
【0039】
一方、操作履歴220がある場合(S403で“YES”)、関連操作リスト242から関連操作250が検索され(ステップS404)、該当操作の関連操作250があるか否かが判定される(ステップS405)。関連操作250がない場合(S405で“NO”)、新規に関連操作250が作成され(ステップS406)、その後、処理はステップS407へ進められる。一方、関連操作250がある場合(S405で“YES”)、処理はステップS407へ進められる。
【0040】
ステップS407〜S412の処理は、関連度252を更新する処理である。ステップS407では、関連操作250が新規か否かが判定される。関連操作250が新規の場合(S407で“YES”)、関連度252は“1”に設定される(ステップS412)。関連操作250が新規ではない場合(S407で“NO”)、関連操作250の更新日時253と該当操作の実行時刻との時間差が求められ(ステップS408)、求められた時間差が1週間以内であるか否かが判定される(ステップS409)。時間差が1週間以内の場合(S409で“YES”)、関連度252に“0.1”が加算され(ステップS410)、時間差が1週間以内ではない場合(S409で“NO”)、関連度252から“0.1”が減算される(ステップS411)。ステップS410〜S412によって関連度252が更新されると、更新日時253が更新され(ステップS413)、その後、処理は終了となる。
【0041】
なお、ステップS409では、時間差の判定基準を1週間としたが、これに限定されるものではなく、例えば、2週間や1ヶ月としてもよい。また、ステップS410及びステップS411における加算値及び減算値も0.1に限定されるものではない。
【0042】
<表示画像に対する所定の操作の実行>
図5は、表示画像に対して所定の操作が実行されるときの処理の流れを示すフローチャートである。ユーザが画像処理装置100の入力部102を操作することによって、表示画像に所定の操作(例えば“転送”)が実行される(ステップS501)。ステップS501が実行されると、表示画像の操作履歴220が更新される(ステップS502)。このステップS502の処理の詳細は、図3を参照して説明した通りである。続いて、ステップS501で実行された操作の関連性240が更新され(ステップS503)、その後、処理は終了となる。このステップS503の処理の詳細は、図4を参照して説明した通りである。
【0043】
<画像検索のための検索用操作リスト>
図6は、記憶媒体103に記憶された画像の中から対象画像(次の操作の対象となる画像)を検索するために使用される検索用操作リストの構成を模式的に示す図である。検索用操作リスト601は、処理部101によって生成され、例えば、処理部101のRAMに記憶される。
【0044】
検索用操作リスト601は、検索操作602(検索操作1〜検索操作j〔j:整数〕)によって構成されている。検索操作602は、操作ID221と、操作数612と、最終実行時刻613と、優先度614とで構成されている。操作ID221は、操作を特定するものであり、操作履歴220の操作ID221と同等である。操作数612は、操作ID221の操作が、記憶媒体103の全ての画像の操作履歴220の中で検索された総数である。
【0045】
最終実行時刻613は、検索用操作リスト601の中で操作ID221の操作が最後に実行された日時である。優先度614は、操作が複数あった場合における操作ID221の操作の優先度であり、“0”〜“4”の5段階で記憶され、この数値が大きくなるにしたがって優先度が高くなる。なお、優先度614は、必ずしも設定されなければならないものではなく、優先度614が設定されていない場合には、例えば、“−1”が設定され、記憶される。
【0046】
<実行された操作の検索用操作リストへの追加処理>
図7は、実行された操作を検索用操作リスト601に追加する処理のフローチャートである。先ず、追加する操作の操作ID221に係る検索操作602を検索用操作リスト601から検索し(ステップS701)、該当する検索操作602があるか否かが判定される(ステップS702)。該当する検索操作602がない場合(S702で“NO”)、検索操作602が新規に作成され(ステップS703)、その後、処理はステップS704へ進められる。また、該当する検索操作602がある場合(S702で“YES”)、処理はステップS704へ進められる。
【0047】
ステップS704では、検索操作602の操作数612に“1”が加算され、続いて最終実行時刻613が更新され(ステップS705)、更に、優先度614が更新されて(ステップS706)、その後、処理は終了となる。なお、優先度614は、例えば、〔検索用操作リスト601中の検索操作602の操作数612の総数〕に対する〔該当する検索操作602の操作数612〕の割合や、最終実行時刻613によって決定され、更新される。これに対し、ユーザが設定した操作を優先する等の重み付けを行って、優先度614が決定されるようにしてもよい。
【0048】
<第1の画像検索方法>
図8は、画像処理装置100において実行される第1の画像検索方法のフローチャートである。最初に、ユーザによる入力部102の操作により、表示部104に表示された表示画像に対してユーザが指定した所定の操作が実行される(ステップS801)。すなわち、ステップS801の処理として、先に図5を参照して説明したステップS501〜503の処理が実行される。続いて、ステップS801で実行された操作を検索用操作リスト601に追加する処理が実行される(ステップS802)。すなわち、ステップS802の処理として、先に図7を参照して説明したステップS701〜S706の処理が実行される。
【0049】
次に、画像処理装置100の記憶媒体103に記憶されている全ての画像から、操作された表示画像に類似する画像を抽出する処理が実行される(ステップS803)。以下、このステップS803の処理において抽出された画像を「類似画像」といい、類似画像の一群を「類似画像群」という。ステップS803の処理(類似画像抽出ステップ)の詳細は後述する。
【0050】
その後、実行された操作と類似画像の重要度212とに基づいて、連続して操作を行う対象としてユーザに掲示するための画像である対象画像を予備的に類似画像群から抽出する処理が実行される(ステップS804)。以下、このステップS804の処理において抽出された画像を「優先画像」といい、優先画像の一群を「優先画像群」という。ステップS804の処理(優先画像抽出ステップ)の詳細は後述する。
【0051】
続いて、対象画像を優先画像群から最終的に抽出するために、優先画像の操作履歴220にある操作と検索用操作リスト601の検索操作602との関連性が高い画像を優先画像群から抽出する処理が実行される(ステップS805)。以下、このステップS805の処理において抽出された画像を「掲示画像」といい、掲示画像の一群を「掲示画像群」という。ステップS805の処理(掲示画像抽出ステップ)の詳細は後述する。
【0052】
掲示画像群を構成する掲示画像を画像処理装置100の表示部104に表示することで、ユーザに掲示画像を掲示する(掲示ステップ)。そのために、本実施形態では、掲示画像群を構成する掲示画像は、掲示画像の操作履歴220にある操作と表示画像に対して実行された操作との関連性が高い順に並び替えられる(ステップS806)。そして、ステップS806で並び替えられた掲示画像が、対象画像として画像処理装置100の表示部104に表示され(ステップS807)、その後、処理は終了となる。
【0053】
以上の手順により、ユーザの操作に供される対象画像を絞り込んで、掲示することが可能になる。これにより、ユーザは、記憶媒体103から対象画像を容易に探し出して、所望の操作を行うことができる。
【0054】
[ステップS803の処理(類似画像群の抽出)の詳細]
図9は、図8に示されるステップS803の処理(類似画像群の抽出)の詳細を示すフローチャートである。ステップS803の処理を実行するにあたって、類似画像をリストアップするための類似画像リストが準備されており、ステップS803の処理の実行前の段階では、類似画像リストの中身は空となっている。
【0055】
ステップS803の最初の処理として、記憶媒体103からの画像の取得が実行され(ステップS901)、取得する画像があるか否かが判定される(ステップS902)。なお、ステップS901で取り出される画像は1つだけである。
【0056】
画像がない場合(S902で“NO”)、処理は後に説明するステップS909へ進められる。画像がある場合(S902で“YES”)、その画像と操作が実行された画像との類似性を評価するために、ステップS903〜S907の処理が行われる。先ず、ステップS901で取得された画像にステップS801で操作された画像に写っている人物と同一の人物が写っているか否かが判定される(ステップS903)。ここで、ステップS801で処理された画像に人物が写っていない場合、ステップS903の判断は常に“NO”となる。ステップS903において比較の対象となっている2つの画像を、以下、「2つの比較画像」という。
【0057】
同一人物が写っている場合(S903で“YES”)、処理はステップS907に進められる。同一人物が写っていない場合(S903で“NO”)、2つの比較画像の撮影日時の差が前後1日以内であるか否かが判定される(ステップS904)。撮影日時の差が前後1日以内である場合(S904で“YES”)、処理はステップS907に進められる。撮影日時の差が1日以内でない場合(S904で“NO”)、2つの比較画像の撮影モードが同じか否かが判定される(ステップS905)。
【0058】
撮影モードが同じ場合(S905で“YES”)、処理はステップS907に進められる。撮影モードが同じではない場合(S905で“NO”)、2つの比較画像には類似性がない(類似性不成立)と判定され(ステップS906)、その後、処理はステップS901へ戻される。ステップS907では、2つの比較画像に類似性がある(類似性成立)と判定され(ステップS907)、処理はステップS908へ進められる。
【0059】
なお、2つの比較画像の類似性を判定するステップS903〜S907の処理の判定材料は、上述の人物や撮影日時、撮影モードに限定されず、これに加えて又はこれに代えて、撮影場所や構図、露出、シャッタ速度、絞り値等の撮影条件等を用いることもできる。
【0060】
ステップS908では、ステップS907において類似性成立と判定された画像が類似画像として類似画像リストに追加され、その後、処理はステップS901へ戻される。記憶媒体103に画像が記憶されており、記憶されていた全ての画像に対してステップS901〜S908の処理が終了したら、ステップS902での判定は“NO”となり、処理はステップS909へ進められる。
【0061】
ステップS909では、類似画像リストの中身が空であるかが検査され、空の場合には、記憶媒体103に格納されている全ての画像が類似画像リストに追加され、空でない場合には、最後のステップS908後の類似画像リストの内容が維持される。こうして決定された類似画像リストにリストアップされた類似画像が類似画像群を構成する。ステップS909の終了後、本処理を抜け、処理は図8に示されるステップS804へと進められる。
【0062】
[ステップS804の処理(優先画像群の抽出)の詳細]
図10は、図8に示されるステップS804の処理の詳細を示すフローチャートである。ステップS804の処理を実行するにあたって、類似画像群から抽出する優先画像をリストアップするための優先画像リストが準備されており、ステップS804の処理の実行前の段階では、優先画像リストの中身は空となっている。
【0063】
ステップS803(=ステップS901〜S909)で作成された類似画像リストにある類似画像の取り出しが実行され(ステップS1001)、取り出す類似画像があるか否かが判定される(ステップS1002)。類似画像がない場合(S1002で“NO”)、処理はステップS1010へ進められる。ステップS1010の詳細は後に説明する。類似画像がある場合(S1002で“YES”)、ステップS1003〜S1008により、類似画像の重要度212を評価する処理が実行される。
【0064】
先ず、ステップS1001で取り出された類似画像に対して実行された操作が“拡大”であるか否かが判定される(ステップS1003)。操作が“拡大”である場合(S1003で“YES”)、処理はステップS1007へ進められ、その類似画像は重要であると判定される。操作が“拡大”ではない場合(S1003で“NO”)、操作が“削除”であるか否かが判定される(ステップS1004)。
【0065】
操作が“削除”である場合(S1004で“YES”)、類似画像の重要度212がステップS801で操作された画像の重要度212以下であるか否かが判定される(ステップS1005)。操作が実行された画像の重要度212以下の場合(S1005で“YES”)、処理はステップS1007へ進められ、その類似画像は重要であると判定される。一方、操作が実行された画像の重要度212以下ではない場合(S1005で“NO”)、処理はステップS1008へ進められ、その類似画像は重要ではないと判定される。
【0066】
操作が“削除”ではない場合(S1004で“NO”)、類似画像の重要度212がステップS801で操作された画像の重要度212以上であるか否かが判定される(ステップS1006)。操作が実行された画像の重要度212以上である場合(S1006で“YES”)、処理はステップS1007へ進められ、その類似画像は重要であると判定される。一方、操作が実行された画像の重要度212以上ではない場合(S1006で“NO”)、処理はステップS1008へ進められ、その類似画像は重要ではないと判定される。
【0067】
なお、本実施形態において、実行された操作が“削除”の場合、“削除”は不要な画像を整理していることが考えられるため、類似画像の重要度212が低いことが、優先画像としての抽出条件となる。また、“拡大”は全ての画像を対象としているために重要度212を画像抽出の条件として用いておらず、その他の操作については重要度212が高いことを優先画像としての抽出条件としている。
【0068】
ステップS1007において重要であると判定された類似画像は、優先画像リストに追加され(ステップS1009)、その後、処理はステップS1001へ戻される。ステップS1008で重要ではないと判定された類似画像は、優先画像リストに追加されることなく、処理はステップ1001に戻される。
【0069】
全ての画像について、ステップS1001〜S1009の処理が終了すると、ステップS1002での判定が“NO”となり、処理はステップS1010へ進められることになる。ステップS1010では、優先画像リストの中身が空であるかが検査され、空の場合には、類似画像リストが優先画像リストとされ、空でない場合には、最後のステップS1009後の優先画像リストの内容が維持される。こうして決定された優先画像リストにリストアップされた類似画像が、優先画像として優先画像群を構成する。ステップS1010の終了後、本処理を抜け、処理は図8に示されるステップS805へと進められる。
【0070】
[ステップS805の処理(掲示画像群の抽出)の詳細]
図11は、図8に示されるステップS805の処理の詳細を示すフローチャートである。ステップS805の処理を実行するにあたって、掲示画像をリストアップするための掲示画像リストが準備されており、ステップS805の処理の実行前の段階では掲示画像リストの中身は空となっている。
【0071】
ステップS804(ステップS1001〜S1010)で作成された優先画像リストからの優先画像の取り出しが行われ(ステップS1101)、取り出す優先画像があるか否かが判定される(ステップS1102)。優先画像がある場合(S1102で“YES”)、検索用操作リスト601と優先画像の画像管理情報201とから操作間の関連を計算する処理(ステップS1103〜S1105)が行われる。優先画像がない場合(S1102で“YES”)、処理はステップS1108へ進められる。
【0072】
操作間の関連を計算する処理では、先ず、関連を計算する対象となる検索操作602(後述する対象検索操作)が検索用操作リスト601から取り出される(ステップS1103)。次いで、優先画像の画像管理情報201から、関連を計算する対象となる操作履歴220(後述する対象操作履歴)が取り出される(ステップS1104)。続いて、ステップS1103で取り出された検索操作602の操作ID221とステップS1104で取り出された操作履歴220の操作ID221とを用いて、関連管理情報202から操作間の関連が計算される(ステップS1105)。これらのステップS1103〜S1105の処理の詳細については後に説明する。
【0073】
なお、ステップS1103〜S1105では、検索用操作リスト601から取り出した代表の検索操作602と優先画像の画像管理情報201から取り出した代表の操作履歴220とを用いて操作間の関連を計算する。しかし、操作間の関連の計算方法はこれに限定されるものではない。例えば、検索用操作リスト601から複数の検索操作602を取り出し、各検索操作602と優先画像の画像管理情報201から取り出した代表の操作履歴220との関連を求め、その平均を操作間の関連として用いてもよい。また、優先画像の画像管理情報201から複数の操作履歴220を取り出し、各操作履歴220と検索用操作リスト601から取り出した代表の検索操作602との関連を求め、その平均を操作間の関連として用いてもよい。
【0074】
ステップS1105の後、ステップS1105で求められた操作間の関連の評価の条件が満たされているか否かを判定する(ステップS1106)。後述するように、操作間の関連は関連度252の値に基づいて定められる。よって、ステップS1106では、例えば、優先画像についてステップS1105で求められた操作間の関連が掲示画像リスト中で5番目に大きい関連をもつ掲示画像の関連より大きいこと、を判定基準とする。
【0075】
条件が満たされる場合(S1106で“YES”)、つまり、優先画像について求められた操作間の関連の方が大きい場合、優先画像が掲示画像リストに追加され(ステップS1107)、その後、処理はステップS1101に戻される。条件が満たされない場合(S1106で“NO”)、優先画像は掲示画像リストに追加されることなく、処理はステップS1101に戻される。なお、掲示画像リストに追加された優先画像(つまり、掲示画像)の数が5未満の場合には、ステップS1106の判定は常に“YES”となる。
【0076】
全ての優先画像が優先画像リストから取り出されると、ステップS1102での判定が“NO”となり、処理はステップS1108へ進められることになる。ステップS1108では、掲示画像リストの中身が空であるかが検査され、空の場合には、優先画像リストが掲示画像リストとされ、空でない場合には、最後のステップS1107後の掲示画像リストの内容が維持される。こうして決定された掲示画像リストにリストアップされた優先画像がユーザに掲示する掲示画像となり、掲示画像群を構成する。ステップS1108の終了後、本処理を抜け、処理は図8に示されるステップS806へと進められる。
【0077】
[ステップS1103の処理の詳細]
図12は、図11に示されるステップS1103の処理の詳細を示すフローチャートである。先ず、対象検索操作が初期化される(ステップS1201)。後述するように、対象検索操作はステップS1205で取り出される検索操作602であるので、処理に先立って対象検索操作を初期化しておく。続いて、検索用操作リスト601から検索操作602を取り出す処理が行われ(ステップS1202)、取り出す検索操作602があるか否かが判定される(ステップS1203)。取り出す検索操作602がない場合(S1203で“NO”)、処理はステップS1206へ進められる。取り出す検索操作602がある場合(S1203で“YES”)、ステップS1202で取り出された検索操作602の最終実行時刻613が、対象検索操作の最終実行時刻よりも新しいか否かが判定される(ステップS1204)。
【0078】
検索操作602の最終実行時刻613が新しい場合(S1204で“YES”)、その検索操作602が対象検索操作とされる(ステップS1205)。一方、検索操作602の最終実行時刻613が新しくない場合(S1204で“NO”)、処理はステップS1202に戻される。取り出す検索操作602がなくなると(S1203で“NO”)、対象検索操作が確定され(ステップS1206)、その後、処理はステップS1104へと進められる。
【0079】
[ステップS1104の処理の詳細]
図13は、図11に示されるステップS1104の処理の詳細を示すフローチャートである。先ず、対象操作履歴が初期化される(ステップS1301)。後述するように、対象操作履歴はステップS1305で取り出される操作履歴220であるので、処理に先立って対象操作履歴を初期化しておく。続いて、優先画像の画像管理情報201から操作履歴220を取り出す処理が行われ(ステップS1302)、取り出す操作履歴があるか否かが判定される(ステップS1303)。
【0080】
取り出す操作履歴220がない場合(S1303で“NO”)、処理はステップS1306へ進められる。取り出す操作履歴220がある場合(S1303で“YES”)、取り出された操作履歴220の最終実行時刻222が、対象操作履歴の最終実行時刻よりも新しいか否かが判定される(ステップS1304)。
【0081】
取り出された操作履歴220の最終実行時刻222が新しい場合(S1304で“YES”)、その操作履歴220が対象操作履歴とされる(ステップS1305)。一方、取り出された操作履歴220の最終実行時刻222が新しくない場合(S1304で“NO”)、処理はステップS1302に戻される。取り出す操作履歴220がなくなると(S1203で“NO”)、対象操作履歴が確定され(ステップS1306)、その後、処理はステップS1105へと進められる。
【0082】
[ステップS1105の処理の詳細]
図14は、図11に示されるステップS1105の処理の詳細を示すフローチャートである。ステップS1103で確定した対象検索操作の操作ID221をステップS1104で確定した対象操作履歴の操作ID221へ適用することにより、優先画像の関連管理情報202から関連度252が取得される(ステップS1401)。こうしてS1401で取得した関連度252が、操作間の関連とされる(ステップS1402)。
【0083】
続いて、対象検索操作の最終実行時刻と対象操作履歴の最終実行時刻とを比較してその差を求め、その差が1日以内か否かが判定される(ステップS1403)。差が1日以内の場合(S1403で“YES”)、操作間の関連が強いと判断され、ステップS1402にて設定された操作間の関連を1.2倍し(ステップS1404)、その後、本処理を抜けて、処理はステップS1106(図11参照)へ進められる。一方、差が1日以内でない場合(S1403で“NO”)、ステップS1402にて設定された操作間の関連がそのまま維持されて本処理を抜け、処理はステップS1106へ進められる。
【0084】
<第2の画像検索方法>
第2の画像検索方法では、操作された表示画像の操作履歴を使用して候補画像を絞り込む。これにより、操作された表示画像に類似した操作履歴を持つ画像を対象画像として絞り込み、表示部104に掲示することができる。図15は、第2の画像検索方法のフローチャートである。
【0085】
最初に、ユーザによって指定された所定の操作が表示画像に対して実行される(ステップS1501)。このステップS1501は、図5を参照して説明したステップS501〜S503に相当する。続いて、表示画像の画像管理情報201の操作履歴220を検索用操作リスト601に追加するために、ステップS1502〜S1505の処理が行われる。
【0086】
ステップS1502では、表示画像の画像管理情報201からの操作履歴220の取り出しが行われ、続いて、取り出す操作履歴220があるか否かが判定される(ステップS1503)。操作履歴220がある場合(S1503で“YES”)、検索用操作リスト601に操作履歴220の操作が追加される(ステップS1504)。このステップS1504の処理は、先に図7を参照して説明したステップS701〜S706に準ずる。ステップS1504の後、処理はステップS1502に戻される。
【0087】
取り出す操作履歴220がない場合(S1503で“NO”)、検索用操作リスト601が空であるかどうかを検査し、空の場合には、表示画像に対して実行された操作が検索用操作リスト601に追加される(ステップS1505)。なお、ステップS1505において、検索用操作リスト601が空でない場合には、ステップS1504の後の検索用操作リスト601が維持される。
【0088】
ステップS1505の後、記憶媒体103に記憶されている全ての画像から、ステップS1501で操作された表示画像に類似する類似画像からなる類似画像群が抽出される(ステップS1506)。このステップS1506の処理は、図9を参照して説明したステップS901〜S909の処理に準ずる。次いで、実行された操作と類似画像の重要度212とに基づいて、操作対象としてユーザに次の掲示するための優先画像群が類似画像群から抽出される(ステップS1507)。このステップS1507の処理は、図10を参照して説明したステップS1001〜S1010の処理に準ずる。
【0089】
続いて、優先画像の操作履歴220にある操作とステップS1502〜S1505により得られた検索用操作リスト601の検索操作602との関連性が高い掲示画像群が優先画像群から抽出される(ステップS1508)。このステップS1507の処理は、図11を参照して説明したステップS1101〜S1108の処理に準ずる。次に、掲示画像群を構成する掲示画像は、掲示画像の操作履歴220にある操作と操作した表示画像の操作履歴220との関連性が高い順に並び替えられる(ステップS1509)。こうして、ステップS1509で並び替えられた掲示画像が対象画像として画像処理装置100の表示部104に表示される(ステップS1510)。
【0090】
以上の手順により、ユーザの操作に供される対象画像を絞り込んで、掲示することが可能になる。これにより、ユーザは、記憶媒体103から対象画像を容易に探し出して、所望の操作を行うことができる。
【0091】
<第3の画像検索方法>
第3の画像検索方法では、複数の画像の操作履歴を使用して候補画像を絞り込む。こうして、ユーザの操作履歴や画像の類似性等の傾向を複数の画像から取得することによって、候補画像をより適切に抽出して掲示することができるようになる。図16は、第3の画像検索方法のフローチャートである。
【0092】
最初に、操作する画像があるか否かが判定される(ステップS1601)。操作する画像がある場合(S1601で“YES”)、ユーザが指定した所定の操作が、操作する画像に対して実行される(ステップS1602)。このステップS1602は、図5を参照して説明したステップS501〜S503に準ずる。続いて、記憶媒体103に記憶された全画像から、ステップS1602で操作した画像に類似した類似画像からなる類似画像群が抽出される(ステップS1603)。このステップS1603の処理は、図9を参照して説明したステップS901〜S909の処理に準ずる。
【0093】
次に、操作した画像の画像管理情報201の操作履歴220を検索用操作リスト601に追加する処理が行われる(ステップS1604)。このステップS1604の処理は、図15を参照して説明したステップS1502〜S1505の処理に準ずる。ステップS1604の後、処理はステップS1601に戻される。ステップS1601で操作する画像がないと判断された場合(S1601で“NO”)、処理はステップS1605へ進められる。
【0094】
ステップS1605では、ステップS1602で実行された所定の操作と類似画像の重要度212とに基づいて、操作対象としてユーザに次の掲示するための優先画像からなる優先画像群が類似画像群から抽出される。このステップS1605の処理は、図10を参照して説明したステップS1001〜S1010の処理に準ずる。
【0095】
優先画像の操作履歴220にある操作と検索用操作リスト601の検索操作602との関連性が高い掲示画像群が優先画像群から抽出される(ステップS1606)。このステップS1606の処理は、図11を参照して説明したステップS1101〜S1108の処理に準ずる。次に、掲示画像群を構成する掲示画像は、掲示画像の操作履歴220にある操作とステップS1602において画像に対して実行された操作との関連性が高い順に並び替えられる(ステップS1607)。こうして、ステップS1607で並び替えられた掲示画像が対象画像として表示部104に表示される(ステップS1608)。
【0096】
以上の手順により、ユーザの操作に供される対象画像を絞り込んで、掲示することが可能になる。これにより、ユーザは、記憶媒体103から対象画像を容易に探し出して、所望の操作を行うことができる。
【0097】
<第1〜第3の画像検索方法の実行による効果>
以上の通り、第1〜第3の画像検索方法によれば、画像の類似性に加えて、ユーザの操作傾向に応じてユーザが画像を操作した際につづけて操作したい画像の候補を掲示することができる。これにより、ユーザは操作をする際に画像を検索するため手間を省くことができる。換言すれば、似たような画像で、且つ、似たような操作を行ったことがある画像に対しては、先に行った操作を同じように実行する可能性が高いと判定することができるので、これを利用して、同じような画像が多く記憶されている中から、同じような操作を行うべき画像を検索しなければならないときの検索性を向上させることができる。
【0098】
<他の実施形態>
以上、本発明をその好適な実施形態に基づいて詳述してきたが、本発明はこれら特定の実施形態に限られるものではなく、この発明の要旨を逸脱しない範囲の様々な形態も本発明に含まれる。さらに、上述した各実施形態は本発明の一実施形態を示すものにすぎず、各実施形態を適宜組み合わせることも可能である。
【0099】
例えば、操作履歴の関連度は、操作の履歴が同一又は類似するものを検索することができればよい。すなわち、上記実施形態における操作履歴の関連度の評価法は一例であり、ある画像に行った操作と他の画像に行った操作が同一又は類似のものを検索できるような仕組みであれば、他の形態でもよい。
【0100】
本発明は以下の処理を実行することによっても実現される。即ち、上述した実施形態の機能を実現するソフトウェア(プログラム)をネットワーク又は各種記憶媒体を介してシステム或いは装置に供給し、そのシステム或いは装置のコンピュータ(又はCPUやMPU等)がプログラムコードを読み出して実行する処理である。この場合、そのプログラム、及び該プログラムを記憶した記憶媒体は本発明を構成することになる。
【符号の説明】
【0101】
100 画像処理装置
101 処理部
102 入力部
103 記憶媒体
104 表示部
105 管理情報記憶部
201 画像管理情報
202 関連管理情報
【特許請求の範囲】
【請求項1】
複数の画像と、当該画像に対する操作履歴を記憶する記憶手段と、
前記記憶手段に記憶された前記複数の中から選択された画像に操作を実行する実行手段と、
前記実行手段での前記操作の実行の後に、前記記憶手段に記憶されている他の画像の中から、前記操作した画像に類似し、且つ、前記記憶手段に記憶されている操作履歴が同一又は類似する画像を検索する検索手段と、を有することを特徴とする画像検索装置。
【請求項2】
前記検索手段で検索された画像の中から、当該画像検索装置のユーザが所望する画像を選択することができるように掲示する掲示手段を更に有することを特徴とする請求項1記載の画像検索装置。
【請求項3】
前記記憶手段は、画像ごとに重要度の情報を記憶しており、
前記検索手段は、前記重要度を参照して検索された情報に優先度を付与することを特徴とする請求項1又は2記載の画像検索装置。
【請求項4】
前記操作履歴は、連続して実行された複数の操作に対する関連度の情報を有し、
前記検索手段は、前記関連度の情報に基づいて画像を検索することを特徴とする請求項1乃至3のいずれか1項に記載の画像検索装置。
【請求項5】
画像検索装置において実行される画像検索方法であって、
複数の画像と、当該画像に対する操作履歴を記憶手段に記憶する記憶ステップと、
前記記憶手段に記憶された画像の中から選択された画像に操作を実行する実行ステップと、
前記実行ステップでの前記操作の実行の後に、前記記憶手段に記憶されている他の画像の中から、前記実行ステップで操作した画像に類似し、且つ、前記記憶手段に記憶されている操作履歴が同一又は類似する画像を検索する検索ステップと、を有することを特徴とする画像検索方法。
【請求項6】
前記検索ステップで検索された画像の中から、当該画像検索装置のユーザが所望する画像を選択することができるように掲示する掲示ステップを更に有することを特徴とする請求項5記載の画像検索方法。
【請求項7】
前記記憶ステップでは、前記記憶手段に記憶する画像ごとに重要度の情報を記憶し、
前記検索ステップでは、前記重要度を参照して検索された情報に優先度を付与することを特徴とする請求項5又は6記載の画像検索方法。
【請求項8】
前記操作履歴は、連続して実行された複数の操作に対する関連度の情報を有し、
前記検索ステップでは、前記関連度の情報に基づいて画像を検索することを特徴とする請求項5乃至7のいずれか1項に記載の画像検索方法。
【請求項9】
画像検索装置が備えるコンピュータに画像検索方法を実行させるプログラムであって、
前記画像検索方法は、
複数の画像と、当該画像に対する操作履歴を記憶手段に記憶する記憶ステップと、
前記記憶手段に記憶された画像の中から選択された画像に操作を実行する実行ステップと、
前記実行ステップでの前記操作の実行の後に、前記記憶手段に記憶されている他の画像の中から、前記実行ステップで操作した画像に類似し、且つ、前記記憶手段に記憶されている操作履歴が同一又は類似する画像を検索する検索ステップと、を有することを特徴とするプログラム。
【請求項10】
画像検索装置が備えるコンピュータに画像検索方法を実行させるプログラムを格納した、コンピュータで読み取り可能な記憶媒体であって、
前記画像検索方法は、
複数の画像と、当該画像に対する操作履歴を記憶手段に記憶する記憶ステップと、
前記記憶手段に記憶された画像の中から選択された画像に操作を実行する実行ステップと、
前記実行ステップでの前記操作の実行の後に、前記記憶手段に記憶されている他の画像の中から、前記実行ステップで操作した画像に類似し、且つ、前記記憶手段に記憶されている操作履歴が同一又は類似する画像を検索する検索ステップと、を有することを特徴とする記憶媒体。
【請求項1】
複数の画像と、当該画像に対する操作履歴を記憶する記憶手段と、
前記記憶手段に記憶された前記複数の中から選択された画像に操作を実行する実行手段と、
前記実行手段での前記操作の実行の後に、前記記憶手段に記憶されている他の画像の中から、前記操作した画像に類似し、且つ、前記記憶手段に記憶されている操作履歴が同一又は類似する画像を検索する検索手段と、を有することを特徴とする画像検索装置。
【請求項2】
前記検索手段で検索された画像の中から、当該画像検索装置のユーザが所望する画像を選択することができるように掲示する掲示手段を更に有することを特徴とする請求項1記載の画像検索装置。
【請求項3】
前記記憶手段は、画像ごとに重要度の情報を記憶しており、
前記検索手段は、前記重要度を参照して検索された情報に優先度を付与することを特徴とする請求項1又は2記載の画像検索装置。
【請求項4】
前記操作履歴は、連続して実行された複数の操作に対する関連度の情報を有し、
前記検索手段は、前記関連度の情報に基づいて画像を検索することを特徴とする請求項1乃至3のいずれか1項に記載の画像検索装置。
【請求項5】
画像検索装置において実行される画像検索方法であって、
複数の画像と、当該画像に対する操作履歴を記憶手段に記憶する記憶ステップと、
前記記憶手段に記憶された画像の中から選択された画像に操作を実行する実行ステップと、
前記実行ステップでの前記操作の実行の後に、前記記憶手段に記憶されている他の画像の中から、前記実行ステップで操作した画像に類似し、且つ、前記記憶手段に記憶されている操作履歴が同一又は類似する画像を検索する検索ステップと、を有することを特徴とする画像検索方法。
【請求項6】
前記検索ステップで検索された画像の中から、当該画像検索装置のユーザが所望する画像を選択することができるように掲示する掲示ステップを更に有することを特徴とする請求項5記載の画像検索方法。
【請求項7】
前記記憶ステップでは、前記記憶手段に記憶する画像ごとに重要度の情報を記憶し、
前記検索ステップでは、前記重要度を参照して検索された情報に優先度を付与することを特徴とする請求項5又は6記載の画像検索方法。
【請求項8】
前記操作履歴は、連続して実行された複数の操作に対する関連度の情報を有し、
前記検索ステップでは、前記関連度の情報に基づいて画像を検索することを特徴とする請求項5乃至7のいずれか1項に記載の画像検索方法。
【請求項9】
画像検索装置が備えるコンピュータに画像検索方法を実行させるプログラムであって、
前記画像検索方法は、
複数の画像と、当該画像に対する操作履歴を記憶手段に記憶する記憶ステップと、
前記記憶手段に記憶された画像の中から選択された画像に操作を実行する実行ステップと、
前記実行ステップでの前記操作の実行の後に、前記記憶手段に記憶されている他の画像の中から、前記実行ステップで操作した画像に類似し、且つ、前記記憶手段に記憶されている操作履歴が同一又は類似する画像を検索する検索ステップと、を有することを特徴とするプログラム。
【請求項10】
画像検索装置が備えるコンピュータに画像検索方法を実行させるプログラムを格納した、コンピュータで読み取り可能な記憶媒体であって、
前記画像検索方法は、
複数の画像と、当該画像に対する操作履歴を記憶手段に記憶する記憶ステップと、
前記記憶手段に記憶された画像の中から選択された画像に操作を実行する実行ステップと、
前記実行ステップでの前記操作の実行の後に、前記記憶手段に記憶されている他の画像の中から、前記実行ステップで操作した画像に類似し、且つ、前記記憶手段に記憶されている操作履歴が同一又は類似する画像を検索する検索ステップと、を有することを特徴とする記憶媒体。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【公開番号】特開2012−88997(P2012−88997A)
【公開日】平成24年5月10日(2012.5.10)
【国際特許分類】
【出願番号】特願2010−236367(P2010−236367)
【出願日】平成22年10月21日(2010.10.21)
【出願人】(000001007)キヤノン株式会社 (59,756)
【Fターム(参考)】
【公開日】平成24年5月10日(2012.5.10)
【国際特許分類】
【出願日】平成22年10月21日(2010.10.21)
【出願人】(000001007)キヤノン株式会社 (59,756)
【Fターム(参考)】
[ Back to top ]