説明

画像再生装置および画像再生方法

【課題】 適用可能な画像の範囲が広く、短時間で生成することができ、ユーザーに期待感や楽しみを与えることの可能な画像再生装置および画像再生方法を提供する。
【解決手段】 顔検出文字検出及び加工部8aは、画像の中から顔の検出や、文字の除去処理を行う。コンテンツジャケットには、往々にして、画像のみならずタイトルや著者やアーティスト名の他、レーベル、出版社名などの文字が含まれている。そこで、顔検出文字検出および加工部8a中の文字検出部によって、画像から文字等を除去し、類似画像検索部8は文字除去された音楽CD等のジャケットの画像と撮影画像を比較し、撮影画像に類似する画像(すなわち補助画像)を検索する。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、画像再生装置および画像再生方法に関し、詳しくは、デジタルカメラ等の撮像装置によって撮影した画像を、楽しく鑑賞するための画像再生システムおよび画像再生方法に関する。
【背景技術】
【0002】
近年、デジタルカメラ等の撮像装置が普及してきている。撮像装置において撮影した画像を楽しむにあたっては、プリントするのみならず、パーソナルコンピュータ(PC)、携帯電話、テレビ等の画面で鑑賞することを簡単に行うことができる。これらの機器において、撮影画像を鑑賞する方法として、プリントされた写真を順次見るのと同様に、画面に画像を順次再生するスライドショーの技法が行われている。しかし、スライドショーは、単に画像が順次切り替わるだけで、全て見終わるのに時間がかかり、単調であることから、現状それほど普及しているとは言い難い状況である。
【0003】
このようにスライドショーの技法に付加価値を高めるために、特許文献1では、スライドショーを構成する各顔画像の集合写真を合成し、スライドショーに挿入するようにしたスライドショー再生方法が開示されている。すなわち、この再生方法においては、顔画像の数の多いグループの代表画像から序列をつけ、また画像のサイズを決定して集合シーンを生成し、この集合シーンをスライドショーのラストシーンに挿入している。
【特許文献1】特開2007−249371号公報
【発明の開示】
【発明が解決しようとする課題】
【0004】
前述の特許文献1に記載のスライドショー再生方法では、顔画像以外の画像には適用することができない。また、代表画像を新たに生成する必要があり、代表画像の生成に手間と時間がかかってしまう。さらに、代表画像は「顔画像の集合写真」という予測範囲に限定されたものであり、ユーザーにワクワクした期待感や楽しみを与えるものではない。
【0005】
本発明は、このような事情を鑑みてなされたものであり、適用可能な画像の範囲が広く、短時間で生成することができ、ユーザーに期待感や楽しみを与えることの可能な画像再生装置および画像再生方法を提供することを目的とする。
【課題を解決するための手段】
【0006】
上記目的を達成するため第1の発明に係わる画像再生装置は、撮影した画像と類似した類似画像をデータベースから検索して再生する画像再生装置において、画像の顔の位置を検出する顔検出部を有し、上記画像データベースに含まれる画像のアスペクト比に合わせた範囲において、上記顔位置を考慮した画像の一致度に従って、上記類似画像を検索する検索部と、を具備することを特徴とする。
【0007】
第2の発明に係わる画像再生装置は、上記第1の発明において、上記データベースに含まれる画像の文字部を検出する文字検出部を有し、上記検索部は、上記検出された文字部以外で上記類似画像を検索することを特徴とする。
【0008】
第3の発明に係わる画像再生装置は、上記第1の発明において、検索された画像を補助画像として順次表示するスライドショー再生部を具備することを特徴とする。
【0009】
第4の発明に係わる画像再生装置は、上記第3の発明において、上記データベースに含まれる画像は、画像や音楽を含むコンテンツのパッケージ画像であることを特徴とする。
【0010】
第5の発明に係わる画像再生装置は、上記第4の発明において、上記スライドショー再生部は、上記順次表示をしながら上記コンテンツパッケージに含まれる音楽データを再生することを特徴とする。
【0011】
第6の発明に係わる画像再生方法は、撮影した画像と類似した類似画像をデータベースから検索して再生する画像再生方法において、画像の顔の位置を検出する顔検出ステップと、上記データベースに含まれる画像の文字部を検出する文字検出ステップと、を有し、上記画像データベースに含まれる画像を上記検出された文字部以外で、上記顔位置を考慮した画像の一致度に従って、上記類似画像を検索する検索ステップと、を具備することを特徴とする。
【0012】
第7の発明に係わる画像再生方法は、上記第6の発明において、上記画像データベースに含まれる画像のアスペクト比に合わせた範囲において、上記類似画像を検索することを特徴とする。
【0013】
第8の発明に係わる画像再生方法は、上記第6の発明において、検索された画像を補助画像として順次表示するスライドショー再生ステップを具備することを特徴とする。
【0014】
第9の発明に係わる画像再生方法は、上記第8の発明において、上記データベースに含まれる画像が、画像や音楽を含むコンテンツのパッケージ画像であることを特徴とする。
【0015】
第10の発明に係わる画像再生方法は、上記第9の発明において、上記スライドショー再生ステップは、上記順次表示をしながら上記コンテンツパッケージに含まれる音楽データを再生することを特徴とする。
【0016】
第11の発明に係わる画像再生装置は、撮影した画像と類似した画像をデータベースから検索して再生する画像再生装置において、撮影した画像を取得して仮記憶する仮記憶部と、上記仮記憶画像を、上記データベースに記録されたコンテンツパッケージの画像を比較して上記一致度の高い画像を検索する検索部と、上記一致度の高い画像とその関連情報を送信する送信部と、を具備することを特徴とする。
【0017】
第12の発明に係わる画像再生方法は、上記第11の発明において、上記画像データベースに含まれるコンテンツパッケージの画像の文字部を検出する文字検出部を有し、上記検索部は、上記文字部以外で上記類似画像を検索することを特徴とする。
【0018】
第13の発明に係わる画像再生方法は、上記第11の発明において、情報変更を受信した場合には、次に一致度の高い画像と関連情報を送信することを特徴とする。
【発明の効果】
【0019】
本発明によれば、適用可能な画像の範囲が広く、短時間で生成することができ、ユーザーに期待感や楽しみを与えることの可能な画像再生装置及び画像再生方法を提供することができる。
【発明を実施するための最良の形態】
【0020】
以下、図面に従って本発明を適用した画像再生システムを用いて好ましい実施形態について説明する。図1は本発明の第1実施形態に係わるカメラ10、パーソナルコンピュータ20、テレビ30とからなる画像再生システムの構成を示すブロック図である。
【0021】
カメラ10は被写体を撮影し、画像を取得するデジタルカメラである。パーソナルコンピュータ20は、カメラ10と接続可能であり、後述するように音楽CD等のジャケットの画像データ等を記憶している。テレビ30はカメラ10に接続可能であり、カメラ10内で生成されたスライドショーの画像データに基づいてスライドショーを再生表示する。
なお、カメラ10とパーソナルコンピュータ20との接続は、ケーブル等による有線接続や、電波や赤外線等の無線接続の他、USBメモリ等の記憶媒体を介してのやり取りも含む。
【0022】
カメラ10は、撮影部1、画像記録部2、画像選択部3、通信及び制御部4、表示部5、スライドショー部6、順番制御部7、類似画像検索部8、顔検出文字検出及び加工部8a、補助コンテンツ記録部9を有している。通信及び制御部4は、カメラ10の全体制御を行い、また、パーソナルコンピュータ20およびテレビ30と接続した際に、通信を行う。
【0023】
撮影部1は、被写体像を結像するための光学系、被写体像を光電変換する撮像素子、撮像素子から出力される信号を処理する画像処理部等を含み、画像データを出力する。画像記録部2は、撮影部1から出力される画像データを記録する。表示部5は、画像記録部2に記録されている画像の再生表示等の表示を行う。画像選択部3は、撮影者による操作部材からの指示に応じて、代表画像を選択する。
【0024】
類似画像検索部8は、画像選択部3で指示した代表画像に類似する補助画像を、パーソナルコンピュータ20等に記録されている画像等の中から検索する。本実施形態においては、音楽CD等のコンテンツのジャケットの画像等と、撮影画像を比較し、撮影画像に類似する画像を検索する。
【0025】
顔検出文字検出及び加工部8aは、画像の中から顔の検出や、文字の除去処理を行う。
コンテンツジャケットには、往々にして、画像のみならずタイトルや著者やアーティスト名の他、レーベル、出版社名などの文字が含まれている。そこで、顔検出文字検出および加工部8a中の文字検出部によって、画像から文字等を除去し、類似画像検索部8は文字除去された音楽CD等のジャケットの画像と撮影画像を比較し、撮影画像に類似する画像(すなわち補助画像)を検索する。
【0026】
補助コンテンツ記録部9は、類似画像検索部8によって検索された補助画像を記録する。また、補助画像に関連する情報、例えば、音楽CD等のコンテンツに記録された音楽(音声データ)、またこの音楽の歌詞のテキストデータ等も記録する。
【0027】
スライドショー部6は、画像記録部2に記録されている代表画像や撮影画像と、補助コンテンツ記録部9に記録されている補助画像等を組み合わせて、表示部5にスライドショーを行わせる。順番制御部7は、スライドショーを行う際の画像の再生表示の順番を制御する。
【0028】
パーソナルコンピュータ20は、通信及び制御部24とコンテンツジャケット記録部21を有している。通信及び制御部24はパーソナルコンピュータ20の全体制御を行うと共に、カメラ10の通信及び制御部4に接続された際には、通信の制御を行う。コンテンツジャケット記録部21は、LPレコード、音楽CD、DVD等のコンテンツのジャケットの画像や、本の表紙画像や、音楽や歌詞等のコンテンツに関連する情報を記憶している。すなわち、コンテンツとしては、既存の漫画、アニメ、テレビ番組、映画、音楽等、種々のものを含み、コンテンツジャケット記録部21には、これらのコンテンツに関連する画像、および関連する情報が蓄積されている。
【0029】
本実施形態において、カメラ10は、これらの情報を通信及び制御部4、およびパーソナルコンピュータ20の通信及び制御部24を介して、コンテンツジャケット記録部21より取得する。しかし、この方法以外にも、パーソナルコンピュータ20からインターネット等のネットワークを介して外部サーバー等から取得しても良く、また、カメラ10がインターネット等のネットワークを介して、直接外部サーバー等にアクセスし、これらの情報を取得するようにしても良い。また、この方法以外にも、メモリカード等、これらの情報が記録された記録媒体を利用するようにしても良い。
【0030】
次に、図2を用いて、本実施形態における動作について説明する。まず、図2(a)に示すように、カメラ10を用いて撮影を行う。続いて、図2(b)に示すように、カメラ10をパーソナルコンピュータ20に接続する。このとき、ユーザーは表示部8に再生された撮影画像を見ながら代表画像を選択する。カメラ10の類似画像検索部8等は、代表画像と類似する補助画像の検索を行い、検索された補助画像を補助コンテンツ記録部9に記録する。
【0031】
カメラ10で撮影した画像は、カメラ10の表示部5で通常の1駒単位での再生表示やスライドショーで楽しむこともできるが、図2(c)に示すようにテレビ30に接続し、友人等、多数の人と一緒に見て楽しむことができる。また、テレビ30で再生表示して楽しむにあたって、図2(d)に示すように、導入用画像として、みんなの知っているコンテンツ(補助画像)を再生表示し、始まる際の心の準備をしてもらうことができる。
【0032】
図2(d)に示すスライドショーは、撮影画像の1駒だけを再生するのではなく、撮影画像の中から複数選びスライドショーで鑑賞する際に、補助コンテンツ(補助画像)として検索した音楽CD等のジャケットを組み合わせて表示する。すなわち、図2(c)に示すような撮影画像100を再生表示する先だって、図2(d)に示すように、撮影画像100に類似したジャケット画像110を表示する。このような補助コンテンツ(この場合は、ジャケット画像110)を表示することにより、単に撮影画像100を表示するだけより、鑑賞者の興味をひきつけることができる。
【0033】
なお、この音楽CDに記録されている音楽をBGMとして利用すれば、さらに雰囲気を盛り上げるのに役立てることができる。すなわち、補助画像の元となっている音楽CDの音楽は、撮影画像の持つ雰囲気と同じジャケットの音楽であることから、自然で調和した感じの場合が多く、わざわざ選曲する手間を省くことができる。
【0034】
また、図3(a)に示すような音楽CDのジャケットのジャケット画像110を検索対象として類似画像の検索を行う場合、図3(b)に示すように文字の部分を除去し、純粋に画像部分111のみを抽出する。そして、図3(c)に示すような撮影画像100と、図3(b)に示すような画像部分111の比較を行って、撮影画像100と類似する画像の検索を行う。
【0035】
なお、類似画像の検索時には、画面内の顔の位置や大きさの情報を利用するようにしても良い。近年、カメラの分野では、ピントや露出を合わせるために、画面内から顔の位置を特定する技術の研究が行われており、このような技術を応用すれば良い。
【0036】
次に、本実施形態におけるカメラ10の動作を、図4に示すフローチャートを用いて説明する。カメラ制御のフローに入ると、まず、再生モードに設定されているか否かの判定を行う(S1)。このカメラ10は、再生モードと撮影モードの2つのモードが使用可能である。判定の結果、再生モードが設定されていない場合には、撮影モードと判定され、次に、レリーズ釦の操作状態を検出し、撮影を行うか否かの判定を行う(S2)。
【0037】
判定の結果、撮影ではなかった場合には、ステップS1に戻り、一方、撮影であった場合には、撮影動作を実行する(S3)。撮影動作は、撮影部1において、被写体像の画像データを取得し、この画像データを画像記録部2に記録する。撮影動作が終わると、リターンし、ステップS1に戻る。
【0038】
ステップS1における判定の結果、再生モードであった場合には、再生釦等の操作状態を検出し、再生を行うか否かの判定を行う(S11)。判定の結果、再生を行う場合には、ステップS12以下に進み、再生モードを実行する。本実施形態における再生モードでは、通常の再生表示や通常のスライドショーに加えて、補助コンテンツと組み合わせたスライドショーによる再生表示が可能である。
【0039】
次に、データベース(DB)通信を行うか否かの判定を行う(S13)。カメラ10のユーザーが、補助コンテンツとしての補助画像を得る場合には、ユーザーはその旨の操作を行うので、このステップでは、操作が行われたか否かの判定を行う。判定の結果、DB通信を行う場合には、続いて、類似画像の検索を行うか否かの判定を行う(S21)。ここでの判定は、ユーザーによる検索開始の操作がなされたか否かである。
【0040】
ステップS21における判定の結果、検索開始ではなかった場合には、ステップS1に戻る。一方、検索開始の場合には、代表画像の指定を行う(S22)。このステップでは、画像記録部2に記録されている撮影画像を表示部5に順次再生表示させ、この再生表示された撮影画像の中から、ユーザーが好みに応じて代表画像を指定する。
【0041】
代表画像の指定が終わると、次に、選択された代表画像と類似する画像の検索を行う(S23)。この類似画像を検索する画像一致度判定のサブルーチンについては、図5を用いて後述する。続いて、ステップS22で指定された代表画像について、全ての対象画像と画像一致度判定がなされ、終了したかを判定する(S25)。判定の結果、終了ではなかった場合には、対象画像を変更し(S27)、ステップS23に戻り、ステップS27で変更された対象画像に対して画像一致度の判定を行う。
【0042】
ステップS25において、全ての対象画像との画像一致度の判定が終了したと判定されると、次に、一致度最大の画像を取得する(S26)。ステップS23の画像一致度判定のサブルーチンの中で、対象画像ごとに一致度が数値化されるので、一致度を判定した対象画像の中で一致度の数値が最も高い対象画像を、このステップで取得し、これを補助画像とする。一致度最大画像を取得すると、リターンし、ステップS1から実行する。なお、スライドショーで補助画像と共に再生表示する代表画像は通常1駒とするが、複数ある場合には、代表画像の選択を複数回、繰り返す。
【0043】
ステップS13における判定の結果、DB通信でなかった場合には、次にスライドショーか否かの判定を行う(S14)。判定の結果、スライドショーでなかった場合には、通常の再生表示、例えば、サムネイル再生からの選択画像の再生表示を行う(S15)。一方、スライドショーの場合には、ステップS31以下のステップを実行することにより、補助画像(ステップS26において取得した画像)をあたかもスライドショーのオープニング画面のように再生した後に、代表画像を再生表示し、その後、順次、撮影した時系列に従って撮影画像をスライドショーの形式で再生表示する。
【0044】
スライドショーは、まず、画像受信済みか否かの判定を行う(S31)。すなわち、ステップS13において、DB通信を行い、ステップS26において補助画像を取得したか否かの判定を行う。
【0045】
判定の結果、画像受信済みの場合には、外部出力を行うか否かの判定を行う(S32)。カメラ10にテレビ30が接続され、図2(c)(d)に示したように多人数で鑑賞する場合には、このステップで、スライドショーの画像データをテレビ30等の外部機器に外部出力を行う。判定の結果、外部出力の場合には、通信及び制御部4からテレビ30等の外部機器に補助画像、代表画像、撮影画像等の画像データ等を出力する。画像外部出力が終わると、リターンし、ステップ1から実行する。
【0046】
ステップS32における判定の結果、外部出力でなかった場合には、補助画像の再生を行い(S33)、続いて、代表画像の再生を行う(S34)。代表画像の再生が終わると、撮影日時順に順次撮影画像をスライドショーする(S35)。
【0047】
このように通常のスライドショーに先立って、代表画像と類似している補助画像を再生表示し、その後、代表画像を再生表示している。つまり、図2(d)に示すように、補助画像を最初に再生して、スライドショーの始まる感じを高め、そのあと、図2(c)に示すように、撮影画像の再生を開始する。補助画像に続いて出される画像は、類似画像の検索の元となった代表画像である。代表画像が表示されることによって、何故、その補助画像が表示されたかが鑑賞者に理解される。図1における順番制御部7は、こうした並べ替えを行う。
【0048】
ステップS31における判定の結果、画像受信済みでなかった場合には、補助画像が検索されていないことから、ステップS33、S34をスキップし、ステップS35の時系列スライドショーを実行する。時系列スライドショーが終わると、リターンし、ステップS1から実行する。
【0049】
次に、ステップS23における画像一致度判定のサブルーチンについて、図5に示すフローチャートを用いて説明する。画像一致度の判定するにあたって、コンテンツジャケット記録部21等のデータベース(DB)に格納されているDB画像は、撮影画像とアスペクト比が異なっている点に注意を要する。
【0050】
例えば、LPレコードや音楽CDのジャケットのように正方形の画像と、通常のデジタルカメラの4:3の画像では、そのまま一致度を比較することが困難である。そこで、本実施形態においては、DB画像のアスペクト比に合わせて、撮影画像の中央部を切り出してから比較している。また、そのように切り出した範囲で、画像の類似度を比較すると共に、顔の位置を検出し、文字を除去した画像を用いて比較を行っている。
【0051】
画像一致度判定のサブルーチンに入ると、まず、ステップS22において指定された代表画像の顔の数と位置判定を行う(S101)。続いて、ステップS101における判定結果に基づいて、代表画像に顔が有ったか否かについて判定する(S102)。判定の結果、顔が有った場合には、データベース(DB)としてのコンテンツジャケット記録部21に記録されている画像の中から顔の存在する画像を選択する(S103)。このステップでは、多数ある画像の中から対象画像として1つを選択する。前述した、ステップS27の処理によって次の対象画像が選択され、また、ステップS25において、全ての対象画像について処理が終了したかが判定される。
【0052】
続いて、コンテンツジャケット記録部21に記録されている画像のアスペクト比に合わせた範囲で、代表画像と比較を行う(S104)。そして、コンテンツジャケット記録部21に記録されている画像と、アスペクト比を考慮した範囲内で、顔の位置や、顔の数が同じ画像を選択する(S105)。
【0053】
ステップS102における判定の結果、代表画像に顔が存在していなかった場合には、コンテンツジャケット記録部21に記録されて画像の中から顔が存在しない画像を選択する(S111)。そして、コンテンツジャケット記録部21に記録されている画像のアスペクト比に合わせた範囲で、代表画像と比較を行う(S112)。
【0054】
ステップS105またはS112における処理が終わると、次に、選択された画像の中に文字が存在しているか否かの判定を行う(S106)。前述したように、画像の中に文字等が混在していると、類似度の判定の精度が低下するため、事前に文字等を除いた部分で一致度を判定している。
【0055】
ステップS106における判定の結果、文字が存在していた場合には、文字部以外で一致度を判定し(S107)、ステップS106において文字が存在していなかった場合には、ステップS107をスキップし、ステップS108に進む。
【0056】
続いて、コンテンツジャケット記録部21に記録されているDB画像のアスペクト比に合わせた範囲の全体で、代表画像と類似の一致度を判定する(S108)。一致度の判定が終わると、元のルーチンに戻る。
【0057】
以上説明したように、本発明の第1実施形態においては、スライドショーで撮影画像を再生表示する前に、代表画像と、この代表画像に類似した補助画像を再生表示する。補助画像は、DB画像が記録されているコンテンツジャケット記録部21の中から検索しており、補助画像と代表画像を再生表示することにより、鑑賞者の興味を引き付けることができ、ユーザーに期待感や楽しみを与えることの可能である。
【0058】
また、本実施形態においては、代表画像に顔画像が存在している必要がないことから、適用可能な画像の範囲が広く、また、代表画像は単に撮影画像から指定するだけであり、代表画像作成のための画像処理がなく、短時間で生成することができる。
【0059】
さらに、本実施形態においては、DB画像のアスペクト比に応じた範囲で一致度の判定を行っており、また文字部分は無視して一致度を判定するようにしているので、短時間で精度の高い一致度の判定を行うことができる。
【0060】
なお、本実施形態においては、DB画像としては、音楽CD等のジャケットや本等の表紙の画像であったが、これに限らず、例えば、カメラ10の撮影者が既に撮影した画像や、また外部サーバーに記録されている第三者が撮影した画像や、イラスト・絵画等、その他種々の画像であっても良い。
【0061】
また、本実施形態においては、時系列スライドショーに先立って冒頭部分のみに、代表画像および補助画像の再生表示を行っていたが、これに限らず、中間部分の区切りの良いタイミング等において第2の代表画像とその補助画像の再生表示を行うようにしても良い。さらに、本実施形態においては、カメラ10とパーソナルコンピュータ20を連携したシステムとしていたが、カメラ10の画像選択部3、類似画像検索部8、顔検出文字検出及び加工部8a、スライドショー部6、順番制御部7、補助コンテンツ記録部9等の機能を、パーソナルコンピュータ20とこれにインストールされたプログラムによって実行するようにしても良い。
【0062】
次に、本発明の第2実施形態について、図6ないし図9を用いて説明する。第1実施形態においては類似画像の検索をカメラ10内で行っていたが、第2実施形態においては、インターネット等のネットワークを経由してサーバー等の外部機器で類似画像検索を行うようにしている。
【0063】
図6は第2実施形態に係わるカメラ10、サーバー40とからなる画像再生システムの構成を示すブロック図である。カメラ10は、撮影部1、画像記録部2、画像選択部3、通信及び制御部4、表示部5、スライドショー部6、順番制御部7、補助コンテンツ記録部9を有している。これらの各部の機能は、図1に示した第1実施形態と同様であるので詳細な説明は省略する。
【0064】
データベースとしての機能を果たすサーバー40は、コンテンツジャケット記録部21、類似画像検索部22、顔検出文字検出及び加工部23、通信及び制御部24、代表画像仮記憶部25を有する。通信及び制御部24は、サーバー40の全体制御を行うと共に、インターネット網等を通じてカメラ10等の外部機器との通信を行う。
【0065】
類似画像検索部22および顔検出文字検出及び加工部23は、図1に示した第1実施形態と同様であるので、詳細な説明は省略するが、顔検出文字検出及び加工部23は顔の位置、数を検出し、また文字部分を抽出して画像から除去する機能を果たす。また、類似画像検索部22は、コンテンツジャケット記録部21に記録されている画像の中から代表画像と類似する画像を検索する。
【0066】
代表画像仮記憶部25は、カメラ10の画像選択部3で指定された代表画像を、仮記憶するための記憶部である。前述した類似画像検索部22は、代表画像仮記憶部25に記憶されている代表画像を用いて検索を行う。
【0067】
このように、カメラ10側には、補助コンテンツ記録部9と、スライドショーの順番制御部7と、スライドショーのために画像記録部2や補助コンテンツ記録部9から逐次データを読み出して再生するスライドショー部6等を配置し、サーバー40側には、カメラ10から送られてきた代表画像を仮記憶する機能と、類似画像を検索する機能を持たせている。類似画像の検索にあたっては、第1実施形態と同様、人物画像か否かや、顔の位置、数などを考慮して検索を行うようにし、また、補助コンテンツの文字部は無視して処理する。
【0068】
次に、図7を用いて、本実施形態における動作について説明する。図7に示すように、カメラ10は、被写体11を撮影し、このとき撮影した撮影画像12の中から代表画像12aを指定し(図中No.4の画像)、この代表画像12aをネットワーク19を介してサーバー40に送信する。サーバー40は、データベースとしてのコンテンツジャケット記録部21から、代表画像と類似する類似画像を検索し、一致度の最も高い画像を補助画像22とする。
【0069】
補助画像22が検索されると、サーバー40はカメラ10に補助画像22を送信する。
カメラ10はスライドショーを開始すると、まず、検索された補助画像22が再生表示され、続いて代表画像12aが再生され、この後、撮影順にNo.1〜No.4の撮影画像12が再生される。
【0070】
また、補助画像22は、出版されたコンテンツであるため、そのコンテンツに対してメーカーが付した付随情報や、ユーザーの感想や意見等、付随情報(図中A〜D)が付いている。音楽CDの場合には、付随情報として楽曲データも含まれている。そこで、補助画像22の再生表示と共に、音楽CDに収録されている楽曲を再生しながら、スライドショーを行うことが可能となる。また、曲名、作曲家、アーティストなど、その他の情報から、その音楽CDには収録されていなくとも、同様の雰囲気を持つ楽曲を、検索して再生するようにしても良い。
【0071】
次に、本実施形態におけるカメラ10の動作を、図8に示すフローチャートを用いて説明する。図4に示した第1実施形態におけるカメラ制御と同じ処理ステップについては、同一のステップ番号を付与し、詳細な説明は省略する。第1実施形態においては、補助画像の検索はカメラ10内において行っていたが、第2実施形態においては、サーバー40において検索を行っており、この相違点を中心に説明する。
【0072】
カメラ制御のフローに入り実行するステップS1〜ステップS15は、第1実施形態と同様である。ステップS13におけるDB通信か否かの判定の結果、DB通信であった場合には、補助画像やその関連情報の取得を開始するか判定する(S21A)。この判定は、不図示の取得開始用の操作部材がユーザーによって操作されたか否かを検出する。
【0073】
ステップS21Aにおける判定の結果、補助画像等の取得を行わない場合には、別の情報を取得すべく取得情報の変更を行ってから(S29)、ステップS1に戻る。ステップS29は、後述するステップS26Aにおいて取得した補助画像やその関連情報では満足できない場合に、さらに情報の取得を行うために、情報取得のための条件等を設定・変更する。一方、ステップS21Aにおける判定の結果、補助画像等の取得を開始する場合には、代表画像を指定し(S22)、この指定された代表画像をサーバー40に送信する(S23A)。代表画像は表示部5に再生表示されている撮影画像の中からユーザーが指定したものである。
【0074】
代表画像の送信が終わると(S25→Yes)、サーバー40から一致度が最大となった画像(補助画像)と、この補助画像に関連する情報を取得する(S26A)。すなわち、補助画像等の検索はサーバー40が行うので、カメラ10はサーバー40における検索が終了し、検索結果を送信されてくるのを待ち、送信されてくると、送信されてきた補助画像とその関連情報を取得する。関連情報としては、補助画像が音楽CDのジャケットの画像であれば、音楽CDに収録されている音楽等である。
【0075】
ステップS14における判定の結果、スライドショーでなかった場合には、画像受信済みか否かの判定を行う(S31)。第2実施形態においては、補助画像の検索は、外部のサーバー40において実施しており、このステップでは、サーバー40から補助画像をステップS26Aにおいて受信したか否かの判定を行う。
【0076】
ステップS31における判定の結果、画像を受信していれば、図7を用いて説明したように、補助画像を再生表示し、また関連情報を用いて、例えば、音楽CDの再生を行い(S33A)、代表画像を再生表示する(S35A)。補助画像と代表画像の再生表示を終えると、続いて、撮影画像を撮影日時順に順次、再生する通常のスライドショーを実行する(S35A)。
【0077】
ステップS31における判定の結果、画像を受信していない場合には、補助画像がないことから、ステップS35Aにおいて、通常のスライドショーを実行し、通常のスライドショーが終わると、リターンし、ステップS1から実行する。
【0078】
このように、第2実施形態におけるカメラ10は、画像検索は行わず、代表画像をサーバー40に送信(S24)し、サーバー40から検索された補助画像等を取得し(S26)、この補助画像を用いてスライドショーを実行している(S33〜S35)。また、ネット通信状態では、ネットを介して、外部に画像を送信し(S23A)、また得られた取得情報から、さらなる別の情報を取得している(S29)。検索された補助画像等が気に入らない時や、楽曲が気に入らない時には、ステップS29において、さらなる情報取得する旨を発信することができる。
【0079】
なお、第2実施形態においても、第1実施形態と同様に、カメラ10にテレビ30を撮像可能とし、補助画像を再生表示するスライドショーを行うようにしても良い。この場合には、ステップS31の次に、外部出力を行うかの判定し、判定結果に応じて、画像を外部に出力するようにする。
【0080】
次に、本実施形態におけるサーバー40の動作を、図9に示すフローチャートを用いて説明する。このフローに入ると、まず、代表画像を取得したか否かについて判定する(S51)。前述したように、カメラ10はステップS23Aにおいて、代表画像を送信してくるので、このステップにおいて代表画像を受信したか否かの判定を行う。
【0081】
ステップS51における判定の結果、代表画像を取得した場合には、取得した代表画像を代表画像仮記憶部25に仮記憶する(S52)。続いて、顔検出文字検出及び加工部23によって対象画像から文字を除去する(S53)。すなわち、コンテンツジャケット記録部21に記録されている音楽CD等のジャケットの画像には、文字等が記載されており、この文字等を除去することにより、画像の一致度の判定の精度を向上させている。
【0082】
続いて、顔検出文字検出及び加工部23によって対象画像の顔の位置を検出し、この顔位置も考慮して、代表画像と対象画像の一致度を判定する(S54)。ここでは、一致度に応じた数値を求めておく。一致度の判定が終わると、コンテンツジャケット記録部21中の対象画像の全部について一致度の判定が終了したか否かの判定を行う(S55)。判定の結果、終了していなかった場合には、次の対象画像に変更し(S57)、ステップS53に戻り、前述と同様に判定を繰り返す。
【0083】
ステップS55における判定の結果、全ての対象画像について判定が終わった場合には、一致度の最大の画像(補助画像)と、この補助画像の関連情報(例えば、収録されている音楽等)を、カメラ10に送信する(S56)。
【0084】
続いて、カメラ10から画像NGを受けたか否かの判定を行う(S71)。すなわち、カメラ10のユーザーがサーバー40から送信されてきた補助画像では満足できない場合には、ステップS29において取得情報変更でその旨を送信してくる。判定の結果、画像NGを受信した場合には、次に一致度の高い画像とその関連情報をカメラ10に送信し(S72)、ステップS71に戻る。
【0085】
ステップS71における判定の結果、画像NGでなかった場合には、次に、関連情報がOKか否かの判定を行う(S73)。カメラ10のユーザーが、サーバー40から送信された関連情報では満足できない場合には、ステップS29においてその旨を送信してくる。判定の結果、OKではなかった場合には、補助画像に関連する別の関連情報を送信し(S74)、ステップS73に戻る。ステップS73における判定の結果、関連情報がOKの場合には、リターンする。
【0086】
ステップS51の判定の結果、代表画像を取得していなかった場合には、通常の画像の記録と閲覧のサーバーとして働く。まず、記録用の画像を取得したか否かの判定を行う(S61)。判定の結果、記録用の画像を取得した場合には、その画像をサーバー40内の記録用の画像記録部に記録し(S62)、リターンする。
【0087】
ステップS61における判定の結果、記録用の画像を取得していなかった場合には、サーバー40内に記録された画像の鑑賞か否かの判定を行う(S63)。判定の結果、画像鑑賞でもなかった場合には、そのままリターンし、一方、画像鑑賞の場合には、アクセスに従って、画像の表示を行い(S64)、リターンする。
【0088】
このように、本発明の第2実施形態においては、サーバー40が代表画像を取得すると、この代表画像を仮記憶し、類似のジャケットを有する音楽CD等の検索を行い(S51→S54)、検索された補助画像をカメラ10に送信し(S56)、この時、関連情報も一緒に送信する。ユーザーが送信した補助画像を気に入らない旨の操作を行った場合には、ステップS71、S73においてその旨を判定すると、別の補助画像や関連情報を送信する(S71、S74)。また、単なる撮影画像を記録する画像バンク機能を有しており、送信されてきた画像を保管し(S62)、アクセスに応じて再生(S63→S64)している。サーバー40としては画像バンク機能を省略してもよく、また他の機能を有するようにしても良い。
【0089】
次に、本発明の第3実施形態について、図10および図11を用いて説明する。第1および第2実施形態において、補助画像はスライドショーの冒頭部分に再生表示し、また補助画像としては静止画像を単独に表示再生していた。第3実施形態においては、補助画像は最後に再生表示し、また補助画像の再生後、引き続き補助画像に関連する動画を再生表示するようにしている。
【0090】
図10は第3実施形態に係わるカメラ10、テレビ30、サーバー40とからなる画像再生システムの構成を示すブロック図である。カメラ10は、撮影部1、画像記録部2、画像選択部3、通信及び制御部4、表示部5、補助データ部6Aを有している。補助データ部6Aを除いて、各部の機能は、図1に示した第1実施形態と同様であるので同一の部については、詳細な説明は省略する。
【0091】
補助データ部6Aは、代表画像が有する撮影日時や撮影場所を画像に関連して記憶する記憶部である。撮影日時等の情報は、代表画像をサーバー40に送信する際に、一緒に送信され、サーバー40が補助画像の検索を行う際に、撮影日時等の情報も考慮して行う。
【0092】
データベースとしての機能を果たすサーバー40は、コンテンツジャケット記録部21、類似画像検索部22、通信及び制御部24、代表画像及びデータ仮記憶部25A、画像記録部26、関連情報検索部27、順次再生部28、ネット配信部29を有する。コンテンツジャケット記録部21等は第2実施形態と同様であるので、相違する部を中心に説明する。
【0093】
コンテンツジャケット記録部21は、第1実施形態と同様に、音楽CD等に加え、DVD等の動画のジャケットの画像およびその関連映像等も記憶している。DVD等の動画の場合には、ジャケット画像以外にも、動画の画像の先頭画像も検索用に記憶している。同様に、漫画やアニメ等の画像のあるコンテンツの場合には、表紙の画像以外に、最初の画像も検索用に記憶している。類似画像及びデータ検索部22は、代表画像と類似する画像をコンテンツジャケット記録部21の中から検索し補助画像として出力する。代表画像及びデータ仮記憶部25Aは、カメラ10から送信されてきた代表画像と、補助データ部6に記憶され、代表画像に関連付けて送信された撮影日時等の情報を記憶する。
【0094】
画像記録部26は、カメラ10の画像記録部2に記憶され、スライドショーで再生表示する撮影画像等を記録する。関連情報検索部27は、補助画像(音楽CDや映像DVD等のジャケット等)に関連する情報、例えば、音楽CDに関連する作曲家名、アーティスト名等を検索する。
【0095】
順次再生部28は、画像記録部26に記録されている撮影画像、類似画像及びデータ検索部22で検索された補助画像、関連情報検索部27において検索された関連情報を基に、これらの画像や情報の再生表示の順番を制御する。ネット配信部29は、インターネット等のネットワークを介して、テレビ30に接続されており、順次再生部28によって順次出力される撮影画像や補助画像等を、テレビ30に送信する。テレビ30は、大画面テレビであり、ネット配信部29から配信された画像や情報を再生表示する。
【0096】
次に、図11を用いて、本実施形態における動作について説明する。カメラ10で撮影した撮影画像12の中から代表画像12a(図中No.4の画像でもある)を指定して、ネットワーク19を介して、サーバー40に送信する。なお、代表画像12a以外にも、スライドショーに使用する撮影画像の全て(図中、No.1〜No3)も併せて送信する。サーバー40は、データベースとしてのコンテンツジャケット記録部21から、類似画像を検索し、一致度の最も高い画像を補助画像22とする。
【0097】
サーバー40は、類似画像及びデータ検索部22において類似画像を検索し、また関連情報を検索する。そして、順次再生制御部28は、撮影画像を撮影日時順に順次、ネット配信部29、ネットワーク19を介して、テレビ30に送信し、テレビ30は再生表示する。そして、スライドショーの最後に、代表画像12aを送信し、続いてこの代表画像12aに類似する補助画像22を再生表示する。
【0098】
この実施形態においては、代表画像12aに類似したDVDのジャケットの画像による補助画像22を送信しており、この補助画像22を再生表示した後に、このDVDに収録されている動画120を再生する。この例では、ウィーンに旅の思い出となる写真をスライドショーした後に、ウィーンを題材としたDVDによる動画120を再生するようにしている。
【0099】
第1及び第2実施形態においては、代表画像12aに応じた補助画像22を先頭にして表示する例を説明したが、本実施形態においては、補助画像22を最後に再生し鑑賞者に強い印象を残すスライドショーにしている。勿論、最後に再生する以外にも、スライドショーの途中で盛り上げを狙った場所で、代表画像12aを再生してもよい。この再生のタイミングは、ユーザーが任意に設定できるようにしても良い。また、代表画像12aの再生順番に応じて、補助画像22の再生順番を決定するようにしてもよい。さらに、テレビ30に再生表示するのではなく、第1および第2実施形態と同様に、カメラ10で再生表示するようにしても良い。
【0100】
さらに、撮影画像12に基づくスライドショーの最後の画像の表示の後、これに連続して、検索されたDVDの映像、例えば、旅行の写真を見終わった後、同じ場所を舞台にした映画やドキュメンタリーを鑑賞できるようにすることにより、さらに旅情がかきたてられ、思い出にふけることが可能となる。
【0101】
次に、本発明の第3実施形態の変形例を図12及び図13を用いて説明する。第1ないし第3実施形態においては、表示部において一つの画像を順次、表示していたが、この第1の変形例においては、複数表示するようにしている。すなわち、図12に示すように、テレビ30の画面が大画面の場合には、一つの画面上に複数の画像を表示することが可能になるので、時分割表示にこだわる必要はない。テレビ30の大画面に撮影画像を複数並べ、これらを切り換えながら、同時にDVDを再生するような応用も可能となる。なお、この第3実施形態の変形例の構成は、図10に示した第3実施形態の構成と同様であるので、詳細な説明は省略する。
【0102】
また、第1ないし第3実施形態においては、代表画像をユーザーが指定し、補助画像を取得するようにしていたが、図13に示す補助コンテンツ決定のフローチャートを実行することにより、撮影画像の中から自動的に補助画像を選択するようにしても良い。
【0103】
補助コンテンツ決定のフローに入ると、最初の撮影画像をまず選択する(S201)。次に、選択されている撮影画像と類似する画像を、コンテンツジャケット記録部21の中から検索する(S203)。類似度が所定値以上のコンテンツ(画像)を仮に記録する(S203)。続いて、撮影画像の中から次の画像を選択する(S204)。
【0104】
別の画像を選択すると、次に、撮影画像がないか否かを判定する(S205)。判定の結果、次の撮影画像が有る場合には、ステップS202に戻り、前述のステップを繰り返し、類似度が所定値以上のコンテンツを記録する。ステップS205における判定の結果、撮影画像がない場合、すなわち、全ての撮影画像について、検索が終わると、所定回数以上、検索され、ステップS203において仮記録されたコンテンツを補助コンテンツ(補助画像)として、送信する(S206)。送信としては、第1および第2実施形態のようにカメラ10で再生表示する場合にはカメラ10に、第3実施形態のようにテレビ30にネットワークを介して配信する場合には、テレビ30に送信する。
【0105】
このように、何度も検索されるようなコンテンツであれば、撮影画像と関連性の高い補助コンテンツといえる。例えばウィーン旅行なら、撮影画像の中に、ウィーンの風物が多く含まれていることから、確実にその土地と関係ある映画や音楽を選択することができ、画像再生を自然に盛り上げることが可能となる。
【0106】
以上説明したように、本発明の各実施形態においては、代表画像とコンテンツに関する画像とを比較し、類似する画像を補助画像として検索し、スライドショーを行うにあたって、補助画像を再生表示してから代表画像を再生表示している。このため、顔以外の画像であっても補助画像の検索が可能であることから、適用可能な画像の範囲が広いという効果を奏する。また、代表画像を生成する必要がないことから、短時間で処理することができる。さらに、補助画像はコンテンツに関する画像であることから、ユーザーに期待感や楽しみを与えることが可能である。
【0107】
なお、本実施形態においては、撮影のための機器として、デジタルカメラを用いて説明したが、カメラとしては、デジタル一眼レフカメラでもコンパクトデジタルカメラでもよく、また、携帯電話や携帯情報端末(PDA:Personal Digital Assist)等に内蔵されるカメラでも勿論構わない。
【0108】
本発明は、上記各実施形態にそのまま限定されるものではなく、実施段階ではその要旨を逸脱しない範囲で構成要素を変形して具体化できる。また、上記各実施形態に開示されている複数の構成要素の適宜な組み合わせにより、種々の発明を形成できる。例えば、実施形態に示される全構成要素の幾つかの構成要素を削除してもよい。さらに、異なる実施形態にわたる構成要素を適宜組み合わせてもよい。
【図面の簡単な説明】
【0109】
【図1】本発明の第1実施形態に係わるカメラ、パーソナルコンピュータからなる画像再生システムの構成を示すブロック図である。
【図2】本発明の第1実施形態に係わる画像再生システムにおいて、ユーザーによる画像再生システムの使用状態を示す図であり、(a)は撮影をしている様子、(b)はカメラの撮影画像をパーソナルコンピュータに格納している様子、(c)はテレビでスライドショーを楽しんでいる様子、(d)はスライドショーにあたって補助画像を再生表示している様子を示す図である。
【図3】本発明の第1実施形態に係わる画像再生システムおいて、代表画像と類似する補助画像を検索するために文字を除去する例を示す図であって、(a)は音楽CD等のジャケットの画像を示し、(b)は(a)の画像から文字を除去した図であり、(c)は代表画像を示す。
【図4】本発明の第1実施形態に係わるカメラにおけるカメラ制御の動作を示すフローチャートである。
【図5】本発明の第1実施形態に係わるカメラにおける画像一致度判定の動作を示すフローチャートである。
【図6】本発明の第2実施形態に係わるカメラ、サーバーからなる画像再生システムの構成を示すブロック図である。
【図7】本発明の第2実施形態に係わる画像再生システムにおいて、画像等の流れと、再生表示の関係を示す図である。
【図8】本発明の第2実施形態に係わるカメラにおけるカメラ制御の動作を示すフローチャートである。
【図9】本発明の第2実施形態に係わるサーバーにおけるサーバー制御の動作を示すフローチャートである。
【図10】本発明の第3実施形態に係わるカメラ、サーバーからなる画像再生システムの構成を示すブロック図である。
【図11】本発明の第3実施形態に係わる画像再生システムにおいて、画像等の流れと、再生表示の関係を示す図である。
【図12】本発明の第3実施形態の第1の変形例に係わる画像再生システムにおいて、画像等の流れと、再生表示の関係を示す図である。
【図13】本発明の第3実施形態の第2の変形例に係わる画像再生システムにおいて、補助コンテンツ決定の動作を示すフローチャートである。
【符号の説明】
【0110】
1・・・撮影部、2・・・画像記録部、3・・・画像選択部、4・・・通信及び制御部、5・・・表示部、6・・・スライドショー部、6A・・・補助データ部、7・・・順番制御部、8・・・類似画像検索部、8a・・・顔検出文字検出及び加工部、9・・・補助コンテンツ記録部、10・・・カメラ、12・・・撮影画像、12a・・・代表画像、20・・・パーソナルコンピュータ、21・・・コンテンツジャケット記録部、22・・・補助画像、23・・・顔検出文字検出及び加工部、24・・・通信及び制御部、25・・・代表画像仮記憶部、25A・・・代表画像及びデータ仮記憶部、26・・・画像記録部、27・・・関連情報検索部、28・・・順次再生部、29・・・ネット配信部、30・・・テレビ、40・・・サーバー、100・・・撮影画像、110・・・ジャケット画像、111・・・画像部分、120・・・動画

【特許請求の範囲】
【請求項1】
撮影した画像と類似した類似画像をデータベースから検索して再生する画像再生装置において、
画像の顔の位置を検出する顔検出部を有し、
上記画像データベースに含まれる画像のアスペクト比に合わせた範囲において、上記顔位置を考慮した画像の一致度に従って、上記類似画像を検索する検索部と、
を具備することを特徴とする画像再生装置。
【請求項2】
上記画像再生装置は、上記データベースに含まれる画像の文字部を検出する文字検出部を有し、
上記検索部は、上記検出された文字部以外で上記類似画像を検索することを特徴とする請求項1に記載の画像再生装置。
【請求項3】
上記画像再生装置は、検索された画像を補助画像として順次表示するスライドショー再生部を具備することを特徴とする請求項1に記載の画像再生装置。
【請求項4】
上記データベースに含まれる画像は、画像や音楽を含むコンテンツのパッケージ画像であることを特徴とする請求項3に記載の画像再生装置。
【請求項5】
上記スライドショー再生部は、上記順次表示をしながら上記コンテンツパッケージに含まれる音楽データを再生することを特徴とする請求項4に記載の画像再生装置。
【請求項6】
撮影した画像と類似した類似画像をデータベースから検索して再生する画像再生方法において、
画像の顔の位置を検出する顔検出ステップと、
上記データベースに含まれる画像の文字部を検出する文字検出ステップと、を有し、
上記画像データベースに含まれる画像を上記検出された文字部以外で、上記顔位置を考慮した画像の一致度に従って、上記類似画像を検索する検索ステップと、
を具備することを特徴とする画像再生方法。
【請求項7】
上記画像再生方法は、上記画像データベースに含まれる画像のアスペクト比に合わせた範囲において、上記類似画像を検索することを特徴とする請求項6に記載の画像再生方法。
【請求項8】
上記画像再生方法は、検索された画像を補助画像として順次表示するスライドショー再生ステップを具備することを特徴とする請求項6に記載の画像再生方法。
【請求項9】
上記データベースに含まれる画像は、画像や音楽を含むコンテンツのパッケージ画像であることを特徴とする請求項8に記載の画像再生方法。
【請求項10】
上記スライドショー再生ステップは、上記順次表示をしながら上記コンテンツパッケージに含まれる音楽データを再生することを特徴とする請求項9に記載の画像再生方法。
【請求項11】
撮影した画像と類似した画像をデータベースから検索して再生する画像再生装置において、
撮影した画像を取得して仮記憶する仮記憶部と、
上記仮記憶画像を、上記データベースに記録されたコンテンツパッケージの画像を比較して上記一致度の高い画像を検索する検索部と、
上記一致度の高い画像とその関連情報を送信する送信部と、
を具備することを特徴とする画像再生装置。
【請求項12】
上記画像再生装置は、上記画像データベースに含まれるコンテンツパッケージの画像の文字部を検出する文字検出部を有し、
上記検索部は、上記文字部以外で上記類似画像を検索することを特徴とする請求項11に記載の画像再生装置。
【請求項13】
上記画像再生装置は、情報変更を受信した場合には、次に一致度の高い画像と関連情報を送信することを特徴とする請求項11に記載の画像再生装置。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7】
image rotate

【図8】
image rotate

【図9】
image rotate

【図10】
image rotate

【図11】
image rotate

【図12】
image rotate

【図13】
image rotate


【公開番号】特開2013−55668(P2013−55668A)
【公開日】平成25年3月21日(2013.3.21)
【国際特許分類】
【出願番号】特願2012−224909(P2012−224909)
【出願日】平成24年10月10日(2012.10.10)
【分割の表示】特願2008−28576(P2008−28576)の分割
【原出願日】平成20年2月8日(2008.2.8)
【出願人】(504371974)オリンパスイメージング株式会社 (2,647)
【Fターム(参考)】