画像表示システムおよび画像表示方法
【課題】デジタルカメラ等の撮像装置において撮影した画像を、他の機器の特性を活かしつつ、楽しみながら鑑賞できる画像表示システムおよび画像表示方法を提供する。
【解決手段】カラオケ用のサーバー33は、カメラ100で撮影したカメラ画像を受信し、格納する画像メモリ33bと、カラオケ用のコンテンツを記憶する楽曲データベース33eを有している。遷移効果部33cは、リモコン34eによって指定されたコンテンツの遷移効果に応じて、画像メモリ33bに記憶されたカメラ画像の画像処理を行ない、この処理されたカメラ画像を、表示制御部33fによってカラオケ装置34bのモニタに表示する。
【解決手段】カラオケ用のサーバー33は、カメラ100で撮影したカメラ画像を受信し、格納する画像メモリ33bと、カラオケ用のコンテンツを記憶する楽曲データベース33eを有している。遷移効果部33cは、リモコン34eによって指定されたコンテンツの遷移効果に応じて、画像メモリ33bに記憶されたカメラ画像の画像処理を行ない、この処理されたカメラ画像を、表示制御部33fによってカラオケ装置34bのモニタに表示する。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、画像表示システムおよび画像表示方法に関し、詳しくは撮像装置等で撮影した画像を表示する画像表示システムおよび画像表示方法に関する。
【背景技術】
【0002】
近年、デジタルカメラ等の撮像装置の画像送信の容易さを利用して、PC通信やインターネット、携帯電話回線などの通信機能を利用して画像を送信し、その環境下で画像を楽しむ画像鑑賞法が普及している。こうした通信機能を利用すると、例えば、遠く離れた機器に画像を送信するばかりか、それと連携して新しいコンテンツを作成するような楽しみ方の応用が可能となる。さらに、画像を配信したり、画像を投稿するなど、従来にはない楽しみ方が広がってきている。
【0003】
したがって、従来のような写真をアルバムで鑑賞する鑑賞法に縛られることなく、その状況に適した再生機器を利用して、画像を楽しむことが可能となってきている。また、従来から、カラオケ装置等にはおいては、画像を合成して表示する技術が提案されている。例えば、特許文献1には、ユーザーがデジタルカメラで撮影した画像をカラオケの背景画像として使用することのできるカラオケ装置が開示されている。このカラオケ装置は、画像を記憶したメモリカードをカラオケ用のマイクに挿入すると、画像を読み出し、モニタテレビに映しだす。
【0004】
また、特許文献2には、カラオケで歌っているプレイヤーの顔等をビデオカメラで取り込み、背景の指定された位置に嵌め込み合成表示を行なうカラオケ装置が開示されている。さらに、特許文献3には、歌唱者が歌唱している姿をビデオカメラで撮影し、この画像と背景画像を合成して表示すると共に、この画像をプリントするカラオケ装置が開示されている。
【0005】
さらに、特許文献4には、出演者の生の画像と背景画像を合成し、その際、ミラー反転処理を行なうことのできる画像合成装置が開示されている。さらに、特許文献5には、演奏曲を再生する際に、歌手の顔をカラオケの歌唱者顔に置き換えて表示するようにしたカラオケ装置が開示されている。
【0006】
【特許文献1】特開2004−271959号公報
【特許文献2】特開平11−175079号公報
【特許文献3】特開平10−254462号公報
【特許文献4】特開平9−275524号公報
【特許文献5】特開平6−110480号公報
【発明の開示】
【発明が解決しようとする課題】
【0007】
このように、カラオケ装置において、画像を合成する技術は種々提案されている。しかし、特許文献1に開示のカラオケ装置では、カード内に記憶された画像がモニタに表示されるだけで、画像表示は単調なものとなってしまう。また特許文献2乃至特許文献5に開示されたカラオケ装置は背景画像等と歌唱者の画像等と画像を合成して表示するが、デジタルカメラ等の撮像装置において撮影した画像を楽しむものではなかった。
【0008】
本願発明は、このような事情を鑑みてなされたものであり、デジタルカメラ等の撮像装置において撮影した画像を、他の機器の特性を活かしつつ、楽しみながら鑑賞できる画像表示システムおよび画像表示方法を提供することを目的とする。
【課題を解決するための手段】
【0009】
上記目的を達成するため第1の発明に係わる画像表示システムは、第1画像の表現効果を判定するトランジッション効果判定部と、上記第1画像とは異なる第2画像のトランジッション効果が上記第1画像のトランジッション効果と同調するように上記第2画像の画像データを編集する画像処理部と、上記第2画像を表示する第2画像表示部を備える。
【0010】
第2の発明に係わる画像表示システムは、上記第1の発明において、上記第1画像は放送画像であり、上記第2画像はカメラで撮影された画像である。
また、第3の発明に係わる画像表示システムは、上記第1の発明において、上記第1画像はカラオケ用背景画像であり、上記第2画像はカメラで撮影された画像である。
さらに、第4の発明に係わる画像表示システムは、上記第1の発明において、所定の音楽を表す音楽データを記憶する音楽データ記憶部と、上記音楽を表す音声を発生する音声発生部と、上記第1画像を表示する第1画像表示部と、をさらに備え、上記所定の音楽に合わせて上記第1画像および上記第2画像を表示する。
【0011】
さらに、第5の発明に係わる画像表示システムは、上記第1の発明において、上記トランジッション効果は、人物、風景、夜景などの画像の属するジャンル、画像の変化する方向、画像のズーミングの中の少なくとも1つに関する画像の遷移効果である。
さらに、第6の発明に係わる画像表示システムは、上記第2の発明において、上記第1画像データ、上記第2画像データ及び上記音楽データを送信する送信部と、上記送信部により送信された上記第1画像データ上記第2画像データ及び上記音楽データを受信する受信部をさらに備え、上記音声発生部、上記第1画像表示部及び上記第2画像表示部は、それぞれ上記受信部により受信した上記音楽データを表す音楽、上記第1画像データを表す上記第1画像及び上記第2画像データを表す上記第2画像を表示する。
【0012】
上記目的を達成するため第7の発明に係わる画像表示方法は、第1画像の表現効果を判定するステップと、上記第1画像とは異なる第2画像のトランジッション効果が上記第1画像のトランジッション効果と同調するように上記第2画像データを編集するステップと、上記第2画像を表示するステップを備える。
【0013】
上記目的を達成するため第8の発明に係わる画像表示システムは、第1画像の動画像を分析し分類する画像分析部と、上記第1画像とは異なる第2画像の動画像を比較し、類似画像の在否を判定する比較部と、この比較部によって類似画像が存在する場合に、上記第1画像を対応する第2画像に置き換える類似画像置き換え部と、この類似画像置き換え部によって置き換えられた画像を表示する表示部を備える。
【0014】
第9の発明に係わる画像表示システムは、上記第8の発明において、上記画像分析部は、顔画像および風景画像の少なくとも一つを分析可能である。
第10の発明に係わる画像表示システムは、上記第8の発明において、上記類似画像置き換え部によって、置き換えることのできなかった第2画像を、置き換えられなかった上記第1画像に等間隔で置き換える未対応画像置き換え部を具備する。
第11の発明に係わる撮像装置は、上記第8の発明において、上記第1画像は、カメラによって撮影されたカメラ画像である。
第12の発明に係わる撮像装置は、上記第8の発明において、上記第2画像は、カラオケ装置のコンテンツ、インターネット上のサーバーに保管された動画、またはテレビ放送のコマーシャルのいずれかである。
【0015】
上記目的を達成するため第13の発明に係わる画像表示方法は、第1画像の動画像を分析し、第1の画像を分類し、上記第1画像とは異なる第2画像の動画像を比較し、類似画像の在否を判定し、この比較によって類似画像が存在する場合に、上記第1画像を対応する第2画像に置き換え、この置き換えられた画像を表示する。
【発明の効果】
【0016】
本発明によれば、デジタルカメラ等の撮像装置において撮影した画像を、他の機器の特性を活かしつつ、楽しみながら鑑賞できる画像表示システムおよび画像表示方法を提供することができる。
【発明を実施するための最良の形態】
【0017】
以下、図面に従って本発明を適用した画像表示システムを用いて好ましい実施形態について説明する。本発明の第1実施形態に係る画像表示システムは、カラオケシステムに適用したものであり、デジタルカメラで撮影したカメラ画像をカラオケ用のサーバーが受信し、カラオケの映像コンテンツの再生に応じてカメラ画像を再生表示するようにしている。
【0018】
図1は、本発明の第1実施形態に係わるデジタルカメラとその周辺のブロック図である。ユーザーが使用するカメラ100には、撮影レンズ2、AF(オートフォーカス)制御部2a、絞り2b、絞り制御部2c、撮像素子3、アナログフロントエンド(以下、AFEと略す)部4が設けられている。撮影レンズ2は、内部にフォーカスレンズを有し、入射した被写体20の像を撮像素子3上に結像させる。
【0019】
AF制御部2aは、撮影レンズ2の合焦位置を、後述する画像処理部5内において画像処理を行い、いわゆる山登り法により検出し、フォーカスレンズを駆動して、合焦位置に移動させる。なお、山登り法は、撮影画像のコントラスト信号ピークから合焦位置(ピント位置)を検出する方式であるが、山登り法以外にも、例えば位相差法や三角測距法等公知の合焦方法に置き換えてもよい。AFによって合焦位置に達すると、このときの撮影レンズ2を検出することにより、距離判定を行うことができる。この場合、撮影レンズ2がズームレンズのときには、ズーム位置等を加味して距離の判定を行う。
【0020】
撮影レンズ2内または近傍に、シャッタや絞りの効果を奏する絞り2bが設けられる。絞り2bは、撮影時に所定の口径まで開き、露出が終了すると閉じて露光を終了させるものである。絞り制御部2cは、絞り2bを駆動して絞り径を設定する。この絞りを変えることによって、レンズの被写界深度が変化するので、背景のぼけ具合などを調整して、被写体を浮かび上がらせたり、背景をしっかりと描写したりするなど、表現の切り替えを行うことができる。撮像素子3は、多数の受光面(画素)からなるCCDやCMOSセンサ等であり、撮影レンズ2を介して被写体20からの像を受光しこれを画像信号に変換する。
【0021】
アナログフロントエンド(AFE)部4は、アナログデジタル変換(AD)手段を含み、撮像素子3からの信号をデジタル信号化する。そして、AFE部4は、撮像素子3から出力される画像信号について各種処理を行う。また、AFE部4には、撮像素子3のいくつかの画素をまとめて、一括して読み出す機能も設けられている。たとえば、4画素(2×2)や9画素(3×3)など、各画素の信号レベルが小さいときには、いくつかの画素信号を加算して、S/Nを向上させることができ、また、感度を上げることも出来る。
【0022】
このような処理によって感度を上げることができ、シャッタスピードを速くする等、撮影上の工夫が可能となる。シャッタスピードが速いと、動いている被写体が止まっているように撮影することが可能となる。また、手振れなどを防止することができる。
【0023】
また、AFE部4は、撮像素子3の出力する信号を取捨選択する機能を有し、受光範囲の中から限られた範囲の画像データを抽出することが出来る。一般に撮像素子3の画素から間引いた画素信号を抽出する場合には、高速読出が可能となる。これにより構図確認用の画像信号を、画像処理部5によって高速処理し、表示制御部8aを介して表示パネル8に表示することにより、フレーミングが可能となる。
【0024】
AFE部4の出力は、画像処理部5に接続されている。画像処理部5は、入力信号の色や階調やシャープネスを補正処理する。また、撮像素子3から得られた画像信号を所定のレベルに増幅して、正しい濃淡、正しい灰色レベルに設定する増感部を有している。これは、デジタル化された信号レベルが、所定レベルになるようにデジタル演算するものである。また、画像処理部5は、ライブ画像をリアルタイムに表示部に表示できるように、撮像素子3からの信号を表示パネル8に表示できるようなサイズに加工するリサイズ部を有する。この働きによって、撮影に先立って撮像素子に入射する像を確認でき、これを見ながら撮影時のタイミングやシャッタチャンスを決定することが出来る。
【0025】
また、この画像処理部5の信号を利用して、撮像素子から入力されてくる画像の特徴などを判定する画像判定機能を有している。この画像判定機能としては、画像情報を加工して得られる輪郭情報から人の顔の目や口などの部分を判定する顔検出部5a、この顔検出部5aを利用して顔等の表情を判定する表情判定部5b、また個人の顔を識別して個人を認証する個人認証部5dを有している。また画像処理機能としては、さらに、画像の信号レベルのコントラストを判定して、被写体の距離を判定する距離判定部5cも有している。また、画像処理部5とその周辺補助部は、MPU1と連携して、撮影画像の見栄を調整するにも用いられる。
【0026】
このように、画像処理部5とその周辺の補助部(顔検出部5a、表情判定部5b、個人認証部5d等)は、写真撮影時に、ユーザーがどのような写真を撮ろうとしているかを判定して、撮影制御を最適化するために用いられる。
【0027】
カメラ100には、圧縮部6、記録部9a、記録メディア9、送受信部9c、送信設定部9e、表示パネル8、表示制御部8a及びマルチ画像処理部8bが設けられている。圧縮部6は、撮影時に画像処理部5から出力された信号を圧縮する。圧縮部6内には、MPEG(Moving Picture Experts Group)4やH.264などの圧縮用コア部で構成される動画用の圧縮部及び JPEG(Joint
Photographic Experts Group)コア部など静止画像用の圧縮部が設けられる。また、圧縮部6は記録メディア9に記録されている画像を表示パネル8に再生する際には、画像伸張も行なう。
【0028】
記録部9aは、圧縮された画像信号を記録メディア9に記録する。記録メディア9はカメラに着脱可能な保存用の記録媒体である。なお、画像信号の記録にあたっては、写真撮影した時の時間情報も併せて記録しても良い。撮影時間情報は、後述するMPU1内の時計部1tによって計測されており、MPU1は画像と関連付を行なう。
【0029】
メディア9や記録部9aに記録された撮影画像データは、送受信部9cによって、インターネット、携帯電話網や電話回線などの通信網32経由で、画像を管理するサーバー33等の他の機器に転送することができる。また、送受信部9cは送信設定部9eと接続されており、この送信設定部9eは画像を送信する場合等の送信先を指定する指定部である。撮影された画像は、指定先に即時送信も可能である。
【0030】
送受信部9cには、無線LAN9fと赤外光送受信機9gとが接続されている。赤外光受信機9gはカラオケ装置34bと赤外光通信が可能であり、カラオケ装置34bからカラオケ装置34bに楽曲等を送信するサーバー33のアドレスを取得することができる。また、無線LAN9fは、ホットスポット34c(図2参照)において、サーバー33と無線通信が可能である。これらの通信については、図2を用いて後述する。
【0031】
表示パネル8は、例えば液晶や有機EL等から構成され、撮影時には観察用に被写体画像をスルー画表示(ライブビュー表示とも言う)し、再生時には伸張処理された記録画像を再生表示する。
【0032】
表示制御部8aは、表示パネル8への表示を制御する。マルチ画像処理部8bは、表示パネル8上に、複数の画像を表示する場合の制御部である。このマルチ画像処理部8bによって、撮影した画像や撮影する画像の上に、送信先のアドレスの文字表示や種々の警告表示をすることが可能である。なお、表示パネル8には、撮影して送信済み画像を一覧表示して、そこからサーバー33が運営するブログサービスなどにアップする画像や、アップして、ブログに表示する時のレイアウトを選択できるようにしてもよい。
【0033】
カメラ100には、補助光発光部11、マイク12、MPU(Micro Processing Unit)1、レリーズスイッチ1a、モード切替スイッチ1b、他のスイッチ1cが設けられる。補助光発光部11は、白色LEDやXe放電発光管を有し、電流量で光量が制御できるようになっている。状況に応じて被写体20に光を照射して、明るさの不足や不均一な明るさを防止する。マイク12は、集音を行い、周囲の音声情報を取り込み、圧縮部6によって音声情報を音声圧縮し、音声圧縮データを記録部9によって記録メディア9に、画像データと関連付けて記録する。
【0034】
MPU1は、カメラ全体の制御を司る制御手段である。レリーズスイッチ1a、モード切替スイッチ1b、他のスイッチ1cおよびプログラム等を記憶したROM(不図示)が、MPU1に接続される。MPU1内には、日や時刻を検出するための時計部1tが設けられており、写真の撮影日時を検出し、撮影画像と関連付けを行う。なお、スイッチ1b、1cは、スイッチを総称的に表示したものであって、実際には多数のスイッチ群から構成されている。また、MPU1には、位置判定部1dが接続されており、この位置判定部1は、GPS等により位置を検出する。この検出された位置を用いて撮影時の撮影位置と、前述の撮影日時を画像データと共にメディア9に記録する。
【0035】
各スイッチ1a〜1cは、ユーザーの操作を検出して、その結果をマイクロコントローラからなる演算制御手段であるMPU1に通知する。MPU1が、これらのスイッチの操作に従って動作を切り換える。また、MPU1は撮影時には、AF制御部2aや絞り制御部2c等の制御を行う撮影制御機能や取得画像データ・取得音声データ等の記録部9aや記録メディア9への記録制御機能を果たす。
【0036】
このように構成されているカメラ100は、無線LAN9f、赤外光送受信機9gを介して、カラオケ装置34bやサーバー33と接続している。サーバー33は、カラオケの音楽や歌詞を含む映像コンテンツを供給し、カラオケ供給元によって、サーバーは異なる。そのため、本実施形態において、デジタルカメラと協働するカラオケ供給元のアドレスを取得し、カメラ100に指定する必要がある。この指定は、種々の方法があり、例えば、カメラ100にタッチパネル等を設け、これから直接入力するようにしてもよい。
【0037】
また、カラオケ装置34bにそのアドレスの情報を出力させる機能を持たせるようにしてもよい。本実施形態では、カメラ100が赤外光送受信機9gを有し、カラオケ装置34bも同様に赤外光送受信機の構成を持たせている。カメラ100からカラオケ装置34bに指示信号を赤外通信で送信すると、カラオケ装置34bが応答して、カラオケ用のサーバー33のアドレスを表す赤外信号をカメラ100に返信する。
【0038】
なお、カラオケ装置34bがカメラ100から指示信号を受信すると、指示信号をデコードして通信網(NET)32を通じて、カラオケ用のサーバー33と通信するようにしてもよい。カメラ100で撮影した画像から選択されたカメラ画像を、指定先のサーバー33に送信すれば、カラオケ用画像として表示可能となる。このような構成をとることにより、撮影画像をカラオケ用画像に置き換え、カラオケ装置34bに自分が撮影した映像を表示して、カラオケ用画像表示用の大画面のカラオケモニタ34aで楽しむようにしている。
【0039】
図2(a)はカメラ100がサーバー33のアドレスを取得する状態を示す図である。カメラ100とカラオケ装置34bの間で赤外線通信し、無線LAN9fのホットスポット34cや通信網(NET)32を介して、アクセスするサーバー33のアドレスを取得する。
【0040】
また、図2(b)は、カメラ100からカメラ画像を送信し、カラオケモニタ34aへのカメラ画像の表示時を示す。カメラ100は、サーバー33のアドレスを用いて、ホットスポット34cを介して、カメラ内のカメラ画像をサーバー33に送信する。サーバー33は、カメラ画像を後述するような効果を持たせた画像に処理し、ホットスポット34cを介して、順次、カラオケ装置34bに送信し、カラオケモニタ34aはこの画像を表示する。したがって、カラオケモニタ34aには、通常のカラオケコンテンツの映像またはカメラ画像を再生表示可能である。
【0041】
また、カラオケ装置34bには、サーバー33から送信されてきた音声データに基づいて楽曲を流すためのスピーカ等の音声発生部(不図示)を有する。マイク35を持ったユーザーは、カメラ100によって撮影された身近な写真を見ながらカラオケを楽しむことができる。また、カラオケの歌詞が分かるように、サーバーが歌詞を合成して送信するようにしてもよく、もとの画像の歌詞の部分は隠さないように表示してもよい。
【0042】
次に、カラオケ用のサーバー33による撮影画像の画像処理について、図3を用いて説明する。図3(a)は、カラオケ用の映像コンテンツの時間変化の様子を示す図であり、この図では画面上の歌詞は省略してある。カラオケの歌唱者は、歌詞をみて思い出しながら歌って楽しむが、その際、歌の雰囲気に応じて、情景を喚起したり、ムードを盛り上げる動画が映しだされる。
【0043】
このカラオケ用の映像は、風景になったり、人物が現われたりするなど、画像を効果的に変化させ、ストーリー性があり、情感を高めようにしている。すなわち、図3(a)の例のように、風景画像や、ズーミング処理やパンニング処理など画像を効果的に変化させている。また、歌詞の区切りで、画像を変えるなどの工夫もなされている。これらは、プロが撮影した、質の高いもので、飽きの来ない工夫がなされ、様々な効果が施されている。
【0044】
本実施形態においては、プロによって撮影され編集されたカラオケ用画像にリンクさせて素人が撮影したカメラ画像を画像処理することにより、見栄えのよい表示にすることを可能としている。また、この画像の効果は歌と不可分であり、本実施形態において、カラオケ画像に置き換えて表示するデジタルカメラの画像は、この効果に即した画像にすることが好ましい。
【0045】
しかし、カラオケ用の映像と、一般の撮影者が撮影した画像の主題が全く同じという可能性は高くないので、少なくとも、歌詞の区切りにあわせてカメラ画像を代えたり、また画像の遷移、例えばズーミングやパンニングに合わせてカメラ画像の画像処理を行なう等、時間の移ろいを示すテイストを共通化して、カラオケの楽曲との違和感をなくし、飽きの来ない画像表示を行うようにしている。
【0046】
すなわち、本実施形態においては、図3(b)に示すように、例えば、カラオケ画像が風景なら風景のカメラ画像を表示し、カラオケ画像が違う画像になったら、それに合わせてカメラ画像を変え、またカラオケ画像にズーミングやパンニング効果がなされると、カメラ画像にも同様の効果を生ずる画像処理を行なって、プロの画像切換と同様の手法となる画像処理を行なって飽きがこないようにしている。
【0047】
このような画像表示を行なうためのサーバーを含めたシステムについて、図4を用いて説明する。図4は、本実施形態に係わる画像表示システムのブロック図であり、カメラ100、サーバー33および通信機能を有するカラオケ装置34b等から構成される。サーバー33は、カメラ100およびカラオケ装置34bと送受信するための通信部33aを有する。この通信部33aから入力した画像等を記憶するための画像メモリ33bと、この記憶された画像に対してズーミング、パンニング、フェードアウト、フェードイン等の遷移効果を生ずる画像処理を行なうための遷移効果部33cと、この遷移効果部33cによって処理された画像等の表示を制御する表示制御部33fを有する。
【0048】
また、サーバー33は検索部33dを有し、この検索部33dはカラオケ装置34bと通信部33aを介して要求された楽曲を楽曲データベース33eから検索する。楽曲データベース33eは、歌詞付き映像と伴奏音楽からなるカラオケ用コンテンツのデータベースであり、検索部33dによって検索されたカラオケ用コンテンツを遷移効果部33cに送出可能である。
【0049】
このように本実施形態に係わる表示システムは構成されている。カメラ100で選択されたカメラ画像は、ホットスポット等で無線LAN部9fを介してサーバー33に送信される。サーバー33は、通信部33aによってカメラ画像を入力すると、画像メモリ33bに記録する。
【0050】
一方、カラオケの楽曲選択用のリモコン34eによって楽曲が指定されると、検索部33dはデータベース33eから歌詞つきの映像と伴奏音楽からなるコンテンツを検索し、通信部33aを介して、カラオケ装置34bに送信する。このカラオケ用コンテンツが送信されてくると、モニタ34aに画像が表示され、スピーカから伴奏音楽が流れる。ユーザー(歌唱者)はマイク35を用いて歌うが、このときの画像は、オリジナルの画像に加え、画像メモリ33b内に記憶されているデジタルカメラ100によるカメラ画像が表示される。
【0051】
撮影画像の表示にあたっては、カラオケのオリジナル画像の遷移効果を効果部33cで判定し、画像メモリ33b内に記憶されているカメラ画像を選択し、これにカラオケ画像と同様な効果を遷移効果部33cによって付加する。この遷移効果が施されたカメラ画像を、表示制御部33fは、適宜、カラオケ用オリジナル画像と置き換えて表示制御を行う。このような制御を行うことにより、図2(b)を用いて説明したような効果を得ることが可能である。
【0052】
次に、デジタルカメラ100の制御について、図5に示すフローチャートを用いて説明する。まず、撮影モードか否かの判定を行なう(S1)。このカメラ100は、被写体像をライブビュー表示し、レリーズ操作によって撮影・記録する撮影モードと、記録された画像を再生表示する再生モードと、カラオケ装置34bと通信し、通信先のアドレスを取得する通信先取得モードと、この取得したアドレスに基づいてカラオケ用のサーバー33と通信する通信モード等のモードを有している。
【0053】
ステップS1おける判定の結果、撮影モードであった場合には、ライブビュー表示を行なう(S2)。ライブビュー表示は、撮像素子3によって取得した画像データに基づいて表示パネル8に被写体画像を動画表示する。続いて、レリーズ釦が全押し操作されたか、すなわちレリーズ操作されたかの判定を行なう(S3)。判定の結果、レリーズ操作されていなかった場合には、ステップS1に戻り、前述の動作を繰り返す。
【0054】
一方、ステップS3における判定の結果、レリーズ操作されていた場合には、撮影を行い(S4)、記録する(S5)。すなわち、撮像素子3によって画像データを取得し、この画像データを圧縮部6によって圧縮処理した後、記録部9aによって記録メディア9に記録する。記録が終わると、リターンし、ステップS1から繰り返す。
【0055】
ステップS1における判定の結果、撮影モードではなかった場合には、次に、再生モードか否かの判定を行なう(S11)。判定の結果、再生モードであった場合には、再生表示を行なう(S12)。再生表示は、記録メディア9に記録されている撮影画像の画像データを読出し、伸張処理した後、表示パネル8に表示する。
【0056】
続いて、サムネイル表示を行なうか否かの判定を行なう(S13)。ユーザーがサムネイル表示を望む場合には、デジタルカメラ100の背面等に設けられているスイッチを操作してサムネイル表示モードに設定するので、このステップではこのモードに設定されたか否かの判定を行なう。判定の結果、サムネイル表示モードであった場合には、サムネイル表示を行なう(S14)。このサムネイル表示は、記録メディア9に記録されている全画像データを読出し、通常より小さい画像で表示パネル8に複数駒の画像を同時に表示する。
【0057】
次に、カラオケ装置34bに表示する画像群、すなわちカラオケ候補の選択を行なうか否かの判定を行なう(S15)。これは、前述のサムネイル表示の選択と同様にカメラ100のスイッチの操作によりカラオケ候補の選択モードが設定されているか否かにより判定する。判定の結果、カラオケ候補の選択が設定されていた場合には、カラオケ候補の選択を行なう(S16)。カラオケ候補の選択は、サムネイル表示されている撮影画像の中から、カラオケ装置34bのモニタ画像として表示する画像を、タッチパネルや十字キーを利用して選択する。
【0058】
次に、カラオケ候補選択が終了したか否かを判定し(S17)、判定の結果終了した場合には、候補指示を行なう(S18)。この候補指示は、選択された撮影画像に対して、送信候補信号が付加され、後述するステップS27において、カラオケ装置34bのサーバー33に対して選択された撮影画像を送信する。候補指示が終わると、または、ステップS13、S15、S17においてNOであった場合には、リターンする。
【0059】
ステップS11において、再生モードでなかった場合には、通信先取得を行なうか否かの判定を行なう(S21)。この通信先取得は、カラオケ用のサーバー33のアドレスを取得するものであって、デジタルカメラ100の操作スイッチを操作することによって行なわれるので、このステップではこの操作がなされたか否かの判定を行なう。
【0060】
ステップS21の判定の結果、通信先取得を行なう場合には、カラオケ用のサーバー33のアドレスを受信し(S22)、次いで、この受信が終了したかを判定する(S23)。このステップにおいて、デジタルカメラ100の赤外線送受信機9gを介してカラオケ装置34bからサーバー33のアドレスを取得する。
【0061】
サーバー33のアドレスの受信が終了すると、サーバー33と通信を行なうか否かの判定を行なう(S24)。デジタルカメラ100は、ホットスポット等の場所で無線によって通信を行なうことができ、このステップでは、ユーザーによってこの通信モードが設定されたか否かの判定を行なう。
【0062】
ステップS24における判定の結果、通信モードに設定された場合には、デジタルカメラ100の無線LAN9fによってサーバー33と通信を行なう(S25)。続いて、通信が確立したか否かの判定を行なう(S26)。判定の結果、通信が確立した場合には、ステップS16において選択され、ステップS18において候補指示信号が付加された画像データを、サーバー33に送信する(S27)。一方、無線通信が確立できなかった場合には、通信ができず送信できなったことを警告する(S28)。ステップS27、S28が終わると、またはステップS24においてNoであった場合には、ステップS1に戻る。
【0063】
次に、サーバー33の動作について、図6に示すフローチャートを用いて説明する。まず、カメラとの通信か否かの判定を行なう(S101)。このステップは、カメラ100との通信が確立すると、ステップS27においてカメラ100は、カラオケ候補用の撮影画像を送信するので、この通信がなされているか否かの判定を行なう。判定の結果、通信がなされていると、画像取得を行なう(S102)。ここで取得されたカメラ画像の画像データは画像メモリ33bに格納される。
【0064】
次に、画像データの取得が終了したか否かを判定し(S103)、判定の結果、終了した場合には、各画像の判定を開始する(S104)。画像の判定を開始すると、顔判定を行ない(S105)、風景判定を行い(S106)、小物判定を行なう(S107)。ここでの各ステップでは、各画像が顔を含む顔画像か、顔を含まず、上の方が明るく、被写体が遠距離である風景画像か、近い距離で撮ったアクセサリーや日用雑貨など小物か、などの画像分類と整理を行う。次いで、全画像について、ステップS105からステップS107の判定が終了したかを判定し(S108)、終了した場合には、リターンする。
【0065】
ステップS101における判定の結果、カメラ通信ではなかった場合には、カラオケ装置34bから曲目指定の通信がなされか否かの判定を行なう(S111)。判定の結果、曲目指定のなされていない場合には、ステップS101に戻り、一方、曲目指定がなされた場合には、コンテンツ検索を行なう(S112)。
【0066】
次いで、検索されたコンテンツの中に、ステップS102において取得されたカメラ画像が有るか否かを判定する(S113)。判定の結果、カメラ画像がなかった場合には、ステップS117にスキップするが、カメラ画像があった場合には、ステップS114からS116において、検索された画像コンテンツがカメラ画像と類似しているかを判定し、類似像をカラオケコンテンツの画像に当てはめて入れ替えを行う。すなわち、ステップS114において、カメラ画像の画像内容の分析を行い(S105−107に相当)、カラオケコンテンツの画面変化の遷移効果をS115で判定し、それが終了すると、カラオケコンテンツの画像の画像置き換えを行なう(S116)。これらのステップは図7および図8において詳述する。
【0067】
ステップS112からステップS116において処理されたカラオケコンテンツの準備がOKであるか否かを判定し(S117)、OKであれば、再生をスタートするか否かの判定を行なう(S121)。判定の結果、再生スタートすると、カラオケコンテンツの再生を開始し、伴奏音楽と、オリジナル画像を再生する(S122)。
【0068】
次に、コンテンツ再生中のオリジナル画像と対応するカメラ画像があるか判定する(S123)。この判定は、ステップS116において置き換え画像(=対応画像)があったか否かの判定である。判定の結果、対応画像がなければ、ステップS122に戻り、オリジナル画像を再生する。一方、対応画像があれば、次に、そのオリジナル画像に遷移効果のある画像か否かの判定を行なう(S124)。
【0069】
判定の結果、遷移効果があれば、遷移効果を考慮した再生を行なう(S125)。すなわち、オリジナル画像と同様の遷移効果で表示できるように、カメラ画像に画像処理を施す。後述するステップS166(図7)において、W側判定されていれ、縮小ズームであり、最初にカメラ画像の一部分を表示し、だんだん全体を拡大表示して、同等の効果とする。また、ステップS167においてT側判定されていれば、拡大ズームであり、最初に全体画像を表示し、だんだん一部分(顔など)を拡大表示して、同等の効果を奏するようにする。さらに、パンニングの場合には、画面の一部から他の一部に表示部分を移すような表示を行う。この場合、全画像が表示できないので、最後に、オリジナル画像におけるパンニング効果からはなれて、全画面表示を行う等の工夫を行う。
【0070】
一方、ステップS124における判定の結果、遷移効果がなければ、対応画像に遷移効果を施すことなく、通常効果にてスライドショー形式で再生する(S128)。ステップS125またはステップS128を終えると、コンテンツ再生が全て終了したか否かを判定し、終了していない場合には、ステップS123に戻り、一方、終了した場合には、リターンする。
【0071】
次に、ステップS114およびステップS115(図6)におけるコンテンツ分析、遷移効果判定のサブルーチンについて、図7を用いて説明する。まず、カラオケ用コンテンツの高速再生を開始する(S151)。続いて、コンテンツのオリジナル画像の中に顔があるか否かの判定を行い(S152)、判定の結果、顔がある場合には、主題が顔と判定する(S161)。
【0072】
ステップS152の判定の結果、顔がなかった場合には、次に、一面が明るいか否かの判定を行い(S162)、一面が明るかった場合には、主題が風景であると判定する(S162)。一面が暗くて点光源がちりばめられている画像の場合には、主題が夜景と判定し、風景に分類してもよい。ここまでが、図6のステップS114のコンテンツ分析のサブルーチンに相当する。
【0073】
次に、オリジナル画像が右から左へ等と動いているか、すなわちパンニングが行なわれているか否かの判定を行なう(S154)。判定の結果、パンニングがなされていると、効果がパンニングと判定する(S166)。ステップS154における判定の結果、パンニングではなかった場合には、オリジナル画像がズーミングしているか、すなわち拡大または縮小しているか否かの判定を行なう(S155)。
【0074】
ステップS155における判定の結果、拡大または縮小である場合には、拡大か否かの判定を行なう(S165)。判定の結果、拡大でなければ、ワイド側と判定し(S166)、一方、拡大であれば、テレ側と判定する(S167)。すなわち、縮小・拡大するかでズーミングの判定を行い、拡大であればテレ側ズーム、縮小であればワイド側ズームとする。ステップS154からステップS167までが、図6のステップS115の遷移効果に相当する。
【0075】
以上のステップS152からステップS167は、各画面ごとに行う必要があることから、次に、画面の切り替えシーンであるか否かの判定を行なう(S156)。判定の結果、画面の切り替えシーンでない場合には、ステップS152に戻り、前述の判定等を繰り返す。一方、画面の切り換えシーンであった場合には、場面内容を判定する(S158)。続いて、カラオケ用のコンテンツの全てのシーンについてステップS152からステップS158での判定等が終了したかを判定する(S159)。ステップS159における判定の結果、終了していない場合には、ステップS152に戻り、一方、終了した場合には、図6のフローに戻る。
【0076】
次に、ステップS116(図6)における画像置き換えのサブルーチンについて、図8を用いて説明する。このサブルーチンでは、サーバー33がカラオケ用コンテンツのオリジナル画像をカメラ画像に置き換えを行なう。まず、オリジナルの画像コンテンツ(カラオケビデオ)のシーンと、カメラ画像のシーンの比較を開始する(S201)。続いて、画像比較の結果、類似画像が存在するか否かの判定を行なう(S202)。類似画像か否かは、例えば、顔画像であるか、風景画像であるか等の判定である。
【0077】
ステップS202における判定の結果、類似画像がない場合にはステップS204にスキップし、一方、類似画像が有った場合には、類似シーンの置き換え、すなわち、オリジナル画像をカメラ画像で置き換えを行なう(S203)。続いて、全シーンについて判定が終了したかを判定し(S204)、終了していない場合にはステップS202に戻り、全シーンについて判定が終わるまで、これらのステップを繰り返す。
【0078】
一方、ステップS204の判定の結果、終了した場合には、未対応カメラ画像が有るか否かの判定を行なう(S205)。このステップでは、カメラ100からサーバー33に表示候補としてカメラ画像が送信されたが、ステップS203における類似シーンの置き換えのできていない画像があるかどうかを判定する。判定の結果、未対応カメラ画像がなければ、このサブルーチンを終了して、図6のフローに戻る。
【0079】
一方、判定の結果、未対応カメラ画像が有る場合には、未対応コンテンツシーンが多いか、すなわち、置き換えられなかったオリジナルのシーンの数と、オリジナルのカメラ画像の数を比較する(S205)。判定の結果、置き換えられなかったシーンのほうが多い場合は、略等間隔で古い画像から置き換える(S207)。一方、判定の結果、置き換えられなかったカメラ画像の方が多い場合には、カメラ画像が全て置き換え表示できるように、時系列(撮影順)に未対応コンテンツのオリジナル画像を置き換えていく。このために、置き換えられなかったカラオケ用コンテンツの長いシーンについては分割し(S211)、略等間隔で古い画像から置き換えを行なう(S212)。
【0080】
なお、ステップS207とステップS212における画像の置き換えでは、両画像の類似性は問わないようにする。このようにして、カラオケ用のコンテンツのオリジナル画像をシーンと類似性の高いカメラ画像に置き換える。ここで置き換えられた画像は、ステップS123(図6)において、対応画像有りと判定され、カメラ画像が再生される。
【0081】
ステップS207またはステップS212における画像の置き換えが終わると、またはステップS205において、未対応カメラ画像がないと判定されると、このサブルーチンを終了し、図6のフローに戻る。
【0082】
このように、本実施形態においては、カラオケコンテンツでの画像の編集の仕方や、画像の効果を利用して、カメラ画像を再生するようにしている。このため、カメラ画像を単にスライドショー形式で再生するよりは、鑑賞者を飽きさせることなく、表示することができる。
【0083】
また、カラオケボックス内の環境は、最新鋭のAV機器が揃っており、さらにネットワーク環境にも接続され、多くの友人が集まり、写真画像を鑑賞するには相応しい理想的な鑑賞環境である。本実施形態は、この環境を有効利用することができ、効果的な写真鑑賞を可能としている。また、最近では、膨大な曲目データに対応するために、インターネットなどを利用して、外部のサーバー等からのカラオケコンテンツは配信されており、本実施形態では、カラオケ用のサーバー33にカメラ画像を送信することにより、このサーバー33によって画像処理を施すことができるので、大変便利である。
【0084】
なお、本実施形態においては、カメラ画像とコンテンツ画像を、おのおの分類して、置き換える例を示したが、もちろん、カメラ画像をそのまま利用して、画像検索の応用にて、類似シーンを判定するようにしてもよい。すなわち、本実施形態のように、一度、主題を「顔」、「風景」と分けて分類してから、その分類に沿った類似画像を探すのではなく、画像同士を比較して画像と画像の一致度を判定することにより類似画像を探すようにしてもよい。また、本実施形態においては、伴奏音楽も一緒に再生されていたが、これに限らず、鑑賞専用にして、音楽にカラオケではなく歌も自動で付与するようにしてもよい。
【0085】
次に、本発明の第2実施形態について、図9乃至図12を用いて説明する。第1実施形態では、カラオケ用のサーバー33にカメラ画像を送信し、カラオケ用コンテンツの画像変化に合わせて、カメラ画像を再生するようにしていた。第2実施形態においては、インターネット上のサーバーに投稿された動画の画像変化に合わせて、カメラ画像を再生するようにしている。
【0086】
近年、インターネットに接続可能なテレビ(TV)34gが出現しており、家族の団欒の際に、こうした動画投稿サイトにある画像を、リモコン34hを操作して楽しむことが可能である。動画投稿サイトに投稿された画像が、非常に印象的なノスタルジーを感じさせる映像や音楽である場合、この映像を自分が撮影した画像に置換え、家族の歴史のような形で回想したくなることもある。そこで、本実施形態においては、投稿動画の変化に合わせて、カメラ画像を再生するようにしている。
【0087】
図9は、画像配信サーバー133を含む画像表示システムのブロック図である。この画像配信サーバー133は、画像加工部133Aと動画配信部133Bとから構成されている。動画配信部133Bは、投稿動画を格納する動画データベース133eと、このデータベース133eに格納されている投稿動画中か、ユーザーの指定によるタイトルやキーワード等に基づく検索を行なう検索部133dとから構成される。
【0088】
画像加工部133Aは、通信部133a、画像メモリ133b、遷移効果部133c、効果反映部133f、メモリ133gとから構成されている。通信部133aは、カメラ100と無線LAN等によって接続され、またテレビ34gとはインターネット等を通じて接続されており、これらの機器と送受信が可能である。
【0089】
画像メモリ133bは、カメラ100から送信されたカメラ画像を記憶するメモリである。この画像メモリ133bの出力は、遷移効果部133cに接続されている。この遷移効果部133cは、画像メモリ133bに格納されたカメラ画像に対して、メモリ133gに格納されている投稿動画に基づいて、ズーミング、パンニング、フェードイン、フェードアウト等の種々の遷移効果を画像処理によって施す。
【0090】
効果反映部133fは、遷移効果部133cによって遷移効果を施されたカメラ画像を、遷移効果を反映して再生するための制御部であり、ここでの再生された画像データは、通信部133aを通じて、ネット接続されたテレビ34gに出力される。メモリ133gは、テレビ34gのユーザー等によって検索された投稿動画を記憶するためのメモリである。
【0091】
動画配信部133Bは、ユーザーがネットワークを介して、タイトルやキーワードを検索部133dに入力すると、動画データベース133e内から対応する動画を検索し、画像加工部133Aを介さずに直接、テレビ34gに配信し、投稿動画を再生することができる。なお、本実施形態においては、動画配信部133Bと画像加工部133Aは同一の画像配信サーバー133内に設置してあるが、別々のサーバーで構成し、両者が連携できるようにしてもよい。
【0092】
次に、画像配信サーバー133の動作について、図10に示すフローチャートを用いて説明する。このフローチャートがスタートすると、まず、画像検索か否かの判定を行なう(S301)。判定の結果、画像検索であった場合には、選択するためのキーワードやタイトルを受付け、検索部133dによって検索を行なう(S302)。続いて、ユーザーからネット経由で再生操作がなされかを判定し(S303)、判定の結果、再生操作がなされると、対応した画像が再生される(S304)。次に、ユーザーによって終了の操作がなされたか、検索された動画が最後まで再生がなされたかを判定し(S305)、判定の結果、終了であれば、ステップS305をYesに分岐して再生終了となる。
【0093】
ステップS301における判定の結果、画像検索ではなかった場合には、次に、類似効果再生要求か否かを判定する(S310)。これは、ユーザーが投稿動画の画像変化に合わせて、カメラ画像の切り換えや画像処理を施して楽しみたい場合に、投稿動画の再生要求の指定がなされたか否かを判定するステップである。判定の結果、再生要求がなされていた場合には、対応コンテツ情報(投稿動画)を画像加工部133A内のメモリ133gに送信する(S311)。なお、コンテンツそのものでなくとも、音楽ならその曲名、画像ならその特徴のみを送信するようにしてもよい。
【0094】
このように、プライベートなカメラ画像(素材)が入ったサーバー133の画像加工部133Aと、公開されたコンテンツ(すでに作品化されたもの)が記録された画像配信部133bが連携してサービスを行っている。もちろん、前述したように、同一のサーバーが両方の機能を有し、これらのサービスを行っても良い。
【0095】
ステップS310における判定の結果、再生要求がなされていない場合には、投稿操作がなされているか否かの判定を行なう(S315)。判定の結果、投稿操作がなされていない場合には、ステップS301に戻り、前述の動作を繰り返す。一方、判定の結果、投稿操作がなされていた場合には、投稿画像を受付け(S316)、検索しやすいようにタグを付けて動画データベース133eに記録される。
【0096】
前述したように、自己のカメラ100で撮影したカメラ画像は、通信部133aを介してメモリ133bに保管されており、また投稿動画の中で再生要求のされた画像データは、メモリ133gに保管されている。ユーザーが画像配信サーバー133の画像加工部133Aにアクセスし、メモリ133gに保管されている投稿画像の遷移効果を遷移効果部133cが分析し、その手本となる投稿動画に合わせて画像メモリ133b内のカメラ画像を適宜選択して、その遷移効果に合わせて、効果反映再生部133fは、順次、再生を行う。この画像は、通信部133aからネットを経由してテレビ34gに送信され、鑑賞可能となる。
【0097】
この画像加工部133Aの動作について、図11に示すフローチャートを用いて説明する。まず、ユーザーが、投稿された動画作品を見て、気にいった作品があれば、その旨の操作を行う。そこで、画像加工部133Aは、効果取得の操作がなされか否かについて判定する(S321)。判定の結果、効果取得の操作がなされていた場合には、ユーザーが好んだ動画を画像配信部133Bより取得する(S323)。このステップS322と前述のステップS311は協働して行われる。
【0098】
次に、画像加工部133Aに取得した画像の再生を行なうか否かの判定を行い(S323)、再生を行なわない場合には、ステップS321に戻る。一方、再生を行なう場合には、効果を参照しながら、カメラで撮影した画像を再生する。すなわち、お手本となる投稿動画の画像の見せ方の効果を、カメラ画像に反映させ、音楽などの効果音は、そのまま利用する。
【0099】
また、画像の切換なども、すでに作品化された動画を参照するので、特に複雑な設定を行わなくとも、効果的な再生が可能となる。このステップにおけるカメラ画像の加工は、図6のステップS114からS116およびステップS121からステップS129と同様の処理を行なえばよいので、詳しい説明は省略する。
【0100】
こうした、動画効果を必要としない場合は、その旨の操作を行うと、ステップS321における判定においてNoで抜ける。次に、再生を行なうか否かの判定を行う(S330)。判定の結果、Noであった場合には、ステップS321に戻り、前述のステップを繰り返す。一方、再生を行なう場合には、写真画像を古い順に順次再生を行ない(S331)、再生が終了すると、リターンする。
【0101】
このように、動画投稿サイト(動画配信部133B)に保管されている画像を手本にして、ユーザーが撮影したカメラ画像を効果的に再生することが可能となる。なお、動画の複雑な画像の動きだけでなく、図12のように動画に含まれる音楽によって、再生画像の効果を変化させてもよい。
【0102】
つまり、歌の場合、歌詞に区切りがあればカメラ画像の切換を行い、音量が増大すると、ズームアップし、同じ音を伸ばすような場合には、それを判定し、カメラ画像のパンニング処理を行う。また、音量が小さくなると、遠ざかる感じであることから、カメラ画像にズームダウンしていくような効果を画像に与え、音楽とシンクロさせて効果を際立たせるようにしてもよい。この第2実施形態の変形例においては、動画の画像だけではなく、音楽等の音声情報を用いて、カメラ画像の表示に変化を与えるようにしている。
【0103】
このように、本発明の第2実施形態においては、インターネット上のサーバーに記憶されている動画を利用し、カメラ画像の表示にあたって、画像の切り替えタイミングや、ズーミングやパンニング等の遷移効果をカメラ画像に与えるようにしている。このため、インターネット上の動画の特性を活かしつつ、楽しみながら鑑賞することができる。なお、本実施形態においては、画像配信サーバー133に投稿された画像を利用していたが、これに限らず、インターネット上で配信される動画を利用することは勿論可能である。
【0104】
次に、本発明の第3実施形態について、図13および図14を用いて説明する。この第3実施形態においては、テレビ34gで放送されるコマーシャルを利用して、カメラ画像の表示を行なうようにしている。
【0105】
この第3実施形態に係わる画像表示システムは、テレビ34gとカメラ100から構成される。このカメラ100内には、カメラ100の撮像素子3で撮像した画像の遷移をモニタする変化判定部と、マイク12で集音した音の判定部が設けられている。変化判定部と判定部によって、テレビ34gで放送されるコマーシャルのシーンの変化を、その画像や音の変化によって解析する。
【0106】
また、テレビ34gとカメラ100の間は、赤外線通信等によって通信可能であり、カメラ100は、加工したカメラ画像をテレビ34gに送信する。また、テレビ34gは、画面34g1、34g2の2つの画面を表示することができ、受信したカメラ画像を画面34g1に表示し、カメラ画像信号の切り替えに応じて、画面34g1の表示画像の切替機能を有する。さらに、テレビ34gは、カメラ100からズーミングやパンニング等の遷移効果信号を受けると、カメラ画像に対してこれらの画像処理を行なう画像処理部を有し、この遷移効果を施された画像を画面34g1に表示する。
【0107】
この画像表示システムにおけるカメラ100の動作を図14に示すフローチャートを用いて説明する。ユーザーがテレビ34gで放送されるコマーシャルに合わせてカメラ画像を表示する場合には、まず、カメラ100をテレビ34gに向け、カメラ100の撮像素子3等の撮像動作およびマイク35の集音動作を開始する(S401)。
【0108】
続いて、撮像信号に基づくテレビ画像とマイク35からのテレビ音声に基づいてシーンが変化したか否かの判定を行なう(S402)。判定の結果、シーンが変化した場合には、カメラ100内に記憶されているカメラ画像の内から順次、送信する(S403)。テレビ34gは、このカメラ画像を受信すると、画面34g1に表示する。
【0109】
ステップS402において、シーンの変化がないと判定された場合には、撮像信号に基づいて、コマーシャルの画像にズーミングやパンニング等の遷移効果があるか否かの判定を行なう(S405)。判定の結果、遷移効果がある場合には、テレビ34gに対して、遷移効果信号を送信する。テレビ34gは、この遷移効果信号を受信すると、遷移効果信号によって指示されるズーミングやパンニング等の遷移効果を表示するように、カメラ画像に対して画像処理を行なう。
【0110】
ステップS403、S406を終えると、またはステップS405において遷移効果が無い場合には、コマーシャルが終了したか否かの判定を行い、終了していなければ、ステップS402に戻り、前述のステップを繰り返す。
【0111】
本実施形態によれば、ネットワークに接続することなく、カメラ100とテレビ34gの相互通信だけで、カメラ内の画像に対して、プロ(コマーシャル製作者)の演出を加えて、表示し、効果的な写真鑑賞を可能としており、テレビ放送における動画の特性を活かしつつ、楽しみながら鑑賞することができる。
【0112】
なお、本実施形態においては、コマーシャル等のテレビ放送の放送時に、リアルタイムでコマーシャルの内容を分析し、テレビ34gと通信しながら、テレビ34gの画面34g1にカメラ画像を表示していた。しかし、このやり方に限らず、例えば、コマーシャルを予め録画し、これを解析して、カメラ内に記憶された画像を選択して第1及び第2実施形態に述べたと同様の加工を施し、表示するようにしてもよい。
【0113】
すなわち、最初にTVコマーシャルをモニタした時には、カメラ画像の表示は行わず、解析のみを行う。コマーシャルは何度も繰り返し流されるので、次にコマーシャルが放送されたタイミングで、カメラの音や画像の検出手段は、先に解析したコマーシャルが再放送されていることを判定し、カメラ画像を再生することができる。
【0114】
以上のように、カラオケ、インターネット上の動画、コマーシャル等の放送画像等、無数の映像コンテンツが利用または参照可能な形で存在している。本発明の各実施形態は、こうして外部から取得可能な映像等のコンテンツを利用し、それらのコンテンツが有している映像等の効果と同様の効果で、カメラ画像を再生するようにしている。このため、特別な手間をかけなくとも、デジタルカメラ等の撮像装置において撮影した画像を、他の機器の特性を活かしつつ、楽しみながら鑑賞できる画像表示システムおよび画像表示方法を提供することができる。
【0115】
また、本発明の各実施形態においては、人物、風景、夜景などの画像の属するジャンル、画像の変化する方向、画像のズーミングの中の少なくとも1つに関する画像の遷移効果(トランジッション効果)を利用して、カメラ画像の画像データ編集している。このため、カラオケコンテンツ、インターネット上のサーバーに格納されている動画、コマーシャル放送等、専門家等が作成したのと同等の画像再生を得ることができる。
【0116】
なお、本発明は、上記実施形態にそのまま限定されるものではなく、実施段階ではその要旨を逸脱しない範囲で構成要素を変形して具体化できる。また、上記実施形態に開示されている複数の構成要素の適宜な組み合わせにより、種々の発明を形成できる。例えば、実施形態に示される全構成要素の幾つかの構成要素を削除してもよい。さらに、異なる実施形態にわたる構成要素を適宜組み合わせてもよい。
【図面の簡単な説明】
【0117】
【図1】本発明の第1実施形態に係わる画像表示システムにおけるカメラを主とするブロック図である。
【図2】本発明の第1実施形態に係わるカラオケ装置に適用した画像表示システムの使用状態を示す図である。
【図3】本発明の第1実施形態に係わる画像表示システムにおけるカラオケ用のサーバーによる撮影画像の画像処理について説明する図である。
【図4】本発明の第1実施形態に係わる画像表示システムにおけるサーバーを主とするブロック図である。
【図5】本発明の第1実施形態に係わるカメラ制御を示すフローチャートである。
【図6】本発明の第1実施形態に係わるサーバーの動作を示すフローチャートである。
【図7】本発明の第1実施形態に係わるコンテンツ分析および遷移効果判定のサブルーチンを示すフローチャートである。
【図8】本発明の第1実施形態に係わる画像置き換えのサブルーチンを示すフローチャートである。
【図9】本発明の第2実施形態に係わる画像表示システムにおけるサーバーを主とするブロック図である。
【図10】本発明の第2実施形態に係わる動画配信部の動作を示すフローチャートである。
【図11】本発明の第2実施形態に係わる画像加工部の動作を示すフローチャートである。
【図12】本発明の第2実施形態に係わる画像表示システムの変形例を示す図である。
【図13】本発明の第3実施形態に係わる画像表示システムのシステム構成を示すブロック図である。
【図14】本発明の第3実施形態に係わるコマーシャル判定の動作を示すフローチャートである。
【符号の説明】
【0118】
1・・・MPU、1a・・・レリーズスイッチ、1b・・・モード切替スイッチ、1c・・・他のスイッチ、1d・・・位置判定部、1t・・・時計部、2・・・撮影レンズ、2a・・・AF(オートフォーカス)制御部、2b・・・絞り、2c・・・絞り制御部、3・・・撮像素子、4・・・アナログフロントエンド(AFE)部、5・・・画像処理部、5a・・・顔検出部、5b・・・表情判定部、5c・・・距離判定部、5d・・・個人認証部、6・・・圧縮部、8・・・表示パネル、8a・・・表示制御部、8b・・・マルチ画像処理部、9・・・記録メディア、9a・・・記録部、9c・・・送受信部、9e・・・送信設定部、9f・・・無線LAN、9g・・・赤外光送受信機、11・・・補助光発光部、12・・・マイク、20・・・被写体、32・・・通信網、33・・・サーバー、33a・・・通信部、33b・・・画像メモリ、33c・・・遷移効果部、33d・・・検索部、33e・・・楽曲データベース(DB)、33f・・・表示制御部、34a・・・カラオケモニタ、34b・・・カラオケ装置、34c・・・ホットスポット、34e・・・リモコン、34g・・・テレビ(TV)、34g1・・・画面、34g2・・・画面、34h・・・リモコン、35・・・マイク、100・・・カメラ、133・・・画像配信サーバー、133A・・・画像加工部、133a・・・通信部、133b・・・画像メモリ、133c・・・遷移効果部、133g・・・メモリ、133f・・・効果反映部、133B・・・動画配信部、133d・・・検索部、133e・・・動画データベース(DB)
【技術分野】
【0001】
本発明は、画像表示システムおよび画像表示方法に関し、詳しくは撮像装置等で撮影した画像を表示する画像表示システムおよび画像表示方法に関する。
【背景技術】
【0002】
近年、デジタルカメラ等の撮像装置の画像送信の容易さを利用して、PC通信やインターネット、携帯電話回線などの通信機能を利用して画像を送信し、その環境下で画像を楽しむ画像鑑賞法が普及している。こうした通信機能を利用すると、例えば、遠く離れた機器に画像を送信するばかりか、それと連携して新しいコンテンツを作成するような楽しみ方の応用が可能となる。さらに、画像を配信したり、画像を投稿するなど、従来にはない楽しみ方が広がってきている。
【0003】
したがって、従来のような写真をアルバムで鑑賞する鑑賞法に縛られることなく、その状況に適した再生機器を利用して、画像を楽しむことが可能となってきている。また、従来から、カラオケ装置等にはおいては、画像を合成して表示する技術が提案されている。例えば、特許文献1には、ユーザーがデジタルカメラで撮影した画像をカラオケの背景画像として使用することのできるカラオケ装置が開示されている。このカラオケ装置は、画像を記憶したメモリカードをカラオケ用のマイクに挿入すると、画像を読み出し、モニタテレビに映しだす。
【0004】
また、特許文献2には、カラオケで歌っているプレイヤーの顔等をビデオカメラで取り込み、背景の指定された位置に嵌め込み合成表示を行なうカラオケ装置が開示されている。さらに、特許文献3には、歌唱者が歌唱している姿をビデオカメラで撮影し、この画像と背景画像を合成して表示すると共に、この画像をプリントするカラオケ装置が開示されている。
【0005】
さらに、特許文献4には、出演者の生の画像と背景画像を合成し、その際、ミラー反転処理を行なうことのできる画像合成装置が開示されている。さらに、特許文献5には、演奏曲を再生する際に、歌手の顔をカラオケの歌唱者顔に置き換えて表示するようにしたカラオケ装置が開示されている。
【0006】
【特許文献1】特開2004−271959号公報
【特許文献2】特開平11−175079号公報
【特許文献3】特開平10−254462号公報
【特許文献4】特開平9−275524号公報
【特許文献5】特開平6−110480号公報
【発明の開示】
【発明が解決しようとする課題】
【0007】
このように、カラオケ装置において、画像を合成する技術は種々提案されている。しかし、特許文献1に開示のカラオケ装置では、カード内に記憶された画像がモニタに表示されるだけで、画像表示は単調なものとなってしまう。また特許文献2乃至特許文献5に開示されたカラオケ装置は背景画像等と歌唱者の画像等と画像を合成して表示するが、デジタルカメラ等の撮像装置において撮影した画像を楽しむものではなかった。
【0008】
本願発明は、このような事情を鑑みてなされたものであり、デジタルカメラ等の撮像装置において撮影した画像を、他の機器の特性を活かしつつ、楽しみながら鑑賞できる画像表示システムおよび画像表示方法を提供することを目的とする。
【課題を解決するための手段】
【0009】
上記目的を達成するため第1の発明に係わる画像表示システムは、第1画像の表現効果を判定するトランジッション効果判定部と、上記第1画像とは異なる第2画像のトランジッション効果が上記第1画像のトランジッション効果と同調するように上記第2画像の画像データを編集する画像処理部と、上記第2画像を表示する第2画像表示部を備える。
【0010】
第2の発明に係わる画像表示システムは、上記第1の発明において、上記第1画像は放送画像であり、上記第2画像はカメラで撮影された画像である。
また、第3の発明に係わる画像表示システムは、上記第1の発明において、上記第1画像はカラオケ用背景画像であり、上記第2画像はカメラで撮影された画像である。
さらに、第4の発明に係わる画像表示システムは、上記第1の発明において、所定の音楽を表す音楽データを記憶する音楽データ記憶部と、上記音楽を表す音声を発生する音声発生部と、上記第1画像を表示する第1画像表示部と、をさらに備え、上記所定の音楽に合わせて上記第1画像および上記第2画像を表示する。
【0011】
さらに、第5の発明に係わる画像表示システムは、上記第1の発明において、上記トランジッション効果は、人物、風景、夜景などの画像の属するジャンル、画像の変化する方向、画像のズーミングの中の少なくとも1つに関する画像の遷移効果である。
さらに、第6の発明に係わる画像表示システムは、上記第2の発明において、上記第1画像データ、上記第2画像データ及び上記音楽データを送信する送信部と、上記送信部により送信された上記第1画像データ上記第2画像データ及び上記音楽データを受信する受信部をさらに備え、上記音声発生部、上記第1画像表示部及び上記第2画像表示部は、それぞれ上記受信部により受信した上記音楽データを表す音楽、上記第1画像データを表す上記第1画像及び上記第2画像データを表す上記第2画像を表示する。
【0012】
上記目的を達成するため第7の発明に係わる画像表示方法は、第1画像の表現効果を判定するステップと、上記第1画像とは異なる第2画像のトランジッション効果が上記第1画像のトランジッション効果と同調するように上記第2画像データを編集するステップと、上記第2画像を表示するステップを備える。
【0013】
上記目的を達成するため第8の発明に係わる画像表示システムは、第1画像の動画像を分析し分類する画像分析部と、上記第1画像とは異なる第2画像の動画像を比較し、類似画像の在否を判定する比較部と、この比較部によって類似画像が存在する場合に、上記第1画像を対応する第2画像に置き換える類似画像置き換え部と、この類似画像置き換え部によって置き換えられた画像を表示する表示部を備える。
【0014】
第9の発明に係わる画像表示システムは、上記第8の発明において、上記画像分析部は、顔画像および風景画像の少なくとも一つを分析可能である。
第10の発明に係わる画像表示システムは、上記第8の発明において、上記類似画像置き換え部によって、置き換えることのできなかった第2画像を、置き換えられなかった上記第1画像に等間隔で置き換える未対応画像置き換え部を具備する。
第11の発明に係わる撮像装置は、上記第8の発明において、上記第1画像は、カメラによって撮影されたカメラ画像である。
第12の発明に係わる撮像装置は、上記第8の発明において、上記第2画像は、カラオケ装置のコンテンツ、インターネット上のサーバーに保管された動画、またはテレビ放送のコマーシャルのいずれかである。
【0015】
上記目的を達成するため第13の発明に係わる画像表示方法は、第1画像の動画像を分析し、第1の画像を分類し、上記第1画像とは異なる第2画像の動画像を比較し、類似画像の在否を判定し、この比較によって類似画像が存在する場合に、上記第1画像を対応する第2画像に置き換え、この置き換えられた画像を表示する。
【発明の効果】
【0016】
本発明によれば、デジタルカメラ等の撮像装置において撮影した画像を、他の機器の特性を活かしつつ、楽しみながら鑑賞できる画像表示システムおよび画像表示方法を提供することができる。
【発明を実施するための最良の形態】
【0017】
以下、図面に従って本発明を適用した画像表示システムを用いて好ましい実施形態について説明する。本発明の第1実施形態に係る画像表示システムは、カラオケシステムに適用したものであり、デジタルカメラで撮影したカメラ画像をカラオケ用のサーバーが受信し、カラオケの映像コンテンツの再生に応じてカメラ画像を再生表示するようにしている。
【0018】
図1は、本発明の第1実施形態に係わるデジタルカメラとその周辺のブロック図である。ユーザーが使用するカメラ100には、撮影レンズ2、AF(オートフォーカス)制御部2a、絞り2b、絞り制御部2c、撮像素子3、アナログフロントエンド(以下、AFEと略す)部4が設けられている。撮影レンズ2は、内部にフォーカスレンズを有し、入射した被写体20の像を撮像素子3上に結像させる。
【0019】
AF制御部2aは、撮影レンズ2の合焦位置を、後述する画像処理部5内において画像処理を行い、いわゆる山登り法により検出し、フォーカスレンズを駆動して、合焦位置に移動させる。なお、山登り法は、撮影画像のコントラスト信号ピークから合焦位置(ピント位置)を検出する方式であるが、山登り法以外にも、例えば位相差法や三角測距法等公知の合焦方法に置き換えてもよい。AFによって合焦位置に達すると、このときの撮影レンズ2を検出することにより、距離判定を行うことができる。この場合、撮影レンズ2がズームレンズのときには、ズーム位置等を加味して距離の判定を行う。
【0020】
撮影レンズ2内または近傍に、シャッタや絞りの効果を奏する絞り2bが設けられる。絞り2bは、撮影時に所定の口径まで開き、露出が終了すると閉じて露光を終了させるものである。絞り制御部2cは、絞り2bを駆動して絞り径を設定する。この絞りを変えることによって、レンズの被写界深度が変化するので、背景のぼけ具合などを調整して、被写体を浮かび上がらせたり、背景をしっかりと描写したりするなど、表現の切り替えを行うことができる。撮像素子3は、多数の受光面(画素)からなるCCDやCMOSセンサ等であり、撮影レンズ2を介して被写体20からの像を受光しこれを画像信号に変換する。
【0021】
アナログフロントエンド(AFE)部4は、アナログデジタル変換(AD)手段を含み、撮像素子3からの信号をデジタル信号化する。そして、AFE部4は、撮像素子3から出力される画像信号について各種処理を行う。また、AFE部4には、撮像素子3のいくつかの画素をまとめて、一括して読み出す機能も設けられている。たとえば、4画素(2×2)や9画素(3×3)など、各画素の信号レベルが小さいときには、いくつかの画素信号を加算して、S/Nを向上させることができ、また、感度を上げることも出来る。
【0022】
このような処理によって感度を上げることができ、シャッタスピードを速くする等、撮影上の工夫が可能となる。シャッタスピードが速いと、動いている被写体が止まっているように撮影することが可能となる。また、手振れなどを防止することができる。
【0023】
また、AFE部4は、撮像素子3の出力する信号を取捨選択する機能を有し、受光範囲の中から限られた範囲の画像データを抽出することが出来る。一般に撮像素子3の画素から間引いた画素信号を抽出する場合には、高速読出が可能となる。これにより構図確認用の画像信号を、画像処理部5によって高速処理し、表示制御部8aを介して表示パネル8に表示することにより、フレーミングが可能となる。
【0024】
AFE部4の出力は、画像処理部5に接続されている。画像処理部5は、入力信号の色や階調やシャープネスを補正処理する。また、撮像素子3から得られた画像信号を所定のレベルに増幅して、正しい濃淡、正しい灰色レベルに設定する増感部を有している。これは、デジタル化された信号レベルが、所定レベルになるようにデジタル演算するものである。また、画像処理部5は、ライブ画像をリアルタイムに表示部に表示できるように、撮像素子3からの信号を表示パネル8に表示できるようなサイズに加工するリサイズ部を有する。この働きによって、撮影に先立って撮像素子に入射する像を確認でき、これを見ながら撮影時のタイミングやシャッタチャンスを決定することが出来る。
【0025】
また、この画像処理部5の信号を利用して、撮像素子から入力されてくる画像の特徴などを判定する画像判定機能を有している。この画像判定機能としては、画像情報を加工して得られる輪郭情報から人の顔の目や口などの部分を判定する顔検出部5a、この顔検出部5aを利用して顔等の表情を判定する表情判定部5b、また個人の顔を識別して個人を認証する個人認証部5dを有している。また画像処理機能としては、さらに、画像の信号レベルのコントラストを判定して、被写体の距離を判定する距離判定部5cも有している。また、画像処理部5とその周辺補助部は、MPU1と連携して、撮影画像の見栄を調整するにも用いられる。
【0026】
このように、画像処理部5とその周辺の補助部(顔検出部5a、表情判定部5b、個人認証部5d等)は、写真撮影時に、ユーザーがどのような写真を撮ろうとしているかを判定して、撮影制御を最適化するために用いられる。
【0027】
カメラ100には、圧縮部6、記録部9a、記録メディア9、送受信部9c、送信設定部9e、表示パネル8、表示制御部8a及びマルチ画像処理部8bが設けられている。圧縮部6は、撮影時に画像処理部5から出力された信号を圧縮する。圧縮部6内には、MPEG(Moving Picture Experts Group)4やH.264などの圧縮用コア部で構成される動画用の圧縮部及び JPEG(Joint
Photographic Experts Group)コア部など静止画像用の圧縮部が設けられる。また、圧縮部6は記録メディア9に記録されている画像を表示パネル8に再生する際には、画像伸張も行なう。
【0028】
記録部9aは、圧縮された画像信号を記録メディア9に記録する。記録メディア9はカメラに着脱可能な保存用の記録媒体である。なお、画像信号の記録にあたっては、写真撮影した時の時間情報も併せて記録しても良い。撮影時間情報は、後述するMPU1内の時計部1tによって計測されており、MPU1は画像と関連付を行なう。
【0029】
メディア9や記録部9aに記録された撮影画像データは、送受信部9cによって、インターネット、携帯電話網や電話回線などの通信網32経由で、画像を管理するサーバー33等の他の機器に転送することができる。また、送受信部9cは送信設定部9eと接続されており、この送信設定部9eは画像を送信する場合等の送信先を指定する指定部である。撮影された画像は、指定先に即時送信も可能である。
【0030】
送受信部9cには、無線LAN9fと赤外光送受信機9gとが接続されている。赤外光受信機9gはカラオケ装置34bと赤外光通信が可能であり、カラオケ装置34bからカラオケ装置34bに楽曲等を送信するサーバー33のアドレスを取得することができる。また、無線LAN9fは、ホットスポット34c(図2参照)において、サーバー33と無線通信が可能である。これらの通信については、図2を用いて後述する。
【0031】
表示パネル8は、例えば液晶や有機EL等から構成され、撮影時には観察用に被写体画像をスルー画表示(ライブビュー表示とも言う)し、再生時には伸張処理された記録画像を再生表示する。
【0032】
表示制御部8aは、表示パネル8への表示を制御する。マルチ画像処理部8bは、表示パネル8上に、複数の画像を表示する場合の制御部である。このマルチ画像処理部8bによって、撮影した画像や撮影する画像の上に、送信先のアドレスの文字表示や種々の警告表示をすることが可能である。なお、表示パネル8には、撮影して送信済み画像を一覧表示して、そこからサーバー33が運営するブログサービスなどにアップする画像や、アップして、ブログに表示する時のレイアウトを選択できるようにしてもよい。
【0033】
カメラ100には、補助光発光部11、マイク12、MPU(Micro Processing Unit)1、レリーズスイッチ1a、モード切替スイッチ1b、他のスイッチ1cが設けられる。補助光発光部11は、白色LEDやXe放電発光管を有し、電流量で光量が制御できるようになっている。状況に応じて被写体20に光を照射して、明るさの不足や不均一な明るさを防止する。マイク12は、集音を行い、周囲の音声情報を取り込み、圧縮部6によって音声情報を音声圧縮し、音声圧縮データを記録部9によって記録メディア9に、画像データと関連付けて記録する。
【0034】
MPU1は、カメラ全体の制御を司る制御手段である。レリーズスイッチ1a、モード切替スイッチ1b、他のスイッチ1cおよびプログラム等を記憶したROM(不図示)が、MPU1に接続される。MPU1内には、日や時刻を検出するための時計部1tが設けられており、写真の撮影日時を検出し、撮影画像と関連付けを行う。なお、スイッチ1b、1cは、スイッチを総称的に表示したものであって、実際には多数のスイッチ群から構成されている。また、MPU1には、位置判定部1dが接続されており、この位置判定部1は、GPS等により位置を検出する。この検出された位置を用いて撮影時の撮影位置と、前述の撮影日時を画像データと共にメディア9に記録する。
【0035】
各スイッチ1a〜1cは、ユーザーの操作を検出して、その結果をマイクロコントローラからなる演算制御手段であるMPU1に通知する。MPU1が、これらのスイッチの操作に従って動作を切り換える。また、MPU1は撮影時には、AF制御部2aや絞り制御部2c等の制御を行う撮影制御機能や取得画像データ・取得音声データ等の記録部9aや記録メディア9への記録制御機能を果たす。
【0036】
このように構成されているカメラ100は、無線LAN9f、赤外光送受信機9gを介して、カラオケ装置34bやサーバー33と接続している。サーバー33は、カラオケの音楽や歌詞を含む映像コンテンツを供給し、カラオケ供給元によって、サーバーは異なる。そのため、本実施形態において、デジタルカメラと協働するカラオケ供給元のアドレスを取得し、カメラ100に指定する必要がある。この指定は、種々の方法があり、例えば、カメラ100にタッチパネル等を設け、これから直接入力するようにしてもよい。
【0037】
また、カラオケ装置34bにそのアドレスの情報を出力させる機能を持たせるようにしてもよい。本実施形態では、カメラ100が赤外光送受信機9gを有し、カラオケ装置34bも同様に赤外光送受信機の構成を持たせている。カメラ100からカラオケ装置34bに指示信号を赤外通信で送信すると、カラオケ装置34bが応答して、カラオケ用のサーバー33のアドレスを表す赤外信号をカメラ100に返信する。
【0038】
なお、カラオケ装置34bがカメラ100から指示信号を受信すると、指示信号をデコードして通信網(NET)32を通じて、カラオケ用のサーバー33と通信するようにしてもよい。カメラ100で撮影した画像から選択されたカメラ画像を、指定先のサーバー33に送信すれば、カラオケ用画像として表示可能となる。このような構成をとることにより、撮影画像をカラオケ用画像に置き換え、カラオケ装置34bに自分が撮影した映像を表示して、カラオケ用画像表示用の大画面のカラオケモニタ34aで楽しむようにしている。
【0039】
図2(a)はカメラ100がサーバー33のアドレスを取得する状態を示す図である。カメラ100とカラオケ装置34bの間で赤外線通信し、無線LAN9fのホットスポット34cや通信網(NET)32を介して、アクセスするサーバー33のアドレスを取得する。
【0040】
また、図2(b)は、カメラ100からカメラ画像を送信し、カラオケモニタ34aへのカメラ画像の表示時を示す。カメラ100は、サーバー33のアドレスを用いて、ホットスポット34cを介して、カメラ内のカメラ画像をサーバー33に送信する。サーバー33は、カメラ画像を後述するような効果を持たせた画像に処理し、ホットスポット34cを介して、順次、カラオケ装置34bに送信し、カラオケモニタ34aはこの画像を表示する。したがって、カラオケモニタ34aには、通常のカラオケコンテンツの映像またはカメラ画像を再生表示可能である。
【0041】
また、カラオケ装置34bには、サーバー33から送信されてきた音声データに基づいて楽曲を流すためのスピーカ等の音声発生部(不図示)を有する。マイク35を持ったユーザーは、カメラ100によって撮影された身近な写真を見ながらカラオケを楽しむことができる。また、カラオケの歌詞が分かるように、サーバーが歌詞を合成して送信するようにしてもよく、もとの画像の歌詞の部分は隠さないように表示してもよい。
【0042】
次に、カラオケ用のサーバー33による撮影画像の画像処理について、図3を用いて説明する。図3(a)は、カラオケ用の映像コンテンツの時間変化の様子を示す図であり、この図では画面上の歌詞は省略してある。カラオケの歌唱者は、歌詞をみて思い出しながら歌って楽しむが、その際、歌の雰囲気に応じて、情景を喚起したり、ムードを盛り上げる動画が映しだされる。
【0043】
このカラオケ用の映像は、風景になったり、人物が現われたりするなど、画像を効果的に変化させ、ストーリー性があり、情感を高めようにしている。すなわち、図3(a)の例のように、風景画像や、ズーミング処理やパンニング処理など画像を効果的に変化させている。また、歌詞の区切りで、画像を変えるなどの工夫もなされている。これらは、プロが撮影した、質の高いもので、飽きの来ない工夫がなされ、様々な効果が施されている。
【0044】
本実施形態においては、プロによって撮影され編集されたカラオケ用画像にリンクさせて素人が撮影したカメラ画像を画像処理することにより、見栄えのよい表示にすることを可能としている。また、この画像の効果は歌と不可分であり、本実施形態において、カラオケ画像に置き換えて表示するデジタルカメラの画像は、この効果に即した画像にすることが好ましい。
【0045】
しかし、カラオケ用の映像と、一般の撮影者が撮影した画像の主題が全く同じという可能性は高くないので、少なくとも、歌詞の区切りにあわせてカメラ画像を代えたり、また画像の遷移、例えばズーミングやパンニングに合わせてカメラ画像の画像処理を行なう等、時間の移ろいを示すテイストを共通化して、カラオケの楽曲との違和感をなくし、飽きの来ない画像表示を行うようにしている。
【0046】
すなわち、本実施形態においては、図3(b)に示すように、例えば、カラオケ画像が風景なら風景のカメラ画像を表示し、カラオケ画像が違う画像になったら、それに合わせてカメラ画像を変え、またカラオケ画像にズーミングやパンニング効果がなされると、カメラ画像にも同様の効果を生ずる画像処理を行なって、プロの画像切換と同様の手法となる画像処理を行なって飽きがこないようにしている。
【0047】
このような画像表示を行なうためのサーバーを含めたシステムについて、図4を用いて説明する。図4は、本実施形態に係わる画像表示システムのブロック図であり、カメラ100、サーバー33および通信機能を有するカラオケ装置34b等から構成される。サーバー33は、カメラ100およびカラオケ装置34bと送受信するための通信部33aを有する。この通信部33aから入力した画像等を記憶するための画像メモリ33bと、この記憶された画像に対してズーミング、パンニング、フェードアウト、フェードイン等の遷移効果を生ずる画像処理を行なうための遷移効果部33cと、この遷移効果部33cによって処理された画像等の表示を制御する表示制御部33fを有する。
【0048】
また、サーバー33は検索部33dを有し、この検索部33dはカラオケ装置34bと通信部33aを介して要求された楽曲を楽曲データベース33eから検索する。楽曲データベース33eは、歌詞付き映像と伴奏音楽からなるカラオケ用コンテンツのデータベースであり、検索部33dによって検索されたカラオケ用コンテンツを遷移効果部33cに送出可能である。
【0049】
このように本実施形態に係わる表示システムは構成されている。カメラ100で選択されたカメラ画像は、ホットスポット等で無線LAN部9fを介してサーバー33に送信される。サーバー33は、通信部33aによってカメラ画像を入力すると、画像メモリ33bに記録する。
【0050】
一方、カラオケの楽曲選択用のリモコン34eによって楽曲が指定されると、検索部33dはデータベース33eから歌詞つきの映像と伴奏音楽からなるコンテンツを検索し、通信部33aを介して、カラオケ装置34bに送信する。このカラオケ用コンテンツが送信されてくると、モニタ34aに画像が表示され、スピーカから伴奏音楽が流れる。ユーザー(歌唱者)はマイク35を用いて歌うが、このときの画像は、オリジナルの画像に加え、画像メモリ33b内に記憶されているデジタルカメラ100によるカメラ画像が表示される。
【0051】
撮影画像の表示にあたっては、カラオケのオリジナル画像の遷移効果を効果部33cで判定し、画像メモリ33b内に記憶されているカメラ画像を選択し、これにカラオケ画像と同様な効果を遷移効果部33cによって付加する。この遷移効果が施されたカメラ画像を、表示制御部33fは、適宜、カラオケ用オリジナル画像と置き換えて表示制御を行う。このような制御を行うことにより、図2(b)を用いて説明したような効果を得ることが可能である。
【0052】
次に、デジタルカメラ100の制御について、図5に示すフローチャートを用いて説明する。まず、撮影モードか否かの判定を行なう(S1)。このカメラ100は、被写体像をライブビュー表示し、レリーズ操作によって撮影・記録する撮影モードと、記録された画像を再生表示する再生モードと、カラオケ装置34bと通信し、通信先のアドレスを取得する通信先取得モードと、この取得したアドレスに基づいてカラオケ用のサーバー33と通信する通信モード等のモードを有している。
【0053】
ステップS1おける判定の結果、撮影モードであった場合には、ライブビュー表示を行なう(S2)。ライブビュー表示は、撮像素子3によって取得した画像データに基づいて表示パネル8に被写体画像を動画表示する。続いて、レリーズ釦が全押し操作されたか、すなわちレリーズ操作されたかの判定を行なう(S3)。判定の結果、レリーズ操作されていなかった場合には、ステップS1に戻り、前述の動作を繰り返す。
【0054】
一方、ステップS3における判定の結果、レリーズ操作されていた場合には、撮影を行い(S4)、記録する(S5)。すなわち、撮像素子3によって画像データを取得し、この画像データを圧縮部6によって圧縮処理した後、記録部9aによって記録メディア9に記録する。記録が終わると、リターンし、ステップS1から繰り返す。
【0055】
ステップS1における判定の結果、撮影モードではなかった場合には、次に、再生モードか否かの判定を行なう(S11)。判定の結果、再生モードであった場合には、再生表示を行なう(S12)。再生表示は、記録メディア9に記録されている撮影画像の画像データを読出し、伸張処理した後、表示パネル8に表示する。
【0056】
続いて、サムネイル表示を行なうか否かの判定を行なう(S13)。ユーザーがサムネイル表示を望む場合には、デジタルカメラ100の背面等に設けられているスイッチを操作してサムネイル表示モードに設定するので、このステップではこのモードに設定されたか否かの判定を行なう。判定の結果、サムネイル表示モードであった場合には、サムネイル表示を行なう(S14)。このサムネイル表示は、記録メディア9に記録されている全画像データを読出し、通常より小さい画像で表示パネル8に複数駒の画像を同時に表示する。
【0057】
次に、カラオケ装置34bに表示する画像群、すなわちカラオケ候補の選択を行なうか否かの判定を行なう(S15)。これは、前述のサムネイル表示の選択と同様にカメラ100のスイッチの操作によりカラオケ候補の選択モードが設定されているか否かにより判定する。判定の結果、カラオケ候補の選択が設定されていた場合には、カラオケ候補の選択を行なう(S16)。カラオケ候補の選択は、サムネイル表示されている撮影画像の中から、カラオケ装置34bのモニタ画像として表示する画像を、タッチパネルや十字キーを利用して選択する。
【0058】
次に、カラオケ候補選択が終了したか否かを判定し(S17)、判定の結果終了した場合には、候補指示を行なう(S18)。この候補指示は、選択された撮影画像に対して、送信候補信号が付加され、後述するステップS27において、カラオケ装置34bのサーバー33に対して選択された撮影画像を送信する。候補指示が終わると、または、ステップS13、S15、S17においてNOであった場合には、リターンする。
【0059】
ステップS11において、再生モードでなかった場合には、通信先取得を行なうか否かの判定を行なう(S21)。この通信先取得は、カラオケ用のサーバー33のアドレスを取得するものであって、デジタルカメラ100の操作スイッチを操作することによって行なわれるので、このステップではこの操作がなされたか否かの判定を行なう。
【0060】
ステップS21の判定の結果、通信先取得を行なう場合には、カラオケ用のサーバー33のアドレスを受信し(S22)、次いで、この受信が終了したかを判定する(S23)。このステップにおいて、デジタルカメラ100の赤外線送受信機9gを介してカラオケ装置34bからサーバー33のアドレスを取得する。
【0061】
サーバー33のアドレスの受信が終了すると、サーバー33と通信を行なうか否かの判定を行なう(S24)。デジタルカメラ100は、ホットスポット等の場所で無線によって通信を行なうことができ、このステップでは、ユーザーによってこの通信モードが設定されたか否かの判定を行なう。
【0062】
ステップS24における判定の結果、通信モードに設定された場合には、デジタルカメラ100の無線LAN9fによってサーバー33と通信を行なう(S25)。続いて、通信が確立したか否かの判定を行なう(S26)。判定の結果、通信が確立した場合には、ステップS16において選択され、ステップS18において候補指示信号が付加された画像データを、サーバー33に送信する(S27)。一方、無線通信が確立できなかった場合には、通信ができず送信できなったことを警告する(S28)。ステップS27、S28が終わると、またはステップS24においてNoであった場合には、ステップS1に戻る。
【0063】
次に、サーバー33の動作について、図6に示すフローチャートを用いて説明する。まず、カメラとの通信か否かの判定を行なう(S101)。このステップは、カメラ100との通信が確立すると、ステップS27においてカメラ100は、カラオケ候補用の撮影画像を送信するので、この通信がなされているか否かの判定を行なう。判定の結果、通信がなされていると、画像取得を行なう(S102)。ここで取得されたカメラ画像の画像データは画像メモリ33bに格納される。
【0064】
次に、画像データの取得が終了したか否かを判定し(S103)、判定の結果、終了した場合には、各画像の判定を開始する(S104)。画像の判定を開始すると、顔判定を行ない(S105)、風景判定を行い(S106)、小物判定を行なう(S107)。ここでの各ステップでは、各画像が顔を含む顔画像か、顔を含まず、上の方が明るく、被写体が遠距離である風景画像か、近い距離で撮ったアクセサリーや日用雑貨など小物か、などの画像分類と整理を行う。次いで、全画像について、ステップS105からステップS107の判定が終了したかを判定し(S108)、終了した場合には、リターンする。
【0065】
ステップS101における判定の結果、カメラ通信ではなかった場合には、カラオケ装置34bから曲目指定の通信がなされか否かの判定を行なう(S111)。判定の結果、曲目指定のなされていない場合には、ステップS101に戻り、一方、曲目指定がなされた場合には、コンテンツ検索を行なう(S112)。
【0066】
次いで、検索されたコンテンツの中に、ステップS102において取得されたカメラ画像が有るか否かを判定する(S113)。判定の結果、カメラ画像がなかった場合には、ステップS117にスキップするが、カメラ画像があった場合には、ステップS114からS116において、検索された画像コンテンツがカメラ画像と類似しているかを判定し、類似像をカラオケコンテンツの画像に当てはめて入れ替えを行う。すなわち、ステップS114において、カメラ画像の画像内容の分析を行い(S105−107に相当)、カラオケコンテンツの画面変化の遷移効果をS115で判定し、それが終了すると、カラオケコンテンツの画像の画像置き換えを行なう(S116)。これらのステップは図7および図8において詳述する。
【0067】
ステップS112からステップS116において処理されたカラオケコンテンツの準備がOKであるか否かを判定し(S117)、OKであれば、再生をスタートするか否かの判定を行なう(S121)。判定の結果、再生スタートすると、カラオケコンテンツの再生を開始し、伴奏音楽と、オリジナル画像を再生する(S122)。
【0068】
次に、コンテンツ再生中のオリジナル画像と対応するカメラ画像があるか判定する(S123)。この判定は、ステップS116において置き換え画像(=対応画像)があったか否かの判定である。判定の結果、対応画像がなければ、ステップS122に戻り、オリジナル画像を再生する。一方、対応画像があれば、次に、そのオリジナル画像に遷移効果のある画像か否かの判定を行なう(S124)。
【0069】
判定の結果、遷移効果があれば、遷移効果を考慮した再生を行なう(S125)。すなわち、オリジナル画像と同様の遷移効果で表示できるように、カメラ画像に画像処理を施す。後述するステップS166(図7)において、W側判定されていれ、縮小ズームであり、最初にカメラ画像の一部分を表示し、だんだん全体を拡大表示して、同等の効果とする。また、ステップS167においてT側判定されていれば、拡大ズームであり、最初に全体画像を表示し、だんだん一部分(顔など)を拡大表示して、同等の効果を奏するようにする。さらに、パンニングの場合には、画面の一部から他の一部に表示部分を移すような表示を行う。この場合、全画像が表示できないので、最後に、オリジナル画像におけるパンニング効果からはなれて、全画面表示を行う等の工夫を行う。
【0070】
一方、ステップS124における判定の結果、遷移効果がなければ、対応画像に遷移効果を施すことなく、通常効果にてスライドショー形式で再生する(S128)。ステップS125またはステップS128を終えると、コンテンツ再生が全て終了したか否かを判定し、終了していない場合には、ステップS123に戻り、一方、終了した場合には、リターンする。
【0071】
次に、ステップS114およびステップS115(図6)におけるコンテンツ分析、遷移効果判定のサブルーチンについて、図7を用いて説明する。まず、カラオケ用コンテンツの高速再生を開始する(S151)。続いて、コンテンツのオリジナル画像の中に顔があるか否かの判定を行い(S152)、判定の結果、顔がある場合には、主題が顔と判定する(S161)。
【0072】
ステップS152の判定の結果、顔がなかった場合には、次に、一面が明るいか否かの判定を行い(S162)、一面が明るかった場合には、主題が風景であると判定する(S162)。一面が暗くて点光源がちりばめられている画像の場合には、主題が夜景と判定し、風景に分類してもよい。ここまでが、図6のステップS114のコンテンツ分析のサブルーチンに相当する。
【0073】
次に、オリジナル画像が右から左へ等と動いているか、すなわちパンニングが行なわれているか否かの判定を行なう(S154)。判定の結果、パンニングがなされていると、効果がパンニングと判定する(S166)。ステップS154における判定の結果、パンニングではなかった場合には、オリジナル画像がズーミングしているか、すなわち拡大または縮小しているか否かの判定を行なう(S155)。
【0074】
ステップS155における判定の結果、拡大または縮小である場合には、拡大か否かの判定を行なう(S165)。判定の結果、拡大でなければ、ワイド側と判定し(S166)、一方、拡大であれば、テレ側と判定する(S167)。すなわち、縮小・拡大するかでズーミングの判定を行い、拡大であればテレ側ズーム、縮小であればワイド側ズームとする。ステップS154からステップS167までが、図6のステップS115の遷移効果に相当する。
【0075】
以上のステップS152からステップS167は、各画面ごとに行う必要があることから、次に、画面の切り替えシーンであるか否かの判定を行なう(S156)。判定の結果、画面の切り替えシーンでない場合には、ステップS152に戻り、前述の判定等を繰り返す。一方、画面の切り換えシーンであった場合には、場面内容を判定する(S158)。続いて、カラオケ用のコンテンツの全てのシーンについてステップS152からステップS158での判定等が終了したかを判定する(S159)。ステップS159における判定の結果、終了していない場合には、ステップS152に戻り、一方、終了した場合には、図6のフローに戻る。
【0076】
次に、ステップS116(図6)における画像置き換えのサブルーチンについて、図8を用いて説明する。このサブルーチンでは、サーバー33がカラオケ用コンテンツのオリジナル画像をカメラ画像に置き換えを行なう。まず、オリジナルの画像コンテンツ(カラオケビデオ)のシーンと、カメラ画像のシーンの比較を開始する(S201)。続いて、画像比較の結果、類似画像が存在するか否かの判定を行なう(S202)。類似画像か否かは、例えば、顔画像であるか、風景画像であるか等の判定である。
【0077】
ステップS202における判定の結果、類似画像がない場合にはステップS204にスキップし、一方、類似画像が有った場合には、類似シーンの置き換え、すなわち、オリジナル画像をカメラ画像で置き換えを行なう(S203)。続いて、全シーンについて判定が終了したかを判定し(S204)、終了していない場合にはステップS202に戻り、全シーンについて判定が終わるまで、これらのステップを繰り返す。
【0078】
一方、ステップS204の判定の結果、終了した場合には、未対応カメラ画像が有るか否かの判定を行なう(S205)。このステップでは、カメラ100からサーバー33に表示候補としてカメラ画像が送信されたが、ステップS203における類似シーンの置き換えのできていない画像があるかどうかを判定する。判定の結果、未対応カメラ画像がなければ、このサブルーチンを終了して、図6のフローに戻る。
【0079】
一方、判定の結果、未対応カメラ画像が有る場合には、未対応コンテンツシーンが多いか、すなわち、置き換えられなかったオリジナルのシーンの数と、オリジナルのカメラ画像の数を比較する(S205)。判定の結果、置き換えられなかったシーンのほうが多い場合は、略等間隔で古い画像から置き換える(S207)。一方、判定の結果、置き換えられなかったカメラ画像の方が多い場合には、カメラ画像が全て置き換え表示できるように、時系列(撮影順)に未対応コンテンツのオリジナル画像を置き換えていく。このために、置き換えられなかったカラオケ用コンテンツの長いシーンについては分割し(S211)、略等間隔で古い画像から置き換えを行なう(S212)。
【0080】
なお、ステップS207とステップS212における画像の置き換えでは、両画像の類似性は問わないようにする。このようにして、カラオケ用のコンテンツのオリジナル画像をシーンと類似性の高いカメラ画像に置き換える。ここで置き換えられた画像は、ステップS123(図6)において、対応画像有りと判定され、カメラ画像が再生される。
【0081】
ステップS207またはステップS212における画像の置き換えが終わると、またはステップS205において、未対応カメラ画像がないと判定されると、このサブルーチンを終了し、図6のフローに戻る。
【0082】
このように、本実施形態においては、カラオケコンテンツでの画像の編集の仕方や、画像の効果を利用して、カメラ画像を再生するようにしている。このため、カメラ画像を単にスライドショー形式で再生するよりは、鑑賞者を飽きさせることなく、表示することができる。
【0083】
また、カラオケボックス内の環境は、最新鋭のAV機器が揃っており、さらにネットワーク環境にも接続され、多くの友人が集まり、写真画像を鑑賞するには相応しい理想的な鑑賞環境である。本実施形態は、この環境を有効利用することができ、効果的な写真鑑賞を可能としている。また、最近では、膨大な曲目データに対応するために、インターネットなどを利用して、外部のサーバー等からのカラオケコンテンツは配信されており、本実施形態では、カラオケ用のサーバー33にカメラ画像を送信することにより、このサーバー33によって画像処理を施すことができるので、大変便利である。
【0084】
なお、本実施形態においては、カメラ画像とコンテンツ画像を、おのおの分類して、置き換える例を示したが、もちろん、カメラ画像をそのまま利用して、画像検索の応用にて、類似シーンを判定するようにしてもよい。すなわち、本実施形態のように、一度、主題を「顔」、「風景」と分けて分類してから、その分類に沿った類似画像を探すのではなく、画像同士を比較して画像と画像の一致度を判定することにより類似画像を探すようにしてもよい。また、本実施形態においては、伴奏音楽も一緒に再生されていたが、これに限らず、鑑賞専用にして、音楽にカラオケではなく歌も自動で付与するようにしてもよい。
【0085】
次に、本発明の第2実施形態について、図9乃至図12を用いて説明する。第1実施形態では、カラオケ用のサーバー33にカメラ画像を送信し、カラオケ用コンテンツの画像変化に合わせて、カメラ画像を再生するようにしていた。第2実施形態においては、インターネット上のサーバーに投稿された動画の画像変化に合わせて、カメラ画像を再生するようにしている。
【0086】
近年、インターネットに接続可能なテレビ(TV)34gが出現しており、家族の団欒の際に、こうした動画投稿サイトにある画像を、リモコン34hを操作して楽しむことが可能である。動画投稿サイトに投稿された画像が、非常に印象的なノスタルジーを感じさせる映像や音楽である場合、この映像を自分が撮影した画像に置換え、家族の歴史のような形で回想したくなることもある。そこで、本実施形態においては、投稿動画の変化に合わせて、カメラ画像を再生するようにしている。
【0087】
図9は、画像配信サーバー133を含む画像表示システムのブロック図である。この画像配信サーバー133は、画像加工部133Aと動画配信部133Bとから構成されている。動画配信部133Bは、投稿動画を格納する動画データベース133eと、このデータベース133eに格納されている投稿動画中か、ユーザーの指定によるタイトルやキーワード等に基づく検索を行なう検索部133dとから構成される。
【0088】
画像加工部133Aは、通信部133a、画像メモリ133b、遷移効果部133c、効果反映部133f、メモリ133gとから構成されている。通信部133aは、カメラ100と無線LAN等によって接続され、またテレビ34gとはインターネット等を通じて接続されており、これらの機器と送受信が可能である。
【0089】
画像メモリ133bは、カメラ100から送信されたカメラ画像を記憶するメモリである。この画像メモリ133bの出力は、遷移効果部133cに接続されている。この遷移効果部133cは、画像メモリ133bに格納されたカメラ画像に対して、メモリ133gに格納されている投稿動画に基づいて、ズーミング、パンニング、フェードイン、フェードアウト等の種々の遷移効果を画像処理によって施す。
【0090】
効果反映部133fは、遷移効果部133cによって遷移効果を施されたカメラ画像を、遷移効果を反映して再生するための制御部であり、ここでの再生された画像データは、通信部133aを通じて、ネット接続されたテレビ34gに出力される。メモリ133gは、テレビ34gのユーザー等によって検索された投稿動画を記憶するためのメモリである。
【0091】
動画配信部133Bは、ユーザーがネットワークを介して、タイトルやキーワードを検索部133dに入力すると、動画データベース133e内から対応する動画を検索し、画像加工部133Aを介さずに直接、テレビ34gに配信し、投稿動画を再生することができる。なお、本実施形態においては、動画配信部133Bと画像加工部133Aは同一の画像配信サーバー133内に設置してあるが、別々のサーバーで構成し、両者が連携できるようにしてもよい。
【0092】
次に、画像配信サーバー133の動作について、図10に示すフローチャートを用いて説明する。このフローチャートがスタートすると、まず、画像検索か否かの判定を行なう(S301)。判定の結果、画像検索であった場合には、選択するためのキーワードやタイトルを受付け、検索部133dによって検索を行なう(S302)。続いて、ユーザーからネット経由で再生操作がなされかを判定し(S303)、判定の結果、再生操作がなされると、対応した画像が再生される(S304)。次に、ユーザーによって終了の操作がなされたか、検索された動画が最後まで再生がなされたかを判定し(S305)、判定の結果、終了であれば、ステップS305をYesに分岐して再生終了となる。
【0093】
ステップS301における判定の結果、画像検索ではなかった場合には、次に、類似効果再生要求か否かを判定する(S310)。これは、ユーザーが投稿動画の画像変化に合わせて、カメラ画像の切り換えや画像処理を施して楽しみたい場合に、投稿動画の再生要求の指定がなされたか否かを判定するステップである。判定の結果、再生要求がなされていた場合には、対応コンテツ情報(投稿動画)を画像加工部133A内のメモリ133gに送信する(S311)。なお、コンテンツそのものでなくとも、音楽ならその曲名、画像ならその特徴のみを送信するようにしてもよい。
【0094】
このように、プライベートなカメラ画像(素材)が入ったサーバー133の画像加工部133Aと、公開されたコンテンツ(すでに作品化されたもの)が記録された画像配信部133bが連携してサービスを行っている。もちろん、前述したように、同一のサーバーが両方の機能を有し、これらのサービスを行っても良い。
【0095】
ステップS310における判定の結果、再生要求がなされていない場合には、投稿操作がなされているか否かの判定を行なう(S315)。判定の結果、投稿操作がなされていない場合には、ステップS301に戻り、前述の動作を繰り返す。一方、判定の結果、投稿操作がなされていた場合には、投稿画像を受付け(S316)、検索しやすいようにタグを付けて動画データベース133eに記録される。
【0096】
前述したように、自己のカメラ100で撮影したカメラ画像は、通信部133aを介してメモリ133bに保管されており、また投稿動画の中で再生要求のされた画像データは、メモリ133gに保管されている。ユーザーが画像配信サーバー133の画像加工部133Aにアクセスし、メモリ133gに保管されている投稿画像の遷移効果を遷移効果部133cが分析し、その手本となる投稿動画に合わせて画像メモリ133b内のカメラ画像を適宜選択して、その遷移効果に合わせて、効果反映再生部133fは、順次、再生を行う。この画像は、通信部133aからネットを経由してテレビ34gに送信され、鑑賞可能となる。
【0097】
この画像加工部133Aの動作について、図11に示すフローチャートを用いて説明する。まず、ユーザーが、投稿された動画作品を見て、気にいった作品があれば、その旨の操作を行う。そこで、画像加工部133Aは、効果取得の操作がなされか否かについて判定する(S321)。判定の結果、効果取得の操作がなされていた場合には、ユーザーが好んだ動画を画像配信部133Bより取得する(S323)。このステップS322と前述のステップS311は協働して行われる。
【0098】
次に、画像加工部133Aに取得した画像の再生を行なうか否かの判定を行い(S323)、再生を行なわない場合には、ステップS321に戻る。一方、再生を行なう場合には、効果を参照しながら、カメラで撮影した画像を再生する。すなわち、お手本となる投稿動画の画像の見せ方の効果を、カメラ画像に反映させ、音楽などの効果音は、そのまま利用する。
【0099】
また、画像の切換なども、すでに作品化された動画を参照するので、特に複雑な設定を行わなくとも、効果的な再生が可能となる。このステップにおけるカメラ画像の加工は、図6のステップS114からS116およびステップS121からステップS129と同様の処理を行なえばよいので、詳しい説明は省略する。
【0100】
こうした、動画効果を必要としない場合は、その旨の操作を行うと、ステップS321における判定においてNoで抜ける。次に、再生を行なうか否かの判定を行う(S330)。判定の結果、Noであった場合には、ステップS321に戻り、前述のステップを繰り返す。一方、再生を行なう場合には、写真画像を古い順に順次再生を行ない(S331)、再生が終了すると、リターンする。
【0101】
このように、動画投稿サイト(動画配信部133B)に保管されている画像を手本にして、ユーザーが撮影したカメラ画像を効果的に再生することが可能となる。なお、動画の複雑な画像の動きだけでなく、図12のように動画に含まれる音楽によって、再生画像の効果を変化させてもよい。
【0102】
つまり、歌の場合、歌詞に区切りがあればカメラ画像の切換を行い、音量が増大すると、ズームアップし、同じ音を伸ばすような場合には、それを判定し、カメラ画像のパンニング処理を行う。また、音量が小さくなると、遠ざかる感じであることから、カメラ画像にズームダウンしていくような効果を画像に与え、音楽とシンクロさせて効果を際立たせるようにしてもよい。この第2実施形態の変形例においては、動画の画像だけではなく、音楽等の音声情報を用いて、カメラ画像の表示に変化を与えるようにしている。
【0103】
このように、本発明の第2実施形態においては、インターネット上のサーバーに記憶されている動画を利用し、カメラ画像の表示にあたって、画像の切り替えタイミングや、ズーミングやパンニング等の遷移効果をカメラ画像に与えるようにしている。このため、インターネット上の動画の特性を活かしつつ、楽しみながら鑑賞することができる。なお、本実施形態においては、画像配信サーバー133に投稿された画像を利用していたが、これに限らず、インターネット上で配信される動画を利用することは勿論可能である。
【0104】
次に、本発明の第3実施形態について、図13および図14を用いて説明する。この第3実施形態においては、テレビ34gで放送されるコマーシャルを利用して、カメラ画像の表示を行なうようにしている。
【0105】
この第3実施形態に係わる画像表示システムは、テレビ34gとカメラ100から構成される。このカメラ100内には、カメラ100の撮像素子3で撮像した画像の遷移をモニタする変化判定部と、マイク12で集音した音の判定部が設けられている。変化判定部と判定部によって、テレビ34gで放送されるコマーシャルのシーンの変化を、その画像や音の変化によって解析する。
【0106】
また、テレビ34gとカメラ100の間は、赤外線通信等によって通信可能であり、カメラ100は、加工したカメラ画像をテレビ34gに送信する。また、テレビ34gは、画面34g1、34g2の2つの画面を表示することができ、受信したカメラ画像を画面34g1に表示し、カメラ画像信号の切り替えに応じて、画面34g1の表示画像の切替機能を有する。さらに、テレビ34gは、カメラ100からズーミングやパンニング等の遷移効果信号を受けると、カメラ画像に対してこれらの画像処理を行なう画像処理部を有し、この遷移効果を施された画像を画面34g1に表示する。
【0107】
この画像表示システムにおけるカメラ100の動作を図14に示すフローチャートを用いて説明する。ユーザーがテレビ34gで放送されるコマーシャルに合わせてカメラ画像を表示する場合には、まず、カメラ100をテレビ34gに向け、カメラ100の撮像素子3等の撮像動作およびマイク35の集音動作を開始する(S401)。
【0108】
続いて、撮像信号に基づくテレビ画像とマイク35からのテレビ音声に基づいてシーンが変化したか否かの判定を行なう(S402)。判定の結果、シーンが変化した場合には、カメラ100内に記憶されているカメラ画像の内から順次、送信する(S403)。テレビ34gは、このカメラ画像を受信すると、画面34g1に表示する。
【0109】
ステップS402において、シーンの変化がないと判定された場合には、撮像信号に基づいて、コマーシャルの画像にズーミングやパンニング等の遷移効果があるか否かの判定を行なう(S405)。判定の結果、遷移効果がある場合には、テレビ34gに対して、遷移効果信号を送信する。テレビ34gは、この遷移効果信号を受信すると、遷移効果信号によって指示されるズーミングやパンニング等の遷移効果を表示するように、カメラ画像に対して画像処理を行なう。
【0110】
ステップS403、S406を終えると、またはステップS405において遷移効果が無い場合には、コマーシャルが終了したか否かの判定を行い、終了していなければ、ステップS402に戻り、前述のステップを繰り返す。
【0111】
本実施形態によれば、ネットワークに接続することなく、カメラ100とテレビ34gの相互通信だけで、カメラ内の画像に対して、プロ(コマーシャル製作者)の演出を加えて、表示し、効果的な写真鑑賞を可能としており、テレビ放送における動画の特性を活かしつつ、楽しみながら鑑賞することができる。
【0112】
なお、本実施形態においては、コマーシャル等のテレビ放送の放送時に、リアルタイムでコマーシャルの内容を分析し、テレビ34gと通信しながら、テレビ34gの画面34g1にカメラ画像を表示していた。しかし、このやり方に限らず、例えば、コマーシャルを予め録画し、これを解析して、カメラ内に記憶された画像を選択して第1及び第2実施形態に述べたと同様の加工を施し、表示するようにしてもよい。
【0113】
すなわち、最初にTVコマーシャルをモニタした時には、カメラ画像の表示は行わず、解析のみを行う。コマーシャルは何度も繰り返し流されるので、次にコマーシャルが放送されたタイミングで、カメラの音や画像の検出手段は、先に解析したコマーシャルが再放送されていることを判定し、カメラ画像を再生することができる。
【0114】
以上のように、カラオケ、インターネット上の動画、コマーシャル等の放送画像等、無数の映像コンテンツが利用または参照可能な形で存在している。本発明の各実施形態は、こうして外部から取得可能な映像等のコンテンツを利用し、それらのコンテンツが有している映像等の効果と同様の効果で、カメラ画像を再生するようにしている。このため、特別な手間をかけなくとも、デジタルカメラ等の撮像装置において撮影した画像を、他の機器の特性を活かしつつ、楽しみながら鑑賞できる画像表示システムおよび画像表示方法を提供することができる。
【0115】
また、本発明の各実施形態においては、人物、風景、夜景などの画像の属するジャンル、画像の変化する方向、画像のズーミングの中の少なくとも1つに関する画像の遷移効果(トランジッション効果)を利用して、カメラ画像の画像データ編集している。このため、カラオケコンテンツ、インターネット上のサーバーに格納されている動画、コマーシャル放送等、専門家等が作成したのと同等の画像再生を得ることができる。
【0116】
なお、本発明は、上記実施形態にそのまま限定されるものではなく、実施段階ではその要旨を逸脱しない範囲で構成要素を変形して具体化できる。また、上記実施形態に開示されている複数の構成要素の適宜な組み合わせにより、種々の発明を形成できる。例えば、実施形態に示される全構成要素の幾つかの構成要素を削除してもよい。さらに、異なる実施形態にわたる構成要素を適宜組み合わせてもよい。
【図面の簡単な説明】
【0117】
【図1】本発明の第1実施形態に係わる画像表示システムにおけるカメラを主とするブロック図である。
【図2】本発明の第1実施形態に係わるカラオケ装置に適用した画像表示システムの使用状態を示す図である。
【図3】本発明の第1実施形態に係わる画像表示システムにおけるカラオケ用のサーバーによる撮影画像の画像処理について説明する図である。
【図4】本発明の第1実施形態に係わる画像表示システムにおけるサーバーを主とするブロック図である。
【図5】本発明の第1実施形態に係わるカメラ制御を示すフローチャートである。
【図6】本発明の第1実施形態に係わるサーバーの動作を示すフローチャートである。
【図7】本発明の第1実施形態に係わるコンテンツ分析および遷移効果判定のサブルーチンを示すフローチャートである。
【図8】本発明の第1実施形態に係わる画像置き換えのサブルーチンを示すフローチャートである。
【図9】本発明の第2実施形態に係わる画像表示システムにおけるサーバーを主とするブロック図である。
【図10】本発明の第2実施形態に係わる動画配信部の動作を示すフローチャートである。
【図11】本発明の第2実施形態に係わる画像加工部の動作を示すフローチャートである。
【図12】本発明の第2実施形態に係わる画像表示システムの変形例を示す図である。
【図13】本発明の第3実施形態に係わる画像表示システムのシステム構成を示すブロック図である。
【図14】本発明の第3実施形態に係わるコマーシャル判定の動作を示すフローチャートである。
【符号の説明】
【0118】
1・・・MPU、1a・・・レリーズスイッチ、1b・・・モード切替スイッチ、1c・・・他のスイッチ、1d・・・位置判定部、1t・・・時計部、2・・・撮影レンズ、2a・・・AF(オートフォーカス)制御部、2b・・・絞り、2c・・・絞り制御部、3・・・撮像素子、4・・・アナログフロントエンド(AFE)部、5・・・画像処理部、5a・・・顔検出部、5b・・・表情判定部、5c・・・距離判定部、5d・・・個人認証部、6・・・圧縮部、8・・・表示パネル、8a・・・表示制御部、8b・・・マルチ画像処理部、9・・・記録メディア、9a・・・記録部、9c・・・送受信部、9e・・・送信設定部、9f・・・無線LAN、9g・・・赤外光送受信機、11・・・補助光発光部、12・・・マイク、20・・・被写体、32・・・通信網、33・・・サーバー、33a・・・通信部、33b・・・画像メモリ、33c・・・遷移効果部、33d・・・検索部、33e・・・楽曲データベース(DB)、33f・・・表示制御部、34a・・・カラオケモニタ、34b・・・カラオケ装置、34c・・・ホットスポット、34e・・・リモコン、34g・・・テレビ(TV)、34g1・・・画面、34g2・・・画面、34h・・・リモコン、35・・・マイク、100・・・カメラ、133・・・画像配信サーバー、133A・・・画像加工部、133a・・・通信部、133b・・・画像メモリ、133c・・・遷移効果部、133g・・・メモリ、133f・・・効果反映部、133B・・・動画配信部、133d・・・検索部、133e・・・動画データベース(DB)
【特許請求の範囲】
【請求項1】
第1画像の表現効果を判定するトランジッション効果判定部と、
上記第1画像とは異なる第2画像のトランジッション効果が上記第1画像のトランジッション効果と同調するように上記第2画像の画像データを編集する画像処理部と、
上記第2画像を表示する第2画像表示部と、
を備えたことを特徴とする画像表示システム。
【請求項2】
上記第1画像は放送画像であり、上記第2画像はカメラで撮影された画像であることを特徴とする請求項1に記載の画像表示システム。
【請求項3】
上記第1画像はカラオケ用背景画像であり、上記第2画像はカメラで撮影された画像であることを特徴とする請求項1に記載の画像表示システム。
【請求項4】
所定の音楽を表す音楽データを記憶する音楽データ記憶部と、上記音楽を表す音声を発生する音声発生部と、上記第1画像を表示する第1画像表示部と、をさらに備え、上記所定の音楽に合わせて上記第1画像および上記第2画像を表示することを特徴とする請求項3に記載の画像表示システム。
【請求項5】
上記トランジッション効果は、人物、風景、夜景などの画像の属するジャンル、画像の変化する方向、画像のズーミングの中の少なくとも1つに関する画像の遷移効果であることを特徴とする請求項1に記載の画像表示システム。
【請求項6】
上記第1画像データ、上記第2画像データ及び上記音楽データを送信する送信部と、上記送信部により送信された上記第1画像データ上記第2画像データ及び上記音楽データを受信する受信部をさらに備え、上記音声発生部、上記第1画像表示部及び上記第2画像表示部は、それぞれ上記受信部により受信した上記音楽データを表す音楽、上記第1画像データを表す上記第1画像及び上記第2画像データを表す上記第2画像を表示することを特徴とする請求項2に記載の画像表示システム。
【請求項7】
第1画像の表現効果を判定するステップと、
上記第1画像とは異なる第2画像のトランジッション効果が上記第1画像のトランジッション効果と同調するように上記第2画像データを編集するステップと、
上記第2画像を表示するステップと、
を備えたことを特徴とする画像表示方法。
【請求項8】
第1画像の動画像を分析し分類する画像分析部と、
上記第1画像とは異なる第2画像の動画像を比較し、類似画像の在否を判定する比較部と、
この比較部によって類似画像が存在する場合に、上記第1画像を対応する第2画像に置き換える類似画像置き換え部と、
この類似画像置き換え部によって置き換えられた画像を表示する表示部と、
を備えたことを特徴とする画像表示システム。
【請求項9】
上記画像分析部は、顔画像および風景画像の少なくとも一つを分析可能であることを特徴とする請求項8に記載の画像表示システム。
【請求項10】
上記類似画像置き換え部によって、置き換えることのできなかった第2画像を、置き換えられなかった上記第1画像に等間隔で置き換える未対応画像置き換え部を具備することを特徴とする請求項8に記載の画像表示システム。
【請求項11】
上記第1画像は、カメラによって撮影されたカメラ画像であることを特徴とする請求項8に記載の画像表示システム。
【請求項12】
上記第2画像は、カラオケ装置のコンテンツ、インターネット上のサーバーに保管された動画、またはテレビ放送のコマーシャルのいずれかであることを特徴とする請求項8に記載の画像表示システム。
【請求項13】
第1画像の動画像を分析し、第1の画像を分類し、
上記第1画像とは異なる第2画像の動画像を比較し、類似画像の在否を判定し、
この比較によって類似画像が存在する場合に、上記第1画像を対応する第2画像に置き換え、
この置き換えられた画像を表示する、
ことを特徴とする画像表示方法。
【請求項1】
第1画像の表現効果を判定するトランジッション効果判定部と、
上記第1画像とは異なる第2画像のトランジッション効果が上記第1画像のトランジッション効果と同調するように上記第2画像の画像データを編集する画像処理部と、
上記第2画像を表示する第2画像表示部と、
を備えたことを特徴とする画像表示システム。
【請求項2】
上記第1画像は放送画像であり、上記第2画像はカメラで撮影された画像であることを特徴とする請求項1に記載の画像表示システム。
【請求項3】
上記第1画像はカラオケ用背景画像であり、上記第2画像はカメラで撮影された画像であることを特徴とする請求項1に記載の画像表示システム。
【請求項4】
所定の音楽を表す音楽データを記憶する音楽データ記憶部と、上記音楽を表す音声を発生する音声発生部と、上記第1画像を表示する第1画像表示部と、をさらに備え、上記所定の音楽に合わせて上記第1画像および上記第2画像を表示することを特徴とする請求項3に記載の画像表示システム。
【請求項5】
上記トランジッション効果は、人物、風景、夜景などの画像の属するジャンル、画像の変化する方向、画像のズーミングの中の少なくとも1つに関する画像の遷移効果であることを特徴とする請求項1に記載の画像表示システム。
【請求項6】
上記第1画像データ、上記第2画像データ及び上記音楽データを送信する送信部と、上記送信部により送信された上記第1画像データ上記第2画像データ及び上記音楽データを受信する受信部をさらに備え、上記音声発生部、上記第1画像表示部及び上記第2画像表示部は、それぞれ上記受信部により受信した上記音楽データを表す音楽、上記第1画像データを表す上記第1画像及び上記第2画像データを表す上記第2画像を表示することを特徴とする請求項2に記載の画像表示システム。
【請求項7】
第1画像の表現効果を判定するステップと、
上記第1画像とは異なる第2画像のトランジッション効果が上記第1画像のトランジッション効果と同調するように上記第2画像データを編集するステップと、
上記第2画像を表示するステップと、
を備えたことを特徴とする画像表示方法。
【請求項8】
第1画像の動画像を分析し分類する画像分析部と、
上記第1画像とは異なる第2画像の動画像を比較し、類似画像の在否を判定する比較部と、
この比較部によって類似画像が存在する場合に、上記第1画像を対応する第2画像に置き換える類似画像置き換え部と、
この類似画像置き換え部によって置き換えられた画像を表示する表示部と、
を備えたことを特徴とする画像表示システム。
【請求項9】
上記画像分析部は、顔画像および風景画像の少なくとも一つを分析可能であることを特徴とする請求項8に記載の画像表示システム。
【請求項10】
上記類似画像置き換え部によって、置き換えることのできなかった第2画像を、置き換えられなかった上記第1画像に等間隔で置き換える未対応画像置き換え部を具備することを特徴とする請求項8に記載の画像表示システム。
【請求項11】
上記第1画像は、カメラによって撮影されたカメラ画像であることを特徴とする請求項8に記載の画像表示システム。
【請求項12】
上記第2画像は、カラオケ装置のコンテンツ、インターネット上のサーバーに保管された動画、またはテレビ放送のコマーシャルのいずれかであることを特徴とする請求項8に記載の画像表示システム。
【請求項13】
第1画像の動画像を分析し、第1の画像を分類し、
上記第1画像とは異なる第2画像の動画像を比較し、類似画像の在否を判定し、
この比較によって類似画像が存在する場合に、上記第1画像を対応する第2画像に置き換え、
この置き換えられた画像を表示する、
ことを特徴とする画像表示方法。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【公開番号】特開2009−20234(P2009−20234A)
【公開日】平成21年1月29日(2009.1.29)
【国際特許分類】
【出願番号】特願2007−181709(P2007−181709)
【出願日】平成19年7月11日(2007.7.11)
【出願人】(504371974)オリンパスイメージング株式会社 (2,647)
【出願人】(000000376)オリンパス株式会社 (11,466)
【Fターム(参考)】
【公開日】平成21年1月29日(2009.1.29)
【国際特許分類】
【出願日】平成19年7月11日(2007.7.11)
【出願人】(504371974)オリンパスイメージング株式会社 (2,647)
【出願人】(000000376)オリンパス株式会社 (11,466)
【Fターム(参考)】
[ Back to top ]