画像処理装置
【課題】 スローモーション動画像と、該スローモーション動画像に関連する静止画像に基づく画像と共に再生される適切な音を自動的に選択することができる画像処理装置を提供する。
【解決手段】 所定時間の間に、被写体からの光を撮像する撮像素子22からの撮像信号に基づく複数のフレーム画像に基づき生成され、単位時間に前記撮像信号に基づき生成されるフレーム画像の数を示す第1フレームレートより少ない第2フレームレートで再生されるよう記録されるスローモーション動画像のスローモーション動画像データと、前記複数のフレーム画像の中の少なくとも1枚のフレーム画像に基づき静止画像として生成される静止画像用データとのうちの少なくとも一方に関連付けて、前記スローモーション動画像と前記静止画像用データに基づく画像とを時系列に画像再生する際に再生される音に関する情報であるテーマ情報を、記録媒体28に記録する記録制御部20を備える。
【解決手段】 所定時間の間に、被写体からの光を撮像する撮像素子22からの撮像信号に基づく複数のフレーム画像に基づき生成され、単位時間に前記撮像信号に基づき生成されるフレーム画像の数を示す第1フレームレートより少ない第2フレームレートで再生されるよう記録されるスローモーション動画像のスローモーション動画像データと、前記複数のフレーム画像の中の少なくとも1枚のフレーム画像に基づき静止画像として生成される静止画像用データとのうちの少なくとも一方に関連付けて、前記スローモーション動画像と前記静止画像用データに基づく画像とを時系列に画像再生する際に再生される音に関する情報であるテーマ情報を、記録媒体28に記録する記録制御部20を備える。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、動画像を生成可能な画像処理装置に関するものである。
【背景技術】
【0002】
入力画像から画像特徴量を抽出し、抽出した画像特徴量をスタイル特徴量に変換し、変換されたスタイル特徴量に基づいて入力画像にマッチしたスタイルを決定し、更に、抽出した画像特徴量を音楽特徴量に変換し、変換された音楽特徴量に基づいて入力画像にマッチした音楽を決定し、入力画像、音楽、スタイルを用いて、ショートフィルムを生成し、再生することができるショートフィルム生成再生装置が提案されている(例えば、特許文献1参照)。
【先行技術文献】
【特許文献】
【0003】
【特許文献1】特許第4261317号公報
【発明の概要】
【発明が解決しようとする課題】
【0004】
ところで、静止画像の撮影タイミングに同期して撮影され、被写体が実際の動きよりスローに動くスローモーション動画像を再生するとともに、この動画像の録画時に録音した音声を再生した場合、スロー再生されるため間延びした音声となり、視聴するユーザーに違和感を与える。また、上述の動画像を再生すると共に上述の静止画像のフリーズ動画を再生する際にも、フリーズ動画が再生されている間、無音の状態が継続し、視聴するユーザーに退屈な印象を与える。しかしながら、上述の特許文献1記載のショートフィルム生成再生装置には、上述の動画像及びフリーズ動画を順次再生する際に、この動画像やフリーズ動画にマッチした音声や音楽を選択し、動画像やフリーズ動画と共に再生する技術は開示されていない。
【0005】
本発明の目的は、スローモーション動画像と、該スローモーション動画像に関連する静止画像に基づく画像と共に再生される適切な音を自動的に選択することができる画像処理装置を提供することである。
【課題を解決するための手段】
【0006】
本発明は以下のような解決手段により上記課題を解決する。なお、理解を容易にするために、本発明の実施の形態に対応する符号を付して説明するが、本発明はこれに限定されるものではない。
【0007】
本発明の画像処理装置は、所定時間の間に、被写体からの光を撮像する撮像素子(22)からの撮像信号に基づく複数のフレーム画像に基づき生成され、単位時間に前記撮像信号に基づき生成されるフレーム画像の数を示す第1フレームレートより少ない第2フレームレートで再生されるよう記録されるスローモーション動画像のスローモーション動画像データと、前記複数のフレーム画像の中の少なくとも1枚のフレーム画像に基づき静止画像として生成される静止画像用データとのうちの少なくとも一方に関連付けて、前記スローモーション動画像と前記静止画像用データに基づく画像とを時系列に画像再生する際に再生される音に関する情報であるテーマ情報を、記録媒体(28)に記録する記録制御部(20)を備えることを特徴とする。
【発明の効果】
【0008】
本発明の画像処理装置によれば、スローモーション動画像と、該スローモーション動画像に関連する静止画像に基づく画像と共に再生される適切な音を自動的に選択することができる。
【図面の簡単な説明】
【0009】
【図1】第1の実施の形態に係る電子カメラの外観を示す背面図である。
【図2】第1の実施の形態に係る電子カメラのシステム構成を示すブロック図である。
【図3】第1の実施の形態に係る電子カメラにおいてスローモーション動画及び静止画を撮影する際の処理について説明するためのフローチャートである。
【図4】スロー動画データ及び静止画データのファイル構成を示す図である。
【図5】第1の実施の形態に係る電子カメラにおいてスローモーション動画及び静止画を再生する際の処理について説明するためのフローチャートである。
【図6】第2の実施の形態に係る電子カメラにおいてスローモーション動画及び静止画を撮影する際の処理について説明するためのフローチャートである。
【図7】表示部の表示例を示す図である。
【図8】第2の実施の形態に係る電子カメラにおいてスローモーション動画及び静止画のテーマ情報を設定する際の処理について説明するためのフローチャートである。
【図9】スロー動画中の顔領域検出について説明するための図である。
【図10】スロー動画中の被写体の輝度分布情報検出について説明するための図である。
【図11】記憶部に記憶されているテーブルについて説明するための図である。
【図12】輝度点の時間に対する輝度変化を示すグラフである。
【図13】スロー動画中の被写体の動き情報検出について説明するための図である。
【発明を実施するための形態】
【0010】
以下、図面を参照して、本発明の第1の実施の形態に係る画像処理装置としての電子カメラについて説明する。図1は、第1の実施の形態に係る電子カメラ2の外観を示す背面図である。図1に示すように、電子カメラ2の背面には、LCD等により形成されるモニタとしての表示部4が設けられている。表示部4は、後述する撮像素子22からの撮像信号に基づくスルー画像、後述する記録媒体28に記録されている画像データに基づく静止画像や動画像、後述するスロー動画+静止画撮影モードにおいてスロー動画撮影に関する設定を行う際のメニュー画面、及び撮影に関する情報等を表示する。
【0011】
また、電子カメラ2の背面には、静止画撮影を指示するためのシャッタボタン6、撮影モードを変更するためのモードボタン8、様々な機能を設定する際に操作される機能設定ボタン10、メニュー項目等の選択や様々な設定時に操作される十字キー12、メニュー項目等の選択や様々な設定に対する確定操作を行うためのOKボタン14が設けられている。モードボタン8は、動画を撮影するための動画撮影モード、静止画を撮影するための静止画撮影モード、後述するスローモーション動画(以下、スロー動画という。)及びスロー動画に関連する静止画を撮影するためのスロー動画+静止画撮影モード等の撮影モードを選択するためのボタンであり、モードボタン8を押下する毎に選択可能な撮影モードに順次切り替わる。また、機能設定ボタン10は、モードボタン8において選択された撮影モード下において設定可能な機能について設定するためのメニュー画面を表示部4に表示させる際に操作されるボタンである。
【0012】
図2は、第1の実施の形態に係る電子カメラ2のシステム構成を示すブロック図である。図2に示すように、電子カメラ2は、マイクロプロセッサ等により構成され、電子カメラ2の各部を統括的に制御する制御部20を備えている。制御部20には、撮像素子22、バッファメモリ24、記憶部26、記録媒体28、表示部4、及び操作部30が接続されている。撮像素子22は、CCDまたはCMOS等により構成され、図示しない撮影レンズを介した被写体からの光を撮像し、制御部20は、撮像素子22から出力され、図示しないA/Dコンバータを介すことによりアナログ信号からデジタル信号に変換された撮像信号に基づく画像データを取得する。
【0013】
バッファメモリ24は、撮像素子22からの撮像信号に基づき生成された画像データを一時的に記憶する。特に、電子カメラ2が例えばスロー動画を撮影するスロー動画+静止画撮影モード等に設定されている場合には、バッファメモリ24は、撮像素子22から動画像サイクル(60fps等)に同期して出力される撮像信号に基づく複数の画像データ、即ちスロー動画像を構成する複数のフレーム画像をFIFO(first in fist out)方式で順次記憶する。記憶部26は、スロー動画及びスロー動画に関連する静止画像の画像データに付加して記録するための「きらめき」「ゆらめき」「やすらぎ」「愛らしさ」等の複数のテーマ情報(後述する)、各テーマ情報に調和する音楽の音楽データ(後述する)等を記憶する。
【0014】
記録媒体28は、電子カメラ2に設けられたカードスロット(図示せず)に着脱可能に装着される可搬性を有する記録媒体であり、例えば、CFカード、SDカード、スマートメディア等が用いられる。記録媒体28には、バッファメモリ24に記憶されているフレーム画像のそれぞれに、制御部20内の図示しない縮小回路により動画用の解像度へのリサイズ(解像度大から小へ)処理、制御部20内の図示しない動画用信号処理回路により動画用の画像処理、及び制御部20内の図示しない動画用圧縮回路により動画用の圧縮処理を施すことにより作成される動画データやスロー動画データが記録される。また、記録媒体28には、バッファメモリ24に記憶されているフレーム画像に、制御部20内の図示しない静止画用信号処理回路により静止画像用の画像処理、制御部20内の図示しない静止画用圧縮回路により静止画像用の圧縮処理を施すことにより作成される静止画データや、撮影に関する情報等が記録される。操作部30は、電子カメラ2の電源をオン/オフする電源スイッチ(図示せず)、シャッタボタン6、モードボタン8、機能設定ボタン10、十字キー12、OKボタン14等を含んで構成されている。
【0015】
この実施の形態に係る電子カメラ2では、所定時間の間に、単位時間に撮像素子22からの撮像信号に基づき生成されるフレーム画像の数を示す第1フレームレートより少ない第2フレームレートで再生されるスロー動画のスロー動画データを、撮像信号22からの撮像信号に基づく複数のフレーム画像に基づき作成し、かつ該スロー動画を形成する複数のフレーム画像の少なくとも1つのフレーム画像に基づく静止画像の静止画データを作成し、これらスロー動画データ及び静止画データを互いに関連付けて記録媒体28に記録することができる。以下、図3に示すフローチャートを参照して、この実施の形態に係る電子カメラ2においてスロー動画及び静止画像を撮影する際の処理について説明する。
【0016】
まず、ユーザーがモードボタン8を操作することによりスロー動画+静止画撮影モードに設定されると、制御部20は、スロー動画及び該スロー動画に関連する静止画像を撮影するためのスロー動画+静止画撮影モードに移行する(ステップS10)。そして、ユーザーにより機能設定ボタン10が押下されたか否かを判別する(ステップS11)。ステップS11において機能設定ボタン10が押下されたと判別された場合には(ステップS11、Yes)、制御部20は、これから撮影されるスロー動画及び静止画像の画像データに関連付けて記録されるテーマ情報を選択するためのテーマ情報選択画面を表示部4に表示する。テーマ情報は、これから撮影されるスロー動画と静止画像に基づく画像とを時系列に画像再生する際に再生される音楽に関する情報であって、最適な音楽の音楽データを、記憶部26に記憶されている複数の音楽データの中から選択するために使用される。
【0017】
ユーザーは、複数のテーマ情報(例えば、「きらめき」「ゆらめき」「やすらぎ」「愛らしさ」等)の中から、所望のテーマ情報を十字キー12を用いて選択し、OKボタン14を押下する。制御部20は、ユーザーにより選択された所望のテーマ情報を記憶部26に記憶させる(ステップS12)。一方、ステップS11において機能設定ボタン10が押下されていないと判別された場合には(ステップS11、No)、制御部20は、デフォルトのテーマ情報(この実施の形態では、デフォルトのテーマ情報を「きらめき」とする。)を記憶部26に記憶させる(ステップS13)。
【0018】
なお、ステップS10においてスロー動画+静止画撮影モードに移行したとき、テーマ情報の設定忘れを防止するために、ユーザーに対してテーマ情報を設定するよう促すための表示等を行うこともできる。また、ステップS11において機能設定ボタン10が押下されていないと判別された場合において(ステップS11、No)、制御部20は、デフォルトのテーマ情報に代えて、ユーザーにより前回設定されたテーマ情報を、これから撮影されるスロー動画及び静止画像のテーマ情報として記憶部26に記憶させる構成にすることもできる。
【0019】
次に、制御部20は、ユーザーによりシャッタボタン6が半押しされたか否かを判別する(ステップS14)。そして、ステップS14においてシャッタボタン6が半押しされたと判別されると(ステップS14、Yes)、制御部20は、スロー動画及び静止画像の撮影準備、即ち主要被写体に対して合焦させ、スロー動画の撮影、即ちバッファメモリ24へのフレーム画像のバッファリングを開始する(ステップS15)。次に、制御部20は、ユーザーによりシャッタボタン6が全押しされたか否かを判別する(ステップS16)。そして、ステップS16においてシャッタボタン6が全押しされたと判別されると(ステップS16、Yes)、制御部20は、静止画像の撮影指示が入力されたと判断し、シャッタボタン6が全押しされてから所定時間が経過したか否かを判別する(ステップS17)。ステップS17において所定時間が経過したと判別された場合には(ステップS17、Yes)、制御部20は、スロー動画の撮影終了、即ちバッファメモリ24へのフレーム画像のバッファリングを終了する(ステップS18)。
【0020】
次に、制御部20は、スロー動画のスロー動画データ、及び静止画像の静止画データを作成する(ステップS19)。具体的には、シャッタボタン6が全押しされた時から第1所定時間(この実施の形態では、0.6秒)前までの間にバッファメモリ24にバッファリングされた複数のフレーム画像と、シャッタボタン6が全押しされた時から第2所定時間(ステップS17では所定時間、この実施の形態では0.4秒)後までの間にバッファメモリ24にバッファリングされた複数のフレーム画像とに基づいて、スロー動画データを作成する。即ち、撮像素子22から出力されるフレームレート(撮影フレームレート)と同等の第1フレームレート(例えば60フレーム/秒等)でバッファメモリ24に記憶されているフレーム画像を、第1フレームレートより少ない第2フレームレート(例えば第1フレームレートの1/2.5である24フレーム/秒等)でバッファメモリ24から読み出し、読み出したフレーム画像に対して制御部20内の縮小回路(不図示)により動画像用の解像度へのリサイズ(解像度大から小へ)処理、制御部20内の動画用信号処理回路(不図示)により動画用の画像処理(動画用圧縮処理含む)を施すことにより、スロー動画像データを作成する。なお、第1所定時間、第2所定時間及び第2フレームレートは、予め設定され、記憶部26に記憶されており、変更可能に構成されている。
【0021】
また、シャッタボタン6が全押しされた時に、撮像素子22から出力される撮像信号に基づくフレーム画像に基づいて、静止画データを作成する。即ち、シャッタボタン6が全押しされた時に、バッファメモリ24に記憶されたフレーム画像をバッファメモリ24から読み出し、読み出されたフレーム画像に対して制御部20内の静止画用信号処理回路(不図示)により静止画像用の画像処理(静止画用圧縮処理を含む)を施すことにより静止画データを作成する。
【0022】
次に、制御部20は、ステップS12またはS13において記憶部26に記憶させたテーマ情報を読み出し、読み出したテーマ情報、及びセットID情報を、ステップS19において作成されたスロー動画データ及び静止画データに関連付けて、記録媒体28に記録する(ステップS20)。具体的には、図4に示すように、テーマ情報T及びセットID情報Iを、スロー動画データの付属情報として、スロー動画データである動画・音声データMや他の情報と共に、所定の形式で、メーカー独自情報領域内に付加して記録媒体28に記録する。同様に、テーマ情報T及びセットID情報Iを、静止画データの付属情報として、静止画データである圧縮データ(画像)Sや他の情報と共に、Exif(Exchangable image file format)等の所定の形式で、APP1セグメントのメーカー独自情報領域内(Exifにおいてはメーカーノート内)に付加して記録媒体28に記録する。
【0023】
セットID情報Iは、異なるファイル(異なる拡張子を有するファイル)として記録媒体28に記録されるスロー動画データ及び静止画データを関連付けるための情報であり、制御部20は、スロー動画データ(または静止画データ)のセットID情報Iを参照することにより、同一のセットID情報Iを有する静止画データ(またはスロー動画データ)を該スロー動画データに関連する静止画データ(または該静止画データに関連するスロー動画データ)として認識する。
【0024】
なお、スロー動画データ及び静止画データへのセットID情報Iの付加に加えて、または代えて、スロー動画データ及び静止画データのファイル名を同一にすることにより、スロー動画データと静止画データとの関連を識別する構成にすることもできる。また、テーマ情報Tとして、各テーマ情報に割り当てられる数値がスロー動画データ及び静止画データの付属情報として記録されており、電子カメラ2は、例えば記憶部26内に各テーマ情報の数値を示すデータベースを有している。また、図4においては、スロー動画データとして、動画・音声データMが記録されているが、スロー動画を再生する際、動画に対応する音声をスロー動画と同時に再生しないため(後述する)、動画に対応する音声の録音を行わずに、動画データのみを記録することもできる。
【0025】
次に、図5に示すフローチャートを参照して、この実施の形態に係る電子カメラ2においてスロー動画及び静止画像を再生する際の処理について説明する。
【0026】
まず、ユーザーがモードボタン8等を操作することにより再生モードに設定されると、制御部20は、記録媒体28に記録されている画像データの画像(スロー動画や静止画像)を再生するための再生モードに移行する(ステップS30)。そして、ユーザーにより操作部30を介してスロー動画の再生指示がなされたか否かを判別する(ステップS31)。スロー動画の再生指示は、十字キー12、コマ送りボタン(不図示)、あるいはOKボタン14などに対する使用者の操作によって行われる。この操作としては、例えば、表示部4に撮影日時の順(古い順または新しい順)に画像(スロー動画や静止画像等)が表示されている場合に、十字キー12の左ボタン(次の画像表示を指示する操作部材)、或いは十字キー12の右ボタン(前の画像表示を指示する操作部材)、或いはコマ送りボタンを操作すること、などが挙げられる。或いは、記録媒体28に記録されている画像データのサムネイル画像(この場合のサムネイル画像は、スチルレリーズ時に取得された静止画像のサムネイル画像である。スロー動画の場合には、スロー動画取得時と同時に取得された静止画像(シャッタレリーズタイミングに取得された静止画像)に対応するサムネイル画像である)の一覧が表示されている場合に、十字キー12等を用いたスロー動画に関連するサムネイル画像を選択した後に操作される、OKボタン14に対する押下操作等も挙げられる。
【0027】
ステップS31においてスロー動画の再生指示がなされたと判別された場合には(ステップS31、Yes)、制御部20は、再生指示がなされたスロー動画のスロー動画データに付加されているセットID情報に基づいて、スロー動画データに関連する静止画データ、即ちスロー動画を形成する複数のフレーム画像のうちの1枚のフレーム画像により形成される静止画像の静止画データを識別する。そして、該スロー動画データ及び該静止画データに基づくスロー動画及び静止画像をバッファメモリ24にバッファリングする。
【0028】
次に、制御部20は、再生指示がなされたスロー動画のスロー動画データに付加されているテーマ情報を取得する(ステップS32)。具体的には、スロー動画データに付加されているテーマ情報を示す数値を取得し、記憶部26に記憶されている各テーマ情報の数値を示すデータベースから、スロー動画のテーマ情報、例えば「きらめき」「ゆらめき」「やすらぎ」「愛らしさ」等を識別する。
【0029】
次に、制御部20は、ステップS32において取得したテーマ情報に基づいて、スロー動画を再生する際に、BGMとして再生する音楽を決定する(ステップS33)。具体的には、テーマ情報毎に設定され、記憶部26に記憶されている複数の音楽データの中から、ステップS32にて取得したテーマ情報の場合に再生される音楽として設定されている音楽データを記憶部26から選択し、選択した音楽データに基づく音楽をバッファメモリ24にバッファリングする。
【0030】
次に、制御部20は、表示部4の表示画面を一旦暗転させた後、バッファメモリ24にバッファリングされたスロー動画及び音楽の再生を開始する(ステップS34)。具体的には、第1所定時間の間に撮影された複数のフレーム画像と、第2所定時間の間に撮影された複数のフレーム画像とを、第1フレームレート(撮影フレームレート)より少ない第2フレームレートで、表示部4に時系列に画像表示すると同時に、BGMとして音楽を再生する。このとき、スロー動画の再生開始から所定時間(約0.5秒)かけてスロー動画がフェードインする等のトランジションエフェクトを施す。
【0031】
制御部20は、スロー動画及び音楽の再生中、ユーザーにより操作部30を介したスロー動画及び音楽の再生停止の指示がなされたか否かを判別する(ステップS42)。スロー動画及び音楽の再生停止の指示としては、操作部30のOKボタン14の押下等が挙げられる。制御部20は、スロー動画及び音楽の再生停止の指示がなされたと判別した場合(ステップS42、Yes)、スロー動画及び音楽の再生を停止し、バッファメモリ24にバッファリングされた静止画像を表示部4に表示する(ステップS43)。
【0032】
制御部20は、静止画像の再生停止指示がなされたか否かを判別する(ステップS44)。静止画像の表示停止の指示としては、例えば静止画像の表示中であって、スロー動画の再表示を指示するOKボタン14、次の画像表示を指示する十字キー12の左ボタン、前の画像表示を指示する十字キー12の右ボタンの押下等が挙げられる。ステップS44において静止画像の表示停止の指示がなされたと判別した場合(ステップS44、Yes)、制御部20は静止画像の表示部14への表示を停止する(ステップS45)。
【0033】
一方、ステップS42においてスロー動画及び音楽の再生停止の指示がなされない場合(ステップS42、No)には、制御部20は、スロー動画及び音楽の再生を継続し、スロー動画の再生終了から所定時間(約0.5秒)前から、スロー動画の再生終了までの間、スロー動画がフェードアウトする等のトランジションエフェクトを施す。
【0034】
そして、制御部20は、スロー動画の再生が終了したと判別した場合(ステップS35、Yes)、例えば第1所定時間が0.6秒、第2所定時間が0.4秒、第2フレームレートが第1フレームレートの1/2.5の場合にあっては2.5秒経過した後、バッファメモリ24にバッファリングされた静止画像を表示部4に表示する(ステップS36)。
【0035】
このとき、静止画像の再生開始から所定時間(約0.5秒)かけて静止画像がフェードインする等のトランジションエフェクトを施す。また、音楽は、スロー動画の再生終了や静止画像の再生開始にかかわらず、音楽が終了するまで再生を継続する。
【0036】
次に、制御部20は、ユーザーにより操作部30を介して静止画像の表示停止の指示がなされたか否かを判別する(ステップS37)。静止画像の表示停止の指示としては、例えば静止画像の表示中であって、スロー動画の再表示を指示するOKボタン14、次の画像表示を指示する十字キー12の左ボタン、前の画像表示を指示する十字キー12の右ボタンの押下等が挙げられる。
【0037】
ステップS37において静止画像の表示停止の指示がなされたと判別された場合には(ステップS37、Yes)、制御部20は、静止画像を表示している間に、スロー動画の再生と同時にBGMとして再生開始した音楽の再生が終了したか否かを判別する(ステップS38)。例えばスロー動画の再生時間が2.5秒、音楽の再生時間が10秒である場合には、静止画像が表示部4に7.5秒より長く表示される前に、静止画像の表示停止の指示がなされると、音楽の再生は継続されているため、音楽の再生は終了していないと判別される。一方、静止画像が表示部4に7.5秒より長く表示された後に、静止画像の表示停止の指示がなされると、音楽の再生は既に終了しているため、音楽の再生は終了したと判別される。
【0038】
ステップS38において音楽の再生が終了したと判別された場合には(ステップS38、Yes)、制御部20は、静止画像の表示部4への表示を停止する(ステップS39)。一方、ステップS38において音楽の再生が終了していないと判別された場合には(ステップS38、No)、制御部20は、静止画像の表示部4への表示、及び音楽の再生を停止する(ステップS40)。
【0039】
第1の実施の形態に係る電子カメラ2によれば、スロー動画及び該スロー動画に関連する静止画像のテーマ情報を設定するため、スロー動画と、該スロー動画に関連する静止画像と共に再生される最適な音楽をテーマ情報に基づいて自動的に選択することができる。また、スロー動画を再生した後に該スロー動画に関連する静止画像を再生し、これらスロー動画及び静止画像を再生する際、フェードイン・フェードアウト・クロスフェード等のトランジションエフェクトを効果的に使用するため、スロー動画と静止画像の関連性を印象付けると共に、スロー動画が静止画撮影時前後の動画であること(静止画像がスロー動画を形成する複数のフレーム画像のうちの1枚のフレーム画像であること)を、ユーザーに直感的に認識させることができる。
【0040】
次に、図面を参照して、本発明の第2の実施の形態に係る画像処理装置としての電子カメラについて説明する。第2の実施の形態に係る電子カメラにおいては、第1の実施の形態に係る電子カメラ2の構成と同一の構成を有しているため、その説明を省略し、同一の構成には同一の符号を用いて説明を行う。
【0041】
この第2の実施の形態では、制御部20は、所定時間の間に、単位時間に撮像素子22からの撮像信号に基づき生成されるフレーム画像の数を示す第1フレームレートより少ない第2フレームレートで再生されるスロー動画のスロー動画データ、及び該スロー動画を形成する複数のフレーム画像の少なくとも1つのフレーム画像に基づく静止画像の静止画データを作成し、作成されたスロー動画データ及び静止画データの少なくとも一方を解析し、解析結果に基づいてテーマ情報を設定する。以下、図6に示すフローチャートを参照して、この実施の形態に係る電子カメラ2においてスロー動画及び静止画像を撮影する際の処理について説明する。なお、ステップS50及びS51の処理は、図3に示すステップS10及びS11の処理と同一のため、その説明を省略する。
【0042】
ステップS51において機能設定ボタン10が押下されたと判別された場合には(ステップS51、Yes)、制御部20は、図7に示すようなテーマ情報選択画面32を表示部4に表示する。ユーザーは、複数のテーマ情報(図7では、「AUTO」「きらめき」「ゆらめき」「やすらぎ」「愛らしさ」)の中から、所望のテーマ情報を十字キー12を用いて選択し、OKボタン14を押下する。ここで、図7に示す「AUTO」は、電子カメラ2(制御部20)が、これから撮影されるスロー動画のスロー動画データ及び静止画像の静止画データの少なくとも一方を解析し、その解析結果に基づいてテーマ情報を自動で設定する際に選択される。
【0043】
次に、制御部20は、ユーザーにより図7に示すテーマ情報選択画面32において「AUTO」が選択されたか否かを判別する(ステップS52)。ステップS52において「AUTO」が選択されていないと判別された場合には(ステップS52、No)、制御部20は、ユーザーにより選択された所望のテーマ情報(図7では、「AUTO」以外の「きらめき」「ゆらめき」「やすらぎ」「愛らしさ」のいずれか)を記憶部26に記憶させ(ステップS53)、ステップS54の処理に進む。
【0044】
一方、ステップS51において機能設定ボタン10が押下されていないと判別された場合には(ステップS51、No)、制御部20は、デフォルトのテーマ情報として「AUTO」が選択されたものと判断し、ステップS54の処理に進む。同様に、ステップS52において「AUTO」が選択されたと判別された場合には(ステップS52、Yes)、制御部20は、ステップS54の処理に進む。なお、ステップS54〜S59の処理は、図3に示すステップS14〜S19の処理と同一のため、その説明を省略する。
【0045】
ステップS59の処理を終えた後、制御部20は、テーマ情報の設定を行う(ステップS60)。図8は、図6に示すステップS60においてテーマ情報を設定する際の処理について説明するためのフローチャートである。
【0046】
まず、制御部20は、スロー動画データ及び静止画データが作成される前に、「AUTO」以外のテーマ情報が選択されたか否かを判別する(ステップS70)。即ち、図7に示すテーマ情報選択画面32において、「AUTO」以外の「きらめき」「ゆらめき」「やすらぎ」「愛らしさ」のいずれかがユーザーにより選択されたか否かを判別する。ステップS70において「AUTO」以外のテーマ情報が選択されたと判別された場合には(ステップS70、Yes)、制御部20は、図6に示すステップS53において記憶部26に記憶させたテーマ情報(「きらめき」「ゆらめき」「やすらぎ」「愛らしさ」のいずれか)を読み出し、読み出したテーマ情報を、図6に示すステップS59において作成されたスロー動画及び静止画データのテーマ情報として設定する(ステップS71)。
【0047】
一方、ステップS70において「AUTO」以外のテーマ情報が選択されていないと判別された場合(ステップS70、No)、即ち「AUTO」が選択されていると判別された場合には、制御部20は、撮影されたスロー動画中(スロー動画を形成するフレーム画像中)の被写体の顔領域を、周知の顔領域認識機能を用いて検出する(ステップS72)。例えば、図9に示すように、人物や動物(周知の動物顔認識機能を用いる)の顔を含む顔領域34,36,38を検出する。
【0048】
次に、制御部20は、ステップS72において少なくとも1つの顔領域が検出されたか否かを判別する(ステップS73)。ステップS73において、図9に示すように、人物や動物の顔領域34,36,38が検出されたと判別された場合には(ステップS73、Yes)、制御部20は、周知の子供または動物の顔認識機能を用いて、その検出された顔領域34,36,38内の顔が子供または動物の顔であるか否かを判別する(ステップS74)。例えば、図9(a)に示すように顔領域34内の顔が大人の顔である場合には、子供または動物の顔でないと判別し(ステップS74、No)、図9(b)に示すように顔領域36,38内の顔が子供や動物の顔である場合には、子供または動物の顔であると判別する(ステップS74、Yes)。なお、この実施の形態では、ステップS72において複数の顔領域が検出され、検出された複数の顔領域のうちの少なくとも一つの顔領域内の顔が子供または動物の顔である場合には、子供または動物の顔であると判別されるよう構成されているものとする。
【0049】
ステップS74において子供または動物の顔であると判別された場合(ステップS74、Yes)、例えばスロー動画中に図9(b)に示すようなフレーム画像が含まれる場合には、制御部20は、図6に示すステップS59において作成されたスロー動画及び静止画データのテーマ情報として「愛らしさ」を設定する(ステップS75)。一方、ステップS74において子供または動物の顔でないと判別された場合(ステップS74、No)、例えば図9(a)に示すように、スロー動画中に大人の顔のみが含まれる場合には、制御部20は、周知の笑顔認識機能を用いて、その大人の顔が笑顔であるか否かを判別する(ステップS76)。ステップS76において笑顔であると判別された場合には(ステップS76、Yes)、制御部20は、図6に示すステップS59において作成されたスロー動画及び静止画データのテーマ情報として「やすらぎ」を設定する(ステップS77)。これら顔認識関連の情報は、撮影後の静止画像または動画からの検出としているが、撮影時に顔認識処理を行う機能がカメラに搭載されている場合、その顔認識情報を記憶しておき、この保存時のテーマ情報設定に利用するようにしてもよい。それにより保存時の処理を一部省略でき、保存時間を短縮することも可能である。
【0050】
一方、ステップS73において人物や動物の顔領域が検出されていないと判別された場合(ステップS73、No)、またはステップS76において笑顔でないと判別された場合には(ステップS76、No)、制御部20は、スロー動画中の被写体の輝度分布情報を検出する(ステップS78)。具体的には、スロー動画中の被写体の輝度分布情報として、輝度強度、輝度強度が所定範囲内の輝度点の面積、所定面積以上の輝度点の数、所定面積以上の輝度点の輝度変化周期等を検出する。
【0051】
この実施の形態では、例えば図10(a)に示すような水面を被写体とするスロー動画40の場合において、まず、所定最低輝度強度Imin以上かつ所定最高輝度強度Imax以下の輝度点を検出する。所定最低輝度強度Imin及び所定最高輝度強度Imaxは、予め設定されており、例えば図11に示すようなテーブルとして記憶部26に記憶されている。制御部20は、このテーブルを参照することにより所定最低輝度強度Imin及び所定最高輝度強度Imaxを取得し、所定最低輝度強度Imin以上かつ所定最高輝度強度Imax以下の輝度点を検出する。図10(a)に示すスロー動画40の場合において、検出された輝度点P1〜P7を図10(b)に示す。
【0052】
次に、制御部20は、検出された輝度点P1〜P7の面積を検出し、検出された輝度点P1〜P7の面積が所定面積より大きいか否かを判別する。所定面積は、予め設定されており、記憶部26に記憶されている。そして、制御部20は、所定面積より大きい輝度点(この実施の形態では、輝度点P1〜P7とする)の時間Tに対する輝度Iの変化を検出する。図12は、輝度点P7の時間Tに対する輝度Iの変化を示すグラフである。制御部20は、この時間Tに対する輝度Iの変化から、輝度点の輝度変化周期(Hz)を検出し、所定最低輝度変化周期Fimin以上かつ所定最高輝度変化周期Fimax以下の輝度変化周期の輝度点の数を検出する。所定最低輝度変化周期Fimin及び所定最高輝度変化周期Fimaxは、予め設定されており、例えば図11に示すようなテーブルとして記憶部26に記憶されている。
【0053】
次に、制御部20は、検出された輝度点の数が所定数min以上か否かを判別する。所定数minは、予め設定されており、例えば図11に示すようなテーブルとして記憶部26に記憶されている。そして、制御部20は、検出された輝度点の数が所定数min以上であると判別した場合には、テーマ情報として「きらめき」を設定する条件を満たしていると判別し(ステップS79、Yes)、図6に示すステップS59において作成されたスロー動画及び静止画データのテーマ情報として「きらめき」を設定する(ステップS80)。
【0054】
一方、制御部20は、検出された輝度点の数が所定数min以上でないと判別した場合には、テーマ情報として「きらめき」を設定する条件を満たしていないと判別し(ステップS79、No)、スロー動画中の被写体の動き情報を検出する(ステップS81)。例えば、図13に示すような葉44がAからBへと往復移動を繰り返しているスロー動画42の場合において、まず、制御部20は、A−B間を往復移動する葉44の移動速度を算出し、算出結果に基づいて葉44の往復移動に係る往復周期を算出し、算出された往復周期が所定最低往復周期Fmin以上かつ所定最高往復周期Fmax以下であるか否かを判別する。所定最低往復周期Fmin及び所定最高往復周期Fmaxは、予め設定されており、例えば図11に示すようなテーブルとして記憶部26に記憶されている。そして、制御部20は、算出された往復周期が所定最低往復周期Fmin以上かつ所定最高往復周期Fmax以下であると判別した場合には、テーマ情報として「ゆらめき」を設定する条件を満たしていると判別し(ステップS82、Yes)、図6に示すステップS59において作成されたスロー動画及び静止画データのテーマ情報として「ゆらめき」を設定する(ステップS83)。
【0055】
なお、移動する被写体が複数存在する場合には、例えば合焦位置に最も近い被写体等の代表の被写体の往復周期を算出する。一方、制御部20は、算出された往復周期が所定最低往復周期Fmin以上かつ所定最高往復周期Fmax以下でないと判別した場合には、テーマ情報として「ゆらめき」を設定する条件を満たしていないと判別し(ステップS82、No)、いずれの条件も満たしていない場合には、デフォルトのテーマ情報を設定する。または制御部20は、判定不可能と見做しテーマ情報選択画面32を表示部14に表示し、テーマ情報選択画面32から利用者が選択したテーマ情報に基づいてテーマ情報を設定する。(ステップS84)。
【0056】
なお、図11のテーブルに示すテーマ情報「ゆらめき1」は、ユーザーが設定した条件(所定最低往復周期Fmin1及び所定最高往復周期Fmax1)を満たす場合に設定されるテーマ情報であり、算出された往復周期が、ユーザーにより設定された所定最低往復周期Fmin1以上かつ所定最高往復周期Fmax1以下であると判別された場合のみ、テーマ情報として「ゆらめき1」が設定される。このユーザーにより条件を設定することができる機能は、予め設定されている条件がユーザーの感覚に合わない場合等に有効である。また、他のテーマ情報(例えば、「きらめき」「やすらぎ」「愛らしさ」等)についても、ユーザーが独自の条件(輝度変化周期等)を設定し、制御部20がユーザー設定の条件を満たすか否かを判別し、判別結果に基づいてテーマ情報を設定することができる。また、図11に示すテーブルを、記憶部26でなく、サーバに記憶させておき、サーバから送信されるデータ信号を受信する受信部(図示せず)を電子カメラ2が備え、サーバから送信し、受信部により受信することによりテーブルを参照する構成にすることもできる。
【0057】
テーマ情報の設定を終えた後、制御部20は、図6に示すステップS60において設定したテーマ情報、及びセットID情報を、ステップS59において作成されたスロー動画データ及び静止画データに関連付けて、記録媒体28に記録する(ステップS61)。具体的な処理については、図3に示すステップS20の処理と同一のため、その詳細な説明を省略する。
【0058】
次に、第2の実施の形態に係る電子カメラ2においてスロー動画及び静止画像を再生する際の処理について説明する。
【0059】
まず、制御部20は、図5に示すステップS30〜S32の処理を実行する。そして、ステップS32の処理の後、即ち再生するスロー動画及び静止画像のテーマ情報を取得した後、取得したテーマ情報に基づいて、再生するスロー動画及び静止画像の少なくとも一方に対する画像処理を実行する。具体的には、再生するスロー動画及び静止画像の少なくとも一方に対する色調やトランジションエフェクト、再生するスロー動画の再生速度等を変化させる画像処理を実行する。
【0060】
例えば、「レトロ」というテーマ情報を設定可能で、テーマ情報として「レトロ」が設定されている場合には、スロー動画や静止画像の色調をモノトーンやセピア調に変更する画像処理を実行する。また、「やすらぎ」や「ゆらめき」等のゆったりしたイメージのテーマ情報が設定されている場合には、スロー動画から静止画像に切り替わる際のトランジションエフェクト、即ちフェードイン及びフェードアウトの速度を設定速度より遅くする画像処理を実行する。具体的には、スロー動画を0.5秒かけてフェードアウトさせ、静止画像を0.5秒かけてフェードインさせるところを、スロー動画を0.7秒かけてフェードアウトさせ、静止画像を0.7秒かけてフェードインさせる等の画像処理を実行する。
【0061】
また、「やすらぎ」や「ゆらめき」等のゆったりしたイメージのテーマ情報が設定されている場合には、スロー動画の再生速度を遅くする画像処理を実行する。具体的には、スロー動画の再生時間が2.5秒のところを、3.0秒や4.0秒にする画像処理を実行する。また、スロー動画中の被写体の輝度分布情報や動き情報を検出し、検出結果に基づいてスロー動画の再生速度を変化させる。
【0062】
具体的には、上述したように、スロー動画中の被写体の、所定範囲内の往復周期を算出し、算出された往復周期に基づいて、スロー動画の再生速度を変化させる。例えば、算出された往復周期と、「ゆらめき」用に定義されている往復周期(図11参照)とを比較して、算出された往復周期が「ゆらめき」の往復周期に含まれているならば、「ゆらめき」の定義と調和するように、スロー動画の再生速度を変化させる。
【0063】
また、「きらめき」が設定されている場合には、上述したように、スロー動画中の被写体の、所定範囲内の輝度強度及び所定面積以上の面積を有する輝度点の輝度変化周期を算出し、算出された輝度変化周期に基づいて、スロー動画の再生速度を変化させる。例えば、算出された輝度変化周期と、「きらめき」用に定義されている輝度変化周期(図11参照)とを比較して、算出された輝度変化周期がどの「きらめき」の輝度変化周期に含まれているのかを特定し、その特定された「きらめき」の定義と調和するように、スロー動画の再生速度を変化させる。
【0064】
次に、制御部20は、ステップS32において取得したテーマ情報、及びスロー動画の再生時間(再生速度)に基づいて、スロー動画を再生する際に、BGMとして再生する音楽を決定する(ステップS33)。このBGMとして再生される音楽はテーマ情報毎に設定され、複数の音楽の音楽データが記憶部26に記憶されている。第2の実施の形態では、スロー動画を再生した後、静止画像を再生するが、スロー動画から静止画像への切替り及びスロー動画と静止画像の関連性を印象付けるために、スロー動画から静止画像に切り替わるとき、テンポやリズムが変化する音楽の音楽データが記憶部26に記憶されている。例えば、スロー動画の再生時間が2.5秒、音楽の再生時間が10秒の場合には、スロー動画が再生されている間の2.5秒間の音楽のテンポやリズムは、スロー動画再生後、静止画像が再生されている間の7.5秒間の音楽のテンポやリズムと異なる。
【0065】
なお、テーマ情報や被写体の動き情報に基づいて、スロー動画の再生時間が2.5秒から3.0秒、4.0秒と変化する場合があるため、テーマ情報毎に、2.5秒後にテンポやリズムが変化する音楽、3.0秒後にテンポやリズムが変化する音楽、及び4.0秒後にテンポやリズムが変化する音楽が設定され、各々の音楽データが記憶部26に記憶されている。
【0066】
制御部20は、テーマ情報及びスロー動画の再生時間に基づいて、記憶部26に記憶されている複数の音楽データの中から、一つの音楽データを選択し、選択した音楽データに基づく音楽をバッファメモリ24にバッファリングする。例えば、テーマ情報が「ゆらめき」で、スロー動画の再生時間が3.0秒の場合には、「ゆらめき」用に設定されている音楽で3.0秒後にテンポやリズムが変化する音楽の音楽データを選択する。
【0067】
ステップS33の処理の後、制御部20は、ステップS34〜S40の処理を実行する。このとき、テーマ情報に基づいて、スロー動画及び静止画像の少なくとも一方に対する画像処理、例えばスロー動画及び静止画像の少なくとも一方に対する色調やトランジションエフェクト、再生するスロー動画の再生速度等を変化させる画像処理を実行している場合には、画像処理後のスロー動画及び静止画像を再生する。
【0068】
第2の実施の形態に係る電子カメラ2によれば、スロー動画及び該スロー動画に関連する静止画像のテーマ情報を自動で設定するため、スロー動画と、該スロー動画に関連する静止画像と共に再生される最適な音楽をテーマ情報に基づいて自動的に選択することができる。また第2の実施形態によれば、スロー動画及び静止画像を再生する際、テーマ情報や被写体の動き情報に基づいて、画像の色調やトランジションエフェクト、スロー動画の再生速度を変化させることができ、更に、スロー動画が再生されている間の音楽のテンポやリズムと、静止画像が再生されている間の音楽のテンポやリズムとを異ならせるため、スロー動画の鑑賞に適切な雰囲気、及び静止画像の鑑賞に適切な雰囲気を、それぞれ効果的に演出することができる。
【0069】
なお、第2の実施の形態においては、スロー動画の顔領域の検出結果、被写体の輝度分布情報の検出結果、及び被写体の動き情報の検出結果に基づいて、テーマ情報を設定しているが、スロー動画の顔領域の検出結果、被写体の輝度分布情報の検出結果、及び被写体の動き情報の検出結果の少なくとも一つに基づいて、テーマ情報を設定する構成にすることもできる。
【0070】
また、第2の実施の形態においては、テーマ情報または被写体の動き情報に基づいて、スロー動画の再生時間(換言すれば再生速度)を予め装置側にドラフト設定されている再生時間(2.5秒)からそれとは異なる再生時間(例えば3.0秒や4.0秒)に変化させている。そして、スロー動画再生時に同時に再生される音楽として、テンポやリズムが変化するタイミングがそれぞれ異なる、予め装置内に用意された複数の音楽データ(例えば変化タイミングが、音楽再生開始から2.5秒後、3.0秒後及び4.0秒後である3つの音楽データ)の中から、その変化タイミングがスロー動画の再生時間(すなわちスロー動画の再生終了タイミング = スロー動画再生から静止画再生への切り換わりタイミング)に等しい音楽データを1つ選んで、再生する。しかしながら、被写体の動き情報によっては、スロー動画の再生時間(換言すれば再生速度)を、3.0秒、4.0秒以外の再生時間(換言すれば再生速度)に変化させる方が最適な場合がある。しかし、だからといって、考えられうる様々なパターンの音楽データを事前に画像再生装置側に用意しておくことは、画像再生装置側のメモリ容量の効率的な利用という観点からすると望ましくない。
【0071】
そこで、このような場合には、予め画像再生装置内に用意されている音楽データを有効活用する。
【0072】
1つの方法としては、例えば、選択された音楽データの再生時間(再生速度)を、スロー動画の再生時間(再生速度)に応じて変化させた上で、使用する。具体的に説明すると、例えば、被写体の動きに基づいて、スロー動画の再生時間が、ドラフト再生時間の2.5秒よりも倍の5秒間に変更されたとする。そして音楽データとしては、上記3つのパターン(テンポ又はリズムの変化タイミングが音楽再生開始からA=2.5秒後、B=3.0秒後、C=4.0秒後である、3パターンの音楽データ)しか備えていないとする。この場合、装置は、変化タイミングが、スロー動画再生時間の5秒に最も近い4.0秒であるCの音楽データを選択する。そして、このCの音楽データのテンポ又はリズムの変化タイミングが、音楽再生開始から5秒後になるように、Cの音楽データを加工(変調)する。そしてその加工後のCの音楽データを使って、5秒のスロー動画再生を行うようにする。なお変化させる対象としては、テンポやリズムだけでなく、音程なども変化させるようにしても良い。
【0073】
この手法によれば、例え音楽データの種類のストックが少なかったとしても、その音楽データを加工(変調や編集など)することによって、テンポやリズム、或いは音程をも、任意のタイミングで変更させた音楽データを得ることが出来、あたかも複数の音楽データを供えているのと同等の効果を得ることが出来る。
【0074】
また別の方法としては、音楽データは加工せずにそのまま使用し、その代わりスロー動画の再生時間を音楽の再生時間に合わせる、という方法が考えられる。この場合において、スロー動画の再生速度は、被写体の動きに基づいて決定された再生速度のままにしておく。つまりこの方法の場合には、そのスロー動画を全て、再生時間内に再生完了することは出来ないが(途中で再生が打ち切られるが)、被写体の動きに応じたスロー動画を、予め用意された音楽データを使って再生することができる。具体的には、例えば再生時間が4.0秒以上の長さ(ex.5秒)に設定されたスロー動画を4.0秒間だけ再生する。そしてその時にBGMとして同時再生される音楽として、音楽再生開始から4.0秒後にテンポやリズムが変化する音楽を選択し、同時再生する。この手法によっても、記憶部26の記憶容量等の制限により、多くの音楽データを記憶できない場合等に有効である。また、音楽のテンポやリズムが変化する時間に拘束されることなく、被写体の動き情報に基づいてスロー動画の再生時間の長さを自由に設定することができる。
【0075】
また、第2の実施の形態においては、スロー動画や静止画像に対する色調やトランジションエフェクト、スロー動画の再生速度を変化させる画像処理を施したものを再生しているが、これら画像処理を施した後のスロー動画や静止画像を、画像処理を施す前のスロー動画及び静止画像に追加して、または代えて、記録媒体28に記録することができるようにしてもよい。
【0076】
また、第2の実施の形態においては、スロー動画及び静止画像を再生するとき、スロー動画や静止画像に対する画像処理を実行しているが、スロー動画及び静止画像を記録するとき、スロー動画や静止画像に対する画像処理を実行してもよい。
【0077】
なお、上述の各実施の形態においては、画像処理装置として電子カメラ2を例に挙げて説明したが、電子カメラに限らず、撮像装置等により撮影されたスロー動画や静止画像に対して画像処理可能なパソコン等の他の画像処理装置においても本発明を適用することができる。また、上述の各実施の形態においては、電子カメラ2により撮影され、記録媒体28に記録されたスロー動画及び静止画像を再生しているが、他の撮像装置等により撮影され、記録媒体に記録されたスロー動画及び静止画像を電子カメラ2で再生することもできる。
【0078】
また、電子カメラ2においてスロー動画及び静止画像を撮影(記録)したときに設定されたテーマ情報を、電子カメラ2より高性能なテーマ情報設定機能を備えたパソコン等の画像処理装置において、スロー動画及び静止画像の再生時にスロー動画及び静止画像の少なくとも一方を解析し、解析結果に基づいて再設定することもできる。例えば、パソコン等の画像処理装置において、記録媒体に記録されているスロー動画データ及び静止画データを画像処理装置に設けられているハードディスク等に読み込むとき等、テーマ情報を再設定する処理を実行する。また、パソコン等の画像処理装置において、スロー動画及び静止画像を再生した際、ユーザーがBGMとして再生された音楽に違和感を覚えた場合や、設定されているテーマ情報を他のテーマ情報に変更したいと思った場合等、ユーザー操作によりテーマ情報を再設定するための画面を表示部に表示させ、テーマ情報を再設定する処理を実行することもできる。
【0079】
また、上述の各実施の形態においては、スロー動画及び静止画像を撮影する直前または直後にテーマ情報を設定しているが、スロー動画及び静止画像を再生するとき、ユーザーがBGMとして再生された音楽に違和感を覚えたとき、設定されているテーマ情報を他のテーマ情報に変更したいと思ったとき等、スロー動画データ及び静止画データを記録媒体28に記録した後、設定されているテーマ情報を変更することもできる。この場合には、メニューの中に、テーマ情報を変更するためのメニュー項目を加え、メニュー画面を表示部4に表示し、十字キー12等を用いて操作することによりテーマ情報をユーザーにより手動で変更することもできる。なお、テーマ情報を自動または手動で再設定した際、再設定する前のテーマ情報から再設定した後のテーマ情報に変更して記録するか否かをユーザーに選択させる画面を表示する。ユーザーにより変更後のテーマ情報の記録が選択された場合には、制御部20は、再設定する前のテーマ情報を削除し、再設定した後のテーマ情報を新たに記録媒体26に記録する。一方、ユーザーにより変更後のテーマ情報の記録が選択されなかった場合には、制御部20は、テーマ情報を更新することなく、即ち再設定する前のテーマ情報が記録媒体26に記録された状態を維持する。
【0080】
また、上述の各実施の形態においては、記憶部26に記憶されている複数の音楽データの中から一つの音楽データを選択しているが、電子カメラ2が、サーバに記録され、サーバから送信される音楽データを受信する受信部(図示せず)を備え、テーマ情報及びスロー動画の再生時間に調和する音楽データをサーバから送信し、受信部により受信する構成にすることもできる。この場合には、サーバ内に格納されている多数の音楽データの中から最適な音楽データを選択することができ、記憶部26の記憶容量が小さい場合等、電子カメラ2が多くの音楽データを記憶することができない場合に有効である。
【0081】
また、上述の各実施の形態においては、テーマ情報をスロー動画データ及び静止画データの両方に関連付けて、記録媒体28に記録しているが、スロー動画データと静止画データとのうちのいずれか一方に関連付けて、記録媒体28に記録してもよい。この場合には、制御部20は、テーマ情報が付加されているスロー動画データ(または静止画データ)のセットID情報から、関連する静止画データ(またはスロー動画データ)を識別し、スロー動画データ(または静止画データ)に付加されているテーマ情報が関連する静止画データ(またはスロー動画データ)のテーマ情報であると認識する。
【0082】
また、上述の各実施の形態においては、テーマ情報及びセットID情報をスロー動画データ及び静止画データの付属情報としてスロー動画データ及び静止画データに付加して記録しているが、スロー動画データ及び静止画データの画像ファイルと異なる設定ファイルを設け、テーマ情報及びセットID情報を、スロー動画データ及び静止画データの少なくとも一方に関連付けて、この設定ファイルに記録することもできる。
【0083】
また、上述の各実施の形態においては、スロー動画を再生した後、静止画像を再生しているが、静止画像を所定時間再生した後、スロー動画を再生することもできる。この場合には、静止画像の再生開始と同時に、テーマ情報に基づき決定された音楽の再生を開始する。また、上述の各実施の形態においては、スロー動画データ及び静止画データを作成し、記録媒体28に記録しているが、静止画データに代えて、静止画データに基づく画像として、1つの静止画像を所望期間連続するフレーム画像とするフリーズ動画を作成し、フリーズ動画のフリーズ動画データをスロー動画データと共に、記録媒体28に記録してもよい。この場合には、フリーズ動画データにテーマ情報及びセットID情報を付加し、再生時には、静止画像に代えてフリーズ動画を再生する。また、上述の各実施の形態においては、スロー動画を再生した後、静止画像を再生しているが、再生時に静止画像に基づいてフリーズ動画を生成し、静止画像に代えて、生成されたフリーズ動画を再生することもできる。なお、フリーズ動画データとスロー動画データは、1つのファイルとしてもよい。いずれの場合も、スロー動画データとフリーズ動画データの合計時間長さはBGMと同じ長さとする。
【0084】
また、上述の各実施の形態においては、テーマ情報毎に最適な音楽が記憶部26に記憶され、スロー動画及び静止画像のテーマ情報に基づいて音楽を決定し、決定された音楽をBGMとしてスロー動画及び静止画像と共に再生しているが、音楽に代えてまたは音楽に加えて、テーマ情報毎に最適な音声等の音を記憶部26に記憶させ、スロー動画及び静止画像のテーマ情報に基づいて音声等の音を決定し、決定された音声等の音をBGMとしてスロー動画及び静止画像と共に再生することもできる。
【0085】
なお、上述の各実施の形態においては、表示部4の表示画面を一旦暗転させた後、スロー動画の再生を開始するが、スロー動画が再生されることを印象付けるために、表示部4に表示されていた画像と、スロー動画を形成する最初のフレーム画像との間に、黒動画を所定時間(約0.5秒)表示部4に表示するようにしてもよい。
【符号の説明】
【0086】
2…電子カメラ、4…表示部、6…シャッタボタン、8…モードボタン、10…昨日設定ボタン、12…十字キー、14…OKボタン、20…制御部、22…撮像素子、24…バッファメモリ、26…記憶部、28…記録媒体。
【技術分野】
【0001】
本発明は、動画像を生成可能な画像処理装置に関するものである。
【背景技術】
【0002】
入力画像から画像特徴量を抽出し、抽出した画像特徴量をスタイル特徴量に変換し、変換されたスタイル特徴量に基づいて入力画像にマッチしたスタイルを決定し、更に、抽出した画像特徴量を音楽特徴量に変換し、変換された音楽特徴量に基づいて入力画像にマッチした音楽を決定し、入力画像、音楽、スタイルを用いて、ショートフィルムを生成し、再生することができるショートフィルム生成再生装置が提案されている(例えば、特許文献1参照)。
【先行技術文献】
【特許文献】
【0003】
【特許文献1】特許第4261317号公報
【発明の概要】
【発明が解決しようとする課題】
【0004】
ところで、静止画像の撮影タイミングに同期して撮影され、被写体が実際の動きよりスローに動くスローモーション動画像を再生するとともに、この動画像の録画時に録音した音声を再生した場合、スロー再生されるため間延びした音声となり、視聴するユーザーに違和感を与える。また、上述の動画像を再生すると共に上述の静止画像のフリーズ動画を再生する際にも、フリーズ動画が再生されている間、無音の状態が継続し、視聴するユーザーに退屈な印象を与える。しかしながら、上述の特許文献1記載のショートフィルム生成再生装置には、上述の動画像及びフリーズ動画を順次再生する際に、この動画像やフリーズ動画にマッチした音声や音楽を選択し、動画像やフリーズ動画と共に再生する技術は開示されていない。
【0005】
本発明の目的は、スローモーション動画像と、該スローモーション動画像に関連する静止画像に基づく画像と共に再生される適切な音を自動的に選択することができる画像処理装置を提供することである。
【課題を解決するための手段】
【0006】
本発明は以下のような解決手段により上記課題を解決する。なお、理解を容易にするために、本発明の実施の形態に対応する符号を付して説明するが、本発明はこれに限定されるものではない。
【0007】
本発明の画像処理装置は、所定時間の間に、被写体からの光を撮像する撮像素子(22)からの撮像信号に基づく複数のフレーム画像に基づき生成され、単位時間に前記撮像信号に基づき生成されるフレーム画像の数を示す第1フレームレートより少ない第2フレームレートで再生されるよう記録されるスローモーション動画像のスローモーション動画像データと、前記複数のフレーム画像の中の少なくとも1枚のフレーム画像に基づき静止画像として生成される静止画像用データとのうちの少なくとも一方に関連付けて、前記スローモーション動画像と前記静止画像用データに基づく画像とを時系列に画像再生する際に再生される音に関する情報であるテーマ情報を、記録媒体(28)に記録する記録制御部(20)を備えることを特徴とする。
【発明の効果】
【0008】
本発明の画像処理装置によれば、スローモーション動画像と、該スローモーション動画像に関連する静止画像に基づく画像と共に再生される適切な音を自動的に選択することができる。
【図面の簡単な説明】
【0009】
【図1】第1の実施の形態に係る電子カメラの外観を示す背面図である。
【図2】第1の実施の形態に係る電子カメラのシステム構成を示すブロック図である。
【図3】第1の実施の形態に係る電子カメラにおいてスローモーション動画及び静止画を撮影する際の処理について説明するためのフローチャートである。
【図4】スロー動画データ及び静止画データのファイル構成を示す図である。
【図5】第1の実施の形態に係る電子カメラにおいてスローモーション動画及び静止画を再生する際の処理について説明するためのフローチャートである。
【図6】第2の実施の形態に係る電子カメラにおいてスローモーション動画及び静止画を撮影する際の処理について説明するためのフローチャートである。
【図7】表示部の表示例を示す図である。
【図8】第2の実施の形態に係る電子カメラにおいてスローモーション動画及び静止画のテーマ情報を設定する際の処理について説明するためのフローチャートである。
【図9】スロー動画中の顔領域検出について説明するための図である。
【図10】スロー動画中の被写体の輝度分布情報検出について説明するための図である。
【図11】記憶部に記憶されているテーブルについて説明するための図である。
【図12】輝度点の時間に対する輝度変化を示すグラフである。
【図13】スロー動画中の被写体の動き情報検出について説明するための図である。
【発明を実施するための形態】
【0010】
以下、図面を参照して、本発明の第1の実施の形態に係る画像処理装置としての電子カメラについて説明する。図1は、第1の実施の形態に係る電子カメラ2の外観を示す背面図である。図1に示すように、電子カメラ2の背面には、LCD等により形成されるモニタとしての表示部4が設けられている。表示部4は、後述する撮像素子22からの撮像信号に基づくスルー画像、後述する記録媒体28に記録されている画像データに基づく静止画像や動画像、後述するスロー動画+静止画撮影モードにおいてスロー動画撮影に関する設定を行う際のメニュー画面、及び撮影に関する情報等を表示する。
【0011】
また、電子カメラ2の背面には、静止画撮影を指示するためのシャッタボタン6、撮影モードを変更するためのモードボタン8、様々な機能を設定する際に操作される機能設定ボタン10、メニュー項目等の選択や様々な設定時に操作される十字キー12、メニュー項目等の選択や様々な設定に対する確定操作を行うためのOKボタン14が設けられている。モードボタン8は、動画を撮影するための動画撮影モード、静止画を撮影するための静止画撮影モード、後述するスローモーション動画(以下、スロー動画という。)及びスロー動画に関連する静止画を撮影するためのスロー動画+静止画撮影モード等の撮影モードを選択するためのボタンであり、モードボタン8を押下する毎に選択可能な撮影モードに順次切り替わる。また、機能設定ボタン10は、モードボタン8において選択された撮影モード下において設定可能な機能について設定するためのメニュー画面を表示部4に表示させる際に操作されるボタンである。
【0012】
図2は、第1の実施の形態に係る電子カメラ2のシステム構成を示すブロック図である。図2に示すように、電子カメラ2は、マイクロプロセッサ等により構成され、電子カメラ2の各部を統括的に制御する制御部20を備えている。制御部20には、撮像素子22、バッファメモリ24、記憶部26、記録媒体28、表示部4、及び操作部30が接続されている。撮像素子22は、CCDまたはCMOS等により構成され、図示しない撮影レンズを介した被写体からの光を撮像し、制御部20は、撮像素子22から出力され、図示しないA/Dコンバータを介すことによりアナログ信号からデジタル信号に変換された撮像信号に基づく画像データを取得する。
【0013】
バッファメモリ24は、撮像素子22からの撮像信号に基づき生成された画像データを一時的に記憶する。特に、電子カメラ2が例えばスロー動画を撮影するスロー動画+静止画撮影モード等に設定されている場合には、バッファメモリ24は、撮像素子22から動画像サイクル(60fps等)に同期して出力される撮像信号に基づく複数の画像データ、即ちスロー動画像を構成する複数のフレーム画像をFIFO(first in fist out)方式で順次記憶する。記憶部26は、スロー動画及びスロー動画に関連する静止画像の画像データに付加して記録するための「きらめき」「ゆらめき」「やすらぎ」「愛らしさ」等の複数のテーマ情報(後述する)、各テーマ情報に調和する音楽の音楽データ(後述する)等を記憶する。
【0014】
記録媒体28は、電子カメラ2に設けられたカードスロット(図示せず)に着脱可能に装着される可搬性を有する記録媒体であり、例えば、CFカード、SDカード、スマートメディア等が用いられる。記録媒体28には、バッファメモリ24に記憶されているフレーム画像のそれぞれに、制御部20内の図示しない縮小回路により動画用の解像度へのリサイズ(解像度大から小へ)処理、制御部20内の図示しない動画用信号処理回路により動画用の画像処理、及び制御部20内の図示しない動画用圧縮回路により動画用の圧縮処理を施すことにより作成される動画データやスロー動画データが記録される。また、記録媒体28には、バッファメモリ24に記憶されているフレーム画像に、制御部20内の図示しない静止画用信号処理回路により静止画像用の画像処理、制御部20内の図示しない静止画用圧縮回路により静止画像用の圧縮処理を施すことにより作成される静止画データや、撮影に関する情報等が記録される。操作部30は、電子カメラ2の電源をオン/オフする電源スイッチ(図示せず)、シャッタボタン6、モードボタン8、機能設定ボタン10、十字キー12、OKボタン14等を含んで構成されている。
【0015】
この実施の形態に係る電子カメラ2では、所定時間の間に、単位時間に撮像素子22からの撮像信号に基づき生成されるフレーム画像の数を示す第1フレームレートより少ない第2フレームレートで再生されるスロー動画のスロー動画データを、撮像信号22からの撮像信号に基づく複数のフレーム画像に基づき作成し、かつ該スロー動画を形成する複数のフレーム画像の少なくとも1つのフレーム画像に基づく静止画像の静止画データを作成し、これらスロー動画データ及び静止画データを互いに関連付けて記録媒体28に記録することができる。以下、図3に示すフローチャートを参照して、この実施の形態に係る電子カメラ2においてスロー動画及び静止画像を撮影する際の処理について説明する。
【0016】
まず、ユーザーがモードボタン8を操作することによりスロー動画+静止画撮影モードに設定されると、制御部20は、スロー動画及び該スロー動画に関連する静止画像を撮影するためのスロー動画+静止画撮影モードに移行する(ステップS10)。そして、ユーザーにより機能設定ボタン10が押下されたか否かを判別する(ステップS11)。ステップS11において機能設定ボタン10が押下されたと判別された場合には(ステップS11、Yes)、制御部20は、これから撮影されるスロー動画及び静止画像の画像データに関連付けて記録されるテーマ情報を選択するためのテーマ情報選択画面を表示部4に表示する。テーマ情報は、これから撮影されるスロー動画と静止画像に基づく画像とを時系列に画像再生する際に再生される音楽に関する情報であって、最適な音楽の音楽データを、記憶部26に記憶されている複数の音楽データの中から選択するために使用される。
【0017】
ユーザーは、複数のテーマ情報(例えば、「きらめき」「ゆらめき」「やすらぎ」「愛らしさ」等)の中から、所望のテーマ情報を十字キー12を用いて選択し、OKボタン14を押下する。制御部20は、ユーザーにより選択された所望のテーマ情報を記憶部26に記憶させる(ステップS12)。一方、ステップS11において機能設定ボタン10が押下されていないと判別された場合には(ステップS11、No)、制御部20は、デフォルトのテーマ情報(この実施の形態では、デフォルトのテーマ情報を「きらめき」とする。)を記憶部26に記憶させる(ステップS13)。
【0018】
なお、ステップS10においてスロー動画+静止画撮影モードに移行したとき、テーマ情報の設定忘れを防止するために、ユーザーに対してテーマ情報を設定するよう促すための表示等を行うこともできる。また、ステップS11において機能設定ボタン10が押下されていないと判別された場合において(ステップS11、No)、制御部20は、デフォルトのテーマ情報に代えて、ユーザーにより前回設定されたテーマ情報を、これから撮影されるスロー動画及び静止画像のテーマ情報として記憶部26に記憶させる構成にすることもできる。
【0019】
次に、制御部20は、ユーザーによりシャッタボタン6が半押しされたか否かを判別する(ステップS14)。そして、ステップS14においてシャッタボタン6が半押しされたと判別されると(ステップS14、Yes)、制御部20は、スロー動画及び静止画像の撮影準備、即ち主要被写体に対して合焦させ、スロー動画の撮影、即ちバッファメモリ24へのフレーム画像のバッファリングを開始する(ステップS15)。次に、制御部20は、ユーザーによりシャッタボタン6が全押しされたか否かを判別する(ステップS16)。そして、ステップS16においてシャッタボタン6が全押しされたと判別されると(ステップS16、Yes)、制御部20は、静止画像の撮影指示が入力されたと判断し、シャッタボタン6が全押しされてから所定時間が経過したか否かを判別する(ステップS17)。ステップS17において所定時間が経過したと判別された場合には(ステップS17、Yes)、制御部20は、スロー動画の撮影終了、即ちバッファメモリ24へのフレーム画像のバッファリングを終了する(ステップS18)。
【0020】
次に、制御部20は、スロー動画のスロー動画データ、及び静止画像の静止画データを作成する(ステップS19)。具体的には、シャッタボタン6が全押しされた時から第1所定時間(この実施の形態では、0.6秒)前までの間にバッファメモリ24にバッファリングされた複数のフレーム画像と、シャッタボタン6が全押しされた時から第2所定時間(ステップS17では所定時間、この実施の形態では0.4秒)後までの間にバッファメモリ24にバッファリングされた複数のフレーム画像とに基づいて、スロー動画データを作成する。即ち、撮像素子22から出力されるフレームレート(撮影フレームレート)と同等の第1フレームレート(例えば60フレーム/秒等)でバッファメモリ24に記憶されているフレーム画像を、第1フレームレートより少ない第2フレームレート(例えば第1フレームレートの1/2.5である24フレーム/秒等)でバッファメモリ24から読み出し、読み出したフレーム画像に対して制御部20内の縮小回路(不図示)により動画像用の解像度へのリサイズ(解像度大から小へ)処理、制御部20内の動画用信号処理回路(不図示)により動画用の画像処理(動画用圧縮処理含む)を施すことにより、スロー動画像データを作成する。なお、第1所定時間、第2所定時間及び第2フレームレートは、予め設定され、記憶部26に記憶されており、変更可能に構成されている。
【0021】
また、シャッタボタン6が全押しされた時に、撮像素子22から出力される撮像信号に基づくフレーム画像に基づいて、静止画データを作成する。即ち、シャッタボタン6が全押しされた時に、バッファメモリ24に記憶されたフレーム画像をバッファメモリ24から読み出し、読み出されたフレーム画像に対して制御部20内の静止画用信号処理回路(不図示)により静止画像用の画像処理(静止画用圧縮処理を含む)を施すことにより静止画データを作成する。
【0022】
次に、制御部20は、ステップS12またはS13において記憶部26に記憶させたテーマ情報を読み出し、読み出したテーマ情報、及びセットID情報を、ステップS19において作成されたスロー動画データ及び静止画データに関連付けて、記録媒体28に記録する(ステップS20)。具体的には、図4に示すように、テーマ情報T及びセットID情報Iを、スロー動画データの付属情報として、スロー動画データである動画・音声データMや他の情報と共に、所定の形式で、メーカー独自情報領域内に付加して記録媒体28に記録する。同様に、テーマ情報T及びセットID情報Iを、静止画データの付属情報として、静止画データである圧縮データ(画像)Sや他の情報と共に、Exif(Exchangable image file format)等の所定の形式で、APP1セグメントのメーカー独自情報領域内(Exifにおいてはメーカーノート内)に付加して記録媒体28に記録する。
【0023】
セットID情報Iは、異なるファイル(異なる拡張子を有するファイル)として記録媒体28に記録されるスロー動画データ及び静止画データを関連付けるための情報であり、制御部20は、スロー動画データ(または静止画データ)のセットID情報Iを参照することにより、同一のセットID情報Iを有する静止画データ(またはスロー動画データ)を該スロー動画データに関連する静止画データ(または該静止画データに関連するスロー動画データ)として認識する。
【0024】
なお、スロー動画データ及び静止画データへのセットID情報Iの付加に加えて、または代えて、スロー動画データ及び静止画データのファイル名を同一にすることにより、スロー動画データと静止画データとの関連を識別する構成にすることもできる。また、テーマ情報Tとして、各テーマ情報に割り当てられる数値がスロー動画データ及び静止画データの付属情報として記録されており、電子カメラ2は、例えば記憶部26内に各テーマ情報の数値を示すデータベースを有している。また、図4においては、スロー動画データとして、動画・音声データMが記録されているが、スロー動画を再生する際、動画に対応する音声をスロー動画と同時に再生しないため(後述する)、動画に対応する音声の録音を行わずに、動画データのみを記録することもできる。
【0025】
次に、図5に示すフローチャートを参照して、この実施の形態に係る電子カメラ2においてスロー動画及び静止画像を再生する際の処理について説明する。
【0026】
まず、ユーザーがモードボタン8等を操作することにより再生モードに設定されると、制御部20は、記録媒体28に記録されている画像データの画像(スロー動画や静止画像)を再生するための再生モードに移行する(ステップS30)。そして、ユーザーにより操作部30を介してスロー動画の再生指示がなされたか否かを判別する(ステップS31)。スロー動画の再生指示は、十字キー12、コマ送りボタン(不図示)、あるいはOKボタン14などに対する使用者の操作によって行われる。この操作としては、例えば、表示部4に撮影日時の順(古い順または新しい順)に画像(スロー動画や静止画像等)が表示されている場合に、十字キー12の左ボタン(次の画像表示を指示する操作部材)、或いは十字キー12の右ボタン(前の画像表示を指示する操作部材)、或いはコマ送りボタンを操作すること、などが挙げられる。或いは、記録媒体28に記録されている画像データのサムネイル画像(この場合のサムネイル画像は、スチルレリーズ時に取得された静止画像のサムネイル画像である。スロー動画の場合には、スロー動画取得時と同時に取得された静止画像(シャッタレリーズタイミングに取得された静止画像)に対応するサムネイル画像である)の一覧が表示されている場合に、十字キー12等を用いたスロー動画に関連するサムネイル画像を選択した後に操作される、OKボタン14に対する押下操作等も挙げられる。
【0027】
ステップS31においてスロー動画の再生指示がなされたと判別された場合には(ステップS31、Yes)、制御部20は、再生指示がなされたスロー動画のスロー動画データに付加されているセットID情報に基づいて、スロー動画データに関連する静止画データ、即ちスロー動画を形成する複数のフレーム画像のうちの1枚のフレーム画像により形成される静止画像の静止画データを識別する。そして、該スロー動画データ及び該静止画データに基づくスロー動画及び静止画像をバッファメモリ24にバッファリングする。
【0028】
次に、制御部20は、再生指示がなされたスロー動画のスロー動画データに付加されているテーマ情報を取得する(ステップS32)。具体的には、スロー動画データに付加されているテーマ情報を示す数値を取得し、記憶部26に記憶されている各テーマ情報の数値を示すデータベースから、スロー動画のテーマ情報、例えば「きらめき」「ゆらめき」「やすらぎ」「愛らしさ」等を識別する。
【0029】
次に、制御部20は、ステップS32において取得したテーマ情報に基づいて、スロー動画を再生する際に、BGMとして再生する音楽を決定する(ステップS33)。具体的には、テーマ情報毎に設定され、記憶部26に記憶されている複数の音楽データの中から、ステップS32にて取得したテーマ情報の場合に再生される音楽として設定されている音楽データを記憶部26から選択し、選択した音楽データに基づく音楽をバッファメモリ24にバッファリングする。
【0030】
次に、制御部20は、表示部4の表示画面を一旦暗転させた後、バッファメモリ24にバッファリングされたスロー動画及び音楽の再生を開始する(ステップS34)。具体的には、第1所定時間の間に撮影された複数のフレーム画像と、第2所定時間の間に撮影された複数のフレーム画像とを、第1フレームレート(撮影フレームレート)より少ない第2フレームレートで、表示部4に時系列に画像表示すると同時に、BGMとして音楽を再生する。このとき、スロー動画の再生開始から所定時間(約0.5秒)かけてスロー動画がフェードインする等のトランジションエフェクトを施す。
【0031】
制御部20は、スロー動画及び音楽の再生中、ユーザーにより操作部30を介したスロー動画及び音楽の再生停止の指示がなされたか否かを判別する(ステップS42)。スロー動画及び音楽の再生停止の指示としては、操作部30のOKボタン14の押下等が挙げられる。制御部20は、スロー動画及び音楽の再生停止の指示がなされたと判別した場合(ステップS42、Yes)、スロー動画及び音楽の再生を停止し、バッファメモリ24にバッファリングされた静止画像を表示部4に表示する(ステップS43)。
【0032】
制御部20は、静止画像の再生停止指示がなされたか否かを判別する(ステップS44)。静止画像の表示停止の指示としては、例えば静止画像の表示中であって、スロー動画の再表示を指示するOKボタン14、次の画像表示を指示する十字キー12の左ボタン、前の画像表示を指示する十字キー12の右ボタンの押下等が挙げられる。ステップS44において静止画像の表示停止の指示がなされたと判別した場合(ステップS44、Yes)、制御部20は静止画像の表示部14への表示を停止する(ステップS45)。
【0033】
一方、ステップS42においてスロー動画及び音楽の再生停止の指示がなされない場合(ステップS42、No)には、制御部20は、スロー動画及び音楽の再生を継続し、スロー動画の再生終了から所定時間(約0.5秒)前から、スロー動画の再生終了までの間、スロー動画がフェードアウトする等のトランジションエフェクトを施す。
【0034】
そして、制御部20は、スロー動画の再生が終了したと判別した場合(ステップS35、Yes)、例えば第1所定時間が0.6秒、第2所定時間が0.4秒、第2フレームレートが第1フレームレートの1/2.5の場合にあっては2.5秒経過した後、バッファメモリ24にバッファリングされた静止画像を表示部4に表示する(ステップS36)。
【0035】
このとき、静止画像の再生開始から所定時間(約0.5秒)かけて静止画像がフェードインする等のトランジションエフェクトを施す。また、音楽は、スロー動画の再生終了や静止画像の再生開始にかかわらず、音楽が終了するまで再生を継続する。
【0036】
次に、制御部20は、ユーザーにより操作部30を介して静止画像の表示停止の指示がなされたか否かを判別する(ステップS37)。静止画像の表示停止の指示としては、例えば静止画像の表示中であって、スロー動画の再表示を指示するOKボタン14、次の画像表示を指示する十字キー12の左ボタン、前の画像表示を指示する十字キー12の右ボタンの押下等が挙げられる。
【0037】
ステップS37において静止画像の表示停止の指示がなされたと判別された場合には(ステップS37、Yes)、制御部20は、静止画像を表示している間に、スロー動画の再生と同時にBGMとして再生開始した音楽の再生が終了したか否かを判別する(ステップS38)。例えばスロー動画の再生時間が2.5秒、音楽の再生時間が10秒である場合には、静止画像が表示部4に7.5秒より長く表示される前に、静止画像の表示停止の指示がなされると、音楽の再生は継続されているため、音楽の再生は終了していないと判別される。一方、静止画像が表示部4に7.5秒より長く表示された後に、静止画像の表示停止の指示がなされると、音楽の再生は既に終了しているため、音楽の再生は終了したと判別される。
【0038】
ステップS38において音楽の再生が終了したと判別された場合には(ステップS38、Yes)、制御部20は、静止画像の表示部4への表示を停止する(ステップS39)。一方、ステップS38において音楽の再生が終了していないと判別された場合には(ステップS38、No)、制御部20は、静止画像の表示部4への表示、及び音楽の再生を停止する(ステップS40)。
【0039】
第1の実施の形態に係る電子カメラ2によれば、スロー動画及び該スロー動画に関連する静止画像のテーマ情報を設定するため、スロー動画と、該スロー動画に関連する静止画像と共に再生される最適な音楽をテーマ情報に基づいて自動的に選択することができる。また、スロー動画を再生した後に該スロー動画に関連する静止画像を再生し、これらスロー動画及び静止画像を再生する際、フェードイン・フェードアウト・クロスフェード等のトランジションエフェクトを効果的に使用するため、スロー動画と静止画像の関連性を印象付けると共に、スロー動画が静止画撮影時前後の動画であること(静止画像がスロー動画を形成する複数のフレーム画像のうちの1枚のフレーム画像であること)を、ユーザーに直感的に認識させることができる。
【0040】
次に、図面を参照して、本発明の第2の実施の形態に係る画像処理装置としての電子カメラについて説明する。第2の実施の形態に係る電子カメラにおいては、第1の実施の形態に係る電子カメラ2の構成と同一の構成を有しているため、その説明を省略し、同一の構成には同一の符号を用いて説明を行う。
【0041】
この第2の実施の形態では、制御部20は、所定時間の間に、単位時間に撮像素子22からの撮像信号に基づき生成されるフレーム画像の数を示す第1フレームレートより少ない第2フレームレートで再生されるスロー動画のスロー動画データ、及び該スロー動画を形成する複数のフレーム画像の少なくとも1つのフレーム画像に基づく静止画像の静止画データを作成し、作成されたスロー動画データ及び静止画データの少なくとも一方を解析し、解析結果に基づいてテーマ情報を設定する。以下、図6に示すフローチャートを参照して、この実施の形態に係る電子カメラ2においてスロー動画及び静止画像を撮影する際の処理について説明する。なお、ステップS50及びS51の処理は、図3に示すステップS10及びS11の処理と同一のため、その説明を省略する。
【0042】
ステップS51において機能設定ボタン10が押下されたと判別された場合には(ステップS51、Yes)、制御部20は、図7に示すようなテーマ情報選択画面32を表示部4に表示する。ユーザーは、複数のテーマ情報(図7では、「AUTO」「きらめき」「ゆらめき」「やすらぎ」「愛らしさ」)の中から、所望のテーマ情報を十字キー12を用いて選択し、OKボタン14を押下する。ここで、図7に示す「AUTO」は、電子カメラ2(制御部20)が、これから撮影されるスロー動画のスロー動画データ及び静止画像の静止画データの少なくとも一方を解析し、その解析結果に基づいてテーマ情報を自動で設定する際に選択される。
【0043】
次に、制御部20は、ユーザーにより図7に示すテーマ情報選択画面32において「AUTO」が選択されたか否かを判別する(ステップS52)。ステップS52において「AUTO」が選択されていないと判別された場合には(ステップS52、No)、制御部20は、ユーザーにより選択された所望のテーマ情報(図7では、「AUTO」以外の「きらめき」「ゆらめき」「やすらぎ」「愛らしさ」のいずれか)を記憶部26に記憶させ(ステップS53)、ステップS54の処理に進む。
【0044】
一方、ステップS51において機能設定ボタン10が押下されていないと判別された場合には(ステップS51、No)、制御部20は、デフォルトのテーマ情報として「AUTO」が選択されたものと判断し、ステップS54の処理に進む。同様に、ステップS52において「AUTO」が選択されたと判別された場合には(ステップS52、Yes)、制御部20は、ステップS54の処理に進む。なお、ステップS54〜S59の処理は、図3に示すステップS14〜S19の処理と同一のため、その説明を省略する。
【0045】
ステップS59の処理を終えた後、制御部20は、テーマ情報の設定を行う(ステップS60)。図8は、図6に示すステップS60においてテーマ情報を設定する際の処理について説明するためのフローチャートである。
【0046】
まず、制御部20は、スロー動画データ及び静止画データが作成される前に、「AUTO」以外のテーマ情報が選択されたか否かを判別する(ステップS70)。即ち、図7に示すテーマ情報選択画面32において、「AUTO」以外の「きらめき」「ゆらめき」「やすらぎ」「愛らしさ」のいずれかがユーザーにより選択されたか否かを判別する。ステップS70において「AUTO」以外のテーマ情報が選択されたと判別された場合には(ステップS70、Yes)、制御部20は、図6に示すステップS53において記憶部26に記憶させたテーマ情報(「きらめき」「ゆらめき」「やすらぎ」「愛らしさ」のいずれか)を読み出し、読み出したテーマ情報を、図6に示すステップS59において作成されたスロー動画及び静止画データのテーマ情報として設定する(ステップS71)。
【0047】
一方、ステップS70において「AUTO」以外のテーマ情報が選択されていないと判別された場合(ステップS70、No)、即ち「AUTO」が選択されていると判別された場合には、制御部20は、撮影されたスロー動画中(スロー動画を形成するフレーム画像中)の被写体の顔領域を、周知の顔領域認識機能を用いて検出する(ステップS72)。例えば、図9に示すように、人物や動物(周知の動物顔認識機能を用いる)の顔を含む顔領域34,36,38を検出する。
【0048】
次に、制御部20は、ステップS72において少なくとも1つの顔領域が検出されたか否かを判別する(ステップS73)。ステップS73において、図9に示すように、人物や動物の顔領域34,36,38が検出されたと判別された場合には(ステップS73、Yes)、制御部20は、周知の子供または動物の顔認識機能を用いて、その検出された顔領域34,36,38内の顔が子供または動物の顔であるか否かを判別する(ステップS74)。例えば、図9(a)に示すように顔領域34内の顔が大人の顔である場合には、子供または動物の顔でないと判別し(ステップS74、No)、図9(b)に示すように顔領域36,38内の顔が子供や動物の顔である場合には、子供または動物の顔であると判別する(ステップS74、Yes)。なお、この実施の形態では、ステップS72において複数の顔領域が検出され、検出された複数の顔領域のうちの少なくとも一つの顔領域内の顔が子供または動物の顔である場合には、子供または動物の顔であると判別されるよう構成されているものとする。
【0049】
ステップS74において子供または動物の顔であると判別された場合(ステップS74、Yes)、例えばスロー動画中に図9(b)に示すようなフレーム画像が含まれる場合には、制御部20は、図6に示すステップS59において作成されたスロー動画及び静止画データのテーマ情報として「愛らしさ」を設定する(ステップS75)。一方、ステップS74において子供または動物の顔でないと判別された場合(ステップS74、No)、例えば図9(a)に示すように、スロー動画中に大人の顔のみが含まれる場合には、制御部20は、周知の笑顔認識機能を用いて、その大人の顔が笑顔であるか否かを判別する(ステップS76)。ステップS76において笑顔であると判別された場合には(ステップS76、Yes)、制御部20は、図6に示すステップS59において作成されたスロー動画及び静止画データのテーマ情報として「やすらぎ」を設定する(ステップS77)。これら顔認識関連の情報は、撮影後の静止画像または動画からの検出としているが、撮影時に顔認識処理を行う機能がカメラに搭載されている場合、その顔認識情報を記憶しておき、この保存時のテーマ情報設定に利用するようにしてもよい。それにより保存時の処理を一部省略でき、保存時間を短縮することも可能である。
【0050】
一方、ステップS73において人物や動物の顔領域が検出されていないと判別された場合(ステップS73、No)、またはステップS76において笑顔でないと判別された場合には(ステップS76、No)、制御部20は、スロー動画中の被写体の輝度分布情報を検出する(ステップS78)。具体的には、スロー動画中の被写体の輝度分布情報として、輝度強度、輝度強度が所定範囲内の輝度点の面積、所定面積以上の輝度点の数、所定面積以上の輝度点の輝度変化周期等を検出する。
【0051】
この実施の形態では、例えば図10(a)に示すような水面を被写体とするスロー動画40の場合において、まず、所定最低輝度強度Imin以上かつ所定最高輝度強度Imax以下の輝度点を検出する。所定最低輝度強度Imin及び所定最高輝度強度Imaxは、予め設定されており、例えば図11に示すようなテーブルとして記憶部26に記憶されている。制御部20は、このテーブルを参照することにより所定最低輝度強度Imin及び所定最高輝度強度Imaxを取得し、所定最低輝度強度Imin以上かつ所定最高輝度強度Imax以下の輝度点を検出する。図10(a)に示すスロー動画40の場合において、検出された輝度点P1〜P7を図10(b)に示す。
【0052】
次に、制御部20は、検出された輝度点P1〜P7の面積を検出し、検出された輝度点P1〜P7の面積が所定面積より大きいか否かを判別する。所定面積は、予め設定されており、記憶部26に記憶されている。そして、制御部20は、所定面積より大きい輝度点(この実施の形態では、輝度点P1〜P7とする)の時間Tに対する輝度Iの変化を検出する。図12は、輝度点P7の時間Tに対する輝度Iの変化を示すグラフである。制御部20は、この時間Tに対する輝度Iの変化から、輝度点の輝度変化周期(Hz)を検出し、所定最低輝度変化周期Fimin以上かつ所定最高輝度変化周期Fimax以下の輝度変化周期の輝度点の数を検出する。所定最低輝度変化周期Fimin及び所定最高輝度変化周期Fimaxは、予め設定されており、例えば図11に示すようなテーブルとして記憶部26に記憶されている。
【0053】
次に、制御部20は、検出された輝度点の数が所定数min以上か否かを判別する。所定数minは、予め設定されており、例えば図11に示すようなテーブルとして記憶部26に記憶されている。そして、制御部20は、検出された輝度点の数が所定数min以上であると判別した場合には、テーマ情報として「きらめき」を設定する条件を満たしていると判別し(ステップS79、Yes)、図6に示すステップS59において作成されたスロー動画及び静止画データのテーマ情報として「きらめき」を設定する(ステップS80)。
【0054】
一方、制御部20は、検出された輝度点の数が所定数min以上でないと判別した場合には、テーマ情報として「きらめき」を設定する条件を満たしていないと判別し(ステップS79、No)、スロー動画中の被写体の動き情報を検出する(ステップS81)。例えば、図13に示すような葉44がAからBへと往復移動を繰り返しているスロー動画42の場合において、まず、制御部20は、A−B間を往復移動する葉44の移動速度を算出し、算出結果に基づいて葉44の往復移動に係る往復周期を算出し、算出された往復周期が所定最低往復周期Fmin以上かつ所定最高往復周期Fmax以下であるか否かを判別する。所定最低往復周期Fmin及び所定最高往復周期Fmaxは、予め設定されており、例えば図11に示すようなテーブルとして記憶部26に記憶されている。そして、制御部20は、算出された往復周期が所定最低往復周期Fmin以上かつ所定最高往復周期Fmax以下であると判別した場合には、テーマ情報として「ゆらめき」を設定する条件を満たしていると判別し(ステップS82、Yes)、図6に示すステップS59において作成されたスロー動画及び静止画データのテーマ情報として「ゆらめき」を設定する(ステップS83)。
【0055】
なお、移動する被写体が複数存在する場合には、例えば合焦位置に最も近い被写体等の代表の被写体の往復周期を算出する。一方、制御部20は、算出された往復周期が所定最低往復周期Fmin以上かつ所定最高往復周期Fmax以下でないと判別した場合には、テーマ情報として「ゆらめき」を設定する条件を満たしていないと判別し(ステップS82、No)、いずれの条件も満たしていない場合には、デフォルトのテーマ情報を設定する。または制御部20は、判定不可能と見做しテーマ情報選択画面32を表示部14に表示し、テーマ情報選択画面32から利用者が選択したテーマ情報に基づいてテーマ情報を設定する。(ステップS84)。
【0056】
なお、図11のテーブルに示すテーマ情報「ゆらめき1」は、ユーザーが設定した条件(所定最低往復周期Fmin1及び所定最高往復周期Fmax1)を満たす場合に設定されるテーマ情報であり、算出された往復周期が、ユーザーにより設定された所定最低往復周期Fmin1以上かつ所定最高往復周期Fmax1以下であると判別された場合のみ、テーマ情報として「ゆらめき1」が設定される。このユーザーにより条件を設定することができる機能は、予め設定されている条件がユーザーの感覚に合わない場合等に有効である。また、他のテーマ情報(例えば、「きらめき」「やすらぎ」「愛らしさ」等)についても、ユーザーが独自の条件(輝度変化周期等)を設定し、制御部20がユーザー設定の条件を満たすか否かを判別し、判別結果に基づいてテーマ情報を設定することができる。また、図11に示すテーブルを、記憶部26でなく、サーバに記憶させておき、サーバから送信されるデータ信号を受信する受信部(図示せず)を電子カメラ2が備え、サーバから送信し、受信部により受信することによりテーブルを参照する構成にすることもできる。
【0057】
テーマ情報の設定を終えた後、制御部20は、図6に示すステップS60において設定したテーマ情報、及びセットID情報を、ステップS59において作成されたスロー動画データ及び静止画データに関連付けて、記録媒体28に記録する(ステップS61)。具体的な処理については、図3に示すステップS20の処理と同一のため、その詳細な説明を省略する。
【0058】
次に、第2の実施の形態に係る電子カメラ2においてスロー動画及び静止画像を再生する際の処理について説明する。
【0059】
まず、制御部20は、図5に示すステップS30〜S32の処理を実行する。そして、ステップS32の処理の後、即ち再生するスロー動画及び静止画像のテーマ情報を取得した後、取得したテーマ情報に基づいて、再生するスロー動画及び静止画像の少なくとも一方に対する画像処理を実行する。具体的には、再生するスロー動画及び静止画像の少なくとも一方に対する色調やトランジションエフェクト、再生するスロー動画の再生速度等を変化させる画像処理を実行する。
【0060】
例えば、「レトロ」というテーマ情報を設定可能で、テーマ情報として「レトロ」が設定されている場合には、スロー動画や静止画像の色調をモノトーンやセピア調に変更する画像処理を実行する。また、「やすらぎ」や「ゆらめき」等のゆったりしたイメージのテーマ情報が設定されている場合には、スロー動画から静止画像に切り替わる際のトランジションエフェクト、即ちフェードイン及びフェードアウトの速度を設定速度より遅くする画像処理を実行する。具体的には、スロー動画を0.5秒かけてフェードアウトさせ、静止画像を0.5秒かけてフェードインさせるところを、スロー動画を0.7秒かけてフェードアウトさせ、静止画像を0.7秒かけてフェードインさせる等の画像処理を実行する。
【0061】
また、「やすらぎ」や「ゆらめき」等のゆったりしたイメージのテーマ情報が設定されている場合には、スロー動画の再生速度を遅くする画像処理を実行する。具体的には、スロー動画の再生時間が2.5秒のところを、3.0秒や4.0秒にする画像処理を実行する。また、スロー動画中の被写体の輝度分布情報や動き情報を検出し、検出結果に基づいてスロー動画の再生速度を変化させる。
【0062】
具体的には、上述したように、スロー動画中の被写体の、所定範囲内の往復周期を算出し、算出された往復周期に基づいて、スロー動画の再生速度を変化させる。例えば、算出された往復周期と、「ゆらめき」用に定義されている往復周期(図11参照)とを比較して、算出された往復周期が「ゆらめき」の往復周期に含まれているならば、「ゆらめき」の定義と調和するように、スロー動画の再生速度を変化させる。
【0063】
また、「きらめき」が設定されている場合には、上述したように、スロー動画中の被写体の、所定範囲内の輝度強度及び所定面積以上の面積を有する輝度点の輝度変化周期を算出し、算出された輝度変化周期に基づいて、スロー動画の再生速度を変化させる。例えば、算出された輝度変化周期と、「きらめき」用に定義されている輝度変化周期(図11参照)とを比較して、算出された輝度変化周期がどの「きらめき」の輝度変化周期に含まれているのかを特定し、その特定された「きらめき」の定義と調和するように、スロー動画の再生速度を変化させる。
【0064】
次に、制御部20は、ステップS32において取得したテーマ情報、及びスロー動画の再生時間(再生速度)に基づいて、スロー動画を再生する際に、BGMとして再生する音楽を決定する(ステップS33)。このBGMとして再生される音楽はテーマ情報毎に設定され、複数の音楽の音楽データが記憶部26に記憶されている。第2の実施の形態では、スロー動画を再生した後、静止画像を再生するが、スロー動画から静止画像への切替り及びスロー動画と静止画像の関連性を印象付けるために、スロー動画から静止画像に切り替わるとき、テンポやリズムが変化する音楽の音楽データが記憶部26に記憶されている。例えば、スロー動画の再生時間が2.5秒、音楽の再生時間が10秒の場合には、スロー動画が再生されている間の2.5秒間の音楽のテンポやリズムは、スロー動画再生後、静止画像が再生されている間の7.5秒間の音楽のテンポやリズムと異なる。
【0065】
なお、テーマ情報や被写体の動き情報に基づいて、スロー動画の再生時間が2.5秒から3.0秒、4.0秒と変化する場合があるため、テーマ情報毎に、2.5秒後にテンポやリズムが変化する音楽、3.0秒後にテンポやリズムが変化する音楽、及び4.0秒後にテンポやリズムが変化する音楽が設定され、各々の音楽データが記憶部26に記憶されている。
【0066】
制御部20は、テーマ情報及びスロー動画の再生時間に基づいて、記憶部26に記憶されている複数の音楽データの中から、一つの音楽データを選択し、選択した音楽データに基づく音楽をバッファメモリ24にバッファリングする。例えば、テーマ情報が「ゆらめき」で、スロー動画の再生時間が3.0秒の場合には、「ゆらめき」用に設定されている音楽で3.0秒後にテンポやリズムが変化する音楽の音楽データを選択する。
【0067】
ステップS33の処理の後、制御部20は、ステップS34〜S40の処理を実行する。このとき、テーマ情報に基づいて、スロー動画及び静止画像の少なくとも一方に対する画像処理、例えばスロー動画及び静止画像の少なくとも一方に対する色調やトランジションエフェクト、再生するスロー動画の再生速度等を変化させる画像処理を実行している場合には、画像処理後のスロー動画及び静止画像を再生する。
【0068】
第2の実施の形態に係る電子カメラ2によれば、スロー動画及び該スロー動画に関連する静止画像のテーマ情報を自動で設定するため、スロー動画と、該スロー動画に関連する静止画像と共に再生される最適な音楽をテーマ情報に基づいて自動的に選択することができる。また第2の実施形態によれば、スロー動画及び静止画像を再生する際、テーマ情報や被写体の動き情報に基づいて、画像の色調やトランジションエフェクト、スロー動画の再生速度を変化させることができ、更に、スロー動画が再生されている間の音楽のテンポやリズムと、静止画像が再生されている間の音楽のテンポやリズムとを異ならせるため、スロー動画の鑑賞に適切な雰囲気、及び静止画像の鑑賞に適切な雰囲気を、それぞれ効果的に演出することができる。
【0069】
なお、第2の実施の形態においては、スロー動画の顔領域の検出結果、被写体の輝度分布情報の検出結果、及び被写体の動き情報の検出結果に基づいて、テーマ情報を設定しているが、スロー動画の顔領域の検出結果、被写体の輝度分布情報の検出結果、及び被写体の動き情報の検出結果の少なくとも一つに基づいて、テーマ情報を設定する構成にすることもできる。
【0070】
また、第2の実施の形態においては、テーマ情報または被写体の動き情報に基づいて、スロー動画の再生時間(換言すれば再生速度)を予め装置側にドラフト設定されている再生時間(2.5秒)からそれとは異なる再生時間(例えば3.0秒や4.0秒)に変化させている。そして、スロー動画再生時に同時に再生される音楽として、テンポやリズムが変化するタイミングがそれぞれ異なる、予め装置内に用意された複数の音楽データ(例えば変化タイミングが、音楽再生開始から2.5秒後、3.0秒後及び4.0秒後である3つの音楽データ)の中から、その変化タイミングがスロー動画の再生時間(すなわちスロー動画の再生終了タイミング = スロー動画再生から静止画再生への切り換わりタイミング)に等しい音楽データを1つ選んで、再生する。しかしながら、被写体の動き情報によっては、スロー動画の再生時間(換言すれば再生速度)を、3.0秒、4.0秒以外の再生時間(換言すれば再生速度)に変化させる方が最適な場合がある。しかし、だからといって、考えられうる様々なパターンの音楽データを事前に画像再生装置側に用意しておくことは、画像再生装置側のメモリ容量の効率的な利用という観点からすると望ましくない。
【0071】
そこで、このような場合には、予め画像再生装置内に用意されている音楽データを有効活用する。
【0072】
1つの方法としては、例えば、選択された音楽データの再生時間(再生速度)を、スロー動画の再生時間(再生速度)に応じて変化させた上で、使用する。具体的に説明すると、例えば、被写体の動きに基づいて、スロー動画の再生時間が、ドラフト再生時間の2.5秒よりも倍の5秒間に変更されたとする。そして音楽データとしては、上記3つのパターン(テンポ又はリズムの変化タイミングが音楽再生開始からA=2.5秒後、B=3.0秒後、C=4.0秒後である、3パターンの音楽データ)しか備えていないとする。この場合、装置は、変化タイミングが、スロー動画再生時間の5秒に最も近い4.0秒であるCの音楽データを選択する。そして、このCの音楽データのテンポ又はリズムの変化タイミングが、音楽再生開始から5秒後になるように、Cの音楽データを加工(変調)する。そしてその加工後のCの音楽データを使って、5秒のスロー動画再生を行うようにする。なお変化させる対象としては、テンポやリズムだけでなく、音程なども変化させるようにしても良い。
【0073】
この手法によれば、例え音楽データの種類のストックが少なかったとしても、その音楽データを加工(変調や編集など)することによって、テンポやリズム、或いは音程をも、任意のタイミングで変更させた音楽データを得ることが出来、あたかも複数の音楽データを供えているのと同等の効果を得ることが出来る。
【0074】
また別の方法としては、音楽データは加工せずにそのまま使用し、その代わりスロー動画の再生時間を音楽の再生時間に合わせる、という方法が考えられる。この場合において、スロー動画の再生速度は、被写体の動きに基づいて決定された再生速度のままにしておく。つまりこの方法の場合には、そのスロー動画を全て、再生時間内に再生完了することは出来ないが(途中で再生が打ち切られるが)、被写体の動きに応じたスロー動画を、予め用意された音楽データを使って再生することができる。具体的には、例えば再生時間が4.0秒以上の長さ(ex.5秒)に設定されたスロー動画を4.0秒間だけ再生する。そしてその時にBGMとして同時再生される音楽として、音楽再生開始から4.0秒後にテンポやリズムが変化する音楽を選択し、同時再生する。この手法によっても、記憶部26の記憶容量等の制限により、多くの音楽データを記憶できない場合等に有効である。また、音楽のテンポやリズムが変化する時間に拘束されることなく、被写体の動き情報に基づいてスロー動画の再生時間の長さを自由に設定することができる。
【0075】
また、第2の実施の形態においては、スロー動画や静止画像に対する色調やトランジションエフェクト、スロー動画の再生速度を変化させる画像処理を施したものを再生しているが、これら画像処理を施した後のスロー動画や静止画像を、画像処理を施す前のスロー動画及び静止画像に追加して、または代えて、記録媒体28に記録することができるようにしてもよい。
【0076】
また、第2の実施の形態においては、スロー動画及び静止画像を再生するとき、スロー動画や静止画像に対する画像処理を実行しているが、スロー動画及び静止画像を記録するとき、スロー動画や静止画像に対する画像処理を実行してもよい。
【0077】
なお、上述の各実施の形態においては、画像処理装置として電子カメラ2を例に挙げて説明したが、電子カメラに限らず、撮像装置等により撮影されたスロー動画や静止画像に対して画像処理可能なパソコン等の他の画像処理装置においても本発明を適用することができる。また、上述の各実施の形態においては、電子カメラ2により撮影され、記録媒体28に記録されたスロー動画及び静止画像を再生しているが、他の撮像装置等により撮影され、記録媒体に記録されたスロー動画及び静止画像を電子カメラ2で再生することもできる。
【0078】
また、電子カメラ2においてスロー動画及び静止画像を撮影(記録)したときに設定されたテーマ情報を、電子カメラ2より高性能なテーマ情報設定機能を備えたパソコン等の画像処理装置において、スロー動画及び静止画像の再生時にスロー動画及び静止画像の少なくとも一方を解析し、解析結果に基づいて再設定することもできる。例えば、パソコン等の画像処理装置において、記録媒体に記録されているスロー動画データ及び静止画データを画像処理装置に設けられているハードディスク等に読み込むとき等、テーマ情報を再設定する処理を実行する。また、パソコン等の画像処理装置において、スロー動画及び静止画像を再生した際、ユーザーがBGMとして再生された音楽に違和感を覚えた場合や、設定されているテーマ情報を他のテーマ情報に変更したいと思った場合等、ユーザー操作によりテーマ情報を再設定するための画面を表示部に表示させ、テーマ情報を再設定する処理を実行することもできる。
【0079】
また、上述の各実施の形態においては、スロー動画及び静止画像を撮影する直前または直後にテーマ情報を設定しているが、スロー動画及び静止画像を再生するとき、ユーザーがBGMとして再生された音楽に違和感を覚えたとき、設定されているテーマ情報を他のテーマ情報に変更したいと思ったとき等、スロー動画データ及び静止画データを記録媒体28に記録した後、設定されているテーマ情報を変更することもできる。この場合には、メニューの中に、テーマ情報を変更するためのメニュー項目を加え、メニュー画面を表示部4に表示し、十字キー12等を用いて操作することによりテーマ情報をユーザーにより手動で変更することもできる。なお、テーマ情報を自動または手動で再設定した際、再設定する前のテーマ情報から再設定した後のテーマ情報に変更して記録するか否かをユーザーに選択させる画面を表示する。ユーザーにより変更後のテーマ情報の記録が選択された場合には、制御部20は、再設定する前のテーマ情報を削除し、再設定した後のテーマ情報を新たに記録媒体26に記録する。一方、ユーザーにより変更後のテーマ情報の記録が選択されなかった場合には、制御部20は、テーマ情報を更新することなく、即ち再設定する前のテーマ情報が記録媒体26に記録された状態を維持する。
【0080】
また、上述の各実施の形態においては、記憶部26に記憶されている複数の音楽データの中から一つの音楽データを選択しているが、電子カメラ2が、サーバに記録され、サーバから送信される音楽データを受信する受信部(図示せず)を備え、テーマ情報及びスロー動画の再生時間に調和する音楽データをサーバから送信し、受信部により受信する構成にすることもできる。この場合には、サーバ内に格納されている多数の音楽データの中から最適な音楽データを選択することができ、記憶部26の記憶容量が小さい場合等、電子カメラ2が多くの音楽データを記憶することができない場合に有効である。
【0081】
また、上述の各実施の形態においては、テーマ情報をスロー動画データ及び静止画データの両方に関連付けて、記録媒体28に記録しているが、スロー動画データと静止画データとのうちのいずれか一方に関連付けて、記録媒体28に記録してもよい。この場合には、制御部20は、テーマ情報が付加されているスロー動画データ(または静止画データ)のセットID情報から、関連する静止画データ(またはスロー動画データ)を識別し、スロー動画データ(または静止画データ)に付加されているテーマ情報が関連する静止画データ(またはスロー動画データ)のテーマ情報であると認識する。
【0082】
また、上述の各実施の形態においては、テーマ情報及びセットID情報をスロー動画データ及び静止画データの付属情報としてスロー動画データ及び静止画データに付加して記録しているが、スロー動画データ及び静止画データの画像ファイルと異なる設定ファイルを設け、テーマ情報及びセットID情報を、スロー動画データ及び静止画データの少なくとも一方に関連付けて、この設定ファイルに記録することもできる。
【0083】
また、上述の各実施の形態においては、スロー動画を再生した後、静止画像を再生しているが、静止画像を所定時間再生した後、スロー動画を再生することもできる。この場合には、静止画像の再生開始と同時に、テーマ情報に基づき決定された音楽の再生を開始する。また、上述の各実施の形態においては、スロー動画データ及び静止画データを作成し、記録媒体28に記録しているが、静止画データに代えて、静止画データに基づく画像として、1つの静止画像を所望期間連続するフレーム画像とするフリーズ動画を作成し、フリーズ動画のフリーズ動画データをスロー動画データと共に、記録媒体28に記録してもよい。この場合には、フリーズ動画データにテーマ情報及びセットID情報を付加し、再生時には、静止画像に代えてフリーズ動画を再生する。また、上述の各実施の形態においては、スロー動画を再生した後、静止画像を再生しているが、再生時に静止画像に基づいてフリーズ動画を生成し、静止画像に代えて、生成されたフリーズ動画を再生することもできる。なお、フリーズ動画データとスロー動画データは、1つのファイルとしてもよい。いずれの場合も、スロー動画データとフリーズ動画データの合計時間長さはBGMと同じ長さとする。
【0084】
また、上述の各実施の形態においては、テーマ情報毎に最適な音楽が記憶部26に記憶され、スロー動画及び静止画像のテーマ情報に基づいて音楽を決定し、決定された音楽をBGMとしてスロー動画及び静止画像と共に再生しているが、音楽に代えてまたは音楽に加えて、テーマ情報毎に最適な音声等の音を記憶部26に記憶させ、スロー動画及び静止画像のテーマ情報に基づいて音声等の音を決定し、決定された音声等の音をBGMとしてスロー動画及び静止画像と共に再生することもできる。
【0085】
なお、上述の各実施の形態においては、表示部4の表示画面を一旦暗転させた後、スロー動画の再生を開始するが、スロー動画が再生されることを印象付けるために、表示部4に表示されていた画像と、スロー動画を形成する最初のフレーム画像との間に、黒動画を所定時間(約0.5秒)表示部4に表示するようにしてもよい。
【符号の説明】
【0086】
2…電子カメラ、4…表示部、6…シャッタボタン、8…モードボタン、10…昨日設定ボタン、12…十字キー、14…OKボタン、20…制御部、22…撮像素子、24…バッファメモリ、26…記憶部、28…記録媒体。
【特許請求の範囲】
【請求項1】
所定時間の間に、被写体からの光を撮像する撮像素子からの撮像信号に基づく複数のフレーム画像に基づき生成され、単位時間に前記撮像信号に基づき生成されるフレーム画像の数を示す第1フレームレートより少ない第2フレームレートで再生されるよう記録されるスローモーション動画像のスローモーション動画像データと、前記複数のフレーム画像の中の少なくとも1枚のフレーム画像に基づき静止画像として生成される静止画像用データとのうちの少なくとも一方に関連付けて、前記スローモーション動画像と前記静止画像用データに基づく画像とを時系列に画像再生する際に再生される音に関する情報であるテーマ情報を、記録媒体に記録する記録制御部を備えることを特徴とする画像処理装置。
【請求項2】
前記テーマ情報を複数記憶する記憶部と、
前記記憶部に記憶されている前記複数のテーマ情報の中から、所望のテーマ情報を選択可能な選択設定部と、を備え、
前記記録制御部は、前記選択設定部により選択設定されたテーマ情報を、前記スローモーション動画像データと前記静止画像用データとのうちの少なくとも一方に関連付けて前記記録媒体に記録することを特徴とする請求項1記載の画像処理装置。
【請求項3】
前記静止画像用データに基づく画像は、前記複数のフレーム画像の中の1枚のフレーム画像に基づき生成される静止画像であることを特徴とする請求項1または請求項2記載の画像処理装置。
【請求項4】
前記スローモーション動画像データと前記静止画像用データとのうちの少なくとも一方を解析する解析部と、
前記解析部による解析結果に基づいて、前記テーマ情報を設定する設定部と、を備えることを特徴とする請求項1〜請求項3の何れか一項に記載の画像処理装置。
【請求項5】
前記解析部は、前記フレーム画像中の前記被写体の顔領域を認識する顔領域認識部を含み、
前記設定部は、前記顔領域認識部により認識された前記顔領域に基づいて、前記テーマ情報を設定することを特徴とする請求項4記載の画像処理装置。
【請求項6】
前記解析部は、前記スローモーション動画像中の前記被写体の輝度分布情報を検出する輝度分布情報検出部を含み、
前記設定部は、前記輝度分布情報検出部により検出された前記輝度分布情報に基づいて、前記テーマ情報を設定することを特徴とする請求項4記載の画像処理装置。
【請求項7】
前記解析部は、前記スローモーション動画像中の前記被写体の動き情報を検出する動き情報検出部を含み、
前記設定部は、前記動き情報検出部により検出された前記動き情報に基づいて、前記テーマ情報を設定することを特徴とする請求項4記載の画像処理装置。
【請求項8】
前記解析部は、前記スローモーション動画像の再生時に前記解析を行い、
前記設定部は、前記スローモーション動画像の前記記録媒体への記録時に前記設定部により設定された前記テーマ情報を、前記再生時の解析結果に基づいて再設定することを特徴とする請求項4〜請求項7の何れか一項に記載の画像処理装置。
【請求項9】
前記テーマ情報に基づいて、前記スローモーション動画像と前記静止画像用データに基づく画像とのうちの少なくとも一方に対する画像処理を実行する画像処理部を更に備えることを特徴とする請求項1〜請求項8の何れか一項に記載の画像処理装置。
【請求項10】
前記画像処理部は、前記スローモーション動画像と前記静止画像用データに基づく画像とのうちの少なくとも一方に対する色調、トランジションエフェクト、並びに前記スローモーション動画像の再生速度の少なくとも一つを変化させることを特徴とする請求項9記載の画像処理装置。
【請求項11】
前記解析部は、前記スローモーション動画像中の前記被写体の動き情報を検出する動き情報検出部を含み、
前記画像処理部は、前記動き情報検出部により検出された前記動き情報に基づいて、前記スローモーション動画像の再生速度を変化させることを特徴とする請求項9記載の画像処理装置。
【請求項12】
前記テーマ情報に基づいて前記音を選択する選択部を備えることを特徴とする請求項1〜請求項11の何れか一項に記載の画像処理装置。
【請求項13】
前記選択部は、前記スローモーション動画像の再生速度に基づいて、前記音を選択することを特徴とする請求項12記載の画像処理装置。
【請求項14】
サーバに記録され、前記サーバから送信される前記音を受信する受信部を備え、
前記受信部は、前記選択部により選択された前記音を受信することを特徴とする請求項12または請求項13記載の画像処理装置。
【請求項15】
前記記録制御部は、前記テーマ情報を、前記スローモーション動画像データ及び前記静止画像用データの付属情報として、前記スローモーション動画像データ及び前記静止画像用データに付加して記録することを特徴とする請求項1〜請求項14の何れか一項に記載の画像処理装置。
【請求項16】
前記音は、音楽または音声の少なくとも一方を含むことを特徴とする請求項1〜請求項15の何れか一項に記載の画像処理装置。
【請求項17】
前記静止画像用データに基づく画像は、1つの静止画像を連続するフレーム画像として生成されるフリーズ動画像であることを特徴とする請求項1〜請求項17の何れか一項に記載の画像処理装置。
【請求項1】
所定時間の間に、被写体からの光を撮像する撮像素子からの撮像信号に基づく複数のフレーム画像に基づき生成され、単位時間に前記撮像信号に基づき生成されるフレーム画像の数を示す第1フレームレートより少ない第2フレームレートで再生されるよう記録されるスローモーション動画像のスローモーション動画像データと、前記複数のフレーム画像の中の少なくとも1枚のフレーム画像に基づき静止画像として生成される静止画像用データとのうちの少なくとも一方に関連付けて、前記スローモーション動画像と前記静止画像用データに基づく画像とを時系列に画像再生する際に再生される音に関する情報であるテーマ情報を、記録媒体に記録する記録制御部を備えることを特徴とする画像処理装置。
【請求項2】
前記テーマ情報を複数記憶する記憶部と、
前記記憶部に記憶されている前記複数のテーマ情報の中から、所望のテーマ情報を選択可能な選択設定部と、を備え、
前記記録制御部は、前記選択設定部により選択設定されたテーマ情報を、前記スローモーション動画像データと前記静止画像用データとのうちの少なくとも一方に関連付けて前記記録媒体に記録することを特徴とする請求項1記載の画像処理装置。
【請求項3】
前記静止画像用データに基づく画像は、前記複数のフレーム画像の中の1枚のフレーム画像に基づき生成される静止画像であることを特徴とする請求項1または請求項2記載の画像処理装置。
【請求項4】
前記スローモーション動画像データと前記静止画像用データとのうちの少なくとも一方を解析する解析部と、
前記解析部による解析結果に基づいて、前記テーマ情報を設定する設定部と、を備えることを特徴とする請求項1〜請求項3の何れか一項に記載の画像処理装置。
【請求項5】
前記解析部は、前記フレーム画像中の前記被写体の顔領域を認識する顔領域認識部を含み、
前記設定部は、前記顔領域認識部により認識された前記顔領域に基づいて、前記テーマ情報を設定することを特徴とする請求項4記載の画像処理装置。
【請求項6】
前記解析部は、前記スローモーション動画像中の前記被写体の輝度分布情報を検出する輝度分布情報検出部を含み、
前記設定部は、前記輝度分布情報検出部により検出された前記輝度分布情報に基づいて、前記テーマ情報を設定することを特徴とする請求項4記載の画像処理装置。
【請求項7】
前記解析部は、前記スローモーション動画像中の前記被写体の動き情報を検出する動き情報検出部を含み、
前記設定部は、前記動き情報検出部により検出された前記動き情報に基づいて、前記テーマ情報を設定することを特徴とする請求項4記載の画像処理装置。
【請求項8】
前記解析部は、前記スローモーション動画像の再生時に前記解析を行い、
前記設定部は、前記スローモーション動画像の前記記録媒体への記録時に前記設定部により設定された前記テーマ情報を、前記再生時の解析結果に基づいて再設定することを特徴とする請求項4〜請求項7の何れか一項に記載の画像処理装置。
【請求項9】
前記テーマ情報に基づいて、前記スローモーション動画像と前記静止画像用データに基づく画像とのうちの少なくとも一方に対する画像処理を実行する画像処理部を更に備えることを特徴とする請求項1〜請求項8の何れか一項に記載の画像処理装置。
【請求項10】
前記画像処理部は、前記スローモーション動画像と前記静止画像用データに基づく画像とのうちの少なくとも一方に対する色調、トランジションエフェクト、並びに前記スローモーション動画像の再生速度の少なくとも一つを変化させることを特徴とする請求項9記載の画像処理装置。
【請求項11】
前記解析部は、前記スローモーション動画像中の前記被写体の動き情報を検出する動き情報検出部を含み、
前記画像処理部は、前記動き情報検出部により検出された前記動き情報に基づいて、前記スローモーション動画像の再生速度を変化させることを特徴とする請求項9記載の画像処理装置。
【請求項12】
前記テーマ情報に基づいて前記音を選択する選択部を備えることを特徴とする請求項1〜請求項11の何れか一項に記載の画像処理装置。
【請求項13】
前記選択部は、前記スローモーション動画像の再生速度に基づいて、前記音を選択することを特徴とする請求項12記載の画像処理装置。
【請求項14】
サーバに記録され、前記サーバから送信される前記音を受信する受信部を備え、
前記受信部は、前記選択部により選択された前記音を受信することを特徴とする請求項12または請求項13記載の画像処理装置。
【請求項15】
前記記録制御部は、前記テーマ情報を、前記スローモーション動画像データ及び前記静止画像用データの付属情報として、前記スローモーション動画像データ及び前記静止画像用データに付加して記録することを特徴とする請求項1〜請求項14の何れか一項に記載の画像処理装置。
【請求項16】
前記音は、音楽または音声の少なくとも一方を含むことを特徴とする請求項1〜請求項15の何れか一項に記載の画像処理装置。
【請求項17】
前記静止画像用データに基づく画像は、1つの静止画像を連続するフレーム画像として生成されるフリーズ動画像であることを特徴とする請求項1〜請求項17の何れか一項に記載の画像処理装置。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【公開番号】特開2012−175243(P2012−175243A)
【公開日】平成24年9月10日(2012.9.10)
【国際特許分類】
【出願番号】特願2011−33157(P2011−33157)
【出願日】平成23年2月18日(2011.2.18)
【出願人】(000004112)株式会社ニコン (12,601)
【Fターム(参考)】
【公開日】平成24年9月10日(2012.9.10)
【国際特許分類】
【出願日】平成23年2月18日(2011.2.18)
【出願人】(000004112)株式会社ニコン (12,601)
【Fターム(参考)】
[ Back to top ]