記録再生装置
【課題】出力先が高速フレームレートに対応しているか否かに応じて、出力フレームレートおよび表示フレームレートの調整が可能な記録再生装置を提供する。
【解決手段】録画時のフレームレートは通常のテレビジョン装置で用いられているフレームレートよりも早い高速フレームレートで記録し、再生出力時に出力先のディスプレイの高速フレームレートの対応状況に応じて出力する画像のフレームレートを調整可能にする。このため高速フレームレート非対応のディスプレイとの接続時は、再生時に画像処理ASIC4上で240fpsから60fpsへのフレームの間引きを行うことにより通常の60fpsの動画として再生、出力する間引き再生モードを有している。さらに、240fpsの高速フレームレートで撮像され録画された画像を撮影時間の1/4の60fpsで4秒間かけて出力する高精細モードを有している。
【解決手段】録画時のフレームレートは通常のテレビジョン装置で用いられているフレームレートよりも早い高速フレームレートで記録し、再生出力時に出力先のディスプレイの高速フレームレートの対応状況に応じて出力する画像のフレームレートを調整可能にする。このため高速フレームレート非対応のディスプレイとの接続時は、再生時に画像処理ASIC4上で240fpsから60fpsへのフレームの間引きを行うことにより通常の60fpsの動画として再生、出力する間引き再生モードを有している。さらに、240fpsの高速フレームレートで撮像され録画された画像を撮影時間の1/4の60fpsで4秒間かけて出力する高精細モードを有している。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、高速フレームレート機能を活かした映像効果が得られる記録再生装置に関する。
【背景技術】
【0002】
従来の記録再生装置においては、再生を行う際の出力先のディスプレイが高速フレームレート非対応の場合、スロー画像となり音声が追従せず、さらに操作方法が煩雑となるなどの問題点があり、主に産業、放送業界など使用される分野が限定される。
しかしながら、近年のCCDからCMOSへの撮像素子のトレンドの変化や、放送のハイビジョン対応による撮像素子、撮像システムの高速化といった技術により民生用の撮像装置においても解像度を限定することで高速なフレームレートでの撮像環境が実現されている。
このような撮像環境において得られた映像を再生する記録再生装置として、高画質なスローモーション記録と通常記録とを切り替え可能にしたものがある(特許文献1参照)。
【特許文献1】特開2001−292409号公報
【発明の開示】
【発明が解決しようとする課題】
【0003】
このような従来の記録再生装置においては、出力先のディスプレイが高速フレームレートに対応しているか、あるいは通常速度フレームレートに対応しているかなどの、出力先のディスプレイの高速フレームレート対応環境に応じた出力画像の出力フレームレートの調整、および出力画像を出力先のディスプレイで表示する際の表示フレームレートの調整ができないという課題があった。
【0004】
本発明は、このような事情に鑑みてなされたものであり、その目的は、出力先が高速フレームレートに対応しているか通常速度フレームレートに対応しているかに応じて、画像を出力する際の出力フレームレートの調整および画像を表示する際の表示フレームレートの調整が可能な記録再生装置を提供することを目的とする。
【課題を解決するための手段】
【0005】
上述の目的を達成するため、本発明にかかる記録再生装置は、高速フレームレートで録画された画像の再生出力時におけるフレームレートを調整可能にした記録再生装置であって、前記画像の再生出力先の高速フレームレート対応状況を判定する高速フレームレート対応状況判定手段と、前記高速フレームレート対応状況判定手段により判定した前記再生出力先の高速フレームレート対応状況と、前記高速フレームレートで録画された画像に対応して記録された当該画像の管理情報とをもとに、スローモーション再生を行う高精細モードと間引き通常再生を行う間引き再生モードとを切り替える再生モード切り替え手段とを備えたことを特徴とする。
【発明の効果】
【0006】
本発明によれば、高速撮像の映像ソースを録画し、高速フレームレートに対応していない出力先において再生する際に、自動的にハイライトシーンをスローモーション化して表示できるなど、高速撮像の映像ソースを有効活用した映像が得られる記録再生装置を実現できる効果がある。
【発明を実施するための最良の形態】
【0007】
(第1の実施の形態)
次の本発明の実施の形態について図面を参照して説明する。
図1は、本発明の第1の実施の形態の撮像装置の構成を示すブロック図である。
第1の実施の形態では、使用されるディスプレイが高速フレームレートに対応しているディスプレイへ移行するまでの過渡期に混在することになる高速フレームレート表示に対応したディスプレイと非対応なディスプレイ、ならびに撮影時の電力および記録媒体の容量への影響を考慮したものである。
【0008】
第1の実施の形態の撮像装置は、録画レートの通常TVレート(60fps)と高速なフレームレート(ここでは例として4倍の240fps)の切り替えを記録時に行う。
第1の実施の形態の撮像装置は、イメージャー駆動ドライバ1、電子撮像素子2、AFE(A/Dコンバータ)3、画像・音声処理ASIC4、マイク5、アナログアンプ6、スピーカ7、メモリ8、パネル駆動ドライバ9、LCDパネル10、操作部11、バッテリ12、電源管理IC13、外部記録メディア14、TV出力端子15、記録媒体21、プログラマブルRAM22、角速度センサ23、レンズ駆動ドライバ24、レンズ25およびシステムMPU26を備えている。
イメージャー駆動ドライバ1は、例えばCMOSにより構成された電子撮像素子2を駆動するための回路である。
電子撮像素子2は、CMOSにより構成された高速撮影の可能な撮像素子である。
AFE3は、電子撮像素子2のアナログフロントエンド回路でありA/Dコンバータなどを備えている。
画像・音声処理ASIC4は、画像信号および音声信号を処理する特定用途向け集積回路である。
マイク5は音声を検出し電気信号へ変換し出力する。
アナログアンプ6は、マイク5から出力された電気信号を増幅する回路である。
スピーカ7はアナログアンプ6において増幅した電気信号を機械的信号へ変換し音声として出力する。
メモリ8は各種データを記憶する回路である。
パネル駆動ドライバ9は、画像・音声処理ASIC4により処理した画像信号をもとにLCDパネル10の各画素を駆動する回路である。
操作部11は各種操作スイッチを備えている。
バッテリ12は、この撮像装置の各部へ供給される電力を発生させる。
電源管理IC13は、バッテリ12の状態と負荷状態を検出し、この撮像装置の電源を管理する回路である。
外部記録メディア14は、この撮像装置で撮像された映像を外部保存する記録装置である。
TV出力端子15は、この撮像装置で撮像された映像や外部記録メディア14に記録された映像を外部のディスプレイによりモニタするための出力端子である。
記録媒体21は、この撮像装置に内蔵された記憶装置であり、撮像された映像や音声を保存する。
プログラマブルRAM22は、この撮像装置で必要な各種ロジックを構成している。
角速度センサ23は、この撮像装置における手ブレ防止機能を実現するためのセンサであり、撮像装置が動いたときの角速度を検出する。
レンズ駆動ドライバ24は、レンズ駆動信号をもとにレンズ25を駆動する回路である。
システムMPU26は、この撮像装置の各部を制御するマイクロプロセッシングユニットである。
【0009】
次に動作について説明する。
システムMPU26は、動画撮影時、パネル駆動ドライバ9に対して高速なフレームレートに対応した駆動パルスを送り、電子撮像素子2を高速モードで駆動する。
AFE3、画像・音声処理ASIC4も高速対応の駆動で信号をディジタル変換し、電子撮像素子2からの信号に対し色処理、各ノイズ、レンズ補正処理といった処理を行い、高速レートのまま圧縮処理をかけ、システムMPU26を介して外部メディア14に記録する。その際マイク5から入力される音声はディジタルサンプリングが施された後、圧縮され、高速フレームレートの動画に同期して記録される。
通常レートの撮影時は電子撮像素子2の消費電力等も考慮し、駆動パルスの周波数そのものを下げ通常モードで駆動する。
画像は時間方向の詳細さは失われるが、撮影される動画もすべてフレームレートが下がるため消費電力、記録媒体の容量への負担が少ないなどのメリットが生じる。
なお、2つの駆動モードの切り替え時に露光時間が異なるが画像・音声処理ASIC4にてゲインを調整することで同じ露光で録画される。
【0010】
従来のTVや機器に備わったLCDパネル等では60fpsまでの再生しか対応していない。このようなディスプレイでは図1に示す撮像装置から240fpsの動画を出力しても表示することはできない。
これに対しディスプレイ側が高速フレームレートに対応可能な場合は、撮像装置から240fpsの映像を出力し、リアルタイムですべての画像を表示することが可能である。
したがって、従来の高速フレームレート非対応のTVに対しては、撮像装置側で備えている高速フレームレートの撮像機能の用途として、例えば1秒の画像(240枚)を撮影時間の1/4の60fpsで4秒間かけて出力する詳細再生モードを持つことによりなめらかで高精細なスロー再生をすることが可能となるが、前述の通り撮像装置における電力、媒体容量の都合上、通常撮影すべてを高速フレームレートで撮影することは現実的ではない。
【0011】
そこで第1の実施の形態の撮像装置は、撮影時に撮像装置側で得られる情報をもとにハイライトシーンを判別するためのイベントの発生を検出するイベント検出手段と、前記検出したイベントをもとに自動でハイライトシーンを判別し、撮影フレームレートを動的に切り替えることで撮影フレームレートの切り替え操作に要する手間を省き、消費電力と媒体容量を節約しつつ、ハイライトシーンのスローモーション映像効果を自動的に作成できるようにする撮影フレームレート切り替え手段を備える。
なお、これらイベント検出手段および撮影フレームレート切り替え手段はシステムMPU26により実現されている。
図2は、この撮像装置において撮影した映像を録画する録画モードでの高速フレームレートによる撮影と通常速度フレームレートによる撮影の切り替え動作を示すフローチャートである。
図2のフローチャートに示すように、高速フレームレートで駆動するモードであるか否かを判定し(ステップS1)、高速フレームレートモードが選択されていれば240fpsでの高速フレームレートによる撮影を行う(ステップS3)。また、非高速フレームレートモード、つまり通常速度フレームレートが選択されていれば60fpsでの通常速度フレームレートによる撮影を行う(ステップS2)。
この録画モードでは録画時の撮像機器の情況に応じ撮像する際のフレームレートの切り替えが自動的に行われる。この場合、録画時に入力された画像、手ブレ補正用のセンサ(ここでは角速度センサ23)出力、機器の操作情況、マイク等からの入力される信号を含む、撮影時の撮像装置側で得られる情報をもとにハイライトシーンを判別するためのイベントの発生を検出し、撮影する際のフレームレートの切り替えを自動的に行う。
録画時に入力された画像とは、例えば画像処理ASICにて前後のフレームのRGB情報から差分演算を行うことにより、前後の変化が大きいか否かの判定をあらかじめ定められた閾値との比較をすることにより行う。その結果、機器側にて閾値よりも差分画像が大きい場合ハイライトシーンとして高速フレームレートにて撮影する。
その際入力画像以外に手ブレ補正用のセンサ(ここでは角速度センサ23)やズームレンズ等の駆動情況を用いてパン・チルト、ズーム操作等の撮影者の操作による画像変化をシーンチェンジのトリガとして、上記ハイライトシーンから切り分けることによりハイライトシーンの認識率向上を図る。これによりユーザは意識することなく再生時に動きの激しい部分をハイライトとしてスローモーション観賞することが可能である。
【0012】
図3は、このような動きの激しい部分をハイライトシーンとしてスローモーション観賞できる撮像装置の録画動作を示すフローチャートである。
図3に示すフローチャートは、図2のフローチャートに示すステップS1の高速フレームレートモードであるか否かの判定処理の詳細を示している。
図3に示すフローチャートによれば、先ずズームレンズ等の駆動情況を判定しズーム(ZOOM)作動中であるか否かを判定する(ステップS12)。そして、ズーム作動中であれば、通常速度フレームレートによる撮影を選択する(ステップS16)。
ステップS12においてズーム作動中でなければ、次に角速度センサ23の出力をもとにこの撮像装置に加えられている角速度の大きさが大きいか否かを、例えば予め設定されている閾値をもとに判定する(ステップS13)。この結果、角速度センサ23により検出された角速度の大きさが大きい場合には、通常速度フレームレートによる撮影を選択する(ステップS16)。
ステップS13において角速度の大きさが小さいと判定した場合には、次に画像処理ASICにて前後のフレームのRGB情報から差分演算を行うことにより、前後の変化が小さいか否かの判定をあらかじめ定められた閾値との比較をすることにより行う(ステップS14)。その結果、撮像装置側において閾値よりも差分画像が小さい場合には通常速度フレームレートによる撮影を選択する(ステップS16)。
ステップS14において閾値よりも差分画像が大きい場合にはハイライトシーンとして高速フレームレートにて撮影する(ステップS15)。
【0013】
また、上記条件と合わせて例えば音声用のマイクレベルの入力をトリガとして(例えば音声認識をトリガとする)一定時間高速フレームにて撮像することにより、例えば運動会等のレースシーンにおいてスタートシーンをハイライト化することが可能である。
また通常の操作釦に合わせて高速フレームレートフラグの設定を行うことにより、例えば録画開始のレリーズ釦の長押しをトリガとしてフラグをオンすることにより通常撮影動作の延長で高速フレームレート撮影することが可能である。
【0014】
図4は、第1の実施の形態の撮像装置における録画フレームと再生フレームとの関係を示す説明図である。
図4(a)は、モニタするディスプレイが高速フレームレートに対応していないとき通常シーンについて記録する際のフレームと再生するフレームとの関係を示している。つまり、モニタするディスプレイが高速フレームレートに対応しておらず、また録画するシーンが通常シーンであることから、録画するフレームは、1/60秒間隔で撮像装置が通常速度フレームレートで撮影したフレーム番号〔0,4,8,12……〕の映像である。そして、再生する映像については、前記録画したフレーム番号〔0,4,8,12……〕のフレームを1/60秒間隔で再生した映像である。
図4(b)は、モニタするディスプレイが高速フレームレートに対応していないときのハイライトシーンについて記録する際のフレームと再生するフレームとの関係を示している。
つまり、録画するシーンがハイライトシーンであることから、録画するフレームは、1/240秒間隔で撮像装置が高速フレームレートで撮影したフレーム番号〔0,1,2,3,4,5,6,7,8……〕の映像である。そして、再生する映像については、モニタするディスプレイが高速フレームレートに対応していないため、前記録画したフレーム番号〔0,1,2,3,4,5,6,7,8……〕のフレームを1/60秒間隔で再生した映像である。
【0015】
また第1の実施の形態で撮影したフレームレートの混在する映像の高速フレームレートに対応したディスプレイ向けの用途として別に240fpsの高精細モードを設ける。
この高精細モードにおいては撮像装置は通常撮影のデータ(ここでは60fps)出力時には4枚連続して同じフレームを出力し、高速フレームレートの動画についてはそのまま出力することでハイライトシーンは時間軸方向で詳細に出力可能となり動きボケなどを防止できる高精細な画像が得られる。
図5は、この高精細な画像が得られる高精細モードとハイライトシーン強調スローモードの切り替え動作を示すフローチャートである。
ハイライトシーン強調スローモードは、出力先のディスプレイが高速フレームレートに対応していないとき、ハイライトシーンが1/60秒間隔のフレームによりスローモーションで強調された映像が再生出力される。
図5に示すフローチャートによれば、先ず映像の出力先のディスプレイが高速フレームレートに対応しているか否かを判定する(ステップS22)。この判定は、例えばユーザが出力先のディスプレイが高速フレームレートに対応しているか否かを判断し、操作部11を介して入力する。この結果、ステップS22において出力先のディスプレイが高速フレームレートに対応していると判定したときには前記高精細モードへ移行する(ステップS24)。一方、ステップS22において高速フレームレートに対応していないと判定したときには前記ハイライトシーン強調スローモードへ移行し、ハイライトシーンが1/60秒間隔のフレームによるスローモーションで強調された映像が再生出力される(ステップS24)。
【0016】
図6は、高精細モードにおける録画フレームと再生フレームとの関係を示す説明図である。
図6(a)に示すように、60fpsで通常撮影した通常シーンの再生時には4枚連続して同じフレームを1/240秒間隔で出力する。このとき2枚目から4枚目のフレームは最初の1枚目のフレームと同一のダミーフレームである。
また、図6(b)に示すように240fpsで高速撮影したハイライトシーンの再生時には、240fpsで録画されているハイライトシーンのフレームをそのまま出力する。
この結果、消費電力および記憶媒体へ記憶されるデータ量の抑制を実現しつつ、通常シーンおよびハイライトシーン共に、動きボケなどを防止できる高精細な画像が得られ、時間軸方向で詳細な映像を出力することが可能となる。
なおディスプレイが高速対応可能かどうかは前述したようにユーザ設定もしくはケーブル接続時に電気的もしくは制御信号で判断可能である。
【0017】
図7は、60fpsで通常撮影した映像と、240fpsで高速撮影した映像が混在して録画されるパーシャルフレームレート動画ファイル構造を示す説明図である。
図7に示すように、このパーシャルフレームレート動画ファイル構造では60fpsで通常撮影した映像と、240fpsで高速撮影した映像が混在して録画される。
図8は、再生される映像をモニタするディスプレイが高速フレームレートに対応していないときの、パーシャルフレームレート動画ファイル構造により通常撮影または高速撮影された映像の録画フレームと再生フレームとの関係を示す説明図である。
図9は、再生される映像をモニタするディスプレイが高速フレームレートに対応しているときの、パーシャルフレームレート動画ファイル構造により通常撮影または高速撮影された映像の録画フレームと再生フレームとの関係を示す説明図である。
図8に示すように、60fpsで通常撮影した映像と、240fpsで高速撮影した映像が混在して録画される。このとき、図3に示すような各種条件をトリガとして高速撮影されるタイミングが自動的に決定される。また、再生時には通常撮影した映像と高速撮影した映像とが混在している画像が1/60秒間隔のフレームにより再生される。したがって、再生される映像をモニタするディスプレイが高速フレームレートに対応していないとき、再生される高速撮影した映像は時間的に4倍に引き延ばされたスローモーション映像となる。図3に示すような各種条件をトリガとして自動的に高速撮影されたハイライトシーンが再生時においては時間的に4倍に引き延ばされたスローモーション映像としてディスプレイに出力される。
また、再生される映像をモニタするディスプレイが高速フレームレートに対応しているときには、図9に示すように、60fpsで通常撮影した映像は、再生時にはダミーフレームにより4枚連続して同じフレームを1/240秒間隔で出力する。また、240fpsで高速撮影した映像については、録画されているフレームを1/240秒間隔でそのまま出力する。
【0018】
以上説明したように、第1の実施の形態によれば、例えばズーム作動中でなければ、次に角速度センサ23の出力をもとにこの撮像装置に加えられている角速度の大きさが大きいか否かを、予め設定されている閾値をもとに判定する。この結果、角速度センサ23により検出された角速度が前記閾値より大きい場合には、通常速度フレームレートによる撮影を選択する。また、角速度の大きさが前記閾値より小さいと判定した場合には、次に画像処理ASICにて前後のフレームのRGB情報から差分演算を行うことにより、前記フレームの前後の変化が小さいか否かの判定をあらかじめ定められた閾値との比較をすることにより行う。その結果、撮像装置側において差分画像が前記閾値よりも小さい場合には通常速度フレームレートによる撮影を選択する。また、前記差分画像が前記閾値よりも大きい場合にはハイライトシーンとして高速フレームレートにて撮影する。
この結果、ハイライトシーンについてのみ高速フレームレートによる撮影が行われるため、消費電力と記憶媒体の容量が節約され、さらに撮影フレームレートの切り替え操作に要する手間が不要となる。
言い換えると、第1の実施の形態によれば、高速撮像と通常撮像の両方の記録が可能な撮像機器において詳細な画像が必要なハイライトシーンで自動的に撮影フレームレートを切り替えることが可能になる。この結果、消費電力と媒体の容量に負担をかけることなく少ない負荷で適所に高精細な動画撮影を実現できる撮像装置が得られる効果がある。
また、再生時に出力側のディスプレイに合わせて出力フレームレートの変換を行うことで、従来の高速フレームレートに対応していない低速なディスプレイに対しては再生時に高速フレームレートシーンをスロー化することが可能となり、映像効果として高速撮像データを有効活用できる。また、高速フレームレートに対応している高速表示可能なディスプレイに対しては通常速度フレームレートと高速フレームレートの混在する画像を時間方向に精細さを保ちつつリアルタイムに出力することが可能になる撮像装置が得られる効果がある。
【0019】
(第2の実施の形態)
次に、本発明の第2の実施の形態の記録再生装置について説明する。
第2の実施の形態の記録再生装置は実施例1の撮像装置が備えている。したがって、図1のブロック図は第2の実施の形態の記録再生装置においても適用される。
第2の実施の形態では、今後過渡的に混在する高速フレームレート表示可能なディスプレイと高速フレームレートに対応していないディスプレイを考慮し、録画時のフレームレートは通常のテレビジョン装置で用いられているフレームレートよりも早い高速フレームレート(ここでは一例として4倍の240fps)で記録し、再生出力時に出力先のディスプレイの高速フレームレートの対応状況に応じて出力する画像のフレームレートを調整可能にする。
このため、画像の出力先の高速フレームレート対応状況を判定する高速フレームレート対応状況判定手段を備えている。また、前記高速フレームレート対応状況判定手段により判定した前記出力先の高速フレームレート対応状況と、前記高速フレームレートで録画された画像に対応して記録された当該画像の管理情報とをもとに、スローモーション再生を行う高精細モードと間引き通常再生を行う間引き再生モードとを切り替える再生モード切り替え手段を備えている。さらに、撮影中のハイライトシーンを判別する撮像装置側におけるイベントの発生を検出するイベント検出手段を備えている。これら高速フレームレート対応状況判定手段、再生モード切り替え手段、イベント検出手段はシステムMPU26により実現されている。
【0020】
第2の実施の形態の記録再生装置を備えた撮像装置は、図1に示すようにイメージャー駆動ドライバ1、電子撮像素子2、AFE(A/Dコンバータ)3、画像・音声処理ASIC4、マイク5、アナログアンプ6、スピーカ7、メモリ8、パネル駆動ドライバ9、LCDパネル10、操作部11、バッテリ12、電源管理IC13、外部記録メディア14、TV出力端子15、記録媒体21、プログラマブルRAM22、角速度センサ23、レンズ駆動ドライバ24、レンズ25およびシステムMPU26を備えている。
イメージャー駆動ドライバ1は、例えばCMOSにより構成された電子撮像素子2を駆動するためのドライバである。
電子撮像素子2は、CMOSにより構成された高速撮影の可能な撮像素子である。
AFE3は、電子撮像素子2のアナログフロントエンド回路でありA/Dコンバータなどを備えている。
画像・音声処理ASIC4は、画像信号および音声信号を処理する特定用途向け集積回路である。マイク5は音声を検出し電気信号へ変換し出力する。
アナログアンプ6は、マイク5から出力された電気信号を増幅する回路である。
スピーカ7はアナログアンプ6において増幅した電気信号を機械的振動へ変換し音として出力する。
メモリ8は各種データを記憶する回路である。
パネル駆動ドライバ9は、画像・音声処理ASIC4により処理した画像信号をもとにLCDパネル10の各画素を駆動する回路である。
操作部11は各種操作スイッチを備えている。バッテリ12は、この撮像装置の各部へ供給される電力を発生させる。
電源管理IC13は、バッテリ12の状態と負荷状態を検出し、この撮像装置の電源を管理する回路である。
外部記録メディア14は、この撮像装置で撮像された映像を外部保存する記録装置である。
TV出力端子15は、この撮像装置で撮像された映像や外部記録メディア14に記録された映像をモニタするためのディスプレイへ出力する端子である。
記録媒体21は、この撮像装置に内蔵された記憶装置であり、撮像された映像や音声を保存する。
プログラマブルRAM22は、この撮像装置で必要な各種ロジックを構成している。
角速度センサ23は、この撮像装置における手ブレ防止機能を実現するためのセンサであり、撮像装置が動いたときの角速度を検出する。
レンズ駆動ドライバ24は、レンズ駆動信号をもとにレンズ25を駆動する回路である。
システムMPU26は、この撮像装置の各部を制御するマイクロプロセッシングユニットである。
【0021】
次に動作について説明する。
動画撮影時、システムMPU26はパネル駆動ドライバ9に対して高速なフレームレートに対応した駆動パルスを送り、電子撮像素子2を高速モードで駆動する。
AFE3、画像・音声処理ASIC4も高速対応の駆動で信号をディジタル変換し、電子撮像素子2からの信号を色処理、各ノイズ、レンズ補正処理といった処理を行い、高速レートのまま圧縮処理をかけ、システムMPU26を介して外部メディア14に記録する。
その際マイク5から入力される音声はディジタルサンプリングが施された後、圧縮され、高速フレームレートの動画に同期して記録される。
【0022】
図10は、第2の実施の形態の記録再生装置において媒体記録されるファイルフォーマットの一例を示す説明図である。
図10に示すように、ここでは映像情報31や音声情報32とは別に管理情報33をメディアに記録する。なお図10に示す例ではファイル単位で管理情報を持つように構成したが、これに限定されるものではない。
記録される管理情報には、日付やそれ以外の撮像装置側の情報などが記録される。第2の実施の形態の特徴として、再生時のフレームレート切り替え情報が管理情報33として映像の時間軸に関連して付記される。なお、ユーザは撮影時もしくは再生時に任意に前記管理情報33のフレームレート切り替え情報(フラグ)を変更することが可能である。
従来のテレビジョン装置や機器に備わったLCDパネル等のディスプレイでは60fpsまでの再生しか対応していないため、図1に示す撮像装置の記録再生装置から240fpsのフレームレートで動画を出力しても表示することはできない。ディスプレイ側が高速フレームレートに対応可能な場合は図1に示す撮像装置の記録再生装置から240fpsの映像を出力しリアルタイムですべての画像を表示することが可能である。
そこで第2の実施の形態では高速フレームレートに対応したディスプレイ向けの機能として240fpsの高速出力を可能とする機能を有している。
しかし、従来の60fpsまでのディスプレイとの接続時は、相手のディスプレイにおいて240fpsの対応ができないためすべてのフレーム表示用として再生時に画像処理ASIC4上で240fpsから60fpsへのフレームの間引きを行うことにより通常の60fpsの動画として再生、出力する間引き再生モードを有している。これに加え、例えば240fpsの高速フレームレートで撮像され録画された画像(240枚)を撮影時間の1/4の60fpsで4秒間かけて出力することによりなめらかで高精細なスローモーション再生を可能にする高精細モードを有している。
【0023】
図11は、このような高速表示に対応していないディスプレイへの出力モードの詳細を示す説明図である。
図12は、出力先が高速フレームレートに対応したディスプレイであるか否かに応じた、再生時のマニュアル操作によるフレームレートの選択動作を示すフローチャートである。
第2の実施の形態では、図12のフローチャートに示すように、再生モードが選択されると(ステップS51)、出力先が240fps対応ディスプレイであるか、あるいは240fps非対応ディスプレイであるかに応じたマニュアル操作により出力モードが選択可能である(ステップS52)。すなわち、このマニュアル操作の結果、出力先が240fps対応ディスプレイであるときには、高速フレームレートに対応した240fpsの高速フレームレートでの出力を行うことが可能である(ステップS54)。
また、240fps非対応ディスプレイである場合には、さらにマニュアル操作により設定された高速フレームレート出力フラグのオン、オフに応じて(ステップS53)、高速フレームレート出力フラグがオフのとき、画像処理ASIC4上で240fpsから60fpsへの間引きを行うことにより通常の60fpsの動画として再生、出力する間引き再生モードが選択される(ステップS56)。また、前記高速フレームレート出力フラグがオンのとき、例えば1秒間の画像(240枚)を撮影時間の1/4の60fpsにて4秒間かけてスローモーション映像として出力する高精細モードが選択され、なめらかで高精細なスロー再生を行う(ステップS55)。
【0024】
さらに、第2の実施の形態ではマニュアルによるフレームレートの切り替え機能の他に、従来ディスプレイ向けの臨場感を高めるモードとしてユーザの付記した動画上の高速フレームレート切り替えフラグ情報などの管理情報33をもとに自動でスローモーション再生を行う高精細モードと間引き通常再生を行う間引き再生モードとを切り替える。これにより、簡単に時間軸方向に精細感のあるスローモーション映像効果として楽しむことができる。
図13は、出力先の高速フレームレート対応状況に応じたフラグにより60fps出力の再生モードが自動判別されたときの、管理情報33の高速フレームレート切り替え情報をもとに自動的に行われる前記高精細モードと前記間引き再生モードとの切り替え動作を示すフローチャートである。
この高精細モードと間引き再生モードとの自動切り替えにおいては、60fps出力の再生モードがフラグにより自動判別されて選択されると(ステップS61)、再生フレーム毎に前述の管理情報33から高速フレームレート切り替え情報のフラグを参照し(ステップS62)、このフラグに応じて出力画像の間引きのオン/オフの切り替え、または前記スローモーション再生処理を再生時にリアルタイムで行う(ステップS63、ステップS64)。
【0025】
また、第2の実施の形態では録画時の撮像装置の状況に応じて自動で高速フレームレートのフラグの切り替えを行う高速フレームレート切り替えフラグ自動生成モードも選択可能である。
図14は、この高速フレームレート切り替えフラグ自動生成モードの動作を示すフローチャートである。
図14のフローチャートに示すように、録画時にこの高速フレームレート切り替えフラグ自動生成モードが選択された場合(ステップS71)、入力された画像および手ブレ補正用のセンサ(ここでは角速度センサ23)(ステップS73)や、機器の操作情況(ステップS72、ステップS74)、マイク5等からの入力される信号をもとに高速フレームレート切り替えフラグの自動生成を行う(ステップS75、S76)。
この高速フレームレート切り替えフラグは管理情報33として図10に示す映像記録データ31、音声記録データ32と対応して記録される。
例えば、図14のステップ75に示すように、画像・音声処理ASIC4にて前後のフレームの差分演算を行うことにより、前後の変化の大きさをあらかじめ定められた閾値と比較をすることによって撮像装置側にてスロー出力がより効果的となるハイライトシーンとして高速フレームレート切り替えフラグをオンにする。
その際入力画像以外に手ブレ補正用のセンサ(ここでは角速度センサ23)やズームレンズの駆動情況を用いてパン・チルト、ズーム操作等の撮影者の操作による画像変化をシーンチェンジとして、上記ハイライトシーンから切り分けることにより認識率向上を図ることが可能である。これによりユーザは意識することなく再生時に動きの激しい部分をハイライトシーンとしてスローモーションで観賞することが可能である。
【0026】
また、上記した認識率向上を図るための各種条件と合わせて例えば音声用のマイクレベルの入力をトリガとして(例えば音声認識をトリガとすることも可能である)一定時間高速フレームレートをオンにする設定を行うことにより、例えば運動会等のレースシーンにおいてスタートシーンをハイライト化することが可能である。
また、通常の操作釦に合わせて高速フレームレートフラグの設定を行うことも可能であり、例えば録画開始のレリーズ釦の長押しをトリガとして高速フレームレート切り替えフラグをオンすることにより通常撮影動作の延長でハイライトシーンを設定することが可能である。
【0027】
以上説明したように、第2の実施の形態によれば、例えば60fpsまでの高速フレームレート非対応のディスプレイとの接続時は、相手のディスプレイにおいて240fpsの高速フレームレートに対応できないためすべてのフレーム表示用として再生時に画像処理ASIC4上で240fpsから60fpsへのフレームの間引きを行うことにより通常の60fpsの動画として再生、出力する間引き再生モードを有している。また、例えば240fpsの高速フレームレートで撮像され録画された画像(240枚)を撮影時間の1/4の60fpsで4秒間かけて出力することによりなめらかで高精細なスローモーション再生を可能にする高精細モードを有している。この結果、高速フレームレートに対応していない出力先において再生する際に、自動的にハイライトシーンをスローモーション化して表示できるなど、高速撮像の映像ソースを有効活用できる。
言い換えると、第2の実施の形態によれば、高速撮像の映像ソースを録画し、高速表示が不可能なディスプレイにおいて再生する際にハイライトシーンをスローモーション化して表示することのできる記録再生装置が得られる効果がある。
また、マニュアルで高速なフレームレート出力を設定するとスローモーション再生を選ぶ手間が発生するが、録画時にユーザが従来の操作性の延長でハイライト部を指定することが可能である。
また、カメラの入力、操作情報から自動でハイライトシーンの検出を行い、管理情報に出力時のフレームレートの情報を記録することによって、再生時に特に設定しなくともハイライトシーンをなめらかにスローモーション再生することが可能になり、高速撮像の映像ソースを有効活用した映像が得られる記録再生装置を実現できる効果がある。
【図面の簡単な説明】
【0028】
【図1】本発明の実施例1の撮像装置の構成を示すブロック図である。
【図2】本発明の実施例1の撮像装置における録画モードでの高速フレームレートによる撮影と通常速度フレームレートによる撮影の切り替え動作を示すフローチャートである。
【図3】本発明の実施例1のハイライトシーンとしてスロー観賞できる撮像装置の録画動作を示すフローチャートである。
【図4】ディスプレイが高速フレームレート非対応であるときの本発明の実施例1の撮像装置における録画フレームと再生フレームとの関係を示す説明図である。
【図5】本発明の実施例1の撮像装置における高精細モードとハイライトシーン強調スローモードの切り替え動作を示すフローチャートである。
【図6】ディスプレイが高速フレームレート対応であるときの本発明の実施例1の撮像装置における録画フレームと再生フレームとの関係を示す説明図である。
【図7】本発明の実施例1の撮像装置におけるパーシャルフレームレート動画ファイル構造を示す説明図である。
【図8】ディスプレイが高速フレームレートに対応していないときの、パーシャルフレームレート動画ファイル構造により通常撮影または高速撮影された映像の録画フレームと再生フレームとの関係を示す説明図である。
【図9】ディスプレイが高速フレームレートに対応しているときの、パーシャルフレームレート動画ファイル構造により通常撮影または高速撮影された映像の録画フレームと再生フレームとの関係を示す説明図である。
【図10】本発明の第2の実施の形態の記録再生装置において媒体記録されるファイルフォーマットを示す説明図である。
【図11】高速表示に対応していないディスプレイへの出力モードの詳細を示す説明図である。
【図12】本発明の第2の実施の形態の記録再生装置における出力先が高速フレームレートに対応したディスプレイであるか否かに応じた出力モードの選択動作を示すフローチャートである。
【図13】本発明の第2の実施の形態の記録再生装置において管理情報をもとに自動的に行われる高精細モードと間引き再生モードとの切り替え動作を示すフローチャートである。
【図14】本発明の第2の実施の形態の記録再生装置における高速フレームレートフラグ自動生成モードの動作を示すフローチャートである。
【符号の説明】
【0029】
26……システムMPU(高速フレームレート対応状況判定手段、再生モード切り替え手段、イベント検出手段)。
【技術分野】
【0001】
本発明は、高速フレームレート機能を活かした映像効果が得られる記録再生装置に関する。
【背景技術】
【0002】
従来の記録再生装置においては、再生を行う際の出力先のディスプレイが高速フレームレート非対応の場合、スロー画像となり音声が追従せず、さらに操作方法が煩雑となるなどの問題点があり、主に産業、放送業界など使用される分野が限定される。
しかしながら、近年のCCDからCMOSへの撮像素子のトレンドの変化や、放送のハイビジョン対応による撮像素子、撮像システムの高速化といった技術により民生用の撮像装置においても解像度を限定することで高速なフレームレートでの撮像環境が実現されている。
このような撮像環境において得られた映像を再生する記録再生装置として、高画質なスローモーション記録と通常記録とを切り替え可能にしたものがある(特許文献1参照)。
【特許文献1】特開2001−292409号公報
【発明の開示】
【発明が解決しようとする課題】
【0003】
このような従来の記録再生装置においては、出力先のディスプレイが高速フレームレートに対応しているか、あるいは通常速度フレームレートに対応しているかなどの、出力先のディスプレイの高速フレームレート対応環境に応じた出力画像の出力フレームレートの調整、および出力画像を出力先のディスプレイで表示する際の表示フレームレートの調整ができないという課題があった。
【0004】
本発明は、このような事情に鑑みてなされたものであり、その目的は、出力先が高速フレームレートに対応しているか通常速度フレームレートに対応しているかに応じて、画像を出力する際の出力フレームレートの調整および画像を表示する際の表示フレームレートの調整が可能な記録再生装置を提供することを目的とする。
【課題を解決するための手段】
【0005】
上述の目的を達成するため、本発明にかかる記録再生装置は、高速フレームレートで録画された画像の再生出力時におけるフレームレートを調整可能にした記録再生装置であって、前記画像の再生出力先の高速フレームレート対応状況を判定する高速フレームレート対応状況判定手段と、前記高速フレームレート対応状況判定手段により判定した前記再生出力先の高速フレームレート対応状況と、前記高速フレームレートで録画された画像に対応して記録された当該画像の管理情報とをもとに、スローモーション再生を行う高精細モードと間引き通常再生を行う間引き再生モードとを切り替える再生モード切り替え手段とを備えたことを特徴とする。
【発明の効果】
【0006】
本発明によれば、高速撮像の映像ソースを録画し、高速フレームレートに対応していない出力先において再生する際に、自動的にハイライトシーンをスローモーション化して表示できるなど、高速撮像の映像ソースを有効活用した映像が得られる記録再生装置を実現できる効果がある。
【発明を実施するための最良の形態】
【0007】
(第1の実施の形態)
次の本発明の実施の形態について図面を参照して説明する。
図1は、本発明の第1の実施の形態の撮像装置の構成を示すブロック図である。
第1の実施の形態では、使用されるディスプレイが高速フレームレートに対応しているディスプレイへ移行するまでの過渡期に混在することになる高速フレームレート表示に対応したディスプレイと非対応なディスプレイ、ならびに撮影時の電力および記録媒体の容量への影響を考慮したものである。
【0008】
第1の実施の形態の撮像装置は、録画レートの通常TVレート(60fps)と高速なフレームレート(ここでは例として4倍の240fps)の切り替えを記録時に行う。
第1の実施の形態の撮像装置は、イメージャー駆動ドライバ1、電子撮像素子2、AFE(A/Dコンバータ)3、画像・音声処理ASIC4、マイク5、アナログアンプ6、スピーカ7、メモリ8、パネル駆動ドライバ9、LCDパネル10、操作部11、バッテリ12、電源管理IC13、外部記録メディア14、TV出力端子15、記録媒体21、プログラマブルRAM22、角速度センサ23、レンズ駆動ドライバ24、レンズ25およびシステムMPU26を備えている。
イメージャー駆動ドライバ1は、例えばCMOSにより構成された電子撮像素子2を駆動するための回路である。
電子撮像素子2は、CMOSにより構成された高速撮影の可能な撮像素子である。
AFE3は、電子撮像素子2のアナログフロントエンド回路でありA/Dコンバータなどを備えている。
画像・音声処理ASIC4は、画像信号および音声信号を処理する特定用途向け集積回路である。
マイク5は音声を検出し電気信号へ変換し出力する。
アナログアンプ6は、マイク5から出力された電気信号を増幅する回路である。
スピーカ7はアナログアンプ6において増幅した電気信号を機械的信号へ変換し音声として出力する。
メモリ8は各種データを記憶する回路である。
パネル駆動ドライバ9は、画像・音声処理ASIC4により処理した画像信号をもとにLCDパネル10の各画素を駆動する回路である。
操作部11は各種操作スイッチを備えている。
バッテリ12は、この撮像装置の各部へ供給される電力を発生させる。
電源管理IC13は、バッテリ12の状態と負荷状態を検出し、この撮像装置の電源を管理する回路である。
外部記録メディア14は、この撮像装置で撮像された映像を外部保存する記録装置である。
TV出力端子15は、この撮像装置で撮像された映像や外部記録メディア14に記録された映像を外部のディスプレイによりモニタするための出力端子である。
記録媒体21は、この撮像装置に内蔵された記憶装置であり、撮像された映像や音声を保存する。
プログラマブルRAM22は、この撮像装置で必要な各種ロジックを構成している。
角速度センサ23は、この撮像装置における手ブレ防止機能を実現するためのセンサであり、撮像装置が動いたときの角速度を検出する。
レンズ駆動ドライバ24は、レンズ駆動信号をもとにレンズ25を駆動する回路である。
システムMPU26は、この撮像装置の各部を制御するマイクロプロセッシングユニットである。
【0009】
次に動作について説明する。
システムMPU26は、動画撮影時、パネル駆動ドライバ9に対して高速なフレームレートに対応した駆動パルスを送り、電子撮像素子2を高速モードで駆動する。
AFE3、画像・音声処理ASIC4も高速対応の駆動で信号をディジタル変換し、電子撮像素子2からの信号に対し色処理、各ノイズ、レンズ補正処理といった処理を行い、高速レートのまま圧縮処理をかけ、システムMPU26を介して外部メディア14に記録する。その際マイク5から入力される音声はディジタルサンプリングが施された後、圧縮され、高速フレームレートの動画に同期して記録される。
通常レートの撮影時は電子撮像素子2の消費電力等も考慮し、駆動パルスの周波数そのものを下げ通常モードで駆動する。
画像は時間方向の詳細さは失われるが、撮影される動画もすべてフレームレートが下がるため消費電力、記録媒体の容量への負担が少ないなどのメリットが生じる。
なお、2つの駆動モードの切り替え時に露光時間が異なるが画像・音声処理ASIC4にてゲインを調整することで同じ露光で録画される。
【0010】
従来のTVや機器に備わったLCDパネル等では60fpsまでの再生しか対応していない。このようなディスプレイでは図1に示す撮像装置から240fpsの動画を出力しても表示することはできない。
これに対しディスプレイ側が高速フレームレートに対応可能な場合は、撮像装置から240fpsの映像を出力し、リアルタイムですべての画像を表示することが可能である。
したがって、従来の高速フレームレート非対応のTVに対しては、撮像装置側で備えている高速フレームレートの撮像機能の用途として、例えば1秒の画像(240枚)を撮影時間の1/4の60fpsで4秒間かけて出力する詳細再生モードを持つことによりなめらかで高精細なスロー再生をすることが可能となるが、前述の通り撮像装置における電力、媒体容量の都合上、通常撮影すべてを高速フレームレートで撮影することは現実的ではない。
【0011】
そこで第1の実施の形態の撮像装置は、撮影時に撮像装置側で得られる情報をもとにハイライトシーンを判別するためのイベントの発生を検出するイベント検出手段と、前記検出したイベントをもとに自動でハイライトシーンを判別し、撮影フレームレートを動的に切り替えることで撮影フレームレートの切り替え操作に要する手間を省き、消費電力と媒体容量を節約しつつ、ハイライトシーンのスローモーション映像効果を自動的に作成できるようにする撮影フレームレート切り替え手段を備える。
なお、これらイベント検出手段および撮影フレームレート切り替え手段はシステムMPU26により実現されている。
図2は、この撮像装置において撮影した映像を録画する録画モードでの高速フレームレートによる撮影と通常速度フレームレートによる撮影の切り替え動作を示すフローチャートである。
図2のフローチャートに示すように、高速フレームレートで駆動するモードであるか否かを判定し(ステップS1)、高速フレームレートモードが選択されていれば240fpsでの高速フレームレートによる撮影を行う(ステップS3)。また、非高速フレームレートモード、つまり通常速度フレームレートが選択されていれば60fpsでの通常速度フレームレートによる撮影を行う(ステップS2)。
この録画モードでは録画時の撮像機器の情況に応じ撮像する際のフレームレートの切り替えが自動的に行われる。この場合、録画時に入力された画像、手ブレ補正用のセンサ(ここでは角速度センサ23)出力、機器の操作情況、マイク等からの入力される信号を含む、撮影時の撮像装置側で得られる情報をもとにハイライトシーンを判別するためのイベントの発生を検出し、撮影する際のフレームレートの切り替えを自動的に行う。
録画時に入力された画像とは、例えば画像処理ASICにて前後のフレームのRGB情報から差分演算を行うことにより、前後の変化が大きいか否かの判定をあらかじめ定められた閾値との比較をすることにより行う。その結果、機器側にて閾値よりも差分画像が大きい場合ハイライトシーンとして高速フレームレートにて撮影する。
その際入力画像以外に手ブレ補正用のセンサ(ここでは角速度センサ23)やズームレンズ等の駆動情況を用いてパン・チルト、ズーム操作等の撮影者の操作による画像変化をシーンチェンジのトリガとして、上記ハイライトシーンから切り分けることによりハイライトシーンの認識率向上を図る。これによりユーザは意識することなく再生時に動きの激しい部分をハイライトとしてスローモーション観賞することが可能である。
【0012】
図3は、このような動きの激しい部分をハイライトシーンとしてスローモーション観賞できる撮像装置の録画動作を示すフローチャートである。
図3に示すフローチャートは、図2のフローチャートに示すステップS1の高速フレームレートモードであるか否かの判定処理の詳細を示している。
図3に示すフローチャートによれば、先ずズームレンズ等の駆動情況を判定しズーム(ZOOM)作動中であるか否かを判定する(ステップS12)。そして、ズーム作動中であれば、通常速度フレームレートによる撮影を選択する(ステップS16)。
ステップS12においてズーム作動中でなければ、次に角速度センサ23の出力をもとにこの撮像装置に加えられている角速度の大きさが大きいか否かを、例えば予め設定されている閾値をもとに判定する(ステップS13)。この結果、角速度センサ23により検出された角速度の大きさが大きい場合には、通常速度フレームレートによる撮影を選択する(ステップS16)。
ステップS13において角速度の大きさが小さいと判定した場合には、次に画像処理ASICにて前後のフレームのRGB情報から差分演算を行うことにより、前後の変化が小さいか否かの判定をあらかじめ定められた閾値との比較をすることにより行う(ステップS14)。その結果、撮像装置側において閾値よりも差分画像が小さい場合には通常速度フレームレートによる撮影を選択する(ステップS16)。
ステップS14において閾値よりも差分画像が大きい場合にはハイライトシーンとして高速フレームレートにて撮影する(ステップS15)。
【0013】
また、上記条件と合わせて例えば音声用のマイクレベルの入力をトリガとして(例えば音声認識をトリガとする)一定時間高速フレームにて撮像することにより、例えば運動会等のレースシーンにおいてスタートシーンをハイライト化することが可能である。
また通常の操作釦に合わせて高速フレームレートフラグの設定を行うことにより、例えば録画開始のレリーズ釦の長押しをトリガとしてフラグをオンすることにより通常撮影動作の延長で高速フレームレート撮影することが可能である。
【0014】
図4は、第1の実施の形態の撮像装置における録画フレームと再生フレームとの関係を示す説明図である。
図4(a)は、モニタするディスプレイが高速フレームレートに対応していないとき通常シーンについて記録する際のフレームと再生するフレームとの関係を示している。つまり、モニタするディスプレイが高速フレームレートに対応しておらず、また録画するシーンが通常シーンであることから、録画するフレームは、1/60秒間隔で撮像装置が通常速度フレームレートで撮影したフレーム番号〔0,4,8,12……〕の映像である。そして、再生する映像については、前記録画したフレーム番号〔0,4,8,12……〕のフレームを1/60秒間隔で再生した映像である。
図4(b)は、モニタするディスプレイが高速フレームレートに対応していないときのハイライトシーンについて記録する際のフレームと再生するフレームとの関係を示している。
つまり、録画するシーンがハイライトシーンであることから、録画するフレームは、1/240秒間隔で撮像装置が高速フレームレートで撮影したフレーム番号〔0,1,2,3,4,5,6,7,8……〕の映像である。そして、再生する映像については、モニタするディスプレイが高速フレームレートに対応していないため、前記録画したフレーム番号〔0,1,2,3,4,5,6,7,8……〕のフレームを1/60秒間隔で再生した映像である。
【0015】
また第1の実施の形態で撮影したフレームレートの混在する映像の高速フレームレートに対応したディスプレイ向けの用途として別に240fpsの高精細モードを設ける。
この高精細モードにおいては撮像装置は通常撮影のデータ(ここでは60fps)出力時には4枚連続して同じフレームを出力し、高速フレームレートの動画についてはそのまま出力することでハイライトシーンは時間軸方向で詳細に出力可能となり動きボケなどを防止できる高精細な画像が得られる。
図5は、この高精細な画像が得られる高精細モードとハイライトシーン強調スローモードの切り替え動作を示すフローチャートである。
ハイライトシーン強調スローモードは、出力先のディスプレイが高速フレームレートに対応していないとき、ハイライトシーンが1/60秒間隔のフレームによりスローモーションで強調された映像が再生出力される。
図5に示すフローチャートによれば、先ず映像の出力先のディスプレイが高速フレームレートに対応しているか否かを判定する(ステップS22)。この判定は、例えばユーザが出力先のディスプレイが高速フレームレートに対応しているか否かを判断し、操作部11を介して入力する。この結果、ステップS22において出力先のディスプレイが高速フレームレートに対応していると判定したときには前記高精細モードへ移行する(ステップS24)。一方、ステップS22において高速フレームレートに対応していないと判定したときには前記ハイライトシーン強調スローモードへ移行し、ハイライトシーンが1/60秒間隔のフレームによるスローモーションで強調された映像が再生出力される(ステップS24)。
【0016】
図6は、高精細モードにおける録画フレームと再生フレームとの関係を示す説明図である。
図6(a)に示すように、60fpsで通常撮影した通常シーンの再生時には4枚連続して同じフレームを1/240秒間隔で出力する。このとき2枚目から4枚目のフレームは最初の1枚目のフレームと同一のダミーフレームである。
また、図6(b)に示すように240fpsで高速撮影したハイライトシーンの再生時には、240fpsで録画されているハイライトシーンのフレームをそのまま出力する。
この結果、消費電力および記憶媒体へ記憶されるデータ量の抑制を実現しつつ、通常シーンおよびハイライトシーン共に、動きボケなどを防止できる高精細な画像が得られ、時間軸方向で詳細な映像を出力することが可能となる。
なおディスプレイが高速対応可能かどうかは前述したようにユーザ設定もしくはケーブル接続時に電気的もしくは制御信号で判断可能である。
【0017】
図7は、60fpsで通常撮影した映像と、240fpsで高速撮影した映像が混在して録画されるパーシャルフレームレート動画ファイル構造を示す説明図である。
図7に示すように、このパーシャルフレームレート動画ファイル構造では60fpsで通常撮影した映像と、240fpsで高速撮影した映像が混在して録画される。
図8は、再生される映像をモニタするディスプレイが高速フレームレートに対応していないときの、パーシャルフレームレート動画ファイル構造により通常撮影または高速撮影された映像の録画フレームと再生フレームとの関係を示す説明図である。
図9は、再生される映像をモニタするディスプレイが高速フレームレートに対応しているときの、パーシャルフレームレート動画ファイル構造により通常撮影または高速撮影された映像の録画フレームと再生フレームとの関係を示す説明図である。
図8に示すように、60fpsで通常撮影した映像と、240fpsで高速撮影した映像が混在して録画される。このとき、図3に示すような各種条件をトリガとして高速撮影されるタイミングが自動的に決定される。また、再生時には通常撮影した映像と高速撮影した映像とが混在している画像が1/60秒間隔のフレームにより再生される。したがって、再生される映像をモニタするディスプレイが高速フレームレートに対応していないとき、再生される高速撮影した映像は時間的に4倍に引き延ばされたスローモーション映像となる。図3に示すような各種条件をトリガとして自動的に高速撮影されたハイライトシーンが再生時においては時間的に4倍に引き延ばされたスローモーション映像としてディスプレイに出力される。
また、再生される映像をモニタするディスプレイが高速フレームレートに対応しているときには、図9に示すように、60fpsで通常撮影した映像は、再生時にはダミーフレームにより4枚連続して同じフレームを1/240秒間隔で出力する。また、240fpsで高速撮影した映像については、録画されているフレームを1/240秒間隔でそのまま出力する。
【0018】
以上説明したように、第1の実施の形態によれば、例えばズーム作動中でなければ、次に角速度センサ23の出力をもとにこの撮像装置に加えられている角速度の大きさが大きいか否かを、予め設定されている閾値をもとに判定する。この結果、角速度センサ23により検出された角速度が前記閾値より大きい場合には、通常速度フレームレートによる撮影を選択する。また、角速度の大きさが前記閾値より小さいと判定した場合には、次に画像処理ASICにて前後のフレームのRGB情報から差分演算を行うことにより、前記フレームの前後の変化が小さいか否かの判定をあらかじめ定められた閾値との比較をすることにより行う。その結果、撮像装置側において差分画像が前記閾値よりも小さい場合には通常速度フレームレートによる撮影を選択する。また、前記差分画像が前記閾値よりも大きい場合にはハイライトシーンとして高速フレームレートにて撮影する。
この結果、ハイライトシーンについてのみ高速フレームレートによる撮影が行われるため、消費電力と記憶媒体の容量が節約され、さらに撮影フレームレートの切り替え操作に要する手間が不要となる。
言い換えると、第1の実施の形態によれば、高速撮像と通常撮像の両方の記録が可能な撮像機器において詳細な画像が必要なハイライトシーンで自動的に撮影フレームレートを切り替えることが可能になる。この結果、消費電力と媒体の容量に負担をかけることなく少ない負荷で適所に高精細な動画撮影を実現できる撮像装置が得られる効果がある。
また、再生時に出力側のディスプレイに合わせて出力フレームレートの変換を行うことで、従来の高速フレームレートに対応していない低速なディスプレイに対しては再生時に高速フレームレートシーンをスロー化することが可能となり、映像効果として高速撮像データを有効活用できる。また、高速フレームレートに対応している高速表示可能なディスプレイに対しては通常速度フレームレートと高速フレームレートの混在する画像を時間方向に精細さを保ちつつリアルタイムに出力することが可能になる撮像装置が得られる効果がある。
【0019】
(第2の実施の形態)
次に、本発明の第2の実施の形態の記録再生装置について説明する。
第2の実施の形態の記録再生装置は実施例1の撮像装置が備えている。したがって、図1のブロック図は第2の実施の形態の記録再生装置においても適用される。
第2の実施の形態では、今後過渡的に混在する高速フレームレート表示可能なディスプレイと高速フレームレートに対応していないディスプレイを考慮し、録画時のフレームレートは通常のテレビジョン装置で用いられているフレームレートよりも早い高速フレームレート(ここでは一例として4倍の240fps)で記録し、再生出力時に出力先のディスプレイの高速フレームレートの対応状況に応じて出力する画像のフレームレートを調整可能にする。
このため、画像の出力先の高速フレームレート対応状況を判定する高速フレームレート対応状況判定手段を備えている。また、前記高速フレームレート対応状況判定手段により判定した前記出力先の高速フレームレート対応状況と、前記高速フレームレートで録画された画像に対応して記録された当該画像の管理情報とをもとに、スローモーション再生を行う高精細モードと間引き通常再生を行う間引き再生モードとを切り替える再生モード切り替え手段を備えている。さらに、撮影中のハイライトシーンを判別する撮像装置側におけるイベントの発生を検出するイベント検出手段を備えている。これら高速フレームレート対応状況判定手段、再生モード切り替え手段、イベント検出手段はシステムMPU26により実現されている。
【0020】
第2の実施の形態の記録再生装置を備えた撮像装置は、図1に示すようにイメージャー駆動ドライバ1、電子撮像素子2、AFE(A/Dコンバータ)3、画像・音声処理ASIC4、マイク5、アナログアンプ6、スピーカ7、メモリ8、パネル駆動ドライバ9、LCDパネル10、操作部11、バッテリ12、電源管理IC13、外部記録メディア14、TV出力端子15、記録媒体21、プログラマブルRAM22、角速度センサ23、レンズ駆動ドライバ24、レンズ25およびシステムMPU26を備えている。
イメージャー駆動ドライバ1は、例えばCMOSにより構成された電子撮像素子2を駆動するためのドライバである。
電子撮像素子2は、CMOSにより構成された高速撮影の可能な撮像素子である。
AFE3は、電子撮像素子2のアナログフロントエンド回路でありA/Dコンバータなどを備えている。
画像・音声処理ASIC4は、画像信号および音声信号を処理する特定用途向け集積回路である。マイク5は音声を検出し電気信号へ変換し出力する。
アナログアンプ6は、マイク5から出力された電気信号を増幅する回路である。
スピーカ7はアナログアンプ6において増幅した電気信号を機械的振動へ変換し音として出力する。
メモリ8は各種データを記憶する回路である。
パネル駆動ドライバ9は、画像・音声処理ASIC4により処理した画像信号をもとにLCDパネル10の各画素を駆動する回路である。
操作部11は各種操作スイッチを備えている。バッテリ12は、この撮像装置の各部へ供給される電力を発生させる。
電源管理IC13は、バッテリ12の状態と負荷状態を検出し、この撮像装置の電源を管理する回路である。
外部記録メディア14は、この撮像装置で撮像された映像を外部保存する記録装置である。
TV出力端子15は、この撮像装置で撮像された映像や外部記録メディア14に記録された映像をモニタするためのディスプレイへ出力する端子である。
記録媒体21は、この撮像装置に内蔵された記憶装置であり、撮像された映像や音声を保存する。
プログラマブルRAM22は、この撮像装置で必要な各種ロジックを構成している。
角速度センサ23は、この撮像装置における手ブレ防止機能を実現するためのセンサであり、撮像装置が動いたときの角速度を検出する。
レンズ駆動ドライバ24は、レンズ駆動信号をもとにレンズ25を駆動する回路である。
システムMPU26は、この撮像装置の各部を制御するマイクロプロセッシングユニットである。
【0021】
次に動作について説明する。
動画撮影時、システムMPU26はパネル駆動ドライバ9に対して高速なフレームレートに対応した駆動パルスを送り、電子撮像素子2を高速モードで駆動する。
AFE3、画像・音声処理ASIC4も高速対応の駆動で信号をディジタル変換し、電子撮像素子2からの信号を色処理、各ノイズ、レンズ補正処理といった処理を行い、高速レートのまま圧縮処理をかけ、システムMPU26を介して外部メディア14に記録する。
その際マイク5から入力される音声はディジタルサンプリングが施された後、圧縮され、高速フレームレートの動画に同期して記録される。
【0022】
図10は、第2の実施の形態の記録再生装置において媒体記録されるファイルフォーマットの一例を示す説明図である。
図10に示すように、ここでは映像情報31や音声情報32とは別に管理情報33をメディアに記録する。なお図10に示す例ではファイル単位で管理情報を持つように構成したが、これに限定されるものではない。
記録される管理情報には、日付やそれ以外の撮像装置側の情報などが記録される。第2の実施の形態の特徴として、再生時のフレームレート切り替え情報が管理情報33として映像の時間軸に関連して付記される。なお、ユーザは撮影時もしくは再生時に任意に前記管理情報33のフレームレート切り替え情報(フラグ)を変更することが可能である。
従来のテレビジョン装置や機器に備わったLCDパネル等のディスプレイでは60fpsまでの再生しか対応していないため、図1に示す撮像装置の記録再生装置から240fpsのフレームレートで動画を出力しても表示することはできない。ディスプレイ側が高速フレームレートに対応可能な場合は図1に示す撮像装置の記録再生装置から240fpsの映像を出力しリアルタイムですべての画像を表示することが可能である。
そこで第2の実施の形態では高速フレームレートに対応したディスプレイ向けの機能として240fpsの高速出力を可能とする機能を有している。
しかし、従来の60fpsまでのディスプレイとの接続時は、相手のディスプレイにおいて240fpsの対応ができないためすべてのフレーム表示用として再生時に画像処理ASIC4上で240fpsから60fpsへのフレームの間引きを行うことにより通常の60fpsの動画として再生、出力する間引き再生モードを有している。これに加え、例えば240fpsの高速フレームレートで撮像され録画された画像(240枚)を撮影時間の1/4の60fpsで4秒間かけて出力することによりなめらかで高精細なスローモーション再生を可能にする高精細モードを有している。
【0023】
図11は、このような高速表示に対応していないディスプレイへの出力モードの詳細を示す説明図である。
図12は、出力先が高速フレームレートに対応したディスプレイであるか否かに応じた、再生時のマニュアル操作によるフレームレートの選択動作を示すフローチャートである。
第2の実施の形態では、図12のフローチャートに示すように、再生モードが選択されると(ステップS51)、出力先が240fps対応ディスプレイであるか、あるいは240fps非対応ディスプレイであるかに応じたマニュアル操作により出力モードが選択可能である(ステップS52)。すなわち、このマニュアル操作の結果、出力先が240fps対応ディスプレイであるときには、高速フレームレートに対応した240fpsの高速フレームレートでの出力を行うことが可能である(ステップS54)。
また、240fps非対応ディスプレイである場合には、さらにマニュアル操作により設定された高速フレームレート出力フラグのオン、オフに応じて(ステップS53)、高速フレームレート出力フラグがオフのとき、画像処理ASIC4上で240fpsから60fpsへの間引きを行うことにより通常の60fpsの動画として再生、出力する間引き再生モードが選択される(ステップS56)。また、前記高速フレームレート出力フラグがオンのとき、例えば1秒間の画像(240枚)を撮影時間の1/4の60fpsにて4秒間かけてスローモーション映像として出力する高精細モードが選択され、なめらかで高精細なスロー再生を行う(ステップS55)。
【0024】
さらに、第2の実施の形態ではマニュアルによるフレームレートの切り替え機能の他に、従来ディスプレイ向けの臨場感を高めるモードとしてユーザの付記した動画上の高速フレームレート切り替えフラグ情報などの管理情報33をもとに自動でスローモーション再生を行う高精細モードと間引き通常再生を行う間引き再生モードとを切り替える。これにより、簡単に時間軸方向に精細感のあるスローモーション映像効果として楽しむことができる。
図13は、出力先の高速フレームレート対応状況に応じたフラグにより60fps出力の再生モードが自動判別されたときの、管理情報33の高速フレームレート切り替え情報をもとに自動的に行われる前記高精細モードと前記間引き再生モードとの切り替え動作を示すフローチャートである。
この高精細モードと間引き再生モードとの自動切り替えにおいては、60fps出力の再生モードがフラグにより自動判別されて選択されると(ステップS61)、再生フレーム毎に前述の管理情報33から高速フレームレート切り替え情報のフラグを参照し(ステップS62)、このフラグに応じて出力画像の間引きのオン/オフの切り替え、または前記スローモーション再生処理を再生時にリアルタイムで行う(ステップS63、ステップS64)。
【0025】
また、第2の実施の形態では録画時の撮像装置の状況に応じて自動で高速フレームレートのフラグの切り替えを行う高速フレームレート切り替えフラグ自動生成モードも選択可能である。
図14は、この高速フレームレート切り替えフラグ自動生成モードの動作を示すフローチャートである。
図14のフローチャートに示すように、録画時にこの高速フレームレート切り替えフラグ自動生成モードが選択された場合(ステップS71)、入力された画像および手ブレ補正用のセンサ(ここでは角速度センサ23)(ステップS73)や、機器の操作情況(ステップS72、ステップS74)、マイク5等からの入力される信号をもとに高速フレームレート切り替えフラグの自動生成を行う(ステップS75、S76)。
この高速フレームレート切り替えフラグは管理情報33として図10に示す映像記録データ31、音声記録データ32と対応して記録される。
例えば、図14のステップ75に示すように、画像・音声処理ASIC4にて前後のフレームの差分演算を行うことにより、前後の変化の大きさをあらかじめ定められた閾値と比較をすることによって撮像装置側にてスロー出力がより効果的となるハイライトシーンとして高速フレームレート切り替えフラグをオンにする。
その際入力画像以外に手ブレ補正用のセンサ(ここでは角速度センサ23)やズームレンズの駆動情況を用いてパン・チルト、ズーム操作等の撮影者の操作による画像変化をシーンチェンジとして、上記ハイライトシーンから切り分けることにより認識率向上を図ることが可能である。これによりユーザは意識することなく再生時に動きの激しい部分をハイライトシーンとしてスローモーションで観賞することが可能である。
【0026】
また、上記した認識率向上を図るための各種条件と合わせて例えば音声用のマイクレベルの入力をトリガとして(例えば音声認識をトリガとすることも可能である)一定時間高速フレームレートをオンにする設定を行うことにより、例えば運動会等のレースシーンにおいてスタートシーンをハイライト化することが可能である。
また、通常の操作釦に合わせて高速フレームレートフラグの設定を行うことも可能であり、例えば録画開始のレリーズ釦の長押しをトリガとして高速フレームレート切り替えフラグをオンすることにより通常撮影動作の延長でハイライトシーンを設定することが可能である。
【0027】
以上説明したように、第2の実施の形態によれば、例えば60fpsまでの高速フレームレート非対応のディスプレイとの接続時は、相手のディスプレイにおいて240fpsの高速フレームレートに対応できないためすべてのフレーム表示用として再生時に画像処理ASIC4上で240fpsから60fpsへのフレームの間引きを行うことにより通常の60fpsの動画として再生、出力する間引き再生モードを有している。また、例えば240fpsの高速フレームレートで撮像され録画された画像(240枚)を撮影時間の1/4の60fpsで4秒間かけて出力することによりなめらかで高精細なスローモーション再生を可能にする高精細モードを有している。この結果、高速フレームレートに対応していない出力先において再生する際に、自動的にハイライトシーンをスローモーション化して表示できるなど、高速撮像の映像ソースを有効活用できる。
言い換えると、第2の実施の形態によれば、高速撮像の映像ソースを録画し、高速表示が不可能なディスプレイにおいて再生する際にハイライトシーンをスローモーション化して表示することのできる記録再生装置が得られる効果がある。
また、マニュアルで高速なフレームレート出力を設定するとスローモーション再生を選ぶ手間が発生するが、録画時にユーザが従来の操作性の延長でハイライト部を指定することが可能である。
また、カメラの入力、操作情報から自動でハイライトシーンの検出を行い、管理情報に出力時のフレームレートの情報を記録することによって、再生時に特に設定しなくともハイライトシーンをなめらかにスローモーション再生することが可能になり、高速撮像の映像ソースを有効活用した映像が得られる記録再生装置を実現できる効果がある。
【図面の簡単な説明】
【0028】
【図1】本発明の実施例1の撮像装置の構成を示すブロック図である。
【図2】本発明の実施例1の撮像装置における録画モードでの高速フレームレートによる撮影と通常速度フレームレートによる撮影の切り替え動作を示すフローチャートである。
【図3】本発明の実施例1のハイライトシーンとしてスロー観賞できる撮像装置の録画動作を示すフローチャートである。
【図4】ディスプレイが高速フレームレート非対応であるときの本発明の実施例1の撮像装置における録画フレームと再生フレームとの関係を示す説明図である。
【図5】本発明の実施例1の撮像装置における高精細モードとハイライトシーン強調スローモードの切り替え動作を示すフローチャートである。
【図6】ディスプレイが高速フレームレート対応であるときの本発明の実施例1の撮像装置における録画フレームと再生フレームとの関係を示す説明図である。
【図7】本発明の実施例1の撮像装置におけるパーシャルフレームレート動画ファイル構造を示す説明図である。
【図8】ディスプレイが高速フレームレートに対応していないときの、パーシャルフレームレート動画ファイル構造により通常撮影または高速撮影された映像の録画フレームと再生フレームとの関係を示す説明図である。
【図9】ディスプレイが高速フレームレートに対応しているときの、パーシャルフレームレート動画ファイル構造により通常撮影または高速撮影された映像の録画フレームと再生フレームとの関係を示す説明図である。
【図10】本発明の第2の実施の形態の記録再生装置において媒体記録されるファイルフォーマットを示す説明図である。
【図11】高速表示に対応していないディスプレイへの出力モードの詳細を示す説明図である。
【図12】本発明の第2の実施の形態の記録再生装置における出力先が高速フレームレートに対応したディスプレイであるか否かに応じた出力モードの選択動作を示すフローチャートである。
【図13】本発明の第2の実施の形態の記録再生装置において管理情報をもとに自動的に行われる高精細モードと間引き再生モードとの切り替え動作を示すフローチャートである。
【図14】本発明の第2の実施の形態の記録再生装置における高速フレームレートフラグ自動生成モードの動作を示すフローチャートである。
【符号の説明】
【0029】
26……システムMPU(高速フレームレート対応状況判定手段、再生モード切り替え手段、イベント検出手段)。
【特許請求の範囲】
【請求項1】
高速フレームレートで録画された画像の再生出力時におけるフレームレートを調整可能にした記録再生装置であって、
前記画像の再生出力先の高速フレームレート対応状況を判定する高速フレームレート対応状況判定手段と、
前記高速フレームレート対応状況判定手段により判定した前記再生出力先の高速フレームレート対応状況と、前記高速フレームレートで録画された画像に対応して記録された当該画像の管理情報とをもとに、スローモーション再生を行う高精細モードと間引き通常再生を行う間引き再生モードとを切り替える再生モード切り替え手段と、
を備えたことを特徴とする記録再生装置。
【請求項2】
撮影中のハイライトシーンを判別する撮像装置側におけるイベントの発生を検出するイベント検出手段を有し、前記再生モード切り替え手段は、前記高速フレームレート対応状況判定手段により判定した前記再生出力先の高速フレームレート対応状況と、前記イベント検出手段が検出した前記イベントをもとに判別されたハイライトシーンに応じて前記高速フレームレートで録画された画像に対応して記録された当該画像の管理情報とをもとに、スローモーション再生を行う高精細モードと間引き通常再生を行う間引き再生モードとを切り替えることを特徴とする請求項1記載の記録再生装置。
【請求項3】
前記イベント検出手段は、撮影中のフレーム間画像差分情報が所定の大きさを超えることで前記イベントの発生を検出することを特徴とする請求項2記載の記録再生装置。
【請求項4】
前記イベント検出手段は、撮像装置本体に加えられている動きが所定の大きさを超えていないことを条件に撮影中のフレーム間画像差分情報が所定の大きさを超えることで前記イベントの発生を検出することを特徴とする請求項3記載の記録再生装置。
【請求項5】
前記イベント検出手段は、ズーム動作中ではなく、かつ撮像装置本体に加えられている動きが所定の大きさを超えていないことを条件に撮影中のフレーム間画像差分情報が所定の大きさを超えることで前記イベントの発生を検出することを特徴とする請求項4記載の記録再生装置。
【請求項1】
高速フレームレートで録画された画像の再生出力時におけるフレームレートを調整可能にした記録再生装置であって、
前記画像の再生出力先の高速フレームレート対応状況を判定する高速フレームレート対応状況判定手段と、
前記高速フレームレート対応状況判定手段により判定した前記再生出力先の高速フレームレート対応状況と、前記高速フレームレートで録画された画像に対応して記録された当該画像の管理情報とをもとに、スローモーション再生を行う高精細モードと間引き通常再生を行う間引き再生モードとを切り替える再生モード切り替え手段と、
を備えたことを特徴とする記録再生装置。
【請求項2】
撮影中のハイライトシーンを判別する撮像装置側におけるイベントの発生を検出するイベント検出手段を有し、前記再生モード切り替え手段は、前記高速フレームレート対応状況判定手段により判定した前記再生出力先の高速フレームレート対応状況と、前記イベント検出手段が検出した前記イベントをもとに判別されたハイライトシーンに応じて前記高速フレームレートで録画された画像に対応して記録された当該画像の管理情報とをもとに、スローモーション再生を行う高精細モードと間引き通常再生を行う間引き再生モードとを切り替えることを特徴とする請求項1記載の記録再生装置。
【請求項3】
前記イベント検出手段は、撮影中のフレーム間画像差分情報が所定の大きさを超えることで前記イベントの発生を検出することを特徴とする請求項2記載の記録再生装置。
【請求項4】
前記イベント検出手段は、撮像装置本体に加えられている動きが所定の大きさを超えていないことを条件に撮影中のフレーム間画像差分情報が所定の大きさを超えることで前記イベントの発生を検出することを特徴とする請求項3記載の記録再生装置。
【請求項5】
前記イベント検出手段は、ズーム動作中ではなく、かつ撮像装置本体に加えられている動きが所定の大きさを超えていないことを条件に撮影中のフレーム間画像差分情報が所定の大きさを超えることで前記イベントの発生を検出することを特徴とする請求項4記載の記録再生装置。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【公開番号】特開2008−109245(P2008−109245A)
【公開日】平成20年5月8日(2008.5.8)
【国際特許分類】
【出願番号】特願2006−288389(P2006−288389)
【出願日】平成18年10月24日(2006.10.24)
【出願人】(000002185)ソニー株式会社 (34,172)
【Fターム(参考)】
【公開日】平成20年5月8日(2008.5.8)
【国際特許分類】
【出願日】平成18年10月24日(2006.10.24)
【出願人】(000002185)ソニー株式会社 (34,172)
【Fターム(参考)】
[ Back to top ]