説明

電子機器、映像編集方法及びプログラム

【課題】
映像データのプレビュー効率を向上させるとともに、当該映像データから、編集作業に有効な区間データを抽出すること。
【解決手段】
映像編集装置100は、映像編集インタフェース30上で、映像データを、その変化量が大きいフレーム程低速となるようにプレビュー再生するとともに、当該プレビュー再生中に、マーカーボタン31が押下された場合、その時点のフレームの変化量に応じた継続時間長の区間データを抽出し、それに対応するマーカー画像Mを表示させ、さらに、当該区間データから、変化量に応じた枚数のサムネイル画像Thを取得して表示させる。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、映像データを編集することが可能な電子機器、当該電子機器における映像編集方法及びプログラムに関する。
【背景技術】
【0002】
従来から、映像データを編集する際の作業効率を高めるための技術が存在する。例えば下記特許文献1には、映像のプレビュー再生時に、映像の変化度合いが小さい映像については相対的に高速で再生し、変化度合いが大きい映像については相対的に低速で再生することが記載されている。
【0003】
しかしながら、上記特許文献1に記載の技術では、ユーザは編集対象となる映像区間(シーン)を探し出しやすくはなるものの、探し出したシーンをマーキングしておき、後から当該シーンのみを再度再生させることはできない。
【0004】
一方、映像中の所定の映像区間データを抽出する技術は、例えば下記特許文献2に開示されている。当該特許文献2では、撮影された映像データに対してユーザが開始位置及び終了位置を指示することで所定の場面が抽出される。また当該特許文献には、開始位置から終了位置までの時間が予め設定され、一定時間毎に開始位置及び終了位置が自動的に設定されてもよいことも記載されている。
【先行技術文献】
【特許文献】
【0005】
【特許文献1】特開2008−227744号公報
【特許文献2】特開2009−225361号公報
【発明の概要】
【発明が解決しようとする課題】
【0006】
しかしながら、上記特許文献1に記載の技術に上記特許文献2に記載の技術を適用した場合、ユーザは、変化度合いに応じてプレビュー速度が不規則に変化する映像データ上で、抽出対象のシーンの開始位置及び終了位置を指示する必要があるため、当該指示のための操作が極めて煩雑になる。
【0007】
また、開始位置から終了位置までの時間が予め設定されている場合、映像の変化度合い、すなわち映像のプレビュー速度の変化に関わらず一定の長さの区間のデータが抽出されることになる。したがって、変化度合いの小さいシーンについては十分な区間のデータが抽出されず、また変化度合いの大きいシーンについては無駄な区間のデータまで抽出されてしまうことが考えられ、結果として、その後の編集作業に有効な、ユーザの所望の区間データが抽出されない可能性がある。
【0008】
以上のような事情に鑑み、本発明の目的は、映像データのプレビュー効率を向上させるとともに、当該映像データから、編集作業に有効な区間データを抽出することが可能な電子機器、映像編集方法及びプログラムを提供することにある。
【課題を解決するための手段】
【0009】
上記目的を達成するため、本発明の一形態に係る電子機器は、記憶部、再生部、出力部、操作受付部及び制御部と有する。上記記憶部は、複数のフレームで構成される映像データと、上記複数のフレーム間の変化量を示す変化量データとを記憶する。上記再生部は、上記映像データを、上記フレーム間の変化量が大きいほど低い再生速度で再生する。上記出力部は、上記再生された映像データを出力する。上記操作受付部は、上記映像データの出力中に任意の再生点を指定するユーザの操作を受け付ける。上記制御部は、上記操作が受け付けられたときに、上記再生点を含む複数のフレームからなる区間データを、当該区間データの時間長が上記再生点における上記再生速度が大きいほど長くなるように抽出する。さらに制御部は、上記映像データを、当該抽出された区間データ単位で再生するように上記再生部を制御する。
【0010】
これにより電子機器は、フレーム間の変化量が大きいほど低い速度で映像データを再生することで、プレビュー効率を向上させるとともに、再生中に任意の再生点が指定されたときには、上記再生速度が大きいほど長くなる区間データを抽出することで、後に編集対象となる区間データを、変化量に応じた適切な時間長で抽出することができる。ここで再生速度が大きいほど区間データの時間長が長くされるのは、再生速度が大きい場合には、映像の変化量が小さいため、ユーザが所望の画像を見つけるには比較的多くのフレームを確認する必要がある一方、再生速度が小さい場合には、映像の変化量が大きいため、フレーム数が少なくても、ユーザが所望の画像をピンポイントで見つけやすいからである。
【0011】
上記制御部は、上記映像データにおける当該区間データの位置及び上記時間長を示し当該区間データを再生させるための操作の対象となるマーカー画像を出力するように上記出力部を制御してもよい。
【0012】
これによりユーザは、マーカー画像により、区間データの位置及び時間長を把握できるとともに、区間データを容易に再生させることができる。
【0013】
上記制御部は、上記区間データから、複数のフレームを、上記変化量が大きいほどフレーム間隔が小さくなるように抽出し、当該抽出された各フレームの各サムネイル画像を上記マーカー画像とともに出力するように上記出力部を制御してもよい。
【0014】
これにより電子機器は、区間データの内容をユーザにサムネイルで確認させることができ、しかも、当該サムネイルを区間データの変化量が大きいほど小さいフレーム間隔で抽出することで、ユーザが重要なシーンを見逃すのを極力防ぐことができる。
【0015】
上記制御部は、上記マーカー画像を対象とした操作が受け付けられたときに、当該マーカー画像が示す区間データの各フレームを再生するように上記再生部を制御してもよい。またこれとともに制御部は、当該区間データから抽出された上記各サムネイル画像を出力するように上記出力部を制御してもよい。
【0016】
これによりユーザは、マーカー画像を選択することで、区間データの映像を閲覧できるとともに、サムネイル画像により当該区間データに含まれる画像を容易に把握することができるため、当該区間データから、編集対象となる特定の画像をより容易に見つけることができる。
上記制御部は、上記区間データに含まれる各フレームのうち、開始点、中間点及び終了点にそれぞれ位置する第1、第2及び第3のフレームを抽出し、上記第1のフレームと上記第2のフレームとの間の第1の変化量と、上記第2のフレームと上記第3のフレームとの間の第2の変化量のうち、大きい方の変化量が算出された2つのフレームの中間点に位置する第4のフレームを抽出し、上記抽出された第1、第2、第3及び第4のフレームの各サムネイル画像を生成してもよい。
【0017】
これにより電子機器は、区間データの開始点、中間点及び終了点の各フレームに加えて、変化量が大きいフレーム間からさらにフレームを抽出してそれらのサムネイル画像を生成することで、変化量の大きいシーンのサムネイル画像をより多く出力することができる。
【0018】
また上記制御部は、上記区間データから、所定の変化量毎に複数のフレームを抽出し、当該抽出された各フレームのサムネイル画像を生成してもよい。
【0019】
これにより電子機器は、区間データから、等しい変化量毎にサムネイル画像を生成することで、出力されるサムネイル画像間の変化量にばらつきが生じるのを防ぐことができる。
【0020】
上記制御部は、上記出力された複数のサムネイル画像のうち隣接する2つのサムネイル画像の境界に対して操作が受け付けられた場合に、当該隣接する2つのサムネイル画像の元となる2つのフレームの間に位置するフレームのサムネイル画像を出力するように上記出力部を制御してもよい。
【0021】
これにより電子機器は、当初出力されたサムネイル画像の中にユーザの所望の画像が存在しなかった場合でも、2つのサムネイル画像の間に位置するサムネイル画像をさらに出力することで、ユーザの所望の画像にアクセスさせることができる。
【0022】
本発明の他の形態に係る映像編集方法は、複数のフレームで構成される映像データと、上記複数のフレーム間の変化量を示す変化量データとを記憶することを含む。上記映像データは、上記フレーム間の変化量が大きいほど低い再生速度で再生される。上記再生された映像データは出力される。上記映像データの出力中に任意の再生点を指定するユーザの操作が受け付けられた場合には、上記再生点を含む複数のフレームからなる区間データが、当該区間データの時間長が上記再生点における上記再生速度が大きいほど長くなるように抽出される。上記映像データは、上記抽出された区間データ単位で再生される。
【0023】
本発明のまた別の形態に係るプログラムは、電子機器に、記憶ステップ、第1の再生ステップ、出力ステップ、操作受付ステップ、抽出ステップ及び第2の再生ステップを実行させる。上記記憶ステップでは、複数のフレームで構成される映像データと、上記複数のフレーム間の変化量を示す変化量データとが記憶される。上記第1の再生ステップでは、上記映像データが、上記フレーム間の変化量が大きいほど低い再生速度で再生される。上記出力ステップでは、上記再生された映像データが出力される。上記操作受付ステップでは、上記映像データの出力中に任意の再生点を指定するユーザの操作が受け付けられる。上記抽出ステップでは、上記操作が受け付けられたときに、上記再生点を含む複数のフレームからなる区間データが、当該区間データの時間長が上記再生点における上記再生速度が大きいほど長くなるように抽出される。上記第2の再生ステップでは、上記映像データが、上記抽出された区間データ単位で再生される。
【発明の効果】
【0024】
以上説明したように、本発明によれば、映像データのプレビュー効率を向上させるとともに、当該映像データから、編集作業に有効な区間データを抽出することができる。
【図面の簡単な説明】
【0025】
【図1】本発明の一実施形態に係る映像編集装置のハードウェア構成を示す図である。
【図2】本発明の一実施形態に係る映像編集装置の機能ブロック(ソフトウェア構成)を示した図である。
【図3】本発明の一実施形態に係る映像編集装置が表示可能なGUIの表示例を示した図である。
【図4】本発明の一実施形態に係る映像編集装置の動作の流れの概要を示したフローチャートである。
【図5】本発明の一実施形態に係る映像編集装置によるプレビュー速度の設定手法を概念的に示した図である。
【図6】本発明の一実施形態におけるプレビュー速度とマーカー幅との関係を示す関数データの例を示した図である。
【図7】本発明の一実施形態におけるプレビュー映像の変化量とマーカー画像Mの設定幅との関係を示した図である。
【図8】本発明の一実施形態におけるサムネイル画像の第1の取得方法の流れを示したフローチャートである。
【図9】本発明の一実施形態におけるサムネイル画像の第1の取得方法における処理の概要を示した図である。
【図10】本発明の一実施形態におけるサムネイル画像の第2の取得方法の流れを示したフローチャートである。
【図11】本発明の一実施形態におけるサムネイル画像の第2の取得方法における処理の概要を示した図である。
【図12】本発明の他の実施形態におけるサムネイル画像の表示例を示した図である。
【発明を実施するための形態】
【0026】
以下、図面を参照しながら、本発明の実施形態を説明する。
【0027】
[映像編集装置のハードウェア構成]
図1は、本発明の一実施形態に係る映像編集装置のハードウェア構成を示す図である。当該映像編集装置100は例えばテレビジョン放送用や映画用の映像を編集する業務用のものであるが、もちろん、民生用であっても構わない。
【0028】
同図に示すように、映像編集装置100は、CPU(Central Processing Unit)11、ROM12(Read Only Memory)、RAM(Random Access Memory)13、入出力インタフェース15、及び、これらを互いに接続するバス14を備える。すなわち、映像編集装置100のハードウェア構成は、汎用のPC(Personal Computer)と同様である。
【0029】
CPU11は、必要に応じてRAM13等に適宜アクセスし、各種演算処理を行いながら映像編集装置100の各ブロック全体を統括的に制御する。ROM12は、CPU11に実行させるOS、プログラムや各種パラメータなどのファームウェアが固定的に記憶されている不揮発性のメモリである。RAM13は、CPU11の作業用領域等として用いられ、OS、実行中の各種アプリケーション、処理中の各種データを一時的に保持する。
【0030】
入出力インタフェース15には、表示部16、入力部17、記憶部18、通信部19、ドライブ部20等が接続される。
【0031】
表示部16は、例えば液晶、EL(Electro-Luminescence)、CRT(Cathode Ray Tube)等を用いた表示デバイスである。当該表示部16は、映像編集装置100に内蔵されていてもよいし、映像編集装置100に外部接続されていてもよい。
【0032】
入力部17は、例えばマウス等のポインティングデバイス、キーボード、タッチパネル、その他の操作装置である。入力部17がタッチパネルを含む場合、そのタッチパネルは表示部16と一体となり得る。
【0033】
記憶部18は、例えばHDD(Hard Disk Drive)や、フラッシュメモリ、その他の固体メモリ等の不揮発性メモリである。当該記憶部18には、上記OSや各種アプリケーション、各種データが記憶される。特に本実施形態では、記憶部18には、記録媒体5から取り込まれた映像データや、当該映像データ編集するための映像編集アプリケーションも記憶される。
【0034】
当該映像編集アプリケーションは、映像データを、当該映像データ中の映像の変化量に応じた速度でプレビューさせることができる。記憶部18には、映像データの開始点から終了点に渡る変化量データも記憶される。
【0035】
ドライブ部20は、例えばメモリカード、光ディスク、磁気記録テープ等、リムーバブルの記録媒体5を駆動し、当該記録媒体5に記録された映像データの読み出し及び当該記録媒体5へのデータの書き込みを行う。またドライブ部20は、映像データを入力するための例えばUSB(Universal Serial Bus)等の外部インタフェースであってもよい。
【0036】
通信部19は、LAN(Local Area Network)、WAN(Wide Area Network)等に接続可能な、他の装置と通信するためのNIC(Network Interface Card)等である。通信部19は、有線及び無線のどちらを利用して通信するものであってもよい。上記映像データは、当該通信部19により、例えば中継現場等のビデオカメラから受信されるものであってもよい。
【0037】
[映像編集装置のソフトウェア構成]
図2は、上記映像編集装置100の機能ブロック(映像編集アプリケーションのソフトウェア構成)を示した図である。同図に示すように、映像編集装置100は、変化量取得部21、再生部22、プレビューモニタ23、プレビュー速度設定部24、マーカー設定部25、マーカーコントローラ26、マーカー表示部27、サムネイル画像取得部28及びサムネイル画像表示部29を有する。
【0038】
変化量取得部21は、記録媒体5から読み出された映像データから、開始点(開始フレーム)から終了点(終了フレーム)に渡る映像の変化量データを取得し、記憶部18または記録媒体5に記憶する。当該変化量データは、例えば、ある時間Tの画像(フレーム)Aと、時間T−n(n≧1)の画像Bとの間で、同一画素位置間の画素値の差分二乗の総和を示す値として算出される。また、映像データがMPEG(Moving Picture Experts Group)等のフォーマットで圧縮されている場合には、上記変化量データは、動き補償予測時の予測残差を用いて算出されてもよい。
【0039】
プレビュー速度設定部24は、上記記憶部18に記憶された変化量データに応じて、映像データのプレビュー時における各フレームのプレビュー速度を設定する。
【0040】
再生部22は、上記プレビュー速度設定部24により設定された速度で、映像データの各フレームを再生する。
【0041】
プレビューモニタ23は、再生部22により再生されたプレビュー映像を所定領域内に表示する。
【0042】
マーカー設定部25は、プレビュー再生時に、ユーザがマーカーコントローラ26により指定した位置を含む、プレビュー速度に応じた継続時間長のマーカーを設定する。換言すると、マーカー設定部25は、上記ユーザにより指定された位置を含む映像区間のデータ(区間データ)を映像データから抽出する。マーカー表示部27は、上記マーカー設定部25により設定されたマーカー(区間データ)を、映像データを示すタイムライン上でマーカー画像として表示する。当該タイムライン上でマーカー画像が選択された場合には、上記区間データが再生される。
【0043】
サムネイル画像取得部28は、上記区間データの始点から終点に渡る範囲の複数のフレームの各サムネイル画像を取得する。
【0044】
サムネイル画像表示部29は、上記サムネイル画像取得部28により取得された各サムネイル画像を表示する。
【0045】
[映像編集装置のGUI構成]
図3は、上記映像編集装置100が上記映像編集アプリケーションにより表示可能なGUI(Graphical User Interface)(以下、映像編集インタフェースと称する)の表示例を示した図である。
【0046】
同図に示すように、映像編集インタフェース30は、上述したプレビューモニタ23、サムネイル画像表示部29、マーカー表示部27及びマーカーコントローラ26に加え、プレビュースタートボタン33を有する。当該プレビュースタートボタン33は、映像データのプレビューを開始させるためのボタンである。
【0047】
サムネイル画像表示部29には、複数枚のサムネイル画像Thの表示領域が設けられている。後述するが、当該表示領域の数(サムネイル画像Thの枚数)は、所定枚数に固定することも可能であるが、本実施形態においては、区間データの変化量に応じて可変とされる。
【0048】
マーカー表示部27は、映像データのタイムラインを示す横長の矩形領域として表示される。当該タイムライン上でマーカーが設定された区間を示す位置には、矩形状のマーカー画像Mが表示される。
【0049】
上記マーカーコントローラ26は、マーカーボタン31と、例えばその両端に表示されるマーカー選択ボタン32とを有する。プレビューモニタ23上で映像データがプレビュー再生されている最中に、ユーザが例えばマウスのポインタ等を用いてマーカーボタン31を押下すると、マーカー表示部27上の、マーカーボタン31が押下された時の再生点を含む区間データの位置に、新たにマーカー画像Mが表示される。すなわちマーカー画像Mは、映像データにおける上記区間データの位置及び時間長を示しており、当該区間データを再生させるための操作の対象となる画像である。マーカー画像Mの時間方向における長さ、すなわち区間データの継続時間長は、後述するように、上記マーカーボタン31が押下された時のプレビュー速度に応じて決定される。
【0050】
マーカー選択ボタン32は、マーカー表示部27に表示された複数のマーカー画像Mの中からユーザの所望のマーカー画像M(区間データ)を選択するためのボタンである。上記マーカー表示部27に新たにマーカー画像Mが表示された場合、または、既に表示されたマーカー画像Mが上記マーカー選択ボタン32により選択された場合、上記サムネイル画像表示部29に、当該区間データに含まれるフレームの複数のサムネイル画像Thが表示される。右側のマーカー選択ボタン32はタイムライン上でより後(右側)のマーカー画像Mを選択するためのものであり、左側のマーカー選択ボタン32はタイムライン上でより前(左側)のマーカー画像Mを選択するためのものである。区間データに含まれる複数のフレームから、サムネイル画像Thの基になるフレームを選択する手法については後述する。
【0051】
[映像編集装置の動作]
次に、以上のように構成された映像編集装置100の動作について説明する。以降の説明においては、映像編集装置100のCPU11を主な動作主体として説明するが、この動作は、映像編集装置100のその他のハードウェア、上記映像編集アプリケーション及びその他のソフトウェアとも協働して行われる。
【0052】
(全体動作の概要)
図4は、本実施形態に係る映像編集装置100の動作(マーカー画像及びサムネイル画像の表示処理)の流れの概要を示したフローチャートである。
【0053】
同図に示すように、映像編集装置100のCPU11はまず、例えば所定のプレビューリスト上でのユーザの選択操作に基づいて、1つのプレビュー映像を選択する(ステップ41)。
【0054】
続いてCPU11は、記憶部18または記録媒体5から、上記選択されたプレビュー映像の変化量データを取得する(ステップ42)。
【0055】
続いてCPU11は、上記映像編集インタフェース30を表示して、プレビューモニタ23内で、上記選択されたプレビュー映像の再生を開始するとともに(ステップ43)、当該プレビュー映像の開始点のフレームを処理対象フレームに設定する(ステップ44)。
【0056】
続いてCPU11は、上記対象フレームについて、上記取得した変化量データに基づいてプレビュー速度を設定する(ステップ45)。
【0057】
図5は、当該プレビュー速度の設定手法を概念的に示した図である。同図に示すように、CPU11は、プレビュー映像のうち変化量が大きいフレームについてはそのプレビュー速度を低くし、変化量が小さいフレームについてはそのプレビュー速度を高くする。例えば、上記記憶部18には変化量データとプレビュー速度との関係を示す関数データが記憶されており、CPU11は、当該関数データを参照して、対象フレームの変化量からそのプレビュー速度を導き出し、当該プレビュー速度で当該対象フレームを再生させる。
【0058】
続いてCPU11は、映像編集インタフェース30上で、ユーザにより上記マーカーボタン31が押下されたか否かを判断する(ステップ46)。
【0059】
マーカーボタン31が押下されていないと判断した場合(No)、CPU11は、現在の対象フレームがプレビュー映像の終了点のフレームであるか否かを判断する(ステップ49)。対象フレームが終了点のフレームでないと判断した場合(No)、CPU11は、対象フレームを次のフレームとして(ステップ50)、同様にそのフレームについてプレビュー速度を設定してそのプレビュー速度で再生させる(ステップ45)。
【0060】
マーカーボタン31が押下されたと判断された場合(Yes)、CPU11は、マーカー画像Mの幅(横方向の長さ)、すなわち区間データの継続時間長を設定する(ステップ47)。
【0061】
当該マーカー画像Mの幅(以下、マーカー幅)は、上記設定されたプレビュー速度に応じて設定される。記憶部18には、当該プレビュー速度とマーカー幅との関係を示す関数データが記憶されており、CPU11は当該関数データを参照してマーカー幅を決定する。
【0062】
図6は、当該プレビュー速度とマーカー幅との関係を示す関数データの例を示した図である。CPU11は、マーカーボタン31が押下された時間Tから、それ以前の時間T−n(nはプレビュー速度等に依存しない任意の時間)内の最大プレビュー速度Vmaxを算出し、同図に示すような一次関数を基に、速度Vmaxからマーカー幅を決定する。すなわち、同図に示すように、プレビュー速度が大きいほど、マーカー幅も長くなる。ここで用いられる関数は一次関数に限られず、n次関数(n>1)であってもよい。
【0063】
図7は、プレビュー映像の変化量とマーカー画像Mの設定幅(区間データの継続時間長)との関係を示した図である。同図に示すように、マーカー画像M(M1〜M3)の幅は、映像の変化量が大きいほど短く、小さいほど長く設定される。
【0064】
また同図に示すように、上記マーカーボタン31が押下された時間T(T1〜T3)は、マーカー画像M(M1〜M3)に対応する区間データの終点とされる。始点は、上記決定されたマーカー幅によって決まる。ユーザが実際にプレビュー映像を閲覧中に、所望のシーンを見つけ、マーカーボタン31を押下するまでには若干のタイムラグがあるが、上記時間Tが区間データの終点とされることで、実際にユーザが見つけた所望のシーンが区間データに収まる可能性が極めて高くなる。しかし、時間Tが区間データの始点や中間点とされても構わない。
【0065】
マーカー幅が設定されると、CPU11は、当該マーカー幅に対応する区間データについて、複数のサムネイル画像を取得する(ステップ48)。ここで、区間データの開始時間と終了時間との間を均等に分割してサムネイル画像Thを取得するという方法も考えられるが、この方法では、映像の変化の小さな部分も大きな部分も均等に扱われてしまう。その結果、相対的に変化の小さい部分のサムネイル画像Thの枚数が多くなり、ユーザの所望の画像を見つけ出す際の効率が悪くなる。
【0066】
そこで、本実施形態においては、CPU11は、以下に示す2つの方法のうちいずれかを用いて、区間データからサムネイル画像Thを取得する。
【0067】
(サムネイル画像の第1の取得方法)
図8は、当該サムネイル画像Thの第1の取得方法における処理の流れを示したフローチャートであり、図9は、当該サムネイル画像Thの第1の取得方法における処理の概要を示した図である。この手法は、区間データ内の変化量の大きい部分を複数の区間に分割していき、分割点のフレームをサムネイル画像Thとする手法である。
【0068】
図8に示すように、当該第1の方法において、CPU11はまず、取得すべきサムネイル画像Thの枚数を設定する(ステップ81)。上述したように、当該サムネイル画像Thの枚数の枚数は、区間データの変化量に応じて可変される。
【0069】
例えば、区間データの変化量が大きい場合には、その区間データ内の各画像は時間毎に大きく異なったものとなるため、サムネイル画像Thのサイズが小さくてもユーザはそれらの違いを容易に判別することができる。したがってこの場合には、CPU11は、サムネイル画像Thの枚数を多く設定できる。これに対して、区間データの変化量が小さい場合には、区間データ内の各画像は似通ったものとなるため、サムネイル画像Thのサイズがある程度大きくないとユーザはそれらの違いを容易に判別することはできない。したがってこの場合には、CPU11は、サムネイル画像Thのサイズを大きくしてその枚数を少なく設定する。ここで区間データ内の画像の変化量としては、その区間における変化量の最大値や平均値等が用いられる。
【0070】
続いてCPU11は、区間データの先頭フレーム、中間フレーム、終了フレームをそれぞれ参照フレーム群に追加する(ステップ82)。
【0071】
続いてCPU11は、上記参照フレーム群のうち時間的に隣接する2つの参照フレーム間の変化量をそれぞれ取得する(ステップ83)。図9の例では、同図(A)に示すように、CPU11は、先頭フレームFr0と中間フレームFr1との間の変化量、すなわち両フレーム間の差分FrDiff01と、中間フレームFr1と終了フレームFr2との間の変化量、すなわち両フレーム間の差分FrDiff12とをそれぞれ取得する。
【0072】
ここで上記差分FrDiff01及び差分FrDiff12は、例えば、2枚のフレーム間で同一画素位置毎に算出される画素差分を自乗したものの総和により算出される。
【0073】
続いてCPU11は、上記参照フレーム間の差分同士(図9の例では差分FrDiff01と差分FrDiff12)を比較することで、隣接する参照フレームで挟まれる各区間の変化量(差分)の最大値(ここでは、2つの差分のうち大きい方の差分)を取得する(ステップ84)。
【0074】
続いてCPU11は、隣接する参照フレームで挟まれる各区間のうち、上記変化量の最大値を有する区間の中間時間のフレームを参照フレーム群に追加する(ステップ85)。図9の例において、上記差分FrDiff01と差分FrDiff12とでは差分FrDiff01の方が大きいとすると、同図(B)に示すように、CPU11は、先頭フレームFr0と中間フレームFr1の中間時間のフレームFr3を参照フレーム群へ追加する。すなわちCPU11は、先頭フレームFr0と中間フレームFr1との間の区間を2つの区間へと分割する。
【0075】
続いてCPU11は、参照フレーム群に含まれるフレームの枚数が上記設定枚数になったか否かを判断し(ステップ86)、参照フレーム数が設定枚数に満たない場合(No)には、上記ステップ83以降の処理を繰り返す。
【0076】
すなわち、CPU11は、上記追加した参照フレームを含む参照フレーム群のうち隣接する参照フレーム間の変化量(差分)を取得し、それらのうち最大値を取得し、最大値を有する参照フレーム間の中間時間のフレームを参照フレームへ追加する。
【0077】
図9の例では、同図(B)に示すように、CPU11は、先頭フレームFr0と上記追加したフレームFr3との差分FrDiff03と、フレームFr3と上記中間フレームFr1との差分FrDiff31と、上記差分FrDiff12とをそれぞれ比較し、最大値を取得する。そしてCPU11は、それらのうち最大値を有する参照フレーム区間の中間点のフレームを参照フレーム群へ追加する。
【0078】
CPU11は、以上のフレーム追加(区間分割)処理を、参照フレーム群内のフレームの枚数が上記設定枚数となるまで繰り返し、設定枚数となった場合(ステップ86のYes)、設定枚数の参照フレームからそれぞれサムネイル画像Thが生成してサムネイル画像表示部29に表示する(ステップ87)。当該第1の方法におけるサムネイル画像Thの最小時間間隔は1フレーム時間となる。
【0079】
(サムネイル画像の第2の取得方法)
図10は、当該サムネイル画像Thの第2の取得方法における処理の流れを示したフローチャートであり、図11は、当該サムネイル画像Thの第2の取得方法における処理の概要を示した図である。この手法は、区間データから、所定の変化量毎にサムネイル画像Thを取得する方法である。
【0080】
図10に示すように、当該第2の方法において、CPU11はまず、上記第1の方法と同様に、取得するサムネイル画像Thの枚数を設定する(ステップ101)。
【0081】
続いてCPU11は、区間データの開始フレームから終了フレームまでの間の変化量Diffnの総和ΣDiffを算出する(ステップ102)。当該ΣDiffは上記記憶部18または記録媒体5に記憶された変化量データを基に算出される。
【0082】
続いてCPU11は、ΣDiff/(取得するサムネイル数−1)を変化量に関する閾値Σthとして設定する(ステップ103)。当該閾値Σthは、後述するように、区間データが分割された分割区間がそれぞれ有するべき変化量である。
【0083】
続いてCPU11は、区間データの開始フレームを対象フレームとして設定し(ステップ104)、当該対象フレームのサムネイル画像Thを取得(生成)する(ステップ105)。
【0084】
続いてCPU11は、取得したサムネイル画像Thの枚数が、上記設定枚数に達したか否かを判断する(ステップ106)。
【0085】
サムネイル画像Thの枚数が設定枚数に達していないと判断された場合(No)、CPU11は、分割区間の変化量の総和を0に初期化し(ステップ107)、対象フレームの変化量を、分割区間の総和として加算する(ステップ108)。
【0086】
続いてCPU11は、上記加算した分割区間の総和が上記閾値Σth以上となったか否かを判断する(ステップ110)。当該総和が閾値Σth未満であると判断した場合(No)、CPU11は、対象フレームを所定時間(N)経過後のフレームとし、当該対象フレームの変化量を上記分割区間の総和に加算する(ステップ108)。当該Nは、1フレーム時間でもよいし、数フレーム時間、数十フレーム時間等であっても構わない。当該Nが短かいほど、サムネイル画像取得のための演算量は大きくなる。
【0087】
CPU11はこの処理を、分割区間の総和が上記閾値Σth以上となるまで繰り返す。分割区間の総和が閾値Σth以上となった場合(ステップ110のYes)、CPU11は、その時点の対象フレームのサムネイル画像Thを取得する(ステップ105)。
【0088】
CPU11は、以上の処理を、サムネイル画像Thの総数が設定枚数となるまで繰り返し、設定枚数に到達した場合には(ステップ106のYes)、取得したサムネイル画像Thをサムネイル画像表示部29に表示する(ステップ111)。
【0089】
以上の処理により、図11に示すように、例えばサムネイル画像の枚数が7枚に設定された場合、区間データは6つの分割区間に分割され、各分割区間の変化量の総和はそれぞれほぼΣthに等しくなる。すなわち、区間データが変化量について均一に所定区間に分割され、その分割点のフレームがサムネイル画像Thとされる。当該第2の方法におけるサムネイル画像Thの最小時間間隔は上記Nとなる。
【0090】
図4に戻り、CPU11は、対象フレームがプレビュー映像の終了フレームとなるまで、またマーカーボタン31が押下される度に、以上の処理を繰り返す(ステップ49)。
【0091】
以上の処理によりマーカー画像M(区間データ)が設定された後に、マーカー選択ボタン32によりマーカー画像Mを選択する操作が入力されると(ステップ51のYes)、CPU11は、当該マーカー画像Mに対応する区間データをプレビューモニタ23で繰り返し再生させるとともに、上記サムネイル画像表示部29に、当該区間データの変化量に応じた枚数のサムネイル画像Thを表示させる(ステップ52)。これによりユーザは、プレビューモニタ23の映像とともにサムネイル画像Thを確認することで、区間データ中から、例えば映像や音声のエフェクト処理やテロップ挿入処理等の編集対象となる所望のフレームを効率よく選定することができる。
【0092】
[まとめ]
以上説明したように、本実施形態によれば、映像編集装置100は、映像データの変化量が大きいフレームは低速に、変化量が小さいフレームは高速にプレビュー再生することで、ユーザのプレビュー効率を向上させることができる。また映像編集装置100は、プレビュー中にマーカーボタン31が押下された場合、変化量に応じた継続時間長の区間データを抽出し、それに対応するマーカー画像Mを表示するとともに、当該区間データ内のフレームのうち所定枚数のフレームのサムネイル画像Thを表示する。これにより映像編集装置は、変化量の大きいフレームを重点的に閲覧させることで、ユーザが所望のフレームを見つけ出す作業をより効率化することができるとともに、ユーザがプレビュー再生時に見逃した画像があったとしてもそれを容易に確認させることができる。
【0093】
[変形例]
本発明は上述の実施形態にのみ限定されるものではなく、本発明の要旨を逸脱しない範囲内において種々変更され得る。
【0094】
上述の実施形態においては、サムネイル画像表示部29に表示されるサムネイル画像Thは、一旦表示されれば、他のマーカー画像Mが選択されない限り変化しなかった。しかし、サムネイル画像表示部29に表示される所定枚数のサムネイル画像Thの中に、必ずしもユーザの所望の画像が存在するとは限らない。そこで、映像編集装置100は、当該表示されるサムネイル画像Thを、ユーザの操作に基づいて変化させてもよい。
【0095】
図12は、当該サムネイル画像Thを変化させる際の映像編集インタフェース30の表示例を示した図である。同図(A)に示すように、例えばポインタP等により、サムネイル画像表示部29に表示された複数のサムネイル画像Thのうち、隣接する2枚のサムネイル画像Thの間の領域を指定する操作(例えばクリック)が行われたとする。
【0096】
この場合、CPU11は、同図(B)に示すように、2つの操作対象領域の左右の2枚のサムネイル画像Thのうち左側のサムネイル画像Th(同図Fr0)を開始時間、右側のサムネイル画像Th(同図Fr1)を終了時間とする区間データが新たに設定されたものとして、当該区間データ内のサムネイル画像Th(Fr0、Fr5,Fr6、Fr7、Fr1)を新たに取得してサムネイル画像表示部29に表示する。この場合のサムネイル画像Thの取得方法としては、上記第1の取得方法及び第2の取得方法のいずれが用いられてもよい。ユーザは、この操作を繰り返すことで、所望の画像を容易に探し出すことができる。
【0097】
また、上述の実施形態において、サムネイル画像表示部29に表示された各サムネイル画像Thが例えばクリック等により選択された場合には、当該選択されたサムネイル画像Thに対応するフレームを開始フレームとして、上記プレビューモニタ23上で区間データが再生されてもよい。すなわち、各サムネイル画像Thが、マーカー画像Mよりもさらに詳細な再生ポイントの指示子として機能してもよい。
【0098】
上述の実施形態においては、変化量取得部21は映像編集装置100の内部ブロックとして設けられ、映像編集装置100が映像データから変化量を取得していた。しかし、映像の変化量に関するデータは、映像編集装置100とは別の機器により予め取得されて記録媒体5に映像データとともに記録され、映像編集装置100へ入力されてもよい。
【0099】
上述の実施形態において、映像編集インタフェース30には、区間データに応じたサムネイル画像Thが表示されたが、当該サムネイル画像Thの表示は必須ではなく、マーカー画像Mが選択された場合には、当該マーカー画像Mに対応する区間データがプレビューモニタ23上で再生されるのみであっても構わない。
【0100】
上述の実施形態において映像編集装置100により実行される処理は、例えばPC、テレビジョン装置、記録再生装置、ゲーム機器、デジタルスチルカメラ、デジタルビデオカメラ、携帯電話機、スマートフォン、PDA(Personal Digital Assistants)、電子ブック端末、電子辞書、携帯型AV機器等、その他のあらゆる電子機器でも同様に実行可能である。
【符号の説明】
【0101】
11…CPU
16…表示部
17…入力部
18…記憶部
21…変化量取得部
22…再生部
23…プレビューモニタ
24…プレビュー速度設定部
25…マーカー設定部
26…マーカーコントローラ
27…マーカー表示部
28…サムネイル画像取得部
29…サムネイル画像表示部
30…映像編集インタフェース
31…マーカーボタン
32…マーカー選択ボタン
100…映像編集装置

【特許請求の範囲】
【請求項1】
複数のフレームで構成される映像データと、前記複数のフレーム間の変化量を示す変化量データとを記憶する記憶部と、
前記映像データを、前記フレーム間の変化量が大きいほど低い再生速度で再生する再生部と、
前記再生された映像データを出力する出力部と、
前記映像データの出力中に任意の再生点を指定するユーザの操作を受け付ける操作受付部と、
前記操作が受け付けられたときに、前記再生点を含む複数のフレームからなる区間データを、当該区間データの時間長が前記再生点における前記再生速度が大きいほど長くなるように抽出し、前記映像データを、当該抽出された区間データ単位で再生するように前記再生部を制御する制御部と
を具備する電子機器。
【請求項2】
請求項1に記載の電子機器であって、
前記制御部は、前記映像データにおける当該区間データの位置及び前記時間長を示し当該区間データを再生させるための操作の対象となるマーカー画像を出力するように前記出力部を制御する
電子機器。
【請求項3】
請求項2に記載の電子機器であって、
前記制御部は、前記区間データから、複数のフレームを、前記変化量が大きいほどフレーム間隔が小さくなるように抽出し、当該抽出された各フレームの各サムネイル画像を前記マーカー画像とともに出力するように前記出力部を制御する
電子機器。
【請求項4】
請求項3に記載の電子機器であって、
前記制御部は、前記マーカー画像を対象とした操作が受け付けられたときに、当該マーカー画像が示す区間データの各フレームを再生するように前記再生部を制御し、かつ、当該区間データから抽出された前記各サムネイル画像を出力するように前記出力部を制御する
電子機器。
【請求項5】
請求項3に記載の電子機器であって、
前記制御部は、前記区間データに含まれる各フレームのうち、開始点、中間点及び終了点にそれぞれ位置する第1、第2及び第3のフレームを抽出し、前記第1のフレームと前記第2のフレームとの間の第1の変化量と、前記第2のフレームと前記第3のフレームとの間の第2の変化量のうち、大きい方の変化量が算出された2つのフレームの中間点に位置する第4のフレームを抽出し、前記抽出された第1、第2、第3及び第4のフレームの各サムネイル画像を生成する
電子機器。
【請求項6】
請求項3に記載の電子機器であって、
前記制御部は、前記区間データから、所定の変化量毎に複数のフレームを抽出し、当該抽出された各フレームのサムネイル画像を生成する
電子機器。
【請求項7】
請求項3に記載の電子機器であって、
前記制御部は、前記出力された複数のサムネイル画像のうち隣接する2つのサムネイル画像の境界に対して操作が受け付けられた場合に、当該隣接する2つのサムネイル画像の元となる2つのフレームの間に位置するフレームのサムネイル画像を出力するように前記出力部を制御する
電子機器。
【請求項8】
複数のフレームで構成される映像データと、前記複数のフレーム間の変化量を示す変化量データとを記憶し、
前記映像データを、前記フレーム間の変化量が大きいほど低い再生速度で再生し、
前記再生された映像データを出力し、
前記映像データの出力中に任意の再生点を指定するユーザの操作を受け付け、
前記操作が受け付けられたときに、前記再生点を含む複数のフレームからなる区間データを、当該区間データの時間長が前記再生点における前記再生速度が大きいほど長くなるように抽出し、
前記映像データを、前記抽出された区間データ単位で再生する
映像編集方法。
【請求項9】
電子機器に、
複数のフレームで構成される映像データと、前記複数のフレーム間の変化量を示す変化量データとを記憶するステップと、
前記映像データを、前記フレーム間の変化量が大きいほど低い再生速度で再生するステップと、
前記再生された映像データを出力するステップと、
前記映像データの出力中に任意の再生点を指定するユーザの操作を受け付けるステップと、
前記操作が受け付けられたときに、前記再生点を含む複数のフレームからなる区間データを、当該区間データの時間長が前記再生点における前記再生速度が大きいほど長くなるように抽出するステップと、
前記映像データを、前記抽出された区間データ単位で再生するステップと
を実行させるプログラム。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7】
image rotate

【図8】
image rotate

【図9】
image rotate

【図10】
image rotate

【図11】
image rotate

【図12】
image rotate


【公開番号】特開2011−250095(P2011−250095A)
【公開日】平成23年12月8日(2011.12.8)
【国際特許分類】
【出願番号】特願2010−120641(P2010−120641)
【出願日】平成22年5月26日(2010.5.26)
【出願人】(000002185)ソニー株式会社 (34,172)
【Fターム(参考)】