説明

映像処理装置およびその制御方法

【課題】 複数のカットの好ましくない連結を防止する。
【解決手段】 映像の断片であるカットを連結する処理を行う映像処理装置であって、各カットについて、フレーミングまたは該カットを撮影した際のカメラモーションを特定する特定手段と、連結されるカット同士の前記フレーミングまたはカメラモーションが同じにならないように、前記各カットを連結する連結手段を備えることを特徴とする。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、映像を編集する映像処理装置に関する。
【背景技術】
【0002】
近年、デジタルカメラ、デジタルビデオカメラなどの普及により、デジタルデータとして符号化された映像が手軽に入手でき、これらの映像を編集する機会も増えつつある。
【0003】
映像の編集技術としては、例えば、特許文献1のようなものが知られている。そこでは、予め決められたルールに基づいて、複数の素材から構成された映像を作成する。
【先行技術文献】
【特許文献】
【0004】
【特許文献1】特開2009−55152号公報
【発明の概要】
【発明が解決しようとする課題】
【0005】
映像の断片(カット)を連結する作業において、視聴者によって、好ましい連結の種類と好ましくない連結の種類が存在し得る。例えば、複数のカットが連結された映像を視聴者が見たときに、その映像の全体的な空間認識が上手くできないことは好ましくない。あるいは複数のカットを用いて編集したにもかかわらず、単調な映像であった場合には、視聴者はそれを見て飽きてしまう。
【0006】
本発明は上記点に鑑みてなされたものであり、複数のカットの好ましくない連結を防止することを主な目的とする。
【課題を解決するための手段】
【0007】
上記課題を解決するために、本発明の映像処理装置によれば、映像の断片であるカットを連結する処理を行う映像処理装置であって、各カットについて、フレーミングまたは該カットを撮影した際のカメラモーションを特定する特定手段と、連結されるカット同士の前記フレーミングまたはカメラモーションが同じにならないように、前記各カットを連結する連結手段を備えることを特徴とする。
【発明の効果】
【0008】
本発明によれば、複数のカットの好ましくない連結を防止することができ、結果的に、編集後の映像を視聴者に好ましいものとすることができる。
【図面の簡単な説明】
【0009】
【図1】映像処理装置のハードウェア構成の一例を示す図
【図2】映像処理装置の機能構成を示す図
【図3】映像処理装置の画面を示す図
【図4】実施形態1の動作手順を示す図
【図5】映像自動編集処理の手順を示す図
【図6】カット選択条件を変更する処理手順を示す図
【図7】テンプレートの一例を示す図
【図8】映像特徴情報の一例を示す図
【発明を実施するための形態】
【0010】
[実施形態1]
図1は、本実施形態に適用される映像処理装置(映像編集装置とも呼ぶ)のハードウェア構成の一例を示したものである。本実施形態における映像処理装置は、後述するテンプレートを用いて、編集された映像を作成する。図1において、CPU1は、Central Processing Unitである。また、ROM2は、Read Only Memoryであり、HDD3は、Hard Disk Driveである。本実施形態では、CPU1が、ROM2やHDD3に格納されている制御プログラムを読み出して実行し、各デバイスを制御する。この制御プログラムは、本実施形態で説明される各種動作の制御プログラムである。ROM2は、上記制御プログラムやそのプログラムに利用される各種データを保持する。RAM(Random Access Memory)4は、CPU1の上記プログラムのワーク領域、エラー処理時のデータの退避領域、上記制御プログラムのロード領域などを有する。HDD3は、上記各種制御プログラムや各種データを格納する。入力・表示装置5は、ユーザから情報を映像処理装置に入力すると共に、後述する各種処理結果を表示する。CPUバス6は、アドレスバス、データバス及びコントロールバスを含む。なお、上記制御プログラムは、ROM2又はHDD3に予め記憶されていてもよいし、必要に応じて通信路を介して外部装置などから受理し、ROM2又はHDD3に記憶しても良い。CPU1は、ROM2又はHDD3等に記憶されているプログラムを実行することにより、後述する映像処理装置の各種機能あるいは後述するフローチャートの各種動作を実行する。
【0011】
図2は、映像処理装置(映像編集装置)の機能構成を示す図である。映像編集装置201は上記映像処理装置に相当し、情報記憶部202に記憶されている映像の素材を用いて、新たな映像(編集映像)を作成する。本実施形態では、上記映像の素材のうち所望の複数を次々に連結することにより映像を作成するものである。情報記憶部202は例えばHDD3に相当するものであり、1つ以上の映像データ、映像データに付与されているメタデータ、映像データの解析結果である解析情報、後述するテンプレートなどを記憶(格納)している。映像読出部203は、情報記憶部202に記憶されている映像データを読み出す。編集映像レンダリング部204は、映像読出部203により読み出された映像データと、後述するエフェクト付与部207により付与されたエフェクトとを合成し、レンダリングする。編集映像表示部205は、編集映像レンダリング部204でレンダリングされた映像(編集映像)を表示する。なお、この表示部はタッチパネルディスプレイの表示部として機能し、後述する操作検知部216と協働して、ユーザからの画面操作を受け付けるグラフィックユーザインタフェースとなっている。カット結合部206は、カット選択部210で選択された複数のカット(映像の断片)に関する情報を結合する。エフェクト付与部207は、エフェクト情報読出部214で読み出されたエフェクト付与に関する情報(エフェクトの種類やエフェクトを付与する期間情報)に基づいて、複数のカットが結合された映像にエフェクトを付与する。素材映像データ選択部208は、ユーザの指示に基づいて、上記編集映像の作成に用いる素材となる映像データを選択する。そして、選択された映像データのファイル名を、映像特徴情報取得部209に通知する。映像特徴情報取得部209は、素材映像データ選択部208から通知された“選択された映像データ”に関する映像特徴情報を、映像データに付与されたメタデータから取得する。この映像特徴情報とは、映像内のカメラモーション(ズーム、パン、チルト、ドリー等)や、被写体の大きさを示す情報(フレーミング等)である。このフレーミングには、例えば、LS(ロングショット)、FF(フルフィギュア)、KS(ニーショット)、BS(バストショット)、UP(アップショット)などの種類が存在する。これらは周知の構図なので詳細説明は省略する。なお、映像特徴情報の取得方法は上記に限らず、映像データを解析することによって取得しても良い。図8に、映像特徴情報の一例を示しておく。映像データの映像解析結果801において、ファイル名videoA.mpg、ファイル名videoB.mpgの映像解析結果が記載されている。ファイル名videoA.mpgの映像解析結果802を見てわかるように、映像の構図の解析結果803、カメラモーションの解析結果804、805などが記載されている。解析結果803において、<Framing start=0 end=1000>LS</Framing>は、0〜1000の映像フレームが、LSの構図であると解析されたことを示す。LSとは被写体が小さく映っている構図である。また、<Framing start=1000 end=1500>FF</Framing>は、1000〜1500の映像フレームが、FFの構図であると解析されたことを示す。FFとは被写体全体が大きく映っている構図である。カメラモーションの解析結果804において、<Pan start=500 end=800>RIGHT</Pan>は、500〜800の映像フレームで、右方向のパンが行われたと解析されたことを示す。カメラモーションの解析結果805において、<Zoom start=1200 end=1500>IN</Zoom>は、1200〜1500の映像フレームで、ズームインが行われたと解析されたことを示す。図2のカット選択部210は、映像特徴情報取得部209で取得された上記映像特徴情報と、後述するカット選択条件読出部213で読み出されたカット選択条件とに基づいて、カット結合部206に供給する複数のカットに相当する映像データを選択する。ここでの選択は、例えば、ファイル名、利用する区間(イン点、アウト点)を指定することにより行われる。カット映像特徴情報取得部211は、カット選択部210からカット結合部へ供給することが確定しているカット(映像の断片)と、それに隣接するカット(映像の断片)に関する映像特徴情報をそれぞれを取得する。カット選択変更部212は、カット映像特徴情報取得部211で取得された映像特徴情報に基づいて、後述するカット選択条件読出部213で読み出すカット選択条件を変更する。このカット選択条件の変更方法の幾つかの例を、以下で説明する。ある一例としては、カット選択変更部212には、「カット選択部210からカット結合部へ供給することが確定しているカット(映像の断片)の映像特徴情報が、類似する映像特徴情報を持つ映像を次の連結対象として選択しない」という基準を設定しておく。例えば、連結される前方のカットに相当する映像にパンのカメラモーションが含まれていたら、連結される後方のカットはパンのカメラモーションが含まれないものを優先的に選択する。また別の一例としては、カット選択変更部212には、「カット選択部210からカット結合部へ供給することが確定しているカットに被写体が含まれている場合に、類似する被写体の大きさを含む映像を次の連結対象として選択しない」という基準を設定しておく。これにより、例えば、この連結部分でシーンが変更されたにもかかわらず、変更されたことを感じない不都合を回避できる。また別の一例としては、「カット選択部210からカット結合部へ供給することが確定しているカット(映像の断片)にパンのカメラモーションが含まれていたら、次の連結対象のカットはカメラモーションを含まないものに限定する」等の制約を付けても良い。また、変更しないカット選択条件を、保護条件指定を通してユーザが任意に指定することができる。この場合、ユーザの意図を反映しつつ、視聴者が違和感を感じる映像の作成を防止できる。カット選択条件読出部213は、後述するテンプレートに基づいて、カット結合部に供給するカットを規定するカット選択条件を読み出す。例えば、この条件とは、被写体がある所定の大きさで映っている映像、パン、ズームのカメラモーションがある映像等である。図7は、上記テンプレートの一例である。テンプレート701において、カットに関する情報702と、カット間をつなぐ変移(トランジション)に関する情報705が記載されている。具体的にカットに関する情報702には、このカットに用いる映像の構図の情報703と、このカットで使用するエフェクトの情報704が含まれる。映像の構図の情報703における、Framing=LS and Pan=0 and Zoom=0は、映像の構図がLSであり、パンとズームが行われていない映像を、選択する条件である。エフェクトの情報704における、<Filter>Motion Blur</Filter>は、エフェクトとして、“モーションブラー”のフィルタを使用することを示す。カット間をつなぐ変移(トランジション)に関する情報705において、<Transition>Fade</Transition>は、カットid=1とカットid=2の間で、フェードのトランジションを使用することを示している。なお、テンプレートについてはこれに限らず、隣接するカットで選択された、映像データの映像特徴情報に基づいて、カット選択条件を変更するようにしても良い。情報706は、カットid=1で選択した映像データでパンが検知された場合に、カットid=2ではパンが検知された映像データを選択しないことを示す。エフェクト情報読出部214は、上記テンプレートから、エフェクト付与部207で適用するエフェクトに関するエフェクト情報704を読み出す。このエフェクト情報としては、そこで付与するエフェクトの種類に加え、エフェクトを付与する期間を示すことも可能である。テンプレート選択部215は、ユーザに指定された上述のテンプレートを選択する。操作検知部216は、ユーザによる操作(画面の一部へのタッチあるいは押下)を検知する機能を備えた部材であり、上述した表示部205と協働してタッチパネルディスプレイの役割を担っている。制御部217は、上述した各処理部の動作を逐次監視し、後述する各種手順に従った動作を行うべく、各処理部の動作を制御するための処理部である。従って、以下において特に後述しない場合には、その動作を行う主体の一部として制御部217が関わっていると理解しても構わない。
【0012】
図3は、映像編集装置201の表示部205および操作検知部216に相当するタッチパネルディスプレイの画面を示したものである。図3(a)は画面の全体を示している。この画面301上には、映像選択ボタン302、テンプレート選択ボタン303、映像編集開始ボタン304、終了ボタン305が表示されている。また、映像表示領域306の内部には、複数の映像ファイル307がアイコンとして一覧表示されている。また、画面全体にアイコン307が収まらない場合には、自動的にスクロールバーなどが表示され、スクロール表示なども出来るようにしてかまわない。なお、これら映像ファイル307のそれぞれは、編集対象の素材であり、上述した映像の断片(カット)のそれぞれに相当するものであると理解されたい。また、画面301上には矢印マーク308を表示することができ、矢印マーク308を移動させることで表示中の映像ファイル307の幾つかを選択することができる。なお、この矢印マーク308の移動は、ユーザによるタッチパネルディスプレイへのタッチ(ドラッグ)によって行っても良いし、マウス等の別の操作部材によって間接的に移動させても良い。また、ここで選択された映像ファイル307は、選択中であることが理解できるように、その周りに太枠309が表示される。また、この選択は、一覧表示されたアイコン307を離散的に選択することもできる。これについては周知技術であるので詳細説明は省略する。
【0013】
図3(b)は画面の一部である領域302を拡大した様子である。なお、それぞれの映像ファイル307を示すアイコンには、上述した映像特徴情報に基づくマークが重ねて表示される。例えば、ある映像ファイルについて、ズーム操作がある場合にはZマークが表示される。また例えば、ある映像ファイルについて、パン操作がある場合にはPマークが表示される。また例えば、ある映像ファイルについて、チルト操作がある場合にはTマークが表示される。また例えば、ある映像ファイルのフレーミングがLSの場合にはF1マークが表示される。また例えば、ある映像ファイルのフレーミングがFFの場合にはF2マークが表示される。また例えば、ある映像ファイルのフレーミングがKSの場合にはF3マークが表示される。また例えば、ある映像ファイルのフレーミングがBSの場合にはF4マークが表示される。また例えば、ある映像ファイルのフレーミングがUPの場合にはF5マークが表示される。また例えば、ある映像ファイルのフレーミングが上記F1〜F5の何れにも該当しない場合にはF6マークが表示される。なお、ここでは、Zマーク、Pマーク、Tマークなどは、対象となる映像ファイルに該当する操作がある場合に、独立して表示されれば良い。その一方で、F1〜F6マークは、対象となる映像ファイルにおいて、もっとも該当する時間帯が長かったフレーミングの種類を該当するものを特定することにより、何れかが表示されれば良い。例えば、5分間の映像ファイルのフレーミングの種類を特定する場合に、LSに該当する時間帯が1分間で、FFに該当する時間帯が4分間だった場合には、FFを示すF2マークをアイコン上に表示するものとする。
【0014】
図4は、映像編集装置201(映像処理装置)による一連の動作を示すフローチャートである。電源ONなど、何等かのトリガに基づいて映像を編集する動作モードが開始された場合に、以下の各ステップを実行する。まず、ステップS401では、検知部216は、ユーザによって終了ボタン305が押されたかどうかを検知する。これが検知された場合には、映像を編集する動作モードを終了する。もしこれが検知されていない場合には、ステップS402へ進む。ステップS402では、ユーザによって映像選択ボタン302の押下が行われたかどうかを検知する。もしこれが検知された場合には、ステップS403へ進む。一方、これが検知されない場合にはステップS401へ戻る。ステップS403では、映像の断片(カット)を選択させる処理を行う。ここではまず、映像表示領域306の内部に、予め情報記憶部202に記憶されている各映像データに相当する映像ファイル307を一覧表示する。ここでは、上記図3で説明したように、映像ファイル307はアイコンとして表示される。ここでは、更に、ユーザによっていずれの映像ファイル307が選択されたのかも検知し、選択された映像ファイル307に該当するアイコンの外側に、太枠309を重ねて表示する。ステップS404では、ユーザによってテンプレート選択ボタン303が押されたかどうかを検知する。もしこれが検知された場合にはステップS405へ進む。もしこれが検知されない場合にはステップS401に戻る。ステップS405では、テンプレートを選択させる処理を行う。具体的には、ユーザによる選択指示に基づいて、情報記憶部202に記憶されているテンプレートファイルのなかから、1つのテンプレートファイルを特定する。なお、上記選択指示の認識およびテンプレートファイルの記憶位置の特定などは、テンプレート選択部215が行うものとする。ステップS406では、ユーザによって映像編集開始ボタン304が押されたかどうかを検知する。もしこれが検知された場合にはステップS407へ進む。もしこれが検知されない場合にはステップS401に戻る。ステップS407では、後述する映像自動編集処理を行う。
【0015】
図5は、上記ステップS407における映像自動編集処理の動作手順を示すフローチャートである。ステップS501では、カットを選択する条件を読み出す。上述したように、テンプレート選択部215を介して、ユーザによって選択指示されることにより、テンプレートファイルは特定されている。ここでは、テンプレート選択部215は選択されたテンプレートファイルを読み出す。これに続いて、カット選択条件読出部213では、上記読み出されたファイルの内部から、カットを選択する条件を示す情報(カット選択条件)を読み出す。ステップS502では、カット選択部210によって以後に読み出して処理する候補となるカット(自動編集されるべき未処理のカット)が存在するか否かを判定する。もし候補となるカットが存在しない場合には、ステップS508へ進む。一方、もし候補となるカットが存在する場合には、ステップS503へ進む。ステップS503では、カット選択部210において新たに処理対象となっている注目のカットに対して、その前に処理されたカットが存在していたか否かを判定する。もし存在していた場合にはステップS509へ進む。もし存在していない場合には、ステップS504に進む。ステップS509では、カット選択変更部212によって、以前のカットで選択されたものの映像特徴情報に基づいて、カット選択条件を変更する。このカット選択条件の変更処理については後述する。ステップS504では、上述した処理の候補となるカットのうち、読み出し済みのカット選択条件に合うカットを検索し、条件に一番近いカットを選択する。ステップS505では、カット結合部206によって、検索、選択されたカットを、現在の累積結合している映像データ(編集映像)の末尾に結合する。ステップS506では、上記選択されたテンプレートファイルから、エフェクト情報読出し部214によって、映像に付与するエフェクトに関する情報(エフェクト情報)を読み出す。ステップS507では、エフェクト付与部207によって、上記読み出されたエフェクト情報に基づいて、これまでに累積結合された映像データ(編集映像)にエフェクトを付与する。ステップS508では、編集映像レンダリング部204によって、これまで累積結合された映像データ(編集映像)をレンダリングする。そして、表示部205に、レンダリングされた映像またはそれに相当するアイコンを表示し、映像自動編集処理(ステップS407)を終了する。
【0016】
図6は、ステップS509におけるカット選択条件変更の手順を示すフローチャートである。ステップS601では、カット選択条件読出部213で読み出されたカット選択条件を、カット選択変更部212に通知する。ステップS602では、次に選択されるカットの直前に選択されたカット(累積結合されている映像データにおける最後のカット)の映像特徴情報を、カット選択変更部212に通知する。ステップS603では、カット選択条件に「前回と同じフレーミングを選択しないこと」が含まれているか否かの判定を行う。これは次々に結合されたカットにおいて、隣接するカットのフレーミングの種類が同じになっていることを嫌う場合に設定される条件である。もし、上記条件として、同じフレーミングを選択しないことが含まれている場合には、ステップS606に進む。そうでない場合にはステップS604に進む。ステップS604では、カット選択条件に「前回と同様のズーム操作を含むカットを選択しないこと」が含まれているか否かの判定を行う。もし、上記条件として、同様のズーム操作を含むカットを選択しないことが含まれている場合には、ステップS607に進む。そうでない場合にはステップS605に進む。ステップS605は、カット選択条件に「前回と同様のパンまたはチルト操作を含むカットを選択しないこと」が含まれているか否かの判定を行う。もし、上記条件として、同様のパンまたはチルト操作を含むカットを選択しないことが含まれている場合には、ステップS608に進む。もしそうでない場合にはステップS601に進む。ステップS606では、カット選択変更部212において、カット選択条件として、「次に選択されるカットの直前に選択されたカット(累積結合されている映像データにおける最後のカット)と同じフレーミングを選択しない」ための選択条件に更新する。例えば、直前のカットのフレーミングがFFだった場合には、「FF以外を選択する」という選択条件を設定する。ステップS607では、カット選択変更部212において、カット選択条件として、「前回と同様のズーム操作を含むカットを選択しない」ための条件に変更する。例えば、直前のカットがズームイン操作を含んでいる場合には、「ズームアウトもしくはズーム操作がなされていないカットを選択する」という選択条件を設定する。ステップS608は、カット選択変更部212で、カット選択条件として、「前回と同様のパン操作を含むカットを選択しない」ための条件に変更する。例えば直前のカットが右方向へのパン操作を含んでいる場合には、「右方向以外の方向へパンまたはチルトしているか、パンまたはチルト操作を含まないカットを選択する」という選択条件を設定する。以上のように条件を変更した後に、その設定された条件に基づいて、次に結合されるカットを選択することにより、次々に結合されるカットにおいて、同様のフレーミングやカメラ撮影条件で撮影されたカットが連続することを回避できる。
【0017】
なお、上記説明においては、カット選択条件として、「前回と同じフレーミングを選択しないこと」としたが、少し条件をゆるめて「前回と類似したフレーミングを選択しないこと」という、更に強い制限を課すことも可能である。この場合には、それぞれのフレーミングにおいて相互の類似度を求めておき、次のカットの選択時においては、類似度が閾値以上のカット群を、上述したような「同じフレーミング」であると判断すれば良いであろう。
【0018】
ところで、自動編集される候補のカットが残っているにも関わらず、残りのカットが“選択条件”に合致しない場合もあるだろう。その場合には、それらカットを元の配列順に結合しても良い。もしくは、ユーザが編集対象として選択したカットではあるもの、そのカットは結合対象から除外してしまうという例外処理も可能であろう。
【0019】
以上によれば、結合される直前のカットと次のカットにおいて、カメラモーションやフレーミングの種類が異なるようにできる。従って、複数のカットが連結された映像を視聴者が見たときに、その映像の全体的な空間認識を誤解することが少なくなる。また、複数のカットを含んでいるにも関わらず、視聴者が単調な映像に感じてしまうようなことが無くなる。
【0020】
[変形例]
上記実施形態では、単純に、結合されるカット同士のカメラモーションが異なっているように、次々にカットを選択、結合していたが、本発明はこれに限らない。例えば、連続するカットについて、カメラモーションの有無が繰り返されるように選択基準を設定しても良いであろう。このようにすることによっても、視聴者にとっては、十分にカットの変更が理解できるであろう。
【0021】
なお、本発明には、上述した機能構成の個々を処理回路として備え、これらを組み合わせて1つの装置を形成する場合なども範疇として含まれる。また、上記実施形態の各工程や機能を実現するソフトウェア(コンピュータプログラム)を、ネットワークや記憶媒体を介してシステムに供給し、そのシステムのコンピュータ(またはCPU等)が上記プログラムを読み込んで実行する処理も範疇に含まれる。また、上記コンピュータプログラムや、それを記憶したコンピュータ可読記憶媒体も本発明の範疇に含まれる。

【特許請求の範囲】
【請求項1】
映像の断片であるカットを連結する処理を行う映像処理装置であって、
各カットについて、フレーミングまたは該カットを撮影した際のカメラモーションを特定する特定手段と、
連結されるカット同士の前記フレーミングまたはカメラモーションが同じにならないように、前記各カットを連結する連結手段を備えることを特徴とする映像処理装置。
【請求項2】
前記カメラモーションにはパン、チルト操作が含まれることを特徴とする請求項1に記載の映像処理装置。
【請求項3】
前記フレーミングには、ロングショット、フルフィギュア、ニーショット、バストショット、アップショットを含むことを特徴とする請求項1に記載の映像処理装置。
【請求項4】
コンピュータに読み込み込ませ実行させることで、前記コンピュータを請求項1乃至3のいずれか1項に記載の映像処理装置として機能させるコンピュータプログラム。
【請求項5】
請求項4に記載のコンピュータプログラムを記憶したことを特徴とするコンピュータ可読記憶媒体。
【請求項6】
映像の断片であるカットを連結する処理を行う映像処理装置の制御方法であって、
特定手段により、各カットについて、フレーミングまたは該カットを撮影した際のカメラモーションを特定する特定工程と、
連結手段により、連結されるカット同士の前記フレーミングまたはカメラモーションが同じにならないように、前記各カットを連結する連結工程を備えることを特徴とする映像処理装置の制御方法。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7】
image rotate

【図8】
image rotate


【公開番号】特開2012−156801(P2012−156801A)
【公開日】平成24年8月16日(2012.8.16)
【国際特許分類】
【出願番号】特願2011−14220(P2011−14220)
【出願日】平成23年1月26日(2011.1.26)
【出願人】(000001007)キヤノン株式会社 (59,756)
【Fターム(参考)】