動画撮影システム、動画解析装置、動画解析方法およびコンピュータプログラム
【課題】複数台のカメラを用いて同時に撮影した複数の動画像を簡易に精度よく同期させることができるようにする。
【解決手段】信号光を発光する信号発光装置と、動画像を撮影する動画撮影装置とを備えた動画撮影システムであって、動画撮影装置は、撮影した動画像のフレーム毎に、前記信号光が含まれているか否かを判定し、判定結果を信号光検出フレーム情報として検出する信号光検出部と、前記信号光検出フレーム情報から、前記信号光の所定の発光パターンを検出し、検出された発光パターンと検出されたフレーム位置に関する情報とを対応付けた同期ポイントリストを生成する同期ポイント検出部とを備える。
【解決手段】信号光を発光する信号発光装置と、動画像を撮影する動画撮影装置とを備えた動画撮影システムであって、動画撮影装置は、撮影した動画像のフレーム毎に、前記信号光が含まれているか否かを判定し、判定結果を信号光検出フレーム情報として検出する信号光検出部と、前記信号光検出フレーム情報から、前記信号光の所定の発光パターンを検出し、検出された発光パターンと検出されたフレーム位置に関する情報とを対応付けた同期ポイントリストを生成する同期ポイント検出部とを備える。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、複数台のカメラを用いて同時に撮影した複数の動画像を簡易に同期させるための技術に関する。
【背景技術】
【0002】
同一の対象物を複数台のカメラを用いて同時に撮影することがある。例えば、スポーツのフォームチェックや実験映像の撮影、映画撮影等においてよく行なわれている。このような撮影を行なった場合は、同時に撮影された別々の動画を同期させて再生したいことが多く、そのための技術がいくつか提案され、実用化されている
【0003】
例えば、業務用途では、ゲンロック(Generator Lock)と呼ばれる同期信号を発生する装置を用いて、各カメラが撮影する映像を同期させることができ、同期信号を基準に各映像を同期させて再生することができる。
【0004】
また、特許文献1には、動画と一緒に記録された音響データから特徴パラメータを抽出し、特徴パラメータの類似度から複数の動画の同期を取ることが提案されている。
【先行技術文献】
【特許文献】
【0005】
【特許文献1】特開2008−47998号公報
【発明の概要】
【発明が解決しようとする課題】
【0006】
同期信号を発生させる装置を用いることは、大がかりであり一般的な用途には向かない。また、音響データから抽出された特徴パラメータの類似を用いる方法は、一般用途で簡易に行なうことができるが、無音やノイズの多い撮影環境では同期の精度が低くなってしまう。
【0007】
そこで、本発明は、複数台のカメラを用いて同時に撮影した複数の動画像を簡易に精度よく同期させることができるようにすることを目的とする。
【課題を解決するための手段】
【0008】
上記課題を解決するため、本発明の第1の態様である動画撮影システムは、信号光を発光する信号発光装置と、動画像を撮影する動画撮影装置とを備えた動画撮影システムであって、前記動画撮影装置は、撮影した動画像のフレーム毎に、前記信号光が含まれているか否かを判定し、判定結果を信号光検出フレーム情報として検出する信号光検出部と、前記信号光検出フレーム情報から、前記信号光の所定の発光パターンを検出し、検出された発光パターンと検出されたフレーム位置に関する情報とを対応付けた同期ポイントリストを生成する同期ポイント検出部とを備えたことを特徴とする。
上記課題を解決するため、本発明の第2の態様である動画解析装置は、入力した動画像のフレーム毎に、所定の信号光が含まれているか否かを判定し、判定結果を信号光検出フレーム情報として検出する信号光検出部と、前記信号光検出フレーム情報から、前記信号光の所定の発光パターンを検出し、検出された発光パターンと検出されたフレーム位置に関する情報とを対応付けた同期ポイントリストを生成する同期ポイント検出部とを備えたことを特徴とする。
ここで、信号光の発光パターンを記録した発光パターンリストと、前記同期ポイントリストと前記発光パターンリストとから入力した動画像のフレーム毎に、前記信号光が含まれているか否かを判定し、前記信号光が含まれていると判定されたフレームを、前記信号光が含まれていないと判定された前または後のフレームを用いて補正する信号光消去部とをさらに備えたるようにしてもよい。
この場合、前記信号光検出部は、各フレームの画素単位に前記信号光が含まれているか否かを判定し、前記信号光消去部は、前記信号光が含まれていると判定された画素に対して前記補正を行なうことができる。
上記課題を解決するため、本発明の第3の態様である動画解析方法は、入力した動画像のフレーム毎に、所定の信号光が含まれているか否かを判定し、判定結果を信号光検出フレーム情報として検出するステップと、前記信号光検出フレーム情報から、前記信号光の所定の発光パターンを検出し、検出された発光パターンと検出されたフレーム位置に関する情報とを対応付けた同期ポイントリストを生成するステップとを有することを特徴とする。
上記課題を解決するため、本発明の第4の態様であるコンピュータプログラムは、入力した動画像のフレーム毎に、所定の信号光が含まれているか否かを判定し、判定結果を信号光検出フレーム情報として検出する信号光検出部と、前記信号光検出フレーム情報から、前記信号光の所定の発光パターンを検出し、検出された発光パターンと検出されたフレーム位置に関する情報とを対応付けた同期ポイントリストを生成する同期ポイント検出部として情報処理装置を機能させることを特徴とする。
【発明の効果】
【0009】
本発明によれば、複数台のカメラを用いて同時に撮影した複数の動画像を簡易に精度よく同期させることができるようになる。
【図面の簡単な説明】
【0010】
【図1】本発明の第1実施例に係る動画撮影システムの構成を示すブロック図である。
【図2】発光パターンの例について説明する図である。
【図3】動画撮影システムの動画撮影時の動作について説明するフローチャートである。
【図4】動画撮影装置の信号光検出部の動作を説明するフローチャートである。
【図5】フィルタリング処理を説明するフローチャートである。
【図6】フィルタリング処理の具体例を示す図である。
【図7】信号光検出フレーム情報の例を示す図である。
【図8】動画撮影装置の発光パターン検出部の動作を説明するフローチャートである。
【図9】同期ポイントリストの構成例を示す図である。
【図10】動画撮影装置の信号光消去部の動作を説明するフローチャートである
【図11】本発明の第2実施例に係る動画撮影システムの構成を示すブロック図である。
【図12】第2実施例のフィルタリング処理を説明するフローチャートである。
【発明を実施するための形態】
【0011】
<第1実施例>
本発明の実施の形態について図面を参照して詳細に説明する。図1は、本発明の第1実施例に係る動画撮影システムの構成を示すブロック図である。本図に示すように、動画撮影システム1は、信号発光装置10と複数台の動画撮影装置20(20a、20b)を備えている。動画撮影システム1において、複数台の動画撮影装置20は、共通の被写体を同時に撮影するものとする。動画撮影装置20は、図1には2台示しているが、それよりも多くすることが可能である。
【0012】
信号発光装置10は、ユーザの操作ボタンの押圧操作に基づいて所定の発光パターンで信号光を発光する装置であり、発光部110、発光パターン発生部120、発光パターン指示部130を備えている。
【0013】
発光部110は、LED、レーザー発振器、キセノンランプ等を用いることができ、発光パターン発生部120からの制御信号に基づいて発光する。発光は、閃光ではなく動画撮影装置20の数フレーム程度の時間継続させる。後述するように、動画撮影装置20は、発光パターンを探索することで制御信号を検知するが、発光を数フレーム程度の時間継続させることにより、撮影時に周辺環境からの反射光の影響等のノイズが発生しても、類似するパターンを探索することで発光パターン発生部120からの制御信号を検知することが可能となる。また、第1実施例では、有色の可視光を発光するものとする。ユーザは、複数台の動画撮影装置20を用いての動画撮影時に、発光部110を被写体方向に向け、被写体に信号光が照射されるようにする。これにより、発光部110から発光された信号光は被写体に当たって反射し、反射した信号光を撮影装置20が撮影することになる。
【0014】
発光パターン指示部130は、ユーザから信号光の発光指示を受け付ける。発光指示の受け付けの際には、発光パターンの指定も併せて受け付ける。本実施例では、図2に示すような4つの発光パターンを用意しておき、いずれかの発光パターンの指定を受け付けるものとする。本図の例では、いずれの発光パターンもS秒の間に点滅を繰り返すパターンとし、それぞれ発光時間、インターバルの長さや発光回数を異ならせている。ただし、他の発光パターンを用いてもよい。例えば、発光パターンによって発光時間の長さを異ならせたり、連続する固定長パルス光の数を異ならせるようにしてもよい。
【0015】
発光パターン指示部130は、例えば、「1」〜「4」までの操作ボタンを用意しておき、「1」のボタンが操作された場合は、発光パターン1での信号光発光指示を受け付け、「2」のボタンが操作された場合は、発光パターン2での信号光発光指示を受け付けるものとする。
【0016】
発光パターン発生部120は、発光パターン指示部130がユーザから信号光発光指示を受け付けると、選択された発光パターンで発光部110を発光させる。なお、発光パターン指示部130は、ユーザの指示を受けることなく、一定の間隔、またはランダムのタイミングで自動的にいずれかの発光パターンでの発光指示を発光パターン発生部120に送るようにしてもよい。例えば、数分おきに「1」〜「4」のパターンを順番に繰り返し発光することも可能である。
【0017】
動画撮影装置20は、動画像を撮影して、動画データと、動画データの同期ポイントを示すリストとを生成して記録する装置であり、入光部210、撮像部220、動画像処理部230を備えている。入光部210および撮像部220は、従来の一般的なビデオカメラ等の動画撮影装置と同様の構成とすることができる。記録された動画データと同期ポイントリストは外部から読み出すことができ、複数の動画撮影装置20から読み出した動画像を同期させて再生したり、編集時に同期させて合成したりすることができる。
【0018】
入光部210は、レンズ、絞り、ズーム機構等を備えており、被写体からの光を撮像部220に導く。撮像部220は、CCD等の撮像素子、AD変換器、画像処理装置等を備えており、撮像動画データ221を生成し、記録する。動画撮影中に信号発光装置10が操作されると、撮像動画データには、信号発光装置10により発光された信号光が写っているフレームが含まれる。
【0019】
動画像処理部230は、撮像動画データ221の各フレームから信号光を検出し、複数の動画データで同期を取る際に基準となるフレーム位置を示す同期ポイントリストを生成して記録するとともに、撮像動画データ221の信号光が写っているフレームから信号光を消去した信号光消去済動画データ238を生成して記録する。外部から読み出すことができる動画データはこの信号光消去済動画データ238であり、信号光が消去されているため、信号光の影響の少ない動画データを得ることができる。
【0020】
これらの処理を行なうため、動画像処理部230は、信号光検出部231、発光パターン検出部232、信号光消去部233を備えている。これらの機能部は、動画撮影装置20が備えるCPUがメモリに記録されたコンピュータプログラムにしたがって動作を行なうことで構成することができる。
【0021】
信号光検出部231は、撮像画像データの各フレームについて、画素毎に信号光成分を検出し、フィルタリングフレーム235を生成する。ここで、フィルタリングフレーム235は、信号光成分が検出された画素については輝度値を保持し、信号光成分が検出されなかった画素については輝度値を0としたフレームデータである。
【0022】
また、信号光検出部231は、フィルタリングフレーム235に基づいて、そのフレームが信号光を含んでいるかどうかを判定し、判定結果を信号光検出フレーム情報236として出力する。信号光検出フレーム情報236は、撮像動画データ221のフレーム毎に、信号光が検出されたか否かを示すデータである。
【0023】
発光パターン検出部232は、発光パターンリスト234に記録されている発光パターンを信号光検出フレーム情報236から検出し、検出された場合は、検出した発光パターンの識別子と、発光パターンが検出されたフレーム列の開始番号とを対応付けた同期ポイントリスト237に記録する。ここで、発光パターンリスト234に記録する発光パターンは、信号発光装置10で用意している発光パターンに対応させておく。
【0024】
複数台の動画撮影装置20で同時に撮影する場合、各動画撮影装置20が生成する同期ポイントリスト237が示すフレームの撮影時刻はすべての動画撮影装置20で同一である。このため、複数の動画像の再生や編集時に、それぞれの同期ポイントリスト237を用いることで、各動画像のフレームの時間的な位置を容易に揃えることができるようになる。
【0025】
信号光消去部233は、同期ポイントリスト237と発光パターンリスト234とから、信号光が含んでいるフレームを特定する。そして、特定されたフレームの信号光成分を含んでいる画素を補正することで信号光を消去して信号光消去済動画データ238を生成し、記録する。ある画素が信号光成分を含んでいるかどうかは、フィルタリングフレーム235を参照して判定する。
【0026】
なお、動画撮影システム1において、信号発光装置10は、いずれか、あるいはすべての動画撮影装置20と一体型としたり、装着できるようにしてもよい。この場合には、動画撮影装置20が、発光パターン指示部130、発光パターン発生部120、発光部110のすべて、あるいはいずれかをさらに備えることとなる。
【0027】
信号発光装置10と動画撮影装置20とを一体化した場合には、ユーザが発光パターン指示部120のボタンを操作しなくても、例えば、動画撮影装置20にタイマをさらに備えさせ、撮影が開始してから一定時間経った後に、発光パターン発生部120から信号光を発生させるようにして、発光部110から信号光を出力させるようにしてもよい。信号光は撮影時の任意のタイミングで発生させるようにすると、任意のタイミングで撮像動画データ221に入れることが可能である。
【0028】
また、動画像処理部230のすべて、または一部を動画撮影装置20から独立させて、動画像解析装置として構成してもよい。この場合、動画像解析装置は、コンピュータプログラムにしたがって動作を行なう情報処理装置等を用いて実現することができる。なお、一部を独立させる場合、例えば、フレーム単位で処理を行なう信号光検出部231を動画撮影装置20に残し、フレーム間にまたがる処理を行なう信号パターン検出部232と信号光消去部233を独立させる。こうすれば、動画撮影装置20ではフレーム単位の処理のみを行なえばよいので、構成を比較的簡略にすることができる。
【0029】
次に、動画撮影システム1の動画撮影時の動作について図3のフローチャートを参照して説明する。本フローチャートにおいて、左側のフローは複数台の動画撮影装置20の動作を示し、右側のフローは信号発光装置10の動作を示している。
【0030】
複数台の動画撮影装置20は、ユーザからの撮影開始指示を受け付けると、動画撮影を開始し、撮像動画データ221の生成と記録を開始する(S101)。各動画撮影装置20は、必ずしも同時に動画撮影を開始する必要はなく、多少の時間差があってもよい。
【0031】
一方、信号発光装置10は、ユーザから発光操作を受け付けると(S102:Yes)、操作で指定された発光パターンで所定期間点滅する(S103)。信号発光装置10で発せられた信号光は、被写体で反射し、各動画撮影装置20の撮像動画内に写り込むことになる。発光操作は何度でも行なうことができる。特に、複数の再生動画の同期を取りたい場面の前に発光させることが好ましい。また、同じ発光パターンが連続しないように、発光パターンを変更しながら発光させることが好ましい。
【0032】
複数台の動画撮影装置20は、ユーザからの撮影終了指示を受け付けると、動画撮影を終了し、撮像動画データ221の記録を終了する(S104)。なお、動画撮影装置20と信号発光装置10とを独立して構成した場合は、信号発光装置10は、動画撮影装置20の撮影状態とは無関係に発光させることができるが、動画撮影装置20と信号発光装置10とを一体型等として構成した場合は、動画撮影装置20の撮影中のみ発光可能とするようにしてもよい。
【0033】
次に、動画撮影装置20の動画像処理部230の動作について説明する。以下に説明する動作は、各動画撮影装置20の動画像処理部230において行なわれる。
【0034】
まず、信号光検出部231の動作について図4のフローチャートを参照して説明する。信号光検出部231は、撮像部220が生成した撮像動画データ221からフレーム単位でデータを入力する(S201)。そして、入力したフレームに対してフィルタリング処理を行なう(S202)。フィルタリング処理は、画素毎に信号光成分を検出し、フィルタリングフレーム235を生成する処理である。
【0035】
図5は、フィルタリング処理の手順の一例を示すフローチャートである。ここでは、各画素は、YUV形式で表現されているものとする。YUV形式は、画素の色を輝度Y、色差U(Cb)、色差V(Cr)で表わす形式である。もちろん、RGB、HSV等の他の色表現形式であってもよい。
【0036】
フィルタリング処理(S202)では、まず、対象画素を設定する(S2021)。対象画素は、例えば、左上の画素から順次設定することができる。そして、対象画素の輝度が第1基準値以上かどうかを判断する(S2022)。これは、信号光が被写体に照射した場合は被写体の輝度が上がるためである。このため、第1基準値は、発光量に応じて設定することが望ましい。また、絞り値、シャッター速度、測光値等に応じて変化させるようにしてもよい。
【0037】
この結果、対象画素の輝度が第1基準値以上でないと判定された場合(S2022:No)は、その画素に信号光成分は含まれていないものと判断する。信号光成分が含まれていないと判断された画素については、輝度値を0としてフィルタリングフレーム235を生成する(S2025)。
【0038】
対象画素の輝度が第1基準値以上であると判定された場合(S2022:Yes)は、さらに、対象画素の色と信号光の色とが近似しているかどうかを判定する(S2023)。これは、信号光が被写体に照射した場合、被写体が信号光の色を帯びるからである。
【0039】
対象画素の色と信号光の色とが近似しているかどうかの判定は、例えば、YUV形式で表現されている対象画素の色から色相成分を算出して、信号光の色相との差を算出し、その差が第2閾値以下であれば、対象画素の色と信号光の色とが近似していると判断する手法を用いることができる。あるいは、YUV形式で表現されている対象画素の色をL*a*b*形式に変換し、信号光のL*a*b*値との距離が第3閾値以下であれば、対象画素の色と信号光の色とが近似していると判断する手法を用いることもできる。もちろん、その他の手法を用いて対象画素の色と信号光の色とが近似しているかどうかを判定してもよい。
【0040】
この結果、対象画素の色と信号光の色とが近似していないと判定された場合(S2023:No)は、その画素に信号光成分は含まれていないものと判断する。信号光成分が含まれていないと判断された画素については、輝度値を0としてフィルタリングフレーム235を生成する(S2025)。
【0041】
一方、対象画素の色と信号光の色とが近似していると判定された場合(S2023:Yes)は、その画素に信号光成分が含まれているものと判断する。信号光成分が含まれていると判断された画素については、輝度値を保持してフィルタリングフレーム235を生成する(S2025)。
【0042】
以上の処理をすべての画素に対して繰り返す(S2026)ことで、対象フレームのフィルタリングフレーム235が生成される。信号光検出部231は、生成されたフィルタリングフレーム235を記録して(S2027)、フィルタリング処理を終了する。
【0043】
図6は、フィルタリング処理の具体例を示しており、図6(a)は、対象フレームを示し、図6(b)は、フィルタリング処理の結果生成されたフィルタリングフレームを示している。対象フレームの撮影時に信号光が発光しており、対象フレームにおいて、被写体の人物と左側の建物および地面の手前側に信号光が照射されており、これらの領域の画素は、輝度が高くなるとともに、信号光の色成分を含んでいる。フィルタリング処理の結果、これらの領域は、図6(b)に示すように輝度値が保持され、他の領域は、輝度値が0の黒になる。
【0044】
図4のフローチャートの説明に戻って、フィルタリング処理(S202)を終了した信号光検出部231は、生成したフィルタリングフレーム235に含まれる画素の輝度値の平均を算出する(S203)。輝度値の平均は、フィルタリングフレーム235に含まれるすべての画素の輝度Yの値の総和を、全画素数で割ることにより算出する。または、信号光成分を含む画素、すなわち輝度値が0より大きい画素の数を全画素数で割ることにより、信号光成分を含む画素の割合を算出するようにしてもよい。
【0045】
そして、算出された輝度値の平均(または信号光成分を含む画素の割合)が所定の基準値以上であれば、そのフレームに信号光が含まれていると判定する(S204)。輝度値の総和(または信号光成分を含む画素数)を全画素数で割った値で判定するため、フレームの画素数によらず、所定の基準値を適切に設定することができる。判定結果は、信号光検出フレーム情報236に記録する(S205)。
【0046】
以上の処理を、撮像部220が生成した撮像動画データ221のすべてのフレームに対して繰り返す(S206)。すべてのフレームに対する処理が終了すると(S206:Yes)、信号光検出フレーム情報236を出力する。なお、以上の処理は、撮像動画データ221の記録が終了した後でまとめて実行するようにしてもよいし、撮像部220によりフレームが撮像される毎に信号光検出部231に撮像されたフレームが供給されるようにしておき、フレームが供給される毎に処理を実行するようにしてもよい。
【0047】
信号光検出フレーム情報236は、図7に示すように、信号光が含まれていると仮定されるフレームを「1」で表わし、そうでないフレームを「0」で表わして、フレーム番号順に並べたデータである。
【0048】
次に、発光パターン検出部232の動作について図8のフローチャートを参照して説明する。発光パターン検出部232は、信号光検出フレーム情報236から、発光パターンを検出し、検出した発光パターンと位置を同期ポイントリスト237に記録する処理を行なう。このため、発光パターン検出部232は、信号光検出部231が生成した信号光検出フレーム情報236を読み込む(S301)。
【0049】
そして、発光パターンリスト234を参照して、検出対象とする発光パターンを設定する(S302)。検出対象とする発光パターンは、例えば、発光パターン1から順次設定していく。ここで、発光パターンは点滅のパターンが時間単位で定義されたものであるが、それを撮像動画データのフレームレートに合わせて、発光しているフレームを「1」で表わし、そうでないフレームを「0」で表わしたフレーム単位の発光パターン信号に変換する(S303)。
【0050】
検出対象とする発光パターンを設定し、発光パターン信号に変換すると、発光パターン信号の検索を開始する(S304)。なお、発光パターンをフレーム単位の発光パターン信号に変換して検索するため、同期を取るそれぞれの撮像動画データのフレームレートが異なっていてもよい。
【0051】
検索は、信号光検出フレーム情報236の先頭から、検出対象とする発光パターン信号と同じ並びで「1」が並んでいる箇所を、パターンマッチング等の一般的な手法を用いて検出する。この際に、完全一致のみならず、近似するパターンも検出するようにする。これは、フィルタリングフレーム235の輝度平均値を用いて作成した信号光検出フレーム情報236が、必ずしも、発光パターン信号と一致しているとは限られないからである。 信号光検出フレーム情報236から検出対象の発光パターンから変換された発光パターン信号が検出されると(S305:Yes)、検出対象の発光パターンの識別子と、発光パターン信号が検出されたフレーム列の先頭のフレーム番号を同期ポイントとして同期ポイントリスト237に記録する(S306)。
【0052】
図9は、同期ポイントリスト237の構成例を示す図である。本図に示すように、同期ポイントリスト237は、発光パターンIDと開始フレーム番号とを組にして、同期ポイントとして連結した構成としている。ただし、開始フレーム番号に代えて、先頭からの再生時間等の情報を用いるようにしてもよい。
【0053】
図8の説明に戻って、同一の発光パターンで複数回発光されている場合もあるため、検索は、信号光検出フレーム情報236の末尾まで行なう。信号光検出フレーム情報236の末尾までの検索が終了すると(S307:Yes)、次の発光パターンを検出対象として設定し、検索処理を繰り返す(S308)。
【0054】
すべての発光パターンについて検索を終了すると(S308:Yes)、同期ポイントリスト237を出力する(S309)。
【0055】
次に、信号光消去部233の動作について図10のフローチャートを参照して説明する。まず、発光パターン検出部232が生成した同期ポイントリスト237と発光パターンリスト234とを読み込み(S401)、次いで、撮像動画データ221を入力する(S402)。
【0056】
そして、同期ポイントリスト237と発光パターンリスト234から、撮像動画データ221を構成するフレームそれぞれについて、信号光が含まれているかどうかを示す発光フレームリストを作成する。発光フレームリストは、信号光検出フレーム情報236(図7参照)と同じフォーマットとすることができる。
【0057】
すなわち、同期ポイントリスト237を参照して、発光パターンと発光パターンが開始するフレーム番号を特定し、特定された発光パターンの点滅のタイミングと撮像動画データ221のフレームレートとからフレーム毎に信号光が含まれているかどうかを判定することができる。以下では、信号光が含まれているフレームを発光フレームと称し、信号光が含まれていないフレームを非発光フレームと称する。
【0058】
このように、本実施例では、同期ポイントリスト237と発光パターンリスト234とから発光フレームの判断を行なうことにより、被写体への信号光の写り込みが曖昧な場合や、信号光に近い色が写っている場合でも、発光フレームの判定精度を高めることができるようにしている。ただし、簡易的に、信号光検出フレーム情報236をそのまま発光フレームリストとして用いてもよい。
【0059】
そして、撮像動画データ221から対象フレームを設定する(S404)。対象フレームは、先頭フレームから順次設定する。対象フレームが設定されると、発光フレームリストを参照して、そのフレームが発光フレームかどうかを判定する(S405)。
【0060】
対象フレームが発光フレームでない場合(S405:No)は、そのフレームに対する処理は行なわない。
【0061】
一方、対象フレームが発光フレームの場合(S405:Yes)は、対象フレームに対応したフィルタリングフレーム235を参照して、信号光成分を含む画素を特定する(S406)。信号光成分を含む画素は、対応するフィルタリングフレーム235において輝度値が0以外の画素である。
【0062】
そして、対象フレームの信号光成分を含む画素を、撮像動画データ221の前後の直近非発光フレームを用いて補正する(S407)。補正の方法は、例えば、以下のように行なうことができる。すなわち、対象フレーム番号をiとし、直前の非発光フレーム番号をaとし、直後の非発光フレーム番号をbとした場合、対象フレームの補正対象画素の補正値Vi'を、[数1]にしたがって算出する。
【数1】
【0063】
ここで、Vaは、a番目のフレームの補正対象画素と同じ位置の画素値であり、Vbは、b番目のフレームの補正対象画素と同じ位置の画素値である。このように、本例では、対象フレームからの距離に応じた重み付けを行なって補正値Vi'を算出している。
【0064】
ただし、対象フレームの信号光成分を含む画素の補正は、他の方法を用いて行なってもよい。例えば、前後の直近以外の非発光フレームを含む複数の非発光フレームを用いてスプライン補完等の手法を用いて補正値を算出してもよい。あるいは、対象フレームと非発光フレームとの間における補正対象画素の周辺の動きを検出して、非発光フレームにおける補正対象画素の位置を推定し、推定された画素により対象フレームの信号光成分を含む画素を補正するようにしてもよい。さらには、対象フレーム内の補正対象画素の周辺の信号光成分を含まない画素を用いて、信号光成分を含む画素を補正するようにしてもよい。
【0065】
以上の処理を、対象フレームを順次変更しながら繰り返し、すべてのフレームに対し処理を行なうと(S408:Yes)、補正後の動画データを信号光消去済動画データ238として生成し、記録する(S409)。これにより、信号光の影響の少ない動画データを得ることができる。
【0066】
上述の発光パターン検出処理、および信号光消去処理は、撮像動画データ221の記録が終了し、さらに記録された撮像動画データ221のすべてのフレームに対する信号光検出処理が終了した後で行なう。あるいは、動画撮影をしている間に、撮像動画データ21の記録が一定のフレーム数だけ進む毎に、記録された分の撮像動画データ221に対して処理を行なうようにしてもよい。この場合、信号光検出処理はフレームが供給される毎に行なう必要がある。
【0067】
なお、動画撮影装置20の動画像処理部230は信号光消去部233を含まない構成としてもよい。この場合、外部から読み出すことのできる動画データは撮像動画データ221となり、信号光の影響を含む動画データとなるが、ユーザが信号発光装置10を発光させる際に、同期を取りたい場面の前や後で、再生や編集に利用しなくてよい場面で信号光を発光させるようにすれば、実用上の問題は生じない。
<第2実施例>
【0068】
次に、本発明の第2実施例について説明する。第1実施例と共通する内容については説明を簡略化する。図11は、本発明の第2実施例に係る動画撮影システムの構成を示すブロック図である。本図に示すように、動画撮影システム2は、信号発光装置30と複数台の動画撮影装置40(40a、40b)を備えている。
【0069】
信号発光装置30は、ユーザの操作に基づいて所定の発光パターンで信号光を発光する装置であり、赤外光発光部310、発光パターン発生部320、発光パターン指示部330を備えている。
【0070】
すなわち、第2実施例では、信号発光装置30は、非可視光である赤外光を発光する。このため、発光しても通常の撮像動画データには影響を与えない。なお、非可視光であれば赤外光に限られない。発光パターン発生部320、発光パターン指示部330は、第1実施例の発光パターン発生部120、発光パターン指示部130と同様である。
【0071】
動画撮影装置40は、可視光入光部410、可視光撮像部420、赤外光入光部440、赤外光撮像部450、動画像処理部430を備えている。
【0072】
可視光入光部410は、赤外線カットフィルタを備えており、被写体からの可視光を可視光撮像部420に導く。赤外光入光部440は、赤外線フィルタを備えており、被写体からの赤外光を赤外光撮像部450に導く。
【0073】
可視光撮像部420は、CCD等の撮像素子、AD変換器、画像処理装置等を備えており、撮影動画データ421を生成して記録する。赤外光撮像部450は、CCD等の撮像素子、AD変換器、画像処理装置等を備えており、赤外光動画データを生成する。可視光撮像部420と赤外光撮像部450は連動しており、同時に撮像を開始し、同時に撮影を終了し、共通の基準クロックで動作を行なう。まだ、同じフレームレートであるとする。このため、撮像動画データ421と赤外光動画データとは同期が取れている。なお、赤外光動画データのフレームの画素数は、撮像動画データ421のフレームの画素数と異なっていてもよい。
【0074】
動画撮影中に信号発光装置30が操作されると、赤外光撮像部450が生成する赤外光動画データには、信号発光装置30により発光された信号光が写っているフレームが含まれる。一方、可視光撮像部420が生成する撮像動画データ421には影響は及ばない。
【0075】
動画像処理部430は、赤外光動画データの各フレームから信号光を検出し、複数の動画データで同期を取る際に基準となるフレーム位置を示す同期ポイントリストを生成して記録する。
【0076】
これらの処理を行なうため、動画像処理部430は、信号光検出部431、発光パターン検出部432を備えている。これらの機能部は、動画撮影装置40が備えるCPUがメモリに記録されたコンピュータプログラムにしたがって動作を行なうことで構成することができる。
【0077】
信号光検出部431は、赤外光画像データの各フレームについて、画素毎に信号光成分を検出し、フィルタリングフレーム435を生成する。また、信号光検出部431は、フィルタリングフレーム435に基づいて、そのフレームが信号光を含んでいるかどうかを判定し、判定結果を信号光検出フレーム情報436として出力する。
【0078】
発光パターン検出部432は、発光パターンリスト434に記録されている発光パターンを信号光検出フレーム情報436から検出し、検出された場合は、検出した発光パターンの識別子と、発光パターンが検出されたフレーム列の開始番号とを対応付けた同期ポイントリスト437に記録する。
【0079】
動画撮影システム2の動画撮影時の動作は、図3のフローチャートに示した第1実施例の動作と同様である。ただし、外部から読み出すことのできる動画データは、可視光撮像部420が生成した撮像動画データ421となる。これは、可視光撮像部420が生成した撮像動画データ421には信号光が含まれないため、信号光消去処理が不要だからである。
【0080】
動画撮影装置40の動画像処理部430の動作は、図4のフローチャートに示した第1実施例の動画像処理部230の動作と基本的には同様であるが、フィルタリング処理(S202)の具体的内容において相違する。
【0081】
図12は、第2実施例のフィルタリング処理の手順の一例を示すフローチャートである。便宜上、図5に示した第1実施例のフィルタリング処理に対応する符号を付している。ここでは、赤外光動画データを構成するフレームの各画素は、輝度Yのみで表現されているものとする。
【0082】
第2実施例のフィルタリング処理(S202)では、まず、対象画素を設定する(S2021)。対象画素は、例えば、左上の画素から順次設定することができる。そして、対象画素の輝度が第1基準値以上かどうかを判断する(S2022)。第1基準値は、第1実施例と異なる値としてもよい。
【0083】
この結果、対象画素の輝度が第1基準値以上でないと判定された場合(S2022:No)は、その画素に信号光成分は含まれていないものと判断する。信号光成分が含まれていないと判断された画素については、輝度値を0としてフィルタリングフレーム435を生成する(S2025)。
【0084】
対象画素の輝度が第1基準値以上であると判定された場合(S2022:Yes)は、その画素に信号光成分が含まれているものと判断する。信号光成分が含まれていると判断された画素については、輝度値を保持してフィルタリングフレーム435を生成する(S2025)。すなわち、第2実施例では赤外光動画データを構成するフレームの各画素は輝度Yのみで表現されているため、色の近似の判定は行なわず、輝度値のみから信号光成分の有無を判定する。
【0085】
以上の処理をすべての画素に対して繰り返す(S2026)ことで、対象フレームのフィルタリングフレーム435が生成される。信号光検出部431は、生成されたフィルタリングフレーム435を記録して(S2027)、フィルタリング処理を終了する。
【0086】
動画撮影装置40の発光パターン検出部432の動作は図8のフローチャートに示した第1実施例の発光パターン検出部232の動作と同様であり、生成された同期ポイントリスト437を記録する。
【0087】
第2実施例においても、複数の動画撮影装置40から撮像動画データ421と同期ポイントリスト437を読み出すことで、複数の動画像を容易に同期させて再生や編集を行なうことができるようになる。
【符号の説明】
【0088】
1…動画撮影システム、2…動画撮影システム、10…信号発光装置、20…動画撮影装置、30…信号発光装置、40…動画撮影装置、110…発光部、120…発光パターン発生部、130…発光パターン指示部、210…入光部、220…撮像部、221…撮像動画データ、230…動画像処理部、231…信号光検出部、232…発光パターン検出部、233…信号光消去部、234…発光パターンリスト、235…フィルタリングフレーム、236…信号光検出フレーム情報、237…同期ポイントリスト、238…信号光消去済動画データ、310…赤外光発光部、320…発光パターン発生部、330…発光パターン指示部、410…可視光入光部、420…可視光撮像部、421…撮像動画データ、430…動画像処理部、431…信号光検出部、432…発光パターン検出部、434…発光パターンリスト、435…フィルタリングフレーム、436…信号光検出フレーム情報、437…同期ポイントリスト、440…赤外光入光部、450…赤外光撮像部
【技術分野】
【0001】
本発明は、複数台のカメラを用いて同時に撮影した複数の動画像を簡易に同期させるための技術に関する。
【背景技術】
【0002】
同一の対象物を複数台のカメラを用いて同時に撮影することがある。例えば、スポーツのフォームチェックや実験映像の撮影、映画撮影等においてよく行なわれている。このような撮影を行なった場合は、同時に撮影された別々の動画を同期させて再生したいことが多く、そのための技術がいくつか提案され、実用化されている
【0003】
例えば、業務用途では、ゲンロック(Generator Lock)と呼ばれる同期信号を発生する装置を用いて、各カメラが撮影する映像を同期させることができ、同期信号を基準に各映像を同期させて再生することができる。
【0004】
また、特許文献1には、動画と一緒に記録された音響データから特徴パラメータを抽出し、特徴パラメータの類似度から複数の動画の同期を取ることが提案されている。
【先行技術文献】
【特許文献】
【0005】
【特許文献1】特開2008−47998号公報
【発明の概要】
【発明が解決しようとする課題】
【0006】
同期信号を発生させる装置を用いることは、大がかりであり一般的な用途には向かない。また、音響データから抽出された特徴パラメータの類似を用いる方法は、一般用途で簡易に行なうことができるが、無音やノイズの多い撮影環境では同期の精度が低くなってしまう。
【0007】
そこで、本発明は、複数台のカメラを用いて同時に撮影した複数の動画像を簡易に精度よく同期させることができるようにすることを目的とする。
【課題を解決するための手段】
【0008】
上記課題を解決するため、本発明の第1の態様である動画撮影システムは、信号光を発光する信号発光装置と、動画像を撮影する動画撮影装置とを備えた動画撮影システムであって、前記動画撮影装置は、撮影した動画像のフレーム毎に、前記信号光が含まれているか否かを判定し、判定結果を信号光検出フレーム情報として検出する信号光検出部と、前記信号光検出フレーム情報から、前記信号光の所定の発光パターンを検出し、検出された発光パターンと検出されたフレーム位置に関する情報とを対応付けた同期ポイントリストを生成する同期ポイント検出部とを備えたことを特徴とする。
上記課題を解決するため、本発明の第2の態様である動画解析装置は、入力した動画像のフレーム毎に、所定の信号光が含まれているか否かを判定し、判定結果を信号光検出フレーム情報として検出する信号光検出部と、前記信号光検出フレーム情報から、前記信号光の所定の発光パターンを検出し、検出された発光パターンと検出されたフレーム位置に関する情報とを対応付けた同期ポイントリストを生成する同期ポイント検出部とを備えたことを特徴とする。
ここで、信号光の発光パターンを記録した発光パターンリストと、前記同期ポイントリストと前記発光パターンリストとから入力した動画像のフレーム毎に、前記信号光が含まれているか否かを判定し、前記信号光が含まれていると判定されたフレームを、前記信号光が含まれていないと判定された前または後のフレームを用いて補正する信号光消去部とをさらに備えたるようにしてもよい。
この場合、前記信号光検出部は、各フレームの画素単位に前記信号光が含まれているか否かを判定し、前記信号光消去部は、前記信号光が含まれていると判定された画素に対して前記補正を行なうことができる。
上記課題を解決するため、本発明の第3の態様である動画解析方法は、入力した動画像のフレーム毎に、所定の信号光が含まれているか否かを判定し、判定結果を信号光検出フレーム情報として検出するステップと、前記信号光検出フレーム情報から、前記信号光の所定の発光パターンを検出し、検出された発光パターンと検出されたフレーム位置に関する情報とを対応付けた同期ポイントリストを生成するステップとを有することを特徴とする。
上記課題を解決するため、本発明の第4の態様であるコンピュータプログラムは、入力した動画像のフレーム毎に、所定の信号光が含まれているか否かを判定し、判定結果を信号光検出フレーム情報として検出する信号光検出部と、前記信号光検出フレーム情報から、前記信号光の所定の発光パターンを検出し、検出された発光パターンと検出されたフレーム位置に関する情報とを対応付けた同期ポイントリストを生成する同期ポイント検出部として情報処理装置を機能させることを特徴とする。
【発明の効果】
【0009】
本発明によれば、複数台のカメラを用いて同時に撮影した複数の動画像を簡易に精度よく同期させることができるようになる。
【図面の簡単な説明】
【0010】
【図1】本発明の第1実施例に係る動画撮影システムの構成を示すブロック図である。
【図2】発光パターンの例について説明する図である。
【図3】動画撮影システムの動画撮影時の動作について説明するフローチャートである。
【図4】動画撮影装置の信号光検出部の動作を説明するフローチャートである。
【図5】フィルタリング処理を説明するフローチャートである。
【図6】フィルタリング処理の具体例を示す図である。
【図7】信号光検出フレーム情報の例を示す図である。
【図8】動画撮影装置の発光パターン検出部の動作を説明するフローチャートである。
【図9】同期ポイントリストの構成例を示す図である。
【図10】動画撮影装置の信号光消去部の動作を説明するフローチャートである
【図11】本発明の第2実施例に係る動画撮影システムの構成を示すブロック図である。
【図12】第2実施例のフィルタリング処理を説明するフローチャートである。
【発明を実施するための形態】
【0011】
<第1実施例>
本発明の実施の形態について図面を参照して詳細に説明する。図1は、本発明の第1実施例に係る動画撮影システムの構成を示すブロック図である。本図に示すように、動画撮影システム1は、信号発光装置10と複数台の動画撮影装置20(20a、20b)を備えている。動画撮影システム1において、複数台の動画撮影装置20は、共通の被写体を同時に撮影するものとする。動画撮影装置20は、図1には2台示しているが、それよりも多くすることが可能である。
【0012】
信号発光装置10は、ユーザの操作ボタンの押圧操作に基づいて所定の発光パターンで信号光を発光する装置であり、発光部110、発光パターン発生部120、発光パターン指示部130を備えている。
【0013】
発光部110は、LED、レーザー発振器、キセノンランプ等を用いることができ、発光パターン発生部120からの制御信号に基づいて発光する。発光は、閃光ではなく動画撮影装置20の数フレーム程度の時間継続させる。後述するように、動画撮影装置20は、発光パターンを探索することで制御信号を検知するが、発光を数フレーム程度の時間継続させることにより、撮影時に周辺環境からの反射光の影響等のノイズが発生しても、類似するパターンを探索することで発光パターン発生部120からの制御信号を検知することが可能となる。また、第1実施例では、有色の可視光を発光するものとする。ユーザは、複数台の動画撮影装置20を用いての動画撮影時に、発光部110を被写体方向に向け、被写体に信号光が照射されるようにする。これにより、発光部110から発光された信号光は被写体に当たって反射し、反射した信号光を撮影装置20が撮影することになる。
【0014】
発光パターン指示部130は、ユーザから信号光の発光指示を受け付ける。発光指示の受け付けの際には、発光パターンの指定も併せて受け付ける。本実施例では、図2に示すような4つの発光パターンを用意しておき、いずれかの発光パターンの指定を受け付けるものとする。本図の例では、いずれの発光パターンもS秒の間に点滅を繰り返すパターンとし、それぞれ発光時間、インターバルの長さや発光回数を異ならせている。ただし、他の発光パターンを用いてもよい。例えば、発光パターンによって発光時間の長さを異ならせたり、連続する固定長パルス光の数を異ならせるようにしてもよい。
【0015】
発光パターン指示部130は、例えば、「1」〜「4」までの操作ボタンを用意しておき、「1」のボタンが操作された場合は、発光パターン1での信号光発光指示を受け付け、「2」のボタンが操作された場合は、発光パターン2での信号光発光指示を受け付けるものとする。
【0016】
発光パターン発生部120は、発光パターン指示部130がユーザから信号光発光指示を受け付けると、選択された発光パターンで発光部110を発光させる。なお、発光パターン指示部130は、ユーザの指示を受けることなく、一定の間隔、またはランダムのタイミングで自動的にいずれかの発光パターンでの発光指示を発光パターン発生部120に送るようにしてもよい。例えば、数分おきに「1」〜「4」のパターンを順番に繰り返し発光することも可能である。
【0017】
動画撮影装置20は、動画像を撮影して、動画データと、動画データの同期ポイントを示すリストとを生成して記録する装置であり、入光部210、撮像部220、動画像処理部230を備えている。入光部210および撮像部220は、従来の一般的なビデオカメラ等の動画撮影装置と同様の構成とすることができる。記録された動画データと同期ポイントリストは外部から読み出すことができ、複数の動画撮影装置20から読み出した動画像を同期させて再生したり、編集時に同期させて合成したりすることができる。
【0018】
入光部210は、レンズ、絞り、ズーム機構等を備えており、被写体からの光を撮像部220に導く。撮像部220は、CCD等の撮像素子、AD変換器、画像処理装置等を備えており、撮像動画データ221を生成し、記録する。動画撮影中に信号発光装置10が操作されると、撮像動画データには、信号発光装置10により発光された信号光が写っているフレームが含まれる。
【0019】
動画像処理部230は、撮像動画データ221の各フレームから信号光を検出し、複数の動画データで同期を取る際に基準となるフレーム位置を示す同期ポイントリストを生成して記録するとともに、撮像動画データ221の信号光が写っているフレームから信号光を消去した信号光消去済動画データ238を生成して記録する。外部から読み出すことができる動画データはこの信号光消去済動画データ238であり、信号光が消去されているため、信号光の影響の少ない動画データを得ることができる。
【0020】
これらの処理を行なうため、動画像処理部230は、信号光検出部231、発光パターン検出部232、信号光消去部233を備えている。これらの機能部は、動画撮影装置20が備えるCPUがメモリに記録されたコンピュータプログラムにしたがって動作を行なうことで構成することができる。
【0021】
信号光検出部231は、撮像画像データの各フレームについて、画素毎に信号光成分を検出し、フィルタリングフレーム235を生成する。ここで、フィルタリングフレーム235は、信号光成分が検出された画素については輝度値を保持し、信号光成分が検出されなかった画素については輝度値を0としたフレームデータである。
【0022】
また、信号光検出部231は、フィルタリングフレーム235に基づいて、そのフレームが信号光を含んでいるかどうかを判定し、判定結果を信号光検出フレーム情報236として出力する。信号光検出フレーム情報236は、撮像動画データ221のフレーム毎に、信号光が検出されたか否かを示すデータである。
【0023】
発光パターン検出部232は、発光パターンリスト234に記録されている発光パターンを信号光検出フレーム情報236から検出し、検出された場合は、検出した発光パターンの識別子と、発光パターンが検出されたフレーム列の開始番号とを対応付けた同期ポイントリスト237に記録する。ここで、発光パターンリスト234に記録する発光パターンは、信号発光装置10で用意している発光パターンに対応させておく。
【0024】
複数台の動画撮影装置20で同時に撮影する場合、各動画撮影装置20が生成する同期ポイントリスト237が示すフレームの撮影時刻はすべての動画撮影装置20で同一である。このため、複数の動画像の再生や編集時に、それぞれの同期ポイントリスト237を用いることで、各動画像のフレームの時間的な位置を容易に揃えることができるようになる。
【0025】
信号光消去部233は、同期ポイントリスト237と発光パターンリスト234とから、信号光が含んでいるフレームを特定する。そして、特定されたフレームの信号光成分を含んでいる画素を補正することで信号光を消去して信号光消去済動画データ238を生成し、記録する。ある画素が信号光成分を含んでいるかどうかは、フィルタリングフレーム235を参照して判定する。
【0026】
なお、動画撮影システム1において、信号発光装置10は、いずれか、あるいはすべての動画撮影装置20と一体型としたり、装着できるようにしてもよい。この場合には、動画撮影装置20が、発光パターン指示部130、発光パターン発生部120、発光部110のすべて、あるいはいずれかをさらに備えることとなる。
【0027】
信号発光装置10と動画撮影装置20とを一体化した場合には、ユーザが発光パターン指示部120のボタンを操作しなくても、例えば、動画撮影装置20にタイマをさらに備えさせ、撮影が開始してから一定時間経った後に、発光パターン発生部120から信号光を発生させるようにして、発光部110から信号光を出力させるようにしてもよい。信号光は撮影時の任意のタイミングで発生させるようにすると、任意のタイミングで撮像動画データ221に入れることが可能である。
【0028】
また、動画像処理部230のすべて、または一部を動画撮影装置20から独立させて、動画像解析装置として構成してもよい。この場合、動画像解析装置は、コンピュータプログラムにしたがって動作を行なう情報処理装置等を用いて実現することができる。なお、一部を独立させる場合、例えば、フレーム単位で処理を行なう信号光検出部231を動画撮影装置20に残し、フレーム間にまたがる処理を行なう信号パターン検出部232と信号光消去部233を独立させる。こうすれば、動画撮影装置20ではフレーム単位の処理のみを行なえばよいので、構成を比較的簡略にすることができる。
【0029】
次に、動画撮影システム1の動画撮影時の動作について図3のフローチャートを参照して説明する。本フローチャートにおいて、左側のフローは複数台の動画撮影装置20の動作を示し、右側のフローは信号発光装置10の動作を示している。
【0030】
複数台の動画撮影装置20は、ユーザからの撮影開始指示を受け付けると、動画撮影を開始し、撮像動画データ221の生成と記録を開始する(S101)。各動画撮影装置20は、必ずしも同時に動画撮影を開始する必要はなく、多少の時間差があってもよい。
【0031】
一方、信号発光装置10は、ユーザから発光操作を受け付けると(S102:Yes)、操作で指定された発光パターンで所定期間点滅する(S103)。信号発光装置10で発せられた信号光は、被写体で反射し、各動画撮影装置20の撮像動画内に写り込むことになる。発光操作は何度でも行なうことができる。特に、複数の再生動画の同期を取りたい場面の前に発光させることが好ましい。また、同じ発光パターンが連続しないように、発光パターンを変更しながら発光させることが好ましい。
【0032】
複数台の動画撮影装置20は、ユーザからの撮影終了指示を受け付けると、動画撮影を終了し、撮像動画データ221の記録を終了する(S104)。なお、動画撮影装置20と信号発光装置10とを独立して構成した場合は、信号発光装置10は、動画撮影装置20の撮影状態とは無関係に発光させることができるが、動画撮影装置20と信号発光装置10とを一体型等として構成した場合は、動画撮影装置20の撮影中のみ発光可能とするようにしてもよい。
【0033】
次に、動画撮影装置20の動画像処理部230の動作について説明する。以下に説明する動作は、各動画撮影装置20の動画像処理部230において行なわれる。
【0034】
まず、信号光検出部231の動作について図4のフローチャートを参照して説明する。信号光検出部231は、撮像部220が生成した撮像動画データ221からフレーム単位でデータを入力する(S201)。そして、入力したフレームに対してフィルタリング処理を行なう(S202)。フィルタリング処理は、画素毎に信号光成分を検出し、フィルタリングフレーム235を生成する処理である。
【0035】
図5は、フィルタリング処理の手順の一例を示すフローチャートである。ここでは、各画素は、YUV形式で表現されているものとする。YUV形式は、画素の色を輝度Y、色差U(Cb)、色差V(Cr)で表わす形式である。もちろん、RGB、HSV等の他の色表現形式であってもよい。
【0036】
フィルタリング処理(S202)では、まず、対象画素を設定する(S2021)。対象画素は、例えば、左上の画素から順次設定することができる。そして、対象画素の輝度が第1基準値以上かどうかを判断する(S2022)。これは、信号光が被写体に照射した場合は被写体の輝度が上がるためである。このため、第1基準値は、発光量に応じて設定することが望ましい。また、絞り値、シャッター速度、測光値等に応じて変化させるようにしてもよい。
【0037】
この結果、対象画素の輝度が第1基準値以上でないと判定された場合(S2022:No)は、その画素に信号光成分は含まれていないものと判断する。信号光成分が含まれていないと判断された画素については、輝度値を0としてフィルタリングフレーム235を生成する(S2025)。
【0038】
対象画素の輝度が第1基準値以上であると判定された場合(S2022:Yes)は、さらに、対象画素の色と信号光の色とが近似しているかどうかを判定する(S2023)。これは、信号光が被写体に照射した場合、被写体が信号光の色を帯びるからである。
【0039】
対象画素の色と信号光の色とが近似しているかどうかの判定は、例えば、YUV形式で表現されている対象画素の色から色相成分を算出して、信号光の色相との差を算出し、その差が第2閾値以下であれば、対象画素の色と信号光の色とが近似していると判断する手法を用いることができる。あるいは、YUV形式で表現されている対象画素の色をL*a*b*形式に変換し、信号光のL*a*b*値との距離が第3閾値以下であれば、対象画素の色と信号光の色とが近似していると判断する手法を用いることもできる。もちろん、その他の手法を用いて対象画素の色と信号光の色とが近似しているかどうかを判定してもよい。
【0040】
この結果、対象画素の色と信号光の色とが近似していないと判定された場合(S2023:No)は、その画素に信号光成分は含まれていないものと判断する。信号光成分が含まれていないと判断された画素については、輝度値を0としてフィルタリングフレーム235を生成する(S2025)。
【0041】
一方、対象画素の色と信号光の色とが近似していると判定された場合(S2023:Yes)は、その画素に信号光成分が含まれているものと判断する。信号光成分が含まれていると判断された画素については、輝度値を保持してフィルタリングフレーム235を生成する(S2025)。
【0042】
以上の処理をすべての画素に対して繰り返す(S2026)ことで、対象フレームのフィルタリングフレーム235が生成される。信号光検出部231は、生成されたフィルタリングフレーム235を記録して(S2027)、フィルタリング処理を終了する。
【0043】
図6は、フィルタリング処理の具体例を示しており、図6(a)は、対象フレームを示し、図6(b)は、フィルタリング処理の結果生成されたフィルタリングフレームを示している。対象フレームの撮影時に信号光が発光しており、対象フレームにおいて、被写体の人物と左側の建物および地面の手前側に信号光が照射されており、これらの領域の画素は、輝度が高くなるとともに、信号光の色成分を含んでいる。フィルタリング処理の結果、これらの領域は、図6(b)に示すように輝度値が保持され、他の領域は、輝度値が0の黒になる。
【0044】
図4のフローチャートの説明に戻って、フィルタリング処理(S202)を終了した信号光検出部231は、生成したフィルタリングフレーム235に含まれる画素の輝度値の平均を算出する(S203)。輝度値の平均は、フィルタリングフレーム235に含まれるすべての画素の輝度Yの値の総和を、全画素数で割ることにより算出する。または、信号光成分を含む画素、すなわち輝度値が0より大きい画素の数を全画素数で割ることにより、信号光成分を含む画素の割合を算出するようにしてもよい。
【0045】
そして、算出された輝度値の平均(または信号光成分を含む画素の割合)が所定の基準値以上であれば、そのフレームに信号光が含まれていると判定する(S204)。輝度値の総和(または信号光成分を含む画素数)を全画素数で割った値で判定するため、フレームの画素数によらず、所定の基準値を適切に設定することができる。判定結果は、信号光検出フレーム情報236に記録する(S205)。
【0046】
以上の処理を、撮像部220が生成した撮像動画データ221のすべてのフレームに対して繰り返す(S206)。すべてのフレームに対する処理が終了すると(S206:Yes)、信号光検出フレーム情報236を出力する。なお、以上の処理は、撮像動画データ221の記録が終了した後でまとめて実行するようにしてもよいし、撮像部220によりフレームが撮像される毎に信号光検出部231に撮像されたフレームが供給されるようにしておき、フレームが供給される毎に処理を実行するようにしてもよい。
【0047】
信号光検出フレーム情報236は、図7に示すように、信号光が含まれていると仮定されるフレームを「1」で表わし、そうでないフレームを「0」で表わして、フレーム番号順に並べたデータである。
【0048】
次に、発光パターン検出部232の動作について図8のフローチャートを参照して説明する。発光パターン検出部232は、信号光検出フレーム情報236から、発光パターンを検出し、検出した発光パターンと位置を同期ポイントリスト237に記録する処理を行なう。このため、発光パターン検出部232は、信号光検出部231が生成した信号光検出フレーム情報236を読み込む(S301)。
【0049】
そして、発光パターンリスト234を参照して、検出対象とする発光パターンを設定する(S302)。検出対象とする発光パターンは、例えば、発光パターン1から順次設定していく。ここで、発光パターンは点滅のパターンが時間単位で定義されたものであるが、それを撮像動画データのフレームレートに合わせて、発光しているフレームを「1」で表わし、そうでないフレームを「0」で表わしたフレーム単位の発光パターン信号に変換する(S303)。
【0050】
検出対象とする発光パターンを設定し、発光パターン信号に変換すると、発光パターン信号の検索を開始する(S304)。なお、発光パターンをフレーム単位の発光パターン信号に変換して検索するため、同期を取るそれぞれの撮像動画データのフレームレートが異なっていてもよい。
【0051】
検索は、信号光検出フレーム情報236の先頭から、検出対象とする発光パターン信号と同じ並びで「1」が並んでいる箇所を、パターンマッチング等の一般的な手法を用いて検出する。この際に、完全一致のみならず、近似するパターンも検出するようにする。これは、フィルタリングフレーム235の輝度平均値を用いて作成した信号光検出フレーム情報236が、必ずしも、発光パターン信号と一致しているとは限られないからである。 信号光検出フレーム情報236から検出対象の発光パターンから変換された発光パターン信号が検出されると(S305:Yes)、検出対象の発光パターンの識別子と、発光パターン信号が検出されたフレーム列の先頭のフレーム番号を同期ポイントとして同期ポイントリスト237に記録する(S306)。
【0052】
図9は、同期ポイントリスト237の構成例を示す図である。本図に示すように、同期ポイントリスト237は、発光パターンIDと開始フレーム番号とを組にして、同期ポイントとして連結した構成としている。ただし、開始フレーム番号に代えて、先頭からの再生時間等の情報を用いるようにしてもよい。
【0053】
図8の説明に戻って、同一の発光パターンで複数回発光されている場合もあるため、検索は、信号光検出フレーム情報236の末尾まで行なう。信号光検出フレーム情報236の末尾までの検索が終了すると(S307:Yes)、次の発光パターンを検出対象として設定し、検索処理を繰り返す(S308)。
【0054】
すべての発光パターンについて検索を終了すると(S308:Yes)、同期ポイントリスト237を出力する(S309)。
【0055】
次に、信号光消去部233の動作について図10のフローチャートを参照して説明する。まず、発光パターン検出部232が生成した同期ポイントリスト237と発光パターンリスト234とを読み込み(S401)、次いで、撮像動画データ221を入力する(S402)。
【0056】
そして、同期ポイントリスト237と発光パターンリスト234から、撮像動画データ221を構成するフレームそれぞれについて、信号光が含まれているかどうかを示す発光フレームリストを作成する。発光フレームリストは、信号光検出フレーム情報236(図7参照)と同じフォーマットとすることができる。
【0057】
すなわち、同期ポイントリスト237を参照して、発光パターンと発光パターンが開始するフレーム番号を特定し、特定された発光パターンの点滅のタイミングと撮像動画データ221のフレームレートとからフレーム毎に信号光が含まれているかどうかを判定することができる。以下では、信号光が含まれているフレームを発光フレームと称し、信号光が含まれていないフレームを非発光フレームと称する。
【0058】
このように、本実施例では、同期ポイントリスト237と発光パターンリスト234とから発光フレームの判断を行なうことにより、被写体への信号光の写り込みが曖昧な場合や、信号光に近い色が写っている場合でも、発光フレームの判定精度を高めることができるようにしている。ただし、簡易的に、信号光検出フレーム情報236をそのまま発光フレームリストとして用いてもよい。
【0059】
そして、撮像動画データ221から対象フレームを設定する(S404)。対象フレームは、先頭フレームから順次設定する。対象フレームが設定されると、発光フレームリストを参照して、そのフレームが発光フレームかどうかを判定する(S405)。
【0060】
対象フレームが発光フレームでない場合(S405:No)は、そのフレームに対する処理は行なわない。
【0061】
一方、対象フレームが発光フレームの場合(S405:Yes)は、対象フレームに対応したフィルタリングフレーム235を参照して、信号光成分を含む画素を特定する(S406)。信号光成分を含む画素は、対応するフィルタリングフレーム235において輝度値が0以外の画素である。
【0062】
そして、対象フレームの信号光成分を含む画素を、撮像動画データ221の前後の直近非発光フレームを用いて補正する(S407)。補正の方法は、例えば、以下のように行なうことができる。すなわち、対象フレーム番号をiとし、直前の非発光フレーム番号をaとし、直後の非発光フレーム番号をbとした場合、対象フレームの補正対象画素の補正値Vi'を、[数1]にしたがって算出する。
【数1】
【0063】
ここで、Vaは、a番目のフレームの補正対象画素と同じ位置の画素値であり、Vbは、b番目のフレームの補正対象画素と同じ位置の画素値である。このように、本例では、対象フレームからの距離に応じた重み付けを行なって補正値Vi'を算出している。
【0064】
ただし、対象フレームの信号光成分を含む画素の補正は、他の方法を用いて行なってもよい。例えば、前後の直近以外の非発光フレームを含む複数の非発光フレームを用いてスプライン補完等の手法を用いて補正値を算出してもよい。あるいは、対象フレームと非発光フレームとの間における補正対象画素の周辺の動きを検出して、非発光フレームにおける補正対象画素の位置を推定し、推定された画素により対象フレームの信号光成分を含む画素を補正するようにしてもよい。さらには、対象フレーム内の補正対象画素の周辺の信号光成分を含まない画素を用いて、信号光成分を含む画素を補正するようにしてもよい。
【0065】
以上の処理を、対象フレームを順次変更しながら繰り返し、すべてのフレームに対し処理を行なうと(S408:Yes)、補正後の動画データを信号光消去済動画データ238として生成し、記録する(S409)。これにより、信号光の影響の少ない動画データを得ることができる。
【0066】
上述の発光パターン検出処理、および信号光消去処理は、撮像動画データ221の記録が終了し、さらに記録された撮像動画データ221のすべてのフレームに対する信号光検出処理が終了した後で行なう。あるいは、動画撮影をしている間に、撮像動画データ21の記録が一定のフレーム数だけ進む毎に、記録された分の撮像動画データ221に対して処理を行なうようにしてもよい。この場合、信号光検出処理はフレームが供給される毎に行なう必要がある。
【0067】
なお、動画撮影装置20の動画像処理部230は信号光消去部233を含まない構成としてもよい。この場合、外部から読み出すことのできる動画データは撮像動画データ221となり、信号光の影響を含む動画データとなるが、ユーザが信号発光装置10を発光させる際に、同期を取りたい場面の前や後で、再生や編集に利用しなくてよい場面で信号光を発光させるようにすれば、実用上の問題は生じない。
<第2実施例>
【0068】
次に、本発明の第2実施例について説明する。第1実施例と共通する内容については説明を簡略化する。図11は、本発明の第2実施例に係る動画撮影システムの構成を示すブロック図である。本図に示すように、動画撮影システム2は、信号発光装置30と複数台の動画撮影装置40(40a、40b)を備えている。
【0069】
信号発光装置30は、ユーザの操作に基づいて所定の発光パターンで信号光を発光する装置であり、赤外光発光部310、発光パターン発生部320、発光パターン指示部330を備えている。
【0070】
すなわち、第2実施例では、信号発光装置30は、非可視光である赤外光を発光する。このため、発光しても通常の撮像動画データには影響を与えない。なお、非可視光であれば赤外光に限られない。発光パターン発生部320、発光パターン指示部330は、第1実施例の発光パターン発生部120、発光パターン指示部130と同様である。
【0071】
動画撮影装置40は、可視光入光部410、可視光撮像部420、赤外光入光部440、赤外光撮像部450、動画像処理部430を備えている。
【0072】
可視光入光部410は、赤外線カットフィルタを備えており、被写体からの可視光を可視光撮像部420に導く。赤外光入光部440は、赤外線フィルタを備えており、被写体からの赤外光を赤外光撮像部450に導く。
【0073】
可視光撮像部420は、CCD等の撮像素子、AD変換器、画像処理装置等を備えており、撮影動画データ421を生成して記録する。赤外光撮像部450は、CCD等の撮像素子、AD変換器、画像処理装置等を備えており、赤外光動画データを生成する。可視光撮像部420と赤外光撮像部450は連動しており、同時に撮像を開始し、同時に撮影を終了し、共通の基準クロックで動作を行なう。まだ、同じフレームレートであるとする。このため、撮像動画データ421と赤外光動画データとは同期が取れている。なお、赤外光動画データのフレームの画素数は、撮像動画データ421のフレームの画素数と異なっていてもよい。
【0074】
動画撮影中に信号発光装置30が操作されると、赤外光撮像部450が生成する赤外光動画データには、信号発光装置30により発光された信号光が写っているフレームが含まれる。一方、可視光撮像部420が生成する撮像動画データ421には影響は及ばない。
【0075】
動画像処理部430は、赤外光動画データの各フレームから信号光を検出し、複数の動画データで同期を取る際に基準となるフレーム位置を示す同期ポイントリストを生成して記録する。
【0076】
これらの処理を行なうため、動画像処理部430は、信号光検出部431、発光パターン検出部432を備えている。これらの機能部は、動画撮影装置40が備えるCPUがメモリに記録されたコンピュータプログラムにしたがって動作を行なうことで構成することができる。
【0077】
信号光検出部431は、赤外光画像データの各フレームについて、画素毎に信号光成分を検出し、フィルタリングフレーム435を生成する。また、信号光検出部431は、フィルタリングフレーム435に基づいて、そのフレームが信号光を含んでいるかどうかを判定し、判定結果を信号光検出フレーム情報436として出力する。
【0078】
発光パターン検出部432は、発光パターンリスト434に記録されている発光パターンを信号光検出フレーム情報436から検出し、検出された場合は、検出した発光パターンの識別子と、発光パターンが検出されたフレーム列の開始番号とを対応付けた同期ポイントリスト437に記録する。
【0079】
動画撮影システム2の動画撮影時の動作は、図3のフローチャートに示した第1実施例の動作と同様である。ただし、外部から読み出すことのできる動画データは、可視光撮像部420が生成した撮像動画データ421となる。これは、可視光撮像部420が生成した撮像動画データ421には信号光が含まれないため、信号光消去処理が不要だからである。
【0080】
動画撮影装置40の動画像処理部430の動作は、図4のフローチャートに示した第1実施例の動画像処理部230の動作と基本的には同様であるが、フィルタリング処理(S202)の具体的内容において相違する。
【0081】
図12は、第2実施例のフィルタリング処理の手順の一例を示すフローチャートである。便宜上、図5に示した第1実施例のフィルタリング処理に対応する符号を付している。ここでは、赤外光動画データを構成するフレームの各画素は、輝度Yのみで表現されているものとする。
【0082】
第2実施例のフィルタリング処理(S202)では、まず、対象画素を設定する(S2021)。対象画素は、例えば、左上の画素から順次設定することができる。そして、対象画素の輝度が第1基準値以上かどうかを判断する(S2022)。第1基準値は、第1実施例と異なる値としてもよい。
【0083】
この結果、対象画素の輝度が第1基準値以上でないと判定された場合(S2022:No)は、その画素に信号光成分は含まれていないものと判断する。信号光成分が含まれていないと判断された画素については、輝度値を0としてフィルタリングフレーム435を生成する(S2025)。
【0084】
対象画素の輝度が第1基準値以上であると判定された場合(S2022:Yes)は、その画素に信号光成分が含まれているものと判断する。信号光成分が含まれていると判断された画素については、輝度値を保持してフィルタリングフレーム435を生成する(S2025)。すなわち、第2実施例では赤外光動画データを構成するフレームの各画素は輝度Yのみで表現されているため、色の近似の判定は行なわず、輝度値のみから信号光成分の有無を判定する。
【0085】
以上の処理をすべての画素に対して繰り返す(S2026)ことで、対象フレームのフィルタリングフレーム435が生成される。信号光検出部431は、生成されたフィルタリングフレーム435を記録して(S2027)、フィルタリング処理を終了する。
【0086】
動画撮影装置40の発光パターン検出部432の動作は図8のフローチャートに示した第1実施例の発光パターン検出部232の動作と同様であり、生成された同期ポイントリスト437を記録する。
【0087】
第2実施例においても、複数の動画撮影装置40から撮像動画データ421と同期ポイントリスト437を読み出すことで、複数の動画像を容易に同期させて再生や編集を行なうことができるようになる。
【符号の説明】
【0088】
1…動画撮影システム、2…動画撮影システム、10…信号発光装置、20…動画撮影装置、30…信号発光装置、40…動画撮影装置、110…発光部、120…発光パターン発生部、130…発光パターン指示部、210…入光部、220…撮像部、221…撮像動画データ、230…動画像処理部、231…信号光検出部、232…発光パターン検出部、233…信号光消去部、234…発光パターンリスト、235…フィルタリングフレーム、236…信号光検出フレーム情報、237…同期ポイントリスト、238…信号光消去済動画データ、310…赤外光発光部、320…発光パターン発生部、330…発光パターン指示部、410…可視光入光部、420…可視光撮像部、421…撮像動画データ、430…動画像処理部、431…信号光検出部、432…発光パターン検出部、434…発光パターンリスト、435…フィルタリングフレーム、436…信号光検出フレーム情報、437…同期ポイントリスト、440…赤外光入光部、450…赤外光撮像部
【特許請求の範囲】
【請求項1】
信号光を発光する信号発光装置と、動画像を撮影する動画撮影装置とを備えた動画撮影システムであって、
前記動画撮影装置は、
撮影した動画像のフレーム毎に、前記信号光が含まれているか否かを判定し、判定結果を信号光検出フレーム情報として検出する信号光検出部と、
前記信号光検出フレーム情報から、前記信号光の所定の発光パターンを検出し、検出された発光パターンと検出されたフレーム位置に関する情報とを対応付けた同期ポイントリストを生成する同期ポイント検出部と、
を備えたことを特徴とする動画撮影システム。
【請求項2】
入力した動画像のフレーム毎に、所定の信号光が含まれているか否かを判定し、判定結果を信号光検出フレーム情報として検出する信号光検出部と、
前記信号光検出フレーム情報から、前記信号光の所定の発光パターンを検出し、検出された発光パターンと検出されたフレーム位置に関する情報とを対応付けた同期ポイントリストを生成する同期ポイント検出部と、
を備えたことを特徴とする動画解析装置。
【請求項3】
信号光の発光パターンを記録した発光パターンリストと、
前記同期ポイントリストと前記発光パターンリストとから入力した動画像のフレーム毎に、前記信号光が含まれているか否かを判定し、前記信号光が含まれていると判定されたフレームを、前記信号光が含まれていないと判定された前または後のフレームを用いて補正する信号光消去部と、
をさらに備えたことを特徴とする請求項2に記載の動画解析装置。
【請求項4】
前記信号光検出部は、各フレームの画素単位に前記信号光が含まれているか否かを判定し、
前記信号光消去部は、前記信号光が含まれていると判定された画素に対して前記補正を行なうことを特徴とする請求項3に記載の動画解析装置。
【請求項5】
入力した動画像のフレーム毎に、所定の信号光が含まれているか否かを判定し、判定結果を信号光検出フレーム情報として検出するステップと、
前記信号光検出フレーム情報から、前記信号光の所定の発光パターンを検出し、検出された発光パターンと検出されたフレーム位置に関する情報とを対応付けた同期ポイントリストを生成するステップと、
を有することを特徴とする動画解析方法。
【請求項6】
入力した動画像のフレーム毎に、所定の信号光が含まれているか否かを判定し、判定結果を信号光検出フレーム情報として検出する信号光検出部と、
前記信号光検出フレーム情報から、前記信号光の所定の発光パターンを検出し、検出された発光パターンと検出されたフレーム位置に関する情報とを対応付けた同期ポイントリストを生成する同期ポイント検出部として情報処理装置を機能させることを特徴とするコンピュータプログラム。
【請求項1】
信号光を発光する信号発光装置と、動画像を撮影する動画撮影装置とを備えた動画撮影システムであって、
前記動画撮影装置は、
撮影した動画像のフレーム毎に、前記信号光が含まれているか否かを判定し、判定結果を信号光検出フレーム情報として検出する信号光検出部と、
前記信号光検出フレーム情報から、前記信号光の所定の発光パターンを検出し、検出された発光パターンと検出されたフレーム位置に関する情報とを対応付けた同期ポイントリストを生成する同期ポイント検出部と、
を備えたことを特徴とする動画撮影システム。
【請求項2】
入力した動画像のフレーム毎に、所定の信号光が含まれているか否かを判定し、判定結果を信号光検出フレーム情報として検出する信号光検出部と、
前記信号光検出フレーム情報から、前記信号光の所定の発光パターンを検出し、検出された発光パターンと検出されたフレーム位置に関する情報とを対応付けた同期ポイントリストを生成する同期ポイント検出部と、
を備えたことを特徴とする動画解析装置。
【請求項3】
信号光の発光パターンを記録した発光パターンリストと、
前記同期ポイントリストと前記発光パターンリストとから入力した動画像のフレーム毎に、前記信号光が含まれているか否かを判定し、前記信号光が含まれていると判定されたフレームを、前記信号光が含まれていないと判定された前または後のフレームを用いて補正する信号光消去部と、
をさらに備えたことを特徴とする請求項2に記載の動画解析装置。
【請求項4】
前記信号光検出部は、各フレームの画素単位に前記信号光が含まれているか否かを判定し、
前記信号光消去部は、前記信号光が含まれていると判定された画素に対して前記補正を行なうことを特徴とする請求項3に記載の動画解析装置。
【請求項5】
入力した動画像のフレーム毎に、所定の信号光が含まれているか否かを判定し、判定結果を信号光検出フレーム情報として検出するステップと、
前記信号光検出フレーム情報から、前記信号光の所定の発光パターンを検出し、検出された発光パターンと検出されたフレーム位置に関する情報とを対応付けた同期ポイントリストを生成するステップと、
を有することを特徴とする動画解析方法。
【請求項6】
入力した動画像のフレーム毎に、所定の信号光が含まれているか否かを判定し、判定結果を信号光検出フレーム情報として検出する信号光検出部と、
前記信号光検出フレーム情報から、前記信号光の所定の発光パターンを検出し、検出された発光パターンと検出されたフレーム位置に関する情報とを対応付けた同期ポイントリストを生成する同期ポイント検出部として情報処理装置を機能させることを特徴とするコンピュータプログラム。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【公開番号】特開2013−74466(P2013−74466A)
【公開日】平成25年4月22日(2013.4.22)
【国際特許分類】
【出願番号】特願2011−211997(P2011−211997)
【出願日】平成23年9月28日(2011.9.28)
【出願人】(308036402)株式会社JVCケンウッド (1,152)
【Fターム(参考)】
【公開日】平成25年4月22日(2013.4.22)
【国際特許分類】
【出願日】平成23年9月28日(2011.9.28)
【出願人】(308036402)株式会社JVCケンウッド (1,152)
【Fターム(参考)】
[ Back to top ]