映像フレーム内の事象を識別及び可視化する方法、及び、映像ストリーム内の事象のタイムラインを生成するためのシステム
【課題】本発明は、映像フレーム内の事象を識別及び可視化する方法、及び、映像ストリーム内の事象のタイムラインを生成するためのシステムを提供する。
【解決手段】本発明では、映像フレーム内で、興味のある量を判定し、興味のある量に基づいて映像フレームごとに重要性スコアを生成し、重要性スコアに基づいて1つか又はそれ以上の閾値を計算し、事象を識別する映像フレームを閾値に基づいて選択する。選択された事象のキーフレームを表示するタイムラインを生成してもよい。
【解決手段】本発明では、映像フレーム内で、興味のある量を判定し、興味のある量に基づいて映像フレームごとに重要性スコアを生成し、重要性スコアに基づいて1つか又はそれ以上の閾値を計算し、事象を識別する映像フレームを閾値に基づいて選択する。選択された事象のキーフレームを表示するタイムラインを生成してもよい。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、映像内の動作の識別、動作の重要性の評価、興味のある事象を識別するタイムラインの作成、及び、映像の事象又は別のビューをより詳細に見るための対話技術に基づいて、1つか又はそれ以上の定位置カメラからタイムライン及び事象ログを生成する技術に関する。詳細には、映像フレーム内の事象を識別及び可視化する方法、及び、映像ストリーム内の事象のタイムラインを生成するためのシステムに関する。
【背景技術】
【0002】
一組の監視カメラからの映像のような、同期した一組の映像ストリーム内の興味のある事象を識別することは、映像の量のために、また、オーサリングメタデータ又はインデックスがないために、難しいことである。さらに、警備員は、リアルタイムにか又は事後に、興味のある動作を識別し、そして、様々な映像ストリーム内の動作間の相互関係を判定しなければならない。彼らは、特定の事態を導くか又は特定の事態の後に発生する一連の行為について理解を深めなければならない。
【0003】
タイムラインは、様々な研究者によって調査されてきた。人生における事象(例えば、犯罪歴又は医療記録)を可視化するために、タイムラインを使用するものがある(例えば、非特許文献1参照)。作曲家に関する情報のようなディジタルライブラリからのデータをタイムラインに可視化するものもある(例えば、非特許文献2参照)。その他のアプローチも提供されている(例えば、非特許文献3参照)。
【0004】
単一カメラのためのタイムラインビューが提供されている(例えば、特許文献1参照)。関連する地図技術として、事象のキーフレームが、ユーザがタイムラインに沿って移動すると、次第に明るくなり、また、次第に暗くなることが提供されている(例えば、特許文献2参照)。映像のセグメントについて重要性を計算することが提供されている(例えば、特許文献3)。
【特許文献1】米国特許第6,366,296号明細書
【特許文献2】米国特許出願公開第2003/0197731号
【特許文献3】米国特許第6,535,639号明細書
【非特許文献1】C.プレサント(Plaisant C.)、B.ミラシュ(Milash B.)、A.ローズ(Rose A.)、S.ウィドフ(Widoff S.)、B.シュナイダーマン(Shneiderman B.)、「ライフライン:個人暦の可視化」(LifeLines:Visualizing Personal Histories)、計算機システムにおける人的要素に関するSIGCHI会議議事録(Proceedings of the SIGCHI conference on Human factors in computing systems)、1996年、p.221−227
【非特許文献2】V.クマー(Kumar V.)、R.フルタ(Furuta R.)、R.B.アレン(Allen R.B.)、「ディジタルライブラリのためのメタデータ可視化:対話的タイムラインの編集及び検討」(Metadata Visualization for Digital Libraries:Interactive Timeline Editing and Review)、ディジタルライブラリに関する第3回ACM会議議事録(Proceedings of the third ACM conference on Digital libraries)、1998年、p.126−133
【非特許文献3】S.C.S.チュエン(Chueng、S.-C.S.)、C.カマス(Kamath C.)、2004年、「都会のトラフィック映像から背景を除くためのロバストな技法」(Robust Techniques for Background Subtraction in Urban Traffic Video)、映像通信及び画像処理・SPIE 電子画像処理(Video Communications and Image Processing,SPIE Electronic Imaging)、サンホセ(San Jose)、2004年
【発明の開示】
【発明が解決しようとする課題】
【0005】
本発明は、上記に鑑み、1つか又はそれ以上の映像フレーム内の事象を識別及び可視化する方法、及び、映像ストリーム内の事象のタイムラインを生成するためのシステムを提供する。
【課題を解決するための手段】
【0006】
一組の映像ストリーム内の興味のある事象を提供するためのタイムラインインタフェースが、開発された。タイムラインインタフェースは、映像ストリーム内の興味のある動作の期間を位置決めするための技術、動作を複数の事象のグループに分類するための方法、事象を提供するための方法、及び、興味のある期間を選択しかつ地図内の事象を再生するためのインタフェースエレメントを含む。
【0007】
本発明の第1の態様は、1つか又はそれ以上の映像フレーム内の事象を識別及び可視化する方法であって、(a)興味のある量を判定し、(b)興味のある量に基づいて映像フレームごとに重要性スコアを生成し、(c)重要性スコアに基づいて1つか又はそれ以上の閾値を計算し、(d)事象を識別する映像フレームを閾値に基づいて選択する。
【0008】
本発明の第2の態様は、第1の態様の事象を識別及び可視化する方法であって、(a)において、興味のある量が、映像フレーム内の動作の量、映像フレーム内の興味のある地点、カメラから興味のある地点までの距離、映像フレーム内の検出された特徴、映像フレーム内の顔の特徴、動作が興味のあるものであるか又は特徴が興味のあるものであれば、別のセンサーによって検出された動作、及び、別のセンサーによって検出された事象からなるグループから選択された基準に基づくものである。
【0009】
本発明の第3の態様は、第1の態様の事象を識別及び可視化する方法であって、(e)映像フレーム内の1つか又はそれ以上の興味のある地点を判定し、(f)1つか又はそれ以上の映像カメラ位置から映像フレーム内の1つか又はそれ以上の興味のある地点までの1つか又はそれ以上の距離を判定し、(g)カメラ位置から興味のある地点までの距離に基づいて興味のある量を判定する、ことをさらに含む。
【0010】
本発明の第4の態様は、第1の態様の事象を識別及び可視化する方法であって、(b)は、滑らかにすることをさらに含む。
【0011】
本発明の第5の態様は、第1の態様の事象を識別及び可視化する方法であって、(c)において、最小の興味のある量、動作とみなされる変化した画素の最小割合、新しい映像セグメントを開始するための動作の最小休止時間、及び、ノイズを無視するための動作セグメントの最小の長さからなるグループから選択された量について1つか又はそれ以上の閾値が計算される。
【0012】
本発明の第6の態様は、第5の態様の事象を識別及び可視化する方法であって、(d)は、(h)滑らかにされた重要性スコアが、最小の興味のある量の閾値よりも大きければ、映像フレームを事象に含め、(i)選択された連続的な映像フレーム間の間隙が、新しい映像セグメントを開始するための動作の最小休止時間閾値よりも小さければ、選択された連続的な映像フレームを単一事象に結合する、ことをさらに含む。
【0013】
本発明の第7の態様は、第1の態様の事象を識別及び可視化する方法であって、映像フレームが映像ストリームの一部分であり、映像ストリーム内の少なくとも1つの事象のタイムラインを生成することをさらに含む。
【0014】
本発明の第8の態様は、第7の態様の事象を識別及び可視化する方法であって、タイムラインにおける事象の期間が水平ラインを用いて識別され、水平ラインが、事象が映像ストリーム内で最初に存在した時刻に開始し、且つ事象が映像ストリーム内で最後に存在した時刻に終了し、キーフレームが、各事象の内容を可視化するために使用され、事象の期間に対応する。
【0015】
本発明の第9の態様は、第8の態様の事象を識別及び可視化する方法であって、2つか又はそれ以上のカメラによって同時に記録された2つか又はそれ以上の映像ストリームが、単一タイムライン上に表示され、各映像ストリーム内に存在する事象の期間が、水平ラインによって表示され、記号が、映像ストリームを記録するために使用されたカメラを示すために使用され、同じ記号が、同じカメラからの映像内に存在する異なる事象に使用され、同じカメラからの事象ごとにキーフレームをフレーム化するために使用される。
【0016】
本発明の第10の態様は、第9の態様の事象を識別及び可視化する方法であって、記号が、異なるカメラによって撮影された事象を示すために異なる色を使用し、同じ色が、同じカメラからの映像内に存在する異なる事象に使用され、同じカメラからの事象ごとにキーフレームをフレーム化するために使用される。
【0017】
本発明の第11の態様は、第9の態様の事象を識別及び可視化する方法であって、地図が、2つか又はそれ以上の映像ストリームを撮影するために使用された2つか又はそれ以上のカメラの地理的位置を示すために使用され、記号が、カメラを示すために使用され、キーフレームが、カメラから観察された映像ストリームを示すために使用され、記号を用いて示され、異なる記号が、異なるカメラを示すために使用され、異なるカメラから観察された映像ストリームを示すために使用される異なるキーフレームが、異なるカメラに対応する異なる記号によってフレーム化され、カーソルがタイムラインに沿って移動すると、キーフレームが変化する。
【0018】
本発明の第12の態様は、第11の態様の事象を識別及び可視化する方法であって、記号が、2つか又はそれ以上の映像ストリームを撮影するために使用された2つか又はそれ以上のカメラの地理的位置を示すために異なる色を使用し、色が、カメラを示すために使用され、キーフレームが、その色によってフレーム化され、異なる色が、異なるカメラを示すために使用され、異なるキーフレームが、異なるカメラに対応する異なる色によってフレーム化され、カーソルがタイムラインに沿って移動すると、キーフレームが変化する。
【0019】
本発明の第13の態様は、第8の態様の事象を識別及び可視化する方法であって、識別された事象のキーフレームが表示され、キーフレームがタイムラインに従って番号を付される。
【0020】
本発明の第14の態様は、第13の態様の事象を識別及び可視化する方法であって、キーフレームが、動作期間及びその動作期間のこま撮り可視化を表す複数の単一行為キーフレームからなるグループから選択される。
【0021】
本発明の第15の態様は、第8の態様の事象を識別及び可視化する方法であって、キーフレームが、映像ストリーム内の合成を可視化するために使用され、単一タイムラインに従って番号を付される。
【0022】
本発明の第16の態様は、第11の態様の事象を識別及び可視化する方法であって、事象ログが、事象を可視化するために、地図上でキーフレームとともに使用される。
【0023】
本発明の第17の態様は、第1の態様の事象を識別及び可視化する方法であって、事象が、地図、事象ログ、及び、タイムラインからなるグループから選択された媒体を用いて表示される。
【0024】
本発明の第18の態様は、第7の態様の事象を識別及び可視化する方法に係る映像ストリーム内の興味のある事象を表示する事象のタイムラインを生成するためのコンピュータによって実行することのできる命令からなるプログラムであって、興味のある量を判定するステップと、興味のある量に基づいて映像ストリーム内の1つか又はそれ以上の映像フレームごとに重要性スコアを生成するステップと、1つか又はそれ以上の閾値を計算するステップと、事象を識別する映像フレームを閾値に基づいて選択するステップと、映像ストリーム内の1つか又はそれ以上の選択された事象のキーフレームを表示するタイムラインを生成するステップと、を含む。
【0025】
本発明の第19の態様は、映像ストリーム内の事象のタイムラインを生成するためのシステムであって、a)1つか又はそれ以上の組のパラメータを規定することができ、1つか又はそれ以上の組のパラメータをソースコードに転送することができ、映像ストリーム内の事象を可視化するための一連のタスクにソースコードをコンパイルすることができる1つか又はそれ以上のプロセッサと、b)1つか又はそれ以上プロセッサによって処理されるとき、1つか又はそれ以上の組のパラメータを規定するステップ、1つか又はそれ以上の組のパラメータをソースコードに転送するステップ、及び、ソースコードを映像ストリーム内の事象のタイムラインを生成するための一連のタスクにコンパイルするステップをシステムに実行させるオペレーションが格納された機械可読媒体とを有するシステム。
【発明の効果】
【0026】
本発明によれば、興味のある量を判定し、興味のある量に基づいて映像フレームごとに重要性スコアを生成し、重要性スコアに基づいて1つか又はそれ以上の閾値を計算し、事象を識別する映像フレームを前記閾値に基づいて選択するようにしているので、映像フレーム内の事象を識別及び可視化することができる。
【0027】
さらに、本発明によれば、興味のある量を判定し、興味のある量に基づいて映像フレームごとに重要性スコアを生成し、重要性スコアに基づいて1つか又はそれ以上の閾値を計算し、事象を識別する映像フレームを閾値に基づいて選択し、選択された事象のキーフレームを表示するタイムラインを生成するようにしているので、映像フレーム内の事象を識別及び可視化し、映像ストリーム内の興味の有る事象を表示する事象タイムラインを生成することができる。
【発明を実施するための最良の形態】
【0028】
添付の図面を参照して、本発明の好ましい実施形態を詳細に説明する。
(映像内の動作の識別)
動作を判定するための2つの異なるアプローチが、提案される。第1のアプローチは、連続的な映像フレームを比較し、変化する画素を判定する。第2のアプローチは、カメラビューの背景をモデル化し、映像フレームごとに前景画素を判定する。両方のアプローチは、変化した画素又は前景の画素を観察し、それらの数をカウントし、あるいは、全体的な動きの方向及び速度を判定する。満足できる動作を備えたフレームは、動作を備えた複数の映像セグメントのグループに分類される。動作とみなされるべき変化した画素の最小割合、新しいセグメントを開始するための動作の最小休止時間、及び、映像ノイズを無視するための動作セグメントの最小の長さについての閾値が実験的に判定される。
(動作から事象への変換)
事象は、映像内の動作の量に基づいて興味のあるものとみなされる動作の期間、映像テープに録画された空間内の興味のある地点までの距離、人の顔のような検出された特徴、及び、例えば、無線周波数識別(RFID)のようなその他のセンサーからの事象を判定することによって識別される。複数のカメラがビュー内に同一の興味のある地点を有する場合、興味のある地点までの距離量はすべてのカメラを考慮することによって改良することができる。
【0029】
興味のある量が映像内のフレームごとに計算されると、フレームは、まず、移動平均によって重要性スコアを滑らかにすることによって、そして、移動平均が閾値よりも大きいシーケンスを選択することによって、事象シーケンスに統合される。これが、図1及び図8に示され、ホットスポットの近傍の動作から判定された重要性のグラフが時間軸上にプロットされている。図1及び図8において、閾値よりも大きな移動平均を備えたシーケンスは複数の事象のグループに分類され、短い間隙を備えた事象は結合される。その他の閾値は事象を結合するための間隙の最大期間を判定する。また、図1及び図8は、事象に対応する大きな重要性を備えたキーフレームを示す。
【0030】
本発明では、図7に概略が示されるように、ステップ100において、興味のある量を判定し、ステップ102において、興味のある量に基づいた重要性スコアを生成し、ステップ104において、重要性スコアを滑らかにする。ステップ106において、滑らかにされた重要性スコアが第1の閾値より大きいと判断されると、ステップ108に進み、識別された事象を選択する。ステップ106において、判断が否定された場合、ステップ110に進み、事象は選択されない。次に、ステップ112において、間隙が第2の閾値より小さいと判断されると、ステップ114に進み、選択された識別事象を結合し、ステップ116において、事象のタイムラインを生成する。ステップ112において、判断が否定された場合、ステップ110に進み、事象は選択されない。
【0031】
具体的には、ステップ100において、興味のある量を判定する。ステップ102、104において、興味のある量に基づいて映像フレームごとに重要性スコアを生成する。ステップ104において、重要性スコアを滑らかにしてもよい。ステップ106において、重要性スコアに基づいて1つか又はそれ以上の閾値を計算する。ステップ106〜114において、事象を識別する映像フレームを閾値に基づいて選択する。ステップ114において、選択された連続的な映像フレームを単一事象に結合してもよい。ステップ116において、映像ストリーム内の少なくとも1つの事象のタイムラインを生成する。
【0032】
なお、本発明の上記及び下記の例示的な実施形態は、情報処理装置によって実行されてもよい。当該情報処理装置は、例えば、カメラから映像ストリームを受け取る入力部、プロセッサによる実行の際の作業領域を形成するとともにプログラムや処理対象としてのデータを格納する記憶部、処理内容や処理結果(例えば、図1〜図6、図8〜図13に示される画面)を表示する表示部、及び、データを通信網などに出力する出力部などを含む。プロセッサは、プログラムを読み出し実行することにより、処理対称のデータ等に対して当該プログラムの手順に対応した処理をする。
【0033】
プロセッサは、判定手段と、重要性スコア生成手段と、閾値計算手段と、選択手段とを備えてもよい。判定手段は、興味のある量を判定する(ステップ100)。重要性スコア生成手段は、興味のある量に基づいて映像フレームごとに重要性スコアを生成する(ステップ102、104)。重要性スコア生成手段は、さらに、重要性スコアを滑らかにする平滑手段を有してもよい(ステップ104)。閾値計算手段は、重要性スコアに基づいて1つか又はそれ以上の閾値を計算する(ステップ106)。選択手段は、事象を識別する映像フレームを閾値に基づいて選択する(ステップ106〜116)。選択手段は、さらに、選択された連続的な映像フレームを単一事象に結合する結合手段を有してもよい(ステップ114)。該プロセッサは、さらに、映像ストリーム内の少なくとも1つの事象のタイムラインを生成するタイムライン生成手段を有してもよい(ステップ116)。
【0034】
判定手段、重要性スコア生成手段、平滑手段、閾値計算手段、選択手段、結合手段、タイムライン生成手段は、プロセッサによって制御されるハードウェアで実現されてもよいし、プロセッサによって実行されるソフトウェア(プログラム)で実現されてもよい。また、情報処理装置は、パーソナルコンピュータ、マイクロコンピュータのような汎用情報処理装置であってもよいし、本発明を実施するための専用情報処理装置であってもよい。
【0035】
本発明のプログラムは、興味のある量を判定する(ステップ100)命令と、興味のある量に基づいて映像フレームごとに重要性スコアを生成する(ステップ102、104)命令と、重要性スコアに基づいて1つか又はそれ以上の閾値を計算する(ステップ106)命令と、事象を識別する映像フレームを閾値に基づいて選択する(ステップ106〜116)命令を含む。当該プログラムをプロセッサにより実行することにより、判定手段は、興味のある量を判定し(ステップ100)、重要性スコア生成手段は、興味のある量に基づいて映像フレームごとに重要性スコアを生成し(ステップ102、104)、閾値計算手段は、重要性スコアに基づいて1つか又はそれ以上の閾値を計算し(ステップ106)、選択手段は、事象を識別する映像フレームを閾値に基づいて選択する(ステップ106〜116)ように、プロセッサは各手段を制御することができる。
【0036】
本発明のプログラムは、さらに、重要性スコアを滑らかにする(ステップ104)命令と、選択された連続的な映像フレームを単一事象に結合する(ステップ114)命令と、映像ストリーム内の少なくとも1つの事象のタイムラインを生成する(ステップ116)命令とを含んでもよい。当該プログラムをプロセッサにより実行することにより、平滑手段は、重要性スコアを滑らかにし(ステップ104)、結合手段は、選択された連続的な映像フレームを単一事象に結合し(ステップ114)、タイムライン生成手段は、映像ストリーム内の少なくとも1つの事象のタイムラインを生成する(ステップ116)ように、プロセッサは各手段を制御することができる。
(タイムライン上における事象の可視化)
ただ単に事象のリストを提供するのではなく、事象がタイムライン及びキーフレームを用いて可視化される。図2及び図9は、単一カメラ(#2)からの事象を備えたタイムラインを示す。図2において、三角形記号(△)は、水平バー又はライン、及び、キーフレーム輪郭が図9において赤で陰影が付されていることを例示するために使用され、映像がその色に対応するカメラから入力されることを示す。水平バー又はラインは事象の期間を指示し、キーフレームはそれぞれの事象の内容を可視化するために使用される。ユーザは興味のある時間間隔を得るためにタイムラインの終点を調節してもよい。図7は、タイムラインを生成するために映像ストリーム内の事象を識別するときに必要とされるステップのブロック図を示す。複数のカメラの場合、単一タイムラインが同様に使用されるが、異なる色の水平バーは異なるカメラからの事象を示す。図3及び図10は、複数のカメラからの事象を備えたタイムラインを示す。図3において、キーフレーム輪郭は、発生源カメラ(1、2、3、4)を示すために、図10における色(緑、赤、黄、青)に対応する記号化されたシンボル(□、△、◇、○)である。合成キーフレーム又は動作キーフレームが提供され、異なるビューの事象及び事象内の動作を認識させる。図4及び図11は、4つのカメラからのキーフレームからなる4画面を示し、キーフレームは、動作の中央だけにトリミングされ、それらの重要性に比例した寸法を有する。
(タイムラインとの対話)
警備員のようなユーザは、映像ストリームをタイムラインに含めるため選択することができなければならない。このために、地図インタフェースコンポーネントが設計及び開発されている。興味のある映像セグメントを位置決めするために必要な情報をユーザに提供するために、地図とタイムラインとが対話する。
(地図は、地理的位置を示す)
地図は、カメラの地理的位置を示し、映像ストリームをタイムラインに含めるよう選択するために使用される。カメラは、色記号及びテキスト形式によるカメラ識別子の両方を用いて識別される。ユーザがマウスによって一組のカメラを選択すると、タイムラインは再作成される。
(地図内の事象の再生)
ユーザは、タイムラインの一部分を再生することを選択してもよい。タイムライン再生中、興味のある動作を示すキーフレームは、動作を示すカメラに近い地図上のビューを次第に明るくし、動作が終了した時刻の後に次第に暗くする。図6及び図13は、カメラ位置を示す地図を示し、事象のキーフレームは、ユーザがタイムラインに沿って移動すると、次第に明るくなり、また、次第に暗くなる(図示はされない)。
(キーフレーム内の動作の可視化)
動作キーフレーム。単一キーフレームを介して映像ストリーム内の動作の期間を可視化するために、映像セグメントの異なるフレーム内に現れる前景オブジェクトが、アルファブレンドされ、動きを示す。図5及び図12は、ホットスポットの近傍の動作を備えた事象リスト及びキーフレーム、及び、全事象のこま撮り可視化を示し、図5において、こま撮り可視化におけるオブジェクトの濃度は、記号(実線、破線、点線)を用いて示され、濃い人影、薄い人影、及び、淡い人影を示す。
【0037】
キーフレームの合成。複数の映像ストリーム内の同時の行為を表すためのアプローチは、複数のカメラからのキーフレーム内の興味のある領域から合成を作成することであってもよい。発生源キーフレームから得られた領域の寸法は、それらの映像ストリーム内の動作の相対的な重要性を示すために使用される(図4及び図11を参照)。
【0038】
コンピュータの分野に精通する者には明らかなように、本発明の様々な実施形態は、本明細書の教示に基づいてプログラムされた1つか又は複数のプロセッサを用いて実施されてもよい。ソフトウェアの分野に精通する者には明らかなように、熟練したプログラマーは、本明細書の教示に基づいて、適切なソフトウェアコーディングを容易におこなうことができる。また、この分野に精通する者には容易に理解できるように、本発明は、集積回路を製造すること、又は、コンポーネント回路の適切な回路網を相互接続することの少なくとも一方によって実施されてもよい。
【0039】
様々な実施形態は、その上に又はその中に記憶された命令又は情報の少なくとも一方を有する記憶媒体(記憶メディア)であってもよいコンピュータプログラムプロダクトを含み、それらの命令又は情報の少なくとも一方は、ここに記載されたいずれかの特徴を実施するために、1つか又は複数の汎用又は専用の計算プロセッサ又は計算装置をプログラムするために使用されてもよい。記憶媒体は、限定はしないが、1つか又はそれ以上の下記のもの、すなわち、フロッピー(登録商標)ディスク、光ディスク、DVD、CD−ROM、マイクロドライブ、光磁気ディスク、ホログラフィック記憶装置、ROM、RAM、EPROM、EEPROM、DRAM、PRAM、VRAM、フラッシュメモリー装置、磁気カード又は光カード、ナノシステム(分子メモリーICを含む)、紙の媒体並びに紙に基づいた媒体を含むあらゆる種類の物理的媒体、及び、命令又は情報の少なくとも一方を記憶するために適したあらゆる種類の媒体又は装置を含んでもよい。様々な実施形態は、1つか又はそれ以上の公衆又は専用の少なくとも一方のネットワークを介して全体的に又は部分的に送信されてもよいコンピュータプログラムプロダクトを含み、送信は、ここに記載されたいずれかの特徴を実施するために、1つか又はそれ以上のプロセッサによって使用されてもよい命令又は情報の少なくとも一方を含む。様々な実施形態において、送信は、複数の分離した送信を含んでもよい。
【0040】
本明細書は、1つか又はそれ以上のコンピュータ可読媒体上に記憶される、1つか又は複数のプロセッサのハードウェアを制御するためのソフトウェア、及び、1つか又は複数のコンピュータ又はプロセッサが本発明の成果を利用する人間のユーザ又はその他の装置と対話することを可能にするソフトウェアを含む。そのようなソフトウェアは、限定はしないが、装置ドライバ、インタフェースドライバ、オペレーティングシステム、実行環境又はコンテナ、ユーザインタフェース、及び、アプリケーションを含んでもよい。
【0041】
コードの実行は、直接的又は間接的なものであってもよい。コードは、コンパイラ型言語、インタープリタ型言語、及び、その他の種類の言語を含んでもよい。特許請求の範囲の文言によって特に限定されない限り、ある機能のためのコード又はコードセグメントの実行又は送信の少なくとも一方は、その機能を実行するために、局所あるいは遠隔のその他のソフトウェア又は装置の呼び出し又はコールを含んでもよい。呼び出し又はコールは、その機能を実行するために、ライブラリモジュール、装置ドライバ、インタフェースドライバ、及び、遠隔ソフトウェアの呼び出し又はコールを含んでもよい。呼び出し又はコールは、分散システム及びクライアント−サーバーシステムにおける呼び出し又はコールを含んでもよい。
【0042】
本発明の一実施形態において、1つか又はそれ以上の映像フレーム内の事象を識別する方法は、(a)興味のある量を判定し、(b)興味のある量に基づいて映像フレームごとに重要性スコアを生成し、(c)重要性スコアに基づいて1つか又はそれ以上の閾値を計算し、(d)事象を識別する映像フレームを閾値に基づいて選択することを含む。
【0043】
本発明の別の実施形態において、興味のある量は、映像内の動作の量、映像内の興味のある地点、カメラから興味のある地点までの距離、映像内の検出された特徴、映像内の顔の特徴、動作が興味のあるものであるか又は特徴が興味のあるものであれば、別のセンサーによって検出された動作、及び、別のセンサーによって検出された事象からなるグループから選択された基準に基づくものである。
【0044】
本発明の別の実施形態において、(a)は、(e)映像ストリーム内の1つか又はそれ以上の興味のある地点を判定し、(f)1つか又はそれ以上の映像カメラ位置から映像ストリーム内の1つか又はそれ以上の興味のある地点までの1つか又はそれ以上の距離を判定し、(g)興味のある地点までの距離に基づいて興味のある量を判定することをさらに含む。
【0045】
本発明の別の実施形態において、(b)は、滑らかにすることをさらに含む。本発明の別の実施形態において、滑らかにされた重要性スコアは、重要性スコアに移動平均を適用することによって生成される。
【0046】
本発明の別の実施形態において、最小の興味のある量、動作とみなされる変化した画素の最小割合、新しい映像セグメントを開始するための動作の最小休止時間、及び、ノイズを無視するための動作セグメントの最小の長さからなるグループから選択された量について、1つか又はそれ以上の閾値が計算される。
【0047】
本発明の別の実施形態において、(d)は、(h)滑らかにされた重要性スコアが、最小の興味のある量の閾値よりも大きければ、映像フレームを事象に含め、(i)選択された連続的な映像フレーム間の間隙が、新しい映像セグメントを開始するための動作の最小休止時間閾値よりも小さければ、選択された連続的な映像フレームを単一事象に結合することをさらに含む。
【0048】
本発明の別の実施形態は、映像ストリーム内の少なくとも1つの事象のタイムラインを生成することをさらに含む。
【0049】
本発明の別の実施形態において、タイムラインにおける事象の期間は水平ラインを用いて識別され、水平ラインは、事象が映像ストリーム内で最初に存在した時刻に開始し、且つ事象が映像ストリーム内で最後に存在した時刻に終了し、キーフレームが、各事象の内容を可視化するために使用され、事象の期間に対応する。
【0050】
本発明の別の実施形態において、2つか又はそれ以上のカメラによって同時に記録された2つか又はそれ以上の映像ストリームは、単一タイムライン上に表示され、それぞれの映像ストリーム内に存在する事象の期間は、ストリームを記録するために使用されたカメラを示すための記号を用いて、水平ラインによって表示され、同じ記号は、同じカメラからの映像内に存在する異なる事象に使用され、同じカメラからの事象ごとにキーフレームをフレーム化するために使用される。
【0051】
本発明の別の実施形態において、記号は、異なるカメラによって撮影された事象を示すために異なる色を使用し、同じ色は、同じカメラからの映像内に存在する異なる事象に使用され、同じカメラからの事象ごとにキーフレームをフレーム化するために使用される。
【0052】
本発明の別の実施形態において、地図が、2つか又はそれ以上の映像ストリームを撮影するために使用された2つか又はそれ以上のカメラの地理的位置を示すために使用され、記号が、カメラを示すために使用され、キーフレームが、カメラから観察された映像ストリームを示すために使用され、かつ、その記号によってフレーム化され、異なる記号が、異なるカメラを示すために使用され、異なるカメラから観察された映像ストリームを示すために使用される異なるキーフレームは、異なるカメラに対応する異なる記号によってフレーム化され、カーソルがタイムラインに沿って移動すると、キーフレームは変化する。
【0053】
本発明の別の実施形態において、記号は、2つか又はそれ以上の映像ストリームを撮影するために使用された2つか又はそれ以上のカメラの地理的位置を示すために異なる色を使用し、色が、カメラを示すために使用され、キーフレームが、その色によってフレーム化され、異なる色が、異なるカメラを示すために使用され、異なるキーフレームが、異なるカメラに対応する異なる色によってフレーム化され、カーソルがタイムラインに沿って移動すると、キーフレームが変化する。
【0054】
本発明の別の実施形態において、識別された事象のキーフレームが表示され、キーフレームはタイムラインに従って番号を付される。キーフレームは、動作期間及びその動作期間のこま撮り可視化を表す複数の単一行為キーフレームからなるグループから選択される。キーフレームは、映像ストリーム内の合成を可視化するために使用され、単一タイムラインに従って番号を付される。
【0055】
本発明の別の実施形態において、事象ログは、事象を可視化するために、地図上でキーフレームとともに使用される。
【0056】
本発明の別の実施形態において、事象は、地図、事象ログ、及び、タイムラインからなるグループから選択された媒体を用いて表示される。
【0057】
本発明の実施形態において、映像ストリーム内の事象のタイムラインを生成するためのコンピュータによって実行することのできる命令からなるプログラムは、興味のある量を判定するステップと、興味のある量に基づいて映像フレームごとに重要性スコアを生成するステップと、1つか又はそれ以上の閾値を計算するステップと、事象を識別する映像フレームを閾値に基づいて選択するステップと、映像ストリーム内の1つか又はそれ以上の事象のタイムラインを生成するステップと、を含む。
【0058】
本発明の別の実施形態において、映像ストリーム内の事象のタイムラインを生成するためのシステムは、タイムラインを生成するステップが、a)1つか又はそれ以上の組のパラメータを規定することができ、1つか又はそれ以上の組のパラメータをソースコードに転送することができ、映像ストリーム内の事象を可視化するための一連のタスクにソースコードをコンパイルすることができる1つか又はそれ以上のプロセッサと、b)1つか又はそれ以上のプロセッサによって処理されると、1つか又はそれ以上の組のパラメータを規定するステップ、1つか又はそれ以上の組のパラメータをソースコードに転送するステップ、及び、ソースコードを、映像ストリーム内の事象のタイムラインを生成するための一連のタスクにコンパイルするステップをシステムに実行させるオペレーションを格納する機械可読媒体とを有する。
【0059】
本発明の別の実施形態において、それに記憶された命令を有する機械可読媒体は、前記命令が、システムに、興味のある量を判定させ、興味のある量に基づいて映像フレームごとに重要性スコアを生成させ、1つかまたはそれ以上の閾値値を計算させ、事象を識別する映像フレームを閾値に基づいて選択させ、映像ストリーム内の1つかまたはそれ以上の事象のタイムラインを生成させる。
【図面の簡単な説明】
【0060】
【図1】図8をイラストとして描写したものであり、ホットスポットの近傍の動作から判定された重要性のグラフが、時間軸上で示され、水平ラインが、重大な事象が映像ストリーム内に最初に存在した時刻から事象が映像ストリーム内に最後に存在した時刻までを示すために使用され、動作を表すキーフレームが表示され、図1において、色(緑、赤、黄、青)に対応するシンボル(□、△、◇、○)が、発生源カメラ(1、2、3、4)を示すために使用され、図1における人物の様々な斜線は、図8に存在する様々な行為者をより良好に区別するために使用される。
【図2】図9をイラストとして描写したものであり、単一発生源カメラ(2)からの事象を備えたタイムラインが、図2に示され、図9に示される水平ボックス及びキーフレーム輪郭が赤で陰影が付されていることを例示するために三角形シンボル(△)が用いられ、図2における人物の様々な斜線は、図9に存在する様々な行為者をより良好に区別するために使用される。
【図3】図10をイラストとして描写したものであり、複数のカメラからの事象を備えたタイムラインが示され、図3において、キーフレームは、発生源カメラ(1、2、3、4)を示すために、図10における色(緑、赤、黄、青)に対応するシンボル(□、△、◇、○)を備えた輪郭を有し、図3における人物の様々な斜線は、図10に存在する様々な行為者をより良好に区別するために使用される。
【図4】図11をイラストとして描写したものであり、4つのカメラからのキーフレームからなる4画面が示され、キーフレームは、動作の中央だけにトリミングされ、それらの重要性に比例した寸法を有し、図4における人物の様々な斜線は、図11に存在する様々な行為者をより良好に区別するために使用される。
【図5】図12をイラストとして描写したものであり、ホットスポットの近傍の動作を備えた事象リスト及びキーフレーム、及び、全事象のこま撮り可視化が示され、図5において、こま撮り可視化におけるオブジェクトの濃度は、濃い人影、薄い人影、及び、淡い人影を示すために、記号(実線、破線、点線)を用いて示され、図5における人物の様々な斜線は、図12に存在する様々な行為者をより良好に区別するために使用される。
【図6】図13をイラストとして描写したものであり、発生源カメラ(1、2、3、4)をそれぞれ指示するために図13における色(緑、赤、黄、青)に対応するシンボル(□、△、◇、○)を用いて図6において識別されるカメラ位置を示す地図を示し、事象のキーフレームは、ユーザがタイムライン(図示せず)に沿って移動すると、次第に明るくなり、また、次第に暗くなり、図6における人物の様々な斜線は、図13に存在する様々な行為者をより良好に区別するために使用される。
【図7】タイムラインを生成するために映像ストリーム内の事象を識別するために必要なステップのブロック図である。
【図8】ホットスポットの近傍の動作から判定された重要性を時間軸上に示すグラフである。
【図9】単一発生源カメラ(2)からの事象を備えたタイムラインを示す図である。
【図10】複数のカメラからの事象及びキーフレームを備えたタイムラインを示す図である。
【図11】4つのカメラからのキーフレームからなる4画面を示す図であり、キーフレームは、動作の中央だけにトリミングされ、それらの重要性に比例した寸法を有する。
【図12】ホットスポットの近傍の動作を備えた事象リスト及びキーフレーム、及び、全事象のこま撮り可視化を示す図である。
【図13】カメラ位置を示す地図を示す図であり、事象のキーフレームは、ユーザがライムライン(図示せず)に沿って移動すると、次第に明るくなり、また、次第に暗くなる。
【技術分野】
【0001】
本発明は、映像内の動作の識別、動作の重要性の評価、興味のある事象を識別するタイムラインの作成、及び、映像の事象又は別のビューをより詳細に見るための対話技術に基づいて、1つか又はそれ以上の定位置カメラからタイムライン及び事象ログを生成する技術に関する。詳細には、映像フレーム内の事象を識別及び可視化する方法、及び、映像ストリーム内の事象のタイムラインを生成するためのシステムに関する。
【背景技術】
【0002】
一組の監視カメラからの映像のような、同期した一組の映像ストリーム内の興味のある事象を識別することは、映像の量のために、また、オーサリングメタデータ又はインデックスがないために、難しいことである。さらに、警備員は、リアルタイムにか又は事後に、興味のある動作を識別し、そして、様々な映像ストリーム内の動作間の相互関係を判定しなければならない。彼らは、特定の事態を導くか又は特定の事態の後に発生する一連の行為について理解を深めなければならない。
【0003】
タイムラインは、様々な研究者によって調査されてきた。人生における事象(例えば、犯罪歴又は医療記録)を可視化するために、タイムラインを使用するものがある(例えば、非特許文献1参照)。作曲家に関する情報のようなディジタルライブラリからのデータをタイムラインに可視化するものもある(例えば、非特許文献2参照)。その他のアプローチも提供されている(例えば、非特許文献3参照)。
【0004】
単一カメラのためのタイムラインビューが提供されている(例えば、特許文献1参照)。関連する地図技術として、事象のキーフレームが、ユーザがタイムラインに沿って移動すると、次第に明るくなり、また、次第に暗くなることが提供されている(例えば、特許文献2参照)。映像のセグメントについて重要性を計算することが提供されている(例えば、特許文献3)。
【特許文献1】米国特許第6,366,296号明細書
【特許文献2】米国特許出願公開第2003/0197731号
【特許文献3】米国特許第6,535,639号明細書
【非特許文献1】C.プレサント(Plaisant C.)、B.ミラシュ(Milash B.)、A.ローズ(Rose A.)、S.ウィドフ(Widoff S.)、B.シュナイダーマン(Shneiderman B.)、「ライフライン:個人暦の可視化」(LifeLines:Visualizing Personal Histories)、計算機システムにおける人的要素に関するSIGCHI会議議事録(Proceedings of the SIGCHI conference on Human factors in computing systems)、1996年、p.221−227
【非特許文献2】V.クマー(Kumar V.)、R.フルタ(Furuta R.)、R.B.アレン(Allen R.B.)、「ディジタルライブラリのためのメタデータ可視化:対話的タイムラインの編集及び検討」(Metadata Visualization for Digital Libraries:Interactive Timeline Editing and Review)、ディジタルライブラリに関する第3回ACM会議議事録(Proceedings of the third ACM conference on Digital libraries)、1998年、p.126−133
【非特許文献3】S.C.S.チュエン(Chueng、S.-C.S.)、C.カマス(Kamath C.)、2004年、「都会のトラフィック映像から背景を除くためのロバストな技法」(Robust Techniques for Background Subtraction in Urban Traffic Video)、映像通信及び画像処理・SPIE 電子画像処理(Video Communications and Image Processing,SPIE Electronic Imaging)、サンホセ(San Jose)、2004年
【発明の開示】
【発明が解決しようとする課題】
【0005】
本発明は、上記に鑑み、1つか又はそれ以上の映像フレーム内の事象を識別及び可視化する方法、及び、映像ストリーム内の事象のタイムラインを生成するためのシステムを提供する。
【課題を解決するための手段】
【0006】
一組の映像ストリーム内の興味のある事象を提供するためのタイムラインインタフェースが、開発された。タイムラインインタフェースは、映像ストリーム内の興味のある動作の期間を位置決めするための技術、動作を複数の事象のグループに分類するための方法、事象を提供するための方法、及び、興味のある期間を選択しかつ地図内の事象を再生するためのインタフェースエレメントを含む。
【0007】
本発明の第1の態様は、1つか又はそれ以上の映像フレーム内の事象を識別及び可視化する方法であって、(a)興味のある量を判定し、(b)興味のある量に基づいて映像フレームごとに重要性スコアを生成し、(c)重要性スコアに基づいて1つか又はそれ以上の閾値を計算し、(d)事象を識別する映像フレームを閾値に基づいて選択する。
【0008】
本発明の第2の態様は、第1の態様の事象を識別及び可視化する方法であって、(a)において、興味のある量が、映像フレーム内の動作の量、映像フレーム内の興味のある地点、カメラから興味のある地点までの距離、映像フレーム内の検出された特徴、映像フレーム内の顔の特徴、動作が興味のあるものであるか又は特徴が興味のあるものであれば、別のセンサーによって検出された動作、及び、別のセンサーによって検出された事象からなるグループから選択された基準に基づくものである。
【0009】
本発明の第3の態様は、第1の態様の事象を識別及び可視化する方法であって、(e)映像フレーム内の1つか又はそれ以上の興味のある地点を判定し、(f)1つか又はそれ以上の映像カメラ位置から映像フレーム内の1つか又はそれ以上の興味のある地点までの1つか又はそれ以上の距離を判定し、(g)カメラ位置から興味のある地点までの距離に基づいて興味のある量を判定する、ことをさらに含む。
【0010】
本発明の第4の態様は、第1の態様の事象を識別及び可視化する方法であって、(b)は、滑らかにすることをさらに含む。
【0011】
本発明の第5の態様は、第1の態様の事象を識別及び可視化する方法であって、(c)において、最小の興味のある量、動作とみなされる変化した画素の最小割合、新しい映像セグメントを開始するための動作の最小休止時間、及び、ノイズを無視するための動作セグメントの最小の長さからなるグループから選択された量について1つか又はそれ以上の閾値が計算される。
【0012】
本発明の第6の態様は、第5の態様の事象を識別及び可視化する方法であって、(d)は、(h)滑らかにされた重要性スコアが、最小の興味のある量の閾値よりも大きければ、映像フレームを事象に含め、(i)選択された連続的な映像フレーム間の間隙が、新しい映像セグメントを開始するための動作の最小休止時間閾値よりも小さければ、選択された連続的な映像フレームを単一事象に結合する、ことをさらに含む。
【0013】
本発明の第7の態様は、第1の態様の事象を識別及び可視化する方法であって、映像フレームが映像ストリームの一部分であり、映像ストリーム内の少なくとも1つの事象のタイムラインを生成することをさらに含む。
【0014】
本発明の第8の態様は、第7の態様の事象を識別及び可視化する方法であって、タイムラインにおける事象の期間が水平ラインを用いて識別され、水平ラインが、事象が映像ストリーム内で最初に存在した時刻に開始し、且つ事象が映像ストリーム内で最後に存在した時刻に終了し、キーフレームが、各事象の内容を可視化するために使用され、事象の期間に対応する。
【0015】
本発明の第9の態様は、第8の態様の事象を識別及び可視化する方法であって、2つか又はそれ以上のカメラによって同時に記録された2つか又はそれ以上の映像ストリームが、単一タイムライン上に表示され、各映像ストリーム内に存在する事象の期間が、水平ラインによって表示され、記号が、映像ストリームを記録するために使用されたカメラを示すために使用され、同じ記号が、同じカメラからの映像内に存在する異なる事象に使用され、同じカメラからの事象ごとにキーフレームをフレーム化するために使用される。
【0016】
本発明の第10の態様は、第9の態様の事象を識別及び可視化する方法であって、記号が、異なるカメラによって撮影された事象を示すために異なる色を使用し、同じ色が、同じカメラからの映像内に存在する異なる事象に使用され、同じカメラからの事象ごとにキーフレームをフレーム化するために使用される。
【0017】
本発明の第11の態様は、第9の態様の事象を識別及び可視化する方法であって、地図が、2つか又はそれ以上の映像ストリームを撮影するために使用された2つか又はそれ以上のカメラの地理的位置を示すために使用され、記号が、カメラを示すために使用され、キーフレームが、カメラから観察された映像ストリームを示すために使用され、記号を用いて示され、異なる記号が、異なるカメラを示すために使用され、異なるカメラから観察された映像ストリームを示すために使用される異なるキーフレームが、異なるカメラに対応する異なる記号によってフレーム化され、カーソルがタイムラインに沿って移動すると、キーフレームが変化する。
【0018】
本発明の第12の態様は、第11の態様の事象を識別及び可視化する方法であって、記号が、2つか又はそれ以上の映像ストリームを撮影するために使用された2つか又はそれ以上のカメラの地理的位置を示すために異なる色を使用し、色が、カメラを示すために使用され、キーフレームが、その色によってフレーム化され、異なる色が、異なるカメラを示すために使用され、異なるキーフレームが、異なるカメラに対応する異なる色によってフレーム化され、カーソルがタイムラインに沿って移動すると、キーフレームが変化する。
【0019】
本発明の第13の態様は、第8の態様の事象を識別及び可視化する方法であって、識別された事象のキーフレームが表示され、キーフレームがタイムラインに従って番号を付される。
【0020】
本発明の第14の態様は、第13の態様の事象を識別及び可視化する方法であって、キーフレームが、動作期間及びその動作期間のこま撮り可視化を表す複数の単一行為キーフレームからなるグループから選択される。
【0021】
本発明の第15の態様は、第8の態様の事象を識別及び可視化する方法であって、キーフレームが、映像ストリーム内の合成を可視化するために使用され、単一タイムラインに従って番号を付される。
【0022】
本発明の第16の態様は、第11の態様の事象を識別及び可視化する方法であって、事象ログが、事象を可視化するために、地図上でキーフレームとともに使用される。
【0023】
本発明の第17の態様は、第1の態様の事象を識別及び可視化する方法であって、事象が、地図、事象ログ、及び、タイムラインからなるグループから選択された媒体を用いて表示される。
【0024】
本発明の第18の態様は、第7の態様の事象を識別及び可視化する方法に係る映像ストリーム内の興味のある事象を表示する事象のタイムラインを生成するためのコンピュータによって実行することのできる命令からなるプログラムであって、興味のある量を判定するステップと、興味のある量に基づいて映像ストリーム内の1つか又はそれ以上の映像フレームごとに重要性スコアを生成するステップと、1つか又はそれ以上の閾値を計算するステップと、事象を識別する映像フレームを閾値に基づいて選択するステップと、映像ストリーム内の1つか又はそれ以上の選択された事象のキーフレームを表示するタイムラインを生成するステップと、を含む。
【0025】
本発明の第19の態様は、映像ストリーム内の事象のタイムラインを生成するためのシステムであって、a)1つか又はそれ以上の組のパラメータを規定することができ、1つか又はそれ以上の組のパラメータをソースコードに転送することができ、映像ストリーム内の事象を可視化するための一連のタスクにソースコードをコンパイルすることができる1つか又はそれ以上のプロセッサと、b)1つか又はそれ以上プロセッサによって処理されるとき、1つか又はそれ以上の組のパラメータを規定するステップ、1つか又はそれ以上の組のパラメータをソースコードに転送するステップ、及び、ソースコードを映像ストリーム内の事象のタイムラインを生成するための一連のタスクにコンパイルするステップをシステムに実行させるオペレーションが格納された機械可読媒体とを有するシステム。
【発明の効果】
【0026】
本発明によれば、興味のある量を判定し、興味のある量に基づいて映像フレームごとに重要性スコアを生成し、重要性スコアに基づいて1つか又はそれ以上の閾値を計算し、事象を識別する映像フレームを前記閾値に基づいて選択するようにしているので、映像フレーム内の事象を識別及び可視化することができる。
【0027】
さらに、本発明によれば、興味のある量を判定し、興味のある量に基づいて映像フレームごとに重要性スコアを生成し、重要性スコアに基づいて1つか又はそれ以上の閾値を計算し、事象を識別する映像フレームを閾値に基づいて選択し、選択された事象のキーフレームを表示するタイムラインを生成するようにしているので、映像フレーム内の事象を識別及び可視化し、映像ストリーム内の興味の有る事象を表示する事象タイムラインを生成することができる。
【発明を実施するための最良の形態】
【0028】
添付の図面を参照して、本発明の好ましい実施形態を詳細に説明する。
(映像内の動作の識別)
動作を判定するための2つの異なるアプローチが、提案される。第1のアプローチは、連続的な映像フレームを比較し、変化する画素を判定する。第2のアプローチは、カメラビューの背景をモデル化し、映像フレームごとに前景画素を判定する。両方のアプローチは、変化した画素又は前景の画素を観察し、それらの数をカウントし、あるいは、全体的な動きの方向及び速度を判定する。満足できる動作を備えたフレームは、動作を備えた複数の映像セグメントのグループに分類される。動作とみなされるべき変化した画素の最小割合、新しいセグメントを開始するための動作の最小休止時間、及び、映像ノイズを無視するための動作セグメントの最小の長さについての閾値が実験的に判定される。
(動作から事象への変換)
事象は、映像内の動作の量に基づいて興味のあるものとみなされる動作の期間、映像テープに録画された空間内の興味のある地点までの距離、人の顔のような検出された特徴、及び、例えば、無線周波数識別(RFID)のようなその他のセンサーからの事象を判定することによって識別される。複数のカメラがビュー内に同一の興味のある地点を有する場合、興味のある地点までの距離量はすべてのカメラを考慮することによって改良することができる。
【0029】
興味のある量が映像内のフレームごとに計算されると、フレームは、まず、移動平均によって重要性スコアを滑らかにすることによって、そして、移動平均が閾値よりも大きいシーケンスを選択することによって、事象シーケンスに統合される。これが、図1及び図8に示され、ホットスポットの近傍の動作から判定された重要性のグラフが時間軸上にプロットされている。図1及び図8において、閾値よりも大きな移動平均を備えたシーケンスは複数の事象のグループに分類され、短い間隙を備えた事象は結合される。その他の閾値は事象を結合するための間隙の最大期間を判定する。また、図1及び図8は、事象に対応する大きな重要性を備えたキーフレームを示す。
【0030】
本発明では、図7に概略が示されるように、ステップ100において、興味のある量を判定し、ステップ102において、興味のある量に基づいた重要性スコアを生成し、ステップ104において、重要性スコアを滑らかにする。ステップ106において、滑らかにされた重要性スコアが第1の閾値より大きいと判断されると、ステップ108に進み、識別された事象を選択する。ステップ106において、判断が否定された場合、ステップ110に進み、事象は選択されない。次に、ステップ112において、間隙が第2の閾値より小さいと判断されると、ステップ114に進み、選択された識別事象を結合し、ステップ116において、事象のタイムラインを生成する。ステップ112において、判断が否定された場合、ステップ110に進み、事象は選択されない。
【0031】
具体的には、ステップ100において、興味のある量を判定する。ステップ102、104において、興味のある量に基づいて映像フレームごとに重要性スコアを生成する。ステップ104において、重要性スコアを滑らかにしてもよい。ステップ106において、重要性スコアに基づいて1つか又はそれ以上の閾値を計算する。ステップ106〜114において、事象を識別する映像フレームを閾値に基づいて選択する。ステップ114において、選択された連続的な映像フレームを単一事象に結合してもよい。ステップ116において、映像ストリーム内の少なくとも1つの事象のタイムラインを生成する。
【0032】
なお、本発明の上記及び下記の例示的な実施形態は、情報処理装置によって実行されてもよい。当該情報処理装置は、例えば、カメラから映像ストリームを受け取る入力部、プロセッサによる実行の際の作業領域を形成するとともにプログラムや処理対象としてのデータを格納する記憶部、処理内容や処理結果(例えば、図1〜図6、図8〜図13に示される画面)を表示する表示部、及び、データを通信網などに出力する出力部などを含む。プロセッサは、プログラムを読み出し実行することにより、処理対称のデータ等に対して当該プログラムの手順に対応した処理をする。
【0033】
プロセッサは、判定手段と、重要性スコア生成手段と、閾値計算手段と、選択手段とを備えてもよい。判定手段は、興味のある量を判定する(ステップ100)。重要性スコア生成手段は、興味のある量に基づいて映像フレームごとに重要性スコアを生成する(ステップ102、104)。重要性スコア生成手段は、さらに、重要性スコアを滑らかにする平滑手段を有してもよい(ステップ104)。閾値計算手段は、重要性スコアに基づいて1つか又はそれ以上の閾値を計算する(ステップ106)。選択手段は、事象を識別する映像フレームを閾値に基づいて選択する(ステップ106〜116)。選択手段は、さらに、選択された連続的な映像フレームを単一事象に結合する結合手段を有してもよい(ステップ114)。該プロセッサは、さらに、映像ストリーム内の少なくとも1つの事象のタイムラインを生成するタイムライン生成手段を有してもよい(ステップ116)。
【0034】
判定手段、重要性スコア生成手段、平滑手段、閾値計算手段、選択手段、結合手段、タイムライン生成手段は、プロセッサによって制御されるハードウェアで実現されてもよいし、プロセッサによって実行されるソフトウェア(プログラム)で実現されてもよい。また、情報処理装置は、パーソナルコンピュータ、マイクロコンピュータのような汎用情報処理装置であってもよいし、本発明を実施するための専用情報処理装置であってもよい。
【0035】
本発明のプログラムは、興味のある量を判定する(ステップ100)命令と、興味のある量に基づいて映像フレームごとに重要性スコアを生成する(ステップ102、104)命令と、重要性スコアに基づいて1つか又はそれ以上の閾値を計算する(ステップ106)命令と、事象を識別する映像フレームを閾値に基づいて選択する(ステップ106〜116)命令を含む。当該プログラムをプロセッサにより実行することにより、判定手段は、興味のある量を判定し(ステップ100)、重要性スコア生成手段は、興味のある量に基づいて映像フレームごとに重要性スコアを生成し(ステップ102、104)、閾値計算手段は、重要性スコアに基づいて1つか又はそれ以上の閾値を計算し(ステップ106)、選択手段は、事象を識別する映像フレームを閾値に基づいて選択する(ステップ106〜116)ように、プロセッサは各手段を制御することができる。
【0036】
本発明のプログラムは、さらに、重要性スコアを滑らかにする(ステップ104)命令と、選択された連続的な映像フレームを単一事象に結合する(ステップ114)命令と、映像ストリーム内の少なくとも1つの事象のタイムラインを生成する(ステップ116)命令とを含んでもよい。当該プログラムをプロセッサにより実行することにより、平滑手段は、重要性スコアを滑らかにし(ステップ104)、結合手段は、選択された連続的な映像フレームを単一事象に結合し(ステップ114)、タイムライン生成手段は、映像ストリーム内の少なくとも1つの事象のタイムラインを生成する(ステップ116)ように、プロセッサは各手段を制御することができる。
(タイムライン上における事象の可視化)
ただ単に事象のリストを提供するのではなく、事象がタイムライン及びキーフレームを用いて可視化される。図2及び図9は、単一カメラ(#2)からの事象を備えたタイムラインを示す。図2において、三角形記号(△)は、水平バー又はライン、及び、キーフレーム輪郭が図9において赤で陰影が付されていることを例示するために使用され、映像がその色に対応するカメラから入力されることを示す。水平バー又はラインは事象の期間を指示し、キーフレームはそれぞれの事象の内容を可視化するために使用される。ユーザは興味のある時間間隔を得るためにタイムラインの終点を調節してもよい。図7は、タイムラインを生成するために映像ストリーム内の事象を識別するときに必要とされるステップのブロック図を示す。複数のカメラの場合、単一タイムラインが同様に使用されるが、異なる色の水平バーは異なるカメラからの事象を示す。図3及び図10は、複数のカメラからの事象を備えたタイムラインを示す。図3において、キーフレーム輪郭は、発生源カメラ(1、2、3、4)を示すために、図10における色(緑、赤、黄、青)に対応する記号化されたシンボル(□、△、◇、○)である。合成キーフレーム又は動作キーフレームが提供され、異なるビューの事象及び事象内の動作を認識させる。図4及び図11は、4つのカメラからのキーフレームからなる4画面を示し、キーフレームは、動作の中央だけにトリミングされ、それらの重要性に比例した寸法を有する。
(タイムラインとの対話)
警備員のようなユーザは、映像ストリームをタイムラインに含めるため選択することができなければならない。このために、地図インタフェースコンポーネントが設計及び開発されている。興味のある映像セグメントを位置決めするために必要な情報をユーザに提供するために、地図とタイムラインとが対話する。
(地図は、地理的位置を示す)
地図は、カメラの地理的位置を示し、映像ストリームをタイムラインに含めるよう選択するために使用される。カメラは、色記号及びテキスト形式によるカメラ識別子の両方を用いて識別される。ユーザがマウスによって一組のカメラを選択すると、タイムラインは再作成される。
(地図内の事象の再生)
ユーザは、タイムラインの一部分を再生することを選択してもよい。タイムライン再生中、興味のある動作を示すキーフレームは、動作を示すカメラに近い地図上のビューを次第に明るくし、動作が終了した時刻の後に次第に暗くする。図6及び図13は、カメラ位置を示す地図を示し、事象のキーフレームは、ユーザがタイムラインに沿って移動すると、次第に明るくなり、また、次第に暗くなる(図示はされない)。
(キーフレーム内の動作の可視化)
動作キーフレーム。単一キーフレームを介して映像ストリーム内の動作の期間を可視化するために、映像セグメントの異なるフレーム内に現れる前景オブジェクトが、アルファブレンドされ、動きを示す。図5及び図12は、ホットスポットの近傍の動作を備えた事象リスト及びキーフレーム、及び、全事象のこま撮り可視化を示し、図5において、こま撮り可視化におけるオブジェクトの濃度は、記号(実線、破線、点線)を用いて示され、濃い人影、薄い人影、及び、淡い人影を示す。
【0037】
キーフレームの合成。複数の映像ストリーム内の同時の行為を表すためのアプローチは、複数のカメラからのキーフレーム内の興味のある領域から合成を作成することであってもよい。発生源キーフレームから得られた領域の寸法は、それらの映像ストリーム内の動作の相対的な重要性を示すために使用される(図4及び図11を参照)。
【0038】
コンピュータの分野に精通する者には明らかなように、本発明の様々な実施形態は、本明細書の教示に基づいてプログラムされた1つか又は複数のプロセッサを用いて実施されてもよい。ソフトウェアの分野に精通する者には明らかなように、熟練したプログラマーは、本明細書の教示に基づいて、適切なソフトウェアコーディングを容易におこなうことができる。また、この分野に精通する者には容易に理解できるように、本発明は、集積回路を製造すること、又は、コンポーネント回路の適切な回路網を相互接続することの少なくとも一方によって実施されてもよい。
【0039】
様々な実施形態は、その上に又はその中に記憶された命令又は情報の少なくとも一方を有する記憶媒体(記憶メディア)であってもよいコンピュータプログラムプロダクトを含み、それらの命令又は情報の少なくとも一方は、ここに記載されたいずれかの特徴を実施するために、1つか又は複数の汎用又は専用の計算プロセッサ又は計算装置をプログラムするために使用されてもよい。記憶媒体は、限定はしないが、1つか又はそれ以上の下記のもの、すなわち、フロッピー(登録商標)ディスク、光ディスク、DVD、CD−ROM、マイクロドライブ、光磁気ディスク、ホログラフィック記憶装置、ROM、RAM、EPROM、EEPROM、DRAM、PRAM、VRAM、フラッシュメモリー装置、磁気カード又は光カード、ナノシステム(分子メモリーICを含む)、紙の媒体並びに紙に基づいた媒体を含むあらゆる種類の物理的媒体、及び、命令又は情報の少なくとも一方を記憶するために適したあらゆる種類の媒体又は装置を含んでもよい。様々な実施形態は、1つか又はそれ以上の公衆又は専用の少なくとも一方のネットワークを介して全体的に又は部分的に送信されてもよいコンピュータプログラムプロダクトを含み、送信は、ここに記載されたいずれかの特徴を実施するために、1つか又はそれ以上のプロセッサによって使用されてもよい命令又は情報の少なくとも一方を含む。様々な実施形態において、送信は、複数の分離した送信を含んでもよい。
【0040】
本明細書は、1つか又はそれ以上のコンピュータ可読媒体上に記憶される、1つか又は複数のプロセッサのハードウェアを制御するためのソフトウェア、及び、1つか又は複数のコンピュータ又はプロセッサが本発明の成果を利用する人間のユーザ又はその他の装置と対話することを可能にするソフトウェアを含む。そのようなソフトウェアは、限定はしないが、装置ドライバ、インタフェースドライバ、オペレーティングシステム、実行環境又はコンテナ、ユーザインタフェース、及び、アプリケーションを含んでもよい。
【0041】
コードの実行は、直接的又は間接的なものであってもよい。コードは、コンパイラ型言語、インタープリタ型言語、及び、その他の種類の言語を含んでもよい。特許請求の範囲の文言によって特に限定されない限り、ある機能のためのコード又はコードセグメントの実行又は送信の少なくとも一方は、その機能を実行するために、局所あるいは遠隔のその他のソフトウェア又は装置の呼び出し又はコールを含んでもよい。呼び出し又はコールは、その機能を実行するために、ライブラリモジュール、装置ドライバ、インタフェースドライバ、及び、遠隔ソフトウェアの呼び出し又はコールを含んでもよい。呼び出し又はコールは、分散システム及びクライアント−サーバーシステムにおける呼び出し又はコールを含んでもよい。
【0042】
本発明の一実施形態において、1つか又はそれ以上の映像フレーム内の事象を識別する方法は、(a)興味のある量を判定し、(b)興味のある量に基づいて映像フレームごとに重要性スコアを生成し、(c)重要性スコアに基づいて1つか又はそれ以上の閾値を計算し、(d)事象を識別する映像フレームを閾値に基づいて選択することを含む。
【0043】
本発明の別の実施形態において、興味のある量は、映像内の動作の量、映像内の興味のある地点、カメラから興味のある地点までの距離、映像内の検出された特徴、映像内の顔の特徴、動作が興味のあるものであるか又は特徴が興味のあるものであれば、別のセンサーによって検出された動作、及び、別のセンサーによって検出された事象からなるグループから選択された基準に基づくものである。
【0044】
本発明の別の実施形態において、(a)は、(e)映像ストリーム内の1つか又はそれ以上の興味のある地点を判定し、(f)1つか又はそれ以上の映像カメラ位置から映像ストリーム内の1つか又はそれ以上の興味のある地点までの1つか又はそれ以上の距離を判定し、(g)興味のある地点までの距離に基づいて興味のある量を判定することをさらに含む。
【0045】
本発明の別の実施形態において、(b)は、滑らかにすることをさらに含む。本発明の別の実施形態において、滑らかにされた重要性スコアは、重要性スコアに移動平均を適用することによって生成される。
【0046】
本発明の別の実施形態において、最小の興味のある量、動作とみなされる変化した画素の最小割合、新しい映像セグメントを開始するための動作の最小休止時間、及び、ノイズを無視するための動作セグメントの最小の長さからなるグループから選択された量について、1つか又はそれ以上の閾値が計算される。
【0047】
本発明の別の実施形態において、(d)は、(h)滑らかにされた重要性スコアが、最小の興味のある量の閾値よりも大きければ、映像フレームを事象に含め、(i)選択された連続的な映像フレーム間の間隙が、新しい映像セグメントを開始するための動作の最小休止時間閾値よりも小さければ、選択された連続的な映像フレームを単一事象に結合することをさらに含む。
【0048】
本発明の別の実施形態は、映像ストリーム内の少なくとも1つの事象のタイムラインを生成することをさらに含む。
【0049】
本発明の別の実施形態において、タイムラインにおける事象の期間は水平ラインを用いて識別され、水平ラインは、事象が映像ストリーム内で最初に存在した時刻に開始し、且つ事象が映像ストリーム内で最後に存在した時刻に終了し、キーフレームが、各事象の内容を可視化するために使用され、事象の期間に対応する。
【0050】
本発明の別の実施形態において、2つか又はそれ以上のカメラによって同時に記録された2つか又はそれ以上の映像ストリームは、単一タイムライン上に表示され、それぞれの映像ストリーム内に存在する事象の期間は、ストリームを記録するために使用されたカメラを示すための記号を用いて、水平ラインによって表示され、同じ記号は、同じカメラからの映像内に存在する異なる事象に使用され、同じカメラからの事象ごとにキーフレームをフレーム化するために使用される。
【0051】
本発明の別の実施形態において、記号は、異なるカメラによって撮影された事象を示すために異なる色を使用し、同じ色は、同じカメラからの映像内に存在する異なる事象に使用され、同じカメラからの事象ごとにキーフレームをフレーム化するために使用される。
【0052】
本発明の別の実施形態において、地図が、2つか又はそれ以上の映像ストリームを撮影するために使用された2つか又はそれ以上のカメラの地理的位置を示すために使用され、記号が、カメラを示すために使用され、キーフレームが、カメラから観察された映像ストリームを示すために使用され、かつ、その記号によってフレーム化され、異なる記号が、異なるカメラを示すために使用され、異なるカメラから観察された映像ストリームを示すために使用される異なるキーフレームは、異なるカメラに対応する異なる記号によってフレーム化され、カーソルがタイムラインに沿って移動すると、キーフレームは変化する。
【0053】
本発明の別の実施形態において、記号は、2つか又はそれ以上の映像ストリームを撮影するために使用された2つか又はそれ以上のカメラの地理的位置を示すために異なる色を使用し、色が、カメラを示すために使用され、キーフレームが、その色によってフレーム化され、異なる色が、異なるカメラを示すために使用され、異なるキーフレームが、異なるカメラに対応する異なる色によってフレーム化され、カーソルがタイムラインに沿って移動すると、キーフレームが変化する。
【0054】
本発明の別の実施形態において、識別された事象のキーフレームが表示され、キーフレームはタイムラインに従って番号を付される。キーフレームは、動作期間及びその動作期間のこま撮り可視化を表す複数の単一行為キーフレームからなるグループから選択される。キーフレームは、映像ストリーム内の合成を可視化するために使用され、単一タイムラインに従って番号を付される。
【0055】
本発明の別の実施形態において、事象ログは、事象を可視化するために、地図上でキーフレームとともに使用される。
【0056】
本発明の別の実施形態において、事象は、地図、事象ログ、及び、タイムラインからなるグループから選択された媒体を用いて表示される。
【0057】
本発明の実施形態において、映像ストリーム内の事象のタイムラインを生成するためのコンピュータによって実行することのできる命令からなるプログラムは、興味のある量を判定するステップと、興味のある量に基づいて映像フレームごとに重要性スコアを生成するステップと、1つか又はそれ以上の閾値を計算するステップと、事象を識別する映像フレームを閾値に基づいて選択するステップと、映像ストリーム内の1つか又はそれ以上の事象のタイムラインを生成するステップと、を含む。
【0058】
本発明の別の実施形態において、映像ストリーム内の事象のタイムラインを生成するためのシステムは、タイムラインを生成するステップが、a)1つか又はそれ以上の組のパラメータを規定することができ、1つか又はそれ以上の組のパラメータをソースコードに転送することができ、映像ストリーム内の事象を可視化するための一連のタスクにソースコードをコンパイルすることができる1つか又はそれ以上のプロセッサと、b)1つか又はそれ以上のプロセッサによって処理されると、1つか又はそれ以上の組のパラメータを規定するステップ、1つか又はそれ以上の組のパラメータをソースコードに転送するステップ、及び、ソースコードを、映像ストリーム内の事象のタイムラインを生成するための一連のタスクにコンパイルするステップをシステムに実行させるオペレーションを格納する機械可読媒体とを有する。
【0059】
本発明の別の実施形態において、それに記憶された命令を有する機械可読媒体は、前記命令が、システムに、興味のある量を判定させ、興味のある量に基づいて映像フレームごとに重要性スコアを生成させ、1つかまたはそれ以上の閾値値を計算させ、事象を識別する映像フレームを閾値に基づいて選択させ、映像ストリーム内の1つかまたはそれ以上の事象のタイムラインを生成させる。
【図面の簡単な説明】
【0060】
【図1】図8をイラストとして描写したものであり、ホットスポットの近傍の動作から判定された重要性のグラフが、時間軸上で示され、水平ラインが、重大な事象が映像ストリーム内に最初に存在した時刻から事象が映像ストリーム内に最後に存在した時刻までを示すために使用され、動作を表すキーフレームが表示され、図1において、色(緑、赤、黄、青)に対応するシンボル(□、△、◇、○)が、発生源カメラ(1、2、3、4)を示すために使用され、図1における人物の様々な斜線は、図8に存在する様々な行為者をより良好に区別するために使用される。
【図2】図9をイラストとして描写したものであり、単一発生源カメラ(2)からの事象を備えたタイムラインが、図2に示され、図9に示される水平ボックス及びキーフレーム輪郭が赤で陰影が付されていることを例示するために三角形シンボル(△)が用いられ、図2における人物の様々な斜線は、図9に存在する様々な行為者をより良好に区別するために使用される。
【図3】図10をイラストとして描写したものであり、複数のカメラからの事象を備えたタイムラインが示され、図3において、キーフレームは、発生源カメラ(1、2、3、4)を示すために、図10における色(緑、赤、黄、青)に対応するシンボル(□、△、◇、○)を備えた輪郭を有し、図3における人物の様々な斜線は、図10に存在する様々な行為者をより良好に区別するために使用される。
【図4】図11をイラストとして描写したものであり、4つのカメラからのキーフレームからなる4画面が示され、キーフレームは、動作の中央だけにトリミングされ、それらの重要性に比例した寸法を有し、図4における人物の様々な斜線は、図11に存在する様々な行為者をより良好に区別するために使用される。
【図5】図12をイラストとして描写したものであり、ホットスポットの近傍の動作を備えた事象リスト及びキーフレーム、及び、全事象のこま撮り可視化が示され、図5において、こま撮り可視化におけるオブジェクトの濃度は、濃い人影、薄い人影、及び、淡い人影を示すために、記号(実線、破線、点線)を用いて示され、図5における人物の様々な斜線は、図12に存在する様々な行為者をより良好に区別するために使用される。
【図6】図13をイラストとして描写したものであり、発生源カメラ(1、2、3、4)をそれぞれ指示するために図13における色(緑、赤、黄、青)に対応するシンボル(□、△、◇、○)を用いて図6において識別されるカメラ位置を示す地図を示し、事象のキーフレームは、ユーザがタイムライン(図示せず)に沿って移動すると、次第に明るくなり、また、次第に暗くなり、図6における人物の様々な斜線は、図13に存在する様々な行為者をより良好に区別するために使用される。
【図7】タイムラインを生成するために映像ストリーム内の事象を識別するために必要なステップのブロック図である。
【図8】ホットスポットの近傍の動作から判定された重要性を時間軸上に示すグラフである。
【図9】単一発生源カメラ(2)からの事象を備えたタイムラインを示す図である。
【図10】複数のカメラからの事象及びキーフレームを備えたタイムラインを示す図である。
【図11】4つのカメラからのキーフレームからなる4画面を示す図であり、キーフレームは、動作の中央だけにトリミングされ、それらの重要性に比例した寸法を有する。
【図12】ホットスポットの近傍の動作を備えた事象リスト及びキーフレーム、及び、全事象のこま撮り可視化を示す図である。
【図13】カメラ位置を示す地図を示す図であり、事象のキーフレームは、ユーザがライムライン(図示せず)に沿って移動すると、次第に明るくなり、また、次第に暗くなる。
【特許請求の範囲】
【請求項1】
1つか又はそれ以上の映像フレーム内の事象を識別及び可視化する方法であって、
(a)興味のある量を判定し、
(b)前記興味のある量に基づいて映像フレームごとに重要性スコアを生成し、
(c)前記重要性スコアに基づいて1つか又はそれ以上の閾値を計算し、
(d)事象を識別する映像フレームを前記閾値に基づいて選択する、
事象を識別及び可視化する方法。
【請求項2】
(a)において、前記興味のある量が、映像フレーム内の動作の量、映像フレーム内の興味のある地点、カメラから興味のある地点までの距離、映像フレーム内の検出された特徴、映像フレーム内の顔の特徴、動作が興味のあるものであるか又は特徴が興味のあるものであれば、別のセンサーによって検出された動作、及び、別のセンサーによって検出された事象からなるグループから選択された基準に基づくものである請求項1に記載の事象を識別及び可視化する方法。
【請求項3】
(a)は、
(e)映像フレーム内の1つか又はそれ以上の興味のある地点を判定し、
(f)1つか又はそれ以上の映像カメラ位置から映像フレーム内の1つか又はそれ以上の前記興味のある地点までの1つか又はそれ以上の距離を判定し、
(g)カメラ位置から前記興味のある地点までの距離に基づいて前記興味のある量を判定する、
ことをさらに含む請求項1に記載の事象を識別及び可視化する方法。
【請求項4】
(b)は、滑らかにすることをさらに含む請求項1に記載の事象を識別及び可視化する方法。
【請求項5】
(c)において、最小の興味のある量、動作とみなされる変化した画素の最小割合、新しい映像セグメントを開始するための動作の最小休止時間、及び、ノイズを無視するための動作セグメントの最小の長さからなるグループから選択された量について1つか又はそれ以上の閾値が計算される請求項1に記載の事象を識別及び可視化する方法。
【請求項6】
(d)は、
(h)滑らかにされた重要性スコアが、最小の興味のある量の閾値よりも大きければ、映像フレームを事象に含め、
(i)選択された連続的な映像フレーム間の間隙が、新しい映像セグメントを開始するための動作の最小休止時間閾値よりも小さければ、選択された連続的な映像フレームを単一事象に結合する、
ことをさらに含む請求項5に記載の事象を識別及び可視化する方法。
【請求項7】
映像フレームが映像ストリームの一部分であり、映像ストリーム内の少なくとも1つの事象のタイムラインを生成することをさらに含む請求項1に記載の事象を識別及び可視化する方法。
【請求項8】
前記タイムラインにおける事象の期間が水平ラインを用いて識別され、該水平ラインが、事象が映像ストリーム内で最初に存在した時刻に開始し、且つ事象が映像ストリーム内で最後に存在した時刻に終了し、キーフレームが、各事象の内容を可視化するために使用され、該事象の期間に対応する請求項7に記載の事象を識別及び可視化する方法。
【請求項9】
2つか又はそれ以上のカメラによって同時に記録された2つか又はそれ以上の映像ストリームが、単一タイムライン上に表示され、各映像ストリーム内に存在する事象の期間が、水平ラインによって表示され、記号が、映像ストリームを記録するために使用されたカメラを示すために使用され、同じ記号が、同じカメラからの映像内に存在する異なる事象に使用され、同じカメラからの事象ごとにキーフレームをフレーム化するために使用される請求項8に記載の事象を識別及び可視化する方法。
【請求項10】
記号が、異なるカメラによって撮影された事象を示すために異なる色を使用し、同じ色が、同じカメラからの映像内に存在する異なる事象に使用され、同じカメラからの事象ごとにキーフレームをフレーム化するために使用される請求項9に記載の事象を識別及び可視化する方法。
【請求項11】
地図が、2つか又はそれ以上の映像ストリームを撮影するために使用された2つか又はそれ以上のカメラの地理的位置を示すために使用され、記号が、カメラを示すために使用され、キーフレームが、カメラから観察された映像ストリームを示すために使用され、記号を用いて示され、異なる記号が、異なるカメラを示すために使用され、異なるカメラから観察された映像ストリームを示すために使用される異なるキーフレームが、異なるカメラに対応する異なる記号によってフレーム化され、カーソルがタイムラインに沿って移動すると、キーフレームが変化する請求項9に記載の事象を識別及び可視化する方法。
【請求項12】
記号が、2つか又はそれ以上の映像ストリームを撮影するために使用された2つか又はそれ以上のカメラの地理的位置を示すために異なる色を使用し、色が、カメラを示すために使用され、キーフレームが、その色によってフレーム化され、異なる色が、異なるカメラを示すために使用され、異なるキーフレームが、異なるカメラに対応する異なる色によってフレーム化され、カーソルがタイムラインに沿って移動すると、キーフレームが変化する請求項11に記載の事象を識別及び可視化する方法。
【請求項13】
識別された事象のキーフレームが表示され、キーフレームがタイムラインに従って番号を付される請求項8に記載の事象を識別及び可視化する方法。
【請求項14】
キーフレームが、動作期間及びその動作期間のこま撮り可視化を表す複数の単一行為キーフレームからなるグループから選択される請求項13に記載の事象を識別及び可視化する方法。
【請求項15】
キーフレームが、映像ストリーム内の合成を可視化するために使用され、単一タイムラインに従って番号を付される請求項8に記載の事象を識別及び可視化する方法。
【請求項16】
事象ログが、事象を可視化するために、地図上でキーフレームとともに使用される請求項11に記載の事象を識別及び可視化する方法。
【請求項17】
事象が、地図、事象ログ、及び、タイムラインからなるグループから選択された媒体を用いて表示される請求項1に記載の事象を識別及び可視化する方法。
【請求項18】
請求項7に記載される映像ストリーム内の興味のある事象を表示する事象のタイムラインを生成するためのコンピュータによって実行することのできる命令からなるプログラムであって、
興味のある量を判定するステップと、
前記興味のある量に基づいて映像ストリーム内の1つか又はそれ以上の映像フレームごとに重要性スコアを生成するステップと、
1つか又はそれ以上の閾値を計算するステップと、
事象を識別する映像フレームを前記閾値に基づいて選択するステップと、
映像ストリーム内の1つか又はそれ以上の選択された事象のキーフレームを表示するタイムラインを生成するステップと、
を含むプログラム。
【請求項19】
映像ストリーム内の事象のタイムラインを生成するためのシステムであって、
a)1つか又はそれ以上の組のパラメータを規定することができ、1つか又はそれ以上の組のパラメータをソースコードに転送することができ、映像ストリーム内の事象を可視化するための一連のタスクにソースコードをコンパイルすることができる1つか又はそれ以上のプロセッサと、
b)1つか又はそれ以上プロセッサによって処理されるとき、1つか又はそれ以上の組のパラメータを規定するステップ、1つか又はそれ以上の組のパラメータをソースコードに転送するステップ、及び、ソースコードを映像ストリーム内の事象のタイムラインを生成するための一連のタスクにコンパイルするステップをシステムに実行させるオペレーションが格納された機械可読媒体と、
を有するシステム。
【請求項1】
1つか又はそれ以上の映像フレーム内の事象を識別及び可視化する方法であって、
(a)興味のある量を判定し、
(b)前記興味のある量に基づいて映像フレームごとに重要性スコアを生成し、
(c)前記重要性スコアに基づいて1つか又はそれ以上の閾値を計算し、
(d)事象を識別する映像フレームを前記閾値に基づいて選択する、
事象を識別及び可視化する方法。
【請求項2】
(a)において、前記興味のある量が、映像フレーム内の動作の量、映像フレーム内の興味のある地点、カメラから興味のある地点までの距離、映像フレーム内の検出された特徴、映像フレーム内の顔の特徴、動作が興味のあるものであるか又は特徴が興味のあるものであれば、別のセンサーによって検出された動作、及び、別のセンサーによって検出された事象からなるグループから選択された基準に基づくものである請求項1に記載の事象を識別及び可視化する方法。
【請求項3】
(a)は、
(e)映像フレーム内の1つか又はそれ以上の興味のある地点を判定し、
(f)1つか又はそれ以上の映像カメラ位置から映像フレーム内の1つか又はそれ以上の前記興味のある地点までの1つか又はそれ以上の距離を判定し、
(g)カメラ位置から前記興味のある地点までの距離に基づいて前記興味のある量を判定する、
ことをさらに含む請求項1に記載の事象を識別及び可視化する方法。
【請求項4】
(b)は、滑らかにすることをさらに含む請求項1に記載の事象を識別及び可視化する方法。
【請求項5】
(c)において、最小の興味のある量、動作とみなされる変化した画素の最小割合、新しい映像セグメントを開始するための動作の最小休止時間、及び、ノイズを無視するための動作セグメントの最小の長さからなるグループから選択された量について1つか又はそれ以上の閾値が計算される請求項1に記載の事象を識別及び可視化する方法。
【請求項6】
(d)は、
(h)滑らかにされた重要性スコアが、最小の興味のある量の閾値よりも大きければ、映像フレームを事象に含め、
(i)選択された連続的な映像フレーム間の間隙が、新しい映像セグメントを開始するための動作の最小休止時間閾値よりも小さければ、選択された連続的な映像フレームを単一事象に結合する、
ことをさらに含む請求項5に記載の事象を識別及び可視化する方法。
【請求項7】
映像フレームが映像ストリームの一部分であり、映像ストリーム内の少なくとも1つの事象のタイムラインを生成することをさらに含む請求項1に記載の事象を識別及び可視化する方法。
【請求項8】
前記タイムラインにおける事象の期間が水平ラインを用いて識別され、該水平ラインが、事象が映像ストリーム内で最初に存在した時刻に開始し、且つ事象が映像ストリーム内で最後に存在した時刻に終了し、キーフレームが、各事象の内容を可視化するために使用され、該事象の期間に対応する請求項7に記載の事象を識別及び可視化する方法。
【請求項9】
2つか又はそれ以上のカメラによって同時に記録された2つか又はそれ以上の映像ストリームが、単一タイムライン上に表示され、各映像ストリーム内に存在する事象の期間が、水平ラインによって表示され、記号が、映像ストリームを記録するために使用されたカメラを示すために使用され、同じ記号が、同じカメラからの映像内に存在する異なる事象に使用され、同じカメラからの事象ごとにキーフレームをフレーム化するために使用される請求項8に記載の事象を識別及び可視化する方法。
【請求項10】
記号が、異なるカメラによって撮影された事象を示すために異なる色を使用し、同じ色が、同じカメラからの映像内に存在する異なる事象に使用され、同じカメラからの事象ごとにキーフレームをフレーム化するために使用される請求項9に記載の事象を識別及び可視化する方法。
【請求項11】
地図が、2つか又はそれ以上の映像ストリームを撮影するために使用された2つか又はそれ以上のカメラの地理的位置を示すために使用され、記号が、カメラを示すために使用され、キーフレームが、カメラから観察された映像ストリームを示すために使用され、記号を用いて示され、異なる記号が、異なるカメラを示すために使用され、異なるカメラから観察された映像ストリームを示すために使用される異なるキーフレームが、異なるカメラに対応する異なる記号によってフレーム化され、カーソルがタイムラインに沿って移動すると、キーフレームが変化する請求項9に記載の事象を識別及び可視化する方法。
【請求項12】
記号が、2つか又はそれ以上の映像ストリームを撮影するために使用された2つか又はそれ以上のカメラの地理的位置を示すために異なる色を使用し、色が、カメラを示すために使用され、キーフレームが、その色によってフレーム化され、異なる色が、異なるカメラを示すために使用され、異なるキーフレームが、異なるカメラに対応する異なる色によってフレーム化され、カーソルがタイムラインに沿って移動すると、キーフレームが変化する請求項11に記載の事象を識別及び可視化する方法。
【請求項13】
識別された事象のキーフレームが表示され、キーフレームがタイムラインに従って番号を付される請求項8に記載の事象を識別及び可視化する方法。
【請求項14】
キーフレームが、動作期間及びその動作期間のこま撮り可視化を表す複数の単一行為キーフレームからなるグループから選択される請求項13に記載の事象を識別及び可視化する方法。
【請求項15】
キーフレームが、映像ストリーム内の合成を可視化するために使用され、単一タイムラインに従って番号を付される請求項8に記載の事象を識別及び可視化する方法。
【請求項16】
事象ログが、事象を可視化するために、地図上でキーフレームとともに使用される請求項11に記載の事象を識別及び可視化する方法。
【請求項17】
事象が、地図、事象ログ、及び、タイムラインからなるグループから選択された媒体を用いて表示される請求項1に記載の事象を識別及び可視化する方法。
【請求項18】
請求項7に記載される映像ストリーム内の興味のある事象を表示する事象のタイムラインを生成するためのコンピュータによって実行することのできる命令からなるプログラムであって、
興味のある量を判定するステップと、
前記興味のある量に基づいて映像ストリーム内の1つか又はそれ以上の映像フレームごとに重要性スコアを生成するステップと、
1つか又はそれ以上の閾値を計算するステップと、
事象を識別する映像フレームを前記閾値に基づいて選択するステップと、
映像ストリーム内の1つか又はそれ以上の選択された事象のキーフレームを表示するタイムラインを生成するステップと、
を含むプログラム。
【請求項19】
映像ストリーム内の事象のタイムラインを生成するためのシステムであって、
a)1つか又はそれ以上の組のパラメータを規定することができ、1つか又はそれ以上の組のパラメータをソースコードに転送することができ、映像ストリーム内の事象を可視化するための一連のタスクにソースコードをコンパイルすることができる1つか又はそれ以上のプロセッサと、
b)1つか又はそれ以上プロセッサによって処理されるとき、1つか又はそれ以上の組のパラメータを規定するステップ、1つか又はそれ以上の組のパラメータをソースコードに転送するステップ、及び、ソースコードを映像ストリーム内の事象のタイムラインを生成するための一連のタスクにコンパイルするステップをシステムに実行させるオペレーションが格納された機械可読媒体と、
を有するシステム。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【公開番号】特開2006−352879(P2006−352879A)
【公開日】平成18年12月28日(2006.12.28)
【国際特許分類】
【出願番号】特願2006−164274(P2006−164274)
【出願日】平成18年6月14日(2006.6.14)
【出願人】(000005496)富士ゼロックス株式会社 (21,908)
【Fターム(参考)】
【公開日】平成18年12月28日(2006.12.28)
【国際特許分類】
【出願日】平成18年6月14日(2006.6.14)
【出願人】(000005496)富士ゼロックス株式会社 (21,908)
【Fターム(参考)】
[ Back to top ]