映像記録装置、映像記録プログラム
【課題】長時間の記録が可能であるとともに、システム構成を簡単化することができる映像記録装置を提供する。
【解決手段】映像記録装置は、読み出し部2、記憶部3、再符号化部4、選択部5、出力部6を備えて構成される。読み出し部2で1フレームずつ読み出した映像データをフレーム間予測を用いないイントラ符号化フレームデータと、フレーム間予測を用いたノンイントラ符号化フレームデータに分離して記憶部3に記憶し、再符号化部4でイントラ符号化フレームのみを再符号化し、選択部5で再符号化処理時に取得した画像特徴量を用いて選択したフレームデータを出力部6により記録メディアに記録する。
【解決手段】映像記録装置は、読み出し部2、記憶部3、再符号化部4、選択部5、出力部6を備えて構成される。読み出し部2で1フレームずつ読み出した映像データをフレーム間予測を用いないイントラ符号化フレームデータと、フレーム間予測を用いたノンイントラ符号化フレームデータに分離して記憶部3に記憶し、再符号化部4でイントラ符号化フレームのみを再符号化し、選択部5で再符号化処理時に取得した画像特徴量を用いて選択したフレームデータを出力部6により記録メディアに記録する。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、映像の符号化方式により符号化した映像データを、再符号化して記録する映像記録装置、映像記録プログラムに関する。
【背景技術】
【0002】
従来、防犯、事故や災害等の監視を目的とした監視カメラシステムでは、監視対象がある遠隔地に監視カメラを設置し、撮影した映像をアナログ専用回線により監視センターに伝送して長時間にわたりディスプレイ上に再生したり、或いは、必要に応じてタイムラプス(間欠)VTRと呼ばれる長時間記録用VTRでアナログ信号のまま記録することが多かった。しかし、近年、IPネットワークのインフラ整備、ハードディスクやDVD等のディジタル記録メディアの大容量化及び低価格化、さらに監視カメラのディジタル化が進んだ結果、監視カメラシステムにおいても撮影した映像のディジタル記録への置き換えが急速に進んでいる。
【0003】
一般的に、監視カメラで撮影した映像をディジタル記録するには、撮影された映像のアナログ信号を監視カメラの内部、叉は監視カメラに接続された機器により、ディジタル信号に変換して符号化し、この符号化したディジタル映像信号をネットワークを介して記録装置に伝送して、ハードディスクやDVD等のディジタル記録メディアに記録する。映像信号の符号化方式としては、各フレームを1枚の静止画として独立に符号化する方式と、連続するフレームの相関を利用することによりフレーム間予測を行って符号化する方式がある。このうち、各フレームを独立に符号化する方式は、ディジタル信号の映像データをタイムラプス記録するシステムで多く用いられ、代表的なものとしてJPEG方式が挙げられる(例えば、特許文献1参照)。
【0004】
しかしながら、各フレームを独立に符号化する方式は、フレーム間予測を行って符号化する方式に比べて映像データの圧縮率が低く、ネットワークを介して伝送するためには、より広帯域の回線を必要とするという問題がある。
【0005】
一方、フレーム間予測を用いて符号化する方式の代表的なものとしては、MPEG−2やMPEG−4等の符号化方式があり、これらの方式によって符号化された映像データは、ディジタル記録メディアに連続してすべて記録されることが多い。フレーム間予測を用いて符号化する方式は圧縮率が高いので、ネットワーク回線を用いて伝送する際に必要な周波数帯域は相対的に狭くてもよいが、符号化された映像データのすべてを記録すると、結果的に、タイムラプス記録したJPEG方式の映像よりも大容量の記録装置が必要になり、システムコストが高くなるという問題がある。このため、監視カメラの映像に不審な人物や物体、異常な現象が含まれているか否か検出し、異常が検出された際の映像のみを記録する方法が用いられてきた。しかしながら、この方法は、例えば、人の出入が少ない休日や夜間に防犯カメラで侵入者を検出する場合等には効果があるものの、河川や道路など、災害や事故など常時監視を必要とする場合には困難を伴う。
【0006】
この問題を解決する方法として、MPEG方式で符号化された映像データからピクチャスタートコードを検出してピクチャヘッダの位置を特定し、ピクチャヘッダからピクチャタイプを取得することにより、フレーム間予測を用いないIフレームのみを記録するという例がある(例えば、特許文献2参照)。
【0007】
しかしながら、上記の特許文献2に記載されたIフレームのみを抽出して記録する方法では、記録される映像データの符号量が、映像データの種類や、映像データをMPEG符号化する機器に依存するという問題がある。また、MPEG符号化する際は、一般に固定ビットレートで符号化する場合が多く、複雑な絵柄で、かつ動きがほとんどない映像の場合は、相対的にIフレームに割り当てられる符号量が大きくなり、記録装置への長時間記録ができなくなるという問題がある。
【0008】
また、特許文献2に記載された方法では、監視カメラで異常な映像が撮影された際に、タイムラプス記録を停止して通常の記録に切り替えるためには、別途、監視対象領域に異常が発生したか否か検出するためのセンサ等の機器が必要となり、異常を検出したことを映像記録装置に通知して記録処理の手順を切り替えなければならず、システム構成が複雑になるという問題がある。
【特許文献1】特開2001−111959号公報
【特許文献2】特開2003−101944号公報
【発明の開示】
【発明が解決しようとする課題】
【0009】
本発明は、上記従来の事情に鑑みてなされたもので、映像データの種類や、映像データを符号化する機器に依存することなく、長時間の記録が可能であるとともに、監視対象領域の異常を検出するためのセンサ等の機器を必要とせず、システム構成を簡単化することのできる映像記録装置、映像記録プログラムを提供することを目的とする。
【課題を解決するための手段】
【0010】
本発明の映像記録装置は、フレーム画像を、フレーム内で符号化する第1の符号化方法と、フレーム間の相関に基づいて符号化する第2の符号化方法と、のいずれかの方法を選択して符号化し、フレーム単位で順に記録する映像記録装置であって、前記符号化したフレーム画像をフレーム単位で順に読み出す読み出し部と、前記第1の符号化方法で符号化したフレーム画像を一時的に記憶する第1の記憶部と、i番目(iは自然数)と(i+1)番目に、前記第1の符号化方法で符号化したフレーム画像の間にあるL枚(L≧1)の前記第2の符号化方法で符号化したフレーム画像を、i組目のフレーム画像群として一時的に記憶する第2の記憶部と、前記第2の記憶部に記憶したフレーム画像群のうち、所定の条件を満たすj組目(jは自然数)と前後各M組(Mは自然数)の前記フレーム画像群を選択する第1の選択部と、前記第1の記憶部に記憶した全てのフレーム画像と、前記第1の選択部によって選択したフレーム画像群を用いて再符号化する第1の再符号化部と、前記第1の再符号化部によって再符号化した前記フレーム画像を記録する記録部と、を備えるものである。
【0011】
この構成により、フレーム内で符号化した画像フレームと、フレーム間の相関に基づいて符号化した画像フレームを分離して、フレーム内で符号化した画像フレームを再符号化することで、タイムラプス記録が可能となり、長時間の映像データを記録することができる。また、フレーム間の相関に基づいて符号化したフレーム画像を一時的に記憶することにより、監視カメラで異常な映像が撮影された際に、通常のフレームレートに切り替えて全てのフレームを連続して記録することができる。
【0012】
また、本発明の一態様として、上記の映像記録装置において、前記第1の再符号化部は、前記第1の記憶部に記憶したフレーム画像を復号化する復号化部と、前記復号化部によって復号化したフレーム画像を前記第2の符号化方法で再符号化する第2の再符号化部と、前記第2の再符号化部によって再符号化したフレーム画像と、前記第1の記憶部に記憶したフレーム画像の一方を選択する第2の選択部と、前記第2の選択部によって選択したフレーム画像と、前記第1の選択部によって選択したフレーム画像群を時間順に並び替える並び替え部と、を備えるものも含まれる。
【0013】
この構成により、フレーム内で符号化した画像フレームと、フレーム間の相関に基づいて符号化した画像フレームを分離して、フレーム内で符号化した画像フレームを再符号化することで、タイムラプス記録が可能となり、長時間の映像データを記録することができる。また、フレーム間の相関に基づいて符号化したフレーム画像を一時的に記憶することにより、監視カメラで異常な映像が撮影された際に、通常のフレームレートに切り替えて全てのフレームを連続して記録することができる。
【0014】
さらに、本発明の一態様として、上記の映像記録装置において、前記所定の条件は、再符号化の際に取得する符号化情報に基づいて算出した特徴量と、再符号化する当該フレーム画像の直前に再符号化したフレーム画像から算出した前記特徴量との差が、所定の範囲以上であるものも含まれる。
【0015】
この構成により、上記の効果に加え、更に、再符号化の際の符号化情報に基づく特徴量を用いることにより、全フレーム記録とタイプラプス記録とを切り替えることができるので、監視対象領域に異常が発生したか否か検出するためのセンサ等の機器が不要となり、記録モードを切り替えることが可能な映像記録システムの構成を簡単化できる。
【0016】
本発明の映像記録プログラムは、フレーム画像を、フレーム内で符号化する第1の符号化方法と、フレーム間の相関に基づいて符号化する第2の符号化方法と、のいずれかの方法を選択して符号化し、フレーム単位で順に記録する機能をコンピュータに実行させる映像記録プログラムであって、前記符号化したフレーム画像をフレーム単位で順に読み出す機能と、前記第1の符号化方法で符号化したフレーム画像を第1の記憶部に一時的に記憶する機能と、i番目(iは自然数)と(i+1)番目に、前記第1の符号化方法で符号化したフレーム画像の間にあるL枚(L≧1)の前記第2の符号化方法で符号化したフレーム画像を、i組目のフレーム画像群として第2の記憶部に一時的に記憶する機能と、前記第2の記憶部に記憶したフレーム画像群のうち、所定の条件を満たすj組目(jは自然数)と前後各M組(Mは自然数)の前記フレーム画像群を選択する機能と、前記第1の記憶部に記憶した全てのフレーム画像と、前記選択したフレーム画像群を用いて再符号化する機能と、前記再符号化した前記フレーム画像を記録する機能と、をコンピュータに実行させるものである。
【0017】
このプログラムにより、フレーム内で符号化した画像フレームと、フレーム間の相関に基づいて符号化した画像フレームを分離して、フレーム内で符号化した画像フレームを再符号化することで、タイムラプス記録が可能となり、長時間の映像データを記録することができる。また、フレーム間の相関に基づいて符号化したフレーム画像を一時的に記憶することにより、監視カメラで異常な映像が撮影された際に、通常のフレームレートに切り替えて全てのフレームを連続して記録することができる。
【0018】
さらに、本発明の一態様として、上記の映像記録プログラムにおいて、前記再符号化する機能は、前記第1の記憶部に記憶したフレーム画像を復号化する機能と、前記復号化したフレーム画像を前記第2の符号化方法で再符号化する機能と、前記第2の符号化方法によって再符号化したフレーム画像と、前記第1の記憶部に記憶したフレーム画像の一方を選択する機能と、前記選択したフレーム画像と、前記選択したフレーム画像群を時間順に並び替える機能と、を含むものである。
【0019】
このプログラムにより、フレーム内で符号化した画像フレームと、フレーム間の相関に基づいて符号化した画像フレームを分離して、フレーム内で符号化した画像フレームを再符号化することで、タイムラプス記録が可能となり、長時間の映像データを記録することができる。また、フレーム間の相関に基づいて符号化したフレーム画像を一時的に記憶することにより、監視カメラで異常な映像が撮影された際に、通常のフレームレートに切り替えて全てのフレームを連続して記録することができる。
【0020】
さらに、本発明の一態様として、上記の映像プログラムにおいて、前記所定の条件は、再符号化の際に取得する符号化情報に基づいて算出した特徴量と、再符号化する当該フレーム画像の直前に再符号化したフレーム画像から算出した前記特徴量との差が、所定の範囲以上であるものも含まれる。
【0021】
このプログラムにより、上記の効果に加え、更に、再符号化の際の符号化情報に基づく特徴量を用いることにより、全フレーム記録とタイプラプス記録とを切り替えることができるので、監視対象領域に異常が発生したか否か検出するためのセンサ等の機器が不要となり、記録モードを切り替えることが可能な映像記録システムの構成を簡単化できる。
【発明の効果】
【0022】
本発明によれば、映像データの種類や、映像データを符号化する機器に依存することなく、長時間の記録が可能であるとともに、監視対象領域の異常を検出するためのセンサ等の機器を必要とせず、システム構成を簡単化することのできる映像記録装置、映像記録プログラムを提供できる。
【発明を実施するための最良の形態】
【0023】
本発明に係る実施形態の映像記録装置では、監視カメラで撮影した映像の符号化方式として、MPEG−4Visual符号化方式を用いる。MPEG−4符号化方式では、様々なアプリケーションを想定し、各アプリケーションを実現するための符号化ツールを組み合わせたプロファイルが定義されている。ここでは、MPEG−4Visualに準拠するデコーダが必ず復号しなければならないことが規定されている最も基本的なプロファイルであるシンプル・プロファイルの符号化処理について説明する。
【0024】
以下、MPEG−4Visual符号化方式の処理概要について説明する。図1は、MPEG−4Visual符号化装置の概略構成を示す図である。なお、MPEG−4Visual符号化方式では、VOP(Video Object Plane)と呼ばれる単位で符号化を行う。最も単純なVOPはフレームに相当し、本実施形態ではこの場合について説明する。
【0025】
図1において、MPEG−4Visual符号化装置1は、入力部10、動き検出・符号化部11、予測部12、変換部13、DCT符号化部14、参照用画像生成部15、参照用画像記憶部16、パラメータ設定部17、出力部18を備えて構成される。
【0026】
入力部10は、符号化する映像データをVOP単位で入力し、各VOPを16×16画素を単位とするマクロブロックに分割する。
【0027】
動き検出・符号化部11は、図2に示すように、動き検出部111、マクロブロックタイプ設定部112、動きベクトル符号化部113から構成されている。図2において、動き検出部111は、入力部10から入力されるマクロブロックデータと、参照用画像記憶部16に記憶されている参照用画像データとを用いて動きベクトルを算出し、マクロブロックタイプ設定部112は、算出した動きベクトルに基づいてマクロブロックタイプを設定する。また、動きベクトル符号化部113は、設定したマクロブロックタイプのノンイントラマクロブロックのみについて可変長符号化を行う。
【0028】
予測部12は、動き検出・符号化部11で算出した動きベクトルと、参照用画像記憶部16に記憶されている参照用画像データを用いて、予測画像を生成する。
【0029】
変換部13は、図3に示すように、予測誤差生成部131、DCT部132、量子化部133から構成されている。図3において、予測誤差生成部131は、ノンイントラマクロブロックの場合のみについて、入力部10から入力されるマクロブロックデータと、予測部12で生成された予測画像から誤差画像マクロブロックデータを生成して出力し、イントラマクロブロックの場合には、入力部10から入力されるマクロブロックデータをそのまま出力する。また、DCT部132は、予測誤差生成部131から出力されるマクロブロックデータについて、8×8画素のブロック毎に2次元離散コサイン変換(DCT)を行い、量子化部133は、DCT部132から出力される2次元DCT係数を量子化する。
【0030】
DCT符号化部14は、図4に示すように、DC/AC予測部141、スキャン部142、可変長符号化部143から構成されている。図4において、DC/AC予測部141は、変換部13から出力される2次元量子化DCT係数と、隣接するマクロブロックの2次元DCT係数を基にして予測される値から2次元量子化DCT係数の誤差成分を算出する。また、スキャン部142は、DC/AC予測部141で算出された2次元量子化DCT係数の誤差成分を符号化する順番に並び替え、可変長符号化部143は、並び替えた2次元量子化DCT係数誤差成分を符号化する。
【0031】
参照用画像生成部15は、図5に示すように、逆量子化部151、逆DCT部152、画像再構成部153から構成されている。図5において、逆量子化部151は、変換部13から出力される2次元量子化DCT係数を逆量子化し、逆DCT部152は、逆量子化された2次元DCT係数について逆DCTを行う。また、画像再構成部153は、逆DCT部152から出力される画素値により画像を再構成する。このとき、ノンイントラマクロブロックの場合には、予測部12で生成された予測画像の画素値を加算して画像を再構成する。
【0032】
参照用画像記憶部16は、参照用画像生成部15で再構成された画像を記憶する。
【0033】
パラメータ設定部17は、動き検出・符号化部11とDCT符号化部14から出力される符号量を基にして、次のマクロブロックを符号化する際に用いる量子化パラメータを設定する。
【0034】
出力部18は、動き検出・符号化部11とDCT符号化部14から出力される符号をMPEG−4Visual符号化データとして出力する。
【0035】
次に、以上のように構成された本実施形態のMPEG−4Visual符号化装置1の動作について説明する。図6は、MPEG−4Visual符号化装置1の動作手順を説明するためのフローチャートである。
【0036】
まず、ステップS10において、入力部10に符号化処理を行う映像データを入力する。
【0037】
ステップS20では、パラメータ設定部17においてMPEG−4符号化パラメータの初期化を行い、続くステップS30では、動き検出・符号化部11において動画データをVOP単位でマクロブロックに分割し、マクロブロック毎に後述する動き検出・符号化処理のサブルーチンを実行する。
【0038】
ここで、上述の説明における動き検出・符号化部11の動き検出・符号化処理サブルーチンについて説明する。図7は、動き検出・符号化サブルーチンの処理手順を説明するためのフローチャートである。
【0039】
始めに、図2に示した動き検出部111において、参照用画像記憶部16に記憶されている参照用画像を用いて動き検出を行い、動きベクトルを算出する(ステップS31)。
【0040】
次いで、マクロブロックタイプ設定部112において、動き検出の結果を用いてマクロブロックタイプを設定し(ステップS32)、ノンイントラマクロブロックであるか否かを判定する(ステップS33)。
【0041】
判定の結果、設定したマクロブロックタイプがノンイントラマクロブロックである場合は、動きベクトル符号化部113で動きベクトルを可変長符号化し(ステップS34)、出力部18に出力してサブルーチンの処理を終了する(ステップS34)。
【0042】
一方、ステップS33の処理手順で、マクロブロックタイプがノンイントラマクロブロックでないと判定された場合は、符号化を行うことなく入力部10から入力されるマクロブロックデータをそのまま出力部18に出力してサブルーチンの処理を終了する。
【0043】
図6に示すフローチャートに戻り、ステップS40では、予測部12において、参照用画像記憶部16に記憶されている参照用画像と動き検出部111によって算出された動きベクトルを用いて予測画像を生成する。
【0044】
続くステップS50では、変換部13において、以下に説明する変換処理のサブルーチンを実行する。図8は、変換部13における変換処理サブルーチンの手順を説明するためのフローチャートである。
【0045】
まず、図3に示した予測誤差生成部131において、入力部10から入力されたマクロブロックデータと予測部12で生成された予測画像データを用いて予測誤差を生成する(ステップS51)。このとき、入力したマクロブロックデータがイントラマクロブロックである場合は、マクロブロックデータをそのまま予測誤差データとする。
【0046】
次いで、DCT部132において、予測誤差データを8×8画素のブロック毎に2次元離散コサイン変換(DCT)し(ステップS52)、量子化部133でパラメータ設定部17から入力された量子化スケールを用いて2次元DCT係数を量子化する(ステップS53)。
【0047】
再び図6に示すフローチャートに戻り、ステップS60において、DCT符号化部14によりDCT符号化処理のサブルーチンを実行する。
【0048】
ここで、DCT符号化部14におけるDCT符号化処理のサブルーチンについて説明する。図9は、DCT符号化処理サブルーチンの手順を説明するためのフローチャートである。
【0049】
まず、図4に示したDC/AC予測部141において、変換部13から出力される2次元量子化DCT係数と隣接するマクロブロックの2次元DCT係数からDC/AC予測を行い、2次元量子化DCT係数の誤差成分を算出する(ステップS61)。
【0050】
次いで、スキャン部142において、2次元量子化DCT係数の誤差成分を符号化する順番に並び替え(ステップS62)、可変長符号化部143において、並び替えられた2次元量子化DCT係数誤差成分を可変長符号化して出力部18に出力する(ステップS63)。
【0051】
図6に示すフローチャートに戻って、ステップS70では、参照用画像生成部15において参照用画像生成処理のサブルーチンを実行する。
【0052】
ここで、上述の参照用画像生成部15における参照用画像生成処理サブルーチンについて説明する。図10は、参照用画像生成処理サブルーチンの手順を説明するためのフローチャートである。
【0053】
まず、図5に示した逆量子化部151において、変換部13から出力される2次元量子化DCT係数を逆量子化し(ステップS71)、逆DCT部152において、逆量子化した2次元DCT係数に逆DCTを施し、参照用画像の予測誤差を生成する(ステップS72)。
【0054】
次いで、画像再構成部153において、予測画像と参照用画像の予測誤差とを加算して参照用画像を生成し(ステップS73)、参照用画像記憶部16に記憶する。このとき、マクロブロックデータがイントラマクロブロックの場合には、参照用画像の予測誤差をそのまま参照用画像として参照用画像記憶部16に記憶する。
【0055】
図6に示すフローチャートに戻り、ステップS80では、パラメータ設定部17において、動き検出・符号化部11とDCT符号化部14から出力した符号量を基にし、次のマクロブロックを符号化する際に用いる量子化パラメータを設定する。
【0056】
以上のようなステップS10からステップS80に至る一連の処理をマクロブロック毎に繰り返して行い、一つのVOPについて処理が終了すると、ステップS90で次のVOPのタイプを設定する。
【0057】
そして、ステップS10からステップS90までの処理をVOP毎に繰り返して行い、全てのVOPについてその処理が終了し、入力した映像データを全て符号化した時点で処理を終了する。
【0058】
次に、以上説明したMPEG−4Visual符号化方式を用いる本発明の実施形態の映像記録装置について説明する。
【0059】
図11は、本発明に係る実施形態の映像記録装置の概略構成を示す図である。同図において、本実施形態の映像記録装置は、読み出し部2、記憶部3、再符号化部4、選択部5及び出力部6を備える構成であり、MPEG−4Visualストリームから一部のVOP(以下、フレームと記述する)を選択し、再符号化した後に記録するものである。以下の説明では、MPEG−4Visualストリームのプロファイルをシンプル・プロファイルの例で説明し、I−VOPをイントラフレーム、P−VOPをノンイントラフレームと記述する。
【0060】
読み出し部2は、映像データを1組のフレームずつ読み出して記憶部3に送る。
【0061】
記憶部3は、符号化タイプ判定部31、イントラフレーム記憶部32、ノンイントラフレーム記憶部33から構成されている。符号化タイプ判定部31は、読み出し部2から読み出されたフレームの符号化タイプを判定し、イントラフレームである場合は、フレームデータをイントラフレーム記憶部32に送り、ノンイントラフレームの場合は、フレームデータをノンイントラフレーム記憶部33に送る。
【0062】
イントラフレーム記憶部32及びノンイントラフレーム記憶部33は、符号化タイプ判定部31から送られたフレームデータを一時的に記憶する。なお、イントラフレーム記憶部32及びノンイントラフレーム記憶部33には、それぞれ所定の組数のフレームを記憶することが可能な領域が確保されており、領域の全てにフレームが記憶されると、新しいフレームを記憶するために古いデータが順次削除されていく。
【0063】
再符号化部4は、図12に示すように、イントラフレーム復号部41、間欠映像再符号化部42、特徴量取得部43、映像再構成部44から構成されている。また、イントラフレーム復号部41は、図13に示すように、可変長復号部411、逆量子化部412、逆DCT部413、画像再構成部414から構成されている。
【0064】
図13において、可変長復号部411は、イントラフレーム記憶部32又はノンイントラフレーム記憶部33から記録しようとするフレームデータを読み出して可変長復号化し、逆量子化部412は、可変長復号化されたデータを逆量子化する。また、逆DCT部413は、逆量子化されたデータを逆DCTし、画像再構成部414は、逆DCTされたデータを画像データの正しい位置に配置して画像を再構成する。
【0065】
図12において、間欠映像再符号化部42は、イントラフレーム復号部41で復号化された画像データを再符号化し、符号化情報を特徴量取得部43に送るとともに、再符号化した画像データを映像再構成部44に送る。
【0066】
特徴量取得部43は、間欠映像再符号化部42から送られた符号化情報から画像特徴量を算出する。
【0067】
映像再構成部44は、間欠映像再符号化部42から送られた映像データ、イントラフレーム記憶部32に記憶されたフレームデータ、及びノンイントラフレーム記憶部33に記憶されたフレームデータのうち、選択されたフレームデータから符号化データを取得して映像データを再構成し、出力部6に送る。
【0068】
選択部5は、再符号化部4から取得した画像特徴量をもとにして、ノンイントラフレーム記憶部33に記憶してあるフレームデータのうち、どのノンイントラフレーム群を記録するかを選択する。
【0069】
出力部6は、再符号化部4で再符号化された映像データを、不図示の記録メディアに記録するために出力する。
【0070】
次に、以上のように構成された本実施形態の映像記録装置の動作について説明する。図14は、本実施形態の映像記録装置の動作手順を説明するためのフローチャートである。
【0071】
まず、ステップS100において、読み出し部2は、記録を行う映像データのMPEG−4Visualストリームから1組のフレームずつ順番にフレームデータを読み出す。
【0072】
次いで、読み出したフレームデータから符号化タイプの情報を取得し(ステップS200)、符号化タイプ判定部31において、イントラフレームであるか否かを判定する(ステップS300)。
【0073】
ステップS300における判定の結果、読み出したフレームがイントラフレームである場合は、そのフレームデータをイントラフレーム記憶部32に記憶し(ステップS400)、ノンイントラフレームである場合は、ノンイントラフレーム記憶部33に記憶する(ステップS500)。
【0074】
このようにして、フレーム毎にステップS100からステップS500までの処理手順を繰り返し、イントラフレーム記憶部32及びノンイントラフレーム記憶部33のそれぞれの記憶領域に符号化に必要な数のフレームが記憶されると、再符号化部4は、イントラフレーム記憶部32又はノンイントラフレーム記憶部33から、記録しようとするフレームを取得して再符号化を行う(ステップS600)。
【0075】
ここで、上述の説明における再符号化部4の再符号化処理サブルーチンについて説明する。図15は、再符号化部4における再符号化処理サブルーチンの手順を説明するためのフローチャートである。
【0076】
まず、ステップS610において、イントラフレーム記憶部32に記憶されたイントラフレームを復号化する。このステップS610の手順は、さらに、図16にフローチャートで示すようなサブルーチンを構成し、可変長復号部411で可変長復号して量子化DCT係数を取得し(ステップS611)、逆量子化部412により逆量子化してDCT係数を取得する(ステップS612)。
【0077】
次いで、逆DCT部413により逆DCTを実施し(ステップS613)、画像再構成部414によって得られた画素データを該当する座標の画素データとして再構成画像を生成する(ステップS614)。
【0078】
図15に示すステップS620では、上記の手順で復号化して得られた画像データを再符号化する。この再符号化は、図1に示した構成のMPEG−4Visual符号化装置を用い、図6に示したフローチャートの手順に従って行われるので、ここではその説明を省略する。但し、出力先は一時記憶用のメモリであり、所定組数の再符号化されたフレームデータが保持されているものとする。
【0079】
ステップS630では、ステップS620の手順でフレームデータを再符号化した際のパラメータを取得して、画像特徴量を算出する。ここで、画像特徴量とは、フレーム間予測を行う際に取得される動きベクトルの空間分布、フレーム間の差分の二乗和、符号量および量子化パラメータ等を用いて算出されるものであり、監視カメラで撮影した映像データに異常なものが写っている際に、直前のフレームとの差異を検出できるものであれば、上記した以外のものでもよい。
【0080】
続くステップS640では、取得した画像特徴量、及び直前のフレームの再符号化時までに取得した画像特徴量を用いて、再符号化したフレームのM組前(Mは、自然数)のノンイントラフレーム群を記録するか否かを判定する。そして、記録すると判定した場合は、イントラフレーム記憶部32から記録しようとするノンイントラフレーム群の直前のイントラフレームデータを取得する(ステップS650)。
【0081】
次いで、ノンイントラフレーム記憶部33から、現在対象としているノンイントラフレームデータ群を取得する(ステップS660)。
【0082】
一方、ステップS640の処理手順でノンイントラフレーム群を記録しないと判定した場合は、再符号化したM組前のフレームデータをイントラフレーム記憶部32から取得する(ステップS670)。
【0083】
このような手順によって取得されたフレームデータは、記録する映像データの末尾に追加され(ステップS680)、再符号化処理サブルーチンを終了する。
【0084】
図14に示すフローチャートに戻り、ステップS700では、選択部5により、再符号化時に取得した画像特徴量を基にして、どのノンイントラフレーム群を記録するかを選択する。
【0085】
ステップS800では、再符号化部4で再符号化された映像データを、出力部6により不図示の記録メディアに記録するために出力し、処理を終了する。
【0086】
以上説明したように、このような本発明の実施形態に係る映像記録装置によれば、MPEG−4符号化データからイントラフレームのみを抽出して再符号化することにより、計算量を小さく抑えたままで、データ量を大きく削減させることができるため、低コストで映像データの長時間記録が可能となる。また、再符号化情報を用いて映像データに異常なものが含まれるか否かを判定することにより、システム構成を複雑にすることなく、タイムラプス記録と、通常記録を容易に切り替えることができる。
【0087】
なお、本発明の実施形態では、MPEG−4Visual符号化ストリームのプロファイルとして、シンプル・プロファイルを例にして説明したが、他のプロファイルでも同様の処理構成で記録することができる。
【0088】
また、本発明は、MPEG−1、MPEG−2、H.264などのMPEG−4以外の符号化技術であっても、フレーム間予測を用いて符号化された映像データであれば、本質的に処理構成は同じであり、同様の処理で記録することができる。
【0089】
また、再符号化処理として、例えば動き検出を行わず、動きベクトルをすべてゼロと仮定して処理を行うことにより、計算量を更に少なくすることができる。
【0090】
本発明の映像記録プログラムは、上述した動作を、映像記録装置を制御する図示せぬプロセッサ等の如きコンピュータに実行させるものであり、映像記録装置内外の所定の記憶装置に保持される。また、ネットワークを介して他のサーバ装置等から取得することも可能である。
【0091】
本発明の各種実施形態を説明したが、本発明は前記実施形態において示された事項に限定されず、明細書の記載、並びに周知の技術に基づいて、当業者がその変更・応用することも本発明の予定するところであり、保護を求める範囲に含まれる。
【産業上の利用可能性】
【0092】
本発明の映像記録装置、映像記録プログラムは、映像データの種類や、映像データを符号化する機器に依存することなく、長時間の記録が可能であるとともに、監視対象領域の異常を検出するためのセンサ等の機器を必要とせず、システム構成を簡単化することができる効果を有し、監視カメラシステム等に有用である。
【図面の簡単な説明】
【0093】
【図1】MPEG−4Visual符号化装置の概略構成を示す図
【図2】MPEG−4Visual符号化装置の動き検出・符号化部の概略構成を示す図
【図3】MPEG−4Visual符号化装置の変換部の概略構成を示す図
【図4】MPEG−4Visual符号化装置のDCT符号化部の概略構成を示す図
【図5】MPEG−4Visual符号化装置の参照用画像生成部の概略構成を示す図
【図6】MPEG−4Visual符号化装置の動作手順を説明するためのフローチャート
【図7】MPEG−4Visual符号化装置における動き検出・符号化部の処理手順を説明するためのフローチャート
【図8】MPEG−4Visual符号化装置における変換部の手順を説明するためのフローチャート
【図9】MPEG−4Visual符号化装置におけるDCT符号化部の処理手順を説明するためのフローチャート
【図10】MPEG−4Visual符号化装置における参照用画像生成部の処理手順を説明するためのフローチャート
【図11】本発明に係る実施形態の映像記録装置の概略構成を示す図
【図12】実施形態に係る映像記録装置の再符号化部の概略構成を示す図
【図13】実施形態に係る映像記録装置のイントラフレーム復号部の概略構成を示す図
【図14】本発明に係る実施形態の映像記録装置の動作手順を説明するためのフローチャート
【図15】実施形態に係る映像記録装置の再符号化部の処理手順を説明するためのフローチャート
【図16】本実施形態に係る映像記録装置におけるイントラフレーム復号化部の処理手順を説明するためのフローチャート
【符号の説明】
【0094】
1 MPEG−4Visual符号化装置
11 入力部
12 動き検出・符号化部
13 予測部
14 変換部
15 DCT符号化部
16 参照用画像生成部
17 参照用画像記憶部
18 パラメータ設定部
19 出力部
2 読み出し部
3 記憶部
31 符号化タイプ判定部
32 イントラフレーム記憶部
33 ノンイントラフレーム記憶部
4 再符号化部
41 イントラフレーム復号部
42 間欠映像再構成部
43 特徴量取得部
44 映像再構成部
5 選択部
6 出力部
【技術分野】
【0001】
本発明は、映像の符号化方式により符号化した映像データを、再符号化して記録する映像記録装置、映像記録プログラムに関する。
【背景技術】
【0002】
従来、防犯、事故や災害等の監視を目的とした監視カメラシステムでは、監視対象がある遠隔地に監視カメラを設置し、撮影した映像をアナログ専用回線により監視センターに伝送して長時間にわたりディスプレイ上に再生したり、或いは、必要に応じてタイムラプス(間欠)VTRと呼ばれる長時間記録用VTRでアナログ信号のまま記録することが多かった。しかし、近年、IPネットワークのインフラ整備、ハードディスクやDVD等のディジタル記録メディアの大容量化及び低価格化、さらに監視カメラのディジタル化が進んだ結果、監視カメラシステムにおいても撮影した映像のディジタル記録への置き換えが急速に進んでいる。
【0003】
一般的に、監視カメラで撮影した映像をディジタル記録するには、撮影された映像のアナログ信号を監視カメラの内部、叉は監視カメラに接続された機器により、ディジタル信号に変換して符号化し、この符号化したディジタル映像信号をネットワークを介して記録装置に伝送して、ハードディスクやDVD等のディジタル記録メディアに記録する。映像信号の符号化方式としては、各フレームを1枚の静止画として独立に符号化する方式と、連続するフレームの相関を利用することによりフレーム間予測を行って符号化する方式がある。このうち、各フレームを独立に符号化する方式は、ディジタル信号の映像データをタイムラプス記録するシステムで多く用いられ、代表的なものとしてJPEG方式が挙げられる(例えば、特許文献1参照)。
【0004】
しかしながら、各フレームを独立に符号化する方式は、フレーム間予測を行って符号化する方式に比べて映像データの圧縮率が低く、ネットワークを介して伝送するためには、より広帯域の回線を必要とするという問題がある。
【0005】
一方、フレーム間予測を用いて符号化する方式の代表的なものとしては、MPEG−2やMPEG−4等の符号化方式があり、これらの方式によって符号化された映像データは、ディジタル記録メディアに連続してすべて記録されることが多い。フレーム間予測を用いて符号化する方式は圧縮率が高いので、ネットワーク回線を用いて伝送する際に必要な周波数帯域は相対的に狭くてもよいが、符号化された映像データのすべてを記録すると、結果的に、タイムラプス記録したJPEG方式の映像よりも大容量の記録装置が必要になり、システムコストが高くなるという問題がある。このため、監視カメラの映像に不審な人物や物体、異常な現象が含まれているか否か検出し、異常が検出された際の映像のみを記録する方法が用いられてきた。しかしながら、この方法は、例えば、人の出入が少ない休日や夜間に防犯カメラで侵入者を検出する場合等には効果があるものの、河川や道路など、災害や事故など常時監視を必要とする場合には困難を伴う。
【0006】
この問題を解決する方法として、MPEG方式で符号化された映像データからピクチャスタートコードを検出してピクチャヘッダの位置を特定し、ピクチャヘッダからピクチャタイプを取得することにより、フレーム間予測を用いないIフレームのみを記録するという例がある(例えば、特許文献2参照)。
【0007】
しかしながら、上記の特許文献2に記載されたIフレームのみを抽出して記録する方法では、記録される映像データの符号量が、映像データの種類や、映像データをMPEG符号化する機器に依存するという問題がある。また、MPEG符号化する際は、一般に固定ビットレートで符号化する場合が多く、複雑な絵柄で、かつ動きがほとんどない映像の場合は、相対的にIフレームに割り当てられる符号量が大きくなり、記録装置への長時間記録ができなくなるという問題がある。
【0008】
また、特許文献2に記載された方法では、監視カメラで異常な映像が撮影された際に、タイムラプス記録を停止して通常の記録に切り替えるためには、別途、監視対象領域に異常が発生したか否か検出するためのセンサ等の機器が必要となり、異常を検出したことを映像記録装置に通知して記録処理の手順を切り替えなければならず、システム構成が複雑になるという問題がある。
【特許文献1】特開2001−111959号公報
【特許文献2】特開2003−101944号公報
【発明の開示】
【発明が解決しようとする課題】
【0009】
本発明は、上記従来の事情に鑑みてなされたもので、映像データの種類や、映像データを符号化する機器に依存することなく、長時間の記録が可能であるとともに、監視対象領域の異常を検出するためのセンサ等の機器を必要とせず、システム構成を簡単化することのできる映像記録装置、映像記録プログラムを提供することを目的とする。
【課題を解決するための手段】
【0010】
本発明の映像記録装置は、フレーム画像を、フレーム内で符号化する第1の符号化方法と、フレーム間の相関に基づいて符号化する第2の符号化方法と、のいずれかの方法を選択して符号化し、フレーム単位で順に記録する映像記録装置であって、前記符号化したフレーム画像をフレーム単位で順に読み出す読み出し部と、前記第1の符号化方法で符号化したフレーム画像を一時的に記憶する第1の記憶部と、i番目(iは自然数)と(i+1)番目に、前記第1の符号化方法で符号化したフレーム画像の間にあるL枚(L≧1)の前記第2の符号化方法で符号化したフレーム画像を、i組目のフレーム画像群として一時的に記憶する第2の記憶部と、前記第2の記憶部に記憶したフレーム画像群のうち、所定の条件を満たすj組目(jは自然数)と前後各M組(Mは自然数)の前記フレーム画像群を選択する第1の選択部と、前記第1の記憶部に記憶した全てのフレーム画像と、前記第1の選択部によって選択したフレーム画像群を用いて再符号化する第1の再符号化部と、前記第1の再符号化部によって再符号化した前記フレーム画像を記録する記録部と、を備えるものである。
【0011】
この構成により、フレーム内で符号化した画像フレームと、フレーム間の相関に基づいて符号化した画像フレームを分離して、フレーム内で符号化した画像フレームを再符号化することで、タイムラプス記録が可能となり、長時間の映像データを記録することができる。また、フレーム間の相関に基づいて符号化したフレーム画像を一時的に記憶することにより、監視カメラで異常な映像が撮影された際に、通常のフレームレートに切り替えて全てのフレームを連続して記録することができる。
【0012】
また、本発明の一態様として、上記の映像記録装置において、前記第1の再符号化部は、前記第1の記憶部に記憶したフレーム画像を復号化する復号化部と、前記復号化部によって復号化したフレーム画像を前記第2の符号化方法で再符号化する第2の再符号化部と、前記第2の再符号化部によって再符号化したフレーム画像と、前記第1の記憶部に記憶したフレーム画像の一方を選択する第2の選択部と、前記第2の選択部によって選択したフレーム画像と、前記第1の選択部によって選択したフレーム画像群を時間順に並び替える並び替え部と、を備えるものも含まれる。
【0013】
この構成により、フレーム内で符号化した画像フレームと、フレーム間の相関に基づいて符号化した画像フレームを分離して、フレーム内で符号化した画像フレームを再符号化することで、タイムラプス記録が可能となり、長時間の映像データを記録することができる。また、フレーム間の相関に基づいて符号化したフレーム画像を一時的に記憶することにより、監視カメラで異常な映像が撮影された際に、通常のフレームレートに切り替えて全てのフレームを連続して記録することができる。
【0014】
さらに、本発明の一態様として、上記の映像記録装置において、前記所定の条件は、再符号化の際に取得する符号化情報に基づいて算出した特徴量と、再符号化する当該フレーム画像の直前に再符号化したフレーム画像から算出した前記特徴量との差が、所定の範囲以上であるものも含まれる。
【0015】
この構成により、上記の効果に加え、更に、再符号化の際の符号化情報に基づく特徴量を用いることにより、全フレーム記録とタイプラプス記録とを切り替えることができるので、監視対象領域に異常が発生したか否か検出するためのセンサ等の機器が不要となり、記録モードを切り替えることが可能な映像記録システムの構成を簡単化できる。
【0016】
本発明の映像記録プログラムは、フレーム画像を、フレーム内で符号化する第1の符号化方法と、フレーム間の相関に基づいて符号化する第2の符号化方法と、のいずれかの方法を選択して符号化し、フレーム単位で順に記録する機能をコンピュータに実行させる映像記録プログラムであって、前記符号化したフレーム画像をフレーム単位で順に読み出す機能と、前記第1の符号化方法で符号化したフレーム画像を第1の記憶部に一時的に記憶する機能と、i番目(iは自然数)と(i+1)番目に、前記第1の符号化方法で符号化したフレーム画像の間にあるL枚(L≧1)の前記第2の符号化方法で符号化したフレーム画像を、i組目のフレーム画像群として第2の記憶部に一時的に記憶する機能と、前記第2の記憶部に記憶したフレーム画像群のうち、所定の条件を満たすj組目(jは自然数)と前後各M組(Mは自然数)の前記フレーム画像群を選択する機能と、前記第1の記憶部に記憶した全てのフレーム画像と、前記選択したフレーム画像群を用いて再符号化する機能と、前記再符号化した前記フレーム画像を記録する機能と、をコンピュータに実行させるものである。
【0017】
このプログラムにより、フレーム内で符号化した画像フレームと、フレーム間の相関に基づいて符号化した画像フレームを分離して、フレーム内で符号化した画像フレームを再符号化することで、タイムラプス記録が可能となり、長時間の映像データを記録することができる。また、フレーム間の相関に基づいて符号化したフレーム画像を一時的に記憶することにより、監視カメラで異常な映像が撮影された際に、通常のフレームレートに切り替えて全てのフレームを連続して記録することができる。
【0018】
さらに、本発明の一態様として、上記の映像記録プログラムにおいて、前記再符号化する機能は、前記第1の記憶部に記憶したフレーム画像を復号化する機能と、前記復号化したフレーム画像を前記第2の符号化方法で再符号化する機能と、前記第2の符号化方法によって再符号化したフレーム画像と、前記第1の記憶部に記憶したフレーム画像の一方を選択する機能と、前記選択したフレーム画像と、前記選択したフレーム画像群を時間順に並び替える機能と、を含むものである。
【0019】
このプログラムにより、フレーム内で符号化した画像フレームと、フレーム間の相関に基づいて符号化した画像フレームを分離して、フレーム内で符号化した画像フレームを再符号化することで、タイムラプス記録が可能となり、長時間の映像データを記録することができる。また、フレーム間の相関に基づいて符号化したフレーム画像を一時的に記憶することにより、監視カメラで異常な映像が撮影された際に、通常のフレームレートに切り替えて全てのフレームを連続して記録することができる。
【0020】
さらに、本発明の一態様として、上記の映像プログラムにおいて、前記所定の条件は、再符号化の際に取得する符号化情報に基づいて算出した特徴量と、再符号化する当該フレーム画像の直前に再符号化したフレーム画像から算出した前記特徴量との差が、所定の範囲以上であるものも含まれる。
【0021】
このプログラムにより、上記の効果に加え、更に、再符号化の際の符号化情報に基づく特徴量を用いることにより、全フレーム記録とタイプラプス記録とを切り替えることができるので、監視対象領域に異常が発生したか否か検出するためのセンサ等の機器が不要となり、記録モードを切り替えることが可能な映像記録システムの構成を簡単化できる。
【発明の効果】
【0022】
本発明によれば、映像データの種類や、映像データを符号化する機器に依存することなく、長時間の記録が可能であるとともに、監視対象領域の異常を検出するためのセンサ等の機器を必要とせず、システム構成を簡単化することのできる映像記録装置、映像記録プログラムを提供できる。
【発明を実施するための最良の形態】
【0023】
本発明に係る実施形態の映像記録装置では、監視カメラで撮影した映像の符号化方式として、MPEG−4Visual符号化方式を用いる。MPEG−4符号化方式では、様々なアプリケーションを想定し、各アプリケーションを実現するための符号化ツールを組み合わせたプロファイルが定義されている。ここでは、MPEG−4Visualに準拠するデコーダが必ず復号しなければならないことが規定されている最も基本的なプロファイルであるシンプル・プロファイルの符号化処理について説明する。
【0024】
以下、MPEG−4Visual符号化方式の処理概要について説明する。図1は、MPEG−4Visual符号化装置の概略構成を示す図である。なお、MPEG−4Visual符号化方式では、VOP(Video Object Plane)と呼ばれる単位で符号化を行う。最も単純なVOPはフレームに相当し、本実施形態ではこの場合について説明する。
【0025】
図1において、MPEG−4Visual符号化装置1は、入力部10、動き検出・符号化部11、予測部12、変換部13、DCT符号化部14、参照用画像生成部15、参照用画像記憶部16、パラメータ設定部17、出力部18を備えて構成される。
【0026】
入力部10は、符号化する映像データをVOP単位で入力し、各VOPを16×16画素を単位とするマクロブロックに分割する。
【0027】
動き検出・符号化部11は、図2に示すように、動き検出部111、マクロブロックタイプ設定部112、動きベクトル符号化部113から構成されている。図2において、動き検出部111は、入力部10から入力されるマクロブロックデータと、参照用画像記憶部16に記憶されている参照用画像データとを用いて動きベクトルを算出し、マクロブロックタイプ設定部112は、算出した動きベクトルに基づいてマクロブロックタイプを設定する。また、動きベクトル符号化部113は、設定したマクロブロックタイプのノンイントラマクロブロックのみについて可変長符号化を行う。
【0028】
予測部12は、動き検出・符号化部11で算出した動きベクトルと、参照用画像記憶部16に記憶されている参照用画像データを用いて、予測画像を生成する。
【0029】
変換部13は、図3に示すように、予測誤差生成部131、DCT部132、量子化部133から構成されている。図3において、予測誤差生成部131は、ノンイントラマクロブロックの場合のみについて、入力部10から入力されるマクロブロックデータと、予測部12で生成された予測画像から誤差画像マクロブロックデータを生成して出力し、イントラマクロブロックの場合には、入力部10から入力されるマクロブロックデータをそのまま出力する。また、DCT部132は、予測誤差生成部131から出力されるマクロブロックデータについて、8×8画素のブロック毎に2次元離散コサイン変換(DCT)を行い、量子化部133は、DCT部132から出力される2次元DCT係数を量子化する。
【0030】
DCT符号化部14は、図4に示すように、DC/AC予測部141、スキャン部142、可変長符号化部143から構成されている。図4において、DC/AC予測部141は、変換部13から出力される2次元量子化DCT係数と、隣接するマクロブロックの2次元DCT係数を基にして予測される値から2次元量子化DCT係数の誤差成分を算出する。また、スキャン部142は、DC/AC予測部141で算出された2次元量子化DCT係数の誤差成分を符号化する順番に並び替え、可変長符号化部143は、並び替えた2次元量子化DCT係数誤差成分を符号化する。
【0031】
参照用画像生成部15は、図5に示すように、逆量子化部151、逆DCT部152、画像再構成部153から構成されている。図5において、逆量子化部151は、変換部13から出力される2次元量子化DCT係数を逆量子化し、逆DCT部152は、逆量子化された2次元DCT係数について逆DCTを行う。また、画像再構成部153は、逆DCT部152から出力される画素値により画像を再構成する。このとき、ノンイントラマクロブロックの場合には、予測部12で生成された予測画像の画素値を加算して画像を再構成する。
【0032】
参照用画像記憶部16は、参照用画像生成部15で再構成された画像を記憶する。
【0033】
パラメータ設定部17は、動き検出・符号化部11とDCT符号化部14から出力される符号量を基にして、次のマクロブロックを符号化する際に用いる量子化パラメータを設定する。
【0034】
出力部18は、動き検出・符号化部11とDCT符号化部14から出力される符号をMPEG−4Visual符号化データとして出力する。
【0035】
次に、以上のように構成された本実施形態のMPEG−4Visual符号化装置1の動作について説明する。図6は、MPEG−4Visual符号化装置1の動作手順を説明するためのフローチャートである。
【0036】
まず、ステップS10において、入力部10に符号化処理を行う映像データを入力する。
【0037】
ステップS20では、パラメータ設定部17においてMPEG−4符号化パラメータの初期化を行い、続くステップS30では、動き検出・符号化部11において動画データをVOP単位でマクロブロックに分割し、マクロブロック毎に後述する動き検出・符号化処理のサブルーチンを実行する。
【0038】
ここで、上述の説明における動き検出・符号化部11の動き検出・符号化処理サブルーチンについて説明する。図7は、動き検出・符号化サブルーチンの処理手順を説明するためのフローチャートである。
【0039】
始めに、図2に示した動き検出部111において、参照用画像記憶部16に記憶されている参照用画像を用いて動き検出を行い、動きベクトルを算出する(ステップS31)。
【0040】
次いで、マクロブロックタイプ設定部112において、動き検出の結果を用いてマクロブロックタイプを設定し(ステップS32)、ノンイントラマクロブロックであるか否かを判定する(ステップS33)。
【0041】
判定の結果、設定したマクロブロックタイプがノンイントラマクロブロックである場合は、動きベクトル符号化部113で動きベクトルを可変長符号化し(ステップS34)、出力部18に出力してサブルーチンの処理を終了する(ステップS34)。
【0042】
一方、ステップS33の処理手順で、マクロブロックタイプがノンイントラマクロブロックでないと判定された場合は、符号化を行うことなく入力部10から入力されるマクロブロックデータをそのまま出力部18に出力してサブルーチンの処理を終了する。
【0043】
図6に示すフローチャートに戻り、ステップS40では、予測部12において、参照用画像記憶部16に記憶されている参照用画像と動き検出部111によって算出された動きベクトルを用いて予測画像を生成する。
【0044】
続くステップS50では、変換部13において、以下に説明する変換処理のサブルーチンを実行する。図8は、変換部13における変換処理サブルーチンの手順を説明するためのフローチャートである。
【0045】
まず、図3に示した予測誤差生成部131において、入力部10から入力されたマクロブロックデータと予測部12で生成された予測画像データを用いて予測誤差を生成する(ステップS51)。このとき、入力したマクロブロックデータがイントラマクロブロックである場合は、マクロブロックデータをそのまま予測誤差データとする。
【0046】
次いで、DCT部132において、予測誤差データを8×8画素のブロック毎に2次元離散コサイン変換(DCT)し(ステップS52)、量子化部133でパラメータ設定部17から入力された量子化スケールを用いて2次元DCT係数を量子化する(ステップS53)。
【0047】
再び図6に示すフローチャートに戻り、ステップS60において、DCT符号化部14によりDCT符号化処理のサブルーチンを実行する。
【0048】
ここで、DCT符号化部14におけるDCT符号化処理のサブルーチンについて説明する。図9は、DCT符号化処理サブルーチンの手順を説明するためのフローチャートである。
【0049】
まず、図4に示したDC/AC予測部141において、変換部13から出力される2次元量子化DCT係数と隣接するマクロブロックの2次元DCT係数からDC/AC予測を行い、2次元量子化DCT係数の誤差成分を算出する(ステップS61)。
【0050】
次いで、スキャン部142において、2次元量子化DCT係数の誤差成分を符号化する順番に並び替え(ステップS62)、可変長符号化部143において、並び替えられた2次元量子化DCT係数誤差成分を可変長符号化して出力部18に出力する(ステップS63)。
【0051】
図6に示すフローチャートに戻って、ステップS70では、参照用画像生成部15において参照用画像生成処理のサブルーチンを実行する。
【0052】
ここで、上述の参照用画像生成部15における参照用画像生成処理サブルーチンについて説明する。図10は、参照用画像生成処理サブルーチンの手順を説明するためのフローチャートである。
【0053】
まず、図5に示した逆量子化部151において、変換部13から出力される2次元量子化DCT係数を逆量子化し(ステップS71)、逆DCT部152において、逆量子化した2次元DCT係数に逆DCTを施し、参照用画像の予測誤差を生成する(ステップS72)。
【0054】
次いで、画像再構成部153において、予測画像と参照用画像の予測誤差とを加算して参照用画像を生成し(ステップS73)、参照用画像記憶部16に記憶する。このとき、マクロブロックデータがイントラマクロブロックの場合には、参照用画像の予測誤差をそのまま参照用画像として参照用画像記憶部16に記憶する。
【0055】
図6に示すフローチャートに戻り、ステップS80では、パラメータ設定部17において、動き検出・符号化部11とDCT符号化部14から出力した符号量を基にし、次のマクロブロックを符号化する際に用いる量子化パラメータを設定する。
【0056】
以上のようなステップS10からステップS80に至る一連の処理をマクロブロック毎に繰り返して行い、一つのVOPについて処理が終了すると、ステップS90で次のVOPのタイプを設定する。
【0057】
そして、ステップS10からステップS90までの処理をVOP毎に繰り返して行い、全てのVOPについてその処理が終了し、入力した映像データを全て符号化した時点で処理を終了する。
【0058】
次に、以上説明したMPEG−4Visual符号化方式を用いる本発明の実施形態の映像記録装置について説明する。
【0059】
図11は、本発明に係る実施形態の映像記録装置の概略構成を示す図である。同図において、本実施形態の映像記録装置は、読み出し部2、記憶部3、再符号化部4、選択部5及び出力部6を備える構成であり、MPEG−4Visualストリームから一部のVOP(以下、フレームと記述する)を選択し、再符号化した後に記録するものである。以下の説明では、MPEG−4Visualストリームのプロファイルをシンプル・プロファイルの例で説明し、I−VOPをイントラフレーム、P−VOPをノンイントラフレームと記述する。
【0060】
読み出し部2は、映像データを1組のフレームずつ読み出して記憶部3に送る。
【0061】
記憶部3は、符号化タイプ判定部31、イントラフレーム記憶部32、ノンイントラフレーム記憶部33から構成されている。符号化タイプ判定部31は、読み出し部2から読み出されたフレームの符号化タイプを判定し、イントラフレームである場合は、フレームデータをイントラフレーム記憶部32に送り、ノンイントラフレームの場合は、フレームデータをノンイントラフレーム記憶部33に送る。
【0062】
イントラフレーム記憶部32及びノンイントラフレーム記憶部33は、符号化タイプ判定部31から送られたフレームデータを一時的に記憶する。なお、イントラフレーム記憶部32及びノンイントラフレーム記憶部33には、それぞれ所定の組数のフレームを記憶することが可能な領域が確保されており、領域の全てにフレームが記憶されると、新しいフレームを記憶するために古いデータが順次削除されていく。
【0063】
再符号化部4は、図12に示すように、イントラフレーム復号部41、間欠映像再符号化部42、特徴量取得部43、映像再構成部44から構成されている。また、イントラフレーム復号部41は、図13に示すように、可変長復号部411、逆量子化部412、逆DCT部413、画像再構成部414から構成されている。
【0064】
図13において、可変長復号部411は、イントラフレーム記憶部32又はノンイントラフレーム記憶部33から記録しようとするフレームデータを読み出して可変長復号化し、逆量子化部412は、可変長復号化されたデータを逆量子化する。また、逆DCT部413は、逆量子化されたデータを逆DCTし、画像再構成部414は、逆DCTされたデータを画像データの正しい位置に配置して画像を再構成する。
【0065】
図12において、間欠映像再符号化部42は、イントラフレーム復号部41で復号化された画像データを再符号化し、符号化情報を特徴量取得部43に送るとともに、再符号化した画像データを映像再構成部44に送る。
【0066】
特徴量取得部43は、間欠映像再符号化部42から送られた符号化情報から画像特徴量を算出する。
【0067】
映像再構成部44は、間欠映像再符号化部42から送られた映像データ、イントラフレーム記憶部32に記憶されたフレームデータ、及びノンイントラフレーム記憶部33に記憶されたフレームデータのうち、選択されたフレームデータから符号化データを取得して映像データを再構成し、出力部6に送る。
【0068】
選択部5は、再符号化部4から取得した画像特徴量をもとにして、ノンイントラフレーム記憶部33に記憶してあるフレームデータのうち、どのノンイントラフレーム群を記録するかを選択する。
【0069】
出力部6は、再符号化部4で再符号化された映像データを、不図示の記録メディアに記録するために出力する。
【0070】
次に、以上のように構成された本実施形態の映像記録装置の動作について説明する。図14は、本実施形態の映像記録装置の動作手順を説明するためのフローチャートである。
【0071】
まず、ステップS100において、読み出し部2は、記録を行う映像データのMPEG−4Visualストリームから1組のフレームずつ順番にフレームデータを読み出す。
【0072】
次いで、読み出したフレームデータから符号化タイプの情報を取得し(ステップS200)、符号化タイプ判定部31において、イントラフレームであるか否かを判定する(ステップS300)。
【0073】
ステップS300における判定の結果、読み出したフレームがイントラフレームである場合は、そのフレームデータをイントラフレーム記憶部32に記憶し(ステップS400)、ノンイントラフレームである場合は、ノンイントラフレーム記憶部33に記憶する(ステップS500)。
【0074】
このようにして、フレーム毎にステップS100からステップS500までの処理手順を繰り返し、イントラフレーム記憶部32及びノンイントラフレーム記憶部33のそれぞれの記憶領域に符号化に必要な数のフレームが記憶されると、再符号化部4は、イントラフレーム記憶部32又はノンイントラフレーム記憶部33から、記録しようとするフレームを取得して再符号化を行う(ステップS600)。
【0075】
ここで、上述の説明における再符号化部4の再符号化処理サブルーチンについて説明する。図15は、再符号化部4における再符号化処理サブルーチンの手順を説明するためのフローチャートである。
【0076】
まず、ステップS610において、イントラフレーム記憶部32に記憶されたイントラフレームを復号化する。このステップS610の手順は、さらに、図16にフローチャートで示すようなサブルーチンを構成し、可変長復号部411で可変長復号して量子化DCT係数を取得し(ステップS611)、逆量子化部412により逆量子化してDCT係数を取得する(ステップS612)。
【0077】
次いで、逆DCT部413により逆DCTを実施し(ステップS613)、画像再構成部414によって得られた画素データを該当する座標の画素データとして再構成画像を生成する(ステップS614)。
【0078】
図15に示すステップS620では、上記の手順で復号化して得られた画像データを再符号化する。この再符号化は、図1に示した構成のMPEG−4Visual符号化装置を用い、図6に示したフローチャートの手順に従って行われるので、ここではその説明を省略する。但し、出力先は一時記憶用のメモリであり、所定組数の再符号化されたフレームデータが保持されているものとする。
【0079】
ステップS630では、ステップS620の手順でフレームデータを再符号化した際のパラメータを取得して、画像特徴量を算出する。ここで、画像特徴量とは、フレーム間予測を行う際に取得される動きベクトルの空間分布、フレーム間の差分の二乗和、符号量および量子化パラメータ等を用いて算出されるものであり、監視カメラで撮影した映像データに異常なものが写っている際に、直前のフレームとの差異を検出できるものであれば、上記した以外のものでもよい。
【0080】
続くステップS640では、取得した画像特徴量、及び直前のフレームの再符号化時までに取得した画像特徴量を用いて、再符号化したフレームのM組前(Mは、自然数)のノンイントラフレーム群を記録するか否かを判定する。そして、記録すると判定した場合は、イントラフレーム記憶部32から記録しようとするノンイントラフレーム群の直前のイントラフレームデータを取得する(ステップS650)。
【0081】
次いで、ノンイントラフレーム記憶部33から、現在対象としているノンイントラフレームデータ群を取得する(ステップS660)。
【0082】
一方、ステップS640の処理手順でノンイントラフレーム群を記録しないと判定した場合は、再符号化したM組前のフレームデータをイントラフレーム記憶部32から取得する(ステップS670)。
【0083】
このような手順によって取得されたフレームデータは、記録する映像データの末尾に追加され(ステップS680)、再符号化処理サブルーチンを終了する。
【0084】
図14に示すフローチャートに戻り、ステップS700では、選択部5により、再符号化時に取得した画像特徴量を基にして、どのノンイントラフレーム群を記録するかを選択する。
【0085】
ステップS800では、再符号化部4で再符号化された映像データを、出力部6により不図示の記録メディアに記録するために出力し、処理を終了する。
【0086】
以上説明したように、このような本発明の実施形態に係る映像記録装置によれば、MPEG−4符号化データからイントラフレームのみを抽出して再符号化することにより、計算量を小さく抑えたままで、データ量を大きく削減させることができるため、低コストで映像データの長時間記録が可能となる。また、再符号化情報を用いて映像データに異常なものが含まれるか否かを判定することにより、システム構成を複雑にすることなく、タイムラプス記録と、通常記録を容易に切り替えることができる。
【0087】
なお、本発明の実施形態では、MPEG−4Visual符号化ストリームのプロファイルとして、シンプル・プロファイルを例にして説明したが、他のプロファイルでも同様の処理構成で記録することができる。
【0088】
また、本発明は、MPEG−1、MPEG−2、H.264などのMPEG−4以外の符号化技術であっても、フレーム間予測を用いて符号化された映像データであれば、本質的に処理構成は同じであり、同様の処理で記録することができる。
【0089】
また、再符号化処理として、例えば動き検出を行わず、動きベクトルをすべてゼロと仮定して処理を行うことにより、計算量を更に少なくすることができる。
【0090】
本発明の映像記録プログラムは、上述した動作を、映像記録装置を制御する図示せぬプロセッサ等の如きコンピュータに実行させるものであり、映像記録装置内外の所定の記憶装置に保持される。また、ネットワークを介して他のサーバ装置等から取得することも可能である。
【0091】
本発明の各種実施形態を説明したが、本発明は前記実施形態において示された事項に限定されず、明細書の記載、並びに周知の技術に基づいて、当業者がその変更・応用することも本発明の予定するところであり、保護を求める範囲に含まれる。
【産業上の利用可能性】
【0092】
本発明の映像記録装置、映像記録プログラムは、映像データの種類や、映像データを符号化する機器に依存することなく、長時間の記録が可能であるとともに、監視対象領域の異常を検出するためのセンサ等の機器を必要とせず、システム構成を簡単化することができる効果を有し、監視カメラシステム等に有用である。
【図面の簡単な説明】
【0093】
【図1】MPEG−4Visual符号化装置の概略構成を示す図
【図2】MPEG−4Visual符号化装置の動き検出・符号化部の概略構成を示す図
【図3】MPEG−4Visual符号化装置の変換部の概略構成を示す図
【図4】MPEG−4Visual符号化装置のDCT符号化部の概略構成を示す図
【図5】MPEG−4Visual符号化装置の参照用画像生成部の概略構成を示す図
【図6】MPEG−4Visual符号化装置の動作手順を説明するためのフローチャート
【図7】MPEG−4Visual符号化装置における動き検出・符号化部の処理手順を説明するためのフローチャート
【図8】MPEG−4Visual符号化装置における変換部の手順を説明するためのフローチャート
【図9】MPEG−4Visual符号化装置におけるDCT符号化部の処理手順を説明するためのフローチャート
【図10】MPEG−4Visual符号化装置における参照用画像生成部の処理手順を説明するためのフローチャート
【図11】本発明に係る実施形態の映像記録装置の概略構成を示す図
【図12】実施形態に係る映像記録装置の再符号化部の概略構成を示す図
【図13】実施形態に係る映像記録装置のイントラフレーム復号部の概略構成を示す図
【図14】本発明に係る実施形態の映像記録装置の動作手順を説明するためのフローチャート
【図15】実施形態に係る映像記録装置の再符号化部の処理手順を説明するためのフローチャート
【図16】本実施形態に係る映像記録装置におけるイントラフレーム復号化部の処理手順を説明するためのフローチャート
【符号の説明】
【0094】
1 MPEG−4Visual符号化装置
11 入力部
12 動き検出・符号化部
13 予測部
14 変換部
15 DCT符号化部
16 参照用画像生成部
17 参照用画像記憶部
18 パラメータ設定部
19 出力部
2 読み出し部
3 記憶部
31 符号化タイプ判定部
32 イントラフレーム記憶部
33 ノンイントラフレーム記憶部
4 再符号化部
41 イントラフレーム復号部
42 間欠映像再構成部
43 特徴量取得部
44 映像再構成部
5 選択部
6 出力部
【特許請求の範囲】
【請求項1】
フレーム画像を、フレーム内で符号化する第1の符号化方法と、フレーム間の相関に基づいて符号化する第2の符号化方法と、のいずれかの方法を選択して符号化し、フレーム単位で順に記録する映像記録装置であって、
前記符号化したフレーム画像をフレーム単位で順に読み出す読み出し部と、
前記第1の符号化方法で符号化したフレーム画像を一時的に記憶する第1の記憶部と、
i番目(iは自然数)と(i+1)番目に、前記第1の符号化方法で符号化したフレーム画像の間にあるL枚(L≧1)の前記第2の符号化方法で符号化したフレーム画像を、i組目のフレーム画像群として一時的に記憶する第2の記憶部と、
前記第2の記憶部に記憶したフレーム画像群のうち、所定の条件を満たすj組目(jは自然数)と前後各M組(Mは自然数)の前記フレーム画像群を選択する第1の選択部と、
前記第1の記憶部に記憶した全てのフレーム画像と、前記第1の選択部によって選択したフレーム画像群を用いて再符号化する第1の再符号化部と、
前記第1の再符号化部によって再符号化した前記フレーム画像を記録する記録部と、
を備える映像記録装置。
【請求項2】
請求項1記載の映像記録装置であって、
前記第1の再符号化部は、
前記第1の記憶部に記憶したフレーム画像を復号化する復号化部と、
前記復号化部によって復号化したフレーム画像を前記第2の符号化方法で再符号化する第2の再符号化部と、
前記第2の再符号化部によって再符号化したフレーム画像と、前記第1の記憶部に記憶したフレーム画像の一方を選択する第2の選択部と、
前記第2の選択部によって選択したフレーム画像と、前記第1の選択部によって選択したフレーム画像群を時間順に並び替える並び替え部と、
を備える映像記録装置。
【請求項3】
請求項1又は2記載の映像記録装置であって、
前記所定の条件は、再符号化の際に取得する符号化情報に基づいて算出した特徴量と、再符号化する当該フレーム画像の直前に再符号化したフレーム画像から算出した前記特徴量との差が、所定の範囲以上である映像記録装置。
【請求項4】
フレーム画像を、フレーム内で符号化する第1の符号化方法と、フレーム間の相関に基づいて符号化する第2の符号化方法と、のいずれかの方法を選択して符号化し、フレーム単位で順に記録する機能をコンピュータに実行させる映像記録プログラムであって、
前記符号化したフレーム画像をフレーム単位で順に読み出す機能と、
前記第1の符号化方法で符号化したフレーム画像を第1の記憶部に一時的に記憶する機能と、
i番目(iは自然数)と(i+1)番目に、前記第1の符号化方法で符号化したフレーム画像の間にあるL枚(L≧1)の前記第2の符号化方法で符号化したフレーム画像を、i組目のフレーム画像群として第2の記憶部に一時的に記憶する機能と、
前記第2の記憶部に記憶したフレーム画像群のうち、所定の条件を満たすj組目(jは自然数)と前後各M組(Mは自然数)の前記フレーム画像群を選択する機能と、
前記第1の記憶部に記憶した全てのフレーム画像と、前記選択したフレーム画像群を用いて再符号化する機能と、
前記再符号化した前記フレーム画像を記録する機能と、
をコンピュータに実行させる映像記録プログラム。
【請求項5】
請求項4記載の映像記録プログラムであって、
前記再符号化する機能は、
前記第1の記憶部に記憶したフレーム画像を復号化する機能と、
前記復号化したフレーム画像を前記第2の符号化方法で再符号化する機能と、
前記第2の符号化方法によって再符号化したフレーム画像と、前記第1の記憶部に記憶したフレーム画像の一方を選択する機能と、
前記選択したフレーム画像と、前記選択したフレーム画像群を時間順に並び替える機能と、
を含む映像記録プログラム。
【請求項6】
請求項4又は5記載の映像記録プログラムであって、
前記所定の条件は、再符号化の際に取得する符号化情報に基づいて算出した特徴量と、再符号化する当該フレーム画像の直前に再符号化したフレーム画像から算出した前記特徴量との差が、所定の範囲以上である映像記録プログラム。
【請求項1】
フレーム画像を、フレーム内で符号化する第1の符号化方法と、フレーム間の相関に基づいて符号化する第2の符号化方法と、のいずれかの方法を選択して符号化し、フレーム単位で順に記録する映像記録装置であって、
前記符号化したフレーム画像をフレーム単位で順に読み出す読み出し部と、
前記第1の符号化方法で符号化したフレーム画像を一時的に記憶する第1の記憶部と、
i番目(iは自然数)と(i+1)番目に、前記第1の符号化方法で符号化したフレーム画像の間にあるL枚(L≧1)の前記第2の符号化方法で符号化したフレーム画像を、i組目のフレーム画像群として一時的に記憶する第2の記憶部と、
前記第2の記憶部に記憶したフレーム画像群のうち、所定の条件を満たすj組目(jは自然数)と前後各M組(Mは自然数)の前記フレーム画像群を選択する第1の選択部と、
前記第1の記憶部に記憶した全てのフレーム画像と、前記第1の選択部によって選択したフレーム画像群を用いて再符号化する第1の再符号化部と、
前記第1の再符号化部によって再符号化した前記フレーム画像を記録する記録部と、
を備える映像記録装置。
【請求項2】
請求項1記載の映像記録装置であって、
前記第1の再符号化部は、
前記第1の記憶部に記憶したフレーム画像を復号化する復号化部と、
前記復号化部によって復号化したフレーム画像を前記第2の符号化方法で再符号化する第2の再符号化部と、
前記第2の再符号化部によって再符号化したフレーム画像と、前記第1の記憶部に記憶したフレーム画像の一方を選択する第2の選択部と、
前記第2の選択部によって選択したフレーム画像と、前記第1の選択部によって選択したフレーム画像群を時間順に並び替える並び替え部と、
を備える映像記録装置。
【請求項3】
請求項1又は2記載の映像記録装置であって、
前記所定の条件は、再符号化の際に取得する符号化情報に基づいて算出した特徴量と、再符号化する当該フレーム画像の直前に再符号化したフレーム画像から算出した前記特徴量との差が、所定の範囲以上である映像記録装置。
【請求項4】
フレーム画像を、フレーム内で符号化する第1の符号化方法と、フレーム間の相関に基づいて符号化する第2の符号化方法と、のいずれかの方法を選択して符号化し、フレーム単位で順に記録する機能をコンピュータに実行させる映像記録プログラムであって、
前記符号化したフレーム画像をフレーム単位で順に読み出す機能と、
前記第1の符号化方法で符号化したフレーム画像を第1の記憶部に一時的に記憶する機能と、
i番目(iは自然数)と(i+1)番目に、前記第1の符号化方法で符号化したフレーム画像の間にあるL枚(L≧1)の前記第2の符号化方法で符号化したフレーム画像を、i組目のフレーム画像群として第2の記憶部に一時的に記憶する機能と、
前記第2の記憶部に記憶したフレーム画像群のうち、所定の条件を満たすj組目(jは自然数)と前後各M組(Mは自然数)の前記フレーム画像群を選択する機能と、
前記第1の記憶部に記憶した全てのフレーム画像と、前記選択したフレーム画像群を用いて再符号化する機能と、
前記再符号化した前記フレーム画像を記録する機能と、
をコンピュータに実行させる映像記録プログラム。
【請求項5】
請求項4記載の映像記録プログラムであって、
前記再符号化する機能は、
前記第1の記憶部に記憶したフレーム画像を復号化する機能と、
前記復号化したフレーム画像を前記第2の符号化方法で再符号化する機能と、
前記第2の符号化方法によって再符号化したフレーム画像と、前記第1の記憶部に記憶したフレーム画像の一方を選択する機能と、
前記選択したフレーム画像と、前記選択したフレーム画像群を時間順に並び替える機能と、
を含む映像記録プログラム。
【請求項6】
請求項4又は5記載の映像記録プログラムであって、
前記所定の条件は、再符号化の際に取得する符号化情報に基づいて算出した特徴量と、再符号化する当該フレーム画像の直前に再符号化したフレーム画像から算出した前記特徴量との差が、所定の範囲以上である映像記録プログラム。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【公開番号】特開2007−336138(P2007−336138A)
【公開日】平成19年12月27日(2007.12.27)
【国際特許分類】
【出願番号】特願2006−164381(P2006−164381)
【出願日】平成18年6月14日(2006.6.14)
【出願人】(000005821)松下電器産業株式会社 (73,050)
【Fターム(参考)】
【公開日】平成19年12月27日(2007.12.27)
【国際特許分類】
【出願日】平成18年6月14日(2006.6.14)
【出願人】(000005821)松下電器産業株式会社 (73,050)
【Fターム(参考)】
[ Back to top ]