画像処理装置、画像処理方法、およびプログラム
【課題】動画に含まれる複数の動画構成画像から特徴領域を検出するときの、検出精度を高めること。
【解決手段】画像処理装置は、動画に含まれる動画構成画像から、所定閾値を用いて、特徴領域を検出する特徴領域検出部と、特徴領域が検出された動画構成画像である検出画像における特徴領域の位置に基づいて、検出画像の他の動画構成画像である非検出画像において特徴領域が検出されるべき領域である予測領域を特定する特徴領域予測部と、非検出画像の予測領域から、所定閾値よりも低い閾値を用いて、特徴領域検出部に特徴領域を検出させる特徴領域検出制御部とを備える。
【解決手段】画像処理装置は、動画に含まれる動画構成画像から、所定閾値を用いて、特徴領域を検出する特徴領域検出部と、特徴領域が検出された動画構成画像である検出画像における特徴領域の位置に基づいて、検出画像の他の動画構成画像である非検出画像において特徴領域が検出されるべき領域である予測領域を特定する特徴領域予測部と、非検出画像の予測領域から、所定閾値よりも低い閾値を用いて、特徴領域検出部に特徴領域を検出させる特徴領域検出制御部とを備える。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、画像処理装置、画像処理方法、およびプログラムに関する。本発明は、特に、画像を圧縮する画像処理装置および画像処理方法、並びに画像処理装置用のプログラムに関する。
【背景技術】
【０００２】
動画像において検出された顔を含む画像ブロックのうち、目、口などを含む画像ブロックに対して、他の画像ブロックより多くの情報ビット数を割り当てて符号化する画像符号化装置が知られている（例えば、特許文献１参照。）。
【特許文献１】特許第２８２８９７７号公報
【発明の開示】
【発明が解決しようとする課題】
【０００３】
しかしながら、上記特許文献１に記載の技術によると、被写体の撮像状態によっては、顔、目、口などを含む画像ブロックを検出することができないフレームが発生する場合がある。このフレームにおいては、目、口などを含む画像ブロックに対して、他の画像ブロックより多くの情報ビット数を割り当てることができない。
【課題を解決するための手段】
【０００４】
上記課題を解決するために、本発明の第１の形態においては、画像処理装置であって、動画に含まれる動画構成画像から、所定閾値を用いて、特徴領域を検出する特徴領域検出部と、特徴領域が検出された動画構成画像である検出画像における特徴領域の位置に基づいて、検出画像の他の動画構成画像である非検出画像において特徴領域が検出されるべき領域である予測領域を特定する特徴領域予測部と、非検出画像の予測領域から、所定閾値よりも低い閾値を用いて、特徴領域検出部に特徴領域を検出させる特徴領域検出制御部とを備える。
【０００５】
特徴領域検出制御部は、非検出画像の予測領域から、所定閾値よりも低い閾値を用いて、特徴領域を特徴領域検出部に検出させ、非検出画像の予測領域以外の領域から、所定閾値を用いて、特徴領域を特徴領域検出部に検出させてよい。特徴領域予測部は、非検出画像より前にある複数の検出画像のそれぞれにおける特徴領域の位置に基づいて、非検出画像において予測領域を特定してよい。特徴領域予測部は、非検出画像より前にある検出画像、及び非検出画像より後にある検出画像のそれぞれにおける特徴領域の位置に基づいて、非検出画像において予測領域を特定してよい。動画における被写体の動きベクトルを取得する動きベクトル取得部をさらに備え、特徴領域予測部は、検出画像における特徴領域の位置および動きベクトルに基づいて、非検出画像において予測領域を特定してよい。
【０００６】
動きベクトルを含む圧縮された動画を取得する圧縮動画取得部と、圧縮動画取得部によって取得された動画を伸張する圧縮動画伸張部とをさらに備え、特徴領域検出部は、圧縮動画伸張部によって伸張された動画に含まれる動画構成画像から、前記所定閾値を用いて、特徴領域を検出し、動きベクトル取得部は、圧縮動画取得部によって取得された動画に含まれる動きベクトルを取得し、特徴領域予測部は、検出画像における特徴領域の位置および動きベクトルに基づいて、圧縮動画伸張部によって伸張された動画に含まれる非検出画像において予測領域を特定してよい。
【０００７】
圧縮動画取得部は、動きベクトルを含むＭＰＥＧ動画を取得し、圧縮動画伸張部は、圧縮動画取得部によって取得されたＭＰＥＧ動画を伸張し、特徴領域検出部は、圧縮動画伸張部によって伸張されたＭＰＥＧ動画に含まれる動画構成画像から、前記所定閾値を用いて、特徴領域を検出し、動きベクトル取得部は、圧縮動画取得部によって取得されたＭＰＥＧ動画に含まれる動きベクトルを取得してよい。検出画像および非検出画像のそれぞれを、特徴領域と、特徴領域以外の背景領域とに分割する画像分割部と、特徴領域の画像と背景領域の画像とを、それぞれ異なる強度で符号化する符号化部とをさらに備えてよい。検出画像および非検出画像において特定された特徴領域を包含する包含領域を特定する包含領域特定部と、検出画像および非検出画像のそれぞれにおける包含領域以外の領域の画素値を固定値化する固定値化部とをさらに備え、符号化部は、包含領域の画像と、包含領域以外の領域の画像とを、それぞれ異なる強度で圧縮してよい。
【０００８】
本発明の第２の形態によると、画像処理方法であって、動画に含まれる動画構成画像から、所定閾値を用いて、特徴領域を検出する特徴領域検出段階と、特徴領域が検出された動画構成画像である検出画像における特徴領域の位置に基づいて、検出画像の他の動画構成画像である非検出画像において特徴領域が検出されるべき領域である予測領域を特定する特徴領域予測段階と、非検出画像の予測領域から、所定閾値よりも低い閾値を用いて、特徴領域検出段階に特徴領域を検出させる特徴領域検出制御段階とを備える。
【０００９】
本発明の第３の形態によると、画像を符号化する画像処理装置用のプログラムであって、画像処理装置を、動画に含まれる動画構成画像から、所定閾値を用いて、特徴領域を検出する特徴領域検出部、特徴領域が検出された動画構成画像である検出画像における特徴領域の位置に基づいて、検出画像の他の動画構成画像である非検出画像において特徴領域が検出されるべき領域である予測領域を特定する特徴領域予測部、非検出画像の予測領域から、所定閾値よりも低い閾値を用いて、特徴領域検出部に特徴領域を検出させる特徴領域検出制御部として機能させる。
【００１０】
なお、上記の発明の概要は、本発明の必要な特徴の全てを列挙したものではない。また、これらの特徴群のサブコンビネーションもまた、発明となりうる。
【発明を実施するための最良の形態】
【００１１】
以下、発明の実施の形態を通じて本発明を説明するが、以下の実施形態は特許請求の範囲にかかる発明を限定するものではない。また、実施形態の中で説明されている特徴の組み合わせの全てが発明の解決手段に必須であるとは限らない。
【００１２】
図１は、一実施形態に係る画像処理システム１０の一例を示す。画像処理システム１０は、特徴的な被写体の画質を高画質に保ちつつ画像のデータ量を低減することを目的とする。
【００１３】
画像処理システム１０は、監視対象空間１５０を撮像する複数の撮像装置１００ａ−ｃ（以下、撮像装置１００と総称する。）、画像を処理する複数の画像処理装置１２０ａ−ｃ（以下、画像処理装置１２０と総称する。）、画像処理装置１７０、通信ネットワーク１１０、および複数の表示装置１８０ａ−ｃ（以下、表示装置１８０と総称する。）を備える。
【００１４】
画像処理装置１２０ａは、撮像装置１００ａに接続されている。また、画像処理装置１２０ｂは、撮像装置１００ｂに接続されている。また、画像処理装置１２０ｃは、撮像装置１００ｃに接続されている。なお、画像処理装置１７０および表示装置１８０は、監視対象空間１５０と異なる空間１６０に設けられている。
【００１５】
以下に、撮像装置１００ａ、画像処理装置１２０ａ、画像処理装置１７０、および表示装置１８０ａの動作を説明する。撮像装置１００ａは、監視対象空間１５０を撮像して得られた撮像動画をＭＰＥＧ符号化して撮像動画データを生成して、撮像装置１００ａが接続されている画像処理装置１２０ａに出力する。
【００１６】
画像処理装置１２０ａは、撮像装置１００ａが生成した撮像動画データを取得する。画像処理装置１２０は、撮像装置１００から取得した撮像動画データを復号して撮像動画を生成して、生成した撮像動画から人物１３０、車輌等の移動物体１４０等、特徴の種類が異なる複数の特徴領域を検出する。そして、画像処理装置１２０ａは、撮像動画から、特徴の種類のそれぞれについて特徴領域が他の領域より高画質な動画を生成することによって、複数の特徴領域動画を生成する。また、画像処理装置１２０ａは、特徴領域以外の背景領域の動画であって、特徴領域動画より低画質な背景領域動画を生成する。
【００１７】
そして、画像処理装置１２０ａは、生成した複数の特徴領域動画および背景領域動画をそれぞれ符号化することによって複数の特徴領域動画データおよび背景領域動画データを生成する。同時に、画像処理装置１２０ａは、符号化して得られた複数の特徴領域動画データおよび背景領域動画データを互いに関連づけて、通信ネットワーク１１０を通じて画像処理装置１７０に送信する。
【００１８】
画像処理装置１７０は、画像処理装置１２０ａから受信した関連付けされた複数の特徴領域動画データおよび背景領域動画データをそれぞれ復号することによって、複数の特徴領域動画および背景領域動画を取得する。そして、画像処理装置１７０は、複数の特徴領域動画および背景領域動画を合成することによって一の合成動画を生成して、生成した合成動画を表示装置１８０ａに供給する。表示装置１８０ａは、画像処理装置１７０から供給された動画を表示する。
【００１９】
なお、撮像装置１００ｂおよび撮像装置１００ｃの機能および動作は、それぞれ画像処理装置１２０ｂおよび画像処理装置１２０ｃに撮像動画データを提供することを除いて、撮像装置１００ａの機能および動作と同様であるので、その説明を省略する。また、画像処理装置１２０ｂおよび画像処理装置１２０ｃの機能および動作は、それぞれ撮像装置１００ｂおよび撮像装置１００ｃから撮像動画データを取得することを除いて、画像処理装置１２０ａの機能および動作と同様であってよい。よって、その説明を省略する。また、画像処理装置１７０は、撮像装置１００ｂおよび撮像装置１００ｃのそれぞれから受信した関連付けされた複数の特徴領域動画データおよび背景領域動画データをから、一の動画をそれぞれ生成して、それぞれ表示装置１８０ｂおよび表示装置１８０ｃに供給する。また、表示装置１８０ｂおよび表示装置１８０ｃは、画像処理装置１７０から供給されたそれぞれの動画を表示する。
【００２０】
本実施形態の画像処理システム１０を、例えば監視システムとして実際に適用した場合には、人物、移動物体等、監視対象として特徴的な被写体を高画質で残しことができる場合がある。そのうえ、動画のデータ量を低下することができる場合がある。
【００２１】
図２は、画像処理装置１２０のブロック構成の一例を示す。画像処理装置１２０は、圧縮動画取得部２０１、圧縮動画伸張部２０２、特徴領域検出部２０３、画像分割部２０４、および画像生成部２０５を有する。また、画像処理装置１２０は、動きベクトル取得部２５１、特徴領域予測部２７１、特徴領域検出制御部２７２、包含領域特定ユニット２６０、固定値化ユニット２１０、低減化ユニット２２０、符号化ユニット２３０、対応付け処理部２０６、および出力部２０７を有する。
【００２２】
包含領域特定ユニット２６０は、複数の包含領域特定部２６１ａ−２６１ｃ（以下、包含領域特定部２６１と総称する。）を含む。固定値化ユニット２１０は、複数の固定値化部２１１ａ−２１１ｃ（以下、固定値化部２１１と総称する。）を含む。低減化ユニット２２０は、複数の画質低減部２２１ａ−ｄ（以下、画質低減部２２１と総称する。）を含む。
【００２３】
符号化ユニット２３０は、背景領域動画符号化部２３１ａおよび複数の特徴領域動画符号化部２３１ｂ−ｄ（以下、特徴領域動画符号化部２３１と総称する。）を含む。なお、背景領域動画符号化部２３１ａおよび特徴領域動画符号化部２３１ｂ−ｄを総称して、符号化部２３１と呼ぶ場合がある。
【００２４】
なお、画質低減部２２１ａおよび背景領域動画符号化部２３１ａは、圧縮部２４０ａとして機能する。また、画質低減部２２１ｂおよび背景領域動画符号化部２３１ｂは、圧縮部２４０ｂとして機能する。同様に、画質低減部２２１ｃおよび背景領域動画符号化部２３１ｃは圧縮部２４０ｃとして機能する。画質低減部２２１ｄおよび背景領域動画符号化部２３１ｄは圧縮部２４０ｄとして機能する。なお、複数の圧縮部２４０ａ−ｄを、圧縮部２４０と総称する。
【００２５】
圧縮動画取得部２０１は、圧縮された動画を取得する。具体的には、圧縮動画取得部２０１は、撮像装置１００が生成した、符号化された撮像動画データを取得する。例えば、圧縮動画取得部２０１は、動きベクトルを含むＭＰＥＧ動画を取得する。圧縮動画伸張部２０２は、圧縮動画取得部２０１が取得した動画を復元して、動画に含まれる複数の動画構成画像を生成する。
【００２６】
具体的には、圧縮動画伸張部２０２は、圧縮動画取得部２０１が取得した撮像動画データを復号して、動画に含まれる複数の動画構成画像を生成する。例えば、圧縮動画伸張部２０２は、圧縮動画取得部２０１によって取得されたＭＰＥＧ動画を伸張する。なお、動画構成画像はフレーム画像およびフィールド画像を含む。また、圧縮された動画は、当該動画における被写体の動きベクトルを含む。
【００２７】
特徴領域検出部２０３は、動画に含まれる複数の動画構成画像から、特徴領域を検出する。具体的には、特徴領域検出部２０３は、画像である動画に含まれる複数の動画構成画像から、特徴の種類が異なる複数の特徴領域を検出する。また、特徴領域検出部２０３は、所定閾値を用いて、圧縮動画伸張部２０２によって伸張された動画に含まれる動画構成画像から、特徴領域を検出する。例えば、特徴領域検出部２０３は、圧縮動画伸張部２０２によって伸張されたＭＰＥＧ動画に含まれる動画構成画像から、所定閾値を用いて、特徴領域を検出する。
【００２８】
ここで、特徴領域検出部２０３は、閾値を特徴領域を検出するときの基準値として用いる。特徴領域検出部２０３は、閾値が低くなることにより、動画構成画像から特徴領域を検出しやすくなる。例えば、閾値に、予め定められた被写体に関する形状または色のパターンに対する一致度を用いてよい。
【００２９】
この場合、予め定められた被写体を、人物、顔、自動車、ナンバープレートとしているが、これらに限らない。また、閾値を変更する変わりに、動画構成画像の輝度を変更してよい。特徴領域検出部２０３は、動画構成画像の輝度が高くなることにより、動画構成画像から、特徴領域を検出しやすくなる。
【００３０】
動きベクトル取得部２５１は、動画における被写体の動きベクトルを取得する。具体的には、動きベクトル取得部２５１は、圧縮動画取得部２０１によって取得された動画（撮像動画データ）に含まれる動きベクトルを取得する。より具体的には、動きベクトル取得部２５１は、圧縮動画取得部２０１によって取得されたＭＰＥＧ動画に含まれる動きベクトルを取得する。なお、動きベクトル取得部２５１が、圧縮動画取得部２０１によって取得された動画から動きベクトルを取得できない場合、動きベクトル取得部２５１は、圧縮動画伸張部２０２によって伸張された動画に含まれる複数の動画構成画像に基づいて、当該動画の動きベクトルを算出してもよい。
【００３１】
特徴領域予測部２７１は、特徴領域が検出された動画構成画像である検出画像における特徴領域の位置に基づいて、検出画像の他の動画構成画像である非検出画像において特徴領域が検出されるべき領域である予測領域を特定する。具体的には、特徴領域予測部２７１は、検出画像における特徴領域の位置、および動きベクトル取得部２５１によって取得された動きベクトルに基づいて、非検出画像において予測領域を特定する。
【００３２】
より具体的には、特徴領域予測部２７１は、非検出画像より時間軸方向の前にある一つまたは複数の検出画像における特徴領域の位置、および動きベクトル取得部２５１によって取得された動きベクトルに基づいて、非検出画像において予測領域を特定する。また、特徴領域予測部２７１は、圧縮動画伸張部２０２によって伸張された動画に含まれる検出画像における特徴領域の位置、および動きベクトル取得部２５１によって取得された動きベクトルに基づいて、圧縮動画伸張部によって伸張された動画に含まれる非検出画像において予測領域を特定する。
【００３３】
なお、特徴領域予測部２７１は、非検出画像より時間軸方向の後ろにある一つまたは複数の検出画像の特徴領域の位置、および動きベクトル取得部２５１によって取得された動きベクトルに基づいて、非検出画像において予測領域を特定してもよい。また、特徴領域予測部２７１は、非検出画像より時間軸方向の前後にある検出画像の特徴領域の位置、および動きベクトル取得部２５１によって取得された動きベクトルに基づいて、非検出画像において予測領域を特定してもよい。
【００３４】
また、特徴領域予測部２７１は、非検出画像より時間軸方向の前にある一つまたは複数の検出画像の特徴領域の位置に基づいて、線形補間により、非検出画像において予測領域を特定してもよい。また、特徴領域予測部２７１は、非検出画像より時間軸方向の後ろにある一つまたは複数の検出画像における特徴領域の位置に基づいて、線形補間により、非検出画像において予測領域を特定してもよい。また、特徴領域予測部２７１は、非検出画像より時間軸方向の前後にある検出画像の特徴領域の位置に基づいて、線形補間により、非検出画像において予測領域を特定してもよい。
【００３５】
特徴領域検出制御部２７２は、非検出画像の予測領域から、所定閾値よりも低い閾値を用いて、特徴領域検出部に特徴領域を検出させる。これにより、特徴領域検出部２０３は、非検出画像の予測領域から、特徴領域を検出しやすくなる。また、特徴領域検出制御部２７２は、非検出画像の予測領域から、所定閾値よりも低い閾値を用いて、特徴領域を特徴領域検出部に検出させるとともに、非検出画像の予測領域以外の領域から、所定閾値を用いて、特徴領域を特徴領域検出部に検出させる。なお、特徴領域検出制御部２７２は、非検出画像の予測領域から、所定閾値よりも低い閾値を用いて、特徴領域を特徴領域検出部に検出させるとともに、非検出画像の予測領域以外の領域からは、特徴領域を特徴領域検出部に検出させないようにしてもよい。
【００３６】
画像分割部２０４は、複数の動画構成画像のそれぞれを、特徴領域と背景領域とに分割する。具体的には、画像分割部２０４は、複数の動画構成画像のそれぞれを、複数の特徴領域のそれぞれと、複数の特徴領域以外の背景領域とに分割する。
【００３７】
画像生成部２０５は、特徴領域動画を圧縮するための特徴領域圧縮用動画および背景領域動画を圧縮するための背景領域圧縮用動画を生成する。具体的には、画像生成部２０５は、動画に含まれる複数の動画構成画像から、特徴領域画像を抽出した後に、抽出された特徴領域画像を複製することにより、特徴領域圧縮用動画を生成する。より具体的には、画像生成部２０５は、動画に含まれる複数の動画構成画像から、複数種類の特徴領域画像を抽出することにより、複数の特徴領域圧縮用動画を生成する。また、画像生成部２０５は、動画に含まれる複数の動画構成画像から、背景領域画像を抽出した後に、抽出された背景領域画像を複製することにより、背景領域圧縮用動画を生成する。
【００３８】
包含領域特定部２６１は、複数の特徴領域圧縮用動画のそれぞれにおいて、複数の特徴領域を包含する包含領域を特定する。具体的には、包含領域特定部２６１は、複数の特徴領域圧縮用動画のそれぞれにおいて、複数の前記特徴領域を包含する、マクロブロックの集合領域を、包含領域として特定する。
【００３９】
そして、固定値化部２１１は、複数の特徴領域圧縮用動画のそれぞれにおける、複数の動画構成画像のそれぞれにおいて、包含領域特定部２６１によって特定された包含領域以外の領域の画素値を固定値化する。例えば、固定値化部２１１は、包含領域以外の領域の画素値を所定の値（例えば、輝度値０）に設定する。
【００４０】
そして、圧縮部２４０は、包含領域以外の領域の画素値が固定値化された動画構成画像を複数含む、複数の特徴領域圧縮用画像のそれぞれを、それぞれの特徴量に応じた強度で圧縮する。また、圧縮部２４０は、複数の特徴領域圧縮用画像のそれぞれに対して、包含領域の画像と、包含領域画像以外の領域の画像とを、それぞれ異なる強度で符号化する。
【００４１】
このように、圧縮部２４０は、複数の特徴領域圧縮用動画のそれぞれと、背景領域圧縮用動画とを、それぞれの特徴量に応じた強度で圧縮する。なお、特徴量とは、被写体の種類、被写体の大きさ、移動物体が移動する移動速さ、および特徴領域の大きさを含む。
【００４２】
以上説明したように、特徴領域検出部２０３は、画像から特徴領域を検出する。そして、画像分割部２０４は、画像を、特徴領域と、特徴領域以外の背景領域とに分割する。そして、圧縮部２４０は、特徴領域の画像である特徴領域画像と背景領域の画像である背景領域画像とを、それぞれ異なる強度で圧縮する。そして、圧縮部２４０は、特徴領域画像を複数含む特徴領域動画と背景領域画像を複数含む背景領域動画とを、それぞれ異なる強度で圧縮する。
【００４３】
なお、圧縮部２４０ｂ、圧縮部２４０ｃ、および圧縮部２４０ｄには、いずれの種類の特徴領域動画を圧縮すべきかが予め定められており、圧縮部２４０ｂ、圧縮部２４０ｃ、および圧縮部２４０ｄは予め定められた特徴の種類の特徴領域動画を圧縮する。なお、特徴領域動画を圧縮する場合の圧縮強度は、複数の特徴の種類ごとに予め定められており、圧縮部２４０ｂ、圧縮部２４０ｃ、および圧縮部２４０ｄは、予め定められた特徴の種類の特徴領域動画を、当該特徴の種類に予め定められた圧縮強度で圧縮する。このように、圧縮部２４０は、画像分割部２０４によって分割された画像領域ごとに設けられた圧縮器を用いて、複数の領域を並行して圧縮する。
【００４４】
なお、圧縮部２４０は、一つの圧縮器によって実装されてよく、複数の特徴領域動画および背景領域動画を時間的に順次圧縮してもよい。他にも、圧縮部２４０は、圧縮動画伸張部２０２によって復号された撮像動画を、画像分割部２０４が分割した領域ごとに、各領域の特徴の種類および背景のそれぞれに対して予め定められた圧縮率で圧縮することによって、一の動画データを生成してよい。
【００４５】
圧縮部２４０における画質低減部２２１は、複数の特徴領域動画と背景領域動画とを、それぞれの特徴量に応じて画質を低減することにより圧縮する。より具体的には、画質低減部２２１は、複数の特徴領域動画と背景領域動画とを、それぞれの特徴量に応じて解像度またはフレームレートを低減することにより圧縮する。
【００４６】
圧縮部２４０における符号化部２３１は、複数の特徴領域動画と背景領域動画とを、それぞれの特徴量に応じた設定値を用いて符号化することにより圧縮する。例えば、符号化部２３１は、複数の特徴領域動画と背景領域動画とを、それぞれの特徴量に応じた割り当て符号量を用いて符号化することにより圧縮する。
【００４７】
対応付け処理部２０６は、複数の圧縮部２４０が複数の特徴領域動画および背景領域動画を圧縮することによって生成した複数の特徴領域動画データおよび背景領域動画データを、例えばタグ情報等を付帯する等して互いに対応づける。出力部２０７は、対応付け処理部２０６が対応づけた複数の特徴領域動画データおよび背景領域動画データを通信ネットワーク１１０に送出する。
【００４８】
図３は、画像処理装置１７０のブロック構成の一例を示す。画像処理装置１７０は、圧縮動画取得部３０１、対応付け解析部３０２、圧縮動画伸張ユニット３１０、合成部３０３、および出力部３０４を有する。圧縮動画伸張ユニット３１０は、複数の圧縮動画伸張部３１１ａ−ｄ（以下、圧縮動画伸張部３１１と総称する。）を含む。
【００４９】
圧縮動画取得部３０１は、出力部２０７が出力した、対応づけられた複数の特徴領域動画データおよび背景領域動画データを取得する。対応付け解析部３０２は、例えば付帯されたタグ情報を解析して、圧縮動画取得部３０１が取得した対応づけられた複数の特徴領域動画データおよび背景領域動画データを取り出す。
【００５０】
圧縮動画伸張部３１１は、複数の特徴領域動画データおよび背景領域動画データを復号する。具体的には、圧縮動画伸張部３１１ａは背景領域動画データを復号する。また、圧縮動画伸張部３１１ｂ−ｄは、複数の特徴領域動画データのうち、一の特徴領域動画を復号して、複数の特徴領域動画および背景領域動画を取得する。なお、圧縮動画伸張部３１１ｂ−ｄは、特徴の種類ごとに設けられ、それぞれ、いずれかの種類の特徴領域動画データを復号する。
【００５１】
合成部３０３は、圧縮動画伸張部３１１が復号することによって得られた動画構成画像を合成する。具体的には、合成部３０３は、圧縮動画伸張部３１１ｂ−ｄにより復号された複数の特徴領域動画のそれぞれが含む動画構成画像の特徴領域の画像を、背景領域動画が含む動画構成画像に重ね合わせた動画構成画像を生成する。出力部３０４は、合成部３０３が生成した複数の動画構成画像を含む動画を、表示装置１８０に供給する。
【００５２】
なお、本実施形態の圧縮動画伸張ユニット３１０は、特徴の種類の数に応じた複数の圧縮動画伸張部３１１を含むが、他の形態では、圧縮動画伸張ユニット３１０が含む一の圧縮動画伸張部３１１が、背景領域動画データおよび複数の特徴領域動画データを順次復号してもよい。また、画像処理装置１２０から一の動画データとして提供される場合には、一の圧縮動画伸張部３１１が当該一の動画データを復号して、復号した得られた動画を出力部３０４が出力してもよい。
【００５３】
図４は、画像処理装置１２０の処理フローの一例を示す。圧縮動画取得部２０１が撮像動画データを取得（４０１）。圧縮動画伸張部２０２は、撮像動画データを復号することによって複数のフレーム画像４１０を生成する。特徴領域検出部２０３は、フレーム画像４１０の画像内容又は複数のフレーム画像４１０の画像内容に基づいて、特徴領域の一例であるＲＯＩ（Ｒｅｇｉｏｎ ｏｆ ｉｎｔｅｒｅｓｔ）を検出する（４０２）。
【００５４】
特徴領域検出部２０３は、人物の顔、人体、および移動物体を含む領域を、異なる種類のＲＯＩとして検出する。例えば、特徴領域検出部２０３は、予め定められた人物の顔に関するパターンに対する一致度が、予め定められた一致度より大きいオブジェクトを含む領域をパターンマッチング等により検出して、検出した顔領域をＲＯＩとする。また、特徴領域検出部２０３は、人物の体に関するパターンに対する一致度が予め定められた一致度より大きいオブジェクトを含む人体領域をパターンマッチング等により検出して、検出した領域をＲＯＩとする。なお、特徴領域検出部２０３は、顔領域の近傍に存在する領域から人体領域を検出してもよい。
【００５５】
また、特徴領域検出部２０３は、複数のフレーム画像の画像内容に基づいて、移動物体を含む領域である動領域を特定する。例えば、他のフレーム画像との間で画素値の変化量が予め定められた変化量より大きい領域を、動領域として特定する。他にも、特徴領域検出部２０３は、エッジ抽出等により複数のフレーム画像のそれぞれに含まれるオブジェクトを抽出する。そして、特徴領域検出部２０３は、他のフレーム画像の異なる位置に含まれるオブジェクトであって、予め定められた一致度より大きい一致度で一致するオブジェクトを特定して、特定したオブジェクトを含む領域を動領域として特定してもよい。
【００５６】
このように、特徴領域検出部２０３は、予め定められた画像内容に関する条件に適合する領域を、ＲＯＩとして検出する。より具体的には、特徴領域検出部２０３は、予め定められた条件に適合するオブジェクトを含む領域を、ＲＯＩとして検出する。例えば、特徴領域検出部２０３は、予め定められた形状との間の一致度が予め定められた一致度より大きいオブジェクトを含む領域を、ＲＯＩとして検出する。また、特徴領域検出部２０３は、画像の変化量が予め定められた変化量より大きい領域を、ＲＯＩとして検出する。例えば、他のフレーム画像との間で画素値の変化量が予め定められた変化量より大きい領域をＲＯＩとして検出する。
【００５７】
そして、画像処理装置１２０は、検出されたＲＯＩに基づいて圧縮用動画を生成する（４０３）。具体的には、画像分割部２０４は、フレーム画像をＲＯＩとそれ以外の領域に分割する。そして、画像生成部２０５は、複数のフレーム画像４１０を複製することによって、特徴領域動画４３０、特徴領域動画４４０、および特徴領域動画４５０と、背景領域動画４２０とを生成する。具体的には、画像生成部２０５は、複数のフレーム画像４１０を複製することによって、顔領域用の特徴領域動画４５０、人領域用の特徴領域動画４４０、動領域用の特徴領域動画４３０、および背景領域用の背景領域動画４２０を生成する。
【００５８】
そして、画像処理装置１２０は、固定値化部２１１および画質低減部２２１により、特徴領域動画４３０、特徴領域動画４４０、および特徴領域動画４５０と、背景領域動画４２０とに対して、画質を低減する（４０４ａ、４０４ｂ、４０４ｃ、４０４ｄ）。具体的には、固定値化部２１１は、特徴領域動画４３０、特徴領域動画４４０、および特徴領域動画４５０のそれぞれが含むフレーム画像において、画像分割部２０４が分割したＲＯＩ内の画素値は変化させず、ＲＯＩ以外の領域に対する画素値を所定の値（例えば、輝度値０）にする。なお、固定値化部２１１は、ＲＯＩ以外の領域の画素値を、当該ＲＯＩに近傍する領域の画素値の平均的な画素値にしてよい。
【００５９】
このように、画像生成部２０５および固定値化部２１１により、同じ視野角の複数のフレーム画像をそれぞれ含む特徴領域動画４３０、特徴領域動画４４０、および特徴領域動画４５０および背景領域動画４２０が生成される。なお、後に詳しく説明するように、画像処理装置１７０は、特徴領域動画４３０、特徴領域動画４４０、および特徴領域動画４５０のようなＲＯＩ以外の領域が固定値化されている動画を、背景領域動画４２０に重ね合わせた動画を生成する。したがって、背景領域動画４２０、特徴領域動画４３０、特徴領域動画４４０、および特徴領域動画４５０は、それぞれ背景レイヤー、動領域レイヤー、人領域レイヤー、および顔領域レイヤーとみなすことができる。
【００６０】
また、画質低減部２２１は、特徴領域動画４３０、特徴領域動画４４０、および特徴領域動画４５０のそれぞれが含むフレーム画像におけるＲＯＩ内の画像の画質を、特徴の種類に応じて低減する。具体的には、顔領域、人領域、および動領域のそれぞれの画質を定めるパラメータとして、解像度、階調数、および色数の少なくとも１つが予め定められている。例えば、顔領域、人領域、動領域の順に高い解像度が予め定められている。
【００６１】
そして、画質低減部２２１は、特徴領域動画４３０、特徴領域動画４４０、および特徴領域動画４５０のそれぞれが含むフレーム画像におけるＲＯＩ内の画像の画質を、特徴の種類に対して予め定められた解像度、階調数、および色数の画像に変換する。また、画質低減部２２１は、背景領域動画のフレーム画像の画質を、ＲＯＩ内の画像の画質より低くする。例えば、画質低減部２２１は、背景領域動画のフレーム画像の解像度を、ＲＯＩ内の画像のより小さくする。
【００６２】
また、画質低減部２２１は、背景領域動画４２０、特徴領域動画４３０、特徴領域動画４４０、および特徴領域動画４５０のフレームレートを低減する。例えば、特徴の種類ごとに、例えば顔領域、人領域、および動領域ごとに、予めフレームレートが定められている。そして、画質低減部２２１は、特徴領域動画４３０、特徴領域動画４４０、および特徴領域動画４５０に含まれるフレーム画像を、特徴の種類に応じて予め定められたフレームレートに従って所定の間隔で間引くことによって、特徴領域動画４３０、特徴領域動画４４０、および特徴領域動画４５０のフレームレートを低減する。また、画質低減部２２１は、背景領域動画４２０に含まれるフレーム画像を、背景領域動画のフレームレートとして予め定められたフレームレートに従って間引くことによって、背景領域動画４２０のフレームレートを低減する。
【００６３】
なお、画質低減部２２１ａは、背景領域動画４２０の画質を低減する。また、画質低減部２２１ｂ、画質低減部２２１ｃ、および画質低減部２２１ｄは、それぞれ特徴領域動画４３０、特徴領域動画４４０、および特徴領域動画４５０の画質を低減する。
【００６４】
そして、背景領域動画符号化部２３１ａ、および領域動画符号化部２３１ｂ−ｄは、画質低減部２２１により画質が低減された動画をそれぞれ符号化する（４０５ａ、４０５ｂ、４０５ｃ、４０５ｄ）。例えば、背景領域動画符号化部２３１ａ、および領域動画符号化部２３１ｂ−ｄは、画質低減部２２１により画質が低減された動画をそれぞれＭＰＥＧ符号化する。
【００６５】
例えば、背景領域動画符号化部２３１ａは、背景領域動画用の符号化設定で背景領域動画をＭＰＥＧ符号化する。特徴領域動画符号化部２３１ｂ、特徴領域動画符号化部２３１ｃ、および特徴領域動画符号化部２３１ｄは、それぞれ動領域、人領域、および顔領域のそれぞれの特徴領域動画用の符号化設定で、特徴領域動画をそれぞれＭＰＥＧ符号化する。なお、符号化設定は、例えばＭＰＥＧ符号化における量子化テーブルを設定することを含む。なお、符号化設定については図５に関連して説明する。
【００６６】
そして、対応付け処理部２０６は、背景領域動画符号化部２３１ａおよび特徴領域動画符号化部２３１ｂ−ｄが符号化することによって得られた背景領域動画データおよび複数の特徴領域動画データにタグ情報を付帯する等して関連付けして、出力部２０７が表示装置１８０に出力する（４０６）。このとき、対応付け処理部２０６は、背景領域動画および複数の特徴領域動画のそれぞれが含むフレーム画像の表示タイミングを示す情報を含むタイミング情報（例えば、タイムスタンプ）を、タグ情報等に付加してよい。また、対応付け処理部２０６は、複数の特徴領域の範囲をそれぞれ示す情報を含む特徴領域情報、背景領域動画および複数の特徴領域動画の元となった撮像動画データを撮像した撮像装置１００を識別する識別情報等を、タグ情報等に付加してよい。
【００６７】
以上説明したように、特徴領域検出部２０３は、画像である動画に含まれる複数の動画構成画像から、被写体の種類が異なる複数の特徴領域を検出する。そして、圧縮部２４０は、複数の特徴領域動画を、それぞれの被写体の種類に応じた強度で圧縮する。なお、本実施形態では、被写体の種類の一例として人物の顔および人体領域について説明したが、他の例では、自動車のナンバープレートおよびナンバープレート以外の車体を被写体の種類としてよい。
【００６８】
また、人物の正面の顔および横顔を被写体の種類としてもよい。また、静止している被写体および動いている被写体を被写体の種類としてもよい。また、特徴領域検出部２０３は、撮像装置１００から被写体までの距離が異なる複数の被写体を含む領域を、特徴の種類が異なる複数の特徴領域として検出してもよい。
【００６９】
なお、圧縮部２４０は、特徴の種類の一例である、動き領域、人体、人物の横顔、人物の正面の顔がに大きい圧縮強度で圧縮してよい。なお、本実施形態では、画像処理システム１０を監視システムとして利用する利用目的を鑑みて、人物の顔を含む領域をＲＯＩとして検出して、検出したＲＯＩをＲＯＩ以外の領域より高画質にするとした。しかしながら、画像処理システム１０を、例えば街角の風景を撮像するシステムとして利用することもできる。このような形態で画像処理システム１０を利用する場合には、個人情報を保護することを目的として、人物の顔を含む領域をＲＯＩとして検出して、検出したＲＯＩをＲＯＩ以外の領域より低画質にしてもよい。例えば圧縮部２４０は、人物の正面の顔、人物の横顔、人体、動き領域、背景領域の順に大きい圧縮強度で、特徴領域動画および背景領域動画を圧縮してよい。
【００７０】
その他にも、特徴領域検出部２０３は、複数のフレーム画像から、被写体の速度が異なる複数の特徴領域を検出してもよい。この場合、画質低減部２２１は、特徴領域動画を、被検体の速度がより速いほど、より高いフレームレートの動画に変換してもよい。このように、圧縮部２４０は、複数の特徴領域動画を、それぞれの被写体の速度に応じた強度で圧縮してよい。
【００７１】
以上説明したように、画像処理装置１２０は、特徴領域動画に含まれるフレーム画像におけるＲＯＩ以外の領域を固定値化して、視野角が同じ複数の特徴領域動画および背景領域動画を生成する。このため、画像処理装置１２０によると、特別に設計された符号化器を使用することなく、汎用の符号化器を使用して特徴領域動画を高い圧縮率で圧縮することができる場合がある。例えば、ＭＰＥＧ符号化等のように動きベクトルを用いて特徴領域動画を符号化すると、固定値化した領域中のマクロブロックについては画素値の差分値が０になる場合が多くなる。したがって、このような固定値化により、圧縮率を高く維持しながら画像処理装置１２０の製造コストを低減することができる場合がある。
【００７２】
以上の説明では、圧縮部２４０は、ＲＯＩ領域以外の領域が固定値化されたフレーム画像を含む特徴領域動画を圧縮することとした。なお、圧縮部２４０は、特徴領域動画に含まれるフレーム画像におけるＲＯＩ内の画像を切り出して圧縮して特徴領域動画として出力してもよい。
【００７３】
なお、特徴領域検出部２０３がＲＯＩを検出していない場合には、出力部２０７は、圧縮部２４０ａが出力する背景領域動画データを画像処理装置１７０に出力する。この場合、画像生成部２０５は特徴領域動画４３０、特徴領域動画４４０、および特徴領域動画４５０を生成しなくてよい。そして、画像生成部２０５は、特徴領域検出部２０３がＲＯＩを検出したことを条件として、特徴領域動画４３０、特徴領域動画４４０、および特徴領域動画４５０を生成して、出力部２０７は上記の処理によって生成された複数の特徴領域動画データおよび背景領域動画データを画像処理装置１７０に出力する。この間、圧縮部２４０ａは、背景領域動画４２０を圧縮すべく予め定められた背景領域用圧縮率で背景領域動画４２０を圧縮しつづけてよい。
【００７４】
その他にも、特徴領域検出部２０３がＲＯＩを検出していない間には、圧縮部２４０は、背景領域用圧縮率より低く、かつ、特徴領域動画を圧縮する圧縮率より高い、予め定められたＲＯＩ非検出期間圧縮率で、背景領域動画を圧縮してよい。そして、圧縮部２４０は、特徴領域検出部２０３がＲＯＩを検出したことを条件として、背景領域動画を背景領域用圧縮率で圧縮してよい。このとき、圧縮部２４０は、特徴領域動画をＲＯＩ非検出期間圧縮率より低い圧縮率で圧縮してよい。
【００７５】
なお、圧縮部２４０は、特徴領域検出部２０３がＲＯＩを検出してから予め定められた期間の背景領域動画をＲＯＩ非検出期間圧縮率で圧縮するとともに、予め定められた期間より長い期間が経過したことを条件として、背景領域動画を背景領域用圧縮率で圧縮してよい。こうすると、本来ＲＯＩとして検出されるべき領域がＲＯＩとして検出されなかった場合でも、ある程度の画質の背景領域動画を提供することができる場合がある。また、圧縮部２４０は、特徴領域検出部２０３が検出した複数のフレーム画像におけるＲＯＩ領域の位置から推定される他のフレーム画像におけるＲＯＩ領域を含む領域の画質を、他の領域の画質より高い画質にすべく、圧縮率を領域ごとに異ならせてもよい。
【００７６】
図５は、複数の特徴領域動画および背景領域動画の画質の一例を示す。ここでは、説明を簡単にすることを目的として、圧縮動画取得部２０１が取得した撮像動画データのフレームレートが１６ｆｐｓであり、当該撮像動画データに含まれるフレーム画像の解像度が７２ｄｐｉであるとする。
【００７７】
撮像動画に含まれるフレーム画像４１０の解像度に対する画質低減後の背景領域動画４２０に含まれるフレーム画像の解像度の比率を示す解像度比率は予め１／８と定められている。画質低減部２２１は、画像生成部２０５によって撮像動画が複製されることによって生成された画質低減前の背景領域動画４２０に含まれるフレーム画像に対して１／８の解像度である９ｄｐｉのフレーム画像を、画質低減前の背景領域動画４２０に含まれるフレーム画像の画素を間引くことによって生成する。また、撮像動画のフレームレートに対する画質低減後の背景領域動画４２０のフレームレートの比率を示すフレームレート比率は予め１／８と定められている。画質低減部２２１は、画質低減前の背景領域動画４２０のフレームレートの１／８のフレームレートである２ｆｐｓのフレームレートの背景領域動画４２０を、画質低減前の背景領域動画４２０に含まれるフレーム画像を間引くことによって生成する。
【００７８】
同様に、複数の特徴領域動画のそれぞれに対しても、解像度比率およびフレームレート比率が定められている。例えば、特徴領域動画４３０については解像度比率およびフレームレート比率は１／４が定められており、特徴領域動画４４０については解像度比率およびフレームレート比率として１／２が定められており、特徴領域動画４５０については解像度比率およびフレームレート比率として１／１が定められている。これにより、画質低減部２２１ｂは、フレームレートが４ｆｐｓ、フレーム画像の解像度が１８ｄｐｉの特徴領域動画４３０を生成する。また、画質低減部２２１ｃは、フレームレートが８ｆｐｓ、フレーム画像の解像度が３６ｄｐｉの特徴領域動画４４０を生成する。また、画質低減部２２１ｄは、フレームレートが１６ｆｐｓ、フレーム画像の解像度が７２ｄｐｉの特徴領域動画４５０を生成する。
【００７９】
なお、上記の例では、画質低減部２２１が複数の特徴領域動画および背景領域動画に含まれるフレーム画像の画素を間引くことによってフレーム画像の画質を低減する場合を例に挙げて説明した。その他にも、画質低減部２２１は、例えばローパスフィルタ等の、所定の周波数領域を通過するフィルタを用いてフレーム画像の画質を低減してもよい。この場合、フィルタが通過する周波数帯域および通過する度合いを示す強度は、特徴の種類ごと、例えば背景領域、動領域、人領域、および顔領域ごとに予め定められてよい。
【００８０】
なお、画質低減部２２１による画質低減に加えて、又は画質低減部２２１による画質低減に替えて、符号化部２３１がフレーム画像の画質を低減してもよい。例えば、符号化部２３１が、ＭＰＥＧ符号化における量子化テーブルの値を大きくすることによって、画質を低減することができる。量子化テーブルの値の大きさは、特徴の種類ごとに予め定められてよい。例えば、背景領域動画符号化部２３１ａおよび複数の特徴領域動画符号化部２３１ｂ−ｄのそれぞれが、予め設定された値を持つ量子化テーブルを用いて符号化してよい。また、量子化テーブルにおける周波数成分ごとの値が特徴の種類ごとに予め定められていてよい。
【００８１】
また、画質低減部２２１はさらに、背景領域動画に含まれる複数のフレーム画像を平均化してもよい。これによれば、移動物体を示すオブジェクトがフレーム画像に含まれている場合に、移動物体のオブジェクトが平均化されたフレーム画像が得られる。そして、このような複数のフレーム画像を連続表示させると、移動物体の動きが閲覧者の目に滑らかに映る場合がある。
【００８２】
なお、以上の説明では、画像生成部２０５が撮像動画を複製してから、複製して得られた複数の特徴領域動画および背景領域動画に含まれるフレーム画像を間引いたり、画素を間引いたりすることによって、複数の特徴領域動画および背景領域動画を圧縮する形態について説明した。その他にも、画像生成部２０５は、撮像動画に含まれる複数のフレーム画像をフレームレート比率に従って間引いて選択することによって、フレームレートが低減された複数の特徴領域動画および背景領域動画を生成してもよい。その後に、固定値化部２１１ａが固定値化して、画質低減部２２１が解像度を低減することによって、複数の特徴領域動画および背景領域動画の画質を低減してよい。
【００８３】
図６は、画像処理装置１７０の処理フローの一例を示す。圧縮動画取得部３０１は、画像処理装置１２０から、対応づけされた複数の特徴領域動画データおよび背景領域動画データを取得して、付帯されたタグ情報によりタイミング情報、撮像装置１００を識別する情報等を取得する（６０１）。そして、圧縮動画伸張部３１１は、それぞれ複数の特徴領域動画データおよび背景領域動画データを復号することにより、背景レイヤーを示す背景領域動画６１０を生成する。（６０２ａ）同時に、圧縮動画伸張部３１１は、動領域レイヤーを示す特徴領域動画６２０、人領域レイヤーを示す特徴領域動画６３０、および顔領域レイヤーを示す特徴領域動画６４０を生成する（６０２ｂ、６０２ｃ、および６０２ｄ）。
【００８４】
合成部３０３は、背景領域動画６１０並びに特徴領域動画６２０、特徴領域動画６３０、および特徴領域動画６４０に含まれるフレーム画像を合成する（６０３）。このとき、合成部３０３は、背景領域動画および複数の特徴領域動画のそれぞれに含まれるフレーム画像の解像度に応じて、最大の解像度を有するフレーム画像と同じ位置の被写体が重ね合うようフレーム画像を拡大して、拡大したフレーム画像を重ね合わせて合成フレーム画像を生成する。
【００８５】
このとき、合成部３０３は、特徴領域動画６２０、特徴領域動画６３０、および特徴領域動画６４０に含まれるフレーム画像における特徴領域の画像を切り出して、背景領域動画６１０に含まれるフレーム画像に上書きすることによって合成フレーム画像を生成する。また、合成部３０３は、背景領域動画６１０並びに特徴領域動画６２０、特徴領域動画６３０、および特徴領域動画６４０のフレームレートが異なる場合には、背景領域動画６１０並びに特徴領域動画６２０、特徴領域動画６３０、および特徴領域動画６４０の最新のフレーム画像を合成する。
【００８６】
これにより、合成部３０３は、合成フレーム画像を生成する。合成部３０３は、複数の合成フレーム画像を含む合成動画６５０を生成する。そして、出力部３０４は、圧縮動画取得部３０１が取得したタグ情報等に基づいて、合成動画を表示させる表示装置１８０を選択して、選択した表示装置１８０に合成動画を供給する（６０４）。
【００８７】
図７は、複数の動画構成画像において特徴領域を特定する方法の一例を示す。図７において、上段に示す動画７００は、特徴領域予測部２７１によって非検出画像における予測領域が特定された状態の動画を示す。一方、下段に示す動画７００は、特徴領域検出部２０３によって非検出画像における特徴領域が検出された状態の動画を示す。また、動画７００は、連続している動画構成画像７０１−７０５を含んでいる。
【００８８】
動画７００に含まれる動画構成画像のうち、動画構成画像７０１および動画構成画像７０２は、特徴領域検出部２０３によって、所定閾値を用いて、特徴領域が検出された検出画像を示す。また、動画７００に含まれる動画構成画像のうち、動画構成画像７０３、動画構成画像７０４、および動画構成画像７０５は、特徴領域検出部２０３によって、所定閾値を用いて、特徴領域が検出されなかった検出画像を示す。
【００８９】
図７の上段に示すように、特徴領域検出部２０３は、所定閾値を用いて、動画構成画像７０１から特徴領域７０１ａを検出しており、動画構成画像７０２から特徴領域７０２ａを検出している。一方、特徴領域検出部２０３は、所定閾値を用いて、動画構成画像７０３、動画構成画像７０４、および動画構成画像７０５からは特徴領域を検出していない。そのかわり、特徴領域予測部２７１が、動画構成画像７０３において予測領域７０３ａを特定している。また、特徴領域予測部２７１が、動画構成画像７０４において予測領域７０４ａを特定している。そして、特徴領域予測部２７１が、動画構成画像７０５において予測領域７０５ａを特定している。
【００９０】
その後、特徴領域検出制御部２７２に制御された特徴領域検出部２０３が、所定閾値より低い閾値を用いて、動画構成画像７０３における予測領域７０３ａから特徴領域７０３ｂを検出している。同様に、特徴領域検出部２０３が、所定閾値より低い閾値を用いて、動画構成画像７０４における予測領域７０４ａから特徴領域７０４ｂを検出している。同様に、特徴領域検出部２０３が、所定閾値より低い閾値を用いて、動画構成画像７０５における予測領域７０５ａから特徴領域７０５ｂを検出している。これにより、特徴領域検出部２０３は、図７の下段に示すように、動画構成画像７０１−７０５のそれぞれにおける特徴領域を特定したこととなる。
【００９１】
特徴領域予測部２７１は、特徴領域７０１ａの位置および特徴領域７０２ａの位置に基づいて、動画７００の動きベクトルを用いて、予測領域７０３ａ、予測領域７０４ａ、および予測領域７０５ａを特定している。なお、特徴領域予測部２７１は、特徴領域７０１ａの位置および特徴領域７０２ａの位置に基づいて、線形補間により、予測領域７０３ａ、予測領域７０４ａ、および予測領域７０５ａを特定してもよい。
【００９２】
このように、本実施形態の画像処理装置１２０は、検出画像に対しては、特徴領域検出部２０３が、所定閾値を用いて、特徴領域を検出している。一方、本実施形態の画像処理装置１２０は、非検出画像に対しては、特徴領域予測部２７１が予測領域を特定した後に、特徴領域検出部２０３が、所定閾値よりも低い閾値を用いて、予測領域から特徴領域を検出している。これにより、本実施形態の画像処理装置１２０を、実際の監視システムに適用した場合には、非検出画像において予測領域から特徴領域を検出しやすくなることから、特徴領域検出部２０３が特徴領域を検出するときの検出精度の高めることができる場合がある。また、非検出画像において特徴領域の検出対象とする領域を絞り込むことができることから、特徴領域検出部２０３が特徴領域を検出するときの処理時間を短縮することができる場合がある。
【００９３】
図８は、包含領域以外の領域を固定値化する方法の一例を示す。図８において、動画８００は、包含領域特定部２６１によって包含領域が特定され、固定値化部２１１によって包含領域以外の領域が固定値化された動画を示す。また、動画８００は、連続する動画構成画像８０１−８０５を含んでいる。
【００９４】
動画構成画像８０１−８０５のそれぞれにおいて、包含領域８１０は、包含領域特定部２６１によって特定された、動画構成画像８０１−８０５のそれぞれの特徴領域を包含する領域を示す。動画構成画像８０１−８０５のそれぞれの特徴領域のうち、動画構成画像８０１の特徴領域および動画構成画像８０２の特徴領域は、特徴領域検出部２０３により、所定閾値を用いて検出されている。また、動画構成画像８０３の特徴領域、動画構成画像８０４の特徴領域、および動画構成画像８０５の特徴領域は、特徴領域検出部２０３は、特徴領域検出部２０３により、所定閾値よりも低い閾値を用いて検出されている。
【００９５】
また、動画構成画像８０１−８０５のそれぞれにおいて、包含領域８１０以外の領域は、固定値化部２１１によって、画素値が「０」に固定値化されている。このように、本実施形態の画像処理装置１２０は、複数の動画構成画像の特徴領域を包含する包含領域を特定した後に、包含領域以外の領域を固定値化する。これにより、本実施形態の画像処理装置１２０を、実際の監視システムに適用した場合には、動画構成画像間における包含領域以外の領域における画素値の差分量を少なくすることができ、結果的に、動画構成画像間における差分データの圧縮率を高めることができる場合がある。
【００９６】
図９は、画像処理装置１２０および画像処理装置１７０のハードウェア構成の一例を示す。画像処理装置１２０および画像処理装置１７０は、ＣＰＵ周辺部と、入出力部と、レガシー入出力部とを備える。ＣＰＵ周辺部は、ホスト・コントローラ１５８２により相互に接続されるＣＰＵ１５０５、ＲＡＭ１５２０、グラフィック・コントローラ１５７５、および表示デバイス１５８０を有する。入出力部は、入出力コントローラ１５８４によりホスト・コントローラ１５８２に接続される通信インターフェイス１５３０、ハードディスクドライブ１５４０、およびＣＤ−ＲＯＭドライブ１５６０を有する。レガシー入出力部は、入出力コントローラ１５８４に接続されるＲＯＭ１５１０、フレキシブルディスク・ドライブ１５５０、および入出力チップ１５７０を有する。
【００９７】
ホスト・コントローラ１５８２は、ＲＡＭ１５２０と、高い転送レートでＲＡＭ１５２０をアクセスするＣＰＵ１５０５、およびグラフィック・コントローラ１５７５とを接続する。ＣＰＵ１５０５は、ＲＯＭ１５１０、およびＲＡＭ１５２０に格納されたプログラムに基づいて動作して、各部の制御をする。グラフィック・コントローラ１５７５は、ＣＰＵ１５０５等がＲＡＭ１５２０内に設けたフレーム・バッファ上に生成する画像データを取得して、表示デバイス１５８０上に表示させる。これに代えて、グラフィック・コントローラ１５７５は、ＣＰＵ１５０５等が生成する画像データを格納するフレーム・バッファを、内部に含んでもよい。
【００９８】
入出力コントローラ１５８４は、ホスト・コントローラ１５８２と、比較的高速な入出力装置であるハードディスクドライブ１５４０、通信インターフェイス１５３０、ＣＤ−ＲＯＭドライブ１５６０を接続する。ハードディスクドライブ１５４０は、ＣＰＵ１５０５が使用するプログラム、およびデータを格納する。通信インターフェイス１５３０は、ネットワーク通信装置１５９８に接続してプログラムまたはデータを送受信する。ＣＤ−ＲＯＭドライブ１５６０は、ＣＤ−ＲＯＭ１５９５からプログラムまたはデータを読み取り、ＲＡＭ１５２０を介してハードディスクドライブ１５４０、および通信インターフェイス１５３０に提供する。
【００９９】
入出力コントローラ１５８４には、ＲＯＭ１５１０と、フレキシブルディスク・ドライブ１５５０、および入出力チップ１５７０の比較的低速な入出力装置とが接続される。ＲＯＭ１５１０は、放射線撮像システムが起動時に実行するブート・プログラム、あるいは放射線撮像システムのハードウェアに依存するプログラム等を格納する。フレキシブルディスク・ドライブ１５５０は、フレキシブルディスク１５９０からプログラムまたはデータを読み取り、ＲＡＭ１５２０を介してハードディスクドライブ１５４０、および通信インターフェイス１５３０に提供する。入出力チップ１５７０は、フレキシブルディスク・ドライブ１５５０、あるいはパラレル・ポート、シリアル・ポート、キーボード・ポート、マウス・ポート等を介して各種の入出力装置を接続する。
【０１００】
ＣＰＵ１５０５が実行するプログラムは、フレキシブルディスク１５９０、ＣＤ−ＲＯＭ１５９５、またはＩＣカード等の記録媒体に格納されて利用者によって提供される。記録媒体に格納されたプログラムは圧縮されていても非圧縮であってもよい。プログラムは、記録媒体からハードディスクドライブ１５４０にインストールされ、ＲＡＭ１５２０に読み出されてＣＰＵ１５０５により実行される。
【０１０１】
ＣＰＵ１５０５により実行されるプログラムは、画像処理装置１２０を、図１から図９に関連して説明した圧縮動画取得部２０１、圧縮動画伸張部２０２、特徴領域検出部２０３、画像分割部２０４、および画像生成部２０５として機能させる。また、ＣＰＵ１５０５により実行されるプログラムは、画像処理装置１２０を、図１から図９に関連して説明した固定値化部２１１、画質低減部２２１、符号化部２３１、対応付け処理部２０６、および出力部２０７として機能させる。
【０１０２】
また、ＣＰＵ１５０５により実行されるプログラムは、画像処理装置１２０を、図１から図９に関連して説明した動きベクトル取得部２５１、特徴領域予測部２７１、特徴領域検出制御部２７２、および包含領域特定部２６１として機能させる。また、ＣＰＵ１５０５により実行されるプログラムは、画像処理装置１７０を、図１から図９に関連して説明した圧縮動画取得部３０１、対応付け解析部３０２、圧縮動画伸張部３１１、合成部３０３、および出力部３０４として機能させる。
【０１０３】
以上に示したプログラムは、外部の記憶媒体に格納されてもよい。記憶媒体としては、フレキシブルディスク１５９０、ＣＤ−ＲＯＭ１５９５の他に、ＤＶＤまたはＰＤ等の光学記録媒体、ＭＤ等の光磁気記録媒体、テープ媒体、ＩＣカード等の半導体メモリ等を用いることができる。また、専用通信ネットワークあるいはインターネットに接続されたサーバシステムに設けたハードディスクまたはＲＡＭ等の記憶装置を記録媒体として使用して、ネットワークを介したプログラムとして画像処理装置１２０および画像処理装置１７０に提供してもよい。
【０１０４】
以上、本発明を実施の形態を用いて説明したが、本発明の技術的範囲は上記実施の形態に記載の範囲には限定されない。上記実施の形態に、多様な変更または改良を加えることが可能であることが当業者に明らかである。その様な変更または改良を加えた形態も本発明の技術的範囲に含まれ得ることが、特許請求の範囲の記載から明らかである。
【図面の簡単な説明】
【０１０５】
【図１】一実施形態に係る画像処理システム１０の一例を示す。
【図２】画像処理装置１２０のブロック構成の一例を示す。
【図３】画像処理装置１７０のブロック構成の一例を示す。
【図４】画像処理装置１２０の処理フローの一例を示す。
【図５】複数の特徴領域動画および背景領域動画の画質の一例を示す。
【図６】画像処理装置１７０の処理フローの一例を示す。
【図７】複数の動画構成画像において特徴領域を特定する方法の一例を示す。
【図８】包含領域以外の領域を固定値化する方法の一例を示す。
【図９】画像処理装置１２０および画像処理装置１７０のハードウェア構成の一例を示す。
【符号の説明】
【０１０６】
１０ 画像処理システム
１００ 撮像装置
１１０ 通信ネットワーク
１２０ 画像処理装置
１３０ 人物
１４０ 移動物体
１５０ 監視対象空間
１６０ 空間
１７０ 画像処理装置
１８０ 表示装置
２０１ 圧縮動画取得部
２０２ 圧縮動画伸張部
２０３ 特徴領域検出部
２０４ 画像分割部
２０５ 画像生成部
２０６ 対応付け処理部
２０７ 出力部
２１０ 固定値化ユニット
２１１ 固定値化部
２２０ 低減化ユニット
２２１ 画質低減部
２３０ 符号化ユニット
２３１ 符号化部
２３１ａ 背景領域動画符号化部
２３１ｂ−ｄ 特徴領域動画符号化部
２４０ 圧縮部
２５１ 動きベクトル取得部
２７１ 特徴領域予測部
２７２ 特徴領域検出制御部
２６０ 包含領域特定ユニット
２６１ 包含領域特定部
３０１ 圧縮動画取得部
３０２ 対応付け解析部
３１０ 圧縮動画伸張ユニット
３１１ 圧縮動画伸張部
３０３ 合成部
３０４ 出力部
【技術分野】
【０００１】
本発明は、画像処理装置、画像処理方法、およびプログラムに関する。本発明は、特に、画像を圧縮する画像処理装置および画像処理方法、並びに画像処理装置用のプログラムに関する。
【背景技術】
【０００２】
動画像において検出された顔を含む画像ブロックのうち、目、口などを含む画像ブロックに対して、他の画像ブロックより多くの情報ビット数を割り当てて符号化する画像符号化装置が知られている（例えば、特許文献１参照。）。
【特許文献１】特許第２８２８９７７号公報
【発明の開示】
【発明が解決しようとする課題】
【０００３】
しかしながら、上記特許文献１に記載の技術によると、被写体の撮像状態によっては、顔、目、口などを含む画像ブロックを検出することができないフレームが発生する場合がある。このフレームにおいては、目、口などを含む画像ブロックに対して、他の画像ブロックより多くの情報ビット数を割り当てることができない。
【課題を解決するための手段】
【０００４】
上記課題を解決するために、本発明の第１の形態においては、画像処理装置であって、動画に含まれる動画構成画像から、所定閾値を用いて、特徴領域を検出する特徴領域検出部と、特徴領域が検出された動画構成画像である検出画像における特徴領域の位置に基づいて、検出画像の他の動画構成画像である非検出画像において特徴領域が検出されるべき領域である予測領域を特定する特徴領域予測部と、非検出画像の予測領域から、所定閾値よりも低い閾値を用いて、特徴領域検出部に特徴領域を検出させる特徴領域検出制御部とを備える。
【０００５】
特徴領域検出制御部は、非検出画像の予測領域から、所定閾値よりも低い閾値を用いて、特徴領域を特徴領域検出部に検出させ、非検出画像の予測領域以外の領域から、所定閾値を用いて、特徴領域を特徴領域検出部に検出させてよい。特徴領域予測部は、非検出画像より前にある複数の検出画像のそれぞれにおける特徴領域の位置に基づいて、非検出画像において予測領域を特定してよい。特徴領域予測部は、非検出画像より前にある検出画像、及び非検出画像より後にある検出画像のそれぞれにおける特徴領域の位置に基づいて、非検出画像において予測領域を特定してよい。動画における被写体の動きベクトルを取得する動きベクトル取得部をさらに備え、特徴領域予測部は、検出画像における特徴領域の位置および動きベクトルに基づいて、非検出画像において予測領域を特定してよい。
【０００６】
動きベクトルを含む圧縮された動画を取得する圧縮動画取得部と、圧縮動画取得部によって取得された動画を伸張する圧縮動画伸張部とをさらに備え、特徴領域検出部は、圧縮動画伸張部によって伸張された動画に含まれる動画構成画像から、前記所定閾値を用いて、特徴領域を検出し、動きベクトル取得部は、圧縮動画取得部によって取得された動画に含まれる動きベクトルを取得し、特徴領域予測部は、検出画像における特徴領域の位置および動きベクトルに基づいて、圧縮動画伸張部によって伸張された動画に含まれる非検出画像において予測領域を特定してよい。
【０００７】
圧縮動画取得部は、動きベクトルを含むＭＰＥＧ動画を取得し、圧縮動画伸張部は、圧縮動画取得部によって取得されたＭＰＥＧ動画を伸張し、特徴領域検出部は、圧縮動画伸張部によって伸張されたＭＰＥＧ動画に含まれる動画構成画像から、前記所定閾値を用いて、特徴領域を検出し、動きベクトル取得部は、圧縮動画取得部によって取得されたＭＰＥＧ動画に含まれる動きベクトルを取得してよい。検出画像および非検出画像のそれぞれを、特徴領域と、特徴領域以外の背景領域とに分割する画像分割部と、特徴領域の画像と背景領域の画像とを、それぞれ異なる強度で符号化する符号化部とをさらに備えてよい。検出画像および非検出画像において特定された特徴領域を包含する包含領域を特定する包含領域特定部と、検出画像および非検出画像のそれぞれにおける包含領域以外の領域の画素値を固定値化する固定値化部とをさらに備え、符号化部は、包含領域の画像と、包含領域以外の領域の画像とを、それぞれ異なる強度で圧縮してよい。
【０００８】
本発明の第２の形態によると、画像処理方法であって、動画に含まれる動画構成画像から、所定閾値を用いて、特徴領域を検出する特徴領域検出段階と、特徴領域が検出された動画構成画像である検出画像における特徴領域の位置に基づいて、検出画像の他の動画構成画像である非検出画像において特徴領域が検出されるべき領域である予測領域を特定する特徴領域予測段階と、非検出画像の予測領域から、所定閾値よりも低い閾値を用いて、特徴領域検出段階に特徴領域を検出させる特徴領域検出制御段階とを備える。
【０００９】
本発明の第３の形態によると、画像を符号化する画像処理装置用のプログラムであって、画像処理装置を、動画に含まれる動画構成画像から、所定閾値を用いて、特徴領域を検出する特徴領域検出部、特徴領域が検出された動画構成画像である検出画像における特徴領域の位置に基づいて、検出画像の他の動画構成画像である非検出画像において特徴領域が検出されるべき領域である予測領域を特定する特徴領域予測部、非検出画像の予測領域から、所定閾値よりも低い閾値を用いて、特徴領域検出部に特徴領域を検出させる特徴領域検出制御部として機能させる。
【００１０】
なお、上記の発明の概要は、本発明の必要な特徴の全てを列挙したものではない。また、これらの特徴群のサブコンビネーションもまた、発明となりうる。
【発明を実施するための最良の形態】
【００１１】
以下、発明の実施の形態を通じて本発明を説明するが、以下の実施形態は特許請求の範囲にかかる発明を限定するものではない。また、実施形態の中で説明されている特徴の組み合わせの全てが発明の解決手段に必須であるとは限らない。
【００１２】
図１は、一実施形態に係る画像処理システム１０の一例を示す。画像処理システム１０は、特徴的な被写体の画質を高画質に保ちつつ画像のデータ量を低減することを目的とする。
【００１３】
画像処理システム１０は、監視対象空間１５０を撮像する複数の撮像装置１００ａ−ｃ（以下、撮像装置１００と総称する。）、画像を処理する複数の画像処理装置１２０ａ−ｃ（以下、画像処理装置１２０と総称する。）、画像処理装置１７０、通信ネットワーク１１０、および複数の表示装置１８０ａ−ｃ（以下、表示装置１８０と総称する。）を備える。
【００１４】
画像処理装置１２０ａは、撮像装置１００ａに接続されている。また、画像処理装置１２０ｂは、撮像装置１００ｂに接続されている。また、画像処理装置１２０ｃは、撮像装置１００ｃに接続されている。なお、画像処理装置１７０および表示装置１８０は、監視対象空間１５０と異なる空間１６０に設けられている。
【００１５】
以下に、撮像装置１００ａ、画像処理装置１２０ａ、画像処理装置１７０、および表示装置１８０ａの動作を説明する。撮像装置１００ａは、監視対象空間１５０を撮像して得られた撮像動画をＭＰＥＧ符号化して撮像動画データを生成して、撮像装置１００ａが接続されている画像処理装置１２０ａに出力する。
【００１６】
画像処理装置１２０ａは、撮像装置１００ａが生成した撮像動画データを取得する。画像処理装置１２０は、撮像装置１００から取得した撮像動画データを復号して撮像動画を生成して、生成した撮像動画から人物１３０、車輌等の移動物体１４０等、特徴の種類が異なる複数の特徴領域を検出する。そして、画像処理装置１２０ａは、撮像動画から、特徴の種類のそれぞれについて特徴領域が他の領域より高画質な動画を生成することによって、複数の特徴領域動画を生成する。また、画像処理装置１２０ａは、特徴領域以外の背景領域の動画であって、特徴領域動画より低画質な背景領域動画を生成する。
【００１７】
そして、画像処理装置１２０ａは、生成した複数の特徴領域動画および背景領域動画をそれぞれ符号化することによって複数の特徴領域動画データおよび背景領域動画データを生成する。同時に、画像処理装置１２０ａは、符号化して得られた複数の特徴領域動画データおよび背景領域動画データを互いに関連づけて、通信ネットワーク１１０を通じて画像処理装置１７０に送信する。
【００１８】
画像処理装置１７０は、画像処理装置１２０ａから受信した関連付けされた複数の特徴領域動画データおよび背景領域動画データをそれぞれ復号することによって、複数の特徴領域動画および背景領域動画を取得する。そして、画像処理装置１７０は、複数の特徴領域動画および背景領域動画を合成することによって一の合成動画を生成して、生成した合成動画を表示装置１８０ａに供給する。表示装置１８０ａは、画像処理装置１７０から供給された動画を表示する。
【００１９】
なお、撮像装置１００ｂおよび撮像装置１００ｃの機能および動作は、それぞれ画像処理装置１２０ｂおよび画像処理装置１２０ｃに撮像動画データを提供することを除いて、撮像装置１００ａの機能および動作と同様であるので、その説明を省略する。また、画像処理装置１２０ｂおよび画像処理装置１２０ｃの機能および動作は、それぞれ撮像装置１００ｂおよび撮像装置１００ｃから撮像動画データを取得することを除いて、画像処理装置１２０ａの機能および動作と同様であってよい。よって、その説明を省略する。また、画像処理装置１７０は、撮像装置１００ｂおよび撮像装置１００ｃのそれぞれから受信した関連付けされた複数の特徴領域動画データおよび背景領域動画データをから、一の動画をそれぞれ生成して、それぞれ表示装置１８０ｂおよび表示装置１８０ｃに供給する。また、表示装置１８０ｂおよび表示装置１８０ｃは、画像処理装置１７０から供給されたそれぞれの動画を表示する。
【００２０】
本実施形態の画像処理システム１０を、例えば監視システムとして実際に適用した場合には、人物、移動物体等、監視対象として特徴的な被写体を高画質で残しことができる場合がある。そのうえ、動画のデータ量を低下することができる場合がある。
【００２１】
図２は、画像処理装置１２０のブロック構成の一例を示す。画像処理装置１２０は、圧縮動画取得部２０１、圧縮動画伸張部２０２、特徴領域検出部２０３、画像分割部２０４、および画像生成部２０５を有する。また、画像処理装置１２０は、動きベクトル取得部２５１、特徴領域予測部２７１、特徴領域検出制御部２７２、包含領域特定ユニット２６０、固定値化ユニット２１０、低減化ユニット２２０、符号化ユニット２３０、対応付け処理部２０６、および出力部２０７を有する。
【００２２】
包含領域特定ユニット２６０は、複数の包含領域特定部２６１ａ−２６１ｃ（以下、包含領域特定部２６１と総称する。）を含む。固定値化ユニット２１０は、複数の固定値化部２１１ａ−２１１ｃ（以下、固定値化部２１１と総称する。）を含む。低減化ユニット２２０は、複数の画質低減部２２１ａ−ｄ（以下、画質低減部２２１と総称する。）を含む。
【００２３】
符号化ユニット２３０は、背景領域動画符号化部２３１ａおよび複数の特徴領域動画符号化部２３１ｂ−ｄ（以下、特徴領域動画符号化部２３１と総称する。）を含む。なお、背景領域動画符号化部２３１ａおよび特徴領域動画符号化部２３１ｂ−ｄを総称して、符号化部２３１と呼ぶ場合がある。
【００２４】
なお、画質低減部２２１ａおよび背景領域動画符号化部２３１ａは、圧縮部２４０ａとして機能する。また、画質低減部２２１ｂおよび背景領域動画符号化部２３１ｂは、圧縮部２４０ｂとして機能する。同様に、画質低減部２２１ｃおよび背景領域動画符号化部２３１ｃは圧縮部２４０ｃとして機能する。画質低減部２２１ｄおよび背景領域動画符号化部２３１ｄは圧縮部２４０ｄとして機能する。なお、複数の圧縮部２４０ａ−ｄを、圧縮部２４０と総称する。
【００２５】
圧縮動画取得部２０１は、圧縮された動画を取得する。具体的には、圧縮動画取得部２０１は、撮像装置１００が生成した、符号化された撮像動画データを取得する。例えば、圧縮動画取得部２０１は、動きベクトルを含むＭＰＥＧ動画を取得する。圧縮動画伸張部２０２は、圧縮動画取得部２０１が取得した動画を復元して、動画に含まれる複数の動画構成画像を生成する。
【００２６】
具体的には、圧縮動画伸張部２０２は、圧縮動画取得部２０１が取得した撮像動画データを復号して、動画に含まれる複数の動画構成画像を生成する。例えば、圧縮動画伸張部２０２は、圧縮動画取得部２０１によって取得されたＭＰＥＧ動画を伸張する。なお、動画構成画像はフレーム画像およびフィールド画像を含む。また、圧縮された動画は、当該動画における被写体の動きベクトルを含む。
【００２７】
特徴領域検出部２０３は、動画に含まれる複数の動画構成画像から、特徴領域を検出する。具体的には、特徴領域検出部２０３は、画像である動画に含まれる複数の動画構成画像から、特徴の種類が異なる複数の特徴領域を検出する。また、特徴領域検出部２０３は、所定閾値を用いて、圧縮動画伸張部２０２によって伸張された動画に含まれる動画構成画像から、特徴領域を検出する。例えば、特徴領域検出部２０３は、圧縮動画伸張部２０２によって伸張されたＭＰＥＧ動画に含まれる動画構成画像から、所定閾値を用いて、特徴領域を検出する。
【００２８】
ここで、特徴領域検出部２０３は、閾値を特徴領域を検出するときの基準値として用いる。特徴領域検出部２０３は、閾値が低くなることにより、動画構成画像から特徴領域を検出しやすくなる。例えば、閾値に、予め定められた被写体に関する形状または色のパターンに対する一致度を用いてよい。
【００２９】
この場合、予め定められた被写体を、人物、顔、自動車、ナンバープレートとしているが、これらに限らない。また、閾値を変更する変わりに、動画構成画像の輝度を変更してよい。特徴領域検出部２０３は、動画構成画像の輝度が高くなることにより、動画構成画像から、特徴領域を検出しやすくなる。
【００３０】
動きベクトル取得部２５１は、動画における被写体の動きベクトルを取得する。具体的には、動きベクトル取得部２５１は、圧縮動画取得部２０１によって取得された動画（撮像動画データ）に含まれる動きベクトルを取得する。より具体的には、動きベクトル取得部２５１は、圧縮動画取得部２０１によって取得されたＭＰＥＧ動画に含まれる動きベクトルを取得する。なお、動きベクトル取得部２５１が、圧縮動画取得部２０１によって取得された動画から動きベクトルを取得できない場合、動きベクトル取得部２５１は、圧縮動画伸張部２０２によって伸張された動画に含まれる複数の動画構成画像に基づいて、当該動画の動きベクトルを算出してもよい。
【００３１】
特徴領域予測部２７１は、特徴領域が検出された動画構成画像である検出画像における特徴領域の位置に基づいて、検出画像の他の動画構成画像である非検出画像において特徴領域が検出されるべき領域である予測領域を特定する。具体的には、特徴領域予測部２７１は、検出画像における特徴領域の位置、および動きベクトル取得部２５１によって取得された動きベクトルに基づいて、非検出画像において予測領域を特定する。
【００３２】
より具体的には、特徴領域予測部２７１は、非検出画像より時間軸方向の前にある一つまたは複数の検出画像における特徴領域の位置、および動きベクトル取得部２５１によって取得された動きベクトルに基づいて、非検出画像において予測領域を特定する。また、特徴領域予測部２７１は、圧縮動画伸張部２０２によって伸張された動画に含まれる検出画像における特徴領域の位置、および動きベクトル取得部２５１によって取得された動きベクトルに基づいて、圧縮動画伸張部によって伸張された動画に含まれる非検出画像において予測領域を特定する。
【００３３】
なお、特徴領域予測部２７１は、非検出画像より時間軸方向の後ろにある一つまたは複数の検出画像の特徴領域の位置、および動きベクトル取得部２５１によって取得された動きベクトルに基づいて、非検出画像において予測領域を特定してもよい。また、特徴領域予測部２７１は、非検出画像より時間軸方向の前後にある検出画像の特徴領域の位置、および動きベクトル取得部２５１によって取得された動きベクトルに基づいて、非検出画像において予測領域を特定してもよい。
【００３４】
また、特徴領域予測部２７１は、非検出画像より時間軸方向の前にある一つまたは複数の検出画像の特徴領域の位置に基づいて、線形補間により、非検出画像において予測領域を特定してもよい。また、特徴領域予測部２７１は、非検出画像より時間軸方向の後ろにある一つまたは複数の検出画像における特徴領域の位置に基づいて、線形補間により、非検出画像において予測領域を特定してもよい。また、特徴領域予測部２７１は、非検出画像より時間軸方向の前後にある検出画像の特徴領域の位置に基づいて、線形補間により、非検出画像において予測領域を特定してもよい。
【００３５】
特徴領域検出制御部２７２は、非検出画像の予測領域から、所定閾値よりも低い閾値を用いて、特徴領域検出部に特徴領域を検出させる。これにより、特徴領域検出部２０３は、非検出画像の予測領域から、特徴領域を検出しやすくなる。また、特徴領域検出制御部２７２は、非検出画像の予測領域から、所定閾値よりも低い閾値を用いて、特徴領域を特徴領域検出部に検出させるとともに、非検出画像の予測領域以外の領域から、所定閾値を用いて、特徴領域を特徴領域検出部に検出させる。なお、特徴領域検出制御部２７２は、非検出画像の予測領域から、所定閾値よりも低い閾値を用いて、特徴領域を特徴領域検出部に検出させるとともに、非検出画像の予測領域以外の領域からは、特徴領域を特徴領域検出部に検出させないようにしてもよい。
【００３６】
画像分割部２０４は、複数の動画構成画像のそれぞれを、特徴領域と背景領域とに分割する。具体的には、画像分割部２０４は、複数の動画構成画像のそれぞれを、複数の特徴領域のそれぞれと、複数の特徴領域以外の背景領域とに分割する。
【００３７】
画像生成部２０５は、特徴領域動画を圧縮するための特徴領域圧縮用動画および背景領域動画を圧縮するための背景領域圧縮用動画を生成する。具体的には、画像生成部２０５は、動画に含まれる複数の動画構成画像から、特徴領域画像を抽出した後に、抽出された特徴領域画像を複製することにより、特徴領域圧縮用動画を生成する。より具体的には、画像生成部２０５は、動画に含まれる複数の動画構成画像から、複数種類の特徴領域画像を抽出することにより、複数の特徴領域圧縮用動画を生成する。また、画像生成部２０５は、動画に含まれる複数の動画構成画像から、背景領域画像を抽出した後に、抽出された背景領域画像を複製することにより、背景領域圧縮用動画を生成する。
【００３８】
包含領域特定部２６１は、複数の特徴領域圧縮用動画のそれぞれにおいて、複数の特徴領域を包含する包含領域を特定する。具体的には、包含領域特定部２６１は、複数の特徴領域圧縮用動画のそれぞれにおいて、複数の前記特徴領域を包含する、マクロブロックの集合領域を、包含領域として特定する。
【００３９】
そして、固定値化部２１１は、複数の特徴領域圧縮用動画のそれぞれにおける、複数の動画構成画像のそれぞれにおいて、包含領域特定部２６１によって特定された包含領域以外の領域の画素値を固定値化する。例えば、固定値化部２１１は、包含領域以外の領域の画素値を所定の値（例えば、輝度値０）に設定する。
【００４０】
そして、圧縮部２４０は、包含領域以外の領域の画素値が固定値化された動画構成画像を複数含む、複数の特徴領域圧縮用画像のそれぞれを、それぞれの特徴量に応じた強度で圧縮する。また、圧縮部２４０は、複数の特徴領域圧縮用画像のそれぞれに対して、包含領域の画像と、包含領域画像以外の領域の画像とを、それぞれ異なる強度で符号化する。
【００４１】
このように、圧縮部２４０は、複数の特徴領域圧縮用動画のそれぞれと、背景領域圧縮用動画とを、それぞれの特徴量に応じた強度で圧縮する。なお、特徴量とは、被写体の種類、被写体の大きさ、移動物体が移動する移動速さ、および特徴領域の大きさを含む。
【００４２】
以上説明したように、特徴領域検出部２０３は、画像から特徴領域を検出する。そして、画像分割部２０４は、画像を、特徴領域と、特徴領域以外の背景領域とに分割する。そして、圧縮部２４０は、特徴領域の画像である特徴領域画像と背景領域の画像である背景領域画像とを、それぞれ異なる強度で圧縮する。そして、圧縮部２４０は、特徴領域画像を複数含む特徴領域動画と背景領域画像を複数含む背景領域動画とを、それぞれ異なる強度で圧縮する。
【００４３】
なお、圧縮部２４０ｂ、圧縮部２４０ｃ、および圧縮部２４０ｄには、いずれの種類の特徴領域動画を圧縮すべきかが予め定められており、圧縮部２４０ｂ、圧縮部２４０ｃ、および圧縮部２４０ｄは予め定められた特徴の種類の特徴領域動画を圧縮する。なお、特徴領域動画を圧縮する場合の圧縮強度は、複数の特徴の種類ごとに予め定められており、圧縮部２４０ｂ、圧縮部２４０ｃ、および圧縮部２４０ｄは、予め定められた特徴の種類の特徴領域動画を、当該特徴の種類に予め定められた圧縮強度で圧縮する。このように、圧縮部２４０は、画像分割部２０４によって分割された画像領域ごとに設けられた圧縮器を用いて、複数の領域を並行して圧縮する。
【００４４】
なお、圧縮部２４０は、一つの圧縮器によって実装されてよく、複数の特徴領域動画および背景領域動画を時間的に順次圧縮してもよい。他にも、圧縮部２４０は、圧縮動画伸張部２０２によって復号された撮像動画を、画像分割部２０４が分割した領域ごとに、各領域の特徴の種類および背景のそれぞれに対して予め定められた圧縮率で圧縮することによって、一の動画データを生成してよい。
【００４５】
圧縮部２４０における画質低減部２２１は、複数の特徴領域動画と背景領域動画とを、それぞれの特徴量に応じて画質を低減することにより圧縮する。より具体的には、画質低減部２２１は、複数の特徴領域動画と背景領域動画とを、それぞれの特徴量に応じて解像度またはフレームレートを低減することにより圧縮する。
【００４６】
圧縮部２４０における符号化部２３１は、複数の特徴領域動画と背景領域動画とを、それぞれの特徴量に応じた設定値を用いて符号化することにより圧縮する。例えば、符号化部２３１は、複数の特徴領域動画と背景領域動画とを、それぞれの特徴量に応じた割り当て符号量を用いて符号化することにより圧縮する。
【００４７】
対応付け処理部２０６は、複数の圧縮部２４０が複数の特徴領域動画および背景領域動画を圧縮することによって生成した複数の特徴領域動画データおよび背景領域動画データを、例えばタグ情報等を付帯する等して互いに対応づける。出力部２０７は、対応付け処理部２０６が対応づけた複数の特徴領域動画データおよび背景領域動画データを通信ネットワーク１１０に送出する。
【００４８】
図３は、画像処理装置１７０のブロック構成の一例を示す。画像処理装置１７０は、圧縮動画取得部３０１、対応付け解析部３０２、圧縮動画伸張ユニット３１０、合成部３０３、および出力部３０４を有する。圧縮動画伸張ユニット３１０は、複数の圧縮動画伸張部３１１ａ−ｄ（以下、圧縮動画伸張部３１１と総称する。）を含む。
【００４９】
圧縮動画取得部３０１は、出力部２０７が出力した、対応づけられた複数の特徴領域動画データおよび背景領域動画データを取得する。対応付け解析部３０２は、例えば付帯されたタグ情報を解析して、圧縮動画取得部３０１が取得した対応づけられた複数の特徴領域動画データおよび背景領域動画データを取り出す。
【００５０】
圧縮動画伸張部３１１は、複数の特徴領域動画データおよび背景領域動画データを復号する。具体的には、圧縮動画伸張部３１１ａは背景領域動画データを復号する。また、圧縮動画伸張部３１１ｂ−ｄは、複数の特徴領域動画データのうち、一の特徴領域動画を復号して、複数の特徴領域動画および背景領域動画を取得する。なお、圧縮動画伸張部３１１ｂ−ｄは、特徴の種類ごとに設けられ、それぞれ、いずれかの種類の特徴領域動画データを復号する。
【００５１】
合成部３０３は、圧縮動画伸張部３１１が復号することによって得られた動画構成画像を合成する。具体的には、合成部３０３は、圧縮動画伸張部３１１ｂ−ｄにより復号された複数の特徴領域動画のそれぞれが含む動画構成画像の特徴領域の画像を、背景領域動画が含む動画構成画像に重ね合わせた動画構成画像を生成する。出力部３０４は、合成部３０３が生成した複数の動画構成画像を含む動画を、表示装置１８０に供給する。
【００５２】
なお、本実施形態の圧縮動画伸張ユニット３１０は、特徴の種類の数に応じた複数の圧縮動画伸張部３１１を含むが、他の形態では、圧縮動画伸張ユニット３１０が含む一の圧縮動画伸張部３１１が、背景領域動画データおよび複数の特徴領域動画データを順次復号してもよい。また、画像処理装置１２０から一の動画データとして提供される場合には、一の圧縮動画伸張部３１１が当該一の動画データを復号して、復号した得られた動画を出力部３０４が出力してもよい。
【００５３】
図４は、画像処理装置１２０の処理フローの一例を示す。圧縮動画取得部２０１が撮像動画データを取得（４０１）。圧縮動画伸張部２０２は、撮像動画データを復号することによって複数のフレーム画像４１０を生成する。特徴領域検出部２０３は、フレーム画像４１０の画像内容又は複数のフレーム画像４１０の画像内容に基づいて、特徴領域の一例であるＲＯＩ（Ｒｅｇｉｏｎ ｏｆ ｉｎｔｅｒｅｓｔ）を検出する（４０２）。
【００５４】
特徴領域検出部２０３は、人物の顔、人体、および移動物体を含む領域を、異なる種類のＲＯＩとして検出する。例えば、特徴領域検出部２０３は、予め定められた人物の顔に関するパターンに対する一致度が、予め定められた一致度より大きいオブジェクトを含む領域をパターンマッチング等により検出して、検出した顔領域をＲＯＩとする。また、特徴領域検出部２０３は、人物の体に関するパターンに対する一致度が予め定められた一致度より大きいオブジェクトを含む人体領域をパターンマッチング等により検出して、検出した領域をＲＯＩとする。なお、特徴領域検出部２０３は、顔領域の近傍に存在する領域から人体領域を検出してもよい。
【００５５】
また、特徴領域検出部２０３は、複数のフレーム画像の画像内容に基づいて、移動物体を含む領域である動領域を特定する。例えば、他のフレーム画像との間で画素値の変化量が予め定められた変化量より大きい領域を、動領域として特定する。他にも、特徴領域検出部２０３は、エッジ抽出等により複数のフレーム画像のそれぞれに含まれるオブジェクトを抽出する。そして、特徴領域検出部２０３は、他のフレーム画像の異なる位置に含まれるオブジェクトであって、予め定められた一致度より大きい一致度で一致するオブジェクトを特定して、特定したオブジェクトを含む領域を動領域として特定してもよい。
【００５６】
このように、特徴領域検出部２０３は、予め定められた画像内容に関する条件に適合する領域を、ＲＯＩとして検出する。より具体的には、特徴領域検出部２０３は、予め定められた条件に適合するオブジェクトを含む領域を、ＲＯＩとして検出する。例えば、特徴領域検出部２０３は、予め定められた形状との間の一致度が予め定められた一致度より大きいオブジェクトを含む領域を、ＲＯＩとして検出する。また、特徴領域検出部２０３は、画像の変化量が予め定められた変化量より大きい領域を、ＲＯＩとして検出する。例えば、他のフレーム画像との間で画素値の変化量が予め定められた変化量より大きい領域をＲＯＩとして検出する。
【００５７】
そして、画像処理装置１２０は、検出されたＲＯＩに基づいて圧縮用動画を生成する（４０３）。具体的には、画像分割部２０４は、フレーム画像をＲＯＩとそれ以外の領域に分割する。そして、画像生成部２０５は、複数のフレーム画像４１０を複製することによって、特徴領域動画４３０、特徴領域動画４４０、および特徴領域動画４５０と、背景領域動画４２０とを生成する。具体的には、画像生成部２０５は、複数のフレーム画像４１０を複製することによって、顔領域用の特徴領域動画４５０、人領域用の特徴領域動画４４０、動領域用の特徴領域動画４３０、および背景領域用の背景領域動画４２０を生成する。
【００５８】
そして、画像処理装置１２０は、固定値化部２１１および画質低減部２２１により、特徴領域動画４３０、特徴領域動画４４０、および特徴領域動画４５０と、背景領域動画４２０とに対して、画質を低減する（４０４ａ、４０４ｂ、４０４ｃ、４０４ｄ）。具体的には、固定値化部２１１は、特徴領域動画４３０、特徴領域動画４４０、および特徴領域動画４５０のそれぞれが含むフレーム画像において、画像分割部２０４が分割したＲＯＩ内の画素値は変化させず、ＲＯＩ以外の領域に対する画素値を所定の値（例えば、輝度値０）にする。なお、固定値化部２１１は、ＲＯＩ以外の領域の画素値を、当該ＲＯＩに近傍する領域の画素値の平均的な画素値にしてよい。
【００５９】
このように、画像生成部２０５および固定値化部２１１により、同じ視野角の複数のフレーム画像をそれぞれ含む特徴領域動画４３０、特徴領域動画４４０、および特徴領域動画４５０および背景領域動画４２０が生成される。なお、後に詳しく説明するように、画像処理装置１７０は、特徴領域動画４３０、特徴領域動画４４０、および特徴領域動画４５０のようなＲＯＩ以外の領域が固定値化されている動画を、背景領域動画４２０に重ね合わせた動画を生成する。したがって、背景領域動画４２０、特徴領域動画４３０、特徴領域動画４４０、および特徴領域動画４５０は、それぞれ背景レイヤー、動領域レイヤー、人領域レイヤー、および顔領域レイヤーとみなすことができる。
【００６０】
また、画質低減部２２１は、特徴領域動画４３０、特徴領域動画４４０、および特徴領域動画４５０のそれぞれが含むフレーム画像におけるＲＯＩ内の画像の画質を、特徴の種類に応じて低減する。具体的には、顔領域、人領域、および動領域のそれぞれの画質を定めるパラメータとして、解像度、階調数、および色数の少なくとも１つが予め定められている。例えば、顔領域、人領域、動領域の順に高い解像度が予め定められている。
【００６１】
そして、画質低減部２２１は、特徴領域動画４３０、特徴領域動画４４０、および特徴領域動画４５０のそれぞれが含むフレーム画像におけるＲＯＩ内の画像の画質を、特徴の種類に対して予め定められた解像度、階調数、および色数の画像に変換する。また、画質低減部２２１は、背景領域動画のフレーム画像の画質を、ＲＯＩ内の画像の画質より低くする。例えば、画質低減部２２１は、背景領域動画のフレーム画像の解像度を、ＲＯＩ内の画像のより小さくする。
【００６２】
また、画質低減部２２１は、背景領域動画４２０、特徴領域動画４３０、特徴領域動画４４０、および特徴領域動画４５０のフレームレートを低減する。例えば、特徴の種類ごとに、例えば顔領域、人領域、および動領域ごとに、予めフレームレートが定められている。そして、画質低減部２２１は、特徴領域動画４３０、特徴領域動画４４０、および特徴領域動画４５０に含まれるフレーム画像を、特徴の種類に応じて予め定められたフレームレートに従って所定の間隔で間引くことによって、特徴領域動画４３０、特徴領域動画４４０、および特徴領域動画４５０のフレームレートを低減する。また、画質低減部２２１は、背景領域動画４２０に含まれるフレーム画像を、背景領域動画のフレームレートとして予め定められたフレームレートに従って間引くことによって、背景領域動画４２０のフレームレートを低減する。
【００６３】
なお、画質低減部２２１ａは、背景領域動画４２０の画質を低減する。また、画質低減部２２１ｂ、画質低減部２２１ｃ、および画質低減部２２１ｄは、それぞれ特徴領域動画４３０、特徴領域動画４４０、および特徴領域動画４５０の画質を低減する。
【００６４】
そして、背景領域動画符号化部２３１ａ、および領域動画符号化部２３１ｂ−ｄは、画質低減部２２１により画質が低減された動画をそれぞれ符号化する（４０５ａ、４０５ｂ、４０５ｃ、４０５ｄ）。例えば、背景領域動画符号化部２３１ａ、および領域動画符号化部２３１ｂ−ｄは、画質低減部２２１により画質が低減された動画をそれぞれＭＰＥＧ符号化する。
【００６５】
例えば、背景領域動画符号化部２３１ａは、背景領域動画用の符号化設定で背景領域動画をＭＰＥＧ符号化する。特徴領域動画符号化部２３１ｂ、特徴領域動画符号化部２３１ｃ、および特徴領域動画符号化部２３１ｄは、それぞれ動領域、人領域、および顔領域のそれぞれの特徴領域動画用の符号化設定で、特徴領域動画をそれぞれＭＰＥＧ符号化する。なお、符号化設定は、例えばＭＰＥＧ符号化における量子化テーブルを設定することを含む。なお、符号化設定については図５に関連して説明する。
【００６６】
そして、対応付け処理部２０６は、背景領域動画符号化部２３１ａおよび特徴領域動画符号化部２３１ｂ−ｄが符号化することによって得られた背景領域動画データおよび複数の特徴領域動画データにタグ情報を付帯する等して関連付けして、出力部２０７が表示装置１８０に出力する（４０６）。このとき、対応付け処理部２０６は、背景領域動画および複数の特徴領域動画のそれぞれが含むフレーム画像の表示タイミングを示す情報を含むタイミング情報（例えば、タイムスタンプ）を、タグ情報等に付加してよい。また、対応付け処理部２０６は、複数の特徴領域の範囲をそれぞれ示す情報を含む特徴領域情報、背景領域動画および複数の特徴領域動画の元となった撮像動画データを撮像した撮像装置１００を識別する識別情報等を、タグ情報等に付加してよい。
【００６７】
以上説明したように、特徴領域検出部２０３は、画像である動画に含まれる複数の動画構成画像から、被写体の種類が異なる複数の特徴領域を検出する。そして、圧縮部２４０は、複数の特徴領域動画を、それぞれの被写体の種類に応じた強度で圧縮する。なお、本実施形態では、被写体の種類の一例として人物の顔および人体領域について説明したが、他の例では、自動車のナンバープレートおよびナンバープレート以外の車体を被写体の種類としてよい。
【００６８】
また、人物の正面の顔および横顔を被写体の種類としてもよい。また、静止している被写体および動いている被写体を被写体の種類としてもよい。また、特徴領域検出部２０３は、撮像装置１００から被写体までの距離が異なる複数の被写体を含む領域を、特徴の種類が異なる複数の特徴領域として検出してもよい。
【００６９】
なお、圧縮部２４０は、特徴の種類の一例である、動き領域、人体、人物の横顔、人物の正面の顔がに大きい圧縮強度で圧縮してよい。なお、本実施形態では、画像処理システム１０を監視システムとして利用する利用目的を鑑みて、人物の顔を含む領域をＲＯＩとして検出して、検出したＲＯＩをＲＯＩ以外の領域より高画質にするとした。しかしながら、画像処理システム１０を、例えば街角の風景を撮像するシステムとして利用することもできる。このような形態で画像処理システム１０を利用する場合には、個人情報を保護することを目的として、人物の顔を含む領域をＲＯＩとして検出して、検出したＲＯＩをＲＯＩ以外の領域より低画質にしてもよい。例えば圧縮部２４０は、人物の正面の顔、人物の横顔、人体、動き領域、背景領域の順に大きい圧縮強度で、特徴領域動画および背景領域動画を圧縮してよい。
【００７０】
その他にも、特徴領域検出部２０３は、複数のフレーム画像から、被写体の速度が異なる複数の特徴領域を検出してもよい。この場合、画質低減部２２１は、特徴領域動画を、被検体の速度がより速いほど、より高いフレームレートの動画に変換してもよい。このように、圧縮部２４０は、複数の特徴領域動画を、それぞれの被写体の速度に応じた強度で圧縮してよい。
【００７１】
以上説明したように、画像処理装置１２０は、特徴領域動画に含まれるフレーム画像におけるＲＯＩ以外の領域を固定値化して、視野角が同じ複数の特徴領域動画および背景領域動画を生成する。このため、画像処理装置１２０によると、特別に設計された符号化器を使用することなく、汎用の符号化器を使用して特徴領域動画を高い圧縮率で圧縮することができる場合がある。例えば、ＭＰＥＧ符号化等のように動きベクトルを用いて特徴領域動画を符号化すると、固定値化した領域中のマクロブロックについては画素値の差分値が０になる場合が多くなる。したがって、このような固定値化により、圧縮率を高く維持しながら画像処理装置１２０の製造コストを低減することができる場合がある。
【００７２】
以上の説明では、圧縮部２４０は、ＲＯＩ領域以外の領域が固定値化されたフレーム画像を含む特徴領域動画を圧縮することとした。なお、圧縮部２４０は、特徴領域動画に含まれるフレーム画像におけるＲＯＩ内の画像を切り出して圧縮して特徴領域動画として出力してもよい。
【００７３】
なお、特徴領域検出部２０３がＲＯＩを検出していない場合には、出力部２０７は、圧縮部２４０ａが出力する背景領域動画データを画像処理装置１７０に出力する。この場合、画像生成部２０５は特徴領域動画４３０、特徴領域動画４４０、および特徴領域動画４５０を生成しなくてよい。そして、画像生成部２０５は、特徴領域検出部２０３がＲＯＩを検出したことを条件として、特徴領域動画４３０、特徴領域動画４４０、および特徴領域動画４５０を生成して、出力部２０７は上記の処理によって生成された複数の特徴領域動画データおよび背景領域動画データを画像処理装置１７０に出力する。この間、圧縮部２４０ａは、背景領域動画４２０を圧縮すべく予め定められた背景領域用圧縮率で背景領域動画４２０を圧縮しつづけてよい。
【００７４】
その他にも、特徴領域検出部２０３がＲＯＩを検出していない間には、圧縮部２４０は、背景領域用圧縮率より低く、かつ、特徴領域動画を圧縮する圧縮率より高い、予め定められたＲＯＩ非検出期間圧縮率で、背景領域動画を圧縮してよい。そして、圧縮部２４０は、特徴領域検出部２０３がＲＯＩを検出したことを条件として、背景領域動画を背景領域用圧縮率で圧縮してよい。このとき、圧縮部２４０は、特徴領域動画をＲＯＩ非検出期間圧縮率より低い圧縮率で圧縮してよい。
【００７５】
なお、圧縮部２４０は、特徴領域検出部２０３がＲＯＩを検出してから予め定められた期間の背景領域動画をＲＯＩ非検出期間圧縮率で圧縮するとともに、予め定められた期間より長い期間が経過したことを条件として、背景領域動画を背景領域用圧縮率で圧縮してよい。こうすると、本来ＲＯＩとして検出されるべき領域がＲＯＩとして検出されなかった場合でも、ある程度の画質の背景領域動画を提供することができる場合がある。また、圧縮部２４０は、特徴領域検出部２０３が検出した複数のフレーム画像におけるＲＯＩ領域の位置から推定される他のフレーム画像におけるＲＯＩ領域を含む領域の画質を、他の領域の画質より高い画質にすべく、圧縮率を領域ごとに異ならせてもよい。
【００７６】
図５は、複数の特徴領域動画および背景領域動画の画質の一例を示す。ここでは、説明を簡単にすることを目的として、圧縮動画取得部２０１が取得した撮像動画データのフレームレートが１６ｆｐｓであり、当該撮像動画データに含まれるフレーム画像の解像度が７２ｄｐｉであるとする。
【００７７】
撮像動画に含まれるフレーム画像４１０の解像度に対する画質低減後の背景領域動画４２０に含まれるフレーム画像の解像度の比率を示す解像度比率は予め１／８と定められている。画質低減部２２１は、画像生成部２０５によって撮像動画が複製されることによって生成された画質低減前の背景領域動画４２０に含まれるフレーム画像に対して１／８の解像度である９ｄｐｉのフレーム画像を、画質低減前の背景領域動画４２０に含まれるフレーム画像の画素を間引くことによって生成する。また、撮像動画のフレームレートに対する画質低減後の背景領域動画４２０のフレームレートの比率を示すフレームレート比率は予め１／８と定められている。画質低減部２２１は、画質低減前の背景領域動画４２０のフレームレートの１／８のフレームレートである２ｆｐｓのフレームレートの背景領域動画４２０を、画質低減前の背景領域動画４２０に含まれるフレーム画像を間引くことによって生成する。
【００７８】
同様に、複数の特徴領域動画のそれぞれに対しても、解像度比率およびフレームレート比率が定められている。例えば、特徴領域動画４３０については解像度比率およびフレームレート比率は１／４が定められており、特徴領域動画４４０については解像度比率およびフレームレート比率として１／２が定められており、特徴領域動画４５０については解像度比率およびフレームレート比率として１／１が定められている。これにより、画質低減部２２１ｂは、フレームレートが４ｆｐｓ、フレーム画像の解像度が１８ｄｐｉの特徴領域動画４３０を生成する。また、画質低減部２２１ｃは、フレームレートが８ｆｐｓ、フレーム画像の解像度が３６ｄｐｉの特徴領域動画４４０を生成する。また、画質低減部２２１ｄは、フレームレートが１６ｆｐｓ、フレーム画像の解像度が７２ｄｐｉの特徴領域動画４５０を生成する。
【００７９】
なお、上記の例では、画質低減部２２１が複数の特徴領域動画および背景領域動画に含まれるフレーム画像の画素を間引くことによってフレーム画像の画質を低減する場合を例に挙げて説明した。その他にも、画質低減部２２１は、例えばローパスフィルタ等の、所定の周波数領域を通過するフィルタを用いてフレーム画像の画質を低減してもよい。この場合、フィルタが通過する周波数帯域および通過する度合いを示す強度は、特徴の種類ごと、例えば背景領域、動領域、人領域、および顔領域ごとに予め定められてよい。
【００８０】
なお、画質低減部２２１による画質低減に加えて、又は画質低減部２２１による画質低減に替えて、符号化部２３１がフレーム画像の画質を低減してもよい。例えば、符号化部２３１が、ＭＰＥＧ符号化における量子化テーブルの値を大きくすることによって、画質を低減することができる。量子化テーブルの値の大きさは、特徴の種類ごとに予め定められてよい。例えば、背景領域動画符号化部２３１ａおよび複数の特徴領域動画符号化部２３１ｂ−ｄのそれぞれが、予め設定された値を持つ量子化テーブルを用いて符号化してよい。また、量子化テーブルにおける周波数成分ごとの値が特徴の種類ごとに予め定められていてよい。
【００８１】
また、画質低減部２２１はさらに、背景領域動画に含まれる複数のフレーム画像を平均化してもよい。これによれば、移動物体を示すオブジェクトがフレーム画像に含まれている場合に、移動物体のオブジェクトが平均化されたフレーム画像が得られる。そして、このような複数のフレーム画像を連続表示させると、移動物体の動きが閲覧者の目に滑らかに映る場合がある。
【００８２】
なお、以上の説明では、画像生成部２０５が撮像動画を複製してから、複製して得られた複数の特徴領域動画および背景領域動画に含まれるフレーム画像を間引いたり、画素を間引いたりすることによって、複数の特徴領域動画および背景領域動画を圧縮する形態について説明した。その他にも、画像生成部２０５は、撮像動画に含まれる複数のフレーム画像をフレームレート比率に従って間引いて選択することによって、フレームレートが低減された複数の特徴領域動画および背景領域動画を生成してもよい。その後に、固定値化部２１１ａが固定値化して、画質低減部２２１が解像度を低減することによって、複数の特徴領域動画および背景領域動画の画質を低減してよい。
【００８３】
図６は、画像処理装置１７０の処理フローの一例を示す。圧縮動画取得部３０１は、画像処理装置１２０から、対応づけされた複数の特徴領域動画データおよび背景領域動画データを取得して、付帯されたタグ情報によりタイミング情報、撮像装置１００を識別する情報等を取得する（６０１）。そして、圧縮動画伸張部３１１は、それぞれ複数の特徴領域動画データおよび背景領域動画データを復号することにより、背景レイヤーを示す背景領域動画６１０を生成する。（６０２ａ）同時に、圧縮動画伸張部３１１は、動領域レイヤーを示す特徴領域動画６２０、人領域レイヤーを示す特徴領域動画６３０、および顔領域レイヤーを示す特徴領域動画６４０を生成する（６０２ｂ、６０２ｃ、および６０２ｄ）。
【００８４】
合成部３０３は、背景領域動画６１０並びに特徴領域動画６２０、特徴領域動画６３０、および特徴領域動画６４０に含まれるフレーム画像を合成する（６０３）。このとき、合成部３０３は、背景領域動画および複数の特徴領域動画のそれぞれに含まれるフレーム画像の解像度に応じて、最大の解像度を有するフレーム画像と同じ位置の被写体が重ね合うようフレーム画像を拡大して、拡大したフレーム画像を重ね合わせて合成フレーム画像を生成する。
【００８５】
このとき、合成部３０３は、特徴領域動画６２０、特徴領域動画６３０、および特徴領域動画６４０に含まれるフレーム画像における特徴領域の画像を切り出して、背景領域動画６１０に含まれるフレーム画像に上書きすることによって合成フレーム画像を生成する。また、合成部３０３は、背景領域動画６１０並びに特徴領域動画６２０、特徴領域動画６３０、および特徴領域動画６４０のフレームレートが異なる場合には、背景領域動画６１０並びに特徴領域動画６２０、特徴領域動画６３０、および特徴領域動画６４０の最新のフレーム画像を合成する。
【００８６】
これにより、合成部３０３は、合成フレーム画像を生成する。合成部３０３は、複数の合成フレーム画像を含む合成動画６５０を生成する。そして、出力部３０４は、圧縮動画取得部３０１が取得したタグ情報等に基づいて、合成動画を表示させる表示装置１８０を選択して、選択した表示装置１８０に合成動画を供給する（６０４）。
【００８７】
図７は、複数の動画構成画像において特徴領域を特定する方法の一例を示す。図７において、上段に示す動画７００は、特徴領域予測部２７１によって非検出画像における予測領域が特定された状態の動画を示す。一方、下段に示す動画７００は、特徴領域検出部２０３によって非検出画像における特徴領域が検出された状態の動画を示す。また、動画７００は、連続している動画構成画像７０１−７０５を含んでいる。
【００８８】
動画７００に含まれる動画構成画像のうち、動画構成画像７０１および動画構成画像７０２は、特徴領域検出部２０３によって、所定閾値を用いて、特徴領域が検出された検出画像を示す。また、動画７００に含まれる動画構成画像のうち、動画構成画像７０３、動画構成画像７０４、および動画構成画像７０５は、特徴領域検出部２０３によって、所定閾値を用いて、特徴領域が検出されなかった検出画像を示す。
【００８９】
図７の上段に示すように、特徴領域検出部２０３は、所定閾値を用いて、動画構成画像７０１から特徴領域７０１ａを検出しており、動画構成画像７０２から特徴領域７０２ａを検出している。一方、特徴領域検出部２０３は、所定閾値を用いて、動画構成画像７０３、動画構成画像７０４、および動画構成画像７０５からは特徴領域を検出していない。そのかわり、特徴領域予測部２７１が、動画構成画像７０３において予測領域７０３ａを特定している。また、特徴領域予測部２７１が、動画構成画像７０４において予測領域７０４ａを特定している。そして、特徴領域予測部２７１が、動画構成画像７０５において予測領域７０５ａを特定している。
【００９０】
その後、特徴領域検出制御部２７２に制御された特徴領域検出部２０３が、所定閾値より低い閾値を用いて、動画構成画像７０３における予測領域７０３ａから特徴領域７０３ｂを検出している。同様に、特徴領域検出部２０３が、所定閾値より低い閾値を用いて、動画構成画像７０４における予測領域７０４ａから特徴領域７０４ｂを検出している。同様に、特徴領域検出部２０３が、所定閾値より低い閾値を用いて、動画構成画像７０５における予測領域７０５ａから特徴領域７０５ｂを検出している。これにより、特徴領域検出部２０３は、図７の下段に示すように、動画構成画像７０１−７０５のそれぞれにおける特徴領域を特定したこととなる。
【００９１】
特徴領域予測部２７１は、特徴領域７０１ａの位置および特徴領域７０２ａの位置に基づいて、動画７００の動きベクトルを用いて、予測領域７０３ａ、予測領域７０４ａ、および予測領域７０５ａを特定している。なお、特徴領域予測部２７１は、特徴領域７０１ａの位置および特徴領域７０２ａの位置に基づいて、線形補間により、予測領域７０３ａ、予測領域７０４ａ、および予測領域７０５ａを特定してもよい。
【００９２】
このように、本実施形態の画像処理装置１２０は、検出画像に対しては、特徴領域検出部２０３が、所定閾値を用いて、特徴領域を検出している。一方、本実施形態の画像処理装置１２０は、非検出画像に対しては、特徴領域予測部２７１が予測領域を特定した後に、特徴領域検出部２０３が、所定閾値よりも低い閾値を用いて、予測領域から特徴領域を検出している。これにより、本実施形態の画像処理装置１２０を、実際の監視システムに適用した場合には、非検出画像において予測領域から特徴領域を検出しやすくなることから、特徴領域検出部２０３が特徴領域を検出するときの検出精度の高めることができる場合がある。また、非検出画像において特徴領域の検出対象とする領域を絞り込むことができることから、特徴領域検出部２０３が特徴領域を検出するときの処理時間を短縮することができる場合がある。
【００９３】
図８は、包含領域以外の領域を固定値化する方法の一例を示す。図８において、動画８００は、包含領域特定部２６１によって包含領域が特定され、固定値化部２１１によって包含領域以外の領域が固定値化された動画を示す。また、動画８００は、連続する動画構成画像８０１−８０５を含んでいる。
【００９４】
動画構成画像８０１−８０５のそれぞれにおいて、包含領域８１０は、包含領域特定部２６１によって特定された、動画構成画像８０１−８０５のそれぞれの特徴領域を包含する領域を示す。動画構成画像８０１−８０５のそれぞれの特徴領域のうち、動画構成画像８０１の特徴領域および動画構成画像８０２の特徴領域は、特徴領域検出部２０３により、所定閾値を用いて検出されている。また、動画構成画像８０３の特徴領域、動画構成画像８０４の特徴領域、および動画構成画像８０５の特徴領域は、特徴領域検出部２０３は、特徴領域検出部２０３により、所定閾値よりも低い閾値を用いて検出されている。
【００９５】
また、動画構成画像８０１−８０５のそれぞれにおいて、包含領域８１０以外の領域は、固定値化部２１１によって、画素値が「０」に固定値化されている。このように、本実施形態の画像処理装置１２０は、複数の動画構成画像の特徴領域を包含する包含領域を特定した後に、包含領域以外の領域を固定値化する。これにより、本実施形態の画像処理装置１２０を、実際の監視システムに適用した場合には、動画構成画像間における包含領域以外の領域における画素値の差分量を少なくすることができ、結果的に、動画構成画像間における差分データの圧縮率を高めることができる場合がある。
【００９６】
図９は、画像処理装置１２０および画像処理装置１７０のハードウェア構成の一例を示す。画像処理装置１２０および画像処理装置１７０は、ＣＰＵ周辺部と、入出力部と、レガシー入出力部とを備える。ＣＰＵ周辺部は、ホスト・コントローラ１５８２により相互に接続されるＣＰＵ１５０５、ＲＡＭ１５２０、グラフィック・コントローラ１５７５、および表示デバイス１５８０を有する。入出力部は、入出力コントローラ１５８４によりホスト・コントローラ１５８２に接続される通信インターフェイス１５３０、ハードディスクドライブ１５４０、およびＣＤ−ＲＯＭドライブ１５６０を有する。レガシー入出力部は、入出力コントローラ１５８４に接続されるＲＯＭ１５１０、フレキシブルディスク・ドライブ１５５０、および入出力チップ１５７０を有する。
【００９７】
ホスト・コントローラ１５８２は、ＲＡＭ１５２０と、高い転送レートでＲＡＭ１５２０をアクセスするＣＰＵ１５０５、およびグラフィック・コントローラ１５７５とを接続する。ＣＰＵ１５０５は、ＲＯＭ１５１０、およびＲＡＭ１５２０に格納されたプログラムに基づいて動作して、各部の制御をする。グラフィック・コントローラ１５７５は、ＣＰＵ１５０５等がＲＡＭ１５２０内に設けたフレーム・バッファ上に生成する画像データを取得して、表示デバイス１５８０上に表示させる。これに代えて、グラフィック・コントローラ１５７５は、ＣＰＵ１５０５等が生成する画像データを格納するフレーム・バッファを、内部に含んでもよい。
【００９８】
入出力コントローラ１５８４は、ホスト・コントローラ１５８２と、比較的高速な入出力装置であるハードディスクドライブ１５４０、通信インターフェイス１５３０、ＣＤ−ＲＯＭドライブ１５６０を接続する。ハードディスクドライブ１５４０は、ＣＰＵ１５０５が使用するプログラム、およびデータを格納する。通信インターフェイス１５３０は、ネットワーク通信装置１５９８に接続してプログラムまたはデータを送受信する。ＣＤ−ＲＯＭドライブ１５６０は、ＣＤ−ＲＯＭ１５９５からプログラムまたはデータを読み取り、ＲＡＭ１５２０を介してハードディスクドライブ１５４０、および通信インターフェイス１５３０に提供する。
【００９９】
入出力コントローラ１５８４には、ＲＯＭ１５１０と、フレキシブルディスク・ドライブ１５５０、および入出力チップ１５７０の比較的低速な入出力装置とが接続される。ＲＯＭ１５１０は、放射線撮像システムが起動時に実行するブート・プログラム、あるいは放射線撮像システムのハードウェアに依存するプログラム等を格納する。フレキシブルディスク・ドライブ１５５０は、フレキシブルディスク１５９０からプログラムまたはデータを読み取り、ＲＡＭ１５２０を介してハードディスクドライブ１５４０、および通信インターフェイス１５３０に提供する。入出力チップ１５７０は、フレキシブルディスク・ドライブ１５５０、あるいはパラレル・ポート、シリアル・ポート、キーボード・ポート、マウス・ポート等を介して各種の入出力装置を接続する。
【０１００】
ＣＰＵ１５０５が実行するプログラムは、フレキシブルディスク１５９０、ＣＤ−ＲＯＭ１５９５、またはＩＣカード等の記録媒体に格納されて利用者によって提供される。記録媒体に格納されたプログラムは圧縮されていても非圧縮であってもよい。プログラムは、記録媒体からハードディスクドライブ１５４０にインストールされ、ＲＡＭ１５２０に読み出されてＣＰＵ１５０５により実行される。
【０１０１】
ＣＰＵ１５０５により実行されるプログラムは、画像処理装置１２０を、図１から図９に関連して説明した圧縮動画取得部２０１、圧縮動画伸張部２０２、特徴領域検出部２０３、画像分割部２０４、および画像生成部２０５として機能させる。また、ＣＰＵ１５０５により実行されるプログラムは、画像処理装置１２０を、図１から図９に関連して説明した固定値化部２１１、画質低減部２２１、符号化部２３１、対応付け処理部２０６、および出力部２０７として機能させる。
【０１０２】
また、ＣＰＵ１５０５により実行されるプログラムは、画像処理装置１２０を、図１から図９に関連して説明した動きベクトル取得部２５１、特徴領域予測部２７１、特徴領域検出制御部２７２、および包含領域特定部２６１として機能させる。また、ＣＰＵ１５０５により実行されるプログラムは、画像処理装置１７０を、図１から図９に関連して説明した圧縮動画取得部３０１、対応付け解析部３０２、圧縮動画伸張部３１１、合成部３０３、および出力部３０４として機能させる。
【０１０３】
以上に示したプログラムは、外部の記憶媒体に格納されてもよい。記憶媒体としては、フレキシブルディスク１５９０、ＣＤ−ＲＯＭ１５９５の他に、ＤＶＤまたはＰＤ等の光学記録媒体、ＭＤ等の光磁気記録媒体、テープ媒体、ＩＣカード等の半導体メモリ等を用いることができる。また、専用通信ネットワークあるいはインターネットに接続されたサーバシステムに設けたハードディスクまたはＲＡＭ等の記憶装置を記録媒体として使用して、ネットワークを介したプログラムとして画像処理装置１２０および画像処理装置１７０に提供してもよい。
【０１０４】
以上、本発明を実施の形態を用いて説明したが、本発明の技術的範囲は上記実施の形態に記載の範囲には限定されない。上記実施の形態に、多様な変更または改良を加えることが可能であることが当業者に明らかである。その様な変更または改良を加えた形態も本発明の技術的範囲に含まれ得ることが、特許請求の範囲の記載から明らかである。
【図面の簡単な説明】
【０１０５】
【図１】一実施形態に係る画像処理システム１０の一例を示す。
【図２】画像処理装置１２０のブロック構成の一例を示す。
【図３】画像処理装置１７０のブロック構成の一例を示す。
【図４】画像処理装置１２０の処理フローの一例を示す。
【図５】複数の特徴領域動画および背景領域動画の画質の一例を示す。
【図６】画像処理装置１７０の処理フローの一例を示す。
【図７】複数の動画構成画像において特徴領域を特定する方法の一例を示す。
【図８】包含領域以外の領域を固定値化する方法の一例を示す。
【図９】画像処理装置１２０および画像処理装置１７０のハードウェア構成の一例を示す。
【符号の説明】
【０１０６】
１０ 画像処理システム
１００ 撮像装置
１１０ 通信ネットワーク
１２０ 画像処理装置
１３０ 人物
１４０ 移動物体
１５０ 監視対象空間
１６０ 空間
１７０ 画像処理装置
１８０ 表示装置
２０１ 圧縮動画取得部
２０２ 圧縮動画伸張部
２０３ 特徴領域検出部
２０４ 画像分割部
２０５ 画像生成部
２０６ 対応付け処理部
２０７ 出力部
２１０ 固定値化ユニット
２１１ 固定値化部
２２０ 低減化ユニット
２２１ 画質低減部
２３０ 符号化ユニット
２３１ 符号化部
２３１ａ 背景領域動画符号化部
２３１ｂ−ｄ 特徴領域動画符号化部
２４０ 圧縮部
２５１ 動きベクトル取得部
２７１ 特徴領域予測部
２７２ 特徴領域検出制御部
２６０ 包含領域特定ユニット
２６１ 包含領域特定部
３０１ 圧縮動画取得部
３０２ 対応付け解析部
３１０ 圧縮動画伸張ユニット
３１１ 圧縮動画伸張部
３０３ 合成部
３０４ 出力部
【特許請求の範囲】
【請求項１】
動画に含まれる動画構成画像から、所定閾値を用いて、特徴領域を検出する特徴領域検出部と、
前記特徴領域が検出された前記動画構成画像である検出画像における前記特徴領域の位置に基づいて、前記検出画像の他の前記動画構成画像である非検出画像において前記特徴領域が検出されるべき領域である予測領域を特定する特徴領域予測部と、
前記非検出画像の前記予測領域から、前記所定閾値よりも低い閾値を用いて、前記特徴領域検出部に前記特徴領域を検出させる特徴領域検出制御部と
を備える画像処理装置。
【請求項２】
前記特徴領域検出制御部は、
前記非検出画像の前記予測領域から、前記所定閾値よりも低い閾値を用いて、前記特徴領域を前記特徴領域検出部に検出させ、
前記非検出画像の前記予測領域以外の領域から、前記所定閾値を用いて、前記特徴領域を前記特徴領域検出部に検出させる請求項１に記載の画像処理装置。
【請求項３】
前記特徴領域予測部は、前記非検出画像より前にある複数の前記検出画像のそれぞれにおける前記特徴領域の位置に基づいて、前記非検出画像において前記予測領域を特定する請求項１に記載の画像処理装置。
【請求項４】
前記特徴領域予測部は、前記非検出画像より前にある前記検出画像、及び前記非検出画像より後にある前記検出画像のそれぞれにおける前記特徴領域の位置に基づいて、前記非検出画像において前記予測領域を特定する請求項１に記載の画像処理装置。
【請求項５】
前記動画における被写体の動きベクトルを取得する動きベクトル取得部をさらに備え、
前記特徴領域予測部は、前記検出画像における前記特徴領域の位置および前記動きベクトルに基づいて、前記非検出画像において前記予測領域を特定する請求項１に記載の画像処理装置。
【請求項６】
前記動きベクトルを含む圧縮された動画を取得する圧縮動画取得部と、
前記圧縮動画取得部によって取得された前記動画を伸張する圧縮動画伸張部と
をさらに備え、
前記特徴領域検出部は、前記圧縮動画伸張部によって伸張された前記動画に含まれる前記動画構成画像から、前記所定閾値を用いて、前記特徴領域を検出し、
前記動きベクトル取得部は、前記圧縮動画取得部によって取得された前記動画に含まれる前記動きベクトルを取得し、
前記特徴領域予測部は、前記検出画像における前記特徴領域の位置および前記動きベクトルに基づいて、前記圧縮動画伸張部によって伸張された前記動画に含まれる前記非検出画像において前記予測領域を特定する請求項１に記載の画像処理装置。
【請求項７】
前記圧縮動画取得部は、前記動きベクトルを含むＭＰＥＧ動画を取得し、
前記圧縮動画伸張部は、前記圧縮動画取得部によって取得された前記ＭＰＥＧ動画を伸張し、
前記特徴領域検出部は、前記圧縮動画伸張部によって伸張された前記ＭＰＥＧ動画に含まれる前記動画構成画像から、前記所定閾値を用いて、前記特徴領域を検出し、
前記動きベクトル取得部は、前記圧縮動画取得部によって取得された前記ＭＰＥＧ動画に含まれる前記動きベクトルを取得する請求項６に記載の画像処理装置。
【請求項８】
前記検出画像および前記非検出画像のそれぞれを、前記特徴領域と、前記特徴領域以外の背景領域とに分割する画像分割部と、
前記特徴領域の画像と前記背景領域の画像とを、それぞれ異なる強度で符号化する符号化部と
をさらに備える請求項１に記載の画像処理装置。
【請求項９】
前記検出画像および前記非検出画像において特定された前記特徴領域を包含する包含領域を特定する包含領域特定部と、
前記検出画像および前記非検出画像のそれぞれにおける前記包含領域以外の領域の画素値を固定値化する固定値化部とをさらに備え、
前記符号化部は、前記包含領域の画像と、前記包含領域以外の領域の画像とを、それぞれ異なる強度で圧縮する請求項８に記載の画像処理装置。
【請求項１０】
動画に含まれる動画構成画像から、所定閾値を用いて、特徴領域を検出する特徴領域検出段階と、
前記特徴領域が検出された前記動画構成画像である検出画像における前記特徴領域の位置に基づいて、前記検出画像の他の前記動画構成画像である非検出画像において前記特徴領域が検出されるべき領域である予測領域を特定する特徴領域予測段階と、
前記非検出画像の前記予測領域から、前記所定閾値よりも低い閾値を用いて、前記特徴領域検出段階に前記特徴領域を検出させる特徴領域検出制御段階と
を備える画像処理方法。
【請求項１１】
画像を符号化する画像処理装置用のプログラムであって、前記画像処理装置を、
動画に含まれる動画構成画像から、所定閾値を用いて、特徴領域を検出する特徴領域検出部、
前記特徴領域が検出された前記動画構成画像である検出画像における前記特徴領域の位置に基づいて、前記検出画像の他の前記動画構成画像である非検出画像において前記特徴領域が検出されるべき領域である予測領域を特定する特徴領域予測部、
前記非検出画像の前記予測領域から、前記所定閾値よりも低い閾値を用いて、前記特徴領域検出部に前記特徴領域を検出させる特徴領域検出制御部
として機能させるプログラム。
【請求項１】
動画に含まれる動画構成画像から、所定閾値を用いて、特徴領域を検出する特徴領域検出部と、
前記特徴領域が検出された前記動画構成画像である検出画像における前記特徴領域の位置に基づいて、前記検出画像の他の前記動画構成画像である非検出画像において前記特徴領域が検出されるべき領域である予測領域を特定する特徴領域予測部と、
前記非検出画像の前記予測領域から、前記所定閾値よりも低い閾値を用いて、前記特徴領域検出部に前記特徴領域を検出させる特徴領域検出制御部と
を備える画像処理装置。
【請求項２】
前記特徴領域検出制御部は、
前記非検出画像の前記予測領域から、前記所定閾値よりも低い閾値を用いて、前記特徴領域を前記特徴領域検出部に検出させ、
前記非検出画像の前記予測領域以外の領域から、前記所定閾値を用いて、前記特徴領域を前記特徴領域検出部に検出させる請求項１に記載の画像処理装置。
【請求項３】
前記特徴領域予測部は、前記非検出画像より前にある複数の前記検出画像のそれぞれにおける前記特徴領域の位置に基づいて、前記非検出画像において前記予測領域を特定する請求項１に記載の画像処理装置。
【請求項４】
前記特徴領域予測部は、前記非検出画像より前にある前記検出画像、及び前記非検出画像より後にある前記検出画像のそれぞれにおける前記特徴領域の位置に基づいて、前記非検出画像において前記予測領域を特定する請求項１に記載の画像処理装置。
【請求項５】
前記動画における被写体の動きベクトルを取得する動きベクトル取得部をさらに備え、
前記特徴領域予測部は、前記検出画像における前記特徴領域の位置および前記動きベクトルに基づいて、前記非検出画像において前記予測領域を特定する請求項１に記載の画像処理装置。
【請求項６】
前記動きベクトルを含む圧縮された動画を取得する圧縮動画取得部と、
前記圧縮動画取得部によって取得された前記動画を伸張する圧縮動画伸張部と
をさらに備え、
前記特徴領域検出部は、前記圧縮動画伸張部によって伸張された前記動画に含まれる前記動画構成画像から、前記所定閾値を用いて、前記特徴領域を検出し、
前記動きベクトル取得部は、前記圧縮動画取得部によって取得された前記動画に含まれる前記動きベクトルを取得し、
前記特徴領域予測部は、前記検出画像における前記特徴領域の位置および前記動きベクトルに基づいて、前記圧縮動画伸張部によって伸張された前記動画に含まれる前記非検出画像において前記予測領域を特定する請求項１に記載の画像処理装置。
【請求項７】
前記圧縮動画取得部は、前記動きベクトルを含むＭＰＥＧ動画を取得し、
前記圧縮動画伸張部は、前記圧縮動画取得部によって取得された前記ＭＰＥＧ動画を伸張し、
前記特徴領域検出部は、前記圧縮動画伸張部によって伸張された前記ＭＰＥＧ動画に含まれる前記動画構成画像から、前記所定閾値を用いて、前記特徴領域を検出し、
前記動きベクトル取得部は、前記圧縮動画取得部によって取得された前記ＭＰＥＧ動画に含まれる前記動きベクトルを取得する請求項６に記載の画像処理装置。
【請求項８】
前記検出画像および前記非検出画像のそれぞれを、前記特徴領域と、前記特徴領域以外の背景領域とに分割する画像分割部と、
前記特徴領域の画像と前記背景領域の画像とを、それぞれ異なる強度で符号化する符号化部と
をさらに備える請求項１に記載の画像処理装置。
【請求項９】
前記検出画像および前記非検出画像において特定された前記特徴領域を包含する包含領域を特定する包含領域特定部と、
前記検出画像および前記非検出画像のそれぞれにおける前記包含領域以外の領域の画素値を固定値化する固定値化部とをさらに備え、
前記符号化部は、前記包含領域の画像と、前記包含領域以外の領域の画像とを、それぞれ異なる強度で圧縮する請求項８に記載の画像処理装置。
【請求項１０】
動画に含まれる動画構成画像から、所定閾値を用いて、特徴領域を検出する特徴領域検出段階と、
前記特徴領域が検出された前記動画構成画像である検出画像における前記特徴領域の位置に基づいて、前記検出画像の他の前記動画構成画像である非検出画像において前記特徴領域が検出されるべき領域である予測領域を特定する特徴領域予測段階と、
前記非検出画像の前記予測領域から、前記所定閾値よりも低い閾値を用いて、前記特徴領域検出段階に前記特徴領域を検出させる特徴領域検出制御段階と
を備える画像処理方法。
【請求項１１】
画像を符号化する画像処理装置用のプログラムであって、前記画像処理装置を、
動画に含まれる動画構成画像から、所定閾値を用いて、特徴領域を検出する特徴領域検出部、
前記特徴領域が検出された前記動画構成画像である検出画像における前記特徴領域の位置に基づいて、前記検出画像の他の前記動画構成画像である非検出画像において前記特徴領域が検出されるべき領域である予測領域を特定する特徴領域予測部、
前記非検出画像の前記予測領域から、前記所定閾値よりも低い閾値を用いて、前記特徴領域検出部に前記特徴領域を検出させる特徴領域検出制御部
として機能させるプログラム。
【図１】
【図２】
【図３】
【図４】
【図５】
【図６】
【図７】
【図８】
【図９】
【図２】
【図３】
【図４】
【図５】
【図６】
【図７】
【図８】
【図９】
【公開番号】特開２００９−２７５６３（Ｐ２００９−２７５６３Ａ）
【公開日】平成２１年２月５日（２００９．２．５）
【国際特許分類】
【出願番号】特願２００７−１９０１５１（Ｐ２００７−１９０１５１）
【出願日】平成１９年７月２０日（２００７．７．２０）
【出願人】（３０６０３７３１１）富士フイルム株式会社 (25,513)
【Ｆターム（参考）】
【公開日】平成２１年２月５日（２００９．２．５）
【国際特許分類】
【出願日】平成１９年７月２０日（２００７．７．２０）
【出願人】（３０６０３７３１１）富士フイルム株式会社 (25,513)
【Ｆターム（参考）】
[ Back to top ]