全方位監視画像処理システム
【課題】単眼カメラで撮影した各フレーム単位の360°監視映像について、その全体映像を細部に亘り明瞭に表示できるとともに、360°監視映像の一部に存在する監視対象物となる動物体若しくは静物体を細部に亘り明瞭に表示することができる。
【解決手段】ブロッキング輝度伸張処理部20は、画像バッファメモリ13に記憶された楕円面の360°全周入力画像(Pa)とオブジェクト画像バッファメモリ19に記憶された切り出し画像(オブジェクト画像)を処理対象に、表示出力する画像に対して画素単位のブロッキング輝度伸張処理を実施する。
【解決手段】ブロッキング輝度伸張処理部20は、画像バッファメモリ13に記憶された楕円面の360°全周入力画像(Pa)とオブジェクト画像バッファメモリ19に記憶された切り出し画像(オブジェクト画像)を処理対象に、表示出力する画像に対して画素単位のブロッキング輝度伸張処理を実施する。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、単眼カメラで撮影した全方位画像から設定対象物の検知処理を実施する全方位監視画像処理システムに関する。
【背景技術】
【0002】
単眼カメラに360°レンズを取り付け、当該カメラで撮影した映像をカメラの全周に亘る監視映像として出力する360°監視システムが種々開発され実用化されている。この種、従来の360°監視システムは、カメラの全周が1フレームに収まるNTSC映像であることから、部分映像の解像度が低く、360°の全周映像について、そのすべてを目視で監視するには限界があり、細部に亘る監視は困難であった。
【0003】
また、例え監視映像を高解像度にしても、360°の全周映像には、明るさの大きく異なる場所が含まれる場合が多く、明暗の大きく異なる部分のすべてを同時に目視にて監視することは困難であった。
【0004】
また、360°の全周映像から、予め設定した動物体若しくは静止物体を監視対象物として検知し追跡する画像処理システムを構築した場合、360°の全周映像内のごく一部の領域に存在する監視対象物を明瞭に表示することができず、監視対象物の細部に亘る表示が困難であった。
【0005】
この種の全方位監視カメラシステムとして、従来では、特定の動体画像のみを高画質で記録する監視カメラ技術(特許文献1)、全体映像と部分的拡大映像とを外部に伝送する撮像データの伝送システム(特許文献2)等が存在した。
【先行技術文献】
【特許文献】
【0006】
【特許文献1】特開2006−121320公報
【特許文献2】特開2004−153605公報
【発明の概要】
【発明が解決しようとする課題】
【0007】
上述したように、単眼カメラに360°レンズを取り付け、当該カメラで撮影した映像をカメラの全周に亘る監視映像として出力する360°監視システムにおいては、明るさの大きく異なる場所が含まれる場合が多く、明暗の大きく異なる部分のすべてを同時に目視にて監視することは困難であった。また、360°の全周映像から、予め設定した動物体若しくは静止物体を監視対象物として検知し追跡する画像処理システムを構築した場合、360°の全周映像内のごく一部の領域に存在する監視対象物を明瞭に表示することができず、監視対象物の細部に亘る表示が困難であった。
【0008】
本発明は上記実情に鑑みなされたもので、単眼カメラで撮影した各フレーム単位の360°監視映像について、その全体映像を細部に亘り明瞭に表示できるとともに、360°監視映像の一部に存在する監視対象物となる動物体若しくは静物体を細部に亘り明瞭に表示することのできる全方位監視画像処理システムを提供することを目的とする。
【課題を解決するための手段】
【0009】
本発明は、360°全周監視映像をフレーム単位にキャプチャする監視映像入力手段と、前記監視映像入力手段がキャプチャしたフレーム単位の監視映像を入力画像として記憶する入力画像記憶手段と、前記監視映像入力手段がキャプチャしたフレーム単位の監視映像を、監視対象の検知に用いる小画素単位にリサイズし、リサイズした監視映像を処理用入力画像として時系列に複数フレーム分記憶する処理画像記憶手段と、前記リサイズした監視映像に対し前処理を実施して監視対象を検知するための閾値を決定し、決定した閾値と前記処理画像記憶手段に記憶した複数フレームの処理用入力画像をもとに、前記リサイズした直近の処理用入力画像から設定パラメータに従う動物体若しくは静止物体を監視対象として検知する検知処理を実施し、監視対象を検知したとき前記処理画像記憶手段に記憶した直近の処理用入力画像から前記検知した監視対象を囲う矩形の領域を抽出する画像処理手段と、前記画像処理手段が抽出した矩形の領域の中心位置をもとに前記入力画像記憶手段に記憶された入力画像に対して切り出し処理を実施し、切り出した画像に対して歪曲収差を補正する補正処理を実施する監視画像処理手段と、前記監視画像処理手段が補正処理した画像を監視対象画像として記憶する監視対象画像記憶手段と、前記監視対象画像記憶手段に記憶した監視対象画像に対して画素単位のブロッキング輝度伸張処理を実施するブロッキング輝度伸張処理手段と、前記ブロッキング輝度伸張処理手段により前記輝度伸張処理を施した監視対象画像を表示する表示出力手段と、を具備した全方位監視画像処理システムを提供する。
【0010】
また本発明は、360°全周監視映像をフレーム単位にキャプチャする監視映像入力手段と、前記監視映像入力手段がキャプチャしたフレーム単位の監視映像を入力画像として記憶する入力画像記憶手段と、前記監視映像入力手段がキャプチャしたフレーム単位の監視映像を、監視対象の検知に用いる小画素単位にリサイズし、リサイズした監視映像を処理用入力画像として時系列に複数フレーム分記憶する処理画像記憶手段と、前記リサイズした監視映像に対し前処理を実施して監視対象を検知するための閾値を決定し、決定した閾値と前記処理画像記憶手段に記憶した複数フレームの処理用入力画像をもとに、前記リサイズした直近の処理用入力画像から設定パラメータに従う動物体若しくは静止物体を監視対象として検知する検知処理を実施し、監視対象を検知したとき前記処理画像記憶手段に記憶した直近の処理用入力画像から前記検知した監視対象を囲う矩形の領域を抽出する画像処理手段と、前記画像処理手段が抽出した矩形の領域の中心位置をもとに前記入力画像記憶手段に記憶された入力画像に対して切り出し処理を実施し、切り出した画像に対して歪曲収差を補正する補正処理を実施する監視画像処理手段と、前記監視画像処理手段が補正処理した画像を監視対象画像として記憶する監視対象画像記憶手段と、前記監視対象画像記憶手段に記憶した監視対象画像および前記入力画像記憶手段に記憶した入力画像に対して画素単位のブロッキング輝度伸張処理を実施するブロッキング輝度伸張処理手段と、前記ブロッキング輝度伸張処理手段により輝度伸張処理を施した監視対象画像を表示する表示出力手段と、
を具備した全方位監視画像処理システムを提供する。
【0011】
また本発明は、360°全周監視映像をフレーム単位にキャプチャする監視映像入力手段と、前記監視映像入力手段がキャプチャしたフレーム単位の監視映像を入力画像として記憶する入力画像記憶手段と、前記監視映像入力手段がキャプチャしたフレーム単位の監視映像を、監視対象の検知に用いる小画素単位にリサイズし、リサイズした監視映像を処理用入力画像として時系列に複数フレーム分記憶する処理画像記憶手段と、前記リサイズした監視映像に対し前処理を実施して監視対象を検知するための閾値を決定し、決定した閾値と前記処理画像記憶手段に記憶した複数フレームの処理用入力画像をもとに、前記リサイズした直近の処理用入力画像から設定パラメータに従う動物体若しくは静止物体を監視対象として検知する検知処理を実施し、監視対象を検知したとき前記処理画像記憶手段に記憶した直近の処理用入力画像から前記検知した監視対象を囲う矩形の領域を抽出する画像処理手段と、前記画像処理手段が抽出した矩形の領域の中心位置をもとに前記入力画像記憶手段に記憶された入力画像に対して切り出し処理を実施し、切り出した画像に対して歪曲収差を補正する補正処理を実施する監視画像処理手段と、前記監視画像処理手段が補正処理した画像を監視対象画像として記憶する監視対象画像記憶手段と、前記画像処理手段が前記検知処理において前記監視対象を検出しない状態にあるとき前記入力画像記憶手段に記憶した入力画像に対して画素単位のブロッキング輝度伸張処理を実施し、前記画像処理手段が前記検知処理において前記監視対象を検出している状態にあるとき前記監視対象画像記憶手段に記憶した監視対象画像に対して画素単位のブロッキング輝度伸張処理を実施するブロッキング輝度伸張処理手段と、前記ブロッキング輝度伸張処理手段により輝度伸張処理を施した監視対象画像を表示する表示出力手段と、を具備した全方位監視画像処理システムを提供する。
【0012】
また前記全方位監視画像処理システムにおいて、前記ブロッキング輝度伸張処理手段は、輝度伸張処理の対象となる入力画像について、設定された注目エリアを複数のブロックに分割し、分割したブロック各々について、周囲のブロックの輝度値を畳み込んだ複数のブロックの輝度値をもとにブロック単位の輝度伸張パラメータを算出し、当該輝度伸張パラメータをもとにブロック単位の輝度変換テーブルを作成するブロック処理手段と、前記ブロック処理手段により作成されたブロック単位の輝度変換テーブルをもとに、分割したブロック各々の各画素について、ブロック毎に、周囲のブロックの輝度変換テーブルを参照してバイリニア補間を実施する補間処理手段と、前記補間処理手段によりバイリニア補間を施した前記各ブロックの画素をもとに前記入力画像に対する輝度伸張出力画像を作成する画像変換手段と、を具備したことを特徴とする。
【発明の効果】
【0013】
本発明によれば、単眼カメラで撮影した各フレーム単位の360°監視映像について、その全体映像を細部に亘り明瞭に表示できるとともに、360°監視映像の一部に存在する監視対象物となる動物体若しくは静物体を細部に亘り明瞭に表示することができる。
【図面の簡単な説明】
【0014】
【図1】本発明の実施形態に係る全方位監視画像処理システムの構成を示すブロック図。
【図2】上記実施形態に係る画像処理部の機能構成を示すブロック図。
【図3】上記実施形態に係る処理の手順を示すフローチャート。
【図4】上記実施形態に係るブロッキング輝度伸張処理手段の構成要素を示すブロック図。
【図5】上記実施形態に係る輝度伸張処理部の輝度伸張処理動作を説明するための動作説明図。
【図6】上記実施形態に係るブロッキング輝度伸張処理動作を説明するための動作説明図。
【図7】上記実施形態に係るブロッキング輝度伸張処理動作を説明するための動作説明図。
【図8】上記実施形態に係る畳み込み処理動作を説明するための動作説明図。
【図9】上記実施形態に係る畳み込み処理動作を説明するための動作説明図。
【図10】上記実施形態に係るバイリニア補間処理動作を説明するための動作説明図。
【図11】上記実施形態に係る輝度伸張処理部の構成を示すブロック図。
【図12】上記実施形態に係る輝度伸張処理部の処理手順を示すフローチャート。
【図13】上記実施形態に係る全方位(360°全周)監視画像の一例を示す図。
【図14】上記図14に示す360°全周監視画像から切り出した切り出し画像の一例を示す図。
【図15】上記実施形態において楕円映像(360°全周監視画像)の中で仮想自動追尾機能を実現するイメージを示す図。
【図16】上記図15に示す仮想自動追尾機能によりトラッキングした監視対象オブジェクトの切り出し画像表示例を示す図。
【図17】上記図15に示す仮想自動追尾機能によりトラッキングした監視対象オブジェクトの切り出し画像表示例を示す図。
【発明を実施するための形態】
【0015】
以下図面を参照して本発明の実施形態を説明する。なお、この実施形態では、カメラ(単眼カメラ)から取り込んだ1フレーム(1画面)分の画像データを、単に画像若しくは監視映像と称している。
【0016】
本発明の実施形態に係る全方位監視画像処理システムは、1.3メガ(M)ピクセル以上の画素数を有する高画素(高精細)の単眼カメラ(1台のカメラ)に、360°レンズ(魚眼レンズ)を取り付け、このカメラで撮影した映像から、設定パラメータに従う動物体(例えば人物)、静止物体(放置物)などの対象物を監視対象として検出しトラッキングして追尾する処理技術に係るもので、上記単眼カメラで撮影した360°全周高精細監視映像(全方位監視画像)を入力画像として、当該入力画像と、当該入力画像から切り出した切り出し画像を対象に、任意の出力対象画像に対してブロッキング輝度伸張による明暗補正を実施し、表示出力することを特徴とする。なお、切り出し画像については歪曲収差を補正後、ブロッキング輝度伸張による明暗補正を施す。
【0017】
本発明の実施形態に係る全方位監視画像処理システムの構成を図1に示している。
【0018】
本発明の実施形態に係る全方位監視画像処理システムは、図1に示すように、単眼カメラ(ipカメラ)11と、キャプチャ部12と、画像バッファメモリ13と、リサイズ部14と、処理画像バッファメモリ15と、画像処理部16と、オブジェクト情報バッファメモリ17と、注目領域画像作成処理部18と、オブジェクト画像バッファメモリ19と、ブロッキング輝度伸張処理部20と、表示部(表示デバイス)21とを具備して構成される。
【0019】
単眼カメラ11およびキャプチャ部12は、360°全周監視映像をフレーム単位にキャプチャする監視映像入力手段を構成する。
【0020】
単眼カメラ11は、撮像窓に360°魚眼レンズ11Aを取り付けた1.3Mピクセル以上の画素数を有する高精細の監視カメラを構成し、楕円面の360°全周高精細監視映像を監視画像(Pa)として出力する。ここでは、楕円面の長辺と短辺を、1フレームの幅と高さに合わせた、横×縦=1280×960画素の360°全周高精細監視映像を監視画像(Pa)として出力する。この楕円面の360°全周監視画像(Pa)の一例を図13に示し、この楕円面の360°全周監視画像(Pa)から切り出した切り出し画像(q1)の一例を図15に示している。
【0021】
キャプチャ部12は、上記カメラ11が撮像したフレーム単位(1280×960画素)の監視画像(Pa)を入力画像として取り込み、画像バッファメモリ13に記憶する処理機能をもつ。
【0022】
画像バッファメモリ13は、キャプチャ部12がキャプチャしたフレーム単位の監視映像(Pa)を入力画像として記憶する入力画像記憶手段を構成する。ここでは横×縦=1280×960画素の360°全周高精細監視映像(Pa)を入力画像として記憶する。
【0023】
リサイズ部14および処理画像バッファメモリ15は、監視映像入力手段の構成要素であるキャプチャ部12がキャプチャしたフレーム単位の入力画像を、設定した画像処理単位、すなわち監視対象の検知および追跡に用いる小画素単位にリサイズし、リサイズした入力画像を処理用入力画像として時系列に複数フレーム分記憶する処理画像記憶手段を構成する。
【0024】
ここでは、リサイズ部14において、1280×960画素構成(Quad−VGA)の入力画像(Pa)を表示部(表示デバイス)21の画素構成に合わせた640×480画素構成(VGA)の表示用入力画像にリサイズし、さらに、入力画像(Pa)を監視対象の検知並びに追跡処理に用いる320×480画素構成(QVGA)の処理用入力画像にリサイズして、処理画像バッファメモリ15に、直近の入力画像を含み時系列に複数フレーム分(例えば30〜60フレーム分)記憶する。このリサイズによって監視対象の検知並びに追跡処理に係る処理負荷の軽減と処理の高速化を図っている。なお、ここでは単眼カメラ11で撮影した直近の入力画像を含む複数フレーム分としているが、これに限らず、例えば図2に示すように、単眼カメラ11で撮影したライブ映像を大容量記憶媒体22に記憶した時系列の録画映像を入力画像(Pa)として入力してもよい。
【0025】
画像処理部16は、上記処理画像記憶手段の構成要素である処理画像バッファメモリ15に記憶した監視映像(処理用入力画像)に対し前処理を実施して監視対象を検知するための閾値を決定し、決定した閾値と上記処理画像バッファメモリ15に記憶した複数フレームの監視映像をもとに、上記リサイズした直近の監視映像(処理用入力画像)から設定パラメータ(PM1)に従う動物体若しくは静止物体を監視対象として検知する検知処理を実施し、監視対象を検知したとき上記処理画像バッファメモリ15に記憶した直近の監視映像(処理用入力画像)から上記検知した監視対象を囲う矩形の領域を領域情報として抽出する画像処理手段を構成する。外部から設定される設定パラメータ(PM1)は、監視対象の検知および追跡パラメータとして、監視対象が動物体であるか静止物体であるかを指定する検知物指定情報と、360°全周画像における検知対象エリアを指定する検知エリア指定情報と、360°全周画像における監視対象の領域サイズを指定する検知物サイズ指定情報と、監視対象の検知時間帯を指定する時間情報とが含まれ、これらの各設定情報をもとに監視対象の検知および追跡処理を実施する。また、表示パラメータとして、監視画像表示モードを指定する表示モード指定情報、表示画面上の表示位置および領域を指定する表示位置および領域指定情報、表示輝度およびコントラストを指定する表示制御情報とを含み、これらの各設定情報をもとに表示部(表示デバイス)21に360°全周画像や切り出し画像が表示される。
【0026】
この画像処理手段は、上記リサイズした監視映像から複数の監視対象を検知したとき、監視対象毎に、監視対象をカメラで追尾するように、監視対象毎に時系列に矩形の領域を追跡する仮想自動追跡処理を実施する。また、ここでは、動物体と静止物体を監視対象に、そのいずれかの物体を監視対象(検知対象)としていることから、検知対象が動物体であるときと静止物体であるときとでそれぞれ異なる閾値を決定する。この閾値の決定手段として、動物体を監視対象とした動物体検知用閾値の決定手段と、静止物体を監視対象とした静止物体検知用閾値の決定手段とを用意する。
【0027】
この実施形態では、動物体検知用閾値の決定手段として、本願出願人において既に出願した特開2010−204704号公報の閾値決定技術を適用し、静止物体検知用閾値の決定手段として、同じく本願出願人において既に出願した特開2010−206286号公報の閾値決定技術を適用している。
【0028】
この実施形態における動物体検知用閾値の決定手段は、上記処理画像バッファメモリ15に記憶した一定期間内の複数の画像を対象に、画素あたりの輝度平均値と標準偏差を算出する標準偏差算出手段と、上記標準偏差を算出した画素について、上記算出した標準偏差と上記複数の過去画像の対応する各画素の閾値の加重移動平均とをもとに閾値を算出する閾値算出手段と、この閾値算出手段で算出した閾値を上記標準偏差を算出した画素の上記変化画素を抽出するための閾値として設定する閾値設定手段とを具備して構成される。また、静止物体検知用閾値の決定手段は、上記処理画像バッファメモリ15に記憶した一定期間内の複数の画像を対象に、画素あたりの輝度平均値および標準偏差を算出し、この算出で得た標準偏差若しくは輝度分散値をもとに、上記一定期間内の複数の画像の対応する画素を対象に、低輝度の一定の輝度変動範囲に収まる複数の画素を特定し、この特定した画素の平均輝度を用いて背景画像を作成する背景画像作成手段と、この背景画像作成手段が作成した背景画像と入力された現画像との画素毎の差分処理により背景変化画素を抽出し背景画像を更新する背景変化画素抽出手段とを具備して構成される。この各閾値決定手段のより詳細な構成については上記文献に開示されているのでここではその説明を割愛する。上記の各閾値決定技術を適用することによって明暗の差が大きい処理画像に対しても精度の高い物体検知が可能である。
【0029】
上記前処理で決定した閾値と処理画像バッファメモリ15に貯えられた複数フレームの処理用入力画像とをもとに、リサイズした直近の監視映像(処理用入力画像)から設定パラメータに従う動物体若しくは静止物体を監視対象として検知する検知処理を実施し、監視対象を検知したとき上記処理画像バッファメモリ15に記憶した直近の監視映像から上記検知した監視対象を囲う矩形の領域を切り出して、上記した仮想自動追跡処理を実施する。この仮想自動追跡処理例については図15乃至図17を参照して後述する。
【0030】
この監視対象となるオブジェクトの追跡処理手段として、動物体の追跡処理については、本願出願人において既に出願した特開2008−158984号公報に記載された、新規オブジェクトの登録処理手段と、未確定オブジェクトの追跡処理手段と、確定オブジェクトの追跡処理手段とを組み合わせたオブジェクト追跡処理技術が適用可能であり、静止物体の追跡処理については、同じく本願出願人において既に出願した特開2010−206286号公報に記載された、登録背景差分手法による停止物検知処理技術、または背景時間差分手法による停止物検知処理技術が適用可能である。これら各物体検知技術の詳細な構成については上記文献に開示されているのでここではその説明を割愛する。
【0031】
オブジェクト情報バッファメモリ17は、上記画像処理部16が検知(算出)した上記矩形の領域およびその中心座標を示す矩形の領域情報(監視映像(処理用入力画像)内における矩形領域の座標データ)をオブジェクト情報として記憶する。ここでは動物体の追跡に用いるオブジェクト情報を動体情報として、静止物体の追跡に用いるオブジェクト情報を停止物情報として示している。
【0032】
注目領域画像作成処理部18およびオブジェクト画像バッファメモリ19は、上記オブジェクト情報バッファメモリ17に記憶されたオブジェクト情報(矩形の領域の中心位置座標)をもとに、上記画像バッファメモリ13に記憶された入力画像(Pa)に対して切り出し処理を実施し、切り出した画像に対して歪曲収差を補正する補正処理を実施する監視画像処理手段を構成する。ここでは、入力画像(Pa)から切り出した切り出し画像(q)に対して歪曲収差を補正し、表示部(表示デバイス)21の表示画素構成に合わせた640×480画素構成(VGA)の切り出し画像(オブジェクト画像)としてオブジェクト画像バッファメモリ19に貯える。この際の歪曲収差の補正処理については既知の技術が適用される。
【0033】
ブロッキング輝度伸張処理部20は、上記画像バッファメモリ13に記憶された入力画像(Pa)とオブジェクト画像バッファメモリ19に記憶された切り出し画像(オブジェクト画像)を処理対象に、表示出力する画像に対して画素単位のブロッキング輝度伸張処理を実施する処理手段(ブロッキング輝度伸張処理手段)を構成する。
【0034】
このブロッキング輝度伸張処理部20は、輝度伸張処理の対象となる入力画像(ここではリサイズ部14でリサイズしたVGAの360°全周入力画像、またはオブジェクト画像バッファメモリ19に貯えられたVGAの切り出し画像)について、当該画像領域(または設定された注目エリア)を複数のブロックに分割し、分割したブロック各々について、周囲のブロックの輝度値を畳み込んだ複数のブロックの輝度値をもとにブロック単位の輝度伸張パラメータを算出し、当該輝度伸張パラメータをもとにブロック単位の輝度変換テーブルを作成するブロック処理手段と、このブロック処理手段により作成されたブロック単位の輝度変換テーブルをもとに、分割したブロック各々の各画素について、ブロック毎に、周囲のブロックの輝度変換テーブルを参照してバイリニア補間を実施する補間処理手段と、この補間処理手段によりバイリニア補間を施した上記各ブロックの画素をもとに上記入力画像に対する輝度伸張出力画像を作成する画像変換手段とを具備し、画面全体の一部に存在する明暗の大きく異なる画像について、明暗の大きく異なる部分を画素レベルで補正し、監視し易い画像に補正する。このブロッキング輝度伸張処理部20の構成並びに輝度伸張処理については、図4乃至図12を参照して後述する。
【0035】
表示部(表示デバイス)21は上記補完処理手段により輝度伸張処理を施した監視対象画像を表示する表示出力手段を構成する。ここでは、640×480画素の表示画面で構成され、画像バッファメモリ13に貯えられた入力画像(Pa)をリサイズ部14でリサイズした360°全周入力画像と、オブジェクト画像バッファメモリ19に貯えられた切り出し画像とを表示対象に、そのいずれかの画像を選択して、若しくは表示領域を区分して同時に表示出力する。ここでは、監視対象が検知されない状態にあるとき、画像バッファメモリ13に貯えられた360°全周の入力画像(Pa)を表示し、監視対象が検知されたとき、360°全周の入力画像(Pa)に代えて(または360°全周の入力画像に重ねて)、オブジェクト画像バッファメモリ19に貯えられた切り出し画像を表示する。
【0036】
上記した全方位監視画像処理システムのソフトウェア(SW)構成を図2に示している。このソフトウェア(SW)は入力手段のハードウェア(HW)構成要素をなす単眼カメラ(IPカメラ)11と出力手段のハードウェア(HW)構成要素をなす表示部(表示デバイス)21との間に設けられる。ソフトウェア(SW)の構成要素である画像処理部16は、前処理部16aと、検知処理部16bと、追跡処理部16cを具備して構成されている。
【0037】
前処理部16aは、設定パラメータ(PM1)に含まれる検知物指定情報に従い、動物体検知用閾値の決定手段または静止物体検知用閾値の決定手段を選択的に起動して、監視対象(検知物)の閾値(動物体検知用の閾値または静止物体検知用の閾値)を算出する。
【0038】
検知処理部16bは、設定パラメータ(PM1)に含まれる監視対象の検知および追跡パラメータに従い、前処理部16aが算出した閾値を用いて、監視対象(動物体または静止物体)の検知処理を実施し、監視画像(Pa)から監視対象を囲う矩形の領域を抽出する。すなわち、監視対象にある動物体または静止物体を囲う矩形の領域を示す位置座標情報を抽出する。
【0039】
追跡処理部16cは、検知処理部16bが抽出した矩形の領域をもとに監視対象をカメラで追尾するように仮想自動追跡処理を実施して、追跡処理結果の領域情報をオブジェクト情報(動体情報または停止物情報)としてオブジェクト情報バッファメモリ17に記憶する。
【0040】
注目領域画像作成処理部18は、オブジェクト情報バッファメモリ17に記憶されたオブジェクト情報(矩形の領域の中心位置座標)をもとに、画像バッファメモリ13に記憶された入力画像(Pa)に対して切り出し処理を実施して、入力画像(Pa)から切り出した切り出し画像(q)に対し歪曲収差を補正し、表示部(表示デバイス)21の表示画素構成に合わせた640×480画素構成(VGA)の切り出し画像(オブジェクト画像)としてオブジェクト画像バッファメモリ19に貯える。
【0041】
ブロッキング輝度伸張処理部20は、上記画像バッファメモリ13に記憶された入力画像(Pa)とオブジェクト画像バッファメモリ19に記憶された切り出し画像(オブジェクト画像)を処理対象に、表示出力する画像に対して画素単位のブロッキング輝度伸張処理を実施する。
【0042】
上記した全方位監視画像処理システムの処理手順を図3にフローチャートで示している。360°全周の監視画像(Pa)はキャプチャ部12によりキャプチャされ、入力画像(Pa)として画像バッファメモリ13に貯えられる(ステップS11)。
【0043】
画像バッファメモリ13に貯えられた1280×960画素構成(Quad−VGA)の入力画像(Pa)は、リサイズ部14により、320×480画素構成(QVGA)の検知並びに追跡処理用入力画像にリサイズされて処理画像バッファメモリ15に時系列に記憶される(ステップS11)。
【0044】
処理画像バッファメモリ15に上記処理用入力画像が記憶される都度、画像処理部16は、前処理において、処理画像バッファメモリ15に記憶された直近の処理用入力画像を含む複数フォームの処理用入力画像を参照してその画素値の内容から最適閾値を算出し、検知処理において、処理画像バッファメモリ15に記憶された直近の処理用入力画像と過去の処理用入力画像と上記閾値とをもとに監視対象の検知処理(矩形の領域抽出処理)を実施し、監視対象が検知されたとき、追跡処理において、検知した矩形の領域情報をもとに監視対象の追跡処理を実施する。監視対象が複数検知されたとき、その各監視対象に対して追跡処理を実施する(ステップS13)。
【0045】
上記検知処理において監視対象が検知されないとき(ステップS14 No)、リサイズ部14により1280×960画素構成の入力画像(Pa)が640×480画素構成(VGA)にリサイズされ(ステップS15)、そのリサイズされた360°全周の入力画像に対して、ブロッキング輝度伸張処理部20によりブロッキング輝度伸張処理が実施される(ステップS16)。このブロッキング輝度伸張処理により360°全周の全画像を対象に明暗補正が実施され、ブロッキング輝度伸張処理した360°全周の入力画像が表示部(表示デバイス)21に表示出力される(ステップS20)。このブロッキング輝度伸張処理により、明暗の大きく異なる部分が画素レベルで補正され、監視し易い画像に補正して表示される。
【0046】
上記検知処理において監視対象が検知されたとき(ステップS14 Yes)、検知された監視対象それぞれに対して、注目領域画像作成処理部18により切り出し処理および歪曲収差に対する補正処理が実施され、さらにその切り出し画像に対して、ブロッキング輝度伸張処理部20によりブロッキング輝度伸張処理が実施され(ステップS17a〜S17d)、ブロッキング輝度伸張処理された切り出し画像が表示部(表示デバイス)21に表示出力される(ステップS20)。これにより明瞭で監視し易い切り出し画像が表示される。また、魚眼レンズによる楕円面の(焦平面フィールド)上における輝度の偏りについても上記ブロッキング輝度伸張処理により補正されることから、より監視し易いダイナミックレンジの画像補正が可能となる。
【0047】
ここで、ブロッキング輝度伸張処理部20の構成並びに輝度伸張処理について、図4乃至図12を参照して説明する。
【0048】
ブロッキング輝度伸張処理部20は、上述したように、輝度伸張処理の対象となる入力画像(リサイズ部14でリサイズしたVGAの360°全周入力画像、またはオブジェクト画像バッファメモリ19に貯えられたVGAの切り出し画像)について、当該画像領域(または設定された注目エリア)を複数のブロックに分割し、分割したブロック各々について、周囲のブロックの輝度値を畳み込んだ複数のブロックの輝度値をもとにブロック単位の輝度伸張パラメータを算出し、当該輝度伸張パラメータをもとにブロック単位の輝度変換テーブルを作成するブロック処理手段と、このブロック処理手段により作成されたブロック単位の輝度変換テーブルをもとに、分割したブロック各々の各画素について、ブロック毎に、周囲のブロックの輝度変換テーブルを参照してバイリニア補間を実施する補間処理手段と、この補間処理手段によりバイリニア補間を施した上記各ブロックの画素をもとに上記入力画像に対する輝度伸張出力画像を作成する画像変換手段とを具備して構成される。
【0049】
図4に示すブロッキング輝度伸張処理部20は、単眼カメラ11で撮影した画像を入力画像として、当該入力画像について輝度伸張処理(ガンマ補正)を施し、上記入力画像を当該入力画像の輝度値の分布状態から最適な階調に変換する。ここでは、VGA(640×480画素)の0〜255階調の入力画像を対象に設定された注目エリアの画像を輝度伸張処理する。
【0050】
この輝度伸張処理部1における輝度伸張処理では、ガンマ(γ)補正の理論を参考にし、ガンマ補正に必要とする輝度伸張のための輝度伸張パラメータを、入力画像における注目エリアを複数のブロックに分割したブロック単位の画像の平均輝度値をもとに自動算出する手段を具備した。
【0051】
ブロッキング輝度伸張処理部20は、輝度伸張処理の対象となる入力画像について、設定された注目エリアを複数のブロックに分割し、分割したブロック各々について、周囲のブロックの輝度値を畳み込んだ複数のブロックの輝度値をもとにブロック単位の輝度伸張パラメータを算出し、当該輝度伸張パラメータをもとにブロック単位の輝度変換テーブルを作成するブロック処理手段と、このブロック処理手段により作成されたブロック単位の輝度変換テーブルをもとに、分割したブロック各々の各画素について、ブロック毎に、周囲のブロックの輝度変換テーブルを参照してバイリニア補間を実施する補間処理手段と、上記補間処理手段によりバイリニア補間を施した上記各ブロックの画素をもとに上記入力画像に対する輝度伸張出力画像を作成する画像変換手段とを具備して構成される。
【0052】
図4に示すブロッキング輝度伸張処理部20の輝度伸張処理動作について、図5乃至図10を参照して説明する。図5は上記ブロッキング輝度伸張処理部20の輝度伸張処理動作を説明するための動作説明図、図6および図7はそれぞれ上記したブロック処理手段における輝度伸張処理の動作原理を説明するための動作説明図、図8および図9はそれぞれ上記したブロック処理手段における畳み込み処理の動作原理を説明するための動作説明図、図10は上記した補間処理手段におけるバイリニア補間処理の動作原理を説明するための動作説明図である。
【0053】
図5に示す、ブロッキング輝度伸張処理部20のブロック処理手段4aは、先ず、単眼カメラで撮影した入力画像(640×480画素)2について、予め設定された注目エリア3を複数のブロックに分割する。具体例を挙げると、入力画像を32×32画素単位、若しくは16×16画素単位、若しくは8×8画素単位等に分割し、注目エリア3(画像全体または設定された注目エリア)を複数のブロックに分割する。例えば注目エリア3の画面を16×16画素単位のブロック(40×30ブロック)に分割する。このブロック分割領域それぞれについて、周囲ブロックの輝度値を可変要素に、平均輝度を求める。
【0054】
この動作原理を図6乃至図9に示している。ここでは、図6および図7に示すように、画面をブロック分割した16×16画素のパターンを、1/2ブロック(8×8画素)分シフトしたブロック4パターンから1つの小ブロックの値を考える。ここでは、1/2ブロックシフトで、4パターンのブロックが重なったブロック(8×8画素)について、重なったブロックの輝度の平均、さらには輝度二乗の平均等を求め、この値をもとに、予め設定された輝度伸張処理方式に適用される輝度伸張用の輝度変換テーブルをブロック単位に作成する。さらにブロック処理手段4aは、分割したブロック各々について、ブロック毎の輝度総和を算出し、算出したブロック毎の輝度総和を用いて、前記ブロック毎に、当該ブロックとその周囲のブロックを含む重み付けおよび畳み込み処理した全ブロックの輝度総和を算出して、各ブロックの平均輝度を算出する。この際の畳み込み計数および畳み込み処理のイメージを図8および図9に示している。ここでは、図8に示すように、平均輝度の算出対象となる注目ブロックに対して「4」、注目ブロックの周囲8近傍のブロックのうち、上下左右の4ブロックに対してそれぞれ「2」、斜め4方向の各ブロックに対してそれぞれ「1」の畳み込み計数をもたせて、図9に示すデータの積み上げイメージで、上記各ブロックの輝度値を畳み込み、畳み込み演算することで、注目ブロックの輝度平均を求めることができる。このブロック毎の平均輝度値をもとに、予め設定された輝度伸張処理方式に適用されるブロック単位の輝度伸張パラメータおよび輝度変換テーブルを作成する。
【0055】
つぎに、ブロッキング輝度伸張処理部20の補間処理手段4bにおいて、上記ブロック単位で求めた輝度伸張パラメータに従う輝度変換テーブルを用いた各ブロックの画素について、上記した補間手段により、ブロック毎に、当該ブロックと、その周囲4ブロックの輝度変換テーブルを用いてバイリニア補間を実施する。このバイリニア補間は図10に示すように、注目画素の変換値を、周囲4ブロック(A,B,C,D)の変換値の線形補間(バイリニア補間)にて決定し設定する。ここでは、注目画素が位置するブロック位置、および注目画素の当該ブロックとの位置差を小数点で求めて、当該ブロックと周囲ブロックの輝度変換テーブルの値に、ブロック位置差の係数を掛け、線形補間(バイリニア補間)の原理で輝度の変換値を求める。
【0056】
上記補間処理手段4bによりバイリニア補間を施した各ブロックの画素をもとに上記入力画像に対する輝度伸張出力画像5を作成する。
【0057】
このように、ブロッキング輝度伸張処理部20のブロック処理手段4aにおいて、画像ブロック単位の輝度伸張パラメータと輝度変換テーブルを求め、ブロッキング輝度伸張処理部20の補間処理手段4bにおいて、周囲ブロックを利用したバイリニア補間で変換輝度値を求めて、バイリニア補間を施した(周囲ブロックの輝度伸張パラメータを反映した)各ブロックの画素をもとに上記入力画像に対する輝度伸張出力画像5を作成する構成としたことにより、ブロック境界に輝度差が生じることなく、注目エリア内の一部に局所的に存在する明暗の各画像をそれぞれ明瞭に階調表示することができる。
【0058】
上記実施形態をより具現化した一例を図11および図12に示している。図11は実施形態に係るブロッキング輝度伸張処理部20の機能構成を示すブロック図、図12は上記ブロッキング輝度伸張処理部20の処理手順を示すフローチャートである。
【0059】
ブロッキング輝度伸張処理部20は、上述したブロック処理手段(4a)の機能と補間処理手段(4b)の機能を備え、ブロック処理機能により画像ブロック単位の輝度伸張パラメータと輝度変換テーブルを生成し、補間処理機能により周囲ブロックを利用したバイリニア補間で各ブロックの画素の変換輝度値を求めている。
【0060】
なお、図11に示す構成は、本願発明の実施形態に係るブロック分割輝度伸張処理機能を、非線形曲線(凸曲線、凹曲線)を用いた非線形輝度伸張処理方式に適用した例を示している。
【0061】
この非線形輝度伸張処理方式では、後述する平均輝度算出部222が算出した平均輝度値が256階調の中心輝度値(127)以下であるか超えているかを判定し、中心輝度値以下であるとき、凸曲線による参照テーブルを入力画像に対する輝度伸張用の輝度変換テーブルとして作成し、中心輝度値を超えるとき、凹曲線による参照テーブルを入力画像に対する輝度伸張用の輝度変換テーブルとして作成する。この非線形輝度伸張処理機能は、既に公知の特許第4340303号による非線形輝度伸張処理方式に適用したもので、その要旨は後述する。
【0062】
ブロッキング輝度伸張処理部20は、図11に示すように、ブロック参照輝度設定部221と、平均輝度算出部222と、累乗パラメータ算出部223と、参照テーブル判定部224と、画像変換部225と、線形補間(バイリニア補間)算出部226とを具備して構成される。
【0063】
ブロック参照輝度設定部221は、カメラ11で撮影し入力した入力画像の注目エリアを、外部より指定されたブロックサイズに従い、複数のブロックに分割し、ブロック毎に、各ブロックの輝度値の総和を算出する。ここでは、8×8画素、16×16画素、24×24画素、32×32画素のうちのいずれかのブロックサイズ(例えば16×16画素)が指定され、その指定サイズに従い、入力画像の注目エリアがブロック分割される。なお、入力画像のエッジ部分に指定ブロックサイズより小さい端数画素分の領域が生じた場合は、当該領域を輝度伸張処理対象から外すかまたは他の輝度伸張処理手段を適用するものとする。
【0064】
平均輝度算出部222は、ブロック参照輝度設定部221がブロック分割し、ブロック毎に算出した輝度総和をもとに、ブロック毎に、当該ブロックとその周囲のブロックを含む重み付けおよび畳み込み処理した全ブロックの輝度総和を算出してブロック単位の画像の平均輝度値(=M)を算出する。
【0065】
累乗パラメータ算出部223は、上記した非線形輝度伸張処理方式において適用されるもので、平均輝度算出部222が算出した平均輝度をもとに、後述する(1)式に従い、入力画像(注目エリア)に対する輝度伸張処理のための累乗パラメータを算出する。
【0066】
参照テーブル判定部224は、上記平均輝度値が上記中心輝度値(127)以下であるか上記中心輝度値(127)を超えているかを判定し、上記平均輝度値が上記中心輝度値(127)以下であるとき、テーブル作成部231により、上記累乗パラメータを用いて後述する(2)式に従う凸曲線による参照テーブルを入力画像に対する輝度伸張用の輝度変換テーブル(参照テーブル)232として作成し、上記平均輝度値が上記中心輝度(127)を超えるとき、テーブル作成部231により、上記累乗パラメータを用いて後述する(3)式に従う凹曲線による参照テーブルを入力画像に対する輝度伸張用の輝度変換テーブル232として作成する。
【0067】
画像変換部225は、参照テーブル判定部225が作成した輝度変換テーブル(参照テーブル)232を用いて、画像バッファ21に保持された入力画像(注目エリア)に輝度変換処理を施し、入力輝度に対して出力輝度を変換した画像を画像バッファ21に書き戻すことによって画像バッファ21上に輝度伸張画像を作成する。
【0068】
線形補間算出部226は、図10に示したように、ブロック単位で求めた輝度伸張パラメータに従う輝度変換テーブルを用いた各ブロックの画素について、ブロック毎に、当該ブロックと、その周囲4ブロックの輝度変換テーブルを用いてバイリニア補間を実施する。
【0069】
上記したブロッキング輝度伸張処理部20の処理手順を図12に示している。
【0070】
ブロッキング輝度伸張処理部20は、カメラ11が撮像したフレーム単位の入力画像がキャプチャ部12を介して画像バッファメモリ13に保持される毎に、図12に示す処理を実施する。
【0071】
画像バッファメモリ13に輝度伸張処理の対象となる入力画像(Pa)が保持されると、当該入力画像がリサイズ部14によりリサイズされてブロッキング輝度伸張処理部20に入力される。ブロッキング輝度伸張処理部20において、ブロック参照輝度設定部221は、カメラ11で撮影し入力した入力画像の注目エリア(画像全体または設定された注目エリア)を、外部より指定されたブロックサイズ(例えば16×16画素)に従い、複数のブロック(40×30ブロック)に分割し、ブロック毎に各ブロックの輝度値の総和を求めて当該ブロック単位の輝度総和を注目ブロックの輝度情報として平均輝度算出部222に送出する(ステップS21)。
【0072】
平均輝度算出部222は、ブロック参照輝度設定部221から注目ブロックの輝度情報(ブロック単位の輝度総和)を入力すると、この輝度情報をもとに、図8および図9に示したように、ブロック毎に、当該ブロックとその周囲のブロックを含む重み付けおよび畳み込み処理した全ブロックの輝度総和を算出してブロック単位(注目ブロック)の画像の平均輝度値を算出し、当該注目ブロックの画像の平均輝度値を累乗パラメータ算出部223と参照テーブル判定部224に送出する(ステップS22)。
【0073】
累乗パラメータ算出部223は、平均輝度算出部222が算出した平均輝度値をもとに、後述する(1)式に従い、入力画像(注目エリア)に対する輝度伸張処理のための累乗パラメータを算出し、当該パラメータを参照テーブル判定部224に送出する。
【0074】
参照テーブル判定部224は、平均輝度算出部222から入力した平均輝度値と累乗パラメータ算出部223から入力した累乗パラメータを輝度伸張パラメータとして、当該輝度伸張パラメータに従う輝度変換テーブルを作成する。ここでは、上記平均輝度値が上記中心輝度値(127)以下であるか上記中心輝度値(127)を超えているかを判定し、上記平均輝度値が上記中心輝度値(127)以下であるとき、テーブル作成部231により、上記累乗パラメータを用いて後述する(2)式に従う凸曲線による参照テーブルを入力画像に対する輝度伸張用の輝度変換テーブル(参照テーブル)232として作成し、上記平均輝度値が上記中心輝度(127)を超えるとき、テーブル作成部231により、上記累乗パラメータを用いて後述する(3)式に従う凹曲線による参照テーブルを入力画像に対する輝度伸張用の輝度変換テーブル232として作成する(ステップS23)。
【0075】
ここで、上記した凸曲線および凹曲線を用いた非線形輝度伸張処理方式における輝度伸張処理について記述する。
【0076】
累乗パラメータ算出部223は、注目エリアの平均輝度をもとに輝度伸張用の累乗パラメータγを下式(1)により自動的に算出する。
【0077】
γ=(α/Bmed2)×(Iave−Bmed)2+1.0・・・・式(1)
(ただし、αは固定値、Bmedは輝度中央値、Iaveは入力画像注目エリアの平均輝度)
上記平均輝度と上記入力画像の輝度階調範囲の中心輝度とを比較し、累乗パラメータγを用いて自動的に下式(2)又は下式(3)を切り替えて、凸曲線および凹曲線の輝度変換テーブルを作成する。
【0078】
I’=Bmax-((Bmax-I)/Bmax)γ×Bmax:Iave≦Bmed・・・・式(2)凸曲線
I’=I/Bmaxγ×Bmax:Iave>Bmed ・・・・式(3)凹曲線
(だたし、I’は出力輝度、Iは入力輝度、Bmedは輝度中央値、Bmaxは輝度最大値、Iaveは入力画像注目エリアの平均輝度)
この参照テーブル判定部224で作成された凸曲線および凹曲線の輝度変換テーブル232は画像変換部225に送出される(ステップS23)。
【0079】
画像変換部225は、参照テーブル判定部225が作成した輝度変換テーブル(参照テーブル)232を用いて、画像バッファ21に保持された入力画像(注目エリア)に輝度変換処理を施す。このブロック単位で輝度伸張された注目ブロックの各画素に対して、線形補間算出部226より、図7に示したように、注目ブロックと、その周囲4ブロックの輝度変換テーブルを用いて画素位置の距離差に応じたバイリニア補間が実施され、このバイリニア補間で輝度変換された画像が画像バッファ21に書き戻されることによって画像バッファ21上にブロック間のバイリニア補間を施した輝度伸張画像が作成される(ステップS24,S25)。
【0080】
なお、上記した実施形態では、VGA(640×480画素)の0〜255階調のカメラ映像を輝度伸張処理の対象となる入力画像としたが、これに限らず、他の画像構成を扱う画像処理装置においても本発明の実施形態に係る輝度伸張処理機能を適用することができる。また、上記実施形態において、輝度伸張処理機能を実現する20の構成要素(ブロック参照輝度設定部221、平均輝度算出部222、累乗パラメータ算出部223、参照テーブル判定部224、画像変換部225、線形補間算出部226等)について、その一部機能若しくはすべての機能をソフトウェア処理により実現可能である。
【0081】
また、上記した実施形態では、ブロック毎に各ブロックの輝度値の総和を求め、注目ブロックとその周囲のブロックを含む重み付けおよび畳み込み処理した全ブロックの輝度総和を算出してブロック単位(注目ブロック)の画像の平均輝度値を算出しているが、これに限らず、例えば、ブロック毎に輝度平均を算出し、このブロック毎の平均輝度を用いて重み付けおよび畳み込み処理を実施することも可能である。
【0082】
また、上記した実施形態では、本願発明の実施形態に係るブロック分割輝度伸張処理機能を、非線形曲線(凸曲線、凹曲線)を用いた非線形輝度伸張処理方式に適用した例を示しているが、これに限らず、例えばシグモイド関数曲線を利用したシグモイド輝度伸張処理方式や、その他の各種輝度伸張処理方式に適用可能である。
【0083】
上記したブロッキング輝度伸張処理により、明暗の大きく異なる部分が画素レベルで補正され、監視し易いダイナミックレンジを有した全周監視画像の表示機能を実現できる。
【0084】
上記した実施形態では、上記監視対象の検知処理において監視対象が検知されないとき、ブロッキング輝度伸張処理した360°全周の入力画像(全周画像)を表示部(表示デバイス)21に表示し、上記検知処理において監視対象が検知されたとき、ブロッキング輝度伸張処理部20ブロッキング輝度伸張処理した切り出し画像を表示部21に表示する表示機能を実現しているが、上記検知処理において監視対象が検知されたとき、検知された監視対象領域の切り出し画像を全周画像とともに同時に表示することも可能である。この際、表示部21の表示画面全域に全周画像を表示し、監視対象が検知されたとき、検知された監視対象領域の切り出し画像を、全周画像の切り出し位置に対応付けるバルーン形式で全周画像に被せて(全周画像を覆って)表示させることも可能である。または、監視対象が検知されたとき、検知された監視対象領域の切り出し画像を、表示部21上の予め定めた一部表示領域に部分表示することも可能である。
【0085】
この全周画像と切り出し画像の表示例を図13乃至図17に示している。図13は単眼カメラ(IPカメラ)11で撮影した、楕円面の長辺と短辺を1フレーム(F)の幅と高さに合わせた、360°全周監視画像(Pa)の一例を示し、図14はこの360°全周監視画像(Pa)から切り出した切り出し画像(q1)の一例を示している。
【0086】
図15は、上記実施形態において楕円映像(360°全周監視画像)の中で仮想自動追跡処理機能を実現するイメージを示す図であり、ここでは、楕円映像(360°全周監視画像)の中でトラッキング(動き検知)した監視対象オブジェクトの切り出し画像をトラッキング順にQ1,Q2,Q3,Q4で示している。この切り出し画像の表示例を図16および図17に示している。図16に示す切り出し画像の表示例では、切り出し画像(Q1,Q2,Q3,Q4)それぞれに当該画像の切り出し(動き検知)時刻を示す時刻情報(T1,T2,T3,T4)を付加表示している。図16に示す切り出し画像の表示例では、表示部(表示デバイス)21の表示画面上において、切り出し画像(Q1,Q2,Q3,Q4)をトラッキング順に、左上、右上、左下、右下に4分割表示した例を示している。
【0087】
このように、楕円映像の中で、検知および追跡(追尾)の対象となるオブジェクトをトラッキングし、矩形の領域を切り出して、切り出した矩形の領域の切り出し画像にブロッキング輝度伸張処理を施し、当該切り出し画像をトラッキング順(切り出し順)に従い連続的に表示することで、視認性の高い仮想自動追尾が可能となる。
【0088】
なお、本発明は、上記実施形態そのままに限定されるものではなく、実施段階ではその要旨を逸脱しない範囲で構成要素を変形して具体化できる。また、上記実施形態に開示されている複数の構成要素の適宜な組み合わせにより種々の発明を形成できる。例えば、実施形態に示される全構成要素から幾つかの構成要素を削除してもよい。更に、異なる実施形態に構成要素を適宜組み合わせてもよい。また上記実施形態に記載した手法は、コンピュータに実行させることのできるプログラムとして、記憶媒体に格納して頒布することもできる。
【符号の説明】
【0089】
2…単眼カメラで撮影した画像(入力画像)、3…注目エリア対象画像、4a…ブロック処理手段、4b…補間処理手段、5…輝度伸張出力画像、11…カメラ(単眼カメラ(IPカメラ))、12…キャプチャ部、13…画像バッファメモリ、14…リサイズ部、15…処理画像バッファメモリ、16…画像処理部、17…オブジェクト情報バッファメモリ、18…注目領域画像作成処理部、19…オブジェクト画像バッファメモリ、20…ブロッキング輝度伸張処理部、21…表示部(表示デバイス)、22…大容量記憶媒体、221…ブロック参照輝度設定部、222…平均輝度算出部、223…累乗パラメータ算出部、224……参照テーブル判定部、225…画像変換部、226…輝度伸張出力画像、231…テーブル作成部、232…輝度変換用テーブル(参照テーブル)。
【技術分野】
【0001】
本発明は、単眼カメラで撮影した全方位画像から設定対象物の検知処理を実施する全方位監視画像処理システムに関する。
【背景技術】
【0002】
単眼カメラに360°レンズを取り付け、当該カメラで撮影した映像をカメラの全周に亘る監視映像として出力する360°監視システムが種々開発され実用化されている。この種、従来の360°監視システムは、カメラの全周が1フレームに収まるNTSC映像であることから、部分映像の解像度が低く、360°の全周映像について、そのすべてを目視で監視するには限界があり、細部に亘る監視は困難であった。
【0003】
また、例え監視映像を高解像度にしても、360°の全周映像には、明るさの大きく異なる場所が含まれる場合が多く、明暗の大きく異なる部分のすべてを同時に目視にて監視することは困難であった。
【0004】
また、360°の全周映像から、予め設定した動物体若しくは静止物体を監視対象物として検知し追跡する画像処理システムを構築した場合、360°の全周映像内のごく一部の領域に存在する監視対象物を明瞭に表示することができず、監視対象物の細部に亘る表示が困難であった。
【0005】
この種の全方位監視カメラシステムとして、従来では、特定の動体画像のみを高画質で記録する監視カメラ技術(特許文献1)、全体映像と部分的拡大映像とを外部に伝送する撮像データの伝送システム(特許文献2)等が存在した。
【先行技術文献】
【特許文献】
【0006】
【特許文献1】特開2006−121320公報
【特許文献2】特開2004−153605公報
【発明の概要】
【発明が解決しようとする課題】
【0007】
上述したように、単眼カメラに360°レンズを取り付け、当該カメラで撮影した映像をカメラの全周に亘る監視映像として出力する360°監視システムにおいては、明るさの大きく異なる場所が含まれる場合が多く、明暗の大きく異なる部分のすべてを同時に目視にて監視することは困難であった。また、360°の全周映像から、予め設定した動物体若しくは静止物体を監視対象物として検知し追跡する画像処理システムを構築した場合、360°の全周映像内のごく一部の領域に存在する監視対象物を明瞭に表示することができず、監視対象物の細部に亘る表示が困難であった。
【0008】
本発明は上記実情に鑑みなされたもので、単眼カメラで撮影した各フレーム単位の360°監視映像について、その全体映像を細部に亘り明瞭に表示できるとともに、360°監視映像の一部に存在する監視対象物となる動物体若しくは静物体を細部に亘り明瞭に表示することのできる全方位監視画像処理システムを提供することを目的とする。
【課題を解決するための手段】
【0009】
本発明は、360°全周監視映像をフレーム単位にキャプチャする監視映像入力手段と、前記監視映像入力手段がキャプチャしたフレーム単位の監視映像を入力画像として記憶する入力画像記憶手段と、前記監視映像入力手段がキャプチャしたフレーム単位の監視映像を、監視対象の検知に用いる小画素単位にリサイズし、リサイズした監視映像を処理用入力画像として時系列に複数フレーム分記憶する処理画像記憶手段と、前記リサイズした監視映像に対し前処理を実施して監視対象を検知するための閾値を決定し、決定した閾値と前記処理画像記憶手段に記憶した複数フレームの処理用入力画像をもとに、前記リサイズした直近の処理用入力画像から設定パラメータに従う動物体若しくは静止物体を監視対象として検知する検知処理を実施し、監視対象を検知したとき前記処理画像記憶手段に記憶した直近の処理用入力画像から前記検知した監視対象を囲う矩形の領域を抽出する画像処理手段と、前記画像処理手段が抽出した矩形の領域の中心位置をもとに前記入力画像記憶手段に記憶された入力画像に対して切り出し処理を実施し、切り出した画像に対して歪曲収差を補正する補正処理を実施する監視画像処理手段と、前記監視画像処理手段が補正処理した画像を監視対象画像として記憶する監視対象画像記憶手段と、前記監視対象画像記憶手段に記憶した監視対象画像に対して画素単位のブロッキング輝度伸張処理を実施するブロッキング輝度伸張処理手段と、前記ブロッキング輝度伸張処理手段により前記輝度伸張処理を施した監視対象画像を表示する表示出力手段と、を具備した全方位監視画像処理システムを提供する。
【0010】
また本発明は、360°全周監視映像をフレーム単位にキャプチャする監視映像入力手段と、前記監視映像入力手段がキャプチャしたフレーム単位の監視映像を入力画像として記憶する入力画像記憶手段と、前記監視映像入力手段がキャプチャしたフレーム単位の監視映像を、監視対象の検知に用いる小画素単位にリサイズし、リサイズした監視映像を処理用入力画像として時系列に複数フレーム分記憶する処理画像記憶手段と、前記リサイズした監視映像に対し前処理を実施して監視対象を検知するための閾値を決定し、決定した閾値と前記処理画像記憶手段に記憶した複数フレームの処理用入力画像をもとに、前記リサイズした直近の処理用入力画像から設定パラメータに従う動物体若しくは静止物体を監視対象として検知する検知処理を実施し、監視対象を検知したとき前記処理画像記憶手段に記憶した直近の処理用入力画像から前記検知した監視対象を囲う矩形の領域を抽出する画像処理手段と、前記画像処理手段が抽出した矩形の領域の中心位置をもとに前記入力画像記憶手段に記憶された入力画像に対して切り出し処理を実施し、切り出した画像に対して歪曲収差を補正する補正処理を実施する監視画像処理手段と、前記監視画像処理手段が補正処理した画像を監視対象画像として記憶する監視対象画像記憶手段と、前記監視対象画像記憶手段に記憶した監視対象画像および前記入力画像記憶手段に記憶した入力画像に対して画素単位のブロッキング輝度伸張処理を実施するブロッキング輝度伸張処理手段と、前記ブロッキング輝度伸張処理手段により輝度伸張処理を施した監視対象画像を表示する表示出力手段と、
を具備した全方位監視画像処理システムを提供する。
【0011】
また本発明は、360°全周監視映像をフレーム単位にキャプチャする監視映像入力手段と、前記監視映像入力手段がキャプチャしたフレーム単位の監視映像を入力画像として記憶する入力画像記憶手段と、前記監視映像入力手段がキャプチャしたフレーム単位の監視映像を、監視対象の検知に用いる小画素単位にリサイズし、リサイズした監視映像を処理用入力画像として時系列に複数フレーム分記憶する処理画像記憶手段と、前記リサイズした監視映像に対し前処理を実施して監視対象を検知するための閾値を決定し、決定した閾値と前記処理画像記憶手段に記憶した複数フレームの処理用入力画像をもとに、前記リサイズした直近の処理用入力画像から設定パラメータに従う動物体若しくは静止物体を監視対象として検知する検知処理を実施し、監視対象を検知したとき前記処理画像記憶手段に記憶した直近の処理用入力画像から前記検知した監視対象を囲う矩形の領域を抽出する画像処理手段と、前記画像処理手段が抽出した矩形の領域の中心位置をもとに前記入力画像記憶手段に記憶された入力画像に対して切り出し処理を実施し、切り出した画像に対して歪曲収差を補正する補正処理を実施する監視画像処理手段と、前記監視画像処理手段が補正処理した画像を監視対象画像として記憶する監視対象画像記憶手段と、前記画像処理手段が前記検知処理において前記監視対象を検出しない状態にあるとき前記入力画像記憶手段に記憶した入力画像に対して画素単位のブロッキング輝度伸張処理を実施し、前記画像処理手段が前記検知処理において前記監視対象を検出している状態にあるとき前記監視対象画像記憶手段に記憶した監視対象画像に対して画素単位のブロッキング輝度伸張処理を実施するブロッキング輝度伸張処理手段と、前記ブロッキング輝度伸張処理手段により輝度伸張処理を施した監視対象画像を表示する表示出力手段と、を具備した全方位監視画像処理システムを提供する。
【0012】
また前記全方位監視画像処理システムにおいて、前記ブロッキング輝度伸張処理手段は、輝度伸張処理の対象となる入力画像について、設定された注目エリアを複数のブロックに分割し、分割したブロック各々について、周囲のブロックの輝度値を畳み込んだ複数のブロックの輝度値をもとにブロック単位の輝度伸張パラメータを算出し、当該輝度伸張パラメータをもとにブロック単位の輝度変換テーブルを作成するブロック処理手段と、前記ブロック処理手段により作成されたブロック単位の輝度変換テーブルをもとに、分割したブロック各々の各画素について、ブロック毎に、周囲のブロックの輝度変換テーブルを参照してバイリニア補間を実施する補間処理手段と、前記補間処理手段によりバイリニア補間を施した前記各ブロックの画素をもとに前記入力画像に対する輝度伸張出力画像を作成する画像変換手段と、を具備したことを特徴とする。
【発明の効果】
【0013】
本発明によれば、単眼カメラで撮影した各フレーム単位の360°監視映像について、その全体映像を細部に亘り明瞭に表示できるとともに、360°監視映像の一部に存在する監視対象物となる動物体若しくは静物体を細部に亘り明瞭に表示することができる。
【図面の簡単な説明】
【0014】
【図1】本発明の実施形態に係る全方位監視画像処理システムの構成を示すブロック図。
【図2】上記実施形態に係る画像処理部の機能構成を示すブロック図。
【図3】上記実施形態に係る処理の手順を示すフローチャート。
【図4】上記実施形態に係るブロッキング輝度伸張処理手段の構成要素を示すブロック図。
【図5】上記実施形態に係る輝度伸張処理部の輝度伸張処理動作を説明するための動作説明図。
【図6】上記実施形態に係るブロッキング輝度伸張処理動作を説明するための動作説明図。
【図7】上記実施形態に係るブロッキング輝度伸張処理動作を説明するための動作説明図。
【図8】上記実施形態に係る畳み込み処理動作を説明するための動作説明図。
【図9】上記実施形態に係る畳み込み処理動作を説明するための動作説明図。
【図10】上記実施形態に係るバイリニア補間処理動作を説明するための動作説明図。
【図11】上記実施形態に係る輝度伸張処理部の構成を示すブロック図。
【図12】上記実施形態に係る輝度伸張処理部の処理手順を示すフローチャート。
【図13】上記実施形態に係る全方位(360°全周)監視画像の一例を示す図。
【図14】上記図14に示す360°全周監視画像から切り出した切り出し画像の一例を示す図。
【図15】上記実施形態において楕円映像(360°全周監視画像)の中で仮想自動追尾機能を実現するイメージを示す図。
【図16】上記図15に示す仮想自動追尾機能によりトラッキングした監視対象オブジェクトの切り出し画像表示例を示す図。
【図17】上記図15に示す仮想自動追尾機能によりトラッキングした監視対象オブジェクトの切り出し画像表示例を示す図。
【発明を実施するための形態】
【0015】
以下図面を参照して本発明の実施形態を説明する。なお、この実施形態では、カメラ(単眼カメラ)から取り込んだ1フレーム(1画面)分の画像データを、単に画像若しくは監視映像と称している。
【0016】
本発明の実施形態に係る全方位監視画像処理システムは、1.3メガ(M)ピクセル以上の画素数を有する高画素(高精細)の単眼カメラ(1台のカメラ)に、360°レンズ(魚眼レンズ)を取り付け、このカメラで撮影した映像から、設定パラメータに従う動物体(例えば人物)、静止物体(放置物)などの対象物を監視対象として検出しトラッキングして追尾する処理技術に係るもので、上記単眼カメラで撮影した360°全周高精細監視映像(全方位監視画像)を入力画像として、当該入力画像と、当該入力画像から切り出した切り出し画像を対象に、任意の出力対象画像に対してブロッキング輝度伸張による明暗補正を実施し、表示出力することを特徴とする。なお、切り出し画像については歪曲収差を補正後、ブロッキング輝度伸張による明暗補正を施す。
【0017】
本発明の実施形態に係る全方位監視画像処理システムの構成を図1に示している。
【0018】
本発明の実施形態に係る全方位監視画像処理システムは、図1に示すように、単眼カメラ(ipカメラ)11と、キャプチャ部12と、画像バッファメモリ13と、リサイズ部14と、処理画像バッファメモリ15と、画像処理部16と、オブジェクト情報バッファメモリ17と、注目領域画像作成処理部18と、オブジェクト画像バッファメモリ19と、ブロッキング輝度伸張処理部20と、表示部(表示デバイス)21とを具備して構成される。
【0019】
単眼カメラ11およびキャプチャ部12は、360°全周監視映像をフレーム単位にキャプチャする監視映像入力手段を構成する。
【0020】
単眼カメラ11は、撮像窓に360°魚眼レンズ11Aを取り付けた1.3Mピクセル以上の画素数を有する高精細の監視カメラを構成し、楕円面の360°全周高精細監視映像を監視画像(Pa)として出力する。ここでは、楕円面の長辺と短辺を、1フレームの幅と高さに合わせた、横×縦=1280×960画素の360°全周高精細監視映像を監視画像(Pa)として出力する。この楕円面の360°全周監視画像(Pa)の一例を図13に示し、この楕円面の360°全周監視画像(Pa)から切り出した切り出し画像(q1)の一例を図15に示している。
【0021】
キャプチャ部12は、上記カメラ11が撮像したフレーム単位(1280×960画素)の監視画像(Pa)を入力画像として取り込み、画像バッファメモリ13に記憶する処理機能をもつ。
【0022】
画像バッファメモリ13は、キャプチャ部12がキャプチャしたフレーム単位の監視映像(Pa)を入力画像として記憶する入力画像記憶手段を構成する。ここでは横×縦=1280×960画素の360°全周高精細監視映像(Pa)を入力画像として記憶する。
【0023】
リサイズ部14および処理画像バッファメモリ15は、監視映像入力手段の構成要素であるキャプチャ部12がキャプチャしたフレーム単位の入力画像を、設定した画像処理単位、すなわち監視対象の検知および追跡に用いる小画素単位にリサイズし、リサイズした入力画像を処理用入力画像として時系列に複数フレーム分記憶する処理画像記憶手段を構成する。
【0024】
ここでは、リサイズ部14において、1280×960画素構成(Quad−VGA)の入力画像(Pa)を表示部(表示デバイス)21の画素構成に合わせた640×480画素構成(VGA)の表示用入力画像にリサイズし、さらに、入力画像(Pa)を監視対象の検知並びに追跡処理に用いる320×480画素構成(QVGA)の処理用入力画像にリサイズして、処理画像バッファメモリ15に、直近の入力画像を含み時系列に複数フレーム分(例えば30〜60フレーム分)記憶する。このリサイズによって監視対象の検知並びに追跡処理に係る処理負荷の軽減と処理の高速化を図っている。なお、ここでは単眼カメラ11で撮影した直近の入力画像を含む複数フレーム分としているが、これに限らず、例えば図2に示すように、単眼カメラ11で撮影したライブ映像を大容量記憶媒体22に記憶した時系列の録画映像を入力画像(Pa)として入力してもよい。
【0025】
画像処理部16は、上記処理画像記憶手段の構成要素である処理画像バッファメモリ15に記憶した監視映像(処理用入力画像)に対し前処理を実施して監視対象を検知するための閾値を決定し、決定した閾値と上記処理画像バッファメモリ15に記憶した複数フレームの監視映像をもとに、上記リサイズした直近の監視映像(処理用入力画像)から設定パラメータ(PM1)に従う動物体若しくは静止物体を監視対象として検知する検知処理を実施し、監視対象を検知したとき上記処理画像バッファメモリ15に記憶した直近の監視映像(処理用入力画像)から上記検知した監視対象を囲う矩形の領域を領域情報として抽出する画像処理手段を構成する。外部から設定される設定パラメータ(PM1)は、監視対象の検知および追跡パラメータとして、監視対象が動物体であるか静止物体であるかを指定する検知物指定情報と、360°全周画像における検知対象エリアを指定する検知エリア指定情報と、360°全周画像における監視対象の領域サイズを指定する検知物サイズ指定情報と、監視対象の検知時間帯を指定する時間情報とが含まれ、これらの各設定情報をもとに監視対象の検知および追跡処理を実施する。また、表示パラメータとして、監視画像表示モードを指定する表示モード指定情報、表示画面上の表示位置および領域を指定する表示位置および領域指定情報、表示輝度およびコントラストを指定する表示制御情報とを含み、これらの各設定情報をもとに表示部(表示デバイス)21に360°全周画像や切り出し画像が表示される。
【0026】
この画像処理手段は、上記リサイズした監視映像から複数の監視対象を検知したとき、監視対象毎に、監視対象をカメラで追尾するように、監視対象毎に時系列に矩形の領域を追跡する仮想自動追跡処理を実施する。また、ここでは、動物体と静止物体を監視対象に、そのいずれかの物体を監視対象(検知対象)としていることから、検知対象が動物体であるときと静止物体であるときとでそれぞれ異なる閾値を決定する。この閾値の決定手段として、動物体を監視対象とした動物体検知用閾値の決定手段と、静止物体を監視対象とした静止物体検知用閾値の決定手段とを用意する。
【0027】
この実施形態では、動物体検知用閾値の決定手段として、本願出願人において既に出願した特開2010−204704号公報の閾値決定技術を適用し、静止物体検知用閾値の決定手段として、同じく本願出願人において既に出願した特開2010−206286号公報の閾値決定技術を適用している。
【0028】
この実施形態における動物体検知用閾値の決定手段は、上記処理画像バッファメモリ15に記憶した一定期間内の複数の画像を対象に、画素あたりの輝度平均値と標準偏差を算出する標準偏差算出手段と、上記標準偏差を算出した画素について、上記算出した標準偏差と上記複数の過去画像の対応する各画素の閾値の加重移動平均とをもとに閾値を算出する閾値算出手段と、この閾値算出手段で算出した閾値を上記標準偏差を算出した画素の上記変化画素を抽出するための閾値として設定する閾値設定手段とを具備して構成される。また、静止物体検知用閾値の決定手段は、上記処理画像バッファメモリ15に記憶した一定期間内の複数の画像を対象に、画素あたりの輝度平均値および標準偏差を算出し、この算出で得た標準偏差若しくは輝度分散値をもとに、上記一定期間内の複数の画像の対応する画素を対象に、低輝度の一定の輝度変動範囲に収まる複数の画素を特定し、この特定した画素の平均輝度を用いて背景画像を作成する背景画像作成手段と、この背景画像作成手段が作成した背景画像と入力された現画像との画素毎の差分処理により背景変化画素を抽出し背景画像を更新する背景変化画素抽出手段とを具備して構成される。この各閾値決定手段のより詳細な構成については上記文献に開示されているのでここではその説明を割愛する。上記の各閾値決定技術を適用することによって明暗の差が大きい処理画像に対しても精度の高い物体検知が可能である。
【0029】
上記前処理で決定した閾値と処理画像バッファメモリ15に貯えられた複数フレームの処理用入力画像とをもとに、リサイズした直近の監視映像(処理用入力画像)から設定パラメータに従う動物体若しくは静止物体を監視対象として検知する検知処理を実施し、監視対象を検知したとき上記処理画像バッファメモリ15に記憶した直近の監視映像から上記検知した監視対象を囲う矩形の領域を切り出して、上記した仮想自動追跡処理を実施する。この仮想自動追跡処理例については図15乃至図17を参照して後述する。
【0030】
この監視対象となるオブジェクトの追跡処理手段として、動物体の追跡処理については、本願出願人において既に出願した特開2008−158984号公報に記載された、新規オブジェクトの登録処理手段と、未確定オブジェクトの追跡処理手段と、確定オブジェクトの追跡処理手段とを組み合わせたオブジェクト追跡処理技術が適用可能であり、静止物体の追跡処理については、同じく本願出願人において既に出願した特開2010−206286号公報に記載された、登録背景差分手法による停止物検知処理技術、または背景時間差分手法による停止物検知処理技術が適用可能である。これら各物体検知技術の詳細な構成については上記文献に開示されているのでここではその説明を割愛する。
【0031】
オブジェクト情報バッファメモリ17は、上記画像処理部16が検知(算出)した上記矩形の領域およびその中心座標を示す矩形の領域情報(監視映像(処理用入力画像)内における矩形領域の座標データ)をオブジェクト情報として記憶する。ここでは動物体の追跡に用いるオブジェクト情報を動体情報として、静止物体の追跡に用いるオブジェクト情報を停止物情報として示している。
【0032】
注目領域画像作成処理部18およびオブジェクト画像バッファメモリ19は、上記オブジェクト情報バッファメモリ17に記憶されたオブジェクト情報(矩形の領域の中心位置座標)をもとに、上記画像バッファメモリ13に記憶された入力画像(Pa)に対して切り出し処理を実施し、切り出した画像に対して歪曲収差を補正する補正処理を実施する監視画像処理手段を構成する。ここでは、入力画像(Pa)から切り出した切り出し画像(q)に対して歪曲収差を補正し、表示部(表示デバイス)21の表示画素構成に合わせた640×480画素構成(VGA)の切り出し画像(オブジェクト画像)としてオブジェクト画像バッファメモリ19に貯える。この際の歪曲収差の補正処理については既知の技術が適用される。
【0033】
ブロッキング輝度伸張処理部20は、上記画像バッファメモリ13に記憶された入力画像(Pa)とオブジェクト画像バッファメモリ19に記憶された切り出し画像(オブジェクト画像)を処理対象に、表示出力する画像に対して画素単位のブロッキング輝度伸張処理を実施する処理手段(ブロッキング輝度伸張処理手段)を構成する。
【0034】
このブロッキング輝度伸張処理部20は、輝度伸張処理の対象となる入力画像(ここではリサイズ部14でリサイズしたVGAの360°全周入力画像、またはオブジェクト画像バッファメモリ19に貯えられたVGAの切り出し画像)について、当該画像領域(または設定された注目エリア)を複数のブロックに分割し、分割したブロック各々について、周囲のブロックの輝度値を畳み込んだ複数のブロックの輝度値をもとにブロック単位の輝度伸張パラメータを算出し、当該輝度伸張パラメータをもとにブロック単位の輝度変換テーブルを作成するブロック処理手段と、このブロック処理手段により作成されたブロック単位の輝度変換テーブルをもとに、分割したブロック各々の各画素について、ブロック毎に、周囲のブロックの輝度変換テーブルを参照してバイリニア補間を実施する補間処理手段と、この補間処理手段によりバイリニア補間を施した上記各ブロックの画素をもとに上記入力画像に対する輝度伸張出力画像を作成する画像変換手段とを具備し、画面全体の一部に存在する明暗の大きく異なる画像について、明暗の大きく異なる部分を画素レベルで補正し、監視し易い画像に補正する。このブロッキング輝度伸張処理部20の構成並びに輝度伸張処理については、図4乃至図12を参照して後述する。
【0035】
表示部(表示デバイス)21は上記補完処理手段により輝度伸張処理を施した監視対象画像を表示する表示出力手段を構成する。ここでは、640×480画素の表示画面で構成され、画像バッファメモリ13に貯えられた入力画像(Pa)をリサイズ部14でリサイズした360°全周入力画像と、オブジェクト画像バッファメモリ19に貯えられた切り出し画像とを表示対象に、そのいずれかの画像を選択して、若しくは表示領域を区分して同時に表示出力する。ここでは、監視対象が検知されない状態にあるとき、画像バッファメモリ13に貯えられた360°全周の入力画像(Pa)を表示し、監視対象が検知されたとき、360°全周の入力画像(Pa)に代えて(または360°全周の入力画像に重ねて)、オブジェクト画像バッファメモリ19に貯えられた切り出し画像を表示する。
【0036】
上記した全方位監視画像処理システムのソフトウェア(SW)構成を図2に示している。このソフトウェア(SW)は入力手段のハードウェア(HW)構成要素をなす単眼カメラ(IPカメラ)11と出力手段のハードウェア(HW)構成要素をなす表示部(表示デバイス)21との間に設けられる。ソフトウェア(SW)の構成要素である画像処理部16は、前処理部16aと、検知処理部16bと、追跡処理部16cを具備して構成されている。
【0037】
前処理部16aは、設定パラメータ(PM1)に含まれる検知物指定情報に従い、動物体検知用閾値の決定手段または静止物体検知用閾値の決定手段を選択的に起動して、監視対象(検知物)の閾値(動物体検知用の閾値または静止物体検知用の閾値)を算出する。
【0038】
検知処理部16bは、設定パラメータ(PM1)に含まれる監視対象の検知および追跡パラメータに従い、前処理部16aが算出した閾値を用いて、監視対象(動物体または静止物体)の検知処理を実施し、監視画像(Pa)から監視対象を囲う矩形の領域を抽出する。すなわち、監視対象にある動物体または静止物体を囲う矩形の領域を示す位置座標情報を抽出する。
【0039】
追跡処理部16cは、検知処理部16bが抽出した矩形の領域をもとに監視対象をカメラで追尾するように仮想自動追跡処理を実施して、追跡処理結果の領域情報をオブジェクト情報(動体情報または停止物情報)としてオブジェクト情報バッファメモリ17に記憶する。
【0040】
注目領域画像作成処理部18は、オブジェクト情報バッファメモリ17に記憶されたオブジェクト情報(矩形の領域の中心位置座標)をもとに、画像バッファメモリ13に記憶された入力画像(Pa)に対して切り出し処理を実施して、入力画像(Pa)から切り出した切り出し画像(q)に対し歪曲収差を補正し、表示部(表示デバイス)21の表示画素構成に合わせた640×480画素構成(VGA)の切り出し画像(オブジェクト画像)としてオブジェクト画像バッファメモリ19に貯える。
【0041】
ブロッキング輝度伸張処理部20は、上記画像バッファメモリ13に記憶された入力画像(Pa)とオブジェクト画像バッファメモリ19に記憶された切り出し画像(オブジェクト画像)を処理対象に、表示出力する画像に対して画素単位のブロッキング輝度伸張処理を実施する。
【0042】
上記した全方位監視画像処理システムの処理手順を図3にフローチャートで示している。360°全周の監視画像(Pa)はキャプチャ部12によりキャプチャされ、入力画像(Pa)として画像バッファメモリ13に貯えられる(ステップS11)。
【0043】
画像バッファメモリ13に貯えられた1280×960画素構成(Quad−VGA)の入力画像(Pa)は、リサイズ部14により、320×480画素構成(QVGA)の検知並びに追跡処理用入力画像にリサイズされて処理画像バッファメモリ15に時系列に記憶される(ステップS11)。
【0044】
処理画像バッファメモリ15に上記処理用入力画像が記憶される都度、画像処理部16は、前処理において、処理画像バッファメモリ15に記憶された直近の処理用入力画像を含む複数フォームの処理用入力画像を参照してその画素値の内容から最適閾値を算出し、検知処理において、処理画像バッファメモリ15に記憶された直近の処理用入力画像と過去の処理用入力画像と上記閾値とをもとに監視対象の検知処理(矩形の領域抽出処理)を実施し、監視対象が検知されたとき、追跡処理において、検知した矩形の領域情報をもとに監視対象の追跡処理を実施する。監視対象が複数検知されたとき、その各監視対象に対して追跡処理を実施する(ステップS13)。
【0045】
上記検知処理において監視対象が検知されないとき(ステップS14 No)、リサイズ部14により1280×960画素構成の入力画像(Pa)が640×480画素構成(VGA)にリサイズされ(ステップS15)、そのリサイズされた360°全周の入力画像に対して、ブロッキング輝度伸張処理部20によりブロッキング輝度伸張処理が実施される(ステップS16)。このブロッキング輝度伸張処理により360°全周の全画像を対象に明暗補正が実施され、ブロッキング輝度伸張処理した360°全周の入力画像が表示部(表示デバイス)21に表示出力される(ステップS20)。このブロッキング輝度伸張処理により、明暗の大きく異なる部分が画素レベルで補正され、監視し易い画像に補正して表示される。
【0046】
上記検知処理において監視対象が検知されたとき(ステップS14 Yes)、検知された監視対象それぞれに対して、注目領域画像作成処理部18により切り出し処理および歪曲収差に対する補正処理が実施され、さらにその切り出し画像に対して、ブロッキング輝度伸張処理部20によりブロッキング輝度伸張処理が実施され(ステップS17a〜S17d)、ブロッキング輝度伸張処理された切り出し画像が表示部(表示デバイス)21に表示出力される(ステップS20)。これにより明瞭で監視し易い切り出し画像が表示される。また、魚眼レンズによる楕円面の(焦平面フィールド)上における輝度の偏りについても上記ブロッキング輝度伸張処理により補正されることから、より監視し易いダイナミックレンジの画像補正が可能となる。
【0047】
ここで、ブロッキング輝度伸張処理部20の構成並びに輝度伸張処理について、図4乃至図12を参照して説明する。
【0048】
ブロッキング輝度伸張処理部20は、上述したように、輝度伸張処理の対象となる入力画像(リサイズ部14でリサイズしたVGAの360°全周入力画像、またはオブジェクト画像バッファメモリ19に貯えられたVGAの切り出し画像)について、当該画像領域(または設定された注目エリア)を複数のブロックに分割し、分割したブロック各々について、周囲のブロックの輝度値を畳み込んだ複数のブロックの輝度値をもとにブロック単位の輝度伸張パラメータを算出し、当該輝度伸張パラメータをもとにブロック単位の輝度変換テーブルを作成するブロック処理手段と、このブロック処理手段により作成されたブロック単位の輝度変換テーブルをもとに、分割したブロック各々の各画素について、ブロック毎に、周囲のブロックの輝度変換テーブルを参照してバイリニア補間を実施する補間処理手段と、この補間処理手段によりバイリニア補間を施した上記各ブロックの画素をもとに上記入力画像に対する輝度伸張出力画像を作成する画像変換手段とを具備して構成される。
【0049】
図4に示すブロッキング輝度伸張処理部20は、単眼カメラ11で撮影した画像を入力画像として、当該入力画像について輝度伸張処理(ガンマ補正)を施し、上記入力画像を当該入力画像の輝度値の分布状態から最適な階調に変換する。ここでは、VGA(640×480画素)の0〜255階調の入力画像を対象に設定された注目エリアの画像を輝度伸張処理する。
【0050】
この輝度伸張処理部1における輝度伸張処理では、ガンマ(γ)補正の理論を参考にし、ガンマ補正に必要とする輝度伸張のための輝度伸張パラメータを、入力画像における注目エリアを複数のブロックに分割したブロック単位の画像の平均輝度値をもとに自動算出する手段を具備した。
【0051】
ブロッキング輝度伸張処理部20は、輝度伸張処理の対象となる入力画像について、設定された注目エリアを複数のブロックに分割し、分割したブロック各々について、周囲のブロックの輝度値を畳み込んだ複数のブロックの輝度値をもとにブロック単位の輝度伸張パラメータを算出し、当該輝度伸張パラメータをもとにブロック単位の輝度変換テーブルを作成するブロック処理手段と、このブロック処理手段により作成されたブロック単位の輝度変換テーブルをもとに、分割したブロック各々の各画素について、ブロック毎に、周囲のブロックの輝度変換テーブルを参照してバイリニア補間を実施する補間処理手段と、上記補間処理手段によりバイリニア補間を施した上記各ブロックの画素をもとに上記入力画像に対する輝度伸張出力画像を作成する画像変換手段とを具備して構成される。
【0052】
図4に示すブロッキング輝度伸張処理部20の輝度伸張処理動作について、図5乃至図10を参照して説明する。図5は上記ブロッキング輝度伸張処理部20の輝度伸張処理動作を説明するための動作説明図、図6および図7はそれぞれ上記したブロック処理手段における輝度伸張処理の動作原理を説明するための動作説明図、図8および図9はそれぞれ上記したブロック処理手段における畳み込み処理の動作原理を説明するための動作説明図、図10は上記した補間処理手段におけるバイリニア補間処理の動作原理を説明するための動作説明図である。
【0053】
図5に示す、ブロッキング輝度伸張処理部20のブロック処理手段4aは、先ず、単眼カメラで撮影した入力画像(640×480画素)2について、予め設定された注目エリア3を複数のブロックに分割する。具体例を挙げると、入力画像を32×32画素単位、若しくは16×16画素単位、若しくは8×8画素単位等に分割し、注目エリア3(画像全体または設定された注目エリア)を複数のブロックに分割する。例えば注目エリア3の画面を16×16画素単位のブロック(40×30ブロック)に分割する。このブロック分割領域それぞれについて、周囲ブロックの輝度値を可変要素に、平均輝度を求める。
【0054】
この動作原理を図6乃至図9に示している。ここでは、図6および図7に示すように、画面をブロック分割した16×16画素のパターンを、1/2ブロック(8×8画素)分シフトしたブロック4パターンから1つの小ブロックの値を考える。ここでは、1/2ブロックシフトで、4パターンのブロックが重なったブロック(8×8画素)について、重なったブロックの輝度の平均、さらには輝度二乗の平均等を求め、この値をもとに、予め設定された輝度伸張処理方式に適用される輝度伸張用の輝度変換テーブルをブロック単位に作成する。さらにブロック処理手段4aは、分割したブロック各々について、ブロック毎の輝度総和を算出し、算出したブロック毎の輝度総和を用いて、前記ブロック毎に、当該ブロックとその周囲のブロックを含む重み付けおよび畳み込み処理した全ブロックの輝度総和を算出して、各ブロックの平均輝度を算出する。この際の畳み込み計数および畳み込み処理のイメージを図8および図9に示している。ここでは、図8に示すように、平均輝度の算出対象となる注目ブロックに対して「4」、注目ブロックの周囲8近傍のブロックのうち、上下左右の4ブロックに対してそれぞれ「2」、斜め4方向の各ブロックに対してそれぞれ「1」の畳み込み計数をもたせて、図9に示すデータの積み上げイメージで、上記各ブロックの輝度値を畳み込み、畳み込み演算することで、注目ブロックの輝度平均を求めることができる。このブロック毎の平均輝度値をもとに、予め設定された輝度伸張処理方式に適用されるブロック単位の輝度伸張パラメータおよび輝度変換テーブルを作成する。
【0055】
つぎに、ブロッキング輝度伸張処理部20の補間処理手段4bにおいて、上記ブロック単位で求めた輝度伸張パラメータに従う輝度変換テーブルを用いた各ブロックの画素について、上記した補間手段により、ブロック毎に、当該ブロックと、その周囲4ブロックの輝度変換テーブルを用いてバイリニア補間を実施する。このバイリニア補間は図10に示すように、注目画素の変換値を、周囲4ブロック(A,B,C,D)の変換値の線形補間(バイリニア補間)にて決定し設定する。ここでは、注目画素が位置するブロック位置、および注目画素の当該ブロックとの位置差を小数点で求めて、当該ブロックと周囲ブロックの輝度変換テーブルの値に、ブロック位置差の係数を掛け、線形補間(バイリニア補間)の原理で輝度の変換値を求める。
【0056】
上記補間処理手段4bによりバイリニア補間を施した各ブロックの画素をもとに上記入力画像に対する輝度伸張出力画像5を作成する。
【0057】
このように、ブロッキング輝度伸張処理部20のブロック処理手段4aにおいて、画像ブロック単位の輝度伸張パラメータと輝度変換テーブルを求め、ブロッキング輝度伸張処理部20の補間処理手段4bにおいて、周囲ブロックを利用したバイリニア補間で変換輝度値を求めて、バイリニア補間を施した(周囲ブロックの輝度伸張パラメータを反映した)各ブロックの画素をもとに上記入力画像に対する輝度伸張出力画像5を作成する構成としたことにより、ブロック境界に輝度差が生じることなく、注目エリア内の一部に局所的に存在する明暗の各画像をそれぞれ明瞭に階調表示することができる。
【0058】
上記実施形態をより具現化した一例を図11および図12に示している。図11は実施形態に係るブロッキング輝度伸張処理部20の機能構成を示すブロック図、図12は上記ブロッキング輝度伸張処理部20の処理手順を示すフローチャートである。
【0059】
ブロッキング輝度伸張処理部20は、上述したブロック処理手段(4a)の機能と補間処理手段(4b)の機能を備え、ブロック処理機能により画像ブロック単位の輝度伸張パラメータと輝度変換テーブルを生成し、補間処理機能により周囲ブロックを利用したバイリニア補間で各ブロックの画素の変換輝度値を求めている。
【0060】
なお、図11に示す構成は、本願発明の実施形態に係るブロック分割輝度伸張処理機能を、非線形曲線(凸曲線、凹曲線)を用いた非線形輝度伸張処理方式に適用した例を示している。
【0061】
この非線形輝度伸張処理方式では、後述する平均輝度算出部222が算出した平均輝度値が256階調の中心輝度値(127)以下であるか超えているかを判定し、中心輝度値以下であるとき、凸曲線による参照テーブルを入力画像に対する輝度伸張用の輝度変換テーブルとして作成し、中心輝度値を超えるとき、凹曲線による参照テーブルを入力画像に対する輝度伸張用の輝度変換テーブルとして作成する。この非線形輝度伸張処理機能は、既に公知の特許第4340303号による非線形輝度伸張処理方式に適用したもので、その要旨は後述する。
【0062】
ブロッキング輝度伸張処理部20は、図11に示すように、ブロック参照輝度設定部221と、平均輝度算出部222と、累乗パラメータ算出部223と、参照テーブル判定部224と、画像変換部225と、線形補間(バイリニア補間)算出部226とを具備して構成される。
【0063】
ブロック参照輝度設定部221は、カメラ11で撮影し入力した入力画像の注目エリアを、外部より指定されたブロックサイズに従い、複数のブロックに分割し、ブロック毎に、各ブロックの輝度値の総和を算出する。ここでは、8×8画素、16×16画素、24×24画素、32×32画素のうちのいずれかのブロックサイズ(例えば16×16画素)が指定され、その指定サイズに従い、入力画像の注目エリアがブロック分割される。なお、入力画像のエッジ部分に指定ブロックサイズより小さい端数画素分の領域が生じた場合は、当該領域を輝度伸張処理対象から外すかまたは他の輝度伸張処理手段を適用するものとする。
【0064】
平均輝度算出部222は、ブロック参照輝度設定部221がブロック分割し、ブロック毎に算出した輝度総和をもとに、ブロック毎に、当該ブロックとその周囲のブロックを含む重み付けおよび畳み込み処理した全ブロックの輝度総和を算出してブロック単位の画像の平均輝度値(=M)を算出する。
【0065】
累乗パラメータ算出部223は、上記した非線形輝度伸張処理方式において適用されるもので、平均輝度算出部222が算出した平均輝度をもとに、後述する(1)式に従い、入力画像(注目エリア)に対する輝度伸張処理のための累乗パラメータを算出する。
【0066】
参照テーブル判定部224は、上記平均輝度値が上記中心輝度値(127)以下であるか上記中心輝度値(127)を超えているかを判定し、上記平均輝度値が上記中心輝度値(127)以下であるとき、テーブル作成部231により、上記累乗パラメータを用いて後述する(2)式に従う凸曲線による参照テーブルを入力画像に対する輝度伸張用の輝度変換テーブル(参照テーブル)232として作成し、上記平均輝度値が上記中心輝度(127)を超えるとき、テーブル作成部231により、上記累乗パラメータを用いて後述する(3)式に従う凹曲線による参照テーブルを入力画像に対する輝度伸張用の輝度変換テーブル232として作成する。
【0067】
画像変換部225は、参照テーブル判定部225が作成した輝度変換テーブル(参照テーブル)232を用いて、画像バッファ21に保持された入力画像(注目エリア)に輝度変換処理を施し、入力輝度に対して出力輝度を変換した画像を画像バッファ21に書き戻すことによって画像バッファ21上に輝度伸張画像を作成する。
【0068】
線形補間算出部226は、図10に示したように、ブロック単位で求めた輝度伸張パラメータに従う輝度変換テーブルを用いた各ブロックの画素について、ブロック毎に、当該ブロックと、その周囲4ブロックの輝度変換テーブルを用いてバイリニア補間を実施する。
【0069】
上記したブロッキング輝度伸張処理部20の処理手順を図12に示している。
【0070】
ブロッキング輝度伸張処理部20は、カメラ11が撮像したフレーム単位の入力画像がキャプチャ部12を介して画像バッファメモリ13に保持される毎に、図12に示す処理を実施する。
【0071】
画像バッファメモリ13に輝度伸張処理の対象となる入力画像(Pa)が保持されると、当該入力画像がリサイズ部14によりリサイズされてブロッキング輝度伸張処理部20に入力される。ブロッキング輝度伸張処理部20において、ブロック参照輝度設定部221は、カメラ11で撮影し入力した入力画像の注目エリア(画像全体または設定された注目エリア)を、外部より指定されたブロックサイズ(例えば16×16画素)に従い、複数のブロック(40×30ブロック)に分割し、ブロック毎に各ブロックの輝度値の総和を求めて当該ブロック単位の輝度総和を注目ブロックの輝度情報として平均輝度算出部222に送出する(ステップS21)。
【0072】
平均輝度算出部222は、ブロック参照輝度設定部221から注目ブロックの輝度情報(ブロック単位の輝度総和)を入力すると、この輝度情報をもとに、図8および図9に示したように、ブロック毎に、当該ブロックとその周囲のブロックを含む重み付けおよび畳み込み処理した全ブロックの輝度総和を算出してブロック単位(注目ブロック)の画像の平均輝度値を算出し、当該注目ブロックの画像の平均輝度値を累乗パラメータ算出部223と参照テーブル判定部224に送出する(ステップS22)。
【0073】
累乗パラメータ算出部223は、平均輝度算出部222が算出した平均輝度値をもとに、後述する(1)式に従い、入力画像(注目エリア)に対する輝度伸張処理のための累乗パラメータを算出し、当該パラメータを参照テーブル判定部224に送出する。
【0074】
参照テーブル判定部224は、平均輝度算出部222から入力した平均輝度値と累乗パラメータ算出部223から入力した累乗パラメータを輝度伸張パラメータとして、当該輝度伸張パラメータに従う輝度変換テーブルを作成する。ここでは、上記平均輝度値が上記中心輝度値(127)以下であるか上記中心輝度値(127)を超えているかを判定し、上記平均輝度値が上記中心輝度値(127)以下であるとき、テーブル作成部231により、上記累乗パラメータを用いて後述する(2)式に従う凸曲線による参照テーブルを入力画像に対する輝度伸張用の輝度変換テーブル(参照テーブル)232として作成し、上記平均輝度値が上記中心輝度(127)を超えるとき、テーブル作成部231により、上記累乗パラメータを用いて後述する(3)式に従う凹曲線による参照テーブルを入力画像に対する輝度伸張用の輝度変換テーブル232として作成する(ステップS23)。
【0075】
ここで、上記した凸曲線および凹曲線を用いた非線形輝度伸張処理方式における輝度伸張処理について記述する。
【0076】
累乗パラメータ算出部223は、注目エリアの平均輝度をもとに輝度伸張用の累乗パラメータγを下式(1)により自動的に算出する。
【0077】
γ=(α/Bmed2)×(Iave−Bmed)2+1.0・・・・式(1)
(ただし、αは固定値、Bmedは輝度中央値、Iaveは入力画像注目エリアの平均輝度)
上記平均輝度と上記入力画像の輝度階調範囲の中心輝度とを比較し、累乗パラメータγを用いて自動的に下式(2)又は下式(3)を切り替えて、凸曲線および凹曲線の輝度変換テーブルを作成する。
【0078】
I’=Bmax-((Bmax-I)/Bmax)γ×Bmax:Iave≦Bmed・・・・式(2)凸曲線
I’=I/Bmaxγ×Bmax:Iave>Bmed ・・・・式(3)凹曲線
(だたし、I’は出力輝度、Iは入力輝度、Bmedは輝度中央値、Bmaxは輝度最大値、Iaveは入力画像注目エリアの平均輝度)
この参照テーブル判定部224で作成された凸曲線および凹曲線の輝度変換テーブル232は画像変換部225に送出される(ステップS23)。
【0079】
画像変換部225は、参照テーブル判定部225が作成した輝度変換テーブル(参照テーブル)232を用いて、画像バッファ21に保持された入力画像(注目エリア)に輝度変換処理を施す。このブロック単位で輝度伸張された注目ブロックの各画素に対して、線形補間算出部226より、図7に示したように、注目ブロックと、その周囲4ブロックの輝度変換テーブルを用いて画素位置の距離差に応じたバイリニア補間が実施され、このバイリニア補間で輝度変換された画像が画像バッファ21に書き戻されることによって画像バッファ21上にブロック間のバイリニア補間を施した輝度伸張画像が作成される(ステップS24,S25)。
【0080】
なお、上記した実施形態では、VGA(640×480画素)の0〜255階調のカメラ映像を輝度伸張処理の対象となる入力画像としたが、これに限らず、他の画像構成を扱う画像処理装置においても本発明の実施形態に係る輝度伸張処理機能を適用することができる。また、上記実施形態において、輝度伸張処理機能を実現する20の構成要素(ブロック参照輝度設定部221、平均輝度算出部222、累乗パラメータ算出部223、参照テーブル判定部224、画像変換部225、線形補間算出部226等)について、その一部機能若しくはすべての機能をソフトウェア処理により実現可能である。
【0081】
また、上記した実施形態では、ブロック毎に各ブロックの輝度値の総和を求め、注目ブロックとその周囲のブロックを含む重み付けおよび畳み込み処理した全ブロックの輝度総和を算出してブロック単位(注目ブロック)の画像の平均輝度値を算出しているが、これに限らず、例えば、ブロック毎に輝度平均を算出し、このブロック毎の平均輝度を用いて重み付けおよび畳み込み処理を実施することも可能である。
【0082】
また、上記した実施形態では、本願発明の実施形態に係るブロック分割輝度伸張処理機能を、非線形曲線(凸曲線、凹曲線)を用いた非線形輝度伸張処理方式に適用した例を示しているが、これに限らず、例えばシグモイド関数曲線を利用したシグモイド輝度伸張処理方式や、その他の各種輝度伸張処理方式に適用可能である。
【0083】
上記したブロッキング輝度伸張処理により、明暗の大きく異なる部分が画素レベルで補正され、監視し易いダイナミックレンジを有した全周監視画像の表示機能を実現できる。
【0084】
上記した実施形態では、上記監視対象の検知処理において監視対象が検知されないとき、ブロッキング輝度伸張処理した360°全周の入力画像(全周画像)を表示部(表示デバイス)21に表示し、上記検知処理において監視対象が検知されたとき、ブロッキング輝度伸張処理部20ブロッキング輝度伸張処理した切り出し画像を表示部21に表示する表示機能を実現しているが、上記検知処理において監視対象が検知されたとき、検知された監視対象領域の切り出し画像を全周画像とともに同時に表示することも可能である。この際、表示部21の表示画面全域に全周画像を表示し、監視対象が検知されたとき、検知された監視対象領域の切り出し画像を、全周画像の切り出し位置に対応付けるバルーン形式で全周画像に被せて(全周画像を覆って)表示させることも可能である。または、監視対象が検知されたとき、検知された監視対象領域の切り出し画像を、表示部21上の予め定めた一部表示領域に部分表示することも可能である。
【0085】
この全周画像と切り出し画像の表示例を図13乃至図17に示している。図13は単眼カメラ(IPカメラ)11で撮影した、楕円面の長辺と短辺を1フレーム(F)の幅と高さに合わせた、360°全周監視画像(Pa)の一例を示し、図14はこの360°全周監視画像(Pa)から切り出した切り出し画像(q1)の一例を示している。
【0086】
図15は、上記実施形態において楕円映像(360°全周監視画像)の中で仮想自動追跡処理機能を実現するイメージを示す図であり、ここでは、楕円映像(360°全周監視画像)の中でトラッキング(動き検知)した監視対象オブジェクトの切り出し画像をトラッキング順にQ1,Q2,Q3,Q4で示している。この切り出し画像の表示例を図16および図17に示している。図16に示す切り出し画像の表示例では、切り出し画像(Q1,Q2,Q3,Q4)それぞれに当該画像の切り出し(動き検知)時刻を示す時刻情報(T1,T2,T3,T4)を付加表示している。図16に示す切り出し画像の表示例では、表示部(表示デバイス)21の表示画面上において、切り出し画像(Q1,Q2,Q3,Q4)をトラッキング順に、左上、右上、左下、右下に4分割表示した例を示している。
【0087】
このように、楕円映像の中で、検知および追跡(追尾)の対象となるオブジェクトをトラッキングし、矩形の領域を切り出して、切り出した矩形の領域の切り出し画像にブロッキング輝度伸張処理を施し、当該切り出し画像をトラッキング順(切り出し順)に従い連続的に表示することで、視認性の高い仮想自動追尾が可能となる。
【0088】
なお、本発明は、上記実施形態そのままに限定されるものではなく、実施段階ではその要旨を逸脱しない範囲で構成要素を変形して具体化できる。また、上記実施形態に開示されている複数の構成要素の適宜な組み合わせにより種々の発明を形成できる。例えば、実施形態に示される全構成要素から幾つかの構成要素を削除してもよい。更に、異なる実施形態に構成要素を適宜組み合わせてもよい。また上記実施形態に記載した手法は、コンピュータに実行させることのできるプログラムとして、記憶媒体に格納して頒布することもできる。
【符号の説明】
【0089】
2…単眼カメラで撮影した画像(入力画像)、3…注目エリア対象画像、4a…ブロック処理手段、4b…補間処理手段、5…輝度伸張出力画像、11…カメラ(単眼カメラ(IPカメラ))、12…キャプチャ部、13…画像バッファメモリ、14…リサイズ部、15…処理画像バッファメモリ、16…画像処理部、17…オブジェクト情報バッファメモリ、18…注目領域画像作成処理部、19…オブジェクト画像バッファメモリ、20…ブロッキング輝度伸張処理部、21…表示部(表示デバイス)、22…大容量記憶媒体、221…ブロック参照輝度設定部、222…平均輝度算出部、223…累乗パラメータ算出部、224……参照テーブル判定部、225…画像変換部、226…輝度伸張出力画像、231…テーブル作成部、232…輝度変換用テーブル(参照テーブル)。
【特許請求の範囲】
【請求項1】
360°全周監視映像をフレーム単位にキャプチャする監視映像入力手段と、
前記監視映像入力手段がキャプチャしたフレーム単位の監視映像を入力画像として記憶する入力画像記憶手段と、
前記監視映像入力手段がキャプチャしたフレーム単位の監視映像を、監視対象の検知に用いる小画素単位にリサイズし、リサイズした監視映像を処理用入力画像として時系列に複数フレーム分記憶する処理画像記憶手段と、
前記リサイズした監視映像に対し前処理を実施して監視対象を検知するための閾値を決定し、決定した閾値と前記処理画像記憶手段に記憶した複数フレームの処理用入力画像をもとに、前記リサイズした直近の処理用入力画像から設定パラメータに従う動物体若しくは静止物体を監視対象として検知する検知処理を実施し、監視対象を検知したとき前記処理画像記憶手段に記憶した直近の処理用入力画像から前記検知した監視対象を囲う矩形の領域を抽出する画像処理手段と、
前記画像処理手段が抽出した矩形の領域の中心位置をもとに前記入力画像記憶手段に記憶された入力画像に対して切り出し処理を実施し、切り出した画像に対して歪曲収差を補正する補正処理を実施する監視画像処理手段と、
前記監視画像処理手段が補正処理した画像を監視対象画像として記憶する監視対象画像記憶手段と、
前記監視対象画像記憶手段に記憶した監視対象画像に対して画素単位のブロッキング輝度伸張処理を実施するブロッキング輝度伸張処理手段と、
前記ブロッキング輝度伸張処理手段により前記輝度伸張処理を施した監視対象画像を表示する表示出力手段と、
を具備したことを特徴とする全方位監視画像処理システム。
【請求項2】
360°全周監視映像をフレーム単位にキャプチャする監視映像入力手段と、
前記監視映像入力手段がキャプチャしたフレーム単位の監視映像を入力画像として記憶する入力画像記憶手段と、
前記監視映像入力手段がキャプチャしたフレーム単位の監視映像を、監視対象の検知に用いる小画素単位にリサイズし、リサイズした監視映像を処理用入力画像として時系列に複数フレーム分記憶する処理画像記憶手段と、
前記リサイズした監視映像に対し前処理を実施して監視対象を検知するための閾値を決定し、決定した閾値と前記処理画像記憶手段に記憶した複数フレームの処理用入力画像をもとに、前記リサイズした直近の処理用入力画像から設定パラメータに従う動物体若しくは静止物体を監視対象として検知する検知処理を実施し、監視対象を検知したとき前記処理画像記憶手段に記憶した直近の処理用入力画像から前記検知した監視対象を囲う矩形の領域を抽出する画像処理手段と、
前記画像処理手段が抽出した矩形の領域の中心位置をもとに前記入力画像記憶手段に記憶された入力画像に対して切り出し処理を実施し、切り出した画像に対して歪曲収差を補正する補正処理を実施する監視画像処理手段と、
前記監視画像処理手段が補正処理した画像を監視対象画像として記憶する監視対象画像記憶手段と、
前記監視対象画像記憶手段に記憶した監視対象画像および前記入力画像記憶手段に記憶した入力画像に対して画素単位のブロッキング輝度伸張処理を実施するブロッキング輝度伸張処理手段と、
前記ブロッキング輝度伸張処理手段により輝度伸張処理を施した監視対象画像を表示する表示出力手段と、
を具備したことを特徴とする全方位監視画像処理システム。
【請求項3】
360°全周監視映像をフレーム単位にキャプチャする監視映像入力手段と、
前記監視映像入力手段がキャプチャしたフレーム単位の監視映像を入力画像として記憶する入力画像記憶手段と、
前記監視映像入力手段がキャプチャしたフレーム単位の監視映像を、監視対象の検知に用いる小画素単位にリサイズし、リサイズした監視映像を処理用入力画像として時系列に複数フレーム分記憶する処理画像記憶手段と、
前記リサイズした監視映像に対し前処理を実施して監視対象を検知するための閾値を決定し、決定した閾値と前記処理画像記憶手段に記憶した複数フレームの処理用入力画像をもとに、前記リサイズした直近の処理用入力画像から設定パラメータに従う動物体若しくは静止物体を監視対象として検知する検知処理を実施し、監視対象を検知したとき前記処理画像記憶手段に記憶した直近の処理用入力画像から前記検知した監視対象を囲う矩形の領域を抽出する画像処理手段と、
前記画像処理手段が抽出した矩形の領域の中心位置をもとに前記入力画像記憶手段に記憶された入力画像に対して切り出し処理を実施し、切り出した画像に対して歪曲収差を補正する補正処理を実施する監視画像処理手段と、
前記監視画像処理手段が補正処理した画像を監視対象画像として記憶する監視対象画像記憶手段と、
前記画像処理手段が前記検知処理において前記監視対象を検出しない状態にあるとき前記入力画像記憶手段に記憶した入力画像に対して画素単位のブロッキング輝度伸張処理を実施し、前記画像処理手段が前記検知処理において前記監視対象を検出している状態にあるとき前記監視対象画像記憶手段に記憶した監視対象画像に対して画素単位のブロッキング輝度伸張処理を実施するブロッキング輝度伸張処理手段と、
前記ブロッキング輝度伸張処理手段により輝度伸張処理を施した監視対象画像を表示する表示出力手段と、
を具備したことを特徴とする全方位監視画像処理システム。
【請求項4】
前記ブロッキング輝度伸張処理手段は、
輝度伸張処理の対象となる入力画像について、設定された注目エリアを複数のブロックに分割し、分割したブロック各々について、周囲のブロックの輝度値を畳み込んだ複数のブロックの輝度値をもとにブロック単位の輝度伸張パラメータを算出し、当該輝度伸張パラメータをもとにブロック単位の輝度変換テーブルを作成するブロック処理手段と、
前記ブロック処理手段により作成されたブロック単位の輝度変換テーブルをもとに、分割したブロック各々の各画素について、ブロック毎に、周囲のブロックの輝度変換テーブルを参照してバイリニア補間を実施する補間処理手段と、
前記補間処理手段によりバイリニア補間を施した前記各ブロックの画素をもとに前記入力画像に対する輝度伸張出力画像を作成する画像変換手段と、
を具備したことを特徴とする請求項1乃至3のいずれか1項に記載の全方位監視画像処理システム。
【請求項5】
前記ブロック処理手段は、分割したブロックのうち、処理対象となる注目ブロックAについて、隣接する上下左右のブロックBと、隣接する斜め方向のブロックCとを用い、A>B>Cの重み付けにより前記畳み込みの処理を実施することを特徴とする請求項4に記載の全方位監視画像処理システム。
【請求項6】
前記ブロック処理手段は、
外部から指定されたブロックサイズに従い、前記注目エリアの画像を複数のブロックに分割するブロック分割手段と、
前記ブロック分割手段が分割したブロック各々についてブロック毎の輝度総和を算出し、算出したブロック毎の輝度総和を用いて、前記ブロック毎に、当該ブロックとその周囲のブロックを含む前記重み付けおよび畳み込み処理した全ブロックの輝度総和を算出する輝度総和算出手段と、
前記輝度総和算出手段が算出した輝度総和を用いて、前記ブロック毎に、当該ブロックの輝度平均を算出する輝度平均算出手段と、
前記輝度平均算出手段が算出したブロックの輝度平均をもとに、前記ブロック毎に、輝度伸張パラメータを算出する輝度伸張パラメータ算出手段と、
前記輝度伸張パラメータ算出手段が算出した輝度伸張パラメータをもとに、前記ブロック毎に、輝度伸張用の輝度変換テーブルを作成する輝度変換テーブル作成手段と、
を具備したことを特徴とする請求項5に記載の全方位監視画像処理システム。
【請求項7】
監視映像入力手段が入力する前記360°全周監視映像は、長辺を映像フレームの横幅に合わせた楕円面映像であることを特徴とする請求項1乃至3のいずれか1項に記載の全方位監視画像処理システム。
【請求項8】
監視映像入力手段が入力する前記360°全周監視映像は、1.3Mピクセル以上の画素数を有する高精細映像であり、前記処理画像記憶手段が記憶する監視映像は前記高精細映像の1/2以下にリサイズした監視映像であることを特徴とする請求項1乃至3のいずれか1項に記載の全方位監視画像処理システム。
【請求項9】
前記画像処理手段は、前記リサイズした監視映像から複数の監視対象を検知したとき、監視対象毎に、監視対象をカメラで追尾するように、監視対象毎に時系列に矩形の領域を追跡する仮想自動追跡処理を実施することを特徴とする請求項1乃至3のいずれか1項に記載の全方位監視画像処理システム。
【請求項10】
前記画像処理手段は、前記前処理において、
前記動物体を監視対象とした前記閾値の決定手段として、
前記入力画像記憶手段に記憶した前記一定期間内の複数の画像を対象に、画素あたりの輝度平均値と標準偏差を算出する標準偏差算出手段と、
前記標準偏差を算出した画素について、前記算出した標準偏差と前記複数の過去画像の対応する各画素の閾値の加重移動平均とをもとに閾値を算出する閾値算出手段と、
前記閾値算出手段で算出した閾値を前記標準偏差を算出した画素の前記変化画素を抽出するための閾値として設定する閾値設定手段とを具備し、
前記静止物体を監視対象とした前記閾値の決定手段として、
前記入力画像記憶手段に記憶した前記一定期間内の複数の画像を対象に、画素あたりの輝度平均値および標準偏差を算出し、この算出で得た標準偏差若しくは輝度分散値をもとに、前記一定期間内の複数の画像の対応する画素を対象に、低輝度の一定の輝度変動範囲に収まる複数の画素を特定し、この特定した画素の平均輝度を用いて背景画像を作成する背景画像作成手段と、
前記背景画像作成手段が作成した背景画像と入力された現画像との画素毎の差分処理により背景変化画素を抽出し背景画像を更新する背景変化画素抽出手段とを具備する
ことを特徴とする請求項1乃至3のいずれか1項に記載の全方位監視画像処理システム。
【請求項11】
前記監視映像入力手段が入力する360°全周監視映像は、単眼カメラで撮影した、ライブ映像若しくは録画映像であることを特徴とする請求項1乃至3のいずれか1項に記載の全方位監視画像処理システム。
【請求項1】
360°全周監視映像をフレーム単位にキャプチャする監視映像入力手段と、
前記監視映像入力手段がキャプチャしたフレーム単位の監視映像を入力画像として記憶する入力画像記憶手段と、
前記監視映像入力手段がキャプチャしたフレーム単位の監視映像を、監視対象の検知に用いる小画素単位にリサイズし、リサイズした監視映像を処理用入力画像として時系列に複数フレーム分記憶する処理画像記憶手段と、
前記リサイズした監視映像に対し前処理を実施して監視対象を検知するための閾値を決定し、決定した閾値と前記処理画像記憶手段に記憶した複数フレームの処理用入力画像をもとに、前記リサイズした直近の処理用入力画像から設定パラメータに従う動物体若しくは静止物体を監視対象として検知する検知処理を実施し、監視対象を検知したとき前記処理画像記憶手段に記憶した直近の処理用入力画像から前記検知した監視対象を囲う矩形の領域を抽出する画像処理手段と、
前記画像処理手段が抽出した矩形の領域の中心位置をもとに前記入力画像記憶手段に記憶された入力画像に対して切り出し処理を実施し、切り出した画像に対して歪曲収差を補正する補正処理を実施する監視画像処理手段と、
前記監視画像処理手段が補正処理した画像を監視対象画像として記憶する監視対象画像記憶手段と、
前記監視対象画像記憶手段に記憶した監視対象画像に対して画素単位のブロッキング輝度伸張処理を実施するブロッキング輝度伸張処理手段と、
前記ブロッキング輝度伸張処理手段により前記輝度伸張処理を施した監視対象画像を表示する表示出力手段と、
を具備したことを特徴とする全方位監視画像処理システム。
【請求項2】
360°全周監視映像をフレーム単位にキャプチャする監視映像入力手段と、
前記監視映像入力手段がキャプチャしたフレーム単位の監視映像を入力画像として記憶する入力画像記憶手段と、
前記監視映像入力手段がキャプチャしたフレーム単位の監視映像を、監視対象の検知に用いる小画素単位にリサイズし、リサイズした監視映像を処理用入力画像として時系列に複数フレーム分記憶する処理画像記憶手段と、
前記リサイズした監視映像に対し前処理を実施して監視対象を検知するための閾値を決定し、決定した閾値と前記処理画像記憶手段に記憶した複数フレームの処理用入力画像をもとに、前記リサイズした直近の処理用入力画像から設定パラメータに従う動物体若しくは静止物体を監視対象として検知する検知処理を実施し、監視対象を検知したとき前記処理画像記憶手段に記憶した直近の処理用入力画像から前記検知した監視対象を囲う矩形の領域を抽出する画像処理手段と、
前記画像処理手段が抽出した矩形の領域の中心位置をもとに前記入力画像記憶手段に記憶された入力画像に対して切り出し処理を実施し、切り出した画像に対して歪曲収差を補正する補正処理を実施する監視画像処理手段と、
前記監視画像処理手段が補正処理した画像を監視対象画像として記憶する監視対象画像記憶手段と、
前記監視対象画像記憶手段に記憶した監視対象画像および前記入力画像記憶手段に記憶した入力画像に対して画素単位のブロッキング輝度伸張処理を実施するブロッキング輝度伸張処理手段と、
前記ブロッキング輝度伸張処理手段により輝度伸張処理を施した監視対象画像を表示する表示出力手段と、
を具備したことを特徴とする全方位監視画像処理システム。
【請求項3】
360°全周監視映像をフレーム単位にキャプチャする監視映像入力手段と、
前記監視映像入力手段がキャプチャしたフレーム単位の監視映像を入力画像として記憶する入力画像記憶手段と、
前記監視映像入力手段がキャプチャしたフレーム単位の監視映像を、監視対象の検知に用いる小画素単位にリサイズし、リサイズした監視映像を処理用入力画像として時系列に複数フレーム分記憶する処理画像記憶手段と、
前記リサイズした監視映像に対し前処理を実施して監視対象を検知するための閾値を決定し、決定した閾値と前記処理画像記憶手段に記憶した複数フレームの処理用入力画像をもとに、前記リサイズした直近の処理用入力画像から設定パラメータに従う動物体若しくは静止物体を監視対象として検知する検知処理を実施し、監視対象を検知したとき前記処理画像記憶手段に記憶した直近の処理用入力画像から前記検知した監視対象を囲う矩形の領域を抽出する画像処理手段と、
前記画像処理手段が抽出した矩形の領域の中心位置をもとに前記入力画像記憶手段に記憶された入力画像に対して切り出し処理を実施し、切り出した画像に対して歪曲収差を補正する補正処理を実施する監視画像処理手段と、
前記監視画像処理手段が補正処理した画像を監視対象画像として記憶する監視対象画像記憶手段と、
前記画像処理手段が前記検知処理において前記監視対象を検出しない状態にあるとき前記入力画像記憶手段に記憶した入力画像に対して画素単位のブロッキング輝度伸張処理を実施し、前記画像処理手段が前記検知処理において前記監視対象を検出している状態にあるとき前記監視対象画像記憶手段に記憶した監視対象画像に対して画素単位のブロッキング輝度伸張処理を実施するブロッキング輝度伸張処理手段と、
前記ブロッキング輝度伸張処理手段により輝度伸張処理を施した監視対象画像を表示する表示出力手段と、
を具備したことを特徴とする全方位監視画像処理システム。
【請求項4】
前記ブロッキング輝度伸張処理手段は、
輝度伸張処理の対象となる入力画像について、設定された注目エリアを複数のブロックに分割し、分割したブロック各々について、周囲のブロックの輝度値を畳み込んだ複数のブロックの輝度値をもとにブロック単位の輝度伸張パラメータを算出し、当該輝度伸張パラメータをもとにブロック単位の輝度変換テーブルを作成するブロック処理手段と、
前記ブロック処理手段により作成されたブロック単位の輝度変換テーブルをもとに、分割したブロック各々の各画素について、ブロック毎に、周囲のブロックの輝度変換テーブルを参照してバイリニア補間を実施する補間処理手段と、
前記補間処理手段によりバイリニア補間を施した前記各ブロックの画素をもとに前記入力画像に対する輝度伸張出力画像を作成する画像変換手段と、
を具備したことを特徴とする請求項1乃至3のいずれか1項に記載の全方位監視画像処理システム。
【請求項5】
前記ブロック処理手段は、分割したブロックのうち、処理対象となる注目ブロックAについて、隣接する上下左右のブロックBと、隣接する斜め方向のブロックCとを用い、A>B>Cの重み付けにより前記畳み込みの処理を実施することを特徴とする請求項4に記載の全方位監視画像処理システム。
【請求項6】
前記ブロック処理手段は、
外部から指定されたブロックサイズに従い、前記注目エリアの画像を複数のブロックに分割するブロック分割手段と、
前記ブロック分割手段が分割したブロック各々についてブロック毎の輝度総和を算出し、算出したブロック毎の輝度総和を用いて、前記ブロック毎に、当該ブロックとその周囲のブロックを含む前記重み付けおよび畳み込み処理した全ブロックの輝度総和を算出する輝度総和算出手段と、
前記輝度総和算出手段が算出した輝度総和を用いて、前記ブロック毎に、当該ブロックの輝度平均を算出する輝度平均算出手段と、
前記輝度平均算出手段が算出したブロックの輝度平均をもとに、前記ブロック毎に、輝度伸張パラメータを算出する輝度伸張パラメータ算出手段と、
前記輝度伸張パラメータ算出手段が算出した輝度伸張パラメータをもとに、前記ブロック毎に、輝度伸張用の輝度変換テーブルを作成する輝度変換テーブル作成手段と、
を具備したことを特徴とする請求項5に記載の全方位監視画像処理システム。
【請求項7】
監視映像入力手段が入力する前記360°全周監視映像は、長辺を映像フレームの横幅に合わせた楕円面映像であることを特徴とする請求項1乃至3のいずれか1項に記載の全方位監視画像処理システム。
【請求項8】
監視映像入力手段が入力する前記360°全周監視映像は、1.3Mピクセル以上の画素数を有する高精細映像であり、前記処理画像記憶手段が記憶する監視映像は前記高精細映像の1/2以下にリサイズした監視映像であることを特徴とする請求項1乃至3のいずれか1項に記載の全方位監視画像処理システム。
【請求項9】
前記画像処理手段は、前記リサイズした監視映像から複数の監視対象を検知したとき、監視対象毎に、監視対象をカメラで追尾するように、監視対象毎に時系列に矩形の領域を追跡する仮想自動追跡処理を実施することを特徴とする請求項1乃至3のいずれか1項に記載の全方位監視画像処理システム。
【請求項10】
前記画像処理手段は、前記前処理において、
前記動物体を監視対象とした前記閾値の決定手段として、
前記入力画像記憶手段に記憶した前記一定期間内の複数の画像を対象に、画素あたりの輝度平均値と標準偏差を算出する標準偏差算出手段と、
前記標準偏差を算出した画素について、前記算出した標準偏差と前記複数の過去画像の対応する各画素の閾値の加重移動平均とをもとに閾値を算出する閾値算出手段と、
前記閾値算出手段で算出した閾値を前記標準偏差を算出した画素の前記変化画素を抽出するための閾値として設定する閾値設定手段とを具備し、
前記静止物体を監視対象とした前記閾値の決定手段として、
前記入力画像記憶手段に記憶した前記一定期間内の複数の画像を対象に、画素あたりの輝度平均値および標準偏差を算出し、この算出で得た標準偏差若しくは輝度分散値をもとに、前記一定期間内の複数の画像の対応する画素を対象に、低輝度の一定の輝度変動範囲に収まる複数の画素を特定し、この特定した画素の平均輝度を用いて背景画像を作成する背景画像作成手段と、
前記背景画像作成手段が作成した背景画像と入力された現画像との画素毎の差分処理により背景変化画素を抽出し背景画像を更新する背景変化画素抽出手段とを具備する
ことを特徴とする請求項1乃至3のいずれか1項に記載の全方位監視画像処理システム。
【請求項11】
前記監視映像入力手段が入力する360°全周監視映像は、単眼カメラで撮影した、ライブ映像若しくは録画映像であることを特徴とする請求項1乃至3のいずれか1項に記載の全方位監視画像処理システム。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【公開番号】特開2012−244479(P2012−244479A)
【公開日】平成24年12月10日(2012.12.10)
【国際特許分類】
【出願番号】特願2011−113731(P2011−113731)
【出願日】平成23年5月20日(2011.5.20)
【出願人】(000220620)東芝テリー株式会社 (116)
【Fターム(参考)】
【公開日】平成24年12月10日(2012.12.10)
【国際特許分類】
【出願日】平成23年5月20日(2011.5.20)
【出願人】(000220620)東芝テリー株式会社 (116)
【Fターム(参考)】
[ Back to top ]