説明

特定人物検知システムおよび検知方法

【課題】特定人物検知システムおよび特定人物検知システム方法は、検知の高精度化、即ち、見逃しや誤検知の低減を図る。
【解決手段】撮影画像中から任意の登場人物を検知する手段と、特定人物の一覧と登場人物との特徴照合から類似性を求め、特定人物検知を行う手段を有する、撮像装置と検知装置と端末装置から構成される特定人物検知システムにおいて、登場人物の撮影条件を求める手段と、最類似人物の撮影条件を求める手段と、両条件の比較から次の撮影条件の方向性を判断する手段と、該判断に従い撮像装置を制御する手段と、該制御から得られる複数条件下の撮影画像を用いて特定人物検知を行う手段を設けた。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、映像監視システムに関わり、特に、撮像装置等から入力された画像から特定人物を特定する検知精度を向上させるシステムおよび方法に関する。
【背景技術】
【0002】
従来から、ホテル、ビル、コンビニエンスストア、金融機関、ダムや道路といった不特定多数の人が訪れる施設には犯罪抑止や事故防止等の目的で、映像監視システムが設置されている。このような映像監視システムでは、監視対象の人物等を監視用撮像装置で撮影し、撮影された映像を、管理事務所や警備室等の監視センタに伝送し、常駐する監視者がそれを監視し、目的や必要に応じて、注意をしたり、あるいは映像を格納するものである。
【0003】
近年、治安の悪化や社会不安の高まり、監視用の撮像装置の低価格化と共に、このような映像監視システムの設置数が増加し、上述のような施設のみならず、商店街や繁華街の街頭、住宅地内の生活道路にまで設置されるケースが出てきている。
しかし、映像監視システムの設置場所の広がりは、システム運用者の監視映像を目視でチェックする負担の増加を顕在化させつつある。
このような背景から、映像中の特定の事象(イベント)の発生を画像認識技術を用いてリアルタイムに自動検知するシステムや技術が開発されている(例えば、特許文献1参照。)。その中の代表的な1つに特定人物検知システムがある。
【0004】
特定人物検知システムとは、検知対象として事前に画像登録しておいた人物(以降、特定人物と称する)が、監視映像中に登場した場合に、登場した特定人物を自動検知し、システム運用者に知らせる機能を有したシステムである。
特定人物の検知は、特定人物の画像と、監視映像中に登場した人物(登場人物)の画像との人物特徴量の照合により、両人物画像間の類似度を算出し、類似度が所定値以上であった場合に、同一人物と判定することで実施される。
こうした特定人物検知システムは、システム運用者の負担を軽減することに寄与している。
【先行技術文献】
【特許文献】
【0005】
【特許文献1】特開2010−171705号公報
【発明の概要】
【発明が解決しようとする課題】
【0006】
一方で、特定人物検知システムは、撮影画角、画像解像度、照明環境等の広範な条件のもとで設置される監視用の撮像装置によって撮影される映像を対象とする。このため、検知の高精度化、即ち、見逃しや誤検知の低減が困難であり、大きな課題となっている。
その対策として、自社出願(特願2010−190862号、2010年8月27日出願)において、従来、システム運用開始前だけに実施されていた特定人物の画像登録を、運用中においても行い、特定人物一人あたりの登録画像数や撮影条件の多様性を増し、照合パターンを増やしていくことにより、検知精度を向上させていく方式が提案されている。
上述の文献記載の開示技術は、精度向上に寄与する方式として有効である。
しかしながら、特定人物検知システムには、さらなる検知精度向上が求められているのも実情である。
本発明の特定人物検知システムおよび特定人物検知方法は、このような状況に鑑みてなされたものであり、検知の高精度化、即ち、見逃しの低減や誤検知の低減を目的とする。
【課題を解決するための手段】
【0007】
上記目的を達成するため、本発明は、撮影画像中から任意の登場人物を検知する手段と、特定人物の一覧と登場人物との特徴照合から類似性を求め、特定人物検知を行う手段を有する、撮像装置と検知装置と端末装置から構成される特定人物検知システムにおいて、登場人物の撮影条件を求める手段と、最類似人物の撮影条件を求める手段と、両条件の比較から次の撮影条件の方向性を判断する手段と、該判断に従い撮像装置を制御する手段と、該制御から得られる複数条件下の撮影画像を用いて特定人物検知を行う手段を設けたものである。
【0008】
即ち、上記目的を達成するため、本発明の特定人物検知システムは、撮像装置、検知装置、および端末装置から構成される特定人物検知システムにおいて、前記検知装置は、前記撮像装置から入力された画像から人物を検知する検知手段と、前記検知手段が検知した人物と、あらかじめ保管された特定人物の一覧との特徴照合から類似性を求め、特定人物検知を行う特定人物検知手段と、前記検知手段が検知した前記人物の第1の撮影条件を求める第1の撮影条件算出手段と、最類似人物に対する第2の撮影条件を求める第2の撮影条件算出手段と、前記第1の撮影条件と前記第2の撮影条件の比較から、次の撮影条件の方向性を判断する方向性判断手段と、前記撮影条件の方向性の判断に基づいて前記撮像装置を制御する制御手段と、前記制御手段から得られる複数条件下の撮影画像を用いて特定人物検知を行う手段とを備えたものである。
【0009】
また、上記目的を達成するため、本発明の特定人物検知方法は、撮像装置、検知装置、および端末装置から構成される特定人物検知システムにおける特定人物検知方法おいて、前記撮像装置から入力された画像から人物を検知しと、前記検知された人物と、あらかじめ保管された特定人物の一覧との特徴照合から類似性を求め、特定人物を検知し、前記検知された前記人物の第1の撮影条件を求め、最類似人物に対する第2の撮影条件を求め、前記第1の撮影条件と前記第2の撮影条件の比較から、次の撮影条件の方向性を判断し、前記撮影条件の方向性の判断に基づいて撮像装置制御手段によって前記撮像装置を制御し、前記撮像装置制御手段から得られる複数条件下の撮影画像を用いて特定人物検知を行うものである。
【発明の効果】
【0010】
本発明によれば、特定人物検知システムにおいて、より高い検知精度を得ることが可能となる。
【図面の簡単な説明】
【0011】
【図1】本発明の特定人物検知システムの一実施例の構成を示すブロック図である。
【図2】本発明の特定人物検知システムの検知装置の一実施例の構成を示すブロック図である。
【図3】本発明の特定人物検知システムの検知装置における特定人物記録部の記録データの一実施例を示す図である。
【図4(a)】本発明の特定人物検知システムの検知装置が実行する検知処理手順の一実施例を説明するためのフローチャートである。
【図4(b)】本発明の特定人物検知システムの検知装置が実行する検知処理手順の一実施例を説明するためのフローチャートである。
【図4(c)】本発明の特定人物検知システムの検知装置が実行する検知処理手順の一実施例を説明するためのフローチャートである。
【図5】本発明の特定人物検知システムの検知装置における判定結果保管部のデータの一実施例を示す図である。
【図6】本発明の特定人物検知システムの検知装置において、この人物が登場して1枚目の画像に対する一連の処理の内容の一実施例を説明するための図である。
【図7】本発明の特定人物検知システムの検知装置において、この人物が登場して2枚目の画像に対する一連の処理の内容の一実施例を説明するための図である。
【図8】人物が登場して3枚目の画像に対する一連の処理の内容を説明する図。
【発明を実施するための形態】
【0012】
以下、添付図面を参照しながら本発明の実施形態を詳細に説明する。なお、各図の説明において、共通な機能を有する構成要素には同一の参照番号を付し、できるだけ説明の重複を避けるため、説明を省略するようにした。
【0013】
図1によって、本発明の特定人物検知システムの一実施例の構成を説明する。図1は、本発明の特定人物検知システムの一実施例の構成を示すブロック図である。100はネットワーク、101は撮像装置、102は検知装置、103は端末装置である。
図1に示すように、本発明の特定人物検知システムの一実施例は、ネットワーク100に、撮像装置101、検知装置102、および端末装置103が接続され、互いに通信可能な状態で構成される。なお、説明の簡略化のため、図1の実施例では、撮像装置101、検知装置102、および端末装置103を、各1台で構成したが、これらはネットワークに対し、複数台の接続が可能である。
【0014】
図1において、ネットワーク100は、各装置(撮像装置101、検知装置102、および端末装置103)を相互に接続し、データ通信を行う専用線やイントラネット、インターネット、無線LAN等の通信線である。
撮像装置101は、遠近制御やピント制御が可能なズームレンズ、CCD(Charge Coupled Device)やCMOS(Complementary Metal Oxide Semiconductor)等の撮像素子、アナログ信号をデジタル変換するA/D(Analog to Digital)回路、RAM(Random Access Memory)等の一時記憶メモリ、データ伝送バス、タイミング回路、外部入出力インタフェース、電源回路、パンやチルト等を行う雲台、および、可視光ライトや近赤外LED(Light Emitting Diode)等の照明を備える監視カメラ等の装置である。
撮像装置101は、レンズを通った入射光を、撮像素子で電気信号に変換し、電気信号をA/D回路でデジタル変換し、一時記憶メモリに画像データとして格納する。格納された画像データは、外部入出力インタフェースに入力された外部からの映像要求やタイミング回路からの指示等に応じて、外部入出力インタフェースからネットワークに出力される。また、同様に外部入出力インタフェースに入力された外部からの制御命令に応じて、撮影の向きやレンズの遠近やピント、照明の量等を変える。
【0015】
検知装置102は、CPU等の演算回路や、RAM等の一時記憶メモリ、HDD(Hard Disk Drive)等の記録媒体、データ伝送バス、外部入出力インタフェース、電源回路等を備える、コンピュータ等の装置である。
検知装置102は、ネットワークを介して外部入出力インタフェースに入力された撮像装置からの画像データを一時記憶メモリに格納する。また、検知装置102は、格納された画像データに対し、演算回路を使い本発明の方式を含む特定人物検知に関わる各種演算を行う。また、検知装置102は、その記録媒体に、本発明の方式を含むソフトウェア一式や、OS(オペレーションシステム)、特定人物の画像(人物特徴量)一式等を格納している。また、検知装置102は、特定人物検知の結果を、外部入出力インタフェースからネットワークに出力する。
【0016】
端末装置103は、CPU等の演算回路や、RAM等の一時記憶メモリ、HDD等の記録媒体、データ伝送バス、外部入出力インタフェース、電源回路、液晶ディスプレイ等の画面、キーボードやマウス等のユーザ入力機器を備える、コンピュータ等の装置である。また、端末装置103には、例えば、ブザーや音声アナウンス機器、LED発光機器等を加えて構成されても良い。
端末装置103は、ネットワーク100を介して外部入出力インタフェースに入力された、撮像装置101からの画像データおよび検知装置102から入力された特定人物検知結果を、一時記憶メモリに格納する。また端末装置103は、格納された画像データおよび特定人物検知結果に対して、演算回路を使い、表示に適した形態に変換を加え、画面表示する。また端末装置103は、その記録媒体に、ソフトウェア一式や、OS等を格納している。また、端末装置103に対するユーザ操作は、ユーザ入出力機器によって行われる。
【0017】
図2によって、図1の検知システムの詳細について説明する。図2は、本発明の特定人物検知システムの検知装置の一実施例の構成を示すブロック図である。図2において、図1と同一の符号の装置は、同一の装置を示す。200は特定人物記録部、201は画像受信部、202は人物検出部、203は撮影条件算出部、204は人物特徴量算出部、205は特定人物1次判定部、206は判定結果保管部、207は特定人物2次判定部、208は検知通知部、209は撮影条件判断部、210は制御指示部である。
図2に示すように、検知装置102は、特定人物記録部200、画像受信部201、人物検出部202、撮影条件算出部203、人物特徴量算出部204、特定人物1次判定部205、判定結果保管部206、特定人物2次判定部207、検知通知部208、撮影条件判断部209、および制御指示部210の各処理部にて構成される。
【0018】
図2において、特定人物記録部200は、特定人物の画像登録の際に、その人物の画像や人物特徴量、その人物ID(姓名や人物固有に与えた識別情報)等を記録しておく処理部であり、例えば、データベースである。記録されるデータは、事前に与えられておくものとし、その与え方はどのようであっても良い。特定人物記録部における記録データの態様については、後述する。
画像受信部201は、検知装置102外部からの画像入出力を行う処理部であり、本実施例では、ネットワーク100を介して、撮像装置101からの入力画像データの受信を行う。
【0019】
人物検出部202は、画像受信部201が入力した入力画像データに対して、画像認識技術を用いた人物検出を行い、登場人物の存在判定をし、人物が存在する場合にはその画像領域座標出力を行う処理部である。
撮影条件算出部203は、画像受信部201が入力した入力画像データに対して、画像処理技術を用いて、撮影条件の算出を行う処理部である。撮影条件は、例えば、人物の明るさや映りの明瞭さ、人物の見かけの大きさ等である。
【0020】
人物特徴量算出部204は、画像受信部201が入力した入力画像データに対して、画像認識技術を用いて特徴量算出を行う処理部である。
特定人物1次判定部205は、人物検出部202で検出した登場人物に対して、特定人物であるか否かを1次判定する処理部である。
判定結果保管部206は、特定人物1次判定部205で判定した結果等を格納し、保管する処理部である。判定結果保管部206における保管データの態様については、後述する。
【0021】
特定人物2次判定部207は、人物検出部202で検出した登場人物に対する特定人物あるか否かの判定を、特定人物1次判定部205で判定した複数個の1次判定結果から、2次判定する処理部である。
検知通知部208は、特定人物を検知した際に、その結果通知の入出力を行う処理部であり、本実施例では、ネットワーク100を介して、端末装置103へ特定人物検知結果データの送信を行う。
【0022】
撮影条件判断部209は、次の撮影条件の方向性を判断する処理部である。
ここで撮影条件の方向性とは、次画像の撮影条件の変更(パラメータを増加するか減少するか)をどのようにするかである。例えば、上述の人物の明るさについては、明るくするか暗くするかであり、また例えば、上述の人物の映りの明瞭さについては、くっきりさせるかぼやけさせるかであり、また例えば、上述の人物の見かけの大きさについては、大きくするか小さくするかである。また、いずれの場合においても、現状を維持するという選択肢も含まれる。
【0023】
制御指示部210は、撮影条件判断部の判断結果に従い、制御指示の入出力を行う処理部であり、本例では、撮像装置への制御指示の送信を行う。
【0024】
図3によって、本発明の特定人物検知システムの検知装置の特定人物記録部における記録データの一実施例を説明する。図3は、本発明の特定人物検知システムの検知装置102における特定人物記録部200の記録データの一実施例を示す図である(図2参照。)。300〜309は、それぞれレコードを示す。310はレコード番号セル、311は人物IDセル、312は特徴量セル、313は人物画像セルである。
【0025】
図3において、データは、撮影1回の情報を1個のレコードとして記録する。本例は、特定人物4名に対するのべ10回分の撮影、すなわち10個のレコードが記録されている状態を示し、レコード300〜309で構成される。
それぞれのレコード300〜309は、レコード番号セル310、人物IDセル311、特徴量セル312、および人物画像セル313で構成される。
レコード番号セル310は、レコード番号を格納するデータ領域である。レコード番号は、レコードの管理をするために用いる番号であり、例えば、レコード毎にユニークに割り当てられる連番(連続整数)の数値である。
人物IDセル311は、特定人物の人物IDを格納するデータ領域である。本実施例では、人物名称としての文字列が格納された例を示すが、人物固有に与えた識別情報であれば、整数値等を用いるようにしても良い。
【0026】
特徴量セル312は、特定人物の人物特徴量を格納するデータ領域である。本実施例では、説明を容易にするため、1次元値としての小数値が格納された例を示すが、多次元値を用いるようにしても良いことは勿論である。
人物画像セル313は、特定人物の画像を格納するデータ領域である。本実施例では、画像そのものを格納した例を示すが、代わりに画像を別途格納したデータ領域のアドレス値を16進数等で格納するようにしても良い。
【0027】
図4によって、本発明の特定人物検知システムの検知装置が実行する検知処理の流れの一実施例を説明する。図4は、本発明の特定人物検知システムの検知装置が実行する検知処理手順の一実施例を説明するためのフローチャートである。図4は紙面が大きくなるため、図4(a)、図4(b)および図4(c)に分割して示した。図4(a)は、ステップ400〜ステップ408について説明し、図4(b)は、ステップ409〜417について説明し、図4(c)は、ステップ418〜422について説明している。
図4における処理は、特に説明のない限り、検知装置102が実行する。
また図4には図示しないが、検出カウンタの初期値は“0”とする。
【0028】
画像受信待機ステップ400では、画像受信部201は、撮像装置101から画像データが入力されるまで、待機を行う。画像受信部201は、着信(画像受信)を検知すると、画像受信ステップ401の処理に進む。
画像受信ステップ401では、画像受信部201は、撮像装置101から送信された画像を受信する。
人物検出ステップ402では、人物検出部202は、受信した画像データに対して人物検出を行う。人物検出は、例えば、背景画像との差分により動体検出を行い、さらにその動体画像領域の面積や形状、移動速度等にて人物として検出する方法や、予め学習させ用意しておいた人物の画像特徴パターンを有する画像領域の有無を画像内探索を使って探す方法等の周知の技術によって行う。本発明では、どの方法であっても良く、また人物検出が人物全体を対象とした検出であっても、人物特定の代表的な部位である顔のような部分画像領域を対象とした検出であっても良い。検出の結果、人物が検出された場合(検出)、検出カウンタ値加算ステップ403の処理に進み、検出されなかった場合(非検出)には、2次判定要否判定ステップ418に(T3経由で図4(c)の)処理に進む。
【0029】
検出カウンタ値加算ステップ403では、人物検出部202は、検出カウンタ値を1加算し、人物画像領域算出ステップ404の処理に進む。
人物画像領域算出ステップ404では、人物検出部202は、人物の画像領域を算出し、見かけの大きさ算出ステップ405の処理に進む。
見かけの大きさ算出ステップ405では、撮影条件算出部203は、人物画像領域算出ステップで算出した登場人物の画像領域に対して、人物の見かけの大きさを算出し、明るさ算出ステップ406の処理に進む。人物の見かけの大きさには、例えば、画像上の面積、即ち、画像領域の縦方向の画素数と横方向の画素数の積値等を用いる。
明るさ算出ステップ406では、撮影条件算出部203は、人物画像領域算出ステップ404で算出した登場人物の画像領域に対して、人物の明るさを算出し、映りの明瞭さ算出ステップ407の処理に進む。人物の明るさには、例えば、画像領域の輝度の平均値等を用いる。
映りの明瞭さ算出ステップ407では、撮影条件算出部203は、人物画像領域算出ステップ404で算出した登場人物の画像領域に対して、人物の映りの明瞭さを算出し、特徴量算出ステップ408の処理に進む。人物の映りの明瞭さには、例えば、画像領域における高周波成分量等を用いる。高周波成分は、画像領域に対するフーリエ変換等の変換により求めることができる。
特徴量検出ステップ408では、人物特徴量算出部204は、登場人物の画像領域からその人物特徴量を算出し、検出カウンタ値判定ステップ409の処理に進む(T2経由で図4(b)の処理に進む)。ここで算出する人物特徴量には、例えば、人物の輪郭の形状や方向、頭髪や皮膚の色、歩容、あるいは、顔の輪郭の形状や方向、目や鼻、口といった主要構成要素の大きさ、形状、配置関係等々が数値化された画像特徴量が挙げられる。本実施例においては、これら複数の特徴量を1つのベクトルとして扱う。
【0030】
検出カウンタ値判定ステップ409では、特定人物1次判定部205は、検出カウンタ値の評価を行う。検出カウンタ値が“1”であった場合には、全照合ステップ410の処理に進み、検出カウンタ値が“1”以外であった場合には、絞込照合ステップ411の処理に進む。
【0031】
全照合ステップ410では、特定人物1次判定部205は、全照合を行う。具体的には、特徴量検出ステップ408で算出した登場人物の人物特徴量を、特定人物記録部200に予め記録しておいた各特定人物の人物特徴量全てを対象として、順番に照合(類似度算出)していき、最も類似度の高い特徴量を探し出す。この特徴量を持つ人物を最類似人物とする。その処理後、見かけの大きさ算出ステップ412の処理に進む。ここで、類似度とは、画像(画像特徴量)同士の近さ、いわゆる類似性を示す数値であり、その算出方法については、例えば、「大規模な画像集合のための表現モデル」(廣池敦他、日本写真学会誌2003年66巻1号P93−P101)のような論文を参照することができる。本実施例においては、類似度は類似しているほど大きくなる正数とし、例えば、特徴量間の距離(ノルム)に所定定数を足して逆数をとった様な値である。
【0032】
絞込照合ステップ411では、特定人物1次判定部205は、絞込照合を行う。具体的には、特徴量検出ステップ408で算出した登場人物の人物特徴量を、特定人物記録部200に予め記録しておいた各特定人物の人物特徴量のうち、全照合ステップ410での全照合で得た最類似人物の人物IDを有する人物特徴量のみを対象に順番に照合(類似度算出)していき、最も類似度の高い特徴量(最類似人物)を探し出す。その処理後、見かけの大きさ算出ステップ412の処理に進む。該人物IDは、判定結果保管部206の保管データから検出カウンタ値が“1”であるレコードから取得する。判定結果保管部206における保管データの態様については、後述する。
【0033】
見かけの大きさ算出ステップ412では、撮影条件算出部209は、全照合ステップ410又は絞込照合411で探し出した最類似人物の画像領域に対して、人物の見かけの大きさを算出し、明るさ算出ステップ413の処理に進む。人物の見かけの大きさは、登場人物の見かけの大きさ算出ステップ405と同様で、例えば、画像上の面積、即ち、画像領域の縦方向の画素数と横方向の画素数の積値等を用いる。
明るさ算出ステップ413では、撮影条件算出部209は、全照合ステップ410又は絞込照合ステップ411で探し出した最類似人物の画像領域に対して、人物の明るさを算出し、映りの明瞭さ算出ステップ414の処理に進む。人物の明るさは、登場人物の明るさ算出ステップ406と同様で、人物の明るさには、例えば、画像領域の輝度の平均値等を用いる。
映りの明瞭さ算出ステップ414では、撮影条件算出部203は、全照合ステップ410又は絞込照合ステップ411で探し出した最類似人物の画像領域に対して、人物の映りの明瞭さを算出し、一次判定結果格納ステップ415の処理に進む。人物の映りの明瞭さは、ステップ407と同様であり、例えば、画像領域における高周波成分量等を用いる。高周波成分は、画像領域に対するフーリエ変換等の変換により求めることができる。
【0034】
一次判定結果格納ステップ415では、判定結果保管部206は、これまでに求めた結果を格納し、保管する。ここで、格納の対象となるデータには、現在の検出カウンタ値、全照合ステップ410で探し出した最類似人物の人物ID、全照合ステップ410又は絞込照合ステップ411で探し出した最類似人物との類似度、見かけの大きさ算出ステップ405乃至映りの明瞭さ算出ステップ407で算出した登場人物に対する見かけの大きさ、明るさ、および映りの明瞭さ、並びに、見かけの大きさ算出ステップ412〜映りの明瞭さ算出ステップ414で算出した最類似人物に対する見かけの大きさ、明るさ、および映りの明瞭さを含む。なお、判定結果保管部206における保管データの態様については後述する。
【0035】
方向性判断ステップ416では、撮影条件判断部209は、登場人物に対する撮影条件と、最類似人物に対する撮影条件を基に、次の撮影条件の方向性を決定し、制御指示送信ステップ417の処理に進む。ここで、2つの撮影条件は、共に、前の処理ステップによって、すでに判定結果保管部206に保管されている。
方向性の決定は、例えば、以下のように実施する。撮影条件が、人物の明るさYと人物の映りの明瞭さF、人物の見かけの大きさSで構成されているとし、登場人物の撮影条件C(t1)を{Y(t1),F(t1),S(t1)}、最類似人物に対する撮影条件C(t0)を{Y(t0),F(t0),S(t0)}とする。なお、t0とt1は、時刻である。
そして、Y(t1)<Y(t0)である場合には、人物の明るさを明るくする方向に判断する。逆に、Y(t1)≧Y(t0)ある場合には、人物の明るさを暗くする方向に判断する。
また、F(t1)<F(t0)である場合には、人物の映りの明瞭さを上げる方向に判断する。逆に、F(t1)≧F(t0)である場合には、人物の映りの明瞭さを下げる方向に判断する。
また、S(t1)<S(t0)である場合には、人物の見かけの大きさを大きくする方向に判断する。逆に、S(t1)≧S(t0)である場合には、人物の見かけの大きさを小さくする方向に判断する。
【0036】
次に、制御指示送信ステップ417では、制御指示部210は、前の処理ステップで算出した次の撮影条件を基に制御指示を作成し、作成した制御指示データをネットワーク100を介して、撮像装置101に送信する。例えば、前の処理ステップで、人物の明るさを明るくする方向であると判断をした場合には、制御指示部210は、照明量増加の制御指示データを送信する。また例えば、制御指示部210は、撮像素子の感度増加の制御指示データを送信する。同様に、前の処理ステップで、人物の明るさを暗くする方向であると判断をした場合には、制御指示部210は、照明量減少の制御指示データを送信する。また例えば、制御指示部210は、撮像素子の感度減少の制御指示データを送信する。
制御指示データに含まれる照明の増減量や撮像素子感度の増減量は、撮像装置101の仕様との兼合いによって決定され、検知装置102の事前設定値として与えるものであり、かつ、Y(t1)とY(t0)の差分量によって、複数段階で与えられるようにする。
【0037】
また、同様に、前の処理ステップで、人物の映りの明瞭さを上げる方向であると判断をした場合には、制御指示部210は、ピント合わせの制御指示データを送信する。同様に、前の処理ステップで、人物の映りの明瞭さを下げる方向であると判断をした場合には、制御指示部210は、ピントぼかしの制御指示データを送信する。
制御指示データに含まれるピント増減量は、撮像装置101の仕様との兼合いによって決定され、検知装置101の事前設定値として与えるものであり、かつ、F(t1)とF(t0)の差分量によって、複数段階で与えられるようにする。
【0038】
また、同様に、前の処理ステップで、人物の見かけの大きさを大きくする方向であると判断をした場合には、制御指示部210は、ズームアップの制御指示データを送信する。同様に、前の処理ステップで、人物の見かけの大きさを小さくする方向であると判断をした場合には、制御指示部210は、ズームダウンの制御指示データを送信する。
制御指示データに含まれるズーム増減量は、撮像装置101の仕様との兼合いによって決定され、検知装置102に事前設定値として与えるものであり、かつ、S(t1)とS(t0)の差分量によって、複数段階で与えられるようにする。また、ズームアップによって人物が撮影範囲から外れてしまうような場合には、制御指示部210は、人物が撮影範囲となるように撮影向き変更の制御指示データを送信する。
制御指示部210は、制御指示データの送信完了後、画像受信待機ステップ400に処理を戻す。
【0039】
2次判定要否判定ステップ418では、判定結果保管部206は、2次判定要否の判定を行う。判定は、当該時点での検出カウンタ値に基づいて行う。検出カウンタ値が“0”であった場合には、2次判定不要と判定し、画像受信待機ステップ400に(T1経由で図4(a)の)処理を戻す。また、検出カウンタ値が“0”以外の場合には、2次判定要と判定し、特定人物の2次判定ステップ419に処理を進める。
特定人物の2次判定ステップ419では、特定人物2次判定部207は、特定人物2次判定を行う。特定人物2次判定は、判定結果保管部に保管された1つ以上の特定人物1次判定結果の中で、最も類似度が高い結果を取得し、その類似度とある一定値(閾値)との関係において、類似度が閾値以上であった場合にその登場人物を特定人物と判定する処理である。判定の結果、特定人物と判定した場合には、特定人物検知情報送信ステップ420に処理を進める。また、それ以外の場合には、検出カウンタ値初期化ステップ421に処理を進める。
【0040】
特定人物検知情報送信ステップ420では、検知通知部208は、特定人物通知を端末装置103に送信し、検出カウンタ値初期化ステップ421の処理に進む。なお、送信データは、特定人物のIDやその人物画像等を含んで構成される。
検出カウンタ値初期化ステップ421では、判定結果保管部206は、検出カウンタ値を“0”にし、一次判定全削除ステップ422の処理に進む。
一次判定全削除ステップ422では、判定結果保管部は206は、保管していた一次判定の結果を全て削除し、画像受信待機ステップ400に(T1経由で図4(a)の)処理に戻る。また、本実施例では図示しないが、ステップ400に戻す前に、制御指示部210が、必要に応じて、撮像装置101を初期化するための制御指示データを撮像装置101に送信するようにしても良い。
【0041】
図5によって、本発明の特定人物検知システムの一実施例において、検知装置の判定結果保管部における保管データの一例を説明する。図5は、本発明の特定人物検知システムの検知装置における判定結果保管部のデータの一実施例を示す図である。500〜509はレコード、510はレコード番号セル、511は検出カウンタ値セル、512は人物IDセル、513は類似度セル、514は登場人物の見かけの大きさセル、515は登場人物の明るさセル、516は登場人物の映りの明瞭さセル、517は最類似人物の見かけの大きさセル、518は最類似人物の明るさセル、519は最類似人物の映りの明瞭さセルである。
【0042】
図5において、データは、1回の一次判定結果を1レコードとして保管する。図5の実施例では、最大で10回分の一次判定結果、すなわち10個のレコードが保管できるようになっている状態で、かつ、どのレコードも空である状態を示し、レコード500〜509で構成される。
レコードは、レコード番号セル510、検出カウンタ値セル511、人物IDセル512、類似度セル513、登場人物の見かけの大きさセル514、登場人物の明るさセル515、登場人物の映りの明瞭さセル516、最類似人物の見かけの大きさセル517、最類似人物の明るさセル518、最類似人物の映りの明瞭さセル519で構成される。
【0043】
レコード番号セル510は、レコード番号を格納するデータ領域である。レコード番号は、レコードの管理をするために用いる番号であり、例えば、レコード毎にユニークに割り当てられる連続整数値である。
【0044】
検出カウンタ値セル511は、検出カウンタ値を格納するデータ領域である。検出カウンタ値として整数値が格納される。
人物IDセル512は、最類似人物の人物IDを格納するデータ領域である。図5の実施例では、人物名称としての文字列が格納される例を示すが、人物固有に与えた識別情報であれば、整数値等を用いるようにしてもよい。
類似度セル513は、類似度を格納するデータ領域である。図5の実施例では、小数値が格納された例を示す。
【0045】
登場人物の見かけの大きさセル514は、登場人物の見かけの大きさを格納するデータ領域である。図5の実施例では、見かけの大きさを画像上の面積を示す画素数として整数値が格納された例を示す。
登場人物の明るさセル515は、登場人物の明るさを格納するデータ領域である。図5の実施例では、明るさを輝度の平均値として、整数値が格納された例を示す。
登場人物の人物の映りの明瞭さセル516は、登場人物の人物の映りの明瞭さを格納するデータ領域である。図5の実施例では、映りの明瞭さを高周波成分量を示す整数値が格納された例を示す。
【0046】
最類似人物の見かけの大きさセル517は、最類似人物の見かけの大きさを格納するデータ領域である。図5の実施例では、見かけの大きさを画像上の面積を示す画素数として整数値が格納された例を示す。
最類似人物の明るさセル518は、最類似人物の明るさを格納するデータ領域である。図5の実施例では、明るさを輝度の平均値として、整数値が格納された例を示す。
最類似人物の人物の映りの明瞭さセル519は、最類似人物の人物の映りの明瞭さを格納するデータ領域である。図5の実施例では、映りの明瞭さを高周波成分量を示す整数値が格納された例を示す。
【0047】
ここで、一人の人物の登場から退場までの動作について、図6〜図8を用いて、より具体的に説明する。ここで、この登場人物は、検知対象、すなわち特定人物のAさんであるとする。
特定人物記録部200には、例えば、図3に示したデータが予め記録されている。また、説明の簡略化のため、人物の撮影条件は、人物の見かけの大きさのみである。また、登場から退場までに撮られた画像は計2枚であるとし、3枚目には人物は映っていない。
【0048】
図6は、本発明の特定人物検知システムの検知装置において、この人物が登場して1枚目の画像に対する一連の処理の内容を説明するための図である。図3や図5と同一の符号は、それぞれ同一であることを示す。600は画像、601は画像領域、602は検出カウンタ値、603は見かけの大きさ、604は人物特徴量、605〜614は照合処理、615〜624は類似度、625は最類似人物ID、626は画像、627は画像領域、628は見かけの大きさ、629は保管データである。
また、図6(a)は、画像600を示し、図6(b)は、検知装置102の1枚目の画像に対する一連の処理の内容を説明するための図である。また図6(c)は、レコード307の人物画像セル313内の画像626を拡大表示した図で、図6(d)は、図5で説明したような保管データ629を示す図である。図6(c)に示すように、人物画像セル313には、画像データ626の他に、見かけの大きさ628が保管されている。
【0049】
図6において、画像600は、この人物が登場して最初の1フレームを示し、この画像600が、撮像装置101からネットワーク100を介して、検知装置102の画像受信部201に入力される。
検知装置102の画像受信部201は、この入力画像を取得する(図4(a)の処理ステップ400〜401参照。)。そして、検知装置102の人物検出部202は、この画像に対する人物検出などの処理を行う(図4(a)の処理ステップ402〜404参照。)。画像領域601は、上記で得られた人物画像領域を示す。この時点での検出カウンタ値602は、“1”となる。
次に、検知装置102の撮影条件算出部203は、人物画像領域601に対する人物の見かけの大きさを算出する(図4(a)の見かけの大きさ算出ステップ405参照。)。見かけの大きさ603は、ここで算出された値を示す。
【0050】
次に、検知装置102の人物特徴量算出部204は、人物画像領域601に対する人物特徴量を算出する(図4(b)特徴量検出ステップ408参照。)。人物特徴量604は、ここで算出された値を示す。人物特徴量には、多次元量が用いられるのが通常であるが、本実施例においては、説明の簡略化のため、一次元の小数値を用いた例を示す。
【0051】
次に、検知装置102の特定人物1次判定部205は、人物特徴量604を用いて、特定人物記録部200の記録データに対して、全照合を行う(図4(b)の全照合ステップ410参照。)。照合処理605〜614の矢印は、記録データの各レコードと照合を行っている様子を示し、類似度615〜624は、各照合において算出した類似度を示す。全照合の結果、最類似人物は、レコード306に記録されている人物であると判定される。
最類似人物ID625は、レコード306に記録されている人物IDを示す。類似度には、多次元量である人物特徴量空間におけるベクトルのスカラー値が使われることが多いが、本実施例においては、説明の簡略化のため、人物特徴量の差分の絶対値を用いた例を示す。
【0052】
次に、検知装置102の撮影条件算出部209は、レコード306の人物画像セル313から人物画像を取り出し、人物の見かけの大きさを算出する(図4(b)の見かけの大きさ算出ステップ412参照。)。画像626は、取り出した人物画像を示す。画像領域627は、画像626上の人物画像領域を示す。見かけの大きさ628は、ここで算出された値を示す。
【0053】
次に、検知装置102の判定結果保管部206は、検出カウンタ602を、判定結果保管部における保管データのレコード500の検出カウンタ値セル511に格納する。同様に、最類似人物ID625をレコード500の人物IDセル512に、類似度521をレコード500の類似度セル513に、見かけの大きさ603をレコード500の登場人物の見かけの大きさセル514に、見かけの大きさ628をレコード500の最類似人物の見かけの大きさセル517に格納する(図4(b)の一次判定結果格納ステップ415参照。)。保管データ629は、該時点での格納データの状態を示す。
【0054】
次に、検知装置102の撮影条件判断部209は、見かけの大きさ603と見かけの大きさ628から、次の撮影条件の方向性を決める(図4(b)の方向性判断ステップ416参照。)。ここでは、最類似人物の見かけの大きさデータ628の値ほうが、登場人物の見かけの大きさ603より大きいので、見かけの大きさを大きくする方向に判断する。
【0055】
次に、検知装置102の制御指示部210は、撮像装置101に対して、ズームアップ指示を送信する(図4(b)の制御指示送信ステップ417参照。)。この制御指示に応じて、撮像装置101側はズームアップ制御を実施する。
画像600に関わる一連の処理は、以上である。
【0056】
図7は、本発明の特定人物検知システムの検知装置において、この人物が登場して2枚目の画像に対する一連の処理の内容の一実施例を説明するための図である。図3や図5と同一の符号は、それぞれ同一であることを示し、図6と同一の符号は、それぞれ同一であることを示す。700は画像、701は画像領域、702は検出カウンタ値、703は見かけの大きさ、704は人物特徴量、705〜707は照合処理、708〜710は類似度、711は見かけの大きさ、712は保管データである。
また、図7(a)は、画像700を示し、図7(b)は、検知装置102の2枚目の画像に対する一連の処理の内容を説明するための図である。また図7(c)は、レコード307の人物画像セル313内の画像626を拡大表示した図で、図7(d)は、図5で説明したような保管データ712を示す図である。図7(c)に示すように、人物画像セル313には、画像データ626の他に、見かけの大きさ711が保管されている。
【0057】
図7において、画像700は、この人物が登場して2フレーム目を示し、この画像700が、撮像装置101からネットワーク100を介して、検知装置102の画像受信部201に入力される。この画像700は、先にズームアップ指示がなされているので、人物は、画像600より大きめに映っている。
検知装置102の画像受信部201は、この入力画像を取得する(図4(a)の処理ステップ400〜401参照。)。そして、検知装置102の人物検出部202は、この画像に対する人物検出などの処理を行う(図4(a)の処理ステップ402〜404参照。)。画像領域701は、上記で得られた人物画像領域701を示す。この時点での検出カウンタ値は、“2”となる。
次に、検知装置102の撮影条件算出部203は、人物画像領域701に対する人物の見かけの大きさを算出する(図4(a)の見かけの大きさ算出ステップ405参照。)。見かけの大きさ703は、ここで算出された値を示す。
【0058】
次に、検知装置102の人物特徴量算出部204は、人物データ領域701に対する人物特徴量を算出する(図4(b)特徴量検出ステップ408参照。)。人物特徴量704は、ここで算出された値を示す。なお、人物特徴量には、多次元量が用いられるのが通常であるが、本実施例においては、説明の簡略化のため、一次元の小数値を用いた例を示す。
【0059】
次に、検知装置102の特定人物1次判定部205は、最類似人物ID625と人物特徴量704を用いて、特定人物記録部200の記録データに対して、絞込照合を行う(図4(b)の絞込照合ステップ411参照。)。照合処理705〜707の矢印は、記録データのうち、人物ID625と同値を有する各レコードと照合を行っている様子を示し、類似度708〜710は、各照合において算出した類似度を示す。
絞込照合の結果、最類似人物は、レコード306に記録されている人物であると判定される。
ここで、最類似人物のレコードは、前回レコードと同じであっても、異なっていても良い。本実施例では同じである場合を示す。
【0060】
次に、検知装置102の撮影条件算出部209は、レコード306の人物画像セル313から人物画像を取り出し、人物の見かけの大きさを算出する(図4(b)のステップ412参照。)。画像626は、取り出した人物画像を示す。画像領域627は、画像626上の人物画像領域を示す。見かけの大きさ711は、ここで算出された値を示し、本例においては、図6で示した見かけの大きさ628と同値となる。
【0061】
次に、検知装置102の判定結果保管部206は、検出カウンタ値702を、判定結果保管部における保管データのレコード501の検出カウンタ値セル511に格納する。同様に、最類似710をレコード501の類似度セル513に、見かけの大きさ703をレコード501の登場人物の見かけの大きさセル514に、見かけの大きさ711をレコード501の最類似人物の見かけの大きさセル517に格納する(図4(b)の一次判定結果格納ステップ415参照。)。保管データ712は、該時点での格納データの状態を示す。
【0062】
次に、検知装置102の撮影条件判断部209は、見かけの大きさ703と見かけの大きさ711から、次の撮影条件の方向性を決める(図4(b)の方向性判断ステップ416参照。)。ここでは、最類似人物の見かけの大きさ711のほうが、登場人物の見かけの大きさ703より小さいので、見かけの大きさを小さくする方向に判断する。
【0063】
次に、検知装置の制御指示部210は、撮像装置に対して、ズームダウン指示を送信する(図4(b)の制御指示送信ステップ417参照。)。この制御指示に応じて、撮像装置101側は、ズームダウン制御を実施する。
画像700に関わる一連の処理は、以上である。
【0064】
図8は、本発明の特定人物検知システムの検知装置において、この人物が登場して3枚目の画像に対する一連の処理の内容の一実施例を説明するための図である。図3や図5と同一の符号は、それぞれ同一であることを示し、図6や図7と同一の符号は、それぞれ同一であることを示す。なお、800は画像、801は保管データである。
また図8(a)は、画像800を示し、図8(b)は、検知装置102の3枚目の画像に対する一連の処理の内容を説明するための図である。また図8(c)は、図5で説明したような保管データ712を示す図である(図7(d)と同一)。また、図8(b)においても、図7(c)に示すように、人物画像セル313には、画像データの他に、見かけの大きさのデータが保管されている。
【0065】
図8(a)において、画像800は、この人物が登場して3フレーム目を示し、この画像が検知装置に入力される。先の人物は既に退場してしまっており、誰も映っていない画像である。
検知装置102の画像受信部201は、の入力画像を取得する(図4(a)の処理ステップ400〜401参照。)。そして、検知装置102の人物検出部202は、この画像に対する人物検出などの処理を行う(図4(a)の処理ステップ402〜404参照。)。先の人物は既に退場してしまっているので、人物画像領域は得られない。この時点での検出カウンタ値は、“2”のままである。
【0066】
次に、検知装置102の人物検出部202は、現時点での検出カウンタ値“2”を基に特定人物2次判定を行う(図4(c)処理ステップ418〜419参照。)。
検知装置102の判定結果保管部206は、当該判定結果保管部206に保管された保管データ712のレコード500の類似度セル513に格納された類似度と、レコード501の類似度513に格納された類似度とを比較し、レコード501の類似度513に格納された類似度(図7(b)における類似度710での値は“0.4”)を最高類似度とする。さらに、この最高類似度を閾値(本実施例では“0.5”とする)と比較し、閾値以上であるので、特定人物と判断する。なお、閾値未満であれば、特定人物でないと判断する。
【0067】
次に、検知装置102の検知通知部208は、特定人物通知を端末装置103に送信する(図4(c)の特定人物検知情報送信ステップ420参照。)。
次に、検知装置102の人物検出部202は、検出カウンタ値を“0”とし、保管データを全削除する。(図8(c)保管データ801)。
【0068】
以上のように、図6〜図8を用いて、一人の人物の登場から退場までの処理動作を説明したが、登場人物の撮影条件として、人物の見かけの大きさについてだけを説明した。しかし、少なくとも、人物の明るさ、人物の映りの明瞭さ、又は、人物の見かけの大きさのいずれか1つを用いて登場人物の撮影条件を求め、さらに最類似人物の撮影条件を求め、両条件の比較から次の撮影条件の方向性を判断し、該判断に従って撮像装置を制御し、該制御から得られる複数条件下の撮影画像を用いて特定人物検知を行うようにしても良いことは自明である。
【0069】
上述の実施例によれば、特定人物検知システムにおいて、より高い検知精度を得ることを可能とした。
【0070】
また同様に、撮像装置と検知装置は、各1台が対向で動作するように示したが、複数の撮像装置に対し1台の検知装置で対応させることも可能であり、また逆に1台の撮像装置に対し複数台の検知装置で対応させることも可能である。
また同様に、検知装置と端末装置は各1台が対向で動作するように示したが、複数の検知装置に対し1台の端末装置で対応させることも可能であり、また逆に1台の検知装置に対し複数台の端末装置で対応させることも可能である。
【0071】
また同様に、撮像装置と検知装置を別個の装置とする構成にて示したが、同一の装置にて実施するようにしても良い。
また同様に、検知装置と端末装置を別個の装置とする構成にて示したが、同一の装置にて実施するようにしても良い。
また同様に、最類似人物の撮影条件を毎回算出するように示したが、特定人物の事前登録の際に算出し、特定人物記録部に記録しておくようにしても良い。
また同様に、撮影条件の変更を全て撮像装置に対する機械的制御とするように示したが、撮像装置もしくは検知装置におけるデジタルデータに対する電子的な擬似制御によっても良い。
また同様に、特定人物検知システムを対象に示したが、特定人物だけでなく特定車両や他の特定物体などの検知システムを対象に実施するようにしても良い。
【0072】
以上、本発明を実施例によって詳細に説明した。しかし、本発明は、上述の実施例に限定されるわけではなく、本発明が属する技術分野において、通常の知識を有する者であれば、本発明の思想と精神に基づいて、本発明を修正若しくは変更できる発明が含まれることは勿論である。
【符号の説明】
【0073】
100:ネットワーク、 101:撮像装置、 102:検知装置、 103:端末装置、 200:特定人物記録部、 201:画像受信部、 202:人物検出部、 203:撮影条件算出部、 204:人物特徴量算出部、 205:特定人物1次判定部、 206:判定結果保管部、 207:特定人物2次判定部、 208:検知通知部、 209:撮影条件判断部、 210:制御指示部、 300〜309:レコード、 310:レコード番号セル、 311:人物IDセル、 312:特徴量セル、 313:人物画像セル、 500〜509:レコード、 510:レコード番号セル、 511:検出カウンタ値セル、 512:人物IDセル、 513:類似度セル、 514:登場人物の見かけの大きさセル、 515:登場人物の明るさセル、 516:登場人物の映りの明瞭さセル、 517:最類似人物の見かけの大きさセル、 518:最類似人物の明るさセル、 519:最類似人物の映りの明瞭さセル、 600:画像、 601:画像領域、 602:検出カウンタ値、 603:見かけの大きさ、 604:人物特徴量、 605〜614:照合処理、 615〜624:類似度、 625:最類似人物ID、 626:画像、 627:画像領域、 628:見かけの大きさ、 629:保管データ、 700:画像、 701:画像領域、 702:検出カウンタ値、 703:見かけの大きさ、 704:人物特徴量、 705〜707:照合処理、 708〜710:類似度、 711:見かけの大きさ、 712:保管データ、 800:画像、 801:保管データ。

【特許請求の範囲】
【請求項1】
撮像装置、検知装置、および端末装置から構成される特定人物検知システムにおいて、
前記検知装置は、前記撮像装置から入力された画像から人物を検知する検知手段と、前記検知手段が検知した人物と、あらかじめ保管された特定人物の一覧との特徴照合から類似性を求め、特定人物検知を行う特定人物検知手段と、前記検知手段が検知した前記人物の第1の撮影条件を求める第1の撮影条件算出手段と、最類似人物に対する第2の撮影条件を求める第2の撮影条件算出手段と、前記第1の撮影条件と前記第2の撮影条件の比較から、次の撮影条件の方向性を判断する方向性判断手段と、前記撮影条件の方向性の判断に基づいて前記撮像装置を制御する制御手段と、前記制御手段から得られる複数条件下の撮影画像を用いて特定人物検知を行う手段とを備えたことを特徴とする特定人物検知システム。
【請求項2】
撮像装置、検知装置、および端末装置から構成される特定人物検知システムにおける特定人物検知方法おいて、
前記撮像装置から入力された画像から人物を検知しと、前記検知された人物と、あらかじめ保管された特定人物の一覧との特徴照合から類似性を求め、特定人物を検知し、前記検知された前記人物の第1の撮影条件を求め、最類似人物に対する第2の撮影条件を求め、前記第1の撮影条件と前記第2の撮影条件の比較から、次の撮影条件の方向性を判断し、前記撮影条件の方向性の判断に基づいて撮像装置制御手段によって前記撮像装置を制御し、前記撮像装置制御手段から得られる複数条件下の撮影画像を用いて特定人物検知を行うことを特徴とする特定人物検知方法。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4(a)】
image rotate

【図4(b)】
image rotate

【図4(c)】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7】
image rotate

【図8】
image rotate


【公開番号】特開2012−124658(P2012−124658A)
【公開日】平成24年6月28日(2012.6.28)
【国際特許分類】
【出願番号】特願2010−272612(P2010−272612)
【出願日】平成22年12月7日(2010.12.7)
【出願人】(000001122)株式会社日立国際電気 (5,007)
【Fターム(参考)】