説明

画像照合システム、撮像装置、送信装置、及びプログラム

【課題】 本発明は、カメラで撮像した画像とカメラ内の限られた量のメモリに記憶された画像とを照合して、高い確率で一致した結果が得られるようにすることを目的とする。また、照合のたびに照合情報を要求することを必要とせず、操作者の負担を軽減することを目的とする。
【解決手段】 ネットワークを介してカメラに接続された蓄積装置に蓄積された照合用の画像に、該画像をカメラへ送信する順序を規定するための規定情報を付与する。そして、蓄積装置に蓄積された照合用の画像を、規定情報に基づいて規定される順序でカメラ内のメモリに送信して、カメラ内に蓄積されている照合用の画像を更新する。

【発明の詳細な説明】
【技術分野】
【0001】
本発明はカメラによって撮像された画像と、予め登録された照合情報との照合を行う画像照合システムに関する。
【背景技術】
【0002】
従来、カメラで撮像した画像と、予め登録された照合情報との照合を行う画像照合システムにおいて、照合情報を蓄積する蓄積サーバーを有し、カメラは蓄積サーバーからネットワークを介して照合情報を受信し、カメラで照合を行う照合システムが知られている。
【0003】
この照合システムは、カメラで撮像した人物の画像と照合情報とをカメラで照合して人物認証を行う認証システムや、照合情報と一致する人物をカメラで検出してコンピュータに送信する監視カメラ等として用いられている。
【0004】
従来技術として、コンピュータからネットワークを介してカメラに顔データを送信し、カメラは送信された顔データとカメラが撮像した顔画像との顔認証を行い、照合された場合、顔画像、カメラ番号、及び撮影時刻をコンピュータに送信する照合システムが知られている(特許文献1)。
【0005】
また、窓口端末から顔認証サーバーへ顧客番号等が送信されると、顔認証サーバーにおいて顔データの検索を行い、顧客番号に対応した顔データを窓口端末に送信する。そして、窓口端末はカメラが撮影した顔画像と顔認証サーバーから送信された顔データとによって顔認証を行う照合システムが知られている(特許文献2)。
【先行技術文献】
【特許文献】
【0006】
【特許文献1】特開2007−158421号公報
【特許文献2】特開2005−301539号公報
【発明の概要】
【発明が解決しようとする課題】
【0007】
カメラに照合情報を記憶してカメラで照合を行う場合、カメラに搭載できるメモリの量が限られるため、撮像した画像と照合できる画像の数が限られてしまうという課題がある。また、照合対象を照合するたびに操作者が照合対象に一致する照合情報をカメラに送信するよう要求を行うと操作者に負担がかかるという課題がある。
【0008】
本発明はカメラ内の限られた量のメモリに記憶された画像と撮像した画像とを照合する場合に、照合一致する確率を向上させることを課題とする。また、照合のたびに照合情報を要求することを必要とせず、操作者の負担を軽減することを課題とする。
【課題を解決するための手段】
【0009】
上記課題を鑑みて、本発明にかかる画像照合システムは、撮像装置と、前記撮像装置とネットワークで接続される蓄積手段とを有し、前記撮像装置が、前記蓄積手段から受信した照合情報を記憶して、記憶した照合情報と撮像された画像とを照合する画像照合システムにおいて、前記蓄積手段に蓄積された照合情報と該照合情報が前記撮像装置に記憶される時間帯を示す時間情報とを対応付けて記憶する記憶手段と、計時手段と、前記計時手段の計時に対応する時間情報が対応付けられた照合情報を前記蓄積手段から選択する選択手段と、前記選択手段が選択した照合情報で前記撮像装置に記憶された照合情報を更新する更新手段とを有することを特徴とする。
【0010】
また、本発明にかかる送信装置は、蓄積手段に蓄積された照合情報を撮像装置において撮像された画像と照合するために前記撮像装置にネットワークを介して送信する送信装置であって、前記蓄積手段に蓄積された照合情報と該照合情報が前記撮像装置に記憶される時間帯を示す時間情報とを対応付けて記憶する記憶手段と、計時手段と、前記計時手段の計時に対応する時間情報が対応付けられた照合情報を前記蓄積手段から選択する選択手段と、前記選択手段が選択した照合情報を前記撮像装置に前記ネットワークを介して送信する送信手段とを有することを特徴とする。
【0011】
さらに、本発明にかかる撮像装置は、蓄積手段から受信した照合情報を記憶して、記憶した照合情報と撮像された画像とを照合する撮像装置であって、計時手段と、前記計時手段の計時に対応する時間情報が対応付けられた照合情報を前記蓄積手段から選択する選択手段と、前記選択手段が選択した照合情報で撮像装置に記憶された照合情報を更新する更新手段とを有することを特徴とする。
【発明の効果】
【0012】
以上の構成からなる本発明によれば、照合情報に対応付けられた情報に基づいて照合情報を蓄積装置から選択して、カメラ内に保持された照合情報を更新することができる。
【図面の簡単な説明】
【0013】
【図1】本発明にかかる実施形態の撮像装置の構成を示すブロック図である。
【図2】本発明にかかる実施形態のサーバー装置の構成を示すブロック図である。
【図3】本発明にかかるネットワークカメラシステム構成を示す図である。
【図4】第1の実施形態における撮像装置の動作を示すフローチャート図である。
【図5】第1の実施形態におけるサーバー装置の動作を示すフローチャート図である。
【図6】第1の実施形態における照合情報を示す図である。
【図7】第2の実施形態における撮像装置の動作を示すフローチャート図である。
【図8】第2の実施形態における照合情報作成時のサーバー装置の動作を示すフローチャート図である。
【図9】第2の実施形態におけるネットワークカメラシステム運用時のサーバー装置の動作を示すフローチャート図である。
【発明を実施するための形態】
【0014】
以下、添付の図面を参照して、本発明をその好適な実施形態に基づいて詳細に説明する。なお、以下の実施形態において示す構成は一例に過ぎず、本発明は以下に示す構成に限定されるものではない。
【0015】
[第1の実施形態]
図3は、画像照合システムであるネットワークカメラシステムの動作環境を示したネットワーク接続構成図である。撮像装置100、サーバー装置200、蓄積装置300、蓄積装置300に蓄積された映像を閲覧する表示端末装置400がネットワーク回線であるLAN500によって接続されている。
【0016】
撮像装置100はMJPEG(Motion−JPEG)、MPEG4(Moving Picture Experts Group phase 4)、H.264等の符号化方式で符号化された映像ストリーム、及び、付属のマイクから録音された音声ストリームを、LAN500を介してサーバー装置200に送信する。
【0017】
サーバー装置200は撮像装置100から送信された映像ストリーム及び音声ストリームを受信する。また、サーバー装置200は照合情報を蓄積する。ここで、照合情報とは、撮像装置100により撮影された映像との照合に用いる情報である。例えば照合情報とは、図6の600に示すように各々の人物の顔画像などを指す。人物の顔画像そのものだけではなく、その人物が特定できる特徴量だけで作成されることも可能である。あるいは、人物画像に限られず、任意の被写体やその一部の画像であってもよい。サーバー装置200はさらに、様々なフォーマットによって符号化された各メディアストリームを外部の蓄積装置300へ転送する。加えて、サーバー装置200は表示端末装置400からのリクエストにより蓄積装置300に蓄積されたメディアストリームを読み出して、表示端末装置400へ配信する機能も持つ。サーバー装置200は、照合情報を撮像装置100に送信する送信装置である。
【0018】
蓄積装置300は、ハードディスク装置や記録メディア装置などから成り、サーバー装置200から転送されたメディアストリームの蓄積を行う。
【0019】
表示端末装置400はサーバー装置200にリクエストを行うことによりサーバー装置200から配信された各メディアストリームを受信する。表示端末装置400は各メディアストリームを受信した後、様々なフォーマットによって符号化された各メディアを復号化してディスプレイなどへ出力する。
【0020】
これら、撮像装置100、サーバー装置200、蓄積装置300、表示端末装置400の数は、図3で示したような本実施形態のように限定されるものではなく、アドレスなどで識別できれば多数存在してもよい。LAN500は、パケットデータを通すのに十分な帯域があるインターネットやイントラネットなどのネットワークであればよい。LAN500への物理的な接続形態としては、有線だけでなく無線により接続するものであっても良い。また、サーバー装置200、蓄積装置300、表示端末装置400は同一の装置で実現してもよい。
【0021】
このネットワーク接続構成において、本発明のネットワークカメラシステムの動作の詳細を説明する。
【0022】
図1は、本発明が適用される撮像装置100を示したブロック構成図である。図1において、100は撮像装置の本体を示す。
【0023】
カメラ部101は被写体の撮像を行う。カメラ部101はCMOSなどの撮像素子によって撮像された画像信号に信号処理などを施すことによってYUVなどのフォーマットによるデジタル映像信号を出力する。マイク部102は集音した音声に対してPCM(Pulse Code Modulation)などのフォーマットによるデジタル音声信号を出力する。
【0024】
照合部103はカメラ部101から出力されるデジタル映像に撮影されている映像と、記憶部108に記憶されている照合情報とを照合する。照合部103は照合した結果に応じて、カメラ部101からのデジタル映像信号とマイク部102からのデジタル音声信号を各々、ビデオ符号化部104とオーディオ符号化部105に出力するスイッチングの機能も持つ。
【0025】
ビデオ符号化部104は照合部103からのデジタル映像信号を圧縮し符号化する。ビデオ符号化部104は配信用にデジタル映像信号の圧縮、フレームレート設定などを施す。ここでの配信用の圧縮方式は、所定の例えば、MPEG4、H.264、MJPEGまたはJPEGなどの規格に基づく。
【0026】
オーディオ符号化部105は照合部103からのデジタル音声信号を圧縮し符号化する。オーディオ符号化部105は配信用にデジタル音声信号の圧縮、フレームレート設定などを施される。ここでの配信用の圧縮方式は、所定の例えば、AAC(Advanced Audio Coding)、G.711、G.722またはAMR(Adaptive Multi−Rate)などの規格に基づく。
【0027】
ビデオ・オーディオコーデック部110は、104、105の機能を包含し、DSP(Digital Signal Processor)などで実現される。
【0028】
パケット化制御部106は符号化された映像情報および音声情報をビデオパケット、オーディオパケットにパケット化処理を行う。さらにパケット化制御部106は所定のフォーマットに従い、送信されるビデオ、オーディオおよび制御ストリームをLAN I/F部107に出力するために、所定の形式に従って配置してパケットの多重化処理も行う。所定の形式とは例えば、HTTP(Hypertext Transfer Protocol)、RTP(Real−time Transport Protocol)などの形式を用いることができる。
【0029】
LAN I/F部107はサーバー装置200内の記憶部205に蓄積された照合情報を受信する。LAN I/F部107では、また、撮像装置100により撮像、集音したビデオ、オーディオストリームをLAN500へ送信する。さらに、LAN I/F部107は通信ネットワーク網と端末間に必要な適応化を図る。
【0030】
記憶部108はLAN I/F部107によって受信された照合情報を記憶する。記憶部108は不揮発性のメモリなどで構成され、サーバー装置200に蓄積された照合情報を動的に入れ替え可能となっている。
【0031】
システム制御部109は、適切な操作のためのシグナリングを提供する。システム制御部109によって提供される機能は、呼制御、能力情報交換、命令と通知のシグナリング、および論理チャネルの開設などである。例えば、HTTP、RTSP(Real Time Streaming Protocol)などの規格に基づく動作を行う。さらにシステム制御部109は撮像装置100を構成する各部の制御をも行う。システム制御部109はサーバー装置200から受信した照合情報で、記憶部108に記憶された照合情報を更新する制御も行う。
【0032】
図2は、本発明が適用されるサーバー装置200を示したブロック構成図である。図2において、200はサーバー装置の本体を示す。
【0033】
LAN I/F部201は記憶部205に蓄積された照合情報をLAN500へ送信する。また、LAN I/F部201は撮像装置100から送信されたビデオ及びオーディオストリームを受信する。
【0034】
デパケット化分離部202はLAN I/F部201から受信したメディアパケットをビデオ、オーディオおよび制御の各メディアに分離し、ビデオパケット、オーディオパケットをデパケット化し、符号化映像および符号化音声を構成させる。
【0035】
ビデオ復号化部203はデパケット化分離部202から受信した符号化映像を復号化してデジタル映像信号とし、復号されたデジタル映像信号を規定情報対応付け部204に出力する。
【0036】
規定情報対応付け部204(以下、対応付け部204)は、ビデオ復号化部203から入力された照合情報に規定情報を対応付けた状態で記憶する。ここで、規定情報とは、サーバー装置200から撮像装置100へ送信する照合情報を選択する順序を規定するための情報のことをいう。
【0037】
例えば、規定情報とは図6(a)及び図6(b)に示すように、照合情報600が撮像装置100内の記憶部108に記憶され照合に用いられる時間帯を示す時間帯情報である。対応付け部204において、照合情報が記憶部108に記憶される時間帯の情報を照合情報に対応付け、時間の経過に応じて記憶部108に記憶される照合情報を切替えてゆくことにより、撮像装置100へ送信される照合情報を選択する順序が規定される。また、例えば、規定情報とは図6(c)に示すように、撮像装置100へ送信される照合情報を選択する順序を示す順序情報であってもよい。あるいは、規定情報とは照合情報が照合に用いられた回数や最後に照合に用いられてから経過した時間等であっても良い。利用回数の多い順番、あるいは、最後に照合に用いられてから経過時間の短い順番に選択する順序を決定することができる。この場合、切替えのタイミングは一定時間経過ごとであっても良いし、あるいは利用回数、経過時間の値に基づいて切替えのタイミングを決めてもよく、その他の方法によるものであっても良い。
【0038】
対応付け部204は規定情報が対応付けられた照合情報を記憶部205に出力する。照合情報と規定情報との対応付けは、図6(a)(b)(c)に示したように直接照合情報に規定情報を付与するものの他に、照合情報と規定情報との対応表を設ける等して対応付けても良い。図6(a)(b)(c)の詳細については、後述する。
【0039】
記憶部205は照合情報を蓄積する。図2ではサーバー装置200の内部に記憶部205を設ける構成としているが、記憶部205はサーバー装置200の外部に設けられてもよい。
【0040】
本実施例では、照合情報と規定情報の対応付けを管理する対応付け部204と照合情報を蓄積する記憶部205を独立した構成として示しているが、対応付けおよび照合情報の蓄積を一つの記憶装置において行う構成としても良い。
【0041】
システム制御部206はサーバー装置200のシステム全体を制御する。システム制御部206は、対応付け部204を参照して照合情報に対応付けられた規定情報に基づいて規定される順序で照合情報を記憶部205から選択し、記憶部205からLAN I/F部201を介して撮像装置100へ照合情報を転送する制御を行う。
【0042】
蓄積装置I/F部207は、LAN I/F部201を介して撮像装置100から送信されたビデオおよびオーディオストリームをそのまま、蓄積装置300へ転送する。また蓄積装置I/F部207は、蓄積装置300に蓄積されているビデオおよびオーディオストリームを表示端末装置400へ送信するためにLAN I/F部201への転送も行う。
【0043】
300は撮像装置100から送信されたビデオおよびオーディオストリームを蓄積させる、例えばハードディスク装置や記録メディア装置などからなる蓄積装置である。
【0044】
上記の構成で、本発明にかかるネットワークカメラシステムの画像照合動作を説明する。図4に撮像装置100の動作を表すフローチャート図、図5に、サーバー装置200の動作を表すフローチャート図を示す。サーバー装置200の操作は、ワイヤレスリモコンなどの操作の他に、装置に操作端末を設けなくとも、図3で示した表示端末装置400からLAN500経由でWebサーバーなどの機能を設け、リモートコントロールで行うことも可能である。
【0045】
はじめに、ネットワークカメラシステムを運用する前に、サーバー装置200は、撮像装置100によって撮像された映像と照合するための照合情報を、対応付け部204を介して記憶部205に蓄積する(図5のS200)。対応付け部204において、記憶部205に蓄積される照合情報と規定情報との対応関係が管理される。記憶部205に蓄積する照合情報の入力については、例えば、手入力で行う他、マンションなどの居住区域に設置する場合であったら、住民登録データなど予め保存してあるデータベースや宅配業者からのデータ提供などによるマッチングで自動的に作成する等、様々な方法がある。
【0046】
次にネットワークカメラシステムの運用開始時に、所定の照合情報を記憶部205からLAN I/F部201を介して撮像装置100へ送信する(S201)。撮像装置100は、サーバー装置200からLAN I/F部107を介して受信した照合情報を撮像装置100の記憶部108に記憶する(S100)。すなわち、LAN I/F部107は、被写体の画像を撮像するカメラ部101により撮像された画像と照合される照合情報を、サーバー装置200からLAN500を介して受信する。記憶部108は、LAN I/F部107により受信された照合情報を記憶する。
【0047】
続いて、サーバー装置200は撮像装置100に対して、撮影映像の送信の要求を行う(S202)。サーバー装置200から撮影映像の送信の要求を受け取った撮像装置100はカメラ部101より撮影を開始する(S101)。
【0048】
撮影開始後、サーバー装置200から撮像装置100に新たな照合情報が送信された場合、撮像装置100はシステム制御部109の制御により、送られた照合情報で記憶部108に記憶した照合情報を更新する。サーバー装置200に蓄積された照合情報に対応付けられた規定情報に基づいて規定される順序に従ってシステム制御部206が選択した照合情報で、記憶部108に記憶された照合情報を更新する。また、撮像装置100はサーバー装置200から撮影終了信号を受信した場合には撮影終了信号を設定する(S102)。
【0049】
撮像装置100はカメラ部101で撮影された映像から人物映像を検出し(S103)、その人物映像をS100あるいはS102で記憶部108に記憶した照合情報と照合する(S104)。すなわち、照合部103は、記憶部108に記憶された照合情報とカメラ部101で撮像された画像とを照合する。照合の結果、カメラ部101で撮影された人物映像と、記憶部108に記憶されている照合情報の人物とが一致しない場合に、照合部103は人物映像をビデオ・オーディオコーデック部110へ転送し、ビデオ符号化部104で映像の符号化を行う(S105)。
【0050】
照合の結果、記憶部108に記憶されている照合情報の人物と一致する場合には、照合部103は映像をビデオ・オーディオコーデック部110へ転送しないようにする。
【0051】
または、照合部103は、撮影した人物映像が記憶部108内の照合情報の人物と一致しない場合は人物映像をビデオ・オーディオコーデック部110へ転送せず、照合一致の場合に人物映像をビデオ・オーディオコーデック部110へ転送してもよい。ビデオ・オーディオコーデック部110へ転送された人物映像はビデオ符号化部104で符号化される。
【0052】
パケット化制御部106はビデオ符号化部104で符号化された映像データを例えばHTTPの形式にパケット化する。そして、LAN I/F部107はパケット化した映像ストリームを、LAN500を介してサーバー装置200へ送信する(S106)。照合一致の場合、人物映像の代わりに、一致した人物の識別情報をサーバー装置200へ送信してもよい。人物映像に代えて人物映像よりもデータサイズの小さい識別情報を送信することにより、ネットワークの負荷を軽減することができる。
【0053】
サーバー装置200は、撮像装置100から送信された映像ストリームをLAN I/F部201から受信して(S203)、パケット化された映像ストリームのまま、蓄積装置I/F部207を介して蓄積装置300へ転送する(S204)。
【0054】
このようにして、記憶部108に記憶された照合情報と一致しない人物映像のみ蓄積装置300に蓄積することにより、記憶部108に記憶されていない人物を不審人物として、その映像を蓄積することができる。または、記憶部108に記憶された照合情報を一致する人物映像のみ蓄積装置300に蓄積することにより、記憶部108に記憶された特定人物の映像のみを蓄積することができる。
【0055】
続いて送信装置であるサーバー装置200は、記憶部108に記憶された照合情報を更新するか判断を行う(S205)。更新を行う場合、システム制御部206は対応付け部204を参照して、照合情報に対応付けられた規定情報に基づき規定される順序で照合情報を記憶部205から選択し、記憶部205からLAN I/F部201、LAN500を介して撮像装置100へ照合情報を送信する(S206)。
【0056】
このように、システム制御部206は、記憶部108に記憶された照合情報を更新するための照合情報を、規定情報に基づいて規定された順序に従って、記憶部205に蓄積された照合情報から選択する。そして、選択した照合情報をLAN I/F部201から撮像装置100に送信して、記憶部108に記憶された照合情報を更新する。なお、照合情報を選択する順序を規定するための規定情報は、記憶部205に蓄積される照合情報に対応付け部204により対応付けて記憶される。
【0057】
最後に、ネットワークカメラシステムの運用を停止する際には、サーバー装置200は撮像装置100に対して撮影を終了し撮影映像の送信を停止する要求を行い(S205)、撮影映像送信停止の要求を受信した撮像装置100は撮影を終了させる(S107)。
【0058】
以下、記憶部108に記憶された照合情報の更新について詳細に説明する。
【0059】
まず、記憶部205に記憶される照合情報に対し、システム制御部206が記憶部205からいずれの照合情報を選択するかを規定するために用いる規定情報が対応付けられる。規定情報はユーザーの手入力によって設定することができる。或いは、サーバー装置200または撮像装置100によって自動的に規定情報が設定されてもよい。そして、設定に基づいて、対応付け部204は記憶部205に蓄積する照合情報に規定情報を対応付けた状態で記憶する。
【0060】
例えば、照合情報が照合に用いられるために撮像装置100内の記憶部108に記憶される時間帯、日、曜日等の情報が規定情報として各照合情報に対応付けて対応付け部204に記憶される。
【0061】
図6(a)に、対応付け部204で記憶される照合情報のデータベースの例を示す。対応付け部204は、S200で入力された各照合情報を照合情報が照合に用いられる時間帯ごとにデータベース化して、作成したデータベースに照合に用いられる時間帯の情報を規定情報として対応付けて記憶する。
【0062】
照合情報は図6に示すように各々の人物を示すものとして人物の顔画像そのものだけではなく、その人物が特定できる特徴量だけで作成されることも可能である。顔画像よりもデータサイズの小さい特徴量で照合情報を作成することにより、顔画像を照合情報として記憶する場合に比べ、カメラ内の限られた量のメモリにより多くの照合情報を記憶することができる。
【0063】
ネットワークシステムの運用が開始されると、システム制御部206により、不図示の計時部の計時結果に基づきネットワークカメラシステムの運用時刻、日、曜日等に対応したデータベース(照合情報)が記憶部205から選択される。そして、システム制御部206により選択されたデータベースは記憶部205からLAN I/F部201、LAN500を介して撮像装置100へ送信される。撮像装置100はデータベースを受信すると、記憶部108に蓄積されているデータベースをサーバー装置200から送信されたデータベースで更新する。このようにして、サーバー装置200から撮像装置100へ送信する照合情報を選択する順序が規定され、記憶部108に記憶された照合情報が更新される。
【0064】
ネットワークカメラシステムの運用時刻、日、曜日等を計測する計時部はNTP(Network Time Protocol)等を用いて実現することができる。計時部はサーバー装置200内に設けたが、撮像装置100に設け、撮像装置100からサーバー装置200に照合情報の更新を要求しても良い。或いは、計時部を撮像装置、サーバー装置の外部に設けられても良い。
【0065】
図6(a)では対応付け部204は一定の時間帯に用いられる照合情報ごとのデータベースを作成する例を示したが、個別の照合情報ごとに異なる時間帯の規定情報を対応付けるようにしても良い。例えば、対応付け部204は図6(b)のように個人ごとのスケジュールに応じて、個別の照合情報に個別の時間帯の規定情報を対応付けた状態で記憶しても良い。
【0066】
本実施形態による照合システムは、時間帯に応じて記憶部108に蓄積される照合情報の更新を行う。従って、限られた量のメモリに記憶された照合情報と撮像した映像とを照合する際に、カメラ内のメモリに記憶された照合情報の更新を行わない照合システムに比べて、それぞれの時間帯において、高い確率で照合一致の結果を得ることができる。それにより、カメラ内のメモリ量を制限した認証システムであっても、従来技術に比べて、一定期間中に認証可能な被写体の数を増やすことができる。また、カメラ内のメモリ量を制限した照合システムであっても、従来技術に比べて、照合情報と一致あるいは不一致の被写体を検出する精度を高めることができる。さらに、本発明によれば、照合のたびに操作者が照合情報を要求することを必要とせず、操作者の負担を軽減することができる。
【0067】
また、規定情報は時間帯の情報に限られず、単に選択される順序についての情報であっても良い。図6(c)を用いて例を示す。対応付け部204では、記憶部205に蓄積される照合情報に規定情報として番号が対応付けられた状態で記憶される。記憶部205に蓄積された照合情報は規定情報として振られた番号の順に記憶部205から記憶部108へ送信され、送信された照合情報で記憶部108に記憶された照合情報を更新する。
【0068】
図6(c)の例では、まず、記憶部108に1〜20の規定情報が対応付けられた照合情報が記憶されている。そして、照合部103での照合により、例えば、1の規定情報が対応付けされた照合情報と撮影された画像とが照合一致した場合、サーバー装置200は記憶部205から21の規定情報が対応付けられた照合情報を撮像装置100に送信する。そして、システム制御部109は1の規定情報が対応付けられた照合情報を21の規定情報が対応付けられた照合情報で更新する。
【0069】
照合情報に優先順位をつけて、優先順位に従って記憶部108に記憶される照合情報を更新してゆくことにより、既に照合が済んだ照合情報を、記憶部205に蓄積されている。
【0070】
照合情報のうち照合一致の確率のより高い照合情報で更新して照合することができる。
【0071】
また、照合一致時に照合情報を切替える構成でなく、照合不一致の場合に、記憶部108に蓄積され1〜20の規定情報が対応付けられた照合情報を記憶部205に蓄積され21〜40の規定情報が対応付けられた照合情報で更新してもよい。
【0072】
あるいは、計時手段の計時に基づき、一定時間ごとに記憶部108に記憶された照合情報の更新を行っても良い。例えば、まず、記憶部108に1〜20の規定情報が対応付けられた照合情報が記憶されている場合、一定時間経過後に、21〜40の規定情報が対応付けられた照合情報をサーバー装置200から撮像装置100へ送信する。そして、システム制御部109は1〜20の規定情報が対応付けられた照合情報を21〜40の規定情報が対応付けられた照合情報で更新することができる。あるいは、まず、記憶部108に1〜20の規定情報が対応付けられた照合情報が記憶されている場合、一定時間経過後に、21の規定情報が対応付けられた照合情報をサーバー装置200から撮像装置100へ送信する。そして、システム制御部109は1の規定情報が対応付けられた照合情報を21の照合情報で更新することができる。
【0073】
照合情報に優先順位をつけて、優先順位に従って記憶部108に蓄積される照合情報の更新をしてゆくことにより、限られた量のメモリに記憶された照合情報と撮像した映像とを照合する場合に、照合確率の高い照合情報の順に照合を行うことができる。さらに、本発明によれば、照合のたびに操作者が照合情報を要求することを必要とせず、操作者の負担を軽減することができる。
【0074】
以上、記憶部108に蓄積する照合情報の更新について説明したが、本発明は上記の更新の態様に限られず、規定情報に基づいて記憶部205から選択した照合情報で記憶部108に蓄積する照合情報を更新するものであればよい。本実施形態では人物照合について説明を行ったが、照合を行う対象は人物以外でも良く、例えば車両や車両のナンバープレート等であっても良い。
【0075】
また、本実施形態では、対応付け部204がサーバー装置200内に設けられる場合について説明したが、対応付け部204は撮像装置100内に設けられても本発明の趣旨を逸脱するものではない。さらに、本実施形態ではサーバー装置200から撮像装置100へ送信すべき照合情報をシステム制御部206で選択する構成としたが、撮像装置100側のシステム制御部109が規定情報に基づいて規定される順序に従って照合情報を選択してもよい。システム制御部109は照合情報を選択した後、選択した照合情報を撮像装置100へ送信するようサーバー装置200に要求を行う。
【0076】
以上の構成からなる本発明によれば、計時手段の計時に対応する時間情報が対応付けられた照合情報を蓄積装置から選択して、カメラ内に保持された照合情報を更新する。あるいは、一定時間ごとに、または照合一致若しくは不一致のタイミングで前記順序情報に基づいて決定される順序で前記蓄積手段から照合情報を選択して、カメラ内に保持された照合情報を更新する。従って、カメラ内の限られた量のメモリに記憶された画像と撮像した画像とを照合する照合システムを運用する場合に、照合一致する確率を向上させることができる。それにより、カメラ内の限られた量のメモリに記憶された画像と撮像した画像とを照合する場合に、より多く照合一致の結果を得られるようにすることができる。従って、カメラ内のメモリ量を制限した認証システムであっても、従来技術に比べて、一定期間中に認証可能な被写体の数を増やすことができる。また、カメラ内のメモリ量が制限されていても、照合情報と一致あるいは不一致の被写体を検出する精度を高めることができる。さらに、本発明によれば、照合のたびに操作者が照合情報を要求することを必要とせず、操作者の負担を軽減することができる。
【0077】
[第2の実施形態]
第2の実施形態ではネットワークカメラシステム自身が、撮影した画像から照合情報を作成する実施形態について説明する。構成は第1の実施形態と異なる点のみ説明する。撮像装置100内の照合部103はスイッチを有し、カメラ部で撮影した映像と記憶部108に蓄積された照合情報との照合を行うか否かを切替えることができる。
【0078】
また、サーバー装置200内の対応付け部204は顔検出機能を持ち、システム制御部206からの制御によりビデオ復号化部203から出力されたデジタル映像信号から顔画像を抽出し、照合情報を作成する。検出機能は顔検出に限られず、任意の被写体、或いはその一部を検出対象とするものであってもよい。
【0079】
他の構成は第1の実施形態と同一であるので、説明を省略し、続いて第2の実施形態にかかるネットワークカメラシステムの動作について説明する。
【0080】
第2の実施形態にかかるネットワークカメラシステムは、システムを運用する上で必要となる照合情報を作成するモードと、作成された照合情報を用いて監視を行うモードと、2つのモードで動作を行う。
【0081】
まず、照合情報を作成するモードをサーバー装置200の動作で説明する。図7に撮像装置100の動作を表すフローチャート図、図8に、照合情報を作成するサーバー装置200の動作を表すフローチャート図を示す。図4及び図5において説明したステップと同一の処理を行うステップについては、図4及び図5と同一のステップ名を付す。
【0082】
照合情報の作成開始(S400)とともに、まず、サーバー装置200は撮像装置100に、照合部103のスイッチをOFFにする信号を送信し(S401)、信号を受信した撮像装置100は、照合部103に対してスイッチOFFを設定する(S300)。続いて、サーバー装置200は撮像装置100に対して、撮影映像の送信の要求を行う(S402)。
【0083】
要求を受け取った撮像装置100はカメラ部101より映像の撮影を開始し(S301)、撮影した映像から人物映像を検出する(S103)。
【0084】
人物映像が検出された場合、照合部103では照合部スイッチがOFFであるから(S303)、映像をビデオ・オーディオコーデック部110へ転送する。そして、ビデオ符号化部104で映像の符号化を行う(S105)。この場合の符号化方式はH.264、MJPEGなど、照合情報を作成する上で必要な人物の特徴量を計測できるだけの画質であればよい。パケット化制御部106は符号化された映像データに例えばHTTPの形式のパケット化を行い、LAN I/F部107はLAN500を介してサーバー装置200へ映像ストリームを送信する(S106)。
【0085】
サーバー装置200は撮像装置100から送信された映像ストリームをLAN I/F部201から受信する(S403)。受信された映像ストリームはデパケット化分離部202によってデパケット化されてビデオ復号化部203へ転送される。ここで符号化された映像データに対しデコード処理を施されて対応付け部204へ転送される(S404)。
【0086】
対応付け部204では、撮像されている人物の画像に基づいて照合情報を作成する。対応付け部204はビデオ復号化部203から出力されたデジタル映像信号から顔画像を抽出し、照合情報を作成する(S405)。
【0087】
続いて、対応付け部204は作成された照合情報に規定情報を対応付ける(S406)。
【0088】
例えば、対応付け部204は図6(a)に示したように、6:00〜8:00などの一定時間帯ごと、または曜日ごと等の画像データベースを作成する。そして、対応付け部204では一定期間撮像された人物画像を、それぞれの人物画像が撮影された時間帯に該当する時間帯の画像データベースにそれぞれ登録する。同一の人物画像が異なる時間帯に撮影された場合、最後に撮影された時間帯あるいは撮影された回数の多い時間帯の画像データベースに登録してもよい。
【0089】
または、対応付け部204は、図6(b)のように特定の人物画像に、その人物画像が多く撮影されている時間帯の情報を規定情報として対応付けしてもよい。あるいは、対応付け部204は、撮影頻度に応じて照合に用いる優先順位を決め、図6(c)に示したように、それぞれの照合情報にその優先順位を規定情報として対応付けしても良い。
【0090】
対応付け部204はこのようにして作成された照合情報を記憶部205に転送し、蓄積させておく(S407)。本実施形態では、規定情報対応付け部がサーバー装置200内に設けられる場合について説明したが、規定情報対応付け部は撮像装置100内に設けられても本発明の趣旨を逸脱するものではない。
【0091】
一定期間撮影された人物画像を記憶部205に登録できたら(S408)、撮像装置100に対して撮影を終了し撮影映像の送信を停止する要求を行い(S409)、画像データベース作成を終了する(S410)。
【0092】
次に、作成された照合情報を使用して、ネットワークカメラシステムを運用させたときの動作を説明する。図7に撮像装置100の動作を表すフローチャート図、図9にネットワークカメラシステムのサーバー装置200における動作を表すフローチャート図を示す。
【0093】
まず、サーバー装置200は、撮像装置100へ照合部103のスイッチをONにする信号と、ネットワークカメラシステムの運用開始時に対応する照合情報を記憶部205から撮像装置100へ送信する(S501)。サーバー装置200から照合部103のスイッチをONにする信号と照合情報を受信した撮像装置100は、照合部103に対してONを設定し、さらに照合情報を撮像装置100の記憶部108に記憶する(S300)。
【0094】
続いて、サーバー装置200は撮像装置100に対して、撮影映像の送信の要求を行う(S202)。要求を受け取った撮像装置100はカメラ部101より映像の撮影を開始する(S301)。そして、撮像装置100はカメラ部101で撮影された映像から人物検出を行う(S103)。
【0095】
続いて、照合部スイッチがONであるので(S303)、撮像装置100は人物が検出されている間、その映像を記憶部108に登録設定されている照合情報と照合を行う(S104)。
【0096】
以降の、照合結果に応じた映像ストリームの送信、照合情報の更新、及び撮影の終了についての実施形態は第1の実施形態で説明したものと重複するので説明を省略する。
【0097】
第2の実施形態にかかるネットワークシステムは、ネットワークカメラシステム自身が、撮影した画像から自動的に照合情報を作成し、作成された照合情報に規定情報を対応付けする。従って、限られた量のメモリに記憶された照合情報と撮像した映像とを照合して、高い確率で一致した結果を得ることができるネットワークカメラシステムをより自律的に運用できる。さらに、本発明によれば、照合のたびに操作者が照合情報を要求することを必要とせず、操作者の負担を軽減することができる。
【0098】
[第3の実施形態]
第3の実施形態では、記憶部205に蓄積された照合情報に対応付けられた規定情報をネットワークカメラシステムが自動的に更新する実施形態について説明する。
【0099】
構成は第1の実施形態と異なる点のみ説明する。第3の実施形態におけるサーバー装置200は撮像装置100から受信した映像と記憶部205に蓄積された照合情報との照合を行うことができる。対応付け部204に照合機能を持たせてもよく、あるいは、サーバー装置200内に照合部を設けても良い。その他の構成は第1の実施形態または第2の実施形態と同一であるので、説明を省略する。以下、第3の実施形態にかかるネットワークカメラシステムの動作について説明する。
【0100】
まず、第3の実施形態にかかるネットワークカメラシステムは第1の実施形態または第2の実施形態と同様にして、照合情報の蓄積、規定情報の対応付けを行う。そして、ネットワークカメラシステムの運用が開始されると、撮像装置100はカメラ部101で撮影された映像から人物を検出し、その人物映像を記憶部108に蓄積された照合情報と照合する。
【0101】
照合の結果、撮影された人物が記憶部108に記憶されている照合情報の人物と一致しない場合に、映像をビデオ・オーディオコーデック部110へ転送し、ビデオ符号化部104で撮影された人物映像の符号化を行う。照合の結果、撮影された人物が記憶部108に記憶されている照合情報の人物と一致する場合には、映像をビデオ・オーディオコーデック部110への転送を行わないようにする。
【0102】
サーバー装置200は、撮像装置100から送信された映像ストリームをLAN I/F部201から受信して、受信した映像ストリームをデパケット化分離部202によってデパケット化しビデオ復号化部203へ転送する。ビデオ復号化部203は符号化された映像データにデコード処理を施して対応付け部204へ転送する。対応付け部204はビデオ復号化部203から出力されたデジタル映像信号から顔画像を抽出し、抽出した顔画像が記憶部205に蓄積された照合情報と一致するか否かを判断する。撮像装置100から送信された画像と記憶部205に蓄積された照合情報との照合は、対応付け部204で行うのではなく、サーバー装置200内に独立して照合部を設けて行ってもよい。
【0103】
照合の結果、抽出された顔画像と記憶部205に蓄積された照合情報とが一致した場合には、その照合情報に対応付けされた規定情報を更新し、その照合情報と一致した画像が撮影された時刻、時間帯、日付、または曜日に対応した規定情報を対応付けする。あるいは、撮像装置100から送信された映像から抽出された顔画像が記憶部205に蓄積された特定の照合情報と一致する頻度が一定以上の場合にのみ、その照合情報に対応付けされた規定情報を更新してもよい。
【0104】
以降の、照合情報の更新、及び撮影の終了についての実施形態は第1の実施形態で説明したものと重複するので説明を省略する。
【0105】
第3の実施形態にかかるネットワークカメラシステムは、ネットワークカメラシステムが照合情報に対応付けされる規定情報を自動的に更新する。すなわち、記憶部205に蓄積された規定情報により規定される順序に従って選択された照合情報と撮像された画像が一致しない場合、規定情報を更新することにより、この更新以降に行う照合で、照合情報と撮像された画像が一致する確率を上げることができる。従って、限られた量のメモリに記憶された照合情報と撮像した映像とを照合し、従来の照合システムに比べて高い確率で一致した結果を得ることができる。さらに、本発明によれば、照合のたびに操作者が照合情報を要求することを必要とせず、操作者の負担を軽減することができる。
【0106】
[他の実施形態]
また、本発明は、以下の処理を実行することによっても実現される。即ち、上述した実施形態の機能を実現するソフトウェア(プログラム)を、ネットワーク又は各種記憶媒体を介してシステム或いは装置に供給し、そのシステム或いは装置のコンピュータ(またはCPUやMPU等)がプログラムを読み出して実行する処理である。

【特許請求の範囲】
【請求項1】
撮像装置と、
前記撮像装置とネットワークで接続される蓄積手段とを有し、
前記撮像装置が、前記蓄積手段から受信した照合情報を記憶して、記憶した照合情報と撮像された画像とを照合する画像照合システムにおいて、
前記蓄積手段に蓄積された照合情報と該照合情報が前記撮像装置に記憶される時間帯を示す時間情報とを対応付けて記憶する記憶手段と、
計時手段と、
前記計時手段の計時に対応する時間情報が対応付けられた照合情報を前記蓄積手段から選択する選択手段と、
前記選択手段が選択した照合情報で前記撮像装置に記憶された照合情報を更新する更新手段とを有することを特徴とする画像照合システム。
【請求項2】
撮像装置と、
前記撮像装置とネットワークで接続される蓄積手段とを有し、
前記撮像装置が、前記蓄積手段から受信した照合情報を記憶して、記憶した照合情報と撮像された画像とを照合する画像照合システムにおいて、
前記蓄積手段に蓄積された照合情報と該照合情報が前記撮像装置に記憶される順序を示す順序情報とを対応付けて記憶する記憶手段と、
一定時間ごとに、前記順序情報に基づいて決定される順序で前記蓄積手段から照合情報を選択する選択手段と、
前記選択手段が選択した照合情報で前記撮像装置に記憶された照合情報を更新する更新手段とを有することを特徴とする画像照合システム。
【請求項3】
前記撮像装置によって撮像された被写体の画像を照合情報として前記蓄積手段に蓄積する画像照合システムであって、
前記計時手段は前記撮像装置によって被写体が撮像された時間を計測し、
前記計時手段によって計測された時間の情報を時間情報として前記被写体の画像に対応付けて前記記憶手段に記憶する対応付け手段を有することを特徴とする請求項1に記載の画像照合システム。
【請求項4】
前記撮像装置は、照合を行った結果、前記撮像装置によって撮像された被写体の画像が前記撮像装置に記憶された照合情報と一致しなかった場合、前記撮像装置によって撮像された画像を前記ネットワークに送信する送信手段を有することを特徴とする請求項1又は請求項2に記載の画像照合システム。
【請求項5】
前記送信手段によって送信された画像と前記蓄積手段に蓄積された照合情報との照合を行う第二の照合手段を有し、
前記送信手段によって送信された画像と前記蓄積手段に蓄積された照合情報とが一致すると前記第二の照合手段により判断された場合は、前記送信手段によって送信された画像と一致した該照合情報に、該照合情報が撮影された時間を時間情報として対応付けることを特徴とする請求項4に記載の画像照合システム。
【請求項6】
蓄積手段に蓄積された照合情報を撮像装置において撮像された画像と照合するために前記撮像装置にネットワークを介して送信する送信装置であって、
前記蓄積手段に蓄積された照合情報と該照合情報が前記撮像装置に記憶される時間帯を示す時間情報とを対応付けて記憶する記憶手段と、
計時手段と、
前記計時手段の計時に対応する時間情報が対応付けられた照合情報を前記蓄積手段から選択する選択手段と、
前記選択手段が選択した照合情報を前記撮像装置に前記ネットワークを介して送信する送信手段とを有することを特徴とする送信装置。
【請求項7】
蓄積手段に蓄積された照合情報を撮像装置において撮像された画像と照合するために前記撮像装置にネットワークを介して送信する送信装置であって、
前記蓄積手段に蓄積された照合情報と該照合情報が前記撮像装置に記憶される順序を示す順序情報とを対応付けて記憶する記憶手段と、
一定時間ごとに、前記順序情報に基づいて決定される順序で前記蓄積手段から照合情報を選択する選択手段と、
前記選択手段が選択した照合情報を前記撮像装置に前記ネットワークを介して送信する送信手段とを有することを特徴とする送信装置。
【請求項8】
蓄積手段から受信した照合情報を記憶して、記憶した照合情報と撮像された画像とを照合する撮像装置であって、
計時手段と、
前記計時手段の計時に対応する時間情報が対応付けられた照合情報を前記蓄積手段から選択する選択手段と、
前記選択手段が選択した照合情報で撮像装置に記憶された照合情報を更新する更新手段とを有することを特徴とする撮像装置。
【請求項9】
蓄積手段から受信した照合情報を記憶して、記憶した照合情報と撮像された画像とを照合する撮像装置であって、
一定時間ごとに、前記順序情報に基づいて決定される順序で前記蓄積手段から照合情報を選択する選択手段と、
前記選択手段が選択した照合情報で撮像装置に記憶された照合情報を更新する更新手段とを有することを特徴とする撮像装置。
【請求項10】
撮像装置と、
前記撮像装置とネットワークで接続される蓄積手段とを有し、
前記撮像装置が、前記蓄積手段から受信した照合情報を記憶して、記憶した照合情報と撮像された画像とを照合する画像照合方法において、
記憶手段が、前記蓄積手段に蓄積された照合情報と該照合情報が前記撮像装置に記憶される時間帯を示す時間情報とを対応付けて記憶する記憶ステップと、
計時手段が計時を行う計時ステップと、
選択手段が、前記計時手段の計時に対応する時間情報が対応付けられた照合情報を前記蓄積手段から選択する選択ステップと、
更新手段が、前記選択手段が選択した照合情報で前記撮像装置に記憶された照合情報を更新する更新ステップとを有することを特徴とする画像照合方法。
【請求項11】
蓄積手段に蓄積された照合情報を撮像装置において撮像された画像と照合するために前記撮像装置にネットワークを介して送信する送信装置における送信方法であって、
記憶手段が、前記蓄積手段に蓄積された照合情報と該照合情報が前記撮像装置に記憶される時間帯を示す時間情報とを対応付けて記憶する記憶ステップと、
計時手段が計時を行う計時ステップと、
選択手段が、前記計時手段の計時に対応する時間情報が対応付けられた照合情報を前記蓄積手段から選択する選択ステップと、
送信手段が、前記選択手段が選択した照合情報を前記撮像装置に前記ネットワークを介して送信する送信ステップとを有することを特徴とする送信方法。
【請求項12】
蓄積手段から受信した照合情報を記憶して、記憶した照合情報と撮像された画像とを照合する撮像装置における撮像方法であって、
計時手段が計時を行う計時ステップと、
選択手段が、前記計時手段の計時に対応する時間情報が対応付けられた照合情報を前記蓄積手段から選択する選択ステップと、
更新手段が、前記選択手段が選択した照合情報で撮像装置に記憶された照合情報を更新する更新ステップとを有することを特徴とする撮像方法。
【請求項13】
蓄積手段に蓄積された照合情報を撮像装置において撮像された画像と照合するために前記撮像装置にネットワークを介して送信するコンピュータに、
前記蓄積手段に蓄積された照合情報と該照合情報が前記撮像装置に記憶される時間帯を示す時間情報とを対応付けて記憶する記憶手順と、
計時手順と、
前記計時手段の計時に対応する時間情報が対応付けられた照合情報を前記蓄積手段から選択する選択手順と、
前記選択手段が選択した照合情報を前記撮像装置に前記ネットワークを介して送信する送信手順とを実行させるためのプログラム。
【請求項14】
蓄積手段に蓄積された照合情報を撮像装置において撮像された画像と照合するために前記撮像装置にネットワークを介して送信するコンピュータに、
前記蓄積手段に蓄積された照合情報と該照合情報が前記撮像装置に記憶される順序を示す順序情報とを対応付けて記憶する記憶手順と、
計時手順と、
一定時間ごとに、前記順序情報に基づいて決定される順序で前記蓄積手段から照合情報を選択する選択手順と、
前記選択手段が選択した照合情報を前記撮像装置に前記ネットワークを介して送信する送信手順とを実行させるためのプログラム。
【請求項15】
蓄積手段から受信した照合情報を記憶して、記憶した照合情報と撮像された画像とを照合する撮像装置に、
計時手順と、
前記計時手段の計時に対応する時間情報が対応付けられた照合情報を前記蓄積手段から選択する選択手順と、
前記選択手段が選択した照合情報で撮像装置に記憶された照合情報を更新する更新手順とを実行させるためのプログラム。
【請求項16】
蓄積手段から受信した照合情報を記憶して、記憶した照合情報と撮像された画像とを照合する撮像装置に、
一定時間ごとに、前記順序情報に基づいて決定される順序で前記蓄積手段から照合情報を選択する選択手段と、
前記選択手段が選択した照合情報で撮像装置に記憶された照合情報を更新する更新手段とを実行させるためのプログラム。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7】
image rotate

【図8】
image rotate

【図9】
image rotate


【公開番号】特開2011−66797(P2011−66797A)
【公開日】平成23年3月31日(2011.3.31)
【国際特許分類】
【出願番号】特願2009−217331(P2009−217331)
【出願日】平成21年9月18日(2009.9.18)
【出願人】(000001007)キヤノン株式会社 (59,756)
【Fターム(参考)】