顔画像記録装置、及び顔画像記録方法
【課題】この発明は、ユーザの顔画像を履歴データとして記録しておくことができ、一定のセキュリティを保持ししつつ、ユーザの利便性が良い顔画像記録装置を提供できる。
【解決手段】この発明は、ユーザの複数の顔画像を取り込み、画像処理によって自動的に最適な画像系列に加工及び編集して、一定品質以上の少なくとも1枚以上の顔画像を収集し、その処理結果としての顔画像を属性情報とともに記録装置に記録するようにしたものである。
【解決手段】この発明は、ユーザの複数の顔画像を取り込み、画像処理によって自動的に最適な画像系列に加工及び編集して、一定品質以上の少なくとも1枚以上の顔画像を収集し、その処理結果としての顔画像を属性情報とともに記録装置に記録するようにしたものである。
【発明の詳細な説明】
【技術分野】
【0001】
この発明は、例えば、施設内での入退出管理に適用され、ユーザの顔画像を履歴データとして記録する顔画像記録装置、情報管理システム、顔画像記録方法、及び情報管理方法に関する。
【背景技術】
【0002】
従来、
従来、特定の部屋などの入退出管理では、入退出を行おうとする人物が入退出の可能な人物であるか否かを確認する必要がある。例えば、特定の部屋への入退出を管理する入退出管理システムでは、種々の確認方法で人物を確認することにより入退出が可能な人物であるか否か判断するようになっている。また、電子商取引では、アクセスした人物が正当な資格を有した人物であるか否かを確認する必要がある。例えば、電子商取引に用いられる情報管理システムでは、種々の確認方法で人物を認識し、人物を確認している。
このため、入退出管理システム、或は情報管理システムでは、できるだけ第3者が介在しないで機械(自動)的に人物の確認を行えるものが望まれている。
【0003】
従来、人物の確認方法は、大きく次の3つに分かれる。
(1)所持物による人物の確認方法
所持物による人物の確認方法は、例えば、パスポート、免許証などに代表される身分証明書で本人を確認する方法である。また、例えば、磁気カード、無線カード、あるいはICカード等の記憶媒体により人物を確認する方法も所有物による人物の確認方法に含まれる。また、出入り口のドア、金庫の扉、車のエンジンなどの鍵等も、広義に捕らえれば、所有物による人物の確認方法に含まれる。
【0004】
(2)記憶情報による人物の確認方法(PIN;Personal Identification Number)
例えば、パスワード、暗証番号などの情報を用いた人物の確認方法は、記憶情報による人物の確認方法に属する。この記憶情報による人物の確認方法は、所持物による人物の確認方法と組み合わせて利用されることが多い。例えば、銀行などの金融機関では、クレジットカードと利用者が記憶している4桁の暗証番号とを組み合わして人物の確認を行っている。
【0005】
(3)身体的特徴による人物の確認方法
この身体的特徴による人物の確認方法の代表は、指紋照合である。その他にも、網膜や虹彩、掌形、声紋、サイン(筆跡)、顔などの身体的特徴(バイオメトリクス)による人物の確認方法がある。指紋、声紋、及びサインによる人物の確認方法は、従来から犯罪捜査などで用いられている。これらの身体的特徴による人物の確認方法では、サンプルデータと照合することにより人物を確認するようになっている。また、身体的特徴による人物の確認方法は、必ずしも機械的に行うものではない。例えば、クレジットカード等では、カードに記載されたサインと当該人物が記載したサインとを人の目視により照合して人物を確認している。このように、身体的特徴による人物の確認方法は、(1)の所有物による本人確認方法または(2)の記憶情報による本人確認方法と組み合わせて利用されることが多い。
【0006】
しかしながら、上記した従来の人物の確認方法では、それぞれ以下のような欠点があるために完全とは言えないことがある。
(1)の所有物による人物の確認方法の欠点としては、人物を確認するための所有物を、落としたり、盗まれたり、偽変造されたりする可能性があることがあげられる。また、(2)の記憶情報による人物の確認方法の欠点としては、本人が暗証番号等の記憶情報を忘れてしまったり、他人に推測されたり、総当り的に攻撃されるなどの危険性があることがあげられる。また、(3)の身体的特徴情報による人物の確認方法では、身体的特徴の経時変動などの影響が避けられないため、照合時のエラーを完全に無くすことができないという欠点を有している。
【0007】
また、入退出管理では、入退出した人物を示す情報を残すことが必要となる場合がある。また、電子商取引では、本人が承認したことを示す情報を残すことが必要となる場合がある。例えば、日本では、本人の承認を示す行為として、自分の名前等の印鑑を押す行為が慣習的に行われている。このように、比較的軽いセキュリティレベルが必要な用途では、本人が承認したことを示す情報を残すことにより一定のセキュリティが維持できる。
このような比較的軽いセキュリティレベルが必要な用途に従来の本人認証方法を適用すると、装置導入のためのコストが高くなったり、操作性が悪いという問題がある。このため、一定のセキュリティレベルを持ちながら、導入コストが低く、かつ、ユーザの操作性が良いものが要望されている。
【特許文献1】特開2001−67459号公報
【発明の開示】
【発明が解決しようとする課題】
【0008】
上記したように、用途に応じたセキュリティレベルを持ちつつ、装置の導入負担が少なく、利便性の高い本人認証を実現できるものが要望されているもので、利用される用途に応じたセキュリティレベルを持ちつつ、装置の導入負担ができるだけ少なく、かつ、ユーザが使い易く、利便性の高い本人認証を実現する顔画像記録装置、顔画像記録システム、情報管理システム、顔画像記録方法、及び情報管理方法を提供することを目的とする。
【課題を解決するための手段】
【0009】
この発明の顔画像記録装置は、人物の顔画像を記録するものにおいて、顔画像を記録する必要のない人物の顔の特徴量が予め登録されている第1の記憶手段と、1人の人物の顔を複数撮影する撮影手段と、この撮影手段で撮影した各画像からそれぞれ顔の特徴量を抽出する特徴量抽出手段と、この特徴量抽出手段により抽出された顔の特徴量と上記第1の記憶手段に登録されている顔の特徴量との照合を行う照合手段と、この照合手段による照合が失敗した場合に、上記撮影手段で撮影した画像のうち上記特徴量抽出手段により顔の特徴量が抽出された画像を記録する第2の記憶手段とを有する。
【発明の効果】
【0010】
この発明によれば、利用される用途に応じたセキュリティレベルを持ちつつ、装置の導入負担ができるだけ少なく、かつ、ユーザが使い易く、利便性の高い本人認証を実現する顔画像記録装置、顔画像記録システム、情報管理システム、顔画像記録方法、及び情報管理方法を提供できる。
【発明を実施するための最良の形態】
【0011】
以下、この発明の実施の形態について図面を参照して説明する。
図1、及び図2は、顔画像記録装置のユーザインターフェース部10の外観構成例を示す正面図である。図1に示す顔画像記録装置の構成例では、ユーザインターフェース部10に、表示部1、カメラ2、線光源3、及び線光源4が設けられている。また、図2に示す顔画像記録装置の構成例では、ユーザインターフェース部10に、表示部1、カメラ2、線光源3、及び線光源4に加えて、入力部5が設けられている。
【0012】
上記表示部1は、上記カメラ2が撮影中の画像、あるいは利用者に対する案内などを表示する。上記カメラ2は、動画像あるいは連続画像を撮影するものである。このカメラ2は、表示部1の下方に設けられ、表示部1を目視している利用者の少なくとも顔を含む領域の顔画像を撮像する顔に対して正面よりやや下方側から撮影するようになっている。上記線光源3は、カメラ2の正面に位置する利用者の顔に対して横方向から光を照射するものである。上記線光源4は、カメラ2の正面に位置する利用者の顔に対して斜め下方向から光を照射するものである。なお、上記線光源3及び線光源4などの照明は、顔画像記録装置の設置場所の照明環境が良好な場合(画像入力するのに良好な照明環境である場合)、不要である。また、上記入力部5は、テンキーなどで構成される。この入力部5は、例えば、利用者が個人を特定するための個人ID情報などを入力するものである。
【0013】
図3、図4は、顔画像記録装置の設置例を示す側面図である。
図3は、壁掛けタイプのユーザインターフェース部10を有する顔画像記録装置の設置例を示す側面図である。図3では、図1あるいは図2に示すように構成されたユーザインターフェース部10が壁に掛けて設置されている。このユーザインターフェース部10の正面に立つ利用者Hの顔は、下方からカメラ2によって撮影されるようになっている。
図4は、据え置きタイプのユーザインターフェース部10を有する顔画像記録装置の設置例を示す側面図である。図4では、ユーザインターフェース部10の正面に立った利用者Hに対して斜め下方にカメラ2が設置される。これにより、利用者Hは、カメラ2を上から覗き込むようになっている。また、図4に示す設置例では、図1あるいは図2に示すように構成される顔画像記録装置のユーザインターフェース部10がケーブル11で接続される処理部12に接続されている。
【0014】
図5は、ドア23、24などの複数の箇所にユーザインターフェース部10が設けられる場合の構成例を示すブロック図である。図5に示す構成例では、ドア23及びドア24に設置されたユーザインターフェース部10が処理部21に接続されている。また、上記処理部21には、保守用のパーソナルコンピュータ(保守パソコン)22が通信ケーブルを介して接続されている。なお、保守パソコンが顔画像記録装置に接続される構成については、後述する第3の実施の形態で詳細に説明する。
【0015】
図6は、顔画像記録装置の制御系統としての全体構成を示す図である。
図6に示すように、顔画像記録装置の処理部30(12、21)は、処理プロセッサ31、ワークメモリ32、プログラムメモリ33、画像メモリ34、キャプチャボード35、記録装置インターフェース36、記録装置37、照合用辞書38、無線通信ボード39、LANボード40、及びバス41から構成されている。
上記処理プロセッサ31は、顔画像記録装置全体の制御を行う。また、上記処理プロセッサ31は、図1あるいは図2に示すユーザインターフェース部10に設けられる表示部1、カメラ2、線光源3、及び線光源4等が接続され、これらの制御を行うようになっている。また、図2に示すように、ユーザインターフェース部10に入力部5が設けられる場合、入力部5は、処理プロセッサ31に接続される。上記入力部5で入力された情報は処理プロセッサ31に供給されるようになっている。
【0016】
また、上記処理プロセッサ31は、特徴量抽出部31a、情報生成部31b、なりすまし検知部31c、画像処理部31d、及び顔照合部31eとしての機能を有している。これらの各機能は、上記プログラムメモリ33に記憶されている制御用のプログラムを上記処理プロセッサ31が実行することにより実現される。また、処理プロセッサ31は、時間を計時するタイマ31fを有しているものとする。
上記特徴量抽出部31aは、上記カメラ2で撮影した画像から顔の特徴量を抽出する処理を行う。上記情報生成部31bは、上記カメラ2で撮影した画像に関する属性情報(撮影時間等)を生成するものである。上記なりすまし検知部31cは、上記カメラ2で撮影した画像が他人になりすましたことを検知するものである。このなりすまし検知部31cによるなりすまし検知処理については、後で詳細に説明する。
【0017】
上記画像処理部31dは、上記カメラ2で撮影した画像に対する画像処理を行う。この画像処理部31dでは、例えば、上記カメラ2で撮影した画像に対して、顔領域を切り出す処理、画像濃度の補正処理、正規化処理、あるいは画像圧縮処理などの処理を行う。上記顔照合部31eは、上記特徴量抽出部31aにより抽出された顔の特徴量と上記顔照合用辞書38に記憶されている顔の特徴量との照合処理を行う。
上記ワークメモリ32は、処理中の画像などを一時的に記憶するメモリである。上記プログラムメモリ33は、制御用のプログラムなどが記憶されるメモリである。上記画像メモリ34は、画像データを記憶するメモリである。この画像メモリ34は、例えば、カメラ2で撮影され、上記キャプチャボード35を介して処理部30内に供給された顔画像を記憶する。上記キャプチャボード35は、上記カメラ2で撮影された画像を処理部30内に取り込む際のインターフェースである。
【0018】
上記記録装置インターフェース36は、上記記録装置37及び上記顔照合用辞書(辞書)38に対するデータの読出し、或は、書込みを行うものである。上記記録装置37は、顔画像を記録するものである。上記顔照合用辞書(辞書)38は、照合用の顔画像あるいは顔の特徴パターン(特徴量)が登録される記録装置である。
なお、上記記録装置37及び顔照合用辞書38は、処理部30の外に設けられるようにしても良い。また、上記記録装置37及び顔照合用辞書38は、通信用のインターフェースを介して通信可能なネットワーク上の他の外部機器に設けられるようにしても良い。
【0019】
上記無線通信ボード39は、パーソナルコンピュータなどの監視員用の監視装置との通信を行うインターフェースである。なお、無線通信ボードの代りに上記管理装置と接続される有線での通信を行う通信ボードを用いても良い。上記LANボード40は、LAN42との接続する場合のインターフェースである。上記バス41は、画像データなどを送受信するデータバスである。このバス41は、上記処理プロセッサ31、画像メモリ34、キャプチャボード35、記録装置インターフェース36、無線通信ボード39、及びLANボード40に接続されている。
ここで、上記カメラ2は、通常の産業用カラーカメラ(CCDまたはCMOSイメージセンサを用いたビデオカメラ)を使用するものとする。この場合、上記キャプチャーボード35は、ビデオ信号(アナログデータ)をディジタルデータに変換し(A/D変換)、画像メモリ34に送る(バッファリング)。これにより、上記処理プロセッサ31は、上記画像メモリ34に蓄積された画像データを上記ワークメモリ32に順次取り込んで種々の処理を行う。
【0020】
なお、上記記録装置37に記録する顔画像がモノクロであっても良い場合、上記カメラ2はモノクロ画像を撮影するカメラであっても良い。また、上記カメラ2がUSB(ユニバーサル・シリアル・バス)インタフェースを備えている場合、上記キャプチャボード35には、USBインタフェースを持たせればよい。この場合、A/D変換回路が不要となる。また、上記カメラ2がIEEE1394などの他のディジタルインタフェースを備えている場合も、同様に、上記キャプチャボード35には、対応するインタフェースをもたせればよい。
また、図5に示すように、ユーザインターフェース部10がドアに設けられる場合、処理部30には、上記ドアの開閉あるいはドアの施錠を開閉するドア制御機構が設けられる。このドア制御機構は、上記処理プロセッサ31に接続される。これにより、図6に示すような顔画像記録装置をドアの開閉を制御する入退出管理システムに適用することが可能となる。
【0021】
以下、上記のように構成される顔画像記録装置を用いた第1、第2の実施の形態について説明する。
まず、第1の実施の形態について説明する。
この第1の実施の形態では、上記のように構成された顔画像記録装置によってユーザの顔画像を履歴データとして蓄積しておくものである。なお、この第1の実施の形態では、顔画像記録装置が単独で設置可能である。このような顔画像記録装置は、顔画像を記録するという単機能なタイプであるためスタンドアロン・単機能タイプを呼ぶこととする。
【0022】
図7、及び図8は、第1の実施の形態として、顔画像の記録処理の全体の流れを説明するためのフローチャートである。
まず、カメラ2が利用者の顔を撮影すると、キャプチャボード35は、カメラ2からのカラーの顔画像(デジタルデータ)を順次画像メモリ34に蓄積(バッファリング)する。処理プロセッサ31は、画像メモリ34にバッファリングされた各画像を順次ワークメモリ32上に読み出す。処理プロセッサ31は、上記ワークメモリ32に読み出した画像に対して特徴量の抽出処理を行う。この特徴量の抽出処理により顔画像が抽出できた場合に、上記処理プロセッサ31は、顔画像の記録処理を行う。
【0023】
すなわち、処理プロセッサ31は、まず、上記カメラ2で人物の顔を連続的に複数撮影する。上記カメラ2で撮影される複数のカラー画像は、順次画像メモリ34に蓄積される(ステップS1)。この画像メモリ34に蓄積された複数のカラー画像は、順次ワークメモリ32に読み出される。上記ワークメモリ32に画像を読み出す際、上記処理プロセッサ31は、ワークメモリ32の初期化を行う(ステップS2)。ワークメモリ32の初期化は、処理プロセッサ31がカウンタi,jの変数を0にセットし、記録バッファ(ワークメモリ上の記録領域)を空にすることにより行われる。ワークメモリ32が初期化されると、処理プロセッサ31は、画像メモリ34から画像を読み出して、ワークメモリ32に取込む(記憶)する(ステップS3)。この際、処理プロセッサ31は、画像メモリ34から画像を読み出すごとに、カウンタiを+1(i=i+1)する(ステップS4)。
【0024】
ワークメモリ32に画像を取り込むと、処理プロセッサ31は、ワークメモリ32に取り込んだ画像に対して特徴量の抽出処理を行う(ステップS5)。この特徴量の抽出処理については、後で詳細に説明する。上記特徴量の抽出処理により顔の特徴量が抽出できなかった場合(ステップS6、NO)、処理プロセッサ31は、変数iの値が所定の値Mよりも大きいか否かを判断する(ステップS7)。
上記判断により変数iの値が所定の値M以下であると判断すると(ステップS7、NO)、処理プロセッサ31は、上記ステップS3へ進み、次の画像をワークメモリ32に取り込む。また、変数iの値が所定の値Mよりも大きいと判断した場合(ステップS7、YES)、処理プロセッサ31は、顔画像の記録処理を打ち切る。顔画像の記録処理を打ち切ると、処理プロセッサ31は、ユーザインターフェース部10の表示部1あるいは図示しないスピーカなどにより顔画像の記録が失敗したことを利用者に報知する(ステップS8)。
【0025】
ここで、上記変数iと比較される所定の値Mは、特徴量が抽出できなった顔画像の最大数を指定するものである。すなわち、上記カメラ2で撮影された複数の画像に対して所定の値M以上、連続して特徴量が抽出できなかった場合、顔の特徴量の抽出処理が打ち切られる。また、顔画像の記録処理を打ち切る基準は、上記カメラ2で撮影した画像の数ではなく、撮影した画像に対する処理時間を指定するようにしても良い。この場合、処理プロセッサは、上記カメラ2が当該人物に対する画像の撮影を開始してから所定時間内に顔の特徴量が抽出できた画像が無ければ処理を打ち切るようにする。
【0026】
また、上記ステップS5で、顔の特徴量の抽出が成功した場合(ステップS6、YES)、処理プロセッサ31は、当該画像に対する画像処理を行う(ステップS9)。この画像処理についは、後で詳細に説明する。上記画像処理が施された画像は、記録装置37に記録される。この際、処理プロセッサ31は、カウンタjを+1(j=j+1)する(ステップS10)。
上記カウンタjを+1すると、処理プロセッサ31は、ワークメモリ32上に画像処理された画像を記憶する(ステップS11)。処理プロセッサ31は、画像処理された画像から「なりすまし」チェックを行う(ステップS12)。この「なりすまし」チェックは、後で詳細に説明するが、写真などを用いて他人になりましていないかをチェックするものである。
この「なりすまし」チェックによってなりましでないと判断した場合(ステップS13、NO)、処理プロセッサ31は、変数jの値が所定の値Nと等しいか否かを判断する(ステップS14)。この判断により変数jの値が所定の値Nと等しいと判断しなかった場合(ステップS14、NO)、処理プロセッサ31は、上記ステップS3へ戻り、画像メモリ34に記憶されている次の画像に対する処理を行う。
【0027】
ここで、上記変数jと比較される所定の値Nは、記録すべき画像の数を示す。つまり、上記所定の値Nは、記録用の画像とする特徴量が検出された画像の数を指定するものである。また、特徴量が検出された画像の数ではなく、上記カメラ2による画像の入力処理時間を指定するようにしても良い。すなわち、処理プロセッサ31は、上記カメラ2で当該人物に対する撮影を開始してから所定時間内に、少なくとも1つの画像から顔の特徴量が検出された際に当該画像を記録する。
上記判断により変数jの値が所定の値Nと等しいと判断した場合(ステップS14、YES)、処理プロセッサ31は、画像に関する属性情報とともに、ワークメモリ32上の画像を記録装置37に記録する(ステップS15)。上記属性情報は、画像を撮影したカメラ2あるいは顔画像記録装置を示すID番号、あるいは画像を撮影した時間などを示す情報である。また、上記入力部5等により個人ID情報が入力されている場合、属性情報には、個人ID情報が含まれる。
【0028】
なお、上記属性情報の内容は、上記のように、当該画像を取り込んだ装置を示すID番号、当該画像の撮影時間、あるいは個人ID情報に限定されるものではない。上記属性情報は、記録される画像に対応する種々の数値やテキスト情報などの情報であり、用途に応じて内容が決定されるものである。
上記処理プロセッサ31は、上記記録装置37に画像及び属性情報を記録すると、表示部1に記録完了の旨を表示することにより顔画像の記録が完了したことを利用者に通知する(ステップS16)。
【0029】
次に、上記ステップS5の顔の特徴量(特徴点)の抽出処理について詳細に説明する。
図9は、顔の特徴量の抽出処理を説明するためのフローチャートである。
上記カメラ2では、1枚のみの画像(静止画)ではなく、一定時間間隔で複数の連続した画像、あるいは動画像を撮影する。これは、画像の入力条件(撮影条件)の変動を考慮して、複数の画像から良好な画質の画像を取り出すためである。上記カメラ2で撮影された画像は、キャプチャボード35に送信される。上記キャプチャーボード35は、カメラ2からの複数の画像を画像メモリ34に順次バッファリングする。この画像メモリ34にバッファリングされた画像は、順次、ワークメモリ32上に読み出されて処理プロセッサ31の制御による処理が施される(ステップS21)。
【0030】
特徴量の抽出処理において、処理プロセッサ31は、まず、ワークメモリ32上の顔画像(ディジタル化されたカラー画像)をモノクロ画像に変換する(ステップS22)。このモノクロ画像に対しては、明るさ(濃淡)情報に基づいて特徴量が抽出される。なお、上記カメラ2がモノクロ画像を撮影する場合、上記ステップS22は省略される。
すなわち、処理プロセッサ31は、変換処理により得られたモノクロ画像に対して顔領域の候補を探索する(ステップS23)。顔領域の候補が検出されると、処理プロセッサ31は、顔領域内における顔の特徴量として、ほぼ、円形領域とみなせる瞳(黒目)領域及び鼻孔領域を検出する(ステップS24)。これにより瞳(黒目)領域及び鼻孔領域が検出されると、処理プロセッサ31は、瞳(黒目)領域の中心位置、及び鼻孔領域の中心位置を特徴量とする(ステップS25)。従って、顔の特徴量は、瞳(黒目)領域の中心位置、及び鼻孔領域の中心位置などの特徴点の位置座標として検出される。
【0031】
なお、ここでは、瞳及び鼻孔を特徴点として用いるようにしたが、唇の端点などの他の特徴点を用いるようにしても良いし、瞳だけを特徴点として用いるようにしても良い。
また、上記ステップS23〜25の処理は、「「動画像を用いた顔認識システム」、信学技法PRMU97−50、1997年6月;山口修、福井和広、前田賢一著」(文献1)、あるいは、「「形状抽出とパターン照合の組合せによる顔特徴点抽出」、信学論D−II、Vol.J−80−D−II、No8、1997年8月;福井、山口著」(文献2)に記載されている方法を用いることができる。
【0032】
次に、上記ステップS9における画像処理について説明する。
図10は、顔の特徴量の抽出された画像に対する画像処理を説明するためのフローチャートである。上記ステップS5における顔の特徴点の抽出処理により顔の特徴量が抽出された場合、処理プロセッサ31は、当該画像を上記記録装置37に記録するための画像処理を行う。ここでは、画像処理として、顔領域の切り出し処理、正規化処理、濃度補正処理、及び圧縮処理を行うものとする。これらの処理は、プログラムメモリ33に記憶されている制御プログラムに基づいて処理プロセッサ31が実行するものとする。
【0033】
まず、顔の特徴量の抽出処理により瞳及び鼻孔の中心位置の座標情報が特徴点として得られたとする。すると、処理プロセッサ31は、当該画像を記録装置37への記録すべき画像と判断し、当該画像に対する画像処理を行う。
すなわち、顔の特徴点の位置を示す座標情報が得られると(ステップS31)、処理プロセッサ31は、モノクロ画像に変換する前のもとのカラー画像に対して顔領域の切り出し処理を行う(ステップS32)。この顔領域の切り出し処理では、上記処理プロセッサ31が顔の特徴点の座標情報に基づいて上記カメラ2で撮影された画像から顔領域を切り出す。
【0034】
顔領域を切り出すと、処理プロセッサ31は、切り出した顔領域を所定の記録用の画像サイズに変換するための正規化処理を行う(ステップS33)。この正規化処理により顔領域として切り出された画像データは、所定の画像サイズに変換される。
顔領域の画像を正規化すると、処理プロセッサ31は、正規化された顔画像に対する濃度補正処理を行う(ステップS34)。これにより所定の画像サイズに変換された顔領域の画像データは、濃度が補正される。この濃度が補正された画像は、記録用の顔画像となる。
【0035】
記録用の顔画像を生成すると、処理プロセッサ31は、記録用の顔画像を圧縮する圧縮処理を行う(ステップS35)。この顔画像の圧縮処理は、記録装置37の容量を節約して効率的に顔画像を記録するためのものである。この顔画像の圧縮処理では、例えば、国際標準のカラー静止画像の圧縮方式であるJPEG方式が用いられる。なお、JPEG方式以外の圧縮方式を用いて圧縮処理を行っても良い。このような顔画像の圧縮処理により顔画像を所定の形式で圧縮すると、処理プロセッサ31は、圧縮した顔画像を上記記録装置37に記録する(ステップS36)。
【0036】
なお、上記のような画像処理の処理内容は、用途に応じて設定される。例えば、上記したような、顔領域の切り出し処理、大きさの正規化処理、濃度補正処理、画像データの圧縮処理などの処理は、必要に応じて選択的に採用されるものである。例えば、最も単純な処理としては、所定時間内に少なくとも1枚の画像から瞳が検知できた場合に、当該画像を撮影した状態のまま上記記録装置37に記録すれば良い。
なお、上記例では、記録後の画像の見易さのため、カラー画像を記録用に用いたが、モノクロ画像を記録するようにしても良い。モノクロ画像を記録するようにした場合、カラーカメラを用いる必要はないので、上記カメラ2をモノクロカメラで構成するようにしても良い。
【0037】
次に、上記ステップS12における「なりすまし」の検知処理について説明する。
この「なりすまし」の検知処理では、例えば、他人の顔写真等を用いて他人になりすましていないかどうかを判断する処理である。「なりすまし」を検知する方法としては、種々の方法がある。ここでは、人物の動きを検知することにより、写真等による「なりすまし」を検知するものについて説明する。また、「なりすまし」の検知処理は、図7に示すフローチャートのような全体の処理のなかで、顔画像を記録する前に実行されるものである。さらに、ここでは、「なりすまし」の検知処理を行うために、ユーザに顔を任意または所定の方向(例えば、表示部1の表示画面上において指示する方向)に動かしてもらいその動きをカメラ2により動画あるいは連続画像(複数の画像)で撮影しているものとする。
【0038】
図11は、「なりすまし」の検知処理を詳細に説明するためのフローチャートである。図11に示すように、処理プロセッサ31は、あるユーザを撮影した複数の画像(時系列画像)からそれぞれの画像における顔の特徴点の位置座標を算出する。これにより、処理プロセッサ31は、時系列の各画像から算出された特徴点に基づいて特徴点の座標系列を求める(ステップS111)。なお、この例では、顔の特徴点として、例えば、瞳の中心点、及び鼻孔の中心点の計4点の位置座標が用いられるものとする。
【0039】
上記処理プロセッサ31は、連続する2つの画像間でそれぞれ抽出されている特徴点どうしを対応づける。処理プロセッサ31は、対応づけた2つの画像の特徴点どうしで位置の差(絶対値)を求める(ステップS112)。これにより、処理プロセッサ31は、時系列画像において連続する2つの画像間で特徴点の位置の差を求める。
処理プロセッサ31は、連続する画像間における特徴点の位置の差に基づいて、特徴点の上下の動きまたは左右の動きを検知する(ステップS113)。この検知により特徴点の上下の動きまたは左右の動きが検知できた場合(ステップS114、YES)、処理プロセッサ31は、「なりすまし」で無いと判断する。このような判断により、処理プロセッサ31は、被撮影者が他人になりすましていないことを確認し、「なりすまし」の検知処理を終了する(ステップS115)。
【0040】
また、上記検知処理により特徴点の上下の動きまたは左右の動きが検知できなかった場合(ステップS114、NO)、処理プロセッサ31は、「なりすまし」の可能性が有ると判断する(ステップS116)。このような判断により「なりすまし」の可能性があると判断すると、処理プロセッサ31は、「なりすまし」の可能性がある被撮影者に対する処理を行う。
【0041】
例えば、「なりすまし」と判断した場合の処理としては、以下のような処理が可能である。
(1)「なしすまし」と判断した旨を属性情報に記録する。
(2)監視員や管理センタ等に「なしすまし」の可能性がある旨を通報する(監視装置等により監視員に「なりすまし」の可能性がある旨を報知する)。
(3)入退出管理システムに適用される場合、被撮影者に対して入退室を拒否する。
これらの処理によって「なりすまし」に対する対策を講じることが可能となる。
なお、上記した「なりすまし」の検知処理の例では、瞳及び鼻孔の動きを検知して「なりすまし」を判断するようにしたが、以下のような方法でも、「なしすまし」を判断することが可能である。
(1)目の瞬きを検知する(例えば、瞳を検知することにより瞬きの有無を判断する)。
(2)口の動きを検知する(例えば、唇の端点の動きを検知することにより口の動きの有無を判断する)。
(3)音声(ユーザの声)を入力させ、ユーザの肉声に対応する顔画像を検知する処理と併用する(例えば、音声と顔画像とを同時に記録を行う)。
【0042】
上記のように、撮影した複数の画像からユーザの動きを検知することにより、「なりすまし」であるか否かを判断し、「なりすまし」の可能性があると判断した場合、「なりすまし」に対する処理を行うようにしたものである。これにより、他人の顔写真などを用いた「なりすまし」に対して対策を講じることができ、「なしすまし」を防止あるいは抑制することができる。このように、ユーザに負担をかけることなく、セキュリティを向上させた顔画像記録装置を提供できる。
【0043】
上記のように、第1の実施の形態では、一定の距離をおいて設置されたカメラからユーザのほぼ正面向きの時系列顔画像(複数の顔画像)を取り込み、画像処理によって自動的に最適な画像系列に加工及び編集して、一定品質以上の少なくとも1枚以上の顔の特徴点が抽出できた画像を収集し、当該画像を属性情報とともに記録装置に記録する(履歴を取る)ものである。つまり、この第1の実施の形態では、一定以上の良好な画質の顔画像を取り込んで履歴データとして記録していくことを特徴としている。さらに、一定以上の良好な画質の顔画像であるか否かは、瞳と鼻孔の4個の特徴点を自動的に検出できたか否かによって判断するようになっている。
これにより、ユーザの顔画像を履歴データとして記録しておくことができ、一定のセキュリティを保持ししつつ、ユーザの利便性が良い顔画像記録装置を提供できる。
【0044】
また、第1の実施の形態では、上記のような顔画像の記録機能に加えて、顔画像を記録装置に記録する前に、顔写真などを用いて他人になりすましていないかをチェック(「なりすまし」の検知処理)する機能を有することを特徴とする。
また、「なりすまし」であるか否かを判断する方法は、例えば、カメラで撮影した時系列顔画像から顔の動きを検知(動画像解析)して、顔の動きが検知できれば「なりすまし」でないと判断し、顔の動きが検知できずに「なりすまし」の可能性があると判断する。また、「なりすまし」と判断した場合、「なりすまし」に対する対策として所定の処理を行う。これにより、「なりすまし」に対する適切な処理を行うことができ、顔写真等を用いて他人になりすますことを防止あるいは抑制でき、かつ、セキュリティレベルを向上できる。
【0045】
次に、第2の実施の形態について説明する。
第2の実施の形態は、第1の実施の形態の変形例である。この第2の実施の形態は、図6に示すような構成の顔画像記録装置で実現される。第2の実施の形態では、図6に示す顔画像記録装置の構成において、顔照合用辞書38に予め登録者の顔の特徴量が登録されているものとする。また、第2の実施の形態では、処理プロセッサ31は、プログラムメモリ33に記憶されている制御プログラムにより顔照合部31eとして機能するものとする。
【0046】
図12及び図13は、第2の実施の形態を説明するためのフローチャートである。図12及び図13に示す第2の実施の形態の処理は、図7及び図8で説明した第1の実施の形態の処理に顔画像の照合処理を加えたものである。すなわち、図12及び図13に示す処理のステップS41〜ステップS54は、図7及び図8に示す処理のステップS1〜ステップS14と同様の処理である。このため、ステップS41〜ステップS54の処理については説明を省略する。
上記処理プロセッサ31は、上記ステップS54で、変数jがNであると判断した場合、顔の特徴点が抽出できた画像について顔画像の照合処理を行う(ステップS55)。この顔画像の照合処理については、後で詳細に説明する。この顔画像の照合処理の結果として上記カメラ2で撮影した人物が登録者であると判断した場合(ステップS56、YES)、処理プロセッサ31は、正常終了として処理を終了する。すなわち、顔照合処理によって被撮影者と予め顔照合用辞書38に登録されている人物との照合が成功した場合、処理プロセッサ31は、カメラ2で撮影した被撮影者の画像を記録しない。
【0047】
また、上記カメラ2で撮影した被撮影者と登録者との照合が失敗した場合(ステップS56、NO)、処理プロセッサ31は、上記カメラ2で撮影した画像を記録装置37に記録する(ステップS57)。この際、処理プロセッサ31は、上記カメラ2で撮影した画像とともに、画像の撮影時間あるいは画像を撮影したカメラ2あるいは顔画像記録装置を示すID番号などの属性情報を記録装置37に記録する。このような記録装置37への画像及び属性情報の記録が完了すると、処理プロセッサ31は、表示部1に顔画像の記録が完了したことを示す案内を表示して処理を終了する(ステップS58)。
【0048】
次に、顔画像の照合処理について説明する。
図14は、顔画像の照合処理を説明するためのフローチャートである。まず、処理プロセッサ31は、顔画像の照合処理の対象とするN枚の画像をN枚のモノクロ画像(モノクロ画像系列)に変換する。このモノクロ画像への変換処理は、上記ステップS22で得られたモノクロ画像を用いるようにしても良い。処理プロセッサ31は、N枚のモノクロ画像系列の各画像に対して顔の特徴量(特徴点)を抽出する(ステップS61)。この際、顔の特徴量は、複数個のK次元ベクトルとして求められる。
【0049】
このようにして抽出された顔の特徴量を用いて、処理プロセッサ31は、辞書38への登録処理あるいは辞書38に登録されている顔の特徴量との照合処理を選択的に行う。ここでは、辞書38への登録処理を行うか照合処理を行うかが予め管理者により指定されているものとして説明する。なお、この装置の運用開始から予め設定した期間は登録処理を行い、上記設定された期間以降は照合処理を行うようにしても良し、ユーザからの指示に従って登録処理あるいは照合処理を行うようにしても良い。
【0050】
まず、顔画像の登録処理を行う場合について説明する(ステップS62、登録)。顔画像の登録処理を行う場合、処理プロセッサ31は、抽出した特徴量を個人ID情報などの登録用の属性情報に対応させて辞書(登録リスト)38に登録する(ステップS63)。上記登録用の属性情報としては、個人を特定(識別)するための個人ID情報の他に、登録処理を行った装置を示す情報、あるいは登録処理を行った日時を示す情報などが用いられるものとする。また、個人を特定するための個人ID情報は、処理プロセッサ31が割り当てるようにしても良いし、管理者あるいはユーザ自身が指定するようにして良い。これらの処理により、辞書38への顔の特徴パターンの登録が完了する。
【0051】
次に、照合処理を行う場合について説明する(ステップS62、照合)。照合処理を行う場合、処理プロセッサ31は、ユーザにより個人ID情報が入力されているか否かによって、1対多の照合処理を行うか1対1の照合処理を行うかを判断する(ステップS64)。
例えば、照合処理を1対1(1:1照合)で行う場合、ユーザは、自分自身の個人ID情報を入力部5により入力する。処理プロセッサ31は、ユーザが入力した個人ID情報によって、辞書38に登録されている特徴パターンを検索する。すなわち、処理プロセッサ31は、ユーザが入力した個人ID情報に対応する顔の特徴量を辞書38から検索する。この検索処理により、処理プロセッサ31は、辞書38に登録されている個人ID情報に対応する顔の特徴量を読み出す。個人ID情報に対応する顔の特徴量を読み出すと、処理プロセッサ31は、読み出した特徴量と上記ステップS61で抽出した顔の特徴量との照合度を計算する(ステップS65)。
【0052】
また、照合処理を1対多(1:N照合)で行う場合、処理プロセッサ31は、抽出した顔の特徴量と辞書38に登録されている全ての顔の特徴量とを総当りで照合処理を行う。すなわち、処理プロセッサ31は、抽出した顔の特徴量と辞書38に登録されている全ての顔の特徴量との照合度(類似度)を計算する。処理プロセッサ31は、照合度が最大値となった顔の特徴量に対応する個人ID情報と照合度の最大値とを照合度の算出結果とする(ステップS66)。
このように、1対1あるいは1対多の照合処理により照合度が計算されると、処理プロセッサ31は、算出された照合度と所定の閾値Sとを比較する(ステップS67)。ここで、所定の閾値Sは、顔画像が辞書38に登録されているものと照合されたか否かを判定する基準値である。なお、閾値Sは、運用者等により予め設定されるものである。また、1:1照合の場合の閾値と1:N照合の場合の閾値とは、同じ値であっても良いし、異なる値であっても良い。
上記ステップS65或は上記ステップS66で算出した照合度が所定の閾値未満であれば(ステップS67、NO)、処理プロセッサ31は、カメラ2で撮影した人物と辞書38に登録されている人物との照合が失敗したと判定する。この判定に基づき、処理プロセッサ31は、撮影された人物が登録者でない旨を上記表示部1等により報知する(ステップS68)。
【0053】
また、算出した照合度が所定の閾値以上であれば(ステップS67、YES)、処理プロセッサ31は、カメラ2で撮影した人物と辞書に登録されている人物との照合が成功したと判定する。この判定に基づき、処理プロセッサ31は、照合が成功した旨を示す情報、照合度、あるいは個人ID情報などを表示部1等により報知する。
なお、上記したように照合処理は、撮影した画像から抽出した顔の特徴量と辞書に登録されている顔の特徴量とを照合することにより行われる。このため、登録者の顔の特徴量は、事前に辞書に登録しておくか、上記のような登録処理により辞書に登録しておくものである。
【0054】
また、辞書には、個人の名前、個人ID情報などの属性情報に対応して、顔の特徴量としてのベクトル形式の顔特徴パターンデータが登録される。ここでの照合処理や登録処理は、例えば、上記文献1及び上記文献2の記載されている、顔の特徴量の抽出方法が適用できるものとする。
また、照合処理により本人であるか疑わしい(登録者との照合が失敗した)と判断された場合、属性情報として画像の撮影時刻、画像を撮影したカメラ2あるいは画像を取り込んだ装置を示すID番号、及び顔画像の照合度などを記録するようにする。これにより、効率的な顔画像の記録処理が行える。
【0055】
また、上記した第2の実施の形態については、以下のような種々の変形例が可能である。
(1)第2の実施の形態を顔の照合結果に基づく入退出管理システムに適用する。これにより、顔画像の照合処理の結果に応じたユーザの入退出管理を行うとともに、登録者以外の人物(不審者)の顔画像のみを記録することができ、従来以上のセキュリティを実現できる。
【0056】
(2)照合が不可となった場合に、顔画像記録装置が管理装置等へ通報するようにする。管理装置等へ通報は、例えば、上記無線通信ボード39による管理装置等との通信により実現される。これにより、管理者よる不審者(登録されていない者)への監視が強化でき、セキュリティの向上が望める。
【0057】
(3)照合結果に応じた処理を行わずに、単に、照合度を属性情報に加えて上記記録装置37に記録するようにする。これにより、処理を簡素化できるとともに、後で記録された顔画像を分析することができ、セキュリティを向上させることが可能となる。
【0058】
(4)不審者などの特定の人物の特徴量を事前に辞書に登録しておき、上記特定の人物と判定された場合に、顔画像記録装置が管理装置へ通報するようにする。すなわち、上記第2の実施の形態では、登録されていない人物に対して画像を記録するようにしたが、逆に、辞書に顔の特徴量が登録された不審者などの特定の人物との照合が成功した場合に、画像の記録、あるいは管理装置への通報などの処理を行うようする。この場合、特定の人物の顔の特徴量を辞書に登録しておけばよいので、辞書の記憶容量の節約あるいは照合処理の時間短縮などの効果を得ることができる。
【0059】
上記のように、第2の実施の形態では、画像を記録する処理に顔照合処理を追加し、照合結果に基づき、上記カメラ2で撮影した画像を選択的に上記記録装置に記録するようにしたものである。これにより、上記記録装置への顔画像の記録処理を効率化することができる。これは、後で管理者がチェックした方が良い人物の顔画像のみを履歴情報とともに、上記記録装置へ記録しておくことができるからである。また、顔の照合処理で照合できなかった場合に、管理装置へ通報する機能を併用することでユーザの負担を増加させることなく、セキュリティレベルを上げられる。
【0060】
また、上記第2の実施の形態を照合度に基づく入退出管理システムに適用することで、単に、照合度に応じて入退出を管理するだけの場合よりも、顔画像を記録することで、セキュリティレベルを向上できる。
また、照合処理で算出される照合度に対し、入退出の許可不許可を判定するための第1の閾値を設定しておき、さらに、画像を記録するか否かを判定するための第2の閾値を上記第1の閾値よりも高く設定しておくようにして良い。例えば、照合度が第1の閾値よりも低い場合、入退出管理システムは、入退出を不許可とし、画像を記録する。また、照合度が第1の閾値以上で、かつ、第2の閾値よりも低い場合、入退出管理システムは、入退出を許可し、画像を記録する。また、照合度が第2の閾値以上の場合、入退出管理システムは、画像を記録することなく、入退出を許可する。
【0061】
このようにすれば、照合度の変動が大きい場合でも、安定した入退出を可能にするとともに、照合度の低い画像を記録することができる。これにより、環境変動が大きいため、照合度の大きく変動してしまう場合でも、一定のセキュリティレベルを維持しつつ、柔軟な入退出管理を実現でき、かつ、画像の記録処理を効率化できる。
【0062】
次に、第3の実施の形態について説明する。
この第3の実施の形態では、上記第1の実施の形態あるいは第2の実施の形態の動作によって、顔画像記録装置の記録装置に記録された顔画像に対する検索処理、表示処理、辞書への登録処理、及び辞書の更新処理を行うものである。従って、以下の説明では、記録装置37に顔画像が属性情報とともに記録されているものとする。
図15は、第3の実施の形態に係る顔画像記録装置の概略構成を示す図である。図15に示す第3の実施の形態の顔画像記録装置は、図6に示す第1の実施の形態の顔画像記録装置にLAN42を介して保守用のパーソナルコンピュータ(保守パソコン)43を接続した構成となっている。図15に示す顔画像記録装置の保守パソコン以外の構成は、図6に示す構成と同様であるため、説明を省略する。
【0063】
上記保守パソコン43は、顔画像記録装置のLANボード40によりLAN42を介して通信を行うようになっている。この保守パソコン43は、上記記録装置37に記録している顔画像(履歴データ)を検索したり、検索結果としての顔画像を表示したりするものである。
この保守パソコン43は、顔画像記録装置に常時接続する必要はなく、必要に応じて上記顔画像記録装置にアクセスするようにしても良い。また、保守パソコン43を用いずに、顔画像記録装置本体に後述する保守パソコン43の各構成を設けて、後述する検索処理及び表示処理を行うようにしても良い。また、保守パソコン43は、LAN42を介して接続するようにしたが、直接、上記顔画像記録装置に接続するようにしても良い。
【0064】
また、保守パソコン43は、図15に示すように、制御部51、操作部52、表示部53、LANボード54、およびメモリ部55などを有している。上記制御部51は、保守パソコン43全体の制御を司る。この制御部51は、後述する検索処理及び表示処理を行う機能を有している。上記操作部52は、ユーザによる指示が入力される。上記表示部53は、上記顔画像記録装置の記録装置37に記録されている顔画像などが表示される。上記LANボード54は、LAN42と接続するインターフェースであり、このLANボード54によりLAN42を介して上記顔画像記録装置と通信を行う。上記メモリ部55は、RAM、ROM、HDDなどから構成され、画像データあるいは制御データなどを記憶する。
【0065】
次に、顔画像の検索及び表示処理(人物チェック)について説明する。
図16は、顔画像の検索処理を説明するためのフローチャートである。
まず、オペレータ(管理者)は、保守パソコン43の操作部52にて、検索対象とする顔画像の検索条件(記録した期間、記録した装置を示すID番号、あるいは個人ID情報など)を指定する(ステップS71)。この検索条件の指定動作は、保守パソコン43のオペレータが表示部53に表示される案内に従って、対話形式で検索条件を入力することにより行われる。
検索条件が指定されると、制御部51は、上記LAN42を介して上記顔画像記録装置へ指定された検索条件を送信する。すると、上記顔画像記録装置の処理プロセッサ31は、記録装置37にアクセスし、検索条件を満たす顔画像を検索する(ステップS72)。上記検索条件を満たす顔画像が検索されると、処理プロセッサ31は、上記属性情報に基づいて検索された顔画像に対する照合用の辞書38が既に作成されているか否かを判断する(ステップS73)。なお、属性情報に照合用の辞書38の有無を示す情報が含まれていない場合、処理プロセッサ31は、上記オペレータによる指示に基づいて照合用の辞書38の有無を判断する。
【0066】
上記照合用の辞書38が作成されていない場合(ステップS73、NO)、上記処理プロセッサ31は、上記検索条件に合致する顔画像を記録装置37から順番に読み出して上記保守パソコン43へ送る。保守パソコン43では、顔画像記録装置から送られる顔画像を順番に上記表示部53に表示させる。この際、上記表示部53には、顔画像に対する個人ID情報を入力する旨をオペレータに案内する画面が表示される。この案内に基づいて、オペレータは、顔画像に対応する個人ID情報を上記操作部52により入力する。この入力された個人ID情報は、LAN42を介して顔画像記録装置へ送信される(ステップS74)。
【0067】
各顔画像に対して入力された個人ID情報を保守パソコン43から受取ると、処理プロセッサ31は、同一の個人ID情報となる顔画像を集めて、それらの画像(同一の画像系列)から顔の特徴量を算出する。これによって算出された同一の画像系列に対する顔の特徴量は、当該個人ID情報に対応する顔の特徴量として照合用辞書38に登録される(ステップS75)。このような顔の特徴量の算出処理と照合用辞書38への登録処理とが検索された全ての画像系列に対して行われると、照合用辞書38への顔の特徴量の登録を終了する(ステップS76)。
また、上記照合用辞書38が既に作成されている場合(ステップS73、YES)、上記処理プロセッサ31は、検索された各顔画像と予め照合用辞書38に登録されている顔の特徴量との照合度を算出する(ステップS77)。ただし、顔画像の記録時に顔画像の照合処理を行っており、かつ、照合処理による照合度の算出結果が属性情報に含まれている場合、処理プロセッサ31は、上記記録装置37に記録されている属性情報から照合度を読み出す。
【0068】
さらに、処理プロセッサ31は、保守パソコン43に照合度の閾値の上限(上限値)と下限(下限値)とを指定する旨を保守パソコン43に要求する。保守パソコン43の制御部51では、保守パソコン43のオペレータに対して照合度の閾値の上限と下限とを入力する旨の案内を上記表示部53に表示する。このような案内に従って、オペレータは、対話的に照合度の閾値の上限と下限とを指定する(ステップS78)。
これらの閾値の上限と下限とは、オペレータがチェックの対象とする照合度の範囲を指定するものである。つまり、照合度が上限値以下、かつ、下限値以上のものがチェック対象となる。これは、照合度が上限値以上であれば、上記顔画像と一致したと見なしてチェック対象とはせず、また、照合度が下限値以下であれば、上記顔画像とは異なると判定してチェック対象とから除外するものである。
これにより、オペレータが指定する閾値の上限値と下限値との間の照合度の顔画像を対象としてオペレータが顔画像をチェックするようになる。また、この際、上限値を+無限大とすれば、下限値以上のものが全てチェック対象となり、下限値を−無限大(0)と指定すれば、上限値以下のものが全てチェック対象となる。
【0069】
オペレータが照合度の閾値の上限と下限とを指定すると、保守パソコン43の制御部51は、指定された閾値の上限と下限とを顔画像記録装置へ送信する。この照合度の閾値の上限と下限とを受信すると、顔画像記録装置の処理プロセッサ31は、上記ステップS77で算出した照合度が指定された閾値の上限と下限との間にあるか否かを判断する。
この判断に基づいて処理プロセッサ31は、上限値以上で、かつ、下限値以下の照合度の顔画像を順番に保守パソコン43に送信する。保守パソコン43では、顔画像記録装置から送られる顔画像を順番に上記表示部53に表示させる(ステップS79)。
これにより、オペレータがチェックする対象の顔画像が表示部53に表示されるようになる。この表示部53に表示される画像に対しては、オペレータによる操作とオペレータの操作に応じて表示部53に表示される案内によって対話的に種々の処理が実行される(ステップS80)。
【0070】
図17は、上記ステップS80における処理の例として、特定の個人ID情報に対する照合処理の処理結果としての照合度を時間経過に対応させて表示させた例である。すなわち、上記ステップS71で、オペレータが検索条件として個人ID情報を指定すると、指定された個人ID情報に対応する照合用の辞書38が既に作成されていれば、検索条件に合致する顔画像と照合用の辞書38との照合処理が行われる。
この際、保守パソコン43は、検索対象とする照合度の閾値の上限と下限とを指定する。これにより、処理プロセッサ31は、照合処理の結果として得られた照合度が上限と下限との間になった顔画像を属性情報とともに保守パソコン43へ送信する。これにより、保守パソコン43では、指定した範囲の照合度を有する全ての顔画像と、それらの顔画像の記録時間を含む属性情報とを得る。これらの情報により保守パソコン43では、特定の個人における照合度と記録時間とを対応させたグラフが表示できる。
【0071】
例えば、照合度は、0〜100までの整数値をとるものとし、閾値の上限を100(+無限大)とし、下限を80とすると、照合処理の結果としては、指定された個人ID情報に対応する全ての顔画像のうち照合度が80以上の顔画像に対する照合度が得られる。さらに、顔画像に対応する属性情報に記録した時間(日時)が記録されていれば、保守パソコン43の表示部53には、図17に示すような時間経過に対する照合度の推移を表したグラフを表示(作成)できる。
このようなグラフによれば、いつ頃、照合度が落ちたか、照合度がいつ頃回復したかが一目で判別できる。例えば、ユーザが髪型を替えた場合、あるいは、体調が崩れた場合、照合度の低下が予想される。これにより、図17に示すようなグラフによってユーザの状態を判断できる。すなわち、特定のユーザに対する照合度の変化が確認できるので、健康状態の推移、あるいは生活習慣の変化などのユーザにおきた変化を判定したり、予測したりすることができる。
【0072】
次に、指定された検索条件の顔画像による辞書38の更新処理について説明する。
図18は、指定された検索条件の顔画像による辞書38の更新処理の動作例を説明するためのフローチャートである。図18に示すフローチャートでは、図16に示すフローチャートの動作で検索された顔画像に基づいて、辞書38の更新を行う動作を示している。すなわち、図18に示すステップS91〜ステップS99の動作は、図16に示すステップS71〜ステップS79の動作と同様である。また、図18に示すステップS100〜ステップS102は、図16に示すステップS80における処理の一例として辞書38の更新処理を行うものである。
【0073】
従って、ステップS91〜ステップS99についての説明を省略し、ステップS100〜ステップS102の動作について説明する。
上記ステップS99では、上記ステップS79と同様に、保守パソコン43の表示部53にオペレータが指定した範囲(閾値の上限と下限との間)の照合度の顔画像を順番に表示する。さらに、制御部51は、オペレータの操作に基づいて照合度の最大値(最大類似度)を与える個人ID情報を表示部53に表示する。
【0074】
この表示によりオペレータは、最大類似度を与える顔画像の個人ID情報が正しいか否かを判断する。この判断により個人ID情報が正しくないと判断した場合、オペレータは、制御部51の制御により表示部53に表示される案内に従って対話的に正しい個人ID情報を入力する(ステップS100)。また、個人ID情報が正しいとオペレータが判断した場合、オペレータの操作に基づいて、制御部51は、上記表示部53に表示した個人ID情報に対応する顔の特徴量の更新処理(辞書38の更新処理)へ進む。これらの動作によって最大類似度を与える顔画像の正しい個人ID情報がオペレータにより決定される。
【0075】
正しい個人ID情報が決定されると、制御部51は、当該顔画像に対する正しい個人ID情報を顔画像記録装置へ送信する。保守パソコン43から正しい個人ID情報が通知されると、処理プロセッサ31は、最大の照合度(最大類似度)を与える顔画像から照合用の辞書38に登録するための顔の特徴量を算出する。顔の特徴量を算出すると、処理プロセッサ31は、算出した顔の特徴量を保守パソコン43から通知された個人ID情報に対応させて辞書38に記録する(ステップS101)。
【0076】
ここで、上記個人ID情報に対応する顔の特徴量が既に辞書38に存在している場合、処理プロセッサ31は、上記個人ID情報に対応する顔の特徴量を書き換えることにより辞書38の更新処理を行う。また、上記個人ID情報に対応する顔の特徴量が辞書38に存在しない場合、処理プロセッサ31は、上記個人ID情報に対応する顔の特徴量を新たに辞書38に書き加えることにより辞書38の更新(新規登録)処理を行う。
辞書38の更新処理が完了すると(ステップS102)、処理プロセッサ31は、辞書38の更新が完了した旨を保守パソコン43へ通知する。この通知を受けた保守パソコン43の制御部51は、辞書38の更新が完了した旨を表示部53に表示し、処理を終了する。このように、保守パソコン43でのオペレータの操作のみで記録装置37に蓄積(記録)されている顔画像による辞書38の更新処理が可能となる。
【0077】
上記のように、第3の実施の形態では、オペレータが指定する検索条件に基づいて記録装置に記録されている顔画像を検索することができる。従って、所望の検索条件に一致する顔画像のみを記録装置から読み出したり、読み出した顔画像による種々の処理が可能となる。例えば、個人ID情報を指定して個人ID情報に対応する顔画像を検索し、この顔画像に対する記録時間などの属性情報をもとに順番に顔画像を表示させることができる。
【0078】
また、オペレータが指定する検索条件に基づいて検索された顔画像に対しては、以下のような動作が可能である。
(1)既に顔照合用の辞書が用意されている場合、1対多の照合を行いながら最大照合度が低い顔画像(検索された顔画像)のみをチェックする。これにより、照合度の低い不審者と思われる人物を効率良くチェックできる。また、事前に顔照合用の辞書が用意されていない場合、記録時間などの属性情報をもとに順番に顔画像を検索して表示し、ユーザに対して対話的に個人ID情報を指定させ、顔照合用の辞書への登録あるいは修正を行う。これにより、顔照合用の辞書への登録あるいは更新用に、別途、顔画像を撮影する必要がなく、利便性が向上する。
【0079】
(2)記録装置に記録されている顔画像の属性情報に個人ID情報が含まれている場合、個人ID情報を検索情報に指定し、同一の個人ID情報の顔画像を検索して個人ごとの照合用の辞書の新規作成または更新を行う。これにより、照合用の辞書に登録されている顔パターンを新規登録あるいは更新を別途行う必要がなくなる。
(3)記録装置に記録されている顔画像の属性情報に個人ID情報が含まれている場合、個人ID情報を検索情報に指定し、同一の個人ID情報の顔画像を検索して検索された顔画像の属性情報に基づいて、個人ごとの顔画像の記録状況をグラフなどにより表示する。これにより、個人ごとの顔画像の記録状況(利用状況)をオペレータが管理しやすい。また、この第3の実施の形態が入退出管理システムに適用される場合、個人ごとの入退出動作をグラフ表示などでトレースすることができる。
【0080】
(4)記録装置に記録されている顔画像の属性情報に個人ID情報が含まれている場合、個人ID情報を検索情報に指定し、同一の個人ID情報の顔画像を検索して検索された顔画像の属性情報に基づいて、個人ごとの照合度の変化を示すグラフを表示する。これにより、個人ごとに照合度の経時変化などがトレースでき、さらに、顔の特徴量の変動情報によって、ユーザの健康状態の推移などのユーザの変化を推測できる。
(5)不審者などの顔画像を新たに提示し、その人物に高い照合度をもつ顔画像を記録装置に記録されている顔画像から検索して属性情報とともに表示する。これにより、特定の人物のみを顔画像を用いて検索することができ、不審者の絞り込み、不審者の行動の分析などを行うことが容易にできる。
上記のように、第3の実施の形態では、通常の運用として上記第1、第2の実施の形態のように顔画像を履歴データとして記録装置に記録しながら、さらに、管理者が指定可能な検索条件に一致する顔画像のみを記録装置から検索したり、表示させたりすることを特徴とする。
【0081】
すなわち、第3の実施の形態では、照合用の顔の特徴量が辞書に登録されている場合、1対多の照合を行いながら「不審者」(最大照合度が低い人)のみを効率良くチェックできることを特徴としている。この特徴によれば、ユーザの利便性を損なうこなく、管理者が「不審者」のみを効率良くチェックすることができ、セキュリティのレベルを向上できる。
また、第3の実施の形態では、第3の実施の形態では、通常の運用として上記第1、第2の実施の形態のように顔画像を履歴データとして記録装置に記録しながら、さらに、上記記録装置に記録された顔画像を用いて照合用の辞書に顔の特徴量を新規登録したり、ユーザの顔の特徴量の経時変化に対応するための照合用辞書に登録されている顔の特徴量の更新を行うことを特徴としている。
【0082】
すなわち、辞書に顔の特徴量が登録されていない場合、顔画像を記録した時間などの属性情報をもとに順番に顔画像を検索表示させて、管理者が対話的に個人ID情報を教示することにより、照合用の顔の特徴量の新規登録を行う。これにより、照合用の顔の特徴量の新規登録を効率良く、かつ、ユーザの負担にならずに行うことができる。
また、すでに顔の特徴量が辞書に登録されている場合、同一の個人ID情報の顔画像を検索して集め、各個人ごとの顔照合用の顔の特徴量を算出し、辞書に登録されている顔の特徴パターンを更新する。これにより、ユーザに負担をかけずに照合結果による辞書の修正が可能となり、照合用の顔の顔の特徴量の更新を効率良く行える。
【0083】
次に、第4の実施の形態について説明する。
第4の実施の形態は、上記第1、第2、第3の実施の形態で説明した処理に顔照合以外の他の本人確認方法を組み合わせるものである。この第4の実施の形態では、上記第1、第2、第3の実施の形態で説明した顔画像記録装置に、IDカードによる本人確認方法あるいは顔照合以外の他のバイオメトリクスによる本人確認方法を組み合わせる(併用する)場合について説明する。
なお、ここでは、この第4の実施の形態のように、顔画像の記録とともに、他の本人確認方法により本人確認を行うものをスタンドアロン・組合せタイプと呼ぶ。また、顔画像は、顔画像以外の本人確認方法にて不審者と判定された場合にのみ、記録装置で記録するようにしても良いし、顔画像以外の本人確認方法の確認結果に係らずに全ての顔画像を確認のために記録装置で記録するようにしても良い。
【0084】
図19は、顔画像記録装置61にカードリーダ62を接続した場合の構成例を示す図である。なお、顔画像記録装置61の構成は、図6或は図15に示す構成と同様であるため、詳細な説明を省略する。
図19に示す構成例では、図2に示すようなテンキーなどの入力部5を有するユーザインターフェース部10の顔画像記録装置61に適用される。この場合、上記入力部5では、IDカードを読み出す際に用いられる暗証番号の入力が行われる。このような構成の顔画像記録装置61では、まず、ユーザがカメラ2により顔の画像を撮影されるとともに、ユーザにより入力部5にて暗証番号が入力される。さらに、IDカードが接触式の記録媒体であれば、ユーザは、IDカードをカードリーダ62に挿入する。また、IDカードが無線カードで、かつ、カードリーダ62が無線カードリーダである場合、ユーザは、IDカードをカードリーダ62に挿入する必要がなく、暗証番号の入力のみで良い。
【0085】
処理プロセッサ31は、まず、ユーザの所持するIDカードに記録されている暗証番号をカードリーダ62により読取る。カードリーダ62がIDカードに記録されている暗証番号を読取ると、処理プロセッサ31は、ユーザにより入力された暗証番号がカードリーダが読み出した暗証番号と一致するか否かによって本人であるか否かを確認する。この際、暗証番号が不一致となり、本人であることが確認できなかった場合、不審者と判断する。不審者と判断した場合は、上記「なりすまし」と判定された場合と同様に、所定の動作を行う。
【0086】
また、暗証番号が一致して本人であることを確認した場合、処理プロセッサ31は、カードリーダ62によりIDカードから個人ID情報を読み出す。これ以降の処理は、図7、図8あるいは図12、図13に示すフローチャートに示す動作と同様な動作が行われる。なお、顔照合を行う場合は、個人ID情報に対応する顔の特徴パターンを辞書38から読み出して、カメラ2で撮影した画像から得られる顔の特徴パターンとの1対1の照合を行う。但し、不審者などの特定の人物をチェックする場合は、1対多の顔照合となる。
【0087】
図20は、顔画像記録装置64に顔照合以外のバイオメトリクス認証装置65を接続した場合の構成例を示す図である。ここで、バイオメトリクス認証装置65は、バイオメトリクス(生体情報)による本人確認として、指紋、声紋、サイン、眼の網膜や虹彩(アイリス)、あるいは手の甲の静脈パターンなどを用いた照合処理を行う。なお、図20に示す顔画像記録装置64の構成は、図6或は図15に示す構成と同様であるため、詳細な説明を省略する。
【0088】
図20に示す構成例は、図1あるいは図2に示すようなユーザインターフェース部10の顔画像記録装置に適用される。このような構成の顔画像記録装置64では、まず、ユーザがカメラ2により顔の画像を撮影されるとともに、バイオメトリクス認証装置65にてユーザの生体情報が読取られる。バイオメトリクス認証装置65では、読取ったユーザの生体情報と予め登録されている生体情報との照合を行うことにより個人を特定し、個人ID情報を読み出す。このような動作により個人ID情報を読み出した後は、図7、図8あるいは図12、図13に示すフローチャートに示す動作と同様な動作が行われる。
【0089】
上記のように、この第4の実施の形態では、上記第1、第2あるいは第3の実施の形態の顔画像記録装置と他の本人確認方法と組合わせたことを特徴とする。これにより、セキュリティレベルを高めることが可能である。
また、第4の実施の形態では、IDカードとバイオメトリクス認証装置といったように、多重に本人認証を組み合わせる(2個以上の本人認証と顔画像の記録)ことも可能である。この場合、本人認証を多重に組み合わせることにより、必要に応じてセキュリティレベルを高めることが可能である。
【0090】
次に、第5の実施の形態について説明する。
この第5の実施の形態では、顔画像記録装置をネットワークに接続した顔画像記録システムについて説明する。
図21は、第5の実施の形態としての顔画像記録システムの構成例を示す。この顔画像記録システムは、図21に示すように、複数の顔画像記録装置(71a、71b、…、71n)と管理サーバ80とがネットワーク72を介して接続されている。
各顔画像記録装置71a、71b、…、71nは、第1〜第4の実施の形態の顔画像記録装置と同様な機能を持つ装置である。また、各顔画像記録装置71a、71b、…、71nの構成は、図6或は図15に示す構成と同様であるため、詳細な説明を省略する。上記ネットワーク72は、LANまたはインターネットなどのネットワークである。
【0091】
上記管理サーバ80は、パーソナルコンピュータなどで構成される。上記管理サーバ80は、例えば、各顔画像記録装置(71a、71b、…71n)で撮影した画像を監視する監視センタなどに設置されるものである。上記管理サーバ80は、顔画像の記録、検索、表示等の処理が可能である。上記管理サーバ80は、例えば、上記管理サーバ80は、制御部81、表示部82、操作部83、検索部84、通信部85、顔画像履歴データベース(DB)86、及び照合用辞書87などを有している。
【0092】
上記制御部81は、管理サーバ80全体の制御を司る。上記表示部82は、表示装置により構成される。上記表示部82は、各顔画像記録装置(71a、71b、…71n)のカメラ2で撮影した画像などを表示する。上記操作部83は、キーボード或はマウス等の入力装置により構成される。上記操作部83は、管理サーバ80を操作する監視員により各顔画像記録装置(71a、71b、…71n)の動作モードの指示などが入力される。上記検索部84は、指定された検索条件と一致する画像を顔画像履歴DB86に記録されている画像からを検索するものである。上記通信部85は、上記ネットワーク72に接続するためのネットワークインターフェースである。上記顔画像履歴DB86は、上記記録装置37と同様な構成である。この顔画像履歴DB86は、各顔画像記録装置(71a、71b、…71n)からネットワークを介して送信された画像を属性情報とともに記録する。上記照合用辞書87は、上記辞書38と同様な構成である。上記照合用辞書87は、人物の顔の特徴量などが記録される。
【0093】
上記のように構成される顔画像記録システムでは、監視センタ等に設置された管理サーバ80で複数箇所に設置された顔画像記録装置を集中管理するようになっている。つまり、遠隔地の監視センタに設置された管理サーバ80は、複数箇所に設置された各顔画像記録装置を集中して監視できるようになっている。
この顔画像記録システムの各顔画像記録装置(71a、71b、…71n)は、上記第1、第2の実施の形態のように上記カメラ2で撮影した顔画像を顔画像記録装置内の記録装置に記録する代わりに、ネットワーク72を介して顔画像を管理サーバ80へ伝送する。上記管理サーバ80は、各顔画像記録装置(71a、71b、…71n)からの顔画像を表示部82に表示して集中的にモニタリングする。これにより、遠隔地の監視員は、管理サーバ80により複数の顔画像記録装置で撮影した画像を監視できる。なお、各顔画像記録装置(71a、71b、…71n)は、顔画像を管理サーバ80に送信するとともに、記録装置37にも記録するようにしても良い。これにより、各顔画像記録装置(71a、71b、…71n)でも顔画像の履歴を確認することが可能となる。
【0094】
さらに、上記管理サーバ80は、各顔画像記録装置(71a、71b、…71n)から伝送された顔画像を必要に応じて顔画像履歴DB86に記録する。例えば、各顔画像記録装置(71a、71b、…71n)から顔画像とともに当該人物が不審者である旨が通知された場合、管理サーバ80は、顔画像を顔画像履歴DB86に記録する。また、各顔画像記録装置(71a、71b、…71n)から顔画像とともに当該人物が不審者である旨が通知された場合、上記管理サーバ80は、監視員の操作に応じて顔画像を顔画像履歴DB86に記録するようにしても良い。
【0095】
さらに、各顔画像記録装置(71a、71b、…71n)が種々の動作モードを有している場合、上記管理サーバ80は、各顔画像記録装置(71a、71b、…71n)の動作モードを切り換えられるようにしても良い。例えば、各顔画像記録装置(71a、71b、…71n)が、システム動作モードと端末動作モードとを有しているものとする。これらの種々の動作モードは、監視員の操作に基づく上記管理サーバ80からの指示により切り変える。
【0096】
上記システム動作モードは、管理サーバ80が顔画像記録システム内の各顔画像記録装置を集中して管理する動作モードである。上記システム動作モードは、例えば、管理サーバ73が設置された監視センタに監視員が居る場合などに設定される。つまり、上記システム動作モードは、各顔画像記録装置(71a、71b、…71n)で撮影した顔画像を管理サーバ80で集中管理する場合に設定される。このシステム動作モードは、管理サーバ80が各顔画像記録装置(71a、71b、…71n)にシステム動作モードを指示することにより実現される。
【0097】
上記端末動作モードは、各顔画像記録装置(71a、71b、…71n)がそれぞれ単独で動作し、各顔画像記録装置(71a、71b、…71n)が顔画像をそれぞれ記録する動作モードである。この端末動作モードは、例えば、管理サーバ80が設置された監視センタに監視員が居ない場合などに設定される。つまり、上記端末動作モードは、管理サーバ80が各顔画像記録装置(71a、71b、…71n)で撮影した顔画像を集中管理せずに、各顔画像記録装置(71a、71b、…71n)が画像を記録する場合に設定される。上記端末動作モードは、管理サーバ80が各顔画像記録装置(71a、71b、…71n)へ端末動作モードを指示することにより実行される。
【0098】
また、上記管理サーバ80は、各顔画像記録装置(71a、71b、…71n)に、端末動作モード或はシステム動作モードをそれぞれ指示するようにしても良い。例えば、監視員が特定の顔画像記録装置だけを集中監視したい場合、管理サーバ80は、監視員の操作に応じて集中監視すべき顔画像記録装置にシステム動作モードを指示し、それ以外の顔画像記録装置に端末動作モードを指示する。これにより、監視員が集中して監視したい顔画像記録装置で撮影した画像のみを監視することが可能となる。
【0099】
また、各顔画像記録装置(71a、71b、…71n)は、第2の実施の形態と同様に、カメラ2にて撮影した画像に対して、1:1又は1:Nの照合処理が行われる。このような各顔画像記録装置(71a、71b、…71n)の照合処理で照合が失敗した場合、あるいは、なりすましを検知した場合、顔画像記録装置(71a、71b、…71n)は、上記カメラ2にて撮影した画像を上記管理サーバ80へ送信する。これにより、上記管理サーバ80は、各顔画像記録装置(71a、71b、…71n)で顔照合が失敗した画像、あるいは、なりすましが検知された画像を上記顔画像履歴DB86に記録することができる。
【0100】
なお、各顔画像記録装置では、図6或は図15に示すような各顔画像記録装置内の設けられた照合用辞書38を用いて照合処理を行っても良いし、管理サーバ73に接続されている照合用辞書87を用いて照合処理を行っても良い。
また、上記顔画像記録システムは、入退出管理システムに適用できる。例えば、各顔画像記録装置に入退出制御部が接続される場合、各顔画像記録装置は、入退出制御部により人物の入退出を制御できる。このように各顔画像記録装置が構成される場合、上記管理サーバ80が、各顔画像記録装置に入退出の許可を指示する。
【0101】
すなわち、上記管理サーバ80には、上記システム動作モードの各顔画像記録装置のカメラ2で撮影した画像が表示部82に表示される。上記管理サーバ80の監視員は、表示部82に表示された画像を見て当該人物の入退出の許可不許可を判断する。この判断に基づいて監視員が操作部83で当該人物の入退出の許可不許可を指示すると、上記管理サーバ80は、監視員の指示に応じて各顔画像記録装置に当該人物の入退出の許可不許可を指示する。この管理サーバ80からの指示に従って、各顔画像記録装置は、上記入退出制御部により入退出を制御する。これにより、第5の実施の形態の顔画像記録システムを入退出管理システムに適用することが可能となる。
【0102】
上記のように、第5の実施の形態では、複数箇所に設置された複数の顔画像記録装置と管理サーバとをネットワークで接続し、各顔画像記録装置の動作を上記管理サーバで集中管理(監視)するようにする。すなわち、複数の顔画像記録装置で撮影した画像を管理サーバでのモニタリングすることにより、監視員が集中監視でき、複数の顔画像記録装置を効率良く管理できる。
また、履歴データとしての顔画像を個々の顔画像記録装置で分散的に蓄積(記録)する動作モードと、各顔画像記録装置からの顔画像を管理サーバに集めて、1箇所で管理及び蓄積(記録)する動作モードとの切り換え手段を管理サーバに設ける。これにより、システムの運用状況に応じた各顔画像記録装置の管理が可能となり、管理者側の利便性が向上する。
【0103】
次に、第6の実施の形態について説明する。
この第6の実施の形態は、ネットワークに接続された情報端末(パソコン、携帯電話等)及び管理サーバなどで構成される情報管理システムである。
図22は、この第6の実施の形態の情報管理システムの構成例を概略的に示すものである。すなわち、図22に示すように、この情報管理システムは、情報端末(90a、90b、…、90n)と管理サーバ100とがネットワーク96を介して接続される。また、各情報端末(90a、90b、…、90n)は、例えば、パーソナルコンピュータ(PC)あるいは携帯電話などの情報端末などで構成される。各情報端末(90a、90b、…、90n)は、上記第1、第2、第3の実施の形態で説明した顔画像記録装置と同様な、人物の顔の撮影処理、顔の特徴量の抽出処理、画像に関する属性情報の生成処理、画像に対する画像処理、或はなりすまし検知処理などを行う機能を有している。上記ネットワーク96は、LANあるいはインターネット等のネットワークである。
【0104】
各情報端末(90a、90b、…、90n)は、カメラ(91a、91b、…、91n)、制御部(92a、92b、…、92n)、記憶部(93a、93b、…、93n)、通信部(94a、94b、…、94n)、表示部(95a、95b、…、95n)、及び操作部(96a、96b、…、96n)等を有している。上記カメラ(91a、91b、…、91n)は、デジタルカメラ等により構成される。上記カメラ(91a、91b、…、91n)は、上記第1、第2の実施の形態で説明した顔画像記録装置のカメラ2と同様に、人物の顔を複数撮影する。なお、上記カメラ(91a、91b、…91n)は、上記情報端末(90a、90b、…90n)の本体に、無線通信あるいは有線で接続するようにしても良い。
【0105】
上記制御部(92a、92b、…、92n)は、情報端末全体の制御を司る。また、上記制御部(92a、92b、…、92n)は、上記第1、第2の実施の形態で説明した顔画像記録装置の処理プロセッサ31と同様な機能を有する。各機能は、上記制御部(92a、92b、…、92n)が上記記憶部(93a、93b、…、93n)に記憶されている制御プログラムに基づいて動作することにより実現される。例えば、上記制御部(92a、92b、…、92n)は、特徴量抽出部、情報生成部、なりすまし検知部、或は画像処理部等の機能が実現可能である。
上記通信部(94a、94b、…、94n)は、ネットワーク96に接続するネットワークインターフェースで構成される。また、各情報端末(90a、90b、…90n)と管理サーバ100との通信方法は無線であっても有線であってもよい。
【0106】
上記管理サーバ100は、図21に示す管理サーバ80と同様な機能を有するため、図21に示す管理サーバ80と同様な部分について同一符号を付し、説明を省略する。なお、上記顔画像記録DB106及び照合用辞書107は、上記記録装置37及び上記辞書38と同様に、管理サーバ100内に設けられるようにしても良いし、ネットワーク96を介して接続可能な外部装置に設けるようにしても良い。
また、上記管理サーバ100に上記顔画像記録装置の処理部と同様な機能を実現するアプリケーションプログラムを組み込めば、上記情報端末が上記顔画像記録装置のユーザインターフェース部10と同様に機能し、上記管理サーバ100が上記顔画像記録装置の処理部及び図15に示す保守パソコン43と同様に機能するシステムを実現できる。
【0107】
このように構成される情報管理システムでは、LANあるいはインターネットなどのネットワークで接続された世界(サイバースペース)において様々な行為や活動(商取引、契約事項等への同意など)を行う際に、本人の承認を示す情報として顔画像を記録することができる。
【0108】
例えば、上記のような情報管理システムでは、次のような機能をユーザが情報端末を操作するだけで実現可能となる。
(1)電子メイルや電子文書などを作成または発信した際に、作成者あるいは発信者の顔画像を記録に残す機能が実現できる。この機能により、電子メイルや電子文書などの作成者あるいは発信者を顔画像で証明することができ、不審な者からの不正な電子メイルや電子文書を抑制し、電子メイルや電子文書などの安全なやり取りが可能となる。
【0109】
(2)決裁や承認などの行為を行った際に、決裁あるいは承認などの行為を行った人物の顔画像を記録に残す機能が実現できる。この機能により、決裁あるいは承認などの行為を行った人物の顔画像を証拠として残すことができ、サイバースペースにおける行為や活動のセキュリティを向上できる。
【0110】
また、図23は、図22に示す情報管理システムの変形例を示すものである。図23に示す情報管理システムでは、図22に示すネットワーク97に、認証用のサーバ(認証サーバ)110を追加した構成となっている。上記認証サーバ110は、顔照合によりユーザを認証する認証機関として機能する。このような構成された情報管理システムでは、上記情報端末(90a、90b、…、90n)で撮影された顔画像に基づいて認証サーバ110がユーザの認証処理を行うようになっている。すなわち、上記認証サーバ110では、情報管理システム上の各情報端末(90a、90b、…、90n)で撮影された顔画像による認証処理を一括して行うようになっている。上記認証サーバ110による認証処理の結果は、管理サーバ100へ送るようにしても良いし、当該画像を撮影した各情報端末(90a、90b、…、90n)へ返すようにしても良い。
【0111】
すなわち、図23に示す情報管理システムの構成では、認証サーバが各情報端末で撮影された顔画像の認証処理を行う。これにより、各情報端末で撮影された顔画像の正当性を上記認証サーバが保証するようになっている。従って、各情報端末で撮影された顔画像の認証処理を効率良く、かつ、確実に行うことができる。また、認証処理を管理サーバとは独立した装置で行うようにしたため、この情報管理システムの導入コストを低く抑え、かつ、メンテナンス性能の向上が期待できる。
【0112】
図24は、図22或は図23に示す情報端末90aの一例を示す図である。図24に示す情報端末90aは、ノート型のパーソナルコンピュータ(PC)にデジタルカメラ等のカメラ91aを接続した構成となっている。上記カメラ91aは、上記ノート型PCの本体にUSBケーブル等により接続される。上記ノート型PCは、制御部92a、記憶部93a、通信部94a、表示部95a、及び操作部96a等を有している。上記ノート型PCには、予めワードプロセッサのアプリケーション及び顔画像の抽出処理を行うアプリケーション等がインストールされているものとする。
【0113】
図25は、ユーザの顔画像を撮影する際に表示部95aに表示される案内画面の例を示す図である。図25に示す案内画面の例では、表示画面上に3つの表示領域121、122、123が設けられている。
上記表示領域121には、処理内容、或は処理目的の案内が表示される。例えば、上記表示領域121には、処理内容の案内として「顔画像を登録してください」という案内が表示される。
【0114】
また、上記表示領域122には、上記カメラ91aにて撮影している画像がリアルタイムで表示される。これにより、適切な顔の位置をユーザにわかりやすく案内することが可能となる。この表示領域122は、矩形に限定されるものではなく、楕円など種々の形を適用することができる。
また、上記表示領域123には、ユーザに対する動作案内が表示される。例えば、上記表示領域123には、ユーザに対する動作案内として「正面向きの顔がこの窓枠内に入るように顔を動かして下さい」という案内が表示される。
【0115】
次に、文書にユーザの顔画像を添付する処理について説明する。
図26は、ユーザが作成した文書(文書データ)に顔画像を添付する処理を説明するためのフローチャートである。
まず、ユーザは、上記情報端末90aにて文書を作成する(ステップS121)。文書が完成すると、ユーザは、文書の作成完了ボタン(図示しない)を押下する(ステップS122)。文書の作成完了ボタンが押下されると、制御部92aは、ユーザの顔画像の撮影するために、図25に示すようなユーザに対する案内を表示部95aに表示する(ステップS123)。このような案内に応じて、ユーザは、意識的に顔をカメラに向ける動作を行う(ステップS124)。
上記制御部92aは、上記カメラ91aにて撮影した画像からユーザの顔画像を抽出する処理を行う(ステップS125)。なお、顔画像の抽出処理は、上記ステップS21〜S25と同様であるため、詳細な説明を省略する。
【0116】
上記顔画像の抽出処理により顔画像が検出されなかった場合(ステップS126、YES)、制御部92aは、表示部95aに顔画像が検出されなかった旨を表示し、上記ステップS123へ戻る。すなわち、顔画像が検出できなかった場合、制御部92aは、顔の撮影及び顔画像の抽出処理を再度実行する。
また、上記顔画像の抽出処理により顔画像が検出された場合(ステップS126、NO)、制御部92aは、なりすまし検知処理を行う(ステップS127)。なお、なりすまし検知処理は、上記ステップS111〜S116と同様であるため、詳細な説明を省略する。
上記なりすまし検知処理によりなりすましが検知された場合(ステップS128、YES)、制御部92aは、処理を強制終了する。これにより、他人になりすました顔画像の登録を防止できる。また、上記なりすまし検知処理により、なりすましが検知されなかった場合(ステップS128、NO)、制御部92aは、当該顔画像の登録が可能であると判断する。
【0117】
顔画像の登録が可能であると判断すると、制御部92aは、上記抽出処理により抽出した顔画像のデータ(顔画像データ)に対する画像処理を行う(ステップS129)。この画像処理では、例えば、データ圧縮処理、符号化処理、及び暗号化処理などの処理が行われる。上記データ圧縮処理、符号化処理、及び暗号化処理は、従来の技術を採用すればよい。
また、暗号化処理における暗号化の強度(暗号強度)は、ユーザに要求されるセキュリティレベルに応じて選択される。例えば、顔画像データに対する暗号化が必要ない場合、上記画像処理では、暗号化処理を行わずに、データ圧縮処理及び符号化処理等の処理を行う。
顔画像に対する画像処理が完了すると、制御部92aは、画像処理した顔画像データをユーザが作成した文書データに添付する(ステップS130)。ここで、顔画像を添付した文書データを保存する場合、制御部92aは、顔画像データを添付した文書データを記憶部93aに保存する(ステップS131)。また、当該文書を電子メールとして他の情報端末へ送信する場合、制御部92aは、通信部94aにより顔画像データを添付した文書データを、ユーザが指定する宛先に送信する(ステップS131)。
【0118】
上記のように、文書データに文書を作成したユーザの顔画像を添付して記録するようにした。これにより、文書の作成者を顔画像にて確認することができ、文書データのセキュリティが向上する。例えば、電子メールに発信者の顔画像を添付して送信する。これにより、当該電子メールを受信した受信者は、発信者を顔画像で確認することが可能となる。
【0119】
次に、申請書に対する決裁或は承認を行う処理について説明する。
図27は、申請書に対する決裁或は承認を行う処理を説明するためのフローチャートである。ここでは、情報端末90bを操作するあるユーザ(申請者)が、情報端末90aを操作する他のユーザ(権限者)に決裁或は承認を受ける場合の動作例を説明する。また、申請書の内容は、申請データとして権限者に送られるものとする。
まず、申請者は、自身の情報端末90bで申請データを作成する(ステップS141)。申請者は、作成した申請データを権限者宛に送信する。これにより、申請データは、申請者が操作する情報端末90bから権限者が操作する情報端末90aに送信される(ステップS142)。
上記情報端末90aでは、申請データを受信すると(ステップS143)、申請データを表示部95aに表示する(ステップS144)。表示部95aに申請データが表示されると、権限者は、表示された申請内容に対する決裁或は承認を判断する。この判断結果は、権限者により操作部96aにて入力される(ステップS145)。
【0120】
例えば、申請内容を不可と判断した場合(ステップS146、NO)、権限者は、操作部96aにより申請内容を不可とする旨を入力する。すると、制御部92aは、申請内容に対する差し戻し処理を実行する(ステップS147)。差し戻し処理は、申請者に対して申請内容が権限者に不可と判断された旨を通知する処理である。例えば、差し戻し処理は、申請データに申請内容の不可を示す情報を付与して申請者に返信する。また、差し戻し処理として、後述するステップS148の処理を行って、申請内容の不可を示す情報に権限者者の顔画像を添付して申請者に通知するようにしても良い。
【0121】
また、申請内容を許可すると判断した場合(ステップS146、YES)、権限者は、操作部96aにより申請内容を許可する旨を入力する。すると、制御部92aは、権限者の顔画像の抽出処理及び抽出した顔画像に対するなりすまし検知処理を実行する(ステップS148)。なお、上記ステップS148の顔画像の抽出処理及びなりすまし検知処理は、上記ステップS123〜S128と同様であるため、詳細な説明は省略する。
上記顔画像の抽出処理及びなりすまし検知処理により権限者の顔画像が決定すると、制御部92aは、上記ステップS129と同様に、顔画像に対する画像処理を実行する(ステップS149)。顔画像に対する画像処理が完了すると、上記ステップS130及びS131と同様に、申請データに画像処理された顔画像データを添付し(ステップS150)、記憶部93aに保存する(ステップS151)。また、顔画像データを添付した申請データは、通信部94aにより申請者に返信するようにしても良い。
【0122】
上記のように、申請データを決裁或は承認を行う権限者に送信し、権限者が申請データに対する決裁或は承認を行う。権限者に許可すると判断された申請データに対しては、決裁或は承認を行った権限者の顔画像を添付する。これにより、申請内容に対して決裁或は承認を行った権限者の顔画像が記録でき、セキュリティが向上する。
また、上記ステップS121〜S131、或は上記ステップS141〜S151の動作を図23に示すような構成の情報管理システムに適用する場合、抽出した顔画像と辞書114に登録されている顔画像との照合を認証サーバ110が行うようにしても良い。この場合、文書或は申請データに、顔画像データを添付するとともに、認証サーバ110で認証されたユーザを示す情報が添付できる。これにより、セキュリティレベルを更に向上させることが可能となる。
【0123】
また、顔画像データが添付された文書或は申請内容の正当性を確認する場合、管理サーバ100の表示部102に、当該文書或は申請データに添付された顔画像を表示させる。これにより、しかるべき資格をもった管理者が、管理サーバ100の表示部102に表示された顔画像を確認して文書或は申請内容の正当性を判定できる。
また、文書或は申請内容の正当性を確認する場合、当該文書或は申請データに添付された顔画像を読出し、管理サーバ100の照合用辞書87或は認証サーバ110の辞書114に登録されている顔画像との照合を行って、文書或は申請データに添付された顔画像のユーザを確認するようにしても良い。
【0124】
上記のように、第6の実施の形態では、パソコンあるいは携帯端末などのカメラ付き情報端末を利用して、インターネットあるいはLANなどのネットワーク(サイバースペース)世界において様々な行為や活動を行う際に、実行者の顔画像を記録しておくようにしたものである。これにより、実世界における「印鑑を押す」行為と同等な利便性をもつものがサイバースペースにおいても実現でき、かつ、ユーザの利便性が良い情報管理システムを提供できる。
【0125】
なお、本発明は、各実施の形態の要旨を逸脱しない範囲で、各実施の形態を変形したり、各実施の形態を組み合わせて実現することが可能となっている。
以上詳述したように、上記第1〜第6の実施の形態によれば、利用される用途に応じたセキュリティレベルを持ちつつ、装置の導入負担ができるだけ少なく、かつ、ユーザが使い易い利便性の高い本人認証を実現する顔画像記録装置、顔画像記録システム、顔画像記録方法、及び情報管理方法を提供できる。
【図面の簡単な説明】
【0126】
【図1】この発明の各実施の形態に係る顔画像記録装置の外観構成の例を示す図。
【図2】各実施の形態に係る顔画像記録装置の外観構成の例を示す図。
【図3】各実施の形態に係る顔画像記録装置の設置例を示す図。
【図4】各実施の形態に係る顔画像記録装置の設置例を示す図。
【図5】各実施の形態に係る顔画像記録装置を入退室システムに適用する場合の構成例を示す図。
【図6】各実施の形態に係る顔画像記録装置の内部構成例を示す図。
【図7】第1の実施の形態の全体的な動作を説明するためのフローチャート。
【図8】第1の実施の形態の全体的な動作を説明するためのフローチャート。
【図9】顔の特徴点の抽出処理を説明するためのフローチャート。
【図10】記録装置に記録する画像に対する画像処理を説明するためのフローチャート。
【図11】なりすまし検知処理の例を説明するためのフローチャート
【図12】第2の実施の形態の全体的な動作を説明するためのフローチャート。
【図13】第2の実施の形態の全体的な動作を説明するためのフローチャート。
【図14】顔画像の照合処理を説明するためのフローチャート。
【図15】第3の実施の形態に係る顔画像記録装置及び保守パソコンの概略構成を示す図。
【図16】顔画像の検索処理を説明するためのフローチャート。
【図17】特定の個人における照合度の経時変化を示す図。
【図18】照合用辞書の更新処理の動作例を説明するためのフローチャート。
【図19】第4の実施の形態として、顔画像記録装置にカードリーダを接続した場合の構成例を示す図。
【図20】顔画像記録装置にバイオメトリクス認証装置を接続した場合の構成例を示す図。
【図21】第5の実施の形態としての顔画像記録システムの構成例を示す。
【図22】第6の実施の形態の情報管理システムの構成例を概略的に示す図。
【図23】図22の情報管理システムの変形例を概略的に示す図。
【図24】図22、図23に示す情報端末の例を示す図。
【図25】情報端末の表示例を示す図。
【図26】文書に顔画像を添付する処理のフローチャート。
【図27】申請データに顔画像を添付する処理のフローチャート。
【符号の説明】
【0127】
1、82、95a…表示部(報知手段)、2、91a、91b…カメラ(撮影手段)、5…入力部(入力手段)、31…処理プロセッサ(処理手段、更新手段)、31a…特徴量抽出部(特徴量抽出手段)、31b…情報生成部(生成手段)、31c…なりすまし検知部(なりすまし検知手段)、31d…画像処理部(画像処理手段)、31e…顔照合部(照合手段)、31g…検索部(検索手段)、37…記録装置(記憶手段)、38、87、114…照合用辞書(記憶手段)、43…保守パソコン(検索手段)、52…操作部(入力手段)、53…表示部(表示手段)、62…カードリーダ(入力手段)、65…バイオメトリクス認証装置(認証手段)、71a、71b、…顔画像記録装置(端末装置)、80、100…管理サーバ(管理装置)、86、107…顔画像履歴DB(記憶手段)、90a、90b…情報端末、110…認証サーバ(認証装置)
【技術分野】
【0001】
この発明は、例えば、施設内での入退出管理に適用され、ユーザの顔画像を履歴データとして記録する顔画像記録装置、情報管理システム、顔画像記録方法、及び情報管理方法に関する。
【背景技術】
【0002】
従来、
従来、特定の部屋などの入退出管理では、入退出を行おうとする人物が入退出の可能な人物であるか否かを確認する必要がある。例えば、特定の部屋への入退出を管理する入退出管理システムでは、種々の確認方法で人物を確認することにより入退出が可能な人物であるか否か判断するようになっている。また、電子商取引では、アクセスした人物が正当な資格を有した人物であるか否かを確認する必要がある。例えば、電子商取引に用いられる情報管理システムでは、種々の確認方法で人物を認識し、人物を確認している。
このため、入退出管理システム、或は情報管理システムでは、できるだけ第3者が介在しないで機械(自動)的に人物の確認を行えるものが望まれている。
【0003】
従来、人物の確認方法は、大きく次の3つに分かれる。
(1)所持物による人物の確認方法
所持物による人物の確認方法は、例えば、パスポート、免許証などに代表される身分証明書で本人を確認する方法である。また、例えば、磁気カード、無線カード、あるいはICカード等の記憶媒体により人物を確認する方法も所有物による人物の確認方法に含まれる。また、出入り口のドア、金庫の扉、車のエンジンなどの鍵等も、広義に捕らえれば、所有物による人物の確認方法に含まれる。
【0004】
(2)記憶情報による人物の確認方法(PIN;Personal Identification Number)
例えば、パスワード、暗証番号などの情報を用いた人物の確認方法は、記憶情報による人物の確認方法に属する。この記憶情報による人物の確認方法は、所持物による人物の確認方法と組み合わせて利用されることが多い。例えば、銀行などの金融機関では、クレジットカードと利用者が記憶している4桁の暗証番号とを組み合わして人物の確認を行っている。
【0005】
(3)身体的特徴による人物の確認方法
この身体的特徴による人物の確認方法の代表は、指紋照合である。その他にも、網膜や虹彩、掌形、声紋、サイン(筆跡)、顔などの身体的特徴(バイオメトリクス)による人物の確認方法がある。指紋、声紋、及びサインによる人物の確認方法は、従来から犯罪捜査などで用いられている。これらの身体的特徴による人物の確認方法では、サンプルデータと照合することにより人物を確認するようになっている。また、身体的特徴による人物の確認方法は、必ずしも機械的に行うものではない。例えば、クレジットカード等では、カードに記載されたサインと当該人物が記載したサインとを人の目視により照合して人物を確認している。このように、身体的特徴による人物の確認方法は、(1)の所有物による本人確認方法または(2)の記憶情報による本人確認方法と組み合わせて利用されることが多い。
【0006】
しかしながら、上記した従来の人物の確認方法では、それぞれ以下のような欠点があるために完全とは言えないことがある。
(1)の所有物による人物の確認方法の欠点としては、人物を確認するための所有物を、落としたり、盗まれたり、偽変造されたりする可能性があることがあげられる。また、(2)の記憶情報による人物の確認方法の欠点としては、本人が暗証番号等の記憶情報を忘れてしまったり、他人に推測されたり、総当り的に攻撃されるなどの危険性があることがあげられる。また、(3)の身体的特徴情報による人物の確認方法では、身体的特徴の経時変動などの影響が避けられないため、照合時のエラーを完全に無くすことができないという欠点を有している。
【0007】
また、入退出管理では、入退出した人物を示す情報を残すことが必要となる場合がある。また、電子商取引では、本人が承認したことを示す情報を残すことが必要となる場合がある。例えば、日本では、本人の承認を示す行為として、自分の名前等の印鑑を押す行為が慣習的に行われている。このように、比較的軽いセキュリティレベルが必要な用途では、本人が承認したことを示す情報を残すことにより一定のセキュリティが維持できる。
このような比較的軽いセキュリティレベルが必要な用途に従来の本人認証方法を適用すると、装置導入のためのコストが高くなったり、操作性が悪いという問題がある。このため、一定のセキュリティレベルを持ちながら、導入コストが低く、かつ、ユーザの操作性が良いものが要望されている。
【特許文献1】特開2001−67459号公報
【発明の開示】
【発明が解決しようとする課題】
【0008】
上記したように、用途に応じたセキュリティレベルを持ちつつ、装置の導入負担が少なく、利便性の高い本人認証を実現できるものが要望されているもので、利用される用途に応じたセキュリティレベルを持ちつつ、装置の導入負担ができるだけ少なく、かつ、ユーザが使い易く、利便性の高い本人認証を実現する顔画像記録装置、顔画像記録システム、情報管理システム、顔画像記録方法、及び情報管理方法を提供することを目的とする。
【課題を解決するための手段】
【0009】
この発明の顔画像記録装置は、人物の顔画像を記録するものにおいて、顔画像を記録する必要のない人物の顔の特徴量が予め登録されている第1の記憶手段と、1人の人物の顔を複数撮影する撮影手段と、この撮影手段で撮影した各画像からそれぞれ顔の特徴量を抽出する特徴量抽出手段と、この特徴量抽出手段により抽出された顔の特徴量と上記第1の記憶手段に登録されている顔の特徴量との照合を行う照合手段と、この照合手段による照合が失敗した場合に、上記撮影手段で撮影した画像のうち上記特徴量抽出手段により顔の特徴量が抽出された画像を記録する第2の記憶手段とを有する。
【発明の効果】
【0010】
この発明によれば、利用される用途に応じたセキュリティレベルを持ちつつ、装置の導入負担ができるだけ少なく、かつ、ユーザが使い易く、利便性の高い本人認証を実現する顔画像記録装置、顔画像記録システム、情報管理システム、顔画像記録方法、及び情報管理方法を提供できる。
【発明を実施するための最良の形態】
【0011】
以下、この発明の実施の形態について図面を参照して説明する。
図1、及び図2は、顔画像記録装置のユーザインターフェース部10の外観構成例を示す正面図である。図1に示す顔画像記録装置の構成例では、ユーザインターフェース部10に、表示部1、カメラ2、線光源3、及び線光源4が設けられている。また、図2に示す顔画像記録装置の構成例では、ユーザインターフェース部10に、表示部1、カメラ2、線光源3、及び線光源4に加えて、入力部5が設けられている。
【0012】
上記表示部1は、上記カメラ2が撮影中の画像、あるいは利用者に対する案内などを表示する。上記カメラ2は、動画像あるいは連続画像を撮影するものである。このカメラ2は、表示部1の下方に設けられ、表示部1を目視している利用者の少なくとも顔を含む領域の顔画像を撮像する顔に対して正面よりやや下方側から撮影するようになっている。上記線光源3は、カメラ2の正面に位置する利用者の顔に対して横方向から光を照射するものである。上記線光源4は、カメラ2の正面に位置する利用者の顔に対して斜め下方向から光を照射するものである。なお、上記線光源3及び線光源4などの照明は、顔画像記録装置の設置場所の照明環境が良好な場合(画像入力するのに良好な照明環境である場合)、不要である。また、上記入力部5は、テンキーなどで構成される。この入力部5は、例えば、利用者が個人を特定するための個人ID情報などを入力するものである。
【0013】
図3、図4は、顔画像記録装置の設置例を示す側面図である。
図3は、壁掛けタイプのユーザインターフェース部10を有する顔画像記録装置の設置例を示す側面図である。図3では、図1あるいは図2に示すように構成されたユーザインターフェース部10が壁に掛けて設置されている。このユーザインターフェース部10の正面に立つ利用者Hの顔は、下方からカメラ2によって撮影されるようになっている。
図4は、据え置きタイプのユーザインターフェース部10を有する顔画像記録装置の設置例を示す側面図である。図4では、ユーザインターフェース部10の正面に立った利用者Hに対して斜め下方にカメラ2が設置される。これにより、利用者Hは、カメラ2を上から覗き込むようになっている。また、図4に示す設置例では、図1あるいは図2に示すように構成される顔画像記録装置のユーザインターフェース部10がケーブル11で接続される処理部12に接続されている。
【0014】
図5は、ドア23、24などの複数の箇所にユーザインターフェース部10が設けられる場合の構成例を示すブロック図である。図5に示す構成例では、ドア23及びドア24に設置されたユーザインターフェース部10が処理部21に接続されている。また、上記処理部21には、保守用のパーソナルコンピュータ(保守パソコン)22が通信ケーブルを介して接続されている。なお、保守パソコンが顔画像記録装置に接続される構成については、後述する第3の実施の形態で詳細に説明する。
【0015】
図6は、顔画像記録装置の制御系統としての全体構成を示す図である。
図6に示すように、顔画像記録装置の処理部30(12、21)は、処理プロセッサ31、ワークメモリ32、プログラムメモリ33、画像メモリ34、キャプチャボード35、記録装置インターフェース36、記録装置37、照合用辞書38、無線通信ボード39、LANボード40、及びバス41から構成されている。
上記処理プロセッサ31は、顔画像記録装置全体の制御を行う。また、上記処理プロセッサ31は、図1あるいは図2に示すユーザインターフェース部10に設けられる表示部1、カメラ2、線光源3、及び線光源4等が接続され、これらの制御を行うようになっている。また、図2に示すように、ユーザインターフェース部10に入力部5が設けられる場合、入力部5は、処理プロセッサ31に接続される。上記入力部5で入力された情報は処理プロセッサ31に供給されるようになっている。
【0016】
また、上記処理プロセッサ31は、特徴量抽出部31a、情報生成部31b、なりすまし検知部31c、画像処理部31d、及び顔照合部31eとしての機能を有している。これらの各機能は、上記プログラムメモリ33に記憶されている制御用のプログラムを上記処理プロセッサ31が実行することにより実現される。また、処理プロセッサ31は、時間を計時するタイマ31fを有しているものとする。
上記特徴量抽出部31aは、上記カメラ2で撮影した画像から顔の特徴量を抽出する処理を行う。上記情報生成部31bは、上記カメラ2で撮影した画像に関する属性情報(撮影時間等)を生成するものである。上記なりすまし検知部31cは、上記カメラ2で撮影した画像が他人になりすましたことを検知するものである。このなりすまし検知部31cによるなりすまし検知処理については、後で詳細に説明する。
【0017】
上記画像処理部31dは、上記カメラ2で撮影した画像に対する画像処理を行う。この画像処理部31dでは、例えば、上記カメラ2で撮影した画像に対して、顔領域を切り出す処理、画像濃度の補正処理、正規化処理、あるいは画像圧縮処理などの処理を行う。上記顔照合部31eは、上記特徴量抽出部31aにより抽出された顔の特徴量と上記顔照合用辞書38に記憶されている顔の特徴量との照合処理を行う。
上記ワークメモリ32は、処理中の画像などを一時的に記憶するメモリである。上記プログラムメモリ33は、制御用のプログラムなどが記憶されるメモリである。上記画像メモリ34は、画像データを記憶するメモリである。この画像メモリ34は、例えば、カメラ2で撮影され、上記キャプチャボード35を介して処理部30内に供給された顔画像を記憶する。上記キャプチャボード35は、上記カメラ2で撮影された画像を処理部30内に取り込む際のインターフェースである。
【0018】
上記記録装置インターフェース36は、上記記録装置37及び上記顔照合用辞書(辞書)38に対するデータの読出し、或は、書込みを行うものである。上記記録装置37は、顔画像を記録するものである。上記顔照合用辞書(辞書)38は、照合用の顔画像あるいは顔の特徴パターン(特徴量)が登録される記録装置である。
なお、上記記録装置37及び顔照合用辞書38は、処理部30の外に設けられるようにしても良い。また、上記記録装置37及び顔照合用辞書38は、通信用のインターフェースを介して通信可能なネットワーク上の他の外部機器に設けられるようにしても良い。
【0019】
上記無線通信ボード39は、パーソナルコンピュータなどの監視員用の監視装置との通信を行うインターフェースである。なお、無線通信ボードの代りに上記管理装置と接続される有線での通信を行う通信ボードを用いても良い。上記LANボード40は、LAN42との接続する場合のインターフェースである。上記バス41は、画像データなどを送受信するデータバスである。このバス41は、上記処理プロセッサ31、画像メモリ34、キャプチャボード35、記録装置インターフェース36、無線通信ボード39、及びLANボード40に接続されている。
ここで、上記カメラ2は、通常の産業用カラーカメラ(CCDまたはCMOSイメージセンサを用いたビデオカメラ)を使用するものとする。この場合、上記キャプチャーボード35は、ビデオ信号(アナログデータ)をディジタルデータに変換し(A/D変換)、画像メモリ34に送る(バッファリング)。これにより、上記処理プロセッサ31は、上記画像メモリ34に蓄積された画像データを上記ワークメモリ32に順次取り込んで種々の処理を行う。
【0020】
なお、上記記録装置37に記録する顔画像がモノクロであっても良い場合、上記カメラ2はモノクロ画像を撮影するカメラであっても良い。また、上記カメラ2がUSB(ユニバーサル・シリアル・バス)インタフェースを備えている場合、上記キャプチャボード35には、USBインタフェースを持たせればよい。この場合、A/D変換回路が不要となる。また、上記カメラ2がIEEE1394などの他のディジタルインタフェースを備えている場合も、同様に、上記キャプチャボード35には、対応するインタフェースをもたせればよい。
また、図5に示すように、ユーザインターフェース部10がドアに設けられる場合、処理部30には、上記ドアの開閉あるいはドアの施錠を開閉するドア制御機構が設けられる。このドア制御機構は、上記処理プロセッサ31に接続される。これにより、図6に示すような顔画像記録装置をドアの開閉を制御する入退出管理システムに適用することが可能となる。
【0021】
以下、上記のように構成される顔画像記録装置を用いた第1、第2の実施の形態について説明する。
まず、第1の実施の形態について説明する。
この第1の実施の形態では、上記のように構成された顔画像記録装置によってユーザの顔画像を履歴データとして蓄積しておくものである。なお、この第1の実施の形態では、顔画像記録装置が単独で設置可能である。このような顔画像記録装置は、顔画像を記録するという単機能なタイプであるためスタンドアロン・単機能タイプを呼ぶこととする。
【0022】
図7、及び図8は、第1の実施の形態として、顔画像の記録処理の全体の流れを説明するためのフローチャートである。
まず、カメラ2が利用者の顔を撮影すると、キャプチャボード35は、カメラ2からのカラーの顔画像(デジタルデータ)を順次画像メモリ34に蓄積(バッファリング)する。処理プロセッサ31は、画像メモリ34にバッファリングされた各画像を順次ワークメモリ32上に読み出す。処理プロセッサ31は、上記ワークメモリ32に読み出した画像に対して特徴量の抽出処理を行う。この特徴量の抽出処理により顔画像が抽出できた場合に、上記処理プロセッサ31は、顔画像の記録処理を行う。
【0023】
すなわち、処理プロセッサ31は、まず、上記カメラ2で人物の顔を連続的に複数撮影する。上記カメラ2で撮影される複数のカラー画像は、順次画像メモリ34に蓄積される(ステップS1)。この画像メモリ34に蓄積された複数のカラー画像は、順次ワークメモリ32に読み出される。上記ワークメモリ32に画像を読み出す際、上記処理プロセッサ31は、ワークメモリ32の初期化を行う(ステップS2)。ワークメモリ32の初期化は、処理プロセッサ31がカウンタi,jの変数を0にセットし、記録バッファ(ワークメモリ上の記録領域)を空にすることにより行われる。ワークメモリ32が初期化されると、処理プロセッサ31は、画像メモリ34から画像を読み出して、ワークメモリ32に取込む(記憶)する(ステップS3)。この際、処理プロセッサ31は、画像メモリ34から画像を読み出すごとに、カウンタiを+1(i=i+1)する(ステップS4)。
【0024】
ワークメモリ32に画像を取り込むと、処理プロセッサ31は、ワークメモリ32に取り込んだ画像に対して特徴量の抽出処理を行う(ステップS5)。この特徴量の抽出処理については、後で詳細に説明する。上記特徴量の抽出処理により顔の特徴量が抽出できなかった場合(ステップS6、NO)、処理プロセッサ31は、変数iの値が所定の値Mよりも大きいか否かを判断する(ステップS7)。
上記判断により変数iの値が所定の値M以下であると判断すると(ステップS7、NO)、処理プロセッサ31は、上記ステップS3へ進み、次の画像をワークメモリ32に取り込む。また、変数iの値が所定の値Mよりも大きいと判断した場合(ステップS7、YES)、処理プロセッサ31は、顔画像の記録処理を打ち切る。顔画像の記録処理を打ち切ると、処理プロセッサ31は、ユーザインターフェース部10の表示部1あるいは図示しないスピーカなどにより顔画像の記録が失敗したことを利用者に報知する(ステップS8)。
【0025】
ここで、上記変数iと比較される所定の値Mは、特徴量が抽出できなった顔画像の最大数を指定するものである。すなわち、上記カメラ2で撮影された複数の画像に対して所定の値M以上、連続して特徴量が抽出できなかった場合、顔の特徴量の抽出処理が打ち切られる。また、顔画像の記録処理を打ち切る基準は、上記カメラ2で撮影した画像の数ではなく、撮影した画像に対する処理時間を指定するようにしても良い。この場合、処理プロセッサは、上記カメラ2が当該人物に対する画像の撮影を開始してから所定時間内に顔の特徴量が抽出できた画像が無ければ処理を打ち切るようにする。
【0026】
また、上記ステップS5で、顔の特徴量の抽出が成功した場合(ステップS6、YES)、処理プロセッサ31は、当該画像に対する画像処理を行う(ステップS9)。この画像処理についは、後で詳細に説明する。上記画像処理が施された画像は、記録装置37に記録される。この際、処理プロセッサ31は、カウンタjを+1(j=j+1)する(ステップS10)。
上記カウンタjを+1すると、処理プロセッサ31は、ワークメモリ32上に画像処理された画像を記憶する(ステップS11)。処理プロセッサ31は、画像処理された画像から「なりすまし」チェックを行う(ステップS12)。この「なりすまし」チェックは、後で詳細に説明するが、写真などを用いて他人になりましていないかをチェックするものである。
この「なりすまし」チェックによってなりましでないと判断した場合(ステップS13、NO)、処理プロセッサ31は、変数jの値が所定の値Nと等しいか否かを判断する(ステップS14)。この判断により変数jの値が所定の値Nと等しいと判断しなかった場合(ステップS14、NO)、処理プロセッサ31は、上記ステップS3へ戻り、画像メモリ34に記憶されている次の画像に対する処理を行う。
【0027】
ここで、上記変数jと比較される所定の値Nは、記録すべき画像の数を示す。つまり、上記所定の値Nは、記録用の画像とする特徴量が検出された画像の数を指定するものである。また、特徴量が検出された画像の数ではなく、上記カメラ2による画像の入力処理時間を指定するようにしても良い。すなわち、処理プロセッサ31は、上記カメラ2で当該人物に対する撮影を開始してから所定時間内に、少なくとも1つの画像から顔の特徴量が検出された際に当該画像を記録する。
上記判断により変数jの値が所定の値Nと等しいと判断した場合(ステップS14、YES)、処理プロセッサ31は、画像に関する属性情報とともに、ワークメモリ32上の画像を記録装置37に記録する(ステップS15)。上記属性情報は、画像を撮影したカメラ2あるいは顔画像記録装置を示すID番号、あるいは画像を撮影した時間などを示す情報である。また、上記入力部5等により個人ID情報が入力されている場合、属性情報には、個人ID情報が含まれる。
【0028】
なお、上記属性情報の内容は、上記のように、当該画像を取り込んだ装置を示すID番号、当該画像の撮影時間、あるいは個人ID情報に限定されるものではない。上記属性情報は、記録される画像に対応する種々の数値やテキスト情報などの情報であり、用途に応じて内容が決定されるものである。
上記処理プロセッサ31は、上記記録装置37に画像及び属性情報を記録すると、表示部1に記録完了の旨を表示することにより顔画像の記録が完了したことを利用者に通知する(ステップS16)。
【0029】
次に、上記ステップS5の顔の特徴量(特徴点)の抽出処理について詳細に説明する。
図9は、顔の特徴量の抽出処理を説明するためのフローチャートである。
上記カメラ2では、1枚のみの画像(静止画)ではなく、一定時間間隔で複数の連続した画像、あるいは動画像を撮影する。これは、画像の入力条件(撮影条件)の変動を考慮して、複数の画像から良好な画質の画像を取り出すためである。上記カメラ2で撮影された画像は、キャプチャボード35に送信される。上記キャプチャーボード35は、カメラ2からの複数の画像を画像メモリ34に順次バッファリングする。この画像メモリ34にバッファリングされた画像は、順次、ワークメモリ32上に読み出されて処理プロセッサ31の制御による処理が施される(ステップS21)。
【0030】
特徴量の抽出処理において、処理プロセッサ31は、まず、ワークメモリ32上の顔画像(ディジタル化されたカラー画像)をモノクロ画像に変換する(ステップS22)。このモノクロ画像に対しては、明るさ(濃淡)情報に基づいて特徴量が抽出される。なお、上記カメラ2がモノクロ画像を撮影する場合、上記ステップS22は省略される。
すなわち、処理プロセッサ31は、変換処理により得られたモノクロ画像に対して顔領域の候補を探索する(ステップS23)。顔領域の候補が検出されると、処理プロセッサ31は、顔領域内における顔の特徴量として、ほぼ、円形領域とみなせる瞳(黒目)領域及び鼻孔領域を検出する(ステップS24)。これにより瞳(黒目)領域及び鼻孔領域が検出されると、処理プロセッサ31は、瞳(黒目)領域の中心位置、及び鼻孔領域の中心位置を特徴量とする(ステップS25)。従って、顔の特徴量は、瞳(黒目)領域の中心位置、及び鼻孔領域の中心位置などの特徴点の位置座標として検出される。
【0031】
なお、ここでは、瞳及び鼻孔を特徴点として用いるようにしたが、唇の端点などの他の特徴点を用いるようにしても良いし、瞳だけを特徴点として用いるようにしても良い。
また、上記ステップS23〜25の処理は、「「動画像を用いた顔認識システム」、信学技法PRMU97−50、1997年6月;山口修、福井和広、前田賢一著」(文献1)、あるいは、「「形状抽出とパターン照合の組合せによる顔特徴点抽出」、信学論D−II、Vol.J−80−D−II、No8、1997年8月;福井、山口著」(文献2)に記載されている方法を用いることができる。
【0032】
次に、上記ステップS9における画像処理について説明する。
図10は、顔の特徴量の抽出された画像に対する画像処理を説明するためのフローチャートである。上記ステップS5における顔の特徴点の抽出処理により顔の特徴量が抽出された場合、処理プロセッサ31は、当該画像を上記記録装置37に記録するための画像処理を行う。ここでは、画像処理として、顔領域の切り出し処理、正規化処理、濃度補正処理、及び圧縮処理を行うものとする。これらの処理は、プログラムメモリ33に記憶されている制御プログラムに基づいて処理プロセッサ31が実行するものとする。
【0033】
まず、顔の特徴量の抽出処理により瞳及び鼻孔の中心位置の座標情報が特徴点として得られたとする。すると、処理プロセッサ31は、当該画像を記録装置37への記録すべき画像と判断し、当該画像に対する画像処理を行う。
すなわち、顔の特徴点の位置を示す座標情報が得られると(ステップS31)、処理プロセッサ31は、モノクロ画像に変換する前のもとのカラー画像に対して顔領域の切り出し処理を行う(ステップS32)。この顔領域の切り出し処理では、上記処理プロセッサ31が顔の特徴点の座標情報に基づいて上記カメラ2で撮影された画像から顔領域を切り出す。
【0034】
顔領域を切り出すと、処理プロセッサ31は、切り出した顔領域を所定の記録用の画像サイズに変換するための正規化処理を行う(ステップS33)。この正規化処理により顔領域として切り出された画像データは、所定の画像サイズに変換される。
顔領域の画像を正規化すると、処理プロセッサ31は、正規化された顔画像に対する濃度補正処理を行う(ステップS34)。これにより所定の画像サイズに変換された顔領域の画像データは、濃度が補正される。この濃度が補正された画像は、記録用の顔画像となる。
【0035】
記録用の顔画像を生成すると、処理プロセッサ31は、記録用の顔画像を圧縮する圧縮処理を行う(ステップS35)。この顔画像の圧縮処理は、記録装置37の容量を節約して効率的に顔画像を記録するためのものである。この顔画像の圧縮処理では、例えば、国際標準のカラー静止画像の圧縮方式であるJPEG方式が用いられる。なお、JPEG方式以外の圧縮方式を用いて圧縮処理を行っても良い。このような顔画像の圧縮処理により顔画像を所定の形式で圧縮すると、処理プロセッサ31は、圧縮した顔画像を上記記録装置37に記録する(ステップS36)。
【0036】
なお、上記のような画像処理の処理内容は、用途に応じて設定される。例えば、上記したような、顔領域の切り出し処理、大きさの正規化処理、濃度補正処理、画像データの圧縮処理などの処理は、必要に応じて選択的に採用されるものである。例えば、最も単純な処理としては、所定時間内に少なくとも1枚の画像から瞳が検知できた場合に、当該画像を撮影した状態のまま上記記録装置37に記録すれば良い。
なお、上記例では、記録後の画像の見易さのため、カラー画像を記録用に用いたが、モノクロ画像を記録するようにしても良い。モノクロ画像を記録するようにした場合、カラーカメラを用いる必要はないので、上記カメラ2をモノクロカメラで構成するようにしても良い。
【0037】
次に、上記ステップS12における「なりすまし」の検知処理について説明する。
この「なりすまし」の検知処理では、例えば、他人の顔写真等を用いて他人になりすましていないかどうかを判断する処理である。「なりすまし」を検知する方法としては、種々の方法がある。ここでは、人物の動きを検知することにより、写真等による「なりすまし」を検知するものについて説明する。また、「なりすまし」の検知処理は、図7に示すフローチャートのような全体の処理のなかで、顔画像を記録する前に実行されるものである。さらに、ここでは、「なりすまし」の検知処理を行うために、ユーザに顔を任意または所定の方向(例えば、表示部1の表示画面上において指示する方向)に動かしてもらいその動きをカメラ2により動画あるいは連続画像(複数の画像)で撮影しているものとする。
【0038】
図11は、「なりすまし」の検知処理を詳細に説明するためのフローチャートである。図11に示すように、処理プロセッサ31は、あるユーザを撮影した複数の画像(時系列画像)からそれぞれの画像における顔の特徴点の位置座標を算出する。これにより、処理プロセッサ31は、時系列の各画像から算出された特徴点に基づいて特徴点の座標系列を求める(ステップS111)。なお、この例では、顔の特徴点として、例えば、瞳の中心点、及び鼻孔の中心点の計4点の位置座標が用いられるものとする。
【0039】
上記処理プロセッサ31は、連続する2つの画像間でそれぞれ抽出されている特徴点どうしを対応づける。処理プロセッサ31は、対応づけた2つの画像の特徴点どうしで位置の差(絶対値)を求める(ステップS112)。これにより、処理プロセッサ31は、時系列画像において連続する2つの画像間で特徴点の位置の差を求める。
処理プロセッサ31は、連続する画像間における特徴点の位置の差に基づいて、特徴点の上下の動きまたは左右の動きを検知する(ステップS113)。この検知により特徴点の上下の動きまたは左右の動きが検知できた場合(ステップS114、YES)、処理プロセッサ31は、「なりすまし」で無いと判断する。このような判断により、処理プロセッサ31は、被撮影者が他人になりすましていないことを確認し、「なりすまし」の検知処理を終了する(ステップS115)。
【0040】
また、上記検知処理により特徴点の上下の動きまたは左右の動きが検知できなかった場合(ステップS114、NO)、処理プロセッサ31は、「なりすまし」の可能性が有ると判断する(ステップS116)。このような判断により「なりすまし」の可能性があると判断すると、処理プロセッサ31は、「なりすまし」の可能性がある被撮影者に対する処理を行う。
【0041】
例えば、「なりすまし」と判断した場合の処理としては、以下のような処理が可能である。
(1)「なしすまし」と判断した旨を属性情報に記録する。
(2)監視員や管理センタ等に「なしすまし」の可能性がある旨を通報する(監視装置等により監視員に「なりすまし」の可能性がある旨を報知する)。
(3)入退出管理システムに適用される場合、被撮影者に対して入退室を拒否する。
これらの処理によって「なりすまし」に対する対策を講じることが可能となる。
なお、上記した「なりすまし」の検知処理の例では、瞳及び鼻孔の動きを検知して「なりすまし」を判断するようにしたが、以下のような方法でも、「なしすまし」を判断することが可能である。
(1)目の瞬きを検知する(例えば、瞳を検知することにより瞬きの有無を判断する)。
(2)口の動きを検知する(例えば、唇の端点の動きを検知することにより口の動きの有無を判断する)。
(3)音声(ユーザの声)を入力させ、ユーザの肉声に対応する顔画像を検知する処理と併用する(例えば、音声と顔画像とを同時に記録を行う)。
【0042】
上記のように、撮影した複数の画像からユーザの動きを検知することにより、「なりすまし」であるか否かを判断し、「なりすまし」の可能性があると判断した場合、「なりすまし」に対する処理を行うようにしたものである。これにより、他人の顔写真などを用いた「なりすまし」に対して対策を講じることができ、「なしすまし」を防止あるいは抑制することができる。このように、ユーザに負担をかけることなく、セキュリティを向上させた顔画像記録装置を提供できる。
【0043】
上記のように、第1の実施の形態では、一定の距離をおいて設置されたカメラからユーザのほぼ正面向きの時系列顔画像(複数の顔画像)を取り込み、画像処理によって自動的に最適な画像系列に加工及び編集して、一定品質以上の少なくとも1枚以上の顔の特徴点が抽出できた画像を収集し、当該画像を属性情報とともに記録装置に記録する(履歴を取る)ものである。つまり、この第1の実施の形態では、一定以上の良好な画質の顔画像を取り込んで履歴データとして記録していくことを特徴としている。さらに、一定以上の良好な画質の顔画像であるか否かは、瞳と鼻孔の4個の特徴点を自動的に検出できたか否かによって判断するようになっている。
これにより、ユーザの顔画像を履歴データとして記録しておくことができ、一定のセキュリティを保持ししつつ、ユーザの利便性が良い顔画像記録装置を提供できる。
【0044】
また、第1の実施の形態では、上記のような顔画像の記録機能に加えて、顔画像を記録装置に記録する前に、顔写真などを用いて他人になりすましていないかをチェック(「なりすまし」の検知処理)する機能を有することを特徴とする。
また、「なりすまし」であるか否かを判断する方法は、例えば、カメラで撮影した時系列顔画像から顔の動きを検知(動画像解析)して、顔の動きが検知できれば「なりすまし」でないと判断し、顔の動きが検知できずに「なりすまし」の可能性があると判断する。また、「なりすまし」と判断した場合、「なりすまし」に対する対策として所定の処理を行う。これにより、「なりすまし」に対する適切な処理を行うことができ、顔写真等を用いて他人になりすますことを防止あるいは抑制でき、かつ、セキュリティレベルを向上できる。
【0045】
次に、第2の実施の形態について説明する。
第2の実施の形態は、第1の実施の形態の変形例である。この第2の実施の形態は、図6に示すような構成の顔画像記録装置で実現される。第2の実施の形態では、図6に示す顔画像記録装置の構成において、顔照合用辞書38に予め登録者の顔の特徴量が登録されているものとする。また、第2の実施の形態では、処理プロセッサ31は、プログラムメモリ33に記憶されている制御プログラムにより顔照合部31eとして機能するものとする。
【0046】
図12及び図13は、第2の実施の形態を説明するためのフローチャートである。図12及び図13に示す第2の実施の形態の処理は、図7及び図8で説明した第1の実施の形態の処理に顔画像の照合処理を加えたものである。すなわち、図12及び図13に示す処理のステップS41〜ステップS54は、図7及び図8に示す処理のステップS1〜ステップS14と同様の処理である。このため、ステップS41〜ステップS54の処理については説明を省略する。
上記処理プロセッサ31は、上記ステップS54で、変数jがNであると判断した場合、顔の特徴点が抽出できた画像について顔画像の照合処理を行う(ステップS55)。この顔画像の照合処理については、後で詳細に説明する。この顔画像の照合処理の結果として上記カメラ2で撮影した人物が登録者であると判断した場合(ステップS56、YES)、処理プロセッサ31は、正常終了として処理を終了する。すなわち、顔照合処理によって被撮影者と予め顔照合用辞書38に登録されている人物との照合が成功した場合、処理プロセッサ31は、カメラ2で撮影した被撮影者の画像を記録しない。
【0047】
また、上記カメラ2で撮影した被撮影者と登録者との照合が失敗した場合(ステップS56、NO)、処理プロセッサ31は、上記カメラ2で撮影した画像を記録装置37に記録する(ステップS57)。この際、処理プロセッサ31は、上記カメラ2で撮影した画像とともに、画像の撮影時間あるいは画像を撮影したカメラ2あるいは顔画像記録装置を示すID番号などの属性情報を記録装置37に記録する。このような記録装置37への画像及び属性情報の記録が完了すると、処理プロセッサ31は、表示部1に顔画像の記録が完了したことを示す案内を表示して処理を終了する(ステップS58)。
【0048】
次に、顔画像の照合処理について説明する。
図14は、顔画像の照合処理を説明するためのフローチャートである。まず、処理プロセッサ31は、顔画像の照合処理の対象とするN枚の画像をN枚のモノクロ画像(モノクロ画像系列)に変換する。このモノクロ画像への変換処理は、上記ステップS22で得られたモノクロ画像を用いるようにしても良い。処理プロセッサ31は、N枚のモノクロ画像系列の各画像に対して顔の特徴量(特徴点)を抽出する(ステップS61)。この際、顔の特徴量は、複数個のK次元ベクトルとして求められる。
【0049】
このようにして抽出された顔の特徴量を用いて、処理プロセッサ31は、辞書38への登録処理あるいは辞書38に登録されている顔の特徴量との照合処理を選択的に行う。ここでは、辞書38への登録処理を行うか照合処理を行うかが予め管理者により指定されているものとして説明する。なお、この装置の運用開始から予め設定した期間は登録処理を行い、上記設定された期間以降は照合処理を行うようにしても良し、ユーザからの指示に従って登録処理あるいは照合処理を行うようにしても良い。
【0050】
まず、顔画像の登録処理を行う場合について説明する(ステップS62、登録)。顔画像の登録処理を行う場合、処理プロセッサ31は、抽出した特徴量を個人ID情報などの登録用の属性情報に対応させて辞書(登録リスト)38に登録する(ステップS63)。上記登録用の属性情報としては、個人を特定(識別)するための個人ID情報の他に、登録処理を行った装置を示す情報、あるいは登録処理を行った日時を示す情報などが用いられるものとする。また、個人を特定するための個人ID情報は、処理プロセッサ31が割り当てるようにしても良いし、管理者あるいはユーザ自身が指定するようにして良い。これらの処理により、辞書38への顔の特徴パターンの登録が完了する。
【0051】
次に、照合処理を行う場合について説明する(ステップS62、照合)。照合処理を行う場合、処理プロセッサ31は、ユーザにより個人ID情報が入力されているか否かによって、1対多の照合処理を行うか1対1の照合処理を行うかを判断する(ステップS64)。
例えば、照合処理を1対1(1:1照合)で行う場合、ユーザは、自分自身の個人ID情報を入力部5により入力する。処理プロセッサ31は、ユーザが入力した個人ID情報によって、辞書38に登録されている特徴パターンを検索する。すなわち、処理プロセッサ31は、ユーザが入力した個人ID情報に対応する顔の特徴量を辞書38から検索する。この検索処理により、処理プロセッサ31は、辞書38に登録されている個人ID情報に対応する顔の特徴量を読み出す。個人ID情報に対応する顔の特徴量を読み出すと、処理プロセッサ31は、読み出した特徴量と上記ステップS61で抽出した顔の特徴量との照合度を計算する(ステップS65)。
【0052】
また、照合処理を1対多(1:N照合)で行う場合、処理プロセッサ31は、抽出した顔の特徴量と辞書38に登録されている全ての顔の特徴量とを総当りで照合処理を行う。すなわち、処理プロセッサ31は、抽出した顔の特徴量と辞書38に登録されている全ての顔の特徴量との照合度(類似度)を計算する。処理プロセッサ31は、照合度が最大値となった顔の特徴量に対応する個人ID情報と照合度の最大値とを照合度の算出結果とする(ステップS66)。
このように、1対1あるいは1対多の照合処理により照合度が計算されると、処理プロセッサ31は、算出された照合度と所定の閾値Sとを比較する(ステップS67)。ここで、所定の閾値Sは、顔画像が辞書38に登録されているものと照合されたか否かを判定する基準値である。なお、閾値Sは、運用者等により予め設定されるものである。また、1:1照合の場合の閾値と1:N照合の場合の閾値とは、同じ値であっても良いし、異なる値であっても良い。
上記ステップS65或は上記ステップS66で算出した照合度が所定の閾値未満であれば(ステップS67、NO)、処理プロセッサ31は、カメラ2で撮影した人物と辞書38に登録されている人物との照合が失敗したと判定する。この判定に基づき、処理プロセッサ31は、撮影された人物が登録者でない旨を上記表示部1等により報知する(ステップS68)。
【0053】
また、算出した照合度が所定の閾値以上であれば(ステップS67、YES)、処理プロセッサ31は、カメラ2で撮影した人物と辞書に登録されている人物との照合が成功したと判定する。この判定に基づき、処理プロセッサ31は、照合が成功した旨を示す情報、照合度、あるいは個人ID情報などを表示部1等により報知する。
なお、上記したように照合処理は、撮影した画像から抽出した顔の特徴量と辞書に登録されている顔の特徴量とを照合することにより行われる。このため、登録者の顔の特徴量は、事前に辞書に登録しておくか、上記のような登録処理により辞書に登録しておくものである。
【0054】
また、辞書には、個人の名前、個人ID情報などの属性情報に対応して、顔の特徴量としてのベクトル形式の顔特徴パターンデータが登録される。ここでの照合処理や登録処理は、例えば、上記文献1及び上記文献2の記載されている、顔の特徴量の抽出方法が適用できるものとする。
また、照合処理により本人であるか疑わしい(登録者との照合が失敗した)と判断された場合、属性情報として画像の撮影時刻、画像を撮影したカメラ2あるいは画像を取り込んだ装置を示すID番号、及び顔画像の照合度などを記録するようにする。これにより、効率的な顔画像の記録処理が行える。
【0055】
また、上記した第2の実施の形態については、以下のような種々の変形例が可能である。
(1)第2の実施の形態を顔の照合結果に基づく入退出管理システムに適用する。これにより、顔画像の照合処理の結果に応じたユーザの入退出管理を行うとともに、登録者以外の人物(不審者)の顔画像のみを記録することができ、従来以上のセキュリティを実現できる。
【0056】
(2)照合が不可となった場合に、顔画像記録装置が管理装置等へ通報するようにする。管理装置等へ通報は、例えば、上記無線通信ボード39による管理装置等との通信により実現される。これにより、管理者よる不審者(登録されていない者)への監視が強化でき、セキュリティの向上が望める。
【0057】
(3)照合結果に応じた処理を行わずに、単に、照合度を属性情報に加えて上記記録装置37に記録するようにする。これにより、処理を簡素化できるとともに、後で記録された顔画像を分析することができ、セキュリティを向上させることが可能となる。
【0058】
(4)不審者などの特定の人物の特徴量を事前に辞書に登録しておき、上記特定の人物と判定された場合に、顔画像記録装置が管理装置へ通報するようにする。すなわち、上記第2の実施の形態では、登録されていない人物に対して画像を記録するようにしたが、逆に、辞書に顔の特徴量が登録された不審者などの特定の人物との照合が成功した場合に、画像の記録、あるいは管理装置への通報などの処理を行うようする。この場合、特定の人物の顔の特徴量を辞書に登録しておけばよいので、辞書の記憶容量の節約あるいは照合処理の時間短縮などの効果を得ることができる。
【0059】
上記のように、第2の実施の形態では、画像を記録する処理に顔照合処理を追加し、照合結果に基づき、上記カメラ2で撮影した画像を選択的に上記記録装置に記録するようにしたものである。これにより、上記記録装置への顔画像の記録処理を効率化することができる。これは、後で管理者がチェックした方が良い人物の顔画像のみを履歴情報とともに、上記記録装置へ記録しておくことができるからである。また、顔の照合処理で照合できなかった場合に、管理装置へ通報する機能を併用することでユーザの負担を増加させることなく、セキュリティレベルを上げられる。
【0060】
また、上記第2の実施の形態を照合度に基づく入退出管理システムに適用することで、単に、照合度に応じて入退出を管理するだけの場合よりも、顔画像を記録することで、セキュリティレベルを向上できる。
また、照合処理で算出される照合度に対し、入退出の許可不許可を判定するための第1の閾値を設定しておき、さらに、画像を記録するか否かを判定するための第2の閾値を上記第1の閾値よりも高く設定しておくようにして良い。例えば、照合度が第1の閾値よりも低い場合、入退出管理システムは、入退出を不許可とし、画像を記録する。また、照合度が第1の閾値以上で、かつ、第2の閾値よりも低い場合、入退出管理システムは、入退出を許可し、画像を記録する。また、照合度が第2の閾値以上の場合、入退出管理システムは、画像を記録することなく、入退出を許可する。
【0061】
このようにすれば、照合度の変動が大きい場合でも、安定した入退出を可能にするとともに、照合度の低い画像を記録することができる。これにより、環境変動が大きいため、照合度の大きく変動してしまう場合でも、一定のセキュリティレベルを維持しつつ、柔軟な入退出管理を実現でき、かつ、画像の記録処理を効率化できる。
【0062】
次に、第3の実施の形態について説明する。
この第3の実施の形態では、上記第1の実施の形態あるいは第2の実施の形態の動作によって、顔画像記録装置の記録装置に記録された顔画像に対する検索処理、表示処理、辞書への登録処理、及び辞書の更新処理を行うものである。従って、以下の説明では、記録装置37に顔画像が属性情報とともに記録されているものとする。
図15は、第3の実施の形態に係る顔画像記録装置の概略構成を示す図である。図15に示す第3の実施の形態の顔画像記録装置は、図6に示す第1の実施の形態の顔画像記録装置にLAN42を介して保守用のパーソナルコンピュータ(保守パソコン)43を接続した構成となっている。図15に示す顔画像記録装置の保守パソコン以外の構成は、図6に示す構成と同様であるため、説明を省略する。
【0063】
上記保守パソコン43は、顔画像記録装置のLANボード40によりLAN42を介して通信を行うようになっている。この保守パソコン43は、上記記録装置37に記録している顔画像(履歴データ)を検索したり、検索結果としての顔画像を表示したりするものである。
この保守パソコン43は、顔画像記録装置に常時接続する必要はなく、必要に応じて上記顔画像記録装置にアクセスするようにしても良い。また、保守パソコン43を用いずに、顔画像記録装置本体に後述する保守パソコン43の各構成を設けて、後述する検索処理及び表示処理を行うようにしても良い。また、保守パソコン43は、LAN42を介して接続するようにしたが、直接、上記顔画像記録装置に接続するようにしても良い。
【0064】
また、保守パソコン43は、図15に示すように、制御部51、操作部52、表示部53、LANボード54、およびメモリ部55などを有している。上記制御部51は、保守パソコン43全体の制御を司る。この制御部51は、後述する検索処理及び表示処理を行う機能を有している。上記操作部52は、ユーザによる指示が入力される。上記表示部53は、上記顔画像記録装置の記録装置37に記録されている顔画像などが表示される。上記LANボード54は、LAN42と接続するインターフェースであり、このLANボード54によりLAN42を介して上記顔画像記録装置と通信を行う。上記メモリ部55は、RAM、ROM、HDDなどから構成され、画像データあるいは制御データなどを記憶する。
【0065】
次に、顔画像の検索及び表示処理(人物チェック)について説明する。
図16は、顔画像の検索処理を説明するためのフローチャートである。
まず、オペレータ(管理者)は、保守パソコン43の操作部52にて、検索対象とする顔画像の検索条件(記録した期間、記録した装置を示すID番号、あるいは個人ID情報など)を指定する(ステップS71)。この検索条件の指定動作は、保守パソコン43のオペレータが表示部53に表示される案内に従って、対話形式で検索条件を入力することにより行われる。
検索条件が指定されると、制御部51は、上記LAN42を介して上記顔画像記録装置へ指定された検索条件を送信する。すると、上記顔画像記録装置の処理プロセッサ31は、記録装置37にアクセスし、検索条件を満たす顔画像を検索する(ステップS72)。上記検索条件を満たす顔画像が検索されると、処理プロセッサ31は、上記属性情報に基づいて検索された顔画像に対する照合用の辞書38が既に作成されているか否かを判断する(ステップS73)。なお、属性情報に照合用の辞書38の有無を示す情報が含まれていない場合、処理プロセッサ31は、上記オペレータによる指示に基づいて照合用の辞書38の有無を判断する。
【0066】
上記照合用の辞書38が作成されていない場合(ステップS73、NO)、上記処理プロセッサ31は、上記検索条件に合致する顔画像を記録装置37から順番に読み出して上記保守パソコン43へ送る。保守パソコン43では、顔画像記録装置から送られる顔画像を順番に上記表示部53に表示させる。この際、上記表示部53には、顔画像に対する個人ID情報を入力する旨をオペレータに案内する画面が表示される。この案内に基づいて、オペレータは、顔画像に対応する個人ID情報を上記操作部52により入力する。この入力された個人ID情報は、LAN42を介して顔画像記録装置へ送信される(ステップS74)。
【0067】
各顔画像に対して入力された個人ID情報を保守パソコン43から受取ると、処理プロセッサ31は、同一の個人ID情報となる顔画像を集めて、それらの画像(同一の画像系列)から顔の特徴量を算出する。これによって算出された同一の画像系列に対する顔の特徴量は、当該個人ID情報に対応する顔の特徴量として照合用辞書38に登録される(ステップS75)。このような顔の特徴量の算出処理と照合用辞書38への登録処理とが検索された全ての画像系列に対して行われると、照合用辞書38への顔の特徴量の登録を終了する(ステップS76)。
また、上記照合用辞書38が既に作成されている場合(ステップS73、YES)、上記処理プロセッサ31は、検索された各顔画像と予め照合用辞書38に登録されている顔の特徴量との照合度を算出する(ステップS77)。ただし、顔画像の記録時に顔画像の照合処理を行っており、かつ、照合処理による照合度の算出結果が属性情報に含まれている場合、処理プロセッサ31は、上記記録装置37に記録されている属性情報から照合度を読み出す。
【0068】
さらに、処理プロセッサ31は、保守パソコン43に照合度の閾値の上限(上限値)と下限(下限値)とを指定する旨を保守パソコン43に要求する。保守パソコン43の制御部51では、保守パソコン43のオペレータに対して照合度の閾値の上限と下限とを入力する旨の案内を上記表示部53に表示する。このような案内に従って、オペレータは、対話的に照合度の閾値の上限と下限とを指定する(ステップS78)。
これらの閾値の上限と下限とは、オペレータがチェックの対象とする照合度の範囲を指定するものである。つまり、照合度が上限値以下、かつ、下限値以上のものがチェック対象となる。これは、照合度が上限値以上であれば、上記顔画像と一致したと見なしてチェック対象とはせず、また、照合度が下限値以下であれば、上記顔画像とは異なると判定してチェック対象とから除外するものである。
これにより、オペレータが指定する閾値の上限値と下限値との間の照合度の顔画像を対象としてオペレータが顔画像をチェックするようになる。また、この際、上限値を+無限大とすれば、下限値以上のものが全てチェック対象となり、下限値を−無限大(0)と指定すれば、上限値以下のものが全てチェック対象となる。
【0069】
オペレータが照合度の閾値の上限と下限とを指定すると、保守パソコン43の制御部51は、指定された閾値の上限と下限とを顔画像記録装置へ送信する。この照合度の閾値の上限と下限とを受信すると、顔画像記録装置の処理プロセッサ31は、上記ステップS77で算出した照合度が指定された閾値の上限と下限との間にあるか否かを判断する。
この判断に基づいて処理プロセッサ31は、上限値以上で、かつ、下限値以下の照合度の顔画像を順番に保守パソコン43に送信する。保守パソコン43では、顔画像記録装置から送られる顔画像を順番に上記表示部53に表示させる(ステップS79)。
これにより、オペレータがチェックする対象の顔画像が表示部53に表示されるようになる。この表示部53に表示される画像に対しては、オペレータによる操作とオペレータの操作に応じて表示部53に表示される案内によって対話的に種々の処理が実行される(ステップS80)。
【0070】
図17は、上記ステップS80における処理の例として、特定の個人ID情報に対する照合処理の処理結果としての照合度を時間経過に対応させて表示させた例である。すなわち、上記ステップS71で、オペレータが検索条件として個人ID情報を指定すると、指定された個人ID情報に対応する照合用の辞書38が既に作成されていれば、検索条件に合致する顔画像と照合用の辞書38との照合処理が行われる。
この際、保守パソコン43は、検索対象とする照合度の閾値の上限と下限とを指定する。これにより、処理プロセッサ31は、照合処理の結果として得られた照合度が上限と下限との間になった顔画像を属性情報とともに保守パソコン43へ送信する。これにより、保守パソコン43では、指定した範囲の照合度を有する全ての顔画像と、それらの顔画像の記録時間を含む属性情報とを得る。これらの情報により保守パソコン43では、特定の個人における照合度と記録時間とを対応させたグラフが表示できる。
【0071】
例えば、照合度は、0〜100までの整数値をとるものとし、閾値の上限を100(+無限大)とし、下限を80とすると、照合処理の結果としては、指定された個人ID情報に対応する全ての顔画像のうち照合度が80以上の顔画像に対する照合度が得られる。さらに、顔画像に対応する属性情報に記録した時間(日時)が記録されていれば、保守パソコン43の表示部53には、図17に示すような時間経過に対する照合度の推移を表したグラフを表示(作成)できる。
このようなグラフによれば、いつ頃、照合度が落ちたか、照合度がいつ頃回復したかが一目で判別できる。例えば、ユーザが髪型を替えた場合、あるいは、体調が崩れた場合、照合度の低下が予想される。これにより、図17に示すようなグラフによってユーザの状態を判断できる。すなわち、特定のユーザに対する照合度の変化が確認できるので、健康状態の推移、あるいは生活習慣の変化などのユーザにおきた変化を判定したり、予測したりすることができる。
【0072】
次に、指定された検索条件の顔画像による辞書38の更新処理について説明する。
図18は、指定された検索条件の顔画像による辞書38の更新処理の動作例を説明するためのフローチャートである。図18に示すフローチャートでは、図16に示すフローチャートの動作で検索された顔画像に基づいて、辞書38の更新を行う動作を示している。すなわち、図18に示すステップS91〜ステップS99の動作は、図16に示すステップS71〜ステップS79の動作と同様である。また、図18に示すステップS100〜ステップS102は、図16に示すステップS80における処理の一例として辞書38の更新処理を行うものである。
【0073】
従って、ステップS91〜ステップS99についての説明を省略し、ステップS100〜ステップS102の動作について説明する。
上記ステップS99では、上記ステップS79と同様に、保守パソコン43の表示部53にオペレータが指定した範囲(閾値の上限と下限との間)の照合度の顔画像を順番に表示する。さらに、制御部51は、オペレータの操作に基づいて照合度の最大値(最大類似度)を与える個人ID情報を表示部53に表示する。
【0074】
この表示によりオペレータは、最大類似度を与える顔画像の個人ID情報が正しいか否かを判断する。この判断により個人ID情報が正しくないと判断した場合、オペレータは、制御部51の制御により表示部53に表示される案内に従って対話的に正しい個人ID情報を入力する(ステップS100)。また、個人ID情報が正しいとオペレータが判断した場合、オペレータの操作に基づいて、制御部51は、上記表示部53に表示した個人ID情報に対応する顔の特徴量の更新処理(辞書38の更新処理)へ進む。これらの動作によって最大類似度を与える顔画像の正しい個人ID情報がオペレータにより決定される。
【0075】
正しい個人ID情報が決定されると、制御部51は、当該顔画像に対する正しい個人ID情報を顔画像記録装置へ送信する。保守パソコン43から正しい個人ID情報が通知されると、処理プロセッサ31は、最大の照合度(最大類似度)を与える顔画像から照合用の辞書38に登録するための顔の特徴量を算出する。顔の特徴量を算出すると、処理プロセッサ31は、算出した顔の特徴量を保守パソコン43から通知された個人ID情報に対応させて辞書38に記録する(ステップS101)。
【0076】
ここで、上記個人ID情報に対応する顔の特徴量が既に辞書38に存在している場合、処理プロセッサ31は、上記個人ID情報に対応する顔の特徴量を書き換えることにより辞書38の更新処理を行う。また、上記個人ID情報に対応する顔の特徴量が辞書38に存在しない場合、処理プロセッサ31は、上記個人ID情報に対応する顔の特徴量を新たに辞書38に書き加えることにより辞書38の更新(新規登録)処理を行う。
辞書38の更新処理が完了すると(ステップS102)、処理プロセッサ31は、辞書38の更新が完了した旨を保守パソコン43へ通知する。この通知を受けた保守パソコン43の制御部51は、辞書38の更新が完了した旨を表示部53に表示し、処理を終了する。このように、保守パソコン43でのオペレータの操作のみで記録装置37に蓄積(記録)されている顔画像による辞書38の更新処理が可能となる。
【0077】
上記のように、第3の実施の形態では、オペレータが指定する検索条件に基づいて記録装置に記録されている顔画像を検索することができる。従って、所望の検索条件に一致する顔画像のみを記録装置から読み出したり、読み出した顔画像による種々の処理が可能となる。例えば、個人ID情報を指定して個人ID情報に対応する顔画像を検索し、この顔画像に対する記録時間などの属性情報をもとに順番に顔画像を表示させることができる。
【0078】
また、オペレータが指定する検索条件に基づいて検索された顔画像に対しては、以下のような動作が可能である。
(1)既に顔照合用の辞書が用意されている場合、1対多の照合を行いながら最大照合度が低い顔画像(検索された顔画像)のみをチェックする。これにより、照合度の低い不審者と思われる人物を効率良くチェックできる。また、事前に顔照合用の辞書が用意されていない場合、記録時間などの属性情報をもとに順番に顔画像を検索して表示し、ユーザに対して対話的に個人ID情報を指定させ、顔照合用の辞書への登録あるいは修正を行う。これにより、顔照合用の辞書への登録あるいは更新用に、別途、顔画像を撮影する必要がなく、利便性が向上する。
【0079】
(2)記録装置に記録されている顔画像の属性情報に個人ID情報が含まれている場合、個人ID情報を検索情報に指定し、同一の個人ID情報の顔画像を検索して個人ごとの照合用の辞書の新規作成または更新を行う。これにより、照合用の辞書に登録されている顔パターンを新規登録あるいは更新を別途行う必要がなくなる。
(3)記録装置に記録されている顔画像の属性情報に個人ID情報が含まれている場合、個人ID情報を検索情報に指定し、同一の個人ID情報の顔画像を検索して検索された顔画像の属性情報に基づいて、個人ごとの顔画像の記録状況をグラフなどにより表示する。これにより、個人ごとの顔画像の記録状況(利用状況)をオペレータが管理しやすい。また、この第3の実施の形態が入退出管理システムに適用される場合、個人ごとの入退出動作をグラフ表示などでトレースすることができる。
【0080】
(4)記録装置に記録されている顔画像の属性情報に個人ID情報が含まれている場合、個人ID情報を検索情報に指定し、同一の個人ID情報の顔画像を検索して検索された顔画像の属性情報に基づいて、個人ごとの照合度の変化を示すグラフを表示する。これにより、個人ごとに照合度の経時変化などがトレースでき、さらに、顔の特徴量の変動情報によって、ユーザの健康状態の推移などのユーザの変化を推測できる。
(5)不審者などの顔画像を新たに提示し、その人物に高い照合度をもつ顔画像を記録装置に記録されている顔画像から検索して属性情報とともに表示する。これにより、特定の人物のみを顔画像を用いて検索することができ、不審者の絞り込み、不審者の行動の分析などを行うことが容易にできる。
上記のように、第3の実施の形態では、通常の運用として上記第1、第2の実施の形態のように顔画像を履歴データとして記録装置に記録しながら、さらに、管理者が指定可能な検索条件に一致する顔画像のみを記録装置から検索したり、表示させたりすることを特徴とする。
【0081】
すなわち、第3の実施の形態では、照合用の顔の特徴量が辞書に登録されている場合、1対多の照合を行いながら「不審者」(最大照合度が低い人)のみを効率良くチェックできることを特徴としている。この特徴によれば、ユーザの利便性を損なうこなく、管理者が「不審者」のみを効率良くチェックすることができ、セキュリティのレベルを向上できる。
また、第3の実施の形態では、第3の実施の形態では、通常の運用として上記第1、第2の実施の形態のように顔画像を履歴データとして記録装置に記録しながら、さらに、上記記録装置に記録された顔画像を用いて照合用の辞書に顔の特徴量を新規登録したり、ユーザの顔の特徴量の経時変化に対応するための照合用辞書に登録されている顔の特徴量の更新を行うことを特徴としている。
【0082】
すなわち、辞書に顔の特徴量が登録されていない場合、顔画像を記録した時間などの属性情報をもとに順番に顔画像を検索表示させて、管理者が対話的に個人ID情報を教示することにより、照合用の顔の特徴量の新規登録を行う。これにより、照合用の顔の特徴量の新規登録を効率良く、かつ、ユーザの負担にならずに行うことができる。
また、すでに顔の特徴量が辞書に登録されている場合、同一の個人ID情報の顔画像を検索して集め、各個人ごとの顔照合用の顔の特徴量を算出し、辞書に登録されている顔の特徴パターンを更新する。これにより、ユーザに負担をかけずに照合結果による辞書の修正が可能となり、照合用の顔の顔の特徴量の更新を効率良く行える。
【0083】
次に、第4の実施の形態について説明する。
第4の実施の形態は、上記第1、第2、第3の実施の形態で説明した処理に顔照合以外の他の本人確認方法を組み合わせるものである。この第4の実施の形態では、上記第1、第2、第3の実施の形態で説明した顔画像記録装置に、IDカードによる本人確認方法あるいは顔照合以外の他のバイオメトリクスによる本人確認方法を組み合わせる(併用する)場合について説明する。
なお、ここでは、この第4の実施の形態のように、顔画像の記録とともに、他の本人確認方法により本人確認を行うものをスタンドアロン・組合せタイプと呼ぶ。また、顔画像は、顔画像以外の本人確認方法にて不審者と判定された場合にのみ、記録装置で記録するようにしても良いし、顔画像以外の本人確認方法の確認結果に係らずに全ての顔画像を確認のために記録装置で記録するようにしても良い。
【0084】
図19は、顔画像記録装置61にカードリーダ62を接続した場合の構成例を示す図である。なお、顔画像記録装置61の構成は、図6或は図15に示す構成と同様であるため、詳細な説明を省略する。
図19に示す構成例では、図2に示すようなテンキーなどの入力部5を有するユーザインターフェース部10の顔画像記録装置61に適用される。この場合、上記入力部5では、IDカードを読み出す際に用いられる暗証番号の入力が行われる。このような構成の顔画像記録装置61では、まず、ユーザがカメラ2により顔の画像を撮影されるとともに、ユーザにより入力部5にて暗証番号が入力される。さらに、IDカードが接触式の記録媒体であれば、ユーザは、IDカードをカードリーダ62に挿入する。また、IDカードが無線カードで、かつ、カードリーダ62が無線カードリーダである場合、ユーザは、IDカードをカードリーダ62に挿入する必要がなく、暗証番号の入力のみで良い。
【0085】
処理プロセッサ31は、まず、ユーザの所持するIDカードに記録されている暗証番号をカードリーダ62により読取る。カードリーダ62がIDカードに記録されている暗証番号を読取ると、処理プロセッサ31は、ユーザにより入力された暗証番号がカードリーダが読み出した暗証番号と一致するか否かによって本人であるか否かを確認する。この際、暗証番号が不一致となり、本人であることが確認できなかった場合、不審者と判断する。不審者と判断した場合は、上記「なりすまし」と判定された場合と同様に、所定の動作を行う。
【0086】
また、暗証番号が一致して本人であることを確認した場合、処理プロセッサ31は、カードリーダ62によりIDカードから個人ID情報を読み出す。これ以降の処理は、図7、図8あるいは図12、図13に示すフローチャートに示す動作と同様な動作が行われる。なお、顔照合を行う場合は、個人ID情報に対応する顔の特徴パターンを辞書38から読み出して、カメラ2で撮影した画像から得られる顔の特徴パターンとの1対1の照合を行う。但し、不審者などの特定の人物をチェックする場合は、1対多の顔照合となる。
【0087】
図20は、顔画像記録装置64に顔照合以外のバイオメトリクス認証装置65を接続した場合の構成例を示す図である。ここで、バイオメトリクス認証装置65は、バイオメトリクス(生体情報)による本人確認として、指紋、声紋、サイン、眼の網膜や虹彩(アイリス)、あるいは手の甲の静脈パターンなどを用いた照合処理を行う。なお、図20に示す顔画像記録装置64の構成は、図6或は図15に示す構成と同様であるため、詳細な説明を省略する。
【0088】
図20に示す構成例は、図1あるいは図2に示すようなユーザインターフェース部10の顔画像記録装置に適用される。このような構成の顔画像記録装置64では、まず、ユーザがカメラ2により顔の画像を撮影されるとともに、バイオメトリクス認証装置65にてユーザの生体情報が読取られる。バイオメトリクス認証装置65では、読取ったユーザの生体情報と予め登録されている生体情報との照合を行うことにより個人を特定し、個人ID情報を読み出す。このような動作により個人ID情報を読み出した後は、図7、図8あるいは図12、図13に示すフローチャートに示す動作と同様な動作が行われる。
【0089】
上記のように、この第4の実施の形態では、上記第1、第2あるいは第3の実施の形態の顔画像記録装置と他の本人確認方法と組合わせたことを特徴とする。これにより、セキュリティレベルを高めることが可能である。
また、第4の実施の形態では、IDカードとバイオメトリクス認証装置といったように、多重に本人認証を組み合わせる(2個以上の本人認証と顔画像の記録)ことも可能である。この場合、本人認証を多重に組み合わせることにより、必要に応じてセキュリティレベルを高めることが可能である。
【0090】
次に、第5の実施の形態について説明する。
この第5の実施の形態では、顔画像記録装置をネットワークに接続した顔画像記録システムについて説明する。
図21は、第5の実施の形態としての顔画像記録システムの構成例を示す。この顔画像記録システムは、図21に示すように、複数の顔画像記録装置(71a、71b、…、71n)と管理サーバ80とがネットワーク72を介して接続されている。
各顔画像記録装置71a、71b、…、71nは、第1〜第4の実施の形態の顔画像記録装置と同様な機能を持つ装置である。また、各顔画像記録装置71a、71b、…、71nの構成は、図6或は図15に示す構成と同様であるため、詳細な説明を省略する。上記ネットワーク72は、LANまたはインターネットなどのネットワークである。
【0091】
上記管理サーバ80は、パーソナルコンピュータなどで構成される。上記管理サーバ80は、例えば、各顔画像記録装置(71a、71b、…71n)で撮影した画像を監視する監視センタなどに設置されるものである。上記管理サーバ80は、顔画像の記録、検索、表示等の処理が可能である。上記管理サーバ80は、例えば、上記管理サーバ80は、制御部81、表示部82、操作部83、検索部84、通信部85、顔画像履歴データベース(DB)86、及び照合用辞書87などを有している。
【0092】
上記制御部81は、管理サーバ80全体の制御を司る。上記表示部82は、表示装置により構成される。上記表示部82は、各顔画像記録装置(71a、71b、…71n)のカメラ2で撮影した画像などを表示する。上記操作部83は、キーボード或はマウス等の入力装置により構成される。上記操作部83は、管理サーバ80を操作する監視員により各顔画像記録装置(71a、71b、…71n)の動作モードの指示などが入力される。上記検索部84は、指定された検索条件と一致する画像を顔画像履歴DB86に記録されている画像からを検索するものである。上記通信部85は、上記ネットワーク72に接続するためのネットワークインターフェースである。上記顔画像履歴DB86は、上記記録装置37と同様な構成である。この顔画像履歴DB86は、各顔画像記録装置(71a、71b、…71n)からネットワークを介して送信された画像を属性情報とともに記録する。上記照合用辞書87は、上記辞書38と同様な構成である。上記照合用辞書87は、人物の顔の特徴量などが記録される。
【0093】
上記のように構成される顔画像記録システムでは、監視センタ等に設置された管理サーバ80で複数箇所に設置された顔画像記録装置を集中管理するようになっている。つまり、遠隔地の監視センタに設置された管理サーバ80は、複数箇所に設置された各顔画像記録装置を集中して監視できるようになっている。
この顔画像記録システムの各顔画像記録装置(71a、71b、…71n)は、上記第1、第2の実施の形態のように上記カメラ2で撮影した顔画像を顔画像記録装置内の記録装置に記録する代わりに、ネットワーク72を介して顔画像を管理サーバ80へ伝送する。上記管理サーバ80は、各顔画像記録装置(71a、71b、…71n)からの顔画像を表示部82に表示して集中的にモニタリングする。これにより、遠隔地の監視員は、管理サーバ80により複数の顔画像記録装置で撮影した画像を監視できる。なお、各顔画像記録装置(71a、71b、…71n)は、顔画像を管理サーバ80に送信するとともに、記録装置37にも記録するようにしても良い。これにより、各顔画像記録装置(71a、71b、…71n)でも顔画像の履歴を確認することが可能となる。
【0094】
さらに、上記管理サーバ80は、各顔画像記録装置(71a、71b、…71n)から伝送された顔画像を必要に応じて顔画像履歴DB86に記録する。例えば、各顔画像記録装置(71a、71b、…71n)から顔画像とともに当該人物が不審者である旨が通知された場合、管理サーバ80は、顔画像を顔画像履歴DB86に記録する。また、各顔画像記録装置(71a、71b、…71n)から顔画像とともに当該人物が不審者である旨が通知された場合、上記管理サーバ80は、監視員の操作に応じて顔画像を顔画像履歴DB86に記録するようにしても良い。
【0095】
さらに、各顔画像記録装置(71a、71b、…71n)が種々の動作モードを有している場合、上記管理サーバ80は、各顔画像記録装置(71a、71b、…71n)の動作モードを切り換えられるようにしても良い。例えば、各顔画像記録装置(71a、71b、…71n)が、システム動作モードと端末動作モードとを有しているものとする。これらの種々の動作モードは、監視員の操作に基づく上記管理サーバ80からの指示により切り変える。
【0096】
上記システム動作モードは、管理サーバ80が顔画像記録システム内の各顔画像記録装置を集中して管理する動作モードである。上記システム動作モードは、例えば、管理サーバ73が設置された監視センタに監視員が居る場合などに設定される。つまり、上記システム動作モードは、各顔画像記録装置(71a、71b、…71n)で撮影した顔画像を管理サーバ80で集中管理する場合に設定される。このシステム動作モードは、管理サーバ80が各顔画像記録装置(71a、71b、…71n)にシステム動作モードを指示することにより実現される。
【0097】
上記端末動作モードは、各顔画像記録装置(71a、71b、…71n)がそれぞれ単独で動作し、各顔画像記録装置(71a、71b、…71n)が顔画像をそれぞれ記録する動作モードである。この端末動作モードは、例えば、管理サーバ80が設置された監視センタに監視員が居ない場合などに設定される。つまり、上記端末動作モードは、管理サーバ80が各顔画像記録装置(71a、71b、…71n)で撮影した顔画像を集中管理せずに、各顔画像記録装置(71a、71b、…71n)が画像を記録する場合に設定される。上記端末動作モードは、管理サーバ80が各顔画像記録装置(71a、71b、…71n)へ端末動作モードを指示することにより実行される。
【0098】
また、上記管理サーバ80は、各顔画像記録装置(71a、71b、…71n)に、端末動作モード或はシステム動作モードをそれぞれ指示するようにしても良い。例えば、監視員が特定の顔画像記録装置だけを集中監視したい場合、管理サーバ80は、監視員の操作に応じて集中監視すべき顔画像記録装置にシステム動作モードを指示し、それ以外の顔画像記録装置に端末動作モードを指示する。これにより、監視員が集中して監視したい顔画像記録装置で撮影した画像のみを監視することが可能となる。
【0099】
また、各顔画像記録装置(71a、71b、…71n)は、第2の実施の形態と同様に、カメラ2にて撮影した画像に対して、1:1又は1:Nの照合処理が行われる。このような各顔画像記録装置(71a、71b、…71n)の照合処理で照合が失敗した場合、あるいは、なりすましを検知した場合、顔画像記録装置(71a、71b、…71n)は、上記カメラ2にて撮影した画像を上記管理サーバ80へ送信する。これにより、上記管理サーバ80は、各顔画像記録装置(71a、71b、…71n)で顔照合が失敗した画像、あるいは、なりすましが検知された画像を上記顔画像履歴DB86に記録することができる。
【0100】
なお、各顔画像記録装置では、図6或は図15に示すような各顔画像記録装置内の設けられた照合用辞書38を用いて照合処理を行っても良いし、管理サーバ73に接続されている照合用辞書87を用いて照合処理を行っても良い。
また、上記顔画像記録システムは、入退出管理システムに適用できる。例えば、各顔画像記録装置に入退出制御部が接続される場合、各顔画像記録装置は、入退出制御部により人物の入退出を制御できる。このように各顔画像記録装置が構成される場合、上記管理サーバ80が、各顔画像記録装置に入退出の許可を指示する。
【0101】
すなわち、上記管理サーバ80には、上記システム動作モードの各顔画像記録装置のカメラ2で撮影した画像が表示部82に表示される。上記管理サーバ80の監視員は、表示部82に表示された画像を見て当該人物の入退出の許可不許可を判断する。この判断に基づいて監視員が操作部83で当該人物の入退出の許可不許可を指示すると、上記管理サーバ80は、監視員の指示に応じて各顔画像記録装置に当該人物の入退出の許可不許可を指示する。この管理サーバ80からの指示に従って、各顔画像記録装置は、上記入退出制御部により入退出を制御する。これにより、第5の実施の形態の顔画像記録システムを入退出管理システムに適用することが可能となる。
【0102】
上記のように、第5の実施の形態では、複数箇所に設置された複数の顔画像記録装置と管理サーバとをネットワークで接続し、各顔画像記録装置の動作を上記管理サーバで集中管理(監視)するようにする。すなわち、複数の顔画像記録装置で撮影した画像を管理サーバでのモニタリングすることにより、監視員が集中監視でき、複数の顔画像記録装置を効率良く管理できる。
また、履歴データとしての顔画像を個々の顔画像記録装置で分散的に蓄積(記録)する動作モードと、各顔画像記録装置からの顔画像を管理サーバに集めて、1箇所で管理及び蓄積(記録)する動作モードとの切り換え手段を管理サーバに設ける。これにより、システムの運用状況に応じた各顔画像記録装置の管理が可能となり、管理者側の利便性が向上する。
【0103】
次に、第6の実施の形態について説明する。
この第6の実施の形態は、ネットワークに接続された情報端末(パソコン、携帯電話等)及び管理サーバなどで構成される情報管理システムである。
図22は、この第6の実施の形態の情報管理システムの構成例を概略的に示すものである。すなわち、図22に示すように、この情報管理システムは、情報端末(90a、90b、…、90n)と管理サーバ100とがネットワーク96を介して接続される。また、各情報端末(90a、90b、…、90n)は、例えば、パーソナルコンピュータ(PC)あるいは携帯電話などの情報端末などで構成される。各情報端末(90a、90b、…、90n)は、上記第1、第2、第3の実施の形態で説明した顔画像記録装置と同様な、人物の顔の撮影処理、顔の特徴量の抽出処理、画像に関する属性情報の生成処理、画像に対する画像処理、或はなりすまし検知処理などを行う機能を有している。上記ネットワーク96は、LANあるいはインターネット等のネットワークである。
【0104】
各情報端末(90a、90b、…、90n)は、カメラ(91a、91b、…、91n)、制御部(92a、92b、…、92n)、記憶部(93a、93b、…、93n)、通信部(94a、94b、…、94n)、表示部(95a、95b、…、95n)、及び操作部(96a、96b、…、96n)等を有している。上記カメラ(91a、91b、…、91n)は、デジタルカメラ等により構成される。上記カメラ(91a、91b、…、91n)は、上記第1、第2の実施の形態で説明した顔画像記録装置のカメラ2と同様に、人物の顔を複数撮影する。なお、上記カメラ(91a、91b、…91n)は、上記情報端末(90a、90b、…90n)の本体に、無線通信あるいは有線で接続するようにしても良い。
【0105】
上記制御部(92a、92b、…、92n)は、情報端末全体の制御を司る。また、上記制御部(92a、92b、…、92n)は、上記第1、第2の実施の形態で説明した顔画像記録装置の処理プロセッサ31と同様な機能を有する。各機能は、上記制御部(92a、92b、…、92n)が上記記憶部(93a、93b、…、93n)に記憶されている制御プログラムに基づいて動作することにより実現される。例えば、上記制御部(92a、92b、…、92n)は、特徴量抽出部、情報生成部、なりすまし検知部、或は画像処理部等の機能が実現可能である。
上記通信部(94a、94b、…、94n)は、ネットワーク96に接続するネットワークインターフェースで構成される。また、各情報端末(90a、90b、…90n)と管理サーバ100との通信方法は無線であっても有線であってもよい。
【0106】
上記管理サーバ100は、図21に示す管理サーバ80と同様な機能を有するため、図21に示す管理サーバ80と同様な部分について同一符号を付し、説明を省略する。なお、上記顔画像記録DB106及び照合用辞書107は、上記記録装置37及び上記辞書38と同様に、管理サーバ100内に設けられるようにしても良いし、ネットワーク96を介して接続可能な外部装置に設けるようにしても良い。
また、上記管理サーバ100に上記顔画像記録装置の処理部と同様な機能を実現するアプリケーションプログラムを組み込めば、上記情報端末が上記顔画像記録装置のユーザインターフェース部10と同様に機能し、上記管理サーバ100が上記顔画像記録装置の処理部及び図15に示す保守パソコン43と同様に機能するシステムを実現できる。
【0107】
このように構成される情報管理システムでは、LANあるいはインターネットなどのネットワークで接続された世界(サイバースペース)において様々な行為や活動(商取引、契約事項等への同意など)を行う際に、本人の承認を示す情報として顔画像を記録することができる。
【0108】
例えば、上記のような情報管理システムでは、次のような機能をユーザが情報端末を操作するだけで実現可能となる。
(1)電子メイルや電子文書などを作成または発信した際に、作成者あるいは発信者の顔画像を記録に残す機能が実現できる。この機能により、電子メイルや電子文書などの作成者あるいは発信者を顔画像で証明することができ、不審な者からの不正な電子メイルや電子文書を抑制し、電子メイルや電子文書などの安全なやり取りが可能となる。
【0109】
(2)決裁や承認などの行為を行った際に、決裁あるいは承認などの行為を行った人物の顔画像を記録に残す機能が実現できる。この機能により、決裁あるいは承認などの行為を行った人物の顔画像を証拠として残すことができ、サイバースペースにおける行為や活動のセキュリティを向上できる。
【0110】
また、図23は、図22に示す情報管理システムの変形例を示すものである。図23に示す情報管理システムでは、図22に示すネットワーク97に、認証用のサーバ(認証サーバ)110を追加した構成となっている。上記認証サーバ110は、顔照合によりユーザを認証する認証機関として機能する。このような構成された情報管理システムでは、上記情報端末(90a、90b、…、90n)で撮影された顔画像に基づいて認証サーバ110がユーザの認証処理を行うようになっている。すなわち、上記認証サーバ110では、情報管理システム上の各情報端末(90a、90b、…、90n)で撮影された顔画像による認証処理を一括して行うようになっている。上記認証サーバ110による認証処理の結果は、管理サーバ100へ送るようにしても良いし、当該画像を撮影した各情報端末(90a、90b、…、90n)へ返すようにしても良い。
【0111】
すなわち、図23に示す情報管理システムの構成では、認証サーバが各情報端末で撮影された顔画像の認証処理を行う。これにより、各情報端末で撮影された顔画像の正当性を上記認証サーバが保証するようになっている。従って、各情報端末で撮影された顔画像の認証処理を効率良く、かつ、確実に行うことができる。また、認証処理を管理サーバとは独立した装置で行うようにしたため、この情報管理システムの導入コストを低く抑え、かつ、メンテナンス性能の向上が期待できる。
【0112】
図24は、図22或は図23に示す情報端末90aの一例を示す図である。図24に示す情報端末90aは、ノート型のパーソナルコンピュータ(PC)にデジタルカメラ等のカメラ91aを接続した構成となっている。上記カメラ91aは、上記ノート型PCの本体にUSBケーブル等により接続される。上記ノート型PCは、制御部92a、記憶部93a、通信部94a、表示部95a、及び操作部96a等を有している。上記ノート型PCには、予めワードプロセッサのアプリケーション及び顔画像の抽出処理を行うアプリケーション等がインストールされているものとする。
【0113】
図25は、ユーザの顔画像を撮影する際に表示部95aに表示される案内画面の例を示す図である。図25に示す案内画面の例では、表示画面上に3つの表示領域121、122、123が設けられている。
上記表示領域121には、処理内容、或は処理目的の案内が表示される。例えば、上記表示領域121には、処理内容の案内として「顔画像を登録してください」という案内が表示される。
【0114】
また、上記表示領域122には、上記カメラ91aにて撮影している画像がリアルタイムで表示される。これにより、適切な顔の位置をユーザにわかりやすく案内することが可能となる。この表示領域122は、矩形に限定されるものではなく、楕円など種々の形を適用することができる。
また、上記表示領域123には、ユーザに対する動作案内が表示される。例えば、上記表示領域123には、ユーザに対する動作案内として「正面向きの顔がこの窓枠内に入るように顔を動かして下さい」という案内が表示される。
【0115】
次に、文書にユーザの顔画像を添付する処理について説明する。
図26は、ユーザが作成した文書(文書データ)に顔画像を添付する処理を説明するためのフローチャートである。
まず、ユーザは、上記情報端末90aにて文書を作成する(ステップS121)。文書が完成すると、ユーザは、文書の作成完了ボタン(図示しない)を押下する(ステップS122)。文書の作成完了ボタンが押下されると、制御部92aは、ユーザの顔画像の撮影するために、図25に示すようなユーザに対する案内を表示部95aに表示する(ステップS123)。このような案内に応じて、ユーザは、意識的に顔をカメラに向ける動作を行う(ステップS124)。
上記制御部92aは、上記カメラ91aにて撮影した画像からユーザの顔画像を抽出する処理を行う(ステップS125)。なお、顔画像の抽出処理は、上記ステップS21〜S25と同様であるため、詳細な説明を省略する。
【0116】
上記顔画像の抽出処理により顔画像が検出されなかった場合(ステップS126、YES)、制御部92aは、表示部95aに顔画像が検出されなかった旨を表示し、上記ステップS123へ戻る。すなわち、顔画像が検出できなかった場合、制御部92aは、顔の撮影及び顔画像の抽出処理を再度実行する。
また、上記顔画像の抽出処理により顔画像が検出された場合(ステップS126、NO)、制御部92aは、なりすまし検知処理を行う(ステップS127)。なお、なりすまし検知処理は、上記ステップS111〜S116と同様であるため、詳細な説明を省略する。
上記なりすまし検知処理によりなりすましが検知された場合(ステップS128、YES)、制御部92aは、処理を強制終了する。これにより、他人になりすました顔画像の登録を防止できる。また、上記なりすまし検知処理により、なりすましが検知されなかった場合(ステップS128、NO)、制御部92aは、当該顔画像の登録が可能であると判断する。
【0117】
顔画像の登録が可能であると判断すると、制御部92aは、上記抽出処理により抽出した顔画像のデータ(顔画像データ)に対する画像処理を行う(ステップS129)。この画像処理では、例えば、データ圧縮処理、符号化処理、及び暗号化処理などの処理が行われる。上記データ圧縮処理、符号化処理、及び暗号化処理は、従来の技術を採用すればよい。
また、暗号化処理における暗号化の強度(暗号強度)は、ユーザに要求されるセキュリティレベルに応じて選択される。例えば、顔画像データに対する暗号化が必要ない場合、上記画像処理では、暗号化処理を行わずに、データ圧縮処理及び符号化処理等の処理を行う。
顔画像に対する画像処理が完了すると、制御部92aは、画像処理した顔画像データをユーザが作成した文書データに添付する(ステップS130)。ここで、顔画像を添付した文書データを保存する場合、制御部92aは、顔画像データを添付した文書データを記憶部93aに保存する(ステップS131)。また、当該文書を電子メールとして他の情報端末へ送信する場合、制御部92aは、通信部94aにより顔画像データを添付した文書データを、ユーザが指定する宛先に送信する(ステップS131)。
【0118】
上記のように、文書データに文書を作成したユーザの顔画像を添付して記録するようにした。これにより、文書の作成者を顔画像にて確認することができ、文書データのセキュリティが向上する。例えば、電子メールに発信者の顔画像を添付して送信する。これにより、当該電子メールを受信した受信者は、発信者を顔画像で確認することが可能となる。
【0119】
次に、申請書に対する決裁或は承認を行う処理について説明する。
図27は、申請書に対する決裁或は承認を行う処理を説明するためのフローチャートである。ここでは、情報端末90bを操作するあるユーザ(申請者)が、情報端末90aを操作する他のユーザ(権限者)に決裁或は承認を受ける場合の動作例を説明する。また、申請書の内容は、申請データとして権限者に送られるものとする。
まず、申請者は、自身の情報端末90bで申請データを作成する(ステップS141)。申請者は、作成した申請データを権限者宛に送信する。これにより、申請データは、申請者が操作する情報端末90bから権限者が操作する情報端末90aに送信される(ステップS142)。
上記情報端末90aでは、申請データを受信すると(ステップS143)、申請データを表示部95aに表示する(ステップS144)。表示部95aに申請データが表示されると、権限者は、表示された申請内容に対する決裁或は承認を判断する。この判断結果は、権限者により操作部96aにて入力される(ステップS145)。
【0120】
例えば、申請内容を不可と判断した場合(ステップS146、NO)、権限者は、操作部96aにより申請内容を不可とする旨を入力する。すると、制御部92aは、申請内容に対する差し戻し処理を実行する(ステップS147)。差し戻し処理は、申請者に対して申請内容が権限者に不可と判断された旨を通知する処理である。例えば、差し戻し処理は、申請データに申請内容の不可を示す情報を付与して申請者に返信する。また、差し戻し処理として、後述するステップS148の処理を行って、申請内容の不可を示す情報に権限者者の顔画像を添付して申請者に通知するようにしても良い。
【0121】
また、申請内容を許可すると判断した場合(ステップS146、YES)、権限者は、操作部96aにより申請内容を許可する旨を入力する。すると、制御部92aは、権限者の顔画像の抽出処理及び抽出した顔画像に対するなりすまし検知処理を実行する(ステップS148)。なお、上記ステップS148の顔画像の抽出処理及びなりすまし検知処理は、上記ステップS123〜S128と同様であるため、詳細な説明は省略する。
上記顔画像の抽出処理及びなりすまし検知処理により権限者の顔画像が決定すると、制御部92aは、上記ステップS129と同様に、顔画像に対する画像処理を実行する(ステップS149)。顔画像に対する画像処理が完了すると、上記ステップS130及びS131と同様に、申請データに画像処理された顔画像データを添付し(ステップS150)、記憶部93aに保存する(ステップS151)。また、顔画像データを添付した申請データは、通信部94aにより申請者に返信するようにしても良い。
【0122】
上記のように、申請データを決裁或は承認を行う権限者に送信し、権限者が申請データに対する決裁或は承認を行う。権限者に許可すると判断された申請データに対しては、決裁或は承認を行った権限者の顔画像を添付する。これにより、申請内容に対して決裁或は承認を行った権限者の顔画像が記録でき、セキュリティが向上する。
また、上記ステップS121〜S131、或は上記ステップS141〜S151の動作を図23に示すような構成の情報管理システムに適用する場合、抽出した顔画像と辞書114に登録されている顔画像との照合を認証サーバ110が行うようにしても良い。この場合、文書或は申請データに、顔画像データを添付するとともに、認証サーバ110で認証されたユーザを示す情報が添付できる。これにより、セキュリティレベルを更に向上させることが可能となる。
【0123】
また、顔画像データが添付された文書或は申請内容の正当性を確認する場合、管理サーバ100の表示部102に、当該文書或は申請データに添付された顔画像を表示させる。これにより、しかるべき資格をもった管理者が、管理サーバ100の表示部102に表示された顔画像を確認して文書或は申請内容の正当性を判定できる。
また、文書或は申請内容の正当性を確認する場合、当該文書或は申請データに添付された顔画像を読出し、管理サーバ100の照合用辞書87或は認証サーバ110の辞書114に登録されている顔画像との照合を行って、文書或は申請データに添付された顔画像のユーザを確認するようにしても良い。
【0124】
上記のように、第6の実施の形態では、パソコンあるいは携帯端末などのカメラ付き情報端末を利用して、インターネットあるいはLANなどのネットワーク(サイバースペース)世界において様々な行為や活動を行う際に、実行者の顔画像を記録しておくようにしたものである。これにより、実世界における「印鑑を押す」行為と同等な利便性をもつものがサイバースペースにおいても実現でき、かつ、ユーザの利便性が良い情報管理システムを提供できる。
【0125】
なお、本発明は、各実施の形態の要旨を逸脱しない範囲で、各実施の形態を変形したり、各実施の形態を組み合わせて実現することが可能となっている。
以上詳述したように、上記第1〜第6の実施の形態によれば、利用される用途に応じたセキュリティレベルを持ちつつ、装置の導入負担ができるだけ少なく、かつ、ユーザが使い易い利便性の高い本人認証を実現する顔画像記録装置、顔画像記録システム、顔画像記録方法、及び情報管理方法を提供できる。
【図面の簡単な説明】
【0126】
【図1】この発明の各実施の形態に係る顔画像記録装置の外観構成の例を示す図。
【図2】各実施の形態に係る顔画像記録装置の外観構成の例を示す図。
【図3】各実施の形態に係る顔画像記録装置の設置例を示す図。
【図4】各実施の形態に係る顔画像記録装置の設置例を示す図。
【図5】各実施の形態に係る顔画像記録装置を入退室システムに適用する場合の構成例を示す図。
【図6】各実施の形態に係る顔画像記録装置の内部構成例を示す図。
【図7】第1の実施の形態の全体的な動作を説明するためのフローチャート。
【図8】第1の実施の形態の全体的な動作を説明するためのフローチャート。
【図9】顔の特徴点の抽出処理を説明するためのフローチャート。
【図10】記録装置に記録する画像に対する画像処理を説明するためのフローチャート。
【図11】なりすまし検知処理の例を説明するためのフローチャート
【図12】第2の実施の形態の全体的な動作を説明するためのフローチャート。
【図13】第2の実施の形態の全体的な動作を説明するためのフローチャート。
【図14】顔画像の照合処理を説明するためのフローチャート。
【図15】第3の実施の形態に係る顔画像記録装置及び保守パソコンの概略構成を示す図。
【図16】顔画像の検索処理を説明するためのフローチャート。
【図17】特定の個人における照合度の経時変化を示す図。
【図18】照合用辞書の更新処理の動作例を説明するためのフローチャート。
【図19】第4の実施の形態として、顔画像記録装置にカードリーダを接続した場合の構成例を示す図。
【図20】顔画像記録装置にバイオメトリクス認証装置を接続した場合の構成例を示す図。
【図21】第5の実施の形態としての顔画像記録システムの構成例を示す。
【図22】第6の実施の形態の情報管理システムの構成例を概略的に示す図。
【図23】図22の情報管理システムの変形例を概略的に示す図。
【図24】図22、図23に示す情報端末の例を示す図。
【図25】情報端末の表示例を示す図。
【図26】文書に顔画像を添付する処理のフローチャート。
【図27】申請データに顔画像を添付する処理のフローチャート。
【符号の説明】
【0127】
1、82、95a…表示部(報知手段)、2、91a、91b…カメラ(撮影手段)、5…入力部(入力手段)、31…処理プロセッサ(処理手段、更新手段)、31a…特徴量抽出部(特徴量抽出手段)、31b…情報生成部(生成手段)、31c…なりすまし検知部(なりすまし検知手段)、31d…画像処理部(画像処理手段)、31e…顔照合部(照合手段)、31g…検索部(検索手段)、37…記録装置(記憶手段)、38、87、114…照合用辞書(記憶手段)、43…保守パソコン(検索手段)、52…操作部(入力手段)、53…表示部(表示手段)、62…カードリーダ(入力手段)、65…バイオメトリクス認証装置(認証手段)、71a、71b、…顔画像記録装置(端末装置)、80、100…管理サーバ(管理装置)、86、107…顔画像履歴DB(記憶手段)、90a、90b…情報端末、110…認証サーバ(認証装置)
【特許請求の範囲】
【請求項1】
人物の顔画像を記録する顔画像記録装置において、
顔画像を記録する必要のない人物の顔の特徴量が予め登録されている第1の記憶手段と、
1人の人物の顔を複数撮影する撮影手段と、
この撮影手段で撮影した各画像からそれぞれ顔の特徴量を抽出する特徴量抽出手段と、
この特徴量抽出手段により抽出された顔の特徴量と上記第1の記憶手段に登録されている顔の特徴量との照合を行う照合手段と、
この照合手段による照合が失敗した場合に、上記撮影手段で撮影した画像のうち上記特徴量抽出手段により顔の特徴量が抽出された画像を記録する第2の記憶手段と、
を具備することを特徴とする顔画像記録装置。
【請求項2】
さらに、上記照合手段による照合が失敗した場合、外部機器へ上記撮影手段で撮影した人物の顔と上記第1の記憶手段に登録されている人物の顔との照合が失敗した旨を通知する通知手段を有することを特徴とする上記請求項1に記載の顔画像記録装置。
【請求項3】
さらに、上記撮影手段で撮影される人物により個人ID情報が入力される入力手段を有し、
上記第1の記憶手段には、各人物の顔の特徴量に対応して各人物の個人ID情報が登録され、上記照合手段は、上記特徴量抽出手段が抽出した顔の特徴量と上記第1の記憶手段に登録されている上記入力手段で入力された個人ID情報に対応する顔の特徴量との照合を行うことを特徴とする上記請求項1に記載の顔画像記録装置。
【請求項4】
人物の顔画像を記憶する顔画像記録方法であって、
顔の画像を記録する必要のない人物の顔の特徴量を予め第1の記憶手段に記録しておく第1の記録工程と、
1人の人物の顔を撮影手段で複数撮影する撮影工程と、
この撮影工程により撮影した各画像からそれぞれ顔の特徴量を抽出する特徴量抽出工程と、
この特徴量抽出工程により抽出された顔の特徴量と上記第1の記憶手段に記録されている顔の特徴量との照合を行う照合工程と、
この照合工程による照合が失敗した場合に、上記撮影工程で撮影した画像のうち顔の特徴量が抽出された画像を第2の記憶手段に記録する第2の記録工程と、
を有することを特徴とする顔画像記録方法。
【請求項1】
人物の顔画像を記録する顔画像記録装置において、
顔画像を記録する必要のない人物の顔の特徴量が予め登録されている第1の記憶手段と、
1人の人物の顔を複数撮影する撮影手段と、
この撮影手段で撮影した各画像からそれぞれ顔の特徴量を抽出する特徴量抽出手段と、
この特徴量抽出手段により抽出された顔の特徴量と上記第1の記憶手段に登録されている顔の特徴量との照合を行う照合手段と、
この照合手段による照合が失敗した場合に、上記撮影手段で撮影した画像のうち上記特徴量抽出手段により顔の特徴量が抽出された画像を記録する第2の記憶手段と、
を具備することを特徴とする顔画像記録装置。
【請求項2】
さらに、上記照合手段による照合が失敗した場合、外部機器へ上記撮影手段で撮影した人物の顔と上記第1の記憶手段に登録されている人物の顔との照合が失敗した旨を通知する通知手段を有することを特徴とする上記請求項1に記載の顔画像記録装置。
【請求項3】
さらに、上記撮影手段で撮影される人物により個人ID情報が入力される入力手段を有し、
上記第1の記憶手段には、各人物の顔の特徴量に対応して各人物の個人ID情報が登録され、上記照合手段は、上記特徴量抽出手段が抽出した顔の特徴量と上記第1の記憶手段に登録されている上記入力手段で入力された個人ID情報に対応する顔の特徴量との照合を行うことを特徴とする上記請求項1に記載の顔画像記録装置。
【請求項4】
人物の顔画像を記憶する顔画像記録方法であって、
顔の画像を記録する必要のない人物の顔の特徴量を予め第1の記憶手段に記録しておく第1の記録工程と、
1人の人物の顔を撮影手段で複数撮影する撮影工程と、
この撮影工程により撮影した各画像からそれぞれ顔の特徴量を抽出する特徴量抽出工程と、
この特徴量抽出工程により抽出された顔の特徴量と上記第1の記憶手段に記録されている顔の特徴量との照合を行う照合工程と、
この照合工程による照合が失敗した場合に、上記撮影工程で撮影した画像のうち顔の特徴量が抽出された画像を第2の記憶手段に記録する第2の記録工程と、
を有することを特徴とする顔画像記録方法。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【図18】
【図19】
【図20】
【図21】
【図22】
【図23】
【図24】
【図25】
【図26】
【図27】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【図18】
【図19】
【図20】
【図21】
【図22】
【図23】
【図24】
【図25】
【図26】
【図27】
【公開番号】特開2008−305400(P2008−305400A)
【公開日】平成20年12月18日(2008.12.18)
【国際特許分類】
【出願番号】特願2008−143312(P2008−143312)
【出願日】平成20年5月30日(2008.5.30)
【分割の表示】特願2002−138757(P2002−138757)の分割
【原出願日】平成14年5月14日(2002.5.14)
【出願人】(000003078)株式会社東芝 (54,554)
【Fターム(参考)】
【公開日】平成20年12月18日(2008.12.18)
【国際特許分類】
【出願日】平成20年5月30日(2008.5.30)
【分割の表示】特願2002−138757(P2002−138757)の分割
【原出願日】平成14年5月14日(2002.5.14)
【出願人】(000003078)株式会社東芝 (54,554)
【Fターム(参考)】
[ Back to top ]