説明

携帯情報端末装置

【課題】 不正使用者を特定するのに有用な情報のみを記憶することができる携帯情報端末装置を提供することを目的とする。
【解決手段】 特徴抽出部402Aにおいて撮影画像から特徴情報は抽出されたが、その特徴情報と登録特徴情報との一致度が認証閾値よりも小さいと一致度判定部402Cにおいて判定された場合に、エラー履歴情報管理部404がそのときのエラー履歴情報をエラー履歴情報記憶部414に格納する。これにより、真のユーザとは異なる者、例えば携帯電話機を盗んだ者などが、その携帯電話機を不正に使用しようとして、その者の顔画像から特徴情報が抽出された場合にのみ、認証処理において認証に失敗した履歴情報をエラー履歴情報として格納し、携帯電話機を取り戻した後、エラー履歴情報からその者を特定することができる。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、携帯情報端末装置に係り、更に詳しくは、撮影画像に基づいて認証処理を行う携帯情報端末装置の改良に関する。
【背景技術】
【0002】
携帯電話機などの携帯情報端末装置の中には、被写体を撮影して画像データを生成するカメラを備えているものがある。この種の携帯情報端末装置において、最近では、操作中にカメラによる顔画像の撮影を促し、撮影した顔画像から抽出される目、鼻、口及び輪郭の形や大きさなどの特徴情報を、携帯情報端末装置に備えられたメモリに登録特徴情報として予め記憶されているユーザの特徴情報と比較することにより、認証処理(いわゆる顔認証)を行うようになっているものがある。認証処理の結果、撮影画像から抽出された特徴情報とユーザの特徴情報との一致度が認識閾値を超えた場合にのみ、そのとき操作を行っている者が真のユーザであると判断し、その後の処理の実行を許可することにより、セキュリティの向上やプライバシーの保護を図ることができる(例えば、特許文献1参照)。
【0003】
認証処理の際に撮影した画像は、通常、メモリには記憶されず、その画像から抽出された特徴情報だけがメモリに記憶され、その特徴情報と登録特徴情報とが比較される。ここで、真のユーザとは異なる者、例えば盗んだ携帯情報端末装置の操作を行う者などが、その携帯情報端末装置を不正に使用しようとした場合、認証処理時に撮影した画像を履歴情報として記憶しておくことができれば、携帯情報端末装置を取り戻した後、記憶されている画像からその不正使用者を特定することができ便利である。そこで、この種の技術分野では、認証処理に失敗した場合に、認証処理時に撮影した画像を履歴情報として記憶する技術が種々提案されている(例えば、特許文献1〜3参照)。
【特許文献1】特開2000−278658号公報
【特許文献2】特開2005−115485号公報
【特許文献3】特開2005−084991号公報
【発明の開示】
【発明が解決しようとする課題】
【0004】
しかしながら、上記従来技術では、認証処理に失敗した場合、認証処理時に撮影した画像がいかなる画像であっても履歴情報として記憶される。したがって、例えば、認証処理時に、操作を行う者が自分の顔ではなく周囲の風景を撮影した場合などであっても、その画像が履歴としてメモリに記憶されてしまう。すなわち、不正使用者を特定するために全く必要のない情報がメモリに記憶されてしまい、メモリの使用量が必要以上に増加する場合があった。
【0005】
本発明は、上記の事情に鑑みてなされたものであり、不正使用者を特定するのに有用な情報のみを記憶することができる携帯情報端末装置を提供することを目的とする。
【0006】
また、本発明は、メモリの使用量を低減することができる携帯情報端末装置を提供することを目的とする。
【0007】
また、本発明は、不正使用者をより確実に特定できる携帯情報端末装置を提供することを目的とする。
【課題を解決するための手段】
【0008】
第1の本発明による携帯情報端末装置は、被写体を撮影するための撮像手段と、顔画像から抽出された特徴情報を登録特徴情報として予め記憶しておく特徴情報記憶手段と、上記登録特徴情報を用いて、上記撮像手段による撮影画像に基づく認証処理を行う認証処理手段と、上記認証処理において認証に失敗した履歴情報をエラー履歴情報としてエラー履歴記憶手段に格納するエラー履歴管理手段とを備え、上記認証処理手段が、上記撮影画像から特徴情報を抽出する特徴抽出手段と、上記特徴抽出手段により抽出された特徴情報を上記特徴情報記憶手段に記憶されている登録特徴情報と比較し、数値化された一致度を求める一致度算出手段と、上記一致度を認証閾値と比較する一致度判定手段とを有し、上記エラー履歴管理手段は、上記特徴抽出手段において特徴情報が抽出され、かつ、上記一致度判定手段において一致度が認証閾値よりも小さいと判定された場合に、上記エラー履歴記憶手段にエラー履歴情報を格納する。
【0009】
このような構成によれば、撮影画像から特徴情報は抽出されたが、その特徴情報と登録特徴情報との一致度が認証閾値よりも小さいと判定された場合にのみ、エラー履歴情報を格納することができる。すなわち、撮影画像が顔画像であり、例えば目、鼻、口及び輪郭の形や大きさといった顔画像の特徴情報が抽出されたにもかかわらず、登録特徴情報として予め記憶されているユーザの特徴情報との一致度が認証閾値よりも小さく、真のユーザでないと判断された場合にのみ、エラー履歴情報を格納することができる。
【0010】
これにより、真のユーザとは異なる者、例えば携帯情報端末装置を盗んだ者などが、その携帯情報端末装置を不正に使用しようとして、その者の顔画像から特徴情報が抽出された場合にのみ、認証処理において認証に失敗した履歴情報をエラー履歴情報として格納し、携帯情報端末装置を取り戻した後、エラー履歴情報からその者を特定することができる。したがって、撮影画像から不正使用者と特定できないような場合にエラー履歴情報が格納されるのを防止できるので、不正使用者を特定するのに有用な情報のみを記憶することができ、メモリの使用量を低減することができる。
【0011】
第2の本発明による携帯情報端末装置は、計時を行うための計時手段を備え、上記エラー履歴情報には、上記認証処理が行われたときに上記計時手段により計時された時間情報が含まれる。
【0012】
このような構成によれば、認証処理が行われたときの時間情報をエラー履歴情報として格納することができる。したがって、携帯情報端末装置を取り戻した後、認証処理が行われたときの時間情報から不正使用者を特定することができるので、不正使用者をより確実に特定できる。
【0013】
第3の本発明による携帯情報端末装置において、上記エラー履歴情報には、上記認証処理に用いられた上記撮像手段による撮影画像が含まれる。
【0014】
このような構成によれば、認証処理に用いられた撮影画像、すなわち、特徴情報が抽出された顔画像をエラー履歴情報として格納することができる。したがって、携帯情報端末装置を取り戻した後、顔画像から不正使用者を特定することができるので、不正使用者をより確実に特定できる。
【0015】
第4の本発明による携帯情報端末装置は、上記撮像手段及び上記認証処理手段を制御することにより、上記認証処理において認証に失敗した場合に再度撮影を行い、その撮影画像に基づく認証処理を行う連続認証手段を備え、上記エラー履歴情報には、上記認証処理に用いられた上記撮像手段による撮影画像の全部又は任意の1つが含まれる。
【0016】
このような構成によれば、繰り返し連続して行われた認証処理のいずれにおいても認証に失敗した場合に、それらの認証処理に用いられた撮影画像(顔画像)の全部又は任意の1つをエラー履歴情報として格納することができる。顔画像の全部を格納する場合には、それらの顔画像に基づいて不正使用者をより確実に特定できる。一方、顔画像の任意の1つを格納する場合には、顔画像の全部を格納する場合と比べて、メモリの使用量を低減することができる。
【0017】
第5の本発明による携帯情報端末装置は、上記携帯情報端末装置の位置情報を検出するための位置情報検出手段を備え、上記エラー履歴情報には、上記認証処理が行われたときに上記位置情報検出手段により検出された位置情報が含まれる。
【0018】
このような構成によれば、認証処理が行われたときの位置情報をエラー履歴情報として格納することができる。したがって、携帯情報端末装置を取り戻した後、認証処理が行われたときの位置情報から不正使用者を特定することができるので、不正使用者をより確実に特定できる。
【0019】
第6の本発明による携帯情報端末装置において、上記エラー履歴記憶手段には、最も新しいエラー履歴情報から順に所定回数分のエラー履歴情報を格納することができ、上記エラー履歴管理手段は、前回のエラー履歴情報を格納してから一定時間経過後に認証に失敗した場合に、上記エラー履歴記憶手段にエラー履歴情報を格納する。
【0020】
このような構成によれば、不正使用者が、認証処理において認証に失敗した履歴情報がエラー履歴情報として格納されたことに気付き、そのエラー履歴情報をエラー履歴記憶手段から消去するために、自分の顔が認識されないような認証処理を短時間に複数回行った場合に、それらの認証処理時のエラー履歴情報が格納されるのを防止することができる。したがって、不正使用者を特定するのに有用なエラー履歴情報が、不正使用者により故意にエラー履歴記憶手段から消去されるのを防止できるので、不正使用者をより確実に特定できる。
【0021】
第7の本発明による携帯情報端末装置は、上記エラー履歴記憶手段にエラー履歴情報が格納されたことを待受画面に表示するエラー表示手段を備えて構成される。
【0022】
このような構成によれば、ユーザの知らないうちに携帯情報端末装置が不正に使用され、そのときのエラー履歴情報がエラー履歴記憶手段に格納された場合に、その旨を待受画面に表示してユーザに報知することができる。
【発明の効果】
【0023】
本発明の携帯情報端末装置によれば、撮影画像が顔画像であり、撮影画像から特徴情報は抽出されたが、その特徴情報と登録特徴情報との一致度が認証閾値よりも小さいと判定された場合にのみ、エラー履歴情報を格納することができる。これにより、撮影画像から不正使用者と特定できないような場合にエラー履歴情報が格納されるのを防止できるので、不正使用者を特定するのに有用な情報のみを記憶することができ、メモリの使用量を低減することができる。
【0024】
本発明の携帯情報端末装置によれば、認証処理が行われたときの時間情報、認証処理に用いられた撮影画像、あるいは認証処理が行われたときの位置情報をエラー履歴情報として格納することにより、携帯情報端末装置を取り戻した後、それらの情報から不正使用者を特定することができるので、不正使用者をより確実に特定できる。繰り返し連続して認証処理を行った場合には、それらの認証処理に用いられた撮影画像の全部を格納すれば不正使用者をより確実に特定でき、撮影画像の任意の1つを格納すればメモリの使用量を低減することができる。
【0025】
本発明の携帯情報端末装置によれば、前回のエラー履歴情報を格納してから一定時間経過後に認証に失敗した場合にのみエラー履歴情報を格納することにより、不正使用者を特定するのに有用なエラー履歴情報が、不正使用者により故意にエラー履歴記憶手段から消去されるのを防止できるので、不正使用者をより確実に特定できる。
【0026】
本発明の携帯情報端末装置によれば、ユーザの知らないうちに携帯情報端末装置が不正に使用され、そのときのエラー履歴情報がエラー履歴記憶手段に格納された場合に、その旨を待受画面に表示してユーザに報知することができる。
【発明を実施するための最良の形態】
【0027】
図1は、本発明の実施の形態による携帯情報端末装置の一例を示した外観図であり、携帯情報端末装置の一例として携帯電話機1が示されている。この携帯電話機1は、いわゆる折り畳み式の携帯電話機であり、表示筐体100及び操作筐体200がヒンジ部300を介して連結され、表示筐体100及び操作筐体200の一面を対向させて折り畳むことができる。
【0028】
表示筐体100は、折り畳み時に内側となる筐体面にメイン表示部101、受話用レシーバ103及びサブカメラ105が配置され、外側となる筐体面にサブ表示部102及びメインカメラ104が配置されている。また、操作筐体200は、折り畳み時に内側となる筐体面に多数の操作キー201及び送話用マイクロフォン203が配置されている。このような折り畳み式携帯電話機1は、コンパクトに折り畳んだ状態で携帯することができ、筐体を展開させれば、メイン表示部101の表示を見ながら、操作キー201を押下操作することができる。つまり、主な情報表示はメイン表示部101を用いて行われ、主な操作入力は操作キー201を用いて行われている。
【0029】
この携帯電話機1は、メイン表示部101の表示を見ながらユーザが操作キー201の操作を行っているときに、サブカメラ105によりユーザの顔画像を撮影し、その顔画像から抽出される特徴情報に基づいて認証処理を行った結果、そのとき操作を行っている者が真のユーザであると判断した場合にのみ、その後の処理の実行を許可する機能(いわゆる顔認証機能)を有している。秘匿性の高い機能の実行に際して認証処理を行うことにより、セキュリティの向上やプライバシーの保護を図ることができる。
【0030】
図2は、図1に示した携帯電話機1の内部構成の一例を示したブロック図である。制御部400は、携帯電話機1の主要な動作を制御するプロセッサであって、撮像ユニット駆動制御部401、認証処理部402、連続認証部403、エラー履歴管理部404、計時部405及び位置情報検出部406を備えている。制御部400には、操作キー201からの操作信号が入力されるとともに、メモリ410、画像入出力部430、音声入出力部440及び通信部450が入出力可能に接続されている。
【0031】
画像入出力部430には、メイン表示部101、サブ表示部102、メインカメラ104及びサブカメラ105が備えられている。メインカメラ104及びサブカメラ105は、それぞれ撮像ユニットとしてユニット化されており、これらの撮像ユニットには、CCD(Charge-Coupled Device)又はCMOS(Complementary Metal Oxide Semiconductor)イメージセンサなどの光電変換素子及び制御回路が備えられている。ここでは、撮像ユニットの電源投入後に、オフセットやゲインの調整などの初期化処理を行う必要がある光電変換素子が用いられている。
【0032】
音声入出力部440には、受話用レシーバ103及び送話用マイクロフォン203が備えられている。通信部450は、図示しない基地局との間で電波の送受信を行うことにより、音声データや画像データなどの送受信を行う。
【0033】
撮像ユニット駆動制御部401は、画像入出力部430に信号を送信することにより、メインカメラ104及びサブカメラ105の駆動を制御する。この実施の形態では、撮像ユニット駆動制御部401がサブカメラ105の駆動を制御することにより、メイン表示部101を見ながら操作キー201の操作を行っている者の顔画像をサブカメラ105で撮影し、その顔画像から抽出される特徴情報に基づいて認証処理を行うものとする。ただし、メインカメラ104により顔画像を撮影して認証処理を行うような構成であってもよい。
【0034】
認証処理部402は、撮影画像から抽出された特徴情報を、メモリ410に予め記憶されているユーザの特徴情報(登録特徴情報)と比較することにより、そのとき操作を行っている者が真のユーザであるか否かを判断する。連続認証部403は、撮像ユニット駆動制御部401及び認証処理部402を制御することにより、複数回の認証処理を連続して行う。エラー履歴管理部404は、認証に失敗した場合に、その認証時の履歴情報をエラー履歴情報としてメモリ410に格納する。
【0035】
計時部405は、時間の計測を行うものである。位置情報検出部406は、携帯電話機1の位置情報を検出するものであり、ここでは、GPS(Global Positioning System)により位置情報検出部406が構成されている。
【0036】
メモリ410には、表示画面データ記憶部411、画像データ記憶部412、特徴情報記憶部413及びエラー履歴情報記憶部414が割り当てられている。表示画面データ記憶部411には、メイン表示部101やサブ表示部102に表示させる画面のデータが記憶される。画像データ記憶部412には、メインカメラ104やサブカメラ105で撮影した画像データや、通信部450を介して外部から受信した画像データなどが記憶される。特徴情報記憶部413には、認証処理に用いられる顔画像の特徴情報が記憶される。
【0037】
エラー履歴情報記憶部414には、最も新しいエラー履歴情報から順に所定回数分のエラー履歴情報が格納される。すなわち、エラー履歴情報記憶部414に記憶されているエラー履歴情報が上記所定回数分に満たない状態で認証に失敗した場合には、その認証時におけるエラー履歴情報がエラー履歴情報記憶部414に追加して記憶される。一方、エラー履歴情報記憶部414に上記所定回数分のエラー履歴情報が記憶されている状態で認証に失敗した場合には、最も古いエラー履歴情報が削除されるとともに、認証時における新たなエラー履歴情報が記憶される。
【0038】
エラー履歴情報としては、例えば、認証処理が行われたときに計時部405から出力される時間情報、認証処理に用いられたサブカメラ105による撮影画像、あるいは認証処理が行われたときに位置情報検出部406から出力される位置情報などを記憶することができる。
【0039】
ただし、認証処理に用いられる顔画像の特徴情報や顔画像の画像データは、例えばSIM(Subscriber Identity Module)カードのような携帯電話機1に対して着脱可能な記憶媒体(図示せず)に記憶されるような構成であってもよい。
【0040】
図3は、図2の撮像ユニット駆動制御部401の構成例を示したブロック図である。撮像ユニット駆動制御部401は、撮像ユニット起動部407、撮影制御部408及び撮像ユニット停止部409を備えている。撮像ユニット起動部407は、メインカメラ104及びサブカメラ105に制御信号を送信して、これらを起動させるためのものであり、ユーザの操作に基づいてメインカメラ104又はサブカメラ105に電源を投入する電源投入部407Aと、初期化処理を実行する初期化処理部407Bとを備えている。
【0041】
撮影制御部408は、初期化処理部407Bからの入力信号やユーザによる撮影操作に基づいて、メインカメラ104又はサブカメラ105の撮影動作を制御することにより、そのときのメインカメラ104又はサブカメラ105に対する被写体の静止画像データを生成する。撮像ユニット停止部409は、メインカメラ104又はサブカメラ105に供給する電力を停止させることにより、それらの撮像ユニットの駆動を停止させる。
【0042】
図4は、図2の認証処理部402の構成例を示したブロック図である。認証処理部402は、特徴抽出部402A、一致度算出部402B及び一致度判定部402Cを備えている。認証処理が開始されると、特徴抽出部402Aにより、サブカメラ105で撮影した顔画像から、目、鼻、口及び輪郭といった顔の各部分についての形や大きさなどの特徴情報が抽出される。
【0043】
撮影画像が顔画像でない風景画像などである場合には、撮影画像から特徴情報を抽出することができない。この場合、認証に失敗することとなるが、このときのエラー履歴情報はメモリ410のエラー履歴情報記憶部414に記憶されない。一方、撮影画像から特徴情報を抽出することに成功した場合には、一致度算出部402Bにより、その特徴情報がメモリ410の特徴情報記憶部413に記憶されている登録特徴情報と比較され、数値化された一致度が算出される。
【0044】
一致度判定部402Cは、一致度算出部402Bにより算出された一致度を所定の閾値(認証閾値)と比較し、その比較結果を出力する。このとき、一致度が認証閾値を超えた場合には、真のユーザであると判断されて認証に成功し、一致度が認証閾値よりも小さい場合には、真のユーザであると判断されず認証に失敗する。ここで、一致度とは、比較されたすべての特徴情報のうち一致した特徴情報の占める割合(%)であって、認証閾値は、通常、90%以上の所定値に設定されている。
【0045】
一致度判定部402Cから出力される比較結果は、エラー履歴管理部404に入力される。認証に失敗した場合には、エラー履歴管理部404は、その認証時におけるエラー履歴情報をエラー履歴情報記憶部414に格納する。一方、認証に成功した場合、又は、前回のエラー履歴情報をエラー履歴情報記憶部414に記憶してから一定時間内に認証に失敗した場合には、エラー履歴管理部404は、その認証時におけるエラー履歴情報をエラー履歴情報記憶部414に格納しない。すなわち、エラー履歴管理部404は、前回のエラー履歴情報を格納してから一定時間経過後に認証に失敗した場合にのみ、エラー履歴情報をエラー履歴情報記憶部414に格納する。
【0046】
本実施の形態では、撮影画像から特徴情報は抽出されたが、その特徴情報と登録特徴情報との一致度が認証閾値よりも小さいと判定された場合にのみ、エラー履歴情報を格納することができる。すなわち、撮影画像が顔画像であり、例えば目、鼻、口及び輪郭の形や大きさといった顔画像の特徴情報が抽出されたにもかかわらず、登録特徴情報として予め記憶されているユーザの特徴情報との一致度が認証閾値よりも小さく、真のユーザでないと判断された場合にのみ、エラー履歴情報を格納することができる。
【0047】
これにより、真のユーザとは異なる者、例えば携帯電話機1を盗んだ者などが、その携帯電話機1を不正に使用しようとして、その者の顔画像から特徴情報が抽出された場合にのみ、認証処理において認証に失敗した履歴情報をエラー履歴情報として格納し、携帯電話機1を取り戻した後、エラー履歴情報からその者を特定することができる。したがって、撮影画像から不正使用者と特定できないような場合にエラー履歴情報が格納されるのを防止できるので、不正使用者を特定するのに有用な情報のみを記憶することができ、メモリ410の使用量を低減することができる。
【0048】
また、前回のエラー履歴情報を格納してから一定時間経過後に認証に失敗した場合にのみエラー履歴情報を格納するような構成により、不正使用者が、認証処理において認証に失敗した履歴情報がエラー履歴情報として格納されたことに気付き、そのエラー履歴情報をエラー履歴情報記憶部414から消去するために、自分の顔が認識されないような認証処理を短時間に複数回行った場合に、それらの認証処理時のエラー履歴情報が格納されるのを防止することができる。したがって、不正使用者を特定するのに有用なエラー履歴情報が、不正使用者により故意にエラー履歴情報記憶部414から消去されるのを防止できるので、不正使用者をより確実に特定できる。
【0049】
図5は、顔認証に関する設定を行う際のメイン表示部101の表示例を示した図である。ユーザが、操作キー201を操作してセキュリティ設定画面を読み出し(図5(a)参照)、そのセキュリティ設定画面に表示された項目の中から「顔認証設定」の項目を選択操作すると、その携帯電話機1に予め割り当てられている端末暗証番号の入力を促す画面がメイン表示部101に表示される(図5(b)参照)。この表示画面において、操作キー201に含まれるクリアキーを操作すると、メイン表示部101の表示は、図5(a)に示すセキュリティ設定画面に戻る。
【0050】
端末暗証番号は、例えば4〜8桁の任意の文字列からなり、携帯電話機1の購入時に予め設定されているが、ユーザが操作キー201を操作することにより変更することも可能である。図5(b)の端末暗証番号入力画面において、操作キー201の操作により入力された文字列が、予め設定されている端末暗証番号と一致しない場合には、その旨がメイン表示部101に表示される(図5(c)参照)。また、端末暗証番号入力画面において入力された文字列が3桁以下である場合には、4〜8桁の文字列を入力すべき旨がメイン表示部101に表示される(図5(d)参照)。
【0051】
メイン表示部101に図5(c)又は図5(d)に示すような表示がされた後、所定時間が経過してタイムアウトとなるか、あるいは、操作キー201に含まれるいずれかのキーが操作されると、メイン表示部101の表示は、図5(a)に示すセキュリティ設定画面に戻る。
【0052】
図5(b)の端末暗証番号入力画面において入力された文字列が、予め設定されている端末暗証番号と一致する場合には、メイン表示部101の表示は、顔認証を行うモードのオン/オフを設定するための顔認証利用設定画面に切り替わる(図5(e)参照)。この表示画面において、操作キー201に含まれるクリアキーを操作すると、メイン表示部101の表示は、図5(b)に示す端末暗証番号入力画面に戻る。また、顔認証利用設定画面において、操作キー201の操作により顔認証がオフされると、メイン表示部101の表示は、図5(a)に示すセキュリティ設定画面に戻る。
【0053】
図5(e)の顔認証利用設定画面において、操作キー201の操作により顔認証がオンされると、メイン表示部101の表示は、顔認証に関する設定を行うための顔認証設定画面に切り替わる(図5(f)参照)。
【0054】
本実施の形態では、顔認証の際に使用する登録特徴情報として、最大7つの画像データから特徴情報を抽出し、メモリ410に記憶させておくことができる。2以上の画像データから抽出される登録特徴情報に基づいて顔認証を行うことにより、真のユーザが顔認証を行う場合に認証に成功する確率(本人受入率)を高めることができ、ユーザの表情や光が当たる角度などの微妙な違いによって認証に失敗するのを防止できる。ただし、顔認証に使用する登録特徴情報は、7つの画像データから抽出されるような構成に限らず、例えば1つの画像データから抽出される登録特徴情報に基づいて顔認証を行うような構成であってもよい。
【0055】
ユーザの顔画像は、メインカメラ104又はサブカメラ105を用いてユーザにより予め撮影され、それらの画像データがメモリ410の画像データ記憶部412に記憶される。顔認証は、これらの画像データから抽出されてメモリ410の特徴情報記憶部413に記憶された登録特徴情報に基づいて行われるため、これらの画像データそのものは顔認証に際して必要とはならないが、メモリ410に記憶しておけば、ユーザがそれらの画像データを読み出して顔画像を確認することができるので、利便性が向上する。
【0056】
図5(f)の顔認証設定画面には、上記登録特徴情報の抽出元であるユーザを表す画像(顔認証用画像)にそれぞれ対応付けられた項目と、顔認証時の認証閾値の設定(セキュリティレベル設定)に対応付けられた項目と、エラー履歴に対応付けられた項目とが含まれる。この表示画面において、顔認証用画像に対応付けられた項目を選択すると、顔認証用画像の上書登録や確認を行うための画面(顔認証用画像登録画面)が表示される。また、セキュリティレベル設定に対応付けられた項目を選択すると、顔認証時の認証閾値を設定するための画面(セキュリティレベル設定画面)が表示される。また、エラー履歴に対応付けられた項目を選択すると、エラー履歴を表示するための画面(エラー履歴画面)が表示される。
【0057】
これらの各種設定等を行った後、操作キー201を操作して、顔認証設定を完了すると、メイン表示部101の表示は、図5(g)又は図5(h)に示すような表示に切り替わる。すなわち、少なくとも1つの顔認証用画像が登録されていれば、その顔認証用画像から抽出された特徴情報に基づいて顔認証を行う旨がメイン表示部101に表示され(図5(g)参照)、この画面に含まれる確認キー111を選択すると、メイン表示部101の表示は、図5(a)に示すセキュリティ設定画面に戻る。一方、顔認証用画像が1つも登録されていない場合には、顔認証用画像の登録を行うべき旨がメイン表示部101に表示され(図5(h)参照)、この画面に含まれる確認キー112を選択すると、メイン表示部101の表示は、図5(f)に示す顔認証設定画面に戻る。
【0058】
図6は、顔認証用画像登録画面の表示例を示した図である。図5(f)の顔認証設定画面において、顔認証用画像に対応付けられたいずれかの項目を選択すると、メイン表示部101の表示は、図6(a)に示すように、その顔認証用画像に対応する顔認証用画像登録画面に切り替わる。顔認証用画像登録画面には、「上書登録」の項目及び「登録データ確認」の項目が含まれる。
【0059】
図6(a)の顔認証用画像登録画面に表示された項目の中から「上書登録」の項目を選択操作すると、サブカメラ105が起動され、サブカメラ105による撮影が可能な状態になった後、サブカメラ105に対する被写体の画像がリアルタイムでメイン表示部101に表示される(図6(b)参照)。このとき、メイン表示部101は、サブカメラ105のファインダとして機能し、メイン表示部101により構成されるファインダ画面には、メイン表示部101を見ながら操作を行っている者の顔が映し出されることとなる。
【0060】
図6(b)のファインダ画面において、ユーザが自分の顔の位置合わせなどを行った後、操作キー201に含まれる決定キーを操作することにより登録操作を行うと、制御部400の特徴抽出部402Aが、そのときサブカメラ105で撮影された画像から特徴情報を抽出する処理を行う。
【0061】
この際、ユーザの顔の位置合わせが適当に行われていれば、目、鼻、口及び輪郭の形や大きさなどの特徴情報を抽出することができるが、位置合わせが適当に行われていない場合や、ユーザの顔がメイン表示部101に全く映し出されていない場合などには、特徴情報を抽出することができない。特徴情報を抽出することに成功した場合には、その特徴情報がメモリ410の特徴情報記憶部413に記憶されるとともに、そのときの顔画像が顔認証用画像としてメモリ410の画像データ記憶部412に記憶される。
【0062】
特徴情報の抽出に成功した場合には、その顔画像に基づく特徴情報をメモリ410に記憶(登録)した旨がメイン表示部101に表示される(図6(c)参照)。この表示画面に含まれる確認キー113をユーザが選択すると、メイン表示部101の表示は、図5(f)に示す顔認証設定画面に戻る。一方、特徴情報の抽出に失敗した場合には、その旨及び特徴情報の抽出に失敗した原因がメイン表示部101に表示され(図6(d)参照)、この表示画面に含まれる確認キー114をユーザが選択すると、メイン表示部101の表示は、図5(b)に示すファインダ画面に戻り、再びサブカメラ105で顔画像を撮影することが可能になる。
【0063】
図6(a)の顔認証用画像登録画面に表示された項目の中から「登録データ確認」の項目を選択操作すると、メモリ410の画像データ記憶部412に記憶されている対応する顔認証用画像が読み出され、メイン表示部101に表示される(図6(e)参照)。ユーザは、図6(e)に示す顔認証用画像確認画面により、登録されている顔認証用画像を確認することができる。この表示画面において、操作キー201に含まれるクリアキーを操作すると、メイン表示部101の表示は、図6(a)に示す顔認証用画像登録画面に戻る。
【0064】
図6(e)の顔認証用画像確認画面において、ユーザが操作キー201を操作することにより、対応する顔認証用画像を削除する操作を行うと、メイン表示部101の表示は、その顔認証用画像を削除してよいか否かを確認する削除確認画面に切り替わる(図6(f)参照)。この表示画面には、顔認証用画像を削除すべき旨を指示する「はい」のキー115と、顔認証用画像を削除しない旨を指示する「いいえ」のキー116とが含まれる。図6(f)の削除確認画面において、操作キー201の操作により「いいえ」のキー116が選択された場合には、メイン表示部101の表示は、図6(e)に示す顔認証用画像確認画面に戻る。
【0065】
図6(f)の削除確認画面において、操作キー201の操作により「はい」のキー115が選択されると、メモリ410の画像データ記憶部412及び特徴情報記憶部413から対応する顔認証用画像及び登録特徴情報を削除するための処理が開始されるとともに、削除中である旨がメイン表示部101に表示される(図6(g)参照)。そして、顔認証用画像及び登録特徴情報を削除する処理が完了すると、その旨がメイン表示部101に表示され(図6(h)参照)、所定時間が経過してタイムアウトとなるか、あるいは、操作キー201に含まれるいずれかのキーが操作されることに応答して、メイン表示部101の表示は、図5(f)に示す顔認証設定画面に戻る。
【0066】
図7は、セキュリティレベル設定画面の表示例を示した図である。図5(f)の顔認証設定画面において、セキュリティレベル設定に対応付けられた項目を選択すると、メイン表示部101の表示は、図7に示すように、顔認証時の認証閾値の設定を行うためのセキュリティレベル設定画面に切り替わる。セキュリティレベルとしては、認証閾値が最も高い「レベル3」と、「レベル3」よりも認証閾値が低い「レベル2」と、「レベル2」よりも認証閾値が低い「レベル1」とが予め設定されており、セキュリティレベル設定画面において、いずれかのセキュリティレベルを選択することができる。
【0067】
図8は、エラー履歴画面の表示例を示した図である。図5(f)の顔認証設定画面において、エラー履歴に対応付けられた項目を選択すると、メイン表示部101の表示は、図8に示すように、エラー履歴を表示するためのエラー履歴画面に切り替わる。エラー履歴画面には、認証に失敗したときの日時を表す時間情報が、エラー履歴情報として所定回数分(例えば、9回分)だけリスト表示される。上記所定回数分のエラー履歴情報がメモリ410のエラー履歴情報記憶部414に記憶された状態で新たに認証に失敗した場合には、最も古いエラー履歴情報が削除され、新たなエラー履歴情報がメモリ410に記憶されるとともに、その新たなエラー履歴情報がエラー履歴画面に表示されるよう更新される。
【0068】
図9は、顔認証を行う際のメイン表示部101の表示例を示した図である。この例では、携帯電話機1の管理機能に含まれるシークレットモードのオン/オフを切り替える際に顔認証が行われる。シークレットモードがオン状態のときには、通常のデータだけでなく、シークレットデータとして予め登録しているデータが表示される状態となり、シークレットモードがオフ状態のときには、シークレットデータは表示されず、通常のデータだけが表示される状態となる。
【0069】
図9(a)に示すような携帯電話機1の管理機能を設定するための管理機能画面において、その管理機能画面に表示された項目の中から「シークレットモード」の項目を選択操作すると、サブカメラ105が起動される。そして、サブカメラ105による撮影が可能な状態になった後、サブカメラ105に対する被写体の画像がリアルタイムでメイン表示部101に表示され(図9(b)参照)、自動認証が開始される。このとき、サブカメラ105の初期化処理が終了して撮影可能な状態になった時点で、ユーザが撮影操作を行わなくても、認証用の顔画像が撮影され、更にこの撮影画像から特徴情報が抽出される。そして抽出された特徴情報がメモリ410の特徴情報記憶部413に予め記憶されているユーザの特徴情報と比較されることにより、認証処理が自動的に行われる。
【0070】
この認証処理において、抽出された顔画像の特徴情報とメモリ410に記憶されているユーザの特徴情報との一致度が、セキュリティレベル設定画面において予め設定されている認証閾値を超えた場合には、その操作者が真のユーザであると判断される。この場合、メイン表示部101に表示されているユーザの顔画像に対して、いわゆるアクションフォーカスによる強調表示が行われることにより、認証に成功した旨が視覚的効果により報知される。
【0071】
その後、認証に成功した旨のメッセージがメイン表示部101に表示され(図9(c)参照)、所定時間経過後に、シークレットモードのオン/オフを切り替えるための画面に切り替わる(図9(d)参照)。一方、特徴情報の一致度が認証閾値よりも小さく、認証に失敗した場合には、その時点でサブカメラ105により撮影される画像から再び特徴情報が自動的に抽出され、その特徴情報がメモリ410に記憶されているユーザの特徴情報と比較される。
【0072】
このように本実施形態では、認証に失敗した場合、所定時間(例えば、3秒)が経過してタイムアウトとなるまで認証処理が繰り返し連続的に行われ、認証に成功した時点で認証処理が終了する。例えば、タイムアウトの時間を3秒に設定した場合には、認証処理が最大で7回程度行われる。すなわち、1回の認証処理に要する時間は0.4秒程度であり、1回目の認証処理で認証に成功すれば、サブカメラ105の初期化処理終了後にほとんど待ち時間なく次の処理に進むことができる。認証処理が繰り返し行われている間、メイン表示部101にはファインダ画面が表示され、サブカメラ105に対する被写体の画像がリアルタイムで表示される。
【0073】
認証処理が繰り返し行われる際、複数回の認証処理が行われるたびに、それらの認証処理における特徴情報の比較結果として、特徴情報の一致度に応じた表示がメイン表示部101になされる。より具体的には、メイン表示部101に表示されているファインダ画面の枠117の色が、特徴情報の一致度に応じた色で表示される。これにより、認証処理時の特徴情報の一致度の比較結果が表示されるので、ユーザは、その表示に基づいて、その認証処理時に撮影された自己の顔画像が認識しやすい画像であったか否かを確認することができる。
【0074】
ただし、このような構成に限らず、特徴情報の一致度が数値やグラフなどを用いてメイン表示部101にレベル表示されるような構成であってもよい。また、すべての認証処理について比較結果を表示するような構成に限らず、少なくとも1回の認証処理について比較結果を表示するものであればよい。
【0075】
自動認証が開始されてから所定時間が経過してタイムアウトとなった場合には、認証に失敗した旨がメイン表示部101に表示される(図9(e)参照)。この表示画面に含まれる再認証キー118をユーザが選択すると、メイン表示部101の表示は、図9(b)に示すファインダ画面に戻り、再び自動認証が開始される。一方、図9(e)においてメイン表示部101に表示された端末暗証番号入力キー119をユーザが選択すると、メイン表示部101の表示は、端末暗証番号の入力を促す端末暗証番号入力画面に切り替わる(図9(f)参照)。
【0076】
図9(f)の端末暗証番号入力画面において入力された文字列が、予め設定されている端末暗証番号と一致する場合には、メイン表示部101の表示は、シークレットモードのオン/オフを切り替えるための画面に切り替わる(図9(d)参照)。
【0077】
一方、図9(f)の端末暗証番号入力画面において、操作キー201の操作により入力された文字列が、予め設定されている端末暗証番号と一致しない場合には、その旨がメイン表示部101に表示される(図9(g)参照)。また、端末暗証番号入力画面において入力された文字列が3桁以下である場合には、4〜8桁の文字列を入力すべき旨がメイン表示部101に表示される(図9(h)参照)。そして、図9(g)又は図9(h)に示すような表示がされた後、所定時間が経過してタイムアウトとなるか、あるいは、操作キー201に含まれるいずれかのキーが操作されると、メイン表示部101の表示は、図9(a)に示す管理機能画面に戻る。
【0078】
本実施の形態のように、認証処理において認証に失敗した場合に、再度自動的に認証処理を行うような構成によれば、真のユーザが操作を行う場合に、1回目の認証処理により真のユーザであると判断されなかった場合でも、その後にユーザが撮影操作を行うことなく、認証処理が再度行われる。すなわち、真のユーザであると判断されるまで繰り返し自動的に認証処理が行われるので、認証処理に要する手間を削減できるとともに、認証処理に要する時間を短縮できる。
【0079】
認証処理における顔画像の撮影時には、シャッター音を発生させないような構成であることが好ましい。このような構成により、電車の中などの周囲に人がいる環境で認証処理を行う場合に、シャッター音の発生により盗撮等の誤解を受けるのを防止できる。本実施の形態では、認証処理に際して撮影操作を行わないので、撮影操作を行うことにより盗撮等の誤解を受けるのを防止できる。
【0080】
ただし、所定時間内に真のユーザであると判断されなかった場合、タイムアウトとなるような構成に限らず、認証に成功するまで繰り返し認証処理を行うような構成であってもよい。また、連続的に認証処理を行うような構成に限らず、サブカメラ105が起動されて撮影可能な状態になった後、1回だけ認証処理を行うような構成であってもよい。
【0081】
図10は、エラー履歴画面からエラー履歴情報を選択した場合の表示例を示した図であり、(a)はエラー履歴情報の選択態様、(b)は選択されたエラー履歴情報に対する第1表示例、(c)は選択されたエラー履歴情報に対する第2表示例を示している。
【0082】
図8に示したようなエラー履歴画面において、ユーザは、操作キー201を操作して、メイン表示部101にリスト表示されているエラー履歴情報(時間情報)のいずれかにカーソル120を合わせた後、決定操作を行うことにより、そのエラー履歴情報を選択することができる(図10(a)参照)。
【0083】
図10(b)に示す第1表示例では、エラー履歴情報の選択操作に基づいて、そのエラー履歴情報が格納されたときの認証処理に用いられたサブカメラ105による撮影画像がエラー履歴情報記憶部414から読み出され、その撮影画像がメイン表示部101に表示されている。本実施の形態のように連続認証を行う場合には、認証に複数の撮影画像が用いられるので、これらの撮影画像の全部又は任意の1つをメイン表示部101に表示させるものとする。複数の撮影画像の全部をメイン表示部101に表示させる場合には、それらの撮影画像をメイン表示部101にサムネイル表示し、いずれかの撮影画像に対する選択操作が行われた場合に、選択された撮影画像がメイン表示部101全体に大きく表示されるようになっていてもよい。
【0084】
ただし、本実施の形態のような構成とは異なり、認証処理を1回だけ行うような構成の場合には、その1回の認証処理時におけるサブカメラ105による撮影画像が、メイン表示部101に表示されるようになっていてもよい。
【0085】
図10(c)に示す第2表示例では、エラー履歴情報の選択操作に基づいて、そのエラー履歴情報が格納された認証処理時に位置情報検出部406により検出された位置情報がエラー履歴情報記憶部414から読み出され、その位置情報がメイン表示部101に表示されている。この例では、メイン表示部101に位置情報として地名が表示されているが、このような構成に限らず、例えば、メイン表示部101に地図が表示され、その地図上で検出された位置情報が特定されるような構成であってもよい。
【0086】
認証処理が行われたときの時間情報がエラー履歴情報としてメイン表示部101にリスト表示されるような構成に限らず、リスト表示されたエラー履歴を選択することにより、そのエラー履歴に対応する認証処理時の時間情報がエラー履歴情報記憶部414から読み出され、その時間情報がメイン表示部101に表示されるような構成であってもよい。また、各エラー履歴について、認証処理が行われたときの時間情報、認証処理に用いられた撮影画像、及び認証処理が行われたときの位置情報を一度に表示できるような構成であってもよいし、それらのエラー履歴情報のいずれかをユーザが選択して表示させることができるような構成であってもよい。
【0087】
本実施の形態では、認証処理が行われたときの時間情報、認証処理に用いられた撮影画像、あるいは認証処理が行われたときの位置情報をエラー履歴情報として格納することにより、携帯電話機1を取り戻した後、それらの情報から不正使用者を特定することができるので、不正使用者をより確実に特定できる。連続認証を行った場合には、それらの認証処理に用いられた撮影画像の全部を格納すれば、それらの撮影画像(顔画像)に基づいて不正使用者をより確実に特定でき、撮影画像の任意の1つを格納すれば、撮影画像の全部を格納する場合と比べて、メモリ410の使用量を低減することができる。
【0088】
図11は、メイン表示部101に表示される待受画面の一例を示す図である。ここで、待受画面とは、携帯電話機1に電源が投入された状態で、アプリケーションが起動されていないときにメイン表示部101に表示される画面のことである。
【0089】
図11に示す例では、メイン表示部101に表示される待受画面の一部に、所定のアイコンを表示することによりユーザに対する報知を行うための報知領域121が配置されている。この例では、報知領域121には、新たな電子メールを受信している旨を報知するためのメール受信アイコン122と、新たなエラー履歴情報が格納されている旨を報知するためのエラー表示アイコン(エラー表示手段)123が表示されている。これにより、ユーザの知らないうちに携帯電話機1が不正に使用され、そのときのエラー履歴情報がエラー履歴情報記憶部414に格納された場合に、その旨を待受画面に表示してユーザに報知することができる。
【0090】
顔認証は、シークレットモードのオン/オフを切り替える際に限らず、セキュリティ度やプライバシー度の高い他の機能、例えば、カード設定、着信制限、ロック設定、暗証番号変更、発信者番号通知/非通知設定、設定リセット、ソフトウェア更新、自局番号詳細表示、その他のデータ変更に関する各種設定操作に際して行うことができる。
【0091】
また、認証処理は、顔画像に基づいて行われる顔認証に限らず、ユーザを表す画像であれば、ユーザの指紋画像に基づいて行われるものなどであってもよい。この場合、指紋画像の特徴情報を抽出して比較することにより、認証処理を行うことができる。
【0092】
本発明は、以上の実施の形態の内容に限定されるものではなく、請求項記載の範囲内において種々の変更が可能である。
【図面の簡単な説明】
【0093】
【図1】本発明の実施の形態による携帯情報端末装置の一例を示した外観図であり、携帯情報端末装置の一例として携帯電話機が示されている。
【図2】図1に示した携帯電話機の内部構成の一例を示したブロック図である。
【図3】図2の撮像ユニット駆動制御部の構成例を示したブロック図である。
【図4】図2の認証処理部の構成例を示したブロック図である。
【図5】顔認証に関する設定を行う際のメイン表示部の表示例を示した図である。
【図6】顔認証用画像登録画面の表示例を示した図である。
【図7】セキュリティレベル設定画面の表示例を示した図である。
【図8】エラー履歴画面の表示例を示した図である。
【図9】顔認証を行う際のメイン表示部の表示例を示した図である。
【図10】エラー履歴画面からエラー履歴情報を選択した場合の表示例を示した図であり、(a)はエラー履歴情報の選択態様、(b)は選択されたエラー履歴情報に対する第1表示例、(c)は選択されたエラー履歴情報に対する第2表示例を示している。
【図11】メイン表示部に表示される待受画面の一例を示す図である。
【符号の説明】
【0094】
1 携帯電話機
101 メイン表示部
102 サブ表示部
103 受話用レシーバ
104 メインカメラ
105 サブカメラ
121 報知領域
123 エラー表示アイコン
201 操作キー
203 送話用マイクロフォン
400 制御部
401 撮像ユニット駆動制御部
402 認証処理部
402A 特徴抽出部
402B 一致度算出部
402C 一致度判定部
403 連続認証部
404 エラー履歴管理部
405 計時部
406 位置情報検出部
407 撮像ユニット起動部
407A 電源投入部
407B 初期化処理部
408 撮影制御部
409 撮像ユニット停止部
410 メモリ
411 表示画面データ記憶部
412 画像データ記憶部
413 特徴情報記憶部
414 エラー履歴情報記憶部
450 通信部

【特許請求の範囲】
【請求項1】
被写体を撮影するための撮像手段と、
顔画像から抽出された特徴情報を登録特徴情報として予め記憶しておく特徴情報記憶手段と、
上記登録特徴情報を用いて、上記撮像手段による撮影画像に基づく認証処理を行う認証処理手段と、
上記認証処理において認証に失敗した履歴情報をエラー履歴情報としてエラー履歴記憶手段に格納するエラー履歴管理手段とを備え、
上記認証処理手段が、上記撮影画像から特徴情報を抽出する特徴抽出手段と、上記特徴抽出手段により抽出された特徴情報を上記特徴情報記憶手段に記憶されている登録特徴情報と比較し、数値化された一致度を求める一致度算出手段と、上記一致度を認証閾値と比較する一致度判定手段とを有し、
上記エラー履歴管理手段は、上記特徴抽出手段において特徴情報が抽出され、かつ、上記一致度判定手段において一致度が認証閾値よりも小さいと判定された場合に、上記エラー履歴記憶手段にエラー履歴情報を格納することを特徴とする携帯情報端末装置。
【請求項2】
計時を行うための計時手段を備え、
上記エラー履歴情報には、上記認証処理が行われたときに上記計時手段により計時された時間情報が含まれることを特徴とする請求項1に記載の携帯情報端末装置。
【請求項3】
上記エラー履歴情報には、上記認証処理に用いられた上記撮像手段による撮影画像が含まれることを特徴とする請求項1に記載の携帯情報端末装置。
【請求項4】
上記撮像手段及び上記認証処理手段を制御することにより、上記認証処理において認証に失敗した場合に再度撮影を行い、その撮影画像に基づく認証処理を行う連続認証手段を備え、
上記エラー履歴情報には、上記認証処理に用いられた上記撮像手段による撮影画像の全部又は任意の1つが含まれることを特徴とする請求項1に記載の携帯情報端末装置。
【請求項5】
上記携帯情報端末装置の位置情報を検出するための位置情報検出手段を備え、
上記エラー履歴情報には、上記認証処理が行われたときに上記位置情報検出手段により検出された位置情報が含まれることを特徴とする請求項1に記載の携帯情報端末装置。
【請求項6】
上記エラー履歴記憶手段には、最も新しいエラー履歴情報から順に所定回数分のエラー履歴情報を格納することができ、
上記エラー履歴管理手段は、前回のエラー履歴情報を格納してから一定時間経過後に認証に失敗した場合に、上記エラー履歴記憶手段にエラー履歴情報を格納することを特徴とする請求項1から5のいずれかに記載の携帯情報端末装置。
【請求項7】
上記エラー履歴記憶手段にエラー履歴情報が格納されたことを待受画面に表示するエラー表示手段を備えたことを特徴とする請求項1から6のいずれかに記載の携帯情報端末装置。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7】
image rotate

【図8】
image rotate

【図9】
image rotate

【図10】
image rotate

【図11】
image rotate


【公開番号】特開2007−36365(P2007−36365A)
【公開日】平成19年2月8日(2007.2.8)
【国際特許分類】
【出願番号】特願2005−212806(P2005−212806)
【出願日】平成17年7月22日(2005.7.22)
【出願人】(000005049)シャープ株式会社 (33,933)
【Fターム(参考)】