情報処理装置及びプログラム
【課題】従来精度が低かった顔認識を、高い認識精度で行う。
【解決手段】情報処理装置20は、あらかじめ判別対象となる人物の基準特徴量を期間別に登録した期間別基準特徴量リストを期間別基準特徴量記憶部204に記憶している。情報処理装置20は、通信部300によってメールサーバ10から画像を受信すると、顔画像検出プログラム記憶部202に記憶された顔画像検出プログラムを用いて、受信した画像に含まれた顔の画像を検出する。検出した顔画像から、顔特徴量算出プログラム記憶部203に記憶された顔特徴量算出プログラムを用いて、顔特徴量を算出する。そして、期間別基準特徴量リストに登録された基準特徴量のうち、対応する期間が受信した画像の撮影日時を含むか、最も近い基準特徴量を選択して、選択した特徴量を用いて顔認識を行う。
【解決手段】情報処理装置20は、あらかじめ判別対象となる人物の基準特徴量を期間別に登録した期間別基準特徴量リストを期間別基準特徴量記憶部204に記憶している。情報処理装置20は、通信部300によってメールサーバ10から画像を受信すると、顔画像検出プログラム記憶部202に記憶された顔画像検出プログラムを用いて、受信した画像に含まれた顔の画像を検出する。検出した顔画像から、顔特徴量算出プログラム記憶部203に記憶された顔特徴量算出プログラムを用いて、顔特徴量を算出する。そして、期間別基準特徴量リストに登録された基準特徴量のうち、対応する期間が受信した画像の撮影日時を含むか、最も近い基準特徴量を選択して、選択した特徴量を用いて顔認識を行う。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、情報処理装置及びプログラムに関する。
【背景技術】
【0002】
人の顔の画像から、その人を認識する技術が知られている。このような技術では、人の顔を認識するに当たって、予め人の顔の特徴をデータベースに記憶しておく。そして、認識対象となる顔の画像から顔特徴量を抽出し、データベースに記憶された顔特徴量と比較して類似度を算出し、算出した類似度に基づいて認識対象となる顔の画像の認識を行う。顔認識に関連して、認識精度を上げるための技術が開発されている。
【0003】
例えば、特許文献1は、データベースに、一人の人物に対応して、顔の特徴量を日時や表情等の属性毎に複数記憶しておき、認識対象となる人の顔の画像から顔の特徴量と属性とを抽出し、記憶した特徴量の内、抽出した属性に対応する特徴量と比較して認識対象となる人の顔の画像の認識を行う技術を開示している。
【0004】
また、特許文献2は、顔認識を行う基準となる顔の特徴量を抽出するための写真を撮影するにあたって、撮影を適切に行えるようにユーザを補助する技術を開示している。特許文献2はさらに、新たに顔の写真を撮影した場合に、予めデータベースに記憶された基準特徴量のうち、新しい写真の撮影日に近い日時に撮影された写真から抽出された基準特徴量に基づいて、新しい写真に写っている顔を認識する技術を開示している。
【0005】
また、特許文献3は、受信した画像に含まれる顔を認識するに当たって、過去の通信履歴に基づいて認識の基準を修正することにより顔認識の認識精度を高める技術を開示している。
【先行技術文献】
【特許文献】
【0006】
【特許文献1】特開2010−061465号公報
【特許文献2】特開2009−153219号公報
【特許文献3】特開2009−135616号公報
【発明の概要】
【発明が解決しようとする課題】
【0007】
成長や加齢等により、人の顔は時間の経過と共に変化するため、従来顔認識の精度が低かった。そこで、顔認識の対象となる被写体の顔が成長・加齢等によって変化していた場合でも、その人であると認識することができる技術が必要とされている。
【0008】
特許文献1に記載の技術では、顔認識を成長・加齢等による変化に対応して行うためには、その人の顔が長期間にわたって持つ多くの属性に対応する膨大な量の顔特徴量を予め記憶する必要がある。さらに、認識処理に際して、認識対象となる顔の画像がどの属性を持つか判別する処理を行うことが必要になる。そのため、必要な記憶装置の容量と情報処理量とが膨大なものになるという問題点を持つ。
【0009】
また、特許文献2に記載の技術は、認識対象となる写真の撮影日に近い日時に撮影された写真から抽出された基準特徴量に基づいて顔判別を行う。そのため、顔認識を成長・加齢等による変化に対応して行うためには、長期間に渡って撮影された写真から抽出された多数の基準特徴量を記憶していなければならず、記憶装置の必要容量が大きくなってしまう。
【0010】
また、特許文献3に記載の技術は、画像の送信者が送信画像に写っている可能性が高いと推定して認識結果を修正するものであり、画像の顔が成長・加齢等によって変化していた場合でも、その人であると認識するという課題の解決に貢献するものではない。
【0011】
本発明は上記のような事情に鑑みてなされたもので、従来精度が低かった顔認識を、高い認識精度で行うことができる情報処理装置およびプログラムを提供することを目的とする。
また、本発明は、被写体の顔が時間の経過によって変化した場合でも、顔の画像の認識精度が高く、かつ必要記憶容量と情報処理量とが少ない情報処理装置およびプログラムを提供することを目的とする。
【課題を解決するための手段】
【0012】
上記目的を達成するため、本発明に係る情報処理装置は、
判別対象の人物の顔の特徴を表す複数の基準顔特徴量を、対応する期間を示す情報と対応づけて記憶する基準顔特徴記憶手段と、
顔の画像を取得する顔画像取得手段と、
前記顔画像取得手段が取得した顔の画像が生成された日時を特定する情報を取得する日時取得手段と、
前記日時取得手段が取得した日時と前記複数の基準顔特徴量に対応する期間とを比較し、比較結果に基づいて、前記基準顔特徴記憶手段に記憶された複数の基準顔特徴量から、前記顔の画像に対応する基準顔特徴量である対応基準顔特徴量を選択する選択手段と、
前記顔画像取得手段が取得した顔の画像から、その顔特徴量である取得顔特徴量を抽出する取得顔特徴抽出手段と、
前記対応基準顔特徴量と前記取得顔特徴量とに基づいて、前記顔画像取得手段が取得した顔の画像の顔を有する人物が前記判別対象の人物であるか否かを判別する判別手段と、
を備えることを特徴とする。
【発明の効果】
【0013】
本発明によれば、従来精度が低かった顔認識を、高い認識精度で行うことが出来る。
また、本発明によれば、被写体の顔が時間の経過によって変化した場合でも、認識精度が高く、かつ必要記憶容量と情報処理量とが少ない。
【図面の簡単な説明】
【0014】
【図1】本発明の実施形態1に係る情報処理システムの構成を示すブロック図である。
【図2】実施形態1に係る期間別基準特徴量リストの構成を示す図である。
【図3】実施形態1に係るメール受信回数リストの構成を示す図である。
【図4】実施形態1に係る画像情報リストの構成を示す図である。
【図5】実施形態1に係る情報処理装置が実行する顔認識・登録処理を示すフローチャートである。
【図6】実施形態1に係る情報処理装置が実行するn個目の顔の人物判別処理を示すフローチャートである。
【図7】実施形態1に係る情報処理装置の処理の概要を示す図である。
【図8】本発明の実施形態2に係る期間別基準特徴量リストの構成を示す図である。
【図9】実施形態2に係る情報処理装置が実行する顔認識・登録処理を示すフローチャートである。
【図10】実施形態2に係る情報処理装置が実行する基準特徴量更新処理を示すフローチャートである。
【図11】実施形態2に係る基準特徴量更新処理の概要を示す図である。
【図12】その他の実施形態に係る情報処理システムの構成を示すブロック図である。
【発明を実施するための形態】
【0015】
以下、本発明を実施するための形態に係る情報処理システムを、図を参照しながら説明する。なお、図中同一又は相当する部分には同一符号を付す。
【0016】
(実施形態1)
まず、本発明の実施形態1に係る情報処理システム1の構成について説明する。実施形態1に係る情報処理システム1は、画像が添付された電子メールを受信し、受信した画像に人の顔の画像が含まれているか判別し、人の顔が含まれている場合には、その画像が生成された日時に基づいて顔認識を行うことにより、受信した画像に予め登録された人物の顔の画像が含まれるか否か判別する。
【0017】
情報処理システム1は、メールサーバ10と、情報処理装置20と、から構成される。
メールサーバ10は、他機器から画像等の情報を受信し、情報処理装置20に送信する。メールサーバ10は、SMTP(Simple Mail Transfer Protocol)サーバ等の既存の任意のメールサーバから構成される。
【0018】
情報処理装置20は、メールサーバ10から画像が添付された電子メールを受信し、記憶装置200に記憶し、記憶装置200に予め記憶された既存の人の顔情報に基づいて画像に予め記憶された人物の顔が含まれているか判別する情報処理装置(コンピュータ)であり、制御部100と、記憶装置200と、通信部300と、から構成される。
【0019】
制御部100は、物理的にはCPU(Central Processing Unit)、DSP(Digital Signal Processer)、内部メモリ等から構成され、記憶装置200と、通信部300と、を制御する。
制御部100は、このような構成により、機能的には、通信制御部101、顔画像検出部102、顔特徴算出部103、記憶制御部104、として機能する。
【0020】
通信制御部101は、通信部300を制御し、メールサーバ10とインターネットを通じて通信する。具体的には、メールサーバ10から画像等の情報を受信し、メールサーバ10に情報を送信する。
【0021】
顔画像検出部102は、記憶装置200の顔画像検出プログラム記憶部202に記憶された顔画像検出プログラムを用いて、画像に顔の画像が含まれるか判別し、含まれている場合にはその顔の画像を抽出する処理を実行する。
【0022】
顔特徴算出部103は、記憶装置200の顔特徴量算出プログラム記憶部203に記憶された顔特徴量算出プログラムを用いて、顔の画像から顔の特徴量を算出する処理を実行する。
【0023】
記憶制御部104は、記憶装置200を制御する。具体的には、記憶装置200に制御部100の処理結果に基づく情報を記憶させる。また、記憶装置200に記憶された情報を読み込む。
【0024】
記憶装置200は、RAM(Random−Access Memory)等から構成される主記憶装置と、フラッシュメモリ、ハードディスク、等の不揮発性メモリから構成される外部記憶装置と、から構成される。
主記憶装置は外部記憶装置に記憶されている制御プログラムや情報をロードし、制御部100の作業領域として用いられる。
外部記憶装置は、後述する処理を制御部100に行わせるためのプログラムと情報とをあらかじめ記憶し、これらのプログラムや情報を制御部100の指示に従って主記憶装置に伝達する。また、制御部100の指示に従って、制御部100の処理に基づく情報を記憶する。
【0025】
記憶装置200は、上記物理構成により、機能的には、画像記憶部201と、顔画像検出プログラム記憶部202と、顔特徴量算出プログラム記憶部203と、期間別基準特徴量記憶部204と、人物情報記憶部205と、画像情報記憶部206と、から構成される。
【0026】
画像記憶部201は、通信部300が受信した画像と、制御部100が処理した画像と、を記憶する。ここで受信した画像は任意の画像であって良いが、例えばデジタルカメラを用いて撮影された人物のスナップ写真の画像等であることが望ましい。
【0027】
顔画像検出プログラム記憶部202は、画像に人の顔の画像が含まれているか判別し、含まれている場合にはその顔の画像を検出する顔画像検出プログラムを記憶する。顔画像検出プログラムの種類は任意であるが、例えば(i)Haar−like特徴を使った顔画像検出プログラム、(ii)HOG (Histogram of Oriented Gradient)特徴を使った顔画像検出プログラム、(iii)画像の各画素のうち人肌の色と推定した色の画素が占める領域を検出し、当該領域の形状と所定の形状との比較結果に基づいてその部分が顔であるか判別することにより顔を検出する顔画像検出プログラム、等の既知の任意の顔画像検出プログラムを採用できる。
これらの顔画像検出プログラムは、ある画像が人の顔の画像を複数含んでいる場合には、各顔の画像をそれぞれ検出する。
【0028】
顔特徴量算出プログラム記憶部203は、人の顔の画像から顔特徴量を算出する顔特徴量算出プログラムを記憶する。顔特徴算出プログラムの種類は任意であるが、例えば(i)顔の画像から、顔の大きさ・方向等を正規化した後、顔の画像の形状を抽出して目・鼻・口等の位置を特定して、これらの位置を特徴として抽出する顔特徴検出プログラム、(ii)正面でない方向から撮影された顔の画像を3次元的に正規化し、検出対象となる眉の位置等の顔の特徴を抽出する顔特徴量検出プログラム、(iii)事前にトレーニングデータを独立成分分析して基底を求め、受信した顔の画像を正規化した画像をこれらの基底の線形結合として表した場合の線形結合係数を顔特徴量として抽出する顔特徴量検出プログラム、等の任意の既知の顔特徴量検出プログラムであってよい。
【0029】
期間別基準特徴量記憶部204は、判別対象となる人物毎に、期間別に顔認識の基準となる顔特徴量の基準値を登録した期間別基準特徴量リストを記憶する。
【0030】
ここで、期間別基準特徴量記憶部204が記憶する期間別基準特徴量リストについて、図2を参照して説明する。期間別基準特徴量リストは、判別対象となる人物を示す人物IDと、各人物の顔特徴を示す基準特徴量と、基準特徴量に対応する期間の開始時と終了時と、等を対応づけて予め記憶する。
【0031】
ここで、人物IDは登録された判別対象となる人物を一意に示す識別子(ID、Identifier) である。
【0032】
期間別基準特徴量リストには、各人物IDに対して、少なくとも一つの基準特徴量とその期間が対応づけて記憶されている。基準特徴量は、判別対象となる顔の画像が、人物IDが示す人物の顔であるか否かを判別する基準となる顔特徴量である。基準特徴量のパラメータは、情報処理装置20が採用する顔認識プログラムで用いられる顔特徴量によって定まるが、ここでは正規化した顔の画像における右眉の内端、左眉の内端、右目の内端、右目の外端、左目の内端、左目の外端、鼻の下端、鼻の上端、口の左端、口の右端、の位置等をパラメータとする。
なお、図2では見やすくするために期間別基準特徴量リストに記憶されている特徴量のパラメータを一部省略して表記している。
【0033】
各基準特徴量には対応する期間が定められている。対応する期間は、基準特徴量の行の開始時が示す日と終了時が示す日の間の期間である。ここでいう基準特徴量に対応する期間とは、対応する人物IDの人物の顔が、その基準特徴量で表される特徴を持っていると推定される期間を表す。
【0034】
受信した画像に含まれる顔の画像が、登録された人物の誰であるか、あるいは新たな人物であるかの判別は、期間別基準特徴量リストに記憶された基準特徴量を用いて行われる。また、期間別基準特徴量リストは、後述する処理に基づいて更新される。
期間別基準特徴量リストを用いた判別処理、更新処理については後述する。
【0035】
図1に戻って、人物情報記憶部205は、期間別基準特徴量リストに登録された判別対象となる人物毎に、その人物の顔の画像を含んでいると判別された画像を受信した回数を、その画像を送信した送信者と対応づけて記憶するメール受信回数リストを記憶する。
【0036】
ここで、メール受信回数リストについて図3を参照して説明する。メール受信回数リストは、人物ID、送信者、受信回数、等を対応づけて記憶する。
【0037】
人物IDは、判別対象となる人物を一意に表す識別子である。メール受信回数リストの人物IDは、期間別基準特徴量リストの人物IDと対応する。
【0038】
メール受信回数リストには予め、一つの人物IDに対応して、一又は複数の送信者と受信回数とが対応づけて記憶されている。
送信者は、対応する人物IDが示す人物の顔を含む画像を情報処理装置20に送信した事がある人物を示す。送信者は、送信者が画像をメールで送信したメールアドレスによって定義されている。
受信回数は、対応する送信者のメールアドレスから、対応する人物IDが示す人物の顔を含むと判別された画像を情報処理装置20が受信した回数を示す。
【0039】
本実施形態では、メール受信回数リストに登録された受信回数に基づいて、人物IDが示す判別対象となる人物と送信者との親密度を推定する。送信者が情報処理装置20に対して、人物IDが示す人物の顔を含むと判別された画像を送った回数が多ければ、送信者と人物IDが示す人物は親密であると推定される。そこで、本実施形態では、新たにその送信者が情報処理装置20に送信した画像にその人物IDが示す人物の顔の画像が含まれている可能性が高いと推定して、その送信者が送信した新たな画像に含まれている顔の画像とその人物IDが示す人物の顔の基準特徴量との類似度が高くなるように修正する。
また、メール受信回数リストは、後述する顔認識・登録処理で更新され、記憶される。
【0040】
図1に戻って、画像情報記憶部206は、画像IDと、各画像の画像ファイルと、送信者と、その画像に顔が含まれていると判別された人物の人物IDと、を対応づけて記録する画像情報リストを記憶する。
【0041】
ここで、画像情報リストについて図4を参照して説明する。
画像情報リストは、各画像を表す画像IDと、画像ファイルの場所と、その画像を送信した人物のアドレス(送信者)と、その画像に含まれる顔の画像の人物(人物ID)と、を対応づけて記憶する。
【0042】
画像IDは、画像を一意に表す識別子である。
【0043】
画像ファイルは、その画像のファイルとファイルの保存場所とを表す。
【0044】
送信者は、その画像を送信した人物のメールアドレスを示す。画像情報リストの送信者は、メール受信回数リストに登録された送信者と対応する。
【0045】
人物IDは、その画像に含まれる顔の画像の、顔を有する人物を示す人物IDである。画像情報リストの人物IDは、メール受信回数リストの人物ID及び期間別基準特徴量リストの人物IDと対応する。画像情報リストは画像IDと対応して、その画像IDが示す画像に含まれる顔の画像の数だけ人物IDを対応して記憶している。
【0046】
画像情報リストは、後述する顔認識・登録処理において更新して記録される。画像情報リストは、各画像に対して、送信者と、どの人物の顔の画像が含まれるかと、を登録しているので、後にある人物(例えばH1)が含まれる画像を全て検索する場合等に利用することが出来る。
【0047】
図1に戻って、通信部300は、制御部100の通信制御部101から制御され、メールサーバ10から画像等の情報を受信し、受信した情報を、送信者を示す情報(アドレス等)と併せて通信制御部101に伝達する。
通信部300は、物理的にはネットワークに接続する網終端装置または無線通信装置、およびそれらと接続するシリアルインターフェースまたはLAN(Local Area Network)インターフェースから構成されている。通信部300は、ネットワークを介して、他のユーザに情報処理装置20に記憶された情報を伝達する。また、他のユーザから情報を受信する。
【0048】
情報処理装置20は、キーボード等から構成される操作部1000を備え、ユーザからの設定入力を受け付ける。さらに、液晶パネル等から構成される表示部1100を備え、制御部100の処理結果をユーザに表示する。情報処理装置20を構成する制御部100、記憶装置200、通信部300、操作部1000、表示部1100、等は、それぞれ内部パスによって接続されている。
【0049】
次に、情報処理装置20が実行する処理を、図1〜図6を参照して説明する。
情報処理装置20の通信部300は、メールサーバ10から画像を受信すると、制御部100の通信制御部101に受信を通知し、併せて受信した画像と送信者の情報とを伝達する。制御部100は、受信を通知されると図5に示す顔認識・登録処理1を開始する。
【0050】
顔認識・登録処理1を開始すると、まず、制御部100の記憶制御部104が顔画像検出プログラム記憶部202に記憶された顔画像検出プログラムを読み出し、読み出した顔画像検出プログラムを用いて制御部100の顔画像検出部102が受信した画像から顔の画像を検出し、検出した顔の画像を正規化する(ステップS101)。ステップS101で読み出す顔画像検出プログラムは任意であるが、ここではHOG特徴を使った顔検出プログラムを読み出す事とする。
【0051】
次に、制御部100はステップS101で顔が検出されたか否かを判別する(ステップS102)。顔の画像が一つも検出されなかった場合(S102;NO)、受信した画像は人の顔の画像を含まないため、処理対象ではないと判別し、制御部100は顔認識・登録処理を終了する。
一方、ステップS101で、受信した画像から少なくとも一つの顔の画像を検出できた場合(ステップS102;YES)、制御部100は検出したそれぞれの顔に番号を定義し、併せて内部メモリのカウンタ変数nに1を代入する(ステップS103)。そして、ステップS104からステップS106において、カウンタ変数nが示す番号の顔の画像(n個目の顔の画像)について処理を行う(ステップS104〜ステップS106)。
【0052】
まず、n個目の顔の画像が、誰の顔であるか判別する人物判別処理を行う(ステップS104)。具体的には、n個目の顔が、期間別基準特徴量記憶部204に記憶された期間別基準特徴量リストに登録された判別対象となる人物の何れかの顔に一致するか、また新たな人物の顔であるかが判別される。併せて、判別された人物の人物IDが検出される。
ここで行われる顔の人物判別処理については後述する。
【0053】
ステップS104でn個目の顔の判別処理が行われ、n個目の顔の画像が何れかの顔に一致すると判別し、その人物の人物IDを検出すると、制御部100はその人物IDのメール受信回数を加算する処理を行なう(ステップS105)。具体的には、制御部100の記憶制御部104が、記憶装置200の人物情報記憶部205に記憶された図3に示すメール受信回数リストの、ステップS104で検出された人物IDと送信者との行の受信回数をインクリメントして、メール受信回数リストを更新して記憶する。
【0054】
次に、制御部100は画像情報リストを更新する(ステップS106)。具体的には、制御部100の記憶制御部104は、記憶装置200の画像情報記憶部206に記憶された図4に示す画像情報リストを更新して保存する。即ち、受信した画像に画像IDを定義し、画像ファイルとして画像記憶部201に記憶する。併せて、定義した画像IDと、受信した画像を保存した場所とファイル名と、受信した画像を送信した送信者のアドレスと、ステップS104で検出された人物IDと、を対応づけて新たに画像情報リストに登録して記憶する。
【0055】
次に、制御部100はカウンタ変数nをインクリメントし(ステップS107)、ステップS101で検出された顔の全てについて処理が終了したか判別する(ステップS108)。即ち、インクリメント後のnが、ステップS101で検出された顔の個数より大きいか否かを判別する。
インクリメント後のnがステップS101で検出された顔の個数以下である場合(ステップS108;NO)、未処理の顔の画像があるので、次の顔の画像についてステップS104からステップS107までの処理を行う。
その後、インクリメント後のnが、ステップS101で検出された顔の個数より大きいと判別されると(ステップS108;YES)、すべての顔の画像について処理が終了したので、今回の顔認識・登録処理1を終了する。
【0056】
次に、顔認識・登録処理1のステップS104で実行されるn個目の顔の人物判別処理について、図6を参照して詳細に説明する。
【0057】
図5で示した顔認識・登録処理1のステップS104に至ると、制御部100は図6に示すn個目の顔の人物判別処理を開始する。まず、制御部100はn個目の顔の画像に付帯する情報を取得する(ステップS201)。具体的には、受信した画像の送信者を示す情報(送信者のアドレス)を、通信制御部101から取得する。併せて、受信した画像ファイルのヘッダ部等から、受信した画像の撮影日を取得する。具体的には、例えば、受信した画像がヘッダ部に撮影日が定義されている画像ファイル(例えばexif形式のファイル)である場合は、ヘッダ部から定義された撮影日を取得する。また、受信した画像のヘッダ部等に撮影日を示す情報が無い場合には、その画像を受信した日を撮影日として推定する。あるいは、ユーザが受信した時に撮影日を入力してもよい。
【0058】
次に、n個目の顔の画像から顔の特徴量を算出する(ステップS202)。具体的には、制御部100の記憶制御部104が顔特徴算出プログラム記憶部203から顔特徴算出プログラムを読み出す。そして、制御部100の顔特徴算出部103が読み出したプログラムを用いてn個目の顔の画像から顔特徴量を算出する。ステップS202で読み出す顔特徴量算出プログラムは任意であるが、ここでは顔の画像の形状を抽出して目・鼻・口等の位置を特定して、これらの位置を特徴として算出する顔特徴量算出プログラムを読み出すこととする。
ここで、顔の画像から顔特徴量を抽出することは、換言すると、顔の画像を顔特徴量の各パラメータを軸とする、顔特徴量のパラメータ数を次元数とする特徴空間に顔の画像を配置することである。
【0059】
ステップS202を終了すると、制御部100は内部メモリのカウンタ変数hに1を代入する(ステップS203)。
【0060】
ステップS203を終了すると、制御部100は、図2に示す期間別基準特徴量リストのh人目の人物の判別用顔特徴を取得する(ステップS204)。
具体的には、制御部100の記憶制御部104は、記憶装置200の期間別基準特徴量記憶部204に記憶されている期間別基準特徴量リストを参照し、登録順にh人目の人物の人物IDを検出して当該人物IDに対応して登録されている期間の開始日と終了日とを読み出す。そして、読み出した期間の開始日と終了日と、ステップS201で取得した撮影日と、から対応する期間の基準特徴量を選択する。
即ち、撮影日を含む期間に対応する基準特徴量が、h人目の人物IDに対して登録されている場合は、その基準特徴量を選択する。一方、撮影日を含む期間に対応する基準特徴量が無い場合には、最も近い開始時又は終了時を持つ期間に対応する基準特徴量を選択する。
基準特徴量を選択することは、換言すれば、上記顔の画像が配置された特徴空間上に、基準となる点(基準点)を選択することである。
【0061】
そして、制御部100はステップS202で算出した顔の特徴量と、ステップS204で選択した基準特徴量との距離を算出して類似度を求める(ステップS205)。類似度の求め方は、任意の既知の顔類似度を求める方法を用いて良いが、ここでは以下のように距離を算出して、算出した距離を類似度とする。このとき、距離が大きいと類似度が低く、距離が小さいと類似度が高い。
具体的には、上記二つの特徴量の各特徴量パラメータそれぞれについて差を算出し、算出したパラメータ毎の差を二乗して加算し、加算した値の平方根を求める。
このとき、各パラメータの差の二乗に、実験等によって求めた重みを乗算して加算する。
具体的な式は、式(1)のとおりである。なお、式(1)では特徴量のパラメータ数をkとする。ステップS202で算出した特徴量の各パラメータをP11〜P1k、ステップS205で選択された基準特徴量の各パラメータをP21〜P2k、実験によって求められた各パラメータの重みをW1〜Wk、算出された距離をΔとする。
【数1】
・・・(1)
【0062】
ここで、Δは特徴空間における顔の画像と基準点との距離である。
なお、ここでは類似度を二つの特徴量の各特徴量パラメータそれぞれについて差を算出し、算出したパラメータ毎の差を二乗して加算し、加算した値の平方根によって定めたが、類似度を算出する式は上記式(1)に限定されず、例えば式(1)から平方根を削除した式であって良い。
【0063】
ステップS205で特徴量の距離を算出すると、次に制御部100はh人目の受信回数を取得する(ステップS206)。具体的には、制御部100の記憶制御部104が、記憶装置200の人物情報記憶部205に記憶されているメール受信回数リストを参照し、h人目の人物の人物IDと送信者に対応する受信回数を取得する。
【0064】
ステップS206でh人目の受信回数を取得すると、制御部100は閾値を算出する。具体的には、実験等によって求められた所定の閾値thに、h人目の受信回数によって定まる補正値fを乗算して補正された閾値th1(=th・f)を求める。
補正値の算出方法は任意の方法であって良いが、ここでは以下の式(2)によって算出される値とする。なお、式(2)ではステップS206で取得したh人目の受信回数をaとする。
f(a)=1+log(a+1)…(2)
ここで補正値f(a)は、h人目の人物と送信者との親密度を表し、受信した画像にh人目の人物の顔の画像が含まれていると想定される程度を示す。
即ち、画像の受信回数が多いほど、換言すると、親密度が高いほど、閾値th1を大きくして、一致すると認識する範囲を広くする。このとき、補正値の上限を定め、一致すると認識する範囲が所定の範囲よりも大きくならないようにしてもよい。
【0065】
ステップS207で閾値th1を算出すると、次に制御部100はステップS205で算出した距離Δが、閾値th1以上であるか判別する(ステップS208)。そして、距離Δが閾値th1以上であった場合(ステップS208;NO)、制御部100はn個目の顔の画像の人物はh人目の人物ではないと判別する。
【0066】
一方、距離Δが閾値th1より小さい場合(ステップS208;YES)、n個目の顔の画像の人物はh人目の人物であり得るので、次に制御部100は距離Δが1〜h人目の人物について算出された距離の中で最小距離であったか否か判別する(ステップS209)。
【0067】
距離Δが1〜h人目の人物について算出された距離の中で最小距離であった場合(ステップS209;YES)、h人目の人物は、n個目の顔の人物の候補であるため、制御部100はh人目の人物を一時保存メモリに保存する(ステップS210)。
【0068】
一方、距離Δが1〜h人目の人物うちの最小距離で無い場合(ステップS210;NO)、h人目の人物より、その最小距離にある人物がn個目の顔の人物である蓋然性が高いため、制御部100はステップS210をスキップする。
【0069】
S209又はS210でNOと判別されるか、ステップS211の処理を終了すると、制御部100はh人目の人物についての処理を終了する。即ち、制御部100はカウンタ変数hをインクリメントし(ステップS211)、期間別基準特徴量記憶部204に記憶された期間別基準特徴量リストに登録された全ての人物について処理を終了したか判別する(ステップS212)。即ち、インクリメント後のhが、期間別基準特徴量記憶部204に記憶された期間別基準特徴量リストに登録された全ての人物の数(H)より大きいか判別し、大きい場合は(ステップS212;YES)すべての人物について処理が終了したと判別して処理を終了する。
一方、hがH以下の場合、未処理の人物があると判別し、次の判別対象となる人物についてステップS204からステップS212までの処理を行う。
【0070】
以上で本実施形態のn個目の顔の人物判別処理についての説明を終わる。n個目の顔の人物判別処理が終わると、制御部100は図2のステップS105以下の処理を実行する。
【0071】
このような処理を実行することにより、本実施形態に係る情報処理装置20によれば、人物の顔の画像の撮影(取得)時期にかかわらず、正確に該当する人物を特定することができる。
【0072】
次に、本実施形態の情報処理装置20が実施する処理を図7を参照して具体例に基づいて説明する。
【0073】
ここでは、情報処理装置20が、メールアドレスa@xxx.co.jpを持つ送信者Aから、画像を受信した場合に行われる処理の概要を説明する。
説明の前提として、情報処理装置20の期間別基準特徴量記憶部204は、判別対象となる人物H1及びH2について基準特徴量を予め期間別基準特徴量リストに保存しているものとする。具体的には、人物H1に関して、H1が赤ん坊だった時期の1995年3月2日から1995年6月1日に対応する基準量B1、H1が少年だった時期の2008年5月2日から2009年2月10日に対応する基準量B2、H1が青年である時期の2009年2月11日から2010年3月24日までに対応する基準量B3、等を記憶している。また、人物H2に関して、1985年7月17日から1987年9月4日に対応する基準量B4、2000年2月12日から2008年12月8日に対応する基準量B5、2008年12月9日から2010年4月1日までに対応する基準量B6、等を記憶している。
【0074】
また、情報処理装置20の人物情報記憶部205は、送信者Aが、過去に、人物H1の顔を含む画像を115回、人物H2の顔を含む画像を5回送信したことをメール受信回数リストに保存しているものとする。
【0075】
送信者Aは、2010年4月2日に撮影された画像I1を、メールサーバ10を介して情報処理装置20に新たに送信している(ステップT1)。情報処理装置20は、受信した画像I1中の顔の画像I2を特定し、特定した顔の画像I2から顔特徴量を算出する(ステップT2、図5;ステップS101,図6;ステップS202)。
【0076】
情報処理装置20は、撮影日に最も近い期間に対応する基準特徴量を、人物H1と人物H2とについて選択する。具体的には、H1について、1995年3月2日〜1995年6月1日と、2008年5月2日〜2009年2月10日と、2009年2月11日〜2010年3月24日のうち、画像I1の撮影時である2010年4月2日に最も近い時期である2009年2月11日〜2010年3月24日に対応する基準量B3を選択する(ステップT3、図6;ステップS204)。同様に、人物H2について最も近いB6を選択する(ステップT4、図6;ステップS204)。
【0077】
次に、検出した顔の画像の特徴量と、選択された基準特徴量を特徴空間に当てはめる。具体的には、まず人物H1の基準量B3との距離Δ1を算出する(ステップT5、図6;ステップS205)。さらに、メール受信回数リストから、送信者Aが人物H1を含む画像を送信した回数115回を取得し(図6;ステップS206)、式(2)にa=115を代入して補正値f(=1+log(115)=3.06)を算出する。さらに、内部メモリから閾値thを読み出し、算出した補正値fと乗算して補正した閾値th1(=3.06・th)を求める(ステップT6、図6;ステップS207)。これは、特徴空間上でH1と判別される範囲R1を算出することと等しい。
同様に、人物H2の基準量B6との距離Δ2を算出し(ステップT7、図6;ステップS205)、送信者Aが人物H2を含む画像を送信した回数5回を取得し(図6;ステップS206)、補正値f(=1+log(5)=1.70)を算出する。そして、閾値thと補正値fを乗算し、補正した閾値th2(=1.70・th)を求める(ステップT8、図6;ステップS207)。これは、特徴空間上でH2と判別される範囲R2を算出することと等しい。
【0078】
顔の画像I2の顔特徴量は、基準量B3を中心とした半径R1の範囲内にある。
一方、算出された顔特徴量は、基準量B6を中心とした半径R2の外にある。
その他により近い人物が居ないので、顔の画像T2は人物H1の顔の画像であると判別される(ステップT9)。
【0079】
上記の説明のとおり、実施形態1に係る情報処理装置20は、判別対象となる人物の顔の特徴量を、その特徴量が対応する期間と対応づけて記憶して、判別対象となる画像の生成日時(撮影日時)に即した特徴量を用いて判別を行う。
そのため、情報処理装置20によれば、その人がどのような顔であるか、期間に分けて期間毎に判別することが出来るため、顔が頻繁に変わる時期には短い期間に対応する判別用の特徴量を必要な数だけ記憶し、顔の特徴が安定している場合には長い期間に対応する判別用の特徴量を記憶することにより、必要な記憶容量と処理量が膨大に成らず、人の顔の変化に対応して顔認識精度を高めることが出来る。
【0080】
また、情報処理装置20は、送信者と判別対象となる人物の親密度を、送信者がその人物の顔が含まれる画像を送信した回数に基づいて算出し、算出した親密度に基づいて判別結果を修正する。
このため、情報処理装置20によれば、送信者と判別対象となる人物の関係に基づいた、より精度の高い判別を行うことが出来る。
【0081】
(実施形態2)
次に、本発明の実施形態2について説明する。実施形態2は、実施形態1の構成に加え、受信した画像に含まれる顔の特徴量に基づいて期間別基準特徴量リストを更新する構成を持つことを特徴とする。
【0082】
実施形態2に係る情報処理システム2、及び情報処理装置21の構成は実施形態1の情報処理システム1及び情報処理装置20と同様である。
【0083】
実施形態2においては、実施形態1と比して記憶装置200の期間別基準特徴量記憶部204が記憶する期間別基準特徴量リストの構成が異なる。
実施形態2において、記憶装置200の期間別基準特徴量記憶部204が記憶する期間別基準特徴量リストの構成を、図8を参照して説明する。
【0084】
実施形態2に係る期間別基準特徴量リストは、実施形態1に係る期間別基準特徴量リストと比して、基準特徴量に対応して、開始日の特徴量と、終了日の特徴量と、をさらに記憶する点で異なる(図8)。
【0085】
続いて、実施形態2に係る情報処理装置21が実行する処理について、図9〜図11を参照して説明する。
【0086】
情報処理装置21の通信部300は、メールサーバ10から画像を受信すると、制御部100の通信制御部101に受信を通知し、併せて受信した画像と送信者の情報とを伝達する。制御部100は、受信を通知されると図9に示す顔認識・登録処理2を開始する。
【0087】
顔認識・登録処理2は、n個目の顔の判別処理を行ったあとに基準特徴量を更新する処理を行う点で、実施形態1に係る顔認識・登録処理1(図5)と異なる。
【0088】
顔認識・登録処理2において、顔検出処理(ステップS301)からn個目の顔の人物判別処理(ステップS304)までの処理は、実施形態1における処理(図5;ステップS101〜ステップS104、図6)と同様に実行される。
【0089】
n個目の顔の人物判別処理(ステップS304)が終わると、次に制御部100は基準特徴量更新処理(ステップS305、図10)を行う。
【0090】
ここで、基準特徴量更新処理を、図10と図11を参照して説明する。なお、図11は図10のステップS403〜ステップS410で行われる処理の概要を示す図である。顔認識・登録処理2のステップS305に至ると、制御部100は図10に示す基準特徴量更新処理を開始する。
【0091】
まず、制御部100は、顔認識・登録処理2のステップS304において、n番目の顔の人物が誰であると判別されたか取得する。そして、判別された人物が、すでに期間別基準特徴量リストに登録された人物であるか否か判別する(ステップS401)。
【0092】
判別された人物が、すでに期間別基準特徴量リストに登録された人物でない場合(ステップS401;NO)、制御部100はその人物を新たな人物として期間別基準特徴量リストに登録する(ステップS411)。具体的には、制御部100は、判別された人物に新しい人物IDを発行する。また、記憶制御部104が、記憶装置200の期間別基準特徴量記憶部204に記憶された期間別基準特徴量リストに、新しい人物IDを、新たな基準特徴量と対応づけて記憶する。ここでは、新たな基準特徴量として、n個目の顔の人物判別処理のステップS202(図6)で算出された特徴量が記憶される。
【0093】
このとき、新たな基準特徴量には、受信した画像の生成日が対応する期間の開始日時と終了日時として登録される。
【0094】
一方、判別された人物が、予め期間別基準特徴量リストに登録された人物である場合(ステップS401;YES)、制御部100はその人物に対応する基準特徴量とその期間を更新する処理を実行する(ステップS402〜ステップS410)。
【0095】
その人物に対応する基準特徴量とその期間を更新する処理では、制御部100はまず期間別基準特徴量リストに、その人物と対応して、受信した画像の生成日を含む期間の基準特徴量が登録されているか判別する(ステップS402)。
具体的には、制御部100の記憶制御部104が、期間別基準特徴量記憶部204に記憶された期間別基準特徴量リストを参照し、制御部100がその人物を示す人物IDと対応して、画像の生成日時を含む期間が記憶されているか判別する。
【0096】
画像の生成日時を含む期間が記憶されている場合(ステップS402;YES)、その期間に対応する基準特徴量を更新する(ステップS410)。
具体的な更新方法は任意に設定可能であるが、ここでは期間に対応する基準特徴量と、n個目の顔の人物判別処理のステップS202で算出された顔の特徴量(判別対象となる顔の特徴量)とを加算して平均することとする。
【0097】
その他の更新方法として、今までその期間に対応するその人物の基準特徴量が更新された回数等の、現在の基準特徴量の確からしさを算出し、算出した確からしさを重みとして用いて、現在の基準特徴量と判別対象となる顔の特徴量とを加重平均して基準特徴量を更新してもよい。
【0098】
一方、画像の生成日時を含む期間が記憶されていない場合(ステップS402;NO)、制御部100は、その生成日時から最も近い期間に対応する基準特徴量を特定する(ステップS403)。
【0099】
そして、制御部100は、特定された最も近い期間に対応する基準特徴量に対して、受信した画像の生成日が対応する期間の前か後ろかを判別する(ステップS404)。
受信した画像の生成日が対応する期間の前であった場合、(ステップS404;YES、図11の(A1))、制御部100は期間別基準特徴量記憶部204に記憶された期間別基準特徴量リストで、その基準特徴量と対応して記憶された終了時の特徴量と、判別対象となる顔の特徴量と、の距離(特徴量の差)Δ1を算出する(ステップS405)。具体的な距離の算出方法は、n個目の顔の人物判別処理のステップS205で説明した特徴量の距離算出方法と同じである。
【0100】
一方、受信した画像の生成日が対応する期間の後であった場合、(ステップS404;NO、図11の(B1))、制御部100は期間別基準特徴量記憶部204に記憶された期間別基準特徴量リストで、その基準特徴量と対応して記憶された開始時の特徴量と、判別対象となる顔の特徴量と、の距離(特徴量の差)Δ2を算出する(ステップS406)。具体的な距離の算出方法は、n個目の顔の人物判別処理のステップS205で説明した特徴量の距離算出方法と同じである。
【0101】
距離の算出処理(ステップS405又はステップS406)が終わると、制御部100は、算出された距離(Δ1又はΔ2)が所定の閾値th2より大きいか否か判別する(ステップS407)。なお、th2は予め実験により定められた所定の数値である。
【0102】
算出された距離(Δ1又はΔ2)が閾値th2より大きい場合(ステップS407;YES、)、その人物は選択された基準特徴量が対応する期間から画像の生成日時の間に顔が変化したとの推測に基づき、判別対象となる顔特徴量(撮影日の特徴量)を、画像の生成日時を期間の始めと終わりとする新しい基準特徴量として、判別された人物を示す人物IDと対応づけて、期間別基準特徴量リストに登録する(ステップS409、図11の(A2)又は(B2))。
【0103】
一方、算出された距離が閾値th2以下の場合(ステップS407;NO)、その人物は選択された基準特徴量に対応する期間から画像の生成日時の間に顔が変化していないとの推定に基づき、制御部100は選択された基準特徴量の期間を延長して記憶する(ステップS408)。具体的には、画像の生成日時を新たな期限に含むように、期限別基準特徴量リストに登録された、選択された基準特徴量に対応する期間の開始時又は終了時を、画像の生成日時に更新して登録し、併せて開始時の特徴量又は終了時の特徴量を判別用の特徴量として更新して登録する(図11の(A3)又は(B3))。
【0104】
ステップS408が終わると、選択された基準特徴量を更新する(ステップS410)。
ステップS409、ステップS410又はステップS411において期間別基準特徴量リストが更新されると、更新された期間別基準特徴量リストが記憶装置200の期間別基準特徴量記憶部204に上書き保存され、基準特徴量更新処理(図9;ステップS305、図10)は終了する。
【0105】
図9にもどり、基準特徴量更新処理(ステップS305)が終了すると、制御部100はその後の処理(ステップS306〜ステップS309)を顔認識・登録処理1のステップS105〜ステップS108と同様に実行し、顔認識・登録処理2を終了する。
【0106】
以上説明したように、本実施形態の情報処理装置21によれば、新たに受信した画像に含まれる顔の画像の判別結果に基づいて、期間別基準特徴量リストが更新される。そのため、ある人物の顔が変わった時期を推定し、自動的に期間別基準特徴量リストに登録された基準特徴量と対応する期間とを更新することができる。
そのため、判別結果に基づいて、その人物の顔が変わっていく過程に対応して更新された基準特徴量を用いてその後の判別を行うことができ、顔判別精度を高めることができる。また、判別結果に基づいて、その人の顔が変わっていないと判別された場合には基準特徴量が対応する期間を延長するため、判別に必要な基準特徴量を記憶するための容量を適正な量に抑えることができる。
【0107】
以上、本発明の実施形態について説明したが、本発明の実施形態は上記に限られるものではない。
【0108】
例えば、上記実施形態1及び2では、情報処理装置20又は情報処理装置21が画像を受信し、判別・登録処理等を行ったが、本発明の実施形態はこれに限られるものではない。
本発明のその他の実施形態に係る情報処理システム3は、メールサーバ10が送信した画像を受信・表示装置30が受信し、受信した画像を情報処理装置22に伝達し、情報処理装置22が図9〜図11に示す処理を行う構成を持つ。
【0109】
受信・表示装置30は、画像をメールサーバ10から受信し、記憶装置500に記憶し、記憶装置500が記憶する画像を表示部800に表示し、情報処理装置22に伝達するデジタルフォトフレームであり、制御部400と、記憶装置500と、通信部700と、表示部800と、入出力部900と、から構成される。
【0110】
制御部400は、物理的にはCPU(Central Processing Unit)、DSP(Digital Signal Processer)、内部メモリ等から構成され、記憶装置500と、操作部600と、通信部700と、表示部800と、入出力部900と、から構成される。
制御部400は、このような構成により、機能的には、通信制御部401、表示制御部402、記憶制御部403、操作制御部404、入出力制御部405、として機能する。
【0111】
通信制御部401は、通信部700を制御し、メールサーバ10とインターネットを通じて通信する。具体的には、メールサーバ10から画像等の情報を受信し、メールサーバ10に情報を送信する。
【0112】
表示制御部402は、表示部800を制御する。具体的には、表示部800に制御部400が行った処理結果に基づき画面を表示させる。
【0113】
記憶制御部403は、記憶装置500を制御する。具体的には、記憶装置500に制御部400の処理結果に基づく情報を記憶させる。また、記憶装置500に記憶された情報を読み込む。
【0114】
操作制御部404は、操作部600が検出したユーザの操作を示す情報を受け取る。
【0115】
入出力制御部405は、入出力部900を制御する。具体的には、入出力部900を用いて情報処理装置22の入出力部310と通信を行って、制御部400の処理結果に基づく情報を情報処理装置22に伝達する。また、情報処理装置22から情報を受け取る。
【0116】
記憶装置500は、RAM(Random−Access Memory)等から構成される主記憶装置と、フラッシュメモリ、ハードディスク、等の不揮発性メモリから構成される外部記憶装置と、から構成され、機能的には、画像記憶部501を含む。
主記憶装置は外部記憶装置に記憶されている制御プログラムや情報をロードし、制御部400の作業領域として用いられる。
外部記憶装置は、後述する処理を制御部400に行わせるためのプログラムと情報とをあらかじめ記憶し、これらのプログラムや情報を制御部400の指示に従って主記憶装置に伝達する。また、制御部400の指示に従って、制御部400の処理に基づく情報を記憶する。
【0117】
画像記憶部501は、受信・表示装置30が受信した画像を記憶する。記憶する画像は、例えばデジタルカメラを用いて撮影された写真の画像である。
【0118】
情報処理装置22は、通信部300の代わりに入出力部310を持ち、制御部100が通信制御部101に変わって入出力制御部105を持つ以外は、実施形態1に係る情報処理装置20と同じ構成を持つ。
【0119】
情報処理システム3では、受信・表示装置30がメールサーバ10から画像を受信すると、入出力部900を介して情報処理装置22に伝達される。その後、情報処理装置22が実行する処理は、実施形態2に係る情報処理装置21が行う処理と同様である。
【0120】
なお、上記実施形態に係る情報処理システムを、メールサーバ10をシステムに含まない構成として構築することも可能である。
【0121】
また、上記実施形態では送信者をメールアドレスで定義したが、送信者を人物IDで定義してもよい。また、一人の送信者に対して複数のメールアドレスを定義してもよい。
【0122】
また、上記実施形態では情報処理装置が受信した判別対象となる人物の画像を含む画像の受信回数に基づいて親密度を算出したが、本発明で判別対象となる人物と送信者の親密度を算出する方法はこれに限られるものではない。
その他の親密度を算出する方法として、ユーザが自ら人物と送信者の親密度を設定する構成も可能である。また、ユーザと送信者とのメール通信を監視し、判別対象となる人物の名前がメール通信で使われる回数に基づいて親密度を算出してもよい。
【0123】
また、親密度から閾値th1を補正する方法は、上記実施形態で説明した方法に限られない。その他の補正方法として、親密度と、対応する補正後の閾値と、を記憶する親密度閾値リストを記憶装置に記憶して、親密度閾値リストを参照して補正後の親密度を求めてもよい。
【0124】
さらに、親密度に基づいて判別結果を補正する方法は、上記の閾値に親密度を乗算して閾値を大きくする方法に限らない。その他の補正方法として、親密度から算出された補正値に基づいて上記類似度を補正して判別することにより、判別結果を親密度に基づいて補正する方法も可能である。
【0125】
なお、制御部100、記憶装置200、通信部300、等から構成される情報処理装置のための処理を行う中心となる部分は、専用のシステムによらず、通常のコンピュータシステムを用いて実現可能である。たとえば、前記の動作を実行するためのコンピュータプログラムを、コンピュータが読み取り可能な記録媒体(フレキシブルディスク、CD−ROM、DVD−ROM等)に格納して配布し、当該コンピュータプログラムをコンピュータにインストールすることにより、前記の処理を実行する情報処理装置を構成してもよい。また、インターネット等の通信ネットワーク上のサーバ装置が有する記憶装置に当該コンピュータプログラムを格納しておき、通常のコンピュータシステムがダウンロード等することで情報処理装置を構成してもよい。
【0126】
また、情報処理装置の機能を、OS(オペレーティングシステム)とアプリケーションプログラムの分担、またはOSとアプリケーションプログラムとの協働により実現する場合などには、アプリケーションプログラム部分のみを記録媒体や記憶装置に格納してもよい。
【0127】
また、搬送波にコンピュータプログラムを重畳し、通信ネットワークを介して配信することも可能である。たとえば、通信ネットワーク上の掲示板(BBS:Bulletin Board System)に前記コンピュータプログラムを掲示し、ネットワークを介して前記コンピュータプログラムを配信してもよい。そして、このコンピュータプログラムを起動し、OSの制御下で、他のアプリケーションプログラムと同様に実行することにより、前記の処理を実行できるように構成してもよい。
【0128】
以上、本発明の好ましい実施形態について説明したが、本発明は係る特定の実施形態に限定されるものではなく、本発明には、特許請求の範囲に記載された発明とその均等の範囲が含まれる。以下に、本願出願の当初の特許請求の範囲に記載された発明を付記する。
【0129】
(付記1)
判別対象の人物の顔の特徴を表す複数の基準顔特徴量を、対応する期間を示す情報と対応づけて記憶する基準顔特徴記憶手段と、
顔の画像を取得する顔画像取得手段と、
前記顔画像取得手段が取得した顔の画像が生成された日時を特定する情報を取得する日時取得手段と、
前記日時取得手段が取得した日時と前記複数の基準顔特徴量に対応する期間とを比較し、比較結果に基づいて、前記基準顔特徴記憶手段に記憶された複数の基準顔特徴量から、前記顔の画像に対応する基準顔特徴量である対応基準顔特徴量を選択する選択手段と、
前記顔画像取得手段が取得した顔の画像から、その顔特徴量である取得顔特徴量を抽出する取得顔特徴抽出手段と、
前記対応基準顔特徴量と前記取得顔特徴量とに基づいて、前記顔画像取得手段が取得した顔の画像の顔を有する人物が前記判別対象の人物であるか否かを判別する判別手段と、
を備えることを特徴とする情報処理装置。
【0130】
(付記2)
前記顔画像取得手段は受信手段が受信した画像から顔の画像を検出することにより顔の画像を取得し、
さらに、
前記受信手段が受信した画像の送信者を特定する送信者特定手段と、
前記判別対象の人物と前記送信者との親密度を算出する親密度算出手段と、
を備え、
前記判別手段は、前記対応基準顔特徴量と前記取得顔特徴量と前記親密度とに基づいて判別する、
ことを特徴とする付記1に記載の情報処理装置。
【0131】
(付記3)
前記親密度算出手段は、前記受信手段が、前記送信者から、前記判別手段が前記判別対象の人物であると判別した顔の画像を含む画像を受信した回数に基づいて前記親密度を算出する、
ことを特徴とする付記2に記載の情報処理装置。
【0132】
(付記4)
前記判別手段が算出した類似度が所定の類似度の閾値よりも高い場合、前記基準顔特徴記憶手段が記憶する前記判別対象の人物の顔の特徴を表す複数の基準顔特徴量の少なくとも一つを、前記取得顔特徴量に基づいて更新する更新手段を、
さらに備えることを特徴とする、付記3に記載の情報処理装置。
【0133】
(付記5)
前記更新手段は、前記日時取得手段が取得した日時が、前記対応基準顔特徴量と対応する期間内に含まれる場合に、前記対応基準顔特徴量を前記取得顔特徴量に基づいて更新する、
ことを特徴とする付記4に記載の情報処理装置。
【0134】
(付記6)
前記基準顔特徴記憶手段は、前記複数の基準顔特徴量それぞれに対応づけて、前記複数の基準顔特徴量のそれぞれに対応する期間の始まりの日時の顔特徴量と、前記対応する期間の終わりの日時の顔特徴量と、をさらに記憶し、
さらに、
前記始まりの日時と前記終わりの日時とのうち前記取得した日時と遠い方の日時の顔特徴量と前記取得顔特徴量との差を算出する差算出手段を備え、
前記更新手段は、
前記日時取得手段が取得した日時が前記対応基準顔特徴量と対応する期間内に含まれず、かつ前記差算出手段が検出した差が所定の差の閾値よりも大きい場合に、前記取得顔特徴量と前記取得した日時に基づいて新たな期間と新たな基準顔情報量を記憶し、
前記日時取得手段が取得した日時が前記対応基準顔特徴量と対応する期間内に含まれず、かつ前記差算出手段が検出した差が前記差の閾値よりも小さい場合に、前記対応基準顔特徴量と、当該対応基準顔特徴量に対応する期間とを、前記取得顔特徴量と前記取得した日時に基づいて更新する、
ことを特徴とする付記5に記載の情報処理装置。
【0135】
(付記7)
コンピュータに、
判別対象の人物の顔の特徴を表す複数の基準顔特徴量を期間の情報と共に記憶する処理、
顔の画像を取得する処理、
前記取得した顔の画像が生成された日時を取得する処理、
期間別に予め記憶している基準顔特徴量のうちから、画像の生成日時と前記複数の基準顔特徴量に対応する期間とを比較し、比較結果に基づいて、前記顔の画像に対応する基準顔特徴量である対応基準顔特徴量を選択する処理、
前記取得した顔の画像から、その顔特徴量である取得顔特徴量を抽出する処理、
前記対応基準顔特徴量と前記取得顔特徴量との類似度を算出することにより、前記取得した顔の画像の顔を有する人物が前記判別対象の人物であるか否かを判別する処理、
を実行させることを特徴とするプログラム。
【符号の説明】
【0136】
1…情報処理システム、2…情報処理システム、3…情報処理システム、10…メールサーバ、20…情報処理装置、21…情報処理装置、22…情報処理装置、30…受信・表示装置、100…制御部、101…通信制御部、102…顔画像検出部、103…顔特徴算出部、104…記憶制御部、105…入出力制御部、200…記憶装置、201…画像記憶部、202…顔画像検出プログラム記憶部、203…顔特徴量算出プログラム記憶部、204…期間別基準特徴量記憶部、205…人物情報記憶部、206…画像情報記憶部、300…通信部、310…入出力部、400…制御部、401…通信制御部、402…表示制御部、403…記憶制御部、404…操作制御部、405…入出力制御部、500…記憶装置、501…画像記憶部、600…操作部、700…通信部、800…表示部、900…入出力部、1000…操作部、1100…表示部
【技術分野】
【0001】
本発明は、情報処理装置及びプログラムに関する。
【背景技術】
【0002】
人の顔の画像から、その人を認識する技術が知られている。このような技術では、人の顔を認識するに当たって、予め人の顔の特徴をデータベースに記憶しておく。そして、認識対象となる顔の画像から顔特徴量を抽出し、データベースに記憶された顔特徴量と比較して類似度を算出し、算出した類似度に基づいて認識対象となる顔の画像の認識を行う。顔認識に関連して、認識精度を上げるための技術が開発されている。
【0003】
例えば、特許文献1は、データベースに、一人の人物に対応して、顔の特徴量を日時や表情等の属性毎に複数記憶しておき、認識対象となる人の顔の画像から顔の特徴量と属性とを抽出し、記憶した特徴量の内、抽出した属性に対応する特徴量と比較して認識対象となる人の顔の画像の認識を行う技術を開示している。
【0004】
また、特許文献2は、顔認識を行う基準となる顔の特徴量を抽出するための写真を撮影するにあたって、撮影を適切に行えるようにユーザを補助する技術を開示している。特許文献2はさらに、新たに顔の写真を撮影した場合に、予めデータベースに記憶された基準特徴量のうち、新しい写真の撮影日に近い日時に撮影された写真から抽出された基準特徴量に基づいて、新しい写真に写っている顔を認識する技術を開示している。
【0005】
また、特許文献3は、受信した画像に含まれる顔を認識するに当たって、過去の通信履歴に基づいて認識の基準を修正することにより顔認識の認識精度を高める技術を開示している。
【先行技術文献】
【特許文献】
【0006】
【特許文献1】特開2010−061465号公報
【特許文献2】特開2009−153219号公報
【特許文献3】特開2009−135616号公報
【発明の概要】
【発明が解決しようとする課題】
【0007】
成長や加齢等により、人の顔は時間の経過と共に変化するため、従来顔認識の精度が低かった。そこで、顔認識の対象となる被写体の顔が成長・加齢等によって変化していた場合でも、その人であると認識することができる技術が必要とされている。
【0008】
特許文献1に記載の技術では、顔認識を成長・加齢等による変化に対応して行うためには、その人の顔が長期間にわたって持つ多くの属性に対応する膨大な量の顔特徴量を予め記憶する必要がある。さらに、認識処理に際して、認識対象となる顔の画像がどの属性を持つか判別する処理を行うことが必要になる。そのため、必要な記憶装置の容量と情報処理量とが膨大なものになるという問題点を持つ。
【0009】
また、特許文献2に記載の技術は、認識対象となる写真の撮影日に近い日時に撮影された写真から抽出された基準特徴量に基づいて顔判別を行う。そのため、顔認識を成長・加齢等による変化に対応して行うためには、長期間に渡って撮影された写真から抽出された多数の基準特徴量を記憶していなければならず、記憶装置の必要容量が大きくなってしまう。
【0010】
また、特許文献3に記載の技術は、画像の送信者が送信画像に写っている可能性が高いと推定して認識結果を修正するものであり、画像の顔が成長・加齢等によって変化していた場合でも、その人であると認識するという課題の解決に貢献するものではない。
【0011】
本発明は上記のような事情に鑑みてなされたもので、従来精度が低かった顔認識を、高い認識精度で行うことができる情報処理装置およびプログラムを提供することを目的とする。
また、本発明は、被写体の顔が時間の経過によって変化した場合でも、顔の画像の認識精度が高く、かつ必要記憶容量と情報処理量とが少ない情報処理装置およびプログラムを提供することを目的とする。
【課題を解決するための手段】
【0012】
上記目的を達成するため、本発明に係る情報処理装置は、
判別対象の人物の顔の特徴を表す複数の基準顔特徴量を、対応する期間を示す情報と対応づけて記憶する基準顔特徴記憶手段と、
顔の画像を取得する顔画像取得手段と、
前記顔画像取得手段が取得した顔の画像が生成された日時を特定する情報を取得する日時取得手段と、
前記日時取得手段が取得した日時と前記複数の基準顔特徴量に対応する期間とを比較し、比較結果に基づいて、前記基準顔特徴記憶手段に記憶された複数の基準顔特徴量から、前記顔の画像に対応する基準顔特徴量である対応基準顔特徴量を選択する選択手段と、
前記顔画像取得手段が取得した顔の画像から、その顔特徴量である取得顔特徴量を抽出する取得顔特徴抽出手段と、
前記対応基準顔特徴量と前記取得顔特徴量とに基づいて、前記顔画像取得手段が取得した顔の画像の顔を有する人物が前記判別対象の人物であるか否かを判別する判別手段と、
を備えることを特徴とする。
【発明の効果】
【0013】
本発明によれば、従来精度が低かった顔認識を、高い認識精度で行うことが出来る。
また、本発明によれば、被写体の顔が時間の経過によって変化した場合でも、認識精度が高く、かつ必要記憶容量と情報処理量とが少ない。
【図面の簡単な説明】
【0014】
【図1】本発明の実施形態1に係る情報処理システムの構成を示すブロック図である。
【図2】実施形態1に係る期間別基準特徴量リストの構成を示す図である。
【図3】実施形態1に係るメール受信回数リストの構成を示す図である。
【図4】実施形態1に係る画像情報リストの構成を示す図である。
【図5】実施形態1に係る情報処理装置が実行する顔認識・登録処理を示すフローチャートである。
【図6】実施形態1に係る情報処理装置が実行するn個目の顔の人物判別処理を示すフローチャートである。
【図7】実施形態1に係る情報処理装置の処理の概要を示す図である。
【図8】本発明の実施形態2に係る期間別基準特徴量リストの構成を示す図である。
【図9】実施形態2に係る情報処理装置が実行する顔認識・登録処理を示すフローチャートである。
【図10】実施形態2に係る情報処理装置が実行する基準特徴量更新処理を示すフローチャートである。
【図11】実施形態2に係る基準特徴量更新処理の概要を示す図である。
【図12】その他の実施形態に係る情報処理システムの構成を示すブロック図である。
【発明を実施するための形態】
【0015】
以下、本発明を実施するための形態に係る情報処理システムを、図を参照しながら説明する。なお、図中同一又は相当する部分には同一符号を付す。
【0016】
(実施形態1)
まず、本発明の実施形態1に係る情報処理システム1の構成について説明する。実施形態1に係る情報処理システム1は、画像が添付された電子メールを受信し、受信した画像に人の顔の画像が含まれているか判別し、人の顔が含まれている場合には、その画像が生成された日時に基づいて顔認識を行うことにより、受信した画像に予め登録された人物の顔の画像が含まれるか否か判別する。
【0017】
情報処理システム1は、メールサーバ10と、情報処理装置20と、から構成される。
メールサーバ10は、他機器から画像等の情報を受信し、情報処理装置20に送信する。メールサーバ10は、SMTP(Simple Mail Transfer Protocol)サーバ等の既存の任意のメールサーバから構成される。
【0018】
情報処理装置20は、メールサーバ10から画像が添付された電子メールを受信し、記憶装置200に記憶し、記憶装置200に予め記憶された既存の人の顔情報に基づいて画像に予め記憶された人物の顔が含まれているか判別する情報処理装置(コンピュータ)であり、制御部100と、記憶装置200と、通信部300と、から構成される。
【0019】
制御部100は、物理的にはCPU(Central Processing Unit)、DSP(Digital Signal Processer)、内部メモリ等から構成され、記憶装置200と、通信部300と、を制御する。
制御部100は、このような構成により、機能的には、通信制御部101、顔画像検出部102、顔特徴算出部103、記憶制御部104、として機能する。
【0020】
通信制御部101は、通信部300を制御し、メールサーバ10とインターネットを通じて通信する。具体的には、メールサーバ10から画像等の情報を受信し、メールサーバ10に情報を送信する。
【0021】
顔画像検出部102は、記憶装置200の顔画像検出プログラム記憶部202に記憶された顔画像検出プログラムを用いて、画像に顔の画像が含まれるか判別し、含まれている場合にはその顔の画像を抽出する処理を実行する。
【0022】
顔特徴算出部103は、記憶装置200の顔特徴量算出プログラム記憶部203に記憶された顔特徴量算出プログラムを用いて、顔の画像から顔の特徴量を算出する処理を実行する。
【0023】
記憶制御部104は、記憶装置200を制御する。具体的には、記憶装置200に制御部100の処理結果に基づく情報を記憶させる。また、記憶装置200に記憶された情報を読み込む。
【0024】
記憶装置200は、RAM(Random−Access Memory)等から構成される主記憶装置と、フラッシュメモリ、ハードディスク、等の不揮発性メモリから構成される外部記憶装置と、から構成される。
主記憶装置は外部記憶装置に記憶されている制御プログラムや情報をロードし、制御部100の作業領域として用いられる。
外部記憶装置は、後述する処理を制御部100に行わせるためのプログラムと情報とをあらかじめ記憶し、これらのプログラムや情報を制御部100の指示に従って主記憶装置に伝達する。また、制御部100の指示に従って、制御部100の処理に基づく情報を記憶する。
【0025】
記憶装置200は、上記物理構成により、機能的には、画像記憶部201と、顔画像検出プログラム記憶部202と、顔特徴量算出プログラム記憶部203と、期間別基準特徴量記憶部204と、人物情報記憶部205と、画像情報記憶部206と、から構成される。
【0026】
画像記憶部201は、通信部300が受信した画像と、制御部100が処理した画像と、を記憶する。ここで受信した画像は任意の画像であって良いが、例えばデジタルカメラを用いて撮影された人物のスナップ写真の画像等であることが望ましい。
【0027】
顔画像検出プログラム記憶部202は、画像に人の顔の画像が含まれているか判別し、含まれている場合にはその顔の画像を検出する顔画像検出プログラムを記憶する。顔画像検出プログラムの種類は任意であるが、例えば(i)Haar−like特徴を使った顔画像検出プログラム、(ii)HOG (Histogram of Oriented Gradient)特徴を使った顔画像検出プログラム、(iii)画像の各画素のうち人肌の色と推定した色の画素が占める領域を検出し、当該領域の形状と所定の形状との比較結果に基づいてその部分が顔であるか判別することにより顔を検出する顔画像検出プログラム、等の既知の任意の顔画像検出プログラムを採用できる。
これらの顔画像検出プログラムは、ある画像が人の顔の画像を複数含んでいる場合には、各顔の画像をそれぞれ検出する。
【0028】
顔特徴量算出プログラム記憶部203は、人の顔の画像から顔特徴量を算出する顔特徴量算出プログラムを記憶する。顔特徴算出プログラムの種類は任意であるが、例えば(i)顔の画像から、顔の大きさ・方向等を正規化した後、顔の画像の形状を抽出して目・鼻・口等の位置を特定して、これらの位置を特徴として抽出する顔特徴検出プログラム、(ii)正面でない方向から撮影された顔の画像を3次元的に正規化し、検出対象となる眉の位置等の顔の特徴を抽出する顔特徴量検出プログラム、(iii)事前にトレーニングデータを独立成分分析して基底を求め、受信した顔の画像を正規化した画像をこれらの基底の線形結合として表した場合の線形結合係数を顔特徴量として抽出する顔特徴量検出プログラム、等の任意の既知の顔特徴量検出プログラムであってよい。
【0029】
期間別基準特徴量記憶部204は、判別対象となる人物毎に、期間別に顔認識の基準となる顔特徴量の基準値を登録した期間別基準特徴量リストを記憶する。
【0030】
ここで、期間別基準特徴量記憶部204が記憶する期間別基準特徴量リストについて、図2を参照して説明する。期間別基準特徴量リストは、判別対象となる人物を示す人物IDと、各人物の顔特徴を示す基準特徴量と、基準特徴量に対応する期間の開始時と終了時と、等を対応づけて予め記憶する。
【0031】
ここで、人物IDは登録された判別対象となる人物を一意に示す識別子(ID、Identifier) である。
【0032】
期間別基準特徴量リストには、各人物IDに対して、少なくとも一つの基準特徴量とその期間が対応づけて記憶されている。基準特徴量は、判別対象となる顔の画像が、人物IDが示す人物の顔であるか否かを判別する基準となる顔特徴量である。基準特徴量のパラメータは、情報処理装置20が採用する顔認識プログラムで用いられる顔特徴量によって定まるが、ここでは正規化した顔の画像における右眉の内端、左眉の内端、右目の内端、右目の外端、左目の内端、左目の外端、鼻の下端、鼻の上端、口の左端、口の右端、の位置等をパラメータとする。
なお、図2では見やすくするために期間別基準特徴量リストに記憶されている特徴量のパラメータを一部省略して表記している。
【0033】
各基準特徴量には対応する期間が定められている。対応する期間は、基準特徴量の行の開始時が示す日と終了時が示す日の間の期間である。ここでいう基準特徴量に対応する期間とは、対応する人物IDの人物の顔が、その基準特徴量で表される特徴を持っていると推定される期間を表す。
【0034】
受信した画像に含まれる顔の画像が、登録された人物の誰であるか、あるいは新たな人物であるかの判別は、期間別基準特徴量リストに記憶された基準特徴量を用いて行われる。また、期間別基準特徴量リストは、後述する処理に基づいて更新される。
期間別基準特徴量リストを用いた判別処理、更新処理については後述する。
【0035】
図1に戻って、人物情報記憶部205は、期間別基準特徴量リストに登録された判別対象となる人物毎に、その人物の顔の画像を含んでいると判別された画像を受信した回数を、その画像を送信した送信者と対応づけて記憶するメール受信回数リストを記憶する。
【0036】
ここで、メール受信回数リストについて図3を参照して説明する。メール受信回数リストは、人物ID、送信者、受信回数、等を対応づけて記憶する。
【0037】
人物IDは、判別対象となる人物を一意に表す識別子である。メール受信回数リストの人物IDは、期間別基準特徴量リストの人物IDと対応する。
【0038】
メール受信回数リストには予め、一つの人物IDに対応して、一又は複数の送信者と受信回数とが対応づけて記憶されている。
送信者は、対応する人物IDが示す人物の顔を含む画像を情報処理装置20に送信した事がある人物を示す。送信者は、送信者が画像をメールで送信したメールアドレスによって定義されている。
受信回数は、対応する送信者のメールアドレスから、対応する人物IDが示す人物の顔を含むと判別された画像を情報処理装置20が受信した回数を示す。
【0039】
本実施形態では、メール受信回数リストに登録された受信回数に基づいて、人物IDが示す判別対象となる人物と送信者との親密度を推定する。送信者が情報処理装置20に対して、人物IDが示す人物の顔を含むと判別された画像を送った回数が多ければ、送信者と人物IDが示す人物は親密であると推定される。そこで、本実施形態では、新たにその送信者が情報処理装置20に送信した画像にその人物IDが示す人物の顔の画像が含まれている可能性が高いと推定して、その送信者が送信した新たな画像に含まれている顔の画像とその人物IDが示す人物の顔の基準特徴量との類似度が高くなるように修正する。
また、メール受信回数リストは、後述する顔認識・登録処理で更新され、記憶される。
【0040】
図1に戻って、画像情報記憶部206は、画像IDと、各画像の画像ファイルと、送信者と、その画像に顔が含まれていると判別された人物の人物IDと、を対応づけて記録する画像情報リストを記憶する。
【0041】
ここで、画像情報リストについて図4を参照して説明する。
画像情報リストは、各画像を表す画像IDと、画像ファイルの場所と、その画像を送信した人物のアドレス(送信者)と、その画像に含まれる顔の画像の人物(人物ID)と、を対応づけて記憶する。
【0042】
画像IDは、画像を一意に表す識別子である。
【0043】
画像ファイルは、その画像のファイルとファイルの保存場所とを表す。
【0044】
送信者は、その画像を送信した人物のメールアドレスを示す。画像情報リストの送信者は、メール受信回数リストに登録された送信者と対応する。
【0045】
人物IDは、その画像に含まれる顔の画像の、顔を有する人物を示す人物IDである。画像情報リストの人物IDは、メール受信回数リストの人物ID及び期間別基準特徴量リストの人物IDと対応する。画像情報リストは画像IDと対応して、その画像IDが示す画像に含まれる顔の画像の数だけ人物IDを対応して記憶している。
【0046】
画像情報リストは、後述する顔認識・登録処理において更新して記録される。画像情報リストは、各画像に対して、送信者と、どの人物の顔の画像が含まれるかと、を登録しているので、後にある人物(例えばH1)が含まれる画像を全て検索する場合等に利用することが出来る。
【0047】
図1に戻って、通信部300は、制御部100の通信制御部101から制御され、メールサーバ10から画像等の情報を受信し、受信した情報を、送信者を示す情報(アドレス等)と併せて通信制御部101に伝達する。
通信部300は、物理的にはネットワークに接続する網終端装置または無線通信装置、およびそれらと接続するシリアルインターフェースまたはLAN(Local Area Network)インターフェースから構成されている。通信部300は、ネットワークを介して、他のユーザに情報処理装置20に記憶された情報を伝達する。また、他のユーザから情報を受信する。
【0048】
情報処理装置20は、キーボード等から構成される操作部1000を備え、ユーザからの設定入力を受け付ける。さらに、液晶パネル等から構成される表示部1100を備え、制御部100の処理結果をユーザに表示する。情報処理装置20を構成する制御部100、記憶装置200、通信部300、操作部1000、表示部1100、等は、それぞれ内部パスによって接続されている。
【0049】
次に、情報処理装置20が実行する処理を、図1〜図6を参照して説明する。
情報処理装置20の通信部300は、メールサーバ10から画像を受信すると、制御部100の通信制御部101に受信を通知し、併せて受信した画像と送信者の情報とを伝達する。制御部100は、受信を通知されると図5に示す顔認識・登録処理1を開始する。
【0050】
顔認識・登録処理1を開始すると、まず、制御部100の記憶制御部104が顔画像検出プログラム記憶部202に記憶された顔画像検出プログラムを読み出し、読み出した顔画像検出プログラムを用いて制御部100の顔画像検出部102が受信した画像から顔の画像を検出し、検出した顔の画像を正規化する(ステップS101)。ステップS101で読み出す顔画像検出プログラムは任意であるが、ここではHOG特徴を使った顔検出プログラムを読み出す事とする。
【0051】
次に、制御部100はステップS101で顔が検出されたか否かを判別する(ステップS102)。顔の画像が一つも検出されなかった場合(S102;NO)、受信した画像は人の顔の画像を含まないため、処理対象ではないと判別し、制御部100は顔認識・登録処理を終了する。
一方、ステップS101で、受信した画像から少なくとも一つの顔の画像を検出できた場合(ステップS102;YES)、制御部100は検出したそれぞれの顔に番号を定義し、併せて内部メモリのカウンタ変数nに1を代入する(ステップS103)。そして、ステップS104からステップS106において、カウンタ変数nが示す番号の顔の画像(n個目の顔の画像)について処理を行う(ステップS104〜ステップS106)。
【0052】
まず、n個目の顔の画像が、誰の顔であるか判別する人物判別処理を行う(ステップS104)。具体的には、n個目の顔が、期間別基準特徴量記憶部204に記憶された期間別基準特徴量リストに登録された判別対象となる人物の何れかの顔に一致するか、また新たな人物の顔であるかが判別される。併せて、判別された人物の人物IDが検出される。
ここで行われる顔の人物判別処理については後述する。
【0053】
ステップS104でn個目の顔の判別処理が行われ、n個目の顔の画像が何れかの顔に一致すると判別し、その人物の人物IDを検出すると、制御部100はその人物IDのメール受信回数を加算する処理を行なう(ステップS105)。具体的には、制御部100の記憶制御部104が、記憶装置200の人物情報記憶部205に記憶された図3に示すメール受信回数リストの、ステップS104で検出された人物IDと送信者との行の受信回数をインクリメントして、メール受信回数リストを更新して記憶する。
【0054】
次に、制御部100は画像情報リストを更新する(ステップS106)。具体的には、制御部100の記憶制御部104は、記憶装置200の画像情報記憶部206に記憶された図4に示す画像情報リストを更新して保存する。即ち、受信した画像に画像IDを定義し、画像ファイルとして画像記憶部201に記憶する。併せて、定義した画像IDと、受信した画像を保存した場所とファイル名と、受信した画像を送信した送信者のアドレスと、ステップS104で検出された人物IDと、を対応づけて新たに画像情報リストに登録して記憶する。
【0055】
次に、制御部100はカウンタ変数nをインクリメントし(ステップS107)、ステップS101で検出された顔の全てについて処理が終了したか判別する(ステップS108)。即ち、インクリメント後のnが、ステップS101で検出された顔の個数より大きいか否かを判別する。
インクリメント後のnがステップS101で検出された顔の個数以下である場合(ステップS108;NO)、未処理の顔の画像があるので、次の顔の画像についてステップS104からステップS107までの処理を行う。
その後、インクリメント後のnが、ステップS101で検出された顔の個数より大きいと判別されると(ステップS108;YES)、すべての顔の画像について処理が終了したので、今回の顔認識・登録処理1を終了する。
【0056】
次に、顔認識・登録処理1のステップS104で実行されるn個目の顔の人物判別処理について、図6を参照して詳細に説明する。
【0057】
図5で示した顔認識・登録処理1のステップS104に至ると、制御部100は図6に示すn個目の顔の人物判別処理を開始する。まず、制御部100はn個目の顔の画像に付帯する情報を取得する(ステップS201)。具体的には、受信した画像の送信者を示す情報(送信者のアドレス)を、通信制御部101から取得する。併せて、受信した画像ファイルのヘッダ部等から、受信した画像の撮影日を取得する。具体的には、例えば、受信した画像がヘッダ部に撮影日が定義されている画像ファイル(例えばexif形式のファイル)である場合は、ヘッダ部から定義された撮影日を取得する。また、受信した画像のヘッダ部等に撮影日を示す情報が無い場合には、その画像を受信した日を撮影日として推定する。あるいは、ユーザが受信した時に撮影日を入力してもよい。
【0058】
次に、n個目の顔の画像から顔の特徴量を算出する(ステップS202)。具体的には、制御部100の記憶制御部104が顔特徴算出プログラム記憶部203から顔特徴算出プログラムを読み出す。そして、制御部100の顔特徴算出部103が読み出したプログラムを用いてn個目の顔の画像から顔特徴量を算出する。ステップS202で読み出す顔特徴量算出プログラムは任意であるが、ここでは顔の画像の形状を抽出して目・鼻・口等の位置を特定して、これらの位置を特徴として算出する顔特徴量算出プログラムを読み出すこととする。
ここで、顔の画像から顔特徴量を抽出することは、換言すると、顔の画像を顔特徴量の各パラメータを軸とする、顔特徴量のパラメータ数を次元数とする特徴空間に顔の画像を配置することである。
【0059】
ステップS202を終了すると、制御部100は内部メモリのカウンタ変数hに1を代入する(ステップS203)。
【0060】
ステップS203を終了すると、制御部100は、図2に示す期間別基準特徴量リストのh人目の人物の判別用顔特徴を取得する(ステップS204)。
具体的には、制御部100の記憶制御部104は、記憶装置200の期間別基準特徴量記憶部204に記憶されている期間別基準特徴量リストを参照し、登録順にh人目の人物の人物IDを検出して当該人物IDに対応して登録されている期間の開始日と終了日とを読み出す。そして、読み出した期間の開始日と終了日と、ステップS201で取得した撮影日と、から対応する期間の基準特徴量を選択する。
即ち、撮影日を含む期間に対応する基準特徴量が、h人目の人物IDに対して登録されている場合は、その基準特徴量を選択する。一方、撮影日を含む期間に対応する基準特徴量が無い場合には、最も近い開始時又は終了時を持つ期間に対応する基準特徴量を選択する。
基準特徴量を選択することは、換言すれば、上記顔の画像が配置された特徴空間上に、基準となる点(基準点)を選択することである。
【0061】
そして、制御部100はステップS202で算出した顔の特徴量と、ステップS204で選択した基準特徴量との距離を算出して類似度を求める(ステップS205)。類似度の求め方は、任意の既知の顔類似度を求める方法を用いて良いが、ここでは以下のように距離を算出して、算出した距離を類似度とする。このとき、距離が大きいと類似度が低く、距離が小さいと類似度が高い。
具体的には、上記二つの特徴量の各特徴量パラメータそれぞれについて差を算出し、算出したパラメータ毎の差を二乗して加算し、加算した値の平方根を求める。
このとき、各パラメータの差の二乗に、実験等によって求めた重みを乗算して加算する。
具体的な式は、式(1)のとおりである。なお、式(1)では特徴量のパラメータ数をkとする。ステップS202で算出した特徴量の各パラメータをP11〜P1k、ステップS205で選択された基準特徴量の各パラメータをP21〜P2k、実験によって求められた各パラメータの重みをW1〜Wk、算出された距離をΔとする。
【数1】
・・・(1)
【0062】
ここで、Δは特徴空間における顔の画像と基準点との距離である。
なお、ここでは類似度を二つの特徴量の各特徴量パラメータそれぞれについて差を算出し、算出したパラメータ毎の差を二乗して加算し、加算した値の平方根によって定めたが、類似度を算出する式は上記式(1)に限定されず、例えば式(1)から平方根を削除した式であって良い。
【0063】
ステップS205で特徴量の距離を算出すると、次に制御部100はh人目の受信回数を取得する(ステップS206)。具体的には、制御部100の記憶制御部104が、記憶装置200の人物情報記憶部205に記憶されているメール受信回数リストを参照し、h人目の人物の人物IDと送信者に対応する受信回数を取得する。
【0064】
ステップS206でh人目の受信回数を取得すると、制御部100は閾値を算出する。具体的には、実験等によって求められた所定の閾値thに、h人目の受信回数によって定まる補正値fを乗算して補正された閾値th1(=th・f)を求める。
補正値の算出方法は任意の方法であって良いが、ここでは以下の式(2)によって算出される値とする。なお、式(2)ではステップS206で取得したh人目の受信回数をaとする。
f(a)=1+log(a+1)…(2)
ここで補正値f(a)は、h人目の人物と送信者との親密度を表し、受信した画像にh人目の人物の顔の画像が含まれていると想定される程度を示す。
即ち、画像の受信回数が多いほど、換言すると、親密度が高いほど、閾値th1を大きくして、一致すると認識する範囲を広くする。このとき、補正値の上限を定め、一致すると認識する範囲が所定の範囲よりも大きくならないようにしてもよい。
【0065】
ステップS207で閾値th1を算出すると、次に制御部100はステップS205で算出した距離Δが、閾値th1以上であるか判別する(ステップS208)。そして、距離Δが閾値th1以上であった場合(ステップS208;NO)、制御部100はn個目の顔の画像の人物はh人目の人物ではないと判別する。
【0066】
一方、距離Δが閾値th1より小さい場合(ステップS208;YES)、n個目の顔の画像の人物はh人目の人物であり得るので、次に制御部100は距離Δが1〜h人目の人物について算出された距離の中で最小距離であったか否か判別する(ステップS209)。
【0067】
距離Δが1〜h人目の人物について算出された距離の中で最小距離であった場合(ステップS209;YES)、h人目の人物は、n個目の顔の人物の候補であるため、制御部100はh人目の人物を一時保存メモリに保存する(ステップS210)。
【0068】
一方、距離Δが1〜h人目の人物うちの最小距離で無い場合(ステップS210;NO)、h人目の人物より、その最小距離にある人物がn個目の顔の人物である蓋然性が高いため、制御部100はステップS210をスキップする。
【0069】
S209又はS210でNOと判別されるか、ステップS211の処理を終了すると、制御部100はh人目の人物についての処理を終了する。即ち、制御部100はカウンタ変数hをインクリメントし(ステップS211)、期間別基準特徴量記憶部204に記憶された期間別基準特徴量リストに登録された全ての人物について処理を終了したか判別する(ステップS212)。即ち、インクリメント後のhが、期間別基準特徴量記憶部204に記憶された期間別基準特徴量リストに登録された全ての人物の数(H)より大きいか判別し、大きい場合は(ステップS212;YES)すべての人物について処理が終了したと判別して処理を終了する。
一方、hがH以下の場合、未処理の人物があると判別し、次の判別対象となる人物についてステップS204からステップS212までの処理を行う。
【0070】
以上で本実施形態のn個目の顔の人物判別処理についての説明を終わる。n個目の顔の人物判別処理が終わると、制御部100は図2のステップS105以下の処理を実行する。
【0071】
このような処理を実行することにより、本実施形態に係る情報処理装置20によれば、人物の顔の画像の撮影(取得)時期にかかわらず、正確に該当する人物を特定することができる。
【0072】
次に、本実施形態の情報処理装置20が実施する処理を図7を参照して具体例に基づいて説明する。
【0073】
ここでは、情報処理装置20が、メールアドレスa@xxx.co.jpを持つ送信者Aから、画像を受信した場合に行われる処理の概要を説明する。
説明の前提として、情報処理装置20の期間別基準特徴量記憶部204は、判別対象となる人物H1及びH2について基準特徴量を予め期間別基準特徴量リストに保存しているものとする。具体的には、人物H1に関して、H1が赤ん坊だった時期の1995年3月2日から1995年6月1日に対応する基準量B1、H1が少年だった時期の2008年5月2日から2009年2月10日に対応する基準量B2、H1が青年である時期の2009年2月11日から2010年3月24日までに対応する基準量B3、等を記憶している。また、人物H2に関して、1985年7月17日から1987年9月4日に対応する基準量B4、2000年2月12日から2008年12月8日に対応する基準量B5、2008年12月9日から2010年4月1日までに対応する基準量B6、等を記憶している。
【0074】
また、情報処理装置20の人物情報記憶部205は、送信者Aが、過去に、人物H1の顔を含む画像を115回、人物H2の顔を含む画像を5回送信したことをメール受信回数リストに保存しているものとする。
【0075】
送信者Aは、2010年4月2日に撮影された画像I1を、メールサーバ10を介して情報処理装置20に新たに送信している(ステップT1)。情報処理装置20は、受信した画像I1中の顔の画像I2を特定し、特定した顔の画像I2から顔特徴量を算出する(ステップT2、図5;ステップS101,図6;ステップS202)。
【0076】
情報処理装置20は、撮影日に最も近い期間に対応する基準特徴量を、人物H1と人物H2とについて選択する。具体的には、H1について、1995年3月2日〜1995年6月1日と、2008年5月2日〜2009年2月10日と、2009年2月11日〜2010年3月24日のうち、画像I1の撮影時である2010年4月2日に最も近い時期である2009年2月11日〜2010年3月24日に対応する基準量B3を選択する(ステップT3、図6;ステップS204)。同様に、人物H2について最も近いB6を選択する(ステップT4、図6;ステップS204)。
【0077】
次に、検出した顔の画像の特徴量と、選択された基準特徴量を特徴空間に当てはめる。具体的には、まず人物H1の基準量B3との距離Δ1を算出する(ステップT5、図6;ステップS205)。さらに、メール受信回数リストから、送信者Aが人物H1を含む画像を送信した回数115回を取得し(図6;ステップS206)、式(2)にa=115を代入して補正値f(=1+log(115)=3.06)を算出する。さらに、内部メモリから閾値thを読み出し、算出した補正値fと乗算して補正した閾値th1(=3.06・th)を求める(ステップT6、図6;ステップS207)。これは、特徴空間上でH1と判別される範囲R1を算出することと等しい。
同様に、人物H2の基準量B6との距離Δ2を算出し(ステップT7、図6;ステップS205)、送信者Aが人物H2を含む画像を送信した回数5回を取得し(図6;ステップS206)、補正値f(=1+log(5)=1.70)を算出する。そして、閾値thと補正値fを乗算し、補正した閾値th2(=1.70・th)を求める(ステップT8、図6;ステップS207)。これは、特徴空間上でH2と判別される範囲R2を算出することと等しい。
【0078】
顔の画像I2の顔特徴量は、基準量B3を中心とした半径R1の範囲内にある。
一方、算出された顔特徴量は、基準量B6を中心とした半径R2の外にある。
その他により近い人物が居ないので、顔の画像T2は人物H1の顔の画像であると判別される(ステップT9)。
【0079】
上記の説明のとおり、実施形態1に係る情報処理装置20は、判別対象となる人物の顔の特徴量を、その特徴量が対応する期間と対応づけて記憶して、判別対象となる画像の生成日時(撮影日時)に即した特徴量を用いて判別を行う。
そのため、情報処理装置20によれば、その人がどのような顔であるか、期間に分けて期間毎に判別することが出来るため、顔が頻繁に変わる時期には短い期間に対応する判別用の特徴量を必要な数だけ記憶し、顔の特徴が安定している場合には長い期間に対応する判別用の特徴量を記憶することにより、必要な記憶容量と処理量が膨大に成らず、人の顔の変化に対応して顔認識精度を高めることが出来る。
【0080】
また、情報処理装置20は、送信者と判別対象となる人物の親密度を、送信者がその人物の顔が含まれる画像を送信した回数に基づいて算出し、算出した親密度に基づいて判別結果を修正する。
このため、情報処理装置20によれば、送信者と判別対象となる人物の関係に基づいた、より精度の高い判別を行うことが出来る。
【0081】
(実施形態2)
次に、本発明の実施形態2について説明する。実施形態2は、実施形態1の構成に加え、受信した画像に含まれる顔の特徴量に基づいて期間別基準特徴量リストを更新する構成を持つことを特徴とする。
【0082】
実施形態2に係る情報処理システム2、及び情報処理装置21の構成は実施形態1の情報処理システム1及び情報処理装置20と同様である。
【0083】
実施形態2においては、実施形態1と比して記憶装置200の期間別基準特徴量記憶部204が記憶する期間別基準特徴量リストの構成が異なる。
実施形態2において、記憶装置200の期間別基準特徴量記憶部204が記憶する期間別基準特徴量リストの構成を、図8を参照して説明する。
【0084】
実施形態2に係る期間別基準特徴量リストは、実施形態1に係る期間別基準特徴量リストと比して、基準特徴量に対応して、開始日の特徴量と、終了日の特徴量と、をさらに記憶する点で異なる(図8)。
【0085】
続いて、実施形態2に係る情報処理装置21が実行する処理について、図9〜図11を参照して説明する。
【0086】
情報処理装置21の通信部300は、メールサーバ10から画像を受信すると、制御部100の通信制御部101に受信を通知し、併せて受信した画像と送信者の情報とを伝達する。制御部100は、受信を通知されると図9に示す顔認識・登録処理2を開始する。
【0087】
顔認識・登録処理2は、n個目の顔の判別処理を行ったあとに基準特徴量を更新する処理を行う点で、実施形態1に係る顔認識・登録処理1(図5)と異なる。
【0088】
顔認識・登録処理2において、顔検出処理(ステップS301)からn個目の顔の人物判別処理(ステップS304)までの処理は、実施形態1における処理(図5;ステップS101〜ステップS104、図6)と同様に実行される。
【0089】
n個目の顔の人物判別処理(ステップS304)が終わると、次に制御部100は基準特徴量更新処理(ステップS305、図10)を行う。
【0090】
ここで、基準特徴量更新処理を、図10と図11を参照して説明する。なお、図11は図10のステップS403〜ステップS410で行われる処理の概要を示す図である。顔認識・登録処理2のステップS305に至ると、制御部100は図10に示す基準特徴量更新処理を開始する。
【0091】
まず、制御部100は、顔認識・登録処理2のステップS304において、n番目の顔の人物が誰であると判別されたか取得する。そして、判別された人物が、すでに期間別基準特徴量リストに登録された人物であるか否か判別する(ステップS401)。
【0092】
判別された人物が、すでに期間別基準特徴量リストに登録された人物でない場合(ステップS401;NO)、制御部100はその人物を新たな人物として期間別基準特徴量リストに登録する(ステップS411)。具体的には、制御部100は、判別された人物に新しい人物IDを発行する。また、記憶制御部104が、記憶装置200の期間別基準特徴量記憶部204に記憶された期間別基準特徴量リストに、新しい人物IDを、新たな基準特徴量と対応づけて記憶する。ここでは、新たな基準特徴量として、n個目の顔の人物判別処理のステップS202(図6)で算出された特徴量が記憶される。
【0093】
このとき、新たな基準特徴量には、受信した画像の生成日が対応する期間の開始日時と終了日時として登録される。
【0094】
一方、判別された人物が、予め期間別基準特徴量リストに登録された人物である場合(ステップS401;YES)、制御部100はその人物に対応する基準特徴量とその期間を更新する処理を実行する(ステップS402〜ステップS410)。
【0095】
その人物に対応する基準特徴量とその期間を更新する処理では、制御部100はまず期間別基準特徴量リストに、その人物と対応して、受信した画像の生成日を含む期間の基準特徴量が登録されているか判別する(ステップS402)。
具体的には、制御部100の記憶制御部104が、期間別基準特徴量記憶部204に記憶された期間別基準特徴量リストを参照し、制御部100がその人物を示す人物IDと対応して、画像の生成日時を含む期間が記憶されているか判別する。
【0096】
画像の生成日時を含む期間が記憶されている場合(ステップS402;YES)、その期間に対応する基準特徴量を更新する(ステップS410)。
具体的な更新方法は任意に設定可能であるが、ここでは期間に対応する基準特徴量と、n個目の顔の人物判別処理のステップS202で算出された顔の特徴量(判別対象となる顔の特徴量)とを加算して平均することとする。
【0097】
その他の更新方法として、今までその期間に対応するその人物の基準特徴量が更新された回数等の、現在の基準特徴量の確からしさを算出し、算出した確からしさを重みとして用いて、現在の基準特徴量と判別対象となる顔の特徴量とを加重平均して基準特徴量を更新してもよい。
【0098】
一方、画像の生成日時を含む期間が記憶されていない場合(ステップS402;NO)、制御部100は、その生成日時から最も近い期間に対応する基準特徴量を特定する(ステップS403)。
【0099】
そして、制御部100は、特定された最も近い期間に対応する基準特徴量に対して、受信した画像の生成日が対応する期間の前か後ろかを判別する(ステップS404)。
受信した画像の生成日が対応する期間の前であった場合、(ステップS404;YES、図11の(A1))、制御部100は期間別基準特徴量記憶部204に記憶された期間別基準特徴量リストで、その基準特徴量と対応して記憶された終了時の特徴量と、判別対象となる顔の特徴量と、の距離(特徴量の差)Δ1を算出する(ステップS405)。具体的な距離の算出方法は、n個目の顔の人物判別処理のステップS205で説明した特徴量の距離算出方法と同じである。
【0100】
一方、受信した画像の生成日が対応する期間の後であった場合、(ステップS404;NO、図11の(B1))、制御部100は期間別基準特徴量記憶部204に記憶された期間別基準特徴量リストで、その基準特徴量と対応して記憶された開始時の特徴量と、判別対象となる顔の特徴量と、の距離(特徴量の差)Δ2を算出する(ステップS406)。具体的な距離の算出方法は、n個目の顔の人物判別処理のステップS205で説明した特徴量の距離算出方法と同じである。
【0101】
距離の算出処理(ステップS405又はステップS406)が終わると、制御部100は、算出された距離(Δ1又はΔ2)が所定の閾値th2より大きいか否か判別する(ステップS407)。なお、th2は予め実験により定められた所定の数値である。
【0102】
算出された距離(Δ1又はΔ2)が閾値th2より大きい場合(ステップS407;YES、)、その人物は選択された基準特徴量が対応する期間から画像の生成日時の間に顔が変化したとの推測に基づき、判別対象となる顔特徴量(撮影日の特徴量)を、画像の生成日時を期間の始めと終わりとする新しい基準特徴量として、判別された人物を示す人物IDと対応づけて、期間別基準特徴量リストに登録する(ステップS409、図11の(A2)又は(B2))。
【0103】
一方、算出された距離が閾値th2以下の場合(ステップS407;NO)、その人物は選択された基準特徴量に対応する期間から画像の生成日時の間に顔が変化していないとの推定に基づき、制御部100は選択された基準特徴量の期間を延長して記憶する(ステップS408)。具体的には、画像の生成日時を新たな期限に含むように、期限別基準特徴量リストに登録された、選択された基準特徴量に対応する期間の開始時又は終了時を、画像の生成日時に更新して登録し、併せて開始時の特徴量又は終了時の特徴量を判別用の特徴量として更新して登録する(図11の(A3)又は(B3))。
【0104】
ステップS408が終わると、選択された基準特徴量を更新する(ステップS410)。
ステップS409、ステップS410又はステップS411において期間別基準特徴量リストが更新されると、更新された期間別基準特徴量リストが記憶装置200の期間別基準特徴量記憶部204に上書き保存され、基準特徴量更新処理(図9;ステップS305、図10)は終了する。
【0105】
図9にもどり、基準特徴量更新処理(ステップS305)が終了すると、制御部100はその後の処理(ステップS306〜ステップS309)を顔認識・登録処理1のステップS105〜ステップS108と同様に実行し、顔認識・登録処理2を終了する。
【0106】
以上説明したように、本実施形態の情報処理装置21によれば、新たに受信した画像に含まれる顔の画像の判別結果に基づいて、期間別基準特徴量リストが更新される。そのため、ある人物の顔が変わった時期を推定し、自動的に期間別基準特徴量リストに登録された基準特徴量と対応する期間とを更新することができる。
そのため、判別結果に基づいて、その人物の顔が変わっていく過程に対応して更新された基準特徴量を用いてその後の判別を行うことができ、顔判別精度を高めることができる。また、判別結果に基づいて、その人の顔が変わっていないと判別された場合には基準特徴量が対応する期間を延長するため、判別に必要な基準特徴量を記憶するための容量を適正な量に抑えることができる。
【0107】
以上、本発明の実施形態について説明したが、本発明の実施形態は上記に限られるものではない。
【0108】
例えば、上記実施形態1及び2では、情報処理装置20又は情報処理装置21が画像を受信し、判別・登録処理等を行ったが、本発明の実施形態はこれに限られるものではない。
本発明のその他の実施形態に係る情報処理システム3は、メールサーバ10が送信した画像を受信・表示装置30が受信し、受信した画像を情報処理装置22に伝達し、情報処理装置22が図9〜図11に示す処理を行う構成を持つ。
【0109】
受信・表示装置30は、画像をメールサーバ10から受信し、記憶装置500に記憶し、記憶装置500が記憶する画像を表示部800に表示し、情報処理装置22に伝達するデジタルフォトフレームであり、制御部400と、記憶装置500と、通信部700と、表示部800と、入出力部900と、から構成される。
【0110】
制御部400は、物理的にはCPU(Central Processing Unit)、DSP(Digital Signal Processer)、内部メモリ等から構成され、記憶装置500と、操作部600と、通信部700と、表示部800と、入出力部900と、から構成される。
制御部400は、このような構成により、機能的には、通信制御部401、表示制御部402、記憶制御部403、操作制御部404、入出力制御部405、として機能する。
【0111】
通信制御部401は、通信部700を制御し、メールサーバ10とインターネットを通じて通信する。具体的には、メールサーバ10から画像等の情報を受信し、メールサーバ10に情報を送信する。
【0112】
表示制御部402は、表示部800を制御する。具体的には、表示部800に制御部400が行った処理結果に基づき画面を表示させる。
【0113】
記憶制御部403は、記憶装置500を制御する。具体的には、記憶装置500に制御部400の処理結果に基づく情報を記憶させる。また、記憶装置500に記憶された情報を読み込む。
【0114】
操作制御部404は、操作部600が検出したユーザの操作を示す情報を受け取る。
【0115】
入出力制御部405は、入出力部900を制御する。具体的には、入出力部900を用いて情報処理装置22の入出力部310と通信を行って、制御部400の処理結果に基づく情報を情報処理装置22に伝達する。また、情報処理装置22から情報を受け取る。
【0116】
記憶装置500は、RAM(Random−Access Memory)等から構成される主記憶装置と、フラッシュメモリ、ハードディスク、等の不揮発性メモリから構成される外部記憶装置と、から構成され、機能的には、画像記憶部501を含む。
主記憶装置は外部記憶装置に記憶されている制御プログラムや情報をロードし、制御部400の作業領域として用いられる。
外部記憶装置は、後述する処理を制御部400に行わせるためのプログラムと情報とをあらかじめ記憶し、これらのプログラムや情報を制御部400の指示に従って主記憶装置に伝達する。また、制御部400の指示に従って、制御部400の処理に基づく情報を記憶する。
【0117】
画像記憶部501は、受信・表示装置30が受信した画像を記憶する。記憶する画像は、例えばデジタルカメラを用いて撮影された写真の画像である。
【0118】
情報処理装置22は、通信部300の代わりに入出力部310を持ち、制御部100が通信制御部101に変わって入出力制御部105を持つ以外は、実施形態1に係る情報処理装置20と同じ構成を持つ。
【0119】
情報処理システム3では、受信・表示装置30がメールサーバ10から画像を受信すると、入出力部900を介して情報処理装置22に伝達される。その後、情報処理装置22が実行する処理は、実施形態2に係る情報処理装置21が行う処理と同様である。
【0120】
なお、上記実施形態に係る情報処理システムを、メールサーバ10をシステムに含まない構成として構築することも可能である。
【0121】
また、上記実施形態では送信者をメールアドレスで定義したが、送信者を人物IDで定義してもよい。また、一人の送信者に対して複数のメールアドレスを定義してもよい。
【0122】
また、上記実施形態では情報処理装置が受信した判別対象となる人物の画像を含む画像の受信回数に基づいて親密度を算出したが、本発明で判別対象となる人物と送信者の親密度を算出する方法はこれに限られるものではない。
その他の親密度を算出する方法として、ユーザが自ら人物と送信者の親密度を設定する構成も可能である。また、ユーザと送信者とのメール通信を監視し、判別対象となる人物の名前がメール通信で使われる回数に基づいて親密度を算出してもよい。
【0123】
また、親密度から閾値th1を補正する方法は、上記実施形態で説明した方法に限られない。その他の補正方法として、親密度と、対応する補正後の閾値と、を記憶する親密度閾値リストを記憶装置に記憶して、親密度閾値リストを参照して補正後の親密度を求めてもよい。
【0124】
さらに、親密度に基づいて判別結果を補正する方法は、上記の閾値に親密度を乗算して閾値を大きくする方法に限らない。その他の補正方法として、親密度から算出された補正値に基づいて上記類似度を補正して判別することにより、判別結果を親密度に基づいて補正する方法も可能である。
【0125】
なお、制御部100、記憶装置200、通信部300、等から構成される情報処理装置のための処理を行う中心となる部分は、専用のシステムによらず、通常のコンピュータシステムを用いて実現可能である。たとえば、前記の動作を実行するためのコンピュータプログラムを、コンピュータが読み取り可能な記録媒体(フレキシブルディスク、CD−ROM、DVD−ROM等)に格納して配布し、当該コンピュータプログラムをコンピュータにインストールすることにより、前記の処理を実行する情報処理装置を構成してもよい。また、インターネット等の通信ネットワーク上のサーバ装置が有する記憶装置に当該コンピュータプログラムを格納しておき、通常のコンピュータシステムがダウンロード等することで情報処理装置を構成してもよい。
【0126】
また、情報処理装置の機能を、OS(オペレーティングシステム)とアプリケーションプログラムの分担、またはOSとアプリケーションプログラムとの協働により実現する場合などには、アプリケーションプログラム部分のみを記録媒体や記憶装置に格納してもよい。
【0127】
また、搬送波にコンピュータプログラムを重畳し、通信ネットワークを介して配信することも可能である。たとえば、通信ネットワーク上の掲示板(BBS:Bulletin Board System)に前記コンピュータプログラムを掲示し、ネットワークを介して前記コンピュータプログラムを配信してもよい。そして、このコンピュータプログラムを起動し、OSの制御下で、他のアプリケーションプログラムと同様に実行することにより、前記の処理を実行できるように構成してもよい。
【0128】
以上、本発明の好ましい実施形態について説明したが、本発明は係る特定の実施形態に限定されるものではなく、本発明には、特許請求の範囲に記載された発明とその均等の範囲が含まれる。以下に、本願出願の当初の特許請求の範囲に記載された発明を付記する。
【0129】
(付記1)
判別対象の人物の顔の特徴を表す複数の基準顔特徴量を、対応する期間を示す情報と対応づけて記憶する基準顔特徴記憶手段と、
顔の画像を取得する顔画像取得手段と、
前記顔画像取得手段が取得した顔の画像が生成された日時を特定する情報を取得する日時取得手段と、
前記日時取得手段が取得した日時と前記複数の基準顔特徴量に対応する期間とを比較し、比較結果に基づいて、前記基準顔特徴記憶手段に記憶された複数の基準顔特徴量から、前記顔の画像に対応する基準顔特徴量である対応基準顔特徴量を選択する選択手段と、
前記顔画像取得手段が取得した顔の画像から、その顔特徴量である取得顔特徴量を抽出する取得顔特徴抽出手段と、
前記対応基準顔特徴量と前記取得顔特徴量とに基づいて、前記顔画像取得手段が取得した顔の画像の顔を有する人物が前記判別対象の人物であるか否かを判別する判別手段と、
を備えることを特徴とする情報処理装置。
【0130】
(付記2)
前記顔画像取得手段は受信手段が受信した画像から顔の画像を検出することにより顔の画像を取得し、
さらに、
前記受信手段が受信した画像の送信者を特定する送信者特定手段と、
前記判別対象の人物と前記送信者との親密度を算出する親密度算出手段と、
を備え、
前記判別手段は、前記対応基準顔特徴量と前記取得顔特徴量と前記親密度とに基づいて判別する、
ことを特徴とする付記1に記載の情報処理装置。
【0131】
(付記3)
前記親密度算出手段は、前記受信手段が、前記送信者から、前記判別手段が前記判別対象の人物であると判別した顔の画像を含む画像を受信した回数に基づいて前記親密度を算出する、
ことを特徴とする付記2に記載の情報処理装置。
【0132】
(付記4)
前記判別手段が算出した類似度が所定の類似度の閾値よりも高い場合、前記基準顔特徴記憶手段が記憶する前記判別対象の人物の顔の特徴を表す複数の基準顔特徴量の少なくとも一つを、前記取得顔特徴量に基づいて更新する更新手段を、
さらに備えることを特徴とする、付記3に記載の情報処理装置。
【0133】
(付記5)
前記更新手段は、前記日時取得手段が取得した日時が、前記対応基準顔特徴量と対応する期間内に含まれる場合に、前記対応基準顔特徴量を前記取得顔特徴量に基づいて更新する、
ことを特徴とする付記4に記載の情報処理装置。
【0134】
(付記6)
前記基準顔特徴記憶手段は、前記複数の基準顔特徴量それぞれに対応づけて、前記複数の基準顔特徴量のそれぞれに対応する期間の始まりの日時の顔特徴量と、前記対応する期間の終わりの日時の顔特徴量と、をさらに記憶し、
さらに、
前記始まりの日時と前記終わりの日時とのうち前記取得した日時と遠い方の日時の顔特徴量と前記取得顔特徴量との差を算出する差算出手段を備え、
前記更新手段は、
前記日時取得手段が取得した日時が前記対応基準顔特徴量と対応する期間内に含まれず、かつ前記差算出手段が検出した差が所定の差の閾値よりも大きい場合に、前記取得顔特徴量と前記取得した日時に基づいて新たな期間と新たな基準顔情報量を記憶し、
前記日時取得手段が取得した日時が前記対応基準顔特徴量と対応する期間内に含まれず、かつ前記差算出手段が検出した差が前記差の閾値よりも小さい場合に、前記対応基準顔特徴量と、当該対応基準顔特徴量に対応する期間とを、前記取得顔特徴量と前記取得した日時に基づいて更新する、
ことを特徴とする付記5に記載の情報処理装置。
【0135】
(付記7)
コンピュータに、
判別対象の人物の顔の特徴を表す複数の基準顔特徴量を期間の情報と共に記憶する処理、
顔の画像を取得する処理、
前記取得した顔の画像が生成された日時を取得する処理、
期間別に予め記憶している基準顔特徴量のうちから、画像の生成日時と前記複数の基準顔特徴量に対応する期間とを比較し、比較結果に基づいて、前記顔の画像に対応する基準顔特徴量である対応基準顔特徴量を選択する処理、
前記取得した顔の画像から、その顔特徴量である取得顔特徴量を抽出する処理、
前記対応基準顔特徴量と前記取得顔特徴量との類似度を算出することにより、前記取得した顔の画像の顔を有する人物が前記判別対象の人物であるか否かを判別する処理、
を実行させることを特徴とするプログラム。
【符号の説明】
【0136】
1…情報処理システム、2…情報処理システム、3…情報処理システム、10…メールサーバ、20…情報処理装置、21…情報処理装置、22…情報処理装置、30…受信・表示装置、100…制御部、101…通信制御部、102…顔画像検出部、103…顔特徴算出部、104…記憶制御部、105…入出力制御部、200…記憶装置、201…画像記憶部、202…顔画像検出プログラム記憶部、203…顔特徴量算出プログラム記憶部、204…期間別基準特徴量記憶部、205…人物情報記憶部、206…画像情報記憶部、300…通信部、310…入出力部、400…制御部、401…通信制御部、402…表示制御部、403…記憶制御部、404…操作制御部、405…入出力制御部、500…記憶装置、501…画像記憶部、600…操作部、700…通信部、800…表示部、900…入出力部、1000…操作部、1100…表示部
【特許請求の範囲】
【請求項1】
判別対象の人物の顔の特徴を表す複数の基準顔特徴量を、対応する期間を示す情報と対応づけて記憶する基準顔特徴記憶手段と、
顔の画像を取得する顔画像取得手段と、
前記顔画像取得手段が取得した顔の画像が生成された日時を特定する情報を取得する日時取得手段と、
前記日時取得手段が取得した日時と前記複数の基準顔特徴量に対応する期間とを比較し、比較結果に基づいて、前記基準顔特徴記憶手段に記憶された複数の基準顔特徴量から、前記顔の画像に対応する基準顔特徴量である対応基準顔特徴量を選択する選択手段と、
前記顔画像取得手段が取得した顔の画像から、その顔特徴量である取得顔特徴量を抽出する取得顔特徴抽出手段と、
前記対応基準顔特徴量と前記取得顔特徴量とに基づいて、前記顔画像取得手段が取得した顔の画像の顔を有する人物が前記判別対象の人物であるか否かを判別する判別手段と、
を備えることを特徴とする情報処理装置。
【請求項2】
前記顔画像取得手段は受信手段が受信した画像から顔の画像を検出することにより顔の画像を取得し、
さらに、
前記受信手段が受信した画像の送信者を特定する送信者特定手段と、
前記判別対象の人物と前記送信者との親密度を算出する親密度算出手段と、
を備え、
前記判別手段は、前記対応基準顔特徴量と前記取得顔特徴量と前記親密度とに基づいて判別する、
ことを特徴とする請求項1に記載の情報処理装置。
【請求項3】
前記親密度算出手段は、前記受信手段が、前記送信者から、前記判別手段が前記判別対象の人物であると判別した顔の画像を含む画像を受信した回数に基づいて前記親密度を算出する、
ことを特徴とする請求項2に記載の情報処理装置。
【請求項4】
前記判別手段が算出した類似度が所定の類似度の閾値よりも高い場合、前記基準顔特徴記憶手段が記憶する前記判別対象の人物の顔の特徴を表す複数の基準顔特徴量の少なくとも一つを、前記取得顔特徴量に基づいて更新する更新手段を、
さらに備えることを特徴とする、請求項3に記載の情報処理装置。
【請求項5】
前記更新手段は、前記日時取得手段が取得した日時が、前記対応基準顔特徴量と対応する期間内に含まれる場合に、前記対応基準顔特徴量を前記取得顔特徴量に基づいて更新する、
ことを特徴とする請求項4に記載の情報処理装置。
【請求項6】
前記基準顔特徴記憶手段は、前記複数の基準顔特徴量それぞれに対応づけて、前記複数の基準顔特徴量のそれぞれに対応する期間の始まりの日時の顔特徴量と、前記対応する期間の終わりの日時の顔特徴量と、をさらに記憶し、
さらに、
前記始まりの日時と前記終わりの日時とのうち前記取得した日時と遠い方の日時の顔特徴量と前記取得顔特徴量との差を算出する差算出手段を備え、
前記更新手段は、
前記日時取得手段が取得した日時が前記対応基準顔特徴量と対応する期間内に含まれず、かつ前記差算出手段が検出した差が所定の差の閾値よりも大きい場合に、前記取得顔特徴量と前記取得した日時に基づいて新たな期間と新たな基準顔情報量を記憶し、
前記日時取得手段が取得した日時が前記対応基準顔特徴量と対応する期間内に含まれず、かつ前記差算出手段が検出した差が前記差の閾値よりも小さい場合に、前記対応基準顔特徴量と、当該対応基準顔特徴量に対応する期間とを、前記取得顔特徴量と前記取得した日時に基づいて更新する、
ことを特徴とする請求項5に記載の情報処理装置。
【請求項7】
コンピュータに、
判別対象の人物の顔の特徴を表す複数の基準顔特徴量を期間の情報と共に記憶する処理、
顔の画像を取得する処理、
前記取得した顔の画像が生成された日時を取得する処理、
期間別に予め記憶している基準顔特徴量のうちから、画像の生成日時と前記複数の基準顔特徴量に対応する期間とを比較し、比較結果に基づいて、前記顔の画像に対応する基準顔特徴量である対応基準顔特徴量を選択する処理、
前記取得した顔の画像から、その顔特徴量である取得顔特徴量を抽出する処理、
前記対応基準顔特徴量と前記取得顔特徴量との類似度を算出することにより、前記取得した顔の画像の顔を有する人物が前記判別対象の人物であるか否かを判別する処理、
を実行させることを特徴とするプログラム。
【請求項1】
判別対象の人物の顔の特徴を表す複数の基準顔特徴量を、対応する期間を示す情報と対応づけて記憶する基準顔特徴記憶手段と、
顔の画像を取得する顔画像取得手段と、
前記顔画像取得手段が取得した顔の画像が生成された日時を特定する情報を取得する日時取得手段と、
前記日時取得手段が取得した日時と前記複数の基準顔特徴量に対応する期間とを比較し、比較結果に基づいて、前記基準顔特徴記憶手段に記憶された複数の基準顔特徴量から、前記顔の画像に対応する基準顔特徴量である対応基準顔特徴量を選択する選択手段と、
前記顔画像取得手段が取得した顔の画像から、その顔特徴量である取得顔特徴量を抽出する取得顔特徴抽出手段と、
前記対応基準顔特徴量と前記取得顔特徴量とに基づいて、前記顔画像取得手段が取得した顔の画像の顔を有する人物が前記判別対象の人物であるか否かを判別する判別手段と、
を備えることを特徴とする情報処理装置。
【請求項2】
前記顔画像取得手段は受信手段が受信した画像から顔の画像を検出することにより顔の画像を取得し、
さらに、
前記受信手段が受信した画像の送信者を特定する送信者特定手段と、
前記判別対象の人物と前記送信者との親密度を算出する親密度算出手段と、
を備え、
前記判別手段は、前記対応基準顔特徴量と前記取得顔特徴量と前記親密度とに基づいて判別する、
ことを特徴とする請求項1に記載の情報処理装置。
【請求項3】
前記親密度算出手段は、前記受信手段が、前記送信者から、前記判別手段が前記判別対象の人物であると判別した顔の画像を含む画像を受信した回数に基づいて前記親密度を算出する、
ことを特徴とする請求項2に記載の情報処理装置。
【請求項4】
前記判別手段が算出した類似度が所定の類似度の閾値よりも高い場合、前記基準顔特徴記憶手段が記憶する前記判別対象の人物の顔の特徴を表す複数の基準顔特徴量の少なくとも一つを、前記取得顔特徴量に基づいて更新する更新手段を、
さらに備えることを特徴とする、請求項3に記載の情報処理装置。
【請求項5】
前記更新手段は、前記日時取得手段が取得した日時が、前記対応基準顔特徴量と対応する期間内に含まれる場合に、前記対応基準顔特徴量を前記取得顔特徴量に基づいて更新する、
ことを特徴とする請求項4に記載の情報処理装置。
【請求項6】
前記基準顔特徴記憶手段は、前記複数の基準顔特徴量それぞれに対応づけて、前記複数の基準顔特徴量のそれぞれに対応する期間の始まりの日時の顔特徴量と、前記対応する期間の終わりの日時の顔特徴量と、をさらに記憶し、
さらに、
前記始まりの日時と前記終わりの日時とのうち前記取得した日時と遠い方の日時の顔特徴量と前記取得顔特徴量との差を算出する差算出手段を備え、
前記更新手段は、
前記日時取得手段が取得した日時が前記対応基準顔特徴量と対応する期間内に含まれず、かつ前記差算出手段が検出した差が所定の差の閾値よりも大きい場合に、前記取得顔特徴量と前記取得した日時に基づいて新たな期間と新たな基準顔情報量を記憶し、
前記日時取得手段が取得した日時が前記対応基準顔特徴量と対応する期間内に含まれず、かつ前記差算出手段が検出した差が前記差の閾値よりも小さい場合に、前記対応基準顔特徴量と、当該対応基準顔特徴量に対応する期間とを、前記取得顔特徴量と前記取得した日時に基づいて更新する、
ことを特徴とする請求項5に記載の情報処理装置。
【請求項7】
コンピュータに、
判別対象の人物の顔の特徴を表す複数の基準顔特徴量を期間の情報と共に記憶する処理、
顔の画像を取得する処理、
前記取得した顔の画像が生成された日時を取得する処理、
期間別に予め記憶している基準顔特徴量のうちから、画像の生成日時と前記複数の基準顔特徴量に対応する期間とを比較し、比較結果に基づいて、前記顔の画像に対応する基準顔特徴量である対応基準顔特徴量を選択する処理、
前記取得した顔の画像から、その顔特徴量である取得顔特徴量を抽出する処理、
前記対応基準顔特徴量と前記取得顔特徴量との類似度を算出することにより、前記取得した顔の画像の顔を有する人物が前記判別対象の人物であるか否かを判別する処理、
を実行させることを特徴とするプログラム。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【公開番号】特開2012−242863(P2012−242863A)
【公開日】平成24年12月10日(2012.12.10)
【国際特許分類】
【出願番号】特願2011−108855(P2011−108855)
【出願日】平成23年5月13日(2011.5.13)
【出願人】(000001443)カシオ計算機株式会社 (8,748)
【Fターム(参考)】
【公開日】平成24年12月10日(2012.12.10)
【国際特許分類】
【出願日】平成23年5月13日(2011.5.13)
【出願人】(000001443)カシオ計算機株式会社 (8,748)
【Fターム(参考)】
[ Back to top ]