説明

顔画像補正装置、顔画像補正方法及びプログラム

【課題】簡単な操作で顔画像データの補正を行って、正面以外の角度や方向の画像でも個人の顔の顔検出に適用する。
【解決手段】撮像装置100であって、記憶媒体に記憶された複数の画像データの中から、操作入力部の所定操作に基づいて指定された特定の顔画像データと類似する顔画像データを検索する画像検索部3aと、この画像検索部による検索の結果として得られた顔画像データが補正処理に利用されるデータとして指定されたか否かを判定する指定判定部3hと、この指定判定部によって補正処理に利用されるデータとして顔画像データが指定されたと判定されると、当該顔画像データと特定の顔画像データとに基づいて、顔認識データ用メモリに記憶すべき顔画像データを補正する顔認識用データ生成部4aとを備えている。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、顔画像補正装置、顔画像補正方法及びプログラムに関する。
【背景技術】
【0002】
従来、データベース自動更新方法を用いた顔検証装置及びそのシステムに関する技術において、顔検証したい人物の顔画像データを検証システムに登録すると、その顔画像データの両目の座標対を検出し、その座標対の中心点を計算して登録顔画像を正規化し、その座標対を基準に上下左右や対角方向にその座標対を移動させ、所定の演算処理を通して特徴分類器を作成することにより顔検証の精度を上げるという顔検証方法及びシステムの発明が知られている(例えば、特許文献1参照)。
【先行技術文献】
【特許文献】
【0003】
【特許文献1】特開2003−317101号公報
【発明の概要】
【発明が解決しようとする課題】
【0004】
しかしながら、上記特許文献1の顔検証方法及びシステムは、正面顔のみの経年変化を想定したものであり、個人の顔についてあらゆる角度から見た場合の検証には適していない。このため、近年のデジタルカメラ等に利用される個人の顔の顔検出技術に適用し難いという問題がある。
【0005】
そこで、本発明の課題は、このような問題に鑑みてなされたもので、簡単な操作で顔画像データの補正を行うことができ、正面以外の角度や方向の画像でも個人の顔の顔検出に適用することができる顔画像補正装置、顔画像補正方法及びプログラムを提供することにある。
【課題を解決するための手段】
【0006】
上記課題を解決するため、請求項1に記載の発明の顔画像補正装置は、
少なくとも一の顔画像データを記憶する記憶手段と、この記憶手段に記憶された少なくとも一の顔画像データの中で特定の顔画像データを指定する指定手段と、複数の画像データを記憶する記憶媒体と、この記憶媒体に記憶された複数の画像データの中から、前記指定手段によって指定された特定の顔画像データと類似する顔画像データを検索する検索手段と、この検索手段による検索の結果として得られた顔画像データが補正処理に利用されるデータとして指定されたか否かを判定する判定手段と、この判定手段によって前記補正処理に利用されるデータとして前記顔画像データが指定されたと判定されると、当該顔画像データと前記指定手段によって指定された特定の顔画像データとに基づいて、前記記憶手段に記憶すべき顔画像データを補正する補正手段と、を備えることを特徴としている。
【0007】
請求項2に記載の発明は、請求項1に記載の顔画像補正装置において、
前記補正手段は、前記補正処理に利用されるデータとして指定された顔画像データと前記指定手段によって指定された特定の顔画像データとを用いて、新たな顔画像データを生成する生成手段を含むことを特徴としている。
【0008】
請求項3に記載の発明は、請求項1又は2に記載の顔画像補正装置において、
前記検索手段による検索の結果、類似する顔画像データが得られたか否かを判断する第1の判断手段と、この第1の判断手段により類似する顔画像データが得られなかったと判断されると、撮像により新たに顔画像データを取得するよう報知する第1の報知手段と、を更に備えることを特徴としている。
【0009】
請求項4に記載の発明は、請求項3に記載の顔画像補正装置において、
撮像手段と、前記第1の報知手段による報知に基づいて、撮像により新たに顔画像データを取得する旨の指示を検出したか否かを判断する第1の検出判断手段と、この第1の検出判断手段により前記指示が検出されたと判断されると、前記撮像手段を起動させるよう制御する起動制御手段と、を更に備えることを特徴としている。
【0010】
請求項5に記載の発明は、請求項1〜4の何れか一項に記載の顔画像補正装置において、
前記検索手段は、前記記憶媒体に記憶された複数の画像データの中から、前記指定手段によって指定された特定の顔画像データとの類似度が所定値以上の画像データを候補顔画像データとして検索し、前記候補顔画像データは、前記補正処理に利用されるデータとして指定可能となっていることを特徴としている。
【0011】
請求項6に記載の発明は、請求項3〜5の何れか一項に記載の顔画像補正装置において、
前記記憶媒体は、当該装置本体に対して着脱可能に構成され、前記第1の判断手段により類似する顔画像データが得られなかったと判断されると、前記記憶媒体とは異なる新たな記憶媒体を装着するよう報知する第2の報知手段を更に備えることを特徴としている。
【0012】
請求項7に記載の発明は、請求項6に記載の顔画像補正装置において、
前記第2の報知手段による報知後に、新たな記憶媒体が装着されたか否かを判断する第2の判断手段を更に備え、前記検索手段は更に、前記第2の判断手段により新たな記憶媒体が装着されたと判断されると、この新たな記憶媒体から前記指定手段によって指定された特定の顔画像データと類似する顔画像データを検索することを特徴としている。
【0013】
請求項8に記載の発明は、請求項3〜7の何れか一項に記載の顔画像補正装置において、
前記第1の判断手段により類似する顔画像データが得られなかったと判断されると、当該装置外部の記憶手段に記憶されている顔画像データを検索するよう報知する第3の報知手段を更に備えることを特徴としている。
【0014】
請求項9に記載の発明は、請求項8に記載の顔画像補正装置において、
当該装置外部の通信装置と通信する通信手段と、前記第3の報知手段による報知に基づいて、当該装置外部の記憶手段を検索する旨の指示を検出したか否かを判断する第2の検出判断手段と、この第2の検出判断手段により前記指示が検出されたと判断されると、前記通信手段を起動させ、前記装置外部の記憶手段に対し前記指定手段によって指定された特定の顔画像データと類似する顔画像データの検索を指示する検索指示手段と、を更に備えることを特徴としている。
【0015】
請求項10に記載の発明は、請求項1〜9の何れか一項に記載の顔画像補正装置において、
前記検索手段により検索された顔画像データを表示する表示手段を更に備えたことを特徴としている。
【0016】
請求項11に記載の発明の顔画像補正方法は、
少なくとも一の顔画像データを記憶する記憶手段を備える顔画像補正装置を用いた顔画像補正方法であって、前記記憶手段に記憶された少なくとも一の顔画像データの中で特定の顔画像データを指定する処理と、記憶媒体に記憶された複数の画像データの中から、前記特定の顔画像データと類似する顔画像データを検索する処理と、検索の結果得られた顔画像データが補正処理に利用されるデータとして指定されたか否かを判定する処理と、前記補正処理に利用されるデータとして前記顔画像データが指定されたと判定されると、当該顔画像データと前記特定の顔画像データとに基づいて、前記記憶手段に記憶すべき顔画像データを補正する処理と、を実行することを特徴としている。
【0017】
請求項12に記載の発明のプログラムは、
少なくとも一の顔画像データを記憶する記憶手段を備える顔画像補正装置のコンピュータを、前記記憶手段に記憶された少なくとも一の顔画像データの中で特定の顔画像データを指定する指定手段、記憶媒体に記憶された複数の画像データの中から、前記指定手段によって指定された特定の顔画像データと類似する顔画像データを検索する検索手段、この検索手段による検索の結果として得られた顔画像データが補正処理に利用されるデータとして指定されたか否かを判定する判定手段、この判定手段によって前記補正処理に利用されるデータとして前記顔画像データが指定されたと判定されると、当該顔画像データと前記指定手段によって指定された特定の顔画像データとに基づいて、前記記憶手段に記憶すべき顔画像データを補正する補正手段、として機能させることを特徴としている。
【発明の効果】
【0018】
本発明によれば、簡単な操作で顔画像データの補正を行うことができ、正面以外の角度や方向の画像でも個人の顔の顔検出に適用することができる。
【図面の簡単な説明】
【0019】
【図1】本発明を適用した一実施形態の撮像装置の概略構成を示すブロック図である。
【図2】簡易顔認識用データ及び詳細顔認識用データの一例を模式的に示す図である。
【図3】図1の撮像装置による顔認識画像補正処理に係る動作の一例を示すフローチャートである。
【図4】図3の顔認識画像補正処理の続きを示すフローチャートである。
【発明を実施するための形態】
【0020】
以下に、本発明について、図面を用いて具体的な態様を説明する。ただし、発明の範囲は、図示例に限定されない。
図1は、本発明を適用した一実施形態の撮像装置100の概略構成を示すブロック図である。
【0021】
本実施形態の撮像装置100は、記憶媒体9に記憶された複数の画像データの中から、ユーザによる操作入力部11の所定操作に基づいて指定された特定の画像データに対応する簡易顔認識用データd1(図2参照)と類似する類似画像データを検索し、検索の結果得られた類似画像データが補正処理に利用されるデータとして指定されたと判定されると、当該類似画像データと特定の画像データとに基づいて、顔認識データ用メモリ5に記憶すべき顔画像データを補正して詳細顔認識用データd2(図2参照)を生成する。
具体的には、図1に示すように、撮像装置100は、撮像部1と、画像データ生成部2と、顔検出処理部3と、画像処理部4と、顔認識データ用メモリ5と、表示制御部6と、表示部7と、記憶媒体制御部8と、記憶媒体9と、通信制御部10と、操作入力部11と、中央制御部12とを備えている。また、撮像装置100は、通信ネットワークNに接続された外部データベースDBと通信可能に構成されている。
【0022】
撮像部1は、被写体を撮像して画像フレームを生成する。具体的には、撮像部1は、図示は省略するが、ズームレンズやフォーカスレンズ等の複数のレンズから構成されたレンズ部と、レンズ部を通過する光の量を調整する絞りと、CCD(Charge Coupled Device)やCMOS(Complementary Metal-oxide Semiconductor)等のイメージセンサから構成され、レンズ部の各種レンズを通過した光学像を二次元の画像信号に変換する電子撮像部を備えている。
また、撮像部1は、図示は省略するが、タイミング発生器、ドライバなどから構成された撮像制御部を備えている。そして、撮像制御部は、タイミング発生器、ドライバにより電子撮像部を走査駆動して、所定周期毎に光学像を電子撮像部により二次元の画像信号に変換させ、当該電子撮像部の撮像領域から1画面分ずつ画像フレームを読み出して画像データ生成部2に出力させる。
また、撮像制御部は、撮像条件の調整制御として、AE(自動露出処理)、AF(自動合焦処理)、AWB(自動ホワイトバランス)等を行う。
【0023】
画像データ生成部2は、電子撮像部から転送された画像データのアナログ値の信号に対してRGBの各色成分毎に適宜ゲイン調整した後に、サンプルホールド回路(図示略)でサンプルホールドしてA/D変換器(図示略)でデジタルデータに変換し、カラープロセス回路(図示略)で画素補間処理及びγ補正処理を含むカラープロセス処理を行った後、デジタル値の輝度信号Y及び色差信号Cb,Cr(YUV色空間の画像データ)を生成する。
カラープロセス回路から出力される輝度信号Y及び色差信号Cb,Crは、図示しないDMAコントローラを介して、バッファメモリとして使用されるメモリにDMA転送される。
【0024】
顔検出処理部3は、画像検索部3aと、検索判断部3bと、報知制御部3cと、指示検出判断部3dと、装着判断部3eと、起動制御部3fと、検索指示部3gと、指定判定部3hとを具備している。
【0025】
画像検索部3aは、顔認識処理の登録対象となる人物に係る簡易顔認識用データd1(後述)を用いて、当該簡易顔認識用データd1と類似する画像データを検索する。
具体的には、画像検索部3aは、顔認識画像補正処理にて、画像処理部4の顔認識用データ生成部4a(後述)により生成された簡易顔認識用データd1を用いて、記憶媒体9に記憶されている複数の画像データの中から、当該簡易顔認識用データd1と類似する画像データを検索する。そして、画像検索部3aは、記憶媒体9に記憶されている複数の画像データのうち、簡易顔認識用データd1との類似度が所定値以上の画像データを類似画像データ(候補顔画像データ)として特定する。即ち、画像検索部3aは、記憶媒体9に記憶された複数の画像データの中から、ユーザによる操作入力部11の所定操作に基づいて指定された顔認識処理の登録対象となる人物の画像データ(顔画像データ)に対応して生成された簡易顔認識用データd1との類似度が所定値以上の画像データを候補顔画像データとして検索する。
また、画像検索部3aは、装着済みの記憶媒体9とは異なる新たな記憶媒体が装着されると、この新たな記憶媒体から簡易顔認識用データd1と類似する画像データを検索する。
なお、画像検索部3aによる画像検索の手法は、如何なる認識アルゴリズムを用いても良いし、さらに、このアルゴリズムは学習機能を具備していても良く、例えば、主成分分析を用いた手法が挙げられる。
ここで、画像検索部3aは、記憶媒体9に記憶された複数の画像データの中から、ユーザによる操作入力部11の所定操作に基づいて指定された顔認識処理の登録対象となる人物の画像データ(顔画像データ)と類似する画像データ(顔画像データ)を検索する検索手段を構成している。
【0026】
検索判断部3bは、画像検索部3aによる画像検索の結果、簡易顔認識用データd1と類似する類似画像データ(顔画像データ)が得られたか否かを判断する。即ち、検索判断部3bは、第1の判断手段として、顔認識処理の登録対象となる人物の顔画像データと類似する顔画像データが得られたか否かを判断する。
【0027】
報知制御部3cは、検索判断部3bにより簡易顔認識用データd1と類似する類似画像データが得られなかったと判断された場合に、他の方法での類似画像の検索指示の報知を制御する。
具体的には、報知制御部3cは、表示制御部6を制御して、新たな画像データ(顔画像データ)の撮像による取得を指示するメッセージや、装着済みの記憶媒体9とは異なる新たな記憶媒体の装着を指示するメッセージや、当該撮像装置100外部の外部データベース(装置外部の記憶手段)DBに記憶されている画像データ(顔画像データ)の検索を指示するメッセージ等を表示部7に報知表示させる。
ここで、報知制御部3c、表示制御部6及び表示部7は、撮像により新たに顔画像データを取得するよう報知する第1の報知手段、記憶媒体9とは異なる新たな記憶媒体を装着するよう報知する第2の報知手段、当該撮像装置100外部の記憶手段に記憶されている顔画像データを検索するよう報知する第3の報知手段を構成している。
【0028】
指示検出判断部3dは、報知制御部3cの制御下における他の方法での類似画像の検索指示の報知後に、ユーザによる操作入力部11の所定操作に基づいて他の方法で類似画像を取得する旨の指示を検出したか否かを判断する。
具体的には、報知制御部3cの制御下にて、新たな画像データの撮像による取得を指示するメッセージが表示部7に報知表示された後、ユーザによる操作入力部11の所定操作に基づいて出力された新たな画像データの撮像による取得に係る信号が入力されるか否かに応じて、指示検出判断部(第1の検出判断手段)3dは、撮像により新たに画像データ(顔画像データ)を取得する旨の指示を検出したか否かを判断する。
また、報知制御部3cの制御下にて、撮像装置100外部の外部データベース(記憶手段)DBに記憶されている画像データの検索を指示するメッセージが表示部7に報知表示された後、ユーザによる操作入力部11の所定操作に基づいて出力された当該撮像装置100外部の画像データの検索に係る信号が入力されるか否かに応じて、指示検出判断部(第2の検出判断手段)3dは、撮像装置100外部の外部データベースDBを検索する旨の指示を検出したか否かを判断する。
【0029】
装着判断部3eは、報知制御部3cの制御下における他の方法での類似画像の検索指示の報知後に、ユーザによる所定操作に基づいて新たな記憶媒体が装着されたか否かを判断する。
即ち、報知制御部3cの制御下にて、装着済みの記憶媒体9とは異なる新たな記憶媒体の装着を指示するメッセージが表示部7に報知表示された後、装着判断部3eは、第2の判断手段として、ユーザによる記憶媒体9の着脱操作に基づいて記憶媒体制御部8から出力された信号が入力されたか否かに応じて新たな記憶媒体が装着されたか否かを判断する。
【0030】
起動制御部3fは、指示検出判断部3dによって撮像により新たに画像データを取得する旨の指示が検出された判断されると、撮像部1を起動させるよう制御する。
具体的には、起動制御部3fは、当該撮像装置100の動作モードとして撮影モードの起動を指示する信号を撮像部1に出力して当該撮像部1を起動させ、当該撮像部1により被写体を撮像させる。このとき、画像検索部3aは、撮像部1による撮像により生成されたライブビュー画像から、簡易顔認識用データd1と類似する画像データ(顔画像データ)を検索する。
ここで、起動制御部3fは、指示検出判断部3dによって撮像により新たに顔画像データを取得する旨の指示が検出されたと判断されると、撮像部1を起動させるよう制御する起動制御手段を構成している。
【0031】
検索指示部3gは、指示検出判断部3dによって撮像装置100外部の記憶手段を検索する旨の指示が検出されたと判断されると、通信制御部10を起動させた後、当該通信制御部10から撮像装置100外部の記憶手段に対して簡易顔認識用データd1と類似する画像データの検索を指示する。
具体的には、検索指示部3gは、通信制御部10に対して起動を指示する信号を出力して当該通信制御部10を起動させた後、通信制御部10から通信ネットワークNを介して外部データベースDBにアクセスさせて、簡易顔認識用データd1と類似する画像データ(顔画像データ)の検索指示を送信させる。
ここで、検索指示部3gは、指示検出判断部3dによって撮像装置100外部の記憶手段を検索する旨の指示が検出されたと判断されると、通信制御部10を起動させ、当該撮像装置100外部の外部データベース(記憶手段)DBに対して顔認識処理の登録対象となる人物の顔画像データと類似する顔画像データの検索を指示する検索指示手段を構成している。
【0032】
指定判定部3hは、検索の結果得られた類似画像データ(顔画像データ)が詳細顔認識用データd2の生成処理(補正処理)に利用されるデータとして指定されたか否かを判定する。
具体的には、画像検索部3aや外部データベースDBによる検索の結果として表示部7に表示された類似画像の中で、ユーザによる操作入力部11の所定操作に基づいて出力された少なくとも何れか一の類似画像の指定に係る信号が入力されるか否かに応じて、指定判定部3hは、詳細顔認識用データd2の生成処理に利用されるデータとして指定されたか否かを判定する。
ここで、指定判定部3hは、検索手段による検索の結果として得られた顔画像データが補正処理に利用されるデータとして指定されたか否かを判定する判定手段を構成している。
【0033】
画像処理部4は、簡易顔認識用データd1や詳細顔認識用データd2を生成する顔認識用データ生成部4aを具備している。
顔認識用データ生成部4aは、顔認識画像補正処理にて、ユーザによる操作入力部11の所定操作に基づいて、表示部7に表示されている複数の画像の中から顔認識処理の対象となる人物の登録画像として何れか一の画像が指定されると、当該画像に対して所定の変換処理(例えば、ズーム、平行移動、回転等)を施して、顔のサイズや目の位置を正規化することで簡易顔認識用データ(図2参照)d1を生成する。
なお、正規化は、ユーザが手動で行なっても良いし、或いは、顔検出及びパーツ認識を用いて自動的に行なっても良い。
【0034】
また、顔認識用データ生成部4aは、ユーザによる操作入力部11の所定操作に基づいて、顔認識処理の対象となる人物の登録画像として選択指定された画像データと、詳細顔認識用データd2(図2参照)の生成処理に利用されるデータとして指定された少なくとも一の類似画像データとに基づいて、詳細顔認識用データd2を生成する。
具体的には、指定判定部3hによって何れかの類似画像データが詳細顔認識用データd2の生成処理に利用されるデータとして指定されたと判定されると、顔認識用データ生成部(生成手段)4aは、人物の登録画像として選択指定された画像データと類似画像データとを用いて、顔認識データ用メモリ5に記憶される新たな顔画像データとして詳細顔認識用データd2を生成する。なお、顔認識用データ生成部4aは、人物の登録画像として選択指定された画像データと類似画像データとに基づいて、簡易顔認識用データd1に対して補正処理を施すことにより詳細顔認識用データd2を生成するようにしても良い。
ここで、顔認識用データ生成部4aは、指定判定部3hによって詳細顔認識用データd2の生成処理(補正処理)に利用されるデータとして類似画像データ(顔画像データ)が指定されたと判定されると、当該類似画像データと人物の登録画像として選択指定された画像データ(顔画像データ)とに基づいて、顔認識データ用メモリ(記憶手段)5に記憶すべき顔画像データを補正する補正手段を構成している。
【0035】
顔認識データ用メモリ5は、例えば、不揮発性メモリ(フラッシュメモリ)等により構成され、簡易顔認識用データd1や詳細顔認識用データd2(図2参照)等を記憶している。
図2に示すように、簡易顔認識用データd1や詳細顔認識用データd2は、人物の氏名(例えば、「Aさん」、「Bさん」、「Cさん」等)と対応付けて記憶されている。また、簡易顔認識用データd1は、人物の簡易的な顔認識処理に用いられるデータであり、例えば、白黒2値の1ビットの色データである。また、詳細顔認識用データd2は、人物の高精度な顔認識処理に用いられるデータであり、例えば、顔の陰影の濃淡を表したグレースケールのデータや、その人物の様々な顔の角度のデータ等である。
なお、簡易顔認識用データd1や詳細顔認識用データd2は、一例であってこれらに限られるものではなく、顔画像の特徴に係り顔認識処理に用いられるものであれば如何なるデータであっても良い。
ここで、顔認識データ用メモリ5は、少なくとも一の顔画像データとしての簡易顔認識用データd1や詳細顔認識用データd2を記憶する記憶手段を構成している。
【0036】
表示制御部6は、メモリに一時的に記憶されている表示用の画像データを読み出して表示部7に表示させる制御を行う。
具体的には、表示制御部6は、VRAM、VRAMコントローラ、デジタルビデオエンコーダなどを備えている。そして、デジタルビデオエンコーダは、中央制御部12の制御下にてメモリから読み出されてVRAM(図示略)に記憶されている輝度信号Y及び色差信号Cb,Crを、VRAMコントローラを介してVRAMから定期的に読み出して、これらのデータを元にビデオ信号を発生して表示部7に出力する。
【0037】
表示部7は、例えば、液晶表示装置であり、表示制御部6からのビデオ信号に基づいて電子撮像部により撮像された画像などを表示画面に表示する。具体的には、表示部7は、静止画撮像モードや動画撮像モードにて、撮像部1による被写体の撮像により生成された複数の画像フレームを所定のフレームレートで逐次更新しながらライブビュー画像を表示する。また、表示部7は、静止画として記録される画像(レックビュー画像)を表示したり、動画として記録中の画像を表示する。
【0038】
また、表示部7は、表示手段として、顔検出処理部3の画像検索部3aにより検索された類似画像データ(顔画像データ)を表示する。このとき、表示部7は、表示制御部6の制御下にて、類似画像の中で簡易顔認識用データd1と類似していると判別した箇所を矩形枠で囲んだ状態で表示する。
【0039】
記憶媒体制御部8は、中央制御部12の制御下にて、記憶媒体9に対するデータの書き込みや記憶媒体9からのデータの読み出しを制御する。
【0040】
記憶媒体9は、当該撮像装置100本体に対して着脱可能に構成されたメモリカード等である。また、記憶媒体9は、画像処理部4の符号化部(図示略)により所定の圧縮形式で符号化された複数の記録用の静止画像データや複数の画像フレームからなる動画像データを記憶している。
【0041】
通信制御部10は、例えば、通信アンテナや通信回路(図示略)等を具備し、無線LAN(Local Area Network)等の所定の通信規格により、通信ネットワークNを介して接続された外部データベースDBとの間で情報の通信制御を行う。
ここで、通信制御部10は、当該撮像装置100外部の外部データベース(通信装置)DBと通信する通信手段を構成している。
【0042】
なお、通信ネットワークNは、例えば、専用線や既存の一般公衆回線を利用して構築された通信ネットワークNであり、LAN(Local Area Network)やWAN(Wide Area Network)等の様々な回線形態を適用することが可能である。また、通信ネットワークNには、例えば、電話回線網、ISDN回線網、専用線、移動体通信網、通信衛星回線、CATV回線網等の各種通信回線網と、それらを接続するインターネットサービスプロバイダ等が含まれる。
また、外部データベースDBは、例えば、ユーザが使用可能なPC、所定の業者により管理されている画像管理サーバ等に備えられているものであり、通信制御部や画像検索部(何れも図示略)等を具備している。外部データベースDBの通信制御部は、上記通信制御部10と略同様の構成をなし、通信ネットワークNを介して接続された撮像装置100との間で情報の通信制御を行う。
外部データベースDBの画像検索部は、上記画像検索部3aと略同様の構成をなし、通信制御部により受信した簡易顔認識用データd1を用いて、当該簡易顔認識用データd1と類似する画像データを検索して、簡易顔認識用データd1との類似度が所定値以上の画像データを類似画像データとして特定する。そして、外部データベースDBの通信制御部は、画像検索部により検索された類似画像データを通信ネットワークNを介して撮像装置100に送信する。
【0043】
操作入力部11は、当該撮像装置100の所定操作を行うためのものである。具体的には、操作入力部11は、被写体の撮影指示に係るシャッタボタン、撮像モードや機能等の選択指示に係る選択決定ボタン、ズーム量の調整指示に係るズームボタン等を備え(何れも図示略)、これらのボタンの操作に応じて所定の操作信号を中央制御部12に出力する。
【0044】
また、操作入力部11の選択決定ボタンは、顔認識画像補正処理にて、ユーザによるメニューボタンの所定操作に基づいて記憶媒体9から読み出されて表示部7に表示される複数の画像(顔画像)の中から、顔認識処理の対象となる人物の登録画像として何れか一の画像(特定の顔画像)の指定指示を入力する。そして、操作入力部11は、当該選択決定ボタンの操作に応じて所定の指定信号を中央制御部12に出力する。
中央制御部12は、入力された指定信号に従って、記憶媒体9に記憶されている少なくとも一の画像データの中から、ユーザ所望の画像データを顔画像データとして指定する。
ここで、操作入力部11及び中央制御部12は、記憶媒体(記憶手段)9に記憶された少なくとも一の顔画像データの中で特定の顔画像データを指定する指定手段を構成している。
【0045】
中央制御部12は、撮像装置100の各部を制御するものである。具体的には、中央制御部12は、CPU、RAM、ROM(何れも図示略)等を備え、撮像装置100用の各種処理プログラム(図示略)に従って各種の制御動作を行う。
【0046】
次に、顔認識画像補正処理について図3及び図4を参照して説明する。
図3及び図4は、顔認識画像補正処理に係る動作の一例を示すフローチャートである。
顔認識画像補正処理は、ユーザによる操作入力部11の選択決定ボタンの所定操作に基づいて、メニュー画面に表示された複数の撮像モードの中から顔認識処理の画像登録モードが選択指示された場合に実行される処理である。
【0047】
図3に示すように、記憶媒体9から読み出されて表示部7に表示される複数の画像の中から、ユーザによる操作入力部11の所定操作に基づいて、顔認識処理の対象として登録したい人物の何れか一の画像(顔画像)が指定されると(ステップS1)、画像処理部4の顔認識用データ生成部4aは、当該顔画像に対して所定の変換処理を施して、顔のサイズや目の位置を正規化することで簡易顔認識用データd1(図2参照)を生成する(ステップS2)。
【0048】
次に、顔検出処理部3の画像検索部3aは、生成された簡易顔認識用データd1を用いて、記憶媒体9に記憶されている複数の画像データの中から、当該簡易顔認識用データd1と類似する画像データを検索して、簡易顔認識用データd1との類似度が所定値以上の画像データを類似画像データとして特定する(ステップS3)。
続けて、顔検出処理部3の検索判断部3bは、画像検索部3aによる画像検索の結果、簡易顔認識用データd1と類似する類似画像データが得られたか否かを判断する(ステップS4)。
ここで、類似画像データが得られたと判断されると(ステップS4;YES)、表示制御部6は、類似画像中の簡易顔認識用データd1と類似していると判別した箇所を矩形枠で囲んだ状態で当該類似画像を表示部7に表示させる(ステップS5)。
【0049】
次に、顔検出処理部3の指定判定部3hは、ユーザによる操作入力部11の所定操作に基づいて、詳細顔認識用データd2の生成処理に利用される類似画像データを指定する指示が入力されたか否かを判定する(ステップS6)。
ここで、類似画像データを指定する指示が入力されたと判定されると(ステップS6;YES)、画像処理部4の顔認識用データ生成部4aは、人物の登録画像として選択指定された画像データと類似画像データとに基づいて、簡易顔認識用データd1に対して所定の補正処理を施すことにより詳細顔認識用データd2を生成して(ステップS7)、顔画像補正処理を終了する。
【0050】
一方、ステップS4にて、類似画像データが得られなかったと判断されるか(ステップS4;NO)、或いは、類似画像データを指定する指示が入力されなかったと判定されると(ステップS6;NO)、図4に示すように、報知制御部3cは、他の方法での類似画像の検索指示を報知する(ステップS8)。具体的には、報知制御部3cは、表示制御部6を制御して、新たな画像データの撮像による取得を指示するメッセージや、装着済みの記憶媒体9とは異なる新たな記憶媒体の装着を指示するメッセージや、当該撮像装置100外部の外部データベースDBに記憶されている画像データの検索を指示するメッセージ等を表示部7に報知表示させる。
【0051】
続けて、中央制御部12は、新たな画像データの撮像による取得、外部データベースDBに記憶されている画像データの検索、記憶媒体9の差し替え等のユーザの操作に応じて処理を分岐させる(ステップS9)。
即ち、ステップS9にて、ユーザによる操作入力部11の選択決定ボタン等の所定操作に基づいて、新たな画像データの撮像による取得が選択されると、当該ユーザによる操作入力部11の所定操作に基づいて出力された信号が顔検出処理部3の指示検出判断部3dに入力される。そして、当該指示検出判断部3dは、撮像により新たに画像データを取得する旨の指示を検出したと判断して、顔検出処理部3の起動制御部3fは、撮影モードの起動を指示する信号を撮像部1に出力して当該撮像部1を起動させる(ステップS91A)。
続けて、表示制御部6は、撮像部1による被写体の撮像により生成された複数の画像フレームに基づいてライブビュー画像を表示部7の表示画面に表示させるとともに、画像検索部3aは、簡易顔認識用データd1を用いて、ライブビュー画像の中から当該簡易顔認識用データd1と類似する画像データを順次検索する(ステップS91B)。
【0052】
次に、中央制御部12は、ユーザによる操作入力部11のシャッタボタンの所定操作に基づいて撮像指示が入力されたか否かを判定する(ステップS91C)。ここで、撮像指示が入力されたと判定されると(ステップS91C;YES)、中央制御部12は、撮像部1の撮像制御部に撮像条件を調整させて、被写体の光学像を所定の条件で撮像部1の電子撮像部により撮像させて、画像データ生成部2に、電子撮像部から転送された撮像画像のYUVデータを生成させる(ステップS91D)。
続けて、画像検索部3aは、被写体の撮像画像データと簡易顔認識用データd1との類似度が所定値以上であるか否かを判定し、当該判定結果に基づいて、検索判断部3bは、簡易顔認識用データd1と類似する類似画像データが得られたか否かを判断する(ステップS91E)。即ち、画像検索部3aにより簡易顔認識用データd1との類似度が所定値以上であると判定された場合には、検索判断部3bは、類似画像データとしての撮像画像データが得られたと判断する。一方、画像検索部3aにより簡易顔認識用データd1との類似度が所定値未満であると判定された場合には、検索判断部3bは、類似画像データとしての撮像画像データが得られなかったと判断する。
【0053】
ステップS91Eにて、類似画像データが得られたと判断されると(ステップS91E;YES)、中央制御部12は、処理をステップS5(図3参照)に移行させて、それ以降の処理を実行させる。即ち、図3に示すように、表示制御部6は、新たに撮像された撮像画像(類似画像)中の簡易顔認識用データd1と類似していると判別した箇所を矩形枠で囲んだ状態で当該類似画像を表示部7に表示させる(ステップS5)。
なお、ステップS6以降の処理は、上記に説明した処理内容と略同様であり、その説明は省略する。
一方、ステップS91Eにて、類似画像データが得られなかったと判断されると(ステップS91E;NO)、中央制御部12は、処理をステップS8に移行させて、それ以降の処理を実行させる。
【0054】
また、ステップS9にて、ユーザによる操作入力部11の選択決定ボタン等の所定操作に基づいて、外部データベースDBに記憶されている画像データの検索が選択されると、当該ユーザによる操作入力部11の所定操作に基づいて出力された信号が顔検出処理部3の指示検出判断部3dに入力される。そして、当該指示検出判断部3dは、外部データベースDBに記憶されている画像データを検索する旨の指示を検出したと判断して、顔検出処理部3の検索指示部3gは、通信制御部10に対して起動を指示する信号を出力して当該通信制御部10を起動させた後、通信制御部10から通信ネットワークNを介して外部データベースDBにアクセスさせて、簡易顔認識用データd1と類似する画像データの検索指示を送信させる(ステップS92A)。
その後、撮像装置100の中央制御部12は、通信制御部10により外部データベースDBから送信された類似画像データが受信できたか否かを判定する(ステップS92B)。
即ち、外部データベースDBは、ステップS92Aにて通信制御部10から送信された検索指示を受信すると、簡易顔認識用データd1と類似する画像データの検索を行う。そして、当該検索処理によって類似画像データが特定された場合には、外部データベースDBから通信ネットワークNを介して類似画像データが送信され、当該類似画像データが撮像装置100の通信制御部10により受信されると、中央制御部12は、通信制御部10により外部データベースDBから送信された類似画像データが受信できたと判定する(ステップS92B;YES)。一方、外部データベースDBにて、簡易顔認識用データd1と類似する画像データの検索が行われても類似画像データが特定されなかった場合には、外部データベースDBから類似画像データの送信が行われないため、撮像装置100の通信制御部10により類似画像データが受信されず、中央制御部12は、通信制御部10により外部データベースDBから送信された類似画像データが受信できなかったと判定する(ステップS92B;NO)。
【0055】
ステップS92Bにて、通信制御部10により外部データベースDBから送信された類似画像データが受信できたと判定されると(ステップS92B;YES)、中央制御部12は、処理をステップS5(図3参照)に移行させて、それ以降の処理を実行させる。即ち、図3に示すように、表示制御部6は、通信制御部10により受信された類似画像データを取得して、外部データベースDBにて検索された類似画像中の簡易顔認識用データd1と類似していると判別した箇所を矩形枠で囲んだ状態で当該類似画像を表示部7に表示させる(ステップS5)。
なお、ステップS6以降の処理は、上記に説明した処理内容と略同様であり、その説明は省略する。
一方、ステップS92Bにて、通信制御部10により外部データベースDBから送信された類似画像データが受信できなかったと判定されると(ステップS92B;NO)、中央制御部12は、処理をステップS8に移行させて、それ以降の処理を実行させる。
【0056】
また、ステップS9にて、ユーザによる所定操作に基づいて記憶媒体9の差し替えが選択されると、当該ユーザによる記憶媒体9の着脱操作に基づいて記憶媒体制御部8から出力された信号が顔検出処理部3の装着判断部3eに入力される。これにより、当該装着判断部3eは、新たな記憶媒体が装着されたと判断する。
次に、中央制御部12は、処理をステップS3(図3参照)に移行させて、それ以降の処理を実行させる。即ち、図3に示すように、画像検索部3aは、新たに装着された記憶媒体の中から、簡易顔認識用データd1と類似する画像データを検索して、簡易顔認識用データd1との類似度が所定値以上の画像データを類似画像データとして特定する(ステップS3)。
なお、ステップS4以降の処理は、上記に説明した処理内容と略同様であり、その説明は省略する。
【0057】
以上のように、本実施形態の撮像装置100によれば、記憶媒体9に記憶された複数の画像データの中から、ユーザによる操作入力部11の所定操作に基づいて指定された特定の画像データに対応する簡易顔認識用データd1と類似する類似画像データを検索して、当該類似画像データと特定の画像データとに基づいて、顔認識データ用メモリ5に記憶すべき顔画像データを補正して、人物の高精度の顔認識処理に用いられる詳細顔認識用データd2を生成することができるので、簡単な操作で顔画像データの補正を行うことができる。さらに、詳細顔認識用データd2を用いることで顔認識処理の精度の向上を図ることができ、顔認識処理用に登録される画像が正面以外の角度や方向の画像であっても個人の顔の顔検出に適用することができる。
【0058】
また、簡易顔認識用データd1との類似度が所定値以上の画像データを候補顔画像データ(類似画像データ)として特定し、当該類似画像データは詳細顔認識用データd2の生成に利用されるデータとして指定可能となっている。より具体的には、候補顔画像データとして特定された類似画像データを表示部7に表示して、表示された類似画像データの中からユーザ所望の類似画像データを選択指定することができ、顔認識処理により検出される顔画像にユーザの意向を反映させることができる。
さらに、類似画像データを複数指定することもでき、これにより、複数の類似画像データを用いて精度の良い詳細顔認識用データd2を生成することができ、顔認識処理のより高精度化を図ることができる。
【0059】
また、画像検索処理にて類似画像データが得られなかった場合に、撮像により新たに画像データを取得するよう報知するので、撮像により新たな画像データを取得することができ、顔認識画像補正処理にて、記憶媒体9中に簡易顔認識用データd1に類似する類似画像データが記憶されていないために、当該顔認識画像補正処理が中断してしまい、詳細顔認識用データd2の生成を行うことができないといったことを防止することができる。
特に、撮像により新たに画像データを取得する旨の指示が検出されると、撮像部1を起動させるので、撮像による新たな画像データの取得を簡便に行うことができ、ユーザによる当該撮像装置100の操作に係る負担を軽減させることができる。
【0060】
また、画像検索処理にて類似画像データが得られなかった場合に、装着済みの記憶媒体9とは異なる新たな記憶媒体を装着するよう報知するので、新たな記憶媒体から新たな画像データを取得することができ、顔認識画像補正処理にて、記憶媒体9中に簡易顔認識用データd1に類似する類似画像データが記憶されていないために、当該顔認識画像補正処理が中断してしまい、詳細顔認識用データd2の生成を行うことができないといったことを防止することができる。
特に、新たな記憶媒体が装着されたと判断されると、この新たな記憶媒体から簡易顔認識用データd1と類似する画像データを検索するので、新たな記憶媒体からの新たな画像データの取得を簡便に行うことができ、ユーザによる当該撮像装置100の操作に係る負担を軽減させることができる。
【0061】
また、画像検索処理にて類似画像データが得られなかった場合に、当該撮像装置100外部の外部データベースDBに記憶されている顔画像データを検索するよう報知するので、外部データベースDBの検索により新たな画像データを取得することができ、顔認識画像補正処理にて、記憶媒体9中に簡易顔認識用データd1に類似する類似画像データが記憶されていないために、当該顔認識画像補正処理が中断してしまい、詳細顔認識用データd2の生成を行うことができないといったことを防止することができる。
特に、外部データベースDBに記憶されている顔画像データを検索する旨の指示が検出されると、外部データベースDBに対して簡易顔認識用データd1と類似する顔画像データの検索を指示するので、外部データベースDBからの新たな画像データの取得を簡便に行うことができ、ユーザによる当該撮像装置100の操作に係る負担を軽減させることができる。
【0062】
なお、本発明は、上記実施形態に限定されることなく、本発明の趣旨を逸脱しない範囲において、種々の改良並びに設計の変更を行っても良い。
例えば、画像検索処理にて類似画像データが得られなかった場合に、簡易顔認識用データd1と類似する類似画像データの取得を行うために、新たな画像データの撮像による取得、外部データベースDBに記憶されている画像データの検索、記憶媒体9の差し替え等の報知を行うようにしたが、これらの報知を行うか否かは適宜任意に変更することができる。
また、ユーザによる所定操作に基づいて指定された上記の何れかの処理を行うようにしたが、これに限られるものではなく、ユーザにより指定された所定の順序で自動的に行うようにしても良い。即ち、画像検索処理にて類似画像データが得られなかった場合には、撮像部1による被写体の撮像に係る機能を制限しない外部データベースDBからの類似画像データの検索を実行させ、当該検索処理でも類似画像データが得られなかった場合には、新たな画像データの撮像を行わせるようにしても良い。また、外部データベースDBからの類似画像データの検索処理と被写体の撮像処理とを並行して行わせるようにしても良い。
【0063】
また、新たな画像データの撮像による取得、外部データベースDBに記憶されている画像データの検索、記憶媒体9の差し替え等を報知するために、表示部7に所定のメッセージを表示させるようにしたが、報知の態様はこれに限られるものではなく、例えば、音声で所定のメッセージを出力するようにしても良い。
【0064】
また、処理対象画像の撮像は、当該撮像装置100とは異なる撮像装置にて行い、この撮像装置100から転送された処理対象画像の画像データを取得して、顔認識画像補正処理を行う顔画像補正装置であっても良い。
【0065】
加えて、上記実施形態にあっては、指定手段、検索手段、判定手段、補正手段としての機能を、中央制御部12の制御下にて、操作入力部11、顔検出処理部3の画像検索部3a、指定判定部3h、画像処理部4の顔認識用データ生成部4aが駆動することにより実現される構成としたが、これに限られるものではなく、中央制御部12のCPUによって所定のプログラム等が実行されることにより実現される構成としても良い。
即ち、プログラムを記憶するプログラムメモリ(図示略)に、指定処理ルーチン、検索処理ルーチン、判定処理ルーチン、補正処理ルーチンを含むプログラムを記憶しておく。そして、指定処理ルーチンにより中央制御部12のCPUを、記憶手段に記憶された少なくとも一の顔画像データの中で特定の顔画像データを指定する指定手段として機能させるようにしても良い。また、検索処理ルーチンにより中央制御部12のCPUを、記憶媒体9に記憶された複数の画像データの中から、指定手段によって指定された特定の顔画像データと類似する顔画像データを検索する検索手段として機能させるようにしても良い。また、判定処理ルーチンにより中央制御部12のCPUを、検索手段による検索の結果として得られた顔画像データが補正処理に利用されるデータとして指定されたか否かを判定する判定手段として機能させるようにしても良い。また、補正処理ルーチンにより中央制御部12のCPUを、判定手段によって補正処理に利用されるデータとして顔画像データが指定されたと判定されると、当該顔画像データと指定手段によって指定された特定の顔画像データとに基づいて、記憶手段に記憶すべき顔画像データを補正する補正手段として機能させるようにしても良い。
【符号の説明】
【0066】
100 撮像装置
1 撮像部
3 顔検出処理部
3a 画像検索部
3b 検索判断部
3c 報知制御部
3d 指示検出判断部
3e 装着判断部
3f 起動制御部
3g 検索指示部
3h 指定判定部
4 画像処理部
4a 顔認識用データ生成部
5 顔認識データ用メモリ
7 表示部
9 記憶媒体
10 通信制御部
12 中央制御部
DB 外部データベース

【特許請求の範囲】
【請求項1】
少なくとも一の顔画像データを記憶する記憶手段と、
この記憶手段に記憶された少なくとも一の顔画像データの中で特定の顔画像データを指定する指定手段と、
複数の画像データを記憶する記憶媒体と、
この記憶媒体に記憶された複数の画像データの中から、前記指定手段によって指定された特定の顔画像データと類似する顔画像データを検索する検索手段と、
この検索手段による検索の結果として得られた顔画像データが補正処理に利用されるデータとして指定されたか否かを判定する判定手段と、
この判定手段によって前記補正処理に利用されるデータとして前記顔画像データが指定されたと判定されると、当該顔画像データと前記指定手段によって指定された特定の顔画像データとに基づいて、前記記憶手段に記憶すべき顔画像データを補正する補正手段と、
を備えることを特徴とする顔画像補正装置。
【請求項2】
前記補正手段は、
前記補正処理に利用されるデータとして指定された顔画像データと前記指定手段によって指定された特定の顔画像データとを用いて、新たな顔画像データを生成する生成手段を含むことを特徴とする請求項1に記載の顔画像補正装置。
【請求項3】
前記検索手段による検索の結果、類似する顔画像データが得られたか否かを判断する第1の判断手段と、
この第1の判断手段により類似する顔画像データが得られなかったと判断されると、撮像により新たに顔画像データを取得するよう報知する第1の報知手段と、
を更に備えることを特徴とする請求項1又は2に記載の顔画像補正装置。
【請求項4】
撮像手段と、
前記第1の報知手段による報知に基づいて、撮像により新たに顔画像データを取得する旨の指示を検出したか否かを判断する第1の検出判断手段と、
この第1の検出判断手段により前記指示が検出されたと判断されると、前記撮像手段を起動させるよう制御する起動制御手段と、
を更に備えることを特徴とする請求項3に記載の顔画像補正装置。
【請求項5】
前記検索手段は、
前記記憶媒体に記憶された複数の画像データの中から、前記指定手段によって指定された特定の顔画像データとの類似度が所定値以上の画像データを候補顔画像データとして検索し、
前記候補顔画像データは、前記補正処理に利用されるデータとして指定可能となっていることを特徴とする請求項1〜4の何れか一項に記載の顔画像補正装置。
【請求項6】
前記記憶媒体は、当該装置本体に対して着脱可能に構成され、
前記第1の判断手段により類似する顔画像データが得られなかったと判断されると、前記記憶媒体とは異なる新たな記憶媒体を装着するよう報知する第2の報知手段を更に備えることを特徴とする請求項3〜5の何れか一項に記載の顔画像補正装置。
【請求項7】
前記第2の報知手段による報知後に、新たな記憶媒体が装着されたか否かを判断する第2の判断手段を更に備え、
前記検索手段は更に、
前記第2の判断手段により新たな記憶媒体が装着されたと判断されると、この新たな記憶媒体から前記指定手段によって指定された特定の顔画像データと類似する顔画像データを検索することを特徴とする請求項6に記載の顔画像補正装置。
【請求項8】
前記第1の判断手段により類似する顔画像データが得られなかったと判断されると、当該装置外部の記憶手段に記憶されている顔画像データを検索するよう報知する第3の報知手段を更に備えることを特徴とする請求項3〜7の何れか一項に記載の顔画像補正装置。
【請求項9】
当該装置外部の通信装置と通信する通信手段と、
前記第3の報知手段による報知に基づいて、当該装置外部の記憶手段を検索する旨の指示を検出したか否かを判断する第2の検出判断手段と、
この第2の検出判断手段により前記指示が検出されたと判断されると、前記通信手段を起動させ、前記装置外部の記憶手段に対し前記指定手段によって指定された特定の顔画像データと類似する顔画像データの検索を指示する検索指示手段と、
を更に備えることを特徴とする請求項8に記載の顔画像補正装置。
【請求項10】
前記検索手段により検索された顔画像データを表示する表示手段を更に備えたことを特徴とする請求項1〜9の何れか一項に記載の顔画像補正装置。
【請求項11】
少なくとも一の顔画像データを記憶する記憶手段を備える顔画像補正装置を用いた顔画像補正方法であって、
前記記憶手段に記憶された少なくとも一の顔画像データの中で特定の顔画像データを指定する処理と、
記憶媒体に記憶された複数の画像データの中から、前記特定の顔画像データと類似する顔画像データを検索する処理と、
検索の結果得られた顔画像データが補正処理に利用されるデータとして指定されたか否かを判定する処理と、
前記補正処理に利用されるデータとして前記顔画像データが指定されたと判定されると、当該顔画像データと前記特定の顔画像データとに基づいて、前記記憶手段に記憶すべき顔画像データを補正する処理と、
を実行することを特徴とする顔画像補正方法。
【請求項12】
少なくとも一の顔画像データを記憶する記憶手段を備える顔画像補正装置のコンピュータを、
前記記憶手段に記憶された少なくとも一の顔画像データの中で特定の顔画像データを指定する指定手段、
記憶媒体に記憶された複数の画像データの中から、前記指定手段によって指定された特定の顔画像データと類似する顔画像データを検索する検索手段、
この検索手段による検索の結果として得られた顔画像データが補正処理に利用されるデータとして指定されたか否かを判定する判定手段、
この判定手段によって前記補正処理に利用されるデータとして前記顔画像データが指定されたと判定されると、当該顔画像データと前記指定手段によって指定された特定の顔画像データとに基づいて、前記記憶手段に記憶すべき顔画像データを補正する補正手段、
として機能させることを特徴とするプログラム。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate


【公開番号】特開2011−76457(P2011−76457A)
【公開日】平成23年4月14日(2011.4.14)
【国際特許分類】
【出願番号】特願2009−228607(P2009−228607)
【出願日】平成21年9月30日(2009.9.30)
【出願人】(000001443)カシオ計算機株式会社 (8,748)
【Fターム(参考)】