撮像装置、撮像方法、撮像プログラム及び画像処理装置
【課題】例えば赤目補正を適切に行うことができ、利用者側の処理負担を軽減できる撮像装置を提供する。
【解決手段】撮像装置は、フラッシュ撮影された画像の中から、赤目補正を行う候補となる領域である複数の赤目補正候補領域を検出するとともに、検出された赤目補正候補領域の赤目らしさを示す赤目検出信頼度を各前記赤目補正候補領域に対して生成する赤目検出部と、少なくとも前記赤目検出信頼度に基づいて、検出することに成功している度合いを各前記赤目補正候補領域に対して判定する判定部と、前記度合いが低い順番に、前記複数の赤目補正候補領域において赤目補正の対象から削除すべき候補となる赤目補正候補領域である削除候補を前記画像とともに表示する表示部とを備えたことを特徴とする。
【解決手段】撮像装置は、フラッシュ撮影された画像の中から、赤目補正を行う候補となる領域である複数の赤目補正候補領域を検出するとともに、検出された赤目補正候補領域の赤目らしさを示す赤目検出信頼度を各前記赤目補正候補領域に対して生成する赤目検出部と、少なくとも前記赤目検出信頼度に基づいて、検出することに成功している度合いを各前記赤目補正候補領域に対して判定する判定部と、前記度合いが低い順番に、前記複数の赤目補正候補領域において赤目補正の対象から削除すべき候補となる赤目補正候補領域である削除候補を前記画像とともに表示する表示部とを備えたことを特徴とする。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、撮像装置、撮像方法、撮像プログラム及び画像処理装置に関する。
【背景技術】
【0002】
従来より、バッチ処理による赤目補正を行う撮像装置が提案されている(例えば、特許文献1参照)。
【0003】
また、インタラクティブ処理による赤目補正を行う撮像装置も提案されている。
【特許文献1】特開2002−247596号公報
【発明の開示】
【発明が解決しようとする課題】
【0004】
特許文献1の技術(バッチ処理による赤目補正を行う技術)では、撮影された画像から、色相、彩度及び明度などを用いて、虹彩領域及び他の特徴領域を抽出している。そして、虹彩領域と他の特徴領域との配置関係に基づいて、赤目補正を行う対象領域である赤目領域を特定している。
【0005】
しかし、特許文献1の技術では、赤目領域を正しく特定できない場合、例えば、不適切な赤目領域に対して赤目補正が行われることがあるので、赤目補正を適切に行えないおそれがある。
【0006】
一方、インタラクティブ処理による赤目補正を行う技術では、複数の赤目領域が検出された場合でも、全ての赤目領域のそれぞれに対して赤目補正を行うか否かを指定しなければならない傾向にある。これにより、赤目補正における利用者側の処理が煩雑化する傾向にある。
【0007】
本発明の目的は、例えば赤目補正を適切に行うことができ、利用者側の処理負担を軽減できる撮像装置を提供することにある。
【課題を解決するための手段】
【0008】
本発明に係る撮像装置は、フラッシュ撮影された画像の中から、赤目補正を行う候補となる領域である複数の赤目補正候補領域を検出するとともに、検出された赤目補正候補領域の赤目らしさを示す赤目検出信頼度を各前記赤目補正候補領域に対して生成する赤目検出部と、少なくとも前記赤目検出信頼度に基づいて、検出することに成功している度合いを各前記赤目補正候補領域に対して判定する判定部と、前記度合いが低い順番に、前記複数の赤目補正候補領域において赤目補正の対象から削除すべき候補となる赤目補正候補領域である削除候補を前記画像とともに表示する表示部とを備えたことを特徴とする。
【発明の効果】
【0009】
本発明に係る撮像装置では、例えば赤目補正を適切に行うことができ、利用者側の処理負担を軽減できる。
【発明を実施するための最良の形態】
【0010】
本発明の好適な第1実施形態に係る撮像装置について、図1〜図13を参照して説明する。
【0011】
まず、撮像装置の概略構成を、図1を用いて説明する。
【0012】
撮像装置1は、赤目補正の機能を有する装置である。撮像装置1は、主として、入力部5,光学系10,固体撮像装置20,アナログ信号処理部30,A/D変換部40,フラッシュ50,デジタル信号処理部60を備える。撮像装置1は、画像表示部70,内部記憶部80及び外部I/F90を備える。
【0013】
入力部5は、ボタン類を有する。ボタン類は、例えば、本体に設けられたシャッターボタン5a、選択ボタン5b、削除ボタン5c及び確定ボタン5d(図15参照)を含む。
【0014】
光学系10は、レンズ、絞りなどの光学機器やその駆動系を含む。光学系10は、被写体Oと固体撮像装置20との間に設けられている。
【0015】
固体撮像装置20は、CCDセンサやCMOSセンサなどを有している。固体撮像装置20は、アナログ信号処理部30に接続されている。
【0016】
アナログ信号処理部30は、クランプ回路や増幅回路などを有している。アナログ信号処理部30は、固体撮像装置20及びA/D変換部40に接続されている。
【0017】
A/D変換部40は、A/Dコンバータなどを有している。A/D変換部40は、アナログ信号処理部30及びデジタル信号処理部60に接続されている。
【0018】
フラッシュ50は、ストロボなどを有している。フラッシュ50は、デジタル信号処理部60に接続されている。
【0019】
デジタル信号処理部60は、フィルタ回路、検出回路などを有している。デジタル信号処理部60は、A/D変換部40、フラッシュ50、画像表示部70、内部記憶部80及び外部I/F90に接続されている。
【0020】
画像表示部70は、表示デバイス及び表示制御回路などを有している。画像表示部70は、デジタル信号処理部60及び内部記憶部80に接続されている。表示デバイスは、電子ファインダとして用いられる。
【0021】
内部記憶部80は、半導体メモリなどの記録媒体及びその制御回路などを有している。内部記憶部80は、デジタル信号処理部60及び画像表示部70に接続されている。
【0022】
外部I/F90は、外部記憶装置を接続可能な構成を有している。外部I/F90は、デジタル信号処理部60に接続されている。
【0023】
次に、撮像装置の概略動作を、図1を用いて説明する。
【0024】
光学系10は、被写体Oを含む撮影領域(図10の画像GIとして取得される対象領域)に向けられる。これにより、光学系10は、被写体Oを含む撮影領域の光学像を固体撮像装置20の上に結像させる。
【0025】
利用者により、低照度撮影時などにおいて、入力部5を介して、フラッシュの発光を指示する情報であるフラッシュ発光情報がデジタル信号処理部60に入力される。デジタル信号処理部60は、フラッシュ発光情報に応じて、フラッシュ50に発光を行わせる。これにより、フラッシュ50は、被写体Oを含む撮影領域を照らす。そして、固体撮像装置20には、フラッシュに照らされた被写体Oを含む撮影領域の光学像が結像する。このとき、被写体Oに赤目が生じた状態で、撮影領域の光学像が結像することがある。
【0026】
固体撮像装置20は、結像された光学像に対応した電気信号を発生させて、光学像(入力画像)を電気信号(アナログ信号)に変換する。固体撮像装置20は、変換後のアナログ信号をアナログ信号処理部30へ供給する。
【0027】
アナログ信号処理部30は、そのアナログ信号の波形にクランプやゲインなどの処理を行う。アナログ信号処理部30は、処理後のアナログ信号をA/D変換部40へ供給する。
【0028】
A/D変換部40は、アナログ信号をデジタル信号へ変換する。A/D変換部40は、変換後のデジタル信号をデジタル信号処理部60へ供給する。
【0029】
デジタル信号処理部60は、デジタル信号に各種の補正を行い、出力画像を表示させるための画像データを生成する。ここで、デジタル信号処理部60は、画像データを生成する際に、内部記憶部80にアクセスし、画像データの一部又は全部を内部記憶部80に格納する。デジタル信号処理部60は、その画像データを画像表示部70、内部記憶部80及び外部I/F90に供給する。
【0030】
画像表示部70は、画像データをデジタル信号処理部60や内部記憶部80から受け取り、画像データに対応した出力画像を逐次表示する。これにより、画像表示部70は、表示デバイスを電子ファインダとして機能させる。
【0031】
外部I/F90には、外部記憶装置が接続される。これにより、外部I/F90に供給された画像データは、外部記憶装置に最終的に保存される。
【0032】
デジタル信号処理部の詳細構成を、図2を用いて説明する。
【0033】
デジタル信号処理部60は、主として、色変換部61、色処理部62、LPF(Low Pass Filter)63、輝度処理部64、BPF(Band Pass Filter)65を備える。デジタル信号処理部60は、輪郭強調部66、赤目検出部67、顔検出部68、判定部71及び赤目補正部69を備える。これらは、デジタル信号処理部60の構成のうち、画像データの生成及び赤目補正を行う部分の構成である。
【0034】
色変換部61は、A/D変換部40(図1参照)、色処理部62、LPF63及びBPF65に接続されている。色処理部62は、色変換部61、赤目検出部67及び判定部71に接続されている。輝度処理部64は、LPF63、赤目検出部67及び判定部71に接続されている。輪郭強調部66は、BPF65、顔検出部68及び判定部71に接続されている。判定部71は、色処理部62、輝度処理部64、輪郭強調部66、赤目検出部67、顔検出部68及び赤目補正部69に接続されている。赤目補正部69は、画像表示部70,内部記憶部80及び外部I/F90に接続されている。
【0035】
次に、デジタル信号処理部の詳細動作を、図2を用いて説明する。
【0036】
色変換部61には、光学像(入力画像)のRGBを示すデジタル信号がA/D変換部40から入力される。色変換部61は、入力画像のRGBから輝度信号Yと色差信号Cr,Cbを生成、分離する。色変換部61は、色差信号Cr,Cbなどを色処理部62に供給し、輝度信号YなどをLPF63及びBPF65に供給する。
【0037】
色処理部62は、色差信号Cr,Cbなどに対して、ホワイトバランスの調整、色処理、ガンマ処理などを行う。ここで、色処理は、例えば、高輝度、低輝度の色の濃さを薄くする処理である。色処理部62は、これらの処理が施された色信号を赤目検出部67及び判定部71へ供給する。
【0038】
LPF63には、輝度信号Yなどが色変換部61から入力される。LPF63は、輝度信号Yなどの入力信号のうち低周波成分を通過させる。LPF63は、輝度信号Yなどの低周波成分を輝度処理部64へ供給する。
【0039】
輝度処理部64は、輝度信号Yなどの低周波成分に対して、フィルタ処理、輝度補正、ガンマ処理などを行う。輝度処理部64は、これらの処理が施された輝度信号を赤目検出部67及び判定部71へ供給する。
【0040】
BPF65には、輝度信号Yなどが色変換部61から入力される。BPF65は、輝度信号Yなどの入力信号のうち高周波成分を通過させる。BPF65は、輝度信号Yなどの高周波成分(輪郭信号)を輪郭強調部66へ供給する。
【0041】
輪郭強調部66は、輝度信号Yなどの高周波成分(輪郭信号)に対して、輪郭強調処理を行う。輪郭強調部66は、これらの処理が施された輪郭信号を顔検出部68及び判定部71へ供給する。
【0042】
赤目検出部67は、入力部5を介して、フラッシュ発光情報をフラッシュ50から受け取る。赤目検出部67は、色信号を色処理部62から受け取り、輝度信号を輝度処理部64から受け取る。赤目検出部67は、色信号及び輝度信号などを介して、赤目補正候補領域を検出する。ここで、赤目補正候補領域は、被写体Oの赤目補正を行う候補となる領域である。それとともに、赤目検出部67は、赤目検出結果に基づき、赤目検出信頼度を生成して出力する。赤目検出信頼度は、被写体Oから赤目補正候補領域として検出された領域の赤目らしさを示す。赤目検出信頼度は、例えば、被写体Oの赤目補正候補領域を検出した結果の信頼度を数値で示したものであり、大きな値であるときに信頼度が高いことを示し、小さな値であるときに信頼度が低いことを示す。
【0043】
顔検出部68は、輪郭信号を輪郭強調部66から受け取る。顔検出部68は、輪郭信号などを介して、赤目補正候補領域に対して被写体Oの顔を検出する。それとともに、顔検出部68は、顔検出結果に基づき、顔検出信頼度を生成して出力する。顔検出信頼度は、被写体Oから顔候補領域として検出された領域の顔らしさを示す。顔候補領域は、被写体Oの顔であると認識された領域である。顔検出信頼度は、例えば、被写体Oの顔候補領域を検出した結果の信頼度を数値で示したものであり、大きな値であるときに信頼度が高いことを示し、小さな値であるときに信頼度が低いことを示す。
【0044】
なお、本発明における顔検出に関しては、公知の顔検出技術を用いることとする。公知の顔検出技術として、例えば、ニューラルネットワークに代表される学習を用いた手法が挙げられる。あるいは、公知の顔検出技術として、目や鼻や口といった形状に特徴のある部位を、画像領域からテンプレートマッチングを用い探し出し類似度が高ければ顔とみなす手法が挙げられる。また、他にも、肌の色や目の形といった画像特徴量を検出し統計的解析を用いた手法等、多数提案されており、一般的にはこれらの手法を複数組み合わせて顔認識するのが一般的である。
【0045】
具体的な例としては特開平2002−251380号公報に記載のウェーブレット変換と画像特徴量を利用して顔検出する方法などが挙げられる。
【0046】
判定部71は、赤目補正候補領域の情報と赤目検出信頼度とを赤目検出部67から受け取り、被写体Oの顔の情報と顔検出信頼度とを顔検出部68から受け取る。判定部71は、色信号を色処理部62から受け取り、輝度信号を輝度処理部64から受け取り、輪郭強調信号を輪郭強調部66から受け取る。判定部71は、これらの情報に基づいて、被写体Oの赤目を検出することに成功している度合いを各赤目補正候補領域に対して判定する。ここで、判定部71は、判定する際に、メモリ(図示せず)にアクセスして、成功度合い判定テーブル(図7参照)を参照する。判定部71は、成功している度合いの情報を赤目補正候補領域の識別情報(例えば、後述する赤目位置情報)に対応付けて赤目補正部69へ供給する。また、判定部71は、赤目補正候補領域の情報、被写体Oの顔の情報、色信号、輝度信号及び輪郭信号を赤目補正部69へ転送する。
【0047】
赤目補正部69は、成功している度合いの情報を赤目補正候補領域の識別情報に対応付けて画像表示部70へ出力する。
【0048】
また、赤目補正部69は、入力部5の削除ボタン5c(図12参照)を介して入力された削除命令を赤目補正候補領域の識別情報に対応付けて受け取る。赤目補正部69は、削除命令により指定された赤目補正候補領域の情報を削除する。
【0049】
赤目補正部69は、入力部5の確定ボタン5d(図12参照)を介して入力された確定命令を受け取る。赤目補正部69は、確定命令に応じて、赤目補正候補領域に対して赤目補正を行う。ここで、すでに情報が削除された赤目補正候補領域に対して、赤目補正は行われない。
【0050】
次に、撮像装置が赤目補正を行う処理の流れを、図3〜図9に示すフローチャート及び図10〜図15の概念図を用いて説明する。図3〜図9に示す処理は、主として図1に示すデジタル信号処理部により行われる。
【0051】
ステップS1では、赤目補正部69は、フラッシュ撮影が行われたか否かの判断を行う。すなわち、利用者により、低照度撮影時などにおいて、入力部5を介して、フラッシュ発光情報がデジタル信号処理部60に入力される。フラッシュ発光情報は、フラッシュの発光を指示する情報である。デジタル信号処理部60は、フラッシュ発光情報に応じて、フラッシュ50に発光を行わせる。これにより、フラッシュ50は、被写体Oを含む撮影領域を照らす。そして、固体撮像装置20には、フラッシュに照らされた被写体Oを含む撮影領域の光学像が結像する。このとき、被写体Oに赤目が生じた状態で、撮影領域の光学像が結像することがある。
【0052】
デジタル信号処理部60内の赤目補正部69は、赤目検出部67及び判定部71経由でフラッシュ発光情報をフラッシュ50から受け取った場合、フラッシュ撮影が行われたと判断する。赤目補正部69は、赤目検出部67及び判定部71経由でフラッシュ発光情報をフラッシュ50から受け取らなかった場合、フラッシュ撮影が行われなかったと判断する。赤目補正部69は、フラッシュ撮影が行われたと判断した場合、処理をステップS2へ進め、フラッシュ撮影が行われなかったと判断した場合、処理を終了する。
【0053】
ステップS2では、デジタル信号処理部60は、赤目検出信頼度及び顔検出信頼度の閾値を設定する。すなわち、デジタル信号処理部60内の赤目補正部69は、メモリ(図示せず)に記憶されていた赤目検出閾値TH1及び顔検出閾値TH2を読み出し判定部71へ渡す。
【0054】
判定部71は、赤目検出閾値TH1が設定された旨の情報を赤目検出部67へ供給するとともに、顔検出閾値TH2が設定された旨の情報を顔検出部68へ供給する。
【0055】
ステップS3では、赤目検出部67は、赤目検出閾値TH1が設定された旨の情報を受け取ったことに応じて、赤目検出処理を行う。例えば、赤目検出部67は、赤目補正候補領域を検出すると共に、赤目検出信頼度も算出する。赤目検出部67は、赤目検出処理を完了したら、赤目検出処理を完了した旨の情報、赤目補正候補領域及び赤目検出信頼度を判定部71へ供給する。なお、赤目検出処理の詳細な説明については後述する。
【0056】
ステップS4では、顔検出部68は、顔検出閾値TH2が設定された旨の情報を受け取ったことに応じて、上述した公知の顔検出処理を行う。例えば、顔検出部68は、顔候補領域を検出すると共に、顔検出信頼度も算出する。顔検出部68は、顔検出処理を完了したら、顔検出処理を完了した旨の情報、顔補正候補領域及び顔検出信頼度を判定部71へ供給する。なお、顔検出処理の詳細な説明については後述する。
【0057】
ステップS5では、判定部71は、赤目検出処理を完了した旨の情報及び顔検出処理を完了した旨の情報を両方とも受け取ったことに応じて、成功度合い判定処理を行う。なお、成功度合い判定処理の詳細な説明については後述する。
成功度合い「低」成功度合い「低」成功度合い「低」成功度合い「NG」成功度合い「NG」成功度合い「NG」 ステップS6では、赤目補正部69が赤目補正処理を行う。なお、赤目補正処理の詳細な説明については後述する。
【0058】
このようにして、撮像装置1は、赤目補正を行う。
【0059】
次に、赤目検出処理を、図4に示すフローチャート及び図10、図11の概念図を用いて説明する。図10、図11は、主として図1に示す画像表示部70により表示される画面の一例である。なお、図11は、内部的な処理を説明するための仮想的な画面の一例であり、実際には、画像表示部70により表示されない。
【0060】
ステップS21では、色差信号が色処理部62に入力され、輝度信号がLPF63及びBPF65に入力される。すなわち、デジタル信号処理部60の色変換部61には、光学像(入力画像)のRGBを示すデジタル信号がA/D変換部40から入力される。色変換部61は、入力画像のRGBから輝度信号Yと色差信号Cr,Cbを生成、分離する。色変換部61は、色差信号Cr,Cbなどを色処理部62に供給し、輝度信号YなどをLPF63及びBPF65に供給する。
【0061】
色処理部62は、色差信号Cr,Cbなどに対して、ホワイトバランスの調整、色処理、ガンマ処理などを行う。ここで、色処理は、例えば、高輝度、低輝度の色の濃さを薄くする処理である。色処理部62は、これらの処理が施された色信号を赤目検出部67及び判定部71へ供給する。
【0062】
LPF63には、輝度信号Yなどが色変換部61から入力される。LPF63は、輝度信号Yなどの入力信号のうち低周波成分を通過させる。LPF63は、輝度信号Yなどの低周波成分を輝度処理部64へ供給する。
【0063】
輝度処理部64は、輝度信号Yなどの低周波成分に対して、フィルタ処理、輝度補正、ガンマ処理などを行う。輝度処理部64は、これらの処理が施された輝度信号を赤目検出部67及び判定部71へ供給する。
【0064】
ステップS22では、赤目検出部67は入力信号に対して赤目検出を行う。すなわち、赤目検出部67は、色信号を色処理部62から受け取り、輝度信号を輝度処理部64から受け取る。赤目検出部67は、色信号及び輝度信号などを介して、赤目補正候補領域を検出する。ここで、赤目補正候補領域は、被写体Oの赤目補正を行う候補となる領域である。
【0065】
例えば、図10に示すように、画像GIで示される撮影領域に、被写体O1〜O3が存在する場合を考える。ここで、被写体O1,O2は正面を向いているのに対して、被写体O3は横を向いている。このとき、赤目検出部67は、図11に示すように、赤目補正候補領域R1,R2,R3,R4,R5を検出する。
【0066】
ステップS23では、赤目検出部67は、赤目検出信頼度を生成して出力する。赤目検出信頼度は、被写体Oから赤目補正候補領域として検出された領域の赤目らしさを示す。また、赤目検出信頼度は、例えば、被写体Oの赤目補正候補領域を検出した結果の信頼度を数値で示したものであり、大きな値であるときに信頼度が高いことを示し、小さな値であるときに信頼度が低いことを示す。
【0067】
具体的には、赤目検出部67は、色相、彩度、明度、輝度などを分析する。そして、赤目検出部67は、該当の画素(エリア)が赤であるか(パラメータRP1)、該当の画素(エリア)の周辺画素(エリア)が肌色であるか(パラメータRP2)を演算する。赤目検出部67は、該当の画素(エリア)が高輝度であるか(パラメータRP3)、該当の画素(エリア)が丸い形状をしているか(パラメータRP4)を演算する。そして、赤目検出部67は、赤目検出信頼度RRを
RR=K1×RP1+K2×RP2+K3×RP3+K4×RP4・・・数式1
の式により演算する。ここで、K1、K2、K3、K4は、実験などにより予め求められた定数である。
【0068】
なお、本実施形態において赤目検出信頼度RRを構成する要素を上記のように規定したが、赤目検出の信頼度を推定するために有効な要素であれば上記した要素に限定されるわけではない。
【0069】
例えば、赤目検出部67は、数式1のような演算を行い、赤目補正候補領域R1,R2,R3,R4,R5(図11参照)について、赤目検出信頼度RR1,RR2,RR3,RR4,RR5を生成する。例えば、図11に示すような入力信号が得られた場合、赤目検出信頼度RR1,RR2,RR3,RR4,RR5と赤目検出閾値TH1とは、それぞれ、数式2〜数式6のような関係にあることになる。
【0070】
RR1≧TH1・・・数式2
RR2≧TH1・・・数式3
RR3<TH1・・・数式4
RR4≧TH1・・・数式5
RR5<TH1・・・数式6
ステップS24では、赤目検出部67は、赤目検出信頼度を出力する。すなわち、デジタル信号処理部60内の赤目検出部67は、赤目補正候補領域(例えば、R1〜R5)の情報と赤目検出信頼度(例えば、RR1〜RR5)とを判定部71へ出力する。
【0071】
次に、顔検出処理を、主として、図5に示すフローチャート及び図10、図11に示す概念図を用いて説明する。図10、図11は、主として図1に示す画像表示部70により表示される画面の一例である。なお、図11は、内部的な処理を説明するための仮想的な画面の一例であり、実際には、画像表示部70により表示されない。
【0072】
ステップS31では、顔検出部68は、入力信号に対して上述した公知の顔検出方法を用いることで顔領域の検出を行う。
【0073】
例えば、図10に示すように、画像GIで示される撮影領域に、被写体O1〜O3が存在する場合を考える。ここで、被写体O1,O2は正面を向いているのに対して、被写体O3は横を向いている。このとき、顔検出部68は、図11に示すように、顔候補領域F1,F2,F3を検出する。顔候補領域F1,F2,F3は、それぞれ、被写体O1,O2,O3の顔であると認識された領域である。
【0074】
ステップS32では、顔検出部68は、ステップS31の顔検出結果に基づき、顔検出信頼度を演算し、出力する。顔検出信頼度は、被写体Oから顔候補領域として検出された領域の顔らしさを示す。顔検出信頼度は、例えば、被写体Oの顔候補領域を検出した結果の信頼度を数値で示したものであり、大きな値であるときに信頼度が高いことを示し、小さな値であるときに信頼度が低いことを示す。
【0075】
具体的には、顔検出部68は、輝度パターンなどを分析する。そして、顔検出部68は、目が検出されるか(パラメータFP1)、鼻が検出されるか(パラメータFP2)を演算する。さらに、顔検出部68は、口が検出されるか(パラメータFP3)、耳が検出されるか(パラメータFP4)を演算する。そして、顔検出部68は、顔検出信頼度FRを
FR=K5×FP1+K6×FP2+K7×FP3+K8×FP4・・・数式7
の式により演算する。ここで、K5、K6、K7、K8は、実験などにより予め求められた定数である。
【0076】
なお、本実施形態において赤目検出信頼度RRを構成する要素を上記のように規定したが、赤目検出の信頼度を推定するために有効な要素であれば上記した要素に限定されるわけではない。
【0077】
例えば、顔検出部68は、数式7ような演算を行い、顔候補領域F1,F2,F3に対して、顔検出信頼度FR1,FR2,FR3を生成する。例えば、図11に示す場合、顔検出信頼度FR1,FR2,FR3と顔検出閾値TH2とは、それぞれ、数式8〜数式10のような関係にあることになる。
【0078】
FR1≧TH2・・・数式8
FR2≧TH2・・・数式9
FR3≧TH2・・・数式10
ステップS33では、顔検出信頼度を出力する。すなわち、デジタル信号処理部60の顔検出部68は、被写体Oの顔の情報(例えば、顔候補領域F1,F2,F3の情報)と顔検出信頼度(例えば、顔検出信頼度FR1,FR2,FR3)とを判定部71へ出力する。
【0079】
次に、成功度合い判定処理を、図6に示すフローチャート及び図7、図10、図11の概念図を用いて説明する。図7は、図2に示す判定部71がメモリ(図示せず)にアクセスして参照する成功度合い参照テーブルを示す。図10、図11は、主として図1に示す画像表示部70により表示される画面の一例である。なお、図11は、内部的な処理を説明するための仮想的な画面の一例であり、実際には、画像表示部70により表示されない。
【0080】
ステップS51では、判定部71は、赤目補正候補領域を選択する。すなわち、デジタル信号処理部60内の判定部71は、赤目補正候補領域の情報(赤目位置情報を含む)と赤目検出信頼度とを赤目検出部67から受け取る。赤目位置情報は、画像における赤目補正候補領域の位置を示す情報である。判定部71は、複数の赤目補正候補領域から判定の対象とする赤目補正候補領域(赤目位置情報)を選択する。なお、判定部71は、メモリ(図示せず)を参照してすでに判定した赤目補正候補領域を特定するとともに、判定の対象とする赤目補正候補領域をメモリに追加記憶する。
【0081】
ステップS52では、判定部71は、赤目補正候補領域が顔候補領域に含まれるか否かを判断する。すなわち、判定部71は、顔補正候補領域の情報(顔位置情報を含む)と顔検出信頼度とを顔検出部68から受け取る。顔位置情報は、画像における顔候補領域の位置を示す情報である。
【0082】
判定部71は、赤目位置情報と顔位置情報とに基づいて、赤目補正候補領域と顔候補領域との包含関係を判断する。判定部71は、赤目位置情報が1以上の顔位置情報のうちのいずれかに含まれていると判断すれば、その赤目位置情報に対応する赤目補正候補領域が顔候補領域に含まれていると判断する。判定部71は、赤目位置情報が1以上の顔位置情報のうちのいずれにも含まれていないと判断すれば、その赤目位置情報に対応する赤目補正候補領域が顔候補領域に含まれていないと判断する。
【0083】
例えば、図10に示す被写体O1〜O3に対して、図11に示すように、赤目補正候補領域R1〜R5と顔候補領域F1〜F3とが検出された場合を考える。この場合、判定部71は、赤目補正候補領域R1〜R3を、それぞれ、顔候補領域F1〜F3に含まれていると判断する。判定部71は、赤目補正候補領域R4,R5を、それぞれ、顔候補領域F1〜F3のいずれにも含まれていないと判断する。
【0084】
判定部71は、赤目補正候補領域が顔候補領域に含まれていると判断する場合、処理をステップS54へ進める。判定部71は、赤目補正候補領域が顔候補領域に含まれていないと判断する場合、処理をステップS53へ進める。
【0085】
ステップS53では、判定部71は、顔検出信頼度が「低」であると判定する。つまり、赤目補正候補領域が顔候補領域に含まれていないので、赤目補正候補領域を含む仮想的な顔候補領域を想定し、その顔候補領域の顔らしさが低いものと判定する。
【0086】
例えば、図11に示す場合、判定部71は、赤目補正候補領域R4,R5を含む仮想的な顔候補領域F4,F5を想定する。そして、判定部71は、顔候補領域F4,F5の顔検出信頼度を「低」と判定する。
【0087】
ステップS54では、判定部71は、顔検出信頼度が閾値以上であるか否かを判断する。すなわち、デジタル信号処理部60の判定部71は、被写体Oの顔の情報と顔検出信頼度とを顔検出部68から受け取る。判定部71は、顔検出信頼度により示される顔検出信頼度FRと、顔検出閾値TH2とを比較する。そして、判定部71は、FR≧TH2であると判断する場合に、顔検出信頼度が「高」であると判定する。判定部71は、FR<TH2であると判断する場合に、顔検出信頼度が「低」であると判定する。
【0088】
例えば、図11に示す場合、判定部71は、数式8〜数式10に示すように、顔候補領域F1,F2,F3に対して、顔検出信頼度を「高」と判定する。
【0089】
ここで、成功度合いを判定するために、赤目検出信頼度に加えてさらに顔検出信頼度を用いる理由を説明する。
【0090】
本来、目は顔の中にしか存在しない。そこで、目は顔の中に存在するという前提に基づいて、赤目補正候補領域であったとしても、顔候補領域としての信頼度が低ければ、それは目ではないと判断し、赤目補正候補領域から排除する。これにより、より判定の精度を高めることができる。
【0091】
つまり、顔検出信頼度を考慮して赤目検出に成功しているか否かを判断及び決定するので、赤目補正すべき赤目補正候補領域と赤目補正すべきでない赤目補正候補領域とはさらに区別しやすくなる。
【0092】
なお、本実施形態においては、閾値を一つだけ設定しているが、閾値を複数個設定することで、顔らしさのランク分けを更に細かくしてもよい。そうすることで、複数の顔候補領域が検出された際に、より細かく優先度付けを行うことが可能になる。
【0093】
ステップS55では、判定部71は、赤目検出信頼度が閾値以上であるか否かを判断する。すなわち、デジタル信号処理部60内の判定部71は、赤目検出信頼度により示される赤目検出信頼度RR1と、赤目検出閾値TH1とを比較する。そして、判定部71は、RR1≧TH1であると判断する場合に、赤目検出信頼度が「高」であると判定する。判定部71は、RR1<TH1であると判断する場合に、赤目検出信頼度が「低」であると判定する。
【0094】
例えば、図11に示す場合、判定部71は、数式2,数式3,数式5に示すように、赤目補正候補領域R1,R2,R4に対して、赤目検出信頼度を「高」と判定する。判定部71は、数式4,数式6に示すように、赤目補正候補領域R3,R5に対して、赤目検出信頼度を「低」と判定する。
【0095】
なお、本実施形態においては、閾値を一つだけ設定しているが、閾値を複数個設定することで、赤目らしさのランク分けを更に細かくしてもよい。そうすることで、複数の赤目候補領域が検出された際に、より細かく優先度付けを行うことが可能になる。
【0096】
ステップS56では、判定部71は、成功度合いを判定する。すなわち、判定部71は、赤目検出信頼度について判定した結果と、顔検出信頼度について判定した結果とに基づいて、赤目検出に成功している度合い(成功度合い)を判定する。ここで、判定部71は、判定する際に、メモリ(図示せず)にアクセスして、成功度合い判定テーブル(図7参照)を参照する。
【0097】
図7に示すように、判定部71は、赤目検出信頼度を「高」と判定し顔検出信頼度を「高」と判定した場合、成功度合いを「高」と判定する。判定部71は、赤目検出信頼度を「低」と判定し顔検出信頼度を「高」と判定した場合、成功度合いを「中」と判定する。判定部71は、赤目検出信頼度を「高」と判定し顔検出信頼度を「低」と判定した場合、成功度合いを「低」と判定する。判定部71は、赤目検出信頼度を「低」と判定し顔検出信頼度を「低」と判定した場合、成功度合いを「NG」と判定する。
【0098】
例えば、図11に示す場合、判定部71は、赤目補正候補領域R1,R2の赤目検出信頼度を「高」と判定し、赤目補正候補領域R1,R2を含む顔候補領域F1,F2の顔検出信頼度を「高」と判定している。これにより、判定部71は、赤目補正候補領域R1に対して、成功度合いを「高」と判定する。
【0099】
判定部71は、赤目補正候補領域R3の赤目検出信頼度を「低」と判定し、赤目補正候補領域R3を含む顔候補領域F3の顔検出信頼度を「高」と判定している。これにより、判定部71は、赤目補正候補領域R3に対して、成功度合いを「中」と判定する。
【0100】
判定部71は、赤目補正候補領域R4の赤目検出信頼度を「高」と判定し、赤目補正候補領域R4を含む仮想的な顔候補領域F4の顔検出信頼度を「低」と判定している。これにより、判定部71は、赤目補正候補領域R4に対して、成功度合いを「小」と判定する。
【0101】
判定部71は、赤目補正候補領域R5の赤目検出信頼度を「低」と判定し、赤目補正候補領域R5を含む仮想的な顔候補領域F5の顔検出信頼度を「低」と判定している。これにより、判定部71は、赤目補正候補領域R5に対して、成功度合いを「NG」と判定する。
【0102】
ステップS57では、判定部71は、全ての赤目補正候補領域に対して判定が行われたか否かを判断する。判定が行われたと判断した場合、処理をステップS12へ進め、判定が行われていないと判断した場合、処理をステップS4へ進める。
なお、ステップS5、ステップS8において、ランク分けを細かくすることで、赤目検出に成功している度合いのランク分けをより詳細に行うことができる。
【0103】
このように、成功度合い判定処理により、全ての赤目補正候補領域に対して、赤目検出に成功している度合いが「高」、「中」、「低」、「NG」にランク付けされる。すなわち、デジタル信号処理部60の判定部71は、赤目検出に成功している度合いを判定している。
【0104】
次に、赤目補正処理を、図8,図9に示すフローチャート及び図12〜図15の概念図を用いて説明する。図12〜図15は、撮像装置の背面図の一例である。
【0105】
ステップS41では、画像表示部70は、成功度合い「NG」と決定された領域(以下、「NG領域」とする)を表示する。すなわち、デジタル信号処理部60の入力部5は、例えば利用者が選択ボタン5bを押したことを検知することにより、NG領域の表示命令を受け付ける。入力部5は、NG領域の表示命令を、デジタル信号処理部60へ供給する。そのNG領域の表示命令は、デジタル信号処理部60において、赤目検出部67及び判定部71経由で赤目補正部69へ供給される。赤目補正部69は、NG領域の表示命令に基づいて、1以上のNG領域の中から表示すべきNG領域を選択する。赤目補正部69は、画像情報とともに、選択されたNG領域の情報を、画像表示部70へ供給する。画像表示部70は、画像情報と、選択されたNG領域の情報とに基づいて、削除候補を表示デバイスに表示する。ここで、削除候補は、複数の赤目補正候補領域において赤目補正の対象から削除すべき候補となる赤目補正候補領域である。
【0106】
例えば、図12では、画像表示部70により、画像GIとともに、赤目補正候補領域R5がNG領域であることを示すフレームRF5が、削除候補を示す情報として表示される。
【0107】
なお、本実施形態において画像GIは画像表示部70のサイズに合わせて表示されているが、選択ボタン5bを操作することで拡大した画像を表示することも可能である。
【0108】
これにより、赤目補正候補領域R5が削除候補であることを把握することができ、赤目補正候補領域R5を赤目補正する対象から削除すべきか否かの判断を利用者に促すことができる。すなわち、赤目補正候補領域R5を削除すべきか否かの判断を利用者に促すことができ、削除すべきであると判断した場合に削除命令を入力するように利用者に促すことができる。
【0109】
ステップS42では、判定部71は、削除が指定されたか否かを判断する。すなわち、デジタル信号処理部60の入力部5は、例えば利用者が削除ボタン5cを押したことを検知することにより、削除命令を受け付ける。入力部5は、削除命令をデジタル信号処理部60へ供給する。その削除命令は、デジタル信号処理部60において、赤目検出部67経由で判定部71へ供給される。判定部71は、削除命令を受け取った場合、削除が指定されたと判断し、削除命令を受け取っていない場合、削除が指定されていないと判断する。判定部71は、削除が指定されたと判断した場合、処理をステップS43へ進め、削除が指定されていないと判断した場合、処理をステップS44へ進める。
【0110】
ステップS43では、赤目補正部69は、削除が指定された赤目補正候補領域の情報を削除する。すなわち、判定部71は、削除命令を赤目補正部69へ供給する。赤目補正部69は、削除命令に基づいて、メモリ(図示せず)を参照して、選択された赤目補正候補領域の情報を削除する。なお、メモリには、全ての赤目補正候補領域の情報が記憶されているものとする。
【0111】
そして、赤目補正部69は、画像情報とともに、削除されたNG領域の情報を、画像表示部70へ供給する。画像表示部70は、画像情報と、削除されたNG領域の情報とに基づいて、図12に示す画像GIに代えて図13に示す画像GIを表示デバイスに表示する。
【0112】
例えば、図13では、画像表示部70により、赤目補正候補領域R5に対応する部分のハイライト表示(図中では斜線)が消えた状態で表示される。これにより、赤目補正候補領域R5が赤目補正の対象から削除されたことを把握することができる。
【0113】
ステップS44では、判定部71は、全てのNG領域が選択されたか否かを判断する。判定部71は、全てのNG領域が選択されたと判断した場合、処理をステップS45へ進め、全てのNG領域が選択されていないと判断した場合、処理をステップS41へ進める。
【0114】
ステップS45では、判定部71は、確定が指定されたか否かを判断する。すなわち、デジタル信号処理部60の入力部5は、例えば利用者が確定ボタン5dを押したことを検知することにより、確定命令を受け付ける。入力部5は、確定命令をデジタル信号処理部60へ供給する。その確定命令は、デジタル信号処理部60において、赤目検出部67経由で判定部71へ供給される。判定部71は、確定命令を受け取った場合、確定が指定されたと判断し、確定命令を受け取っていない場合、確定が指定されていないと判断する。判定部71は、確定が指定されたと判断した場合、処理をステップS46(図8,7で示す(1))へ進め、確定が指定されていないと判断した場合、処理をステップS50(図8,7で示す(2))へ進める。
【0115】
ステップS46では、画像表示部70が、成功度合い「低」と決定された領域(以下、「低領域」とする)を表示する。すなわち、デジタル信号処理部60の入力部5は、例えば利用者が選択ボタン5bを押したことを検知することにより、低領域の表示命令を受け付ける。入力部5は、低領域の表示命令を、デジタル信号処理部60へ供給する。その低領域の表示命令は、デジタル信号処理部60において、赤目検出部67及び判定部71経由で赤目補正部69へ供給される。赤目補正部69は、低領域の表示命令に基づいて、1以上の低領域の中から表示すべき低領域を選択する。赤目補正部69は、画像情報とともに、選択された低領域の情報を、画像表示部70へ供給する。画像表示部70は、画像情報と、選択された低領域の情報とに基づいて、削除候補を表示デバイスに表示する。ここで、削除候補は、複数の赤目補正候補領域において赤目補正の対象から削除すべき候補となる赤目補正候補領域である。
【0116】
例えば、図13では、画像表示部70により、画像GIとともに、赤目補正候補領域R4が低領域であることを示すフレームRF4が、削除候補を示す情報として表示される。これにより、赤目補正候補領域R4が削除候補であることを把握することができ、赤目補正候補領域R4を赤目補正する対象から削除すべきか否かの判断を利用者に促すことができる。すなわち、赤目補正候補領域R4を削除すべきか否かの判断を利用者に促すことができ、削除すべきであると判断した場合に削除命令を入力するように利用者に促すことができる。
【0117】
ステップS47では、判定部71は、削除が指定されたか否かを判断する。すなわち、デジタル信号処理部60の入力部5は、例えば利用者が削除ボタン5cを押したことを検知することにより、削除命令を受け付ける。入力部5は、削除命令をデジタル信号処理部60へ供給する。その削除命令は、デジタル信号処理部60において、赤目検出部67経由で判定部71へ供給される。判定部71は、削除命令を受け取った場合、削除が指定されたと判断し、削除命令を受け取っていない場合、削除が指定されていないと判断する。判定部71は、削除が指定されたと判断した場合、処理をステップS48へ進め、削除が指定されていないと判断した場合、処理をステップS49へ進める。
【0118】
ステップS48では、赤目補正部69は、削除が指定された赤目補正候補領域の情報を削除する。すなわち、判定部71は、削除命令を赤目補正部69へ供給する。赤目補正部69は、削除命令に基づいて、メモリ(図示せず)を参照して、選択された赤目補正候補領域の情報を削除する。なお、メモリには、全ての赤目補正候補領域の情報が記憶されているものとする。
【0119】
そして、赤目補正部69は、画像情報とともに、削除された低領域の情報を、画像表示部70へ供給する。画像表示部70は、画像情報と、削除された低領域の情報とに基づいて、図13に示す画像GIに代えて図14に示す画像GIを表示デバイスに表示する。
【0120】
例えば、図14では、画像表示部70により、赤目補正候補領域R4に対応する部分のハイライト表示(図中では斜線)が消えた状態で表示される。これにより、赤目補正候補領域R4が赤目補正の対象から削除されたことを把握することができる。
【0121】
ステップS49では、判定部71は、全ての低領域が選択されたか否かを判断する。判定部71は、全ての低領域が選択されたと判断した場合、処理をステップS45へ進め、全ての低領域が選択されていないと判断した場合、処理をステップS41へ進める。
【0122】
なお、本実施形態において、NG領域と低領域とを対象として削除するか否かの指定を行っているが、中領域も対象として削除するか否かの指定を行ってもよい。こうすることで、より精度の高い赤目領域の除去を行うことができる。
【0123】
ステップS50では、赤目補正部69は、赤目補正候補領域を確定する。すなわち、デジタル信号処理部60の判定部71は、確定命令を赤目補正部69へ供給する。赤目補正部69は、確定命令に基づき、メモリ(図示せず)を参照して、全ての赤目補正候補領域を確定する。そして、赤目補正部69は、画像情報とともに、確定された赤目補正候補領域の情報を、画像表示部70へ供給する。画像表示部70は、画像情報と、確定された赤目補正候補領域の情報とに基づいて、図14に示す画像GIに代えて図15に示す画像GIを表示デバイスに表示する。
【0124】
例えば、図15では、画像表示部70により、赤目補正候補領域R1〜R3に対応する部分のハイライト表示(図中では斜線)が別のハイライト表示(図中では格子状のハッチング)で表示される。これにより、赤目補正候補領域R1〜R3が赤目補正の対象として確定したことを把握することができる。
【0125】
以上のような処理により、画像表示部70により表示される画像は、例えば、図15に示すような画像になる。なお、図15において、実線斜線で示されている部分は、赤目位置情報を示す。赤目位置情報は、画像GIにおいて、赤目検出に成功していると判定部71が判定する場合における赤目補正候補領域R1,R2,R3の位置を示す情報である。
【0126】
そして、赤目補正部69は、確定した赤目補正候補領域に対して赤目補正を行う。
【0127】
例えば、図15では、赤目補正部69は、複数の赤目補正候補領域R1〜R5において、削除命令で指定された赤目補正候補領域R4,R5を除く赤目補正候補領域R1〜R3を赤目補正する。
【0128】
このように、フラッシュ撮影された画像GIの中において、赤目補正に失敗している可能性が高い順番に(赤目検出に成功している度合いが低い順番に)削除すべきかどうかの入力を、利用者に対して促すことができる。これにより、不適切な赤目補正候補領域を赤目補正の対象から削除することができるとともに、全ての赤目補正候補領域に対して赤目補正を行うか否かを指定することを避けることができる。このため、例えば赤目補正を適切に行うことができ、利用者側の処理負担を軽減できる。
【0129】
なお、例えば、NG1,NG2,NG3(1から順に信頼度が低いとする)のように信頼度のランク分けが細かく設定されている場合、信頼度の低い順に削除せず、例えば、画面内の右から左に削除していくようにしても良い。
【0130】
例えば、拡大された再生画像から赤目補正候補領域の確認を行い削除するような場合、削除対象が離散的に存在している画像に対して信頼度の低い順に削除すると、削除のたびに表示対象(削除対象)が画像全体において右に左にと変わることがある。この場合、画像全体においてどれだけの削除対象が残っているか分かりにくい。そこで、上記のように、例えば、画面内の右から左に削除していくようにすることにより、削除残しを低減できる。
【0131】
なお、撮像装置のデジタル信号処理部は、BPF65の代わりにHPFを備えていてもよい。この場合でも、輝度信号Yなどの入力信号のうち高周波成分を通過させて輪郭強調部66へ供給することができる。
【0132】
本発明の好適な第2実施形態に係る撮像装置について、図16〜図22を参照して説明する。なお、第1実施形態と同様の部分は説明を省略し、第1実施形態と異なる部分を中心に説明する。
【0133】
撮像装置100は、図16に示すように、基本的な構成は第1実施形態と同様であるが、デジタル信号処理部60の代わりにデジタル信号処理部160を備え、入力部5の代わりに入力部105を備える点で、第1実施形態と異なる。具体的には、以下の点が異なる。
【0134】
すなわち、入力部105には、利用者により、画像表示部70が表示した画像(例えば、図21に示す画像GI)及び赤目位置情報(例えば、図21に示す実線斜線の領域)に基づいて、赤目検出閾値TH1の変更命令が入力される。
【0135】
デジタル信号処理部160は、図17に示すように、赤目検出部67の代わりに赤目検出部167を備え、判定部71の代わりに判定部171を備え、赤目補正部69の代わりに赤目補正部169を備える。赤目補正部169は、赤目検出閾値TH1の変更命令を、赤目検出部167及び判定部171を経由して入力部105から受け取る。赤目補正部169は、変更後の赤目検出閾値TH1aを生成し判定部171へ渡す。判定部171は、赤目検出閾値TH1の代わりに変更後の赤目検出閾値TH1aを用いて判定を行う。
【0136】
また、撮像装置が赤目検出を行う処理の流れが、図18及び図19に示すように、次の点で第1実施形態と異なる。なお、図18及び図19において、図3に示す処理と同様の処理は同じ記号で示し説明を省略する。
【0137】
ステップS131(図18、図19で示す(4))では、赤目検出閾値の変更命令を受け付けたか否かが判断される。すなわち、画像表示部70は、赤目位置情報とともに画像を表示する。赤目位置情報及び画像は利用者により閲覧される。
【0138】
例えば、画像表示部70により表示される画像は、図21に示すような画像になる。図21において、実線斜線で示されている部分は、赤目位置情報を示す。図21の場合、赤目検出に成功していると判定部171が判定する場合における赤目補正候補領域R1,R2,R3,R4に対して、赤目位置情報が表示されている。ここで、赤目補正候補領域R1,R2,R3は、適切に判定されている。赤目補正候補領域R4は、誤判定されている。赤目位置情報とともに赤目補正候補領域R4が表示されていることを閲覧した利用者は、厳しめに設定するように赤目検出閾値TH1の変更命令を入力する。
【0139】
このように、例えば、赤目補正すべきでない領域が誤判定された場合に、赤目検出閾値TH1を厳しめに設定しなおすように変更命令が入力される。
【0140】
あるいは、例えば、画像表示部70により表示される画像は、図22に示すような画像になる。図22において、実線斜線で示されている部分は、赤目位置情報を示す。図22の場合、赤目検出に成功していると判定部171が判定する場合における赤目補正候補領域R1,R2に対して、赤目位置情報が表示されている。ここで、赤目補正候補領域R1,R2は、適切に判定されている。赤目補正候補領域R3は、本来なら赤目検出されるべき領域であり、誤判定されている。赤目位置情報とともに赤目補正候補領域R4が表示されていることを閲覧した利用者は、緩めに設定するように赤目検出閾値TH1の変更命令を入力する。
【0141】
このように、例えば、赤目補正すべき領域が誤判定された場合に、赤目検出閾値TH1を緩めに設定しなおすように変更命令が入力される。
【0142】
デジタル信号処理部160の入力部105には、赤目検出閾値TH1の変更命令が入力される。赤目補正部169は、赤目検出部167及び判定部171を経由して赤目検出閾値TH1の変更命令を入力部105から受け取る。赤目補正部169は、赤目検出閾値TH1の変更命令を受け取った場合、赤目検出閾値の変更命令を受け付けたと判断する。赤目補正部169は、赤目検出閾値TH1の変更命令を受け取っていない場合、赤目検出閾値の変更命令を受け付けていないと判断する。
【0143】
赤目検出閾値の変更命令を受け付けたと判断された場合、赤目補正部169により変更後の赤目検出閾値TH1aが生成され判定部171へ渡され、ステップS1(図19、図18で示す(3))へ進められる。赤目検出閾値の変更命令を受け付けていないと判断された場合、処理が終了する。
【0144】
撮影された画像の中において赤目補正すべきでない領域に対して赤目補正されることが低減される点は、第1実施形態と同様である。したがって、このような撮像装置100によっても、例えば赤目補正は適切に行われる。
【0145】
ステップS105では、判定部171が、成功度合い判定処理を行う。具体的には、図20に示すように、成功度合い判定処理は、次の点で第1実施形態と異なる。
【0146】
ステップS155では、判定部171は、変更後の赤目検出閾値TH1aを受け取った場合、赤目検出閾値TH1の代わりに変更後の赤目検出閾値TH1aを用いて判定を行う。この点で、図6のステップS55と異なる。
【0147】
このように、例えば、赤目補正すべきでない領域が誤判定された場合に、赤目検出閾値TH1に代えて、厳しめに設定しなおされた赤目検出閾値TH1aにより赤目検出に成功したか否かが判定されるようになる。これにより、撮影された画像の中において赤目補正すべきでない領域に対して赤目補正されることがさらに低減される。
【0148】
また、例えば、赤目補正すべき領域が誤判定された場合に、赤目検出閾値TH1に代えて、緩めに設定しなおされた赤目検出閾値TH1aにより赤目検出に成功したか否かが判定されるようになる。これにより、撮影された画像の中において赤目補正すべき領域に対して赤目補正されないことも低減される。
【0149】
なお、利用者により撮像装置の入力部に入力されるのは、赤目検出閾値TH1の変更命令である代わりに顔検出閾値TH2の変更命令であってもよい。あるいは、利用者により撮像装置の入力部に入力されるのは、赤目検出閾値TH1の変更命令である代わりに赤目検出閾値TH1及び顔検出閾値TH2の変更命令であってもよい。
【0150】
次に、上述した各実施形態の機能を実現するためのプログラムについて説明する。
【0151】
上述した各実施形態の機能を実現するように各種のデバイスを動作させ、その各種のデバイスと接続された装置あるいはシステム内のコンピュータに対して上述した各実施形態の機能を実現させるソフトウェアのプログラムコード(プログラム)を供給する。
【0152】
そして、そのシステムあるいは装置のコンピュータ(CPUあるいはMPU)に(ソフトウェア的に又はハードウェア的に)格納されたプログラムにしたがって上記の各種のデバイスを動作させるようにしたものも、本発明の範疇に含まれる。
【0153】
また、この場合、上記のソフトウェアのプログラム自体が上述した実施形態の機能を実現することになる。
【0154】
また、そのプログラム自体、及びそのプログラムのプログラムコードをコンピュータに供給するための手段、例えばかかるプログラムを格納した記憶媒体も、本発明の範疇に含まれる。
【0155】
かかるプログラムを記憶する記憶媒体としては、例えば、フロッピー(登録商標)ディスク、ハードディスク、光ディスク、光磁気ディスク、CD−ROM、磁気テープ、不揮発性のメモリカード、ROM等を用いることができる。
【0156】
また、供給されたプログラムをコンピュータが実行することにより、上述の実施形態の機能が実現されるだけではない。
【0157】
例えば、そのプログラムがコンピュータにおいて稼動しているOS(オペレーティングシステム)あるいは他のアプリケーション等と協働して上述の実施形態の機能を実現させる場合にも、かかるプログラムは、本発明の範疇に含まれる。
【0158】
さらに、供給されたプログラムは、コンピュータの機能拡張ボードやコンピュータに接続された機能拡張ユニットに備わるメモリに格納される。
【0159】
そして、そのプログラムの指示に基づいてその機能拡張ボードや機能拡張ユニットに備わるCPU等が実際の処理の一部又は全部を行い、その処理によって上述した実施形態の機能が実現される場合にも、かかるプログラムは、本発明の範疇に含まれる。
【図面の簡単な説明】
【0160】
【図1】本発明の好適な第1実施形態に係る撮像装置の構成図。
【図2】第1実施形態におけるデジタル信号処理部の構成図。
【図3】撮像装置が赤目検出を行う処理の流れを示すフローチャート。
【図4】赤目補正処理を示すフローチャート。
【図5】顔補正処理を示すフローチャート。
【図6】成功度合い判定処理を示すフローチャート。
【図7】成功度合い判定テーブルを示す概念図。
【図8】赤目補正処理を示すフローチャート。
【図9】赤目補正処理を示すフローチャート。
【図10】画像表示部により表示される画面の一例。
【図11】画像表示部により表示される画面の一例。
【図12】撮像装置の背面図の一例。
【図13】撮像装置の背面図の一例。
【図14】撮像装置の背面図の一例。
【図15】撮像装置の背面図の一例。
【図16】本発明の好適な第2実施形態に係る撮像装置の構成図。
【図17】第2実施形態におけるデジタル信号処理部の構成図。
【図18】撮像装置が赤目検出を行う処理の流れを示すフローチャート。
【図19】撮像装置が赤目検出を行う処理の流れを示すフローチャート。
【図20】成功度合い判定処理を示すフローチャート。
【図21】画像表示部により表示される画面の一例。
【図22】画像表示部により表示される画面の一例。
【符号の説明】
【0161】
1,100 撮像装置
5,105 入力部
67,167 赤目検出部
68,168 顔検出部
69,169 赤目補正部
70 画像表示部
71,171 判定部
【技術分野】
【0001】
本発明は、撮像装置、撮像方法、撮像プログラム及び画像処理装置に関する。
【背景技術】
【0002】
従来より、バッチ処理による赤目補正を行う撮像装置が提案されている(例えば、特許文献1参照)。
【0003】
また、インタラクティブ処理による赤目補正を行う撮像装置も提案されている。
【特許文献1】特開2002−247596号公報
【発明の開示】
【発明が解決しようとする課題】
【0004】
特許文献1の技術(バッチ処理による赤目補正を行う技術)では、撮影された画像から、色相、彩度及び明度などを用いて、虹彩領域及び他の特徴領域を抽出している。そして、虹彩領域と他の特徴領域との配置関係に基づいて、赤目補正を行う対象領域である赤目領域を特定している。
【0005】
しかし、特許文献1の技術では、赤目領域を正しく特定できない場合、例えば、不適切な赤目領域に対して赤目補正が行われることがあるので、赤目補正を適切に行えないおそれがある。
【0006】
一方、インタラクティブ処理による赤目補正を行う技術では、複数の赤目領域が検出された場合でも、全ての赤目領域のそれぞれに対して赤目補正を行うか否かを指定しなければならない傾向にある。これにより、赤目補正における利用者側の処理が煩雑化する傾向にある。
【0007】
本発明の目的は、例えば赤目補正を適切に行うことができ、利用者側の処理負担を軽減できる撮像装置を提供することにある。
【課題を解決するための手段】
【0008】
本発明に係る撮像装置は、フラッシュ撮影された画像の中から、赤目補正を行う候補となる領域である複数の赤目補正候補領域を検出するとともに、検出された赤目補正候補領域の赤目らしさを示す赤目検出信頼度を各前記赤目補正候補領域に対して生成する赤目検出部と、少なくとも前記赤目検出信頼度に基づいて、検出することに成功している度合いを各前記赤目補正候補領域に対して判定する判定部と、前記度合いが低い順番に、前記複数の赤目補正候補領域において赤目補正の対象から削除すべき候補となる赤目補正候補領域である削除候補を前記画像とともに表示する表示部とを備えたことを特徴とする。
【発明の効果】
【0009】
本発明に係る撮像装置では、例えば赤目補正を適切に行うことができ、利用者側の処理負担を軽減できる。
【発明を実施するための最良の形態】
【0010】
本発明の好適な第1実施形態に係る撮像装置について、図1〜図13を参照して説明する。
【0011】
まず、撮像装置の概略構成を、図1を用いて説明する。
【0012】
撮像装置1は、赤目補正の機能を有する装置である。撮像装置1は、主として、入力部5,光学系10,固体撮像装置20,アナログ信号処理部30,A/D変換部40,フラッシュ50,デジタル信号処理部60を備える。撮像装置1は、画像表示部70,内部記憶部80及び外部I/F90を備える。
【0013】
入力部5は、ボタン類を有する。ボタン類は、例えば、本体に設けられたシャッターボタン5a、選択ボタン5b、削除ボタン5c及び確定ボタン5d(図15参照)を含む。
【0014】
光学系10は、レンズ、絞りなどの光学機器やその駆動系を含む。光学系10は、被写体Oと固体撮像装置20との間に設けられている。
【0015】
固体撮像装置20は、CCDセンサやCMOSセンサなどを有している。固体撮像装置20は、アナログ信号処理部30に接続されている。
【0016】
アナログ信号処理部30は、クランプ回路や増幅回路などを有している。アナログ信号処理部30は、固体撮像装置20及びA/D変換部40に接続されている。
【0017】
A/D変換部40は、A/Dコンバータなどを有している。A/D変換部40は、アナログ信号処理部30及びデジタル信号処理部60に接続されている。
【0018】
フラッシュ50は、ストロボなどを有している。フラッシュ50は、デジタル信号処理部60に接続されている。
【0019】
デジタル信号処理部60は、フィルタ回路、検出回路などを有している。デジタル信号処理部60は、A/D変換部40、フラッシュ50、画像表示部70、内部記憶部80及び外部I/F90に接続されている。
【0020】
画像表示部70は、表示デバイス及び表示制御回路などを有している。画像表示部70は、デジタル信号処理部60及び内部記憶部80に接続されている。表示デバイスは、電子ファインダとして用いられる。
【0021】
内部記憶部80は、半導体メモリなどの記録媒体及びその制御回路などを有している。内部記憶部80は、デジタル信号処理部60及び画像表示部70に接続されている。
【0022】
外部I/F90は、外部記憶装置を接続可能な構成を有している。外部I/F90は、デジタル信号処理部60に接続されている。
【0023】
次に、撮像装置の概略動作を、図1を用いて説明する。
【0024】
光学系10は、被写体Oを含む撮影領域(図10の画像GIとして取得される対象領域)に向けられる。これにより、光学系10は、被写体Oを含む撮影領域の光学像を固体撮像装置20の上に結像させる。
【0025】
利用者により、低照度撮影時などにおいて、入力部5を介して、フラッシュの発光を指示する情報であるフラッシュ発光情報がデジタル信号処理部60に入力される。デジタル信号処理部60は、フラッシュ発光情報に応じて、フラッシュ50に発光を行わせる。これにより、フラッシュ50は、被写体Oを含む撮影領域を照らす。そして、固体撮像装置20には、フラッシュに照らされた被写体Oを含む撮影領域の光学像が結像する。このとき、被写体Oに赤目が生じた状態で、撮影領域の光学像が結像することがある。
【0026】
固体撮像装置20は、結像された光学像に対応した電気信号を発生させて、光学像(入力画像)を電気信号(アナログ信号)に変換する。固体撮像装置20は、変換後のアナログ信号をアナログ信号処理部30へ供給する。
【0027】
アナログ信号処理部30は、そのアナログ信号の波形にクランプやゲインなどの処理を行う。アナログ信号処理部30は、処理後のアナログ信号をA/D変換部40へ供給する。
【0028】
A/D変換部40は、アナログ信号をデジタル信号へ変換する。A/D変換部40は、変換後のデジタル信号をデジタル信号処理部60へ供給する。
【0029】
デジタル信号処理部60は、デジタル信号に各種の補正を行い、出力画像を表示させるための画像データを生成する。ここで、デジタル信号処理部60は、画像データを生成する際に、内部記憶部80にアクセスし、画像データの一部又は全部を内部記憶部80に格納する。デジタル信号処理部60は、その画像データを画像表示部70、内部記憶部80及び外部I/F90に供給する。
【0030】
画像表示部70は、画像データをデジタル信号処理部60や内部記憶部80から受け取り、画像データに対応した出力画像を逐次表示する。これにより、画像表示部70は、表示デバイスを電子ファインダとして機能させる。
【0031】
外部I/F90には、外部記憶装置が接続される。これにより、外部I/F90に供給された画像データは、外部記憶装置に最終的に保存される。
【0032】
デジタル信号処理部の詳細構成を、図2を用いて説明する。
【0033】
デジタル信号処理部60は、主として、色変換部61、色処理部62、LPF(Low Pass Filter)63、輝度処理部64、BPF(Band Pass Filter)65を備える。デジタル信号処理部60は、輪郭強調部66、赤目検出部67、顔検出部68、判定部71及び赤目補正部69を備える。これらは、デジタル信号処理部60の構成のうち、画像データの生成及び赤目補正を行う部分の構成である。
【0034】
色変換部61は、A/D変換部40(図1参照)、色処理部62、LPF63及びBPF65に接続されている。色処理部62は、色変換部61、赤目検出部67及び判定部71に接続されている。輝度処理部64は、LPF63、赤目検出部67及び判定部71に接続されている。輪郭強調部66は、BPF65、顔検出部68及び判定部71に接続されている。判定部71は、色処理部62、輝度処理部64、輪郭強調部66、赤目検出部67、顔検出部68及び赤目補正部69に接続されている。赤目補正部69は、画像表示部70,内部記憶部80及び外部I/F90に接続されている。
【0035】
次に、デジタル信号処理部の詳細動作を、図2を用いて説明する。
【0036】
色変換部61には、光学像(入力画像)のRGBを示すデジタル信号がA/D変換部40から入力される。色変換部61は、入力画像のRGBから輝度信号Yと色差信号Cr,Cbを生成、分離する。色変換部61は、色差信号Cr,Cbなどを色処理部62に供給し、輝度信号YなどをLPF63及びBPF65に供給する。
【0037】
色処理部62は、色差信号Cr,Cbなどに対して、ホワイトバランスの調整、色処理、ガンマ処理などを行う。ここで、色処理は、例えば、高輝度、低輝度の色の濃さを薄くする処理である。色処理部62は、これらの処理が施された色信号を赤目検出部67及び判定部71へ供給する。
【0038】
LPF63には、輝度信号Yなどが色変換部61から入力される。LPF63は、輝度信号Yなどの入力信号のうち低周波成分を通過させる。LPF63は、輝度信号Yなどの低周波成分を輝度処理部64へ供給する。
【0039】
輝度処理部64は、輝度信号Yなどの低周波成分に対して、フィルタ処理、輝度補正、ガンマ処理などを行う。輝度処理部64は、これらの処理が施された輝度信号を赤目検出部67及び判定部71へ供給する。
【0040】
BPF65には、輝度信号Yなどが色変換部61から入力される。BPF65は、輝度信号Yなどの入力信号のうち高周波成分を通過させる。BPF65は、輝度信号Yなどの高周波成分(輪郭信号)を輪郭強調部66へ供給する。
【0041】
輪郭強調部66は、輝度信号Yなどの高周波成分(輪郭信号)に対して、輪郭強調処理を行う。輪郭強調部66は、これらの処理が施された輪郭信号を顔検出部68及び判定部71へ供給する。
【0042】
赤目検出部67は、入力部5を介して、フラッシュ発光情報をフラッシュ50から受け取る。赤目検出部67は、色信号を色処理部62から受け取り、輝度信号を輝度処理部64から受け取る。赤目検出部67は、色信号及び輝度信号などを介して、赤目補正候補領域を検出する。ここで、赤目補正候補領域は、被写体Oの赤目補正を行う候補となる領域である。それとともに、赤目検出部67は、赤目検出結果に基づき、赤目検出信頼度を生成して出力する。赤目検出信頼度は、被写体Oから赤目補正候補領域として検出された領域の赤目らしさを示す。赤目検出信頼度は、例えば、被写体Oの赤目補正候補領域を検出した結果の信頼度を数値で示したものであり、大きな値であるときに信頼度が高いことを示し、小さな値であるときに信頼度が低いことを示す。
【0043】
顔検出部68は、輪郭信号を輪郭強調部66から受け取る。顔検出部68は、輪郭信号などを介して、赤目補正候補領域に対して被写体Oの顔を検出する。それとともに、顔検出部68は、顔検出結果に基づき、顔検出信頼度を生成して出力する。顔検出信頼度は、被写体Oから顔候補領域として検出された領域の顔らしさを示す。顔候補領域は、被写体Oの顔であると認識された領域である。顔検出信頼度は、例えば、被写体Oの顔候補領域を検出した結果の信頼度を数値で示したものであり、大きな値であるときに信頼度が高いことを示し、小さな値であるときに信頼度が低いことを示す。
【0044】
なお、本発明における顔検出に関しては、公知の顔検出技術を用いることとする。公知の顔検出技術として、例えば、ニューラルネットワークに代表される学習を用いた手法が挙げられる。あるいは、公知の顔検出技術として、目や鼻や口といった形状に特徴のある部位を、画像領域からテンプレートマッチングを用い探し出し類似度が高ければ顔とみなす手法が挙げられる。また、他にも、肌の色や目の形といった画像特徴量を検出し統計的解析を用いた手法等、多数提案されており、一般的にはこれらの手法を複数組み合わせて顔認識するのが一般的である。
【0045】
具体的な例としては特開平2002−251380号公報に記載のウェーブレット変換と画像特徴量を利用して顔検出する方法などが挙げられる。
【0046】
判定部71は、赤目補正候補領域の情報と赤目検出信頼度とを赤目検出部67から受け取り、被写体Oの顔の情報と顔検出信頼度とを顔検出部68から受け取る。判定部71は、色信号を色処理部62から受け取り、輝度信号を輝度処理部64から受け取り、輪郭強調信号を輪郭強調部66から受け取る。判定部71は、これらの情報に基づいて、被写体Oの赤目を検出することに成功している度合いを各赤目補正候補領域に対して判定する。ここで、判定部71は、判定する際に、メモリ(図示せず)にアクセスして、成功度合い判定テーブル(図7参照)を参照する。判定部71は、成功している度合いの情報を赤目補正候補領域の識別情報(例えば、後述する赤目位置情報)に対応付けて赤目補正部69へ供給する。また、判定部71は、赤目補正候補領域の情報、被写体Oの顔の情報、色信号、輝度信号及び輪郭信号を赤目補正部69へ転送する。
【0047】
赤目補正部69は、成功している度合いの情報を赤目補正候補領域の識別情報に対応付けて画像表示部70へ出力する。
【0048】
また、赤目補正部69は、入力部5の削除ボタン5c(図12参照)を介して入力された削除命令を赤目補正候補領域の識別情報に対応付けて受け取る。赤目補正部69は、削除命令により指定された赤目補正候補領域の情報を削除する。
【0049】
赤目補正部69は、入力部5の確定ボタン5d(図12参照)を介して入力された確定命令を受け取る。赤目補正部69は、確定命令に応じて、赤目補正候補領域に対して赤目補正を行う。ここで、すでに情報が削除された赤目補正候補領域に対して、赤目補正は行われない。
【0050】
次に、撮像装置が赤目補正を行う処理の流れを、図3〜図9に示すフローチャート及び図10〜図15の概念図を用いて説明する。図3〜図9に示す処理は、主として図1に示すデジタル信号処理部により行われる。
【0051】
ステップS1では、赤目補正部69は、フラッシュ撮影が行われたか否かの判断を行う。すなわち、利用者により、低照度撮影時などにおいて、入力部5を介して、フラッシュ発光情報がデジタル信号処理部60に入力される。フラッシュ発光情報は、フラッシュの発光を指示する情報である。デジタル信号処理部60は、フラッシュ発光情報に応じて、フラッシュ50に発光を行わせる。これにより、フラッシュ50は、被写体Oを含む撮影領域を照らす。そして、固体撮像装置20には、フラッシュに照らされた被写体Oを含む撮影領域の光学像が結像する。このとき、被写体Oに赤目が生じた状態で、撮影領域の光学像が結像することがある。
【0052】
デジタル信号処理部60内の赤目補正部69は、赤目検出部67及び判定部71経由でフラッシュ発光情報をフラッシュ50から受け取った場合、フラッシュ撮影が行われたと判断する。赤目補正部69は、赤目検出部67及び判定部71経由でフラッシュ発光情報をフラッシュ50から受け取らなかった場合、フラッシュ撮影が行われなかったと判断する。赤目補正部69は、フラッシュ撮影が行われたと判断した場合、処理をステップS2へ進め、フラッシュ撮影が行われなかったと判断した場合、処理を終了する。
【0053】
ステップS2では、デジタル信号処理部60は、赤目検出信頼度及び顔検出信頼度の閾値を設定する。すなわち、デジタル信号処理部60内の赤目補正部69は、メモリ(図示せず)に記憶されていた赤目検出閾値TH1及び顔検出閾値TH2を読み出し判定部71へ渡す。
【0054】
判定部71は、赤目検出閾値TH1が設定された旨の情報を赤目検出部67へ供給するとともに、顔検出閾値TH2が設定された旨の情報を顔検出部68へ供給する。
【0055】
ステップS3では、赤目検出部67は、赤目検出閾値TH1が設定された旨の情報を受け取ったことに応じて、赤目検出処理を行う。例えば、赤目検出部67は、赤目補正候補領域を検出すると共に、赤目検出信頼度も算出する。赤目検出部67は、赤目検出処理を完了したら、赤目検出処理を完了した旨の情報、赤目補正候補領域及び赤目検出信頼度を判定部71へ供給する。なお、赤目検出処理の詳細な説明については後述する。
【0056】
ステップS4では、顔検出部68は、顔検出閾値TH2が設定された旨の情報を受け取ったことに応じて、上述した公知の顔検出処理を行う。例えば、顔検出部68は、顔候補領域を検出すると共に、顔検出信頼度も算出する。顔検出部68は、顔検出処理を完了したら、顔検出処理を完了した旨の情報、顔補正候補領域及び顔検出信頼度を判定部71へ供給する。なお、顔検出処理の詳細な説明については後述する。
【0057】
ステップS5では、判定部71は、赤目検出処理を完了した旨の情報及び顔検出処理を完了した旨の情報を両方とも受け取ったことに応じて、成功度合い判定処理を行う。なお、成功度合い判定処理の詳細な説明については後述する。
成功度合い「低」成功度合い「低」成功度合い「低」成功度合い「NG」成功度合い「NG」成功度合い「NG」 ステップS6では、赤目補正部69が赤目補正処理を行う。なお、赤目補正処理の詳細な説明については後述する。
【0058】
このようにして、撮像装置1は、赤目補正を行う。
【0059】
次に、赤目検出処理を、図4に示すフローチャート及び図10、図11の概念図を用いて説明する。図10、図11は、主として図1に示す画像表示部70により表示される画面の一例である。なお、図11は、内部的な処理を説明するための仮想的な画面の一例であり、実際には、画像表示部70により表示されない。
【0060】
ステップS21では、色差信号が色処理部62に入力され、輝度信号がLPF63及びBPF65に入力される。すなわち、デジタル信号処理部60の色変換部61には、光学像(入力画像)のRGBを示すデジタル信号がA/D変換部40から入力される。色変換部61は、入力画像のRGBから輝度信号Yと色差信号Cr,Cbを生成、分離する。色変換部61は、色差信号Cr,Cbなどを色処理部62に供給し、輝度信号YなどをLPF63及びBPF65に供給する。
【0061】
色処理部62は、色差信号Cr,Cbなどに対して、ホワイトバランスの調整、色処理、ガンマ処理などを行う。ここで、色処理は、例えば、高輝度、低輝度の色の濃さを薄くする処理である。色処理部62は、これらの処理が施された色信号を赤目検出部67及び判定部71へ供給する。
【0062】
LPF63には、輝度信号Yなどが色変換部61から入力される。LPF63は、輝度信号Yなどの入力信号のうち低周波成分を通過させる。LPF63は、輝度信号Yなどの低周波成分を輝度処理部64へ供給する。
【0063】
輝度処理部64は、輝度信号Yなどの低周波成分に対して、フィルタ処理、輝度補正、ガンマ処理などを行う。輝度処理部64は、これらの処理が施された輝度信号を赤目検出部67及び判定部71へ供給する。
【0064】
ステップS22では、赤目検出部67は入力信号に対して赤目検出を行う。すなわち、赤目検出部67は、色信号を色処理部62から受け取り、輝度信号を輝度処理部64から受け取る。赤目検出部67は、色信号及び輝度信号などを介して、赤目補正候補領域を検出する。ここで、赤目補正候補領域は、被写体Oの赤目補正を行う候補となる領域である。
【0065】
例えば、図10に示すように、画像GIで示される撮影領域に、被写体O1〜O3が存在する場合を考える。ここで、被写体O1,O2は正面を向いているのに対して、被写体O3は横を向いている。このとき、赤目検出部67は、図11に示すように、赤目補正候補領域R1,R2,R3,R4,R5を検出する。
【0066】
ステップS23では、赤目検出部67は、赤目検出信頼度を生成して出力する。赤目検出信頼度は、被写体Oから赤目補正候補領域として検出された領域の赤目らしさを示す。また、赤目検出信頼度は、例えば、被写体Oの赤目補正候補領域を検出した結果の信頼度を数値で示したものであり、大きな値であるときに信頼度が高いことを示し、小さな値であるときに信頼度が低いことを示す。
【0067】
具体的には、赤目検出部67は、色相、彩度、明度、輝度などを分析する。そして、赤目検出部67は、該当の画素(エリア)が赤であるか(パラメータRP1)、該当の画素(エリア)の周辺画素(エリア)が肌色であるか(パラメータRP2)を演算する。赤目検出部67は、該当の画素(エリア)が高輝度であるか(パラメータRP3)、該当の画素(エリア)が丸い形状をしているか(パラメータRP4)を演算する。そして、赤目検出部67は、赤目検出信頼度RRを
RR=K1×RP1+K2×RP2+K3×RP3+K4×RP4・・・数式1
の式により演算する。ここで、K1、K2、K3、K4は、実験などにより予め求められた定数である。
【0068】
なお、本実施形態において赤目検出信頼度RRを構成する要素を上記のように規定したが、赤目検出の信頼度を推定するために有効な要素であれば上記した要素に限定されるわけではない。
【0069】
例えば、赤目検出部67は、数式1のような演算を行い、赤目補正候補領域R1,R2,R3,R4,R5(図11参照)について、赤目検出信頼度RR1,RR2,RR3,RR4,RR5を生成する。例えば、図11に示すような入力信号が得られた場合、赤目検出信頼度RR1,RR2,RR3,RR4,RR5と赤目検出閾値TH1とは、それぞれ、数式2〜数式6のような関係にあることになる。
【0070】
RR1≧TH1・・・数式2
RR2≧TH1・・・数式3
RR3<TH1・・・数式4
RR4≧TH1・・・数式5
RR5<TH1・・・数式6
ステップS24では、赤目検出部67は、赤目検出信頼度を出力する。すなわち、デジタル信号処理部60内の赤目検出部67は、赤目補正候補領域(例えば、R1〜R5)の情報と赤目検出信頼度(例えば、RR1〜RR5)とを判定部71へ出力する。
【0071】
次に、顔検出処理を、主として、図5に示すフローチャート及び図10、図11に示す概念図を用いて説明する。図10、図11は、主として図1に示す画像表示部70により表示される画面の一例である。なお、図11は、内部的な処理を説明するための仮想的な画面の一例であり、実際には、画像表示部70により表示されない。
【0072】
ステップS31では、顔検出部68は、入力信号に対して上述した公知の顔検出方法を用いることで顔領域の検出を行う。
【0073】
例えば、図10に示すように、画像GIで示される撮影領域に、被写体O1〜O3が存在する場合を考える。ここで、被写体O1,O2は正面を向いているのに対して、被写体O3は横を向いている。このとき、顔検出部68は、図11に示すように、顔候補領域F1,F2,F3を検出する。顔候補領域F1,F2,F3は、それぞれ、被写体O1,O2,O3の顔であると認識された領域である。
【0074】
ステップS32では、顔検出部68は、ステップS31の顔検出結果に基づき、顔検出信頼度を演算し、出力する。顔検出信頼度は、被写体Oから顔候補領域として検出された領域の顔らしさを示す。顔検出信頼度は、例えば、被写体Oの顔候補領域を検出した結果の信頼度を数値で示したものであり、大きな値であるときに信頼度が高いことを示し、小さな値であるときに信頼度が低いことを示す。
【0075】
具体的には、顔検出部68は、輝度パターンなどを分析する。そして、顔検出部68は、目が検出されるか(パラメータFP1)、鼻が検出されるか(パラメータFP2)を演算する。さらに、顔検出部68は、口が検出されるか(パラメータFP3)、耳が検出されるか(パラメータFP4)を演算する。そして、顔検出部68は、顔検出信頼度FRを
FR=K5×FP1+K6×FP2+K7×FP3+K8×FP4・・・数式7
の式により演算する。ここで、K5、K6、K7、K8は、実験などにより予め求められた定数である。
【0076】
なお、本実施形態において赤目検出信頼度RRを構成する要素を上記のように規定したが、赤目検出の信頼度を推定するために有効な要素であれば上記した要素に限定されるわけではない。
【0077】
例えば、顔検出部68は、数式7ような演算を行い、顔候補領域F1,F2,F3に対して、顔検出信頼度FR1,FR2,FR3を生成する。例えば、図11に示す場合、顔検出信頼度FR1,FR2,FR3と顔検出閾値TH2とは、それぞれ、数式8〜数式10のような関係にあることになる。
【0078】
FR1≧TH2・・・数式8
FR2≧TH2・・・数式9
FR3≧TH2・・・数式10
ステップS33では、顔検出信頼度を出力する。すなわち、デジタル信号処理部60の顔検出部68は、被写体Oの顔の情報(例えば、顔候補領域F1,F2,F3の情報)と顔検出信頼度(例えば、顔検出信頼度FR1,FR2,FR3)とを判定部71へ出力する。
【0079】
次に、成功度合い判定処理を、図6に示すフローチャート及び図7、図10、図11の概念図を用いて説明する。図7は、図2に示す判定部71がメモリ(図示せず)にアクセスして参照する成功度合い参照テーブルを示す。図10、図11は、主として図1に示す画像表示部70により表示される画面の一例である。なお、図11は、内部的な処理を説明するための仮想的な画面の一例であり、実際には、画像表示部70により表示されない。
【0080】
ステップS51では、判定部71は、赤目補正候補領域を選択する。すなわち、デジタル信号処理部60内の判定部71は、赤目補正候補領域の情報(赤目位置情報を含む)と赤目検出信頼度とを赤目検出部67から受け取る。赤目位置情報は、画像における赤目補正候補領域の位置を示す情報である。判定部71は、複数の赤目補正候補領域から判定の対象とする赤目補正候補領域(赤目位置情報)を選択する。なお、判定部71は、メモリ(図示せず)を参照してすでに判定した赤目補正候補領域を特定するとともに、判定の対象とする赤目補正候補領域をメモリに追加記憶する。
【0081】
ステップS52では、判定部71は、赤目補正候補領域が顔候補領域に含まれるか否かを判断する。すなわち、判定部71は、顔補正候補領域の情報(顔位置情報を含む)と顔検出信頼度とを顔検出部68から受け取る。顔位置情報は、画像における顔候補領域の位置を示す情報である。
【0082】
判定部71は、赤目位置情報と顔位置情報とに基づいて、赤目補正候補領域と顔候補領域との包含関係を判断する。判定部71は、赤目位置情報が1以上の顔位置情報のうちのいずれかに含まれていると判断すれば、その赤目位置情報に対応する赤目補正候補領域が顔候補領域に含まれていると判断する。判定部71は、赤目位置情報が1以上の顔位置情報のうちのいずれにも含まれていないと判断すれば、その赤目位置情報に対応する赤目補正候補領域が顔候補領域に含まれていないと判断する。
【0083】
例えば、図10に示す被写体O1〜O3に対して、図11に示すように、赤目補正候補領域R1〜R5と顔候補領域F1〜F3とが検出された場合を考える。この場合、判定部71は、赤目補正候補領域R1〜R3を、それぞれ、顔候補領域F1〜F3に含まれていると判断する。判定部71は、赤目補正候補領域R4,R5を、それぞれ、顔候補領域F1〜F3のいずれにも含まれていないと判断する。
【0084】
判定部71は、赤目補正候補領域が顔候補領域に含まれていると判断する場合、処理をステップS54へ進める。判定部71は、赤目補正候補領域が顔候補領域に含まれていないと判断する場合、処理をステップS53へ進める。
【0085】
ステップS53では、判定部71は、顔検出信頼度が「低」であると判定する。つまり、赤目補正候補領域が顔候補領域に含まれていないので、赤目補正候補領域を含む仮想的な顔候補領域を想定し、その顔候補領域の顔らしさが低いものと判定する。
【0086】
例えば、図11に示す場合、判定部71は、赤目補正候補領域R4,R5を含む仮想的な顔候補領域F4,F5を想定する。そして、判定部71は、顔候補領域F4,F5の顔検出信頼度を「低」と判定する。
【0087】
ステップS54では、判定部71は、顔検出信頼度が閾値以上であるか否かを判断する。すなわち、デジタル信号処理部60の判定部71は、被写体Oの顔の情報と顔検出信頼度とを顔検出部68から受け取る。判定部71は、顔検出信頼度により示される顔検出信頼度FRと、顔検出閾値TH2とを比較する。そして、判定部71は、FR≧TH2であると判断する場合に、顔検出信頼度が「高」であると判定する。判定部71は、FR<TH2であると判断する場合に、顔検出信頼度が「低」であると判定する。
【0088】
例えば、図11に示す場合、判定部71は、数式8〜数式10に示すように、顔候補領域F1,F2,F3に対して、顔検出信頼度を「高」と判定する。
【0089】
ここで、成功度合いを判定するために、赤目検出信頼度に加えてさらに顔検出信頼度を用いる理由を説明する。
【0090】
本来、目は顔の中にしか存在しない。そこで、目は顔の中に存在するという前提に基づいて、赤目補正候補領域であったとしても、顔候補領域としての信頼度が低ければ、それは目ではないと判断し、赤目補正候補領域から排除する。これにより、より判定の精度を高めることができる。
【0091】
つまり、顔検出信頼度を考慮して赤目検出に成功しているか否かを判断及び決定するので、赤目補正すべき赤目補正候補領域と赤目補正すべきでない赤目補正候補領域とはさらに区別しやすくなる。
【0092】
なお、本実施形態においては、閾値を一つだけ設定しているが、閾値を複数個設定することで、顔らしさのランク分けを更に細かくしてもよい。そうすることで、複数の顔候補領域が検出された際に、より細かく優先度付けを行うことが可能になる。
【0093】
ステップS55では、判定部71は、赤目検出信頼度が閾値以上であるか否かを判断する。すなわち、デジタル信号処理部60内の判定部71は、赤目検出信頼度により示される赤目検出信頼度RR1と、赤目検出閾値TH1とを比較する。そして、判定部71は、RR1≧TH1であると判断する場合に、赤目検出信頼度が「高」であると判定する。判定部71は、RR1<TH1であると判断する場合に、赤目検出信頼度が「低」であると判定する。
【0094】
例えば、図11に示す場合、判定部71は、数式2,数式3,数式5に示すように、赤目補正候補領域R1,R2,R4に対して、赤目検出信頼度を「高」と判定する。判定部71は、数式4,数式6に示すように、赤目補正候補領域R3,R5に対して、赤目検出信頼度を「低」と判定する。
【0095】
なお、本実施形態においては、閾値を一つだけ設定しているが、閾値を複数個設定することで、赤目らしさのランク分けを更に細かくしてもよい。そうすることで、複数の赤目候補領域が検出された際に、より細かく優先度付けを行うことが可能になる。
【0096】
ステップS56では、判定部71は、成功度合いを判定する。すなわち、判定部71は、赤目検出信頼度について判定した結果と、顔検出信頼度について判定した結果とに基づいて、赤目検出に成功している度合い(成功度合い)を判定する。ここで、判定部71は、判定する際に、メモリ(図示せず)にアクセスして、成功度合い判定テーブル(図7参照)を参照する。
【0097】
図7に示すように、判定部71は、赤目検出信頼度を「高」と判定し顔検出信頼度を「高」と判定した場合、成功度合いを「高」と判定する。判定部71は、赤目検出信頼度を「低」と判定し顔検出信頼度を「高」と判定した場合、成功度合いを「中」と判定する。判定部71は、赤目検出信頼度を「高」と判定し顔検出信頼度を「低」と判定した場合、成功度合いを「低」と判定する。判定部71は、赤目検出信頼度を「低」と判定し顔検出信頼度を「低」と判定した場合、成功度合いを「NG」と判定する。
【0098】
例えば、図11に示す場合、判定部71は、赤目補正候補領域R1,R2の赤目検出信頼度を「高」と判定し、赤目補正候補領域R1,R2を含む顔候補領域F1,F2の顔検出信頼度を「高」と判定している。これにより、判定部71は、赤目補正候補領域R1に対して、成功度合いを「高」と判定する。
【0099】
判定部71は、赤目補正候補領域R3の赤目検出信頼度を「低」と判定し、赤目補正候補領域R3を含む顔候補領域F3の顔検出信頼度を「高」と判定している。これにより、判定部71は、赤目補正候補領域R3に対して、成功度合いを「中」と判定する。
【0100】
判定部71は、赤目補正候補領域R4の赤目検出信頼度を「高」と判定し、赤目補正候補領域R4を含む仮想的な顔候補領域F4の顔検出信頼度を「低」と判定している。これにより、判定部71は、赤目補正候補領域R4に対して、成功度合いを「小」と判定する。
【0101】
判定部71は、赤目補正候補領域R5の赤目検出信頼度を「低」と判定し、赤目補正候補領域R5を含む仮想的な顔候補領域F5の顔検出信頼度を「低」と判定している。これにより、判定部71は、赤目補正候補領域R5に対して、成功度合いを「NG」と判定する。
【0102】
ステップS57では、判定部71は、全ての赤目補正候補領域に対して判定が行われたか否かを判断する。判定が行われたと判断した場合、処理をステップS12へ進め、判定が行われていないと判断した場合、処理をステップS4へ進める。
なお、ステップS5、ステップS8において、ランク分けを細かくすることで、赤目検出に成功している度合いのランク分けをより詳細に行うことができる。
【0103】
このように、成功度合い判定処理により、全ての赤目補正候補領域に対して、赤目検出に成功している度合いが「高」、「中」、「低」、「NG」にランク付けされる。すなわち、デジタル信号処理部60の判定部71は、赤目検出に成功している度合いを判定している。
【0104】
次に、赤目補正処理を、図8,図9に示すフローチャート及び図12〜図15の概念図を用いて説明する。図12〜図15は、撮像装置の背面図の一例である。
【0105】
ステップS41では、画像表示部70は、成功度合い「NG」と決定された領域(以下、「NG領域」とする)を表示する。すなわち、デジタル信号処理部60の入力部5は、例えば利用者が選択ボタン5bを押したことを検知することにより、NG領域の表示命令を受け付ける。入力部5は、NG領域の表示命令を、デジタル信号処理部60へ供給する。そのNG領域の表示命令は、デジタル信号処理部60において、赤目検出部67及び判定部71経由で赤目補正部69へ供給される。赤目補正部69は、NG領域の表示命令に基づいて、1以上のNG領域の中から表示すべきNG領域を選択する。赤目補正部69は、画像情報とともに、選択されたNG領域の情報を、画像表示部70へ供給する。画像表示部70は、画像情報と、選択されたNG領域の情報とに基づいて、削除候補を表示デバイスに表示する。ここで、削除候補は、複数の赤目補正候補領域において赤目補正の対象から削除すべき候補となる赤目補正候補領域である。
【0106】
例えば、図12では、画像表示部70により、画像GIとともに、赤目補正候補領域R5がNG領域であることを示すフレームRF5が、削除候補を示す情報として表示される。
【0107】
なお、本実施形態において画像GIは画像表示部70のサイズに合わせて表示されているが、選択ボタン5bを操作することで拡大した画像を表示することも可能である。
【0108】
これにより、赤目補正候補領域R5が削除候補であることを把握することができ、赤目補正候補領域R5を赤目補正する対象から削除すべきか否かの判断を利用者に促すことができる。すなわち、赤目補正候補領域R5を削除すべきか否かの判断を利用者に促すことができ、削除すべきであると判断した場合に削除命令を入力するように利用者に促すことができる。
【0109】
ステップS42では、判定部71は、削除が指定されたか否かを判断する。すなわち、デジタル信号処理部60の入力部5は、例えば利用者が削除ボタン5cを押したことを検知することにより、削除命令を受け付ける。入力部5は、削除命令をデジタル信号処理部60へ供給する。その削除命令は、デジタル信号処理部60において、赤目検出部67経由で判定部71へ供給される。判定部71は、削除命令を受け取った場合、削除が指定されたと判断し、削除命令を受け取っていない場合、削除が指定されていないと判断する。判定部71は、削除が指定されたと判断した場合、処理をステップS43へ進め、削除が指定されていないと判断した場合、処理をステップS44へ進める。
【0110】
ステップS43では、赤目補正部69は、削除が指定された赤目補正候補領域の情報を削除する。すなわち、判定部71は、削除命令を赤目補正部69へ供給する。赤目補正部69は、削除命令に基づいて、メモリ(図示せず)を参照して、選択された赤目補正候補領域の情報を削除する。なお、メモリには、全ての赤目補正候補領域の情報が記憶されているものとする。
【0111】
そして、赤目補正部69は、画像情報とともに、削除されたNG領域の情報を、画像表示部70へ供給する。画像表示部70は、画像情報と、削除されたNG領域の情報とに基づいて、図12に示す画像GIに代えて図13に示す画像GIを表示デバイスに表示する。
【0112】
例えば、図13では、画像表示部70により、赤目補正候補領域R5に対応する部分のハイライト表示(図中では斜線)が消えた状態で表示される。これにより、赤目補正候補領域R5が赤目補正の対象から削除されたことを把握することができる。
【0113】
ステップS44では、判定部71は、全てのNG領域が選択されたか否かを判断する。判定部71は、全てのNG領域が選択されたと判断した場合、処理をステップS45へ進め、全てのNG領域が選択されていないと判断した場合、処理をステップS41へ進める。
【0114】
ステップS45では、判定部71は、確定が指定されたか否かを判断する。すなわち、デジタル信号処理部60の入力部5は、例えば利用者が確定ボタン5dを押したことを検知することにより、確定命令を受け付ける。入力部5は、確定命令をデジタル信号処理部60へ供給する。その確定命令は、デジタル信号処理部60において、赤目検出部67経由で判定部71へ供給される。判定部71は、確定命令を受け取った場合、確定が指定されたと判断し、確定命令を受け取っていない場合、確定が指定されていないと判断する。判定部71は、確定が指定されたと判断した場合、処理をステップS46(図8,7で示す(1))へ進め、確定が指定されていないと判断した場合、処理をステップS50(図8,7で示す(2))へ進める。
【0115】
ステップS46では、画像表示部70が、成功度合い「低」と決定された領域(以下、「低領域」とする)を表示する。すなわち、デジタル信号処理部60の入力部5は、例えば利用者が選択ボタン5bを押したことを検知することにより、低領域の表示命令を受け付ける。入力部5は、低領域の表示命令を、デジタル信号処理部60へ供給する。その低領域の表示命令は、デジタル信号処理部60において、赤目検出部67及び判定部71経由で赤目補正部69へ供給される。赤目補正部69は、低領域の表示命令に基づいて、1以上の低領域の中から表示すべき低領域を選択する。赤目補正部69は、画像情報とともに、選択された低領域の情報を、画像表示部70へ供給する。画像表示部70は、画像情報と、選択された低領域の情報とに基づいて、削除候補を表示デバイスに表示する。ここで、削除候補は、複数の赤目補正候補領域において赤目補正の対象から削除すべき候補となる赤目補正候補領域である。
【0116】
例えば、図13では、画像表示部70により、画像GIとともに、赤目補正候補領域R4が低領域であることを示すフレームRF4が、削除候補を示す情報として表示される。これにより、赤目補正候補領域R4が削除候補であることを把握することができ、赤目補正候補領域R4を赤目補正する対象から削除すべきか否かの判断を利用者に促すことができる。すなわち、赤目補正候補領域R4を削除すべきか否かの判断を利用者に促すことができ、削除すべきであると判断した場合に削除命令を入力するように利用者に促すことができる。
【0117】
ステップS47では、判定部71は、削除が指定されたか否かを判断する。すなわち、デジタル信号処理部60の入力部5は、例えば利用者が削除ボタン5cを押したことを検知することにより、削除命令を受け付ける。入力部5は、削除命令をデジタル信号処理部60へ供給する。その削除命令は、デジタル信号処理部60において、赤目検出部67経由で判定部71へ供給される。判定部71は、削除命令を受け取った場合、削除が指定されたと判断し、削除命令を受け取っていない場合、削除が指定されていないと判断する。判定部71は、削除が指定されたと判断した場合、処理をステップS48へ進め、削除が指定されていないと判断した場合、処理をステップS49へ進める。
【0118】
ステップS48では、赤目補正部69は、削除が指定された赤目補正候補領域の情報を削除する。すなわち、判定部71は、削除命令を赤目補正部69へ供給する。赤目補正部69は、削除命令に基づいて、メモリ(図示せず)を参照して、選択された赤目補正候補領域の情報を削除する。なお、メモリには、全ての赤目補正候補領域の情報が記憶されているものとする。
【0119】
そして、赤目補正部69は、画像情報とともに、削除された低領域の情報を、画像表示部70へ供給する。画像表示部70は、画像情報と、削除された低領域の情報とに基づいて、図13に示す画像GIに代えて図14に示す画像GIを表示デバイスに表示する。
【0120】
例えば、図14では、画像表示部70により、赤目補正候補領域R4に対応する部分のハイライト表示(図中では斜線)が消えた状態で表示される。これにより、赤目補正候補領域R4が赤目補正の対象から削除されたことを把握することができる。
【0121】
ステップS49では、判定部71は、全ての低領域が選択されたか否かを判断する。判定部71は、全ての低領域が選択されたと判断した場合、処理をステップS45へ進め、全ての低領域が選択されていないと判断した場合、処理をステップS41へ進める。
【0122】
なお、本実施形態において、NG領域と低領域とを対象として削除するか否かの指定を行っているが、中領域も対象として削除するか否かの指定を行ってもよい。こうすることで、より精度の高い赤目領域の除去を行うことができる。
【0123】
ステップS50では、赤目補正部69は、赤目補正候補領域を確定する。すなわち、デジタル信号処理部60の判定部71は、確定命令を赤目補正部69へ供給する。赤目補正部69は、確定命令に基づき、メモリ(図示せず)を参照して、全ての赤目補正候補領域を確定する。そして、赤目補正部69は、画像情報とともに、確定された赤目補正候補領域の情報を、画像表示部70へ供給する。画像表示部70は、画像情報と、確定された赤目補正候補領域の情報とに基づいて、図14に示す画像GIに代えて図15に示す画像GIを表示デバイスに表示する。
【0124】
例えば、図15では、画像表示部70により、赤目補正候補領域R1〜R3に対応する部分のハイライト表示(図中では斜線)が別のハイライト表示(図中では格子状のハッチング)で表示される。これにより、赤目補正候補領域R1〜R3が赤目補正の対象として確定したことを把握することができる。
【0125】
以上のような処理により、画像表示部70により表示される画像は、例えば、図15に示すような画像になる。なお、図15において、実線斜線で示されている部分は、赤目位置情報を示す。赤目位置情報は、画像GIにおいて、赤目検出に成功していると判定部71が判定する場合における赤目補正候補領域R1,R2,R3の位置を示す情報である。
【0126】
そして、赤目補正部69は、確定した赤目補正候補領域に対して赤目補正を行う。
【0127】
例えば、図15では、赤目補正部69は、複数の赤目補正候補領域R1〜R5において、削除命令で指定された赤目補正候補領域R4,R5を除く赤目補正候補領域R1〜R3を赤目補正する。
【0128】
このように、フラッシュ撮影された画像GIの中において、赤目補正に失敗している可能性が高い順番に(赤目検出に成功している度合いが低い順番に)削除すべきかどうかの入力を、利用者に対して促すことができる。これにより、不適切な赤目補正候補領域を赤目補正の対象から削除することができるとともに、全ての赤目補正候補領域に対して赤目補正を行うか否かを指定することを避けることができる。このため、例えば赤目補正を適切に行うことができ、利用者側の処理負担を軽減できる。
【0129】
なお、例えば、NG1,NG2,NG3(1から順に信頼度が低いとする)のように信頼度のランク分けが細かく設定されている場合、信頼度の低い順に削除せず、例えば、画面内の右から左に削除していくようにしても良い。
【0130】
例えば、拡大された再生画像から赤目補正候補領域の確認を行い削除するような場合、削除対象が離散的に存在している画像に対して信頼度の低い順に削除すると、削除のたびに表示対象(削除対象)が画像全体において右に左にと変わることがある。この場合、画像全体においてどれだけの削除対象が残っているか分かりにくい。そこで、上記のように、例えば、画面内の右から左に削除していくようにすることにより、削除残しを低減できる。
【0131】
なお、撮像装置のデジタル信号処理部は、BPF65の代わりにHPFを備えていてもよい。この場合でも、輝度信号Yなどの入力信号のうち高周波成分を通過させて輪郭強調部66へ供給することができる。
【0132】
本発明の好適な第2実施形態に係る撮像装置について、図16〜図22を参照して説明する。なお、第1実施形態と同様の部分は説明を省略し、第1実施形態と異なる部分を中心に説明する。
【0133】
撮像装置100は、図16に示すように、基本的な構成は第1実施形態と同様であるが、デジタル信号処理部60の代わりにデジタル信号処理部160を備え、入力部5の代わりに入力部105を備える点で、第1実施形態と異なる。具体的には、以下の点が異なる。
【0134】
すなわち、入力部105には、利用者により、画像表示部70が表示した画像(例えば、図21に示す画像GI)及び赤目位置情報(例えば、図21に示す実線斜線の領域)に基づいて、赤目検出閾値TH1の変更命令が入力される。
【0135】
デジタル信号処理部160は、図17に示すように、赤目検出部67の代わりに赤目検出部167を備え、判定部71の代わりに判定部171を備え、赤目補正部69の代わりに赤目補正部169を備える。赤目補正部169は、赤目検出閾値TH1の変更命令を、赤目検出部167及び判定部171を経由して入力部105から受け取る。赤目補正部169は、変更後の赤目検出閾値TH1aを生成し判定部171へ渡す。判定部171は、赤目検出閾値TH1の代わりに変更後の赤目検出閾値TH1aを用いて判定を行う。
【0136】
また、撮像装置が赤目検出を行う処理の流れが、図18及び図19に示すように、次の点で第1実施形態と異なる。なお、図18及び図19において、図3に示す処理と同様の処理は同じ記号で示し説明を省略する。
【0137】
ステップS131(図18、図19で示す(4))では、赤目検出閾値の変更命令を受け付けたか否かが判断される。すなわち、画像表示部70は、赤目位置情報とともに画像を表示する。赤目位置情報及び画像は利用者により閲覧される。
【0138】
例えば、画像表示部70により表示される画像は、図21に示すような画像になる。図21において、実線斜線で示されている部分は、赤目位置情報を示す。図21の場合、赤目検出に成功していると判定部171が判定する場合における赤目補正候補領域R1,R2,R3,R4に対して、赤目位置情報が表示されている。ここで、赤目補正候補領域R1,R2,R3は、適切に判定されている。赤目補正候補領域R4は、誤判定されている。赤目位置情報とともに赤目補正候補領域R4が表示されていることを閲覧した利用者は、厳しめに設定するように赤目検出閾値TH1の変更命令を入力する。
【0139】
このように、例えば、赤目補正すべきでない領域が誤判定された場合に、赤目検出閾値TH1を厳しめに設定しなおすように変更命令が入力される。
【0140】
あるいは、例えば、画像表示部70により表示される画像は、図22に示すような画像になる。図22において、実線斜線で示されている部分は、赤目位置情報を示す。図22の場合、赤目検出に成功していると判定部171が判定する場合における赤目補正候補領域R1,R2に対して、赤目位置情報が表示されている。ここで、赤目補正候補領域R1,R2は、適切に判定されている。赤目補正候補領域R3は、本来なら赤目検出されるべき領域であり、誤判定されている。赤目位置情報とともに赤目補正候補領域R4が表示されていることを閲覧した利用者は、緩めに設定するように赤目検出閾値TH1の変更命令を入力する。
【0141】
このように、例えば、赤目補正すべき領域が誤判定された場合に、赤目検出閾値TH1を緩めに設定しなおすように変更命令が入力される。
【0142】
デジタル信号処理部160の入力部105には、赤目検出閾値TH1の変更命令が入力される。赤目補正部169は、赤目検出部167及び判定部171を経由して赤目検出閾値TH1の変更命令を入力部105から受け取る。赤目補正部169は、赤目検出閾値TH1の変更命令を受け取った場合、赤目検出閾値の変更命令を受け付けたと判断する。赤目補正部169は、赤目検出閾値TH1の変更命令を受け取っていない場合、赤目検出閾値の変更命令を受け付けていないと判断する。
【0143】
赤目検出閾値の変更命令を受け付けたと判断された場合、赤目補正部169により変更後の赤目検出閾値TH1aが生成され判定部171へ渡され、ステップS1(図19、図18で示す(3))へ進められる。赤目検出閾値の変更命令を受け付けていないと判断された場合、処理が終了する。
【0144】
撮影された画像の中において赤目補正すべきでない領域に対して赤目補正されることが低減される点は、第1実施形態と同様である。したがって、このような撮像装置100によっても、例えば赤目補正は適切に行われる。
【0145】
ステップS105では、判定部171が、成功度合い判定処理を行う。具体的には、図20に示すように、成功度合い判定処理は、次の点で第1実施形態と異なる。
【0146】
ステップS155では、判定部171は、変更後の赤目検出閾値TH1aを受け取った場合、赤目検出閾値TH1の代わりに変更後の赤目検出閾値TH1aを用いて判定を行う。この点で、図6のステップS55と異なる。
【0147】
このように、例えば、赤目補正すべきでない領域が誤判定された場合に、赤目検出閾値TH1に代えて、厳しめに設定しなおされた赤目検出閾値TH1aにより赤目検出に成功したか否かが判定されるようになる。これにより、撮影された画像の中において赤目補正すべきでない領域に対して赤目補正されることがさらに低減される。
【0148】
また、例えば、赤目補正すべき領域が誤判定された場合に、赤目検出閾値TH1に代えて、緩めに設定しなおされた赤目検出閾値TH1aにより赤目検出に成功したか否かが判定されるようになる。これにより、撮影された画像の中において赤目補正すべき領域に対して赤目補正されないことも低減される。
【0149】
なお、利用者により撮像装置の入力部に入力されるのは、赤目検出閾値TH1の変更命令である代わりに顔検出閾値TH2の変更命令であってもよい。あるいは、利用者により撮像装置の入力部に入力されるのは、赤目検出閾値TH1の変更命令である代わりに赤目検出閾値TH1及び顔検出閾値TH2の変更命令であってもよい。
【0150】
次に、上述した各実施形態の機能を実現するためのプログラムについて説明する。
【0151】
上述した各実施形態の機能を実現するように各種のデバイスを動作させ、その各種のデバイスと接続された装置あるいはシステム内のコンピュータに対して上述した各実施形態の機能を実現させるソフトウェアのプログラムコード(プログラム)を供給する。
【0152】
そして、そのシステムあるいは装置のコンピュータ(CPUあるいはMPU)に(ソフトウェア的に又はハードウェア的に)格納されたプログラムにしたがって上記の各種のデバイスを動作させるようにしたものも、本発明の範疇に含まれる。
【0153】
また、この場合、上記のソフトウェアのプログラム自体が上述した実施形態の機能を実現することになる。
【0154】
また、そのプログラム自体、及びそのプログラムのプログラムコードをコンピュータに供給するための手段、例えばかかるプログラムを格納した記憶媒体も、本発明の範疇に含まれる。
【0155】
かかるプログラムを記憶する記憶媒体としては、例えば、フロッピー(登録商標)ディスク、ハードディスク、光ディスク、光磁気ディスク、CD−ROM、磁気テープ、不揮発性のメモリカード、ROM等を用いることができる。
【0156】
また、供給されたプログラムをコンピュータが実行することにより、上述の実施形態の機能が実現されるだけではない。
【0157】
例えば、そのプログラムがコンピュータにおいて稼動しているOS(オペレーティングシステム)あるいは他のアプリケーション等と協働して上述の実施形態の機能を実現させる場合にも、かかるプログラムは、本発明の範疇に含まれる。
【0158】
さらに、供給されたプログラムは、コンピュータの機能拡張ボードやコンピュータに接続された機能拡張ユニットに備わるメモリに格納される。
【0159】
そして、そのプログラムの指示に基づいてその機能拡張ボードや機能拡張ユニットに備わるCPU等が実際の処理の一部又は全部を行い、その処理によって上述した実施形態の機能が実現される場合にも、かかるプログラムは、本発明の範疇に含まれる。
【図面の簡単な説明】
【0160】
【図1】本発明の好適な第1実施形態に係る撮像装置の構成図。
【図2】第1実施形態におけるデジタル信号処理部の構成図。
【図3】撮像装置が赤目検出を行う処理の流れを示すフローチャート。
【図4】赤目補正処理を示すフローチャート。
【図5】顔補正処理を示すフローチャート。
【図6】成功度合い判定処理を示すフローチャート。
【図7】成功度合い判定テーブルを示す概念図。
【図8】赤目補正処理を示すフローチャート。
【図9】赤目補正処理を示すフローチャート。
【図10】画像表示部により表示される画面の一例。
【図11】画像表示部により表示される画面の一例。
【図12】撮像装置の背面図の一例。
【図13】撮像装置の背面図の一例。
【図14】撮像装置の背面図の一例。
【図15】撮像装置の背面図の一例。
【図16】本発明の好適な第2実施形態に係る撮像装置の構成図。
【図17】第2実施形態におけるデジタル信号処理部の構成図。
【図18】撮像装置が赤目検出を行う処理の流れを示すフローチャート。
【図19】撮像装置が赤目検出を行う処理の流れを示すフローチャート。
【図20】成功度合い判定処理を示すフローチャート。
【図21】画像表示部により表示される画面の一例。
【図22】画像表示部により表示される画面の一例。
【符号の説明】
【0161】
1,100 撮像装置
5,105 入力部
67,167 赤目検出部
68,168 顔検出部
69,169 赤目補正部
70 画像表示部
71,171 判定部
【特許請求の範囲】
【請求項1】
画像の中から、赤目補正を行う候補となる領域である複数の赤目補正候補領域を検出するとともに、検出された赤目補正候補領域の赤目らしさを示す赤目検出信頼度を各前記赤目補正候補領域に対して生成する赤目検出部と、
少なくとも前記赤目検出信頼度に基づいて、検出することに成功している度合いを各前記赤目補正候補領域に対して判定する判定部と、
前記度合いに基づき、前記複数の赤目補正候補領域において赤目補正の対象から削除すべき候補となる赤目補正候補領域である削除候補を前記画像とともに順次表示する表示部と、
を備えたことを特徴とする撮像装置。
【請求項2】
前記表示部は、前記度合いが低い順番に、前記複数の赤目補正候補領域において赤目補正の対象から削除すべき候補となる赤目補正候補領域である削除候補を前記画像とともに順次表示する
ことを特徴とする請求項1に記載の撮像装置。
【請求項3】
前記削除候補の削除を指定させる命令である削除命令が入力される入力部と、
前記複数の赤目補正候補領域において、前記削除命令で指定された赤目補正候補領域を除く赤目補正候補領域を赤目補正する赤目補正部と、
をさらに備えたことを特徴とする請求項1又は2に記載の撮像装置。
【請求項4】
前記画像の中から被写体の顔として認識された領域である複数の顔候補領域を検出するとともに、検出された顔候補領域の顔らしさを示す顔検出信頼度を各前記顔候補領域に対して生成する顔検出部をさらに備え、
前記判定部は、赤目補正候補領域の前記赤目検出信頼度と、赤目補正領域を含む顔候補領域の前記顔検出信頼度とに基づいて、前記度合いを判定する
請求項1から3のいずれか1項に記載の撮像装置。
【請求項5】
画像の中から、赤目補正を行う候補となる領域である複数の赤目補正候補領域を検出するとともに、検出された赤目補正候補領域の赤目らしさを示す赤目検出信頼度を各前記赤目補正候補領域に対して生成する赤目検出ステップと、
少なくとも前記赤目検出信頼度に基づいて、検出することに成功している度合いを各前記赤目補正候補領域に対して判定する判定ステップと、
前記度合いが低い順番に、前記複数の赤目補正候補領域において赤目補正の対象から削除すべき候補となる赤目補正候補領域である削除候補を前記画像とともに表示する表示ステップと、
を備えたことを特徴とする撮像方法。
【請求項6】
請求項5に記載の撮像方法を撮像装置に行わせる
ことを特徴とする撮像プログラム。
【請求項7】
画像の中から、赤目補正を行う候補となる領域である複数の赤目補正候補領域を検出するとともに、検出された赤目補正候補領域の赤目らしさを示す赤目検出信頼度を各前記赤目補正候補領域に対して生成する赤目検出部と、
少なくとも前記赤目検出信頼度に基づいて、検出することに成功している度合いを各前記赤目補正候補領域に対して判定する判定部と、
前記度合いに基づき、前記複数の赤目補正候補領域において赤目補正の対象から削除すべき候補となる赤目補正候補領域である削除候補を前記画像とともに順次表示する表示部と、
を備えたことを特徴とする画像処理装置。
【請求項1】
画像の中から、赤目補正を行う候補となる領域である複数の赤目補正候補領域を検出するとともに、検出された赤目補正候補領域の赤目らしさを示す赤目検出信頼度を各前記赤目補正候補領域に対して生成する赤目検出部と、
少なくとも前記赤目検出信頼度に基づいて、検出することに成功している度合いを各前記赤目補正候補領域に対して判定する判定部と、
前記度合いに基づき、前記複数の赤目補正候補領域において赤目補正の対象から削除すべき候補となる赤目補正候補領域である削除候補を前記画像とともに順次表示する表示部と、
を備えたことを特徴とする撮像装置。
【請求項2】
前記表示部は、前記度合いが低い順番に、前記複数の赤目補正候補領域において赤目補正の対象から削除すべき候補となる赤目補正候補領域である削除候補を前記画像とともに順次表示する
ことを特徴とする請求項1に記載の撮像装置。
【請求項3】
前記削除候補の削除を指定させる命令である削除命令が入力される入力部と、
前記複数の赤目補正候補領域において、前記削除命令で指定された赤目補正候補領域を除く赤目補正候補領域を赤目補正する赤目補正部と、
をさらに備えたことを特徴とする請求項1又は2に記載の撮像装置。
【請求項4】
前記画像の中から被写体の顔として認識された領域である複数の顔候補領域を検出するとともに、検出された顔候補領域の顔らしさを示す顔検出信頼度を各前記顔候補領域に対して生成する顔検出部をさらに備え、
前記判定部は、赤目補正候補領域の前記赤目検出信頼度と、赤目補正領域を含む顔候補領域の前記顔検出信頼度とに基づいて、前記度合いを判定する
請求項1から3のいずれか1項に記載の撮像装置。
【請求項5】
画像の中から、赤目補正を行う候補となる領域である複数の赤目補正候補領域を検出するとともに、検出された赤目補正候補領域の赤目らしさを示す赤目検出信頼度を各前記赤目補正候補領域に対して生成する赤目検出ステップと、
少なくとも前記赤目検出信頼度に基づいて、検出することに成功している度合いを各前記赤目補正候補領域に対して判定する判定ステップと、
前記度合いが低い順番に、前記複数の赤目補正候補領域において赤目補正の対象から削除すべき候補となる赤目補正候補領域である削除候補を前記画像とともに表示する表示ステップと、
を備えたことを特徴とする撮像方法。
【請求項6】
請求項5に記載の撮像方法を撮像装置に行わせる
ことを特徴とする撮像プログラム。
【請求項7】
画像の中から、赤目補正を行う候補となる領域である複数の赤目補正候補領域を検出するとともに、検出された赤目補正候補領域の赤目らしさを示す赤目検出信頼度を各前記赤目補正候補領域に対して生成する赤目検出部と、
少なくとも前記赤目検出信頼度に基づいて、検出することに成功している度合いを各前記赤目補正候補領域に対して判定する判定部と、
前記度合いに基づき、前記複数の赤目補正候補領域において赤目補正の対象から削除すべき候補となる赤目補正候補領域である削除候補を前記画像とともに順次表示する表示部と、
を備えたことを特徴とする画像処理装置。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【図18】
【図19】
【図20】
【図21】
【図22】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【図18】
【図19】
【図20】
【図21】
【図22】
【公開番号】特開2008−22502(P2008−22502A)
【公開日】平成20年1月31日(2008.1.31)
【国際特許分類】
【出願番号】特願2006−194888(P2006−194888)
【出願日】平成18年7月14日(2006.7.14)
【出願人】(000001007)キヤノン株式会社 (59,756)
【Fターム(参考)】
【公開日】平成20年1月31日(2008.1.31)
【国際特許分類】
【出願日】平成18年7月14日(2006.7.14)
【出願人】(000001007)キヤノン株式会社 (59,756)
【Fターム(参考)】
[ Back to top ]