説明

画像処理装置およびカメラ

【課題】自然で、かつ現実より生き生きとした画像を得ることのできる画像処理装置およびカメラを提供する。
【解決手段】被写体画像の顔画像41と類似度の高いテンプレート43を検索し、類似度の高いテンプレート1と対になっている加齢時のテンプレート44と顔画像41とを比較する。比較の結果、テンプレート43よりテンプレート44の方が、類似度が高い場合には、顔の部位ごとに加齢判定を行い、顔画像41について生き生きとした画像となるように、顔画像の補正を行う。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、画像処理装置およびカメラに関し、詳しくは、顔画像を現実より生き生きとした画像となるように処理する画像処理装置およびカメラに関する。
【背景技術】
【0002】
最近では、インターネット上で仮想現実空間を形成し、これを提供するサービスが表れてきている。また、画像投稿サイトにも写真に限らず、アニメーションやコンピュータグラフィック(CG)等が投稿され、また閲覧されるようになってきている。このようなサイトの利用者にとっては、仮想現実空間や投稿サイトにおいて楽しむことが目的であり、正確に現実を表しているかどうかは重要ではない。また、最近では、アバターといった、仮想の自分を仮想空間に登場させることも生じてきている。
【0003】
このような仮想空間等に自らを登場させる場合には、現実より生き生きとした自己の画像が望まれる。そこで、従来から、年齢等を考慮する技術が種々、開示されている。例えば、特許文献1には、性別や年齢によって顔画像を補正する撮像装置が開示されている。すなわち、この撮像装置では、性別や年齢によって最適な補正は異なることから、顔検出手段によって検出された情報に基づいて画像処理を施している。また、特許文献2には、顔の画像を取り込み、画像の物理量を測定し、これから加齢変化パターンより加齢変化推定画像を作成する加齢パターンの鑑別方法が開示されている。
【0004】
【特許文献1】特開2006−148326号公報
【特許文献2】特開2001−331791号公報
【発明の開示】
【発明が解決しようとする課題】
【0005】
特許文献1に開示された撮像装置では、顔の画像を肌の色等に基づいて分類し、それぞれの分類に応じて一律に画質を変更するようにしているだけなので、不自然な補正となる場合があり、また顔の個々の特徴部に応じて生き生きとした表情となるように画像処理を行なうものではない。また、特許文献2に開示された鑑別方法では、加齢変化推定画像を作成するだけで、顔の表情の変化に対応しておらず、また顔の画像を生き生きとした画像に処理するものではない。すなわち、これらの特許文献では、顔の個々の特徴部毎に生き生きとした顔となるような画像処理を施すことができない。
【0006】
本願発明は、このような事情を鑑みてなされたものであり、自然で、かつ現実より生き生きとした画像を得ることのできる画像処理装置およびカメラを提供することを目的とする。
【課題を解決するための手段】
【0007】
上記目的を達成するため第1の発明に係わる画像処理装置は、顔画像を検出する顔画像検出部と、この顔画像検出部により検出した顔画像の中で加齢を示す特徴部位を検出する加齢特徴検出部と、この加齢特徴検出部にて検出した特徴部位に対して上記加齢を示す特徴を除くための画像処理を行なう画像処理部を備える。
【0008】
第2の発明に係わる画像処理装置は、上記第1の発明において、上記加齢特徴検出部は、上記顔画像の中の目、口、頬のうち少なくとも一つの部分画像の加齢を示す特徴部位を検出する。
また、第3の発明に係わる画像処理装置は、上記第1の発明において、上記画像処理装置はカメラに適用されたものであり、上記カメラによって撮影した顔画像に対して上記加齢を示す特徴を除くための画像処理を行なう。
さらに、第4の発明に係わる画像処理装置は、上記第1の発明において、上記画像処理によって、上記画像処理がなされたことを示す補正情報を上記画像に添付する。
【0009】
上記目的を達成するため第5の発明に係わる画像処理方法は、顔画像を検出する顔画像検出ステップと、この顔画像検出により検出した顔画像の中で加齢を示す特徴部位を検出する加齢特徴検出ステップと、この加齢特徴検出ステップにて検出した特徴部位に対して上記加齢を示す特徴を除くための画像処理を行なう画像処理ステップを備える。
【0010】
上記目的を達成するため第6の発明に係わる画像処理装置は、被写体像の画像データから顔を検出する顔検出部と、この顔検出部によって検出された顔画像の部位から加齢サインを検出する加齢検出部と、この加齢検出部によって加齢サインを検出した場合には、上記顔画像を補正する補正部を具備する。
【0011】
第7の発明に係わる画像処理装置は、上記第6の発明において、上記加齢検出部は、上記顔画像と一致度が大の類似するテンプレートまたは画像を検出する類似画像検出部と、この類似画像検出部によって検出された類似テンプレートまたは画像と組の加齢前テンプレートまたは画像とから加齢部位を検出する加齢部位検出部を有する。
また、第8の発明に係わる画像処理装置は、上記第6の発明において、上記補正部は、目尻、唇の端、および頬の輪郭部の少なくとも一つを含む領域の明るさを均一化する。
さらに、第9の発明に係わる画像処理装置は、上記第6の発明において、上記補正部は、コントラストまたは線を太く補正する。
さらに、第10発明に係わる画像処理装置は、上記第6の発明において、上記加齢検出部は、加齢前と加齢時の画像またはテンプレートの組み合わせを有している。
【0012】
上記目的を達成するため第11の発明に係わるカメラは、被写体像を形成するための撮影レンズと、上記被写体像を光電変換し画像データを取得するための撮像素子と、上記画像データから顔画像について加齢時の画像またはテンプレートと類似度が高い場合には、加齢部位について、上記顔画像を補正する補正部と、この補正部によって補正された上記画像を表示する表示部と、この表示部で表示された上記画像を記録する記録部を具備する。
【発明の効果】
【0013】
本発明によれば、自然で、かつ現実より生き生きとした画像を得ることのできる画像処理装置およびカメラを提供することができる。
【発明を実施するための最良の形態】
【0014】
以下、図面に従って本発明を適用したカメラを用いて好ましい実施形態について説明する。本実施形態に係るカメラは、被写体像を撮像素子で光電変換し、取得した画像データを記録媒体に記録可能となっている。このカメラには顔と加齢時の顔のパターンを記憶したデータベースを有し、取得画像データの顔画像が加齢時であると判定された場合には、加齢の特徴が表れている部位に対して画像処理を施した上で、記録媒体に画像データを記録するようにしている。
【0015】
図1は、本発明の一実施形態に係わるデジタルカメラとその周辺のブロック図である。ユーザーが使用するカメラ100には、撮影レンズ2、AF(オートフォーカス)制御部2a、絞り2b、絞り制御部2c、撮像素子3、アナログフロントエンド(以下、AFEと略す)部4が設けられている。撮影レンズ2は、内部にフォーカスレンズを有し、入射した被写体20の像を撮像素子3上に結像させる。
【0016】
AF制御部2aは、撮影レンズ2の合焦位置を、後述する画像処理部5内において画像処理を行い、いわゆる山登り法により検出し、フォーカスレンズを駆動して、合焦位置に移動させる。なお、山登り法は、撮影画像のコントラスト信号ピークから合焦位置(ピント位置)を検出する方式であるが、山登り法以外にも、例えば位相差法や三角測距法等公知の合焦方法に置き換えてもよい。AFによって合焦位置に達すると、このときの撮影レンズ2を検出することにより、距離判定を行うことができる。この場合、撮影レンズ2がズームレンズのときには、ズーム位置等を加味して距離の判定を行う。
【0017】
撮影レンズ2内または近傍に、シャッタや絞りの効果を奏する絞り2bが設けられる。絞り2bは、撮影時に所定の口径まで開き、露出が終了すると閉じて露光を終了させるものである。絞り制御部2cは、絞り2bを駆動して絞り径を設定する。この絞りを変えることによって、レンズの被写界深度が変化するので、背景のぼけ具合などを調整して、被写体を浮かび上がらせたり、背景をしっかりと描写したりするなど、表現の切り替えを行うことができる。撮像素子3は、多数の受光面(画素)からなるCCDやCMOSセンサ等であり、撮影レンズ2を介して被写体20からの像を受光しこれを画像信号に変換する。
【0018】
アナログフロントエンド(AFE)部4は、アナログデジタル変換(AD)手段を含み、撮像素子3からの信号をデジタル信号化する。そして、AFE部4は、撮像素子3から出力される画像信号について各種処理を行う。また、AFE部4には、撮像素子3のいくつかの画素をまとめて、一括して読み出す機能も設けられている。たとえば、4画素(2×2)や9画素(3×3)など、各画素の信号レベルが小さいときには、いくつかの画素信号を加算して、S/Nを向上させることができ、また、感度を上げることも出来る。
【0019】
このような操作によって感度を上げることができ、シャッタスピードを速くする等、撮影上の工夫が可能となる。シャッタスピードが速いと、動いている被写体が止まっているように撮影することが可能となる。
【0020】
また、AFE部4は、撮像素子3の出力する信号を取捨選択する機能を有し、受光範囲の中から限られた範囲の画像データを抽出することが出来る。一般に撮像素子3の画素から間引いた画素信号を抽出する場合には、高速読出が可能となる。これにより構図確認用の画像信号を、画像処理部5によって高速処理し、表示制御部8aを介して表示パネル8に表示することにより、フレーミングが可能となる。
【0021】
AFE部4の出力は、画像処理部5に接続されている。画像処理部5は、入力信号の色や階調やシャープネスを補正処理する。また、撮像素子3から得られた画像信号を所定のレベルに増幅して、正しい濃淡、正しい灰色レベルに設定する増感部を有している。これは、デジタル化された信号レベルが、所定レベルになるようにデジタル演算するものである。また、画像処理部5は、ライブ画像をリアルタイムに表示部に表示できるように、撮像素子3からの信号を表示パネル8に表示できるようなサイズに加工するリサイズ部を有する。この働きによって、撮影に先立って撮像素子に入射する像を確認でき、これを見ながら撮影時のタイミングやシャッタチャンスを決定することが出来る。
【0022】
また、この画像処理部5の信号を利用して、撮像素子から入力されてくる画像の特徴などを判定する画像判定機能を有している。この画像判定機能としては、画像情報を加工して得られる輪郭情報から人の顔を判定する顔検出部5a、顔の画像のうち目や口などの部位を検出する顔部分判定部5d、画像の信号レベルのコントラストを判定して、被写体の距離を判定する距離判定部5cなどが、このシステムには含まれている。
【0023】
また、画像処理部5内には、修正部5bが設けられている。この修正部5dは、顔画像の特徴から、その顔つきが年を取ったように活力を感じないときに、顔つきを、いきいきとしたものに見えるように補正する。顔つきが、生き生きとしているかどうかは、図2以下において後述するが、顔修正にあたっては、顔&加齢データベース9dに記憶されている加齢情報を用いる。このデータベースは、同じ顔に対して若い頃の顔と年を取ったときの顔のパターンを記憶している。図2で使うテンプレート情報もここに記録しておく。これらは、写真撮影時に、ユーザーがどのような写真を撮ろうとしているかを判定して、撮影制御を最適化するために用いられるものである。
【0024】
また、カメラ100には、圧縮部6、記録部9a、記録メディア9、送受信部9c、顔&加齢データベース9d、送信設定部9e、表示パネル8、表示制御部8a及びマルチ画像処理部8bが設けられている。圧縮部6は、撮影時に画像処理部5から出力された信号を圧縮する。圧縮部6内には、MPEG(Moving Picture Experts Group)4やH.264などの圧縮用コア部で構成される動画用の圧縮部及び JPEG(Joint
Photographic Experts Group)コア部など静止画像用の圧縮部が設けられる。また、圧縮部6は記録メディア9に記録されている画像を表示パネル8に再生する際には、画像伸張も行なう。
【0025】
記録部9aは、圧縮された画像信号を記録メディア9に記録する。記録メディア9はカメラに着脱可能な保存用の記録媒体である。なお、画像信号の記録にあたっては、写真撮影した時の時間情報も併せて記録しても良い。撮影時間情報は、後述するMPU1内の時計部1tによって計測されており、MPU1は画像と関連付を行なう。
【0026】
メディア9や記録部9aに記録された撮影画像データは、送受信部9cによって、インターネットや電話回線などの通信回線32経由で、画像を管理するサーバー33等の他の機器に転送することができる。また、送受信部9cは送信設定部9eと接続されており、この送信設定部9eは画像を送信する場合等の送信先を指定する指定部である。
【0027】
表示パネル8は、例えば液晶や有機EL等から構成され、撮影時には観察用に被写体画像をスルー画表示(ライブビュー表示とも言う)し、再生時には伸張処理された記録画像を再生表示する。また、この表示パネル8は、後述する加齢サインがあった部位に対して、修正部5bによって画像処理を施した画像を表示する。
【0028】
表示制御部8aは、表示パネル8への表示を制御する。マルチ画像処理部8bは、表示パネル8上に、複数の画像を表示する場合の制御部である。このマルチ画像処理部8bによって、撮影した画像や撮影する画像の上に、送信先のアドレスの文字表示や種々の警告表示をすることが可能である。なお、表示パネル8には、撮影して送信済み画像を一覧表示して、そこからサーバー33が運営するブログサービスなどにアップする画像や、アップして、ブログに表示する時のレイアウトを選択できるようにしてもよい。
【0029】
カメラ100には、補助光発光部11、MPU(Micro Processing Unit)1、レリーズスイッチ1a、モード切替スイッチ1b、他のスイッチ1cが設けられる。補助光発光部11は、白色LEDやXe放電発光管を有し、電流量で光量が制御できるようになっている。状況に応じて被写体20に光を照射して、明るさの不足や不均一な明るさを防止する。
【0030】
MPU1は、カメラ全体の制御を司る制御手段である。レリーズスイッチ1a、モード切替スイッチ1b、他のスイッチ1cおよびプログラム等を記憶したROM(不図示)が、MPU1に接続される。MPU1内には、日や時刻を検出するための時計部1tが設けられており、写真の撮影日時を検出し、撮影画像と関連付けを行う。なお、スイッチ1b、1cは、スイッチを総称的に表示したものであって、実際には多数のスイッチ群から構成されている。
【0031】
各スイッチ1a〜1cは、ユーザーの操作を検出して、その結果をマイクロコントローラからなる演算制御手段であるMPU1に通知する。MPU1が、これらのスイッチの操作に従って動作を切り換える。また、MPU1は撮影時には、AF制御部2aや絞り制御部2c等の制御を行う撮影制御機能や取得画像データの記録部9aや記録メディア9への記録制御機能を果たす。さらに、加齢時に生き生きとした画像となるように画像処理部5等に画像処理を実行させる際の制御機能も果たす。
【0032】
このカメラ100においては、前述の送受信部9cを利用すれば、所定のネットサービスにアクセスすることができる。これらのサービスの中には、仮想空間をCGで構成して提供するものもあり、ユーザーは、この仮想空間内の仮想の土地に、建物のグラフィックを作成し、あたかも都市のような景観を呈しているものがある。このようなサービスは、あくまで仮想の世界であるが、最新の3D技術によって、その中を歩いていくような感覚が得られ、あたかも現実の世界のような体験が得られる。現実の世界で、生き生きとした顔とは、若々しい顔であることが多いが、こうした空間で好まれる顔つきもあり、このコミュニティに相応しい顔になるように顔&加齢データベース9dに顔の画像を記録させるようにしてもよい。
【0033】
次に、図2に示すフローチャートを用いて、顔が生き生きとしているか否か、すなわち加齢サインを判定する方法について説明する。このフローチャートは、画像処理部5が実行する。ここでの判定の仕方は以下の通りである。図3における人物の顔画像41に対しては、陰影パターンのテンプレート(テンプレート1)44より、陰影パターンのテンプレート(テンプレート1)43の方が、一致度が高い。また、顔画像42の場合には、テンプレート44の方が、テンプレート43より一致度が高くなる。このような特性を利用して、顔の生き生きした感じとそうでない感じを、年を取ったように見えるかどうかという観点から判定している。
【0034】
つまり、顔画像41の人物が年齢を取った時にどうなるかといったデータから、若い人の顔に近い陰影パターン(テンプレート1)43と、その人が年齢を取った(加齢する)場合の陰影パターン(テンプレート2)44をペアで持たせ、これらを用いて、被写体の顔の画像に年齢を取って見えるパターン(サイン)がないかを検出している。
【0035】
加齢サイン判定のフローに入ると、まず若い人の顔のテンプレート1(テンプレート43)と顔の画像を比較する(S51)。続いて、比較結果が一致したか否かの判定を行なう(S52)。判定の結果、一致しない場合には、テンプレート1を画像内で位置を変更し、両者を比較する(S53)。次に、全ての位置変更を行なったかを判定し(S54)、終了していない場合には、ステップS52に戻り、比較結果が一致したかを判定する。すなわち、ステップS52〜S54を繰り返し実行することにより、テンプレート43の位置を変えながら一致する場所がないかを判定する。
【0036】
ステップS54における判定の結果、位置変更について終了すると、次に、テンプレート1の大きさと向きを変更し、顔画像とこのテンプレート1を比較する(S55)。これは、必ずしも、画面内の顔の大きさは一定ではないので、画面内の位置を変えながらくまなく判定する。また、前向きの顔だけではないので、横向き等、顔の向きを変えながら判定する。続いて、全ての大きさ・向きの変更を行なったかを判定し(S56)、終了していない場合には、ステップS52に戻り、比較結果が一致するか否かを判定する。すなわち、テンプレート1の大きさと向きを変えて、画面内で一致度の高い部分を探す。
【0037】
ステップS56における判定の結果、大きさ・向きの変更が全て終わると、次に、テンプレート1の変更を行なう(S57)。図3においては、テンプレート1としては、1つの顔画像41に対応するテンプレート43しか示していないが、本実施形態においては、複数の顔画像に対応するテンプレート1が用意してある。続いて、全てのテンプレート1について変更を行なったかを判定し(S58)、終了していない場合には、ステップS52に戻り、比較結果が一致するか否かを判定する。すなわち、テンプレート1を代えながら、画面内で一致度の高い部分を探す。
【0038】
ステップS59の判定の結果、終了した場合には、画像の中には顔画像が存在しないとして、顔なし判定を行なう(S59)。以上の一連のステップを実行するにあたって、前述した距離判定部5cにおける距離判定結果から、顔の大きさをあらかじめ推測して行うと、判定の効率を向上させることができる。画面内の顔の大きさは、距離が近いほど大きく、また撮影レンズが望遠側にズーミングされても大きくなるので、ズーミング情報も加味する。
【0039】
ステップS52において、顔画像と一致度の高いテンプレート1を検出すると、次に、顔部分の検出を行なう(S61)。すなわち、顔部分のみの画像を抽出する。続いて、ステップS52で検出されたテンプレート1に対応するテンプレート2を用意する(S62)。前述したように顔&加齢データベース9dには、若い人の顔に対応するテンプレート1と、この若い人が年とった時の顔に対応するテンプレート2(テンプレート1の加齢バージョン)がペアで記憶されている。
【0040】
テンプレート2が用意できると、次に、ステップS61で抽出した顔部分とテンプレート2の一致度を比較する(S63)。そして、この一致度が、テンプレート1の場合の一致度よりも、さらに大であるかを判定する(S64)。判定の結果、一致度が高くない場合、すなわち、顔画像は年とった人の画像ではなく、画像処理の必要性がないことから、そのまま元のフローに戻る。
【0041】
ステップS64における判定の結果、一致度が更に高かった場合には、加齢判定を行なう(S65)。続いて、目、口、頬等、年齢をとって見える部位を検出し、この部位に加齢サインをたてる。このような部位の判断まで含め、加齢サイン判定と呼ぶ。なお、本実施形態においては、顔&加齢データベース9dの容量を減らし、かつ高速処理するためにテンプレート1およびテンプレート2を記憶していたが、大容量メモリがあり、また高速処理できるならば、画像41、42を記憶し、類似度を検索するようにしても、勿論構わない。
【0042】
次に、加齢サイン判定のされた部位についての補正について、図4及び図5を用いて説明する。図5(a)に加齢サインの例を示す。特に、目立つのは、目尻の皺、たるみ、唇の横の線、頬のたるみなどである。この加齢サインのある部位を、図5(b)→図5(c)に示すように、薄くしていくと、顔つきは生き生きとしてくる。図4のフローでは、頬の周囲付近の範囲46の明るさを均一化する。均一化にあたっては、範囲46内の一番明るい部分、または、面積的に大きい部分の明るさに合わせる。ただし、眼鏡を掛けている人に対して、この処理を行なうと、眼鏡の縁が不自然になるので、その場合には画像の修正処理は行なわない。眼鏡をかけている人でも、表情を気にする人は、眼鏡を外して写真撮影に臨むので、大きな不都合はない。
【0043】
このような画像処理について図4に示すフローチャートを用いて説明する。まず、顔検出を行なう(S21)。これは、撮像素子3の出力に基づいて、顔検出部5aによって検出する。続いて、眼、口、頬などの顔部分検出を行なう(S22)。これは、顔部分判定部5dによって検出する。ここで検出された顔部分を用いて、眼鏡の有無を判定する(S23)。この判定は、眼の周りにコントラストの高い部分があれば眼鏡をしていると判定する。
【0044】
ステップS23での判定の結果、眼鏡をかけている場合には、このまま画像の補正を行なうと不自然な画像となるので、そのまま元のフローに戻る。一方、判定の結果、眼鏡を掛けていない場合には、図2に示した加齢サイン判定のサブルーチンを実行する(S24)。続いて、加齢サインの有無について判定する(S25)。加齢サインが有る場合には、ステップS66(図2)において、設定されている。
【0045】
ステップS25における判定の結果、加齢サインが無い場合には、顔画像は若い人であり、特段、画像の修正が必要ないことから、元のフローに戻る。一方、加齢サインが有る場合には、目尻、唇の端、頬の輪郭部を含む領域の明るさの均一化を行う(S26)。すなわち、目尻47、唇の端48、頬の輪郭部49を含む領域を、回りから不自然にならないように連続的に、かつ、均一になるように明るさを調整する。この領域を明るくすることによって、図5(c)に示すように、若々しい顔つきに補正することができる。
【0046】
続いて、修正された画像を、表示パネル8に表示すると共に、このときの補正情報データを変更する(S27)。ユーザーが表示パネル8を見て、修正状態がOKであるか否かの判定を行なう(S28)。なお、ユーザーはOKの場合には、カメラ100のOK釦等の操作スイッチを操作する。一方、ユーザーとしては修正に不満の場合には、ステップS26に戻り、もう少し明るさをUPする。
【0047】
なお、ステップS27において補正情報データの変更を行っているのは、画像の修正・補正を行ったときには、補正なしの画像と区別するための補正情報データを作成し、または変更するためである。この図4のフローによれば、影の具合や照明と顔の角度によっても、年を取ったような顔つきになることがあるが、本来の顔つきとなるように修正することができる。
【0048】
次に、前述した顔つき補正機能を有するカメラ100の動作を、図6に示すフローチャートを用いて説明する。まず、撮影を行う撮影モードで設定されているか否かの判定を行なう(S1)。判定の結果、撮影モードにユーザーが切り換えていれば、スルー画表示を行なう(S2)。スルー画表示は、撮像素子3の出力に基づいて、被写体像観察用に表示パネル8への動画表示である。
【0049】
次に、顔つき補正を行うか否かの判定を行なう(S3)。ユーザーはスルー画表示をみて、顔つき補正を行う場合には、顔つき補正のための操作スイッチを操作するので、その操作状態を判定する。判定の結果、顔つき補正を行う場合には、ステップ11に進み、図4において説明した顔つき補正のサブルーチンを実行し、画像の修正処理を行なう。
【0050】
次に、撮影を行うか否かの判定を行なう(S4)。ステップS11において、良好な修正結果が得られれば、それをそのまま撮影すればよい。判定の結果、撮影ではない場合には、ステップS1に戻り、前述の動作を繰り返す。一方、判定の結果、撮影の場合には、撮影動作に移る。顔つき補正を行っている場合には、その画像修正された表示画像を保持し、顔つき補正を行わない場合には、撮像素子3の出力を取り込み、画像データを生成する。
【0051】
ステップS5の撮影が終わると、続いて、顔つき補正に関する補正情報の有無を判定する(S6)。判定の結果、補正情報が有る場合には、補正を行った旨の補正情報を確保する。次に、画像データ、補正情報等の画像データに添付する関連データを記録メディア9に記録し、リターンする。
【0052】
ステップS1における判定の結果、撮影モードでない場合には、再生モードであることから、画像の再生表示を行なう(S12)。画像の再生表示は、記録メディア9等に記録されている画像を再生し、表示パネル8に表示を行なう。続いて、通信を行なうか否かの判定を行なう(S13)。ユーザーが再生表示を行なっている画像を外部のサーバー33等に送信したい場合には、送信モードに設定するので、このステップでは、送信設定がなされているか否かを判定する。
【0053】
ステップS13における判定の結果、通信モードに設定されている場合には、続いて、その選択画像を送信する送信先(サーバー33等を指定する(S14)。そして、例えば、ホットスポット等で、インターネット等の通信回線32に接続し、選択画像の送信制御を行う(S15)。
【0054】
ステップS13における判定の結果、通信モードではない場合には、次に、選択されている再生画像について、顔つき補正を行うか否かの判定を行なう(S16)。判定の結果、補正を行わない場合にはリターンし、一方、補正を行う場合には、図4に示した顔つき補正のサブルーチンを実行する(S17)。
【0055】
続いて、補正された画像について、記録メディア9等に記録するか否かの判定を行なう(S18)。判定の結果、記録しない場合には、そのままリターンし、一方、記録する場合には、修正画像と補正情報を記録メディア9等に記録する(S19)。ここで、顔つき補正を行なった旨を示す補正情報を記録しているのは、被写体がネット上で自分の画像が気に入らない場合に、それが補正画像であるかどうかを確認するためである。
【0056】
以上説明したように、本発明の第1実施形態によれば、画像の顔の部分を抽出し、この顔の画像と、予めデータベース化してあるテンプレート1を比較し、一致するテンプレート1とペアで記憶されている加齢時のテンプレート2を比較し、テンプレート2の方が一致度が高い場合には、画像の修正・補正を行なうようにしている。このため、個々の画像に応じて、若々しく生き生きとした画像に補正することが容易に行なえる。また、顔の目や口等の特徴部位ごとに加齢サインがあるか否かの判定を行なっているので、個々の画像に適した補正を行うことができ、また補正が不自然となることはない。
【0057】
また、本実施形態においては、画像の修正を行なった場合には、修正を行なった旨を補正情報として画像に添付して記録するようにしている。このため、後日、補正をおこなったかどうかを簡単に確認できる。また、ネット上で公開した場合に、第三者も容易に確認することができる。なお、プライバシーを保護するために、本人または特定の者だけが閲覧できるように、パスワード等による秘密管理を行なってもよい。
【0058】
次に、本発明の第2実施形態について、図7及び図8を用いて説明する。第1実施形態における顔つき補正は、眼鏡をかけている場合には、画像修正を行なっていなかったが、この第2実施形態においては、眼鏡を掛けている人に対しても補正を行えるようにしている。第1実施形態とは、図4および図5を図7及び図8に置き換える他は同様であるので、相違点を中心に説明する。
【0059】
第2実施形態においては、眼鏡をかけている人でも補正ができるように、特定部位を強調したり、弱めたりして顔つきを補正している。図8(a)、(b)、(c)に示すように、眼の横51と口の横52は加齢サインの生じやすいところなので、この部分のコントラストは明るいほうに寄せて弱めて、眼の上53や頬のライン54はあいまいにするために、線を太くする。影になっていれば、それを太くするような処理を行う。
【0060】
図7に示す顔つき補正のフローチャートに入ると、まず、ステップS21と同様に、顔検出を行なう(S31)。続いて、ステップS22(図2のS51〜S61に相当)と同様に、眼、口、頬等の顔部分検出を行なう(S32)。そして、ステップS24(図2のS62以降に相当)と同様に、加齢サイン判定を行なう(S33)。このあと、加齢サイン判定に基づいて、加齢サインの有無を判定する(S34)。判定の結果、加齢サインが無い場合には、若々しく生き生きとした顔画像なので、修正・補正の必要がないことから、そのまま元のフローに戻る。
【0061】
一方、判定の結果、加齢サインがある場合には、加齢サインのある部位(例えば、眼の横、口の横)に対して、陰影部のコントラストを(例えば)半分にし(S35)、瞳の上や頬の輪郭部の陰影は太めにする(S36)。ステップS35およびS36における画像修正・補正結果を表示パネル8に表示する(S37)。続いて、ユーザーが表示パネル8を見て、画像の補正がOKであれば、OK釦等の操作を行なうので、これを判定する(S38)。判定の結果、OKではない場合には、ステップS35に戻り、再度、ステップS35、S36において、補正を強調する。これを繰り返すことにより、ユーザーは好みの補正画像を選ぶことができる。
【0062】
このように、本発明の第2実施形態においては、加齢サインのある部位に対して、コントラストや影を補正することによって、顔画像を若々しくまた生き生きとした画像にすることができる。本実施形態においては、眼鏡をかけた人でも自然な補正を行なうことができる。
【0063】
次に、本発明の第3実施形態について、図9および図10を用いて説明する。前述した第1実施形態および第2実施形態は、カメラ100において顔つき補正を行うスタンドアロンタイプであった。第3実施形態は、カメラ100ですべてを行うのではなく、データベースのような大きなメモリ容量を要する部位は、カメラ100の外部のサーバー等が分担するシステムとなっている。ネット上で見る写真を前提とすれば、この顔つき補正は、ネット上で行ってもよい。この第3実施形態においては、カメラ100内の顔&加齢データベース9dを省略することができる。
【0064】
この第3実施形態の構成は、図9に示すように、サーバー33内に、顔つき補正のための機能部が設けてある。顔データベース33aは種々の顔の加齢パターンが記憶されている。この加齢パターンは、図10には模式的に描かれており、顔パターンa、b、c・・・に対して、若い時期の顔(列1参照)、中年期の顔(列2参照)、老年期の顔(列3参照)が、記憶されている。受信部33cはカメラ100からの送信画像35を受信する。この受信部33cは記録部33dに接続されており、この記録部33dは、受信した送信画像35の記録を行う。
【0065】
また、受信部33cは比較部33fとも接続されており、この比較部33fは顔データベース33aに記憶されている顔パターンと送信画像35との比較を行なう。比較部33fは修正部33eと接続しており、比較部33fによる比較結果と顔データベース33aに記憶されている顔パターンを用いて、送信画像の修正・補正を行い、補正画像データ35bを生成する。
【0066】
すなわち、比較部33fで類似画像を検出すると、その類似画像に、加齢前画像があれば、それを参照し、差異がある部分を修正部33eによって補正する。この補正にあたって、送信画像35が列3の老年期の画像である場合には、列2の中年期の画像レベルとなるように補正し、また送信画像が列2の場合には列1のレベルで補正する。但し、ユーザーの好みで更に若くなるように修正補正しても良い。修正・補正は図4および図8のいずれの補正でも良い。
【0067】
修正部33eは送信部33bと接続されており、送信部33bは、補正画像データ35を所定のブログやHPなどで見られるように送信する。また、補正画像データ33bをカメラ100に対して送信しても良い。
【0068】
次に、このようなシステムの撮影制御について、図10のフローチャートを用いて説明する。ここでは、カメラ100とネット上のサーバー33が連携しているので、一つのフローチャートに示しているが、前半はカメラ100、後半はネット上のサーバー33が制御を司る。
【0069】
撮影制御のフローに入ると、カメラ100のレリーズ釦1aが操作されたかを判定する(S81)。判定の結果、レリーズ釦1aが操作された場合には、撮影を行う(S82)。これによって、撮像素子3の出力に基づく画像データの取得と記録がなされる。次に、取得した画像データを送受信部9cから、サーバー33の受信部33cに送信画像35として送信する(S83)。以上がカメラ100内における動作である。
【0070】
続いて、サーバー33内における動作となる。まず、送信画像35を受信したサーバー33は、送信画像のうち、顔の画像部分を利用して、顔データベース33aによって類似画像の検索を開始する(S91)。続いて、検索の結果、加齢前画像が有るかを判定する(S92)。判定の結果、加齢前の類似画像が有る場合には、加齢前との差を判定し、顔画像の修正・補正を行う(S93)。例えば、データベース検索の結果、類似画像55(図9)が見つかった場合に、その加齢前画像56があれば、送信画像35と加齢前画像56との差異を求め、差がある部位について差がなくなるように補正を行う。この補正された画像はネット等を通じて、カメラ100に送信され、表示パネル8に表示される。
【0071】
補正が終わると、続いて、ユーザーが補正を満足したかを判定し、すなわち、OKの場合には、第1実施形態と同様にOK釦等の操作がなされ、サーバー33にその旨が通知されるので、この通知を判定する。判定の結果、OKではない場合には、ステップS91に戻り、さらに若々しく生き生きと見えるように画像を補正する。こうして、順次、若く見えるように補正しており、不自然になる前でこの補正を止めれば、自然な、生き生きとした顔画像が得られる。
【0072】
本発明の第3実施形態によれば、顔データベース33aをサーバー33内に設けている。このため、カメラ100単体に設けるよりは、顔画像のサンプル数を多く記憶することができると共に、類似画像の検索もより高速かつ正確に行なうことができる。画像をインターネット上で公開する場合には、便利である。なお、本実施形態においては、顔データベース33aには、画像を記憶していたが、第1実施形態と同様、テンプレートを記憶するようにしても構わない。
【0073】
本発明の各実施形態において、顔画像と類似するテンプレートや画像を検索し、これと組み合わせられている加齢後のテンプレートや画像と顔画像の一致度が高い場合には、若々しく生き生きとした画像となるように、顔画像の特徴部ごとに修正・補正している。このように、個々の顔画像に応じて、加齢した部位の画像を修正・補正することができる。
【0074】
以上、説明したように本実施形態よれば、単にその時、撮像素子3で取得した画像を記録するだけでなく、被写体や撮影者のイメージに合った顔つきの被写体像に補正でき、また、自然で、かつ現実より生き生きとした画像を得ることのできる画像処理装置およびカメラを提供することができる。
【0075】
なお、本実施形態におけるカメラは、コンパクトカメラや一眼レフカメラでもよく、また携帯電話やPDA等に内蔵されるカメラであってもよい。本発明は、人物を撮影できるカメラであれば、適用できる。また、カメラ等や、人物の画像を入力して画像処理を行なうサーバー等の画像処理装置においても適用することができる。
【図面の簡単な説明】
【0076】
【図1】本発明の第1実施形態に係わるカメラとその周辺のブロック図である。
【図2】本発明の第1実施形態に係わるカメラの加齢サイン判定の動作を示すフローチャートである。
【図3】本発明の第1実施形態において、加齢サイン判定の判定方法を説明する図である。
【図4】本発明の第1実施形態に係わるカメラの顔つき補正の動作を示すフローチャートである。
【図5】本発明の第1実施形態において、顔つき補正のやり方を説明する図である。
【図6】本発明の第1実施形態に係わるカメラの制御動作を示すフローチャートである。
【図7】本発明の第2実施形態に係わるカメラの顔つき補正の動作を示すフローチャートである。
【図8】本発明の第2実施形態において、顔つき補正のやり方を説明する図である。
【図9】本発明の第3実施形態におけるカメラとサーバーからなるシステムのブロック図である。
【図10】本発明の第3実施形態に係わるカメラとサーバーの制御動作を示すフローチャートである。
【符号の説明】
【0077】
1・・・MPU、1a・・・レリーズスイッチ、1b・・・モード切替スイッチ、1c・・・他のスイッチ、1d・・・条件判定部、1t・・・時計部、2・・・撮影レンズ、2a・・・AF(オートフォーカス)制御部、2b・・・絞り、2c・・・絞り制御部、3・・・撮像素子、4・・・アナログフロントエンド(AFE)部、5・・・画像処理部、5a・・・顔検出部、5b・・・修正部、5c・・・距離判定部、5d・・・顔部分判定部、6・・・圧縮部、8・・・表示パネル、8a・・・表示制御部、8b・・・マルチ画像処理部、9・・・記録メディア、9a・・・記録部、9c・・・送受信部、9d・・・顔&加齢データベース、9e・・・送信設定部、11・・・補助光発光部、20・・・被写体、31・・・他のユーザー、32・・・通信回線、33・・・サーバー、33a・・・顔データベース、33b・・・送信部、33c・・・受信部、33d・・・記録部、33f・・・比較部、35・・・送信画像、35a・・・補正画像データ、41・・・顔画像(若い人)、42・・・顔画像(老いた人)、43・・・テンプレート(若い人)、44・・・テンプレート(老いた人)、46・・・範囲、47・・・目尻、48・・・唇の端、49・・・頬の輪郭部、51・・・眼の横、52・・・口の横、53・・・眼の上、54・・・頬のライン、55・・・類似画像、56・・・加齢前画像、100・・・カメラ

【特許請求の範囲】
【請求項1】
顔画像を検出する顔画像検出部と、
この顔画像検出部により検出した顔画像の中で加齢を示す特徴部位を検出する加齢特徴検出部と、
この加齢特徴検出部にて検出した特徴部位に対して上記加齢を示す特徴を除くための画像処理を行なう画像処理部と、
を備えたことを特徴とする画像処理装置。
【請求項2】
上記加齢特徴検出部は、上記顔画像の中の目、口、頬のうち少なくとも一つの部分画像の加齢を示す特徴部位を検出するものであることを特徴とする請求項1に記載の画像処理装置。
【請求項3】
上記画像処理装置はカメラに適用されたものであり、上記カメラによって撮影した顔画像に対して上記加齢を示す特徴を除くための画像処理を行なうことを特徴とする請求項1に記載の画像処理装置。
【請求項4】
上記画像処理によって、上記画像処理がなされたことを示す補正情報を上記画像に添付することを特徴とする請求項1に記載の画像処理装置。
【請求項5】
顔画像を検出する顔画像検出ステップと、
この顔画像検出により検出した顔画像の中で加齢を示す特徴部位を検出する加齢特徴検出ステップと、
この加齢特徴検出ステップにて検出した特徴部位に対して上記加齢を示す特徴を除くための画像処理を行なう画像処理ステップと、
を備えたことを特徴とする画像処理方法。
【請求項6】
被写体像の画像データから顔を検出する顔検出部と、
この顔検出部によって検出された顔画像の部位から加齢サインを検出する加齢検出部と、
この加齢検出部によって加齢サインを検出した場合には、上記顔画像を補正する補正部と、
を具備することを特徴とする画像処理装置。
【請求項7】
上記加齢検出部は、上記顔画像と一致度が大の類似するテンプレートまたは画像を検出する類似画像検出部と、
この類似画像検出部によって検出された類似テンプレートまたは画像と組の加齢前テンプレートまたは画像とから加齢部位を検出する加齢部位検出部と、
を有することを特徴とする請求項6に記載の画像処理装置。
【請求項8】
上記補正部は、目尻、唇の端、および頬の輪郭部の少なくとも一つを含む領域の明るさを均一化することを特徴とする請求項6に記載の画像処理装置。
【請求項9】
上記補正部は、コントラストまたは線を太く補正することを特徴とする請求項6に記載の画像処理装置。
【請求項10】
上記加齢検出部は、加齢前と加齢時の画像またはテンプレートの組み合わせを有していることを特徴とする請求項6に記載の画像処理装置。
【請求項11】
被写体像を形成するための撮影レンズと、
上記被写体像を光電変換し画像データを取得するための撮像素子と、
上記画像データから顔画像について加齢時の画像またはテンプレートと類似度が高い場合には、加齢部位について、上記顔画像を補正する補正部と、
この補正部によって補正された上記画像を表示する表示部と、
この表示部で表示された上記画像を記録する記録部と、
を具備することを特徴とするカメラ。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7】
image rotate

【図8】
image rotate

【図9】
image rotate

【図10】
image rotate


【公開番号】特開2008−293140(P2008−293140A)
【公開日】平成20年12月4日(2008.12.4)
【国際特許分類】
【出願番号】特願2007−136060(P2007−136060)
【出願日】平成19年5月22日(2007.5.22)
【出願人】(504371974)オリンパスイメージング株式会社 (2,647)
【出願人】(000000376)オリンパス株式会社 (11,466)
【Fターム(参考)】